ネットスーパーでのLLM活用:お買い物AIのPoCから本番リリースまで

はじめに お買い物AIの概要 どんな機能か なぜ作るか 設計 LLMの責務 アプリケーションへのLLMの組み込み LLMモデルの選定 UX オンボーディング フィードバック セキュリティ 個人情報保護とログ設計 プロンプトインジェクションへの対策 ハルシネーションへの対策 AI破産（EDoS攻撃）への対策 プロジェクトの進め方 1. PoC: LLMによる返答と商品名リスト生成の品質検証 2. 本番運用への落とし込み（仕様策定・設計・実装） 3. 社内ドッグフーディング：実機でしか分からない違和感を無くす 4. 評価の自動化: LLM-as-a-Judgeによる品質管理 LLM-as-a-Judgeの具体例 5. 段階的リリース おわりに 参考 はじめに こんにちは、10Xで検索推薦の機能・基盤の開発運用を担当している安達（ id:kotaroooo0 ）です。…