株式会社AltamEase

今回は講座内容をRAG（Retrieval-Augmented Generation）技術を組み合わせた大規模チャットボットで質問対応botを構築しました。ユーザーインターフェースにはStreamlitを用いて、誰でも直感的に使えるよう設計しています。

このチャットボットでは以下の技術を活用しています：

1.バックエンドにはFastAPIを利用し非同期処理を実装
2.ユーザーの入力内容を元に、外部ドキュメント・知識ベースから検索しGPTで回答を生成（RAG）
3.ローカル環境での実行を想定した最適化構成
4.音声→テキスト→検索→回答の一貫処理を実現

ドキュメントの量が多くても高速に検索・応答できるため、FAQ、自社ナレッジBot、講義支援システムなどに応用可能です。

フロントとバックを作成しました。
これに関しては以下のように対応しています：

・FastAPI を使って文字起こし／検索／生成処理のバックエンドAPIを実装
・Streamlit にて、チャット画面・対話ログUIを作成し、Web上で簡単に動作確認可能な状態に
・Whisper で文字起こしされた講座データをセグメント分割し、FAISS でベクトル検索可能な構成に
・RAG方式により、ユーザー質問に講座内容を根拠とした回答を生成
・Docker環境でデプロイし、簡単に起動・保守できるよう設計

・講座内容に関する質問を受講者が即座に確認できるようになり、
　運営者への質問メール件数が半減
・チャット履歴を基にしたFAQ強化にも活用可能に
・RAG構成により、回答の信頼性・再現性が向上し、受講体験の質も大幅改善
・今後、他講座・企業研修にも横展開される予定

10,000人以上の受講者がいたUdemy講座において、
チャットボットによる対応でメール返信負荷が大幅に改善されたとのことでした。

代表の私本田が担当しましたが、RAG搭載したチャットボットの可能性に触れました。
非常に興味深い分野でもありまして非常に楽しくやらせていただきました。