ロールプレイングから顧客対応まで
実務でのChatGPTの使い方②
2023年12月１日
今回も、具体的な実業務でのChatGPTの活用ポイントを解説する。シチュエーションは、ロールプレイングと社内情報を引用した顧客対応だ。RAG（Retrieval Augmented Generation）と呼ばれる、「自社サービスの情報を踏まえて回答を生成させる方法」についても図解する。
Profile
AI Booster
代表取締役
小栗 伸
NTTドコモにて、ドコモショップ2300店舗に導入した「AI電話サービス」をはじめ12のAIプロジェクトを製品化・事業化。NTT DegitalでWeb3事業創出に取り組む傍ら、AI Boosterを設立し生成AIを活用したソリューション提供、導入支援に携わる。
次に、顧客対応でChatGPTを活用する際、自社の情報を踏まえた回答をさせる方法について簡単に解説する。
ChatGPTは、2021年9月までの情報しか学習していない、また、一般に公開されていない情報については学習されていない可能性が高い。
自社独自サービスの仕様や運用をふまえた回答を行うことは、基本的にはできない。
社内情報を基に回答させるため、現在多くのサービスで用いられている手法が、RAG（Retrieval Augmented Generation）と呼ばれるものだ。RAGの全体構成を示したものが以下の図だ。
図 質問に対して自社サービス情報を踏まえて回答させる方法（RAG） ※クリックすると大きくなります
自社情報を基に回答させる
構成要素の「背景情報」に、回答に必要となる社内の独自情報を入れChatGPTに回答を生成させるのが、RAGのアプローチだ。
回答の根拠となる社内情報（例えば、マニュアルやFAQ集）を、ベクトルデータベース（大量の社内情報から関連するものを引き出すための高度な索引）に格納し、質問に関連する社内情報を引用したうえ、ChatGPTに情報を引き渡して回答させる。
このような手法により、標準のChatGPTでは答えることができない、自社サービスの仕様に基づく回答が可能になる。
RAG以外にも、質問と回答のセットを大量に用意し生成モデルに追加学習させるファインチューニングといった方法もある。
だが、この方法は学習にかかる計算コストが大きい点や、新たな知識を追加でトレーニングさせる場面で効果が発揮しにくい（実装方法は模索されており、近い将来良い方法が提案される可能性もある）ことから、RAGを用いるのが主流となっている。
今回は、実際の業務活用シーンを想定した具体的なChatGPT活用事例を解説した。後半のRAGと呼ばれる考え方は、少し発展的内容だが、生成AIを本格的に業務で活用する場合、避けられないポイントだ。
基本的な考え方のみで良いので、押さえておくと良いだろう。
次回は、実運用で避けられない「ハルシネーション」の課題について解説する。
第１回 第２回 第３回 第４回 第５回 第６回 第７回 第８回