活用へ最大の壁「ハルシネーション」
リスクを低減するプロンプトとルール②
2024年1月9日
生成AIを活用する際、大きな壁になるのが「ハルシネーション」だ。今回は、ハルシネーションが起こってしまう理由を解説するとともに、リスクを低減するための具体的なプロンプトを紹介する。ただし完全な抑止は不可能なため、顧客に対する提示方法の工夫をはじめ、運用ルールも必要だ。
Profile
AI Booster
代表取締役
小栗 伸
NTTドコモにて、ドコモショップ2300店舗に導入した「AI電話サービス」をはじめ12のAIプロジェクトを製品化・事業化。NTT DigitalでWeb3事業創出に取り組む傍ら、AI Boosterを設立し生成AIを活用したソリューション提供、導入支援に携わる。
今後のChatGPTの進化として注目したいのは、画像理解・画像生成の分野だ。
コールセンターに勤務するスタッフをイメージして、実際の生成画像の一例を作成した（図）。
「Stable diffusin」や「Midjorney」に代表される従来の画像生成サービスを使った画像生成を行う場合、特別な環境や画像生成用の特殊なプロンプトを学習する必要があった。
また、その方法も確立されているとはいいがたく、試行錯誤を繰り返してやっと意図した画像が生成できるかどうかという状況だった。
今回、提供開始されたChatGPTの画像生成機能※（DALLE 3）は、使い慣れたChatGPT上で、また特殊なプロンプト技法を覚えることなく対話で画像を作ることが可能になった。
これは、非常にインパクトが大きいと考えている。
例えば一度、生成して意図した通りのアウトプットがでなければ、修正の方向性を対話的に入力することで実現できる。容易にブラッシュアップ可能だ。
コールセンター業務では、製品の設定や操作方法のサポートなど、言葉だけではなかなか表現しきれないFAQのビジュアル化などで活用できるだろう。
また、音声認識・音声合成の技術を組み合わせることにより、問い合わせ内容をリアルタイムに認識し、対応のサポートに有用な情報をオペレータに表示するといった活用も今後注目されていく分野だ。
現在の技術では、このような利用シーンですぐに活用できる技術レベルに達しているとは言い難いが、すでに営業活動支援の文脈でリアルタイム・フィードバックを実現するソリューション開発に取り組む企業も出始めている。生成AIを活用したオペレータ支援の実現も、そう遠くないはずだ。
第１回 第２回 第３回 第４回 第５回 第６回 第７回 第８回 第９回 第10回 第10回