企業の生成AI導入で8割が課題感、データプライバシーとハルシネーションが主要な懸念材料に

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

PR TIMES より

記事の要約

企業の生成AI導入で約9割が満足している一方で約8割が課題を感じている
データプライバシーと情報漏洩が主要な課題として浮上
社内ルールの整備でも解決できないハルシネーション問題が存在

企業における生成AI導入の実態と直面する課題

株式会社Helpfeelは2024年10月3日から5日にかけて、有料の生成AIを導入している企業のツール導入立案者または運用担当者1,007人を対象に実態調査を実施した。調査結果から、企業における生成AI導入の満足度は約9割と高い一方で、約8割の企業が何らかの課題を抱えていることが明らかになっている。^[1]

生成AIの導入目的としては、リサーチ・分析が33.4%と最も多く、次いで顧客対応の自動化が32.5%、メール・企画書などの文書作成が29.6%となっている。情報システム部門での活用が34.9%と最も多く、マーケティング部門が29.8%、営業部門が29.3%と続き、業務効率化のツールとして幅広い部門での活用が進んでいる。

導入後の課題として最も多く挙げられたのは、データプライバシーの懸念で37.0%、次いで情報漏洩・セキュリティ面の懸念が36.8%、ハルシネーションの発生が30.8%となった。特にハルシネーションについては、社内ルールが整備されていても解決が難しい課題として認識されている。

生成AI導入における課題まとめ

導入目的	かなり課題を感じた	やや課題を感じた	あまり課題を感じなかった	まったく課題を感じなかった
リサーチ・分析	40.6%	34.5%	24.2%	情報なし
顧客対応の自動化	40.1%	32.7%	24.7%	28.6%
文書作成	38.6%	29.1%	情報なし	25.7%
情報収集	情報なし	情報なし	25.8%	34.3%

Helpfeel AIの詳細はこちら

ハルシネーションについて

ハルシネーションとは、生成AIが事実とは異なる情報や架空の内容を生成してしまう現象のことを指す。主な特徴として以下のような点が挙げられる。

事実と異なる情報を自動生成してしまう問題
社内ルールの整備だけでは解決が困難
企業の信用低下につながるリスクが存在

企業における生成AI活用において、ハルシネーションの発生は30.8%の企業が課題として認識している重要な問題となっている。特に情報の正確性が重要視される金融、医療、行政などの業界では、ハルシネーションによる誤情報の生成が深刻な問題となり得るため、適切な対策が求められている。

企業の生成AI導入に関する考察

生成AIの導入において約9割という高い満足度が示されているものの、データプライバシーや情報漏洩リスクへの懸念が根強く存在している状況は、企業のデジタル化における重要な岐路を示している。特にリサーチ・分析や顧客対応など、高度な精度が求められる業務での活用においては、より慎重なアプローチが必要となるだろう。

今後はハルシネーション対策が最重要課題となることが予想され、単なるルール整備だけでなく、技術的な解決策の開発が求められている。企業の規模や業態に応じた適切なAIガバナンスの確立と、それを支援する専門人材の育成が急務となっており、これらの課題に対する包括的な取り組みが必要不可欠だ。

また、情報収集などシンプルな用途では課題を感じにくい一方で、より複雑な業務への適用では課題が顕在化しやすい傾向が明確になっている。生成AIの真価を発揮するためには、業務の性質に応じた適切な活用範囲の設定と、段階的な導入アプローチが有効となるだろう。

参考サイト

^ PR TIMES. 「【企業の生成AIの導入に8割が課題感あり！】9割の満足度と相反する「使ってみて分かった課題」とは？ | 株式会社Helpfeelのプレスリリース」. https://prtimes.jp/main/html/rd/p/000000360.000027275.html, (参照 24-11-30).

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。