AI

エーアイ

公開：2024-12-09

Dentsu Lab TokyoがAI Hallucinationを標本化する研究プロジェクトを開始、技術的限界の記録と創造的解釈を目指す

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

記事の要約

• AIのHallucination問題を標本化するR&Dプロジェクトを発足
• 2024年度研究報告書「尤」を限定1,000部で発行
• AIの技術的限界による誤認識を創造的に捉える取り組み

Dentsu Lab TokyoのAI Hallucination研究プロジェクト開始

Dentsu Lab TokyoはAIが事実に基づかない情報を出力する現象「Hallucination」に着目し、AI技術の進化とともに失われていく誤認識を記録として残すR&Dプロジェクトを2024年12月9日に発足した。このプロジェクトでは、意図的に古いバージョンの生成AIアルゴリズムを採用してHallucinationを収集し、2024年度研究報告書「尤（ゆう）」として限定1,000部を発行する計画となっている。^[1]

生成AIにおけるHallucinationの具体例として、対話型AIによる不正確な情報の返答や画像生成AIによる不自然な手の描写などが確認されている。また認識AIでも砂漠の画像をポルノとして誤判定するなど、AIの教師データの偏りによって様々な問題が発生していることが明らかになった。

研究報告書「尤」では、現時点では「エラー」として捉えられているHallucinationを、8bitゲーム機やフィルムカメラの技術的制約が独自の表現として価値を持つように、時代を反映する資料として記録に残すことを目指している。この報告書はDentsu Lab Tokyoの関連イベントで配布される予定だ。

AI Hallucinationの種類と特徴まとめ

Dentsu Lab Tokyoの詳細はこちら

Hallucinationについて

Hallucinationとは、AIが事実に基づかない誤った情報をあたかも正しいかのように出力する現象のことを指す。主な特徴として、以下のような点が挙げられる。

• 教師データの偏りによる誤認識や誤判定
• 画像生成における不自然な描写の発生
• 対話システムでの不正確な情報の提供

Hallucinationは技術的な問題というよりも、AIの学習データに含まれる社会的なバイアスが顕在化した現象として捉えることができる。このような誤認識は今後の技術発展によって解消されていく可能性が高いが、現時点での技術的限界を示す重要な記録として価値を持つ可能性がある。

Hallucination研究に関する考察

Dentsu Lab TokyoによるHallucination研究プロジェクトは、AIの誤認識を単なるエラーとしてではなく創造的な視点で捉え直す試みとして重要な意義を持っている。現在のAI技術における限界点を記録として残すことは、将来的な技術発展を考える上で貴重な資料となるだろう。

研究報告書「尤」が示す視点は、AIの不完全性を技術的欠陥としてだけでなく時代性を反映した表現として捉え直す可能性を提示している。これは8bitゲーム機やフィルムカメラの技術的制約が芸術性として再評価されたように、AI技術の発展過程における一つの文化的価値として認識される可能性を示唆しているのだ。

今後はHallucinationの標本化だけでなく、AIの誤認識が持つ創造的な可能性についてより深い研究が期待される。特に教師データのバイアスが引き起こす問題は、人間社会に内在する偏見や固定観念を浮き彫りにする機会となり、社会科学的な観点からも重要な研究テーマとなるだろう。

参考サイト

1. ^ PR TIMES. 「AIが事実に基づかない情報を出力する現象「Hallucination」を標本化するR&Dプロジェクトを発足 | Dentsu Lab Tokyo運営事務局のプレスリリース」. https://prtimes.jp/main/html/rd/p/000000041.000088502.html, (参照 24-12-09).

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧