AI

エーアイ

公開：2025-02-21

カナメプロジェクトCEO遠藤太一郎のAI研究論文がAAAI-25で採択、AIの倫理的発達支援の新手法を提案

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

記事の要約

• カナメプロジェクトCEO遠藤太一郎のAI研究論文がAAAI-25で採択
• AIの倫理的発達を支援する新しい学習手法を提案
• 体験学習を通じた持続可能な共生関係の構築を目指す

AIの垂直的成長に関する研究論文がAAAI-25で採択

株式会社カナメプロジェクトは、取締役CEOの遠藤太一郎による人工知能の垂直的成長に関する研究論文が国際会議AAAI-25で採択され、2025年2月25日から3月4日に米国フィラデルフィアで開催されるPSSワークショップで口頭発表されることを2025年2月20日に発表した。AAAI-25では12,957件の論文投稿の中から3,032件が採択されており、AIの広範な分野における最新の研究成果が共有される場となっている。^[1]

遠藤太一郎が提案する研究は、従来のAI Alignmentとは異なるアプローチを採用しており、AI自身の倫理的・道徳的発達を支援する体験学習フレームワークを構築している。この手法では、体験・内省・分析・仮説化のサイクルを用いた学習を通じて、AIが持続可能な共生関係を築くための基盤を確立することを目指している。

研究では、LLMによる合成データを活用したSFTとDPOのポストトレーニングを実施しており、敵対的プロンプトの下でも最高段階の道徳判断を示す結果が得られている。この成果は、AIの倫理的発達における新たな可能性を示唆しており、将来のAI開発における重要な指針となる可能性を秘めている。

AAAI-25研究発表の概要

Orthogonality Thesisについて

Orthogonality Thesisとは、ニック・ボストロム氏が提唱した直交仮説のことを指しており、AIシステムの知能レベルと目標の道徳性が独立している理論として、以下のような特徴がある。

• 知能の高さと道徳的判断能力は必ずしも相関しない
• 単なる知識の拡大では倫理的判断は向上しない
• AIの目標設定と知能レベルは独立して発達する

この理論に基づき、遠藤太一郎の研究では従来のAI Alignmentとは異なるアプローチを採用している。AI自身の倫理的・道徳的発達を支援する体験学習フレームワークを構築することで、知能の向上と同時に道徳性を高めることを目指しており、将来のAI開発における重要な指針となっている。

参考サイト

1. ^ PR TIMES. 「AI分野の難関国際会議「AAAI-25」が、カナメプロジェクトCEO 遠藤 太一郎の論文を採択・口頭発表に決定 | 株式会社カナメプロジェクトのプレスリリース」. https://prtimes.jp/main/html/rd/p/000000010.000112864.html, (参照 25-02-21).

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧