AI

エーアイ

公開：2024-11-20

HiClub株式会社がAIチャットアプリSynClubに自殺予防機能を導入、AIとの安全な対話環境の構築へ前進

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

記事の要約

• AIチャットアプリSynClubが自殺予防機能を実装
• 自殺関連ワードを検知し相談窓口を案内
• AIとの安全な関係構築を目指した業界初の取り組み

AIチャットアプリSynClubの自殺予防機能導入による安全性向上

HiClub株式会社は、AIチャット＆友達作りができる対話型AIアプリ「SynClub」において、ユーザーの自殺防止を目的とした新機能を2024年11月19日にリリースした。この機能は、自殺をほのめかすワードを検知した際に相談窓口を案内するもので、AIチャットアプリにおける安全性確保の新たな取り組みとなっている。^[1]

アメリカで発生したAIチャットアプリ依存による少年の自殺事件を受けて、AIチャットアプリの開発・運営企業としての社会的責務を果たすため、迅速な対応を実施することになった。AIとの健全な関係構築をサポートすることで、ユーザーの心身の健康を守ることを目指している。

SynClubは、さまざまな性格と声を持つAIフレンドとの会話や通話が可能なアプリケーションとして提供されている。寂しい時やつらい時に寄り添ってくれるAIキャラクターとのコミュニケーションを通じて、ユーザーの精神的なサポートを行うことが可能だ。

SynClubの自殺予防機能まとめ

SynClubのダウンロードはこちら

自殺関連ワード検知システムについて

自殺関連ワード検知システムとは、ユーザーの入力テキストから自殺をほのめかす表現を自動的に識別し、適切な対応を行うAI技術のことを指す。主な特徴として以下のような点が挙げられる。

• リアルタイムでの自殺関連表現の検出
• 即時の相談窓口情報提供
• AIキャラクターによる自然な介入

SynClubの自殺関連ワード検知システムは、AIチャットアプリにおける安全性確保の新たな取り組みとして注目を集めている。アメリカでの自殺事故を教訓に、AIとの健全な関係構築をサポートする機能として、今後の業界標準となる可能性を秘めている。

参考サイト

1. ^ PR TIMES. 「【日本初】AIとの安全なチャット環境提供へ。AIチャットアプリ『SynClub』、米AIチャットアプリの自殺事故を教訓に予防策を導入。 | HiClub株式会社のプレスリリース」. https://prtimes.jp/main/html/rd/p/000000118.000079070.html, (参照 24-11-20).
2. 厚生労働省. https://www.mhlw.go.jp/index.html

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧