AI

エーアイ

公開：2025-02-27

PKSHA TechnologyがAI不適切コンテンツ監視サービスPost Guardを提供開始、プラットフォームの健全性維持に貢献

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

記事の要約

• PKSHA TechnologyがPost Guard AIサービスを提供開始
• プラットフォーム上の不適切コンテンツを自動検知
• 検閲コストの削減と利用者の安全性向上を実現

AIによる不適切コンテンツ監視サービスが誕生

PKSHA Technologyは高精度な不正投稿検知を実現する「PKSHA Security for Post Guard」を2025年2月25日に提供開始した。このソリューションでは独自のテキスト解析技術により、誹謗中傷や公序良俗に反する投稿、従業員の不適切行為など、リスクのある投稿を瞬時に自動検知することが可能となっている。^[1]

近年インターネット上では誹謗中傷や未成年を標的とした不適切な勧誘、意図的な虚偽情報の拡散など、有害コンテンツが深刻な社会問題として顕在化している状況にある。プラットフォームの大規模化と匿名性を悪用した悪質な投稿は年々巧妙化しており、24時間365日の高品質な監視体制の構築が喫緊の課題となっているのだ。

本サービスではお客様自身が実際に遭遇した不正事例のデータを随時投入することで、サービス特有の不正パターンに特化した検知が可能となっている。さらにAIモデルの定期的な再学習により新たな不正トレンドにも早期に追従できる仕組みを実現し、プラットフォーム事業者の監視業務効率化を強力に支援することが可能だ。

PKSHA Security for Post Guardの機能まとめ

PKSHA Technologyの詳細はこちら

テキスト解析技術について

テキスト解析技術とは、自然言語処理を用いてテキストデータから有用な情報や特徴を抽出する技術のことを指しており、主な特徴として以下のような点が挙げられる。

• 機械学習アルゴリズムによる高精度な文章の意味理解
• 文脈を考慮した不適切表現の検出が可能
• 大量のテキストデータを瞬時に処理する能力

PKSHA Security for Post Guardでは独自のテキスト解析技術を活用することで、単純なキーワードマッチングではなく文脈を考慮した高精度な判定を実現している。さらにAIモデルの定期的な再学習によって新たな不正トレンドにも効果的に対応し、プラットフォームの健全性維持と安全なウェブ空間の実現に貢献することが可能となっている。

参考サイト

1. ^ PR TIMES. 「PKSHA Technology、AIで誹謗中傷などの不適切コンテンツを監視・対応する「PKSHA Security for Post Guard」を提供開始 | 株式会社PKSHA Technologyのプレスリリース」. https://prtimes.jp/main/html/rd/p/000000189.000022705.html, (参照 25-02-27).

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧