生成AIの高性能化や一般への普及により、誤った情報が拡散される懸念が高まる中、日立製作所が生成AIで作成された文章かどうかを判定する技術を開発したと発表した。生成AIが文章を作成する際、あらかじめ指定した特定の単語グループを高い割合で採用するように仕込み、AIが作成したかどうかを検出頻度で判断する仕組みという▼具体的には、AIの開発事業者が大規模言語モデル（LLM）を基にした文章作成技術を組み込むことで、特定の単語を使うなど文章作成パターンをルール化させる。生成AIはこのルールに沿って文章を作成するため、こうした特定の単語パターンが多く含まれていたらAIが作成したと判断できるという▼生成AIを巡っては、事実と異なる情報を作り出してあたかも正しいかのように出力する「ハルシネーション（幻覚）」と呼ばれる現象が課題となっている。加えて昨今は選挙や紛争、自然災害等を巡るSNSへの投稿で意図的に誤った情報を流すフェイクニュースなども大きな問題となっている▼こうした生成AIを判定した技術の開発が普及していけば、生成元を確認することで誤情報や偽情報の可能性を確認できるようになり、情報の信頼性確保や知的財産権の侵害防止にも期待できるだろう。

この記事を書いた記者

admin

最新の投稿

• 実録・戦後放送史2024.09.02連載にあたって
• 筆心2024.09.022024年8月26日（第7712号）
• 放送ルネサンス2024.09.02放送100年特別企画　「放送ルネサンス」第1回
• 放送2023.09.01ビデオリサーチ　災害情報入手経路の7割が地上波民放テレビ