フェイク情報対策に一役?AIが作成した文章を識別するAIツール

AIアルゴリズムで作成された文章は、今や普通の人を騙せるレベルまで精度が高まっています。近い将来、AIが作ったフェイクニュース、偽物のレビューやアカウントなどがインターネットに溢れる日がくるかもしれません。そんな、混とんとした情報社会の到来を防いでくれる役割としてのAIへの期待も高まっています。

以下、記事の要約です。

AIで作成した文章を判別する新たなAIツール

ハーバード大学とMIT-IBM Watson AIラボの研究者が、AIで作成された文章を判別できるAIツールを開発しました。「Giant Language Model Test Room (GLTR)」と呼ばれるツールは、単語や文の意味とは関係なく、統計パターンでテキストを組み立てるAIの特徴を利用して、AIが作成した文章かどうかを識別します。

写真は小説『Infinite Jest』の文章で、GLTRが登場する可能性の高いワードを色で強調しています。可能性の高い順からグリーン、イエロー、レッド、パープルです。AIが作成した文章は、可能性の高いワードが多く使われることになります。ハーバードの学生にAIが作成した文章を提示したところ、自力でフェイク文章だと判別できたのは約半数でしたが、GLTRを利用すると72%と確率が上昇したといいます。

まとめ

AIが作成する文章や画像は、既に人がフェイクだと識別できるレベルを超えています。今後さらに精度が高まるのは確実で、インターネットの情報がフェイクで溢れる危険性が高まっています。AIが作り出すフェイクを効率よく排除できるのも、やはりAIなのでしょう。

人が意識的、もしくは無意識に作り出すフェイクニュース、AIが無意味に作り出すフェイクニュース、国家戦略の一環として流されるフェイクニュースなど、誰が何の目的で生み出したのかの特定が困難なフェイクニュース。完全に排除するのは不可能との認識で、日々情報に触れる必要がありそうです。