AIで作られた選挙の偽情報が拡散中？

OpenAIが発表したレポートによれば、生成AIを悪用した偽情報の拡散が複数の国で発覚しています。特に、2024年はアメリカやインド、ルワンダなどで選挙が行われた年であり、AIによって作られた選挙関連の偽情報が見つかっているとのことです。たとえば、イラン出身とみられる集団「STORM-2035」は、アメリカの選挙やイスラエルによるガザ侵攻に関する偽情報をChatGPTで作成し、拡散していました。
2024年9月、カリフォルニア州ではAIを使ったディープフェイクなどの偽情報を規制する法律が成立し、SNS事業者に対して削除やラベル付けを義務付けています。日本でも10月に偽情報対策のための制度整備が検討されています。民主主義を守るため、早急な対策が求められているというわけです。

SNS上での偽情報の拡散は、米国の大統領選挙でも既に社会問題化しており、2024年9月のAdobeの調査によれば、アメリカでは85％が「選挙関連の誤情報が増加した」と感じています。また、44％が「過去3カ月で選挙関連の偽情報に惑わされたり信じてしまった」と回答しています。

このような偽情報がAIによって作られたと確認されたわけではないものの、同調査によれば87%が「生成AIの台頭で、オンラインのコンテンツが事実かフィクションかを見分けるのが難しくなった」と感じているとしています。つまり、AIによる情報生成が進む中で、受け手が正しい情報かどうかを判断するのが難しくなっている現状が浮き彫りになっています。

AIが生成した偽情報による選挙工作が複数発覚、日本も制度整備を検討

生成AI（人工知能）につくらせた偽情報をSNSなどを通じて拡散させて、社会の混乱を狙う――。そんな情報工作が世界で複数発覚していたことが、米OpenAI（オープンAI）のリポートで明らかになった。

xtech.nikkei.com

以下、ネットの反応