「こんな事故が起きたなんて本当に残念だ」、「大きな事故で本当に悲しい」、「痛ましい事故で胸が痛む」
X（旧Twitter）上では、表現は少し異なるものの、ほぼ同じ内容の「ツイート」が30秒おきに絶え間なく投稿されている。これらは全て同一アカウントから発信されており、人工知能（AI）ボットが生成したものだ。アカウントの運用も実際の人間ではなく、ChatGPTなどの生成AIが行っている。これらは全て、閲覧数の多い投稿に返信したり、引用したりすることで、人気ツイートに「寄生」する形で運営されている。
最近、Xを中心に「ボットアカウント」をめぐる議論が絶えない。テスラCEOのイーロン・マスク氏が2023年10月にTwitterを買収した際、「AIボットを完全に排除する」と宣言したが、ユーザーやSNS専門家からは「買収前よりもAIボットの問題が深刻化している」、「マスク氏の自信に満ちた宣言は全くの空言だった」との批判が上がっている。Xの検索システムがAIボットに完全に支配され、「回復不能」な状態にあるとの指摘もある。
業界では、マスク氏によるTwitter買収がかえってAIボットの活動を助長したとの見方が強い。マスク氏が昨年Xの一部有料化を導入し、投稿の閲覧数に応じて収益を分配する仕組みを作ったためだ。収益を得たいユーザーが複数のボットアカウントを使い、共有数の多い投稿に意味のない返信を繰り返し、閲覧数を稼ぐ手法が横行している。
一般ユーザーからは、AIボットが既存の投稿に付随して同様の内容を際限なく生成するため、SNSの本来の機能である情報検索やコミュニケーションが困難になったとの不満が噴出している。人間と異なり、生成AIが運用するアカウントは時間の制約なく無限に投稿を生成できるため、無意味な投稿が幾何級数的に増加している。
AIボットの最大の問題として指摘されているのが「アルゴリズム操作」だ。OpenAIのChatGPTやGoogleのGeminiなど、一般的な生成AIの回答生成システムを攪乱させるという。生成AIは現在、ウェブ上の情報を基に回答を生成するため、AIボットが作り出す偽のツイートや情報投稿に影響を受ける可能性がある。生成AIを使って情報検索やコンテンツ作成を行うユーザーは、誤情報にさらされるリスクが高まっている。
AIボット同士が繰り広げる「中身のない会話」も問題視されている。自動対話プロセスにより投稿数が増え、誤情報が拡散されるためだ。AI業界関係者は「ゴーストAIボットが『本物の生成AI』を愚鈍化させている」とし、「生成AIのアルゴリズムはAIが作った偽情報ばかりを収集している状況だ」と警鐘を鳴らしている。
さらに深刻な問題は、AIボットが既存ユーザーの投稿を学習し、人間と見分けがつかないほど精巧な返信を生成できる点だ。今後、世論操作に悪用される恐れも指摘されている。実際、2020年の米大統領選では、偽ニュースを拡散するAIボットアカウントが1,200以上摘発された。中には300万回以上閲覧された投稿もあった。
専門家は、AIボットの大半が自動コンテンツ生成にChatGPTを利用していると指摘する。今年1月のOpenAIのシステム障害時、XのAIボットが「OpenAIのエラーによりコンテンツを生成できません」という自動メッセージを投稿し、この事実が露呈した。事件直後の2月、サイバーセキュリティ企業CHEQが3日間にわたりXのボットトラフィック比率を追跡したところ、流入トラフィックの4分の3が偽物であることが判明した。
中東やインドを中心に「ツイートボット」を専門的に販売する業者も増加傾向にある。パキスタンを拠点に活動するコンピューターサイエンティスト、アワイス・ユサフ氏は自身のウェブサイトで「ChatGPTツイッターボット」を販売している。生成できる投稿の複雑さに応じて、最低30ドル（約4,500円）から最高500ドル（約7万5,000円）まで価格を設定している。
Xを活用してマーケティングを展開する韓国ブランドの多くも、AIボットによる弊害を訴えている。ある流通業界関係者は「若い女性の潜在顧客が多く集まるXの特性上、広告プラットフォームとして欠かせない存在だ」としつつも、「AIボットが投稿に群がりすぎて、実際の顧客の反応を把握できない」と述べている。
昨年からXは、AIボットによるツイート生成を防ぐため、一部の国で「ボットでないこと」を証明するプログラムを開始した。月額8ドル（約1,200円）を支払い本人確認を行えば、青色の認証マークが付与される仕組みだ。しかし、一部では、このようなXの取り組みも無意味だとの声が上がっている。認証マークを取得したアカウントの50%が「AIボット」であることが、オーストラリアの研究チームによって明らかにされたためだ。
AIボットに関する不満に対し、Xは「正規に開設されたアカウント」であり、「利用規約に違反していないユーザーのアカウントをブロックする根拠はない」との立場を示している。