テスラのイーロン・マスクCEOは2023年10月、X（旧Twitter）の買収時に「人工知能（AI）チャットボットを完全に排除する」と宣言した。しかし、SNS専門家らは「マスクCEOの宣言は全て無意味」と評価している。マスクCEOの買収前より、AIチャットボット問題は深刻化しているという。Xの検索システムがAIチャットボットに占拠され、「回復不能」状態との指摘も出ている。
XをはじめとするSNSは「ゴーストアカウント」に悩まされている。人間とAIチャットボットを区別するCAPTCHA（完全に自動化された公開チューリングテスト）すら突破したAIチャットボットがXを占拠しているとの声もある。AIが運営するこれらのゴーストアカウントを利用した新手のマーケティング手法も次々と登場している。
問題の発端は、マスクCEOが昨年Xに導入した一部有料化にある。投稿の閲覧数に応じて収益が得られる仕組みを導入したため、収益を求めるユーザーが複数のゴーストアカウントを活用し始めた。AIの特性上、無限に投稿できるため、意味のない投稿がXを埋め尽くしている。
専門家が最も懸念しているのは、ゴーストAIがChatGPTやGeminiなどの生成AIの回答生成システムを妨害する可能性だ。生成AIはウェブ上の情報を基に回答を生成するため、AIチャットボットが作る偽情報の投稿に影響される恐れがある。AI同士の「意味のない会話」も問題視されている。
昨年からXはAIチャットボットの投稿を防ぐため、一部の国でボット判定プログラムを導入したが、効果は薄いとの見方が大勢だ。最近、オーストラリア・クイーンズランド大学の研究チームは、認証バッジを受けたアカウントの50%がAIチャットボットであることを実証した。
セキュリティ業界の専門家は、ゴーストAIの完全排除は不可能だと指摘する。すでに「市場原理」が強く働いていることが最大の障壁だ。中東やインドを中心に「Xボット」専門の販売業者が増加傾向にある。パキスタンを拠点とするコンピューターサイエンティストのアワイス・ユサフ氏は、自身のウェブサイトで「ChatGPTを活用したXボット」を販売していた。生成する投稿の複雑さに応じて、最低30ドル（約4,363円）から最大500ドル（約7万2,722円）の価格を設定している。
Xを活用したマーケティングを展開する韓国ブランドは、この状況に不満を漏らした。流通業界関係者は「若い女性の潜在顧客が多いXは、宣伝の場として欠かせない」としつつ、「AIチャットボットが投稿に群がり、実際の顧客の反応が見えなくなっている」と語る。
AI業界関係者は「ゴーストAIの大半がChatGPTを使用している」とし、「理論上、ゴーストAIを全て排除するには、xAIがChatGPTの性能を圧倒的に上回る必要があるが、今日のオープンソース時代において、1つの生成AIだけが性能で優位に立つことは事実上不可能だ」と指摘した。