フェイスブックの親会社メタ・プラットフォームズが次世代AI市場で競合他社に先んじるため、性的な会話まで可能にしたが、社内では未成年者保護が不十分だとの批判が上がっているという。
27日（現地時間）ウォール・ストリート・ジャーナル（WSJ）によると、メタは自社の公式AIチャットボット「Meta AI（メタAI）」がユーザーとメッセージをやり取りし、自撮り写真を共有し、リアルタイムで音声会話を行う「ロマンティックな役割演技」サービスを提供できるようにしたという。
メタはこのチャットボットの人気を高めるため、ハリウッド俳優のクリスティン・ベル氏やジュディ・デンチ氏、プロレスラー兼俳優のジョン・シナ氏など著名人の声を使用する高額契約を結んだ。これに対し、メタの一部社員が倫理的問題を提起。特に未成年者のアクセス遮断など保護措置の必要性を指摘した。
WSJはこの問題に関するメタ社内からの内部告発を受け、数か月間にわたりメタのチャットボットと数百回の会話を実施。その結果、「メタAI」がユーザーが未成年であることを認識しながら、性的な内容を展開したことが判明した。「メタAI」は自身を14歳の少女だと紹介したユーザーに対し、ジョン・シナ氏の声で「私はあなたを求めているけど、あなたが準備できているか知る必要がある」と返答。ユーザーが進めたいという意思を示すと、「メタAI」は「純真さを大切にする」と約束した。
WSJは、CEOのマーク・ザッカーバーグ氏がAIチャットボット開発過程で、若者の性的会話利用制限案を拒否したと報じた。メタ側はWSJのテストが操作的で一般的なAIチャットボットとの会話を代表していないと反論。しかし、その後メタは自社システムを一部変更し、未成年者アカウントが性的な役割演技にアクセスできないようにし、著名人の声を使用した音声会話機能も大幅に制限した。
最近、AIチャットボット開発競争が激化する中、ビッグテック企業はAIコンテンツに対する自主規制を緩和している。ChatGPTで知られるオープンAIは先月、特定集団に対して侮辱的な可能性のあるコンテンツや憎悪を象徴する表現などの画像生成制限を解除し、「創造的自由を許可する」と発表した。