北朝鮮に関連するアカウントが、米国や欧州などの企業に就職するため、AIモデルのチャットGPTを使って虚偽の履歴書やオンラインプロフィールを作成していたことが発覚した。
オープンAIは21日（現地時間）、自社のチャットGPTを悪用した北朝鮮関連のアカウントを特定し、削除したと発表した。
北朝鮮関連と思われるこれらのアカウントは、オープンAIのAI技術を利用して偽の履歴書とオンラインプロフィールを作成していたという。
オープンAIによると、AIを使って作られた偽の履歴書とプロフィールは、欧米企業をだまして雇用を獲得することが目的だった。
ただし、オープンAIは削除したアカウント数や削除時期などの詳細については触れなかった。
北朝鮮はすでに、先端技術の窃取や違法な核兵器プログラムの資金確保に生成AIを利用していることが知られている。
これまでリンクトインなどのネットワークプラットフォームで、サイバーセキュリティや仮想通貨企業の従業員を騙して機密情報や仮想通貨へのアクセス権を奪おうとしていた北朝鮮のハッカーらが、AIを利用してさらに巧妙な手口を展開している。
生成AIを使ってリンクトインなどに説得力のある採用担当者のプロフィールを作成し、被害者と長期的な信頼関係を構築した後、スパイウェアを侵入させて資金を奪取するという手法だ。
フィナンシャル・タイムズ（FT）は、北朝鮮のハッカーらがこの手法を用いて、シンガポールの仮想通貨取引所の採用担当者になりすまし、日本の仮想通貨取引所のエンジニアを標的にして仮想通貨を奪うなど、数十か所で10億ドル（約1,494億5,538万円）以上の仮想通貨を盗み出したと報じている。
北朝鮮のアカウントに加え、監視や世論操作にチャットGPTを利用した中国関連のアカウントも削除された。これらのアカウントは、チャットGPTを使って米国を中傷するスペイン語のニュース記事を生成したとされる。米国の社会と政治を批判するこの記事は、中国企業の名義で南米地域の主要メディアに掲載された。
また、一部のアカウントはカンボジアを拠点とする金融詐欺組織と関連があると推測された。これらのアカウントは、X（旧ツイッター）やフェイスブックなどのSNSでコメントを翻訳・生成するためにチャットGPTを使用していた。
AIが生成したコメントは、ネット上で人々を誘い込み投資詐欺に巻き込むためにも使用された。さらに、オープンAIは、中国のあるセキュリティ組織がSNS上の反中国的な投稿に関するリアルタイムレポートを収集するため、AIベースの監視ツールを構築したと明らかにした。
オープンAIはこれを「ピアレビュー（Peer Review・同僚評価）」と呼び、開発者が監視ツールの基盤となる一部のコードをデバッグ（エラー修正）するために自社の技術を使用したため、特定できたと説明している。
オープンAIのベン・ニモ上級研究員は「このようなAIベースの監視ツールを発見したのは今回が初めてだ」とし、「悪意のある行為者が我々のAIモデルを使用する際に残す痕跡を通じて、彼らの他のインターネット活動を把握し、悪意のある行為を検出できる」と述べた。