AppleのCEOティム・クックを偽の暗号通貨スキャンに用いたAI生成のディープフェイク動画が、35万人以上の視聴者を惹きつけました。この動画は、9月9日に行われたAppleの「Glowtime」イベントを悪用し、詐欺師たちがライブストリームでビットコインやイーサリアムの送金を促進していました。AIが生成したクックの声が詐欺スキームを「初心者にとって理想的な機会」と説明しました。公式チャンネルに似せた偽のYouTubeアカウントや無関係なアカウントからも配信され、QRコードを使って悪意のあるサイトに誘導。YouTubeのサポートはこの問題を認識し、動画を削除しました。ディープフェイク詐欺は急増しており、2024年には245%の増加が報告され、約800億ドルの損失をもたらしています。これを受けて、規制当局はAI提供者に対し、生成コンテンツに起源情報を含めるよう義務付ける新法案を提案しています。
