ホワイトハウスは、画像を用いた性的虐待の創出と配布を抑制するために、いくつかのAI企業が取り組むことを明らかにする声明を発表しました。参加企業には、Adobe、Anthropic、Cohere、Common Crawl、Microsoft、OpenAIが含まれ、非同意の親密な画像や子どもに関する性的虐待素材の生成を防ぐ措置を講じることを約束しています。具体的には、企業はデータセットを適切に管理し、画像に基づく性的虐待から保護すること、開発プロセスにフィードバックループやストレステストの戦略を組み込むこと、適切な場合にはAIトレーニングデータセットからヌード画像を削除することに同意しました。これは自主的な約束であり、新たな具体的な行動や違反に対する結果を生むわけではありませんが、この深刻な問題に対処しようとする誠意ある努力として評価されます。また、Apple、Amazon、Google、Metaは声明に含まれていないことが注目されています。他の大手テクノロジー企業も、非同意の親密な画像の拡散を防ぐために独自のツールや施策を展開しています。非同意の画像共有の被害に遭った場合は、StopNCIIにケースを開くことができます。18歳未満の場合は、NCMECに通報できます。
