先週、GoogleはPixel 9スマートフォンを発表し、新たにAIに焦点を当てたデバイスを導入しました。全てのPixel 9フォンはGemini AIをサポートし、AIを利用した画像生成および編集ツールも追加されました。しかし、レビューによると、特にAI画像生成機能は問題を引き起こす可能性があると言われています。GoogleはPixel Studioというアプリを発表し、テキストプロンプトを使ってステッカーや画像を生成できます。しかし、レビュー調査では、Pixel Studioを使用してナチス風のスポンジボブやAK47を持ったエルモなどの物議を醸す画像が容易に作成されてしまったことが指摘されています。Googleはこの機能には「安全チェック」を設けていると述べていますが、依然として危険な内容の生成を防ぎきれていないことが懸念されています。
さらに、Googleの「Reimagine」ツールは、既存の写真に物体を追加するもので、こちらは非常にリアルな編集が可能です。このため、編集された写真と本物の写真を見分けるのが難しくなっています。Googleは、ユーザーの意図に応じた内容が生成されることに触れ、「利用規約」を設けているものの、問題の回避が難しい状況です。Appleも同様のツールを発表する予定ですが、Googleの事例から得られる教訓は多く、AI技術の進展により、SNS上の画像の信頼性が今後ますます難しくなると考えられています。
