4月19日、インディアナ・ペイサーズがミルウォーキー・バックスとのNBAプレイオフ開幕戦に臨んだ際、WNBAインディアナ・フィーバーのスター選手、ケイトリン・クラークは現地で地元のチームを応援することにした。ゲインブリッジ・フィールドハウスのスイートに座っていた彼女の姿は、大型スクリーンに映し出され、会場に集まった1万7214人のファンからは大きな歓声が上がった。
ペイサーズの黄色のTシャツを誇らしげに着用したクラークは、カメラに向かって微笑んだ。そして2人の小さな子供たちを一緒に映るように招き寄せた。3人は一緒に笑い、手を振った。ペイサーズのソーシャルメディアチームはこの和やかな瞬間を撮影し、後にX（旧Twitter）に投稿した。
3日後、あるXのアカウントがこの動画を盗用し、AIを用いて明らかな偽の動画（いわゆるディープフェイク動画）をツイートした。動画の冒頭は同じで、クラークがペイサーズのシャツを着て観客に手を振っているシーンだった。しかし、子供たちを招き寄せる後半部分は冒涜的な内容に改変されていた。
このフェイク動画は瞬く間に拡散した。7月2日時点で、ペイサーズの元の動画が33万回再生されたのに対し、フェイク動画は970万回の再生回数を記録していた。Xのユーザーは即座にこのディープフェイクを非難し、Xへの報告を促した。私も削除されることを願って報告した一人だ。
その後に起こったことは、Xという比較的新しい環境において女性のディープフェイクがどれだけ深刻な問題となっているかを示す典型的な事例だった。
ディープフェイクに対するXの対応
クラークの動画を報告してから24時間以内にXからメールが届いた。そのメールには、動画はセンシティブな内容に関するメディアルールに違反していないため、公開を継続すると記載されていた。
そのため、ユーザーはこのツイートにコミュニティノートを追加し、「これは本人の同意なしに描かれたディープフェイクの性的なコンテンツです。ディープフェイクに特化した犯罪を定める州では違法であり、既存の法律で刑事上の嫌がらせとして規定されているすべての州でも違法です。念のため、これらの法律は共和党によって支持されているものです」と指摘した。
7月2日現在、ツイートは削除されておらず、アカウントは収益化を継続している。Xのモデレーションチームのメンバーとの面談を要請する複数のリクエストは無視され、アカウントの運営者へのインタビュー要請2件に対しても回答はなかった。Xの利用規約違反を理由にツイートを報告する試みも何度か試したが失敗に終わった。
ディープフェイクの被害者となった女性アスリートはクラークだけではない。ディープフェイクのサイトは、クラークのほかにもエンジェル・リース、キャメロン・ブリンクを含む複数のWNBAのプレイヤーたちを標的としている。リースは過去にこの問題について公に発言している。
creating fake AI pictures of me is crazy and weird AF!
— Angel Reese (@Reese10Angel) March 19, 2024
（私のフェイクAI画像を作るなんてクレイジーでホント異常！）
リースに関する明らかなディープフェイクは今もX上で引き続き拡散されている。6月6日、私はその一つを報告し、削除させることに成功した。リースのディープフェイクはクラークのそれよりも露骨で、モデレーターが対象とする基準を超えている。
X上のディープフェイク・コミュニティは、プラットフォームの削除基準がどこにあるかをよく理解している。ユーザーたちは、XのAIボット『Grok』（グロック）に与えるプロンプトを共有し始め、サイトのモデレーションフィルターを回避するポルノや性的な画像を生成している。
多くの女性は、Xがこれらの投稿の削除に対応しないことに不満を感じている。そしてGrokが写真を改変できないように個人設定を変更する方法を共有している。
政治家たちもまたこれらのディープフェイクの拡散を抑制しようとしている。5月20日、トランプ大統領は、両党の支持を得た『テイク・イット・ダウン法』に署名し、同意のない親密な画像の配布およびAIで作成されたディープフェイクに対する罰則を強化した。
「今日、私たちはこれを完全に違法にした」とトランプ大統領は記者団に対してコメントした。
法律は「特定のオンラインプラットフォームに対し、そのような表現の存在についての通知を受けた場合、速やかに削除することを義務付ける」としている。プラットフォームは、通知を受けてから48時間以内に表現を削除しなければならない。
XのCEOであるリンダ・ヤッカリーノ氏はトランプ大統領が発表した際にその場に出席し、同社がこの法律を支援することを約束した。しかしながら、実際には、Xは新法への対応に課題を抱えているようだ。
ディープフェイクは他のソーシャルメディアサイトにも存在している。しかし、コーネルテックのセキュリティ・信頼・安全イニシアチブ担当ディレクターであり、ディープフェイクの急増について広範な研究を行なっているアレクシオス・マンツァルリス氏によると、この問題への取り組みにおいてXの対応は際立って遅れているという。
「この巨大な問題に対して、できることはまだまだたくさんある。特にXは対応が遅れている」と、マンツァルリス氏は『スポーティングニュース』の取材に回答した。
自称『言論の自由の絶対主義者』であるイーロン・マスク氏は、2022年にXを買収した後、100人のメンバーで構成されるトラスト＆セーフティ評議会を解散した。就任後4か月間で、彼は全従業員の80%を削減した。
この人員削減は、サイトのモデレーションに深刻な影響を与えている。2024年1月、歌手のテイラー・スウィフトのポルノ的なディープフェイクがサイト上に多数掲載された際、Xは広範な批判を浴びた。スウィフトのファンはディープフェイクを見つけにくくするために、彼女を称賛する動画をサイトに大量投稿し、その結果、Xは彼女の名前での検索を一時的に停止したが、実際に削除されるまでにこれらのディープフェイクは4500万回以上視聴されていた。
このスウィフトの一件を受けて、マスク氏は2024年末までにオースティンに新たなトラスト＆セーフティ・センターを設置し、100人の正社員を雇用すると約束した。しかし、実際にこれらの採用がされたかどうかは確認されていない。
そもそもマスク氏自身の政治的なディープフェイクに対する態度は、自社のポリシーと一貫していない。2024年7月、彼は個人アカウントで米民主党の大統領候補だったカマラ・ハリス氏のディープフェイク動画を「これは素晴らしい」というキャプション付きで共有した。
マスク氏はまた、ディープフェイク規制法に反対する立場で法廷で闘っている。2024年11月、Xはカリフォルニア州の選挙におけるディープフェイク使用を禁止する州法に対し提訴した。Xは、同法がアメリカ合衆国憲法修正第1条に違反し、プラットフォームの検閲を招くと主張した。
クラークのディープフェイク・ツイートが投稿された翌日、Xのグローバルガバメントアフェアーズ・チームは声明を発表し、ディープフェイクによる選挙関連のコンテンツを禁止しようとするミネソタ州の取り組みを非難した。
Xは「法律が『ディープフェイク』の禁止を言及している点は無害に聞こえるかもしれないが、実際には、ユーモアを含む無害な選挙関連の発言を犯罪化し、ソーシャルメディア・プラットフォームがそのような発言を検閲しない場合、刑事責任を問われることになる。この法律は民主主義を擁護するのではなく、それを侵食する」と主張した。
声明はさらに、Xがミネソタ州の法律に反対する唯一のソーシャルメディア・プラットフォームである点、同社の「コミュニティノート」プログラムが偽造コンテンツに対抗するのに十分である点を誇示した。
ディープフェイクを抑制するためにできることは？
ディープフェイクの氾濫を阻止する流れには進展も見られている。例えば、最大のウェブサイトの一つであった『Mr Deepfakes』は今年5月に閉鎖された。このサイトには65万人以上のユーザーがおり、WNBAのプレイヤーを含む女性アスリートたちを題材にしたディープフェイク・ポルノ動画が掲載されていた。
だが問題は日々深刻化しており、さらに多くの対策が必要である。通常の写真をモザイク付きのヌード画像に変える、いわゆる『ヌディファイア』アプリは、ディープフェイクの生成をこれまで以上に容易にし、その影響力は拡大し続けている。
マンツァルリス氏は、テイク・イット・ダウン法がその対象をディープフェイクの拡散者や作成者だけでなく、これらの企業も含めることでより効果的になると考えている。同法はこれら企業については一切言及していない。
マンツァルリス氏はまた、大手テクノロジー企業がこうしたアプリへの対策にさらに取り組む必要があると主張している。
「ヌディファイア・ウェブサイトはメタ社ほど洗練されたものではありません」とマンツァルリス氏は指摘する。
「大手プラットフォームが十分な資金と研究者を投入すれば、その影響力は大幅に減少するでしょう。もちろん完全に消滅するわけではありませんが、主要なプラットフォームを通じてアクセスすることは非常に困難になるでしょう」
テクノロジー企業は、この問題に対処するために必要なレベルの投資を行なっていない。その結果、ディープフェイクはソーシャルメディア・サイトに溢れ続けている。最近の調査によると、アメリカのティーンエイジャーの6％がAIヌディファイアの標的となっており、この問題は多くの女性に影響を及ぼしている。
クラークは世界でも有数の有名アスリートであり、彼女に関わる問題への意識を高める多くのファンを抱えている。そんな彼女のディープフェイクですらXから削除できないとしたら、他の人々にとってそれは何を意味するのだろう？
原文：I reported a deepfake of Caitlin Clark on X. Instead of it getting removed, here's what happened
翻訳：石山修二（スポーティングニュース日本版）