真実の犯罪 TikTok: AI ディープフェイクの被害者は目覚めた悪夢

Ej ディクソン著

「私が生後21か月のとき、おばあちゃんが私を230度のオーブンに閉じ込めたんです」と、巨大な青い目と花柄のヘッドバンドをした天使のような赤ちゃんはTikTokビデオで語った。 ディラン・マシューの「ラヴ・イズ・ゴーン」の悲しげなメロディーに乗せて、愛らしく子供っぽい声で話すこの赤ん坊は、自分をミシシッピ州で母親と祖母と一緒に住んでいた少女、ロディ・マリー・フロイドだと名乗っている。 ある日、お腹が空いて泣き止まなかったので、祖母にオーブンに入れられ、死に至ったと彼女は語ります。 「私の本当の話をもっと多くの人に知ってもらうために、私について来てください」と赤ちゃんはビデオの最後で言いました。

ビデオの中の赤ちゃんは、もちろん本物ではありません。彼女は、@truestorynow に投稿された AI 生成の作品です。このアカウントには、現実の犯罪被害者が自らの体験を語るビデオを投稿し、50,000 人近くのフォロワーがいます。 彼女の語る陰惨な話は、ある程度はあるものの真実です。 赤ちゃんの名前はロディ・マリーではなく、ロイヤルティ・マリーで、2018年にミシシッピ州の祖母の家で刺殺され、オーブンで焼かれているのが発見された。 祖母のキャロリン・ジョーンズさん（48）は今年初めに第一級殺人罪で起訴された。 しかし、ロイヤルティさんは21歳ではなく20ヵ月で亡くなっており、TikTokビデオの赤ちゃんとは異なり、白人ではなく黒人だった。

このような不正確さは、人工知能を使用して殺人被害者（その多くは幼い子供である）を本質的に蘇生させる大規模な真実の犯罪ファンダムのサブジャンルである、AI真実の犯罪被害者のグロテスクな世界では当然のことです。 ビデオの中には何百万回も再生されるものもあるが、犠牲者が自分たちの死の悲惨な詳細について一人称で語るものである。 ほとんどの場合、事前にコンテンツに関する警告がありません。

「彼らは非常に奇妙で不気味だ」とニューヘブン大学の刑事司法助教授ポール・ブリークリー氏は言う。 「これらは強い感情的な反応を引き起こすように設計されているようです。クリックやいいねを獲得するための最も確実な方法だからです。見るのは不快ですが、それが重要なのかもしれないと思います。」

実際の犯罪被害者の AI 動画を投稿し、17 万 5,000 人のフォロワーを持つアカウント Nostalgia Narratives が述べているように、アカウントの多くには、「家族を尊重する」方法として、動画には被害者の本物の写真が使用されていないという免責事項が記載されています。動画のキャプション。 このアカウントは、1995年に虐待的な母親によって殺害された6歳の少女エリサ・イスキエルドや、2020年に母親のガールフレンドによって殺害された1歳のスター・ホブソンのような有名な児童殺人の被害者の物語を伝えるだけではない。だけでなく、ジョージ・フロイドやJFKのような大人の殺人被害者もいます。 ローリングストーン誌が連絡を取ったアカウントはいずれもコメントの要請に応じなかったが、被害者の外見を変更しているという事実は、TikTokコミュニティのガイドラインによると考えられ、ディープフェイクによる私人や若者の描写は禁止されており、このガイドラインは同プラットフォームが3月に制定したものである。 。 （TikTokの広報担当者は、コミュニティガイドラインに違反したとして@truestorynowが削除されたことをローリングストーン誌に認めた。）

TikTok 上でのこうした AI 本物の犯罪被害者の動画の急増は、本物の犯罪ジャンル全般の絶大な人気によって提起される最新の倫理的問題です。 『ザ・ジンクス』や『メイキング・ア・マーダラー』などのドキュメンタリーや、『クライム・ジャンキー』や『マイ・フェイヴァリット・マーダー』などのポッドキャストは絶大なカルト的人気を集めているが、このジャンルの多くの批評家は、恐ろしい暴行や殺人の実話を純粋な娯楽として視聴する視聴者の倫理的影響を疑問視している。 、安楽椅子探偵や真の犯罪マニアの台頭により、被害者の愛する人に再びトラウマを与える可能性があります。

この懸念は、ロイヤルティを特集したようなビデオにも二重に当てはまります。このビデオは被害者の視点から被害者の物語を語り、おそらく家族の同意なしに彼らの名前を使用し、信じられないほど不気味な効果をもたらしています。 「このようなことは、以前に被害を受けた人々を再び被害に遭わせる可能性を秘めています」とブリークリー氏は言う。 「これらの AI ビデオに登場する子供たちの親か親戚になったと想像してください。あなたがオンラインにアクセスすると、この奇妙な甲高い声で、亡くなった子供を基にした AI 画像が表示され、その内容について非常に悲惨な詳細が説明されています。彼らに起こったのです。」

また、ディープフェイク動画の作成には厄介な法的問題が生じる可能性があるとブリークリー氏は付け加え、AIの本格犯罪動画の台頭をディープフェイクポルノの人気になぞらえた。 同意のないディープフェイク画像や動画を違法とする連邦法はないが、バージニア州とカリフォルニア州の両州はディープフェイクポルノを禁止しており、今月初めジョー・モレル下院議員は、誰かがそのような画像を広めることを犯罪と民事責任の両方とする法案を提案した。

ディープフェイクの本物の犯罪ビデオは、明白な理由からディープフェイクポルノとは異なりますが、ブリークリー氏は、悲しみに暮れた家族が、特に動画が収益化されている場合、そのようなビデオの作成者に対して民事訴訟を起こしたがる可能性があることを理解していますが、家族が民事訴訟を起こすのは難しいだろうと彼は指摘しています。対象者が死亡していることによる名誉毀損を理由に主張する。 「それは非常に粘着性があり、曖昧な灰色の領域です」と彼は言います。

ただし、1 つだけ明らかなことは、AI テクノロジーが日々急速に進化しており、その蔓延を抑制するための規制がほとんど、あるいはまったくない中で、問題は、このようなビデオがより人気になるかどうかではなく、むしろ、真実の結婚生活がどれほど悪化するかということです。犯罪もAIもそうなるだろう。 本物の犯罪のクリエイターが、殺人「被害者」の声を再現できるだけでなく、犯罪の悲惨な詳細も再現できることは容易に想像できます。 「新しい技術開発では常にこれが問題になります」とブリークリー氏は言います。 「どこで止まるの？」

2023年5月31日木曜日午後4時15分更新：このストーリーは、@truestorynowがTikTokから禁止された理由を明らかにする詳細情報を追加して更新されました。