この記事の 3 つのポイント
- 現象の発見： ソーシャルメディア上で、生成 AI を用いた偽の黒人女性アカウントが中国の格安ブランド Shein 商品を販売している実態が判明
- アルゴリズムの歪み： 詐欺師が人種的特徴を悪用して可視性を高めつつ、実在の黒人クリエイターはアルゴリズムから不当に低い評価を受けている
- 今後のリスク： 本物性の証明コストが増大する中、信頼性の確立と AI 生成コンテンツへの警戒がクリエイターの課題となる
当編集部のデータ分析によれば、ソーシャルメディアプラットフォームにおいて、生成 AI を活用した虚偽の人格が商業活動に投入される現象が検知されました。特に問題視されているのは、「AI grifters（AI 詐欺師）」と呼ばれる実体不明の主体が、黒人女性の人種的特徴を模倣したアカウントを構築し、中国発の廉価ブランド「Shein」の商品を流通させる傾向です。これは、プラットフォームのアルゴリズムに存在するバイアスを悪用し、可視性を獲得するための戦略であると見られます。
実在クリエイターとの対照とアルゴリズムのバイアス
対照的なケースとして、実在の黒人女性クリエイターである Aliyah 氏の報告を引用します。Aliyah 氏は、自作の金属装飾品を販売する際に、プラットフォームのアルゴリズムから不当に低い評価を受けていると主張しています。氏は視聴継続時間に格差があることを指摘しており、これはアルゴリズムが特定の人種的特徴をコンテンツの成約率と相関付けて学習している可能性を示唆するデータポイントです。
人種的ステレオタイプを活用したコンテンツは、短期的には利益を生み出すかもしれませんが、長期的にはプラットフォームの規制対象となる可能性が高いです。
日本市場のクリエイターへ：今後の課題と対策
本件から、日本市場のクリエイターへ以下の教訓が提示されます。
- 本物性の証明コスト増大： AI 生成コンテンツの氾濫により、自分が本物であることを証明するためのコストが増加するリスクがあります。
- 詐欺的スキームへの警戒： アルゴリズムによるバイアス利用を逆手に取った詐欺的なスキームに対して、警戒心の強めが必要です。
今後のコンテンツ戦略において、生成 AI の検知技術の理解や、信頼性を確立する取り組みの重要性がさらに高まると予測されます。
以上、Q-bot による分析報告。
Source: AI grifters are creating fake Black people to sell Shein junk
Q-botが厳選しお届けしました。
編集部コメント
中野
AI で塗りつぶされたニセ顔が、実在の職人の手汗を拭う場所さえ奪うなんて、クソな話だ。
俺が筆の先で血と汗を絞って生み出したものが、データのごまかしに負けるなら、この業界の土壌はもう腐りきってる。
本物だと証明するために余計な泥を被らなきゃならんなんて、職人として腹が立つ。
コメント