用人工智能制作的种族主义视频在 TikTok 上疯传

近期，一段由人工智能制作、包含种族主义内容的视频在 TikTok 上广泛传播，引起社会关注，该视频利用人工智能技术制作，含有种族歧视的元素，引发了公众对社交媒体平台监管问题的讨论，该视频的扩散已引发广泛讨论和警惕，呼吁社会各界加强监管，防止类似事件再次发生。

根据非营利媒体监督机构 Media Matters 的调查结果，疑似使用Google AI 视频生成工具 Veo 3 制作的种族主义视频在 TikTok 上获得了数百万的观看量。该组织发现的 AI 生成的视频充斥着种族主义言论，其中许多针对的是黑人。

Media Matters 认定这些视频（其中一个视频的观看次数高达 1420 万次）是使用 Google Veo 3 生成的，因为视频片段角落有“Veo”水印。Media Matters 称，一些用户还列出了与 Veo 3 或 AI 相关的标签、标题或用户名。该组织发现的每个片段都只有 8 秒，或者“由多个片段组成，每个片段的时长不超过 8 秒”，这符合 Veo 3 8 秒的限制。

Google于五月推出的 Veo 3允许用户仅通过文本提示生成AI 视频片段和音频。Google在其网站上表示，它将“屏蔽有害的请求和结果”。TikTok的规则也同样规定，“仇恨言论和仇恨行为在 TikTok 上没有立足之地”，并且该平台“不会推荐包含对具有受保护属性的个人或群体的负面刻板印象的内容”。

TikTok 发言人阿丽亚娜·德塞利尔斯 (Ariane de Selliers) 在给The Verge的一份声明中表示：“我们积极执行严厉的规则，打击仇恨言论和行为，并删除了报告中提到的账户，其中许多账户在报告发布之前就已被禁止。”

Media Matters 重点报道的一些视频也出现在 YouTube 上，但观看次数较少。Wired也在 Instagram 上发现了类似的、由人工智能生成的种族主义视频。Media Matters 发现的其他视频包含反犹太主义内容以及针对移民和亚裔的种族主义描述。