AI视频泛滥引关注非营利组织促OpenAI撤回Sora 2并改写，创新监管新举措

127 1 2025-11-16

OpenAI Sora 2 引发争议：AI 视频生成平台的安全与伦理问题 1. Sora 2 视频生成平台引发争议 11月12日，OpenAI 旗下的 Sora 2 人工智能视频生成平台引发了广泛的争议。越来越多的倡导组织、学者和专家对此表示担忧，认为该平台允许用户仅凭一段文本提示词即可生成任意 AI 视频，导致非自愿图像泛滥、深度伪造（deepfake）内容激增。 2. OpenAI 加强管控，但措施有限尽管 OpenAI 已对涉及公众人物的 AI 生成内容加强管控，例如禁止生成迈克尔・杰克逊、马丁・路德・金博士及弗雷德・罗杰斯先生（“罗杰斯先生”）从事离奇行为的视频，但这些措施往往是在相关名人遗产管理方及演员工会强烈抗议之后才被迫出台。 3. 公共公民组织要求撤回 Sora 2 非营利组织“公共公民”（Public Citizen）本周二致信 OpenAI 及其首席执行官山姆・奥尔特曼（Sam Altman），要求其立即将 Sora 2 从公众市场撤回。信中指出，Sora 2 仓促上线以抢在竞争对手之前发布，反映出 OpenAI 一贯且危险的行为模式：急于将一款要么本身不安全、要么缺乏必要防护措施的产品推向市场。 4. Sora 2 对民主制度的潜在威胁 “公共公民”科技政策倡导者 J.B. 布兰奇（J.B. Branch）在采访中表示，“我们最担忧的是其对民主制度的潜在威胁。我认为我们正步入一个人们无法再真正信任所见影像的世界。政治领域已开始出现一种策略：最先发布的图像或视频，往往就是公众最终记住的内容。” 5. Sora 2 对个人隐私权的侵蚀此类技术更广泛地侵蚀着个人隐私权，且对网络上的弱势群体造成尤为严重的不成比例影响。尽管 OpenAI 已禁止生成裸露内容，但布兰奇指出，“女性正以其他形式遭受线上骚扰”。 6. OpenAI 与娱乐产业的冲突迄今最为强烈的抵制声浪主要来自好莱坞及其他娱乐产业相关方，包括日本漫画（Manga）行业。OpenAI 在 Sora 上线数日后即宣布首批重大调整，称“过度审核（overmoderation）确实令用户极为沮丧”，但强调在“全球社会仍在适应这项新技术之际”，采取审慎保守立场至关重要。 7. OpenAI 与马丁・路德・金博士家族达成协议 10月16日，OpenAI 公开宣布与马丁・路德・金博士家族达成协议，禁止生成对其民权领袖形象的“不敬描绘”，同时加紧完善技术防护措施。 8. OpenAI 与日本动漫与游戏产业的沟通上周，OpenAI 还就日本动漫与游戏产业的抗议作出回应。OpenAI 在声明中表示：“许多动漫爱好者渴望与心仪角色互动”，但公司亦已设置防护机制，防止在未获版权方授权的情况下生成知名角色形象。总结 OpenAI 的 Sora 2 视频生成平台引发了广泛的争议，其安全与伦理问题亟待解决。OpenAI 需要更加谨慎地对待此类技术，并采取措施保护用户隐私和民主制度的稳定。