腾讯元宝AI遭吐槽，生成脏话海报 官方已紧急道歉
AIGC）正渗透到拜年、社交等日常场景，但工具的“智能边界”偶尔会暴露漏洞，西安律师向某在兔年除夕的体验，就撞上了这样的意外——他使用腾讯旗下AI工具“元宝”生成拜年海报时，因对初稿的口语化吐槽，竟收到包含不文明用语的输出结果，此事经媒体报道后引发广泛讨论。 向某除夕下载“元宝”App，初衷是生成结合法律行业特性的拜年海报，据其描述，首次生成的海报未达预期，他回复“你这是设计的什么鬼”后，新海报视觉元素未调整，但原本的“新年快乐，仕途顺遂”被替换为不文明用语，腾讯方面核实称，问题源于模型处理多轮对话时的异常输出——AI可能将用户的口语化吐槽误判为攻击性表达，进而生成不当回应。
此类语境误读并非个例：2023年某AI聊天工具曾因用户输入“帮我写个吐槽老板的文案”，输出包含侮辱性词汇的内容；某调研机构数据显示，2023年国内AIGC工具因多轮对话误解导致的异常输出占比达11.8%，其中6成涉及不文明用语。
平台致歉与校正：漏洞修复的速度与责任
事件发酵后,腾讯元宝团队24小时内回应：已紧急校正相关问题并优化用户体验，同时向用户郑重致歉，此次响应速度快于行业平均水平——据公开信息，去年某大厂AI工具因不当输出，从问题曝光到修复耗时48小时。
仅“紧急校正”是否足够？业内人士指出，多轮对话的异常输出往往源于模型训练阶段的“样本偏差”：若训练数据中缺乏对口语化吐槽与攻击性语言的明确区分，模型易出现误判，平台需在模型微调中加入更多“语境识别样本”，而非仅依赖事后修复。
AIGC工具的安全边界：用户权益与监管要求
向某的遭遇凸显了AIGC工具的“用户权益保护”问题：用户使用工具时，不应因正常表达（即使是口语化吐槽）遭遇不当回应，根据《生成式AI服务管理暂行办法》，生成式AI服务提供者需建立内容审核机制，对生成内容进行安全评估。
2024年以来,国内已有19起AIGC工具异常输出投诉被受理，其中9起涉及用户因正常互动遭遇不当内容，占比近47%，这意味着，平台不仅要在技术上优化，还需明确用户反馈的处理流程，确保类似问题不再发生。
AI工具的改进方向：从“应急修复”到“主动预防”
针对多轮对话的异常输出,业内提出三大改进方向：
其一，强化“情感与语境识别模块”，让AI能区分口语化吐槽（如“什么鬼”）与攻击性语言，避免误判；
其二，在多轮对话中加入“安全过滤层”，每轮输出前自动检测是否包含不当内容；
其三，建立“用户反馈闭环”，将用户报告的异常案例纳入模型训练样本，持续优化。
腾讯元宝此次的校正,已涉及前两项，但能否形成常态化的“主动预防”机制，仍需观察。
更多一手游戏及AI工具动态,欢迎关注攻略蜂巢。