一则 “DeepSeek 因关联不实信息向王一博道歉” 的假新闻在社交平台疯传,后证实是粉丝用 AI 生成的虚构内容。更可怕的是,多家主流 AI 模型因抓取污染数据,竟 “确信” 假新闻为真,形成 “生成 - 传播 - 再强化” 的恶性循环。调查发现,内容农场以极低成本批量生产虚假信息,甚至能付费优化让假新闻登上 AI 推荐页。这次事件不仅暴露 AI 大模型缺乏事实核查机制,更引发 “技术作恶” 的伦理争议。AI 时代,我们该如何应对信息污染?
根据相关规定,发布内容需绑定实名认证手机号。
一则 “DeepSeek 因关联不实信息向王一博道歉” 的假新闻在社交平台疯传,后证实是粉丝用 AI 生成的虚构内容。更可怕的是,多家主流 AI 模型因抓取污染数据,竟 “确信” 假新闻为真,形成 “生成 - 传播 - 再强化” 的恶性循环。调查发现,内容农场以极低成本批量生产虚假信息,甚至能付费优化让假新闻登上 AI 推荐页。这次事件不仅暴露 AI 大模型缺乏事实核查机制,更引发 “技术作恶” 的伦理争议。AI 时代,我们该如何应对信息污染?
这次事件是数字时代的 “狼来了”。当 AI 既能高效生产又能精准投喂虚假信息时,社会共识将加速瓦解。建议成立跨学科伦理委员会,在技术研发阶段就植入 “反作恶” 设计,比如给生成内容加数字水印,让每一条信息都能追责到具体人类创作者。
信息战新武器?
细思极恐!如果 AI 连官方声明都能伪造,未来我们还能相信什么?
粉丝行为偶像买单?AI 造假成本太低,明星团队该考虑起诉内容农场了!