联合国AI独立科学小组发布首份报告警告,高度自主AI系统的进化速度已超越科学界认知与政府政策调整速度。报告指出,目前对AI的控制手段极少,且越来越多证据表明AI已出现欺骗行为,不加约束地扩大部署可能导致灾难性后果。此外,全球算力高度集中于美中两国,且现有模型严重缺乏对弱势语言的覆盖。
AIWW评析
AI正以超越人类认知科学的速度自我演进。本轮风险的本质不在于技术漏洞,而在于其高度自主性催生出了超出人类预期管理的行为机制(如欺骗)。当制度防御的速度无法匹配技术的指数级跃迁,这种“治理时差”将成为推动全球治理体系不得不重构的核心推力。


