IJCAI 上的公开信：研究者们想给自主武器踩刹车
// TL;DR
- 公开信明确反对的是“自主选择并攻击目标”的武器，不是军用 AI 整体。
- 签名者包括马斯克、霍金、乔姆斯基和大批一线研究者。
- 核心论点：自主武器会成为“明天的卡拉什尼科夫”，廉价、易扩散。
信里说了什么
在布宜诺斯艾利斯的 IJCAI 会议上，FLI 又组织了一封公开信，这次的目标非常具体：呼吁国际社会禁止进攻性的自主武器——那种不需要人类批准就能自主选择目标并开火的系统。信里最有传播力的一句话是：自主武器会成为明天的卡拉什尼科夫步枪。便宜、好造、容易扩散，最终流入每一场地区冲突。
我怎么看
有意思的是签名的构成：不只是名人，还有大量真正写代码、发论文的一线研究者。一个技术社区在自己的顶会上集体讨论“我们的研究不该被用来做什么”，这在计算机科学历史上不多见——上一次大概要数到核物理学家们了。
我不天真地认为一封信能阻止军备竞赛。但它至少划了一条线，让“技术中立”这个借口变得难讲了一点。做技术的人迟早要回答：你的模型部署在哪、决策权交给了谁。这个问题在 2015 年听起来还有点远，我猜十年后它会变成每个 AI 从业者的日常。