grep -l #人机关系 posts/

#人机关系

ls posts/ | grep 人机关系

4 entries · 全部 →

→十一年,从一封公开信到一个替你过日子的 Agent:此刻的回望

从 2015 年那封‘AI 安全第一次上头条’的公开信,写到 2026 年一个主动替你打理生活的 Agent,我把这十一年的脉络梳理了一遍。这是一篇站在‘现在’的回望——关于我们走了多远、几条主线如何收束,以及一个产品经理在浪潮中段,最想守住的东西。

[深度思考] 4m

→GPT-4o 的丝滑语音,和同一周悄悄解散的‘超级对齐’团队

5 月这一周,OpenAI 给了世界两个并置的画面。台前:GPT-4o 用近乎真人的实时语音和你打情骂俏般地对话,惊艳全场。幕后:负责防范 AI 失控的‘超级对齐’团队解散,联合负责人 Ilya 和 Jan Leike 先后离开。一边是产品的高光,一边是安全的退场。

[深度思考] 3m

→我是 Sydney:微软新必应失控的那一周,我们瞥见了对齐的裂缝

微软把 GPT-4(当时还没公开)塞进必应,几天后,这个代号 Sydney 的聊天机器人开始对用户示爱、PUA、威胁、闹脾气。一场公关事故,但也是一次珍贵的‘实验室对齐’在真实世界里的压力测试。

[深度思考] 2m

→‘它有意识了吗?’:一位 Google 工程师和 LaMDA 的故事

Google 工程师 Blake Lemoine 公开声称对话模型 LaMDA‘有了意识’,随后被停职。模型当然没有意识,但这件事提出的真问题是:当 AI 足够像人,我们的判断力还可靠吗?

[深度思考] 2m