“机器学习成了炼金术”:NIPS 颁奖台上的一盆冷水
// TL;DR
- Rahimi:领域被“跑分文化”支配,成功靠试错而非理解,像炼金术。
- LeCun 反驳:工程先于理论是技术史常态,蒸汽机先于热力学。
- 两人都对——关键是炼金术阶段不该是终点。
颁奖台上的不和谐音
NIPS 2017 把时间检验奖颁给了 Rahimi 十年前的随机特征论文,他却用获奖演讲泼了全场一盆冷水:“机器学习已经成了炼金术。”他的论据很扎实——我们有一堆确实有效的技术(BatchNorm 为什么有效?Adam 为什么收敛?),但对它们为何有效的理解薄弱得可怜;整个领域被刷榜文化驱动,调参靠玄学,成功靠运气加算力。台下掌声雷动,不少人是心虚地鼓的。
LeCun 的反击也有道理
LeCun 当晚就发文反驳:把工程实践先于理论理解叫“炼金术”是对历史的无知——蒸汽机发明在热力学之前,飞机上天在空气动力学成熟之前。要求每项技术先有理论再应用,才是真正会扼杀进步的态度。
我站哪边
两边都站。LeCun 说的是事实:工程领先理论是常态,等理论齐备再动手,黄花菜都凉了。但 Rahimi 的警告同样是事实:炼金术阶段的产出是脆弱的——我们不知道这些系统什么时候失效、为什么失效,却已经把它们部署进医疗和驾驶。
对一线工程师,我的提炼是:可以接受“不知道为什么有效”,但要建立“知道它何时无效”的工程手段——评测、消融、监控,这些是炼金术时代的安全绳。理解可以迟到,但敬畏不行。