session://14:29:33
~/ / posts / 2017-12-rahimi-alchemy.md

“机器学习成了炼金术”:NIPS 颁奖台上的一盆冷水

2017-12-08· 1 min read · [深度思考]
// TL;DR
  • Rahimi:领域被“跑分文化”支配,成功靠试错而非理解,像炼金术。
  • LeCun 反驳:工程先于理论是技术史常态,蒸汽机先于热力学。
  • 两人都对——关键是炼金术阶段不该是终点。

颁奖台上的不和谐音

NIPS 2017 把时间检验奖颁给了 Rahimi 十年前的随机特征论文,他却用获奖演讲泼了全场一盆冷水:“机器学习已经成了炼金术。”他的论据很扎实——我们有一堆确实有效的技术(BatchNorm 为什么有效?Adam 为什么收敛?),但对它们为何有效的理解薄弱得可怜;整个领域被刷榜文化驱动,调参靠玄学,成功靠运气加算力。台下掌声雷动,不少人是心虚地鼓的。

LeCun 的反击也有道理

LeCun 当晚就发文反驳:把工程实践先于理论理解叫“炼金术”是对历史的无知——蒸汽机发明在热力学之前,飞机上天在空气动力学成熟之前。要求每项技术先有理论再应用,才是真正会扼杀进步的态度。

我站哪边

两边都站。LeCun 说的是事实:工程领先理论是常态,等理论齐备再动手,黄花菜都凉了。但 Rahimi 的警告同样是事实:炼金术阶段的产出是脆弱的——我们不知道这些系统什么时候失效、为什么失效,却已经把它们部署进医疗和驾驶。

对一线工程师,我的提炼是:可以接受“不知道为什么有效”,但要建立“知道它何时无效”的工程手段——评测、消融、监控,这些是炼金术时代的安全绳。理解可以迟到,但敬畏不行。

机器学习行业动态学习笔记
cat newsletter.txt

每周一封,<5 分钟读完

把这一周我读过、想过、动手做过的东西,压缩成一封信。订阅者目前 5210+ 人,0 干扰。