OpenAI急着秀肌肉,惹毛数学家,他们是怕丢饭碗吗?
(来源:网易智能)
出品 | 网易智能
作者 | 小扣
编辑 | 王凤枝
OpenAI急着让世界看到AI有多强,却把一批愿意认真研究这些成果的数学家惹恼了。
10月6日,OpenAI一次公布了700多篇AI生成的数学研究稿件,展示模型解答数学难题的进展,并承诺出钱支持后续研究。这批成果很快引来了数学家的关注,也招来了对发布方式的批评。
10月8日至10日,数学讨论网站Proofs and Prompts陆续汇集了上百条回应。其中,意大利博洛尼亚大学数学系副教授恩里科·法蒂根蒂说,自己每天都用AI查文献、试想法、辅助教学,这次却很生气:如果学生或同行交来一篇难以读懂的论文,他会要求对方先改好。为什么换成AI生成的稿件,数学家就要接手整理?
加州大学洛杉矶分校数学教授、菲尔兹奖得主陶哲轩同样看到了新证明里巧妙的想法。他的不满在于,成果公布了,却找不到参与其中的人来回答问题、讲解方法,或者带学生继续研究。数学家想沿着这些发现往下走,收到的却主要是一大批文件。
OpenAI急着证明什么?
今年6月,奥尔特曼与OpenAI首席科学家雅各布·帕霍茨基把“自动化AI研究员”列为公司的一项目标。两人预计,到2028年3月,公司相当一部分研究可能由AI系统与人类研究者共同完成。
8月1日,OpenAI公布了数学与理论计算机科学领域的十项进展,称内部模型解决或实质推进了群论、几何等领域的长期开放问题。
据OpenAI披露,9月1日,团队听说有人解决了两个千禧年难题。这条消息,加上内部新模型表现的提升,促使它启动了针对所有未解千禧年难题的测试。
团队后来把更多资源集中到纳维–斯托克斯问题上。公司称,找到解法的小组约有1万个并发智能体;从首批智能体启动算起,约88小时后得出结果,又花了17小时完成Lean形式化和验证。
完成验证后,OpenAI联系相关研究者,才得知传闻涉及的是Anthropic员工Levent Alpöge与纽约大学数学教授Tristan Buckmaster合作取得的有外力欧拉方程成果,并非它原以为的纳维–斯托克斯解法。
9月8日,OpenAI公开了纳维–斯托克斯证明及其形式化版本,并表示无意申领千禧年大奖。它明确写道,发布是为了报告模型的重大进展,让外界了解AI进步的速度,以及下一代模型可能具备怎样的能力。
10月6日,OpenAI又公布了数百篇稿件。公司表示,会继续用数学和其他科学问题评估内部模型,以开发更强的研究工具。产生这批成果的模型尚未向公众开放,公司仍在为发布作准备。
人类数学家,还能做什么
10月8日,数学家马特·贝克在博客里提到,前一天,一名他曾指导的博士生给他发来邮件:“未来还有人类数学家的位置吗?”如果有,自己还能作出什么贡献?
贝克对OpenAI发布方式的批评很尖锐,但对于部分附有机器可检查证明的成果,他仍认为令人惊叹,甚至可能成为数学史上的重要转折。而他曾指导的学生,已经开始担心自己的未来。
对还在读博士、申请教职的人来说,这封邮件问得很实际。过去,一项独立研究成果可以证明自己的能力。现在,原本打算花几年研究的题目,可能突然出现在AI的成果清单里。接下来做什么,几年后大学又会拿什么标准评价自己,都变得难以判断。让他们只管为技术进步鼓掌,回答不了这些问题。
陶哲轩的目光则已经投向了下一步。他期待借助AI开展过去难以想象的大型研究,也希望实验室向独立研究者开放前沿模型,让学界参与评估和探索。对他而言,新证明里有什么方法、模型还能帮助解决哪些问题,都值得继续追下去。
法蒂根蒂每天使用AI,贝克肯定部分成果的价值,陶哲轩希望拿到更强的工具。把这些人的不满一并归为“怕丢饭碗”,就绕开了他们真正提出的问题:能不能把成果整理好,让愿意参与的研究者有机会接着做?
学术界自己的评价方式也得跟着变化。如果未来需要更多人去核验、解释和发展AI给出的证明,这些工作就得在招聘和资助中得到承认。花时间把一种新方法讲清楚、让更多人用得起来,也是一项研究贡献,不能只算成替别人收尾。
早在这轮发布之前,慕尼黑大学博士后M. Levent Doğan就谈到了这层责任。他在9月18日回应数学家公开信时指出,学术机构长期奖励论文产出。如果大家真认为理解比结果数量重要,就该把这种认识落实到招聘、资助和期刊实践中。
成果发布了,还要让数学家用得起来
要让同行接着研究,交到他们手上的稿件首先得经得起检查。OpenAI的10月7日修改记录写明,一篇代数几何稿件中的符号错误,使一项关键论证失效,另外两篇依赖该构造的稿件也受牵连,三篇因此一并撤回。公司还修改了14篇稿件,涉及修补证明、修正命题和澄清前提等问题。
部分结果已经提供了Lean形式化证明,计算机能够检查其中的逻辑推导。贝克建议,把已经形式化和尚未形式化的稿件分批发布,让同行更容易看清它们分别经过了什么检查。
但形式化证明通过检查,随附的文字论文也未必写对、写清楚。贝克提醒,还要核对代码证明的命题,是否与论文声称解决的问题一致。文字说明中如果有跳步或缺漏,读者仍然会卡住。
顾问组9月29日的建议,已经把发布前该做的工作列得很具体:补齐相关引用,把证明整理成符合数学论文习惯的写法,准确陈述问题和结论。即便模型独立想出了某个方法,也应引用此前已经提出这一思路的研究。实验室可以先借助模型改善初稿,不应把这些工作全部留给发布后的数学家。
写清楚,也不只是为了方便找错。数学家读一份证明,还想知道关键的新方法是什么,为什么在这里有效,能否用到自己正在研究的问题上。一次报告、几轮讨论,甚至把证明重写得更简洁,都可能帮助这些方法被更多人掌握。
9月11日,包括陶哲轩在内的数学家在公开信中强调的,正是解题之后的这部分工作。同行通过讨论、简化和讲解,把一个新结果变成后来者能够学习、使用的知识。要求不是让每篇论文都变成科普,而是让相关领域的研究者能沿着它继续做下去。
OpenAI已经提供了一些帮助:GitHub仓库保存了稿件和修订记录,公司还公开了10份模型推理摘要,让外界了解部分结果怎样产生。不过,这些摘要并未逐一覆盖数百篇稿件。对于读不懂的步骤、需要补充的前提,同行仍需要有地方提问,也有人作出回应。
顾问组同时建议,为后续研究提供经费,由数学界主导相关工作。OpenAI这次承诺资助研讨会、会议和专项研究,具体安排还要另行公布。谁来组织、哪些研究者能够参与、他们的劳动如何得到认可,都需要进一步交代。
对那位询问自己未来在哪里的年轻数学家来说,能获得资助,去核验一份重要证明、讲清一种新方法,比再听一次“人类仍然重要”更有用。