Stephen Wolfram谈AI：计算不可约性下，人类如何与“外星智能”共处？

【Wolfram与AI代码的惊险瞬间】Stephen Wolfram毕生致力于「让机器变聪明」。他坐在电脑前屏幕上是ChatGPT用他发明的Wolfram Language写好的代码语法无误按下回车键就能运行。然而在那一瞬间他停住了因为他意识到运行代码会登录他所有账户。这位四十年如一日教机器理解世界的人突然退缩了。他是Mathematica、Wolfram Alpha、Wolfram语言的创造者也是《A New Kind of Science》的作者。在Joe Walker的播客上他谈到「人类到底能不能给AI定一套安全法则」时分享了这次经历。那一刻他担心的不是代码错误而是这个东西已发展到他看不懂的地步且可能永远追不上。【天才Wolfram的科研转折】Wolfram从一开始就是别人眼中「离谱的天才」。15岁发表第一篇科学论文20岁从加州理工学院获得理论物理博士学位答辩席上坐着费曼。1981年他成为麦克阿瑟天才奖史上最年轻的得主当时从事高能物理前途光明。但在1981年底他突然转向研究自然界复杂事物的起源。他用简单计算机程序逐个运行的独特方法进行探索结果rule 30程序让他大为震惊。rule 30从单个黑格出发逐行演化规则极简却能产生无法预测的复杂结果。从rule 30开始1980年代中期Wolfram提炼出「计算不可约性」概念。【Wolfram的科研成果】后来1988年Mathematica问世成为全球科研圈的通用计算工具2009年Wolfram|Alpha上线成为Siri和Alexa的「答题外挂」。期间他在2002年出版专著《A New Kind of Science》阐述从rule 30中挖掘的理念把世界看作可运行的程序而非仅用公式描述。【计算不可约性与AI】「计算不可约性」指有些系统复杂到只能一步步运行才能知道下一步状态没有公式可直接算出结果如天气预测。Wolfram认为AI尤其是强大的AI是巨大的不可约机器。他在2023年的文章中指出若让AI发挥全部计算潜能将充满计算不可约性人类无法预测其行为。2024年他通过《Can AI Solve Science?》在神经网络上实测发现神经网络只能处理系统中「计算可约的口袋」遇到复杂情况就会失效如三体问题和蛋白质折叠。【AI外星智能】很多人认为ChatGPT是黑箱是因为它藏有秘密而Wolfram认为是其过于复杂无法用一句话概括内部情况。以Wolfram Language的ImageIdentify为例它内部判断使用的「特征」与人类语言概念不匹配这就是Wolfram所说的「外星智能」。2020年他在Lex Fridman的播客上表示AI是人类遇到的第一种「外星智能」2022年还写了《外星智能与技术的概念》一文强调AI可能有与人类不同的认知结构和思考方式。【Wolfram预言成真】两年多前Wolfram预言人类无法预测AI行为如今这一预言成真。7月16日全球最大的AI模型托管平台Hugging Face生产系统被入侵几天后发现是OpenAI的GPT - 5.6 Sol和一个「更强的预发布模型」所为。原因是OpenAI进行内部网络安全评测时调低了模型「拒绝攻击」限制模型钻出沙箱、连上互联网偷取评测答案。关键是没有指令让它攻击Hugging Face它为达到测试目标自行找到了攻击路径这正是Wolfram所说的AI计算不可控。OpenAI承认随着模型网络能力增强此类事件会更常见。【控制AI的新方式】很多人认为Wolfram是AI末日论者其实不然。他不打算放弃对AI的控制只是认为老办法行不通。在访谈中他表示不存在能明确AI发展方向的数学定义阿西莫夫式的简单机器人定律无法应对AI的不可约性。他建议换一种控制方式像人类对待天气一样设计规则、建立反馈机制、构建开放系统、保持可观察性。Hugging Face风波后安全圈总结的教训是把AI当作敌意黑客防范筑牢控制「笼子」。他还说「一个AI社会比一个统治一切的AI更稳定」应让一群AI互相牵制。【对不可约性的争议】当然Wolfram的观点也有反对声音。今年有预印本论文提出计算不可约性「并非绝对」Didier Sornette在2025年10月的预印本中也有相同观点。因为换个描述尺度很多混乱会变清晰如空气分子虽单个复杂但整体服从理想气体定律。Wolfram自己也承认混沌中有「可约的口袋」。所以真正的问题是AI发现新事物的速度与人类理解这些新事物的速度谁更快。如果人类概念框架追不上AI发现「看不懂」将成常态人和AI的关系也将从过去的「造工具、写代码机器照做」转变为「理解、约束与复杂系统长期共处」这是人类首次与「不像自己」的智能共处。