Skip to content
aiqbench takeAI Products

aiqbench analysis

A Tsinghua-affiliated startup, Yuanhuan Intelligence (元环智能), has raised several hundred million RMB across two rounds to build a "meta-model" that designs other models, a direction it calls AI for AI. The company's core claim is that large language models are a poor basis for this, since intuition about model behavior is hard to express in compressed natural language, so it is pursuing non-LLM architectures aimed at science and world-modeling tasks. The article is largely investor-facing positioning, so the technical merits and the company's results remain unverified.
Source covering36Kr
What this isA model's reading of the article and related coverage, written for aiqbench. Not the publisher's words.

After Securing Hundreds of Millions in Funding, Tsinghua Professor Liu Ziming Aims to Build a 'Meta-Model' Capable of Designing Its Own Models

36Kr1 min read

文|王欣逸 编辑|张雨忻 “设计模型的工作,一定要人来做吗?”  今年年初,在斯坦福做博后、即将入职清华做博导的刘子鸣提出了这样的问题,随后,他便在自己身上进行了将近两个月的“人体实验”——训练自己大脑的直觉。  这段时间,他每天会随机拿一个数据集训练模型。在跑实验之前,刘子鸣会逼自己先对模型的训练曲线做出预测。“刚开始我完全没有办法预测出训练细节,大概做到第50天的时候,我发现自己顿悟了,这和考试前大量地去刷题很像。”他说。  这给了刘子鸣启发:既然人脑可以被训练出来,那么,也完全可以训练出一个不依赖于人的、拥有模型好坏直觉的“模型的模型”,即元模型(Meta Model)。 来清华任教后不久,刘子鸣创办了元环智能,想做这样一个元模型。他称这个方向为AI for AI——第一个AI指元模型,一个能设计所有模型的模型;第二个AI,则是元模型所设计的模型。  《智能涌现》获悉,近日,刘子鸣创办的元环智能已完成种子和种子+轮连续两轮融资,累计融资金额达数亿元。 其中,种子轮由顺为资本领投,上海未来产业基金、星连资本、君礼资本等机构跟投;种子+轮吸引了上海半导体产投、360战投、首程资本、上海人工智能产业系列基金等产业方及国资背景机构,以及BV百度风投、山行资本、云时资本等知名双币基金。 成立初期,元环智能便获得了多家市场化创投机构、产业资本及国资基金的共同支持,形成了多元化的股东阵容。 元环智能成立于2026年5月,创始人刘子鸣生于1998年,现为清华大学人工智能学院助理教授,曾在斯坦福大学Neuroscience+AI方向从事博士后研究工作,博士毕业于MIT,长期研究AI for physics/physics of AI/机制可解释性,本科毕业于北京大学物理系。团队成员大多来自清华、北大等高校,团队平均年龄约22岁。  在今年的资本市场上,AI for AI常和RSI(递归式自我改进)、Auto-research(自动科研)等词放进同一个筐里。在共识还没有发生的时候,对于向投资人解释他们正在做的事情,刘子鸣一直感到头疼,直到9月中旬,Jev模型横空出世——Jev是一个不生成任何文本的模型,它在接收一段状态信息和一组问题后,会直接输出带概率的类型化答案。  刘子鸣用Jev的模式来解释元模型:这是一个直觉模型,而非语言模型,无法根据用户提出的问题给出回答,但是它能学会设计模型——看到一个未知模型,能凭直觉了解它的能力如何;面对一个具体场景,它也能判断该用什么样的模型最合适。 元环智能和现有的RSI、AI for AI玩家的分野,发生在最底层——模态,即是不是基于大语言模型做自进化。 在刘子鸣看来,行业里用AI设计AI的做法百家争鸣,但都是走大语言模型路线,用自然语言以及思维链数据训一个通用模型,探索大语言模型智力的边界。他认为,这在文本、数学、Coding等领域是适用的,但是这些问题只占世界的30%。不仅如此,用大语言模型做RSI的天花板会比较低,短期可以通过刷榜看见成绩,但难以泛化。  “直觉更像是经验的反射,自然语言不适合做强直觉性的东西。”刘子鸣提到。既然直觉无法用已经压缩过的自然语言承载,元模型要做的,就是瞄准剩下70%尚未压缩过的世界,如AI for Science、世界模型乃至AI的“科学”本身,找到更合适的模型架构来支撑这些任务。  在深度学习圈里,相比清华博导与创业者的身份,刘子鸣更为业界熟知的是他的学术成果——新型神经网络架构KAN(Kolmogorov-Arnold Networks,柯尔莫哥洛夫-阿诺德网络),KAN发布于2024年,到今天为止,这一成果已在GitHub上收获16k stars,谷歌学术显示已被引用5700余次。KAN之后,很快也掀起了大量围绕KAN的后续研究,这让彼时在MIT念博四的刘子鸣收到了清华大学人工智能学院的教职offer。  KAN可以视作是一种对传统神经网络MLP(多层感知机)的“对抗”,其核心思想是用“可学习的激活函数”替代传统神经网络的固定激活函数,把模型从“黑盒”变成“白盒”。  “KAN不是一篇文章,也不是一个具体的模型,它是一种方法论和一种世界观,能够从混乱之中涌现出秩序。”刘子鸣提到,“现在回头来看,KAN就是一种特殊的元模型。它证明了模型设计可以像牛顿定律一样,能找出背后的原理, 被‘科研审美’与第一性原理收敛,元模型正是这一方法论下的更高阶的产物。 ”  如果说LLM擅长的是30%的已经被压缩过的符号世界或语言世界,元环智能所做的元模型则是解决剩下70%未被压缩过的数值世界,其核心就是KAN。从落地上来看,元模型中短期内可用于工业检测、金融量化、气象预测、电力预测、自动驾驶、世界模型等按时间连续记录的数据场景,设计专门的预测模型,并验证可行性及商业化落地。明年,他们还将推出通用的元模型1.0,不限定场景,去生成适配各个垂直领域的专用模型。  “我一直想做的是写出AI背后的牛顿方程,找到一些可解释性的东西。”刘子鸣说。不管是KAN还是元模型,他一直在探索处在黑盒里的大模型究竟该如何解释,它的科学性怎么体现,就像冲破大气层在宇宙中看地球一样,试图用更高维的方式来解决低维的问题。  不过,在创业这一新起点,他又展现出了务实的那一面,向能落地、更小的能力边界与商业化做出一定的倾斜,比如,先做出一个相对简单、有明确应用场景、不需要视觉和空间的时间序列模型,“只要它能被训练出来,能对时间序列场景设计出专有模型,它的价值就成立了”。  在元环智能拿到新融资的时间节点上,我们和刘子鸣聊了聊关于元模型、自进化等前沿探索,以及清华博导的教职、AI for AI创业等大家关心的内容。这场访谈发生在九月底,故事还算新鲜,不过刘子鸣告诉我们,元环智能的发展速度非常快,甚至一周之后就会有新的成果。  以下是《智能涌现》和刘子鸣的对话,略经摘编:  设计模型这件事应该交给谁去做 智能涌现:你们正在研究的元模型是一个什么样的模型? 刘子鸣:首先,元模型不是大语言模型,它是一种新的模态。 我们要构建的是一台“直觉机器”:它之前见过大量不同表现的模型,在其大脑里形成内化,此后见到新的模型架构,它能根据之前的经验,凭直觉判断这一模型表现会有多好。 这一“直觉机器”模型的输入是一个���型的架构(一张计算图),输出是一条或多条训练曲线,它是一个时间序列,是模型表现随着训练时间的变化。计算图(graph)和时间序列都是已有的模态,只不过训练一个直觉机器去做这样的映射,这是之前没有出现过的。  元环的AI4AI路线 智能涌现:这个设想实现到什么程度了? 刘子鸣:现在已经有几个demo了。  一个是大语言模型预训练的demo,核心在于,当模型更改不同的超参数(Hyperparameter,模型训练前的外部配置参数)时,它能不能把训练曲线预测准确。这一预测能帮助研究员在事前就知道怎样最优地调节模型的超参数。  还有一个是关于时间序列的元模型demo,在时间序列里,LSTM(长短期记忆网络)比Transformer架构更好,因此我们基于LSTM的baseline,构建了比LSTM表现好上百倍的架构。在世界模型这个方向,我们也用元模型找到了一个新架构,相比JEPA(联合嵌入预测架构),我们在一个任务上从67分提升到了98分。  所以元模型并不遥远,我们已经开始看到可行路径了。  智能涌现:这是什么时候实现的成果? 刘子鸣:最近两周,如果下周再跟我聊,那又不一样了。  我们也在做自己的benchmark,最近会发布,名为Architecture IQ,它就是评测大模型,或者人类研究员,对模型训练的直觉水平。比如,我要训练一个回归任务,以下三个模型,哪一个训到最后表现最好?这就是一个测试直觉的事情。我们测下来发现,在Architecture-only的题型中,GPT-6 Astra只有不到40分,但我们人有60左右。  智能涌现:所以在“直觉”这类任务上,大模型还不如人? 刘子鸣:如我所说,直觉不是自然语言,它是一种新的模态。你如果非要用自然语言,是做不好的。 我们在Architecture IQ这个数据集上做了测试,结果发现,让大模型思考更长时间,效果并不会变好,有的时候甚至会变差。像数学、coding这些任务,你可以通过让大模型思考更长时间来提分,因为这些场景本身就是已经被压缩过的、可以被言说的东西。而那些不可被言说的直觉,无法通过单纯提高训练时长来提高正确率。  智能涌现:从长期看,元模型什么时候会成为现实? 刘子鸣:从研究的视角来看,要把AI的科学(Science of AI)搞清楚,可能需要三年。但元模型比AI的科学更容易,因为我们不一定要完全理解元模型背后的原理,不用把AI的原理写成符号、外化成自然语言或者符号语言。元模型把三年时间缩短成了一年。  我们不一定要追求AI背后的形而上的原理,但我能先训练出一个模型,用于做预测。这里的“一年”指的是商业化的时间,我们刚起步三四个月,已经探索到了可行路径。  智能涌现:它率先交付的产品会是什么形式? 刘子鸣:最先交付的会是一个时间序列的元模型。从更长远的路线来看,我们希望能用元模型造出世界模型、AI4S的模型等等。  跳出Transformer,找到整片星空最亮的星 智能涌现:在大语言模型上做RSI,可能需要关于人类灵光一闪的思维链数据,那元模型需要的数据是什么样的? 刘子鸣:我们通过监督学习的方式,用大量模型和训练曲线配对来训练元模型,所以元模型是超越人类的想象力和创造力的。大语言模型背后的实验是在人类已有的认知空间里的,而元模型背后的数据是大家的未见模型。 拿Transformer架构来打比方,大语言模型不过是夜空中一颗较亮的星星,它却把我们的思维限制住了,只能围绕这颗星找其他。而我们要让元模型看见整片星空,帮助不同模型进化,在不同的场景下找到最亮的星。  智能涌现:怎么获取到这些数据? 刘子鸣:这些数据通过我们自己合成。  一方面,互联网上确实还不存在各种各样的模型,大家不会去生成一些“怪物模型”,绝大多数人使用模型还是别人用什么我用什么,这样最安全。另一方面,这些数据也是我们的壁垒,相比互联网上可能存在数据不准确、细节不够的模型,我们自己合成数据,反而更加安全可控。后期,我们也会针对性地多合成一些此前没有探索过的数据。不过第一步还是做熵增,跳出现有的模式,先看到各种各样丰富的架构。  智能涌现:需要多少量级的数据才能训练出一个元模型? 刘子鸣:我们现在做的时间序列的元模型和世界模型的元模型,几千条就够了。  智能涌现:关于Transformer架构你们怎么看?要造出那些“奇奇怪怪的模型”,现有的架构就能满足吗,还是需要重新创造新的架构? 刘子鸣:它的“积木块”基本上已经有了,这些“积木块”可以拼出各种各样的新“房子”。  大语言模型最神奇的地方不是来自模型,是来自语言,语言已经是人类经过百万年进化压缩、精简、提炼之后的架构。Transformer恰好乘上了时代的春风,成为第一个能把语言吃下去的模型。  对于世界上30%的任务,如文本的、数学的、coding的,这些是可以被言说的任务,大语言模型现在已经足够完成。但剩下70%是目前还没有办法言说,还没有被压缩过的东西,包括AI for Science、世界模型、AI研究本身等,这些任务需要找到更好架构的模型来完成。 用LLM做RSI,是爬山走野线 智能涌现:你提到Auto-research存在几种不同的范式,其中的区别是什么? 刘子鸣:大家走不同的路线,就是用不同的方式在回答这一问题:AI做研究或造模型,它能否被显化,即能不能用自然语言描述出来;以及能否被外化,即能不能从我的脑子里面外化到元模型里面,或者外化到你的脑子里面。 走大模型RSI路线的团队押注的是,AI科研是可以被外化,以及显化的,也就是它已经存在在自然语言里面。  而我们的押注是,AI科研目前还没有显化,相当于还处于类似于亚里士多德时代的原始物理学。现阶段,人类暂时还不能把关于AI的科学抽象出来,因此大语言模型暂时不会做科研、

Read the full article at 36Kr

Related coverage