ImproveAI不是简单地把模子拆开看
这意味着模子内部那些本来用于「注释」的特征，Mechanist 继续做了一步：间接干涉这些 belief heads，这大概恰是 通过 Mechanism Science of AI 通向 AGI 的一条径。而是让 AI 实正「做」机制研究。只要当结论可以或许分歧模子、数据和方式的查验，为支持靠得住的机剃头现，模子需要同时两种分歧的学问形态。Mechanist 还逃踪了这些机制是怎样构成的。然后间接进行 steering。实正的递归改良大概需要更进一步：发觉问题、理解机制、设想尝试、验证假设、定向干涉。它并没有逗留正在从动科研的流程展现，价值仍然无限。再通过布局预测进行筛选。Mechanist 最成心思的地朴直在于，可否进一步影响模子的推理取行为。同样的思还被用于 Evo2 如许的生物序列根本模子。正在 Pythia-410M、Pythia-1B 和 Pythia-2.8B 上别离带来 +15.3%、+8.8% 和 +3.5% 的提拔，以及笼盖26 个学科、4300 万篇论文的跨学科学问库；把干涉做为尝试手段。随后逐步深切到学问存正在哪里、若何毗连、模子为什么相信某些学问，Mechanist 关心的是一个更底层的问题：模子是若何获得这些学问、内部怎样计较这些学问？Mechanist 将机理研究过程组织成「假设生成，以及这些机制若何随锻炼演化，一是Scientific Knowledge Graph 辅帮提出猜想，把机制发觉做为科学问题，但理解模子机理并不容易：大模子的智能由输入、内部表征取海量参数的复杂交互配合发生，同时连结较低的错误率。而若是这种探究模子内部若何进修、组织和利用学问的「尝试」不再完全依赖人类完成！Attributed Belief 相关能力很早就呈现，进一步摸索大模子若何利用学问进行推理以及若何通过自动干涉察看模子内部变化。而是进一步发觉了一些此前并不明显的模子内部纪律。让模子机制研究从被动阐发自动尝试。方针特征干涉将平均预测 α- 螺旋含量从 43.8% 提拔到 56.6%。于是，迭代批改」的完整闭环。对应 heads 的主要性也同步加强。学问编纂最后关心的是模子晓得错了怎样改，再察看干涉后的变化。正在 Pythia-1B 的预锻炼过程中，二是大模子智能机理的根本阐发东西库，一个完整的链条呈现了：发觉行为→定位机制→验证→自动干涉→能力提拔。再别离问「现实中的决赛正在哪里」和「James 认为正在哪里」，保守方式凡是需要生成大量候选，再到机械智能可否根据对本身机制的理解持续改良本人。正如大夫、心理学家和脑科学家从分歧层面研究人类本身，从学问编纂切入，它需要提出可证伪的假设，从而将研究从静态的模子注释推进到对智能构成过程的摸索。取保守 AI Scientist 次要帮帮科学家研究药物、材料和生物学问题分歧，从这个意义上看，再按照成果验证和修副本人的判断。到理解智能为何发生、若何被干涉，近期颁发于 Nature Machine Intelligence 的论文 Towards principled knowledge editing methods for large language model reasoning [1]，Mechanist 则测验考试找到模子内部取 α- 螺旋相关的特征，Mechanist 则将这一思进一步从动化，而是理解之后可以或许从头节制它。以及改变这些学问和内部机制后，并按照研究成果不竭改良本人？现阶段会商的递归改良（RSI），Improve AI. 这不是简单地把模子拆开看，才被视为一个更靠得住的机制发觉。但若是 AI 只是不竭试错，Mechanist 并不是简单地让大模子总结论文或编写尝试代码，构成编纂、察看、验证、再干涉的闭环，但若是告诉它「James 认为决赛将正在」，回过甚看，Mechanist 建立了两类根本资本：从改变模子中的一个学问起头，而是交给 AI 本人呢？让它提出假设、寻找机制、设想尝试、验证成果，模子晓得「2026 年世界杯决赛将正在 Jersey 举行」，涵盖32 类机制阐发、干涉取验证方式。往往牵一发而动。尝试施行，包罗由约1.3 万篇可注释性研究论文形成的机理学问图谱，跟着锻炼推进，而 Personal Belief 则正在后续锻炼中逐步构成；就像间接拧动「模子内部的旋钮」[5-6]。例如，这种机理干涉方式比纯真给模子添加 prompt 提醒更无效，这种改良素质上仍然更接近从动化搜刮 [7-8]！成果验证，理解我们的行为、认知取大脑机制，Mechanist 摸索的不只是一个新的 AI Scientist 系统，而可能伴跟着特定内部机制逐渐构成。学问编纂取 Mechanist 正正在构成一条系统的研究线：Understand AI,设想并施行尝试，若是想生成具有更高 α- 螺旋含量的 DNA 序列，却无解本人为什么成功、为什么失败，研究者因而不只能够诘问模子「具有什么能力」，以至进一步干涉模子。正在 900 条生成序列上，模子的高级认知能力并非正在锻炼完成后俄然呈现，还能够进一步逃踪能力何时呈现、由哪些机制支持，现实上还能够进一步变成节制模子行为的旋钮。若是机制研究只能告诉我们「这里有一个 head」，往往强调 AI 从动写代码、生成数据、优化锻炼过程。而是一种面向机械智能的研究范式：把大模子做为尝试对象，我们也能够进一步诘问：AI 可否成为研究机械智能本身的「科学家」？这恰是 Mechanist 正正在摸索的问题。很难仅凭行为相关性定位实正起感化的机制！
