Eric Nguyen:生物安全是一场AI军备竞赛
Radical Numerics联合创始人Eric Nguyen接受采访,解释为何提升生物能力的模型也能帮助防御不落后。他分享了在斯坦福和Arc Institute开发Evo和Evo 2基因组语言模型的经历,这些模型被用于生成功能性噬菌体基因组。文章还提到Clem Delangue关于开放网络战防御能力的观点,以及Anthropic过滤器标记网络安全和生物学。
Radical Numerics联合创始人Eric Nguyen接受采访,解释为何提升生物能力的模型也能帮助防御不落后。他分享了在斯坦福和Arc Institute开发Evo和Evo 2基因组语言模型的经历,这些模型被用于生成功能性噬菌体基因组。文章还提到Clem Delangue关于开放网络战防御能力的观点,以及Anthropic过滤器标记网络安全和生物学。
SynthePulse Insight · AI 深度解读
版本 1 · 1 个来源
Radical Numerics联合创始人Eric Nguyen在Latent Space访谈中提出一个尖锐判断:能提升生物能力的同一批基因组语言模型,也能让防御不落后——但他同时承认,防御方目前正处于下风。这一主张背后,是长上下文技术、DNA思维链与开放权重三条线索的交织。
在生物安全被 increasingly 视为AI军备竞赛一环的背景下,Radical Numerics联合创始人Eric Nguyen接受Latent Space访谈,提出了一个反直觉的命题:那些提升生物能力的模型,同样可以用来让防御不落后。这一表述本身构成了整场讨论的张力核心——能力与防御并非两条独立的赛道,而是共享同一套技术底座。
但Nguyen同时给出了一个并不乐观的判断:据他称,防御方目前在这场军备竞赛中处于下风,而Radical Numerics的主张是更用力地推进前沿。这里需要区分两个层次:模型双重用途的命题是访谈的核心论点,而“防御正在输掉”是Nguyen的个人判断,来源并未提供量化证据支撑。
这一判断的语境并非凭空而来。文中提到“OpenAI → Hugging Face攻击”事件,并称Anthropic的过滤器会标记网络安全和生物学两类内容。正是这类事件让“还需要担心什么”成为公开问题,而生物安全随之被推到台前。需要说明的是,该攻击事件的具体性质、时间与影响在来源中仅有提及,未展开细节。
理解Nguyen的立场,需要回到他个人的技术路径。据访谈,他在斯坦福期间长期推动基因组语言模型却未获认可——生物学家不相信这条路能走通,不认为输出可被验证,也看不到超出既有能力的应用场景。他持续推动,后来帮助领导了Evo的开发,并为Arc Institute的Evo 2做出贡献。
关键的验证节点出现在之后:Evo与Evo 2被Arc/Stanford的另一团队用于生成完整噬菌体基因组,并合成出有功能的病毒。这一事实的意义在于,它把基因组语言模型从“能否生成”的争论,推进到了“生成物是否具备功能”的实证层面。不过,来源并未展开该实验的具体细节、验证方式与可重复性。
正是基于这条路径,Nguyen与其他AI×Bio人士共同创立了Radical Numerics,目标是构建并扩展基因组语言模型以处理广泛的生物学问题,远不止生成DNA。团队构成包括CEO Eric Nguyen(斯坦福生物工程与AI博士)、首席AI科学家Michael Poli、总裁Stefano Massaroli和CTO Armin W. Thomas。
基因组语言模型之所以长期难以推进,根源在于DNA与自然语言的底层差异。DNA的字母表很小,只有A、C、T、G四个字符,但序列非常长。访谈给出的量级是:人类平均基因约6万,长的可达230万,整个人类基因组约30亿。
这种“字母表极小、序列极长”的结构,决定了建模难点不在词汇量,而在上下文长度。据访谈,长上下文模型的创新大约在三年前使这类基因组建模成为可能,远早于前沿实验室构建100万以上上下文模型。这一时间差是理解Radical Numerics技术路线的前提:他们押注的能力,在主流前沿实验室转向长上下文之前就已具备可行性。
从推理角度看,这也解释了为何基因组语言模型的能力跃升与自然语言大模型的长上下文突破在时间上并不同步——前者依赖的基础设施更早成熟,但应用验证更晚。
Radical Numerics展示的核心实验,是把自然语言模型中的思维链概念迁移到DNA语言。据访谈,他们的基因组语言模型在RNA和蛋白质上表现已相当不错,原因是DNA序列中存在基因和编码蛋白质基因的明确标记,模型在未训练其他模态前就已泛化到多种“语言”。
具体实验设计是:他们使用大规模适配体数据集,只向模型展示得分较低的RNA适配体,并逐步提高分数,然后要求模型沿这一模式继续。结果是模型能够复现部分未展示给它的更高分序列。作者将这一过程称为“在DNA中思考”的思维链,即模型能沿得分轨迹自我优化。
需要明确的是,这一实验的具体数据集规模、得分指标与提升幅度均未披露,“表现相当不错”也缺乏具体基准或数值支撑。因此,该实验的结论应被视为来源方的展示性主张,而非经第三方验证的能力结论。
访谈中一个关键的推断性论述是:正如长上下文推理、思维链和多模态感知解锁了自然语言大模型的复杂推理,这些能力在基因组语言模型中也在催生日益复杂的“生物智能”及随之而来的更大危险。这一判断被来源标注为推断,其依据是能力迁移的类比逻辑,而非直接的实验证据。
这一推断与Nguyen“防御正在输掉”的判断形成了逻辑闭环:如果能力升级与危险升级同源,那么防御方要跟上,就必须同样掌握这些能力。这正是Radical Numerics主张“更用力地推进前沿”的论证基础——在他们看来,放缓前沿并不能让防御方获得优势,反而可能拉大差距。
但这一论证链条的薄弱处同样明显:能力升级是否必然导致危险升级、防御方掌握同等能力是否足以扭转劣势,来源均未提供量化证据。这属于立场性主张,读者应将其与已确认的技术事实区分对待。
这场讨论并未局限于Radical Numerics自身。访谈引述了Clem Delangue的主张:网络战防御能力必须开放,以跟上前沿模型的攻击能力。这一立场与生物安全领域的开放权重争论形成呼应——如果攻击能力可以获取,防御能力是否也应公开以维持平衡。
文中还引述称,Zai_org以开放权重(免费)向世界分享了GLM5.2,并成为其安全应对的关键部分。这一说法来自推文转述,缺乏第一方来源,因此只能作为来源方主张看待,不能视为已确认事实。
开放权重路线在生物安全语境下尤为敏感:基因组语言模型的双重用途属性,使得“开放以强化防御”与“开放以降低滥用门槛”之间的边界极难划定。访谈并未给出这一张力的解决方案,而是将其作为军备竞赛背景的一部分呈现。
综合来看,这场访谈提供的可验证信息集中在技术事实层面:DNA的字母表与序列长度量级、长上下文技术的时间线、Evo/Evo 2的噬菌体合成应用、Radical Numerics的团队构成与研究方向。这些构成了理解基因组语言模型现状的可靠基础。
而涉及判断与主张的部分则需要谨慎对待:“防御正在输掉这场竞赛”是Eric Nguyen的个人判断,来源未提供量化证据;适配体思维链实验的具体规模与提升幅度未披露;Evo/Evo 2生成噬菌体基因组的细节与可重复性未展开;GLM5.2开放权重及其在安全事件中的作用来自推文转述;“OpenAI → Hugging Face攻击”的具体性质仅有提及。
这意味着,Nguyen提出的“同一批模型既能提升能力也能强化防御”是一个有技术基础支撑的命题,但“防御正在输掉”以及“更用力推进前沿”的结论,仍属于需要更多证据检验的立场性主张。在生物安全这一高风险领域,区分技术事实与战略判断,比接受任何一方的叙事都更为重要。
本文基于Latent Space对Eric Nguyen的访谈(article_id 17937)及其中的推文嵌入内容。技术事实(DNA字母表、序列长度、长上下文时间线、Evo/Evo 2应用、团队构成)来自访谈正文,可信度较高;涉及判断与主张的部分(防御处于下风、适配体实验细节、GLM5.2开放权重、OpenAI→Hugging Face攻击)或为个人判断,或为推文转述且缺乏第一方来源,已按来源方主张标注。来源未提供量化证据的维度,本文未做补充。
基因组语言模型的双重用途属性,使生物安全攻防共享同一技术底座;但“防御正在输掉”与“更用力推进前沿”仍是立场性主张,而非已被证据确立的结论。在能力升级与危险升级同源的逻辑下,区分可验证的技术事实与战略判断,是理解这场军备竞赛的前提。
主报道
主报道来源