为什么AI公司要管“打印”DNA的事？

大新闻：AI老板们集体写信，要管DNA“打印机” 最近，好几位人工智能（AI）公司的老大——比如OpenAI的Sam Altman、Google DeepMind的Demis Hassabis、Anthropic的Dario Amodei——一起写了一封公开信。他们不是要发布新产品，而是想请美国国会通过新法律，让坏人没法用AI来制造“生物武器”。 等等，AI和生物武器有什么关系？生物武器又是啥？别急，我们慢慢讲。 DNA可以“打印”了？ 你知道DNA吧？就是决定你长什么样的密码。科学家在1950年代第一次人工合成了DNA。到了现在，已经有几十家公司能用机器像打印机一样“打印”DNA片段，然后卖给研究人员用来做新药、治病。 但是，问题来了：如果坏人买到这些DNA片段，拼出致命的病毒怎么办？2017年，就有加拿大科学家花10万美元从网上买DNA，拼出了已经灭绝的马痘病毒。虽然他们是为了提醒大家小心，但很多人担心：同样的方法可以拼出致命的天花病毒！ AI会帮坏人设计病毒吗？ 以前，造生物武器需要很专业的知识。但AI发展太快了，可能让坏人更容易设计出危险的毒素或病毒。比如，只要问AI“帮我找一家不查客户的DNA公司”，AI就能告诉你——虽然真要造出活病毒还需要生物学知识，但门槛越来越低。 斯坦福大学的微生物专家David Relman说：“AI可以教你怎么修改订单，让那些查序列的公司都发现不了你要做坏事。” 能不能管住DNA“打印机”？ 其实，很多正规的DNA合成公司早就自觉查客户了。它们用软件检查订单里有没有“危险序列”——比如会让病毒变得更毒或更容易传播的DNA片段。还有一个国际联盟（IGSC）从2009年就开始推广这种做法。 但问题在于：不是所有公司都查。而且，就算查了，也可能漏掉。去年，微软的研究员发现，AI设计的蛋白质序列居然能骗过筛查软件！所以光靠自愿还不够。 新法律能做什么？ 现在，美国一些参议员提出了一个新法案：要求所有在美国卖DNA的公司，都必须查客户和订单，防止坏蛋买到危险片段。拜登政府也出台规定，要求用政府钱研究的人只能向有筛查的公司买DNA。 AI公司自己也要负起责任。比如，应该让AI不要回答危险问题——就像不能问“怎么造炸弹”一样。 如果不这么做会怎样？ 生物恐怖袭击虽然很少见，但一旦发生，可能造成大规模伤亡和恐慌。更可怕的是，AI设计的病毒可能意外泄露，引发全球大流行病。所以这些CEO们说：我们必须现在行动，等出事就晚了！