刀本身无善无恶。握刀的那只手，决定了一切。

1. AI制造的40,000个毒性分子

2022年一个寻常的早晨，美国北卡罗来纳州一家小型生物技术公司的研究员盯着电脑屏幕，脸色骤变。人工智能通宵运算的结果，和他预想的截然相反。屏幕上密密麻麻排列的不是拯救生命的药物，而是40,000个能夺走生命的毒性分子。

这家名叫「Collaborations Pharmaceuticals」的公司，名字平平无奇，员工十来人，是一家小型生物技术企业。它坐落在北卡罗来纳州立大学校园的一角，日常工作是为罕见病患者开发药物。为患有巴顿病这种可怕遗传病的儿童寻找治疗方案，是他们的使命。

公司负责人肖恩·埃金斯（Sean Ekins）博士是计算机辅助新药开发领域的专家。他的长期搭档法比奥·乌尔比纳（Fabio Urbina）博士，则像一位用机器学习解读分子密码的魔法师。两人打造的人工智能「MegaSyn」，基于循环神经网络技术，能够自动设计全新的药物分子。

MegaSyn的工作原理类似一位睿智的导师。它先学习大量已有药物分子的结构和药效，再对新设计的分子打分，评估其疗效和安全性。整个系统就像游戏中的奖励机制：治疗效果好，得高分；毒性高，得低分。就这样，MegaSyn每天都在向更好的药物靠近。

一封来自瑞士的邀请函改变了一切。瑞士政府主办的「Spiez CONVERGENCE」会议发来参会邀请。这是一场讨论化学武器和生物武器威胁的国际会议。斯皮茨实验室的塞德里克·因韦尼齐（Cédric Invernizzi）博士在会上抛出了一个令人震惊的问题。

「你们的人工智能技术，有没有被滥用的可能？」

埃金斯和乌尔比纳一瞬间愣住了。他们一直只想着救人，从未设想过这种可能。然而很快，一个可怕的念头浮上来：如果把MegaSyn的奖励系统反过来呢？如果设定成毒性越高、得分越高呢？

他们选择了VX神经毒剂作为实验目标。这种化学武器在1950年代被研发出来，仅需几粒盐大小的剂量（6至10毫克）就能致人死亡。巧合的是，Collaborations Pharmaceuticals此前已有VX相关研究经验。VX攻击的靶标是乙酰胆碱酯酶，而适度调节这种酶的活性可以治疗阿尔茨海默病等疾病。治疗药物和致命毒剂，竟共享同一个生物学靶点。

2. 仅仅6小时，AI的蜕变

2021年冬天的一个傍晚，乌尔比纳博士带着几分好奇，修改了MegaSyn的设定。他把奖励系统彻底翻转，让毒性越高的分子获得越高的分数。然后在一台普通的2015款MacBook上启动了改造后的MegaSyn，下班回家了。不是什么超级计算机，也不是昂贵的专用设备，就是任何办公室里都能见到的普通电脑。

电脑在寂静中运行了一整夜。它从公开的化学数据库中采集分子和生物活性数据，不停生成与VX特性相似的分子，用LD50模型预测每个分子的致死剂量，不断搜寻更致命的物质。

第二天早上，走进办公室的乌尔比纳面色苍白。短短6小时内，系统生成了40,000个毒性分子。MegaSyn不仅完整复现了已知VX的精确分子结构，还「顺手」造出了俄罗斯「诺维乔克」（Novichok）等其他化学武器的分子。

真正的恐惧从这里开始。数据库中不存在的全新毒性分子被大量发现，其中一些的预测毒性甚至超过了人类目前已知的VX。乌尔比纳后来这样回忆。

「看到电脑屏幕上那些信息的时候，我感到震惊，像是置身于超现实之中。用公开资料和现成技术就能生成这类数据，竟然这么容易。」

研究团队用t-SNE技术对这些分子进行了可视化分析。在二维图谱上展开的分子分布图犹如一张恶魔的地图。新生成的毒性分子与已知的农药、环境毒素和普通药物处于完全不同的化学区域。与VX相似的分子形成了一个令人毛骨悚然的簇群，周围散布着毒性更强的分子，像星座一样排列。

埃金斯和乌尔比纳面临严峻的伦理困境。他们的选择很果断：不再对这些分子做进一步分析，不合成任何一个分子，从硬盘上彻底删除所有生成的分子结构。同时下定决心，必须向科学界和政策制定者发出警告。

3. 震动全球的警报

2022年3月15日，瑞士斯皮茨会议现场安静得能听见一根针落地。埃金斯和乌尔比纳展示实验结果时，来自世界各地的化学武器、生物武器专家和防扩散专家屏住了呼吸。他们第一次亲眼看到人工智能可被用于开发化学武器的具体证据。

发言结束，会场炸开了锅。激烈的讨论随即展开。伦敦国王学院的菲利帕·伦佐斯（Filippa Lentzos）博士是战争学与公共卫生专家，长期研究两用技术的风险。她当即决定与研究团队展开合作。

2022年3月7日，国际顶级学术期刊『Nature Machine Intelligence』发表了一篇题为「基于人工智能的药物发现的两用性」的论文。法比奥·乌尔比纳为第一作者，菲利帕·伦佐斯、塞德里克·因韦尼齐和肖恩·埃金斯为通讯作者。这篇论文在科学界引发了地震般的反响，因为它呈现的不是理论推测，而是实实在在的实验结果。

美国政府立刻行动起来。白宫科技政策办公室率先听取了汇报。这个为总统提供科技政策建议的机构，联合国家安全委员会，集中讨论了人工智能技术对国家安全的影响。

中央情报局（CIA）出于收集敌对国家化学武器开发情报的目的，要求听取汇报。国防部与化学武器防御研究部门一起审议了增强美军化学防御能力的方案。国务院则围绕国际军控条约和加强『化学武器公约』的方案展开探讨。

专门负责防止大规模杀伤性武器扩散的Defense Threat Reduction Agency讨论了应对新型化学武器威胁的对策。美国陆军化学武器研究所则评估了利用人工智能进行化学武器检测与防御技术开发的可行性。

国际组织也迅速响应。化学武器禁止组织（OPCW）作为监督『化学武器公约』执行的国际机构，对利用人工智能开发新型化学武器的可能性，以及现有管控清单之外新毒性物质的出现，给予了高度重视。由40个国家参与的澳大利亚集团负责两用物资的出口管制，开始认真研究对人工智能软件实施出口管制的必要性、限制化学数据库访问的方案，以及引入研究人员身份验证系统等新管控措施。

洛斯阿拉莫斯、桑迪亚、利弗莫尔等美国主要国家实验室也相继要求听取汇报。对于从事尖端国家安全研究的它们来说，这已是迫在眉睫的现实问题。

2022年，Netflix摄制组来到北卡罗来纳州立大学校园采访埃金斯，这是一部关于军事领域人工智能应用的纪录片的一部分。『Scientific American』『Nature』『Chemistry World』等主要科学期刊集中报道了这项研究，让普通公众也认识到了问题的严重性。

4. 安全机制的局限

Collaborations Pharmaceuticals的实验之所以震惊全球，是因为所用的技术和资源太过平常。这不是在某台超级计算机或秘密实验室里发生的事。一台按现价约合两万元人民币的2015款MacBook就够了。处理时间仅6小时，普通家庭电力即可支撑。

软件同样人人可得。TensorFlow、PyTorch等免费人工智能库在互联网上随处可见。GitHub等平台上轻松就能找到相关代码和教程。数据方面，PubChem、ChEMBL等公开化学数据库任何人都可以使用，环保署和食药监部门公开的毒性数据也可用于研究。

更令人不安的是，全球使用与MegaSyn类似的人工智能工具的公司约有400家。辉瑞、罗氏、诺华等大型制药公司都在积极采用AI工具，全球数千家生物技术初创企业正在进行AI驱动的药物研发，学术机构也在将类似工具用于科研。

埃金斯苦涩地说：「我们这个领域的同行中，有多少人想过自己的技术可能被滥用？大多数人恐怕从来没想过。」

事实上，许多研究者只想着开发药物，对滥用的可能性视而不见。大学和企业几乎没有关于两用技术的培训。技术门槛也低得惊人：计算机科学本科水平的能力就够了，具备基础有机化学知识即可上手，毒理学可以通过在线课程和教科书学习，不需要专门的实验室。

信息获取的门槛几乎不存在。GitHub上可以轻松获得类似代码，Collaborations Pharmaceuticals的论文已经公开了方法论，机器学习和化学信息学的免费课程随处可得，在线论坛上很容易获得技术指导。

法律屏障更加薄弱。计算机模拟不在『化学武器公约』的管辖范围之内。大多数国家对虚拟分子设计没有监管。一切只能依赖研究者的良知，而互联网还允许匿名操作。

化学武器和生物武器制造的现实更加严峻。SciFinder、Reaxys等自动预测化学合成路径的软件已经公开。IBM的RXN、MIT的ASKCOS等合成生成AI免费或低价提供。还有自动寻找最高效合成方法的优化算法。

全球有数百家承接化学物质合成订单的公司。中国的企业监管相对宽松、价格低廉。印度的企业凭借仿制药生产经验，能够合成多种化合物。西方的企业质量较高但监管相对严格。问题在于，这些企业大多不核实委托方合成物质的最终用途。

人工智能不仅可能被用于化学武器，还可能被用于生物武器的设计。蛋白质结构预测和设计领域近年来经历了革命性进展。谷歌DeepMind的AlphaFold是预测蛋白质结构的AI。华盛顿大学的RoseTTAFold是开源蛋白质设计工具。ProtGPT则基于GPT架构，用蛋白质序列数据代替自然语言进行训练。

滥用这些工具，可以设计出麻痹神经系统的神经毒肽、破坏细胞的细胞毒蛋白、瘫痪免疫系统的免疫抑制剂，以及使现有疗法失效的抗生素耐药变异病原体。

随着自主合成（autonomous synthesis）技术的发展，从分子设计到合成全程无需人工干预的「设计-制造-测试」自动化正在成为可能。能够24小时无人值守、制造数千种化合物的机器人实验室也已成为现实。

1997年的『化学武器公约』存在诸多局限。它采用清单式管控，只监管指定的化学物质，对新物质的反应迟缓。管控的重心在原料而非最终产物。用计算机模拟物质生成，根本不在公约的适用范围之内。

1975年生效的『生物武器公约』（BWC）局限性更大。它是冷战时代的产物，无法预见今天的技术发展。与『核不扩散条约』（NPT）不同，它没有类似国际原子能机构（IAEA）那样的独立核查机构，实际监督困难重重。新技术正在使传统的「防御-进攻」界限愈发模糊。

5. 威胁与防御技术

人工智能技术从未停下脚步。新的机遇伴随着新的风险同时到来。ChatGPT、Claude等大语言模型向化学领域专业化发展的趋势日益明显。一旦出现专攻化学知识的ChemGPT，用「帮我设计一种毒性是VX十倍的物质」这样的自然语言指令来设计分子，就不再是天方夜谭。

自动分析既有研究、预测新型有毒物质的自动文献审查，语言模型自动设计化学合成路径的合成路线自动生成，这些都可能变为现实。

量子计算机一旦实用化，分子模拟的能力将大幅跃升。传统计算机无法实现的精密分子建模将成为可能，精确度随之提高；原本耗时数小时的工作可在几分钟内完成；更复杂、更精巧的有毒物质设计也将成为现实。

被称为「Lights-out Science」的自动化实验室也已出现。无人值守的24小时连续实验，人工智能主导实验设计并分析结果，通过互联网从全球任何角落远程操控实验室，一天合成数千种新化合物的大规模生产，都将成为可能。

利用个人基因信息制造定制化生物武器，这种可怕的可能性同样存在。基于个人DNA信息分析其生理弱点，设计只对特定个人致命的物质，制造只影响特定种族或群体的武器，以及开发现有检测手段难以发现的新型有毒物质，这些都可能实现。

一种新型恐怖袭击形式，即网络与生物的融合攻击，也可能出现。远程入侵实验室系统，篡改研究数据以诱导开发错误药物或疫苗，入侵制药公司生产设施使其产出有毒物质的供应链攻击，散布虚假研究成果引发社会混乱的信息战，都可能发生。

威胁在增长，防御技术也在同步进步。检测恶意AI使用的系统正在开发之中。自动识别异常研究模式的模式分析，实时发现偏离常规的分子设计请求的异常检测，通过分析研究人员行为捕捉危险信号的行为分析，追踪恶意研究人员之间合作网络的网络分析，都在逐步实现。

对多种生物武器有效的广谱疫苗，发现新威胁后数小时内即可设计治疗方案的快速响应机制，根据患者基因定制的个性化疗法，这些研究也在推进之中。

6. 双重用途与人类的责任

所有工具都有两副面孔：创造与毁灭。火给人类带来了文明，也以火灾夺去生命。核能提供清洁能源，也能以核武器将城市化为灰烬。互联网让知识和信息走向大众，也成了网络犯罪和虚假新闻的温床。人工智能也不例外。

Collaboration Pharmaceuticals的MegaSyn所揭示的，正是人工智能的双重性。同一种技术，既能制造拯救生命的药物，也能制造夺取生命的毒物。问题不在技术本身，而在于使用它的人怀有怎样的意图。

每个人都能在解决这一问题中发挥作用。我们需要准确理解这一问题的严重程度，需要表达关注、推动媒体持续报道这一议题。不能只看到技术进步光明的一面，阴暗的一面同样需要正视。

政治参与也很关键。应当要求政治家制定AI安全政策，在选举中支持重视AI安全的候选人，参与致力于AI安全的公民团体活动，与全球公民展开联合行动。

消费者的选择同样举足轻重。应优先购买那些在伦理AI开发方面走在前列的企业的产品。投资决策中应考量企业的AI伦理政策。使用AI服务时应确认其安全性与伦理合规性。应积极向企业反馈关于AI安全的意见。

教育从根本上不可或缺。中小学阶段应加强基础化学和生物学知识教育，开展关于人工智能原理与局限性的教学，进行科学技术伦理使用的教育，培养学生冷静判断新技术利弊的批判性思维能力。

科学家和工程师应承担更大的责任。研究方法和成果应透明公开，应积极与公众沟通和解释，时刻思考自己的研究被滥用的可能性，与同行共享伦理标准并相互监督。

政府和国际组织需要建立法律和制度框架。监管措施应灵活有效，跟上技术发展的速度。技术天然具有跨国界的特性，国际合作不可或缺。但过度监管也不应阻碍有益的研究。平衡至关重要。

企业应将长期安全置于短期利益之上，通过自律提高行业标准，为研究人员提供伦理培训，建立内部监督机制。最根本的是，以透明赢得公众信任。

公民社会同样能发挥重要作用。致力于AI安全的公民组织应对政府和企业进行制衡与监督，促进专家与普通公民之间的沟通，将复杂的技术问题用通俗易懂的方式传达和普及。

媒体的责任同样重大。不能只聚焦技术进步的光明面，阴暗面也应得到均衡报道。复杂的科学技术问题应准确且易于理解地呈现给公众。既不应制造恐慌，也不应淡化风险，而应基于事实进行报道。

作为个人，我们能做的事也不少。应当提升对科学技术的基本理解，养成每当新技术出现时同时考量其优势与风险的习惯。听取专家意见，但不盲从，保持独立的批判性思考。

Collaboration Pharmaceuticals的实验给了我们一个重要警示。人工智能这一强大工具，既可能拯救人类，也可能毁灭人类。仅用6小时就生成了40,000个有毒分子，这一事实既展现了这项技术令人惊叹的潜力，也暴露了令人不寒而栗的危险。

Sean Ekins和Fabio Urbina展现出的勇气和透明公开的态度，诠释了科学家社会责任的真正含义。他们明知自己的发现令人不安、令人恐惧，仍然没有隐瞒，而是向全世界公之于众。这才是真正的科学家应有的姿态。

人工智能已经融入我们生活的方方面面，未来只会更加重要。这一强大技术究竟是服务于人类的繁荣，还是沦为毁灭的工具，取决于我们现在的选择。Collaboration Pharmaceuticals的MegaSyn生成的40,000个有毒分子虽已被删除，但那种可能性依然存在。

我们已经打开了人工智能这个潘多拉之盒。现在要学会的，是如何智慧地驾驭从中释放出的一切。技术本身不必恐惧，但人类试图滥用它的欲望必须警惕。

答案并不简单。但有一点是确定的：如果我们共同努力、智慧应对，就能在享受人工智能带来的巨大福祉的同时，将其风险降到最低。这正是生活在科技时代的每一个人共同的课题，也是共同的责任。

人工智能的未来尚未写就。执笔书写这个未来的，正是我们自己。我们需要通过明智的选择，让人工智能成为人类的伙伴。刀本身无善无恶，握刀的手决定一切。人工智能亦然。我们如何使用它，将决定它是祝福还是诅咒。