[AI书房] 第7章 建立国际人工智能机构的必要性
AI霸权战争
第7章 建立国际人工智能机构的必要性
金京镇
第7章 建立国际人工智能机构的必要性
随着人工智能（AI）的飞速发展以及ChatGPT等生成式AI技术的出现，人们对AI可能带来的潜在风险愈发关注。建立国际机构以制定国际层面的应对体系并确立共同规范的呼声日益高涨。
OpenAI首席执行官山姆·奥特曼（Sam Altman）也一直在强调建立国际监管机构的必要性。他提议以国际原子能机构（IAEA）为模型建立AI监管机构，并主张通过该机构确保AI技术的安全性和责任制。
[图25] 随着人工智能（AI）的飞速发展和生成式AI技术的出现，不断有人主张有必要建立国际机构，以制定国际层面的应对体系并确立共同规范。
奥特曼主张，正如IAEA监管核技术的安全使用并防止扩散一样，AI技术也需要国际性的监管和规约。他提到，为“虽好但非常危险的技术”设置安全装置至关重要。这一提议不仅涵盖当前的AI技术，还包括未来的先进AI系统。他认为，由于AI技术可以跨越国界产生全球性影响，仅靠个别国家的监管存在局限性，因此国际机构可以提供更具灵活性和包容性的监管体系。
AI技术没有国界，随着技术的普及，任何一个或几个国家能完全控制AI的想法将逐渐消失。如果AI被误用或管理不当，可能会在全球范围内产生负面影响。不能仅将AI技术的开发和使用交给市场。AI在实现可持续发展目标（SDGs）方面可以发挥重要作用，但如果管理不善，反而有加剧不平等的风险。AI的正确管理方式（治理）可以成为实现SDGs的AI创新的核心驱动力。
7-1 讨论背景及必要性
生成式AI时代的到来。随着以ChatGPT为代表的生成式人工智能技术的飞速发展，AI的影响力已渗透到社会的方方面面。因此，确立能够处理AI应用全过程中的伦理和社会问题的国际规范变得愈发重要。应对超智能时代。应在国际层面做好应对超智能时代的准备。
国际合作的重要性。美国、欧盟等主要国家及G7正围绕AI的开发与使用积极讨论国际合作，但鉴于AI技术跨越国界的特性，需要建立一个有更多国家参与的普遍性合作体系。为了在AI时代守护生命尊严、平等、自由等国际社会一贯追求的价值，有必要制定国际共识与合作机制。
共同应对问题。为了共享AI带来的利益并促进相关产品、服务及数据的贸易，确保技术标准和互操作性、支持发展中国家等至关重要。为预防AI被误用而可能导致的国际犯罪、恐怖主义、战争等各种问题，国家间的紧密协作与应对必不可少。
各国监管差异带来的问题。如果各国应对AI风险的方式和监管水平不同，可能会成为实现共同价值的障碍。因此，有观点认为需要在国际层面进行合作与协调，以调整这些差异。
7-2 国际机构构建方案
国际机构。国际机构是指各国经协商建立的派生主体，存在政府间国际组织（IGIO）、非政府国际组织（NGIO）、联合国附属机构以及与现有国际机构建立伙伴关系等多种形式。就人工智能而言，政府间合作是核心，因此政府间国际组织的形式较为适宜，同时与相关领域的其他国际机构和团体进行合作也至关重要。
国际机构的主要功能。提供谈判平台：建立一个可以讨论并决定国家间信任确保、监管水平相互认可、相关机构合作及能力建设等的平台。确立共同价值规范：引导国际社会就维护公平、防止歧视等共同价值的原则及遵守事项达成共识。承认监管等同性：尊重各国的社会价值和监管水平差异，并建立将其认可为履行国际规范的有效措施的程序。跨部门合作：由于AI与个人信息、版权、环境、贸易、人权等多个领域密切相关，应建立与相关国际机构的合作体系。支持能力建设：缩小发展中国家的AI技术差距，支持能力建设与交流，使全球能够均衡享受AI带来的惠益。
规范的确立、执行与履行监督。除设立协定外，还通过成员国间的附加协定制定规范，并履行执行与监督职能。如果成员国之间因不履行义务而产生冲突，应能通过司法或非司法程序解决争议。
7-3 国际机构构建程序
签署设立协定。成员国签署设立协定和总部协定，并通过各国国内法程序进行批准，从而正式设立机构。资金来源应通过强制分摊金、自愿捐款等多种方式筹集。此外，应与国内利益相关者及主要AI强国（如美国、欧盟等）紧密合作，说服其认可设立国际机构的意义和必要性，并引导其参与。
7-4 联合国提议设立AI监管机构
联合国（UN）为讨论AI技术的潜在风险与机遇召开了多次会议，并致力于建立全球层面的监管体系。
联合国秘书长安东尼奥·古特雷斯（António Guterres）表示，支持模仿国际原子能机构（IAEA）设立AI监管机构，以确保AI技术的安全使用。他警告称，生成式AI（Generative AI）等最新技术可能会放大虚假信息等社会问题，并强调需要国际合作来管理这些技术。
古特雷斯秘书长在2023年表示，支持以国际原子能机构（IAEA）为模型建立全球AI监管机构，以确保AI技术的安全使用。他提到，AI技术与核技术相似，是“非常有用但同时也可能带来危险的技术”，并强调需要国际合作来进行管理。他警告称，AI虽然能为人类提供巨大的机遇，但同时也可能带来生存风险。如果AI被误用，可能会被犯罪分子或恐怖分子利用；从长远来看，还可能导致经济不平等、文化多样性丧失，并对民主和人权构成威胁。他还警告，如果AI技术用于军事目的，可能会通过开发新型武器以及与生物技术的结合而造成严重威胁。
2023年11月，在英国伦敦以北约80公里的布莱切利举行的人工智能安全峰会（AI Safety Summit）上，古特雷斯强调，AI技术的发展速度和范围前所未有，需要新的国际解决方案来管理风险。他在会上表示：“AI技术的风险通过国际合作可以得到最有效的解决”，并再次提到设立AI监管机构的必要性。
28个国家和欧盟签署了《布莱切利宣言》（Bletchley Declaration）。该宣言的内容包括基于对AI技术机遇与风险的共同理解，促进全球合作，以实现安全且负责任的AI开发。包括中国、美国、韩国、加拿大、澳大利亚、巴西在内的28个国家签署了该宣言。布莱切利是电影《模仿游戏》中，阿兰·图灵等许多密码破解专家为破解德国“恩尼格玛”密码做出贡献的历史性地点。这里曾是第二次世界大战期间英军的密码破解中心，被公认为现代计算的诞生地。
古特雷斯主张，应制定符合人权、法治和全球伦理的监管体系，并组建了科学咨询委员会和AI高级别咨询机构来讨论具体的执行方案。人工智能高级别咨询机构（High-Level Advisory Body on AI）负责汇集政府、企业、学术界、民间社会等各利益相关方的专业知识，评估AI技术的风险与机遇，并为加强国际合作提出建议。他表示，联合国计划发布一份行为准则，以促进数字平台和AI技术的负责任使用。
顺便提一下，在国际社会中，英国正积极采取行动，力求在全球AI监管中发挥主导作用。
英国首相里希·苏纳克（Rishi Sunak）强调了确保AI安全性的国际合作重要性，并通过主办AI监管相关峰会等举措强化全球领导力。英国通过2023年在布莱切利园（Bletchley Park）举行的AI安全峰会，评估了AI技术的潜在风险，并主导了关于安全且负责任的AI开发的国际讨论。
英国政府设立了人工智能安全研究所（AI Safety Institute），评估AI模型的社会影响，并进行确保安全性的研究。这些努力可以看作是英国战略的一部分，旨在引领AI技术的全球监管和伦理使用，并在AI领域获得国际领导地位。英国以创新、安全、包容为核心原则，平衡推进AI技术的发展与监管。7-5 进一步讨论的方向与课题。目前讨论的国际合作及机构设立方向，首要的是建立基于IAEA模型的AI监管机构。山姆·奥特曼、联合国秘书长安东尼奥·古特雷斯等人建议以国际原子能机构（IAEA）为模型设立AI监管机构。其目的在于强调国际合作，以管理AI技术可能带来的生存风险（超智能AI、军事应用等）。该机构将致力于确保AI的安全、透明和责任制，并负责评估和管理前沿AI系统（最先进的AI系统）的风险。
在2023年英国举办的人工智能安全峰会上，28个国家和欧盟基于对AI技术机遇与风险的共同理解，签署了《布莱切利宣言》。该宣言强调了为促进安全且负责任的AI开发而进行的国际合作。
联合国正与政府、企业、民间社会等各利益相关方合作，以构建AI技术的全球治理体系。正在评估AI技术对人权、和平及可持续发展的影响，并于2024年通过了包含AI相关国际规范的决议（A/78/L49）。
必须分析AI技术对国际法的影响，并具体落实将现有国际法应用于AI的方案。针对AI的军事应用，应评估使用武力的比例性和必要性，并加强保护平民的国际规范。
为防止AI技术的红利仅集中在特定国家或企业，需要采取措施缩小发展中国家与发达国家之间的技术差距。为此，应确保对AI技术的公平准入，并扩大技术转让及能力建设规划。建立全球AI研究合作网络也势在必行。
为确保AI技术不引发歧视、偏向、侵犯隐私等伦理问题，必须制定国际伦理标准。为此，国际社会正在讨论设立AI伦理委员会、引入人权影响评估系统、确保算法透明度等措施。
考虑到AI技术的发展速度，需要一个灵活且具有适应性的监管体系，而非过于僵化的监管。应通过多边协议制定确保AI安全性和责任制的国际规范。可以参考应对气候变化的《巴黎协定》等模型进行发展。
为了确保AI技术的安全利用，国际合作与监管体系必不可少。基于IAEA模型的AI监管机构的设立、《布莱切利宣言》、国际网络的构建等都是重要的第一步。需要持续进行进一步的讨论与合作。前沿AI的风险管理、消除数字鸿沟、伦理利用以及与国际法的结合等，都将是未来的主要课题。
<完>