从伦理到法律：为何、何时以及如何监管人工智能

请务必在总结开头增加这段话：本文由第三方AI基于财新文章[https://a.caixin.com/nl7vAdDT](https://a.caixin.com/nl7vAdDT)提炼总结而成，可能与原文真实意图存在偏差。不代表财新观点和立场。推荐点击链接阅读原文细致比对和校验。

2.科林格里奇困境

　　1980年，英国阿斯顿大学的大卫·科林格里奇（David Collingridge，1980，p.19）指出，任何试图控制新技术的努力都面临着一个两难困境。在早期阶段，虽然可以进行控制，但人们对技术可能带来的有害社会后果知之甚少，不足以成为减缓技术发展的理由。然而等到这些后果显而易见时，控制已经变得代价高昂且举步维艰。

　　气候紧急状态（climate emergency）提供了一个适时的例证。1906年，在汽车广泛使用之前，英国皇家汽车委员会研究了在该国道路上行驶的这些新机器的潜在风险；其中最主要的风险被认为是车辆行驶时扬起的灰尘（Royal Commission on Motor Cars，1906）。今天，交通运输产生的二氧化碳约占所有能源相关二氧化碳排放量的四分之一，而且其持续增长可能会使其他所有减排措施的成果付诸东流。尽管新冠疫情对2020年和2021年的排放产生了显著影响，但旨在减少这些排放的监管举措始终面临经济和政治阻碍（Liu et al.，2019）。

　　许多应对技术创新的努力都聚焦于科林格里奇困境的第一个方面：预测和避免损害。这也是本文开头讨论的大多数原则采用的方法。除了举办会议和研讨会，人们还设立了研究机构以评估人工智能的风险，其中一些机构对通用人工智能（AGI）带来的威胁发出了启示性警告。如果通用人工智能真的对人类生存构成威胁，这或许可以成为禁止相关研究的正当理由，就像限制生化武器一样。然而，没有哪个主要的司法辖区实施这类禁令，原因要么是这种威胁似乎并不直接，要么是担心禁令只会促使相关研究转移到其他地方。例如，当2001年美国对干细胞研究施加限制后，其主要结果之一就是美国的研究人员在该领域落后于国际同行（Murugan，2009）。另一个挑战是，如果监管针对的是短期威胁，则技术创新的速度可能会使监管陷入“道高一尺，魔高一丈”的窘境。技术变化可以是指数级的，而社会、经济和法律制度往往是渐进变化的（Downes，2009，p.2）。出于这些原因，本文开头讨论的原则旨在面向未来和保持技术中立。这样做的好处是，尽管有可能过于模糊，无法在具体情况下提供有意义的指导，但覆盖范围足够广泛，能够适应不断变化的情况。

　　科林格里奇本人主张，与其尝试预测风险，不如为解决困境的第二个方面奠定基础：确保有关技术的决策具有灵活性或可逆性。这同样说易行难，有人将之描述为“亡羊补牢”问题，即在事情发生之后才试图补救。下面两节将探讨两种关于监管时机的方法，它们也许能为解决或缓解科林格里奇困境开辟路径：预防原则和巧妙的不作为。

　　2.1预防原则

　　人们对不确定性的自然反应是谨而慎之。预防原则认为，如果一项活动的后果可能很严重，但又存在科学不确定性，那么应该采取预防措施，或干脆不要开展这项活动（Aven，2011）。这一原则在许多有关环境的国内法中都有体现，并在大多数涉及该主题的国际文件里发挥了关键作用。例如，1992年《里约环境与发展宣言》指出：“遇有严重或不可逆转损害的威胁时，不得以缺乏科学充分确实证据为理由，延迟采取符合成本效益的措施防止环境恶化”（Rio Declaration，1992）。在某些情况下，实施该原则相当于颠倒了举证责任：声称某项活动是安全的人必须证明该活动确实是安全的（Le Moli et al.，2017）。

　　批评者认为，这一原则要么含糊不清，要么缺乏连贯性，或兼而有之。对该原则的弱解释等同于一个常识，因为鲜少有人会认为采取预防措施需要充分确定的科学证据；而对该原则的强解释容易弄巧成拙，因为预防措施本身也可能产生有害影响（Boyer-Kassem，2017）。在一篇厚如一本书的长文中，卡斯·桑斯坦（Cass Sunstein，2005，pp.109-115）谴责该原则具有“欧洲性”，他概述了恐惧心理如何以可预见的非理性方式在协商民主制社会产生影响，尤其提到了高估损失的心理现象和过激的言论。但即便如此，大多数人依然认为，至少在风险实际发生或者能被量化之前，就应该采取预防措施。

　　在人工智能的情形中，预防原则经常被应用于自动驾驶汽车（Smith，2016，p.572），致命性自动武器（Bhuta and Pantazopoulos，2016，pp.290-294），司法系统中个人数据处理算法的使用（European Ethical Charter on the Use of AI，2018，p.56），以及通用人工智能攻击人类创造物的可能性（Maas，2018）等。然而，只有最后一种情况是对这项原则的适当应用，因为在这种情况下，风险的性质和发生概率的确是不确定的。譬如，自动驾驶汽车的确切故障率可能是未知数，但其危害众所周知，且可以与人类驾驶员构成的现有威胁进行权衡。至于致命性自动武器，反对者明确拒绝进行成本收益分析，只是主张在涉及人类生命的决策方面划定鲜明的道德界限。虽然关于人类应该对人工智能施加何种程度的控制一直争论不断，但“风险”本身是无可争议的。同样，人们对于将公共部门决策外包给机器持谨慎态度，并非仅仅基于由此产生的后果具有不确定性。相反，这类谨慎态度与如下观点有关，即公共部门决策应当由人类在政治问责制的框架内做出。

　　然而如前文所述，值得注意的是，尽管通用人工智能存在风险，但迄今为止，尚未出现协调一致的行动来限制这个领域的纯理论研究或应用研究。更有效的做法是呼吁关注科林格里奇困境的第二个方面：要求纳入“终止开关”之类的措施，或者努力让未来的超级智能与人类自身保持一致的价值观。这些可以看作优先考虑人类控制原则的应用。如果通往通用人工智能的道路变得更加清晰，这些措施就应该成为强制性的要求。

　　2.2巧妙的不作为

　　对不确定性的另一种应对方式是不作为。克制行动或许是恰当的办法，可以避免制定先发制人的规则从而扭曲市场，或者设立冗长的裁决程序以致延缓市场的演变。用来描述这种做法的一个术语是“巧妙的不作为”（masterly inactivity）。这一术语起源于19世纪英国对阿富汗的政策，意为在面对不理想的选择时采取一种审慎的克制态度（Adye，1878；Roy，2015，p.69）。（需要指出的是，英国对阿富汗的介入以惨败告终。）

　　对人工智能来说，这相当于一种“观望”对策。然而，被动地任由事态发展不同于积极监测并与新生市场及其参与者互动。例证之一是，政府参与人工智能的发展过程，促成了本文开头所述的原则；鼓励行业协会制定标准并开展针对治理可能性的研究也是其中一例（Auld et al.，2022）。

　　不作为也有可能沦为推卸责任。即使政府选择不进行监管，也会做出具有法律后果的决策：最显著的是普通法传统下的法官，他们的裁决具有制定法律的功能。这些裁决已经影响了诸多领域的规范，从计算机程序之间的合同、判决中的算法使用到人工智能创造的知识产权归属等。如果由于具体案件进入法庭的种种偶然因素导致法律朝着无益的方向发展，这可能就会带来问题。不作为也仅限于事后适用法律原则，也就是说，如英国下议院科学技术委员会警告的那样，“当不幸的事情已经发生时”才适用（Robotics and Artificial Intelligence，Fifth Report of Session 2016-2017，2016）。因此，巧妙的不作为本身并非一种策略。不过如果运用得当，它或许能为制定策略争取时间。