从伦理到法律：为何、何时以及如何监管人工智能

4.结论

　　如果阿西莫夫的机器人学三定律能够避免或解决机器智能方面的所有伦理困境，他的文学生涯恐怕就不会那么长久。事实上，在引入三定律的故事（Asimov，1942）中，一个机器人就因为第二定律和第三定律之间的冲突陷入了瘫痪；最终只有在人类让自身陷入险境继而触发第一定律之后，问题才得以解决。（*这个机器人起初试图遵守一项措辞含糊的指令，而执行该指令势必导致其自身毁灭，结果它陷入了一种“平衡状态”（文中引用了吉尔伯特与沙利文的表述，但没有解释缘由），直到需要拯救人类生命的时刻来临，它才摆脱了这一状态。）

　　当机器人被迫在两害相权取其轻的情况下做抉择时，一条“不得伤害人类”的笼统规则显然是不够的。后来阿西莫夫自己又添加了一条“第零定律”，该定律规定机器人的最高职责是维护全人类的利益。在他的最后一部小说（1986年出版）里，一个机器人被问及如何判断什么是对全人类有害的。机器人答道：“确实，先生。从理论上讲，第零定律是我们问题的答案。但在实践中，我们永远无法做出决定。”

　　人们常常夸大对应对人工智能的新规则的需求。例如瑞安·阿博特（Ryan Abbott，2020，pp.2-4）认为，监管变革的指导原则应该是人工智能法律中立，这意味着法律绝不应区别对待人类行为和人工智能行为。尽管这一原则看似简单直接，但其全部影响很快就被放弃了：人们并不追求人工智能系统具备人格，也不把人工智能的标准（即阿博特书中所称的“理性机器人”）应用于人类行为。实际上，阿博特的论文归根结底是对人工智能活动的不同领域进行个案分析，以确定特定领域是否需要做出改变。

　　这是一种相当明智的方法，但还需要一些普遍适用的新规则，主要是为了确保能够实现本文开头提及的前两项原则：人类控制和透明度。人类控制要求对可开发的人工智能系统类型施加限制。预防原则为思考这些风险提供了一种思路，不过，在致命性自动化武器这类道德清晰的案例中，显然可以做出最明确的决策。公共部门需要更细致的限制措施，在这个领域，限制公职人员将决策外包给人工智能系统的权限比约束人工智能系统的行为更重要。至于透明度问题，政府官员的可问责还要求限制不透明程序的使用。除此之外，影响评估（impact assessment）、审计和设立人工智能监察员等措施可以减轻部分危害，有助于确保其他问题可追溯并归责于可被问责的法人（legal person）。

　　随着人工智能日益复杂和普及，以及与人工智能系统相关的危害变得越发常见，对人工智能施加限制的需求将会增加。本文试图将讨论从抽象思考哪些规则可以约束或控制人工智能的行为转向更实际的挑战，即监管机构为何、何时以及如何选择从伦理层面转向法律层面的监管。这些法律的具体性质会因司法辖区的不同而有所差异。唯一可以肯定的是，相关法律的数量很可能不止三条。■

　　（颜超凡译）

　　参考文献

　　Abbott，R.（2020）.The Reasonable Robot：Artificial Intelligence and the Law. Cambridge University Press.

　　Adye，M.G.J.（1878，18 October）.England，Russia，and Afghanistan.The Times.

　　Alfonsi，C.（2019）.Taming Tech Giants Requires Fixing the Revolving Door.Kennedy School Review，19，166.

　　Algorithm Charter for Aotearoa New Zealand.（2020）.https：//data.govt.nz/use-data/data-ethics/government-algorithm-transparency-and-accountability/algorithm-charter.

　　Allen，H.J.（2019）.Regulatory Sandboxes.George Washington Law Review，87，579.

　　Anderson，S.L.（2008）.Asimov’s “Three Laws of Robotics”and Machine Metaethics.AI & Society，22，477.

　　Anshar，M.，and Williams，M.-A.（2021）.Simplified Pain Matrix Method for Artificial Pain Activation Embedded into Robot Framework. International Journal of Social Robotics，13（10），187.

　　Ashrafian，H.（2017）.Can Artificial Intelligences Suffer from Mental Illness? A Philosophical Matter to Consider.Science and Engineering Ethics， 23，403.

　　Asimov，I.（1942，March）.Runaround.In Astounding Science Fiction，94.

　　Asimov，I.（1982）.The Complete Robot.Doubleday.

　　Asimov，I.（1986）.Foundation and Earth.Doubleday.

　　Auld，G.，Casovan，A.，Clarke，A.，and Faveri，B.（2022）.Governing AI Through Ethical Standards：Learning from the Experiences of Other Private Governance Initiatives.Journal of European Public Policy，29（11），1822.

　　Aven，T.（2011）.On Different Types of Uncertainties in the Context of the Precautionary Principle.Risk Analysis，31，1515.

　　Ayres，I.，and Braithwaite，J.（1992）.Responsive Regulation：Transcending the Deregulation Debate.Oxford University Press.

　　Baldwin，R.，and Black，J.（2016）.Driving Priorities in Risk-Based Regulation：What’s the Problem? Journal of Law and Society，43，565.

　　Baldwin，R.，Cave，M.，and Lodge，M.（2011）.Understanding Regulation：Theory，Strategy，and Practice（2nd ed.）.Oxford University Press.（1999）

　　Balkin，J.M.（2017）.The Three Laws of Robotics in the Age of Big Data.Ohio State Law Journal，78，1217.

　　Bhuta，N.，and Pantazopoulos，S.-E.（2016）.Autonomy and Uncertainty：Increasingly Autonomous Weapons Systems and the International Legal Regulation of Risk.In N.Bhuta，S.Beck，R.Geiβ，H.-Y.Liu，and C.Kreβ（Eds.），Autonomous Weapons Systems：Law，Ethics，Policy（pp.284）.Cambridge University Press.

　　Bostrom，N.（2014）.Superintelligence：Paths，Dangers，Strategies.Oxford University Press.

　　Boyer-Kassem，T.（2017）.Is the Precautionary Principle Really Incoherent? Risk Analysis，37，2026.

　　Calo，M.R.（2011）.Open Robotics.Maryland Law Review，70，571.

　　Chander，A.，and Lê，U.P.（2015）.Data Nationalism.Emory Law Journal，64，677.

　　Chesterman，S.（2020）.Artificial Intelligence and the Problem of Autonomy.Notre Dame Journal on Emerging Technologies，1，210.

　　Chesterman，S.（2021）.Weapons of Mass Disruption：Artificial Intelligence and International Law.Cambridge International Law Journal，10，181.

　　China Releases Draft Measures for the Management of Generative Artificial Intelligence Services.（2023，13 April）. National Law Review.

　　Collingridge，D.（1980）.The Social Control of Technology.Frances Pinter.

　　Danaher，J.（2019）.Regulating Child Sex Robots：Restriction or Experimentation? Medical Law Review，27，553.

　　Directive on Automated Decision-Making，（2019）.www.tbs-sct.gc.ca/pol/doc-eng.aspx?id=32592.

　　Doran，M.（2020，6 February）.Robodebt Legal Warning Came on Same Day Scheme Was Suspended by Federal Government.ABC News（Australia）.https：//www.abc.net.au/news/2020-02-06/robodebt-illegal-scheme-suspended/11939810.

　　Downes，L.（2009）.The Laws of Disruption：Harnessing the New Forces that Govern Life and Business in the Digital Age.Basic Books.

　　European Ethical Charter on the Use of Artificial Intelligence in Judicial Systems and Their Environment.（2018）.www.coe.int/cepej.

　　Fenwick，M.，Kaal，W.A.，and Vermeulen，E.P.M.（2017）.Regulation Tomorrow：What Happens When Technology Is Faster Than the Law? American University Business Law Review，6，561.

　　Fjeld，J.，Achten，N.，Hilligoss，H.，Nagy，A.C.，& Srikumar，M.（2020）.Principled Artificial Intelligence：Mapping Consensus in Ethical and Rights-based Approaches to Principles for AI.cyber.harvard.edu/publication/2020/principled-ai.

　　Gebru，T.，Hanna，A.，Kak，A.，Myers West，S.，Gahntz，M.，Khan，M.，and Talat，Z.（2023）.General Purpose AI Poses Serious Risks，Should Not Be Excluded From the EU’s AI Act.ainowinstitute.org/publication/gpai-is-high-risk-should-not-be-excluded-from-eu-ai-act.

　　Government’s Fraud Algorithm SyRI Breaks Human Rights，Privacy Law.（2020，5 February）.DutchNews.nl.

　　Guihot，M.，Matthew，A.F.，and Suzor，N.P.（2017）.Nudging Robots：Innovative Solutions to Regulate Artificial Intelligence.Vanderbilt Journal of Entertainment & Technology Law，20，385.

　　Gunningham，N.，& Grabosky，P.（1998）.Smart Regulation：Designing Environmental Policy.Clarendon Press.

　　Hagendorff，T.（2020）.The Ethics of AI Ethics：An Evaluation of Guidelines.Minds and Machines，30，99.

　　Harlow，C.，and Rawlings，R.（2009）.Law and Administration（3rd ed.）.Cambridge University Press.

　　Hill，K.（2014，14 July）.Are Child Sex-Robots Inevitable? Forbes.https：//www.forbes.com/sites/kashmirhill/2014/07/14/are-child-sex-robots-inevitable.

　　Hine，E.，and Floridi，L.（2022）.New Deepfake Regulations in China Are a Tool for Social Stability，but at What Cost? Nature Machine Intelligence，4，608.

　　Jobin，A.，Ienca，M.，and Vayena，E.（2019）.The Global Landscape of AI Ethics Guidelines.Nature Machine Intelligence，1，389.

　　Justo-Hanani，R.（2022）.The Politics of Artifcial Intelligence Regulation and Governance Reform in the European Union.Policy Sciences，55，137.

　　Le Moli，G.，Vishvanathan，P.S.，and Aeri，A.（2017）.Whither the Proof? The Progressive Reversal of the Burden of Proof in Environmental Cases Before International Courts and Tribunals.Journal of International Dispute Settlement，8，644.

　　Lee，S.（2020）.Coming into Focus：China’s Facial Recognition Regulations.https：//www.csis.org/blogs/trustee-china-hand/coming-focus-chinas-facial-recognition-regulations.

　　Liu，J.（2020）.China’s Data Localization.Chinese Journal of Communication，13，84.

　　Liu，Y.H.，Liao，W.Y.，Li，L.，Huang，Y.-T.，Xua，W.-J.，and Zeng，X.L.（2019）.Reduction Measures for Air Pollutants and Greenhouse Gas in the Transportation Sector：A Cost-Benefit Analysis.Journal of Cleaner Production，207，1023.

　　Luciano，F.，Cowls，J.，Beltrametti，M.，Chatila，R.，Chazerand，P.，Dignum，V.，Luetge，C.，Madelin，R.，Pagallo，U.，Rossi，F.，Schafer，B.，Valcke，P.，and Vayena，E.（2018）.AI4People—An Ethical Framework for a Good AI Society：Opportunities，Risks，Principles，and Recommendations.Minds and Machines，28，689.

　　Maas，M.M.（2018）.Regulating for ‘Normal AI Accidents’：Operational Lessons for the Responsible Governance of Artificial Intelligence Deployment. Proceedings of 2018 AAAI/ACM Conference on AI，Ethics，and Society （AIES ‘18），223.

　　Mac Síthigh，D.，and Siems，M.（2019）.The Chinese Social Credit System：A Model for Other Countries? Modern Law Review，82，1034.

　　Mondello，G.（2022）.Strict Liability，Scarce Generic Input and Duopoly Competition.European Journal of Law and Economics，54，369.

　　Murugan，V.（2009）.Embryonic Stem Cell Research：A Decade of Debate from Bush to Obama.Yale Journal of Biology and Medicine，82，101.

　　Pause Giant AI Experiments：An Open Letter.（2023）.futureoflife.org/open-letter/pause-giant-ai-experiments/.

　　Pehrsson，U.（2016，17 June）.Europe’s Obsession with Privacy Rights Hinders Growth.Politico.

　　Preparing for the Future of Artificial Intelligence.（2016）.https：//obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/preparing_for_the_future_of_ai.pdf.

　　Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence（Artificial Intelligence Act） and Amending Certain Union Legislative Acts.（2021）.（COM/2021/206 final）.eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX：52021PC0206.

　　Prosser，T.（2006）.Regulation and Social Solidarity.Journal of Law and Society，33，364.

　　Rio Declaration on Environment and Development.（1992）.In（Vol.UN Doc A/CONF.151/26（Vol.I），Annex I）.

　　Roberts，H.，Cowls，J.，Morley，J.，Taddeo，M.，Wang，V.，and Floridi，L.（2021）.The Chinese Approach to Artificial Intelligence：An Analysis of Policy，Ethics，and Regulation.AI & Society，36，59.

　　Robotics and Artificial Intelligence，Fifth Report of Session 2016-17.（2016）.（HC 145）.https：//publications.parliament.uk/pa/cm201617/cmselect/cmsctech/145/145.pdf.

　　Roy，K.（2015）.War and Society in Afghanistan：From the Mughals to the Americans，1500-2013.Oxford University Press.

　　Royal Commission on Motor Cars.（1906）.（Cd 3080-1）.

　　Satariano，A.（2020，20 August）.British Grading Debacle Shows Pitfalls of Automating Government.New York Times.

　　Satariano，A.（2023，31 March）.ChatGPT Is Banned in Italy Over Privacy Concerns.New York Times.

　　Selby，J.（2017）.Data Localization Laws：Trade Barriers or Legitimate Responses to Cybersecurity Risks，or Both? International Journal of Law and Information Technology，25，213.

　　Siegmann，C.，and Anderljung，M.（2022）.The Brussels Effect and Artificial Intelligence：How EU Regulation Will Impact the Global AI Market.arXiv.org.arxiv.org/abs/2208.12645.

　　Smith，B.W.（2016）.Regulation and the Risk of Inaction.In M.Maurer，J.C.Gerdes，B.Lenz，and H.Winner（Eds.），Autonomous Driving：Technical，Legal and Social Aspects（pp.571）.Springer.

　　Sunstein，C.（2005）.Laws of Fear：Beyond the Precautionary Principle.Cambridge University Press.

　　Turilli，M.，and Floridi，L.（2009）.The Ethics of Information Transparency.Ethics and Information Technology，11，105.

　　Ugur，M.（Ed.）.（2013）.Governance，Regulation，and Innovation：Theory and Evidence from Firms and Nations.Edward Elgar.

　　Veale，M.，and Zuiderveen Borgesius，F.（2021）.Demystifying the Draft EU Artificial Intelligence Act. Computer Law Review International，4，97.

　　White Paper on Artificial Intelligence.（2020）.（COM（2020） 65 final）.ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_en.pdf.

　　Wu，T.（2011）.Agency Threats.Duke Law Journal，60，1841.

　　Yang，F.，and Yao，Y.（2022）.A New Regulatory Framework for Algorithm-Powered Recommendation Services in China.Nature Machine Intelligence，4，802.

　　Zetzsche，D.A.，Buckley，R.P.，Barberis，J.N.，and Arner，D.W.（2017）.Regulating a Revolution：From Regulatory Sandboxes to Smart Regulation. Fordham Journal of Corporate & Financial Law，23，31.

　　国务院关于印发新一代人工智能发展规划的通知 ［State Council Issued Notice of the New Generation Artificial Intelligence Development Plan］.（2017）.（Guofa ［2017］ No 35）.www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm