系列: 人工智能治理
报告

软法作为AI法规的补充

编者注:

布鲁金斯学会的人工智能和新兴技术(AIET)计划的这份报告是“人工智能治理”系列,该系列确定了与AI相关的关键治理和规范问题,并提出了政策补救措施来应对与新兴技术相关的复杂挑战。

企业领导人,包括Google CEO 桑达尔·皮查(Sundar Pichai),微软总裁 布拉德·史密斯特斯拉和SpaceX首席执行官 伊隆·马斯克(Elon Musk),以及IBM前首席执行官 吉妮·罗密蒂(Ginni Rometty) 呼吁加强对人工智能的监管。政治家们也是如此 双方 像过往的学者一样 学术研究机构智囊团。采取行动的根本是要理解人工智能,尽管具有许多好处,但它也存在许多风险。问题包括有偏见的算法,侵犯隐私权,以及由于自动驾驶汽车软件有缺陷而可能造成的伤害。随着在刑事司法,医疗保健,机器人技术,金融服务和教育等领域中越来越多地采用基于AI的解决方案,将会有使公司利益与社会利益冲突的激励措施。这场冲突提出了一个问题,即应该建立什么样的系统来减轻潜在的危害。

软法的作用

虽然有关如何负责任地建立健康的AI生态系统的对话当然应该包括法规,但这不应该是工具箱中的唯一工具。关于“软法”的作用也应该有对话的空间。正如亚利桑那州立大学法学教授加里·马尔琴(Gary Marchant) 解释,软法是指“提出了实质性期望,但不能由政府直接执行的框架,其中包括诸如专业准则,私人标准,行为准则和最佳实践等方法。”

软法律并不新鲜。 2018年的作者 文章 科罗拉多州技术法杂志指出,软法的使用可以追溯到几十年前。他们列举的例子包括美国绿色建筑委员会(US Green Building Council)1993年的能源和环境设计领导力(LEED)认证标准,食品和药物管理局(FDA)长期发布非约束性指南的做法,以及近年来诸如此类机构的博客和推文作为联邦贸易委员会和联邦通讯委员会。

还有其他例子。蓝牙是笔记本电脑和无线扬声器之类的成对设备之间进行短距离无线通信的标准,它是通过 合作 科技公司之间。 无线上网是由电气和电子工程师协会(IEEE)开发的一套无线局域网(LAN)标准,允许我们将计算机和许多其他设备连接到家庭和办公室中的热点。通过认证 无线上网联盟相关的软法框架,可确保标有Wi-Fi联盟的产品 商标 具有“关于互操作性,安全性和一系列特定于应用程序的协议的业界公认的标准。”

“虽然软法已经在许多领域得到应用,但是有很多原因使它特别适合于AI。”

尽管软法已经在许多领域得到应用,但是有很多原因使它特别适合于AI。首先,作为游行者 ,“人工智能的发展速度远远超过了任何传统监管体系的跟上能力。”国会立法和机构行政法规的制定以年为单位。相比之下,私人和公共部门的巨额投资刺激了AI的快速发展。 根据 美国国家风险投资协会(National Venture Capital Association),“ 2019年美国1,356家与人工智能相关的公司筹集了184.57亿美元”。白宫科学技术政策办公室(OSTP)于2020年2月发布的报告 已报告 在政府的2020财年中,“联邦对AI R的未分类,非国防联邦投资&D,合计9.735亿美元。”由国防部资助的研究包括DARPA耗资20亿美元的“ AI Next”战役, 宣布 在2018年底。随着这些投资水平,人工智能技术的格局正在逐月变化。这种发展速度不适合行政法所涉及的时间范围,从提议的规则到最终的规则通常需要一年以上的时间。

软定律适用于AI的第二个原因是景观的复杂性。无论是从财务上,后勤上还是从人员方面来讲,都没有必要委派一个或多个政府机构进行足够广泛的规则制定和监督,以涵盖将使用AI的所有许多应用程序和行业。对于一小部分应用(例如自动驾驶汽车),由故障引起的潜在危害尤其严重,政府监管将发挥重要作用。但是,人工智能的大多数用途并不是那么重要。对于这些应用,由公司,民间社会团体,学术专家和政府提供意见而制定的软法将是促进符合道德框架和原则的创新的关键方法。

即使对于高风险应用,软法也可以作为“硬”法的重要补充。考虑一下通过车对车(V2V)通信传递的信息所带来的潜在安全优势,这些信息可以允许在附近的车辆之间进行协调,以减少发生事故的可能性并提高交通流的效率。要实现V2V的潜力,需要结合交通运输部的法规(例如,解决诸如避免事故等核心安全问题)和软法律(例如,与在车辆之间无线交换信息的过程和协议有关的法律)。

人工智能软法框架

近年来,越来越多的AI软法工作在不断涌现。人工智能软法的一类是原则,列出了高层目标以指导基于人工智能的解决方案的开发和部署。例如,未来生活研究所开发了 Asilomar AI原则,它解决了AI环境中的道德和研究资金问题。

AI治理的详细模型构成了软法的另一种形式。新加坡的 示范AI治理框架该工具于2019年初首次发布,并于2020年初进行了更新,旨在用作“现成的工具,使正在大规模部署AI解决方案的组织能够以负责任的方式这样做。”它在内部治理结构和措施的四个关键领域,人为参与人工智能增强的决策,运营管理以及利益相关者的互动和沟通的四个关键领域提供了具体指导。

对AI原则和治理方法的日益关注也导致越来越多的资源可以对其进行分类和比较。 算法观察 保持在线 AI道德准则全球清单 截至2020年6月,列出了150多个框架和指南。 2020年初 出版物 来自哈佛大学伯克曼克莱因中心的一组研究人员提供的比较结果是“ 36份著名的AI原理文档的内容”。并在2019年9月 文章 在《自然机器智能》杂志上,安娜·乔宾,安娜·马塞洛·恩卡和艾菲·瓦耶纳“映射并分析了当前有关道德AI的原则和准则的语料库。”

标准往往是高度详细和技术性的,是软法律的另一种形式。的 国际标准化组织是“由164个国家标准机构组成的非政府国际组织”,它与 国际电工委员会 发展投资组合 以AI为中心的标准。 IEEE正在针对以下主题开发AI标准:自治系统的透明度,”“解决透明度,问责制和算法偏差的认证方法”,以及AI对 人类的福祉.

标准可能需要花费数年的时间才能开发出来,因此并不总是比硬性法律更具速度优势。但是,与硬法则相反,标准通常是专门为促进行业内的创新而创建的,并且可以随着技术的发展而相对较快地更新。前面提到的Wi-Fi标准,通过名称更正式地知道 802.11在非AI环境中提供了一个很好的例子。随着技术的进步为提高无线通信速度和可靠性创造了机会,IEEE数十年来成功地开发了更高级的802.11版本。

虽然法律法规受到颁布法律的政府的管辖权的限制,但是以国际规范和标准形式出现的软法律可以施加影响,而不会引起域外关注。这种更广泛的上下文对AI特别重要。正如牛津大学人类未来研究所的Peter Cihon在2019年解释的那样 出版物,“ [AI]提出了需要协调一致的全球应对措施的新型政策挑战。这些标准,特别是现有的国际标准组织制定的标准,可以支持人工智能发展的全球治理。”

Wendell Wallach和Gary Marchant还指出了从国际角度进行AI治理的重要性。此外,他们观察到,软法对AI的泛滥会导致混乱甚至矛盾的局面。他们也 提议的 建立了一个国际治理协调委员会,该委员会“位于政府外部,但将包括政府代表,行业,非政府组织,智囊团和其他利益相关者的参与”。

人工智能的法规和软法

AI面临的最重要挑战之一是在法规和软法律之间找到适当的平衡。在某些情况下,法规和软法律可能会发生冲突,但它们通常是互补的。监管更适合于AI应用程序,例如自动驾驶汽车,在这些应用程序中,故障造成的人力成本很高,并且产品开发的发生时间与国会立法和机构规则制定相关的时间范围相同或更长。对于纯粹基于软件的AI的使用,法规的匹配性较差。例如,考虑基于AI的解决方案来解决在线虚假信息。这是一个领域,景观变化太快,无法针对特定技术进行监管。因此,在某些AI领域,一种更好的方法是使用法规来解决更高层次的问题(例如对透明度的需求),并允许软技术法律框架由与监管机构相比更接近技术的专家来开发。例如,公司,学术界和政府的代表可以共同制定围绕AI特定用途的标准,以解决虚假信息。

“人工智能面临的最重要挑战之一将是在法规与软法律之间找到适当的平衡。”

软定律和硬定律之间也可能存在动态的时间关系。此后不久,当新技术提供改进的性能时,使用硬性法律来锁定对特定技术的需求可能适得其反。更好的方法是让软法方法指导技术的发展。一旦被证明,软法则就可以用来形成硬法则框架。举一个非AI的例子:2020年4月,FCC意识到802.11ax标准(通常称为市场营销术语“无线上网 6”),发出了 订购 开辟新的频谱供Wi-Fi设备使用。之后 一致 FCC主席Ajit Pai在FCC委员会成员的投票中说 声明:

“为了充分利用Wi-Fi 6的优势,我们需要提供更多的中频带频谱供未经许可的使用。 …因此,今天,我们采取了大胆的步骤来增加非授权频谱的供应:我们正在使整个6 GHz频段(供创新者和创新使用的1200兆赫的巨大测试台)可用于非授权用途。”

随着AI在经济的几乎每个方面的使用越来越多,公司,立法者,民间社会团体和消费者都对AI的承诺感到兴奋,并对其风险感到担忧。为了使AI生态系统发挥最大潜力,我们需要结合精心设计的法规(以避免快速过时的方式构建)和灵活的软法律框架相结合,以帮助促进AI解决方案提供商之间的快速,有益的创新。

作者感谢亚利桑那州立大学桑德拉·戴·奥康纳法学院的Gary Marchant对本文的有益反馈。


布鲁金斯学会是一家致力于独立研究和政策解决方案的非营利组织。它的任务是进行高质量的独立研究,并在此基础上为决策者和公众提供创新,实用的建议。任何布鲁金斯出版物的结论和建议仅是其作者​​的结论和建议,并不反映该机构,其管理层或其他学者的观点。

微软为布鲁金斯学会的 人工智能和新兴技术(AIET)计划,并且Google和IBM为该机构提供一般的,不受限制的支持。本报告中的发现,解释和结论不受任何捐赠的影响。布鲁金斯意识到,其提供的价值在于对质量,独立性和影响力的绝对承诺。捐助者支持的活动反映了这一承诺。

有关技术的更多信息& Innovation