跳到主要内容
系列: 人工智能治理
德国航空航天局的亚历山大·迪特里希(Deutsches Zentrum fuer Luft und Raumfahrt(DLR))在2011年6月1日在慕尼黑附近的上博芬霍芬(Oberpfaffenhofen)的一次演讲中握手人形两臂系统机器人贾斯汀(Justin)的手。柔顺的受控轻型手臂及其两个四个手指的手可以使系统实现远程自动操作。传感器和摄像头可对机器人进行3D重建'的环境,因此使贾斯汀能够自主执行给定的任务,例如接球或品尝咖啡。路透社/迈克尔·达尔德(德国-标签:SOCIETY SCI TECH)
报告

人工智能 透明度要求的案例

编辑's Note:

布鲁金斯学会的人工智能和新兴技术(AIET)计划的这份报告是“人工智能治理”系列,该系列确定了与AI相关的关键治理和规范问题,并提出了政策补救措施来应对与新兴技术相关的复杂挑战。

匿名AI即将来临

我们正在接近无处不在的AI的新时代。在我们的智能手机,计算机,汽车,房屋,物联网和社交媒体之间,发达国家的普通公民每天可能会与某种AI系统进行数十次交互。其中许多应用程序也将有所帮助。每个人都将欢迎更好的自动化客户服务,在这里您可以获得有关复杂主题的准确,彻底的答案。例如,基于相似的先前索赔的数据库,人工智能可能很快会传达您的健康保险实际承保范围。

对于大多数此类交互,显然且有意清除的是,您所阅读的文字,所听到的声音或所看到的面孔不是真实的人。但是,其他时候它不会那么明显。随着AI技术快速有条不紊地爬出神秘谷,客户服务呼叫,网站聊天机器人以及社交媒体和虚拟现实中的交互可能变得越来越不明显。

图灵测试将无法通过时间的考验

现在,我们已经超越了反乌托邦1982年科幻电影《银翼杀手》(Blade Runner)设定的年份,即2019年。在一个相关场景中,由哈里森·福特扮演的主角对显然是人类角色Rachael进行了精心的图灵测试。经过几个小时,涉及一百多个问题,他终于确定Rachael是一台AI,尽管这是令人印象深刻的逼真实例。尽管Rachael的完美人性化形式远远超越了现代技术,但这种互动仍然具有预言性的方面。我们面临的问题不是AI是否如此令人信服,以至于一个有决心的人无法将其识别为合成的。相反,问题在于这样做所需的时间太长了。

“我们面临的问题不是AI是否如此令人信服,以至于一个有决心的人无法将其识别为合成的。相反,问题在于这样做所需的时间太长了。”

目前,有一个积极进取的人发现对话中的AI冒名顶替者可能没有那么多麻烦-尽管只有一半的美国人认为他们可以在社交媒体上识别出机器人。1 甚至最好的自然语言处理(NLP)模型都将在重复中挣扎,在句子之间的连贯性中显示不规则,并且在成语和语法方面存在问题。但是,这些AI模型正在迅速改善。由艾伦AI研究所,谷歌AI和OpenAI等研究实验室发布的一系列前沿模型正在推动这一领域的发展。他们可以写图形故事2 并协助进行体育新闻和财经报道等形式化的新闻报道。3 他们也开始学习胜任辩论。4 杜克记者实验室甚至希望AI能够实时检查事实5-采取可信的行为的关键一步。尽管它们的许多缺陷将持续存在,但AI系统不一定非要令人信服即可。他们只需要足够好才能利用忙碌而分心的人。

在某些情况下,这些模型令人信服,以至于引发了关于如何以及即使应将其发布的争论。与许多学术界不同,发布模型不仅仅意味着公开一种方法论和研究论文。这些NLP模型使用强大的计算能力在大量文档上进行了培训(想想所有Wikipedia,然后是一些)。然后释放它们,并保留其中所保存语言的全部解释。这意味着,当新的NLP模型公开时,任何不称职的开发人员都可以直接将其用于特定目的,而无需原始数据集或昂贵的计算硬件。

这对于使社会受益的应用程序(例如自动隐藏字幕和语言翻译)是一个福音,因为这些努力将从最新技术中受益。它还说明了为什么这些模型的误差和偏差如此重要,因为它们会在下游应用程序中继续存在。 6 当然,这些模型也可以用于生病。 Middlebury College的研究人员证明,OpenAI的最新模型GPT-2可以大规模宣传白人至上主义和圣战主义等极端主义观点。7

商业中匿名AI的成本

不幸的是,公司会发现许多理由以真实的身份重复展示其软件。如果他们认为自己的产品,广告或销售工作来自某个人,他们将决定获得更多的时间和注意力。以Google的Duplex为例,这是一种由AI技术驱动的电话助手,可以进行对话以执行诸如预订餐厅之类的任务。在启动Duplex时,Google选择了一种尽可能逼真的人声系统-一个明显避免将其公开为软件的系统-并且只有在公众压力下才能逆转。许多知名度较低的公司将不会受到相同的批评,否则他们可能会选择忽略它。

最近的一项随机实验表明,当聊天机器人不公开其自动化特性时,他们的表现要比没有经验的销售人员好。8 但是当聊天机器人显示自己时,其销售业绩下降了80%。不管未来的研究是否证实这一发现,即使有少量证据表明匿名有助于销售,也可能说服许多公司不要公开其AI。

“甚至有少量证据表明匿名有助于销售,这可能会说服许多公司不要公开其AI。”

公司还使用社交媒体名人的有针对性的赞助商来销售自己的品牌,尤其是在Instagram上。已经有一个小型家庭手工业创建名人聊天机器人,以模仿著名人物的写作风格。9 随着这些技术的改进,看到互联网明星与他们的粉丝之间进行自动交互以推动伪科学保健品和昂贵运动品牌的销售会感到惊讶吗?它可能已经发生了。

您可能会喜欢从其聊天机器人Dom订购Domino的Pizza,10 或获得帮助,从American Eagle的聊天机器人中选择季节性法兰绒,11 但是,如果不清楚财务建议是否来自机器人,会发生什么情况?认为这些系统是专门为通知客户而设计的,它们是天真的,它们旨在改变行为,尤其是花更多的钱。随着技术的进步和数据集的扩展,它们只会为此目的而变得更加有效。客户至少应有权知道这种影响来自自动化系统。

同样的担忧也出现在其他领域,例如远程医疗软件。12 最近 布鲁金斯都市政策计划的研究 明确表明,人工智能将扩展到我们社会和经济的许多方面。匿名AI的后果可能非常广泛。

政治中匿名AI的成本

2017年,联邦通信委员会(FCC)提出的扭转网络中立性的公众意见征询期收到了超过2400万条意见。这打破了之前的400万条评论记录,并使FCC网站崩溃。尽管公众对此规则的关注程度很高,但事实证明,这些评论中的数百万条是使用伪造或被盗的个人信息自动生成的,有时使用死者的名字。 Buzzfeed新闻后来发现,美国宽带行业组织是欺诈活动的幕后推手,针对网络中立性发表了数百万条评论。13 但是,独立研究表明,绝大多数真实评论都赞成维护网络中立性。14 Buzzfeed还为德克萨斯州的择职教育政策和支持Keystone Pipeline开展了类似的反对草稿的运动,但是很难确切知道这个问题有多普遍。

“尽管声称社交媒体机器人负责大选的说法可能过分夸张,但它们正在产生一些影响。”

更好地理解了AI在社交媒体上的政治参与程度。最近的一篇论文估计,从事政治活动的Twitter帐户中有12.6%是自动机器人,自2016年以来几乎没有变化。15 在2016年总统大选期间,另一项研究估计,所有政治推文中有20%来自机器人。16 尽管声称社交媒体机器人负责大选的说法可能过分夸张,但它们正在产生一些影响。一份研究英国退欧和2016年美国大选的工作论文发现了明确的证据,表明僵尸程序助长了政治回声室并加剧了两极分化。17 进一步的研究表明,随着成千上万的支持Maduro的Twitter机器人被停用,对四面楚歌的委内瑞拉总统Nicolas Maduro的在线批评越来越多。18 还观察到机器人进一步推动了危险的伪科学运动,例如针对MRR疫苗的运动。19

目前,Twitter如果网站上的漫游器没有违反平台操纵和垃圾邮件策略之类的规则,则允许它们在网站上运行。20 推特值得赞扬的是它针对协调虚假信息活动采取的行动,例如来自俄罗斯,伊朗,委内瑞拉,21 和沙特阿拉伯22 并将大量数据提供给研究人员。23 与YouTube,Facebook,Instagram和WhatsApp等其他数字平台相比,他们的数据可用就是为什么相对容易理解问题范围的原因。

尽管如此,有一些学术证据表明,Twitter可以更快地删除违反其规则的不人道账户。24 此外,如果它们没有违反Twitter的规则,则目前他们不会为机器人打标签,而任何数字平台都不会这样做。尽管在2018年参议院情报委员会的听证会上进行了交流,但Facebook和Twitter都建议他们将致力于机器人披露。25

社交媒体公司倾向于认为从技术角度来看这些问题很难解决。面对有关可能的补救措施的研究时, 他们常说 该研究是在学术环境中进行的,并不反映他们的大规模应用情况。尽管没有公开证明证据,但这可能是部分正确的。动机上的差异也会导致意见上的差异-即使是少量误报,其中真实用户的帐户会受到漫游器检测的影响,这对平台不利。研究人员注意到这一点,提出了一个过程,在该过程中,人工审核者会评估通过自动分析标记为可疑的帐户。26

考虑到后果及其采取行动的意愿,要求主要的数字平台做出持续而合理的努力来实施僵尸程序公开并不要求太多。法律要求还直接将一些责任推给了公司和政治活动本身,使平台的单方面责任降低了,并可能为他们提供了更多数据,以帮助他们为那些不太可能遵守规则的行为者磨练机器人的发现工作(请参阅 俄国)。

透明AI的好处

在通常复杂的技术政策体系中,人工智能的公开化是垂手可得的成果。不幸的是,这不会阻止在恐怖主义宣传或外国虚假信息宣传活动中滥用这些模式。但是,它可以减少本文讨论的具有欺骗性的政治和商业应用程序的使用,并且还有其他好处。

“当人们知道他们正在与AI系统交互时,个人决策将得到改善。他们可以判断该系统的优点和局限性,然后选择是使用该系统还是寻求人工帮助。”

例如,当人们知道他们正在与AI系统交互时,个人决策将得到改善。他们可以判断该系统的优点和局限性,然后选择是使用该系统还是寻求人工帮助。现在,许多人可能不知道如何与现代AI系统进行交互以更好地实现其目标。但是,这可以通过反复接触来了解。

人们可能需要很多互动才能理解AI系统可以做什么和不能做什么。今天正在运行的AI的类型称为“窄AI”,这意味着它在某些任务上可能表现出色,而在其他任务中则完全幼稚。与充斥我们文化的“通用AI”相去甚远-想想电视和电影,例如“西方世界”,“太空堡垒卡拉狄加”,“前机械师”,当然还有“银翼杀手”。人们听到AI回答他们的每个技术问题时,可能会大大高估AI的能力,而没有意识到当因公司错误而需要退款时,AI无法理解其情况的独特背景。

从较少监管的角度来看,AI透明度可以帮助人们将诚意直接指向人,而不是机器人。当餐厅的主人面对面前的人类顾客和AI助手给电话响时,就不会有模棱两可的感觉,真实的人可以得到优惠待遇。这是一个足够艰难的世界,我们应该对能够欣赏它的人类保持同情。

以“银翼杀手”法案为基础

加利福尼亚州的立法机关已经通过了“提高在线透明度”法案(BOLstering Online Transparency(BOT)),该法案被称为“刀片赛跑者”法案。该法规要求在互联网上运作的漫游器在鼓励商业交易或影响选举时必须公开自己。27 值得注意的是,该立法明确免除了社交媒体公司的任何责任。虽然仅阻止国内公司和活动使用秘密AI系统的法案具有充分的优点,但大多数最邪恶的AI活动都针对数字平台。这就是加利福尼亚州参议员Dianne Feinstein提出联邦立法的原因,该立法将要求社交媒体公司强制执行Bot披露要求(除了禁止政治实体使用AI模仿人)。28

美国国会应该通过将这些提案结合在一起的立法,给公司和政治行为者增加AI披露的负担,同时还要求通过数字平台合理地标记机器人。其中应包括联邦贸易委员会针对商业违规行为和联邦选举委员会针对政治违规行为所应处的罚款;这些机构对于这项任务的选择不完善,可以添加到考虑设立新技术监管机构的理由中。尽管不担心与AI系统一起提供的商业产品,例如Apple的Siri和亚马逊的Alexa,但法律’的管辖权不应严格限于互联网。在许多情况下,我们可能会开始遇到AI,但并非所有情况都严格地存在于网络中。

“[S]自从我们进入现代AI的第一个十年以来,我们可能以后会发现自己特别感谢为透明性标准设定的理由,而这些原因今天还不明显。”

公开AI的广泛要求具有立即价值:减少欺诈,维护人类同情心,教育公众以及改善政治言论。而且由于我们才刚刚进入现代AI的第一个十年,我们以后可能会发现自己特别感激由于今天尚不明了的原因而设置透明性标准。


布鲁金斯学会是一家致力于独立研究和政策解决方案的非营利组织。它的任务是进行高质量的独立研究,并在此基础上为决策者和公众提供创新,实用的建议。任何布鲁金斯出版物的结论和建议仅是其作者​​的结论和建议,并不反映该机构,其管理层或其他学者的观点。

微软为布鲁金斯学会的 人工智能和新兴技术(AIET)计划,以及Amazon,Apple,Facebook和Google为该机构提供一般的,不受限制的支持。本报告中的发现,解释和结论不受任何捐赠的影响。布鲁金斯意识到,其提供的价值在于对质量,独立性和影响力的绝对承诺。捐助者支持的活动反映了这一承诺。

脚注

  1. Galen Stocking和Nami Sumida。 “ 1。大多数美国人都听说过社交媒体机器人。许多人认为它们是恶意的并且难以识别。” 皮尤研究中心的新闻事业,2019年12月31日。 //www.journalism.org/2018/10/15/most-americans-have-heard-about-social-media-bots-many-think-they-are-malicious-and-hard-to-identify/
  2. 詹姆斯·文森特。 “ OpenAI发布了它说太危险以至于无法共享的文本生成AI。” 边缘。 2019年11月7日。 //www.theverge.com/2019/11/7/20953040/openai-text-generation-ai-gpt-2-full-model-release-1-5b-parameters
  3. Jaclyn Peiser。 “机器人记者的崛起。” 纽约时报。 2019年2月5日。 //www.nytimes.com/2019/02/05/business/media/artificial-intelligence-journalism-robots.html.
  4. 亚当·罗杰斯(Adam Rogers)。 “这个机器人辩论并开玩笑,但它仍然是一个烤面包机。” 有线。 2019年2月13日。 //www.wired.com/story/this-robot-debates-and-cracks-jokes-but-its-still-a-toaster/
  5. 安德鲁·多诺休(Andrew Donohue)。 “使用人工智能扩展事实核查。” 杜克记者实验室。 2019年9月16日。 //reporterslab.org/using-artificial-intelligence-to-expand-fact-checking/
  6. 本·哈金森(Ben Hutchinson),维诺库玛·普拉(Vinodkumar Prabhakaran),艾米丽·丹顿(Emily Denton),凯莉·韦伯斯特(Kellie Webster),于忠和斯蒂芬·德纽尔(Stephen Denuyl)。 “意外的机器学习偏见是残疾人的社会障碍。” SIGACCESS 电子通讯125。 http://sigaccess.org/newsletter/2019-10/hutchinson.html
  7. Alex Newhouse,Jason Blazaakis和Kris McGuffie。 “恐怖主义宣传的工业化:神经语言模型和虚假内容生成的威胁。” 蒙特雷米德伯里国际问题研究所恐怖主义,极端主义和反恐怖主义中心。 2019。 //www.middlebury.edu/institute/sites/www.middlebury.edu.institute/files/2019-11/The%20Industrialization%20of%20Terrorist%20Propaganda%20-%20CTEC.pdf?fv=TzdJnlDw&fbclid=IwAR1ywqk2FOX-Egs1nWyfRxmJ9jujNUyTfl5tnwVVhhC3vSVvn4MxWhD1lZw
  8. 罗学明,童四良,郑芳和折曲。 “前沿:机器与人类:人工智能聊天机器人披露对客户购买的影响” 通知营销科学。 2019年9月。 //pubsonline.informs.org/doi/abs/10.1287/mksc.2019.1192
  9. “ 脸书 Messenger的114个名人机器人。” ChatBottle。于2020年1月6日访问。 //chatbottle.co/bots/messenger/celebrity
  10. 佩雷斯,莎拉。 “ Domino现在可以让您通过Messenger从其完整菜单订购–无需设置或帐户。” TechCrunch。 TechCrunch,2017年2月3日。 //techcrunch.com/2017/02/03/dominos-now-lets-you-order-from-its-full-menu-via-messenger-no-setup-or-account-required/
  11. “ American Eagle Outfitters:Facebook Messenger Bot” Chatbotguide.org  //www.chatbotguide.org/american-eagle-bot
  12. 亚伦·温(Aaron Winn),梅莱克·索迈(Melek Somai)和妮可·费格斯特伦(Nicole Fergestrom)。 “将在线症状检查器的使用与患者的就诊计划联系起来” 美国医学会杂志,卫生信息学研究信。 2019年12月27日。 //jamanetwork.com/journals/jamanetworkopen/fullarticle/2757995
  13. 歌手藤杰里米。 “政客们以数以百万计的虚假评论伪造选民的愤怒,以使有钱有势者受益。” BuzzFeed新闻。 BuzzFeed新闻,2019年10月10日。 //www.buzzfeednews.com/article/jsvine/net-neutrality-fcc-fake-comments-impersonation
  14. 瑞安·辛格(Ryan Singel)。 “过滤掉僵尸程序:美国人对FCC净中立废除的实际看法” 互联网与社会中心, 斯坦福大学。 2018年10月。 //cyberlaw.stanford.edu/files/blogs/FilteringOutTheBotsUniqueNetNeutralityComments.pdf
  15. Luca Luceri,Ashok Deb,Silvia Giordano和Emilio Ferrera。 “选举期间机器人与人类行为的演变” 第一个星期一,第24卷第9-2期。 2019年9月。 //firstmonday.org/ojs/index.php/fm/article/view/10213/8073#p3
  16. Nanette Byrnes。 “ 400,000个机器人在发布有关选举的政治推文,并且具有影响力。” MIT 技术Review。 2016年11月9日。 //www.technologyreview.com/s/602817/how-the-bot-y-politic-influenced-this-election/
  17. Yuriy Gorodnichenko,Tho Pham和Oleksandr Talavera。 “社会媒体,情感和公众意见:来自#BREXIT和#USELECTION的证据” NBER 工作文件24631.2018年5月。 //www.nber.org/papers/w24631.pdf
  18. 胡安·莫拉莱斯(Juan S. “感知的受欢迎程度和在线政治异议:来自委内瑞拉Twitter的证据” 国际新闻/政治杂志, 第25卷-第1期,2019年9月5日。 //journals.sagepub.com/doi/full/10.1177/1940161219872942?journalCode=hijb
  19. 袁晓怡,Ross J. Schuchard,Andrew T. Crooks“在Twitter的极化在线疫苗辩论中检查新兴社区和社会机器人” 社交媒体+社会。 2019年9月4日。  //journals.sagepub.com/doi/10.1177/2056305119865465?icid=int.sj-challenge-page.similar-articles
  20. “平台操纵和垃圾邮件政策” 推特。 2019年9月。 //help.twitter.com/en/rules-and-policies/platform-manipulation
  21. 托尼·罗姆。 “ 推特删除了一些针对美国中期选举的源自伊朗,俄罗斯和委内瑞拉的帐户。” 华盛顿邮报。 2019年1月31日。 //www.washingtonpost.com/technology/2019/01/31/twitter-removed-some-accounts-originating-iran-russia-venezuela-that-targeted-us-midterms/
  22. “对我们国家支持的信息运营档案库的新披露” 推特安全。 2019年12月。 //blog.twitter.com/en_us/topics/company/2019/new-disclosures-to-our-archive-of-state-backed-information-operations.html
  23. “透明度报告:信息运营” 推特。 2019。 //transparency.twitter.com/en/information-operations.html
  24. Shehroze Farooqi和Zubair Shafiq“在Twitter上对第三方应用程序滥用的测量和早期检测” 万维网会议录。 2019年5月。 http://homepage.divms.uiowa.edu/~sfarooqi/Files/Farooqi-AbusiveTwitterApplications.pdf
  25. “关于外国影响力运营商使用社交媒体平台的公开听证会” 美国情报特选委员会。 2018年9月5日。 //www.intelligence.senate.gov/hearings/open-hearing-foreign-influence-operations%E2%80%99-use-social-media-platforms-company-witnesses
  26. Shehroze Farooqi和Zubair Shafiq“在Twitter上对第三方应用程序滥用的测量和早期检测” 万维网会议录。 2019年5月。 http://homepage.divms.uiowa.edu/~sfarooqi/Files/Farooqi-AbusiveTwitterApplications.pdf
  27. 将与机器人有关的第6章(从第17940条开始)添加到《商业与职业法》第7部第3部分的行为。 S.1001。加利福尼亚州参议院。 2018年9月28日。 //leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=201720180SB1001
  28. Bot Disclosure and Accountability Act of 2018,S.3127,第116届国会(2018) //www.congress.gov/bill/115th-congress/senate-bill/3127
获取布鲁金斯的每日更新