白宫周四敦促硅谷首席执行官限制人工智能的风险,这是政府应对日益增多的问题和监管迅速发展的技术的呼吁的最明显努力。
在白宫的罗斯福厅大约两个小时,副总统卡马拉哈里斯和其他官员告诉领导人 谷歌, 微软, 开放人工智能,流行的 ChatGPT 聊天机器人的制造商,以及 人择的,一家人工智能初创公司,认真考虑对该技术的担忧。 拜登总统也在会上短暂停留。
“你正在做的事情具有巨大的潜力和巨大的危险,” 拜登先生告诉高管们.
这是自 AI 发布以来主要 AI 首席执行官的首次白宫聚会 ChatGPT 等工具,吸引了公众和 增压比赛 来主导技术。
“私营部门有道德、道义和法律责任来确保其产品的安全和保障,”哈里斯女士在一份声明中说。 “每家公司都必须遵守现行法律以保护美国人民。”
这次会议标志着人工智能的繁荣如何让美国政府的最高层陷入困境,并向世界各国领导人施加压力,要求他们掌握这项技术。 自从 OpenAI 去年向公众发布 ChatGPT 以来,许多世界上最大的科技公司都争先恐后地将聊天机器人融入到他们的产品中, 加速人工智能研究. 风险资本家已向 AI 初创企业投入数十亿美元。
但人工智能的爆炸式增长也引发了人们对该技术可能如何改变经济、动摇地缘政治和助长犯罪活动的担忧。 批评者担心强大的人工智能系统过于不透明,有可能造成歧视、取代人们的工作、传播虚假信息,甚至可能自行违法。
甚至一些人工智能制造商也对这项技术的后果发出了警告。 本周,被誉为人工智能“教父”的先驱研究员杰弗里·辛顿 (Geoffrey Hinton), 从谷歌辞职 这样他就可以公开谈论这项技术带来的风险。
拜登先生 最近说 人工智能是否危险“还有待观察”,他任命的一些高级官员已承诺,如果以有害方式使用该技术,他们将进行干预。 国会议员, 包括参议员查克舒默 多数党领袖纽约州政府也开始起草或提议立法来规范人工智能
世界上许多地方都感受到了监管该技术的压力。 欧盟立法者正在就 AI 规则进行谈判,但尚不清楚他们的提议最终将如何涵盖 ChatGPT 等聊天机器人。 在中国,当局最近要求人工智能系统遵守严格的审查规则。
“欧洲当然不会袖手旁观,中国也不会,”美国联邦通信委员会前主席汤姆·惠勒 (Tom Wheeler) 说。 “在政策上有先发优势,就像在市场上有先发优势一样。”
惠勒先生说,所有的目光都集中在美国可能采取的行动上。 “我们需要确保我们作为玩家在谈判桌上,”他说。 “每个人的第一反应都是,‘白宫要做什么?’”
然而,就在各国政府呼吁科技公司采取措施确保其产品安全的同时,人工智能公司及其代表也反驳政府,称民选官员需要采取措施为这个快速发展的领域制定规则。
周四会议的与会者包括谷歌首席执行官 Sundar Pichai; 微软首席执行官萨蒂亚纳德拉; OpenAI 的 Sam Altman; 和 Anthropic 的首席执行官 Dario Amodei。 一位政府官员说,一些高管由具有技术专长的助手陪同,而其他人则带来了公共政策专家。
白宫会议后,谷歌、微软和 OpenAI 拒绝置评。 Anthropic 没有立即回应置评请求。
白宫新闻秘书卡琳·让-皮埃尔 (Karine Jean-Pierre) 在周四的简报会上说:“总统已经广泛了解了 ChatGPT,并且知道它是如何运作的。”
白宫表示,它给这些公司留下了深刻印象,他们应该应对新人工智能发展的风险。 在会后的一份声明中,政府表示,就希望公司对其产品更加开放的愿望、人工智能系统接受外部审查的必要性以及这些产品的重要性进行了“坦率和建设性的讨论”远离坏演员。
“鉴于这些 CEO 及其公司在美国 AI 创新生态系统中发挥的作用,政府官员还强调了他们领导的重要性,呼吁他们树立负责任的行为榜样,并采取行动确保负责任的创新和适当的保障措施,并保护人们的权利和安全,”白宫说。
会议召开前几个小时,白宫宣布国家科学基金会计划斥资 1.4 亿美元用于专门研究人工智能的新研究中心政府还承诺发布政府机构指南草案,以确保他们对人工智能的使用保障“美国人民的权利和安全”,并补充说,几家人工智能公司已同意在 8 月的网络安全会议上提供他们的产品以供审查。
会议和公告建立在政府早期为人工智能设置护栏的努力之上
去年,白宫发布了所谓的人工智能权利法案蓝图,其中表示自动化系统应该保护用户的数据隐私,保护他们免受歧视性结果,并明确说明为什么采取某些行动。 今年 1 月,商务部还发布了一个降低人工智能开发风险的框架,该框架已经酝酿多年。
但在该国控制该技术的具体步骤可能更有可能首先来自华盛顿的执法机构。 4 月,一组政府机构承诺“监督自动化系统的开发和使用并促进负责任的创新”,同时惩罚使用该技术的违法行为。
在周三泰晤士报的一篇客座文章中,联邦贸易委员会主席莉娜·汗 (Lina Khan) 国家说 正处于人工智能的“关键决策点” 她将这项技术的最新发展比作谷歌和 Facebook 等科技巨头的诞生,她警告说,如果没有适当的监管,这项技术可能会巩固最大科技公司的权力,并给诈骗者提供机会一个强大的工具。
“随着人工智能的使用越来越广泛,公职人员有责任确保这段来之不易的历史不会重演,”她说。
凯蒂罗杰斯 贡献报告。