与欧盟(EU)不同,英国在人工智能方面的做法短期内不会专注于新的立法。取而代之的是,它将专注于制定指导方针,赋予监管者权力,并只在必要时采取法定行动。下面先解释白皮书的核心内容,然后再分析其优缺点。
一、特定环境监管是什么意思?
二、英国对AI的定义是什么?
三、英国目前对人工智能的监管情况如何?
在英国,各个监管机构之间的协调和执行不一致,包括健康和安全执行局、平等和人权委员会以及竞争和市场管理局,管理人工智能。这种不一致的协调是白皮书呼吁全系统协调的原因,以澄清谁对跨领域的人工智能风险负责,并避免重复要求。
四、提议的人工智能框架的目标是什么?
DSIT将提议的人工智能框架描述为支持创新、相称、可信、适应性强、清晰和协作。新的监管框架将适用于英国经济的所有部门,依靠与现有立法的互动来实施框架,除非必要,否则不会引入新的法律要求。政府希望通过不立即(如果有的话)引入新的立法来最小化域外影响;但这种方法不会改变现有立法的域外影响。
此外,DSIT称其监管框架有三个目标:
(1)推动增长和繁荣,使负责任的创新更容易,减少监管不确定性,并在人工智能领域获得长期的市场优势。
(2)通过解决人工智能的风险和保护基本价值观来增加公众对AI的信任,这反过来将推动AI的采用。
(4)加强英国作为全球人工智能领导者的地位,使其对创新者和投资者保持吸引力,同时最大限度地减少与其他国际方法的跨境摩擦。
五、英国监管AI的五大原则是什么?
(1)安全性、可靠性和稳健性
人工智能应用程序应该是安全的,可靠的,健壮的,并带有谨慎管理的风险。根据这一原则,监管机构可能会采取措施,确保人工智能在整个生命周期中是安全的;评估人工智能带来风险的可能性,以采取相应的措施来管理这些风险;并定期测试人工智能系统的功能、弹性和安全性,以创建未来的基准。
(2)适当的透明度和可解释性
(3)公平
(4)问责制和治理
管理AI的监管措施需要充分地让AI生命周期中的适当行为者对人工智能的结果负责。监管者必须确保对法规遵从性有明确的预期,并且可能需要使用治理程序来鼓励法规遵从性。DSIT承认,在AI产品的生命周期中,谁应该被分配责任还不清楚,因此不建议在这个阶段进行干预。相反,DSIT将召集专家、技术人员和律师来考虑未来的适度干预。
(5)争议和补救
六、在新框架下,监管机构将做些什么?
根据人工智能的新方法,这些监管机构将采取以下措施:
(2)考虑采取相应的措施解决优先风险,考虑由政府或为政府进行的风险评估。
(3)设计、实施和执行适当的监管要求,将新的AI监管原则整合到现有流程中。
(5)考虑工具,如保证技术和技术标准,如何支持法规遵从性。
(6)参与政府对框架的监测和评估。
七、英国将如何实施这一注重原则的框架?
白皮书中定义的人工智能五项原则将首先在现有法规中实施,并得到中央政府职能部门的支持。监管机构将首先实施这些原则,以适应人工智能的背景和使用。监管机构还将合作找出实施这些原则的障碍。政府将发挥核心支持作用,以确保该框架按比例运作,并有利于AI创新。
八、政府将如何评估其人工智能框架?
政府界定了七项中央职能,这将有助于政府确定框架是否有效,并确定提高清晰度和协调的机会:
(1)监控、评估和反馈
(2)支持原则的一致实施
(3)跨部门风险评估
(4)支持创新者(包括试验台和沙箱)
(5)教育和意识
政府将引导企业、消费者和公众在AI和AI监管领域导航。政府还将鼓励监管机构利用宣传活动教育AI用户有关风险。
(6)地平线扫描
九、确保与国际监管框架的互操作性
政府将支持英国与国际合作伙伴在人工智能监管方面的合作,方法是监测英国原则与全球方法的一致性,并利用跨境协调使英国框架与国际司法管辖区保持一致,并创建监管互操作性。
十、英国想要可信人工智能的工具
DSIT认为,可信人工智能的工具对于负责任和安全地采用AI至关重要。白皮书建议将这些工具分为两类,以帮助符合其提议的监管框架。
第一类包括人工智能保证技术——包括影响评估、审计、性能测试和正式验证方法——可能有助于英国AI保证行业的发展。这些技术将测量、评估和描述AI在其整个生命周期中的可信度。这些技术没有具体说明,但政府将在2023年春季推出一个投资组合。
第二类由AI技术标准组成,这些标准提供了跨供应商的共同理解,当实现时,表明符合框架的原则。AI技术标准将包括风险管理、透明度、偏见、安全性和稳健性方面的通用基准和实用指南。政府将与行业、国际合作伙伴、英国合作伙伴和英国AI标准中心合作。
英国政府表示,它将对人工智能技术标准采用分层方法:
第一层将提供跨监管权限的一致性和共同基础。监管机构将寻求采用非特定部门的标准,并可用于支持五项AI原则的跨部门实施。
第二层将使治理实践适应特定背景下AI的特定风险,以便监管机构可以鼓励采用针对偏见和透明度等问题的新标准。
最后,监管机构可以在适当的时候鼓励采用特定部门的技术标准,以支持遵守特定部门的监管要求。
十一、关于人工智能的全球对话
英国计划继续与国际伙伴密切合作,支持AI带来的积极的全球机遇,并防范全球风险和危害。政府打算继续其国际合作努力,以了解、影响和加强全球监管和非监管发展。此外,政府将继续采取包容性的方法,帮助伙伴国家建立对AI的认识和能力,并支持其他国家实施负责任和可持续的AI监管。
英国还计划继续在经济合作与发展组织(OECD)AI治理工作组中发挥积极作用;AI全球伙伴关系;G7;欧洲委员会AI委员会;联合国教育、科学及文化组织;以及国际标准化组织和自主智能系统伦理开放社区等全球标准组织。英国将继续与欧盟、欧盟成员国、美国、加拿大、新加坡、日本、澳大利亚、以色列、挪威和瑞士以及其他国家政府合作,发展它们的人工智能方法。
十二、英国AI新监管框架的下一步计划
在未来6至12个月内,政府和DSIT将建立举措和伙伴关系,以履行该框架的核心职能。政府还将鼓励监管机构发布指导意见,帮助解释人工智能原则将如何在其职权范围内适用。此外,政府将就中央监测和评估职能如何运作提出建议,并公开这些建议供利益攸关方协商。最后,政府将继续发展其多监管者沙箱。
12个月后,政府将履行框架的核心职能。它还将鼓励仍需要发布指导意见的监管机构,发布跨经济体AI风险登记册,并在测试试点沙盒后开发其监管沙盒。此外,政府将公布第一套报告,评估AI原则如何发挥作用以及中央职能如何发挥作用。这些报告将分析原则的管理特征——实施是否有利于创新、相称、可信、适应性强、清晰和协作——同时还考虑新迭代或法定干预的需要。最后,政府将更新其核心职能的人工智能监管路线图,以确定它是否能长期发挥作用,或者独立机构是否更有效。
(1)焦点较窄
(2)监管沙盒
创建一个多监管机构的AI沙箱将允许创新者与监管机构合作,开发最佳实践,帮助AI产品安全上市。监管沙盒将有助于增加各个部门监管机构的专业知识,以便他们能够支持未来AI创新的开发和采用。