2024年1月20日下午，清华伍舜德楼行政法学工作坊第十四期“人工智能立法之开源发展与法律规制”暨政府管理与创新研究所学术交流会在清华大学公共管理学院召开。
本次会议由清华大学公共管理学院政府法制研究中心和清华大学科技发展与治理研究中心共同举办，清华大学公共管理学院院长朱旭峰教授、清华大学公共管理学院于安教授致欢迎辞。主题发言环节由清华大学公共管理学院陈天昊副教授主持，中国社会科学院周辉副研究员、中国人民公安大学苏宇教授、对外经济贸易大学张欣副教授和同济大学朱悦助理教授先后做主题发言，清华大学公共管理学院梁正教授、上海交通大学李学尧教授、北京华宇元典信息服务有限公司副总经理唐世亮和中金公司战略部高级经理刘楚先后做嘉宾与谈。在随后的圆桌讨论环节，中国信息通讯研究院互联网法律研究中心副主任何波、北京华宇元典信息服务有限公司首席人工智能专家石崇德、中国信息通讯研究院人工智能研究中心高级业务主管呼娜英、安远AI资深研究经理方亮、ISOTC/154委员王翔、21世纪经济报道合规新闻部副主任王俊、星纪魅族集团数据合规执行总监朱玲凤和中策律师事务所律师王娟先后发言。最后，周辉和陈天昊作总结发言。
朱旭峰、于安致欢迎辞
主题发言
苏宇作主题发言
张欣作主题发言
张欣以“全球人工智能治理的格局、特征与趋势洞察”作主题发言。她首先介绍了全球人工智能治理格局的形成与发展。自2020年起，人工智能风险事件呈逐年上升趋势。相应的，各国高度重视并积极参与全球人工智能新秩序的形成。具体而言，现有人工智能治理矩阵中多元参与者影响力各异，欧美国家由于起步较早在全球人工智能治理层面抢占先机，并在一定程度上实行小院高墙策略。在现有人工智能国际治理格局中，我国硬实力处于并跑和领跑阶段，但软实力仍有待提升。我国科技企业和非盈利组织数量有限且影响力不足，限制了我国参与全球人工智能治理。目前，全球人工智能治理法治化特征日益凸显，通过法治化道路为人工智能治理提供“制度围栏”已在国际层面形成广泛共识。然而，现有人工智能国际治理机制仍凸显碎片化特征，大国竞争导向突出，数据安全、隐私保护、算法滥用等问题缺乏有效协同，我国需积极构建人工智能治理“可信朋友圈”，推进双边、多边协作。最后，发展中国家与发达经济体相比仍然存在智能鸿沟和人工智能治理代差。
朱悦作主题发言
嘉宾与谈
梁正、李学尧发言
嘉宾与谈环节，梁正认为人工智能立法首先亟需判断人工智能技术的发展程度究竟如何，是否需要通过立法手段进行外部干预，其潜在风险是否可以通过技术发展解决。其次，应该确定人工智能立法的重点，人工智能立法应该考虑新技术的引入会对既有的价值体系和权利体系带来哪些改变，明确权利边界和主体责任，而非对技术细节进行过度规定。最后，梁正认为人工智能立法需要避免过度监管，充分考虑技术可行性和实施成本。针对开源豁免，梁正表示开源已成为人工智能的生态模式，但其意义不仅在于推动创新，开源还可以通过竞争来发现和解决问题和缺陷，从而推动安全发展。
唐世亮、刘楚发言
圆桌讨论
何波、石崇德发言
圆桌讨论环节，何波首先分析了人工智能治理是否需要制定新的法规，认为在技术发展不可控的情况下，法规的制定是为了明确技术发展的底线和红线，能够有效避免新技术发展陷入“科林格里奇困境”。其次，针对人工智能立法问题，何波认为应该建立一个完整的人工智能法律制度体系，涉及法律、行政法规、部门规章多个层级，涵盖个人信息保护、数据安全、网络安全、知识产权等多个方面。再次，在数据处理问题上，何波讨论了大模型的个人信息保护义务和责任，分析了大模型在研发阶段是否应被视为数据控制者。最后，在国际规则层面，何波提到中国作为一个发展中国家，需要平衡国际治理的立场，充分考虑到我们的人工智能领先优势和其他发展中成员的利益诉求。何波表示目前在人工智能法律政策和治理方面存在许多值得研讨的问题，希望学界能够给予更多指导，共同探索。
呼娜英、方亮发言
方亮就前沿AI的开源治理问题提出了一系列深刻见解。方亮首先指出开源vs闭源是错误的二分法，从“完全封闭”到“完全开放”之间存在多种模型发布选项。例如托管访问、API访问、API微调、提供权重，有限制提供权重+代码+数据等。开源的确切利弊，取决于所公开的模型组件的特定组合，以及向谁+何时+如何发布。其次，方亮详细讨论了面对前沿AI潜在的极端风险，应探索开源的替代方案，即以更少的风险实现开源相同的效益。他重点分析了促进模型外部安全评测的可能替代方案，例如分阶段发布、建立红队测试网络、向可信的第三方机构授予特定的模型访问权限等，并建议优化研究API以促进安全研究。最后，方亮强调闭源的前沿AI也面临安全风险，鉴于当前的保护措施还不足以抵御对抗性攻击，闭源模型也容易被滥用，需要强有力的外部监督和评测。
王翔、王俊发言
王翔结合在研的《联合国透明度议定书》（UNTP：UNTransparencyProtocol），以政府间国际合作为切入点，探讨了当前人工智能技术跨境协同治理措施的最新进展。面对环境、气候、食品、卫生等可持续发展议题愈发细化的公共管理要求，需要考虑将有限的行政资源与开源人工智能相结合，以协同应对货物、商品、资金、人员、数据元跨境流动带来的潜在风险。考虑到主要经济体数据治理思路的差异和互联网国际段联通条件的不同，可以参考联合国贸易数据源目录等标准，实现人工智能训练语料库的互操作。此外，基于我国在制造领域的工业数据优势、流通领域的商业数据优势，他提出了未来促进开源人工智能产业发展的建议：建立基于透明度的数据贸易管理框架，研究“来数加工”等新业态，以及设计数据及数字化产品、服务跨境流动的数字护照。最后，通过对照，他认为UNTP作为面向实施的治理工具箱，能够较好对齐加入人工智能伦理后的示范法草案。
朱玲凤、王娟发言
王娟从法律实施的角度对开源人工智能进行深入思考。王娟以律所的经验为基础，指出新颁布的数据保护法在实际实施中面临一些障碍，特别是在解释和执行方面存在困难。她提出，应该在立法阶段引入技术领域和法律领域专家的集体智慧，以确保法律的可理解性。此外，她建议明确法律和技术标准的分离，以便法律人员和企业技术人员能够更好地理解和执行法规。王娟还讨论了开源可能带来的积极价值和市场竞争方面的一些挑战，以及在治理方案设计上的优化建议，强调需要以更科学和精细的方法来应对开源人工智能的风险。
周辉、陈天昊作总结发言
关于清华大学公共管理学院政府法制研究中心
党的二十大报告指出：“全面依法治国是国家治理的一场深刻革命”，“法治政府建设是全面依法治国的重点任务和主体工程”。政府法制研究中心是依托清华大学公共管理学院成立的跨学科研究平台，旨在围绕如何推动法治政府建设这一中心议题，开展数字治理、数字政府、新兴产业治理、司法政策、公私合作等领域的研究工作，为在新时代进一步推动法治政府建设，以适应前沿科技的革新，并助力国家高质量发展，提供智力支持。