同济大学法学院助理教授，上海市人工智能社会治理协同创新中心副研究员，法学博士，上海市法学会民法学研究会成员
要目
一、数字经济背景下的算法消费者
二、算法消费者个人信息保护的基本框架与反思
三、算法消费者个人信息保护中过程保护的路径完善
四、算法消费者个人信息的公益诉讼保护
五、结语
算法消费者是消费者体系中的一种新类型，是通过在智能算法接入互联网等信息网络为生活消费购买商品或接受服务的消费者。算法消费者个人信息保护体系的构建需要在《民法典》《个人信息保护法》《消费者权益保护法》《电子商务法》等法律法规的基础上，进行法律衔接与适用空间的解释或立法构造。算法消费者个人信息过程保护应围绕算法消费者的同意机制多元化、平台经营者个性化披露、算法消费者自动化决策拒绝权及个人信息处理者信息信义义务等维度展开，并以公益诉讼保护作为结果保护的手段。
《个人信息保护法》被誉为我国个人信息保护的“基本法”，构建了数字经济社会中以“自然人”为核心的个人信息保护基本框架。个人信息保护法不区分具象人格和适用场景上的差别，而是适用于所有“个人”以及所有场合中的“个人信息”保护，所有场合包括线下实体和互联网，也包括有算法主导的互联网、无算法主导的互联网场景。数字平台作为数字经济中最重要的商业主体，其通过大数据、物联网（LoT）、智能算法技术的深度融合，逐渐走向了“万物互联”的数字化世界，并塑造了全新的平台经济商业模式。在此经济模式中，消费者的个人信息被数字平台不断收集，并被算法深度分析，消费者利益被肆意地攫取，导致在数字社会中消费者与数字平台利益严重失衡。在数字经济中如何保护消费者既享受算法便利，又不被算法算计就显得极其重要。本文从算法消费者的角度，探索构建算法消费者的个人信息保护体系。
数字经济背景下被算法算计的消费者
如今，算法定义了我们的生活，脸书（Facebook）、推特、知乎、今日头条、抖音等数字平台通过机器学习等智能算法来决定向你推荐哪些内容。数字平台经营者（以下简称平台经营者）通过智能终端、API（应用程序接口）、SDK（软件工具开发包）、IoT设备、浏览器、传感器等自动收集用户的个人信息，并运用智能算法对消费者进行用户“画像”，以此进行后续的商业行为。数字经济时代中的平台经营者与传统互联网消费平台有着显著不同，他们依托平台的生态实现自组织、自运营的数字化发展，甚至在平台生态内形成“算法权力”，同时他们在算法驱动下精准预测或塑造消费者偏好。随着线上线下界限的不断模糊，依托智能算法、大数据、物联网等科学技术的发展，算法已经成为各个领域的技术基础架构，使得原有的社会关系与权力结构不断固化与发展。可见，在数字经济社会中，智能算法是一把双刃剑，即智能算法为消费者提供更多便利的同时，亦有可能无时无刻地算计消费者。
传统经济向数字经济转型下的消费者保护
回顾消费者保护的进程可知，近代西方消费者法由消费者运动推动产生，“二战”之后资本主义国家消费者运动勃兴，各国消费者组织应运而生。以美国消费者运动为例，共经历了反假货运动、非营利消费者组织的兴起和法律激进主义时代。21世纪以来，互联网与信息科学技术深度融合与发展，当前社会已经从工业经济迈向数字经济时代。但是，我国《消费者权益保护法》的困境在于，仍未脱离现实世界的传统框架，不能满足互联网服务消费者权益保护的需求。例如，目前消费者法中的消费者知情权、自主选择权等消费者权利源于20世纪消费者运动，依旧为传统保护框架下的保护模式；传统保护模式缺乏应对平台经营者利用算法、个人信息和数据等新兴技术手段侵害消费者的保护措施。尽管《电子商务法》第18条规定了定制搜索结果条款，但该条规范过于简单，或许更多是行政监管规范，以至于其在私法上的适用和保护效果仍有待观察。
算法消费者作为消费者的一种新类型：算法消费者的内涵界定
算法消费者是消费者的新类型。《消费者权益保护法》第2条规定“消费者为生活消费需要购买、使用商品或者接受服务”。算法消费者，也是为生活消费需要购买、使用商品或者接受服务。
算法消费者是通过互联网等网络平台购买、使用商品或者接受服务的消费者，基于平台经营者利用智能算法介入消费或服务行为，线上消费者随之蜕变为算法消费者。故而算法消费者是在数字经济背景下平台经济中应运而生的一种消费者类型，是算法与互联网嵌入融合的产物。算法消费者的本质是“互联网+算法”，是通过在智能算法接入互联网等信息网络中为生活消费购买商品或接受服务的消费者。
算法消费者个人信息保护体系
自2012年12月28日第十一届全国人大常委会第三十次会议通过《全国人民代表大会常务委员会关于加强网络信息保护的决定》开始，我国确立了以“合法、正当、必要原则”+“同意”为核心的个人信息保护制度。在此后《电信和互联网用户个人信息保护规定》（2013年）第5条和第9条、《网络安全法》（2016年）第22条、《民法典》（2020年）第1035条、《个人信息保护法》（2021年）第5条和第13条均坚持“合法、正当、必要原则”+“同意”的两项核心内容。可见，上述两项核心内容已经作为我国个人信息保护体系的基本框架。
同意作为形式控制的缺陷
同意是我国个人信息保护的核心规则之一，算法消费者个人信息的“同意”规则适用《个人信息保护法》第13条的规定。我国自2012年即确立了个人信息保护的“同意”规则，然则，国内外学者对该规则有效性均无一例外地提出质疑。
同意制度作为个人在数字经济社会中信息保护的一种机制，赋予个人的信息自决权或自我管理控制权。但同意机制无论在理论上还是实践中都存在着“困境”，并且难以执行。这种困境就是，流于形式的告知义务导致同意的作出缺乏实质性的“知情”和“自愿”，此“虚化”的“告知-同意”模式让平台经营者取得了攫取个人信息的“合法性”。最终，同意也就成为一张平台企业处理个人信息的自由通行证。
算法消费者个人信息保护中过程保护的僵硬性与结果保护的不足
《个人信息保护法》作为个人信息保护的基本法，可分为“过程保护”与“结果保护”两种模式。但在个人信息保护场景中并不区分信息的媒介是电子信息抑或其他类型，也不区分信息的收集方式为线上或线下。电子信息、线上收集个人信息与传统媒介信息、线下收集个人信息的保护力度应有所差别。即使是线上信息的收集又可以是否涉及算法介入的场景区分为有无算法收集、分析的方式。因此，个人信息保护在不同场景中的保护强度和适用上均有所差别。但遗憾的是，《个人信息保护法》在过程保护和结果保护的模式中均未对此进行区分，体现了其一定的僵硬性与缺陷。
以算法消费者作为具象人格的个人信息保护新解
1.同意机制的多元化
前文已论及，同意机制已经陷入形式化的窠臼之中。法律经济学研究认为，强制性规则是保护消费者最有效，也是最冒险的监管方法；最冒险在于将产生提高价格、缩小市场规模或者征收消极的交叉补贴的后果，因此通过使用大数据，根据预期的个人需求为每个用户量身定制产品进行个性化规则，既能够提升有效性，又能降低风险性；个性化保护是一个新颖解决方案。在互联网个人信息保护中的普遍免费模式有保护不足的问题，尤其是虚化了个人信息保护的“同意原则”。因此，个人信息保护需要引入个别付费模式加以矫正和补充，形成与“普遍免费”模式并行的“普遍免费+个别付费”双重模式。同时，在具体场景中，对信息主体的经济激励机制可以作为同意的促成机制，有益于个人信息保护和数据合理使用的平衡。
上述讨论为算法消费者在个人信息保护中的“同意”机制的多元化解释提供了方案。在比较法上，《加州消费者隐私法案》（CaliforniaConsumerPrivacyAct）中即对消费者主体进行区分，赋予企业通过差异化价格或费率向消费者提供个人信息经济激励计划；如第1798.125节（a）、（b）款分别规定了企业为了个人信息收集、出售、删除等向消费者提供经济激励，并在《加州消费者隐私法案条例》（CaliforniaConsumerPrivacyActRegulation）第999.307节的“经济激励告知”中作出细致规定。有学者建议对同意机制的多元化有所回应，如“信息业者、政务部门处理个人信息，应当事先征得信息主体的同意，但法律、行政法规另有规定的除外”。遗憾的是，《个人信息保护法》针对个人信息进行不区分主体的统一保护。但算法消费者与一般个人也有一定差异性，尤其需要考虑算法消费者与平台经营者之间在个人信息保护和信息流通、数据使用中的利益平衡。因此，为算法消费者提供“经济激励+普遍免费+个别付费”的个性化同意机制方案，可以满足不同类型算法消费者的同意机制需求，也可回避“同意”机制一刀切模式的形同虚设弊端。
2.算法应用下的个性化披露
基于此，在数字时代中算法的大规模应用下，应赋予算法消费者选择是否同意平台经营者利用个性化信息进行用户画像的权利，如果算法消费者选择进入隐私友好模式，那么平台经营者可按照传统统一披露的方式履行告知义务。但如果其选择个性化的用户画像，则课以平台经营者个性化披露的义务，通过个性化算法来约束平台经营者。
3.《民法典》视角中的算法消费者个人私密信息的保护
我国《民法典》采取了隐私权和个人信息二元化的架构，对隐私权和个人信息规定了不同的保护路径。但《民法典》1034条第3款规定“个人信息中的私密信息，适用有关隐私权的规定；没有规定的，适用有关个人信息保护的规定”，个人信息中的私密信息保护可以经由该条突破二元化架构。从解释上观察，将个人信息中的私密信息保护直接适用隐私权的规定，可见立法者对于私密信息突出保护的用意极其明显。如前述，算法消费者作为民事主体中的自然人，自然可以适用《民法典》关于个人信息保护的规则。因此，算法消费者的个人私密信息保护亦有隐私权保护的优先适用路径。
算法消费者的个人私密信息有别于传统消费者的个人私密信息。在传统条件下，由于受制于技术条件，经营者无法有效获取消费者有关消费需求、消费倾向等方面的信息。传统消费者的个人私密信息，更多是一些可通过物理方式获知具有身份特征且不愿被人知晓的隐私。但在数字社会中，算法消费者的网络行踪痕迹、消费偏好、消费需求等具有隐私性的信息，被平台经营者利用智能算法技术肆意地隐蔽性收集和分析从而形成用户画像。基于个人私密信息既需要满足可具识别性的客观特征，也应满足不愿被他人知晓的主观特征，其范围存在一定弹性空间，不能通过立法列举式的规定进行确定。因为不同行业、领域的消费者和不同类型的消费者，如算法消费者和传统消费者对于“不愿他人知晓”的主观感受程度截然不同。总之，个人私密信息应当根据社会正常交往、交易关系等各种动态变化的因素互相作用、影响形成的不同场景和对象予以确定。以算法消费者为例，在不同交易关系和类型中可能影响消费者选择或决定形成的消费偏好、网络浏览痕迹等可以被认定为私密信息。
再者，算法消费者的个人敏感信息与个人私密信息具有一定重叠部分。《民法典》中个人信息和个人私密信息主要是从私法保护路径上进行区分，《个人信息保护法》从个人信息处理规则的不同区分为个人信息和个人敏感信息，二者在分类的标准和目的上均不同。有学者在此基础上将私密信息分为敏感隐私信息和非敏感隐私信息。对于算法消费者而言，其个人私密信息主要是指不想被经营者所知晓，或者一旦被知晓可能对用户画像产生影响的个人信息，例如读书记录、电影购票记录和购物订单记录等网络行踪轨迹等。但算法消费者的个人私密信息范围具有一定的个性化特征，因此可结合同意多元化机制认定不同算法消费者个人私密信息的场景。
算法消费者自动化决策拒绝权：从形式到实质控制
从平台自主利用算法进行商业化运作以来，消费者都是被动地或被默认地不自主地成为算法消费者，以至于算法消费者被算法悄无声息地“算计”和“剥削”。赋予算法消费者参与自动化决策的控制权意义在于，让消费者充分自主地评估算法介入场景的风险，并决定是否参与该场景的各类行为之中，本质上为自主选择权。
从实证法分析，我国《消费者权益保护法》第9条第1款规定了消费者自主选择权，即消费者享有自主选择商品或者服务的权利；在该条第2款中进一步规定了自主选择权的范围。在传统商业消费模式中，为了降低信息不对称损害消费者权益的影响，消费者自主选择权的范围基本上包括经营者的选择、商品品种或者服务方式的选择以及自主订立合同等。然而，在现代互联网消费模式中，尤其是以算法和大数据共同嵌入的交易行为之中，经营者和算法消费者交易的除商品或服务本身的信息不对称外，还造成新型的技术信息不对称。基于此，笔者认为可对《消费者权益保护法》第9条第1款的消费者自主选择权进行扩大解释，将算法消费者算法（自动化决策）的自主选择权纳入作为消费者自主选择权范围之内。由此，构建算法消费者私法意义上的自动化决策的自主选择权，赋予消费者从自动化决策的形式拒绝到实质控制的权利。
算法个人信息处理者的信息信义义务
在数字时代的消费场景中，算法消费者点击“同意”后即开启了信息被处理的大门。数字算法场景中信息处理具有复杂性、隐蔽性和技术性等特征，即使算法消费者在信息处理过程中可享有知情权、查阅权、删除权和可携带权等过程保护的权利。但不可改变的窘境是，个人信息或数据一旦经“同意”机制获得自由的通行证之后，算法消费者几乎完全失去了个人信息的控制力。此时，与其通过利益平衡赋予或规定各项权利、机制加剧双方的矛盾状态，还不如通过“信任”的粘合剂来黏合经营者与算法消费者之间的关系。
信息信义义务是传统信义义务向数字社会的延伸。信义义务的范围具有一定的开放性，并且随着社会经济的变化而不断发展。新型忠实关系之程序持续进行中，依服务条款内容、托付财产或权利之本质、交易成立之目的及诱因、被委任之个人或机构对委托人控制影响力之有无以及对受任人违背及滥用信任行为之诱惑等内容而定。忠实关系不仅是人与人之间信赖之基础，也是社会制度凭以建立之信赖基础。信任对于可持续的数字未来至关重要，促进信任的隐私规则可以创造个人和社会价值。因此，在数字时代，以算法和大数据主导的网络服务提供商与用户（算法消费者）之间的关系具有类似性，信息信义义务可以作为一种新形态的信义义务。丹尼尔·沙勒夫（DanielSolove）认为，在数字时代里数据企业收集了大量个人信息，数据企业和个人之间存在信义关系，需要通过信义法指导并制定完善的政策对此进行规制。巴尔金教授（Balkin）认为许多网络服务商以及收集、分析、使用、买卖和分配个人信息的云计算公司应视作顾客和用户的信息受托人。信息信义义务受托人不能诱使终端用户（算法消费者）信任他们以获取个人信息，然后以背叛这种信任的方式使用这种信息，这不利于终端用户（算法消费者）的利益。
关于信息信义义务的内涵和范围，有学者将信息隐私法中的信义义务内容列为谨慎义务（Discretion）、诚实守信义务（Honesty）、保护义务（Protection），并引入忠实义务（Loyalty）作为隐私的基本价值。也有学者从数据隐私与用户期待关系中提出信息信义义务的范围，即信息信义义务的标准可以确保在充分保护个人的同时，以数据为中心的业务模型可以继续运行。可见，信息信义义务与传统信义义务的内涵与特征基本一致，只是在每项内容中融入了信息和隐私保护的元素。在数字时代，值得信任意味着谨慎对待我们的数据、诚实对待数据实践的风险、保护我们的个人信息，最重要的是忠诚于我们这些数据主体。信息信义义务在我国实证法上也有所回应，例如《个人信息保护法》第5条后句、《中华人民共和国数据安全法》第8条、《网络安全法》第9条以及《互联网信息服务算法推荐管理规定》第4条对信息信义义务作了大致的规定。综上，通过解释上述条文课以经营者信息信义义务，可以让算法消费者获得从个人信息收集、信息处理和信息应用的全过程的保护，以此弥补同意机制的缺陷。
基于个人信息保护公益诉讼的算法消费者个人信息保护
1.提起公益诉讼的主体
上述三类个人信息保护公益诉讼提起主体是否具有顺位，《个人信息保护法》第70条仅做了列举性规定，未做进一步规定。在学者建议稿中，张新宝教授认为人民检察院提起个人信息公益诉讼具有补充地位。另外，从《民事诉讼法》第55条的变迁来看，《民事诉讼法》第55条于2017年修正时增加了第2款。可见，检察院在公益诉讼中具有一定的谦抑性。对于消费者组织和国家网信部门的顺位上，需要在解释上进一步研究。基于前述全国人大宪法与法律委员会的修改意见报告，消费者个人信息公益诉讼应作为个人信息公益诉讼的一种类型。所以在算法消费者的个人信息公益诉讼问题上，应先由消费者组织提起，再由国家网信部门确定的组织作为诉讼提起主体。如果是除消费者外的个人信息保护公益诉讼，此时消费者组织并非诉讼提起主体，自然由国家网信部门确定的组织作为公益诉讼提起主体。
2.个人信息公益诉讼制度的其他要件
个人信息公益诉讼的适用范围，首先应为个人信息处理者违反个人信息保护法规定处理个人信息。在算法消费者个人信息保护场景，应为个人信息处理者（包括互联网平台经营者、平台内经营者）违反个人信息保护法规定处理算法消费者的个人信息时，可适用个人信息公益诉讼的保护。就文义解释上而言，似乎所有违反个人信息保护法规定处理算法消费者个人信息的，都可被提起公益诉讼。但是，基于公益诉讼是私益诉讼的补充，个人信息公益诉讼仍应从私法上的请求权基础向个人信息不法行为人主张承担相应的民事责任，因此需要《个人信息保护法》结合其他民事规范进行适用。
基于消费者公益诉讼的算法消费者保护
《消费者权益保护法》第47条规定了消费者公益诉讼，但该条仅笼统地规定对“侵害众多消费者合法权益的行为”可提起诉讼。《最高人民法院关于审理消费民事公益诉讼案件适用法律若干问题的解释》（以下简称为《消费民事公益诉讼司法解释》）对于消费民事公益诉讼制度作出比较详细的规定，《公益诉讼司法解释》第1条回应了消费民事公益诉讼的适用范围限定于“经营者侵害众多不特定消费者合法权益……”，并在第2条对于适用《消费者权益保护法》第47条的范围做了列举，该条第5项规定“其他侵害众多不特定消费者合法权益或者具有危及消费者人身、财产安全危险等损害社会公共利益的行为”也可纳入消费民事公益诉讼的适用范围。前文的研究已经论及，从解释上可将《消费者权益保护法》中的知情权和自主选择权的主体扩大到算法消费者，即其在数据、算法主导的消费场景中对于算法等自动化决策、算法运行等情况的知情权和自主选择权。据此，经营者基于算法或数据等技术性手段侵害消费者的行为可解释为“其他侵害众多不特定消费者合法权益损害社会公共利益的行为”的一种类型。因此，算法消费者可以通过消费民事公益诉讼获得救济。
五、结论
在数字经济社会，传统消费者与经营者的模式向算法消费者和平台经营者模式转变，消费者保护框架亦从传统消费者到算法消费者过渡。现行《民法典》《消费者权益保护法》《电子商务法》《个人信息保护法》所构造的消费者个人信息保护体系，均以传统消费者保护场景作为参照物，不能很好地应对数字经济社会复杂的智能算法技术恣意侵害算法消费者的情况。算法消费者的保护问题，将是数字经济社会中的重要课题之一。算法消费者不仅是民事主体中的自然人，也是消费者的一种新类型，还是电子商务的重要参与者。因此，算法消费者个人信息保护体系的构建，需要在《民法典》《个人信息保护法》《消费者权益保护法》《电子商务法》等法律的基础上进行法律衔接与适用空间的解释或立法构造。
原文链接
刘颖：数字社会中算法消费者的个人信息保护体系构建
《广东社会科学》简介
《广东社会科学》创办于1984年，双月刊，是由广东省社会科学院主管、主办的综合类人文社会科学学术理论期刊，是广东省“名刊工程”建设重点资助学术期刊。