本文来自微信公众号： 游云庭律师 ，作者：游云庭律师，题图来自：AI生成
近日，主打拟人化情感陪伴的美国人工智能公司Character.AI（下称“Character”）破产，其数据资产可能会被拍卖的新闻成为热点，笔者看了后觉得有点震惊，因为Character的主要业务是AI角色陪伴聊天平台，平台数据包括大量用户和AI的情感聊天记录，这些内容不但私密，而且很多涉及色情，暴力甚至人性阴暗面，但美国居然有人想拍卖它们。今天就和大家聊聊，拍卖这些聊天记录有什么问题。
一、Character为什么会破产？
Character公司的两名联合创始人都出自谷歌，其中一人还是为大语言模型技术奠定基石的Transformer架构的联合发明人。正因如此，谷歌盯上了他们，2024年8月，谷歌支付约27亿美元给Character，一部分是技术许可费，获得Character大模型技术的非独家使用权，另一部分回购创始人和早期投资人的股份，交易完成后，包括两名联合创始人在内的多名核心研究人员招入谷歌DeepMind。
谷歌收购了Character的人才和技术但没有收购股权，所以Character在法律上仍保持独立运营，不过内部核心人才已经被抽空，外部则有很多重大诉讼，内忧外患之下，Character因资金耗尽而申请破产。
二、Character的用户聊天记录为何敏感？
Character主要向用户提供拟人化情感陪伴AI服务，能给用户被真人陪伴的感觉，并且让用户对其建立了信任。也正是这份信任，让用户和Character智能体的聊天记录里包含了很多法律上非常敏感的数据。
首先是隐私。用户会把Character平台上的陪聊角色当成一个可以信赖的伙伴，向其倾诉现实中难以启齿的秘密，这些秘密是敏感度非常高的隐私数据。
第二是个人信息。Character平台会收集用户的姓名、邮箱、手机号、位置、设备ID、会话链等标识性数据，所以，用户的每一段聊天都可精准的定位到特定自然人。
第三是个人敏感信息。聊天内容高频触及健康信息、性取向、宗教政治立场、未成年人数据等个人敏感信息。
最后是有害数据。因为办案的原因，笔者接触过一些情感陪伴AI服务的用户聊天数据，发现很多内容完全不符合社会主义精神文明，因为很多用户会将无法在现实中倾诉的负面情绪、阴暗想法或者欲望输入给AI，导致聊天记录中大量存在色情，暴力，自残，不文明表达，过度依赖等问题。
三、拍卖Character的用户聊天记录的依据是啥？
在Character的隐私协议里，确实给收集，使用，以及在破产拍卖时转让用户聊天数据提供了空间，其规定：Character可以收集包括姓名、电子邮件地址、电话号码、出生日期在内的个人信息，地理位置信息，兴趣爱好，财务信息，包括音频视频图像在内的聊天记录等个人信息。并且将这些信息用于提供服务，分析用户兴趣，广告，改进服务，训练模型，处理付款等用途。
还有个特别规定：在与任何合并、出售公司资产、融资或另一家公司收购我们全部或部分业务相关的谈判或成交过程中，我们可能会披露某些信息。而公司破产，数据被拍卖，Character将其视为出售公司资产的一种形式。
四、Character的用户聊天记录拍卖目前有何进展？
因此，当Character面临破产时，用户聊天数据才会被拍卖。如果这些数据被拍卖，买的人要拿这些数据干嘛？在美国已出现专门处理破产公司数据的产业链，买受者主要拿数据训练AI。2026年5月Spirit航空停飞后，其1亿封邮件、5亿条Teams消息被谷歌以1000万美元竞得，数据去标识化处理后用于训练AI Agent理解真实工作流。
Character破产后，包括用户聊天数据在内的数据也被摆上了拍卖货架，但美国40个州的监管对此不放心，2026年10月14日，由纽约州领衔美国40个州的总检察长向法院提交联名通知，对任何涉及用户数据的出售提出九项条件：
有效年龄验证、限制未成年人聊天、下架治疗师及医生类AI角色、危机应对协议、全面隐私计划、数据出售须披露并提供退出、无有效同意不得用私密聊天内容训练AI、出售前用户有权访问并删除自己的数据、不得作误导性宣传。
10月30日，法院就数据拍卖进行了公开听证，原告方在听证前还又提了个请求，联合要求法院依据破产法指定一名消费者隐私监察员，审查涉及约1200万用户（含未成年人）数据可能被出售的问题。法院允许资产出售程序继续推进，但并未因此批准用户聊天记录的出售，法官也拒绝强制任命隐私监察员，只是强烈建议公司聘请隐私专家，进一步评估儿童安全和数据保护问题，以缓解各州检察长的担忧。
五、为什么根据中国法律，这些用户聊天记录不能被拍卖？
我国政府非常重视人工智能这样新兴技术的治理，对于用户和人工智能聊天记录涉及数据的收集，处理，转让的全过程，有多部法律法规和监管进行了规定。因为监管规定的制约，如果Character是一家中国公司，其破产后，用户聊天数据被拍卖用于训练人工智能的可能性很小。
核心监管规定是网信办等五部委发布的《人工智能拟人化互动服务管理暂行办法》，Character提供的拟人化情感陪伴AI服务，属于该办法第二条规定的拟人化互动服务。根据该办法第十六条第二款：除法律另有规定或者权利人明确同意外，拟人化互动服务提供者不得向第三方提供用户交互数据。
所以Character的用户聊天数据如果要被拍卖，只有两种可能，一种是法律有单独的规定，这个一般指政府、司法机关履行职务需要，Character作为个人信息处理者应当提供。一种是权利人，也就是Character的用户明确同意。比如第三方将这些用户聊天数据训练人工智能的，就需要作为权利人的用户单独同意。
虽然Character在原有的隐私协议中已经告知用户，出售公司资产时可能会披露包括用户聊天数据在内的某些信息，但这种告知方法并不符合《个人信息保护法》规定的收集个人信息，应当限于实现处理目的的最小范围的原则以及公司破产后，数据接收方变更原先的处理目的、处理方式的，应当重新取得个人同意的规定。
根据上述规定，Character收集用户聊天数据应当仅限于处理自身的拟人化情感陪伴AI服务需要。但现在拍卖的买受方获取这些用户聊天数据的目的已经转为训练AI，目的既然已经变更，就需要告知用户，其收集这些数据的目的，并且再次取得用户的同意，才能够合法获取这些数据。但前文已述，这些聊天数据敏感性非常高，用户不太可能会将其授权给其他人用于训练AI的目的。
《个人信息保护法》，还有一个规定，匿名化后的数据就不算个人信息了。那么Character可不可以把用户聊天数据进行匿名化处理，然后再拍卖？笔者认为这是一个法律模糊地带，如果用户聊天数据被技术处理后，确实达到了匿名化的效果，那理论上就不能还原出聊天者的身份信息，这些聊天数据就不再有个人信息的权利人了，也就架空了大部分需要权利人同意的场景。
但哪怕用户聊天数据处理后实现了匿名化，还有一个作为训练语料的合规问题。如前文所述的有害数据问题，这些大量存在色情，暴力，自残，不文明表达，过度依赖等问题的聊天记录如果被投喂给大模型进行训练，很可能会导致模型输出也出现对应的有害内容。
《生成式人工智能服务管理暂行办法》第四条明确规定，提供生成式人工智能服务，应当坚持社会主义核心价值观，不得生成煽动暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容；《人工智能拟人化互动服务管理暂行办法》第十一条也规定，拟人化互动服务提供者开展预训练、优化训练等数据处理活动的，相关数据应当具有合法来源，符合法律、行政法规的规定和社会主义核心价值观的要求。
虽然模型服务商会在训练前对数据进行清洗，可以去除很多问题内容，但就笔者所阅读过的聊天记录而言，确实有大量不符合社会主义核心价值观的内容，对此，数据清洗能不能都过滤掉，笔者持怀疑态度。归根结底，和AI私密聊天的场景容易把人的阴暗面激发出来，这部分内容，根据我国监管法规确定的原则，不太适宜做人工智能的训练素材。
最后，用户愿意把自己的秘密告诉AI，是因为相信自己是在一个相对私密的环境中交流，AI公司既然享受用户信任带来的商业利益，也应当承担相应的数据保护责任，即便企业破产也不能成为这些责任消失的理由。作为用户，如果不想自己的聊天记录成为破产财产被拍卖的，也可以行使删除权，要求AI公司删除自己的数据，保护自己的隐私。
本文作者：游云庭，知识产权律师。Email: yytbest@gmail.com，本文仅代表作者观点。