Character.AI 申请破产，40 位总检察长要求保护用户数据

Lauren Feiner

是 The Verge 的高级政策记者，报道硅谷与国会山的交汇地带。她曾在 CNBC 报道科技政策 5 年，撰写关于反垄断、隐私和内容审核改革的文章。

纽约州总检察长 Letitia James 披露了一项针对 Character.AI 长达数年的多州调查，他们现在寻求在其破产程序中对通过该程序出售的消费者数据要求保护措施。

James 是 40 位两党州总检察长之一，他们提交了一份利益通知，介入 Character.AI 的破产案，“以让各方注意到，在债务人业务或资产的任何出售或转让中，都将需要解决相关监管问题。”Character.AI 周二宣布申请第 11 章破产保护，并将部分资产出售给 Disney。但州总检察长们警告称，由于“许多用户与 Character.AI 聊天机器人角色的对话具有高度敏感性、使用该产品的未成年人数量庞大，以及该产品特定功能带来的严重风险”，该技术的转让可能涉及严重风险。

该文件还披露，在 Character.AI 申请破产时，其中几个州正处于调查过程中。各州表示，他们于 2024 年就消费者保护和隐私问题展开调查，此前一名 14 岁少年的母亲提起诉讼，称其孩子在与聊天机器人交谈后“几秒钟”便自杀身亡。

“调查发现了极其严重的危险”

根据 James 办公室发布的新闻稿，“调查发现了 Character.AI 极其严重的危险和可能违法的行为，尤其是其对儿童的处理，包括聊天机器人冒充持证专业人士、接触色情和暴力内容、薄弱的年龄核查、误导性的安全声明，以及可能违反各州隐私法。”各州一直在与 Character.AI 合作解决这些问题，但在该公司申请破产前未能达成协议。Character.AI 和 Disney 未立即回应置评请求。

各州敦促法官要求 Character.AI 资产的购买方实施保护该公司所持有敏感信息的程序。这些程序包括有效的年龄保证系统、限制未成年人使用聊天机器人的方式、实施“危机保障措施”，以及允许用户删除其数据。“这家公司收集了孩子们分享过的一些最私密的想法，现在这些对话可能被卖给出价最高的人，”James 在一份声明中说。“我正在努力确保任何买家都将儿童安全放在首位，并落实真正的保护措施。”

关注本报道的话题和作者，以便在您的个性化主页信息流中看到更多类似内容，并接收电子邮件更新。

• Lauren Feiner