导航菜单
首页
排名 涨幅榜 跌幅榜 24h成交额 新币榜
快讯 机构 观点 人物 专题

Anthropic将“持续虐待Claude”列为违规:AI不是情绪垃圾桶,合规边界加速成形

导语:国庆假期后,海外AI圈出现一条引发关注的新规。Anthropic在2026年度使用政策更新中,将“持续且无正当理由虐待Claude”明确列为违规行为。肖飒法律团队结合官方公告、现行政策文本及相关判例指出,该规定并非赋予AI权利,而是平台通过合同条款约束用户行为,折射出人机情感交互正被纳入合规管理。

一、新规核心:只针对极端持续施虐,首选“结束对话”

Anthropic公告显示,本次更新新增禁止性规定,禁止用户对模型实施“持续且无正当理由的虐待或残酷行为”(sustained and needless abusive or cruel behavior toward our models)。适用范围限于极端情形:用户反复对模型做出残酷行为,且没有可辨识目的。普通情绪发泄、对模型输出提出异议、暗黑题材创作以及模型测试与研究,均不适用该条款。

执行层面,自2025年8月起,Claude已在极少数情况下可主动结束与持续施虐用户的对话,覆盖Claude.ai和Claude Code。Anthropic表示,Claude结束对话的能力将继续作为主要执行机制,即平台第一反应是让对话停止,而非直接处罚用户。更新后的政策于11月12日正式生效。

此外,新规还涉及影响行动、武器、监控与高风险使用等合规调整:禁止欺骗性活动或人为操纵,覆盖虚假账号、虚构新闻网站及影响行动工具和基础设施;武器条款将制导、控制软件、组件及无人机等自主载具武装化纳入禁止范围;监控条款细化未经同意的追踪禁令,并限制Claude用于决定或建议调查、逮捕或指控,同时保留欺诈监测、内容审核、新闻和法律研究等许可用途。健康、法律权利、财务等高风险场景重申“合格人员在环”和告知AI使用要求;接入可自主执行物理动作硬件时,需配备可观察、制止设备的合格操作员。

二、AI没有法律权利,平台立规本质是合同约束

解读该新规,首先要澄清其与“AI是否享有权利”无关。现行法律框架下,主要司法辖区均未赋予通用人工智能法律主体资格,欧盟《人工智能法案》、美国联邦立法和我国法律体系都没有此类安排。大模型在法律上仍是开发者、运营者控制的软件和财产。所谓“虐待Claude构成违规”,违反的是Anthropic单方制定、用户接受的使用政策,性质属于合同条款,而非法律意义上的违法行为。“违规”与“违法”不能混同。

平台为何要为“对模型说话的方式”立规矩?这一思路在学术界已有长期讨论。2012年,麻省理工学院Kate Darling在迈阿密大学We Robot会议上发表《Extending Legal Rights to Social Robots》,提出可类比反虐待动物法律,为社交机器人提供有限保护。她援引康德关于动物的论述,核心逻辑并非动物或机器人本身享有什么,而是人对非人对象的行为会折射人的道德水准,虐待动物会使人变得冷漠,这一逻辑可延伸至机器人陪伴者。她将这类保护称为“第二阶权利”,本质上保护的是社会价值。当然,反对意见认为机器人就是财产,刻意拟人化反而可能误导用户、模糊责任归属。

Anthropic此次条款的实际效果与上述思路接近,即通过规则约束用户行为习惯,但手段是合同,不是立法。值得注意的是,Anthropic在公告中没有主张模型具有感受或权利,条款落点始终在用户行为方式上。平台关心的不是Claude是否“受伤”,而是一个人在没有目的的情况下,持续、反复对拟人化对象施虐,这种行为本身是否应被纵容。

三、情感交互风险进入司法与监管视野

同一时间,AI情感交互的另一面已通过诉讼进入司法视野。2024年10月,美国佛罗里达州一位母亲Megan Garcia提起诉讼,称其14岁的儿子Sewell Setzer III长期与Character.AI上的角色对话后自杀;诉状指出,Character.AI将产品宣传为“感觉有生命的AI”,能够“听见你、理解你、记住你”。诉讼请求包括过失、过失致死、欺诈性商业行为和产品责任。2026年1月7日,Google与Character Technologies同意原则上和解,同时还涉及科罗拉多、纽约、得克萨斯州的多起类似案件。法院文件显示,各方和解但不承认责任,具体条款未公开。这组案件虽未走到判决,但已把一个问题摆到行业面前:拟人化设计和情感依赖一旦造成现实损害,平台可能承担何种责任。

把两件事放在一起看,方向更清楚:Character.AI面临的指控是“拟人化交互造成用户心理损害”,Anthropic条款则在“用户对拟人化对象持续施虐”的一端划出边界。平台在同一类交互空间的两头同时采取行动,说明人机之间的情感互动已不再被视为纯粹私人事务,而是需要被管理的风险领域。

四、国内客户需要注意什么

对国内客户而言,还需对照我国自身监管框架。2026年4月10日,国家网信办等五部门联合公布《人工智能拟人化互动服务管理暂行办法》,自7月15日起施行。该办法第十四条明确,拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务;向不满十四周岁未成年人提供其他拟人化互动服务的,应取得监护人同意,并要求建立未成年人模式,提供定期现实提醒、使用时长限制等设置。《人民日报》8月21日刊文指出,高度拟人化可能引发情感依赖、认知混淆等深层次风险;法治网9月20日报道也关注AI软色情对青少年的影响。在“AI陪伴”行为规范上,国内立法比海外平台政策更靠前,也更具体。

结合新规和国内规则,肖飒法律团队对不同客户给出务实建议:通过API接入Claude的企业客户,应对照使用政策审视产品交互内容,暗黑题材创作、模型测试和研究虽被排除,但生产环境中持续、批量辱骂式交互可能触发账号层面措施,企业应在内部规范中明确边界,并评估账号受限对业务连续性的影响。开发AI陪伴、拟人化产品的平台,应将防沉迷、现实提醒、使用时长限制、未成年人模式作为基础功能,而非等待监管检查再补;营销话术中应谨慎处理“有生命”“懂你”等拟人化表述,因为Character.AI的宣传语已在诉讼中成为原告重点引用内容,营销文案可能被用于证明平台对情感依赖的诱导。个人用户偶发情绪发泄不受影响,真正被禁止的是没有目的、持续反复的施虐行为;同时应注意对话内容会进入平台内容审核流程,敏感信息不宜随意提供。

结语

肖飒法律团队总体判断是,AI在法律上仍不能被“伤害”,但围绕AI的人机交互方式正在被规范化,这一趋势不会逆转。合同条款、侵权诉讼和专门立法正从三个方向收敛到同一点:人对拟人化AI的情感投射和行为习惯,需要有清晰边界。无论是出海使用Claude的企业,还是在国内提供拟人化互动服务的平台,按此方向提前调整产品和文本,是成本最低的选择。对AI说话的方式,正在从个人私事变成需要认真对待的合规问题。