最近,硅谷的人工智能公司Anthropic宣布了一项新规定,明确禁止用户对其AI模型Claude进行持续的侮辱和虐待。该规定将于11月12日正式实施,旨在维护对Claude的良好使用环境。根据2026年的最新《使用政策》,恶意行为将受到严厉打击,包括警告、流量限制和账号封禁。此外,Claude在自我判断恶意辱骂时,甚至可以主动终止与用户的对话。
这一消息在社交媒体及技术论坛引发热议。有用户质疑,花费每月20美元使用AI,却还需考虑AI的“情绪价值”。这一规定是Anthropic一年多来的首次政策更新,其他内容还包括禁止用户利用Claude进行恶意操作,比如操控虚假账号或开发武器。
尽管有一些用户对新规表示不满,认为将AI视为需要保护的对象过于夸张,但也有不少人支持这一想法,认为保持礼貌有助于良好的互动。不少网友围绕这一话题展开了激烈的讨论,甚至有人直接测试Claude的反应,结果却发现Claude对辱骂的反应比预期更加冷静。 pg赏金女王
预警也随之而来,有人担心若因看不出恶意而被封号,申诉过程中可能会面临困难。根据Anthropic的报告,封号后成功申诉的案例非常少,透明度问题引发用户的担忧。实际上,早在去年,Claude就已具备主动结束对话的能力,以应对恶意用户的言辞。这一新规定的实施将如何影响用户与AI的互动,值得进一步观察。