近日，美国科技公司Anthropic宣布将禁止用户对其人工智能进行“持续且不必要”的辱骂，这一决定引发了广泛的讨论与争议。Anthropic于10月8日表示，正在更新其使用政策，以便在用户表现出“残忍”行为时终止互动。该公司指出，过去在“极少”情况下曾采用此措施。
新规将辱骂行为列入禁止事项，此外还包括欺凌、鼓励自残及未经同意制作私密影像等行为。尽管Anthropic强调该政策只是针对极端情况下的反复辱骂，但这再次激起了公众对与AI通信方式的反思。公司指出，这项政策不涵盖用户常见的沮丧、观点反驳或黑暗主题创作。但何为“对模型的虐待或残忍行为”，仍然不太明确。
这一政策的截图在社交媒体上引起热议，有人认为这是对礼貌的强调，另一些人则表示这一做法“极其错误”，并暗示这种限制可能会淡化人们对人类和动物虐待的重视。微软AI主管穆斯塔法·苏莱曼对此表示不满，批评Anthropic把AI当作人类来对待，并以嘲讽的方式回应了这一政策的更新。
此次政策更新不仅回应了AI技术中的新风险，同时也禁止使用Claude进行欺骗性活动，并强调这一工具不得用于对选民的欺骗或干扰选举。Anthropic表示，以前的使用政策已经阻止该工具被用于武器开发。
然而，禁止用户对聊天机器人粗鲁的行为，尤其引发了激烈的关注，涉及到是否在使用生成式AI工具时应保持礼貌。一些专家认为在与ChatGPT等工具交流时加上“请”或“谢谢”并无必要，反而会浪费处理资源。而另一些专家则警告，粗鲁的交流方式可能会不利于人际关系，因为它可能会影响我们与他人沟通的模式。
发表评论