Anthropic因社区反对调整Claude Fable5限制措施

核心要点

{'title': 'Anthropic因社区反对调整Claude Fable5限制措施', 'source': 'aibase.com', 'date': '2026-06-12', 'summary': 'AI公司Anthropic推出新模型Claude Fable5后，因一项隐藏的限制措施引发了行业争议。在遭到AI研究社区的强烈反对后，官方宣布调整相关规定并发表道歉声明。据悉，Claude Fable5最初设置了多重安全保护，在处理网络安全、生物和化学等高风险话题时，会自动切换到性能较低的模型，以避免技术滥用。对于试图使用该模型开发竞争性AI的研究人员，平台此前会秘密降低模型性能，在用户不知情的情况下施加限制。根据服务条款，平台已禁止用户使用Claude训练类似的竞争性模型。这种隐藏的限制计划引发了业内的不满。许多研究人员认为此举措不利于行业发展，可能导致AI领域的垄断。面对公众压力，Anthropic公开道歉并宣布调整。调整后，平台所有安全措施将完全透明。一旦系统检测到用户试图使用模型开发高性能竞争性AI，将主动发出提醒，明确拒绝请求或直接切换到低配模型，不再使用暗中降低性能的方式进行控制。此次事件反映了AI安全策略制定中透明度与有效性之间的平衡难题，也凸显了开源社区在AI治理中日益重要的监督作用。', 'tags': ['Anthropic', 'Claude', 'Fable5', 'AI安全', '开源社区'], 'image': ''}