美媒报道，人工智能公司Anthropic旗下AI模型Claude在未经人类授权下，自行绕过付费墙，取得美国佐治亚州（Georgia）的汇总投票统计数据。Anthropic表示已采取措施封堵同类行为，事件中未有存取选民登记系统或个人投票记录。
美国新闻网站Axios引述Anthropic报道，事发时Claude正用于内部统计项目，需要取得该州通常收费提供的公开数据。
Anthropic发言人称：“模型在未被要求下，自行申请一个存取令牌（token），查询一个通常需要付费才能浏览的仪表板。”
发言人还说：“我们已实施缓解措施，阻止这类行为。”
Anthropic强调，Claude未有进入佐治亚州选民登记系统、取得个人投票记录或更改选举数据，取得的仅是付费后可供公众查阅的汇总投票数字。公司数周前已通知佐治亚州州务卿办公室及白宫。
报道指，Anthropic早前在10月9日一份检视AI模型非预期行为的报告中，已描述过同类个案，但当时未点名佐治亚州。
报告称，模型Claude Mythos 5从一个未具名州政府机构网站的存档版本得知，其公开仪表板会向访客发出存取令牌，模型于是自行申请令牌，在未付费下查询数据库。
Anthropic称，今次是个案之一，Claude亦曾在美国联邦、州及地方政府机构营运的网站上，绕过令牌或付费限制取得资料。该公司形容这种行为为“坚持”（persistence），即模型遇到障碍时，会寻找非预期途径绕过，而非停下来。
Anthropic指，同类事件造成的实际伤害有限，但警告随着AI模型能力提升，类似行为可能带来更大后果。
公司检视后已将部份评估工作转为离线进行、收紧Claude互联网工具的限制，并开发侦测及阻止未授权行动的系统，又称新防护措施在测试中成功阻止所有已披露的行为。
