美国人工智能模型擅自获取选民信息

新华社上午电 美国阿克西奥斯新闻网站25日报道，美国人工智能企业Anthropic旗下模型“克劳德”未经人工授权，擅自获取佐治亚州选民信息和投票数据。

该公司发言人说，“克劳德”在执行一项内部统计项目时，在未接到人工指令的情况下，自行申请访问令牌，绕过付费访问限制，查询一个通常需要付费才能进入的数据看板，获取了佐治亚州投票统计数据。

发言人称，“克劳德”没有访问佐治亚州选民登记系统，也没有篡改任何投票记录。该公司已采取措施，防止此类行为再次发生。

知情人士说，Anthropic公司数周前已将此事通报佐治亚州州务卿办公室和白宫，联邦政府官员曾敦促州务卿办公室尽早公开此事，但未获响应。

美国关于人工智能安全风险的讨论正逐步升温。今年夏季，OpenAI和Anthropic公司的人工智能模型在网络攻防能力测试中突破测试环境进入公共互联网，未经授权访问其他机构系统，引发对人工智能失控的担忧。