首页 > 新闻 > 正文

格林第一季

AI“战争”，让人类走开：AI 自主攻入 AI 公司，还会“兵不厌诈”_我的网站

少林足球

A | 　　北京8月21日电 (记者陈溯)国家粮食和物资储备局21日消息，亚太经合组织(APEC)粮食安全高级别政企对话会20日在辽宁省大连市举行。

B | 对话会以“创新引领合作共赢——共建更具韧性、更有效率、更高质量的亚太粮食体系”为主题，围绕“粮食产业高质量发展与亚太区域粮食安全合作新机遇”举办主题论坛，就“产业链韧性与财政金融协同”、“数字化与科技创新驱动粮食产业转型升级”两个主题进行研讨。

C | 来自APEC成员经济体政府部门、企业协会、科研机构、国际组织代表近150人参加对话会。 7月16日，美国人工智能公司Hugging Face（抱抱脸）披露，该公司遭到了一场几乎全程由人工智能自主实施的网络攻击。　　国家粮食和物资储备局局长刘焕鑫表示，粮食安全是事关人类生存和发展的根本性问题，也是亚太各经济体的共同关注。“十四五”时期，中国持续夯实粮食安全根基，粮食市场运行总体平稳，粮食流通保障能力持续增强。更引人关注的是，面对AI发起的攻击，Hugging Face最终也借助人工智能展开反击，并使用中国团队开发的开源模型追查攻击过程。 ▲Hugging Face（抱抱脸）资料图 Hugging Face表示，发动此次攻击的是一套完全自主运行的人工智能智能体。它无需人工逐步操控，便能自行寻找漏洞、尝试进入系统，并在短时间内连续执行数万次自动化操作。专家此前已多次警告，AI智能体正逐渐具备独立发动网络攻击的能力，而此次事件可能是最早被公开披露的真实案例之一。

D | “十五五”时期，将坚持产量产能、生产生态、增产增收一起抓，持续提升粮食综合生产能力，切实抓好粮食稳价保供，着力推进粮食仓储物流现代化。 AI自主发动攻击还夹杂干扰调查的虚假操作据了解，Hugging Face主要为开发者和研究人员提供人工智能模型的开发、托管和共享服务。　　为深化今后一个时期亚太粮食安全合作，刘焕鑫向APEC各经济体提出三点倡议：一是以数智赋能，推动创新成果在粮食产业链规模化应用，加强人工智能、数字技术、智能加工等在粮食产业全链条的推广应用，促进可信数据共享，为风险研判、政策制定和应急响应提供科学依据。

E | 用户可以将模型和相关数据文件上传至平台，也可以直接调用其他人公开的模型。然而，攻击者正是利用了这套上传机制。Hugging Face称，一组经过特殊设计的数据文件被上传至平台，随后触发系统中的安全漏洞，使攻击程序得以在公司的服务器上运行代码。二是践行普惠共享，聚焦不同经济体的实际需求，持续开展政策研讨、技术培训和经验交流，帮助小规模生产者、中小微企业和初创企业更好获取信息、技术、融资和市场机会，让创新发展红利更多更公平地惠及亚太各经济体和广大民众。由于攻击由人工智能自动推进，其速度远超普通人工操作。攻击系统在短时间内不断尝试不同指令、权限和访问路径，其中还夹杂了一些用于干扰调查的虚假操作，增加了判断实际损失的难度。

F | 三是秉持开放共赢，深化多元主体参与的公私伙伴关系，推动政府部门、企业、科研机构、国际组织协同发力，营造市场化、法治化、国际化的营商环境，实现互利共赢、共同发展。

G | 　　会前，参会代表前往中国华粮物流集团北良有限公司、中粮油脂(大连)有限公司、大连弘润全谷物食品有限公司进行了实地参观。国家粮食和物资储备局科学研究院举办了“第四届APEC粮食产业链数字化和创新研讨会”。 Hugging Face最初也是通过人工智能系统发现异常。公司的自动化安全工具在扫描系统日志时，识别出大量可疑活动。此后，安全团队又调用大语言模型，对攻击过程展开分析，试图还原攻击是如何发生的，以及哪些账户和登录凭证可能受到影响。 Hugging Face表示，借助人工智能，公司得以重新梳理攻击时间线，识别系统遭入侵的迹象，并区分真正造成影响的操作和用于迷惑调查人员的干扰行为。原本需要数天完成的分析工作，最终只用了数小时，使防御人员能够跟上攻击系统的速度。美国模型受安全规则限制拒绝分析中国开源模型接手调查不过，Hugging Face安全团队在调查过程中也出现了一个意外问题。他们最初尝试使用一家美国头部人工智能公司开发的前沿模型，但该模型受到安全规则限制，拒绝执行部分网络安全分析任务。 Hugging Face解释称，这些模型无法准确判断使用者究竟是在合法调查网络攻击，还是准备发动新的攻击。由于相关指令涉及漏洞、代码和系统权限，模型的安全机制直接阻止了调查继续进行。为此，Hugging Face随后转而使用中国一款开源模型，对攻击进行分析并判断其影响范围。

H | 这也使此次事件形成了颇具戏剧性的一幕：一套AI负责发动攻击，另一套AI负责发现异常，最终又由中国开源模型协助追查攻击者留下的痕迹。 Hugging Face指出，这暴露出网络攻防中的一种“不对称”：攻击者使用人工智能时不受任何安全政策约束，而防御人员调用商业模型调查攻击时，却可能被模型自身的安全限制拦住。目前，Hugging Face仍未查明攻击来自何处，也无法确认究竟是哪套人工智能系统发动了攻击。