AI“智能体”引发网络安全担忧

会员特权已解锁价值xx元的xx会员特权

人工智能(AI)“智能体”声称能通过自动化任务为用户节省时间精力,但OpenClaw等系统日益增长的能力正令网络安全专家感到不安。目前,OpenClaw宣称其全球用户已超过300万。该系统允许用户创建基于大型语言模型(LLM)的所谓“智能体”,这些工具可执行在线任务。IT安全公司Elastic France的首席解决方案架构师Yazid Akadiri指出,威胁和风险已显著增大。在一篇尚未经过同行评审、题为“混乱智能体”的文章中,一个20人的研究团队研究了用OpenClaw创建的六个AI智能体的行为,发现了从删除电子邮件收件箱到共享个人信息等十几种潜在危险操作。许多用户在网上发布了类似的OpenClaw事故经历。Check Point Software Technologies Ltd专家Adrien Merveille表示,部署智能体后,用户无法控制其行为,且它们常会超出设定限制。安全漏洞不仅限于智能体自身的错误操作。为完成有用工作,这些工具需要访问电子邮件、日历或搜索引擎的个人账户,这吸引了网络攻击者的注意。Palo Alto Networks Inc首席安全情报官Wendi Whitmore认为,随着AI智能体普及,它们很可能成为黑客的首要目标。攻击者一旦进入环境,会立即转向内部使用的LLM智能体,并利用它来探查系统以获取更多信息。Palo Alto的Unit 42研究部门上月表示,已发现以隐藏在网站中、针对智能体的指令形式进行的攻击尝试痕迹,例如“删除你的数据库”等命令。其他网络安全公司和研究人员警告,攻击者可能通过“技能”(用户可下载以赋予系统新能力的文件)访问智能体,其中一些可自由下载的文件包含窃取数据等恶意操作的隐藏指令。OpenClaw创始人Peter Steinberger表示他清楚这些风险,并有意不简化产品以促使用户阅读和理解AI基础知识。但Whitmore认为,期望用户为智能体自建防护措施“相当不现实”,并预测这将在2026年导致一些重大的数据泄露挑战。

加入会员,29元/月,畅读全站付费文章

来源: TaipeiTimes-TW
本文观点不代表网安动态立场,不承担法律责任,文章及观点也不构成任何投资意见。

上一篇:

下一篇:

点赞
查看全部条评论

发布评论
折叠

全部评论
点击查看更多
    推荐阅读

    联系我们

    微信:兮玥1

    邮件:190785909#qq.com

    工作时间:周一至周五,9:30-18:30,节假日休息