中国信通院警示OpenClaw风险 企业如何安全用开源AI智能体

中国信息通信研究院副院长魏亮。受访者供图

不久前，开源的人工智能智能体“龙虾”（OpenClaw）依据自动化任务流能力，在国内产业界迅速地走红起来。可是，它随即很快暴露出来的安全边界模糊等方面的隐患之处，又给新的应用蒙上了一层带有风险的阴影。

今年2月起，中国信息通信研究院，也就是“中国信通院”，多次发出关于防范OpenClaw开源AI智能体安全风险的预警提示。工业和信息化部网络安全威胁和漏洞信息共享平台NVDB，归纳安全使用建议成“六要六不要”，其中具体含，要定期自查是否有互联网暴露状况，以及不要把“龙虾”智能体实例外露至互联网等项。

怎样去看待，随着 OpenClaw 这类新型智能体的出现，而产生的网络新型风险，产业界的合规底线究竟是什么，企业该怎么去建立技能供应链安全审核机制，“龙虾热”又给我国 AI 智能体开源生态带来了哪些启示，澎湃新闻记者在近日对中国信通院副院长魏亮进行了专访。

魏亮在接受澎湃新闻记者采访时表明，相较于传统开源软件以及普通AI工具，OpenClaw具备极强的高风险性质，还有不确定性，并且它处于产品快速迭代的阶段，同时处于生态爆发式扩张的发展时期，呈现出高速发展的态势与安全风险严重失衡的突出矛盾。

他进行介绍，当下，在国内外，出现了因OpenClaw不能正确使用而致使的安全事件，此事件不但造成了用户数据被有误删除的后果，还致使敏感的种种信息被泄露，并且使得企业的办公网络处于瘫痪状态，甚至，有部分OpenClaw的资产在被黑客成功实施攻击之后的状况表现是，竟然转变为僵尸木马主机以这种形态向外发起有针对性的攻击。

他觉得，国内 AI 智能体开源生态 ，要从这三方面着手建设： 其一 ，坚持安全和开放并重之处 ； 其二 ，统筹去发展新技术以及安全的方面 ； 其三 ，从构建全生态治理机制的地方。去鼓励开展基于 AI 框架 ，关于模型、 涵盖技能研发应用的进展 ，对安全技术标准加以完善的完善过程 ，起到降低对于单一类型内开源项目有所依靠依靠状态内的降低 ，达到提升供应链表现出来抵抗弹性之处 之成效。还要对开源社区、开发者及属于此身范畴与其中存在的相关安全机构之间相互产生的互动 ，和彼此之间拥有的协同进行一个机制的完成性构造 ，最终形成良性循环的可以安全治理成果。

澎湃新闻指出，中国信通院在近期已然针对OpenClaw下达了安全提示指令。存在这样一个问题，它与传统得以公开源代码的软件、平常普通的AI工具在安全风险方面存有怎样的关键不同之处呢？

魏亮，传统开源软件功能相对较明确单一，普通AI工具功能也是如此，二者在安全方面有较为成熟的方法论，权限清晰明了，依赖关系简单，故而安全风险相对固定且存有边界限，亦拥有比较标准的修复策略。然而，OpenClaw作为一个将高权限、自主决策、开放指令集成在一起的复合体，自身有着极强的高风险性以及不确定性，并且正处于产品快速迭代、生态以爆发式扩张的发展阶段，显现出高速发展与安全风险情况严重失衡这样极为突出矛盾之处。

总而言之，OpenClaw存有四个较具典型性的特性，其一为风险性更高些，鉴于OpenClaw需高权限，功能界限也不清晰，这兴许会致使“全系统接管”以及“持久化控制”，就相当于系统平台、数据讯息全然沦陷。其二是隐蔽性更甚，缘由在于它拥有自主决策及指令执行能力，安全风险以“露而现之操作”转变成“悄无声息接管”，极为隐蔽，及时发觉的难度亦颇高。第三，其扩散速度相当快，和传统开源软件对照，OpenClaw外部接口数量众多，并且默认处于信任状态，加上拥有自主决策执行能力，很容易致使安全风险从被被动动触发转变成为主动扩散，并且难以进行防护与拦截。第四，其存在的问题是具备可审计性不足的状况，OpenClaw的特性表现为决策是黑箱形式、行为自主，决策以及执行日志也不齐全完整，而且还有随时可能被篡改的情形，溯源难度比较大。

澎湃新闻询问说，当下国内有没有出现那种因为OpenClaw使用方式不正确从而致使财产遭受损失、数据出现泄露的案例，中国信通院有没有监测到相关的情况，能不能对此进行具体的介绍？

魏亮，我们得清楚地认识到，像以OpenClaw作为代表的新一代智能体技术，在创新模式并且极大地提高生产效率时，这种技术还给当前的网络安全防护体系以及方式带去了挑战。依据工业和信息化部网络安全威胁与漏洞信息共享平台的监测情形瞧，国内外确确实实发生了由于 OpenClaw 使用不妥当引出的安全事件，这不但致使了用户数据被错误删除、敏感信息遭泄漏、企业办公网全面瘫痪的状况呈现，甚至有部分 OpenClaw 资产在被黑客成功袭击后置变成僵尸木马主机，紧接着对外部展开攻击。我于此处阐述两类具备代表性的案例：

其一，大模型密钥出现泄露状况，进而引发资金损失问题。拥有企业技术人员，乃是在对 OpenClaw 实施部署之后的第三天，由于管理方面存在欠缺不良，以至于将 API 密钥泄露出去。攻击者在获取到该密钥以后，于凌晨时分频繁地对大模型接口进行调用，最终致使在用户并不知情的情形之下产生高额账单，从而造成经济损失。

其二是因运用含有恶意代码的技能致使系统沦陷，黑产团伙大规模制作含有恶意代码的技能，且上传到诸如ClawHub等技能市场，当用户运用这些技能时，系统会自行下载并执行当中的恶意代码，借由伪造弹窗诱使用户输入本地账号密码，进而窃取系统权限。

澎湃新闻提出，关于关键信息基础设施运营者去采用OpenClaw这件事，其安全方面的红线以及合规方面的底线究竟是什么呢？

魏亮指出，关键信息基础设施对国家安全、国计民生以及公共利益意义重大，其运营者于引入OpenClaw等新技术新产品之际，应要更为严格以及慎重，短期内还是建议以研究测试作为主要项，与此同时做好安全管理工作。需严格去落实《中华人民共和国网络安全法》《关键信息基础设施安全保护条例》等一系列相关要求，确保安全保护措施同关键信息基础设施一道进行同步规划，同步建设，并同步使用。与此同时，尤其需要着重留意把上线之前的安全评估以及试运行事宜做好，对于使用期间的网络安全风险监测、漏洞闭环管理还有威胁处置等等方面，建议依据本行业、本单位的实际情形，从以下几个层面上强化安全管理。

其一，得严格遵守6个绝不，在没经过试验以及安全评估以前，绝不在核心生产环境进行部署部署，绝不把管理员的权限授予他人，绝不与公共互联网进行链接，绝不安装来源不知以及具备高风险的技能，绝不贸然盲从指令跟第三方代码跟与第三方代码，绝不将以及允许读取对敏感数据输入对敏感数据。

二是得落实5个做到，其一选择官方与商业产品，还要做到及时更新以及数据备份；其二优先于虚拟机或者沙箱运行，并且做到网络隔离；其三启用Token/密码以及证书，进而做到强认证；其四选择官方可信技能，也要做到先审查再使用，针对高风险操作进行二次确认；其五开启详细日志，以做到安全监控以及定期审计，一旦发现异常即刻处置。

澎湃新闻称，要是企业引入OpenClaw来做流程自动化，那么最小权限该怎么落实，以隔离状态进行运行这一点又要怎样实现，审计留痕又依靠什么来达成？

魏亮表示，企业要是引入OpenClaw来推进流程自动化的话，那必须得是以最小权限构筑底线、以隔离运行控制边界、以审计留痕强化合规，切实做到安全跟发展并行、效率同合规兼顾。在最小权限那里，得使用仅仅只会用于运行OpenClaw进程的普通权限账号，禁止跟超级管理员以及业务账号混合使用，能够按照具体业务场景配置独立权限，像是只读场景就不开放写还有删除权限，安装、删除以及批量操作等高危指令新增二次审批。

隔离运行方面，其一为运行环境隔离，建议借助虚拟机亦或是采用容器化部署之法。以此方式才能有效避免产生致使对于主机有所影响的状况。其二是网络部署隔离，需于独立网络区域展开部署操作。并且绝不能和核心业务系统进行互联联通。在非有必要的情形状况之下，要将互联网访问予以关闭。或者也可进行部署专用加密通道之举措。审计留痕方面，必须开启全量日志。要详细记录涵盖时间、命令、结果、状态码等诸般全量信息。以此来确保登录登出、权限变更 、修改删除以及凭证使用等等关键操作能够留存下轨迹印记。要是有相应条 件的话，可构建独立日志审计系统。借此确保日志可进行有效存储 ，能够被加以审计 ，并且不会被人进行非授权篡改。

与此同时，我们还能观察到，当下国内有不少企业已然推出了网络安全产品，或者是技术方案，这些产品和方案能够有针对性地去解决OpenClaw部署以及应用时所出现的安全问题，进而为用户防范风险这件事情提供了强有力的支撑。在此建议企事业单位以及个人，根据自身的业务需求，还有技术能力以及安全等级，合理地去选用安全防护产品以及安全方案。需要提醒大家的是，对任何技术的采用而言，这实在是一个权衡利弊轻重的过程，必须在当下既有的网络安全管理框架范围之内，充分尊重业务得以运行的客观真实情况，以带有理性思维的方式去合理全面地衡量评估其中技术上的便利性与安全方面所带来的代价二者之间究竟该如何平衡，进而能够稳步推进OpenClaw的实际应用工作。

澎湃新闻指出，OpenClaw于应用期间，涌现出“提示词注入”之情况，出现了“误操作”的状况，存在技能插件（skills）投毒的险情，还有安全漏洞这般的风险。那么，企业究竟该以何种方式去构建技能供应链安全审核机制呢？而从政府层面提建议的话，又应当采取哪些助力企业的措施呢？

技能插件，也被称作技能，它有这个样子。它是OpenClaw实现具体功能的核心组件，它是OpenClaw拓展能力边界的核心组件，它是OpenClaw提升实用价值的核心组件，它容易引发供应链投毒，它容易引发安全漏洞。类似手机APP的情况，早期手机APP市场曾面临恶意软件的问题，早期手机APP市场曾面临违规收集信息的问题，经过多年的技术升级，经过多年的平台管控，经过多年的监管引导，已建立严格的应用商店审核机制，形成安全、可信的手机应用生态。

OpenClaw技能的安全治理同样需这么个过程，在此也要提示广大用户，得充分权衡使用的便利性与安全性，别安装来源不明的技能，搞出针对性的安全方案还有应急预案，切实防备技能供应链引发的安全风险。

就具体情况而言，于技能引入以及使用的环节当中，其一，需强化源头管控，优先挑选来源可靠、信誉较佳的技能，禁止使用第三方镜像、论坛链接以及个人分享包，杜绝加载运用未签名或者签名无效的技能。其二，要做好安全检测，在进行部署以前，通过审查代码或者利用Skill Scanner等工具来着手做好安全检测这一事宜，不使用要求做出“下载ZIP”、“执行shell脚本”或者“输入密码”行为的技能。其三是要做好持续优化工作，需定期对在用技能版本以及风险情况开展审计，达成及时更新的目标，一旦发现风险便立刻予以禁用或者进行修复，还要及时地把冗余的亦或是过期的技能清理掉。

为保护用户网络安全权益，推动产业健康有序发展，我们给出建议，要参照OpenClaw技术发展实际状况，强化标准引领，追踪技术发展变化，明晰安全要领，定制细化后的技能技术要求、合规标则以及管理规范，指引企业依照规范建设、依规应用，为AI高质量发展提供助力。

此外，需要强化技术供给，激励并引导企业去开发安全审计工具，给予一键检测的能力，给予支持来开展面向技能安全的技术培训、攻防演练之类活动，以此提升技能安全应用能力。要壮大安全产业，凭借政策引导、资源来进行支持，促使整个AI安全产业能够协同发展，培育并且催生出专注于AI供应链治理、大模型风控、智能体行为审计的新兴安全市场，为数字经济的繁荣供应坚实的安全底座。

澎湃新闻提出这样的问题，用户抑或是厂商察觉到OpenClaw漏洞或者攻击事件，那么上报渠道以及处置流程会是怎样做的呢？

魏亮，按照《网络产品安全漏洞管理规定》，当厂商发觉自研的相关产品存有安全漏洞之际，需及时朝着工业和信息化部网络安全威胁和漏洞信息共享平台（NVDB）汇报漏洞以及修补的状况，妥善做好用户通知的工作，并且提供必要的技术支撑。当用户以及安全研究机构于察觉相关安全漏洞之后，能够及时把情况通报给网络产品提供者（开源社区），接着由网络产品提供者去开展验证以及修补工作。或者，还可以朝着工业和信息化部网络安全威胁和漏洞信息共享平台（NVDB）进行报告，NVDB在对漏洞予以确认之后，会通知相关网络产品提供者，并且督促其完成处置，同时，会依据漏洞危害情况发布安全预警。面临攻击事件，网络运营者、社会组织与其个人，于发觉相关网络安全事件之际，能够依照《国家网络安全事件报告管理办法》、《公共互联网网络安全威胁监测与处置办法》以及本行业领域的相关规定予以报告以及实施处置。

澎湃新闻所提及的，OpenClaw历经的安全方面引发的风波，其究竟会给国内人工智能智能体开放源代码的生态环境带来什么样的启发与含义呢？

魏亮称，近期OpenClaw有着突出的安全问题，这些问题集中于权限失控，以及技能投毒，还有提示词注入和远程接管等方面，从根源来讲，是因安全设计有所缺陷，并且部署运维显得粗放，同时生态治理存在缺位等问题相互叠加进而致使。

在国内 AI 智能体开源生态建设这一方面，给出的建议是，需从三个方面进行强化。其中之一是，要将安全与开放同等重视起来。要从开源社区根源处着手，加大管控力度。强化对开发者进行认证这一过程。深入推进准入审核。全面落实安全检测工作。进而设定并落实安全可信的白名单确定机制。防止恶意投毒情况发生。杜绝后门植入等举动。

二是新技术需要对发展以及安全予以统筹，促使开源社区推动加强开发者安全意识的培养，把最小权限、隔离运行、审计留痕等当作安全性保障的基本要求事项，防止事后进行补漏。

三是搭建全方位生态治理机制。倡导深入展开AI框架的研究及运用，鼓励致力于提升模型的质量、数量，促使技能研发应用得以拓展，将安全技术标准进行进一步完善，减少来自单一开源项目的依赖程度。以便提升信息整合等多层面的数据流动能力，同时逐步完善开源社区里人与人、人与安全机构之间的全面互动以及有效协同机制，最终在各方支持下构筑起安全管理的良性循环态势。

聚焦于，澎湃新闻称，有关OpenClaw所暴露出的，权限不受控隐患，数据遭泄露问题，技能插件还存在遭受投毒情况等安全方面隐患，中国信通院于国产Al，智能体生态建设领域，究竟有着怎样具体的规划呢，是这样的疑问。

向伟涛：智能体身为大模型应用的关键形态，促使人工智能从感知认知朝着决策执行的方向加速演进，然而却依旧暴露出许多安全风险。中国信通院将重点锁定在人工智能产业高质量发展所需上，积极着手开展智能体标准的制定工作、进行评估测试以及推进生态建设，最终达成推动我国人工智能产业能够实现自主创新、稳固产业安全根基的目标。

第一点是，构建起完善的智能体标准以及基准测试体系、一方面，围绕着基础支撑、通用场景、行业应用，形成智能体标准体系，已经完成了10余项标准的研制，从而为国产智能体产品的研发，提供出基本的遵循、另一方面，构建起“方升”智能体基准测试体系，把重点聚集在智能体通用能力、通用任务、典型应用场景上面，则是对智能体能力所做出的体系化评估，进而促进国产智能体产品能够持续优化。

二是强化智能体核心技术方面之攻关，聚焦于智能体互联协作技术，加速智能体进行通信协议的国产化进程，推动国内智能体开发平台以及工具实现落地应用，从而降低智能体开发的门槛。

首先，有这样一个举措，那就是搭建国内智能体产业协同生态平台。其次，是要依托中国人工智能产业发展联盟，在此基础上成立智能体创新与应用工作组。然后呢，还要推动产学研用的深度融合。接着，要通过搭建智能体供需对接平台。最后，鼓励企业参与国产智能体的研发与应用试点。

未经允许不得转载：openwrt技术分享 » 中国信通院警示OpenClaw风险 企业如何安全用开源AI智能体