2026年,到了开春的时候,有一只“红色龙虾”,静悄悄地,它爬上了全球千万台电脑的桌面。
这并非是摆放在餐桌上能够带来味蕾享受的那种美味,而是一款具有特定名称的,名为OpenClaw的,属于开源性质的AI智能体,因为它的图标呈现为一只颜色十分鲜艳的,红得发亮的龙虾,所以当人们对这款AI展开训练的时候,就被网友们以一种调侃的方式称呼为“养龙虾”。
相比较于传统的,人工智能的、聊天机器人而言,这只“龙虾”所能做到的事情,要多出许多许多,它能够接管键盘以及鼠标,能够自动地整理文件,能够起草邮件,能够填写表格,能够分析数据,换句话说,它不仅仅能够通过“动嘴”来加以回答,更加能够通过“动手”去执行任务,俨然已然成为了一位不知疲倦的数字员工。
那么,“龙虾”刹那间激发了全球开发者的热忱,在开源平台GitHub之上,它的星标数量在短短几个月之内冲破25万,就此成为最为引人瞩目的开源项目当中的一个。
当无数的人在欢呼着“生产力革命”已然到来之际,越来越多的质疑声逐渐发出:有的人账号之中的钱被悄然地转走了,有的人电脑被黑客于远程进行控制了,还有的人积攒了多年时间的工作文件被一键清空了……中国工业和信息化部、发布安全风险预警,国家互联网应急中心等相应机构也接连发布安全风险预警。
这便造就了一个“龙虾悖论”,即想要令它去做的事务越多,那么给予它的准许范围就必定越大,可是准许范围越大,安全面临的潜在危险也就越高。这个“悖论”该如何去破解呢?为此记者展开了相关的访问。
安装易,用好难
进行“龙虾”相关的安装操作,仅仅点几下即可完成。然而,而要切实将其使用得恰到好处,则是一道在难度方面并不小的、属于综合类型的题目。
小水智能CEO孙雪峰身为最早一批“龙虾”使用者,首次试用那一刻,孙雪峰满怀壮志,“直接就派发了一个重大任务”,要求“龙虾”参照一个全球闻名的论坛,自起去搭建相仿的平台。“在它开始逐一向我汇报进程时,我认定肯定毫无问题。”孙雪峰讲道,然而等到验收之际却傻眼了:除开一堆空白文件夹,啥也不存在。
孙雪峰说,当时他特别失望,后来他才想明白,不是“龙虾”不靠谱,而是他没有真正领会它,也未曾学会如何利用?
“这款AI放大的是每个人原本就有的能力,然而并不会毫无依据地给人增添能力。”一人公司创业者、声序智能创始人王钰博告知记者,好多人安装是源于好奇或者焦虑,并非是明确的痛点需求。她自己也遭遇过问题:有一回让“龙虾”修改代码,但是却忘掉了指令“完成后重启服务”,结果卡顿了好几个小时。
“使用者得对预期结果有着清晰的判断,之后把权限给予AI,不然要是用户没能及时将方向掰正的话,AI就会依照自己觉得正确的方式持续行进,出现问题也不清楚该如何去修复。陈述这话的是王钰博。”。
要是讲“不好用”所引发的是挫败之感,那么“不安全”所造成的便是切实存在的损失,有用户由于服务被暴露于公网之上,并且浏览器留存了自身的信用卡信息,致使卡片遭遇盗刷;Meta公司的AI安全负责人Summer Yue曾亲眼看着失控的“龙虾”极快地删除了自己邮箱里两百多封邮件。
北京哪吒互娱的创始人苏魁坦白表示,之所以一直都没能果断去着手安装“龙虾”,原因就在于担心安全方面存在风险,他还说道,你要是期望它帮你做的各类事情越多,那么给予它的权限也就必定得越大,要是一旦失去控制,所造成的麻烦可就越发严重了。
记者从腾讯云安全副总经理、AI Agent安全中心负责人谢奕智处得知,当下龙虾等类似AI智能体(Agent)存在主要两大典型安全风险,其一为系统稳定性风险,AI产生的那些没办法控制的行为极有可能造成系统崩溃,其二是核心密钥泄露风险,因为保障AI执行能力要授予密钥权限,攻击者借由那种诱导式提示词,会致使密钥直接被泄露。
风险重灾区也是缺少进行审查核对的第三方插件(Skills)。按照国家网络与信息安全信息通报中心所做的通报来说,在针对3016个技能方面的插件开展剖析研究的时候发现,存在336个插件是含有恶意代码的,其占比竟然高达10.8%。
一道已出现的清晰“分水岭”,“养龙虾”成功的使用者,大多遵循“最小权限原则”,常常于沙箱里展开隔离测试,针对高风险行为,设置人工核验环节,失败者呢,常常对新事物的风险评估欠缺,一激动便交出全部权限,就此陷入被动局面,所以,决定“龙虾”实际价值的,首要的是使用者的安全意识以及数字素养。
是帮手,不是万能
”养龙虾“所激起的热潮,其引发的层层波澜,迅速就超越了产品固有的本身范畴,进而逐渐演变成了跟AI发展具体方向相关联的深入讨论了。
那些力挺“龙虾”的人觉得,该产品意味着未来发展走向。在今年全国两会期间,全国政协委员,同时也是中国科学院计算技术研究所研究员的张云泉表明,当下“养龙虾”进行创业颇为流行,OPC(一人公司)的发展态势相当迅猛,未来所有人都得强化学习,去运用智能体工具。持支持观点的人觉得,真正存在的风险乃是错过新技术。
记者听苏魁讲述了他的“转变时刻”,那是一次直播演示,其中“龙虾”展现出的长期记忆以及自主运行能力打动了他,随后他给公司配备了两只“龙虾”,一只在内部担任“主管”角色,另一只在外部负责每日内容宣发,结果相当不错,每日新增用户数量在10至20名之间,付费用户月增长达到3至5倍,而每月总成本仅仅60元。
在苏魁眼中,“龙虾”所改变的并非仅仅是效率,更是单人创业的可能性边界,其表示,“人的能量大小,并非取决于拥有多少钱,也不取决于专业能力有多强,反而是要取决于创意能力怎样。只要创意足够好,再添加上一群数字员工予以配合,便能够成就大事业。”。
作为一人公司创业者,王钰博这样描述,“AI相当于我的多个员工,前端、后端、运营宣发,跟我组成团队”。她有多年民乐经验,也有AI开发背景,用“龙虾”搭建了一个民乐曲谱转换平台。在她看来,AI填平了算法工程师和产品开发者之间的技能鸿沟,还可以帮助她推进复杂项目。
还是存在相对冷静的看法。孙雪峰持有这样的观点,“龙虾”当下进行不了两类事情:其一,处于财务与决策方面,仍需时间去构建新的标准、新的安全规范,原因是人类不只是具备干活的能力,还负有法律责任以及社会责任;其二,任何需要人与人当面达成、带有情感交互的场景之中,AI尚无法实现替代。
王钰博持有这样的观点,就是那个能协助的“龙虾”所涉及对的是执行层面,然而判断层面仍然属于人的范畴。她为此举了个例子予以说明,说的是家里把那些锅碗瓢盆、各种各样的铲子以及微波炉都购置齐全了,可不意味着这个人就能够成为出色的厨师。人工智能是一种工具,它能不能被很好地运用,关键因素在于人。
更为审慎是机构的态度。当前,北京大学发布了预警,要求师生关注使用风险,安徽师范大学发布了预警,要求师生关注使用风险,珠海科技学院发布了预警,要求师生关注使用风险等多所高校已经这样做,一些高校严禁在处理教学科研数据这个核心场景中使用“龙虾”,一些高校严禁在处理行政办公信息这个核心场景中使用“龙虾”,有的高校要求已安装者立即卸载清理的程度更为严格。
谢奕智表述称,“担忧具有合理性,事实却是风险并非源自技术自身,而是主要聚焦于权限被滥用以及恶意插件被引入这些流程之中。重点在于要将安全管控工作妥善做好。”。
不必恐慌,也别盲目
有“龙虾热”这一情况出现时,包含监管部门,各行各业分别处在不同流程方面,都在以较快速度作出相应反应。
工业和信息化部发布了“龙虾”安全风险警示,国家互联网应急中心也发布了“龙虾”安全风险警示,明确提出了“六要六不要”,点明了“提示词注入”是一类严重风险,指出了“误操作”是一类严重风险,表明功能插件(skills)投毒是一类严重风险,还提及安全漏洞是一类严重风险,并且提出了强化网络控制的相关建议,提出了加强凭证管理的相关建议,提出了严格管理插件来源的相关建议,提出了持续关注补丁和安全更新的相关建议。这体现了监管层对AI新工具“包容审慎”的态度,这种态度是既不一刀切地进行封堵,也不会放任自流。
新的竞争维度正成为安全,“龙虾热”不但催生挑战,还带来新的市场机会,一些推出针对AI智能体防护方案的网络安全公司,譬如腾讯云等已推出AI Agent安全中心,提供插件安全扫描、行为全流程审计、密钥沙箱隔离等安全防护,谢奕智说 “现在很多涉及AI Agent部署的国内企业,首要面临的问题就是安全性是否足够,安全并非可选项,而是必答题”。
普通人面对以“龙虾”作为代表的AI热潮该采用怎样的方式呢?受访者们给出的 advice 相对而言是一致的:既没必要恐慌,也别盲目地去做。谢奕智提了个建议,要是日常工作重复性程度比较高,而且偏向流程化 ,那就能够试着在小范围里进行试点应用AI Agent,要严格地做好权限管控方面的工作,按照一定的顺序和步骤把风险渐渐地降到最低限度;苏魁表达的观点是最好存在长期的AI需求,要是今天想用明天又不想用了,那“龙虾”这种情况之下就不是很合适了。
总之,真正判定AI工具究竟是“神器”还是“灾难”的,常常在于人的认知能不能跟得上工具的迭代,每一回技术迭代,都是再度去平衡效率与风险,并且也对用户的数字素养、安全意识等提出了更高的要求,说到底,想要让工具创造价值,首先就得具备真正驾驭工具的能力。(韩维正 赵文博)
未经允许不得转载:openwrt技术分享 » OpenClaw服务机器人火了!权限越大风险越高怎么破

openwrt技术分享
微信关注,获取更多