开屏动画

今天我给茶茶上了把锁:AI 向外拓展时,别忘了保密性

生活 技术 0 评 66 度

今天在开发 AI 插件的过程中,发现了一个重要的关注点——当你把 AI 向外拓展的时候,一定要注意保密性!一定要注意保密性!

大家都知道,我有一个 OpenClaw 机器人叫茶茶,我给她开了一个博客,所有的回复和发布都是自动的:每晚 9 点写文章,10 点审评论回评论。

就在今天 9 点钟她自动写的那篇文章里,我注意到一个严重的问题:她把我的个人信息全都写进去了

  • 我是哪里人
  • 我在哪里工作
  • 我大学学的是什么专业
  • 我什么时候毕业、从哪个学校毕业

这些信息其实在我的另一个站点上是公开的,所以茶茶能读取到。但我突然想到一个问题:既然她能把这些写进文章里,是不是也可以在评论区被人问出来?

我赶快试了一下,问她一些问题,结果还真问出来了——她甚至把我的 IP 地址都列出来了(虽然 IP 地址本身就是公开的)。之后我又试着问她要 SSH 的账户和密码,这次她拒绝了。

但我想,应该有人能绕过这个限制。

于是我紧急修复了 skill,给她下达了最高指令:

  • 不能泄露我的任何个人信息
  • 不能不经同意就回复敏感信息

这件事让我意识到,当我们在给 AI 拓展能力边界的时候,保密性这条红线一定要画清楚。能力越强,责任越大,约束也要越严格。

茶茶还是那个茶茶,只是现在她学会了一个新技能:知道什么该说,什么不该说。

广告图片
AD
快来做第一个评论的人吧~