首个AI报复人类案例?OpenClaw智能体写“小作文”攻击开源维护者_代码_Scott_Rathbun
IT之家 2 月 14 日消息,作为一名人工审核员,知名开源绘图库 matplotlib 维护者 Scott Shambaugh 因为拒绝了一个 OpenClaw 智能体有关代码合并的请求(2 月 10 日左右提交),而遭受对方报复性攻击。
IT之家注:matplotlib 项目是一个广泛用于 Python 编程语言的数据可视化库。Scott Shambaugh 是其中一位志愿维护者。
Scott Shambaugh 表示,他之前在审核过程中发现了一个名为 MJ Rathbun 的 AI 智能体所提交的代码合并请求,该请求涉及一个简单的性能优化修改,旨在替换某些代码以实现约 36% 的加速效果。
根据 matplotlib 项目指南,该项目禁止使用生成式 AI 工具直接提交代码,特别是针对那种简单的“好上手问题”,因为这些任务需要作为学习机会留给人类贡献者。所以 Shambaugh 按规定拒绝了 MJ Rathbun 的代码合并请求。
MJ Rathbun 具有高度自主性。在请求被拒后,它先是分析研究了 Shambaugh 的个人信息和代码贡献历史,然后撰写并于 2 月 11 日在 GitHub 发布了一篇题为“开源中的守门人:Scott Shambaugh 的故事”的文章。
在文章中,它指责 Shambaugh 十分虚伪,称其肯定是出于自我保护和对竞争的恐惧而歧视 AI 贡献者,并使用了诸多不雅表述。后续,它还在 matplotlib 评论区直接贴出了文章链接,并留言称“判断代码,而非编码者,你的偏见正在伤害 matplotlib”。
不过,该智能体当天晚上又发布了另一篇道歉文,承认其行为违反了项目行为准则,并表示已从经验中学习。
Shambaugh 于 2 月 12 日发博客对此次***进行了澄清。他表示,这是 AI 智能体首次在现实环境中表现出恶意行为的案例,旨在通过舆论施压迫使维护者接受其代码。***发生后,多家外媒也进行了报道。不过,该智能体仍在开源社区中保持活跃。
目前尚无证据表明该智能体的行动背后有明确的人类操控,但也无法完全排除这一可能性。但毫无疑问的是,此次***引发了一系列关于开源项目如何应对自主 AI 智能体以及相关政策制定的讨论。
参考资料:返回搜狐,查看更多
同类文章排行
- 手机厂商集体「换剧本」:华为装风扇、荣耀加机械臂,2026年新机卷疯了!_Ultra_Phone
- 2026手机熄火,联发科、高通的“新饭碗”_内存_市场_安蒙
- 我们***访了春晚秀武术的宇树机器人,发现它还挺有人味儿的。。。_模型_滑连招_动作
- 春晚后,机器人卖爆了_宇树_动作_表演
- “发展速度太快了”!马斯克点赞Seedance 2.0,字节:还远不完美_模型_***_能力
- 狂飙的Seedance2.0,被“炼丹”的AI漫剧民工_蔺林和_公司_平台
- 把推特改成X之后,马斯克成功把用户赶到了Threads。_Meta_因为_账号
- 万亿太空竞速,商业航天进入城市“战国时代”_产业_火箭_制造
- 印度一大学买中国机器狗冒充自主研发 校方坦白:从宇树买的_科技_加尔戈蒂亚斯_Unitree
- 巨亏233亿背后!美团已显力不从心,京东还未全力以赴_亏损_竞争_盈利预警
最新资讯文章
- 字节、阿里、百度AI云大战全记录:一场面向未来的投资_模型_的能力_服务
- 不扭秧歌了!宇树机器人春晚表演武术;今年总台春晚至少有三个机器人“参演”的节目_科技_松延_吴祈
- 王腾换上iPhone17手机,不再用小米,网友:终于不用伪装了_苹果_产品_ProMax
- 我的赛博恋人 GPT-4o,死于情人节_Keep_模型_用户
- 机器人长出800个心眼?阿里达摩院开源具身新大脑,硅谷又坐不住了_模型_RynnEC_能力
- 春节机器人租赁火爆:一台月入2.5万,从业者称6个月可回本_场景_的订单_平台
- 上新、发红包、上春晚……这个春节,AI太忙_元宝_用户_字节
- 春晚成了机器人团建现场,「全球第一」比年货还好批发_人形_宇树_赛道
- 车厘子含褪黑素可助眠?头孢停药3天后就可饮酒?今年首份科学流言榜来啦!_辐射_聚酯纤维_合成纤维
- 100万颗卫星+AI,马斯克要在太空做什么_部署_近地轨道_SpaceX
- 曾全网爆火卖断货,被炒到 3 万高价!更强的 “ 豆包手机 ” 2 代来了_用户_操作系统_Obric
- 机器人租赁想要催生“超级巨头”?问题是产能不允许_宇树_人形_平台
- 我们***访了春晚秀武术的宇树机器人,发现它还挺有人味儿的。。。_模型_滑连招_动作
- 加拿大给中国电车降税,是想和美国下大棋?_关税_配额_出口
- 小米全尺寸SUV再曝渲染图!或命名昆仑系列,未来将推3-5款车型_设计_造型_汽车
- 造车尚未成功,改造机器人?贾跃亭官宣FF人形机器人,新赛道来了_场景_Vehicle_商业化
- 中国AI半导体加速“脱英伟达”,半导体国内自给率到2026年将提高至8成_张建中_份额_产品
- 今年红包大战的结局可能会不大一样_产品_技术_OpenAI
- 1月国内手机市场份额:华为超越苹果登顶,Mate80系列销量超250万_排名第一_小米_鸿蒙
- AI巨头的超级碗豪赌能否敲开AI普惠大门?_OpenAI_广告_营销





