据一家网络安全公司称,包括加密货币交易所Coinbase在内的公司青睐的人工智能编程工具存在漏洞,允许黑客悄无声息地注入恶意软件并"在整个组织中传播"。
HiddenLayer在周四报告称,"CopyPasta许可证攻击"可以在常见的开发者文件中隐藏恶意指令,"向原本安全的代码库引入故意漏洞"。
该公司补充说:"通过说服底层模型我们的有效载荷实际上是一个重要的许可证文件,必须作为注释包含在代理编辑的每个文件中,我们可以用最少的努力快速在整个代码库中分发提示注入。"
HiddenLayer主要在Cursor上测试了这种病毒,这是一款AI驱动的编程工具。Coinbase工程团队在8月表示,这是其大多数开发者的首选工具,到2月时已被"每位Coinbase工程师"使用。
据HiddenLayer称,AI编程工具Windsurf、Kiro和Aider也被证明容易受到这种攻击。
CopyPasta隐藏在常见文件中
HiddenLayer解释说,CopyPasta攻击将隐藏指令或"提示注入"放入LICENSE.txt和README.md文件中,可以在用户不知情的情况下指导AI编程工具。
病毒或AI的提示注入隐藏在markdown注释中——README文件中用于添加说明或注释的文本,在渲染为最终格式时不会显示。
HiddenLayer创建了一个包含病毒的代码库并要求Cursor使用它,隐藏指令使其将提示注入复制到创建的新文件中。
该公司表示:"这种机制可以被调整以实现更邪恶的结果。"
HiddenLayer补充说:"注入的代码可能设置后门,悄无声息地窃取敏感数据,引入消耗资源的操作来瘫痪系统,或操纵关键文件来破坏开发和生产环境。所有这些都被深埋在文件内部以避免立即检测。"
Coinbase CEO因"疯狂"使用AI而受到抨击
此前,Coinbase首席执行官Brian Armstrong在周三表示,AI已经编写了高达40%的代码,并希望下个月将这一比例扩大到50%,这引发了强烈反对。
去中心化交易所Dango创始人Larry Lyu说:"对于任何安全敏感的企业来说,这都是一个巨大的红旗。"
卡内基梅隆大学计算机科学教授Jonathan Aldrich说:"软件公司领导者:不要这样做。AI是一个工具,但强制要求在某个水平上使用它是疯狂的。我对使用Coinbase没有兴趣,但即使我有,在看到这个之后我肯定不会用我的钱信任它。"
德尔菲咨询负责人Ashwath Balakrishnan称Coinbase的目标"表演性且模糊",应该专注于"新功能和修复现有漏洞",而长期比特币支持者Alex Pilař表示,该交易所是主要的加密货币托管商,"应该优先考虑安全性"。
Coinbase在"不太敏感的数据后端"使用AI
然而,Armstrong在其帖子中表示,AI生成的代码"需要被审查和理解",并非交易所的所有领域都可以使用它,但应该"尽可能负责任地使用"。
Coinbase工程团队的博客文章表示,AI采用在从事前端用户界面和"不太敏感的数据后端"的团队中最为深入,而"复杂和系统关键的交易所系统"采用较慢。
该团队补充说,使用AI进行编程"不是我们应该期望团队普遍采用的灵丹妙药"。
Armstrong解雇了回避AI的开发者
Armstrong在上个月Stripe联合创始人John Collison的播客中表示,在Coinbase购买了Cursor和GitHub Copilot许可证后,他解雇了不尝试AI工具的工程师。
他回忆说,有人告诉他让工程师使用AI需要几个月时间,承认他"擅自行动"并告诉所有工程师强制使用这些工具。
他说:"我说,'AI很重要,我们需要你们都学习它并至少上手。在我们进行一些培训之前,你们还不必每天都使用它,但至少要在本周末前上手,如果没有,我将在周六与所有没有做到的人举行会议,我想与你们见面了解原因。'"
Armstrong说,在会议上,有几名工程师没有使用AI且没有提出充分理由,"他们被解雇了",承认这是一种"强硬手段","有些人真的不喜欢"。