尽管有"复杂的"防护措施，AI基础设施公司Anthropic表示，网络犯罪分子仍在寻找方法滥用其AI聊天机器人Claude来实施大规模网络攻击。
在周三发布的"威胁情报"报告中，Anthropic威胁情报团队成员Alex Moix、Ken Lebedev和Jacob Klein分享了几起犯罪分子滥用Claude聊天机器人的案例，其中一些攻击要求超过50万美元的赎金。
他们发现，该聊天机器人不仅被用来向犯罪分子提供技术建议，还通过"Vibe Hacking"直接代表他们执行黑客攻击，使他们仅凭编程和加密的基础知识就能实施攻击。
今年2月，区块链安全公司Chainalysis预测，由于生成式AI使攻击更具可扩展性且成本更低，加密货币诈骗可能在2025年迎来最严重的一年。Anthropic发现一名黑客一直在使用Claude进行"Vibe Hacking"，从至少17个组织窃取敏感数据——包括医疗保健、紧急服务、政府和宗教机构——勒索要求从7.5万美元到50万美元比特币不等。
该黑客训练Claude评估被盗的财务记录，计算合适的勒索金额，并撰写定制勒索信以最大化心理压力。
虽然Anthropic后来封禁了该攻击者，但这一事件反映了AI如何让即使是最基础的编程人员也能"前所未有地"轻松实施网络犯罪。
"无法独立实现基本加密或理解系统调用机制的行为者现在成功地创建了具有规避能力的勒索软件，并实施了反分析技术。"
朝鲜IT工作者也在使用Anthropic的Claude
Anthropic还发现，朝鲜IT工作者一直在使用Claude伪造令人信服的身份，通过技术编程测试，甚至在美国财富500强科技公司获得远程职位。他们还使用Claude为这些职位准备面试回答。
Anthropic表示，Claude还被用于在被聘用后进行技术工作，并指出这些就业计划旨在尽管面临国际制裁，仍将利润输送给朝鲜政权。
本月早些时候，一名朝鲜IT工作者被反黑客攻击，发现一个六人团队至少共享31个虚假身份，获得从政府身份证件和电话号码到购买LinkedIn和UpWork账户的一切，以掩盖其真实身份并获得加密货币工作。
其中一名工作者据称面试了Polygon Labs的全栈工程师职位，而其他证据显示了脚本化的面试回答，他们声称在NFT市场OpenSea和区块链预言机提供商Chainlink有工作经验。
Anthropic表示，其新报告旨在公开讨论滥用事件，以协助更广泛的AI安全和安保社区，并加强整个行业对AI滥用者的防御。
该公司表示，尽管实施了"复杂的安全和安保措施"来防止Claude被滥用，恶意行为者仍在继续寻找绕过这些措施的方法。