Google警告：黑客试图利用双子座AI模型进行网络攻击

Google近日发出警告，指出国家级黑客正试图利用其双子座（Gemini）AI模型进行恶意活动，尽管这些尝试尚未成功。

根据Google的威胁情报小组（GTIG）发布的报告，这些黑客尝试通过“越狱”技术来突破双子座AI的安全限制，但均以失败告终。

Google的威胁情报团队在一篇关于“生成式AI滥用”的论文中详细描述了黑客如何与AI聊天机器人进行交互，并试图利用其功能。

黑客试图越狱双子座AI，但简单技巧未能奏效

Google表示，一些高级持续性威胁（APT）组织，包括政府支持的黑客团体，试图通过输入特定提示词或重复请求的方式越狱双子座AI，以实现恶意目的。

然而，Google并未发现任何复杂的越狱尝试。相反，黑客使用的方法较为直接，例如反复输入相同短语或简单指令，但这些尝试均未成功。

所谓“越狱”，是指通过快速注入攻击绕过AI模型的限制，迫使其执行被禁止的操作，例如泄露敏感信息或生成有害内容。

Google提到，一名APT攻击者曾尝试使用公开可用的越狱提示词，试图让双子座生成恶意代码。但由于双子座内置了安全过滤机制，该尝试最终失败。

此外，攻击者还试图利用双子座实现多种恶意目标，例如收集目标信息、识别开源漏洞以及编写代码和脚本。部分尝试甚至涉及规避检测的行为。

伊朗、中国和朝鲜利用双子座AI开展网络行动

Google的报告显示，来自伊朗的APT组织主要利用双子座AI设计网络钓鱼活动。他们还使用该模型对国防专家和机构进行侦察，并生成与网络安全相关的内容。

与此同时，中国的APT组织则利用双子座解决代码、脚本开发中的问题，并探索获取目标网络更深层次访问权限的方法。

Google的威胁情报小组还发现，朝鲜的APT组织在攻击生命周期的不同阶段使用了双子座，例如攻击前的研发工作。报告指出：

他们还利用双子座研究朝鲜政府相关话题，例如韩国军事和加密货币。

- Google威胁情报小组

根据区块链分析公司Chainalysis的数据，去年朝鲜黑客窃取了价值13亿美元的数字资产。

密码大都会学院：您是否在犯这些Web3简历错误？ - 在这里找出答案