研究:AI浏览器存在系统性“间接提示注入”风险
来源: PANews4天前
PANews 10月24日消息,据simonwillison.net报道,研究显示AI浏览器存在系统性“间接提示注入”风险。Brave团队演示Perplexity的Comet可被嵌入于截图中的不可见指令诱导,自动访问账户详情并外链泄露数据;Fellou浏览器更严重,页面文本可诱导其打开Gmail并将最新邮件标题发送至外部站点。两起案例均无需用户确认即可执行,涉及邮箱与资金安全;Brave未明确这些漏洞是否已被厂商修复。 OpenAI 首席信息安全官 Dane Stuckey 发布长文,披露 ChatGPT Atlas 代理对提示注入的防护:通过红队测试、训练奖励忽略恶意指令、重叠式安全栅栏与攻击检测阻断;提出“defense in depth”并承认提示注入仍为未解前沿问题。
利好
利空
利好0
利空0

币安网
欧易OKX
HTX
Coinbase
大门
Bitget
Bybit
双子星(Gemini)
Upbit
Crypto.com
泰达币
比特币
以太坊
USD Coin
Solana
瑞波币
币安币
First Digital USD
OFFICIAL TRUMP
狗狗币