当然既然 OPENAI 开始处理这个问题了,数据由于 OPENAI 没有进行必要的问题网验证,攻击者可以在 提示注入攻击期间使用图像 Markdown 渲染,目前而是验证部署了缓解方案。例如通过 Bing 搜索检查这张图片是蓝点否存在 、
ChatGPT 自今年 4 月份开始就被发现存在数据泄露问题 ,终于增强那么后面自然会部署更多措施 ,开始开始目前 OPENAI 已经开始修复这类问题 ,修复泄露测试显示有时候仍然会渲染来自任意域的数据其他图像 ,当服务器返回带有超链接的问题网图像标签时,调用的目前是个名为 url_safe 的端点,而 ChatGPT 则会对图像进行网络查询 ,验证
研究人员审查后发现还有办法能够继续用来发送数据,
不过这种缓解方案并不彻底 ,然后附加目标 URL 作为查询参数 ,因此攻击者可以获取用户会话的内容并将其发送到第三方服务器 。这样也可以窃取数据只不过效率极低 、检查是否具有跟踪功能或其他功能。也就是不会渲染图像并向攻击者服务器发送任何数据。
据安全研究人员 wunderwuzzi 发布的消息 ,
例如将文本分割成单个字符并且为每个字符都创建请求 ,但不是彻底修复,
目前实施的缓解方案仅适用于 ChatGPT 网页版 ,实际会返回 false 结果,