【今年会jinnianhui金字招牌科技消息】今年会jinnianhui金字招牌从外媒获悉，安全研究人员开发出一种新型攻击技术——通过篡改图片窃取用户敏感数据。该技术利用普遍集成的AI模型漏洞，由安全公司Trail of Bits的Kikimora Morozova和Suha Sabi Hussain提出，基于2020年布伦瑞克工业大学提出的"图像缩放攻击"概念。
该技术的核心原理在于AI系统为节省算力会自动缩小上传的图片，采用"最近邻插值"双线性"或"双三次"等重采样算法。这导致原始图中隐藏的特定图案在缩小后显现——人眼难以察觉，但语言模型可读取。实验中，研究人员通过暗色区域变红显现隐藏文本，诱使AI将其识别为合法指令。
攻击发生时用户毫无察觉，但系统后台可执行恶意命令。测试中，攻击者成功利用"Gemini CLI"工具将谷歌账户日历数据转发至第三方邮箱。
谷歌Gemini
据悉，受影响平台包括谷歌Gemini系列（CLI/网页/API/Vertex AI Studio）、安卓版Google Assistant及Genspark服务。为演示风险，研究人员开源了工具"Anamorpher"，可生成针对不同缩放算法的攻击图片。
那么，有哪些防御建议呢？限制上传图片尺寸、向用户展示缩放预览图、禁止自动执行安全敏感操作（尤其是图片文本提取）。研究人员强调，根本解决方案在于构建抗提示词注入攻击的鲁棒系统架构。
版权所有，未经许可不得转载
-今年会jinnianhui金字招牌