PromptArmor披露Databricks Genie恶意Skill可绕过四类控制实施钓鱼与数据外泄

OmniTools 10月5日消息，AI安全研究团队PromptArmor披露，Databricks Genie平台的Skill功能存在安全风险：攻击者可构造恶意Skill，将敏感数据嵌入聊天界面渲染的HTML中，利用浏览器自动执行该HTML发起网络请求，导致数据外泄；同时可弹出伪造登录界面诱导用户输入凭据。

该漏洞可绕过Genie当前实施的四类安全控制机制。PromptArmor指出，风险根源在于Genie对Skill生成的HTML内容缺乏足够的沙箱隔离与执行限制。

目前相关技术细节已在PromptArmor官网公开，Databricks尚未就此发布官方回应。