🚨 谷歌发现利用AI大模型增强攻击的新型恶意软件
谷歌近日披露，已发现多款利用人工智能（AI）大语言模型（LLM）来优化攻击的新型恶意软件。
主要发现：
* Quietvault：该恶意软件旨在窃取Windows电脑上的登录凭据，并利用AI提示和本地安装的AI命令行工具来搜寻并窃取受感染系统上的其他潜在秘密。
* Promptflux：这款实验性恶意软件利用谷歌的Gemini聊天机器人实时修改自身代码以逃避杀毒软件检测。它通过向Gemini发送指令（如“提供一个有助于逃避杀毒软件检测的VBScript函数或代码块”）来运作，目标是每小时重写整个恶意软件的源代码。谷歌已在开发阶段发现并采取行动禁用相关资产，同时加强了Gemini的防护措施，认为其可能来自经济动机的犯罪分子。
* Promptsteal：这款数据挖掘恶意软件连接到中国阿里巴巴集团开发的Qwen LLM。它伪装成图片生成程序，一旦安装，便会生成并执行命令以窃取数据。谷歌和乌克兰网络安全部门认为，Promptsteal很可能与俄罗斯国家支持的黑客组织APT28（又称Fancy Bear）有关，这是首次在实际操作中观察到恶意软件查询LLM。
行业质疑与相关事件：
* 曾阻止2017年WannaCry勒索软件攻击的安全研究员Marcus Hutchins对这些AI生成恶意软件的实际威胁性表示质疑，认为其使用的提示词过于薄弱或不切实际。
* 此外，Anthropic公司近期也发现有黑客利用其Claude AI聊天机器人，对17个组织发起大规模数据勒索活动。
(PCMag.com)
via 茶馆 - Telegram Channel
谷歌近日披露，已发现多款利用人工智能（AI）大语言模型（LLM）来优化攻击的新型恶意软件。
主要发现：
* Quietvault：该恶意软件旨在窃取Windows电脑上的登录凭据，并利用AI提示和本地安装的AI命令行工具来搜寻并窃取受感染系统上的其他潜在秘密。
* Promptflux：这款实验性恶意软件利用谷歌的Gemini聊天机器人实时修改自身代码以逃避杀毒软件检测。它通过向Gemini发送指令（如“提供一个有助于逃避杀毒软件检测的VBScript函数或代码块”）来运作，目标是每小时重写整个恶意软件的源代码。谷歌已在开发阶段发现并采取行动禁用相关资产，同时加强了Gemini的防护措施，认为其可能来自经济动机的犯罪分子。
* Promptsteal：这款数据挖掘恶意软件连接到中国阿里巴巴集团开发的Qwen LLM。它伪装成图片生成程序，一旦安装，便会生成并执行命令以窃取数据。谷歌和乌克兰网络安全部门认为，Promptsteal很可能与俄罗斯国家支持的黑客组织APT28（又称Fancy Bear）有关，这是首次在实际操作中观察到恶意软件查询LLM。
行业质疑与相关事件：
* 曾阻止2017年WannaCry勒索软件攻击的安全研究员Marcus Hutchins对这些AI生成恶意软件的实际威胁性表示质疑，认为其使用的提示词过于薄弱或不切实际。
* 此外，Anthropic公司近期也发现有黑客利用其Claude AI聊天机器人，对17个组织发起大规模数据勒索活动。
(PCMag.com)
via 茶馆 - Telegram Channel
