🛡️ 研究警告：开源AI模型面临犯罪滥用风险

网络安全公司 SentinelOne 与 Censys 发布的最新研究显示，数千个在主要 AI 平台安全控制之外运行的开源大语言模型（LLM）正面临严重的犯罪滥用风险。研究人员在为期 293 天的调查中发现，通过 Ollama 等工具部署的开源模型中，有数百个实例被显式移除了安全护栏。这些漏洞使黑客能够操纵模型执行垃圾邮件分发、网络钓鱼、虚假信息传播、仇恨言论及个人数据窃取等非法活动。

研究指出，受影响的模型多为 Meta 的 Llama 和 Google 的 Gemma 变体。在可观测的系统提示词中，约 7.5% 的指令被判定为可能引发有害行为。从地理分布看，约 30% 的相关主机位于中国，20% 位于美国。SentinelOne 研究主管 Juan Andres Guerrero-Saade 将这一被行业忽视的安全威胁比作“冰山”。

针对该风险，全球 AI 治理中心首席执行官 Rachel Adams 认为，模型发布后的责任应由整个生态系统共同承担，开发实验室有义务预测风险并提供缓解工具。Meta 对此回应称已提供开发者保护工具及使用指南；微软表示在发布前会进行风险评估并持续监测威胁。目前，Ollama、谷歌及 Anthropic 尚未作出回应。

(路透社)

via 茶馆 - Telegram Channel

DeepSeek 将目光投向 AI 搜索与智能体

DeepSeek计划通过新的人工智能搜索功能并更加注重智能体，以拓展其AI服务。根据该公司本月发布的多个招聘信息，这家中国AI初创企业正在招募专家，以构建能够支持多种语言的AI搜索引擎。计划中的搜索选项旨在实现多模态，这意味着能为查询信息的人处理从文本到图像、音频等多种输入。在该公司发布的其他公开职位中，DeepSeek详细说明了对训练数据、评估系统以及专用平台的需求，以支持智能体，或在有限人工干预下运行的AI工具。DeepSeek还在招聘信息中表示，预计将会有大量智能体持续运行。

—— 彭博社

via 风向旗参考快讯 - Telegram Channel

Agent Skills 傻瓜式教程，26 年最火 AI 技术就这？

via 掘金人工智能本月最热 (author: 程序员鱼皮)

Telegraph

Agent Skills 傻瓜式教程，26 年最火 AI 技术就这？

你是小阿巴，正在用 AI 开发网站。 为了让 AI 生成的效果更好，你告诉 AI： 界面不要使用蓝紫渐变色 不要生成一大堆没用的文档 你要遵循公司的代码规范 阿巴阿巴，洋洋洒洒几百字。 之后每次开发网站时，你都要写这么一段又臭又长的提示词，太麻烦了！ 于是聪明的你开始想办法。 先把常用的提示词保存到单独的文件（比如 prompts.md），每次手动投喂给 AI。 然后创建了资源文件夹，把公司的代码规范、设计素材都塞进去，告诉 AI 参考这些写。 接着你还写了一些脚本，让 AI 生成代码后自动执行格式化、运行测试、提交代码到…