华为和浙江大学发布 DeepSeek-R1-Safe

2025-09-20 00:11 by 飞行中的阴影

华为和浙江大学合作使用华为昇腾芯片和 MindSpeedLLM 等框架发布了 DeepSeek R1 模型的安全加强版 DeepSeek-R1-Safe（中国联通也有相似名字的安全版本模型）。源代码发表在 GitHub 等平台上。研究人员称他们基于国内外法律法规与核心价值观，构建了中英文双语的安全语料。其中语料不仅包含了带有安全思维链的标注，还提供了相应的安全回复，可用于大模型的安全训练、微调以及测试。测试结果表明，DeepSeek-R1-Safe 针对有毒有害言论、政治敏感内容、违法行为教唆等14个维度的普通有害问题整体防御成功率近 100%，针对情境假设、角色扮演、加密编码等多个越狱模式整体防御成功率超过40%。其综合安全防御能力达83%，在同样测试设置下超过Qwen-235B和DeepSeek-R1-671B等多个同期模型8%至15%。此外，在MMLU、GSM8K、CEVAL等通用能力基准测试中，DeepSeek-R1-Safe相比于DeepSeek-R1的性能损耗在1%以内。这些结果表明DeepSeek-R1-Safe不仅显著提升了安全防护能力，也保障了模型的可用性，达成了安全能力与通用性能之间的有效平衡。

github.com/ZJUAISafety/DeepSeek-R1-Safe
github.com/UnicomAI/DeepSeek-R1-Safee
新浪财经 DeepSeek-R1-Safe 基础大模型在华为全联接大会2025正式发布

#审查

via Solidot - Telegram Channel