微软为Copilot+ PC 带来 DeepSeek 7B 和 14B AI 模型
在 Copilot+ PC 上本地运行 7B 和 14B 模型的能力将使开发人员能够构建以前无法实现的新型人工智能驱动的应用。由于这些模型在 NPU 上运行，用户可以期待持续的人工智能计算能力，同时减少对 PC 电池寿命和散热性能的影响。 此外，他们的 CPU 和 GPU 还可用于执行其他任务。微软指出，它使用内部自动量化工具 Aqua 将所有 DeepSeek 模型变体量化为 int4 权重。 遗憾的是，模型标记速度相当低。 微软报告 14B 模型的标记速度仅为 8 tok/秒，1.5B 模型接近 40 tok/秒。 团队正在进行进一步优化以提高速度。 随着性能的优化，这些模型对 Copilot+ PC 的影响预计将显著增加。感兴趣的开发人员可以通过 AI 工具包 VS 代码扩展，在 Copilot+ PC 上下载并运行 1.5B、7B 和 14B 版本的 DeepSeek 模型。 DeepSeek 模型以 ONNX QDQ 格式进行了优化，可直接从 Azure AI Foundry 下载。 这些模型未来还将应用于采用英特尔酷睿 Ultra 200V 和 AMD Ryzen 处理器的 Copilot+ PC。微软的这一举措标志着微软正在推动更强大的设备上人工智能功能，为人工智能驱动的应用开辟新的可能性。 ...
PC版：https://www.cnbeta.com.tw/articles/soft/1482936.htm
手机版：https://m.cnbeta.com.tw/view/1482936.htm
via cnBeta.COM中文业界资讯站 - Telegram Channel
在 Copilot+ PC 上本地运行 7B 和 14B 模型的能力将使开发人员能够构建以前无法实现的新型人工智能驱动的应用。由于这些模型在 NPU 上运行，用户可以期待持续的人工智能计算能力，同时减少对 PC 电池寿命和散热性能的影响。 此外，他们的 CPU 和 GPU 还可用于执行其他任务。微软指出，它使用内部自动量化工具 Aqua 将所有 DeepSeek 模型变体量化为 int4 权重。 遗憾的是，模型标记速度相当低。 微软报告 14B 模型的标记速度仅为 8 tok/秒，1.5B 模型接近 40 tok/秒。 团队正在进行进一步优化以提高速度。 随着性能的优化，这些模型对 Copilot+ PC 的影响预计将显著增加。感兴趣的开发人员可以通过 AI 工具包 VS 代码扩展，在 Copilot+ PC 上下载并运行 1.5B、7B 和 14B 版本的 DeepSeek 模型。 DeepSeek 模型以 ONNX QDQ 格式进行了优化，可直接从 Azure AI Foundry 下载。 这些模型未来还将应用于采用英特尔酷睿 Ultra 200V 和 AMD Ryzen 处理器的 Copilot+ PC。微软的这一举措标志着微软正在推动更强大的设备上人工智能功能，为人工智能驱动的应用开辟新的可能性。 ...
PC版：https://www.cnbeta.com.tw/articles/soft/1482936.htm
手机版：https://m.cnbeta.com.tw/view/1482936.htm
cnBeta.COM
微软为Copilot+ PC 带来 DeepSeek 7B 和 14B AI 模型 - Microsoft 微软 - cnBeta.COM
今年1月，微软宣布计划将NPU优化版本的DeepSeek-R1模型直接引入采用高通骁龙X处理器的Copilot+PC。今年2月，DeepSeek-R1-Distill-Qwen-1.5B首次在AIToolkitforVSCode中发布。今天，微软宣布通过AzureAIFoundry为Copilot+PC提供DeepSeekR17B和14B精馏模型。
via cnBeta.COM中文业界资讯站 - Telegram Channel
