AMD Strix Halo平台为消费级设备带来128B参数LLM模型的支持

AMD 是通过其 XDNA 引擎将大规模 AI 计算引入消费级设备的先行者之一。AMD 的 APU 产品（例如 Strix Point 和 Strix Halo 系列中的产品）提供了业内最高的 AI 性能，而现在，AMD 已将边缘 AI 提升到了一个新的水平。该公司最新的 Adrenalin Edition 25.8.1 驱动程序引入了对 128B 参数 LLM 模型的支持，这将使消费级设备能够支持 Meta 的 Llama 4 Scout 等模型，这是目前独一无二的成就。

通过 AMD 的可变显存 (VGM)，消费者可以为 iGPU 提供高达 96 GB 的显存，从而支持大型模型在本地运行。由于上述 Llama 模型是基于 MoE 的实现，因此它在运行时仅使用 170 亿个参数，但尽管如此仍然可以获得不错的 TPS 数据，从而使 LLM 可以用作功能强大的 AI 助手。

更重要的是，AMD 在模型上下文大小方面取得了巨大的进步。虽然消费级处理器的行业标准大约是 4096 个词元，但 AMD 成功将其提升了数倍，达到了 256000 个词元，从而可以更好地控制工作流程，并且无需担心性能问题。

目前，搭载 Strix Halo 平台的设备有限，而且不太容易买到，有些设备的价格甚至超过了 2000 美元。然而，AMD 在 AI 计算方面的进步确实令人欣喜，它让每个人都能拥有“AI 力量”，尽管你需要花费不菲的钱才能买到目前市面上的设备。

via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)

通义Qwen3非思考模型上新 多项能力达到Gemini2.5、GPT-4o水平

7月30日，阿里巴巴通义千问团队宣布推出Qwen3系列模型的最新版本 ——Qwen3-30B-A3B-Instruct-2507。这一非思考模式（non-thinking mode）的开源模型仅需激活3B参数，即可在多项核心能力上达到与Gemini 2.5-Flash（non-thinking）、GPT-4o等闭源模型相当的性能水平，同时在多语言覆盖、用户偏好对齐和长文本处理等领域实现突破性提升。

目前，该模型已在魔搭社区（ModelScope）和HuggingFace平台全面开源。

作为Qwen3-30B-A3B模型中的新版本，Qwen3-30B-A3B-Instruct-2507延续了通义千问团队在架构创新上的优势，在大幅降低计算成本的同时，实现了与千亿级闭源模型的性能对标。官方数据显示，该模型在数学推理（AIME25测试得分61.3）、代码生成（LiveCodeBenchv6得分43.2）、研究生级物理和天文学问题（GPQA测试得分70.4）、人类偏好对齐（Arena-Hard v2得分69）、函数调用能力（BFCL-v3得分65.1）等关键基准测试中表现突出，部分指标甚至超越GPT-4o等。

在通用能力层面，模型全面强化了指令遵循、逻辑推理、数学、科学、编程及工具使用等多方面。在多语言的长尾知识覆盖方面，模型进步显著；在主观和开放任务中，新模型与进一步紧密对齐了用户偏好，可以生成更高质量的文本，为用户提供更有帮助的回答；长文本理解能力提升至256K。

通义千问是阿里巴巴达摩院自主研发的大语言模型系列，自2023年发布以来，已开源超200个模型，全球下载量突破3亿次，衍生模型数超10万个。

via cnBeta.COM - 中文业界资讯站 (author: 稿源：凤凰网科技)