Llamafile 0.9.2于上周发布，并将 LocalScore 带入代码库，这是一个基准测试实用程序。LocalScore 有助于在 CPU 和 GPus 上进行大型语言模型 (LLM) 基准测试。它是一种评估 LLM 系统性能的简单且便携的方法。LocalScore 可以从 Llamafile 包触发，或者还有一个适用于 Windows 和 Linux 的独立 LocalScore 二进制文件，以方便进行 AI 基准测试。作为 Llamafile 的这一新增功能的一部分，现在有了LocalScore.ai作为可选存储库，用于存放 LocalScore 的 CPU/GPU 结果，这些结果使用了基于微型/小型/中型 Meta Llama 3.1 模型的官方模型。通过LocalScore.ai，可以使用官方模型运行 CPU 和/或 GPU AI LLM 基准测试，步骤简单。基准测试可以在 Windows 和 Linux 系统上轻松完成。LocalScore是开源的，也是Mozilla Builders计划的一个不错的补充，非常希望看到更多易于使用/快速部署和跨平台的开源 AI/LLM 基准测试。 ...
PC版：https://www.cnbeta.com.tw/articles/soft/1491252.htm
手机版：https://m.cnbeta.com.tw/view/1491252.htm
cnBeta.COM
Mozilla Builders的LocalScore：一个有趣的本地AI大模型基准测试 - AI 人工智能 - cnBeta.COM
通过Mozilla的MozillaBuilders计划发布的LocalScore是一个有趣的本地AI大型语言模型(LLM)基准测试，适用于Windows和Linux系统。LocalScore具有很大的潜力，并且以MozillaOcho Llamafile项目为基础，成为一个易于分发的LLM框架。LocalScore仍处于早期阶段，但已经运行良好。
via cnBeta.COM中文业界资讯站 - Telegram Channel
