尽管硬件已有 20 年历史,但我的兄弟还是能够在笔记本电脑上使用 Meta 的 LLM 模型 Llama 2 进行推理。该实验涉及移植开源 llama2.c 项目,然后使用名为 AltiVec 的 PowerPC 矢量扩展来加速性能。他的完整博客文章提供了有关该项目的更多技术细节。类似的生成式AI模型在PlayStation 3、Xbox 360等老设备上运行的例子也时不时地出现在新闻中。 ...
PC版:https://www.cnbeta.com.tw/articles/soft/1487914.htm
手机版:https://m.cnbeta.com.tw/view/1487914.htm
cnBeta.COM
软件工程师在 20 年前的 PowerBook G4 上运行生成式人工智能 - AI 人工智能 - cnBeta.COM
在本周的一篇博客文章中,软件工程师AndrewRossignol详细介绍了他如何在旧的PowerBookG4上运行生成式人工智能。虽然大型语言模型(LLM)的硬件要求通常很高,但这款2005年的PowerBookG4型号仅配备了1.5GHzPowerPCG4处理器和1GBRAM。
via cnBeta.COM中文业界资讯站 - Telegram Channel