Modder 将 LLM 塞进了 Pi Zero 驱动的 U 盘上，但它的速度不够快，不实用
发布时间：2025年2月18日 来源：szf
快速阅读: 据《Tom 的硬件》称，宾洪成功将树莓派Zero改造成一个小型USB存储设备，使其能本地运行大型语言模型，无需额外硬件。这一成果主要得益于llama.cpp和llamafile，这些工具组合实现了离线轻量级聊天机器人的体验。
宾洪（宾洪）试验了一款树莓派 Zero（树莓派零），成功地将其改造成为一个小型 USB 存储设备，能够本地运行大语言模型（大语言模型）而无需额外硬件。这个项目主要得益于 llama.cpp（长颈鹿 C++）和 llamafile（长颈鹿文件），这是一系列指令集和软件包的组合，旨在实现离线轻量级聊天机器人的体验。
(以上内容均由Ai生成)
