the models, every variant, under Apache 2.0: https://t.co/6RmwCKuivH start with the gguf build for llama.cpp, or the mlx-1bit build for Apple silicon.
Robert Youssef(@rryssf)86 字 (约 1 分钟)
60
分享Apache 2.0许可的模型构建方案，包含llama.cpp和Apple硅芯片优化版本，适合需要部署模型的工程师参考。
入选理由：llama.cpp推荐使用gguf构建格式
精选推文#模型部署#Apache 2.0#llama.cpp#Apple硅芯片英文