LLM

llama.cpp使用

前面的一篇文章介绍了Ollama运行DeepSeek-R1,实际上Ollama的后端使用的是llama.cpp。 ...

Ollama运行DeepSeek-R1

Ollama 是一个用于构建大型语言模型应用的工具,它提供了一个简洁易用的命令行界面和服务器,让你能够轻松下载、运行和管理各种开源LLM。 DeepSeek-R1 is DeepSeek’s first-generation reasoning models, achieving performance comparable to OpenAI-o1 across math, code, and reasoning tasks. ...