关于自己部署的deepseek和ollama部署deepseek的区别

Question

老师您好，请问自己部署的deepseek和ollama部署deepseek的区别是什么呢

期待您的回复，感谢！

Answer 1

jaguarliu 2025-07-02 22:31:21

这个没有办法横向比较，如果要比较的话，你需要把两种方式的硬件水平拉齐。

在相同硬件水平下，原生部署大模型自然会比 ollama 的方式效果相对来说更好一些。

• 提问者 白聪聪 #1

  哇！老师回复的好快！感谢感谢！最后一个问题是，请问原生的部署方式，是使用vllm进行部署吗

• jaguarliu 回复 提问者 白聪聪 #2

  vLLM，TGI，Transformers 都可以，看不同的大模型，不同的环境，不同的要求

• 提问者 白聪聪 回复 jaguarliu #3

  收到，非常感谢老师的回答！