网站生成静态页面工具,网站快速建设入门教程,怎么做舞曲网站,企业网站做的好的有什么公司部署
1、前往Ollama官网下载跨平台工具 官网直达#xff1a;https://ollama.com/download
2、挑选适合自己设备的模型版本#xff0c;获取运行指令 访问模型库#xff1a;https://ollama.com/library/deepseek-r1
▌配置建议#xff1a; • 入门级#xff1a;1.5B版本https://ollama.com/download
2、挑选适合自己设备的模型版本获取运行指令 访问模型库https://ollama.com/library/deepseek-r1
▌配置建议 • 入门级1.5B版本4GB内存核显可运行 • 进阶推荐7B版本8GB内存4GB显存 • 高性能设备32B版本32GB内存12GB显存 一键部署模型以32B为例 打开终端/CMD输入ollama run deepseek-r1:32b 下载开源客户端Chatbox 官网https://chatboxai.app/zh 支持中文界面与Markdown渲染还有各种强大的功能体验超过ChatGPT 关键配置指引 ① API类型选择OpenAI API兼容 ② 接口地址http://localhost:11434/v1 ③ 模型名称与之前下载的版本严格一致
6、或者使用 webui页面
pip install open-webuiopen-webui servehttps://github.com/open-webui/open-webui
连通测试
curl http://localhost:11434/api/chat -d {model: deepseek-r1:32b,messages: [{ role: user, content: why is the sky blue? }]
}性能测试
4090 显卡32B模型输出速度 31 token/s 预估电费成本 30token/s*3600s/0.5 kwh/0.5 元 43w token/元 deepseek-r1-32B电费成本百万token ~2.3元
faq
修改 ollama 环境变量解决网络联通问题
1、如果Ollama作为SystemD服务运行则应使用systemctl设置环境变量 systemctl edit ollama.service 添加如下环境变量
[Service]
EnvironmentOLLAMA_HOST0.0.0.02、重新加载 systemd
systemctl daemon-reload 3、重新启动 ollama systemctl restart ollama 参考文档 https://github.com/ollama/ollama/blob/main/docs/faq.md
