您的位置:首页 > 新闻 > 资讯 > 重庆网站公司制作价格_民用网络架构_短链接在线生成官网_百度云app下载安装

重庆网站公司制作价格_民用网络架构_短链接在线生成官网_百度云app下载安装

2025/9/6 8:41:07 来源:https://blog.csdn.net/gangbanrichuang/article/details/146375425  浏览:    关键词:重庆网站公司制作价格_民用网络架构_短链接在线生成官网_百度云app下载安装
重庆网站公司制作价格_民用网络架构_短链接在线生成官网_百度云app下载安装

前置环境搭建劳请移步往期
source activate 自己环境名启动python3.12环境安装xinference,
按教程敲命令,wheel包与wsl的通用,pip install 包名。
vllm引擎,transform引擎也会顺带自动装上了。
后续操作请参照往期教程。本地部署模型路径选到safetensors文件夹,运行全精度模型,官网给的目录结构全部下载,必要文件不能少,gguf只下一个模型文件就行了。
这次加载很快,linux的优越性这就体现出来了。不用帮它加速,给我点个赞呢谢谢。

翻车了,忘了装中文输入法了。可以看到think过程没有问题,至此,windows环境,wsl环境,docker环境,linux环境下,本地部署deepseek全部实现,撒花撒花。

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com