您的位置:首页 > 健康 > 养生 > 保姆级离线+windows环境+大模型前端UI安装(二)

保姆级离线+windows环境+大模型前端UI安装(二)

2024/11/9 9:36:35 来源:https://blog.csdn.net/shishi521/article/details/142132217  浏览:    关键词:保姆级离线+windows环境+大模型前端UI安装(二)

看到很多文章采用docker在windows环境安装python或者是linux环境再装webui的,感觉比较麻烦,不够简洁,本文采用nodejs,来作为客户端引擎。

这篇只讲客户端安装,需要安装后端大模型及其运行的可以参考第一篇:

保姆级离线+windows环境+私有化部署大模型(一)-CSDN博客

Node.js 是一个开源的、跨平台的 JavaScript 运行时环境,允许开发者在服务器端运行 JavaScript 代码。它基于 Chrome 的 V8 JavaScript 引擎构建

一、安装思路

Ollama-webUI可以直接在有网环境下安装,把相关的依赖文件下载完成,复制安装好以后的WebUI文件目录到内网环境。

二、安装步骤

1、Node.js下载安装


进入Node官网下载Node,https://nodejs.org 

一步一步安装即可,安装完成以后,验证是否安装成功,可在windws命令窗口win+r,cmd,打开的页面,验证node的版本:

node -v

v20以上就没问题

2、下载ollama-webui代码

默认ollama安装后,对话只有黑色命令界面,交互体验较差。借助open-webui可以通过web界面连接ollama,从而实现类似chatGPT式的web交互体验。

下载地址:github.com

从github下载zip文件夹。解压到本地,如D:\ollama-webui-lite-main

windows+R输入cmd,进入dos命令界面

cd D:\ollama-webui-lite-main

进入ollama-webui文件夹,在此文件夹下进行以下所有的命令。首先,设置国内镜像源提速:

npm config set registry http://mirrors.cloud.tencent.com/npm/


3.安装Node.js依赖:

npm ci
npm install

如果报错说要audit,则依次进行即可:

npm audit
npm audit fix

4.启动webUI

启动Web界面:

npm run dev


打开Web页面,选择你的模型即可开始对话。

三、拷贝整个D盘的WebUI到内网环境

D:\ollama-webui-lite-main

在内网环境,cd到WebUI的文件夹,这文件夹下,直接启动

npm run dev

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com