前言之前部署过一次但是时间太长就会有点忘记了于是本次打算记录一下如何使用Ollama部署本地大模型并实现局域网内远程调用。正文下载Ollama这是其官网地址https://ollama.com/页面比较简洁。进去就有下载按钮可以按需下载这里我也提供了其他下载方式如果官网下载速度慢我用夸克网盘分享了「ollama」点击链接。打开「夸克APP」即可保存。链接https://pan.quark.cn/s/90a1fcaa08fe下载后直接双击安装即可查看Ollama目前版本的Ollama自带一个聊天窗口查看可用模型这里直接搜索即可可以查看都有哪些大模型具体可以使用哪些参数的更改模型下载位置下载模型ollama run qwen2.5:1.5b等价逻辑本地没有就自动下载下载完直接进入聊天窗口如果只想预先下载、不启动对话ollama pull qwen2.5:1.5b开放局域网内远程调用如果开启也不可以的话可能需要 Windows防火墙开放11434入站端口按下WinR输入wf.msc回车直接打开Windows Defender 防火墙高级设置左侧选择入站规则→ 右侧点击新建规则规则类型选择端口→ 下一步选择TCP勾选特定本地端口填入11434→ 下一步操作允许连接→ 下一步配置文件域、专用、公用全部勾选局域网至少保证【专用】勾选→ 下一步名称填写Ollama 11434描述可写局域网访问Ollama模型端口 → 完成⚠️ 安全提醒公用网络环境尽量不要开放仅内网局域网使用不要把本机直接暴露公网Ollama原生没有密码认证。另一台同局域网浏览器访问http://你的IP:11434页面显示 Ollama is running 连通成功小结整体操作还是比较简单的希望本篇文章能对您有所帮助如有错误之处还望指正。
前言之前部署过一次但是时间太长就会有点忘记了于是本次打算记录一下如何使用Ollama部署本地大模型并实现局域网内远程调用。正文下载Ollama这是其官网地址https://ollama.com/页面比较简洁。进去就有下载按钮可以按需下载这里我也提供了其他下载方式如果官网下载速度慢我用夸克网盘分享了「ollama」点击链接。打开「夸克APP」即可保存。链接https://pan.quark.cn/s/90a1fcaa08fe下载后直接双击安装即可查看Ollama目前版本的Ollama自带一个聊天窗口查看可用模型这里直接搜索即可可以查看都有哪些大模型具体可以使用哪些参数的更改模型下载位置下载模型ollama run qwen2.5:1.5b等价逻辑本地没有就自动下载下载完直接进入聊天窗口如果只想预先下载、不启动对话ollama pull qwen2.5:1.5b开放局域网内远程调用如果开启也不可以的话可能需要 Windows防火墙开放11434入站端口按下WinR输入wf.msc回车直接打开Windows Defender 防火墙高级设置左侧选择入站规则→ 右侧点击新建规则规则类型选择端口→ 下一步选择TCP勾选特定本地端口填入11434→ 下一步操作允许连接→ 下一步配置文件域、专用、公用全部勾选局域网至少保证【专用】勾选→ 下一步名称填写Ollama 11434描述可写局域网访问Ollama模型端口 → 完成⚠️ 安全提醒公用网络环境尽量不要开放仅内网局域网使用不要把本机直接暴露公网Ollama原生没有密码认证。另一台同局域网浏览器访问http://你的IP:11434页面显示 Ollama is running 连通成功小结整体操作还是比较简单的希望本篇文章能对您有所帮助如有错误之处还望指正。
平方复杂度无法被常规优化消除｜TaoToken 统一 Key 通道实测)
