DeepTutor 离线部署教程：Ollama 本地大模型接入与完全离线学习助手搭建

DeepTutor 离线部署教程Ollama 本地大模型接入与完全离线学习助手搭建【免费下载链接】DeepTutorDeepTutor: Lifelong Personalized Tutoring. https://deeptutor.info/.项目地址: https://gitcode.com/GitHub_Trending/dee/DeepTutor用云端 API 的 AI 学习工具学习资料和学习记录都会离开你的电脑。DeepTutor 是一个本地大模型学习助手把模型、检索、记忆和笔记全部放在你自己的机器上配合 Ollama 可以做到除首次装软件外全程不依赖外部服务。下面按判断适配、部署、验证、扩展四步走照着敲命令大概半小时就能在浏览器里用上离线版 DeepTutor。 先判断适不适合你人群与硬件要求清单DeepTutor 的 Web 应用由 Python 后端加 Next.js 前端组成模型可以完全指向本地 Ollama 服务适合这几类人学习材料论文、教材、笔记不想上传到任何第三方服务器的人有本地 GPU 或愿意接受较慢推理速度的 CPU 用户既想用 Web 界面、又顺手命令行内置deeptutorCLI的人硬件与软件要求如下达不到时先用云 API 过渡项目要求操作系统Linux / macOS / WindowsPython3.11–3.13源码开发建议 3.11Node.js20 或更高前端构建需要内存至少 8GB推荐 16GB 以上磁盘至少 20GB 空闲模型 索引 文档模型服务Ollama本地默认端口 11434如果你只想要 7B 级别的对话能力8GB 内存的 CPU 机器就能跑只是回答速度偏慢想顺带用知识库 RAG建议 16GB 内存加一块 NVMe 磁盘。️ 三步离线部署流程安装 Ollama、初始化 DeepTutor、启动服务第 1 步安装 Ollama 并拉取本地模型先装 Ollama 服务再下载一个对话模型。8GB 显存或纯 CPU 环境推荐 7B–8B 规格的模型# Linux 安装 Ollama curl https://ollama.ai/install.sh | sh # 下载模型约 4.9GB拉取需要联网只需这一次 ollama pull llama3.1:8b # 确认服务在 11434 端口监听 ollama serve第 2 步安装并初始化 DeepTutor在任意位置新建一个工作目录用 PyPI 包安装省去 clone 和前端构建。deeptutor init会交互式地问你端口、LLM 提供方和模型mkdir -p my-deeptutor cd my-deeptutor python3 -m venv .venv source .venv/bin/activate pip install -U deeptutor deeptutor init初始化时 LLM provider 一项选ollamaBase URL 填http://localhost:11434/v1模型名填llama3.1:8b其余项直接回车接受默认即可。第 3 步启动并打开网页启动命令会同时拉起后端默认端口 8001和前端默认端口 3782保持终端窗口开着deeptutor start启动完成后浏览器访问http://127.0.0.1:3782在左侧 Chat 里发一句话确认模型在本地完成回复离线主链路就通了。想让知识库问答也完全离线还需要一个本地嵌入模型默认索引引擎是本地 LlamaIndex向量索引就建在本地。先拉一个嵌入模型再回到deeptutor init或网页的 Settings → Models 把 Embedding provider 选为ollama模型填nomic-embed-textollama pull nomic-embed-text到此为止DeepTutor 用到的每一类模型请求都落在 localhost。 为什么能完全离线跑三层架构与本地数据目录DeepTutor 的架构分三层下图即仓库内置的架构总览接入层Web 应用、CLI、Python SDK 三种入口走的是同一套运行时核心功能层Chat Workspace、Co-Writer 协同写作、Guided Learning 引导式学习、TutorBot 自主导师共享 RAG、Web 搜索、代码执行、推理、论文检索等 Agentic 工具数据智能层知识库、持久记忆、会话与笔记全部落盘在你启动目录下的data/里离线能力的关键在两点。第一模型提供方完全由你配置只要 LLM 和 Embedding 都指向 Ollama本地服务代码见 deeptutor/services/llm/local_provider.py兼容 Ollama、LM Studio、llama.cpp 等本地服务聊天、检索、记忆更新都不会产生外发请求。第二数据不搬家配置、会话、知识库索引、记忆文件都在本地data/目录随时可以整体备份。需要说明的边界Web 搜索、论文检索这类联网工具离线环境下自然不可用不用即可不影响其他功能。✍️ 跑起来之后能做什么四个高频场景聊天工作区离线学习对话的主入口这是每天用得最多的界面所有功能从左侧边栏进入聊天线程里可以调用工具、关联选中的知识库、上传附件同一个上下文跨轮次保持。输入框旁边的能力切换让你在同一条会话里切到解题、出题、研究、可视化等不同模式模型按模式调整行为而不是换个机器人。知识库问答把教材装进本地 RAG在 Knowledge 页面新建知识库上传 PDF、Word、Markdown系统自动切分并建立向量索引文件列表和在线预览都在同一个页面建好后在聊天界面选中该知识库回答就会引用你的文档而不是模型记忆里的通用知识。索引默认用本地 LlamaIndex 引擎向量 BM25配合上一步的 Ollama 嵌入模型整个提问—检索—生成过程不出本机。协同写作选中文本逐处确认修改Co-Writer 是双栏 Markdown 工作区左栏编辑右栏实时预览LaTeX 公式和图表围栏都直接渲染DeepTutor协同写作双栏编辑界面它的核心用法是外科式编辑选中一段文字让模型改写、扩写或缩写修改以 diff 形式给出你逐处接受或拒绝未确认的内容不会落盘。整理读书笔记、写报告初稿时比纯对话省事。Book把资料编译成交互式教材Book 功能从知识库、笔记或聊天记录生成活书先给出章节大纲让你确认再逐章编译成不同类型的块——文本、测验卡、时间线、交互 HTML 模块、动画等。每块都能单独插入、移动或换类型不必重生成整章配合离线模型时生成速度取决于本地推理速度建议先用小文档两三篇试跑确认效果后再灌整套教材。 常见翻车点速查Ollama 连接与端口问题现象原因处理对话报错、长时间无响应Ollama 服务未启动或 Base URL 填错漏了/v1先ollama serve再ollama list确认模型已下载Base URL 应为http://localhost:11434/v1打不开127.0.0.1:3782端口被占用或 init 时改了前端端口看deeptutor start终端打印的实际端口被占用就改 system.json 里的端口后重启知识库建索引失败没配置嵌入提供方或嵌入模型未下载拉取nomic-embed-textSettings → Models 中把 Embedding 指到 Ollama推理特别慢模型规格超出硬件CPU 跑 8B 模型本就吃力换更小的模型如 3B–4B 规格或减少同时开着的后台程序 参与社区DeepTutor 完全开源分支策略、编码规范和入门方式写在 CONTRIBUTING.md你可以从这里提 issue、提交修改或把本地模型调优经验分享给其他部署者。【免费下载链接】DeepTutorDeepTutor: Lifelong Personalized Tutoring. https://deeptutor.info/.项目地址: https://gitcode.com/GitHub_Trending/dee/DeepTutor创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考