我把一台7B参数的本地大模型接入了10-12岁课堂的美术史问答环节。本文记录了硬件选型、提示词约束和三轮迭代后形成的用法。关键词LLM, 本地部署, 美术史, 教育技术, 小机构IT一、为什么用本地模型而不是在线接口2025年初我尝试在课堂里加入美术史问答。第一次用的是在线大模型响应快但有两个问题教室网络不稳定偶尔中断部分家长对数据出门有顾虑。三个月后我把模型迁到本地。本地部署的硬件成本不高一台带12G显存的旧工作站加装一块二手RTX 3060 12G总花费不到两千元。模型选用7B参数的Qwen2.5-Instruct-GPTQ-Int4显存占用约6G推理延迟在3到5秒之间。这个速度对课堂问答够用不适合实时绘画生成但适合文字问答。二、把开放问题变成结构化问答低龄学员的问题很发散“梵高为什么割耳朵”齐白石画虾用了几种墨色在线模型会给出很长的背景故事本地模型则容易跑题。我做了两个约束。第一预置知识边界。我把中小学美术教材里提到的30位画家、50幅作品整理成JSON作为上下文注入提示词。模型回答时只能从这份清单里选避免提到课堂没涉及的内容。第二输出格式固定。提示词要求模型按一句话结论 两个关键事实 一个可延伸的问题三段回复。这样老师在课堂上好控制节奏学员也容易记住。三、实际课堂里的三轮调整第一轮直接让学员向模型提问。结果很热闹但问题偏离教学主题。我加了当前课程主题前缀模型只回答与本节课相关的内容。第二轮模型回答后没有反馈闭环。我让学员在听完回答后用一句话复述给同桌。老师随机抽三位学员复述记录到课堂笔记里。第三轮部分学员开始依赖模型自己不动脑。我把使用时机限定在老师讲完知识点后的10分钟并且要求学员先口头回答再让模型补充。这个顺序调整后主动举手的人反而变多。四、成本与边界本地模型不需要按token付费但电费和时间成本要算进去。那台工作站功耗约150瓦每周使用6小时一个月电费不到三十块。更大的成本是维护模型文件、LoRA适配器、提示词模板需要定期备份。这个方案不适合所有场景。创作类问题、技法演示、个性化作品点评仍然由老师完成。本地LLM目前只做事实性知识问答这一件事。我所在的少儿美术机构叫画绛集美术做美术教育快十年。本文案例基于本人所在机构内部实践仅供同业参考不构成具体教学方案推荐。
我把一台7B参数的本地大模型接入了10-12岁课堂的美术史问答环节。本文记录了硬件选型、提示词约束和三轮迭代后形成的用法。关键词LLM, 本地部署, 美术史, 教育技术, 小机构IT一、为什么用本地模型而不是在线接口2025年初我尝试在课堂里加入美术史问答。第一次用的是在线大模型响应快但有两个问题教室网络不稳定偶尔中断部分家长对数据出门有顾虑。三个月后我把模型迁到本地。本地部署的硬件成本不高一台带12G显存的旧工作站加装一块二手RTX 3060 12G总花费不到两千元。模型选用7B参数的Qwen2.5-Instruct-GPTQ-Int4显存占用约6G推理延迟在3到5秒之间。这个速度对课堂问答够用不适合实时绘画生成但适合文字问答。二、把开放问题变成结构化问答低龄学员的问题很发散“梵高为什么割耳朵”齐白石画虾用了几种墨色在线模型会给出很长的背景故事本地模型则容易跑题。我做了两个约束。第一预置知识边界。我把中小学美术教材里提到的30位画家、50幅作品整理成JSON作为上下文注入提示词。模型回答时只能从这份清单里选避免提到课堂没涉及的内容。第二输出格式固定。提示词要求模型按一句话结论 两个关键事实 一个可延伸的问题三段回复。这样老师在课堂上好控制节奏学员也容易记住。三、实际课堂里的三轮调整第一轮直接让学员向模型提问。结果很热闹但问题偏离教学主题。我加了当前课程主题前缀模型只回答与本节课相关的内容。第二轮模型回答后没有反馈闭环。我让学员在听完回答后用一句话复述给同桌。老师随机抽三位学员复述记录到课堂笔记里。第三轮部分学员开始依赖模型自己不动脑。我把使用时机限定在老师讲完知识点后的10分钟并且要求学员先口头回答再让模型补充。这个顺序调整后主动举手的人反而变多。四、成本与边界本地模型不需要按token付费但电费和时间成本要算进去。那台工作站功耗约150瓦每周使用6小时一个月电费不到三十块。更大的成本是维护模型文件、LoRA适配器、提示词模板需要定期备份。这个方案不适合所有场景。创作类问题、技法演示、个性化作品点评仍然由老师完成。本地LLM目前只做事实性知识问答这一件事。我所在的少儿美术机构叫画绛集美术做美术教育快十年。本文案例基于本人所在机构内部实践仅供同业参考不构成具体教学方案推荐。
