T4 16G显卡最新Qwen3.8 27B初步安装测试

废话不多说初步测试记录整理如下复刻Ollama应用打开模板中心页面https://cloudstudio.net/t找到Ollama项后点击【使用模板】按钮或者直接打开应用【AI模板——Ollama - Cloud Studio】(https://cloudstudio.net/a/26997635105468416)后复刻结果是一样的。这里读者直接复刻本人已经复刻好的应用Ollama-Qwen3.8 - Cloud Studio[https://cloudstudio.net/a/37595859894779904]就好了。启动及升级应用环境由于是最新版本的模型这里需要升级一下ollama引擎。curl -fsSL https://ollama.com/install.sh | sh拉取模型运行考虑到16GB显卡运行成本较低这里特意选取大小合适性能不错的基于Unsloth Dynamic V3.0的UD-Q3_K_XL量化版本。ollama run --verbose hf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XL测试默写长诗总的说来eval rate大约10 tokens/s。root8f17b6ae31ac(Qwen3.8):/workspace 2026-08-15 09:21:2600 #ollama run --verbose hf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XL /show parametersModel defined parameters:stop |im_start|stop |im_end|stop thinkstop |im_start|user /set nothinkSet nothink mode. /set parameter temperature 0.1Set parameter temperature to 0.1 你是谁我是通义千问Qwen是由阿里巴巴集团通义实验室独立开发的大型语言模型。我可以帮你解答问题、提供建议、进行创意写作、编写和调试代码、分析数据或者只是陪你聊聊天。请问今天有什么我可以帮你的吗total duration: 6.224271694sload duration: 423.265261msprompt eval count: 13 token(s)prompt eval duration: 489.461msprompt eval rate: 26.56 tokens/seval count: 58 token(s)eval duration: 5.308317seval rate: 10.93 tokens/s /byeroot8f17b6ae31ac(Qwen3.8):/workspace 2026-08-15 09:23:2500 #ollama psNAME ID SIZE PROCESSOR CONTEXT UNTILhf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XL d389d2a85119 13 GB 100% GPU 4096 4 minutes from nowroot8f17b6ae31ac(Qwen3.8):/workspace 2026-08-15 09:23:2800 ### 文章默写测试之《春江花月夜》root8f17b6ae31ac(Qwen3.8):/workspace 2026-08-15 09:23:2800 #ollama run --verbose hf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XL 《春江花月夜》Thinking...【此处省略部分】...done thinking.你是指唐代张若虚的《春江花月夜》吗这是中国古典诗歌中非常著名的一首乐府旧题诗常被称作“孤篇横绝”“孤篇盖全唐”。下面是全文与简要赏析## 《春江花月夜》**唐·张若虚**春江潮水连海平海上明月共潮生。滟滟随波千万里何处春江无月明江流宛转绕芳甸月照花林皆似霰。空里流霜不觉飞汀上白沙看不见。江天一色无纤尘皎皎空中孤月轮。江畔何人初见月江月何年初照人人生代代无穷已江月年年望相似。不知江月待何人但见长江送流水。白云一片去悠悠青枫浦上不胜愁。谁家今夜扁舟子何处相思明月楼可怜楼上月徘徊应照离人妆镜台。玉户帘中卷不去捣衣砧上拂还来。此时相望不相闻愿逐月华流照君。鸿雁长飞光不度鱼龙潜跃水成文。昨夜闲潭梦落花可怜春去不复还。江水流春去欲尽江潭落月复西斜。斜月沉沉藏海雾碣石潇湘无限路。不知乘月几人归落月摇情满江树。---## 简要赏析这首诗以“春、江、花、月、夜”五个意象为核心把自然景色、人生哲理与离愁别绪融合在一起。### 1. 开篇气势宏大“春江潮水连海平海上明月共潮生。”春潮浩荡月光随潮水升起视野辽阔意境开阔一下子把读者带入一个宏大而清明的夜晚。### 2. 月色之美极尽清丽“滟滟随波千万里何处春江无月明”月光洒满江面随波荡漾无处不在。这里写的是视觉之美也有一种无处不在的思念之情。### 3. 由景入理追问宇宙人生“江畔何人初见月江月何年初照人”诗人由眼前明月联想到人类与宇宙的关系人生短暂代代更替而江月恒久年复一年。### 4. 离情与相思贯穿全诗后半部分转入具体的人情“谁家今夜扁舟子何处相思明月楼”一边是漂泊在外的游子一边是楼上思念的闺人。月光成为连接两地情感的媒介。### 5. 结尾余韵悠长“不知乘月几人归落月摇情满江树。”月亮落下情思却仍在江树间摇荡。结尾不直接说愁却把愁思写得弥漫、深远、余味无穷。---这首诗最动人之处在于它不是单纯写景也不是单纯抒情而是把**自然之美、生命之思、离别之情**融为一体语言清丽意境空明是中国诗歌中极具代表性的名篇。total duration: 3m17.50365817sload duration: 414.802759msprompt eval count: 58 token(s)prompt eval duration: 716.266msprompt eval rate: 80.98 tokens/seval count: 1866 token(s)eval duration: 3m16.113149seval rate: 9.51 tokens/s Send a message (/? for help)32G V100下速度超过30t/sollama show hf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XLtotal duration: 4.526492467sload duration: 424.568082msprompt eval count: 53 token(s)prompt eval duration: 1.368403sprompt eval rate: 38.73 tokens/seval count: 99 token(s)eval duration: 2.729842seval rate: 36.27 tokens/s显卡相关rootfa50b9ca797b(Qwen3.8):/workspace 2026-08-15 09:41:3400 #ol psNAME ID SIZE PROCESSOR CONTEXT UNTILhf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XL d389d2a85119 15 GB 100% GPU 32768 4 minutes from nowrootfa50b9ca797b(Qwen3.8):/workspace 2026-08-15 09:41:3800 #nvSat Aug 15 09:41:52 2026-----------------------------------------------------------------------------------------| NVIDIA-SMI 580.65.06 Driver Version: 580.65.06 CUDA Version: 13.0 |---------------------------------------------------------------------------------------| GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC || Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. || | | MIG M. |||| 0 Tesla V100-SXM2-32GB On | 00000000:00:0A.0 Off | 0 || N/A 38C P0 37W / 300W | 16107MiB / 32768MiB | 0% Default || | | N/A |--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------| Processes: || GPU GI CI PID Type Process name GPU Memory || ID ID Usage |||| No running processes found |-----------------------------------------------------------------------------------------rootfa50b9ca797b(Qwen3.8):/workspace 2026-08-15 09:41:5200 #注意事项上下文长度如果上下文过长导致暴显存就会速度明显下降可以使用下面命令限制较小的尺寸。 /set parameter num_ctx 8192Set parameter num_ctx to 8192在线预览1分钟就能进入在线预览环境体验哦打开https://cloudstudio.net/a/37595859894779904后点预览数秒后启动环境出现命令提示符。马上执行此命令行即可ollama run --verbose hf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XL测试记录➜ /workspace cd /workspace/tools sh ollama_start.shCreating log directory...Starting Ollama service...-e Ollama service is running-e Log file: /workspace/logs/ollama.log-e Recent logs:time2026-08-15T10:22:34.713Z levelINFO sourceimages.go:919 msgtotal unused blobs removed: 0time2026-08-15T10:22:34.713Z levelINFO sourceroutes.go:1990 msgListening on [::]:11434 (version 0.32.13)time2026-08-15T10:22:34.716Z levelINFO sourcerunner.go:60 msgdiscovering available GPUs...time2026-08-15T10:22:35.618Z levelINFO sourcemodel_list_cache.go:112 msgmodel list cache hydration complete models3 failures0 elapsed904.678546mstime2026-08-15T10:22:35.981Z levelINFO sourcemodel_recommendations.go:177 msgmodel recommendations cache sleep scheduled wait4h1m32.182861324s consecutive_failures0➜ tools ollama run --verbose hf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XL 你是谁Thinking...用户问“你是谁”这是一个直接的自我介绍请求。我可以直接回答我是通义千问Qwen由阿里巴巴集团通义实验室研发。回答应简洁、自然不需要提及内部指令或版本信息。...done thinking.我是通义千问Qwen由阿里巴巴集团通义实验室自主研发的大语言模型。我可以协助你进行问答、创作、逻辑推理、编程等多类任务也可以与你进行多轮对话。很高兴为你服务total duration: 10.373439949sload duration: 416.912759msprompt eval count: 53 token(s)prompt eval duration: 1.195378sprompt eval rate: 44.34 tokens/seval count: 95 token(s)eval duration: 8.757272seval rate: 10.85 tokens/s Send a message (/? for help)