T4 16G显卡最新Qwen3.8 27B初步安装测试

发布时间:2026/10/7 23:58:51

T4 16G显卡最新Qwen3.8 27B初步安装测试 废话不多说初步测试记录整理如下复刻Ollama应用打开模板中心页面https://cloudstudio.net/t找到Ollama项后点击【使用模板】按钮或者直接打开应用【AI模板——Ollama - Cloud Studio】(https://cloudstudio.net/a/26997635105468416)后复刻结果是一样的。这里读者直接复刻本人已经复刻好的应用Ollama-Qwen3.8 - Cloud Studio[https://cloudstudio.net/a/37595859894779904]就好了。启动及升级应用环境由于是最新版本的模型这里需要升级一下ollama引擎。curl -fsSL https://ollama.com/install.sh | sh拉取模型运行考虑到16GB显卡运行成本较低这里特意选取大小合适性能不错的基于Unsloth Dynamic V3.0的UD-Q3_K_XL量化版本。ollama run --verbose hf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XL测试默写长诗总的说来eval rate大约10 tokens/s。root8f17b6ae31ac(Qwen3.8):/workspace 2026-08-15 09:21:2600 #ollama run --verbose hf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XL /show parametersModel defined parameters:stop |im_start|stop |im_end|stop thinkstop |im_start|user /set nothinkSet nothink mode. /set parameter temperature 0.1Set parameter temperature to 0.1 你是谁我是通义千问Qwen是由阿里巴巴集团通义实验室独立开发的大型语言模型。我可以帮你解答问题、提供建议、进行创意写作、编写和调试代码、分析数据或者只是陪你聊聊天。请问今天有什么我可以帮你的吗total duration: 6.224271694sload duration: 423.265261msprompt eval count: 13 token(s)prompt eval duration: 489.461msprompt eval rate: 26.56 tokens/seval count: 58 token(s)eval duration: 5.308317seval rate: 10.93 tokens/s /byeroot8f17b6ae31ac(Qwen3.8):/workspace 2026-08-15 09:23:2500 #ollama psNAME ID SIZE PROCESSOR CONTEXT UNTILhf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XL d389d2a85119 13 GB 100% GPU 4096 4 minutes from nowroot8f17b6ae31ac(Qwen3.8):/workspace 2026-08-15 09:23:2800 ### 文章默写测试之《春江花月夜》root8f17b6ae31ac(Qwen3.8):/workspace 2026-08-15 09:23:2800 #ollama run --verbose hf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XL 《春江花月夜》Thinking...【此处省略部分】...done thinking.你是指唐代张若虚的《春江花月夜》吗这是中国古典诗歌中非常著名的一首乐府旧题诗常被称作“孤篇横绝”“孤篇盖全唐”。下面是全文与简要赏析## 《春江花月夜》**唐·张若虚**春江潮水连海平海上明月共潮生。滟滟随波千万里何处春江无月明江流宛转绕芳甸月照花林皆似霰。空里流霜不觉飞汀上白沙看不见。江天一色无纤尘皎皎空中孤月轮。江畔何人初见月江月何年初照人人生代代无穷已江月年年望相似。不知江月待何人但见长江送流水。白云一片去悠悠青枫浦上不胜愁。谁家今夜扁舟子何处相思明月楼可怜楼上月徘徊应照离人妆镜台。玉户帘中卷不去捣衣砧上拂还来。此时相望不相闻愿逐月华流照君。鸿雁长飞光不度鱼龙潜跃水成文。昨夜闲潭梦落花可怜春去不复还。江水流春去欲尽江潭落月复西斜。斜月沉沉藏海雾碣石潇湘无限路。不知乘月几人归落月摇情满江树。---## 简要赏析这首诗以“春、江、花、月、夜”五个意象为核心把自然景色、人生哲理与离愁别绪融合在一起。### 1. 开篇气势宏大“春江潮水连海平海上明月共潮生。”春潮浩荡月光随潮水升起视野辽阔意境开阔一下子把读者带入一个宏大而清明的夜晚。### 2. 月色之美极尽清丽“滟滟随波千万里何处春江无月明”月光洒满江面随波荡漾无处不在。这里写的是视觉之美也有一种无处不在的思念之情。### 3. 由景入理追问宇宙人生“江畔何人初见月江月何年初照人”诗人由眼前明月联想到人类与宇宙的关系人生短暂代代更替而江月恒久年复一年。### 4. 离情与相思贯穿全诗后半部分转入具体的人情“谁家今夜扁舟子何处相思明月楼”一边是漂泊在外的游子一边是楼上思念的闺人。月光成为连接两地情感的媒介。### 5. 结尾余韵悠长“不知乘月几人归落月摇情满江树。”月亮落下情思却仍在江树间摇荡。结尾不直接说愁却把愁思写得弥漫、深远、余味无穷。---这首诗最动人之处在于它不是单纯写景也不是单纯抒情而是把**自然之美、生命之思、离别之情**融为一体语言清丽意境空明是中国诗歌中极具代表性的名篇。total duration: 3m17.50365817sload duration: 414.802759msprompt eval count: 58 token(s)prompt eval duration: 716.266msprompt eval rate: 80.98 tokens/seval count: 1866 token(s)eval duration: 3m16.113149seval rate: 9.51 tokens/s Send a message (/? for help)32G V100下速度超过30t/sollama show hf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XLtotal duration: 4.526492467sload duration: 424.568082msprompt eval count: 53 token(s)prompt eval duration: 1.368403sprompt eval rate: 38.73 tokens/seval count: 99 token(s)eval duration: 2.729842seval rate: 36.27 tokens/s显卡相关rootfa50b9ca797b(Qwen3.8):/workspace 2026-08-15 09:41:3400 #ol psNAME ID SIZE PROCESSOR CONTEXT UNTILhf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XL d389d2a85119 15 GB 100% GPU 32768 4 minutes from nowrootfa50b9ca797b(Qwen3.8):/workspace 2026-08-15 09:41:3800 #nvSat Aug 15 09:41:52 2026-----------------------------------------------------------------------------------------| NVIDIA-SMI 580.65.06 Driver Version: 580.65.06 CUDA Version: 13.0 |---------------------------------------------------------------------------------------| GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC || Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. || | | MIG M. |||| 0 Tesla V100-SXM2-32GB On | 00000000:00:0A.0 Off | 0 || N/A 38C P0 37W / 300W | 16107MiB / 32768MiB | 0% Default || | | N/A |--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------| Processes: || GPU GI CI PID Type Process name GPU Memory || ID ID Usage |||| No running processes found |-----------------------------------------------------------------------------------------rootfa50b9ca797b(Qwen3.8):/workspace 2026-08-15 09:41:5200 #注意事项上下文长度如果上下文过长导致暴显存就会速度明显下降可以使用下面命令限制较小的尺寸。 /set parameter num_ctx 8192Set parameter num_ctx to 8192在线预览1分钟就能进入在线预览环境体验哦打开https://cloudstudio.net/a/37595859894779904后点预览数秒后启动环境出现命令提示符。马上执行此命令行即可ollama run --verbose hf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XL测试记录➜ /workspace cd /workspace/tools sh ollama_start.shCreating log directory...Starting Ollama service...-e Ollama service is running-e Log file: /workspace/logs/ollama.log-e Recent logs:time2026-08-15T10:22:34.713Z levelINFO sourceimages.go:919 msgtotal unused blobs removed: 0time2026-08-15T10:22:34.713Z levelINFO sourceroutes.go:1990 msgListening on [::]:11434 (version 0.32.13)time2026-08-15T10:22:34.716Z levelINFO sourcerunner.go:60 msgdiscovering available GPUs...time2026-08-15T10:22:35.618Z levelINFO sourcemodel_list_cache.go:112 msgmodel list cache hydration complete models3 failures0 elapsed904.678546mstime2026-08-15T10:22:35.981Z levelINFO sourcemodel_recommendations.go:177 msgmodel recommendations cache sleep scheduled wait4h1m32.182861324s consecutive_failures0➜ tools ollama run --verbose hf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XL 你是谁Thinking...用户问“你是谁”这是一个直接的自我介绍请求。我可以直接回答我是通义千问Qwen由阿里巴巴集团通义实验室研发。回答应简洁、自然不需要提及内部指令或版本信息。...done thinking.我是通义千问Qwen由阿里巴巴集团通义实验室自主研发的大语言模型。我可以协助你进行问答、创作、逻辑推理、编程等多类任务也可以与你进行多轮对话。很高兴为你服务total duration: 10.373439949sload duration: 416.912759msprompt eval count: 53 token(s)prompt eval duration: 1.195378sprompt eval rate: 44.34 tokens/seval count: 95 token(s)eval duration: 8.757272seval rate: 10.85 tokens/s Send a message (/? for help)
延伸阅读

更多相关文章

2026/10/6 12:42:47

Python AttributeError深度解析:从对象模型到排查实战

1. 从一次深夜报错说起:AttributeError的“惊喜”时刻相信每个和Python打过交道的开发者,都经历过类似的场景:代码逻辑明明在脑子里无比清晰,运行起来却冷不丁给你抛出一个AttributeError: ‘MyClass‘ object has no attribute ‘…

2026/10/6 16:58:49

深入理解epoll的LT与ET工作模式及性能优化

1. 为什么需要理解epoll的工作模式在Linux服务器开发中,I/O多路复用技术是处理高并发的核心机制。当我在2013年第一次负责一个需要支撑5000并发连接的即时通讯服务时,select/poll的性能瓶颈让我不得不转向epoll。但真正让我付出代价的是对epoll工作模式理…

2026/10/7 23:57:17

理解V$OPEN_CURSOR:用TaoToken统一Key排查Oracle游标泄漏

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/7 23:57:16

智搜GEO落地样本:当采购经理开始向AI要供应商

一、当AI开始回答问题时的四个常见问题第一,采购方不再翻网页,而是直接问AI“苏州有哪些靠谱的短视频运营系统服务商”,企业官网却没有出现在回答里。第二,企业花力气做了网页SEO,但豆包、文心一言、通义千问这些平台引…

2026/10/7 23:52:16

西门子机床测量精度的落地链路(上):参数与补偿怎么生效

西门子机床测量精度的落地链路(上):参数与补偿怎么生效 引言 讨论机床测量精度时,最容易出现的偏差是把问题归结到某一个器件或某一个参数上。现场常见的说法有几种:测头重复精度是多少、系统分辨率和光栅尺是多少、刀…

2026/10/5 6:32:56

Jev+Agent接管浏览器:browser-use实战与jev-ultrafast性能优化

1. 从“Jev”说起:为什么我要把Agent接进浏览器“Jev”这个词最近在圈子里出现的频率越来越高,很多人第一次听到会以为是某个新模型的名字,其实它更像是一种思路——把Jev模型的能力当作底座,通过Agent的方式去接管浏览器&#xf…

2026/10/7 8:18:33

多智能体集群实战:DeepAgents编排、MCP与A2A协议及Skills体系

1. 从"单兵作战"到"集群协同":多智能体编排到底在解决什么问题如果你最近在折腾 Agent 相关的东西,大概率会有一种感觉:单个 Agent 能做的事情,其实很快就摸到天花板了。你给它一个提示词,挂几个工…

2026/10/6 17:46:51

无源低通滤波器设计实战:从RC到LC,手把手教你避开那些坑

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/7 1:05:03

ESP32免重刷固件:浏览器直接修改NVS键值实现WiFi配置更新

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/7 1:05:03

SAP HANA查询结果导出CSV:避开乱码、性能与权限的实用指南

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/7 1:05:03

数字后端Placement阶段Density与Congestion控制实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

还想了解更多?直接咨询顾问

免费诊断 + 免费方案 + 透明报价。

全国咨询热线400-8866-253
免费获取方案
☎咨询二维码 ☎ ↑