24G显卡免费体验 Qwen3.8-27B-Q4 端侧大模型

Qwen3.8-27B 是2026 年 8 月新出的开源模型支持多模态可识别图片视频。通过后训练比前代Qwen系列模型提升非常大甚至在多项测试中超过了半年前的 Claude Opus 4.6 Max。4比特量化后能达到FP16 原版95.59% 的能力本次部署的是 Q4_K_M 版本是社区验证过的甜点档位质量和体积平衡最好在 24GB 显存机器上即可流畅运行。以下链接可以免实名注册并送算力点试用 GPU 服务器注册链接https://growthdata.virtaicloud.com/t/xK登陆后进入项目链接https://open.virtaicloud.com/web/project/detail/746800979148210176点击右上角运行一下确定克隆项目和数据到自己工作空间点击立即运行启动后点右上角进入开发环境。点击开发启动和进入开发环境进入JupyterLab 选项卡后双击打开左侧的 项目说明.ipynb 文件找到 “二、使用说明” 下方的!bash run_Qwen3.8_Q4.sh这一行命令点击选中后再点击上面的运行图标运行该命令行即可启动服务界面启动出现 llama_server: listening on http://0.0.0.0:8000 后右侧添加一个 8000 的端口打开右侧对应外部访问链接即可使用 llama.cpp 自带的WebUI 对话窗口测试文字对话效果图片识别效果视频理解效果接入到龙虾应用里可以调用工具24G显存运行速度也很快已经可以应对很多日常的使用场景了。