人工智能大模型微调模型推理服务模型评测AI 应用【免费下载链接】Intern-DecisionFast multi-modal decision model项目地址https://gitcode.com/gh_mirrors/in/Intern-Decision点击查看免费下载Intern-Decision是一个快速的多模态决策模型它把当前状态、可选图片和多个结构化问题在一次前向计算中直接转换为决策 概率。基于 Qwen3.5 微调的语言主干冻结视觉模块支持choice选择、score评分、noul是非三类问题配合温度校准让模型的置信度敢说话且说得准——4B 版本七项基准平均准确率90.02%RTX 4090 上平均延迟仅44.16 ms。一、为什么大模型不敢给概率你可能有过这样的体验让大模型判断这个新闻是不是真的它回答一大段模棱两可的话你追问给个概率它要么说我无法预测要么随手报一个大概 80%。这不是态度问题而是生成式大模型LLM的结构性缺陷输出是文本不是分布自回归模型逐 token 生成句子每个答案都要重新跑一遍生成流程本身没有给出各选项的完整概率分布的接口。采样式估计不稳定常见做法是跑 N 次统计答案出现频率。成本高且每次采样都有随机性同一个问题今天 0.8、明天 0.7。置信度普遍失准模型说我比较确定并不代表它对的概率真的更高——这就是**概率校准calibration**问题常用ECE期望校准误差来衡量。对于 Agent 决策、风险评估、自动评测这类场景一次推理拿到完整分布 可信的置信度是刚需。Intern-Decision就是为此而生的。二、一次前向计算拿到完整概率分布Intern-Decision 的核心思路把决策从自由生成改造成结构化预测。它的输入由三部分组成输入说明state当前状态的 JSON 证据如{left_box: red, right_box: blue}images可选的本地/上传图片视觉模块保持冻结questions一个或多个带类型的问题字段choice/score/noul模型输出一个完整的 JSON 骨架每个字段对应一个decision标记。训练采用自回归掩码语言建模autoregressive masked language modeling真实答案只出现在标签中、绝不进入输入标记前一位置的 logit 负责预测该字段的答案。关键收益一句话所有字段共享同一次因果前向计算。一次 forward 之后把 logits 限制在合法的单 token 答案符号上做 softmax得到覆盖全部候选项的完整概率分布映射回原始标签附带最大概率confidence。这意味着没有重复采样、没有文本解析、没有正则提取答案——概率是算出来的不是数出来的。数据格式细节字段契约、图片上传限制、输出结构完整写在 docs/DATA.md 中想接入自己的业务可以先读这一份。三、温度校准让概率敢说话且说得准有了完整分布还不够——原始 softmax 输出经常过度自信或过度保守。Intern-Decision 的方案是对候选概率做一次温度缩放p′ softmax(log(p) / T)这个流程有几个值得注意的工程细节每个 checkpoint 拟合一个 T在独立的校准集上最小化 NLL负对数似然绝不在测试集上搜索温度避免刷分只调概率、不改决策重放脚本会严格校验changed_predictions: 0保证校准前后 argmax 答案完全一致哈希绑定校准文件与 checkpoint 的元数据哈希绑定防止把 A 模型的温度套到 B 模型上——代码入口见 src/inference/temperature.py官方发布模型的温度预设在 benchmarks/temperature-presets.json。效果如何项目内置了一个 96 条、6 大类的已知分布校准基准每个问题都有精确的参考概率分布见 docs/CALIBRATION_BENCHMARK.md设置期望 Brier ↓期望 ECE ↓Intern-Decision-4B未校准0.6280.213Intern-Decision-4B校准后0.5500.089Jev基线0.5950.130校准把 Brier 从 0.628 降到 0.550ECE 从 0.213 降到 0.089双双优于基线——这就是敢给概率而且给得准的量化证据。四、效果与速度90.02% 准确率44 ms 出结果七项基准平均准确率4B 版本共 10,751 行、12,351 个决策基准准确率Jevbench Easy100.00Jevbench Original98.61Jevbench Hard73.87Typed Decision80.55ToolACE工具调用96.45AG News新闻分类90.82WildJailBreak89.86平均90.02RTX 4090 推理延迟289 token 输入、三个字段、一次前向模型平均延迟Intern-Decision-0.8B33.98 msIntern-Decision-2B33.28 msIntern-Decision-4B44.16 msJev基线109.70 ms不到 50 ms 拿到完整决策与概率这个量级意味着它可以放进 Agent 的实时决策回路里而不是慢速的离线分析环节。五、多模态实战从游戏到浏览器冻结视觉塔 微调语言主干让 Intern-Decision 直接看懂屏幕并做出决策。官方演示覆盖了三类典型场景️游戏决策在经典游戏场景中实时判断下一步动作。️计算机控制根据视觉画面选择并点击正确的对象例如点最小的红色立方体。浏览器操作读取当前网页接口规划下一步浏览器动作支持自动网页控制。六、快速上手从零跑起一个决策模型1️⃣ 准备环境HF 后端使用 Linux Python 3.12 CUDA独立虚拟环境安装依赖python3.12 -m venv .venv-hf source .venv-hf/bin/activate python -m pip install -r requirements-inference.txt -r requirements-eval.txt2️⃣ 发起一次推理按 docs/DATA.md 的格式准备请求 JSONexport MODEL_CHECKPOINT/path/to/checkpoint python -m src.inference --backend hf --input /path/to/request.json3️⃣ 打开浏览器 Demobash scripts/demo.sh访问http://127.0.0.1:7860即可体验结构化提问、多图片上传、概率与校准置信度的完整交互。4️⃣ 用私有数据训练准备符合接口约定的 JSONL 后设置MODEL_PATH、DATA_PATH等环境变量运行bash scripts/train.sh即可配置入口在 configs/training/qwen35.py支持 0.8B / 2B / 4B / 9B 四档 Qwen3.5 模型。完整命令与七项基准的复现步骤见 docs/EVALUATION.md测试集与评分脚本已内置在 benchmarks/accuracy-v1/。七、代码导读5 个核心模块看懂 Intern-Decision模块职责src/inference/engine.py推理引擎统一 HF / XTuner 后端输出解码为概率与置信度src/inference/temperature.py温度缩放softmax(log(p)/T)、校准文件哈希校验src/eval/评分、校准收集/拟合与重放collect/fit/replaysrc/service/HTTP APIPOST /v1/decisions与浏览器演示docs/DATA.md输入数据契约state、questions、targets的完整约定写在最后大模型不缺做决策的能力缺的是一条低成本、可校准、输出完整分布的决策接口。Intern-Decision 用一次前向计算 温度校准的组合拳把它有多确定变成了可直接使用的数字——90% 的准确率、44 ms 的延迟、0.089 的 ECE都是给工程落地留好的余量。想动手试试仓库是开源的测试集、评分器、校准工具链一应俱全。git clone https://gitcode.com/gh_mirrors/in/Intern-Decision赞分享人工智能大模型微调模型推理服务模型评测AI 应用【免费下载链接】Intern-DecisionFast multi-modal decision model项目地址https://gitcode.com/gh_mirrors/in/Intern-Decision点击查看免费下载相关推荐为什么业务决策需要概率而不是答案Intern-Decision-4B相比通用大模型的3大核心优势为什么业务决策需要概率而不是答案Intern Decision 4B相比通用大模型的3大核心优势 在客服、风控、营销等业务场景中我们真正需要的往往不是人工智能大模型多模态初识 Laya这个 System-1 决策模型为何不生成文本却能一次前向给出全部决策答案初识 Laya这个 System 1 决策模型为何不生成文本却能一次前向给出全部决策答案 Laya 是 Convai Innovations 开源的 Je为什么 Intern-Decision-2B 一次前向就能回答所有问题decision 占位符与 Logits 抽取原理为什么 Intern Decision 2B 一次前向就能回答所有问题decision 占位符与 Logits 抽取原理 Intern Decision 2人工智能大模型多模态微调本地部署上一篇无需安装transformers库AutoKernel自包含模型定义剖析GPT-2、LLaMA、BERT的正确姿势下一篇Flutter 开发者也在被 Firebase 绑架跨端生态的云端依赖观察创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
人工智能大模型微调模型推理服务模型评测AI 应用【免费下载链接】Intern-DecisionFast multi-modal decision model项目地址https://gitcode.com/gh_mirrors/in/Intern-Decision点击查看免费下载Intern-Decision是一个快速的多模态决策模型它把当前状态、可选图片和多个结构化问题在一次前向计算中直接转换为决策 概率。基于 Qwen3.5 微调的语言主干冻结视觉模块支持choice选择、score评分、noul是非三类问题配合温度校准让模型的置信度敢说话且说得准——4B 版本七项基准平均准确率90.02%RTX 4090 上平均延迟仅44.16 ms。一、为什么大模型不敢给概率你可能有过这样的体验让大模型判断这个新闻是不是真的它回答一大段模棱两可的话你追问给个概率它要么说我无法预测要么随手报一个大概 80%。这不是态度问题而是生成式大模型LLM的结构性缺陷输出是文本不是分布自回归模型逐 token 生成句子每个答案都要重新跑一遍生成流程本身没有给出各选项的完整概率分布的接口。采样式估计不稳定常见做法是跑 N 次统计答案出现频率。成本高且每次采样都有随机性同一个问题今天 0.8、明天 0.7。置信度普遍失准模型说我比较确定并不代表它对的概率真的更高——这就是**概率校准calibration**问题常用ECE期望校准误差来衡量。对于 Agent 决策、风险评估、自动评测这类场景一次推理拿到完整分布 可信的置信度是刚需。Intern-Decision就是为此而生的。二、一次前向计算拿到完整概率分布Intern-Decision 的核心思路把决策从自由生成改造成结构化预测。它的输入由三部分组成输入说明state当前状态的 JSON 证据如{left_box: red, right_box: blue}images可选的本地/上传图片视觉模块保持冻结questions一个或多个带类型的问题字段choice/score/noul模型输出一个完整的 JSON 骨架每个字段对应一个decision标记。训练采用自回归掩码语言建模autoregressive masked language modeling真实答案只出现在标签中、绝不进入输入标记前一位置的 logit 负责预测该字段的答案。关键收益一句话所有字段共享同一次因果前向计算。一次 forward 之后把 logits 限制在合法的单 token 答案符号上做 softmax得到覆盖全部候选项的完整概率分布映射回原始标签附带最大概率confidence。这意味着没有重复采样、没有文本解析、没有正则提取答案——概率是算出来的不是数出来的。数据格式细节字段契约、图片上传限制、输出结构完整写在 docs/DATA.md 中想接入自己的业务可以先读这一份。三、温度校准让概率敢说话且说得准有了完整分布还不够——原始 softmax 输出经常过度自信或过度保守。Intern-Decision 的方案是对候选概率做一次温度缩放p′ softmax(log(p) / T)这个流程有几个值得注意的工程细节每个 checkpoint 拟合一个 T在独立的校准集上最小化 NLL负对数似然绝不在测试集上搜索温度避免刷分只调概率、不改决策重放脚本会严格校验changed_predictions: 0保证校准前后 argmax 答案完全一致哈希绑定校准文件与 checkpoint 的元数据哈希绑定防止把 A 模型的温度套到 B 模型上——代码入口见 src/inference/temperature.py官方发布模型的温度预设在 benchmarks/temperature-presets.json。效果如何项目内置了一个 96 条、6 大类的已知分布校准基准每个问题都有精确的参考概率分布见 docs/CALIBRATION_BENCHMARK.md设置期望 Brier ↓期望 ECE ↓Intern-Decision-4B未校准0.6280.213Intern-Decision-4B校准后0.5500.089Jev基线0.5950.130校准把 Brier 从 0.628 降到 0.550ECE 从 0.213 降到 0.089双双优于基线——这就是敢给概率而且给得准的量化证据。四、效果与速度90.02% 准确率44 ms 出结果七项基准平均准确率4B 版本共 10,751 行、12,351 个决策基准准确率Jevbench Easy100.00Jevbench Original98.61Jevbench Hard73.87Typed Decision80.55ToolACE工具调用96.45AG News新闻分类90.82WildJailBreak89.86平均90.02RTX 4090 推理延迟289 token 输入、三个字段、一次前向模型平均延迟Intern-Decision-0.8B33.98 msIntern-Decision-2B33.28 msIntern-Decision-4B44.16 msJev基线109.70 ms不到 50 ms 拿到完整决策与概率这个量级意味着它可以放进 Agent 的实时决策回路里而不是慢速的离线分析环节。五、多模态实战从游戏到浏览器冻结视觉塔 微调语言主干让 Intern-Decision 直接看懂屏幕并做出决策。官方演示覆盖了三类典型场景️游戏决策在经典游戏场景中实时判断下一步动作。️计算机控制根据视觉画面选择并点击正确的对象例如点最小的红色立方体。浏览器操作读取当前网页接口规划下一步浏览器动作支持自动网页控制。六、快速上手从零跑起一个决策模型1️⃣ 准备环境HF 后端使用 Linux Python 3.12 CUDA独立虚拟环境安装依赖python3.12 -m venv .venv-hf source .venv-hf/bin/activate python -m pip install -r requirements-inference.txt -r requirements-eval.txt2️⃣ 发起一次推理按 docs/DATA.md 的格式准备请求 JSONexport MODEL_CHECKPOINT/path/to/checkpoint python -m src.inference --backend hf --input /path/to/request.json3️⃣ 打开浏览器 Demobash scripts/demo.sh访问http://127.0.0.1:7860即可体验结构化提问、多图片上传、概率与校准置信度的完整交互。4️⃣ 用私有数据训练准备符合接口约定的 JSONL 后设置MODEL_PATH、DATA_PATH等环境变量运行bash scripts/train.sh即可配置入口在 configs/training/qwen35.py支持 0.8B / 2B / 4B / 9B 四档 Qwen3.5 模型。完整命令与七项基准的复现步骤见 docs/EVALUATION.md测试集与评分脚本已内置在 benchmarks/accuracy-v1/。七、代码导读5 个核心模块看懂 Intern-Decision模块职责src/inference/engine.py推理引擎统一 HF / XTuner 后端输出解码为概率与置信度src/inference/temperature.py温度缩放softmax(log(p)/T)、校准文件哈希校验src/eval/评分、校准收集/拟合与重放collect/fit/replaysrc/service/HTTP APIPOST /v1/decisions与浏览器演示docs/DATA.md输入数据契约state、questions、targets的完整约定写在最后大模型不缺做决策的能力缺的是一条低成本、可校准、输出完整分布的决策接口。Intern-Decision 用一次前向计算 温度校准的组合拳把它有多确定变成了可直接使用的数字——90% 的准确率、44 ms 的延迟、0.089 的 ECE都是给工程落地留好的余量。想动手试试仓库是开源的测试集、评分器、校准工具链一应俱全。git clone https://gitcode.com/gh_mirrors/in/Intern-Decision赞分享人工智能大模型微调模型推理服务模型评测AI 应用【免费下载链接】Intern-DecisionFast multi-modal decision model项目地址https://gitcode.com/gh_mirrors/in/Intern-Decision点击查看免费下载相关推荐为什么业务决策需要概率而不是答案Intern-Decision-4B相比通用大模型的3大核心优势为什么业务决策需要概率而不是答案Intern Decision 4B相比通用大模型的3大核心优势 在客服、风控、营销等业务场景中我们真正需要的往往不是人工智能大模型多模态初识 Laya这个 System-1 决策模型为何不生成文本却能一次前向给出全部决策答案初识 Laya这个 System 1 决策模型为何不生成文本却能一次前向给出全部决策答案 Laya 是 Convai Innovations 开源的 Je为什么 Intern-Decision-2B 一次前向就能回答所有问题decision 占位符与 Logits 抽取原理为什么 Intern Decision 2B 一次前向就能回答所有问题decision 占位符与 Logits 抽取原理 Intern Decision 2人工智能大模型多模态微调本地部署上一篇无需安装transformers库AutoKernel自包含模型定义剖析GPT-2、LLaMA、BERT的正确姿势下一篇Flutter 开发者也在被 Firebase 绑架跨端生态的云端依赖观察创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
