【免费下载链接】Phocinae-Largha-150M-v1项目地址https://ai.gitcode.com/hf_mirrors/Phocinae/Phocinae-Largha-150M-v1点击查看免费下载本文以 Phocinae-Largha-150M-v1斑海豹 Largha官方 FAQ 的 15 个核心问题为骨架逐条结合仓库内的模型配置、训练配方、校准实现与基准数据展开从一次前向推理即产出结构化决策的模型机制到 phocinae-server 的本地部署与硬件分档、延迟特征、选项翻转稳健性、温度与幂变换两级校准、JevBench 披露、中文表现、τ0.6 置信度升级门带来的 LLM 调用节省直至许可证与引用复现方式。读完本文你可以独立完成该模型的权重校验、服务启动与冒烟测试并理解其每一组公开数字背后的测量协议与适用前提。FAQ 中引用的所有数字均以 BENCHMARKS.md 为准 —— 该文件是发布数字的唯一事实来源source of truth。中文读者可参阅 docs/faq.zh.md完整模型信息见 MODEL_CARD.md。1. 这个模型到底是什么Largha 是一个基于编码器的决策模型decision model而不是聊天模型。一次前向推理即可把一段state状态描述加上若干带类型的提问转换为带置信度的校准答案三种题型为noul是/否判定布尔输出choice多选一输出 0 基选项索引score2–10 分打分整数输出。它没有文本生成、没有采样在固定 batch shape 下推理结果是确定性的。这意味着它可以作为 Agent 的本地决策层审批门、工具路由、升级分流、工单分诊而不是通用语言模型。从仓库源码结构看这一编码器 决策头的设计在配置文件中有完整落点config.jsonmodel_type为modernbert即 mmBERT-small 底座hidden_size384、num_hidden_layers22、num_attention_heads6、vocab_size256000、max_position_embeddings8192layer_types数组显示 22 层中每 3 层出现一次full_attention其余为sliding_attentionlocal_attention窗口 128即滑动窗口与全局注意力混合RoPEtheta为 160000classifier_pooling为mean均值池化。rl_agent_config.json决策头为 2 层 transformer headhead_layers: 2决策序列默认长度max_len: 512、head 注意力窗口head_max_len: 192推理精度amp_dtype: fp16model_name必须为Phocinae-Largha-150M-v1。checkpoint_meta.json1 个 epoch 训练平均损失 1.3689859。训练配方见 MODEL_CARD.md 的 Training 一节底座jhu-clsp/mmBERT-small上游预训练不变在LocalLLaMA/typed-decisions训练集加翻转增广选项重排上微调损失cebrier、优化器adafactor、lr_encoder2e-5 /lr_head1e-4、micro batch 8、梯度累积 4、共 300 步更新约 0.044 GPU 小时。评测行从未进入训练typed-decisions 的 test split 与 JevBench 均被留出。2. 如何在本地运行官方运行时是 phocinae-serverpure-torch 前向推理无需额外运行时依赖它是一个只监听 127.0.0.1 的本地 FastAPI 服务pip install phocinae-server PHOC_MODEL_DIR/path/to/Phocinae-Largha-150M-v1 python -m phocinae.main # http://127.0.0.1:8155从源码构建替代方式克隆 Phocinae 组织下的 phocinae-server 仓库后cd phocinae-server pip install .。启动后的目录布局必须满足PHOC_MODEL_DIR的期望即仓库根目录本身的结构model.safetensors、encoder/、tokenizer/、rl_agent_config.json。服务默认地址为http://127.0.0.1:8155交互文档在/docs。按 docs/deployment.md 的说法常用环境变量如下FAQ 之外补充便于实操变量默认值作用PHOC_MODEL_DIR必填指向本模型仓库目录PHOC_HOST/PHOC_PORT127.0.0.1 / 8155监听地址PHOC_DEVICEautoauto/cuda/cpu无 GPU 自动回退 CPU fp32PHOC_PERM_AVG01 choice 问题在 4 种选项顺序上取平均降低翻转代价是 4× 前向PHOC_BEARER_TOKEN空设置后/v1/*需要Authorization: Bearer tokenPHOC_THREADS—CPU 模式下的 torch 线程数PHOC_MAX_BODY2 MiB请求体上限超出返回 413PHOC_EXTENSIONS10 省略answer_confidence/action/routing扩展字段冒烟测试取自 docs/deployment.mdcurl -s http://127.0.0.1:8155/health curl -s http://127.0.0.1:8155/v1/systemone -H Content-Type: application/json \ -d {model:Phocinae-Largha-150M-v1,state:git status,questions:[{id:ok,type:noul,threshold:0.65}]}硬件分档、guard 与 MCP 集成详见 docs/deployment.md请求契约详见 docs/protocol.md。3. 服务端兼容 OpenAI 接口吗不兼容——这是有意设计。因为该模型不是聊天模型所以 API 不假装是聊天 API它只暴露一个决策端点族且默认仅绑定 127.0.0.1。按 docs/protocol.md端点清单为方法路径说明GET/服务信息GET/health存活 模型/设备信息无鉴权GET/v1/models模型目录名称、上下文、答案格式、扩展字段POST/v1/systemone单次决策请求POST/v1/systemone/permute同上但 choice 问题在 4 种选项顺序上取平均POST/v1/systemone/batch≤64 条决策请求的批处理请求侧关键约束违反即422model必须精确为Phocinae-Largha-150M-v1questions为 1–64 项id非空且请求内唯一type只能是noul/choice/scorechoice必须有options非空、≤255且score禁止携带optionsnoul的threshold必须在 [0,1]。响应中answers的取值形态为noul→bool、choice→0 基索引、score→2–10 整数另有温度校准后的answer_confidence、action、option_scores、routing扩展字段。错误码体系为 422参数类/ 413请求体超过 2 MiB/ 401配置了PHOC_BEARER_TOKEN但鉴权缺失或错误。确定性约定同一请求、同一设备、同一 batch shape 下答案逐位一致fp16 与 fp32 或不同 batch shape 之间可能有末位差异。4. 需要什么硬件FAQ 给出的三档配置数字与 docs/deployment.md 一致档位RAM / 存储 / GPU预期表现baseline体验一下4 GB RAM · 8 GB 存储 · 无需 GPU每 case 约 1.5–1.7 sCPU 单线程minimum效率优先8 GB RAM · 8 核 · ≥4 GB 显存3060 级 → 30–60 ms8 GB 显存 → 21.0 msRTX 5090 实测GPU 21.0–60 ms/决策8 CPU 线程下 8–20 decisions/srecommended日常主力16 GB · 512 GB NVMe · 8 GB GPU21.0 msRTX 5090–25 ms同时运行其他应用时补充说明同样来自 docs/deployment.md权重为 288.6 MBfp16 safetensors推理峰值约 1.6 GB 显存 / 1.8 GB 内存baseline 档模型加载约 4 秒。21.0 ms 是高端 GPU 的 fp16 p50 数字CPU 永远达不到它——纯 CPU 用户应按单线程约 1.64 s/case 做预算或使用 8 线程批处理8–20 decisions/s。5. 速度有多快——CPU 为什么约 1.5 秒GPU fp16 单决策21.0 msRTX 5090p50发布值端到端包含 tokenize forward 答案组装CPU 单线程1.64 s/case p501 case 1 个 state 5 个决策单次前向——端到端tokenize forward 答案组装在单条 fp32 线程上的测量。这是诚实的 CPU 数字而不是拿 GPU 数字冒充CPU 8 线程批处理8–20 decisions/sb1 → 19.7b32 → 8.4。从 BENCHMARKS.md 的延迟表看另有一项独立环境下的参考测量CPU 预热、20 线程、无 GPU 时约 51 ms/call约 17 ms/decision文档明确标注这是量级参考值不是榜单值。批处理越大吞吐越低b32 时降至 8.42000 行 mega-batch 为 6.8–8.5 decisions/s 且需要较大内存——这说明该模型的 CPU 侧最优用法是小批量、多线程预筛而非单条硬扛。6. flip 数字是什么意思协议打乱某个决策的选项顺序如果答案改变则记为一次 flip越低越好。CPU fp32、空闲机器、双重复测的主表协议细节见 docs/reproduce.md协议数值flip150 reversed300 项0.02006/300flip400 reversed600 项0.021713/600random reorder3 种子均值0.0144any-of-33 次重排任一触发0.0283直白解读大约每 46 次选项重排才有一次答案改变1/0.0217 ≈ 46。横向对比比 Laya 域内的 3.7% 好 1.5 个百分点注意这是百分点差距而非数量级差距明显优于 Jev 的约 9% 与 Laya 域外的 19.4%。GPU fp16 的 0.0200/0.0217 与 1k 行 4-perm 的 0.0181/0.0150/0.0331 是不同协议下的仅备注值不与主表混用。工程含义选项顺序稳健性很好但不完美重要决策可用POST /v1/systemone/permute或PHOC_PERM_AVG1在 4 种顺序上取平均来进一步压制翻转代价是 4× 前向开销。7. 模型是如何校准的校准分两层都在推理期生效、不改变权重第一层温度校准出厂默认。出厂列的ECE 为 0.2519en/ 0.1941zh。三个校准温度0.8660205 / 0.8081192 / 0.6624661存储于模型仓库配置 rl_agent_config.json 的temperature字段由 phocinae-server 在推理时直接应用——这也是 BENCHMARKS.md 中所有*.json指标所用的shipped column。第二层可选的幂变换校准列calib/opt-in默认不启用。仓库随发布附带了 calib/ 目录机制是逐决策的幂变换q ∝ p ** gamma 先逐元素取幂再按决策归一化推荐参数2026-10-08 拟合v1.1 权重上复测面原始 ECE出厂列推荐 γ校准后 ECEBrierraw → calibrateden0.25194.330.01680.0207 → 0.1218zh0.19412.510.01520.0333 → 0.0961从源码看calib/calibrate.py 的apply_gamma(probs, gamma)实现非常简洁对概率向量逐元素取gamma次幂后归一化gamma1时原样返回。由于幂变换是单调的argmax 结果与 noul 的 0.5 阈值判定都不变因此所有准确率严格不变——它只重塑置信度分布γ1 使概率更尖锐。代价是 Brier 上升更自信的列在错误时错得更重ECE 与 Brier 之间的取舍是显式的。拟合过程使用 25% 留出 caseseed 20261008 向全网格 ECE argmin 的收缩规则并满足 NLL 护栏校准后 NLL ≤ raw 0.01。用法示例calib/README.mdfrom calibrate import apply_gamma q_cal apply_gamma({a: 0.61, b: 0.39}, gamma4.33)8. 为什么没有通过 JevBench 验收门没有通过——并且公开这一事实0.5455126/231低于 58.4% 的验收门。数字按实测发布从未在评测行上训练过也不据此做任何榜单声明。分档细节BENCHMARKS.md §4tier easy 0.916744/48、tier original 0.500036/72、tier hard 0.414446/111——困难题是主要失分点工具选择子集tool_selectionk≤10为12/12。这一披露的意义在于给出能力边界对困难、开放式的判断任务该模型不是合格答案而应配合升级机制使用见第 10、11 节。9. 中文真的可用吗英文测试集上测得0.906机器翻译的 typed-decisions 中文 case 上测得0.848。同一 typed 协议下的参照点Laya 0.766自测、原生接口· JEV 0.727 · meraGPT 0.768en 测试。必须诚实说明的 caveatzh 评测行是英文测试用例的机器翻译而训练混合中本身就包含机器翻译中文约 2,400 行加原生中文约 1,400 行。因此 zh 数字应视为域内in-mix已拟合评测而不是零样本跨语言迁移——中文能力是训练里见过的结果不能外推为任意中文任务的零样本表现。10. 能把它当安全/安全门用吗不能作为唯一的门。Largha 是第一道决策辅助应配合升级机制使用E1 τ0.6 门会把它不确定的 45.0% 分流到外部 LLM 或人再叠加一层确定性的 L0 规则层如 phocinae-guard——永远不要让它独自承担破坏性或安全关键动作的控制。从 docs/deployment.md 的 guard 设计看这套门是分层的L0 层确定性白/黑名单表l0_table.json纯离线——只读命令放行危险模式破坏性 rm、sudo dd/mkfs、curl|sh、git push --force、chmod 777、fork 炸弹等直接拒绝。即使模型服务宕机也照常工作L1 层通过/v1/systemone做模型决策noul approve? score risk 2–10阈值 noul 0.65、ask ≥4、deny ≥7。默认关闭PHOCINAE_GUARD_L1_ENABLED0因为出厂权重并未针对命令审批任务重新拟合需在你的域上校准后再启用fail-closed 语义服务不可达时一切不在白名单上的请求一律 deny可配置为 askPHOCINAE_GUARD_FAIL_CLOSEDask。退出码约定0allow ·1deny ·2ask阻塞、需人在 hook 层确认不变式是--confirm只能把ask升级为allow永远不能推翻deny审计轨迹为 JSONL 日志PHOCINAE_GUARD_AUDIToff可关。MCP 侧桥接phocinae-mcp把 gate/classify/route/score 暴露为工具同样是服务宕机即 fail-closed。11. 它到底能省多少钱τ0.6 的升级门E1 gate能在本地答完约一半决策保留子集准确率从0.906 → 0.99360.0876同时把不确定的 45.0% 升级出去LLM 调用减少 55.0%τ0.5 时可减少 79.6%。完整 τ 扫描出厂权重 部署温度列官方集 2,000 决策来自 docs/cost-savings.mdτ升级比例LLM 调用节省保留子集 acc0.403.2%96.8%0.91530.4510.0%90.1%0.93340.5020.4%79.6%0.95230.60默认45.0%官方集扫描55.0%0.99360.7065.0%35.0%0.99860.8077.0%23.0%1.0000.9086.1%13.9%1.000一个按出厂测试行重算的成本示例docs/cost-savings.md Worked example每月 10,000 个路由决策、τ0.6 时 45.0% 需升级 每月 4,500 次 LLM 调用升级提示平均 204 tokensstatequestionoptions用出厂 tokenizer 实测加约 50 输出 tokens按 Claude Sonnet 5 公开标价$2/M 输入、$10/M 输出估算约$4.1/月≈$50/年对照全部走 LLM 的基线约 $9.1/月≈$109/年即移除约 55% 的 LLM 开销与调用量降幅一致。注意这些是基于公开标价的估算取决于你的工作负载构成、实际 LLM 定价与真正例行决策的占比token 计数存在 ±30% 左右的 tokenizer 依赖误差换新域之前应重新扫描 τ不要默认 55.0% 与 0.0876 仍然成立。12. 主要局限是什么不用于聊天/生成、长文档推理、世界知识问答MMLU 式探测低于正常水平zh 是机器翻译 case 上的评测域内拟合见第 9 节长输入退化明显16k/32k 探测0.453 / 0.387——底座支持 8192 位置但决策头以 512 token 为默认训练/推理长度rl_agent_config.json 的max_lenJevBench 验收门未通过见第 8 节顺序稳健性好但不完美见第 6 节未做人口统计/公平性评测训练数据是英文业务运营文本typed-decisions其域与语言偏差会原样带出另有模型卡披露的已知弱点一小撮否定式表述如 do NOT cancel subscription可能被误读为肯定意图内部探测 1/6 偏弱安全关键审批应配合 L0 规则层/fail-closed 语义确定性限定同设备、同 batch shape 下逐位一致fp16/fp32 或不同 batching 可能有微小差异。完整列表见 MODEL_CARD.md。13. 从哪里下载镜像与中文社区资源Hugging FacePhocinae/Phocinae-Largha-150M-v1官方模型仓库本仓库即其镜像布局GitHubPhocinae/Phocinae-Largha-150M-v1代码仓库ModelScope魔搭PerryLink/Phocinae-Largha-150M-v1运行时组件位于 GitHub 组织Phocinae下phocinae-server · phocinae-guard · phocinae-mcp。中文资源FAQ 中文版 docs/faq.zh.md · 场景演示画廊中文版 docs/gallery/README_cn.md。14. 适用什么许可证权重Apache-2.0见 LICENSE底座编码器jhu-clsp/mmBERT-smallMIT见 NOTICENOTICE 同时列明训练数据LocalLLaMA/typed-decisions为 Apache-2.0server/guard 代码Apache-2.0。15. 如何引用与复现misc{phocinae-largha-150m-v1, title {Phocinae-Largha-150M-v1: a 150M-class decision model}, author {Phocinae}, year {2026}, note {https://huggingface.co/Phocinae/Phocinae-Largha-150M-v1} }复现步骤先校验权重完整性——sha256sum model.safetensors应得到b6472511eea30729985374f43968cf7f4b16bbe0827de6c6ca07cf92afbb778a该哈希同样收录在仓库根的 SHA256SUMS 中可整体核对然后按 docs/reproduce.md 中声明的协议、发布数值与证据路径逐项验证typed-decisions 400 case × 5 决策 2000 决策、flip 双重复测、JevBench public-231、E1 τ 扫描、校准列。评测 harness 已随主仓库发布。要点回顾Largha 的价值主张可以浓缩为三点——① 144.3M 参数、288.6 MB 权重的编码器决策模型一次前向、零输出 token、确定性可审计② GPU 21.0 msRTX 5090/ CPU 单线程 1.64 s per case 的本地延迟特征使本地预筛 升级在成本上成立τ0.6 门保留集 0.9936、LLM 调用 −55.0%③ 诚实的边界披露JevBench 未过门、zh 为域内评测、选项翻转约 1/46、长输入退化、且它只是第一道门而非安全预言机。所有数字以 BENCHMARKS.md 为准协议与证据路径以 docs/reproduce.md 为准。赞分享【免费下载链接】Phocinae-Largha-150M-v1项目地址https://ai.gitcode.com/hf_mirrors/Phocinae/Phocinae-Largha-150M-v1点击查看免费下载相关推荐Jellyfin Kodi 插件打造无缝的家庭媒体中心体验Jellyfin Kodi 插件打造无缝的家庭媒体中心体验 你是否曾经想过将强大的媒体服务器与灵活的家庭影院系统完美结合Jellyfin Kodi 插件正是Phocinae-Largha-150M-v1 决策模型实战指南144.3M 参数本地引擎、零输出 token 与 τ 升级路由省费Phocinae Largha 150M v1 决策模型实战指南144.3M 参数本地引擎、零输出 token 与 τ 升级路由省费 斑海豹PhocinaePhocinae-Largha-150M-v1 成本模型实战E1 Escalate 路由门τ0.6如何把 LLM 调用削减 55%Phocinae Largha 150M v1 成本模型实战E1 Escalate 路由门τ0.6如何把 LLM 调用削减 55% 本文以仓库中 doc上一篇终极PDF解析方案AnythingLLM如何让复杂文档「开口说话」下一篇Android高级安装终极指南Install with Options解锁APK安装自由创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
【免费下载链接】Phocinae-Largha-150M-v1项目地址https://ai.gitcode.com/hf_mirrors/Phocinae/Phocinae-Largha-150M-v1点击查看免费下载本文以 Phocinae-Largha-150M-v1斑海豹 Largha官方 FAQ 的 15 个核心问题为骨架逐条结合仓库内的模型配置、训练配方、校准实现与基准数据展开从一次前向推理即产出结构化决策的模型机制到 phocinae-server 的本地部署与硬件分档、延迟特征、选项翻转稳健性、温度与幂变换两级校准、JevBench 披露、中文表现、τ0.6 置信度升级门带来的 LLM 调用节省直至许可证与引用复现方式。读完本文你可以独立完成该模型的权重校验、服务启动与冒烟测试并理解其每一组公开数字背后的测量协议与适用前提。FAQ 中引用的所有数字均以 BENCHMARKS.md 为准 —— 该文件是发布数字的唯一事实来源source of truth。中文读者可参阅 docs/faq.zh.md完整模型信息见 MODEL_CARD.md。1. 这个模型到底是什么Largha 是一个基于编码器的决策模型decision model而不是聊天模型。一次前向推理即可把一段state状态描述加上若干带类型的提问转换为带置信度的校准答案三种题型为noul是/否判定布尔输出choice多选一输出 0 基选项索引score2–10 分打分整数输出。它没有文本生成、没有采样在固定 batch shape 下推理结果是确定性的。这意味着它可以作为 Agent 的本地决策层审批门、工具路由、升级分流、工单分诊而不是通用语言模型。从仓库源码结构看这一编码器 决策头的设计在配置文件中有完整落点config.jsonmodel_type为modernbert即 mmBERT-small 底座hidden_size384、num_hidden_layers22、num_attention_heads6、vocab_size256000、max_position_embeddings8192layer_types数组显示 22 层中每 3 层出现一次full_attention其余为sliding_attentionlocal_attention窗口 128即滑动窗口与全局注意力混合RoPEtheta为 160000classifier_pooling为mean均值池化。rl_agent_config.json决策头为 2 层 transformer headhead_layers: 2决策序列默认长度max_len: 512、head 注意力窗口head_max_len: 192推理精度amp_dtype: fp16model_name必须为Phocinae-Largha-150M-v1。checkpoint_meta.json1 个 epoch 训练平均损失 1.3689859。训练配方见 MODEL_CARD.md 的 Training 一节底座jhu-clsp/mmBERT-small上游预训练不变在LocalLLaMA/typed-decisions训练集加翻转增广选项重排上微调损失cebrier、优化器adafactor、lr_encoder2e-5 /lr_head1e-4、micro batch 8、梯度累积 4、共 300 步更新约 0.044 GPU 小时。评测行从未进入训练typed-decisions 的 test split 与 JevBench 均被留出。2. 如何在本地运行官方运行时是 phocinae-serverpure-torch 前向推理无需额外运行时依赖它是一个只监听 127.0.0.1 的本地 FastAPI 服务pip install phocinae-server PHOC_MODEL_DIR/path/to/Phocinae-Largha-150M-v1 python -m phocinae.main # http://127.0.0.1:8155从源码构建替代方式克隆 Phocinae 组织下的 phocinae-server 仓库后cd phocinae-server pip install .。启动后的目录布局必须满足PHOC_MODEL_DIR的期望即仓库根目录本身的结构model.safetensors、encoder/、tokenizer/、rl_agent_config.json。服务默认地址为http://127.0.0.1:8155交互文档在/docs。按 docs/deployment.md 的说法常用环境变量如下FAQ 之外补充便于实操变量默认值作用PHOC_MODEL_DIR必填指向本模型仓库目录PHOC_HOST/PHOC_PORT127.0.0.1 / 8155监听地址PHOC_DEVICEautoauto/cuda/cpu无 GPU 自动回退 CPU fp32PHOC_PERM_AVG01 choice 问题在 4 种选项顺序上取平均降低翻转代价是 4× 前向PHOC_BEARER_TOKEN空设置后/v1/*需要Authorization: Bearer tokenPHOC_THREADS—CPU 模式下的 torch 线程数PHOC_MAX_BODY2 MiB请求体上限超出返回 413PHOC_EXTENSIONS10 省略answer_confidence/action/routing扩展字段冒烟测试取自 docs/deployment.mdcurl -s http://127.0.0.1:8155/health curl -s http://127.0.0.1:8155/v1/systemone -H Content-Type: application/json \ -d {model:Phocinae-Largha-150M-v1,state:git status,questions:[{id:ok,type:noul,threshold:0.65}]}硬件分档、guard 与 MCP 集成详见 docs/deployment.md请求契约详见 docs/protocol.md。3. 服务端兼容 OpenAI 接口吗不兼容——这是有意设计。因为该模型不是聊天模型所以 API 不假装是聊天 API它只暴露一个决策端点族且默认仅绑定 127.0.0.1。按 docs/protocol.md端点清单为方法路径说明GET/服务信息GET/health存活 模型/设备信息无鉴权GET/v1/models模型目录名称、上下文、答案格式、扩展字段POST/v1/systemone单次决策请求POST/v1/systemone/permute同上但 choice 问题在 4 种选项顺序上取平均POST/v1/systemone/batch≤64 条决策请求的批处理请求侧关键约束违反即422model必须精确为Phocinae-Largha-150M-v1questions为 1–64 项id非空且请求内唯一type只能是noul/choice/scorechoice必须有options非空、≤255且score禁止携带optionsnoul的threshold必须在 [0,1]。响应中answers的取值形态为noul→bool、choice→0 基索引、score→2–10 整数另有温度校准后的answer_confidence、action、option_scores、routing扩展字段。错误码体系为 422参数类/ 413请求体超过 2 MiB/ 401配置了PHOC_BEARER_TOKEN但鉴权缺失或错误。确定性约定同一请求、同一设备、同一 batch shape 下答案逐位一致fp16 与 fp32 或不同 batch shape 之间可能有末位差异。4. 需要什么硬件FAQ 给出的三档配置数字与 docs/deployment.md 一致档位RAM / 存储 / GPU预期表现baseline体验一下4 GB RAM · 8 GB 存储 · 无需 GPU每 case 约 1.5–1.7 sCPU 单线程minimum效率优先8 GB RAM · 8 核 · ≥4 GB 显存3060 级 → 30–60 ms8 GB 显存 → 21.0 msRTX 5090 实测GPU 21.0–60 ms/决策8 CPU 线程下 8–20 decisions/srecommended日常主力16 GB · 512 GB NVMe · 8 GB GPU21.0 msRTX 5090–25 ms同时运行其他应用时补充说明同样来自 docs/deployment.md权重为 288.6 MBfp16 safetensors推理峰值约 1.6 GB 显存 / 1.8 GB 内存baseline 档模型加载约 4 秒。21.0 ms 是高端 GPU 的 fp16 p50 数字CPU 永远达不到它——纯 CPU 用户应按单线程约 1.64 s/case 做预算或使用 8 线程批处理8–20 decisions/s。5. 速度有多快——CPU 为什么约 1.5 秒GPU fp16 单决策21.0 msRTX 5090p50发布值端到端包含 tokenize forward 答案组装CPU 单线程1.64 s/case p501 case 1 个 state 5 个决策单次前向——端到端tokenize forward 答案组装在单条 fp32 线程上的测量。这是诚实的 CPU 数字而不是拿 GPU 数字冒充CPU 8 线程批处理8–20 decisions/sb1 → 19.7b32 → 8.4。从 BENCHMARKS.md 的延迟表看另有一项独立环境下的参考测量CPU 预热、20 线程、无 GPU 时约 51 ms/call约 17 ms/decision文档明确标注这是量级参考值不是榜单值。批处理越大吞吐越低b32 时降至 8.42000 行 mega-batch 为 6.8–8.5 decisions/s 且需要较大内存——这说明该模型的 CPU 侧最优用法是小批量、多线程预筛而非单条硬扛。6. flip 数字是什么意思协议打乱某个决策的选项顺序如果答案改变则记为一次 flip越低越好。CPU fp32、空闲机器、双重复测的主表协议细节见 docs/reproduce.md协议数值flip150 reversed300 项0.02006/300flip400 reversed600 项0.021713/600random reorder3 种子均值0.0144any-of-33 次重排任一触发0.0283直白解读大约每 46 次选项重排才有一次答案改变1/0.0217 ≈ 46。横向对比比 Laya 域内的 3.7% 好 1.5 个百分点注意这是百分点差距而非数量级差距明显优于 Jev 的约 9% 与 Laya 域外的 19.4%。GPU fp16 的 0.0200/0.0217 与 1k 行 4-perm 的 0.0181/0.0150/0.0331 是不同协议下的仅备注值不与主表混用。工程含义选项顺序稳健性很好但不完美重要决策可用POST /v1/systemone/permute或PHOC_PERM_AVG1在 4 种顺序上取平均来进一步压制翻转代价是 4× 前向开销。7. 模型是如何校准的校准分两层都在推理期生效、不改变权重第一层温度校准出厂默认。出厂列的ECE 为 0.2519en/ 0.1941zh。三个校准温度0.8660205 / 0.8081192 / 0.6624661存储于模型仓库配置 rl_agent_config.json 的temperature字段由 phocinae-server 在推理时直接应用——这也是 BENCHMARKS.md 中所有*.json指标所用的shipped column。第二层可选的幂变换校准列calib/opt-in默认不启用。仓库随发布附带了 calib/ 目录机制是逐决策的幂变换q ∝ p ** gamma 先逐元素取幂再按决策归一化推荐参数2026-10-08 拟合v1.1 权重上复测面原始 ECE出厂列推荐 γ校准后 ECEBrierraw → calibrateden0.25194.330.01680.0207 → 0.1218zh0.19412.510.01520.0333 → 0.0961从源码看calib/calibrate.py 的apply_gamma(probs, gamma)实现非常简洁对概率向量逐元素取gamma次幂后归一化gamma1时原样返回。由于幂变换是单调的argmax 结果与 noul 的 0.5 阈值判定都不变因此所有准确率严格不变——它只重塑置信度分布γ1 使概率更尖锐。代价是 Brier 上升更自信的列在错误时错得更重ECE 与 Brier 之间的取舍是显式的。拟合过程使用 25% 留出 caseseed 20261008 向全网格 ECE argmin 的收缩规则并满足 NLL 护栏校准后 NLL ≤ raw 0.01。用法示例calib/README.mdfrom calibrate import apply_gamma q_cal apply_gamma({a: 0.61, b: 0.39}, gamma4.33)8. 为什么没有通过 JevBench 验收门没有通过——并且公开这一事实0.5455126/231低于 58.4% 的验收门。数字按实测发布从未在评测行上训练过也不据此做任何榜单声明。分档细节BENCHMARKS.md §4tier easy 0.916744/48、tier original 0.500036/72、tier hard 0.414446/111——困难题是主要失分点工具选择子集tool_selectionk≤10为12/12。这一披露的意义在于给出能力边界对困难、开放式的判断任务该模型不是合格答案而应配合升级机制使用见第 10、11 节。9. 中文真的可用吗英文测试集上测得0.906机器翻译的 typed-decisions 中文 case 上测得0.848。同一 typed 协议下的参照点Laya 0.766自测、原生接口· JEV 0.727 · meraGPT 0.768en 测试。必须诚实说明的 caveatzh 评测行是英文测试用例的机器翻译而训练混合中本身就包含机器翻译中文约 2,400 行加原生中文约 1,400 行。因此 zh 数字应视为域内in-mix已拟合评测而不是零样本跨语言迁移——中文能力是训练里见过的结果不能外推为任意中文任务的零样本表现。10. 能把它当安全/安全门用吗不能作为唯一的门。Largha 是第一道决策辅助应配合升级机制使用E1 τ0.6 门会把它不确定的 45.0% 分流到外部 LLM 或人再叠加一层确定性的 L0 规则层如 phocinae-guard——永远不要让它独自承担破坏性或安全关键动作的控制。从 docs/deployment.md 的 guard 设计看这套门是分层的L0 层确定性白/黑名单表l0_table.json纯离线——只读命令放行危险模式破坏性 rm、sudo dd/mkfs、curl|sh、git push --force、chmod 777、fork 炸弹等直接拒绝。即使模型服务宕机也照常工作L1 层通过/v1/systemone做模型决策noul approve? score risk 2–10阈值 noul 0.65、ask ≥4、deny ≥7。默认关闭PHOCINAE_GUARD_L1_ENABLED0因为出厂权重并未针对命令审批任务重新拟合需在你的域上校准后再启用fail-closed 语义服务不可达时一切不在白名单上的请求一律 deny可配置为 askPHOCINAE_GUARD_FAIL_CLOSEDask。退出码约定0allow ·1deny ·2ask阻塞、需人在 hook 层确认不变式是--confirm只能把ask升级为allow永远不能推翻deny审计轨迹为 JSONL 日志PHOCINAE_GUARD_AUDIToff可关。MCP 侧桥接phocinae-mcp把 gate/classify/route/score 暴露为工具同样是服务宕机即 fail-closed。11. 它到底能省多少钱τ0.6 的升级门E1 gate能在本地答完约一半决策保留子集准确率从0.906 → 0.99360.0876同时把不确定的 45.0% 升级出去LLM 调用减少 55.0%τ0.5 时可减少 79.6%。完整 τ 扫描出厂权重 部署温度列官方集 2,000 决策来自 docs/cost-savings.mdτ升级比例LLM 调用节省保留子集 acc0.403.2%96.8%0.91530.4510.0%90.1%0.93340.5020.4%79.6%0.95230.60默认45.0%官方集扫描55.0%0.99360.7065.0%35.0%0.99860.8077.0%23.0%1.0000.9086.1%13.9%1.000一个按出厂测试行重算的成本示例docs/cost-savings.md Worked example每月 10,000 个路由决策、τ0.6 时 45.0% 需升级 每月 4,500 次 LLM 调用升级提示平均 204 tokensstatequestionoptions用出厂 tokenizer 实测加约 50 输出 tokens按 Claude Sonnet 5 公开标价$2/M 输入、$10/M 输出估算约$4.1/月≈$50/年对照全部走 LLM 的基线约 $9.1/月≈$109/年即移除约 55% 的 LLM 开销与调用量降幅一致。注意这些是基于公开标价的估算取决于你的工作负载构成、实际 LLM 定价与真正例行决策的占比token 计数存在 ±30% 左右的 tokenizer 依赖误差换新域之前应重新扫描 τ不要默认 55.0% 与 0.0876 仍然成立。12. 主要局限是什么不用于聊天/生成、长文档推理、世界知识问答MMLU 式探测低于正常水平zh 是机器翻译 case 上的评测域内拟合见第 9 节长输入退化明显16k/32k 探测0.453 / 0.387——底座支持 8192 位置但决策头以 512 token 为默认训练/推理长度rl_agent_config.json 的max_lenJevBench 验收门未通过见第 8 节顺序稳健性好但不完美见第 6 节未做人口统计/公平性评测训练数据是英文业务运营文本typed-decisions其域与语言偏差会原样带出另有模型卡披露的已知弱点一小撮否定式表述如 do NOT cancel subscription可能被误读为肯定意图内部探测 1/6 偏弱安全关键审批应配合 L0 规则层/fail-closed 语义确定性限定同设备、同 batch shape 下逐位一致fp16/fp32 或不同 batching 可能有微小差异。完整列表见 MODEL_CARD.md。13. 从哪里下载镜像与中文社区资源Hugging FacePhocinae/Phocinae-Largha-150M-v1官方模型仓库本仓库即其镜像布局GitHubPhocinae/Phocinae-Largha-150M-v1代码仓库ModelScope魔搭PerryLink/Phocinae-Largha-150M-v1运行时组件位于 GitHub 组织Phocinae下phocinae-server · phocinae-guard · phocinae-mcp。中文资源FAQ 中文版 docs/faq.zh.md · 场景演示画廊中文版 docs/gallery/README_cn.md。14. 适用什么许可证权重Apache-2.0见 LICENSE底座编码器jhu-clsp/mmBERT-smallMIT见 NOTICENOTICE 同时列明训练数据LocalLLaMA/typed-decisions为 Apache-2.0server/guard 代码Apache-2.0。15. 如何引用与复现misc{phocinae-largha-150m-v1, title {Phocinae-Largha-150M-v1: a 150M-class decision model}, author {Phocinae}, year {2026}, note {https://huggingface.co/Phocinae/Phocinae-Largha-150M-v1} }复现步骤先校验权重完整性——sha256sum model.safetensors应得到b6472511eea30729985374f43968cf7f4b16bbe0827de6c6ca07cf92afbb778a该哈希同样收录在仓库根的 SHA256SUMS 中可整体核对然后按 docs/reproduce.md 中声明的协议、发布数值与证据路径逐项验证typed-decisions 400 case × 5 决策 2000 决策、flip 双重复测、JevBench public-231、E1 τ 扫描、校准列。评测 harness 已随主仓库发布。要点回顾Largha 的价值主张可以浓缩为三点——① 144.3M 参数、288.6 MB 权重的编码器决策模型一次前向、零输出 token、确定性可审计② GPU 21.0 msRTX 5090/ CPU 单线程 1.64 s per case 的本地延迟特征使本地预筛 升级在成本上成立τ0.6 门保留集 0.9936、LLM 调用 −55.0%③ 诚实的边界披露JevBench 未过门、zh 为域内评测、选项翻转约 1/46、长输入退化、且它只是第一道门而非安全预言机。所有数字以 BENCHMARKS.md 为准协议与证据路径以 docs/reproduce.md 为准。赞分享【免费下载链接】Phocinae-Largha-150M-v1项目地址https://ai.gitcode.com/hf_mirrors/Phocinae/Phocinae-Largha-150M-v1点击查看免费下载相关推荐Jellyfin Kodi 插件打造无缝的家庭媒体中心体验Jellyfin Kodi 插件打造无缝的家庭媒体中心体验 你是否曾经想过将强大的媒体服务器与灵活的家庭影院系统完美结合Jellyfin Kodi 插件正是Phocinae-Largha-150M-v1 决策模型实战指南144.3M 参数本地引擎、零输出 token 与 τ 升级路由省费Phocinae Largha 150M v1 决策模型实战指南144.3M 参数本地引擎、零输出 token 与 τ 升级路由省费 斑海豹PhocinaePhocinae-Largha-150M-v1 成本模型实战E1 Escalate 路由门τ0.6如何把 LLM 调用削减 55%Phocinae Largha 150M v1 成本模型实战E1 Escalate 路由门τ0.6如何把 LLM 调用削减 55% 本文以仓库中 doc上一篇终极PDF解析方案AnythingLLM如何让复杂文档「开口说话」下一篇Android高级安装终极指南Install with Options解锁APK安装自由创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
