把免费 LLM API 用到极致awesome-free-llm-apis 高级技巧清单模型回退、路由与批量调用【免费下载链接】awesome-free-llm-apisList of Permanent Free LLM API (API Keys)项目地址: https://gitcode.com/gh_mirrors/aw/awesome-free-llm-apisawesome-free-llm-apis 是一份永久免费、无需信用卡的免费 LLM API 清单收录了 19 家大模型推理服务商的免费额度RPM/RPD/TPD 限额一目了然。本文面向新手讲透模型回退、模型路由、批量调用三大高级技巧教你把每一分免费 LLM API 额度都用到极致。先看懂免费 LLM API 资源表项目把所有服务商分为两类全部收录在 README.md 中并同步到机器可读的 data.jsonProvider APIs原厂 API由训练模型的公司直接运营如 Google Gemini、Mistral AI、Cohere、Zhipu AI 等见 free-llm-apis/references/provider-apis.md。Inference Providers第三方推理平台托管开源权重的开放模型如 Groq、Cerebras、Cloudflare Workers AI、OpenRouter 等见 free-llm-apis/references/inference-providers.md。 除特别注明外所有端点都兼容 OpenAI SDK——这意味着你只换base_url和api_key代码一行不用改。几个新手必须记住的限额术语README 末尾有完整词表缩写含义RPM每分钟请求数Requests Per MinuteRPD每天请求数Requests Per DayTPM / TPD每分钟 / 每天 Token 数快速上手克隆仓库并测通第一把免费 API Key只需三步即可跑通git clone https://gitcode.com/gh_mirrors/aw/awesome-free-llm-apis挑服务商按你的优先级选择速查表见下文路由章节。领 KeyREADME 中每家服务商的链接都直达其API Key 申请页照 free-llm-apis/SKILL.md 的工作流走即可。验证连通SKILL.md 内置了一个快速测试模板——用 OpenAI SDK 指向对应base_url发一句Say hello in one sentence.能收到回复就说明 Key 可用。⚠️ 安全提示SKILL.md 原文强调不要把 API Key 硬编码进代码请使用环境变量或密钥管理器。高级技巧一模型回退 —— 429 与超量时自动重试单个免费服务商随时可能触发 429限流或每日额度耗尽。**模型回退Fallback**就是把请求按优先级串成一条接力链一家挂了自动切下一家Groq llama-3.3-70b-versatile → Cerebras gpt-oss-120b → OpenRouter openrouter/free 首选最快 第二备选超高并发 兜底免费模型自动轮换实践建议回退顺序按额度剩余排每天额度少的如 Cerebras 8K 上下文上限优先用额度大的如 Mistral AI 每月约 1B tokens放后面兜底。平台原生能力优先OpenRouter 的免费模型支持按优先级链式回退并内置openrouter/free免费路由器Kilo Code 的kilo-auto/free会自动按 80%/20% 比例把流量分给 minimax-m2.5:free 和 step-3.5-flash:free——零代码即得回退能力详见 data.json 脚注 4、5。退避重试遇到 429/5xx 先等待再重试2s → 8s → 30s这正是项目校验脚本 scripts/verify-providers.js 使用的重试策略。高级技巧二路由 —— 把合适的任务分给合适的服务商路由不是玄学而是按任务特征匹配服务商限额。SKILL.md 里有一张优先级对照表浓缩如下你最看重首选免费 LLM API理由最高并发RPMGroq / Cerebras均为 30 RPM模型数量最多Cloudflare Workers AI50、OpenRouter免费模型阵容最豪华最强闭源模型Google Gemini、GitHub ModelsGemini 3.5 Flash、GPT-4o最快推理速度Groq / CerebrasCerebras 可达约 2,600 tok/s最大 Token 预算Mistral AI约 1B tokens/月、500K TPM免注册零门槛LLM7.io基础层、OVHcloud前者无需 Token 即可用后者匿名 2 RPM 免 Key路由的三条经验法则短任务走高速道一句话摘要、分类打标签 → Groq/Cerebras30 RPM 随便烧。长文档走大额度超长上下文1M 上下文的 Gemini Flash、OpenRouter 上的 1M 模型留给 Mistral 或 OpenRouter 的免费模型。敏感任务避坑Gemini、Mistral 的部分免费额度可能将 Prompt 用于训练涉密内容优先选标注清晰的渠道。高级技巧三批量调用 —— 拼额度把吞吐量拉满批量处理数据清洗、批量打标、文档切片总结时单家服务商的日额度远远不够正确姿势是多 Provider 拼车横向扩容Groq 1,000 RPD Cerebras 14,400 RPD Mistral 500K TPM组合后日吞吐量轻松破万请求全程 0 元。错峰消耗RPD 类额度按天重置把大任务切成每日小批避免单日撞墙。并发守底线Z AI 免费模型限 1 并发、OVHcloud 匿名限 2 RPM——批量循环里记得加节流否则会批量 429。额度即配置把各家的rateLimit字段data.json 中每个模型都有做成调度配置按限额分配并发比拍脑袋高效得多。 小算账假设要处理 1 万条短文本走 Groq1,000 RPD单家需 10 天Groq Cerebras Mistral 三家并行1 天即可清零。让免费 LLM API 清单保持最新data.json 是唯一数据源含lastUpdated时间戳scripts/generate-readme.js 可据此重新生成 README 表格。scripts/verify-providers.js 是每日校验工具遍历 data.json 里每个模型真实发起请求把错误分类为 AUTH / RATE_LIMIT / BILLING / NOT_FOUND并输出 PASS/FAIL 报告——想确认某个模型还活着跑它最稳。发现缺失的免费层按 contributing.md 的规范提 PR只收永久免费层不收试用积分与限时促销且必须有真实 REST API。常见坑与安全清单 ✅地区限制Google Gemini 免费层在欧盟/英国/瑞士不可用。上下文陷阱Cerebras 免费层上下文被压到 8K长文档前先截断。协议差异Ollama Cloud 不兼容 OpenAI SDK走 Ollama API集成时要单独处理。商用红线Cohere 免费 Key 仅限非商业用途SambaNova 的 $5 是 30 天试用金别和永久免费层混淆。密钥安全全部 Key 走环境变量绝不进代码仓库。一句话总结把 README.md 当额度地图用路由选对服务商用回退吃掉 429用批量拼额度把免费 LLM API 的吞吐量拉满——0 成本也能跑起可靠的大模型服务 【免费下载链接】awesome-free-llm-apisList of Permanent Free LLM API (API Keys)项目地址: https://gitcode.com/gh_mirrors/aw/awesome-free-llm-apis创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
把免费 LLM API 用到极致awesome-free-llm-apis 高级技巧清单模型回退、路由与批量调用【免费下载链接】awesome-free-llm-apisList of Permanent Free LLM API (API Keys)项目地址: https://gitcode.com/gh_mirrors/aw/awesome-free-llm-apisawesome-free-llm-apis 是一份永久免费、无需信用卡的免费 LLM API 清单收录了 19 家大模型推理服务商的免费额度RPM/RPD/TPD 限额一目了然。本文面向新手讲透模型回退、模型路由、批量调用三大高级技巧教你把每一分免费 LLM API 额度都用到极致。先看懂免费 LLM API 资源表项目把所有服务商分为两类全部收录在 README.md 中并同步到机器可读的 data.jsonProvider APIs原厂 API由训练模型的公司直接运营如 Google Gemini、Mistral AI、Cohere、Zhipu AI 等见 free-llm-apis/references/provider-apis.md。Inference Providers第三方推理平台托管开源权重的开放模型如 Groq、Cerebras、Cloudflare Workers AI、OpenRouter 等见 free-llm-apis/references/inference-providers.md。 除特别注明外所有端点都兼容 OpenAI SDK——这意味着你只换base_url和api_key代码一行不用改。几个新手必须记住的限额术语README 末尾有完整词表缩写含义RPM每分钟请求数Requests Per MinuteRPD每天请求数Requests Per DayTPM / TPD每分钟 / 每天 Token 数快速上手克隆仓库并测通第一把免费 API Key只需三步即可跑通git clone https://gitcode.com/gh_mirrors/aw/awesome-free-llm-apis挑服务商按你的优先级选择速查表见下文路由章节。领 KeyREADME 中每家服务商的链接都直达其API Key 申请页照 free-llm-apis/SKILL.md 的工作流走即可。验证连通SKILL.md 内置了一个快速测试模板——用 OpenAI SDK 指向对应base_url发一句Say hello in one sentence.能收到回复就说明 Key 可用。⚠️ 安全提示SKILL.md 原文强调不要把 API Key 硬编码进代码请使用环境变量或密钥管理器。高级技巧一模型回退 —— 429 与超量时自动重试单个免费服务商随时可能触发 429限流或每日额度耗尽。**模型回退Fallback**就是把请求按优先级串成一条接力链一家挂了自动切下一家Groq llama-3.3-70b-versatile → Cerebras gpt-oss-120b → OpenRouter openrouter/free 首选最快 第二备选超高并发 兜底免费模型自动轮换实践建议回退顺序按额度剩余排每天额度少的如 Cerebras 8K 上下文上限优先用额度大的如 Mistral AI 每月约 1B tokens放后面兜底。平台原生能力优先OpenRouter 的免费模型支持按优先级链式回退并内置openrouter/free免费路由器Kilo Code 的kilo-auto/free会自动按 80%/20% 比例把流量分给 minimax-m2.5:free 和 step-3.5-flash:free——零代码即得回退能力详见 data.json 脚注 4、5。退避重试遇到 429/5xx 先等待再重试2s → 8s → 30s这正是项目校验脚本 scripts/verify-providers.js 使用的重试策略。高级技巧二路由 —— 把合适的任务分给合适的服务商路由不是玄学而是按任务特征匹配服务商限额。SKILL.md 里有一张优先级对照表浓缩如下你最看重首选免费 LLM API理由最高并发RPMGroq / Cerebras均为 30 RPM模型数量最多Cloudflare Workers AI50、OpenRouter免费模型阵容最豪华最强闭源模型Google Gemini、GitHub ModelsGemini 3.5 Flash、GPT-4o最快推理速度Groq / CerebrasCerebras 可达约 2,600 tok/s最大 Token 预算Mistral AI约 1B tokens/月、500K TPM免注册零门槛LLM7.io基础层、OVHcloud前者无需 Token 即可用后者匿名 2 RPM 免 Key路由的三条经验法则短任务走高速道一句话摘要、分类打标签 → Groq/Cerebras30 RPM 随便烧。长文档走大额度超长上下文1M 上下文的 Gemini Flash、OpenRouter 上的 1M 模型留给 Mistral 或 OpenRouter 的免费模型。敏感任务避坑Gemini、Mistral 的部分免费额度可能将 Prompt 用于训练涉密内容优先选标注清晰的渠道。高级技巧三批量调用 —— 拼额度把吞吐量拉满批量处理数据清洗、批量打标、文档切片总结时单家服务商的日额度远远不够正确姿势是多 Provider 拼车横向扩容Groq 1,000 RPD Cerebras 14,400 RPD Mistral 500K TPM组合后日吞吐量轻松破万请求全程 0 元。错峰消耗RPD 类额度按天重置把大任务切成每日小批避免单日撞墙。并发守底线Z AI 免费模型限 1 并发、OVHcloud 匿名限 2 RPM——批量循环里记得加节流否则会批量 429。额度即配置把各家的rateLimit字段data.json 中每个模型都有做成调度配置按限额分配并发比拍脑袋高效得多。 小算账假设要处理 1 万条短文本走 Groq1,000 RPD单家需 10 天Groq Cerebras Mistral 三家并行1 天即可清零。让免费 LLM API 清单保持最新data.json 是唯一数据源含lastUpdated时间戳scripts/generate-readme.js 可据此重新生成 README 表格。scripts/verify-providers.js 是每日校验工具遍历 data.json 里每个模型真实发起请求把错误分类为 AUTH / RATE_LIMIT / BILLING / NOT_FOUND并输出 PASS/FAIL 报告——想确认某个模型还活着跑它最稳。发现缺失的免费层按 contributing.md 的规范提 PR只收永久免费层不收试用积分与限时促销且必须有真实 REST API。常见坑与安全清单 ✅地区限制Google Gemini 免费层在欧盟/英国/瑞士不可用。上下文陷阱Cerebras 免费层上下文被压到 8K长文档前先截断。协议差异Ollama Cloud 不兼容 OpenAI SDK走 Ollama API集成时要单独处理。商用红线Cohere 免费 Key 仅限非商业用途SambaNova 的 $5 是 30 天试用金别和永久免费层混淆。密钥安全全部 Key 走环境变量绝不进代码仓库。一句话总结把 README.md 当额度地图用路由选对服务商用回退吃掉 429用批量拼额度把免费 LLM API 的吞吐量拉满——0 成本也能跑起可靠的大模型服务 【免费下载链接】awesome-free-llm-apisList of Permanent Free LLM API (API Keys)项目地址: https://gitcode.com/gh_mirrors/aw/awesome-free-llm-apis创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
平方复杂度无法被常规优化消除｜TaoToken 统一 Key 通道实测)
