OpenAI兼容LLM接入通用模式

三个独立项目（逆向 App 内嵌 AI、加密研报流水线、公众号写作流水线）收敛出的同一套接入模式。凡是”接一个大模型”的场景，按这页 checklist 写可以避开绝大多数坑。

协议与配置

统一走 OpenAI 兼容 /chat/completions：DeepSeek、智谱、微信 chatapi、OpenAI 全部兼容，换厂商只改三个环境变量（base_url / api_key / model），base_url 只填到 /v1，不带 /chat/completions 后缀（程序自动拼）。
BYOK（用户自带 key）：端点/模型可给默认值，key 绝不硬编码、不入代码库——公开仓库里 dex/源码就是泄露面。key 只从环境变量/Secrets 读。

模型输出不可信为纯 JSON：

流式输出别要求 JSON：让模型直接输出可读的分节文本（边流边看），完成后再用正则抽结构——比”流 JSON 再解析”体验好得多。

function calling 四步（#257）：请求带 functions 定义 → 模型返回 function_call（含参数）→ 本地执行函数 → 把结果以 role:"function" 回传再调。这是 Agent 工具调用的协议基础（CUA图形界面自动化实战与 RPA浏览器自动化实操方法的 LLM 驱动层都走这套）；
各厂差异：文心一言（#310）用千帆 client_credentials 换 access_token（30 天有效）再调接口；Gemini（#329）可经 palm-proxy + GeminiProChat 双 Vercel 白嫖；g4f 提供 OpenAI 兼容层接免费模型但不稳（#264）；temperature 与 top_p 二选一即可；汉字 ≈ 2 token 估费。
Kimi 免费档限速（#594）：RPM 3 / TPM 3.2 万 / TPD 150 万——白嫖 API 要按这个预算做并发与重试设计。

CLIProxyAPI：统一中转订阅账号+第三方 API，request-retry:3（403/408/5xx）、round-robin/fill-first 路由、配额耗尽自动切项目；⚠/v1internal 对 127.0.0.1 免认证，nginx 反代必须 location /v1internal { return 403; } 封禁；
9Router 三层降级：订阅→廉价 API→免费渠道，耗尽自动切换对客户端透明；内置 Rust token 压缩再省 20-40%；
headroom（1.3 万星）CCR 模式：Compress-Cache-Retrieve——压缩不删原始数据，LLM 可调 headroom_retrieve 取回（“延迟信息而非损失信息”）；代码搜索 17765→1408 token（92%）；CacheAligner 优化 KV 缓存前缀（时间戳/随机 ID 会打不上缓存）；
Gemini 免费档：约 1500 请求/天、15 RPM、1M 上下文、唯一免绑卡大厂；⚠隐私条款：免费档提示词可能被人工查看、保留最长 3 年——适合个人学习不适合公司项目。