协议与 AI
AI 与 LLM 开发工具
调用 LLM API 总要调试卡在代码和模型之间的格式:一份被 OpenAI 或 Gemini 拒收的结构化输出 Schema、一段要按 server-sent events 解析的流式响应、一份因一行格式错误就整体读不了的 JSONL 文件,或者一个撞到上下文上限前得先算清楚的 Token 数量。这些工具直接处理这些格式,不需要真的发一次 API 请求。
结构化输出 Schema 检查在发送前按 OpenAI 和 Gemini 约束校验,SSE 事件流解析分辨哪些块真正会派发。JSONL 查看器定位哪一行导致解析失败。RAG 部分,文本分块工具按字符数、Token 估算或标题切分,Token 计数器用 o200k_base 或 cl100k_base 计数,向量相似度计算器按余弦、点积比较向量。
7 个工具
AI / LLM 开发工具常见问题
OpenAI 或 Gemini 为什么会拒绝我的结构化输出 Schema?
两家都只支持 JSON Schema 的一个子集,约束条件也不完全一样,同一份 Schema 在一边合法,换到另一边可能就因为某个不支持的关键字或嵌套层级被拒绝。结构化输出 Schema 检查会在你发出请求之前按两家的约束条件分别校验。
一条提示词在发给 LLM 之前会用掉多少 Token?
Token 数量取决于分词器,o200k_base 和 cl100k_base 切分文本的方式不一样,同一段提示词换个模型系列可能算出不同的 Token 数。Token 计数器可以用两种分词器分别计数,还能看清每个 Token 具体在哪里切分。
给 RAG 切分文本,多大的块比较合适?
这个没有统一答案,取决于你用的嵌入模型的上下文窗口,以及每个检索出来的片段需要多少上下文才够用。文本分块工具支持按字符数、Token 估算或 Markdown 标题切分文本,方便直接对比几种策略的效果。