JevTypeSafe AI System One Model详解文档简介介绍TypeSafe AI新发布的Jev模型包含背景、核心特点、原理、对比、局限、使用示例适合AI Agent研发参考。一、基本介绍Jev 是TypeSafe AI在2026年9月15日发布的「System One系统一决策模型」由前OpenAI研究员、RLHF/InstructGPT核心作者 Diogo Almeida 主导开发。核心口号Decisions, not strings要决策不要文本。名字来源Jev取自经济学家杰文斯Jevons杰文斯悖论。团队目标是把AI原子决策压到极低成本让AI Agent可以海量调用判断。一句话理解Jev传统LLM逐字生成文本Jev不生成任何文字一次性并行输出结构化、带置信概率的判断结果。它不替代GPT/Claude做长文本推理、写代码、聊天专门给AI Agent、业务后台做高频微小选择题。对应《思考快与慢》概念Jev系统一快思考直觉判断GPT/Claude这类LLM系统二慢思考深度推理Agent架构分工大模型负责规划Jev负责成千上万次快速判断。二、支持任务类型同一个API请求可以并行执行多个独立问题增加问题数量延迟几乎不变。NoulYes/No布尔判断返回0~1概率。示例这条消息是否包含客户投诉0.92Choice多选最多支持255个候选选项输出每个选项概率选出最优。示例邮件分到财务/售后/销售。Score打分210级刻度打分。示例工单紧急程度15分。三、核心特点1. 速度极快、成本极低官方基准对比前沿LLM最快提速193.6倍成本降低444.6倍端到端延迟70ms ~ 500ms定价输入 $0.042 /百万token输出免费结构化输出成本极低不计费2. 输出天然结构化可直接被代码使用传统LLM链路输入 → 生成文本字符串 → 代码解析JSON → 校验容易解析失败、幻觉乱输出Jev链路输入状态问题定义 → 直接返回强类型结构化数据校准后的概率无需文本解析。3. 校准置信概率核心亮点普通大模型输出的自信度不可靠经常“一本正经胡说八道”。Jev训练目标就是概率校准模型输出90%置信真实正确率接近90%方便业务做阈值控制、风险拦截。4. 幻觉形式完全不同并非零幻觉传统LLM幻觉编造文字、虚构事实。Jev幻觉只会在预定义选项里选错不会编造不存在的内容。局限性不能处理不在预设选项里的新知识、开放问题。5. 适用场景AI Agent判断下一步动作、任务是否完成、工具路由内容审核过滤引战、垃圾信息客服工单自动分类、风险评分自动化浏览器/游戏智能体Minecraft、模拟器机器人四、Jev 和传统LLM根本差异对比项普通大语言模型GPT/ClaudeJev System One生成方式自回归Autoregressive逐token串行生成文本非自回归并行采样一次前向计算输出全部决策训练算法RLHF人类偏好强化学习RLCDCalibrated Decisions 校准决策强化学习输出自由文本需要解析固定类型bool/选项/分数 置信概率延迟几秒~几百秒70–500ms目标生成流畅自然语言输出可靠、校准的概率判断幻觉形式编造事实、虚构内容在候选选项中选错五、底层原理细节1. 架构抛弃自回归Autoregression传统LLM输出第1个token → 放回上下文 → 预测第2个token串行生成文本越长越慢。Jev不做token接龙。给定输入文本state和一组预先声明的判断问题模型一次前向推理并行算出所有问题各个候选结果的概率分布一次性返回全部决策。这就是多个问题一起请求延迟几乎不变的根本原因。2. 训练核心RLCDReinforcement Learning for Calibrated Decisions校准决策强化学习Diogo团队对当年RLHF的反思RLHF目标是让回答“看起来符合人类喜好”鼓励模型生成通顺文字容易不懂装懂RLCD目标不是“说漂亮话”而是让概率可信模型预测的置信度要匹配真实世界正确率。训练惩罚逻辑真实答案Yes模型输出Yes概率0.95 → 高奖励真实答案No模型输出Yes概率0.95 → 严厉惩罚优化优先级概率校准 表面正确率。宁愿低置信不要盲目自信。3. 并行采样器parallel sampler普通采样串行逐个token采样Jev内置专门并行采样器同时对多个独立决策目标采样一次性算出全部选项的概率分布没有逐字解码开销。4. 输入范式State Typed Questions调用Jev时必须显式定义State输入原始信息邮件、网页文本、Agent当前环境状态一组带类型的问题每个问题提前写好候选选项/打分区间模型不会猜测你的意图所有可能答案必须预先定义在请求里。六、局限不适合开放生成任务不能写文章、写代码、开放式问答。仅支持预设选项的判断。不是万能裁判简单分类任务准确率和廉价小模型接近强推理任务能力远弱于GPT4/Claude优势不在准确率而在极低延迟极低成本可信置信度。强依赖预定义选项如果真实情况不在候选列表只能强行从给定选项中选择容易出错。当前API暂不对中国大陆开放。七、爆火原因AI Agent开发最大痛点Agent循环内要执行成千上万次微小判断每次调用GPT会贵、慢、上下文膨胀。Jev提供分层架构方案大模型做顶层规划慢思考Jev负责循环里海量原子判断快思考让Agent自动化工作流成本下降几百倍延迟大幅缩短Vercel、LangChain、Cloudflare上线首日大量开发者接入测试。八、调用示例JSON伪代码{state:用户我的订阅被扣了两次钱,questions:[{type:choice,options:[财务工单,售后工单,产品反馈]},{type:score,range:[1,5],prompt:工单紧急程度},{type:noul,prompt:是否存在退款风险}]}Jev一次性返回三组结果各自概率程序直接分支不需要解析文本。
