先说结论
如果你的产品里有一类决策,答案永远只能从几个有限的选项里挑一个——紧急还是不紧急、走哪个队列、放行还是拦截——那 Jev 值得你现在就看一眼。反过来,如果答案需要模型「想出来」,比如写一段回复、规划一个方案,那它跟你没关系。
一句话概括:Jev 是一个不做文本生成的判断引擎。你给它一份状态数据和一组问题,它还你一个选项、一个概率分布和一个置信度,全程没有一句话是它「写」出来的。
这个思路来自 TypeSafe AI 在 2026 年 9 月中旬的发布。团队借了卡尼曼「系统一/系统二」的概念:大语言模型是慢而贵的系统二,负责推理和生成;Jev 想做的是快而便宜的系统一,只负责「看一眼就下判断」。
机制拆解:它到底在做什么
接口设计刻意压到了极限,只有两个概念:state 和 questions。state 是上下文,可以是一段嵌套的 JSON;questions 是你这一轮要它判断的问题列表。
问题分三种。Noul 是是非判断,返回一个「为真的概率」,比如 0.95。Choice 是多选一,返回选中的选项、每个选项的概率和整体置信度——比如 billing 以 0.8 胜出。Score 是量表打分,返回分数、分布和置信度,比如 1.04 分配 0.94 的置信度。
关键在执行方式:同一份 state 上的所有问题是并行评估的。给一张工单同时问紧急度、归属部门、用户情绪,耗时几乎等于问一个问题。这意味着「全量覆盖」第一次变得现实——你不用抽样,每一单都判。
还有一条容易被忽略的工程承诺:输出永远是合法类型。不会出现该返回枚举时吐出一句话,该返回数字时夹带解释。官方给这个性质起了个营销味很浓的名字——「零幻觉」,这个词的正确用法后面单独拆。
和 LLM、Flash 模型、传统分类器的边界
传统 LLM 是通才:什么都能想,什么都贵。Flash 级模型是它的降配版,延迟和成本降了一个量级,但本质还是生成式,输出还是要你解析、容错。传统分类器(逻辑回归、BERT 微调)便宜且类型安全,但每个分类器只认一个任务,换一个标签集就要重新标注、重新训练、重新部署。
Jev 卡在这三者中间的空档:它有分类器的类型确定性和成本结构,又有接近 LLM 的灵活性——判断标准写在问题文本里,改需求就是改一行 criteria,不用重训。代价是它完全放弃生成能力,也放弃开放推理。
一条选型口诀可以把边界划清:答案能从有限选项里枚举出来的,交给 Jev;答案必须「想出来」的,交给 LLM。大多数产品里这两类决策是并存的,正确的做法是让 LLM 少干活,而不是二选一。
「零幻觉」的正确理解
厂商说的零幻觉,只指一件事:不会出现格式错乱。类型错误率是零,输出永远是你要的那个类型——布尔、枚举、分数。这一点对下游系统是真实的工程价值,省掉一整层防御性解析。
但它不等于「判断永远正确」。紧急度可能判错,风险评分可能偏高,只是错的方式是「概率数字不对」而不是「胡说八道」。把零幻觉理解成零错误,是这条产品线上最常见也最贵的误读。
正确的用法是把置信度当一等公民:每个答案自带概率分布和整体置信度,你可以设阈值——高置信的自动执行,低置信的转人工。判断会错,但错的判断会被拦在阈值后面,这才是不幻觉的完整含义。
一个选型决策框架:「枚举-守门-体量」三问
拿到任何一个「要不要上 Jev」的争论,按三个问题过一遍,都答「是」才用。
第一问:枚举——答案是否天然是有限选项?是或否、四选一、0 到 5 的量表。如果答案是开放文本,直接出局。
第二问:守门——这个决策是否需要可拦截?也就是说,你能不能用置信度阈值把「拿不准的」交给人,而不是硬着头皮自动执行?能,才有自动化的安全边界。
第三问:体量——这个判断是不是高频重复到在成本或延迟上已经疼了?官方基准给了一组参照:单次决策约 0.000081 美元、0.114 秒,对比用 LLM 做同样的事约 0.014 美元、8.6 秒。价格差是两个数量级,但如果你一天只判一百单,两个数量级也省不出一顿饭钱。
三问之外补一条灰区规则:如果你的判断标准还说不清楚,先用 LLM 把标准跑出来,再固化成 Jev 的问题。它放大的是你已经想明白的规则,不是替你想规则。
推演:四个真实场景过一遍
客服工单分级是教科书案例。一张工单进来,并行评估紧急度、部门路由、用户情绪,全量覆盖而非抽样。官方基准里那 0.114 秒的决策延迟意味着分级可以发生在工单进门的同一瞬间,而不是排进一个批处理队列。
退款合规审核展示了 state 的用法:把工单描述、订单记录、政策条款三段数据拼进一份 state,一次并行判完。这里省的不只是钱,是把三条规则从三个 if-else 分支收进一份带概率的判断里。
账户风险评分和实时交易场景吃的是延迟:0.1 秒级的判断才能塞进交易路径。浏览器 Agent 和自动化流程吃的则是另一面——在执行高风险动作(比如跑一条 shell 命令)之前做低成本守门。
反例同样要演一遍。让 Jev 做数学推理,官方自己的口径是能力约等于上一代旗舰 LLM,没必要;给它塞超长文档,32K 上下文意味着你得先切片;要它看图,它不做图像输入。这三类需求请回到 LLM。
行动:分类建议
该用:高频重复的分类分级(工单、邮件、内容审核、日志分流);正在用 LLM 做判断但成本或延迟撑不住的地方;Agent 流程里需要便宜守门的环节。判断标准越具体,概率越可信——写「紧急=影响生产、持续超 24 小时或涉及资金」,不要写「紧急=看起来很急」。
不该用:开放推理和创作;需要看图的任务;判断标准本身还没想清楚的探索期需求;单量小到成本差异无感的低频场景。
谨慎评估:生态还早,LangChain 集成和控制台都在早期访问阶段,官方基准尚无独立验证;输出价格为零、输入单价极低(每十亿 token 约 42 美元)的定价结构,有可能是补贴期价格,把架构压上去之前先想好替代路径。
接入成本倒是不高:Cloudflare Workers AI 和 OpenRouter 上都能直接调,LangChain 有现成中间件包,包括按难度把判断分发给最便宜能胜任的模型的路由件。上线方式可以从一个最疼的判断点开始——通常是那个你早就想用 LLM 但每次看账单都皱眉的环节——验证概率质量后,再横向铺开。
