Laya：33 毫秒出结构化决策，不生成文本的开源 System 1 引擎

大模型做决策的老三样：生成一坨文本 → 解析 → 祈祷没幻觉。Laya 反着来——不生成文本，单次前向传播直接输出结构化决策：选择题（choice）、打分（score）、是非判断，一个决策 33 毫秒，批量 7.2 毫秒/条（T4 实测）。没有生成环节就没有解析失败，也没有幻觉。

凭什么 31k stars

• 100+ 语言开箱即用：Router 自动检测语言路由到对应 checkpoint，多语言版在 51 语言横评里 50 个第一，中文、印地语、西班牙语随便丢
• 开源 + 可自托管：Apache 2.0，附 Jev 兼容 HTTP server，想脱离 TypeSafe 云自己平替一套，这里现成
• 对比 Jev 全维度不虚：README 直接放了 vs TypeSafe Jev 的公开数据集精度、51 语言、速度、校准全套对比图
• 微调跃升：拿自己领域数据微调，typed-decisions 基准从 0.362 干到 0.766，Kaggle 2×T4 notebook 和 Apple Silicon 脚本都给好了
• 三个 checkpoint 随便挑：英文 421M / 多语言 322M（最长 8192 token 长文档）/ 领域微调版，Router 按请求自动选

生态齐活

pip 一行装好，Colab 一键试；MCP server、LangChain/LangGraph、LlamaIndex、CrewAI、ONNX Runtime 插件全配齐，还有 TypeScript 版 laya-ts 浏览器也能跑；T4 GPU 和 Apple Silicon（含 Intel Mac）都在支持列表里，41 个可运行示例从第一次调用排到生产服务。

路由、打分、意图判断这类「不用写文章只要结论」的场景，让它上比让生成模型上快一个数量级。