von
非自回归开源决策模型,本地报告低于 15 ms,可作为 Jev 的直接替代。
本页由英文清单自动生成。
来自 readme
Von An Open-Source, Non-Autoregressive System One Decision Model. Calibrated discrete, probabilistic, and ordinal inference in sub-25ms. Overview Autoregressive large language models (LLMs) decode token-by-token to perform classification, intent routing, and guardrail validation. This generation mechanism introduces substantial key-value cache memory …
这是什么
- 形态
- 库或 SDK
- 宿主智能体
- 独立运行
- 面向人群
- 应用开发者
成熟度
文档
报告了实测数据Jev 调用存疑