AWS Strands Decider 2B 开源决策模型
AWS Strands Labs 于 2026 年 10 月 1 日发布 Strands Decider 2B,官方称其是一款小型开源决策模型,面向快速实验与本地开发,可在一组选项中做选择并给出校准置信度。
工具概览
功能、使用步骤与常见问题见下方
功能特点
- ✓ 官方称其为约 20 亿参数模型,适合在本地 CPU 或 GPU 上运行,可在数十毫秒内回答有意义的问题
- ✓ 架构上取预训练的 Qwen3.5-2B 作为躯干并移除 LM head,改用一个约 100 万参数的指针头(pointer head),躯干用 rank-16 LoRA 微调
- ✓ 决策模型不做文本生成,而是在一组选项中做选择或给出 0-1 的分数,并为每个决策提供高质量可靠性分数
- ✓ 官方称其在 JevBench 公开集上准确率与校准表现良好,在 2B 类别中位列第 3/33,若排除刚超 2B 的模型则为第 1/30
- ✓ 延迟方面,官方称在本地 Nvidia RTX 3090 上决策中位数约 115 毫秒,在 M3 MacBook 上小任务约 153 毫秒
使用步骤
- 用 pip install strands-decider 安装 CLI
- 用 strands-decider ask 提供 --state 与 --choice,让模型在给定选项中做出选择
- 从 GitHub(strands-labs/strands-decider)获取代码、从 Hugging Face(StrandsAgents)下载权重,训练数据与脚本一并开放
- 在 Strands agent 中通过 InterventionHandler 的 before_tool_call 钩子接入,用于工具调用前的校验或路由
常见问题
Strands Decider 2B 是什么?
AWS Strands Labs 于 2026 年 10 月 1 日发布的小型开源决策模型,官方称其面向快速实验与本地开发,不做文本生成,而是在选项中做选择或打分。
它开源吗?
官方称已把 strands-decider-2b 以开源形式发布在 GitHub(strands-labs/strands-decider),权重在 Hugging Face(StrandsAgents),并包含训练数据与脚本。
它的运行速度如何?
官方称可在本地 CPU 或 GPU 运行,在 RTX 3090 上中位延迟约 115 毫秒,在 M3 MacBook 上小任务约 153 毫秒。
它与大语言模型有什么不同?
官方称决策模型以牺牲灵活性换取速度与同尺寸下更强的能力,始终从给定选项中作答,且不适合编码、聊天、摘要等常见 LLM 任务,更擅长路由、工具选择、评估、护栏与策略分类。
如何开始试用?
官方称最简单的方式是通过 strands-decider CLI:pip install strands-decider,然后用 strands-decider ask 指定状态与选项。