正在载入项目…
AI 模型与端侧
组织仓库 · cactus-compute
Needle
尝试把工具调用放到更小的模型上
围绕工具定义输出结构化结果，并提供置信度和工具检索能力。
cactus-compute/needle
组织仓库 · cactus-compute- 总 Star
- 10,696
- 7 日快照净增
- 积累中
- 主要语言
- Python
- 仓库创建
- 2026-02-24
基础资料采集：2026-09-10 · 完整快照窗口不足时不推测增长 · 仓库创建不等于产品上线
一句话看懂
小模型可降低部署门槛，但关键操作仍需检查和兜底。
能做什么
- 01
根据工具定义输出结构化调用
- 02
使用置信度与工具检索
- 03
通过 Python 进行推理、微调和导出
适合谁
研究端侧工具调用和小模型应用的开发者。
根据资料整理的编辑判断使用前准备
需要 Python 包及首次获取的模型引擎，离线部署按仓库文档准备。
值得关注什么
- 根据工具定义输出结构化调用
- 使用置信度与工具检索