AI开始集体放弃聊天？Needle 3只做工具调用，最小9MB就能跑
发布时间：2026-09-19
动察 Beating AI 快讯，YC S25 端侧 AI 公司 Cactus Compute 发布 Needle 3，专门做工具调用和结构化提取，不负责普通聊天。比如用户说「把客厅灯调到 30%」，它只需要找到对应功能，再把「客厅」和「30%」填进参数。它和最近很火的 Jev 有点像，但路线不同。Jev 直接给候选决策打分；Needle 3 还是逐 Token 生成，只是输出被限制成程序能直接执行的工具调用。Needle 3 一套权重可以裁成 2 到 20 层。2 层版本约 9MB，完整 20 层约 35MB，可以按手表、树莓派、手机等不同设备的算力来选。针对安卓操作指令单独微调后，4 层、2900 万参数版本自测得分 62.5，超过 DeepSeek V4 Flash 的 60.5。----------缘辉旺盾网量化工具温馨提示：数字货币投资有风险，入市需谨慎；本文章不作为投资依据，仅供参考----------交流群：https://t.me/dunwangyuanhuiwang
动察 Beating AI 快讯，YC S25 端侧 AI 公司 Cactus Compute 发布 Needle 3，专门做工具调用和结构化提取，不负责普通聊天。比如用户说「把客厅灯调到 30%」，它只需要找到对应功能，再把「客厅」和「30%」填进参数。
它和最近很火的 Jev 有点像，但路线不同。Jev 直接给候选决策打分；Needle 3 还是逐 Token 生成，只是输出被限制成程序能直接执行的工具调用。
Needle 3 一套权重可以裁成 2 到 20 层。2 层版本约 9MB，完整 20 层约 35MB，可以按手表、树莓派、手机等不同设备的算力来选。
针对安卓操作指令单独微调后，4 层、2900 万参数版本自测得分 62.5，超过 DeepSeek V4 Flash 的 60.5。
----------缘辉旺盾网量化工具温馨提示：数字货币投资有风险，入市需谨慎；本文章不作为投资依据，仅供参考 ----------交流群：https://t.me/dunwangyuanhuiwang