Cactus Compute
YC孵化的旧金山AI初创公司,专注于开发超小型端侧语言模型,主要产品为Neural系列模型,致力于在边缘设备上实现高效的结构化输出与工具调用能力
时间轴 (近 90 天)
Cactus Compute 推出了 Whistle 语音模型,体积为 16.9 MB。
Cactus Compute 推出的 Whistle 语音转录模型文件大小仅为 16.9MB(约17MB)。
Cactus Compute 此前以 Needle 系列模型(工具调用与结构化输出模型)为人所知。
Cactus官方表示Needle是任务专用模型,上生产前应先微调,base模型是起点而非成品助手
Neural 3(又称Needle)是由YC孵化的旧金山创业公司Cactus Compute推出的端侧模型,不需要联网,可运行在手机、手表和小开发板上
Cactus将传统Transformer的前馈层替换为headband MLP,每层仅约2.56万参数而非470万,大部分知识存放在engram表中通过哈希查找2到3个词的短片段
Cactus Compute的Niddle排名GitHub热榜第二,新增3409颗Star
全部知识事实 (6)
Cactus Compute 推出了 Whistle 语音模型,体积为 16.9 MB。
50%待验证Cactus Compute 推出的 Whistle 语音转录模型文件大小仅为 16.9MB(约17MB)。
50%待验证Cactus Compute 此前以 Needle 系列模型(工具调用与结构化输出模型)为人所知。
50%待验证Neural 3(又称Needle)是由YC孵化的旧金山创业公司Cactus Compute推出的端侧模型,不需要联网,可运行在手机、手表和小开发板上
50%待验证Cactus将传统Transformer的前馈层替换为headband MLP,每层仅约2.56万参数而非470万,大部分知识存放在engram表中通过哈希查找2到3个词的短片段
50%待验证Cactus官方表示Needle是任务专用模型,上生产前应先微调,base模型是起点而非成品助手
50%