BetterOPCBetterOPC

OPC

活动政策

持续收录适合 OPC 创业者的官方扶持与平台权益

查看全部
独立开发者连接阿里云 AI 与云计算资源的工作场景官方活动

阿里云

AI Native 阿里云 OPC 创新助力计划

面向 OPC 创业者，提供 Token 补贴、1V1 技术领航、产品生态与流量曝光、投融资及创业空间等成长支持。

  • OPC 专属
  • Token 补贴
  • 成长加速
查看活动加入 OPC 社区
AI 创业者使用腾讯云 GPU 算力训练模型的工作场景官方活动

腾讯云

腾讯云 × NVIDIA 初创加速计划

面向 AI Agent、大模型训练与推理、图像处理等方向的初创企业，提供云资源、GPU 技术支持、课程优惠与市场曝光机会。

  • 最高 10 万元
  • GPU 技术支持
  • 截至 12 月 31 日
查看活动立即申请
更多筛选
赛道
全部AIOPC产品雷达AI 员工
平台
全部平台公众号X媒体即刻社交采集
9月18日星期五 · 15 条
Hacker News Show
78

Needle2：14MB智能体LLM，适用于手机、可穿戴设备、智能家居和机器人

Cactus公司发布Needle 2，这是一款14MB的智能体LLM，专为手机、可穿戴设备、智能家居、小型机器人和微控制器设计。模型为45M参数，2bit压缩，单二进制文件14MB，运行完整会话仅需28MB RAM。在树莓派5上解码速度达500 tokens/秒，在Meta Quest 3S和Apple Vision Pro等VR设备上为400-1500 tokens/秒，在三星A系列等200美元以下手机上为300-700 tokens/秒。在工具调用和移动设备使用基准测试中，Needle 2与LFM2.5 230M和Apple Foundation Model等小模型互有胜负，但体积小5-70倍。该模型基于简单注意力网络，每token仅需70 MFLOPs，比最小的高性能LLM节省7-85倍能耗。Needle 2还支持结构化提取，可将模式作为工具传入，返回结构化输出。

为什么值得看14MB的智能体LLM，专为手机、穿戴设备等边缘硬件设计，性能对标大模型但体积小70倍，对做端侧AI产品或IoT场景的开发者极具参考价值。

9月17日星期四 · 5 条