返回信息流
新闻事件
AI前线
1 个来源

斑马智能发布端侧大模型 AutoOmni 2.0-23B-A3B,MoE 架构推动大模型上车

斑马智能在云栖大会发布全模态端侧大模型 AutoOmni 2.0-23B-A3B,采用 MoE 架构,总参数 23B、激活 3B,官方称普通智舱任务能力堪比 10 倍参数量云模型,复杂任务达其 80%至 90%。该模型已与国内外 10 家芯片企业完成底层协同优化,推理速度提升 5 到 6 倍、内存占用降低 50%以上,并支持离线多意图交互与数据不出车。现场数据显示,元神 AI 已覆盖 68% 主流车企服务,端侧大模型上车阵营中 63% 企业选择斑马智能。

主报道

AI前线

主报道来源