EN

自研后摩大道软件+ 后摩开源AI生态软件,实现从底层芯片到上层应用的全栈端到端赋能。向下兼容多代异构硬件,向上无缝适配主流深度学习框架与大模型推理生态。提供全套 C++ / Python API,全流程助力高效开发与极简部署。

产品优势

开发平台架构

解决方案
智能感知与分析
智能感知与分析
基于多模态数据,实现对环境与行为的实时感知与分析。
AI计算与性能
AI计算与性能
提供面向端侧AI的异构计算与推理优化能力,提升模型推理效率与系统性能。
具身智能
具身智能
融合感知、推理与动作控制能力,提供面向机器人抓取与具身智能场景的端侧AI解决方案。
生态与认证
生态与认证
构建开放的合作伙伴生态,提供完善的适配与认证支持。
其他
其他
面向多样化应用需求,提供覆盖更多场景的端侧AI解决方案。
应用使能
EcoSystem领域套件
EcoSystem 领域套件
面向大模型、语音、图像和视频生成等场景,提供集成模型配置、前后处理和优化参数的端到端部署方案。
PostMo-ModelZoo
PostMo-ModelZoo
汇集视觉、语言、大模型及多模态模型,经后摩工具链验证与优化,支持在后摩 AI 芯片上高效推理。
应用示例
应用示例
提供展示后摩 AI 芯片能力的完整可运行应用,包含对话界面等交互功能,用户可直接使用并快速上手。
应用工具
应用工具
辅助工具集合,提供给领域套件、模型库和应用示例的一些抽象API接口和基础开发工具集合。
vLLM
vLLM
面向LLM的高吞吐推理与服务引擎,支持在后摩 AI 芯片上部署大模型应用。
SGLang
SGLang
面向大语言模型及多模态模型的高性能推理与服务框架,支持对话、Agent 和 RAG 应用部署。
Llama.cpp
Llama.cpp
LLM的轻量级 C/C++ 推理实现,支持 CPU、CUDA、Metal 和 Vulkan 等多种后端。
...
其他推理框架
提供更多推理框架的适配支持,满足多样化的模型推理与应用部署需求。
工具链
PostMo-Quant
PostMo-Quant
支持 PTQ 和 Weight-Only 量化,将浮点模型转换为 MXINT8 等低精度模型,并校验量化精度。
PostMo-Sight
PostMo-Sight
提供算子级精细分析和系统级全栈性能分析,采集执行时间、带宽利用率等指标,辅助定位性能瓶颈。
PostMo-Bench
PostMo-Bench
提供 CV、NLP、LLM 和 AIGC 标准测试集,评测延迟、吞吐、内存和功耗,支持单/多卡及竞品对比。
PostMo-Toolkit
PostMo-Toolkit
提供环境安装、组件检测及部署辅助工具,简化开发和推理环境配置。
PostMo-SMI
PostMo-SMI
可实时监控设备温度、功耗、频率、内存、进程占用及设备拓扑,并支持设备重置和电源管理。
硬件使能
PostMo-Compiler 编译器
PostMo-Compiler 编译器
将模型转换为芯片可执行文件,并通过图优化、算子优化和内存规划提升执行效率。
PostMo-Runtime 运行时
PostMo-Runtime 运行时
负责模型加载与执行、任务调度、设备内存管理、数据传输及运行状态同步。
固件
固件
负责芯片初始化、电源与时钟控制、中断响应及异常恢复,为驱动提供底层硬件控制能力。
驱动
驱动
为操作系统提供后摩 AI 芯片驱动能力,支持设备管理、数据传输,并为运行时提供硬件访问接口。
系列硬件
LM5010 M.2
LM5010 M.2
面向边缘大模型推理的双芯M.2加速模组,包括LM5010 M.2和LM5010 eM.2(Type 3280)等产品。
LM5020 DM.2
LM5020 DM.2
面向边缘大模型推理的双芯片加速模组,包括LM5020 DM.2和LM5020 eDM.2(Type 6280)等产品。
LM50加速卡
LM50加速卡
面向服务器 AI 推理的 PCIe 加速卡,包括LM5040和LM5010 智能加速卡等产品。
后摩软硬件平台