AI90 训推加速方案
软硬件协同优化
大幅降低大模型本地部署成本
支持的token数量和上下文长度接近无限 缩短模型响应时间
芯展速AI 90 &
AI SSD
推理方面可以大幅度提升Token输出速度和缩短TTFT
管类产品
计时中
