芯展速产品VP许玮WAIC世博馆演讲，深度解读 AI90软硬一体化推理加速方案

芯展速产品VP - 许玮于2026 WAIC 发表重要内容

7月18日，2026世界人工智能大会(WAIC)世博中心，芯展速产品副总裁许玮发表主题演讲，正式发布 AI90 ——FaaS (Flash as a Service) for AI 架构，引发全场高度关注。

「显存墙」已成为制约AI推理效率

与成本的关键瓶颈

芯展速产品VP-许玮 于 WAIC 2026 发表重要内容

许玮指出：

近二十年 GPU 算力提升约60,000倍，而显存容量仅增长16倍，算存严重失衡导致 GPU 有效算力利用率仅30%-60%。

更严峻的是，随着大模型从短上下文向长上下文、多轮对话演进，KV Cache 急剧膨胀。「显存墙」 已成为制约 AI 推理效率与成本的关键瓶颈。

AI90 以「存算协同」重构推理路径

许玮详解了AI90 解决方案的破局逻辑：通过将 KV Cache 从 HBM 卸载至高性能 SSD，构建 HBM + DRAM + SSD 三级存储体系。智能 P2P 互联技术优化了GPU间数据通路，跨卡数据传输时无须 CPU 和主机内存搬运，实现 GPU 间高效直连。

支撑该架构的 PT200Z AI SSD 采用 PCIe Gen5 与 pSLC 介质，DWPD 最高达100，专为 KV Cache 高频写入场景优化。

50倍性能跃升 用消费级显卡跑大模型

许玮公布现场演示数据：

• Llama 3 70B模型推理，4卡5090集群吞吐量从120 tk/s跃升至610 tk/s，提升5.1倍；

• 64K上下文首 Token 延迟从27.99秒降至0.564秒，提升近50倍；

• 显存利用率从30%-40%提升至85%-95%，提升2-3倍。

• AI90 支持上下文从约 8K 扩展至 128K+，且输入序列越长加速效果越明显。

从「算力独大」到「存算协同」

芯展速产品VP-许玮 接受现场媒体深度访谈

许玮表示，AI 推理正从「以算力为中心」进入「效能为核心」的新阶段。推理成本的优化已从单纯堆叠算力，转向数据和存储「存算协同」的系统级效率提升。

芯展速 AI90 的本质，是通过重构存储路径，将存储变为「算力的放大器」——这不仅是技术选择，更是 AI 基础设施走向普惠的必然路径。

芯展速产品VP-许玮 接受媒体专访

会后，钛媒体、DOIT 等科技媒体就 AI90 的部署场景、兼容性及落地路径对许玮及芯展速团队进行了深度专访。

专访全文即将于对应媒体公众号、芯展速公众号发布，敬请关注。