以Deepseek、ChatGPT为代表的生成式人工智能在各个行业中获得越来越广泛的关注和应用,而传统的生成式人工智能架构也在限制和制约AI的进一步拓展。

智展AI训推方案

 

 

HBM、GDDR等高昂的成本,大幅度提高了企业本地化部署AI的门槛,难以应对快速增长的模型规模。


在AI推理应用中,显存容量的限制也制约了token的响应速度和上下文长度。传统架构的限制制约了AI在各类垂直行业应用中更广泛的普及。

关于芯展速  

 

芯展速凭借团队20余年深厚的IT行业积淀、实力雄厚的本地研发团队,致力于提供国内领先、国际一流的企业级、工业级及车规级固态硬盘(SSD),面向PCIe Gen5/6的 Retimer/ Redriver IC 产品,以及极具创新的AI训推一体方案,旨在为中国及全球的信息化进程注入强劲动力。

使用智展AI扩展加速卡,可以实现超出显存容量的全参数微调能力

AI Solution   

 

智展AI训推方案,在推理方面,同样可以大幅度提升Token输出速度和缩短TTFT。

产品参数

芯展速的智展AI训推方案,创新性的引入成本更加可控的NAND Flash介质,并针对AI后训练和推理应用的场景需求,研发出针对性的护展加速SSD和中间件产品,建立HBM、显存与闪存之间的分层存储。

智展AI训推方案

 

 

除PT101扩展加速卡和管理中间件外,还可以选配智展AI管理套件,提供WebUI、大语言模型专家训练平台和专属GenAI服务系统,帮助企业快速落地部署。

产品参数

芯展速科技(北京)有限公司:为智能世界构建数据基座