叮当号8月14日消息,近日,在2024华为数据存储用户精英论坛上,“AI-Ready的数据基础设施”分论坛成功举行。
为促进AI大模型健康发展,华为推出了全新的OceanStor A800 AI存储。
华为表示,该存储采用数控分离架构,提供10TB级带宽和亿级IOPS,满足混合负载的高性能要求,有效提升集群可用度。通过ModelEngine加速数据预处理,显著提高AI训练全流程效率。
它在推理场景中支持RAG向量数据库,并通过KVCache技术赋予AI大模型记忆能力,以查代算,全面提升推理体验和准确度。
华为数据存储产品线闪存存储领域副总裁严浩指出,随着AI技术的迅速发展,大模型已从单模态演进到多模态,并在推理应用中得到广泛使用。
然而,在AI基础设施的部署与应用中,企业面临集群可用度低、推理体验不佳、数据管理难度大、全栈部署复杂等挑战。华为全新OceanStor A800 AI存储提供了全新解决方案。
文章来自互联网,只做分享使用。发布者:牧草,转转请注明出处:https://www.dingdanghao.com/article/721893.html