科技it前沿吧 关注:14,695贴子:710
  • 1回复贴,共1

浪潮信息更新算力系统 NF5468系列AI服务器为大模型训练助力~~

只看楼主收藏回复

浪潮信息更新算力系统 NF5468系列AI服务器为大模型训练助力~~


IP属地:湖北1楼2023-11-10 21:27回复
    作为国内一流的算力供应商,浪潮信息近日在AI服务器交付领域再次取得新成果,旗下NF5468系列AI服务器率先支持英伟达最新推出的L40S GPU,这意味着在人工智能大模型训练和推理、元宇宙及图形视频处理等领域,浪潮信息已经可以为客户提供更强大的算力支持。
    实际测试表明,搭载8颗NVIDIA L40S的浪潮信息NF5468服务器大幅提升了LLaMA大模型的微调训练性能。目前该产品已具备交付能力,客户可以进行下单采购。

    本次浪潮信息推出的算力系统是兼具训练和推理能力的NF5468系列AI服务器,包括NF5468M6、NF5468A5、NF5468M7、NF5468A7等型号,产品可以在4U空间内搭载2颗高性能通用处理器、8张L40S GPU加速器及多颗高速互联网络,从而满足大模型计算对高算力、高互联的极致性能需求。在软件上,产品支持浪潮信息最新推出的OGAI大模型智算软件栈,为客户提供高效的大模型生产力支撑。


    IP属地:湖北2楼2023-11-10 21:42
    回复