|
当前,随着人工智能、大数据、云计算一系列新兴技术加速向产业和行业下沉后,数字化大潮正在重塑全球经济格局,我们的工作场所、商业、金融、健康、安全、农业和其他领域都将迎来更多更大的变化。 人工智能(AI)是数字化转型的重要组成部分,日益成为政企数字化转型中不可或缺的一环,与移动互联网、物联网、云计算、大数据、区块链等新技术一起,一同推动经济数字化转型并为其建立护城河。 凭借在挖掘数据丰富的内在信息、拟合能力、数据扩展性等方面的优势,深度学习正在成为大量政企用户部署AI应用的优先选择。随着深度学习算法的不停地改进革新,慢慢的变多的应用需要对深度学习模型进行大规模和实时的分布式推理服务。为便于构建和生成面向大数据的深度学习应用程序,宝德联手英特尔打造支持 Analytics Zoo Cluster Serving 的自动分布式可扩展推理平台。
该平台提供了统一的数据分析+ AI平台,可将TensorFlow、Keras、Pytorch、BigDl Spark、Flink和 Ray 程序无缝集成到一个统一的数据分析流水线中,用于分布式训练或预测,方便用户构建深度学习应用。整个流水线可以透明地扩展到运行在由搭载英特尔® 至强® 处理器的服务器PR2510P组成的 Hadoop/Spark 集群上,以进行分布式训练或推理。该方案支持多种深度学习模型,提供了一个简单的发布/订阅 API,可支持用户可轻松地将他们的推理请求发送到输入队列。然后,Cluster Serving 将使用分布式流框架在大型集群中进行实时模型推理和自动扩展规模。 搭载第二代英特尔®至强®可扩展处理器的宝德 AI 推理服务器PR2510P的Analytics Zoo Cluster Serving 自动分布式可扩展推理平台,是软硬一体的分布式全栈推理解决方案,可为高性能计算、高级人工智能分析任务而设计,具有非常出色的性能功耗比。用户只要准备 Analytics Zoo Cluster Serving 的 Docker Image、配置文件、训练好的模型及推理数据,即可在几分钟内启动并运行推理应用,明显降低了配置和流程的复杂程度,在提供高级定制化服务的同时,大大降低了TCO。这种全新的集群模型服务支持有助于简化用户的分布式推理工作流,提升工作效率,并为深度学习场景带来领先的性能。
宝德AI推理服务器PR2510P基于第二代英特尔®至强®可扩展处理器,采用矢量神经网络指令(VNNI)的英特尔® 深度学习加速技术(英特尔® DL Boost)、英特尔FPGA芯片和英特尔®傲腾™DC持久内存,能够基于所有框架的各种人工智能工作负载提供快速且高效的推理运算,并且支持Infiniband、Omni-Path高速网卡,在高集成度的有限空间内带来强劲的性能表现,已经携手安恒、佳发、恒安、启明星辰等客户在信息安全、智慧城市和数字化的经济建设中担当重任。 如今的万物互联时代中,数字化转型成为实现创新发展的重要动能,而AI技术与应用是数字化转型的关键技术方向。多年来,宝德与英特尔等合作伙伴构建了繁荣的AI生态,不断推动软硬一体化AI方案的创新,为机器学习、深度学习等技术提供基础设施支撑,并深化产品与产业的应用融合,以不断激活数字化转型的无限动力!返回搜狐，查看更加多 |
