人工智能（AI）真火，火到全球70%的企业，都希望在2018年实施AI应用[1]；AI也真难，难到91%的企业预计会在采用AI的过程中遇到重大障碍[2]。这种冰与火般的矛盾，根源就在于AI太新，新到如Tara Data所说的那样：企业用户还普遍缺乏相关的IT基础设施，以及专业的人才和知识积累[3]。
用户欠缺的，正是公有云所具备的——背靠互联网开源社区生生不息的创新活力，及其在AI算法研发上的先发优势，坐拥大规模或超大规模的数据中心以及用户多年积累的海量数据；调动麾下久经考验的基础设施运维、应用和服务开发人才，领先的云服务提供商们正忙着打磨自己的AI云服务。不过，即使是实力较强的云服务提供商，这种打磨也不是一帆风顺的。AI的三要素——数据、算法和算力中，数据和算法无须太多担忧，但算力，也就是AI云服务所需的基础设施，却让人煞费思量。毕竟，目前用于AI的硬件包括了通用的CPU，还有专用的GPGPU和FPGA及ASIC，架构不一，很容易让人挑花眼。
那么，有没有什么策略或者方法，能帮助云服务提供商更便捷地选择和构建AI云服务呢？当然有！那就是要充分利用好他们既有的基础设施，即基于英特尔架构处理器的云基础设施！原因如下：首先，不论是全球还是在中国，不论是眼前还是长期，AI云服务的主要目标受众，多数是希望采用AI既有创新成果，而非推动AI技术演进的普通企业，这些企业使用AI，目标也主要是将智能技术引入到他们现有业务数据处理和分析的流程和工具链条中，来实现更高级的、预测型的分析。
这种应用，多是推理型的应用，也多基于机器学习而非深度学习技术，毕竟，智能化数据分析的输出，要做到透明化和可解释才有意义。
而这种情况，也就决定了云服务提供商面向这些用户打造AI云服务时，完全不必改弦更张、更起炉灶。毕竟目前的公有云服务，包括数据存储、处理和分析类服务，多是构建在英特尔架构基础设施上，因此将AI云服务构建在同一平台上，复用其资源，并与既有的数据处理工具对接的做法，与另寻其他架构来搭台，且需要将海量数据在导构平台间移动的做法相比，无疑用时更短、技术门槛、风险和成本也更低。此外，保持基础设施的同质，或同构性，也能大大减少云服务提供商在系统管理、维护和保障上投入的工作量。省时省力省钱是一方面，性能输出上，基于英特尔至强处理器的基础设施，也不输专有架构平台，尤其是在优化之后。
UCloud的AI在线服务就是例证，它的算力主要源自既有基础设施中常处于闲置状态的至强E5处理器AVX处理单元，在搭配面向英特尔架构优化的Caffe框架后，整体执行性能提高了10倍以上。在人脸表情识别的测试中，在有并发的前提下，其性能也可媲美，甚至是超越专有架构平台[4]。
而今，全新的英特尔至强可扩展处理器，凭借全新的微架构、进一步增强的硬件特性，特别AVX512技术，为那些打算利用既有基础设施架构构建AI云服务的服务商带来了更大的福音：在导入了针对英特尔架构优化的框架和软件工具后，其推理性能可比上一代平台实现最高超百倍的提升[5]！ 来自科大讯飞AI开放平台的实践也证明：该处理器可提供在高性能工作负载下的高可扩展性和可靠性，适用于深度学习中的复杂神经网络快速推理[6]。
或许有人会问，上面提的，多是推理，那么训练，尤其是深度学习的训练应用，至强可否一战？英特尔给出的实测数据是：与上一代产品相比，至强可扩展处理器可将人工智能/深度学习的训练速度提供2.2倍[7], 在同样导入优化的框架和工具后，这一提升幅度也可以拉高到100多倍[8]。
可见，不论选择哪种技术路径，也不论是训练还是推理，优先评估和发挥既有英特尔架构基础设施的潜力，都是云服务提供商构建AI云服务的一条“捷径”。
并发、时延、成本等各方面，都对云平台的基础设施提出了更高的要求。
文章摘自子弹财经
想购买及了解更多英特尔产品详情，欢迎咨询以下联系方式！
永信贵宾会集团联系方式
咨询热线：0755-88603572
永信贵宾会官网：www.yyhsjs.com
客户垂询邮箱：cuifang.mo@yyhsjs.com
客户垂询QQ：1627678462
地址：深圳市福田区深南大道1006号国际创新中心C座11楼
邮编：518026
当前位置：
粤公网安备 44030402001885号
友情链接： 金沙古酒 | 中青宝 | 宝德控股 | 宝德计算 |