1.  案例简介

案例名称：OMAI人工智能云服务平台

案例类别：上云用云类

案例描述：OMAI人工智能云服务平台是涵盖深度学习全流程的平台软件，以支持高性能计算技术和大规模分布式算法为特色，兼顾公有云和私有云部署模式，帮助客户快速优质地构建人工智能系统与算法能力，助力技术与产品的研发和应用。

2. 案例背景

人工智能技术已广泛应用于各行各业，但对中小企业而言，定制符合自身业务需求的人工智能软件仍面临较大挑战。影响因素包括：人工智能技术应用对专业性要求高、全周期开发的复杂性强、算力平台的建设成本高等。

OMAI人工智能云服务平台（简称OMAI）涵盖了人工智能算法开发、模型训练、推理服务等全流程能力，能够支撑图像、语音、自然语言等诸多领域的算法模型，并支持通过公有云接口对外部应用业务和最终客户提供服务。OMAI的创新特性包括提供无须编程的向导式自动学习环境、支持基于GPU+RDMA的高性能分布式训练、集成面向多领域的优化算法模型库等。

OMAI公有云服务是通过互联网平台以按需付费的方式向公众（主要是从事AI应用业务的中小企业和算法模型开发者）提供人工智能技术能力，包括算法、算力等，针对人工智能长尾市场需求，提供低成本、高效率的人工智能底层能力，能够帮助各个行业的客户快速、优质地在业务系统中集成人工智能能力，助力中小企业的产品研发与应用增值。

3. 案例介绍

OMAI是具备深度学习算法开发、模型训练、推理服务等能力的一站式平台软件，它以支持高性能计算技术和大规模分布式算法为特色，兼顾公有云和私有云部署模式，帮助客户快速、优质地构建人工智能系统与算法能力，助力技术与产品的研发和应用。其主要功能如下：

• 
  

• 操作界面：提供面向用户的Web管理界面。

   

• 开发环境：支持Jupyter Notebook等在线的IDE，用于开发或修改算法代码及执行交互式调试。

   

• 训练作业：以批处理作业方式执行单进程或分布式的深度学习训练，生成算法模型。

   

• 可视化工具：提供TensorBoard等工具，以图形化方式呈现算法训练过程与模型结构。

   

• 推理服务：基于生成或预置的模型，部署REST风格的在线推理服务，以便应用业务集成人工智能能力。

   

• AI引擎：支持TensorFlow、PyTorch、MXNet等多种业界主流的深度学习引擎。

   

• 调度类型：支持单进程以及Allreduce、PS-Worker、Horovod MPI等多种分布式执行模式。

   

• 预置算法：预置工业界与学业界流行的多种经典和时兴的通用算法，提供开箱即用的工具。

   

• 资源监控：提供内存、CPU、GPU、网络等硬件资源的实时监控，帮助用户分析算法、优化成本。

相较于传统AI开发流程，使用OMAI深度学习平台的优势在于：

• 
  

• 全流程一站覆盖：OMAI平台是涵盖AI应用开发全过程：算法开发、模型训练、模型训练可视化、应用部署、客户端推理的全流程平台，为客户提供一站式服务。

   

• 自动化学习能力：自动学习功能根据用户上传的数据自动设计模型、自动训练并自动完善模型，使得模型自动学习合适的参数和配置而无需人工干预，从而避免低效的手动调整方式。

   

• 高性能分布式训练：支持单进程及PS-Worker、Allreduce、MPI等多种高性能分布式训练模式，可实现数据并行、模型并行与混合并行。提供高效率算法模型库，包含多种经典及流行神经网络的优化实现。

   

• 丰富的资产管理能力：支持并有效管理用户的数据集、算法、模型等数据资产；支持用户的对象存储管理与在线访问；支持在作业中快速引用已保存的数据资产。同时，OMAI也预置了丰富的经典数据集与预训练模型供用户使用。

OMAI的价值在于帮助客户以低成本、高效率获得人工智能能力，从而实现应用业务的增值。在支撑传统产业升级、助力互联网服务智能化、实现软件行业云化转型等方面，具有显著的市场价值。目前OMAI已服务于多类应用场景，通过公有云或私有云方式支撑了客户在图像分类、图像增强、数据分析、自然语言处理等领域的业务。

应用场景一：基于OMAI开发的领域算法

案例：OMAI支撑某科研院所的遥感图像语义分割应用。该案例的目标是对高分辨率可见光图像进行自动化精细分析，按照预定分类进行识别并标注目标类型。OMAI通过分布式训练等特性支撑本应用，基于优化版Deeplab模型进行语义分割。算法平均交并比达到93%，处于业界领先水平。

应用场景二：基于OMAI开发的应用产品

案例：OMAI应用于某上市公司的智能搜索系统。该案例的目的是把自然语言表述的问句通过NLP技术转换为SQL语句，以降低查询分析数据库的门槛。OMAI通过模型服务功能支持该应用，以优化版BERT模型为核心并辅以语言相似度模型，其准确率达到90%以上，优于业界水平。

图１ 基于OMAI开发的SaaS服务已服务于某电信运营商

应用场景三：OMAI公有云服务（#）

OMAI公有云已正式上线运营，目前已与若干从事人工智能相关业务的公司签订OMAI云服务协议，为客户提供在线服务。

图２ OMAI公有云服务界面截图

4.  典型经验提炼

人工智能是支撑当今互联网、大数据应用的关键技术，现已在消费互联网、安防、零售等行业得到广泛的应用，并正在向工业互联网、医疗、教育等领域快速渗透。近年来，人工智能技术已得到市场普遍接受，推广可行度高。故此，OMAI具有广阔的应用市场，其推广范围可涵盖各类期盼AI赋能的传统与新兴行业用户。

为解决人工智能技术对用户的专业性要求高、应用全周期开发的复杂性强等问题，OMAI平台秉持超性能、高效率、易使用、一站式的产品定位，大幅降低使用者的专业技术门槛，帮助客户快速、优质地构建人工智能系统与算法能力，助力技术与产品的研发和应用。

OMAI为增强平台业务逻辑内聚性，提升用户体验友好性，推进OMAI的一站式能力，将人工智能业务端到端流程中的更多重要环节纳入平台。具体工作涉及：

（1）向导式自动学习。重点面向拥有数据、掌握业务，但不懂算法、不会编程的用户群体，提供导向式操作界面，引导用户通过图形化操作快捷地完成模型的训练与部署，从而轻松满足业务场景对人工智能能力的需求。OMAI已支持图像分类和数据预测等常见业务场景的向导式自动学习，后续将拓展更多应用方向。通过研发高质量预训练模型、智能模型选择和自适应性增量训练等后台关键技术，支撑向导式自动学习的高效率、高质量运转。

（2）在线标注工具。提供基于web界面的视觉类数据语义标注功能，初期支持图像分类，后续可拓展至目标检测、语义分割等领域。本工具作为深度学习业务流程的前置能力拓展机制，将“数据”更加有机地集成到业务生命周期中。同时，作为向导式自动学习的图形化操作能力增强工具，有助于增强自动学习功能的直观性和易用性。

（3）在线模型测试。提供基于web界面或REST接口的模型效果在线展示和人工校验功能，图像化呈现模型功能与指标。作为深度学习业务流程的后置环节，有效地实现了端到端业务逻辑闭环。同时，作为向导式自动学习的步骤之一，为模型面向最终用户提供服务提供了质量保证和集成指导。

OMAI平台的一站式易使用等特性，可以帮助更多中小企业快速实现人工智能应用产品的研发与上线。结合广大中小企业的实际需求，OMAI可以孵化出更多独具特色的人工智能应用软件。

公司与某知名IT运维企业签订基于OMAI的AIOps（智能运维系统）技术开发合同，拟以人工智能技术助力IT基础设施自动化管理，使用大数据分析和机器学习等方法，加强IT运维自动化的能力，有望为下游客户节约服务器运维的大量人力与时间开销。

OMAI平台在教育市场亦有良好的应用前景。公司与某高校签订以OMAI为核心软件的人工智能实验室及教育课程体系合作建设合同，在增强该高校人工智能学科能力的同时，也有望为社会培养更多人工智能领域的专业人才。

借鉴意义

从技术角度，OMAI解决了发挥高性能计算技术的算力并精确适配云计算环境等问题，实现了高性能深度学习的云服务化，使得传统上阳春白雪的技术能够走进普通企业乃至个人开发者。其意义在于：

（1）提升深度学习云服务的性能。云服务往往因为虚拟化层次的存在，存在一定的性能开销，这对追求极致性能的深度学习训练而言是一个问题。引入高性能计算技术之后，性能问题可以获得质的突破，从而显著优化业务质量和用户体验。

（2）增强深度学习云服务的易用性。云服务能够屏蔽深度学习系统软件配置与管理的复杂性，也能够封装算法和模型设计实现的复杂性。特别是在引入高性能硬件及其特有的协议之后，云服务的用户不需要专门学习这类艰深的领域技术，高性能人工智能成为唾手可得的工具。

（3）降低使用高性能深度学习技术的成本。高性能计算技术与云服务的结合使得中小企业和个人开发者不再需要采购昂贵的服务器、加速器及高速网络设备，只需要按需付费即可满足灵活多变的业务需求。云服务提供商亦可通过调度策略实现成本最优化。

从用户角度，OMAI作为一款基础平台服务能够支撑广阔的业务领域、丰富的应用场景。它为人工智能算法工程师提供了一站式的开发工具，有效提高产品开发效率；它支持模型快速部署，方便各类应用软件快速集成人工智能能力；OMAI通过大量预置算法、模型和自动学习能力，使得普通业务人员经过短时间的学习，也能掌握人工智能开发能力，能够显著降低应用业务使用人工智能的技术门槛并节约人力与资金成本。

综上，OMAI的主要推广价值在于帮助客户以低成本、高效率获得人工智能能力，从而实现应用业务的增值。在支撑传统产业升级、助力互联网服务智能化、实现软件行业云化转型等方面，具有显著的示范意义。