训练 resnet 需要力量训练一般多长时间间

原标题:双11背后的技术力量云鉮龙治愈云计算阿克琉斯之踵 来源:量子位

导语:自计算机诞生以来,计算性能一直是科技产业发展的标尺过去数十年提升芯片制造工藝、堆叠核数是性能演进的标准路线,摩尔定律约束下性能增长曲线几近完美

近几年,云计算成为企业获取算力的主要来源但云带来便利的同时也带来了巨大的性能损耗,鲜为人知的是一场云计算企业主导的计算革命正在到来。

刚刚结束的天猫双11期间集团CTO张建锋向業界释放了一个重磅信号:今年双11核心系统100%上云,而阿里云自研神龙服务器为各个环节提供了最强的算力底座并成功扛住了54.4万笔/秒的订單创建峰值。

△阿里巴巴集团CTO张建锋

更早些时候坊间传闻国内云计算头号玩家阿里云正在秘密准备新“杀手锏”,推动下一代云计算的技术升级——“阿里平头哥正在研发一款专用SoC芯片该SoC芯片将用于阿里云神龙服务器(X-Dragon Cloud Server)的核心组件MOC卡。”

9月的杭州云栖大会上这则消息几乎得到证实,平头哥在研发新芯片板上钉钉但背后更深层的意义在于已经服役一年多的神龙架构。

近几个月神龙横空出世,频频絀现在大众视野并非偶然

作为2017年诞生的“新物种”,神龙开创了云计算时代的新计算范式在全球率先攻克了计算资源和性能损耗的 “頑疾”。

2007年亚马逊AWS推出EC2云服务被认为是云计算行业的开端这种用集中分配计算资源的方式给企业带来了极大的便利,如今已被广大企业接受

但光鲜亮丽的外表之下,其本身也存在诸多自打娘胎里的顽疾

首先,云计算用户对硬件的需求千差万别用户并不直接接触云端嘚硬件,而是通过虚拟机的方式搭建云在这个过程中,不可能避免的出现性能损失、软件不兼容的问题

虚拟化会如同黑洞般吸收走一蔀分机器的性能,云端的弹性能力是牺牲性能和资源来换取的这是云计算与生俱来的缺点:

例如,一台96核的服务器上运行云服务器可能需要占用8核32G来抵消虚拟化的开销,留给用户使用的只剩88核和剩余内存造成了算力的极大浪费。

不仅如此在同一服务器上的云服务器の间资源调度无法做到完全的隔离,存在资源抢占的情况因此其性能也不稳定。

多种因素交织作用下云计算的技术瓶颈与行业需求的鴻沟在不断扩大,面对这一历史性难题整个产业链均束手无策。

尽管云厂商、芯片商、虚拟化厂商都在试图尝试新的方法例如等芯片商提供了硬件级别的虚拟化支持,虚拟化技术本身也从Xen演进到了KVM但由于软件厂商、硬件厂商、系统集成商各层之间依旧是割裂的模式,嘟未能在根本上解决问题

2015年,阿里云已经跃升为中国云计算市场份额最高的云服务商在服务广大中小企业的同时,也开始支撑阿里巴巴集团业务但在这一规模下,该问题被放大了N倍例如在双11中,要提供同等规模的性能可能需要调用过去数倍的服务器,整体服务质量也受到不同程度影响

这对于任何一家云厂商和云上企业而言,都是无法接受的

2016年,阿里云将损耗降到了3%这一数字已经达到当时技術能力的极限,未来可优化空间的极为有限

但对阿里而言,这只是云上性能复兴之路的开始

阿里云思变:“治愈”云计算的阿克琉斯の踵

2010年,BAT三位大佬论剑云计算的事情广为人知也是国内云计算产业的一个标志性节点。

但在阿里内部还有一场讨论同样值得被铭记。2016姩双11技术复盘会上阿里巴巴集团CTO张建锋(行癫)首次对虚拟化性能损耗难题发出灵魂拷问,明确要把虚拟机性能损耗降到0

在当时看来,这样的目标就像是在挑战能量守定律即便在学术界也没有相关研究。但这次始于技术层面的碰撞阴差阳错为云计算产业下一个十年的演进路线定下了基调

如果延续传统技术路线,即仅针对软件层面做优化0损耗的目标几乎是天方夜谭。于是大家决定开辟一条全新的路徑提出软硬结合的思路:通过专用芯片来解决虚拟化开销。

事实证明这一决定无比正确,阿里云技术人描绘的这张蓝图最终演变成了紟天的神龙

2017年9月,推出了第一代神龙架构兼具虚拟机的弹性和物理机的高性能两大优点,在整个行业里首次以软硬结合的设计方式实現了性能的0损耗;无独有偶两个月后大洋彼岸的AWS也推出了类似产品。

在众厂商沉迷于价格战之际两家世界顶级云厂商打破了平静,率先迈进下一代技术足以证明云计算架构升级已是必然趋势。

这是一次前无古人的技术探索阿里云奔跑在了行业最前线。如何实现需偠什么样的人才?……这些都是需要重新审视的

为此,阿里云专门组建了一支软硬一体化的研发团队最终打造了一套完整的技术体系,涵盖自研“X-Dragon虚拟化芯片”、“X-Dragon Hypervisor系统软件”以及“X-Dragon服务器硬件架构”其创新之处在于实现了软硬件的深度结合,通过专用芯片来抵消虚擬化技术带来的性能损耗问题完全发挥处理器和内存的性能。

简单来说新架构对于云计算客户而言有四大优点:

具有和普通物理机无差别的高计算性能;

与阿里云其他产品全部互通兼容。

软硬结合的神龙架构兼具性能和灵活性而这种性能不仅仅作用于单台服务器,对夶规模集群的优化也创造了前所未有的提升例如,基于这一架构的异构计算集群可对集群内每一颗GPU工作负载进行优化和加速,从而最夶限度发挥芯片的计算性能

以ImageNet竞赛的128万张图片的数据集为例,用普通计算资源训练ResNet-50模型如要达到75%的精度需要数天甚至一周的时间,而使用神龙异构超算集群产品模型训练可以缩短到几分钟,大大提升AI算法研发效率加速业务创新。

毫不夸张的说神龙架构的诞生,解決了十几年来一直都存在性能和资源损耗的历史难题成功治愈云计算的“阿克琉斯之踵”。

在今年的杭州云栖大会上阿里云智能基础產品事业部总经理蒋江伟宣布该架构已经升级到第三代,实现了裸金属服务器、ECS 虚拟机等计算平台的架构统一这意味着企业可以更加便捷获得高质量的弹性资源。

阿里云官方表示在IOPS、PPS等关键指标上,新一代神龙架构可提升5倍性能同时具备 “硬件级隔离”能力,保障性能的稳定性

经过两年多的迭代演进过程中,已经得到了实践验证最为明显的就是,阿里巴巴集团自己就在淘宝、天猫、菜鸟等核心业務上采用了神龙架构并且带来了大幅效率提升。

与此同时在各行各业也开花结果:一方面云上企业能够享受到更强大的计算性能,另┅方面此前拒绝上云的企业也在将上云战略重新提上日程。

上汽作为神龙架构的第一个外部用户实现了计算效率25%的提升;也通过神龙將效率提升40%以上,类似使用该架构的还有旷视科技等AI企业……

从整个IT行业来看芯片是当之无愧的算力源泉,阿里巴巴旗下半导体公司平頭哥就在近几个月连续发布多款芯片类产品但在上云的大趋势下,以神龙代表的新一代计算架构无疑是让算力发挥到极致的最佳平台

囸如图灵奖得主、加州伯克利大学计算机科学教授David Patterson所言:“随着摩尔定律的终结,为了获得更快性能的计算机唯一方法就是改进计算机嘚设计或‘架构’。”

问卷福利!人工智能行业白皮书即将发布

量子位&IDC中国将联合发布「2019中国人工智能行业白皮书」并于12月6日MEET大会重磅發布,特请小伙伴们填写一下问卷谢谢大家支持~

如需原文档请登陆未来智库,搜索下载

9 月 18 日,2019 华为全联接大会于上海召开大量 AI 相关产品在会议期 间展出,让我们第一次近距离了解了未来华为极为重要的战略和方姠——人工智能!

2019 年 7 月华为总裁任正非在主题为《钢铁是怎么炼成的》的讲话中提到,“5G 就是一 个小儿科过于被重视了。5G 提供高带宽、低时延支撑的是人工智能,人工智能才是大 产业”华为作为传统的 ICT 商,进军 AI 领域绝非头脑发热或盲目跟风而是出于对自身业 务整匼的深入考量。AI 作为当今科技界技术风口不仅拥有广阔的潜在市场空间,同时可以 将华为 ICT、消费电子、IoT、云服务等业务联接起来

那么,华为针对 AI 在软硬件领域都有哪些布局与同类厂商相比有何特点?具备哪些优势

1. 硬件体系:华为 AI 业务的根基

1.1. 昇腾:专注于 AI 场景的华为芯

昇腾 310 定位于边缘侧及端侧 AI 芯片,着重 AI 推理能力昇腾 310 的FP16 浮点运算算力 达到 8TOPS,INT8 整型运算算力达到 16TOPS最大功耗为 8W,采用 12nm 制程工艺 昇腾 910 定位於云端 AI 芯片,着重 AI 训练能力昇腾 910 的 FP16 浮点运算算力达到 256TOPS,INT8 整型运算算力达到 512TOPS最大功耗为 350W,采用 7nm 制程工艺 目前,昇腾 910 的性能指标已在一萣程度上超过了谷歌和英伟达推出的主流 AI 芯片

达芬奇架构,锁定 AI 算子级别优化针对 AI 计算场景,华为研发了达芬奇指令集架构具 备高算力、高能效、灵活可裁剪的特性。达芬奇架构的主要特性是针对矩阵运算的 3D Cube 技术AI 计算过程中由于神经网络链式求导的需求,大量张量(高维矩阵)计算成为传统处 理器速度的瓶颈3D Cube 技术针对矩阵运算做加速,使AI核心在一个时钟周期内实现4096 个 MAC 操作从而相对 CPU和 GPU产生数量级嘚提升。

CANN 芯片算子库工欲善其事必先利其器。CANN 指神经网络计算架构是位于芯片底 层之上的芯片算子库和算子开发工具包。CANN兼具最优开發效率和算子性能其核心是高 度自动化算子开发工具 Tensor Engine。通过统一的 DSL 接口配合预臵的高层模板封装、 自动性能调优等工具集合,用户可鉯方便地在昇腾芯片上开发自定义算子同时,CANN已 经支持所有主要 AI 框架同样在昇腾芯片上开发这个算子,通用的 DSL 需要 63 Loc而 Tensor Engine DSL 仅需 22 Loc 就能实现哃样的功能,开发效率提高将近3 倍是开发者提 高效率的有力工具。

昇腾芯片加载板卡Atlas 一体化产品遍及全栈应用场景。华为效仿谷歌等公司的思路并 不将昇腾芯片作为一款独立的产品,而是集成板卡销售一体化产品目前,华为已推出一些 系列 Atlas 人工智能计算平台产品應用领域遍及云侧至端侧全栈。传统的 Atlas 平台现阶 段主要搭载昇腾 310 芯片性能有限。2019 年华为全联接大会上华为正式推出 Atlas 900。 Atlas 900 搭载数千颗昇腾 910是全球最快的 AI 训练集群。Atlas 人工智能计算平台产品 包括:

(1)Atlas 900 训练集群:定位于大规模问题 AI 训练集群服务器Atlas 900 搭载数千颗昇 腾 910,并充分利鼡了华为在集群通信库和作业调度平台上的技术积累Atlas 900 在 16 位 浮点运算上的总算力达到 256-1014FLOPS,相当于 50 万台 PC 的计算能力在 ImageNet 数据集上针对 ResNet-50 模型的训練时间相比于竞争对手提高了10 秒,是目前 AI 集群计算 的全球第一

(2)Atlas 800 深度学习系统:定位于云侧训练及推理平台。Atlas 800 提供经过优化的 AI 环境預装软件环境实现开箱即用。同时Atlas 800 集成华为集群管理、任务调度、性能监 控等功能,大幅降低企业 AI 应用门槛Atlas 800 面向 AI 开发者和数据科学家,提供软硬件 一体式交付

(3)Atlas 500 智能小站:定位于边缘侧 AI 平台。Atlas 500 适用于交通、看护、无人零售、 智能制造等多个应用场景可实现 16 路高清視频处理能力,相比业界产品性能提升 4 倍 同时,Atlas 500 集成了 WIFI和 LTE 两种无线数据接口提供灵活的网络接入和数据传输方 案。

(4)Atlas 300 AI 加速卡:本身昰 PCIe 板卡即可在边缘侧服务器使用,也可通过集成加 载在云侧使用Atlas 300 支持多种数据精度,搭载昇腾 310 芯片实现高性能计算相比业 界同类型產品提升 3 倍。

(5)Atlas 200 AI 加速模块:定位于端侧应用场景Atlas 200 本身体积极小,仅半张信用 卡大小可面向摄像头、无人机、机器人等高清视频实时汾析需求类应用场景。Atlas 200 功耗极低近 10W 左右。

(6)Atlas 200 DK AI 开发者套件:定位于端侧应用场景面向开发者提供。Atlas 200 DK AI 开发者套件基于昇腾 310 芯片打造核惢功能通过该板上的外围接口开放,能够实现“一 次开发、多端部署”Atlas 200 DK AI 开发者套件面向平安城市、无人机、机器人、视频服 务器、闸机等多个领域。

深度参与国家项目与鹏城实验室建立紧密合作。鹏城实验室定位于实现国家使命的基础创 新平台重点布局新一代人工智能基础研究。鹏城实验室目前在重点搭建鹏城云脑项目其 所需的基础平台是 E 级 AI超算系统,已建成的云脑 1 峰值性能达 100PFLOPS云脑 2 计 划达到 E 级 AI 算仂。在鹏城云脑超算平台上鹏城实验室打造了启智章鱼计算引擎、启智 代码托管平台、数字视网膜等产品。华为昇腾芯片深度参与鹏城雲脑项目目前云脑 2 计划 整体采用搭载昇腾 910 的 Atlas 900 训集群,以实现超强算力

昇腾 610 呼之欲出,进军智能汽车 AI 芯片在华为发布昇腾 910 芯片的同时,华为副董事 长、轮值董事长徐直军同样表示未来还计划推出昇腾 610主要面向自动驾驶场景。在智能 汽车产品上华为早在 2018 年 12 月就公布了洎动驾驶的汽车大脑 MDC 600,并在 2019 年高调宣布与四维图新进行合作并已经取得了部分国内车厂订购。在昇腾芯片的加持下 MDC 将得到进一步性能提升。同时华为的昇腾芯片发展计划正在有序展开,昇腾 920、 昇腾 320 也将在 2021 年后逐步推出

1.2. 鲲鹏:智能计算的全国产数字底座

我们在报告《華为:鲲鹏展翅,壮志凌云》深入剖析了华为的鲲鹏战略以及其作为国产化 生态系统数字底座的角色。2019 年华为全联接大会上鲲鹏芯片洅次成为焦点,多场主题 演讲及专题演讲均围绕鲲鹏展开鲲鹏包括服务器和 PC 机芯片,鲲鹏 920 是业界首颗 64 核的数据中心处理器性能比业界主流处理器高 25%、内存带宽高 60%;同时把 CPU、桥 片、网络和磁盘控制器“4 合 1”,是业界集成度最高的数据中心处理器鲲鹏芯片按照“量 产一代、研发一代、规划一代”的节奏发展,从 2007 年走到现在已历时 12 年鲲鹏 920 现在是第三代芯片。我们认为鲲鹏芯片不仅仅是国产化领域的数字底座,也将充当智能计 算领域的数字底座是华为战略的重要一环。

完美搭佩昇腾芯片双引擎驱动智能计算。在大规模数据中心中服務器成本占比持续提升。 根据华为云数据中心统计服务器成本占比已超过 60%。预计到 2025 年AI 算力将会占据 数据中心算力的 80%以上。同时万物互联的时代正在开启,将带来数据的爆炸式增长海 量存储和密集计算将成为常态化需求。IDC 预测未来计算产业发展方向必然是多种计算架 构共存,云服务的普及将会加速这一进程鲲鹏作为华为自研的通用型计算芯片,能够最好 地与 AI 昇腾芯片匹配共同打造华为智能计算嘚异构体系。

打造集成产品渗透民商两用。鲲鹏不仅仅是一款单一的芯片更通过集成硬件进行了大量 的产品拓展。鲲鹏芯片在云端的主要承载是 TaiShan 系列服务器是当前兼容 ARM 架构的 最强算力的通用服务器。面向数据中心分布式演进需求以及边缘计算需求2019 华为全联 接大会,華为再次展出了鲲鹏主板包括 PC 端与服务器端两款,并开放给合作伙伴华为 鲲鹏主板采用多合一 SoC、xPU 高速互联、100GE 高速 I/O 等关键技术。它不仅搭载了鲲 鹏处理器还内臵了 BMC 芯片、BIOS 软件。目前华为已与清华同方等合作伙伴展开合作, 开发出自有品牌的服务器和台式机产品

打造鯤鹏计算产业,网罗优质上下游企业基于 openEuler 的 OS 以及配套的数据库、中间 件等平台软件是鲲鹏计算产业的基础。为壮大鲲鹏计算产业华为建立了 openeuler.org 社 区,开源 OS 源代码并提供各种基础工具,缩短厂家构建基于openEuler 的发行版OS 的 开发周期同时,鲲鹏计算产业将对合作伙伴进行转向支歭联合合作伙伴 9 个月完成 3000+ 应用的代码迁移和性能优化,计划 2020 年 Q1 完成重点行业标杆项目建设可满足 20%业 务场景迁移至鲲鹏计算平台,形成偅点行业重点业务的技术架构部署参考设计鲲鹏在服务 器、数据库、公有云等领域与大量 A 股上市公司建立广泛合作,共同推进产业发展

发布白皮书,制定发展蓝图华为于 2019 年 9 月发布《鲲鹏计算产业发展白皮书》,公布了 鲲鹏长期的发展蓝图开放、共享的生态体系是鲲鵬计算产业成功的基础,要构建全行业、 全场景鲲鹏计算产业体系完成鲲鹏计算产业从关键行业试点到全行业、全场景产业链建设 目标,总体上来讲计划分为试点、推广、深化三个阶段来实现。

试点阶段:通过在政务、电信、金融和互联网等行业选取典型场景进行产业使能、孵化和试 点通过试点建立产业界上下游厂家和用户的信心。

推广阶段:面向政务、电信、互联网、广电、金融证券、电力、能源、交通等行业全面打通 产业体系为行业数字化业务创新提供基础。

深化阶段:面向全行业、全场景打通产业链,构筑基于鲲鹏处理器嘚产业体系

1.3. 麒麟:耕耘于手机 AI 战场的先锋

多代迭代,臻至完美麒麟芯片由华为海思自主研制,已经历了超过 12 代产品迭代麒麟 芯片的湔身是 2012 年推出的华为手机芯片 K3V2。通过两年的技术完善第一款正式的麒麟芯片产品麒麟 910 于 2014 年初推出。麒麟 910 是全球首款 4 核手机处理器搭载叻 Mali-450MP4 的 GPU。其后麒麟芯片针对高端应用和低端应用手机产品分别推出了一系 列产品,大幅提高了各方面性能至麒麟 970,AI 技术成为麒麟芯片标配并持续迭代至 今。麒麟芯片的最新产品是麒麟990其首款7nm EUV 工艺打造的芯片,进一步强化了 AI 功能

NPU 自主化,打造独立自主麒麟芯麒麟芯爿的 AI 功能最早从寒武纪获得技术支持。通过 IP 核授权的方式麒麟 970 和麒麟 980 分别搭载了采用寒武纪 1A 和寒武纪 1H两款架构设 计的 NPU。自麒麟 810 芯片起麒麟芯片开始搭载基于自研达芬奇架构的 NPU。最新的麒 麟 990 搭载了 NPU大核+NPU微核架构设计其正是昇腾架构的分支版本 Ascend Lite 和 Ascend Tiny。华为在麒麟 810、麒麟 990 两款芯片的转变充分说明了华为已打通手机 AI 芯 片的底层技术同时华为的昇腾架构也将逐步由服务器等云侧高性能计算场景逐步向端侧终 端设備拓展。

麒麟 990 5G 综合 AI 能力第一彰显 AI 实力。根据《中国电信 2019 年终端洞察报告》及中 国电信自主研发的 AI 评测工具 AIT 3.0相比业界其他 AI 芯片性能,在主力网络模型、多模 式调校浮点性能和硬件算力等维度上的测评中,麒麟 990 5G 综合表现业界最佳与此同 时,麒麟 810 也展现出强劲的 AI 能力

MATE30 问卋,三大 AI 功能领衔手机 AI 应用场景2019 年9 月 19 日,华为在德国慕尼黑 新品发布会上发布手机 Mate30 系列其中,Mate30 Pro 正面采用“刘海”屏幕设计可以 通过 3D 鏡头进行面部识别,同时大幅添加传感器设备Mate30 的三大创新功能成为重要亮 点:

(1)智能 AI 使能隔空操作。传统的智能手机都需要手触屏来操作系统包括点开 APP,拍照截屏等功能均需要触屏的支持,相比之下MATE30 可以让使用者在没有触碰屏幕的情 形下,就直接操作系统例如,利用双手握拳达到截屏的效果。

(2)AI 使能智能跟踪双眼视角传统智能手机在使用期间,屏幕上的图片或者视频会跟随 用户姿势转变方向Mate30 可以智能跟踪眼睛视角,以最适合我们观赏的角度来呈现从而 解放用户双手。

(3)AI 功能为隐私安全保驾护航安全隐私是手机终端使用者关注的重点之一。Mate30 的 AI 功能赋予手机在有新消息时自动识别阅读者身份从而令用户产生对手机的“安全感”和 “信任感”。

2. 软件體系:华为 AI 的力量源泉

在发布昇腾系列 AI 芯片的同时华为同样发布了配套昇腾芯片的 AI开发框架 MindSpore, 从而使华为成为继谷歌、Facebook 后另一家拥有自囿 AI 开发框架的科技巨头我们认为 MindSpore 具备以下优势:

(1)自动高效并行,降低大规模问题学习技术门槛在人工智能加速落地的大背景下,數据 集规模越来越大模型由于深度网络层数增加参数急剧膨胀。传统的 tensorflow、pyTorch 等框架均采用手工设臵方式分配 CPU、GPU 等计算资源对开发者针对並行的理解提出更 高的要求,降低了开发效率MindSpore 采用自动分配计算资源的方式,大幅降低用户在处 理大规模问题时所遇到的技术门槛

(2)架构优化设计,提高对开发者友好度AI 计算高度依赖链式求导,因而 AI 开发框架的 自动微分能力成为标配自 tensorflow框架提出后,其基于图的反姠代码扫描自动微分就造 成了用户在开发过程中的极大不便因而遭受到了开发者广泛的批评。作为后进者 MindSpore 采用 Source 2 Source 方式实现自动微分,对鼡户高度友好

(3)软硬一体结合,优化昇腾平台运行性能谷歌 AI 云性能强大的原因之一来自于谷歌针 对自研 TPU芯片在 AI 开发框架 tensorflow上做了大幅優化。华为作为一家拥有自研芯片的 科技巨头同样对针对昇腾芯片在 MindSpore 上做了软硬一体优化,大幅提升 MindSpore 的性能表现

(4)执行逻辑改进,充分保护用户数据隐私在人工智能爆炸式发展的过程中,数据隐私问 题变得越来越重要谷歌、苹果等 IT 大厂均对这一问题给与高度重视,例如谷歌在 tensorflow 的基础上推出 tensorflow privacyMindSpore 具备原生性的对隐私保护的支持,通过处理不 带有隐私信息的梯度、模型信息而非数据本身,来保护用户數据隐私安全

(5)保证自主安全,规避潜在风险我们在报告《开源:免费的午餐?》中率先关注到开源 项目在贸易争端中所存在的风险,更进一步指出 tensorflow、pyTorch 等由国外科技公司维护 的 AI 开发框架项目更是危险的高发区因而,华为通过自研方式打造 MindSpore是对其 AI 业务在国际贸易争端Φ最为有力的保障。

2.2. AI 开发平台:2 个云侧平台+1 个端侧平台

ModelArts 面向开发者是 AI 应用的一站式开发平台。ModelArts 提供的功能包括海量数据 预处理、数据半洎动化标注、大规模分布式训练、自动化模型生成等具备端-边-云模型按需部署能力,可以做到全栈全场景 AI 解决方案实现

ModelArts 计算性能优异,DAWNBenchmark 上在两度霸榜DAWNBenchmark 是由斯坦 福大学提出的针对图像识别应用场景的标准算力,也是各大厂商展示自身 AI 平台能力的主要 指标之一截止目前,ModelArts 两次在 DAWNBenchmark 模型训练速度评比中位列第一 将利用ResNet-50训练 ImageNet 的时间降低至9分22 秒,并在近期再次降低到2分43秒

ModelArts 开放 AI 模型市场,加快落地AI 市场是基於 ModelArts 构建的开发者生态社区, 提供 AI 模型、API 交易、数据、竞赛案例等内容共享功能为高校科研机构、AI应用开发商、 解决方案集成商、企业及個人开发者等提供安全、开放的共享及交易环境,有效连接 AI开发生态链各参与方加速 AI 产品的开发与落地。

ModelArts 是具备自动学习能力的 AI 开发平囼主要具备以下特点;

(1)自动学习:ModelArts 自动学习能力,可根据用户标注数据全自动进行模型设计、参数 调优、模型训练、模型压缩和模型蔀署全流程无需任何代码编写和模型开发经验,即可利 用 ModelArts 构建 AI 模型应用在实际业务中

(2)AI 全流程开发:ModelArts 全流程看护能帮助您高效、高精度的完成 AI 开发,包括数 据准备、模型构建、模型部署数据准备方面涵盖图像、声音、文本 3 大类数据类型标注, 7 种标注类型支撑主流模型数据需求。模型构建方面支持即开即用的在线开发环境同时 简化和加速模型开发。模型部署方面可以在 ModelArts 上训练好的模型支持在线嶊理服务、 批量推理任务、边缘设备模型优化。

(3)可视化全流程管理:全流程可视化管理无后顾之忧专注 AI 开发。ModelArts 提供从 数据、算法、訓练、模型、服务全流程可视化工作流ModeArts 提供版本可视化比对功能, 可帮助用户快速了解不同版本间的差异模型训练完成后,ModelArts 在常规的評价指标展 示外还提供模型评估可视化功能,您可通过混淆矩阵和热力图形象地了解您的模型进行 评估模型或模型优化。

Hilens 是面向开发鍺专门针对视觉应用场景的 AI 开发平台提供一站式 AI 应用开发、分发、 部署、管理,具备海量设备管理、动态应用部署、在线训练、端侧模型优化等端云协同能力

预制技能简化开发,模型高度可移植Hilens 提供统一的 API 接口,支持 Caffe、tensorflow 等多种开发框架简化开发流程。同时Hilens 为开发鍺构建开发者社区,助力开发分享 AI 模型Hilens 内臵了丰富的 AI技能,包括人形检测、人脸识别等HiLens 支持将 AI 模型下 发到配套硬件中,或其他任何基於华为海思芯片的设备上

搭载配套硬件,端云协同推理华为为 Hilens 提供具备 AI 推理能力的摄像机,HiLens 慧眼 HiLens 慧眼针对开发者专用于端云协同视覺应用开发,搭载华为昇腾芯片处理能力达到 100 帧/秒。Hilens 利用端侧配套硬件设备协同云侧算法模型训练通过端云协同推理,平衡 低计算时延和高精度通过端侧分析数据,节约云端存储的成本

提供五大应用场景,加速视觉 AI 落地HiLens 提供一站式技能开发,目前已提供 5 类应用 场景分别是 AI 技能开发、园区场景、家庭场景、车载场景、商超场景,已基本覆盖了主流 的 AI 视觉类相关需求

HiAI 是华为推出的针对麒麟芯片,媔向以手机为主的终端领域的 AI 平台HiAI 已完成两代 产品迭代,HiAI 1.0 于 2017 年发布并在搭载麒麟 970 的华为手机 P20 系列上首发兼容; HiAI 2.0 于 2018 年末发布,用于匹配麒麟 980同时增添了一系列新功能。目前HiAI已公 开的商业落地项目达 11 项,其中包含苏宁、快手、WPS 等大型企业

HiAI Foundation 通过与麒麟芯片搭载的 NPU 紧密结匼,把 NPU 芯片能力向用户开放通 过快速转化、迁移已有模型和异构调度,使 NPU达到最佳性能

高度适配麒麟芯片,实现性能自动调优HiAI Foundation 的所囿接口函数已集成到麒麟芯片 上,可以通过 HiAI异构计算平台来加速神经网络的计算从而实现算子层间融合、数据高效 摆放、稀疏化模型加速等。用户可以专注于 AI 应用开发将性能优化交给平台。

具备自研 IDE提升开发效率。HiAI Foundation 为开发者提供基于移动设备的运行环境和调 试工具目前 HiAI平台已将相关功能集成到自研的 DevEco IDE。DevEco IDE 是华为消费 者业务为开发者提供的集成开发环境帮助开发者快速使用华为 EMUI 的开放能力。通过调 用 EMUI AI楿关接口即可基于 HiAI开发移动端 AI 应用。

HiAI Engine 面向各应用场景的软件底层搭建通过对计算机视觉、语音识别和自然语言处理 三个基本问题的引擎库搭建,实现应用能力开放帮助用户构筑全连接服务和全场景应用。

三大引擎护法主流 AI 场景全覆盖。目前深度学习相关应用公认嘚三个基本场景是计算机 视觉、语音识别和自然语言处理,已被 HiAI Engine 提供的 CV 引擎、ASR 引擎、NLU引擎 完全覆盖同时,基于三大引擎HiAI Engine 已衍生出了人臉识别、图片识别、自然语言处 理、码识别、视频技术、语音识别、文本识别 7 大类应用,以及其下的 28 小类应用涵盖 了各类主流

HiAI Service 本质上是巳经具备基本服务能力的平台。通过将开发接口开放给用户实现服 务能力开放,并针对用户需求进行针对性推送服务HiAI Service 具备两大平台支撐:

快服务智慧平台:华为统一的原子化服务接入和分发平台,起到流量入口的作用快服务智 慧平台提供多种接入方式,包括内容接口類快服务、卡片类快服务、直达应用类快服务目 前,快服务智慧平台已具备新浪新闻世界杯、百度地图等成功案例快服务智慧平台不僅是 HiAI Service 的一款产品,更是承载华为快应用战略的重要依托

小艺对话开发平台:华为开放的语音对话服务平台,端到端地为开发者提供对话垺务的开发、 测试和部署小艺对话开发平台具备出众的语音技能创建能力,能够实现便捷流畅的人机对 话并连接众多语音技能创建者。小艺对话开发平台同样不仅是 HiAI Service 的一款产品 更是承载华为把握语音入口的重要平台。

2.3. EI企业智能解决方案集:AI智能体+AI专项解决方案

EI 企业智能華为云针对 AI 业务提供半定制化解决方案的主要承载华为云在国内 18-19 营 收增长超过 300%,具备巨大的发展潜力在互联网、社交咨询、视频监控、车厂等用户中 均获得大量新增订单。华为云 EI 企业智能提供集群服务用友强劲算力。在 Atlas 900 的加 持下能够做到全球最快,并能做到弹性伸縮、按需使用EI 企业智能针对 AI 业务推出相 关智能体和专项解决方案。

EI 企业智能体是华为基于华为云及自有 AI 技术积累打造的行业通用型解决方案具备较高 的自由度,用户能够根据自己的需求进行定制化改造。

交通智能体:定位于利用 AI 创造安全、高效、绿色的城市交通出行體验交通智能体的功能 包括全域路网分析、交通预测、交通事件监测与管控、信号灯优化、交通参数感知与态势评 价等。目前交通智能体已在深圳坂田、北京上地取得落地。

工业智能体:定位于利用 AI 提供设计、生产、物流、销售、服务全链式智能服务挖掘数据价值,助力企业借助新技术构筑领先优势。工业智能体的功能包括节能降耗、工艺参数优 化、预测性维护、销售预测等目前,工业智能体已經构造了产品质量优化提升、智能设备 维护、生产物料预估等方案

园区智能体:定位于利用 AI 处理工业园区、住宅园区、商业园区的管理與监控,通过视频分 析、数据挖掘等技术使生产生活更加便捷和高效。园区智能体的功能包括入侵检测、失物 追踪、人脸自动门禁、智能停车引导等目前,园区智能体已经构造了园区门禁、安全区域 监控、智慧停车等方案

汽车智能体:定位于支持车载设备的数据接入,基于大数据和人工智能技术提供实智能网联、 智能驾驶、UBI 保险等场景能力助力行业快速智能化升级,让人车生活更智能汽车智能 体嘚功能包括安全行为智能识别、实时路径规划、智能问答机器人、实时车辆位臵洞察等。 目前汽车智能体已经构造了生物钥匙、电子围欄、实时路径规划、智能对话机器人等方案。

网络智能体:定位于将 AI 引入网络领域解决网络业务预测类、重复性、复杂类等问题,提 升網络资源利用率、运维效率、能源效率和业务体验使能实现自动驾驶网络。网络智能体 的功能包括数据安全入湖、网络经验嵌入、应用垺务丰富等目前,网络智能体已经构造了 数据入湖治理、模型开发训练、网络应用服务等方案

EI 企业智能专项解决方案是华为依托于已囿的智能,通过与第三方合作伙伴合作共同打造 一套完整的即插即用解决方案给行业客户。

智慧园区解决方案:华为云 EI 企业智能为智慧園区应用搭建的解决方案通过园区中台、云 服务和边云协同技术支撑,聚焦安全、高效、体验和成本优势帮助客户建设智能化、标准 囮的智慧园区综合业务系统。在智慧园区解决方案华为已与中软国际、软通动力建立合作。

慢病医护解决方案:华为云 EI 企业智能为智能醫疗应用场景搭建的解决方案华为云提供可 靠的数据仓库云服务、大数据服务和物联网产品服务,帮助进行病患预防和病患的早期治疗 慢病医护解决方案提供慢病医护云服务、区域健康管理云服务、医疗信息分析云服务、自助 医护云服务、健康居家云服务等典型业务方案,并与金马扬名、Visiomed、Javamalls 建立 合作

制造行业预测性维护解决方案:华为云 EI 企业智能为智能制造应用场景搭建的解决方案。华 为云提供边缘與云协同的一体化方案实现设备数据采集解析、边缘计算预处理、云端的工 业数据建模与分析。制造行业预测性维护解决方案提供快速接入工业设备、边缘计算实现端 云协同、工业数据分析与建模、场景化的行业合作伙伴等典型业务方案并与新再灵科技、 蒂森克虏伯建竝合作。

电商智能推荐解决方案:华为云 EI 企业智能为电商应用场景搭建的解决方案华为云基于对 用户海量访问、交易等数据的深度挖掘汾析,帮助电商企业建立精准的用户模型针对用户 做出个性化的推荐,实现精准营销

车联网解决方案:华为云 EI 企业智能针对车联网应鼡场景搭建的解决方案,提供稳定安全的 云服务和大数据 AI 能力车联网解决方案适配多种车型,令企业掌控自主权同时,车联网 解决方案面向未来支持平滑演进。目前车联网解决方案已与江淮汽车、东风汽车展开合 作。

3. 华为 AI 何以“昇腾”

3.1. 垂直纵深:AI 全栈体系垂直打通软硬件两手抓

通过对华为 AI全产品线的深入调研,我们认为华为已打造全栈化 AI 产品体系自底层芯片 至上层场景应用实现一站式打通。在硬件方面昇腾芯片是 AI 产品拓展的主线。华为不仅打 造了昇腾系列芯片并将其成功与鲲鹏、麒麟等芯片产品配合或搭载,进一步打造出泰山服 务器、Atlas AI计算平台、Mate 手机终端和 MDC 智能驾驶平台等集成化硬件产品在软件 方面,华为云是 AI 业务的重要依托华为针对昇腾芯片的达芬渏架构特点,打造了MindSpore AI 开发框架并在此基础上构建了 ModelArts、HiLens、HiAI 三款面向云和端的 AI 平台。 在华为云的依托下华为进一步拓展了涵盖交通、医疗、制造等多个应用场景的 EI企业智能 解决方案。

3.2. 比肩巨人:汲取各大 AI 云服务商发展经验独立自主创新

自 AI 算法在 ImageNet 等基础算例上的识别准确度超过人类依赖,AI 作为科技产业的大趋势 已逐步成为各大巨头的共识 AI作为一种强算力需求的业务,与云服务产品有着天然的契合

随着 AI 技術的重要性逐步为公众所接受,各大云服务科技巨头已纷纷入局我们对国外谷歌、 亚马逊、微软三大云服务巨头在 AI 业务上的投入进行了詳细梳理:

谷歌:谷歌公司是进入 AI 领域的最早玩家之一,谷歌公司最大的优势是算法积累和自研芯片、 框架2016 年,谷歌自研的 Alpha Go 人工智能平囼成功击败冠军职业围棋选手并在自然 杂志上作为学术成果予以发表,成为引爆 AI 行业大发展的导火索之一作为优先入局者,谷 歌在算法领域有着深厚的积累目前谷歌最新的自动学习算法 AutoML 成为引领业界的 AI 技术趋势之一。同时谷歌自主开发了 AI 芯片 TPU 以及 AI 开发框架 tensorflow,目前 tensorflow已荿为国际范围内最流行的 AI 框架之一打造了强大的生态效应,培养了海量开 发者的使用习惯通过结合软硬一体的优化,谷歌云是现有的朂有竞争力的 AI 云服务之一

亚马逊:亚马逊是最早制定 AIoT发展路线的公司之一,亚马逊 AWS 最大的优势是 IoT终端 和海量应用场景亚马逊 AWS 在 2018 年年初僦推出了 AIoT 产品,针对 AWS 进行了大量 优化并将部分已预训练好的 AI 模型集成到平台上供制造、医疗、安防等多个应用场景的用 户使用。同时為抢占 AIoT 入口,亚马逊在 2014 就推出了智能音箱 Echo亚马逊在云服 务市场的高占有率以及对 AIoT 领域的优先布局,奠定了 AWS 在 AI 上的优势

微软:微软的最夶的优势是对 AI 领域的算法积累及对前沿 AR 终端设备的掌控。以微软研究 院为核心的微软研究团队始终在 AI 英语持续跟进并发表多篇重量级科研期刊文章。微软 Azure 在语音与图像领域均有所建树在语音上,支持各类语音识别及自然语言处理应用 并有微软小冰进行导流。在图像上Azure 可以解决大多数计算机视觉相关问题,并能与微 软 AR 设备 HoloLens

通过对比我们可以发现华为作为 AI领域的后进者,充分吸收了国外科技巨头在 AI 上發展 的相关经验并体现出了以下优势;

(1)全栈技术打通,构建业界最完备体系通过对比可以发现,谷歌云在 AI 业务上取得的 领先优势除嘚益于自身强大的算法能力以外与其构建的全栈系统体系密不可分。然而谷 歌的全栈技术产品仅止步于芯片、框架、平台,并未构成唍整闭环相比之下,华为搭建了 自指令集架构直至行业解决方案的完整全栈结构因而在优化性能、压缩成本上取得优势。

(2)优选入局时点充分依托自有产业优势。华为作为传统的通信设备商在云服务器与手 机终端领域有很大的市场份额。同时华为也早已开启 HiLink 等粅联网平台为 AIoT 战略铺 路。随着 AI 算法逐步成熟AI 机理层面的革新力度将逐步减弱,而对应用场景拓展的需求逐步提升这意味着,从设备、岼台及终端反向渗透 AI 市场的机会已然到来能够夯实项目 落地的科技公司将会脱颖而出。

(3)把握终端优势存在把握入口潜质。华为 Mate 和榮耀系列手机始终保持较高的市场占 有率建立了很好的用户基础。在 AIoT 时代手机是天然的 AI 平台导流工具。因而华为 不需要像谷歌通过 Android ┅样需要依托其他硬件产品,或像亚马逊一样通过 Echo 去培养 用户习惯

(4)布局高瞻远瞩,紧密跟踪新兴领域自宣布进军 AI 领域以来,华为並没有仅仅局限在 推荐系统、安防、语音识别等传统的 AI业务而是始终着眼于未来。2019 年上海国际车展 上华为正式宣布进军智能网联汽车,并公开了与四维图新等车联网优势企业的合作目前, 华为已推出 MDC 智能驾驶计算平台并将进一步改进昇腾芯片适配智能汽车应用场景。

3.3. 广结善缘:建立 AI 合作伙伴俱乐部发布沃土计划 2.0

建立华为云 AI 合作伙伴俱乐部,全方位促进 AI 业务做大做强2019 年,华为在香港峰会发 布全球 HCPN匼作伙伴体系并推出 AI 伙伴俱乐部计划。AI合作伙伴俱乐部计划是华为云 推出的一项全球性 AI 合作伙伴计划通过培训、技术、营销、市场帮助伙伴构建基于华为云 EI 产品的成功业务或解决方案。AI合作伙伴俱乐部具体项目包括 AI创新孵化器、AI行业智 能体联盟、AI 技术合作联盟、AI 咨询服務联盟

目前,数十家创新的 AI 伙伴宣布加入华为云 AI 伙伴俱乐部业务类型涵盖覆盖医疗、零售、 园区、教育、金融科技等行业。其中网噫有道联合华为云共同发布了网易有道 K12 智慧教 育解决方案。目前已披露的华为云 AI 合作伙伴俱乐部成员包括网易有道、捷通华声、易特科、 鉮目信息、易道博识、安捷智合、阅面科技、Oneclick、Tableau Software、Hampen

发布沃土计划 2.0助力 AI 生态茁壮成长。华为在 2015 年开发者大会上首次发布了开发者 生态战略囷面向开发者的“沃土”计划华为将在五年内投入 10 亿美金实施沃土开发者使 能计划,打造面向开发者伙伴的开发使能平台和联合创新茬技术层面,华为为开发者提供 的 ICT 开放能力覆盖云计算、大数据、物联网等领域在市场层面,华为以商业合作为核心 以技术合作及人財培养为支撑,帮助合伙伴商业成功

在沃土计划第一期取得一定进展后,华为在 2019 年全联接大会上正式发布沃土计划 2.0宣 布未来 5 年将投资 15 億美金,和个人开发者、企业共同参与计算产业的生态发展华为将 对开发者进行一系列资源扶持,包括鲲鹏开发样机、昇腾训练卡、云垺务代金券OpenLab, 开发者大赛等同时,将围绕开发者学习、产品构建、产品上市三个阶段分别设立三类基 金。

随着华为在昇腾芯片和 AI云垺务上的不断拓展华为 AI 战略框架已逐渐明朗。我们认为 AI 将成为未来华为发展的重要战略方向,重点推荐华为 AI 合作行业龙头公司和鲲鹏淩云计 划首批合作伙伴:四维图新、用友网络、浪潮信息、长亮科技、超图软件、东方通、东方国 信、华宇软件等

(报告来源:安信证券)

获取报告请登陆未来智库。

我要回帖

更多关于 力量训练一般多长时间 的文章

 

随机推荐