英伟达嵌入式计算平台Jetson：让神经网络走进终端设备

机器之心原创

作者：李泽南

在近日于英伟达总部举行的 Jetson TX2 Editor's Day 活动中，英伟达向人们展示了新一代 Jetson 计算平台的强大计算能力。

随着深度学习的开创性应用，人工智能技术迎来了一轮爆发式的发展，越来越多的 AI 应用正出现在人们的视野中。然而，机器学习应用依赖于硬件强大的计算能力，在缺乏网络的场景中，机器学习能否同样为人们带来便利，当代 GPU 硬件技术的优势能否走出云端？英伟达注意到了这些需求，它已将视线转向了智能终端市场。

2015 年底，英伟达推出了 Jetson TX1 嵌入式计算平台，该公司将其称为「信用卡尺寸的超级计算设备」。Jetson 凭借小尺寸、高效率的特点逐渐吸引了大量用户，应用场景也从无人机、机器人扩展到了智能电话设备、摄像头等新领域。随着用户对性能要求的不断提高，今年 3 月 8 日，英伟达发布了新一代嵌入式计算平台 Jetson TX2，将其人工智能终端计算解决方案 Jetson 系列也带入 Pascal 架构时代。

Jetson TX2 延续了该系列小体积、高度集成的特性，在信用卡大小的尺寸上整合了 4 核 ARM A57 CPU、Pascal 架构 GPU（16 纳米工艺）、最高 8G 内存、32G 固态存储器等组件。该设备的标准功耗为 7.5W，小于 Maxwell 架构的前一代产品。另外，英伟达宣称在有必要时 Jetson TX2 也可以将功率提高到 15W，从而达到 TX1 两倍的计算能力。与 Jetson TX2 共同推出的还有英伟达为该平台设计的新版开发工具包 Jetpack 3.0。

正如英伟达在 3 月的发布会上表示的，这家芯片公司正致力于培养一个嵌入式设备的新市场。对于英伟达而言，除了备受瞩目的北美科技公司，中国科技公司和开发者的地位正变得越来越重要。中国的科技公司不仅可以获得大量的用户和数据，而且还拥有独特的成长环境。「中国的科技开发环境是全球最具多样性的，」英伟达中国区高级市场总监刘念宁说道。「而在未来，不管什么样的应用场景，其前后端都将包含人工智能的应用。这就是我们在人工智能时代重视中国市场的原因。」

目前，人工智能应用的发展还处在起步阶段。每天都有很多新的应用场景出现，其中智能城市（AI CITY）是发展最快的方向之一，它也是 Jetson 嵌入式平台的完美应用场景。「预计到 2020 年，全世界将有 10 亿个智能摄像头，」英伟达软件专家李明博士表示。「这意味着巨大的计算量需求，将数据通过网络传送到云端处理会面临延迟、带宽和隐私等问题。所以，应用智能芯片在终端设备上处理机器学习任务非常重要，是人工智能实用化的关键。」

在英伟达的设想中，Jetson TX2 芯片在城市安保、智能无人机、海洋观测、智能农业、工业和商用机器人等领域有着广阔的前景。在嵌入式设备的计算芯片上，他们拥有无与伦比的优势。除了高性能，低功耗等优势外，英伟达还提供了完整的开发套件（Jetpack SDK）和教程，让用户可以迅速构建属于自己的平台投入生产。

「原先没有意义的大量视频，只有在经过人工智能分析后，才能体现价值。」李明解释道。

在安保领域，海康威视是全球领先的解决方案提供商。他们在 2016 年 10 月与英伟达共同发布了基于深度学习技术从后端到前端的全系列安防产品。其双目智能人脸网络摄像机（前端）与猎鹰视频云结构化服务器（后端）都采用了英伟达的 GPU 芯片。「在使用深度学习进行身份验证、轨迹分析和人流密度检测等任务时，GPU 的处理速度比通用处理器要快几十倍，」海康威视研究院工程师王鹏表示。「英伟达从 Kepler 架构发展到 Maxwell，再到现在的 Pascal 架构，4 年时间将 GPU 的推理性能提升了 26 倍，这个速度远远超过摩尔定律。」

来自猎户星空的蒋超则为我们介绍了英伟达嵌入式计算设备在机器视觉上的能力，他所在的初创公司致力于研发机器人模块。「Jetson TX2 真正解决了 SLAM（Simultaneous Localization and Mapping，即时定位与地图构建）的计算需求，」蒋超解释道。「机器人视觉是一个延迟敏感的问题，最好的解决方式就是在本地进行计算处理。Jetson TX2 拥有强大的计算能力，在处理 720p 彩色图像时的每秒帧数可达 100 帧以上，这意味着我们可以在 TX1 的基础上进一步引入感知工具，让终端设备拥有语义理解等新能力。」

在 CEO 黄仁勋的带领下，英伟达在人工智能计算设备的发展道路上一直处于领先地位，GPU 已经成为了几乎所有深度学习应用的标配。英伟达的发展速度令其竞争对手感受到了压力。4 月 17 日，全球最大的芯片供应商英特尔也宣布公司发展路线面临重大转型，其每年在旧金山举行的 IDF（Intel Developers Forum）将停止举办，而公司的发展方向将改变为人工智能、物联网、Optane 和自动驾驶。

3月底，英伟达中国将总部迁入了位于财富金融中心的新址，使用面积扩展了超过一倍。目前，英伟达正在不断招募人才，扩充其深度学习工程师团队。

英伟达把 Jetson 形容为一款开放式计算平台，无论企业、初创公司、研究人员或高中生，任何人都能使用并借助它为终端应用开发全新的人工智能解决方案。

人工智能应用的时代才刚刚开始，还有很多新的场景等待我们的发现。我们可以预料到，在未来智能硬件的舞台上，英伟达必将扮演重要的角色。