NVIDIA在2023年的NVIDIA GTC上宣布,NVIDIA Jetson Orin Nano开发套件为创建入门级AI驱动的机器人、智能无人机和智能视觉系统设定了新的标准,同时也简化了使用NVIDIA Jetson Orin Nano系列的入门难度。紧凑的设计、众多的连接器和高达40 TOPS的AI性能,使得该开发套件非常适合将您的愿景概念转化为现实。
开发套件包括Jetson Orin Nano 8GB模块和参考载板,可以容纳所有NVIDIA Jetson Orin Nano和NVIDIA Jetson Orin NX模块,为原型设计下一代边缘AI产品提供了理想的平台。
Jetson Orin Nano 8 GB模块采用NVIDIA Ampere架构GPU,具有1024个CUDA核心、32个第三代Tensor核心和一个6核Arm CPU,支持多个并发的AI应用程序管道和高性能推理。开发套件载板具有广泛的连接器,包括两个MIPI CSI连接器,支持带有多达四个通道的相机模块,实现了比以前更高的分辨率和帧率。
上一代的Jetson Nano开发套件让AI技术变得更加普及。而新的Jetson Orin Nano开发套件则提供了80倍的性能提升,使得开发者能够运行任何现代AI模型,包括变换器和高级机器人模型。Jetson Orin Nano不仅在AI性能方面提供了巨大的提升,还提供了5.4倍的CUDA计算、6.6倍的CPU性能以及50倍的性能功耗比。
NVIDIA Jetson Orin Nano和NVIDIA Jetson Nano的性能和效率比较
NVIDIA Jetson Orin Nano 开发套件的特点
NVIDIA Jetson Orin Nano Developer Kit包括一个特殊的NVIDIA Orin Nano 8GB模块,带有SD卡插槽,一个参考载板,预装的散热器/风扇,一个19V DC电源和一个基于M.2-Key E的无线网络模块。除了可启动的microSD卡插槽外,载板底部还提供了两个M.2 Key-M NVMe插槽,用于高速存储。
Jetson Orin Nano开发套件
Jetson Orin Nano可以运行所有现代人工智能模型
Jetson Orin Nano 开发套件具有高达 40 TOPS 的 AI 性能,可以运行所有现代 AI 模型。这种计算能力的重大飞跃使得最具挑战性的 AI 应用成为可能,包括在边缘设备上运行 transformer 模型,这在 Jetson Nano 之前是不可能的。
Transformer 模型是最近生成式 AI 应用的基础,例如 ChatGPT 和 DALL-E,这些应用正在风靡全球。Transformer 模型通过跟踪序列数据中元素之间的关系来学习上下文和含义,从而消除了需要大型标记数据集的需求。支持以下内容:
将城市景观分割成不同类别
基于可变形检测Transformer
用于自然语言处理
Jetson 软件加速人工智能和 TTM
Jetson Orin Nano 开发套件运行 NVIDIA AI 软件堆栈,并提供可用的针对特定用例的应用框架。这些框架包括用于机器人的 NVIDIA Isaac、用于视觉 AI 的 NVIDIA DeepStream 和用于对话 AI 的 NVIDIA Riva。您可以使用 NVIDIA Omniverse Replicator 进行合成数据生成(SDG),以及使用 NVIDIA TAO 工具包从 NGC 目录中微调预训练的 AI 模型,从而节省大量时间。
图3展示了使用即将发布的 NVIDIA JetPack 5.1.1 在 Jetson Orin Nano 上运行一些计算机视觉基准测试的结果。这些结果表明,该开发套件提高了入门级计算机视觉的标准。测试包括一些来自 NGC 的密集 INT8 和 FP16 预训练模型以及一个行业 Resnet-50 基准测试。基准测试包括以下内容:
用于最高精度的人体检测
2D和3D模型
用于车牌识别
用于多人姿态估计
(224×224) 模型用于物体检测
使用预训练模型进行基准测试的结果,比较Jetson Nano和Jetson Orin Nano 8GB
Jetson Orin Nano开发套件是一款多功能平台,支持使用NVIDIA TAO Toolkit 4.0训练的模型,并将很快支持TAO Toolkit 5.0中新发布的模型。在TAO Toolkit 5.0中,开发者可以利用几个最先进的视觉转换器模型,用于图像分类、目标检测和分割等用例。要了解更多信息,请参见“使用NVIDIA TAO Toolkit 5.0访问最新的视觉AI模型开发工作流程”。
NVIDIA Jetson Orin Nano和NVIDIA DeepStream是边缘应用的理想组合,例如智能零售、智能城市交叉路口和工业自动化。随着即将推出的DeepStream版本和GXF运行时的引入,Jetson Orin Nano是运行需要与确定性系统紧密集成的AI图形的理想平台,这在工厂自动化用例中很常见。
此外,您可以使用最新版本的DeepStream Graph Composer构建应用程序,并通过单击按钮将它们部署到Jetson Orin Nano,从而快速熟悉DeepStream。
在DeepStream Graph Composer中构建应用程序并将其部署到Jetson Orin Nano
使用NVIDIA Isaac在NVIDIA Jetson Orin上加速机器人应用程序
NVIDIA Isaac机器人平台是用于开发、仿真和部署具有人工智能功能的机器人的强大端到端平台。具体而言,NVIDIA Isaac ROS是一组硬件加速软件包,使ROS 2开发人员更容易在Jetson Orin Nano开发套件上构建高性能的解决方案。新的NVIDIA Isaac ROS DP版本优化了ROS 2节点处理管道,可以在Jetson Orin平台上执行。它还提供了新的基于DNN的GEMS,旨在增加吞吐量。
图4显示了在Jetson Orin Nano上使用即将推出的NVIDIA Isaac ROS DP3版本运行这些机器人软件包的结果。性能是在负载下测量的,包括RCL中的消息传输成本,这是实际基准测试的指标,具有实际世界性能的指示。测试包括图表中看到的算法(图4),包括:
视觉冲击
标签检测和姿态估计
图像检测
图像分割法
邻近分割
立体视差
NVIDIA Isaac ROS GEM在NVIDIA Jetson Orin Nano 8GB上的性能、延迟和分辨率