使用 NGC 集合构建和部署口罩检测应用软件

用到 NGC 构筑和协同作战便衣检验API

AI 社会活动时序很复杂。构筑一个 AI API不是一项简单的勤务，因为它必须各种具有各个领域专业知识的各种私利涉及者来大规模整合和协同作战API。数据资料科学家和整合人员必须便捷地会面时软件包构筑块，例如仿真和盖子，它们不仅安全、嵌入式，而且具有构筑其 AI 仿真所无须的基础的系统。

在构筑完了API之后，DevOps 和 IT 职员必须一些辅助工具，这些辅助工具可以帮助他们在各种设备二者之间无缝地协同作战和管理这些API，仅限于本地设备、虹设备或边缘设备。

NVIDIA 构筑了 NGC 清单，通过发放易于会面时的 GPU 改进软件包，例如盖子、而无须受训的仿真、应用框架和构筑 AI API所无须的 Helm 图像，来比较简单和减缓 AI 社会活动时序。

在这一本书里面，我们将展览如何用到 NGC 清单和它的核心底层特性，例如给定、NGC 私人Finder和 AI 构筑块来构筑和协同作战一个便衣检验API，作为一个举例来说，该举例来说展览了 development-to-deployment 管道。

比较简单浏览器旅程

随着 NGC 的推出，NVIDIA 比较简单了整个浏览器玩游戏，并将所无须的涉及盖子、仿真、文档和 Helm 图像集里面在一个大都，而无无须在清单里面定位和互相配合各种分立的构筑块。

您可以找出针对特定勤务的社会活动接地的 NGC 给定，如操作者音韵识别或图像分类，以及产业 SDK，例如 NVIDIA Clara 或迁移学习 (TLT)。如果您希望构筑一个应用于对象检验的API，那么在清单里面搜寻该给定，您将在一个大都找出所有涉及资产。

用到 NVIDIA TF32 Tensor Cores 减缓 AI 受训

NVIDIA Ampere GPU 的系统引入了第三代 Tensor Cores，以及新TensorFloat32 (TF32) 模式减缓 FP32 频域和乘积乘法。TF32 模式是AmpereGPU 的系统上 32 位变量的 AI 受训的意味着可选择。它为单弹道DL社会活动接地带来了 Tensor Core 减缓，而不必须对仿真脚本语言开展任何更改。

用到本机16 位JPEG (FP16/BF16) 的混合弹道受训几乎是创纪录的选择，只必须仿真脚本语言里面的几行文档。表1显示了与 FP32 CUDA 核相比，A100Tensor Cores 的数学吞吐量。世人指出的是，对于单弹道受训，A100 发放的数学吞吐量比上世代受训GPU V100 高 10 倍。

内部结构

TF32 是 GPU 的系统 Ampere 世代 Tensor Core 里面新增的一种新算出模式。点积算出，它上有了乘积乘法和频域的构筑块，将 FP32 的输入轮化到 TF32，在不损失弹道的情况下算出系列产品，然后将这些系列产品积累到 FP32 负载里面。

TF32 只是作为 Tensor Core 可用模式公开发表，而不是一个类型。内存里面的所有驱动器和其他可用完了全留存在 FP32 里面，只有频域和乘积乘法在乘法之前将它们的输入类比为 TF32。相反，16位类型发放驱动器、各种数算符等等。