生成式人工智能（AI）每天都在流行。 它就在我们周围，存在于我们的电脑和手机中，而且很快它将融入所有数字化事物。 如此大规模的人工智能集成需要更多的计算能力，因此中央处理单元（CPU）和图形处理单元（GPU）可能不足以满足此目的。

为此，引入了神经处理单元 (NPU)。 它们已经在我们身边集成到现代智能手机中，例如三星 Galaxy S22、S23 和 S24 型号。 然而，它们还需要一段时间才能在计算机中变得更加普遍。

什么是 NPU 以及为何需要 NPU

主要片上系统 (SoC) 制造商已经开始推出集成 NPU 的芯片组，例如 Intel Meteor Lake、Intel Core、Core Ultra 系列和 AMD Ryzen 8040。但问题仍然存在：什么是集成 NPU 的芯片组？ NPU 真的值得升级吗？

在本指南中，我们将讨论有关 NPU 的所有信息。 它将帮助您了解它是什么，您是否需要它，以及您的计算机是否有它。

什么是 NPU？

单来说，神经处理单元是专门处理机器学习算法的处理单元。 它们旨在以比 CPU 和 GPU 更快的速度处理复杂的数学计算，这对于高效的神经网络至关重要。

NPU 的目标是处理涉及多个较小计算的人工智能相关任务。 这些在处理大量多媒体数据（例如图片和视频）以及处理神经网络数据方面非常有效，因为它们是为数据驱动的并行计算而设计的。

尽管 CPU 和 GPU 能够处理机器学习任务，但它们的效率不如 NPU。 此外，在设备中加入 NPU 将承担 CPU 和 GPU 的大量负载，从而使它们能够有效地执行其他任务。

谷歌拥有自己专有的类似 NPU 的处理器，称为张量处理单元 (TPU)。 它们与 NPU 不同，因为它们遵循不同的架构，但具有处理复杂人工智能算法的相同共同功能。

NPU 的外观和功能很像专用集成电路 (ASIC)，但它们并不相同。 NPU 提供了更高的复杂性和多功能性，可以满足网络计算的多种需求，而 ASIC 则用于单一目的（例如挖掘加密货币）。 这是通过设计具有适合神经网络计算特定需求的专门编程和驱动程序的硬件或软件来实现的。

NPU、CPU、GPU 有什么区别？

AI 计算涉及大量乘法累加 (MAC)。 大多数人工智能算法都是跨大数据集的大型 MAC 树，它们可以很好地处理较小的部分计算，而不是较大的计算。 这正是 NPU 所擅长的。

虽然 GPU 和 CPU 都能够很好地执行人工智能计算，但 NPU 能够将它们分解成更小的部分并执行更快的计算。

GPU 设计用于并行处理大型数据集，例如处理图像和视频，而 CPU 是系统的通用大脑，用于执行各种任务。 然而，NPU 旨在快速处理较小的计算。 它们专为加速深度学习算法而设计，使其在处理 AI 工作负载时的性能明显优于 CPU 和 GPU。

NPU 与 TPU

前面提到，张量处理单元是谷歌开发的，专门用于神经网络的处理，就像 NPU 一样。 然而，NPU 和 TPU 之间的主要区别在于它们的架构。

传统的冯·诺依曼架构划分了内存和处理单元，并不是 TPU 的基础。 相反，TPU 采用一种称为脉动阵列的独特设计，它将处理和存储单元组合到单个芯片上。 正因为如此，TPU 可以比 NPU 更快、更有效地进行并行计算。

也就是说，虽然 NPU 在峰值性能下优于 TPU，但它们也消耗更多电量并具有更高的延迟。 尽管 TPU 比 NPU 功耗更低、延迟更短，但其峰值性能较低。

目前，TPU 仅适用于 Google Pixel 手机和 Google Cloud Platform。 此外，还有不同的版本可供选择，每一个版本都优于其前身。

什么是 GPNPU？

GPNPU 可能会被混淆为 GPU 和 NPU 的混合变体。 然而，该缩写代表“通用神经处理单元”。

GPNPU 利用统一处理器架构的单个执行管道，可以执行向量和矩阵运算以及标量（控制）代码。 由于整个设计中只有一个软件控制的核心，因此复杂的并行工作负载可以更简单地表达。

如何检查你的设备是否有 NPU？

检查您的设备（可能是计算机或移动设备）是否具有 NPU 的一种方法是访问处理器制造商的网站。 您可以通过制造商的文档了解处理器的特性和功能。

例如，如果您的智能手机配备 Snapdragon 8 Gen 3 CPU，则它具有集成的 NPU。

对于计算机来说，有多种方法可以检查其是否具有 NPU。

从 Windows 任务管理器检查计算机是否有 NPU

如果您的计算机有专用的 NPU，它应该在整个系统中显示为单独的硬件。 您可以从任务管理器检查您的 Windows PC 是否有专用的 NPU。 具体方法如下：

1. 按 CTRL + Shift + Esc 快捷键打开任务管理器。
2. 切换到性能选项卡。
3. 检查您是否有专用的 NPU 子选项卡。

从制造商网站检查电脑是否有 NPU

检查您的计算机是否具有 NPU 的另一个好方法是查看制造商的网站。 只需获取系统信息、上网并搜索制造商的网站即可了解您的电脑规格。 它会让您知道您的电脑型号是否有专用的 NPU。

或者，您也可以从系统中获取 CPU 详细信息，然后检查其制造商的网站以确认它是否具有集成的 NPU。

您可以访问英特尔的产品规格页面并选择您的 CPU 以获取其详细信息。 或者，如果您有 AMD 处理器，请访问 AMD 的产品规格页面并查看详细信息。

NPU 是未来吗？

人工智能在任何地方都占据着主导地位。 即使使用 Windows 11，您每个月也会注意到一项新的人工智能功能。 例如，微软前几天刚刚在照片应用程序中引入了人工智能驱动的生成擦除功能。 在此之前，他们推出了各种人工智能功能，例如 Copilot。 最重要的是，许多其他应用程序和服务正在融入人工智能。 因此，可以肯定地说，人工智能将很快接管我们生活的各个数字方面。

对于那些真正投资使用人工智能的人来说，NPU 可以成为他们硬件的有用补充，我们已经在上面讨论了它的好处。 也就是说，可以肯定地假设 NPU 将包含在我们使用的大多数现代设备中，甚至有一天可能成为物联网 (IoT) 设备的一部分。

我需要 NPU 吗？

与当今大多数可用的人工智能服务一样，例如 OpenAI 的 ChatGPT 语言模型，所有计算都在云端执行。 所谓云，是指 OpenAI 提供的托管硬件。 那么，当此类服务已经可用时，为什么还需要 NPU 呢？

拥有本地 NPU 可以减少将数据上传到互联网然后取回数据所造成的延迟。 因此，内部 NPU 具有速度优势。 因此，如果您的工作重点是人工智能，那么如果您拥有自己的 NPU，您将会受益匪浅。

此外，NPU 还可以减轻 CPU 和 GPU 的压力，让它们腾出空间来执行其他重要任务。 如果您的系统有自己的 NPU，那么您可以释放 CPU 和 GPU 来执行其他硬件密集型任务。

总而言之，如果您广泛执行以 AI 为中心的计算任务，则只需要 NPU。