栏目分类
你的位置:股票安全配资网_配资炒股新手开户_在线炒股3倍杠杆 > 股票安全配资网 >
纳格尔周三在加拿大蒙特利尔表示:“核心通胀确实仍然非常棘手。”他同时承认上周放松政策是正确的。“我们正走在一条崎岖不平的道路上证券配资风险,但我们都知道,最后一英里是最复杂的。”
(原标题:一文读懂NPU)
如果您希望可以时常见面,欢迎标星收藏哦~
来源:内容编译自extremetech,谢谢。
“NPU” 代表什么?它能做什么?你需要了解的有关这项新兴技术的信息。
在过去的一年里,关于神经处理单元(NPU)的讨论越来越多。虽然 NPU 已经在智能手机中出现几年了,但英特尔、AMD 以及最近的微软都推出了配备 NPU 的支持 AI 的消费级笔记本电脑和个人电脑。
NPU 与 AI PC 的相关概念密切相关,AMD、Apple、Intel 和 Qualcomm 等主要硬件制造商生产的芯片中越来越多地使用 NPU。自微软今年早些时候推出 Copilot+ AI PC 产品以来,NPU 开始越来越多地出现在笔记本电脑中。
l NPU 起什么作用?
NPU 的作用是充当人工智能的硬件加速器。硬件加速是使用专用硅片来管理特定任务,就像主厨将不同的任务委托给副厨师,让他们一起按时准备饭菜一样。NPU 不会取代您的 CPU 或 GPU;相反,NPU 旨在补充 CPU 和 GPU 的优势,处理边缘 AI 等工作负载,以便 CPU 和 GPU 可以为它们擅长的任务保留处理时间。
GPU 是专门为渲染图形而设计的硬件加速器,但具有足够的底层灵活性,也非常适合 AI 或某些类型的科学计算。长期以来,如果您有想要处理的 AI 工作负载,您会希望使用一个或多个高性能 [可能是 Nvidia?] GPU 进行实际的数字运算。一些公司正在致力于专门为 AI 构建专用硬件加速器,例如 Google 的 TPU,因为在“GPU”中带有“G”的附加图形功能在纯粹用于 AI 处理的卡中没有用处。
l 工作量决定一切
硬件加速在不涉及大量条件分支的重复性任务中最为有用,尤其是在数据量很大的情况下。例如,渲染 3D 图形需要计算机管理持续不断的无数粒子和多边形流。这是一项带宽密集型任务,但实际计算(主要是)三角函数。计算机图形学、物理和天文学计算以及大型语言模型 (LLM)(如支持现代 AI 聊天机器人的模型)是硬件加速的理想工作负载的几个例子。
AI 工作负载有两种类型:训练和推理。训练几乎完全在 GPU 上进行。Nvidia 利用其近二十年对 CUDA 的投资及其在独立 GPU 中的领导地位,在这两个市场上占据主导地位,尽管 AMD 已远远落后于第二名。大规模训练在数据中心规模进行,当您与ChatGPT等基于云的服务进行通信时运行的推理工作负载也是如此。
NPU(以及与之相连的 AI PC)的运行规模要小得多。它们可以补充您最喜欢的 CPU 供应商的微处理器中的集成 GPU,为未来的 AI 工作负载提供额外的灵活性,并且与等待云端相比,可以提高性能。
l NPU 如何工作?
一般来说,NPU 依靠高度并行的设计来快速执行重复性任务。相比之下,CPU 是多面手。这种差异反映在 NPU 的逻辑和物理架构中。CPU 有一个或多个内核,可以访问少量共享内存缓存,而 NPU 有多个子单元,每个子单元都有自己的微型缓存。NPU 适用于高吞吐量和高度并行的工作负载,如神经网络和机器学习。
NPU、神经网络和神经形态系统(如英特尔的 Loihi 平台)都具有一个共同的设计目标:模拟大脑信息处理的某些方面。
每家将 NPU 推向市场的设备制造商都有其特定于其产品的微架构。大多数制造商还发布了与其 NPU 配合使用的软件开发工具。例如,AMD 提供了 Ryzen AI 软件堆栈,而英特尔则继续改进其正在进行的开源深度学习软件工具包 OpenVINO。
l NPU 和边缘智能
大多数 NPU 都安装在面向消费者的设备中,例如笔记本电脑和 PC。例如,高通的 Hexagon DSP 为其骁龙处理器添加了 NPU 加速功能,用于智能手机、平板电脑、可穿戴设备、高级驾驶辅助系统和物联网。Apple 生态系统在 iPhone、iPad 和 iMac 的 A 系列和 M 系列芯片中使用了其神经引擎 NPU。此外,一些 PC 和笔记本电脑被指定为 Copilot+,这意味着它们可以在板载 NPU 上运行 Microsoft 的 Copilot AI。但是,一些服务器端或基于云的系统也使用 NPU。Google 的 Tensor Processing Units 是专为数据中心的高性能机器学习而设计的 NPU 加速器。
NPU 崛起的原因之一是边缘智能的重要性日益增加。在传感器网络、移动设备(如手机和笔记本电脑)和物联网之间,数据整理的需求已经日益增长。与此同时,基于云的服务受制于基础设施延迟。本地处理不一定非要在云端执行任何操作。这可能在速度和安全性方面都是一种优势。
你是否需要 NPU 这个问题几乎是一个转移注意力的话题。英特尔、AMD 和苹果等硅谷巨头已经投资了这项技术。无论你是否有特定的 NPU 用途,下次你组装或购买 PC 时,你选择的芯片很有可能会配备 NPU。到 2026 年底,分析师预计100% 的美国企业 PC 购买都将在芯片中嵌入一个或多个 NPU。换句话说,不用担心买不到带有 NPU 的系统。他们会主动找上门来的。
原文链接:https://www.extremetech.com/computing/what-is-an-npu
半导体精品公众号推荐
专注半导体领域更多原创内容
关注全球半导体产业动向与趋势
*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。
今天是《半导体行业观察》为您分享的第3907内容,欢迎关注。
『半导体第一垂直媒体』
实时 专业 原创 深度
公众号ID:icbank
喜欢我们的内容就点“在看”分享给小伙伴哦
证券配资风险
下一篇:没有了