AI 硬件计算需求与应用

人工智能依赖的不只是算法。真实 AI 系统需要合适的计算平台、均衡的硬件资源、高效的存储访问，以及与工作负载匹配的加速结构。现代机器学习应用覆盖文本和代码生成、计算机视觉、疾病检测、芯片制造、自动驾驶系统和汽车目标识别。每类应用都会产生不同的延迟、吞吐量、精度、功耗、存储和部署环境需求。 AI、机器学习和深度学习代表智能计算的不同层次。机器学习使用数据构建模型，而深度学习使用分层神经网络处理图像、语言、信号和传感器数据中的复杂模式。这些模型会对计算硬件提出很高要求。小型推理工作负载可以在多核 CPU 上运行，而深度学习训练和高吞吐量推理通常需要 GPU、DSP、神经处理单元、张量处理单元或专用 AI 处理器 IP。 硬件选择需要清楚理解 CPU 和 GPU 架构之间的取舍。CPU 为小型模型和通用工作负载提供低延迟、灵活控制和更高精度。GPU 提供高并行度和高吞吐量，因此适合深度学习训练和图像识别加速。实际性能应通过每秒推理次数等真实工作负载指标进行评估，而不能只看理论峰值操作数。 边缘 AI 比大型集中式计算系统具有更严格的约束。边缘设备可能需要从 GOPS 到数百 TOPS 的性能，同时还要满足严格功耗和面积限制。常开模式、turbo 模式、传感器接口、并发工作负载、多种数据格式、每瓦 TOPS 和每平方毫米 TOPS 都成为关键设计因素。峰值 TOPS 本身不能定义适用性；完整网络性能和效率更加重要。 定制 AI 和机器学习芯片需要多个核心、可扩展加速器引擎、标量和张量处理器、基于 DSP 的传感器处理、片上存储，以及 DDR、LPDDR、GDDR 或 HBM 等片外存储。更大的模型需要更多 MAC 单元、更宽数据通路、更多存储、更高存储带宽，以及谨慎的精度选择。功耗分布也会成为主要设计问题，尤其是在 HBM、SoC 逻辑、中介层和其他封装组件之间交换大量数据时。 汽车 AI 硬件展示了这些需求如何在部署系统中结合。视觉 CNN 加速器、通用计算加速器、CPU 核心和 LPDDR 存储可以集成在同一封装中，以支持目标识别。AI 的更广泛影响也超出了硬件范围。AI 可以创造新岗位、自动化重复任务、提高生产力，同时也会带来关于偏见、隐私、问责、透明度、监管和劳动者权利的重要问题。 Catalogue: 从科幻到现实的 AI AI 与未来工作 AI 的长期影响 人工智能与机器学习与深度学习 自动驾驶汽车中的机器学习 计算机视觉中的机器学习 疾病检测与诊断中的机器学习 文本和代码生成中的机器学习 芯片制造中的机器学习 基础机器学习计算基础设施 CPU 与 GPU 架构对比 CPU 与 GPU 性能对比 边缘 AI 硬件需求 推理性能测量 神经处理单元 定制 AI 芯片需求 定制 AI 芯片设计挑战 定制 AI 芯片存储需求 定制 AI 芯片功耗分布 汽车AI定制硬件