链接: https://pan.baidu.com/s/1qWg9gFF6TkdU_PX_Kn3-Sg?pwd=xwnc 提取码: xwnc
出版社: 机械工业出版社
ISBN:9787111729518
版次:1
商品编码:14058254
品牌:机工出版
包装:平装
开本:32开
出版时间:2023-07-01
用纸:胶版纸
页数:220
产品特色
内容简介
这是一本讲解NPU硬件架构设计与技术实现的著作。作者将自己在CPU、GPU和NPU领域15年的软硬件工作经验融会贯通,将四代NPU架构设计经验融为一体,将端侧和云侧NPU架构合二为一,总结并提炼出本书内容。本书主要讨论神经网络硬件层面,尤其是芯片设计层面的内容,主要包含神经网络的分析、神经网络加速器的设计以及具体实现技术。通过阅读本书,读者可以深入了解主流的神经网络结构,掌握如何从零开始设计一个能用、好用的产品级加速器。
通过阅读本书,你将:
l 透彻理解与深度学习相关的机器学习算法及其实现
l 学会主流图像处理领域神经网络的结构
l 掌握加速器运算子系统和存储子系统的设计
l 摸清加速器设计中遇到的具体问题及其解决方法
l 了解NPU架构需要考虑的控制通路和数据通路
作者简介
甄建勇
资深CPU、GPU、NPU三栖架构师,从事相关软硬件架构与设计工作超过15年。现就职于地平线,担任BPU首席架构师。曾就职于英伟达,担任高级架构师,作为多款CPU、NPU、GPU的核心架构师,参与了Xburst、NVDLA、TensorCore的架构设计工作。熟悉SIMT/RayTracing等模块的架构设计与实现。擅长的领域还包括经济学、法学、心理学以及Linux内核、计算机图形加速和全同态加密。
王路业
优矽科技联合创始人兼总经理,中国开放指令生态(RISC-V)联盟(CRVA)软件开源工作组副组长。曾就职于ARM安谋科技、Synopsys新思科技、ST意法半导体和中国长城计算机。
精彩书评
当前,ChatGPT和自动驾驶等技术正在为人类社会带来巨大的生产力变革,其中基于深度学习和增强学习的AI计算扮演着至关重要的角色。新的计算范式需要创新的芯片架构设计,这正面临新的挑战。本书从神经网络的分析出发,总结和提炼了AI加速器架构设计中常见的难点,以及解决这些难点的技术、方法和思想,是AI软硬件架构师、设计师非常宝贵的参考资料。
—— 余 凯 地平线创始人兼CEO
本书详细总结了卷积神经网络的基本结构和算法实现,并且对卷积神经网络加速器的各种架构、具体硬件实现和优化进行了细致的阐述。本书介绍了一些关键电路设计的宝贵经验,以及对神经网络和加速器的思考和见解,为有志于神经网络加速器设计的学生和工程师提供了指引,相信读完此书一定大有裨益。
—— 何 虎 清华大学集成电路学院副教授/上海清华国际创新中心集成电路研究平台副主任
本书系统地介绍了基于CNN的AI加速器设计方法,使读者能够对该领域的架构设计有清晰的认识。本书结合作者在该领域的架构设计经验,对设计中遇到的具体问题加以讨论并引导读者思考,是一本非常实用的技术书,推荐想要从事相关设计的学生和工程技术人员阅读。
—— 梁晓峣 上海交通大学教授、博导、学科带头人
本书作者精于AI架构设计,书中对神经网络、加速器的架构及设计实现图文并茂地进行了阐述,从理论和实践两个方面深入探讨人工智能加速器的设计、优化和实现,帮助读者更好地理解人工智能加速器的本质和应用。本书非常适合AI硬件架构设计人员阅读,也推荐给对神经网络架构有兴趣的科技工作者和AI爱好者。
—— 吕坚平 天数智芯CTO
人工智能技术的快速发展在大大提高社会生产效率的同时,对算力的要求也到了前所未有的高度。同时,登纳德定律和摩尔定律的终结,更增加了算力提升的难度。在这种情况下,领域专用架构几乎成了唯一的解决方案。本书正是在这样的指引下,不仅给出了神经网络加速器的架构参考,还总结提炼了架构设计方法与思想,实属可贵,一定会对人工智能从业者大有裨益。
—— 焦李成 欧洲科学院外籍院士/俄罗斯自然科学院外籍院士
目录
目 录
前言
第1章 卷积神经网络 1
1.1 神经网络的结构 2
1.2 GCN 4
1.3 网络的基本块 7
1.4 网络的算子 17
1.5 网络参数量与运算量 29
1.6 加速器编程模型 31
1.7 硬件加速器架构分类 33
第2章 运算子系统的设计 35
2.1 数据流设计 35
2.2 算力与带宽 38
2.2.1 算力与输入带宽 38
2.2.2 算力与输出带宽 41
2.3 卷积乘法阵列 43
2.3.1 Conv算法详解 43
2.3.2 NVDLA的乘法阵列 47
2.3.3 TPU的乘法阵列 59
2.3.4 GPU的乘法阵列 66
2.3.5 华为DaVinci的乘法阵列 74
2.4 卷积运算