入门篇-GPU知识概览

发表于 1年以前  | 总阅读数:449 次

厂的驱动工程师,主要是gpu领域的驱动软件。https://gitee.com/hinzer/blog

0 说明背景

做了一段时间的 GPU 固件和驱动开发,加上平时学习的一些零散的知识,最近打算整理,将这些做成一页文章。

  • 主线任务:梳理 GPU 的知识大纲 =====> 对标 GPU入门工程师
  • 支线任务:了解 GPU 硬件工作机理
  • 支线任务:掌握 GPU 固件工作机理 =====> 对标 GPU固件工程师
  • 支线任务:了解 GPU 驱动 和 GPU 固件的交互接口
  • 支线任务:掌握 GPU 驱动工作机理 =====> 对标 GPU驱动工程师
  • 支线任务:了解 GPU 驱动 和 LIBDRM 的交互接口

1 全局视角

1.1 应用场景(了解)

GPU 作为加速图形绘制的芯片时,它主要面向的产品主要是会集中在 PC 和游戏两个市场。

1.2 大概原理(了解)

GPU 是加速绘图的处理器,关于它如何绘制一张图片。这里引入《说透芯片》中的一段文字:

在 GPU 处理图像,特别是 3D 图像的时候,倒不是一个像素一个像素处理的,而是把 3D 图形转换成可以在 2D 屏幕上展现出来的,由顶点构成的无数个三角形。然后,根据每个三角形的三个顶点,把这个三角形所覆盖区域换算成像素,然后再做颜色效果,基本上就得到了屏幕上的最终效果。下面是用 GPU 处理一个 3D 桌子图像的绘制示意图,你大概可以理解这个处理过程。

图片来源:https://static001.geekbang.org/resource/image/3d/76/3d0202b2d306e9dyyfeb3041f41a5276.jpeg

1.3 技术图景(了解)

1)工具软件

  • 编译器,例如 LLVM
  • 调试器

2)系统开发

  • 用户态驱动,例如 Xserver/Wayland
  • 图形库,例如 Mesa3d
  • 接口库,例如 Libdrm
  • 内核,例如 Linux Driver
  • 固件,例如 RTOS

3)硬件组成

  • 命令处理器(Command Processor)
  • 数据并行处理器(Data-Parallel Processor)
  • 内存控制器(Memory Controller)

2 用户和内核

DRM 是目前 Linux 的主流图形显示框架,为了解释 DRM 能做什么,这里引入最新内核官方文档中的一段文字

The Linux DRM layer contains code intended to support the needs of complex graphics devices, usually containing programmable pipelines well suited to 3D graphics acceleration. Graphics drivers in the kernel may make use of DRM functions to make tasks like memory management, interrupt handling and DMA easier, and provide a uniform interface to applications.

2.1 整体框图(了解)

图片来源:https://en.wikipedia.org/wiki/Direct_Rendering_Manager#/media/File:DRM_architecture.svg

libdrm

对底层接口进行封装,向上层提供通用的API接口,主要是对各种IOCTL接口进行封装,便于重用与代码共享

KMS

正常工作时,需要设置显卡或者图形适配器的模式,主要体现在以下两个方面

  • 更新画面 : 显示buffer的切换,多图层的合成方式控制,以及每个图层的显示位置。
  • 设置显示参数 : 包括分辨率、刷新率、电源状态(休眠唤醒)等。

GEM提供内存管理方法,主要负责显示buffer的分配和释放。

2.2 驱动框架(待掌握)

图片来源:https://events.static.linuxfound.org/sites/events/files/slides/brezillon-drm-kms.pdf

1) 涉及元素

对 KMS 和 GEM 涉及到的组件进行概述,详细了解可参考 DRM 学习简介 | 何小龙 。

  • KMS:CRTCENCODERCONNECTORPLANEFBVBLANKproperty
  • GEM:DUMBPRIMEfence

2) 工作流程

从用户程序的视角,要实现既定的功能,可以直接调用 DRM 框架封装的接口。用户视角下面以模式设置为例,简述用户程序的调用流程

  1. 打开DRM设备文件 : open("/dev/dri/card0");
  2. 获取显卡资源句柄 : drmModeGetResources(...);
  3. 获取connectorId : drmModeGetConnector(...);
  4. 创建FrameBuffer : drmModeAddFB(...);
  5. 设置Crtc模式 : drmModeSetCrtc(crtc_id, fb_id, connector_id, mode);
  6. 资源清理工作 : modeset_cleanup(...);

内核视角

然后看接口 drmModeSetCrtc() 到内核态的执行过程

  1. Libdrm层 : drmModeSetCrtc -> DRM_IOCTL(fd, DRM_IOCTL_MODE_SETCRTC, &crtc); -> drmIoctl(fd, cmd, arg); -> ioctl(fd, request, arg);
  2. Kernel层 : ... -> amdgpu_kms_compat_ioctl -> amdgpu_drm_ioctl -> drm_ioctl -> ... -> drm_mode_setcrtc -> __drm_mode_set_config_internal -> drm_atomic_helper_set_config -> drm_atomic_commit
  3. 将修改提交到硬件:drm_atomic_commit 会调用 atomic_commit 接口(设备驱动程序注册到 struct drm_mode_config 对象下的接口),这是厂商自己实现的函数,例如 amdgpu_dm_atomic_commit

3 内核和固件

GPU 设备驱动程序是系统内核态的一个模块(这个系统运行在 CPU 上),而 GPU 固件是一个独立的系统(这个系统运行在 GPU 上)。硬件上它们相当一个多核异构。其实这里我比较关心的是驱动和固件之间的交互,两者之间的关系。

3.1 工作流程(掌握)

通过系统启动时和运行时的两个场景,大概理解下驱动和固件之间的交互过程

  1. GPU 驱动初始化 GPU 固件,并启动固件
  2. 驱动准备好顶点数据,流水线配置,命令队列,写到内存或者显存上
  3. 通知 GPU 固件新的命令队列的位置
  4. CP 中的固件同步命令队列,解析执行,并配置状态数据,设置图形流水管理模块
  5. GPU 开始干活,进入图形流水线

3.2 交互途径(掌握)

主机和固件有两种交互途径1)寄存器组

  • CPU 和 GPU 固件可以共同访问的一组通用寄存器
  • 软件设计上 : 寄存器类型由软件定义
  • 硬件结构上 : CPU - SREGS - EC

2)命令队列

  • GPU 固件驱动 DMA 来通过 SRAM 和 DRAM
  • 软件设计上 : RingBuffer 数据结构,通信协议由软件定义
  • 硬件结构上 : SRAM - DMA - DRAM

3.3 寄存器组设计(掌握)

以下内容不便详细展开

  • 共享寄存器组
  • 命令通讯协议

3.4 通信协议设计(掌握)

以下内容不便详细展开

  • 软硬件机制
  • 数据一致性
  • 命令包协议

4 固件和硬件

GPU 内部集成一个命令处理器(其实是一个MCU),它相当于 CPU 的一个异构核。从软件的视角来看,在这个命令处理器上运行一个轻量级的操作系统,我们叫做固件,它的一个关键的用途在与内核驱动通信,控制GPU的流水线;从硬件的视角来看,这个 CP(命令处理器)能与 CPU 交互,与 GPU 交互。

引入一张 AMD R600 的微架构图,其中 Command Processor(CP)是集成在 R600 上的,其中 HOST 和 CP 交互的一个重要方式是通过 DMA 搬运 HOST 系统内存上的命令队列到CP里的内存空间中,其中 CP 完成命令解析和执行后,通过中断线 Interrupts 通知 HOST 侧,然后驱动程序会响应这个中断信号并执行处理函数。

4.1 固件软件设计(掌握)

以下内容不便详细展开

  • 软件系统模型
  • 命令解析模型

4.2 软件硬件接口(了解)

使用 NVIDIA 的 CUDA 框架可以让程序员直接在 GPU 上运行 C程序,这样的程序在 GPU 上以 CUDA 线程的形式存在,编译器和硬件将 CUDA 线程聚合成一个线程组,硬件上有一个多线程 SIMD 处理器与之对应,在 GPU 内部有多个多线程的 SIMD 处理器。这里引入《Computer Organization and Design ARM edition》章节 6.6 的一段文字:

NVIDIA decided that the unifying theme of all these forms of parallelism is the CUDA Thread. Using this lowest level of parallelism as the programming primitive, the compiler and the hardware can gang thousands of CUDA threads together to utilize the various styles of parallelism within a GPU: multithreading, MIMD, SIMD, and instruction-level parallelism. These threads are blocked together and executed in groups of 32 at a time. A multithreaded processor inside a GPU executes these blocks of threads, and a GPU consists of 8 to 32 of these multithreaded processors.

4.3 体系结构简介(了解)

使用 NVIDIA GPU 体系结构说明。我的理解是,硬件上来看一个 GPU 包含多个 多线程的SIMD处理器(同时 GPU 也包含有其他的控制模块,比如线程块调度器,可以设计整体上实现流水线级的并行),每一个 多线程的SIMD处理器 包含多个 SIMD 通道(同时 SIMD处理器 也包含有其他的控制模块,比如 SIMD线程调度器),对应 SIMD 指令线程的并行计算,达到数据级并行的效果。以下是 SIMD处理器 数据通路的简略图,参考至《Computer Organization and Design ARM edition》图片 6.9

编译器和硬件将 CUDA 线程聚合成一个 SIMD 线程组,通过 线程块调度器 将 SIMD线程组 分配给多线程的SIMD处理器,先经过 SIMD 处理器内部的 SIMD 线程调度器,将准备好的 SIMD 指令线程调度到 SIMD 处理器上执行,SIMD 指令执行时会经过 SIMD 通道,到达 SIMD 处理器内部的局部存储器或者外部的全局存储器。

4.4 图形流水线(了解)

整体看 GPU 它是一个图形处理器,输入的指令和数据是 CPU 在系统内存或者显存上准备好的,进行图形处理后将结果写到系统内存或者显存地址空间。然后往下在深一层看 GPU 的工作原理,其实在 GPU 内部有多个硬件单元,构成一个多级图形流水线。如果想要深入了解图形流水线的过程和步骤,我搞不太懂,不过可以参考《Computer Organization and Design ARM edition》附录 B.3.1。

9 参考资料

Computer Organization and Design ARM edition.pdfr600isa.pdf

本文由哈喽比特于1年以前收录,如有侵权请联系我们。
文章来源:https://mp.weixin.qq.com/s/8_46sysJwoXwCnLVpOMEQA

 相关推荐

刘强东夫妇:“移民美国”传言被驳斥

京东创始人刘强东和其妻子章泽天最近成为了互联网舆论关注的焦点。有关他们“移民美国”和在美国购买豪宅的传言在互联网上广泛传播。然而,京东官方通过微博发言人发布的消息澄清了这些传言,称这些言论纯属虚假信息和蓄意捏造。

发布于:6月以前  |  808次阅读  |  详细内容 »

博主曝三大运营商,将集体采购百万台华为Mate60系列

日前,据博主“@超能数码君老周”爆料,国内三大运营商中国移动、中国电信和中国联通预计将集体采购百万台规模的华为Mate60系列手机。

发布于:6月以前  |  770次阅读  |  详细内容 »

ASML CEO警告:出口管制不是可行做法,不要“逼迫中国大陆创新”

据报道,荷兰半导体设备公司ASML正看到美国对华遏制政策的负面影响。阿斯麦(ASML)CEO彼得·温宁克在一档电视节目中分享了他对中国大陆问题以及该公司面临的出口管制和保护主义的看法。彼得曾在多个场合表达了他对出口管制以及中荷经济关系的担忧。

发布于:6月以前  |  756次阅读  |  详细内容 »

抖音中长视频App青桃更名抖音精选,字节再发力对抗B站

今年早些时候,抖音悄然上线了一款名为“青桃”的 App,Slogan 为“看见你的热爱”,根据应用介绍可知,“青桃”是一个属于年轻人的兴趣知识视频平台,由抖音官方出品的中长视频关联版本,整体风格有些类似B站。

发布于:6月以前  |  648次阅读  |  详细内容 »

威马CDO:中国每百户家庭仅17户有车

日前,威马汽车首席数据官梅松林转发了一份“世界各国地区拥车率排行榜”,同时,他发文表示:中国汽车普及率低于非洲国家尼日利亚,每百户家庭仅17户有车。意大利世界排名第一,每十户中九户有车。

发布于:6月以前  |  589次阅读  |  详细内容 »

研究发现维生素 C 等抗氧化剂会刺激癌症生长和转移

近日,一项新的研究发现,维生素 C 和 E 等抗氧化剂会激活一种机制,刺激癌症肿瘤中新血管的生长,帮助它们生长和扩散。

发布于:6月以前  |  449次阅读  |  详细内容 »

苹果据称正引入3D打印技术,用以生产智能手表的钢质底盘

据媒体援引消息人士报道,苹果公司正在测试使用3D打印技术来生产其智能手表的钢质底盘。消息传出后,3D系统一度大涨超10%,不过截至周三收盘,该股涨幅回落至2%以内。

发布于:6月以前  |  446次阅读  |  详细内容 »

千万级抖音网红秀才账号被封禁

9月2日,坐拥千万粉丝的网红主播“秀才”账号被封禁,在社交媒体平台上引发热议。平台相关负责人表示,“秀才”账号违反平台相关规定,已封禁。据知情人士透露,秀才近期被举报存在违法行为,这可能是他被封禁的部分原因。据悉,“秀才”年龄39岁,是安徽省亳州市蒙城县人,抖音网红,粉丝数量超1200万。他曾被称为“中老年...

发布于:6月以前  |  445次阅读  |  详细内容 »

亚马逊股东起诉公司和贝索斯,称其在购买卫星发射服务时忽视了 SpaceX

9月3日消息,亚马逊的一些股东,包括持有该公司股票的一家养老基金,日前对亚马逊、其创始人贝索斯和其董事会提起诉讼,指控他们在为 Project Kuiper 卫星星座项目购买发射服务时“违反了信义义务”。

发布于:6月以前  |  444次阅读  |  详细内容 »

苹果上线AppsbyApple网站,以推广自家应用程序

据消息,为推广自家应用,苹果现推出了一个名为“Apps by Apple”的网站,展示了苹果为旗下产品(如 iPhone、iPad、Apple Watch、Mac 和 Apple TV)开发的各种应用程序。

发布于:6月以前  |  442次阅读  |  详细内容 »

特斯拉美国降价引发投资者不满:“这是短期麻醉剂”

特斯拉本周在美国大幅下调Model S和X售价,引发了该公司一些最坚定支持者的不满。知名特斯拉多头、未来基金(Future Fund)管理合伙人加里·布莱克发帖称,降价是一种“短期麻醉剂”,会让潜在客户等待进一步降价。

发布于:6月以前  |  441次阅读  |  详细内容 »

光刻机巨头阿斯麦:拿到许可,继续对华出口

据外媒9月2日报道,荷兰半导体设备制造商阿斯麦称,尽管荷兰政府颁布的半导体设备出口管制新规9月正式生效,但该公司已获得在2023年底以前向中国运送受限制芯片制造机器的许可。

发布于:6月以前  |  437次阅读  |  详细内容 »

马斯克与库克首次隔空合作:为苹果提供卫星服务

近日,根据美国证券交易委员会的文件显示,苹果卫星服务提供商 Globalstar 近期向马斯克旗下的 SpaceX 支付 6400 万美元(约 4.65 亿元人民币)。用于在 2023-2025 年期间,发射卫星,进一步扩展苹果 iPhone 系列的 SOS 卫星服务。

发布于:6月以前  |  430次阅读  |  详细内容 »

𝕏(推特)调整隐私政策,可拿用户发布的信息训练 AI 模型

据报道,马斯克旗下社交平台𝕏(推特)日前调整了隐私政策,允许 𝕏 使用用户发布的信息来训练其人工智能(AI)模型。新的隐私政策将于 9 月 29 日生效。新政策规定,𝕏可能会使用所收集到的平台信息和公开可用的信息,来帮助训练 𝕏 的机器学习或人工智能模型。

发布于:6月以前  |  428次阅读  |  详细内容 »

荣耀CEO谈华为手机回归:替老同事们高兴,对行业也是好事

9月2日,荣耀CEO赵明在采访中谈及华为手机回归时表示,替老同事们高兴,觉得手机行业,由于华为的回归,让竞争充满了更多的可能性和更多的魅力,对行业来说也是件好事。

发布于:6月以前  |  423次阅读  |  详细内容 »

AI操控无人机能力超越人类冠军

《自然》30日发表的一篇论文报道了一个名为Swift的人工智能(AI)系统,该系统驾驶无人机的能力可在真实世界中一对一冠军赛里战胜人类对手。

发布于:6月以前  |  423次阅读  |  详细内容 »

AI生成的蘑菇科普书存在可致命错误

近日,非营利组织纽约真菌学会(NYMS)发出警告,表示亚马逊为代表的电商平台上,充斥着各种AI生成的蘑菇觅食科普书籍,其中存在诸多错误。

发布于:6月以前  |  420次阅读  |  详细内容 »

社交媒体平台𝕏计划收集用户生物识别数据与工作教育经历

社交媒体平台𝕏(原推特)新隐私政策提到:“在您同意的情况下,我们可能出于安全、安保和身份识别目的收集和使用您的生物识别信息。”

发布于:6月以前  |  411次阅读  |  详细内容 »

国产扫地机器人热销欧洲,国产割草机器人抢占欧洲草坪

2023年德国柏林消费电子展上,各大企业都带来了最新的理念和产品,而高端化、本土化的中国产品正在不断吸引欧洲等国际市场的目光。

发布于:6月以前  |  406次阅读  |  详细内容 »

罗永浩吐槽iPhone15和14不会有区别,除了序列号变了

罗永浩日前在直播中吐槽苹果即将推出的 iPhone 新品,具体内容为:“以我对我‘子公司’的了解,我认为 iPhone 15 跟 iPhone 14 不会有什么区别的,除了序(列)号变了,这个‘不要脸’的东西,这个‘臭厨子’。

发布于:6月以前  |  398次阅读  |  详细内容 »
 相关文章
Android插件化方案 5年以前  |  236811次阅读
vscode超好用的代码书签插件Bookmarks 1年以前  |  6657次阅读
 目录