企业官网建设流程全解析

中企动力做的网站后台如何登陆,哈尔滨建站公司模板,做一个微信小程序游戏需要多少钱,wordpress文章末尾添加相关文章引言 GPU被称为并行处理器#xff0c;因为它们能够同时执行任务。工作被分割成更小的子任务#xff0c;由多个处理单元同时执行。一旦完成#xff0c;这些子任务将被合并以产生最终结果。这些处理单元——包括线程#xff08;threads#xff09;、线程束#xff08;warps…引言GPU被称为并行处理器因为它们能够同时执行任务。工作被分割成更小的子任务由多个处理单元同时执行。一旦完成这些子任务将被合并以产生最终结果。这些处理单元——包括线程threads、线程束warps、线程块thread blocks、核心cores和多处理器multiprocessors——共享内存等资源。这种共享增强了它们之间的协作并提高了GPU的整体效率。线程束是并行处理的基石。通过将线程分组到一个单一的执行单元中线程束简化了线程管理在线程间共享数据和资源并通过有效的调度来掩盖内存访问延迟。前提知识在继续之前阅读这份“CUDA复习资料”可能会有所帮助。在本文中我们将概述线程束如何有助于优化GPU加速应用程序的性能。通过围绕线程束建立直觉开发者可以实现计算速度和效率的显著提升。线程束解析线程块被划分为由32个线程组成的线程束。一个线程束中的所有线程在同一个流式多处理器Streaming Multiprocessor SM上运行。图源自某中心关于GPGPU和加速器趋势的演示。当一个流式多处理器SM被分配了线程块以供执行时它会将线程细分为线程束。现代GPU架构的线程束大小通常为32个线程。一个线程块中的线程束数量取决于CUDA程序员配置的线程块大小。例如如果线程块大小为96个线程线程束大小为32个线程那么每个线程块的线程束数量将为 96线程 / 每线程束32线程 3个线程束每线程块。GPU计算与内存架构在此图中三个线程块被分配给SM。每个线程块由3个线程束组成。一个线程束包含32个连续的线程。请注意图中线程的索引方式从零开始并在线程块内的线程束之间延续。第一个线程束包含前32个线程0-31随后的线程束包含接下来的32个线程32-63依此类推。现在我们已经定义了线程束让我们退一步看看Flynn分类法该分类法关注此分类方案如何应用于GPU和线程束级别的线程管理。GPUSIMD还是SIMT向量化Flynn分类法根据指令流和数据流对计算机架构进行分类将其分为四类SISD、SIMD、MISD和MIMD。GPU通常属于SIMD单指令多数据类别因为它们同时对多个数据点执行相同的操作。然而某中心引入了SIMT单指令多线程以更好地描述其GPU的线程级并行性。在SIMT架构中多个线程在不同的数据上执行相同的指令CUDA编译器和GPU协同工作以同步一个线程束内的线程。这种同步有助于通过确保线程尽可能一致地执行相同指令来最大化效率。虽然SIMD和SIMT都利用了数据级并行性但它们的实现方法有所不同。SIMD擅长统一的数据处理而SIMT则因其动态线程管理和条件执行而提供了更高的灵活性。线程束调度隐藏延迟在线程束的语境中延迟是指一个线程束完成执行一条指令并变得可以处理下一条指令所需的时钟周期数。来自加州理工学院CS179课程的示意图W代表线程束T代表线程。GPU利用线程束调度来隐藏延迟而CPU则通过上下文切换顺序执行。当所有线程束调度器在每个时钟周期都有指令可以分派时就实现了最大利用率。常驻线程束即在任何给定时刻正在流式多处理器上被主动执行的线程束的数量直接影响利用率。换句话说必须有可用的线程束供线程束调度器分派指令。拥有多个常驻线程束允许SM在它们之间切换有效地隐藏延迟并最大化吞吐量。程序计数器程序计数器在每条指令周期递增以从内存中检索程序序列指导程序执行的流程。虽然一个线程束中的线程共享一个共同的起始程序地址但它们维护着独立的程序计数器允许各个线程自主执行和分支。来自某中心内部Volta GPU架构GTC‘17大会的信息。在Volta架构之前GPU为一个32线程的线程束使用单一程序计数器。随着Volta微架构的引入每个线程都有了自己的程序计数器。正如Stephen Jones在其GTC’17演讲中所说“现在所有这些线程都是完全独立的——如果你将它们组合在一起它们仍然工作得更好……但如果将它们分开你也不会束手无策。”分支处理独立的程序计数器允许分支处理这是一种“if-then-else”编程结构其中指令仅在线程处于活动状态时才被处理。由于当线程束的32个线程汇聚于一条指令时能获得最佳性能因此建议程序员编写代码尽量减少线程束内线程走不同路径即分支发散的情况。结论收尾工作独立的程序计数器允许分支处理这是一种“if-then-else”编程结构其中指令仅在线程处于活动状态时才被处理。由于当线程束的32个线程汇聚于一条指令时能获得最佳性能因此建议程序员编写代码尽量减少线程束内线程走不同路径即分支发散的情况。参考资料CUDA线程束级原语CUDA C编程指南某中心深度学习性能优化简介理解并行计算GPU与CPU的简单解释及CUDA的角色深度学习GPU性能优化入门更多精彩内容 请关注我的个人公众号 公众号办公AI智能小助手或者 我的个人博客 https://blog.qife122.com/对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号网络安全技术点滴分享