UE5.0 AsyncCompute异步计算优化简易教程

2022年7月18日实时渲染

现代图形API（DX12/Vulkan）以队列为单位提交录制好的Command Buffer, 通常GPU上至少有三种独立的队列类型：Graphics(gfx), Compute, Copy。

提交到队列中的命令并不保证严格的执行先后顺序，但Pass之间总是需要插入Barrier做好同步的。而Pass本身用到的SM Warp有限，因此，在Pass执行过程中，通常会出现Main Graphics队列忙碌，但Warp使用量较低（SM Occupancy低）的情况。

因此，找到出现这种情况的区域，并插入对应的Async Compute Pass，能让SM Occupancy大幅度提升，同时也减少了Main Graphics Queue的任务数量，提升帧率。

以ShadowDepth绘制Pass为例，在Main Graphics Queue绘制Shadow Depth前，插入了Async SSAO的计算任务，截帧如下：

ShadowDepth Pass绘制过程中SM Oc非常的低，插入Async SSAO后，可以在异步计算队列里利用这部分 Unused Warp，同时不会阻塞Main Graphics Queue的任务，四舍五入等于白嫖一份SSAO的计算时间。

当然不是任何时候插入Async Compute都有优化效果的，每次提交到异步队列中的Command buffer都需要和主队列做好Sync同步，随意插入Async compute, 插入的Semaphore可能需要Main Graphics等待一段时间。

如下所示，异步HZB Build放到了硬件Occlusion Culling之前，由于硬件Culling需要DepthStencil Buffer（Depth ReadOnly Stencil Write），HZB Build的第一次build需要原始的Depth Buffer SRV，（我个人感觉不应该在这里插入semaphore）RDG会插入一个Depth Resource的Barrier，导致MainGraphics的硬件Culling需要等待HZB第一次Build结束后才执行，同时也导致GPU出现一大段Idle warp区域（灰白色）：

UE4中如何插入Async Compute

RHI中创建时就已经根据硬件信息准备好异步队列对应的Commandlist了，透过静态方法FRHICommandListExecutor::GetImmediateAsyncComputeCommandList()暴露出来。UE 4.27下纯RHI调用方法如下：

// Main graphics command list.
FRHICommandListImmediate& RHICmdList;

// UAV Resource queue owenership transfer.
auto* UAVTransition = RHICreateTransition(ERHIPipeline::Graphics, ERHIPipeline::AsyncCompute, ...);
auto* SRVTransition = RHICreateTransition(ERHIPipeline::AsyncCompute, ERHIPipeline::Graphics,....);

// Start MainGraphics --> AsyncCompute
RHICmdList.BeginTransition(UAVTransition); 

auto& RHICmdListComputeImmediate = FRHICommandListExecutor::GetImmediateAsyncComputeCommandList();
{
    // Wait when MainGraphics --> AsyncCompute transition finish.
    RHICmdListComputeImmediate.EndTransition(UAVTransition);
    
    // Do some async compute here, and write resource to uav.
    DispatchComputeShader(RHICmdListComputeImmediate, ...);
    
 	// Async compute finish..............
    
    // Start AsyncCompute --> MainGraphics
    RHICmdListComputeImmediate.BeginTransition(SRVTransition);
}
FRHIAsyncComputeCommandListImmediate::ImmediateDispatch(RHICmdListComputeImmediate);

// Do other graphics pass.

// When need sync
AddPass(GraphBuilder, [this](FRHICommandList& RHICmdList)
{
	//Main Graphics Wait AsyncCompute --> MainGraphics
	RHICmdList.EndTransition(SRVTransition);
});