[naga spv] Split workgroup and subgroup memory semantics in Control Barriers

Author: PhenaOfMari

naga/src/back/spv/writer.rs

@@ -1644,6 +1644,8 @@ impl Writer {
     pub(super) fn write_control_barrier(&mut self, flags: crate::Barrier, block: &mut Block) {
         let memory_scope = if flags.contains(crate::Barrier::STORAGE) {
             spirv::Scope::Device
+        } else if flags.contains(crate::Barrier::SUB_GROUP) {
+            spirv::Scope::Subgroup
         } else {
             spirv::Scope::Workgroup
         };
@@ -1656,6 +1658,10 @@ impl Writer {
             spirv::MemorySemantics::WORKGROUP_MEMORY,
             flags.contains(crate::Barrier::WORK_GROUP),
         );
+        semantics.set(
+            spirv::MemorySemantics::SUBGROUP_MEMORY,
+            flags.contains(crate::Barrier::SUB_GROUP),
+        );
         semantics.set(
             spirv::MemorySemantics::IMAGE_MEMORY,
             flags.contains(crate::Barrier::TEXTURE),

naga/src/front/spv/mod.rs

@@ -3858,11 +3858,11 @@ impl<I: Iterator<Item = u32>> Frontend<I> {
                         );
                         flags.set(
                             crate::Barrier::WORK_GROUP,
-                            semantics
-                                & (spirv::MemorySemantics::SUBGROUP_MEMORY
-                                    | spirv::MemorySemantics::WORKGROUP_MEMORY)
-                                    .bits()
-                                != 0,
+                            semantics & (spirv::MemorySemantics::WORKGROUP_MEMORY).bits() != 0,
+                        );
+                        flags.set(
+                            crate::Barrier::SUB_GROUP,
+                            semantics & spirv::MemorySemantics::SUBGROUP_MEMORY.bits() != 0,
                         );
                         flags.set(
                             crate::Barrier::TEXTURE,

naga/tests/out/spv/wgsl-subgroup-operations.spvasm

@@ -1,7 +1,7 @@
 ; SPIR-V
 ; Version: 1.3
 ; Generator: rspirv
-; Bound: 58
+; Bound: 57
 OpCapability Shader
 OpCapability GroupNonUniform
 OpCapability GroupNonUniformBallot
@@ -33,10 +33,9 @@ OpDecorate %15 BuiltIn SubgroupLocalInvocationId
 %20 = OpConstant  %3  0
 %21 = OpConstant  %3  4
 %23 = OpConstant  %3  3
-%24 = OpConstant  %3  2
-%25 = OpConstant  %3  8
-%28 = OpTypeVector %3 4
-%30 = OpConstantTrue  %5
+%24 = OpConstant  %3  136
+%27 = OpTypeVector %3 4
+%29 = OpConstantTrue  %5
 %17 = OpFunction  %2  None %18
 %6 = OpLabel
 %10 = OpLoad  %3  %8
@@ -46,36 +45,36 @@ OpDecorate %15 BuiltIn SubgroupLocalInvocationId
 %16 = OpLoad  %3  %15
 OpBranch %22
 %22 = OpLabel
-OpControlBarrier %23 %24 %25
-%26 = OpBitwiseAnd  %3  %16 %19
-%27 = OpIEqual  %5  %26 %19
-%29 = OpGroupNonUniformBallot  %28  %23 %27
-%31 = OpGroupNonUniformBallot  %28  %23 %30
-%32 = OpINotEqual  %5  %16 %20
-%33 = OpGroupNonUniformAll  %5  %23 %32
-%34 = OpIEqual  %5  %16 %20
-%35 = OpGroupNonUniformAny  %5  %23 %34
-%36 = OpGroupNonUniformIAdd  %3  %23 Reduce %16
-%37 = OpGroupNonUniformIMul  %3  %23 Reduce %16
-%38 = OpGroupNonUniformUMin  %3  %23 Reduce %16
-%39 = OpGroupNonUniformUMax  %3  %23 Reduce %16
-%40 = OpGroupNonUniformBitwiseAnd  %3  %23 Reduce %16
-%41 = OpGroupNonUniformBitwiseOr  %3  %23 Reduce %16
-%42 = OpGroupNonUniformBitwiseXor  %3  %23 Reduce %16
-%43 = OpGroupNonUniformIAdd  %3  %23 ExclusiveScan %16
-%44 = OpGroupNonUniformIMul  %3  %23 ExclusiveScan %16
-%45 = OpGroupNonUniformIAdd  %3  %23 InclusiveScan %16
-%46 = OpGroupNonUniformIMul  %3  %23 InclusiveScan %16
-%47 = OpGroupNonUniformBroadcastFirst  %3  %23 %16
-%48 = OpGroupNonUniformShuffle  %3  %23 %16 %21
-%49 = OpCompositeExtract  %3  %7 1
-%50 = OpISub  %3  %49 %19
-%51 = OpISub  %3  %50 %16
-%52 = OpGroupNonUniformShuffle  %3  %23 %16 %51
-%53 = OpGroupNonUniformShuffleDown  %3  %23 %16 %19
-%54 = OpGroupNonUniformShuffleUp  %3  %23 %16 %19
-%55 = OpCompositeExtract  %3  %7 1
-%56 = OpISub  %3  %55 %19
-%57 = OpGroupNonUniformShuffleXor  %3  %23 %16 %56
+OpControlBarrier %23 %23 %24
+%25 = OpBitwiseAnd  %3  %16 %19
+%26 = OpIEqual  %5  %25 %19
+%28 = OpGroupNonUniformBallot  %27  %23 %26
+%30 = OpGroupNonUniformBallot  %27  %23 %29
+%31 = OpINotEqual  %5  %16 %20
+%32 = OpGroupNonUniformAll  %5  %23 %31
+%33 = OpIEqual  %5  %16 %20
+%34 = OpGroupNonUniformAny  %5  %23 %33
+%35 = OpGroupNonUniformIAdd  %3  %23 Reduce %16
+%36 = OpGroupNonUniformIMul  %3  %23 Reduce %16
+%37 = OpGroupNonUniformUMin  %3  %23 Reduce %16
+%38 = OpGroupNonUniformUMax  %3  %23 Reduce %16
+%39 = OpGroupNonUniformBitwiseAnd  %3  %23 Reduce %16
+%40 = OpGroupNonUniformBitwiseOr  %3  %23 Reduce %16
+%41 = OpGroupNonUniformBitwiseXor  %3  %23 Reduce %16
+%42 = OpGroupNonUniformIAdd  %3  %23 ExclusiveScan %16
+%43 = OpGroupNonUniformIMul  %3  %23 ExclusiveScan %16
+%44 = OpGroupNonUniformIAdd  %3  %23 InclusiveScan %16
+%45 = OpGroupNonUniformIMul  %3  %23 InclusiveScan %16
+%46 = OpGroupNonUniformBroadcastFirst  %3  %23 %16
+%47 = OpGroupNonUniformShuffle  %3  %23 %16 %21
+%48 = OpCompositeExtract  %3  %7 1
+%49 = OpISub  %3  %48 %19
+%50 = OpISub  %3  %49 %16
+%51 = OpGroupNonUniformShuffle  %3  %23 %16 %50
+%52 = OpGroupNonUniformShuffleDown  %3  %23 %16 %19
+%53 = OpGroupNonUniformShuffleUp  %3  %23 %16 %19
+%54 = OpCompositeExtract  %3  %7 1
+%55 = OpISub  %3  %54 %19
+%56 = OpGroupNonUniformShuffleXor  %3  %23 %16 %55
 OpReturn
 OpFunctionEnd