使用降低精度进行优化

图形数据的数值格式和着色器计算可能会对游戏的性能产生重大影响。

最佳格式执行以下操作

  • 提高 GPU 缓存使用效率
  • 减少内存带宽消耗,节省电量并提高性能
  • 最大化着色器程序中的计算吞吐量
  • 最大限度地减少游戏的 CPU RAM 使用量

浮点格式

现代 3D 图形中的大部分计算和数据都使用浮点数。Android 上的 Vulkan 使用大小为 32 位或 16 位的浮点数。32 位浮点数通常称为单精度或全精度;16 位浮点数称为半精度。

Vulkan 定义了 64 位浮点类型,但该类型通常不受 Android 上的 Vulkan 设备支持,并且不建议使用。64 位浮点数通常称为双精度。

整数格式

有符号和无符号整数也用于数据和计算。标准整数大小为 32 位。对其他位大小的支持取决于设备。运行 Android 的 Vulkan 设备通常支持 16 位和 8 位整数。Vulkan 定义了 64 位整数类型,但该类型通常不受 Android 上的 Vulkan 设备支持,并且不建议使用。

次优半精度行为

现代 GPU 架构将两个 16 位值组合到一个 32 位对中,并实现对该对进行操作的指令。为了获得最佳性能,请避免使用标量 16 位浮点变量;将数据矢量化到二元或四元矢量中。着色器编译器可能能够在矢量运算中使用标量值。但是,如果您依赖编译器优化标量,请检查编译器输出以验证矢量化。

在 32 位和 16 位精度浮点数之间进行转换会产生计算成本。通过最大限度地减少代码中的精度转换来减少开销。

对算法的 16 位和 32 位版本的性能差异进行基准测试。半精度并不总是会导致性能提升,尤其是在复杂计算中。在矢量化数据上大量使用融合乘加 (FMA) 指令的算法是半精度提高性能的良好候选者。

数值格式支持

Android 上的所有 Vulkan 设备都支持数据和着色器计算中的单精度 32 位浮点数和 32 位整数。其他格式的支持无法保证可用,如果可用,则无法保证适用于所有用例。

Vulkan 将可选数值格式的支持分为两类:算术和存储。在使用特定格式之前,请确保设备在这两类中都支持它。

算术支持

Vulkan 设备必须声明对数值格式的算术支持,才能在着色器程序中使用它。Android 上的 Vulkan 设备通常支持以下格式进行算术运算

  • 32 位整数(强制)
  • 32 位浮点数(强制)
  • 8 位整数(可选)
  • 16 位整数(可选)
  • 16 位半精度浮点数(可选)

要确定 Vulkan 设备是否支持 16 位整数进行算术运算,请通过调用 vkGetPhysicalDeviceFeatures2() 函数并检查 VkPhysicalDeviceFeatures2 结果结构中 shaderInt16 字段是否为 true 来检索设备的功能。

要确定 Vulkan 设备是否支持 16 位浮点数或 8 位整数,请执行以下步骤

  1. 检查设备是否支持 VK_KHR_shader_float16_int8 Vulkan 扩展。该扩展是 16 位浮点数和 8 位整数支持所必需的。
  2. 如果支持 VK_KHR_shader_float16_int8,请将 VkPhysicalDeviceShaderFloat16Int8Features 结构指针附加到 VkPhysicalDeviceFeatures2.pNext 链中。
  3. 在调用 vkGetPhysicalDeviceFeatures2() 后,检查 VkPhysicalDeviceShaderFloat16Int8Features 结果结构的 shaderFloat16shaderInt8 字段。如果字段值为 true,则该格式支持着色器程序算术运算。

虽然在 Vulkan 1.1 或 2022 年的 Android Baseline 配置文件 中并非强制要求,但对 VK_KHR_shader_float16_int8 扩展的支持在 Android 设备上非常普遍。

存储支持

Vulkan 设备必须声明对特定存储类型的可选数值格式的支持。 VK_KHR_16bit_storage 扩展声明了对 16 位整数和 16 位浮点数格式的支持。扩展定义了四种存储类型。设备可以对部分或全部存储类型支持 16 位数字。

存储类型包括:

  • 存储缓冲区对象
  • 统一缓冲区对象
  • 推送常量块
  • 着色器输入和输出接口

大多数(但不是全部)Android 上的 Vulkan 1.1 设备支持存储缓冲区对象中的 16 位格式。不要根据 GPU 型号假设支持。对于给定 GPU 的旧版驱动程序的设备可能不支持存储缓冲区对象,而新版驱动程序的设备则支持。

统一缓冲区、推送常量块和着色器输入/输出接口中 16 位格式的支持通常取决于 GPU 制造商。在 Android 上,GPU 通常要么支持这三种类型,要么都不支持。

一个测试 Vulkan 算术和存储格式支持的示例函数

struct ReducedPrecisionSupportInfo {
  // Arithmetic support
  bool has_8_bit_int_ = false;
  bool has_16_bit_int_ = false;
  bool has_16_bit_float_ = false;
  // Storage support
  bool has_16_bit_SSBO_ = false;
  bool has_16_bit_UBO_ = false;
  bool has_16_bit_push_ = false;
  bool has_16_bit_input_output_ = false;
  // Use 16-bit floats if we have arithmetic
  // support and at least SSBO storage support.
  bool use_16bit_floats_ = false;
};

void CheckFormatSupport(VkPhysicalDevice physical_device,
    ReducedPrecisionSupportInfo &info) {

  // Retrieve the device extension list so we
  // can check for our desired extensions.
  uint32_t device_extension_count;
  vkEnumerateDeviceExtensionProperties(physical_device, nullptr,
      &device_extension_count, nullptr);
  std::vector<VkExtensionProperties> device_extensions(device_extension_count);
  vkEnumerateDeviceExtensionProperties(physical_device, nullptr,
      &device_extension_count, device_extensions.data());

  bool has_16_8_extension = HasDeviceExtension("VK_KHR_shader_float16_int8",
      device_extensions);

  // Initialize the device features structure and
  // chain the storage features structure and 8/16-bit
  // support structure if applicable.
  VkPhysicalDeviceFeatures2 device_features;
  memset(&device_features, 0, sizeof(device_features));
  device_features.sType = VK_STRUCTURE_TYPE_PHYSICAL_DEVICE_FEATURES_2;

  VkPhysicalDeviceShaderFloat16Int8Features f16_int8_features;
  memset(&f16_int8_features, 0, sizeof(f16_int8_features));
  f16_int8_features.sType =
      VK_STRUCTURE_TYPE_PHYSICAL_DEVICE_FLOAT16_INT8_FEATURES_KHR;

  VkPhysicalDevice16BitStorageFeatures storage_features;
  memset(&storage_features, 0, sizeof(storage_features));
  storage_features.sType =
      VK_STRUCTURE_TYPE_PHYSICAL_DEVICE_16BIT_STORAGE_FEATURES;
  device_features.pNext = &storage_features;

  if (has_16_8_extension) {
    storage_features.pNext = &f16_int8_features;
  }

  vkGetPhysicalDeviceFeatures2(physical_device, &device_features);

  // Parse the storage features and determine
  // what kinds of 16-bit storage access are available.
  if (storage_features.storageBuffer16BitAccess ||
      storage_features.uniformAndStorageBuffer16BitAccess) {
    info.has_16_bit_SSBO_ = true;
  }
  info.has_16_bit_UBO_ = storage_features.uniformAndStorageBuffer16BitAccess;
  info.has_16_bit_push_ = storage_features.storagePushConstant16;
  info.has_16_bit_input_output_ = storage_features.storageInputOutput16;

  info.has_16_bit_int_ = device_features.features.shaderInt16;
  if (has_16_8_extension) {
    info.has_16_bit_float_ = f16_int8_features.shaderFloat16;
    info.has_8_bit_int_ = f16_int8_features.shaderInt8;
  }

  // Get arithmetic and at least some form of storage
  // support before enabling 16-bit float usage.
  if (info.has_16_bit_float_ && info.has_16_bit_SSBO_) {
    info.use_16bit_floats_ = true;
  }
}

数据的精度级别

半精度浮点数可以比单精度浮点数以更低的精度表示更小的数值范围。与单精度相比,半精度通常是一个简单且感知上无损的选择。但是,半精度可能并非在所有用例中都实用。对于某些类型的数据,范围和精度的降低会导致图形伪像或渲染错误。

适合用半精度浮点数表示的数据类型包括:

  • 局部空间坐标中的位置数据
  • 具有有限 UV 环绕的较小纹理的纹理 UV,可以限制在 -1.0 到 1.0 的坐标范围内
  • 法线、切线和副切线数据
  • 顶点颜色数据
  • 以 0.0 为中心且精度要求低的数据

推荐用半精度浮点数表示的数据类型包括:

  • 全局世界坐标中的位置数据
  • 用于高精度用例(例如图集表中 UI 元素坐标)的纹理 UV

着色器代码中的精度

OpenGL 着色语言 (GLSL)高级着色语言 (HLSL) 着色器编程语言支持指定宽松精度或显式精度以用于数值类型。宽松精度被视为对着色器编译器的建议。显式精度是指定精度的要求。Android 上的 Vulkan 设备通常在宽松精度建议时使用 16 位格式。其他 Vulkan 设备,尤其是在使用缺乏 16 位格式支持的图形硬件的台式计算机上,可能会忽略宽松精度,并继续使用 32 位格式。

GLSL 中的存储扩展

必须定义适当的 GLSL 扩展才能启用对存储和统一缓冲区结构中 16 位或 8 位数值格式的支持。相关的扩展声明如下:

// Enable 16-bit formats in storage and uniform buffers.
#extension GL_EXT_shader_16bit_storage : require
// Enable 8-bit formats in storage and uniform buffers.
#extension GL_EXT_shader_8bit_storage : require

这些扩展特定于 GLSL,在 HLSL 中没有等效项。

GLSL 中的宽松精度

在浮点类型之前使用 highp 限定符以建议单精度浮点数,并使用 mediump 限定符用于半精度浮点数。Vulkan 的 GLSL 编译器将旧版 lowp 限定符解释为 mediump。以下是一些宽松精度的示例

mediump vec4 my_vector; // Suggest 16-bit half precision
highp mat4 my_matrix;   // Suggest 32-bit single precision

GLSL 中的显式精度

在您的 GLSL 代码中包含 GL_EXT_shader_explicit_arithmetic_types_float16 扩展以启用 16 位浮点类型的使用

#extension GL_EXT_shader_explicit_arithmetic_types_float16 : require

使用以下关键字在 GLSL 中声明 16 位浮点标量、向量和矩阵类型

float16_t   f16vec2     f16vec3    f16vec4
f16mat2     f16mat3     f16mat4
f16mat2x2   f16mat2x3   f16mat2x4
f16mat3x2   f16mat3x3   f16mat3x4
f16mat4x2   f16mat4x3   f16mat4x4

使用以下关键字在 GLSL 中声明 16 位整数标量和向量类型

int16_t     i16vec2     i16vec3    i16vec4
uint16_t    u16vec2     u16vec3    u16vec4

HLSL 中的宽松精度

HLSL 使用术语最小精度代替宽松精度。最小精度类型关键字指定最小精度,但如果更高精度对于目标硬件来说是更好的选择,编译器可能会替换为更高精度。最小精度 16 位浮点数由 min16float 关键字指定。最小精度有符号和无符号 16 位整数分别由 min16intmin16uint 关键字指定。以下是一些最小精度声明的示例

// Four element vector and four-by-four matrix types
min16float4 my_vector4;
min16float4x4 my_matrix4x4;

HLSL 中的显式精度

半精度浮点数由 halffloat16_t 关键字指定。有符号和无符号 16 位整数分别由 int16_tuint16_t 关键字指定。以下是一些显式精度声明的示例

// Four element vector and four-by-four matrix types
half4 my_vector4;
half4x4 my_matrix4x4;