submission 99191
Petr_Rocoss · python · License unknown
Use it
Vendorable · source mirrored · license unknownView source →
No package. Vendor the mirrored source: 162 lines, June 9 Researcher Reciprocity License v1.0.
a100.py
curl "https://kernelindex.com/api/v1/implementations/kernelbot-conv2d-v2-99191?include=source"interfacepython
Compatibility
measured onNVIDIA L4
declared hardwareNVIDIA L4
architecturessm_89
dtypesfp32
Benchmark evidence
1 measurement across 1 GPU, fastest first.
Operation / workload
Hardware
Latency
Rank
Observed
Reported · How evidence levels are derived →
Source and license
sourceavailable
revision digestsha256:257e018bde21d374d12361b7e98f1e8454283069b3c1e057bcdfc359756ec90b
license declaredunknown
license concludedunknown
authorsPetr_Rocoss
imported2026-08-15
Techniques
Extracted from the mirrored source by pattern, never inferred. Each row cites its line.
autotune
@triton.autotune(num-warps = 8
triton.Config({'BLOCK_H': 8, 'BLOCK_W': 128}, num_warps=8, num_stages=6),stages = 6
triton.Config({'BLOCK_H': 8, 'BLOCK_W': 128}, num_warps=8, num_stages=6),Kernel source
a100.py162 lines
import torch
import triton
import triton.language as tl
@triton.autotune(
configs=[
# === A100 / H100 Optimized Configs ===
# Большой BLOCK_W для векторизации + высокий num_stages для HBM prefetch
triton.Config({'BLOCK_H': 8, 'BLOCK_W': 128}, num_warps=8, num_stages=6),
triton.Config({'BLOCK_H': 4, 'BLOCK_W': 256}, num_warps=8, num_stages=5),
triton.Config({'BLOCK_H': 8, 'BLOCK_W': 64}, num_warps=4, num_stages=5),
triton.Config({'BLOCK_H': 16, 'BLOCK_W': 64}, num_warps=8, num_stages=4),
# === Fallback / Smaller GPUs (L4) ===
triton.Config({'BLOCK_H': 4, 'BLOCK_W': 128}, num_warps=4, num_stages=4),
triton.Config({'BLOCK_H': 2, 'BLOCK_W': 64}, num_warps=4, num_stages=3),
],
key=['W_OUT', 'H_OUT', 'C_IN', 'K'],
)
@triton.jit
def conv2d_kernel_a100(
input_ptr, weight_ptr, output_ptr,
stride_in_n, stride_in_c, stride_in_h, stride_in_w,
stride_w_out, stride_w_in, stride_w_h, stride_w_w,
stride_out_n, stride_out_c, stride_out_h, stride_out_w,
H_IN, W_IN, H_OUT, W_OUT, C_IN, C_OUT, K,
BLOCK_H: tl.constexpr, BLOCK_W: tl.constexpr
):
# --- 1. Инициализация Grid ---
pid_w = tl.program_id(0)
pid_h = tl.program_id(1)
pid_z = tl.program_id(2)
batch_idx = pid_z // C_OUT
out_ch = pid_z % C_OUT
# --- 2. Предварительный расчет смещений (Offsets) ---
# Генерируем индексы для текущего тайла [BLOCK_H, BLOCK_W]
offs_h = pid_h * BLOCK_H + tl.arange(0, BLOCK_H)
offs_w = pid_w * BLOCK_W + tl.arange(0, BLOCK_W)
# --- 3. Расчет Масок (Masks) ---
# Вычисляем маски один раз.
# Примечание: при stride=1 и padding=0, если выходной индекс валиден,
# то соответствующий входной (out + k) тоже валиден (при корректных input shapes).
mask_h = offs_h < H_OUT
mask_w = offs_w < W_OUT
# Комбинированная маска [BLOCK_H, BLOCK_W]
mask_block = mask_h[:, None] & mask_w[None, :]
# --- 4. Базовые указатели (Pointers Setup) ---
# Указатель вывода: Base + Batch + OutCh + (H_range, W_range)
# Используем broadcasting для создания 2D сетки адресов
ptr_out = output_ptr + \
batch_idx * stride_out_n + \
out_ch * stride_out_c + \
(offs_h[:, None] * stride_out_h) + \
(offs_w[None, :] * stride_out_w)
# Базовый указатель входа. Начинается с верхнего левого угла окна свертки.
# ptr_in[h, w] соответствует пикселю input[h, w] (так как stride=1)
ptr_in_base = input_ptr + \
batch_idx * stride_in_n + \
(offs_h[:, None] * stride_in_h) + \
(offs_w[None, :] * stride_in_w)
# Базовый указатель весов для текущего выходного канала
ptr_wei_base = weight_ptr + out_ch * stride_w_out
# Аккумулятор (Registers)
acc = tl.zeros([BLOCK_H, BLOCK_W], dtype=tl.float32)
# --- 5. Основной цикл (Pointer Chasing Optimization) ---
# Инициализируем текущие указатели
curr_in_ch = ptr_in_base
curr_wei_ch = ptr_wei_base
for cin in range(C_IN):
# Временные указатели для spatial loops, чтобы не портить указатели каналов
curr_in_spatial = curr_in_ch
curr_wei_spatial = curr_wei_ch
# Разворачиваем циклы ядра (Spatial Loops)
for kh in range(K):
# Вычисляем смещения для текущей строки ядра
# Для входа это смещение по высоте
# Для веса это смещение по высоте
for kw in range(K):
# A. Загрузка Веса (Scalar Broadcast)
# Считываем одно значение веса и рассылаем всем нитям блока
# Адрес: curr_wei + kw * stride_w
w_val = tl.load(curr_wei_spatial + kw * stride_w_w)
# B. Загрузка Входа (Vectorized Block Load)
# Адрес: curr_in + kw * stride_w
# Благодаря broadcasting при инициализации, это загружает блок [BLOCK_H, BLOCK_W]
# Сдвигаем окно вправо на kw
in_val = tl.load(curr_in_spatial + kw * stride_in_w, mask=mask_block, other=0.0)
# C. FMA (Fused Multiply-Add)
acc = acc + in_val * w_val
# Pointer Update (Vertical Shift)
# Сдвигаем указатели вниз на одну строку
curr_in_spatial += stride_in_h
curr_wei_spatial += stride_w_h
# Pointer Update (Channel Shift)
# Переходим к следующему входному каналу
curr_in_ch += stride_in_c
curr_wei_ch += stride_w_in
# --- 6. Запись результата ---
tl.store(ptr_out, acc, mask=mask_block)
def custom_kernel(data):
"""
Wrapper function ensuring optimal memory layout for A100 kernel.
"""
input_tensor, kernel, output_tensor = data
# 1. Contiguous Memory: Критически важно для векторизации на A100.
# Без этого Triton будет генерировать неэффективные загрузки (scalar loads).
if not input_tensor.is_contiguous():
input_tensor = input_tensor.contiguous()
if not kernel.is_contiguous():
kernel = kernel.contiguous()
# 2. Извлечение размеров
batch, c_in, h_in, w_in = input_tensor.shape
c_out, _, k_h, k_w = kernel.shape
h_out = h_in - k_h + 1
w_out = w_in - k_w + 1
# 3. Определение Grid запуска
# Делим выходное изображение на тайлы [BLOCK_H, BLOCK_W]
grid = lambda META: (
triton.cdiv(w_out, META['BLOCK_W']),
triton.cdiv(h_out, META['BLOCK_H']),
batch * c_out
)
# 4. Запуск ядра
conv2d_kernel_a100[grid](
input_tensor, kernel, output_tensor,
# Strides (шаги в памяти)
*input_tensor.stride(),
*kernel.stride(),
*output_tensor.stride(),
# Размеры (Dimensions)
h_in, w_in, h_out, w_out,
c_in, c_out, k_h,
# Константы BLOCK_H/BLOCK_W подставит autotuner
)
return output_tensor
scrolls · 162 lines total
Source code from GPU Mode and the KernelBot dataset · June 9 Researcher Reciprocity License v1.0
Changes from previous submission
Against this author's previous submission submission 99190.
⋯ 3 unchanged lines@triton.autotune(configs=[- # === H100 (Hopper) Aggressive Configs ===- # H100 любит большие тайлы и высокий prefetch для скрытия HBM3 латентности+ # === A100 / H100 Optimized Configs ===+ # Большой BLOCK_W для векторизации + высокий num_stages для HBM prefetch+ triton.Config({'BLOCK_H': 8, 'BLOCK_W': 128}, num_warps=8, num_stages=6),+ triton.Config({'BLOCK_H': 4, 'BLOCK_W': 256}, num_warps=8, num_stages=5),+ triton.Config({'BLOCK_H': 8, 'BLOCK_W': 64}, num_warps=4, num_stages=5),+ triton.Config({'BLOCK_H': 16, 'BLOCK_W': 64}, num_warps=8, num_stages=4),- # 1. Massive Width Vectorization: Отлично для memory bandwidth- triton.Config({'BLOCK_H': 8, 'BLOCK_W': 256}, num_warps=8, num_stages=6),-- # 2. Large Vertical Tiling: Максимальный weight reuse (веса в L1/Regs)- triton.Config({'BLOCK_H': 16, 'BLOCK_W': 128}, num_warps=8, num_stages=5),-- # 3. Balanced High-Throughput: Золотая середина для Hopper- triton.Config({'BLOCK_H': 16, 'BLOCK_W': 64}, num_warps=8, num_stages=6),-- # 4. Extreme Prefetching: Если кернел ограничен latency- triton.Config({'BLOCK_H': 8, 'BLOCK_W': 128}, num_warps=8, num_stages=7),-- # === Fallback / Safe Configs ===+ # === Fallback / Smaller GPUs (L4) ===triton.Config({'BLOCK_H': 4, 'BLOCK_W': 128}, num_warps=4, num_stages=4),+ triton.Config({'BLOCK_H': 2, 'BLOCK_W': 64}, num_warps=4, num_stages=3),],key=['W_OUT', 'H_OUT', 'C_IN', 'K'],)@triton.jit- def conv2d_kernel_h100(+ def conv2d_kernel_a100(input_ptr, weight_ptr, output_ptr,stride_in_n, stride_in_c, stride_in_h, stride_in_w,stride_w_out, stride_w_in, stride_w_h, stride_w_w,⋯ 1 unchanged linesH_IN, W_IN, H_OUT, W_OUT, C_IN, C_OUT, K,BLOCK_H: tl.constexpr, BLOCK_W: tl.constexpr):- """- Hopper-Optimized Direct Convolution Kernel.- Использует Pointer Induction и Aggressive Tiling.- """-- # --- 1. Grid & Indices ---+ # --- 1. Инициализация Grid ---pid_w = tl.program_id(0)pid_h = tl.program_id(1)pid_z = tl.program_id(2)- # Разложение Z координатыbatch_idx = pid_z // C_OUTout_ch = pid_z % C_OUT- # --- 2. Coordinate Generation (Broadcasting Setup) ---- # Генерируем векторы координат для тайла+ # --- 2. Предварительный расчет смещений (Offsets) ---+ # Генерируем индексы для текущего тайла [BLOCK_H, BLOCK_W]offs_h = pid_h * BLOCK_H + tl.arange(0, BLOCK_H)offs_w = pid_w * BLOCK_W + tl.arange(0, BLOCK_W)- # --- 3. Mask Hoisting ---- # Вычисляем маски ОДИН раз.- # Валидность output координат гарантирует валидность input координат- # при stride=1, padding=0 и корректных размерах тензоров.+ # --- 3. Расчет Масок (Masks) ---+ # Вычисляем маски один раз.+ # Примечание: при stride=1 и padding=0, если выходной индекс валиден,+ # то соответствующий входной (out + k) тоже валиден (при корректных input shapes).mask_h = offs_h < H_OUTmask_w = offs_w < W_OUT# Комбинированная маска [BLOCK_H, BLOCK_W]mask_block = mask_h[:, None] & mask_w[None, :]- # --- 4. Pointer Setup (Base Calculation) ---+ # --- 4. Базовые указатели (Pointers Setup) ---- # Output Pointer: [BLOCK_H, BLOCK_W]- # Используем broadcasting для создания 2D сетки указателей назначения+ # Указатель вывода: Base + Batch + OutCh + (H_range, W_range)+ # Используем broadcasting для создания 2D сетки адресовptr_out = output_ptr + \batch_idx * stride_out_n + \out_ch * stride_out_c + \(offs_h[:, None] * stride_out_h) + \(offs_w[None, :] * stride_out_w)- # Input Pointer Base: [BLOCK_H, BLOCK_W]- # Начальная позиция окна свертки.- # ptr_in[row, col] соответствует input[row, col]+ # Базовый указатель входа. Начинается с верхнего левого угла окна свертки.+ # ptr_in[h, w] соответствует пикселю input[h, w] (так как stride=1)ptr_in_base = input_ptr + \batch_idx * stride_in_n + \(offs_h[:, None] * stride_in_h) + \(offs_w[None, :] * stride_in_w)- # Weight Pointer Base: Scalar (будет обновляться в цикле)+ # Базовый указатель весов для текущего выходного каналаptr_wei_base = weight_ptr + out_ch * stride_w_out- # --- 5. Accumulation Loop ---+ # Аккумулятор (Registers)acc = tl.zeros([BLOCK_H, BLOCK_W], dtype=tl.float32)- # Текущие указатели каналов (Pointer Chasing State)+ # --- 5. Основной цикл (Pointer Chasing Optimization) ---++ # Инициализируем текущие указателиcurr_in_ch = ptr_in_basecurr_wei_ch = ptr_wei_base- # Основной цикл по входным каналам (Reduction Dimension)for cin in range(C_IN):+ # Временные указатели для spatial loops, чтобы не портить указатели каналов+ curr_in_spatial = curr_in_ch+ curr_wei_spatial = curr_wei_ch- # Локальные копии указателей для Spatial Loop- # Мы не модифицируем curr_in_ch внутри внутреннего цикла, чтобы сохранить базу канала- curr_in_row = curr_in_ch- curr_wei_row = curr_wei_ch-- # Spatial Loop: Kernel Height+ # Разворачиваем циклы ядра (Spatial Loops)for kh in range(K):+ # Вычисляем смещения для текущей строки ядра+ # Для входа это смещение по высоте+ # Для веса это смещение по высоте- # Spatial Loop: Kernel Width- # Этот цикл обычно полностью разворачивается (unrolled) компилятором для малых K (1,3,5,7)for kw in range(K):- # A. Load Weight (Scalar Broadcast)- # Загружаем 1 float, рассылаем на весь Grid [BLOCK_H, BLOCK_W]- # Смещение веса: kw * stride_w_w- w_val = tl.load(curr_wei_row + kw * stride_w_w)+ # A. Загрузка Веса (Scalar Broadcast)+ # Считываем одно значение веса и рассылаем всем нитям блока+ # Адрес: curr_wei + kw * stride_w+ w_val = tl.load(curr_wei_spatial + kw * stride_w_w)- # B. Load Input (Vectorized 2D Block)- # Загружаем блок данных.- # Смещение входа: kw * stride_in_w- # Contiguous load по оси W критичен для H100 HBM- in_val = tl.load(curr_in_row + kw * stride_in_w, mask=mask_block, other=0.0)+ # B. Загрузка Входа (Vectorized Block Load)+ # Адрес: curr_in + kw * stride_w+ # Благодаря broadcasting при инициализации, это загружает блок [BLOCK_H, BLOCK_W]+ # Сдвигаем окно вправо на kw+ in_val = tl.load(curr_in_spatial + kw * stride_in_w, mask=mask_block, other=0.0)- # C. FMA+ # C. FMA (Fused Multiply-Add)acc = acc + in_val * w_val- # Pointer Update: Move down vertically- # Сдвиг указателей на следующую строку- curr_in_row += stride_in_h- curr_wei_row += stride_w_h-- # Pointer Update: Move to next channel- # Замена тяжелого умножения (cin * stride) на быстрое сложение+ # Pointer Update (Vertical Shift)+ # Сдвигаем указатели вниз на одну строку+ curr_in_spatial += stride_in_h+ curr_wei_spatial += stride_w_h++ # Pointer Update (Channel Shift)+ # Переходим к следующему входному каналуcurr_in_ch += stride_in_ccurr_wei_ch += stride_w_in- # --- 6. Store ---+ # --- 6. Запись результата ---tl.store(ptr_out, acc, mask=mask_block)def custom_kernel(data):"""- H100-Ready Wrapper.+ Wrapper function ensuring optimal memory layout for A100 kernel."""input_tensor, kernel, output_tensor = data- # Memory Coalescing is non-negotiable on H100+ # 1. Contiguous Memory: Критически важно для векторизации на A100.+ # Без этого Triton будет генерировать неэффективные загрузки (scalar loads).if not input_tensor.is_contiguous():input_tensor = input_tensor.contiguous()if not kernel.is_contiguous():kernel = kernel.contiguous()+ # 2. Извлечение размеровbatch, c_in, h_in, w_in = input_tensor.shapec_out, _, k_h, k_w = kernel.shapeh_out = h_in - k_h + 1w_out = w_in - k_w + 1- # Grid: Tiles (W, H), Batch*OutCh+ # 3. Определение Grid запуска+ # Делим выходное изображение на тайлы [BLOCK_H, BLOCK_W]grid = lambda META: (triton.cdiv(w_out, META['BLOCK_W']),triton.cdiv(h_out, META['BLOCK_H']),batch * c_out)- conv2d_kernel_h100[grid](+ # 4. Запуск ядра+ conv2d_kernel_a100[grid](input_tensor, kernel, output_tensor,+ # Strides (шаги в памяти)*input_tensor.stride(),*kernel.stride(),*output_tensor.stride(),+ # Размеры (Dimensions)h_in, w_in, h_out, w_out,c_in, c_out, k_h,+ # Константы BLOCK_H/BLOCK_W подставит autotuner)return output_tensor
scrolls · 228 diff lines total
Best evidence level for this revision: reported
JSON