Baizhou Zhang 67fc595bb8 [Feature] Apply Cublas Grouped Gemm kernel (#3629)

2025-02-18 15:18:31 +08:00

..

test_activation.py

…

test_bmm_fp8.py

…

test_cublas_grouped_gemm.py

[Feature] Apply Cublas Grouped Gemm kernel (#3629)

2025-02-18 15:18:31 +08:00

test_fp8_blockwise_gemm.py

…

test_fp8_gemm.py

…

test_int8_gemm.py

…

test_lightning_attention_decode.py

…

test_moe_align.py

…

test_norm.py

…

test_per_token_group_quant_fp8.py

…

test_rotary_embedding.py

…

test_sampling.py

…

test_speculative_sampling.py

…

test_trt_reduce.py

…