SageAttention2：适用于即插即用推理加速的精确4位注意力机制
新技术

尽管线性层的量化技术已经广泛应用于深度学习模型中，但在加速注意力机制方面的应...
2024-11-21 86
没有账号？注册  忘记密码？