Aller au contenu
OpenAI News·· 2017-12-06sélectionAI Score62

OpenAI发布块稀疏GPU内核

Block-sparse GPU kernels

AI Introduction

OpenAI发布针对块稀疏权重神经网络的高度优化GPU内核, 根据所选稀疏度, 这些内核的运行速度可比cuBLAS或cuSPARSE快数个数量级. OpenAI表示已用这些内核在文本情感分析以及文本和图像的生成建模中取得当前最优结果.

Raison de la recommandation

OpenAI公开了面向块稀疏权重网络的GPU内核, 并给出相对cuBLAS与cuSPARSE的数量级加速, 可供关注稀疏训练与推理工程化的读者参考.

Source :OpenAI News · openai.com