理工酷

摘要

在不同的DL硬件上部署各种深度学习(DL)模型的困难，促进了社区中DL编译器的研究和开发。工业界和学术界已经提出了几个DL编译器，如Tensorflow XLA和TVM。类似地，DL编译器将不同DL框架中描述的DL模型作为输入，然后为不同的DL硬件生成优化代码作为输出。然而，现有的综述论文没有一个全面地分析DL编译器的独特设计。在本文中，我们通过剖析通常采用的设计细节，对现有的DL编译器进行了全面的调研，重点是面向DL的多级IRs和前端/后端优化。具体来说，我们从各个方面对现有的DL编译器进行了全面的比较。此外，还详细分析了多级红外设计和编译优化技术。最后，指出了DL编译器的研究方向。这是第一篇关于DL编译器设计的综述论文，我们希望能够为将来DL编译器的研究铺平道路。

发布单位：北京航空航天大学