大学教育网

开发人工智能核心软件深度学习编译器

导读 韩国研究团队公布了一项核心技术,可减少中小型企业和初创企业在开发人工智能 (AI) 芯片方面投入的时间和成本。得益于系统软件的开发,解

韩国研究团队公布了一项核心技术,可减少中小型企业和初创企业在开发人工智能 (AI) 芯片方面投入的时间和成本。得益于系统软件的开发,解决了过去一直存在的硬件和软件的兼容性和可扩展性问题,人工智能芯片的开发也有望加速。

电子与电信研究院(ETRI)开发了一款人工智能核心软件——深度学习编译器“NEST-C”。它与内部开发的AI芯片硬件一起在网络上发布,以便开发人员可以轻松使用它。

随着人工智能技术的发展,深度学习应用服务正在向各个领域扩展。随着实现该服务的 AI 算法变得越来越复杂,更好、更高效的算术处理的必要性也增加了。

ETRI 通过定义适用于 AI 应用程序的通用中间表示以将其应用于嵌套编译器来解决此问题。通过解决人工智能应用和人工智能芯片之间的异构性,人工智能芯片的开发变得更加容易。该技术也被确立为电信技术协会 (TTA) 的标准。

专注于人工智能计算处理的神经处理单元(NPU)人工智能芯片取代了 CPU 或 GPU,越来越受到关注。为了运行自动驾驶、物联网 (IoT) 和传感器等应用程序,必须针对每个应用程序设计优化的 AI 芯片。

同时,优化的编译器必须为每个应用程序生成准确的执行代码,以实现最佳性能。因为保证深度学习模型推理性能的核心系统软件Deep Learning Compiler很重要。它充当硬件和应用软件之间的桥梁。

通常,制造商会开发此工具以及 AI 芯片和系统软件进行销售。到目前为止,中小企业和初创公司很难将他们的能力集中在芯片设计上。这是因为需要花费大量时间来开发和优化系统软件和应用程序。大厂提供的系统软件是针对自己的芯片进行优化的,由于是私人开发的,所以应用有一定的局限性。