Involution的基本实现方式(学习记录)

  Involution是由Li等人于2021年所提出的新型神经网络算子。该算子的基于卷积(Convolution)设计而来，具有和卷积算子所相反的基本特征，故得名反卷积特征算子，也被称作内卷、合卷。下面统称内卷。   在笔者的本科毕业设计中，针对该内卷算子进行了学习，根据设计需要修改了算子的部分结构，并基于它设计了一个神经网络架构。本文用于粗略记录学习过程和个人理解，以及设计过程中的实现方式。笔者也初步尝试对算子进行并行化，用于学习算法和模型加速。