提出一种基于异构计算方法加速基于神经网络声学模型的语音识别解码器的方法。该方法通过GPU 和CPU 协同计算,利用GPU 的浮点运算能力和并行计算能力加速神经网络计算,从而加快语音识别解码过程。为了充分利用计算资源,本文实现了多卡多线程GPU - CPU 协同解码系统,并对神经网络计算过程进行了优化,以提升计算并行程度。所提出的加速方法与仅使用CPU 的解码方法相比,取得了3 倍以上的解码加速比,并保持解码精度不变。