为优化H.264编码技术在数字信号处理中的实际应用,在对H.264标准中帧内及帧间预测模式深入研究的基础上,提出了2种改进算法:帧内预测时,采用直方图的自相关特性进行快速模式判别;帧问预测时,采用运动估计块匹配过程中得到的绝对值误差和作为中途停止条件,结合运动搜索预处理及残差纹理分析进行模式判别.这2种算法均大幅提高了编码速度.在此基础上合理利用DM642芯片及H.264编码器的自身特点,充分挖掘处理器的并行特性和计算资源等以优化编码器.实验结果表明,在图像质量不变的前提下,编码速度提高到15帧/s,部分序列达到18帧/s,码率上升8%.