针对深空探测器姿态估计问题,提出了一种基于星敏感器的深空飞行器姿态估计新型算法,用李群替代了传统的四元数来描述姿态,避免了四元数转换为姿态矩阵产生的非唯一性和复杂计算等问题。该算法给出了基于星敏感器的姿态观测方程和空间中刚体的运动学模型在李群下的描述并提出了一种基于李群的滤波算法,完成了深空飞行器动态姿态的确定。该线性化模型解决了传统非线性模型在滤波过程中产生的误差,同时省去了四元数转化为姿态矩阵的步骤,减少了计算量。最后,仿真实验中对比了传统的基于四元数的姿态确定算法,可以看出该算法具有更好的稳定性和准确性。