1.基于马尔科夫的智能决策方法,其特征在于,所述方法包括:获取无人机执行任务的马尔科夫策略;所述马尔科夫策略中的智能体为执行任务的无人机,所述智能体的动作为所述无人机执行任务时控制动作,所述智能体的状态为无人机所处任务环境中的状态;获取所述马尔科夫策略中智能体当前时刻的状态空间,以及包含先验信息的动作空间;所述动作空间是由历史时刻每一时间步对应的所述控制动作组成;所述状态空间由所述状态组成;根据所述状态空间计算所述动作空间中每一个所述控制动作对应的状态转移概率: ,其中, 为当前时刻的状态与所述状态执行的控制动作转换至下一时刻状态的状态转移概率, 为下一时刻的状态空间, 为当前时刻的期望奖励值, 为当前时刻所述状态空间的转移概率;根据所述状态转移概率得到所述控制动作与所述状态之间对应关系的期望奖励值;根据执行任务的无人机自身状态与当前时刻的先验知识信息输出当前时刻的动作空间,通过当前时刻的所述动作空间确定当前时刻的控制动作,根据所述当前时刻的控制动作对应的所述状态转移概率执行所述当前时刻的控制动作,得到当前时刻的期望奖励值为: ,其中, 为当前时刻的期望奖励值, 为当前时刻的期望奖励值的集合, 为当前时刻状态空间, 为当前时刻的状态, 为当前时刻的状态对应的先验知识信息的集合, 为当前时刻的动作空间, 为当前时刻的动作;分别采用所述控制动作对应的动作价值函数和所述状态对应的状态价值函数表示所述期望奖励值;所述当前时刻的期望奖励值通过所述状态转移概率进行转化,得到当前时刻状态的期望奖励值的集合: ,其中, 为当前时刻的期望奖励值, 为当前时刻状态空间的所述状态转移概率;根据当前时刻状态的期望奖励值的集合与下一时刻状态通过贝尔曼方程生成下一时刻状态的状态价值;通过强化学习算法优化所述动作价值函数和所述状态价值函数,以此将所述期望奖励值对应的所述控制动作作为所述无人机下一时刻任务执行的智能决策结果。
2.根据权利要求1所述的方法,其特征在于,所述状态包括:所述无人机的位置坐标信息、所述无人机的姿态、所述无人机的飞行速度、所述无人机的飞行轨迹以及所述无人机在当前时刻所处的三维地理环境。
3.根据权利要求2所述的方法,其特征在于,通过强化学习算法优化所述动作价值函数和所述状态价值函数,以此将所述期望奖励值对应的所述控制动作作为所述无人机下一时刻任务执行的智能决策结果,还包括:生成决策训练模型,将执行任务的所述无人机的状态状态与所述无人机的预设策略作为训练样本输入至决策训练模型,所述决策训练模型通过强化学习优化所述动作价值函数和所述状态价值函数,得到状态价值的最大值及所述状态价值的最大值对应的控制动作,以所述状态价值的最大值对应的控制动作作为所述无人机下一时刻任务执行的智能决策结果。
4.一种基于马尔科夫的智能决策装置,其特征在于,所述装置包括:策略获取模块,用于获取无人机执行任务的马尔科夫策略;所述马尔科夫策略中的智能体为执行任务的无人机,所述智能体的动作为所述无人机执行任务时控制动作,所述智能体的状态为无人机所处任务环境中的状态;结合空间获取模块,用于获取所述马尔科夫策略中智能体当前时刻的状态空间,以及包含先验信息的动作空间;所述动作空间是由历史时刻每一时间步对应的所述控制动作组成;所述状态空间由所述状态组成;期望奖励值生成模块,用于根据所述状态空间计算所述动作空间中每一个所述控制动作对应的状态转移概率: ,其中, 为当前时刻的状态与所述状态执行的控制动作转换至下一时刻状态的状态转移概率, 为下一时刻的状态空间, 为当前时刻的期望奖励值, 为当前时刻所述状态空间的转移概率;根据所述状态转移概率得到所述控制动作与所述状态之间对应关系的期望奖励值;根据执行任务的无人机自身状态与当前时刻的先验知识信息输出当前时刻的动作空间,通过当前时刻的所述动作空间确定当前时刻的控制动作,根据所述当前时刻的控制动作对应的所述状态转移概率执行所述当前时刻的控制动作,得到当前时刻的期望奖励值为: ,其中, 为当前时刻的期望奖励值, 为当前时刻的期望奖励值的集合, 为当前时刻状态空间, 为当前时刻的状态, 为当前时刻的状态对应的先验知识信息的集合, 为当前时刻的动作空间, 为当前时刻的动作;期望奖励值转化模块,用于分别采用所述控制动作对应的动作价值函数和所述状态对应的状态价值函数表示所述期望奖励值;所述当前时刻的期望奖励值通过所述状态转移概率进行转化,得到当前时刻状态的期望奖励值的集合: ,其中, 为当前时刻的期望奖励值, 为当前时刻状态空间的所述状态转移概率;根据当前时刻状态的期望奖励值的集合与下一时刻状态通过贝尔曼方程生成下一时刻状态的状态价值;决策结果生成模块,用于通过强化学习算法优化所述动作价值函数和所述状态价值函数,以此将所述期望奖励值对应的所述控制动作作为所述无人机下一时刻任务执行的智能决策结果。
5.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至3中任一项所述方法的步骤。
6.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至3中任一项所述的方法的步骤。