CN103870718B - 基于神经网络的逆运动求解方法 - Google Patents

Abstract

本发明公开了一种基于神经网络的逆运动求解方法，主要解决了现有技术中存在的逆运动求解数值计算时间长，收敛性难以保证，计算结果单一的问题。该基于神经网络的逆运动求解方法包括以下步骤：计算逆运动问题的等价优化问题表示；建立针对优化问题的回复式神经网络求解模型，设定优化问题的动力学求解方差；设定确保求解模型收敛性的模型参数；设定系统状态的初值扰动，求解运动迹线的多样性。通过上述方案，本发明达到了有效控制模型的技术速度，满足三维渲染应用的需求，计算稳定性较好的目的，具有很高的实用价值和推广价值。

Description

基于神经网络的逆运动求解方法

技术领域

本发明涉及一种基于神经网络的逆运动求解方法。

背景技术

逆运动是源于机器运动学中的概念，是指使用运动学方程求解机器人关节运动的轨迹，最终使得机器人的终端执行器达到指定位置。逆运动问题求解广泛存在于各类应用，如交互式计算机图形学和目前新兴的计算机三维游戏设计、虚拟现实等。为了使动画对象的运动更加真实，并在游戏中准确模拟现实生物的反应和行为，可通过求解运动轨迹方程来实现对关节的运动控制，在三维渲染中，涉及图像的渲染速度需求，因此对于运动方程的求解有更高计算性能要求。

在控制和计算机领域，逆运动问题的传统求解方法可大致划分为：解析计算方法、数值计算方法、优化求解方法三类。解析法在实际逆运动问题求解中使用较少，主要通过对关节链运动，建立运动方程，并对运动方程求解析解。多数情况下，求运动方程解析解的过程较为复杂而难以实施，因此仅适用于部分特定应用场景。数值计算方法又可大致划分为两类，一类采用Newton-Raphson数值方法求解运动方程，这类求解将逆运动方程转换为带约束的非线性编程问题，采用quasi-Newton及改进算法求解；另一类采用预测-校正算法求解运动方程，数值计算方法的主要困难在于Jacobian矩阵为奇异时，无法直接计算运动方程。此外，当解向量初值不准确时，求解可能会不稳定，对于重复运动或周期性的应用场景，奇异性即表明多解存在，而上述原因导致数值求解方法不仅难以得到收敛解，更难以获得解的多样性。在动画场景中，使得动画结果表现单调，优化求解方法近年来得到较为广泛研究，优化方法以l-正则化方式概化逆运动问题，采用启发式学习算法计算得到问题的最优或近似最优解，然而计算的快速性和稳定性还待提高。

对于系统能量极值点有快速而稳定的收敛能力，可以有求解运动轨迹。同时，通过对初始状态的扰动，可得到多样性的解轨迹，使运动轨迹更加真实自然。较好地解决三维人物动画的逆运动模拟问题。

发明内容

本发明的目的在于提供一种基于神经网络的逆运动求解方法，主要解决现有技术中存在的逆运动求解数值计算时间长，收敛性难以保证，计算结果单一的问题。

为了实现上述目的，本发明采用的技术方案如下：

基于神经网络的逆运动求解方法，包括以下步骤：

(1)计算逆运动问题的等价优化问题表示；

(2)建立针对优化问题的回复式神经网络求解模型，设定优化问题的动力学求解方程；

(3)设定确保求解模型收敛性的模型参数；

(4)设定系统状态的初值扰动，求解运动迹线的多样性。

所述步骤(1)具体包括：

设定执行器状态为逆运动目标状态为运动链子对初始状态为：其中，T为向量转置；上述状态变量都是向量表示；

(1a)采用目标状态与执行器状态之差作为优化目标函数：

(1b)将优化目标函数采用二阶正则形式表示为：

(1c)将优化目标函数的求解为求解D^*，使得：F(D^*)＝min{F(D):D∈R^s+t}，其中，R为实数域，s+t是表示向量D的维度，s，t分别表示关节点与执行器的维度。

步骤(1c)中目标优化函数的求解满足以下约束条件：

其中i、j均表示运动对通过连接器连接的相邻质点，ti、tk表示连续运动时间上任意两个时刻，abs为绝对值函数，即邻接的两个点，其距离不会随时间改变；

若有其他运动约束，如自由度限制等，统一用约束函数表示：

g_i(D)≤0,i＝1,...,m，其中，m表示最大约束个数，不等式约束形式的≥和≤是对偶形式，统一由g(D)≤0形式表示；等式约束g(D)＝0可等效替换为不等式约束g(D)≤0和-g(D)≤0。由于不同运动形式的约束不一样，因而采用通项表达式表示，例如：假定一个自由运动，如果有m个约束方程，那么每个约束方程的形式用gi(D)表示，D与运动关节变量相关，如，有些运动是特定的轨迹，要求x和y坐标必须相等，那么，此时的约束方程为x＝y，亦可表示为g(x,y)＝x-y。

所述步骤(2)具体包括：

设神经元个数为p，w_ij为神经元i与神经元j之间的连接系数，x_i(k)为神经元i在k时刻的状态，f_i()为神经元j的激励函数，建立其数值计算模型：

即其向量表达式为：x(k+1)＝f(wx(k)+b)，将其向量表达式作连续性变换得到动力方程为：其中，x(t)为t时刻的x函数值，w为上述系数矩阵，b为阈值常量。

进一步地，所述步骤(3)中，模型参数为1000～5000；所述步骤(4)中，系统状态的初值扰动满足以下条件：

在相机-模型视空间下，实际扰动小于阈值要求。

与现有技术相比，本发明具有以下有益效果：

(1)本发明中，将运动对象的关节点用计算神经元模拟，通过异步更新神经元计算和初值扰动，可得到解轨迹的多样性，增加了三维应用场景渲染的可视性，通过设计和设定神经网络模型的控制参数，可有效控制模型的计算速度，满足三维渲染应用的需求，具有良好的计算稳定性。

附图说明

图1为本发明-实施例中逆运动的神经网络方法计算流程。

图2为本发明-实施例中回复式神经网络方法的计算流程。

具体实施方式

下面结合附图和实施例对本发明作进一步说明，本发明的实施方式包括但不限于下列实施例。

实施例

本发明提供了一种基于神经网络方法的逆运动优化求解方法，主要采用回复式神经网络模型求解概化后的逆运动问题。由于回复式神经网络对于系统能量极值点有快速而稳定的收敛能力，可以求解运动轨迹，同时，通过对初始状态的扰动，可得到多样性的解轨迹，使运动轨迹更加真实自然，能够较好地解决三维人物动画的逆运动模拟问题。

本发明在三维人物动画渲染中，在给定逆运动初值和目标的条件下，从优化求解的角度，将原问题表征为等价的优化问题，利用回复式神经网络模型的优化求解能力，通过对模型参数的设计，稳定快速求得逆运动问题的最优或近似最优的运动迹线，并通过初值扰动，计算得到运动迹线的多样性。如图1所示，本发明中提出的求解方法分为四个基本步骤：

步骤1：逆运动问题的等价优化求解问题表示：F(θ^*)＝,min{F(θ):θ∈Rⁿ}；

步骤2：设计针对步骤1中优化问题的回复式神经网络求解模型，设定该问题的动力学求解方程：

步骤3：设定模型参数，保证求解模型的收敛性；

步骤4：设定系统状态的初值扰动，以求解运动迹线的多样性。

为便于准确描述，定义符号和术语如下：

文中所述运动对象均为刚体对象，刚体对象之间用不变形(无扭转或拉伸变形)的运动链子对dyad相连，对象所处坐标系为欧氏空间的惯性Cartesian坐标系，空间位置用三元组(x,y,z)∈R³标记；运动对象的前端为执行器，后端为静地点(该点为固定点)。给出以下定义：

执行器状态用列向量E表示：

逆运动目标状态用列向量G表示：

运动链子对初始状态用列向量D表示：

逆运动问题的求解即为从运动链子对的初始状态开始寻找连续的链子对运动轨迹(其中s为中间状态序列)，最终使得执行器状态与目标状态相符的过程(n为连续运动的终止序号)。

具体地说，本发明中提出的求解方法四个基本步骤具体为：

步骤1：逆运动问题的等价优化求解问题表示，其基本思想如上所述：

计算终止状态时，执行器状态与目标状态相一致。采用目标状态与执行器状态之差作为优化目标函数：

为方便计算，采用二阶正则形式表示优化函数，即：

该优化函数的求解为求解D^*，使得：

F(D^*)＝min{F(D):D∈R^s+t}

由于逆运动对象为刚体对象，且质点间的连接器不变形，因此，上述目标函数的求解需满足约束条件：

(1)其中i，j表示运动对通过连接器连接的相邻质点，s，t表示连续运动时间上任意两个时刻；

(2)若有其他运动约束，如自由度限制等，统一用约束函数表示：

g_i(D)≤0,i＝1,...,m

m表示最大约束个数；不等式约束形式的≥和≤是对偶形式，统一由g(D)≤0形式表示；等式约束g(D)＝0可等效替换为不等式约束g(D)≤0和-g(D)≤0。

步骤2：为解决方案的主要工作，针对上述优化问题，设计基于回复式神经网络的计算模型，求解优化问题的动力学方程：

用典型单层、全连接回复式神经网络进行描述，设神经元个数为p，w_ij为神经元i与j之间的连接系数，x_i(k)为神经元i在k时刻的状态，f_i()为神经元j的激励函数，则其数值计算模型为：

采用更一般的形式表示为：

向量表达式为：

x(k+1)＝f(wx(k)+b)

其中，k为离散化的时间序列，x_i为每一个神经元分量，f为传递函数，在等式两方同时加上-x(k)为：

x(k+1)-x(k)＝-x(k)+f(wx(k)+b)

作连续性变换，可得到动力方程：

其中，x(t)为t时刻的x函数值，w为上述系数矩阵，每个元素为w_ij，b为阈值常量。

根据Lyapunov函数定理，可以通过构造Lyapunov函数V(x)来保证系统的稳定性，为求解神经元动力系统提供了有效的方法。

在上述基础上，可进行逆运动问题的求解，计算流程如图2所示，包括以下步骤：

(1)输入运动对象的初始状态以及逆运动系统中的目标对象；

运动对象采用回复式神经网络来表达，运动对象的关节点即为需计算的运动轨迹。其中，对每一运动关节点D_i，i为其位置。每个运动关节点有Cartesian坐标R³的位置(X,Y,Z)，每一运动方向可用一个计算神经元表示。因此，在每一个i位置对应了三个计算神经元，分别序号为3*i-2，3*i-1，3*i，设n为运动对象中关节点的总数，且位置n处为执行器，则运动系统的初始状态即为神经网络模型的初始状态：

＜x₁,x₂,x₃,...,x_3*i-2,x_3*i-1,x_3*i,...x_3*n-2,x_3*n-1,x_3*n＞

＝(X₀,Y₀,Z₀,...,X_i,Y_i,Z_i,...X_n,Y_n,Z_n)

目标位置：三元组(y₁,y₂,y₃)为初始设定的常数；

(2)针对步骤1中的优化目标，给出欧式距离平方表示的目标函数：

f(x₁,x₂,x₃,...,x_3*i-2,x_3*i-1,x_3*i,...x_3*n-2,x_3*n-1,x_3*n)

＝(y₁-x_3*n)²+(y₂-x_3*n-1)²+(y₃-x_3*n-2)²

即为目标位置与连续的执行器位置的欧式距离；

(3)步骤1中的约束条件表示为：

g_i＝(x_3*i-x_3*(i-1))²+(x_3*i-1-x_3*(i-1)-1)²+(x_3*i-2-x_3*(i-1)-2)²＝r_i ²

其中，i从2到n，约束产生在邻近的两个关节点之间的链接，r_i为第i个链接的长度，在本方案中处置针对关节点自由旋转无拉伸的情况，若关节点存在旋转角等其它约束，只是增加约束函数的数量，则对问题求解无本质影响；

(4)单个神经元的计算模型采用canonical非线性编程动态模型来表示：

其中，g_j为约束条件所对应的函数，j＝1,…,n，为约束函数的个数，i＝1,…,3*n，i_j为非线性激励形式μ_j＝φ_j(g_j(x))，激励函数φ_j(x),x∈R选用如下有上饱和阈值的形式表示。

该函数可满足x·φ_j(x)≥0

上述计算模型中，函数φ_j(x)满足连续条件，且目标函数f(x)与约束函数g(x)及其导数均满足连续条件，则可设定Lyapunov函数为：

按照Lyapunov定理，可保证参数非负条件下，神经网络计算系统存在稳定的解。

因此，前述微分形式的canonical非线性编程动态模型可设计离散差分迭代形式，并计算每个神经元的状态更新：

其中，表示神经元在k+1次迭代计算后的值，f与g表示步骤(2)和步骤(3)中的目标函数与约束函数，μ_j与C_i表示神经元j，i对应的常系数；

(5)神经网络计算模型中所有神经元的异步更新：

与CCD等算法对关节点的更新有次序性不同，回复式神经网络模型中，神经元的计算是并行处理，神经元的顺序无特定的含义，若以固定的计算序列更新各个神经元的值，例如：

＜x₁,x₂,x₃,...,x_3*i-2,x_3*i-1,x_3*i,...x_3*n-2,x_3*n-1,x_3*n＞的固定顺序：

…

即当前神经元的更新依赖于之前节点的顺次更新，体现为几何对象以跟节点为起始，依次更新各个关节点的位置。显然，这种更新方式会导致运动轨迹的单一性，此外，固定的更新顺序还可能会因为某个关节点的局部收敛情况下，影响后续节点的优化速度，本发明采用神经元异步更新的方式。

异步更新神经元节点可较好地避免计算过程的单一性，每次不同的计算顺序决定了对应关节点的局部优化顺序，也使得运动迹线存在多样性。

针对三维渲染的需要，每轮中间计算结果形成了三维运动对象的输出位置，因此，在每一轮迭代结束后，将中间结果发送给图形渲染处理；

(6)计算模型的停止规则：

逆运动问题的神经网络计算模型本质上采用了迭代计算过程，这类计算同时存在收敛性和收敛速度方面的问题，可分别从应用场景需求、迭代次数、计算精度等方面设定停止规则。

计算时间限制：

该限制主要源于三维应用程序的需求，在三维应用中，完成该逆运动问题的运动过程受限于应用场景对该过程所设的最大时间限制td_max，从迭代模型开始计时到td_max后则终止计算。

迭代次数限制：

迭代次数可通过运动对象执行器与目标位置之间的距离来设计，参照三维渲染平滑移动的图形刷新速度，最大迭代次数可设为：

其中，fps为一般需求的帧刷新率(帧每秒)，udiscrm为平滑距离，c为经验系数，取值范围为1.5～2.5，dist(a.b)为距离函数，即求得a、b之间的距离；Pos(s)即为求得s的位置函数，上述Pos(goal)，Pos(effector)为获得目标点与执行器的位置。

精度限制：

在目标驱动的运动对象执行器更新的过程中，计算精度包含了两个方面，一是目标函数值趋于0⁺时，可在一定精度条件下认为计算结束，pd_max＝δ(pd为变量符号，即给其赋δ这样一个较小值即可)，该精度的设定与应用场景所用的坐标系分辨率，以及三维场景中所采用的相机-模型视空间有关；

另一情况是迭代计算过程中，各关节点神经元陷入局部收敛而无法解除或优化问题本身无解的时候，可终止继续计算行为：

其中δ_n是n维的正向量，用于确定各个维度上的精度阈值。

精度限制方法在优化函数目标不可达时，会因为已达到运动对象的全局最优状态而进入收敛，此时终止对无解问题的求解，求解的终止状态是运动对象面向目标的最佳优化形态，较为自然地解决了无解情况下的逆运动求解。

步骤3：为步骤2中的计算模型设定控制参数，主要是为了保证求解模型在有解情况下的收敛性。

从前述的神经网络计算模型中，根据激励函数的设置，按照Lyapunov定理，则可保证参数C_i非负条件下，神经网络计算系统存在稳定的解。而在实际计算中，非负条件并不能保证计算的收敛性，C_i的选择还会影响到优化的速度以及解的稳定性。

根据实际的运行试验，C_i取值在1000～5000之间较为适合。取值相对较小时，收敛速度较快，重复计算结果的多样性也较好；取值相对较高时，计算速度较慢，计算结果也趋于单一。由分析可知，取值较高时，算法实际上退化为数值计算方法，且有较小的计算步长，因此有较长计算时间。

步骤4：设定系统状态的初值扰动，增加运动迹线的多样性。

按照微分方程满足局部李氏条件，且目标优化函数及约束函数均连续，解对初值有连续依赖性，除了神经元异步更新可增加解的多样性，通过对初始位置的微小扰动也可增加解的多样性。

在初值扰动时，因改变了静地坐标原点的位置，需要注意的是三维应用本身对运动物体的精度要求，这种扰动不应打破应用本身的精度限制。因此，在使用初值扰动时，应在相机-模型视空间下，保证实际的扰动小于阈值要求。

上述计算步骤中，主要计算时间耗费在步骤2中。分析可知，计算开销取决于两个方面：约束函数的个数，以及相关其他神经元的交互作用。直观上，上两个因素影响了微分方程的维度，也就影响了方程求解的难度。对单个神经元更新的计算时间应小于k×n，其中，k为与约束个数，n为神经元的规模。所以，该算法的时间复杂度为O(n²)规模。

前述为静地点固定的求解描述，在本方案的后续扩展中，静地点可以为运动点，而目标对象也可以是运动对象，这样就形成了动态追逐的逆运动求解。

综上所述，回复式神经网络计算方法求解三维渲染应用中的逆运动问题，是以优化求解方法为背景，主要采用了数值计算方法求解运动微分方程，该方法将运动对象的关节点用计算神经元模拟，通过异步更新神经元计算和初值扰动，可得到解轨迹的多样性，增加了三维应用场景渲染的可视性。通过设计和设定神经网络模型的控制参数，可有效控制模型的计算速度，满足三维渲染应用的需求，该计算方法在目标不可达或存在奇解时，仍具有良好的计算稳定性。

按照上述实施例，便可很好地实现本发明。

Claims (3)

1.基于神经网络的逆运动求解方法，其特征在于，包括以下步骤：

(1)计算逆运动问题的等价优化问题表示；

(2)建立针对优化问题的回复式神经网络求解模型，设定优化问题的动力学求解方程；

(3)设定确保求解模型收敛性的模型参数；

(4)设定系统状态的初值扰动，求解运动迹线的多样性；

所述步骤(1)具体包括：

设定执行器状态为逆运动目标状态为运动链子对初始状态为：其中，T为向量转置；

(1a)采用目标状态与执行器状态之差作为优化目标函数：

(1b)将优化目标函数采用二阶正则形式表示为：

(1c)将优化目标函数的求解为求解D^*，使得：F(D^*)＝min{F(D):D∈R^s+t}，其中，R为实数域，s+t是表示这个向量的维度；

步骤(1c)中目标优化函数的求解满足以下约束条件：

其中i、j均表示运动对通过连接器连接的相邻质点，ti、tk表示连续运动时间上任意两个时刻，abs为绝对值函数；

若有其他运动约束，如自由度限制等，统一用约束函数表示：

g_i(D)≤0,i＝1,...,m，其中，m表示最大约束个数，不等式约束形式的≥和≤是对偶形式，统一由g(D)≤0形式表示；等式约束g(D)＝0可等效替换为不等式约束g(D)≤0和-g(D)≤0；

所述步骤(2)具体包括：

设神经元个数为p，w_ij为神经元i与神经元j之间的连接系数，x_i(k)为神经元i在k时刻的状态，f_i()为神经元j的激励函数，建立其数值计算模型：

即其向量表达式为：x(k+1)＝f(wx(k)+b)，其中，k为离散化的时间序列，x_i为每一个神经元分量，f为传递函数；将其向量表达式作连续性变换得到动力方程为：其中，x(t)为t时刻的x函数值，w为上述系数矩阵，b为阈值常量。

2.根据权利要求1所述的基于神经网络的逆运动求解方法，其特征在于，所述步骤(3)中，模型参数为1000～5000。

3.根据权利要求1所述的基于神经网络的逆运动求解方法，其特征在于，所述步骤(4)中，系统状态的初值扰动满足以下条件：

在相机-模型视空间下，实际扰动小于阈值要求。