以下、図面を参照して、実施形態に係る動作情報処理装置を説明する。なお、以下で説明する動作情報処理装置は、動作情報処理装置単体として用いられてもよく、或いは、例えば、カルテシステムや、リハビリ部門システムなどのシステムに組み込まれて用いられる場合であってもよい。
(第1の実施形態)
図1は、第1の実施形態に係る動作情報処理装置100の構成の一例を示す図である。第1の実施形態に係る動作情報処理装置100は、例えば、医療機関や自宅、職場等において行われるリハビリテーションを支援する装置である。ここで、「リハビリテーション」とは、障害、慢性疾患、老年病など、治療期間が長期にわたる患者の潜在能力を高めて、生活機能ひいては、社会的機能を回復、促進するための技術や方法を指す。かかる技術や方法としては、例えば、生活機能、社会的機能を回復、促進するための機能訓練などが含まれる。ここで、機能訓練としては、例えば、歩行訓練や関節可動域訓練などが挙げられる。また、リハビリテーションの対象となる者を「対象者」と表記する。この対象者は、例えば、病人やけが人、高齢者、障害者等である。また、リハビリテーションが行われる際に、対象者を介助する者を「介助者」と表記する。この介助者は、例えば、医療機関に従事する医師、理学療法士、看護師等の医療従事者や、対象者を自宅で介護する介護士、家族、友人等である。また、リハビリテーションは、「リハビリ」とも略記する。
図1に示すように、第1の実施形態において、動作情報処理装置100は、動作情報収集部10に接続される。
動作情報収集部10は、リハビリテーションが行われる空間における人物や物体等の動作を検知し、人物や物体等の動作を表す動作情報を収集する。なお、動作情報については、後述の動作情報生成部14の処理を説明する際に詳述する。また、動作情報収集部10としては、例えば、Kinect(登録商標)が用いられる。
図1に示すように、動作情報収集部10は、カラー画像収集部11と、距離画像収集部12と、音声認識部13と、動作情報生成部14とを有する。なお、図1に示す動作情報収集部10の構成は、あくまでも一例であり、実施形態はこれに限定されるものではない。
カラー画像収集部11は、リハビリテーションが行われる空間における人物や物体等の被写体を撮影し、カラー画像情報を収集する。例えば、カラー画像収集部11は、被写体表面で反射される光を受光素子で検知し、可視光を電気信号に変換する。そして、カラー画像収集部11は、その電気信号をデジタルデータに変換することにより、撮影範囲に対応する1フレームのカラー画像情報を生成する。この1フレーム分のカラー画像情報には、例えば、撮影時刻情報と、この1フレームに含まれる各画素にRGB(Red Green Blue)値が対応付けられた情報とが含まれる。カラー画像収集部11は、次々に検知される可視光から連続する複数フレームのカラー画像情報を生成することで、撮影範囲を動画撮影する。なお、カラー画像収集部11によって生成されるカラー画像情報は、各画素のRGB値をビットマップに配置したカラー画像として出力されても良い。また、カラー画像収集部11は、受光素子として、例えば、CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge Coupled Device)を有する。
距離画像収集部12は、リハビリテーションが行われる空間における人物や物体等の被写体を撮影し、距離画像情報を収集する。例えば、距離画像収集部12は、赤外線を周囲に照射し、照射波が被写体表面で反射された反射波を受光素子で検知する。そして、距離画像収集部12は、照射波とその反射波との位相差や、照射から検知までの時間に基づいて、被写体と距離画像収集部12との距離を求め、撮影範囲に対応する1フレームの距離画像情報を生成する。この1フレーム分の距離画像情報には、例えば、撮影時刻情報と、撮影範囲に含まれる各画素に、その画素に対応する被写体と距離画像収集部12との距離が対応付けられた情報とが含まれる。距離画像収集部12は、次々に検知される反射波から連続する複数フレームの距離画像情報を生成することで、撮影範囲を動画撮影する。なお、距離画像収集部12によって生成される距離画像情報は、各画素の距離に応じた色の濃淡をビットマップに配置した距離画像として出力されても良い。また、距離画像収集部12は、受光素子として、例えば、CMOSやCCDを有する。この受光素子は、カラー画像収集部11で用いられる受光素子と共用されても良い。また、距離画像収集部12によって算出される距離の単位は、例えば、メートル[m]である。
音声認識部13は、周囲の音声を集音し、音源の方向特定及び音声認識を行う。音声認識部13は、複数のマイクを備えたマイクアレイを有し、ビームフォーミングを行う。ビームフォーミングは、特定の方向からの音声を選択的に集音する技術である。例えば、音声認識部13は、マイクアレイを用いたビームフォーミングによって、音源の方向を特定する。また、音声認識部13は、既知の音声認識技術を用いて、集音した音声から単語を認識する。すなわち、音声認識部13は、例えば、音声認識技術によって認識された単語、その単語が発せられた方向及びその単語を認識した時刻が対応付けられた情報を、音声認識結果として生成する。
動作情報生成部14は、人物や物体等の動作を表す動作情報を生成する。この動作情報は、例えば、人物の動作(ジェスチャー)を複数の姿勢(ポーズ)の連続として捉えることにより生成される。概要を説明すると、動作情報生成部14は、まず、人体パターンを用いたパターンマッチングにより、距離画像収集部12によって生成される距離画像情報から、人体の骨格を形成する各関節の座標を得る。距離画像情報から得られた各関節の座標は、距離画像の座標系(以下、「距離画像座標系」と呼ぶ)で表される値である。このため、動作情報生成部14は、次に、距離画像座標系における各関節の座標を、リハビリテーションが行われる3次元空間の座標系(以下、「世界座標系」と呼ぶ)で表される値に変換する。この世界座標系で表される各関節の座標が、1フレーム分の骨格情報となる。また、複数フレーム分の骨格情報が、動作情報である。以下、第1の実施形態に係る動作情報生成部14の処理を具体的に説明する。
図2Aから図2Cは、第1の実施形態に係る動作情報生成部14の処理を説明するための図である。図2Aには、距離画像収集部12によって生成される距離画像の一例を示す。なお、図2Aにおいては、説明の便宜上、線画で表現された画像を示すが、実際の距離画像は、距離に応じた色の濃淡で表現された画像等である。この距離画像において、各画素は、距離画像の左右方向における「画素位置X」と、距離画像の上下方向における「画素位置Y」と、当該画素に対応する被写体と距離画像収集部12との「距離Z」とを対応付けた3次元の値を有する。以下では、距離画像座標系の座標の値を、この3次元の値(X,Y,Z)で表記する。
第1の実施形態において、動作情報生成部14は、様々な姿勢に対応する人体パターンを、例えば、学習により予め記憶している。動作情報生成部14は、距離画像収集部12によって距離画像情報が生成されるごとに、生成された各フレームの距離画像情報を取得する。そして、動作情報生成部14は、取得した各フレームの距離画像情報に対して人体パターンを用いたパターンマッチングを行う。
ここで、人体パターンについて説明する。図2Bには、人体パターンの一例を示す。第1の実施形態において、人体パターンは、距離画像情報とのパターンマッチングに用いられるパターンであるので、距離画像座標系で表現され、また、距離画像に描出される人物と同様、人体の表面の情報(以下、「人体表面」と呼ぶ)を有する。例えば、人体表面は、その人物の皮膚や衣服の表面に対応する。更に、人体パターンは、図2Bに示すように、人体の骨格を形成する各関節の情報を有する。すなわち、人体パターンにおいて、人体表面と各関節との相対的な位置関係は既知である。
図2Bに示す例では、人体パターンは、関節2aから関節2tまでの20点の関節の情報を有する。このうち、関節2aは、頭部に対応し、関節2bは、両肩の中央部に対応し、関節2cは、腰に対応し、関節2dは、臀部の中央部に対応する。また、関節2eは、右肩に対応し、関節2fは、右肘に対応し、関節2gは、右手首に対応し、関節2hは、右手に対応する。また、関節2iは、左肩に対応し、関節2jは、左肘に対応し、関節2kは、左手首に対応し、関節2lは、左手に対応する。また、関節2mは、右臀部に対応し、関節2nは、右膝に対応し、関節2oは、右足首に対応し、関節2pは、右足の足根に対応する。また、関節2qは、左臀部に対応し、関節2rは、左膝に対応し、関節2sは、左足首に対応し、関節2tは、左足の足根に対応する。
なお、図2Bでは、人体パターンが20点の関節の情報を有する場合を説明したが、実施形態はこれに限定されるものではなく、関節の位置及び数は操作者が任意に設定して良い。例えば、四肢の動きの変化のみを捉える場合には、関節2aから関節2dまでのうち、関節2b及び関節2cの情報は取得しなくても良い。また、右手の動きの変化を詳細に捉える場合には、関節2hのみならず、右手の指の関節を新たに設定して良い。なお、図2Bの関節2a、関節2h、関節2l、関節2p、関節2tは、骨の末端部分であるためいわゆる関節とは異なるが、骨の位置及び向きを表す重要な点であるため、説明の便宜上、ここでは関節として説明する。
動作情報生成部14は、かかる人体パターンを用いて、各フレームの距離画像情報とのパターンマッチングを行う。例えば、動作情報生成部14は、図2Bに示す人体パターンの人体表面と、図2Aに示す距離画像とをパターンマッチングすることで、距離画像情報から、ある姿勢の人物を抽出する。こうして、動作情報生成部14は、距離画像に描出された人物の人体表面の座標を得る。また、上述したように、人体パターンにおいて、人体表面と各関節との相対的な位置関係は既知である。このため、動作情報生成部14は、距離画像に描出された人物の人体表面の座標から、当該人物内の各関節の座標を算出する。こうして、図2Cに示すように、動作情報生成部14は、距離画像情報から、人体の骨格を形成する各関節の座標を取得する。なお、ここで得られる各関節の座標は、距離座標系の座標である。
なお、動作情報生成部14は、パターンマッチングを行う際、各関節の位置関係を表す情報を補助的に用いても良い。各関節の位置関係を表す情報には、例えば、関節同士の連結関係(例えば、「関節2aと関節2bとが連結」等)や、各関節の可動域が含まれる。関節は、2つ以上の骨を連結する部位である。姿勢の変化に応じて骨と骨とがなす角は変化するものであり、また、関節に応じてその可動域は異なる。例えば、可動域は、各関節が連結する骨同士がなす角の最大値及び最小値等で表される。例えば、動作情報生成部14は、人体パターンを学習する際に、各関節の可動域も学習し、各関節に対応付けてこれを記憶する。
続いて、動作情報生成部14は、距離画像座標系における各関節の座標を、世界座標系で表される値に変換する。世界座標系とは、リハビリテーションが行われる3次元空間の座標系であり、例えば、動作情報収集部10の位置を原点とし、水平方向をx軸、鉛直方向をy軸、xy平面に直交する方向をz軸とする座標系である。なお、このz軸方向の座標の値を「深度」と呼ぶことがある。
ここで、距離画像座標系から世界座標系へ変換する処理について説明する。第1の実施形態において、動作情報生成部14は、距離画像座標系から世界座標系へ変換するための変換式を予め記憶しているものとする。例えば、この変換式は、距離画像座標系の座標、及び当該座標に対応する反射光の入射角を入力として、世界座標系の座標を出力する。例えば、動作情報生成部14は、ある関節の座標(X1,Y1,Z1)、及び、当該座標に対応する反射光の入射角をこの変換式に入力して、ある関節の座標(X1,Y1,Z1)を世界座標系の座標(x1,y1,z1)に変換する。なお、距離画像座標系の座標と、反射光の入射角との対応関係は既知であるので、動作情報生成部14は、座標(X1,Y1,Z1)に対応する入射角を変換式に入力することができる。また、ここでは、動作情報生成部14が距離画像座標系の座標を世界座標系の座標に変換する場合を説明したが、世界座標系の座標を距離座標系の座標に変換することも可能である。
そして、動作情報生成部14は、この世界座標系で表される各関節の座標から骨格情報を生成する。図3は、動作情報生成部14によって生成される骨格情報の一例を示す図である。各フレームの骨格情報は、当該フレームの撮影時刻情報と、各関節の座標とを含む。例えば、動作情報生成部14は、図3に示すように、関節識別情報と座標情報とを対応付けた骨格情報を生成する。なお、図3において、撮影時刻情報は図示を省略する。関節識別情報は、関節を識別するための識別情報であり、予め設定されている。例えば、関節識別情報「2a」は、頭部に対応し、関節識別情報「2b」は、両肩の中央部に対応する。他の関節識別情報についても同様に、各関節識別情報は、それぞれ対応する関節を示す。また、座標情報は、各フレームにおける各関節の座標を世界座標系で示す。
図3の1行目には、関節識別情報「2a」と、座標情報「(x1,y1,z1)」とが対応付けられている。つまり、図3の骨格情報は、あるフレームにおいて頭部が座標(x1,y1,z1)の位置に存在することを表す。また、図3の2行目には、関節識別情報「2b」と、座標情報「(x2,y2,z2)」とが対応付けられている。つまり、図3の骨格情報は、あるフレームにおいて両肩の中央部が座標(x2,y2,z2)の位置に存在することを表す。また、他の関節についても同様に、あるフレームにおいてそれぞれの関節がそれぞれの座標で表される位置に存在することを表す。
このように、動作情報生成部14は、距離画像収集部12から各フレームの距離画像情報を取得するごとに、各フレームの距離画像情報に対してパターンマッチングを行い、距離画像座標系から世界座標系に変換することで、各フレームの骨格情報を生成する。そして、動作情報生成部14は、生成した各フレームの骨格情報を、動作情報処理装置100へ出力し、後述の動作情報記憶部131へ格納する。
なお、動作情報生成部14の処理は、上述した手法に限られるものではない。例えば、上述では、動作情報生成部14が人体パターンを用いてパターンマッチングを行う手法を説明したが、実施形態はこれに限られるものではない。例えば、人体パターンに替えて、若しくは人体パターンとともに、部位別のパターンを用いてパターンマッチングを行う手法でも良い。
また、例えば、上述では、動作情報生成部14が距離画像情報から各関節の座標を得る手法を説明したが、実施形態はこれに限られるものではない。例えば、動作情報生成部14が、距離画像情報とともにカラー画像情報を用いて各関節の座標を得る手法でも良い。この場合、例えば、動作情報生成部14は、カラー画像の座標系で表現された人体パターンとカラー画像情報とでパターンマッチングを行い、カラー画像情報から人体表面の座標を得る。このカラー画像の座標系には、距離画像座標系でいう「距離Z」の情報は含まれない。そこで、動作情報生成部14は、例えば、この「距離Z」の情報については距離画像情報から得て、これら2つの情報を用いた計算処理によって、各関節の世界座標系の座標を得る。
また、動作情報生成部14は、カラー画像収集部11によって生成されたカラー画像情報、距離画像収集部12によって生成された距離画像情報及び音声認識部13によって出力された音声認識結果を、必要に応じて動作情報処理装置100へ適宜出力し、後述の動作情報記憶部131へ格納する。なお、カラー画像情報の画素位置及び距離画像情報の画素位置は、カラー画像収集部11及び距離画像収集部12の位置及び撮影方向に応じて予め対応付け可能である。このため、カラー画像情報の画素位置及び距離画像情報の画素位置は、動作情報生成部14によって算出される世界座標系とも対応付けが可能である。更に、この対応付けと距離画像収集部12により算出される距離[m]を用いることで、身長や体の各部の長さ(腕の長さや腹部の長さ)を求めたり、カラー画像上で指定された2ピクセル間の距離を求めたりすることが可能である。また、同様に、カラー画像情報の撮影時刻情報及び距離画像情報の撮影時刻情報も、予め対応付け可能である。また、動作情報生成部14は、音声認識結果と距離画像情報とを参照し、ある時刻に音声認識された単語が発せられた方向の付近に関節2aがあれば、その関節2aを含む人物が発した単語として出力可能である。更に、動作情報生成部14は、各関節の位置関係を表す情報についても、必要に応じて動作情報処理装置100へ適宜出力し、後述の動作情報記憶部131へ格納する。
また、動作情報生成部14は、世界座標系のz軸方向の座標の値である深度を用いて、撮影範囲に対応する1フレームの深度画像情報を生成する。この1フレーム分の深度画像情報には、例えば、撮影時刻情報と、撮影範囲に含まれる各画素に、その画素に対応する深度が対応付けられた情報とが含まれる。言い換えると、深度画像情報は、距離画像情報の各画素に対応付けられた距離情報に代えて深度情報を対応付けたものであり、距離画像情報と同様の距離画像座標系で各画素位置を表すことができる。動作情報生成部14は、生成した深度画像情報を動作情報処理装置100へ出力し、動作情報記憶部131に格納する。なお、深度画像情報は、各画素の深度に応じた色の濃淡をビットマップに配置した深度画像として出力されても良い。
なお、ここでは、動作情報収集部10によって一人の対象者の動作が検知される場合を説明したが、実施形態はこれに限定されるものではない。動作情報収集部10の検知範囲に含まれていれば、動作情報収集部10は、複数人の対象者の動作を検知しても良い。なお、同一フレームの距離画像情報に複数人の対象者が撮影される場合には、動作情報収集部10は、同一フレームの距離画像情報から生成される複数人の対象者の骨格情報を対応付けて、これを動作情報として医用情報処理装置100へ出力する。
また、動作情報収集部10の構成は、上記の構成に限定されるものではない。例えば、光学式、機械式、磁気式等、他のモーションキャプチャによって人物の動作を検出することで動作情報を生成する場合には、動作情報収集部10は、必ずしも距離画像収集部12を有していなくても良い。かかる場合、動作情報収集部10は、モーションセンサとして、人物の動作を検知するために人体に装着させるマーカと、マーカを検出するセンサとを有する。そして、動作情報収集部10は、モーションセンサを用いて人物の動作を検知して動作情報を生成する。また、動作情報収集部10は、カラー画像収集部11によって撮影した画像に含まれるマーカの位置を用いて、カラー画像情報の画素位置と動作情報の座標とを対応付けた上で、必要に応じて動作情報処理装置100へ適宜出力する。また、例えば、動作情報収集部10は、音声認識結果を動作情報処理装置100へ出力しない場合には、音声認識部13を有していなくても良い。
更に、上述した実施形態において、動作情報収集部10は、骨格情報として世界座標系の座標を出力したが、実施形態はこれに限られるものではない。例えば、動作情報収集部10は、変換前の距離画像座標系の座標を出力し、距離画像座標系から世界座標系への変換は、必要に応じて、動作情報処理装置100側で行ってもよい。
図1の説明に戻る。動作情報処理装置100は、動作情報収集部10から出力される動作情報を用いて、リハビリテーションを支援するための処理を行う。具体的には、動作情報処理装置100は、動作情報収集部10によって収集された動作情報を含む画像情報を用いてリハビリを支援する際に、対象者以外を誤認識することを抑止する。
上述したように、従来、リハビリの機能訓練として、種々の訓練が行われているが、例えば、歩行訓練のように広いスペースを用いて実施されるリハビリにおいては、上述した動作情報収集部10は、リハビリを実施する対象者だけではなく、その他の人物や物(例えば、椅子や器具など)などの対象者以外の情報を収集してしまう場合がある。特に、小規模病院やクリニック(診療所)においては、リハビリ専用の大規模なスペースを確保することは困難であり、動作情報収集部10が対象者以外の情報を収集してしまう場合がある。その結果、動作情報処理装置100は、対象者以外の情報を対象者の情報として誤認識して処理を実行してしまい、各種リハビリ支援の処理に支障をきたす場合がある。そこで、本実施形態に係る動作情報処理装置100は、対象者以外を誤認識することを抑止することを可能にするように構成される。
例えば、動作情報処理装置100は、コンピュータ、ワークステーション等の情報処理装置であり、図1に示すように、出力部110と、入力部120と、記憶部130と、制御部140とを有する。
出力部110は、リハビリテーションを支援するための各種情報を出力する。例えば、出力部110は、リハビリを実施する対象者の動作情報を用いたリハビリを支援するための各種情報を出力する。具体的には、出力部110は、後述する制御部140によって特定された対象者の動作情報を用いた各種処理結果を出力する。また、出力部110は、医用情報処理装置100を操作する操作者が入力部120を用いて各種要求を入力するためのGUI(Graphical User Interface)を表示したり、動作情報処理装置100において生成された表示情報を表示したり、或いは警告音を出力したりする。例えば、出力部110は、モニタ、スピーカー、ヘッドフォン、ヘッドセットのヘッドフォン部分等である。また、出力部110は、メガネ型ディスプレイやヘッドマウントディスプレイ等、利用者の身体に装着させる方式のディスプレイであってもよい。
入力部120は、リハビリテーションを支援するための各種情報の入力を受け付ける。例えば、入力部120は、対象者以外を誤認識することを抑止するための各種情報の入力を受け付ける。例えば、入力部120は、動作情報処理装置100の操作者から各種要求(例えば、対象者であるか否かを判定するための所定の閾値の設定要求や、種々の情報の選択要求や、GUI上で計測を実行させるための計測要求など)の入力を受け付け、受け付けた各種要求を医用情報処理装置100に転送する。例えば、入力部120は、マウス、キーボード、タッチコマンドスクリーン、トラックボール、マイク、ヘッドセットのマイク部分等である。また、入力部120は、血圧計、心拍計、体温計等の生体情報を取得するセンサであっても良い。
記憶部130は、例えば、RAM(Random Access Memory)、フラッシュメモリ(Flash Memory)等の半導体メモリ素子、ハードディスク装置や光ディスク装置等の記憶装置である。また、制御部140は、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路、或いはCPU(Central Processing Unit)が所定のプログラムを実行することで実現することができる。
以上、第1の実施形態に係る動作情報処理装置100の構成について説明した。かかる構成のもと、第1の実施形態に係る動作情報処理装置100は、以下、詳細に説明する構成により、対象者以外を誤認識することを抑止する。なお、以下の実施形態においては、リハビリとして歩行訓練を行う場合を一例に挙げて説明する。図4は、第1の実施形態に係る動作情報処理装置100の詳細な構成の一例を示す図である。まず、動作情報処理装置100における記憶部130について説明する。図4に示すように、動作情報処理装置100においては、例えば、記憶部130が動作情報記憶部131を備える。
動作情報記憶部131は、動作情報収集部10によって収集された各種情報を記憶する。具体的には、動作情報記憶部131は、動作情報生成部14によって生成された動作情報、及び、動作情報生成部14によって生成された動作情報のうち後述する制御部140によって対象者の動作情報として特定された動作情報を記憶する。より具体的には、動作情報記憶部131は、制御部140によって対象者の動作情報として特定された動作情報において、動作情報生成部14によって生成されたフレームごとの骨格情報を記憶する。ここで、動作情報記憶部131、動作情報生成部14によって出力されたカラー画像情報、距離画像情報及び音声認識結果をフレームごとにさらに対応付けて記憶することも可能である。なお、制御部140によって対象者の動作情報として特定され、動作情報記憶部131によって記憶される動作情報の詳細については、後に詳述する。
次に、動作情報処理装置100の制御部140の詳細について説明する。図4に示すように、動作情報処理装置100においては、例えば、制御部140が取得部141と、特定部142と、表示制御部143とを備える。
取得部141は、所定の動作を実施する対象者及び当該対象者の周囲の画像情報を取得する。具体的には、取得部141は、動作情報収集部10によって収集され、動作情報記憶部131によって記憶された動作情報を取得する。例えば、取得部141は、動作情報記憶部131によってフレームごとに記憶されたカラー画像情報、距離画像情報、音声認識結果及び骨格情報などを取得する。
ここで、上述したように、動作情報収集部10においては、リハビリを実施する対象者以外の情報を収集する場合がある。特に、狭いスペースで、そのほとんどのスペースを用いてリハビリが実施される場合などは、対象者以外の人物や物が動作情報収集に対象領域内に含まれやすく、動作情報収集部10は、それらの情報を収集して、動作情報記憶部131に格納する場合がある。取得部141は、それらの情報を含めたフレームごとの動作情報を取得する。すなわち、動作情報収集部10によって対象者以外の骨格情報が収集された場合、取得部141は、各フレームに対象者の骨格情報及び対象者以外の骨格情報を含む動作情報を取得する。なお、かかる場合には、カラー画像情報や、距離画像情報においても、対象者の情報及び対象者以外の情報が含まれ、取得部141は、それらの情報も取得することが可能である。
図5は、第1の実施形態に係る取得部141によって取得される骨格情報の一例を示す図である。ここで、図5においては、動作情報収集部10が、動作情報収集の対象となる領域内で図中矢印の方向に歩行訓練を実施する対象者に対応する骨格情報に加えて、領域内に置かれた椅子に対しても骨格情報を収集した場合の一例を示す。例えば、動作情報収集部10は、フレームごとに、図5に示すように、人体の各部位に対応する各関節2a1〜2t1を含む骨格情報と、各関節(2a2、2d2、2e2、2i2、2m2、2n2、2o2、2q2、2r2、2s2)を含む骨格情報とを収集して、動作情報記憶部131に格納する。
かかる場合には、取得部141は、対象者の歩行訓練における一連の動作中に収集された全てのフレームにそれぞれ含まれる2種類の骨格情報(各関節2a1〜2t1を含む骨格情報、及び、各関節(2a2、2d2、2e2、2i2、2m2、2n2、2o2、2q2、2r2、2s2))を取得する。ここで、取得部141は、上述した骨格情報だけではなく、各フレームにおけるカラー画像情報及び距離画像情報などを取得することも可能である。
図4に戻って、特定部142は、取得部141によって取得された画像情報における所定の特徴に基づいて、所定の動作を実施する対象者の動作情報を特定する。具体的には、特定部142は、取得部141によって取得された画像情報から対象者を示す対象者情報を所定の特徴として抽出し、抽出した対象者情報に基づいて、所定の動作を実施する対象者の動作情報を特定する。例えば、特定部142は、画像情報に含まれる動体を示す情報対象者情報として抽出し、抽出した対象者情報に基づいて、所定の動作を実施する対象者の動作情報を特定する。ここで、特定部142は、取得部141によって取得された経時的な画像情報において、対象者の周囲の3次元空間内で位置を変化させる物体を動体とする。
図6A及び図6Bは、第1の実施形態に係る特定部142による処理の一例を説明するための図である。図6A及び図6Bにおいては、図5に示す動作情報収集部10によって収集された動作情報を用いた処理の一例を示す。例えば、特定部142は、図6Aに示すように、動作情報収集部10によって収集された動作情報の「T秒」フレームの画像と、「T+t秒」フレームの画像とを読み出す。そして、特定部142は、読み出した画像から動作情報が収集された3次元空間内の動体(動いている人や、物)を抽出する。
一例を挙げると、特定部142は、図6Bに示すように、T秒フレームの画像である「T秒画像」と、(T+t)秒フレームの画像である「(T+t)秒画像」との差分から動体を抽出して、抽出した動体を含む所定の領域を、動作情報を特定するための認識対象領域R1として設定する。ここで、図5に示すように、動作情報収集部10に向かって歩行訓練が実施されている場合には、例えば、特定部142は、「T秒画像」及び「(T+t)秒画像」の各画素における深度を差分することで、画像内の深度の情報が変化した画素を抽出する。なお、椅子のように動きのないものは深度の情報が変化しないため差分すると「0」となり、対象者以外のものとして消去することができる。そして、特定部142は、深度の情報が変化した画素に対して、例えば、モルフォロジー演算などの領域膨張処理を施すことで、認識対象領域R1を設定する。
すなわち、特定部142は、「T秒画像」と「(T+t)秒画像」との差分を算出することで、画像内の動体に対応する画素を抽出する。そして、特定部142は、抽出した画素に対して領域膨張処理を施すことで、動体全体が含まれる認識対象領域R1を設定する。そして、特定部142は、設定した認識対象領域R1に含まれる動作情報を対象者の動作情報として特定する。例えば、特定部142は、図5に示す各関節2a1〜2t1を含む骨格情報を、リハビリを実施する対象者の動作情報として特定する。
ここで、上述した例では、対象者が動作情報収集部10に向かって歩行訓練を行う場合について説明したが、実施形態はこれに限定されるものではなく、例えば、動作情報収集部10の前を横切るように歩行訓練が実施される場合であってもよい。かかる場合においても、上述した例と同様に深度の差分を算出することで、深度の情報が変化した画素を抽出して認識対象領域を設定することができる。
また、上述した例では、深度の情報の変化に基づいて動体を抽出する場合について説明したが、実施形態はこれに限定されるものではなく、例えば、カラー画像情報における画素値を用いる場合であってもよい。かかる場合には、例えば、「T秒」フレームのカラー画像の画素値と、「(T+t)秒」フレームのカラー画像の画素値とを差分することで、画素値に変化が生じた画素を抽出して認識対象領域を設定する。
また、例えば、サーモグラフィによって温度情報をフレームごとに収集して、収集した温度情報の差分を「T秒画像」と「(T+t)秒画像」との間で算出することで、温度情報に変化が生じた画素を抽出して認識対象領域を設定することを可能である。
また、上述した例では、「T秒画像」と「(T+t)秒画像」との2フレームの画像の差分から動体を抽出する場合について説明した。しかしながら、実施形態はこれに限定されるものではなく、例えば、3フレーム以上の画像の差分から動体を抽出する場合であってもよい。一例を挙げると、「T秒画像」、「(T+t)秒画像」及び「(T+2t)秒画像」の深度をそれぞれ差分して、深度が段階的に浅くなる(或いは、深くなる)領域、或いは、深度が経時的に一方向に変化する領域などを抽出して、抽出した領域を認識対象領域として設定する場合であってもよい。これにより、例えば、歩行訓練を実施している対象者以外の人物の動作情報が動作情報収集部10によって収集された場合であっても、歩行訓練などの規則的な動きを実施している対象者を的確に識別することができる。
特定部142は、上述した種々の方法により設定した認識対象領域R1に含まれる動作情報(骨格情報)を対象者の動作情報(骨格情報)として特定する。そして、特定部142は、特定した骨格情報を、動作情報収集部10によって収集されたカラー画像情報や距離画像情報などと対応付けて動作情報記憶部131に格納する。
図7は、第1の実施形態に係る特定部142によって動作情報記憶部131に格納される動作情報の一例を示す図である。特定部142は、図7に示すように、氏名ごとに、氏名番号と、実施日と、動作情報とを対応付けた動作情報を動作情報記憶部131に格納する。ここで、「氏名番号」とは、対象者を一意に特定するための識別子であり、氏名ごとに付与される。「実施日」とは、対象者がリハビリ(例えば、歩行訓練など)を実施した日時を示す。「動作情報」とは、動作情報収集部10によって収集された情報を示す。
例えば、特定部142は、図7に示すように、「氏名:A、氏名番号:1、実施日:20120801_1、動作情報:カラー画像情報、距離画像情報、音声認識結果、骨格情報、・」を記憶する。上記した情報は、「氏名番号」が「1」である「氏名:A」の人物が「2012年」の「8月1日」に実施した「1回目」の歩行訓練における動作情報として、「カラー画像情報」と、「距離画像情報」と、「音声認識結果」と、「骨格情報」とを含む動作情報が記憶されていることを示す。
ここで、特定部142は、図7に示す骨格情報として、対象者の骨格情報として特定した骨格情報を対応付けて格納する。また、特定部142は、図7に示す動作情報として、歩行訓練を実行している際に撮影された全てのフレームごとの「カラー画像情報」、「距離画像情報」、「音声認識結果」及び「骨格情報」が時系列順に時間に対応付けて格納する。
また、特定部142は、図7に示すように、「氏名:A、氏名番号:1、実施日:20120801_2、動作情報:カラー画像情報、距離画像情報、音声認識結果、骨格情報、・」を記憶する。すなわち、特定部142は、「氏名:A」の人物が「2012年」の「8月1日」に実施した「2回目」の歩行訓練における動作情報も同様に格納する。ここで、「2回目」の歩行訓練においても、対象者の骨格情報として特定された骨格情報が対応付けて格納される。
また、特定部142は、図7に示すように、「氏名:B、氏名番号:2」の人物についても、「カラー画像情報」、「距離画像情報」、「音声認識結果」及び「骨格情報」を含む動作情報を格納する。このように、特定部142は、対象者ごとに収集された歩行訓練の動作情報を、それぞれの対象者に対応付けて格納する。なお、図7に示す動作情報はあくまでも一例である。すなわち、特定部142は、図7に示す「カラー画像情報」、「距離画像情報」、「音声認識結果」及び「骨格情報」以外の情報をさらに対応付けて格納することができ、また、例えば、動作情報収集部10が音声認識部13を有さない場合には、音声認識結果が含まれないものとして格納することとなる。
また、動作情報に含まれる「カラー画像情報」及び「距離画像情報」には、BIT MAP、JPEG、その他バイナリ形式の画像データ、または、当該画像データへのリンク等が含まれる。また、動作情報に含まれる「音声認識結果」には、上述した認識情報の他、音声データそのものや、認識情報或いは音声データへのリンクであってもよい。
図4に戻って、表示制御部143は、画像情報において、特定部142によって特定された動作情報に対応する位置に対象者を示す情報を重畳させた表示画像を表示させるように制御する。具体的には、表示制御部143は、特定部142によって動作情報記憶部131に格納された動作情報を用いて、表示画像を表示させる。図8は、第1の実施形態に係る表示制御部143によって表示される表示画像の一例を示す図である。例えば、表示制御部143は、図8に示すように、動作情報収集部10によって収集されたカラー画像情報に対して、特定部142が特定した骨格情報を示す点と線を重畳させた表示画像を出力部110に表示させるように制御する。
このように、特定部142によって対象者の動作情報として特定された骨格情報をカラー画像情報に重畳させることで、カラー画像情報に含まれる対象者上に適切に骨格情報を重畳させた表示情報を表示させることができる。
次に、図9を用いて、第1の実施形態に係る動作情報処理装置100の処理について説明する。図9は、第1の実施形態に係る動作情報処理装置100による処理の手順を示すフローチャートである。図9に示すように、第1の実施形態に係る動作情報処理装置100においては、取得部141が、対象者の動作情報を取得する(ステップS101)。そして、特定部142は、対象者以外を誤認識することを抑止するための誤認識抑止機能がONであるか否かを判定する(ステップS102)。
ここで、誤認識抑止機能がONである場合には(ステップS102肯定)、特定部142は、「T秒画像」と「(T+t)秒画像」とを取得して、「T秒画像−(T+t)秒画像」を算出する(ステップS103)。そして、特定部142は、領域膨張処理を実行して、認識対象領域を抽出する(ステップS104)。
そののち、特定部142は、抽出した認識対象領域内の動作情報(骨格情報)を特定して(ステップS105)、特定した動作情報(骨格情報)を動作情報記憶部131に格納する(ステップS106)。
一方、ステップS102において、誤認識抑止機能がONではない場合には(ステップS102否定)、特定部142による特定が行われずに動作情報が動作情報記憶部131に格納される(ステップS106)。
そして、表示制御部143は、動作情報記憶部131に格納された動作情報に基づいて、表示画像を生成して、出力部110にて表示させるように制御する(ステップS107)。なお、上述した処理の例では、骨格情報を保存する際に認識対象領域を抽出して、抽出した認識対象領域内の動作情報を特定する場合について説明した。しかしながら、実施形態はこれに限定されるものではなく、例えば、任意のタイミングで実行される場合であってもよい。例えば、動作情報の取得時にリアルタイムで実行される場合であってもよい。
上述したように、第1の実施形態によれば、取得部141は、所定の動作を実施する対象者及び当該対象者の周囲の画像情報を取得する。特定部142は、取得部141によって取得された画像情報における所定の特徴に基づいて、所定の動作を実施する対象者の動作情報を特定する。従って、第1の実施形態に係る動作情報処理装置100は、動作情報収集部10によって収集された情報のなかから、対象者の動作情報を特定することができ、対象者以外を誤認識することを抑止することを可能にする。
その結果、動作情報処理装置100は、動作情報収集部10によって収集された動作情報を用いたリハビリ支援において、対象者の動作情報(骨格情報)を用いた的確なリハビリ支援を行うことを可能にする。
また、第1の実施形態によれば、特定部142は、取得部141によって取得された画像情報から対象者を示す対象者情報を所定の特徴として抽出し、抽出した対象者情報に基づいて、所定の動作を実施する対象者の動作情報を特定する。従って、第1の実施形態に係る動作情報処理装置100は、動作情報収集部10によって収集された情報に含まれる対象者の動作情報を的確に抽出することを可能にする。
また、第1の実施形態によれば、特定部142は、画像情報に含まれる動体を示す情報を対象者情報として抽出し、抽出した対象者情報に基づいて、所定の動作を実施する対象者の動作情報を特定する。従って、第1の実施形態に係る動作情報処理装置100は、動作情報収集部10によって収集された情報から容易に対象者の動作情報を抽出することを可能にする。
また、第1の実施形態によれば、特定部142は、取得部141によって取得された経時的な画像情報において、対象者の周囲の3次元空間内で位置を変化させる物体を動体とする。従って、第1の実施形態に係る動作情報処理装置100は、動体を容易に抽出することを可能にする。
また、第1の実施形態によれば、表示制御部143は、画像情報において、特定部142によって特定された動作情報に対応する位置に対象者を示す情報を重畳させた表示画像を表示させるように制御する。従って、第1の実施形態に係る動作情報処理装置100は、カラー画像の対象者上に的確に情報を重畳した表示画像を提供することを可能にする。
(第2の実施形態)
上述した第1の実施形態では、画像情報に含まれる所定の特徴として動体を用いる場合について説明した。第2の実施形態においては、人体の骨格情報に沿った条件を用いる場合について説明する。なお、以下で説明する判定は、第1の実施形態で説明した対象者の動作情報の特定に付加的に用いられる場合であってもよく、或いは、単独で用いられる場合であってもよい。
図10は、第2の実施形態に係る動作情報処理装置100の詳細な構成の一例を示す図である。図10に示す第2の実施形態に係る動作情報処理装置100は、図4に示す第1の実施形態に係る動作情報処理装置100と比較して、記憶部130が新たに認識情報記憶部132を有する点と、特定部142による処理が異なる。以下、これらを中心に説明する。
認識情報記憶部132は、動作情報収集部10によって収集された動作情報に含まれる骨格情報のうち、対象者の骨格情報を特定するための認識情報を記憶する。具体的には、認識情報記憶部132は、動作情報に含まれる骨格情報のうち、人体の骨格を示す骨格情報を識別するための情報を記憶する。図11A及び図11Bは、第2の実施形態に係る認識情報記憶部132によって記憶される認識情報の一例を示す図である。
例えば、認識情報記憶部132は、図11Aに示すように、部位と範囲とを対応付けた認識情報を記憶する。ここで、図11Aに示す「部位」とは、人体における部位を示す。また、図11Aに示す「範囲」とは、人体の骨格としてとりうる範囲を示す。例えば、認識情報記憶部132は、図11Aに示すように、「部位:身長[cm]、範囲:100cm−200cm」とする認識情報を記憶する。上述した情報は、「身長」が「100cm−200cm」の骨格情報は人体の骨格情報であることを示す。
同様に、認識情報記憶部132は、図11Aに示すように、「部位:腕の長さ[cm]、範囲:60cm−80cm」とする認識情報を記憶する。このように、認識情報記憶部132は、人体の種々の部位ごとに、当該部位を識別するための範囲がそれぞれ設定された認識情報を記憶する。
また、認識情報記憶部132は、図11Bに示すように、部位と、平均と、分散とを対応付けた認識情報を記憶することもできる。ここで、図11Bに示す「部位」とは、人体における部位を示す。また、図11Bに示す「平均」とは、対応する部位の人体の骨格としての平均を示す。また、図11Bに示す「分散」とは、対応する部位の平均からの分散を示す。
例えば、認識情報記憶部132は、図11Bに示すように、「部位:肩幅[cm]、平均:60cm、分散:1σ」とする認識情報を記憶する。上述した情報は、人体の骨格として「肩幅」は、「平均」が「60cm」であり、「分散(肩幅としてとりうる範囲)」の程度が「1σ」であることを意味する。同様に、認識情報記憶部132は、図11Bに示すように、「部位:頭から腰までの長さ[cm]、平均:85cm、分散:2σ」や、「部位:左腕の角度、平均:80°、分散:4σ」などを記憶する。このように、認識情報記憶部132は、人体の種々の部位ごとに、当該部位を識別するための平均及び分散がそれぞれ設定された認識情報を記憶する。
なお、図11A及び図11Bに示した例はあくまでも一例であり、認識情報は任意に設定させることが可能である。例えば、部位や、範囲、平均、分散などは、操作者によって任意に設定することができる。また、条件として用いる認識情報は、種々に組み合わせて用いることができる。例えば、図11A及び図11Bに示す情報が全て必須である場合であってもよく、或いは、身長と腕の長さのみが必須である場合であってもよい。または、例えば、肩幅又は左腕の角度のどちらかを満たしていればよい場合であってもよい。
図10に戻って、第2の実施形態に係る特定部142は、画像情報に含まれる人体の骨格を示す情報を対象者情報として抽出し、抽出した対象者情報に基づいて、所定の動作を実施する対象者の動作情報を特定する。ここで、特定部142は、画像情報に含まれる関節点の情報のうち、人体の構造に沿った関節点の集合を人体の骨格を示す情報とする。図12A及び図12Bは、第2の実施形態に係る特定部142による処理の一例を説明するための図である。ここで、図12Aにおいては、図11Aに示す認識情報を用いる場合の処理について示す。また、図12Bにおいては、図11Bに示す認識情報を用いる場合の処理について示す。
まず、図11Aに示す認識情報を用いる場合の処理について説明する。例えば、第2の実施形態に係る特定部142は、図12Aに示すように、動作情報収集部10によって収集され、動作情報記憶部131に記憶された1フレーム分の動作情報を読み出し、読み出した動作情報に含まれる骨格情報に対して、図11Aに示す認識情報を用いた処理を実施する。一例を挙げると、特定部142は、図11Aの識別情報「部位:身長[cm]、範囲:100cm−200cm」を参照して、身長の情報を用いた特定処理を実行する。すなわち、特定部142は、例えば、図12Aに示す頭に対応する関節「2a1」のy座標の値と左足の足根に対応する関節「2t1」のy座標の値とから身長「a」を算出する。そして、特定部142は、算出した身長「a」が「100cm−200cm」の範囲内にある場合、関節「2a1」及び関節「2t1」を含む骨格情報を対象者の骨格情報として特定する。
また、特定部142は、図12Aに示す頭に対応する関節「2a2」のy座標の値と左足の足首に対応する関節「2s2」のy座標の値とから身長「b」を算出する。そして、特定部142は、算出した身長「b」が「100cm−200cm」の範囲にない場合、関節「2a1」及び関節「2t1」を含む骨格情報を対象者の骨格情報ではないと特定する。なお、図12Aにおいては、身長を用いた特定について示したが、実施形態はこれに限定されるものではない。すなわち、種々の部位について、範囲を用いた特定処理を実行することが可能である。また、上記した例では、身長だけで特定する場合について説明したが、実施形態はこれに限定されるものではなく、例えば、2つ以上の部位の範囲を用いて総合的に判定して、対象者の動作情報を特定する場合であってもよい。
なお、上述した例では、頭に対応する関節及び左足に対応する関節のy座標を用いて、身長「a」及び身長「b」をそれぞれ算出する場合について説明した。本実施形態に係る医用情報処理装置100は、上述した簡易的な方法で身長を算出することで、処理速度を向上させて、効率よく処理することができるが、実施形態はこれに限定されるものではなく、例えば、頭に対応する関節及び左足に対応する関節それぞれの3次元座標を用いて身長を算出することも可能である。例えば、頭に対応する関節「2a1」のxの値、yの値、zの値と、左足の足根に対応する関節「2t1」のxの値、yの値、zの値とを用いて、身長「a」を算出する場合であってもよい。これにより、本実施形態に係る動作画像処理装置100は、より正確な判定を行なうことが可能である。
次に、図11Bに示す認識情報を用いる場合の処理について説明する。例えば、第2の実施形態に係る特定部142は、図12Bに示すように、動作情報収集部10によって収集され、動作情報記憶部131に記憶された1フレーム分の動作情報を読み出し、読み出した動作情報に含まれる骨格情報に対して、図11Bに示す認識情報を用いた処理を実施する。一例を挙げると、特定部142は、図11Bの識別情報「部位:肩幅[cm]、平均:60cm、分散:1σ」を参照して、肩幅の情報を用いた特定処理を実行する。
すなわち、特定部142は、図12Bに示す右肩に対応する関節「2e1」のx座標の値と左肩に対応する関節「2i1」のx座標の値とから「肩幅:59cm」を算出する。そして、特定部142は、識別情報「部位:肩幅[cm]、平均:60cm、分散:1σ」を参照して、算出した「肩幅:59cm」が人体の肩幅としてどの程度の確率であるかを算出する。すなわち、特定部142は、図12Bに示すように、人体の肩幅である確率「99.9%」を算出する。なお、上述した例では、右肩に対応する関節及び左肩に対応する関節のx座標を用いて、肩幅を算出する場合について説明したが、実施形態はこれに限定されるものではなく、右肩に対応する関節及び左肩に対応する関節の3次元座標を用いて肩幅を算出する場合であってもよい。
ここで、特定部142は、算出した確率「99.9%」に基づいて対象者の骨格情報を特定する場合であってもよいが、さらに複数の部位について人体の骨格としての確からしさを算出して、算出した情報に基づいて骨格情報を特定する場合であってもよい。例えば、特定部142は、図12Bに示すように、頭に対応する関節「2a1」と腰に対応する関節「2d1」とから「頭から腰までの長さ:100cm」を算出し、さらに、「左腕の角度:80°」を算出する。
そして、特定部142は、肩幅の場合と同様に、認識情報を参照して、例えば、「頭から腰までの長さ」の「確率:99.8%」を算出する。同様に、特定部142は、認識情報を参照して、例えば、「左腕の角度」の「確率:100%」を算出する。そして、特定部142は、算出した確率を用いて対象者の動作情報の特定処理を実行する。ここで、特定部142は、3つ(肩幅、頭から腰までの長さ、左腕の角度)の確率それぞれを閾値と比較して特定処理を実行する場合であってもよく、或いは、3つの確率を乗算した値を閾値と比較して特定処理を実行する場合であってもよい。
例えば、特定部142は、「肩幅の確率:99.9%」と「頭から腰まで長さの確率:99.8%」と「左腕の角度:100%」とを乗算した「99.7%」を所定の閾値と比較して、所定の閾値を超えた場合に対応する骨格情報を対象者の骨格情報として特定する。なお、所定の閾値は任意に設定することが可能である。また、3つの確率それぞれを閾値と比較する場合には、例えば、3つ全てが閾値を超えた場合に対応する骨格情報を対象者の骨格情報として特定する場合であってもよく、或いは、3つのうち2つが閾値を超えた場合に対応する骨格情報を対象者の骨格情報として特定する場合であってもよい。なお、これらの閾値についても任意に設定することが可能である。
特定部142は、上記した処理と同様の処理を図12Bの各関節(2a2、2d2、2e2、2i2、2m2、2n2、2o2、2q2、2r2、2s2)を含む骨格情報を用いて実行する。すなわち、特定部142は、各関節(2a2、2d2、2e2、2i2、2m2、2n2、2o2、2q2、2r2、2s2)の座標を用いて、肩幅や、頭から腰までの長さなどを算出して、人体の骨格としての確率をする。そして、特定部142は、所定の閾値と比較することで、各関節(2a2、2d2、2e2、2i2、2m2、2n2、2o2、2q2、2r2、2s2)を含む骨格情報が対象者の骨格情報であるか否かを特定する。例えば、図12Bに示す椅子の骨格情報「各関節(2a2、2d2、2e2、2i2、2m2、2n2、2o2、2q2、2r2、2s2)」の場合、人体の骨格とはかけ離れているため、特定部142は、対象者の骨格情報ではないと特定することとなる。
次に、図13を用いて、第2の実施形態に係る動作情報処理装置100の処理について説明する。図13は、第2の実施形態に係る動作情報処理装置100による処理の手順を示すフローチャートである。図13に示すように、第2の実施形態に係る動作情報処理装置100においては、取得部141が、対象者の動作情報を取得する(ステップS201)。そして、特定部142は、動作情報収集部10によって収集された動作情報において、誤認識抑止機能がONであるか否かを判定する(ステップS202)。
ここで、誤認識抑止機能がONである場合には(ステップS202肯定)、特定部142は、認識情報を読み出し(ステップS203)、読み出した認識情報に基づいて、対象者の動作情報を特定する(ステップS204)。そののち、特定部142は、特定した動作情報(骨格情報)を動作情報記憶部131に格納する(ステップS205)。
一方、ステップS202において、誤認識抑止機能がONではない場合には(ステップS202否定)、特定部142による特定が行われずに動作情報が動作情報記憶部131に格納される(ステップS205)。そして、表示制御部143は、動作情報記憶部131に格納された動作情報に基づいて、表示画像を生成して、出力部110にて表示させるように制御する(ステップS206)。
上述したように、第2の実施形態によれば、特定部142は、画像情報に含まれる人体の骨格を示す情報を対象者情報として抽出し、抽出した対象者情報に基づいて、所定の動作を実施する対象者の動作情報を特定する。従って、第2の実施形態に係る動作情報処理装置100は、動体として人を抽出することができ、対象者以外を誤認識することをより抑止することを可能にする。
また、第2の実施形態によれば、特定部142は、画像情報に含まれる関節点の情報のうち、人体の構造に沿った関節点の集合を人体の骨格を示す情報とする。従って、第2の実施形態に係る動作情報処理装置100は、動体として高精度に人を抽出することを可能にする。
(第3の実施形態)
第3の実施形態では、動作情報収集部10によって収集された骨格情報において、認識された関節点の数によって対象者の骨格情報を特定する場合について説明する。第3の実施形態においては、特定部142の処理内容が、第1及び第2の実施形態と異なる。以下、これを中心に説明する。
第3の実施形態に係る特定部142は、画像情報に含まれる関節点の情報において、1つの骨格情報として収集された関節点の個数に基づいて、当該骨格情報が対象者の骨格情報であるかを特定する。図5に示す骨格情報を一例にあげて説明すると、特定部142は、20の関節点(関節2a1〜2t1)が認識された骨格情報と、10の関節点(2a2、2d2、2e2、2i2、2m2、2n2、2o2、2q2、2r2、2s2)が認識された骨格情報とをそれぞれ所定の閾値と比較して、対象者の骨格情報を特定する。例えば、閾値が関節点の数「15」であると、特定部142は、20の関節点(関節2a1〜2t1)が認識された骨格情報を対象者の骨格情報として特定する。
ここで、動作情報収集部10において関節点の認識の確からしさが出力される場合には、特定部142は、所定の確からしさを備えた関節点の個数をカウントして、閾値と比較する。そして、特定部142は、所定の確からしさを備えた関節点の個数が所定の閾値を超えた骨格情報を対象者の骨格情報として特定して、動作情報記憶部131に格納する。このとき、特定部142は、特定した骨格情報の関節点に認識の確からしさの情報を対応付けて格納することが可能である。
かかる場合には、第3の実施形態に係る表示制御部143は、関節点の確からしさの情報を反映した表示画像を生成して、表示することが可能である。図14は、第3の実施形態に係る表示制御部143によって表示される表示画像の一例を示す図である。例えば、表示制御部143は、図14に示すように、関節点の認識において所定の確からしさを備えた関節点については、黒丸で示し、黒丸間の骨を実線で示した情報を重畳させ、関節点の認識において所定の確からしさを備えていない関節点については、白抜きの小さい丸で示し、白抜きの小さい丸に接続される骨を点線で示した情報を重畳させた表示画像を生成して表示させる。
上述したように、第3の実施形態によれば、特定部142は、認識された関節点の個数に基づいて、対象者の骨格情報を特定する。従って、第3の実施形態に係る動作情報処理装置100は、簡便な方法で対象者の骨格情報を特定することを可能にする。
(第4の実施形態)
上述した第1〜第3の実施形態では、動作情報収集部10によって動作情報が収集された全領域から対象者の骨格情報を特定する場合について説明した。第4の実施形態では、操作者によって認識対象領域が指定される場合について説明する。第4の実施形態においては、入力部120によって受け付ける指示と、特定部142による処理内容が第1〜第3の実施形態と異なる。以下、これらを中心に説明する。
第4の実施形態に係る入力部120は、画像情報における所定の領域を指定するための指定操作を受け付ける。具体的には、入力部120は、対象者を認識するための認識対象領域を指定するための入力操作を受け付ける。
第4の実施形態に係る特定部142は、所定の特徴として、入力部120によって受け付けられた所定の領域内に含まれる情報を用い、当該所定の領域内に含まれる情報から所定の動作を実施する対象者の動作情報を特定する。具体的には、特定部142は、入力部120によって受け付けられた認識対象領域内に含まれる骨格情報を対象者の骨格情報として特定する。
図15は、第4の実施形態に係る入力部120及び特定部142による処理の一例を説明するための図である。例えば、入力部120は、図15の(A)に示す画像上に、図15の(B)に示すような認識対象領域R2を指定するための入力操作を受け付ける。そして、特定部142は、図15の(B)に示す認識対象領域R2が指定されると、指定された認識対象領域R2内に含まれる骨格情報を対象者の骨格情報として特定する。これにより、例えば、図15に示す椅子に対応する骨格情報が収集された場合であっても、対象者の骨格情報を確実に特定することが可能である。
上述したように、第4の実施形態によれば、入力部120は、画像情報における所定の領域を指定するための指定操作を受け付ける。そして、特定部142は、所定の特徴として、入力部120によって受け付けられた領域内で、所定の動作を実施する対象者の動作情報を特定する。従って、第4の実施形態に係る動作情報処理装置100は、簡便に認識対象領域を指定することができ、容易に対象者の骨格情報を特定することを可能にする。
(第5の実施形態)
上述した第4の実施形態では、入力部120を介して認識対象領域が指定される場合について説明した。第5の実施形態では、画像内の情報に基づいて認識対象領域を設定する場合について説明する。第5の実施形態においては、特定部142による処理内容が第1〜第4の実施形態と異なる。以下、これを中心に説明する。
第5の実施形態に係る特定部142は、対象者に予め設定された設定項目を対象者情報として抽出し、抽出した対象者情報に基づいて、所定の動作を実施する対象者の動作情報を特定する。具体的には、まず、リハビリを実施する対象者が予め目印になる物を身につけてリハビリを実施する。特定部142は、画像に含まれる目印を抽出して、抽出した目印に基づいて、認識対象領域を設定し、設定した認識対象領域内の骨格情報を対象者の骨格情報として特定する。
図16は、第5の実施形態に係る特定部142による処理の一例を説明するための図である。図16においては、予め設定する目印を対象者の足につける場合について示す。例えば、対象者は、図16の(A)に示すように、足に所定の色(例えば、赤など)の目印をつけて歩行訓練を実施する。特定部142は、動作情報収集部10によって収集されたカラー画像情報から対象者の両足につけられた目印をそれぞれ抽出する。そして、特定部142は、図16の(A)に示すように、抽出した両足の目印の中点P1を横幅の中心として算出し、算出した中点P1から左右に所定の距離とった横幅を決定する。
ここで、特定部142は、例えば、両足の目印間の距離が「15cm」であった場合に、3倍の「45cm」を認識対象領域R3の横幅とする。すなわち、特定部142は、中点P1から左右にそれぞれ「22.5cm」までを認識対象領域R3の横幅と決定する。そして、特定部142は、足の目印の下端P2からカラー画像情報の上端P3までを認識対象領域R3の縦幅として決定する。
すなわち、特定部142は、図16の(B)に示すように、カラー画像情報に認識対象領域R3を設定して、設定した認識対象領域R3に含まれる骨格情報を対象者の骨格情報として特定する。なお、図16に示す例はあくまでも一例であり、実施形態はこれに限定されるものではない。例えば、予め対象者に設定する目印は、色以外にも種々に設定することができる。一例を挙げると、所定の形態をしたものを対象者が身につける場合であってもよい。
なお、対象者に予め設定される目印の情報は、予め記憶部130に記憶され、特定部142は、記憶部130によって記憶された目印の情報を読み出して、カラー画像情報に含まれる目印を抽出する。
上述したように、第5の実施形態によれば、特定部142は、対象者に予め設定された設定項目を対象者情報として抽出し、抽出した対象者情報に基づいて、所定の動作を実施する対象者の動作情報を特定する。従って、第5の実施形態に係る動作情報処理装置100は、認識対象領域を簡便に設定することを可能にする。
(第6の実施形態)
さて、これまで第1〜第5の実施形態について説明したが、上述した第1〜第5の実施形態以外にも、種々の異なる形態にて実施されてよいものである。
上述した第1〜第5の実施形態においては、リハビリが実施されている状態で収集された動作情報を用いる場合について説明した。しかしながら、実施形態はこれに限定されるものではなく、例えば、リハビリが実施される前の情報を基準として、リハビリ中の動作情報から種々の情報を抽出する場合であってもよい。
図17は、第6の実施形態に係る特定部142による処理の一例を説明するための図である。例えば、特定部142は、図17の(A)に示すように、リハビリが実施される前の状態の画像情報(動作情報)である「T秒」のフレームの深度を基準値として取得する。そして、特定部142は、図17の(B)に示すように、リハビリが実施された状態の画像情報(動作情報)である「T+t秒」のフレームの深度を取得する。このとき、特定部142は、「T+t秒」のフレームの深度において、「T秒」のフレームの深度から変化があった部分を抽出することで、処理の対象を軽減することができる。例えば、図17に示すように、両画像に含まれ、深度の情報が変化しない椅子については、無視することが可能である。
これにより、例えば、基準値よりも手前や奥にあるものを容易に判定することができ、リハビリ実施中に深度が手前、奥、左右に変化したものを容易に抽出することができる。なお、上述した処理は、第1〜第5の実施形態と適宜組み合わせて実施することが可能である。
また、上述した第1〜第5の実施形態では、リハビリとして歩行訓練を実施する場合について説明した。しかしながら、本願に係る動作情報処理装置100は、歩行訓練だけでなく、その他のリハビリに対しても適用することができる。例えば、特定部142は、関節稼動域訓練を実施する対象者の骨格情報を特定することも可能である。
以上説明したとおり、第1〜第6の実施形態によれば、本実施形態の動作情報処理装置は、対象者以外を誤認識することを抑止することを可能にする。
(第7の実施形態)
上述したように、第1〜第6の実施形態では、所定の動作を実施する者以外を誤認識することを抑止することを可能にすることで、リハビリテーションを支援する場合について説明した。しかしながら、撮影される者が常に対象者であるとは限らない。すなわち、動作情報収集部10の撮影範囲内にいる人物であれば、例えば、対象者、介助者、更にはリハビリに関係のない者でも、動作情報収集部10によって撮影されてしまう。そこで、以下、第7〜第10の実施形態では、デジタル的に記録された人物の動きが、リハビリテーションの対象となる対象者のものであるか否かを判定することができる動作情報処理装置を提供する場合について説明する。なお、第1〜第6の実施形態においては、所定の動作を実施する者を「対象者」として説明したが、第7〜第10の実施形態においては、リハビリテーションの対象となる者を「対象者」として説明する。
図18A及び図18Bは、距離画像収集部12によって撮影される距離画像の一例を示す。図18A及び図18Bでは、人物18a(対象者)が人物18b(介助者)からの介助を受けてリハビリを行う場合を例示する。具体的には、人物18a(対象者)は、人物18b(介助者)の左手によって右腕を支えられて歩行訓練を行っている。なお、図18A及び図18Bにおいては、説明の便宜上、距離に応じた色の濃淡で表現される距離画像を線画で表している。
図18Aに示すように、動作情報収集部10は、被写体として人物18a(対象者)及び人物18b(介助者)を含む距離画像を撮影する。この距離画像から動作情報を生成すると、図18Bに示すように、動作情報収集部10は、人物18a及び人物18bを、対象者及び介助者としてではなく、それぞれ一人の人物として、その動作情報を生成する。このため、ここで生成される動作情報を用いて対象者のリハビリに関する動作を解析する場合には、どの人物が対象者であるか指定される必要がある。また、対象者の動作を解析すべきところ、誤って介助者の動作が評価されてしまう可能性もある。
そこで、第7の実施形態に係る動作情報処理装置200は、デジタル的に記録された人物の動きが、リハビリテーションの対象となる対象者のものであるか否かを判定するために、以下に説明する処理を実行する。
また、第7の実施形態に係る動作情報処理装置200は、介助者の動作を解析して介助者を支援することで、その介助者によって介助される対象者を間接的に支援しても良い。かかる場合、第7の実施形態に係る動作情報処理装置200は、以下に説明する処理を実行することにより、デジタル的に記録された人物の動きが、介助者のものであるか否かを判定しても良い。
図19は、第7の実施形態に係る動作情報処理装置200の詳細な構成例を示すブロック図である。図19に示すように、動作情報処理装置200においては、記憶部230が動作情報記憶部231と、対象者動作特徴記憶部232と、介助者動作特徴記憶部233と、対象者画像特徴記憶部234と、介助者画像特徴記憶部235と、評価情報記憶部236とを有する。
動作情報記憶部231は、動作情報収集部10によって収集された各種情報を記憶する。例えば、動作情報記憶部231は、人物の動作について、動作情報と、カラー画像情報とが対応付けられた情報を記憶する。この動作情報は、動作情報生成部14によって生成されたフレームごとの骨格情報である。この骨格情報の各関節の座標及びカラー画像情報の画素位置は、予め対応付けられている。また、骨格情報の撮影時刻情報及びカラー画像情報の撮影時刻情報は、予め対応付けられている。また、例えば、動作情報及びカラー画像情報は、動作情報収集部10によって収集されるごとに動作情報記憶部231に格納される。
例えば、動作情報記憶部231は、歩行訓練や関節可動域訓練等、実施されたリハビリごとに、動作情報を記憶する。ここで、1回のリハビリに複数人の動作が含まれる場合がある。具体例を挙げると、図4Aに示したように、対象者が介助者からの介助を受けて歩行訓練を行う場合には、対象者と介助者のそれぞれの動作の組み合わせによって、1回の歩行訓練が行われることとなる。このような場合には、動作情報記憶部231は、同一フレームの距離画像情報から生成される複数人の人物の骨格情報をそれぞれ対応付けて、1つの動作情報として記憶する。すなわち、この動作情報は、複数人の動作を同時に表すものである。動作情報記憶部231は、例えば、動作の撮影が開始された撮影開始時刻情報に対応付けて、動作情報を記憶する。なお、以下では、動作情報が複数人の人物の動作を表す場合を説明するが、実施形態はこれに限定されるものではなく、1人の人物の動作を表す場合であっても良い。
対象者動作特徴記憶部232は、対象者の動作の特徴を表す対象者動作特徴情報を記憶する。例えば、対象者動作特徴記憶部232は、動作ID(Identification)と、対象者動作特徴情報とが対応付けられた情報を記憶する。このうち、動作IDは、動作を識別するための識別情報であり、動作情報処理装置200の設計者によって動作が定義されるごとに採番される。また、対象者動作特徴情報は、対象者の動作の特徴を表す情報であり、例えば、動作情報処理装置200の設計者によって予め定義される。
図20は、対象者動作特徴記憶部232に記憶される情報の一例を示す図である。図20の1つ目のレコードには、動作ID「11」と、対象者動作特徴情報「足を引きずっている」とが対応付けられている。つまり、対象者動作特徴記憶部232は、対象者の動作の特徴の一つとして「足を引きずっている」があることを、動作ID「11」の動作として記憶する。この対象者動作特徴情報「足を引きずっている」は、例えば、動作が行われている間の足根(関節2p又は関節2t)のy座標の最大変化量が1cm未満であるか否かに応じて判定される。また、図20の2つ目のレコードには、動作ID「12」と、対象者動作特徴情報「歩く姿勢が良くない」とが対応付けられている。つまり、対象者動作特徴記憶部232は、対象者の動作の特徴の一つとして「歩く姿勢が良くない」があることを、動作ID「12」の動作として記憶する。この対象者動作特徴情報「歩く姿勢が良くない」は、例えば、動作が行われている間の、背骨(関節2bと関節2cとを結ぶ線分)と上下方向とがなす角の平均値が3°以上であるか否かに応じて判定される。また、図20の3つ目のレコードには、動作ID「13」と、対象者動作特徴情報「歩く速度が遅い」とが対応付けられている。つまり、対象者動作特徴記憶部232は、対象者の動作の特徴の一つとして「歩く速度が遅い」があることを、動作ID「13」の動作として記憶する。この対象者動作特徴情報「歩く速度が遅い」は、例えば、動作が行われている間の腰(関節2c)の移動速度の最大値が1[m/秒]未満であるか否かに応じて判定される。また、他のレコードについても同様に、対象者動作特徴記憶部232は、動作IDと、対象者動作特徴情報とを対応付けて記憶する。なお、ここでは、歩行訓練が行われる場合に用いられる対象者動作特徴記憶部232を例示したが、実施形態はこれに限定されるものではなく、例えば、関節可動域訓練が行われる場合には、関節可動域訓練を行う対象者の動作の特徴が記憶された対象者動作特徴記憶部232が利用されて良い。また、対象者動作特徴記憶部232は、歩行訓練を行う対象者の動作の特徴や関節可動域訓練を行う対象者の動作の特徴を区別することなく記憶しても良い。
介助者動作特徴記憶部233は、介助者の動作の特徴を表す介助者動作特徴情報を記憶する。例えば、介助者動作特徴記憶部233は、動作IDと、介助者動作特徴情報とが対応付けられた情報を記憶する。この介助者動作特徴は、介助者の動作の特徴を表す情報であり、動作情報処理装置200の設計者によって予め定義される。
図21は、介助者動作特徴記憶部233に記憶される情報の一例を示す図である。図21の1つ目のレコードには、動作ID「21」と、介助者動作特徴情報「腕を支えている」とが対応付けられている。つまり、介助者動作特徴記憶部233は、対象者の動作の特徴の一つとして「腕を支えている」があることを、動作ID「21」の動作として記憶する。この介助者動作特徴情報「腕を支えている」は、例えば、動作が行われている間の所定時間について、人物の手(関節2h又は関節2l)が他の人物の腕(関節2eと関節2fとを結ぶ線分、又は、関節2iと関節2jとを結ぶ線分)から5cm以内にあるか否かに応じて判定される。また、図21の2つ目のレコードには、動作ID「22」と、介助者動作特徴情報「歩く姿勢が良い」とが対応付けられている。つまり、介助者動作特徴記憶部233は、介助者の動作の特徴の一つとして「歩く姿勢が良い」があることを、動作ID「22」の動作として記憶する。この介助者動作特徴情報「歩く姿勢が良い」は、例えば、動作が行われている間の、背骨(関節2bと関節2cとを結ぶ線分)と上下方向とがなす角の平均値が3°未満であるか否かに応じて判定される。また、図21の3つ目のレコードには、動作ID「23」と、介助者動作特徴情報「歩く速度が早い」とが対応付けられている。つまり、介助者動作特徴記憶部233は、介助者の動作の特徴の一つとして「歩く速度が速い」があることを、動作ID「23」の動作として記憶する。この対象者動作特徴情報「歩く速度が速い」は、例えば、動作が行われている間の腰(関節2c)の移動速度の最大値が1[m/秒]以上であるか否かに応じて判定される。また、他のレコードについても同様に、介助者動作特徴記憶部233は、動作IDと、対象者動作特徴情報とを対応付けて記憶する。なお、ここでは、歩行訓練が行われる場合に用いられる介助者動作特徴記憶部233を例示したが、実施形態はこれに限定されるものではなく、例えば、関節可動域訓練が行われる場合には、関節可動域訓練を行う対象者の動作の特徴が記憶された介助者動作特徴記憶部233が利用されて良い。また、介助者動作特徴記憶部233は、歩行訓練を行う対象者の動作の特徴や関節可動域訓練を行う対象者の動作の特徴を区別することなく記憶しても良い。
対象者画像特徴記憶部234は、対象者の身体的な特徴または対象者の付随物の特徴を表す対象者特徴情報を記憶する。例えば、対象者画像特徴記憶部234は、対象者の画像の特徴を表す対象者画像特徴情報を記憶する。例えば、対象者画像特徴記憶部234は、器具IDと、対象者器具特徴情報とが対応付けられた情報を記憶する。このうち、器具IDは、器具を識別するための識別情報であり、動作情報処理装置200の設計者によって器具が定義されるごとに採番される。また、対象者器具特徴情報は、対象者の器具の特徴を表す情報であり、例えば、パターンマッチングに利用可能な器具の画像情報である。対象者器具特徴情報は、動作情報処理装置200の設計者によって予め定義される。なお、対象者画像特徴記憶部234は、対象者特徴記憶部の一例である。
図22は、対象者画像特徴記憶部234に記憶される情報の一例を示す図である。図22の1つ目のレコードには、器具ID「11」と、対象者器具特徴情報「松葉杖」とが対応付けられている。つまり、対象者画像特徴記憶部234は、対象者の画像の特徴の一つとして「松葉杖」の画像情報を、器具ID「11」の器具として記憶する。また、図22の2つ目のレコードには、器具ID「12」と、対象者器具特徴情報「ギプス」とが対応付けられている。つまり、対象者画像特徴記憶部234は、対象者の画像の特徴の一つとして「ギプス」の画像情報を、器具ID「12」の器具として記憶する。また、図22の3つ目のレコードには、器具ID「13」と、対象者器具特徴情報「車いす」とが対応付けられている。つまり、対象者画像特徴記憶部234は、対象者の画像の特徴の一つとして「車いす」の画像情報を、器具ID「13」の器具として記憶する。なお、ここでは、歩行訓練が行われる場合に用いられる対象者画像特徴記憶部234を例示したが、実施形態はこれに限定されるものではなく、例えば、関節可動域訓練が行われる場合には、関節可動域訓練を行う対象者の器具の特徴が記憶された対象者画像特徴記憶部234が利用されて良い。また、対象者画像特徴記憶部234は、歩行訓練を行う対象者の動作特徴や関節可動域訓練を行う対象者の器具の特徴を区別することなく記憶しても良い。
介助者画像特徴記憶部235は、介助者の身体的な特徴または介助者の不随物の特徴を表す介助者特徴情報を記憶する。例えば、介助者画像特徴記憶部235は、介助者の画像の特徴を表す介助者画像特徴情報を記憶する。例えば、介助者画像特徴記憶部235は、器具IDと、介助者器具特徴情報とが対応付けられた情報を記憶する。このうち、介助者器具特徴情報は、介助者の器具の特徴を表す情報であり、例えば、パターンマッチングに利用可能な器具の画像情報である。介助者器具特徴情報は、動作情報処理装置200の設計者によって予め定義される。なお、介助者画像特徴記憶部234は、介助者特徴記憶部の一例である。
図23は、介助者画像特徴記憶部235に記憶される情報の一例を示す図である。図23の1つ目のレコードには、器具ID「21」と、介助者器具特徴情報「聴診器」とが対応付けられている。つまり、介助者画像特徴記憶部235は、介助者の画像の特徴の一つとして「聴診器」の画像情報を、器具ID「21」の器具として記憶する。また、図23の2つ目のレコードには、器具ID「22」と、介助者器具特徴情報「白衣」とが対応付けられている。つまり、介助者画像特徴記憶部235は、介助者の画像の特徴の一つとして「白衣」の画像情報を、器具ID「22」の器具として記憶する。また、図23の3つ目のレコードには、器具ID「23」と、介助者器具特徴情報「ネームプレート」とが対応付けられている。つまり、介助者画像特徴記憶部235は、介助者の画像の特徴の一つとして「ネームプレート」の画像情報を、器具ID「23」の器具として記憶する。
評価情報記憶部236は、対象者ごとに、評価情報と、判定結果とが対応付けられた情報を記憶する。このうち、評価情報は、リハビリテーションにおける人物の動作を評価するための情報である。例えば、評価情報は、対象者及び介助者の歩く姿勢、歩く速度等である。この評価情報は、後述の生成部242によって生成される。また、判定結果は、後述の判定部243によって判定された結果であり、例えば、対象者、介助者及び判定不能のうちいずれかが記憶される。
図19の説明に戻る。動作情報処理装置200においては、制御部240が取得部241と、生成部242と、判定部243と、格納部244とを有する。
取得部241は、評価対象となる動作情報を取得する。例えば、取得部241は、評価対象となる動作情報を指定する旨の入力を入力部120から受け付けると、指定された動作情報と、対応するカラー画像情報とを動作情報記憶部231から取得する。
一例としては、取得部241は、評価対象となる動作情報の撮影開始時刻情報の指定を受け付けると、その動作情報及び動作情報に対応付けられたカラー画像情報を動作情報記憶部231から取得する。なお、この動作情報は、同一フレームの距離画像情報から生成される複数人の人物の骨格情報を含む場合であっても、1人の人物の骨格情報を含む場合であっても良い。
生成部242は、取得部241によって取得された動作情報から、リハビリテーションを評価するための評価情報を生成する。例えば、生成部242は、評価情報として、対象者及び介助者の歩く姿勢及び歩く速度を算出する。ここで、取得部241によって取得された動作情報に、同一フレームの距離画像情報から生成される複数人の人物の骨格情報が含まれる場合には、生成部242は、一人一人の人物の骨格情報に対して評価情報を生成する。生成部242は、生成した評価情報を格納部244へ出力する。
図24は、生成部242の処理を説明するための図である。図24には、図18Aの歩行訓練において収集された動作情報に基づいて、人物18a及び人物18bそれぞれについて、歩く姿勢及び歩く速度が算出される場合を説明する。例えば、生成部242は、取得部241によって取得された動作情報から、各フレームの人物18aの関節2bの座標及び関節2cの座標を抽出する。そして、生成部242は、抽出した関節2bと関節2cとを結ぶ線分を人物18aの背骨と見立て、背骨と上下方向とがなす角24aをフレームごとに求める。そして、生成部242は、歩行訓練が行われている間の複数フレームの角24aの平均値を、人物18aの歩く姿勢として算出する。また、生成部242は、人物18bについても人物18aの場合と同様に、歩く姿勢を算出する。
また、例えば、生成部242は、所定時間(例えば0.5秒)ごとに人物18aの腰に対応する関節2cの座標が移動した移動距離[m]を求める。そして、生成部242は、この所定時間当たりの移動距離に基づいて、人物18aの移動速度[m/秒]を所定時間ごとに算出する。そして、生成部242は、歩行訓練を行っている間の人物18aの移動速度の平均値を、人物18aが歩く速度として算出する。また、生成部242は、人物18bについても人物18aの場合と同様に、歩く速度を算出する。
なお、ここでは、生成部242によって生成される評価情報として、歩行訓練における歩く姿勢及び歩く速度を算出する場合を説明したが、実施形態はこれに限定されるものではない。例えば、生成部242は、リハビリテーションの機能訓練の内容や対象者の状況に応じて、他の評価情報を適宜選択して算出して良い。
判定部243は、リハビリテーションの対象となる対象者の特徴を表す情報を用いて、取得部241によって取得された動作情報に対応する人物が対象者であるか否かを判定する。例えば、判定部243は、対象者の特徴を表す情報として、対象者動作特徴記憶部232に記憶された対象者動作特徴情報を参照し、取得部241によって取得された動作情報に対応する人物が対象者であるか否かを判定する。
例えば、判定部243は、取得部241によって取得された動作情報に対応する人物が、対象者であるか否かを判定する。また、判定部243は、取得部241によって取得された動作情報に対応する人物が、介助者であるか否かを判定する。ここで、取得部241によって取得された動作情報に、同一フレームの距離画像情報から生成される複数人の人物の骨格情報が含まれる場合には、判定部243は、一人一人の人物の骨格情報に対して、対象者であるか否か、或いは介助者であるか否かを判定する。判定部243は、判定した結果を格納部244へ出力する。以下において、判定部243の処理を具体的に説明する。
まず、対象者であるか否かを判定する処理を説明する。例えば、判定部243は、対象者動作特徴記憶部232及び対象者画像特徴記憶部234のレコードのうち、未処理のレコードを一つ選択する。そして、判定部243は、取得された動作情報及びカラー画像情報が、選択したレコードの条件に該当するか否かを判定する。
ここで、対象者動作特徴記憶部232から動作ID「11」のレコードが選択された場合を説明する。この場合、図20に示したように、判定部243は、取得部241によって取得された動作情報が、対象者動作特徴情報「足を引きずっている」に該当するか否かを判定する。すなわち、判定部243は、取得された動作情報に含まれる各フレームから、足根(関節2p又は関節2t)のy座標を抽出する。そして、判定部243は、抽出したy座標のうち、最大値と最小値との差分を最大変化量として算出する。そして、判定部243は、算出した最大変化量が1cm未満である場合に、取得された動作情報が対象者動作特徴情報に該当する、すなわち足を引きずっていると判定する。
また、対象者動作特徴記憶部232から動作ID「12」のレコードが選択された場合を説明する。この場合、図20に示したように、判定部243は、取得部241によって取得された動作情報が、対象者動作特徴情報「歩く姿勢が良くない」に該当するか否かを判定する。ここで、歩く姿勢が生成部242によって算出されている場合には、判定部243は、取得された動作情報に含まれる人物の歩く姿勢を生成部242から取得する。そして、判定部243は、取得した歩く姿勢が3°以上である場合に、取得された動作情報が対象者動作特徴情報に該当する、すなわち歩く姿勢が良くないと判定する。なお、歩く姿勢が生成部242によって算出されていない場合には、判定部243は、上記の生成部242において説明した処理と同様の処理を行って、歩く姿勢を算出しても良い。
また、対象者動作特徴記憶部232から動作ID「13」のレコードが選択された場合を説明する。この場合、図20に示したように、判定部243は、取得部241によって取得された動作情報が、対象者動作特徴情報「歩く速度が遅い」に該当するか否かを判定する。ここで、歩く速度が生成部242によって算出されている場合には、判定部243は、取得された動作情報に含まれる人物が所定時間(例えば0.5秒)ごとに移動する移動速度[m/秒]を生成部242から取得する。そして、判定部243は、取得した移動速度のうち、最大の移動速度が1[m/秒]未満である場合に、取得された動作情報が対象者動作特徴情報に該当する、すなわち歩く速度が遅いと判定する。なお、歩く速度が生成部242によって算出されていない場合には、判定部243は、上記の生成部242において説明した処理と同様の処理を行って、歩く速度を算出しても良い。
また、対象者画像特徴記憶部234から器具ID「11」のレコードが選択された場合を説明する。この場合、図22に示したように、判定部243は、取得部241によって取得されたカラー画像情報と、対象者器具特徴情報「松葉杖」とのパターンマッチングを行う。パターンマッチングによってカラー画像情報から松葉杖の画像が抽出されると、判定部243は、抽出された松葉杖の画素位置が、評価対象となる動作情報に含まれる骨格情報の座標と重なるか否かを判定する。松葉杖の画素位置が骨格情報の座標と重なる場合には、判定部243は、取得されたカラー画像情報が対象者器具特徴情報に該当する、すなわち松葉杖を持っていると判定する。また、判定部243は、他のレコードについても同様に、取得されたカラー画像情報が対象者器具特徴情報に該当するか否かを判定する。
このように、判定部243は、取得された動作情報及びカラー画像情報が、選択したレコードに該当するか否かを判定する。そして、選択したレコードに該当すると判定した場合には、判定部243は、保有対象者特徴数nを1インクリメントする。この保有対象者特徴数nは、評価対象となる動作情報に対応する人物が保有する対象者としての特徴の数を表す。判定部243は、他の未処理のレコードについても同様に、取得された動作情報及びカラー画像情報が当該レコードに該当するか否かを判定する。そして、判定部243は、保有対象者特徴数nが5に到達すると、評価対象となる動作情報に対応する人物が対象者であると判定する。一方、判定部243は、対象者動作特徴記憶部232及び対象者画像特徴記憶部234の全てのレコードについて判定を行っても、保有対象者特徴数nが5に到達しない場合には、評価対象となる動作情報に対応する人物が対象者ではないと判定する。なお、ここでは、対象者であるか否かを判定する保有対象者特徴数nの閾値が「5」である場合を例示したが、実施形態はこれに限定されるものではなく、この閾値は操作者によって任意の値が設定されて良い。また、ここでは各レコードに該当する場合に保有対象者特徴数nが1インクリメントされる場合を説明したが、実施形態はこれに限定されるものではなく、例えば、レコードごとに重み付けを行っても良い。
次に、介助者であるか否かを判定する処理を説明する。例えば、判定部243は、介助者動作特徴記憶部233及び介助者画像特徴記憶部235のレコードのうち、未処理のレコードを一つ選択する。そして、判定部243は、取得された動作情報及びカラー画像情報が、選択したレコードに該当するか否かを判定する。
ここで、介助者動作特徴記憶部233から動作ID「21」のレコードが選択された場合を説明する。この場合、図21に示したように、判定部243は、取得部241によって取得された動作情報が、介助者動作特徴情報「腕を支えている」に該当するか否かを判定する。すなわち、判定部243は、取得された動作情報に含まれる各フレームから、手(関節2h又は関節2l)の座標を取得する。そして、判定部243は、歩行訓練が行われている間の所定時間について、取得した手から5cm以内に他の人物の腕(関節2eと関節2fとを結ぶ線分、又は、関節2iと関節2jとを結ぶ線分)がある場合に、取得された動作情報が介助者動作特徴情報に該当する、すなわち腕を支えていると判定する。
また、介助者動作特徴記憶部233から動作ID「22」のレコードが選択された場合を説明する。この場合、図21に示したように、判定部243は、取得部241によって取得された動作情報が、介助者動作特徴情報「歩く姿勢が良い」に該当するか否かを判定する。ここで、歩く姿勢が生成部242によって算出されている場合には、判定部243は、取得された動作情報に含まれる人物の歩く姿勢を生成部242から取得する。そして、判定部243は、取得した歩く姿勢が3°未満である場合に、取得された動作情報が対象者動作特徴情報に該当する、すなわち歩く姿勢が良いと判定する。なお、歩く姿勢が生成部242によって算出されていない場合には、判定部243は、上記の生成部242において説明した処理と同様の処理を行って、歩く姿勢を算出しても良い。
また、介助者動作特徴記憶部233から動作ID「23」のレコードが選択された場合を説明する。この場合、図21に示したように、判定部243は、取得部241によって取得された動作情報が、介助者動作特徴情報「歩く速度が速い」に該当するか否かを判定する。ここで、歩く速度が生成部242によって算出されている場合には、判定部243は、取得された動作情報に含まれる人物が所定時間(例えば0.5秒)ごとに移動する移動速度[m/秒]を生成部242から取得する。そして、判定部243は、取得した移動速度のうち、最大の移動速度が1[m/秒]以上である場合に、取得された動作情報が対象者動作特徴情報に該当する、すなわち歩く速度が速いと判定する。なお、歩く速度が生成部242によって算出されていない場合には、判定部243は、上記の生成部242において説明した処理と同様の処理を行って、歩く速度を算出しても良い。
また、介助者画像特徴記憶部235から器具ID「21」のレコードが選択された場合を説明する。この場合、図23に示したように、判定部143は、取得部241によって取得されたカラー画像情報と、介助者器具特徴情報「聴診器」とのパターンマッチングを行う。パターンマッチングによってカラー画像情報から聴診器の画像が抽出されると、判定部243は、抽出された聴診器の画素位置が、評価対象となる動作情報に含まれる骨格情報の座標と重なるか否かを判定する。聴診器の画素位置が骨格情報の座標と重なる場合には、判定部243は、取得されたカラー画像情報が介助者器具特徴情報に該当する、すなわち聴診器を持っていると判定する。また、判定部243は、他のレコードについても同様に、取得されたカラー画像情報が介助者器具特徴情報に該当するか否かを判定する。
このように、判定部243は、取得された動作情報及びカラー画像情報が、選択したレコードに該当するか否かを判定する。そして、選択したレコードに該当すると判定した場合には、判定部243は、保有介助者特徴数mを1インクリメントする。この保有介助者特徴数mは、評価対象となる動作情報に対応する人物が保有する介助者としての特徴の数を表す。判定部243は、他の未処理のレコードについても同様に、取得された動作情報及びカラー画像情報が当該レコードに該当するか否かを判定する。そして、判定部143は、保有介助者特徴数mが5に到達すると、評価対象となる動作情報に対応する人物が介助者であると判定する。一方、判定部143は、介助者動作特徴記憶部233及び介助者画像特徴記憶部235の全てのレコードについて判定を行っても、保有介助者特徴数mが5に到達しない場合には、評価対象となる動作情報に対応する人物が介助者ではないと判定する。なお、ここでは、介助者であるか否かを判定する保有介助者特徴数nの閾値が「5」である場合を例示したが、実施形態はこれに限定されるものではなく、この閾値は操作者によって任意の値が設定されて良い。また、ここでは各レコードに該当する場合に保有介助者特徴数nが1インクリメントされる場合を説明したが、実施形態はこれに限定されるものではなく、例えば、レコードごとに重み付けを行っても良い。
上述してきたように、判定部243は、評価対象となる動作情報に対応する人物が、対象者であるか否か、若しくは介助者であるか否かを判定し、判定結果を格納部244へ出力する。なお、判定部243は、評価対象となる動作情報に対応する人物が、対象者でも介助者でもないと判定した場合には、判定不能という判定結果を格納部244へ出力する。
格納部244は、判定部243によって判定された判定結果を出力する。例えば、格納部244は、生成部142によって生成された評価情報と、判定部243によって判定された判定結果とを対応づけて、評価情報記憶部236に格納する。なお、格納部244は、出力制御部の一例である。
例えば、格納部244は、判定部243によって判定された判定結果を確認させるための画面を出力部110に表示させる。そして、格納部244は、表示させた判定結果が確認されると、その判定結果と、生成部242によって生成された評価情報とを対応づけて評価情報記憶部236に格納する。
図25は、格納部244によって表示される表示画面の一例を示す。図25に示す例では、評価対象となる動作情報に対応する人物が図18Aの人物18aである場合を例示する。また、人物18aについて、生成部242によって評価情報「歩く姿勢が15°である」が出力され、判定部243によって判定結果「対象者」が出力された場合を例示する。
図25に示すように、格納部244は、「人物18aが対象者と判定されました。正しいですか?」という質問メッセージと、その質問メッセージに回答するための「Yes/No」の選択ボタンとを出力部210に表示させる。そして、「Yes」が選択されると、格納部244は、評価対象となる動作情報と、判定結果「対象者」と、評価情報「歩く姿勢が15°である」とを対応付けて、評価情報記憶部236に格納する。また、例えば、格納部244は、図25に示すように、リハカルテの自由記載欄に評価情報「体の傾き:15°」を記入しても良い。
また、例えば、格納部244は、判定結果を確認させることなく評価情報記憶部236に格納しても良い。図26は、格納部244によって表示される表示画面の一例を示す。なお、図26には、図25と同一条件下で表示される表示画面の一例であり、更に、人物18bの評価情報「歩く姿勢が3°である」が出力される場合を示す。
図26に示すように、格納部244は、人物18a及び人物18bについて、評価情報「<体の傾き>18a:15°、18b:3°」が表示される。そして、格納部244は、評価対象となる動作情報と、判定結果「対象者」と、評価情報「歩く姿勢が15°である」とを対応付けて、評価情報記憶部236に格納する。また、例えば、格納部244は、図26に示すように、リハカルテの自由記載欄に評価情報「体の傾き:15°」を表示しても良い。
このように、格納部244は、判定結果を評価情報記憶部236へ出力することで、評判定結果を評価情報記憶部236に格納したり、判定結果を出力部110へ出力することで、判定結果を出力部110に表示させたりする。なお、格納部244が判定結果を出力するのは上記の例に限定されるものではない。例えば、格納部244は、他の情報処理装置や外部記憶装置に判定結果を出力しても良い。
次に、図27を用いて、第1の実施形態に係る動作情報処理装置200の処理手順について説明する。図27は、第1の実施形態に係る動作情報処理装置200の処理手順の一例を説明するためのフローチャートである。
図27に示すように、取得部241は、評価対象となる動作情報が指定されると(ステップS301肯定)、評価対象となる動作情報と、当該動作情報に対応付けられたカラー画像情報を取得する(ステップS302)。なお、取得部241は、評価対象となる動作情報が指定されるまで(ステップS301否定)、待機状態である。
生成部242は、取得部241によって取得された動作情報から評価情報を生成する(ステップS303)。例えば、生成部242は、評価対象となる動作情報から、歩く姿勢や歩く速度を評価情報として生成する。
判定部243は、取得部241によって取得された動作情報に対応する人物が、対象者であるか否か、或いは介助者であるか否かを判定する判定処理を実行する(ステップS304)。
ここで、図28を用いて、第1の実施形態に係る判定部243における判定処理の処理手順について説明する。図28は、第1の実施形態に係る判定部243における判定処理の処理手順の一例を説明するためのフローチャートである。
判定部243は、対象者動作特徴記憶部232及び対象者画像特徴記憶部234から、未処理のレコードを一つ選択する(ステップS401)。そして、判定部243は、取得した動作情報及びカラー画像情報が、選択したレコードに該当するか否かを判定する(ステップS402)。該当する場合には(ステップS402肯定)、判定部243は、保有対象者特徴数nを1インクリメントする(ステップS403)。そして、判定部243は、保有対象者特徴数nが5に到達したか否かを判定する(ステップS404)。保有対象者特徴数nが5に到達した場合には(ステップS404肯定)、判定部243は、取得部241によって取得された動作情報に対応する人物が対象者であると判定する(ステップS405)。
一方、判定部243は、保有対象者特徴数nが5に到達していない場合には(ステップS404否定)、判定部243は、対象者動作特徴記憶部232及び対象者画像特徴記憶部234に、未処理のレコードがあるか否かを判定する(ステップS406)。未処理のレコードがある場合には(ステップS406肯定)、判定部243は、ステップS401の処理へ移行する。
一方、判定部243は、未処理のレコードがない場合には(ステップS406否定)、介助者動作特徴記憶部233及び介助者画像特徴記憶部235から、未処理のレコードを一つ選択する(ステップS407)。そして、判定部243は、取得した動作情報及びカラー画像情報が、選択したレコードに該当するか否かを判定する(ステップS408)。該当する場合には(ステップS408肯定)、判定部243は、保有介助者特徴数mを1インクリメントする(ステップS409)。そして、判定部243は、保有介助者特徴数mが5に到達したか否かを判定する(ステップS410)。保有介助者特徴数mが5に到達した場合には(ステップS410肯定)、判定部243は、取得部241によって取得された動作情報に対応する人物が介助者であると判定する(ステップS411)。
一方、判定部243は、保有介助者特徴数mが5に到達していない場合には(ステップS410否定)、判定部243は、介助者動作特徴記憶部233及び介助者画像特徴記憶部235に、未処理のレコードがあるか否かを判定する(ステップS412)。未処理のレコードがある場合には(ステップS412肯定)、判定部243は、ステップS407の処理へ移行する。
一方、判定部243は、未処理のレコードがない場合には(ステップS412否定)、取得部241によって取得された動作情報に対応する人物は判定不能であると判定する(ステップS413)。
図27の説明に戻る。判定部243によって判定処理が実行されると、格納部244は、判定結果の正誤を確認する確認画面を出力部110に表示させる(ステップS305)。そして、格納部244は、判定結果が正しい旨の入力を入力部120が受け付けると(ステップS306肯定)、判定結果とともに、生成部242によって生成された評価情報を評価情報記憶部236に格納する(ステップS307)。
一方、格納部244は、判定結果が正しくない旨の入力を入力部120が受け付けると(ステップS306否定)、修正指示入力を入力部120が受け付けるまで待機する(ステップS308否定)。そして、修正指示入力を入力部120が受け付けると(ステップS308肯定)、格納部244は、修正指示にしたがって評価情報を評価情報記憶部236に格納し(ステップS309)、処理を終了する。
なお、上述した処理手順は、必ずしも上記の順序で実行されなくても良い。例えば、評価情報を生成する処理であるステップS303の処理及び判定処理を実行するステップS304の処理は、上記の順序に限らず、ステップS304の処理が実行された後にステップS303の処理が実行されても良い。
また、例えば、対象者であるか否かを判定する処理であるステップS401からステップS406までの処理及び介助者であるか否かを判定する処理であるステップS407からステップS412までの処理は、上記の順序に限らない。すなわち、ステップS407からステップS412までの処理が実行された後に、ステップS401からステップS406までの処理が実行されても良い。
上述してきたように、第7の実施形態に係る動作情報処理装置200は、リハビリテーションの対象となる対象者の動作の特徴を表す対象者動作特徴情報を記憶する。そして、動作情報処理装置200は、人物の動作を表す動作情報を取得する。そして、動作情報処理装置200は、対象者動作特徴情報を用いて、取得した動作情報に対応する人物が対象者であるか否かを判定する。このため、第7の実施形態に係る動作情報処理装置200は、デジタル的に記録された人物の動きが、リハビリテーションの対象となる対象者のものであるか否かを判定することができる。
図29は、第7の実施形態に係る動作情報処理装置200の効果を説明するための図である。図29に示すように、例えば、動作情報処理装置200は、動作情報収集部10によって撮影された距離画像29aに基づいて、リハビリテーションを行う人物18a及び人物18bそれぞれの動作情報を取得する。そして、動作情報処理装置200は、取得した動作情報を用いて、その動作情報に対応する人物が、対象者であるか否か、介助者であるか否かを判定する。そして、動作情報処理装置200は、判定結果を表示画面29bに表示するとともに、判定結果と、動作情報に基づく評価情報とを評価情報記憶部236に格納する。このため、例えば、動作情報処理装置200は、対象者の動作情報を評価することができる。
また、例えば、動作情報処理装置200は、対象者を介助する介助者の動作の特徴を表す介助者動作特徴情報を記憶する。そして、動作情報処理装置200は、介助者動作特徴情報を用いて、取得した動作情報に対応する人物が介助者であるか否かを判定する。このため、第1の実施形態に係る動作情報処理装置200は、デジタル的に記録された人物の動きが、介助者のものであるか否かを判定することができる。
また、例えば、動作情報処理装置200は、判定結果を確認させるための画面を所定の表示部に表示させ、その判定結果が確認されると、その判定結果と、生成した評価情報とを対応づけて所定の記憶部に格納する。このため、動作情報処理装置200は、例えば、評価対象となる人物を誤って評価することを防ぐことができる。
また、例えば、動作情報処理装置200は、対象者の画像の特徴を表す対象者画像特徴情報を記憶する。そして、動作情報処理装置200は、人物が撮影された人物画像を取得する。そして、動作情報処理装置200は、対象者画像特徴情報を用いて、取得した人物画像に対応する人物が対象者であるか否かを判定する。このため、デジタル的に記録された人物の動きが、対象者のものであるか否かを判定することができる。
また、例えば、動作情報処理装置200は、介助者の画像の特徴を表す介助者画像特徴情報を記憶する。そして、動作情報処理装置200は、人物が撮影された人物画像を取得する。そして、動作情報処理装置200は、介助者画像特徴情報を用いて、取得した人物画像に対応する人物が介助者であるか否かを判定する。このため、デジタル的に記録された人物の動きが、介助者のものであるか否かを判定することができる。
(第8の実施形態)
上述した第7の実施形態では、対象者の動作の特徴及び画像の特徴を用いて対象者であるか否かを判定する場合を説明したが、実施形態はこれに限定されるものではない。例えば、動作情報処理装置200は、対象者の個人情報を用いて対象者であるか否かを判定しても良い。そこで、第2の実施形態では、動作情報処理装置200が対象者の個人情報を用いて対象者であるか否かを判定する場合を説明する。
図30は、第8の実施形態に係る動作情報処理装置200の構成例を示すブロック図である。図30に示すように、第8の実施形態に係る動作情報処理装置200は、図19に示した動作情報処理装置200と同様の構成を有し、記憶部230が個人情報記憶部237及び個人特徴情報記憶部238を更に有し、制御部240が抽出部245を更に有する点が相違する。以下、第8の実施形態では、第7の実施形態と相違する点を中心に説明することとし、第7の実施形態において説明した構成と同様の機能を有する点については、図5と同一の符号を付し、説明を省略する。なお、第8の実施形態に係る動作情報処理装置200においては、記憶部230は、対象者画像特徴記憶部234及び介助者画像特徴記憶部235を有していなくても良い。
個人情報記憶部237は、対象者を識別する識別情報と、個人情報とを対応付けて記憶する。このうち、対象者IDは、対象者を識別するための情報であり、例えば、医療機関において患者を識別するための患者番号等である。また、個人情報は、該当する対象者の個人特有の情報であり、例えば、身長、胸囲及び腹囲等の情報を含む。なお、個人情報記憶部237に記憶される情報は、例えば、医療情報システムや、個人の健康情報記録(PHR:Personal Health Record)等から取得される情報であり、対象者の身体的な特徴のみならず、疾患の名称や通院の履歴等が記憶されても良い。
個人特徴情報記憶部238は、個人特徴IDと、個人特徴情報とを記憶する。このうち、個人特徴IDは、個人を特定するために利用可能な特徴を識別するための情報であり、動作情報処理装置200の設計者によって個人特徴情報記憶部238のレコードが登録されるごとに採番される。また、個人特徴情報は、個人情報を用いて対象者であるか否かを判定する際に利用可能な個人情報の項目を示し、例えば、動作情報処理装置200の設計者によって予め定義される。なお、個人特徴情報記憶部238に記憶される情報は、例えば、医療情報システムや、個人の健康情報記録(PHR:Personal Health Record)等から取得されても良い。
図31は、個人特徴情報記憶部238に記憶される情報の一例を示す図である。図31の1つ目のレコードには、個人特徴ID「001」と、個人特徴情報「身長が( )cmである」が記憶されている。つまり、個人特徴情報記憶部238は、個人情報を用いて対象者であるか否かを判定する際に利用可能な個人情報の項目として「身長が( )cmである」を、個人特徴ID「001」の個人特徴情報として記憶する。この個人特徴情報「身長が( )cmである」は、個人情報記憶部237から対象者の身長の情報を取得した上で、判定に用いられる。また、図31の2つ目のレコードには、個人特徴ID「002」と、個人特徴情報「胸囲が( )cmである」が記憶されている。つまり、個人特徴情報記憶部238は、個人情報を用いて対象者であるか否かを判定する際に利用可能な個人情報の項目として「胸囲が( )cmである」を、個人特徴ID「002」の個人特徴情報として記憶する。また、図31の3つ目のレコードには、個人特徴ID「003」と、個人特徴情報「腹囲が( )cmである」が記憶されている。つまり、個人特徴情報記憶部238は、個人情報を用いて対象者であるか否かを判定する際に利用可能な個人情報の項目として「腹囲が( )cmである」を、個人特徴ID「003」の個人特徴情報として記憶する。また、個人特徴情報記憶部238は、他のレコードについても同様に、個人情報を用いて対象者であるか否かを判定する際に利用可能な個人情報の項目を記憶する。
抽出部245は、対象者を識別する識別情報を受け付けて、受け付けた識別情報に対応する個人情報を個人情報記憶部237から抽出する。一例としては、抽出部245は、対象者の身体的な特徴を、対象者の電子カルテに記録された情報から取得する。
例えば、リハビリテーションが開始される際に、当該リハビリテーションを行う対象者の対象者IDの入力を入力部120が受け付けると、抽出部245は、その対象者IDを入力部120から受け付ける。
続いて、抽出部245は、受け付けた対象者IDを用いて、個人特徴情報記憶部238の各レコードの個人特徴情報に対応する個人情報を個人情報記憶部237から抽出する。図31に示す例では、1つ目のレコードの個人特徴情報には「身長が( )cmである」が記憶されている。この場合、抽出部245は、個人情報記憶部237を参照し、受け付けた対象者IDに対応する個人情報として、例えば「身長170cm」を抽出する。ここで抽出された身長は、判定部243が個人特徴情報記憶部238の1つ目のレコード「身長が( )cmである」を用いて対象者か否かを判定する際に利用される。個人特徴情報記憶部238の他のレコードについても同様に、抽出部245は、受け付けた対象者IDを用いて、個人特徴情報記憶部238の各レコードに対応する個人情報を個人情報記憶部237から抽出する。
次に、図32を用いて、第8の実施形態に係る動作情報処理装置200の処理手順について説明する。図32は、第8の実施形態に係る動作情報処理装置200の処理手順の一例を説明するためのフローチャートである。なお、入力部120は、リハビリテーションが開始される際に、当該リハビリテーションを行う対象者の対象者IDの入力を操作者から受け付けるものとする。
図32に示すように、第8の実施形態に係る動作情報処理装置200において、ステップS501からステップS503までの処理は、図27に示したステップS301からステップS303までの処理とそれぞれ同様であるので、説明を省略する。
ステップS503の処理が終了すると、抽出部245は、リハビリテーションを行う対象者の対象者IDを入力部120から受け付ける(ステップS504)。そして、抽出部245は、受け付けた対象者IDに対応する個人情報を個人情報記憶部237から抽出する(ステップS505)。
判定部243は、取得部241によって取得された動作情報に対応する人物が、対象者であるか否か、或いは介助者であるか否かを判定する判定処理を実行する(ステップS506)。なお、判定部243は、基本的には図14に示した処理手順で判定処理を実行するが、個人特徴情報記憶部238を用いて判定する点が相違するので、以下、この相違点について図28を用いて説明する。
ステップS401において、判定部243は、対象者動作特徴記憶部232及び個人特徴情報記憶部238から、未処理のレコードを一つ選択する。なお、第8の実施形態に係る動作情報処理装置200が対象者画像特徴記憶部234を有する場合には、対象者画像特徴記憶部234から未処理のレコードを選択しても良い。
続いて、ステップS402において、判定部243は、取得した動作情報及びカラー画像情報が、選択したレコードに該当するか否かを判定する。このとき、個人特徴情報記憶部238からレコードが選択された場合には、判定部243は、抽出部245によって抽出された個人情報を用いて判定を行う。例えば、図31の1つ目のレコードが選択された場合には、判定部243は、個人特徴情報記憶部238から個人特徴情報「身長が( )cmである」を取得する。続いて、判定部243は、この個人特徴情報「身長が( )cmである」に対応する個人情報として抽出部245によって抽出された個人情報「身長170cm」を取得する。そして、判定部243は、取得した個人特徴情報「身長が( )cmである」及び個人情報「身長170cm」を組み合わせ、条件「身長が170cmである」を生成する。そして、判定部243は、生成した条件「身長が170cmである」に、取得部241によって取得された動作情報及びカラー画像情報が該当するか否かを判定する。具体的には、判定部243は、動作情報に含まれる骨格情報から身長を求め、その値が170cmに近い値であるか否かを判定する。
そして、判定部243は、ステップS403以降の処理を行う。なお、ステップS403以降の処理については、第7の実施形態で説明した内容と同様であるので、説明を省略する。
図32の説明に戻り、動作情報処理装置200は、ステップS507以降の処理を行う。なお、図32のステップS507からステップS511までの処理は、図27のステップS305からステップS309までの処理をそれぞれ同様であるので、説明を省略する。
なお、上述した処理手順は、必ずしも上記の順序で実行されなくても良い。例えば、評価情報を生成する処理であるステップS503の処理は、個人情報を抽出するステップ505の処理が実行された後に実行されても良い。
上述してきたように、第8の実施形態に係る動作情報処理装置200は、対象者を識別するための識別情報と、当該対象者の個人情報とを対応付けて記憶する個人情報記憶部237を有する。そして、動作情報処理装置200は、識別情報を受け付けて、受け付けた識別情報に対応する個人情報を個人情報記憶部237から抽出する。そして、動作情報処理装置200は、抽出部245によって抽出された個人情報を参照し、人物画像に対応する人物が、当該個人情報に対応する人物であるか否かを判定する。このため、動作情報処理装置200は、デジタル的に記録された人物の動きが、リハビリテーションの対象となる対象者のものであるか否かを正確に判定することができる。
なお、第8の実施形態では、動作情報処理装置200が個人情報記憶部237及び個人特徴情報記憶部238を記憶する場合を説明したが、動作情報処理装置200は、必ずしも個人情報記憶部237及び個人特徴情報記憶部238を記憶していなくても良い。例えば、動作情報処理装置200がネットワークを介して上述した医療情報システムに接続されている場合には、抽出部245は、個人特徴情報記憶部238の各レコードの個人特徴情報に対応する個人情報を医療情報システムから抽出しても良い。
(第9の実施形態)
上述した第8の実施形態では、対象者自身を識別可能な情報を用いて判定処理を行う場合を説明したが、実施形態はこれに限定されるものではない。例えば、第9の実施形態では、介助者自身を識別可能な情報を用いて判定処理を行う場合を説明する。
図33は、第9の実施形態に係る動作情報処理装置200の構成例を示すブロック図である。図33に示すように、第9の実施形態に係る動作情報処理装置200は、図19に示した動作情報処理装置200と同様の構成を有し、記憶部230が職員情報記憶部239を更に有する点が相違する。以下、第9の実施形態では、第7の実施形態と相違する点を中心に説明することとし、第7の実施形態において説明した構成と同様の機能を有する点については、図19と同一の符号を付し、説明を省略する。なお、第9の実施形態に係る動作情報処理装置200においては、記憶部130は、対象者画像特徴記憶部234及び介助者画像特徴記憶部235を有していなくても良い。
職員情報記憶部239は、職員IDと、氏名とを対応付けて記憶する。このうち、職員IDは、職員を識別するための情報であり、例えば、医療機関に従事する者を識別するための番号等である。また、氏名は、職員IDに該当する者の氏名を表す情報である。職員情報記憶部239に記憶される情報は、例えば、動作情報処理装置200が利用される医療機関の職員の人事を管理するための職員人事システムから取得される情報である。なお、職員には、介助者が含まれる。
図34は、職員情報記憶部239に記憶される情報の一例を示す図である。図34の1つ目のレコードには、職員ID「1」と、氏名「A山B男」が記憶されている。つまり、職員情報記憶部239は、職員ID「1」で表される職員の氏名が「A山B男」であることを記憶する。また、図34の2つ目のレコードには、職員ID「2」と、氏名「C田D子」が記憶されている。つまり、職員情報記憶部239は、職員ID「2」で表される職員の氏名が「C田D子」であることを記憶する。また、図34の3つ目のレコードには、職員ID「3」と、氏名「E川F彦」が記憶されている。つまり、職員情報記憶部239は、職員ID「3」で表される職員の氏名が「E川F彦」であることを記憶する。また、職員情報記憶部239は、他の職員IDの職員についても同様に、職員ID及び氏名を対応付けて記憶する。
次に、第9の実施形態に係る動作情報処理装置200の処理手順について説明する。第9の実施形態に係る動作情報処理装置200の処理手順は、図27において説明した第7の実施形態に係る動作情報処理装置200の処理手順と同様であるが、職員情報記憶部239を用いて判定する点が相違するので、以下、この相違点について図28を用いて説明する。
ステップS401からステップS405までの処理は、図28において説明した内容と同一であるので、説明を省略する。
ステップS407において、判定部243は、介助者動作特徴記憶部233及び職員情報記憶部239から、未処理のレコードを一つ選択する。なお、第9の実施形態に係る動作情報処理装置200が介助者画像特徴記憶部235を有する場合には、対象者画像特徴記憶部234から未処理のレコードを選択しても良い。
続いて、ステップS408において、判定部243は、取得した動作情報及びカラー画像情報が、選択したレコードに該当するか否かを判定する。このとき、職員情報記憶部239からレコードが選択された場合には、判定部243は、取得部241によって取得されたカラー画像情報から、ネームプレートのパターンマッチングを行う。そして、判定部243は、パターンマッチングによってカラー画像情報からネームプレートの画像が抽出されると、抽出されたネームプレートに記載された文字を、既知の文字認識技術によって認識する。そして、判定部243は、文字認識によって文字、例えば「A山B男」が認識されると、当該文字が職員情報記憶部239に記憶されているか否かを判定する。文字認識によって認識された文字が職員情報記憶部239に記憶されている場合には、判定部243は、取得されたカラー画像情報が職員情報に該当すると判定する。
そして、判定部243は、ステップS409以降の処理を行う。なお、ステップS409以降の処理については、第7の実施形態で説明した内容と同様であるので、説明を省略する。
上述してきたように、第9の実施形態に係る動作情報処理装置200は、介助者を識別するための識別情報を記憶する識別情報記憶部を有する。そして、動作情報処理装置200は、人物が撮影された人物画像を取得する。そして、動作情報処理装置200は、取得した人物画像から識別情報を抽出し、抽出した識別情報が、識別情報記憶部に記憶された識別情報に対応する人物であるか否かを判定する。このため、動作情報処理装置200は、介助者の個人名を特定することができる。
なお、第9の実施形態では、動作情報処理装置200が職員の氏名を用いて介助者であるか否かを判定する場合を説明したが、実施形態はこれに限定されるものではなく、例えば、職員の顔認識によって介助者であるか否かを判定しても良い。この場合、職員情報記憶部239は、職員IDと、当該職員の顔画像とを対応付けて記憶する。そして、判定部243は、取得部241によって取得したカラー画像情報から顔の画像を認識し、認識した顔の画像と、職員情報記憶部239に記憶された顔画像とをマッチングすることで、取得されたカラー画像情報が職員情報に該当するか否かを判定する。
また、第9の実施形態では、動作情報処理装置200が職員情報記憶部239を記憶する場合を説明したが、動作情報処理装置200は、必ずしも職員情報記憶部239を記憶していなくても良い。例えば、動作情報処理装置200がネットワークを介して上述した職員人事システムに接続されている場合には、判定部243は、職員人事システムにアクセスし、職員情報記憶部239に記憶される情報に対応する情報を用いて判定しても良い。
(第10の実施形態)
さて、これまで第7〜第9の実施形態について説明したが、上述した第7〜第9の実施形態以外にも、種々の異なる形態にて実施されてよいものである。
例えば、上述した第7〜第9の実施形態において説明した構成は一例であり、必ずしも全ての構成を要しない。例えば、動作情報処理装置200は、生成部242を有していなくても良い。つまり、動作情報処理装置200において、取得部241は、人物の動作を表す動作情報を取得する。そして、判定部243は、対象者動作特徴情報を用いて、取得した動作情報に対応する人物が対象者であるか否かを判定する。そして、格納部244は、判定部243によって判定された判定結果を出力する。このため、動作情報処理装置200は、デジタル的に記録された人物の動きが、リハビリテーションの対象となる対象者のものであるか否かを判定することができる。例えば、動作情報処理装置200は、取得した動作情報と判定結果とを対応付けて別の装置に出力してもよい。また、例えば、動作情報処理装置200において、記憶部230は、対象者動作特徴記憶部232、介助者動作特徴記憶部233、対象者画像特徴記憶部234及び介助者画像特徴記憶部235のうちいずれかを有していればよい。
また、例えば、上述した第7〜第9の実施形態において説明した構成は一例であり、医用情報処理システムに含まれる複数の装置のいずれかが上記の構成を有していればよい。具体的には、医用情報処理システムは、取得部241と、生成部242と、判定部243と、格納部244とを有する。取得部241は、人物の動作を表す動作情報を取得する。そして、生成部242は、取得部241によって取得された動作情報から、前記リハビリテーションの評価情報を生成する。そして、判定部243は、対象者動作特徴情報を用いて、取得した動作情報に対応する人物が対象者であるか否かを判定する。そして、格納部244は、前記判定部の判定結果に基づいて、前記評価情報の出力を行う。
また、例えば、上述した第7〜第9の実施形態では、人物の動作の特徴を用いて判定する場合を説明したが、実施形態はこれに限定されるものではない。
一例としては、動作情報処理装置200は、音声認識結果を用いて判定しても良い。具体的には、対象者は、リハビリに集中するため、発言が少なくなったり、苦しそうな声を発したりする。また、介助者は、対象者を気遣ったり励ましたりするため、「大丈夫ですか」、「次は右足ですよ」或いは「ゆっくりでいいですよ」等の言葉を発する。このため、動作情報処理装置200は、これらの特徴を用いることで、対象者及び介助者を判定することができる。
ここで、対象者の発言が少なくなることを利用して、対象者であるか否かを判定する場合を説明する。この場合、対象者動作特徴記憶部232は、所定の動作IDと、対象者動作特徴情報「3分以上発言が無い」とが対応付けられた情報を記憶する。そして、取得部241は、動作情報とともに、その動作情報の各フレームに対応する音声認識結果を取得する。そして、判定部243は、取得部241によって取得された動作情報について、発言が無い旨を示す音声認識結果が3分間継続していれば、その動作情報が所定の動作IDの対象者動作特徴情報に該当する、すなわち3分以上発言が無いと判定する。このように、動作情報処理装置200は、音声認識結果を用いることで、精度良く対象者を判定することができる。
また、介助者の「大丈夫ですか」という発言を利用して、介助者であるか否かを判定する場合を説明する。この場合、介助者動作特徴記憶部233は、所定の動作IDと、介助者動作特徴情報「「大丈夫ですか」という単語を発する」とが対応付けられた情報を記憶する。そして、取得部241は、動作情報とともに、その動作情報の各フレームに対応する音声認識結果を取得する。そして、判定部243は、取得部241によって取得された動作情報について、「大丈夫ですか」という単語を発した旨を示す音声認識結果があれば、その動作情報が所定の動作IDの対象者動作特徴情報に該当する、すなわち「大丈夫ですか」という言葉を発したと判定する。このように、動作情報処理装置200は、音声認識結果を用いることで、精度良く介助者を判定することができる。
また、他の例としては、動作情報処理装置200は、熱センサ(サーモグラフィ等)を用いて判定しても良い。具体的には、対象者は、頑張って身体を動かすため、リハビリが行われる間の体温が上昇する。このため、動作情報処理装置200は、この特徴を用いることで、対象者を判定することができる。なお、この場合、動作情報処理装置200は、例えば、入力部120として、熱センサを備え、取得部241によって取得される動作情報に対応する人物の体温を、フレームごとに取得するものとする。
一態様としては、対象者動作特徴記憶部232は、所定の動作IDと、対象者動作特徴情報「体温が36.5度以上である」とが対応付けられた情報を記憶する。そして、取得部241は、動作情報とともに、その動作情報の各フレームに対応する体温を取得する。そして、判定部243は、取得部241によって取得された動作情報について、体温が36.5度以上であれば、その動作情報が所定の動作IDの対象者動作特徴情報に該当すると判定する。このように、動作情報処理装置200は、熱センサを用いることで、精度良く対象者を判定することができる。
以上説明したとおり、第7〜第10の実施形態によれば、本実施形態の動作情報処理装置200は、デジタル的に記録された人物の動きが、リハビリテーションの対象となる対象者のものであるか否かを判定することができる。
(第11の実施形態)
上述したように、第7〜第10の実施形態では、デジタル的に記録された人物の動きが、リハビリテーションの対象となる対象者のものであるか否かを判定することを可能にすることで、リハビリテーションを支援する場合について説明した。そこで、以下、第11〜第12の実施形態では、更に、被検体(対象者)の個人情報を隠蔽しつつ動作を確認可能な情報を提供することができる動作情報処理装置300を提供する場合について説明する。なお、第11〜第12の実施形態においては、被検体は、所定の動作を実施する者も、リハビリテーションの対象となる者も含む。
図35は、第11の実施形態に係る医用情報処理システム1の構成例を示すブロック図である。第1の実施形態に係る医用情報処理システム1は、医療機関や自宅、職場等において行われるリハビリテーションを支援するシステムである。なお、第11の実施形態においては、動作情報処理装置300が医用情報処理システム1に適用される場合を説明するが、実施形態はこれに限定されるものではない。例えば、動作情報処理装置300は、医用情報処理システム1に適用されない場合にも、被検体の個人情報を隠蔽しつつ動作を確認可能な情報を提供することができる。
図35に示すように、第11の実施形態に係る医用情報処理システム1は、動作情報収集部10と、動作情報処理装置300と、医用画像保管装置20と、ワークステーション30とを備える。ここで、動作情報処理装置300、医用画像保管装置20及びワークステーション30は、例えば、病院内に設置された院内LAN(Local Area Network)40により、直接的又は間接的に相互に通信可能な状態となっている。例えば、動作情報処理システム1にPACS(Picture Archiving and Communication System)が導入されている場合、各装置は、DICOM(Digital Imaging and Communications in Medicine)規格に則って、医用画像情報等を相互に送受信する。
医用画像保管装置20は、リハビリテーションを支援するための各種情報を保管する。例えば、医用画像保管装置20は、画像情報を保管するデータベースを備え、動作情報処理装置300によって送信された各種情報をデータベースに格納し、これを保管する。一例としては、医用画像保管装置20は、医用情報処理システム1にEMR(Electronic Medical Record、電子診療記録)が適用される場合に、EMRにおいて記憶される情報を記憶する。医用画像保管装置20に記憶された情報は、例えば、医用情報処理システム1にアクセスする権限を有する者、或いは、主治医や院長等の所定の権限を有する者であれば、閲覧可能である。医用画像保管装置20に記憶される情報については、後述する。
なお、第11の実施形態においては、医用画像保管装置20が、ある医療機関の医用情報処理システム1において情報を保管する場合を説明するが、実施形態はこれに限定されるものではない。例えば、医用画像保管装置20は、インターネット上に設置されても良い。この場合、医用画像保管装置20は、インターネットに接続された複数の医療機関の情報を医療機関ごとに保管しても良いし、各医療機関の情報を相互に閲覧可能な形式で保管しても良い。また、医用画像保管装置20は、医用画像保管装置20に記憶される情報ごとにアクセス権限を設定して保管しても良い。
ワークステーション30は、リハビリテーションを支援するための各種情報を表示する。例えば、ワークステーション30は、医用画像保管装置20から動作情報を取得し、取得した情報を表示する。
動作情報処理装置300は、動作情報収集部10から出力される動作情報を用いて、リハビリテーションを支援するための各種処理を行う。動作情報処理装置300は、例えば、コンピュータ、ワークステーション等の情報処理装置である。
例えば、上記の医用情報処理システム1において、動作情報収集部10によって収集されたリハビリにおける動作情報を、主治医以外の医師や理学療法士が閲覧可能な情報として医用画像保管装置20に保管しておくことは、医療業務において有用であると考えられる。例えば、医師は、医用画像保管装置20に記憶された情報を用いて、ある被検体のリハビリの動作を確認可能な情報(動画像や骨格情報)を、その被検体と同様のリハビリを行っている他の被検体に手本として閲覧させることが可能となる。しかしながら、この行為は、手本として利用される被検体の個人情報を他の被検体に公開することとなるため、個人情報保護の観点から好ましくない。
そこで、第11の実施形態に係る動作情報処理装置300は、以下に説明する処理を行うことで、被検体の個人情報を隠蔽しつつ動作を確認可能な情報を提供することができる。
図36は、第11の実施形態に係る動作情報処理装置300の詳細な構成例を示すブロック図である。図36に示すように、動作情報処理装置300においては、記憶部330が、動作情報記憶部331を有する。
動作情報記憶部331は、動作情報収集部10によって収集された各種情報を記憶する。具体的には、動作情報記憶部331は、動作情報生成部14によって生成された動作情報を記憶する。より具体的には、動作情報記憶部331は、動作情報生成部14によって生成されたフレームごとの骨格情報を記憶する。ここで、動作情報記憶部331、動作情報生成部14によって出力されたカラー画像情報、深度画像情報及び音声認識結果をフレームごとにさらに対応付けて記憶することも可能である。なお、カラー画像情報は、撮影画像情報の一例である。
例えば、第11の実施形態に係る動作情報記憶部331は、図7に示した動作情報記憶部131と同様の情報を記憶する。
図36の説明に戻る。図36に示すように、動作情報処理装置300においては、制御部340が、取得部341と、生成部342と、出力制御部343とを有する。
取得部341は、被検体の動作情報を取得する。例えば、取得部341は、少なくとも、骨格情報と、カラー画像情報とを時系列順に含む動作情報を取得する。一例としては、取得部341は、動作情報収集部10及び動作情報処理装置300に電源が投入され、1フレームの骨格情報が動作情報記憶部331に格納されるごとに、格納された骨格情報と、格納された骨格情報に対応するフレームのカラー画像情報とを、動作情報記憶部331からそれぞれ取得する。なお、取得部341によって取得される動作情報は、第1動作情報の一例である。
なお、第11の実施形態では、動作情報収集部10によって動作情報記憶部331に各フレームの骨格情報及びカラー画像情報が格納されるごとに、取得部341がリアルタイムで各種の情報を取得する場合を説明するが、これに限定されるものではない。例えば、取得部341は、動作情報記憶部331に記憶済みの骨格情報及びカラー画像情報のフレーム群を取得しても良い。
生成部342は、例えば、骨格情報に含まれる各関節の位置を用いて、被検体の骨格を視覚的に確認可能な画像情報を、医用画像情報として生成する。
図37A及び図37Bは、第11の実施形態に係る生成部342の処理を説明するための図である。図37Aには、ある被検体が歩行訓練を行っている様子を表すカラー画像情報と、被検体の各関節の位置を表す骨格情報とを例示する。また、図37Bには、図37Aのカラー画像情報及び骨格情報に基づいて生成される医用画像情報37aを例示する。
図37A及び図37Bに示すように、生成部342は、取得部341によって取得された骨格情報に含まれる各関節2a〜2tの位置を示す骨格モデル37bを生成する。具体的には、例えば、生成部342は、医用画像情報37aの撮影範囲のうち、各関節2a〜2tの画素位置X及び画素位置Yに対応する位置に丸印を配置する。また、生成部342は、各関節の位置関係を表す情報に基づいて、各丸印を結ぶ線分を配置する。これにより、生成部342は、骨格モデル37bを生成する。
また、生成部342は、床面画像37cを生成する。具体的には、例えば、生成部342は、世界座標系におけるy=0の位置に対応する画素を床面の画素として特定する。そして、生成部342は、床面の画素のうち、x方向及びz方向に1m間隔で平行な線を配置することで、床面画像37cを生成する。
このように、生成部342は、骨格モデル37b及び床面画像37cを含む医用画像情報37aを生成する。そして、生成部342は、生成した医用画像情報37aを出力制御部343へ出力する。
なお、上記の例はあくまで一例であり、実施形態はこれに限定されるものではない。例えば、生成部342が床面画像37cを生成する処理は、上記の例に限定されるものではない。例えば、生成部342は、動作情報収集部10や他のセンサから、世界座標系における床面の座標を取得可能な場合には、これを用いて床面の画素を特定しても良い。生成部342は、特定した床面の画素のうち、x方向及びz方向に1m間隔で平行な線を配置することで、床面画像37cを生成可能である。更に、これに限らず、例えば、生成部342は、被検体の足根(関節2p又は関節2t)の位置が一定時間変化しない位置に対応する画素を、床面の画素として特定しても良い。また、例えば、上記の床面画像37cは、必ずしも医用画像情報37aに含まれていなくても良い。
出力制御部343は、骨格情報と、医用画像情報とを時系列順に含む閲覧用動作情報を出力する。一例としては、出力制御部343は、被検体の骨格情報と、生成部342によって生成された医用画像情報37aとを時系列順に対応付けて、閲覧用動作情報として医用画像保管装置20に格納する。なお、閲覧用動作情報は、第2動作情報の一例である。
図38は、第11の実施形態に係る医用画像保管装置20に格納される閲覧用動作情報の一例を示す図である。医用画像保管装置20は、図38に示すように、氏名ごとに、氏名番号と、実施日と、閲覧用動作情報とが対応付けられた情報を記憶する。ここで、「氏名番号」とは、被検体を一意に特定するための識別子であり、氏名ごとに付与される。「実施日」とは、被検体が歩行訓練を実施した日時を示す。「閲覧用動作情報」とは、出力制御部343によって医用画像保管装置20に格納された情報を示す。
図38に示すように、医用画像保管装置20は、氏名「A」、氏名番号「1」、実施日「20120801_1」、閲覧用動作情報「医用画像情報、深度画像情報、音声認識結果、骨格情報」等を記憶する。上記した情報は、氏名番号が「1」である氏名「A」の人物が「2012年」の「8月1日」に実施した「1回目」の歩行訓練における動作情報として、「医用画像情報」と、「深度画像情報」と、「音声認識結果」と、「骨格情報」とを含む閲覧用動作情報が記憶されていることを示す。
ここで、図38に示す閲覧用動作情報において、歩行訓練を実行している際に撮影された全てのフレームごとの「医用画像情報」、「深度画像情報」、「音声認識結果」及び「骨格情報」が時系列順に時間に対応付けて記憶される。
このように、出力制御部343は、被検体の骨格情報と、生成部342によって生成された医用画像情報37aとを時系列順に対応付けて、閲覧用動作情報として医用画像保管装置20に格納する。なお、これに限らず、出力制御部343は、閲覧用動作情報を出力部110に表示させても良い。
図39は、第11の実施形態に係る動作情報処理装置300による処理手順を示すフローチャートである。図39に示すように、取得部341は、骨格情報と、カラー画像情報とを含む動作情報を取得する(ステップS601)。
続いて、生成部342は、被検体の個人情報を含まずに被検体の動作を確認可能な医用画像情報を生成する(ステップS602)。例えば、生成部342は、骨格情報に含まれる各関節の位置を用いて、被検体の骨格を視覚的に確認可能な画像情報を、医用画像情報として生成する。
そして、出力制御部343は、骨格情報と、医用画像情報とを時系列順に含む閲覧用動作情報を出力する(ステップS603)。例えば、出力制御部343は、被検体の骨格情報と、生成部342によって生成された医用画像情報37aとを時系列順に対応付けて、閲覧用動作情報として医用画像保管装置20に格納する。
上述してきたように、第11の実施形態に係る動作情報処理装置300は、骨格情報と、カラー画像情報とを含む動作情報を取得する。そして、動作情報処理装置300は、骨格情報及びカラー画像情報のうち少なくとも一つに基づいて、被検体の個人情報を含まずに被検体の動作を確認可能な医用画像情報を生成する。このため、動作情報処理装置300は、被検体の個人情報を隠蔽しつつ動作を確認可能な情報を提供することができる。
具体的には、カラー画像情報には被検体の姿が撮影されるため、カラー画像情報を閲覧することで被検体を特定できてしまう。このため、カラー画像情報を医用画像保管装置20に保管しておくことは、個人情報保護の観点から好ましくない。そこで、第11の実施形態に係る動作情報処理装置300は、被検体の姿を含まずに被検体の動作を確認可能な医用画像情報37aを生成し、これをカラー画像情報に代えて医用画像保管装置20に格納する。このため、第11の実施形態に係る動作情報処理装置300は、被検体の個人情報を隠蔽しつつ動作を確認可能な情報を提供することができる。これにより、例えば、ある被検体の医用画像情報37aが他者に閲覧されても、被検体が特定されないので、動作情報処理装置300は、被検体の個人情報を保護しつつ臨床上有用な画像情報を提供することができる。具体的には、医師は、ある被検体の医用画像情報37aを手本として他の被検体に閲覧させることや、「このリハビリを行うことで、1ヶ月後にはこのように健康になります」などの指標として閲覧させることが可能となる。
また、例えば、第11の実施形態に係る動作情報処理装置300は、個人情報保護に配慮した上で医用画像保管装置20に閲覧用動作情報を格納するので、複数の被検体の閲覧用動作情報を処理することを可能にする。これにより、動作情報処理装置300は、閲覧用動作情報を統計的に処理することで、例えば、個人ごと、或いは疾病ごとの特徴量をより正確に求めることを可能にする。
また、上述したように、医用画像保管装置20がインターネットやLAN等のネットワーク上に設置される場合に、動作情報処理装置300は、ネットワーク上の医用画像保管装置20に、被検体の個人情報を保護しつつ臨床上有用な画像情報を格納することができる。これにより、動作情報処理装置300は、遠隔地の医療機関と情報を共有することができる。例えば、地域連携内の医師や理学療法士の間で共通の対象者の情報を共有したり、遠隔地の医師から助言を得たりすることが可能となる。
(第11の実施形態の変形例1)
上記の実施形態では、動作情報処理装置300が、骨格モデル37bを含む医用画像情報37aを生成する場合を説明したが、これに限定されるものではない。例えば、動作情報処理装置300は、カラー画像情報に含まれる被検体の特徴を含む部位の画像を隠蔽した画像情報を、医用画像情報として生成しても良い。ここで、被検体の特徴を含む部位とは、例えば、頭部(顔面)である。以下では、一例として、動作情報処理装置300が、カラー画像情報に含まれる被検体の頭部の画像を隠蔽した画像情報を生成する場合を説明する。
第11の実施形態の変形例1に係る動作情報処理装置300において、生成部342は、骨格情報に含まれる頭部の関節の位置を用いて、カラー画像情報に含まれる被検体の頭部の画像の少なくとも一部を隠蔽した画像情報を、医用画像情報として生成する。
図40は、第11の実施形態の変形例1に係る生成部342の処理を説明するための図である。図40には、図37Aのカラー画像情報及び骨格情報に基づいて生成される医用画像情報40aを例示する。
図40に示すように、生成部342は、取得部341によって取得された骨格情報に含まれる被検体の頭部の関節の位置を用いて、カラー画像情報に含まれる被検体の頭部の画像を隠蔽する。具体的には、生成部342は、骨格情報に含まれる頭部の関節2aの座標を用いて、カラー画像情報における頭部の中心の画素位置40bを特定する。そして、生成部342は、画素位置40bを含む頭部領域40cに含まれる画素の色を所定の色(例えば、グレー)に変更する。この頭部領域40cは、例えば、画素位置40bを中心とする所定の大きさの矩形領域である。そして、生成部342は、頭部領域40cに含まれる画素の色を変更したカラー画像情報を、医用画像情報40aとして出力制御部343に出力する。これにより、出力制御部343は、被検体の骨格情報と、生成部342によって生成された医用画像情報40aとを時系列順に対応付けて、閲覧用動作情報として医用画像保管装置20に格納する。
このように、第11の実施形態の変形例1に係る動作情報処理装置300は、カラー画像情報に含まれる被検体の頭部の画像を隠蔽することで、医用画像情報40aを生成する。すなわち、動作情報処理装置300は、骨格情報及びカラー画像情報のうち少なくとも一つに基づいて、被検体の個人情報を含まずに被検体の動作を確認可能な医用画像情報を生成する。そして、動作情報処理装置300は、生成した医用画像情報をカラー画像情報に代えて医用画像保管装置20に格納する。このため、第11の実施形態に係る動作情報処理装置300は、被検体の個人情報を隠蔽しつつ動作を確認可能な情報を提供することができる。
なお、頭部領域40cの大きさは、動作情報処理装置300の操作者の任意の大きさに変更可能である。また、頭部領域40cの大きさは、関節2aのz座標の値の大きさに応じて変更されても良い。この場合、例えば、動作情報処理装置300は、関節2aのz座標の値が大きければ(被検体が遠くにいれば)、頭部領域40cを小さく設定し、関節2aのz座標の値が小さければ(被検体が近くにいれば)、頭部領域40cを大きく設定する。また、頭部領域40cの大きさは、頭部の全てを隠蔽することが好ましいが、これに限定されるものではなく、例えば、目の位置だけを隠蔽する大きさであっても良い。また、頭部領域40cの形は、必ずしも矩形でなくても良い。例えば、頭部領域40cの形は、円形であっても良いし、関節2aを中心とする顔認識技術によって顔の輪郭を特定し、特定した輪郭に対応する範囲を頭部領域40cとしても良い。
また、ここでは、被検体の特徴を含む部位の一例として、頭部の画像を隠蔽した画像情報を生成する場合を説明したが、実施形態はこれに限定されるものではない。例えば、動作情報処理装置300は、被検体の特徴を含む部位として、身体的な骨格形状の特徴を検出し、これを隠蔽しても良い。身体的な骨格形状の特徴とは、例えば、腕の欠失等である。例えば、動作情報処理装置300は、左腕を欠失した被検体であれば、左腕に相当する位置を隠蔽することで、被検体の特徴を含む部位を隠蔽した画像情報を生成する。例えば、生成部342は、被検体の骨格情報を参照し、全ての関節2a〜2tの位置情報があるか否かを判定する。ここで、例えば、左腕の関節2j,2k,2lが無い場合には、生成部342は、被検体の関節2j,2k,2lの位置を推定する。一例としては、生成部342は、体の中心線(関節2bと2cを通る線)を挟んで右腕の関節2f,2g,2hと対象の位置を、それぞれ関節2j,2k,2lの位置として推定する。そして、生成部342は、推定した左腕の関節2j,2k,2lを含む領域(例えば矩形領域)に含まれる画素の色を所定の色に変更する。これにより、生成部342は、被検体の左腕に相当する位置を隠蔽した画像情報を生成する。
また、例えば、動作情報処理装置300は、被検体の特徴を含む部位として、被検体の肌上に見られる特徴を検出し、これを隠蔽しても良い。肌上に見られる特徴とは、例えば、傷跡(外傷によるもの)等である。例えば、動作情報処理装置300は、左腕に傷跡がある被検体であれば、左腕に相当する位置を隠蔽することで、被検体の特徴を含む部位を隠蔽した画像情報を生成する。例えば、生成部342は、カラー画像情報のうち、被検体の骨格情報に対応する位置を含む領域について、画素ヒストグラムを生成する。そして、生成部3は、肌色に対応する輝度ヒストグラムからピークが検出された場合に、このピークに対応する位置を含む領域の画素の色を所定の色に変更する。これは、通常の肌であれば一様な輝度ヒストグラムが得られるのに対して、この輝度ヒストグラムからピークが検出される場合には、傷跡等の肌上の特徴を有すると考えられる空である。これにより、生成部342は、被検体の左腕に相当する位置を隠蔽した画像情報を生成する。
また、例えば、動作情報処理装置300は、上記の例に限らず、操作者から指定された領域を隠蔽した画像情報を生成しても良い。一例としては、生成部342は、マウス等の入力部120を介して操作者から領域の指定を受け付ける。そして、生成部342は、受け付けた領域を隠蔽した画像情報を生成する。
また、第11の実施形態の変形例1に係る生成部342は、医用画像情報として、上述した床面画像37cを含む画像情報を生成しても良い。例えば、生成部342は、上述したように、床面画像37cを生成し、生成した床面画像37cを医用画像情報40aに重畳させた画像情報を生成可能である。
(第11の実施形態の変形例2)
また、カラー画像情報には、被検体以外にも、公開されるべきでない被写体が含まれる場合がある。例えば、カラー画像情報には、被検体のリハビリを介助する介助者の顔や、公開されるべきでない掲示物等が含まれる場合がある。そこで、動作情報処理装置300は、上記の第11の実施形態の変型例1に加えて、カラー画像情報に含まれる被検体以外が撮影された領域を隠蔽した画像情報を、医用画像情報として生成しても良い。
第11の実施形態の変形例2に係る動作情報処理装置300において、生成部342は、更に、骨格情報に含まれる各関節の位置を用いて、カラー画像情報に含まれる被検体以外が撮影された画像の少なくとも一部を隠蔽した画像情報を、医用画像情報として生成する。
図41は、第11の実施形態の変形例2に係る生成部342の処理を説明するための図である。図41には、図40の医用画像情報40aに基づいて生成される医用画像情報41aを例示する。
図41に示すように、生成部342は、更に、骨格情報に含まれる各関節の位置を用いて、カラー画像情報に含まれる被検体以外が撮影された画像を隠蔽する。具体的には、生成部342は、骨格情報に含まれる各関節の位置を用いて、被検体を含む被検体領域41bを特定する。より具体的には、生成部342は、被検体の各関節のx座標のうち、最も大きい値であるx座標の関節を特定し、特定した関節のx座標の値に所定値を加算した値の座標を通る線を、被検体領域41bの右辺として決定する。また、生成部342は、被検体の各関節のx座標のうち、最も小さい値であるx座標の関節を特定し、特定した関節のx座標の値から所定値を加算した値の座標を通る線を、被検体領域41bの左辺として決定する。また、生成部342は、被検体の各関節のy座標のうち、最も大きい値であるy座標の関節を特定し、特定した関節のy座標の値に所定値を加算した値の座標を通る線を、被検体領域41bの上辺として決定する。また、生成部342は、被検体の各関節のx座標のうち、最も小さい値であるx座標の関節を特定し、特定した関節のx座標の値から所定値を加算した値の座標を通る線を、被検体領域41bの左辺として決定する。そして、生成部342は、特定した被検体領域41bの外側の画素の色を所定の色(例えば、グレー)に変更する。そして、生成部342は、被検体領域41bの外側の画素の色を変更したカラー画像情報を、医用画像情報41aとして出力制御部343に出力する。これにより、出力制御部343は、被検体の骨格情報と、生成部342によって生成された医用画像情報41aとを時系列順に対応付けて、閲覧用動作情報として医用画像保管装置20に格納する。
このように、第11の実施形態の変形例2に係る動作情報処理装置300は、被検体以外が撮影された領域を隠蔽することで、医用画像情報41aを生成し、これをカラー画像情報に代えて医用画像保管装置20に格納する。このため、第1の実施形態に係る動作情報処理装置300は、被検体以外にも公開されるべきでない被写体を隠蔽しつつ、被検体の動作を確認可能な情報を提供することができる。例えば、動作情報処理装置300は、被検体のリハビリを介助する介助者の顔や、公開されるべきでない掲示物等についても隠蔽することができる。
なお、被検体領域41bの大きさは、動作情報処理装置300の操作者の任意の大きさに変更可能である。また、被検体領域41bの形は、必ずしも矩形でなくても良い。例えば、被検体領域41bの形は、楕円形であっても良い。
また、第11の実施形態の変形例2に係る生成部342は、医用画像情報として、上述した床面画像37cを含む画像情報を生成しても良い。例えば、生成部342は、上述したように、床面画像37cを生成し、生成した床面画像37cを医用画像情報41aに重畳させた画像情報を生成可能である。
(第11の実施形態の変形例3)
更に、実施形態は、上記の実施形態に限定されるものではなく、例えば、動作情報処理装置300は、被検体の領域のみを表す画像情報を、医用画像情報として生成しても良い。
第11の実施形態の変形例3に係る動作情報処理装置300において、取得部341は、撮影範囲に含まれる各画素と、その画素の深度とが対応付けられた深度画像情報を時系列順に更に含む動作情報を取得する。例えば、取得部341は、動作情報収集部10及び動作情報処理装置300に電源が投入され、1フレームの深度画像情報が動作情報記憶部331に格納されるごとに、格納された深度画像情報を動作情報記憶部331から取得する。
第11の実施形態の変形例3に係る動作情報処理装置300において、生成部342は、処理対象となる時点の深度画像情報と、その深度画像情報とは異なる時点の深度画像情報とに基づいて、処理対象となる時点の深度画像情報から被検体の領域を表す画像情報を、医用画像情報として生成する。
図42は、第11の実施形態の変形例3に係る生成部342の処理を説明するための図である。図42には、フレームTの深度画像42a、フレームT−1の深度画像42b及び2値化画像42cを例示する。フレームTの深度画像42a及びフレームT−1の深度画像42bにおいて、実線は、各フレームにおける被検体の位置を表す。また、フレームTの深度画像42aにおいて、破線は、フレームT−1における被検体の位置を表す。すなわち、フレームTの深度画像42aは、被検体が破線の位置から実線の位置に移動したことを表す。なお、2値化画像42cにおける「画素位置X」及び「画素位置Y」は、距離画像座標系の「画素位置X」及び「画素位置Y」に対応する。また、破線は説明の便宜上、フレームT−1における被検体の位置を示すものであり、フレームTの深度画像42aにおいてフレームT−1における被検体の位置は表示されない。
図42に示すように、生成部342は、取得部341によってフレームTの深度画像42aが取得されると、フレームTの深度画像42aの深度からフレームT−1の深度画像42bの深度を画素ごとに減算する。そして、生成部342は、減算した値が閾値以上である画素を白とし、閾値未満である画素を黒とする2値化を行うことで、フレームTの2値化画像42cを生成する。この2値化画像42cにおいて、黒い画素の領域は、フレームT−1からフレームTの間に深度方向に閾値より動きのないもの、例えば、床面や壁、机、椅子等の物体の位置を表す。また、白い画素の領域は、フレームT−1からフレームTの間に深度方向に閾値以上に動きのあるもの、例えば、撮影された人物(被写体)の位置を表す。すなわち、生成部342は、動きのないものと動きのあるものとをそれぞれ識別することで、歩行動作を行う被検体の位置を表す被検体領域42dを抽出する。そして、生成部342は、被検体領域42dを抽出した2値化画像42cを、医用画像情報として出力制御部343に出力する。これにより、出力制御部343は、被検体の骨格情報と、生成部342によって生成された医用画像情報とを時系列順に対応付けて、閲覧用動作情報として医用画像保管装置20に格納する。
このように、第11の実施形態の変形例3に係る動作情報処理装置300は、被検体の領域のみを表す画像情報を、医用画像情報として生成し、これをカラー画像情報に代えて医用画像保管装置20に格納する。このため、第1の実施形態に係る動作情報処理装置300は、被検体の個人情報を隠蔽しつつ動作を確認可能な情報を提供することができる。
なお、上記の生成部342の処理は、あくまでも一例であり、これに限定されるものではない。例えば、上記の説明では、生成部342が時系列順で隣り合うフレームの深度画像情報を用いて被検体領域を抽出したが、これに限定されるものではない。例えば、生成部342は、時系列順で数フレーム離れたフレームの深度画像情報について、画素ごとに深度の差分を算出し、算出した差分が閾値以上である画素の領域を被検体領域として抽出しても良い。また、例えば、生成部342は、人がいない時の深度画像情報を基準とし、フレームTの深度画像情報と基準の深度画像情報とについて、画素ごとに深度の差分を算出し、算出した差分が閾値以上である画素の領域を被検体領域として抽出しても良い。
また、第11の実施形態の変形例3に係る生成部342は、医用画像情報として、上述した床面画像37cを含む画像情報を生成しても良い。例えば、生成部342は、上述したように、床面画像37cを生成し、生成した床面画像37cを2値化画像42cに重畳させた画像情報を生成可能である。
(第12の実施形態)
上記の実施形態では、動作情報処理装置300が、閲覧用動作情報を医用画像保管装置20に格納する場合に、被検体の個人情報を隠蔽する場合を説明したが、これに限定されるものではない。例えば、ワークステーション30において被検体に手本として他の被検体の閲覧用動作情報を閲覧させる場合に、手本となる閲覧用動作情報の動作に基づいて被検体自身の画像を表示しても良い。これにより、被検体は、あたかも被検体自身が手本となる動作を行っている画像を閲覧することができる。
第12の実施形態に係る医用情報処理システム1は、図35に示した医用情報処理システム1と同様の構成を有し、ワークステーション30における処理が一部相違する。そこで、第12の実施形態では、第11の実施形態と相違する点を中心に説明することとし、第11の実施形態において説明した構成と同様の機能を有する点については、図35と同一の符号を付し、説明を省略する。
図43は、第12の実施形態に係るワークステーション30の詳細な構成例を示すブロック図である。図43に示すように、ワークステーション30は、表示用情報記憶部31と、表示制御部32とを有する。
表示用情報記憶部31は、被検体を表す被検体画像情報と、その被検体画像情報における被検体の各関節の位置とが対応付けられた表示用情報を記憶する。
図44は、表示用情報記憶部31に記憶される情報の一例を示す図である。図44では、被検体が高齢女性である場合を説明する。この場合、表示用情報記憶部31は、被検体本人の画像情報と、その被検体の各関節2a〜2tの位置とが対応付けられた情報を、表示用情報44aとして記憶する。すなわち、表示用情報記憶部31は、被検体の各関節の位置と、被検体の画像情報に含まれる各画素位置との位置関係を記憶する。
なお、図44に示す例では、説明の便宜上、高齢女性のキャラクターを被検体画像情報として含む表示用情報44aを例示したが、実施形態はこれに限定されるものではない。例えば、表示用情報記憶部31には、0〜9歳、10〜19歳、20〜29歳等、所定の年代ごとに男性及び女性のキャラクターを被検体画像情報として用意しておき、被検体の年代及び性別に応じて選択可能な形式で提供されても良い。更に、これに限らず、表示用情報記憶部31は、被検体本人の写真を被検体画像情報として含む表示用情報44aを記憶しても良い。
表示制御部32は、医用画像保管装置20から閲覧用動作情報を取得する。そして、表示制御部32は、表示用情報に含まれる各関節の位置に基づいて、閲覧用動作情報に含まれる医用画像情報に被検体の画像情報をマッピングすることで、閲覧用動作情報の動作に基づいて被検体の画像を表示する表示制御を行う。
図45は、第2の実施形態に係る表示制御部32の処理を説明するための図である。図45には、ワークステーション30において被検体に閲覧される表示画像45aを例示する。図45では、一例として、図44の表示用情報44aに含まれる各画素を、図37Bの医用画像情報37aにマッピングする場合を説明する。
図45に示すように、例えば、表示制御部32は、医用画像保管装置20から閲覧用動作情報を取得する。この閲覧用動作情報は、図37Bの医用画像情報37aを含む。そして、表示制御部32は、表示用情報記憶部31に記憶された表示用情報44aに含まれる各関節の位置に基づいて、被検体の画像情報を医用画像情報37aにマッピングする。具体的には、表示制御部32は、表示用情報44aに含まれる各画素を、各画素の画素位置と各関節の位置との位置関係に基づいて、医用画像情報37aに配置する。より具体的には、例えは、表示制御部32は、表示用情報44aの関節2aの位置にある画素を、医用画像情報37aの頭部の関節2aの位置に配置する。また、例えば、表示用情報44aの髪の毛の位置の画素は、その画素と頭部の関節2aの位置との位置関係(X方向の距離ΔX及びY方向の距離ΔY)を用いて、医用画像情報37aの頭部の位置からΔX及びΔYの位置に配置する。これにより、表示制御部32は、高齢女性の表示用画像44aを医用画像情報37aの姿勢で表示する表示画像45aを生成する。また、表示制御部32は、第1の実施形態に係る生成部342と同様の処理により、床面画像を生成し、生成した床面画像を表示画像45aに重畳させる。そして、表示制御部32は、床面画像を重畳した表示画像45aを時系列順に表示することで、高齢女性が医用画像情報37aの動きを行っているかのような動画を表示する。なお、表示制御部32は、必ずしも床面画像を生成しなくても良い。
このように、第12の実施形態に係るワークステーション30は、被検体の画像情報を、他の被検体の閲覧用動作情報の動作に基づいて表示する。このため、ワークステーション30は、被検体に対して、あたかも被検体自身が他の被検体の動作を行っているかのような画像を表示することができる。これにより、被検体は、他者のリハビリの動作をあたかも自分が行っているかのように見えるので、例えば、リハビリ開始から1ヶ月後の自分、健康になったときの自分を具体的にイメージすることが容易になる。この結果、動作情報処理装置300は、リハビリを行う被検体のモチベーションを向上させることができる。
なお、第12の実施形態では、表示制御部32が図37Bの医用画像情報37aに基づいて表示用画像44aを表示する場合を説明したが、実施形態はこれに限定されるものではない。例えば、表示制御部32は、図40の医用画像情報40aに基づいて表示用画像44aを表示しても良いし、図42の2値化画像42cに基づいて表示用画像44aを表示しても良い。また、表示制御部32は、例えば、動作情報処理装置300から動作情報を取得して、カラー画像情報及び骨格情報に基づいて、表示用画像44aを表示しても良い。この場合、表示制御部32は、生成部342の処理を行った後に、上記の表示制御部32の処理を行うこととなる。
以上説明したとおり、第11〜第12の実施形態によれば、本実施形態の動作情報処理装置は、被検体の個人情報を隠蔽しつつ動作を確認可能な情報を提供することができる。
(第13の実施形態)
上述してきたように、第1〜第6の実施形態では、所定の動作を実施する者以外を誤認識することを抑止することを可能にする場合について説明した。また、第7〜第10の実施形態では、デジタル的に記録された人物の動きが、リハビリテーションの対象となる者のものであるか否かを判定する場合について説明した。また、第11〜第12の実施形態では、デジタル的に記録された人物の動きが、被検体の個人情報を隠蔽しつつ動作を確認可能な情報を提供する場合について説明した。ここで、上記の各処理は、一連の処理として実行することができる。そこで、第13の実施形態では、上記の各処理を一連の処理として実行する場合について説明する。これにより、第13の実施形態に係る動作情報処理装置400は、リハビリ対象者の動作情報を確実に判定して、更に、そのリハビリ対象者の個人情報を隠蔽することができる。なお、第13の実施形態においては、所定の動作を実施する者を「対象者」として説明し、リハビリテーションの対象となる者を「リハビリ対象者」として説明する。
図46は、第13の実施形態に係る動作情報処理装置400の構成例を示すブロック図である。図46に示すように、動作情報処理装置400は、コンピュータ、ワークステーション等の情報処理装置であり、出力部110と、入力部120と、記憶部430と、制御部440とを有する。なお、出力部110及び入力部120は、第1の実施形態において説明した出力部110及び入力部120とそれぞれ同様であるので、説明を省略する。
記憶部430は、図19に示した記憶部230と同様の構成を有する。すなわち、記憶部430は、動作情報記憶部431と、対象者動作特徴記憶部432と、介助者動作特徴記憶部433と、対象者画像特徴記憶部434と、介助者画像特徴記憶部435と、評価情報記憶部436とを有する。なお、第13の実施形態において、動作情報記憶部431、対象者動作特徴記憶部432、介助者動作特徴記憶部433、対象者画像特徴記憶部434、介助者画像特徴記憶部435、及び評価情報記憶部436は、図19に示した動作情報記憶部231、対象者動作特徴記憶部232、介助者動作特徴記憶部233、対象者画像特徴記憶部234、介助者画像特徴記憶部235、及び評価情報記憶部236と、それぞれ同様であるので、説明を省略する。
制御部440は、取得部441と、特定部442と、第1生成部443と、判定部444と、第2生成部445と、出力制御部446とを有する。
取得部441は、図4に示した取得部141と同様の機能を有する。例えば、取得部441は、動作情報記憶部431によって記憶された動作情報を取得する。なお、取得部441は、必ずしも、カラー画像情報、距離画像情報、音声認識結果及び骨格情報の全てを含む動作情報を取得しなくても良い。例えば、取得部441は、必要に応じて、カラー画像情報、距離画像情報、音声認識結果及び骨格情報のうち少なくとも一つを適宜取得して良い。
特定部442は、図4に示した特定部142と同様の機能を有する。例えば、特定部442は、取得部441によって取得された画像情報における所定の特徴に基づいて、所定の動作を実施する対象者の動作情報を特定する。
第1生成部443は、図19に示した生成部242と同様の機能を有する。例えば、第1生成部443は、特定部442によって特定された動作情報から、リハビリテーションを評価するための評価情報を生成する。
判定部444は、図19に示した判定部243と同様の機能を有する。例えば、判定部444は、リハビリテーションの対象となるリハビリ対象者の特徴を表す情報を用いて、特定部442によって特定された動作情報に対応する対象者がリハビリ対象者であるか否かを判定する。
第2生成部445は、図36に示した生成部342と同様の機能を有する。例えば、第2生成部445は、特定部442によって特定された動作情報に時系列順に含まれる、対象者の人体の骨格を示す骨格情報、及び、対象者が撮影されたカラー画像情報のうち少なくとも一つに基づいて、対象者の個人情報を含まずに対象者の動作を確認可能な医用画像情報を生成する。また、例えば、第2生成部445は、判定部によって対象者であると判定された動作情報に時系列順に含まれる骨格情報及びカラー画像情報のうち少なくとも一つに基づいて、対象者の医用画像情報を生成する。
出力制御部446は、図4に示した表示制御部143の機能と、図19に示した格納部244の機能と、図36に示した出力制御部343の機能とを有する。そして、出力制御部446は、適宜出力制御を行う。
例えば、出力制御部446は、特定部442によって対象者の動作情報が特定された場合には、画像情報において、特定部442によって特定された動作情報に対応する位置に対象者を示す情報を重畳させた表示画像を表示させるように制御する。
また、例えば、出力制御部446は、判定部444によって判定が行われた場合には、判定部143によって判定された判定結果を出力する。具体的には、出力制御部446は、第1生成部443によって生成された評価情報と、判定部444によって判定された判定結果とを対応づけて、評価情報記憶部436に格納する。
また、例えば、出力制御部446は、第2生成部445によって医用画像情報が生成された場合には、骨格情報と、医用画像情報とを時系列順に含む閲覧用動作情報を出力する。一例としては、出力制御部446は、被検体の骨格情報と、第2生成部445によって生成された医用画像情報とを時系列順に対応付けて、閲覧用動作情報として医用画像保管装置20に格納する。
図47は、第13の実施形態に係る動作情報処理装置400による処理の手順を示すフローチャートである。図47に示すように、第13の実施形態に係る動作情報処理装置400においては、取得部441が、動作情報を取得する(ステップS701)。例えば、取得部441は、動作情報として、カラー画像情報及び骨格情報を取得する。
続いて、特定部442は、対象者特定処理を行う(ステップS702)。この対象者特定処理は、図9に示したステップS103〜S105の処理に対応する。すなわち、特定部442は、対象者特定処理を行うことで、対象者の動作情報を特定する。
続いて、第1生成部443及び判定部444は、対象者判定処理を行う(ステップS703)。この対象者判定処理は、図27に示したステップS303及びステップS304の処理に対応する。すなわち、第1生成部443は、特定部442によって特定された動作情報から、リハビリテーションを評価するための評価情報を生成する。そして、判定部444は、リハビリテーションの対象となるリハビリ対象者の特徴を表す情報を用いて、特定部442によって特定された動作情報に対応する対象者がリハビリ対象者であるか否かを判定する。
そして、第2生成部445は、医用画像情報生成処理を行う(ステップS704)。この医用画像情報生成処理は、図39に示したステップS602の処理に対応する。すなわち、第2生成部445は、判定部によって対象者であると判定された動作情報に時系列順に含まれる骨格情報及びカラー画像情報のうち少なくとも一つに基づいて、対象者の医用画像情報を生成する。
その後、出力制御部446は、出力制御を行う(ステップS705)。例えば、出力制御部446は、骨格情報と、医用画像情報とを時系列順に含む閲覧用動作情報を出力する。
なお、図47に示した処理手順は、必ずしも上記の例に限定されるものではない。例えば、上記の例では、動作情報処理装置400が動作情報を取得した後に、対象者特定処理と、対象者判定処理と、医用画像情報生成処理とを一連の処理として連続的に実行する場合を説明したが、実施形態はこれに限定されるものではない。すなわち、対象者特定処理、対象者判定処理、及び医用画像情報生成処理の各処理は、各処理が行われた段階で出力制御部446が必要な情報を適宜記憶部430に格納することで、各処理を終了しても良いし、各処理を行う段階で取得部441が必要な情報を適宜記憶部430から取得することで、各処理を開始しても良い。
また、例えば、対象者特定処理、対象者判定処理、及び医用画像情報生成処理の各処理は、必ずしも上記の順序で実行されなくても良い。すなわち、医用画像情報生成処理、対象者判定処理、対象者特定処理の順序で実行されても良い。
また、例えば、対象者特定処理、対象者判定処理、及び医用画像情報生成処理の各処理は、必ずしも実行されなくても良い。具体的には、動作情報処理装置400は、対象者特定処理を実行した後に、対象者判定処理又は医用画像情報生成処理を実行し、処理後の情報を適宜出力しても良い。また、動作情報処理装置400は、対象者判定処理及び医用画像情報生成処理を順に実行した後に、処理後の情報を適宜出力しても良い。
上述してきたように、第13の実施形態に係る動作情報処理装置400は、対象者特定処理、対象者判定処理、及び医用画像情報生成処理の各処理を一連の処理として実行する。このため、第13の実施形態に係る動作情報処理装置400は、リハビリ対象者の動作情報を確実に判定して、更に、そのリハビリ対象者の個人情報を隠蔽することができる。
(その他の実施形態)
さて、これまで第1〜第13の実施形態について説明したが、上述した実施形態以外にも、種々の異なる形態にて実施されて良いものである。
(サービス提供装置への適用)
上述した第1〜第13の実施形態では、動作情報処理装置が、リハビリを実行する対象者の動作情報(骨格情報)を特定する場合について説明した。しかしながら、実施形態はこれに限定されるものではなく、例えば、各処理がネットワーク上のサービス提供装置によって実行される場合であってもよい。
図48は、サービス提供装置に適用される場合の一例を説明するための図である。図48に示すように、サービス提供装置500は、サービスセンタ内に配置され、例えば、ネットワーク5を介して、医療機関や、自宅、職場に配置される端末装置600とそれぞれ接続される。医療機関、自宅及び職場に配置された端末装置600は、動作情報収集部10がそれぞれ接続される。そして、各端末装置600は、サービス提供装置500によって提供されるサービスを利用するクライアント機能を備える。
例えば、サービス提供装置500は、図4において説明した動作情報処理装置100と同様の処理をサービスとして端末装置600に提供する。すなわち、サービス提供装置500は、取得部141と、特定部142と同様の機能部を有する。そして、取得部141と同様の機能部は、所定の動作を実施する対象者及び当該対象者の周囲の画像情報を取得する。そして、特定部142と同様の機能部は、取得部141と同様の機能部によって取得された画像情報における所定の特徴に基づいて、前記所定の動作を実施する対象者の動作情報を特定する。なお、ネットワーク5には、有線又は無線を問わず、インターネット(Internet)、WAN(Wide Area Network)などの任意の種類の通信網を採用できる。
また、例えば、サービス提供装置500は、図19において説明した動作情報処理装置200と同様の機能を有し、当該機能によって端末装置600にサービスとして提供する。すなわち、サービス提供装置500は、取得部241と、判定部243と同様の機能部を有する。そして、取得部241と同様の機能部は、人物の動作を表す動作情報を取得する。そして、判定部243と同様の機能部は、リハビリテーションの対象となる対象者の特徴を表す情報を用いて、取得部241と同様の機能部によって取得された動作情報に対応する人物が対象者であるか否かを判定する。このようなことから、サービス提供装置500は、デジタル的に記録された人物の動きが、リハビリテーションの対象となる対象者のものであるか否かを判定することができる。
また、例えば、サービス提供装置500は、図36において説明した動作情報処理装置300と同様の機能を有し、当該機能によって端末装置600にサービスとして提供する。すなわち、サービス提供装置500は、取得部341と、生成部342と、出力制御部343とそれぞれ同様の機能部を有する。そして、取得部341と同様の機能部は、被検体の骨格に含まれる各関節の位置を表す骨格情報と、その被検体が撮影された撮影画像情報とを時系列順に含む動作情報を取得する。そして、生成部342と同様の機能部は、骨格情報及び撮影画像情報のうち少なくとも一つに基づいて、被検体の個人情報を含まずに被検体の動作を確認可能な医用画像情報を生成する。
例えば、サービス提供装置500は、端末装置600から処理の対象となる動作情報のフレーム群のアップロードを受け付ける。そして、サービス提供装置500は、上記の処理を行って閲覧用動作情報を生成する。そして、サービス提供装置500は、閲覧用動作情報を端末装置600にダウンロードさせる。そして、端末装置600は、ダウンロードした閲覧用動作情報を医用画像保管装置20に格納する。
また、例えば、サービス提供装置500は、図46において説明した動作情報処理装置400と同様の機能を有し、当該機能によって端末装置600にサービスとして提供する。すなわち、サービス提供装置500は、取得部441と、特定部442と、第1生成部443と、判定部444と、第2生成部445と、出力制御部446とそれぞれ同様の機能部を有する。そして、取得部441と同様の機能部は、所定の動作を実施する対象者及び当該対象者の周囲の画像情報を取得する。そして、特定部442と同様の機能部は、取得部441と同様の機能部によって取得された画像情報における所定の特徴に基づいて、前記所定の動作を実施する対象者の動作情報を特定する。そして、判定部444と同様の機能部は、リハビリテーションの対象となる対象者の特徴を表す情報を用いて、特定部442と同様の機能部によって特定された動作情報に対応する人物が対象者であるか否かを判定する。そして、第2生成部445と同様の機能部は、骨格情報及び撮影画像情報のうち少なくとも一つに基づいて、被検体の個人情報を含まずに被検体の動作を確認可能な医用画像情報を生成する。そして、出力制御部446と同様の機能部は、骨格情報と、医用画像情報とを時系列順に含む閲覧用動作情報を出力する。
また、上述した第1〜第6の実施形態における動作情報処理装置100の構成はあくまでも一例であり、各部の統合及び分離は適宜行うことができる。例えば、動作情報記憶部131と認識情報記憶部132とを統合したり、特定部142を、関節間の距離などを算出する算出部と算出された値を閾値と比較する比較部とに分離したりすることが可能である。
また、上述した第7〜第10の実施形態における動作情報処理装置200の構成はあくまでも一例であり、各部の統合及び分離は適宜行うことができる。例えば、対象者動作特徴記憶部232と介助者動作特徴記憶部233とを統合したり、判定部243を記憶部230から判定処理を行うための条件を抽出する処理部と、動作情報を用いて判定する処理部とに分離したりすることが可能である。
また、第11〜第12の実施形態における動作情報処理装置300の構成はあくまでも一例であり、各部の統合及び分離は適宜行うことができる。例えば、取得部341及び生成部342を統合することが可能である。
また、第7〜第10の実施形態において説明した取得部241及び判定部243の機能は、ソフトウェアによって実現することもできる。例えば、取得部241及び判定部243の機能は、上記の実施形態において取得部241及び判定部243が行うものとして説明した処理の手順を規定した医用情報処理プログラムをコンピュータに実行させることで、実現される。この医用情報処理プログラムは、例えば、ハードディスクや半導体メモリ素子等に記憶され、CPUやMPU等のプロセッサによって読み出されて実行される。また、この医用情報処理プログラムは、CD−ROM(Compact Disc − Read Only Memory)やMO(Magnetic Optical disk)、DVD(Digital Versatile Disc)などのコンピュータ読取り可能な記録媒体に記録されて、配布され得る。
また、第11〜第12の実施形態において説明した取得部341及び生成部342の機能は、ソフトウェアによって実現することもできる。例えば、取得部341及び生成部342の機能は、上記の実施形態において取得部341及び生成部342が行うものとして説明した処理の手順を規定した医用情報処理プログラムをコンピュータに実行させることで、実現される。この医用情報処理プログラムは、例えば、ハードディスクや半導体メモリ素子等に記憶され、CPUやMPU等のプロセッサによって読み出されて実行される。また、この医用情報処理プログラムは、CD−ROM(Compact Disc − Read Only Memory)やMO(Magnetic Optical disk)、DVD(Digital Versatile Disc)などのコンピュータで読取り可能な記録媒体に記録されて、配布され得る。
なお、上述した第1の実施形態〜第9の実施形態で示したリハビリのルール情報や、推奨介助状態などは、日本整形外科学会などで規定されたものだけでなく、その他種々の団体によって規定されたものを用いる場合であってもよい。例えば、「International Society of Orthopaedic Surgery and Traumatology(SICOT):国際整形外科学会」、「American Academy of Orthopaedic Surgeons(AAOS):米国整形外科学会」、「European Orthopaedic Research Society(EORS):欧州整形外科学研究会」、「International Society of Physical and Rehabilitation Medicine (ISPRM) :国際リハビリテーション医学会」、「American Academy of Physical Medicine and Rehabilitation(AAPM&R):米国物理療法リハビリテーション学会」などによって規定された各種規則やルールを用いる場合であってもよい。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。