JP5648647B2 - 画像処理装置、画像処理方法及びプログラム - Google Patents

画像処理装置、画像処理方法及びプログラム Download PDF

Info

Publication number
JP5648647B2
JP5648647B2 JP2012064533A JP2012064533A JP5648647B2 JP 5648647 B2 JP5648647 B2 JP 5648647B2 JP 2012064533 A JP2012064533 A JP 2012064533A JP 2012064533 A JP2012064533 A JP 2012064533A JP 5648647 B2 JP5648647 B2 JP 5648647B2
Authority
JP
Japan
Prior art keywords
subject
motion
image group
image
comparison
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012064533A
Other languages
English (en)
Other versions
JP2013196518A (ja
Inventor
石毛 善樹
善樹 石毛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2012064533A priority Critical patent/JP5648647B2/ja
Priority to US13/846,857 priority patent/US9466110B2/en
Priority to KR1020130030242A priority patent/KR20130107254A/ko
Priority to CN201310091740.6A priority patent/CN103327235B/zh
Publication of JP2013196518A publication Critical patent/JP2013196518A/ja
Priority to KR1020140150098A priority patent/KR101642854B1/ko
Application granted granted Critical
Publication of JP5648647B2 publication Critical patent/JP5648647B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/38Registration of image sequences
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/251Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/23Recognition of whole body movements, e.g. for sport training
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30221Sports video; Sports image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30241Trajectory

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Social Psychology (AREA)
  • Psychiatry (AREA)
  • Health & Medical Sciences (AREA)
  • Image Analysis (AREA)
  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Description

本発明は、画像中の動作を比較する画像処理装置、画像処理方法及びプログラムに関する。
従来、ゴルフスイング等の動作を撮像し、お手本とする動作の動画と比較することが行われている。
例えば、特許文献1に記載の画像記録再生装置では、比較する2つの動画において、各動画の特定の再生ポイントを指定し、指定された再生ポイントを揃えて、2つの動画を再生することとしている。
特開平10−304299号公報
しかしながら、特許文献1に記載された技術を含め、従来の技術においては、一方の動画の動作と、お手本とする他の動画の動作との相違をユーザが目視によって検出するものであるため、動作の相違点を明確に把握することが困難であった。
本発明は、このような状況に鑑みてなされたものであり、画像中において被写体の動作の相違をより容易に把握可能とすることを目的とする。
上記目的を達成するため、本発明の一態様の画像処理装置は、
被写体の動作が撮像された第1の画像群及び当該被写体の動作との比較対象の被写体の動作が撮像された第2の画像群を取得する画像取得手段と、前記画像取得手段によって取得された第1の画像群及び第2の画像群における被写体の動作の基準となる軸をそれぞれ設定する軸設定手段と、前記軸設定手段によってそれぞれ設定された軸に基づいて、前記第1の画像群における被写体の動作と前記第2の画像群における被写体の動作とを比較する動作比較手段と、前記動作比較手段の比較結果に基づいて、前記第1の画像群における被写体の動作と前記第2の画像群における被写体の動作との相違を表示するための制御を行う表示制御手段と、を備えることを特徴とする。
本発明によれば、複数の画像中において被写体の動作の相違をより容易に把握することが可能となる。
本発明の一実施形態に係る画像処理装置のハードウェアの構成を示すブロック図である。 図1の画像処理装置1の機能的構成のうち、動作比較処理を実行するための機能的構成を示す機能ブロック図である。 フレームの画像の一例において動作基準軸を設定して動作を検出する具体例を示す図である。 フレームの画像の他の例において動作基準軸を設定して動作を検出する具体例を示す図である。 ゴルフクラブの動作基準軸を設定する具体例を示す図である。 図2の機能構成を有する図1の画像処理装置1が実行する動作比較処理の流れの一例を示すフローチャートである。 動作の比較結果の表示例を示す図である。 図2の機能構成を有する図1の画像処理装置1が実行する軸生成処理の流れの一例を示すフローチャートである。 変形例における動作の比較結果例を示す図である。 図2の機能構成を有する図1の画像処理装置1が実行する動作速度補正表示処理の流れを示すフローチャートである。 動作速度補正表示処理によって、動作情報を対応付けて動画像のデータを表示する状態を示す模式図である。 図2の機能構成を有する図1の画像処理装置1が実行する比較結果表示処理の流れを示すフローチャートである。
以下、本発明の実施形態について、図面を用いて説明する。
(第1実施形態)
(構成)
図1は、本発明の一実施形態に係る画像処理装置のハードウェアの構成を示すブロック図である。
画像処理装置1は、例えばデジタルカメラとして構成される。
画像処理装置1は、CPU(Central Processing Unit)11と、ROM(Read Only Memory)12と、RAM(Random Access Memory)13と、バス14と、入出力インターフェース15と、撮像部16と、入力部17と、出力部18と、記憶部19と、通信部20と、ドライブ21と、を備えている。
CPU11は、ROM12に記録されているプログラム、または、動作比較処理のためのプログラム等、記憶部19からRAM13にロードされたプログラムに従って各種の処理を実行する。
RAM13には、CPU11が各種の処理を実行する上において必要なデータ等も適宜記憶される。
CPU11、ROM12及びRAM13は、バス14を介して相互に接続されている。このバス14にはまた、入出力インターフェース15も接続されている。入出力インターフェース15には、撮像部16、入力部17、出力部18、記憶部19、通信部20及びドライブ21が接続されている。
撮像部16は、図示はしないが、光学レンズ部と、イメージセンサと、を備えている。
光学レンズ部は、被写体を撮影するために、光を集光するレンズ、例えばフォーカスレンズやズームレンズ等で構成される。
フォーカスレンズは、イメージセンサの受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
光学レンズ部にはまた、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
イメージセンサは、光電変換素子や、AFE(Analog Front End)等から構成される。
光電変換素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子等から構成される。光電変換素子には、光学レンズ部から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。
AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。各種信号処理によって、ディジタル信号が生成され、撮像部16の出力信号として出力される。
このような撮像部16の出力信号を、以下、「撮像画像のデータ」と呼ぶ。撮像画像のデータは、CPU11やRAM13等に適宜供給される。
入力部17は、各種釦等で構成され、ユーザの指示操作に応じて各種情報を入力する。
出力部18は、ディスプレイやスピーカ等で構成され、画像や音声を出力する。
記憶部19は、ハードディスクあるいはDRAM(Dynamic Random Access Memory)等で構成され、各種画像のデータを記憶する。
通信部20は、インターネットを含むネットワークを介して他の装置(図示せず)との間で行う通信を制御する。
ドライブ21には、磁気ディスク、光ディスク、光磁気ディスク、あるいは半導体メモリ等よりなる、リムーバブルメディア31が適宜装着される。ドライブ21によってリムーバブルメディア31から読み出されたプログラムは、必要に応じて記憶部19にインストールされる。また、リムーバブルメディア31は、記憶部19に記憶されている画像のデータ等の各種データも、記憶部19と同様に記憶することができる。
図2は、このような画像処理装置1の機能的構成のうち、動作比較処理を実行するための機能的構成を示す機能ブロック図である。
動作比較処理とは、撮像された被写体の動作と、比較対象とする動作とを比較し、その相違を表示するための一連の処理をいう。
本実施形態においては、画像処理装置1によって撮像されたプレーヤーのゴルフスイングと、予め取得されているプロゴルファーのゴルフスイングとを比較する例について説明する。ただし、画像処理装置1によって撮像したプレーヤーの現在のゴルフスイングと過去のゴルフスイングとを比較する等、種々の動作を比較することも可能である。
動作比較処理が実行される場合には、図2に示すように、CPU11において、撮像制御部41と、画像取得部42と、動作検出部43と、動作比較部44と、比較結果表示制御部45とが機能する。
ただし、図2は例示であり、CPU11の機能の少なくとも一部を、GA(Graphics Accelerator)等の画像処理を行うハードウェアを備えて、これに委譲しても良い。
動作比較処理が実行される場合、記憶部19の一領域として設けられた取得画像記憶部51と、比較情報記憶部52と、が用いられる。
取得画像記憶部51においては、撮像部16から出力され、画像取得部42により取得された撮像画像のデータが記憶されている。
比較情報記憶部52においては、動作比較部44から出力された比較用動画データ(後述)が記憶されている。なお、本実施形態においては、比較対象となるプロゴルファーの動画像のデータについても、動作検出部43によって、後述する動作基準軸が設定され、動作基準軸のデータが付された状態で比較情報記憶部52に記憶されているものとする。
撮像制御部41は、各種撮像条件を設定し、撮像部16における撮像の動作を制御する。
本実施形態においては、被写体の一連の動作を撮像するため、撮像制御部41は、撮像部16に連続的に被写体を単一画像として撮像させ、動画像のデータとして出力させる。
画像取得部42は、撮像部16から出力された動画像のデータを取得する。その後、画像取得部42は、動画像のデータを取得画像記憶部51に記憶させる。
動作検出部43は、入力部17を介して入力される動作比較処理の開始指示に応じて、取得画像記憶部51に記憶された動画像のデータを参照し、動画像のデータを構成する各フレームの画像において、被写体の動作を検出する。具体的には、動作検出部43は、動画像のデータを構成する各フレームの画像において、エッジ検出フィルタを適用することによって輪郭抽出を行い、抽出した輪郭線におけるノイズ(不要な輪郭線)の除去処理を行う。即ち、動作検出部43は、被写体の輪郭線を抽出する輪郭線抽出機能を有している。また、動作検出部43は、ノイズの除去処理が施された画像において、身体を表す閉領域を特定する。本実施形態においては、身体の輪郭及び関節位置を定義したモデル(以下、「身体モデル」と呼ぶ。)を予め記憶しておき、この身体モデルの輪郭を参照することで、身体を表す閉領域を検出する。さらに、動作検出部43は、身体を表す閉領域の長尺方向の端点及び屈曲点の抽出を行う。そして、動作検出部43は、抽出した端点及び屈曲点を基に、身体モデルの関節位置を参照して、動作時における身体の軸となる各動作基準軸の設定を行う。即ち、動作検出部43は、動作基準軸を設定する軸設定機能を有している。動作検出部43は、この動作基準軸を複数フレーム間で追跡することにより、プレーヤーの動作を検出する。
輪郭線における端点及び屈曲点は、比較的容易に検出できることから、これらを用いることで、動作基準軸の設定を容易に行うことができる。
なお、アドレス時における正面からの動画像を対象として、プレーヤーの動作を検出する場合、スイングをリードする腕(右利きのプレーヤーであれば左腕)は、スイングの主要な行程において隠れることなく動作が表れるため、本実施形態では、スイングをリードする腕の上腕部を最も注視する動作基準軸として特定する。以下、この左腕上腕部に設定される動作基準軸を、適宜「主動作基準軸」と呼び、他の動作基準軸を適宜「補助動作基準軸」と呼ぶ。
動作検出部43は、動画像のデータを構成する各フレームの画像について、設定した各動作基準軸を示すデータを、各フレームの画像と対応付けて、動作比較部44に出力する。
動作比較部44は、動作検出部43によって設定された動作基準軸を参照し、2つの異なる動画像のデータにおける被写体の動作を比較する。具体的には、動作比較部44は、プレーヤーの動画像と比較対象となるプロゴルファーの動画像とにおける一連の動作のうち、各フレームにおける主動作基準軸の角度を比較し、互いの動画像で対応する動作を特定する。例えば、動作比較部44は、フレームの上向きを0度として、左回りに回転角度を設定し、主動作基準軸の回転角度によって、スイングにおける所定の動作を特定する。そして、動作比較部44は、プレーヤーの動画像のデータと比較対象となるプロゴルファーの動画像のデータとにおいて、主動作基準軸の動きを照合しながら、一連の動きの中で主動作基準軸の回転角度がほぼ同一となるフレームの画像を、対応する動作の画像として特定する。
さらに、動作比較部44は、プレーヤーの動画像と比較対象となるプロゴルファーの動画像とにおいて、対応する動作の画像を比較し、その画像に設定されている動作基準軸の位置及び回転角度から、被写体の動作の相違を検出する。具体的には、プロゴルファーの動画像における各フレームの動作基準軸の位置及び回転角度と、プレーヤーの動画像における動作基準軸の位置及び回転角度の相違を算出し、プレーヤーの動画像のデータに、その相違を示すデータ(以下、適宜「比較結果データ」と呼ぶ。)を付加する。比較結果データとして、例えば、注目する動作基準軸の移動方向及び回転角度が、比較対象の動画において対応する動作基準軸の移動方向及び回転角度とどの程度相違するかを表すベクトル及び角度が付加される。
そして、動作比較部44は、比較結果データを付したプレーヤーの動画像のデータ(以下、適宜「比較用動画データ」と呼ぶ。)を生成し、比較用動画データを比較情報記憶部52に記憶する。
これにより、比較用動画データは、プロゴルファーの動画との相違を示す比較結果データを含む動画像データとなる。
比較結果表示制御部45は、動作比較部44による動作の比較が終了すると、比較情報記憶部52から比較用動画データを読み出してデコードし、プレーヤーの動画に動作基準軸を重畳表示して比較用動画データを表示する。
(動作検出方法)
次に、動作検出部43における動作検出方法について、具体的に説明する。
図3は、フレームの画像の一例において動作基準軸を設定して動作を検出する具体例を示す図である。なお、図3に示すフレームの画像の例は、アドレス時やインパクト時等、ゴルフクラブがティペッグ付近に位置する場合の被写体の状態を示している。
動作検出部43は、図3(a)に示すフレームの画像に対し、初めに、エッジ検出フィルタを用いてエッジ検出処理を施す。これにより、図3(b)に示すように、被写体の輪郭線を含め、フレーム全体における画像の輪郭線が検出される。
次に、動作検出部43は、図3(b)に示すエッジ検出後のフレームの画像に対し、浮遊している輪郭線及びフレーム中央部から外れる輪郭線をノイズとして除去し、閉領域となっている部分を被写体(プレーヤー)の輪郭線として特定する。これにより、図3(c)に示すように、フレーム中央部に写されている被写体(プレーヤー)の輪郭線が抽出される。なお、被写体となるプレーヤーの輪郭線は、典型的な形状をモデル化することができるため、予め身体の輪郭線のモデルを用意しておくこともできる。予め用意した身体の輪郭線のモデルと照合することにより、被写体の輪郭線をより高精度に特定することが可能となる。
次に、動作検出部43は、図3(c)に示すフレームの画像に対し、被写体の輪郭線を表す閉領域の長尺方向の端点及び屈曲点を抽出し、身体モデルの関節位置を参照して、身体各部の動作基準軸を設定する。即ち、動作検出部43は、被写体の輪郭線を表す閉領域において、長尺方向の端点から内部側へ輪郭線をトレースし、輪郭線が屈曲している部分を屈曲点として抽出する。プレーヤーの身体の輪郭線の場合、屈曲点は、フレームの左右方向に対となって現れる(例えば、片足首の内側と外側、膝の外側と内側、腰の左右部分等)。そのため、動作検出部43は、長尺方向の端点を起点として、これら対となっている屈曲点の中央部を身体モデルの関節位置として連結することにより、各動作基準軸を設定する。なお、動作基準軸は、端点や関節を連結する軸の他、動作の目安となる身体の部分に設定される。例えば、腰の回転を示すために、腰の左右の屈曲点を連結する動作基準軸が設定され、上半身の傾きを示すために、腰の左右の屈曲点を連結する動作基準軸の中央と首とを連結する動作基準軸が設定される。
具体的には、動作検出部43は、図3(c)に示すフレームの画像に対し、被写体のつま先に位置する端点から足首に位置する屈曲点の中間点まで、足首に位置する屈曲点の中間点から膝に位置する屈曲点の中間点まで、腰の左部分から右部分まで、膝に位置する屈曲点の中間点から腰の左右部分を連結する軸との交点まで、頭頂部に位置する端点から首に位置する屈曲点の中間点までにそれぞれ動作基準軸を設定する。これにより、図3(d)に示すように、頭部及び下半身の動作基準軸が設定される。
次に、動作検出部43は、被写体の手先(ゴルフクラブを保持する屈曲点)から手首に位置する屈曲点の中間点まで、手首に位置する屈曲点の中間点から肘に位置する屈曲点の中間点まで、肘に位置する屈曲点の中間点から肩に位置する屈曲点の中間点までにそれぞれ動作基準軸を設定する。これにより、図3(e)に示すように、肩から腕先までの動作基準軸が設定される。
次に、動作検出部43は、被写体の左肩から右肩(左右の肩部分の屈曲点を基に定義される左右肩関節の位置)まで、腰の左部分から右部分(左右の腰部分の屈曲点を基に定義される腰の基準位置)までにそれぞれ動作基準軸を設定する。これにより、図3(f)に示すように、上半身の水平方向の動作基準軸が設定される。
さらに、動作検出部43は、被写体の首に位置する屈曲点の中間点から腰の左右部分を連結する軸の中間点までに動作基準軸を設定する。これにより、図3(g)に示すように、上半身の回転軸を表す動作基準軸が設定される。
また、図4は、フレームの画像の他の例において動作基準軸を設定して動作を検出する具体例を示す図である。なお、図4に示すフレームの画像の例は、バックスイング後におけるトップ手前の時等、ゴルフクラブがプレーヤーの頭部よりも高い位置にある場合の被写体の状態を示している。
図4に示す場合においても、動作検出部43は、図3に示す場合と同様に、被写体の輪郭線を表す閉領域の長尺方向の端点及び屈曲点を抽出し、身体モデルの関節位置を参照して、身体各部の動作基準軸を設定する。なお、図4に示す状態では、右腕が隠れた状態となり、輪郭線を特定することができないため、動作検出部43は、右腕に関連する動作基準軸を設定しない。一方、右腕が再び表出し、輪郭線の特定が可能となった段階で、動作検出部43は、再度、動作基準軸を設定する。
ここで、プレーヤーが保持しているゴルフクラブについては、直線的な棒状部材であることから、プレーヤーの身体と容易に区別することができ、ゴルフクラブには固有の動作基準軸が設定される。
ただし、ゴルフクラブがユーザの背後に隠れる場合があるため、この場合、動作検出部43は、直線的な棒状部材をゴルフクラブと認識する。
図5は、ゴルフクラブの動作基準軸を設定する具体例を示す図である。なお、図5に示すフレームの画像の例は、バックスイング後、トップの状態となった時等、ゴルフクラブがプレーヤーの頭部の背後に隠れた状態を示している。
図5に示す場合には、プレーヤーの頭部の左右に分断されたゴルフクラブの輪郭線が現れることとなるが、動作検出部43は、分断された左右のゴルフクラブを連結し、この部分をゴルフクラブの輪郭線として動作基準軸を設定する。
(動作)
次に、動作を説明する。
(動作比較処理)
初めに、画像処理装置1が実行する動作比較処理(メインフロー)について説明する。
図6は、図2の機能構成を有する図1の画像処理装置1が実行する動作比較処理の流れの一例を示すフローチャートである。
動作比較処理は、入力部17を介して、ユーザによって動作比較処理の実行が指示入力されることに対応して開始される。
図6において、動作比較処理が開始されると、動作検出部43は、ステップS1において、取得画像記憶部51から動画像のデータを取得してデコードし、デコード後のフレームのデータをRAM13のバッファ領域に記憶する。
ステップS2において、動作検出部43は、後述する軸生成処理を実行することにより、デコードしたフレームの画像において、被写体の動作を検出する。
ステップS3において、動作比較部44は、動作検出部43によって設定された動作基準軸を参照し、プレーヤーの動画像と、比較対象となる動画像のデータにおける被写体の動作とを比較し、比較結果データを付した比較用動画データを生成する。なお、この比較用動画データは、比較情報記憶部52に記憶される。
ステップS4において、比較結果表示制御部45は、比較情報記憶部52に記憶された比較用動画データを読み出し、プレーヤーの動画像を、比較対象となる動画像のデータにおける動作基準軸との相違を識別しながら表示する。このとき、比較結果表示制御部45は、プレーヤーの動画像の各動作基準軸において、比較対象となる動画像における動作基準軸と相違する部分を異なる色で識別表示する。
図7は、動作の比較結果の表示例を示す図である。なお、図7(a)は比較対象となるプロゴルファーの動画像における1フレーム、図7(b)はプレーヤーの動画像における1フレームを示している。
図7に示す例では、プレーヤーの右太股の動きが、比較対象となるプロゴルファーの右太股の動きに対して開いた状態(外方への変移が大きい状態)となっている。そのため、図7においては、プレーヤーの動画像における右太股に設定された動作基準軸が注意を喚起する特別な色(例えば赤色)で表示され、他の動作基準軸の色(例えば緑色)と識別して表示されている。これにより、プレーヤーの動作とプロゴルファーの動作とで相違する部分を明確に識別して表示することができる。
ステップS5において、比較結果表示制御部45は、比較用動画データが最終フレームとなっているか否かの判定を行う。
比較用動画データが最終フレームとなっていない場合、ステップS5においてNOと判定されて、処理はステップS1に移行する。
これに対し、比較用動画データが最終フレームとなっている場合、ステップS5においてYESと判定されて、動作比較処理は終了となる。
(軸生成処理)
次に、動作比較処理のステップS2で実行される軸生成処理について説明する。
図8は、図2の機能構成を有する図1の画像処理装置1が実行する軸生成処理の流れの一例を示すフローチャートである。
軸生成処理が開始されると、動作検出部43は、ステップS11において、RAM13のバッファ領域に記憶されているデコード後のフレームのデータを1フレーム分読み出す。
ステップS12において、動作検出部43は、フレームの画像に対して、エッジ検出フィルタを適用する。このとき、エッジ検出フィルタによって抽出された輪郭線のうち、背景の輪郭線等のノイズは除去される。
ステップS13において、動作検出部43は、エッジ検出フィルタによって抽出された輪郭線において、身体モデルを参照して、身体を表す閉領域を検出し、長尺方向の端点及び屈曲点を基に、動作基準軸を設定する。
ステップS14において、動作検出部43は、動作基準軸のうち腰の左部分と右部分とを連結する軸、及び、左肩と右肩とを連結する軸(水平方向の軸)を設定する。
このようなステップS14の処理の後、処理は動作比較処理のステップS3に戻る。
以上のように、本実施形態に係る画像処理装置1では、画像取得部42が、被写体の動作が撮像されたプレーヤーの画像群及びプレーヤーの動作との比較対象のプロゴルファーの動作が撮像されたプロゴルファーの画像群を取得する。軸設定機能を有する動作検出部43は、プレーヤーの動画像及びプロゴルファーの動画像における動作基準軸を設定する。そして、動作比較部44が、動作基準軸に基づいて、プレーヤーの動画像と、比較対象となるプロゴルファーの動画像とを比較する。さらに、比較結果表示制御部45が、動作比較部44の比較結果に基づいて、プレーヤーの動画像とプロゴルファーの動画像との相違を表示するための制御を行う。
そのため、動作基準軸の動きの相違によって、プレーヤーの動画像とプロゴルファーの動画像との比較を適確に行うことができ、動きの相違を明確に検出することができる。
したがって、比較対象とする動画像とプレーヤーの動画像との相違をより認識し易い形態で表示できるため、比較する動作の相違をより容易に把握することが可能となる。
また、軸設定機能を有する動作検出部43は、プレーヤー及びプロゴルファーの少なくとも1つの部分に動作基準軸をそれぞれ設定し、動作比較部44は、動作検出部43により設定された動作基準軸に基づいて、プレーヤー及びプロゴルファーの動作の相違を比較する。
したがって、異なる被写体の動作を動作基準軸の動きの相違によって、明確に検出することが可能となる。
また、動作検出部43は、輪郭線抽出機能により被写体の輪郭線を抽出し、軸設定機能により抽出された輪郭線の端点及び屈曲点に基づいて、動作基準軸を設定する。
したがって、被写体の画像から、適確な動作基準軸を設定して、被写体の動きを比較することが可能となる。
また、比較結果表示制御部45は、プレーヤーとプロゴルファーとの動きが相違する場合に、それぞれ設定された動作基準軸の少なくも一方を識別して表示する。
したがって、プレーヤーとプロゴルファーとの動作の相違をより容易に把握することが可能となる。
また、比較結果表示制御部45は、プレーヤーの動画に動作基準軸を重畳して表示する。
したがって、プレーヤーの動きをより容易に把握することが可能となる。
なお、本実施形態において、動作検出部43は、身体モデルを参照して、被写体の身体を表す輪郭線を抽出し、各関節位置を設定することとしたが、身体モデルを参照することなく、検出された輪郭線を分析して、被写体の身体を表す輪郭線及び各関節位置を設定することも可能である。この場合、身体を表す輪郭線の閉領域の端点を起点として動作基準軸を設定し、輪郭線を基に、より確実に設定可能な動作基準軸のみを設定することとしても良い。また、関節位置は、輪郭線における屈曲点の中間点や輪郭線と動作基準軸の交点等、定義し易い位置に設定することとしても良い。
(変形例)
第1実施形態において、プレーヤーの動画像と比較対象となる動画像との動作基準軸の相違を異なる色で識別表示する場合を例に挙げて説明した。
これに対し、色に加えて、または、色に代えて、プレーヤーの動画像と比較対象となる動画像との動作基準軸の動きの相違の向き及び大きさを矢印等の指標を重畳して表示することも可能である。
図9は、本変形例における動作の比較結果例を示す図である。
図9において、プロゴルファーの動きに対して、プレーヤーの動きでは、右脚が内側に動き、腕がバックスイング方向に動いていることが矢印で示されている。この矢印は、比較対象となるプロゴルファーの動きとプレーヤーの動きとの相違の大きさに応じた大きさで表示される。
図9に示すように、比較結果表示制御部45が、動作基準軸に対応付けられた比較結果データを矢印(動きの相違の向き及び大きさを表す指標)として示すことで、プロゴルファーの動きに対して、プレーヤーの動きがどの方向に相違しているかをより容易に把握可能な表示形態とできる。
(第2実施形態)
次に、本発明の第2実施形態について説明する。
第1実施形態では、比較用動画データを再生することにより、プレーヤーの動画における身体の動作基準軸の動きを比較対象となるプロゴルファーの動きと比較して識別表示する場合について説明した。
これに対し、本実施形態では、比較用動画データと、比較対象となるプロゴルファーの動画像のデータとを並べて再生し、プレーヤーの動作とプロゴルファーの動作とにスイング速度の差があっても、これらの動作の情報を対応させた状態で動画像のデータを表示する。
この場合においても、動画像のデータにおける各フレームのデータにエッジ検出フィルタを適用し、動作基準軸を設定して比較用動画データを生成する点は、第1実施形態と同様である。
即ち、本実施形態に係る画像処理装置1のハードウェア構成及び機能的構成については、第1実施形態における図1及び図2と同様であるため、これらを参照することとし、以下、異なる部分である動作の速度差を補正して表示する処理の流れについて説明する。
図10は、図2の機能構成を有する図1の画像処理装置1が実行する動作速度補正表示処理の流れを示すフローチャートである。また、図11は、動作速度補正表示処理によって、動作の情報を対応付けて動画像のデータを表示する状態を示す模式図である。なお、図11におけるフレーム内に示した角度は、主動作基準軸の回転角度を表している。
動作速度補正表示処理は、入力部17を介して、ユーザによって動作速度補正表示処理の実行が指示入力されることに対応して開始される。
図10において、動作速度補正表示処理が開始されると、ステップS101において、比較結果表示制御部45は、比較情報記憶部52から比較用動画データ及び比較対象となるプロゴルファーの動画像のデータを読み出し、先頭フレームをデコードする。
ステップS102において、比較結果表示制御部45は、デコードした各フレームにおける主動作基準軸の回転角度を検出する。
ステップS103において、比較結果表示制御部45は、比較用動画データ及び比較対象となるプロゴルファーの動画像のデータのデコードされたフレームにおいて、主動作基準軸の回転角度が異なっているか否かの判定を行う。
比較用動画データ及び比較対象となるプロゴルファーの動画像のデータのデコードされたフレームにおいて、主動作基準軸の回転角度が異なっていない場合、ステップS103においてNOと判定されて、処理はステップS105に移行する。図11の先頭フレームでは、各フレームの回転角度が一致していることから、ステップS103においてNOと判定される。
これに対し、比較用動画データ及び比較対象となるプロゴルファーの動画像のデータのデコードされたフレームにおいて、主動作基準軸の回転角度が異なっている場合、ステップS103においてYESと判定されて、処理はステップS104に移行する。
ステップS104において、比較結果表示制御部45は、バックスイングが遅れている方の動画像のデータ(即ち、主動作基準軸の回転角度が大きい方の動画像のデータ)のフレームを順次取得し、他方の動画像のデータにおける主動作基準軸の回転角度と同一となるフレームまでデコードする。
ステップS105において、比較結果表示制御部45は、比較用動画データ及び比較対象となるプロゴルファーの動画像のデータの現フレームを表示する。
ステップS106において、比較結果表示制御部45は、比較用動画データ及び比較対象となるプロゴルファーの動画像のデータそれぞれにおける次のフレームをデコードする。
ステップS107において、比較結果表示制御部45は、デコードした各フレームにおける主動作基準軸の回転角度を検出する。
ステップS108において、比較結果表示制御部45は、比較用動画データ及び比較対象となるプロゴルファーの動画像のデータのデコードされたフレームにおいて、主動作基準軸の回転角度が異なっているか否かの判定を行う。
比較用動画データ及び比較対象となるプロゴルファーの動画像のデータのデコードされたフレームにおいて、主動作基準軸の回転角度が異なっていない場合、ステップS108においてNOと判定されて、処理はステップS112に移行する。図11に示す例では、フレーム番号6のフレームにおいて各フレームにおける主動作基準軸の回転角度が異なっているため、ステップS108においてNOと判定される。
これに対し、比較用動画データ及び比較対象となるプロゴルファーの動画像のデータのデコードされたフレームにおいて、主動作基準軸の回転角度が異なっている場合、ステップS108においてYESと判定されて、処理はステップS109に移行する。
ステップS109において、比較結果表示制御部45は、プレーヤーの動画像のデータの方が、比較対象となるプロゴルファーの動画像のデータよりも、主動作基準軸の回転角速度が大きい(即ち、前フレームの主動作基準軸の回転角度と現フレームの主動作基準軸の回転角度との差が大きい)か否かの判定を行う。
プレーヤーの動画像のデータの方が、比較対象となるプロゴルファーの動画像のデータよりも、主動作基準軸の回転角速度が大きい場合、ステップS109においてYESと判定されて、処理はステップS110に移行する。
これに対し、プレーヤーの動画像のデータの方が、比較対象となるプロゴルファーの動画像のデータよりも、主動作基準軸の回転角速度が大きくない場合、ステップS109においてNOと判定されて、処理はステップS111に移行する。図11に示す例では、プロゴルファーの動画像のデータの方が主動作基準軸の回転角速度が大きいため、ステップS109においてNOと判定される。
ステップS110において、比較結果表示制御部45は、比較対象となるプロゴルファーの動画像のデータの次のフレームをデコードする。
ステップS111において、比較結果表示制御部45は、プレーヤーの動画像のデータの次のフレームをデコードする。
これらステップS110及びS111の処理により、図11に示すように、スイング速度が遅い方の動画像のデータにおけるフレームが間引かれることとなる。
ステップS112において、比較結果表示制御部45は、デコードした各フレームにおける主動作基準軸の回転角度を検出する。
このようなステップS112の後、処理はステップS108に移行する。
ステップS113において、比較結果表示制御部45は、比較用動画データ及び比較対象となるプロゴルファーの動画像のデータの現フレームを表示する。
ステップS114において、比較結果表示制御部45は、比較用動画データ及び比較対象となるプロゴルファーの動画像のデータのいずれかにおいて、最終フレームとなっているか否かの判定を行う。
比較用動画データ及び比較対象となるプロゴルファーの動画像のデータのいずれかにおいて、最終フレームとなっていない場合、ステップS114においてNOと判定されて、処理はステップS106に移行する。
比較用動画データ及び比較対象となるプロゴルファーの動画像のデータのいずれかにおいて、最終フレームとなっている場合、ステップS114においてYESと判定されて、動作速度補正表示処理は終了となる。
以上のように、本実施形態に係る画像処理装置1では、比較結果表示制御部45が、比較用動画データ及び比較対象となるプロゴルファーの動画像のデータを並べて再生し、被写体のスイング速度に差がある場合、スイング速度が遅い方の動画像のデータにおけるフレームを間引いて速度差を補正している。
そのため、比較用動画データ及び比較対象となるプロゴルファーの動画像のデータにおいて、再生される被写体の動作の情報が対応した状態となる。
したがって、比較対象とする動画像とプレーヤーの動画像との相違をより認識し易い形態で表示できるため、比較する動作の相違をより容易に把握することが可能となる。
なお、本実施形態において比較用動画データ及びプロゴルファーの動画像のデータを表示する場合、第1実施形態で示したように、各フレームに設定されている動作基準軸を被写体に重畳して表示することとしても良い。
(第3実施形態)
次に、本発明の第3実施形態について説明する。
第2実施形態では、比較用動画データと、比較対象となるプロゴルファーの動画像のデータとを並べて再生し、プレーヤーの動作とプロゴルファーの動作とにスイング速度の差があっても、動作の遅い方の動画像のデータについては、フレームを間引くこととした。
これに対し、本実施形態では、プレーヤーの動作とプロゴルファーの動作とにスイング速度の差がある場合に、動作の遅い方の動画像のデータを通常通り再生し、動作の早い方の動画像のデータにおいて、同一フレームを繰り返し表示してフレームを補間することで、プレーヤーの動作とプロゴルファーの動作を対応させた状態で動画像のデータを表示する。
この場合においても、動画像のデータにおける各フレームのデータにエッジ検出フィルタを適用し、動作基準軸を設定して比較用動画データを生成する点は、第1実施形態と同様である。
即ち、本実施形態に係る画像処理装置1のハードウェア構成及び機能的構成については、第1実施形態における図1及び図2と同様であるため、これらを参照することとし、以下、異なる部分である動作の比較結果を識別表示する処理の流れについて説明する。
図12は、図2の機能構成を有する図1の画像処理装置1が実行する比較結果表示処理の流れを示すフローチャートである。
比較結果表示処理は、入力部17を介して、ユーザによって比較結果表示処理の実行が指示入力されることに対応して開始される。
図12において、比較結果表示処理が開始されると、ステップS201において、比較結果表示制御部45は、比較情報記憶部52から比較用動画データ及び比較対象となるプロゴルファーの動画像のデータを取得してデコードし、デコード後のフレームのデータをRAM13のバッファ領域に記憶する。
ステップS202において、比較結果表示制御部45は、比較結果表示制御部45は、比較用動画データ及び比較対象となるプロゴルファーの動画像のデータのデコードされたフレームにおいて、主動作基準軸の回転角度が異なっているか否かの判定を行う。
比較用動画データ及び比較対象となるプロゴルファーの動画像のデータのデコードされたフレームにおいて、主動作基準軸の回転角度が異なっていない場合、ステップS202においてNOと判定されて、処理はステップS204に移行する。
これに対し、比較用動画データ及び比較対象となるプロゴルファーの動画像のデータのデコードされたフレームにおいて、主動作基準軸の回転角度が異なっている場合、ステップS202においてYESと判定されて、処理はステップS203に移行する。
ステップS203において、比較結果表示制御部45は、動作が遅い方の動画像のデータの次のフレームをデコードし、デコード後のフレームのデータをRAM13のバッファ領域に記憶する。
このようなステップS203の後、処理はステップS201に移行する。
ステップS204において、比較結果表示制御部45は、動作速度の差を検出するポイントのフレーム番号となっているか否かの判定を行う。動作速度の差を検出するポイントのフレーム番号は、比較対象となるプロゴルファーの動画像のデータにおいて、一定のフレーム数ごとに予め設定されている。
動作速度の差を検出するポイントのフレーム番号となっていない場合、ステップS204においてNOと判定されて、処理はステップS201に移行する。
これに対し、動作速度の差を検出するポイントのフレーム番号となっている場合、ステップS204においてYESと判定されて、処理はステップS205に移行する。
ステップS205において、比較結果表示制御部45は、比較用動画データ及び比較対象となるプロゴルファーの動画像のデータにおいて、デコード済みのフレーム数に差があるか否かの判定を行う。
比較用動画データ及び比較対象となるプロゴルファーの動画像のデータにおいて、デコード済みのフレーム数に差がない場合、ステップS205においてNOと判定されて、処理はステップS206に移行する。
これに対し、比較用動画データ及び比較対象となるプロゴルファーの動画像のデータにおいて、デコード済みのフレーム数に差がある場合、ステップS205においてYESと判定されて、処理はステップS207に移行する。
ステップS206において、比較結果表示制御部45は、RAM13のバッファ領域に記憶されているフレームのデータを取得し、識別表示を行うことなく動画像を表示する。
ステップS207において、比較結果表示制御部45は、RAM13のバッファ領域に記憶されているフレームのデータを取得し、比較用動画データ及び比較対象となるプロゴルファーの動画像のデータにスイング速度の差があることを識別表示して、動画像を表示する。このとき、比較結果表示制御部45は、スイング速度が早い方の動画像のデータについては、同一のフレームの画像を複数回表示しながら、スイング速度が遅い方の動画像のデータのフレームと動作が対応するフレームの画像を表示する。
これにより、スイング速度が早い方の動画像のデータは、同一フレームが繰り返し表示されることでフレームが補間され、その間にスイング速度が遅い方の動画像のデータが追いつくように表示される。そして、この状態となった場合、フレームを囲う枠を表示させる等、スイング速度に差があることが識別して表示される。そのため、スイング速度に差があるフレーム画像中の動作をより認識し易い形態で表示できる。
このようなステップS207の後、処理はステップS201に移行する。
以上のように、本実施形態に係る画像処理装置1では、比較結果表示制御部45が、比較用動画データ及び比較対象となるプロゴルファーの動画像のデータを並べて再生し、被写体のスイング速度に差がある場合に、動作の遅い方の動画像のデータを通常通り再生し、動作の早い方の動画像のデータにおいて、同一フレームを繰り返し表示(補間して表示)する。そして、同一フレームが繰り返し表示される状態となった場合、フレームを囲う枠を表示させる等、スイング速度に差があることが識別して表示される。
そのため、プレーヤーの動作とプロゴルファーの動作の情報を対応させた状態で動画像のデータが表示されると共に、スイング速度に差があるフレーム画像中の動作が、より認識し易い形態で表示される。
したがって、比較対象とする動画像とプレーヤーの動画像との相違をより認識し易い形態で表示できるため、複数の画像中において被写体の動作の相違をより容易に把握することが可能となる。
なお、本実施形態において比較用動画データ及びプロゴルファーの動画像のデータを表示する場合、第1実施形態で示したように、各フレームに設定されている動作基準軸を被写体に重畳して表示することとしても良い。
なお、本発明は、上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。
上述の実施形態では、ゴルフスイングが写された動画像のデータを対象として、本発明を適用する場合を例に挙げて説明したが、本発明は、種々の動作の比較に適用することができる。例えば、野球のバットのスイング、テニスのラケットのスイングあるいはダンスの振り付け等の動作を比較する場合に適用することが可能である。
また、上述の実施形態では、本発明が適用される画像処理装置1は、デジタルカメラを例として説明したが、特にこれに限定されない。
例えば、本発明は、画像処理機能を有する電子機器一般に適用することができる。具体的には、例えば、本発明は、ノート型のパーソナルコンピュータ、プリンタ、テレビジョン受像機、ビデオカメラ、携帯型ナビゲーション装置、携帯電話機、ポータブルゲーム機等に適用可能である。
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。
換言すると、図2の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が画像処理装置1に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図2の例に限定されない。
また、1つの機能ブロックは、ハードウェア単体で構成しても良いし、ソフトウェア単体で構成しても良いし、それらの組み合わせで構成しても良い。
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、コンピュータ等にネットワークや記録媒体からインストールされる。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであっても良い。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであっても良い。
このようなプログラムを含む記録媒体は、ユーザにプログラムを提供するために装置本体とは別に配布される図1のリムーバブルメディア31により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される記録媒体等で構成される。リムーバブルメディア31は、例えば、磁気ディスク(フロッピディスクを含む)、光ディスク、または光磁気ディスク等により構成される。光ディスクは、例えば、CD−ROM(Compact Disk−Read Only Memory),DVD(Digital Versatile Disk)等により構成される。光磁気ディスクは、MD(Mini−Disk)等により構成される。また、装置本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されている図1のROM12や、図1の記憶部19に含まれるハードディスク等で構成される。
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
以上、本発明のいくつかの実施形態について説明したが、これらの実施形態は、例示に過ぎず、本発明の技術的範囲を限定するものではない。本発明はその他の様々な実施形態を取ることが可能であり、さらに、本発明の要旨を逸脱しない範囲で、省略や置換等種々の変更を行うことができる。これら実施形態やその変形は、本明細書等に記載された発明の範囲や要旨に含まれると共に、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
以下に、本願の出願当初の特許請求の範囲に記載された発明を付記する。
[付記1]
被写体の動作が撮像された第1の画像群及び当該被写体の動作との比較対象の被写体の動作が撮像された第2の画像群を取得する画像取得手段と、
前記画像取得手段によって取得された第1の画像群及び第2の画像群における被写体の動作の基準となる軸をそれぞれ設定する軸設定手段と、
前記軸設定手段によってそれぞれ設定された軸に基づいて、前記第1の画像群における被写体の動作と前記第2の画像群における被写体の動作とを比較する動作比較手段と、
前記動作比較手段の比較結果に基づいて、前記第1の画像群における被写体の動作と前記第2の画像群における被写体の動作との相違を表示するための制御を行う表示制御手段と、
を備えることを特徴とする画像処理装置。
[付記2]
前記軸設定手段は、前記第1の画像群における被写体及び第2の画像群における被写体の少なくとも1つの部分に前記軸をそれぞれ設定し、
前記動作比較手段は、前記軸設定手段により設定された軸に基づいて、前記第1の画像群における被写体及び前記第2の画像群における被写体の動作の相違を比較することを特徴とする付記1に記載の画像処理装置。
[付記3]
前記被写体の輪郭線を抽出する輪郭線抽出手段をさらに備え、
前記軸設定手段は、前記輪郭線抽出手段により抽出された輪郭線の端点及び屈曲点に基づいて、前記軸を設定することを特徴とする付記1または2に記載の画像処理装置。
[付記4]
前記表示制御手段は、
前記第1の画像群における被写体と、前記第2の画像群における被写体との動きが相違する場合に、それぞれ設定された前記軸の少なくも一方を識別して表示することを特徴とする付記1から3のいずれか1つに記載の画像処理装置。
[付記5]
前記表示制御手段は、
前記第1の画像群における被写体と、前記第2の画像群における被写体との動きが相違する場合に、前記それぞれ設定された軸の少なくも一方に動きの相違の向き及び大きさを表す指標を表示することを特徴とする付記1から3のいずれか1つに記載の画像処理装置。
[付記6]
前記表示制御手段は、
前記第1の画像群における被写体の動作の速度と前記第2の画像群における被写体の動作の速度とが相違する場合に、前記第1の画像群と前記第2の画像群のうち被写体の動作の速度が遅い方の画像群を間引くことにより、前記速度の相違を補正して前記第1の画像群及び前記第2の画像群を表示することを特徴とする付記1から5のいずれか1つに記載の画像処理装置。
[付記7]
前記表示制御手段は、
前記第1の画像群における被写体の動作の速度と前記第2の画像群における被写体の動作の速度とが相違する場合に、前記第1の画像群と前記第2の画像群のうち被写体の動作の速度が早い方の画像を補間することにより、前記速度の相違を補正して前記第1の画像群及び前記第2の画像群を表示することを特徴とする付記1から5のいずれか1つに記載の画像処理装置。
[付記8]
前記表示制御手段は、前記被写体の画像に前記軸を重畳して表示することを特徴とする付記1から7のいずれか1つに記載の画像処理装置。
[付記9]
画像処置装置における画像処理方法であって、
被写体の動作が撮像された第1の画像群及び当該被写体の動作との比較対象の被写体の動作が撮像された第2の画像群を取得する画像取得ステップと、
前記画像取得ステップによって取得された第1の画像群及び第2の画像群における被写体の動作の基準となる軸をそれぞれ設定する軸設定ステップと、
前記軸設定ステップによってそれぞれ設定された軸に基づいて、前記第1の画像群における被写体の動作と前記第2の画像群における被写体の動作とを比較する動作比較ステップと、
前記動作比較ステップの比較結果に基づいて、前記第1の画像群における被写体の動作と前記第2の画像群における被写体の動作との相違を表示するための制御を行う表示制御ステップと、
を含むことを特徴とする画像処理方法。
[付記10]
コンピュータを、
被写体の動作が撮像された第1の画像群及び当該被写体の動作との比較対象の被写体の動作が撮像された第2の画像群を取得する画像取得手段、
前記画像取得手段によって取得された第1の画像群及び第2の画像群における被写体の動作の基準となる軸をそれぞれ設定する軸設定手段、
前記軸設定手段によってそれぞれ設定された軸に基づいて、前記第1の画像群における被写体の動作と前記第2の画像群における被写体の動作とを比較する動作比較手段、
前記動作比較手段の比較結果に基づいて、前記第1の画像群における被写体の動作と前記第2の画像群における被写体の動作との相違を表示するための制御を行う表示制御手段、
として機能させることを特徴とするプログラム。
1・・・画像処理装置,11・・・CPU,12・・・ROM,13・・・RAM,14・・・バス,15・・・入出力インターフェース,16・・・撮像部,17・・・入力部,18・・・出力部,19・・・記憶部,20・・・通信部,21・・・ドライブ,31・・・リムーバブルメディア,41・・・撮像制御部,42・・・画像取得部,43・・・動作検出部,44・・・比較結果表示制御部,51・・・取得画像記憶部,52・・・比較情報記憶部

Claims (10)

  1. 被写体の動作が撮像された第1の画像群及び当該被写体の動作との比較対象の被写体の動作が撮像された第2の画像群を取得する画像取得手段と、
    前記画像取得手段によって取得された第1の画像群及び第2の画像群における被写体の動作の基準となる軸をそれぞれ設定する軸設定手段と、
    前記軸設定手段によってそれぞれ設定された軸に基づいて、前記第1の画像群における被写体の動作と前記第2の画像群における被写体の動作とを比較する動作比較手段と、
    前記動作比較手段の比較結果に基づいて、前記第1の画像群における被写体の動作と前記第2の画像群における被写体の動作との相違を表示するための制御を行う表示制御手段と、
    を備えることを特徴とする画像処理装置。
  2. 前記軸設定手段は、前記第1の画像群における被写体及び第2の画像群における被写体の少なくとも1つの部分に前記軸をそれぞれ設定し、
    前記動作比較手段は、前記軸設定手段により設定された軸に基づいて、前記第1の画像群における被写体及び前記第2の画像群における被写体の動作の相違を比較することを特徴とする請求項1に記載の画像処理装置。
  3. 前記被写体の輪郭線を抽出する輪郭線抽出手段をさらに備え、
    前記軸設定手段は、前記輪郭線抽出手段により抽出された輪郭線の端点及び屈曲点に基づいて、前記軸を設定することを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記表示制御手段は、
    前記第1の画像群における被写体と、前記第2の画像群における被写体との動きが相違する場合に、それぞれ設定された前記軸の少なくも一方を識別して表示することを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。
  5. 前記表示制御手段は、
    前記第1の画像群における被写体と、前記第2の画像群における被写体との動きが相違する場合に、前記それぞれ設定された軸の少なくも一方に動きの相違の向き及び大きさを表す指標を表示することを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。
  6. 前記表示制御手段は、
    前記第1の画像群における被写体の動作の速度と前記第2の画像群における被写体の動作の速度とが相違する場合に、前記第1の画像群と前記第2の画像群のうち被写体の動作の速度が遅い方の画像群を間引くことにより、前記速度の相違を補正して前記第1の画像群及び前記第2の画像群を表示することを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。
  7. 前記表示制御手段は、
    前記第1の画像群における被写体の動作の速度と前記第2の画像群における被写体の動作の速度とが相違する場合に、前記第1の画像群と前記第2の画像群のうち被写体の動作の速度が早い方の画像を補間することにより、前記速度の相違を補正して前記第1の画像群及び前記第2の画像群を表示することを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。
  8. 前記表示制御手段は、前記被写体の画像に前記軸を重畳して表示することを特徴とする請求項1から7のいずれか1項に記載の画像処理装置。
  9. 画像処置装置における画像処理方法であって、
    被写体の動作が撮像された第1の画像群及び当該被写体の動作との比較対象の被写体の動作が撮像された第2の画像群を取得する画像取得ステップと、
    前記画像取得ステップによって取得された第1の画像群及び第2の画像群における被写体の動作の基準となる軸をそれぞれ設定する軸設定ステップと、
    前記軸設定ステップによってそれぞれ設定された軸に基づいて、前記第1の画像群における被写体の動作と前記第2の画像群における被写体の動作とを比較する動作比較ステップと、
    前記動作比較ステップの比較結果に基づいて、前記第1の画像群における被写体の動作と前記第2の画像群における被写体の動作との相違を表示するための制御を行う表示制御ステップと、
    を含むことを特徴とする画像処理方法。
  10. コンピュータを、
    被写体の動作が撮像された第1の画像群及び当該被写体の動作との比較対象の被写体の動作が撮像された第2の画像群を取得する画像取得手段、
    前記画像取得手段によって取得された第1の画像群及び第2の画像群における被写体の動作の基準となる軸をそれぞれ設定する軸設定手段、
    前記軸設定手段によってそれぞれ設定された軸に基づいて、前記第1の画像群における被写体の動作と前記第2の画像群における被写体の動作とを比較する動作比較手段、
    前記動作比較手段の比較結果に基づいて、前記第1の画像群における被写体の動作と前記第2の画像群における被写体の動作との相違を表示するための制御を行う表示制御手段、
    として機能させることを特徴とするプログラム。
JP2012064533A 2012-03-21 2012-03-21 画像処理装置、画像処理方法及びプログラム Active JP5648647B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2012064533A JP5648647B2 (ja) 2012-03-21 2012-03-21 画像処理装置、画像処理方法及びプログラム
US13/846,857 US9466110B2 (en) 2012-03-21 2013-03-18 Image processing device that analyzes motion of object
KR1020130030242A KR20130107254A (ko) 2012-03-21 2013-03-21 화상 처리 장치, 화상 처리 방법 및 기록 매체
CN201310091740.6A CN103327235B (zh) 2012-03-21 2013-03-21 图像处理装置以及图像处理方法
KR1020140150098A KR101642854B1 (ko) 2012-03-21 2014-10-31 화상 처리 장치, 화상 처리 방법 및 기록 매체

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012064533A JP5648647B2 (ja) 2012-03-21 2012-03-21 画像処理装置、画像処理方法及びプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2014227697A Division JP6075356B2 (ja) 2014-11-10 2014-11-10 画像処理装置、画像処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2013196518A JP2013196518A (ja) 2013-09-30
JP5648647B2 true JP5648647B2 (ja) 2015-01-07

Family

ID=49195742

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012064533A Active JP5648647B2 (ja) 2012-03-21 2012-03-21 画像処理装置、画像処理方法及びプログラム

Country Status (4)

Country Link
US (1) US9466110B2 (ja)
JP (1) JP5648647B2 (ja)
KR (2) KR20130107254A (ja)
CN (1) CN103327235B (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103500282A (zh) 2013-09-30 2014-01-08 北京智谷睿拓技术服务有限公司 辅助观察方法及辅助观察装置
JP2016063867A (ja) * 2014-09-22 2016-04-28 カシオ計算機株式会社 描画装置、描画方法及びプログラム
US9715622B2 (en) * 2014-12-30 2017-07-25 Cognizant Technology Solutions India Pvt. Ltd. System and method for predicting neurological disorders
US10186041B2 (en) * 2015-04-09 2019-01-22 Electronics And Telecommunications Research Institute Apparatus and method for analyzing golf motion
JP6897215B2 (ja) * 2017-03-24 2021-06-30 カシオ計算機株式会社 画像処理装置、画像処理方法及びプログラム
WO2019023953A1 (zh) * 2017-08-02 2019-02-07 深圳传音通讯有限公司 一种基于智能终端的视频剪辑方法及视频剪辑系统
CN111420383A (zh) * 2019-01-10 2020-07-17 赵丽侠 即时大数据分析机构
KR102501811B1 (ko) * 2020-10-23 2023-02-21 주식회사 모아이스 이미지상에 그래픽 객체를 표시하기 위한 방법, 디바이스 및 비일시성의 컴퓨터 판독 가능한 기록 매체
CN113570616B (zh) * 2021-06-10 2022-05-13 北京医准智能科技有限公司 图像处理方法、装置、电子设备及计算机可读存储介质
CN113923361A (zh) * 2021-10-19 2022-01-11 北京字节跳动网络技术有限公司 数据处理方法、装置、设备,以及计算机可读存储介质

Family Cites Families (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06210034A (ja) * 1993-01-18 1994-08-02 Mitsubishi Denki Eng Kk 画像表示装置
JP3435623B2 (ja) * 1996-05-15 2003-08-11 株式会社日立製作所 交通流監視装置
JPH10145724A (ja) 1996-11-11 1998-05-29 Canon Inc 画像記録再生装置及びその画像記録再生方法
JP3890691B2 (ja) 1997-02-27 2007-03-07 ヤマハ株式会社 画像記録再生装置及び画像記録再生プログラムを記憶した記憶媒体
JPH10341431A (ja) * 1997-06-06 1998-12-22 Yamaha Corp 被写体の動き成分検出処理装置およびその処理プログラムを記憶した媒体
DE19839638C2 (de) * 1998-08-31 2000-06-21 Siemens Ag System zur Ermöglichung einer Selbstkontrolle hinsichtlich durchzuführender Körperbewegungsabläufe durch die sich bewegende Person
US20020064764A1 (en) * 2000-11-29 2002-05-30 Fishman Lewis R. Multimedia analysis system and method of use therefor
JP2003117045A (ja) 2001-10-18 2003-04-22 Takasago Electric Ind Co Ltd スイングフォーム診断装置
KR100430840B1 (ko) 2001-11-19 2004-05-10 쓰리에스휴먼 주식회사 동작비교를 통한 자세교정 운동 장치 및 동작비교 방법,이 동작비교 방법을 저장한 기록매체
JP2004164563A (ja) * 2002-09-26 2004-06-10 Toshiba Corp 画像解析方法、画像解析装置、画像解析プログラム
JP4068485B2 (ja) * 2002-09-30 2008-03-26 株式会社東芝 画像合成方法、画像合成装置、画像合成プログラム
JP4144378B2 (ja) * 2003-02-28 2008-09-03 ソニー株式会社 画像処理装置および方法、記録媒体、並びにプログラム
KR20060026846A (ko) * 2003-07-09 2006-03-24 야마노이요시아키 표준작업속도의 영상을 설정하는 방법 및 평가대상데이터의 영상이 표준작업속도를 기준으로 하는 평가치를구하는 방법
JP2005198818A (ja) 2004-01-15 2005-07-28 Ritsumeikan 身体動作の学習支援システム及び学習支援方法
US7907764B2 (en) * 2004-08-09 2011-03-15 Hirochika Matsuoka Apparatus, program and method for motion analysis in internal body
JP2006181014A (ja) 2004-12-27 2006-07-13 Fuji Photo Film Co Ltd 画像解析装置および動作修正システム
CN1731316A (zh) * 2005-08-19 2006-02-08 北京航空航天大学 虚拟猿戏的人机交互方法
JP2007199864A (ja) * 2006-01-24 2007-08-09 Matsushita Electric Ind Co Ltd 画像列生成方法および画像列生成装置
KR100772497B1 (ko) 2006-10-09 2007-11-01 박찬애 골프 클리닉 시스템 및 그것의 운용방법
JP2008107866A (ja) * 2006-10-23 2008-05-08 Chem Grouting Co Ltd 動作解析方法及び解析システム
JPWO2008099685A1 (ja) * 2007-02-01 2010-05-27 ソニー株式会社 画像再生装置と画像再生方法および撮像装置とその制御方法
US8328691B2 (en) 2007-02-14 2012-12-11 Koninklijke Philips Electronics N.V. Feedback device for guiding and supervising physical excercises
CN101564594B (zh) 2008-04-25 2012-11-07 财团法人工业技术研究院 交互式肢体动作复健方法与系统
KR101480410B1 (ko) * 2008-12-04 2015-01-08 삼성전자주식회사 디지털 영상 처리기에서 스포츠 자세 교정 장치 및 방법
JP2010141632A (ja) * 2008-12-12 2010-06-24 Hitachi Ltd 映像再生装置、映像システム及び映像の再生速度変換方法
JP2011062352A (ja) 2009-09-17 2011-03-31 Koki Hashimoto 運動モーション教示装置および遊戯施設
CN102023700B (zh) * 2009-09-23 2012-06-06 吴健康 一种三维人机交互系统
CN101780321B (zh) * 2009-12-30 2012-01-25 永春至善体育用品有限公司 一种高临场感的运动健身器材虚拟实景的制作方法以及基于该虚拟实景的互动系统和方法
JP5761730B2 (ja) 2010-01-28 2015-08-12 長崎県公立大学法人 身体技能習得支援装置
WO2012014430A1 (ja) * 2010-07-27 2012-02-02 パナソニック株式会社 移動体検出装置および移動体検出方法

Also Published As

Publication number Publication date
US9466110B2 (en) 2016-10-11
CN103327235B (zh) 2017-07-14
KR20130107254A (ko) 2013-10-01
US20130251200A1 (en) 2013-09-26
KR20140145569A (ko) 2014-12-23
CN103327235A (zh) 2013-09-25
JP2013196518A (ja) 2013-09-30
KR101642854B1 (ko) 2016-07-26

Similar Documents

Publication Publication Date Title
JP5648647B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5754439B2 (ja) 情報報知装置、情報報知方法及びプログラム
US10382704B2 (en) Image processing device that generates a composite image
CN104065875B (zh) 显示控制装置、显示控制方法以及记录介质
CN105450911B (zh) 图像处理装置、图像处理方法
CN103916586B (zh) 图像解析装置以及图像解析方法
JP2012212373A (ja) 画像処理装置、画像処理方法及びプログラム
JP6149365B2 (ja) 情報生成装置、情報生成方法及びプログラム
JP5970890B2 (ja) 運動回数計測装置、運動回数計測方法およびプログラム
CN103914700B (zh) 显示控制装置、显示控制方法以及记录介质
JP6075356B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2015061237A (ja) 画像合成装置、画像合成方法及びプログラム
JP6149891B2 (ja) 表示制御装置、表示制御方法及びプログラム
JP6384564B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2014064125A (ja) 画像生成装置、画像生成方法及びプログラム
JP6115656B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP6372176B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP6064404B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2008107866A (ja) 動作解析方法及び解析システム
JP6127410B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5906861B2 (ja) 情報処理装置、情報処理方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140922

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20140926

TRDD Decision of grant or rejection written
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20141009

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141014

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141027

R150 Certificate of patent or registration of utility model

Ref document number: 5648647

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150