JP6769859B2 - 画像処理装置及び画像処理方法 - Google Patents
画像処理装置及び画像処理方法 Download PDFInfo
- Publication number
- JP6769859B2 JP6769859B2 JP2016245750A JP2016245750A JP6769859B2 JP 6769859 B2 JP6769859 B2 JP 6769859B2 JP 2016245750 A JP2016245750 A JP 2016245750A JP 2016245750 A JP2016245750 A JP 2016245750A JP 6769859 B2 JP6769859 B2 JP 6769859B2
- Authority
- JP
- Japan
- Prior art keywords
- information
- image processing
- distance image
- subject
- conversion function
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/0007—Image acquisition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
- G06T7/0014—Biomedical image inspection using an image reference approach
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/97—Determining parameters from multiple pictures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
Description
部位情報における第2座標系との間の座標変換を行う関数である変換関数を求める変換関数生成部と、前記変換関数に基づき、前記第1部位情報と前記第2部位情報とを同じ座標系で表した情報である合成部位情報を生成する合成部位情報生成部と、を備える。
図1に第1実施形態として示す画像処理システム1の概略的な構成を示している。同図に示すように、画像処理システム1は、第1距離画像取得装置11、第2距離画像取得装置12、及び画像処理装置100を含む。尚、以下の説明において、第1距離画像取得装置11や第2距離画像取得装置12のことを「距離画像取得装置」と適宜総称する。
情報)、距離信号等)を含むデータである距離画像(depth画像、range image data)を
取得する。距離画像は、例えば、画素(ピクセル(pixel))情報(階調や色調に関する
情報等)と各画素について取得される距離情報とを含む。距離画像取得装置の例として、タイムオブフライト(TOF: Time Of Flight)カメラ、ステレオカメラ、レーザレーダ(LIDAR: Laser Imaging Detection and Ranging)、ミリ波レーダ、赤外線深度センサ、超
音波センサ等がある。
2距離画像と称する。)を取得するように、その設置位置、撮影方向、撮影範囲等が設定されている。第2距離画像取得装置12によって取得される第2距離画像は、人2の一部についての細かい情報を含む。第2距離画像取得装置12は人2に近接した位置に設けられ、例えば、人2が身に付けている物(ヘルメット等)等に設けられる。
)、光学式記憶装置(CD(Compact Disc)、DVD(Digital Versatile Disc)等)、ストレージシステム、ICカード、SDメモリカードや光学式記録媒体等の記録媒体の読取/書込装置等である。補助記憶装置53に格納されているプログラムやデータは主記憶装置52に随時ロードされる。補助記憶装置53は、例えば、ネットワークストレージのように画像処理装置100とは独立した構成としてもよい。
00は、これらの機能以外に、例えば、オペレーティングシステム、デバイスドライバ、DBMS(DataBase Management System)等を備えていてもよい。
y2d,z2d)について、関節部位301は関節部位401と、関節部位302は関節部位402と、関節部位303は関節部位403と、関節部位304は関節部位404と、夫々対応すると判定した場合、変換関数生成部103は、
(x1a,y1a,z1a)=F(x2a,y2a,z2a)
(x1b,y1b,z1b)=F(x2b,y2b,z2b)
(x1c,y1c,z1c)=F(x2c,y2c,z2c)
(x1d,y1d,z1d)=F(x2d,y2d,z2d)
を満たす関数F(x,y,z)を変換関数として求める。
図4の関節部位403及び関節部位404(第2部位情報)とを接続(ジョイント)する
ことにより、同図に示す合成部位情報を生成する。
画角の広いもの等)を用いる必要がなく、画像処理システム1を低コストで実現することができる。また個々の距離画像取得装置に高い解像度が要求されないことで画像処理システム1が取り扱う情報量が抑えられ、処理負荷の低減や処理の高速化を図ることができる。
図7に第2実施形態として示す画像処理システム1の構成を示している。第2実施形態の画像処理システム1は、第1実施形態の画像処理システム1と同様の構成を備えるとともに、画像処理装置100が出力する合成部位情報に基づき人2の動作の特定や人2の動作が正常か否かを判定する判定装置200を更に備える。判定装置200は、例えば、図2に示した情報処理装置50と同様のハードウェアを用いて構成される。尚、判定装置200を画像処理装置100の一部として構成してもよい。第2実施形態の画像処理システム1の他の構成については第1実施形態の画像処理システム1と同様である。
成部位情報から取得される特徴量を正常モデルと比較することにより、人2が行っている作業が正常か否かを判定し、判定結果を処理結果として出力する。尚、人2が行っている作業が正常でないと判定したとき、判定装置200が本人や周辺に存在する人等に警告を出力(警告表示、音声警報等)するようにしてもよい。
図8に第3実施形態として示す画像処理システム1の構成を示している。第3実施形態の画像処理システム1は、第2実施形態の画像処理システム1の構成を基本としている。第3実施形態の画像処理システム1の第1距離画像取得装置11は、床面から所定の高さで立設された固定器具3の上端付近に固定されている。第3実施形態の画像処理装置100は、第2実施形態の画像処理装置100の構成に加えて、更に設置状態情報記憶部105を備える。また第3実施形態の画像処理装置100の変換関数生成部103には、人2に取り付けられた3次元センサ19から送られてくる計測値(又は計測信号)が入力される。3次元センサ19は、例えば、傾斜センサ、加速度センサ、ジャイロセンサ、方位センサのうちの少なくともいずれかを含み、第2距離画像取得装置12の撮影方向を示す情報(以下、第2設置状態情報と称する。)を取得して上記計測値を画像処理装置100に送信する。3次元センサ19は、第2距離画像取得装置12の状態を計測可能なように、例えば、人2が直接装備(例えば、ヘルメットに装着)した状態で設置されている。尚、第3実施形態の画像処理システム1のその他の構成については第2実施形態の画像処理システム1と同様である。
と3次元センサ701から入力される情報とを比較することで、第1距離画像取得装置11の撮影方向と第2距離画像取得装置12の撮影方向との差を求め、求めた値(差)を用いて変換関数を算出する。
図9に第4実施形態として示す画像処理システム1の構成を示している。第4実施形態の画像処理システム1においては、画像処理装置100が、第1受信部13、第2受信部14、第1マーカ位置情報取得部106、第2マーカ位置情報取得部107、変換関数生成部103、合成距離画像生成部108、及び部位情報生成部109を備える。このうち第1受信部13及び第2受信部14の構成は第2実施形態と同様である。また第4実施形態の画像処理システム1の判定装置200の構成も第2実施形態と同様である。また第3実施形態と同様、第1距離画像取得装置11は床面から所定の高さで立設された固定器具3の上端付近に固定されている。第4実施形態として示す画像処理システム1は、人2の周囲の所定位置に固定設置された一つ以上のマーカ7を含む。
が変化しないマーカ7の位置を基準として変換関数を求めるため、人2の動きが大きくても精度よく変換関数を求めることができる。尚、例えば、設置するマーカ7の数を増やし、例えば、各マーカ7に基づき求めた変換関数のパラメータの平均を採用するようにすれば変換関数の精度を更に向上することができる。
Cカード、SDカード、DVD等の記録媒体に置くことができる。
Claims (11)
- 被写体の第1範囲を撮影した第1距離画像から、前記被写体の部位に関する情報である第1部位情報を取得する第1部位情報取得部と、
前記被写体の前記第1範囲よりも狭い第2範囲を撮影した第2距離画像から、前記被写体の部位に関する情報である第2部位情報を取得する第2部位情報取得部と、
前記第1部位情報及び前記第2部位情報に基づき、前記第1部位情報における第1座標系と前記第2部位情報における第2座標系との間の座標変換を行う関数である変換関数を求める変換関数生成部と、
前記変換関数に基づき、前記第1部位情報と前記第2部位情報とを同じ座標系で表した情報である合成部位情報を生成する合成部位情報生成部と、
を備え、
前記変換関数生成部は、前記第1距離画像を取得する距離画像取得装置の設置状態を示す第1設置状態情報、及び前記第2距離画像を取得する距離画像取得装置の設置状態を示す第2設置状態情報を取得し、前記第1設置状態情報及び前記第2設置状態情報に基づき、前記変換関数を求める、
画像処理装置。 - 請求項1に記載の画像処理装置であって、
前記被写体は人であり、前記第1範囲は前記人の全身を含む範囲であり、前記第2範囲は前記人の一部を含む範囲である、
画像処理装置。 - 請求項1又は2に記載の画像処理装置であって、
前記変換関数生成部は、前記第1部位情報に含まれている部位と前記第2部位情報に含まれている部位との対応を特定し、特定した部位を基準として前記変換関数を求める、
画像処理装置。 - 請求項1又は2に記載の画像処理装置であって、
前記変換関数生成部は、前記被写体に設けられている3次元センサから前記第2設置状態情報を取得する、
画像処理装置。 - 請求項1に記載の画像処理装置であって、
前記第1設置状態情報及び前記第2設置状態情報のうちの少なくとも何れかを記憶する設置状態情報記憶部、
を更に備える、画像処理装置。 - 請求項1又は2に記載の画像処理装置であって、
前記被写体が行う動作を時系列の部位情報として表した動作モデルを記憶する動作モデル記憶部と、
前記合成部位情報を前記動作モデルと比較することにより、前記被写体の動作を特定する動作分析部と、
を更に備える画像処理装置。 - 請求項1又は2に記載の画像処理装置であって、
前記被写体が行う正常な動作を時系列の部位情報として表した動作モデルである正常モデルを記憶する動作モデル記憶部と、
前記合成部位情報を前記正常モデルと比較することにより、前記被写体の動作が正常か否かを判定する動作分析部と、
を更に備える画像処理装置。 - 請求項1又は2に記載の画像処理装置であって、
第1距離画像取得装置から送られてくる前記第1距離画像を受信する第1受信部と、
第2距離画像取得装置から送られてくる前記第2距離画像を受信する第2受信部と、
を更に備える画像処理装置。 - 情報処理装置が、
被写体の第1範囲を撮影した第1距離画像から、前記被写体の部位に関する情報である第1部位情報を取得するステップ、
前記被写体の前記第1範囲よりも狭い第2範囲を撮影した第2距離画像から、前記被写体の部位に関する情報である第2部位情報を取得するステップ、
前記第1部位情報及び前記第2部位情報に基づき、前記第1部位情報における第1座標系と前記第2部位情報における第2座標系との間の座標変換を行う関数である変換関数を求めるステップ、
前記変換関数に基づき、前記第1部位情報と前記第2部位情報とを同じ座標系で表した情報である合成部位情報を生成するステップ、及び、
前記第1距離画像を取得する距離画像取得装置の設置状態を示す第1設置状態情報、及び前記第2距離画像を取得する距離画像取得装置の設置状態を示す第2設置状態情報を取得し、前記第1設置状態情報及び前記第2設置状態情報に基づき、前記変換関数を求めるステップ、
を実行する、画像処理方法。 - 請求項9に記載の画像処理方法であって、
前記被写体は人であり、前記第1範囲は前記人の全身を含む範囲であり、前記第2範囲は前記人の一部を含む範囲である、
画像処理方法。 - 請求項9又は10に記載の画像処理方法であって、
前記情報処理装置が、前記第1部位情報に含まれている部位と前記第2部位情報に含まれている部位との対応を特定し、特定した部位を基準として前記変換関数を求めるステップ、
を更に含む、画像処理方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016245750A JP6769859B2 (ja) | 2016-12-19 | 2016-12-19 | 画像処理装置及び画像処理方法 |
CN201711146459.2A CN108205656A (zh) | 2016-12-19 | 2017-11-17 | 图像处理装置及图像处理方法 |
US15/843,530 US20180174307A1 (en) | 2016-12-19 | 2017-12-15 | Image processing apparatus and image processing method |
EP17208596.1A EP3336799B1 (en) | 2016-12-19 | 2017-12-19 | Image processing apparatus and image processing method combining views of the same subject taken at different ranges |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016245750A JP6769859B2 (ja) | 2016-12-19 | 2016-12-19 | 画像処理装置及び画像処理方法 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2018101207A JP2018101207A (ja) | 2018-06-28 |
JP2018101207A5 JP2018101207A5 (ja) | 2019-05-30 |
JP6769859B2 true JP6769859B2 (ja) | 2020-10-14 |
Family
ID=60923280
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016245750A Active JP6769859B2 (ja) | 2016-12-19 | 2016-12-19 | 画像処理装置及び画像処理方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20180174307A1 (ja) |
EP (1) | EP3336799B1 (ja) |
JP (1) | JP6769859B2 (ja) |
CN (1) | CN108205656A (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI715903B (zh) * | 2018-12-24 | 2021-01-11 | 財團法人工業技術研究院 | 動作追蹤系統及方法 |
CN110290352A (zh) * | 2019-06-28 | 2019-09-27 | Oppo广东移动通信有限公司 | 监控方法及装置、电子设备以及存储介质 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005311868A (ja) * | 2004-04-23 | 2005-11-04 | Auto Network Gijutsu Kenkyusho:Kk | 車両周辺視認装置 |
JP4434890B2 (ja) * | 2004-09-06 | 2010-03-17 | キヤノン株式会社 | 画像合成方法及び装置 |
JP4748199B2 (ja) * | 2008-09-30 | 2011-08-17 | ソニー株式会社 | 静脈撮像装置および静脈撮像方法 |
JP5412692B2 (ja) * | 2011-10-04 | 2014-02-12 | 株式会社モルフォ | 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体 |
CN104285441B (zh) * | 2012-05-22 | 2018-01-05 | 三菱电机株式会社 | 图像处理装置 |
JP5877135B2 (ja) | 2012-07-20 | 2016-03-02 | 株式会社日立製作所 | 画像認識装置及びエレベータ装置 |
JP2014130519A (ja) | 2012-12-28 | 2014-07-10 | Toshiba Corp | 医用情報処理システム、医用情報処理装置及び医用画像診断装置 |
WO2014154839A1 (en) * | 2013-03-27 | 2014-10-02 | Mindmaze S.A. | High-definition 3d camera device |
KR20160096473A (ko) * | 2015-02-05 | 2016-08-16 | 한국전자통신연구원 | 동작 평가 시스템 및 방법 |
CN104794446B (zh) * | 2015-04-22 | 2017-12-12 | 中南民族大学 | 基于合成描述子的人体动作识别方法及系统 |
-
2016
- 2016-12-19 JP JP2016245750A patent/JP6769859B2/ja active Active
-
2017
- 2017-11-17 CN CN201711146459.2A patent/CN108205656A/zh active Pending
- 2017-12-15 US US15/843,530 patent/US20180174307A1/en not_active Abandoned
- 2017-12-19 EP EP17208596.1A patent/EP3336799B1/en active Active
Also Published As
Publication number | Publication date |
---|---|
EP3336799B1 (en) | 2020-02-12 |
EP3336799A3 (en) | 2018-10-31 |
EP3336799A2 (en) | 2018-06-20 |
CN108205656A (zh) | 2018-06-26 |
US20180174307A1 (en) | 2018-06-21 |
JP2018101207A (ja) | 2018-06-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5380789B2 (ja) | 情報処理装置、および情報処理方法、並びにコンピュータ・プログラム | |
US10762386B2 (en) | Method of determining a similarity transformation between first and second coordinates of 3D features | |
EP2531980B1 (en) | Depth camera compatibility | |
JP6723061B2 (ja) | 情報処理装置、情報処理装置の制御方法およびプログラム | |
US11107270B2 (en) | Medical scene model | |
JP5251987B2 (ja) | 人判定装置、方法およびプログラム | |
JP2012008867A (ja) | 点群データ処理装置、点群データ処理システム、点群データ処理方法、および点群データ処理プログラム | |
US20080316203A1 (en) | Information processing method and apparatus for specifying point in three-dimensional space | |
CN105284108A (zh) | 影像监视系统、监视装置 | |
JP2019114103A (ja) | 物体認識処理装置、物体認識処理方法及びプログラム | |
JP6728865B2 (ja) | 手上げ検出装置及び手上げ検出プログラム | |
JP2010204805A (ja) | 周辺監視装置および該方法 | |
US20120114174A1 (en) | Voxel map generator and method thereof | |
JP7379065B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
JP6769859B2 (ja) | 画像処理装置及び画像処理方法 | |
JP7266599B2 (ja) | 患者の身体運動を検知するためのデバイス、システム及び方法 | |
US20210327160A1 (en) | Authoring device, authoring method, and storage medium storing authoring program | |
JP6288770B2 (ja) | 顔検出方法、顔検出システム、および顔検出プログラム | |
US20200388078A1 (en) | Apparatus for positioning processing between image in real world and image in virtual world, information processing method, and storage medium | |
JP3862402B2 (ja) | 3次元モデル生成装置および3次元モデル生成プログラムを記録したコンピュータ読取可能な記録媒体 | |
US20210402616A1 (en) | Information processing apparatus, information processing method, mobile robot, and non-transitory computer-readable storage medium | |
JP6606340B2 (ja) | 画像検出装置、画像検出方法およびプログラム | |
JP7040627B2 (ja) | 算出装置、情報処理方法およびプログラム | |
KR101316387B1 (ko) | 비전 센싱과 거리측정 센싱을 이용한 오브젝트 인식 방법 | |
Girão et al. | Real-time multi-view grid map-based spatial representation for mixed reality applications |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190415 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190415 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200529 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200616 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200811 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200908 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200924 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6769859 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |