JP6929043B2 - 画像処理装置、画像処理方法 - Google Patents
画像処理装置、画像処理方法 Download PDFInfo
- Publication number
- JP6929043B2 JP6929043B2 JP2016219953A JP2016219953A JP6929043B2 JP 6929043 B2 JP6929043 B2 JP 6929043B2 JP 2016219953 A JP2016219953 A JP 2016219953A JP 2016219953 A JP2016219953 A JP 2016219953A JP 6929043 B2 JP6929043 B2 JP 6929043B2
- Authority
- JP
- Japan
- Prior art keywords
- orientation
- image processing
- shape model
- image
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Position Input By Displaying (AREA)
- User Interface Of Digital Computer (AREA)
- Processing Or Creating Images (AREA)
Description
前記部位による把持対象となる対象物の位置姿勢を認識する認識手段と、
前記第1の形状モデルの生成および前記対象物の位置姿勢の認識のそれぞれの結果が有効であるかを判断する判断手段と、
前記第1の形状モデルの生成の結果及び前記対象物の位置姿勢の認識の結果がいずれも有効であると判断された場合に、前記部位が前記対象物を把持しているかを判定する判定手段と、
前記部位の位置姿勢に基づいて前記第1の形状モデルを配置し、前記対象物の位置姿勢に基づいて該対象物の第2の形状モデルを配置した仮想空間の画像を生成する画像生成手段と、
前記モデル生成手段、前記認識手段、前記判断手段、及び前記判定手段による処理を含む一連の処理を繰り返し実行するように制御する制御手段と、
今回の前記一連の処理における前記部位の位置姿勢と、以前の前記一連の処理で前記部位が前記対象物を把持していると判定された場合における前記部位の位置姿勢及び前記対象物の位置姿勢と、に基づいて該今回の一連の処理における前記対象物の位置姿勢を推定する推定手段と
を備え、
前記画像生成手段は、前記今回の一連の処理において、前記第1の形状モデルの生成の結果は有効であるが、前記対象物の位置姿勢の認識の結果が有効でないと判断された場合に、前記推定手段により推定された前記対象物の位置姿勢に基づいて前記第2の形状モデルを配置する
ことを特徴とする。
本実施形態では次のような構成を有する画像処理装置の一例について説明する。この画像処理装置は、ユーザの部位に対する測定結果に基づいて該部位の第1の形状モデルを生成(第1の生成)し、該部位による把持対象となる対象物の位置姿勢を取得し、該対象物の第2の形状モデルを生成(第2の生成)する。そして画像処理装置は、第1の形状モデル、上記取得した位置姿勢を有する第2の形状モデル、を含む仮想空間の画像を生成(第3の生成)する。ここで、上記の第2の生成では、対象物の位置姿勢を取得する処理の結果が所定の条件を満たす場合には、過去に上記部位が対象物を把持したときの上記部位の位置姿勢及び対象物の位置姿勢、に基づいて対象物の位置姿勢を推定する。そして上記の第2の生成では更に、該推定された結果に基づいて第2の形状モデルを生成する。
第1の実施形態では、ハンドモデルの生成に成功するたびに手の位置姿勢を情報保存部122に登録し、ドライバの位置姿勢の認識に成功するたびにドライバの位置姿勢を情報保存部122に登録していた。しかし、情報保存部122に登録した位置姿勢のうち実際に使用されるものは、最近に手がドライバを把持したときの手の位置姿勢及びドライバの位置姿勢である。然るに、ユーザの手がドライバを把持していると判断された場合にのみ、手の位置姿勢及びドライバの位置姿勢を登録するようにしても良い。また、登録する位置姿勢は最新のフレームにおけるもののみとしても良い。
第1の実施形態は、ハンドモデルの生成には成功したものの、ドライバの位置姿勢の認識に失敗したケースに対処するものであった。本実施形態は、ドライバの位置姿勢の認識には成功したものの、ハンドモデルの生成に失敗したケースに対処するものである。本実施形態を含め、以下の各実施形態では、第1の実施形態との差分について重点的に説明し、以下で特に触れない限りは第1の実施形態と同様であるものとする。
第1の実施形態では、ハンドモデルの生成に失敗した場合や、ドライバの位置姿勢の認識に失敗した場合に、現フレームのハンドモデルやその位置姿勢、現フレームの操作CGモデルの位置姿勢、を求めるようにした。しかし、ハンドモデルの生成やドライバの位置姿勢の認識に成功したと判断したとしても、生成したハンドモデルの精度やその位置姿勢の精度、操作CGモデルの位置姿勢の精度を考慮すると、その信頼度が低い場合がある。然るに、単にハンドモデルの生成に成功した/失敗した、ドライバの位置姿勢の認識に成功した/失敗した、に応じて情報保存部122への情報登録を制御するのではなく、その信頼度を考慮して制御するようにしても良い。
図1に示した画像処理装置190に含まれている各機能部の全てをハードウェアで構成しても良いが、情報保存部122をメモリで実装し、それ以外の各機能部をソフトウェア(コンピュータプログラム)で実装するようにしても良い。このような場合、情報保存部122をメモリとして有し、且つ該コンピュータプログラムを実行可能なコンピュータ装置は、上記の画像処理装置190に適用可能である。画像処理装置190に適用可能なコンピュータ装置のハードウェア構成例について、図5のブロック図を用いて説明する。
上記の各実施形態では、HMD151はビデオシースルー方式のものを用いるものとして説明したが、光学シースルー方式のものを採用しても良い。その場合、撮像部141による撮像画像は、マーカの撮像やHMD151の位置姿勢を算出するために使用され、表示用には使用されない。また、画像処理装置190も、仮想空間画像を生成すると、これを表示装置142及びHMD151に対して出力する。また、HMD151の代わりに、スマートフォンやカメラ付タブレット端末装置を使用しても構わない。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (12)
- ユーザの部位の位置姿勢の測定結果に基づいて該部位の第1の形状モデルを生成するモデル生成手段と、
前記部位による把持対象となる対象物の位置姿勢を認識する認識手段と、
前記第1の形状モデルの生成および前記対象物の位置姿勢の認識のそれぞれの結果が有効であるかを判断する判断手段と、
前記第1の形状モデルの生成の結果及び前記対象物の位置姿勢の認識の結果がいずれも有効であると判断された場合に、前記部位が前記対象物を把持しているかを判定する判定手段と、
前記部位の位置姿勢に基づいて前記第1の形状モデルを配置し、前記対象物の位置姿勢に基づいて該対象物の第2の形状モデルを配置した仮想空間の画像を生成する画像生成手段と、
前記モデル生成手段、前記認識手段、前記判断手段、及び前記判定手段による処理を含む一連の処理を繰り返し実行するように制御する制御手段と、
今回の前記一連の処理における前記部位の位置姿勢と、以前の前記一連の処理で前記部位が前記対象物を把持していると判定された場合における前記部位の位置姿勢及び前記対象物の位置姿勢と、に基づいて該今回の一連の処理における前記対象物の位置姿勢を推定する推定手段と
を備え、
前記画像生成手段は、前記今回の一連の処理において、前記第1の形状モデルの生成の結果は有効であるが、前記対象物の位置姿勢の認識の結果が有効でないと判断された場合に、前記推定手段により推定された前記対象物の位置姿勢に基づいて前記第2の形状モデルを配置する
ことを特徴とする画像処理装置。 - ユーザの部位の位置姿勢の測定結果に基づいて該部位の第1の形状モデルを生成するモデル生成手段と、
前記部位による把持対象となる対象物の位置姿勢を認識する認識手段と、
前記第1の形状モデルの生成および前記対象物の位置姿勢の認識のそれぞれの結果が有効であるかを判断する判断手段と、
前記第1の形状モデルの生成の結果及び前記対象物の位置姿勢の認識の結果がいずれも有効であると判断された場合に、前記部位が前記対象物を把持しているかを判定する判定手段と、
前記部位の位置姿勢に基づいて前記第1の形状モデルを配置し、前記対象物の位置姿勢に基づいて該対象物の第2の形状モデルを配置した仮想空間の画像を生成する画像生成手段と、
前記モデル生成手段、前記認識手段、前記判断手段、及び前記判定手段による処理を含む一連の処理を繰り返し実行するように制御する制御手段と、
今回の前記一連の処理における前記対象物の位置姿勢と、以前の前記一連の処理で前記部位が前記対象物を把持していると判定された場合における前記部位の位置姿勢及び前記対象物の位置姿勢と、に基づいて該今回の一連の処理における前記部位の位置姿勢を推定する推定手段と
を備え、
前記画像生成手段は、前記今回の一連の処理において、前記第1の形状モデルの生成の結果は有効でないが、前記対象物の位置姿勢の認識の結果が有効であると判断された場合に、前記推定手段により推定された前記部位の位置姿勢に基づいて前記第1の形状モデルを配置する
ことを特徴とする画像処理装置。 - 前記判断手段は、前記モデル生成手段による前記第1の形状モデルの生成の結果、または前記認識手段による前記対象物の位置姿勢の認識の結果の信頼度を求め、該信頼度が閾値未満の場合に、該結果が有効でないと判断することを特徴とする請求項1又は2に記載の画像処理装置。
- 前記判断手段は、前記対象物の位置姿勢を認識するために該対象物に設けられている指標を、前記認識手段が検出できなかった場合に、該認識手段による認識結果が有効でないと判断することを特徴とする請求項1又は2に記載の画像処理装置。
- 前記判断手段は、前記今回の一連の処理において前記認識手段が認識した前記対象物の位置及び/又は姿勢が、前記以前の一連の処理において前記認識手段が認識した位置及び/又は姿勢から閾値以上、変化した場合には、該認識手段による認識結果が有効でないと判断することを特徴とする請求項1又は2に記載の画像処理装置。
- 前記推定手段は、前記部位が前記対象物を把持していると判定された場合における該部位の位置姿勢と該対象物の位置姿勢との間の相対的な位置姿勢関係を求め、該求めた相対的な位置姿勢関係と、前記今回の一連の処理における前記部位もしくは前記対象物の一方の位置姿勢と、に基づいて前記部位もしくは前記対象物の他の一方の位置姿勢を推定することを特徴とする請求項1又は2に記載の画像処理装置。
- 前記判断手段は、前記ユーザの部位の位置姿勢の測定結果に基づいて、前記第1の形状モデルの生成の結果が有効でないと判断することを特徴とする請求項1又は2に記載の画像処理装置。
- 前記画像生成手段は、前記モデル生成手段が前記第1の形状モデルの生成に失敗した場合には、前記以前の一連の処理において生成された前記第1の形状モデルを、前記今回の一連の処理における前記第1の形状モデルとすることを特徴とする請求項1又は2に記載の画像処理装置。
- 更に、現実空間の撮像画像を取得する手段を備え、
前記画像生成手段は、前記仮想空間の画像と前記撮像画像との合成画像を生成することを特徴とする請求項1乃至8の何れか1項に記載の画像処理装置。 - 画像処理装置が行う画像処理方法であって、
前記画像処理装置のモデル生成手段が、ユーザの部位の位置姿勢の測定結果に基づいて該部位の第1の形状モデルを生成するモデル生成工程と、
前記画像処理装置の認識手段が、前記部位による把持対象となる対象物の位置姿勢を認識する認識工程と、
前記画像処理装置の判断手段が、前記第1の形状モデルの生成および前記対象物の位置姿勢の認識のそれぞれの結果が有効であるかを判断する判断工程と、
前記画像処理装置の判定手段が、前記第1の形状モデルの生成の結果及び前記対象物の位置姿勢の認識の結果がいずれも有効であると判断された場合に、前記部位が前記対象物を把持しているかを判定する判定工程と、
前記画像処理装置の画像生成手段が、前記部位の位置姿勢に基づいて前記第1の形状モデルを配置し、前記対象物の位置姿勢に基づいて該対象物の第2の形状モデルを配置した仮想空間の画像を生成する画像生成工程と、
前記画像処理装置の制御手段が、前記モデル生成工程、前記認識工程、前記判断工程、及び前記判定工程の処理を含む一連の処理を繰り返し実行するように制御する制御工程と、
前記画像処理装置の推定手段が、今回の前記一連の処理における前記部位の位置姿勢と、以前の前記一連の処理で前記部位が前記対象物を把持していると判定された場合における前記部位の位置姿勢及び前記対象物の位置姿勢と、に基づいて該今回の一連の処理における前記対象物の位置姿勢を推定する推定工程と
を備え、
前記画像生成工程では、前記今回の一連の処理において、前記第1の形状モデルの生成の結果は有効であるが、前記対象物の位置姿勢の認識の結果が有効でないと判断された場合に、前記推定工程で推定された前記対象物の位置姿勢に基づいて前記第2の形状モデルを配置する
ことを特徴とする画像処理方法。 - 画像処理装置が行う画像処理方法であって、
前記画像処理装置のモデル生成手段が、ユーザの部位の位置姿勢の測定結果に基づいて該部位の第1の形状モデルを生成するモデル生成工程と、
前記画像処理装置の認識手段が、前記部位による把持対象となる対象物の位置姿勢を認識する認識工程と、
前記画像処理装置の判断手段が、前記第1の形状モデルの生成および前記対象物の位置姿勢の認識のそれぞれの結果が有効であるかを判断する判断工程と、
前記画像処理装置の判定手段が、前記第1の形状モデルの生成の結果及び前記対象物の位置姿勢の認識の結果がいずれも有効であると判断された場合に、前記部位が前記対象物を把持しているかを判定する判定工程と、
前記画像処理装置の画像生成手段が、前記部位の位置姿勢に基づいて前記第1の形状モデルを配置し、前記対象物の位置姿勢に基づいて該対象物の第2の形状モデルを配置した仮想空間の画像を生成する画像生成工程と、
前記画像処理装置の制御手段が、前記モデル生成工程、前記認識工程、前記判断工程、及び前記判定工程の処理を含む一連の処理を繰り返し実行するように制御する制御工程と、
前記画像処理装置の推定手段が、今回の前記一連の処理における前記対象物の位置姿勢と、以前の前記一連の処理で前記部位が前記対象物を把持していると判定された場合における前記部位の位置姿勢及び前記対象物の位置姿勢と、に基づいて該今回の一連の処理における前記部位の位置姿勢を推定する推定工程と
を備え、
前記画像生成工程では、前記今回の一連の処理において、前記第1の形状モデルの生成の結果は有効でないが、前記対象物の位置姿勢の認識の結果が有効であると判断された場合に、前記推定工程で推定された前記部位の位置姿勢に基づいて前記第1の形状モデルを配置する
ことを特徴とする画像処理方法。 - コンピュータを、請求項1乃至9の何れか1項に記載の画像処理装置の各手段として機能させるためのコンピュータプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016219953A JP6929043B2 (ja) | 2016-11-10 | 2016-11-10 | 画像処理装置、画像処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016219953A JP6929043B2 (ja) | 2016-11-10 | 2016-11-10 | 画像処理装置、画像処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018077732A JP2018077732A (ja) | 2018-05-17 |
JP6929043B2 true JP6929043B2 (ja) | 2021-09-01 |
Family
ID=62150817
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016219953A Active JP6929043B2 (ja) | 2016-11-10 | 2016-11-10 | 画像処理装置、画像処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6929043B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7467293B2 (ja) | 2020-09-14 | 2024-04-15 | 株式会社日立産機システム | シミュレーションシステム及びシミュレーション方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009087161A (ja) * | 2007-10-01 | 2009-04-23 | Canon Inc | 画像処理装置、画像処理方法 |
JP6305856B2 (ja) * | 2014-07-11 | 2018-04-04 | Kddi株式会社 | 画像処理装置、画像処理方法、およびプログラム |
-
2016
- 2016-11-10 JP JP2016219953A patent/JP6929043B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2018077732A (ja) | 2018-05-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6598617B2 (ja) | 情報処理装置、情報処理方法およびプログラム | |
CN106846403B (zh) | 一种三维空间中手部定位的方法、装置及智能设备 | |
US8879787B2 (en) | Information processing device and information processing method | |
JP5388932B2 (ja) | 情報処理装置およびその制御方法 | |
US8998718B2 (en) | Image generation system, image generation method, and information storage medium | |
US10453235B2 (en) | Image processing apparatus displaying image of virtual object and method of displaying the same | |
CN106125903B (zh) | 多人交互系统及方法 | |
JP7017689B2 (ja) | 情報処理装置、情報処理システムおよび情報処理方法 | |
EP2360567A2 (en) | Image processing apparatus, image processing method, program, and image processing system | |
JP2010519629A (ja) | 画像内の3次元物体のポーズを決定する方法及びデバイス並びに物体追跡のための少なくとも1つのキー画像を創出する方法及びデバイス | |
JP5526465B2 (ja) | 爪位置データ検出装置及び爪位置データ検出方法、並びに爪位置データ検出プログラム | |
WO2022174594A1 (zh) | 基于多相机的裸手追踪显示方法、装置及系统 | |
US20170285731A1 (en) | System and method for providing virtual reality contents based on body information obtained from user | |
US20160232708A1 (en) | Intuitive interaction apparatus and method | |
JP6129363B2 (ja) | インタラクティブシステム、リモコン及びその操作方法 | |
US20170365084A1 (en) | Image generating apparatus and image generating method | |
JP6950390B2 (ja) | 表示制御プログラム、装置、及び方法 | |
JP2009258884A (ja) | ユーザインタフェイス | |
JP2009087161A (ja) | 画像処理装置、画像処理方法 | |
JP6929043B2 (ja) | 画像処理装置、画像処理方法 | |
JP4926598B2 (ja) | 情報処理方法、情報処理装置 | |
JP6981340B2 (ja) | 表示制御プログラム、装置、及び方法 | |
JP2018128739A (ja) | 画像処理装置、画像処理方法、コンピュータプログラム、及び記憶媒体 | |
JP7321029B2 (ja) | キャリブレーション装置及びその制御方法及びプログラム及び記憶媒体 | |
JP2019012334A (ja) | 情報処理装置、情報処理システム、その制御方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191111 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20201106 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201116 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20210103 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210113 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210115 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210705 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210810 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6929043 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |