JP2016021096A - 画像処理装置、画像処理方法、およびプログラム - Google Patents
画像処理装置、画像処理方法、およびプログラム Download PDFInfo
- Publication number
- JP2016021096A JP2016021096A JP2014143690A JP2014143690A JP2016021096A JP 2016021096 A JP2016021096 A JP 2016021096A JP 2014143690 A JP2014143690 A JP 2014143690A JP 2014143690 A JP2014143690 A JP 2014143690A JP 2016021096 A JP2016021096 A JP 2016021096A
- Authority
- JP
- Japan
- Prior art keywords
- recognition
- image
- image processing
- recognition result
- processing apparatus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
Description
(1) 本発明は、プレビュー画像に仮想情報を重畳させる画像処理装置(例えば、図1の画像処理装置1に相当)であって、前記プレビュー画像を取得する画像取得手段(例えば、図1の画像取得部10に相当)と、前記画像取得手段により取得されたプレビュー画像内のオブジェクト(例えば、図2のM1、M2、M3に相当)を認識する画像認識手段(例えば、図1の画像認識部20に相当)と、前記画像処理装置とは異なる第1の画像処理装置(例えば、後述の他端末に相当)で認識されたオブジェクトの認識結果を、当該画像処理装置を基準とした認識結果に変換する協調認識処理手段(例えば、図1の協調認識処理部40に相当)と、前記画像認識手段による認識結果と、前記協調認識処理手段により変換された認識結果と、に基づいて、前記画像取得手段により取得されたプレビュー画像に仮想情報(例えば、図3の仮想情報C1、C2、C3に相当)を重畳させる仮想情報表示手段(例えば、図1の仮想情報表示部50に相当)と、を備えることを特徴とする画像処理装置を提案している。
[画像処理装置1の概要]
図1は、本発明の第1実施形態に係る画像処理装置1のブロック図である。画像処理装置1は、複数人での利用を想定したAR技術に対応している。この画像処理装置1の概要について、図2、3、4を用いて以下に説明する。
以上の画像処理装置1について、以下に詳述する。図1に戻って、画像処理装置1は、デスクトップPCといった据え置き型のコンピュータや、ラップトップPC、携帯電話機、携帯ゲーム機、HMDなどの携帯型の情報端末に搭載可能である。この画像処理装置1は、画像取得部10、画像認識部20、認識結果共有処理部30、協調認識処理部40、および仮想情報表示部50を備える。
画像取得部10は、WEBカメラやカメラモジュールといった撮像装置で撮影された画像を連続的に取得する。本実施形態では、画像取得部10は、60fpsのフレームレートで画像を取得するものとする。なお、画像を連続的に撮影する撮像装置は、画像処理装置1の内部に設けられるものであってもよいし、画像処理装置1の外部に設けられるものであってもよい。
画像認識部20は、画像取得部10により取得された画像(以降、プレビュー画像とする)を入力とする。この画像認識部20は、入力されたプレビュー画像内のオブジェクトを識別し、識別した各オブジェクトの姿勢を推定して、識別した各オブジェクトを認識する。この画像認識部20は、オブジェクト識別部21、初期姿勢推定部22、および姿勢追跡部23を備える。
認識結果共有処理部30は、自端末の画像認識部20による認識結果と、他端末の画像認識部20による認識結果と、を入力とするとともに、入力された自端末の画像認識部20による認識結果を他端末の画像認識部20に送信する。これによれば、自端末と他端末との間で、画像認識部20による認識結果を共有することができる。
協調認識処理部40は、自端末の画像認識部20による認識結果と、他端末の画像認識部20による認識結果と、を入力とする。協調認識処理部40は、他端末での認識結果を、自端末を基準とした認識結果に変換し、自端末での認識結果と統合する。この協調認識処理部40は、相対姿勢推定部41および姿勢変換部42を備える。
仮想情報表示部50は、画像取得部10により取得されたプレビュー画像と、姿勢変換部42により得られた統合認識結果と、を入力とする。この仮想情報表示部50は、プレビュー画像に、統合認識結果に基づいて仮想情報を重畳させる。なお、仮想情報を重畳させる際に、仮想情報表示部50は、撮像装置の内部パラメータ行列(画角といった情報を含む)と、重畳させる仮想情報が紐付けられているオブジェクトの姿勢行列と、を用いて、3Dレンダリングによって対応する位置にこの仮想情報を重畳させる。また、仮想情報を重畳させる際に、仮想情報表示部50は、統合認識結果に基づいて仮想情報の位置や向きを補正する。
以上の構成を備える画像処理装置1の動作について、図5、6を用いて以下に説明する。
[画像処理装置1Aの概要]
図7は、本発明の第2実施形態に係る画像処理装置1Aのブロック図である。画像処理装置1Aは、図1に示した本発明の第1実施形態に係る画像処理装置1とは、協調認識処理部40の代わりに協調認識処理部40Aを備える点で異なる。なお、画像処理装置1Aにおいて、画像処理装置1と同一の構成要件については、同一符号を付し、その説明を省略する。
以上の画像処理装置1Aについて、以下に詳述する。図7に戻って、画像処理装置1Aに設けられた協調認識処理部40Aは、協調認識処理部40とは、認識処理制御部43を備える点で異なる。
以上の構成を備える画像処理装置1Aの動作について、図8、9、10を用いて以下に説明する。
10;画像取得部
20;画像認識部
30;認識結果共有処理部
40、40A;協調認識処理部
50;仮想情報表示部
C1、C2、C3;仮想情報
M1、M2、M3;オブジェクト
Claims (15)
- プレビュー画像に仮想情報を重畳させる画像処理装置であって、
前記プレビュー画像を取得する画像取得手段と、
前記画像取得手段により取得されたプレビュー画像内のオブジェクトを認識する画像認識手段と、
前記画像処理装置とは異なる第1の画像処理装置で認識されたオブジェクトの認識結果を、当該画像処理装置を基準とした認識結果に変換する協調認識処理手段と、
前記画像認識手段による認識結果と、前記協調認識処理手段により変換された認識結果と、に基づいて、前記画像取得手段により取得されたプレビュー画像に仮想情報を重畳させる仮想情報表示手段と、を備えることを特徴とする画像処理装置。 - 前記協調認識処理手段は、
前記画像認識手段による認識結果と、前記第1の画像処理装置での認識結果と、の双方に認識結果が含まれているオブジェクトが存在していれば、当該オブジェクトについての当該画像認識手段による認識結果と、当該オブジェクトについての当該第1の画像処理装置での認識結果と、に基づいて前記画像処理装置と当該第1の画像処理装置との相対的な位置関係を示す相対姿勢を推定し、
前記相対姿勢を用いて、前記第1の画像処理装置での認識結果を、前記画像処理装置を基準とした認識結果に変換することを特徴とする請求項1に記載の画像処理装置。 - 前記協調認識処理手段は、前記画像処理装置と前記第1の画像処理装置との相対的な位置関係を示す相対姿勢と、当該第1の画像処理装置と第2の画像処理装置との相対的な位置関係を示す相対姿勢と、に基づいて、当該画像処理装置と当該第2の画像処理装置との相対的な位置関係を示す相対姿勢を推定することを特徴とする請求項1または2に記載の画像処理装置。
- 前記協調認識処理手段は、前記画像認識手段により認識していないオブジェクトについて、前記第1の画像処理装置での認識結果を、前記画像処理装置を基準とした認識結果に変換することを特徴とする請求項1から3のいずれかに記載の画像処理装置。
- 前記画像認識手段は、オブジェクトごとの認識結果に、当該認識結果の認識精度の指標となる情報を付加し、
前記協調認識処理手段は、前記画像処理装置での認識結果の認識精度の方が、前記第1の画像処理装置での認識結果の認識精度よりも低いオブジェクトについて、当該第1の画像処理装置での認識結果を、当該画像処理装置を基準とした認識結果に変換することを特徴とする請求項1から4のいずれかに記載の画像処理装置。 - 前記画像認識手段は、前記認識精度の指標として、オブジェクトに対する撮影距離と、オブジェクトに対する撮影角度と、のうち少なくともいずれかを用いることを特徴とする請求項5に記載の画像処理装置。
- 前記画像認識手段は、前記認識精度の指標として、局所特徴量のマッチング数と、局所特徴量のマッチングのスコアと、のうち少なくともいずれかを用いることを特徴とする請求項5に記載の画像処理装置。
- 前記画像認識手段は、前記認識精度の指標として、SSD(Sum of Squared Difference)の応答値と、NCC(Normalized Cross Correlation)の応答値と、のうち少なくともいずれかを用いることを特徴とする請求項5に記載の画像処理装置。
- 前記画像認識手段による認識結果と、前記第1の画像処理装置での認識結果と、の双方に認識結果が含まれているオブジェクトが2つ以上存在していれば、
前記協調認識処理手段は、前記画像認識手段による認識結果と、前記第1の画像処理装置での認識結果と、の双方に認識結果が含まれている2つ以上のオブジェクトのうち少なくとも1つを認識休止オブジェクトとし、当該認識休止オブジェクトについての前記第1の画像処理装置での認識結果を、前記画像処理装置を基準とした認識結果に変換し、
前記画像認識手段は、前記認識休止オブジェクトの認識を休止することを特徴とする請求項1から8のいずれかに記載の画像処理装置。 - 前記画像認識手段による認識結果と、前記第1の画像処理装置での認識結果と、の双方に認識結果が含まれているオブジェクトが2つ以上存在しており、前記画像処理装置の処理能力が前記第1の画像処理装置の処理能力よりも低ければ、
前記協調認識処理手段は、前記画像認識手段による認識結果と、前記第1の画像処理装置での認識結果と、の双方に認識結果が含まれている2つ以上のオブジェクトのうち少なくとも1つを認識休止オブジェクトとし、当該認識休止オブジェクトについての前記第1の画像処理装置での認識結果を、前記画像処理装置を基準とした認識結果に変換し、
前記画像認識手段は、前記認識休止オブジェクトの認識を休止することを特徴とする請求項1から8のいずれかに記載の画像処理装置。 - 前記協調認識処理手段は、前記画像認識手段による認識結果を求めるために要した時間が長くなるに従って小さくなる数値を設定し、当該数値を前記画像処理装置の処理能力として用いることを特徴とする請求項10に記載の画像処理装置。
- 前記協調認識処理手段は、前記認識休止オブジェクトであるオブジェクトの数を、前記画像取得手段によりプレビュー画像が取得されるたびに最大で1つずつ増加させることを特徴とする請求項9から11のいずれかに記載の画像処理装置。
- 前記協調認識処理手段は、前記第1の画像処理装置での認識結果に含まれていないオブジェクトを、前記認識休止オブジェクトから除外することを特徴とする請求項9から12のいずれかに記載の画像処理装置。
- 画像取得手段、画像認識手段、協調認識処理手段、および仮想情報表示手段を備え、プレビュー画像に仮想情報を重畳させる画像処理装置における画像処理方法であって、
前記画像取得手段が、前記プレビュー画像を取得する第1のステップと、
前記画像認識手段が、前記第1のステップで取得されたプレビュー画像内のオブジェクトを認識する第2のステップと、
前記協調認識処理手段が、前記画像処理装置とは異なる第1の画像処理装置で認識されたオブジェクトの認識結果を、当該画像処理装置を基準とした認識結果に変換する第3のステップと、
前記仮想情報表示手段が、前記第2のステップによる認識結果と、前記第3のステップで変換された認識結果と、に基づいて、前記第1のステップで取得されたプレビュー画像に仮想情報を重畳させる第4のステップと、を備えることを特徴とする画像処理方法。 - 画像取得手段、画像認識手段、協調認識処理手段、および仮想情報表示手段を備え、プレビュー画像に仮想情報を重畳させる画像処理装置における画像処理方法を、コンピュータに実行させるためのプログラムであって、
前記画像取得手段が、前記プレビュー画像を取得する第1のステップと、
前記画像認識手段が、前記第1のステップで取得されたプレビュー画像内のオブジェクトを認識する第2のステップと、
前記協調認識処理手段が、前記画像処理装置とは異なる第1の画像処理装置で認識されたオブジェクトの認識結果を、当該画像処理装置を基準とした認識結果に変換する第3のステップと、
前記仮想情報表示手段が、前記第2のステップによる認識結果と、前記第3のステップで変換された認識結果と、に基づいて、前記第1のステップで取得されたプレビュー画像に仮想情報を重畳させる第4のステップと、をコンピュータに実行させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014143690A JP6290020B2 (ja) | 2014-07-11 | 2014-07-11 | 画像処理装置、画像処理方法、およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014143690A JP6290020B2 (ja) | 2014-07-11 | 2014-07-11 | 画像処理装置、画像処理方法、およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016021096A true JP2016021096A (ja) | 2016-02-04 |
JP6290020B2 JP6290020B2 (ja) | 2018-03-07 |
Family
ID=55265911
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014143690A Active JP6290020B2 (ja) | 2014-07-11 | 2014-07-11 | 画像処理装置、画像処理方法、およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6290020B2 (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105847583A (zh) * | 2016-05-10 | 2016-08-10 | 北京奇虎科技有限公司 | 在移动终端上进行图像处理的方法及装置 |
JP2018124515A (ja) * | 2017-02-03 | 2018-08-09 | Kddi株式会社 | コンピュータプログラム、端末および方法 |
JP2018163292A (ja) * | 2017-03-27 | 2018-10-18 | Kddi株式会社 | システム、端末装置及びプログラム |
JP2021512388A (ja) * | 2018-02-06 | 2021-05-13 | マジック リープ, インコーポレイテッドMagic Leap,Inc. | 拡張現実のためのシステムおよび方法 |
WO2021177132A1 (ja) * | 2020-03-06 | 2021-09-10 | ソニーグループ株式会社 | 情報処理装置、情報処理システム、情報処理方法及びプログラム |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011107893A (ja) * | 2009-11-16 | 2011-06-02 | Sony Corp | 情報処理装置、情報処理方法、プログラムおよび情報処理システム |
JP2013061870A (ja) * | 2011-09-14 | 2013-04-04 | Namco Bandai Games Inc | プログラム、情報記憶媒体及び電子機器 |
WO2014016986A1 (ja) * | 2012-07-27 | 2014-01-30 | Necソフト株式会社 | 3次元環境共有システム及び3次元環境共有方法 |
-
2014
- 2014-07-11 JP JP2014143690A patent/JP6290020B2/ja active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011107893A (ja) * | 2009-11-16 | 2011-06-02 | Sony Corp | 情報処理装置、情報処理方法、プログラムおよび情報処理システム |
JP2013061870A (ja) * | 2011-09-14 | 2013-04-04 | Namco Bandai Games Inc | プログラム、情報記憶媒体及び電子機器 |
WO2014016986A1 (ja) * | 2012-07-27 | 2014-01-30 | Necソフト株式会社 | 3次元環境共有システム及び3次元環境共有方法 |
Non-Patent Citations (1)
Title |
---|
坂部 義篤: "アドホック環境における協調ARプラットフォームの開発", マルチメディア,分散,協調とモバイル(DICOMO2014)シンポジウム論文集 情報処理学会シンポジ, JPN6018004341, 2 July 2014 (2014-07-02), JP, pages 1093 - 1098, ISSN: 0003735274 * |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105847583A (zh) * | 2016-05-10 | 2016-08-10 | 北京奇虎科技有限公司 | 在移动终端上进行图像处理的方法及装置 |
JP2018124515A (ja) * | 2017-02-03 | 2018-08-09 | Kddi株式会社 | コンピュータプログラム、端末および方法 |
JP2018163292A (ja) * | 2017-03-27 | 2018-10-18 | Kddi株式会社 | システム、端末装置及びプログラム |
JP2021512388A (ja) * | 2018-02-06 | 2021-05-13 | マジック リープ, インコーポレイテッドMagic Leap,Inc. | 拡張現実のためのシステムおよび方法 |
US11620785B2 (en) | 2018-02-06 | 2023-04-04 | Magic Leap, Inc. | Systems and methods for augmented reality |
JP7316282B2 (ja) | 2018-02-06 | 2023-07-27 | マジック リープ, インコーポレイテッド | 拡張現実のためのシステムおよび方法 |
WO2021177132A1 (ja) * | 2020-03-06 | 2021-09-10 | ソニーグループ株式会社 | 情報処理装置、情報処理システム、情報処理方法及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
JP6290020B2 (ja) | 2018-03-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9940720B2 (en) | Camera and sensor augmented reality techniques | |
KR101722654B1 (ko) | 점 특징 및 선 특징을 사용한 강력한 추적 | |
US9710923B2 (en) | Information processing system, information processing device, imaging device, and information processing method | |
EP2880626B1 (en) | Localisation and mapping | |
US9852358B2 (en) | Information processing device, information processing method, and information processing system | |
JP6290020B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
EP3341851B1 (en) | Gesture based annotations | |
US20160300100A1 (en) | Image capturing apparatus and method | |
JP6230113B2 (ja) | 撮影動画像に指示画像を同期して重畳する映像指示同期方法、システム、端末、及びプログラム | |
JP5780142B2 (ja) | 画像処理装置、画像処理方法 | |
JP6384856B2 (ja) | 予測カメラ姿勢に基づくarオブジェクトを実時間に合わせて描画する情報装置、プログラム及び方法 | |
EP2700040A2 (en) | Color channels and optical markers | |
US20130058537A1 (en) | System and method for identifying a region of interest in a digital image | |
CN111353336B (zh) | 图像处理方法、装置及设备 | |
JP2018524657A (ja) | 電子デバイス上における環境マッピング用のフィーチャ・データの管理 | |
US10600202B2 (en) | Information processing device and method, and program | |
JP6305856B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
WO2015072091A1 (ja) | 画像処理装置、画像処理方法及びプログラム記憶媒体 | |
JP7003617B2 (ja) | 推定装置、推定方法、及び推定プログラム | |
JP2016086245A (ja) | 画像処理装置、画像処理システム、画像処理装置の制御方法およびプログラム | |
JP2014044476A (ja) | 画像処理装置、画像処理方法 | |
JP6146869B2 (ja) | 撮影動画像に指示画像を同期して重畳する映像指示表示方法、システム、端末、及びプログラム | |
JP5478533B2 (ja) | 全方位画像生成方法、画像生成装置およびプログラム | |
JP2015060421A (ja) | 類似画像検索方法及び類似画像検索装置 | |
JP2015184986A (ja) | 複合現実感共有装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170201 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180131 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180206 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180207 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6290020 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |