JP6600113B1 - Ar用の画像処理装置、画像処理システム及びプログラム - Google Patents
Ar用の画像処理装置、画像処理システム及びプログラム Download PDFInfo
- Publication number
- JP6600113B1 JP6600113B1 JP2019068670A JP2019068670A JP6600113B1 JP 6600113 B1 JP6600113 B1 JP 6600113B1 JP 2019068670 A JP2019068670 A JP 2019068670A JP 2019068670 A JP2019068670 A JP 2019068670A JP 6600113 B1 JP6600113 B1 JP 6600113B1
- Authority
- JP
- Japan
- Prior art keywords
- image
- mark
- unit
- image processing
- processing apparatus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Processing Or Creating Images (AREA)
- Image Analysis (AREA)
Abstract
Description
オブジェクトを表示させる位置となる目印を示す目印画像を入力する目印画像入力部と、
複数の時点で撮像して複数の入力画像を生成する撮像部と、
それぞれの前記入力画像に対してフィルタ処理を行って第1画像を生成するフィルタ部と、
前記第1画像における前記目印の特徴点を抽出する抽出部と、
前記時点の変化に対して、前記特徴点を追跡する追跡部と、
前記第1画像から、前記目印を含む範囲を切り出して第2画像を生成する切出部と、
前記第2画像及び前記目印画像に基づいて、変換行列を生成する変換行列生成部と、
前記変換行列に基づいて、前記入力画像に前記オブジェクトを合成して表示する表示部と
を含み、
前記変換行列に基づいて、前記第2画像を変換して変換画像を生成し、
前記目印画像と前記変換画像を比較して前記変換画像に前記目印があると判断すると、前記表示部は、前記オブジェクト及び前記目印の両方を前記変換行列の逆行列でそれぞれ変換して合成する。
図1は、画像処理装置の使用例を示す概要図である。以下、図示するように、画像処理装置がスマートフォン10である場合の例で説明する。スマートフォン10のハードウェア構成等は後述する。
図2は、画像処理装置のハードウェア構成例を示すブロック図である。例えば、画像処理装置は、図示するように、CPU(Central Processing Unit、以下「CPU10HW1」という。)、記憶装置10HW2、インタフェース10HW3、入出力装置10HW4、通信装置10HW5及び撮像装置10HW6等を含むハードウェア構成である。
図3は、画像処理装置が行う画像処理方法の例を示すフローチャートである。
当該ステップでは、画像処理装置は、オブジェクト画像を入力する。以下、オブジェクトを示す画像を「オブジェクト画像IMGO」という。
当該ステップでは、画像処理装置は、目印画像を入力する。以下、目印を示す画像を「目印画像IMGT」という。
当該ステップでは、画像処理装置は、撮像により画像を生成する。以下、撮像によって生成される画像を「入力画像IMGI」という。また、入力画像IMGIは、画像処理装置が複数回、シャッタを切ることで、複数のフレームであるとする。以下、複数生成される入力画像IMGIのうち、最近のフレームを「現フレーム」という場合がある。そして、現フレームより以前となるフレームを「前フレーム」という場合がある。以下の説明では、フレームレートが約15fps(フレーム毎秒)乃至60fps程度であるとする。そして、以下の例では「前フレーム」及び「現フレーム」が連続したフレームである場合を例に説明する。
当該ステップでは、画像処理装置は、入力画像に対してフィルタ処理を行う。フィルタ処理の詳細及び変形例等は後述する。
当該ステップでは、画像処理装置は、第1画像IMG1に対して、特徴点を抽出する処理を行う。特徴点を抽出する処理の詳細は後述する。
当該ステップでは、画像処理装置は、抽出された特徴点を追跡する。特徴点を追跡する処理の詳細は後述する。以下、前フレームの第1画像(以下単に「前フレーム画像IMG11」という。)、及び、現フレームの第1画像(以下単に「現フレーム画像IMG12」という。)に同一の特徴点PSがある場合を例に説明する。
当該ステップでは、画像処理装置は、目印を含む範囲を切り出して画像を生成する。以下、切り出して生成する画像を「第2画像IMG2」という。切り出しの詳細は後述する。
当該ステップでは、画像処理装置は、第2画像及び目印画像に基づいて、変換行列を生成する。変換行列の具体例及び変換行列を生成する処理の詳細は後述する。
当該ステップでは、画像処理装置は、変換行列に基づいて、第2画像を変換する。以下、変換行列に基づく変換によって生成される画像を「変換画像IMGC」という。変換の詳細は後述する。
当該ステップでは、画像処理装置は、目印画像と変換画像を比較する。目印画像と変換画像を比較する処理の詳細は後述する。
当該ステップでは、画像処理装置は、目印画像及び変換画像の比較結果に基づいて、目印があるか否かを判断する。
当該ステップでは、画像処理装置は、入力画像の目印の箇所へオブジェクトを合成して表示する。以下、オブジェクトを合成した結果を示す画像、すなわち、出力される画像を「出力画像IMGV」という。出力画像IMGV及び合成等の具体例は詳細を後述する。
当該ステップでは、画像処理装置は、終了するか否かを判断する。すなわち、画像処理装置は、設定又はスイッチ等に基づいて、次のフレームに進むか否かを判断する。
図4は、画像処理方法の処理結果例を示す図である。図3に示す画像処理方法が行われると、例えば、図示するような処理結果となる。
画像処理方法における各手順は、例えば、以下のような処理である。
図5は、フィルタの例を示す図である。上記の画像処理方法におけるステップS4では、例えば、図示するようなフィルタを用いる。
図6は、フィルタ処理の第1変形例を示す図である。上記の画像処理方法におけるステップS4は、例えば、図示する処理でもよい。図示するように、第1変形例では、ステップS4のフィルタ処理を第1フィルタ処理及び第2フィルタ処理の2段階とする。
当該ステップでは、画像処理装置は、ノイズを減らすためのフィルタ処理を行う。具体的には、画像処理装置は、例えば、メディアンフィルタ等を用いて第1フィルタ処理を行う。なお、フィルタは、ノイズを減らすフィルタであればよい。したがって、フィルタは、ローパスフィルタ等でもよい。
当該処理では、画像処理装置は、RGB色空間におけるG成分を強調させるためのフィルタ処理を行う。まず、第1フィルタ処理によって、第3画像IMG3が生成されると、第3画像IMG3は、RGB色空間において、R成分(赤色の成分となる。)、G成分(緑色の成分となる。)、及び、B成分(青色の成分となる。)の3つのプレーンに分けることができる。
Y=0.299×R+0.587×G+0.114×B (1)
Y=0.2126×R+0.7152×G+0.0722×B (2)
上記(1)式及び上記(2)式に示すように、Y成分(上記(1)式及び上記(2)式における左辺「Y」である。)は、RGB成分からすると、G成分(上記(1)式及び上記(2)式における右辺「G」である。)の割合が5割乃至8割程度となる場合が多い。すなわち、G成分は、Y成分に与える影響が大きい成分である。
図7は、フィルタ処理の第2変形例を示す図である。上記の画像処理方法におけるステップS4は、例えば、図示する処理でもよい。第1変形例と比較すると、第2変形例は、第2フィルタ処理が、YUV色空間で行われる点が異なる。以下、第1変形例と同一の構成には、同一の符号を付し、重複する説明を省略して異なる点を中心に説明する。
図8は、特徴点の抽出例を示す図である。上記の画像処理方法におけるステップS5は、例えば、図示するような処理である。
図9は、特徴点の追跡例を示す図である。上記の画像処理方法におけるステップS6は、例えば、図示するような処理である。
図10は、切り出し例を示す図である。上記の画像処理方法におけるステップS7は、例えば、図示するような処理である。以下、図4と同様の被写体が写る場合であって、目印画像も同様の画像である場合を例に説明する。なお、図示する例では、第1画像IMG1には、フィルタ処理の結果を図面に反映せず、図4に示す入力画像IMGIと同様の画像を第1画像IMG1として説明する。
図11は、変換行列を生成する処理例を示す図である。上記の画像処理方法におけるステップS8及びステップS9は、例えば、図示するような処理である。
図12は、目印画像と変換画像の比較例及び比較結果の例を示す図である。上記の画像処理方法におけるステップS10は、例えば、図示するような処理である。
図13は、出力画像の生成例を示す図である。以下、説明のため、特徴点等が図示されている特徴点画像IMGSを用いる場合を例に説明する。ただし、合成に用いる画像は、特徴点画像IMGSのように、第1点SP1、第2点SP2、第3点SP3及び第4点SP4が図示されている必要はなく、第2画像IMG2等でもよい。
図14は、画像処理装置の機能構成例を示す機能ブロック図である。例えば、画像処理装置は、図示するように、目印画像入力部10F1と、撮像部10F2と、フィルタ部10F3と、抽出部10F4と、追跡部10F5と、切出部10F6と、変換行列生成部10F7と、表示部10F8とを含む機能構成である。
まず、画像処理装置は、ARによって表示させるオブジェクトを示すオブジェクト画像を入力する。さらに、画像処理装置は、オブジェクトを表示させる位置等の目印を示す目印画像を入力する。このように、オブジェクト画像及び目印画像があらかじめ入力されると、画像処理装置は、目印を認識して、オブジェクトを表示させることができる。
なお、画像処理装置及び画像処理システム等が有する各装置又は接続する外部装置は、1台の装置で実現されなくともよい。すなわち、各装置は、複数の装置で構成されてもよい。例えば、画像処理システムは、複数の情報処理装置又は撮像装置を有し、各処理を分散、並列又は冗長して行ってもよい。
10F1 目印画像入力部
10F10 計算部
10F2 撮像部
10F3 フィルタ部
10F31 第1フィルタ部
10F32 第2フィルタ部
10F4 抽出部
10F5 追跡部
10F6 切出部
10F7 変換行列生成部
10F8 表示部
10F9 再抽出部
10HW1 CPU
10HW2 記憶装置
10HW3 インタフェース
10HW4 入出力装置
10HW5 通信装置
10HW6 撮像装置
11 被写体
IMG1 第1画像
IMG2 第2画像
IMG3 第3画像
IMG3Y Y成分
IMG3CB Cb成分
IMG3CR Cr成分
IMG3R R成分
IMG3G G成分
IMG3B B成分
IMG11 前フレーム画像
IMG12 現フレーム画像
IMG13 次フレーム画像
IMGC 変換画像
IMGI 入力画像
IMGO オブジェクト画像
IMGO2 変換オブジェクト画像
IMGS 特徴点画像
IMGS2 変換特徴点画像
IMGT 目印画像
IMGV 出力画像
MX1 変換行列
MX2 逆変換行列
PS 特徴点
PS1 第1特徴点
PS2 第2特徴点
PS3 第3特徴点
SP1 第1点
SP2 第2点
SP3 第3点
SP4 第4点
TG1 第1被写体
TG2 第2被写体
TG31 目印
TG32 第3被写体
TG41 オブジェクト
TG42 変換オブジェクト
UR ユーザ
Claims (8)
- オブジェクトを表示させる位置となる目印を示す目印画像を入力する目印画像入力部と、
複数の時点で撮像して複数の入力画像を生成する撮像部と、
それぞれの前記入力画像に対してフィルタ処理を行って第1画像を生成するフィルタ部と、
前記第1画像における前記目印の特徴点を抽出する抽出部と、
前記時点の変化に対して、前記特徴点を追跡する追跡部と、
前記第1画像から、前記目印を含む範囲を切り出して第2画像を生成する切出部と、
前記第2画像及び前記目印画像に基づいて、変換行列を生成する変換行列生成部と、
前記変換行列に基づいて、前記入力画像に前記オブジェクトを合成して表示する表示部と
を含み、
前記変換行列に基づいて、前記第2画像を変換して変換画像を生成し、
前記目印画像と前記変換画像を比較して前記変換画像に前記目印があると判断すると、前記表示部は、前記オブジェクト及び前記目印の両方を前記変換行列の逆行列でそれぞれ変換して合成する
画像処理装置。 - 前記フィルタ部は、
前記入力画像に対して、メディアンフィルタを用いる第1フィルタ処理と、
前記第1フィルタ処理で生成される第3画像に対して、RGB色空間におけるG成分を強調するシャープネスフィルタを用いる第2フィルタ処理とを行って前記第1画像を生成し、
前記抽出部は、
前記G成分が強調された前記第1画像に基づいて抽出する
請求項1に記載の画像処理装置。 - 前記フィルタ部は、
前記入力画像に対して、メディアンフィルタを用いる第1フィルタ処理と、
前記第1フィルタ処理で生成される第3画像に対して、YUV色空間におけるY成分を強調するシャープネスフィルタを用いる第2フィルタ処理とを行って前記第1画像を生成し、
前記抽出部は、
前記Y成分が強調された前記第1画像に基づいて抽出する
請求項1に記載の画像処理装置。 - 前記抽出部は、
AKAZE又はORBのアルゴリズムで抽出する
請求項1乃至3のいずれか1項に記載の画像処理装置。 - 前記変換行列は、
前記第2画像における特徴点が、前記目印画像における特徴点と同一の位置となるように変換する行列である
請求項1乃至4のいずれか1項に記載の画像処理装置。 - 前記第2画像における特徴点を抽出する再抽出部と、
前記再抽出部が抽出した特徴点に基づいて、前記撮像部の傾き及び前記目印までの距離を計算する計算部と
を更に含み、
前記傾き及び前記距離に基づいて、前記表示部は、前記オブジェクトを合成する
請求項1乃至5のいずれか1項に記載の画像処理装置。 - オブジェクトを表示させる位置となる目印を示す目印画像を入力する目印画像入力部と、
複数の時点で撮像して複数の入力画像を生成する撮像部と、
それぞれの前記入力画像に対してフィルタ処理を行って第1画像を生成するフィルタ部と、
前記第1画像における前記目印の特徴点を抽出する抽出部と、
前記時点の変化に対して、前記特徴点を追跡する追跡部と、
前記第1画像から、前記目印を含む範囲を切り出して第2画像を生成する切出部と、
前記第2画像及び前記目印画像に基づいて、変換行列を生成する変換行列生成部と、
前記変換行列に基づいて、前記入力画像に前記オブジェクトを合成して表示する表示部と
を含み、
前記変換行列に基づいて、前記第2画像を変換して変換画像を生成し、
前記目印画像と前記変換画像を比較して前記変換画像に前記目印があると判断すると、前記表示部は、前記オブジェクト及び前記目印の両方を前記変換行列の逆行列でそれぞれ変換して合成する
画像処理システム。 - 画像処理装置に画像処理方法を実行させるためのプログラムであって、
画像処理装置が、オブジェクトを表示させる位置となる目印を示す目印画像を入力する目印画像入力手順と、
画像処理装置が、複数の時点で撮像して複数の入力画像を生成する撮像手順と、
画像処理装置が、それぞれの前記入力画像に対してフィルタ処理を行って第1画像を生成するフィルタ手順と、
画像処理装置が、前記第1画像における前記目印の特徴点を抽出する抽出手順と、
画像処理装置が、前記時点の変化に対して、前記特徴点を追跡する追跡手順と、
画像処理装置が、前記第1画像から、前記目印を含む範囲を切り出して第2画像を生成する切出手順と、
画像処理装置が、前記第2画像及び前記目印画像に基づいて、変換行列を生成する変換行列生成手順と、
画像処理装置が、前記変換行列に基づいて、前記入力画像に前記オブジェクトを合成して表示する表示手順と
を実行させ、
前記変換行列に基づいて、前記第2画像を変換して変換画像を生成し、
前記目印画像と前記変換画像を比較して前記変換画像に前記目印があると判断すると、前記表示手順では、前記オブジェクト及び前記目印の両方を前記変換行列の逆行列でそれぞれ変換して合成する
プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019068670A JP6600113B1 (ja) | 2019-03-29 | 2019-03-29 | Ar用の画像処理装置、画像処理システム及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019068670A JP6600113B1 (ja) | 2019-03-29 | 2019-03-29 | Ar用の画像処理装置、画像処理システム及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6600113B1 true JP6600113B1 (ja) | 2019-10-30 |
JP2020166741A JP2020166741A (ja) | 2020-10-08 |
Family
ID=68383353
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019068670A Active JP6600113B1 (ja) | 2019-03-29 | 2019-03-29 | Ar用の画像処理装置、画像処理システム及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6600113B1 (ja) |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4253567B2 (ja) * | 2003-03-28 | 2009-04-15 | オリンパス株式会社 | データオーサリング処理装置 |
JP2010287174A (ja) * | 2009-06-15 | 2010-12-24 | Dainippon Printing Co Ltd | 家具シミュレーション方法、装置、プログラム、記録媒体 |
JP6294054B2 (ja) * | 2013-11-19 | 2018-03-14 | 株式会社Nttドコモ | 映像表示装置、映像提示方法及びプログラム |
JP6524706B2 (ja) * | 2015-02-27 | 2019-06-05 | 富士通株式会社 | 表示制御方法、表示制御プログラム、及び情報処理装置 |
JP6877293B2 (ja) * | 2017-08-08 | 2021-05-26 | 株式会社 日立産業制御ソリューションズ | 位置情報記録方法および装置 |
JP6878219B2 (ja) * | 2017-09-08 | 2021-05-26 | 株式会社東芝 | 画像処理装置および測距装置 |
-
2019
- 2019-03-29 JP JP2019068670A patent/JP6600113B1/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2020166741A (ja) | 2020-10-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3935500B2 (ja) | 動きベクトル演算方法とこの方法を用いた手ぶれ補正装置、撮像装置、並びに動画生成装置 | |
JP5463866B2 (ja) | 画像処理装置および画像処理方法、並びにプログラム | |
KR102337931B1 (ko) | 동적 가림 핸들링을 위한 시스템들 및 방법들 | |
US20200258196A1 (en) | Image processing apparatus, image processing method, and storage medium | |
US7606441B2 (en) | Image processing device and a method for the same | |
WO2004015987A1 (ja) | 画像合成装置、画像合成方法、画像合成プログラム、および画像合成プログラムを記録した記録媒体 | |
WO2017163384A1 (ja) | データ処理装置、データ処理方法及びデータ処理プログラム | |
JP6610535B2 (ja) | 画像処理装置および画像処理方法 | |
JP2004246729A (ja) | 人物動画像生成システム | |
CN111199159A (zh) | 基于增强现实的文字翻译及显示方法、装置和电子设备 | |
JP3983624B2 (ja) | 画像合成装置、画像合成方法、画像合成プログラム、および画像合成プログラムを記録した記録媒体 | |
JP6241320B2 (ja) | 画像処理装置、画像処理方法、画像処理システムおよびプログラム | |
JP6600113B1 (ja) | Ar用の画像処理装置、画像処理システム及びプログラム | |
JP5042251B2 (ja) | 画像処理装置および画像処理方法 | |
JP3983623B2 (ja) | 画像合成装置、画像合成方法、画像合成プログラム、および画像合成プログラムを記録した記録媒体 | |
JP2009159525A (ja) | 撮像装置及び画像合成プログラム | |
JP2005031800A (ja) | 熱画像表示装置 | |
JP6663491B2 (ja) | 画像処理装置、画像処理プログラム、および記録媒体 | |
JP6608311B2 (ja) | 画像評価装置及び画像評価プログラム | |
JP6341540B2 (ja) | 情報端末装置、方法及びプログラム | |
JPH10108003A (ja) | 画像合成装置および画像合成方法 | |
JP3804836B2 (ja) | キー信号生成装置および画像合成装置、並びにキー信号生成方法および画像合成方法 | |
JP3325823B2 (ja) | 映像静止画表示方法及び装置並びに映像静止画表示プログラム格納記録媒体 | |
JP7329964B2 (ja) | 画像処理装置および画像処理方法およびプログラム | |
JPH1083442A (ja) | 画像合成方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190329 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20190329 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190613 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20190614 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190723 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190822 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191001 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191003 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6600113 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |