JP2014041560A - 画像処理装置、画像処理方法 - Google Patents
画像処理装置、画像処理方法 Download PDFInfo
- Publication number
- JP2014041560A JP2014041560A JP2012184572A JP2012184572A JP2014041560A JP 2014041560 A JP2014041560 A JP 2014041560A JP 2012184572 A JP2012184572 A JP 2012184572A JP 2012184572 A JP2012184572 A JP 2012184572A JP 2014041560 A JP2014041560 A JP 2014041560A
- Authority
- JP
- Japan
- Prior art keywords
- image
- recognition
- query
- similarity
- association
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Processing Or Creating Images (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
【解決手段】 クエリ画像に対して画像認識処理を行うことで該クエリ画像中のオブジェクトの属性を取得し、該取得した属性と関連付けて前記データベースが管理している画像を特定する。特定した画像と関連づけてデータベースが管理している認識尤度を、クエリ画像に対する該特定した画像の類似度とし、該特定した画像に関する情報と、該類似度と、を画像検索結果として出力する。
【選択図】 図2
Description
第1の実施形態の説明の前に、各実施形態で述べる概要を説明する。登録画像より特徴点を検出しその特徴点の局所特徴量を抽出し、更に画像認識処理し、画像中の認識対象のメタデータを抽出するとともに、これらを合わせて記憶する。予め、画像認識の準備として、認識対象を含んだ画像、含まない画像を学習用に準備し、機械学習を行っておく。
先ず、本実施形態に係る画像処理装置のハードウェア構成例について、図1のブロック図を用いて説明する。なお、図1に示した構成はあくまでも一例であり、画像処理装置が行うものとして後述する各処理を実行可能な構成であれば、如何なる構成を採用しても良い。例えば、画像を撮像して本装置に入力するためのディジタルカメラを本装置に接続するようにしても良い。また、本装置で検索結果として得た情報を外部の機器に対して出力可能な構成を加えても良い。
クエリ画像の各特徴点に対し、DB204が管理しているそれぞれの登録画像の特徴点で、特徴間距離が最小となるものをペアで記述する。次に、クエリ画像から3個の特徴点をランダムに選択し、それぞれの特徴間距離が最小となる登録画像の特徴点群との間で、その座標の対応からアフィン変換行列を求める。このアフィン変換行列を用い、クエリ画像の残りの特徴点の座標を登録画像の座標に変換し、その近傍に上記特徴間距離が最小となるペアの特徴点が存在するかを確認し、存在すれば1票投票し、存在しなければ投票しない。最終的に、この投票数が所定の値に達した場合には、クエリ画像と登録画像は部分一致する領域が存在すると判断し、その投票数が多いほど一致する領域が大きいと考える。
第1の実施形態では、クエリ画像が認識可能な場合には、上記のような処理を行うことで、高速に類似画像検索が可能である。しかし、第1の実施形態によれば、最も類似度が高いオブジェクトは画像認識尤度が最も高い、登録画像1中のオブジェクト802となる。これは、クエリ画像にアピアランスが似ているは登録画像2中のオブジェクト805と思う多くのユーザの期待とは異なる結果である。本実施形態では、このような課題を解決するものである。
本実施形態では、第1の実施形態及び第2の実施形態において、クエリ画像、登録画像のどちらか一方において画像認識がうまく機能せず、結果として検索漏れを起こすという課題を解決する。
そして、類似度の代わりに総合類似度を適用してステップS1005の処理を行うことで、画像認識で失敗した画像についても、局所特徴量比較で高いスコアを出した画像で有れば検索結果に反映する事が可能となる。
画像認識の対象は時間が経過すると共に増加するので、登録済みの画像に対しても新しい画像認識結果を適応する事が好ましい。もちろん、新たな画像認識対象で学習した検出器を用い、最初から画像を登録する方法も有るが、登録済みの画像数が膨大で有る場合、それは現実的で無い。また、DBと画像を別個に管理している場合には、登録画像の参照が困難な場合も有る。
上記の各実施形態では、特徴量としてSIFTを用いたが、画像認識と画像特徴量検索とで共有可能な局所特徴量であれば、その種類は問わない。また、画像認識においては、MAP推定を用いた機械学習により説明したが、当然、生成モデルに基づく方法としてEMアルゴリズムを利用し反復学習する方法や、判別モデルに基づく方法でSVMを用いても良い。また、登録画像の局所特徴量に対して複数の画像認識処理を行い更新する処理も可能である。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
Claims (9)
- それぞれの画像について、該画像に対する画像認識処理によって得られた該画像中の1以上のオブジェクトのそれぞれの属性及び認識尤度を、該画像と関連付けて管理しているデータベースにアクセス可能な画像処理装置であって、
クエリ画像に対して画像認識処理を行うことで該クエリ画像中のオブジェクトの属性を取得し、該取得した属性と関連付けて前記データベースが管理している画像を特定する特定手段と、
前記特定手段が特定した画像と関連づけて前記データベースが管理している認識尤度を、前記クエリ画像に対する該特定した画像の類似度とし、該特定した画像に関する情報と、該類似度と、を画像検索結果として出力する出力手段と
を備えることを特徴とする画像処理装置。 - 前記出力手段は、前記特定した画像に関する情報と、前記類似度と、のセットを、類似度が高い順で出力することを特徴とする請求項1に記載の画像処理装置。
- 前記出力手段は、
前記クエリ画像に対する画像認識処理の結果、画像認識できたオブジェクトが1つも存在しなかった場合には、前記データベースが管理する画像のうち、前記クエリ画像に対する画像認識処理により得られた前記クエリ画像の特徴量と類似する特徴量を有する画像に関する情報を出力することを特徴とする請求項1又は2に記載の画像処理装置。 - それぞれの画像について、該画像に対する画像認識処理によって得られた該画像中の1以上のオブジェクトのそれぞれの属性及び領域を、該画像と関連付けて管理しているデータベースにアクセス可能な画像処理装置であって、
クエリ画像に対して画像認識処理を行うことで該クエリ画像中のオブジェクトの属性を取得し、該取得した属性と関連付けて前記データベースが管理している領域を特定する特定手段と、
前記特定手段が特定した領域について画像認識処理で得られた特徴量と、前記クエリ画像において該領域に対応する領域について画像認識処理で得られた特徴量と、の類似度を求める手段と、
前記特定手段が特定した領域と関連付けて前記データベースが管理している画像に関する情報と、前記類似度と、を画像検索結果として出力する出力手段と
を備えることを特徴とする画像処理装置。 - それぞれの画像について、該画像に対する画像認識処理によって得られた該画像中の1以上のオブジェクトのそれぞれの属性及び認識尤度を、該画像と関連付けて管理しているデータベースにアクセス可能な画像処理装置であって、
クエリ画像に対して画像認識処理を行うことで該クエリ画像中のオブジェクトの属性を取得し、該取得した属性と関連付けて前記データベースが管理している画像を特定する特定手段と、
前記クエリ画像に対する画像認識処理で得られる特徴量と、前記特定手段が特定した画像に対する画像認識処理で得られる特徴量と、の類似度を求める手段と、
前記特定手段が特定した画像と関連づけて前記データベースが管理している認識尤度と、前記類似度と、の重み付け加算により得られる総合類似度を、前記クエリ画像に対する該特定した画像の類似度とし、該特定した画像に関する情報と、該類似度と、を画像検索結果として出力する出力手段と
を備えることを特徴とする画像処理装置。 - それぞれの画像について、該画像に対する画像認識処理によって得られた該画像中の1以上のオブジェクトのそれぞれの属性及び認識尤度を、該画像と関連付けて管理しているデータベースにアクセス可能な画像処理装置が行う画像処理方法であって、
前記画像処理装置の特定手段が、クエリ画像に対して画像認識処理を行うことで該クエリ画像中のオブジェクトの属性を取得し、該取得した属性と関連付けて前記データベースが管理している画像を特定する特定工程と、
前記画像処理装置の出力手段が、前記特定工程で特定した画像と関連づけて前記データベースが管理している認識尤度を、前記クエリ画像に対する該特定した画像の類似度とし、該特定した画像に関する情報と、該類似度と、を画像検索結果として出力する出力工程と
を備えることを特徴とする画像処理方法。 - それぞれの画像について、該画像に対する画像認識処理によって得られた該画像中の1以上のオブジェクトのそれぞれの属性及び領域を、該画像と関連付けて管理しているデータベースにアクセス可能な画像処理装置が行う画像処理方法であって、
前記画像処理装置の特定手段が、クエリ画像に対して画像認識処理を行うことで該クエリ画像中のオブジェクトの属性を取得し、該取得した属性と関連付けて前記データベースが管理している領域を特定する特定工程と、
前記画像処理装置の類似度を求める手段が、前記特定工程で特定した領域について画像認識処理で得られた特徴量と、前記クエリ画像において該領域に対応する領域について画像認識処理で得られた特徴量と、の類似度を求める工程と、
前記画像処理装置の出力手段が、前記特定工程で特定した領域と関連付けて前記データベースが管理している画像に関する情報と、前記類似度と、を画像検索結果として出力する出力工程と
を備えることを特徴とする画像処理方法。 - それぞれの画像について、該画像に対する画像認識処理によって得られた該画像中の1以上のオブジェクトのそれぞれの属性及び認識尤度を、該画像と関連付けて管理しているデータベースにアクセス可能な画像処理装置が行う画像処理方法であって、
前記画像処理装置の特定手段が、クエリ画像に対して画像認識処理を行うことで該クエリ画像中のオブジェクトの属性を取得し、該取得した属性と関連付けて前記データベースが管理している画像を特定する特定工程と、
前記画像処理装置の類似度を求める手段が、前記クエリ画像に対する画像認識処理で得られる特徴量と、前記特定工程で特定した画像に対する画像認識処理で得られる特徴量と、の類似度を求める工程と、
前記画像処理装置の出力手段が、前記特定工程で特定した画像と関連づけて前記データベースが管理している認識尤度と、前記類似度と、の重み付け加算により得られる総合類似度を、前記クエリ画像に対する該特定した画像の類似度とし、該特定した画像に関する情報と、該類似度と、を画像検索結果として出力する出力工程と
を備えることを特徴とする画像処理方法。 - コンピュータを、請求項1乃至5の何れか1項に記載の画像処理装置の各手段として機能させるためのコンピュータプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012184572A JP5963609B2 (ja) | 2012-08-23 | 2012-08-23 | 画像処理装置、画像処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012184572A JP5963609B2 (ja) | 2012-08-23 | 2012-08-23 | 画像処理装置、画像処理方法 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2014041560A true JP2014041560A (ja) | 2014-03-06 |
JP2014041560A5 JP2014041560A5 (ja) | 2015-08-20 |
JP5963609B2 JP5963609B2 (ja) | 2016-08-03 |
Family
ID=50393750
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012184572A Active JP5963609B2 (ja) | 2012-08-23 | 2012-08-23 | 画像処理装置、画像処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5963609B2 (ja) |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016018444A (ja) * | 2014-07-09 | 2016-02-01 | 日本電信電話株式会社 | 画像検索装置、方法、及びプログラム |
JP6012819B1 (ja) * | 2015-07-03 | 2016-10-25 | 日本電信電話株式会社 | 類似画像取得装置、方法、及びプログラム |
JP2018532198A (ja) * | 2015-10-12 | 2018-11-01 | コミサリヤ・ア・レネルジ・アトミク・エ・オ・エネルジ・アルテルナテイブ | 視覚データのストリーム中のコピーを検出するための方法およびデバイス |
KR20190012791A (ko) * | 2017-07-28 | 2019-02-11 | 한국지질자원연구원 | 이미지를 이용한 암석 및 지질구조 분류장치, 방법 및 시스템 |
JP2019537120A (ja) * | 2016-10-16 | 2019-12-19 | イーベイ インク.Ebay Inc. | 画像解析および予測に基づく視覚検索 |
JPWO2018173948A1 (ja) * | 2017-03-24 | 2020-01-16 | 株式会社日立国際電気 | サービス提供システム |
JP2020102245A (ja) * | 2020-03-05 | 2020-07-02 | 日本電気株式会社 | 異常作業検出システムおよび異常作業検出方法 |
KR20200094624A (ko) * | 2019-01-30 | 2020-08-07 | 베이징 바이두 넷컴 사이언스 앤 테크놀로지 코., 엘티디. | 이미지 기반의 데이터 처리 방법, 장치, 전자 기기 및 저장 매체 |
US10970768B2 (en) | 2016-11-11 | 2021-04-06 | Ebay Inc. | Method, medium, and system for image text localization and comparison |
US11748978B2 (en) | 2016-10-16 | 2023-09-05 | Ebay Inc. | Intelligent online personal assistant with offline visual search database |
US11836777B2 (en) | 2016-10-16 | 2023-12-05 | Ebay Inc. | Intelligent online personal assistant with multi-turn dialog based on visual search |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1139317A (ja) * | 1997-07-15 | 1999-02-12 | Omron Corp | 画像検索装置および記録媒体 |
JPH11306322A (ja) * | 1998-04-23 | 1999-11-05 | Fujitsu Ltd | 画像フィルタリングシステム |
JP2003187229A (ja) * | 2001-12-14 | 2003-07-04 | Nec Corp | 顔メタデータ生成方法および装置、並びに顔類似度算出方法および装置 |
WO2008016102A1 (fr) * | 2006-08-03 | 2008-02-07 | Nec Corporation | dispositif de calcul de similarité et dispositif de recherche d'informations |
JP2010026603A (ja) * | 2008-07-15 | 2010-02-04 | Canon Inc | 画像処理装置、画像処理方法、及びコンピュータプログラム |
JP2010518507A (ja) * | 2007-02-13 | 2010-05-27 | オリンパス株式会社 | 特徴マッチング方法 |
JP2011002966A (ja) * | 2009-06-17 | 2011-01-06 | Canon Inc | 画像検索装置及びその制御方法並びにプログラム |
-
2012
- 2012-08-23 JP JP2012184572A patent/JP5963609B2/ja active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1139317A (ja) * | 1997-07-15 | 1999-02-12 | Omron Corp | 画像検索装置および記録媒体 |
JPH11306322A (ja) * | 1998-04-23 | 1999-11-05 | Fujitsu Ltd | 画像フィルタリングシステム |
JP2003187229A (ja) * | 2001-12-14 | 2003-07-04 | Nec Corp | 顔メタデータ生成方法および装置、並びに顔類似度算出方法および装置 |
WO2008016102A1 (fr) * | 2006-08-03 | 2008-02-07 | Nec Corporation | dispositif de calcul de similarité et dispositif de recherche d'informations |
JP2010518507A (ja) * | 2007-02-13 | 2010-05-27 | オリンパス株式会社 | 特徴マッチング方法 |
JP2010026603A (ja) * | 2008-07-15 | 2010-02-04 | Canon Inc | 画像処理装置、画像処理方法、及びコンピュータプログラム |
JP2011002966A (ja) * | 2009-06-17 | 2011-01-06 | Canon Inc | 画像検索装置及びその制御方法並びにプログラム |
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016018444A (ja) * | 2014-07-09 | 2016-02-01 | 日本電信電話株式会社 | 画像検索装置、方法、及びプログラム |
JP6012819B1 (ja) * | 2015-07-03 | 2016-10-25 | 日本電信電話株式会社 | 類似画像取得装置、方法、及びプログラム |
JP2017016501A (ja) * | 2015-07-03 | 2017-01-19 | 日本電信電話株式会社 | 類似画像取得装置、方法、及びプログラム |
JP2018532198A (ja) * | 2015-10-12 | 2018-11-01 | コミサリヤ・ア・レネルジ・アトミク・エ・オ・エネルジ・アルテルナテイブ | 視覚データのストリーム中のコピーを検出するための方法およびデバイス |
US11604951B2 (en) | 2016-10-16 | 2023-03-14 | Ebay Inc. | Image analysis and prediction based visual search |
US11748978B2 (en) | 2016-10-16 | 2023-09-05 | Ebay Inc. | Intelligent online personal assistant with offline visual search database |
JP2019537120A (ja) * | 2016-10-16 | 2019-12-19 | イーベイ インク.Ebay Inc. | 画像解析および予測に基づく視覚検索 |
US11914636B2 (en) | 2016-10-16 | 2024-02-27 | Ebay Inc. | Image analysis and prediction based visual search |
US11836777B2 (en) | 2016-10-16 | 2023-12-05 | Ebay Inc. | Intelligent online personal assistant with multi-turn dialog based on visual search |
US10860898B2 (en) | 2016-10-16 | 2020-12-08 | Ebay Inc. | Image analysis and prediction based visual search |
US11804035B2 (en) | 2016-10-16 | 2023-10-31 | Ebay Inc. | Intelligent online personal assistant with offline visual search database |
US10970768B2 (en) | 2016-11-11 | 2021-04-06 | Ebay Inc. | Method, medium, and system for image text localization and comparison |
JPWO2018173948A1 (ja) * | 2017-03-24 | 2020-01-16 | 株式会社日立国際電気 | サービス提供システム |
JP7026105B2 (ja) | 2017-03-24 | 2022-02-25 | 株式会社日立国際電気 | サービス提供システム |
KR101981669B1 (ko) * | 2017-07-28 | 2019-05-24 | 한국지질자원연구원 | 이미지를 이용한 암석 및 지질구조 분류장치, 방법 및 시스템 |
KR20190012791A (ko) * | 2017-07-28 | 2019-02-11 | 한국지질자원연구원 | 이미지를 이용한 암석 및 지질구조 분류장치, 방법 및 시스템 |
US11314800B2 (en) | 2019-01-30 | 2022-04-26 | Beijing Baidu Netcom Science And Technology Co., Ltd. | Method, apparatus, electronic device, and storage medium for image-based data processing |
KR102279126B1 (ko) * | 2019-01-30 | 2021-07-19 | 베이징 바이두 넷컴 사이언스 앤 테크놀로지 코., 엘티디. | 이미지 기반의 데이터 처리 방법, 장치, 전자 기기 및 저장 매체 |
KR20200094624A (ko) * | 2019-01-30 | 2020-08-07 | 베이징 바이두 넷컴 사이언스 앤 테크놀로지 코., 엘티디. | 이미지 기반의 데이터 처리 방법, 장치, 전자 기기 및 저장 매체 |
JP2020102245A (ja) * | 2020-03-05 | 2020-07-02 | 日本電気株式会社 | 異常作業検出システムおよび異常作業検出方法 |
Also Published As
Publication number | Publication date |
---|---|
JP5963609B2 (ja) | 2016-08-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5963609B2 (ja) | 画像処理装置、画像処理方法 | |
US10977515B2 (en) | Image retrieving apparatus, image retrieving method, and setting screen used therefor | |
US11501514B2 (en) | Universal object recognition | |
US10140575B2 (en) | Sports formation retrieval | |
JP6046948B2 (ja) | 物体検知装置及びその制御方法、プログラム、並びに記憶媒体 | |
US11341770B2 (en) | Facial image identification system, identifier generation device, identification device, image identification system, and identification system | |
US10007678B2 (en) | Image processing apparatus, image processing method, and recording medium | |
WO2016139964A1 (ja) | 注目領域抽出装置および注目領域抽出方法 | |
JP2015111339A (ja) | 画像検索システム、画像検索装置、検索サーバ装置、画像検索方法、及び画像検索プログラム | |
TW201546636A (zh) | 註解顯示器輔助裝置及輔助方法 | |
JPWO2020050413A1 (ja) | 認証用顔画像候補判定装置、認証用顔画像候補判定方法、プログラム、および記録媒体 | |
JP6173754B2 (ja) | 画像検索システム、画像検索装置および画像検索方法 | |
JP5746550B2 (ja) | 画像処理装置、画像処理方法 | |
CN112991555B (zh) | 数据展示方法、装置、设备以及存储介质 | |
JP2011118790A (ja) | 類似画像検索装置,類似画像検索方法および類似画像検索プログラム | |
Carvalho et al. | Analysis of object description methods in a video object tracking environment | |
CN105190689A (zh) | 包括基于毗连特征的对象检测和/或双边对称对象分段的图像处理 | |
Lei et al. | A new clothing image retrieval algorithm based on sketch component segmentation in mobile visual sensors | |
JP2018081452A (ja) | 画像処理装置、画像処理方法 | |
CN115082999A (zh) | 合影图像人物分析方法、装置、计算机设备和存储介质 | |
JP6341843B2 (ja) | 画像検索装置、及び画像検索システム | |
Zhang et al. | Effective image registration model using optimized KAZE algorithm | |
Grouver et al. | A spatial density and phase angle based correlation for multi-type family photo identification | |
JP2020149337A (ja) | 画像検索装置、画像検索方法およびコンピュータプログラム | |
WO2022079841A1 (ja) | グループ特定装置、グループ特定方法、及びコンピュータ読み取り可能な記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150703 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150703 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20160524 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160530 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160628 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5963609 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |