JP6387290B2 - 画像検索装置、画像登録装置、画像特徴選択装置、方法、及びプログラム - Google Patents
画像検索装置、画像登録装置、画像特徴選択装置、方法、及びプログラム Download PDFInfo
- Publication number
- JP6387290B2 JP6387290B2 JP2014242370A JP2014242370A JP6387290B2 JP 6387290 B2 JP6387290 B2 JP 6387290B2 JP 2014242370 A JP2014242370 A JP 2014242370A JP 2014242370 A JP2014242370 A JP 2014242370A JP 6387290 B2 JP6387290 B2 JP 6387290B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- pattern
- feature
- extracted
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Description
まず、本発明の実施の形態に係る画像特徴選択装置、画像登録装置、及び画像検索装置についての原理について説明する。
また、選択された柄クラスに固有の画像特徴を、検索時の類似度評価においても用いることで、同一の柄クラスが類似の柄として提示されやすい、という良い結果を得ることができる。
まず、本発明の実施の形態に係る画像特徴選択装置の構成について説明する。図1に示すように、本発明の実施の形態に係る画像特徴選択装置100は、CPUと、RAMと、後述する画像特徴選択処理ルーチンを実行するためのプログラムや各種データを記憶したROMと、を含むコンピュータで構成することが出来る。この画像特徴選択装置100は、機能的には図1に示すように入力部10と、提示部12と、柄領域入力部14と、演算部20と、出力部90とを備えている。
具体的には、衣服検出部24は、学習用画像中の衣服が写っている領域の位置を検出する。衣服の領域を検出する方法として、例えばDeformable Part Model(非特許文献4:P. Felzenszwalb, D. McAllester, D. Ramanan “A discriminatively trained, multiscale, deformable part model”, In Proc. of CVPR, pp.1-8, 2008.)を用いることができる。上記非特許文献4に示すような汎用的な物体の検出器を用いる場合、物体の見えを学習するための学習用の画像が必要となるため、衣服検出のための衣服の領域を手作業によって指定した学習用の画像を別途用意し、検出器を予め学習させておく。
具体的には、画像特徴抽出部30は、学習用柄領域抽出部28によって抽出された柄領域から、局所的なテクスチャパターンとして、Local Binary Pattern(LBP)特徴を抽出する。本実施の形態では、衣服の柄を精度良く認識するために局所的なテクスチャパターンを捉える特徴量としてLBP特徴を用いるが、必ずしもLBP特徴でなくても良い。LBP特徴は、図2に示されるように、注目画素と周辺画素との輝度値の比較を2値コード化したものであり、局所的なテクスチャパターンである。具体的には、まず、画像特徴抽出部30は、学習用画像における柄領域に含まれる各画素について、注目画素と周辺画素との関係から1つのLBP特徴を以下の式(1)に従って算出する。
具体的には、支配的特徴抽出部32は、学習用画像の各々に対し、画像特徴抽出部30によって生成された学習用画像についてのLBP特徴ヒストグラムにおいて、LBP特徴の検出量が大きい順に支配的特徴セットに加えていき、加算した値の総和が全体の一定割合に到達したところで加算を終了し、取得されたLBP特徴の組み合わせを学習用画像iの支配的特徴セットDiとする。
具体的には、選択特徴統合部36は、学習用画像の各々についての支配的特徴セットDiから、類似する柄を含む画像の検索に有用な特徴をさらに抽出する。図3に示されるように、選択特徴統合部36は、まず、柄クラスデータ記憶部34に記憶された柄クラスデータを用いて、同一の柄クラスの学習用画像集合に対応する支配的特徴セット群から、共通部分を取り出し、以下の式(2)に示すように各柄クラスの共通特徴セットLcを算出し、特徴選択パラメータ記憶部38に記憶する。
次に、本発明の実施の形態に係る画像登録装置の構成について説明する。画像登録装置は、衣服の領域を含む参照用画像を衣服画像データベースに登録する。図4に示すように、実施の形態に係る画像登録装置200は、CPUと、RAMと、後述する画像登録処理ルーチンを実行するためのプログラムや各種データを記憶したROMと、を含むコンピュータで構成することが出来る。この画像登録装置200は、機能的には図4に示すように入力部210と、演算部220と、出力部290とを備えている。
次に、本発明の実施の形態に係る画像検索装置の構成について説明する。画像検索装置は、衣服の領域を含む複数の参照用画像から、衣服の領域を含むクエリ画像と類似する参照用画像を検索する。図6に示すように、本実施の形態に係る画像検索装置300は、CPUと、RAMと、後述する画像検索処理ルーチンを実行するためのプログラムや各種データを記憶したROMと、を含むコンピュータで構成することが出来る。この画像検索装置300は、機能的には図6に示すように入力部310と、演算部320と、出力部390とを備えている。
そして、柄領域抽出部330は、特徴選択パラメータ記憶部328に記憶されている各柄クラスの共通特徴セットLcに基づいて、柄クラスの共通特徴セットと抽出された支配的特徴セットとで共通するLBP特徴の数が最大となる候補領域を、衣服の柄領域として抽出する。
次に、本発明の実施の形態に係る画像特徴選択装置100の作用について説明する。まず、入力部10において、衣服の領域を含む複数の学習用画像を受け付け、画像記憶部22に記憶する。また、入力部10において、学習用画像の各々に対応した柄クラスデータを受け付け、柄クラスデータ記憶部34に記憶する。そして、画像特徴選択装置100は、画像記憶部22から複数の学習用画像を読み込むと、図7に示す画像特徴選択処理ルーチンを実行する。
次に、本発明の実施の形態に係る画像登録装置200の作用について説明する。事前に、入力部210において、画像特徴選択装置100において取得した、各柄クラスcの共通特徴セットLc及び特徴選択パラメータGを受け付け、特徴選択パラメータ記憶部228に記憶しておく。そして、入力部210において、参照用画像を受け付けると、画像登録装置200は、図8に示す画像登録処理ルーチンを実行する。
次に、本発明の実施の形態に係る画像検索装置300の作用について説明する。まず、事前に入力部310において、画像特徴選択装置100において取得した各柄クラスcの共通特徴セットLc及び特徴選択パラメータGを受け付け、特徴選択パラメータ記憶部328に記憶し、また、入力部310において、画像登録装置200の衣服画像データベース234に格納されている参照画像と画像特徴との複数の組み合わせを受け付け、衣服画像データベース334に記憶する。そして、入力部310において、クエリ画像を受け付けると、画像検索装置300は、図9に示す画像検索処理ルーチンを実行する。
図10に、本実施の形態に係る画像検索装置300によって得られる類似柄検索結果の一例を示す。図10内の左側にクエリ画像、右側に検索結果画像を示しており、上列左から順に検索1位〜5位、下列左から順に6位〜10位を示している。クエリ画像に含まれる柄と類似する柄を含む画像が検索されていることがわかる。
12 提示部
14 柄領域入力部
20 演算部
22 画像記憶部
24 衣服検出部
26 画像正規化部
28 学習用柄領域抽出部
30 画像特徴抽出部
32 支配的特徴抽出部
34 柄クラスデータ記憶部
36 選択特徴統合部
38 特徴選択パラメータ記憶部
90 出力部
100 画像特徴選択装置
200 画像登録装置
210 入力部
220 演算部
224 衣服検出部
226 画像正規化部
228 特徴選択パラメータ記憶部
230 柄領域抽出部
232 選択特徴抽出部
234 衣服画像データベース
290 出力部
300 画像検索装置
310 入力部
320 演算部
324 衣服検出部
326 画像正規化部
328 特徴選択パラメータ記憶部
330 柄領域抽出部
332 選択特徴抽出部
334 衣服画像データベース
336 類似特徴検索部
390 出力部
Claims (7)
- 衣服の領域を含む複数の参照用画像から、衣服の領域を含むクエリ画像と類似する前記参照用画像を検索する画像検索装置であって、
前記クエリ画像に含まれる衣服の柄領域の候補を表す候補領域の各々に対し、前記候補領域に含まれる画素の各々について取得される局所的なテクスチャパターンのうち、頻出する局所的なテクスチャパターンの各々を前記候補領域に対応する支配的特徴セットとして抽出し、衣服の柄クラスの各々について予め定められた前記柄クラスの複数の柄領域から抽出される支配的特徴セットで共通する共通特徴セットに基づいて、前記柄クラスの共通特徴セットと前記抽出された支配的特徴セットとで共通する前記局所的なテクスチャパターンの数が最大となる前記候補領域を、衣服の柄領域として抽出する柄領域抽出部と、
前記柄領域抽出部によって抽出された前記柄領域に含まれる画素の各々について取得される局所的なテクスチャパターンであって、かつ、予め定められた、前記柄クラスと関連する前記局所的なテクスチャパターンを、前記柄領域の画像特徴として抽出する選択特徴抽出部と、
前記選択特徴抽出部によって抽出された前記画像特徴に基づいて、前記参照用画像と前記参照用画像から抽出された前記画像特徴との組み合わせを複数記憶した衣服画像データベースから、前記クエリ画像と類似する前記参照用画像を検索する類似特徴検索部と、
を含む画像検索装置。 - 衣服の領域を含む参照用画像を衣服画像データベースに登録する画像登録装置であって、
前記参照用画像に含まれる衣服の柄領域の候補を表す候補領域の各々に対し、前記候補領域に含まれる画素の各々について取得される局所的なテクスチャパターンのうち、頻出する局所的なテクスチャパターンの各々を前記候補領域に対応する支配的特徴セットとして抽出し、衣服の柄クラスの各々について予め定められた前記柄クラスの複数の柄領域から抽出される支配的特徴セットで共通する共通特徴セットに基づいて、前記柄クラスの共通特徴セットと前記抽出された支配的特徴セットとで共通する前記局所的なテクスチャパターンの数が最大となる前記候補領域を、衣服の柄領域として抽出する柄領域抽出部と、
前記柄領域抽出部によって抽出された前記柄領域に含まれる画素の各々について取得される局所的なテクスチャパターンであって、かつ、予め定められた、前記柄クラスと関連する前記局所的なテクスチャパターンを、前記柄領域の画像特徴として抽出し、前記参照用画像と前記画像特徴との組み合わせを衣服画像データベースに登録する選択特徴抽出部と、
を含む画像登録装置。 - 衣服の領域を含む複数の学習用画像であって、かつ衣服の柄クラスが予め付与された複数の学習用画像の各々に対し、前記学習用画像の衣服の柄領域に含まれる画素の各々について局所的なテクスチャパターンを抽出する画像特徴抽出部と、
前記複数の学習用画像の各々に対し、前記画像特徴抽出部によって抽出された前記局所的なテクスチャパターンのうち、頻出する局所的なパターンの各々を支配的特徴セットとして抽出する支配的特徴抽出部と、
前記柄クラスが同一の学習用画像集合の各々に対し、前記学習用画像集合から抽出された支配的特徴セットで共通する前記局所的なテクスチャパターンを取り出し、前記学習用画像集合の各々に対して取り出された前記局所的なテクスチャパターンの和集合を、前記柄クラスと関連する前記局所的なテクスチャパターンとして抽出する選択特徴統合部と、
を含む画像特徴選択装置。 - 柄領域抽出部と、選択特徴抽出部と、類似特徴検索部とを含み、衣服の領域を含む複数の参照用画像から、衣服の領域を含むクエリ画像と類似する前記参照用画像を検索する画像検索装置のおける画像検索方法であって、
前記柄領域抽出部が、前記クエリ画像に含まれる衣服の柄領域の候補を表す候補領域の各々に対し、前記候補領域に含まれる画素の各々について取得される局所的なテクスチャパターンのうち、頻出する局所的なテクスチャパターンの各々を前記候補領域に対応する支配的特徴セットとして抽出し、衣服の柄クラスの各々について予め定められた前記柄クラスの複数の柄領域から抽出される支配的特徴セットで共通する共通特徴セットに基づいて、前記柄クラスの共通特徴セットと前記抽出された支配的特徴セットとで共通する前記局所的なテクスチャパターンの数が最大となる前記候補領域を、衣服の柄領域として抽出し、
前記選択特徴抽出部が、前記柄領域抽出部によって抽出された前記柄領域に含まれる画素の各々について取得される局所的なテクスチャパターンであって、かつ、予め定められた、前記柄クラスと関連する前記局所的なテクスチャパターンを、前記柄領域の画像特徴として抽出し、
前記類似特徴検索部が、前記選択特徴抽出部によって抽出された前記画像特徴に基づいて、前記参照用画像と前記参照用画像から抽出された前記画像特徴との組み合わせを複数記憶した衣服画像データベースから、前記クエリ画像と類似する前記参照用画像を検索する、
画像検索方法。 - 柄領域抽出部と、選択特徴抽出部とを含み、衣服の領域を含む参照用画像を衣服画像データベースに登録する画像登録装置における画像登録方法であって、
前記柄領域抽出部が、前記参照用画像に含まれる衣服の柄領域の候補を表す候補領域の各々に対し、前記候補領域に含まれる画素の各々について取得される局所的なテクスチャパターンのうち、頻出する局所的なテクスチャパターンの各々を前記候補領域に対応する支配的特徴セットとして抽出し、衣服の柄クラスの各々について予め定められた前記柄クラスの複数の柄領域から抽出される支配的特徴セットで共通する共通特徴セットに基づいて、前記柄クラスの共通特徴セットと前記抽出された支配的特徴セットとで共通する前記局所的なテクスチャパターンの数が最大となる前記候補領域を、衣服の柄領域として抽出し、
前記選択特徴抽出部が、前記柄領域抽出部によって抽出された前記柄領域に含まれる画素の各々について取得される局所的なテクスチャパターンであって、かつ、予め定められた、前記柄クラスと関連する前記局所的なテクスチャパターンを、前記柄領域の画像特徴として抽出し、前記参照用画像と前記画像特徴との組み合わせを衣服画像データベースに登録する、
画像登録方法。 - 画像特徴抽出部と、支配的特徴抽出部と、選択特徴統合部とを含む画像特徴選択装置における画像特徴選択方法であって、
前記画像特徴抽出部が、衣服の領域を含む複数の学習用画像であって、かつ衣服の柄クラスが予め付与された複数の学習用画像の各々に対し、前記学習用画像の衣服の柄領域に含まれる画素の各々について局所的なテクスチャパターンを抽出し、
前記支配的特徴抽出部が、前記複数の学習用画像の各々に対し、前記画像特徴抽出部によって抽出された前記局所的なテクスチャパターンのうち、頻出する局所的なパターンの各々を支配的特徴セットとして抽出し、
前記選択特徴統合部が、前記柄クラスが同一の学習用画像集合の各々に対し、前記学習用画像集合から抽出された支配的特徴セットで共通する前記局所的なテクスチャパターンを取り出し、前記学習用画像集合の各々に対して取り出された前記局所的なテクスチャパターンの和集合を、前記柄クラスと関連する前記局所的なテクスチャパターンとして抽出する、
画像特徴選択方法。 - コンピュータを、請求項1記載の画像検索装置、請求項2記載の画像登録装置、又は請求項3記載の画像特徴選択装置を構成する各部として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014242370A JP6387290B2 (ja) | 2014-11-28 | 2014-11-28 | 画像検索装置、画像登録装置、画像特徴選択装置、方法、及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014242370A JP6387290B2 (ja) | 2014-11-28 | 2014-11-28 | 画像検索装置、画像登録装置、画像特徴選択装置、方法、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016103235A JP2016103235A (ja) | 2016-06-02 |
JP6387290B2 true JP6387290B2 (ja) | 2018-09-05 |
Family
ID=56087861
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014242370A Active JP6387290B2 (ja) | 2014-11-28 | 2014-11-28 | 画像検索装置、画像登録装置、画像特徴選択装置、方法、及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6387290B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7211775B2 (ja) * | 2018-11-26 | 2023-01-24 | 株式会社メルカリ | 検索プログラム、サーバ装置、検索方法及び検索システム |
JP7211776B2 (ja) * | 2018-11-26 | 2023-01-24 | 株式会社メルカリ | 検索プログラム、サーバ装置、検索方法及び検索システム |
CN109670591B (zh) * | 2018-12-14 | 2022-09-27 | 深圳市商汤科技有限公司 | 一种神经网络的训练方法及图像匹配方法、装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000090239A (ja) * | 1998-09-10 | 2000-03-31 | Matsushita Electric Ind Co Ltd | 画像検索装置 |
US6584465B1 (en) * | 2000-02-25 | 2003-06-24 | Eastman Kodak Company | Method and system for search and retrieval of similar patterns |
JP2009288928A (ja) * | 2008-05-28 | 2009-12-10 | Fujifilm Corp | 服飾検索方法及び装置、服飾検索プログラム、並びに服飾登録装置 |
US8798362B2 (en) * | 2011-08-15 | 2014-08-05 | Hewlett-Packard Development Company, L.P. | Clothing search in images |
WO2013099038A1 (ja) * | 2011-12-29 | 2013-07-04 | 楽天株式会社 | 画像検索システム、画像検索方法、画像検索装置、プログラム、及び情報記憶媒体 |
-
2014
- 2014-11-28 JP JP2014242370A patent/JP6387290B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2016103235A (ja) | 2016-06-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Kim et al. | Canonical correlation analysis of video volume tensors for action categorization and detection | |
JP2018508888A5 (ja) | ||
WO2019033569A1 (zh) | 眼球动作分析方法、装置及存储介质 | |
US20140079286A1 (en) | Method and apparatus of object recognition | |
JP2012053606A (ja) | 情報処理装置および方法、並びにプログラム | |
Cheng et al. | Person re-identification by articulated appearance matching | |
KR101865253B1 (ko) | Region-sift와 discriminant svm 분류기를 이용한 나이 및 성별 인식 장치 및 그 방법 | |
JP6387290B2 (ja) | 画像検索装置、画像登録装置、画像特徴選択装置、方法、及びプログラム | |
JP6410450B2 (ja) | オブジェクト識別装置、オブジェクト識別方法及びプログラム | |
KR101796027B1 (ko) | 얼굴 영상 기반 성별 인식 방법 및 장치 | |
JP2015106300A (ja) | 画像検索装置、画像検索装置の制御方法およびプログラム | |
WO2019033567A1 (zh) | 眼球动作捕捉方法、装置及存储介质 | |
CN112330383A (zh) | 用于基于可视元素的物品推荐的设备及方法 | |
EP3591580A1 (en) | Method and device for recognizing descriptive attributes of appearance feature | |
JP6571200B2 (ja) | 製品インデキシング方法およびそのシステム | |
JP2017211938A (ja) | 生体情報処理装置、生体情報処理方法および生体情報処理プログラム | |
JP2017084078A (ja) | スタイル検索装置、方法、及びプログラム | |
JP5988286B1 (ja) | プログラム及び画像処理装置 | |
JP2015228129A (ja) | コーディネート推薦装置及びプログラム | |
CN107231519B (zh) | 视频处理装置及控制方法 | |
JP6220737B2 (ja) | 被写体領域抽出装置、方法、及びプログラム | |
US20210166425A1 (en) | Mapping multiple views to an identity | |
Teixeira et al. | Unsupervised fingerprint segmentation based on multiscale directional information | |
JP6739896B2 (ja) | 情報処理装置、情報処理方法、及び、プログラム | |
JP2018081597A (ja) | 属性判定方法、属性判定装置及びコンピュータプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170228 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180129 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180206 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180330 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180807 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180813 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6387290 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |