JP5436104B2 - 画像検索装置及び画像検索方法 - Google Patents
画像検索装置及び画像検索方法 Download PDFInfo
- Publication number
- JP5436104B2 JP5436104B2 JP2009205213A JP2009205213A JP5436104B2 JP 5436104 B2 JP5436104 B2 JP 5436104B2 JP 2009205213 A JP2009205213 A JP 2009205213A JP 2009205213 A JP2009205213 A JP 2009205213A JP 5436104 B2 JP5436104 B2 JP 5436104B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- region
- query
- local feature
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 77
- 238000000605 extraction Methods 0.000 claims description 197
- 238000004364 calculation method Methods 0.000 description 45
- 230000008569 process Effects 0.000 description 38
- 238000012545 processing Methods 0.000 description 38
- 238000012800 visualization Methods 0.000 description 20
- 238000010586 diagram Methods 0.000 description 13
- 239000000284 extract Substances 0.000 description 12
- 238000001914 filtration Methods 0.000 description 11
- 238000012937 correction Methods 0.000 description 5
- 230000002093 peripheral effect Effects 0.000 description 3
- 238000004040 coloring Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
- G06F16/5854—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using shape and object relationship
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
- G06F16/5838—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using colour
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/98—Detection or correction of errors, e.g. by rescanning the pattern or by human intervention; Evaluation of the quality of the acquired patterns
- G06V10/987—Detection or correction of errors, e.g. by rescanning the pattern or by human intervention; Evaluation of the quality of the acquired patterns with the intervention of an operator
Description
第二に、画像の局所的な特徴量(局所特徴量)を使って類似画像を検索する方法が提案されている。これらの方法では、まず画像から特徴的な点(局所特徴点)を抽出する。次に、局所特徴点とその近傍の画像情報とから、その局所特徴点に対する特徴量(局所特徴量)を計算する。画像の検索は、局所特徴量同士のマッチングによって行う。
上述のような局所特徴量を利用する手法においては、局所特徴量を回転不変、拡大・縮小不変となる複数の要素で構成される量として定義することで、画像を回転したり、拡大・縮小したりした場合でも検索可能とする方法が提案されている(非特許文献1)。
また、画像の縁の部分では、局所特徴量の計算も困難である。局所特徴量の計算では、まず、局所特徴点を中心とした小サイズの領域(局所特徴量計算領域)を設定する。その後、局所特徴量計算領域内の画素パターンから局所特徴量を計算する。この場合も、画像の縁部分では局所特徴量計算領域が画像からはみ出してしまう。
このように、局所特徴量を使った検索システムでは局所特徴量の算出に関わる制約が存在する。しかしながら、従来のシステムでは本制約に関する知識に乏しいユーザへの配慮が不十分であり、局所特徴量が計算可能な領域を正確に考慮した検索条件を指定する手段を提供できていなかった。そのため、クエリとして選んだ検索領域が局所特徴量を正確に計算可能な領域から外れていることにユーザが気付かない場合、ユーザは意図に沿った検索結果を得られないという問題があった。
また、本発明の画像検索装置は、ユーザの指定操作に基づいて、画像のクエリ領域を指定する指定手段と、前記指定手段で指定されたクエリ領域と局所特徴量を抽出するのが困難な前記クエリ領域の端から内側の所定幅の領域とが重なっているか否かを判定する判定手段と、前記判定手段で、前記指定手段で指定されたクエリ領域と局所特徴量を抽出するのが困難な領域とが重なっていないと判定された場合、前記クエリ領域から抽出された局所特徴量に基づいて、記憶装置に記憶されている局所特徴量と画像とが対応付けられた画像特徴データを検索する検索手段と、を有することを特徴とする。
また、本発明の画像検索装置は、ユーザの指定操作に基づいて、画像のクエリ領域を指定する指定手段と、前記指定手段で指定されたクエリ領域の全ての領域が局所特徴量を抽出するのが可能な抽出可能領域となるよう局所特徴量を抽出するのが困難な特徴抽出不可領域が拡大後において拡大前の前記指定されたクエリ領域の外の領域になるように前記クエリ領域を拡大する拡大手段と、前記指定手段で指定されたクエリ領域の全ての領域から抽出された局所特徴量に基づいて、記憶装置に記憶されている局所特徴量と画像とが対応付けられた画像特徴データを検索する検索手段と、を有することを特徴とする。
尚、以下に示す実施形態では、画像登録装置及び画像検索装置等の画像処理装置は、局所特徴量の計算時に、まず局所特徴点周辺の輝度勾配を調査して主方向を決定するものとする。画像処理装置は、主方向に応じて局所特徴点を中心に局所特徴量計算領域を回転させることで局所特徴量に画像の回転に対する不変性を持たせることができる。また、以下に示す実施形態では、画像処理装置は、主方向の決定方法として参考文献1に記載されている方法を利用するものとする。尚、主方向の決定方法は、ノイズの影響を受けにくい方法であれば参考文献1に記載の方法でなくてもよい。
また、以下に示す実施形態では、画像処理装置は、局所特徴量として参考文献2に記載されている方法を利用するものとする。局所特徴量についても、画像処理装置は、ノイズの影響を受けにくい局所特徴量であれば参考文献2に記載の方法以外の方法で算出してもよい。
参考文献1:David G. Lowe, “Distinctive Image Features from Scale−Invariant Keypoints,” International Journal of Computer Vision, 60, 2 (2004), pp.91−110.
参考文献2:Y. Ke and R. Sukthankar, “ PCA−SIFT: A More Distinctive Representation for Local Image Descriptors,” Proc. CVPR, pp.506−513, 2004.
[画像の登録処理]
図1は、局所特徴の抽出が可能な領域と困難な領域とを示す図である。図1において、101は、フィルタ処理に起因する正確なフィルタ処理が困難な領域である。102は、局所特徴量計算領域に起因する正確な局所特徴量の計算が困難な領域である。103は、45度回転した局所特徴量計算領域である。104は、特徴抽出可能領域であり、局所特徴はこの特徴抽出可能領域104上で抽出される。
図2は、画像登録装置の機能構成の一例を示す図である。画像特徴データベース206には、画像登録装置200により登録画像201から抽出された画像特徴(画像の特徴量)が登録される。
図3のフローチャートを参照して、画像の登録処理を説明する。図3は、画像の登録処理の一例を示すフローチャートである。
画像入力部202は、登録画像201を読み込む(S301)。次に、局所特徴点抽出部203は、登録画像201から局所特徴点を抽出する(S302)。局所特徴点の抽出において局所特徴点抽出部203は、登録画像201から輝度成分を抽出して輝度成分画像を生成し、生成した輝度成分画像を段階的に縮小すると共に各縮小画像に対してぼかし処理を施す。局所特徴点抽出部203は、このように生成した各ぼかし画像から局所特徴点を抽出する。この局所特徴点の抽出方法として、本実施形態ではHarris作用素を用いるものとする。詳細は、参考文献3を参照。
参考文献3:C.Harris and M.J. Stephens, “A Combined corner and edge detector,” In Alvey Vision Conference, pages 147‐151, 1988.
ここで、ぼかし処理は、画像とぼかしフィルタとのコンボリューション処理で実現されるので、ぼかしフィルタの大きさから図1で示した正確なフィルタ処理が困難な領域101が特定される。本実施形態では、ぼかしフィルタとしてガウスフィルタを採用し、パラメータとしてσ=1.5として3σの範囲のフィルタを生成するものとする。即ち、ぼかしフィルタの大きさは11画素×11画素の大きさとなるので、正確なフィルタ処理が困難な領域101は画像の縁から5画素幅の領域となる。
このとき局所特徴量計算領域のサイズは予め定められていること及び正確なフィルタ処理が困難な領域101が確定していることから、局所特徴点抽出部203は、図1で示した局所特徴量の計算が困難な領域102と特徴抽出可能領域104とを特定できる。本実施の形態では、局所特徴量を参考文献2の方法で算出しているので、局所特徴量計算領域のサイズは41画素×41画素となる。局所特徴量の計算が困難な領域102の幅が最大になるのは、局所特徴量計算領域を45°回転させた場合であり、このときの幅は29画素となる。以下の説明では、正確なフィルタ処理が困難な領域101と局所特徴量の計算が困難な領域102とを合わせて特徴抽出不可領域と記載することがある。本実施の形態では、特徴抽出不可領域は画像の縁から34画素幅の範囲になる。また、クエリ画像のうち、前記特徴抽出不可領域以外の領域を特徴抽出可能領域と記載することがある。
局所特徴量の算出は特徴抽出可能領域104上で実施される。特徴登録部205は、S303で算出された局所特徴量を画像特徴データベース206に登録可能な特徴量表現形式に構成し、前記特徴量表現形式の局所特徴量を画像特徴として、登録画像と対応付けて画像特徴データとして画像特徴データベース206に登録する(S304)。
次に、図4及び図5を用いて画像の検索処理及び特徴抽出可能領域を視覚的に示す処理を説明する。
図4は、実施形態1の画像検索装置の機能構成を示す図(その1)である。図5は、実施形態1の画像の検索処理と特徴抽出可能領域の視覚化処理との一例を示すフローチャート(その1)である。400は、画像検索装置である。まず、画像入力部402は、クエリ画像401を読み込む(S501)。読み込んだクエリ画像401は、クエリ画像表示部405に渡される。次に、局所特徴点抽出部403は、クエリ画像401から局所特徴点を抽出する(S503)。局所特徴点の抽出にあたっては、局所特徴点抽出部403は、クエリ画像401から輝度成分を抽出して輝度成分画像を生成し、当該輝度成分画像を段階的に縮小すると共に各縮小画像に対してぼかし処理を施す。局所特徴点抽出部403は、このように生成した各ぼかし画像から局所特徴点を抽出する。
ここで、ぼかし処理は、画像とぼかしフィルタとのコンボリューション処理で実現されるので、局所特徴点抽出部403は、ぼかしフィルタの大きさから図1で示した正確なフィルタ処理が困難な領域101を特定することができる。正確なフィルタ処理が困難な領域101からは局所特徴量を計算することはできない。局所特徴点抽出部403は、特定した正確なフィルタ処理が困難な領域101の情報を局所特徴量算出部404に渡す。
クエリ領域指定部407は、ユーザの指定操作に基づいて、クエリ画像からユーザが指定した検索に使う画像領域を局所特徴抽出範囲として指定する(S506)。クエリ領域指定部407は、前記局所特徴抽出範囲を、指定領域情報可視化部406に渡す。指定領域情報可視化部406は、ぼかしフィルタの大きさ及び局所特徴量計算領域のサイズから前記局所特徴抽出範囲における特徴抽出不可領域を特定し、前記特徴抽出不可領域情報をクエリ画像表示部405に渡す。クエリ画像表示部405は、前記特徴抽出不可領域を網掛け表示する(S507)。即ち、局所特徴抽出範囲の中で網掛け表示されていない領域が特徴抽出可能領域となる。
但し、本実施形態ではS504によって前記局所特徴抽出範囲内からも局所特徴量を算出済みなので、前記局所特徴抽出範囲内に特徴抽出不可領域は存在せず、前記局所特徴抽出範囲は全て特徴抽出可能領域となる。
その後、特徴比較部408は、特徴抽出可能領域に存在する局所特徴(画像特徴)だけを使って画像特徴データベース206を検索し(S508)、前記画像特徴に対応付けられた画像を検索結果画像409として出力する(S509)。
即ち、検索は、特徴抽出可能領域841の内部に存在する局所特徴だけを使って実行される。但し、上述した説明ではS504によって前記局所特徴抽出範囲内からも局所特徴量を算出済みなので、網掛け表示された特徴抽出不可領域842は存在しない。また、上述した説明の場合、特徴抽出可能領域841は、ユーザにより指定された局所特徴抽出範囲831と一致する。
上述した説明では、ステップS506で局所特徴抽出範囲を指定し、ステップS507で局所特徴抽出不可領域を表示した後、ステップS508及びS509で特徴抽出可能領域に存在する局所特徴だけを使って検索が実行されるよう説明を行った。この構成ではユーザが誤って局所特徴抽出範囲を指定した場合に修正することができない。そのため、例えばクエリ画像表示部405は、ステップS507でユーザに局所特徴抽出範囲の修正要否を確認するようにしてもよい。局所特徴抽出範囲の修正が必要な場合、クエリ画像表示部405は、処理をステップS506に戻す。ここで、局所特徴抽出範囲の修正方法は、新たに局所特徴抽出範囲を指定するように構成してもよいし、指定済みの局所特徴抽出範囲に修正を加えるように構成してもよい。指定済みの局所特徴抽出範囲に修正を加える方法としては、平行移動や変形等がある。更に、指定済みの局所特徴抽出範囲に修正を加えた後でも、指定済みの局所特徴抽出範囲をキャンセル可能とし、キャンセルした場合には新たに局所特徴抽出範囲を指定するように構成してもよい。
図7は、実施形態1の画像検索装置の機能構成を示す図(その2)である。図8は、実施形態1の画像の検索処理と特徴抽出可能領域の視覚化処理との一例を示すフローチャート(その2)である。図7において600は、画像検索装置である。本構成では、局所特徴点抽出部403における局所特徴点の抽出処理(S503)と局所特徴量算出部404における局所特徴量の算出処理(S504)とをクエリ領域指定部407における局所特徴抽出範囲の指定(S506)の後で実施するように構成する。
即ち、画像入力部402は、クエリ画像401を読み込む(S501)。読み込んだクエリ画像401は、クエリ画像表示部405に渡される。クエリ画像表示部405は、ぼかしフィルタの大きさ及び局所特徴量計算領域のサイズから前記局所特徴抽出範囲における特徴抽出不可領域を特定し、クエリ画像のうち、特徴抽出可能領域104だけを表示する(S505)。
クエリ領域指定部407は、ユーザの指定操作に基づいて、特徴抽出可能領域104からユーザが指定した検索に使う画像領域を局所特徴抽出範囲として指定する(S506)。
次に、局所特徴点抽出部403は、前記局所特徴抽出範囲から局所特徴点の抽出処理を実施する(S503)。その後、局所特徴量算出部404は、局所特徴量の算出処理を実施する(S504)。局所特徴量算出部404は、前記局所特徴抽出範囲を、指定領域情報可視化部406に渡す。指定領域情報可視化部406は、ぼかしフィルタの大きさ及び局所特徴量計算領域のサイズから前記局所特徴抽出範囲における特徴抽出不可領域を特定し、前記特徴抽出不可領域情報をクエリ画像表示部405に渡す。クエリ画像表示部405は、前記特徴抽出不可領域を網掛け表示する(S507)。即ち、局所特徴抽出範囲の中で網掛け表示されていない部分が特徴抽出可能領域となる。その後、特徴比較部408は、特徴抽出可能領域から抽出された局所特徴だけを使って検索を実行し(S508)、検索結果画像409を出力する(S509)。
或いは、ステップS507でユーザに局所特徴抽出範囲の修正要否を確認するようにした場合は、局所特徴点の抽出処理(S503)と局所特徴量の算出処理(S504)とを画像特徴の比較処理(S508)の直前で実施するように構成してもよい。即ち、前記指定した局所特徴抽出範囲内からの局所特徴量算出処理を検索前に実施するように構成するようにしてもよい。
このように、局所特徴点抽出部403による局所特徴点の抽出処理(S503)と局所特徴量算出部404による局所特徴量の算出処理(S504)とのタイミングは自由に構成することができる。
また、クエリ画像表示部405において前記特徴抽出不可領域を網掛け表示する(S507)ように説明を行ったが、特徴抽出不可領域が明示できれば網掛け表示以外の表示方法でもよい。例えば、クエリ画像表示部405は、特徴抽出不可領域について、輝度レベルを下げる、色づけする、色を反転する、等の表示方法を行ってもよい。
また、上述した構成では、クエリ画像表示部405は、先に渡されたクエリ画像のうち、特徴抽出可能領域104だけを表示する(S505)ように構成したが、クエリ画像全体を表示した上で特徴抽出不可領域を明示するように構成してもよい。
また、上述した構成では、指定領域情報可視化部406で前記局所特徴抽出範囲における特徴抽出不可領域を特定し、クエリ画像表示部405で前記特徴抽出不可領域を網掛け表示する(S507)ようにした。しかし、画像検索装置が、画像特徴データベース206に登録済みの画像からクエリ画像を選んできた場合、前記クエリ画像は局所特徴量を算出済みのクエリ画像である。即ち、前記クエリ画像には、局所特徴抽出範囲に特徴抽出不可領域を設定する必要がない領域(特徴量抽出済み領域)が存在する場合がある。このような場合、クエリ画像表示部405は、特徴量抽出済み領域に網掛け表示をしないようにしてもよい。
更に、本実施形態に係る画像検索装置では、ユーザは実際に検索に利用可能な領域を容易に確認・認識した後に前記局所特徴抽出範囲を修正できるように構成したので、意図した検索ができなくなる可能性を低減させつつ、ユーザビリティを向上させることができる。
更に、本実施形態に係る画像検索装置では、クエリ領域指定部407においてユーザが指定した前記局所特徴抽出範囲の特徴抽出不可領域を指定領域情報可視化部406で特定し、前記特徴抽出不可領域情報をクエリ画像表示部405に渡すように構成した。そして、クエリ画像表示部405は、前記特徴抽出不可領域を網掛け表示するように構成した。しかし、画像検索装置は、ユーザが指定した前記局所特徴抽出範囲から抽出された特徴量の数に応じて、特徴抽出不可領域を網掛け表示するか否かを自動的に判断するようにしてもよい。
特徴抽出不可領域を網掛け表示するか否かを自動的に判断する処理を、図4を用いて説明する。指定領域情報可視化部406は、まず、局所特徴量算出部404からクエリ画像上で算出された局所特徴量の座標情報を受け取ると共に、ユーザが指定した前記局所特徴抽出範囲の情報をクエリ領域指定部407から受け取る。次に指定領域情報可視化部406は、前記局所特徴量の座標情報と前記局所特徴抽出範囲の情報とから、前記局所特徴抽出範囲内に存在する局所特徴量の個数をカウントする。そして、指定領域情報可視化部406は、カウントした前記局所特徴量の個数と予め定められた閾値とを比較し、前記特徴量の個数が前記閾値以下の場合にだけ、前記局所特徴抽出範囲における特徴抽出不可領域を特定する。そして、指定領域情報可視化部406は、特定した特徴抽出不可領域の情報をクエリ画像表示部405に渡す。
上記構成では、ユーザが選択した前記局所特徴抽出範囲を指定してからクエリ画像表示部405が前記局所特徴抽出範囲を表示するように構成した。しかし、ユーザが局所特徴抽出範囲を指定する前に、予め定められた初期位置に予め定められた最小サイズの局所特徴抽出範囲を表示しておく構成にしてもよい。ここで最小サイズの局所特徴抽出範囲とは、前記局所特徴抽出範囲内の特徴量個数が一定数以上になる可能性が高いサイズのことである。本実施形態では、事前の実験等により予め前記最小サイズを定めておくこととする。
初期位置の決定方法は、例えば局所特徴量の単位面積あたりの密度が最も高い位置を初期位置にするようにすればよい。或いは、クエリ領域指定部407において、ユーザが選択した局所特徴抽出範囲についての操作履歴を記録し、前記操作履歴の記録から統計量を算出し、前記統計量を基に初期位置を決定するように構成してもよい。前記統計量とは例えば前記局所特徴抽出範囲の、左上の点の平均座標位置が挙げられる。
このように、例えば、指定領域情報可視化部406は、ユーザが局所特徴抽出範囲を指定する前に、予め定められた初期位置に予め定められた最小サイズの局所特徴抽出範囲を表示しておく。このようにすることにより、ユーザは、局所特徴抽出範囲の目安のサイズを事前に把握できることで、意図した検索ができなくなる可能性を低減することができる。また、これらの初期位置の決定処理により、ユーザが局所特徴抽出範囲として選択する可能性が高い場所に最小サイズの局所特徴抽出範囲を提示することができる。
図9は、画像登録装置及び画像検索装置等の画像処理装置(コンピュータ)のハードウェア構成の一例を示す図である。
CPU1410は、ROM1430に記憶されているプログラムをRAM1420に読み出し、処理を実行することによって、上述したような機能及びフローチャートに係る処理を実現する。尚、バス1450は、ROM1430、RAM1420、CPU1410及びHDD1440のデータをやりとりする。画像処理装置1400は、ユーザインターフェース1460に接続されるキーボードやマウス等の入出力機器からの入力を受ける。また、画像処理装置1400は、ネットワークインターフェース1470に対して入出力を行う。画像処理装置1400のネットワークインターフェース1470は、ネットワーク1500を介して、データベース(DB)1510、クライアント(CLIENT)1520、プリンタ(PRINTER)1530と通信可能である。
尚、複数のハードウェアとソフトウェアとの協同によって画像処理装置の機能を実現してもよい。例えば、図2や図4等で示す構成は、その構成の一部をハードウェア(IC等)で実現してもよいし、上述したようにソフトウェアとして実現してもよい。他にも、ネットワークで接続している複数の機器の協同によって実現してもよい。図12を用いて例を挙げると、画像処理装置1400がプリンタ1530やクライアント1520から画像を受付けて、画像処理装置1400が図3のフローチャートの処理を行い、データベース1510に登録する形態が挙げられる。また、画像処理装置1400がクライアント1520やプリンタ1530から検索依頼とクエリ画像とを受付けて、図5のフローチャートの処理を行い、データベース1510からクエリ画像に類似する画像を検索する形態も挙げられる。
実施形態1では、特徴抽出可能領域を視覚的に示す方法を説明したが、本実施形態2では、画像検索装置が、ユーザが指定した局所特徴抽出範囲の設定可否を判断し、設定不可の場合にユーザに通知を出す処理について説明する。以下、図10及び図11を用いて、前記処理について説明を行う。
図10は、実施形態2の画像検索装置の機能構成を示す図である。図11は、実施形態2の画像の検索処理と特徴抽出可能領域の視覚化処理との一例を示すフローチャートである。図10において、900は、画像検索装置である。まず、画像入力部402においてクエリ画像401を読み込む(S501)。読み込んだクエリ画像401は、クエリ画像表示部405に渡される。次に、局所特徴点抽出部403は、クエリ画像401から局所特徴点を抽出する(S503)。局所特徴点の抽出にあたっては、クエリ画像401から輝度成分を抽出して輝度成分画像を生成し、当該輝度成分画像を段階的に縮小すると共に各縮小画像に対してぼかし処理を施す。このように生成した各ぼかし画像から局所特徴点を抽出する。この局所特徴点の抽出方法として、本実施形態ではHarris作用素を用いるものとする。
ここで、ぼかし処理は、画像とぼかしフィルタとのコンボリューション処理で実現されるので、ぼかしフィルタの大きさから図1で示した正確なフィルタ処理が困難な領域101を特定することができる。正確なフィルタ処理が困難な領域101からは局所特徴量を計算することはできない。局所特徴点抽出部403は、特定した正確なフィルタ処理が困難な領域101の情報を局所特徴量算出部404に渡す。
次に、局所特徴量算出部404では抽出した特徴点ごとに周辺画素値を使って局所特徴量を算出する(S504)。このとき、局所特徴量計算領域のサイズが予めわかっていること及び正確なフィルタ処理が困難な領域101が確定していることから、図1で示した局所特徴量の計算が困難な領域102と特徴抽出可能領域104とを特定することができる。即ち、局所特徴量の算出は特徴抽出可能領域104上で実施される。S504で算出された局所特徴量、正確なフィルタ処理が困難な領域101及び局所特徴量の計算が困難な領域102(特徴抽出不可領域)、特徴抽出可能領域104に関する情報は、選択可能領域制御部901を経由してクエリ画像表示部405に渡される。クエリ画像表示部405では、画像入力部402から渡されたクエリ画像401を表示する(S1001)。
前記局所特徴抽出範囲と前記特徴抽出不可領域とが重なっていなかった場合は、選択可能領域制御部901は、クエリ領域指定部407に対して特徴抽出可能領域104に関する情報を渡すと共に検索可能の通知をする。クエリ領域指定部407は、特徴比較部408に対して特徴抽出可能領域104に関する情報を渡すと共に検索の実行を指示する。特徴比較部408は、前記特徴抽出可能領域内に存在する局所特徴と画像特徴データベース206に登録された特徴とを比較することで検索を実行し(S508)、検索結果画像409を出力する(S509)。
上記の説明での通知は、ユーザが通知されていることを認識可能であればどのような方法であってもよい。例えば、選択可能領域制御部901は、警告音を発するようにしてもよいし、クエリ画像表示部405を通じ、前記特徴抽出不可領域と重なりが生じている前記局所特徴抽出範囲を点滅させてもよい。
また、上述した説明では、前記局所特徴抽出範囲と前記特徴抽出不可領域とに重なりが生じていた場合に前記局所特徴抽出範囲をキャンセルするように構成したが、キャンセルせずに前記局所特徴抽出範囲をユーザに修正させるようにしてもよい。この場合、選択可能領域制御部901は、前記局所特徴抽出範囲と前記特徴抽出不可領域とに重なりが生じている間は通知を解除せず、ユーザの修正によって重なりが解消されたときに通知を解除する。ここで、局所特徴抽出範囲の修正方法は、新たに局所特徴抽出範囲を指定するように構成してもよいし、指定済みの局所特徴抽出範囲に修正を加えるように構成してもよい。指定済みの局所特徴抽出範囲に修正を加える方法としては、平行移動や変形等がある。更に、指定済みの局所特徴抽出範囲に修正を加えた後でも、指定済みの局所特徴抽出範囲をキャンセル可能とし、キャンセルした場合には新たに局所特徴抽出範囲を指定するように構成してもよい。
また、上述した構成では画像入力部402においてクエリ画像401を読み込み(S501)、局所特徴点抽出部403と局所特徴量算出部404とでクエリ画像401から局所特徴点の抽出(S503)と局所特徴量の算出(S504)とを実施した。しかしながら、実施形態1と同様、局所特徴点の抽出処理と局所特徴量の算出処理とを局所特徴抽出範囲が確定してから前記局所特徴抽出範囲の内部だけで実施するように構成してもよい。
以上本実施形態では、ユーザがクエリ画像の一部を局所特徴抽出範囲として指定し、前記局所特徴抽出範囲と前記特徴抽出不可領域とに重なりが生じていた場合、前記局所特徴抽出範囲の指定が許可されない旨をユーザに通知するように構成した。したがって、ユーザは実際に検索に利用可能な領域を容易に確認・認識可能となり、意図した検索ができなくなる可能性を低減することができる。
また、本実施形態に係る画像検索装置では、ユーザがクエリ画像の一部を局所特徴抽出範囲として指定するとき、前記局所特徴抽出範囲内に存在する局所特徴を抽出できない領域をユーザに明示するように構成した。そのため、ユーザは実際に検索に利用可能な領域を容易に確認・認識可能となり、意図した検索ができなくなる可能性を低減することができる。
更に、本実施形態に係る画像検索装置によれば、ユーザは実際に検索に利用可能な領域を容易に確認・認識した後に前記局所特徴抽出範囲を修正することができるので、意図した検索ができなくなる可能性を低減させつつ、ユーザビリティを向上させることができる。
実施形態1及び実施形態2では、ユーザが検索に使う画像領域を局所特徴抽出範囲として指定したとき、前記局所特徴抽出範囲における特徴抽出不可領域を特定するように構成した(図6)。しかし、この構成では、ユーザが指定した局所特徴抽出範囲831の内部に特徴抽出不可領域842が存在するため、実際に局所特徴が抽出される特徴抽出可能領域841はユーザが指定した局所特徴抽出範囲831よりも狭くなる。そこで、本実施形態では、ユーザが指定した局所特徴抽出範囲内のすべての領域が特徴抽出可能領域になるように画像検索装置等が前記局所特徴抽出範囲を自動的に拡大するように構成する。
本実施形態の説明は、実施形態1との差異を示す形で行う。図12は、実施形態1の説明で使った図6に対応する図であり、画像切出し時のインターフェイス例である。図において、800は、画像入力部402で読み込んだクエリ画像である。810は、特徴抽出不可領域が確定されたクエリ画像である。811は、グレー部分が特徴抽出不可領域である。820は、ステップS505で表示される特徴抽出可能領域だけが表示されたクエリ画像である。
1101は、ステップS506でユーザにより指定された局所特徴抽出範囲である。本実施形態では、画像検索装置等が、特徴抽出不可領域が前記局所特徴抽出範囲の外側に位置するように、前記局所特徴抽出範囲を自動拡大する。図12において、1103は、自動拡大後の局所特徴抽出範囲である。1104は、特徴抽出不可領域である。その結果、本実施形態における特徴抽出可能領域は1102となる。
本実施形態に係る画像検索装置では、ユーザが指定した局所特徴抽出範囲内のすべての領域が特徴抽出可能領域になるように画像検索装置が前記局所特徴抽出範囲を自動的に拡大するように構成した。以上の説明から明らかなように、ユーザは実際に検索に利用可能な領域を容易に確認・認識可能となり、意図した検索ができなくなる可能性を低減させることができる。更に、ユーザが特徴抽出不可領域を意識する必要がなくなるので、ユーザビリティが向上する。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)がプログラムを読み出して実行する処理である。
つまり、上述した各実施形態によれば、ユーザの意図に沿った検索結果が得られるようにすることができる。
Claims (15)
- ユーザの指定操作に基づいて、画像のクエリ領域を指定する指定手段と、
前記指定手段で指定されたクエリ領域の端から内側の所定幅の領域であって、局所特徴量を抽出するのが困難な領域を特徴抽出不可領域として表示する表示手段と、
前記クエリ領域の内部の前記表示手段で前記特徴抽出不可領域として表示していない領域から抽出した局所特徴量に基づいて、記憶装置に記憶されている局所特徴量と画像とが対応付けられた画像特徴データを検索する検索手段と、
を有することを特徴とする画像検索装置。 - 前記指定手段で指定されたクエリ領域から抽出された局所特徴量の数と閾値とを比較する比較手段を更に有し、
前記表示手段は、前記比較手段での比較の結果、前記局所特徴量の数が閾値以下の場合、前記指定手段で指定されたクエリ領域のうち、局所特徴量を抽出するのが困難な領域を特徴抽出不可領域として表示することを特徴とする請求項1記載の画像検索装置。 - 前記表示手段で前記特徴抽出不可領域が表示された後に、ユーザの指定操作に基づいて、前記指定手段で指定されたクエリ領域を修正する修正手段を更に有することを特徴とする請求項1記載の画像検索装置。
- ユーザの指定操作に基づいて、画像のクエリ領域を指定する指定手段を更に有し、
前記表示手段は、前記指定手段で指定されたクエリ領域のうち、局所特徴量を抽出するのが困難な領域以外の領域を抽出可能領域として表示し、
前記検索手段は前記クエリ領域のうち前記表示手段で表示された前記抽出可能領域から抽出された局所特徴量に基づいて、記憶装置に記憶されている局所特徴量と画像とが対応付けられた画像特徴データを検索することを特徴とする請求項1記載の画像検索装置。 - 前記指定手段で指定されたクエリ領域から抽出された局所特徴量の数と閾値とを比較する比較手段を更に有し、
前記表示手段は、前記比較手段での比較の結果、前記局所特徴量の数が閾値以下の場合、前記指定手段で指定されたクエリ領域のうち、局所特徴量を抽出するのが困難な領域以外の領域を抽出可能領域として表示することを特徴とする請求項4記載の画像検索装置。 - 前記表示手段で抽出可能領域が表示された後に、ユーザの指定操作に基づいて、前記指定手段で指定されたクエリ領域を修正する修正手段を更に有することを特徴とする請求項4記載の画像検索装置。
- ユーザの指定操作に基づいて、画像のクエリ領域を指定する指定手段と、
前記指定手段で指定されたクエリ領域と局所特徴量を抽出するのが困難な前記クエリ領域の端から内側の所定幅の領域とが重なっているか否かを判定する判定手段と、
前記判定手段で、前記指定手段で指定されたクエリ領域と局所特徴量を抽出するのが困難な領域とが重なっていないと判定された場合、前記クエリ領域から抽出された局所特徴量に基づいて、記憶装置に記憶されている局所特徴量と画像とが対応付けられた画像特徴データを検索する検索手段と、
を有することを特徴とする画像検索装置。 - 前記判定手段で、前記指定手段で指定されたクエリ領域と局所特徴量を抽出するのが困難な領域とが重なっていると判定された場合、前記指定手段で指定されたクエリ領域と局所特徴量を抽出するのが困難な領域とが重なっている旨を前記ユーザに通知する通知手段を更に有することを特徴とする請求項7記載の画像検索装置。
- ユーザの指定操作に基づいて、画像のクエリ領域を指定する指定手段と、
前記指定手段で指定されたクエリ領域の全ての領域が局所特徴量を抽出するのが可能な抽出可能領域となるよう局所特徴量を抽出するのが困難な特徴抽出不可領域が拡大後において拡大前の前記指定されたクエリ領域の外の領域になるように前記クエリ領域を拡大する拡大手段と、
前記指定手段で指定されたクエリ領域の全ての領域から抽出された局所特徴量に基づいて、記憶装置に記憶されている局所特徴量と画像とが対応付けられた画像特徴データを検索する検索手段と、
を有することを特徴とする画像検索装置。 - 画像検索装置が実行する画像検索方法であって、
ユーザの指定操作に基づいて、画像のクエリ領域を指定する指定ステップと、
前記指定ステップで指定されたクエリ領域の端から内側の所定幅の領域であって、局所特徴量を抽出するのが困難な領域を特徴抽出不可領域として表示する表示ステップと、
前記クエリ領域の内部の前記表示ステップで前記特徴抽出不可領域として表示されていない領域を抽出可能領域とし、抽出可能領域から抽出された局所特徴量に基づいて、記憶装置に記憶されている局所特徴量と画像とが対応付けられた画像特徴データを検索する検索ステップと、
を含むことを特徴とする画像検索方法。 - 画像検索装置が実行する画像検索方法であって、
ユーザの指定操作に基づいて、画像のクエリ領域を指定する指定ステップと、
前記指定ステップで指定されたクエリ領域と局所特徴量を抽出するのが困難な前記クエリ領域の端から内側の所定幅の領域とが重なっているか否かを判定する判定ステップと、
前記判定ステップで、前記指定ステップで指定されたクエリ領域と局所特徴量を抽出するのが困難な領域とが重なっていないと判定された場合、前記クエリ領域から抽出された局所特徴量に基づいて、記憶装置に記憶されている局所特徴量と画像とが対応付けられた画像特徴データを検索する検索ステップと、
を含むことを特徴とする画像検索方法。 - 画像検索装置が実行する画像検索方法であって、
ユーザの指定操作に基づいて、画像のクエリ領域を指定する指定ステップと、
前記指定ステップで指定されたクエリ領域の全ての領域が局所特徴量を抽出するのが可能な抽出可能領域となるよう局所特徴量を抽出するのが困難な特徴抽出不可領域が拡大後において拡大前の前記指定されたクエリ領域の外の領域になるように前記クエリ領域を拡大する拡大ステップと、
前記指定ステップで指定されたクエリ領域の全ての領域から抽出された局所特徴量に基づいて、記憶装置に記憶されている局所特徴量と画像とが対応付けられた画像特徴データを検索する検索ステップと、
を含むことを特徴とする画像検索方法。 - コンピューターを、
ユーザの指定操作に基づいて、画像のクエリ領域を指定する指定手段と、
前記指定手段で指定されたクエリ領域の端から内側の所定幅の領域であって、局所特徴量を抽出するのが困難な領域を特徴抽出不可領域として表示する表示手段と、
前記クエリ領域の内部の前記表示手段で前記特徴抽出不可領域として表示されていない領域を抽出可能領域とし、抽出可能領域から抽出された局所特徴量に基づいて、記憶装置に記憶されている局所特徴量と画像とが対応付けられた画像特徴データを検索する検索手段と、として機能させるためのプログラム。 - コンピューターを
ユーザの指定操作に基づいて、画像のクエリ領域を指定する指定手段と、
前記指定手段で指定されたクエリ領域と局所特徴量を抽出するのが困難な前記クエリ領域の端から内側の所定幅の領域とが重なっているか否かを判定する判定手段と、
指定されたクエリ領域と局所特徴量を抽出するのが困難な領域とが重なっていないと判定された場合、前記クエリ領域から抽出された局所特徴量に基づいて、記憶装置に記憶されている局所特徴量と画像とが対応付けられた画像特徴データを検索する検索手段と、として機能させるためのプログラム。 - コンピューターを、
ユーザの指定操作に基づいて、画像のクエリ領域を指定する指定手段と、
指定されたクエリ領域の全ての領域が局所特徴量を抽出するのが可能な抽出可能領域となるよう局所特徴量を抽出するのが困難な特徴抽出不可領域が拡大後において拡大前の前記指定されたクエリ領域の外の領域になるように前記クエリ領域を拡大する拡大手段と、
指定されたクエリ領域の全ての領域から抽出された局所特徴量に基づいて、記憶装置に記憶されている局所特徴量と画像とが対応付けられた画像特徴データを検索する検索手段と、として機能させるためのプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009205213A JP5436104B2 (ja) | 2009-09-04 | 2009-09-04 | 画像検索装置及び画像検索方法 |
US12/857,300 US8457446B2 (en) | 2009-09-04 | 2010-08-16 | Image retrieval apparatus, image retrieval method, and storage medium |
US13/894,304 US9075827B2 (en) | 2009-09-04 | 2013-05-14 | Image retrieval apparatus, image retrieval method, and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009205213A JP5436104B2 (ja) | 2009-09-04 | 2009-09-04 | 画像検索装置及び画像検索方法 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2011059733A JP2011059733A (ja) | 2011-03-24 |
JP2011059733A5 JP2011059733A5 (ja) | 2012-08-16 |
JP5436104B2 true JP5436104B2 (ja) | 2014-03-05 |
Family
ID=43647815
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009205213A Expired - Fee Related JP5436104B2 (ja) | 2009-09-04 | 2009-09-04 | 画像検索装置及び画像検索方法 |
Country Status (2)
Country | Link |
---|---|
US (2) | US8457446B2 (ja) |
JP (1) | JP5436104B2 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5436104B2 (ja) * | 2009-09-04 | 2014-03-05 | キヤノン株式会社 | 画像検索装置及び画像検索方法 |
US20130185658A1 (en) * | 2010-09-30 | 2013-07-18 | Beijing Lenovo Software Ltd. | Portable Electronic Device, Content Publishing Method, And Prompting Method |
JP2013251667A (ja) * | 2012-05-31 | 2013-12-12 | Sony Corp | 情報処理装置、および情報処理方法、並びにプログラム |
US9594981B2 (en) * | 2014-04-14 | 2017-03-14 | Canon Kabushiki Kaisha | Image search apparatus and control method thereof |
JP6587489B2 (ja) * | 2015-10-07 | 2019-10-09 | キヤノン株式会社 | 画像処理装置、画像処理方法および画像処理システム |
JP6906946B2 (ja) * | 2016-12-22 | 2021-07-21 | キヤノン株式会社 | 情報処理装置、その制御方法、及びプログラム |
CN109299302A (zh) * | 2018-09-27 | 2019-02-01 | 苏州智融居智装科技有限公司 | 一种智慧装修方案快速选择方法 |
CN113407757B (zh) * | 2021-06-23 | 2022-07-22 | 重庆世纪科怡科技股份有限公司 | 一种基于计算机的图像检索方法及装置 |
Family Cites Families (27)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3199976B2 (ja) | 1995-03-14 | 2001-08-20 | 正夫 坂内 | 画像データベース装置 |
JPH11353319A (ja) * | 1998-06-08 | 1999-12-24 | Hitachi Ltd | 画像検索方法 |
JP2000106623A (ja) * | 1998-07-27 | 2000-04-11 | Fuji Photo Film Co Ltd | 画像処理装置 |
JP3683758B2 (ja) * | 1998-11-12 | 2005-08-17 | 日本電信電話株式会社 | 類似画像検索システム,類似画像検索方法および類似画像検索プログラムを記録した記録媒体 |
US6774917B1 (en) * | 1999-03-11 | 2004-08-10 | Fuji Xerox Co., Ltd. | Methods and apparatuses for interactive similarity searching, retrieval, and browsing of video |
US6389417B1 (en) * | 1999-06-29 | 2002-05-14 | Samsung Electronics Co., Ltd. | Method and apparatus for searching a digital image |
EP1516264B1 (en) * | 1999-07-30 | 2017-05-24 | Intellectual Ventures Holding 81 LLC | Image retrieval by generating a descriptor for each spot of an image the cells of which having visual characteristics within a selected tolerance |
GB2395806A (en) * | 2002-11-27 | 2004-06-02 | Sony Uk Ltd | Information retrieval |
US20050225678A1 (en) * | 2004-04-08 | 2005-10-13 | Andrew Zisserman | Object retrieval |
US7958115B2 (en) * | 2004-07-29 | 2011-06-07 | Yahoo! Inc. | Search systems and methods using in-line contextual queries |
US8503800B2 (en) * | 2007-03-05 | 2013-08-06 | DigitalOptics Corporation Europe Limited | Illumination detection using classifier chains |
JP2007272731A (ja) * | 2006-03-31 | 2007-10-18 | Sony Corp | 画像処理装置および方法、並びにプログラム |
US7783085B2 (en) * | 2006-05-10 | 2010-08-24 | Aol Inc. | Using relevance feedback in face recognition |
US20070276867A1 (en) * | 2006-05-23 | 2007-11-29 | David Fishbaine | Embedded inspection image archival for electronics assembly machines |
JP4857975B2 (ja) * | 2006-07-14 | 2012-01-18 | 富士ゼロックス株式会社 | 画像処理システムおよび画像処理プログラム |
JP5096776B2 (ja) * | 2007-04-04 | 2012-12-12 | キヤノン株式会社 | 画像処理装置及び画像検索方法 |
US20090024597A1 (en) * | 2007-04-13 | 2009-01-22 | Iac Search & Media, Inc. | Forming web search queries from browsing annotated images |
JP4891144B2 (ja) * | 2007-05-08 | 2012-03-07 | キヤノン株式会社 | 画像検索装置及び画像検索方法 |
JP5163008B2 (ja) * | 2007-08-21 | 2013-03-13 | 沖電気工業株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
KR101557430B1 (ko) * | 2008-02-22 | 2015-10-07 | 삼성전자주식회사 | 디지털 기록의 질의 방법 및 그 장치 |
US20090271388A1 (en) * | 2008-04-23 | 2009-10-29 | Yahoo! Inc. | Annotations of third party content |
US8224839B2 (en) * | 2009-04-07 | 2012-07-17 | Microsoft Corporation | Search query extension |
US8670597B2 (en) * | 2009-08-07 | 2014-03-11 | Google Inc. | Facial recognition with social network aiding |
JP5436104B2 (ja) * | 2009-09-04 | 2014-03-05 | キヤノン株式会社 | 画像検索装置及び画像検索方法 |
JP5665125B2 (ja) * | 2011-04-07 | 2015-02-04 | 株式会社日立製作所 | 画像処理方法、及び、画像処理システム |
US8560517B2 (en) * | 2011-07-05 | 2013-10-15 | Microsoft Corporation | Object retrieval using visual query context |
US8781255B2 (en) * | 2011-09-17 | 2014-07-15 | Adobe Systems Incorporated | Methods and apparatus for visual search |
-
2009
- 2009-09-04 JP JP2009205213A patent/JP5436104B2/ja not_active Expired - Fee Related
-
2010
- 2010-08-16 US US12/857,300 patent/US8457446B2/en not_active Expired - Fee Related
-
2013
- 2013-05-14 US US13/894,304 patent/US9075827B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
US8457446B2 (en) | 2013-06-04 |
US9075827B2 (en) | 2015-07-07 |
JP2011059733A (ja) | 2011-03-24 |
US20110058746A1 (en) | 2011-03-10 |
US20130251268A1 (en) | 2013-09-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5436104B2 (ja) | 画像検索装置及び画像検索方法 | |
JP6491959B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP2018102916A (ja) | 制御方法、情報端末、及びプログラム | |
US20140009796A1 (en) | Information processing apparatus and control method thereof | |
JP5495934B2 (ja) | 画像処理装置、その処理方法及びプログラム | |
JP4251635B2 (ja) | 画像処理装置及び方法 | |
JP5838984B2 (ja) | 画像処理装置、および、コンピュータプログラム | |
US8861857B2 (en) | Image processing apparatus and image processing method | |
US10339412B2 (en) | Image processing apparatus, image processing method, and storage medium | |
JP4730775B2 (ja) | 画像処理装置 | |
JP2013127809A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2006277441A (ja) | 画像管理装置及びプログラム | |
JP2004171375A (ja) | 画像処理方法 | |
JP2008305311A (ja) | 表示装置および方法、プログラム、並びに記録媒体。 | |
JP2004289706A (ja) | 画像処理方法および画像処理装置ならびにプログラム | |
JP2017134598A (ja) | 画像検索装置、画像検索方法及びプログラム | |
EP2750080A2 (en) | Image processing apparatus, image processing method, and computer program product | |
JP2006072839A (ja) | 画像処理方法、画像処理装置、画像処理プログラム及び記録媒体 | |
US9607218B2 (en) | Information processing apparatus, control method, and storage medium storing program | |
CN111385512B (zh) | 视频数据处理方法和装置 | |
JP2010061449A (ja) | 原画像探索装置及び原画像探索プログラム | |
JP2007253355A (ja) | 画像形成装置、画像形成システム及び情報処理装置 | |
JP5511554B2 (ja) | 画像処理方法、画像処理装置、およびプログラム | |
JP5398396B2 (ja) | 画像処理装置およびその制御方法 | |
JP2021170297A (ja) | 情報処理装置及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120629 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120629 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130627 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130702 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130827 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20131001 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20131023 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20131112 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131210 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5436104 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
LAPS | Cancellation because of no payment of annual fees |