JP6149710B2 - 画像処理装置及びプログラム - Google Patents

画像処理装置及びプログラム Download PDF

Info

Publication number
JP6149710B2
JP6149710B2 JP2013244842A JP2013244842A JP6149710B2 JP 6149710 B2 JP6149710 B2 JP 6149710B2 JP 2013244842 A JP2013244842 A JP 2013244842A JP 2013244842 A JP2013244842 A JP 2013244842A JP 6149710 B2 JP6149710 B2 JP 6149710B2
Authority
JP
Japan
Prior art keywords
image
identification
partial image
identification result
specific type
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013244842A
Other languages
English (en)
Other versions
JP2015103144A (ja
Inventor
加藤 典司
典司 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd, Fujifilm Business Innovation Corp filed Critical Fuji Xerox Co Ltd
Priority to JP2013244842A priority Critical patent/JP6149710B2/ja
Priority to US14/296,594 priority patent/US9122957B2/en
Priority to CN201410321273.6A priority patent/CN104683686B/zh
Publication of JP2015103144A publication Critical patent/JP2015103144A/ja
Application granted granted Critical
Publication of JP6149710B2 publication Critical patent/JP6149710B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/768Arrangements for image or video recognition or understanding using pattern recognition or machine learning using context analysis, e.g. recognition aided by known co-occurring patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/243Classification techniques relating to the number of classes
    • G06F18/24317Piecewise classification, i.e. whereby each classification requires several discriminant rules
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Multimedia (AREA)
  • Medical Informatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像処理装置及びプログラムに関する。
非特許文献1には、画像を複数の領域に分割し、分割した各領域の画像特徴を結合した特徴ベクトルを用いて画像認識処理を行うことが開示されている。
Lazebnik, "Beyond Bags of Features: Spatial Pyramid Matching forRecognizing Natural Scene Categories", Conference on Computer Vision andPattern Recognition, pp. 2169-2178(2006)
本発明の目的は、画像から特定種類のオブジェクトを識別する精度を向上できる画像処理装置及びプログラムを提供することにある。
請求項1に係る発明は、処理対象の画像を取得する取得手段と、前記処理対象の画像中に複数の部分画像領域を設定する設定手段と、前記複数の部分画像領域のそれぞれについて特定種類のオブジェクトが含まれる可能性を示す第1の識別結果を取得する取得手段と、前記複数の部分画像領域のそれぞれについての第1の識別結果に基づいて、前記処理対象の画像中に前記特定種類のオブジェクトが含まれる可能性を示す第2の識別結果を生成する生成手段と、を含む画像処理装置である。
請求項2に係る発明は、前記複数の部分画像領域のそれぞれについての第1の識別結果の中から一部の第1の識別結果を抽出する抽出手段と、前記生成手段は、前記抽出手段により抽出した第1の識別結果に基づいて、前記処理対象の画像中に前記特定種類のオブジェクトが含まれる可能性を示す第2の識別結果を生成する請求項1に記載の画像処理装置である。
請求項3に係る発明は、前記第1の識別結果は、前記特定種類のオブジェクトが含まれる確率であり、前記抽出手段は、前記複数の部分画像領域のそれぞれについての第1の識別結果である確率が大きい順に、予め定められた数又は割合の第1の識別結果を抽出する請求項2に記載の画像処理装置である。
請求項4に係る発明は、前記第1の識別結果は、前記特定種類のオブジェクトが含まれる確率であり、前記抽出手段は、前記複数の部分画像領域のそれぞれについての第1の識別結果である確率が閾値以上の第1の識別結果を抽出する請求項2に記載の画像処理装置である。
請求項5に係る発明は、前記第1の識別結果は、前記特定種類のオブジェクトが含まれる確率であり、前記生成手段は、前記複数の部分画像領域のそれぞれについての第1の識別結果である確率の合計、積、又は、前記複数の部分画像領域のそれぞれについての第1の識別結果である確率が閾値以上である第1の識別結果の数と閾値未満である第1の識別結果の数との比較結果に基づいて、前記処理対象の画像中に前記特定種類のオブジェクトが含まれる可能性を示す第2の識別結果を生成する請求項1に記載の画像処理装置である。
請求項6に係る発明は、前記特定種類のオブジェクトを含む1以上の標本画像にそれぞれ設定した部分画像領域の画像特徴に基づいて、該特定種類のオブジェクトの識別条件を識別器に学習させる手段をさらに含み、前記取得手段は、前記複数の部分画像領域のそれぞれの画像特徴に基づいて、前記識別器により前記複数の部分画像領域のそれぞれについて特定種類のオブジェクトが含まれる可能性を示す第1の識別結果を取得する請求項1乃至5のいずれかに記載の画像処理装置である。
請求項7に係る発明は、前記標本画像に設定した部分画像領域の位置及びサイズに関する特徴を学習する部分領域情報学習手段をさらに含み、前記設定手段は、前記部分領域情報学習手段により学習された部分画像領域の位置及びサイズに関する特徴に基づいて、前記処理対象の画像中に複数の部分画像領域を設定する請求項6に記載の画像処理装置である。
請求項8に係る発明は、前記部分画像領域の画像特徴は、該部分画像領域に含まれる1以上の画素のそれぞれの局所特徴の分布に基づき生成される請求項6又は7に記載の画像処理装置である。
請求項9に係る発明は、前記設定手段は、前記処理対象の画像中に設定する複数の部分画像領域のうち少なくとも一部の領域が重なるように該複数の部分画像領域を設定する請求項1乃至8のいずれかに記載の画像処理装置である。
請求項10に係る発明は、処理対象の画像を取得する取得手段と、前記処理対象の画像中に複数の部分画像領域を設定する設定手段と、前記複数の部分画像領域のそれぞれについて特定種類のオブジェクトが含まれる可能性を示す第1の識別結果を取得する取得手段と、前記複数の部分画像領域のそれぞれについての第1の識別結果に基づいて、前記処理対象の画像中に前記特定種類のオブジェクトが含まれる可能性を示す第2の識別結果を生成する生成手段としてコンピュータを機能させるためのプログラムである。
請求項1に記載の発明によれば、本構成を有さない場合と比較して、特定種類のオブジェクトを含む可能性がそれぞれ異なる複数の部分画像領域の識別結果を利用して画像から特定種類のオブジェクトを識別する精度を向上できる。
請求項2に記載の発明によれば、本構成を有さない場合と比較して、特定種類のオブジェクトを含む可能性がそれぞれ異なる複数の部分画像領域の識別結果の一部を利用して画像から特定種類のオブジェクトを識別する精度を向上できる。
請求項3に記載の発明によれば、本構成を有さない場合と比較して、画像中に設定した部分画像領域のうち特定種類のオブジェクトを含む可能性が高い部分画像領域の識別結果を利用して画像から特定種類のオブジェクトを識別する精度を向上できる。
請求項4に記載の発明によれば、本構成を有さない場合と比較して、画像中に設定した部分画像領域のうち特定種類のオブジェクトを含む可能性が高い部分画像領域の識別結果を利用して画像から特定種類のオブジェクトを識別する精度を向上できる。
請求項5に記載の発明によれば、本構成を有さない場合と比較して、特定種類のオブジェクトを含む可能性がそれぞれ異なる複数の部分画像領域の識別結果の全てを利用して画像から特定種類のオブジェクトを識別する精度を向上できる。
請求項6に記載の発明によれば、本構成を有さない場合と比較して、画像中に設定した部分画像領域のそれぞれに特定種類のオブジェクトが含まれる可能性を精度良く認識できる。
請求項7に記載の発明によれば、本構成を有さない場合と比較して、識別対象のオブジェクトに適したサイズ、位置の部分画像領域を画像中に設定できる。
請求項8に記載の発明によれば、本構成を有さない場合と比較して、オブジェクトの形状や照明の変動が識別精度に与える影響を小さくできる。
請求項9に記載の発明によれば、本構成を有さない場合と比較して、識別対象のオブジェクトを含む部分画像領域の数を増加させることができる。
学習処理に関して画像処理装置に備えられた機能の一例を示す図である。 識別処理に関して画像処理装置に備えられた機能の一例を示す図である。 対象画像の一例を示す図である。 対象画像に設定される複数の識別対象領域の一例を示す図である。 識別結果の統合処理の一例を説明する図である。 学習処理のフロー図である。 局所特徴量の算出処理のフロー図である。 識別器の学習処理のフロー図である。 識別処理のフロー図である。
以下、本発明を実施するための実施の形態(以下、実施形態という)を、図面に従って説明する。本実施形態に係る画像処理装置10は、1以上の種類のオブジェクトの画像特徴を識別器に学習させるとともに、識別器を用いて処理対象の画像中に写し出されたオブジェクト(物体)を識別する処理を実行するコンピュータである。
ここで、本実施形態に係る画像処理装置10による処理の概要について説明する。まず、画像処理装置10は、予め写し出されているオブジェクトの種類が判明している標本画像に対して1以上の部分画像領域を設定し、設定した部分画像領域の画像特徴に基づいて、オブジェクトの種類ごとに識別器による学習処理を実行する。また、画像処理装置10は、写し出されているオブジェクトの種類が判明していない対象画像に対して複数の部分画像領域を設定し、設定した複数の部分画像領域の画像特徴に基づき識別器による識別処理を実行し、複数の部分画像領域のそれぞれの識別結果を統合して、対象画像に写し出されるオブジェクトの情報を決定する。
[1.機能ブロックの説明]
次に、図1及び図2に示された機能ブロック図に基づいて、本実施形態に係る画像処理装置10に備えられた機能の一例について説明する。
[1−1.学習処理に関する機能ブロックの説明]
図1には、画像処理装置10に備えられた機能のうち、オブジェクトの画像特徴を機械学習モデル(識別器)に学習させる処理に関する機能の一例を示した。
図1に示されるように、画像処理装置10は、学習情報受付部11、標本画像取得部12、局所画像特徴生成部13、局所画像特徴クラスタ設定部14、局所画像特徴量子化部15、学習領域設定部16、矩形特徴量生成部17、矩形特徴量保持部18、機械学習部19、識別モデルパラメータ記憶部20を備える。
画像処理装置10に備えられる上記各部の機能は、CPU等の制御手段、メモリ等の記憶手段、外部デバイスとデータを送受信する入出力手段等を備えたコンピュータが、コンピュータ読み取り可能な情報記憶媒体に格納されたプログラムを読み込み実行することで実現されるものとしてよい。なお、プログラムは光ディスク、磁気ディスク、磁気テープ、光磁気ディスク、フラッシュメモリ等の情報記憶媒体によってコンピュータたる画像処理装置10に供給されることとしてもよいし、インターネット等のデータ通信網を介して供給されることとしてもよい。以下、図1に示される各部の機能の詳細について説明する。
学習情報受付部11は、例えば画像処理装置10に接続された入力装置や外部デバイス(ユーザ端末等)から学習情報を受け付ける。例えば、学習情報受付部11は、学習に用いる標本画像のファイルパス、標本画像の中で学習処理に用いる部分画像領域(学習領域)を指定した領域指定データ、標本画像による学習するオブジェクトの種類の情報を受け付けることとしてよい。
標本画像取得部12は、学習情報受付部11により受け付けた学習情報に基づいて、学習処理に用いる標本画像を取得する。例えば、標本画像取得部12は、学習情報受付部11により受け付けた標本画像のファイルパスに基づいて、標本画像を取得することとしてよい。なお、標本画像は、画像処理装置10の内部の記憶部から取得してもよいし、画像処理装置10の外部のデータベースから取得しても構わない。
局所画像特徴生成部13は、標本画像取得部12により取得した標本画像に対して局所画像特徴を生成する。例えば、局所画像特徴生成部13は、標本画像の全て又は一部の画素(又は複数の画素からなる画素群)のそれぞれについて、画素(又は画素群)を中心(又画素又は画素群に含まれるいずれかの座標を基点)とする一定領域の画像情報に基づいて局所特徴を生成する。局所特徴としては、例えば画素のRGB値、SIFT特徴、HOG特徴、Gabor特徴等のうち1つ又は複数を用いることとしてよい。また、局所画像特徴生成部13は、標本画像中の画素について、複数サイズ(スケール)の領域を設定し、それぞれのサイズの領域について局所特徴を生成するようにしてもよい。
局所画像特徴クラスタ設定部14は、局所画像特徴生成部13により生成される局所特徴を複数のクラスタに分類し、それぞれのクラスタの中心を保持する。例えば、局所画像特徴クラスタ設定部14は、複数の標本画像について得た局所特徴を、k−Meansクラスタリングによりクラスタに分類することとしてよい。本実施形態では、局所特徴のそれぞれのクラスタに識別番号を付与することとし、例えばクラスタ数は数千程度としてよい。なお、局所画像特徴クラスタ設定部14は、局所特徴に関するクラスタの情報を、例えば識別モデルパラメータ記憶部20に記憶することとしてよい。
局所画像特徴量子化部15は、局所画像特徴生成部13により生成された局所特徴が、局所画像特徴クラスタ設定部14により設定された複数のクラスタのいずれに属するかに基づいて、局所特徴を量子化する。例えば、局所画像特徴量子化部15は、局所画像特徴生成部13により生成された局所特徴を、該局所特徴が属するクラスタの識別番号に置換することで、局所特徴を量子化することとしてよい。
学習領域設定部16は、学習情報受付部11により受け付けた学習情報に基づいて、標本画像のうち学習処理に用いる1以上の部分画像領域(学習領域)を設定する。例えば、学習領域設定部16は、学習情報受付部11により受け付けた領域指定データに基づいて、標本画像の中に1以上の学習領域を設定することとしてよい。なお、学習領域は、その少なくとも一部が互いに重なっていてもよく、特に、学習対象のオブジェクトが写し出された領域について学習領域の一部を互いに重ねて設定することとしてよい。また、本実施形態では、学習領域を矩形とした場合を例として説明するが、学習領域は矩形以外の形状であってもよい。
矩形特徴量生成部17は、学習領域設定部16により設定された学習領域(矩形領域)に含まれる量子化された局所特徴(さらには局所特徴の分布)に基づいて、学習領域(矩形領域)の特徴量を生成する。例えば、矩形特徴量生成部17は、対象の矩形領域に含まれる各画素について量子化された局所特徴(すなわちクラスタ番号)の頻度を計数して得たヒストグラムに基づいて矩形特徴量として生成することとしてよい。例えば、矩形特徴量生成部17は、矩形領域に含まれる画素数で各クラスタ番号の頻度を除して正規化されたヒストグラムを得ることとしてもよい。また、矩形特徴量は数千次元のベクトルとなるため、これを圧縮して低次元ベクトルにすることとしてもよい。例えば、ベクトルの次元圧縮の手法としては、あらかじめ多数の矩形特徴量を用意し、主成分分析(PCA)によって固有ベクトルを算出し、固有値が大きな少数の固有ベクトルからなる部分空間に射影することで次元圧縮を行うこととしてよい。また、学習用の標本画像に付与されたオブジェクトの種類(画像カテゴリ)を用いて、矩形特徴量と画像カテゴリの相関が大きくなる部分空間を正準相関分析(CCA)により求めて次元圧縮を行ってもよい。
矩形特徴量保持部18は、学習領域設定部16により設定された矩形領域のそれぞれについて、矩形特徴量生成部17により生成された矩形特徴量と、矩形領域に対して学習情報受付部11により受け付けたオブジェクトの種類(画像カテゴリ)を関連付けて保持する。また、矩形特徴量保持部18は、矩形領域のそれぞれに対してさらに矩形領域の位置(座標位置)、サイズ情報を関連付けて保持するようにしてもよい。
機械学習部19は、矩形特徴量保持部18に保持された矩形特徴量とオブジェクトの種類(画像カテゴリ)に基づいて、オブジェクトの種類にそれぞれ対応する識別器を学習する。例えば、機械学習部19は、オブジェクトの種類ごとに識別器IDを一対一で対応させ、識別器IDにより識別される識別器ごとに、該識別器が対応するオブジェクトの種類が関連付けられた矩形特徴量に基づく学習処理を実行することとしてよい。例えば、機械学習部19は、オブジェクトが車である場合には、これを車に対応する第Xの識別器(識別モデル)により学習し、オブジェクトが人である場合には、これを人に対応する第Yの識別器(識別モデル)により学習させることとしてよい。なお、機械学習部19は、オブジェクトの種類ごとに対応する第1〜第N(Nは1以上の整数)識別器の学習パラメータを、識別モデルパラメータ記憶部20に記憶させることとしてよい。
また、機械学習部19は、オブジェクトの種類ごとに、矩形領域のサイズ、位置をクラスタリングし、オブジェクトの種類に対応する代表的な矩形領域のサイズ、位置の情報(座標位置、座標位置の移動量等)を含む矩形領域設定パラメータを、オブジェクトの種類に対応する第i(iは1〜Nのいずれか)識別モデルパラメータ記憶部20に記憶することとしてもよい。
なお、識別器としては最近傍識別器、ランダムフォレスト識別器などの高速な識別器が望ましいが、その他の混合ガウス分布モデル、サポートベクタマシンでも構わない。また、最近傍識別器、ランダムフォレスト識別器を用いる場合には、一つの識別器で複数の画像カテゴリを識別し、混合ガウス分布モデル、サポートベクタマシンの場合、画像カテゴリの数だけ識別器を用意することとしてよい。
識別モデルパラメータ記憶部20は、それぞれ第1〜第N(Nは1以上の整数)識別モデルパラメータ記憶部20−1〜20―Nを含む。そして、第i(iは1〜Nのいずれかの整数)識別モデルパラメータ記憶部20−iはそれぞれ、第i識別モデルに対応するオブジェクトの種類について、機械学習部19により学習された矩形特徴量の識別条件(識別超平面等)を特定する識別モデルパラメータを記憶する。また、第i(iは1〜Nのいずれかの整数)識別モデルパラメータ記憶部20−iはさらに、学習に用いた矩形領域に基づいて学習された代表的な矩形領域のサイズ、位置の情報を記憶することとしてもよい。
以上が、画像処理装置10が学習処理に関して備える機能の一例である。次に、識別器を利用して画像中からオブジェクトを識別する処理に関して画像処理装置10が備える機能の一例について図2に基づき説明する。
[1−2.識別処理に関する機能ブロックの説明]
図2に示されるように、画像処理装置10は、対象画像取得部21、局所画像特徴生成部13、局所画像特徴クラスタ設定部14、局所画像特徴量子化部15、識別モデル選択部22、識別対象領域設定部23、矩形特徴量生成部17、識別部24、識別モデルパラメータ記憶部20、識別結果統合部25、識別結果出力部26を備える。
画像処理装置10に備えられる上記各部の機能は、CPU等の制御手段、メモリ等の記憶手段、外部デバイスとデータを送受信する入出力手段等を備えたコンピュータが、コンピュータ読み取り可能な情報記憶媒体に格納されたプログラムを読み込み実行することで実現されるものとしてよい。なお、プログラムは光ディスク、磁気ディスク、磁気テープ、光磁気ディスク、フラッシュメモリ等の情報記憶媒体によってコンピュータたる画像処理装置10に供給されることとしてもよいし、インターネット等のデータ通信網を介して供給されることとしてもよい。以下、図2に示される各部の機能の詳細について説明する。
対象画像取得部21は、識別処理の対象とする画像(対象画像)を取得する。例えば、対象画像取得部21は、カメラやパーソナルコンピュータ等の外部デバイスから対象画像を取得することとしてよい。ここで、図3には、対象画像取得部21により取得される対象画像Tの一例を示した。
局所画像特徴生成部13は、対象画像取得部21により取得した対象画像に対して局所画像特徴を生成する。例えば、局所画像特徴生成部13は、対象画像の全て又は一部の画素(又は複数の画素からなる画素群)のそれぞれについて、画素(又は画素群)を中心(又画素又は画素群に含まれるいずれかの座標を基点)とする一定領域の画像情報に基づいて局所特徴を生成する。局所特徴としては、例えば画素のRGB値、SIFT特徴、HOG特徴、Gabor特徴等のうち1つ又は複数を用いることとしてよい。また、局所画像特徴生成部13は、対象画像中の画素について、複数サイズ(スケール)の領域を設定し、それぞれのサイズの領域について局所特徴を生成するようにしてもよい。
局所画像特徴クラスタ設定部14は、局所特徴のそれぞれのクラスタの情報を設定する。例えば、局所画像特徴クラスタ設定部14は、識別モデルパラメータ記憶部20に記憶された局所特徴のクラスタの情報に基づいて、局所特徴のクラスタの情報を設定することとしてよい。
局所画像特徴量子化部15は、局所画像特徴生成部13により生成された局所特徴が、局所画像特徴クラスタ設定部14により設定された複数のクラスタのいずれに属するかに基づいて、局所特徴を量子化する。例えば、局所画像特徴量子化部15は、局所画像特徴生成部13により生成された局所特徴を、該局所特徴が属するクラスタの識別番号に置換することで、局所特徴を量子化することとしてよい。
識別モデル選択部22は、第1〜第N(Nは1以上の整数)識別モデルの中から、識別に用いる識別モデルを選択する。例えば、識別モデル選択部22は、指定がある場合には、当該指定された識別モデルを選択し、指定がない場合には、番号の小さい順(又は大きい順)に第1〜第N識別モデルを順次選択することとしてよい。
識別対象領域設定部23は、対象画像の中で識別対象とする複数の部分画像領域(識別対象領域)を設定する。例えば、識別対象領域設定部23は、対象画像のうち、予め定められた1以上のサイズの矩形領域を、予め定められたシフト量で移動させることで、複数の識別対象領域を設定することとしてよい。ここで、識別対象領域設定部23は、識別モデル選択部22で第i(iは1〜Nのいずれか)識別モデルが選択された場合には、第i識別モデルパラメータ記憶部20−iに記憶される矩形領域設定パラメータを参照し、矩形領域設定パラメータに示されるサイズ、位置の情報に基づいて複数の識別対象領域を設定することとしてよい。そして、識別対象領域設定部23は、対象画像に設定する複数の部分画像領域の少なくとも一部の部分画像領域の少なくとも一部が互いに重なるように領域の位置を設定することとしてもよい。また、本実施形態では、識別対象領域を矩形とした場合を例として説明するが、識別対象領域は矩形以外の形状であってもよい。
ここで、図4には、対象画像Tについて識別対象領域設定部23により設定される複数の識別対象領域の一例を示した。図4では、4つの識別対象領域(A,B,C,D)が対象画像Tに設定された例が示されている。
矩形特徴量生成部17は、識別対象領域設定部23により設定された識別対象領域(矩形領域)に含まれる量子化された局所特徴に基づいて、識別対象領域(矩形領域)の特徴量を生成する。例えば、矩形特徴量生成部17は、対象の矩形領域に含まれる各画素について量子化された局所特徴(すなわちクラスタ番号)の頻度を計数して得たヒストグラムに基づいて矩形特徴量として生成することとしてよい。例えば、矩形特徴量生成部17は、矩形領域に含まれる画素数で各クラスタ番号の頻度を除して正規化されたヒストグラムを得ることとしてもよい。また、矩形特徴量は数千次元のベクトルとなるため、これを圧縮して低次元ベクトルにすることとしてもよい。例えば、ベクトルの次元圧縮の手法としては、あらかじめ多数の矩形特徴量を用意し、主成分分析(PCA)によって固有ベクトルを算出し、固有値が大きな少数の固有ベクトルからなる部分空間に射影することで次元圧縮を行うこととしてよい。また、学習用の標本画像に付与されたオブジェクトの種類(画像カテゴリ)を用いて、矩形特徴量と画像カテゴリの相関が大きくなる部分空間を正準相関分析(CCA)により求めて次元圧縮を行ってもよい。
識別モデルパラメータ記憶部20は、それぞれ第1〜第N(Nは1以上の整数)識別モデルパラメータ記憶部20−1〜20−Nを含む。そして、第i(iは1〜Nのいずれかの整数)識別モデルパラメータ記憶部20−iはそれぞれ、第i識別モデルに対応するオブジェクトの種類について、図1に示した機械学習部19により学習された矩形特徴量の識別条件を特定する識別モデルパラメータを記憶している。
識別部24は、複数の識別対象領域のそれぞれについて、それぞれの識別対象領域について生成された矩形特徴量と、識別モデル選択部22により選択された第i識別モデルに対応する第i識別モデルパラメータ記憶部20−iに記憶される学習された識別モデルパラメータとに基づいて、識別対象領域に第i識別モデルにより識別する対象のオブジェクトが含まれる確率、相関の単調増加関数である評価値(スコア)を算出する。本実施形態では、評価値に確率を用いた場合を例として説明する。
識別結果統合部25は、対象画像について識別対象領域設定部23により設定した複数の識別対象領域のそれぞれの識別部24による識別結果(確率)に基づいて、最終的な識別結果を生成する。例えば、識別結果統合部25は、第i識別モデルによる複数の識別対象領域についてのそれぞれ複数の識別結果(確率)のうち、予め定められた条件を満足する一部の識別結果(確率)を抽出し、抽出した識別結果(確率)の平均や積を第i識別モデルによる識別対象のオブジェクトの存在確率として得ることとしてよい。1つの具体例として、識別結果統合部25は、複数の識別対象領域についての第i識別モデルによる識別結果(確率)のうち、値が大きい順に予め定められた数又は割合の識別結果(確率)を抽出し、抽出した識別結果(確率)の平均(又は合計)を第i識別モデルによる識別対象のオブジェクトの存在確率(又は最終スコア)として得ることとしてよい。また、他の具体例として、識別結果統合部25は、複数の識別対象領域についての第i識別モデルによる識別結果(確率)のうち、予め定められた閾値以上(又は閾値より大きい)識別結果(確率)を抽出し、抽出した識別結果(確率)の平均(又は合計)を第i識別モデルによる識別対象のオブジェクトの存在確率(又は最終スコア)として得ることとしてもよい。また、識別結果統合部25は、複数の識別対象領域についての第i識別モデルによる識別結果(確率)の平均(又は合計)を第i識別モデルによる識別対象のオブジェクトの存在確率(又は最終スコア)として得ることとしてもよい。また、識別結果統合部25は、複数の識別対象領域についての第i識別モデルによる識別結果(確率)のうち、閾値以上の識別結果の数が、閾値未満の識別結果の数よりも大きい場合には、第i識別モデルによる識別対象のオブジェクトが含まれ、それ以外の場合には含まれないとの結果を得ることとしてもよい。
ここで、図5を参照しながら、識別結果統合部25による識別結果の統合処理の一例について説明する。図5に示されるように、図4において設定された識別対象領域(矩形A、B,C,D)のそれぞれについて、矩形特徴量生成部17により矩形特徴量(ヒストグラム)を生成し、生成した矩形特徴量に基づいて、例えば車を識別対象とする識別モデルによる識別結果(確率)を得る。ここで、識別結果統合部25は、例えば、識別対象領域について得られた識別結果のうち上位2つ(又は閾値0.5とした場合に閾値以上の識別結果)を抽出し、その平均を最終結果として得る。このようにした場合に、矩形Aや矩形Bは、背景等のノイズである可能性が高いため、ノイズ以外の識別対象領域に基づいてオブジェクトの識別処理が可能となる。
識別結果出力部26は、識別結果統合部25による最終的な識別結果を出力する。例えば、第i(iは1〜Nのいずれか)識別モデルによる最終的な識別結果を、第i識別モデルが識別する対象のオブジェクトの情報とともにユーザ(ユーザ端末)に提供することとしてよい。
[2.フローの説明]
次に、図6乃至図9を参照しながら、画像処理装置10により実行される処理の一例について説明する。
[2−1.学習処理に関するフローの説明]
図6には、画像処理装置10により実行される学習処理のフロー図を示した。図6に示されるように、画像処理装置10は、予め学習用の標本画像から得た局所特徴量をクラスタリングし(S101)、各クラスタの中心の情報を記憶しておく。
次に、画像処理装置10は、学習するオブジェクトのラベル(種類、カテゴリ)Lを、例えばユーザ(又はユーザ端末)から受け付ける(S102)。画像処理装置10は、ラベルLのオブジェクトが含まれる標本画像を取得するとともに、取得した標本画像の中から未処理の標本画像Sを選択する(S103)。
画像処理装置10は、S103で選択した標本画像Sに対して局所特徴量を算出する(S104)。ここで、画像に対する局所特徴量の算出処理については、図7に示したフロー図を参照しながら説明する。
[2−1−1.局所特徴量の算出処理]
図7には、局所特徴量の算出処理のフロー図を示した。図7に示されるフローでは、局所特徴量を算出する対象の画像の画素数をA(Aは1以上の整数)、スケール数をB(1以上の整数)とする。
図7に示されるように、画像処理装置10は、変数i及びjをそれぞれ1に初期化し(S201)、スケールSを選択する(S202)。本フローの例では、スケールS〜Sが存在し、スケールSはS×Sピクセルで表され、S<Si+1とする。
画像処理装置10は、対象の画像(画素e〜e)から画素eを選択し(S203)、選択した画素eを中心とするスケールSのサイズの領域から画素eの局所特徴量cijを算出する(S204)。局所特徴量cijは、例えば、画素eを中心とするスケールSのサイズの領域に含まれる画素のRGB値の平均、SIFT特徴、HOG特徴、Gabor特徴等としてよい。
次に、画像処理装置10は、変数jがAに達していない場合には(S205:N)、jをインクリメント(1加算)して(S206)、S203に戻る。また、画像処理装置10は、変数jがAに達している場合であって(S205:Y)、変数iがBに達していない場合には(S207:N)、変数iをインクリメント(1加算)するとともに、変数jを1に初期化して(S208)、S202に戻る。そして、画像処理装置10は、変数jがAに達している場合であって(S205:Y)、変数iもBに達している場合には(S207:Y)、局所特徴量の算出処理を終了し、リターンする。
ここで、図6のフロー図に戻り説明を続ける。図6に示されるように、画像処理装置10は、標本画像Sの局所特徴量の算出処理(S104)を終えると、例えばユーザ(又はユーザ端末)から受け付けた領域指定データに基づいて、標本画像Sに対して1以上の矩形領域を設定する(S105)。
画像処理装置10は、標本画像Sに対して設定された矩形領域のうち、未処理の矩形領域Aを選択し(S106)、選択した矩形領域Aのサイズに基づいてスケールを選択する(S107)。例えば、画像処理装置10は、スケールS〜Sのそれぞれについてサイズの範囲を定めておき、矩形領域Aのサイズの範囲がどのスケールに該当するかに基づいてスケールを選択することとしてよい。
画像処理装置10は、S107で選択したスケール(例えばSとする)における矩形領域Aの局所特徴量を、S101におけるクラスタリング結果に基づいて量子化する(S108)。例えば、スケールSにおける標本画像Sの画素e〜eの局所特徴量はc1k〜cAkとなり、画像処理装置10は、これらの局所特徴量c1k〜cAkが、局所特徴量のクラスタのいずれに属するかに基づいて、局所特徴量c1k〜cAkをそれぞれが属するクラスタの識別番号に変換する。
次に、画像処理装置10は、矩形領域Aに含まれる画素について量子化された局所特徴量の頻度分布に基づいて矩形特徴量を算出する(S109)。例えば、画像処理装置10は、矩形領域Aに含まれる画素について量子化された局所特徴量の頻度を計数して得たヒストグラムを矩形特徴量とすることとしてよい。
画像処理装置10は、S105で設定した矩形領域の中に未処理の矩形領域がある場合には(S110:Y)、S106に戻り、S105で設定した矩形領域の中に未処理の矩形領域がない場合には(S110:N)、S111に進む。
画像処理装置10は、S111において、オブジェクトのラベルLについて未処理の標本画像がある場合には(S111:Y)、S103に戻り、オブジェクトのラベルLについて未処理の標本画像がない場合には(S111:N)、ラベルLについて得た矩形特徴量に基づいて、ラベルLに対応する識別器の学習処理を実行する(S112)。ここで、ラベルLに対応する識別器の学習処理については、図8に示したフロー図を参照しながら説明する。
[2−1−2.識別器の学習処理]
図8に示されるように、画像処理装置10は、ラベルLについて得られた学習用の矩形特徴量を取得し(S301)、取得した学習用の矩形特徴量に基づいてラベルLのオブジェクトを識別するための識別モデルパラメータを算出し(S302)、算出した識別モデルパラメータを、ラベルLに対応する識別器に関連付けて保存する(S303)。
次に、画像処理装置10は、ラベルLの学習に用いた矩形領域のサイズをクラスタリングして(S304)、代表的なサイズを決定する。そして、画像処理装置10は、ラベルLの学習に用いた矩形領域に基づいて、クラスタリングにより得た代表的なサイズごとの、位置、シフト量を決定し(S305)、ラベルLに対応する識別器に関連付けて、矩形領域のサイズ、位置、シフト量等を定めた矩形領域設定パラメータを保存して(S306)、リターンする。
ここで、図6のフロー図に戻り説明を続ける。図6に示されるように、画像処理装置10は、ラベルLの識別器の学習処理を終えると、学習する他のラベルがある場合には(S113:Y)、S102に戻り、学習する他のラベルがない場合には(S113:N)、学習処理を終了する。
[2−2.識別処理に関するフローの説明]
次に、図9に示したフロー図を参照しながら、識別対象の画像(対象画像)に写し出されたオブジェクトの識別処理の一例について説明する。
図9に示されるように、画像処理装置10は、識別の対象画像Tを取得し(S401)、対象画像Tについて局所特徴量を算出する(S402)。なお、局所特徴量の算出処理は、図7に示したフローにより実行することとしてよい。
次に、画像処理装置10は、変数iとjをそれぞれ1に初期化して(S403)、ラベルL(ラベルLは第i(i=1〜N)識別モデルに対応することとする)に対応する識別器に関連付けて保存された矩形領域設定パラメータを読み込む(S404)。
画像処理装置10は、S404で読み込んだ矩形領域設定パラメータに基づいて、対象画像Tに複数の矩形領域(A〜A、Mは2以上の整数)を設定する(S405)。
次に、画像処理装置10は、対象画像Tに設定した矩形領域Aについて、矩形領域Aのサイズに基づいてスケールを選択する(S406)。例えば、画像処理装置10は、スケールS〜Sのそれぞれについてサイズの範囲を定めておき、矩形領域Aのサイズの範囲がどのスケールに該当するかに基づいてスケールを選択することとしてよい。
画像処理装置10は、S406で選択したスケール(例えばSとする)における矩形領域Aの局所特徴量を、S101におけるクラスタリング結果に基づいて量子化する(S407)。局所特徴量の量子化処理については、学習処理時の局所特徴量の量子化処理と同様であるため説明を省略する。
次に、画像処理装置10は、矩形領域Aに含まれる画素について量子化された局所特徴量の頻度に基づいて矩形特徴量を算出する(S408)。例えば、画像処理装置10は、矩形領域Aに含まれるそれぞれの画素について量子化された局所特徴量の頻度を計数して得たヒストグラムを矩形特徴量とすることとしてよい。
画像処理装置10は、S408で算出された矩形領域Aの矩形特徴量と、ラベルLに対応する第i識別モデルパラメータとに基づいて、矩形領域AにラベルLのオブジェクトが含まれる確率Pijを算出し(S409)、算出した確率Pijを保存する(S410)。
ここで、画像処理装置10は、変数jがMに達していない場合には(S411:N)、変数jをインクリメント(1加算)して(S412)、S406に戻り、変数jがMに達している場合には(S411:Y)、S413に進む。
画像処理装置10は、S413において、矩形領域A〜Aについてそれぞれ算出された確率Pi1〜PiMに基づいて、対象画像TのラベルLについての評価値を算出する(S413)。例えば、画像処理装置10は、確率Pi1〜PiMのうち、上位X(Xは1以上M未満の整数)番目までの確率の平均値を対象画像TのラベルLについての評価値Vとして算出することとしてよい。
次に、画像処理装置10は、変数iがNに達していない場合には(S414:N)、変数iをインクリメント(1加算)するとともに、変数jを1に初期化して(S415)、S404に戻る。また、画像処理装置10は、変数iがNに達している場合には(S414:Y)、対象画像Tに関する各ラベルの評価値(確率)に基づく識別結果を生成するとともに、生成した識別結果を出力して(S416)、処理を終了する。
例えば、画像処理装置10は、対象画像Tに関してラベルL〜Lについて得られた評価値V〜Vのうち、閾値以上(又は閾値より大きい)である評価値に対応するラベルを特定し、特定したラベル(オブジェクトの種類)の情報を出力するようにしてもよい。
本発明は上記の実施形態に限定されるものではない。例えば、上記の実施形態では、画像処理装置10が学習処理と識別処理とを共に実行する例を説明したが、学習処理を実行する学習装置と、識別処理を実行する識別装置とを別の装置で実現することとしてもよい。この際に、学習装置が図1で説明した機能を備え、識別装置が図2で説明した機能を備えることとしてよい。

Claims (8)

  1. 処理対象の画像を取得する取得手段と、
    前記処理対象の画像中に、他の部分画像領域と重複する領域を有する部分画像領域を含む複数の部分画像領域を設定する設定手段と、
    前記複数の部分画像領域のそれぞれについて特定種類のオブジェクトが含まれる可能性を示す第1の識別結果を取得する取得手段と、
    前記複数の部分画像領域のそれぞれについての前記第1の識別結果の中から一部の第1の識別結果を抽出する抽出手段と、
    前記抽出手段により抽出した第1の識別結果に基づいて、前記処理対象の画像中に前記特定種類のオブジェクトが含まれる可能性を示す第2の識別結果を生成する生成手段と、を含む
    画像処理装置。
  2. 前記第1の識別結果は、前記特定種類のオブジェクトが含まれる確率であり、
    前記抽出手段は、前記複数の部分画像領域のそれぞれについての第1の識別結果である確率が大きい順に、予め定められた数又は割合の第1の識別結果を抽出する
    請求項に記載の画像処理装置。
  3. 前記第1の識別結果は、前記特定種類のオブジェクトが含まれる確率であり、
    前記抽出手段は、前記複数の部分画像領域のそれぞれについての第1の識別結果である確率が閾値以上の第1の識別結果を抽出する
    請求項に記載の画像処理装置。
  4. 前記第1の識別結果は、前記特定種類のオブジェクトが含まれる確率であり、
    前記生成手段は、前記複数の部分画像領域のそれぞれについての第1の識別結果である確率の合計、積、又は、前記複数の部分画像領域のそれぞれについての第1の識別結果である確率が閾値以上である第1の識別結果の数と閾値未満である第1の識別結果の数との比較結果に基づいて、前記処理対象の画像中に前記特定種類のオブジェクトが含まれる可能性を示す第2の識別結果を生成する
    請求項1に記載の画像処理装置。
  5. 前記特定種類のオブジェクトを含む1以上の標本画像にそれぞれ設定した部分画像領域の画像特徴に基づいて、該特定種類のオブジェクトの識別条件を識別器に学習させる手段をさらに含み、
    前記取得手段は、前記複数の部分画像領域のそれぞれの画像特徴に基づいて、前記識別器により前記複数の部分画像領域のそれぞれについて特定種類のオブジェクトが含まれる可能性を示す第1の識別結果を取得する
    請求項1乃至のいずれかに記載の画像処理装置。
  6. 前記標本画像に設定した部分画像領域の位置及びサイズに関する特徴を学習する部分領域情報学習手段をさらに含み、
    前記設定手段は、前記部分領域情報学習手段により学習された部分画像領域の位置及びサイズに関する特徴に基づいて、前記処理対象の画像中に複数の部分画像領域を設定する
    請求項に記載の画像処理装置。
  7. 前記部分画像領域の画像特徴は、該部分画像領域に含まれる1以上の画素のそれぞれの局所特徴の分布に基づき生成される
    請求項5又は6に記載の画像処理装置。
  8. 処理対象の画像を取得する取得手段と、
    前記処理対象の画像中に、他の部分画像領域と重複する領域を有する部分画像領域を含む複数の部分画像領域を設定する設定手段と、
    前記複数の部分画像領域のそれぞれについて特定種類のオブジェクトが含まれる可能性を示す第1の識別結果を取得する取得手段と、
    前記複数の部分画像領域のそれぞれについての前記第1の識別結果の中から一部の第1の識別結果を抽出する抽出手段と、
    前記抽出手段により抽出した第1の識別結果に基づいて、前記処理対象の画像中に前記特定種類のオブジェクトが含まれる可能性を示す第2の識別結果を生成する生成手段
    としてコンピュータを機能させるためのプログラム。
JP2013244842A 2013-11-27 2013-11-27 画像処理装置及びプログラム Active JP6149710B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2013244842A JP6149710B2 (ja) 2013-11-27 2013-11-27 画像処理装置及びプログラム
US14/296,594 US9122957B2 (en) 2013-11-27 2014-06-05 Image processing apparatus, image processing method, and non-transitory computer readable medium
CN201410321273.6A CN104683686B (zh) 2013-11-27 2014-07-07 图像处理设备和图像处理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013244842A JP6149710B2 (ja) 2013-11-27 2013-11-27 画像処理装置及びプログラム

Publications (2)

Publication Number Publication Date
JP2015103144A JP2015103144A (ja) 2015-06-04
JP6149710B2 true JP6149710B2 (ja) 2017-06-21

Family

ID=53182719

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013244842A Active JP6149710B2 (ja) 2013-11-27 2013-11-27 画像処理装置及びプログラム

Country Status (3)

Country Link
US (1) US9122957B2 (ja)
JP (1) JP6149710B2 (ja)
CN (1) CN104683686B (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107636678B (zh) * 2015-06-29 2021-12-14 北京市商汤科技开发有限公司 用于预测图像样本的属性的方法和设备
US20180032843A1 (en) * 2016-07-29 2018-02-01 Hewlett Packard Enterprise Development Lp Identifying classes associated with data
KR101883350B1 (ko) * 2016-11-22 2018-08-02 (주) 테크로스 샘플수 분석장치 및 방법
US20200012890A1 (en) 2018-07-06 2020-01-09 Capital One Services, Llc Systems and methods for data stream simulation
CN111031232B (zh) * 2019-04-24 2022-01-28 广东小天才科技有限公司 一种听写实时检测的方法及电子设备
JP7433782B2 (ja) * 2019-06-14 2024-02-20 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
CN110807486B (zh) * 2019-10-31 2022-09-02 北京达佳互联信息技术有限公司 类别标签的生成方法、装置、电子设备及存储介质
WO2021085258A1 (ja) * 2019-10-31 2021-05-06 キヤノン株式会社 画像処理装置、画像処理装置の制御方法、識別器の生成方法、識別方法、識別装置、識別器の生成装置、及び識別器
JP2022105385A (ja) * 2021-01-04 2022-07-14 株式会社東芝 進捗判定システム、進捗判定方法、プログラム、及び記憶媒体

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005250771A (ja) * 2004-03-03 2005-09-15 Fuji Photo Film Co Ltd 対象物識別装置および方法並びにプログラム
EP2049983A2 (en) * 2006-08-07 2009-04-22 Yeda Research And Development Co. Ltd. Data similarity and importance using local and global evidence scores
JP2011013732A (ja) * 2009-06-30 2011-01-20 Sony Corp 情報処理装置、情報処理方法、およびプログラム
WO2012124000A1 (ja) * 2011-03-17 2012-09-20 日本電気株式会社 画像認識システム、画像認識方法および画像認識用プログラムが格納された非一時的なコンピュータ可読媒体
US8873813B2 (en) * 2012-09-17 2014-10-28 Z Advanced Computing, Inc. Application of Z-webs and Z-factors to analytics, search engine, learning, recognition, natural language, and other utilities
JP5823270B2 (ja) * 2011-11-30 2015-11-25 Kddi株式会社 画像認識装置及び方法
JP5648655B2 (ja) * 2012-04-27 2015-01-07 株式会社デンソー 対象物識別装置

Also Published As

Publication number Publication date
US20150146974A1 (en) 2015-05-28
CN104683686A (zh) 2015-06-03
CN104683686B (zh) 2019-03-12
JP2015103144A (ja) 2015-06-04
US9122957B2 (en) 2015-09-01

Similar Documents

Publication Publication Date Title
JP6149710B2 (ja) 画像処理装置及びプログラム
Zhao et al. Learning mid-level filters for person re-identification
CN110991465B (zh) 一种物体识别方法、装置、计算设备及存储介质
JP5823270B2 (ja) 画像認識装置及び方法
EP3274921B1 (en) Multi-layer skin detection and fused hand pose matching
JP5916886B2 (ja) 画像特徴の類似性に基づく画像索引作成
Li et al. 3D facial expression recognition via multiple kernel learning of multi-scale local normal patterns
US9098775B2 (en) Multi-class identifier, method, and computer-readable recording medium
JP5538967B2 (ja) 情報処理装置、情報処理方法、プログラム
CN110717554B (zh) 图像识别方法、电子设备及存储介质
JP5725918B2 (ja) 情報処理方法及び情報処理装置
JP5997545B2 (ja) 信号処理方法及び信号処理装置
JP5361664B2 (ja) 画像処理装置、画像処理方法
WO2012124000A1 (ja) 画像認識システム、画像認識方法および画像認識用プログラムが格納された非一時的なコンピュータ可読媒体
Marini et al. Bird species classification based on color features
CN104268552B (zh) 一种基于部件多边形的精细类别分类方法
CN111881849A (zh) 图像场景检测方法、装置、电子设备及存储介质
CN112633297A (zh) 目标对象的识别方法、装置、存储介质以及电子装置
JP2012221061A (ja) 画像認識装置、画像認識方法、及びプログラム
CN109034239B (zh) 遥感影像分类方法、分布式风电场的选址方法和设备
CN109741380B (zh) 纺织品图片快速匹配方法和装置
Gou et al. mom: Mean of moments feature for person re-identification
CN112241736A (zh) 一种文本检测的方法及装置
Liu et al. Flower classification using fusion descriptor and SVM
CN113963295A (zh) 视频片段中地标识别方法、装置、设备及存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160218

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170123

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170324

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170425

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170508

R150 Certificate of patent or registration of utility model

Ref document number: 6149710

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250