JP5313037B2 - 電子カメラ、画像処理装置および画像処理方法 - Google Patents

電子カメラ、画像処理装置および画像処理方法 Download PDF

Info

Publication number
JP5313037B2
JP5313037B2 JP2009114958A JP2009114958A JP5313037B2 JP 5313037 B2 JP5313037 B2 JP 5313037B2 JP 2009114958 A JP2009114958 A JP 2009114958A JP 2009114958 A JP2009114958 A JP 2009114958A JP 5313037 B2 JP5313037 B2 JP 5313037B2
Authority
JP
Japan
Prior art keywords
image
conversion
unit
conversion parameter
parameter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009114958A
Other languages
English (en)
Other versions
JP2010263584A (ja
Inventor
育規 石井
祐亮 物部
康伸 小倉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2009114958A priority Critical patent/JP5313037B2/ja
Priority to CN201080002005.8A priority patent/CN102084642B/zh
Priority to EP10774676.0A priority patent/EP2432214A4/en
Priority to PCT/JP2010/002685 priority patent/WO2010131416A1/ja
Priority to KR1020107028848A priority patent/KR20120007948A/ko
Priority to US13/002,771 priority patent/US8593522B2/en
Publication of JP2010263584A publication Critical patent/JP2010263584A/ja
Application granted granted Critical
Publication of JP5313037B2 publication Critical patent/JP5313037B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/64Imaging systems using optical elements for stabilisation of the lateral and angular position of the image
    • G02B27/646Imaging systems using optical elements for stabilisation of the lateral and angular position of the image compensating for small deviations, e.g. due to vibration or shake
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • G03B15/16Special procedures for taking photographs; Apparatus therefor for photographing the track of moving objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/162Detection; Localisation; Normalisation using pixel segmentation or colour matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/167Detection; Localisation; Normalisation using comparisons between temporally consecutive images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/0077Types of the still picture apparatus
    • H04N2201/0084Digital still camera

Description

本発明は、電子カメラ、画像処理装置等に関し、特に、入力画像において追跡の対象となる対象物の像を追跡する電子カメラ、画像処理装置等に関する。
近年、電子カメラは、AF(オートフォーカス:Auto−Focus)、AE(自動露出:Automatic Exposure)または逆光補正機能の位置合わせ手段として物体追跡機能を有する。なお、電子カメラとは、静止画像を撮影するカメラまたは動画像を撮影するカメラである。
例えば、電子カメラは、指定された対象物の像の色情報を初期特徴量として登録する。そして、電子カメラは、対象物の像が指定された後に撮影された画像において、初期特徴量と類似する領域を探索することにより、対象物の像の追跡を行う。具体的には、電子カメラは、色の情報を用いたテンプレートマッチングを実行する、あるいは色相のヒストグラムの重複する割合を算出することにより対象物の像が含まれる対象領域を探索する。
ところで、監視用途の据え置きカメラは、撮影される場所がほぼ固定であり、日照条件および時間変化の情報などを容易に取得することができる。そこで、監視用途の据え置きカメラは、日照条件および時間変化の情報などを用いて周囲の環境を推定する。そして、監視用途の据え置きカメラは、推定した環境に応じて、例えばテンプレートマッチングにおけるテンプレートの色を変更することができる。
しかし、デジタルビデオカメラなど民生機器は、様々な環境において様々な対象が撮影されるため、現在の環境を推定することが難しい。つまり、電子カメラは、追跡の対象となる対象物を撮影するときの周囲の環境(以下、「撮影環境」という。)が変化した場合、電子カメラが環境の変化に追従できないために、誤った物体を追跡し続ける、あるいは追跡が中断されるなどといった問題が生じる。例えば、電子カメラが暗い場所から明るい場所へ移動された場合、追跡の対象となる対象物の像の明るい部分の階調が失われる(白とび)ため、テンプレートマッチングができないという問題が生じる。
そこで、従来の電子カメラは、撮影環境が変化した場合、撮影された画像において、変化した環境に応じて露光または色温度などを補正する(例えば、特許文献1を参照)。特許文献1に記載の方法では、画面内に位置を変化させながら設定された検出領域内外の輝度成分の差を用いて、画面内の輝度パターンが判定される。そして、判定された輝度パターンに適した位置に設定された測光領域を用いて露光制御が行われる。
また、色相情報を用いずに、RGB(Red Green Blue)の各色と輝度Yとを用いて算出される予測係数を用いて目標を追尾することにより、照明によって色が変化した場合でも目標を確実に追尾する方法が提案されている(例えば、特許文献2を参照)。
特許第2568161号公報 特開平7−095598号公報
しかしながら、特許文献1に示すような従来の方法では、時間的に連続する画像において明るさあるいは色などを変換する変換パラメータが急激に変化しないように、徐々に環境に適した値へ変更される。これは、例えば、明るさまたは色温度などが変化した場合に、画像の明るさまたは色温度を変換する変換パラメータが環境に合わせて大きく変化されれば、ユーザに違和感あるいは不快感を与えるからである。このように、変換パラメータが徐々に変更されるため、特にロバストな特徴量である色を特徴量として利用した場合には、電子カメラは対象物の追跡を失敗する。
また、特許文献2に示すような従来の方法では、予測係数を用いて対象物を追跡するため、予測が間違った場合には正しく追跡できない。
そこで、本発明は、上記従来の課題を鑑みてなされたものである。本発明は、撮影環境が変化することによって対象物の像を示す特徴量が変動する場合であっても、対象物の像を安定して追跡することが可能な電子カメラ、画像処理装置等を提供することを目的とする。
上記目的を達成するために、本発明に係る電子カメラは、連続して撮影された画像において追跡の対象となる対象物の像を追跡し、追跡結果を利用して、オートフォーカス処理、自動露出処理、並びにカメラ制御によるフレーミング処理および自動撮影処理のうち少なくとも1つを実行する電子カメラであって、第1画像において前記対象物の像を含む領域である初期領域に関する情報と、前記第1画像が撮影されたときの撮影環境に対応するパラメータであって前記第1画像を所定の画質を有する画像に変換するためのパラメータである第1変換パラメータとを記憶する記憶部と、前記第1画像より後に撮影された画像である第2画像が撮影されたときの撮影環境に応じて、前記第2画像を前記所定の画質を有する画像に変換するための第2変換パラメータを算出する変換パラメータ算出部と、前記記憶部に記憶された第1変換パラメータと前記変換パラメータ算出部によって算出された第2変換パラメータとを用いて、前記第1および第2画像の少なくとも一方を変換する第1画像変換部と、前記第1画像変換部によって変換された後の画像を用いて、前記初期領域の特徴を定量的に示す特徴量に類似する特徴量を有する領域を前記第2画像において探索することにより、前記対象物の像を追跡する追跡処理部と、前記第2変換パラメータよりも、連続して撮影された画像間における変化量が抑制された第3変換パラメータを用いて、前記第2画像を変換する第2画像変換部と、前記第2画像変換部によって変換された後の画像と、前記追跡処理部によって探索された領域を示す情報とを出力する出力部とを備える。
これによって、撮影環境が変化することによって対象物の像を示す特徴量が変動した場合であっても、撮影環境に対応した変換パラメータを用いて変換した画像を利用して対象物の像を追跡することにより、対象物の像を安定して追跡することが可能となる。さらに、撮影環境の変化に徐々に対応する変換パラメータを用いて変換した画像を出力することにより、ユーザが画像を見たときの違和感あるいは不快感を低減することも可能となる。
また、前記第1、第2および第3変換パラメータは、撮影された画像から検出される色温度、露光、露出、および輝度値の少なくとも1つに応じて、前記画像を構成する複数の画素が有する画素値を変換するためのパラメータであるとしてもよい。
これによって、色温度、露光、露出、および輝度値が変化した場合であっても、対象物の像を安定して追跡することが可能となる。
また、前記第1画像変換部は、前記第1および第2変換パラメータの比を用いて、前記第1および第2画像の一方を変換するとしてもよい。
これによって、第1および第2画像の一方を変換すればよいので、画像を変換する処理の負荷を軽減することが可能となる。
また、前記第1画像変換部は、前記第1画像を変換する場合、前記第1画像のうち前記初期領域に含まれる画像のみを変換するとしてもよい。
これによって、第1画像の一部の領域に含まれる画像を変換すればよいので、画像を変換する処理の負荷をさらに軽減することが可能となる。
また、前記特徴量は、画像を構成する画素が有する色の頻度分布を表す色ヒストグラムであり、前記追跡処理部は、前記初期領域の色ヒストグラムと重なる部分の割合が最も大きい色ヒストグラムを有する領域を前記第2画像において探索するとしてもよい。
これによって、ロバスト性の高い色ヒストグラムを用いて対象物の像を追跡できるので、対象物の像をより安定して追跡することが可能となる。
また、本発明に係る画像処理装置は、連続して撮影された画像において追跡の対象となる対象物の像を追跡する画像処理装置であって、第1画像において前記対象物の像を含む領域である初期領域に関する情報と、前記第1画像が撮影されたときの撮影環境に対応するパラメータであって前記第1画像を所定の画質を有する画像に変換するためのパラメータである第1変換パラメータとを記憶する記憶部と、前記第1画像より後に撮影された画像である第2画像が撮影されたときの撮影環境に応じて、前記第2画像を前記所定の画質を有する画像に変換するための第2変換パラメータを算出する変換パラメータ算出部と、前記記憶部に記憶された第1変換パラメータと前記変換パラメータ算出部によって算出された第2変換パラメータとを用いて、前記第1および第2画像の少なくとも一方を変換する第1画像変換部と、前記第1画像変換部によって変換された後の画像を用いて、前記初期領域の特徴を定量的に示す特徴量に類似する特徴量を有する領域を前記第2画像において探索することにより、前記対象物の像を追跡する追跡処理部と、前記第2変換パラメータよりも、連続して撮影された画像間における変化量が抑制された第3変換パラメータを用いて、前記第2画像を変換する第2画像変換部と、前記第2画像変換部によって変換された後の画像と、前記追跡処理部によって探索された領域を示す情報とを出力する出力部とを備える。
また、本発明に係る集積回路は、連続して撮影された画像において追跡の対象となる対象物の像を追跡する画像処理装置が備える集積回路であって、前記画像処理装置は、第1画像において前記対象物の像を含む領域である初期領域に関する情報と、前記第1画像が撮影されたときの撮影環境に対応するパラメータであって前記第1画像を所定の画質を有する画像に変換するためのパラメータである第1変換パラメータとを記憶する記憶部を備え、前記集積回路は、前記第1画像より後に撮影された画像である第2画像が撮影されたときの撮影環境に応じて、前記第2画像を前記所定の画質を有する画像に変換するための第2変換パラメータを算出する変換パラメータ算出部と、前記記憶部に記憶された第1変換パラメータと前記変換パラメータ算出部によって算出された第2変換パラメータとを用いて、前記第1および第2画像の少なくとも一方を変換する第1画像変換部と、前記第1画像変換部によって変換された後の画像を用いて、前記初期領域の特徴を定量的に示す特徴量に類似する特徴量を有する領域を前記第2画像において探索することにより、前記対象物の像を追跡する追跡処理部と、前記第2変換パラメータよりも、連続して撮影された画像間における変化量が抑制された第3変換パラメータを用いて、前記第2画像を変換する第2画像変換部と、前記第2画像変換部によって変換された後の画像と、前記追跡処理部によって探索された領域を示す情報とを出力する出力部とを備える。
なお、本発明は、このような画像処理装置として実現するだけでなく、このような画像処理装置が備える特徴的な構成部の動作をステップとする画像処理方法として実現してもよい。また、本発明は、そのような画像処理方法に含まれるステップをコンピュータに実行させるプログラムとして実現してもよい。そして、そのようなプログラムは、CD−ROM等の記録媒体またはインターネット等の伝送媒体を介して配信してもよい。
以上の説明から明らかなように、本発明に係る電子カメラ、画像処理装置等は、追跡の対象となる対象物を撮影する環境が変化した場合でも、環境変化に応じた変換パラメータを用いて画像を変換することにより対象物の像を安定して追跡することが可能となる。さらに、本発明に係る電子カメラ、画像処理装置等は、撮影環境の変化に徐々に対応する変換パラメータを用いて変換した画像を出力することにより、ユーザが画像を見たときの違和感あるいは不快感を低減することも可能となる。
本発明の実施の形態に係る画像処理装置の機能構成を示すブロック図である。 本発明の実施の形態に係る画像処理装置の具体例である電子カメラの構成を示すブロック図である。 本発明の実施の形態に係る画像処理装置の動作を示すフローチャートである。 本発明の実施の形態に係る画像処理装置における動作の具体例を説明するための図である。 (a)〜(c)は、本発明の実施の形態に係る画像処理装置における探索に関する動作の具体例を説明するための図である。
以下に、本発明の実施の形態について、図面を参照しながら説明する。
図1は、本発明の実施の形態に係る画像処理装置の機能構成を示すブロック図である。図1に示すように、画像処理装置10は、初期領域取得部11と、変換パラメータ算出部12と、第1画像変換部13と、第2画像変換部14と、追跡処理部15と、出力部16と、記憶部17とを備える。
初期領域取得部11は、第1画像において対象物の像を含む領域である初期領域に関する情報を取得する。そして、初期領域取得部11は、取得した初期領域に関する情報を記憶部17に登録する。具体的には、初期領域取得部11は、例えば、初期領域の位置および大きさを示す情報を取得する。
なお、例えば、撮影している画像または撮影しようとしている画像を表示する手段としてタッチパネルを電子カメラが備える場合、初期領域取得部11は、ユーザがタッチパネルにタッチすることにより受け付けられた初期領域の位置の情報を取得する。また例えば、表示画面の中央などのあらかじめ定められた領域に追跡したい物体が写るように電子カメラの向きを合わせた後にユーザが追跡ボタンを押した場合に、初期領域取得部11は、当該領域を初期領域として取得してもよい。
さらに、初期領域取得部11は、第1画像が撮影されたときの撮影環境に応じて画像を変換するためのパラメータであって、第1画像を所定の画質(以下、単に「目的画質」という。)を有する画像(以下、単に「目的画質画像」という。)に変換するためのパラメータである第1変換パラメータを取得する。そして、初期領域取得部11は、取得した第1変換パラメータを記憶部17に登録する。
ここで、目的画質とは、画像が所定の条件を満たす色または輝度を有することをいう。例えば、目的画質とは、画像が、あらかじめ定められた所定の色分布または輝度分布となることをいう。具体的には、例えば、目的画質とは、白色の被写体が撮影された画像において、光源の色温度に関わらず当該被写体の像の色が白色となることをいう。また、目的画質とは、例えば、明るい被写体の像が階調を失わない(白とびしない)ことをいう。
変換パラメータ算出部12は、第1画像より後に撮影された画像である第2画像が撮影されたときの撮影環境に応じて、第2画像を目的画質画像に変換するための第2変換パラメータを算出する。ここで、所定の画質は、上述した第1変換パラメータにおける所定の画質と同一である。
また、変換パラメータ算出部12は、第2変換パラメータよりも、連続して撮影された画像間における変化量が抑制された第3変換パラメータを算出する。つまり、変換パラメータ算出部12は、撮影された画像を、撮影環境の変化に徐々に追随する画像へ変換するための第3変換パラメータを算出する。
具体的には、変換パラメータ算出部12は、第2画像よりも時間的に1つ前の画像における第3変換パラメータ(以下、単に「旧第3変換パラメータ」という。)と第2画像における第3変換パラメータとの差分値が、旧第3変換パラメータと第2画像における第2変換パラメータとの差分値以下となるように第3変換パラメータを算出する。
第1画像変換部13は、記憶部17に記憶された第1変換パラメータと変換パラメータ算出部12によって算出された第2変換パラメータとを用いて、第1および第2画像の少なくとも一方を変換する。つまり、第1画像変換部13は、変換後の画像が同等の画質を有するように、第1および第2画像の少なくとも一方を変換する。具体的には、例えば、第1画像変換部13は、第1変換パラメータと第2変換パラメータとの比を用いて、第1画像を変換する。
第2画像変換部14は、第3変換パラメータを用いて第2画像を変換する。
追跡処理部15は、第1画像変換部13によって変換された後の画像を用いて、初期領域の特徴を定量的に示す特徴量と最も類似する特徴量を有する領域を第2画像において探索することにより、対象物の像を追跡する。具体的には、例えば、追跡処理部15は、第2画像内の位置および大きさを変更しながら選択した領域の特徴量を抽出する。そして、追跡処理部15は、算出した特徴量のうち初期領域の特徴量と最も差分が小さい特徴量を有する領域を対象領域として特定する。なお、対象領域とは、対象物の像を含む領域である。
ここで、特徴量とは、例えば、領域内における画素の色の頻度分布を示す色ヒストグラムである。また、特徴量とは、例えば、領域内において検出されるエッジであってもよい。また、特徴量とは、例えば、領域を構成する画素が有する輝度値であってもよい。
出力部16は、第2画像変換部14によって変換された後の画像と、追跡処理部15によって探索された領域を示す情報とを出力する。具体的には、出力部16は、例えば、電子カメラなどが有する表示部に表示させるために、第2画像変換部14によって変換された後の画像と対象領域を示す枠などとを含む画像を記憶部17に登録する。
記憶部17は、初期領域に関する情報と第1変換パラメータとを記憶する。
なお、上記において、第1、第2および第3変換パラメータは、撮影された画像から検出される色温度、露光、露出、および輝度値の少なくとも1つに応じて、画像を構成する複数の画素が有する画素値を変換するためのパラメータである。具体的には、第1、第2および第3変換パラメータは、例えば、各画素のRGBごとの輝度値を変換する変換係数である。
図2は、本発明の実施の形態に係る画像処理装置の具体例である電子カメラの構成を示すブロック図である。図2に示すように、電子カメラ100は、撮影レンズ101と、シャッター102と、撮像素子103と、AD変換器104と、タイミング発生回路105と、画像処理回路106と、メモリ制御回路107と、画像表示メモリ108と、DA変換器109と、画像表示部110と、メモリ111と、リサイズ回路112と、システム制御回路113と、露光制御部114と、測距制御部115と、ズーム制御部116と、バリア制御部117と、フラッシュ118と、保護部119と、メモリ120と、表示部121と、不揮発性メモリ122と、モードダイアルスイッチ123と、シャッタースイッチ124と、電源制御部125と、コネクタ126および127と、電源128と、インタフェース129および130と、コネクタ131および132と、記録媒体133と、光学ファインダ134と、通信部135と、アンテナ136と、初期領域取得回路137と、変換パラメータ算出回路138と、第1画像変換回路139と、第2画像変換回路140と、追跡処理回路141と、追跡結果描画回路142と、カメラ制御回路143とを備える。なお、電源128および記録媒体133は、取り外し可能でもよい。
撮影レンズ101は、ズーミングおよびフォーカシング機能を有するレンズであり、入射する光を撮像素子103上に結像させる。
シャッター102は、絞り機能を備え、撮像素子103に入射する光の量を調節する。
撮像素子103は、入射した光が結像して得られる光学像を電気信号(画像データ)に変換する。
AD変換器104は、撮像素子103から出力されるアナログ信号をデジタル信号に変換する。AD変換器104は、デジタル信号に変換された画像データを、メモリ制御回路107を介して、画像表示メモリ108またはメモリ111に書き込む。または、AD変換器104は、デジタル信号に変換された画像データを画像処理回路106に出力する。
タイミング発生回路105は、撮像素子103、AD変換器104およびDA変換器109にクロック信号または制御信号を供給する。タイミング発生回路105は、メモリ制御回路107およびシステム制御回路113により制御される。
画像処理回路106は、AD変換器104から出力される画像データまたはメモリ制御回路107から出力される画像データに対して、所定の画像補間処理または色変換処理などを行う。また、画像処理回路106は、入力される画像データを用いて所定の演算処理を行い、得られた演算結果に基づいてシステム制御回路113が露光制御部114および測距制御部115に対して制御を行う。
メモリ制御回路107は、AD変換器104、タイミング発生回路105、画像処理回路106、画像表示メモリ108、DA変換器109、メモリ111およびリサイズ回路112を制御する。
画像表示メモリ108は、表示用の画像データを記憶する。
DA変換器109は、メモリ制御回路107を介して、画像表示メモリ108から表示用の画像データを取得し、デジタル信号からアナログ信号に変換する。
画像表示部110は、DA変換器109でアナログ信号に変換された表示用の画像データを表示する。また、画像表示部110は、ユーザから追跡の対象となる対象物が写っている領域(初期領域)を特定するための情報を受け付けてもよい。画像表示部110は、例えば、TFTLCD(Thin Film Transistor Liquid Crystal Display)、タッチパネルなどのディスプレイである。
メモリ111は、AD変換器104から得られる画像データ、および、画像処理回路106で処理された画像データを記憶する。さらに、メモリ111は、初期領域取得回路137によって取得された初期領域に関する情報など追跡処理に必要な情報を記憶する。なお、メモリ111は、図1の記憶部17に相当する。
リサイズ回路112は、撮影して得られた画像から低解像度の画像を生成する。なお、リサイズ回路112は、用途に応じて所定の複数の解像度を選択することができる。リサイズ回路112は、メモリ111に格納された画像データを読み込み、読み込んだ画像データに対してリサイズ処理を行い、処理を終えたデータをメモリ111に書き込む。
なお、リサイズ回路112は、撮像素子103の画素数と異なる画素数(サイズ)で記録媒体133などに画像データを記録したい場合などに利用される。また、画像表示部110の表示可能な画素数は、撮像素子103の画素数よりもかなり小さい。したがって、リサイズ回路112は、撮影した画像データを画像表示部110に表示する場合の表示用画像を生成する場合にも利用される。
システム制御回路113は、電子カメラ100全体の各処理部および各処理回路を制御することによって、撮影処理を行う。撮影処理は、露光処理、現像処理および記録処理などからなる。露光処理とは、撮像素子103から読み出した画像データをAD変換器104およびメモリ制御回路107を介してメモリ111に書き込む処理である。現像処理とは、画像処理回路106およびメモリ制御回路107での演算処理である。記録処理とは、メモリ111から画像データを読み出し、記録媒体133に画像データを書き込む処理である。
露光制御部114は、絞り機能を備えるシャッター102を制御する。また、露光制御部114は、フラッシュ118と連携することによりフラッシュ調光機能も有する。
測距制御部115は、撮影レンズ101のフォーカシングを制御する。ズーム制御部116は、撮影レンズ101のズーミングを制御する。バリア制御部117は、保護部119の動作を制御する。
フラッシュ118は、被写体に対してフラッシュ光を照射する。フラッシュ118は、さらに、AF補助光の投光機能およびフラッシュ調光機能も有する。
保護部119は、電子カメラ100の撮影レンズ101、シャッター102および撮像素子103などを含む撮像部を覆うことにより、撮像部の汚れまたは破損を防止するバリアである。
メモリ120は、システム制御回路113の動作用の定数、変数およびプログラムなどを記録する。
表示部121は、システム制御回路113でのプログラムの実行に応じて、文字、画像または音声などを用いて動作状態またはメッセージなどを表示する液晶表示装置またはスピーカーなどである。表示部121は、電子カメラ100の操作部近辺の視認しやすい単数または複数の箇所に設置される。表示部121は、例えば、LCD、LED(Light Emitting Diode)、または、発音素子などの組み合わせにより構成されている。
不揮発性メモリ122は、電気的に証拠・記録可能なメモリであり、電子カメラ100の動作設定データまたは利用者固有の情報などを記憶する。不揮発性メモリ122は、例えば、EEPROM(Electrically Erasable and Programmable Read Only Memory)などである。
モードダイアルスイッチ123は、自動撮影モード、撮影モード、パノラマ撮影モードおよびRAWモードなどの各機能モードを切り替え、設定することができる。
シャッタースイッチ124は、シャッターボタン(図示せず)の操作途中でONとなりAF処理、AE処理およびAWB(Auto White Balance)処理などの動作開始を指示する。また、シャッタースイッチ124は、露光処理、現像処理および記録処理という一連の処理の動作の開始を指示する。
電源制御部125は、電池検出回路、DC−DCコンバータ、および、通電するブロックを切り替えるスイッチ回路などにより構成されている。電源制御部125は、電池の装着の有無、電池の種類および電池残量の検出を行う。さらに、電源制御部125は、検出結果およびシステム制御回路113の指示に基づいてDC−DCコンバータを制御し、必要な電圧を帰還させ、記録媒体133を含む各処理部へ電圧を、コネクタ126および127を介して供給する。
コネクタ126および127は、電源制御部125と、電源128との接続を行うコネクタである。
電源128は、アルカリ電池もしくはリチウム電池などの一次電池、NiCd電池、NiMH電池もしくはLi電池などの二次電池、または、ACアダプタなどである。
インタフェース129および130は、記録媒体133とメモリ111などとの間で画像データなどの送受信を行うためのインタフェースである。
コネクタ131および132は、インタフェース129とインタフェース130とを介した記録媒体133との接続を行うコネクタである。
記録媒体133は、画像データを記録するメモリカードまたはハードディスクなどの記録媒体である。
光学ファインダ134は、撮影者が被写体を確認するために使用するファインダである。撮影者は、画像表示部110による電子ファインダ機能を使用することなく、光学ファインダ134のみを用いて撮影を行うことが可能である。
通信部135は、RS232C、USB、IEEE1394、モデム、LAN、または無線通信などの各種通信機能を有する。
アンテナ136は、通信部135により電子カメラ100を他の機器と接続されるコネクタまたは無線通信の場合のアンテナである。
初期領域取得回路137は、タッチパネルがユーザから受け付けた位置、あるいはユーザがシャッタースイッチ124を押すことによって設定されるAF領域等によって特定された初期領域に関する情報を取得し、取得した情報をメモリ111に書き込む。なお、初期領域取得回路137は、図1の初期領域取得部11に相当する。
変換パラメータ算出回路138は、ユーザが視覚を通じて認識する色または明るさと同等の色または明るさを有する画像に入力画像を変換するための変換パラメータを算出する。具体的には、変換パラメータ算出回路138は、例えば、対象物を照らす光の色温度を検出し、検出した色温度に応じて入力画像の色を変換する変換パラメータを算出する。なお、変換パラメータ算出回路138は、図1の変換パラメータ算出部12に相当する。
第1画像変換回路139は、メモリ111から初期領域に含まれる画像を読み込む。さらに、第1画像変換回路139は、変換パラメータ算出回路138によって算出された変換パラメータを用いて、読み込んだ画像を変換する。なお、第1画像変換回路139は、図1の第1画像変換部13に相当する。
第2画像変換回路140は、メモリ111から入力画像を読み込む。さらに、第2画像変換回路140は、変換パラメータ算出回路138によって算出された変換パラメータを用いて、読み込んだ画像を変換する。なお、第2画像変換回路140は、図1の第2画像変換部14に相当する。
追跡処理回路141は、メモリ111から第1画像変換回路139によって変換された画像を読み込み、読み込んだ画像の特徴量を算出する。そして、追跡処理回路141は、算出した特徴量と最も類似する特徴量を有する領域を入力画像において探索することにより、対象物の像の追跡処理を行う。さらに、追跡処理回路141は、追跡結果(座標データ、評価値など)をメモリ111に書き込む。なお、追跡処理回路141は、図1の追跡処理部15に相当する。
追跡結果描画回路142は、メモリ111に書き込まれた追跡結果を表示部121に表示させるために、画像表示メモリ108に書き込まれた表示用の画像データを加工する。具体的には、追跡結果描画回路142は、画像データに対して、例えば、追跡枠、モザイク化、文字、表示色の変更、ぼかしなどの加工を行う。なお、追跡結果描画回路142は、図1の出力部16に相当する。
カメラ制御回路143は、メモリ111に書き込まれた追跡結果(対象領域)の位置と大きさとに基づいて、対象領域に写っている対象物に焦点が合うように、AF処理を制御する。具体的には、カメラ制御回路143は、例えば、対象領域に写っている対象物のコントラストを利用して、コントラストが高くなるように撮影レンズ101を制御する。
また、カメラ制御回路143は、対象領域に写っている対象物の露出が適正となるように、AE処理または逆光補正処理を制御してもよい。具体的には、カメラ制御回路143は、例えば、シャッター速度優先、または絞り値優先などモードにしたがって、露光制御部114を介して、絞り機能を備えるシャッター102のシャッター速度または絞り値を制御してもよい。
さらに、カメラ制御回路143は、対象物が画像内の一定の位置または一定の大きさとなるように(例えば、対象物である顔が画像の中央に写るように、あるいは、対象物である人物の全身が写るようになど)電子カメラ100を制御してもよい。
なお、電子カメラ100が初期領域取得回路137、変換パラメータ算出回路138、第1画像変換回路139、第2画像変換回路140、追跡処理回路141、追跡結果描画回路142、およびカメラ制御回路143のいずれかの回路を備えない場合、システム制御回路113が、ソフトウェア処理によって追跡処理などを行ってもよい。
次に、以上のように構成された画像処理装置における各種動作について説明する。
図3は、本発明の実施の形態に係る画像処理装置の動作を示すフローチャートである。
まず、初期領域取得部11は、初期領域に関する情報と第1変換パラメータとを取得する(ステップS101)。具体的には、初期領域取得部11は、例えば、初期領域の位置を示す座標と初期領域の大きさを示す値とを初期領域に関する情報として取得する。また、初期領域取得部11は、例えば、光源の色温度に関わらず対象物の色を正確に表す画像へ第1画像を変換するための色温度パラメータを第1変換パラメータとして取得する。続いて、初期領域取得部11は、取得した初期領域に関する情報と第1変換パラメータとを記憶部17に登録する(ステップS102)。
その後、画像処理装置10は、第1画像より後に撮影された画像において、対象領域を特定する処理を繰り返す。対象領域を特定する処理は、以下のとおりである。
まず、変換パラメータ算出部12は、処理対象となる画像(以下、「第2画像」という。)を目的画質画像へ変換するための第2変換パラメータを算出する(ステップS103)。具体的には、変換パラメータ算出部12は、例えば、光源の色温度に関わらず対象物の色を正確に表す画像へと第2画像を変換するための色温度パラメータを、第2変換パラメータとして算出する。
次に、第1画像変換部13は、記憶部17に記憶されている第1変換パラメータと変換パラメータ算出部12によって算出された第2変換パラメータとを用いて、第1画像を変換する(ステップS104)。具体的には、第1画像変換部13は、例えば、記憶部17から第1画像と第1変換パラメータとを読み出す。そして、第1画像変換部13は、例えば、変換パラメータ算出部12によって算出された第2変換パラメータにより第1変換パラメータが除された値を、読み出した第1画像を構成する各画素の画素値に乗じる。
続いて、追跡処理部15は、ステップS104において変換された画像から初期領域の特徴量を抽出する(ステップS105)。具体的には、追跡処理部15は、例えば、記憶部17に記憶されている初期領域の位置を示す座標および大きさを示す値を読み出す。そして、追跡処理部15は、例えば、読み出した座標および大きさを示す値を用いて初期領域を構成する複数の画素を特定する。そして、追跡処理部15は、特定した各画素が有する色の頻度分布を表す色ヒストグラムを特徴量として抽出する。
次に、追跡処理部15は、抽出した特徴量と最も類似する特徴量を有する領域を第2画像において探索することにより、対象物の像を含む領域である対象領域を特定する(ステップS106)。すなわち、追跡処理部15は、対象領域を特定することによって、対象物の追跡を行う。具体的には、追跡処理部15は、例えば、第2画像において位置および大きさを変更しながら領域を選択し、選択した領域の特徴量と初期領域の特徴量とを比較する。そして、追跡処理部15は、比較した結果、選択した領域のうち最も特徴量の差異が小さい領域を対象領域として特定する。
また、変換パラメータ算出部12は、第2変換パラメータよりも、連続して撮影された画像間における変化量が抑制された第3変換パラメータを算出する(ステップS107)。具体的には、変換パラメータ算出部12は、旧第3変換パラメータと第3変換パラメータとの差分値が、旧第3変換パラメータと第2変換パラメータとの差分値以下となるように第3変換パラメータを算出する。
次に、第2画像変換部14は、変換パラメータ算出部12によって算出された第3変換パラメータを用いて、第2画像を変換する(ステップS108)。なお、ステップS107およびステップS108に示す処理は、ステップS104〜ステップS106に示す処理よりも先に実行されてもよい。また、ステップS107およびステップS108に示す処理は、ステップS104〜ステップS106に示す処理と並行して実行されてもよい。
最後に、出力部16は、ステップS106において探索された対象領域を示す情報と、ステップS108において変換された後の画像とを出力する(ステップS109)。具体的には、出力部16は、例えば、ステップS108において変換された後の画像に、対象領域の位置を示す枠を付加した画像を記憶部17に登録する。
以上のステップS103〜S109までの処理を連続して撮影された画像ごとに繰り返すことにより、画像処理装置10は、対象物の像を追跡することができる。
次に、各画素が有する色を変換するためのRGBごとの変換係数を変換パラメータとして用いる場合の、画像処理装置10における各種動作の具体例について説明する。
図4は、本発明の実施の形態に係る画像処理装置における動作の具体例を説明するための図である。具体的には、図4は、被写体である犬が屋外から屋内に移動することにより、犬を照らす光が太陽光から蛍光灯による光に変化した場合の処理を説明するための図である。
図4において、1行目には、撮像素子などから得られる画像である原画像が示されている。また、2行目には、目的画質を有する画像へ原画像を変換した場合の目的画質画像が示されている。なお、目的画質画像は、実際には生成される必要がない画像であるが、変換パラメータを説明するために示されている。また、3行目には、対象領域を探索する際に用いるために原画像400を変換した画像である探索用画像が示されている。また、4行目には、表示部に表示するために原画像を変換した画像である出力用画像が示されている。
原画像400は、第1画像に相当する画像であり、撮影開始時に撮影された画像である。また、原画像400は、太陽光に照らされた犬が撮影された画像である。原画像400において、追跡の対象となる対象物の像を含む領域として初期領域403がユーザによって指定されている。この初期領域403は、例えば、画像が表示されたタッチパネルにおいて、対象物の像をユーザがタッチすることにより指定される。
目的画質画像401は、第1変換パラメータP1を用いて第1画像を変換した場合の画像である。説明の便宜のため、図4において、目的画質画像401と原画像400とは同一の画像である。
ここで第1変換パラメータP1は、変換パラメータ算出部12によって算出される変換パラメータであり、光源の色温度に関わらず被写体の色を正確に写し出すためのRGBごとの変換係数である。具体的には、変換パラメータ算出部12は、例えば、既知の色域との相関を利用して、原画像400から色温度パラメータを算出する(例えば、非特許文献1「センサ相関法によるシーン照明の色温度推定(電子情報通信学会論文誌D−II、富永ら)」を参照)。なお、目的画質画像401を構成する各画素の画素値V2は、原画像400を構成する各画素の画素値V1と第1変換パラメータP1とを用いて、(式1)のように表される。
Figure 0005313037
出力用画像402は、第2画像変換部14によって原画像400が変換された画像であり、表示部に表示するための画像である。なお、原画像400が撮影開始時の画像であるので、第3変換パラメータは第1変換パラメータと同一となる。したがって、第2画像変換部14は、第1変換パラメータP1を用いて原画像400を出力用画像402へ変換する。
原画像410は、第2画像に相当する画像であり、原画像400の次に撮影された画像である。また、原画像410は、原画像400と同一の犬が同一の背景において撮影された画像である。ただし、原画像410の光源は、原画像400の光源とは異なり、蛍光灯である。つまり、原画像410は、原画像400と異なる撮影環境において撮影された画像である。したがって、原画像410は、原画像400と異なる画質の画像であり、原画像400と同一の被写体像であっても異なる色を有する。
目的画質画像411は、第2変換パラメータP2を用いて第1画像を変換した場合の画像である。ここで第2変換パラメータP1は、第1変換パラメータP1と同様に、変換パラメータ算出部12によって算出される変換パラメータであり、光源の色温度に関わらず被写体の色を正確に写し出すためのRGBごとの変換係数である。
探索用画像412は、第1変換パラメータP1と第2変換パラメータP2との比を用いて、第1画像変換部13により原画像400が変換された画像である。つまり、探索用画像412は、原画像410と同等の画質を有する画像へ原画像400が変換されたものである。具体的には、第1画像変換部13は、(式2)にしたがって、RGBごとの各画素の画素値として画素値V1を有する原画像400を、RGBごとの各画素の画素値として画素値V3を有する探索用画像412へ変換する。
Figure 0005313037
追跡処理部15は、このように変換された探索用画像412において、原画像400における初期領域403と同等の位置および大きさの領域である領域415が有する特徴量を抽出する。そして、追跡処理部15は、抽出した特徴量と最も類似する特徴量を有する領域を原画像410の中から探索する。探索の結果、追跡処理部15は、原画像410内に示すように対象領域414を特定する。
出力用画像413は、第3変換パラメータP3を用いて第2画像変換部14により原画像410が変換された画像であって、原画像410において探索された対象領域414を示す情報である枠416が含まれる画像である。この第3変換パラメータP3は、第2変換パラメータP2よりも、旧第3変換パラメータP3pr(ここでは、第1変換パラメータP1)からの変化量が抑制された変換パラメータである。具体的には、第3変換パラメータP3は、例えば、(式3)を満たすパラメータである。なお、(式3)は、旧第3変換パラメータと第3変換パラメータとの間におけるRGBごとの差分の絶対値の和が、第2変換パラメータと第3変換パラメータとのRGBごとの差分の絶対値の和以下となることを示す。
Figure 0005313037
より具体的には、第2変換パラメータP2と旧第3変換パラメータP3prとの変化量があらかじめ定められた閾値以下の場合は、変換パラメータ算出部12は、第2変換パラメータP2を第3変換パラメータP3として算出する。一方、第2変換パラメータP2と旧第3変換パラメータP3prとの変化量があらかじめ定められた閾値より大きい場合は、変換パラメータ算出部12は、第2変換パラメータP2と旧第3変換パラメータP3prとの変化量が当該閾値と等しくなる値を第3変換パラメータP3として算出する。
原画像420および430は、原画像410と同一の撮影環境において、原画像410よりも時間的に後に撮影された画像である。また、目的画質画像421および431と探索用画像422および432と出力用画像423および433とは、原画像420および430に対応する画像である。
すなわち、第2画像変換部14は、時間的な変化量が抑制された第3変換パラメータを用いて、原画像410、420および430を、出力用画像413、423および433へ変換する。したがって、出力部16は、図4に示すように、人間が異なる環境に徐々に適応する場合に認識する像と同様に、徐々に目的画質画像に変化する画像(出力用画像413、423および433)を出力することができる。
次に、特徴量として色ヒストグラムを利用した場合における探索処理の具体例について説明する。
図5(a)〜図5(c)は、本発明の実施の形態に係る画像処理装置における探索に関する動作の具体例を説明するための図である。図5(a)には、第1画像500と初期領域501とが示されている。初期色ヒストグラム502は、第1画像変換部13によって変換された後の画像からを生成された初期領域501の色ヒストグラムである。
なお、色ヒストグラムは、画像または画像の一部領域を構成する複数の画素が有する色の頻度の分布を示す情報である。例えば、色ヒストグラムの横軸は、HSV(Hue Saturation Value)色空間の色相(H)の値(0〜360)を20分割したときの色の区分を示す。また、色ヒストグラムの縦軸は、各区分に属する画素の数(度数)を示す。各画素がどの色の区分に属するかは、各画素の色相(H)の値を区分の数で除したときの値の整数部分を用いて決定されればよい。
また、区分の数は、必ずしも20である必要はなく、1以上であればどのような数でもよい。ただし、初期領域に含まれる色が多いほど、区分の数が多くなることが好ましい。これにより、初期領域に含まれる色が多い場合には、小さな区分ごとの度数を用いて類似する領域を探索できるので、対象領域の特定の精度を向上させることができる。一方、初期領域に含まれる色が少ない場合には、大きな区分ごとの度数が記憶されるので、メモリの使用量を少なくすることができる。
次に、図5(b)に示すように、追跡処理部15は、第1画像500と時間的に連続する次の第2画像510において、探索領域511を決定する。具体的には、追跡処理部15は、第1画像500における対象領域(ここでは、初期領域501)を含み、かつ対象領域(ここでは、初期領域501)よりも大きい矩形領域を探索領域511と決定する。さらに具体的には、追跡処理部15は、記憶部17に格納されている、初期領域501の辺の長さおよび中心位置の座標を読み出す。そして、追跡処理部15は、読み出した辺の長さよりも大きな矩形領域であって読み出した中心位置の座標を中心とする矩形領域を、探索領域と決定する。
なお、探索領域の形状は、矩形である必要はなく、円形、六角形等の任意の形状でもよい。また、探索領域の大きさは、あらかじめ定められた大きさであってもよいし、フレームレートまたはシャッター速度が小さいほど大きくなるような大きさであってもよい。
そして、追跡処理部15は、探索領域511よりも小さな領域であって探索領域511内の領域である選択領域512を選択する。そして、追跡処理部15は、選択した選択領域512の色ヒストグラムである選択色ヒストグラム513を抽出する。このとき、選択色ヒストグラム513は、初期色ヒストグラム502を用いて正規化されることが好ましい。具体的には、追跡処理部15は、選択領域の色ヒストグラムにおける各区分の度数を、初期色ヒストグラム502の各区分の度数で除することにより、選択色ヒストグラム513を正規化することが好ましい。
続いて、図5(c)に示すように、追跡処理部15は、初期色ヒストグラム502と選択色ヒストグラム513とが重なる部分である重複部分520の割合を類似度として算出する。具体的には、追跡処理部15は、(式4)にしたがって類似度を算出する。
Figure 0005313037
ここで、Riは、初期色ヒストグラム502におけるi番目の区分の度数である。一方、Iiは、選択色ヒストグラム513におけるi番目の区分の度数である。ここでは、20分割されているので、iは0から19までの値となる。なお、重複部分520の割合が大きいほど類似度が示す類似度合いは高く、小さいほど類似度が示す類似度合いは低いことを示す。
追跡処理部15は、このように探索領域511内において位置および大きさを変更しながら選択領域512の選択および選択色ヒストグラム513の抽出を繰り返し、色ヒストグラムが重複部分520の割合が最も大きい選択領域512を対象領域として特定する。そして、追跡処理部15は、対象領域の辺の長さおよび中心位置の座標を記憶部17に登録する。
以上のように、本実施の形態に係る画像処理装置10は、撮影環境が変化することによって対象物の像を示す特徴量が変動した場合であっても、撮影環境に対応した第1および第2変換パラメータを用いて第1画像を変換した探索用画像を利用して対象領域を探索する。つまり、画像処理装置10は、撮影環境の変化に徐々に追随するパラメータではなく、撮影環境の変化に即座に追随するパラメータを用いて、第2画像と同等の画質を有する画像となるように第1画像を変換した探索用画像を利用して対象領域を探索する。その結果、画像処理装置10は、撮影環境の変化に関わらず、対象物の像を安定して追跡することが可能になる。
さらに、画像処理装置10は、撮影環境の変化に徐々に対応する第3変換パラメータを用いて変換した画像を出力することにより、ユーザが画像を見たときの違和感あるいは不快感を低減することも可能となる。
また、画像処理装置10は、第1および第2画像のうち第1画像のみを探索用画像へ変換するので、第1および第2画像の両方を変換するよりも、画像を変換する処理の負荷を軽減することが可能となる。
また、画像処理装置10は、ロバスト性の高い色ヒストグラムを用いて対象物の像を追跡できるので、対象物の像をより安定して追跡することが可能となる。
以上、本発明に係る画像処理装置または電子カメラについて、実施の形態に基づいて説明したが、本発明は、これらの実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものも、本発明の範囲内に含まれる。
例えば、上記実施の形態において、第1画像変換部13は、第1画像を変換していたが、第1画像と同等の画質を有する画像となるように第2画像を変換してもよい。また、第1画像変換部13は、変換後の画像の画質が互いに同等となるように第1画像および第2画像の両方を目的画質画像へ変換してもよい。具体的には、例えば、第1画像および第2画像のうち第2画像のみを変換する場合、第1画像変換部13は、(式5)にしたがって、RGBごとの各画素の画素値として画素値V4を有する原画像410(第2画像)を、RGBごとの各画素の画素値として画素値V5を有する探索用画像へ変換する。そして、追跡処理部15は、このように変換された探索用画像において、原画像400における初期領域403から抽出される特徴量と最も類似する領域を探索する。
Figure 0005313037
また、上記実施の形態において、第1画像変換部13は、第1画像のすべてを変換していたが、第1画像のうち初期領域に含まれる画像のみを変換してもよい。これにより、画像処理装置10は、第1画像変換部13の処理の負荷を軽減させることができる。またこの場合、記憶部17には、初期領域に関する情報として、初期領域を構成する各画素の画素値が記憶されればよい。これにより、画像処理装置10は、第1画像のすべてを記憶する場合よりも、記憶部17の記憶容量を削減できる。
また、記憶部17には、初期領域に関する情報として、初期領域から抽出される特徴量が記憶されてもよい。この場合、第1画像変換部13は、第1画像を変換する代わりに、初期領域の特徴量を変換する。これにより、追跡処理部15は、撮影された画像において対象領域を探索するたびに初期領域の特徴量を抽出する必要がなくなるので、追跡処理部15の負荷を軽減できる。
また、上記実施の形態において、追跡処理部15は、特徴量として色ヒストグラムを抽出していたが、例えば、輝度ヒストグラムを特徴量として抽出してもよい。この場合、追跡処理部15は、初期領域から得られる輝度ヒストグラムと選択領域から得られる輝度ヒストグラムとを比較することにより、類似度を算出する。
また、上記の画像処理装置を構成する構成要素の一部または全部は、1個のシステムLSI(Large Scale Integration:大規模集積回路)から構成されてもよい。システムLSIは、複数の構成部を1個のチップ上に集積して製造された超多機能LSIであり、具体的には、マイクロプロセッサ、ROM(Read Only Memory)およびRAM(Random Access Memory)などを含んで構成されるコンピュータシステムである。例えば、図1に示すように、初期領域取得部11と、変換パラメータ算出部12と、第1画像変換部13と、第2画像変換部14と、追跡処理部15と、出力部16とは、1個のシステムLSI30から構成されてもよい。
また、本発明は、上記のような画像処理装置として実現するだけでなく、図2に示すように、画像処理装置が備える特徴的な構成部を備える電子カメラとして実現してもよい。またさらに、本発明は、画像処理装置が備える特徴的な構成部の動作をステップとする画像処理方法として実現してもよい。また、本発明は、そのような画像処理方法に含まれるステップをコンピュータに実行させるプログラムとして実現してもよい。そして、そのようなプログラムは、CD−ROM等の記録媒体またはインターネット等の伝送媒体を介して配信してもよい。
本発明に係る電子カメラまたは撮像装置等は、追跡の対象となる対象物が写っている領域を特定することにより対象物の像を追跡する、デジタルビデオカメラ、デジタルスチルカメラ、監視用カメラ、車載用カメラ、またはカメラ機能を備えた携帯電話などに有用である。
10 画像処理装置
11 初期領域取得部
12 変換パラメータ算出部
13 第1画像変換部
14 第2画像変換部
15 追跡処理部
16 出力部
17 記憶部
30 システムLSI
100 電子カメラ
101 撮影レンズ
102 シャッター
103 撮像素子
104 AD変換器
105 タイミング発生回路
106 画像処理回路
107 メモリ制御回路
108 画像表示メモリ
109 DA変換器
110 画像表示部
111、120 メモリ
112 リサイズ回路
113 システム制御回路
114 露光制御部
115 測距制御部
116 ズーム制御部
117 バリア制御部
118 フラッシュ
119 保護部
121 表示部
122 不揮発性メモリ
123 モードダイアルスイッチ
124 シャッタースイッチ
125 電源制御部
126、127、131、132 コネクタ
128 電源
129、130 インタフェース
133 記録媒体
134 光学ファインダ
135 通信部
136 アンテナ
137 初期領域取得回路
138 変換パラメータ算出回路
139 第1画像変換回路
140 第2画像変換回路
141 追跡処理回路
142 追跡結果描画回路
143 カメラ制御回路
400、410、420、430 原画像
401、411、421、431 目的画質画像
402、413、423、433 出力用画像
403 初期領域
412、422、432 探索用画像
414 対象領域
415 領域
416 枠
501 初期領域
502 初期色ヒストグラム
511 探索領域
512 選択領域
513 選択色ヒストグラム
520 重複部分

Claims (9)

  1. 連続して撮影された画像において追跡の対象となる対象物の像を追跡し、追跡結果を利用して、オートフォーカス処理、自動露出処理、並びにカメラ制御によるフレーミング処理および自動撮影処理のうち少なくとも1つを実行する電子カメラであって、
    第1画像において前記対象物の像を含む領域である初期領域に関する情報と、前記第1画像が撮影されたときの撮影環境に対応するパラメータであって前記第1画像を所定の画質を有する画像に変換するためのパラメータである第1変換パラメータとを記憶する記憶部と、
    前記第1画像より後に撮影された画像である第2画像が撮影されたときの撮影環境に応じて、前記第2画像を前記所定の画質を有する画像に変換するための第2変換パラメータを算出する変換パラメータ算出部と、
    前記記憶部に記憶された第1変換パラメータと前記変換パラメータ算出部によって算出された第2変換パラメータとを用いて、前記第1および第2画像の少なくとも一方を変換する第1画像変換部と、
    前記第1画像変換部によって変換された後の画像を用いて、前記初期領域の特徴を定量的に示す特徴量に類似する特徴量を有する領域を前記第2画像において探索することにより、前記対象物の像を追跡する追跡処理部と、
    前記第2変換パラメータよりも、連続して撮影された画像間における変化量が抑制された第3変換パラメータを用いて、前記第2画像を変換する第2画像変換部と、
    前記第2画像変換部によって変換された後の画像と、前記追跡処理部によって探索された領域を示す情報とを出力する出力部とを備える
    電子カメラ。
  2. 前記第1、第2および第3変換パラメータは、撮影された画像から検出される色温度、露光、露出、および輝度値の少なくとも1つに応じて、前記画像を構成する複数の画素が有する画素値を変換するためのパラメータである
    請求項1に記載の電子カメラ。
  3. 前記第1画像変換部は、前記第1および第2変換パラメータの比を用いて、前記第1および第2画像の一方を変換する
    請求項1または2に記載の電子カメラ。
  4. 前記第1画像変換部は、前記第1画像を変換する場合、前記第1画像のうち前記初期領域に含まれる画像のみを変換する
    請求項1〜3のいずれか1項に記載の電子カメラ。
  5. 前記特徴量は、画像を構成する画素が有する色の頻度分布を表す色ヒストグラムであり、
    前記追跡処理部は、前記初期領域の色ヒストグラムと重なる部分の割合が最も大きい色ヒストグラムを有する領域を前記第2画像において探索する
    請求項1〜4のいずれか1項に記載の電子カメラ。
  6. 連続して撮影された画像において追跡の対象となる対象物の像を追跡する画像処理装置であって、
    第1画像において前記対象物の像を含む領域である初期領域に関する情報と、前記第1画像が撮影されたときの撮影環境に対応するパラメータであって前記第1画像を所定の画質を有する画像に変換するためのパラメータである第1変換パラメータとを記憶する記憶部と、
    前記第1画像より後に撮影された画像である第2画像が撮影されたときの撮影環境に応じて、前記第2画像を前記所定の画質を有する画像に変換するための第2変換パラメータを算出する変換パラメータ算出部と、
    前記記憶部に記憶された第1変換パラメータと前記変換パラメータ算出部によって算出された第2変換パラメータとを用いて、前記第1および第2画像の少なくとも一方を変換する第1画像変換部と、
    前記第1画像変換部によって変換された後の画像を用いて、前記初期領域の特徴を定量的に示す特徴量に類似する特徴量を有する領域を前記第2画像において探索することにより、前記対象物の像を追跡する追跡処理部と、
    前記第2変換パラメータよりも、連続して撮影された画像間における変化量が抑制された第3変換パラメータを用いて、前記第2画像を変換する第2画像変換部と、
    前記第2画像変換部によって変換された後の画像と、前記追跡処理部によって探索された領域を示す情報とを出力する出力部とを備える
    画像処理装置。
  7. 連続して撮影された画像において追跡の対象となる対象物の像を追跡する画像処理装置において用いられる画像処理方法であって、
    前記画像処理装置は、
    第1画像において前記対象物の像を含む領域である初期領域に関する情報と、前記第1画像が撮影されたときの撮影環境に対応するパラメータであって前記第1画像を所定の画質を有する画像に変換するためのパラメータである第1変換パラメータとを記憶する記憶部を備え、
    前記画像処理方法は、
    前記第1画像より後に撮影された画像である第2画像が撮影されたときの撮影環境に応じて、前記第2画像を前記所定の画質を有する画像に変換するための第2変換パラメータを算出する変換パラメータ算出ステップと、
    前記記憶部に記憶された第1変換パラメータと前記変換パラメータ算出ステップにおいて算出された第2変換パラメータとを用いて、前記第1および第2画像の少なくとも一方を変換する第1画像変換ステップと、
    前記第1画像変換ステップにおいて変換された後の画像を用いて、初期領域の特徴を定量的に示す特徴量に類似する特徴量を有する領域を探索することにより、前記対象物の像を追跡する追跡処理ステップと、
    前記第2変換パラメータよりも、連続して撮影された画像間における変化量が抑制された第3変換パラメータを用いて、前記第2画像を変換する第2画像変換ステップと、
    前記第2画像変換ステップにおいて変換された後の画像と、前記追跡処理ステップにおいて探索された領域を示す情報とを出力する出力ステップとを含む
    画像処理方法。
  8. 連続して撮影された画像において追跡の対象となる対象物の像を追跡する画像処理装置が備える集積回路であって、
    前記画像処理装置は、
    第1画像において前記対象物の像を含む領域である初期領域に関する情報と、前記第1画像が撮影されたときの撮影環境に対応するパラメータであって前記第1画像を所定の画質を有する画像に変換するためのパラメータである第1変換パラメータとを記憶する記憶部を備え、
    前記集積回路は、
    前記第1画像より後に撮影された画像である第2画像が撮影されたときの撮影環境に応じて、前記第2画像を前記所定の画質を有する画像に変換するための第2変換パラメータを算出する変換パラメータ算出部と、
    前記記憶部に記憶された第1変換パラメータと前記変換パラメータ算出部によって算出された第2変換パラメータとを用いて、前記第1および第2画像の少なくとも一方を変換する第1画像変換部と、
    前記第1画像変換部によって変換された後の画像を用いて、前記初期領域の特徴を定量的に示す特徴量に類似する特徴量を有する領域を前記第2画像において探索することにより、前記対象物の像を追跡する追跡処理部と、
    前記第2変換パラメータよりも、連続して撮影された画像間における変化量が抑制された第3変換パラメータを用いて、前記第2画像を変換する第2画像変換部と、
    前記第2画像変換部によって変換された後の画像と、前記追跡処理部によって探索された領域を示す情報とを出力する出力部とを備える
    集積回路。
  9. 連続して撮影された画像において追跡の対象となる対象物の像を追跡するコンピュータ実行可能なプログラムであって、
    前記コンピュータは、
    第1画像において前記対象物の像を含む領域である初期領域に関する情報と、前記第1画像が撮影されたときの撮影環境に対応するパラメータであって前記第1画像を所定の画質を有する画像に変換するためのパラメータである第1変換パラメータとを記憶する記憶部を備え、
    前記プログラムは、
    前記第1画像より後に撮影された画像である第2画像が撮影されたときの撮影環境に応じて、前記第2画像を前記所定の画質を有する画像に変換するための第2変換パラメータを算出する変換パラメータ算出ステップと、
    前記記憶部に記憶された第1変換パラメータと前記変換パラメータ算出ステップにおいて算出された第2変換パラメータとを用いて、前記第1および第2画像の少なくとも一方を変換する第1画像変換ステップと、
    前記第1画像変換ステップにおいて変換された後の画像を用いて、初期領域の特徴を定量的に示す特徴量に類似する特徴量を有する領域を探索することにより、前記対象物の像を追跡する追跡処理ステップと、
    前記第2変換パラメータよりも、連続して撮影された画像間における変化量が抑制された第3変換パラメータを用いて、前記第2画像を変換する第2画像変換ステップと、
    前記第2画像変換ステップにおいて変換された後の画像と、前記追跡処理ステップにおいて探索された領域を示す情報とを出力する出力ステップとをコンピュータに実行させる
    プログラム。
JP2009114958A 2009-05-11 2009-05-11 電子カメラ、画像処理装置および画像処理方法 Expired - Fee Related JP5313037B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2009114958A JP5313037B2 (ja) 2009-05-11 2009-05-11 電子カメラ、画像処理装置および画像処理方法
CN201080002005.8A CN102084642B (zh) 2009-05-11 2010-04-14 电子照相机、图像处理装置及图像处理方法
EP10774676.0A EP2432214A4 (en) 2009-05-11 2010-04-14 ELECTRONIC CAMERA, IMAGE PROCESSING DEVICE, AND IMAGE PROCESSING METHOD
PCT/JP2010/002685 WO2010131416A1 (ja) 2009-05-11 2010-04-14 電子カメラ、画像処理装置および画像処理方法
KR1020107028848A KR20120007948A (ko) 2009-05-11 2010-04-14 전자 카메라, 화상 처리 장치 및 화상 처리 방법
US13/002,771 US8593522B2 (en) 2009-05-11 2010-04-14 Digital camera, image processing apparatus, and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009114958A JP5313037B2 (ja) 2009-05-11 2009-05-11 電子カメラ、画像処理装置および画像処理方法

Publications (2)

Publication Number Publication Date
JP2010263584A JP2010263584A (ja) 2010-11-18
JP5313037B2 true JP5313037B2 (ja) 2013-10-09

Family

ID=43084802

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009114958A Expired - Fee Related JP5313037B2 (ja) 2009-05-11 2009-05-11 電子カメラ、画像処理装置および画像処理方法

Country Status (6)

Country Link
US (1) US8593522B2 (ja)
EP (1) EP2432214A4 (ja)
JP (1) JP5313037B2 (ja)
KR (1) KR20120007948A (ja)
CN (1) CN102084642B (ja)
WO (1) WO2010131416A1 (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5663923B2 (ja) * 2010-03-31 2015-02-04 カシオ計算機株式会社 撮像装置、撮像方法及びプログラム
US8441548B1 (en) * 2012-06-15 2013-05-14 Google Inc. Facial image quality assessment
CN103780841A (zh) * 2014-01-23 2014-05-07 深圳市金立通信设备有限公司 一种拍摄方法及拍摄装置
US9436870B1 (en) * 2014-06-06 2016-09-06 Amazon Technologies, Inc. Automatic camera selection for head tracking using exposure control
US9131150B1 (en) * 2014-06-06 2015-09-08 Amazon Technologies, Inc. Automatic exposure control and illumination for head tracking
WO2016006305A1 (ja) * 2014-07-08 2016-01-14 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及びプログラム
WO2016076514A1 (ko) * 2014-11-14 2016-05-19 삼성전자 주식회사 연사 촬영을 위한 장치 및 방법
JP2016096459A (ja) 2014-11-14 2016-05-26 三星電子株式会社Samsung Electronics Co.,Ltd. 撮像装置及び撮像方法
JP6387450B2 (ja) * 2015-02-18 2018-09-05 富士フイルム株式会社 追尾撮影制御装置、追尾撮影システム、カメラ、端末装置、追尾撮影方法、追尾撮影プログラム
WO2016171259A1 (ja) * 2015-04-23 2016-10-27 株式会社ニコン 画像処理装置、及び撮像装置
CN107636698B (zh) * 2015-06-25 2021-10-19 富士通株式会社 程序生成装置、程序生成方法以及生成程序
CN105141855B (zh) * 2015-08-31 2018-11-09 联想(北京)有限公司 一种图像处理方法及电子设备
JP6439004B2 (ja) * 2016-04-28 2018-12-19 株式会社松屋アールアンドディ 縫製装置及び縫製方法
WO2018018514A1 (en) 2016-07-28 2018-02-01 SZ DJI Technology Co., Ltd. Target-based image exposure adjustment
US10163212B2 (en) * 2016-08-19 2018-12-25 Sony Corporation Video processing system and method for deformation insensitive tracking of objects in a sequence of image frames
KR102401659B1 (ko) * 2017-03-23 2022-05-25 삼성전자 주식회사 전자 장치 및 이를 이용한 카메라 촬영 환경 및 장면에 따른 영상 처리 방법
WO2019039296A1 (ja) * 2017-08-23 2019-02-28 ソニー株式会社 映像処理装置、映像処理方法、プログラム、および遠隔コミュニケーションシステム
TWI632527B (zh) * 2017-11-22 2018-08-11 東友科技股份有限公司 影像擷取與輸出方法
CN108742170B (zh) * 2018-05-08 2020-08-18 华南理工大学 一种烤箱的智能识别烹饪系统
CN109104573B (zh) * 2018-09-29 2021-01-08 维沃移动通信(杭州)有限公司 一种确定对焦点的方法及终端设备

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2568161B2 (ja) 1988-11-24 1996-12-25 キヤノン株式会社 自動露光制御装置
JPH0730796A (ja) * 1993-07-14 1995-01-31 Sony Corp ビデオ信号追従処理システム
JPH0795598A (ja) * 1993-09-25 1995-04-07 Sony Corp 目標追尾装置
US5912980A (en) * 1995-07-13 1999-06-15 Hunke; H. Martin Target acquisition and tracking
JP3729933B2 (ja) * 1996-05-31 2005-12-21 松下電器産業株式会社 自動監視装置
US6529613B1 (en) * 1996-11-27 2003-03-04 Princeton Video Image, Inc. Motion tracking using image-texture templates
US6100925A (en) * 1996-11-27 2000-08-08 Princeton Video Image, Inc. Image insertion in video streams using a combination of physical sensors and pattern recognition
JP2000082135A (ja) * 1998-09-07 2000-03-21 Dainippon Printing Co Ltd 撮像画像幾何歪み検出装置
US6363160B1 (en) * 1999-01-22 2002-03-26 Intel Corporation Interface using pattern recognition and tracking
US6741725B2 (en) * 1999-05-26 2004-05-25 Princeton Video Image, Inc. Motion tracking using image-texture templates
JP2002150287A (ja) * 2000-11-07 2002-05-24 Minolta Co Ltd 画像検出装置、画像検出方法、ディジタルカメラおよびプリンタ
US6859552B2 (en) * 2000-11-07 2005-02-22 Minolta Co., Ltd. Image retrieving apparatus
US7043058B2 (en) * 2001-04-20 2006-05-09 Avid Technology, Inc. Correcting motion vector maps for image processing
US7616233B2 (en) * 2003-06-26 2009-11-10 Fotonation Vision Limited Perfecting of digital image capture parameters within acquisition devices using face detection
US7440593B1 (en) * 2003-06-26 2008-10-21 Fotonation Vision Limited Method of improving orientation and color balance of digital images using face detection information
US8948468B2 (en) * 2003-06-26 2015-02-03 Fotonation Limited Modification of viewing parameters for digital images using face detection information
JP4363151B2 (ja) * 2003-10-14 2009-11-11 カシオ計算機株式会社 撮影装置、その画像処理方法及びプログラム
JP2006018389A (ja) * 2004-06-30 2006-01-19 Canon Inc 画像対応点抽出方法、画像対応点抽出装置、及び記憶媒体
US7505607B2 (en) * 2004-12-17 2009-03-17 Xerox Corporation Identifying objects tracked in images using active device
WO2007023425A2 (en) * 2005-08-26 2007-03-01 Koninklijke Philips Electronics N.V. Imaging camera processing unit and method
WO2007038642A2 (en) * 2005-09-26 2007-04-05 Cognisign, Llc Apparatus and method for trajectory-based identification of digital data content
GB2430735A (en) * 2005-09-30 2007-04-04 Sony Uk Ltd Object detection
JP4897593B2 (ja) * 2007-07-09 2012-03-14 富士フイルム株式会社 複眼撮影装置及びその調節方法
JP2010218271A (ja) * 2009-03-17 2010-09-30 Tokyo Institute Of Technology パラメータ制御処理装置及び画像処理装置

Also Published As

Publication number Publication date
CN102084642A (zh) 2011-06-01
JP2010263584A (ja) 2010-11-18
US8593522B2 (en) 2013-11-26
EP2432214A1 (en) 2012-03-21
US20110122254A1 (en) 2011-05-26
EP2432214A4 (en) 2014-07-16
KR20120007948A (ko) 2012-01-25
WO2010131416A1 (ja) 2010-11-18
CN102084642B (zh) 2014-05-14

Similar Documents

Publication Publication Date Title
JP5313037B2 (ja) 電子カメラ、画像処理装置および画像処理方法
JP5054063B2 (ja) 電子カメラ、画像処理装置及び画像処理方法
CN101489051B (zh) 图像处理设备和图像处理方法以及摄像设备
TWI549501B (zh) An imaging device, and a control method thereof
US8139136B2 (en) Image pickup apparatus, control method of image pickup apparatus and image pickup apparatus having function to detect specific subject
US8582891B2 (en) Method and apparatus for guiding user with suitable composition, and digital photographing apparatus
US8411159B2 (en) Method of detecting specific object region and digital camera
US8558935B2 (en) Scene information displaying method and apparatus and digital photographing apparatus using the scene information displaying method and apparatus
KR101605771B1 (ko) 디지털 촬영 장치, 그 제어방법 및 이를 실행하기 위한 프로그램을 저장한 기록매체
CN105103534A (zh) 摄像装置、校准方法、程序以及记录介质
US10477113B2 (en) Imaging device and control method therefor
JP5220666B2 (ja) 撮影装置およびライブビュー表示方法
JP5311922B2 (ja) 撮像装置及びその制御方法
KR20100099008A (ko) 오토 포커싱 제어 방법 및 장치, 이를 이용한 디지털 촬영 장치
JP2010177731A (ja) 画像再生装置及び撮像装置
JP4807623B2 (ja) 撮像装置、撮像方法及び撮像プログラム
JP6808482B2 (ja) 画像処理装置、画像処理方法、およびプログラム
US20210306572A1 (en) Image processing apparatus, method of controlling the same, image capturing apparatus, and storage medium
JP2010041607A (ja) 撮像装置、その制御方法及びプログラム
JP4573599B2 (ja) 表示装置
JP2012034146A (ja) 電子機器およびプログラム
JP5137343B2 (ja) 撮像装置および撮像方法
JP2021040178A (ja) 画像処理装置、撮像装置、制御方法、およびプログラム
JP2012039256A (ja) 撮像装置、その制御方法及びプログラム
JP2008263320A (ja) 撮像装置及び制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111014

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130611

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130703

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5313037

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees