JP2017098635A - 撮影装置、画像評価方法及びプログラム - Google Patents

撮影装置、画像評価方法及びプログラム Download PDF

Info

Publication number
JP2017098635A
JP2017098635A JP2015226129A JP2015226129A JP2017098635A JP 2017098635 A JP2017098635 A JP 2017098635A JP 2015226129 A JP2015226129 A JP 2015226129A JP 2015226129 A JP2015226129 A JP 2015226129A JP 2017098635 A JP2017098635 A JP 2017098635A
Authority
JP
Japan
Prior art keywords
evaluation
image
unit
images
feature amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015226129A
Other languages
English (en)
Other versions
JP6210106B2 (ja
Inventor
康佑 松本
Kosuke Matsumoto
康佑 松本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2015226129A priority Critical patent/JP6210106B2/ja
Priority to CN201610898691.0A priority patent/CN107040743A/zh
Priority to US15/347,991 priority patent/US20170142335A1/en
Publication of JP2017098635A publication Critical patent/JP2017098635A/ja
Application granted granted Critical
Publication of JP6210106B2 publication Critical patent/JP6210106B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)
  • Adjustment Of Camera Lenses (AREA)
  • Television Signal Processing For Recording (AREA)
  • Image Analysis (AREA)

Abstract

【課題】連写速度と評価の精度を両立させて、連続撮影される画像を適切に評価する撮影装置、画像評価方法及びプログラムを提供する。【解決手段】撮影装置は、画像評価部56を備える。画像評価部56は、連続して画像を撮影している期間中に、第1評価基準に基づき、撮影される撮影画像を評価する。また、画像評価部56は、連続した画像の撮影が終了したことを契機として、評価された撮影画像を、第2評価基準に基づき、評価する。【選択図】図2

Description

本発明は、撮影装置、画像評価方法及びプログラムに関する。
従来より、決定的瞬間を逃さないように連写による撮影を行い、撮影後に、より写りのよい撮影画像を選択するといったことが行われている。撮影する枚数が多くなればなるほど後からの選択には手間がかかるため、例えば、特許文献1のように撮影時に評価値を撮影画像に付加しておき、後からその評価値に基づき自動で撮影画像を選択する技術が開示されている。
特開2001−8135号公報
しかしながら、上述した特許文献1に開示されたような技術では、撮影時に評価値を付加するためには、連写速度の制限の中で評価を行う必要があるため、連写速度を優先すると評価の精度が下がり、評価の精度を優先すると連写速度が制限されるという背反する問題がある。
本発明は、このような状況に鑑みてなされたものであり、連写速度と評価の精度を両立させて、連続撮影される画像を適切に評価することを目的とする。
上記目的を達成するため、本発明の一態様の撮影装置は、
連続して画像を撮影している期間中に、第1の評価基準に基づき、撮影される撮影画像を評価する第1の評価手段と、
連続した画像の撮影が終了したことを契機として、前記第1の評価手段により評価された前記撮影画像を、第2の評価基準に基づき、評価する第2の評価手段と、
を備えることを特徴とする。
本発明によれば、連写速度と評価の精度を両立させて、連続撮影される画像を適切に評価することができる。
本発明の一実施形態に係る撮影装置のハードウェアの構成を示すブロック図である。 図1の撮影装置の機能的構成のうち、画像選択処理を実行するための機能的構成を示す機能ブロック図である。 図2の機能的構成を有する図1の撮影装置が実行する画像選択処理の流れを説明するフローチャートである。
以下、本発明の実施形態について、図面を用いて説明する。
図1は、本発明の一実施形態に係る撮影装置のハードウェアの構成を示すブロック図である。
撮影装置1は、例えば、デジタルカメラとして構成される。
撮影装置1は、CPU(Central Processing Unit)11と、ROM(Read Only Memory)12と、RAM(Random Access Memory)13と、バス14と、入出力インターフェース15と、撮像部16と、センサ部17と、入力部18と、出力部19と、記憶部20と、通信部21と、ドライブ22と、を備えている。
CPU11は、ROM12に記録されているプログラム、又は、記憶部20からRAM13にロードされたプログラムに従って各種の処理を実行する。
RAM13には、CPU11が各種の処理を実行する上において必要なデータ等も適宜記憶される。
CPU11、ROM12及びRAM13は、バス14を介して相互に接続されている。このバス14にはまた、入出力インターフェース15も接続されている。入出力インターフェース15には、撮像部16、センサ部17、入力部18、出力部19、記憶部20、通信部21及びドライブ22が接続されている。
撮像部16は、図示はしないが、光学レンズ部と、イメージセンサと、を備えている。
光学レンズ部は、被写体を撮影するために、光を集光するレンズ、例えばフォーカスレンズやズームレンズ等で構成される。
フォーカスレンズは、イメージセンサの受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
光学レンズ部にはまた、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
イメージセンサは、光電変換素子や、AFE(Analog Front End)等から構成される。
光電変換素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子等から構成される。光電変換素子には、光学レンズ部から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。
AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。各種信号処理によって、ディジタル信号が生成され、撮像部16の出力信号が撮影画像のデータとして出力される。撮影画像のデータは、CPU11や図示しない画像処理部等に適宜供給され、撮影画像が生成される。
センサ部17は、加速度、角速度等の装置の姿勢に関する情報を取得可能な各種センサにより構成される。
入力部18は、各種釦等で構成され、ユーザの指示操作に応じて各種情報を入力する。
出力部19は、ディスプレイやスピーカ等で構成され、画像や音声を出力する。
記憶部20は、ハードディスク或いはDRAM(Dynamic Random Access Memory)等で構成され、各種画像のデータを記憶する。
通信部21は、インターネットを含むネットワークを介して他の装置(図示せず)との間で行う通信を制御する。
ドライブ22には、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等よりなる、リムーバブルメディア31が適宜装着される。ドライブ22によってリムーバブルメディア31から読み出されたプログラムは、必要に応じて記憶部20にインストールされる。また、リムーバブルメディア31は、記憶部20に記憶されている画像のデータ等の各種データも、記憶部20と同様に記憶することができる。
このように構成される撮影装置1では、高速連写やインターバル撮影等の撮影(以下、「連続撮影」という。)された大量の画像群から、最適な1枚の画像を短時間に選択することができる機能を有する。撮影装置1では、連続撮影期間中のリアルタイムな画像の選択(以下、「高速取捨選択」という。)と、連続撮影終了後の画像の選択(以下、「低速取捨選択」という。)の2段階の画像の選択を行う。
高速取捨選択の手法では、連続撮影のうちの各撮影時の加速度やジャイロ等のセンサ情報を解析して、画像が撮影された状況から画像の取捨選択を行う。本実施形態においては、センサ情報の解析結果から、ブレがある等の適切でない画像を選択しない。
また、低速取捨選択の手法では、画像解析を行って、画像の内容から画像の取捨選択を行う。本実施形態においては、画像解析の結果から、最適な1枚の画像を選択する。
図2は、図1の撮影装置1の機能的構成のうち、画像選択処理を実行するための機能的構成を示す機能ブロック図である。
画像選択処理とは、連続撮影された大量の撮影画像から、1枚の撮影画像を選択する一連の処理をいう。
画像選択処理を実行する場合には、図2に示すように、CPU11において、撮影制御部51と、画像取得部52と、センサ情報取得部53と、画像解析部54と、特徴量算出部55と、画像評価部56と、画像選択部57と、が機能する。
また、記憶部20の一領域には、画像記憶部71と、特徴量記憶部72と、が設定される。
画像記憶部71には、撮像部16で撮影された撮影画像のデータが記憶される。
特徴量記憶部72には、センサ部17から取得したセンサ情報(例えば、撮影装置1の撮影状態(水平角や仰角からの装置姿勢)、露光中のブレ量、手ブレ補正、カメラワーク推定(パンニング、チルティング推定等)、カメラアングル推定(鉛直推定)、行動推定結果等)に基づいて算出された特徴量と、画像解析結果(例えば、顔の有無、顔の位置、顔の数、個人認証、注目領域の位置、大きさ、コントラスト等)に基づいて算出された特徴量が記憶される。
撮影制御部51は、撮影を行うように撮像部16を制御する。
本実施形態においては、撮影制御部51は、例えば、5秒間に30fpsで連続撮影を行い、合計で150枚の撮影を行うように撮像部16を制御する。
画像取得部52は、撮像部16によって撮影された撮影画像を取得する。
センサ情報取得部53は、センサ部17から取得した撮影画像に対応する撮影時のセンサ情報を取得する。高速取捨選択時には、センサ情報取得部53は、連続撮影に対応して、センサ部17からセンサ情報を取得する。
具体的には、センサ情報取得部53は、例えば、撮影装置1の撮影状態(水平角や仰角からの装置姿勢)、露光中のブレ量、手ブレ補正、カメラワーク推定(パンニング、チルティング推定等)、カメラアングル推定(鉛直推定)、行動推定結果等をセンサ部17から取得する。
画像解析部54は、撮影画像の画像解析を行う。画像解析結果として、例えば、顔の有無、顔の位置、顔の数、個人認証の有無、注目領域の位置・大きさ、コントラスト等が出力される。画像解析は、既存の周知の画像解析技術を用いて行う。
特徴量算出部55は、センサ情報や画像解析結果から評価基準に基づいて、評価に用いる特徴量を算出する。
例えば、評価基準としてセンサ情報のうち露光中のブレ量を用いる場合には、適切で品質が高い画像となるブレ量が少ない状態は、特徴量が多くなり、不適切で品質が低い画像となるブレ量が多い状態は特徴量が少なくなるように特徴量を算出する。また、評価基準としてセンサ情報のうち撮影状態を用いる場合には、適切で品質が高い画像となる水平な状態では、特徴量が多くなり、不適切で品質が低い画像となる水平でない状態は特徴量が少なくなるように特徴量を算出する。
また、評価基準として画像解析結果のうち顔の有無を用いるには、適切で品質が高い画像となる顔がある状態は特徴量が多くなり、不適切で品質が低い画像となる顔がない状態は特徴量が少なくなるように特徴量を算出する。また、評価基準として画像解析結果のうち注目領域の位置を用いる場合には、適切で品質が高い画像となる注目領域が画角の中央である状態では特徴量が多くなり、不適切で品質が低い画像となる注目領域が画角の中央以外である状態では特徴量が少なくなるように特徴量を算出する。
なお、特徴量は、所望する画像に応じて、適切/不適切・量の多寡が変わることになる。
画像評価部56は、所定の評価基準に基づいて、撮影画像の評価を行う。
本実施形態においては、画像評価部56は、高速取捨選択時には、撮影処理を優先させるために、撮影処理とは関係がなく処理負担の少ない第1評価基準に基づいて撮影画像の評価を行う。また、低速取捨選択時には、処理負担を考慮せずに精度の高い第2評価基準に基づいて撮影画像の評価を行う。
なお、低速取捨選択時には、さらに精度を高めるために、第1評価基準に基づいた評価も行うように構成してもよい。
第1評価基準は、センサ部17から取得した連写撮影の撮影画像の各々に対応する撮影時のセンサ情報に基づき、例えば、露光中のブレ量と、撮影状態の特徴量を用いる。
第1評価基準に用いる特徴量を露光中のブレ量と、撮影状態とした場合には、例えば、露光中のブレ量が少ない場合や撮影状態が水平に近いほど、画像として適切で品質が高いために、高い特徴量となり、高い評価値が付与されて、結果として高い評価となる。
第2評価基準は、撮影画像の画像解析結果に基づき、例えば、顔の有無、顔の位置、顔の数、個人認証の有無、注目領域の位置・大きさ、コントラスト等の特徴量を用いる。
例えば、顔がある、顔の位置が画角の中央、顔の数多い/少ない、個人認証がある、注目領域の位置が画角の中央・大きさが大きい、コントラストが高いほど、画像としての品質が高いために、高い特徴量となり、高い評価値が付与され、結果として高い評価となる。
画像選択部57は、評価結果に基づいて撮影画像を取捨選択する。
具体的には、画像選択部57は、評価が低かった撮影画像を選択対象から外したり、評価が高かった撮影画像を選択したりする。
詳細には、画像選択部57は、画像評価部56による評価結果のうち、露光中のブレ量が少なく、撮影状態が水平でない撮影画像を除いた撮影画像を選択したり、画像評価部56による評価結果のうち、最も特徴量が多い、評価値の高い撮影画像を選択したりする。
また、画像選択部57は、選択した撮影画像を画像記憶部71に仮保存/保存する。なお、画像記憶部71への仮保存の場合には、本実施形態においては、RAW形式の撮影画像を保存することになるため、予め保存枚数が決定されている。
図3は、図2の機能的構成を有する図1の撮影装置1が実行する画像選択処理の流れを説明するフローチャートである。
画像選択処理は、ユーザによる入力部18への画像選択処理開始の操作により開始される。また、ユーザによる入力部18への連続撮影開始操作により撮影制御部51によって、撮像部16が制御されて、連続撮影が行われる。なお、本実施形態においては、例えば、5秒間に30fpsで連続撮影を行い、合計で150枚の撮影を行う。撮影装置1では、撮影の結果、撮影した150枚の画像から1枚の画像を選択することになる。
ステップS11において、画像取得部52は、連続撮影によって撮影された撮影画像を取得する。
そして、センサ情報取得部53は、センサ部17から取得した撮影画像に対応する撮影時のセンサ情報を取得する。センサ情報取得部53は、センサ部17から、例えば、露光中のブレ量、撮影状態を取得する。
ステップS12において、特徴量算出部55は、センサ情報取得部53によって取得されたセンサ情報に基づいて、特徴量を算出する。具体的には、特徴量算出部55は、露光中のブレ量、撮影状態における特徴量を算出する。算出した特徴量は、特徴量記憶部72に記憶される。
ステップS13において、画像評価部56は、取得した撮影画像を評価対象として第1評価基準に基づいて評価する。具体的には、画像評価部56は、特徴量算出部55によって算出された特徴量から、第1評価基準として露光中のブレ量と、撮影状態を用いて、撮影画像を評価する。評価においては、例えば、露光中のブレ量が小さく、撮影状態が水平に近いほど、高い評価となる。
ステップS14において、画像選択部57は、仮保存されている枚数が所定の仮保存枚数以上であるか否かを判定する。
仮保存枚数以上でない場合には、ステップS14においてNOと判定されて、処理はステップS15に進む。
ステップS15において、画像選択部57は、仮保存枚数に達していないため、撮影画像を仮保存する。なお、仮保存される撮影画像は、RAW形式(ベイヤ画像)で画像記憶部71に保存される。その後、処理はステップS17に進む。
これに対して、仮保存枚数以上であった場合には、ステップS14においてYESと判定されて、処理はステップS16に進む。
ステップS16において、画像評価部56による評価結果に基づいて、仮保存枚数となるように撮影画像を評価値により選択から外して破棄する。具体的には、画像選択部57は、既に仮保存されている撮影画像と、今回の評価対象の撮影画像との評価値を比較して、今回の評価対象の撮影画像の評価値より、既に仮保存されている撮影画像のうち評価値の低い仮保存されている撮影画像がある場合は、その撮影画像を破棄して、今回の評価対象の撮影画像を仮保存する一方、今回の評価対象の撮影画像の評価値が、既に仮保存されている撮影画像の評価値のいずれよりも低い場合は、今回の評価対象の撮影画像を破棄して仮保存しない。即ち、既に仮保存されている撮影画像と、今回の評価対象の撮影画像の中で、評価の最も低い、最も露光中のブレ量が多く、撮影状態が水平でない撮影画像が仮保存の対象から外れて破棄される。
このようにして、連続撮影時にリアルタイムに評価の低い撮影画像が破棄されていく。
ステップS17において、撮影制御部51は、連続撮影が終了したか否かを判定する。なお、本実施形態においては、撮影制御部51によって、30fpsで連続撮影を行い5秒後に連続撮影を終了するように撮像部16が制御される。
連続撮影が終了した場合には、ステップS17においてYESと判定されて、処理はステップS18に進む。
これに対して、連続撮影が終了していない場合には、ステップS17においてNOと判定されて、処理はステップS11に戻る。
ステップS18において、画像解析部54は、評価対象となる撮影画像の画像解析を行う。画像解析では、例えば、顔の有無、顔の位置、顔の数、個人認証の有無、注目領域の位置・大きさ、コントラスト等が結果として出力される。
ステップS19において、特徴量算出部55は、画像解析部54によって解析された画像解析結果に基づいて、特徴量を算出する。具体的には、特徴量算出部55は、顔の有無、顔の位置、顔の数、個人認証の有無、注目領域の位置・大きさ、コントラスト等における特徴量を算出する。算出した特徴量は、特徴量記憶部72に記憶される。
ステップS20において、画像評価部56は、評価対象の撮影画像を第2評価基準に基づいて評価する。具体的には、画像評価部56は、第2評価基準として画像解析部54による画像解析結果を用いて、撮影画像を評価する。評価においては、例えば、顔がある、顔の位置が画角の中央、顔の数多い/少ない、個人認証がある、注目領域の位置が画角の中央、大きさが大きい、コントラストが高いほど、高い評価となる。
ステップS21において、画像評価部56は、全ての撮影画像を評価したか否かを判定する。
全ての撮影画像を評価した場合には、ステップS21においてYESと判定されて、処理はステップS22に進む。
これに対して、全ての撮影画像を評価していない場合には、ステップS21においてNOと判定されて、処理はステップS18に戻る。
ステップS22において、画像選択部57は、画像評価部56による評価結果のうち、最も評価の高い撮影画像を選択して、例えば、JPEG(Joint Photographic Experts Group)形式で画像記憶部71に保存する。その結果、150枚撮影された画像の中から1枚の撮影画像を選択することができる。その後、画像選択処理は終了する。
したがって、本実施形態では、ステップS11〜ステップS16において高速取捨選択を行う、ステップS18〜ステップS22において低速取捨選択を行う。
なお、上述した実施形態では、撮影終了後の低速取捨選択時にもセンサ情報を用いて画像を判断するように構成してもよい。この際、高速取捨選択時と同様の手法で行ってもよいが、低速取捨選択時は撮影処理を行っていないために、処理負担の大きな手法を用いて、画像を判断するように構成してもよい。
即ち、連続撮影のうち高速連写撮影を行う場合や撮影装置1を体に装着してスポーツ等をしながらインターバル撮影をした場合には、ブレていたり傾いていたり、子供が写っていない等の画像が大量に撮影されてしまうことがある。また、これらの機能で撮影した大量の画像から、ユーザが後から所望の画像を選択することは大変である。
仮に連続撮影を5秒間に30fpsで撮影を行ったときには150枚の大量の画像が撮影されるが、その中から1枚の画像を選択する場合、従来では、例えば、以下のようなことが行われており、実現が困難であった。
(1)高速連写で撮影した画像を全て保存しておき、後から選択する。
メモリは有限であり、撮影保持可能枚数は限られている。
さらに全ての画像を解析していると処理時間がかかってしまう。
(2)高速連写中に画像解析をし、リアルタイムに選択する。
連続連写(30fpsの場合、33ms)以内に処理を完了する必要があり、処理負荷の大きい解析処理はできない。
なお、画像選択のために用いるセンサ情報とは、以下のようのものがある。
・ジャイロセンサを用いた手ブレ検出(手ブレ補正)
・加速度センサやジャイロセンサを用いた行動推定
・加速度センサやジャイロセンサを用いたカメラワーク推定
・加速度センサ、もしくは加速度センサ+ジャイロセンサによる鉛直推定(カメラアングル推定)
そこで、本実施形態の撮影装置1では、加速度とジャイロ等の各種センサのセンサ情報の解析によるリアルタイムスクリーニング(高速取捨選択:撮影処理を優先させた選択)と、画像解析(センサ情報の解析を含む)によるポスト解析(低速取捨選択:解析の精度を優先させた選択)による2段階選択処理によって、撮影された画像群の中から高速に最適な1枚を選択する。
したがって、撮影装置1では、加速度センサ、ジャイロセンサ等から取得したセンサ情報の解析による高速取捨選択と、画像解析(センサデータ解析を含む)による低速取捨選択の2段階選択によって、高速連写で撮影された大量の画像群から最適な1枚を短時間に選択することができる。
高速取捨選択では、センサ情報から算出できるブレ量やカメラ姿勢の特徴量を用って連続撮影時の処理と関わらない、かつ、処理負担の軽い選択を行う。
これに対して、低速取捨選択では、精度の高い画像から算出できる顔検出や構図解析などを利用した選択をする。
よって、撮影装置1では、連続撮影時での処理高速化と、連続撮影後の選択精度向上を両立させて、最適な画像を選択することができる。
以上のように構成される撮影装置1は、画像評価部56を備える。
画像評価部56は、連続して画像を撮影している期間中に、第1評価基準に基づき、撮影される撮影画像を評価する。
また、画像評価部56は、連続した画像の撮影が終了したことを契機として、評価された撮影画像を、第2評価基準に基づき、評価する。
これにより、撮影装置1においては、連写速度と評価の精度を両立させて、連続撮影される画像を適切に評価することができる。
また、撮影装置1は、画像選択部57を備える。
画像選択部57は、連続して画像を撮影している期間中に、画像評価部56による評価に基づき、撮影される撮影画像を選択する。
また、画像選択部57は、連続した画像の撮影が終了したことを契機として、選択された撮影画像の中から、画像評価部56により評価に基づき、当該撮影画像を選択する。
これにより、撮影装置1においては、連写速度と評価の精度を両立させて、連続撮影される画像から適切な画像を選択することができる。
画像評価部56による第1評価基準の評価に基づいた評価処理は、画像選択部57による第2評価基準の評価に基づいた評価処理よりも処理負担が軽い。
これにより、撮影装置1においては、連続して画像を撮影している期間中は、処理速度を優先した処理を行って、連写速度と評価の精度を両立させて、連続撮影される画像を適切に評価することができる。
また、撮影装置1においては、第1評価基準は、当該撮影装置1が取得する情報に基づく。
これにより、撮影装置1においては、当該撮影装置1が取得する情報に基づいているために、画像解析等を行う必要がなく、撮影処理に影響を抑えることができ、連写速度と評価の精度を両立させて、連続撮影される画像を適切に評価することができる。
また、撮影装置1は、当該装置の移動状況を検出するセンサ部17を、更に備える。
また、撮影装置1は、センサ部17により検出される移動状況に基づき算出された特徴量を算出する特徴量算出部55を、更に備える。
また、撮影装置1においては、第1評価基準は、特徴量算出部55により算出される特徴量に基づく。
これにより、撮影装置1においては、センサ部17で検出された装置の移動状況に基づいて算出された特徴量を第1評価基準とするために、例えば、撮影のブレが想定される画像を外形的な情報から判断することができ、簡単に適切な評価を行うことができる。
また、撮影装置1においては、第2評価基準は、撮影画像の内容に基づく。
これにより、撮影装置1においては、連写速度と評価の精度を両立させて、連続撮影される画像を適切に評価することができる。
また、特徴量算出部55は、撮影画像を解析して所定の解析評価基準に基づき特徴量を算出する。
また、撮影装置1においては、第2評価基準は、画像評価部56により算出された特徴量に基づく。
これにより、撮影装置1においては、連続した画像の撮影終了後の撮影処理を考慮する必要がない状態で、処理負担の大きな第2評価基準を行うため、評価精度を高めることができ、連写速度と評価の精度を両立させて、連続撮影される画像を適切に評価することができる。
また、撮影装置1においては、第2評価基準は、注目する被写体の有無、大きさ、数又は位置に基づく。
これにより、撮影装置1においては、第2評価基準が注目する被写体の有無、大きさ、数又は位置基づいているために、精度の高い評価を行うことができ、連写速度と評価の精度を両立させて、連続撮影される画像を適切に評価することができる。
画像評価部56は、第1評価基準を、更に加味して撮影画像を評価する。
これにより、撮影装置1においては、第2評価基準に第1評価基準を加味するため、より精度を高めることができ、連続撮影される画像をより適切に評価することができる。
画像選択部57は、第1評価基準に基づいて選択されなかった撮影画像からは、選択しない。
これにより、撮影装置1においては、2段階で画像を選択するために、連続撮影される画像からより適切な画像を選択することができる。
また、撮影装置1は、画像選択部57により選択された撮影画像を保存する画像記憶部71を、更に備える。
これにより、撮影装置1においては、選択された撮影画像を保存することができる。
なお、本発明は、上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。
上述の実施形態では、高速連写やインターバル撮影等の連続撮影として説明したが、通常の静止画の撮影や動画撮影であってもよく、動画撮影の場合には、動画を構成するフレーム画像が画像の選択対象となる。
また、上述の実施形態では、加速度センサ、ジャイロセンサ等の各種センサを例としたが、地磁気センサ、気圧センサ等のセンサを用いて各種センサ情報を利用してもよい。
また、上述の実施形態では、最終的に1枚の撮影画像を選択するようにしているが、1枚に限らず、ユーザの所望する任意の枚数の撮影画像を選択するようにしてもよい。
また、上述の実施形態では、撮影装置1においては、特徴量算出部55は、第2評価基準として、画像解析部54による画像解析の結果を使用して特徴量を算出するようにしているが、これに限らず、更に、センサ情報取得部53により取得されたセンサ情報を解析した結果を使用した特徴量により、より高い精度の評価を行うように構成してもよい。
また、上述の実施形態では、撮影装置1においては、第2評価基準には複数の評価レベルが設定される。例えば、低速取捨選択時の評価に複数のレベルを設け、レベル毎に、よりハイライト度が高い画像、捨てるには惜しいかもしれない画像等のように、分類して保存するように構成してもよい。
具体的には、画像選択部57は、評価レベルごとに分類して選択する。
また、上述の実施形態では、最適な撮影画像から評価の高い順に選択するように構成したが、好適でない撮影画像として、評価が所定の基準を満たない撮影画像を選択対象から外すように構成してもよい。また、好適でない画像順に選択する対象から外していき、最終的に予定した選択枚数となるように構成してもよい。
また、上述の実施形態では、本発明が適用される撮影装置1は、デジタルカメラを例として説明したが、特にこれに限定されない。
例えば、本発明は、画像選択処理機能を有する電子機器一般に適用することができる。具体的には、例えば、本発明は、ノート型のパーソナルコンピュータ、プリンタ、テレビジョン受像機、ビデオカメラ、携帯型ナビゲーション装置、携帯電話機、スマートフォン、ポータブルゲーム機等に適用可能である。
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。
換言すると、図2の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が撮影装置1に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図2の例に限定されない。
また、1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、コンピュータ等にネットワークや記録媒体からインストールされる。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
このようなプログラムを含む記録媒体は、ユーザにプログラムを提供するために装置本体とは別に配布される図1のリムーバブルメディア31により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される記録媒体等で構成される。リムーバブルメディア31は、例えば、磁気ディスク(フロッピディスクを含む)、光ディスク、又は光磁気ディスク等により構成される。光ディスクは、例えば、CD−ROM(Compact Disk−Read Only Memory),DVD(Digital Versatile Disk),Blu−ray(登録商標) Disc(ブルーレイディスク)等により構成される。光磁気ディスクは、MD(Mini−Disk)等により構成される。また、装置本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されている図1のROM12や、図1の記憶部20に含まれるハードディスク等で構成される。
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的或いは個別に実行される処理をも含むものである。
以上、本発明のいくつかの実施形態について説明したが、これらの実施形態は、例示に過ぎず、本発明の技術的範囲を限定するものではない。本発明はその他の様々な実施形態を取ることが可能であり、さらに、本発明の要旨を逸脱しない範囲で、省略や置換等種々の変更を行うことができる。これら実施形態やその変形は、本明細書等に記載された発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
以下に、本願の出願当初の特許請求の範囲に記載された発明を付記する。
[付記1]
連続して画像を撮影している期間中に、第1の評価基準に基づき、撮影される撮影画像を評価する第1の評価手段と、
連続した画像の撮影が終了したことを契機として、前記第1の評価手段により評価された前記撮影画像を、第2の評価基準に基づき、評価する第2の評価手段と、
を備えることを特徴とする撮影装置。
[付記2]
連続して画像を撮影している期間中に、前記第1の評価手段による評価に基づき、撮影される撮影画像を選択する第1の選択手段と、
連続した画像の撮影が終了したことを契機として、前記第1の選択手段により選択された前記撮影画像の中から、前記第2の評価手段による評価に基づき、当該撮影画像を選択する第2の選択手段と、
を更に、備えることを特徴とする付記1に記載の撮影装置。
[付記3]
前記第1の評価手段による評価処理は、前記第2の評価手段による評価処理よりも処理負担が軽い、
ことを特徴とする付記1又は2に記載の撮影装置。
[付記4]
前記第1の評価基準は、当該撮影装置が取得する情報に基づく、
ことを特徴とする付記1乃至3の何れか1つに記載の撮影装置。
[付記5]
当該撮影装置の移動状況を検出する検出手段と、
前記検出手段により検出される移動状況に基づき算出された第1の特徴量を算出する第1の特徴量算出手段と、
を、更に備え、
前記第1の評価基準は、前記第1の特徴量算出手段により算出される第1の特徴量に基づく、
ことを特徴とする付記4に記載の撮影装置。
[付記6]
前記第2の評価基準は、前記撮影画像の内容に基づく、
ことを特徴とする付記1乃至5の何れか1つに記載の撮影装置。
[付記7]
前記撮影画像を解析して所定の解析評価基準に基づき第2の特徴量を算出する第2の特徴量算出手段を、更に備え、
前記第2の評価基準は、前記第2の特徴量算出手段により算出された前記第2の特徴量に基づく、
ことを特徴とする付記6に記載の撮影装置。
[付記8]
前記第2の評価基準は、注目する被写体の有無、大きさ、数又は位置に基づく、
ことを特徴とする付記7に記載の撮影装置。
[付記9]
前記第2の評価手段は、前記第1の評価基準を、更に加味して前記撮影画像を評価する、
ことを特徴とする付記1乃至8の何れか1つに記載の撮影装置。
[付記10]
前記第2の評価基準には複数の評価レベルが設定され、
前記第2の評価手段は、評価レベルごとに分類して評価する、
ことを特徴とする付記1乃至9の何れか1つに記載の撮影装置。
[付記11]
前記第2の選択手段は、前記第1の選択手段により選択されなかった撮影画像からは、選択しない、
ことを特徴とする付記2に記載の撮影装置。
[付記12]
前記第2の選択手段により選択された前記撮影画像を保存する保存手段を、更に備える、
ことを特徴とする付記2又は11に記載の撮影装置。
[付記13]
撮影装置で実行される画像評価方法であって、
連続して画像を撮影している期間中に、第1の評価基準に基づき、撮影される撮影画像を評価する第1の評価処理と、
連続した画像の撮影が終了したことを契機として、前記第1の評価処理により評価された前記撮影画像を、第2の評価基準に基づき、評価する第2の評価処理と、
を含むことを特徴とする画像評価方法。
[付記14]
撮影装置を制御するコンピュータを、
連続して画像を撮影している期間中に、第1の評価基準に基づき、撮影される撮影画像を評価する第1の評価機能と、
連続した画像の撮影が終了したことを契機として、前記第1の評価機能により評価された前記撮影画像を、第2の評価基準に基づき、評価する第2の評価機能と、
を実現させることを特徴とするプログラム。
1・・・撮影装置,11・・・CPU,12・・・ROM,13・・・RAM,14・・・バス,15・・・入出力インターフェース,16・・・撮像部,17・・・センサ部,18・・・入力部,19・・・出力部,20・・・記憶部,21・・・通信部,22・・・ドライブ,31・・・リムーバブルメディア,51・・・撮影制御部,52・・・画像取得部,53・・・センサ情報取得部,54・・・画像解析部,55・・・特徴量算出部,56・・・画像評価部,57・・・画像選択部,71・・・画像記憶部,72・・・特徴量記憶部

Claims (14)

  1. 連続して画像を撮影している期間中に、第1の評価基準に基づき、撮影される撮影画像を評価する第1の評価手段と、
    連続した画像の撮影が終了したことを契機として、前記第1の評価手段により評価された前記撮影画像を、第2の評価基準に基づき、評価する第2の評価手段と、
    を備えることを特徴とする撮影装置。
  2. 連続して画像を撮影している期間中に、前記第1の評価手段による評価に基づき、撮影される撮影画像を選択する第1の選択手段と、
    連続した画像の撮影が終了したことを契機として、前記第1の選択手段により選択された前記撮影画像の中から、前記第2の評価手段による評価に基づき、当該撮影画像を選択する第2の選択手段と、
    を更に、備えることを特徴とする請求項1に記載の撮影装置。
  3. 前記第1の評価手段による評価処理は、前記第2の評価手段による評価処理よりも処理負担が軽い、
    ことを特徴とする請求項1又は2に記載の撮影装置。
  4. 前記第1の評価基準は、当該撮影装置が取得する情報に基づく、
    ことを特徴とする請求項1乃至3の何れか1項に記載の撮影装置。
  5. 当該撮影装置の移動状況を検出する検出手段と、
    前記検出手段により検出される移動状況に基づき算出された第1の特徴量を算出する第1の特徴量算出手段と、
    を、更に備え、
    前記第1の評価基準は、前記第1の特徴量算出手段により算出される第1の特徴量に基づく、
    ことを特徴とする請求項4に記載の撮影装置。
  6. 前記第2の評価基準は、前記撮影画像の内容に基づく、
    ことを特徴とする請求項1乃至5の何れか1項に記載の撮影装置。
  7. 前記撮影画像を解析して所定の解析評価基準に基づき第2の特徴量を算出する第2の特徴量算出手段を、更に備え、
    前記第2の評価基準は、前記第2の特徴量算出手段により算出された前記第2の特徴量に基づく、
    ことを特徴とする請求項6に記載の撮影装置。
  8. 前記第2の評価基準は、注目する被写体の有無、大きさ、数又は位置に基づく、
    ことを特徴とする請求項7に記載の撮影装置。
  9. 前記第2の評価手段は、前記第1の評価基準を、更に加味して前記撮影画像を評価する、
    ことを特徴とする請求項1乃至8の何れか1項に記載の撮影装置。
  10. 前記第2の評価基準には複数の評価レベルが設定され、
    前記第2の評価手段は、評価レベルごとに分類して評価する、
    ことを特徴とする請求項1乃至9の何れか1項に記載の撮影装置。
  11. 前記第2の選択手段は、前記第1の選択手段により選択されなかった撮影画像からは、選択しない、
    ことを特徴とする請求項2に記載の撮影装置。
  12. 前記第2の選択手段により選択された前記撮影画像を保存する保存手段を、更に備える、
    ことを特徴とする請求項2又は11に記載の撮影装置。
  13. 撮影装置で実行される画像評価方法であって、
    連続して画像を撮影している期間中に、第1の評価基準に基づき、撮影される撮影画像を評価する第1の評価処理と、
    連続した画像の撮影が終了したことを契機として、前記第1の評価処理により評価された前記撮影画像を、第2の評価基準に基づき、評価する第2の評価処理と、
    を含むことを特徴とする画像評価方法。
  14. 撮影装置を制御するコンピュータを、
    連続して画像を撮影している期間中に、第1の評価基準に基づき、撮影される撮影画像を評価する第1の評価機能と、
    連続した画像の撮影が終了したことを契機として、前記第1の評価機能により評価された前記撮影画像を、第2の評価基準に基づき、評価する第2の評価機能と、
    を実現させることを特徴とするプログラム。
JP2015226129A 2015-11-18 2015-11-18 撮影装置、画像評価方法及びプログラム Expired - Fee Related JP6210106B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2015226129A JP6210106B2 (ja) 2015-11-18 2015-11-18 撮影装置、画像評価方法及びプログラム
CN201610898691.0A CN107040743A (zh) 2015-11-18 2016-10-14 图像评价装置以及图像评价方法
US15/347,991 US20170142335A1 (en) 2015-11-18 2016-11-10 Image evaluation apparatus that evaluates continuously photographed images

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015226129A JP6210106B2 (ja) 2015-11-18 2015-11-18 撮影装置、画像評価方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2017098635A true JP2017098635A (ja) 2017-06-01
JP6210106B2 JP6210106B2 (ja) 2017-10-11

Family

ID=58690063

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015226129A Expired - Fee Related JP6210106B2 (ja) 2015-11-18 2015-11-18 撮影装置、画像評価方法及びプログラム

Country Status (3)

Country Link
US (1) US20170142335A1 (ja)
JP (1) JP6210106B2 (ja)
CN (1) CN107040743A (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4916598A (en) * 1989-05-04 1990-04-10 Neturen Company Limited Apparatus for discerning faulty switching device
JP7325266B2 (ja) * 2019-08-27 2023-08-14 キヤノン株式会社 撮像制御装置、撮像装置、制御方法、及びプログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11136557A (ja) * 1997-08-26 1999-05-21 Nikon Corp 電子カメラ
JP2006180471A (ja) * 2004-11-25 2006-07-06 Casio Comput Co Ltd カメラ、撮影画像の選択/記録方法、及びプログラム
JP2010177894A (ja) * 2009-01-28 2010-08-12 Sony Corp 撮像装置、画像管理装置及び画像管理方法、並びにコンピューター・プログラム
JP2012178860A (ja) * 2007-01-15 2012-09-13 Panasonic Corp 撮像装置
JP2015119323A (ja) * 2013-12-18 2015-06-25 カシオ計算機株式会社 撮像装置、画像取得方法及びプログラム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030189647A1 (en) * 2002-04-05 2003-10-09 Kang Beng Hong Alex Method of taking pictures
JP4253498B2 (ja) * 2002-12-09 2009-04-15 オリンパス株式会社 画像検索プログラム、そのプログラムを記憶した記憶媒体、画像検索装置及び画像検索方法
JP4196942B2 (ja) * 2004-12-21 2008-12-17 セイコーエプソン株式会社 撮像装置及びこれを備えた携帯電話機
US20090020727A1 (en) * 2005-04-28 2009-01-22 Dayton Joseph Deetz Magnetic receptive plasters and compounds
CN1941849A (zh) * 2005-09-29 2007-04-04 英华达(上海)电子有限公司 数码相机中利用加速度传感器的拍照防抖动装置及其方法
GB2442482A (en) * 2006-10-05 2008-04-09 Robert Morrison Pre-determined torque-nut
JP5423305B2 (ja) * 2008-10-16 2014-02-19 株式会社ニコン 画像評価装置及びカメラ
JP4748244B2 (ja) * 2009-03-31 2011-08-17 カシオ計算機株式会社 画像選択装置、画像選択方法及びプログラム
CN102509285A (zh) * 2011-09-28 2012-06-20 宇龙计算机通信科技(深圳)有限公司 一种拍摄出模糊图片的处理方法、系统及拍摄设备
JP5548965B2 (ja) * 2012-03-07 2014-07-16 カシオ計算機株式会社 撮像装置、その撮影姿勢特定方法、及びプログラム
US9491360B2 (en) * 2013-06-06 2016-11-08 Apple Inc. Reference frame selection for still image stabilization

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11136557A (ja) * 1997-08-26 1999-05-21 Nikon Corp 電子カメラ
JP2006180471A (ja) * 2004-11-25 2006-07-06 Casio Comput Co Ltd カメラ、撮影画像の選択/記録方法、及びプログラム
JP2012178860A (ja) * 2007-01-15 2012-09-13 Panasonic Corp 撮像装置
JP2010177894A (ja) * 2009-01-28 2010-08-12 Sony Corp 撮像装置、画像管理装置及び画像管理方法、並びにコンピューター・プログラム
JP2015119323A (ja) * 2013-12-18 2015-06-25 カシオ計算機株式会社 撮像装置、画像取得方法及びプログラム

Also Published As

Publication number Publication date
CN107040743A (zh) 2017-08-11
US20170142335A1 (en) 2017-05-18
JP6210106B2 (ja) 2017-10-11

Similar Documents

Publication Publication Date Title
JP5589527B2 (ja) 撮像装置および追尾被写体検出方法
JP5394296B2 (ja) 撮像装置及び画像処理方法
US20150002684A1 (en) Image processing apparatus
JP5623256B2 (ja) 撮像装置、その制御方法及びプログラム
JP5987306B2 (ja) 画像処理装置、画像処理方法、プログラム
JP5105616B2 (ja) 撮像装置及びプログラム
JP2015119323A (ja) 撮像装置、画像取得方法及びプログラム
US9674437B2 (en) Imaging apparatus, imaging method and computer readable recording medium having program for performing interval shooting
KR20150089933A (ko) 인터벌 촬영을 실행하는 촬상 장치, 촬상 방법 및 기억 매체
JP6210106B2 (ja) 撮影装置、画像評価方法及びプログラム
JP2014187551A (ja) 画像取得装置、画像取得方法及びプログラム
JP6274272B2 (ja) 画像処理装置、画像処理方法、プログラム
JP6521133B2 (ja) 撮像制御装置、撮像制御方法、及び、プログラム
JP5832618B2 (ja) 撮像装置、その制御方法及びプログラム
JP4888829B2 (ja) 動画処理装置、動画撮影装置および動画撮影プログラム
JP6427859B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP6493746B2 (ja) 画像追尾装置及び画像追尾方法
JP2017098637A (ja) 画像特定装置、画像特定方法及びプログラム
JP5644180B2 (ja) 撮像装置、撮像方法及びプログラム
JP5944246B2 (ja) 撮像装置
JP2006039254A (ja) カメラ
US20230421901A1 (en) Image processing apparatus and method, and image capturing apparatus
JP4687420B2 (ja) 撮影装置、撮影方法及びプログラム
JP2017098634A (ja) 画像評価装置、画像評価方法及びプログラム
JP2007147805A (ja) ぶれ量検出装置、撮影装置、これらの制御方法、制御プログラム及び記録媒体

Legal Events

Date Code Title Description
A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20170227

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20170406

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170425

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170601

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170815

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170828

R150 Certificate of patent or registration of utility model

Ref document number: 6210106

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees