JP2006086886A - 撮像システム - Google Patents

撮像システム Download PDF

Info

Publication number
JP2006086886A
JP2006086886A JP2004270327A JP2004270327A JP2006086886A JP 2006086886 A JP2006086886 A JP 2006086886A JP 2004270327 A JP2004270327 A JP 2004270327A JP 2004270327 A JP2004270327 A JP 2004270327A JP 2006086886 A JP2006086886 A JP 2006086886A
Authority
JP
Japan
Prior art keywords
color information
unit
imaging system
color
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004270327A
Other languages
English (en)
Other versions
JP4488508B2 (ja
Inventor
Kenji Shiraishi
賢二 白石
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2004270327A priority Critical patent/JP4488508B2/ja
Publication of JP2006086886A publication Critical patent/JP2006086886A/ja
Application granted granted Critical
Publication of JP4488508B2 publication Critical patent/JP4488508B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

【課題】 被写体の色情報を正確に把握することができる撮像システムを提供する。
【解決手段】 レンズユニット1を介してCCD2で受光した画像は、A/D変換器6でデジタル映像信号に変換されてCCDインタフェース7から信号処理ICに取り込まれる。取り込まれたデータはYUV変換部8でYUV形式のデータに変換され、SDRAM16に格納される。CPU13が指定された範囲のYUVデータをSDRAM16から読み出し、その範囲の平均値を作成する。この平均値と、ROM17にあらかじめ格納されている色情報とに応じて、色の数値と、図上の位置と、色名とを表示する。
【選択図】 図2

Description

本発明は、色を正しく認識できない色覚異常者の補助機能を有する撮像システムに関し、特に、被写体の色情報を認識しにくい状況においても、正確に被写体の色情報を得ることができる撮像システムに関する。
色覚異常には、一般に色盲や色弱と呼ばれる色覚異常や、加齢による色の見分けができなくなる色覚異常などがある。この症状をもつ色覚異常者は、物の色によっては、その色を正しく認識できない場合がある。また、色覚異常者のみならず正常に色を認識できる者にとっても、自分が認識した色を他者に正確に伝えたい場合がある。
色覚異常に対しての補助機能として、パーソナル・コンピュータ(PC)ではマウスが指している部分の画素のRGB値や色名の表示をするソフトウェアなどがある。また、例えば特許文献1には、印刷する対象の画像に対して色の抽出をして色名を付けて印刷を行う発明が開示されている。また特許文献2には、色覚異常者に映像がどのように見えているかをシミュレートする発明と、色覚異常者が認識することが困難な配色を色覚異常者でも見やすく変換する発明が開示されている。また、特許文献3には、撮影者が撮影毎に、撮影した画像に対してその画像に対応した色情報を入力することできる発明が開示されている。
特開2001−257867号公報 特公平6−82385号公報 特開2003−134359号公報
しかし、PCの場合は、PCの画面に表示された画素のデータ表示であり、PCに読み込まれたデータが対象となる。また、特許文献1に記載の発明は、複写機やプリンタなどで紙出力を行う際に、データの色を抽出して色名を合成してプリント出力するものであり、紙に出力する場合の処理である。したがって、データとしては2次元の物体が対象となり、3次元物体の色の抽出ができない。また一般的に、複写機やプリンタ等は携帯して屋外で使用することには不向きである。
また、特許文献2に記載の発明は、映像信号を色覚異常者がどのように認識しているかをシミュレートすることと、色覚異常者が見えやすくする配色に変換するものである。配色の変換は、色の判別が困難な部分を色覚異常者が判別が可能なように色を変換するものであって、その色が何色であるかを判断することはできない。
また、特許文献3に記載の発明は、あらかじめ装置内に用意されている文字列と画像とを合成するための発明であり、色情報の判別や抽出などは行っていない。
上記の課題に鑑み、本発明は、画像データを入力する撮像手段をもち、撮像手段から入力された画像に対して色情報を抽出することにより、CCDセンサやCMOSセンサなどの撮像手段によって入力される映像信号から色情報を得ることを目的とする。これにより、3次元物体であっても容易に色名などの色情報を得ることができる。
また、本発明は、撮像手段より入力された画像から抽出された色の情報を、あらかじめ格納している色情報データに応じて色名などの判別を行い、判別した色情報を画像に合成させることを目的とする。これにより、色覚異常者であっても画像の色情報や色名を正確に判別することができる。
請求項1に記載の発明は、レンズから入力された画像を電気信号に変換する撮像手段と、撮像手段で変換された電気信号を所定の表示形式に変換した画像データを生成する画像処理手段と、画像処理手段で生成された画像データをメモリに格納する格納手段と、格納手段によって格納された画像データを表示する表示手段とを有する撮像システムであって、表示手段により表示された画像データの特定範囲を指定する範囲指定手段と、範囲指定手段で指定された特定範囲の色情報を抽出する色情報抽出手段とを有することを特徴とする。
請求項2に記載の発明は、請求項1に記載の撮像システムにおいて、色情報抽出手段によって抽出された色情報を、画像データとともに表示手段によって表示するための色情報表示手段をさらに有することを特徴とする。
請求項3に記載の発明は、請求項1又は2に記載の撮像システムにおいて、色情報抽出手段によって抽出された色情報を、音声にて出力する色情報音声出力手段をさらに有することを特徴とする。
請求項4に記載の発明は、請求項1から3のいずれか1項に記載の撮像システムにおいて、表示手段により表示される画像データを、特定の周期で連続的に更新する連続表示手段をさらに有し、連続表示手段において表示される画像データから色情報抽出手段によって色情報を抽出する手段をさらに有することを特徴とする。
請求項5に記載の発明は、請求項1から4のいずれか1項に記載の撮像システムに関し、色情報抽出手段において色情報の抽出を行うか否かを選択する手段をさらに有することを特徴とする。
請求項6に記載の発明は、請求項4又は5に記載の撮像システムにおいて、色情報抽出手段と、色情報表示手段と、色情報音声出力手段とのうち少なくとも1つが動作している時に、連続表示手段により表示される画像データの更新周期を変更する更新周期変更手段をさらに有することを特徴とする。
請求項7に記載の発明は、請求項6に記載の撮像システムにおいて、更新周期変更手段により更新される画像データの更新周期が、色情報抽出手段と、色情報表示手段と、色情報音声出力手段とがいずれも動作していない時の更新周期より長いことを特徴とする。
請求項8に記載の発明は、請求項1から7のいずれか1項に記載の撮像システムにおいて、範囲指定手段により指定される特定範囲を操作し、特定範囲を変更する範囲指定変更手段をさらに有することを特徴とする。
請求項9に記載の発明は、請求項1から8のいずれか1項に記載の撮像システムにおいて、色情報抽出手段により抽出される色情報は、範囲指定手段により指定される特定範囲の色情報の平均値から作成されることを特徴とする。
請求項10に記載の発明は、請求項1から9のいずれか1項に記載の撮像システムにおいて、色情報抽出手段により抽出される色情報は、連続表示手段の動作時に抽出される連続した複数の色情報の平均値から作成されることを特徴とする。
請求項11に記載の発明は、請求項1から10に記載の撮像システムにおいて、色情報抽出手段により抽出される色情報を数値に変換する手段をさらに有し、数値を色情報表示手段または色情報音声出力手段に出力することを特徴とする。
請求項12に記載の発明は、請求項1から11のいずれか1項に記載の撮像システムにおいて、数値に変換する手段は、色情報をRGBの値に変換するRGB変換手段であり、RGB変換手段により変換されたRGBの値を、色情報表示手段または色情報音声出力手段に出力することを特徴とする。
請求項13に記載の発明は、請求項1から11のいずれか1項に記載の撮像システムにおいて、数値に変換する手段は、色情報をYUVの値に変換するYUV変換手段であり、YUV変換手段により変換されたYUVの値を、色情報表示手段または色情報音声出力手段に出力することを特徴とする。
請求項14に記載の発明は、請求項1から11のいずれか1項に記載の撮像システムにおいて、数値に変換する手段は、色情報をXYZの値に変換するXYZ変換手段であり、XYZ変換手段により変換されたXYZの値を、色情報表示手段または色情報音声出力手段に出力することを特徴とする。
請求項15に記載の発明は、請求項1から11のいずれか1項に記載の撮像システムにおいて、数値に変換する手段は、色情報をCIELABの値に変換するCIELAB変換手段であり、CIELAB変換手段により変換されたCIELABの値を、色情報表示手段または色情報音声出力手段に出力することを特徴とする。
請求項16に記載の発明は、請求項1から10のいずれか1項に記載の撮像システムにおいて、色情報抽出手段により抽出される色情報を色名に置き換える色情報判別手段をさらに有し、色情報判別手段により置き換えられた色情報を、色情報表示手段または色情報音声出力手段に出力することを特徴とする。
請求項17に記載の発明は、請求項1から10のいずれか1項に記載の撮像システムにおいて、色情報抽出手段により抽出される色情報を2次元又は3次元の図上に置き換え、色情報を図によって表示する手段をさらに有することを特徴とする。
請求項18に記載の発明は、請求項1から17のいずれか1項に記載の撮像システムにおいて、静止画を撮影する静止画撮影手段と、静止画撮影手段により撮影した静止画を不揮発性メモリに記憶する第2の記憶手段とをさらに有し、色情報抽出手段により抽出される色情報と共に静止画を第2の記憶手段に記憶することを特徴とする。
請求項19に記載の発明は、請求項18に記載の撮像システムにおいて、第2の記憶手段は、色情報抽出手段により抽出される色情報と共に特定範囲をさらに記憶する手段を有する。
請求項20に記載の発明は、請求項1から17のいずれか1項に記載の撮像システムにおいて、静止画撮影手段により撮影された静止画に、色情報抽出手段により抽出される色情報を合成する色情報合成手段をさらに有し、色情報合成手段により合成された色情報を第2の記憶手段に記憶することを特徴とする。
請求項21に記載の発明は、請求項20に記載の撮像システムにおいて、色情報合成手段は、静止画に特定範囲を合成し第2の記憶手段に記憶する手段をさらに有することを特徴とする。
請求項22に記載の発明は、請求項1から21のいずれか1項に記載の撮像システムにおいて、ホワイトバランスを調整するホワイトバランス調整手段をさらに有し、色情報抽出手段の動作時にはホワイトバランス調整手段による調整を固定することを特徴とする。
請求項23に記載の発明は、請求項18から22のいずれか1項に記載の撮像システムにおいて、記憶手段に記憶された静止画を外部装置に出力する手段をさらに有することを特徴とする。
請求項1、2に記載の発明によれば、本発明はデータを入力する撮像手段をもち、その入力画像に対して色情報を抽出することで、あらかじめデータを用意することなく色情報を得ることができる。
また、請求項3に記載の発明によれば、色情報を表示したり音声で出力したりすることで、例えば色覚異常者であっても色情報を得ることが可能になる。さらに、健常者であっても各々の認識によっては色情報が異なる場合がある。本発明によれば、個人の認識に関わらず共通の色情報を把握することができる。
また、請求項4に記載の発明によれば、本発明の撮像システムをデジタルカメラで実施した場合に、連続的に画面を更新するLiveViewモードで連続的に識別データを読み出すことで、画面の表示を確認しながら、抽出したいエリアを調節することが容易になる。したがって、容易に必要な物の色情報を取得することができるようになる。
また、請求項5に記載の発明によれば、色情報抽出のためのメモリへのアクセス回数の増加に伴なう電力消費の増加を防ぐことができる。すなわち、色情報の抽出の有無を選択することができるので、色情報を必要としない場合は、情報抽出をしないことで無駄な電力消費を防ぐことができる。
また、本発明の撮像システムをデジタルカメラのLiveViewモードで実現した場合、LiveViewモードは静止画を撮影するための位置決めに使用することが多く、その場合無駄な表示はLiveViewモードの画面を見にくくしてしまう。したがって、色情報抽出が不要な場合は、無効として表示を行わないようにして画面を見やすくすることができる。
また、請求項6、7に記載の発明によれば、色情報抽出のためのメモリへのアクセス回数の増加に伴なう電力消費の増加を防ぐことができる。画面の更新サイクルを下げることでCCD等の撮像手段の駆動クロックを下げることができるために消費電力が減少する。その結果として色情報抽出をした場合の電力増加を低減することができる。
また、デジタルカメラにおいてLiveViewモードは、30Hz程度の更新サイクルである。しかし30Hzで色情報データの更新をしても見えにくく、それほど早い更新サイクルは必要ではない。例えば3Hzを更新サイクルとした場合、露光時間を通常のLiveViewモードで使用する10倍の時間に設定することが可能になるため、暗い場所での使用が可能になる。したがって、低輝度被写体でも利用可能なシステムが実現できる。
さらに、露光時間を長くすることで蛍光灯下であればフリッカの影響を軽減することが可能になる。
また、請求項8に記載の発明によれば、表示されている画面内のどの部分を抽出するかを選択できるようにすることで、大きさの変更をすれば、色情報を抽出したいもののサイズや部分のサイズが異なっている場合でも、容易に対応することができる。抽出する位置を変更できれば、撮像システムそのものの位置を変更できない場合であっても、画面内のどの位置にあっても、画面内にあるものであれば色情報の抽出が可能になる。
また、請求項9、10に記載の発明によれば、CCDやCMOSセンサを用いた撮像システムにおける、センサからの出力に一般的に含まれるノイズ成分を、エリア内に画素の平均値を取ることで、このノイズによる影響を軽減することができる。また色抽出対象自体に色のむらがあったとしても、その影響を軽減することができる。さらに、蛍光灯下などのフリッカが発生している光源下でのフリッカの影響を軽減できる。
また、請求項11から15に記載の発明によれば、RGB、YUV、XYZ、CIELABなどの数値で色情報を表示することにより、正確な値の色情報を取得することができる。このデータは正確な数値なので、健常者が利用しても、簡易の色度計として利用することが可能である。
また、請求項16に記載の発明によれば、色情報をRGB等の数値データで表示しても、それがどのような色であるかを感覚的に把握できない人や、数値データなどによる正確な色の情報よりも大まかな色の情報が欲しい場合などであっても、正確な色の数値よりも慣用的な色の名称を表示することができる。したがって、色情報を色の名称に置き換えて表示することで、より多くの人にわかりやすい色情報を提供することができる。
また、請求項17に記載の発明によれば、色情報をRGB等の数値データで表示してもそれがどのような色であるかを感覚的に把握できない人が、正確な色情報が必要である場合にも、色度図などの色を平面や立体で表示した図の中にポイントを示すなどの図示をすることで、正確に色情報を把握することができる。
また、請求項18、19に記載の発明によれば、静止画とともに色情報と抽出した範囲が記録されていれば、再生時にこの情報を読み出して、どの部分がどのような色であるかの表示をすることができる。またこの情報を利用することのできる画像再生システムであれば、色合わせなどを行う場合に、どの部分の色を合わせるかが明確になるため、より正確な色再現が可能となる。
また、請求項20に記載の発明によれば、画像データ自体に色情報を書き込むことで、特別な機能を持たない再生システムであっても、被写体の色情報を取得することができる。
また、請求項21に記載の発明によれば、画像データ自体に色情報を抽出したエリアがわかるような、例えば枠線を書き込むことで、特別な機能を持たない再生システムであっても、どの部分から抽出した色情報かが明確にわかる。
また、請求項22に記載の発明によれば、例えば画面全体が黄色の場合、オートホワイトバランス(AWB)処理が動作すれば黄色を白くするように動作してしまう場合であっても、ホワイトバランスを固定することで、画面内の被写体の色が特定の色相に偏った場合でもAWB処理の誤動作による色情報抽出の間違えを無くすことができる。
また、請求項23に記載の発明によれば、画像データとともに色情報が保存されているか、または直接色情報を書き込んだ画像データを外部機器に送信する機能により、遠隔地でも物体の色が正確に把握できる。特に受信側がモノクロ機器、例えばモノクロファクシミリだったとしても、被写体の色を把握することが可能となる。
次に、本発明の好適な実施形態を、デジタルカメラを例に挙げて図面を用いて説明する。
図1は、本実施形態におけるデジタルカメラの外観を示す図である。
本実施形態におけるデジタルカメラは、LCDディスプレイと、サブLCDと、光学ファインダと、ストロボ発光部と、測距ユニットと、リモコン受光部と、鏡胴ユニットと、SDカード/電池蓋と、オートフォーカスLEDと、ストロボLEDと、を備えている。また、操作部として、レリーズシャッタ(SW1)と、モードダイアル(SW2)と、ズームスイッチ(SW3)と、セルフタイマ/削除スイッチ(SW4)と、メニュースイッチ(SW5)と、上/ストロボスイッチ(SW6)と、右スイッチ(SW7)と、下/マクロスイッチ(SW8)と、左/画像確認スイッチ(SW9)と、ディスプレイスイッチ(SW10)と、OKスイッチ(SW11)と、電源スイッチ(SW12)と、を備えている。
図2は、本実施形態におけるデジタルカメラの構成を示すブロック図である。
本実施形態のデジタルカメラにおける撮像手段は、レンズユニット1、CCD2、CCD2を駆動するTG(制御信号発生器)3、CCD2から出力された電気信号(アナログ画像データ)をサンプリングするCDS4、CDS4においてサンプリングされたデータのゲインを調整するAGC5、AGC5で調整された画像データをデジタル信号に変換するA/D変換器6を備えている。
レンズユニット1を介してCCD2で受光した画像は、A/D変換器6でデジタル映像信号に変換されて信号処理ICに入力される。
A/D変換器6でデジタル画像信号に変換された入力信号を表示可能な形式に変換してメモリに保存する画像処理手段であるYUV変換部8およびリサイズ処理部9と、表示信号出力手段である表示出力制御部10と、色情報を抽出する色情報抽出手段であるCPU13は、全て信号処理ICに含まれている。
信号処理ICは、CCDへの同期信号の出力と同期信号に合わせたデータの取り込みを行うCCDインタフェース7と、A/D変換器6から入力されたデジタル画像信号を表示や記録が可能なYUV形式の画像データに変換するYUV変換部8と、表示や記録される画像データのサイズにあわせて画像サイズを変更するリサイズ処理部9と、取り込んだ画像データの表示出力を制御する表示出力制御部10と、取り込んだ画像データをJPEG形式などで記録する場合のデータ圧縮部11と、取り込んだ画像データをメモリカード18へ書き込み、又はメモリカード18に書き込まれた画像データを読み出すメディアインタフェース12と、デジタルカメラ全体のシステム制御や色情報の抽出、および色名の判定などを行うCPU13とを備えている。
また、操作部14は、色情報を抽出する指示や色情報を抽出するエリアの指定を行う操作スイッチ等を備えている。CPU13は、操作部14から送られてくる信号を認識して、操作部14からの指示動作にあわせて全体を制御している。
また、CPU13は、音声出力部15への音声出力の制御を行う。
表示出力制御部10はデジタルカメラに内蔵されているLCDディスプレイやTVなどに画像の出力を行う。出力先の画像データの形式にあわせて、同期信号などの信号を付加して信号出力を行う。
SDRAM16は、取り込んだ画像データおよびJPEG形式などに圧縮された画像データを一時保管するメモリの機能と、CPU13のRAMの機能とを兼ねている。さらに、取り込んだ画像データおよび圧縮された画像データと、OSD(オンスクリーンディスプレイ)データ領域内のOSD表示用ビットマップデータとを重ね合わせ、表示出力制御部10から出力する。なおOSD表示用ビットマップデータは、CPU13が各状態での文字表示などに合わせてビットマップデータを生成する。また、メモリコントローラは、信号処理ICとSDRAM16との制御を行う。
ROM17には、デジタルカメラの制御を行う制御プログラムや、画像データから抽出した色情報の色名を判定する際に使用する色名や色の閾値などの情報が格納されている。CPU13は、この制御プログラムや色名情報などをもとに動作する。
次に、本実施形態におけるデジタルカメラの、通常動作時のLiveViewモード動作について説明する。ちなみにLiveViewとは、撮影レンズから入力された画像データをLCDディスプレイなどで連続的に表示する機能である。
まず、デジタルカメラを起動してモードダイアル(SW2)を記録モードに設定すると、各ブロックが起動されて、CCDインタフェース7からの同期信号に同期して制御信号発生器(TG)3がCCD2を駆動し、CCD2からアナログ画像信号が出力される。CCD2から出力されたアナログ画像信号は、CDS4で有効信号部分だけがサンプリングされる。CDS4でサンプリングされた画像信号は、AGC5においてゲインの調整を行われる。AGC5においてゲイン調整が行われた画像信号は、A/D変換器6でデジタル画像信号に変換される。
A/D変換器6で変換されたデジタル画像信号は信号処理ICへと、CCDインタフェース7から取り込まれる。CCDの種類としては、画像信号として光の三原色であるR(レッド),G(グリーン),B(ブルー)を出力する原色CCDと、画像信号として色の三原色であるC(シアン),Y(イエロー),M(マゼンダ)を出力する補足CCDがあるが、本実施形態では、原色CCDを用いて説明を行う。
取り込まれたデジタル画像信号は、表示可能なサイズに変換されてSDRAM16に、R,G,Bの画像データとして書き込まれる。本実施形態では、R,G,Bで構成される画像データをRAW形式の画像データ、Y,U,Vで構成される画像データをYUV形式の画像データと称する。SDRAM16に書き込まれたRAW形式の画像データは順次読み出されてYUV変換部8へ送られる。ここでRAW形式の画像データはYUV形式に変換され、今度はYUV形式の画像データとしてSDRAM16に書き戻される。このYUV形式のデータは表示出力制御部10に送られ、各出力装置のデータ形式に加工されて出力される。
LiveViewモードでは、RAW形式のデータの取り込みからYUV形式への変換後の書き戻しまでを、CCDの駆動周期である1/30秒の期間で実施する。これを連続的に行うことで、LiveViewモードのモニタスルー画面が表示され、この画面表示によって静止画を撮影するための構図の確認をすることができる。
このLiveViewモードでは、CCDインタフェース7で画像の特徴データが抽出される。画面をいくつかのブロックに分割し、各ブロックに対してRAW形式のデータにおけるRGB値各々の積算が行われる。この積算値はCPU13によって読み出され、RGBの積算値の大きさからホワイトバランスの制御値を算出する。そして、ホワイトバランスの制御値を算出後、YUV形式への変換にホワイトバランスをあわせる、いわゆるオートホワイトバランス(AWB)処理が行われる。またRGB積算値から画面の明るさの分布とレベルを算出し、TG3からCCD2に出力される電子シャッタ本数の制御やモータドライバによってレンズの絞りの制御を行うAE(Automatic Exposure)処理が行われる。
次に、本実施形態におけるデジタルカメラの、静止画の撮影時における動作について説明する。
LiveViewモードでLCDディスプレイに画像が表示されているときに、操作部14のレリーズシャッタ(SW1)が押されると、静止画の撮影が行われる。
まず、レリーズシャッタ(SW1)が押されると、撮影に先立ちオートフォーカスが行われる。例えば、CCDを移動させながらコントラストの最大値を見つける山登りオートフォーカスなどが行われ、フォーカスを合わせる。次に、静止画撮影用の電子シャッタの本数設定と絞りの設定が行われ、画像記録用の露光が行われる。露光完了時点でメカシャッタが閉じられ、CCD2から静止画用のRAW形式の画像データが出力される。
静止画用のRAW形式のデータは、LiveViewモードと同様にSDRAM16に取り込まれる。インタレース方式の転送であれば、CCD2から出力された全ての画像データが、複数回の転送によってRAW形式のデータとしてSDRAMに書き込まれる。
全てのRAW形式のデータは、YUV変換部でYUV形式のデータに変換されてSDRAM16に書き戻される。ここで、内蔵されたCCDのサイズよりも小さいサイズで画像データが記録される場合には、画像データをリサイズ処理部9にて縮小する。
また、撮影した画像データの表示を行う場合にも、小さいサイズに縮小して、SDRAM16に書き戻され、表示出力制御部10を介して表示装置に送られて、画像データの表示が行われる。
記録用として用意されたYUV形式の画像データは、圧縮部11でJPEG形式などの画像データへと圧縮される。圧縮されたJPEG形式などの画像データはSDRAM16に書き戻され、ヘッダ追加などの処理が行われた後、メモリカード18へデータが保存される。
画像データが圧縮されて、メモリカード18への書き込みが始まると、再びLiveViewモードに戻り、撮影要求であるレリーズシャッタ(SW1)が押されるまでLiveViewの表示が行われる。
次に本実施形態における色情報の抽出手段を説明する。
まず、モードダイアル(SW2)を記録モードに設定し、メニュースイッチを押す。すると記録モード用のメニューがLCDディスプレイに表示される。このメニュー内で色情報表示をONに設定し、再度メニュースイッチを押すと、色情報を表示したLiveView画面が表示される。図3は色情報を表示した場合の表示例である。この表示例では、指定された被写体の色の位置と、255を最大値とする指定エリア内のRGBの各数値と、指定された位置の色名とを同時に表示している。
LiveViewモードでは、表示をするためのYUV形式の画像データが用意されている。ここで色情報表示を実施する設定では、表示を見やすくするために画面表示の更新レートは通常の1/6の5Hzなどに変更される。これは、色情報を高速で更新しても、色情報を認識できないほど早く更新する必要がないためである。よって、この色情報表示を行う設定においては、わざと画面の更新を遅くしているのである。
今回のように画面の表示を見やすくするために画面表示の更新レートを通常の1/6の5Hzなどに変更した場合には、LiveViewモードにおける最大露光時間を通常よりも6倍長くすることができる。これにより通常時よりも露出が大きくなるので、暗い場所での利用も可能になる。さらにCCDやCMOSなどのセンサを駆動するクロックを遅くすることができるので、消費電力を低減するという効果も得られる。今回は画面表示の更新レートを5Hzとしたが、この更新レートは撮影する明るさによってさらに遅くしてもよい。
CPU13は四角で指定されたエリア内のYUV形式の画像データをSDRAM16から読み出し、四角で指定されたエリア内の平均値を作成する。この平均値と、現在表示されている画像のフレームから過去4フレーム分の画像を平均した値とを比較して、さらに平均値を取る。そして、1秒ごとに画像データの色情報である、指定されたエリアの位置、エリア内のRGB値、エリア内の色名の表示を更新する。
このように、指定されたエリア内の平均値を取り、さらに各画像フレームごとに平均値を取ることによって、ランダムに発生するノイズの影響、一瞬の光源の変化やフリッカの影響などを軽減することができる。
色名を判別する閾値および色名などの情報はROM17内にあらかじめ保存されており、この保存されたデータをもとに色名を判別して表示を行う。本実施形態では色名を、例えば図3に示すように「濃い赤」のように大まかな色の名称で表示しているが、より詳しい色名を必要とするシステムなどの場合には、JIS(日本工業規格)で規定しているような色名を表示してもよい。
RGB表示の場合は、読み出したYUVの値をRGBに換算して表示を行う。例えば以下の換算式を利用することで換算することができる。
Y=0.299R+0.589G+0.114B
U=B−Y
V=R−Y
本実施形態におけるデジタルカメラの記録モードのメニューでは、表示する数値をYUV、XYZ、CIELABのそれぞれの数値で表示するモードに切り替えることができる。
例えば、RGBからXYZへの変換は、以下のような換算式を利用することで換算することができる。
X=39.3R2.2+36.5G2.2+19B2.2
Y=21.2R2.2+70.1G2.2+8.6B2.2
Z=1.8R2.2+11.2G2.2+95.7B2.2
さらに、CIELABへの変換は、以下のような換算式を利用することで換算することができる。
L*=116(Y/100)1/3−16
a*=500〔(X/98)1/3−(Y/100)1/3
b*=200〔(Y/100)1/3−(Z/118)1/3
ここで算出されたXYZの算出値やCIELABの算出値のデータを利用すれば、色度図における被写体の色の位置を表示し、色情報を把握することができる。
このようにして抽出された色情報は、デジタルカメラに内蔵されているスピーカやTVなどの音声出力部15から音声として出力される。音声データの合成はCPU13によって行われ、SDRAM16上に作成される。SDRAM16で作成された音声データは再度CPU13に読み込まれ、音声出力部15から出力される。
また、色情報を抽出するエリアは、抽出エリアのサイズと位置とを変更することができる。例えば本実施形態のデジタルカメラを例に挙げると、図1の外観図の上下左右ボタン(SW6〜SW9)で位置を変更できる。また、ディスプレイスイッチ(SW10)を押すことにより、抽出するエリアの大きさを変更することができる。被写体の画面内のサイズが大きければ、一番大きいサイズのエリアを選ぶことにより、平均値を取るデータ数が多くなる。従って画像が受けるノイズの影響を、より受けにくくすることができる。また、被写体の画面内のサイズが小さければ、抽出するエリアの大きさを小さくすればよい。これにより、抽出する画像とは関係のない、不要な部分の色情報の影響を受けず、必要な部分のみの色情報を抽出することができる。
LiveViewモード表示状態でレリーズシャッタ(SW1)が押されると、静止画撮影動作が行われるが、色情報の抽出を有効にしている場合には、レリーズシャッタ(SW1)が押される時点で表示されていた色情報と色情報を抽出したエリアの情報とをJPEGヘッダに書き込み、画像とともにメモリに保存する。記録先はJPEGヘッダとしたが、ファイルのべつの領域でも、別のデータファイルに記録してもよい。静止画とともに、色情報と色情報を抽出したエリアの範囲とが記録されていれば、再生時に保存しておいた情報を読み出して、どの部分がどのような色であるかの表示をすることができる。また、この情報を利用することができる画像再生システムであれば、再生画像を表示するときや印刷出力する際に色合わせなどを行う場合に、どの部分の色を合わせるかが明確になるため、より正確な色の再現が可能となる。
また、抽出した色情報と色情報を抽出したエリアとを、画像データに直接書き込むこともできる。メニューから色情報の書き込み設定を有効にすることで、静止画を撮影する際にデータが直接書き込まれる。図4は静止画を撮影する時にデータが直接書き込まれた例である。従来より画像内に日付などの文字を入れることは行われているが、それと同様の方法で、画像データを圧縮処理する前の記録対象画像データに直接色情報データを書き込む。
また、画像データ自体に、抽出した色情報と色情報を抽出したエリアの枠線とを書き込むことで、特別な機能を持たない画像再生システムにおいても、画像データの特定位置の色情報を取得することができる。抽出するエリアを指定する四角の表示は、あらかじめデータとしてSDRAM16内のOSDに保存されている。
さらに、抽出した色情報と抽出エリアの枠線を書き込む画像データを作成する際に、同時に、色情報を書き込まない画像を記録してもよい。例えば、オートブラケット撮影のように、一度の記録要求で色情報が書き込まれた画像と、色情報が書き込まれていない画像との、2種類の画像を自動的に記録するようにしてもよい。これにより、再生画像を表示するときや印刷出力する際の色合わせなどを行う場合に、どの部分の色を合わせるかが明確になるため、より正確な色の再現が可能となる。
次に、本実施形態のデジタルカメラにおけるホワイトバランスの調整手段について説明する。
ホワイトバランスは上記のように、画像のRGB積算値のバランスからゲインを算出して行われる。そのため画面全体が同じ色相の被写体の場合、その色を白くするような誤動作をしてしまう場合が、正確に色情報抽出が出来なくなってしまう場合がある。この場合ホワイトバランスのゲインをある値に固定したほうが良い場合がある。
本実施形態のデジタルカメラは図5に示すように、レリーズシャッタ(SW1)が2段のスイッチになっている。通常の撮影では、レリーズシャッタ(SW1)を半押して信号線1と信号線2とが接触することで、撮影を準備するためのフォーカス動作と、AE処理の更新停止が行われる。さらにレリーズシャッタ(SW1)を押し込み、信号線2と信号線3とが接触すると静止画の撮影が行われることになる。
本実施形態のデジタルカメラは、画像データから色情報を抽出している際には、ホワイトバランスの自動更新は行わないようになっている。ホワイトバランスの調整は、レリーズシャッタ(SW1)の半押し状態を1秒以上継続した場合に、その時点で撮影されている画像データの被写体の色に応じてAWB処理を行い、そのゲインを保持しつづけることになる。これを本実施形態ではプリセットホワイトバランスと呼ぶ。
本実施形態のデジタルカメラの使用者は、画像データから色情報を抽出する前に、色情報を抽出したい光源の下で無彩色の、例えば白い紙などに向けてレリーズシャッタ(SW1)を1秒以上半押し状態にする。つまり、図5において、信号線1と信号線2とが接触した状態になる。ここでプリセットホワイトバランス処理が行われ、光源に合ったホワイトバランスのゲインが設定される。ここで一度ゲインが設定されると、再度レリーズシャッタ(SW1)を1秒以上半押し状態にするまで、プリセットホワイトバランスにより設定されたゲインは更新されないことになる。あとはレリーズシャッタ(SW1)をさらにを押し込み、信号線2と信号線3とを接触させて静止画を撮影することになる。
従って、被写体色に関わらずに被写体の色情報を正確に抽出することができるようになる。
また、本実施形態のデジタルカメラは内部に無線通信機能を有していてもよい。無線通信機能としては、例えば、無線LANをデジタルカメラに内蔵し、電子メールを利用した画像データの送信や、画像データをファクシミリへ直接送信することも可能である。ここでは通信システムを無線LANを例に挙げて説明したが、この通信システムはPHSやBluetoothなどの無線通信システムであっても、USBなどの有線通信システムであっても構わない。
通信機能を有する機器であれば、本実施形態により抽出される色情報はさらに有効な情報となる。画像データを受信した出力側がモノクロのモニタやプリントシステムのような、色情報をモノクロでしか認識できないような機器であっても、抽出された色情報が画像とともに記録されているか、あるいは画像内に色情報が書き込まれていれば、色の情報を得ることができる。
例えば、抽出された色情報を、デジタルカメラからモノクロファクシミリへ送信した場合でも、画像と色情報とが共に送信されたり、色情報が書き込まれた画像が送信されてくるので、画像データの受信者は被写体の色を正確に認識することができる。
一方、画像データを受信した出力側が色情報をカラーで認識できる機器であっても、それぞれの出力装置によって色合いが一致しないことがある。同一の受信した画像データを出力しても、各出力機器の特性・状態などによって色合いが違って見えてしまうのである。
本実施形態によれば、抽出された色情報が画像とともに記録されているか、あるいは画像内に色情報が書き込まれているので、各出力機器の色再現特性が違っていても、色の情報を正確に得ることができる。
なお、本発明は上記の実施形態に限定されず、その趣旨を逸脱しない範囲において、種々変更が可能である。例えば、今回は本実施形態の撮像システムを、デジタルカメラを用いて説明したが、本実施形態はデジタルカメラに限定されず、デジタルムービーなどでも同様に実現することが可能である。さらに画像を入力する撮像素子と表示出力をもつ撮像システムであれば実施可能である。
例えばスキャナを用いた撮像システムでも同様の動作が可能である。ハンディスキャナを接続した電子手帳(PDA)では、スキャナで取り込んだ画像をPDAの画面に表示できるものがあり、取り込んだ画像の色情報をCPUが読むことで色情報の抽出が可能となる。
本実施形態におけるデジタルカメラの外観を示す図である。 本実施形態におけるデジタルカメラの撮像システムを示すブロック図である。 本実施形態により撮影された画像において、色情報を表示した例を示す図である。 本実施形態により撮影された画像において、記録した静止画に抽出された色情報を合成した例を示す図である。 本実施形態におけるデジタルカメラのレリーズシャッタの構造を示す図である。
符号の説明
1 レンズユニット
2 CCD
3 TG(制御信号発生器)
4 CDS
5 AGC
6 A/D変換器
7 CCDインタフェース
8 YUV変換部
9 リサイズ処理部
10 表示出力制御部
11 データ圧縮部
12 メディアインタフェース
13 CPU
14 操作部
15 音声出力部
16 SDRAM
17 ROM
18 メモリカード

Claims (23)

  1. レンズから入力された画像を電気信号に変換する撮像手段と、前記撮像手段で変換された電気信号を所定の表示形式に変換した画像データを生成する画像処理手段と、前記画像処理手段で生成された前記画像データをメモリに記憶する第1の記憶手段と、前記第1の記憶手段によって記憶された前記画像データを表示する表示手段とを有する撮像システムであって、
    前記表示手段により表示された前記画像データの特定範囲を指定する範囲指定手段と、
    前記範囲指定手段で指定された前記特定範囲の色情報を抽出する色情報抽出手段とを有することを特徴とする撮像システム。
  2. 前記色情報抽出手段によって抽出された色情報を、前記画像データとともに前記表示手段によって表示するための色情報表示手段をさらに有することを特徴とする請求項1に記載の撮像システム。
  3. 前記色情報抽出手段によって抽出された色情報を、音声によって出力する色情報音声出力手段をさらに有することを特徴とする請求項1又は2に記載の撮像システム。
  4. 前記表示手段により表示される前記画像データを、特定の周期で連続的に更新する連続表示手段をさらに有し、
    前記連続表示手段において表示される画像データから前記色情報抽出手段によって色情報を抽出する手段をさらに有することを特徴とする請求項1から3のいずれか1項に記載の撮像システム。
  5. 前記色情報抽出手段は、色情報の抽出を行うか否かの選択手段をさらに有することを特徴とする請求項1から4のいずれか1項に記載の撮像システム。
  6. 前記色情報抽出手段と、前記色情報表示手段と、前記色情報音声出力手段とのうち少なくとも1つが動作している時に、前記連続表示手段により表示される前記画像データの更新周期を変更する更新周期変更手段をさらに有することを特徴とする請求項4又は5に記載の撮像システム。
  7. 前記更新周期変更手段により更新される前記画像データの更新周期が、前記色情報抽出手段と、前記色情報表示手段と、前記色情報音声出力手段とがいずれも動作していない時の更新周期より長いことを特徴とする請求項6に記載の撮像システム。
  8. 前記範囲指定手段により指定される前記特定範囲を操作し、前記特定範囲を変更する範囲指定変更手段をさらに有することを特徴とする請求項1から7のいずれか1項に記載の撮像システム。
  9. 前記色情報抽出手段により抽出される色情報は、前記範囲指定手段により指定される前記特定範囲の色情報の平均値から作成されることを特徴とする請求項1から8のいずれか1項に記載の撮像システム。
  10. 前記色情報抽出手段により抽出される色情報は、前記連続表示手段の動作時に抽出される連続した複数の色情報の平均値から作成されることを特徴とする請求項1から9のいずれか1項に記載の撮像システム。
  11. 前記色情報抽出手段により抽出される色情報を数値に変換する手段をさらに有し、前記数値を前記色情報表示手段または前記色情報音声出力手段に出力することを特徴とする請求項1から10に記載の撮像システム。
  12. 前記数値に変換する手段は、前記色情報をRGBの値に変換するRGB変換手段であり、前記RGB変換手段により変換された前記RGBの値を、前記色情報表示手段または前記色情報音声出力手段に出力することを特徴とする請求項1から11のいずれか1項に記載の撮像システム。
  13. 前記数値に変換する手段は、前記色情報をYUVの値に変換するYUV変換手段であり、前記YUV変換手段により変換された前記YUVの値を、前記色情報表示手段または前記色情報音声出力手段に出力する手段をさらに有することを特徴とする請求項1から11のいずれか1項に記載の撮像システム。
  14. 前記数値に変換する手段は、前記色情報をXYZの値に変換するXYZ変換手段であり、前記XYZ変換手段により変換された前記XYZの値を、前記色情報表示手段または前記色情報音声出力手段に出力する手段をさらに有することを特徴とする請求項1から11のいずれか1項に記載の撮像システム。
  15. 前記数値に変換する手段は、前記色情報をCIELABの値に変換するCIELAB変換手段であり、前記CIELAB変換手段により変換された前記CIELABの値を、前記色情報表示手段または前記色情報音声出力手段に出力する手段をさらに有することを特徴とする請求項1から11のいずれか1項に記載の撮像システム。
  16. 前記色情報抽出手段により抽出される色情報を色名に置き換える色情報判別手段をさらに有し、前記色情報判別手段により置き換えられた前記色情報を、前記色情報表示手段または前記色情報音声出力手段に出力することを特徴とする請求項1から10のいずれか1項に記載の撮像システム。
  17. 前記色情報抽出手段により抽出される色情報を2次元又は3次元の図上に置き換え、前記色情報を図によって表示する手段をさらに有する請求項1から10のいずれか1項に記載の撮像システム。
  18. 静止画を撮影する静止画撮影手段と、前記静止画撮影手段により撮影した静止画を不揮発性メモリに記憶する第2の記憶手段とをさらに有し、
    前記色情報抽出手段により抽出される色情報と共に前記静止画を前記第2の記憶手段に記憶することを特徴とする請求項1から17のいずれか1項に記載の撮像システム。
  19. 前記第2の記憶手段は、前記色情報抽出手段により抽出される色情報と共に前記特定範囲をさらに記憶する手段を有する請求項18に記載の撮像システム。
  20. 前記静止画撮影手段により撮影された前記静止画に、前記色情報抽出手段により抽出される色情報を合成する色情報合成手段をさらに有し、
    前記色情報合成手段により合成された色情報を前記第2の記憶手段に記憶することを特徴とする請求項1から17のいずれか1項に記載の撮像システム。
  21. 前記色情報合成手段は、前記静止画に前記特定範囲を合成し前記第2の記憶手段に記憶する手段をさらに有する請求項20に記載の撮像システム。
  22. ホワイトバランスを調整するホワイトバランス調整手段をさらに有し、
    前記色情報抽出手段の動作時には前記ホワイトバランス調整手段による調整を固定することを特徴とする請求項1から21のいずれか1項に記載の撮像システム。
  23. 前記記憶手段に記憶された前記静止画を外部装置に出力する手段をさらに有する請求項18から22のいずれか1項に記載の撮像システム。
JP2004270327A 2004-09-16 2004-09-16 撮像システム Expired - Fee Related JP4488508B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004270327A JP4488508B2 (ja) 2004-09-16 2004-09-16 撮像システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004270327A JP4488508B2 (ja) 2004-09-16 2004-09-16 撮像システム

Publications (2)

Publication Number Publication Date
JP2006086886A true JP2006086886A (ja) 2006-03-30
JP4488508B2 JP4488508B2 (ja) 2010-06-23

Family

ID=36165012

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004270327A Expired - Fee Related JP4488508B2 (ja) 2004-09-16 2004-09-16 撮像システム

Country Status (1)

Country Link
JP (1) JP4488508B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008278040A (ja) * 2007-04-26 2008-11-13 Canon Inc 撮像装置、表示制御方法、プログラム及び記憶媒体
JP2015049372A (ja) * 2013-09-02 2015-03-16 有限会社Bruce Interface 外国語学習支援装置及び外国語学習支援プログラム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63163120A (ja) * 1986-12-25 1988-07-06 Fumiya Furuno 色識別装置
JPH11225344A (ja) * 1998-02-05 1999-08-17 Matsushita Electric Ind Co Ltd デジタルカメラ
JP2001257867A (ja) * 2000-03-13 2001-09-21 Minolta Co Ltd 画像処理装置、印刷装置、画像処理方法および記録媒体
JP2002369215A (ja) * 2001-06-04 2002-12-20 Sony Corp 画像処理装置および方法、記録媒体、並びにプログラム
JP2004015595A (ja) * 2002-06-10 2004-01-15 Minolta Co Ltd デジタルカメラ
JP2004172817A (ja) * 2002-11-19 2004-06-17 Olympus Corp ホワイトバランス処理装置、ホワイトバランス処理方法及びデジタルカメラ
JP2004199584A (ja) * 2002-12-20 2004-07-15 Toppan Printing Co Ltd 色覚変換処理装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63163120A (ja) * 1986-12-25 1988-07-06 Fumiya Furuno 色識別装置
JPH11225344A (ja) * 1998-02-05 1999-08-17 Matsushita Electric Ind Co Ltd デジタルカメラ
JP2001257867A (ja) * 2000-03-13 2001-09-21 Minolta Co Ltd 画像処理装置、印刷装置、画像処理方法および記録媒体
JP2002369215A (ja) * 2001-06-04 2002-12-20 Sony Corp 画像処理装置および方法、記録媒体、並びにプログラム
JP2004015595A (ja) * 2002-06-10 2004-01-15 Minolta Co Ltd デジタルカメラ
JP2004172817A (ja) * 2002-11-19 2004-06-17 Olympus Corp ホワイトバランス処理装置、ホワイトバランス処理方法及びデジタルカメラ
JP2004199584A (ja) * 2002-12-20 2004-07-15 Toppan Printing Co Ltd 色覚変換処理装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008278040A (ja) * 2007-04-26 2008-11-13 Canon Inc 撮像装置、表示制御方法、プログラム及び記憶媒体
JP2015049372A (ja) * 2013-09-02 2015-03-16 有限会社Bruce Interface 外国語学習支援装置及び外国語学習支援プログラム

Also Published As

Publication number Publication date
JP4488508B2 (ja) 2010-06-23

Similar Documents

Publication Publication Date Title
US7944483B2 (en) Apparatus, method and program for photography
JP5553230B2 (ja) 撮像装置および撮像処理方法
KR100797113B1 (ko) 촬상장치 및 그 제어 방법
KR20150081153A (ko) 영상 처리 장치, 영상 처리 방법, 및 컴퓨터 판독가능 기록매체
JP2007199311A (ja) 画像表示装置及び撮像装置
JP2007097032A (ja) 画像表示装置、画像表示方法およびディジタルカメラ
US7580066B2 (en) Digital camera and template data structure
JP2001197349A (ja) 証明写真システム
JP4488508B2 (ja) 撮像システム
JP5282480B2 (ja) 電子カメラ
JP7249212B2 (ja) 画像処理装置および画像処理方法、撮像装置およびその制御方法、システム、並びにプログラム
JP2006238369A (ja) ディジタルカメラ、カスタムホワイトバランス値設定方法、撮像制御方法及び撮像制御プログラム
EP2568698B1 (en) Imaging apparatus and control method thereof
JP5880221B2 (ja) 撮像装置、撮像方法、及び画像処理装置
JP2006243410A (ja) 画像処理装置
JP2009276610A (ja) 画像表示装置,画像表示方法及び撮像装置
JP2007114411A (ja) 撮像装置
JP4186595B2 (ja) ディジタルカメラ及びディジタルカメラによる印刷制御方法
JP2006222612A (ja) Rawデータ出力装置、rawデータ構造及びrawデータ出力方法
JP2010114708A (ja) カメラ装置、及び撮影方法、撮影制御プログラム
JP2002330387A (ja) 電子カメラ
JP4591562B2 (ja) プリンタ及び印刷制御方法
JP2002330331A (ja) 電子カメラ
JP4756386B2 (ja) 面順次カラー画像の撮像方法及び面順次発光ストロボ付きデジタルカメラ
US20060152778A1 (en) Method of controlling digital image processing apparatus for accurate printing and digital image processing apparatus adopting the method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070614

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100112

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100301

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100323

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100329

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130409

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140409

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees