JP3726444B2 - 色判別装置 - Google Patents
色判別装置 Download PDFInfo
- Publication number
- JP3726444B2 JP3726444B2 JP26744497A JP26744497A JP3726444B2 JP 3726444 B2 JP3726444 B2 JP 3726444B2 JP 26744497 A JP26744497 A JP 26744497A JP 26744497 A JP26744497 A JP 26744497A JP 3726444 B2 JP3726444 B2 JP 3726444B2
- Authority
- JP
- Japan
- Prior art keywords
- color
- data
- discrimination
- image
- black
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Landscapes
- Color Image Communication Systems (AREA)
- Facsimile Image Signal Circuits (AREA)
Description
【発明の属する技術分野】
本発明は、赤、緑、青等の色成分の画像データに分離して取り込まれている画像の色を当該色成分の画像データを用いて判別する色判別装置に関するものである。
【0002】
【従来の技術】
従来、電気信号からなる画像の色を判別する方法として、画像を構成する色成分データの正規化データを用いて色判別する方法が知られている。例えば特開平5−48892号公報には、画像を構成するCy(シアン)、Mg(マゼンタ)、Ye(イエロー)の各色成分の画像データC2,M2,Y2に対して、それぞれ所定の閾値c,m,yを設定し、各色成分の画像データC2,M2,Y2の対応する閾値c,m,yとの大小関係で8種類の色を判別する色判別方法が示されている。この色判別方法では、全ての色成分が閾値より小さいとき、黒色と判別され、少なくとも1つの色成分が閾値を超えていると、有彩色と判別されるようになっている。
【0003】
また、特開平5−137011号公報には、R,G,Bの各色成分の画像データXr,Xg,Xbの最大値と最小値との差を演算し、その演算結果が予め設定された所定の閾値より小さい場合は、無彩色と判別し、所定の閾値以上の場合は、R,G,Bの各色成分の画像データXr,Xg,Xbの大小の組合わせによって有彩色の色を判別する方法が示されている。そして、無彩色と判別された場合は、更に輝度データで白と黒との判別が行われている。
【0004】
【発明が解決しようとする課題】
カラー画像を構成する色成分の画像データを用いて色判別を行う場合、無彩色における黒と白とは、通常、輝度情報を所定の判別閾値と比較することによって行われるが、有彩色と無彩色との判別においても、色成分の偏差では有彩色となる場合でも暗い色や明るい色では無彩色が有彩色と誤判別されることがあるので、輝度情報を用いて判別することが望ましい。
【0005】
このように輝度情報を用いて色判別を行う場合、その判別閾値を固定していると、画像内容である文字、図形等の幾何学的形状が色判別に影響を与え、実際の文字や図形よりも線幅が太くなったり、細くなったりすることがある。例えばホワイトボードに描かれた文字や図形等を撮影した画像において、線幅の細い文字や図形あるいは濃度の淡い文字や図形などの部分を白く飛ばさないようにするため、色判別の判別閾値を高く設定すると、普通の線幅を有する文字や図形の線幅が太くなるように色判別が行われ、これらの図形が色判別処理により変形するという不具合が生じる。逆に、色判別の判別閾値を低く設定すると、線幅の細い文字や図形あるいは濃度の淡い文字や図形などの部分が白く飛ばされ、文字等の情報が欠落するという問題が生じる。
【0006】
その一方、上記従来の色判別方法は、色判別の判別基準が固定的に設定されているので、輝度情報を用いた色判別に適用しても上記問題を解決することはできない。
【0007】
本発明は、上記課題に鑑みてなされたものであり、文字、図形等の幾何学的形状の色判別処理に与える影響を低減し、文字、図形等の部分の色判別を好適に行うことのできる色判別装置を提供するものである。
【0008】
【課題を解決するための手段】
本発明は、カラー画像を構成する画素毎に、当該カラー画像を構成する色成分の画像データに基づいて輝度情報を生成し、この輝度情報を予め設定された所定の判別閾値と比較して色を判別する色判別装置であって、上記カラー画像を構成する所定の画素ブロック毎に、上記画素ブロック内の画像の線幅に関する情報を算出する形状情報算出手段と、上記線幅に関する情報に基づいて上記判別閾値を変化させる判別閾値制御手段とを備えたものである。
【0009】
上記構成によれば、カラー画像を構成する画素毎に、そのカラー画像を構成する色成分の画像データに基づいて輝度情報が生成され、この輝度情報を予め設定された所定の判別閾値と比較してその画素位置の色が判別される。例えば無彩色の白黒判別では、輝度情報が判別閾値を超えていれば、白と判別され、輝度情報が判別閾値以下であれば、黒と判別される。
【0010】
また、所定の画素ブロック毎に、この画素ブロック内の画像の線幅に関する情報が算出される。すなわち、ある画素ブロックの画像データが、線を構成する画像データである場合、その画素ブロックに対して線幅に関する情報(例えば太い線であるか細い線であるかの情報)が算出される。そして、この算出結果に基づいて判別閾値が上下に変更される。
【0011】
従って、線を構成する画素ブロック位置では、その線幅に応じて判別閾値が変更されるので、線幅の影響を受けることなく色判別が行われる。すなわち、例えば線幅の細い領域の画素においては、判別閾値を低くすることで線を構成する画素が確実に黒に色判別される。逆に、線幅の太い領域の画素においては、判別閾値を高くすることで線の境界付近の画素が不必要に黒に色判別される(すなわち、線幅が必要以上に太くなるように色判別される)のを防止することができる。
【0012】
【発明の実施の形態】
本発明について、本発明に係る色判別装置を備えたデジタルカメラを例に説明する。
【0013】
図1は、本発明に係る色判別装置を備えたデジタルカメラの一実施の形態の外観を示す斜視図、図2は、同デジタルカメラの背面図である。
【0014】
同図において、デジタルカメラ1は、前面の略中央にズームレンズからなる撮影レンズ2が配設され、その上部にアクティブ測距方式により被写体距離を測定するための投光窓4と受光窓5とが配設され、両窓の間に被写体の輝度を測定するための測光窓3が配設されている。また、投光窓4の左側にファインダー対物窓6が配設されている。
【0015】
投光窓4は、被写体に対して赤外光を照射する窓であり、受光窓5は、この赤外光の被写体からの反射光を受光する窓である。なお、本実施の形態では測距方式としてアクティブ測距方式を採用しているが、パッシブ測距方式でもよい。
【0016】
デジタルカメラ1の側面にはハードディスクカード10(以下、HDカード10と略称する。)が装着脱されるカード挿入口7が設けられ、このカード挿入口7の上部にHDカード10をイジェクトするためのカード取出ボタン8が設けられている。また、デジタルカメラ1の上面左端部にシャッタボタン9が設けられている。
【0017】
撮影結果をプリントアウトする場合、カード取出ボタン8を押してHDカード10をデジタルカメラ1から取り外し、HDカード10が装着可能なプリンタにこのHDカード10を装着してプリントアウトすることができる。
【0018】
なお、デジタルカメラ1にSCSIケーブルのインターフェースを設け、デジタルカメラ1とプリンタとをSCSIケーブルで接続し、デジタルカメラ1からプリンタに画像データを転送して直接、撮影画像をプリントアウトさせるようにしてもよい。
【0019】
また、本実施の形態では画像データの記録媒体としてPCMCIA準拠のハードディスクカードを採用しているが、撮影結果を画像データとして記憶できるものであれば、メモリカードやミニディスク(MD)等の他の記録媒体でもよい。
【0020】
デジタルカメラ1の背面には、図2に示すように、その上部の左端部に電源投入用のメインスイッチ11が設けられ、略中央にファインダー接眼窓12が設けられている。また、メインスイッチ11の下部には、色補正スイッチ13、ノイズ修正スイッチ14及び濃度設定スイッチ15が設けられている。
【0021】
更に、デジタルカメラ1の背面右端部に、モード変更スイッチ16、色登録確認表示部17、色選択ボタン18、セットボタン19及びデフォルトボタン20が設けられている。
【0022】
ホワイトボードに書かれた文字や図表などを直接、撮影して記録資料とする場合、その撮影画像については通常の写真撮影のような描写性の高い画質よりも文字等が明瞭な情報性の高い画質が要求される。色補正スイッチ13は、このような撮影画像に対して文字、線図等の濃度を明瞭にするとともに、色分けを明確にする所定の画像処理を指示するためのスイッチである。
【0023】
この画像処理では、ホワイトボードには通常、赤、青、緑、橙、黒等の数種類のカラーペンで文字、図表等が書かれること、また、この文字、図表等を撮影した画像では色再現性よりも撮影画像の文字等の情報性(見易さ、判り易さ等)が重視されることから、撮影された画像内の文字等が赤、青、緑、橙、黒等のいずれの色に着色されているかを判別し、その文字等に判別結果に応じた予め設定された所定の色を割り付ける処理(その文字等を構成する領域の画像データを予め設定された色の画像データで置換する処理)が行われる。
【0024】
色補正スイッチ13がオンであれば、撮影画像に対する上記画像処理が行われ、オフであれば、撮影画像に対する上記画像処理は行われず、通常の写真撮影に対する画像処理が行われる。従って、通常の写真撮影を行う撮影モードを「ノーマルモード」、ホワイトボードに書かれた文字等の記録撮影を行う撮影モードを「ドキュメントモード」とすると、色補正スイッチ13はノーマルモードとドキュメントモードとを切換設定するスイッチとなっている。
【0025】
ノイズ修正スイッチ14は、ドキュメントモードにおける上記画像処理において、撮影画像の文字等にノイズとして発生した偽色を修正するためのスイッチである。ノイズ修正スイッチ14をオンにすると、後述するように撮影画像の文字等に発生した偽色の修正処理が行われ、オフにすると、その修正処理は行われない。ノイズ修正スイッチ14はドキュメントモードで機能するため、色補正スイッチ13がオフになっているときにノイズ修正スイッチ14をオンにしても、偽色修正処理の指示は無視される。
【0026】
濃度設定スイッチ15は、ドキュメントモードの画像処理において、例えば線の細い文字や濃度の淡い図形等が明瞭な画像となるようにするために、被写体の濃度情報を設定するものである。濃度設定スイッチ15で設定された濃度情報は、ドキュメントモードの画像処理の色判別における判別閾値を被写体の濃度に応じて切り換える際に用いられる。本実施の形態では、濃度設定スイッチ15により「濃」,「淡」、2種類の濃度情報が切換設定される。濃度設定スイッチ15もドキュメントモードにおいて機能するため、色補正スイッチ13がオフになっているときに濃度設定スイッチ15をオンにしても、文字等の濃度の修正処理の指示は無視される。なお、濃度設定は、連続的に設定できるようにしていてもよい。
【0027】
モード変更スイッチは、写真撮影を行う撮影モードと色判別の際の判別色の登録を行う色登録モードとを切換設定するものである。色登録モードは、色見本(ホワイトボード上にカラーペンで作成されたカラーパッチ等)を実際に撮影して上述の色判別処理及び色置換処理で使用される色の画像データを設定、登録する処理を行うためのモードである。なお、デジタルカメラ1には予め色データのデフォルト値が設定されており、ユーザーが色登録モードにおいて、色データを登録設定しなかった場合は、このデフォルト値が色判別及び色データ置換の処理に利用される。
【0028】
本実施の形態では、図3に示すように、赤、青、橙、緑の4つの色について登録することができるようになっている。従って、モード変更スイッチ16が「色登録」に設定されていると、赤、青、橙、緑の4つの色について、色見本を撮影して所望の色データを登録することができ、モード変更スイッチ16が「撮影」に設定されていると、写真撮影が可能になる。
【0029】
色登録確認表示部17は、色登録の内容や色データ置換処理における使用色を表示するものである。色登録確認表示部17は、色登録モードにおいては、登録すべき色の選択を行うための表示部として、また、撮影モードにおいては、色データ置換処理に使用する色の選択を行うための表示部としても機能する。図3において、「赤」、「青」、「橙」及び「緑」の表示は、登録可能な色の種類を示すものである。本実施例では、4種類の色を登録可能にしているが、4種類以上の色を登録可能にしてもよく、また、上記4種類の色以外の色(例えば黄、茶等の色)を登録可能にするようにしてもよい。
【0030】
上部にバー表示171が付されている色は、色登録又は色使用の選択を行う際、その色が選択されていることを示している。図3では、「青」が選択されている。このバー表示171は、色選択ボタン18の操作により左右に移動し、ユーザーは、色登録モードにおいて色選択ボタン18を操作することにより所望の色を選択することができるようになっている。なお、右側の色選択ボタン18を押す毎に、バー表示171は「赤→青→橙→緑→赤」と右方向に移動し、左側の色選択ボタン18を押す毎に、バー表示171は「緑←赤←青←橙←緑」と左方向に移動する。
【0031】
また、色登録欄の○印表示171で囲まれている色は、その色が登録されていることを示し、○印表示171で囲まれていない色は、その色が登録されていないことを示している。色登録は、色登録モードを設定し、バー表示171で所望の色、例えば「赤」を選択した後、ホワイトボード上の適当な大きさの領域を赤ペンで塗り潰す等して作成した色見本を撮影することにより行われる。この場合、ファインダー内には、図4に示すように、中央部に色データ取込範囲を示す枠21が表示され、この枠21内の一定の領域以上に色見本22が含まれるようにフレームを調整して撮影すると、色データの登録処理が行われる。色登録モードでの撮影では、撮影画像内の枠21内に含まれる画像データを用いて、その枠内の色(図4の例では赤)を構成するR,G,Bの色成分のデータとこれらのデータを用いて生成された2次の正規化データ(後述する)とが登録される(メモリに記憶される)。
【0032】
色使用欄は、色補正モードにおける色判別及び色データ置換の処理において、登録色又はデフォルト色が使用されるか否かを示す表示である。○印表示173で「ON」が囲まれている色は、使用されることを示し、「OFF」が囲まれている色は使用されないことを示す。図3の表示例では、橙を除く赤、青、緑の3色が色データ置換処理に使用されることを示している。
【0033】
色使用欄のON/OFF設定は、色登録モードにおいて、色選択ボタン18により色を選択した後、セットボタン20を操作して行われる。色使用欄の○印表示173の位置は、セットボタン20を押す毎にONとOFFとが交互に切り換わり、ユーザーは、○印表示173の表示位置を見ながらセットボタン20を操作することで色の使用/不使用を設定することができる。
【0034】
デフォルトボタン20は、色登録した色をデフォルト色に戻すための操作ボタンである。色登録モードにおいて、バー表示171で所望の色に設定した後、デフォルトボタン20を押すと、○印表示172の表示が消え、色登録が抹消される。
【0035】
図5は、本発明に係るデジタルカメラのドキュメントモードにおける撮影画像の画像処理に関するブロック構成図である。
同図において、図1,図2に示した部材と同一の部材には同一番号を付している。また、撮像部23は、撮影レンズ2により撮像素子の撮像面に結像された被写体光像を画像信号に変換して出力するものである。撮像部23には、例えばCCDカラーエリアセンサからなる撮像素子とこの撮像素子(以下、CCDという。)の駆動を制御するCCD駆動制御回路とCCDから出力される画像信号(アナログ信号)のノイズ低減、レベル調整等の所定の信号処理を行うアナログ信号処理回路が含まれている。
【0036】
CCDカラーエリアセンサは、被写体光像をR,G,Bの色成分の画像データに分離して出力するものであり、単板式エリアセンサ、3板式エリアセンサのいずれであってもよい。撮像部23は、カメラの撮影動作を集中制御する制御部34から入力される露出制御値(シャッタスピード)に基づきCCDの撮影動作(電荷蓄積及び蓄積電荷の読出)が制御される。すなわち、制御部34からの露光開始信号に基づきCCDの露光(電荷蓄積)が開始され、所定時間経過後に露光が終了すると、その蓄積電荷がR,G,Bの色成分毎にCCDから読み出され、アナログ信号処理回路で所定の信号処理が行われた後、A/D変換器24を介して画像処理部26に読み出される。
【0037】
A/D変換器24は撮像部23から読み出されたアナログの画像信号を、例えば8ビットのデジタルの画像信号(以下、画像データという。)に変換するものである。
【0038】
画像処理部25は、A/D変換器24から入力された画像データに、ノーマルモードにおいてはホワイトバランス、γ補正、シェーディング補正等の所定の画像処理を施し、ドキュメントモードにおいては後述する下地飛ばし、色補正、黒領域補正及色データ置換等の所定の画像処理を施し、所定の圧縮処理をした後、HDカード10に出力するものである。
【0039】
HDカード10は、撮影画像を構成する画像データを記録する記録媒体である。また、カード駆動制御部26は、HDカードの駆動を制御するものである。
【0040】
RAM(Random Access Memory)27は、制御部34が撮影や色登録その他の機能に関する処理を行うためのメモリである。ROM(Read Only Memory)28は、撮像駆動の制御に必要なデータや処理プログラム、後述するドキュメンモードにおける下地飛ばし、色判別、黒領域補正、偽色消去等の各種処理を行うための必要なデータや処理プログラムが記憶されたメモリである。
【0041】
また、測距部29は、投光窓4及び受光窓5の後方位置に設けられた被写体距離を検出するものである。測光部30は、測光窓3の後方位置に設けられたSPC等の受光素子を有し、被写体輝度を検出するものである。
【0042】
設定色正規化演算部31は、色登録モードにおいて、取り込まれた色見本の画像データを用いて、後述する正規化データを演算するものである。この正規化データは、R,G,Bの各色成分の画像データのレベルをXr,Xg,Xbとし、正規化データをxr,xg,xbとすると、xr=Xr2/(Xr2+Xg2+Xb2),xg=Xg2/(Xr2+Xg2+Xb2),xb=Xb2/(Xr2+Xg2+Xb2)で算出され、xb-xg平面における正規化データの座標位置により色判別を行う際の色領域分割に利用される。なお、正規化データの座標位置による色判別方法の詳細は、後述する。
【0043】
設定色正規化演算部31は、色登録モードにおいて取り込まれた色見本の画像データの内、撮影画面内の枠21に含まれる画像データを抽出し、更にその抽出データから予め設定された所定レベル以下の画像データを抽出する。この抽出処理は、図4において、枠21内の赤の色見本に相当する画像データを抽出するものである。そして、設定色正規化演算部31は、抽出された色見本の画像データを用いて2次の正規化データを演算する。この演算結果は、制御部34を介してRAM27に記憶される。
【0044】
色領域設定演算部32は、上述したxb-xg平面における正規化データの座標位置により色判別を行う際の色領域を分割するものである。すなわち、例えば有彩色を青,緑,橙,赤の4色に色判別する場合、xb-xg平面における正規化データの座標位置による色判別では、xb-xg平面を青,緑,橙,赤の4つの色領域に分割し、正規化データの座標位置がいずれの色領域にあるかで色判別が行われるが、色領域設定演算部32は、xb-xg平面を青,緑,橙,赤の4つの色領域に分割するための境界線を演算するものである。この境界線の演算結果もRAM27に記憶される。なお、色領域の設定についても後述する。
【0045】
制御部34は、デジタルカメラ1の撮影動作を集中制御するもので、マイクロコンピュータで構成されている。制御部34は、撮像部23の駆動を制御して被写体光像を撮像し、画像処理部25の駆動を制御して撮像画像に所定の画像処理を施すとともに、カード駆動制御部26の駆動を制御して画像処理後の撮像画像をHDカードに記録する。
【0046】
図6は、画像処理部25のドキュメントモードにおける画像処理(色補正処理)に関するブロック構成図である。
【0047】
画像処理部25には、ドキュメントモードにおける色補正処理を行うための回路ブロックとして、画像メモリ251、第1ノイズ消去部252、下地飛ばし演算部253、γ特性設定部254、色判別部255、黒領域補正部256、第2ノイズ消去部257及び色置換部258が含まれている。
【0048】
ドキュメントモードにおいては、図7に示すように、画像処理部25に入力にされた画像データは、まず、下地を白く飛ばす前処理が行われた後(処理A)、各画素位置の画像データ(R,G,Bの画像データ)の2次の冪乗値について正規化データが作成され(処理B)、この正規化データを用いて色判別が行われる(処理C)。そして、文字等を構成する画像データのうち、誤って色判別された画像データが修正されるとともに、黒色領域の画像データのうち、有彩色に着色された画像データが修正された後(処理D)、各画素位置の画像データが色判別結果に基づく所定の色データに置換されてHDカード10に出力される(処理E)。
【0049】
画像メモリ251は、A/D変換器24から入力されるR,G,Bの各色成分の画像データを一時的に記憶するものである。第1ノイズ消去部252は、例えば各画素位置の画像データを隣接する画素位置の8個の画像データとの平均値に置換することによって画像メモリ251に入力された画像データのノイズを低減するものである。
【0050】
下地飛ばし演算部253は、画像データの下地部分と文字部分とを分離し、下地部分に相当する領域を所定の白レベルデータに変換するものである。すなわち、例えばホワイトボードに文字や図形が描かれた被写体を撮影した画像(以下、ホワイトボード撮影画像という。)の場合、図8に示すように、ホワイトボード35のボード部分351の画像を一律に白くし、文字部分352の画像を見易くするものである。下地飛ばし演算部253は、γ特性設定部254から入力されるγ特性に従って各画素位置の画像データのγ補正を行うことにより下地飛ばし処理を行う。
【0051】
γ特性設定部254は、下地飛ばし処理のためのγ特性を設定するものである。γ特性設定部254は、入力された画像データのヒストグラムを作成し、このヒストグラムに基づいてγ特性を決定する。図9は、ホワイトボード撮影画像の典型的なヒストグラムであるが、このような文字画像では、一般に大小2つの山U1,U2が生じる。明領域に生じる大きい山U1は、ボード部分351に相当し、暗領域に生じる小さい山U2は、文字部分352の明瞭な文字や図形に相当している。そして、大きい山U1と小さい山U2との谷の部分Rは、ボード部分351の汚れや文字部分352の色の薄い或いは線の細い文字や図形の部分である。
【0052】
γ特性設定部254は、例えば大きい山U1のピークに対応する画像データのレベルwを算出し、図10に示すように、このレベルwを白飽和レベルとするγ特性▲1▼を決定する。なお、図10は、画像データが8ビットデータの場合のγ特性で、レベル「255」は、白レベルであり、レベル「0」は、黒レベルである。同図に示すγ特性▲1▼では、レベルw以上の画像データは、すべて一律に白レベルに変換され、レベルwより小さい画像データは、そのレベルに応じて所定の変換比率(γ値)でリニアにレベル変換される。なお、文字部分352の黒を強調するため、所定の低レベルbを黒飽和レベルとするγ特性▲2▼を用いるようにしてもよい。γ特性▲2▼では、レベルb以下の画像データは、すべて一律に黒レベルに変換される。
【0053】
従って、γ特性設定部254で設定されたγ特性▲1▼(又は▲2▼)を用いて下地飛ばし演算部253で画像データのγ補正が行われると、図8に示すように、ボード部分351の画像データが略均等に白データに変換され、撮影画像の下地が白く飛ばされることになる。
【0054】
色判別部255は、各画素位置の色を判別するものである。色判別部255は、色判別処理を行うための回路として正規化演算回路255a、輝度演算回路255b、形状認識回路255c及び色判別回路255dを有している。
【0055】
R,G,Bの色成分の画像データを用いた色判別方法としては、特開平6−105091号公報に示されるように、3個の色成分の内、2個の色成分を選択し、選択された色成分の正規化データの座標平面における2個の色成分の正規化データの位置により色判別する方法が知られている。本実施の形態でも、2個の色成分の正規化データの位置により色判別が行われるが、上記公報が1次の正規化データ、すなわち、R,G,Bの各色成分の画像データの混合比率を表す正規化データxr=Xr/(Xr+Xg+Xb),xg=Xg/(Xr+Xg+Xb),xb=Xb/(Xr+Xg+Xb)を用いて色判別を行うのに対して、本実施の形態は、2次の冪乗値についての正規化データxi=Xi2/(Xr2+Xg2+Xb2)(i=r,g,b)を用いる点で異なる。
【0056】
本実施の形態で2次の正規化データを用いるのは、ドキュメントモードでの撮影では、文字等を見易くする観点から色分類性が重視され、以下に説明するように、2次の正規化データを用いた方が色判別処理に有利だからである。
【0057】
図11は、一次の正規化データxb,xgを用いて色判別する場合のxb-xg平面における青、緑、橙、赤の各系統の色分布を示す図であり、図12は、2次の正規化データxb,xgを用いて色判別する場合のxb-xg平面における青、緑、橙、赤の各系統の色分布を示す図である。
【0058】
両図において、(xb,xg)=(1/3,1/3)のQ点は、理想的なホワイトバランスを有するカメラで撮影した場合の完全に無彩色と判別される位置である。また、(xb,xg)=(1,0),(0,1),(0,0)の各点は、それぞれ完全な青色、緑色、赤色と判別される位置である。実際のカメラでは理想的なホワイトバランスを有していないので、例えば青色の純色を撮影してもその撮影画像の正規化データ(xb,xg)は、(xb,xg)=(1,0)にはならず、一般にQ点側に偏ったある領域内に位置する。
【0059】
例えば標準的な青色、緑色、橙色、赤色の4つカラーペンでホワイトボード上に作成された色見本を撮影した場合の各色の正規化データ(xb,xg)は、それぞれ楕円Sb,Sg,So,Srで示す領域内に分布する。また、白又は黒の無彩色についてもQ点の近傍のある領域Sw内に分布する。
【0060】
両図の楕円Sb,Sg,So,Srを比較すれば明らかなように、2次の正規化データ(xb,xg)を用いると、楕円Sb,Sg,So,Srがより偏平になり、同一の有彩色の画像データから生成された正規化データ(xb,xg)の位置は、理想的な無彩色点Qから遠くなることが分かる(図11,図12の青色領域内のプロットされたP点,P′点を比較参照)。従って、2次の正規化データを用いる方が1次の正規化データを用いるよりも容易かつ正確に色判別を行うことができる。
【0061】
正規化演算回路255aは、各画素位置のR,G,Bの各色成分の画像データを2次の冪乗値による正規化データxr=Xr2/(Xr2+Xg2+Xb2),xg=Xg2/(Xr2+Xg2+Xb2),xb=Xb2/(Xr2+Xg2+Xb2)に変換するものである。
【0062】
正規化演算回路255aは、図13のフローチャートに従って各画素位置の画像データXr,Xg,Xbを2次の正規化データxr,xg,xbに変換する。
【0063】
すなわち、各色成分の画像データXr,Xg,Xbをそれぞれ2乗し、その演算結果をそれぞれレジスタRr1,Rg1,Rb1に格納する(#2)。続いて、レジスタRr1,Rg1,Rb1に格納された画像データXr,Xg,Xbの2乗値Xr2,Xg2,Xb2を加算し、その結果をレジスタSUMに格納する(#4)。続いて、レジスタRr1,Rg1,Rb1に格納された画像データXr,Xg,Xbの2乗値Xr2,Xg2,Xb2をそれぞれレジスタSUMに格納された加算値(Xr2+Xg2+Xb2)で除し、その結果をそれぞレジスタRr2,Rg2,Rb2に格納して処理を終了する(#6)。
【0064】
なお、2次より大きい次数の正規化データ(xb,xg)を用いると、xb-xg平面における正規化データ(xb,xg)の位置の無彩色点Qから遠くなる傾向はより強くなり、その画像データの有する色味の特徴(すなわち、青、緑、橙、赤のいずれに偏っているか)がより明確となるので、正規化データとして、
xr=Xrk/(Xrk+Xgk+Xbk)
xg=Xgk/(Xrk+Xgk+Xbk)
xb=Xbk/(Xrk+Xgk+Xbk)
の演算式により算出されるk次(k>2)の正規化データを用いてもよい。
【0065】
また、本実施の形態では、R,G,Bの色成分の画像データについて説明したが、他の色成分の画像データの正規化データX(1),X(2),…X(n)を用いる場合にも2次以上の冪乗値に対する正規化データx(1)k=X(1)k/ΣX(i)k,x(2)k=X(2)k/ΣX(i)k,…x(n)k=X(n)k/ΣX(i)k(i=1,2,…n、k≧2)を用いることできる。
【0066】
ところで、色判別では、有彩色の色の判別とともに、有彩色と無彩色の白及び黒との判別を行う必要がある。有彩色と無彩色の白及び黒との判別も、上述のようにxg-xb平面内における正規化データの位置を調べることにより行うことができる。
【0067】
しかし、R,G,Bの色成分の画像データから生成された正規化データは、画像内のR,G,Bの色成分の偏差のみを抽象し、明暗の情報は捨象されているので、正規化データのみを用いて色判別を行うと、低輝度の黒色や高輝度の白色が赤や青等の有彩色と誤判別される場合が生じる。すなわち、例えばR,G,Bの色成分の画像データ(Xr,Xg,Xb)が(20,5,5)の黒い画素位置に対する2次の正規化データ(xb,xg)は(0.06,0.06)で、画像データ(Xr,Xg,Xb)=(200,50,50)の赤い画素位置に対する2次の正規化データ(xb,xg)と同一となるので、黒色が赤色に誤判別される。
【0068】
そこで、このような誤判別を防止するため、本実施の形態では、各画素位置の輝度データと上述の正規化データとを用いて色判別(無彩色の判別を含む。)を行うようにしている。また、線幅の広狭の色判別への影響を低減するため、後述するように、文字、図形等の幾何学的形状を加味して色判別を行うようにしている。
【0069】
輝度演算回路255bは、上述の色判別処理に使用する各画素位置の輝度データを演算するものである。輝度演算回路255bは、例えばR,G,Bの色成分の画像データXr,Xg,Xbの平均値Y(=(Xr+Xg+Xb)/3)を、各画素位置の色判別用の輝度データとして算出する。
【0070】
また、形状認識回路255cは、文字、図形等を構成する領域が線状であるか、面状であるかを認識するものである。形状認識回路255cは、5×5画素又は7×7画素のブロック毎に、そのブロック内の画像データのレベルを最大値が「255」となるように補正した後、「0」及び「255」のレベルの画像データ或いは「0」〜「255」の数種類のレベルの画像データを有するテンプレートとの2乗誤差計算等によるパターンマッチングにより、図14に示すように、細線部分のパターンαと太線部分のパターンβとを検出する。この検出結果は、色判別回路255dに入力される。なお、パターンマッチングに代えて高周波成分検出処理により形状判別を行うようにしてもよい。
【0071】
色判別回路255dは、正規化演算回路255aで算出された正規化データ(xb,xg)、輝度演算回路255bで算出された輝度データY及び形状認識回路255cで認識されたパターン結果に基づき、図15〜図18に示す所定の閾値プロファイルを用いて各画素位置の色判別(例えば白、黒、青、緑、橙、赤の色判別)を行うものである。
【0072】
図15は、色判別用の輝度データにより有彩色と無彩色との色判別を行うための閾値プロファイルの第1の実施形態を示す図である。また、図16〜図18は、色判別用の輝度データにより有彩色と無彩色との色判別を行うための閾値プロファイルの変形例で、それぞれ第2〜第4の実施形態を示す図である。
【0073】
図15〜図18において、横軸は、xb-xg平面における無彩色点Qからの距離情報を示し、縦軸は、色判別用の輝度レベルを示している。
【0074】
なお、距離情報は、xb-xg平面での点Qから正規化データ(xb,xg)の位置までの実際の距離を示すものではなく、xr-xg-xb空間において無彩色点(1/3,1/3,1/3)から等距離にある閉曲面をxb-xg平面に射影して得られる等距離線(無彩色点Q(1/3,1/3)を含む閉曲線)を特定するための距離の情報である。
【0075】
ここで、距離情報について、簡単に説明すると、xb-xg平面における等距離線上の任意の正規化データ(xb,xg)を同一距離にある一群のデータとして扱う場合、等距離線が無彩色点Q(1/3,1/3)を中心とする円になるのであれば、距離情報としてxb-xg平面における点Qから正規化データ(xb,xg)の位置までの実際の距離を採用することができる。
【0076】
しかし、等距離線は、上述のようにxr-xg-xb空間における無彩色点(1/3,1/3,1/3)から等距離にある閉曲面をxb-xg平面に射影したもので、無彩色点Q(1/3,1/3)を中心とする円でない同心状の閉曲線となるから、点Qから正規化データ(xb,xg)の位置までの実際の距離を距離情報とすることはできない。
【0077】
そこで、本実施の形態では、等距離線上にある正規化データ(xb,xg)について同一の距離情報を与えるため、正規化データ(xb,xg)とそれが属する等距離線が一対一に対応することから、xb-xg平面における等距離線の位置を定義する距離情報をその等距離線上の正規化データ(xb,xg)の距離情報としている。
【0078】
正規化データ(xb,xg)が与えられた場合、その正規化データ(xb,xg)に対する距離情報を決定するには、その正規化データ(xb,xg)が属する等距離線を決定する必要がある。しかし、必ずしもxr-xg-xb空間における無彩色点(1/3,1/3,1/3)を中心に同心状に形成される複数の等距離面をxb-xg平面に射影してなる複数の等距離線の中の正規化データ(xb,xg)が属する等距離線を決定する必要はない。なぜなら、正規化データ(xb,xg)の距離情報は、所定の閾値との相対比較による色判別に使用するものであるから、相対的な距離情報で無彩色点Q(1/3,1/3)からの正規化データ(xb,xg)の位置が特定できればよいからである。
【0079】
与えられた正規化データ(xb,xg)に対して等距離線から相対的な距離情報を決定するとすれば、等距離線としては、その正規化データ(xb,xg)とこれ以外の等距離線上にある複数の正規化データ(xb,xg)とにより決定される特定形状の閉曲線を採用することができる。
【0080】
一方、xr-xb-xg空間において、成分を相互に入れ換えた6個の正規化データ(xr,xb,xg),(xb,xg,xr),…は、無彩色点(1/3,1/3,1/3)から等距離にあり、これらの正規化データをxb-xg平面に射影した点は、xb-xg平面において等距離線を構成するから、等距離線として採用し得る形状は、少なくとも与えられた正規化データ(xb,xg)とこの正規化データの成分を相互に入れ換えて生成される他の5個の正規化データ(xr,xb),(xr,xg),(xb,xr),(xg,xr),(xg,xb)とにより構成されるものでなければならない。
【0081】
従って、xb-xg平面上おいては、3個の成分を相互に入れ換えて生成されるxb-xg平面上の6個の正規化データ(xb,xg),(xr,xb),(xr,xg),(xb,xr),(xg,xr),(xg,xb)を通る任意の形状を等距離線の特定形状とすることができる。
【0082】
図19は、成分を相互に入れ換えた6個の正規化データのxb-xg平面上の位置関係の一例を示す図である。
【0083】
同図に示すP1(1/2,1/3),P2(1/2,1/6),P3(1/3,1/6),P1′(1/3,1/2),P2′(1/6,1/2),P3′(1/6,1/3)の各点は、点P1に対する正規化データxr(=1/6),xg(=1/2),xb(=1/3)の成分を相互に入れ換えて生成される5個の正規化データをxb-xg平面上にプロットしたものである。同図から明らかなように、点P1′,P2′,P3′は、それぞれ点P1,P2,P3の直線L(原点と点Qとを結ぶ直線)に対する線対称点となっている。また、点P3,P3′は、それぞれ点P1,P1′の直線L′(点Qを通る直線Lに直交する直線)に対する線対称点となっている。このような点P1〜P3,P1′〜P3′の対称性は、xr+xb+xg=1の関係を有する成分を相互に入れ換えて各点の正規化データが決定されていることに基づくものである。
【0084】
従って、点P1の属する等距離線は、点P1〜P3,P1′〜P3′を通り、かつ、直線L,L′に対して対称性を有する形状でなければならないが、このような形状としては、例えば図20に示す楕円C1、図21に示す二等辺三角形C2、又は図22に示す六角形C3などが考えられる。
【0085】
等距離線の形状が特定されると、その形状の等距離線について無彩色点Q(1/3,1/3)からの距離の算出方法を決定しておけば、正規化データ(xb,xg)からその正規化データ(xb,xg)が属する特定形状の等距離線を算出し、更にその等距離線について無彩色点Q(1/3,1/3)からの距離を算出することにより、与えられた正規化データ(xb,xg)に対する距離情報を決定することができる。
【0086】
図20〜図22の例では、各等距離線の無彩色点Q(1/3,1/3)からの距離として、例えば直線Lと等距離線C1,C2,C3との交点P4と点Qとの距離dを取ることができる。この距離dは、閉曲線として楕円C1を採用した場合は、楕円C1の中心Qから最近接点までの距離(短軸長の1/2)であり、閉曲線として二等辺三角形C2を採用した場合は、点Qから斜辺の中点までの距離である。
【0087】
なお、等距離線C2とC3とは形状は異なるが、点P3,P3′を通る斜辺は同一であるから、点Qからの距離dは同一となる。従って、距離情報を考える上では等距離線C2とC3とは実施的に同一である。
【0088】
本実施の形態では、正規化データ(xb,xg)から距離情報dを直接、算出する演算テーブルを設け、正規化データ(xb,xg)が算出されると、この演算テーブル用いて直接、距離情報dを算出するようにしている。
【0089】
図15に戻り、同図に示す閾値プロファイルは、無彩色位置から距離情報d1内の近傍領域を無彩色領域Swとし、この領域Sw内では白色と黒色との判別閾値を固定値Y2とし、無彩色領域外では有彩色と黒色との判別閾値を固定値Y1、有彩色と白色との判別閾値を固定値Y3(Y1<Y2<Y3)としたものである。
【0090】
この閾値プロファイルでは、正規化データ(xb,xg)の位置が距離情報d1の等距離線の内部に位置しているときは(d≦d1)、輝度レベルYと閾値Y2とを比較し、Y≧Y2であれば、白色と判別され、Y<Y2であれば、黒色と判別される。また、正規化データ(xb,xg)の位置が距離情報d1の等距離線より外側に位置しているときは(d>d1)、輝度レベルYと閾値Y1,Y3とを比較し、Y>Y3であれば、白色と判別され、Y<Y1であれば、黒色と判別され、Y3≧Y≧Y1であれば、有彩色と判別される。そして、有彩色の場合は、更に上述した正規化データ(xb,xg)の位置により、例えば青,緑,橙,赤の4色の色判別が行われる。
【0091】
図16に示す閾値プロファイルは、図15において、正規化データ(xb,xg)の位置が距離情報d1の等距離線より外側にあるときの有彩色と白色又は黒色との判別閾値をY1,Y3からY1,Y3,Y4,Y5(Y3>Y4>Y1>Y5>Y2)にそれぞれ2段階に増加させたものである。この閾値プロフィルでは、正規化データ(xb,xg)の位置が距離情報d1の等距離線と距離情報d2の等距離線との間にあるとき(d2>d>d1)、Y>Y4であれば、白色と判別され、Y<Y5であれば、黒色と判別され、Y4≧Y≧Y5であれば、有彩色と判別される。また、正規化データ(xb,xg)の位置が距離情報d2の等距離線と距離情報d3の等距離線との間にあるとき(d3>d>d2)、Y>Y3であれば、白色と判別され、Y<Y5であれば、黒色と判別され、Y3≧Y≧Y5であれば、有彩色と判別される。更に、正規化データ(xb,xg)の位置が距離情報d2の等距離線と距離情報d3の等距離線との間にあるとき(d>d3)、Y>Y3であれば、白色と判別され、Y<Y2であれば、黒色と判別され、Y3≧Y≧Y2であれば、有彩色と判別される。
【0092】
図17に示す閾値プロファイルは、図16において、正規化データ(xb,xg)の位置が距離情報d1の等距離線と距離情報d2の等距離線との間にあるときの有彩色と白色の判別閾値をY4からY3までリニアに変化させ、正規化データ(xb,xg)の位置が距離情報d1の等距離線と距離情報d3の等距離線との間にあるときの有彩色と黒色の判別閾値をY5からY2までリニアに変化させたものである。
【0093】
また、図18に示す閾値プロファイルは、図16において、正規化データ(xb,xg)の位置が距離情報d1の等距離線と距離情報d2の等距離線との間にあるときの有彩色と白色の判別閾値をY4からY3までノンリニア(単調増加)に変化させ、正規化データ(xb,xg)の位置が距離情報d1の等距離線と距離情報d3の等距離線との間にあるときの有彩色と黒色の判別閾値をY5からY2までノンリニア(単調減少)に変化させたものである。
【0094】
なお、図15〜図18は閾値プロファイルの代表例を示したもので、これ以外の閾値プロファイルを任意に採用することができるものである。
【0095】
図15〜図18に示す閾値プロファイルにおいて、xb-xg平面における正規化データ(xb,xg)の位置から、青,緑,橙,赤の4色の色判別を行う場合は、図23に示すように、楕円Sb,Sg,So,Srを基にして分割線m1,m2,m3,m4を設けて三角形のxg-xb平面を4つの領域Ab,Ag,Ao,Arに分割し、正規化データ(xb,xg)の位置が4つの領域Ab,Ag,Ao,Ar(領域Swを除く。)のいずれに入っているかで、色判別が行われる。例えば正規化データの座標(xb,xg)が領域Ab内に入っていれば、その画素位置は青系統の色と判別され、領域Ag内に入っていれば、その画素位置は緑系統の色と判別される。
【0096】
分割線m1,m2,m3,m4は、色領域設定演算部32で設定され、図23における点Pb,Pg,Po,Prを、それぞれ色登録された、或いは予め設定された青,緑,橙,赤の画像データ(デフォルト値)の正規データの座標位置とすると、例えば∠PbQPg,∠PgQPo,∠PoQPr,∠PrQPbの二等分線や△PbQPg,△PgQPo,△PoQPr,△PrQPbの点Qと対辺の中点とを結ぶ中線として設定される。なお、上述のように、本実施の形態に係るデジタルカメラ1では、判別すべき色を青,緑,橙,赤の4色の範囲で任意に設定できるようになっているので、例えば図3に示す例のように、色認識表示部17の色使用欄で橙色が「OFF」に設定されている場合は、「ON」に設定されている青,緑,赤の3色について分割線m1,m2,m3が設定され、3色について色判別が行われる。この場合、分割線m3は、∠PgQPrの二等分線や△PgQPrの点Qと対辺の中点とを結ぶ中線として設定される。
【0097】
色判別回路225dは、形状認識回路255cから入力されるパターン結果が一定であれば、予め設定された閾値プロファイルを固定的に利用して色判別を行うが、形状認識回路255cから入力されるパターン結果が変化する場合は、以下に説明するように、パターン結果の変化に応じて閾値プロファイルを全体的に、或いは部分的に上下させるように補正した閾値プロファイルを用いて対応する領域の色判別を行う。これは、文字等を構成する線幅の広狭に応じて閾値プロファイルを全体的又は部分的に上下させることにより、線幅の変化に関らず好適な線幅の画像が得られるようにするためである。
【0098】
図24は、線幅の広狭の相違に基づく濃度レベルの変化の一例を示す図である。
【0099】
同図は、ホワイトボード撮影画像の四角形で囲まれた数字の「1」の文字部分36の直線M上の画像データの濃度レベルを示すものである。文字部分36の上部に描かれたグラフは、濃度レベルを示している。直線MのA,Cの部分は、四角形の線幅に相当する部分(細線部分)であり、Bは、数字「1」の線幅に相当する部分(太線部分)である。A,Cは細線部分であり、Bは太線部分であるから、A,Cの濃度レベルは、Bの濃度レベルより高くなっている。すなわち、細線部分は、太線部分より白っぽくなっている。
【0100】
図25は、図24の直線M上の画像データに対して閾値プロファイルを用いて白黒判別を行ったものである。
【0101】
例えば図18に示す形の閾値プロファイルを用いたとして、同図(a)は、図26の閾値レベルの高い閾値プロフィル▲1▼を用いて白黒判別を行ったものであり、同図(b)は、図26の閾値レベルの低い閾値プロフィル▲2▼を用いて白黒判別を行ったものである。また、同図(c)は、線幅に応じて閾値プロフィル▲1▼,▲2▼を使い分けて白黒判別を行ったものである。
【0102】
閾値レベルの高い閾値プロフィル▲1▼を用いた場合は、太線部分Bは好適な線幅となるが、細線部分A,Cは閾値レベルY1より高くなるので、白色に誤判別され、四角形の図形が飛んでしまうことになる。一方、閾値レベルの低い閾値プロフィル▲2▼を用いた場合は、細線部分A,Cは好適な線幅となるが、太線部分Bは、輪郭部分の画像データも閾値レベルY1′より低くなり、線幅が必要以上に太くなってしまうことになる。このように、線幅の広狭がある場合、固定的な閾値プロフィルでは一方の線幅に対しては適切であっても他方の線幅に対しては不適切となることが多く、線幅に関係なく適切な白黒判別を行うことは困難となる。
【0103】
そこで、本実施の形態では、同図(c)に示すように、線幅を判別し、その判別結果に応じて閾値プロフィル▲1▼,▲2▼を切り換えることにより好適な線幅が得られるようにしている。従って、色判別回路225dは、形状認識回路255cから入力される判別結果がパターンαのときは、閾値プロフィル▲1▼を用いて白黒判別を行い、判別結果がパターンβのときは、閾値プロフィル▲1▼を閾値プロフィル▲2▼に切り換えて白黒判別を行う。
【0104】
なお、この白黒判別における閾値プロフィルの補正は、上述のように、予め設定された複数の閾値プロファイルを線幅の判別結果に応じて切換設定するようにしてもよいが、標準の閾値プロフィルを線幅の判別結果に応じた所定レベルだけ全体的に、或いは部分的に上下にシフトさせて設定するようにしてもよい。
【0105】
図6に戻り、黒領域補正部256は、色の誤判別により有彩色が含まれる黒領域を有彩色を含まない黒一色に補正するものである。
【0106】
図15〜図18に示す閾値プロファイルを用いて色判別を行う場合、無彩色と有彩色との判別閾値である距離情報d1を高く設定すると、比較的色の濃い有彩色(すなわち、輝度の低い有彩色)は黒色に、また、比較的色の淡い有彩色(すなわち、輝度の高い有彩色)は白色に誤判別され易くなる。このため、このような誤判別を防止するため、距離情報d1は低めに設定するのが望ましい。
【0107】
しかし、距離情報d1を低めに設定した閾値プロファイルを用いた場合は、黒色が有彩色に誤判別され、図27に示すように、黒一色の領域が有彩色の混じった斑模様の領域となることがある。黒色領域が斑模様の領域となり易くなる原因は、黒色の画像データはレベルが低いため、正規化データxb,xgがxb/xg=1となることは少なく、正規化データ(xb,xg)の位置が無彩色領域Sw外になり易いということ、また、ある程度大きな領域で画像データの平均では黒色となる場合、その領域内に、例えば黒色を青色と誤判別した画素位置の近傍には黒色を赤や緑や橙等と誤判別した画素位置が存在する可能性が高いということに基づくものである。
【0108】
文字、図形等を構成する比較的広い黒領域が斑模様の領域になると、著しく見辛い画像となる。黒領域補正部256は、斑模様の領域を黒領域に変換し、斑模様に起因する画質不良を低減するもので、同色画素数計数回路256a、分散度演算回256b及び黒判別回路256cを備えている。
【0109】
同色画素数計数回路256aは、ブロック内の同一色の画素数をカウントする回路である。ブロックサイズを5×5画素とし、各画素位置の色分布が、例えば図28に示すようになっている場合、同色画素数計数回路256aは、赤,青,橙,緑,黒の各色についてブロック内に存在する画素数をカウントする。赤,青,橙,緑,黒の各色の画素数をNr,Nb,No,Ng,Nbk、これらの合計をNtをとすると、同図(a)の例では、Nr=17,Nb=2,No=3,Ng=1,Nbk=2,Nt=25がカウントされ、同図(b)の例では、Nr=4,Nb=4,No=5,Ng=6,Nbk=4,Nt=23がカウントされる。なお、(b)の例では、ブロック内に白色の画素が2個含まれているが、これらの画素は黒領域補正処理では無視される。
【0110】
分散度演算回路256bは、赤,青,橙,緑,黒の各色の画素数Nr,Nb,No,Ng,Nbk及びこれらの合計Ntを用いて、各ブロックの色の分散度pを演算するものである。分散度pは、p=(白以外の色の画素数)/Σ(各色の画素数)2=Nt/(Nr2+Nb2+No2+Ng2+Nbk2)の演算式で算出される。なお、この分散度pは、分散の演算式の逆数である。図28(a)の例では、p=23/(42+42+52+62+42)=0.211が算出され、同図(b)の例では、p=25/(172+22+32+12+22)=0.081が算出される。
【0111】
黒判別回路256cは、分散度演算回路256bで算出された分散度pを用いて各ブロックの中心位置の画素が黒色であるか否かを判別するものである。すなわち、黒判別回路256cは、予め設定された閾値K1と分散度pとを比較し、p>K1であれば、黒色と判別し、p≦K1であれば、有彩色と判別する。例えばK1=0.1とすると、図28(a)の例は、黒色と判別され、同図(b)の例は、有彩色と判別される。なお、図28(b)の例では、各色の画素数から圧倒的に赤が多いので、中心位置の画素は「赤」と判別することができる。
【0112】
図29は、黒領域補正部256の補正処理の手順を示すフローチャートである。
【0113】
色判別部255から出力される色判別結果は、黒領域補正部256内の図略のメモリに格納され、図29のフローチャートに従って黒領域の補正処理が行われる。すなわち、まず、メモリから左上隅の1ブロック分(5×5画素分)の色判別データが読み出され(#10)、そのブロック内に含まれる白色以外の各色の画素数とその合計数がカウントされる(#12)。判別色を赤,青,橙,緑,黒とすると、各色の画素数Nr,Nb,No,Ng,Nbkとこれらの合計数Ntがカウントされる。
【0114】
続いて、分散度p(=Nt/(Nr2+Nb2+No2+Ng2+Nbk2))が演算され(#14)、この分散度pと所定の閾値K1とを比較してそのブロックの中心の画素が黒色である否かが判別される(#16)。p>K1であれば(#16でYES)、ブロック中心の画素位置(そのブロックの3行3列目の画素位置)の色判別データを黒色のデータに変更することが記憶される(#18)。一方、p≦K1であれば(#16でYES)、上述のデータ変更の指示は行われない。
【0115】
続いて、色判別データ全体に対する上記処理が終了したか否かが判別され(#20)、処理が終了していなければ(#20でNO)、ブロックの読出位置を1画素分だけ横方向にシフトして(#22)、ステップ#10に戻り、上述の黒判別処理が行われる(#10〜#20)。以下、ブロックの読出位置をラスタ方向に1画素分ずつシフトしつつ、各画素位置の色判別データについて黒判別処理が行われ(#10〜#22のループ)、色判別データ全体に対する黒判別処理が終了すると(#20でYES)、色判別データを黒色のデータに変更するように指示された画素位置の色判別データが黒色のデータに変更され(#24)、処理を終了する。
【0116】
なお、本実施の形態では、黒領域補正処理の1ブロックの大きさを5×5画素としたが、1ブロックのサイズはこれに限定されるものではなく、処理精度や処理速度を考慮して任意の適宜のサイズを設定することができる。また、色の分散具合を計るものとして分散度pを定義したが、色のバラツキを表し得るものであれば、他の演算式を定義してもよい。例えば標準偏差σ=1/√(p)を用いてもよい。
【0117】
また、青,緑,橙,赤,黒の各色を、例えばそれぞれ(0,1,0,0)、(0,0,1,0)、(0,0,0,1)、(1,0,0,0)、(1,1,1,1)のようにベクトル表現した場合、ブロック内のベクトル平均のベクトル長の逆数を分散の度合いを示すものとしてもよい。なお、ベクトル表現は、各色独立でも、「赤と橙は近似した色」というように情報を加味したものでもよい。また、4次元に限定されず、任意の次元を考えることができる。
【0118】
また、簡単な方法として、ブロックの中心位置に隣接する8個の画素位置に何個の色が存在するか、その異なる色の数で斑の程度を判断するようにしてもよい。
【0119】
第2ノイズ消去部257は、色判別された黒領域内に含まれる有彩色や白色(誤判別された色)を黒色に補正するものである。すなわち、黒領域補正部256により斑模様の領域を黒領域に補正する処理を行っても、なお、黒領域内に有彩色が島状に残る場合があり、第2ノイズ消去部257は、この偽色を黒色に変換して消去するものである。
【0120】
図30は、文字等の黒領域内に有彩色が島状に残っている状態の一例を示す図である。
【0121】
同図は、数字「2」を構成する黒色領域に有彩色の画素37,38が残っている場合を示すものであるが、第2ノイズ消去部257では、黒色領域内の画素37が黒色に補正されて偽色が消去される。なお、数字「2」を構成する黒領域の輪郭位置にある画素38については、黒色補正は行われない。黒領域内に島状に黒以外の色が混じっている場合は、その色が目立って文字が見辛くなるが、境界部分に黒以外の色が混じっている場合は、その偽色による弊害は少ないので、黒領域の補正処理による処理速度の遅延を考慮して、黒領域内部についてのみ補正処理を行うものである。なお、黒領域の輪郭位置の偽色に対しても黒補正を行うようにしてもよい。
【0122】
図31は、第2ノイズ消去部257の偽色消去の処理手順を示すフローチャートである。
【0123】
同図に示すフローチャートは、図32に示すように、中心位置GAとそれに隣接する8個の画素位置の色を調べ、同一色が所定数K2を超えていれば、中心の画素位置GAの色を所定数K2を超えている色に変更するのものである。図32は、所定数K2を6個としたもので、中心と右下隅を除く7個の画素が黒となっているので、中心位置の画素GAの色が黒色に変更されることを示している。
【0124】
黒領域補正部256から出力された色判別データは、第2ノイズ消去部257内の図略のメモリに格納され、図31のフローチャートに従って黒領域の補正処理が行われる。すなわち、まず、メモリから左上済の1ブロック分(3×3画素分)の色判別データが読み出され(#30)、そのブロック内に含まれる各色の画素数がカウントされる(#32)。
【0125】
続いて、最も多い画素数Nmaxと所定の閾値K2とを比較し、Nmax>K2であるか否かが判別される(#34)。Nmax>K2であれば(#34でYES)、ブロック中心の画素位置(そのブロックの2行2列目の画素位置)の色判別データを画素数Nmaxの色のデータに変更することが記憶される(#36)。一方、Nmax≦K2であれば(#34でYES)、上述のデータ変更の指示は行われない。
【0126】
続いて、色判別データ全体に対する偽色修正処理が終了したか否かが判別され(#38)、処理が終了していなければ(#38でNO)、ブロックの読出位置を1画素分だけ横方向にシフトして(#40)、ステップ#30に戻り、上述の偽色修正処理が行われる(#30〜#38)。以下、ブロックの読出位置をラスタ方向に1画素分ずつシフトしつつ、各画素位置の色判別データについて偽色修正処理が行われ(#30〜#40のループ)、色判別データ全体に対する偽色修正処理が終了すると(#38でYES)、色判別データを画素数Nmaxの色のデータに変更するように指示された画素位置の色判別データが指示された色のデータに変更され(#42)、処理を終了する。
【0127】
図6に戻り、色置換部258は、各画素位置の画像データを、色判別部255、黒領域補正部256及び第2ノイズ消去部257で設定された色のデータに基づいて予め設定された、或いは色登録で設定された対応する色の画像データ(R,G,Bの色成分の画像データ)に置換するものである。そして、色置換部258で置換された画像データは、HDカードに出力され、記録される(図5参照)。
【0128】
次に、図33〜図35のフローチャートに従って、デジタルカメラ1の撮影動作について説明する。
【0129】
図33は、ドキュメントモードに関する撮影動作手順を示すフローチャートである。
【0130】
メインスイッチ11がオンになると(#50でYES)、デジタルカメラ1が起動し、撮影可能状態となる。まず、モード変更スイッチ16が撮影モードに設定されているか否かが判別され(#52)、撮影モードが設定されていなければ、すなわち、色登録モードが設定されていれば(#52でNO)、図34に示すフローチャートに従って色登録処理が行われ(#54)、撮影モードが設定されていれば(#52でYES)、ステップ#54に移行し、撮影処理が行われる。
【0131】
色登録処理に移行すると、まず、色選択ボタン18により指定されている色が登録処理対象の色として設定される(#80)。この色設定処理では、バー表示171の表示位置により登録対象の色が判別、設定される。続いて、その設定された色が未登録であるか否かが○印表示172の有無により判別され(#82)、未登録であれば(#82でNO)、更にデフォルトボタン20により登録色のデータ消去が指示されているか否かが判別される(#84)。
【0132】
登録色のデータ消去が指示されていれば(#84でYES)、RAM27に記憶されている登録色の2次の正規化データが予め設定されているその色のデフォルト値に書き換えられ(#84)、ステップ#82に戻る。一方、登録色のデータ消去が指示されていなければ(#84でNO)、ステップ#88に移行する。
【0133】
ステップ#82で、設定された色が未登録であれば(#82でYES)、シャッタボタン9のレリース操作により色見本(図4参照)の撮像が指示されているか否かが判別され(#88)、撮像が指示されていれば(#88でYES)、測光部30により被写体輝度が検出されるとともに(#90)、測距部29により被写体距離が検出され(#92)、この被写体距離に基づいて焦点調節が行われる(#94)。また、検出された被写体輝度を用いて露出制御値(絞り値とCCDの積分時間)が設定される(#96)。
【0134】
続いて、設定された露出制御値に基づいて色見本の撮像が行われる(#98)。撮像部23で取り込まれた画像データは、設定色正規化演算部31で撮影画面中央の枠21内の画像データが抽出され、更にこの画像データの内、色見本部分のみの画像データが抽出される(#100)。そして、この色見本の画像データについて2次の正規化データが算出され(#102)、その算出結果がRAM27の所定の記憶領域に記憶される(#104)。
【0135】
色見本の2次の正規化データのRAM27への記憶(色登録)が終了すると、続いて、セットボタン19の操作により色使用が指示されているか否かが判別され(#106)、色使用が指示されていれば(#106でYES)、登録色の色判別における色使用が設定され(#108)、リターンする。このとき、色登録確認表示部17では色使用「on」の表示が行われる。また、色使用が指示されていなければ(#106でNO)、登録色の色判別における色使用が解除され(#110)、リターンする。このとき、色登録確認表示部17では色使用「off」の表示が行われる。
【0136】
一方、ステップ#88で、撮像が指示されていなければ(#88でNO)、ステップ#90〜#104をジャンプし、上述の色見本の2次の正規化データの登録処理を行うことなくステップ#106に移行する。
【0137】
上述のように、色登録モードにおいては、デフォルトボタン20が操作されると、設定された色に対して、既に登録されている色見本の画像データ(R,G,Bの色成分の画像データ)及び2次の正規化データが消去され、それに代えて予め設定された画像データ及び2次の正規化データ(デフォルト値)が設定される。また、セットボタン19が操作されると、設定された色に対して、色使用の設定又は解除が行われる。また、未登録又は登録済に関係なく、色見本の撮影が行われると、撮影された色見本の2次の正規化データが算出され、この算出値と取り込まれた画像データとが新規に又は更新的に登録される。
【0138】
図33に戻り、ステップ52で、撮影モードが設定されていると(#52でYES)、続いて、シャッタボタン9のレリーズ操作により撮像が指示されているか否かが判別され(#56)、撮像が指示されていなければ(#56でNO)、ステップ#52に戻り、撮像が指示されていると(#56でYES)、更に色補正補正スイッチ13がONに設定されているか(すなわち、ドキュメントモードが設定されているか)否かが判別される(#58)。
【0139】
ドキュメントモードが設定されていなければ、すなわち、ノーマルモードが設定されていれば(#58でNO)、通常の写真撮影の処理が行われる。すなわち、被写体輝度及び被写体距離が検出され、これらの検出値に基づき焦点調節と露出制御値設定とが行われた後、被写体の撮影が行われる。そして、撮像部23で取り込まれた画像データは、画像処理部25で所定の画像処理(描写性の高い画質が得られる画像処理)が行われ、圧縮された後、HDカード10に記録される。
【0140】
一方、ドキュメントモードが設定されていれば(#58でYES)、まず、濃度設定スイッチ15の設定位置により濃度データ(濃/淡のデータ)が取り込まれる(#62)。続いて、画像処理部25がドキュメントモードの画像処理に設定されるとともに、濃度データが色判別部255に設定される(#64)。
【0141】
続いて、測光部30により被写体輝度が検出されるとともに(#66)、測距部29により被写体距離が検出され(#68)、この被写体距離に基づいて焦点調節が行われる(#70)。また、検出された被写体輝度を用いて露出制御値(絞り値とCCDの積分時間)が設定される(#72)。
【0142】
続いて、設定された露出制御値に基づき撮像部23で被写体の撮像が行われ(#74)、その撮像動作で取り込まれた画像データは、図35に示すフローチャートに従って画像処理部25で所定の色補正処理が行われた後(#76)、HDカード10に記録される(#78)。そして、これにより1枚の撮影が終了し、次の撮影を行うべく、ステップ#52に戻る。
【0143】
色補正処理に移行すると、まず、γ特性設定部254で画像メモリ251に格納された画像データを用いて下地飛ばし処理のためのγ特性が設定される(#120)。続いて、画像メモリ251に格納された画像データが第1ノイズ消去部252でノイズ低減処理がなされた後、下地飛ばし演算部253で上記γ特性を用いてγ補正を行うことにより下地飛ばしの処理(背景の白地部分を一律に白色に変換する処理)が行われる(#122)。
【0144】
続いて、色判別部255の正規化演算回路255aで画像メモリ251に格納された画像データを用いて色判別処理のための2次の正規化データが演算される(#124)。また、色判別部255の輝度演算色255bで画像メモリ251に格納された画像データを用いて各画素位置毎に色判別用の輝度データが演算される(#126)。更に、色判別部255の形状認識回路255cで画像メモリ251に格納された画像データを用いて、所定ブロック単位で文字、図形等の形状認識処理(パターンマッチングによるパターン認識処理)が行われる(#128)。そして、色判別部255の色判別回路255dで、2次の正規化データ、輝度データ及び形状認識結果に基づき予め設定された閾値プロファイル(図15〜図18参照)を用いて上述の色判別方法により各画素位置の色判別が行われる(#128)。
【0145】
続いて、黒領域補正部256で、色判別データに対して斑模様を修正する処理が行われるとともに(#132)、第2ノイズ消去部257で、色判別データに対して島状に発生している偽色を消去する処理が行われた後(#257)、色置換部258で、色判別データに基づき各画素位置の画像データ(撮影時の画像データ)が所定の色データ(予め設定されたR,G,Bの色成分の画像データ(デフォルト値)又は登録処理で登録されたR,G,Bの色成分の画像データ)に置換され(#136)、これにより色補正処理を終了し、リターンする。
【0146】
なお、上記実施の形態では、デジタルカメラを例に説明したが、本発明は、例えばコンピュータによる色判別処理等の他のカラー画像処理装置においても適用することができる。
【0147】
【発明の効果】
以上説明したように、本発明によれば、カラー画像を構成する画素毎に、輝度情報を所定の判別閾値と比較して色を判別する色判別装置であって、所定の画素ブロック毎に、上記画素ブロック内の画像の線幅に関する情報を算出し、この線幅に関する情報に基づいて判別閾値を変化させるようにしたので、文字、図形等を構成する線幅の影響を受けることなく文字、図形等の部分の色判別を好適に行うことができる。これにより線幅の細い文字等や濃度の淡い文字等が色判別処理で欠落したり、通常の線幅の文字等が色判別処理で変形したりすることがない。
【図面の簡単な説明】
【図1】本発明に係る色判別装置を備えたデジタルカメラの一実施の形態の外観を示す斜視図である。
【図2】本発明に係る色判別装置を備えたデジタルカメラの背面図である。
【図3】色登録確認表示部の表示の一例を示す図である。
【図4】色登録モードでファインダー内に色データ取込範囲を示す枠が表示された状態を示す図である。
【図5】本発明に係るデジタルカメラのドキュメントモードにおける撮像画像の画像処理に関するブロック構成図である。
【図6】画像処理部のドキュメントモードにおける画像処理に関するブロック構成図である。
【図7】ドキュメントモードにおける画像処理手順の概要を示す図である。
【図8】下地飛ばし処理の内容を示す図である。
【図9】ホワイトボード撮影画像を構成する画像データのヒストグラムの典型例を示す図である。
【図10】下地飛ばし用に設定されるγ特性の一例を示す図である。
【図11】1次の正規化データxb,xgを用いて色判別する場合のxb-xg平面における青、緑、橙、赤の各系統の色分布を示す図である。
【図12】2次の正規化データxb,xgを用いて色判別する場合のxb-xg平面における青、緑、橙、赤の各系統の色分布を示す図である。
【図13】画像データXr,Xg,Xbを2次の正規化データxr,xg,xbに変換するフローチャートである。
【図14】パターンマッチングにより細線部分と太線部分とを検出する方法を示す図である。
【図15】色判別用の輝度データにより有彩色と無彩色との色判別を行うための閾値プロファイルの第1の実施形態を示す図である。
【図16】色判別用の輝度データにより有彩色と無彩色との色判別を行うための閾値プロファイルの第2の実施形態を示す図である。
【図17】色判別用の輝度データにより有彩色と無彩色との色判別を行うための閾値プロファイルの第3の実施形態を示す図である。
【図18】色判別用の輝度データにより有彩色と無彩色との色判別を行うための閾値プロファイルの第4の実施形態を示す図である。
【図19】成分を相互に入れ換えた6個の正規化データのxb-xg平面上の位置関係の一例を示す図である。
【図20】成分を相互に入れ換えた6個の正規化データにより生成される等距離線の形状を楕円とした図である。
【図21】成分を相互に入れ換えた6個の正規化データにより生成される等距離線の形状を二等辺三角形とした図である。
【図22】成分を相互に入れ換えた6個の正規化データにより生成される等距離線の形状を六角形とした図である。
【図23】xb-xg平面を青、緑、橙、赤の色領域に分割した状態を示す図である。
【図24】文字等の線幅と輝度レベルとの関係を示す図である。
【図25】文字等の線幅の異なる部分を閾値プロファイルを用いて白黒判別を行ったときの判別結果を示すもので、(a)は閾値レベルの高い閾値プロフィルを用いて場合、(b)は閾値レベルの低い閾値プロフィルを用いた場合、(c)は線幅に応じて閾値レベルを変更した場合、の判別結果である。
【図26】線幅に応じて補正される閾値プロファイルの補正例を示す図である。
【図27】色判別結果が斑模様となった場合の一例を示す図である。
【図28】分散度の演算例を示す図で、(a)は斑模様の領域の分散度を示す図、(b)は赤領域の分散度を示す図である。
【図29】黒領域補正部の補正処理の手順を示すフローチャートである。
【図30】文字等の黒領域内に有彩色が島状に残っている状態の一例を示す図である。
【図31】第2ノイズ消去部の偽色消去の処理手順を示すフローチャートである。
【図32】隣接する8個の画素位置の色判別結果を用いて中心画素の色修正を行う方法を示す図である。
【図33】本発明に係るデジタルカメラのドキュメントモードに関する撮影動作手順を示すフローチャートである。
【図34】色登録処理の処理手順を示すフローチャートである。
【図35】色補正処理の処理手順を示すフローチャートである。
【符号の説明】
1 デジタルカメラ
2 撮影レンズ
3 測光窓
4 投光窓
5 受光窓
6 ファインダー対物窓
7 カード挿入口
8 カード取出ボタン
9 シャッタボタン
10 HDカード
11 メインスイッチ
12 ファインダー接眼窓
13 色補正スイッチ
14 ノイズ修正スイッチ
15 濃度設定スイッチ
16 モード変更スイッチ
17 色登録確認表示部
18 色選択ボタン
19 セットボタン
20 デフォルトボタン
21 枠
22 色見本
23 撮像部
24 A/D変換器
25 画像処理部(色判別装置)
251 画像メモリ
252 第1ノイズ消去部
253 下地飛ばし演算部
254 γ特性設定部
255 色判別部
255a 正規化演算回路
255b 輝度演算回路
255c 形状認識回路(形状情報算出手段)
255d 色判別回路(判別閾値制御手段)
256 黒領域補正部
256a 同色画素数計数回路
256b 分散度演算回路
256c 黒判別回路
257 第2ノイズ消去部
258 色置換部
26 カード駆動制御部
27 RAM
28 ROM
29 測距部
30 測光部
31 設定色正規化演算部
32 色領域設定演算部
34 制御部
35 ホワイトボード
36 文字部分
37,38 誤判別された画素
Claims (1)
- カラー画像を構成する画素毎に、当該カラー画像を構成する色成分の画像データに基づいて輝度情報を生成し、この輝度情報を予め設定された所定の判別閾値と比較して色を判別する色判別装置であって、上記カラー画像を構成する所定の画素ブロック毎に、上記画素ブロック内の画像の線幅に関する情報を算出する形状情報算出手段と、上記線幅に関する情報に基づいて上記判別閾値を変化させる判別閾値制御手段とを備えたことを特徴とする色判別装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP26744497A JP3726444B2 (ja) | 1997-09-30 | 1997-09-30 | 色判別装置 |
US09/163,266 US6480624B1 (en) | 1997-09-30 | 1998-09-29 | Color discrimination apparatus and method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP26744497A JP3726444B2 (ja) | 1997-09-30 | 1997-09-30 | 色判別装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH11112820A JPH11112820A (ja) | 1999-04-23 |
JP3726444B2 true JP3726444B2 (ja) | 2005-12-14 |
Family
ID=17444937
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP26744497A Expired - Lifetime JP3726444B2 (ja) | 1997-09-30 | 1997-09-30 | 色判別装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3726444B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008124693A (ja) * | 2006-11-10 | 2008-05-29 | Nec Access Technica Ltd | 画像処理装置、複写機およびホワイトボード用画像処理プログラム |
-
1997
- 1997-09-30 JP JP26744497A patent/JP3726444B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JPH11112820A (ja) | 1999-04-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6480624B1 (en) | Color discrimination apparatus and method | |
US7564486B2 (en) | Image sensing apparatus with feature extraction mechanism and its control method | |
US6806903B1 (en) | Image capturing apparatus having a γ-characteristic corrector and/or image geometric distortion correction | |
US7711190B2 (en) | Imaging device, imaging method and imaging program | |
JP4217698B2 (ja) | 撮像装置及び画像処理方法 | |
US8106961B2 (en) | Image processing method, apparatus and computer program product, and imaging apparatus, method and computer program product | |
EP1654865B1 (en) | A method and system of filtering a red-eye phenomenon from a digital image | |
EP1276315B1 (en) | A method for processing a digital image to adjust brightness | |
US7489832B2 (en) | Imaging apparatus, image processing method for imaging apparatus and recording medium | |
US20090002518A1 (en) | Image processing apparatus, method, and computer program product | |
GB2432659A (en) | Face detection in digital images | |
CN101983507A (zh) | 自动红眼检测 | |
CN102006485B (zh) | 图像处理装置及图像处理方法 | |
EP0488176B1 (en) | Color image processing apparatus | |
JP3724147B2 (ja) | ホワイトボード撮影用色補正装置 | |
JP2002150287A (ja) | 画像検出装置、画像検出方法、ディジタルカメラおよびプリンタ | |
JP3724148B2 (ja) | 色判別装置 | |
JP3726444B2 (ja) | 色判別装置 | |
JPH11110550A (ja) | 色判別装置 | |
JP3643203B2 (ja) | デジタルカメラ | |
JPH10210360A (ja) | デジタルカメラ | |
JP3631576B2 (ja) | デジタルカメラ | |
JP3631577B2 (ja) | デジタルカメラ | |
JP3643201B2 (ja) | デジタルカメラ | |
JPH1023453A (ja) | デジタルカメラ |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20050428 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050517 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20050613 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050714 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050906 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050919 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091007 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091007 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101007 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111007 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111007 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121007 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121007 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131007 Year of fee payment: 8 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
EXPY | Cancellation because of completion of term |