JP2002369034A - 画像処理装置および画像処理システム - Google Patents

画像処理装置および画像処理システム

Info

Publication number
JP2002369034A
JP2002369034A JP2001175679A JP2001175679A JP2002369034A JP 2002369034 A JP2002369034 A JP 2002369034A JP 2001175679 A JP2001175679 A JP 2001175679A JP 2001175679 A JP2001175679 A JP 2001175679A JP 2002369034 A JP2002369034 A JP 2002369034A
Authority
JP
Japan
Prior art keywords
data
image processing
output
gamma correction
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001175679A
Other languages
English (en)
Other versions
JP3753954B2 (ja
Inventor
Hajime Sasaki
元 佐々木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
MegaChips Corp
Original Assignee
MegaChips Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by MegaChips Corp filed Critical MegaChips Corp
Priority to JP2001175679A priority Critical patent/JP3753954B2/ja
Priority to US10/163,578 priority patent/US6967660B2/en
Publication of JP2002369034A publication Critical patent/JP2002369034A/ja
Application granted granted Critical
Publication of JP3753954B2 publication Critical patent/JP3753954B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response
    • H04N5/202Gamma control

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Picture Signal Circuits (AREA)
  • Processing Of Color Television Signals (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

(57)【要約】 【課題】 専用の積算回路およびメモリを必要とせずに
輝度ヒストグラム演算を実行し得る。 【解決手段】 画像処理装置1はガンマ補正処理部6を
備える。ガンマ補正処理部6は、ガンマ補正用のLUT
用メモリ11を備えるLUT演算回路10と、簡易ガン
マ補正回路12と、セレクタ14,15と、レジスタ1
3とを備えている。ガンマ補正処理部6をガンマ補正の
みに用いる時、CPU3はレジスタ13にLレベルの制
御信号を保持させ、セレクタ14,15に「0」側端子
を選択せしめる。LUT用メモリ11は入力する画素デ
ータをアドレス・データとしてガンマ補正値(LUT変
換値)を選択し出力する。他方、ガンマ補正処理部6を
輝度ヒストグラム演算に用いる時、CPU3はレジスタ
13にHレベルの制御信号を保持させ、セレクタ14,
15に「1」側端子を選択せしめる。LUT用メモリ1
1は輝度ヒストグラム演算の積算値を格納するメモリと
して利用される。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、画像データの輝度
ヒストグラムを算出する画像処理装置に関する。
【0002】
【従来の技術】従来から、デジタル・スチル・カメラや
デジタル・ビデオ・カメラなどの撮像デバイスは、撮像
した画像データをA/D変換した後、画素補間、ガンマ
補正、色空間変換や色抑圧などの様々なデジタル処理を
行う画像処理回路を搭載している。その種の画像処理回
路は、装置の小型化や低廉化、消費電力の低減のため
に、チップ(集積回路)の形態で撮像デバイスに搭載さ
れていることが多い。また、多くの撮像デバイスは、画
質向上のために、撮像した画像データ中の輝度値の発生
回数を示す輝度ヒストグラムを求め、この輝度ヒストグ
ラムに基づいて画像データのホワイト・バランスなどの
輝度調整やフィルタリング処理、画像加工などを行う機
能を備えている。輝度ヒストグラム演算は、撮像デバイ
スに搭載されるCPUのソフトウェア処理で行うことも
可能ではあるが、短時間で演算を行い且つCPUの処理
負荷や消費電力を小さくする観点から、撮像デバイスは
画素補間やガンマ補正などを行う画像処理回路とは別
に、輝度ヒストグラム演算を行う専用の積算回路を搭載
しているのが一般的である。
【0003】
【発明が解決しようとする課題】しかしながら、撮像デ
バイスが高階調の画像データを扱うのに伴い、その画像
データの画像サイズや画素データのビット長は極端に大
きくなり、輝度ヒストグラム演算用の積算回路に搭載す
るレジスタ数やメモリ容量も増大するため、消費電力の
増大、実装面積の拡大および製作コストの増大が生じる
という問題があった。例えば、480×640画素サイ
ズで8ビット階調の画像データに対して輝度ヒストグラ
ム演算を行う場合、上記積算回路に搭載するレジスタ数
は最大で2 8個すなわち256個必要であり、輝度値の
度数は最大で307,200(=480×640)回に
なり得るため19ビット長の記憶領域を用意する必要が
ある。また、2メガ(=2×10242)の画素サイズ
で12ビット階調の画像データに対して輝度ヒストグラ
ム演算を行う場合は、上記積算回路に搭載するレジスタ
数は最大で212個すなわち4096個必要であり、輝度
値の度数は最大で2,097,152(=2メガ)にな
り得て21ビット長もの記憶素子が必要となる。
【0004】以上の問題に鑑みて本発明が解決しようと
するところは、専用の積算回路およびメモリを必要とせ
ずに輝度ヒストグラム演算を実行し得る画像処理装置を
提供する点にある。
【0005】
【課題を解決するための手段】上記課題を解決するた
め、請求項1に係る発明は、入力する画像データの輝度
ヒストグラム演算とガンマ補正処理とを実行する画像処
理装置であって、前記ガンマ補正処理の時に、前記画像
データの画素データをアドレス・データとし、該アドレ
ス・データで指定される記憶データを当該画素データの
輝度値に対応するガンマ変換値として出力するルック・
アップ・テーブル用メモリを備え、前記輝度ヒストグラ
ム演算の時に、前記ルック・アップ・テーブル用メモリ
に前記画素データが入力する度に、該ルック・アップ・
テーブル用メモリに予め書き込まれた初期値を起点とし
て該ルック・アップ・テーブル用メモリからの出力値を
インクリメントして得られる積算値を該ルック・アップ
・テーブル用メモリに出力する増分回路と、前記輝度ヒ
ストグラム演算の時に、前記ルック・アップ・テーブル
用メモリの記憶領域に格納されている前記出力値を前記
積算値に書き換えるように制御する制御部と、を備える
ことを特徴とするものである。
【0006】請求項2に係る発明は、請求項1記載の画
像処理装置であって、前記ルック・アップ・テーブル用
メモリは、複数の前記画素データが前記アドレス・デー
タとして並列に入力する複数個のアドレス入力ポート
と、前記各アドレス・データで指定される複数の記憶領
域と、前記各記憶領域から読み出された複数の前記出力
値を並列に出力する複数個のデータ出力ポートと、前記
各記憶領域に書き込まれるデータが並列に入力する複数
個のデータ入力ポートと、を備え、前記増分回路は、前
記各データ出力ポートから出力された前記出力値のビッ
ト列を結合した前記積算値に対してインクリメントを実
行した後、該積算値を元のビット列に分解して前記各デ
ータ入力ポートに出力するものである。
【0007】請求項3に係る発明は、請求項2記載の画
像処理装置であって、前記ルック・アップ・テーブル用
メモリに入力する前記画素データのビット長をN(N:
自然数)、前記出力値のビット長をM(M:自然数)、
および結合される前記出力値のビット列の個数をL
(L:自然数)で表すとき、前記ルック・アップ・テー
ブル用メモリは前記画素データの各々に対して2N/L
レベルの前記出力値を格納し、前記積算値はM×Lビッ
トのデータである。
【0008】請求項4に係る発明は、請求項1〜3の何
れか1項に記載の画像処理装置であって、前記ルック・
アップ・テーブル用メモリの前記記憶領域は、前記アド
レス入力ポートに各色成分毎に並列に入力する画素デー
タに対応して複数に分割されているものである。
【0009】請求項5に係る発明は、請求項1〜4の何
れか1項に記載の画像処理装置であって、前記輝度ヒス
トグラム演算を実行する間、前記ガンマ補正処理を簡易
に実行する簡易ガンマ補正回路を備えたものである。
【0010】請求項6に係る発明は、請求項1〜5の何
れか1項に記載の画像処理装置と、画素データをDMA
(ダイレクト・メモリ・アクセス)転送するDMAコン
トローラとを備え、前記DMAコントローラは、単板式
の色フィルタ・アレイを有する撮像センサで撮像されバ
ッファに格納された画素データを同色成分毎にアドレス
指定して読出し、前記画像処理装置に転送することを特
徴とするものである。
【0011】
【発明の実施の形態】図1は、本発明の実施の形態に係
る画像処理装置1を示す機能ブロック図である。この画
像処理装置1は集積回路化されており、単一画素処理部
4、画素補間部5、ガンマ補正処理部6、色空間変換・
色抑圧処理部7、空間フィルタリング・コアリング処理
部8および解像度変換部9を備えており、デジタル・ス
チル・カメラなどの撮像デバイスに組み込まれている。
【0012】図2は、撮像デバイスにおける画像処理装
置1とその周辺回路とを示す機能ブロック図である。レ
ンズ群などの光学系を透過した光は、CCDやCMOS
などの撮像センサ16の感光部で光電変換されアナログ
信号処理を施された後に、A/D変換器17に出力され
る。A/D変換器17は、撮像センサ16から入力する
アナログ画像信号をA/D変換した原画像データ(Raw
Image Data)をデータ・バス(図示せず)を介して主メ
モリ18の原画像データバッファ18aに出力する。次
いで、DMA(ダイレクト・メモリ・アクセス)コント
ローラ27は、原画像データバッファ18aに格納され
た原画像データの画素データを順次読み出し、図1に示
したデータ・バス2を介して単一画素処理部4に転送さ
せ入力させる。各処理ブロック4〜9は、入力する画素
データをシリアル(逐次的)に画像処理し、最後に解像
度変換部9からデータ・バス2に出力する。出力された
その処理データは、DMAコントローラ27の制御によ
り主メモリ18の処理データバッファ18bに転送され
記憶された後、LCD(液晶表示器)などのディスプレ
イ装置19に転送され画像表示される。尚、図1に示す
ように、単一画素処理部4、画素補間部5、空間フィル
タリング・コアリング処理部8および解像度変換部9は
それぞれ、データ・バス2と個別に接続されており、独
立して画像処理を行うことができる。例えば、単一画素
処理部4から処理データを渡された画素補間部5が、当
該処理データに対して画素補間を施した後にガンマ補正
処理部6に渡さずに、データ・バス2を介して主メモリ
18に転送させ記憶させるという処理が可能である。
【0013】上記単一画素処理部4は、入力する原画像
データを単一画素単位で処理する機能を有し、その原画
像データを複数フレームもしくは複数フィールドに亘り
平均化する経時的平均化処理やシェーディング処理など
を実行する。例えば、経時的平均化処理では、被写体の
露光量が不足している場合、撮像センサ16から通常周
期で読み出した複数フレームまたは複数フィールドに亘
る画素データを累積することで露出量を増大させる処理
が行われる。また、シェーディング処理では、画像の全
体が平均的に一様な明るさになるように、各画素の輝度
値をゲイン調整することで実行される。尚、シェーディ
ングとは、光学系の透過光が当該光学系の中心部に対し
て周辺部で減光したり、撮像センサ16の受光感度が不
均一になったりすることに起因し、被写体画像の本来の
輝度分布と映像信号との間に生ずる変換特性の不整合を
意味している。
【0014】また上記画素補間部5は、5×5画素程度
の局所領域の画素データを記憶する空間レジスタ(図示
せず)を備えており、当該局所領域内の画素データを選
択的に取り出して同一の色成分同士の平均値を算出する
機能などを有している。例えば、上記撮像センサ16が
単板式の色フィルタ・アレイを搭載している場合、撮像
センサ16から出力される画像データは各画素に対して
単色成分しかもたないため、各画素が3色成分もしくは
4色成分をもつように不足の色成分を画素補間する必要
がある。3色成分としては「R(赤色)」,「G(緑
色)」,「B(青色)」などの3原色成分、4色成分と
しては「Y(イエロー色)」,「M(マゼンダ色)」,
「C(シアン色)」,「G(緑色)」などの補色系色成
分が挙げられる。画素補間部5は、このような画素補間
処理を実行できる。
【0015】また上記ガンマ補正処理部6は、図1に示
すように、人間の視覚特性や内部の画像処理に適合する
ように、入力する画像データのガンマ特性を補正するガ
ンマ補正機能を有する。このためガンマ補正処理部6
は、SRAM(Static RandomAccess Memory)などのル
ック・アップ・テーブル(以下、LUTと略す。)用メ
モリ11を有するLUT演算回路10を備えている。L
UT用メモリ11は、例えば数千階調の各輝度値に対応
するLUT変換値を保持している。LUT演算回路10
は、入力する画素データの輝度値(入力値)をアドレス
・データとしてLUT用メモリ11に出力し、LUT用
メモリ11は当該アドレス・データで指定されるLUT
変換値(出力値)を選択(LUT変換)して出力するも
のである。LUT用メモリ11の記憶データはCPU3
の制御により書き換えることができるから、特定範囲の
輝度値を強調もしくは低減し、低輝度領域に現れるノイ
ズの除去や特定階調の反転などを実現するLUT変換値
をCPU3の制御で自在に設定できる。尚、図1で明示
していないが、CPU3はデータ・バス2経由でLUT
用メモリ11にアクセスする。
【0016】またガンマ補正処理部6は、3〜5段階で
画素データの輝度値を簡易的にガンマ変換する簡易ガン
マ補正回路12をも備えている。またCPU3は、第1
セレクタ14および第2セレクタ15に対して「0」側
端子と「1」側端子との何れかを選択させる制御信号H
ENをレジスタ13に転送し保持させる。そのレジスタ1
3から伝達する前記制御信号HENのレベルがL(Low)
レベルのとき、第1セレクタ14は画素補間部5から
「0」側端子に入力する画素データをLUT演算回路1
0に出力し、第2セレクタ15はLUT演算回路10か
ら「0」側端子に入力するガンマ補正データを色空間変
換・色抑圧処理部7に出力する。他方、レジスタ13か
ら伝達する制御信号HENのレベルがH(High)レベルの
ときは、第1セレクタ14は単一画素処理部4から
「1」側端子に入力する画素データをLUT演算回路1
0に出力し、第2セレクタ15は簡易ガンマ補正回路1
2から「1」側端子に入力するガンマ補正データを色空
間変換・色抑圧処理部7に出力する。このとき、LUT
演算回路10は後に詳述するように輝度ヒストグラム演
算を行う回路として機能する。
【0017】また、上記色空間変換・色抑圧処理部7
は、例えば3原色のRGB信号からYCbCr信号
(Y:輝度信号/Cb,Cr:色差信号)へ色空間を変
換する色空間変換機能と、画像中の明部と暗部の色抑圧
(クロマサプレス;偽色防止)を行う色抑圧機能とを備
えている。色空間変換機能で変換先の色空間としては、
YCbCr色空間の他に、NTSC(National Televis
ion System Committee)方式などで規定されているYI
Q色空間などを採用しても構わない。また色抑圧機能
は、画像に現れる高輝度の明部および低輝度の暗部の発
色を抑制することで自然な画質を実現するものである。
一般に、画像に現れる暗部は様々なノイズの影響を受け
易い部分であり、明部は撮像素子やその他の種々のハー
ドウェアの特性に応じて変調の影響を受けやすくホワイ
ト・バランスが狂いやすい部分であるため、明部と暗部
では共に発色を抑制することが自然な画質に繋がる。
【0018】また、上記空間フィルタリング・コアリン
グ処理部8は、5×5画素程度の局所領域に対応する5
×5個の係数値をもつ空間フィルタを適用し、当該空間
フィルタの各係数値を対応する画素データに重み付け
(乗算)し加算するという積和演算を実行する空間フィ
ルタリング機能と、空間フィルタリング処理を施した画
像データに対して一般的な非線形処理(コアリング)を
施すコアリング機能とを有している。空間フィルタリン
グ機能とコアリング機能とにより、例えば低周波数成分
のみを出力したり、画像に含まれるノイズ成分を除去し
たり、線およびエッジ部分を強調(輪郭強調)したりす
ることができる。
【0019】そして、上記解像度変換部9は、前記空間
フィルタリング・コアリング処理部8から出力される画
像データのサイズを、バイリニア法(線形補間法)など
に基づいて縮小または拡大する機能を有している。
【0020】次に、上記ガンマ補正処理部6の回路構成
例およびその動作について以下に詳説する。図3はこの
ガンマ補正処理部6の概略構成を示す回路図である。こ
のガンマ補正処理部6には、上記単一画素処理部4およ
び画素補間部5から出力された処理データが入力する。
単一画素処理部4は、原画像データバッファ18aから
DMA転送された12ビット長の画素データを単一画素
単位で処理して同ビット長の処理データを出力し、画素
補間部5は、単一画素処理部4から入力する画素データ
を画素補間処理して4色成分の補間データ(Color0, Co
lor1, Color2,Color3)すなわち合計48(=4×1
2)ビット長の補間データを出力する。本実施の形態で
は、A/D変換器17はアナログ画像信号を10ビット
階調の原画像データにA/D変換し出力する。原画像デ
ータバッファ18aに格納される原画像データは、A/
D変換器17から出力される10ビット・データに上位
2ビットを追加した12ビット・データである。
【0021】またLUT用メモリ11は、アドレス入力
ポート(Adr0, Adr1, Adr2, Adr3)にそれぞれ入力する
12ビット長のアドレス・データに対して、データ出力
ポート(Dout0, Dout1, Dout2, Dout3)からそれぞれ8
ビット長のLUT変換値を出力する。このためLUT用
メモリ11は合計4096×8ビットの記憶領域を備え
ている。また入力する12ビット・データの有効ビット
は下位10ビットであり、その記憶領域は、1024
(=210)レベルの8ビット長のLUT変換値を各色成
分毎に格納するために各色成分毎に4つの記憶領域に分
割されている。またLUT用メモリ11は、アドレス入
力ポート(Adr0, Adr1, Adr2, Adr3)に入力するアドレ
ス・データで指定される記憶領域に、データ入力ポート
(Din0, Din1, Din2, Din3)に入力するデータを書込
み、LUT変換値を書き換えることが可能である。
【0022】このようなガンマ補正処理部6は、ガンマ
補正機能と輝度ヒストグラム演算機能とを有している。
ガンマ補正処理部6がガンマ補正モードにあるとき、C
PU3はレジスタ13にLレベルの制御信号HENを転送
し保持させる。第1セレクタ14および第2セレクタ1
5はそれぞれ、レジスタ13から伝達する制御信号H EN
により「0」側端子を選択する。
【0023】また、CPU3はLUT用メモリ11にガ
ンマ変換用のLUT変換値を書き込むように制御する。
すなわち、先ず、CPU3はレジスタ22,23にそれ
ぞれHレベルの制御信号CACS,CDを転送し保持させ
る。これにより、セレクタ20A,20Bはそれぞれ、
レジスタ22から伝達するアクセス制御信号CACSによ
り「1」側端子を選択し、セレクタ21A,21B,2
1C,21Dはそれぞれ、レジスタ23から伝達するデ
ータ切換制御信号CDにより「1」側端子を選択する。
そしてCPU3は、自己の出力端子(Adr)から10ビ
ット長のアドレス・データを出力し、ビット幅拡張器2
4は伝達したそのアドレス・データを4本の10ビット
・データに拡張してセレクタ20Aを介してLUT用メ
モリ11に出力する。セレクタ20Aから出力された4
本のアドレス・データは、それぞれ、セレクタ21A、
21B,21C,21Dから出力された上位2ビットの
「0x0」,「0x1」,「0x2」,「0x3」(0
x:16進数表記を示す接頭記号)と結合され、12ビ
ット長のデータとして各アドレス入力ポート(Adr0〜Ad
r3)に入力する。ここで、「0x0」〜「0x3」の値
はそれぞれ各色成分に対応するLUT用メモリ11の記
憶領域を指定するものである。また、CPU3は、WE
(ライト・イネーブル)信号(図示せず)をLUT用メ
モリ11に供給した状態で、自己の出力端子(Dout)か
ら、4本の8ビット長のガンマ変換値をそれぞれセレク
タ20Bを介してLUT用メモリ11の各データ入力ポ
ート(Din0〜Din3)に伝達させる。そして、LUT用メ
モリ11は入力するガンマ変換値を当該アドレス・デー
タで指定された記憶素子に書き込む。
【0024】上記ガンマ変換値の書込みが終了した後、
CPU3はLレベルの制御信号CAC Sをレジスタ22に
転送し保持させる。これにより、セレクタ20A,20
Bはそれぞれレジスタ22から伝達する制御信号CACS
により「0」側端子を選択し、セレクタ21A〜21D
はレジスタ23から伝達するHレベルの制御信号CD
より「1」側端子を選択する。その後、単一画素処理部
4にDMA転送された画素データは逐次的に処理され、
画素補間部5から、各色成分(Color0〜Color3)毎に4
本の12ビット長の画素データとなってガンマ補正処理
部6に入力する。その4本の画素データは、各色成分毎
に上位2ビット・データと下位10ビット・データとに
分離され、上位2ビット・データはそれぞれ、セレクタ
21A〜21Dの「0」側端子に入力する。他方、4本
の下位10ビット・データは第1セレクタ14およびセ
レクタ20Aを介して伝達し、それぞれが、セレクタ2
1A〜21Dから出力される「0x0」,「0x1」,
「0x2」,「0x3」の上位2ビット・データと結合
され、12ビット・データとなってLUT用メモリ11
の各アドレス入力ポート(Adr0〜Adr3)に入力する。L
UT用メモリ11は、RE(リード・イネーブル)信号
を供給された状態で、各アドレス入力ポートに入力する
各画素データの輝度値をアドレス・データとして8ビッ
ト長のガンマ変換値(LUT変換値)を選択し、各デー
タ出力ポート(Dout0〜Dout3)から出力する。そのガン
マ変換値(補正データ)は、第2セレクタ15を介して
色空間変換・色抑圧処理部7に出力される。
【0025】尚、上述した通り、本実施の形態ではA/
D変換器17は10ビット・データを出力し、単一画素
処理部4に入力する12ビット・データの有効ビットは
下位10ビットである。この代わりに、上記A/D変換
器17がアナログ画像信号を12ビット階調のデータに
A/D変換して出力し、単一画素処理部4がその12ビ
ット階調のデータを処理できる場合は、LUT用メモリ
11を4096(=2 12)レベルのLUT変換値を格納
するメモリとして使用してもよい。かかる場合、CPU
3はレジスタ23にLレベルの制御信号CDを転送し保
持させる。これにより、セレクタ21A〜21Dはそれ
ぞれ「0」側端子を選択する。このとき、ガンマ補正処
理部6に入力する4本の12ビット長の画素データは、
各色成分毎に上位2ビット・データと下位10ビット・
データに分離され、上位2ビット・データはセレクタ2
1A〜21Dの「0」側端子に入力する。他方、4本の
下位10ビット・データはそれぞれ、セレクタ14,2
0Aを介して伝達し、それぞれが、セレクタ21A〜2
1Dから出力される上位2ビット・データと結合され、
12ビット・データとなってLUT用メモリ11に入力
する。次いで、LUT用メモリ11は、色成分に関係無
く、12ビット入力の画素データに対して8ビット長の
ガンマ変換値を出力する。従って、本実施の形態に係る
ガンマ補正処理部6は、画素補間部5から入力する画素
データの有効ビットが10ビット、12ビットの何れの
場合でも対処することができる。
【0026】また、A/D変換器17がアナログ画像信
号を12ビット階調のデータにA/D変換して出力し、
単一画素処理部4がその12ビット・データを処理でき
る場合、その12ビット・データの上位10ビットを有
効ビットにしてもよい。このとき、上記画素補間部5は
4本の12ビット長の画素データの上位10ビット・デ
ータを第1セレクタ14の「1」側端子に出力する。ま
た画素補間部5はその下位2ビット・データを各色成分
(Color0〜Color3)毎にセレクタ21A〜21Dの
「0」側端子に出力する。そして、セレクタ21A〜2
1Dは、それぞれ、制御信号CDの制御により「1」側
端子を選択し、「0x0」,「0x1」,「0x2」,
「0x3」のデータを出力する。これら「0x0」,
「0x1」,「0x2」,「0x3」の各2ビット・デ
ータと、第1セレクタ14とセレクタ20Aとを介して
伝達する各10ビット・データとは各色成分毎に結合し
12ビット・データとなってLUT用メモリ11の各ア
ドレス入力ポート(Adr0〜Adr3)に入力する。以上の構
成により、LUT用メモリ11は、画素補間部5から出
力された4本の12ビット長の画素データの上位10ビ
ット入力に対するLUT変換値を各データ出力ポート
(Dout0〜Dout3)から出力することができる。
【0027】次に、上記ガンマ補正処理部6が輝度ヒス
トグラム演算を行うモードのとき、CPU3はレジスタ
13にHレベルの制御信号HENを転送し保持させる。こ
れにより、第1セレクタ14および第2セレクタ15は
それぞれ、レジスタ13から伝達する制御信号HENによ
り「1」側端子を選択する。
【0028】また、LUT用メモリ11は、輝度ヒスト
グラム演算の積算値(度数;画像データの各輝度値の発
生回数)の記憶領域として利用される。よって、先ず、
CPU3は、LUT用メモリ11に前記積算値の初期値
(零)を書き込むように制御する。すなわち、CPU3
はレジスタ22,23にそれぞれHレベルの制御信号C
ACS,CDを転送し保持させる。これにより、セレクタ2
0A,セレクタ20Bはそれぞれレジスタ22から伝達
するアクセス制御信号CACSにより「1」側端子を選択
し、セレクタ21A〜21Dはそれぞれ、レジスタ23
から伝達するデータ切換制御信号CDにより「1」側端
子を選択する。そして、CPU3は、出力端子(Adr)
から10ビット長のアドレス・データを出力し、ビット
幅拡張器24は伝達したそのアドレス・データを4本の
10ビット長のデータに拡張してセレクタ20Aを介し
てLUT用メモリ11に出力する。次いで、セレクタ2
0Aから出力された4本のアドレス・データは、それぞ
れ、セレクタ21A〜21Dから出力された上位2ビッ
トの「0x0」,「0x1」,「0x2」,「0x3」
の値と結合され、12ビット・データとなって各アドレ
ス入力ポート(Adr0〜Adr3)に入力する。また、CPU
3は、WE信号をLUT用メモリ11に供給した状態
で、自己の出力端子(Dout)から、4本の8ビット長の
初期値をそれぞれセレクタ20Bを介してLUT用メモ
リ11の各データ入力ポート(Din0〜Din3)に伝達させ
る。そして、LUT用メモリ11は入力する初期値
(零)を当該アドレス・データで指定された記憶素子に
書き込む。
【0029】次に上記初期値の書込みが終了した後、C
PU3はレジスタ22にLレベルの制御信号CACSを転
送し保持させる。これにより、セレクタ20A,20B
はそれぞれ「0」側端子を選択する。その後、単一画素
処理部4にDMA転送された画素データは単一画素単位
で処理を施された後にビット幅拡張器25に出力され
る。ビット幅拡張器25は、入力する12ビット・デー
タの有効ビットが下位10ビットの場合、その下位10
ビット・データを4本の10ビット・データに拡張し、
第1セレクタ14を介してセレクタ20Aの「0」側端
子に出力する。尚、上記のようにA/D変換器17が1
2ビット階調のデータを出力するためその12ビット・
データの上位10ビットが有効ビットとされる場合は、
ビット幅拡張器25は、その上位10ビットを4本のビ
ット・データに拡張し、第1セレクタ14を介してセレ
クタ20Aの「0」側端子に出力する。
【0030】セレクタ20Aから出力された4本の10
ビット・データはそれぞれ、セレクタ21A〜21Dか
ら出力された上位2ビットの「0x0」,「0x1」,
「0x2」,「0x3」の値と結合され、12ビット・
データとなってLUT用メモリ11のアドレス入力ポー
ト(Adr0〜Adr3)に入力する。この時、LUT用メモリ
11は、CPU3からRE信号を供給された状態で、入
力する4本の12ビット・データでアドレス指定される
8ビット長の変換値を読み出し、これらをデータ出力ポ
ート(Dout0〜Dout3)から増分回路26に出力する。増
分回路26は、入力する4本の変換値のビット列を結合
した32ビット長のデータを積算値として扱い、当該積
算値に「1」の値をインクリメントする。その後、増分
回路26はその積算値を元のビット列に分解してセレク
タ20Bに出力する。増分回路26から出力された4本
の8ビット・データはそれぞれ、セレクタ20Bを介し
てLUT用メモリ11の各データ入力ポート(Adr0〜Ad
r3)に伝達される。この時、LUT用メモリ11はCP
U3からWE信号を供給され、前記データ入力ポートに
入力する各8ビット・データで前記各変換値を書き換え
る。尚、上記RE信号およびWE信号は、CPU3の代
わりに、専用のタイミング生成回路で生成されてもよ
い。
【0031】図4は、上記積算値30のデータ構成を示
す模式図である。図4中、符号30a,30b,30
c,30dはそれぞれ、各データ出力ポート(Dout0〜D
out3)から出力される8ビット長のLUT変換値を示し
ている。上記増分回路26は、入力する4本の8ビット
・データ30a〜30dを結合したデータを32ビット
長の積算値30として扱うため、LUT用メモリ11は
32ビット長の積算空間として利用される。すなわち、
LUT用メモリ11は、4(=22)色成分の各々に対
応する記憶領域を備え、各記憶領域に、12ビット入力
に対応する1024(=212/4)個の8ビット長のL
UT変換値を格納している。
【0032】また本実施の形態では、LUT用メモリ1
1の記憶領域は4色成分の各々のために4つの記憶領域
に分割されているが、これに限らず、LUT用メモリ1
1の全記憶領域を全ての色成分に対して共通にしてもよ
い。上述したように上記A/D変換器17が12ビット
階調のデータを出力し、単一画素処理部4から処理され
出力された12ビット・データの有効ビットを12ビッ
トとする場合は、LUT用メモリ11は、各色成分の1
2ビット入力に対応する4096(=1212)レベルの
8ビット長のLUT変換値を出力できる。
【0033】今、LUT用メモリが、Nビット入力
(N:自然数)に対してMビット長(M:自然数)のL
UT変換値を出力するものとし、色成分の個数に基づい
て分割されるLUT用メモリの記憶領域の個数をL
(L:自然数)で表すとすれば、LUT用メモリは、各
色成分の入力ビットに対応する2N/Lレベルの前記変
換値を格納でき、M×Lビットの積算空間を有すること
が可能となる。
【0034】以上のように単一画素処理部4から、1フ
レームもしくは1フレーム内の特定領域の画素データを
輝度ヒストグラム演算モードにあるガンマ補正処理部6
に出力することで、LUT用メモリ11に各画素データ
の輝度値の積算値(度数)を格納できる。従って、従来
のように輝度ヒストグラム演算用の積算回路や大容量メ
モリを専用で設ける必要は無くなるため、消費電力の低
減、回路構成の小規模化および装置の低廉化が可能とな
る。
【0035】尚、上記LUT用メモリ11が、上記RE
信号とWE信号とが独立に入力する2ポートを有する2
ポート・メモリである場合は、1画素クロック周期(1
画素データを処理するための基準クロック周期)の間
に、LUT用メモリ11からの積算値の読出しと、当該
積算値をインクリメントした値のLUT用メモリ11へ
の格納とが当該1画素クロック周期内で実行される。他
方、上記LUT用メモリ11が上記RE信号とWE信号
とを共通ポートで入力する1ポート・メモリである場合
は、1画素クロック周期の前半で前記積算値の読出しを
行い、その後半で読出した積算値をインクリメントした
値のLUT用メモリ11への格納を行うのが望ましい。
【0036】以上の輝度ヒストグラム演算が終了した後
は、CPU3はレジスタ22にHレベルの制御信号C
ACSを転送し保持させる。これによりセレクタ20A,
20Bは、レジスタ22から伝達する制御信号CACS
より「1」側端子を選択する。次いで、CPU3は、L
UT用メモリ11にRE信号を供給した状態で、上述し
た通りにアドレス入力ポート(Adr0〜Adr3)にアドレス
・データを出力し、LUT用メモリ11のデータ出力ポ
ート(Dout0〜Dout3)から、各輝度値に対応する積算値
(ヒストグラム・データ)を読出し、当該CPU3の入
力端子(Din)に取り込むように制御する。CPU3
は、取り込んだヒストグラム・データに基づいて撮像セ
ンサ16で撮像した画像データの画像特性を解析し、ホ
ワイト・バランスの微調整などを制御できる。
【0037】ところで、上記ガンマ補正処理部6が輝度
ヒストグラム演算を実行する間、画素補間部5から出力
される画素データは、簡易ガンマ補正回路12に伝達さ
れ簡易的なガンマ変換を受けた後に第2セレクタ15を
介して色空間変換・色抑圧処理部7に出力される。これ
により、輝度ヒストグラム演算とガンマ補正処理とを並
行して実行できる。例えば、デジタル・スチル・カメラ
などの撮像デバイスにおいて上記ディスプレイ装置19
などで被写体をファインダー表示する間は、輝度ヒスト
グラム演算と並行して簡易ガンマ補正回路12を動作さ
せ、本撮影時にはガンマ補正処理部6をガンマ補正処理
のモードに切り換えるという利用法が可能となる。
【0038】また、上記した動作例では、上記撮像セン
サ16は単板式の色フィルタ・アレイを備えるため、単
一画素処理部4からガンマ補正処理部6に入力する画素
データは各画素に対して単色成分しかもたない。図5に
示すように、各画素に対して「X1」,「X2」,「X
3」,「X4」の単色成分もつ原画像データ31が図2
に示す主メモリ18の原画像データバッファ18aに格
納されている場合、DMAコントローラ27は、X1,
X2,X1,X2,…,X3,X4,X3,X4,…の
ように点順次でアドレス指定して画素データを読み出
し、単一画素処理部4に転送できる。かかる場合、ガン
マ補正処理部6における輝度ヒストグラム演算は色成分
の区別無く実行される。他方で、DMAコントローラ2
7は、図5の矢印に示すように、X1,X1,X1,…
のように同色成分のみを選択的にアドレス指定して画素
データを読出し、単一画素処理部4に転送してもよい。
かかる場合、ガンマ補正処理部6における輝度ヒストグ
ラム演算は、同色成分毎に行うことが可能となる。
【0039】
【発明の効果】以上の如く、本発明の請求項1に係る画
像処理装置によれば、画像処理装置に組み込まれている
ガンマ補正用のルック・アップ・テーブル用メモリを、
輝度ヒストグラム演算時に算出される積算値を格納する
記憶領域として使用できる。このため、輝度ヒストグラ
ム演算のためだけの積算回路や大規模なメモリをもつ必
要無しに、ハードウェア処理で輝度ヒストグラムを迅速
に算出でき、低い消費電力で小型且つ低廉な画像処理装
置を実現できる。
【0040】請求項2によれば、上記積算値のビット長
を大幅に拡張することができる。従って、輝度ヒストグ
ラム演算を極めて高精度に行うことが可能となる。
【0041】請求項3によれば、例えば、上記ルック・
アップ・テーブル用メモリが4本の12ビット長の画素
データの入力に対して4本の8ビット長の出力値を出力
する場合、各出力値のビット列を結合することで、32
(=8×4)ビットの拡張した積算空間を得ることが可
能となる。
【0042】請求項4によれば、複数色成分のガンマ変
換を行うルック・アップ・テーブル用メモリの記憶領域
を輝度ヒストグラム演算に使用できるため、高精度な輝
度ヒストグラム演算が可能となる。
【0043】請求項5によれば、輝度ヒストグラム演算
がLUT用メモリを占有しても、輝度ヒストグラム演算
と画像処理とを並行して行うことが可能となる。
【0044】請求項6に係る画像処理システムによれ
ば、輝度ヒストグラム演算を同色成分毎に行えるため、
信頼性の高い輝度ヒストグラムを得ることが可能とな
る。
【図面の簡単な説明】
【図1】本発明の実施の形態に係る画像処理装置を示す
機能ブロック図である。
【図2】実施の形態に係る画像処理装置と周辺回路とを
示す機能ブロック図である。
【図3】実施の形態に係るガンマ補正処理部の概略構成
を示す回路図である。
【図4】輝度ヒストグラム演算で算出される積算値のデ
ータ構成を示す模式図である。
【図5】原画像データの色成分配列を示す模式図であ
る。
【符号の説明】
1 画像処理装置 2 データ・バス 3 CPU 4 単一画素処理部 5 画素補間部 6 ガンマ補正処理部 10 LUT演算回路 11 LUT用メモリ 12 簡易ガンマ補正回路 14,15 セレクタ 16 撮像センサ 17 A/D変換器 18 主メモリ
フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) H04N 9/64 H04N 1/40 101E Fターム(参考) 5B057 AA01 CA01 CA08 CA12 CA16 CB01 CB08 CB12 CB16 CC01 CE11 CH01 CH05 CH14 CH20 DB02 DB06 DB09 DC23 5C021 PA38 PA71 PA78 XA34 XB16 5C066 AA01 AA11 CA03 EC03 EC05 EC12 GA01 GA02 KC07 KE01 KE07 KL02 KM05 KP05 5C077 LL04 LL17 PP15 PQ08 PQ12 PQ19 PQ22 PQ23 TT06 TT09

Claims (6)

    【特許請求の範囲】
  1. 【請求項1】 入力する画像データの輝度ヒストグラム
    演算とガンマ補正処理とを実行する画像処理装置であっ
    て、 前記ガンマ補正処理の時に、前記画像データの画素デー
    タをアドレス・データとし、該アドレス・データで指定
    される記憶データを当該画素データの輝度値に対応する
    ガンマ変換値として出力するルック・アップ・テーブル
    用メモリを備え、 前記輝度ヒストグラム演算の時に、前記ルック・アップ
    ・テーブル用メモリに前記画素データが入力する度に、
    該ルック・アップ・テーブル用メモリに予め書き込まれ
    た初期値を起点として該ルック・アップ・テーブル用メ
    モリからの出力値をインクリメントして得られる積算値
    を該ルック・アップ・テーブル用メモリに出力する増分
    回路と、 前記輝度ヒストグラム演算の時に、前記ルック・アップ
    ・テーブル用メモリの記憶領域に格納されている前記出
    力値を前記積算値に書き換えるように制御する制御部
    と、を備えることを特徴とする画像処理装置。
  2. 【請求項2】 請求項1記載の画像処理装置であって、 前記ルック・アップ・テーブル用メモリは、 複数の前記画素データが前記アドレス・データとして並
    列に入力する複数個のアドレス入力ポートと、 前記各アドレス・データで指定される複数の記憶領域
    と、 前記各記憶領域から読み出された複数の前記出力値を並
    列に出力する複数個のデータ出力ポートと、 前記各記憶領域に書き込まれるデータが並列に入力する
    複数個のデータ入力ポートと、を備え、 前記増分回路は、前記各データ出力ポートから出力され
    た前記出力値のビット列を結合した前記積算値に対して
    インクリメントを実行した後、該積算値を元のビット列
    に分解して前記各データ入力ポートに出力する、画像処
    理装置。
  3. 【請求項3】 請求項2記載の画像処理装置であって、
    前記ルック・アップ・テーブル用メモリに入力する前記
    画素データのビット長をN(N:自然数)、前記出力値
    のビット長をM(M:自然数)、および結合される前記
    出力値のビット列の個数をL(L:自然数)で表すと
    き、前記ルック・アップ・テーブル用メモリは前記画素
    データの各々に対して2N/Lレベルの前記出力値を格
    納し、前記積算値はM×Lビットのデータである、画像
    処理装置。
  4. 【請求項4】 請求項1〜3の何れか1項に記載の画像
    処理装置であって、 前記ルック・アップ・テーブル用メモリの前記記憶領域
    は、前記アドレス入力ポートに各色成分毎に並列に入力
    する画素データに対応して複数に分割されている、画像
    処理装置。
  5. 【請求項5】 請求項1〜4の何れか1項に記載の画像
    処理装置であって、前記輝度ヒストグラム演算を実行す
    る間、前記ガンマ補正処理を簡易に実行する簡易ガンマ
    補正回路を備えてなる画像処理装置。
  6. 【請求項6】 請求項1〜5の何れか1項に記載の画像
    処理装置と、画素データをDMA(ダイレクト・メモリ
    ・アクセス)転送するDMAコントローラとを備え、 前記DMAコントローラは、単板式の色フィルタ・アレ
    イを有する撮像センサで撮像されバッファに格納された
    画素データを同色成分毎にアドレス指定して読出し、前
    記画像処理装置に転送することを特徴とする画像処理シ
    ステム。
JP2001175679A 2001-06-11 2001-06-11 画像処理装置および画像処理システム Expired - Fee Related JP3753954B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2001175679A JP3753954B2 (ja) 2001-06-11 2001-06-11 画像処理装置および画像処理システム
US10/163,578 US6967660B2 (en) 2001-06-11 2002-06-07 Image processing apparatus and image processing system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001175679A JP3753954B2 (ja) 2001-06-11 2001-06-11 画像処理装置および画像処理システム

Publications (2)

Publication Number Publication Date
JP2002369034A true JP2002369034A (ja) 2002-12-20
JP3753954B2 JP3753954B2 (ja) 2006-03-08

Family

ID=19016766

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001175679A Expired - Fee Related JP3753954B2 (ja) 2001-06-11 2001-06-11 画像処理装置および画像処理システム

Country Status (2)

Country Link
US (1) US6967660B2 (ja)
JP (1) JP3753954B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008217785A (ja) * 2007-03-01 2008-09-18 Seiko Epson Corp 表示コントローラおよび画像データ変換方法
JP2010021694A (ja) * 2008-07-09 2010-01-28 Fujitsu Microelectronics Ltd エッジ強調画像処理装置

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4521747B2 (ja) * 2002-12-13 2010-08-11 シャープ株式会社 物体情報処理装置、画像処理システム、ゲーム装置および画像処理方法
US7535476B2 (en) * 2003-08-14 2009-05-19 Broadcom Corporation Method and system color look-up table (CLUT) random access memory arrangement for CLUT and gamma correction application
US7489362B2 (en) 2003-03-04 2009-02-10 Broadcom Corporation Television functionality on a chip
JP2005260405A (ja) * 2004-03-10 2005-09-22 Matsushita Electric Ind Co Ltd 画像処理装置および画像処理方法
US7688337B2 (en) * 2004-05-21 2010-03-30 Broadcom Corporation System and method for reducing image scaling complexity with flexible scaling factors
JP2006203540A (ja) * 2005-01-20 2006-08-03 Toshiba Corp 映像信号処理装置及び映像信号処理方法
US20080068404A1 (en) * 2006-09-19 2008-03-20 Tvia, Inc. Frame Rate Controller Method and System
US20080068293A1 (en) * 2006-09-19 2008-03-20 Tvia, Inc. Display Uniformity Correction Method and System
US20080068396A1 (en) * 2006-09-19 2008-03-20 Tvia, Inc. Gamma Uniformity Correction Method and System
US7701496B2 (en) * 2006-12-22 2010-04-20 Xerox Corporation Color filter pattern for color filter arrays including a demosaicking algorithm
US9064459B2 (en) * 2007-06-29 2015-06-23 Samsung Electronics Co., Ltd. Display apparatus and brightness adjusting method thereof
JP2022150350A (ja) * 2021-03-26 2022-10-07 セイコーエプソン株式会社 画像処理回路、回路装置及び電子機器

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60139080A (ja) * 1983-12-27 1985-07-23 Canon Inc 画像処理装置
US6046827A (en) * 1995-05-26 2000-04-04 Minolta Co., Ltd. Film image reading system

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008217785A (ja) * 2007-03-01 2008-09-18 Seiko Epson Corp 表示コントローラおよび画像データ変換方法
JP2010021694A (ja) * 2008-07-09 2010-01-28 Fujitsu Microelectronics Ltd エッジ強調画像処理装置

Also Published As

Publication number Publication date
US20020186223A1 (en) 2002-12-12
US6967660B2 (en) 2005-11-22
JP3753954B2 (ja) 2006-03-08

Similar Documents

Publication Publication Date Title
JP3532781B2 (ja) 画像入力装置の画像処理回路
US8810675B2 (en) Image processing apparatus having a plurality of image processing blocks that are capable of real-time processing of an image signal
US6201530B1 (en) Method and system of optimizing a digital imaging processing chain
US5568192A (en) Method and apparatus for processing digital video camera signals
JP3753954B2 (ja) 画像処理装置および画像処理システム
US7969793B2 (en) Register configuration control device, register configuration control method, and program for implementing the method
JP2009225286A (ja) 画像撮像装置
JPH0865546A (ja) シェーディング補正係数生成回路およびシェーディング補正係数生成方法
JP2000244936A (ja) ディジタルスチルカメラの動作方法
JP2000152260A (ja) 撮像素子の駆動方法および撮像装置
US20030038973A1 (en) Gray scale scanning method and system
JP2002209228A (ja) 画像処理装置
JP3748446B2 (ja) 画像入力装置の画像処理回路
US7362362B2 (en) Reformatter and method
JP2003348442A (ja) テレビジョンカメラ装置
US20230388661A1 (en) Integrated circuit with multi-application image processing
JP4132264B2 (ja) 画像信号処理回路
JP2002359856A (ja) データ変換回路およびデジタル・カメラ
JP3514523B2 (ja) ガンマ補正回路
JP2005318387A (ja) 画像処理装置及びその色判定方法、画像機器
JP2002199275A (ja) ディジタルカメラ及び撮像方法
JPH11187419A (ja) 信号処理装置及び信号処理方法
JP2004241813A (ja) 撮像装置およびデジタル画像処理方法
JPH11252575A (ja) 単板式デジタル出力カラービデオカメラ
JPH0923372A (ja) 画像入力装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20051025

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051115

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20051213

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20051214

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 3753954

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081222

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091222

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101222

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111222

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121222

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121222

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151222

Year of fee payment: 10

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees