JP4767525B2 - 撮像システム及び撮像処理プログラム - Google Patents
撮像システム及び撮像処理プログラム Download PDFInfo
- Publication number
- JP4767525B2 JP4767525B2 JP2004332200A JP2004332200A JP4767525B2 JP 4767525 B2 JP4767525 B2 JP 4767525B2 JP 2004332200 A JP2004332200 A JP 2004332200A JP 2004332200 A JP2004332200 A JP 2004332200A JP 4767525 B2 JP4767525 B2 JP 4767525B2
- Authority
- JP
- Japan
- Prior art keywords
- conversion
- procedure
- signal
- unit
- white balance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
(構成)
請求項1の本発明による撮像システムは、カラー撮像素子からの信号を処理する撮像システムにおいて、白色の被写体が設定値となるよう露出制御を行う露出制御手段と、上記撮像素子からの信号を所定のビット精度で量子化する量子化手段と、上記量子化手段で量子化された信号にビット精度を増加してホワイトバランス処理を行うホワイトバランス手段と、上記ホワイトバランス手段でホワイトバランス処理された信号の階調特性を圧縮変換することにより、上記ホワイトバランス手段にて増加されたビット精度を増加前のビット精度以下に変換する圧縮変換手段と、を有し、上記圧縮変換手段は、圧縮変換の関わる階調変換特性を上記ホワイトバランス手段で用いられるホワイトバランス係数に基づき決定する階調変換部と、上記階調変換特性に基づき階調特性の圧縮変換を行う手段と、を有する。
この発明に関する実施例は、図1〜図6に示される実施例1および図7〜図18に示される実施例2および図19〜図25に示される実施例3が対応する。請求項中の露出制御手段は図1,図7,図19に示される絞り101,CCD103,測光評価部108が、請求項中の量子化手段は図1,図7,図19に示されるA/D105が、請求項中のホワイトバランス手段は図1,図7,図19に示されるGain104,PreWB部107,WB部111が、請求項中の圧縮変換手段は図1,図3,図19に示される圧縮変換部112及び図7,図8に示される圧縮変換部112Aが該当する。図3の圧縮変換部112は階調変換部203を含んでいる。図8の圧縮変換部112Aはゲイン乗算部501を含んでいる。
ホワイトバランス後の信号を所定のビット精度になるよう圧縮変換する。
ホワイトバランス後の処理系のビット精度を増加する必要が無く、システムを低コストで実現できる。また、所定のビット精度を上回る信号に対して最大値への置換でなく、圧縮変換を行うため色相,彩度の変化を緩和でき自然な色再現が得られる。
(構成)
請求項1における階調変換部は、上記露出制御手段で設定される白色の被写体に対する設定値に基づき変曲点を設定する変曲点設定手段と、上記変曲点以下の信号を変換する第1の変換特性と上記変曲点以上の信号を変換する第2の変換特性を設定する変換特性設定手段と、を有し、上記第2の変換特性を上記量子化手段で用いられる所定のビット精度および上記ホワイトバランス手段で用いられるホワイトバランス係数に基づき設定することを特徴とする。
この発明に関する実施例は、図1〜図6に示される実施例1および図19〜図25に示される実施例3が対応する。請求項中の変曲点設定手段は図3( a )に示される変曲点設定部200が、請求項中の変換特性設定手段は図3( a )に示される圧縮特性設定部201が該当する。
露出制御の白色値から変曲点を設定し、変曲点以下と以上で異なる変換特性を設定し圧
縮変換する。第2の変換特性を上記量子化手段で用いられる所定のビット精度および上記ホワイトバランス手段で用いられるホワイトバランス係数に基づき設定する。
変曲点以下と以上で異なる変換特性を設定するため、変曲点以下では色相と彩度を保存し、変曲点以上では違和感の少ない色再現を行うこと可能となり、全体として高品位な信号の生成が可能となる。
(構成)
請求項2における変換特性設定手段は、上記第1の変換特性を線形に設定し、上記第2の変換特性を上記量子化手段で用いられる所定のビット精度および上記ホワイトバランス手段で用いられるホワイトバランス係数に基づき非線形に設定することを特徴とする。
この発明に関する実施例は、図1〜図6に示される実施例1および図19〜図25に示される実施例3が対応する。請求項中の第1の変換特性および第2の変換特性は図4に示される。
変曲点以下は線形に、変曲点以上はビット精度およびホワイトバランス係数に基づき非線形に設定する。
0から変曲点までの信号は線形に変換されるため、この間の信号は色相と彩度が保存され、正しい色再現が可能となる。一方、変曲点を超える信号は非線形に変換されるため、色相と彩度の変化は抑圧され、違和感の少ない色再現が可能となる。また、非線形な変換特性はビット精度およびホワイトバランス係数に基づき動的に決められるため、最適な圧縮処理が可能なる。
(構成)
請求項1における圧縮変換手段は、上記ホワイトバランス手段で用いられるホワイトバランス係数に基づきゲインを設定するゲイン設定手段と、上記ゲイン設定手段で設定されたゲインを上記ホワイトバランス手段でホワイトバランス処理された信号に乗算するゲイン乗算手段を有する。
この発明に関する実施例は、図7〜図18に示される実施例2が対応する。請求項中のゲイン設定手段は図8に示されるゲイン算出部500が、請求項中のゲイン乗算手段は図8に示されるゲイン乗算部501が該当する。
ホワイトバランス後の信号を所定のビット精度になるよう、ホワイトバランス係数に基づき動的に圧縮ゲインを設定する。
ホワイトバランス処理にあわせて、最適な圧縮処理が可能なる。また、ゲイン乗算は処理が容易で、高速かつ低コストなシステムが構築できる。
(構成)
請求項1における撮像システムは、上記圧縮変換手段で変換された信号を輝度および色
信号からなる色空間へ変換する色空間変換手段を有する。
この発明に関する実施例は、図7〜図18に示される実施例2および図19〜図25に示される実施例3が対応する。請求項中の色空間変換手段は図7,図10に示されるCMS部400および図19,図21に示されるCMS部400Aが該当する。
所定のビット精度になるよう圧縮変換されたホワイトバランス後の信号を所定の色空間へ変換する。
輝度信号と色信号を独立して操作できるため、絵作りに関する自由度が高まる。また、ホワイトバランス処理に影響されず所定のビット精度の信号を色空間へ変換するため、システムの設計が容易になる。さらに、圧縮変換により色相,彩度の変化が緩和された信号を変換するため、変換の精度を向上できる。
(構成)
請求項5における色空間変換手段は、上記圧縮変換手段で変換された信号に対しマトリ
ックス演算を行うマトリックス演算手段を有する。
この発明に関する実施例は、図7〜図18に示される実施例2が対応する。請求項中のマトリックス演算手段は図10(a)に示されるマトリックス演算部600が該当する。
マトリックス演算にて色空間へ変換する。
マトリックス演算は実装が容易で、高速かつ低コストなシステムが構築できる。
(構成)
請求項5における色空間変換手段は、上記圧縮変換手段で変換された信号に対しマトリ
ックス演算を行うマトリックス演算手段と、上記マトリックス演算手段で処理された信号
に対し非線形の変換処理を行う非線形関数手段を有する。
この発明に関する実施例は、図7〜図18に示される実施例2が対応する。請求項中のマトリックス演算手段は図10(b)に示されるマトリックス演算部600が、請求項中の非線形関数手段は図10(b)に示される関数演算部602が該当する。
マトリックス演算と非線形関数を組み合わせて色空間へ変換する。
高精度な輝度信号と色信号からなる色空間への変換が行え、高品位な信号の生成が可能となる。
(構成)
請求項5における色空間変換手段は、所定間隔の入力信号に対する輝度および色信号値
を記録した変換テーブルと、上記変換テーブルに記録された輝度および色信号値に基づき
上記圧縮変換手段で変換された信号に対し輝度および色信号値を算出する補間手段を有す
る。
この発明に関する実施例は、図19〜図25に示される実施例3が対応する。請求項中の変換テーブルは図21に示されるパラメータ用ROM1002が、請求項中の補間手段は図21に示される補間演算部1000,パラメータ抽出部1001が該当する。
代表点の輝度および色信号値を記録し、これに基づき補間演算にて色空間へ変換する。
高精度な輝度信号と色信号からなる色空間への変換が行え、高品位な信号の生成が可能となる。また、変換テーブルのサイズを変えることで、変換の精度とコストの調整を行うことが可能で、設計の自由度が高まる。
(構成)
請求項5における撮像システムは、上記色空間変換手段で得られた輝度信号を階調変換
する輝度信号変換手段と、上記色空間変換手段で得られた輝度信号および上記輝度信号変
換手段で階調変換された輝度信号および上記色空間の最大彩度値に基づき上記色信号を補
正する補正手段を更に有する。
この発明に関する実施例は、図7〜図18に示される実施例2および図19〜図25に示される実施例3が対応する。請求項中の輝度信号変換手段は図7,図11に示される階調変換部401および図19,図22に示される階調変換部401Aが、請求項中の補正手段は図7,図13に示される彩度補正部402および図19に示される彩度補正部402Aが該当する。
色空間内で輝度信号を階調変換し、色信号に関して入力時の輝度信号および変換後の輝度信号および最大彩度値から補正を行う。
輝度信号の変化に対して、色信号を色空間の最大彩度値に対する比率を一定となるよう補正するため自然な色再現が得られる。
(構成)
請求項9における輝度信号変換手段は、所定の変換特性を記録した変換特性記録手段と、上記露出制御手段で設定される白色の被写体に対する設定値に基づき変曲点を設定する変曲点設定手段と、上記変曲点以下の輝度信号を変換する第1の変換特性と上記変曲点以上の輝度信号を変換する第2の変換特性を設定する変換特性設定手段と、上記変換特性記録手段に記録された特性および上記変換特性設定手段で設定された特性を合成する合成手段と、上記合成手段で合成された特性に基づき上記色空間変換手段で得られた輝度信号を変換する変換手段を有する。
この発明に関する実施例は、図7〜図18に示される実施例2が対応する。請求項中の変換特性記録手段は図11に示される変換特性記録ROM704が、請求項中の変曲点設定手段は図11に示される変曲点設定部700が、請求項中の変換特性設定手段は図11に示される変換特性設定部701が、請求項中の合成手段は図11に示される合成部703が、請求項中の変換手段は図11に示される階調変換部705が該当する。
露出制御の白色値から変曲点を設定し、変曲点以下と以上で異なる変換特性を設定し、絵作りのための固定的な変換特性と合成して変換する。
変曲点以下と以上で異なる変換特性を設定するため、変曲点以下では色相と彩度を保存し、変曲点以上では違和感の少ない色再現を行うこと可能となり、全体として高品位な信号の生成が可能となる。また、絵作りのための固定的な変換特性と合成して変換するため従来処理との親和性が高く、低コストなシステムが構築できる。
(構成)
請求項10における変換特性設定手段は、上記第1の変換特性を線形に設定し、上記第2の変換特性を非線形に設定することを特徴とする。
この発明に関する実施例は、図7〜図18に示される実施例2が対応する。請求項中の第1の変換特性および第2の変換特性は図12に示される。
変曲点以下は線形に、変曲点以上は非線形に設定する。
0から変曲点までの信号は線形に変換されるため、この間の信号は色相と彩度が保存され、正しい色再現が可能となる。一方、変曲点を超える信号は非線形に変換されるため、色相と彩度の変化は抑圧され、違和感の少ない色再現が可能となる。
(構成)
請求項9における輝度信号変換手段は、所定の変換特性を記録した変換特性記録手段と、上記変換特性記録手段に記録された特性に基づき上記色空間変換手段で得られた輝度信号を変換する変換手段を有する。
この発明に関する実施例は、図19〜図25に示される実施例3が対応する。請求項中の変換特性記録手段は図22に示される変換特性記録ROM704Aが、請求項中の変換手段は図22に示される階調変換部705Aが該当する。
露出制御の白色値から変曲点を設定し、変曲点以下と以上で異なる変換特性を設定し、この変換特性と絵作りのための固定的な変換特性と合成して記録しておき、記録された特性に基づき変換する。
変曲点以下と以上で異なる変換特性を設定するため、変曲点以下では色相と彩度を保存し、変曲点以上では違和感の少ない色再現を行うこと可能となり、全体として高品位な信号の生成が可能となる。また、絵作りのための固定的な変換特性と合成して変換するため従来処理との親和性が高い。さらに、変換特性は算出の必要がないため、高速かつ低コストなシステムが構築できる。
(構成)
請求項9における補正手段は、上記色空間変換手段で得られた色信号から色相および彩度信号を算出する色相彩度算出手段と、上記色空間変換手段で得られた輝度信号および上記色相彩度算出手段で得られた色相信号に対する第1の最大彩度値と上記輝度信号変換手段により変換された輝度信号および上記色相彩度算出手段で得られた色相信号に対する第2の最大彩度値を算出する最大彩度算出手段と、上記第1の最大彩度値と上記第2の最大彩度値に基づいて上記色相彩度算出手段で得られた彩度信号に関する補正を行う彩度補正手段を有する。
この発明に関する実施例は、図7〜図18に示される実施例2が対応する。請求項中の色相彩度算出手段は図13に示される色相彩度変換部800が、請求項中の色最大彩度算出手段は図13に示される隣接色相面探索部801,関数抽出部802,関数記録用ROM803,最大彩度算出部804,彩度補間部805が、請求項中の彩度補正手段は図13に示される補正係数算出部806,補正係数乗算部808が該当する。
輝度信号の階調変換に対応するため、彩度信号に入力時の輝度信号および変換後の輝度信号および最大彩度値に基づき補正を行う。
輝度信号の階調変換に対して、彩度信号を最大彩度値に対する比率を一定となるよう補正するため自然な色再現が得られる。
(構成)
請求項13における彩度補正手段は、上記輝度信号変換手段により変換された輝度信号に基づき上記色相彩度算出手段で得られた彩度信号を抑制するクロマサプレス手段を更に有する。
この発明に関する実施例は、図7〜図18に示される実施例2が対応する。請求項中のクロマサプレス手段は図13に示されるクロマサプレス係数算出部807,補正係数乗算部808が該当する。
階調変換後の輝度信号に基づき彩度信号を抑制するクロマサプレス係数を求め、彩度信号に補正を行う。
高輝度部で生じる色相、彩度の変化を抑制でき、自然な色再現が得られる。また、彩度信号の補正とクロマサプレス処理を一体化して処理するため低コストかつ高速処理が可能となる。
(構成)
請求項1におけるカラー撮像素子は、R(赤),G(緑),B(青)Bayer型原色フィルタを前面に配置した単板撮像素子またはCy(シアン),Mg(マゼンタ),Ye(イエロー),G(緑)色差線順次型補色フィルタを前面に配置した単板撮像素子であることを特徴とする。
この発明に関する実施例は、図1〜図6に示される実施例1および図7〜図18に示される実施例2および図19〜図25に示される実施例3が対応する。請求項中のBayer型原色フィルタは図2に、請求項中の色差線順次型補色フィルタは図20に示される。
Bayer型原色フィルタまたは色差線順次型補色フィルタを前面に配置した撮像素子を用いる。
現状の撮影部との親和性が高く、多くの撮像部への適用が可能となる。
(構成)
請求項5における色空間変換手段は、色空間としてYCbCr色空間、CIE Lab色空間、CIE Luv色空間のいずれかを用いることを特徴とする。
この発明に関する実施例は、図7〜図18に示される実施例2および図19〜図25に示される実施例3が対応する。請求項中のYCbCr色空間は図15に、CIE Lab色空間は図24に示される。
信号を輝度信号と色信号が分離した色空間へ変換する。
輝度信号と色信号が分離するため、高精度な絵作り処理または補正処理が可能なる。YCbCr色空間は変換が容易で、高速かつ低コストなシステムが構築できる。CIE Lab色空間またはCIE Luv色空間は、高精度な輝度信号と色信号が得られ、高品位な信号の生成が可能となる。
(請求項17)
コンピュータに、
白色の被写体が設定値となるよう露出制御を行う露出制御手順と、カラー撮像素子からの信号を所定のビット精度で量子化する量子化手順と、上記量子化手順で量子化された信号にビット精度を増加してホワイトバランス処理を行うホワイトバランス手順と、上記ホワイトバランス処理でホワイトバランス処理された信号の階調特性を圧縮変換することにより、上記ホワイトバランス手順にて増加されたビット精度を増加前のビット精度以下に変換する圧縮変換手順と、を実行させるものであって、上記圧縮変換手順は、圧縮変換の関わる階調変換特性を上記ホワイトバランス手順で用いられるホワイトバランス係数に基づき決定する階調変換部手順と、上記階調変換特性に基づき階調特性の圧縮変換を行う手順と、を有することを特徴とする撮像処理プログラム。
(請求項18)
請求項17における圧縮変換手順は、上記露出制御手順で設定される白色の被写体に対する設定値に基づき変曲点を設定する変曲点設定手順と、上記変曲点以下の信号を変換する第1の変換特性と上記変曲点以上の信号を変換する第2の変換特性を設定する変換特性設定手順と、を有し、上記第2の変換特性を上記量子化手順で用いられる所定のビット精度および上記ホワイトバランス手順で用いられるホワイトバランス係数に基づき設定することを特徴とする撮像処理プログラム。
(請求項19)
請求項18における変換特性設定手順は、上記第1の変換特性を線形に設定し、上記第2の変換特性を上記量子化手順で用いられる所定のビット精度および上記ホワイトバランス手順で用いられるホワイトバランス係数に基づき非線形に設定することを特徴とする撮像処理プログラム。
(請求項20)
請求項17における圧縮変換手順は、上記ホワイトバランス手順で用いられるホワイトバランス係数に基づきゲインを設定するゲイン設定手順と、上記ゲイン設定手順で設定されたゲインを上記ホワイトバランス手順でホワイトバランス処理された信号に乗算するゲイン乗算手順と、を有することを特徴とする撮像処理プログラム。
(請求項21)
請求項17における撮像処理プログラムは、上記圧縮変換手順で変換された信号を輝度および色信号からなる色空間へ変換する色空間変換手順を更に有することを特徴とする撮像処理プログラム。
(請求項22)
請求項21における撮像処理プログラムは、上記色空間変換手順で得られた輝度信号を階調変換する輝度信号変換手順と、上記色空間変換手順で得られた輝度信号および上記輝度信号変換手順で階調変換された輝度信号および上記色空間の最大彩度値に基づき上記色信号を補正する補正手順と、を更に有することを特徴とする撮像処理プログラム。
(請求項23)
請求項22における輝度信号変換手順は、所定の変換特性を記録した変換特性記録手順と、上記露出制御手順で設定される白色の被写体に対する設定値に基づき変曲点を設定する変曲点設定手順と、上記変曲点以下の輝度信号を変換する第1の変換特性と上記変曲点以上の輝度信号を変換する第2の変換特性を設定する変換特性設定手順と、上記変換特性記録手順に記録された特性および上記変換特性設定手順で設定された特性を合成する合成手順と、上記合成手順で合成された特性に基づき上記色空間変換手順で得られた輝度信号を変換する変換手順と、を有することを特徴とする撮像処理プログラム。
(請求項24)
請求項23における変換特性設定手順は、上記第1の変換特性を線形に設定し、上記第2の変換特性を非線形に設定することを特徴とする撮像処理プログラム。
(請求項25)
請求項22における輝度信号変換手順は、所定の変換特性を記録した変換特性記録手順と、上記変換特性記録手順に記録された特性に基づき上記色空間変換手順で得られた輝度信号を変換する変換手順と、を有することを特徴とする撮像処理プログラム。
(請求項26)
請求項22における補正手順は、上記色空間変換手順で得られた色信号から色相および彩度信号を算出する色相彩度算出手順と、上記色空間変換手順で得られた輝度信号および上記色相彩度算出手順で得られた色相信号に対する第1の最大彩度値と上記輝度信号変換手順により変換された輝度信号および上記色相彩度算出手順で得られた色相信号に対する第2の最大彩度値を算出する最大彩度算出手順と、上記第1の最大彩度値と上記第2の最大彩度値に基づいて上記色相彩度算出手順で得られた彩度信号に関する補正を行う彩度補正手順と、を有することを特徴とする撮像処理プログラム。
図1は、本発明の実施例1の構成図である。レンズ系100,絞り101,カラーフィルタ102,CCD103を介して撮影された映像は、図示しない公知の相関二重サンプリング回路にてアナログ信号として読み出される。そして、利得制御増幅器(以下、Gain)104にて増幅され、アナログ/デジタル変換器(以下、A/D)105にてデジタル信号へ変換される。A/D105からの信号は、バッファ106を介して、プリホワイトバランス部(以下、PreWB部)107,測光評価部108,合焦点検出部109,ホワイトバランス部(以下、WB部)111へ転送される。PreWB部107はGain104へ、測光評価部108は絞り101,CCD103, Gain104へ、合焦点検出部109はAF(Auto-Focusの略)モータ110へ接続されている。WB部111は、圧縮変換部112,補間部113,信号処理部114を介してメモリーカードなどの記録媒体を含む出力部115に接続されている。マイクロコンピュータなどの制御部116は、Gain104,A/D105,PreWB部107,測光評価部108,合焦点検出部109,WB部111,圧縮変換部112,補間部113,信号処理部114,出力部115と双方向に接続されている。また、電源スイッチ,シャッターボタン,撮影時の各種モードの切り替えを行うためのインターフェースを備えた外部I/F部117も制御部116に双方向に接続されている。
図1において、信号の流れを説明する。外部I/F部117を介してISO感度などの撮影条件を設定した後、シャッターボタンを半押しにすることでプリ撮像モードに入る。レンズ系100,絞り101,カラーフィルタ102,CCD103を介して撮影された映像信号は、Gain104にて増幅され、A/D105にてデジタル信号へ変換されてバッファ106へ転送される。なお、本実施例においては、撮像系にBayer型原色フィルタを前面に配置した単板CCDを想定している。
図7は、本発明の実施例2の構成図である。本例は、本発明実施例1にCMS部400,階調変換部401,彩度補正部402,エッジ強調部403,彩度強調部404,RGB合成部405,圧縮部406が追加され、信号処理部114が削除された構成になっている。基本構成は実施例1と同等であり、同一の構成には同一の名称と符号を割り当てている。以下、異なる部分のみ説明する。圧縮変換部112Aの圧縮特性は実施例1の圧縮変換部112の変換特性とは異なる。これに伴い、制御部116Aは実施例1の制御部116の制御内容とは一部(圧縮変換部112Aの変換制御の部分)異なっている。補間部113はCMS部400へ、CMS部400は階調変換部401,彩度補正部402へ接続している。階調変換部401は、彩度補正部402およびエッジ強調部403へ接続している。彩度補正部402は、彩度強調部404へ接続している。エッジ強調部403および彩度強調部404は、RGB合成部405へ接続している。RGB合成部405は、圧縮部406を介してメモリーカードなどの出力部115に接続されている。制御部116Aは、CMS部400,階調変換部401,彩度補正部402,エッジ強調部403,彩度強調部404,RGB合成部405,圧縮部406と双方向に接続されている。
基本的に実施例1と同等であり、異なる部分のみ説明する。
図7において、信号の流れを説明する。バッファ106内の映像信号は、制御部116Aの制御に基づき、WB部111へ転送されホワイトバランス処理が行われる。
Cb = - 0.1687R - 0.3313G + 0.5000B (1)
Cr = 0.5000R - 0.4187G - 0.0813B
算出されたYCbCr信号はバッファ601へ保存される。なお、RGB合成部405では(2)式に示される逆変換によりRGB信号が算出される。
G = Y - 0.34414Cb - 0.71414Cr (2)
B = Y + 1.77200Cb
上記例では、色空間としてYCbCr色空間を想定していたが、このような構成に限定される必要はない。例えば、CIE Lab色空間、CIE Luv色空間などの任意の色空間を用いることができる。
Y = 0.2990R - 0.5870G + 0.1140B (3)
Z = 0.0661G + 1.1150B
関数演算部602は、上記CIE XYZ信号に対して(4)式に示される非線形演算を行いCIE Lab信号へ変換する。
a = 500{(X/X0)1/3 - (Y/Y0)1/3} (4)
b = 200{(Y/Y0)1/3 - (Z/Z0)1/3}
(4)式におけるX0,Y0,Z0は基準白色点を意味するもので、例えばC光源の場合X0=0.9804. Y0=1.0000, Z0=1.1811となる。なお、RGB合成部405では(5)式に示される逆変換によりCIE XYZ信号算出される。
X=X0{a/500+(Y/Y0)1/3}3 (5)
Z = Z0{(Y/Y0)1/3 - b/200}3
次に、(6)式に示される逆変換によりRGB信号が算出される。
G = - 0.9843X + 1.9984Y - 0.0283Z (6)
B = 0.0584X - 0.1185Y + 0.8985Z
図11は、階調変換部401の構成の一例を示すもので、変曲点設定部700,変換特性設定部701,変換特性用バッファ702,合成部703,変換特性記録ROM704,階調変換部705からなる。変曲点設定部700は、変換特性設定部701,変換特性用バッファ702を介して合成部703へ接続している。変換特性記録ROM704は、合成部703へ接続している。CMS部400および合成部703は、階調変換部705へ接続している。階調変換部705は、彩度補正部402およびエッジ強調部403へ接続している。制御部116Aは、変曲点設定部700,変換特性設定部701,合成部703,階調変換部705へ双方向に接続されている。
C=(Cb・Cb + Cr・Cr)1/2 (7)
なお、RGB合成部405では(8)式に示される逆変換により色信号Cb,Crが算出される。
Cr = C・cos(H) (8)
上記色相H,彩度Cおよび輝度信号Yは、隣接色相面探索部801,最大彩度算出部804,彩度補間部805へ転送される。なお、上記輝度信号Yおよび色信号Cb,Crは入力時の輝度,色相,彩度を示すものとして、以後Yorg,Horg,Corgで示す。また、色相彩度変換部800は階調変換部401から階調変換後の輝度信号(以後Ytraで示す)を読み込み、隣接色相面探索部801,最大彩度算出部804,彩度補間部805へ転送する。
kc = maxCtra/maxCorg (9)
で与えられる。よって(9)式の補正係数kcを彩度Corgへ乗算することで、輝度信号の変更に伴う補正が行われることになる。
なお、階調補正された輝度信号の輝度Ytraに対応する色相Htraは入力時の色相Horgと同一である。
maxCi = αliY +βli (Y<Ti) (11)
関数記録用ROM803には、色相Hi,輝度Ti,高輝度用関数のパラメータαhi,βhi,低輝度用関数のパラメータαli,βliが記録される。図13の隣接色相面探索部801は、制御部116Aの制御に基づき、関数記録用ROM803から記録されている色相Hiを読み出す。その後、色相彩度変換部800からの色相Horgと上記色相Hiとの比較を行い、隣接する最近傍の2組の色相Hj,Hk (j,k = R,Ma,B,Cy,G,Ye,j≠k)を探索し、この2組の色相を関数抽出部802へ転送する。関数抽出部802は、関数記録用ROM803から上記2組の色相に対応する輝度Tj,Tk,高輝度用関数のパラメータαhj,βhj,αhk,βhk,低輝度用関数のパラメータαlj,βlj,αlk,βlkを抽出し最大彩度算出部804へ転送する。最大彩度算出部804は、関数抽出部802からの上記パラメータおよび色相彩度変換部800からの輝度Yorgおよび輝度Ytraに基づき2組の色相Hj, Hkに関する最大彩度値maxCorg_j,maxCorg_kまたはmaxCtra_j,maxCtra_kを算出する。以降の処理は輝度Yorgまたは輝度Ytraに対して共通であるため、2組の最大彩度値をmaxCj,maxCkで示すこととする。算出された最大彩度値maxCj,maxCkは彩度補間部805へ転送される。彩度補間部805は、制御部116Aの制御に基づき、上記最大彩度値maxCj,maxCkおよび色相彩度変換部800からの色相Horgに対する最大彩度値maxCを補間により求める。図15(h)は、補間による最大彩度値maxCの算出を示す。色相はHj>Horg>Hkの関係にあるものとする。最大彩度値maxCは、(12)式により算出される。
上記(11)式による最大彩度値の算出は輝度Yorgまたは輝度Ytraに対して2回行われ、第1の最大彩度値maxCorgおよび第2の最大彩度値maxCtraが算出される。算出されたmaxCorgおよびmaxCtraは、補正係数算出部806へ転送される。補正係数算出部806は、上記第1の最大彩度値maxCorgおよび第2の最大彩度値maxCtraから(9)式の補正係数kcを算出して、補正係数乗算部808へ転送する。
補正後の彩度信号Ctraおよび色相信号Htra=Horgは彩度強調部404へ転送される。
図19は、本発明の実施例3の構成図である。本例は、本発明実施例2にRGB変換部900が追加された構成になっている。基本構成は実施例2と同等であり、同一の構成には同一の名称と符号を割り当てている。以下、異なる部分のみ説明する。CMS部400AはRGB信号からCIE Lab信号へ変換するものであり、実施例2のYCbCr信号へ変換するものとは異なっている。これに伴い、階調変換部401A,エッジ強調部403AはL信号を処理し、彩度補正部402A,彩度強調部404Aはa,b信号を処理し、RGB合成部405Aは前記処理したLab信号を合成する点で実施例2とは異なっている。また、制御部116Bは、追加されたRGB変換部900の変換制御をも行う点で実施例1および実施例2とは異なっている。バッファ106はRGB変換部900へ、RGB変換部900はWB部111へ接続している。制御部116Bは、RGB変換部900と双方向に接続されている。
基本的に実施例2と同等であり、異なる部分のみ説明する。図19において、カラーフィルタ102は、色差線順次補色フィルタを想定する。図20(a)は、色差線順次補色フィルタの構成を示す。色差線順次方式は2×2画素を基本単位とし、シアン(Cy),マゼンタ(Mg),イエロー(Ye),緑(G)が1画素ずつ配置される。ただし、MとGの位置はラインごとに反転している。上記色差線順次補色フィルタによる映像信号は、バッファ106に記録される。RGB変換部900は、制御部116Bの制御に基づき、図20(b)に示されるように2×2画素領域を1行1列づつ重複させながら順次抽出し、(14)式に基づき輝度信号Yおよび色差信号Cb,Crを領域単位に算出する。
Cb=(Cy + Mg) - (Ye + G) (14)
Cr=(Ye + Mg) - (Cy + G)
この後、(2)式に示されるマトリックス演算にてRGB信号が算出されWB部111へ転送される。WB部111は、制御部116Bの制御に基づき、ホワイトバランス処理を行う。WB部111では、実施例1と同様に、WB部111および後段の圧縮変換部112は信号の飽和が生じないよう、ビット精度を増加して処理を行う。ビット精度が増加された信号は、圧縮変換部112にて図4(c)に示される特性で圧縮変換されて、A/D105におけるビット精度に変換され補間部113へ転送される。補間部113では、公知の補間処理がなされてRGBの三板信号としてCMS部400Aへ転送される。CMS部400Aでは所定の色空間、本実施例においてはCIE Lab色空間への変換処理がなされる。輝度信号Lは階調変換部401Aへ転送され、圧縮変換部112における圧縮特性を伸張するための階調変換処理と絵作りための階調変換処理がなされる。この後、エッジ強調部403Aにおいて公知のエッジ強調処理がなされ、RGB合成部405Aへ転送される。一方、色信号a,bは彩度補正部402Aにて階調変換部401Aにて輝度信号Lが変換されたことに対応する補正処理がなされる。この後、彩度強調部404Aにて公知の彩度強調処理がなされ、RGB合成部405Aへ転送される。RGB合成部405Aは、輝度信号Lおよび色信号a,bからRGB信号を合成して、圧縮部406へ転送する。圧縮部406では、公知の圧縮処理を行い、出力部115へ転送する。出力部115は、メモリーカードなどの記録媒体へ信号を記録保存する。
maxCi = αliL3 + βliL2 + γliL + δli (Y<Ti) (15)
(15)式の関数に基づき実施例2と同様に各色相および輝度に対する最大彩度値が補間演算により算出される。
上記構成により、量子化のビット精度を上回る信号に対して圧縮変換を行うため、色相,彩度の変化を緩和でき自然な色再現が得られる。また、ホワイトバランス後の処理系のビット精度を増加する必要が無く、システムを低コストで実現できる。さらに、変曲点以下と以上で異なる変換特性を設定するため、変曲点以下では線形に変換することで正しい色再現を可能とし、変曲点以上では非線形に変換することで違和感の少ない色再現を可能とし、全体として高品位な信号の生成が可能となる。また、輝度信号と色信号を独立して操作できるため、絵作りに関する自由度が高まる。CMS処理は変換テーブルで行うため、変換の精度とコストの調整を行うことが可能で、設計の自由度が高まる。さらに、輝度信号の変化に対して、色信号を色空間の最大彩度値に対する比率を一定となるよう補正するため自然な色再現が得られる。また、現状の撮影部との親和性が高く、多くの撮像部への適用が可能となる。
102…カラーフィルタ
103…CCD(撮像素子)
104…利得制御増幅器
105…A/D変換器(量子化手段)
107…プリホワイトバランス部
108…測光評価部
111…ホワイトバランス部
112,112A…圧縮変換部(圧縮変換手段)
400,400A…カラーマネジメントシステム部
代理人 弁理士 伊 藤 進
Claims (26)
- カラー撮像素子からの信号を処理する撮像システムにおいて、
白色の被写体が設定値となるよう露出制御を行う露出制御手段と、
上記カラー撮像素子からの信号を所定のビット精度で量子化する量子化手段と、
上記量子化手段で量子化された信号にビット精度を増加してホワイトバランス処理を行うホワイトバランス手段と、
上記ホワイトバランス手段でホワイトバランス処理された信号の階調特性を圧縮変換することにより、上記ホワイトバランス手段にて増加されたビット精度を増加前のビット精度以下に変換する圧縮変換手段と、
を有し、
上記圧縮変換手段は、圧縮変換に関わる階調変換特性を上記ホワイトバランス手段で用いられるホワイトバランス係数に基づき決定する階調変換部と、
上記階調変換特性に基づき階調特性の圧縮変換を行う手段と、
を有することを特徴とする撮像システム。 - 請求項1における階調変換部は、
上記露出制御手段で設定される白色の被写体に対する設定値に基づき変曲点を設定する変曲点設定手段と、
上記変曲点以下の信号を変換する第1の変換特性と上記変曲点以上の信号を変換する第2の変換特性を設定する変換特性設定手段と、
を有し、
上記第2の変換特性を上記量子化手段で用いられる所定のビット精度および上記ホワイトバランス手段で用いられるホワイトバランス係数に基づき設定することを特徴とする撮像システム。 - 請求項2における変換特性設定手段は、
上記第1の変換特性を線形に設定し、
上記第2の変換特性を上記量子化手段で用いられる所定のビット精度および上記ホワイトバランス手段で用いられるホワイトバランス係数に基づき非線形に設定する
ことを特徴とする撮像システム。 - 請求項1における階調変換部は、
上記ホワイトバランス手段で用いられるホワイトバランス係数に基づきゲインを設定するゲイン設定手段と、
上記ゲイン設定手段で設定されたゲインを上記ホワイトバランス手段でホワイトバランス処理された信号に乗算するゲイン乗算手段と、
を有することを特徴とする撮像システム。 - 請求項1における撮像システムは、
上記圧縮変換手段で変換された信号を輝度および色信号からなる色空間へ変換する色空間変換手段
を有することを特徴とする撮像システム。 - 請求項5における色空間変換手段は、
上記圧縮変換手段で変換された信号に対しマトリックス演算を行うマトリックス演算手段
を有することを特徴とする撮像システム。 - 請求項5における色空間変換手段は、
上記圧縮変換手段で変換された信号に対しマトリックス演算を行うマトリックス演算手段と、
上記マトリックス演算手段で処理された信号に対し非線形の変換処理を行う非線形関数手段と、
を有することを特徴とする撮像システム。 - 請求項5における色空間変換手段は、
所定間隔の入力信号に対する輝度および色信号値を記録した変換テーブルと、
上記変換テーブルに記録された輝度および色信号値に基づき上記圧縮変換手段で変換された信号に対し輝度および色信号値を算出する補間手段と、
を有することを特徴とする撮像システム。 - 請求項5における撮像システムは、
上記色空間変換手段で得られた輝度信号を階調変換する輝度信号変換手段と、
上記色空間変換手段で得られた輝度信号および上記輝度信号変換手段で階調変換された輝度信号および上記色空間の最大彩度値に基づき上記色信号を補正する補正手段と、
を更に有することを特徴とする撮像システム。 - 請求項9における輝度信号変換手段は、
所定の変換特性を記録した変換特性記録手段と、
上記露出制御手段で設定される白色の被写体に対する設定値に基づき変曲点を設定する変曲点設定手段と、
上記変曲点以下の輝度信号を変換する第1の変換特性と上記変曲点以上の輝度信号を変換する第2の変換特性を設定する変換特性設定手段と、
上記変換特性記録手段に記録された特性および上記変換特性設定手段で設定された特性を合成する合成手段と、
上記合成手段で合成された特性に基づき上記色空間変換手段で得られた輝度信号を変換する変換手段と、
を有することを特徴とする撮像システム。 - 請求項10における変換特性設定手段は、
上記第1の変換特性を線形に設定し、
上記第2の変換特性を非線形に設定する
ことを特徴とする撮像システム。 - 請求項9における輝度信号変換手段は、
所定の変換特性を記録した変換特性記録手段と、
上記変換特性記録手段に記録された特性に基づき上記色空間変換手段で得られた輝度信号を変換する変換手段と、
を有することを特徴とする撮像システム。 - 請求項9における補正手段は、
上記色空間変換手段で得られた色信号から色相および彩度信号を算出する色相彩度算出手段と、
上記色空間変換手段で得られた輝度信号および上記色相彩度算出手段で得られた色相信号に対する第1の最大彩度値と上記輝度信号変換手段により変換された輝度信号および上記色相彩度算出手段で得られた色相信号に対する第2の最大彩度値を算出する最大彩度算出手段と、
上記第1の最大彩度値と上記第2の最大彩度値に基づいて上記色相彩度算出手段で得られた彩度信号に関する補正を行う彩度補正手段と、
を有することを特徴とする撮像システム。 - 請求項13における彩度補正手段は、
上記輝度信号変換手段により変換された輝度信号に基づき上記色相彩度算出手段で得られた彩度信号を抑制するクロマサプレス手段
を更に有する特徴とする撮像システム。 - 請求項1におけるカラー撮像素子は、
R(赤),G(緑),B(青)Bayer型原色フィルタを前面に配置した単板撮像素子またはCy(シアン),Mg(マゼンタ),Ye(イエロー),G(緑)色差線順次型補色フィルタを前面に配置した単板撮像素子であること
を特徴とする撮像システム。 - 請求項5における色空間変換手段は、
色空間としてYCbCr色空間、CIE Lab色空間、CIE Luv色空間のいずれかを用いる
ことを特徴とする撮像システム。 - コンピュータに、
白色の被写体が設定値となるよう露出制御を行う露出制御手順と、
カラー撮像素子からの信号を所定のビット精度で量子化する量子化手順と、
上記量子化手順で量子化された信号にビット精度を増加してホワイトバランス処理を行うホワイトバランス手順と、
上記ホワイトバランス処理でホワイトバランス処理された信号の階調特性を圧縮変換することにより、上記ホワイトバランス手順にて増加されたビット精度を増加前のビット精度以下に変換する圧縮変換手順と、
を実行させるものであって、
上記圧縮変換手順は、圧縮変換の関わる階調変換特性を上記ホワイトバランス手順で用いられるホワイトバランス係数に基づき決定する階調変換部手順と
上記階調変換特性に基づき階調特性の圧縮変換を行う手順と、
を有することを特徴とする撮像処理プログラム。 - 請求項17における圧縮変換手順は、
上記露出制御手順で設定される白色の被写体に対する設定値に基づき変曲点を設定する変曲点設定手順と、
上記変曲点以下の信号を変換する第1の変換特性と上記変曲点以上の信号を変換する第2の変換特性を設定する変換特性設定手順と、
を有し、
上記第2の変換特性を上記量子化手順で用いられる所定のビット精度および上記ホワイトバランス手順で用いられるホワイトバランス係数に基づき設定する
ことを特徴とする撮像処理プログラム。 - 請求項18における変換特性設定手順は、
上記第1の変換特性を線形に設定し、
上記第2の変換特性を上記量子化手順で用いられる所定のビット精度および上記ホワイ
トバランス手順で用いられるホワイトバランス係数に基づき非線形に設定する
ことを特徴とする撮像処理プログラム。 - 請求項17における圧縮変換手順は、
上記ホワイトバランス手順で用いられるホワイトバランス係数に基づきゲインを設定するゲイン設定手順と、
上記ゲイン設定手順で設定されたゲインを上記ホワイトバランス手順でホワイトバランス処理された信号に乗算するゲイン乗算手順と、
を有することを特徴とする撮像処理プログラム。 - 請求項17における撮像処理プログラムは、
上記圧縮変換手順で変換された信号を輝度および色信号からなる色空間へ変換する色空間変換手順
を更に有することを特徴とする撮像処理プログラム。 - 請求項21における撮像処理プログラムは、
上記色空間変換手順で得られた輝度信号を階調変換する輝度信号変換手順と、
上記色空間変換手順で得られた輝度信号および上記輝度信号変換手順で階調変換された輝度信号および上記色空間の最大彩度値に基づき上記色信号を補正する補正手順と、
を更に有することを特徴とする撮像処理プログラム。 - 請求項22における輝度信号変換手順は、
所定の変換特性を記録した変換特性記録手順と、
上記露出制御手順で設定される白色の被写体に対する設定値に基づき変曲点を設定する変曲点設定手順と、
上記変曲点以下の輝度信号を変換する第1の変換特性と上記変曲点以上の輝度信号を変換する第2の変換特性を設定する変換特性設定手順と、
上記変換特性記録手順に記録された特性および上記変換特性設定手順で設定された特性を合成する合成手順と、
上記合成手順で合成された特性に基づき上記色空間変換手順で得られた輝度信号を変換する変換手順と、
を有することを特徴とする撮像処理プログラム。 - 請求項23における変換特性設定手順は、
上記第1の変換特性を線形に設定し、
上記第2の変換特性を非線形に設定する
ことを特徴とする撮像処理プログラム。 - 請求項22における輝度信号変換手順は、
所定の変換特性を記録した変換特性記録手順と、
上記変換特性記録手順に記録された特性に基づき上記色空間変換手順で得られた輝度信号を変換する変換手順と、
を有することを特徴とする撮像処理プログラム。 - 請求項22における補正手順は、
上記色空間変換手順で得られた色信号から色相および彩度信号を算出する色相彩度算出手順と、
上記色空間変換手順で得られた輝度信号および上記色相彩度算出手順で得られた色相信号に対する第1の最大彩度値と上記輝度信号変換手順により変換された輝度信号および上記色相彩度算出手順で得られた色相信号に対する第2の最大彩度値を算出する最大彩度算出手順と、
上記第1の最大彩度値と上記第2の最大彩度値に基づいて上記色相彩度算出手順で得られた彩度信号に関する補正を行う彩度補正手順と、
を有することを特徴とする撮像処理プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004332200A JP4767525B2 (ja) | 2004-11-16 | 2004-11-16 | 撮像システム及び撮像処理プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004332200A JP4767525B2 (ja) | 2004-11-16 | 2004-11-16 | 撮像システム及び撮像処理プログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2006148248A JP2006148248A (ja) | 2006-06-08 |
JP2006148248A5 JP2006148248A5 (ja) | 2008-01-10 |
JP4767525B2 true JP4767525B2 (ja) | 2011-09-07 |
Family
ID=36627461
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004332200A Expired - Fee Related JP4767525B2 (ja) | 2004-11-16 | 2004-11-16 | 撮像システム及び撮像処理プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4767525B2 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5018770B2 (ja) * | 2006-03-20 | 2012-09-05 | ソニー株式会社 | 画像信号処理装置及び画像信号処理方法 |
JP4916341B2 (ja) | 2007-02-28 | 2012-04-11 | オリンパス株式会社 | 画像処理装置及び画像処理プログラム |
JP5034003B2 (ja) | 2007-06-25 | 2012-09-26 | オリンパス株式会社 | 画像処理装置 |
JP5183568B2 (ja) | 2009-05-21 | 2013-04-17 | キヤノン株式会社 | 画像処理装置及び方法、及びプログラムを記録した記憶媒体 |
JP6242157B2 (ja) * | 2013-10-30 | 2017-12-06 | キヤノン株式会社 | 画像処理装置及び画像処理方法、プログラム |
WO2019188396A1 (ja) * | 2018-03-30 | 2019-10-03 | ソニー株式会社 | 撮像装置および方法、画像処理装置および方法、並びに、撮像素子 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000354250A (ja) * | 1999-06-11 | 2000-12-19 | Ricoh Co Ltd | 撮像装置 |
JP3967510B2 (ja) * | 1999-12-28 | 2007-08-29 | 富士フイルム株式会社 | ディジタルカメラ |
JP4323105B2 (ja) * | 2001-03-16 | 2009-09-02 | オリンパス株式会社 | 撮像装置 |
JP4153715B2 (ja) * | 2002-04-08 | 2008-09-24 | 松下電器産業株式会社 | 映像信号処理装置及び映像信号処理方法 |
JP3995524B2 (ja) * | 2002-05-16 | 2007-10-24 | 富士フイルム株式会社 | ニー補正回路及び撮像装置 |
JP2004072196A (ja) * | 2002-08-01 | 2004-03-04 | Fuji Photo Film Co Ltd | 撮像装置および画像信号処理方法 |
JP3914168B2 (ja) * | 2003-04-08 | 2007-05-16 | オリンパス株式会社 | 撮像システム、画像処理プログラム |
-
2004
- 2004-11-16 JP JP2004332200A patent/JP4767525B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2006148248A (ja) | 2006-06-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4837365B2 (ja) | 画像処理システム、画像処理プログラム | |
US7830398B2 (en) | Image input unit and image input method | |
JP5034003B2 (ja) | 画像処理装置 | |
JP3914168B2 (ja) | 撮像システム、画像処理プログラム | |
JP2003284084A (ja) | 画像処理装置および方法、並びに画像処理装置の製造方法 | |
JP4466378B2 (ja) | 履歴付加装置、電子カメラ、および画像処理プログラム | |
JP2007259344A (ja) | 撮像装置および画像処理方法 | |
JP6974156B2 (ja) | 画像色変換装置、画像色変換プログラム、画像色変換方法 | |
JP2012165204A (ja) | 信号処理装置、信号処理方法、撮像装置及び撮像処理方法 | |
JP2005354372A (ja) | 画像記録装置、画像記録方法、画像処理装置、画像処理方法、及び画像処理システム | |
US20180197282A1 (en) | Method and device for producing a digital image | |
US7327876B2 (en) | Image processing device | |
JP5552795B2 (ja) | 撮像装置、画像処理装置およびプログラム | |
JP4767525B2 (ja) | 撮像システム及び撮像処理プログラム | |
KR100595251B1 (ko) | 디스플레이 장치의 색재현 장치 및 방법 | |
JP2008219198A (ja) | 画像処理装置及び画像処理プログラム | |
JP2006333113A (ja) | 撮像装置 | |
JP2010124114A (ja) | デジタルカメラおよび画像データ処理プログラム | |
JP4479429B2 (ja) | 撮像装置 | |
JP2010136059A (ja) | ノイズ除去フィルタ処理回路、画像処理回路、撮像装置及びノイズ除去プログラム | |
JP2009081526A (ja) | 撮像装置 | |
JP6318497B2 (ja) | 画像処理装置、撮像装置およびプログラム | |
JP5056006B2 (ja) | 撮像装置およびプログラム | |
JP4720130B2 (ja) | 撮像装置 | |
JP2006203430A (ja) | 画像処理装置およびその方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20071114 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071115 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20101112 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20101124 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110120 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110222 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110418 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110517 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110615 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4767525 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140624 Year of fee payment: 3 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |