JP2000341705A - 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体 - Google Patents

画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体

Info

Publication number
JP2000341705A
JP2000341705A JP2000048984A JP2000048984A JP2000341705A JP 2000341705 A JP2000341705 A JP 2000341705A JP 2000048984 A JP2000048984 A JP 2000048984A JP 2000048984 A JP2000048984 A JP 2000048984A JP 2000341705 A JP2000341705 A JP 2000341705A
Authority
JP
Japan
Prior art keywords
image signal
pixel
class
pixels
extracting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000048984A
Other languages
English (en)
Other versions
JP4547757B2 (ja
Inventor
Tetsujiro Kondo
哲二郎 近藤
Hideo Nakaya
秀雄 中屋
Takashi Sawao
貴志 沢尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2000048984A priority Critical patent/JP4547757B2/ja
Publication of JP2000341705A publication Critical patent/JP2000341705A/ja
Application granted granted Critical
Publication of JP4547757B2 publication Critical patent/JP4547757B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Input (AREA)
  • Image Processing (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

(57)【要約】 【課題】 より高精細度の画像が得られるようにする。 【解決手段】 n×m個の各画素が、RGBのうちの1
つの色の値のみを有するCCDイメージセンサの出力か
ら、2n×2m個のR画素の4倍密度の画像信号、2n
×2m個のGの4倍密度の画像データ及び2n×2m個
のB画素の4倍密度の画像信号をクラス適応処理により
演算する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、画像信号処理装
置、画像信号処理方法、学習装置、学習方法及び記録媒
体に関し、特に、より高精細度の画像を得ることができ
るようにした画像信号処理装置、画像信号処理方法、学
習装置、学習方法及び記録媒体に関する。
【0002】
【従来の技術】CCD(Charge Coupled Device)イメ
ージセンサなどの固体イメージセンサを用いた撮像装置
には、主に、1つのCCDイメージセンサを用いた単板
方式のもの(以後、単板式カメラという)と、3つのC
CDイメージセンサを用いた3板方式のもの(以後、3
板式カメラという)とがある。
【0003】3板式カメラでは、例えばR信号用、G信
号用及びB信号用の3つのCCDイメージセンサを用い
て、その3つのCCDイメージセンサにより3原色信号
を得る。そして、この3原色信号から生成されるカラー
画像信号が記録媒体に記録される。
【0004】単板式カメラでは、1画素毎に割り当てら
れた色フィルタアレイからなる色コーディングフィルタ
が前面に設置された1つのCCDイメージセンサを用い
て、上記色コーディングフィルタにより色コーディング
された色成分の信号を1画素毎に得る。上記色コーディ
ングフィルタを構成する色フィルタアレイとしては、例
えば、R(Red),G(Green),B(Blue)の原色フィ
ルタアレイや、Ye(Yellow),Cy(Cyanogen),M
g(Magenta)の補色フィルタアレイが用いられてい
る。そして、単板式カメラにおいては、CCDイメージ
センサにより1画素毎に1つの色成分の信号を得て、各
画素が持っている色成分の信号以外の色信号を線形補間
処理により生成して、3板式カメラにより得られる画像
に近い画像を得るようしていた。ビデオカメラなどにお
いて、小型化、軽量化を図る場合に、単板式が採用され
ている。
【0005】単板式カメラにおいて、例えば図21の
(A)に示すような色配列の色フィルタアレイにより構
成された色コーディングフィルタが設けられたCCDイ
メージセンサは、R,G,Bの3原色のうちの1つの色
のフィルタが配置された各画素から、そのフィルタの色
に対応する画像信号のみが出力される。すなわち、Rの
色フィルタが配置された画素からは、R成分の画像信号
は出力されるが、G成分及びB成分の画像信号は出力さ
れない。同様に、Gの画素からは、G成分の画像信号の
みが出力され、R成分及びB成分の画像信号は出力され
ず、Bの画素からは、B成分の画像信号のみが出力さ
れ、R成分及びG成分の画像信号は出力されない。
【0006】ここで、図21の(A)に示す色フィルタ
アレイの色配列は、ベイヤー配列と称される。この場合
においては、Gの色フィルタが市松状に配され、残った
部分にRとBが一列毎に交互に配されている。
【0007】しかしながら、後段において各画素の信号
を処理する際、各画素毎にR成分,G成分及びB成分の
画像信号が必要となる。そこで、従来、n×m(n及び
mは正の整数)個の画素で構成されるCCDイメージセ
ンサの出力から、図21の(B)に示すように、n×m
個のR画素の画像信号、n×m個のG画素の画像信号及
びn×m個のB画素の画像信号、すなわち、3板式カメ
ラのCCD出力相当の画像信号が、それぞれ補間演算に
より求められ、それらの画像信号が後段に出力される。
【0008】そして、さらに、例えば4倍密度の画像信
号を生成する場合、図21の(C)に示すように、n×
m個のR画素の画像信号から2n×2m個のR画素の画
像信号が補間演算により求められ、n×m個のG画素の
画像信号から2n×2m個のG画素の画像信号が補間演
算により求められ、さらに、n×m個のB画素の画像信
号から、2n×2m個のB画素の画像信号が補間演算に
より求められる。
【0009】
【発明が解決しようとする課題】従来の装置において
は、このように、単板式カメラのCCDイメージセンサ
の出力から、同一解像度の3原色の成分を各画素毎に生
成し、その画像信号から、さらにより高密度の画像信号
を演算するようにしている。その結果、画素密度を大き
くしたとしても、十分な精細度を得ることができないと
いう問題点があった。
【0010】本発明は、このような状況に鑑みてなされ
たものであり、確実に高精細度の画像を得ることができ
るようにすることを目的とするものである。
【0011】
【課題を解決するための手段】本発明は、複数の色のう
ちのいずれか1つを表す色成分を画素位置毎に持つ所定
数のサンプル値によって、1枚の画像が構成される入力
画像信号を処理する画像信号処理装置において、上記入
力画像信号の注目画素毎に、上記注目画素近傍の複数の
画素を抽出する抽出手段と、上記抽出手段で抽出された
複数の画素に基づいて、クラスを決定するクラス決定手
段と、上記クラス決定手段で決定されたクラスに基づい
て、上記入力画像信号の各画素に処理を行うことによっ
て、上記所定数のサンプル値より多いサンプル値を上記
複数の色それぞれに関して有する出力画像信号を生成す
る出力画像生成手段とを備えることを特徴とする。
【0012】また、複数の色のうちのいずれか1つを表
す色成分を画素位置毎に持つ所定数のサンプル値によっ
て、1枚の画像が構成される入力画像信号を処理する画
像信号処理方法において、上記入力画像信号の注目画素
毎に、上記注目画素近傍の複数の画素を抽出する抽出ス
テップと、上記抽出ステップで抽出された複数の画素に
基づいて、クラスを決定するクラス決定ステップと、上
記クラス決定ステップで決定されたクラスに基づいて、
上記入力画像信号の各画素に処理を行うことによって、
上記所定数のサンプル値より多いサンプル値を上記複数
の色それぞれに関して有する出力画像信号を生成する出
力画像生成ステップとを有することを特徴とする。
【0013】また、本発明は、複数の色のうちのいずれ
か1つを表す色成分を画素位置毎に持つ所定数のサンプ
ル値によって、1枚の画像が構成される入力画像信号を
処理する画像信号処理を行うコンピュータ制御可能なプ
ログラムが記録された記録媒体において、上記プログラ
ムは、上記入力画像信号の注目画素毎に、上記注目画素
近傍の複数の画素を抽出する抽出ステップと、上記抽出
ステップで抽出された複数の画素に基づいて、クラスを
決定するクラス決定ステップと、上記クラス決定ステッ
プで決定されたクラスに基づいて、上記入力画像信号の
各画素に処理を行うことによって、上記所定数のサンプ
ル値より多いサンプル値を上記複数の色それぞれに関し
て有する出力画像信号を生成する出力画像生成ステップ
とを有することを特徴とする。
【0014】また、本発明に係る学習装置は、複数の色
のうちのいずれか1つを表す色成分を画素位置毎に持つ
所定数のサンプル値によって、1枚の画像が構成される
生徒画像信号から、上記所定数のサンプル値より多いサ
ンプル値を有する予測画像信号の注目画素の近傍の複数
の画素を抽出する第1の画素抽出手段と、上記第1の画
素抽出手段で抽出された複数の画素に基づいて、クラス
を決定するクラス決定手段と、上記予測画像信号と対応
する画像信号であり、画素位置毎に複数の色成分を持つ
教師画像信号から、上記注目画素の位置に相当する位置
の近傍の複数の画素を抽出する第2の画素抽出手段と、
上記第1及び第2の画素抽出手段で抽出された複数の画
素の画素値に基づいて、上記クラス毎に、上記生徒画像
信号に相当する画像信号から上記教師画像信号に相当す
る画像信号を生成するための予測演算に用いる予測係数
セットを生成する予測係数生成手段とを備えることを特
徴とする。
【0015】また、本発明に係る学習方法は、複数の色
のうちのいずれか1つを表す色成分を画素位置毎に持つ
所定数のサンプル値によって、1枚の画像が構成される
生徒画像信号から、上記所定数のサンプル値より多いサ
ンプル値を有する予測画像信号の注目画素の近傍の複数
の画素を抽出する第1の画素抽出ステップと、上記第1
の画素抽出ステップで抽出された複数の画素に基づい
て、クラスを決定するクラス決定ステップと、上記予測
画像信号と対応する画像信号であり、画素位置毎に複数
の色成分を持つ教師画像信号から、上記注目画素の位置
に相当する位置の近傍の複数の画素を抽出する第2の画
素抽出ステップと、上記第1及び第2の画素抽出ステッ
プで抽出された複数の画素の画素値に基づいて、上記ク
ラス毎に、上記生徒画像信号に相当する画像信号から上
記教師画像信号に相当する画像信号を生成するための予
測演算に用いる予測係数セットを生成する予測係数生成
ステップとを備えることを特徴とする。
【0016】さらに、本発明は、クラスに応じた予測係
数セットを生成するための学習処理を行うコンピュータ
制御可能なプログラムが記録された記録媒体において、
上記プログラムは、複数の色のうちのいずれか1つを表
す色成分を画素位置毎に持つ所定数のサンプル値によっ
て、1枚の画像が構成される生徒画像信号から、上記所
定数のサンプル値より多いサンプル値を有する予測画像
信号の注目画素の近傍の複数の画素を抽出する第1の画
素抽出ステップと、上記第1の画素抽出ステップで抽出
された複数の画素に基づいて、クラスを決定するクラス
決定ステップと、上記予測画像信号と対応する画像信号
であり、画素位置毎に複数の色成分を持つ教師画像信号
から、上記注目画素の位置に相当する位置の近傍の複数
の画素を抽出する第2の画素抽出ステップと、上記第1
及び第2の画素抽出ステップで抽出された複数の画素の
画素値に基づいて、上記クラス毎に、上記生徒画像信号
に相当する画像信号から上記教師画像信号に相当する画
像信号を生成するための予測演算に用いる予測係数セッ
トを生成する予測係数生成ステップとを備えることを特
徴とする。
【0017】
【発明の実施の形態】図1は、CCDイメージセンサの
出力から、より高密度(この例の場合、4倍密度)の画
像信号を生成する処理の原理を表している。本発明にお
いては、図1の(A)に示すn×m(n及びmは正の整
数)個の画素で構成されるCCDイメージセンサの出力
画像信号から、図1の(B)に示す2n×2m個のR画
素の画像信号、2n×2m個のG画素の画像信号及び2
n×2m個のB画素の画像信号を、それぞれ直接生成す
る適応処理を行う。
【0018】図2は、以上のような原理に従って、被写
体を撮像するデジタルスチルカメラ1の構成例を示す。
【0019】このデジタルスチルカメラ1は、1画素毎
に割り当てられた色フィルタからなる色コーディングフ
ィルタ4が前面に設置された1つのCCDイメージセン
サ5を用いてカラー撮像を行う単板式カメラであって、
被写体からの入射光が、レンズ2により集光され、アイ
リス3及び色コーディングフィルタ4を介してCCDイ
メージセンサ5に入射されるようになっている。上記C
CDイメージセンサ5の撮像面上には、上記アイリス3
により所定レベルの光量とされた入射光により被写体像
が結像される。なお、このデジタルスチルカメラ1にお
いては、色コーディングフィルタ4とCCDイメージセ
ンサ5は別体としたが、一体化した構造とすることがで
きる。
【0020】上記CCDイメージセンサ5は、タイミン
グジェネレータ9からのタイミング信号により制御され
る電子シャッタに応じて所定時間にわたって露光を行
い、色コーディングフィルタ4を透過した入射光の光量
に応じた信号電荷(アナログ量)を画素毎に発生するこ
とにより、上記入射光により結像された被写体像を撮像
して、その撮像出力として得られる画像信号を信号調整
部6に供給する。
【0021】信号調整部6は、画像信号の信号レベルが
一定となるようにゲインを調整するAGC(Automatic G
ain Contorol) 回路と、CCDイメージセンサ5が発生
する1/fのノイズを除去するCDS(Correiated Doub
le Sampling)回路からなる。
【0022】上記信号調整部6から出力される画像信号
は、A/D変換部7によりアナログ信号からデジタル信
号に変換されて、画像信号処理部8に供給される。上記
A/D変換部7では、タイミングジェネレータ9からの
タイミング信号に応じて、例えば1サンプル10ビット
のディジタル撮像信号を生成する。
【0023】このデジタルスチルカメラ1において、タ
イミングジェネレータ9は、CCDイメージセンサ5、
信号調整部6、A/D変換部7及びCPU(Central Pro
cessing Unit) 10に各種タイミング信号を供給する。
CPU10は、モータ11を駆動することにより、アイ
リス3を制御する。また、CPU10は、モータ12を
駆動することにより、レンズ2などを移動させ、ズーム
やオートフォーカスなどの制御をする。さらに、CPU
10は、必要に応じ、フラッシュ13により閃光を発す
る制御を行うようにされている。
【0024】画像信号処理部8は、A/D変換部7から
供給された画像信号に対し、欠陥補正処理、ディジタル
クランプ処理、ホワイトバランス調整処理、ガンマ補正
処理、クラス分類適応処理を用いた予測処理等の処理を
行う。
【0025】この画像信号処理部8に接続されたメモリ
15は、例えば、RAM(Random Access Memory)で構成
され、画像信号処理部8が画像処理を行う際に必要な信
号を記憶する。画像信号処理部8により処理された画像
信号は、インタフェース14を介してメモリ16に記憶
される。このメモリ16に記憶された画像信号は、イン
タフェース14を介してデジタルスチルカメラ1に対し
て着脱可能な記録媒体17に記録される。
【0026】なお、モータ11は、CPU10からの制
御情報に基づいてアイリス3を駆動し、レンズ2を介し
て入射される光の量を制御する。また、モータ12は、
CPU10からの制御情報に基づいてレンズ2のCCD
イメージセンサ2に対するフォーカス状態を制御する。
これにより、自動絞り制御動作や自動焦点制御動作が実
現される。また、フラッシュ13は、CPU10による
制御の下で、被写体に対して所定の閃光を照射する。
【0027】また、インターフェース14は、画像信号
処理部8からの画像信号を必要に応じてメモリ16に記
憶し、所定のインターフェース処理を実行した後、記録
媒体17に供給し、記憶させる。記録媒体17として
は、デジタルスチルカメラ1の本体に対して着脱可能な
記録媒体、例えばフロッピーディスク、ハードディスク
等のディスク記録媒体、メモリカード等のフラッシュメ
モリ等を用いることができる。
【0028】コントローラ18は、CPU10の制御の
下で、画像信号処理部8及びインターフェース14に制
御情報を供給してそれぞれを制御する。CPU10に
は、シャッタボタンやズームボタンなどの操作ボタンか
ら構成される操作部20からユーザによる操作情報が入
力される。CPU10は、入力された操作情報を基に、
上述した各部を制御する。電源部19は、バッテリ19
AとDC/DCコンバータ19Bなどを有する。DC/
DCコンバータ19Bは、バッテリ19Aからの電力を
所定の値の直流電圧に変換し、装置内の各構成要素に供
給する。充電可能なバッテリ19Aは、デジタルスチル
カメラ1の本体に着脱可能とされている。
【0029】次に、図3のフローチャートを参照し、図
2に示したデジタルスチルカメラ1の動作について説明
する。このデジタルスチルカメラ1は、ステップS1に
おいて、電源がオンされることにより、被写体の撮像を
開始する。すなわち、CPU10は、モータ11及びモ
ータ12を駆動し、焦点を合わせたりアイリス3を調整
することにより、レンズ2を介してCCDイメージセン
サ5上に被写体像を結像させる。
【0030】ステップS2では、結像された像をCCD
イメージセンサ5により撮像した画像信号が、信号調整
部6において、信号レベルが一定となるようにゲイン調
整され、さらにノイズが除去され、さらに、A/D変換
部7によりデジタル化される。
【0031】また、ステップS3では、上記A/D変換
部7によりデジタル化された画像信号に対して、画像信
号処理部8によりクラス分類適応処理を含む画像信号処
理を行う。
【0032】ここで、被写体像は、CCDイメージセン
サ5の撮像出力として得られる画像信号を電子ビューフ
ァインダに表示するよりユーザが確認できるようになっ
ている。なお、被写体像は、光学的ビューファインダに
よりユーザが確認できるようにすることもできる。
【0033】そして、ユーザは、ビューファインダによ
り確認した被写体像の画像を記録媒体17に記録したい
場合、操作部20のシャッタボタンを操作する。デジタ
ルスチルカメラ1のCPU10は、ステップS4におい
て、シャッタボタンが操作されたか否かを判断する。デ
ジタルスチルカメラ1は、シャッタボタンが操作された
と判断するまで、ステップS2〜S3の処理を繰り返
し、シャッタボタンが操作されたと判断すると、ステッ
プS5に進む。
【0034】そして、ステップS5では、画像信号処理
部8による画像信号処理が施された画像信号をインター
フェース14を介して記録媒体17に記録する。
【0035】次に、図4を参照して画像信号処理部8に
ついて説明する。
【0036】この画像信号処理部8は、上記A/D変換
部7によりデジタル化された画像信号が供給される欠陥
補正部21を備える。CCDイメージセンサ5の画素の
中で、何らかの原因により入射光に反応しない画素や、
入射光に依存せず、電荷が常に蓄えられている画素、換
言すれば、欠陥がある画素を検出し、その検出結果に従
って、それらの欠陥画素の影響が露呈しないように、画
像信号を補正する処理を行う。
【0037】A/D変換部7では、負の値がカットされ
るのを防ぐため、一般に信号値を若干正の方向ヘシフト
させた状態でA/D変換が行われている。クランプ部2
2は、欠陥補正部21により欠陥補正された画像信号に
対し、上述したシフト量がなくなるようにクランプす
る。
【0038】クランプ部22によりクランプされた画像
信号は、ホワイトバランス調整部23に供給される。ホ
ワイトバランス調整部23は、クランプ部22から供給
された画像信号のゲインを補正することにより、ホワイ
トバランスを調整する。このホワイトバランス調整部2
3によりホワイトバランスが調整された画像信号は、ガ
ンマ補正部24に供給される。ガンマ補正部24は、ホ
ワイトバランス調整部23によりホワイトバランスが調
整された画像信号の信号レベルをガンマ曲線に従って補
正する。このガンマ補正部24によりガンマ補正された
画像信号は、予測処理部25に供給される。
【0039】予測処理部25は、クラス分類適応処理を
行うことによってガンマ補正部24の出力を例えば3板
式カメラのCCD出力相当の画像信号に変換して、補正
部26に供給する。上記予測処理部25は、ブロック化
部28、ADRC(AdaptiveDynamic Range Coding) 処
理部29、クラス分類部30、適応処理部31、係数メ
モリ32等からなる。
【0040】ブロック化部28は、後述するクラスタッ
プの画像信号をADRC処理部29に供給するととも
に、予測タップの画像信号を適応処理部31に供給す
る。ADRC処理部29は、入力されたクラスタップの
画像信号に対してADRC処理を行って再量子化コード
を生成し、この再量子化コードを特徴情報としてクラス
分類部30に供給する。クラス分類部30は、ADRC
処理部29から供給される特徴情報に基づいて、画像信
号パターンの分類を行い、分類結果を示すクラス番号
(クラスコード)を生成する。係数メモリ32は、クラ
ス分類部30により分類されたクラス番号に対応する係
数セットを適応処理部31に供給する。適応処理部31
は、係数セットメモリ32から供給された係数セットを
用いて、ブロック化部28から供給された予測タップの
画像信号から予測画素値を求める処理を行う。
【0041】補正部26は、上記予測処理部25により
処理された画像信号に対してエッジ強調等の画像を視覚
的に良く見せるために必要ないわゆる画作りのための処
理を行う。
【0042】そして、色空間変換部27は、補正部26
によりエッジ強調などの処理が施された画像信号(RG
B信号)をマトリクス変換してYUV(輝度Yと色差
U,Vとでなる信号)などの所定の信号フォーマットの
画像信号に変換する。ただし、マトリクス変換処理を行
わず、色空間変換部27からRGB信号をそのまま出力
させても良い。この発明の一実施形態では、例えばユー
ザの操作によつて、YUV信号、RGB信号の何れを出
力するかを切り換えることが可能とされている。色空間
変換部27により変換された画像信号は、上述のインタ
フェース14に供給される。
【0043】ここで、上記図3に示したフローチャート
のステップS3において、画像信号処理部8により行わ
れる画像信号処理について、図5のフローチャートを参
照して説明する。
【0044】すなわち、画像信号処理部8では、A/D
変換部7によりデジタル化された画像信号に対する画像
信号処理を開始すると、先ず、ステップS11におい
て、CCDイメージセンサ5の欠陥の影響が出ないよう
に、欠陥補正部21により画像信号の欠陥補正を行う。
そして、次のステップS12では、欠陥補正部21によ
り欠陥補正された画像信号に対して、正の方向にシフト
されていた量をもとに戻すクランプ処理をクランプ部2
2により行う。
【0045】次のステップS13では、クランプ部22
によりクランプされた画像信号に対して、ホワイトバラ
ンス調整部23によりホワイトバランスの調整を行い各
色信号間のゲインを調整する。さらに、ステップS14
では、ホワイトバランスが調整された画像信号に対し
て、ガンマ補正部24によりガンマ曲線に従った補正を
施す。
【0046】ステップS15では、クラス分類適応処理
を用いた予測処理を行う。かかる処理は、ステップS1
51〜ステップS155までのステップからなる。
【0047】ステップS151では、ガンマ補正部24
によりガンマ補正された画像信号に対してブロック化部
28によりブロック化、すなわち、クラスタップ及び予
測タップの切り出しを行う。ここで、クラスタップは、
複数種類の色信号に対応する画素を含む。
【0048】ステップS152では、ADRC処理部2
9によりADRC処理を行う。
【0049】ステップS153では、クラス分類部30
においてADRC処理の結果に基づいてクラスを分類す
るクラス分類処理を行う。そして、分類されたクラスに
対応するクラス番号を適応処理部31に与える。
【0050】ステップS154において、適応処理部3
1は、クラス分類部30より与えられたクラス番号に対
応する予測係数セットを係数メモリ32から読み出し、
その予測係数セットを対応する予測タップの画像信号に
乗算し、それらの総和をとることで、予測画素値を演算
する。
【0051】ステップS155では、すべての領域に対
して処理が行われたか否かを判定する。すべての領域に
対して処理が行われたと判定される場合にはステップS
16に移行し、それ以外の場合にはステップS152に
移行し、次の領域に対する処理を行う。
【0052】ステップS16では、ステップS15によ
つて得られた3板式カメラのCCD出力相当の画像に対
して、視覚的に良く見せるための補正処理(いわゆる画
作り)を行う。ステップS17では、ステップS16に
よつて得られた画像に例えばRGB信号をYUV信号に
変換するなどの色空間の変換処理を施す。これにより、
例えば記録信号として好適な信号フォーマットを有する
出力画像が生成される。
【0053】このデジタルスチルカメラ1における画像
信号処理部8では、ブロック化部28により入力画像信
号をp×q(p及びqは正の整数)個のブロックに分割
し、ADRC処理部29において、各ブロック毎に次の
ようなクラスタップを抽出し、そのクラスタップにAD
RC処理を施す。
【0054】ここで、クラス分類適応処理について説明
する。クラス分類適応処理を用いた予測演算を行うため
の構成例を図6に示す。入力画像信号が領域切り出し部
101、102に供給される。領域切り出し部101
は、入力画像信号から所定の画像領域(クラスタップと
称される)を抽出し、クラスタップの信号をADRC処
理部103に供給する。ADRC処理部103は、供給
される信号にADRC処理を施すことにより、再量子化
コードを生成する。なお、再量子化コードを生成する方
法として、ADRC以外の方法を用いても良い。
【0055】ADRCは、本来、VTR(Video Tape Re
corder) 用の高能率符号化のために開発された適応的再
量子化法であるが、信号レベルの局所的なパターンを短
い語調で効率的に表現できるという特徴を有する。この
ため、クラス分類のコードを発生するための、画像信号
の時空間内でのパターンすなわち空間アクティビティの
検出に使用することができる。ADRC処理部103で
は、以下の式(1)により、クラスタップとして切り出
される領域内の最大値MAXと最小値MINとの間を指
定されたビット数で均等に分割して再量子化する。
【0056】 DR=MAX−MIN+1 Q=〔(L−MIN+0.5)×2n /DR〕 (1) ここで、DRは領域内のダイナミックレンジである。ま
た、nはビット割当て数であり、例えばn=2とするこ
とができる。また、Lは領域内画素の信号レベルであ
り、Qが再量子化コードである。ただし、大かっこ
(〔・・・〕)は小数点以下を切り捨てる処理を意味す
る。
【0057】これにより、1画素当たり例えば8ビット
からなるクラスタップの画像信号が例えば2ビットの再
量子化コード値に変換される。このようにして生成され
る再量子化コード値により、クラスタップの信号におけ
るレベル分布のパターンがより少ない情報量によつて表
現される。例えば7画素からなるクラスタップ構造を用
いる場合、上述したような処理により、各画素に対応す
る7個の再量子化コードq1〜q7が生成される。クラ
スコードclass は、次の式(2)のようなものである。
【0058】
【数1】
【0059】ここで、nはクラスタップとして切り出さ
れる画素の数である。また、pの値としては、例えばp
=2とすることができる。
【0060】クラスコードclass は、時空間内での画像
信号のレベル分布のパターンすなわち空間アクティビテ
ィを特徴情報として分類してなるクラスを表現してい
る。クラスコードclass は、予測係数メモリ104に供
給される。予測係数メモリ104は、後述するようにし
て予め決定されたクラス毎の予測係数セットを記憶して
おり、供給される再量子化コードによって表現されるク
ラスの予測係数セットを出力する。一方、領域切り出し
部102は、入力画像から所定の画像領域(予測タップ
と称される)を抽出し、予測タップの画像信号を予測演
算部105に供給する。予測演算部105は、領域切り
出し部102の出力と、予測係数メモリ104から供給
される予測係数セットとに基づいて以下の式(3)のよ
うな演算を行うことにより、出力画像信号yを生成す
る。
【0061】 y=w1×x1+w2×x2+・・・+wn×xn (3) ここで、x1 ,・・・,xn が各予測タップの画素値で
あり、w1 ,・・・,wn が各予測係数である。
【0062】また、予測係数セットを決定するための処
理について図7を参照して説明する。出力画像信号と同
一の画像信号形式を有するHD(High Definition) 画像
信号がHD−SD変換部201と画素抽出部208に供
給される。HD−SD変換部201は、間引き処理等を
行うことにより、HD画像信号を入力画像信号と同等の
解像度(画素数)の画像信号(以下、SD(Standard De
finition) 画像信号という)に変換する。このSD画像
信号が領域切り出し部202、203に供給される。領
域切り出し部202は、上記領域切り出し部101と同
様に、SD画像信号からクラスタップを切り出し、クラ
スタップの画像信号をADRC処理部204に供給す
る。
【0063】ADRC処理部204は、図6中のADR
C処理部103と同様なADRC処理を行い、供給され
る信号に基づく再量子化コードを生成する。再量子化コ
ードは、クラスコード生成部205に供給される。クラ
スコード生成部205は、供給される再量子化コードに
対応するクラスを示すクラスコードを生成し、クラスコ
ードを正規方程式加算部206に供給する。一方、領域
切り出し部203は、図6中の領域切り出し部102と
同様に、供給されるSD画像信号から予測タップを切り
出し、切り出した予測タップの画像信号を正規方程式加
算部206に供給する。
【0064】正規方程式加算部206は、領域切り出し
部203から供給される画像信号と画素抽出部208か
ら供給される画像信号について、クラスコード生成部2
05から供給されるクラスコード毎に加算し、加算した
各クラス毎の信号を予測係数決定部207に供給する。
予測係数決定部207は、供給される各クラス毎の信号
に基づいて各クラス毎に予測係数セットを決定する。
【0065】さらに、予測係数セットを決定するための
演算について説明する。予測係数wi は、図7に示した
ような構成に対し、HD画像信号として複数種類の画像
信号を供給することにより、次のよう演算される。これ
らの画像信号の種類数をmと表記する場合、式(3)か
ら、以下の式(4)が設定される。
【0066】 yk =w1 ×xk1+w2 ×xk2+・・・+wn ×xkn (4) (k=1,2,・・・,m) m>nの場合には、w1 ,・・・,wn は一意に決まら
ないので、誤差ベクトルeの要素ekを以下の式(5)
で定義して、式(6)によつて定義される誤差ベクトル
eの2乗を最小とするように予測係数セットを定めるよ
うにする。すなわち、いわゆる最小2乗法によつて予測
係数セットを一意に定める。
【0067】 ek =yk−{w1 ×xk1+w2 ×k2 +・・・+wn ×kn } (5) (k=1,2,・・・m)
【0068】
【数2】
【0069】式(6)のe2 を最小とする予測係数セッ
トを求めるための実際的な計算方法としては、e2 を予
測係数wi (i=1,2,・・・)で偏微分し(式
(7))、iの各値について偏微分値が0となるように
各予測係数wi を決定すればよい。
【0070】
【数3】
【0071】式(7)から各予測係数wi を決定する具
体的な手順について説明する。式(8),(9)のよう
にXji,Yi を定義すると、式(7)は、式(10)の
行列式の形に書くことができる。
【0072】
【数4】
【0073】
【数5】
【0074】
【数6】
【0075】式(10)が一般に正規方程式と呼ばれる
ものである。正規方程式加算部205は、供給される信
号に基づいて式(8),(9)に示すような演算を行う
ことにより、Xji,Yi (i=1,2,・・・,n)を
それぞれ計算する。予測係数決定部207は、掃き出し
法等の一般的な行列解法に従って正規方程式(10)を
解くことにより、予測係数wi (i=1,2,・・・)
を算出する。
【0076】ここでは、注目画素の特徴情報に対応した
予測係数セットと予測タップを用いて、上述の式(3)
における線形1次結合モデルの演算を行うことにより、
適応処理を行う。なお、適応処理に用いる注目画素の特
徴情報に対応した予測係数セットは、学習により得る
が、クラス対応の画素値を用いたり、非線形モデルの演
算により適応処理を行うこともできる。
【0077】上述したようなクラス分類適応処理によ
り、入力画像信号から、例えばノイズが除去された画像
信号、走査線構造が変換されてなる画像信号等を出力画
像信号として生成する種々の画像信号変換処理が実現さ
れる。
【0078】このデジタルスチルカメラ1では、例え
ば、単板式カメラのCCDイメージセンサによって生成
される画素位置毎に複数のうちの何れか一つを表す色成
分を持つ入力画像信号から、入力画像信号の注目画素毎
に、複数の色のうちのいずれか1つを表す色成分を画素
位置毎に持つ所定数のサンプル値によって、1枚の画像
が構成される入力画像信号の注目画素毎に、上記注目画
素近傍の複数の画素を抽出し、抽出された複数の画素に
基づいてクラスを決定し、決定されたクラスに基づい
て、上記所定数のサンプル値より多いサンプル値を上記
複数の色それぞれに関して有する出力画像信号を生成す
るクラス分類適応処理を上記予測処理部25で行うこと
より、高精細度の画像信号を得ることができる。このよ
うに、本発明を適用したデジタルスチルカメラ1におい
ては、クラス分類適応処理を用いて、単板カメラのCC
D出力を4倍密度の画像信号の各色信号R,G,Bを得
ることができるので、エッジ部分や細部の鮮鋭度が増
し、S/N比の評価値も向上する。
【0079】図8乃至図11は、クラスタップの例を表
している。この例においては、CCDイメージセンサ5
の色フィルタアレイがベイヤー配列のものである場合の
例を示している。図8は、1個のR画素の周囲に4倍の
密度のRGB全ての画素を生成する場合のクラスタップ
の例を表している。図中、生成する画素は×印で表され
ており、クラスタップは太い枠で示されている。
【0080】図9と図10は、1個のGの画素の周囲に
4倍密度のRGB全ての画素を生成する場合のクラスタ
ップを表しており、図7は、R画素が存在する行のG画
素の周囲に画素を生成する場合のクラスタップの例を表
し、図8は、B画素が存在する行のG画素の周囲に4倍
密度のRGB全ての画素を生成する場合のクラスタップ
の例を表している。
【0081】図11は、1個のB画素の周囲に4倍密度
のRGB全ての画素を生成する場合のクラスタップの例
を表している。
【0082】ADRC処理部29は、例えば、R画素の
周囲の4画素のR,G,Bの各色成分の画像信号を生成
する場合、図8の太枠で示す26個の画素のうちの対応
する色の画素をクラスタップとして抽出し、それぞれの
R,G,Bの成分の信号値をADRC処理する。
【0083】クラス分類部30は、ステップS17にお
いて、ADRC処理部31より入力された信号から、ク
ラス分類処理を行う。すなわち、例えば図6に示すよう
な26個の画素のうち抽出された色の画素をADRC処
理して得られた信号値に対応するクラスを決定し、その
クラス番号を適応処理部31に供給する。適応処理部3
1は、ステップS18において、クラス分類部30より
供給されたクラス番号に対応する予測係数セットを係数
メモリ32から読み出し、その予測係数セットを対応す
る予測タップに乗算し、その和を求めることで、4倍密
度の画素の画像信号を生成する。
【0084】図12乃至図15は、予測タップの例を表
している。図12は、1個のR画素の周囲に4倍密度の
4個の画素を生成する場合の予測タップの例を表してい
る。図13と図14は、1個のG画素の周囲に4倍密度
の4個の画素を生成する場合の予測タップの例を表し、
図13は、R画素が存在する行のG画素の周囲に4倍密
度の画素を生成する場合の予測タップを表しており、図
14は、B画素が存在する行のG画素の周囲に4倍密度
の画素を生成する場合の予測タップの例を表している。
【0085】図15は、1個のB画素の周囲に4倍密度
の4個の画素を生成する場合の予測タップの例を表して
いる。
【0086】図12乃至図15を参照して明らかなよう
に、この例では、4倍密度の4個のRGB全ての画素に
対応する注目画素の周囲の5×5個の画素が予測タップ
とされる。
【0087】適応処理部31は、例えば図12に示す1
個のRの画素の左上の4倍密度の画素を予測する場合、
クラス分類部30より供給されたクラス番号の係数セッ
トのうち、左上の画素を予測する場合の予測係数セット
を対応する予測タップに乗算し、その和を求める。同様
の処理が、右上、左下、右下の各予測画素を生成する場
合にも行われる。
【0088】このようなクラス分類適応処理により、図
1の(A)に示すn×m(n及びmは正の整数)個の画
素で構成されるCCDイメージセンサの出力画像信号
(各画素は1つの色の信号のみを有している)から、図
1の(B)に示す2n×2m個のR画素の画像信号、2
n×2m個のG画素の画像信号及び2n×2m個のB画
素の画像信号を、それぞれ直接生成することによって、
一旦、n×m個のRの画像信号、n×m個のG画素の画
像信号及びn×m個のB画素の画像信号を生成してか
ら、4倍密度の画像信号を生成する場合に較べて、より
高精細度の画像を得ることが可能となる。
【0089】上記クラス分類適応処理に用いられる予測
係数セットは、予め学習により得られるもので、上記係
数メモリ32に記憶されている。
【0090】ここで、この学習について説明する。図1
6は、予測係数セットを学習により得る学習装置40の
構成を示すブロック図である。
【0091】この学習装置40では、クラス分類適応処
理の結果として生成されるべき出力画像信号、すなわち
3板式カメラのCCD出力相当の画像信号と同一の信号
形式を有する画像信号が教師画像信号として間引き部4
1及び教師画像ブロック化部45に供給される。間引き
部41は、教師画像信号から、色フィルタアレイの各色
の配置に従つて画素を間引く。間引き処理は、CCDイ
メージセンサ5に対して着される光学ローパスフィルタ
を想定したフィルタをかけることによって行う。すなわ
ち、実際の光学系を想定した間引き処理を行う。間引き
部41の出力が生徒画像信号として生徒画像ブロック化
部42に供給される。
【0092】生徒画像ブロック化部42は、間引き部4
1により生成された生徒信号から、ブロック毎に教師画
像信号の予測画素との対応を取りながら、注目画素に基
づくクラスタップ及び予測タップを抽出することによ
り、生徒画像信号をブロック化してADRC処理部43
と演算部46に供給する。ADRC処理部43は、生徒
画像ブロック化部42から供給された生徒画像信号にA
DRC処理を施し特徴情報を生成し、クラス分類部44
に供給する。クラス分類部44は、入力された特徴情報
からクラスコードを発生し、演算部46に出力する。
【0093】ここでは、教師画像信号は、3板式カメラ
のCCD出力相当の解像度をもつ画像信号であり、生徒
画像信号は、単板式カメラのCCD出力相当の解像度を
もつ画像信号、換言すれば、3板式カメラより解像度の
低い画像信号である。さらに換言するに、教師画像信号
は、1画素がR成分,G成分及びB成分すなわち3原色
成分をもつ画像信号であり、生徒画像信号は、1画素が
R成分,G成分又はB成分のうちの1つの色成分のみを
もつ画像信号である。
【0094】一方、教師画像ブロック化部45は、生徒
画像信号におけるクラスタップとの対応を取りながら、
教師画像信号から予測画素の画像信号を切り出し、切り
出した予測画像信号を演算部46に供給する。演算部4
6は、生徒画像ブロック化部42から供給される予測タ
ップの画像信号と、教師画像ブロック化部45より供給
される予測画画像信号との対応を取りながら、クラス分
類部44より供給されるクラス番号に従って、予測係数
セットを解とする方程式である正規方程式のデータを生
成する演算を行う。上記演算部46によつて生成される
正規方程式のデータが学習データメモリ47に逐次読み
込まれ、記憶される。
【0095】演算部48は、学習データメモリ47に蓄
積された正規方程式のデータを用いて正規方程式を解く
処理を実行する。これにより、クラス毎の予測係数セッ
トが算出される。算出された予測係数セットは、クラス
に対応させて係数メモリ49に記憶される。係数メモリ
49の記憶内容は、上述の係数メモリ32にロードさ
れ、クラス分類適応処理を行う際に使用される。
【0096】次に、図17のフローチャートを参照し
て、学習装置40の動作について説明する。
【0097】この学習装置40に入力されるデジタル画
像信号は、3板式カメラで撮像された画像に相当する画
質が得られる画像信号である。なお、3板式カメラで得
られる画像信号(教師画像信号)は、1画素の画像信号
としてR,G,Bの3原色信号を含んでいるのに対し、
単板式カメラで得られる画像信号(生徒画像信号)は、
1画素の画像信号としてR,G,Bの3原色信号の内の
1つの色信号のみを含んでいる。例えば図18の(A)
に示すように3板式カメラで撮像されたHD画像信号を
フィルタリングして図18の(B)に示すように1/4
サイズのSD画像信号に変換した教師画像信号が、この
学習装置40に入力される。
【0098】ステップS31では、教師画像ブロック化
部45において、入力された教師画像信号をブロック化
し、入力された教師画像信号から生徒画像ブロック化部
42が注目画素として設定する画素に対応する位置に位
置する予測画素の画素値を抽出して、演算部46に出力
する。
【0099】また、ステップS32では、3板式カメラ
で撮像された画像に相当する画質が得られる教師画像信
号に対して間引き部41により単板カメラのCCDイメ
ージセンサ5に用いられる色コーディングフィルタ4に
相当するフィルタをかける間引き処理を実行すること
で、図18の(C)に示すように単板式カメラのCCD
イメージセンサ5が出力する画像信号に対応する生徒画
像信号を教師画像信号から生成し、生成した生徒画像信
号を生徒画像ブロック化部42に出力する。
【0100】ステップS33では、生徒画像ブロック化
部42において、入力された生徒画像信号のブロック化
を行い、各ブロック毎に、注目画素に基づいて、クラス
タップと予測タップを生成する。
【0101】ステップS34では、ADRC処理部43
において、生徒画像信号から切り出されたクラスタップ
の信号を各色信号毎にADRC処理する。
【0102】ステップS35では、クラス分類部44に
おいて、ステップS33におけるADRC処理の結果に
基づいてクラス分類し、分類されるクラスに対応するク
ラス番号を示す信号を出力する。
【0103】ステップS36では、演算部46におい
て、クラス分類部44より供給されたクラス毎に、生徒
画像ブロック化部42より供給された予測タップと、教
師画像ブロック化部45より供給される予測画像に基づ
いて、上述の式(10)の正規方程式を生成する処理を
実行する。正規方程式は、学習データメモリ47に記憶
される。
【0104】ステップS37では、演算部46によりす
べてのブロックについての処理が終了したか否かを判定
する。まだ処理していないブロックが存在する場合に
は、ステップS36に戻り、それ以降の処理を繰り返し
実行する。そして、ステップS37において、すべての
ブロックについての処理が終了したと判定された場合、
ステップS38に進む。
【0105】ステップS38では、演算部48におい
て、学習データメモリ47に記憶された正規方程式を例
えば掃き出し法(Gauss-Jordan の消去法) やコレスキー
分解法を用いて解く処理を実行することにより、予測係
数セットを算出する。このようにして算出された予測係
数セットはクラス分類部44により出力されたクラスコ
ードと関連付けられ、係数メモリ49に記憶される。
【0106】ステップS39において、演算部48にお
いてすべてのクラスについての正規方程式を解く処理を
実行したか否かを判定し、まだ実行していないクラスが
残っている場合には、ステップS38に戻り、それ以降
の処理を繰り返し実行する。
【0107】ステップS39において、すべてのクラス
についての正規方程式を解く処理が完了したと判定され
た場合、処理は終了される。
【0108】このようにしてクラスコードと関連付けら
れて係数メモリ49に記憶された予測係数セットは、図
4に示した画像信号処理部8の係数メモリ32に記憶さ
れることになる。そして、画像信号処理部8の適応処理
部31は、上述したように、係数メモリ32に記憶され
ている予測係数セットを用いて、式(3)に示した線形
1次結合モデルにより、注目画素に対して適応処理を行
う。
【0109】上述した説明では、色コーディングフィル
タ4として、ベイヤー配列のものを用いた場合を説明し
たが、他の色コーディングフィルタを用いた場合におい
ても、本発明を適応することができる。
【0110】ここで、このデジタルスチルカメラ1のC
CDイメージセンサ5に用いることのできる色コーディ
ングフィルタ4を構成する色フィルタアレイの構成例を
図19に示す。
【0111】図19の(A)〜(G)は、原色(R,
G,B)成分を通過させる原色フィルタアレイで構成さ
れた色コーディングフィルタ4における緑(G)・赤
(R)・青(B)の色配列の例を示している。
【0112】図19の(A)はベイヤー配列を示し、図
19の(B)はインタライン配列を示し、図19の
(C)はGストライプRB市松配列を示し、図19の
(D)はGストライプRB完全市松配列を示し、図19
の(E)はストライプ配列を示し、図19の(F)は斜
めストライプ配列を示し、図19の(G)は原色色差配
列を示す。
【0113】また、図19の(H)〜(N)は、補色
(M,Y,C,W,G)成分を通過させる補色フィルタ
アレイで構成された色コーディングフィルタ4における
マゼンタ(M)・黄(Y)・シアン(C)・白(W)の
色配列を示す。図19の(H)はフィールド色差順次配
列を示し、図19の(I)がフレーム色差順次配列を示
し、図19の(J)はMOS型配列を示し、図19の
(K)は改良MOS型配列を示し、図19の(L)はフ
レームインターリーブ配列を示し、図19の(M)はフ
ィールドインターリーブ配列を示し、図19の(N)は
ストライプ配列を示す。
【0114】なお、補色(M,Y,C,W,G)成分
は、 Y=G+R M=R+B C=G+B W=R+G+B にて与えられる。また、図19の(I)に示すフレーム
色差順対応の色コーディングフィルタ4を通過する各色
(YM,YG,CM,CG)成分は、 YM=Y+M=2R+G+B, CG=C+G=2G+B, YG=Y+G=R+2G CM=C+M=R+G+2R にて与えられる。
【0115】以上の実施の形態の効果を評価するため、
色フィルタアレイとしてベイヤー配列のものを用いた場
合を想定し、ITE(Institute of Te
levision Engineers)のハイビジョ
ン標準画像9枚を使用し、予測係数セットの算出に関し
てもその9枚を用いてシミュレーションを行った。
【0116】3板式カメラのCCD出力相当の画像信号
から、クラス分類適応処理の倍率と画素の位置関係を考
慮した間引き操作により、単板式カメラのCCD出力相
当の画像信号を生成し、学習装置40と同様の処理を行
うアルゴリズムで予測係数セットを生成した。そして、
単板式カメラのCCDイメージセンサの出力を、縦と横
それぞれ2倍ずつの画素数を有する変換処理を、その予
測係数セットを用いて、クラス分類適応処理により予測
生成した。クラスタップ及び予測タップは、図8乃至図
15に示すものを用いた。クラスタップについては、R
GBそれぞれ独立に扱い、予測タップは、RGBを混合
して使用した。
【0117】シミュレーションの結果、単板式カメラの
CCD出力から、3板式カメラのCCD出力相当の画像
信号を介して、4倍密度の画像信号を得る場合より、エ
ッジや細部の鮮鋭度が向上しており、より高い解像度の
画像が得られた。クラス分類適応処理に代えて、線形補
間処理についてもシミュレーションしてみたが、クラス
分類した方が、解像度も、S/N比も良好な結果が得ら
れた。
【0118】このように、本発明を適用したデジタルス
チルカメラ1においては、クラス分類適応処理を用い
て、単板カメラのCCD出力を4倍密度の画像信号の各
色信号R,G,Bを得ることができるので、エッジ部分
や細部の鮮鋭度が増し、SNの評価値も向上する。
【0119】なお、以上においては、単板カメラのCC
D出力を4倍密度の画像信号とするようにしたが、それ
以外の倍率の画像信号を生成する場合にも、本発明は適
用することが可能である。上述した説明においては、画
像信号処理部8が適応処理に用いる予測タップと、学習
装置51が予測係数セットを算出する際に用いるクラス
タップは、異なる構造としたが、同一の構造としても良
い。また、予測タップとクラスタップは、上述した構造
に限定されるものではない。また、画像信号のクラス削
減方式として、ADRCを用いたが、例えば、DCT
(Discrete CosineTransfor
m) 、VQ(ベクトル量子化)、DPCM(Different
ial Pulse Code Modulation)、BTC(Block Trancatio
n Coding) 、非線形量子化などを用いても良い。さら
に、この発明は、デジタルスチルカメラ以外に、例えば
カメラ一体型VTR等の映像機器や、例えば放送業務に
用いられる画像処理装置、さらには、例えばプリンタや
スキャナ等に対しても適用することができる。
【0120】さらに、上記予測処理部25におけるクラ
ス分類適応処理や、上記学習装置40において予測係数
セットを得るための学習処理は、例えば図20に示すよ
うに、バス311に接続されたCPU(Central Process
ing Unit) 312、メモリ313、入力インターフェー
ス314、ユーザインターフェース315や出力インタ
ーフェース316などにより構成される一般的なコンピ
ュータシステム310により実行することができる。上
記処理を実行するコンピュータプログラムは、記録媒体
に記録されて、画素位置毎に複数のうちの何れか一つを
表す色成分を持つ入力画像信号を処理する画像信号処理
を行うコンピュータ制御可能なプログラムが記録された
記録媒体、又は、クラスに応じた予測係数セットを生成
するための学習処理を行うコンピュータ制御可能なプロ
グラムが記録された記録媒体として、ユーザに提供され
る。上記記録媒体には、磁気ディスク、CD−ROMな
どの情報記録媒体の他、インターネット、デジタル衛星
などのネットワークによる伝送媒体も含まれる。
【0121】
【発明の効果】以上の如く、本発明では、複数の色のう
ちのいずれか1つを表す色成分を画素位置毎に持つ所定
数のサンプル値によって、1枚の画像が構成される入力
画像信号の注目画素毎に、上記注目画素近傍の複数の画
素を抽出し、抽出された複数の画素に基づいてクラスを
決定し、決定されたクラスに基づいて、上記入力画像信
号の各画素に処理を行うことによって、上記所定数のサ
ンプル値より多いサンプル値を上記複数の色それぞれに
関して有する出力画像信号を生成することより、高精細
度の画像信号を得ることができる。
【0122】また、本発明によれば、複数の色のうちの
いずれか1つを表す色成分を画素位置毎に持つ所定数の
サンプル値によって、1枚の画像が構成される生徒画像
信号から、上記所定数のサンプル値より多いサンプル値
を有する予測画像信号の注目画素の近傍の複数の画素を
抽出し、抽出された複数の画素に基づいてクラスを決定
し、上記予測画像信号と対応する画像信号であり、画素
位置毎に複数の色成分を持つ教師画像信号から、上記注
目画素の位置に相当する位置の近傍の複数の画素を抽出
し、抽出された複数の画素の画素値に基づいて、上記ク
ラス毎に、上記生徒画像信号に相当する画像信号から上
記教師画像信号に相当する画像信号を生成するための予
測演算に用いる予測係数セットを生成することにより、
より高精細度の良好な画像信号を得ることのできるクラ
ス適応処理に用いる係数セットを得ることができる。
【図面の簡単な説明】
【図1】本発明により4倍密度の画像を得る原理を説明
する図である。
【図2】本発明を適用したデジタルスチルカメラの構成
を示すブロック図である。
【図3】上記デジタルスチルカメラの動作を説明するた
めのフローチャートである。
【図4】上記デジタルスチルカメラにおける画像信号処
理部の構成を示すブロック図である。
【図5】上記画像信号処理部により行われる画像信号処
理を説明するためのフローチャートである。
【図6】クラス分類適応処理を用いた予測演算を行うた
めの構成例を示す示すブロック図である。
【図7】予測係数セットを決定するための構成例を示す
ブロック図である。
【図8】上記画像信号処理部のADRC処理部において
抽出されるクラスタップの例を示す図である。
【図9】上記ADRC処理部において抽出されるクラス
タップの例を示す図である。
【図10】上記ADRC処理部において抽出されるクラ
スタップの例を示す図である
【図11】上記ADRC処理部において抽出されるクラ
スタップの例を示す図である
【図12】上記ADRC処理部において抽出される予測
タップの例を示す図である。
【図13】上記ADRC処理部において抽出される予測
タップの例を示す図である。
【図14】上記ADRC処理部において抽出される予測
タップの例を示す図である。
【図15】上記ADRC処理部において抽出される予測
タップの例を示す図である。
【図16】予測係数セットを学習により得る学習装置の
構成例を示すブロック図である。
【図17】上記学習装置の動作を説明するためのフロー
チャートである。
【図18】上記学習装置による学習処理の一例を模式的
に示す図である。
【図19】上記デジタルスチルカメラのCCDイメージ
センサに用いることのできる色コーディングフィルタの
色フィルタアレイの構成例を模式的に示す図である。
【図20】上記クラス分類適応処理や予測係数セットを
得るための学習処理を行うコンピュータシステムの一般
的な構成を示すブロック図である。
【図21】従来の線形補間による画像信号処理を模式的
に示す図である。
【符号の説明】
1 デジタルスチルカメラ、5 CCDイメージセン
サ、8 画像信号処理部、25 予測処理部、28 ブ
ロック化部、29 ADRC処理部、30 クラス分類
部、31 適応処理部、32 係数セットメモリ、40
学習装置、41間引き部、42 生徒画像ブロック化
部、43 ADRC処理部、44 クラス分類部、45
教師画像ブロック化部、46 演算部、47 学習デ
ータメモリ、48 演算部、49 係数メモリ

Claims (12)

    【特許請求の範囲】
  1. 【請求項1】 複数の色のうちのいずれか1つを表す色
    成分を画素位置毎に持つ所定数のサンプル値によって、
    1枚の画像が構成される入力画像信号を処理する画像信
    号処理装置において、 上記入力画像信号の注目画素毎に、上記注目画素近傍の
    複数の画素を抽出する抽出手段と、 上記抽出手段で抽出された複数の画素に基づいて、クラ
    スを決定するクラス決定手段と、 上記クラス決定手段で決定されたクラスに基づいて、上
    記入力画像信号の各画素に処理を行うことによって、上
    記所定数のサンプル値より多いサンプル値を上記複数の
    色それぞれに関して有する出力画像信号を生成する出力
    画像生成手段とを備えることを特徴とする画像信号処理
    装置。
  2. 【請求項2】 上記出力画像生成手段は、各クラス毎の
    予測係数セットを記憶する記憶手段と、上記クラス決定
    手段で決定されたクラスに応じた予測係数セットと上記
    抽出手段によって抽出された上記注目画素近傍の複数の
    画素に基づく演算を行うことにより、上記出力画像信号
    を生成する演算手段とを備えることを特徴とする請求項
    1記載の画像信号処理装置。
  3. 【請求項3】 複数の色のうちのいずれか1つを表す色
    成分を画素位置毎に持つ所定数のサンプル値によって、
    1枚の画像が構成される入力画像信号を処理する画像信
    号処理方法において、 上記入力画像信号の注目画素毎に、上記注目画素近傍の
    複数の画素を抽出する抽出ステップと、 上記抽出ステップで抽出された複数の画素に基づいて、
    クラスを決定するクラス決定ステップと、 上記クラス決定ステップで決定されたクラスに基づい
    て、上記入力画像信号の各画素に処理を行うことによっ
    て、上記所定数のサンプル値より多いサンプル値を上記
    複数の色それぞれに関して有する出力画像信号を生成す
    る出力画像生成ステップとを有することを特徴とする画
    像信号処理方法。
  4. 【請求項4】 上記出力画像生成ステップでは、上記ク
    ラス決定ステップで決定されたクラスに応じた予測係数
    セットと上記抽出ステップで抽出された上記注目画素近
    傍の複数の画素に基づく演算を行うことにより、上記出
    力画像信号を生成することを特徴とする請求項3記載の
    画像信号処理方法。
  5. 【請求項5】 複数の色のうちのいずれか1つを表す色
    成分を画素位置毎に持つ所定数のサンプル値によって、
    1枚の画像が構成される入力画像信号を処理する画像信
    号処理を行うコンピュータ制御可能なプログラムが記録
    された記録媒体において、 上記プログラムは、 上記入力画像信号の注目画素毎に、上記注目画素近傍の
    複数の画素を抽出する抽出ステップと、 上記抽出ステップで抽出された複数の画素に基づいて、
    クラスを決定するクラス決定ステップと、 上記クラス決定ステップで決定されたクラスに基づい
    て、上記入力画像信号の各画素に処理を行うことによっ
    て、上記所定数のサンプル値より多いサンプル値を上記
    複数の色それぞれに関して有する出力画像信号を生成す
    る出力画像生成ステップとを有することを特徴とする記
    録媒体。
  6. 【請求項6】 上記出力画像生成ステップでは、上記ク
    ラス決定ステップで決定されたクラスに応じた予測係数
    セットと上記抽出ステップで抽出された上記注目画素近
    傍の複数の画素に基づく演算を行うことにより、上記出
    力画像信号を生成することを特徴とする請求項5記載の
    記録媒体。
  7. 【請求項7】 複数の色のうちのいずれか1つを表す色
    成分を画素位置毎に持つ所定数のサンプル値によって、
    1枚の画像が構成される生徒画像信号から、上記所定数
    のサンプル値より多いサンプル値を有する予測画像信号
    の注目画素の近傍の複数の画素を抽出する第1の画素抽
    出手段と、 上記第1の画素抽出手段で抽出された複数の画素に基づ
    いて、クラスを決定するクラス決定手段と、 上記予測画像信号と対応する画像信号であり、画素位置
    毎に複数の色成分を持つ教師画像信号から、上記注目画
    素の位置に相当する位置の近傍の複数の画素を抽出する
    第2の画素抽出手段と、 上記第1及び第2の画素抽出手段で抽出された複数の画
    素の画素値に基づいて、上記クラス毎に、上記生徒画像
    信号に相当する画像信号から上記教師画像信号に相当す
    る画像信号を生成するための予測演算に用いる予測係数
    セットを生成する予測係数生成手段とを備えることを特
    徴とする学習装置。
  8. 【請求項8】 上記クラス決定手段は、上記第1の画素
    抽出手段で抽出された複数の画素に対して、ADRC(A
    daptive Dynamic Range Coding) 処理により特徴情報を
    生成し、特徴情報に基づいてクラスを決定することを特
    徴とする請求項7記載の学習装置。
  9. 【請求項9】 複数の色のうちのいずれか1つを表す色
    成分を画素位置毎に持つ所定数のサンプル値によって、
    1枚の画像が構成される生徒画像信号から、上記所定数
    のサンプル値より多いサンプル値を有する予測画像信号
    の注目画素の近傍の複数の画素を抽出する第1の画素抽
    出ステップと、 上記第1の画素抽出ステップで抽出された複数の画素に
    基づいて、クラスを決定するクラス決定ステップと、 上記予測画像信号と対応する画像信号であり、画素位置
    毎に複数の色成分を持つ教師画像信号から、上記注目画
    素の位置に相当する位置の近傍の複数の画素を抽出する
    第2の画素抽出ステップと、 上記第1及び第2の画素抽出ステップで抽出された複数
    の画素の画素値に基づいて、上記クラス毎に、上記生徒
    画像信号に相当する画像信号から上記教師画像信号に相
    当する画像信号を生成するための予測演算に用いる予測
    係数セットを生成する予測係数生成ステップとを備える
    ことを特徴とする学習方法。
  10. 【請求項10】 上記クラス決定手段は、上記第1の画
    素抽出手段で抽出された複数の画素に対して、ADRC
    (Adaptive Dynamic Range Coding) 処理により特徴情報
    を生成し、特徴情報に基づいてクラスを決定することを
    特徴とする請求項9記載の学習方法。
  11. 【請求項11】 クラスに応じた予測係数セットを生成
    するための学習処理を行うコンピュータ制御可能なプロ
    グラムが記録された記録媒体において、 上記プログラムは、 複数の色のうちのいずれか1つを表す色成分を画素位置
    毎に持つ所定数のサンプル値によって、1枚の画像が構
    成される生徒画像信号から、上記所定数のサンプル値よ
    り多いサンプル値を有する予測画像信号の注目画素の近
    傍の複数の画素を抽出する第1の画素抽出ステップと、 上記第1の画素抽出ステップで抽出された複数の画素に
    基づいて、クラスを決定するクラス決定ステップと、 上記予測画像信号と対応する画像信号であり、画素位置
    毎に複数の色成分を持つ教師画像信号から、上記注目画
    素の位置に相当する位置の近傍の複数の画素を抽出する
    第2の画素抽出ステップと、 上記第1及び第2の画素抽出ステップで抽出された複数
    の画素の画素値に基づいて、上記クラス毎に、上記生徒
    画像信号に相当する画像信号から上記教師画像信号に相
    当する画像信号を生成するための予測演算に用いる予測
    係数セットを生成する予測係数生成ステップとを備える
    ことを特徴とする記録媒体。
  12. 【請求項12】 上記クラス決定手段は、上記第1の画
    素抽出手段で抽出された複数の画素に対して、ADRC
    (Adaptive Dynamic Range Coding) 処理により特徴情報
    を生成し、特徴情報に基づいてクラスを決定することを
    特徴とする請求項11記載の記録媒体。
JP2000048984A 1999-03-25 2000-02-21 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体 Expired - Fee Related JP4547757B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000048984A JP4547757B2 (ja) 1999-03-25 2000-02-21 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP8222799 1999-03-25
JP11-82227 1999-03-25
JP2000048984A JP4547757B2 (ja) 1999-03-25 2000-02-21 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体

Publications (2)

Publication Number Publication Date
JP2000341705A true JP2000341705A (ja) 2000-12-08
JP4547757B2 JP4547757B2 (ja) 2010-09-22

Family

ID=26423239

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000048984A Expired - Fee Related JP4547757B2 (ja) 1999-03-25 2000-02-21 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体

Country Status (1)

Country Link
JP (1) JP4547757B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1324607A3 (en) * 2001-12-28 2006-11-02 Sony Corporation Data processing
US9256923B2 (en) 2013-03-29 2016-02-09 Sony Corporation Image processing apparatus, image processing method, and program
US9275444B2 (en) 2013-03-29 2016-03-01 Sony Corporation Image processing apparatus, image processing method, and program to prevent degradation of image quality
US9519953B2 (en) 2013-03-29 2016-12-13 Sony Corporation Image processing of a color image produced by a one-chip pixel unit using interpolation of color components produced by the one-chip pixel unit
JPWO2021019865A1 (ja) * 2019-07-28 2021-02-04

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1098695A (ja) * 1996-09-21 1998-04-14 Sony Corp 画像情報変換装置および方法並びに積和演算装置
JPH10164602A (ja) * 1996-11-26 1998-06-19 Minolta Co Ltd 画素補間装置及びその画素補間方法
JP2000032402A (ja) * 1998-07-10 2000-01-28 Sony Corp 画像変換装置および方法、並びに提供媒体

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1098695A (ja) * 1996-09-21 1998-04-14 Sony Corp 画像情報変換装置および方法並びに積和演算装置
JPH10164602A (ja) * 1996-11-26 1998-06-19 Minolta Co Ltd 画素補間装置及びその画素補間方法
JP2000032402A (ja) * 1998-07-10 2000-01-28 Sony Corp 画像変換装置および方法、並びに提供媒体

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1324607A3 (en) * 2001-12-28 2006-11-02 Sony Corporation Data processing
EP1921849A2 (en) 2001-12-28 2008-05-14 Sony Corporation Data processing
EP1921850A3 (en) * 2001-12-28 2008-11-19 Sony Corporation Data processing
EP1921849A3 (en) * 2001-12-28 2008-11-19 Sony Corporation Data processing
EP1921851A3 (en) * 2001-12-28 2008-11-19 Sony Corporation Data processing
US7760270B2 (en) 2001-12-28 2010-07-20 Sony Corporation Storage device, data processing apparatus, data processing method, program, storage medium, and data processing system
US8023045B2 (en) 2001-12-28 2011-09-20 Sony Corporation Storage device, data processing apparatus, data processing method, program, storage medium and data processing system
US9256923B2 (en) 2013-03-29 2016-02-09 Sony Corporation Image processing apparatus, image processing method, and program
US9275444B2 (en) 2013-03-29 2016-03-01 Sony Corporation Image processing apparatus, image processing method, and program to prevent degradation of image quality
US9519953B2 (en) 2013-03-29 2016-12-13 Sony Corporation Image processing of a color image produced by a one-chip pixel unit using interpolation of color components produced by the one-chip pixel unit
JPWO2021019865A1 (ja) * 2019-07-28 2021-02-04
WO2021019865A1 (ja) * 2019-07-28 2021-02-04 株式会社アドバンテスト 検査装置、検査方法、および、検査プログラム、ならびに、学習装置、学習方法、および、学習プログラム
US11244443B2 (en) 2019-07-28 2022-02-08 Advantest Corporation Examination apparatus, examination method, recording medium storing an examination program, learning apparatus, learning method, and recording medium storing a learning program
JP7190047B2 (ja) 2019-07-28 2022-12-14 株式会社アドバンテスト 検査装置、検査方法、および、検査プログラム、ならびに、学習装置、学習方法、および、学習プログラム

Also Published As

Publication number Publication date
JP4547757B2 (ja) 2010-09-22

Similar Documents

Publication Publication Date Title
KR100745386B1 (ko) 화상 신호 처리 장치, 화상 신호 처리 방법, 학습 장치,학습 방법 및 기록 매체
US7652701B2 (en) Solid-state honeycomb type image pickup apparatus using a complementary color filter and signal processing method therefor
US7253836B1 (en) Digital camera, storage medium for image signal processing, carrier wave and electronic camera
JP4677753B2 (ja) 動画像処理装置及び方法
KR101352440B1 (ko) 화상처리장치, 화상처리방법, 및 기록매체
JP2002084547A (ja) 画像データサイズ変換処理装置、電子スチルカメラ、および画像データサイズ変換処理用記録媒体
JP2013162347A (ja) 画像処理装置、画像処理方法、プログラム、および装置
JP2921973B2 (ja) 特定物体の画像抽出方法及び画像抽出装置
JP4433545B2 (ja) 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体
JP4547757B2 (ja) 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体
JP4730106B2 (ja) 画像処理装置および方法、学習装置および方法、並びにプログラム
JP4581199B2 (ja) 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体
JP4839543B2 (ja) 画像信号処理装置、撮像装置、画像信号処理方法及び記録媒体
US7551204B2 (en) Imaging apparatus having a color image data measuring function
JP4547758B2 (ja) 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体
JP4433546B2 (ja) 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体
JP4529253B2 (ja) 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体
JP4483048B2 (ja) 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体
JP2006279389A (ja) 固体撮像装置およびその信号処理方法
JP2000232618A (ja) フォトフィニッシング方法およびシステム並びに記録媒体
JP4730105B2 (ja) 画像処理装置および方法、学習装置および方法、並びにプログラム
JP4691762B2 (ja) 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体
JPH0775006A (ja) ディジタルスチルビデオカメラ
JPH08294132A (ja) デジタル電子スチルカメラ装置
JP2003179804A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070209

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090409

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090421

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20091208

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100304

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20100323

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100615

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100628

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130716

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees