以下、図を参照して、本発明の実施の形態について説明する。
図2は、画像処理装置81の一実施の形態を示すブロック図である。
撮像部91は、操作入力部92から供給されるユーザの操作入力に基づいて、被写体を撮像し、得られた画像信号を画像生成部93に供給する。撮像部91の詳細については、図3を用いて後述する。
操作入力部92は、例えば、リレーズボタンなどのボタン、操作キー、タッチパネルなどの入力デバイスで構成され、ユーザの操作入力を受け、ユーザからの指令を、撮像部91に供給する。ユーザの操作入力は、例えば、撮像タイミングの指令(リレーズボタンの押下など)のみならず、例えば、動画像の撮像(換言すれば、連続したフレームの撮像)の開始または終了の指令である場合などもあり、更に、撮像開始または終了の時刻の設定などである場合もある。また、操作入力部92は、ユーザにより、画像生成部93の処理に用いられる所定の設定値の入力を受けた場合、その設定値を画像生成部93に供給する。
画像生成部93は、撮像部91から供給された画像信号を表示や印刷出力に適した画像信号に変換する処理を実行し、表示制御部94または出力制御部95に供給する。また、画像生成部93は、操作入力部92から、必要に応じて、処理に必要な設定値の入力を受け、これを基に、撮像部91から供給された画像信号を表示や印刷出力に適した画像信号に変換する処理を実行する。
表示制御部94は、画像生成部93から供給された処理済の画像信号を、ディスプレイ82の解像度や階調数に変換する処理を行い、処理済の信号を、ディスプレイ82に供給する。
出力制御部95は、画像生成部93から供給された処理済の画像信号を、例えば、プリンタなど、出力先の機器が処理可能な解像度や階調数に変換する処理を行い、処理済の信号を、図示しないプリンタなどの外部機器に出力する。
ディスプレイ82は、例えば、表示制御部94から供給された表示画像信号の入力を受け、画像(静止画像または、複数フレームよりなる動画像)を表示する。
図3は、図2の画像処理装置81の撮像部91の更に詳細な構成例を示すブロック図である。撮像部91は、レンズ101、および対数変換型撮像素子102を含むように構成される。対数変換型撮像素子102は、例えば、HDRC(High Dynamic Range CMOS(Complementary Metal Oxide Semiconductor))などの対数変換型の撮像素子とされ、光検出部111、対数変換部112、A/D変換部113、および撮像タイミング制御部114を含むように構成される。
撮像部91により撮像される被写体から発せられた光(あるいは、被写体により反射された光)は、レンズ101に入射し、対数変換型撮像素子102の光検出部111の図示せぬ光検出面に結像する。
光検出部111は、例えば、複数のフォトダイオードなどからなる受光素子などにより構成される。光検出部111は、レンズ101により結像された被写体の光を、入射された光の明るさ(照度)に応じた電荷に変換し、変換した電荷を蓄積する。光検出部111は、撮像タイミング制御部114から供給される制御信号に同期して、蓄積した電荷を対数変換部112に供給する。
対数変換部112は、例えば、複数のMOSFET(Metal Oxide Semiconductor Field Effect Transistor)などにより構成される。対数変換部112は、MOSFETのサブスレッショルド特性を利用して、光検出部111から供給される電荷を、画素ごとに電荷の数(電流の強さ)の対数(被写体の光の光量の対数)にほぼ比例した電圧値に変換したアナログの電気信号を生成する。対数変換部112は、生成したアナログの電気信号をA/D変換部113に供給する。
A/D変換部113は、撮像タイミング制御部114から供給される制御信号に同期して、アナログの電気信号をデジタルの画像データにA/D変換する。例えば、24bitの符号なし2進数のデジタルの画像データに変換される場合、画像データの画素値は、最も暗い0から最も明るい224−1の範囲の値をとる。A/D変換部113は、変換したデジタルの画像データを画像処理装置92に供給する。
このように、撮像部91は、光検出部111に入射した被写体の光の明るさ(入射光量)の対数に比例した画素値からなるデジタルの画像データを出力する。なお、対数変換型の撮像素子については、例えば、特表平7−506932公報などにその詳細が開示されている。
なお、対数変換型撮像素子102の光検出部111においては、変換した電荷を蓄積せずに、そのまま対数変換部112に供給させるようにすることも可能である。
図4は、対数変換型撮像素子102、CCD(Charge Coupled Device)撮像素子、銀塩フィルム、および、人の目の感度特性を示すグラフである。図4の横軸は、入射する光の照度(単位は、ルクス(lux))の対数値を示し、縦軸は入射光の照度に対する感度を示している。線121は対数変換型撮像素子102の感度特性を示し、線122はCCD撮像素子の感度特性を示し、線123は銀塩フィルムの感度特性を示し、線124は人の目の感度特性を示している。
対数変換型撮像素子102は、上述したように、入射光量の対数にほぼ比例した輝度値(あるいは画素値)からなる画像データを出力するので、入射光量が大きくなった場合でも、対数変換型撮像素子102を構成するフォトダイオードやMOSFETなどの素子の容量が飽和したり、各素子に流れる電流や印加される電圧が各素子の入力に応じた出力を行うことができる範囲を超えることがない。従って、撮像可能な輝度の範囲内において、ほぼ正確に入射光量の変動に応じた輝度値(あるいは画素値)を得ることができる。すなわち、CCD撮像素子、銀塩フィルム、および、人の目より広い、例えば、約1ミリルクスから太陽光の輝度より高い約500キロルクスまでの約170dBのダイナミックレンジで、被写体からの入射光量の強さをほぼ正確に反映した輝度値(あるいは画素値)からなる画像を撮像することができる。なお、撮像部91に用いる対数変換型撮像素子102のダイナミックレンジは、上述した170dBに限定されるものではなく、利用目的に応じて、約100dBあるいは200dBなど、必要なダイナミックレンジに対応したものを用いるようにすればよい。
対数変換型撮像素子102は、上述したように、入射光量の対数にほぼ比例した値の画素値からなる画像データを出力することにより、対数変換型撮像素子102を構成するフォトダイオードやMOSFETなどの容量を飽和させずに、CCD撮像素子、銀塩フィルム、および、人の目より広い、約1ミリルクスから太陽光の輝度より高い約500kルクスまでの約170dBのダイナミックレンジで被写体を撮像することができる。
従って、対数変換型撮像素子102を用いた撮像部91は、人が視認できる輝度範囲において、輝度クリッピングが発生しないため、絞りやシャッタスピードなどを調整して入射光量を調整する必要がない。すなわち、撮像部91は、入射光量を調整しなくても、被写体の詳細な輝度の変化を忠実に撮像することができる。
例えば、撮像部91は、昼間に車内から車の前方を撮像する場合、画角内に太陽が入っていても、入射光量を調整せずに、太陽と前方の道路の状態を忠実に再現した画像を撮像することができる。また、撮像部91は、夜間に車内から車の前方を撮像する場合、対向車のヘッドライトが前方から照らされていても、入射光量を調整せずに、対向車のヘッドライトの光から自車のヘッドライトに照らされていない部分までを忠実に再現した画像を撮像することができる。
また、CCD撮像素子および銀塩フィルムが、線122および線123に示されるように、ガンマ特性などの要因により感度特性が入射光の照度の対数に比例しないのに比べて、対数変換型撮像素子102では、感度特性が、入射光の照度の対数にほぼ比例する。
このように、対数変換型撮像素子102を用いた撮像部91は、輝度クリッピングの発生、入射光量の調整、ガンマ特性の影響を受けないため、撮像部91により撮像された画像データの画素値は、被写体の輝度の変動および被写体の動きをほぼ忠実に反映するように変動する。
また、撮像部91から出力される画像データの画素値は、入射光量の対数にほぼ比例した値となるので、被写体に照射される光の明るさ(照度)に関わらず、その被写体を撮像した画像データにおける画素値の分布は、その被写体の反射率の分布がほぼ同様に反映されたものとなる。例えば、反射率の最大値と最小値の比率が10:1である被写体を、1回目と2回目とで約100倍の照度差がある光を照射して撮像した場合、1回目の画像データと2回目の画像データとの画素値の分布を示すヒストグラムの幅はほぼ同じ値(1=log1010)となる。一方、画像データの画素値が入射光量に比例する場合、1回目の画像データと2回目の画像データの画素値の分布を示すヒストグラムの幅の差は約100倍となる。
また、被写体の輝度(反射率)の分布に関わらず、被写体の輝度がほぼ同じ比率で変動した場合、その被写体を撮像した画像データの画素値の変動値は、ほぼ同様になる。例えば、被写体内に輝度の比が100:1となる2つの領域がある場合、被写体に照射される光の照度がほぼ一様に変化し、被写体の輝度がほぼ同じ比率の+5%変動したとき、2つの領域に対応する画素値の変動値はほぼ同じ値(log101.05)となる。一方、画像データの画素値が入射光量に比例する場合、上述した2つの領域に対応する画素値の変動値の差は、約100倍となる。
ところで、図4を用いて説明したように、対数変換型撮像素子102は、人の目の感度(図4の線124に示される特性)、CCD撮像素子の感度(図4の線122に示される特性)、および、銀塩フィルムの感度(図4の線123に示される特性)と比較して、その輝度範囲が非常に広い。このため、対数変換型撮像素子102を用いた撮像部91により撮像された画像データの全階調を、ディスプレイ82に対応した階調に変換して表示させた場合、人の目に見える像や、従来のCCD撮像素子または銀塩フィルムを用いて撮像した画像と比較して、濃淡の差がない、換言すれば、シャープさのない画像になってしまう。
すなわち、対数変換型撮像素子102を用いた撮像部91を用いることにより、非常に暗い部分も、非常に明るい部分も忠実に撮像されるのであるが、撮像された画像データを、ディスプレイ82が表示可能な階調数を基に階調変換して表示させた場合、撮像されている非常に暗い部分も非常に明るい部分も、表示される画像を参照するユーザからは識別不可能になってしまい、更に、ユーザから識別可能な全体の階調の中央部分は、濃淡の差が少なくなった状態で表示されてしまう。同様に、プリンタなどの階調数にも限りがあるため、撮像された画像データを、出力先の機器が処理可能な階調数に変換してしまっては、印刷出力される画像は、同様に、人の目に見える像や、従来のCCD撮像素子または銀塩フィルムを用いて撮像した画像と比較して、濃淡の差がない、換言すれば、シャープさのない画像になってしまう。
また、例えば、対数変換型撮像素子102を用いた撮像部91により撮像された画像の輝度範囲の全体をディスプレイ82が表示可能な階調に変換するのではなく、得られる輝度範囲のうち、得られた画像に含まれる画素の輝度値の最高値と最低値を抽出し、その間の輝度範囲をディスプレイ82が表示可能な階調に変換するようにした場合、一枚の画像に含まれる輝度範囲が比較的狭いときに表示される画像の画質は明らかに向上する。しかしながら、1枚の撮像画像中に明るい部分と暗い部分が混在するような場合、やはり、撮像されている非常に暗い部分も非常に明るい部分も、表示される画像を参照するユーザからは識別不可能であり、ユーザから識別可能な全体の階調の中央部分の濃淡の差が少ない表示画像となってしまう。
そこで、画像生成部93においては、対数変換型撮像素子102を用いた撮像部91により撮像された画像データの供給を受けて、ディスプレイ82に対応した階調で表示させた場合、または、出力先の外部機器に対応した階調で出力させた場合であっても、ユーザから識別可能な状態に表示または印刷出力させることができるような画像データを生成することができるような画像処理が実行される。
図5は、図2の画像生成部93の構成の第1の例である画像生成部93−1の構成を示すブロック図である。
平均輝度算出部131は、撮像部91から供給された画像信号を取得して、この平均輝度を算出し、平均輝度の算出結果を、主要領域輝度範囲設定部132に供給する。
主要領域輝度範囲設定部132は、平均輝度算出部131から供給された画像信号の平均輝度を基に、主要領域の輝度範囲を設定し、設定した主要領域の輝度範囲を、出力レベル変換処理部135、および、第2の輝度領域輝度平均値算出部133に供給する。
主要領域輝度範囲設定部132は、例えば、画像信号の平均輝度を中心とした所定の輝度の範囲を主要領域の輝度範囲としても良いし、画像信号の平均輝度である画素を中心として、この輝度に近い輝度値を有するものから順番に所定ビット数の画素を選択して主要領域の輝度範囲としても良い。
第2の輝度領域輝度平均値算出部133は、撮像部91から供給された画像信号のうち、主要領域輝度範囲設定部132により設定された主要領域の輝度範囲より高輝度の範囲の画素の平均輝度を算出し、算出結果を、第2の輝度領域輝度範囲設定部134に供給する。
第2の輝度領域輝度範囲設定部134は、第2の輝度領域輝度平均値算出部133から供給された主要領域の輝度範囲より高輝度の範囲の画素の平均輝度を基に、第2の輝度領域の輝度範囲を設定し、設定した第2の輝度領域の輝度範囲を出力レベル変換処理部135に供給する。
第2の輝度領域輝度範囲設定部134は、例えば、主要領域の輝度範囲より高輝度の範囲の画素の平均輝度を中心とした所定の輝度の範囲を第2の輝度領域の輝度範囲としても良いし、主要領域の輝度範囲より高輝度の範囲の画素の平均輝度である画素を中心として、この輝度に近い輝度値を有するものから順番に所定ビット数の画素を選択して第2の輝度領域の輝度範囲としても良い。
出力レベル変換処理部135は、撮像部91から供給された画像信号を取得して、主要領域輝度範囲設定部132、および、第2の輝度領域輝度平均値算出部133から供給された、主要領域の輝度範囲、および、第2の輝度領域の輝度範囲の情報を基に、取得した画像信号の出力レベルを変換する。
具体的には、出力レベル変換処理部135は、入力される輝度信号のレベルに対して、所定のステップ数の出力レベル信号(輝度を所定の階調ステップ数で分割した場合のそれぞれの輝度階調レベルの信号)を割り当てて、割り当てられた出力レベルの信号を出力するようになされている。このとき、出力レベル変換処理部187は、出力レベル信号の輝度階調レベルの割り当てを、主要領域および第2の輝度領域として設定されている輝度範囲と、それ以外の範囲とで、異なるものとする。すなわち、出力レベル変換処理部187は、主要領域および第2の輝度領域として設定されている輝度範囲により多くの出力レベルのステップ数を割り当てて、対応する輝度範囲の画素の階調数が多くなるような変換処理を実行する。このようにすることにより、表示または印刷出力される画像のうち、主要領域および第2の輝度領域に対応する輝度範囲の部分が、ユーザによってよりよく認識できるようになる。
出力レベル変換処理部135は、例えば、主要領域の輝度範囲と第2の輝度領域の輝度範囲に含まれる入力信号に対して、全ての階調ステップ数を分割して割り当て、それ以外の範囲、すなわち、主要領域より低輝度の範囲、主要領域と第2の輝度領域の間の輝度範囲、および、第2の輝度領域よりも高輝度となる範囲に対しては、出力レベルのステップ数を割り当てないようにすることができる。
このようにして、入力レベルに対する出力レベルの階調のステップ数が割り当てられた場合、図6Aに示されるように、主要領域の輝度範囲より輝度の入力レベルが低い画素の出力レベルは0(すなわち、真っ黒)となる。そして、主要領域の輝度範囲内の画素には、入力レベルに応じて、所定の階調の出力レベルが割り当てられる。また、主要領域と第2の輝度領域の間の輝度範囲の画素は、入力レベルにかかわらず、主要領域の輝度範囲に割り当てられた出力レベルの最大値で出力される。第2の輝度領域内の画素には、主要領域と同一か略同等のステップ数で、入力レベルに応じて、主要領域の輝度範囲に割り当てられた出力レベルの最大値から、全体の出力レベルの最大値までの間の階調の出力レベルが割り当てられる。そして、第2の輝度領域よりも高輝度の画素は、入力レベルにかかわらず、第2の輝度領域に割り当てられた出力レベルの最大値、すなわち、全体の出力レベルの最大値が割り当てられる。
また、出力レベル変換処理部135は、例えば、主要領域と第2の輝度領域に対して、出力レベルのうちの所定のステップ数を割り当てるとともに、主要領域と第2の輝度領域の間の輝度範囲に対しては、主要領域や第2の輝度領域に割り当てられたステップ数よりも少ないステップ数(換言すれば、主要領域や第2の輝度範囲よりも狭い階調幅)を割り当て、主要領域より低輝度の範囲、および、第2の輝度領域よりも高輝度の範囲に対しては、出力レベルのステップ数を割り当てないようにすることができる。
このようにして、入力レベルに対する出力レベルの階調のステップ数が割り当てられた場合、例えば、図6Bに示されるように、主要領域の輝度範囲より低い輝度を有する画素の出力値は0となる。そして、主要領域の輝度範囲内の画素には、入力レベルに応じて、所定の階調の出力レベルが割り当てられる。また、主要領域と第2の輝度領域の間の輝度範囲の画素においては、主要領域の輝度範囲に割り当てられたステップ数よりも少ないステップ数で、入力レベルに応じた出力レベルが割り当てられる。第2の輝度領域内の画素には、主要領域と同一か略同等のステップ数で、入力レベルに応じて、主要領域と第2の輝度領域の間の輝度範囲に割り当てられた出力レベルの最大値から全体の最大値となる階調までの間の出力レベルが割り当てられる。そして、第2の輝度領域よりも高輝度の画素に対しては、入力レベルにかかわらず、第2の輝度領域に割り当てられた出力レベルの最大値、すなわち、最大出力レベルが割り当てられる。
また、出力レベル変換処理部135は、例えば、主要領域の輝度の上限値を中心とする所定の輝度範囲を区間α、第2の輝度領域の輝度の下限値を中心とする所定の輝度範囲を区間βとし、主要領域または第2の輝度領域のうち、区間αまたは区間β以外の画素に対して、出力レベルのうちの所定のステップ数を割り当て、区間αまたは区間βに、主要領域および第2の輝度領域の区間αまたは区間β以外の部分に割り当てられたステップ数よりも少ないステップ数を割り当て、主要領域よりも低輝度および第2の輝度領域よりも高輝度の画素に対しては、出力レベルのステップ数を割り当てないようにすることができる。なお、このとき、主要領域と第2の輝度領域の間の輝度範囲のうち、区間αまたは区間βに当てはまらない画素に対しては、区間αまたは区間βに割り当てられた出力レベルのステップ数よりも少ないステップ数を割り当てるようにしたり、ステップ数を割り当てないようにすることができる。
このようにして、入力レベルに対する出力レベルの階調のステップ数が割り当てられた場合、例えば、図6Cに示されるように、主要領域の輝度範囲より低い輝度を有する画素の出力値は0となる。そして、主要領域の輝度範囲内であり、区間α以外の画素には、入力レベルに応じて、所定の階調の出力レベルが割り当てられる。また、区間αの画素には、主要領域の区間α以外の部分に割り当てられたステップ数よりも少ないステップ数で、主要領域の区間α以外の部分に割り当てられた出力レベルの最大値より大きな所定の階調の出力レベルが割り当てられる。また、主要領域と第2の輝度領域との間の輝度範囲のうち、区間αまたは区間βに当てはまらない画素においては、区間αに割り当てられたステップ数よりも少ないステップ数で、入力レベルに応じた出力レベルが割り当てられるか、または、入力レベルにかかわらず区間αに割り当てられた出力レベルの最大値が割り当てられるようになされる。
また、区間βの画素には、主要領域の区間α以外の部分に割り当てられたステップ数よりも少ないステップ数で、区間βより低い輝度範囲における出力レベルの最大値より大きな所定の階調の出力レベルが、区間αと同一または略同等のステップ数で割り当てられる。そして、第2の輝度領域の輝度範囲内で区間β以外の画素には、入力レベルに応じて、区間βに割り当てられた階調の最大値から全体の最大出力レベルまでの階調の出力レベルが割り当てられる。換言すれば、第2の輝度領域の輝度範囲内で区間β以外の画素には、主要領域のうちの区間α以外の部分と同一か略同じステップ数、すなわち、区間αおよび区間βよりも多くのステップ数の出力レベルが割り当てられる。そして、第2の輝度領域よりも高輝度の画素に対しては、入力レベルにかかわらず、第2の輝度領域に割り当てられた出力レベルの最大値、すなわち、最大出力レベルが割り当てられる。
なお、図6Cにおいては、主要領域の輝度の上限値を中心とする所定の輝度範囲を区間α、第2の輝度領域の輝度の下限値を中心とする所定の輝度範囲を区間βとしたが、例えば、主要領域の輝度範囲内の上限側の所定区間を区間α、第2の輝度領域の輝度範囲内の下限側の所定区間を区間βとしたり、主要領域の輝度範囲の上限よりも高輝度の所定の区間を区間α、第2の輝度領域の輝度範囲の下限よりも低輝度の所定の区間を区間βとするようにしても良い。更に、主要領域の輝度の下限側、および、第2の輝度領域の輝度の上限側に、区間αおよび区間βと同様の出力レベルのステップ数が割り当てられるような領域を設定するようにしても良い。
また、図6においては、主要領域の輝度範囲以下の輝度を有する画素は、すべて出力0(真っ黒)であるものとし、第2の輝度領域の輝度範囲以上の輝度を有する範囲の画素は、すべて、第2の輝度領域の輝度範囲の最高の輝度と同一の出力レベル(最大出力レベル)としたが、主要領域の輝度範囲以下、および、第2の輝度領域の輝度範囲以上のそれぞれの輝度範囲においても、ある程度の出力レベルのステップ数を割り当てることができるようにしても良い。
すなわち、出力レベル変換処理部135は、例えば、図7Aに示されるように、入力レベルに対して出力レベルを変換することができる。すなわち、主要領域の輝度範囲より輝度の入力レベルが低い画素において、入力レベルに対応して、0(すなわち、真っ黒)から主要領域に割り当てられるステップ数よりも少ない所定ステップ数の出力レベルまでが割り当てられる。そして、主要領域輝度範囲内の画素には、入力レベルに応じて、所定の階調の出力レベルが割り当てられる。また、主要領域と第2の輝度領域の間の輝度範囲の画素は、入力レベルにかかわらず、主要領域に割り当てられた出力レベルの最大値で出力される。第2の輝度領域内の画素には、入力レベルに応じて、主要領域に割り当てられた出力レベルの最大値から、所定の階調の出力レベルが、主要領域と同一、または、略同等のステップ数で割り当てられる。そして、第2の輝度領域よりも高輝度の画素に対しては、第2の輝度領域の輝度範囲に割り当てられた出力レベルの最大値から、最大出力レベルまで、主要領域や第2の輝度領域に割り当てられたステップ数よりも少ないステップ数となるように、入力レベルに対応した出力レベルが割り当てられる。
また、出力レベル変換処理部135は、例えば、図7Bに示されるように、入力レベルに対して出力レベルを変換することができる。すなわち、主要領域の輝度範囲より輝度の入力レベルが低い画素において、入力レベルに対応して、0(すなわち、真っ黒)から主要領域に割り当てられるステップ数よりも少ない所定ステップ数の出力レベルまでが割り当てられる。そして、主要領域輝度範囲内の画素には、入力レベルに応じて、所定の階調の出力レベルが割り当てられる。また、主要領域と第2の輝度領域の間の輝度範囲の画素においては、主要領域に割り当てられたステップ数よりも少ないステップ数で、入力レベルに応じた出力レベルが割り当てられる。第2の輝度領域内の画素には、入力レベルに応じて、主要領域と第2の輝度領域の間の輝度範囲に割り当てられた出力レベルの最大値から所定の階調の出力レベルが、主要領域と同一、または、略同等のステップ数で割り当てられる。そして、第2の輝度領域よりも高輝度の画素に対しては、第2の輝度領域の輝度範囲に割り当てられた出力レベルの最大値から、最大出力レベルまで、主要領域に割り当てられたステップ数よりも少ないステップ数となるように、入力レベルに対応した出力レベルが割り当てられる。
また、出力レベル変換処理部135は、例えば、図7Cに示されるように、入力レベルに対して出力レベルを変換することができる。すなわち、主要領域の輝度範囲より輝度の入力レベルが低い画素において、入力レベルに対応して、0(すなわち、真っ黒)から主要領域に割り当てられるステップ数よりも少ない所定ステップ数の出力レベルまでが割り当てられる。そして、主要領域輝度範囲内であり、区間α以外の画素には、入力レベルに応じて、所定の階調の出力レベルが割り当てられる。また、区間αの画素には、主要領域の区間α以外の部分に割り当てられたステップ数よりも少ないステップ数で、主要領域の区間α以外の部分に割り当てられた出力レベルの最大値より大きな所定の階調の出力レベルが割り当てられる。また、主要領域と第2の輝度領域との間の輝度範囲のうち、区間αまたは区間βに当てはまらない画素においては、区間αに割り当てられたステップ数よりも少ないステップ数で、入力レベルに応じた出力レベルが割り当てられるか、または、入力レベルにかかわらず区間αに割り当てられた出力レベルの最大値が割り当てられるようになされる。
また、区間βの画素には、主要領域の区間α以外の部分に割り当てられたステップ数よりも少ないステップ数で、区間βより低い輝度範囲における出力レベルの最大値より大きな所定の階調の出力レベルが割り当てられる。そして、第2の輝度領域の輝度範囲内で区間β以外の画素には、入力レベルに応じて、区間βに割り当てられた階調の最大値から所定の階調の出力レベルが、主要領域の区間α以外の輝度範囲と同一、または、略同等のステップ数で割り当てられる。そして、第2の輝度領域よりも高輝度の画素に対しては、第2の輝度領域の輝度範囲に割り当てられた出力レベルの最大値から、最大出力レベルまで、主要領域の区間α以外の部分に割り当てられたステップ数よりも少ないステップ数となるように、入力レベルに対応した出力レベルが割り当てられる。
なお、図7Cにおいても、主要領域の輝度の上限値を中心とする所定の輝度範囲を区間α、第2の輝度領域の輝度の下限値を中心とする所定の輝度範囲を区間βとしたが、例えば、主要領域輝度範囲内の上限側の所定区間を区間α、第2の輝度領域の輝度範囲内の下限側の所定区間を区間βとしたり、主要領域輝度範囲の上限よりも高輝度の所定の区間を区間α、第2の輝度領域の輝度範囲の下限よりも低輝度の所定の区間を区間βとするようにしても良い。更に、主要領域の輝度の下限側、および、第2の輝度領域の輝度の上限側に、区間αおよび区間βと同様の出力レベルのステップ数が割り当てられるような領域を設定するようにしても良い。
更に、出力レベル変換処理部135は、例えば、主要領域、および、第2の輝度領域における入力レベルに対する出力レベルの比率(直線の傾き)よりも、それらの輝度領域以外の輝度範囲における入力レベルに対する出力レベルの比率が低くなるように、それぞれの輝度領域に割り当てられる階調のステップ数を決定するようにしてもよい。
以上説明した様に、画像生成部93−1において設定される主要領域と第2の輝度領域は、予め定められた輝度範囲ではなく、撮像された画像を基に設定されるものである。すなわち、画像生成部93−1によって生成される画像は、撮像された画像全体のうち、例えば、画面の多くを占める被写体など、ユーザが画像を認識するために最も重要である輝度範囲と、その輝度範囲よりも高輝度の範囲の中で、特に多くを占めている輝度範囲において、限られた階調数のうちの多くを割り当てるようになされているものである。
図8を用いて、入力信号、出力レベル変換処理部135による階調変換後の信号、および、表示される信号の輝度レベルについて説明する。
図8Aは、図6Aを用いて説明した階調変換が行われた場合の入力信号、出力レベル変換処理部135による階調変換後の信号、および、表示または印刷などのために出力される信号の輝度レベルを示す図である。図8Aに示される場合、離散した輝度範囲である主要領域と第2の輝度領域の信号において、それぞれの輝度階調幅(領域内の階調の最大値と最小値の間のステップ数)が充分与えられている状態で、連続した輝度階調に変換される。主要領域と第2の輝度領域の間の輝度範囲の画素は、全て、主要領域の最大出力レベルで出力される。そして、変換後の信号が、表示または印刷出力の条件に応じて、階調変換(階調数が圧縮)されるようになされている。具体的には、例えば、ディスプレイ82が、256階調で画像を表示することができるようになされている場合、表示制御部94は、画像生成部93−1から供給された信号、すなわち、出力レベル変換処理部135による階調変換後の信号を、256階調の信号に変換する。
図8Bは、図6Bを用いて説明した階調変換が行われた場合の入力信号、出力レベル変換処理部135による階調変換後の信号、および、表示または印刷などのために出力される信号の輝度レベルを示す図である。図8Bに示される場合、主要領域と第2の輝度領域の間の領域には、主要領域と第2の輝度領域よりも少ないステップ数の階調しか与えられていない。そのため、変換後の信号は、主要領域と第2の輝度領域の間の領域のステップ数が少ない分、入力信号よりも輝度の階調数が大幅に圧縮されるにもかかわらず、主要領域と第2の輝度領域の信号には、充分な輝度階調幅が与えられている。そして、変換後の信号が、表示または印刷出力の条件に応じて、階調変換(階調数が圧縮)されるようになされている。
図8Cは、図6Cを用いて説明した階調変換が行われた場合の入力信号、出力レベル変換処理部135による階調変換後の信号、および、表示または印刷などのために出力される信号の輝度レベルを示す図である。図8Cに示される場合、主要領域と第2の輝度領域と、それらの間の領域で、割り当てられる輝度の階調ステップ数を、上述した区間αおよび区間βによってなだらかに変化させるように、すなわち、区間αおよび区間βにおいては、主要領域と第2の輝度領域よりも少ないステップ数の階調が与えられるようになされている。そのため、変換後の信号においては、主要領域と第2の輝度領域には、充分な輝度階調幅が与えられている状態で、入力信号よりも輝度の階調数が大幅に圧縮される。そして、変換後の信号が、表示または印刷出力の条件に応じて、階調変換(階調数が圧縮)されるようになされている。
次に、図9のフローチャートを参照して、図5を用いて説明した画像生成部93−1が用いられている画像処理装置81において実行される画像表示処理1について説明する。
ステップS1において、撮像部91は、操作入力部92から供給されたユーザの操作入力を基に被写体を撮像し、対数変換され、A/D変換された撮像画像信号を、画像生成部93−1に供給する。画像生成部93−1は、撮像された画像信号を取得する。
ステップS2において、画像生成部93−1の平均輝度算出部131は、撮像された画像全体の平均輝度を求め、算出結果を、主要領域輝度範囲設定部132に供給する。
ステップS3において、主要領域輝度範囲設定部132は、平均輝度算出部131から供給された画像全体の平均輝度を基に、主要領域の輝度範囲を設定し、設定した主要領域の輝度範囲を、出力レベル変換処理部135、および、第2の輝度領域輝度平均値算出部133に供給する。
主要領域輝度範囲設定部132は、例えば、画像信号の平均輝度を中心とした所定の輝度の範囲を主要領域の輝度範囲としても良いし、画像信号の平均輝度である画素を中心として、この輝度に近い輝度値を有するものから順番に所定ビット数の画素を選択して主要領域の輝度範囲としても良い。
ステップS4において、第2の輝度領域輝度平均値算出部133は、撮像部91から供給された画像信号のうち、主要領域輝度範囲設定部132により設定された主要領域の輝度範囲よりも明るい領域の平均輝度を求め、その結果を、第2の輝度領域輝度範囲設定部134に供給する。
ステップS5において、第2の輝度領域輝度範囲設定部134は、第2の輝度領域輝度平均値算出部133から供給された主要領域の輝度範囲よりも明るい領域の平均輝度を基に、第2の輝度領域の輝度範囲を設定し、設定した第2の輝度領域の輝度範囲を出力レベル変換処理部135に供給する。
第2の輝度領域輝度範囲設定部134は、例えば、主要領域の輝度範囲より高輝度の範囲の画素の平均輝度を中心とした所定の輝度の範囲を第2の輝度領域の輝度範囲としても良いし、主要領域の輝度範囲より高輝度の範囲の画素の平均輝度である画素を中心として、この輝度に近い輝度値を有するものから順番に所定ビット数の画素を選択して第2の輝度領域の輝度範囲としても良い。
ステップS6において、出力レベル変換処理部135は、主要領域輝度範囲設定部132により設定された主要領域の輝度範囲、および、第2の輝度領域輝度平均値算出部133により設定された第2の輝度領域の輝度範囲を基に、例えば、図6または図7を用いて説明したような入力レベルと出力レベルの変換特性を決定する。
ステップS7において、出力レベル変換処理部135は、撮像部91から供給された撮像画像の階調を、ステップS6において決定された変換特性に基づいて変換し、表示制御部94に供給する。
ステップS8において、表示制御部94は、供給された画像信号を、図8を用いて説明したように、表示素子に適合した階調に変換する。
ステップS9において、表示制御部94は、表示素子に適した階調に変換された画像信号をディスプレイ82に供給し、画像の表示を制御して、処理が終了される。
なお、ここでは、生成された画像をディスプレイ82に表示させる処理について説明したが、生成された画像を出力制御部95を介して図示しない外部の機器に出力させる場合には、ステップS1乃至ステップS7において基本的に同様の処理が実行され、画像信号が出力制御部95に供給されて、出力先の機器において処理可能な階調に変換されて出力が制御される。
このような処理により、対数変換型撮像素子102を用いた撮像部91により撮像された画像データをディスプレイ82に対応した階調で表示させた場合、または、出力先の外部機器に対応した階調で出力させた場合であっても、広い輝度範囲に散らばって存在するユーザが必要とする画像情報を、ユーザから識別可能な状態に表示または印刷出力させることができるような画像データを生成することができる。
例えば、トンネル内のトンネル出口付近を走行している車の前面の画像を撮像して、撮像された画像をディスプレイに表示することができるようになされている場合、
(1)対数変換型撮像素子102を用いた撮像部91を用いて撮像された広ダイナミクスレンジの画像を、画像生成部93−1を有する画像処理装置81を用いて処理せずに、そのままの階調特性で表示出力させる
(2)従来のCCDカメラを有して通常の露光制御において撮像された画像を、合成等の処理を行うことなく表示出力させる
(3)対数変換型撮像素子102を用いた撮像部91を用いて撮像された広ダイナミクスレンジの画像を、画像生成部93−1を有する画像処理装置81を用いて処理した後、表示出力させる
以上のそれぞれの条件において、図10乃至図12を参照して、表示画像の差異について説明する。
まず、対数変換型撮像素子102を用いた撮像部91を用いて撮像された広ダイナミクスレンジの画像を、画像生成部93−1を有する画像処理装置81を用いて処理しない場合の表示画像の例を図10に示す。対数変換型撮像素子102を用いた撮像部91を用いて撮像された広ダイナミクスレンジの画像は、白とび、または、黒つぶれを起こさないが、非常に広いダイナミクスレンジを、表示装置が処理可能な階調に変換するため、濃淡の差がない(シャープさのない)画像が表示されてしまう。
対数変換型撮像素子102により撮像される輝度幅が広いものであっても、一般的な表示デバイスにより表示可能な画像の階調数は、それらを忠実に表示することが可能なほど広いものではない。具体的には、例えば、路面の明るさを基準として露光されたCCDで撮像された画像において異なる階調として表示される画素が、図10における場合では、同一の階調、または、CCDを用いた場合よりも少ない階調数で表示されてしまう。
なお、対数変換型撮像素子102により撮像可能なダイナミクスレンジのうち、得られた撮像画像の輝度の最大値と最小値の間で階調変換を行うようになされていたとしても、1画面中の輝度の差が大きい場合(例えば、図10の場合、トンネル内の路面と、トンネルの外のそれぞれの部分の輝度の差は非常に大きい)には、同様に、濃淡の差がない画像が表示されてしまう。
次に、従来のCCDカメラにより通常の露光制御によって撮像された画像が表示される場合の表示画像の例を図11に示す。例えば、CCDカメラの露光が、撮像される画像の多くの部分を占める、トンネル内の路面の明るさを基にして設定されたとき、図11に示されるように、得られる画像のうち、トンネル内の路面よりも極端に明るいトンネルの外の画像は、白とびを起こしてしまう。なお、露光時間が非常に短く設定された場合、トンネル外の部分は、図11に示されるように白とびを起こすことはないが、トンネル外の部分と比較して、輝度が大幅に低いトンネル内の部分に、黒つぶれが発生してしまい、表示画像の対応する部分の識別が困難となってしまう。
そして、対数変換型撮像素子102を用いた撮像部91を用いて撮像された広ダイナミクスレンジの画像を、画像生成部93−1を有する画像処理装置81を用いて処理した場合の表示画像の例を図12に示す。このように、トンネル内のトンネル出口付近を走行している車の前面の画像が撮像された場合、車の前面の道路部分の輝度周辺が、主要領域の輝度範囲として設定される。そして、主要領域よりも高輝度の画素のうちの主な部分として、トンネル外の部分が、第2の輝度領域として設定される。すなわち、画像生成部93−1を有する画像処理装置81を用いた画像変換においては、撮像された画像のうち、トンネル内に対応する輝度範囲とトンネル外に対応する輝度範囲において、ユーザに認識しやすいような階調ステップ数が割り当てられる。したがって、画像生成部93−1を有する画像処理装置81を用いて処理した場合の表示画像は、図10または図11を用いて説明した場合よりも、撮像された画像のうちの主な部分(ここでは、車の全面の道路部分)と、それとは離散した輝度範囲のうちの主な部分(ここでは、トンネルの外の部分)が、ユーザにより認識しやすいように表示される。
このようにすることにより、広ダイナミックイレンジで撮像された画像のうち、ユーザが必要とする情報が、ユーザにより認識しやすいように、すなわち、充分な階調ステップ数が割り当てられて表示されるように変換される。
また、対数変換型撮像素子102を用いた場合、1回の撮像で、広ダイナミクスレンジの画像を得ることができる。したがって、対数変換型撮像素子102を用いた撮像部91を用いて撮像された広ダイナミクスレンジの画像を、画像生成部93−1を有する画像処理装置81を用いて処理した場合、従来のCCDを用いて異なるシャッタ時間で撮像された画像を合成することなどにより広ダイナミクスレンジの画像を得るようになされている場合と比較して、特に、動画像のフレームレートを容易に高くすることができる。
また、対数変換型撮像素子102を用いた撮像部91を用いて撮像された広ダイナミクスレンジの画像を、画像生成部93−1を有する画像処理装置81を用いて処理することにより、例えば、図13に示されるように、夜の街中を走行する車の前面の画像を撮像して、撮像された画像がディスプレイに表示されるようになされている場合においても、他の車のヘッドライトやテールランプ、または、街灯など、画面上の多くの部分の輝度値とは離散した輝度値を有する画素を含む画像も、白とびや黒つぶれを起こすことなく、更に、ユーザが必要としている画像情報が、ヘッドライトやテールランプ、または、街灯などの高輝度の画素のために認識しにくくなることなく、充分な階調を割り当てられて表示されるようになされる。
以上説明した画像生成部93−1は、主要領域の輝度範囲と、主要領域の輝度範囲より高輝度の範囲のうちの主な部分である第2の輝度領域の輝度範囲に対して、多くの階調ステップ数が割り当てられるものとして説明した。これに対して、設定される輝度範囲が、主要領域の輝度範囲と第2の輝度領域の輝度範囲の2つではない場合について説明する。
次に、図14は、図2の画像生成部93の構成の第2の例である画像生成部93−2の構成を示すブロック図である。画像生成部93−2は、主要領域の輝度範囲以外に、主要領域の輝度範囲より高輝度の範囲のうちの主な部分である第2の輝度領域の輝度範囲と、主要領域の輝度範囲より低輝度の範囲のうちの主な部分である第3の輝度領域の輝度範囲との3つの輝度領域を設定し、設定された3つの輝度領域に対して、多くの階調ステップ数を割り当てることができるようになされている。
なお、図5における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
すなわち、図14の画像生成部93−2は、図5を用いて説明した画像生成部93−1と基本的に同様の平均輝度算出部131、および、主要領域輝度範囲設定部132を有し、画像生成部93−1の第2の輝度領域輝度平均値算出部133および第2の輝度領域輝度範囲設定部134が省略され、高輝度領域輝度平均値算出部161、高輝度領域輝度範囲設定部162、低輝度領域輝度平均値算出部163、および、低輝度領域輝度範囲設定部164が新たに設けられ、出力レベル変換処理部135に代わって、出力レベル変換処理部165が設けられている。
高輝度領域輝度平均値算出部161は、撮像部91から供給された画像信号を取得し、取得された画像信号のうち、主要領域輝度範囲設定部132により設定された主要領域の輝度範囲より高輝度の範囲の画素の平均輝度を算出し、算出結果を、高輝度領域輝度範囲設定部162に供給する。
高輝度領域輝度範囲設定部162は、高輝度領域輝度平均値算出部161から供給された主要領域の輝度範囲より高輝度の範囲の画素の平均輝度を基に、主要領域より高輝度である第2の輝度領域の輝度範囲を設定し、設定した第2の輝度領域の輝度範囲を出力レベル変換処理部165に供給する。
高輝度領域輝度範囲設定部162は、例えば、主要領域の輝度範囲より高輝度の範囲の画素の平均輝度を中心とした所定の輝度の範囲を第2の輝度領域の輝度範囲としても良いし、主要領域の輝度範囲より高輝度の範囲の画素の平均輝度である画素を中心として、この輝度に近い輝度値を有するものから順番に所定ビット数の画素を選択して第2の輝度領域の輝度範囲としても良い。
低輝度領域輝度平均値算出部163は、撮像部91から供給された画像信号を取得し、取得された画像信号のうち、主要領域輝度範囲設定部132により設定された主要領域の輝度範囲より低輝度の範囲の画素の平均輝度を算出し、算出結果を、低輝度領域輝度範囲設定部164に供給する。
低輝度領域輝度範囲設定部164は、低輝度領域輝度平均値算出部163から供給された主要領域の輝度範囲より低輝度の範囲の画素の平均輝度を基に、主要領域より低輝度である第3の輝度領域の輝度範囲を設定し、設定した第3の輝度領域の輝度範囲を出力レベル変換処理部165に供給する。
低輝度領域輝度範囲設定部164は、例えば、主要領域の輝度範囲より低輝度の範囲の画素の平均輝度を中心とした所定の輝度の範囲を第3の輝度領域の輝度範囲としても良いし、主要領域の輝度範囲より低輝度の範囲の画素の平均輝度である画素を中心として、この輝度に近い輝度値を有するものから順番に所定ビット数の画素を選択して第3の域輝度範囲としても良い。
出力レベル変換処理部165は、撮像部91から供給された画像信号を取得して、主要領域輝度範囲設定部132、高輝度領域輝度範囲設定部162、および、低輝度領域輝度範囲設定部164から供給された、主要領域の輝度範囲、第2の輝度領域の輝度範囲、および、第3の輝度領域の輝度範囲の情報を基に、取得した画像信号の出力レベルを変換する。
具体的には、出力レベル変換処理部165は、例えば、図15Aに示されるように、入力レベルに対して出力レベルを変換することができる。すなわち、第3の輝度領域より輝度の入力レベルが低い画素は、入力レベルにかかわらず、出力レベルは0(すなわち、真っ黒)とされる。そして、第3の輝度領域内、主要領域内、および、第2の輝度領域内の画素には、入力レベルに応じて、所定の階調の出力レベルが割り当てられる。また、第3の輝度領域と主要領域の間の輝度範囲、および、主要領域と第2の輝度領域の間の輝度範囲の画素は、入力レベルにかかわらず、その範囲の直前に割り当てられた出力レベルで出力される。そして、第2の輝度領域よりも高輝度の画素に対しては、第2の輝度領域の輝度範囲に割り当てられた出力レベルの最大値となる出力レベルが割り当てられる。
また、出力レベル変換処理部165は、例えば、図15Bに示されるように、入力レベルに対して出力レベルを変換することができる。すなわち、第3の輝度領域より輝度の入力レベルが低い画素は、入力レベルにかかわらず、出力レベルは0(すなわち、真っ黒)とされる。そして、第3の輝度領域内、主要領域内、および、第2の輝度領域内の画素には、入力レベルに応じて、所定の階調の出力レベルが割り当てられる。また、第3の輝度領域と主要領域の間の輝度範囲、および、主要領域と第2の輝度領域の間の輝度範囲の画素は、主要領域などに割り当てられたステップ数よりも少ないステップ数で、入力レベルに応じた出力レベルが割り当てられる。そして、第2の輝度領域よりも高輝度の画素に対しては、第2の輝度領域に割り当てられた出力レベルの最大値となる出力レベルが割り当てられる。
また、出力レベル変換処理部165は、例えば、図15Cに示されるように、入力レベルに対して出力レベルを変換することができる。すなわち、出力レベル変換処理部165は、例えば、第3の輝度領域の輝度の上限値を中心とする所定の輝度範囲を区間α、主要領域の輝度の下限値を中心とする所定の輝度範囲を区間β、主要領域の輝度の上限値を中心とする所定の輝度範囲を区間γ、第2の輝度領域の輝度の下限値を中心とする所定の輝度範囲を区間δとする。そして、第3の輝度領域より輝度の入力レベルが低い画素は、入力レベルにかかわらず、出力レベルは0(すなわち、真っ黒)とされる。第3の輝度領域内であり、区間α以外の画素、主要領域輝度の範囲内であり、区間βまたは区間γ以外の画素、および、第2の輝度領域の範囲内であり、区間δ以外の画素には、入力レベルに応じて、所定の階調の出力レベルが割り当てられる。また、区間α、区間β、区間γ、および、区間δの画素には、主要領域輝度範囲などであって、区間α乃至区間δ以外の部分に割り当てられたステップ数よりも少ないステップ数の所定の階調の出力レベルが割り当てられる。そして、第2の輝度領域よりも高輝度の画素に対しては、第2の輝度領域に割り当てられた出力レベルの最大値となる出力レベルが割り当てられる。
なお、図15Cにおいては、第3の輝度領域の輝度の上限値を中心とする所定の輝度範囲を区間α、主要領域の輝度の下限値を中心とする所定の輝度範囲を区間β、主要領域の輝度の上限値を中心とする所定の輝度範囲を区間γ、第2の輝度領域の輝度の下限値を中心とする所定の輝度範囲を区間δとしたが、例えば、第3の輝度領域内の上限側の所定の輝度範囲を区間α、主要領域内の下限側の所定の輝度範囲を区間β、主要領域内の上限側の所定の輝度範囲を区間γ、第2の輝度領域内の下限側の所定の輝度範囲を区間δとしたり、第3の輝度領域の上限よりも高輝度の所定の輝度範囲を区間α、主要領域の下限よりも低輝度の所定の輝度範囲を区間β、主要領域の上限よりも高輝度の所定の輝度範囲を区間γ、第2の輝度領域の下限よりも低輝度の所定の輝度範囲を区間δとするようにしても良い。更に、第3の輝度領域の輝度の下限側、および、第2の輝度領域の輝度の上限側に、区間α乃至区間δと同様の出力レベルのステップ数が割り当てられるような領域を設定するようにしても良い。
また、図15においては、第3の輝度領域よりも低輝度、および、第2の輝度領域よりも高輝度の範囲において、出力レベルのステップ数(階調のステップ数)を割り当てない場合について説明した。これに対して、出力レベル変換処理部165は、例えば、図7を用いて説明した場合と同様に、第3の輝度領域よりも低輝度、および、第2の輝度領域よりも高輝度の範囲においても、主要領域、第2の輝度領域、および、第3の輝度領域よりも少ないステップ数を割り当てるようにしてもよい。
更に、出力レベル変換処理部165は、例えば、主要領域、第2の輝度領域、および、第3の輝度領域における入力レベルに対する出力レベルの比率(直線の傾き)よりも、これらの領域以外の輝度範囲における入力レベルに対する出力レベルの比率が低くなるように、それぞれの輝度領域に割り当てられる階調のステップ数を決定するようにしてもよい。
次に、図16を用いて、入力信号、出力レベル変換処理部165による階調変換後の信号、および、表示される信号の輝度レベルについて説明する。
図16Aは、図15Aを用いて説明した階調変換が行われた場合の入力信号、出力レベル変換処理部165による階調変換後の信号、および、表示または印刷などのために出力される信号の輝度レベルを示す図である。図16Aに示される場合、離散した輝度範囲である主要領域、第2の輝度領域、および第3の輝度領域の信号の輝度階調幅が充分与えられている状態で、連続した輝度階調に変換される。第3の輝度領域と主要領域の間の輝度範囲の画素は、全て、第3の輝度領域の最大出力レベルで出力され、主要領域と第2の輝度領域の間の輝度範囲の画素は、全て、主要領域の最大出力レベルで出力される。そして、変換後の信号が、表示または印刷出力の条件に応じて、階調変換(階調数が圧縮)されるようになされている。
図16Bは、図15Bを用いて説明した階調変換が行われた場合の入力信号、出力レベル変換処理部165による階調変換後の信号、および、表示または印刷などのために出力される信号の輝度レベルを示す図である。図16Bに示される場合、第3の輝度領域と主要領域の間、および、主要領域と第2の輝度領域の間の領域には、主要領域、第2の輝度領域、および第3の輝度領域よりも少ないステップ数の階調しか与えられていない。そのため、変換後の信号は、第3の輝度領域と主要領域の間、および、主要領域と第2の輝度領域の間の領域のステップ数が少ない分、入力信号よりも輝度の階調数が大幅に圧縮されるにもかかわらず、主要領域、第2の輝度領域、および第3の輝度領域の信号の輝度階調幅は充分に与えられている。そして、変換後の信号が、表示または印刷出力の条件に応じて、階調変換(階調数が圧縮)されるようになされている。
図16Cは、図15Cを用いて説明した階調変換が行われた場合の入力信号、出力レベル変換処理部165による階調変換後の信号、および、表示または印刷などのために出力される信号の輝度レベルを示す図である。図16Cに示される場合、主要領域、第2の輝度領域、および第3の輝度領域と、それらの間の領域で、割り当てられる輝度の階調ステップ数を、上述した区間α乃至区間δによってなだらかに変化させるように、すなわち、区間α乃至区間δにおいては、主要領域、第2の輝度領域、および第3の輝度領域の区間α乃至区間δ以外の部分よりも少ないステップ数の階調が与えられるようになされている。そのため、変換後の信号においては、主要領域、第2の輝度領域、および第3の輝度領域に充分な輝度階調幅が与えられている状態で、入力信号よりも輝度の階調数が大幅に圧縮される。そして、変換後の信号が、表示または印刷出力の条件に応じて、階調変換(階調数が圧縮)されるようになされている。
次に、図17のフローチャートを参照して、図14の画像生成部93−2を含む画像処理装置81において実行される画像表示処理2について説明する。
ステップS31において、撮像部91は、操作入力部92から供給されたユーザの操作入力を基に被写体を撮像し、対数変換され、A/D変換された撮像画像信号を、画像生成部93−2に供給する。画像生成部93−2は、撮像された画像信号を取得する。
ステップS32において、画像生成部93−2の平均輝度算出部131は、撮像された画像全体の平均輝度を求め、算出結果を、主要領域輝度範囲設定部132に供給する。
ステップS33において、主要領域輝度範囲設定部132は、平均輝度算出部131から供給された画像全体の平均輝度を基に、主要領域の輝度範囲を設定し、設定した主要領域の輝度範囲を、出力レベル変換処理部165、高輝度領域輝度平均値算出部161、および、低輝度領域輝度平均値算出部163に供給する。
主要領域輝度範囲設定部132は、例えば、画像信号の平均輝度を中心とした所定の輝度の範囲を主要領域の輝度範囲としても良いし、画像信号の平均輝度である画素を中心として、この輝度に近い輝度値を有するものから順番に所定ビット数の画素を選択して主要領域の輝度範囲としても良い。
ステップS34において、高輝度領域輝度平均値算出部161は、撮像部91から供給された画像信号のうち、主要領域輝度範囲設定部132により設定された主要領域の輝度範囲よりも明るい領域の平均輝度を求め、その結果を、高輝度領域輝度範囲設定部162に供給する。
ステップS35において、高輝度領域輝度範囲設定部162は、高輝度領域輝度平均値算出部161から供給された主要領域の輝度範囲よりも明るい領域の平均輝度を基に、第2の輝度領域の輝度範囲を設定し、設定した第2の輝度領域の輝度範囲を出力レベル変換処理部165に供給する。
高輝度領域輝度範囲設定部162は、例えば、主要領域の輝度範囲より高輝度の範囲の画素の平均輝度を中心とした所定の輝度の範囲を第2の輝度領域の輝度範囲としても良いし、主要領域の輝度範囲より高輝度の範囲の画素の平均輝度である画素を中心として、この輝度に近い輝度値を有するものから順番に所定ビット数の画素を選択して第2の輝度領域の輝度範囲としても良い。
ステップS36において、低輝度領域輝度平均値算出部163は、撮像部91から供給された画像信号のうち、主要領域輝度範囲設定部132により設定された主要領域の輝度範囲よりも暗い領域の平均輝度を求め、その結果を、低輝度領域輝度範囲設定部164に供給する。
ステップS37において、低輝度領域輝度範囲設定部164は、低輝度領域輝度平均値算出部163から供給された主要領域の輝度範囲よりも暗い領域の平均輝度を基に、第3の輝度領域の輝度範囲を設定し、設定した第3の輝度領域の輝度範囲を出力レベル変換処理部165に供給する。
低輝度領域輝度範囲設定部164は、例えば、主要領域の輝度範囲より低輝度の範囲の画素の平均輝度を中心とした所定の輝度の範囲を第3の輝度領域の輝度範囲としても良いし、主要領域の輝度範囲より低輝度の範囲の画素の平均輝度である画素を中心として、この輝度に近い輝度値を有するものから順番に所定ビット数の画素を選択して第3の域輝度範囲としても良い。
ステップS38において、出力レベル変換処理部165は、主要領域輝度範囲設定部132により設定された主要領域の輝度範囲、高輝度領域輝度範囲設定部162により設定された第2の輝度領域の輝度範囲、および、低輝度領域輝度範囲設定部164により設定された第3の輝度領域の輝度範囲を基に、例えば、図15を用いて説明したような入力レベルと出力レベルの変換特性を決定する。
ステップS39において、出力レベル変換処理部165は、撮像部91から供給された撮像された画像の階調を、ステップS39において決定された変換特性に基づいて変換し、表示制御部94に供給する。
ステップS40において、表示制御部94は、供給された画像信号を、図16を用いて説明したように、表示素子に適合した階調に変換する。
ステップS41において、表示制御部94は、表示素子に適した階調に変換された画像信号をディスプレイ82に供給し、画像の表示を制御して、処理が終了される。
なお、ここでは、生成された画像をディスプレイ82に表示させる処理について説明したが、生成された画像を出力制御部95を介して図示しない外部の機器に出力させる場合には、ステップS31乃至ステップS39において基本的に同様の処理が実行され、画像信号が出力制御部95に供給されて、出力先の機器において処理可能な階調に変換されて出力が制御される。
このような処理により、対数変換型撮像素子102を用いた撮像部91により撮像された画像データにおいて、広い輝度範囲に、特に、主な輝度範囲から離散した高輝度と低輝度の領域のいずれにも、ユーザが必要とする画像情報が存在するような場合であっても、このような画像をディスプレイ82に対応した階調で表示させたり、または、出力先の外部機器に対応した階調で出力させたときに、ユーザから識別可能な状態に表示または印刷出力させることができるような画像データを生成することができる。
図14の画像生成部93−2を含む画像処理装置81により表示される画像は、具体的には、例えば、図18に示されるように、撮像される画像のほとんどの部分が路面であり、その路面の輝度より非常に高輝度である空の部分が画角に含まれており、更に、路面の輝度より非常に低輝度である黒いスーツを着た人が画角に含まれている場合であっても、路面、空、黒いスーツを着た人のそれぞれに対応する輝度付近に、多くの階調ステップ数が割り当てられるようになされている。したがって、図14の画像生成部93−2を含む画像処理装置81を用いることにより、空の部分が白飛びして認識しにくい画像が表示されたり、撮像されているにもかかわらず、黒いスーツを着た人がユーザから判別できないように黒くつぶれて表示されてしまうようなことを防ぐことが可能となる。
更に、同様にして、図14の画像生成部93−2を含む画像処理装置81により表示される画像は、具体的には、例えば、図19に示されるように、撮像される画像のほとんどの部分がトンネル内の暗い路面であり、その路面の輝度よりやや高輝度であるトンネル内の白い壁や、非常に高輝度であるトンネル外の部分が画角に含まれており、更に、トンネル内の路面の輝度より非常に低輝度である、トンネル内の黒い車が画角に含まれている場合であっても、トンネル内の路面、トンネルの壁やトンネルの外、そして、トンネル内の黒い車のそれぞれに対応する輝度付近に、多くの階調ステップ数が割り当てられるようになされている。図14の画像生成部93−2を含む画像処理装置81を用いることにより、トンネルの外の部分が白飛びして認識しにくい画像が表示されたり、撮像されているにもかかわらず、トンネル内の黒い車がユーザから判別できないように黒くつぶれて表示されてしまうようなことを防ぐことが可能となる。
更に、画像生成部93においては、3つ以上の領域を設定して、設定された領域と設定されていない領域に割り当てられる階調ステップ数を異なるものとすることができるようにしても良い。
次に、図20は、図2の画像生成部93の構成の第3の例である画像生成部93−3の構成を示すブロック図である。画像生成部93−3は、主要領域の輝度範囲以外に、複数の輝度領域とそれらの輝度範囲を設定し、設定された複数の輝度範囲に対して、設定されていない輝度範囲よりも多くの階調ステップ数を割り当てることができるようになされている。
なお、図5における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
すなわち、図20の画像生成部93−3は、図5を用いて説明した画像生成部93−1と基本的に同様の平均輝度算出部131、および、主要領域輝度範囲設定部132を有し、画像生成部93−1の第2の輝度領域輝度平均値算出部133および第2の輝度領域輝度範囲設定部134が省略され、第2の輝度領域輝度平均値算出部181、第2の輝度領域輝度範囲設定部182、第3の輝度領域輝度平均値算出部183、第3の輝度領域輝度範囲設定部184、第4の輝度領域輝度平均値算出部185、および、第4の輝度領域輝度範囲設定部186が新たに設けられ、出力レベル変換処理部135に代わって、出力レベル変換処理部187が設けられている。
第2の輝度領域輝度平均値算出部181は、撮像部91から供給された画像信号のうち、主要領域輝度範囲設定部132により設定された主要領域の輝度範囲以外の所定の範囲(例えば、主要領域の輝度範囲より高輝度の範囲を更に2分割し、その最も高輝度の部分など)に含まれる輝度を有する画素の平均輝度を算出し、算出結果を、第2の輝度領域輝度範囲設定部182に供給する。
第2の輝度領域輝度範囲設定部182は、第2の輝度領域輝度平均値算出部181から供給された主要領域以外の所定の範囲に含まれる輝度を有する画素の平均輝度を基に、第2の輝度領域の輝度範囲を設定し、設定した第2の輝度領域の輝度範囲を出力レベル変換処理部187に供給する。
第2の輝度領域輝度範囲設定部182は、例えば、所定の範囲の輝度を有する画素の平均輝度を中心とした所定の輝度の範囲を第2の輝度領域の輝度範囲としても良いし、所定の範囲の輝度を有する画素の平均輝度である画素を中心として、この輝度に近い輝度値を有するものから順番に所定ビット数の画素を選択して第2の輝度領域の輝度範囲としても良い。
第3の輝度領域輝度平均値算出部183は、撮像部91から供給された画像信号のうち、主要領域輝度範囲設定部132により設定された主要領域の輝度範囲以外の所定の範囲(例えば、主要領域の輝度範囲より高輝度の範囲を更に2分割し、2分割されたうちの低輝度の部分など)に含まれる輝度を有する画素の平均輝度を算出し、算出結果を、第3の輝度領域輝度範囲設定部184に供給する。
第3の輝度領域輝度範囲設定部184は、第3の輝度領域輝度平均値算出部183から供給された主要領域以外の所定の範囲に含まれる輝度を有する画素の平均輝度を基に、第3の輝度領域の輝度範囲を設定し、設定した第3の輝度領域の輝度範囲を出力レベル変換処理部187に供給する。
第3の輝度領域輝度範囲設定部184は、例えば、所定の範囲の輝度を有する画素の平均輝度を中心とした所定の輝度の範囲を第3の輝度領域の輝度範囲としても良いし、所定の範囲の輝度を有する画素の平均輝度である画素を中心として、この輝度に近い輝度値を有するものから順番に所定ビット数の画素を選択して第3の域輝度範囲としても良い。
第4の輝度領域輝度平均値算出部185は、撮像部91から供給された画像信号のうち、主要領域輝度範囲設定部132により設定された主要領域の輝度範囲以外の所定の範囲(例えば、主要領域の輝度範囲より低輝度の範囲を更に2分割し、2分割されたうちの低輝度の部分など)に含まれる輝度を有する画素の平均輝度を算出し、算出結果を、第4の輝度領域輝度範囲設定部186に供給する。
第4の輝度領域輝度範囲設定部186は、第4の輝度領域輝度平均値算出部185から供給された主要領域以外の所定の範囲に含まれる輝度を有する画素の平均輝度を基に、第4の輝度領域の輝度範囲を設定し、設定した第4の輝度領域の輝度範囲を出力レベル変換処理部187に供給する。
第4の輝度領域輝度範囲設定部186は、例えば、所定の範囲の輝度を有する画素の平均輝度を中心とした所定の輝度の範囲を第4の輝度領域の輝度範囲としても良いし、所定の範囲の輝度を有する画素の平均輝度である画素を中心として、この輝度に近い輝度値を有するものから順番に所定ビット数の画素を選択して第4の域輝度範囲としても良い。
出力レベル変換処理部187は、撮像部91から供給された画像信号を取得して、主要領域輝度範囲設定部132、第2の輝度領域輝度範囲設定部182、第3の輝度領域輝度範囲設定部184、および、第4の輝度領域輝度範囲設定部186から供給された、主要領域の輝度範囲、第2の輝度領域の輝度範囲、第3の輝度領域の輝度範囲および、第4の輝度領域の輝度範囲の情報を基に、取得した画像信号の出力レベルを変換する。
出力レベル変換処理部187は、入力される輝度信号のレベルに対して、所定のステップ数の出力レベル信号(輝度を所定の階調ステップ数で分割した場合のそれぞれの輝度階調レベルの信号)を割り当てて、割り当てられた出力レベルの信号を出力するようになされている。出力レベル変換処理部187は、出力レベル信号の輝度階調レベルの割り当てを、例えば、図6、図7、または、図15を用いて説明した場合と同様に、主要領域および他の領域として設定されている輝度範囲と、それ以外の範囲とで、異なるものとする。すなわち、出力レベル変換処理部187は、主要領域および他の領域として設定されている輝度範囲により多くの出力レベルのステップ数を割り当てて、対応する輝度範囲の画素の階調数が多くなり、表示または印刷出力される画像の対応する輝度範囲の部分がユーザによってよりよく認識できるような変換処理を実行する。
なお、図20には、主要領域以外に、第2乃至第4の輝度領域を設定するための、第2の輝度領域輝度平均値算出部181、第2の輝度領域輝度範囲設定部182、第3の輝度領域輝度平均値算出部183、第3の輝度領域輝度範囲設定部184、第4の輝度領域輝度平均値算出部185、および、第4の輝度領域輝度範囲設定部186が図示されているが、画像生成部93−3には、更に、多くの輝度領域を設定することができるように、他の輝度領域輝度平均値算出部および輝度領域輝度範囲設定部を設けるようにしても良い。
また、図20の画像生成部93−3が実行する処理は、図17を用いて説明した画像表示処理2の処理と基本的には同様であり、設定される領域数を増やした場合に対応するので、その説明は省略する。
以上説明した画像生成部93−1乃至画像生成部93−3は、撮像された画像の全体の輝度の平均値を基に、主要領域を設定するようになされていた。これに対して、撮像された画像のうち、予め定められた領域に含まれる画素の輝度の平均値を基に、主要領域を設定するようにしても良い。
図21は、図2の画像生成部93の構成の第4の例である画像生成部93−4の構成を示すブロック図である。画像生成部93−4は、撮像された画像のうち、予め定められた領域に含まれる画素を切り出し、切り出された領域の輝度の平均値を基に、主要領域を設定するようになされている。
なお、図5における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
すなわち、図21の画像生成部93−4は、平均輝度算出部131に代わって、主要領域切り出し部201および主要領域輝度平均値算出部202が設けられている以外は、基本的に、図5の画像生成部93−1と同様の構成を有している。
主要領域切り出し部201は、撮像部91から供給された画像信号を取得し、取得された画像信号のうち、予め設定されている画像領域を切り出し、切り出した領域の画素を主要領域輝度平均値算出部202に供給する。
例えば、走行している車の前面の画像を撮像して、撮像された画像をディスプレイに表示されるようになされている場合、走行中に撮像されて表示される画像は常に変化する。上述したように、走行している車において撮像された画像全体の平均値を用いて主要領域を設定した場合、画角内に極端に明るいものや極端に暗いものが入ったときに、主要領域の輝度範囲が変更され、表示される画像全体の明るさが変更されてしまう。これにより、表示画面の主な部分を占める路面などの明るさが頻繁に変更され、運転者が感じる表示画像の明るさがちらついてしまう可能性がある。
そこで、主要領域切り出し部201により切り出される画像の領域を、図22に示されるように、定常的に路面が撮像されると思われる、例えば、画面中央やや左よりの下部の領域221とする。切り出される領域を、定常的に同じものが撮像されると思われる領域とすることにより、表示される画像のうちの主な部分を占める路面の表示の明るさを、略一定にすることができるので、運転者が感じる表示画像の明るさが頻繁にちらつくことを防止することができる。
主要領域輝度平均値算出部202は、主要領域切り出し部201から供給された、切り出された領域の画素の平均輝度を算出し、平均輝度の算出結果を、主要領域輝度範囲設定部132に供給する。
そして、図21の画像生成部93−4においては、主要領域輝度平均値算出部202により算出された、切り出された領域の平均輝度を基に、主要領域の輝度範囲が設定され、主要領域の輝度範囲を基に、主要領域の輝度範囲より高輝度の範囲の第2の輝度領域の輝度範囲が設定される。そして、出力レベル変換処理部135により、主要領域および第2の輝度領域として設定されている輝度範囲により多くの出力レベルのステップが割り当てられ、図6乃至図8を用いて説明した場合と同様に、対応する輝度範囲の画素の階調数が多くなり、表示または印刷出力される画像の対応する輝度範囲の部分がユーザによってよりよく認識できるような変換処理が実行される。
次に、図23のフローチャートを参照して、図21の画像生成部93−4が用いられている画像処理装置81において実行される画像表示処理3について説明する。
ステップS71において、撮像部91は、操作入力部92から供給されたユーザの操作入力を基に被写体を撮像し、対数変換され、A/D変換された撮像画像信号を、画像生成部93−4に供給する。画像生成部93−4は、撮像された画像信号を取得する。
ステップS72において、画像生成部93−4の主要領域切り出し部201は、撮像部91から供給された画像信号のうち、例えば、図22を用いて説明したような、予め設定されている画像領域を切り出し、切り出した領域の画素を主要領域輝度平均値算出部202に供給する。
ステップS73において、主要領域輝度平均値算出部202は、主要領域切り出し部201から供給された切り出された領域の画素の平均輝度を求め、算出結果を、主要領域輝度範囲設定部132に供給する。
ステップS74において、主要領域輝度範囲設定部132は、主要領域輝度平均値算出部202から供給された、切り出された領域の画素の平均輝度を基に、主要領域の輝度範囲を設定し、設定した主要領域の輝度範囲を、第2の輝度領域輝度平均値算出部133および出力レベル変換処理部135に供給する。
そして、ステップS75乃至ステップS80において、図9のステップS2乃至ステップS9と基本的に同等の処理が実行される。
すなわち、第2の輝度領域輝度平均値算出部133は、撮像部91から供給された画像信号のうち、主要領域の輝度範囲よりも明るい領域の平均輝度を求め、第2の輝度領域輝度範囲設定部134は、主要領域の輝度範囲よりも明るい領域の平均輝度を基に、第2の輝度領域の輝度範囲を設定する。
そして、出力レベル変換処理部135は、主要領域輝度範囲、および、第2の輝度領域の輝度範囲を基に、例えば、図6または図7を用いて説明したような入力レベルと出力レベルの変換特性を決定し、撮像部91から供給された撮像画像の階調を、変換特性に基づいて変換し、表示制御部94に供給する。表示制御部94は、供給された画像信号を、図8を用いて説明したように、表示素子に適合した階調に変換し、変換された画像信号をディスプレイ82に供給し、画像の表示を制御して、処理が終了される。
なお、ここでは、生成された画像をディスプレイ82に表示させる処理について説明したが、生成された画像を出力制御部95を介して図示しない外部の機器に出力させる場合には、ステップS71乃至ステップS78において基本的に同様の処理が実行され、画像信号が出力制御部95に供給されて、出力先の機器において処理可能な階調に変換されて出力が制御される。
このような処理により、対数変換型撮像素子102を用いた撮像部91により撮像された画像データをディスプレイ82に対応した階調で表示させたい場合、または、出力先の外部機器に対応した階調で出力させたい場合であっても、広い輝度範囲に散らばって存在するユーザが必要とする画像情報を、ユーザから識別可能な状態に表示または印刷出力させることができるような画像データを生成することができる。更に、所定の領域を基準として、多くの階調が割り当てられる輝度範囲が設定されるので、特に、動画像を表示させる場合に表示画像の明るさが頻繁にちらつくことを防止することができる。
以上説明した画像生成部93−4は、撮像された画像内の所定の領域を切り出して、切り出された領域の画素を基に主要領域の輝度範囲を設定し、主要領域の輝度範囲と、主要領域の輝度範囲より高輝度の範囲のうちの主な部分である第2の輝度領域の輝度範囲に対して、多くの階調ステップ数が割り当てられるものとして説明した。これに対して、設定される輝度範囲が、主要領域の輝度範囲と第2の輝度領域の輝度範囲の2つではない場合について説明する。
次に、図24は、図2の画像生成部93の構成の第5の例である画像生成部93−5の構成を示すブロック図である。画像生成部93−5は、撮像された画像内の所定の領域を切り出して、切り出された領域の画素を基に主要領域の輝度範囲を設定し、主要領域の輝度範囲以外に、主要領域の輝度範囲より高輝度の範囲のうちの主な部分である第2の輝度領域の輝度範囲と、主要領域の輝度範囲より低輝度の範囲のうちの主な部分である第3の輝度領域の輝度範囲との3つの輝度領域を設定し、設定された3つの輝度領域に対して、多くの階調ステップ数を割り当てることができるようになされている。
なお、図14または図21における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
すなわち、図24の画像生成部93−5は、図21を用いて説明した場合と同様の主要領域切り出し部201および主要領域輝度平均値算出部202を備えるとともに、図14を用いて説明した場合と同様の、主要領域輝度範囲設定部132、高輝度領域輝度平均値算出部161、高輝度領域輝度範囲設定部162、低輝度領域輝度平均値算出部163、低輝度領域輝度範囲設定部164、および、出力レベル変換処理部165が設けられている。
図24の画像生成部93−5は、図21を用いて説明した画像生成部93−4と同様にして、撮像された画像内の所定の領域を切り出して、切り出された領域の画素を基に主要領域の輝度範囲を設定するものであり、かつ、図14を用いて説明した画像生成部93−2と同様にして、主要領域の輝度範囲以外に、主要領域の輝度範囲より高輝度の範囲のうちの主な部分である第2の輝度領域の輝度範囲と、主要領域の輝度範囲より低輝度の範囲のうちの主な部分である第3の輝度領域の輝度範囲との3つの輝度領域を設定し、設定された3つの輝度領域に対して、多くの階調ステップ数を割り当てることができるようになされている。
具体的には、画像全体の明るさより極端に暗いものが撮像される画像内にある場合、例えば、夜、黒い服を着た歩行者が画角に含まれていた場合など、ユーザから肉眼で確認しにくい被写体をはっきりと表示させることが望まれる。特に、上述したように、走行している車の前面の画像を撮像して、撮像された画像をディスプレイに表示されるようになされている場合、広ダイナミックレンジで撮像された撮像画像信号から、夜に黒い服を着た歩行者を運転者がはっきりと認識することができるような表示画像を生成することが望まれる。そのため、切り出される領域を、周辺の明るさにより反射光量が変更され、かつ定常的に同じものが撮像されると思われる領域とすることにより、画面のちらつきを防止しつつ、運転者にとって必要な情報を運転者から認識しやすい状態で表示させるようにすることが可能となる。
図25のフローチャートを参照して、図24の画像生成部93−5を含む画像処理装置81において実行される画像表示処理4について説明する。
ステップS101乃至ステップS103において、図23のステップS71乃至ステップS73と基本的に同様の処理が実行される。
すなわち、撮像部91は、操作入力部92から供給されたユーザの操作入力を基に被写体を撮像し、対数変換され、A/D変換された撮像画像信号を、画像生成部93−5に供給する。画像生成部93−5は、撮像された画像信号を取得する。画像生成部93−5の主要領域切り出し部201は、撮像部91から供給された画像信号のうち、例えば、図22を用いて説明したような、予め設定されている画像領域を切り出し、切り出した領域の画素を主要領域輝度平均値算出部202に供給する。主要領域輝度平均値算出部202は、主要領域切り出し部201から供給された切り出された領域の画素の平均輝度を求め、算出結果を、主要領域輝度範囲設定部132に供給する。
ステップS104において、主要領域輝度範囲設定部132は、主要領域輝度平均値算出部202から供給された、切り出された領域の画素の平均輝度を基に、主要領域の輝度範囲を設定し、設定した主要領域の輝度範囲を、出力レベル変換処理部165、高輝度領域輝度平均値算出部161および、低輝度領域輝度平均値算出部163に供給する。
そして、ステップS105乃至ステップS112において、図17のステップS34乃至ステップS41と基本的に同等の処理が実行される。
すなわち、高輝度領域輝度平均値算出部161は、撮像部91から供給された画像信号のうち、主要領域の輝度範囲よりも明るい領域の平均輝度を求め、高輝度領域輝度範囲設定部162は、主要領域の輝度範囲よりも明るい領域の平均輝度を基に、第2の輝度領域の輝度範囲を設定し、設定した第2の輝度領域の輝度範囲を出力レベル変換処理部165に供給する。
そして、低輝度領域輝度平均値算出部163は、撮像部91から供給された画像信号のうち、主要領域の輝度範囲よりも暗い領域の平均輝度を求め、低輝度領域輝度範囲設定部164は、主要領域の輝度範囲よりも暗い領域の平均輝度を基に、第3の輝度領域の輝度範囲を設定し、設定した第3の輝度領域の輝度範囲を出力レベル変換処理部165に供給する。
そして、出力レベル変換処理部165は、設定された主要領域の輝度範囲、第2の輝度領域の輝度範囲、および、第3の輝度領域の輝度範囲を基に、例えば、図15を用いて説明したような入力レベルと出力レベルの変換特性を決定し、撮像部91から供給された撮像された画像の階調を、決定された変換特性に基づいて変換し、表示制御部94に供給する。表示制御部94は、供給された画像信号を、図16を用いて説明したように、表示素子に適合した階調に変換し、表示素子に適した階調に変換された画像信号をディスプレイ82に供給し、画像の表示を制御して、処理が終了される。
なお、ここでも、生成された画像をディスプレイ82に表示させる処理について説明したが、生成された画像を出力制御部95を介して図示しない外部の機器に出力させる場合には、ステップS101乃至ステップS110において基本的に同様の処理が実行され、画像信号が出力制御部95に供給されて、出力先の機器において処理可能な階調に変換されて出力が制御される。
このような処理により、対数変換型撮像素子102を用いた撮像部91により撮像された画像データにおいて、広い輝度範囲に、特に、主な輝度範囲から離散した高輝度と低輝度の領域のいずれも、ユーザが必要とする画像情報が存在するような場合であっても、このような画像をディスプレイ82に対応した階調で表示させたり、または、出力先の外部機器に対応した階調で出力させたときに、ユーザから識別可能な状態に表示または印刷出力させることができるような画像データを生成することができる。更に、所定の領域を基準として、多くの階調が割り当てられる3つの輝度領域が設定されるので、特に、動画像が表示される場合に表示画像の明るさが頻繁にちらつくことを防止することができる。
更に、画像生成部93においては、撮像された画像内の所定の領域を切り出して、切り出された領域の画素を基に、3つ以上の領域を設定するようにしても良い。そして、画像生成部93は、設定された領域と設定されていない領域に割り当てられる階調ステップ数を異なるものとすることができる。
次に、図26は、図2の画像生成部93の構成の第6の例である画像生成部93−6の構成を示すブロック図である。画像生成部93−6は、撮像された画像内の所定の領域を切り出して、切り出された領域の画素を基に主要領域の輝度範囲を設定し、主要領域の輝度範囲以外に、複数の輝度領域の対応する輝度範囲を設定し、設定された複数の輝度範囲に対して、設定範囲外よりも多くの階調ステップ数を割り当てることができるようになされている。
なお、図20または図21における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
すなわち、図26の画像生成部93−6は、図21を用いて説明した場合と同様の主要領域切り出し部201および主要領域輝度平均値算出部202が設けられているとともに、図20を用いて説明した場合と同様の、主要領域輝度範囲設定部132、第2の輝度領域輝度平均値算出部181、第2の輝度領域輝度範囲設定部182、第3の輝度領域輝度平均値算出部183、第3の輝度領域輝度範囲設定部184、第4の輝度領域輝度平均値算出部185、第4の輝度領域輝度範囲設定部186、および、出力レベル変換処理部187が設けられている。
図26の画像生成部93−6は、図21を用いて説明した画像生成部93−4と同様にして、撮像された画像内の所定の領域を切り出して、切り出された領域の画素を基に主要領域の輝度範囲を設定するものであり、かつ、図20を用いて説明した画像生成部93−3と同様にして、主要領域の輝度範囲以外に、複数の輝度領域のそれぞれの輝度範囲を設定し、設定された複数の輝度範囲に対して、設定範囲外よりも多くの階調ステップ数を割り当てることができるようになされている。
なお、図26には、主要領域以外に、第2乃至第4の輝度領域を設定するための、第2の輝度領域輝度平均値算出部181、第2の輝度領域輝度範囲設定部182、第3の輝度領域輝度平均値算出部183、第3の輝度領域輝度範囲設定部184、第4の輝度領域輝度平均値算出部185、および、第4の輝度領域輝度範囲設定部186が図示されているが、画像生成部93−3には、更に、多くの輝度領域を設定することができるように、他の輝度領域輝度平均値算出部および輝度領域輝度範囲設定部を設けるようにしても良い。
また、図26の画像生成部93−6が実行する処理は、図25を用いて説明した画像表示処理4の処理と基本的には同様であり、設定される領域数を増やした場合に対応するので、その説明は省略する。
以上説明した画像生成部93−1乃至画像生成部93−6は、撮像された画像の全体、または、所定の部分の輝度の平均値を基に、主要領域を設定するようになされていた。これに対して、撮像された画像に含まれる画素の輝度値の分布を示すヒストグラムを作成し、これを解析することにより、複数の輝度範囲を設定して、設定された輝度範囲に対して、設定範囲外よりも多くの階調ステップ数を割り当てることができるようにしても良い。
図27は、図2の画像生成部93の構成の第7の例である画像生成部93−7の構成を示すブロック図である。画像生成部93−7は、撮像された画像の各画素の輝度値のヒストグラムを解析し、解析結果を基に、複数の輝度範囲を設定するようになされている。
画像生成部93−7は、ヒストグラム解析部251、閾値比較処理部252、複数段階輝度範囲設定部253、および、出力レベル変換処理部254により構成されている。
ヒストグラム解析部251は、撮像部91から供給された画像信号を取得し、取得された画像信号を基に、撮像された画像の各画素の輝度値の分布を示すヒストグラムを生成して解析し、解析結果を閾値比較処理部252に供給する。
閾値比較処理部252は、ヒストグラム解析部251から供給されたヒストグラムの解析結果を基に、入力信号のそれぞれの輝度値に対応する画素の数を所定の閾値と比較する。換言すれば、閾値比較処理部252は、撮像された画像の輝度範囲のうち、一定数以上の画素数を持つものを抽出する。閾値比較処理部252は、閾値と比較した結果、画素数が閾値以上であると判断された輝度値を示す情報を複数段階輝度範囲設定部253に供給する。
ここで、閾値は、実験的経験的に求められて予め設定されているものであっても、ユーザにより適宜設定することが可能な値であっても良い。閾値が低く設定されすぎてしまった場合、ほとんどの情報が残ってしまうため、得られる画像は、例えば、図10を用いて説明した、対数変換型撮像素子102を用いて撮像された広ダイナミクスレンジの画像を画像処理装置81を用いて処理しない場合の表示画像のように、濃淡の差がない(シャープさのない)画像となってしまう。一方、閾値が高く設定されすぎてしまった場合、情報の取りこぼしが多くなってしまい、一部の輝度範囲のみが鮮明に表示されている画像となってしまう可能性がある。
複数段階輝度範囲設定部253は、閾値比較処理部252から供給される、画素数が閾値以上であると判断された輝度値を基に、設定範囲外よりも多くの階調ステップ数を割り当てる輝度範囲を複数設定し、設定された輝度範囲を、出力レベル変換処理部254に供給する。複数段階輝度範囲設定部253により設定される輝度範囲の数は、閾値比較処理部252から供給される比較結果によって決まるが、例えば、その数の上限を予め定めておくようにしても良い。
出力レベル変換処理部254は、撮像部91から供給された画像信号を取得して、複数段階輝度範囲設定部253から供給された、設定された輝度範囲の情報を基に、例えば、図6、図7、または、図15を用いて説明した場合と基本的に同様にして、設定された輝度領域に割り当てられる出力レベル信号の輝度階調レベルのステップ数が、それ以外の輝度領域に割り当てられる出力レベル信号の輝度階調レベルのステップ数よりも多くなるようにして、取得した画像信号の出力レベルを変換する。
具体的には、画像生成部93−7においては、図28に示されるように、ヒストグラム解析部251により、撮像された画像の各画素の輝度値の分布を示すヒストグラムが解析されて、閾値比較処理部252において閾値と比較され、同一画像内(1フレーム内)に閾値以上の画素数を有する輝度が抽出される。そして、抽出された輝度を基に、複数段階輝度範囲設定部253において、複数の輝度範囲が設定されて、出力レベル変換処理部254において、その範囲内に階調ステップ数が優先的に割り当てられるように入力レベルに対する出力レベルの変換特性が求められるので、設定された輝度範囲それぞれの輝度階調幅が充分与えられるようになされている。そして、変換後の信号が、表示制御部94または出力制御部95において、表示または印刷出力の条件に応じて、階調変換(階調数が圧縮)され、表示、または、印刷などのために出力されるようになされている。
次に、図29のフローチャートを参照して、図27の画像生成部93−7が用いられている画像処理装置81において実行される画像表示処理5について説明する。
ステップS141において、撮像部91は、操作入力部92から供給されたユーザの操作入力を基に被写体を撮像し、対数変換され、A/D変換された撮像画像信号を、画像生成部93−7に供給する。画像生成部93−7は、撮像された画像信号を取得する。
ステップS142において、画像生成部93−7のヒストグラム解析部251は、撮像部91から供給された画像信号を基に、撮像された画像の各画素の輝度の分布を示すヒストグラムを生成して解析し、解析結果を閾値比較処理部252に供給する。
ステップS143において、閾値比較処理部252は、ヒストグラム解析部251から供給されたヒストグラムの解析結果を基に、それぞれの入力信号の輝度値に対応する画素数を所定の閾値と比較する。閾値比較処理部252は、閾値と比較した結果、画素数が閾値以上であると判断された輝度値を示す情報を複数段階輝度範囲設定部253に供給する。
ステップS144において、複数段階輝度範囲設定部253は、閾値比較処理部252から供給される、閾値以上であると判断された輝度値を基に、設定範囲外よりも多くの階調ステップ数を割り当てる輝度範囲を複数設定し、設定された輝度範囲を、出力レベル変換処理部254に供給する
ステップS145において、出力レベル変換処理部254は、複数段階輝度範囲設定部253から供給された、設定された輝度範囲の情報を基に、例えば、図6、図7、または、図15を用いて説明した場合と基本的に同様にして、入力レベルと出力レベルの変換特性を決定する。
ステップS146において、出力レベル変換処理部254は、入力レベルと出力レベルの変換特性を基に、設定された複数の輝度範囲に割り当てられる出力レベル信号の輝度階調レベルのステップ数が、それ以外の輝度範囲に割り当てられる出力レベル信号の輝度階調レベルのステップ数よりも多くなるようにして、撮像部91から供給された画像信号の出力レベルを変換し、表示制御部94に供給する。
ステップS147において、表示制御部94は、供給された画像信号を、図28を用いて説明したように、表示素子に適合した階調に変換する。
ステップS148において、表示制御部94は、表示素子に適した階調に変換された画像信号をディスプレイ82に供給し、画像の表示を制御して、処理が終了される。
なお、ここでも、生成された画像をディスプレイ82に表示させる処理について説明したが、生成された画像を出力制御部95を介して図示しない外部の機器に出力させる場合には、ステップS141乃至ステップS146において基本的に同様の処理が実行され、画像信号が出力制御部95に供給されて、出力先の機器において処理可能な階調に変換されて出力が制御される。
このような処理により、対数変換型撮像素子102を用いた撮像部91により撮像された画像データにおいて、広い輝度範囲に、離散的に、ユーザが必要とする画像情報が存在するような場合であっても、図27の画像生成部93−7が用いられている画像処理装置81を用いて画像を処理することにより、処理済の画像を、ディスプレイ82に対応した階調で表示させたり、または、出力先の外部機器に対応した階調で出力させても、ユーザから識別可能な状態に表示または印刷出力させることができる。
以上説明した画像生成部93−1乃至画像生成部93−7においては、撮像された画像を基に、多くの階調ステップ数が割り当てられる輝度領域が設定されていた。これに対して、多くの階調ステップ数が割り当てられる輝度領域を予め定めておくようにしても良い。例えば、撮像される画像の画角が固定であったり、一定の照明が被写体に照射されるなどして、撮像される画像のうち、ユーザが必要とする画像情報に対応する画素の輝度領域が予め分かっている場合、多くの階調ステップ数が割り当てられる輝度領域を予め定めておくことができる。これにより、処理を簡単にすることができ、装置のコストを下げることが可能となる。
図30は、図2の画像生成部93の構成の第8の例である画像生成部93−8の構成を示すブロック図である。画像生成部93−8は、多くの階調ステップ数が割り当てられる輝度領域が予め定められている場合に用いられる。
第1の輝度領域輝度範囲設定部281は、操作入力部92から、第1の輝度領域の輝度範囲の設定値の入力を受け、第1の輝度範囲の設定値を、出力レベル変換処理部187に供給する。
第2の輝度領域輝度範囲設定部282は、操作入力部92から、第2の輝度領域の輝度範囲の設定値の入力を受け、第2の輝度領域の輝度範囲の設定値を、出力レベル変換処理部187に供給する。
第3の輝度領域輝度範囲設定部283は、操作入力部92から、第3の輝度領域の輝度範囲の設定値の入力を受け、第3の輝度領域の輝度範囲の設定値を、出力レベル変換処理部187に供給する。
出力レベル変換処理部187は、図20の画像生成部93−3における場合と基本的に同様の処理を実行するものであり、設定された複数の輝度範囲を基に、撮像部91から供給された画像信号を取得してその出力レベルを変換する。すなわち、出力レベル変換処理部187は、第1の輝度領域輝度範囲設定部281、第2の輝度領域輝度範囲設定部282、および、第3の輝度領域輝度範囲設定部283から供給された、第1の輝度範囲、第2の輝度領域の輝度範囲、および第3の輝度領域の輝度範囲の情報を基に、撮像部91から供給された画像信号の出力レベルを変換する。
なお、図30には、第1乃至第3の輝度領域の輝度範囲を設定するための、第1の輝度領域輝度範囲設定部281、第2の輝度領域輝度範囲設定部282、および、第3の輝度領域輝度範囲設定部283が図示されているが、画像生成部93−8には、更に、多くの輝度領域の輝度範囲の設定を受けることができるように、他の輝度領域輝度範囲設定部を設けるようにしても良い。
次に、図31のフローチャートを参照して、図30の画像生成部93−8が用いられている画像処理装置81において実行される画像表示処理6について説明する。
ステップS171において、操作入力部92は、ユーザから複数の輝度範囲の設定値の入力を受け、入力された設定値を、画像生成部93−8に供給する。
ステップS172において、撮像部91は、操作入力部92から供給されたユーザの操作入力を基に被写体を撮像し、対数変換され、A/D変換された撮像画像信号を、画像生成部93−8に供給する。画像生成部93−8は、撮像された画像信号を取得する。
ステップS173において、画像生成部93−8の第1の輝度領域輝度範囲設定部281、第2の輝度領域輝度範囲設定部282、および、第3の輝度領域輝度範囲設定部283は、操作入力部92から供給された複数の輝度範囲の設定値を取得し、出力レベル変換処理部187に供給する。
ステップS174において、出力レベル変換処理部187は、第1の輝度領域輝度範囲設定部281、第2の輝度領域輝度範囲設定部282、および、第3の輝度領域輝度範囲設定部283から供給された複数の輝度範囲の設定値を基に、例えば、図6、図7、または図15を用いて説明したような入力レベルと出力レベルの変換特性を決定する。
ステップS175において、出力レベル変換処理部187は、撮像部91から供給された撮像画像の階調を、ステップS174において決定された変換特性に基づいて変換し、表示制御部94に供給する。
ステップS176において、表示制御部94は、供給された画像信号を、例えば、図8や図16を用いて説明したように、表示素子に適合した階調に変換する。
ステップS177において、表示制御部94は、表示素子に適した階調に変換された画像信号をディスプレイ82に供給し、画像の表示を制御して、処理が終了される。
なお、ここでも、生成された画像をディスプレイ82に表示させる処理について説明したが、生成された画像を出力制御部95を介して図示しない外部の機器に出力させる場合には、ステップS171乃至ステップS175において基本的に同様の処理が実行され、画像信号が出力制御部95に供給されて、出力先の機器において処理可能な階調に変換されて出力が制御される。
このような処理により、対数変換型撮像素子102を用いた撮像部91により撮像された画像データをディスプレイ82に対応した階調で表示させたい場合、または、出力先の外部機器に対応した階調で出力させたい場合であっても、ユーザが必要とする画像情報に対応する画素の輝度領域が予め分かっているのであれば、多くの階調ステップ数が割り当てられる輝度領域を予め定めておくことにより、簡単な処理で、ユーザが必要とする画像情報を、ユーザから識別可能な状態に表示または印刷出力させることができるような画像データを生成することができ、更に、装置のコストを下げることが可能となる。
また、予め定められた輝度領域の中で、撮像された画像に含まれる画素の輝度値の分布を示すヒストグラムを解析し、定められた輝度範囲のうち、一定数以上の画素数を持つ輝度を抽出し、抽出結果を基に、多くの階調ステップ数が割り当てられる輝度領域を定めることができるようにしても良い。
図32は、図2の画像生成部93の構成の第9の例である画像生成部93−9の構成を示すブロック図である。画像生成部93−9は、予め定められた輝度領域の中で、ヒストグラム解析により一定数以上の画素数を持つ輝度を抽出し、抽出結果を基に、多くの階調ステップ数が割り当てられる輝度領域を定めるようになされている。
なお、図27または図30における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
すなわち、図32の画像生成部93−9は、図30を用いて説明した画像生成部93−8の第1の輝度領域輝度範囲設定部281、第2の輝度領域輝度範囲設定部282、および、第3の輝度領域輝度範囲設定部283、並びに、出力レベル変換処理部187を備えている。更に、画像生成部93−9には、それぞれから出力される輝度範囲の設定値を基に、ヒストグラムを解析して所定の閾値と比較するために、図27を用いて説明した画像生成部93−7に備えられていたヒストグラム解析部251および閾値比較処理部252と同様の処理を実行することができる、ヒストグラム解析部251−1乃至251−3および閾値比較処理部252−1乃至252−3が設けられている。
具体的には、画像生成部93−9においては、図33に示されるように、第1の輝度領域輝度範囲設定部281により設定される第1の範囲、第2の輝度領域輝度範囲設定部282により設定される第2の範囲、および、第3の輝度領域輝度範囲設定部283により設定される第3の範囲内のそれぞれにおいて、ヒストグラム解析部251−1乃至251−3により、撮像された画像の各画素の輝度値のヒストグラムが解析されて、閾値比較処理部252−1乃至252−3において閾値と比較され、所定の閾値以上の画素数を有する輝度が抽出される。
すなわち、第1の範囲、第2の範囲、および、第3の範囲以外の輝度範囲において、閾値より多い画素数を有する輝度が存在しても、その輝度は、階調ステップ数が優先的に割り当てられる輝度範囲には設定されない。
そして、抽出された輝度を基に、出力レベル変換処理部187において、その範囲内の画素に階調ステップ数が優先的に割り当てられて、設定された輝度範囲それぞれの輝度階調幅が充分与えられている状態で、連続した輝度階調に変換されるようになされている。そして、変換後の信号が、表示制御部94または出力制御部95において、表示または印刷出力の条件に応じて、階調変換(階調数が圧縮)され、表示、または、印刷などのために出力されるようになされている。
例えば、撮像される画像の画角が固定であったり、一定の照明が被写体に照射されるなどして、撮像される画像のうち、ユーザが必要とする画像情報に対応する画素の輝度領域が予め分かっているが、例えば、時間によって、ユーザが必要とする画像情報に対応する画素の輝度領域が、何パターンかに変化するような場合、同じ輝度領域でも、昼には多くの情報を有し、夕方にはほとんど情報を有していなかったり、夕方や夜間には多くの情報を有するが、朝や昼には、ほとんど情報を有していないことがある。
このような場合、ユーザが必要とする画像情報を含む可能性のある全ての輝度領域を予め設定しておいても、ヒストグラム解析と閾値との比較を実行することにより、必要な情報を有していない輝度領域に、階調ステップ数が優先的に割り当てられることを避けることが可能となる。
次に、図34のフローチャートを参照して、図32の画像生成部93−9が用いられている画像処理装置81において実行される画像表示処理7について説明する。
ステップS201において、操作入力部92は、ユーザから複数の輝度範囲の設定値の入力を受け、入力された設定値を、画像生成部93−9に供給する。画像生成部93−9は、撮像された画像信号を取得する。
ステップS202において、撮像部91は、操作入力部92から供給されたユーザの操作入力を基に被写体を撮像し、対数変換され、A/D変換された撮像画像信号を、画像生成部93−9に供給する。
ステップS203において、画像生成部93−9の第1の輝度領域輝度範囲設定部281、第2の輝度領域輝度範囲設定部282、および、第3の輝度領域輝度範囲設定部283は、操作入力部92から供給された複数の輝度範囲の設定値を取得し、ヒストグラム解析部251−1乃至251−3にそれぞれ供給する。
ステップS204において、ヒストグラム解析部251−1乃至251−3は、撮像部91から供給された画像信号を基に、図33を用いて説明したように、撮像された画像の第1乃至第3の範囲内の輝度値の分布を示すヒストグラムをそれぞれ生成して解析し、解析結果を閾値比較処理部252−1乃至252−3に供給する。
ステップS205において、閾値比較処理部252−1乃至252−3は、ヒストグラム解析部251−1乃至251−3から供給された第1乃至第3の範囲内のヒストグラムの解析結果を基に、それぞれの入力信号の輝度値に対応する画素数を所定の閾値と比較する。閾値比較処理部252−1乃至252−3は、閾値と比較した結果、画素数が閾値以上であると判断された輝度値を、出力レベル変換処理部187に供給する。
ステップS206において、出力レベル変換処理部187は、閾値比較処理部252−1乃至252−3から供給された輝度値を基に、多くの階調ステップ数が割り当てられる輝度範囲を設定する。
ステップS207において、出力レベル変換処理部187は、例えば、図6、図7、または図15を用いて説明したような入力レベルと出力レベルの変換特性を決定する。
ステップS208において、出力レベル変換処理部187は、撮像部91から供給された撮像画像の階調を、ステップS74において決定された変換特性に基づいて変換し、表示制御部94に供給する。
ステップS209において、表示制御部94は、供給された画像信号を、例えば、図33を用いて説明したように、表示素子に適合した階調に変換する。
ステップS210において、表示制御部94は、表示素子に適した階調に変換された画像信号をディスプレイ82に供給し、画像の表示を制御して、処理が終了される。
なお、ここでも、生成された画像をディスプレイ82に表示させる処理について説明したが、生成された画像を出力制御部95を介して図示しない外部の機器に出力させる場合には、ステップS201乃至ステップS208において基本的に同様の処理が実行され、画像信号が出力制御部95に供給されて、出力先の機器において処理可能な階調に変換されて出力が制御される。
このような処理により、例えば、時間によって、ユーザが必要とする画像情報に対応する画素の輝度領域が、何パターンかに変化するような場合、具体的には、同じ輝度領域でも、昼には多くの情報を有し、夕方にはほとんど情報を有していなかったり、夕方や夜間には多くの情報を有するが、朝や昼には、ほとんど情報を有していない場合であっても、ユーザが必要とする画像情報を含む可能性のある全ての輝度領域を予め設定しても、ヒストグラム解析と閾値との比較を実行することにより、必要な情報を有していない輝度領域に、階調ステップ数が優先的に割り当てられることを避けることが可能となる。
以上説明したように、画像生成部93−1乃至93−9が用いられている画像処理装置81においては、対数変換型撮像素子102を用いた撮像部91により撮像された画像データにおいて、広い輝度範囲にユーザが必要とする画像情報が存在するような場合であっても、このような画像をディスプレイ82に対応した階調で表示させたり、または、出力先の外部機器に対応した階調で出力させたときに、ユーザが必要とする情報(例えば、暗い中の黒い物体や、暗いものと同一の画各内に存在する明るい部分など)を識別可能な状態に表示または印刷出力させることができるような画像データを生成することができる。
上述した一連の処理は、ソフトウェアにより実行することもできる。そのソフトウェアは、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、記録媒体からインストールされる。この場合、例えば、図2を用いて説明した画像処理装置81のすべて、または、一部(例えば、画像生成部93および表示制御部94)は、図35に示されるようなパーソナルコンピュータ301により構成される。
図35において、CPU(Central Processing Unit)311は、ROM(Read Only Memory)312に記憶されているプログラム、または記憶部318からRAM(Random Access Memory)313にロードされたプログラムにしたがって、各種の処理を実行する。RAM313にはまた、CPU311が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU311、ROM312、およびRAM313は、バス314を介して相互に接続されている。このバス314にはまた、入出力インタフェース315も接続されている。
入出力インタフェース315には、キーボード、マウスなどよりなる入力部316、ディスプレイやスピーカなどよりなる出力部317、ハードディスクなどより構成される記憶部318、モデム、ターミナルアダプタなどより構成される通信部319が接続されている。通信部319は、インターネットを含むネットワークを介しての通信処理を行う。
入出力インタフェース315にはまた、必要に応じてドライブ320が接続され、磁気ディスク331、光ディスク332、光磁気ディスク333、もしくは、半導体メモリ334などが適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部318にインストールされる。
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、ネットワークや記録媒体からインストールされる。
この記録媒体は、図35に示されるように、装置本体とは別に、ユーザにプログラムを供給するために配布される、プログラムが記憶されている磁気ディスク331(フロッピディスクを含む)、光ディスク332(CD-ROM(Compact Disk-Read Only Memory),DVD(Digital Versatile Disk)を含む)、光磁気ディスク333(MD(Mini-Disk)(商標)を含む)、もしくは半導体メモリ334などよりなるパッケージメディアにより構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに供給される、プログラムが記憶されているROM312や、記憶部318に含まれるハードディスクなどで構成される。
また、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、本明細書において、1つの装置が実行する処理が、複数の装置によって実現される場合であっても、本発明は適用可能であることは言うまでもない。