JP2012010276A - 画像処理装置、画像処理方法及び画像処理プログラム - Google Patents

画像処理装置、画像処理方法及び画像処理プログラム Download PDF

Info

Publication number
JP2012010276A
JP2012010276A JP2010146667A JP2010146667A JP2012010276A JP 2012010276 A JP2012010276 A JP 2012010276A JP 2010146667 A JP2010146667 A JP 2010146667A JP 2010146667 A JP2010146667 A JP 2010146667A JP 2012010276 A JP2012010276 A JP 2012010276A
Authority
JP
Japan
Prior art keywords
output signal
spectral sensitivity
pixel
image processing
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2010146667A
Other languages
English (en)
Inventor
Tatsu Narisawa
龍 成澤
Koichiro Kishima
公一朗 木島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2010146667A priority Critical patent/JP2012010276A/ja
Priority to US13/159,067 priority patent/US9100532B2/en
Priority to CN2011101680136A priority patent/CN102300099A/zh
Publication of JP2012010276A publication Critical patent/JP2012010276A/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Image Input (AREA)

Abstract

【課題】単色光が入射する場合であっても解像度の低下を防止することが可能な画像処理装置、画像処理方法及び画像処理プログラムを提供すること。
【解決手段】本発明の画像処理装置1は、出力信号取得部2と、分光感度決定部8と、出力信号増幅部3と、画像生成部4とを具備する。
出力信号取得部2は、互いに透過波長が異なるカラーフィルタを透過した光を出力信号として出力する複数種の画素を有する画素群に接続され、これらの画素の出力信号を取得する。分光感度決定部8は、画素群に入射した入射光の波長に対する、複数種の画素の分光感度を決定する。出力信号増幅部3は、各種画素の出力信号をそれぞれ増幅する。画像生成部5は、出力信号増幅部3によって増幅された、各種画素の出力信号から、各種画素のそれぞれの画素値を算出し、画像を生成する。
【選択図】図1

Description

本発明は、撮像素子の出力信号から画像を生成する画像処理装置、画像処理方法及び画像処理プログラムに関する。
デジタルカメラ等の撮像装置では、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子が用いられる。これらの撮像素子は複数の画素が平面状に配列され、各画素は入射した光(以下、入射光とする)を光電変換して電気信号として出力する。演算処理回路がこれらの電気信号を演算処理することによって画像が生成される。
ここで、上述のような撮像素子は、入射光の波長にかかわらず光の強度に応じた電気信号を出力するため、これだけではカラー画像を生成させることができない。このため、カラー画像を生成するための撮像装置では、それぞれ特定の波長域(例えばRGB)の光を透過させる各色のカラーフィルタが各画素に設けられ(単板方式)、当該波長域以外の波長を有する光はカラーフィルタにより減衰されるように構成されている。これにより、入射光のうちカラーフィルタの透過波長を有する成分が画素に到達し、電気信号に変換される。
各色のカラーフィルタの配列には種々のものがあるが、「ベイヤ(Bayer)配列」と呼ばれる配列が一般的である。ベイヤ配列はR、Gが交互となる列とB、Gが交互となる列をGが隣接しないように配列したものであり、人間の眼の分光感度が高いGの数がR及びBの数と2倍となる配列である。
このように配列されたカラーフィルタを透過した光による各画素の出力信号から、演算処理回路はその画素の画素値(RGBそれぞれの輝度値)を算出する。この際、上述のように各画素には各色のカラーフィルタが設けられているため、その出力から算出される輝度値はカラーフィルタの透過波長に応じたもの、即ちRGBのうちの1色に関するものである。ここで演算処理回路は、隣接する撮像素子の出力から他の2色の輝度値を「補間演算」により算出し、各画素の画素値を決定する。この補間演算の方式により画質に影響が生じるため、種々の方式が検討されている。
例えば、特許文献1には、この補間演算に関する技術が開示されている。特許文献1に記載の「信号処理装置」は、補間対象の画素に対する水平方向及び垂直方向の相関から、画像に縦縞あるいは横縞が含まれるかどうかを判断し、その判断結果に応じて補間に用いる画素データを選択する。これにより、画像に縦縞あるいは横縞が存在する場合であってっも適切に画像のぼやけを補正することが可能であるとされている。
特開2002−232904号公報(段落[0038]、図5)
ここで、上述のような補間演算は、入射光が複色光(広い波長域を有する光)であり、RGBに対応する各撮像素子に満遍なく光が入射する場合には有効である。しかしながら、入射光が単色光(狭い波長域を有する光)である場合には有効ではない。入射光が単色光である場合とは、例えば、病理診断の分野で用いられる蛍光撮影あるはDNAシーケンサのための蛍光染色されたサンプルを撮像する場合等である。このような場合では、その色を透過させるカラーフィルタが設けられた画素には光が入射するが、それ以外の色のカラーフィルタが設けられた画素にはほとんど光が入射しない。光が入射しない画素からは輝度値の情報が得られず、入射光が複色光である場合に比べ解像度が低下する。
以上のような事情に鑑み、本発明の目的は、単色光が入射する場合であっても解像度の低下を防止することが可能な画像処理装置、画像処理方法及び画像処理プログラムを提供することにある。
上記目的を達成するため、本発明の一形態に係る画像処理装置は、出力信号取得部と、分光感度決定部と、出力信号増幅部と、画像生成部とを具備する。
上記出力信号取得部は、第1の特性を有する第1のカラーフィルタを透過した光を光電変換して第1の出力信号として出力する第1の画素と、上記第1の特性と異なる第2の特性を有する第2のカラーフィルタを透過した光を光電変換して第2の出力信号として出力する第2の画素と、上記第1の特性及び上記第2の特性と異なる第3の特性を有する第3のカラーフィルタを透過した光を光電変換して第3の出力信号として出力する第3の画素とを有する画素群に接続され、上記第1の出力信号、上記第2の出力信号及び上記第3の出力信号を取得する。
上記分光感度決定部は、上記画素群に入射した入射光の波長に対する、上記第1の出力信号の分光感度である第1の分光感度、上記第2の出力信号の分光感度である第2の分光感度及び上記第3の出力信号の分光感度である第3の分光感度をそれぞれ決定する。
上記出力信号増幅部は、上記第1の分光感度、上記第2の分光感度及び上記第3の分光感度に基づいて、上記第1の出力信号、上記第2の出力信号及び上記第3の出力信号をそれぞれ増幅する。
上記画像生成部は、上記出力信号増幅部によって増幅された、上記第1の出力信号、上記第2の出力信号及び上記第3の出力信号から、上記第1の画素、上記第2の画素及び上記第3の画素のそれぞれの画素値を算出し、画像を生成する。
画素群に単色の入射光が入射した場合、入射光は、少なくとも第1のカラーフィルタ、第2のカラーフィルタ及び第3のカラーフィルタのいずれかによって減衰され、光電変換されて第1の出力信号、第2の出力信号及び第3の出力信号として出力される。ここで、各カラーフィルタによって入射光が減衰されることによる各画素の分光感度、即ち、画素相互間での出力信号の強度比は、入射光の波長によって決まる。本発明では、出力信号増幅部が、第1の分光感度、第2の分光感度及び第3の分光感度に基づいて第1の出力信号、第2の出力信号及び第3の出力信号をそれそれ増幅する。これにより、画像生成部が増幅された各出力信号から画像を生成する際に、本来なら出力信号が小さく、情報が得られない画素からの出力信号も利用することが可能であり、画素群に復色光が入射する場合と同程度の解像度を維持することが可能である。
上記画像処理装置は、入射光の波長を取得する入射光波長取得部をさらに有し、上記分光感度決定部は、入射光の波長と上記第1の分光感度、上記第2の分光感度及び上記第3の分光感度との相関が予め登録された分光感度テーブルを有し、上記分光感度テーブルから、上記入射光波長取得部によって取得された入射光の波長に対応した、上記第1の分光感度、上記第2の分光感度及び上記第3の分光感度を選択してもよい。
本発明によれば、分光感度決定部は、これらのカラーフィルタについての分光感度テーブルを予め保持し、入射光の波長に対応した、上記第1の分光感度、上記第2の分光感度及び上記第3の分光感度を選択する。これにより、画像処理装置は、分光感度テーブルに記載されている複数色の単色光について、解像度を維持することが可能となる。
上記出力信号増幅部は、上記第1の分光感度、上記第2の分光感度及び上記第3の分光感度のそれぞれの逆数を増幅率として、上記第1の出力信号、上記第2の出力信号及び上記第3の出力信号のそれぞれ増幅してもよい。
この構成によれば、画像処理装置は、第1の出力信号、第2の出力信号及び第3の出力信号を、各画素にカラーフィルタが設けられない場合と同程度に増幅することができ、解像度を維持することが可能となる。
上記画像生成部は、上記第1の出力信号、上記第2の出力信号及び上記第3の出力信号の強度を、上記入射光波長取得部によって取得された入射光の波長を有する色の輝度値としてもよい。
この構成によれば、画像生成部が、各画素の輝度値から、各画素の画素値を決定し、画像を生成することが可能となる。
上記目的を達成するため、本発明の一形態に係る画像処理方法は、第1の特性を有する第1のカラーフィルタを透過した光を光電変換して第1の出力信号として出力する第1の画素と、上記第1の特性と異なる第2の特性を有する第2のカラーフィルタを透過した光を光電変換して第2の出力信号として出力する第2の画素と、上記第1及び上記第2の特性と異なる第3の特性を有する第3のカラーフィルタを透過した光を光電変換して第3の出力信号として出力する第3の画素とを有する画素群に接続された出力信号取得部が、上記第1の出力信号、上記第2の出力信号及び上記第3の出力信号を取得する。
分光感度決定部が、上記画素群に入射した入射光の波長に対する、上記第1の出力信号の分光感度である第1の分光感度、上記第2の出力信号の分光感度である第2の分光感度及び上記第3の出力信号の分光感度である第3の分光感度をそれぞれ決定する。
出力信号増幅部が、上記第1の分光感度、上記第2の分光感度及び上記第3の分光感度に基づいて、上記第1の出力信号、上記第2の出力信号及び上記第3の出力信号をそれぞれ増幅する。
画像生成部が、上記出力信号増幅部によって増幅された上記第1の出力信号、上記第2の出力信号及び上記第3の出力信号から上記第1の画素、上記第2の画素及び上記第3の画素のそれぞれの画素値を算出し、画像を生成する。
上記目的を達成するため、本発明の一形態に係る画像処理プログラムは、出力信号取得部と、分光感度決定部と、出力信号増幅部と、画像生成部ととしてコンピュータを機能させる。
上記出力信号取得部は、第1の特性を有する第1のカラーフィルタを透過した光を光電変換して第1の出力信号として出力する第1の画素と、上記第1の特性と異なる第2の特性を有する第2のカラーフィルタを透過した光を光電変換して第2の出力信号として出力する第2の画素と、上記第1の特性及び上記第2の特性と異なる第3の特性を有する第3のカラーフィルタを透過した光を光電変換して第3の出力信号として出力する第3の画素とを有する画素群に接続され、上記第1の出力信号、上記第2の出力信号及び上記第3の出力信号を取得する。
上記分光感度決定部は、上記画素群に入射した入射光の波長に対する、上記第1の出力信号の分光感度である第1の分光感度、上記第2の出力信号の分光感度である第2の分光感度及び上記第3の出力信号の分光感度である第3の分光感度をそれぞれ決定する。
上記出力信号増幅部は、上記第1の分光感度、上記第2の分光感度及び上記第3の分光感度に基づいて、上記第1の出力信号、上記第2の出力信号及び上記第3の出力信号をそれぞれ増幅する。
上記画像生成部は、上記出力信号増幅部によって増幅された、上記第1の出力信号、上記第2の出力信号及び上記第3の出力信号から、上記第1の画素、上記第2の画素及び上記第3の画素のそれぞれの画素値を算出し、画像を生成する。
本発明によれば、単色光が入射する場合であっても解像度の低下を防止することが可能な画像処理装置、画像処理方法及び画像処理プログラムを提供することが可能である。
本発明の実施形態に係る画像処理装置の構成を示すブロック図である。 本発明の実施形態に係る撮像部を示す模式図である。 本発明の実施形態に係る画素の断面図である。 本発明の実施形態に係る3種類のカラーフィルタの透過波長を示すグラフである。 本発明の実施形態に係る赤色フィルタ、緑色フィルタ及び青色フィルタの配列例を示す模式図である。 本発明の実施形態に係る分光感度テーブルの一例を示す表である。 本発明の実施形態に係る画像処理装置の動作を示すフローチャートである。 比較例に係る画像処理装置によって生成されたサンプル画像である。 本実施形態に係る画像処理装置によって生成されたサンプル画像である。
以下、図面を参照しながら、本発明の実施形態を説明する。
[画像処理装置の構成]
図1は、本発明の実施形態に係る画像処理装置1の構成を示すブロック図である。同図に示すように画像処理装置1は、出力信号取得部2、出力信号増幅部3、画像データ生成部4、画像生成部5、画像記憶部6、入射光波長取得部7及び分光感度供給部8を有する。出力信号取得部2は出力信号増幅部3に接続され、出力信号増幅部3は画像データ生成部4に接続されている。画像データ生成部4は画像生成部5に接続され、画像生成部5は画像記憶部6に接続されている。また、入射光波長取得部7は分光感度供給部8に接続され、分光感度供給部8は出力信号増幅部3に接続されている。出力信号取得部2には、撮像部14が接続されている。
出力信号取得部2は、接続された撮像部14から出力される「出力信号」を取得し、出力信号増幅部3に出力する。ここで、撮像部14について説明する。
撮像部14は、入射光から出力信号を生成する。図2は、撮像部14を示す模式図である。同図に示すように、撮像部14は、画素群9と光学系10を有し、光学系10によって集光された光が画素群9に入射するように構成されている。画素群9は、複数の画素11が配列されて形成されている。画素11の個数は実際には図示よりも多数(例えば数百万個)である。
図3は複数の画素11の断面図である。同図に示すように各画素11は、光電変換素子12とカラーフィルタ13を有する。カラーフィルタ13は、各光電変換素子12の光学系10側にそれぞれ配置されている。各光電変換素子12はCCD(Charge Coupled Device)あるいはCMOS(Complementary Metal Oxide Semiconductor)等の光電変換を可能とする素子であり、詳細な構成は省略する。カラーフィルタ13は、特定の波長(以下、透過波長とする)以外の光を減衰させるフィルタであり、透過特性が異なる3種類がある。
図4は、3種類のカラーフィルタ13の透過特性を示すグラフである。グラフの横軸は光の波長であり、縦軸はカラーフィルタ13を透過した光による光電変換素子12の出力である。同図に示すように3種類のカラーフィルタ13のそれぞれの透過特性は、450nm、530nm、620nmをそれぞれ中心とする波状である。以下、450nm(青色領域)付近を中心とする透過波長を有するカラーフィルタ13を青色フィルタ13B、530nm付近(緑色領域)を中心とする透過波長を有するカラーフィルタ13を緑色フィルタ13G、620nm付近(赤色領域)を中心とする透過波長を有するカラーフィルタ13を赤色フィルタ13Rとする。なお、これらのカラーフィルタ13の透過特性はここに示すものに限られず、また、カラーフィルタ13の種類も3種類以外、例えば4種類とすることも可能である。
図5は、赤色フィルタ13R、緑色フィルタ13G及び青色フィルタ13Bの配列を示す模式図である。同図に示すように、これらのカラーフィルタ13は赤色フィルタ13Rと緑色フィルタ13Gが交互となる列と青色フィルタ13Bと緑色フィルタ13Gが交互となる列を緑色フィルタ13Gが隣接しないように配列されている。緑色は人間の眼の分光感度が高いため、緑色フィルタ13Gの数が赤色フィルタ13R及び青色フィルタ13Bの数と2倍となるように配列される。このような配列は「ベイヤ(Bayer)配列」と呼ばれる配列であるが、カラーフィルタ13の配列はこれと異なる配列であってもよい。
このように構成された画素11では、光学系10を介して入射した光が各カラーフィルタ13によって分光され、各カラーフィルタ13の透過波長を有する光が光電変換素子12に入射する。光電変換素子12は、入射した光を光電変換し、出力信号として出力する。この際、光電変換素子12への入射光の強度に応じて出力信号が変動する。このように、撮像部14から各画素11の出力信号が出力信号取得部2に出力される。なお、以下、赤色フィルタ13Rが設けられた画素11を「赤色画素」、緑色フィルタ13Gが設けられた画素11を「緑色画素」、青色フィルタ13Bが設けられた画素11を「青色画素」とする。
出力信号増幅部3は、各画素11の出力信号を、分光感度供給部8から入力される「分光感度」に応じて増幅する。詳細は後述するが、出力信号増幅部3は、赤色画素、緑色画素及び青色画素毎に分光感度に基づいて算出された増幅率で、各画素11の出力信号を増幅する。出力信号増幅部3は、ソフトウェア的あるいはハードウェア的に出力信号を増幅するものとすることができる。出力信号増幅部3は、増幅した各画素11の出力信号を画像データ生成部4に出力する。
画像データ生成部4は、増幅後の各画素11の出力信号から「画像データ」を生成する。画像データ生成部4は、ある画素11について、その画素11の出力信号を用いて画素値(RGBの輝度値)を算出する。なお、本実施形態では、入射光が単色光であることを想定しているため、画素値は輝度値と同義である。画像データ生成部4は、この他にノイズ低減処理やコントラスト強調処理等を実行してもよい。画像データ生成部4は、算出した画素11毎の画素値を「画像データ」として画像生成部5に出力する。
画像生成部5は、画像データからJPEG(Joint Photographic Experts Group)等の任意の画像形式の画像を生成し、画像記憶部6に出力する。画像記憶部6は当該画像を不揮発性メモリ等に保存し、あるいは外部に送信する。
入射光波長取得部7は、撮像部14に入射する光の波長である「入射光波長」を取得する。入射光波長取得部7は入射光波長をユーザの入力により取得してもよく、分光計等を用いた測定により取得してもよい。また、プレパラート等に記載されたバーコード情報から入射光波長を取得してもよい。入射光波長取得部7は、入射光波長を分光感度供給部8に出力する。
分光感度供給部8は、入射光波長に応じた各色画素の「分光感度」を出力信号増幅部3に供給する。具体的には、分光感度供給部8は、波長毎に分光感度を記した「分光感度テーブル」を記憶している。図6は分光感度テーブルの一例を示す表である。同図に示す分光感度テーブルは、特定の波長の光が撮像部14に入射した場合の、赤色画素、緑色画素及び青色画素のそれぞれの出力比を示したものであり、例えば図4のような波長に対する各画素の出力から求めることが可能である。分光感度供給部8は、入射光波長取得部7から入射光波長が供給されると、分光感度テーブルから該当する波長の各色画素の分光感度を選択し、出力信号増幅部3に供給する。
本実施形態に係る画像処理装置1は以上のように構成されている。
[画像処理装置の動作]
画像処理装置1の動作について説明する。
なお、撮像部14には、例えば蛍光撮影あるいはDNA(Deoxyribonucleic acid)シーケンサのための蛍光染色されたサンプル等の単色の色調を有する、即ち単色光を発する撮像対象物がセットされているものとする。
図7は、画像処理装置1の動作を示すフローチャートである。
同図に示す各ステップ(St)について順に説明する。
最初に、入射光波長取得部7が「入射光波長」を取得する(St101)。入射光波長取得部7は上述のように、ユーザによる入力や、分光計による測定によって入射光波長を取得することができる。入射光波長取得部7は取得した入射光波長を分光感度供給部8に出力する。
分光感度供給部8は、分光感度テーブルを参照して、入射光波長に一致する波長の各色画素の分光感度を選択し、出力信号増幅部3に供給する(St102)。例えば入射光波長取得部7から出力された入射光波長が「600nm」であった場合、分光感度は「赤色画素:95%、青色画素:5%、緑色画素:25%」となる。
次に、出力信号取得部2が第1の出力信号、第2の出力信号及び第3の出力信号を取得する(St103)。具体的には、撮像部14において光学系10を介して画素群9に到達した入射光は、各画素11に設けられた各色のカラーフィルタ13を透過して各光電変換素子12に到達する。この際、上述のように、赤色フィルタ13R及び緑色フィルタ13G及び青色フィルタ13Bはそれぞれ所定の透過波長を有しているため、入射光のうち透過波長に含まれない成分はカラーフィルタ13により減衰される。減衰されなかった光は光電変換素子12において光電変換されてそれぞれ第1の出力信号、第2の出力信号及び第3の出力信号として出力され、出力信号取得部2がこれらの出力信号を取得する。
続いて、出力信号増幅部3は、出力信号を増幅する(St104)。この際、出力信号増幅部3は、分光感度供給部8から供給された各色画素の分光感度を増幅率の決定に用いる。具体的には、出力信号増幅部3は、各色画素の出力信号の増幅率αを以下の(式1)を用いて決定する。
α=10000/n [式1]
nは、増幅する画素に対応する分光感度である。
例えば、上述の例のように分光感度が「赤色画素:95%、青色画素:5%、緑色画素:25%」であった場合、増幅率αは、赤色画素については「10000/95(%)=105.2(%)」となる。同様に、青色画素については「10000/5(%)=2000(%)」となり、緑色画素については「10000/25(%)=400(%)」となる。
出力信号増幅部3は、このようにして算出した各色の増幅率αを、増幅しようとする画素11の色に応じてそれぞれ乗じ、出力信号を増幅する。これにより、各画素11の出力信号は、カラーフィルタ13による減衰量に相当する増幅を受ける。また、出力信号増幅部3は、さらにホワイトバランス等のために増幅率αを調整してもよい。出力信号増幅部3は、増幅された各画素11の出力信号を画像データ生成部4に出力する。
次に、画像データ生成部4が、増幅された各画素11の出力信号から画像データを生成する(St105)。具体的には、画像データ生成部4は、各画素11の出力信号の強度を離散値として輝度値とする。この際、画像データ生成部4はこの輝度値を、出力信号が赤色画素、緑色画素及び青色画素のいずれから出力されたかに係わらず、入射光波長取得部7が取得した入射光波長の色の輝度値とする。即ち、各色に対応する画素11を、入射光波長の色に対応する画素11として取り扱う。
例えば、入射光波長が「600nm(赤色領域)」であって、ある青色画素の出力信号から得られた輝度値が「100」であった場合、画像データ生成部4はこの画素について、本来の青色ではなく波長600nm(赤色)の輝度値が100であるとして扱う。ここで、青色画素の出力信号は、ステップ104において増幅されたものである。このように画像データ生成部4は、全ての画素11について、入射光波長を有する色の輝度値を決定する。
さらに画像データ生成部4は、この各画素11の輝度値から各画素11の画素値を求める。入射光波長がRGBの各原色のいずれかの波長と一致もしくは近接する場合は、輝度値はその原色の画素値とすることができる。例えば、入射光波長が「600nm」で輝度値が100であった場合、600nmは原色Rの波長であるので、画素値は(R:G:B=100:0:0)とすることができる。一方、入射光波長がRGBの各原色のいずれかの波長と近接しない場合は、輝度値から画素値に変換すればよい。例えば、入射光波長が「580nm」で輝度値が100であった場合580nmは原色R及び原色Gの中間の波長であるので、画素値は(R:G:B=50:50:0)とすることができる。このようにして画像データ生成部4は全ての画素11についてその画素値を算出する。画像データ生成部4は、生成した各画素11の画素値をその座標と関連付けて画像データを生成し、画像生成部5に出力する。
以下、必要に応じて、画像生成部5は、画像データから所定の画像形式で画像を生成し、画像記憶部6に出力する。画像記憶部6はこの画像を記憶当し、あるいは外部に送信する。
以上のようにして、画像処理装置1は、撮像対象物の画像を撮像する。
[本実施形態による効果]
本実施系形態に係る画像処理装置1の効果について説明する。
図8は比較例に係る画像処理装置によって生成されたサンプル画像、図9は本実施形態に係る画像処理装置1によって生成されたサンプル画像である。図8及び図9に示すサンプル画像は共に同一の、単色の色調を有する撮像対象物を同条件で撮像したものである。しかし、図8に示す比較例では、本実施形態に係る画像処理装置1の出力信号増幅部3に相当する構成がなく、即ち、各画素の出力を増幅することなく画像データを生成したものである。なお、図8及び図9に示すサンプルの入射光波長は共に600nm(赤色領域)である。
図8と図9を比較すると、図9に示す本実施形態に係るサンプル画像の方が線状の構造が明瞭であり、図8に示す比較例に係るサンプル画像よりも解像度が高いことがわかる。これは、比較例では、緑色画素と青色画素の出力信号が小さく、これらの画素の情報は有効に利用されないのに対し、本実施形態では、これらの画素の出力信号も増幅され、画素値の決定に有効に利用されているためである。以上のように、本実施形態では、入射光波長と異なる波長に対応する画素の出力信号を、入射光波長に応じて増幅することにより有効に利用し、生成する画像の解像度を向上させることが可能である。
本発明は上述の実施形態にのみ限定されるものではなく、本発明の要旨を逸脱しない範囲内において変更され得る。
上記実施形態では、出力信号増幅部によって増幅されるカラーフィルタの波長域は、可視光領域であるものとしたがこれに限られない。例えば、紫外領域あるいは赤外領域とすることも可能である。
1…画像処理装置
3…出力信号増幅部
4…画像生成部
7…入射光波長取得部
8…分光感度供給部
9…画素群
11…画素
13…カラーフィルタ
13R…赤色フィルタ
13G…緑色フィルタ
13B…青色フィルタ

Claims (6)

  1. 第1の特性を有する第1のカラーフィルタを透過した光を光電変換して第1の出力信号として出力する第1の画素と、前記第1の特性と異なる第2の特性を有する第2のカラーフィルタを透過した光を光電変換して第2の出力信号として出力する第2の画素と、前記第1の特性及び前記第2の特性と異なる第3の特性を有する第3のカラーフィルタを透過した光を光電変換して第3の出力信号として出力する第3の画素とを有する画素群に接続され、前記第1の出力信号、前記第2の出力信号及び前記第3の出力信号を取得する出力信号取得部と、
    前記画素群に入射した入射光の波長に対する、前記第1の出力信号の分光感度である第1の分光感度、前記第2の出力信号の分光感度である第2の分光感度及び前記第3の出力信号の分光感度である第3の分光感度をそれぞれ決定する分光感度決定部と、
    前記第1の分光感度、前記第2の分光感度及び前記第3の分光感度に基づいて、前記第1の出力信号、前記第2の出力信号及び前記第3の出力信号をそれぞれ増幅する出力信号増幅部と、
    前記出力信号増幅部によって増幅された前記第1の出力信号、前記第2の出力信号及び前記第3の出力信号から、前記第1の画素、前記第2の画素及び前記第3の画素のそれぞれの画素値を算出し、画像を生成する画像生成部と
    を具備する画像処理装置。
  2. 請求項1に記載の画像処理装置であって、
    入射光の波長を取得する入射光波長取得部をさらに有し、
    前記分光感度決定部は、入射光の波長と前記第1の分光感度、前記第2の分光感度及び前記第3の分光感度との相関が予め登録された分光感度テーブルを有し、前記分光感度テーブルから、前記入射光波長取得部によって取得された入射光の波長に対応した、前記第1の分光感度、前記第2の分光感度及び前記第3の分光感度を選択する
    画像処理装置。
  3. 請求項2に記載の画像処理装置であって、
    前記出力信号増幅部は、前記第1の分光感度、前記第2の分光感度及び前記第3の分光感度のそれぞれの逆数を増幅率として、前記第1の出力信号、前記第2の出力信号及び前記第3の出力信号のそれぞれ増幅する
    画像処理装置。
  4. 請求項3に記載の画像処理装置であって、
    前記画像生成部は、前記第1の出力信号、前記第2の出力信号及び前記第3の出力信号の強度を、前記入射光波長取得部によって取得された入射光の波長を有する色の輝度値とする
    画像処理装置。
  5. 第1の特性を有する第1のカラーフィルタを透過した光を光電変換して第1の出力信号として出力する第1の画素と、前記第1の特性と異なる第2の特性を有する第2のカラーフィルタを透過した光を光電変換して第2の出力信号として出力する第2の画素と、前記第1の特性及び前記第2の特性と異なる第3の特性を有する第3のカラーフィルタを透過した光を光電変換して第3の出力信号として出力する第3の画素とを有する画素群に接続された出力信号取得部が、前記第1の出力信号、前記第2の出力信号及び前記第3の出力信号を取得し、
    分光感度決定部が、前記画素群に入射した入射光の波長に対する、前記第1の出力信号の分光感度である第1の分光感度、前記第2の出力信号の分光感度である第2の分光感度及び前記第3の出力信号の分光感度である第3の分光感度をそれぞれ決定し、
    出力信号増幅部が、前記第1の分光感度、前記第2の分光感度及び前記第3の分光感度に基づいて、前記第1の出力信号、前記第2の出力信号及び前記第3の出力信号をそれぞれ増幅し、
    画像生成部が、前記出力信号増幅部によって増幅された前記第1の出力信号、前記第2の出力信号及び前記第3の出力信号から前記第1の画素、前記第2の画素及び前記第3の画素のそれぞれの画素値を算出し、画像を生成する
    画像処理方法。
  6. 第1の特性を有する第1のカラーフィルタを透過した光を光電変換して第1の出力信号として出力する第1の画素と、前記第1の特性と異なる第2の特性を有する第2のカラーフィルタを透過した光を光電変換して第2の出力信号として出力する第2の画素と、前記第1の特性及び前記第2の特性と異なる第3の特性を有する第3のカラーフィルタを透過した光を光電変換して第3の出力信号として出力する第3の画素とを有する画素群に接続され、前記第1の出力信号、前記第2の出力信号及び前記第3の出力信号を取得する出力信号取得部と、
    前記画素群に入射した入射光の波長に対する、前記第1の出力信号の分光感度である第1の分光感度、前記第2の出力信号の分光感度である第2の分光感度及び前記第3の出力信号の分光感度である第3の分光感度をそれぞれ決定する分光感度決定部と、
    前記第1の分光感度、前記第2の分光感度及び前記第3の分光感度に基づいて、前記第1の出力信号、前記第2の出力信号及び前記第3の出力信号をそれぞれ増幅する出力信号増幅部と、
    前記出力信号増幅部によって増幅された前記第1の出力信号、前記第2の出力信号及び前記第3の出力信号から、前記第1の画素、前記第2の画素及び前記第3の画素のそれぞれの画素値を算出し、画像を生成する画像生成部と
    としてコンピュータを機能させる画像処理プログラム。
JP2010146667A 2010-06-28 2010-06-28 画像処理装置、画像処理方法及び画像処理プログラム Pending JP2012010276A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2010146667A JP2012010276A (ja) 2010-06-28 2010-06-28 画像処理装置、画像処理方法及び画像処理プログラム
US13/159,067 US9100532B2 (en) 2010-06-28 2011-06-13 Image processing apparatus and method for generating an image
CN2011101680136A CN102300099A (zh) 2010-06-28 2011-06-21 图像处理装置、图像处理方法以及图像处理程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010146667A JP2012010276A (ja) 2010-06-28 2010-06-28 画像処理装置、画像処理方法及び画像処理プログラム

Publications (1)

Publication Number Publication Date
JP2012010276A true JP2012010276A (ja) 2012-01-12

Family

ID=45352211

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010146667A Pending JP2012010276A (ja) 2010-06-28 2010-06-28 画像処理装置、画像処理方法及び画像処理プログラム

Country Status (3)

Country Link
US (1) US9100532B2 (ja)
JP (1) JP2012010276A (ja)
CN (1) CN102300099A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020003673A1 (ja) * 2018-06-26 2020-01-02 ソニーセミコンダクタソリューションズ株式会社 イメージセンサの分光感度測定方法、分光感度測定装置の検査方法及び分光感度測定装置

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014175832A (ja) * 2013-03-08 2014-09-22 Toshiba Corp 固体撮像装置

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS53145620A (en) * 1977-05-25 1978-12-19 Fuji Photo Film Co Ltd Hue extractor
US4943834A (en) * 1987-09-30 1990-07-24 Sharp Kabushiki Kaisha Image forming apparatus capable of detecting, analyzing and displaying an originals spectroscopic color data
JP2002064831A (ja) * 2000-08-15 2002-02-28 Sanyo Electric Co Ltd 単板式カラーカメラの色分離回路
JP4228699B2 (ja) * 2001-01-09 2009-02-25 ソニー株式会社 撮像装置、および撮像素子
JP3862506B2 (ja) 2001-02-06 2006-12-27 キヤノン株式会社 信号処理装置およびその信号処理方法およびその動作処理プログラムおよびそのプログラムを記憶した記憶媒体
US7053935B2 (en) * 2002-02-21 2006-05-30 Eastman Kodak Company Apparatus and method for accurate electronic color capture and reproduction
JP3861808B2 (ja) * 2002-12-25 2006-12-27 ソニー株式会社 撮像装置
JP4025207B2 (ja) * 2003-01-17 2007-12-19 富士フイルム株式会社 固体撮像素子及びデジタルカメラ
US7349128B2 (en) * 2003-02-24 2008-03-25 Kabushiki Kaisha Toshiba Image scanner and peak detecting processing method of image scanner
US7480000B2 (en) * 2003-06-25 2009-01-20 Fujifilm Corporation Image-taking apparatus including a vertical transfer control device
US7663668B2 (en) * 2004-04-05 2010-02-16 Mitsubishi Electric Corporation Imaging device
JP2005345323A (ja) * 2004-06-04 2005-12-15 Konica Minolta Sensing Inc 分光感度合成装置
JP4547223B2 (ja) * 2004-09-28 2010-09-22 オリンパス株式会社 撮像システム、ノイズ低減処理装置及び撮像処理プログラム
JP4265546B2 (ja) * 2005-01-31 2009-05-20 ソニー株式会社 撮像装置、画像処理装置および画像処理方法
JP4704238B2 (ja) * 2006-02-22 2011-06-15 オリンパスイメージング株式会社 電子撮像装置及び電子撮像方法
JP4187004B2 (ja) * 2006-04-17 2008-11-26 ソニー株式会社 撮像装置および撮像装置の露光制御方法
JP4933878B2 (ja) * 2006-11-07 2012-05-16 オリンパス株式会社 顕微鏡装置
JP4386096B2 (ja) * 2007-05-18 2009-12-16 ソニー株式会社 画像入力処理装置、および、その方法
JP4897593B2 (ja) * 2007-07-09 2012-03-14 富士フイルム株式会社 複眼撮影装置及びその調節方法
CN102037734B (zh) * 2008-05-22 2014-10-15 惠普开发有限公司 照相机传感器校正
JP5109962B2 (ja) * 2008-12-22 2012-12-26 ソニー株式会社 固体撮像装置および電子機器
US20110228075A1 (en) * 2010-03-22 2011-09-22 Madden Thomas E Digital camera with underwater capture mode
JP2012088691A (ja) * 2010-09-22 2012-05-10 Fujifilm Corp 撮像レンズ、撮像装置、および情報端末装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020003673A1 (ja) * 2018-06-26 2020-01-02 ソニーセミコンダクタソリューションズ株式会社 イメージセンサの分光感度測定方法、分光感度測定装置の検査方法及び分光感度測定装置

Also Published As

Publication number Publication date
CN102300099A (zh) 2011-12-28
US20110317058A1 (en) 2011-12-29
US9100532B2 (en) 2015-08-04

Similar Documents

Publication Publication Date Title
JP6096243B2 (ja) 画像データの処理方法およびシステム
US10257484B2 (en) Imaging processing device and imaging processing method
US9979941B2 (en) Imaging system using a lens unit with longitudinal chromatic aberrations and method of operating
US20150138366A1 (en) Imaging systems with visible light sensitive pixels and infrared light sensitive pixels
JP4313370B2 (ja) 電子画像のエイリアシングを低減する方法
CN107547807B (zh) 用于减少空间闪烁伪影的装置和成像系统
JP5698875B2 (ja) カラー撮像素子および撮像装置
KR20100025362A (ko) 높은 동적 범위를 가지는 영상을 생성하는 장치 및 방법
JP6136669B2 (ja) 撮像装置
JP2011205348A (ja) 固体撮像装置および画像記録装置
JP2016503624A (ja) 画像処理方法および装置ならびにイメージングデバイス
US10616536B2 (en) Imaging systems having broadband monochromatic and chromatic image sensors
WO2010058497A1 (ja) 画像処理装置及び画像処理方法
US20090009831A1 (en) Image Processing Method, Image Capture Device, and Computer Readable Medium
US9373158B2 (en) Method for reducing image artifacts produced by a CMOS camera
JP5108013B2 (ja) カラー撮像素子及びこれを用いた撮像装置及びフィルタ
JP2012010276A (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP2020120204A (ja) 画像処理装置、画像処理方法およびプログラム
JP2009290795A (ja) 画像処理装置、画像処理方法、画像処理プログラム、記録媒体、および電子情報機器
TWI536765B (zh) 具有透明濾波器像素之成像系統
JP2019062475A (ja) 撮像素子および撮像装置
TWI617198B (zh) 具有透明濾波器像素之成像系統
JP6815628B2 (ja) マルチスペクトル撮像装置
TWI601427B (zh) 具有透明濾波器像素之成像系統
JP2019004507A (ja) 撮像装置