JP5648010B2 - 機器の作動方法及び撮影装置と電子内視鏡装置 - Google Patents

機器の作動方法及び撮影装置と電子内視鏡装置 Download PDF

Info

Publication number
JP5648010B2
JP5648010B2 JP2012080680A JP2012080680A JP5648010B2 JP 5648010 B2 JP5648010 B2 JP 5648010B2 JP 2012080680 A JP2012080680 A JP 2012080680A JP 2012080680 A JP2012080680 A JP 2012080680A JP 5648010 B2 JP5648010 B2 JP 5648010B2
Authority
JP
Japan
Prior art keywords
image
color
pixel
pixels
correction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012080680A
Other languages
English (en)
Other versions
JP2013208284A (ja
Inventor
匡信 内原
匡信 内原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2012080680A priority Critical patent/JP5648010B2/ja
Priority to EP13161706.0A priority patent/EP2645708B1/en
Priority to US13/853,696 priority patent/US9282302B2/en
Publication of JP2013208284A publication Critical patent/JP2013208284A/ja
Application granted granted Critical
Publication of JP5648010B2 publication Critical patent/JP5648010B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/67Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
    • H04N25/671Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction
    • H04N25/677Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction for reducing the column or line fixed pattern noise
    • GPHYSICS
    • G02OPTICS
    • G02FOPTICAL DEVICES OR ARRANGEMENTS FOR THE CONTROL OF LIGHT BY MODIFICATION OF THE OPTICAL PROPERTIES OF THE MEDIA OF THE ELEMENTS INVOLVED THEREIN; NON-LINEAR OPTICS; FREQUENCY-CHANGING OF LIGHT; OPTICAL LOGIC ELEMENTS; OPTICAL ANALOGUE/DIGITAL CONVERTERS
    • G02F1/00Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics
    • G02F1/01Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour 
    • G02F1/13Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour  based on liquid crystals, e.g. single liquid crystal display cells
    • G02F1/133Constructional arrangements; Operation of liquid crystal cells; Circuit arrangements
    • G02F1/1333Constructional arrangements; Manufacturing methods
    • G02F1/1347Arrangement of liquid crystal layers or cells in which the final condition of one light beam is achieved by the addition of the effects of two or more layers or cells
    • G02F1/13471Arrangement of liquid crystal layers or cells in which the final condition of one light beam is achieved by the addition of the effects of two or more layers or cells in which all the liquid crystal cells or layers remain transparent, e.g. FLC, ECB, DAP, HAN, TN, STN, SBE-LC cells
    • G02F1/13473Arrangement of liquid crystal layers or cells in which the final condition of one light beam is achieved by the addition of the effects of two or more layers or cells in which all the liquid crystal cells or layers remain transparent, e.g. FLC, ECB, DAP, HAN, TN, STN, SBE-LC cells for wavelength filtering or for colour display without the use of colour mosaic filters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/555Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、機器の作動方法及び撮影装置と電子内視鏡装置に関する。
カラー画像撮像用の固体撮像素子(イメージセンサ)は、半導体基板上に多数の画素(フォトダイオード)が二次元アレイ状に配列形成される。そして更に、各画素上にカラーフィルタが積層され、各画素列毎に、アンプやアナログ/デジタル(A/D)変換器等が設けられる。
画素列毎に設けられるアンプ等を同一性能に製造することは困難であり、製造バラツキが生じる。このため、被写体の撮像画像中に、アンプ等の製造バラツキに起因する縦スジノイズが重畳してしまう。縦スジノイズが撮像画像中に存在すると、画質を劣化させるため、縦スジノイズを軽減する補正処理が行われる。この例では、縦スジノイズで説明したが、画素行毎にアンプ等を設ける場合には、横スジノイズとして現れる。以下、縦スジノイズで説明するが、横スジノイズでも同様である。
縦スジノイズは、固定パターンノイズであるため、その固体撮像素子固有の縦スジノイズ成分を予め求めておくことができる。そして、被写体を撮像したとき、実際の各画素の検出信号から縦スジノイズ成分を減算することで、縦スジ補正を行うことができる。しかし、縦スジノイズの補正はデジタル信号処理で行われるため、縦スジノイズ成分のうち小数点以下の除去ができず、量子化誤差が発生する。つまり、量子化誤差が、薄い縦スジノイズとして残ってしまう。
そこで、従来は、特許文献1,2に記載されている様に、縦スジのノイズ補正時に人工的なランダムノイズを加え、量子化精度以下の誤差(縦スジノイズ)を目立たなくする処理を行っている。特許文献2では、更に、ランダムノイズを付加する割合を、量子化誤差の大きさに応じて制御している。
特許第4396757号公報 特開2005−167918号公報
従来技術の縦スジ補正方法は、コンパクト型や一眼レフ型のデジタルカメラに搭載されるイメージセンサに適用するのであれば、問題はない。照明光として太陽光や明るい照明光の元で撮影が行われるからである。
明るい照明光の元では、各画素が検出する信号量Sの絶対値は大きい。このため、小さなランダムノイズを重畳しても、そのノイズ成分が撮像画像中に目立つわけではない。
これに対し、特殊環境下で使用されるイメージセンサの縦スジ補正では問題となる。例えば、電子内視鏡装置のイメージセンサは、暗所となる体腔内に挿入され、細いライトガイドを通して内視鏡スコープ先端から患部等に照射される、十分とは言えない照明光の元で被写体画像を撮像することになる。
照明光が十分でないことは各画素が検出する信号量Sの絶対量が小さいことを意味し、相対的にノイズ量Nが大きくなる。このため、太陽光等を照明光にすることができるイメージセンサに比べてS/Nが悪く、縦スジノイズが目立ってしまう。
特に、電子内視鏡装置による撮像画像は、動画状態でモニタに表示されるため、毎フレーム,毎フレーム、同じ箇所に量子化誤差による縦スジノイズが重畳すると、縦スジノイズがモニタ画像上で更に目立ってしまう。この縦スジノイズは、照明光が微弱となり照明光波長域が狭くなる特殊光観察(狭帯域光観察)の他、白色光観察でも、観察画像に強調処理を施すことで微小な縦スジノイズが目立ってしまう。
従来技術の場合、この量子化誤差に基づく縦スジノイズを、人工的に発生させたランダムノイズを重畳させることで目立たなくしているだけであり、量子化誤差による縦スジノイズ成分を除去している訳ではない。また、従来技術は、単板式カラー画像撮像用イメージセンサから高精度に縦スジノイズを除去する方法についての考察はしていない。
本発明の目的は、特殊環境下で使用する場合でも単板式カラー画像撮像用のイメージセンサによる撮像画像からスジ状ノイズを高精度に除去できる機器の作動方法及び撮影装置と電子内視鏡装置を提供することにある。
本発明の機器の作動方法は、複数の画素が正方格子状に配列形成され各画素にモザイク状に複数色のカラーフィルタが積層された単板式カラー画像撮像用のイメージセンサと、前記イメージセンサにより前記カラーフィルタの色と同色の各色画像を撮像して得られる複数枚の前記各色画像の平均画像撮像画像信号を前記カラーフィルタの色毎に分け、該色毎に、前記イメージセンサの画素列毎又は画素行毎の前記撮像画像信号の平均値から前記イメージセンサの前記画素が配列形成された全域の撮像画像信号の平均値を減算して得られた前記画素列毎又は前記画素行毎のスジ状ノイズのうち小数点以下を四捨五入した値を前記色毎のスジ状ノイズを補正する整数分の補正データとして記憶し、前記色毎及び前記画素列または画素行毎に求められたスジ状ノイズに対し前記四捨五入したときの量子化誤差の大きさを端数分の補正データとして記憶するメモリと、を備える機器の作動方法であって、前記イメージセンサにより撮像された画像の撮像画像信号を前記メモリから読み出した前記整数分及び端数分の補正データで補正することを特徴とする。
本発明の撮影装置は、上記記載のイメージセンサと、上記記載のメモリと、前記イメージセンサにより撮像された画像の撮像画像信号を前記メモリから読み出した前記整数分及び端数分の補正データで補正する画像処理部とを備えることを特徴とする。
本発明の電子内視鏡装置は、管腔内に挿入される内視鏡スコープと、該内視鏡スコープ先端部に内蔵される上記記載のイメージセンサと、前記内視鏡スコープ先端部から照明光を照射する照明部と、上記記載のメモリと、前記イメージセンサにより撮像された画像の撮像画像信号を前記メモリから読み出した前記整数分及び端数分の補正データで補正する画像処理部とを備えることを特徴とする。
本発明によれば、固体撮像素子の製造バラツキに起因するスジ状ノイズを高精度に除去可能となり、高品質な撮像画像を得ることが可能となる。
本発明の一実施形態に係る電子内視鏡装置の全体構成図である。 図1に示す電子内視鏡の先端部の先端面正面図である。 図1に示す電子内視鏡の先端部の縦断面図である。 図1に示す電子内視鏡装置の制御系のブロック構成図である。 カラーフィルタ配列がベイヤ配列の固体撮像素子で4色(Gr,Gb,R,B)毎の縦スジノイズを求める説明図である。 縦スジノイズのプロファイルを求めるときの色画像の説明図である。 低周波ノイズを除去した縦スジノイズの特性図である。 整数分の縦スジ補正データで補正した後の残渣データを示す特性図である。 端数分の縦スジ補正データの説明図である。 端数分の縦スジ補正を行う場合の説明図である。 端数分の縦スジ補正を行うときの効果を示す特性図である。
以下、本発明の一実施形態について、図面を参照して説明する。
図1は本発明の一実施形態に係る電子内視鏡装置のシステム全体を示した構成図である。本実施形態の電子内視鏡装置(内視鏡システム)10は、内視鏡スコープ(内視鏡スコープ)12と、本体装置を構成するプロセッサ装置14及び光源装置16とから構成される。内視鏡スコープ12は、患者(被検体)の体腔内に挿入される可撓性の挿入部20と、挿入部20の基端部分に連設された操作部22と、プロセッサ装置14及び光源装置16に接続されるユニバーサルコード24とを備えている。
挿入部20の先端には先端部26が連設され、先端部26内に、体腔内撮影用の撮像チップ(撮像装置)54(図3参照)が内蔵される。先端部26の後方には、複数の湾曲駒を連結した湾曲部28が設けられている。湾曲部28は、操作部22に設けられたアングルノブ30が操作されたとき、挿入部20内に挿設されたワイヤが押し/引きされ、上下左右方向に湾曲動作する。これにより、先端部26が体腔内で所望の方向に向けられる。
ユニバーサルコード24の基端にはコネクタ36が設けられている。コネクタ36は、複合タイプのものであり、プロセッサ装置14に接続される他、光源装置16にも接続される。
プロセッサ装置14は、ユニバーサルコード24内に挿通されたケーブル68(図3参照)を介して内視鏡スコープ12に給電を行い、撮像チップ54の駆動を制御すると共に、撮像チップ54からケーブル68を介して伝送された撮像信号を受信し、受信した撮像信号に各種信号処理を施して画像データに変換する。
プロセッサ装置14で変換された画像データは、プロセッサ装置14にケーブル接続されたモニタ38に内視鏡撮影画像(観察画像)として表示される。また、プロセッサ装置14は、コネクタ36を介して光源装置16とも電気的に接続され、光源装置16を含め電子内視鏡装置10の動作を統括的に制御する。
図2は、内視鏡スコープ12の先端部26の先端面26aを示した正面図である。図2に示すように、先端部26の先端面26aには、観察窓40と、照明窓42と、鉗子出口44と、送気・送水用ノズル46が設けられている。
観察窓40は、先端面26aの中央且つ片側に偏心して配置されている。照明窓42は、観察窓40に関して対称な位置に2個配され、体腔内の被観察部位に光源装置16からの照明光を照射する。
鉗子出口44は、挿入部20内に配設された鉗子チャンネル70(図3参照)に接続され、操作部22に設けられた鉗子口34(図1参照)に連通している。鉗子口34には、注射針や高周波メスなどが先端に配された各種処置具が挿通され、各種処置具の先端が鉗子出口44から体腔内に出される。
送気・送水用ノズル46は、操作部22に設けられた送気・送水ボタン32(図1参照)の操作に応じて、光源装置16に内蔵された送気・送水装置から供給される洗浄水や空気を、観察窓40や体腔内に向けて噴射する。
図3は内視鏡スコープ12の先端部26の縦断面図である。図3に示すように、観察窓40の奥には、体腔内の被観察部位の像光を取り込むための対物光学系50を保持する鏡筒52が配設されている。鏡筒52は、挿入部20の中心軸に対物光学系50の光軸が平行となるように取り付けられている。鏡筒52の後端には、対物光学系50を経由した被観察部位の像光を、略直角に曲げて撮像チップ54に向けて導光するプリズム56が接続されている。
撮像チップ54は、固体撮像素子58と、固体撮像素子58の駆動及び信号の入出力を行う周辺回路60とが一体形成されたモノリシック半導体(センサチップ)であり、支持基板62上に実装されている。
固体撮像素子58の撮像面(受光面)58aは、プリズム56の出射面と対向するように配置されている。撮像面58a上には、矩形枠状のスペーサ63を介して矩形板状のカバーガラス64が取り付けられている。撮像チップ54とスペーサ63とカバーガラス64とは、接着剤を介して組み付けられており、これにより、塵埃などの侵入から撮像面58aが保護される。
挿入部20の後端に向けて延設された支持基板62の後端部には、複数の入出力端子62aが支持基板62の幅方向に並べて設けられている。入出力端子62aには、ユニバーサルコード24を介してプロセッサ装置14との各種信号のやり取りを媒介するための信号線66が接合されており、入出力端子62aは、支持基板62に形成された配線やボンディングパッド等(図示せず)を介して撮像チップ54内の周辺回路60と電気的に接続されている。
信号線66は、可撓性の管状のケーブル68内にまとめて挿通されている。ケーブル68は、挿入部20、操作部22、及びユニバーサルコード24の各内部を挿通し、コネクタ36に接続されている。
また、図2,図3では図示を省略しているが、照明窓42の奥には、照明部が設けられている。照明部には、光源装置16からの照明光を導くライトガイド120(図4参照)の出射端120aが配されており、この出射端120aが照明窓42に対面して設けられている。ライトガイド120は、ケーブル68と同様に、挿入部20、操作部22、及びユニバーサルコード24の各内部を挿通し、コネクタ36に入射端が接続されている。
図4は、電子内視鏡装置10の制御系を示したブロック図である。図4に示すように、内視鏡スコープ12の先端部26には、固体撮像素子58と、アナログ信号処理回路(AFE:アナログフロントエンド)72と、TG(タイミングジェネレータ)78と、CPU80とが設けられている。AFE72やTG78が、図3の周辺回路60に相当する。CPU80にはEEPROM等のメモリ81が接続されている。このメモリ81に、固体撮像素子58の縦スジ補正データが保存される。
TG78は、CPU80の制御に基づき、固体撮像素子58の駆動パルス(垂直/水平走査パルス、リセットパルス等)とAFE72用の同期パルスとを発生する。固体撮像素子58は、TG78から入力される駆動パルスにより駆動され、対物光学系50を介して撮像面58aに結像された光学像を光電変換して撮像信号として出力する。
固体撮像素子58の撮像面58aには、多数の画素がマトリクス状に配置されており、各画素にはそれぞれフォトセンサ(光電変換素子)が設けられている。固体撮像素子58の撮像面58aに入射した光は各画素のフォトセンサに電荷として蓄積される。そして、垂直走査回路及び水平走査回路(いずれも不図示)による垂直方向と水平方向の走査によって、各画素のフォトセンサに蓄積された信号電荷量は画素信号として順次読み出され、所定のフレームレートで出力される。
固体撮像素子58は、複数の色セグメントからなるカラーフィルタ(例えば、ベイヤ配列の原色カラーフィルタ)を備えた単板カラー撮像方式の固体撮像素子である。
また、固体撮像素子58の各フォトセンサの蓄積電荷を撮像信号として読み出す信号読出回路の構成は従来周知であり、例えば3トランジスタ構成や4トランジスタ構成などの一般的な構成を適用することが可能であり、ここでは説明を省略する。
AFE72は、相関二重サンプリング(CDS)回路と、自動ゲイン回路(AGC)と、A/D変換器とにより構成されている。CDS回路は、固体撮像素子58から出力される撮像信号に対して相関二重サンプリング処理を施し、固体撮像素子58で生じるリセット雑音及びアンプ雑音の除去を行う。AFE72は、固体撮像素子58の各画素列毎に設けられている。
AGCは、CDS回路によりノイズ除去が行われた撮像信号を、CPU80から指定されたゲイン(増幅率)で増幅する。A/D変換器は、AGCにより増幅された撮像信号を、所定のビット数のデジタル信号に変換して出力する。AFE72でデジタル化されて出力された撮像信号(デジタル撮像信号)は、信号線66を通してプロセッサ装置14に入力される。
プロセッサ装置14は、CPU82と、ROM84と、RAM85と、画像処理回路(DSP)86と、表示制御回路88とを備えて構成される。
CPU82は、プロセッサ装置14内の各部を制御するとともに、電子内視鏡装置10の全体を統括的に制御する。ROM84には、プロセッサ装置14の動作を制御するための各種プログラムや制御用データ等が予め格納されている。また、RAM85には、CPU82により実行されるプログラムやデータなどが一時記憶される。
DSP86は、CPU82の制御に基づき、AFE72から入力された撮像信号に対し、縦スジ補正処理、色補間,色分離,色バランス調整,ガンマ補正,画像強調処理等を施し、画像データを生成する。
DSP86から出力された画像データは表示制御回路88に入力され、表示制御回路88は、DSP86から入力された画像データを、モニタ38に対応した信号形式に変換しモニタ38の画面に表示させる。
プロセッサ装置14の操作部90は、固体撮像素子58の動作モードを選択し又は切り替えるためのモード切替ボタンや、その他ユーザの指示入力を受け付ける各種ボタンが設けられている。
光源装置16は、主光源100と、主光源駆動回路101と、特殊光光源102と、特殊光源駆動回路103と、CPU104と、合波部105とを備えて構成される。CPU104は、プロセッサ装置14のCPU82と通信を行い、主光源駆動回路101,特殊光源駆動回路103の制御を行う。
主光源100は白色光を発光し、特殊光光源102は、例えば420nmを中心とする狭帯域の特殊光を発光する。白色光または特殊光は、合波部105を通ってライトガイド120の入射端120bに出射される。
上記のように構成された電子内視鏡装置10で体腔内を観察する際には、内視鏡スコープ12と、プロセッサ装置14と、光源装置16と、モニタ38の電源をオンにして、内視鏡スコープ12の挿入部20を体腔内に挿入し、光源装置16からの照明光で体腔内を照明しながら、固体撮像素子58により撮像される体腔内の動画像をモニタ38で観察することになる。
DSP86は、モニタ38に表示する画像を生成する場合、固体撮像素子58から出力される撮像画像信号(RAW信号)を取り込んで、各色毎に、縦スジ補正を行う。そして、縦スジ補正後の各画素位置の撮像画像信号に、同時化処理(デモザイク処理),ガンマ補正処理,RGB/YC変換処理等の周知の各種画像処理を施し、モニタ38に表示する画像を生成する。
この縦スジ補正を行うときに使用する縦スジ補正データは、本実施形態では、以下の方法で決め、メモリ81内に記憶しておく。
図5の上段は、固体撮像素子58の表面模式図である。多数の画素が正方格子配列された固体撮像素子58には、3原色のカラーフィルタR(赤)G(緑)B(青)がベイヤ配列されている。本実施形態では、Rフィルタを搭載した画素に対し水平方向(行方向)に隣接する緑(G)フィルタを“Gr”とし、Bフィルタを搭載した画素に対し水平方向に隣接する緑(G)フィルタを“Gb”としている。Gr,Gbは、カラー色としては同じであるが、縦スジ補正データを求めるに際し、別色として取り扱うことにしている。
この固体撮像素子58で、例えば赤(R)一色の画像,緑(G)一色の画像,青(B)一色の画像を、10枚程度撮像し、図6に示す様に、その平均画像の各画素の検出値を求める。
次に、図5に示す様に、R,Gr,Gb,Bの4色の色面データに分け、各色R,Gr,Gb,B毎に、全領域の画素検出値の平均値(全平均値)を求める。これとは別に、各色R,Gr,Gb,B毎に、同一の垂直方向(列方向)に並ぶ各画素の検出値の平均値(列平均値)を求める。
そして、各色R,Gr,Gb,B毎に、且つ、各画素列毎に、「列平均値−全平均値」を算出する。「列平均値−全平均値」の色毎,列毎のデータ群が、縦スジ強度のプロファイルとなる。
この様にして求めた縦スジ強度のプロファイルは、縦スジノイズの値だけが含まれるのではない。図8は、例えばGr色の縦スジ強度のプロファイルを図示したグラフである。横軸は、固体撮像素子58の横軸位置(列座標位置)であり、縦軸が縦スジ強度の値を示している。
縦スジノイズの除去は、例えば次の様にして行う。図5の上段に示すベイヤ配列の場合、Gr色とB色が並ぶ列とGb色とR色が並ぶ列とが交互に配列される。Gr色とB色の画素列から検出される実際のGr画素検出値から、Gr色の、その画素列位置におけるGr色に対する縦スジ補正データを減算した値を、縦スジ補正後のGr画素検出値とする。B色,Gb色,R色においても、同様の演算を行う。
この様な縦スジノイズの補正を行っても、電子内視鏡の様な特殊な環境下で行われる観察では、観察画像中に縦スジが現れることがある。これは、小数点以下を四捨五入したことによる量子化誤差の影響と考えられる。
以下、この量子化誤差の影響を無くす補正について説明する。つまり、小数点以下を四捨五入したことによる±0.5以下の端数分の補正を、どの様にして行ったかを説明する。
図8は、整数の縦スジ補正データによって撮像画像を縦スジ補正した後の縦スジ強度分布を示すグラフである。つまり、整数分による補正後の残渣データを示すグラフである。横軸は、画素列位置の座標であり、縦軸は縦スジの残渣強度である。
小数点以下を四捨五入しているため、縦スジの残渣は、−0.5〜+0.5の範囲内に収まっている。しかし、縦スジ残渣強度の振幅は、理論的に最大で“1”となる。このため、より高精度な縦スジ補正を行うには、この±0.5以下の残渣をさらに小さく補正する必要がある。
そこで、本実施形態では、整数の縦スジ補正データで補正した後の残渣データに対して、図9に示す様に、端数分の縦スジ補正データを割り当てて持つことにする。この端数分の縦スジ補正データの割り当ては、次の観点(a)から決めている。
(a)整数の縦スジ補正データによる補正後の画像と残渣データとの比較において、残渣が±0.05(最大振幅0.1)程度以下の縦スジは目立って視認されない。
この観点(a)により、図9の補正データは、次の様になっている。残渣データが
「−0.05〜+0.05」の場合を「0」、
「0.05〜0.15」の場合を「0.1」、
「0.15〜0.25」の場合を「0.2」、
「0.25〜0.35」を「0.3」、
「0.35〜0.45」の場合を「0.4」、
「0.45〜0.5」の場合を「0.5」、
「-0.05〜-0.15」の場合を「-0.1」、
「-0.15〜-0.25」の場合を「-0.2」、
「-0.25〜-0.35」を「-0.3」、
「-0.35〜-0.45」の場合を「-0.4」、
「-0.45〜-0.5」の場合を「-0.5」
の11通りの縦スジ補正データとしている。尚、残渣データに対する端数分の補正データをどの様に割り付けるかは、この図9の例に限るものではない。
図10は、端数分の補正データによる補正方法の説明図である。前述した整数分の縦スジ補正データを用いた補正と同様に、端数分の縦スジ補正データを用いた補正も、撮像画像信号をA/D変換器でデジタルデータに変換した後に行う。このため、小数点以下の補正は、そのままでは行えない。つまり、例えば「0.3」の加減算を、整数分の補正後の画素検出値に対して施すことができない。そこで、例えばその画素列におけるGr色の補正「0.3」を行う場合、その画素列に属するGr画素のうち、10画素に3画素の割合で、「1」を減算する。これにより、10画素で平均的に「0.3」を減算したことと等価になる。この様に、±0.1,±0.2,±0.3,±0.4,±0.5の各補正は、図10に示す様に行う。
この様な補正を、動画像のフレーム毎に行うのであるが、フレームが代わる毎に、値「1」を減算する画素を固定するよりは、例えば乱数を用いてランダムに選択することでも良い。シミュレーションの結果、減算対象とする画素を固定してもランダムに選択しても変わりがないことが分かったが、ランダムにした方が補正が安定すると考えられる。どちらにするかを、ユーザに選択させても良い。
図11は、端数分の補正を行うことによる効果を示すグラフである。特性グラフIは、整数分の縦スジ補正だけを行ったときを示しており(図8と同じ)、±0.5の縦スジ残渣データが残っている。これに対し、特性グラフIIは、整数分の縦スジ補正と端数分の縦スジ補正の両方を行ったときのグラフである。縦スジの残渣は、上記の(a)に示す通り、±0.05以下となり、目立った縦スジは視認できなくなっている。
以上述べた様に、本実施形態では、縦スジノイズをイメージセンサに積層したカラーフィルタ色毎に除去するに際し、小数点以下を四捨五入して整数分の縦スジ補正データを色毎に求め、更に、小数点以下の端数分の縦スジ補正データを色毎に求め、両方を用いて補正を行うため、電子内視鏡の様な特殊な環境下での観察画像であっても、縦スジの視認性を良化することができる。
なお、前後画像を比較して行う通常のノイズリダクション処理を行っても、本実施形態の縦スジノイズの補正結果に影響は出ない。このため、縦スジノイズ以外のノイズ成分を除去するために、ノイズリダクション処理を併用可能である。
以上、電子内視鏡装置の先端部に内蔵するCOMS型撮像素子による撮像画像の縦スジ補正を例に説明したが、一般的なデジタルカメラ,ビデオカメラ等に搭載されるCMOS型やCCD型撮像素子による撮像画像の縦スジ補正にも適用可能であることはいうまでもない。また、上記の実施形態は、横スジノイズにも同様に適用可能であることは云うまでもない。
以上述べた様に、本実施形態による撮像画像のスジ状ノイズ補正方法は、複数の画素が正方格子状に配列形成され各画素にモザイク状に複数色のカラーフィルタが積層された単板式カラー画像撮像用のイメージセンサにより前記カラーフィルタの色と同色の各色画像を複数枚撮像し、該複数枚の前記各色画像の平均画像を求めると共に該平均画像の撮像画像信号を前記カラーフィルタの色毎に分け、該色毎に、前記イメージセンサの画素列毎または画素行毎の前記撮像画像信号の平均値から前記イメージセンサの前記画素が配列形成された全域の撮像画像信号の平均値を減算して前記画素列毎または画素行毎のスジ状ノイズの値を求め、該スジ状ノイズの値のうち小数点以下を四捨五入した値を前記色毎のスジ状ノイズを補正する整数分の補正データとしてメモリに記憶しておくと共に、前記四捨五入したときの量子化誤差の大きさを前記色毎及び前記画素列または前記画素行毎に求めて端数分の補正データとしてメモリに記憶しておき、前記イメージセンサにより撮像された画像の撮像画像信号を前記メモリから読み出した前記整数分及び端数分の補正データで補正することを特徴とする。
また、実施形態の撮像画像のスジ状ノイズ補正方法は、前記小数点以下で四捨五入する前記量子化誤差の大きさがn/m(ここで、m,nは正整数でm>n)のとき、前記画素列又は画素行のm個の画素のうちn個の画素の値を“1”減算すると共に残りの(m−n)個の画素からは何も減算しないことで前記端数分の補正データによる補正を実行することを特徴とする。
また、実施形態の撮像画像のスジ状ノイズ補正方法は、前記n個の画素を前記m個の画素の中のどの画素にするかを、動画の撮像画像のフレーム毎にランダムに切り替えることを特徴とする。
また、実施形態の撮影装置は、上記のいずれかに記載のイメージセンサと、上記のいずれかに記載のメモリと、上記のいずれかに記載のスジ状ノイズ補正を実行する画像処理部とを備えることを特徴とする。
また、実施形態の電子内視鏡装置は、管腔内に挿入される内視鏡スコープと、該内視鏡スコープ先端部に内蔵される上記のいずれかに記載のイメージセンサと、前記内視鏡スコープ先端部から照明光を照射する照明部と、上記のいずれかに記載のメモリと、上記のいずれかに記載のスジ状ノイズ補正を実行する画像処理部とを備えることを特徴とする。
また、実施形態の電子内視鏡装置の前記照明部は狭帯域の特殊光を前記照明光として照射することを特徴とする。
以上述べた実施形態によれば、スジ状ノイズを高精度に除去可能なため、高品質な撮像画像を得ることが可能となる。
本発明に係るスジ状ノイズ補正方法は、撮像画像中のスジ状ノイズを高精度に補正できるため、デジタルカメラ,デジタルビデオカメラ,カメラ付携帯電話機,カメラ付電子機器,電子内視鏡等に適用すると有用である。
10 電子内視鏡装置(内視鏡システム)
12 内視鏡スコープ
14 プロセッサ装置
16 光源装置
26 先端部
38 モニタ
40 観察窓
42 照明窓
50 対物光学系
54 撮像チップ
56 プリズム
58 撮像素子(イメージセンサ)
62 基板
68 ケーブル
80,82,104 CPU
81 メモリ(EEPROM)
84 ROM
86 DSP

Claims (6)

  1. 複数の画素が正方格子状に配列形成され各画素にモザイク状に複数色のカラーフィルタが積層された単板式カラー画像撮像用のイメージセンサと、
    前記イメージセンサにより前記カラーフィルタの色と同色の各色画像を撮像して得られる複数枚の前記各色画像の平均画像撮像画像信号を前記カラーフィルタの色毎に分け、該色毎に、前記イメージセンサの画素列毎又は画素行毎の前記撮像画像信号の平均値から前記イメージセンサの前記画素が配列形成された全域の撮像画像信号の平均値を減算して得られた前記画素列毎又は前記画素行毎のスジ状ノイズのうち小数点以下を四捨五入した値を前記色毎のスジ状ノイズを補正する整数分の補正データとして記憶し、前記色毎及び前記画素列または画素行毎に求められたスジ状ノイズに対し前記四捨五入したときの量子化誤差の大きさを端数分の補正データとして記憶するメモリと、を備える機器の作動方法であって、
    前記イメージセンサにより撮像された画像の撮像画像信号を前記メモリから読み出した前記整数分及び端数分の補正データで補正する機器の作動方法
  2. 請求項1に記載の機器の作動方法であって、前記端数分の補正データの大きさがn/m(ここで、m,nは正整数でm>n)のとき、前記画素列又は前記画素行のm個の画素のうちn個の画素の値を“1”減算すると共に残りの(m−n)個の画素からは何も減算しないことで前記端数分の補正データによる補正を実行する機器の作動方法
  3. 請求項2に記載の機器の作動方法であって、前記n個の画素を前記m個の画素の中のどの画素にするかを、動画の撮像画像のフレーム毎にランダムに切り替える機器の作動方法
  4. 請求項1乃至請求項3のいずれか1項に記載のイメージセンサと、請求項1乃至請求項3のいずれか1項に記載のメモリと、前記イメージセンサにより撮像された画像の撮像画像信号を前記メモリから読み出した前記整数分及び端数分の補正データで補正する画像処理部とを備える撮影装置。
  5. 管腔内に挿入される内視鏡スコープと、該内視鏡スコープ先端部に内蔵される請求項1乃至請求項3のいずれか1項に記載のイメージセンサと、前記内視鏡スコープ先端部から照明光を照射する照明部と、請求項1乃至請求項3のいずれか1項に記載のメモリと、前記イメージセンサにより撮像された画像の撮像画像信号を前記メモリから読み出した前記整数分及び端数分の補正データで補正する画像処理部とを備える電子内視鏡装置。
  6. 請求項5に記載の電子内視鏡装置であって、前記照明部は狭帯域の特殊光を前記照明光として照射する電子内視鏡装置。
JP2012080680A 2012-03-30 2012-03-30 機器の作動方法及び撮影装置と電子内視鏡装置 Active JP5648010B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012080680A JP5648010B2 (ja) 2012-03-30 2012-03-30 機器の作動方法及び撮影装置と電子内視鏡装置
EP13161706.0A EP2645708B1 (en) 2012-03-30 2013-03-28 Stripe noise correction method of captured image, photographing apparatus and electronic endoscopic apparatus
US13/853,696 US9282302B2 (en) 2012-03-30 2013-03-29 Stripe noise correction method of captured image, photographing apparatus and electronic endoscopic apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012080680A JP5648010B2 (ja) 2012-03-30 2012-03-30 機器の作動方法及び撮影装置と電子内視鏡装置

Publications (2)

Publication Number Publication Date
JP2013208284A JP2013208284A (ja) 2013-10-10
JP5648010B2 true JP5648010B2 (ja) 2015-01-07

Family

ID=48092696

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012080680A Active JP5648010B2 (ja) 2012-03-30 2012-03-30 機器の作動方法及び撮影装置と電子内視鏡装置

Country Status (3)

Country Link
US (1) US9282302B2 (ja)
EP (1) EP2645708B1 (ja)
JP (1) JP5648010B2 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103679648B (zh) * 2013-11-18 2016-07-27 北京空间机电研究所 一种基于空间分割的矩匹配卫星影像条带噪声去除方法
JP6196900B2 (ja) * 2013-12-18 2017-09-13 オリンパス株式会社 内視鏡装置
CN105828693B (zh) * 2013-12-20 2018-11-06 奥林巴斯株式会社 内窥镜装置
JP6230409B2 (ja) * 2013-12-20 2017-11-15 オリンパス株式会社 内視鏡装置
CN106127705A (zh) * 2016-06-22 2016-11-16 成都市晶林科技有限公司 红外图像去横条纹处理方法
CN106815820B (zh) * 2017-01-24 2019-09-10 西安科技大学 一种红外图像条状噪声消除方法
JP6832250B2 (ja) * 2017-07-18 2021-02-24 オリンパス株式会社 内視鏡、制御装置、補正方法およびプログラム
CN110910324B (zh) * 2019-11-19 2023-04-14 山东神戎电子股份有限公司 红外视频的去竖条纹方法
CN111028179B (zh) * 2019-12-20 2023-04-28 浙江大华技术股份有限公司 一种条纹校正方法、装置、电子设备及存储介质
CN112565637B (zh) * 2020-11-20 2022-07-29 中国航空工业集团公司洛阳电光设备研究所 一种单色sCMOS摄像机中低照度下条带噪声的去除方法
CN113465544B (zh) * 2021-06-25 2022-04-08 安徽农业大学 一种条纹投影三维测量非线性误差校正方法
CN116055902A (zh) * 2022-12-30 2023-05-02 深圳锐视智芯科技有限公司 一种图像生成方法、装置、图像传感器及存储介质

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA1194987A (en) * 1981-09-30 1985-10-08 Yasuo Takemura Solid-state color television camera
US4642677A (en) * 1983-07-21 1987-02-10 Victor Company Of Japan, Ltd. Color TV camera with plural solid state imaging devices mutually horizontally displaced and associated filters of vertically-oriented color stripes
JP2000137172A (ja) * 1998-10-29 2000-05-16 Olympus Optical Co Ltd 撮像装置
JP4107029B2 (ja) * 2002-09-20 2008-06-25 富士ゼロックス株式会社 画像読取装置
JP3972302B2 (ja) * 2003-03-26 2007-09-05 ソニー株式会社 撮像素子
JP4379006B2 (ja) * 2003-06-04 2009-12-09 株式会社ニコン 撮像装置
JP4340503B2 (ja) * 2003-09-18 2009-10-07 株式会社リコー 原稿読取装置
JP4144517B2 (ja) 2003-12-05 2008-09-03 ソニー株式会社 固体撮像装置、撮像方法
JP4027340B2 (ja) * 2004-04-20 2007-12-26 キヤノン株式会社 撮像装置及び撮像方法
JP4341528B2 (ja) * 2004-11-02 2009-10-07 ソニー株式会社 固体撮像素子の信号処理装置及び方法並びに撮像装置
JP4661168B2 (ja) * 2004-11-02 2011-03-30 ソニー株式会社 固体撮像素子の信号処理装置及び方法並びに撮像装置
US7456384B2 (en) * 2004-12-10 2008-11-25 Sony Corporation Method and apparatus for acquiring physical information, method for manufacturing semiconductor device including array of plurality of unit components for detecting physical quantity distribution, light-receiving device and manufacturing method therefor, and solid-state imaging device and manufacturing method therefor
JP2007053691A (ja) * 2005-08-19 2007-03-01 Micron Technol Inc サブlsbを用いた拡張デジタルデータ路構造
EP2007131B1 (en) * 2006-04-07 2013-02-27 Mitsubishi Electric Corporation Noise elimination apparatus and noise elimination method
JP4238900B2 (ja) * 2006-08-31 2009-03-18 ソニー株式会社 固体撮像装置、撮像装置
JP4396757B2 (ja) 2007-10-22 2010-01-13 ソニー株式会社 ノイズ補正回路、撮像装置及びノイズ補正方法
JP5124492B2 (ja) * 2009-01-08 2013-01-23 Hoya株式会社 固定パターンノイズ除去ユニット、撮像ユニット、および電子内視鏡システム
JP5149467B2 (ja) * 2010-08-30 2013-02-20 オリンパスメディカルシステムズ株式会社 内視鏡装置

Also Published As

Publication number Publication date
EP2645708A2 (en) 2013-10-02
JP2013208284A (ja) 2013-10-10
US9282302B2 (en) 2016-03-08
EP2645708B1 (en) 2018-01-10
EP2645708A3 (en) 2017-02-22
US20130258082A1 (en) 2013-10-03

Similar Documents

Publication Publication Date Title
JP5648010B2 (ja) 機器の作動方法及び撮影装置と電子内視鏡装置
JP5245022B1 (ja) 撮像装置
JP5847017B2 (ja) 電子内視鏡装置及びその作動方法
JP5616664B2 (ja) 内視鏡システム
JP5899172B2 (ja) 内視鏡装置
JP5850630B2 (ja) 内視鏡システム及びその駆動方法
JP2012143319A (ja) 内視鏡システム及びその駆動方法
US9814376B2 (en) Endoscope system and method for operating the same
JP2018138139A (ja) 医療用撮像装置、及び医療用観察システム
JP6190906B2 (ja) 撮像モジュール、及び内視鏡装置
JP5757906B2 (ja) 撮像装置,電子内視鏡装置及びその結露除去方法
JP2016087135A (ja) 内視鏡用光源装置、内視鏡システム及びその作動方法
JP5734060B2 (ja) 内視鏡システム及びその駆動方法
JP6153689B1 (ja) 撮像素子及び撮像装置
JP2018138142A (ja) 医療用信号処理装置、及び医療用観察システム
JP5827868B2 (ja) 電子内視鏡及び固定パターンノイズ除去方法
JP6277138B2 (ja) 内視鏡システム及びその作動方法
JP2013126002A (ja) 内視鏡装置
JP6227077B2 (ja) 内視鏡システム及びその作動方法
JP6005794B2 (ja) 内視鏡システム及びその駆動方法
JP6312254B2 (ja) 内視鏡システム及びその作動方法
JP6386889B2 (ja) 内視鏡用光源装置、内視鏡システム及びその作動方法
CN114269222A (zh) 医疗图像处理设备和医疗观察系统
JP2009273825A (ja) 電子内視鏡装置
JP2012191591A (ja) 撮像装置、スミア補正方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130709

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140131

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140225

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140407

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141014

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141110

R150 Certificate of patent or registration of utility model

Ref document number: 5648010

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250