JP2013244250A - 電子内視鏡装置及びその撮像画像補正方法 - Google Patents

電子内視鏡装置及びその撮像画像補正方法 Download PDF

Info

Publication number
JP2013244250A
JP2013244250A JP2012120644A JP2012120644A JP2013244250A JP 2013244250 A JP2013244250 A JP 2013244250A JP 2012120644 A JP2012120644 A JP 2012120644A JP 2012120644 A JP2012120644 A JP 2012120644A JP 2013244250 A JP2013244250 A JP 2013244250A
Authority
JP
Japan
Prior art keywords
pixel
monitoring target
detection signal
target pixel
signal value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012120644A
Other languages
English (en)
Other versions
JP5847017B2 (ja
Inventor
Masanobu Uchihara
匡信 内原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2012120644A priority Critical patent/JP5847017B2/ja
Priority to US13/902,308 priority patent/US20130314516A1/en
Priority to EP20130169380 priority patent/EP2670131A3/en
Publication of JP2013244250A publication Critical patent/JP2013244250A/ja
Application granted granted Critical
Publication of JP5847017B2 publication Critical patent/JP5847017B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • H04N25/683Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects by defect estimation performed on the scene signal, e.g. real time or on the fly detection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Signal Processing (AREA)
  • Surgery (AREA)
  • Multimedia (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Physics & Mathematics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】 暗い撮影環境下でも高品質の動画像を表示する。
【解決手段】 欠陥画素の他に、フレームにより、正常な出力をする場合と、正常出力からずれた出力をする場合がある画素を監視対象画素として予め正常画素,欠陥画素と区別しておき、監視対象画素の検出信号値に対してフレームごとに正常出力をしているかずれた出力をしているかを判定し、ずれた出力をしているフレームのみ、周囲の正常画素の検出信号値により該監視対象画素の検出信号値の補正を行う(ステップS2)。
【選択図】 図5

Description

本発明は内視鏡スコープ先端部に撮像素子を内蔵した電子内視鏡装置に係り、特に、暗時の撮像画像のチラツキを抑制する電子内視鏡装置及びその撮像画像補正方法に関する。
近年のイメージセンサ(撮像素子)は、多画素化が進んで画素数が多いため、受光面上の全ての画素(フォトダイオード)を、欠陥無く製造することが非常に困難である。このため、欠陥画素が存在していても、欠陥画素数がそれほど多くなければ、その撮像素子を使用せざるを得ない状況にある。
しかし、欠陥画素が存在する撮像素子で、被写体の動画像を撮影すると、欠陥画素に起因する固定パターンノイズが動画像に毎フレーム重畳し、撮像画像の画質を著しく劣化させてしまう。
そこで、下記の特許文献1,2に記載されている様に、欠陥画素位置の撮像画像信号を、欠陥画素周辺の正常画素による撮像画像信号で補間して推定し、この推定値を用いて、1フレーム1フレームの被写体画像を生成することが普通に行われている。
欠陥画素位置の撮像画像信号を、周辺正常画素の撮像画像信号で画素補間すれば、欠陥画素起因の固定パターンノイズを良好に除去することができる。しかし、欠陥画素を特許文献1,2に記載の方法で補正しても、例えば暗い環境下の動画像で、画面にチラツキが生じてしまうことがある。
内視鏡装置で体腔内を観察する場合、スコープの挿入状況によって、明るい部分と暗い部分が生じる。特に暗い環境下で動画像を撮影すると、上記の欠陥画素に起因するのではない画面のチラツキが視認される場合がある。
この画面のチラツキは、1つの画素に着目したとき、毎フレーム常に異常出力をする欠陥画素とは異なり、フレームにより、正常な出力をする場合と、離散的に正常出力からずれた出力をする場合がある画素が存在することが原因である。図8は、黒レベルの検出値を示すグラフである。この出力のずれは、暗い画像でも明るい画像でも同様に生じるが、明るい画像では信号レベルが大きいため目立ちにくく、暗い画像では、信号レベルが小さいため、ノイズとして目立ちやすくなる。
撮像素子の正常画素で「真っ暗」な状態を撮像した場合でも、各画素の検出値は「0」ではなく、ある値を出力する。例えば、10ビットの「1024」階調を撮像する撮像素子で、画素値「64」を黒レベルの判定閾値にしたとする。
多くの正常画素は、「真っ暗」な状態を何回撮影しても、例えば画素値「64」付近の値を検出するが、中には、真っ暗な状態を撮影する度に、フレームにより「50」「64」「80」…と検出値に揺らぎが生じてしまう画素が存在する。
つまり、「64±α」の揺らぎを持った画素が存在する。暗い環境下で撮影を行う場合、αの揺らぎにより、動画像の画面にチラツキノイズが生じてしまう。
これは、画素と、相関二重サンプリング処理回路,アンプ,A/D変換器との組み合わせに起因すると考えられる。近年の撮像素子は、読出速度を高速にするために、これらアンプ等を画素列(あるいは画素行)毎に設け、処理の並列化を図っている。
しかし、これら画素列毎(画素行毎)の処理回路を全く同一に製造することは困難であるため、画素列(又は画素行)と、アンプ等との組み合わせで上記αの揺らぎが生じると考えられる。或いは、ある画素列とアンプ等との組み合わせが固定されると、これが固定パターンノイズになる虞があるため、所定周期で、画素列とアンプ等との組み合わせを切り替える撮像素子も存在する。この場合も、暗い撮影環境下における動画像のチラツキの原因になる。
特開2008―148115号公報 特開2006―26234号公報
本発明の目的は、暗い撮影環境下での動画像撮影時にも画面のチラツキノイズを低減した電子内視鏡装置及びその撮像画像補正方法を提供することにある。
本発明の電子内視鏡装置及びその撮像画像補正方法は、正常画素及び欠陥画素の他に、フレームにより、正常な出力をする場合と、正常出力からずれた出力をする場合がある画素(以下、監視対象画素という。)を有する撮像素子と、前記監視対象画素の位置アドレスを格納したメモリと、画像処理部とを備える電子内視鏡装置及びその撮像画像補正方法であって、
前記撮像素子による撮像画像を画像処理するに際し、前記監視対象画素の検出信号値に対して前記メモリの格納情報に基づき該監視対象画素に対してフレームごとに正常出力をしているかずれた出力をしているかを判定し、ずれた出力をしているフレームのみ、周囲にある前記正常画素の検出信号値により該監視対象画素の検出信号値の補正を行って画像処理することを特徴とする。
本発明によれば、暗い撮影環境下での動画像撮影時にもモニタ表示する動画像のチラツキノイズを低減することが可能となる。
本発明の一実施形態に係る電子内視鏡装置の全体構成図である。 図1に示す電子内視鏡の先端部の先端面正面図である。 図1に示す電子内視鏡の先端部の縦断面図である。 図1に示す電子内視鏡装置の制御系のブロック構成図である。 図4に示すプロセッサ装置が実行する撮像画像補正処理手順を示すフローチャートである。 図5の画面チラツキ補正処理の詳細処理手順を示すフローチャートである。 カラーフィルタ配列がベイヤ配列の撮像素子の表面模式図である。 撮像素子の正常画素のうち黒レベル検出値が揺らぐ画素の説明図である。
以下、本発明の一実施形態について、図面を参照して説明する。
図1は本発明の一実施形態に係る電子内視鏡装置のシステム全体を示した構成図である。本実施形態の電子内視鏡装置(内視鏡システム)10は、内視鏡スコープ12と、本体装置を構成するプロセッサ装置14及び光源装置16とから構成される。内視鏡スコープ12は、患者(被検体)の体腔内に挿入される可撓性の挿入部20と、挿入部20の基端部分に連設された操作部22と、プロセッサ装置14及び光源装置16に接続されるユニバーサルコード24とを備えている。
挿入部20の先端には先端部26が連設され、先端部26内に、体腔内撮影用の撮像チップ(撮像装置)54(図3参照)が内蔵される。先端部26の後方には、複数の湾曲駒を連結した湾曲部28が設けられている。湾曲部28は、操作部22に設けられたアングルノブ30が操作されたとき、挿入部20内に挿設されたワイヤが押し/引きされ、上下左右方向に湾曲動作する。これにより、先端部26が体腔内で所望の方向に向けられる。
ユニバーサルコード24の基端にはコネクタ36が設けられている。コネクタ36は、複合タイプのものであり、プロセッサ装置14に接続される他、光源装置16にも接続される。
プロセッサ装置14は、ユニバーサルコード24内に挿通されたケーブル68(図3参照)を介して内視鏡スコープ12に給電を行い、撮像チップ54の駆動を制御すると共に、撮像チップ54からケーブル68を介して伝送された撮像信号を受信し、受信した撮像信号に各種信号処理を施して画像データに変換する。
プロセッサ装置14で変換された画像データは、プロセッサ装置14にケーブル接続されたモニタ38に内視鏡撮影画像(観察画像)として表示される。また、プロセッサ装置14は、コネクタ36を介して光源装置16とも電気的に接続され、光源装置16を含め電子内視鏡装置10の動作を統括的に制御する。
図2は、内視鏡スコープ12の先端部26の先端面26aを示した正面図である。図2に示すように、先端部26の先端面26aには、観察窓40と、照明窓42と、鉗子出口44と、送気・送水用ノズル46が設けられている。
観察窓40は、先端面26aの中央且つ片側に偏心して配置されている。照明窓42は、観察窓40に関して対称な位置に2個配され、体腔内の被観察部位に光源装置16からの照明光を照射する。
鉗子出口44は、挿入部20内に配設された鉗子パイプ70(図3参照)に接続され、操作部22に設けられた鉗子口34(図1参照)に連通している。鉗子口34には、注射針や高周波メスなどが先端に配された各種処置具が挿通され、各種処置具の先端が鉗子出口44から体腔内に出される。
送気・送水用ノズル46は、操作部22に設けられた送気・送水ボタン32(図1参照)の操作に応じて、光源装置16に内蔵された送気・送水装置から供給される洗浄水や空気を、観察窓40や体腔内に向けて噴射する。
図3は内視鏡スコープ12の先端部26の縦断面図である。図3に示すように、観察窓40の奥には、体腔内の被観察部位の像光を取り込むための対物光学系50を保持する鏡筒52が配設されている。鏡筒52は、挿入部20の中心軸に対物光学系50の光軸が平行となるように取り付けられている。鏡筒52の後端には、対物光学系50を経由した被観察部位の像光を、略直角に曲げて撮像チップ54に向けて導光するプリズム56が接続されている。
撮像チップ54は、固体撮像素子58と、固体撮像素子58の駆動及び信号の入出力を行う周辺回路60とが一体形成されたモノリシック半導体(センサチップ)であり、支持基板62上に実装されている。
固体撮像素子58の撮像面(受光面)58aは、プリズム56の出射面と対向するように配置されている。撮像面58a上には、矩形枠状のスペーサ63を介して矩形板状のカバーガラス64が取り付けられている。撮像チップ54とスペーサ63とカバーガラス64とは、接着剤を介して組み付けられており、これにより、塵埃などの侵入から撮像面58aが保護される。
挿入部20の後端に向けて延設された支持基板62の後端部には、複数の入出力端子62aが支持基板62の幅方向に並べて設けられている。入出力端子62aには、ユニバーサルコード24を介してプロセッサ装置14との各種信号のやり取りを媒介するための信号線66が接合されている。入出力端子62aは、支持基板62に形成された配線やボンディングパッド等(図示せず)を介して撮像チップ54内の周辺回路60と電気的に接続されている。
信号線66は、可撓性の管状のケーブル68内にまとめて挿通されている。ケーブル68は、挿入部20、操作部22、及びユニバーサルコード24の各内部を挿通し、コネクタ36に接続されている。
また、図2,図3では図示を省略しているが、照明窓42の奥には、照明部が設けられている。照明部には、光源装置16からの照明光を導くライトガイド120(図4参照)の出射端120aが配されており、この出射端120aが照明窓42に対面して設けられている。ライトガイド120は、ケーブル68と同様に、挿入部20、操作部22、及びユニバーサルコード24の各内部を挿通し、コネクタ36に入射端が接続されている。
図4は、電子内視鏡装置10の制御系を示したブロック図である。図4に示すように、内視鏡スコープ12の先端部26には、固体撮像素子58と、アナログ信号処理回路(AFE:アナログフロントエンド)72と、TG(タイミングジェネレータ)78と、CPU80とが設けられている。AFE72やTG78が、図3の周辺回路60に相当する。
CPU80にはEEPROM等のメモリ81が接続されている。このメモリ81に、内視鏡スコープ12固有のデータや固体撮像素子58固有のデータが保存される。例えば、固体撮像素子58の欠陥画素の位置データが保存される。
TG78は、CPU80の制御に基づき、固体撮像素子58の駆動パルス(垂直/水平走査パルス、リセットパルス等)とAFE72用の同期パルスとを発生する。固体撮像素子58は、TG78から入力される駆動パルスにより駆動され、対物光学系50を介して撮像面58aに結像された光学像を光電変換して撮像信号として出力する。
固体撮像素子58の撮像面58aには、多数の画素がマトリクス状に配置されており、各画素にはそれぞれフォトセンサ(光電変換素子)が設けられている。固体撮像素子58の撮像面58aに入射した光は各画素のフォトセンサに電荷として蓄積される。そして、垂直走査回路及び水平走査回路(いずれも不図示)による垂直方向と水平方向の走査によって、各画素のフォトセンサに蓄積された信号電荷量は画素信号として順次読み出され、所定のフレームレートで出力される。
固体撮像素子58は、複数の色セグメントからなるカラーフィルタ(例えば、ベイヤ配列の原色カラーフィルタ)を備えた単板カラー撮像方式の固体撮像素子である。
また、固体撮像素子58の各フォトセンサの蓄積電荷を撮像信号として読み出す信号読出回路の構成は従来周知であり、例えば3トランジスタ構成や4トランジスタ構成などの一般的な構成を適用することが可能であり、ここでは説明を省略する。
AFE72は、相関二重サンプリング(CDS)回路と、自動ゲイン回路(AGC)と、A/D変換器とにより構成されている。CDS回路は、固体撮像素子58から出力される撮像信号に対して相関二重サンプリング処理を施し、固体撮像素子58で生じるリセット雑音及びアンプ雑音の除去を行う。AFE72は、固体撮像素子58の各画素列毎に設けられている。
AGCは、CDS回路によりノイズ除去が行われた撮像信号を、CPU80から指定されたゲイン(増幅率)で増幅する。A/D変換器は、AGCにより増幅された撮像信号を、所定のビット数のデジタル信号に変換して出力する。AFE72でデジタル化されて出力された撮像信号(デジタル撮像信号)は、信号線66を通してプロセッサ装置14に入力される。
プロセッサ装置14は、CPU82と、ROM84と、RAM85と、画像処理回路(DSP)86と、表示制御回路88とを備えて構成される。
CPU82は、プロセッサ装置14内の各部を制御するとともに、電子内視鏡装置10の全体を統括的に制御する。ROM84には、プロセッサ装置14の動作を制御するための各種プログラムや制御用データ等が予め格納されている。また、RAM85には、CPU82により実行されるプログラムやデータなどが一時記憶される。
DSP86は、CPU82の制御に基づき、AFE72から入力された撮像信号に対し、画面チラツキ補正処理、色補間,色分離,色バランス調整,ガンマ補正,画像強調処理等を施し、画像データを生成する。
DSP86から出力された画像データは表示制御回路88に入力され、表示制御回路88は、DSP86から入力された画像データを、モニタ38に対応した信号形式に変換しモニタ38の画面に表示させる。
プロセッサ装置14の操作部90は、固体撮像素子58の動作モードを選択し又は切り替えるためのモード切替ボタンや、その他ユーザの指示入力を受け付ける各種ボタンが設けられている。
光源装置16は、主光源100と、主光源駆動回路101と、特殊光光源102と、特殊光源駆動回路103と、CPU104と、合波部105とを備えて構成される。CPU104は、プロセッサ装置14のCPU82と通信を行い、主光源駆動回路101,特殊光源駆動回路103の制御を行う。
主光源100は白色光を発光し、特殊光光源102は、例えば420nmを中心とする狭帯域の特殊光を発光する。白色光または特殊光は、合波部105を通ってライトガイド120の入射端120bに出射される。
上記のように構成された電子内視鏡装置10で体腔内を観察する際には、内視鏡スコープ12と、プロセッサ装置14と、光源装置16と、モニタ38の電源をオンにして、内視鏡スコープ12の挿入部20を体腔内に挿入し、光源装置16からの照明光で体腔内を照明しながら、固体撮像素子58により撮像される体腔内の動画像をモニタ38で観察することになる。
DSP86は、モニタ38に表示する画像を生成する場合、固体撮像素子58から出力される撮像画像信号(RAW信号)を取り込んで、画面チラツキ補正を行う。そして、画面チラツキ補正後の各画素位置の撮像画像信号に、同時化処理(デモザイク処理),ガンマ補正処理,RGB/YC変換処理等の周知の各種画像処理を施し、モニタ38に表示する画像を生成する。
以下、本実施形態で行う撮像画像補正処理(画面チラツキ補正処理)ついて説明する。
撮像素子の各画素は、正常画素と欠陥画素とに分けられる。欠陥画素については、従来公知の方法で補正する。即ち、プロセッサ装置14のCPU82は、内視鏡スコープ12のCPU80と通信を行い、スコープ12に内蔵された固体撮像素子58の欠陥画素位置情報(メモリ81内の情報)を取得し、これをDSP86に渡す。これにより、DSP86は、欠陥画素位置の撮像画像信号を周囲画素の撮像画像信号から画素補間により算出する。
正常画素のうち、図8で説明した様に、検出値が検出する毎に不安定になる画素は、全ての正常画素で発生するのではなく、発生する画素を事前の検査で特定することができる。そこで、この画素を監視対象画素とし、欠陥画素の位置情報と同様に、メモリ81にその画素位置(画素アドレス)を書き込んでおく。そして、CPU82は、CPU80と通信を行い、この画素位置情報を取得してDSP86に渡し、DSP86は、画面のチラツキ補正を、以下の様にして行う。
図5は、プロセッサ装置14のCPU82が配下のDSP86等を用いて実行する撮像画像補正処理手順を示すフローチャートである。先ず、ステップS1で、撮像素子58から出力される撮像画像信号を取り込む。
そして、次のステップS2で、詳細は後述する画面チラツキ補正処理を行い、ステップS3に進む。ステップS3では、メモリ81から読み取ったアドレス位置の欠陥画素各々に付いて、周知の欠陥画素補正処理を行う。
次のステップS4では、他の周知の画像処理(例えばγ補正,デモザイク処理,RGB/YC変換処理など)を行い、ステップS5で、画像処理した1フレーム分の撮像画像データをモニタ画面に表示する。次のステップS6では、次フレームの撮像画像信号があるか否かを判定し、無い場合(動画像の撮影終了の場合)には、この処理を終了する。
次フレームの撮像画像信号が存在する場合には、ステップS6からステップS1に戻り、ステップS1〜ステップS6までを動画像が終了するまで繰り返す。
図6は、図5のステップS2の詳細処理手順を示すフローチャートであり、画像チラツキ補正処理手順を示す。先ず、ステップS21で、メモリ81から読み取った監視対象画素の総数mを求めると共に、各監視対象画素にナンバリング(番号付け)を施す。そして、次のステップS22で、変数nの値を「n=1」に設定し、ステップS23に進む。
ステップS23では、n=1番目の監視対象画素について、縦,横,右斜め,左斜めの4方向について、監視対象画素以外の同色正常画素との差分値を求める。
図7は、固体撮像素子58の表面模式図である。この例では、各画素が正方格子配列されており、その上に、三原色のカラーフィルタR(赤)G(緑)B(青)がベイヤ配列されている。B色が並ぶ行のG色をGbとし、R色が並ぶ行のG色をGrとしている。GbとGrは同色であるが、本実施形態では、異なる色として取り扱う。勿論、同色として取り扱っても良い。
図中の×印を付した画素が欠陥画素であり、その欠陥画素補正は、図5のステップS3で行う。△印を付した画素が、今回の監視対象画素であり、その補正を、図6の処理で行う。
今、監視対象画素であるB画素1を例に説明する。B画素1の水平(横)方向左,右には、1画素置いて同色のB画素2,3が存在する。画素1の検出値と画素2の検出値との差分と、画素1の検出値と画素3の検出値との差分の平均値を、横方向の差分値Hとする。
B画素1の垂直(縦)方向上,下には、1画素置いて、同色のB画素4,5が存在する。画素1の検出値と画素4の検出値との差分と、画素1の検出値と画素5の検出値との差分の平均値を、縦方向の差分値Vとする。
B画素1の右斜め45度方向には、1画素置いて、同色のB画素6,7が存在する。画素1の検出値と画素6の検出値との差分と、画素1の検出値と画素7の検出値との差分の平均値を、右斜め方向の差分値Rとする。
B画素1の左斜め45度方向には、1画素置いて、同色のB画素8,9が存在する。画素1の検出値と画素8の検出値との差分と、画素1の検出値と画素9の検出値との差分の平均値を、左斜め方向の差分値Lとする。
なお、画素2〜9のうちのいずれかが欠陥画素或いは監視対象画素となる場合もある。その場合には、欠陥画素,監視対象画素を除き、上記の差分値H,V,R,Lを求める。2つの値の平均値ではなく、1つの値そのものを差分値とすることもある。例えば画素2,3の両方共が、欠陥画素或いは監視対象画素となった場合には、画素2,3より更に1画素置いた同色画素の検出値を用いことになる。
ステップS23で、4方向の差分値H,V,R,Lを求めた後、次のステップS24に進み、4つの差分値H,V,R,Lの全てが閾値αを超えたか否かを判定する。
4つの差分値H,V,R,Lのうち少なくとも1つが閾値αを超えていない場合(判定結果がNo)には、このn=1番目の監視対象画素の検出信号値は揺らいでいないと判断し、この監視対象画素の検出信号を正常値と判断する。
そして次にステップS25に進み、n=mに達したか否かを判定する。即ち、全ての監視対象画素について処理が終了したか否かを判定する。n=mに達していない場合には、ステップS25からステップS26に進み、n=n+1として、ステップS23に戻る。以降、n=2番目の監視対象画素についてステップS23以降を実行することになる。
ステップS24の判定の結果、4つの差分値H,V,R,Lの全てが閾値αを超えている場合には、この監視対象画素の検出信号値が揺らいでおり、正常な検出値ではないと判断する。そして、ステップS27に進み、当該監視対象画素の検出値を補正値に置き換えて、ステップS25に進む。
ステップS27で用いる補正値は、例えば、次の様に決定する。4つの差分値H,V,R,Lで一番小さな値の差分値を選択する。例えば差分値Hが他の差分値V,R,Lのいずれよりも小さい場合、水平方向の差分値Hを選択する。つまり、図7の例では、画素1に対し水平方向の画素2,3を選択し、画素2,3の検出値の平均値を、監視対象画素1の検出値とする。或いは、画素2又は画素3の1つの検出値をそのまま監視対象画素1の検出値とする。
この様にして監視対象画素の検出補正値を決定する理由は、次の通りである。例えば、細かな血管画像(撮像画像中の主要被写体画像)を撮影しているとする。今、細かな1本の血管の像光が、「画素2→画素1→画素3」と走っていた場合、差分値Hが他の差分値V,R,Lよりも小さな値になる蓋然性が高い。それは、画素1,2,3が同じ血管画像を撮像しているからである。そして、画素1による暗い画像の検出値が不安定となっているため、この画素1の検出値を、画素2,3の検出値の平均値で置き換えれば、細かな血管画像を再生することができる。
これに対し、画素3,4の検出値を用いて監視対象画素1の補正検出値にすると、画素2→画素1→画素3の検出値で段差ができ、血管画像が途切れてしまうことになる。
以上の処理を、全ての監視対象画素について、毎フレーム行うことで、画面のチラツキが抑制される。
以上述べた実施形態によれば、検出出力値が不安定となり、特に暗い環境下でチラツキが視認される画素が存在しても、良好に補正ができ、品質の高いモニタ画像を提供可能となる。
本実施形態が補正対象とする監視対象画素は、欠陥画素とは異なる。欠陥画素は、毎フレーム常に出力値が正常画素の出力値に比べてずれる画素である。このため、毎フレーム周囲の正常画素値を用いて補間する必要がある。一方、監視対象画素は、フレームにより正常な出力をする場合と、ずれる出力をする場合がある画素である。監視対象画素の場合、正常出力をしているフレームで周囲画素の出力値を用いて補間すると過補正となる虞があるため、あえて補間する必要はなく、ずれた出力値の時のみ補間を行えばよい。
尚、欠陥画素と同様に、経年的に監視対象画素になってしまう正常画素も存在する。この場合には、定期的に内視鏡スコープの検査を行い、新たに監視対象画素になった画素のアドレスをメモリ81に登録しておけば良い。
また、上記実施形態では、図6のステップS27で、監視対象画素に近接し且つ少ない画素数(実施形態では2画素)の検出値だけを用いて監視対象画素の補正値を求めた。しかし、周辺の縦,横,斜めの同色画素の検出値を補間演算して補正値を決定することも可能である。しかしながら、補正値算出に用いる画素を、最も近い同色画素だけに限定すると、撮像画像の精細感を損なわないため好ましいといえる。
以上述べた実施形態の電子内視鏡装置及びその撮像画像補正方法は、正常画素及び欠陥画素の他に、フレームにより、正常な出力をする場合と、正常出力からずれた出力をする場合がある画素(以下、監視対象画素という。)を有する撮像素子と、前記監視対象画素の位置アドレスを格納したメモリと、画像処理部とを備える電子内視鏡装置及びその撮像画像補正方法であって、
前記撮像素子による撮像画像を画像処理するに際し、前記監視対象画素の検出信号値に対して前記メモリの格納情報に基づき該監視対象画素に対してフレームごとに正常出力をしているかずれた出力をしているかを判定し、ずれた出力をしているフレームのみ、周囲にある前記正常画素の検出信号値により該監視対象画素の検出信号値の補正を行って画像処理することを特徴とする。
また、実施形態の電子内視鏡装置の前記画像処理部は、前記監視対象画素の検出信号値と周囲の前記正常画素の検出信号値との差分が所要閾値範囲内のときは該監視対象画素を正常画素と同等に取り扱い前記補正を行わないことを特徴とする。
また、実施形態の電子内視鏡装置は、前記監視対象画素の検出信号値と該監視対象画素の水平方向周囲に存在する前記正常画素の検出信号値との間の差分値と、前記監視対象画素の検出信号値と該監視対象画素の垂直方向周囲に存在する前記正常画素の検出信号値との間の差分値と、前記監視対象画素の検出信号値と該監視対象画素の右斜め方向周囲に存在する前記正常画素の検出信号値との間の差分値と、前記監視対象画素の検出信号値と該監視対象画素の左斜め方向周囲に存在する前記正常画素の検出信号値との間の差分値とのいずれもが前記所要閾値範囲を超えたとき、該監視対象画素の検出信号値を補正することを特徴とする。
また、実施形態の電子内視鏡装置は、前記監視対象画素の周囲の前記正常画素のうち、前記4つの差分値のうち最も小さな差分値が得られる前記方向に存在する前記正常画素の検出信号値で前記監視対象画素の検出信号値を置き換えることで前記監視対象画素の補正を行うことを特徴とする。
また、実施形態の電子内視鏡装置は、静止画像撮影モード時には前記監視対象画素の補正は行わずに動画撮影モード時に前記監視対象画素の補正を行うことを特徴とする。
以上述べた実施形態によれば、暗い撮影環境下での動画像撮影時に、検出値が不安定となる画素が存在しても画面のチラツキを防止でき、品質の高い画像を得ることが可能となる。
本発明に係る撮像画像補正方法は、検出値が不安定となる画素が存在しても暗い撮影環境下でも高品質の動画像を表示することができ、電子内視鏡装置に適用すると有用である。
1 監視対象画素
2,3,4,5,6,7,8,9 周辺同色画素
10 電子内視鏡装置(内視鏡システム)
12 内視鏡スコープ
14 プロセッサ装置
16 光源装置
26 先端部
38 モニタ
40 観察窓
42 照明窓
50 対物光学系
54 撮像チップ
56 プリズム
58 撮像素子(イメージセンサ)
62 基板
68 ケーブル
80,82,104 CPU
81 メモリ(EEPROM)
84 ROM
86 DSP

Claims (5)

  1. 正常画素及び欠陥画素の他に、フレームにより、正常な出力をする場合と、正常出力からずれた出力をする場合がある画素(以下、監視対象画素という。)を有する撮像素子と、
    前記監視対象画素の位置アドレスを格納したメモリと、
    前記撮像素子による撮像画像を画像処理するに際し、前記監視対象画素の検出信号値に対して前記メモリの格納情報に基づき該監視対象画素に対してフレームごとに正常出力をしているかずれた出力をしているかを判定し、ずれた出力をしているフレームのみ、周囲にある前記正常画素の検出信号値により該監視対象画素の検出信号値の補正を行って画像処理する画像処理部と
    を備える電子内視鏡装置。
  2. 請求項1に記載の電子内視鏡装置であって、前記画像処理部は、前記監視対象画素の検出信号値と周囲の前記正常画素の検出信号値との差分が所要閾値範囲内のときは該監視対象画素を正常画素と同等に取り扱い前記補正を行わない電子内視鏡装置。
  3. 請求項2に記載の電子内視鏡装置であって、前記監視対象画素の検出信号値と該監視対象画素の水平方向周囲に存在する前記正常画素の検出信号値との間の差分値と、前記監視対象画素の検出信号値と該監視対象画素の垂直方向周囲に存在する前記正常画素の検出信号値との間の差分値と、前記監視対象画素の検出信号値と該監視対象画素の右斜め方向周囲に存在する前記正常画素の検出信号値との間の差分値と、前記監視対象画素の検出信号値と該監視対象画素の左斜め方向周囲に存在する前記正常画素の検出信号値との間の差分値とのいずれもが前記所要閾値範囲を超えたとき、該監視対象画素の検出信号値を補正する電子内視鏡装置。
  4. 請求項3に記載の電子内視鏡装置であって、前記監視対象画素の周囲の前記正常画素のうち、前記4つの差分値のうち最も小さな差分値が得られる前記方向に存在する前記正常画素の検出信号値で前記監視対象画素の検出信号値を置き換えることで前記監視対象画素の補正を行う電子内視鏡装置。
  5. 正常画素及び欠陥画素の他に、フレームにより、正常な出力をする場合と、正常出力からずれた出力をする場合がある画素(以下、監視対象画素という。)を有する撮像素子と、前記監視対象画素の位置アドレスを格納したメモリと、画像処理部とを備える電子内視鏡装置の撮像画像補正方法であって、
    前記撮像素子による撮像画像を画像処理するに際し、前記監視対象画素の検出信号値に対して前記メモリの格納情報に基づき該監視対象画素に対してフレームごとに正常出力をしているかずれた出力をしているかを判定し、ずれた出力をしているフレームのみ、周囲にある前記正常画素の検出信号値により該監視対象画素の検出信号値の補正を行って画像処理する電子内視鏡装置の撮像画像補正方法。
JP2012120644A 2012-05-28 2012-05-28 電子内視鏡装置及びその作動方法 Expired - Fee Related JP5847017B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012120644A JP5847017B2 (ja) 2012-05-28 2012-05-28 電子内視鏡装置及びその作動方法
US13/902,308 US20130314516A1 (en) 2012-05-28 2013-05-24 Videoscope and image correcting method thereof
EP20130169380 EP2670131A3 (en) 2012-05-28 2013-05-27 Videoscope and image correcting method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012120644A JP5847017B2 (ja) 2012-05-28 2012-05-28 電子内視鏡装置及びその作動方法

Publications (2)

Publication Number Publication Date
JP2013244250A true JP2013244250A (ja) 2013-12-09
JP5847017B2 JP5847017B2 (ja) 2016-01-20

Family

ID=48670348

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012120644A Expired - Fee Related JP5847017B2 (ja) 2012-05-28 2012-05-28 電子内視鏡装置及びその作動方法

Country Status (3)

Country Link
US (1) US20130314516A1 (ja)
EP (1) EP2670131A3 (ja)
JP (1) JP5847017B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10966591B2 (en) 2015-08-06 2021-04-06 Sony Olympus Medical Solutions Inc. Medical signal processing device, medical display device, and medical observation system involving appending color gamut identification information to the picture signal resulting from conversion

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013071938A1 (en) 2011-11-16 2013-05-23 Coloplast A/S Operation device especially intended for proceeding to an operation inside the body of a living being
DE112014007038T5 (de) * 2014-11-28 2017-08-10 Olympus Corporation Endoskopvorrichtung
USD798443S1 (en) * 2016-05-03 2017-09-26 Coloplast A/S Videoscope handle
US20180228361A1 (en) * 2017-02-15 2018-08-16 Dynacolor, Inc. Arthroscopic system with disposable arthroscope
US11109747B2 (en) * 2017-02-15 2021-09-07 Dynacolor, Inc. Arthroscopic system with disposable arthroscope having image rotation function and method thereof
WO2019069542A1 (ja) * 2017-10-05 2019-04-11 オリンパス株式会社 処理装置、内視鏡、内視鏡システム、画像処理方法およびプログラム
WO2021202213A2 (en) * 2020-03-30 2021-10-07 Zoll Medical Corporation Medical device system and hardware for sensor data acquisition

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005318337A (ja) * 2004-04-28 2005-11-10 Sharp Corp 固体撮像素子の欠陥検出補正装置および撮像装置
JP2006026234A (ja) * 2004-07-20 2006-02-02 Olympus Corp 生体内撮像装置および生体内撮像システム
JP2008131273A (ja) * 2006-11-20 2008-06-05 Sony Corp 画像処理装置、画像処理方法、及びプログラム
JP2008148115A (ja) * 2006-12-12 2008-06-26 Winbond Electron Corp 方向検出を用いた撮像デバイスの画像欠陥補正システム
JP2010028488A (ja) * 2008-07-18 2010-02-04 Canon Inc 撮像装置、及び撮像装置の制御方法
JP2010081975A (ja) * 2008-09-29 2010-04-15 Olympus Medical Systems Corp 撮像システム
JP2010212788A (ja) * 2009-03-06 2010-09-24 Sharp Corp 撮像装置、欠陥画素補正方法、および電子情報機器
WO2011042948A1 (ja) * 2009-10-05 2011-04-14 キヤノン株式会社 撮像装置の欠陥検出方法及び撮像装置
JP2011151792A (ja) * 2009-12-22 2011-08-04 Canon Inc 画像処理装置及び方法
JP2012075516A (ja) * 2010-09-30 2012-04-19 Fujifilm Corp 内視鏡システムおよび内視鏡の較正方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5589874A (en) * 1993-06-09 1996-12-31 Origin Medsystems, Inc. Video imaging system with external area processing optimized for small-diameter endoscopes
JP5032648B2 (ja) * 2010-11-29 2012-09-26 株式会社東芝 撮像装置、撮像装置の作動方法及び内視鏡装置

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005318337A (ja) * 2004-04-28 2005-11-10 Sharp Corp 固体撮像素子の欠陥検出補正装置および撮像装置
JP2006026234A (ja) * 2004-07-20 2006-02-02 Olympus Corp 生体内撮像装置および生体内撮像システム
JP2008131273A (ja) * 2006-11-20 2008-06-05 Sony Corp 画像処理装置、画像処理方法、及びプログラム
JP2008148115A (ja) * 2006-12-12 2008-06-26 Winbond Electron Corp 方向検出を用いた撮像デバイスの画像欠陥補正システム
JP2010028488A (ja) * 2008-07-18 2010-02-04 Canon Inc 撮像装置、及び撮像装置の制御方法
JP2010081975A (ja) * 2008-09-29 2010-04-15 Olympus Medical Systems Corp 撮像システム
JP2010212788A (ja) * 2009-03-06 2010-09-24 Sharp Corp 撮像装置、欠陥画素補正方法、および電子情報機器
WO2011042948A1 (ja) * 2009-10-05 2011-04-14 キヤノン株式会社 撮像装置の欠陥検出方法及び撮像装置
JP2011151792A (ja) * 2009-12-22 2011-08-04 Canon Inc 画像処理装置及び方法
JP2012075516A (ja) * 2010-09-30 2012-04-19 Fujifilm Corp 内視鏡システムおよび内視鏡の較正方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10966591B2 (en) 2015-08-06 2021-04-06 Sony Olympus Medical Solutions Inc. Medical signal processing device, medical display device, and medical observation system involving appending color gamut identification information to the picture signal resulting from conversion
EP3799775A1 (en) 2015-08-06 2021-04-07 Sony Olympus Medical Solutions Inc. Medical signal processing device, medical display device, and medical observation system

Also Published As

Publication number Publication date
JP5847017B2 (ja) 2016-01-20
EP2670131A2 (en) 2013-12-04
EP2670131A3 (en) 2013-12-18
US20130314516A1 (en) 2013-11-28

Similar Documents

Publication Publication Date Title
JP5847017B2 (ja) 電子内視鏡装置及びその作動方法
JP5648010B2 (ja) 機器の作動方法及び撮影装置と電子内視鏡装置
EP2415390B1 (en) Electronic endoscope system
JP4360777B2 (ja) 電子内視鏡装置の増幅度自動調整装置
JP5616664B2 (ja) 内視鏡システム
JP5245022B1 (ja) 撮像装置
JP2012070993A (ja) 内視鏡システム
WO2013128764A1 (ja) 医療システム
JP6355527B2 (ja) 内視鏡システム及びその作動方法
JP2012143319A (ja) 内視鏡システム及びその駆動方法
US8379116B2 (en) Image pick-up apparatus and image processing method
US11399700B2 (en) Processing device, endoscope, endoscope system, image processing method, and computer-readable recording medium for correcting a defective pixel
JP2009177436A (ja) 固体撮像装置、信号処理装置、および電子情報機器
JP2018138142A (ja) 医療用信号処理装置、及び医療用観察システム
JP2013062713A (ja) 撮像装置および撮像システム
JP2013126002A (ja) 内視鏡装置
JP6277138B2 (ja) 内視鏡システム及びその作動方法
JP5827868B2 (ja) 電子内視鏡及び固定パターンノイズ除去方法
JP2011087826A (ja) 撮像装置および電子内視鏡装置
JP6312254B2 (ja) 内視鏡システム及びその作動方法
JP2019154628A (ja) 内視鏡、内視鏡システム、温度検出方法およびプログラム
JP3917982B2 (ja) 内視鏡装置
JP4276416B2 (ja) 画像信号用ゆらぎ補償回路及び電子内視鏡用画像信号処理回路
JP2010157849A (ja) 撮像装置
JP2017055155A (ja) 内視鏡装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140205

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140613

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140805

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141006

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150324

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150525

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20150828

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20151027

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151124

R150 Certificate of patent or registration of utility model

Ref document number: 5847017

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees