JP5123443B2 - 信号処理装置及び静止画生成方法 - Google Patents

信号処理装置及び静止画生成方法 Download PDF

Info

Publication number
JP5123443B2
JP5123443B2 JP2012519366A JP2012519366A JP5123443B2 JP 5123443 B2 JP5123443 B2 JP 5123443B2 JP 2012519366 A JP2012519366 A JP 2012519366A JP 2012519366 A JP2012519366 A JP 2012519366A JP 5123443 B2 JP5123443 B2 JP 5123443B2
Authority
JP
Japan
Prior art keywords
image
unit
screen
noise reduction
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012519366A
Other languages
English (en)
Other versions
JPWO2011155429A1 (ja
Inventor
達彦 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Medical Systems Corp
Original Assignee
Olympus Medical Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Medical Systems Corp filed Critical Olympus Medical Systems Corp
Priority to JP2012519366A priority Critical patent/JP5123443B2/ja
Application granted granted Critical
Publication of JP5123443B2 publication Critical patent/JP5123443B2/ja
Publication of JPWO2011155429A1 publication Critical patent/JPWO2011155429A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/555Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20201Motion blur correction

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Biomedical Technology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biophysics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Optics & Photonics (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Picture Signal Circuits (AREA)
  • Studio Devices (AREA)
  • Adjustment Of Camera Lenses (AREA)

Description

本発明は、ぶれのない静止画像を生成することができる信号処理装置及び静止画生成方法
従来、固体撮像素子を利用して被写体像を電子的に撮像する種々の装置が開発されている。例えば、CCD(電荷結合素子)を用いた撮像装置は電子内視鏡装置等にも利用されている。電子内視鏡は、カラーモニタ上にリアルタイムで動画像を表示することができ、内視鏡を操作する術者の疲労が少ないことから、広く利用されている。
電子内視鏡は、被写体を撮像して得た画像を記憶する画像メモリを有している。この画像メモリを用いることで、動画だけでなく静止画を表示させることもできる。術者が静止画像を見るためにスコープの操作部にあるフリーズスイッチを押すと、画像メモリへの書き込みが中断されて、モニタ上に静止画像が表示されるのである。
電子的に撮像を行う撮像素子の出力にはランダムノイズが含まれる。このようなランダムノイズによる画質劣化は、動画では目立ちにくいが、静止画では目立ってしまう。そこで、時間軸方向の相関を利用してノイズを除去する例えば巡回型のノイズリダクション回路が採用されることがある(例えば、日本国特開2007−312832号公報)。
ところで、電子内視鏡装置でカラー画像を得る方法として、電子撮像デバイスの前面にカラーモザイクフィルタを挿入する同時方式と、被写体を照明する光源装置のランプ前面にR,G,Bのフィルタを順次挿入して、R,G,Bの光学像をモノクロCCDで撮像する面順次方式が実用化されている。
面順次方式の内視鏡は、色再現性が良好であり、撮像素子をコンパクトにすることができる等の利点があるが、R,G,Bの画像が時系列で取り込まれるために、被写体と撮像素子の相対的な位置関係が変化した場合には、色ずれが生じるという欠点があった。
特に、内視鏡画像の静止画表示において色ずれが目立った場合には、正確な診断を著しく妨げてしまう。そこで、従来、日本国特開2007−252635号公報においては、色ずれのない静止画像を得る方法が提案されている。
しかしながら、面順次方式における色ずれの発生と同様の理由から、同時方式の撮像装置であっても、被写体と撮像素子の相対的な位置関係が変化することによってぶれが生じる。従来、このようなぶれを除去すると共に、時間軸方向の相関を利用したノイズ除去によって十分にノイズを低減した静止画像を得る装置は開発されていないという問題点があった。
本発明はかかる問題点に鑑みてなされたものであって、ぶれ及びノイズを除去して高画質の静止画像を得ることができる信号処理装置及び静止画生成方法を提供することを目的とする。
本発明の一態様に係る信号処理装置は、複数画面分の入力動画像を記憶する第1の画像メモリと、複数画面分の画像を用いてノイズを除去した画像を出力するノイズリダクション部と、前記第1の画像メモリの出力との一方の画像を選択して出力する画像切替部と、前記画像切替部からの画像を輝度信号と色信号とに分離して、分離した輝度信号及び色信号を前記ノイズリダクション部に与えるY/C分離部と、前記ノイズリダクション部からの画像を少なくとも1画面分記憶する第2の画像メモリと、前記Y/C分離部が分離した輝度信号に基づいて前記入力動画像の各画面のぶれ量を算出するぶれ量算出部と、前記ぶれ量算出部が算出した前記ぶれ量を前記入力動画像の各画面に対応させて保持するぶれ量保持部と、フリーズ指示が発生すると、前記ぶれ量保持部に保持された前記ぶれ量に基づいて、ぶれ量が最も小さい画面を含み前記ノイズリダクション部においてノイズを除去するために必要な2画面以上の画像を前記第1の画像メモリから読み出して前記画像切替部から出力させると共に、前記第2の画像メモリを制御して前記ノイズリダクション部によって前記ぶれ量が最も小さい画面を含む2画面以上の画像を用いてノイズを除去した画像を連続的に出力させるフリーズ制御部とを具備する。
本発明の一態様に係る静止画生成方法は、第1の画像メモリが、複数画面分の入力動画像を記憶し、画像切替部が、前記入力動画像と前記第1の画像メモリの出力との一方の画像を選択して出力し、ノイズリダクション部が、前記画像切替部からの複数画面分の画像を用いてノイズを除去した画像を出力し、Y/C分離部が、切替部からの画像を輝度信号と色信号とに分離して、分離した輝度信号及び色信号を前記ノイズリダクション部に供給し、第2の画像メモリが、ノイズが除去された画像を少なくとも1画面分記憶し、ぶれ量算出部が、前記Y/C分離部が分離した輝度信号にもとづいて前記入力動画像の各画面のぶれ量を算出し、ぶれ量保持部が、算出した前記ぶれ量を前記入力動画像の各画面に対応させて保持し、フリーズ制御部が、フリーズ指示が発生すると、前記ぶれ量に基づいて、ぶれ量が最も小さい画面を含み前記ノイズリダクション部においてノイズを除去するために必要な2画面以上の画像を前記第1の画像メモリから読み出して前記画像切替部から出力させると共に、前記第2の画像メモリを制御して前記ノイズリダクション部によって前記ぶれ量が最も小さい画面を含む2画面以上の画像を用いてノイズを除去した画像を連続的に出力させる。
本発明の第1の実施の形態に係る信号処理装置を示すブロック図である。 図1中の巡回型NR24の具体的な構成の一例を示す回路図である。 第1の実施の形態の動作を説明するためのタイミングチャートである。 本発明の第2の実施の形態を説明するためのタイミングチャートである。 本発明の第3の実施の形態を示すブロック図である。
以下、図面を参照して本発明の実施の形態について詳細に説明する。
(第1の実施の形態)
図1は本発明の第1の実施の形態に係る信号処理装置を示すブロック図である。
本実施の形態は内視鏡装置に適用した例について説明する。
図1において、内視鏡11は、細長な挿入部の先端に固体撮像素子12が設けられている。固体撮像素子12としては、例えばCCD等が採用され、固体撮像素子12は、被写体を撮像して撮像信号を出力するようになっている。固体撮像素子12からの撮像信号は、信号処理装置21を構成する前処理部22に供給される。
前処理部22は、入力された撮像信号をデジタルの画像信号に変換して、画像切替部23、画像メモリ27及びぶれ量算出部28に出力する。画像メモリ27は、所定フレーム数の画像信号を記憶可能な容量を有し、後述するフリーズ制御部30により書き込み及び読み出しが制御されて、前処理部22からの画像信号をフレーム単位で順次記憶すると共に、記憶した画像信号をフレーム単位で画像切替部23に出力するようになっている。
画像切替部23は、フリーズ制御部30に制御されて、前処理部22からの画像信号と画像メモリ27からの画像信号とを切換えて、巡回型NR(ノイズリダクション回路)24に出力するようになっている。
図2は図1中の巡回型NR24の具体的な構成の一例を示す回路図である。
巡回型NR24に入力されるフレーム単位の画像信号は、乗算器41に与えられる。乗算器41は、閾値メモリ45から乗算係数(1−k)が与えられて、入力された画像信号に乗算係数を乗算して加算器42に出力する。加算器42の出力は、フレームメモリ44によって1フレーム遅延された後、乗算器43に与えられる。乗算器43は、閾値メモリ45から乗算係数kが与えられて、入力された画像信号に乗算係数を乗算して加算器42に出力する。
加算器42によって、各フレームの画像信号が順次加算処理されることになる。この加算処理において、入力側の画像信号には係数(1−k)が付与され、加算出力の画像信号には係数kが付与される。仮に係数kが0.5の場合には、入力画像信号と加算結果の画像信号とは1:1で混合されることになり、画像信号に含まれるランダムノイズは平均化されて抑制されることになる。この加算処理が繰り返されることにより、ランダムノイズが次第に低減される。
乗算係数kが0.5よりも大きい場合には、加算器42の出力が加算される割合が高くなり、ノイズ低減効果が高くなる。入力される画像が静止画像である場合には、kを大きくすることによって、ノイズを十分に低減した画像信号が得られる。しかし、入力される画像が動画像の場合には、フレーム間相関が比較的小さくなるので、kを小さくすることで、加算処理によってノイズが増加することを防止する。
閾値メモリ45は入力される画像信号が静止画像に基づくものであるか動画像に基づくものであるかによって、乗算係数kを変化させるようになっている。これにより、入力画像が静止画像であるか動画像であるかに拘わらず、最適なノイズ除去が行われる。
なお、本実施の形態においては、巡回型NR24を採用する例について説明するが、複数画面の画像を用いてノイズリダクションを行う回路であれば、巡回型以外のノイズリダクション回路を採用してもよい。
巡回型NR24の出力は、出力画像メモリ25に与えられる。出力画像メモリ25は、例えば1フレーム分の画像信号を記憶可能な容量を有し、フリーズ制御部30に書き込み及び読み出しが制御されて、巡回型NR24からの画像信号を記憶すると共に、記憶した画像信号をフレーム単位で映像信号処理回路26に出力するようになっている。
映像信号処理回路26は、入力された画像信号に対して所定の映像信号処理を施した後、観察モニタ35に出力するようになっている。映像信号処理回路26は、例えば、ホワイトバランス調整、γ補正等の映像信号処理を行う。観察モニタ35は、入力された画像信号に基づく画像を表示画面上に映出するようになっている。
本実施の形態においては、前処理部22から出力される画像のぶれ量を検出するぶれ量検出部28が設けられている。ぶれ量検出部28は、前処理部22からの画像信号が与えられ、各フレーム毎のぶれ量を算出する。例えば、ぶれ量検出部28は、同一フレーム中の前後のフィールド間で画素の変化をぶれ量として検出することができる。例えば、ぶれ量検出部28は、前後のフィールドの水平方向に隣接する画素同士の画素値の増減を調べ、前後のフィールドで増減が一致する隣接画素同士の数を1画面分累積し、その累積値に基づいてぶれ量を算出してもよい。累積値が大きいほど、ぶれが小さい画像であると考えられる。なお、ぶれ量検出部28におけるぶれ量の算出方法はこれに限るものではなく、例えば、ぶれ量算出部28は、画素値の差分の累積値によって、ぶれ量を求めてもよい。
ぶれ量検出部28がフレーム毎に求めたぶれ量は、ぶれ量保持部29に与えられる。ぶれ量保持部29は、各フレーム毎のぶれ量を各フレームに対応させて記憶するようになっている。
本実施の形態においては、フリーズ制御部30は、フリーズ指示部31からのフリーズ信号によって各部を制御するようになっている。フリーズ指示部31は、例えば内視鏡11に設けられたフリーズボタン13の操作に基づく操作信号が与えられ、フリーズ信号を発生するようになっている。
フリーズ制御部30は、フリーズ信号が発生するまでは、画像切替部23に前処理部22からの画像信号を選択させて巡回型NR24に供給させる。これにより、巡回型NR24には、内視鏡11によって撮像された画像に基づく動画像信号が順次供給されることになり、巡回型NR24は、動画像信号のノイズを除去して出力する。
一方、フリーズ信号が発生すると、フリーズ制御部30は、ぶれ量保持部29が保持する各フレームのぶれ量に基づいて、画像メモリ27からのぶれ量が小さい画像を読み出し、画像切替部23を制御して、巡回型NR24に与える。
例えば、フリーズ制御部30は、フリーズ信号が発生した時点において画像メモリ27に保持されている各フレームの画像(フレーム画像)のうち、最もぶれ量が小さいフレーム(以下、最小ぶれ画像という)の画像信号を選択して画像切替部23に出力させる。この場合には、フリーズ制御部30は、画像メモリ27に保持されているフレーム数と巡回型NR24がノイズリダクションに用いるフレーム数とを考慮して、最小ぶれ画像を選択する期間の範囲を決定してもよい。例えば、画像メモリ27に保持されているフレーム画像のうちフリーズ信号の発生前の所定期間のフレーム画像から最も小さいぶれ量のフレーム画像を選択してもよい。また、最小ぶれ画像として選択する画像のフレームとフリーズ指示時における入力フレームとの時間差が所定の閾値以内となるように、最小ぶれ画像を選択する期間の範囲を決定してもよい。
出力画像メモリ25は、巡回型NR24の出力を順次取り込んで出力することにより動画像を出力することができると共に、巡回型NR24の出力を取り込むことなく記憶している画像を連続的に出力することにより静止画像を出力することができる。
巡回型NR24のノイズリダクション処理には、ノイズリダクションに用いるフレーム数に基づく時間を要する。そこで、フリーズ制御部30は、ノイズリダクション処理の間は、出力画像メモリ25の書き込み及び読出しを制御して、出力する画像を決定するようになっている。
次に、このように構成された実施の形態の動作について図3のタイミングチャートを参照して説明する。図3(a)は前処理部22からの入力画像(動画像)を示し、図3(b)は画像切替部23の出力画像を示し、図3(c)は巡回型NR24の出力画像を示し、図3(d)は出力画像メモリ25の出力画像を示している。図3は各枠によってフレーム画像Dを示し、添え字によってフレーム番号を示しており、添え字の番号が小さいほど時間的に前のフレームを示している。図3において、同一番号の添え字を有するフレーム画像Dは同一フレームに基づく画像であることを示している。なお、図3中の’は、ノイズリダクション処理によって、フレーム画像が変化していることを示している。
内視鏡11からの撮像信号は前処理部22に与えられる。前処理部22は、撮像信号をデジタル画像信号に変換する。前処理部22からの各フレームの画像信号は画像切替部23、画像メモリ27及びぶれ量算出部28に供給される。
いま、内視鏡からの動画像に基づく画像信号を出力する動画像モードであるものとする。この場合には、フリーズ制御部30は、画像切替部23を制御して、前処理部22からの動画像信号を巡回型NR24に与える。前処理部22からは、順次、フレーム単位で画像信号が出力される。図3においては、各部の処理遅延は考慮しないものとする。図3(a)乃至(d)に示すように、動画像モードにおいては、前処理部22の出力(図3(a))が、画像切替部23、巡回型NR24及び出力画像メモリ25を介して順次出力される。
本実施の形態においては、前処理部22の出力は画像メモリ27に供給されて記憶されると共に、ぶれ量算出部28にも供給される。ぶれ量算出部28は、順次入力される各フレームの画像信号に基づいて、各フレーム画像のぶれ量を算出する。ぶれ量算出部28が算出したぶれ量は、ぶれ量保持部29に与えられて、各フレームに対応して記憶される。
ここで、例えば内視鏡11のフリーズボタン13を操作して、静止画像を表示させるものとする。例えば、図3のフリーズ指示のタイミングでフリーズボタン13が操作されて、フリーズ指示部31からフリーズ信号がフリーズ制御部30に供給されるものとする。
画像メモリ27には、所定フレーム数のフレーム画像が記録されており、フリーズ制御部30は、ぶれ量保持部29に記憶されているぶれ量に基づいて、画像メモリ27に記憶されているフレーム画像のうち、ぶれ量が小さいフレーム画像を選択する。例えば、フリーズ制御部30は、画像メモリ27に記憶されているフレーム画像のうち先頭フレームから巡回型NR24においてノイズリダクション処理に必要なフレーム数以降のフレーム画像から、ぶれ量が最も小さいフレーム画像を最小ぶれ画像として選択する。
例えば、画像メモリ27に図3(a)のフレーム画像D1以降のフレーム画像が記憶されている場合において、巡回型NR24においてノイズリダクション処理に必要なフレーム数が4の場合には、フレーム画像D4以降のフレーム画像から最小ぶれ画像を選択する。
図3の例は、巡回型NR24においてノイズリダクション処理に必要なフレーム数が4である場合において、フリーズ制御部30が最小ぶれ画像としてフレーム画像D10を選択した例を示している。
フリーズ制御部30は、フリーズ指示が発生すると、最小ぶれ画像よりも以前のフレームの画像を、巡回型NR24においてノイズリダクション処理に必要なフレーム数だけ順次読み出す。フリーズ制御部30は、巡回型NR24のノイズリダクション処理に必要な期間は、画像切替部23に画像メモリ27からの画像信号を選択させており、最小ぶれ画像及びそのノイズリダクションに必要なフレーム画像は、フレーム順に順次読み出されて画像切替部23を介して巡回型NR24に供給される。
図3の例では、フレーム画像D7から順次読出しが行われて、画像切替部23を介して巡回型NR24に各画像が順次供給される。巡回型NR24は、順次入力されるフレーム画像に対して巡回型ノイズリダクション処理を施す。巡回型NR24の出力は、出力画像メモリ25を介して出力される。こうして、図3(c)に示すように、フリーズ指示の後、巡回型NR24からはフレーム画像D7以降の画像が順次出力される。巡回型NR24から最小ぶれ画像(図3ではフレーム画像D10)が出力される時点では、最小ぶれ画像のノイズは十分に低減される。
巡回型NR24によるノイズリダクション処理によって、ノイズが十分に低減された最小ぶれ画像が出力されると、以後、この最小ぶれ画像が出力画像メモリ25に保持され、出力画像メモリ25からは最小ぶれ画像が連続的に出力される。こうして、最小ぶれ画像が静止画像として出力されることになる(図3(d))。
出力画像メモリ25からの画像信号は映像信号処理回路26において映像信号処理された後、観察モニタ35に供給されて表示される。図3の例では、フレーム画像D12の入力タイミングでフリーズ指示が発生した場合でも、ぶれ量が小さいフレーム画像D10が最小ぶれ画像として選択され、このフレーム画像D10が巡回型NR24によってノイズリダクションされた後、出力される。
このように本実施の形態においては、ぶれ及びノイズを除去して高画質の静止画像を得ることができる。
なお、上記実施の形態においては、ぶれ及びノイズを除去した静止画像を表示する例について説明したが、得られた静止画像を記録処理するようにしてもよい。また、図3では、ノイズリダクションに4枚のフレーム画像を用いる例について説明したが、ノイズリダクションに用いるフレーム数は適宜設定可能である。
ノイズリダクションに用いるフレーム画像としては、最小ぶれ画像に時間的に近いフレーム画像を用いた方がよい。なお、ノイズリダクションの結果、最終的に最小ぶれ画像を出力すればよく、時間的に最小ぶれ画像よりも後のフレーム画像を用いてノイズリダクションするように構成してもよい。
(第2の実施の形態)
図4は本発明の第2の実施の形態を説明するためのタイミングチャートである。本実施の形態におけるハードウェア構成は第1の実施の形態と同様であり、本実施の形態はフリーズ制御部30の制御が第1の実施の形態と異なるのみである。
図4は図3と同様の表記法によるタイミングチャートであり、図4(a)は前処理部22からの入力画像(動画像)を示し、図4(b)は画像切替部23の出力画像を示し、図4(c)は巡回型NR24の出力画像を示し、図4(d)は出力画像メモリ25の出力画像を示している。
本実施の形態はフリーズ制御部30による出力画像メモリ25の制御が異なるのみである。
第1の実施の形態においては、フリーズ指示が発生したにも拘わらず、出力画像メモリ25はフリーズ指示前のフレーム画像を順次出力する。即ち、フリーズ指示後においても、動画像が出力されることになる。これに対し、本実施の形態は、フリーズ指示後には、静止画像を表示させるものである。
この場合において、複数枚の画像を用いるノイズリダクション処理においては、ノイズリダクション処理に用いるフレーム数分の処理時間が必要である。そこで、本実施の形態においては、ノイズリダクション処理によって最小ぶれ画像が出力されるまでは、フリーズ指示発生時において出力画像メモリ25に保持されているフレーム画像を連続的に出力するようになっている。
図4においては、フリーズ指示がフレーム画像D12の入力時に発生したことを示している。図4においては、図3と同様に、最小ぶれ画像としてD10を選択し、ノイズリダクション処理に4フレームのフレーム画像を用いる例を示している。即ち、フリーズ指示発生後において、画像メモリ27からは、図4(b)に示すように、フレーム画像D7が読み出されて巡回型NR24に与えられる。巡回型NR24は、ノイズリダクション処理を行って、フレーム画像D7,D8,…,D10を出力する。出力画像メモリ25は、フリーズ制御部30に制御されて、巡回型NR24から最小ぶれ画像D10のノイズリダクション処理が終了するまで、巡回型NR24の出力を記憶することなく、既に保持されているフレーム画像D12を連続的に出力する。最小ぶれ画像D10が巡回型NR24から出力されると、出力画像メモリ25は、以後、最小ぶれ画像D10を連続的に出力する。
このように本実施の形態においても、第1の実施の形態と同様の効果を得ることができる。また、本実施の形態においては、フリーズ指示の発生によって、静止画像を出力しており、意図しない動画像が出力されることを防止して、違和感のない操作を可能にしている。
なお、本実施の形態においては、フリーズ指示直後において、出力画像メモリ25に保持されている最新のフレーム画像を連続的に出力する例について説明したが、他のフレーム画像を連続的に出力させるようにしてもよい。例えば、出力画像メモリ25が複数フレームの記憶容量を有する場合には、任意のフレーム画像を静止画像として出力することが可能であり、フリーズ指示直後から最小ぶれ画像を出力すると共に、ノイズリダクション処理毎に、次第にノイズが除去された最小ぶれ画像を出力することも可能である。
(第3の実施の形態)
図5は本発明の第3の実施の形態を示すブロック図である。図5において図1と同一の構成要素には同一符号を付して説明を省略する。
本実施の形態は入力された画像信号をY/C分離して処理する信号処理装置に適用した例である。信号処理装置50に、同時式の撮像装置からの画像信号が入力されることがある。この場合には、入力された画像信号を輝度信号と色信号に分離するY/C分離処理を行う必要がある。本実施の形態はこの場合に適用したものである。
本実施の形態における信号処理装置50は、Y/C分離部60及びOBクランプ部61を採用すると共に、巡回型NR24、出力画像メモリ25、映像信号処理回路26、ぶれ量算出部28及びぶれ量保持部29に代えて巡回型NR54、画像メモリ55、映像信号処理回路56、ぶれ量算出部58及びぶれ量保持部59を採用した点が図1の信号処理装置21と異なる。
固体撮像素子12として例えばベイヤ配列等のカラーフィルタを採用した撮像素子が採用されることがある。Y/C分離部60は、前処理部22からの画像信号が画像切替部23を介して与えられて、輝度信号(Y)と色信号(C)とに分離する。
Y/C分離部60からの輝度信号と色信号とは、OBクランプ部61に与えられる。OBクランプ部61は、輝度信号及び色信号に対して、OBクランプ処理を施す。OBクランプ部61からの輝度信号及び色信号は、巡回型NR54に供給される。また、OBクランプ部61からの輝度信号はぶれ量算出部58にも供給される。
巡回型NR54、画像メモリ55、映像信号処理回路56は、巡回型NR24、出力画像メモリ25、映像信号処理回路26と同様の構成であり、輝度信号と色信号とに対する処理を行う点が異なるのみである。
本実施の形態においては、ぶれ量算出部58は、OBクランプ部61からの輝度信号を用いて画像のぶれ量を算出する。ぶれ量算出部58の出力はぶれ量保持部59に供給されて保持される。ぶれ量算出部58及びぶれ量保持部59の他の構成は、ぶれ量算出部28及びぶれ量保持部29と同様である。
このように構成された実施の形態においては、Y/C分離部60以降の回路において輝度信号と色信号とを別々に処理する点、ぶれ量算出部がOBクランプ部61からの輝度信号に基づいてぶれ量を算出する点を除き、第1の実施の形態と同様の作用となる。
本実施の形態においても、図3又は図4と同様の動作が行われる。即ち、フリーズ指示の以前に画像メモリ27に保持されている画像のうちの所定期間のフレーム画像から、ぶれ量算出部58において算出されたぶれ量が最小の画像が最小ぶれ画像として選択され、この最小ぶれ画像を含む所定フレーム数の画像が巡回型NR54に供給されて最小ぶれ画像のノイズが除去される。
また、本実施の形態においては、画像メモリ27は、Y/C分離前の画像信号を保持するようになっている。これにより、少ない容量のメモリを用いて、ぶれ及びノイズが低減された静止画像を得ることができる。
なお、上記各実施の形態においては、ぶれ量算出及びノイズリダクションを1画面であるフレーム単位で行う例について説明したが、1画面であるフィールド単位でこれらの処理を行ってもよい。

本出願は、2010年6月7日に日本国に出願された特願2010−130157号を優先権主張の基礎として出願するものであり、上記の開示内容は、本願明細書、請求の範囲、図面に引用されたものとする。

Claims (7)

  1. 複数画面分の入力動画像を記憶する第1の画像メモリと、
    複数画面分の画像を用いてノイズを除去した画像を出力するノイズリダクション部と、
    前記入力動画像と前記第1の画像メモリの出力との一方の画像を選択して出力する画像切替部と、
    前記画像切替部からの画像を輝度信号と色信号とに分離して、分離した輝度信号及び色信号を前記ノイズリダクション部に与えるY/C分離部と、
    前記ノイズリダクション部からの画像を少なくとも1画面分記憶する第2の画像メモリと、
    前記Y/C分離部が分離した輝度信号に基づいて前記入力動画像の各画面のぶれ量を算出するぶれ量算出部と、
    前記ぶれ量算出部が算出した前記ぶれ量を前記入力動画像の各画面に対応させて保持するぶれ量保持部と、
    フリーズ指示が発生すると、前記ぶれ量保持部に保持された前記ぶれ量に基づいて、ぶれ量が最も小さい画面を含み前記ノイズリダクション部においてノイズを除去するために必要な2画面以上の画像を前記第1の画像メモリから読み出して前記画像切替部から出力させると共に、前記第2の画像メモリを制御して前記ノイズリダクション部によって前記ぶれ量が最も小さい画面を含む2画面以上の画像を用いてノイズを除去した画像を連続的に出力させるフリーズ制御部と
    を具備したことを特徴とする信号処理装置。
  2. 前記フリーズ制御部は、前記ぶれ量が最も小さい画面より時間的に前に前記第1の画像メモリに記憶された画面の画像を前記第1の画像メモリから読み出して前記画像切替部から出力させることを特徴とする請求項1に記載の信号処理装置。
  3. 前記フリーズ制御部は、前記ぶれ量が最も小さい画面より時間的に後に前記第1の画像メモリに記憶された画面の画像を前記第1の画像メモリから読み出して前記画像切替部から出力させることを特徴とする請求項1に記載の信号処理装置。
  4. 前記フリーズ制御部は、前記第2の画像メモリを制御して、前記フリーズ指示後の前記ノイズリダクション部におけるノイズ除去処理に要する期間に前記ノイズリダクション部から出力される画像を前記第2の画像メモリから出力させることを特徴とする請求項に記載の信号処理装置。
  5. 前記フリーズ制御部は、前記第2の画像メモリを制御して、前記フリーズ指示後の前記ノイズリダクション部におけるノイズ除去処理に要する期間に前記第2の画像メモリに記憶されている同一画面の画像を連続的に出力させることを特徴とする請求項に記載の信号処理装置。
  6. 前記ぶれ量算出部は、前記入力動画像の前後の画面間で水平方向に隣接する画素同士の画素値の増減が一致する隣接画素同士の数を画面内で累積し、累積結果に基づいてぶれ量を求める
    ことを特徴とする請求項に記載の信号処理装置。
  7. 第1の画像メモリが、複数画面分の入力動画像を記憶し、
    画像切替部が、前記入力動画像と前記第1の画像メモリの出力との一方の画像を選択して出力し、
    ノイズリダクション部が、前記画像切替部からの複数画面分の画像を用いてノイズを除去した画像を出力し、
    Y/C分離部が、切替部からの画像を輝度信号と色信号とに分離して、分離した輝度信号及び色信号を前記ノイズリダクション部に供給し、
    第2の画像メモリが、ノイズが除去された画像を少なくとも1画面分記憶し、
    ぶれ量算出部が、前記Y/C分離部が分離した輝度信号にもとづいて前記入力動画像の各画面のぶれ量を算出し、
    ぶれ量保持部が、算出した前記ぶれ量を前記入力動画像の各画面に対応させて保持し、
    フリーズ制御部が、フリーズ指示が発生すると、前記ぶれ量に基づいて、ぶれ量が最も小さい画面を含み前記ノイズリダクション部においてノイズを除去するために必要な2画面以上の画像を前記第1の画像メモリから読み出して前記画像切替部から出力させると共に、前記第2の画像メモリを制御して前記ノイズリダクション部によって前記ぶれ量が最も小さい画面を含む2画面以上の画像を用いてノイズを除去した画像を連続的に出力させる
    ことを特徴とする静止画生成方法。
JP2012519366A 2010-06-07 2011-06-06 信号処理装置及び静止画生成方法 Active JP5123443B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012519366A JP5123443B2 (ja) 2010-06-07 2011-06-06 信号処理装置及び静止画生成方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2010130157 2010-06-07
JP2010130157 2010-06-07
PCT/JP2011/062904 WO2011155429A1 (ja) 2010-06-07 2011-06-06 信号処理装置及び静止画生成方法
JP2012519366A JP5123443B2 (ja) 2010-06-07 2011-06-06 信号処理装置及び静止画生成方法

Publications (2)

Publication Number Publication Date
JP5123443B2 true JP5123443B2 (ja) 2013-01-23
JPWO2011155429A1 JPWO2011155429A1 (ja) 2013-08-01

Family

ID=45098036

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012519366A Active JP5123443B2 (ja) 2010-06-07 2011-06-06 信号処理装置及び静止画生成方法

Country Status (5)

Country Link
US (1) US8548235B2 (ja)
EP (1) EP2579570B1 (ja)
JP (1) JP5123443B2 (ja)
CN (1) CN102934422B (ja)
WO (1) WO2011155429A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5868197B2 (ja) * 2012-01-27 2016-02-24 キヤノン株式会社 ノイズ低減装置およびその制御方法
JP2014220690A (ja) * 2013-05-09 2014-11-20 オリンパスメディカルシステムズ株式会社 信号処理装置、信号処理方法
JP6272115B2 (ja) * 2014-04-10 2018-01-31 Hoya株式会社 内視鏡プロセッサおよび内視鏡システム
JP6095875B2 (ja) * 2014-12-26 2017-03-15 オリンパス株式会社 医療診断装置、医療診断装置の作動方法および医療診断装置の作動プログラム
JP6660707B2 (ja) * 2015-10-23 2020-03-11 Hoya株式会社 内視鏡システム
JP6522539B2 (ja) 2016-03-18 2019-05-29 富士フイルム株式会社 内視鏡システム及びその作動方法
JP6242552B1 (ja) 2016-04-19 2017-12-06 オリンパス株式会社 画像処理装置
JP2018007837A (ja) * 2016-07-13 2018-01-18 オリンパス株式会社 画像処理装置
KR102499033B1 (ko) 2018-01-31 2023-02-13 삼성전자주식회사 스택형 이미지 센서 및 스택형 이미지 센서를 포함하는 전자 장치
CN108989606B (zh) * 2018-08-22 2021-02-09 Oppo广东移动通信有限公司 图像处理方法和装置、电子设备、计算机可读存储介质
US11792510B2 (en) * 2020-11-18 2023-10-17 Micron Technology, Inc. Image sensor data management using a multi-port memory device

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07289507A (ja) * 1994-04-22 1995-11-07 Olympus Optical Co Ltd フリーズ装置
JPH11285019A (ja) * 1998-03-31 1999-10-15 Sharp Corp 画像処理装置および画像処理プログラムを記憶する媒体
JP2002247444A (ja) * 2001-02-14 2002-08-30 Olympus Optical Co Ltd 画像処理装置及び画像処理プログラムを記録した記録媒体
JP2006174069A (ja) * 2004-12-15 2006-06-29 Canon Inc 撮影装置及び撮影方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6621937B1 (en) * 1999-10-08 2003-09-16 Eastman Kodak Company Removing chroma noise from digital images by using variable shape pixel neighborhood regions
JP4290066B2 (ja) * 2004-05-20 2009-07-01 キヤノン株式会社 固体撮像装置および撮像システム
US20060152596A1 (en) * 2005-01-11 2006-07-13 Eastman Kodak Company Noise cleaning sparsely populated color digital images
JP2006262221A (ja) * 2005-03-18 2006-09-28 Seiko Epson Corp 撮像装置および画像処理方法
JP4643481B2 (ja) 2006-03-23 2011-03-02 オリンパスメディカルシステムズ株式会社 画像処理装置
US7821578B2 (en) * 2006-04-07 2010-10-26 Marvell World Trade Ltd. Reconfigurable self-calibrating adaptive noise reducer
JP5186088B2 (ja) 2006-05-23 2013-04-17 Hoya株式会社 内視鏡装置
US8018504B2 (en) * 2006-12-22 2011-09-13 Eastman Kodak Company Reduction of position dependent noise in a digital image
US8090212B1 (en) * 2007-12-21 2012-01-03 Zoran Corporation Method, apparatus, and system for reducing blurring of an image using multiple filtered images
US8259208B2 (en) * 2008-04-15 2012-09-04 Sony Corporation Method and apparatus for performing touch-based adjustments within imaging devices

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07289507A (ja) * 1994-04-22 1995-11-07 Olympus Optical Co Ltd フリーズ装置
JPH11285019A (ja) * 1998-03-31 1999-10-15 Sharp Corp 画像処理装置および画像処理プログラムを記憶する媒体
JP2002247444A (ja) * 2001-02-14 2002-08-30 Olympus Optical Co Ltd 画像処理装置及び画像処理プログラムを記録した記録媒体
JP2006174069A (ja) * 2004-12-15 2006-06-29 Canon Inc 撮影装置及び撮影方法

Also Published As

Publication number Publication date
US8548235B2 (en) 2013-10-01
WO2011155429A1 (ja) 2011-12-15
US20130058573A1 (en) 2013-03-07
CN102934422A (zh) 2013-02-13
JPWO2011155429A1 (ja) 2013-08-01
EP2579570B1 (en) 2017-01-04
EP2579570A4 (en) 2014-12-24
CN102934422B (zh) 2015-05-27
EP2579570A1 (en) 2013-04-10

Similar Documents

Publication Publication Date Title
JP5123443B2 (ja) 信号処理装置及び静止画生成方法
JP5764740B2 (ja) 撮像装置
WO2016129405A1 (ja) 画像処理装置および画像処理方法、並びにプログラム
JP2008005048A (ja) 撮像装置及び信号処理装置
JP6767383B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2018207413A (ja) 撮像装置
US8699827B2 (en) Imaging apparatus, signal processing method, and program
JP5038027B2 (ja) 画像処理装置およびこれを備えた内視鏡装置
JP5829122B2 (ja) 撮像装置および評価値生成装置
JP5581968B2 (ja) 撮像装置
JP6517573B2 (ja) 画像処理装置および内視鏡装置
JP2014220690A (ja) 信号処理装置、信号処理方法
JP6118118B2 (ja) 撮像装置およびその制御方法
WO2017073181A1 (ja) 内視鏡装置
JP2002209838A (ja) 内視鏡撮像装置
JP2009135792A (ja) 撮像装置および画像信号処理方法
JP2008079222A (ja) デジタルカメラ
JP5959331B2 (ja) 内視鏡装置
JP2009027555A (ja) 撮像装置及び信号処理方法
JP2012257043A (ja) 撮像装置および撮像方法
JP3917982B2 (ja) 内視鏡装置
KR101976812B1 (ko) 토탈 셔터 이미지 센서를 이용하는 스트로보스코프
JP3655679B2 (ja) 内視鏡装置
JP2008172309A (ja) 電子式手振れ補正方法及びその装置並びに電子式手振れ補正プログラムと撮像装置
JP2006149483A (ja) 電子内視鏡装置及び色ずれ補正装置

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121009

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151102

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 5123443

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151102

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250