JP5864880B2 - 内視鏡装置及び内視鏡装置の作動方法 - Google Patents

内視鏡装置及び内視鏡装置の作動方法 Download PDF

Info

Publication number
JP5864880B2
JP5864880B2 JP2011085435A JP2011085435A JP5864880B2 JP 5864880 B2 JP5864880 B2 JP 5864880B2 JP 2011085435 A JP2011085435 A JP 2011085435A JP 2011085435 A JP2011085435 A JP 2011085435A JP 5864880 B2 JP5864880 B2 JP 5864880B2
Authority
JP
Japan
Prior art keywords
unit
blur correction
parameter information
image
correction parameter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011085435A
Other languages
English (en)
Other versions
JP2012217579A5 (ja
JP2012217579A (ja
Inventor
成剛 温
成剛 温
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2011085435A priority Critical patent/JP5864880B2/ja
Priority to US13/440,800 priority patent/US9498153B2/en
Publication of JP2012217579A publication Critical patent/JP2012217579A/ja
Publication of JP2012217579A5 publication Critical patent/JP2012217579A5/ja
Application granted granted Critical
Publication of JP5864880B2 publication Critical patent/JP5864880B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1126Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique
    • A61B5/1128Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique using image analysis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1107Measuring contraction of parts of the body, e.g. organ, muscle
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6846Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be brought in contact with an internal body part, i.e. invasive
    • A61B5/6847Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be brought in contact with an internal body part, i.e. invasive mounted on an invasive device
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/555Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes

Description

本発明は、内視鏡装置及び内視鏡装置の作動方法等に関する。
従来の医療用内視鏡装置により体腔内の臓器を診察又は治療する場合、内視鏡スコープの操作(例えば挿入や抜去、回転等)や、臓器の自律蠕動等により、撮像された撮像画像にブレが発生する。
例えば特許文献1には、撮像画像を用いて被写体像の移動量を検出するとともに、その移動量に対応する振動量を機械的振動センサーにより検出し、検出された移動量と振動量に基づいて被写体の移動速度を演算してブレを補正する手法が開示されている。
特開平4−134316号公報
しかしながら、内視鏡の観察状態に応じてブレ発生の頻度やブレの強度が異なるという課題がある。内視鏡の観察状態は、例えば観察モード(例えば精査モードやスクリーニングモード等)や、観察者の内視鏡操作の経験、撮像部の特性等である。
例えば、あらゆる観察状態に対して特許文献1に記載のブレ補正手法を適用すると、被写体ブレと手ブレを両方検出する必要があるため、コストが高くなるという課題がある。また、両方のブレ検出に関する制御が煩雑になるという課題がある。
本発明の幾つかの態様によれば、観察状態に応じて適切なブレ補正を行うことが可能な内視鏡装置及びブレ補正処理方法等を提供できる。
本発明の一態様は、撮像光学系と撮像素子を有し、撮像画像の撮像を行う撮像部と、複数のブレ補正用パラメータ情報の中から、使用するブレ補正用パラメータ情報を、前記撮像部の観察状態に基づいて選定する選定部と、選定された前記ブレ補正用パラメータ情報に基づいて、前記撮像画像のブレを補正するブレ補正部と、を含む内視鏡装置に関係する。
本発明の一態様によれば、複数のブレ補正用パラメータ情報の中から、ブレ補正に使用するブレ補正用パラメータ情報が、撮像部の観察状態に基づいて選定される。そして、選定されたブレ補正用パラメータ情報に基づいて、撮像画像のブレが補正される。これにより、観察状態に応じて適切なブレ補正を行うことが可能になる。
また、本発明の他の態様は、撮像画像の撮像を行い、複数のブレ補正用パラメータ情報の中から、使用するブレ補正用パラメータ情報を、前記撮像部の観察状態に基づいて選定し、選定された前記ブレ補正用パラメータ情報に基づいて、前記撮像画像のブレを補正するブレ補正処理方法に関係する。
本実施形態の内視鏡装置の第1の構成例。 選定部の第1の詳細な構成例。 ブレ補正部の第1の詳細な構成例。 テンプレートマッチングの例。 テーブルの例。 ブレ補正部の第2の詳細な構成例。 エッジ強調処理部の詳細な構成例。 インターレース補色単板の画像信号の構成例。 インターレース方式における動き量検出とブレ補正についての説明図。 2板撮像素子により撮像される画像信号の例。 内視鏡装置の第2の構成例。 選定部の第2の詳細な構成例。 選定部の第3の詳細な構成例。 内視鏡装置の第3の構成例。 露光時間制御についての説明図。 露光時間制御についての説明図。 露光時間制御についての説明図。 露光時間制御についての説明図。 光源部の詳細な構成例。 内視鏡装置の変形構成例。 内視鏡装置の第4の構成例。 白色光の分光特性の例。 特殊光の分光特性の例。 選定部の第4の詳細な構成例。
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
1.第1の実施形態
1.1.内視鏡装置
図1に本実施形態の内視鏡装置の第1の構成例を示す。内視鏡装置は、制御装置300(プロセッサ部)、撮像部102(挿入部)を含む。
撮像部102は、消化管等の体腔内の撮像を行う。撮像部102は、ライトガイド103、レンズ系201、撮像素子203を含む。
制御装置300は内視鏡装置の制御や画像処理を行う。制御装置300は、光源部104、A/D変換部204、ブレ補正部205、画像処理部207、表示部208、ROM209、選定部212、画像記憶部214、光源制御部215、レンズ制御部216、撮像素子制御部217、制御部210、外部I/F部211を含む。
A/D変換部204は、ブレ補正部205、画像処理部207を介して表示部208へ接続している。光源制御部215は、光源部104へ接続している。レンズ制御部216は、レンズ系201へ接続している。撮像素子制御部217は、撮像素子203へ接続している。撮像素子制御部217は、選定部212へ接続している。選定部212は、ブレ補正部205へ接続している。ROM209は、ブレ補正部205と接続している。画像記憶部214は、ブレ補正部205と双方向に接続している。光源部104は、ライトガイド103の後部に接続して、出射した光はライトガイド103を経由して撮像部102の先端部まで到達し被写体101へ照射される。制御部210は、A/D変換部204、ブレ補正部205、画像処理部207、表示部208、ROM209、選定部212、画像記憶部214、光源制御部215、レンズ制御部216、撮像素子制御部217及び外部I/F部211と双方向に接続している。
撮像部102は、制御装置300に対して着脱可能となっている。医師(観察者、操作者)は、診察目的に応じて複数種類のスコープ(撮像部102)の中から必要なスコープを選択し、選択したスコープを制御装置300に装着して診察或は治療を行う。
この内視鏡装置は内視鏡診察や治療に適用するため、撮像部102は体内に挿入できるように湾曲が可能で細長い形状になっている。光源部104が出射する光は、湾曲可能なライトガイド103を経由して被写体101へ照射される。撮像部102の先端部には、レンズ系201が配置されており、被写体101からの反射光は、レンズ系201を介して撮像素子203に入射される。撮像素子203により出力されたアナログ画像信号はA/D変換部204へ転送される。
A/D変換部204は、撮像素子203からのアナログ画像信号をデジタル化してデジタル画像信号(以下撮像画像と略称)としてブレ補正部205へ転送する。
ブレ補正部205は、A/D変換部204からの撮像画像(画像信号)に対してブレ補正処理を行う。具体的には、ブレ補正部205はフレーム間のブレを補正する電子ブレ補正処理を行う。即ち、一連の動画像の中の第1フレームの撮像画像と、次の第2フレームの撮像画像の間の被写体の動きを画像処理によりキャンセルする。
画像処理部207は、制御部210による制御に基づいて、ブレ補正部205からの画像に対して画像処理(例えば公知の画像処理)を行う。例えば、画像処理部207は、ホワイトバランス処理や、カラーマネージメント処理、階調変換処理等を行う。画像処理部207は、処理後のRGB画像を表示部208へ転送する。表示部208は、そのRGB画像を表示する。
制御部210は内視鏡装置の各部の制御を行う。外部I/F部211には、医師からの操作情報が入力され、その操作情報は制御部210に対して出力される。
レンズ制御部216は、レンズ系201の焦点距離を変更する制御を行う。例えば、拡大観察では、通常観察の場合よりも撮像部102を被写体101に近づける。この場合、通常観察の場合よりも近い位置でフォーカスするように焦点距離を制御する。
撮像素子制御部217は、撮像素子203の制御を行う。例えば、撮像の露光時間やフレームレート、露光タイミング、読み出しタイミング等の制御を行う。
光源制御部215は、光源部104の制御を行う。例えば、撮像画像の露光が最適となるように照明光の明るさを制御する。
1.2.選定部
図2に、選定部の第1の詳細な構成例を示す。選定部212は、撮像部検出部401、記憶部402(記録部)を含む。撮像部検出部401は、記憶部402と双方向に接続している。撮像部検出部401は、ブレ補正部205へ接続している。制御部210は、撮像部検出部401、記憶部402と双方向に接続している。
撮像部検出部401は、撮像素子制御部217からの情報に基づいて、内視鏡装置に装着された撮像部102の撮像部IDを検出する。そして選定部212は、撮像部IDに対応するブレ補正IDを記憶部402から読み出し、読み出したブレ補正IDをブレ補正部205へ転送する。
ブレ補正部205は、制御部210による制御に基づいて、A/D変換部204からの撮像画像と選定部212からのブレ補正IDを用いて、ブレ補正を行う。具体的にはブレ補正部205は、A/D変換部204からの現在フレームの撮像画像及び画像記憶部214からの過去フレームの撮像画像を所定サイズのブロック領域に分割し、公知のテンプレートマッチング処理により動き量(例えば動きベクトル)を検出する。ブレ補正部205は、全ブロック領域の動き量を加算平均して現在フレームのグローバル動き量を算出する。そしてブレ補正部205は、算出したグローバル動き量に基づいて、A/D変換部204からの現在フレームの撮像画像に対してブレ補正を行う。
より具体的には、ブレ補正部205は、現在フレームの撮像画像に対してトリミング領域を設定する。このときブレ補正部205は、算出したグローバル動き量だけトリミング領域を移動させ、そのトリミング領域をトリミングして出力することで、電子ブレ補正を行う。
1.3.ブレ補正部
図3に、ブレ補正部の第1の詳細な構成例を示す。ブレ補正部205は、補間部301、輝度算出部302、分割部303、動き量検出部304、補正部305、ブロック領域設定部306(ブロック領域特定部)、検出領域設定部307(検出領域特定部)を含む。
選定部212は、輝度算出部302及び検出領域設定部307に接続している。A/D変換部204は、補間部301、輝度算出部302、分割部303、動き量検出部304、補正部305を介して、画像処理部207へ接続している。ROM209は、輝度算出部302、分割部303、ブロック領域設定部306及び検出領域設定部307へ接続している。ブロック領域設定部306は、分割部303へ接続している。検出領域設定部307は、ブロック領域設定部306及び動き量検出部304へ接続している。輝度算出部302は、画像記憶部214へ接続している。補間部301は、輝度算出部302及び補正部305へ接続している。画像記憶部214は、動き量検出部304へ接続している。制御部210は、補間部301、輝度算出部302、分割部303、動き量検出部304、補正部305、ブロック領域設定部306、検出領域設定部307と双方向に接続している。
例えば、撮像素子203は原色単板のセンサーであり、原色単板の画像を取得する。この場合、補間部301は、制御部210による制御に基づいて、A/D変換部204からの原色単板の現フレームの撮像画像に対して公知のベイヤ補間処理(ベイヤ画像からRGB3板画像への変換処理)を行う。補間部301は、補間後のRGB3板画像を輝度算出部302へ転送する。
輝度算出部302は、制御部210による制御に基づいて、RGB3板の撮像画像を用いて輝度値Y(x,y)を算出する(下式(1))。輝度算出部302は、算出後の輝度値Y(x,y)を分割部303と画像記憶部214へ転送する。この画像記憶部214に保存されている輝度画像(輝度値による画像)は、過去フレームの輝度画像として時系列的に次のフレームの輝度画像のブレ補正に用いられる。具体的には、時系列的に輝度画像を取り込むたびに、画像記憶部214にある時間的に一番古い輝度画像を更新し、現在フレームの輝度画像を保存する。
Y(x,y)=a1*R(x,y)+b1*G(x,y)+c1*B(x,y)
(1)
ここで、上式(1)においてx,yは画像中の画素に対応する横軸、縦軸の座標である。例えば横軸は水平走査線に平行な軸であり、縦軸は横軸に直交する軸である。Y(x,y)は輝度値であり、R(x,y),G(x,y),B(x,y)はRGB3板の画素値である。a1,b1,c1は輝度値を算出するための所定係数である。
なお、上記では上式(1)により輝度値を求める場合について説明したが、本実施形態ではこれに限定されず、G板により撮像されたG画像を輝度画像とする構成にしてもよい。
検出領域設定部307は、動き量検出用の検出領域のサイズを設定する。具体的には、検出領域設定部307は、選定部212からのブレ補正IDに対応する検出領域サイズをROM209から読み出し(抽出し)、読み出したサイズを動き量検出部304へ転送する。また検出領域設定部307は、制御部210による制御に基づいて、選定部212からのブレ補正IDをブロック領域設定部306へ転送する。
ブロック領域設定部306は、ブロック領域分割用のブロック領域のサイズを設定する。具体的には、ブロック領域設定部306は、検出領域設定部307からのブレ補正IDに対応するブロック領域サイズをROM209から読み出して分割部303へ転送する。
分割部303は、ブロック領域設定部306からのブロック領域サイズの情報に基づいて、輝度算出部302からの現在フレームの輝度画像を複数のブロック領域に分割する。分割部303は、分割処理後の輝度画像を動き量検出部304へ転送する。
動き量検出部304は、検出領域設定部307からの検出領域サイズの情報に基づいて、分割部303からの分割処理後の現在フレームの輝度画像を用い、画像記憶部214からの過去フレームの輝度画像に対して公知のテンプレートマッチング処理(SSD或はSAD)を行う。
補正部305は、動き量検出部304からのマッチングの情報に基づいて、現在フレームの撮像画像に対して公知のブレ補正処理を行い、処理後の画像を画像処理部207へ転送する。
図4に、テンプレートマッチングの例を示す。図4では、画像サイズを縦幅HEIGHTと横幅WIDTHにより表す。分割部303は、ブロック領域のサイズ情報に基づいて、輝度算出部302からの現在フレームの輝度画像を複数のブロックに分割する。ブロック領域のサイズ情報は、ブロック領域の縦幅B_heightと横幅B_widthである。
動き量検出部304は、制御部210による制御に基づいて、ブロック中心点SB(x,y)をブロック代表点としてブロック領域の動き量を検出する。このとき、動き量検出部304は、注目ブロック領域と検出領域のテンプレートマッチング処理を行う。注目ブロック領域とは、順次テンプレートマッチング処理される複数のブロック領域の中の、現在処理対象となっているブロック領域である。検出領域は、検出領域設定部307からのサイズ情報により設定される。サイズ情報は、検出領域の開始座標SA(x,y)と終了座標EA(x,y)であり、検出領域の縦幅と横幅は、それぞれブロック領域の縦幅と横幅より大きい。動き量検出部304は、全ブロック領域のテンプレートマッチングが終了後、全ブロック領域の動き量を加算平均して現在フレームのグローバル動き量を算出し、そのグローバル動き量を補正部305へ転送する。
ここで、動き量とは、撮像画像における被写体の動きを表す量であり、例えば被写体の動きの撮像画像上での方向や距離である。動き量は、2フレーム間における被写体の動きを表す量であってもよく、複数フレームに渡る被写体の動きを表す量であってもよい。例えば動き量は撮像画像における被写体の動きベクトルである。
補正部305は、動き量検出部304からのグローバル動き量に基づいて、補間部301からの現在フレームの撮像画像に対して公知のブレ補正処理を行う。例えば、補正部305は、現在フレームのグローバル動き量(方向、距離)に基づいて、現在フレームの撮像画像のRGB3板全画素(R(I,J)、G(I,J)、B(I,J)、Iは画素の横軸座標、Jは画素の縦軸座標)に対してブレ補正処理を行う(下式(2))。
I’=I+moveX,
J’=J+moveY (2)
ここで、I’はブレ補正後の横軸座標であり、J’はブレ補正後の縦軸座標である。moveXは現在フレームの撮像画像の横軸に対応するグローバル動き量である。moveXは、水平方向において被写体が移動した画素数であり、座標Iの正方向(例えば右方向)へ動く場合、正の画素数で表され、座標Iの負方向(例えば左方向)へ動く場合、負の画素数で表される。moveYは、垂直方向において被写体が移動した画素数であり、座標Jの正方向(例えば下方向)へ動く場合、正の画素数で表され、座標Jの負方向(例えば上方向)へ動く場合、負の画素数で表される。
本実施形態では、撮像素子203による撮像画像の画像サイズが異なる場合に対応して、異なるブレ補正処理を行うことが特徴となっている。例えば、異なる画像サイズに対応する撮像素子により同じ画角で撮像された画像は、画像サイズに応じて解像力が異なるため、画像の見え方が異なる。画像サイズの大きい撮像画像は、画像サイズの小さい撮像画像に比べて解像力が高い。そのため、異なる画像サイズと同じ画角において同一動き量を検出する場合に、同じ検出領域サイズとブロック領域サイズにより動き量を検出すると、解像力の違いが原因で動き量の検出精度に差が出る可能性が高い。
この課題を解決するため、本実施形態では、撮像素子203から出力された撮像画像の画像サイズに対応して、動き量を検出するための検出領域サイズとブロックサイズを設定する。具体的には、画像サイズに比例して、検出領域サイズとブロックサイズを設定する。例えば、同じ画角で撮像する場合、1024x1024画素の画像サイズに対応してブロックサイズを32x32画素に設定し、検出領域サイズを64x64画素に設定する。また、256x256の画像サイズに対応して、ブロックサイズを8x8画素に設定し、検出領域サイズを16x16画素に設定する。このようにすれば、相対的にほぼ同じ画角で動き量を検出することができるため、動き量の検出精度を同等にできる。
より具体的には、図5に示すように、上述の撮像部IDと画像サイズの対応関係、及び撮像部IDとブレ補正IDの対応関係をテーブル化し、そのテーブルを図2の記憶部402に保存する。また、ブレ補正IDとブロック領域サイズの対応関係、及びブレ補正IDと検出領域サイズの対応関係をテーブル化し、そのテーブルを図1のROM209に保存する。
以上のように、画像サイズに応じて検出領域サイズやブロックサイズを適応的に設定することで、撮像画像における動き量の検出精度を向上できる。これにより、ブレ補正の精度を高めることができ、医師の診断能力を向上することができる。
1.4.第1の変形例
上記のように、同じ画角の場合、撮像画像の画像サイズが小さければ小さいほど解像力が劣る。これが原因で検出領域サイズ、ブロックサイズを適応的に変更して対応しても動き量を正しく検出できない場合がある。そこで本実施形態では、動き量を検出する前に、画像からエッジ情報を検出し、検出したエッジ情報を用いて強調処理を行う構成にしてもよい。以下では、このような本実施形態の第1の変形例について説明する。
図6に、ブレ補正部の第2の詳細な構成例を示す。ブレ補正部205は、補間部301、輝度算出部302、エッジ強調処理部311、分割部303、動き量検出部304、補正部305、ブロック領域設定部306、検出領域設定部307を含む。
選定部212は、輝度算出部302、エッジ強調処理部311及び検出領域設定部307に接続している。A/D変換部204は、補間部301、輝度算出部302、エッジ強調処理部311、分割部303、動き量検出部304、補正部305を介して、画像処理部207へ接続している。ROM209は、輝度算出部302、エッジ強調処理部311、分割部303、ブロック領域設定部306及び検出領域設定部307へ接続している。補間部301は、輝度算出部302及び補正部305へ接続している。検出領域設定部307は、ブロック領域設定部306を介して分割部303へ接続している。検出領域設定部307は、動き量検出部304へ接続している。輝度算出部302は、画像記憶部214へ接続している。画像記憶部214は、動き量検出部304へ接続している。制御部210は、補間部301、輝度算出部302、エッジ強調処理部311、分割部303、動き量検出部304、補正部305、ブロック領域設定部306、検出領域設定部307と双方向に接続している。
以下では、図3で上述の構成要素と同一の構成要素については同一の符号を付して適宜説明を省略し、上述の構成要素と異なる部分のみを説明する。
図7に、エッジ強調処理部の詳細な構成例を示す。エッジ強調処理部311は、エッジ検出部501、強度制御部502、強調処理部503、加算部504を含む。
輝度算出部302は、エッジ検出部501、強調処理部503、加算部504を介して分割部303へ接続している。選定部212は、強度制御部502へ接続している。ROM209は、強度制御部502を介して強調処理部503へ接続している。輝度算出部302は加算部504へ接続している。制御部210は、エッジ検出部501、強度制御部502、強調処理部503及び加算部504と双方向に接続している。
エッジ検出部501は、制御部210による制御に基づいて、輝度算出部302からの現在フレーム及び過去フレームの輝度画像に対して公知のラプラシアンフィルタを適用してエッジデータを検出し、そのエッジデータを強調処理部503へ転送する。
強度制御部502は、選定部212からのブレ補正IDに対応する強度ウェート係数をROM209から読み出し、その強度ウェート係数をエッジ強調処理部311へ転送する。ROM209には、エッジ強調用の強度ウェート係数があらかじめ保存されている。本実施形態では、異なるブレ補正IDに対応して、異なる強度ウェート係数が設定される。
より具体的には、上述のように同じ画角の場合、撮像画像の画像サイズが小さければ小さいほど解像力が劣る。これに対応するために、強度制御部502は、画像サイズに応じた強度ウェート係数を設定する。例えば、画像サイズが小さいほど強度ウェート係数を大きく設定するように制御する。
強調処理部503は、エッジデータに対して強度ウェート係数を用いて強調処理を行い、強調後のエッジデータを加算部504へ転送する。加算部504は、強調後のエッジデータを、輝度算出部302からの輝度画像に加算し、加算後の輝度画像を分割部303へ転送する。
なお、本実施形態ではレンズ系201のMTFに応じて強度ウェート係数を設定してもよい。具体的には、同じ画像サイズをもつ撮像素子により同じ画角で撮像された画像では、レンズ系201のMTFの特性が異なることによって、解像力が異なる。この場合、レンズ系201のMTFの特性に合わせて適応的にエッジ強調の強度を調整することで、テンプレートマッチング処理の精度を向上できる。例えば、レンズ系201のMTFの特性が悪い場合、撮像画像の解像力が劣るため、強度ウェート係数を大きく設定する。一方、レンズ系201のMTFの特性が良い場合、撮像画像の解像力が高いため、強度ウェート係数を小さく設定する。
以上のように、画像サイズやMTFに応じて適応的にエッジ強調の強度を調整することで、撮像画像のコントラストを向上できる。これにより、動き量の検出精度を高めることが可能となる。
1.5.第2の変形例
次に、本実施形態の第2の変形例について説明する。第2の変形例では、撮像素子203のセンサー配列構成が異なる場合、動き量を検出する手法を適応的に変更する。例えば図5に示すように、プログレッシブ方式とインターレース方式に対応して、ブレ補正手法を手法1と手法2に切り替える。
まず、撮像素子203がインターレース補色単板である場合について説明する。図8に、インターレース補色単板(Mg,G,Cy,Ye)の画像信号の構成例を示す。撮像素子203により撮像された画像は、奇数ラインから構成される奇数フィールドの画像信号と、偶数ラインから構成される偶数フィールドの画像信号と、により構成される。そして、A/D変換部204には、奇数フィールドの画像信号と偶数フィールドの画像信号が時系列に交互に入力される。補間部301は、制御部210による制御に基づいて、奇数フィールドの画像信号と偶数フィールドの画像信号のそれぞれに対して、公知の補間処理を行う。輝度算出部302は、奇数フィールドの画像信号と偶数フィールドの画像信号のそれぞれを、輝度信号と色差信号に変換する。
図9に示すように、奇数フィールドの画像信号と偶数フィールドの画像信号は、周期Tの間隔で時系列的に交互に撮像されている。動き量検出部304は、奇数フィールドにおける被写体の動き量と、偶数フィールドにおける被写体の動き量を、時系列的に交互に検出する。即ち、動き量検出部304は、現在の奇数フィールドの輝度信号と、過去の奇数フィールドの輝度信号から、奇数フィールドの動き量を検出する。また、現在の偶数フィールドの輝度信号と、過去の偶数フィールドの輝度信号から、偶数フィールドの動き量を検出する。ブレ補正部205は、奇数フィールドの動き量を用いて、現在の奇数フィールドの画像信号に対してブレ補正処理を行う。また、偶数フィールドの動き量を用いて、現在の偶数フィールドの画像信号に対してブレ補正処理を行う。
次に、撮像素子203がRGB3板である場合について説明する。この場合、各画素にR,G,B3つの画素値が撮像される。輝度算出部302は、その画素値を用いて上式(1)により各画素の輝度値Y(x,y)を算出する。動き量検出部304は、算出された輝度値を用いて動き量を算出し、ブレ補正部205は、その動き量によりブレ補正処理を行う。なお、各画素のG画素値を輝度値として動き量を算出してブレ補正処理を行う構成にしてもよい。
次に、撮像素子203が2板である場合について説明する。図10に、2板撮像素子により撮像される画像信号の例を示す。図10に示すように、第1撮像素子により撮像された画像には、R、Bの画素値(R画像信号、B画像信号)が配列される。R画素とB画素は、列ごとに交差する構成となっている。第2撮像素子により撮像された画像は、全画素にG画素値(G画像信号)が配列されたG画像である。この場合、補間部301は、制御部210による制御に基づいて、下式(3)に示す補間処理により、全画素にR画素値が配列されたR画像と、全画素にB画素値が配列されたB画像を生成する。
R(x,y) =(R(x−1,y)+R(x+1,y))/2,
B(x+1,y)=(B(x,y)+B(x+2,y))/2 (3)
ここで、x,yは撮像画像の画素に対応する横軸、縦軸の座標である。R(x,y)、B(x+1,y)は、補間後の画素値である。R(x−1,y)、R(x+1,y)、B(x,y)、B(x+2,y)は、補間前の画素値である。
さて、内視鏡装置においてブレ補正を行う場合、例えば撮像部の特性や観察モード、観察者の熟練度等の観察状態に応じて、ブレ発生の頻度やブレの強度が異なるという課題がある。
この点、本実施形態によれば、図1に示すように内視鏡装置は撮像部102と選定部212とブレ補正部205を含む。撮像部102は撮像光学系(レンズ系201)と撮像素子203を有し、撮像画像の撮像を行う。選定部212は、複数のブレ補正用パラメータ情報の中から、使用するブレ補正用パラメータ情報を、撮像部102の観察状態に基づいて選定する。ブレ補正部205は、選定されたブレ補正用パラメータ情報に基づいて、撮像画像のブレを補正する。
例えば本実施形態では、複数のブレ補正用パラメータ情報として複数のブレ補正IDが記憶されている。そして、観察状態に対応するブレ補正IDが選定され、そのブレ補正IDにより指定されるパラメータを用いて電子ブレ補正が行われる。
このようにすれば、観察状態に応じて最適なブレ補正用のパラメータを設定できる。これにより、種々のブレ発生の頻度やブレの強度に適応したブレ補正が可能となり、被写体の視認性を向上できるため、病変の見落としや診察負担を軽減できる。
ここで、ブレ補正用パラメータ情報とは、ブレ補正に用いられるパラメータを指定する情報である。また、フレーム内のブレを抑制するブレ抑制制御や、照明光の光量を調整する光量制御等の、ブレ補正に関連するパラメータ情報も、適宜ブレ補正用パラメータ情報と呼ぶ。ブレ補正用パラメータ情報は、パラメータに対応するID等の情報であってもよいし、パラメータそのものであってもよい。
また、観察状態とは、内視鏡装置により撮像を行う状態や状況である。例えば、上述のような撮像画像の画像サイズ(画素数)や、撮像光学系のMTF等により表される撮像画像の状態である。あるいは、インターレース方式等の撮像方式である。あるいは、後述するように、通常観察や拡大観察等の観察モード、スクリーニングモードや精査モード等の観察モード、医師の熟練度に対応する観察者モードである。
また、本実施形態では、内視鏡装置は複数種類の撮像部102を着脱可能である。図2に示すように、選定部212は、内視鏡装置に装着された撮像部102の種類を検出する撮像部検出部401と、複数種類の撮像部102に対応する複数のブレ補正用パラメータ情報(複数のブレ補正ID)を記憶する記憶部402と、を有する。選定部212は、記憶された複数のパラメータ情報の中から、装着された撮像部102の種類に応じたブレ補正用パラメータ情報(ブレ補正ID)を選定する。
具体的には、図3に示すように内視鏡装置はブロック領域設定部306と分割部303と検出領域設定部307とを含む。ブロック領域設定部306は、撮像画像に対して複数のブロック領域を設定する。分割部303は、撮像画像を、設定された複数のブロック領域に分割する。検出領域設定部307は、撮像画像において動き量を検出する対象となる領域を設定する。図5に示すように、選定部212は、ブロック領域のサイズ及び検出対象領域のサイズに対応するブレ補正用パラメータ情報を、装着された撮像部102の撮像素子203のサイズ(画素数)に応じて選定する。図4に示すように、動き量検出部304は、選定されたブレ補正用パラメータ情報に対応するサイズ(B_width、B_height、SA(x,y)、EA(x,y))のブロック領域及び検出対象領域を用いて、動き量を検出する。
このようにすれば、種々の撮像部が付け替えられた場合であっても、撮像部に応じて適切なブロック領域と検出対象領域を設定できる。即ち、撮像部の仕様によって画像の画素数は異なっており、同じ領域サイズを設定すると、画像サイズに対する相対的な領域サイズ(画角)が一定にならない。この点、本実施形態によれば、領域サイズを適応的に設定して領域の画角を一定にできる。
また本実施形態では、図3に示すように、ブレ補正部205は、撮像画像における被写体の動き量を検出する動き量検出部304を含む。選定部212は、装着された撮像部102の撮像方式に応じてブレ補正用パラメータ情報を選定する。動き量検出部304は、選定されたブレ補正用パラメータ情報に対応する検出手法により動き量を検出する。
具体的には、撮像方式は、単板インターレース方式、単板プログレッシブ方式、2板撮像素子方式、又は3板撮像素子方式である。
例えば図10に示すように、撮像部102は、G画像の撮像を行う第1の撮像素子と、R画像とB画像の撮像を行う第2の撮像素子と、を有する(2板撮像方式)。この場合、選定部212は、G画像から動き量を検出するブレ補正用パラメータ情報を選定する。
又は撮像部102は、G画像の撮像を行う第1の撮像素子と、R画像の撮像を行う第2の撮像素子と、B画像の撮像を行う第3の撮像素子と、を有してもよい(3板撮像方式)。この場合、選定部212は、G画像とR画像とB画像に基づく輝度画像から動き量を検出するブレ補正用パラメータ情報を選定する。
又は図8に示すように、撮像部102は、インターレース方式の撮像を行ってもよい。この場合、図9に示すように、選定部212は、奇数水平走査線の画像信号に基づいて第1の動き量を検出し、偶数水平走査線の画像信号に基づいて第2の動き量を検出するブレ補正用パラメータ情報を選定する。ブレ補正部205は、第1の動き量に基づいて奇数水平走査線の画像信号のブレ補正を行い、第2の動き量に基づいて偶数水平走査線の画像信号のブレ補正を行う。
又は撮像部102は、R画像とG画像とB画像を時系列に撮像する面順次方式の撮像を行ってもよい。この場合、選定部212は、R画像に基づいて第1の動き量を検出し、G画像に基づいて第2の動き量を検出し、B画像に基づいて第3の動き量を検出するブレ補正用パラメータ情報を選定する。ブレ補正部205は、第1の動き量に基づいてR画像のブレ補正を行い、第2の動き量に基づいてG画像のブレ補正を行い、第3の動き量に基づいてB画像のブレ補正を行う。
以上のようにすれば、撮像部102の撮像方式に応じた適切な検出手法によりブレ補正を行うことができる。即ち、内視鏡装置には診察部位等に応じて種々の撮像部102が着脱され、その撮像方式に依って撮像画像の形式や特性が異なっている。この点、本実施形態によれば、撮像部102に記憶された撮像部ID等の情報を読み出し、その情報に基づいて、種々の撮像画像の形式や特性に対応したブレ補正処理を設定できる。
また本実施形態では、図6に示すように、撮像画像に対してエッジ強調処理を行うエッジ強調処理部311を含む。選定部212は、装着された撮像部102の撮像素子203が第1のサイズである場合、エッジ強調処理の第1の強度に対応するブレ補正用パラメータ情報を選定する。撮像素子203が第1のサイズよりも小さい第2のサイズである場合に、第1の強度よりも強い第2の強度に対応するブレ補正用パラメータ情報を選定する。エッジ強調処理部311は、選定されたブレ補正用パラメータ情報に対応する強度でエッジ強調処理を行う。
このようにすれば、撮像素子203のサイズに応じた強度でエッジ強調処理を行い、処理後の画像によりブレ補正できる。これにより、撮像素子203の画素数が少なく、画像信号の解像度が低い場合であっても、エッジ強調処理によりマッチング精度を向上でき、ブレ補正の精度を向上できる。
ここで、エッジ強調処理の強度とは、元の画像のエッジ成分(例えば高周波成分)の強調度合いである。例えば、元の画像から抽出したエッジ成分を、係数倍して元の画像に加算する場合、強度が大きいほど係数を大きくする。
2.第2の実施形態
2.1.構成例
次に、第2の実施形態について説明する。第2の実施形態では、観察者モードに応じて適応的にブレ補正を行う。
図11に、内視鏡装置の第2の構成例を示す。内視鏡装置は、制御装置300、撮像部102を含む。撮像部102は、ライトガイド103、レンズ系201、撮像素子203を含む。制御装置300は、光源部104、A/D変換部204、ブレ補正部205、画像処理部207、表示部208、ROM209、選定部212、画像記憶部214、光源制御部215、レンズ制御部216、撮像素子制御部217、制御部210、外部I/F部211を含む。
選定部212以外は、第1の実施形態と同一である。なお以下では、第1の実施形態と同一の構成要素については同一の符号を付して適宜説明を省略し、第1の実施形態の構成要素と異なる部分のみを説明する。
撮像部の先端部がランダムにブレている場合、ブレ補正により撮像画像のブレを抑制する効果があるが、撮像部の先端部が例えば医師の操作により一定方向に動いている場合、ブレ補正により表示画像の遅延が大きくなる可能性がある。
医療用内視鏡装置により体腔内の臓器を診察又は治療する場合、病変部を探すスクリーニング観察と、病変部や病変部と疑われる領域を精査する精査観察が行われる。経験が豊かな医師がスクリーニング診察を行う場合、内視鏡スコープの操作(挿入、抜去、回転等)によるブレが小さいため、病変部を見逃す確率が低い。また精査を行う場合、経験豊富な医師は注目診察領域に照準してブレを最小限に抑えることができるため、正確かつ素早く病変部を判定することが可能である。一方、経験が少ない医師がスクリーニング診察を行う場合、内視鏡スコープの操作によるブレが大きいため、病変部を見逃す確率が高い。また精査を行う場合、経験が少ない医師は注目診察領域に照準できずブレを有効に抑制できないため、診断に時間がかかる可能性が高い。
そこで本実施形態では、医師の経験に応じて異なるブレ補正処理を行う。即ち、内視鏡スコープの操作に熟練した医師の場合、操作によるブレが小さいため、後述するように動き量検出における検出期間を短く設定し、撮像画像の表示遅延が発生しないようにする。一方、内視鏡スコープの操作経験が少ない医師の場合、操作によるブレが大きいため、動き量検出における検出期間を長く設定し、表示遅延とトレードオフにする。
図12に、選定部の第2の詳細な構成例を示す。選定部212は、観察者モード検出部、記憶部402を含む。観察者モード検出部は、記憶部402を介してブレ補正部205へ接続している。制御部210は、観察者モード検出部、記憶部402と双方向に接続している。
記憶部402には、各医師に割り当てられた医師IDと、各医師の経験に対応するブレ補正IDが、事前に保存される。医師IDとブレ補正IDは1対1(又は複数対1)に対応している。医師の診察経験に応じて、適時に医師IDに対応するブレ補正IDを登録、修正できる。
医師は、診察開始時に、外部I/F部211を介して自分の医師IDを入力する。観察者モード検出部411は、医師IDに対応するブレ補正IDを記憶部402から読み出し、そのブレ補正IDをブレ補正部205へ転送する。このようにして、医師の熟練度に応じた観察者モードが設定され、設定された観察者モードに応じたブレ補正が行われる。
ブレ補正部205は、ブレ補正IDに基づいてブレ補正処理を行う。例えば、ブレ補正部205は、経験豊富な医師の場合にはブレ補正処理をバイパスして行わず、経験が少ない医師の場合にはブレ補正を行う。
なお、本実施形態はこれに限定されない。例えば、経験豊富な医師の場合、強いブレ補正を行ってもよい。即ち、ブレ補正部205は、現在フレームの撮像画像と過去1フレームの撮像画像を用いて動き量を検出し、ブレ補正処理を行ってもよい。一方、経験が少ない医師の場合、弱いブレ補正を行ってもよい。即ち、ブレ補正部205は、現在フレームの撮像画像と過去複数フレームでの撮像画像を用いて各フレーム間動き量を検出し、その複数のフレーム間動き量を積分加算した動き量に基づいてブレ補正用のブレ量を算出し(下式(4))、ブレ補正を行ってもよい。
BlurX=moveX−moveXav,
BlurY=moveY−moveYav,
moveXav’=(moveXav+moveX)/2,
moveYav’=(moveYav+moveY)/2 (4)
ここで、BlurXは、現在フレームの撮像画像の横軸に対応するブレ量であり、BlurYは現在フレームの撮像画像の縦軸に対応するブレ量である。moveXは現在フレームの撮像画像の横軸に対応するグローバル動き量であり、moveYは現在フレームの撮像画像の縦軸に対応するグローバル動き量である。moveXavは過去フレームの撮像画像の横軸に対応する積算平均グローバル動き量であり、moveYavは過去フレームの撮像画像の縦軸に対応する積算平均グローバル動き量である。moveXav’は現在フレームの撮像画像の横軸に対応する積算平均グローバル動き量であり、moveYav’は現在フレームの撮像画像の縦軸に対応する積算平均グローバル動き量である。
このように、時間方向においてランダムな動き量を平均化して算出することで、所定期間内(所定フレーム数)における平均動き量を算出し、その平均動き量を用いてブレ量を算出してブレ補正処理を行う。これにより、スクリーニング観察において急激に一定方向にスコープが移動された場合、積算平均する期間が長いほど表示画像の遅延が大きくなるが、精査観察におけるランダムブレを補正する精度を高めることが可能となる。なお、この手法を精査観察時のみに適用してもよい。
以上によれば、医師の診察経験に応じて適応的にブレ補正処理を行うことができる。これにより、各医師にとって最適な診察環境を提供することが可能になる。
2.2.変形例
上記実施形態では、医師の診察経験に合わせてブレ補正手法を選定する構成となっているが、本実施形態はこれに限定されず、例えば観察モードに応じてブレ補正手法を選定する構成にしてもよい。以下では、このような本実施形態の変形例について説明する。
図13に、選定部の第3の詳細な構成例を示す。選定部212は、観察モード検出部421、記憶部402を含む。観察モード検出部421は、記憶部402を介してブレ補正部205へ接続している。制御部210は、観察モード検出部421、記憶部402と双方向に接続している。
この変形例では、精査観察やスクリーニング観察等の観察モードに応じてブレ補正を行う。具体的には、記憶部402には、観察モードIDに対応するブレ補正IDが事前に保存されている。観察モードIDは、各観察モードに対応する。例えば、観察モードIDは、医師が診察時に外部I/F部211を介して設定する。観察モード検出部421は、制御部210による制御に基づいて、観察モードIDに対応するブレ補正IDを記憶部402から読み出し、そのブレ補正IDをブレ補正部205へ転送する。
ブレ補正部205は、選定部212により選定されたブレ補正IDに基づいてブレ補正処理を行う。具体的には、ブレ補正部205は、ブレ補正の強弱レベルをブレ補正IDに応じて複数段階に変更する。観察モードが精査モードの場合、病変部に対して生検する必要があるか否かを判定する必要があるため、強いブレ補正レベルを設定することでブレを抑制し、正確かつ素早く診断できるように制御する。一方、観察モードがスクリーニングモードの場合、操作の動きが速いため、動き量の検出精度が低くなる可能性がある。この場合、正しくブレ補正ができないことが原因で診断の支障になることも否めないため、弱いブレ補正レベルを設定してブレ補正処理を行うように制御する。
例えば、ブレ補正レベルが強いほど、動き量検出に用いるフレーム数を多くする。例えば、スクリーニングモードでは、動き量を検出せずブレ補正を行わない。精査モードでは、上式(4)に示す積算平均グローバル動き量を求めるフレーム数をブレ補正レベルの段階に応じて設定する。
以上のように、観察モードに応じて適応的にブレ補正処理を行うことで、観察状態に応じて適切なブレ補正処理を行うことができ、高精度に診断することが可能となる。
なお、上記実施形態では、観察者モードや観察モードに応じてブレ補正IDが設定される場合を説明したが、本実施形態はこれに限定されない。例えば、医師が診察時に外部I/F部211を介して、自分の好みに合わせて手動でブレ補正IDを選定する構成にしてもよい。例えば、ブレ補正の強弱レベルを複数段階に変更できる構成にして、医師がなるべく動きを抑制して診察を行う必要があると判断した場合、外部I/F部211を介して強いブレ補正レベルに対応するブレ補正IDを選択して診察することが可能である。一方、操作の動きが速い場合、動き量の検出精度が低くなるリスクを抑制するため、外部I/F部211を介して弱いブレ補正レベルに対応するブレ補正IDを選択して診察してもよい。
以上によれば、内視鏡装置は、被写体を観察する観察モード(観察モードID)を設定する観察モード設定部(例えば、図11の制御部210が含む図示しない観察モード設定部)を含む。図13に示すように、選定部212は、設定された観察モードを検出する観察モード検出部421と、複数の観察モードに対応する複数のブレ補正用パラメータ情報(複数のブレ補正ID)を記憶する記憶部402と、を有する。選定部212は、記憶された複数のブレ補正用パラメータ情報の中から、検出された観察モードに対応するブレ補正用パラメータ情報(ブレ補正ID)を選定する。
具体的には、記憶部402は、ブレ補正の強弱レベル(上述のように、例えば動き量を積算平均するフレーム数)についてのブレ補正用パラメータ情報を記憶する。選定部212は、スクリーニングモードが検出された場合、第1のレベル(第1のフレーム数)に対応するブレ補正用パラメータ情報を選定する。精査モードが検出された場合、第1のレベルよりも強い第2のレベル(第2のフレーム数)に対応するブレ補正用パラメータ情報を選定する。
又は記憶部402は、ブレ補正を行うか否かについてのブレ補正用パラメータ情報を記憶してもよい。この場合、選定部212は、スクリーニングモードが検出された場合、ブレ補正を行わないブレ補正用パラメータ情報を選定する。精査モードが検出された場合、ブレ補正を行うブレ補正用パラメータ情報を選定する。
このようにすれば、観察モードに応じて適切なブレ補正を行うことができる。即ち、スクリーニングモードではブレ補正レベルを弱くすることで、上述のように表示遅延等の影響を最小限にして病変部の探索を行うことができる。精査モードではブレ補正レベルを強くすることで、ランダムなスコープの動きによるブレを抑制して、詳細に病変部を観察できる。
なお観察モードは、上述のようにユーザにより外部I/F部211を介して設定されてもよいし、レンズ系201の拡大率に応じて設定されてもよい。例えば、拡大率が閾値よりも大きい拡大観察では精査モードに設定し、拡大率が閾値より低い通常観察ではスクリーニングモードに設定してもよい。
また本実施形態では、内視鏡装置は、内視鏡装置を操作する観察者に応じた観察者モード(医師ID)を設定する観察者モード設定部を含む(例えば、図11の制御部210が含む図示しない観察者モード設定部)。図12に示すように、選定部212は、設定された観察者モードを検出する観察者モード検出部411と、複数の観察者モードに対応する複数のブレ補正用パラメータ情報を記憶する記憶部402と、を有する。選定部212は、記憶された複数のブレ補正用パラメータ情報の中から、検出された観察者モードに対応するブレ補正用パラメータ情報を選定する。
具体的には、記憶部402は、動き量の検出に用いられる撮像画像のフレーム数(上式(4)の積算平均グローバル動き量の積算平均フレーム数)に対応するパラメータ情報を記憶する。選定部212は、第1の観察者モードが検出された場合に、第1のフレーム数に対応するブレ補正用パラメータ情報を選定する。第2の観察者モードが検出された場合に、第1のフレーム数よりも多い第2のフレーム数に対応するブレ補正用パラメータ情報を選定する。
より具体的には、第2の観察者モードは、第1の観察者モードに対応する観察者よりも熟練度の高い観察者に対応する。
内視鏡装置は、観察者により観察者モードが入力される入力部(図11の外部I/F部211)を含む。選定部212は、入力された観察者モードに応じてパラメータ情報を選定する。
このようにすれば、内視鏡装置を操作するユーザに応じて適切なブレ補正を行うことができる。即ち上述したように、熟練度の高いユーザが操作する場合、動き量の算出に用いるフレーム数を少なくすることで表示遅延等の弊害を抑制できる。また熟練度の低いユーザが操作する場合、動き量の算出に用いるフレーム数を多くすることでランダムなスコープの動きによるブレを抑制でき、熟練度の低いユーザでも病変部の見落としを防止できる。
3.第3の実施形態
3.1.構成例
次に、第3の実施形態について説明する。第3の実施形態では、通常観察と拡大観察に応じたブレ補正処理を行う。
図14に、内視鏡装置の第3の構成例を示す。内視鏡装置は、制御装置300、撮像部102を含む。撮像部102は、ライトガイド103、レンズ系201、撮像素子203を含む。制御装置300は、光源部104、A/D変換部204、ブレ補正部205、画像処理部207、表示部208、ROM209、選定部212、画像記憶部214、光源制御部215、観察倍率制御部251(広義にはレンズ制御部)、露光時間制御部252(広義には撮像素子制御部)、制御部210、外部I/F部211を含む。
レンズ制御部216、撮像素子制御部217が、観察倍率制御部251、露光時間制御部252に置換されている点と、選定部212の動作が異なる点以外は、第1の実施形態と同一である。なお以下では、第1の実施形態と同一の構成要素については同一の符号を付して適宜説明を省略し、第1の実施形態の構成要素と異なる部分のみを説明する。
本実施形態では、観察光学系の観察倍率を変更し、通常観察と拡大観察を切り替えて被写体を観察することが特徴となっている。医師は、診察時に病変部を見つけた場合、撮像部の先端部を病変部に接近させ、観察倍率を大きく設定し、拡大観察に切り替えて拡大観察を行う。病変部を悪性と判断できた場合、その場で例えば、粘膜下層剥離術ESD等の手法により処置を行う。一方、病変部が悪性であるか否かについて分からない場合、その部位のサンプルを取得し、後で病理検査を行ってから対処方法を判断する。
本実施形態では、観察倍率制御部251がレンズ系201を制御して観察倍率を調整すし、通常観察と拡大観察を切り替える。観察倍率は、医師により外部I/F部211を介して設定される。設定された観察倍率が所定の観察倍率閾値より大きい場合には、拡大観察と判断し。設定された観察倍率が所定の観察倍率閾値より小さい場合には、通常観察と判断する。
拡大観察では、通常観察より精密に病変部を診断することが可能となるが、体腔内臓器の蠕動や医師操作による動き等の影響により、通常観察よりも表示画像がブレているように見える。拡大倍率が大きければ大きいほど撮像画像のブレも大きくなる。この場合、通常観察と拡大観察で同レベルのブレ補正を施しても、十分にブレ量が抑制されていない可能性が高い。また、ブレ補正のレベルを強く設定すると、撮像画像の表示遅延が発生してしまう可能性がある。
そこで本実施形態では、ブレ補正部205によりフレーム間のブレを補正するとともに、撮像のシャッタースピードを上げて各フレームにおけるブレ(例えば画像ボケ)を抑制する。また、調光処理(例えば公知の調光処理)を行って光源からの出射光量を増強し、撮像画像の明るさを維持する。
具体的には、拡大観察時に、医師は撮像部の先端部を病変部に接近させ、外部I/F部211を介して観察倍率を設定する。観察倍率制御部251による制御に基づいてレンズ系201が調整され、拡大観察に切り替えられる。
選定部212は、図13に示すように観察モード検出部421と記憶部402を含む。観察モード検出部421には、拡大観察と通常観察にそれぞれ対応する観察IDの情報が、制御部210から入力される。観察モード検出部421は、観察IDに対応する露光制御IDを記憶部402から読み出し、その露光制御IDを露光時間制御部252と光源制御部215に対して出力する。
露光時間制御部252は、選定部212からの露光制御IDに基づいて、撮像動作における露光時間の制御を行う。具体的には露光時間制御部252は、シャッター制御部253を含む。シャッター制御部253は、撮像素子203の電子シャッターを制御して露光時間を調整する。例えば図15に示すように、通常観察の場合には、時系列的に所定の期間T(時間間隔)を露光時間として被写体101を撮像する。図16に示すように、拡大観察の場合には、シャッター制御部253が撮像素子203の電子シャッターを制御し、期間Tのうちの所定の期間t1を露光時間として被写体101を撮像する。t1に続く所定の期間t2においては撮像されない。下式(5)に期間t1、t2、Tの関係を示す。この期間t1、t2、Tの情報は、事前にROM213に保存してもよいし、医師が外部I/F部211を経由して入力してもよい。拡大観察から通常観察に戻る場合には、撮像期間(露光時間)をTに戻せばよい。
T=t1+t2 (5)
なお、図17に示すように、通常観察から拡大観察に切り替える時に撮像期間をTからt1に瞬時に変更してもよいし、図18に示すように、Tからt1まで撮像期間を徐々に短縮してもよい。また、拡大観察から通常観察に切り替える時も同様に、撮像期間をTからt1に瞬時に変更してもよいし、t1からTなるまで撮像期間を徐々に拡大してもよい。
以上のように、拡大観察において、電子シャッターの制御により通常観察に比べて露光時間を短くするため、撮像画像のフレーム内でのブレを抑えることができる。このとき、露光時間が短くなるため、拡大観察における撮像画像は通常観察における撮像画像よりも暗くなる。そのため、露光制御IDに応じた調光処理により、光源の出射強度を制御する。
図19に、光源部の詳細な構成例を示す。光源部104は、光源151、光源絞り152、照明光学系153を含む。
光源151から出射された光は、光源絞り152と照明光学系153を介して、ライトガイド103へ入射する。本実施形態の調光処理では、通常観察から拡大観察に切り替えられた場合、光源制御部215による制御に基づいて、シャッタースピードに応じた開口面積に光源絞り152を調整する。このシャッタースピードに応じた光源絞り152の調整により、撮像画像の明るさを一定(ほぼ一定)に保つことができる。
以上のように、拡大観察において、画像処理によるブレ補正に加えて撮像のシャッタースピードを上げることで、露光時間を短くしてフレーム内でのブレを抑制できる。フレーム内でのブレによる画像ボケが抑制されるため、フレーム間のマッチング精度を向上でき、電子ブレ補正の精度を向上できる。
なお、本実施形態ではLED光源を用いてもよい。この場合、シャッタースピードを上げると同時に、光源にかける電圧を大きく設定して流す電流を増強することにより出射光量を強めることが可能となる。
ここで、上記の実施形態では、医師が外部I/F部211を介して通常観察又は拡大観察の観察モードIDを選択し、その情報を選定部212へ転送する構成となっているが、本実施形態はこれに限定されない。例えば、オートフォーカス機能付きの内視鏡装置では、撮像部の先端部を被写体に接近して観察する場合、観察倍率制御部251による制御に基づいて自動的にレンズ系201の位置を調整してフォーカスを合わせる。この場合、選定部212は、制御部210による制御に基づいて、合焦位置の情報を取得し、その合焦位置から観察状態を判断する。例えば、合焦位置を所定の閾値と比較し、閾値より小さい場合には、被写体に接近している状態と判断し拡大観察と判断する。一方、合焦位置が閾値より大きい場合には、被写体から離れている状態と判断し通常観察と判断する。また、オートフォーカスでは合焦位置の情報に基づいて撮像部の先端部と被写体の距離を求めることができる。そのため、被写体に近づいて距離が短くなるのに応じて撮像のシャッタースピードを徐々に上げるように制御し、照明光量を調光処理して撮像画像の明るさを一定に制御してもよい。
3.2.変形例
上記の実施形態では、シャッタースピードを調整することでブレを抑制しているが、本実施形態ではこれに限定されず、フレームレートを調整することでブレを抑制してもよい。以下では、このような本実施形態の変形例について説明する。
図20に、内視鏡装置の変形構成例を示す。内視鏡装置は、制御装置300、撮像部102を含む。撮像部102は、ライトガイド103、レンズ系201、撮像素子203を含む。制御装置300は、光源部104、A/D変換部204、ブレ補正部205、画像処理部207、表示部208、ROM209、選定部212、画像記憶部214、光源制御部215、観察倍率制御部251(広義にはレンズ制御部)、露光時間制御部252(広義には撮像素子制御部)、制御部210、外部I/F部211を含む。
露光時間制御部252のシャッター制御部253がフレームレート制御部254に置換されている以外は第3の実施形態と同一である。なお以下では、第3の実施形態と同一の構成要素については同一の符号を付して適宜説明を省略し、第3の実施形態の構成要素と異なる部分のみを説明する。
この変形例では、ブレ補正部205によりフレーム間におけるブレを補正するとともに、撮像動作におけるフレームレートを調整して各フレームにおけるブレ(画像ボケ)を抑制する。また、調光処理(例えば公知の調光処理)を行って光源からの出射光量を増強し、撮像画像の明るさを維持する。
具体的には、拡大観察時に、医師は撮像部の先端部を病変部に接近させ、外部I/F部211を介して観察倍率を設定する。観察倍率制御部251による制御に基づいてレンズ系201が調整され、拡大観察に切り替えられる。
選定部212は、図13に示すように観察モード検出部421と記憶部402を含む。観察モード検出部421には、拡大観察と通常観察にそれぞれ対応する観察IDの情報が、制御部210から入力される。観察モード検出部421は、観察IDに対応する露光制御IDを記憶部402から読み出し、その露光制御IDを露光時間制御部252と光源制御部215に対して出力する。
露光時間制御部252は、露光制御IDに基づいて撮像素子203のフレームレートを制御するフレームレート制御部254を含む。フレームレート制御部254は、通常観察におけるフレームレートよりも拡大観察におけるフレームレートを速くする。例えば、通常観察では30フレーム毎秒の画像を撮像し、拡大観察では60フレーム毎秒の画像を撮像するようにフレームレートを制御する。
以上により、拡大観察において1フレームを撮像する時間が短縮されるため、フレーム内のブレ量(画像ボケ)を抑制できる。また、フレーム間の間隔が短くなるため、フレーム間における被写体の動き量が小さくなり、電子ブレ補正の精度を向上できる。また、フレーム間の間隔が短くなるため、電子ブレ補正による表示遅延を抑制できる。
以上によれば、図14に示すように、内視鏡装置は、撮像の露光時間を制御する露光時間制御部252を含む。露光時間制御部252は、選定部212により選定されたブレ補正用パラメータ情報(露光制御ID)に基づいて、露光時間を調整する制御を行う。
具体的には、選定部212は、通常観察の場合、第1の露光時間(図15の期間T)に対応するブレ補正用パラメータ情報を選定する。拡大観察の場合、第1の露光時間よりも短い第2の露光時間(図16の期間t1。t1<T)に対応するブレ補正用パラメータ情報を選定する。
より具体的には、図14に示すように、露光時間制御部252は、撮像におけるシャッタースピード(撮像素子203の電子シャッターによる露光時間)を制御するシャッター制御部253を有する。露光時間制御部252は、そのシャッタースピードの制御により露光時間を調整する。
又は図20に示すように、露光時間制御部252は、撮像におけるフレームレートを制御するフレームレート制御部254を有してもよい。この場合、露光時間制御部252は、そのフレームレートの制御により露光時間を調整する。
このようにすれば、光学系の倍率によりブレが拡大される拡大観察において、露光時間を短く設定でき、フレーム内でのブレによる画像ボケを抑制できる。これにより、フレーム間のブレ補正におけるマッチング精度を向上できる。
なお本実施形態では、図14に示すように、内視鏡装置は、撮像部102の観察倍率を制御する観察倍率制御部251を含み、選定部212は、観察倍率に対応する複数のブレ補正用パラメータ情報(複数のブレ補正ID)を記憶する記憶部402を有してもよい。この場合、選定部212は、記憶された複数のブレ補正用パラメータ情報の中から、観察倍率に応じてブレ補正用パラメータ情報(ブレ補正ID)を選定する。
具体的には、記憶部402は、ブレ補正の強弱レベル(例えば動き量の算出に用いるフレーム数)についてのブレ補正用パラメータ情報を記憶する。観察倍率が閾値よりも低い通常観察の場合、選定部212は、第1のレベル(第1のフレーム数)に対応するブレ補正用パラメータ情報を選定する。観察倍率が閾値よりも高い拡大観察の場合、選定部212は、第1のレベルよりも強い第2のレベル(第1のフレーム数よりも多い第2のフレーム数)に対応するブレ補正用パラメータ情報を選定する。
このようにすれば、観察倍率に応じて適切なブレ補正を行うことができる。即ち、光学系の倍率によりブレが拡大される拡大観察において、ブレ補正レベルを強くすることでブレを抑制して被写体の視認性を向上できる。
4.第4の実施形態
次に、第4の実施形態について説明する。第4の実施形態では、白色光光源と特殊光光源を切り替え、光源に応じたブレ補正処理を行う。
図21に、内視鏡装置の第4の構成例を示す。内視鏡装置は、制御装置300、撮像部102を含む。撮像部102は、ライトガイド103、レンズ系201、撮像素子203を含む。制御装置300は、光源部104、A/D変換部204、ブレ補正部205、画像処理部207、表示部208、ROM209、選定部212、画像記憶部214、光源切替制御部255(広義には光源制御部)、レンズ制御部216、撮像素子制御部217、制御部210、外部I/F部211を含む。
光源制御部215が、光源切替制御部255に置換されている点と、選定部212の動作が異なる点以外は、第1の実施形態と同一である。なお以下では、第1の実施形態と同一の構成要素については同一の符号を付して適宜説明を省略し、第1の実施形態の構成要素と異なる部分のみを説明する。
上述の第1の実施形態〜第3の実施形態では、光源部104は白色光光源を使う構成となっている。図22に示すように、白色光光源が発生する白色光は、R(580nm〜700nm)、G(480nm〜600nm)、B(400nm〜500nm)の分光特性を有する。この白色光を被写体101に照射し、被写体101からの戻り光を撮像して得られた画像が通常光画像である。
第4の実施形態では、白色光光源と特殊光光源を切り替えることができる。以下では特殊光光源がNBI光源であり、特殊光が狭帯域光であり、特殊光画像がNBI画像である場合を例に説明するが、本実施形態はこれに限定されない。図23に示すように、NBI光源が発生する狭帯域光は、G2(530nm〜550nm)、B2(390nm〜445nm)の狭帯域の分光特性を有する。この狭帯域光は、血液中のヘモグロビンに吸収されやすい特性を有する。内視鏡診断の分野では、この狭帯域光を生体に照射することによりNBI画像を取得し、そのNBI画像により粘膜表層の毛細血管や粘膜微細模様の強調表示を実現する。NBI画像は、食道や大腸、胃等のがんの診断において効果が高い。
NBI光源は分光特性の帯域が狭いため、調光処理により撮像画像の明るさを制御したとしても、白色光光源を使って撮像した画像よりも暗くなる。この明るさの不足を補うために、調光処理において撮像画像に対してアナログゲインやデジタルゲインをかける場合がある。この場合、撮像画像のノイズ量が増幅されるという課題がある。
そこで本実施形態では、光源に応じてブレ補正レベルを調整する。具体的には、図24に選定部の第4の詳細な構成例を示す。選定部212は、光源モード検出部431、記憶部402を含む。
医師は、外部I/F部211を介して白色光光源又はNBI光源に対応する光源モード(広義には観察モード)を設定する。光源切替制御部255による制御に基づいて、光源部104の光源が、光源モードに対応する光源に切り替えられる。光源モード検出部431には、設定された光源モードに対応する光源モードID(広義には観察モードID)が制御部210から入力される。観察モード検出部421は、制御部210による制御に基づいて、光源モードIDに対応するブレ補正IDを記憶部402から読み出し、そのブレ補正IDをブレ補正部205へ転送する。
ブレ補正部205は、制御部210による制御に基づいて、選定部212からのブレ補正IDに対応するブレ補正処理を行う。上述のように、NBI光源で診察する場合には調光処理におけるアナログゲインやデジタルゲインの制御により、NBI光源で撮像した画像のノイズ量が増幅されるという課題がある。そのため、ノイズ量の影響により、白色光光源で撮像した画像に比べて動き量の検出精度が低くなる可能性がある。検出精度が低下すると、動き補正後の画像が化ける(破綻する)可能性がある。そこで本実施形態では、白色光光源で撮像する場合のブレ補正レベルよりも、NBI光源で撮像する場合のブレ補正レベルを弱く設定する。即ち、NBI光源に対応する光源モードIDが設定された場合、白色光光源に対応する光源モードIDが設定された場合よりも弱いブレ補正レベルのブレ補正IDを選定する。
例えば、ブレ補正レベルが弱いほど、動き量検出に用いるフレーム数を多くする。例えば、白色光光源が設定された場合、現在フレームと過去の1フレームから動き量を求め、その動き量を用いてブレ補正を行う。特殊光光源が設定された場合、現在フレームと過去の複数フレームから動き量を求め、その動き量を用いてブレ補正を行う。
なお、本実施形態では、ライトガイドの構成本数や太さ等に応じてブレ補正レベルを設定してもよい。即ち、白色光光源で観察する場合においても、ライトガイドの構成本数や太さ等に応じて、撮像画像の明るさが異なる。通常、ライトガイドの構成本数が多く太さが太い場合、撮像画像は相対的に明るい。一方、ライトガイドの構成本数が少なく太さが細い場合、撮像画像は相対的に暗い。上述のように、撮像画像が暗い場合、撮像画像のノイズ量が増幅されるという課題がある。そこで本実施形態では、これに対応して、ライトガイドの構成本数が多く太さが太い場合、強いブレ補正レベルに対応するブレ補正IDを設定し、ライトガイドの構成本数が少なく太さが細い場合、弱いブレ補正レベルに対応するブレ補正IDを設定するように制御する。
以上のように、特殊光光源と白色光光源を切り替えて診察する場合、各光源に対応するブレ補正レベルを制御することで、ブレ補正効果を確保できる。また、ノイズの増幅が原因で動き量を正確に検出できないことによる画像化けを、抑制する効果がある。
以上によれば、図21に示すように内視鏡装置は光源切替制御部255を含む。光源切替制御部255は、白色光を発生する白色光光源と、特定の波長帯域の光である特殊光を発生する特殊光光源を切り替える制御を行う。図24に示すように、選定部212は、被写体に照射されている光源を検出する光源モード検出部431と、光源に対応する複数のブレ補正用パラメータ情報(複数の光源モードID)を記憶する記憶部402を有する。選定部212は、記憶された複数のブレ補正用パラメータ情報の中から、検出された光源に応じてブレ補正用パラメータ情報(光源モードID)を選定する。
具体的には、記憶部402は、ブレ補正の強弱レベル(例えば動き量の算出に用いられるフレーム数)についてのブレ補正用パラメータ情報を記憶する。選定部212は、白色光の照射により取得された撮像画像の場合、第1のレベル(第1のフレーム数)に対応するブレ補正用パラメータ情報を選定する。特殊光の照射により取得された撮像画像の場合、第1のレベルよりも弱い第2のレベル(第1のフレーム数よりも多い第2のフレーム数)に対応するブレ補正用パラメータ情報を選定する。
このようにすれば、光源に応じて適切なブレ補正を行うことができる。即ち、特殊光による撮影時にブレ補正レベルを弱くすることで、上述したように、ノイズ増加によるマッチング精度低下の影響を軽減できる。
また、本実施形態では、特定の波長帯域は、白色光の波長帯域(例えば380nm〜650nm)よりも狭い帯域である(NBI:Narrow Band Imaging)。例えば、白色光画像(通常光画像)及び特殊光画像は、生体内を写した生体内画像であり、その生体内画像に含まれる特定の波長帯域は、血液中のヘモグロビンに吸収される波長の波長帯域である。例えば、このヘモグロビンに吸収される波長は、390nm〜445nm(第1の狭帯域光、狭帯域光のB2成分)、又は530nm〜550nm(第2の狭帯域光、狭帯域光のG2成分)である。
これにより、生体の表層部及び、深部に位置する血管の構造を観察することが可能になる。また得られた信号を特定のチャンネル(G2→R、B2→G,B)に入力することで、扁平上皮癌等の通常光では視認が難しい病変等を褐色等で表示することができ、病変部の見落としを抑止することができる。なお、390nm〜445nm又は530nm〜550nmとは、ヘモグロビンに吸収されるという特性及び、それぞれ生体の表層部又は深部まで到達するという特性から得られた数字である。ただし、この場合の波長帯域はこれに限定されず、例えばヘモグロビンによる吸収と生体の表層部又は深部への到達に関する実験結果等の変動要因により、波長帯域の下限値が0〜10%程度減少し、上限値が0〜10%程度上昇することも考えられる。
また、本実施形態では、白色光画像および特殊光画像は生体内を写した生体内画像であり、その生体内画像に含まれる特定の波長帯域は、蛍光物質が発する蛍光の波長帯域であってもよい。例えば、特定の波長帯域は、490nm〜625nmの波長帯域であってもよい。
これにより、AFI(Auto Fluorescence Imaging)と呼ばれる蛍光観察が可能となる。この蛍光観察では、励起光(390nm〜470nm)を照射することで、コラーゲン等の蛍光物質からの自家蛍光(intrinsic fluorescence。490nm〜625nm)を観察することができる。このような観察では病変を正常粘膜とは異なった色調で強調表示することができ、病変部の見落としを抑止すること等が可能になる。なお490nm〜625nmとは、上述の励起光を照射した際、コラーゲン等の蛍光物質が発する自家蛍光の波長帯域を示したものである。ただし、この場合の波長帯域はこれに限定されず、例えば蛍光物質が発する蛍光の波長帯域に関する実験結果等の変動要因により、波長帯域の下限値が0〜10%程度減少し、上限値が0〜10%程度上昇することも考えられる。また、ヘモグロビンに吸収される波長帯域(540nm〜560nm)を同時に照射し、擬似カラー画像を生成してもよい。
以上、本発明を適用した実施形態およびその変形例について説明したが、本発明は、各実施形態やその変形例そのままに限定されるものではなく、実施段階では、発明の要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上記した各実施形態や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、各実施形態や変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施の形態や変形例で説明した構成要素を適宜組み合わせてもよい。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能である。
また、明細書又は図面において、少なくとも一度、より広義又は同義な異なる用語と共に記載された用語は、明細書又は図面のいかなる箇所においても、その異なる用語に置き換えることができる。
101 被写体、102 撮像部、103 ライトガイド、104 光源部、
151 光源、153 照明光学系、201 レンズ系、203 撮像素子、
204 A/D変換部、205 ブレ補正部、207 画像処理部、
208 表示部、210 制御部、211 外部I/F部、212 選定部、
214 画像記憶部、215 光源制御部、216 レンズ制御部、
217 撮像素子制御部、251 観察倍率制御部、252 露光時間制御部、
253 シャッター制御部、254 フレームレート制御部、
255 光源切替制御部、300 制御装置、301 補間部、
302 輝度算出部、303 分割部、304 動き量検出部、
305 補正部、306 ブロック領域設定部、307 検出領域設定部、
311 エッジ強調処理部、401 撮像部検出部、402 記憶部、
411 観察者モード検出部、421 観察モード検出部、
431 光源モード検出部、501 エッジ検出部、502 強度制御部、
503 強調処理部、504 加算部、
B_height 縦幅、B_width 横幅、EA 終了座標、
HEIGHT 縦幅、I,J 座標、SA 開始座標、SB ブロック中心点、
T,t1,t2 期間、WIDTH 横幅

Claims (24)

  1. 撮像光学系と撮像素子を有し、撮像画像の撮像を行う撮像部と、
    複数のブレ補正用パラメータ情報の中から、使用するブレ補正用パラメータ情報を選定する選定部と、
    前記撮像画像における被写体の動き量を検出する動き量検出部と、
    検出された前記動き量に基づいて、前記撮像画像のブレを補正するブレ補正部と、
    観察モード、観察者モード、露光時間、観察倍率、光源の種類のうち少なくとも1つの情報である観察情報を設定する設定部と、
    を含み、
    前記選定部は、
    内視鏡装置に装着された前記撮像部の撮像方式及び前記観察情報に応じて前記ブレ補正用パラメータ情報を選定し、
    前記動き量検出部は、
    選定された前記ブレ補正用パラメータ情報に対応する検出手法により前記動き量を検出することを特徴とする内視鏡装置。
  2. 請求項1において、
    前記内視鏡装置は、複数種類の前記撮像部を着脱可能であり、
    前記選定部は、
    前記内視鏡装置に装着された前記撮像部の種類を検出する撮像部検出部と、
    前記複数種類の撮像部に対応する前記複数のブレ補正用パラメータ情報を記憶する記憶部と、
    を有し、
    前記選定部は、
    記憶された前記複数のブレ補正用パラメータ情報の中から、装着された前記撮像部の種類に応じた前記ブレ補正用パラメータ情報を選定することを特徴とする内視鏡装置。
  3. 請求項2において、
    前記撮像画像における被写体の動き量を検出する動き量検出部と、
    前記撮像画像に対して複数のブロック領域を設定するブロック領域設定部と、
    前記撮像画像を前記複数のブロック領域に分割する分割部と、
    前記撮像画像において前記動き量を検出する対象となる領域を設定する検出領域設定部と、
    を含み、
    前記選定部は、
    前記ブロック領域のサイズ及び前記検出対象領域のサイズについての前記ブレ補正用パラメータ情報を、装着された前記撮像部の撮像素子サイズに応じて選定し、
    前記動き量検出部は、
    選定された前記ブレ補正用パラメータ情報に対応するサイズの前記ブロック領域及び前記検出対象領域を用いて、前記動き量を検出することを特徴とする内視鏡装置。
  4. 請求項1において、
    前記撮像方式は、
    単板インターレース方式、単板プログレッシブ方式、2板撮像素子方式、又は3板撮像素子方式であることを特徴とする内視鏡装置。
  5. 請求項1において、
    前記撮像部が、G画像の撮像を行う第1の撮像素子と、R画像とB画像の撮像を行う第2の撮像素子と、を有する場合、
    前記選定部は、
    前記G画像から前記動き量を検出する前記ブレ補正用パラメータ情報を選定することを特徴とする内視鏡装置。
  6. 請求項1において、
    前記撮像部が、G画像の撮像を行う第1の撮像素子と、R画像の撮像を行う第2の撮像素子と、B画像の撮像を行う第3の撮像素子と、を有する場合、
    前記選定部は、
    前記G画像と前記R画像と前記B画像に基づく輝度画像信号から前記動き量を検出する前記ブレ補正用パラメータ情報を選定することを特徴とする内視鏡装置。
  7. 請求項1において、
    前記撮像部が、インターレース方式の撮像を行う場合、
    前記選定部は、
    奇数水平走査線の画像信号に基づいて第1の動き量を検出し、偶数水平走査線の画像信号に基づいて第2の動き量を検出する前記ブレ補正用パラメータ情報を選定し、
    前記ブレ補正部は、
    前記第1の動き量に基づいて前記奇数水平走査線の画像信号のブレ補正を行い、前記第2の動き量に基づいて前記偶数水平走査線の画像信号のブレ補正を行うことを特徴とする内視鏡装置。
  8. 請求項1において、
    前記撮像部が、R画像とG画像とB画像を時系列に撮像する面順次方式の撮像を行う場合、
    前記選定部は、
    R画像に基づいて第1の動き量を検出し、G画像に基づいて第2の動き量を検出し、B画像に基づいて第3の動き量を検出する前記ブレ補正用パラメータ情報を選定し、
    前記ブレ補正部は、
    前記第1の動き量に基づいて前記R画像のブレ補正を行い、前記第2の動き量に基づいて前記G画像のブレ補正を行い、前記第3の動き量に基づいて前記B画像のブレ補正を行うことを特徴とする内視鏡装置。
  9. 請求項2において、
    前記撮像画像に対してエッジ強調処理を行うエッジ強調処理部を含み、
    前記選定部は、
    装着された前記撮像部の前記撮像素子が第1のサイズである場合、前記エッジ強調処理の第1の強度に対応する前記ブレ補正用パラメータ情報を選定し、
    前記撮像素子が前記第1のサイズよりも小さい第2のサイズである場合に、前記第1の強度よりも強い第2の強度に対応する前記ブレ補正用パラメータ情報を選定し、
    前記エッジ強調処理部は、
    選定された前記ブレ補正用パラメータ情報に対応する強度で前記エッジ強調処理を行うことを特徴とする内視鏡装置。
  10. 請求項1において、
    被写体を観察する前記観察モードを設定する観察モード設定部を前記設定部として含み、
    前記選定部は、
    設定された前記観察モードを検出する観察モード検出部と、
    複数の観察モードに対応する前記複数のブレ補正用パラメータ情報を記憶する記憶部と、
    を有し、
    前記選定部は、
    記憶された前記複数のブレ補正用パラメータ情報の中から、検出された前記観察モードに対応する前記ブレ補正用パラメータ情報を選定することを特徴とする内視鏡装置。
  11. 請求項10において、
    前記記憶部は、
    前記ブレ補正の強弱レベルについてのブレ補正用パラメータ情報を記憶し、
    前記選定部は、
    スクリーニングモードが検出された場合、第1のレベルに対応するブレ補正用パラメータ情報を選定し、
    精査モードが検出された場合、前記第1のレベルよりも強い第2のレベルに対応するブレ補正用パラメータ情報を選定することを特徴とする内視鏡装置。
  12. 請求項1において、
    前記選定部は、
    前記ブレ補正を行うか否かについての前記ブレ補正用パラメータ情報を選定し、
    前記ブレ補正部は、
    選定された前記ブレ補正用パラメータ情報に基づいて、前記ブレ補正を行うか否かを決定することを特徴とする内視鏡装置。
  13. 請求項12において、
    被写体を観察する観察モードを設定する観察モード設定部を含み、
    前記選定部は、
    設定された前記観察モードを検出する観察モード検出部と、
    前記ブレ補正を行うか否かについての前記ブレ補正用パラメータ情報を記憶する記憶部と、
    を有し、
    前記選定部は、
    スクリーニングモードが検出された場合、前記ブレ補正を行わないブレ補正用パラメータ情報を選定し、
    精査モードが検出された場合、前記ブレ補正を行うブレ補正用パラメータ情報を選定することを特徴とする内視鏡装置。
  14. 請求項1において、
    前記内視鏡装置を操作する観察者に応じた前記観察者モードを設定する観察者モード設定部を前記設定部として含み、
    前記選定部は、
    設定された前記観察者モードを検出する観察者モード検出部と、
    複数の観察者モードに対応する前記複数のブレ補正用パラメータ情報を記憶する記憶部と、
    を有し、
    前記選定部は、
    記憶された前記複数のブレ補正用パラメータ情報の中から、検出された前記観察者モードに対応する前記ブレ補正用パラメータ情報を選定することを特徴とする内視鏡装置。
  15. 請求項14において、
    前記記憶部は、
    前記動き量の検出に用いられる前記撮像画像のフレーム数についてのブレ補正用パラメータ情報を記憶し、
    前記選定部は、
    第1の観察者モードが検出された場合に、第1のフレーム数に対応するブレ補正用パラメータ情報を選定し、
    第2の観察者モードが検出された場合に、前記第1のフレーム数よりも多い第2のフレーム数に対応するブレ補正用パラメータ情報を選定することを特徴とする内視鏡装置。
  16. 請求項15において、
    前記第2の観察者モードは、
    前記第1の観察者モードに対応する観察者よりも熟練度の高い観察者に対応することを特徴とする内視鏡装置。
  17. 請求項14において、
    前記観察者により前記観察者モードが入力される入力部を含み、
    前記選定部は、
    入力された前記観察者モードに応じて前記ブレ補正用パラメータ情報を選定することを特徴とする内視鏡装置。
  18. 請求項1において、
    前記撮像の前記露光時間を制御する露光時間制御部を前記設定部として含み、
    前記露光時間制御部は、
    前記選定部により選定された前記ブレ補正用パラメータ情報に基づいて、前記露光時間を調整する制御を行うことを特徴とする内視鏡装置。
  19. 請求項18において、
    前記選定部は、
    通常観察の場合、第1の露光時間に対応する前記ブレ補正用パラメータ情報を選定し、
    拡大観察の場合、前記第1の露光時間よりも短い第2の露光時間に対応する前記ブレ補正用パラメータ情報を選定することを特徴とする内視鏡装置。
  20. 請求項1において、
    前記撮像部の前記観察倍率を制御する観察倍率制御部を前記設定部として含み、
    前記選定部は、
    前記観察倍率に対応する前記複数のブレ補正用パラメータ情報を記憶する記憶部を有し、
    前記選定部は、
    記憶された前記複数のブレ補正用パラメータ情報の中から、前記観察倍率に応じて前記ブレ補正用パラメータ情報を選定することを特徴とする内視鏡装置。
  21. 請求項1において、
    白色光を発生する白色光光源と、特定の波長帯域の光である特殊光を発生する特殊光光源とを前記光源の種類として切り替える制御を行う光源切替制御部を前記設定部として含み、
    前記選定部は、
    被写体に照射されている前記光源の種類を検出する光源モード検出部と、
    光源に対応する前記複数のブレ補正用パラメータ情報を記憶する記憶部を有し、
    前記選定部は、
    記憶された前記複数のブレ補正用パラメータ情報の中から、検出された前記光源の種類に応じて前記ブレ補正用パラメータ情報を選定することを特徴とする内視鏡装置。
  22. 請求項21において、
    前記記憶部は、
    前記ブレ補正の強弱レベルについてのブレ補正用パラメータを記憶し、
    前記選定部は、
    前記白色光の照射により取得された前記撮像画像の場合、第1のレベルに対応するブレ補正用パラメータ情報を選定し、
    前記特殊光の照射により取得された前記撮像画像の場合、前記第1のレベルよりも弱い第2のレベルに対応するブレ補正用パラメータ情報を選定することを特徴とする内視鏡装置。
  23. 請求項21において、
    前記特定の波長帯域は、
    前記白色光の波長帯域よりも狭い帯域であることを特徴とする内視鏡装置。
  24. 内視鏡装置の作動方法であって
    内視鏡装置が、観察モード、観察者モード、露光時間、観察倍率、光源の種類のうち少なくとも1つの情報である観察情報を設定し、
    前記内視鏡装置が、複数のブレ補正用パラメータ情報の中から、使用するブレ補正用パラメータ情報を、撮像部の撮像方式及び前記観察情報に応じて選定し、
    前記内視鏡装置が、選定された前記ブレ補正用パラメータ情報に対応する検出手法により、前記撮像画像における被写体の動き量を検出し、
    前記内視鏡装置が、検出された前記動き量に基づいて、前記撮像画像のブレを補正することを特徴とする内視鏡装置の作動方法
JP2011085435A 2011-04-07 2011-04-07 内視鏡装置及び内視鏡装置の作動方法 Expired - Fee Related JP5864880B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2011085435A JP5864880B2 (ja) 2011-04-07 2011-04-07 内視鏡装置及び内視鏡装置の作動方法
US13/440,800 US9498153B2 (en) 2011-04-07 2012-04-05 Endoscope apparatus and shake correction processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011085435A JP5864880B2 (ja) 2011-04-07 2011-04-07 内視鏡装置及び内視鏡装置の作動方法

Publications (3)

Publication Number Publication Date
JP2012217579A JP2012217579A (ja) 2012-11-12
JP2012217579A5 JP2012217579A5 (ja) 2014-05-22
JP5864880B2 true JP5864880B2 (ja) 2016-02-17

Family

ID=47006128

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011085435A Expired - Fee Related JP5864880B2 (ja) 2011-04-07 2011-04-07 内視鏡装置及び内視鏡装置の作動方法

Country Status (2)

Country Link
US (1) US9498153B2 (ja)
JP (1) JP5864880B2 (ja)

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5657375B2 (ja) * 2010-12-24 2015-01-21 オリンパス株式会社 内視鏡装置及びプログラム
US9317916B1 (en) * 2013-04-12 2016-04-19 Aic Innovations Group, Inc. Apparatus and method for recognition of medication administration indicator
JP6230409B2 (ja) 2013-12-20 2017-11-15 オリンパス株式会社 内視鏡装置
JP6519144B2 (ja) 2014-11-06 2019-05-29 ソニー株式会社 内視鏡システム、画像処理装置、画像処理方法、およびプログラム
JP6062112B2 (ja) * 2015-01-05 2017-01-18 オリンパス株式会社 内視鏡システム
JP6758287B2 (ja) 2015-05-18 2020-09-23 ソニー株式会社 制御装置及び医療用撮像システム
JP2017109037A (ja) * 2015-12-18 2017-06-22 オリンパス株式会社 撮像システム
WO2017122287A1 (ja) * 2016-01-13 2017-07-20 オリンパス株式会社 内視鏡装置及び内視鏡装置の作動方法
JP2017158764A (ja) * 2016-03-09 2017-09-14 ソニー株式会社 画像処理装置、画像処理方法、及び記録媒体
JP6561000B2 (ja) 2016-03-09 2019-08-14 富士フイルム株式会社 内視鏡システム及びその作動方法
WO2017168528A1 (ja) 2016-03-28 2017-10-05 オリンパス株式会社 画像処理装置、画像処理方法および画像処理プログラム
JP7127538B2 (ja) * 2016-03-29 2022-08-30 ソニーグループ株式会社 画像処理装置、医療機器の作動方法及び医療システム
EP3437547A4 (en) * 2016-03-31 2019-04-03 Sony Olympus Medical Solutions Inc. MEDICAL OBSERVATION DEVICE, IMAGING CORRECTION SYSTEM AND MEDICAL OBSERVATION SYSTEM
JP6900953B2 (ja) * 2016-07-26 2021-07-14 ソニーグループ株式会社 画像処理装置および方法、内視鏡システム、並びにプログラム
JP6538634B2 (ja) * 2016-09-30 2019-07-03 富士フイルム株式会社 プロセッサ装置及び内視鏡システム並びにプロセッサ装置の作動方法
KR102615296B1 (ko) * 2016-11-04 2023-12-19 한국전기연구원 내시경 영상 안정화 방법 및 시스템
US10904437B2 (en) * 2017-03-16 2021-01-26 Sony Corporation Control apparatus and control method
EP3610779A4 (en) * 2017-05-17 2020-05-13 Sony Corporation IMAGE ACQUISITION SYSTEM, CONTROL DEVICE AND IMAGE ACQUISITION METHOD
JP7016681B2 (ja) * 2017-12-01 2022-02-07 ソニー・オリンパスメディカルソリューションズ株式会社 内視鏡システム
WO2020009127A1 (ja) * 2018-07-06 2020-01-09 ソニー株式会社 医療用観察システム、医療用観察装置、及び医療用観察装置の駆動方法
CN113271839A (zh) * 2019-01-21 2021-08-17 奥林巴斯株式会社 内窥镜装置和内窥镜系统
JP7235532B2 (ja) * 2019-02-25 2023-03-08 ソニー・オリンパスメディカルソリューションズ株式会社 医療用画像処理装置、画像処理方法およびプログラム
WO2020203164A1 (ja) * 2019-03-29 2020-10-08 ソニー株式会社 医療システム、情報処理装置及び情報処理方法
CN112689094B (zh) * 2020-12-28 2022-12-27 维沃移动通信有限公司 摄像头防抖提示方法、装置及电子设备
WO2023106010A1 (ja) * 2021-12-10 2023-06-15 ソニーセミコンダクタソリューションズ株式会社 電子機器

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2048609B (en) * 1979-03-30 1983-05-25 Hitachi Electronics Solid-state colour imaging camera
JP3112472B2 (ja) 1990-09-26 2000-11-27 オリンパス光学工業株式会社 物体の移動速度検出装置およびカメラの像ぶれ補正装置
JP2953079B2 (ja) * 1991-02-14 1999-09-27 富士写真光機株式会社 電子内視鏡装置
JP3353949B2 (ja) * 1993-06-17 2002-12-09 オリンパス光学工業株式会社 撮像システム
US6630950B1 (en) * 1998-03-19 2003-10-07 Canon Kabushiki Kaisha Apparatus for improving image vibration suppression
JP2000078459A (ja) * 1998-09-03 2000-03-14 Hitachi Ltd ビデオカメラ
JP2000152191A (ja) * 1998-11-13 2000-05-30 Nec Corp ノンインターレース画像表示処理装置及び表示処理方法
JP3865759B2 (ja) * 2000-04-26 2007-01-10 松下電器産業株式会社 撮像装置
JP2002209838A (ja) * 2001-01-22 2002-07-30 Olympus Optical Co Ltd 内視鏡撮像装置
JP4402850B2 (ja) * 2001-03-16 2010-01-20 富士フイルム株式会社 鑑賞用データ補正方法および装置並びに記録媒体
JP4398159B2 (ja) * 2003-01-31 2010-01-13 オリンパス株式会社 撮像装置
US8013909B2 (en) * 2004-12-29 2011-09-06 Nokia Corporation Method and apparatus for adjusting exposure in digital imaging
JP4979271B2 (ja) * 2006-05-29 2012-07-18 オリンパス株式会社 内視鏡システムおよび内視鏡の作動方法
JP2008149027A (ja) * 2006-12-19 2008-07-03 Olympus Corp 内視鏡装置
JP4958610B2 (ja) * 2007-04-06 2012-06-20 キヤノン株式会社 画像防振装置、撮像装置及び画像防振方法
DE102007026337B4 (de) * 2007-06-06 2016-11-03 Arnold & Richter Cine Technik Gmbh & Co. Betriebs Kg Digitale Kamera
KR101392732B1 (ko) * 2007-08-20 2014-05-08 삼성전자주식회사 손떨림에 의한 움직임 추정 장치 및 방법, 그를 이용한영상 촬상 장치
JP2009165553A (ja) 2008-01-11 2009-07-30 Olympus Medical Systems Corp 医療用画像処理装置及び医療用撮像システム
JP5545612B2 (ja) * 2009-01-14 2014-07-09 富士フイルム株式会社 画像処理システム、画像処理方法、及びプログラム
JP5570769B2 (ja) 2009-07-23 2014-08-13 オリンパス株式会社 内視鏡装置、計測方法、およびプログラム
JP5606120B2 (ja) * 2010-03-29 2014-10-15 富士フイルム株式会社 内視鏡装置

Also Published As

Publication number Publication date
JP2012217579A (ja) 2012-11-12
US20120262559A1 (en) 2012-10-18
US9498153B2 (en) 2016-11-22

Similar Documents

Publication Publication Date Title
JP5864880B2 (ja) 内視鏡装置及び内視鏡装置の作動方法
JP5396121B2 (ja) 画像処理装置、撮像装置、画像処理プログラムおよび画像処理装置の作動方法
JP5814698B2 (ja) 自動露光制御装置、制御装置、内視鏡装置及び内視鏡装置の作動方法
JP4599398B2 (ja) 画像処理装置及び内視鏡装置
JP5953187B2 (ja) 合焦制御装置、内視鏡システム及び合焦制御方法
JP5570373B2 (ja) 内視鏡システム
US8723937B2 (en) Endoscope system, imaging apparatus, and control method
US8531510B2 (en) Endoscope apparatus
JP5984681B2 (ja) 蛍光観察装置
US10335014B2 (en) Endoscope system, processor device, and method for operating endoscope system
WO2013061819A1 (ja) 内視鏡システム
JP5698476B2 (ja) 内視鏡システム、内視鏡システムの作動方法及び撮像装置
JP2003334163A (ja) 内視鏡画像処理装置
WO2016185763A1 (ja) 光源制御装置及び光源制御方法並びに撮像システム
JP2008178481A (ja) 画像処理装置
US20120071718A1 (en) Endoscope apparatus and method of controlling endoscope apparatus
JP2012085720A (ja) 内視鏡装置
WO2016088628A1 (ja) 画像評価装置、内視鏡システム、画像評価装置の作動方法および画像評価装置の作動プログラム
JP2010279526A (ja) 内視鏡画像処理装置および方法ならびにプログラム
JP6346501B2 (ja) 内視鏡装置
JP6242552B1 (ja) 画像処理装置
JP6137892B2 (ja) 撮像システム
JP5985117B1 (ja) 撮像装置、画像処理装置、撮像装置の作動方法
JP5856943B2 (ja) 撮像システム
JP6251059B2 (ja) 電子内視鏡システム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140404

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140404

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20141126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150106

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150304

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150512

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150608

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151020

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151106

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20151215

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151225

R151 Written notification of patent or utility model registration

Ref document number: 5864880

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees