JP6681844B2 - 遠隔視覚検査画像捕捉システムおよび方法 - Google Patents

遠隔視覚検査画像捕捉システムおよび方法 Download PDF

Info

Publication number
JP6681844B2
JP6681844B2 JP2016568968A JP2016568968A JP6681844B2 JP 6681844 B2 JP6681844 B2 JP 6681844B2 JP 2016568968 A JP2016568968 A JP 2016568968A JP 2016568968 A JP2016568968 A JP 2016568968A JP 6681844 B2 JP6681844 B2 JP 6681844B2
Authority
JP
Japan
Prior art keywords
image
images
dynamic range
high dynamic
processor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016568968A
Other languages
English (en)
Other versions
JP2017527137A (ja
Inventor
ベンドール,クラーク・アレクサンダー
ウォード,トーマス・チャールズ
スタンカート,メリッサ・ローズ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
General Electric Co
Original Assignee
General Electric Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by General Electric Co filed Critical General Electric Co
Publication of JP2017527137A publication Critical patent/JP2017527137A/ja
Application granted granted Critical
Publication of JP6681844B2 publication Critical patent/JP6681844B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/661Transmitting camera control signals through networks, e.g. control via the Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10152Varying illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本開示は、一般的に、機器および設備の検査に使用される内視鏡システムに関し、より詳細には、内視鏡システムによる画像捕捉に関する。
発電機器および設備、石油およびガス機器および設備、航空機器および設備、製造機器および設備などのような特定の機器および設備は、複数の相互関連システム、およびプロセスを含む。たとえば、発電所は、タービンシステム、ならびに、タービンシステムを操作および保守管理するためのプロセスを含み得る。同様に、石油およびガス操作は、パイプラインを介して相互接続されている燃料取り出しシステムおよび処理機器を含み得る。同様に、航空システムは、飛行機と、耐空性を維持し、保守管理サポートをもたらすのに有用な保守管理ハンガーとを含み得る。
非破壊検査技法または非破壊試験(NDT)技法のような特定の技法を使用して、そのような機器および設備を検査し、保守管理を促進することができる。より詳細には、そのような技法は、内視鏡、ボアスコープ、パンチルトズームカメラ、プッシュカメラなどのような遠隔視覚検査デバイスを利用して、多種多様な機器および設備を分解することなく内部を検査することができる。たとえば、内視鏡を利用して、自動車エンジンの内部特徴(たとえば、物体または表面)を検査することができる。より詳細には、遠隔視覚検査システム(たとえば、内視鏡)は、機器または設備の内部の照明、視覚観測を可能にし、かつ/またはその画像を捕捉するために、機器または設備の様々な開口部に挿入することができる。
したがって、たとえば、捕捉画像の有用性を増大させることによって、遠隔視覚検査システムの画像捕捉機能を改善することが有益である。
米国特許出願公開第2012/0105673号明細書
原請求の発明の範囲に一致する特定の実施形態を下記に要約する。これらの実施形態は、特許請求されている発明の範囲を限定するようには意図されておらず、むしろ、これらの実施形態は、本発明の可能な形態の簡潔な概要を提供するようにのみ意図されている。事実、本発明は、下記に説明されている実施形態と同様であるかまたは異なる場合がある様々な形態を包含することができる。
第1の実施形態は、内視鏡のプロセッサによって実行可能な命令を記憶している有形非一時的コンピュータ可読媒体を提供する。命令は、第1の複数の画像に少なくとも部分的に基づくライブビデオが表示されている間に、内視鏡内の撮像装置を使用して、第1の輝度レベルにある第1の複数の画像を捕捉するための命令と、プロセッサを使用して、第1の複数の画像を平均または合計することによって基線画像を生成するための命令と、撮像装置を使用して、複数の輝度レベルにある第2の複数の画像を捕捉するための命令であって、複数の輝度レベルは第1の輝度レベルとは異なる、第2の複数の画像を捕捉するための命令と、プロセッサを使用して、基線画像および第2の複数の画像に少なくとも部分的に基づいて高ダイナミックレンジ画像を生成するための命令であって、高ダイナミックレンジ画像は、基線画像よりも多くの不飽和ピクセルを含む、高ダイナミックレンジ画像を生成するための命令とを含む。
第2の実施形態は、第1の複数の画像をともに平均または合計することによって基線画像を生成することであって、第1の複数の画像は、第1の輝度レベルにおいて遠隔視覚検査システムの撮像装置を使用して捕捉される、基線画像を生成することと、第1の複数の画像に少なくとも部分的に基づいて、ライブビデオフィードを生成することと、基線画像からの不飽和ピクセルデータ、および、第2の複数の画像のうちの少なくとも1つの画像からの不飽和ピクセルデータを使用して高ダイナミックレンジ画像を生成することであって、第2の複数の画像は、第1の輝度レベルとは異なる輝度レベルにおいて撮像装置を使用して捕捉される、高ダイナミックレンジ画像を生成することとを行う、遠隔視覚検査システム内のプロセッサを提供する。
第3の実施形態は、光をアナログ画像データに変換することによって画像を提供する撮像装置と、アナログ画像データをデジタル画像データに変換するアナログ−デジタル変換器と、デジタル画像データを捕捉し、処理して複数の画像を生成するプロセッサとを含む遠隔視覚検査システムを提供する。遠隔視覚検査システムはまた、撮像装置に近接する特徴を描写するライブビデオを表示することであって、ライブビデオは、第1の輝度レベルにおいて撮像装置を使用して捕捉される画像に少なくとも部分的に基づき、捕捉画像は基線画像を生成するために使用される、ライブビデオを表示することと、プロセッサによってサムネイルとして生成される複数の画像を表示することであって、複数の画像は、基線画像と、基線画像内の飽和ピクセルを置き換えることによって生成される高ダイナミックレンジ画像とを含む、複数の画像を表示することとを行うディスプレイをも含む。
本発明のこれらのおよび他の特徴、態様、および利点は、添付の図面を参照しながら以下の詳細な説明を読むとよりよく理解されるようになる。図面全体を通じて同様の参照符号は同様の部分を表す。
一実施形態による内視鏡システムを示すブロック図である。 一実施形態による図1の内視鏡システムにおいて画像を生成するためのプロセスの流れ図である。 一実施形態による図1の内視鏡システムにおいて画像を生成するための代替的なプロセスの流れ図である。 一実施形態による図1の内視鏡システムによって表示される複数の捕捉画像の画面図である。 一実施形態による図4の画面図を表示するためのプロセスの流れ図である。
本発明の1つまたは複数の特定の実施形態を下記に説明する。これらの実施形態の簡潔な説明を提供するために、実際の実施態様のすべての特徴が本明細書に記載されているとは限らない。工学的または設計プロジェクトにおけるものとしての、任意のこのような実際の実施態様の開発において、開発者の特有の目標を達成するためにシステム関連およびビジネス関連の制約の遵守のような、多数の実施態様特有の決定が為されなければならず、これは実施形態ごとに変わり得ることが認識されるべきである。その上、このような開発努力は複雑かつ時間のかかるものであり得るが、それにもかかわらず、本開示の利益を得る当業者にとっては日常的な設計、製造および生産の作業であろうことが認識されるべきである。
本発明の様々な実施形態の要素を紹介するとき、冠詞「1つの(a)」、「1つの(an)」、「その(the)」、および「前記(said)」は、その要素が1つまたは複数あることを意味するように意図されている。「備える(comprising)」、「含む(including)」、および「有する(having)」という用語は、包括的であるように意図されており、リストされている要素以外の追加の要素があってもよいことを意味する。
本開示の実施形態は、非破壊試験(NDT)技法/システムを含む、様々な検査技法およびシステムに適用することができる。NDTシステムのいくつかの実施形態において、遠隔視覚検査システム(たとえば、内視鏡)を利用して、発電機器および設備、石油およびガス機器および設備、ならびに航空機器および設備のような、機器および設備の試験および/または検査を容易にすることができる。より詳細には、遠隔視覚検査システムは、機器または設備の内部特徴(たとえば、物体または表面)の照明、視覚化、および/またはそれらに関連する他のデータをもたらすことができる。
そのような機能を促進するために、遠隔視覚検査システムは一般的に、照明デバイス(たとえば、光源)および画像捕捉デバイス(たとえば、撮像装置)を含む。より詳細には、撮像装置を使用して、撮像装置に近接する特徴、物体、または表面の画像および/またはビデオを捕捉することができる。たとえば、内視鏡プローブが自動車エンジンに挿入されると、撮像装置を使用して、エンジン内部の弁の画像を捕捉することができる。内部特徴は外光から遮られることが多いため、発光ダイオード(LED)のような光源によって、画像および/またはビデオ捕捉中に撮像装置のための照明をもたらすことができる。了解され得るように、いくつかの実施形態において、照明は、外部照明デバイスまたは自然光のような、外部光源によってもたらすことができる。
これらの捕捉画像に基づいて、遠隔視覚検査システムのユーザはその後、機器または設備の試験および/または検査を実施することができる。たとえば、検査画像を使用して、自動車エンジン内の弁の視覚的描写をもたらすことができる。加えて、測定画像を使用して、弁の3D表現(たとえば、点群データ/画像または深さプロファイル)を生成することができる。より詳細には、測定画像は、いくつかの異なる形態をとることができる。たとえば、単一の撮像装置、または、各々がそれ自体の光学系を有する複数の撮像装置を有するステレオ光学系を使用することによって、ステレオ測定画像を捕捉することができる。加えて、観察される表面または物体に光パターンが投影されるとき、構造光測定画像を捕捉することができる。より詳細には、投影されている光パターンを捕捉画像内で検出することができ、3D表面データを決定するために使用することができる。
構造光パターンを投影するために様々な技法を使用することができる。たとえば、いくつかの実施形態において、構造光パターンは、一様な検査光源を使用して投影することができる。他の実施形態において、放出器モジュールのような別個の光源を使用して、測定画像捕捉中にのみ構造光パターンを投影することができる。さらなる実施形態において、構造光パターンが一様な検査光と比較して十分な強度を有するとき、一様な検査光源と同時に、別個の光源を有効化することができる。そのような構造光パターンは、回折光学素子のようなパターン生成光学素子を用いて、レーザのようなコリメート光源を使用して生成される線または点を含んでもよい。またさらに、一様な検査光源によってもたらされる照明が投影される構造光パターンの有用性を減じる可能性があるとき、構造光源が有効化されるときに、一様な検査光源を無効化することができる。これは一般的に、構造光パターンのスペクトルが一様な検査光源のスペクトルと重なるか、または、容易に区別することができない場合である。
しかしながら、いくつかの事例において、捕捉画像が標的特徴を正確に捕捉していないために、捕捉画像の有用性が妨げられる可能性がある。より詳細には、捕捉画像の部分または全体が、明るく飽和または暗く飽和する可能性があり、これによって、標的特徴の詳細が不明瞭になる可能性がある。たとえば、自動車エンジン内部の溶接部が、溶接部の反射性が高いことに起因して、画像を明るく飽和させる(たとえば、「輝く」)可能性がある。
したがって、本開示の一実施形態は、第1の複数の画像に少なくとも部分的に基づくライブビデオが表示されている間に、第1の輝度レベルにある第1の複数の画像を捕捉することと、第1の複数の画像を平均または合計することによって基線画像を生成することとを行う遠隔視覚検査システムを説明する。加えて、遠隔視覚検査システムは、複数の輝度レベルにある第2の複数の画像を捕捉することであって、複数の輝度レベルは第1の輝度レベルとは異なる、第2の複数の画像を捕捉することと、基線画像および第2の複数の画像に少なくとも部分的に基づいて、高ダイナミックレンジ画像を、高ダイナミックレンジ画像が基線画像よりも多くの不飽和ピクセルを含むように、生成することとを行う。
言い換えれば、下記により詳細に説明するように、本明細書において説明されている技法は、不飽和ピクセルがより多い高ダイナミックレンジ画像を生成することによって、遠隔視覚検査システムによって捕捉される画像の有用性を改善する。そのため、高ダイナミックレンジ画像は、標的特徴の詳細がより容易に認識されることを可能にする。その上、ライブビデオが表示されている間に捕捉される複数の画像に基づいて高ダイナミックレンジ画像を生成することによって、高ダイナミックレンジ画像を生成する効率を改善することができる。たとえば、いくつかの実施形態において、たとえ任意の画像捕捉コマンドが受信される前であっても、複数の画像を連続的に捕捉し、個々に記憶するか、または、合計もしくは平均画像として記憶することができる。
例示を助けるために、図1は、本明細書において記載されている技法を利用することができる内視鏡システム10を記載している。いくつかの実施形態において、内視鏡システム10は、ニューヨーク州スケネクタディ所在のGeneral Electric Companyから入手可能なXL GO+ビデオプローブ、XLG3ビデオプローブ、XL Vuビデオプローブなどであってもよい。本発明の実施形態は内視鏡システムを説明しているが、内視鏡システムは例示としてのみに意図されていることは諒解されたい。言い換えれば、他の適切な遠隔視覚検査システム(たとえば、パンチルトズームカメラ、プッシュカメラ、またはボアスコープ)もまた、本明細書において記載されている技法を利用してもよい。
図示されているように、内視鏡システム10は、挿入管12と、基部アセンブリ14とを含む。本明細書において使用されるものとしては、挿入管12は、内視鏡システム10の、機器または設備に挿入される部分を表す。そのため、挿入管12は一般的に長くかつ/または柔軟であり、プローブの遠位端(たとえば、先端部)15内の撮像構成要素を含む。より詳細には、いくつかの実施形態において、プローブ15は、挿入管12の遠位端にある取り外し可能部分であってもよい。他方、基部アセンブリ14は一般的に、画像処理構成要素のような、挿入管12の構成要素によって収集されるデータを処理するための電子回路を含む。
したがって、図示されているように、挿入管12は、撮像装置16と、撮像装置電子機器18と、レンズ20と、放出器モジュール22と、光ファイバ束24と、拡散器26とを含む。いくつかの実施形態において、内視鏡システム10は、光ファイバ束24および拡散器26を介して、プローブの遠位端15の正面の標的特徴(たとえば、表面または物体)に拡散されたまたは一様な光パターンを投影することができる。たとえば、光ファイバ束24は、挿入管12を通じて白色光源28によって生成される光を伝搬することができ、拡散器26は、表面または物体に一様な光パターンを投影することができる。いくつかの実施形態において、白色光源28は、発光ダイオード(LED)であってもよい。図示されている実施形態にあるように、白色光源28は、基部アセンブリ14内に位置してもよい。代替的に、白色光源28はまた、挿入管12またはプローブ先端部15内に含まれてもよい。
拡散されたまたは一様な光パターンを与えるのに加えて、内視鏡システム10は、プローブ先端部15の遠位端の正面にある表面または物体(たとえば、特徴)に構造光パターンを投影することができる。いくつかの実施形態において、投影される構造光パターンは、強度が正弦曲線状になっている平行光と暗い線(たとえば、領域)とから成るパターンを含んでもよい。付加的にまたは代替的に、光パターンは、方形プロファイル、台形プロファイル、三角形プロファイル、曲線、波線、ジグザグ線、または、3D点群データを生成するために使用することができるような任意の他のパターンを有してもよい。
いくつかの実施形態において、構造光パターンは、放出器モジュール22を介して投影することができる。より詳細には、放出器モジュール22は、LEDのような、1つまたは複数の発光素子を含んでもよい。たとえば、放出器モジュール22は、構造光パターンを生成するために、直線格子のような強度変調素子を通される光を出力する単一の発光素子を含んでもよい。付加的にまたは代替的に、放出器モジュール22は、構造光パターンを生成するように戦略的に配置されている複数の発光素子を含んでもよい。さらに、放出器モジュールは、各構造光パターンが他の構造光パターンに対して位相シフトされるように、複数の異なる構造光パターンを生成することができる。
放出器駆動部30によって放出器モジュール22の動作に対する制御をもたらすことができる。より詳細には、放出器駆動部30は、構造光パターンを生成するように、放出器モジュール22に選択的に電力を供給することができる。たとえば、放出器モジュール22が複数の発光素子を含むとき、放出器駆動部30は、異なる構造光パターンを生成するように、それら発光素子の各々に選択的に電力を供給することができる。上述したように、いくつかの実施形態において、放出器モジュール22内の放出素子が給電されるとき、拡散器26から出力される光が投影される構造光パターンのコントラストを低減する可能性を低減するために、白色光源28を無効化することができる。いくつかの実施形態において、構造光画像内を捕捉することができ、3D表面データを決定するために処理することができる。
上述したように、撮像装置16は撮像装置電子機器18とともに、挿入管12の遠位端の正面にある表面または物体に投影される光パターンに基づいて種々の画像を捕捉するために使用することができる。より詳細には、レンズ20が、撮像装置16上に光を合焦することができ、撮像装置16は、アナログ画像データ(たとえば、アナログ信号)を出力して各ピクセルにおいて検知される光レベルを示す感光ピクセルの2次元アレイを含むことができる。そのため、撮像装置16は、電荷結合素子(CCD)画像センサ、相補型金属酸化膜半導体(CMOS)画像センサ、または、同様の機能を有する画像センサであってもよい。
言い換えれば、撮像装置16は、静止画像および/またはビデオの捕捉および表示を促進することができる。たとえば、撮像装置16は、一様なまたは拡散された光パターンが投影されるときに検査画像を捕捉するために使用することができる。他方、撮像装置16は、構造光パターンが投影されるときに測定画像を捕捉するために使用することができる。加えて、いくつかの実施形態において、ステレオ画像を捕捉するために複数のレンズ20および複数の撮像装置16を使用することができる。他の実施形態において、画像分割プリズム、平行レンズ系、およびミラーを含むことができるステレオレンズ系を有する単一の撮像装置16を使用して、ステレオ画像を捕捉することができる。
画像および/またはビデオの捕捉および表示を促進するために、基部アセンブリ14内の構成要素は、撮像装置電子機器18によって出力されるアナログ画像データを処理し、挿入管12内の構成要素に制御コマンド(たとえば、命令)を供給することができる。そのような機能を促進するために、基部アセンブリ14は、図示されているように、白色光源28と、放出器駆動部30と、撮像装置インターフェース32と、マイクロコントローラ34と、ビデオプロセッサ36と、中央処理装置(CPU)38と、メモリ40と、記憶デバイス42と、ジョイスティック44と、キーパッド46と、ネットワークインターフェース48と、ディスプレイ50とを含む。
動作時、撮像装置電子機器18は、撮像装置16によって出力されるアナログ画像データをバッファリングし、撮像装置インターフェース32に転送することができる。撮像装置インターフェース32はその後、アナログ画像データを、ビデオプロセッサ36によってさらに処理するために、デジタル画像データに変換することができる。したがって、撮像装置インターフェース32は、アナログ−デジタル変換器を含むことができる。いくつかの実施形態において、撮像装置インターフェース32は加えて、アナログ利得回路および相関二重サンプラを含むことができる。
アナログ画像データを処理することに加えて、撮像装置インターフェース32はまた、制御コマンドを撮像装置16に送信することもできる。より詳細には、撮像装置インターフェース32は、制御コマンドを、マイクロコントローラ34から撮像装置16へと中継することができる。たとえば、マイクロコントローラ34は、撮像装置インターフェース32を介して撮像装置16に、特定の輝度レベルにある画像を捕捉するように命令することができる。より詳細には、撮像装置16がCCD撮像装置であるとき、命令は、アナログシャッタ制御信号の形態であってもよい。付加的にまたは代替的に、撮像装置16がCMOS撮像装置であるとき、命令は、I2C、SPI、または他のそのような通信インターフェースを使用した直列化メッセージデータパケットであってもよい。言い換えれば、マイクロコントローラ34は一般的に、撮像装置16の動作を制御することができる。
加えて、マイクロコントローラ34はまた、撮像装置インターフェース32、放出器駆動部30、および白色光源28の動作を制御することもできる。たとえば、マイクロコントローラ34は放出器駆動部30に、放出器モジュール22を介して、測定画像を捕捉するために使用される構造光パターンを生成するように命令することができる。同様に、マイクロコントローラ34は白色光源28に、検査画像を捕捉するために使用される一様な光パターンを生成するように命令することができる。上述したように、構造光パターンおよび一様な光パターンは、同時にまたは異なる時点において出力されてもよい。言い換えれば、マイクロコントローラ34は一般的に、画像の捕捉を協調させ、制御することができる。
上述したように、ビデオプロセッサ36は、撮像装置インターフェース32によって出力されるデジタル画像データを処理することができる。いくつかの実施形態において、ビデオプロセッサ36は、テキサス州ダラス所在のTexas Instrumentsによって入手可能にされるTMS320DM642ビデオ/イメージング固定点デジタル信号プロセッサであってもよい。より詳細には、ビデオプロセッサ36は、画像捕捉、カラーマトリックス処理、ガンマ処理、ビデオデータの生成、および動き検出のような機能を実施することができる。たとえば、ビデオプロセッサ36は、デジタル画像データをメモリ40および/または記憶デバイス42内に記憶することによって、画像を捕捉することができる。
加えて、ビデオプロセッサ36は、第1の画像と、同じタイプの第2の画像(たとえば、検査画像または測定画像)とを比較することによって、動きを検出することができる。付加的にまたは代替的に、ビデオプロセッサ36は、測定画像内で輝度が急激に遷移している点の位置を識別し、この位置と、検査画像内で輝度が急激に遷移している位置とを比較することができる。いくつかの実施形態において、動きの量は、画像の間で異なっているピクセル値の数および/または画像の間で特徴が移動しているピクセルの数に基づき得る。たとえば、特徴の識別可能な詳細(たとえば、輝度の急激な遷移)が第1の画像内ではピクセル位置(50,50)において描かれており、第2の画像内では相対的に同じ位置(たとえば、ピクセル位置(51,50)または(49,50)において描かれているとき、これら画像の間で大幅な動きはなかったと判定することができる。他方、特徴の識別可能な詳細(たとえば、輝度の急激な遷移)が第2の画像内で大幅に異なる位置(たとえば、ピクセル位置(60,50))において描かれているとき、これら画像の間に大幅な動きがあったと判定することができる。
さらに、ビデオプロセッサ36は、デジタル画像データをフォーマット化し、当該画像データをディスプレイ50に出力することができる。画像データに基づいて、ディスプレイ50はその後、撮像装置16によって捕捉されている静止画像を表示することができる。さらに、ビデオプロセッサ36は、デジタル画像データを利用してビデオデータを生成し、当該ビデオデータをディスプレイ50に出力することができる。ビデオデータに基づいて、ディスプレイ50は、ライブビデオを表示することができる。いくつかの実施形態において、ビデオデータはBT656ビデオフォーマットであってもよく、当該ビデオデータによって担持されるデータは、422YCRCBデータフォーマットを有してもよい。加えて、いくつかの実施形態において、ディスプレイ50は、取り外し可能であってもよく、一方で、他の実施形態において、ディスプレイ50は、基部アセンブリ14または内視鏡システム10に一体化されていてもよい。
画像データおよび/またはビデオデータをディスプレイ50に供給することに加えて、CPU38は、ビデオデータ36から画像データを、さらに処理するために受信することができる。いくつかの実施形態において、CPU38は、カリフォルニア州サンタクララ所在のIntel Corp.によって入手可能とされるPentium Mプロセッサであってもよい。言い換えれば、CPU38は、ビデオプロセッサ36と比較してより大きい処理能力を保持することができる。したがって、CPU38は、フレーム平均化、スケーリング、画像ズーム、重ね合わせ、連結、画像反転、画像補正(すなわち、高ダイナミックレンジ画像の生成)、および歪み補正のような機能を実施することができる。
マイクロコントローラ34、ビデオプロセッサ36、およびCPU38は別個の構成要素として説明されているが、それらが実施する機能は、任意の数のプロセッサ、たとえば、単一の汎用プロセッサによって実施されてもよいことは諒解されたい。そのため、マイクロコントローラ34、ビデオプロセッサ36、およびCPU38は、個々にまたは集合的に、1つまたは複数の「汎用」マイクロプロセッサ、1つまたは複数の専用マイクロプロセッサ、1つまたは複数の特定用途向けマイクロプロセッサ(ASIC)、1つまたは複数のフィールドプログラマブルゲートアレイ(FPGA)、またはそれらの任意の組み合わせを含んでもよい。したがって、単純に論述するために、それらは集合的に、内視鏡システム10内の「プロセッサ」として参照される場合がある。言い換えれば、本明細書において使用されるものとしてのプロセッサは、任意の数の処理構成要素を参照してもよい。
記載されている機能の各々の実施を促進するために、プロセッサ(たとえば、マイクロコントローラ34、ビデオプロセッサ36、および/またはCPU38)は、メモリ40または記憶デバイス42のような、非一時的コンピュータ可読媒体内に記憶されている命令を取り出し、実行することができる。一般的に、メモリ40および記憶デバイスは、処理されるべきデータ(たとえば、画像データ)および/または実行可能命令のような情報を記憶することができる。したがって、メモリ40は、ランダムアクセスメモリ(RAM)のような揮発性メモリ、または、読み出し専用メモリ(ROM)のような不揮発性メモリを含むことができる。加えて、記憶デバイス42は、フラッシュメモリ、ネットワークドライブ、ハードドライブ、もしくは任意の他の光学、磁気、および/もしくはソリッドステート記憶媒体、またはそれらの任意の組み合わせを含んでもよい。
上述したように、ディスプレイ50は、ユーザが見るために画像および/またはビデオを表示することができる。言い換えれば、より一般的には、内視鏡システム10は、捕捉される情報をユーザと通信することができる。より詳細には、内視鏡システム10は、たとえば、ディスプレイ50上に情報(たとえば、画像またはビデオ)を表示することによって、基部アセンブリ14において操作者に情報を出力することができる。加えて、内視鏡システム10は、基部アセンブリ14において操作者から入力情報を受信することができる。より詳細には、操作者は、ジョイスティック44および/またはキーパッド46を介して内視鏡システム10に制御コマンドを与えることができる。たとえば、操作者は、ジョイスティック44を動かすことによってプローブ15を作動させることができ、または、キーパッド46を使用してメニュー選択を行うことができる。加えて、いくつかの実施形態において、ディスプレイ50は、併せて、ユーザ入力を与えるタッチセンサ式機構(たとえば、タッチスクリーン)を設けられてもよい。たとえば、操作者は、タッチセンサ式機構を介して、内視鏡システム10を選択し、または、内視鏡システム10と対話することができる。
加えて、内視鏡システム10は、遠隔ユーザ、たとえば、遠隔コンピュータ(たとえば、コンピューティングデバイス)におけるユーザと通信することができる。たとえば、内視鏡システム10は、ネットワークインターフェース48を使用して、遠隔コンピューティングデバイスとネットワークを形成することができる。いくつかの実施形態において、ネットワークインターフェース48は、ワイヤレス802.11規格、または、パーソナルエリアネットワーク(たとえば、Bluetooth(登録商標))、ローカルエリアネットワーク(LAN)、または、GSM(登録商標)進化型高速データレート(EDGE)ネットワークもしくは3Gデータネットワークのような広域ネットワーク(WAN)のような、任意の他の適切なネットワーク接続規格を介したワイヤレスネットワーク接続を可能にすることができる。
言い換えれば、ユーザは、捕捉される情報を遠隔して観察および/または処理するとともに、内視鏡システム10に制御コマンドを遠隔して発行することができる。たとえば、いくつかの実施形態において、ユーザは、遠隔コンピューティングデバイスの処理能力を利用して、内視鏡システム10によって捕捉される画像またはビデオをさらに処理することができる。加えて、ユーザは、遠隔コンピューティングデバイスにあるディスプレイを用いて、内視鏡システム10によって捕捉される画像またはビデオを見ることができる。言い換えれば、内視鏡システム10によって捕捉されるビデオおよび/または画像を表示するディスプレイは、遠隔していてもよく、かつ/または取り外し可能であってもよい。
上述したように、いくつかの事例において、標的特徴の詳細が飽和ピクセルによって不明瞭になった場合、内視鏡システム10によって捕捉される画像および/またはビデオの有用性が妨げられる場合がある。捕捉される画像および/またはビデオの有用性を改善するためのプロセス52が図2に示されている。一般的に、プロセス52は、ライブビデオを表示しながら単一の輝度レベルにある第1の複数の画像を捕捉すること(プロセスブロック54)と、基線画像を生成すること(プロセスブロック56)と、複数の輝度レベルにある第2の複数の画像を捕捉すること(プロセスブロック58)と、高ダイナミックレンジ画像を生成すること(プロセスブロック60)とを含む。いくつかの実施形態において、プロセス52は、有形非一時的メモリ40または記憶デバイス42内に記憶されているコンピュータ可読命令を介して実施することができ、内視鏡システム10内のプロセッサ(たとえば、マイクロコントローラ34、ビデオプロセッサ36、CPU38、または遠隔コンピューティングデバイス内のプロセッサ)によって実行することができる。
したがって、プロセッサ(たとえば、マイクロコントローラ34)は、内視鏡システム10に、単一の輝度レベルにある第1の複数の画像を捕捉するように命令することができる(プロセスブロック54)。特定の実施態様に応じて、第1の複数の画像は、測定画像、構造光画像、ステレオ画像、またはそれらの任意の組み合わせのような、任意の適切なタイプの画像であってもよい。そのため、いくつかの実施形態において、マイクロコントローラ34は、白色光源28および/または放出器デバイス30に、所望の照明レベルにある所望の光パターンを生成するように命令することができる。
加えて、マイクロコントローラ34は、撮像装置16に、撮像装置16によって捕捉される光を表すアナログ画像データを出力する、画像の捕捉を開始するように命令することができる。より詳細には、捕捉される画像は、照明レベル、撮像装置16の露出時間、アナログ画像データに適用される利得、またはそれらの任意の組み合わせを調整することによって調整することができる、特定の輝度レベルを有し得る。したがって、同じ輝度レベルにある第1の複数の画像を捕捉するために、マイクロコントローラ34は、撮像装置16に、特定の露出時間を使用するように命令し、光源(たとえば、白色光源28または放出器モジュール22)に、特定の照明レベルを与えるように命令し、撮像装置インターフェース32に、アナログ画像データに特定の利得を適用するように命令することができる。上述したように、アナログ画像データはその後、撮像装置インターフェース32によってデジタル画像データに変換され、ビデオプロセッサ36に供給されることができる。
デジタル画像データを受信すると、プロセッサ(たとえば、ビデオプロセッサ36)は、画像を捕捉し、ディスプレイ50に、ライブビデオを表示するように命令することができる(プロセスブロック54)。より詳細には、いくつかの実施形態において、ビデオプロセッサ36は、デジタル画像データをメモリ40および/または記憶デバイス42内に記憶することによって、画像を捕捉することができる。加えて、ビデオプロセッサ36は、ディスプレイ50に、ビデオデータを出力することによってビデオを表示するように命令することができる。より詳細には、いくつかの実施形態において、ビデオプロセッサ36は、デジタル画像データに基づいてビデオデータを生成することができる。たとえば、第1の複数の画像が高速に連続して捕捉されている静止画像であるとき、ビデオプロセッサ36は、ディスプレイ50に、高速に連続して画像を表示するように命令することによって、ビデオを生成することができる。事実、いくつかの実施形態において、画像が捕捉されるときと、画像が表示されるときとの間の継続時間を相対的に短く(たとえば、画像が捕捉されたときから1ミリ秒内)、これによって、ビデオがライブビデオとしてリアルタイムまたはほぼリアルタイムで表示されることが可能である。
ビデオを表示するために第1の複数の画像を使用することに加えて、プロセッサ(たとえば、CPU38またはビデオプロセッサ36)は、基線画像を生成するために第1の複数の画像を使用することができる。より詳細には、第1の複数の画像のうちの1つに存在するノイズを低減するための基線画像を生成することができる。したがって、第1の複数の画像を平均または合計することのような、画像内のノイズを低減するための様々な技法を使用することができる。より詳細には、ノイズは一般的にランダムであるため、第1の複数の画像を平均しまたはともに合計することによって、実際に存在する特徴が強調され、ノイズによって引き起こされるアーティファクトが低減する。
いくつかの実施形態において、第1の複数の画像は、白色光源28が有効化されているときに捕捉することができる。言い換えれば、第1の複数の画像は検査画像であり得る。そのため、複数の検査画像から生成される基線画像もまた、検査画像であり得る。他の実施形態において、ステレオ光学系が使用されるとき、第1の複数の画像はステレオ測定画像であり得る。そのため、基線画像もまた、ステレオ測定画像であり得る。さらなる実施形態において、第1の複数の画像は、構造光画像が投影されるとき、たとえば、構造光画像が一様な検査光と比較して十分な強度を有するときに、捕捉することができる。そのため、基線画像は、構造光パターンを含み得る。
明示を助けるために、複数の画像内の各画像の各ピクセル位置におけるピクセル値を加算することによって、複数の画像を合計することができる。そのため、実際に存在する特徴は複数の画像の各々の中に存在することになり、一方でノイズはそうでないため、実際に存在する特徴がノイズとの比較においてより明瞭になる。加えて、複数の画像を合計し、ピクセル値を、ともに合計された画像の数で除算することによって、複数の画像を平均することができる。そのため、合計または平均化を使用して基線画像を生成することは、使用される画像が一般的に、同じように特徴を描写していることを前提としている。言い換えれば、基線画像を生成するために使用される第1の複数の画像の各々は、プローブ15(たとえば、撮像装置16)を用いて、特徴に対して実質的に同じ位置において捕捉され得る。そのため、基線画像は、プローブ15または特徴のいずれかが実質的に動いていないときに捕捉される画像を用いて生成され得る。
しかしながら、いくつかの実施形態において、内視鏡システム10は、たとえ特徴が撮像装置16に対して動いているときであっても、画像の捕捉およびビデオの表示を継続することができる。言い換えれば、そのような実施形態においては、捕捉され、ビデオを表示するために使用される画像のすべてが、基線画像を生成するために使用されるとは限らない。それにもかかわらず、いくつかの実施形態において、検出される動きがわずかであるとき、内視鏡システム10は、ぼけが回避または最小限に抑えられるように、合計または平均する前に、捕捉される画像を平行移動または回転させることによって、動きを補償するように試みることができる。たとえば、新たな画像と先行する画像との間で検出される動きの大きさが閾値(たとえば、8ピクセル)を下回る場合、または、信頼水準が閾値を上回る場合(たとえば、>25%)、ぼけを回避するために、画像は、先行して捕捉されている画像と合計または平均することができる。
いくつかの実施形態において、基線画像は、第1の複数の画像の各新たな画像が捕捉された後に更新することができる。たとえば、第1の複数の画像の新たな画像が捕捉される度毎に、ビデオプロセッサ36は、メモリ40または記憶デバイス42から基線画像を取り出し、新たな画像の平行移動または回転が必要であればこれを適用し、新たな画像を基線画像と平均/合計して基線画像を更新し、更新された基線画像をメモリ40または記憶デバイス42に記憶し戻すことができる。付加的にまたは代替的に、基線画像は、第1の複数の画像の一定数の新たな画像が捕捉された後に更新されてもよい。たとえば、ビデオプロセッサ36は、基線画像は、第1の複数の画像の5つの新たな画像が捕捉された後に更新されてもよい。
基線画像が生成された後、プロセッサ(たとえば、マイクロコントローラ34)は、内視鏡システム10に、異なる輝度レベルを有する第2の複数の画像を捕捉するように命令することができる(プロセスブロック58)。より詳細には、いくつかの実施形態において、第2の複数の画像の各々は、異なる輝度レベルにおいて捕捉され得る。他の実施形態において、第2の複数の画像のうちの複数が、同じ輝度レベルにおいて捕捉されてもよい。たとえば、第1の画像および第2の画像が第1の輝度レベルにおいて捕捉されてもよく、第3の画像および第4の画像が第2の輝度レベルにおいて捕捉されてもよく、第5の画像および第6の画像が第3の輝度レベルにおいて捕捉されてもよい。
上述したように、プロセッサ(たとえば、マイクロコントローラ34)は、撮像装置16の露出時間、撮像装置インターフェース32によって適用される利得、および/または光源(たとえば、白色光源28または放出器モジュール22)によってもたらされる照明レベルを調整することによって、捕捉される画像の輝度レベルを制御することができる。したがって、プロセッサ(たとえば、マイクロコントローラ34)は、異なる輝度レベルにおいて第2の複数の画像を捕捉するために、それらの任意の組み合わせを調整することができる。たとえば、第1の輝度レベルにおいて第1の画像を捕捉するために、マイクロコントローラ34は、撮像装置16に、露出時間を1ミリ秒にするように命令することができ、より明るい輝度レベルにおいて第2の画像を捕捉するために、マイクロコントローラは、撮像装置16に、露出時間を2ミリ秒にするように命令することができる。
各輝度レベルにおいて捕捉される画像の正確な数および使用すべき輝度レベルは、特定の実施態様に応じて決まり得る。より詳細には、いくつかの実施形態において、捕捉すべき画像の数および使用すべき輝度レベルは、製造者によって、または、たとえば、ジョイスティック44、キーパッド46、またはタッチセンサ式ディスプレイを介したユーザ入力を通じてのいずれかで定義されてもよい。他の実施形態において、捕捉すべき画像の数および使用すべき輝度レベルは適応的であってもよい。たとえば、基線画像内に多数の飽和ピクセルがあるとプロセッサ(たとえば、CPU38またはビデオプロセッサ36)が判定すると、プロセッサは、内視鏡システム10に、第2の複数の画像内の画像の数を増大させ、かつ/または、使用される輝度レベルの数を増大させるように命令することができる。
事実、いくつかの実施形態において、異なる輝度レベルの各々において捕捉される画像の数は異なってもよい。たとえば、内視鏡システム10は、第1の複数の画像の輝度レベルに近い輝度レベルにおいては1つのみの画像を捕捉してもよく、第1の複数の画像の輝度レベルよりもはるかに暗い輝度レベルにおいて3つの画像を捕捉してもよい。いくつかの実施形態において、同じ輝度レベルにおいて捕捉される複数の画像が、ノイズを低減するために第1の複数の画像と同様に平均またはともに合計されてもよい。
実施態様に応じて、第1の複数の画像の捕捉から第2の複数の画像の捕捉への切り替えは、様々な様式でトリガすることができる。より詳細には、いくつかの実施形態において、画像捕捉コマンドが、内視鏡システム10に、第1の複数の画像の捕捉を停止し、第2の複数の画像の捕捉を開始するように命令することができる。たとえば、ユーザは、ジョイスティック44、キーパッド46、タッチセンサ式ディスプレイ、またはさらには遠隔コンピューティングデバイスを介して画像捕捉コマンドを入力することができる。
他の実施形態において、第1の複数の画像の捕捉と第2の複数の画像の捕捉との間の切り替えは、自動的であってもよく、または、内視鏡が開始してもよい。たとえば、切り替えは、撮像装置16と標的特徴との間の動きがないとプロセッサ(たとえば、CPU38またはビデオプロセッサ36)が判定するときに、行われてもよい。より詳細には、動きがないとプロセッサ(たとえば、CPU38またはビデオプロセッサ36)が判定するとき、内視鏡システム10は、十分にノイズの少ない基線画像が生成されるまで第1の複数の画像を捕捉し続け、その後、第2の複数の画像の捕捉に切り替えることができる。付加的にまたは代替的に、十分にノイズの少ない基線画像がすでに生成されている場合(たとえば、第1の複数の画像内の画像の平行移動または回転させることによって)、内視鏡システム10は、動きが検出されないときは直ちに第2の複数の画像の捕捉を開始することができる。
上述したように動きの検出は、第1の画像内の特徴の動きが、第2の画像内の同じ特徴から所定ピクセル数を下回っているか否かを検出することを含み得る。加えて、いくつかの実施形態において、ぼけを最小限に抑えるために、第1の画像(たとえば、第1の複数の画像内の)と第2の画像(たとえば、第1の複数の画像内の)との間の特徴の動きの量が判定され、第1の画像における加算/平均の前に第1の画像を位置合わせするのに使用される。
上述したように、画像によって捕捉される特徴の詳細は、画像上の飽和ピクセルまたは領域によって不明瞭になる場合がある。したがって、基線画像および第2の複数の画像を使用して、プロセッサ(たとえば、ビデオプロセッサ36またはCPU38)は、高ダイナミックレンジ画像を生成することができる(プロセスブロック60)。いくつかの実施形態において、高ダイナミックレンジ画像を生成するために、プロセッサ(たとえば、CPU38またはビデオプロセッサ36)は、基線画像からの不飽和ピクセルデータ、および、第2の複数の画像のうちの1つまたは複数の画像からの不飽和ピクセルデータを利用することができる。より詳細には、いくつかの実施形態において、置換不飽和ピクセルは、第2の複数の画像内の不飽和ピクセルデータをスケーリングすることによって生成することができる。
たとえば、プロセッサ(たとえば、CPU38またはビデオプロセッサ36)が基線画像内で飽和ピクセルを検出すると、プロセッサは、基線画像内の飽和ピクセルを置換するために、第2の複数の画像のうちの1つまたは複数の画像からの不飽和ピクセルデータに基づいて不飽和ピクセルを生成することができる。いくつかの実施形態において、プロセッサ(たとえば、CPU38またはビデオプロセッサ36)は、上側閾値(たとえば、白レベル)を上回る値を有するピクセルまたは下側閾値(たとえば、黒閾値)を下回るピクセルを識別することによって、飽和ピクセルを検出することができる。
基線画像内の飽和ピクセルを置換するためのピクセルを生成するために第2の複数の画像からのピクセルデータが使用されるため、いくつかの実施形態において、第2の複数の画像は、第1の複数の画像と同じタイプの画像であり得る。たとえば、第1の複数の画像が検査画像である場合、第2の複数の画像もまた、検査画像であり得る。しかしながら、他の実施形態において、異なる画像タイプが代替的に使用されてもよい。たとえば、第1の複数の画像が構造光である場合(たとえば、構造光パターンが一様な検査光と比較して十分な強度を有するとき)、特徴は検査画像内で一様に照明されるため、検査画像である(たとえば、一様な検査照明のみ)第2の複数の画像が使用され得る。言い換えれば、高ダイナミックレンジ画像は、測定画像、ステレオ画像、検査画像、またはそれらの任意の組み合わせであってもよい。
そのため、高ダイナミックレンジ画像は、基線画像よりも少ない飽和ピクセルを含み得る。言い換えれば、高ダイナミックレンジ画像は基線画像において(たとえば、飽和に起因して)不明瞭である標的画像の詳細を描写することができるため、高ダイナミックレンジ画像の有用性は、基線画像よりも良好であり得る。事実、内視鏡システム10によって捕捉される画像の有用性をさらに改善するために、同じ基線画像および第2の複数の画像からの1つまたは複数の画像を使用して、複数の高ダイナミックレンジ画像を生成することができる。たとえば、いくつかの実施形態において、通常の高ダイナミックレンジ画像、明るい高ダイナミックレンジ画像、および暗い高ダイナミックレンジ画像が各々生成され得る。そのような実施形態において、これら異なる高ダイナミックレンジ画像は、標的特徴の異なるビューをもたらすことができる。より詳細には、これらの高ダイナミックレンジ画像の間の輝度差は、捕捉される画像データに異なる線形または非線形スケーリングを適用することによってもたらすことができる。
さらに、いくつかの実施形態において、第1の複数の画像および第2の複数の画像の捕捉は、散在していてもよい。言い換えれば、内視鏡システム10は、第1の複数の画像のうちの1つまたは複数を捕捉し、第2の複数の画像のうちの1つまたは複数の捕捉に切り替え、第1の複数の画像のうちの1つまたは複数の捕捉に切り替え戻す、などすることができる。明示を助けるために、第1の複数の画像および第2の複数の画像の捕捉を散在させるためのプロセス62の一実施形態が図3に示されている。一般的に、プロセス62は、第1の輝度レベルにおいて第1の画像を捕捉すること(プロセスブロック64)と、いつ十分に小さい動きがあるかを判定すること(プロセスブロック66)と、異なる輝度レベルにおいて第2の複数の画像を捕捉すること(プロセスブロック68)と、高ダイナミックレンジ画像を生成すること(プロセスブロック70)とを含む。いくつかの実施形態において、プロセス62は、有形非一時的メモリ40または記憶デバイス42内に記憶されているコンピュータ可読命令を介して実施することができ、内視鏡システム10内のプロセッサ(たとえば、マイクロコントローラ34、ビデオプロセッサ36、CPU38、または遠隔コンピューティングデバイス内のプロセッサ)によって実行することができる。
したがって、いくつかの実施形態において、プロセッサ(たとえば、マイクロコントローラ34)は、内視鏡システム10に、第1の輝度レベルにある第1の画像を捕捉するように命令することができる(プロセスブロック64)。いくつかの実施形態において、第1の画像は、上述した第1の複数の画像のうちの1つであってもよい。したがって、第1の画像は、プロセスブロック54において説明した技法を使用して捕捉することができる。より詳細には、上述したように、プロセッサ(たとえば、マイクロコントローラ34)は、撮像装置16に、特定の露出時間を使用して第1の画像を捕捉するように命令し、撮像装置インターフェース32に、特定の利得を適用するように命令し、光源(たとえば、白色光源28または放出器モジュール22)に、特定の照明レベル/パターンを与えるように命令することができる。第1の画像はその後、デジタル画像データをメモリ40または記憶デバイス42内に記憶することによって、捕捉することができる。加えて、第1の画像または第1の画像を使用して生成されるビデオは、ディスプレイ50または遠隔コンピューティングデバイスにあるディスプレイに表示することができる。さらに、第1の画像を利用して、基線画像を生成することができる。
撮像装置16と、第1の画像内に描写されている特徴との間の動きが十分に小さいとプロセッサ(たとえば、CPU38またはビデオプロセッサ36)が判定すると(プロセスブロック66)、プロセッサ(たとえば、マイクロコントローラ34)は、内視鏡システム10に、第1の輝度レベルとは異なる第2の輝度レベルにおいて第2の画像を捕捉するように命令することができる(プロセスブロック68)。上述したように、プロセッサ(たとえば、CPU38またはビデオプロセッサ36)は、第1の複数の画像のうちの別の画像と第1の画像とを比較すること、ならびに、画像間で異なるピクセル値の数および/または画像間で特徴が動いたピクセルの数を判定することのような、任意の適切な技法を使用して動きがあるか否かを検出することができる。
加えて、いくつかの実施形態において、第2の画像は、上述した第2の複数の画像のうちの1つであってもよい。したがって、第2の画像は、プロセスブロック58において説明した技法を使用して捕捉することができる。より詳細には、上述したように、プロセッサ(たとえば、マイクロコントローラ34)は、撮像装置16に、特定の露出時間を使用して第2の画像を捕捉するように命令し、撮像装置インターフェース32に、特定の利得を適用するように命令し、光源(たとえば、白色光源28または放出器モジュール22)に、特定の照明レベル/パターンを与えるように命令することができる。第2の画像はその後、デジタル画像データをメモリ40または記憶デバイス42内に記憶することによって、捕捉することができる。
第2の画像が捕捉された後、内視鏡システム10は任意選択的に、第1の複数の画像の捕捉に戻ってもよい(矢印74)。より詳細には、いくつかの実施形態において、内視鏡システム10は、高ダイナミックレンジ画像を生成することなく第1の複数の画像の捕捉に切り替え戻してもよい。他の実施形態において、プロセッサ(たとえば、CPU38またはビデオプロセッサ36)は、第2の画像を使用して高ダイナミックレンジ画像を生成することができる(プロセスブロック70)。
言い換えれば、いくつかの実施形態において、内視鏡システム10は、輝度レベルの異なる追加の画像を捕捉することができる。輝度レベルの異なる画像の正確な数は、実施態様に応じて変化し得る。たとえば、いくつかの実施形態において、第2の画像のみが捕捉される。他の実施形態において、第2の画像は第2の複数の画像からの他の画像とともに捕捉されてもよい。
上記の実施例に基づいて、十分に小さい動きがあるという判定は、第2の画像を捕捉するためのトリガ、より一般的には、第1の複数の画像の捕捉から第2の複数の画像の捕捉へと切り替えるためのトリガであり得る。動きがないことをトリガとして使用することは、様々な実施態様において有利であり得る。たとえば、上述したように、内視鏡システム10は、動きが検出されないときに、第1の複数の画像の捕捉を停止し、第2の複数の画像の捕捉を開始することができる。
事実、動きがないことを、第2の複数の画像のうちの1つまたは複数を捕捉するためのトリガとして使用することは、第1の複数の画像の捕捉および第2の複数の画像の捕捉が散在するときに特に有用であり得る。たとえば、いくつかの実施形態において、プロセッサ(たとえば、CPU38またはビデオプロセッサ36)が基線画像または第1の画像内に飽和ピクセルを検出すると、プロセッサは、ローカルユーザに、第2の複数の画像を捕捉することができるように、同じ位置に留まるよう命令するプロンプトを表示することができる。そのような実施形態において、飽和ピクセルを置換するために使用することができる第2の複数の画像は、飽和が検出されるとすぐに捕捉されるため、ユーザに表示される画像は、高ダイナミックレンジ画像であり得る。
事実、いくつかの実施形態において、高ダイナミックレンジ画像は、高ダイナミックレンジビデオをユーザに表示するために使用することができる。高ダイナミックレンジ画像を生成するためには追加の処理が使用されるが、処理能力の技術的進歩は、高ダイナミックレンジ画像をほぼリアルタイムで生成する可能性を呈している。加えて、内視鏡システム10は一般的に、機器または設備内で低速で動くことになり、これによって、ビデオを表示することに対する時間的な制約が緩和されることは諒解されたい。言い換えれば、ほぼリアルタイムのビデオ(たとえば、高ダイナミックレンジビデオ)は、ユーザに、撮像装置16に近接する特徴の指示を与えるのに十分であり得る。
高ダイナミックレンジ画像を生成するのに加えて、内視鏡システム10によって捕捉される画像は、標的特徴に関係する他の情報を確定するために使用することができる。たとえば、いくつかの実施形態において、捕捉画像は、標的特徴の3Dプロファイルを記述するための、特徴の点群データ、点群画像および/または深さプロファイルを生成するために使用することができる。そのため、いくつかの実施形態において、特徴に関係する複数の情報を同時にまたはほぼ同時に提示することができる。
たとえば、図4に示す画面図74に示されている実施形態において、内視鏡システム10によって捕捉および生成される様々な画像は、ほぼ同時に閲覧することができる。より詳細には、画面図74は、ディスプレイ50または遠隔コンピューティングデバイスにあるディスプレイのような、任意の適切なディスプレイ上に表示することができる。
そのため、様々な捕捉および生成される画像のみを表示するのに加えて、画面図74は、内視鏡システム10の状態情報を表示することができる。たとえば、図示されている実施形態において、画面図74は、ネットワーク状態アイコン76、日付表示78、時刻表示80、および電池状態アイコン82を表示する。より詳細には、図示されている実施形態において、ネットワーク状態アイコン76は、内視鏡システム10がBluetooth(登録商標)ネットワークに接続されていることを示し、日付表示78は、現在の日付が2014年4月15日であることを示し、時刻表示80は、現在時刻が午後12時19分であることを示し、電池状態アイコン82は、電池が一杯に充電されていることを示す。
加えて、上述したように、ユーザは、たとえば、ジョイスティック44またはキーパッド46を介してユーザコマンドを入力することによって、内視鏡システム10と対話することができる。たとえば、下記により詳細に説明するように、ユーザは、画面図74上の様々な表示のうち、全画面表示するものを選択することができる。加えて、上述したように、ディスプレイ50は、ソフトボタンを使用することを可能にするタッチセンサ式ディスプレイであってもよい。たとえば、図示されている実施形態におけるように、画面図74は、戻るソフトボタン84、表示ソフトボタン86、メニューソフトボタン88、および保存ソフトボタン90を含む。より詳細には、ユーザは、以前の画面に戻るために戻るソフトボタン84を選択し、選択されたサムネイル画像を見るために表示ソフトボタン86を選択し、メニューに移動するためにメニューボタン88を選択し、または、選択された画像を保存するために保存ソフトボタン90を選択することができる。諒解され得るように、ディスプレイ50上に提示されるソフトボタンはプログラム可能であり、何が表示されているかに基づいて変更することができる。
上述したように、画面図74は、内視鏡システム10によって捕捉および/または生成される様々な画像を表示することができる。たとえば、図示されている実施形態において、画面図74は、通常画像92、高ダイナミックレンジ画像94、明るい画像96、暗い画像98、点群画像100、および深さプロファイル画像102を表示する。図示されているように、様々な画像は、それらの画像をほぼ同時に表示するためにサムネイルとして描写することができる。したがって、ユーザは、たとえば、キーボード46、ジョイスティック44、および/またはタッチセンサ式ディスプレイを介して様々な画像と対話することができる。たとえば、ユーザは、サムネイル画像のうち、保存または全画面表示するものを選択することができる。
画面図74を生成するために利用することができるプロセス104の一実施形態が図5に示されている。一般的に、プロセス104は、複数の画像を捕捉すること(プロセスブロック106)と、通常の輝度を有する画像を生成すること(プロセスブロック108)と、高ダイナミックレンジ画像を生成すること(プロセスブロック110)と、輝度の高い画像を生成すること(プロセスブロック112)と、輝度の低い画像を生成すること(プロセスブロック114)と、点群画像を生成すること(プロセスブロック116)と、深さプロファイル画像を生成すること(プロセスブロック118)と、サムネイル画像を生成すること(プロセスブロック120)とを含む。いくつかの実施形態において、プロセス104は、有形非一時的メモリ40または記憶デバイス42内に記憶されているコンピュータ可読命令を介して実施することができ、内視鏡システム10内のプロセッサ(たとえば、マイクロコントローラ34、ビデオプロセッサ36、CPU38、または遠隔コンピューティングデバイス内のプロセッサ)によって実行することができる。
したがって、いくつかの実施形態において、プロセッサ(たとえば、マイクロコントローラ34)は、内視鏡システム10に、複数の画像を捕捉するように命令することができる。より詳細には、複数の画像は、上述した第1の複数の画像および/または第2の複数の画像を含んでもよく、これらの画像は上述したように、ユーザが開始する補足要求、十分に小さい動きの検出、または、第1の複数の画像内の飽和ピクセルの検出に応答して捕捉されてもよい。そのため、プロセッサ(たとえば、マイクロコントローラ34)は、撮像装置16に、所望の輝度レベルにおいて画像を捕捉するように命令することができる。上述したように、プロセッサ(たとえば、マイクロコントローラ34)は、撮像装置16の露出時間、撮像装置インターフェース32によって適用される利得、および/または光源(たとえば、白色光源28または放出器モジュール22)によってもたらされる照明レベルを調整することによって、捕捉画像の輝度レベルを制御することができる。加えて、上述したように、内視鏡システム10は、デジタル画像データをメモリ40または記憶デバイス42内に記憶することによって、複数の画像を捕捉することができる。
複数の画像のうちの1つまたは複数が捕捉されると、プロセッサ(たとえば、CPU38またはビデオプロセッサ36)は、内視鏡システム10に、通常の輝度を有する画像を生成するように命令することができる(プロセスブロック108)。いくつかの実施形態において、通常輝度画像は捕捉画像のうちの1つにすぎないものであり得る。他の実施形態において、通常輝度画像は、第1の複数の画像に基づいて生成される基線画像であってもよい。そのような実施形態において、プロセッサ(たとえば、CPU38またはビデオプロセッサ36)は、内視鏡システム10に、第1の複数の画像からの画像をともに合計または平均することによって、通常輝度画像を生成するように命令することができる。
加えて、プロセッサ(たとえば、CPU38またはビデオプロセッサ36)は、内視鏡システム10に高ダイナミックレンジ画像を生成するように命令することができる(プロセスブロック110)。上述したように、いくつかの実施形態において、高ダイナミックレンジ画像は、第1の複数の画像のうちの1つまたは複数(たとえば、基線画像)および第2の複数の画像のうちの1つまたは複数に少なくとも部分的に基づいて生成することができる。より詳細には、そのような実施形態において、通常画像内の飽和ピクセルを、第2の複数の画像のうちの1つまたは複数に基づいて生成される不飽和ピクセルと置換することができる。
高ダイナミックレンジ画像に加えて、プロセッサ(たとえば、CPU38またはビデオプロセッサ36)は、内視鏡システム10に、輝度レベルの高い画像を生成し(プロセスブロック112)、輝度レベルの低い画像を生成する(プロセスブロック114)ように命令することができる。上述したように、輝度レベルの異なる複数の画像があることによって、ユーザは、特徴の様々な表示を有することが可能になり得る。いくつかの実施形態において、高輝度画像は、通常画像よりも高い輝度レベルで捕捉される単一の画像であってもよい。同様に、いくつかの実施形態において、低輝度画像は、通常画像よりも低い輝度レベルで捕捉される単一の画像であってもよい。そのような実施形態において、高輝度画像および/または低輝度画像は単純に、第2の複数の画像のうちの1つであってもよい。
他の実施形態において、高輝度画像および/または低輝度画像はまた、高ダイナミックレンジ画像であってもよい。そのような実施形態において、高輝度画像は、プロセスブロック110において生成される高ダイナミックレンジ画像よりも高くスケーリングされた輝度を有する高ダイナミックレンジ画像であってもよく、かつ/または、基線画像よりも高いピクセル値平均を有してもよい。同様に、低輝度画像は、プロセスブロック110において生成される高ダイナミックレンジ画像よりも低くスケーリングされた輝度を有する高ダイナミックレンジ画像であってもよく、かつ/または、基線画像よりも低いピクセル値平均を有してもよい。言い換えれば、本明細書において記載されている技法は、輝度レベルが様々な複数の高ダイナミックレンジ画像を生成することを可能にする。上述したように、高ダイナミックレンジ画像は、一般的に、単一の画像よりも少ないノイズおよび少ない飽和ピクセルを含む。言い換えれば、様々な輝度レベルを有する画像を表示するだけでなく、飽和ピクセルのより少ない様々な輝度レベルにおける画像をも表示することによって、内視鏡システム10によって生成される画像の有用性をさらに改善することができる。
上述したように、内視鏡システム10によって捕捉される画像は、測定画像、ステレオ画像、検査画像、またはそれらの任意の組み合わせのような、任意の数の適切な画像タイプであってもよい。より詳細には、画像タイプが様々であることによって、標的特徴に関係する異なる情報が確定されることを可能にすることができる。たとえば、検査画像(たとえば、一様な輝度で捕捉される画像)は、撮像装置16の観点から標的特徴を描写することができる。他方、ステレオ画像および/または構造光測定画像を使用して点群データを生成することができ、その後、点群データを使用して、点群画像および/または深さプロファイルを生成することができる。
そのため、プロセッサ(たとえば、CPU38またはビデオプロセッサ36)は、内視鏡システム10に、点群画像を生成し(プロセスブロック116)、深さプロファイル画像を生成するように命令することができる(プロセスブロック118)。より詳細には、点群画像は、標的特徴の3D表現を与えるために生成される点群データに基づき得る。いくつかの実施形態において、点群画像は、測定カーソルの位置付けまたは選択される関心領域に基づいて選択される、点群データのサブセットに基づいてもよい。加えて、深さプロファイルは、標的特徴の断面図を与えるために生成される点群データに基づき得る。いくつかの実施形態において、深さプロファイルの位置は、ユーザによって、測定カーソルを位置付けることによって選択することができる。
いくつかの実施形態において、点群データは、測定画像(たとえば、構造光画像)またはステレオ画像を使用して生成することができる。たとえば、点群データは、構造光パターンが観察される表面に対して投影されている間に捕捉される構造光画像に対する位相シフト解析を使用して生成することができる。付加的にまたは代替的に、点群データは、複数の異なる視点から捕捉されるステレオ画像を使用して生成することができる。そのため、測定画像内で捕捉される特徴の詳細が多くなるほど、生成される点群画像はより正確になる。
しかしながら、上述したように、ピクセルが飽和すると、標的特徴の詳細は、捕捉画像において不明瞭になる可能性がある。撮像装置16に近接する物体または表面に対する溶接(たとえば、反射性の高い表面)によって、この溶接が捕捉画像内で飽和して見えるようになると、溶接は完全に白く見えることになるため、溶接の3D特性(たとえば、高さまたは形状)を正確に判定することは困難になる。
いくつかの実施形態において、第2の複数の画像を使用して、標的特徴の詳細の捕捉を改善することができる。より詳細には、上述したように、第2の複数の画像は、異なる輝度レベルにおいて捕捉される測定画像を含み得る。そのため、判定される3D表面データ点の数を増大させるために、輝度レベルの様々な画像を使用して点群データを生成することができる。
明示を助けるために、複数の異なる視点から撮影される画像内で捕捉される表面点をマッチングすることによって、点群データを生成することができる。しかしながら、ステレオ測定画像が飽和している(たとえば、明るすぎるまたは暗すぎる)ピクセルを含むとき、画像内で同じ表面点を区別することが困難である場合があるため、ステレオマッチングが妨げられる場合がある。たとえば、上記の実施例で続けると、溶接は完全に白く見えるため、複数のステレオ画像内の溶接の同じ点を位置特定することは困難である場合がある。しかしながら、第2の複数の画像のうちの1つまたは複数の中の同じピクセルは不飽和であり得る。そのため、プロセッサは、この第2の複数の画像のうちの1つまたは複数を利用して、ステレオマッチングを実施し、点群データを生成することができる。言い換えれば、第1の複数の画像のうちの1つまたは複数、基線贋造、第2の複数の画像のうちの1つまたは複数、および生成される高ダイナミックレンジ画像の任意の組み合わせを使用して、点群データを生成することができる。
同様に、レーザ点格子のような構造光パターンが第1の複数の画像と第2の複数の画像の両方において捕捉される場合、プロセッサは、第1の複数の画像のうちの1つまたは複数、基線贋造、第2の複数の画像のうちの1つまたは複数、および生成される高ダイナミックレンジ画像の任意の組み合わせを使用して、パターンの位置を検出することができる。プロセッサはその後、検出されたパターン位置を使用して、3D表面データを確定することができる。
加えて、上述したように、第2の複数の画像を使用して、高ダイナミックレンジ画像を生成することができ、高ダイナミックレンジ画像は、飽和の量を低減することができ、任意の適切な画像タイプであってもよい。したがって、高ダイナミックレンジ画像を使用して生成されるデータまたは画像は、より有用であり得る。たとえば、上記の実施例で続けると、1つまたは複数の高ダイナミック測定画像を使用して、溶接の高い反射性を補償し、溶接の特性のより多くの詳細を描写することができる。したがって、高ダイナミックレンジ測定画像を使用して点群データ/画像を生成することによって、特徴に関係するより正確な情報をもたらすことができ、これによってまた、点群画像および深さプロファイル画像の正確さも改善する。
プロセッサ(たとえば、CPU38またはビデオプロセッサ36)はその後、内視鏡システム10に、生成された画像(たとえば、通常輝度画像、高輝度画像、高ダイナミックレンジ画像、低輝度画像、点群画像、または深さプロファイル画像)をサムネイル画像として表示するように命令することができる(プロセスブロック120)。いくつかの実施形態において、サムネイル画像を生成することは、生成された画像をサムネイルサイズにスケーリングすることを含み得る。上述したように、サムネイル画像は、たとえば、サムネイル画像と対応する画像を保存するか、または、全画面で表示するために、ユーザによって選択可能であり得る。したがって、いくつかの実施形態において、ディスプレイ50はタッチセンサ式ディスプレイであり得るため、サムネイル画像を生成することは、ユーザによって選択可能なサムネイル画像ソフトボタンを生成することを含み得る。
上記の記述に基づいて、本開示の技術的効果は、内視鏡システムのような、遠隔視覚検査システムによって捕捉される画像の有用性を改善するためのシステムおよび方法を提供することを含む。より詳細には、1つまたは複数の高ダイナミックレンジ画像を生成することによって、画像の有用性を改善することができる。さらに、高ダイナミックレンジ画像をより効率的に捕捉し、生成することができる。たとえば、高ダイナミックレンジ画像は、ライブビデオを表示するために使用される画像に基づいて生成することができる。言い換えれば、遠隔視覚検査システムは、たとえ捕捉コマンドが受信される前であっても、高ダイナミックレンジ画像の生成を開始することができる。
本明細書は発明を開示し、さらに当業者が発明を実践することを可能にするために、任意のデバイスまたはシステムを作成および使用すること、ならびに任意の組み込まれた方法を使用することを含む、最良の形態を含む実施例を使用している。本発明の特許可能な範囲は特許請求の範囲によって画定され、当業者が着想する他の実施例を含んでもよい。そのような他の実施例は、それらが特許請求の範囲の文言と異ならない構造要素を有する場合に、またはそれらが特許請求の範囲の文言との十分な差違を有しない等価な構造要素を含む場合に、特許請求の範囲内に入ることが意図される。
10 内視鏡システム
12 挿入管
14 基部アセンブリ
15 プローブ先端部
16 撮像装置
18 撮像装置電子機器
20 レンズ
22 放出器モジュール
24 光ファイバ束
26 拡散器
28 白色光源
30 放出器駆動部
32 撮像装置インターフェース
34 マイクロコントローラ
36 ビデオプロセッサ
38 中央処理装置
40 メモリ
42 記憶デバイス
44 ジョイスティック
46 キーパッド
46 キーボード
48 ネットワークインターフェース
50 ディスプレイ
74 画面図
76 ネットワーク状態アイコン
78 日付表示
80 時刻表示
82 電池状態アイコン
84 戻るソフトボタン
86 表示ソフトボタン
88 メニューソフトボタン
90 保存ソフトボタン
92 通常画像
94 高ダイナミックレンジ画像
96 明るい画像
98 暗い画像
100 点群画像
102 深さプロファイル画像

Claims (21)

  1. 機器および設備の検査に使用される内視鏡(10)のプロセッサ(34、36、38)命令を実行させるプログラムを記録したコンピュータ可読媒体であって、前記命令は、
    第1の複数の画像に少なくとも部分的に基づくライブビデオが表示されている間に、1の輝度レベルにおいて前記内視鏡(10)内の撮像装置(16)に前記第1の複数の画像を捕捉させるための命令と、
    記第1の複数の画像を平均または合計することによって前記第1の複数の画像のうち1つ以上におけるノイズに起因する視覚的アーティファクトを低減するように基線画像を生成するための命令と、
    数の輝度レベルにおいて第2の複数の画像を前記撮像装置(16)に捕捉させるための命令であって、前記複数の輝度レベルは前記第1の輝度レベルとは異なる、前記撮像装置(16)に第2の複数の画像を捕捉させるための命令と、
    記第2の複数の画像に少なくとも部分的に基づいて前記基線画像を修正することにより第1の高ダイナミックレンジ画像(94)を生成するための命令であって、前記第1の高ダイナミックレンジ画像(94)は、前記基線画像よりも多くの不飽和ピクセルを含む、第1の高ダイナミックレンジ画像を生成するための命令と
    を含む、ンピュータ可読媒体。
  2. 前記第1の高ダイナミックレンジ画像(94)を生成するための前記命令は、前記基線画像からの飽和ピクセルを検出する命令と、第1の不飽和ピクセルデータを生成する命令であって、前記第2の複数の画像のうちの少なくとも1つからの第2の不飽和ピクセルデータをスケーリングすることによって前記第1の不飽和ピクセルデータを生成する命令と、前記飽和ピクセルを前記第1の不飽和ピクセルデータと置換する命令と、を含む、請求項1記載のコンピュータ可読媒体。
  3. 前記命令は、前記第1の複数の画像のうちの2つ以上を比較することによって、前記撮像装置(16)に近接する特徴が、前記撮像装置(16)に対して実質的に動いているか否かを判定するための命令を含む、請求項1又は2記載のコンピュータ可読媒体。
  4. 前記第2の複数の画像は、実質的な動きが検出されないときに自動的に捕捉される、請求項3記載のコンピュータ可読媒体。
  5. 前記第1の高ダイナミックレンジ画像(94)は、前記第2の複数の画像に少なくとも部分的に基づいて前記第1の複数の画像の一つを修正することにより生成されたさらなる高ダイナミックレンジ画像よりもノイズに起因する視覚的アーティファクトが少ない、請求項から4のいずれか1項記載のコンピュータ可読媒体。
  6. 前記撮像装置(16)に前記第2の複数の画像を捕捉させるための前記命令は、前記撮像装置(16)の露出時間、適用される利得、前記内視鏡(10)に対する光源(22、28)の照明レベル、またはそれらの任意の組み合わせを変更することによって、前記第2の複数の画像のうちの1つまたは複数の捕捉の間で輝度を変更するための命令を含む、請求項1から5のいずれか1項記載のコンピュータ可読媒体。
  7. 前記命令は、前記第2の複数の画像を捕捉している間に前記撮像装置(16)に構造光画像またはステレオ画像を捕捉させるための命令を含む、請求項1から6のいずれか1項記載のコンピュータ可読媒体。
  8. 第2の複数の画像を捕捉させるための前記命令は、
    前記撮像装置(16)に、の輝度レベルにおいて前記第2の複数の画像のうちの第1の画像を捕捉させるための命令と、
    前記撮像装置(16)に、前記第2の輝度レベルと異なるの輝度レベルにおいて前記第2の複数の画像のうちの第2の画像を捕捉させるための命令と、
    前記撮像装置(16)に、前記第の輝度レベルにおいて前記第2の複数の画像のうちの第3の画像を捕捉させるための命令と
    を含み、
    前記第1の高ダイナミックレンジ画像(94)を生成するための前記命令は、前記第1の画像および前記第3の画像を平均または合計することによって合成画像を生成するための命令と、前記合成画像と前記第2の画像と前記基線画像の少なくとも一部に基づいて前記第1の高ダイナミックレンジ画像(94)を生成する命令と、を含む、請求項1から7のいずれか1項記載のコンピュータ可読媒体。
  9. 前記命令は、前記第1の高ダイナミックレンジ画像を用いて3次元的な標的特徴を表すための点群データを生成するための命令を含む、請求項8記載のコンピュータ可読媒体。
  10. 前記命令は、
    前記基線画像と前記第2の複数の画像の少なくとも一部に基づいて、前記第1の高ダイナミックレンジ画像よりも暗い第2の高ダイナミックレンジ画像を生成する命令と、
    前記基線画像と前記第2の複数の画像の少なくとも一部に基づいて、前記第1の高ダイナミックレンジ画像よりも明るい第3の高ダイナミックレンジ画像を生成する命令と、を含む、請求項1から9のいずれか1項記載のコンピュータ可読媒体。
  11. 前記命令は、前記第1の高ダイナミックレンジ画像、前記第2の高ダイナミックレンジ画像及び前記第3の高ダイナミックレンジ画像のうち少なくとも2つを、画面上で比較可能にディスプレイ(50)に表示させるための命令を含む、請求項10記載のコンピュータ可読媒体。
  12. 前記命令は、前記第1の高ダイナミックレンジ画像、前記第2の高ダイナミックレンジ画像及び前記第3の高ダイナミックレンジ画像のうち少なくとも1つを使用して、3次元的な標的特徴を表すための点群データを生成するための命令を含む、請求項10又は11記載のコンピュータ可読媒体。
  13. 前記命令は、前記点群データに基づいて深さプロファイル画像を生成するための命令を含む、請求項12記載のコンピュータ可読媒体。
  14. 遠隔視覚検査システム内のプロセッサ(34、36、38)であって、
    ノイズに起因する視覚的アーティファクトに対して第1の複数の画像中の近接する特徴を強調するように前記第1の複数の画像をともに平均または合計することによって基線画像を生成することであって、前記第1の複数の画像は、第1の輝度レベルにおいて前記遠隔視覚検査システムの撮像装置(16)を使用して捕捉される、基線画像を生成することと、
    前記第1の複数の画像に少なくとも部分的に基づいてライブビデオフィードを生成することと、
    前記基線画像からの第1の不飽和ピクセルデータ、および、第2の複数の画像のうちの少なくとも1つの画像からの第2の不飽和ピクセルデータを使用して前記基線画像を修正することによって第1の高ダイナミックレンジ画像(94)を生成することであって、前記第2の複数の画像は、前記第1の輝度レベルとは異なる輝度レベルにおいて前記撮像装置(16)を使用して捕捉される、第1の高ダイナミックレンジ画像(94)を生成することと
    を行うように構成されている、プロセッサ(34、36、38)。
  15. 前記プロセッサ(34、36、38)は、
    前記第1の複数の画像からの画像を比較することによって、前記撮像装置(16)近接する特徴の動きを検出することと、
    動きが検出されないときに、前記第2の複数の画像を自動的に捕捉することと
    を行うように構成されている、請求項14記載のプロセッサ(34、36、38)。
  16. 前記第1の高ダイナミックレンジ画像(94)は、前記第2の複数の画像に少なくとも部分的に基づいて前記第1の複数の画像の一つを修正することにより生成されたさらなる高ダイナミックレンジ画像よりも、ノイズに起因する視覚的アーティファクトが少ない、請求項14又は15記載のプロセッサ(34、36、38)。
  17. 前記プロセッサ(34、36、38)は、画像捕捉コマンドが受信された後に、
    前記第1の複数の画像の捕捉を停止することと、
    前記第2の複数の画像の捕捉を開始することと
    を行うように構成されている、請求項14から16のいずれか1項記載のプロセッサ(34、36、38)。
  18. 前記プロセッサ(34、36、38)は、
    前記基線画像と前記第2の複数の画像の少なくとも一部に基づいて、前記第1の高ダイナミックレンジ画像よりも暗い第2の高ダイナミックレンジ画像を生成することと、
    前記基線画像と前記第2の複数の画像の少なくとも一部に基づいて、前記第1の高ダイナミックレンジ画像よりも明るい第3の高ダイナミックレンジ画像を生成することと、を行うように構成されている、請求項14から17のいずれか1項記載のプロセッサ(34、36、38)。
  19. 前記プロセッサ(34、36、38)は、前記第1の高ダイナミックレンジ画像、前記第2の高ダイナミックレンジ画像及び前記第3の高ダイナミックレンジ画像のうちの少なくとも2つを画面上で比較可能にディスプレイ(50)に表示させることを行うように構成されている、請求項18記載のプロセッサ(34、36、38)。
  20. 前記プロセッサ(34、36、38)は、前記第1の高ダイナミックレンジ画像、前記第2の高ダイナミックレンジ画像及び前記第3の高ダイナミックレンジ画像のうち少なくとも1つを使用して3次元的な標的特徴を表すための点群データを生成することを行うように構成されている、請求項18又は19記載のプロセッサ(34、36、38)。
  21. 前記プロセッサ(34、36、38)は、前記点群データに基づいて深さプロファイル画像を生成することを行うように構成されている、請求項20記載のプロセッサ(34、36、38)。
JP2016568968A 2014-05-30 2015-05-12 遠隔視覚検査画像捕捉システムおよび方法 Active JP6681844B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US14/292,648 US9633426B2 (en) 2014-05-30 2014-05-30 Remote visual inspection image capture system and method
US14/292,648 2014-05-30
PCT/US2015/030252 WO2015183541A1 (en) 2014-05-30 2015-05-12 Remote visual inspection image capture system and method

Publications (2)

Publication Number Publication Date
JP2017527137A JP2017527137A (ja) 2017-09-14
JP6681844B2 true JP6681844B2 (ja) 2020-04-15

Family

ID=53276273

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016568968A Active JP6681844B2 (ja) 2014-05-30 2015-05-12 遠隔視覚検査画像捕捉システムおよび方法

Country Status (5)

Country Link
US (3) US9633426B2 (ja)
JP (1) JP6681844B2 (ja)
CN (1) CN106416225B (ja)
DE (1) DE112015002570T5 (ja)
WO (1) WO2015183541A1 (ja)

Families Citing this family (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9002719B2 (en) 2012-10-08 2015-04-07 State Farm Mutual Automobile Insurance Company Device and method for building claim assessment
US8872818B2 (en) * 2013-03-15 2014-10-28 State Farm Mutual Automobile Insurance Company Methods and systems for capturing the condition of a physical structure
JP5959787B1 (ja) * 2014-11-27 2016-08-02 オリンパス株式会社 画像再生装置および画像再生プログラム
WO2017051808A1 (ja) 2015-09-25 2017-03-30 日立マクセル株式会社 放送受信装置
CN113660521A (zh) 2015-09-25 2021-11-16 麦克赛尔株式会社 接收装置
US10197473B2 (en) * 2015-12-09 2019-02-05 General Electric Company System and method for performing a visual inspection of a gas turbine engine
US10648924B2 (en) * 2016-01-04 2020-05-12 Kla-Tencor Corp. Generating high resolution images from low resolution images for semiconductor applications
US10324770B2 (en) * 2016-03-18 2019-06-18 Ca, Inc. Efficient application feedback collection
WO2017171710A1 (en) * 2016-03-28 2017-10-05 Hewlett-Packard Development Company, L.P. Calibration data transmissions
US10176527B1 (en) 2016-04-27 2019-01-08 State Farm Mutual Automobile Insurance Company Providing shade for optical detection of structural features
GB2550117A (en) * 2016-05-04 2017-11-15 E M & I (Maritime) Ltd Inspection method
US10666927B2 (en) * 2017-03-15 2020-05-26 Baker Hughes, A Ge Company, Llc Method and device for inspection of an asset
CN111164375B (zh) * 2017-10-06 2022-04-19 先进扫描仪公司 用于生成锐化阴影的装置
US10489896B2 (en) 2017-11-14 2019-11-26 General Electric Company High dynamic range video capture using variable lighting
US10488349B2 (en) 2017-11-14 2019-11-26 General Electric Company Automated borescope insertion system
US10757358B1 (en) * 2019-06-05 2020-08-25 Primesensor Technology Inc. Photographing device having two output interfaces
EP3510925A1 (en) * 2018-01-10 2019-07-17 Universite Libre De Bruxelles Endoscopic non-contact measurement device
JP6770254B2 (ja) * 2018-02-07 2020-10-14 オムロン株式会社 3次元測定装置、3次元測定方法及び3次元測定プログラム
US10775315B2 (en) 2018-03-07 2020-09-15 General Electric Company Probe insertion system
US10545096B1 (en) 2018-10-11 2020-01-28 Nanotronics Imaging, Inc. Marco inspection systems, apparatus and methods
EP3669748A1 (en) * 2018-12-19 2020-06-24 Koninklijke Philips N.V. A mirror assembly
CN110072052B (zh) * 2019-04-09 2021-08-27 Oppo广东移动通信有限公司 基于多帧图像的图像处理方法、装置、电子设备
CN110062159A (zh) * 2019-04-09 2019-07-26 Oppo广东移动通信有限公司 基于多帧图像的图像处理方法、装置、电子设备
CN110225261B (zh) * 2019-06-21 2021-03-26 上海集成电路研发中心有限公司 一种ZigZagHDR曝光控制系统及其进行曝光控制的方法
US20220296315A1 (en) * 2019-07-15 2022-09-22 Corindus, Inc. Data capture and adaptove guidance for robotic procedures with an elongated medical device
US11593919B2 (en) 2019-08-07 2023-02-28 Nanotronics Imaging, Inc. System, method and apparatus for macroscopic inspection of reflective specimens
US10915992B1 (en) 2019-08-07 2021-02-09 Nanotronics Imaging, Inc. System, method and apparatus for macroscopic inspection of reflective specimens
CN110581957B (zh) * 2019-08-26 2021-04-02 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备
US20210129971A1 (en) * 2019-11-01 2021-05-06 The Boeing Company System and method for measuring localized characteristics of a transparency
CN111784668A (zh) * 2020-07-01 2020-10-16 武汉楚精灵医疗科技有限公司 基于感知哈希算法的消化内镜检查影像自动冻结的方法
DE102020120257A1 (de) 2020-07-31 2022-02-03 Smartvision Gmbh Verfahren und Analysevorrichtung zum Erzeugen von Trainings- oder Korrekturdaten für ein künstliches neuronales Netz
US20220067993A1 (en) * 2020-08-31 2022-03-03 Popshop Technologies, Inc. Live streaming object image capture and image conversion to product catalog
US11706507B2 (en) 2020-12-30 2023-07-18 Waymo Llc Systems, apparatus, and methods for generating enhanced images
KR20240032104A (ko) * 2021-07-14 2024-03-08 나노트로닉스 이미징, 인코포레이티드 반사 표본의 거시적 검사를 위한 시스템, 방법 및 장치
CN116452485A (zh) * 2022-01-05 2023-07-18 通用汽车环球科技运作有限责任公司 基于图像相关联性的反射表面的检查

Family Cites Families (242)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US2929866A (en) 1953-10-30 1960-03-22 Westinghouse Electric Corp Television pickup tube
GB937358A (en) 1961-11-13 1963-09-18 Marconi Wireless Telegraph Co Improvements in or relating to television scanning systems
JPS4844279B1 (ja) 1965-05-08 1973-12-24
US3515800A (en) 1966-05-10 1970-06-02 Victor Company Of Japan Television camera for selectively picking up scenes in color or monochromatically
US3623126A (en) 1969-09-24 1971-11-23 North American Rockwell Edge sharpening in a scanned image display system
US3783190A (en) 1971-04-08 1974-01-01 Gte Sylvania Inc Aperture correction circuit for low light level television camera
US3845242A (en) 1972-11-21 1974-10-29 Minnesota Mining & Mfg Video signal processing system for facsimile transmission
GB1415827A (en) 1973-03-31 1975-11-26 Schumacher Klimsch Co E Photomechanical reproduction
US3980819A (en) 1974-11-01 1976-09-14 Zenith Radio Corporation Edge enhancement for television images
US4115804A (en) 1975-05-23 1978-09-19 Bausch & Lomb Incorporated Image analysis data extraction
JPS5745837A (en) 1980-09-03 1982-03-16 Olympus Optical Co Photographing apparatus of endoscope
JPS57108866A (en) 1980-12-26 1982-07-07 Fuji Xerox Co Ltd Dichromatic copying machine
FR2502875B1 (fr) 1981-03-30 1985-11-29 Tugaye Jean Procede et dispositif de cadrage et de stabilisation d'image de camera electro-optique
US4410914A (en) 1982-02-01 1983-10-18 Cbs Inc. Television picture stabilizing system
JPS58153454A (ja) 1982-03-08 1983-09-12 Fuji Xerox Co Ltd 多機能複写機
US4433346A (en) 1982-03-31 1984-02-21 Xerox Corporation Raster input scanner
US4491865A (en) 1982-09-29 1985-01-01 Welch Allyn, Inc. Image sensor assembly
US4516153A (en) 1983-03-30 1985-05-07 Rca Corporation Composite video signal processing apparatus providing amplitude equalization
JPS59215772A (ja) 1983-05-23 1984-12-05 Nec Home Electronics Ltd マルチエミツタ形トランジスタ
DE3429548A1 (de) 1983-08-24 1985-05-15 Kabushiki Kaisha Toshiba, Kawasaki, Kanagawa Farbsteuereinheit fuer ein bilderzeugungsgeraet
US4608606A (en) 1984-03-15 1986-08-26 Rca Corporation CCD floating-element output stages providing low reset noise with single sampling
US4547809A (en) 1984-04-27 1985-10-15 Rca Corporation Thermally isolated imager
US4622954A (en) 1984-05-15 1986-11-18 Fuji Photo Optical Co., Ltd. Endoscope having a plate-like image sensor for forming images
US4692608A (en) 1984-05-18 1987-09-08 Fuji Photo Optical Company, Ltd. Compact optical imaging system
US4658956A (en) 1984-05-30 1987-04-21 El Planning System Ltd. Portable case for a small size audio-visual sensory apparatus
JPS612957A (ja) 1984-06-18 1986-01-08 Toyota Motor Corp 無段変速機付き動力伝達装置の油圧制御装置
JPS6147919A (ja) 1984-08-15 1986-03-08 Olympus Optical Co Ltd 内視鏡用撮像光学系
JPS6142513U (ja) 1984-08-23 1986-03-19 富士写真光機株式会社 内視鏡
JPH0644105B2 (ja) 1985-01-14 1994-06-08 オリンパス光学工業株式会社 内視鏡
DE3686106T2 (de) 1985-08-16 1993-02-11 Olympus Optical Co Endoskop.
JPH0522897Y2 (ja) 1985-08-16 1993-06-11
US4695878A (en) 1985-10-31 1987-09-22 Rca Corporation Color television camera with selectively removable infrared rejection filter
US4700693A (en) 1985-12-09 1987-10-20 Welch Allyn, Inc. Endoscope steering section
JP2679014B2 (ja) 1986-03-19 1997-11-19 オリンパス光学工業株式会社 電子内視鏡装置
JPS6365840A (ja) 1986-04-04 1988-03-24 オリンパス光学工業株式会社 内視鏡
US4735501A (en) 1986-04-21 1988-04-05 Identechs Corporation Method and apparatus for fluid propelled borescopes
JPH0664243B2 (ja) 1986-04-30 1994-08-22 オリンパス光学工業株式会社 内視鏡
DE3715417A1 (de) 1986-05-13 1987-11-19 Olympus Optical Co Halbleiter-bilderzeugungsvorrichtung, sowie hiermit ausgestattetes endoskop
JPS635722A (ja) 1986-06-25 1988-01-11 オリンパス光学工業株式会社 内視鏡
US4777524A (en) 1986-08-08 1988-10-11 Olympus Optical Co., Ltd. Endoscope having an electrically insulated solid-state image sensing unit
JP2812940B2 (ja) 1986-09-01 1998-10-22 オリンパス光学工業株式会社 内視鏡
JPS6363426A (ja) 1986-09-04 1988-03-19 オリンパス光学工業株式会社 電子内視鏡
US4733937A (en) 1986-10-17 1988-03-29 Welch Allyn, Inc. Illuminating system for endoscope or borescope
US4758891A (en) 1986-10-20 1988-07-19 North American Philips Consumer Electronics Corp. Method and apparatus for improving the rise and fall time of a video signal
US4895431A (en) 1986-11-13 1990-01-23 Olympus Optical Co., Ltd. Method of processing endoscopic images
US4727859A (en) 1986-12-29 1988-03-01 Welch Allyn, Inc. Right angle detachable prism assembly for borescope
US4918521A (en) 1987-01-20 1990-04-17 Olympus Optical Co., Ltd. Solid state imaging apparatus
US4777385A (en) 1987-02-09 1988-10-11 Rca Licensing Corporation Signal transient improvement circuit
US4873572A (en) 1987-02-27 1989-10-10 Olympus Optical Co., Ltd. Electronic endoscope apparatus
US4868644A (en) 1987-04-01 1989-09-19 Olympus Optical Co. Electronic endoscope with solid state imaging device
JPH0671324B2 (ja) 1987-04-03 1994-09-07 オリンパス光学工業株式会社 撮像装置
JPS63292119A (ja) 1987-05-25 1988-11-29 Furukawa Electric Co Ltd:The パイプカメラ
US4796607A (en) 1987-07-28 1989-01-10 Welch Allyn, Inc. Endoscope steering section
US4790294A (en) 1987-07-28 1988-12-13 Welch Allyn, Inc. Ball-and-socket bead endoscope steering section
US4787369A (en) 1987-08-14 1988-11-29 Welch Allyn, Inc. Force relieving, force limiting self-adjusting steering for borescope or endoscope
US4794912A (en) 1987-08-17 1989-01-03 Welch Allyn, Inc. Borescope or endoscope with fluid dynamic muscle
US5021888A (en) 1987-12-18 1991-06-04 Kabushiki Kaisha Toshiba Miniaturized solid state imaging device
JPH0673517B2 (ja) 1988-02-04 1994-09-21 オリンパス光学工業株式会社 電子内視鏡システム
US4901143A (en) 1988-02-16 1990-02-13 Olympus Optical Co., Ltd. Electronic endoscope system provided with a means of imaging frozen pictures having few picture image smears
JP2594627B2 (ja) 1988-02-26 1997-03-26 オリンパス光学工業株式会社 電子内視鏡装置
US4887154A (en) 1988-06-01 1989-12-12 Welch Allyn, Inc. Lamp assembly and receptacle
US4862253A (en) 1988-07-20 1989-08-29 Welch Allyn, Inc. Apparatus for converting a video processor
US4933757A (en) 1988-08-20 1990-06-12 Olympus Optical Co., Ltd. Electronic endoscope apparatus provided with a movement detecting means
US4909600A (en) 1988-10-28 1990-03-20 Welch Allyn, Inc. Light chopper assembly
US4969034A (en) 1988-12-30 1990-11-06 Welch Allyn, Inc. Method of signal enhancement
JP3217343B2 (ja) 1989-03-23 2001-10-09 オリンパス光学工業株式会社 画像処理装置
JP2751320B2 (ja) 1989-02-21 1998-05-18 日本電気株式会社 エミッタホロワ回路
US5032913A (en) 1989-02-28 1991-07-16 Olympus Optical Co., Ltd. Electronic endoscope system equipped with color smear reducing means
JP2510299B2 (ja) 1989-03-22 1996-06-26 オリンパス光学工業株式会社 電子式内視鏡装置
US4993405A (en) 1989-05-15 1991-02-19 Olympus Optical Co., Ltd. Imaging apparatus
US5014515A (en) 1989-05-30 1991-05-14 Welch Allyn, Inc. Hydraulic muscle pump
US4962751A (en) 1989-05-30 1990-10-16 Welch Allyn, Inc. Hydraulic muscle pump
US4913369A (en) 1989-06-02 1990-04-03 Welch Allyn, Inc. Reel for borescope insertion tube
US4980763A (en) 1989-06-12 1990-12-25 Welch Allyn, Inc. System for measuring objects viewed through a borescope
JPH0323832A (ja) 1989-06-22 1991-01-31 Toshiba Corp 電子内視鏡装置
US4941456A (en) 1989-10-05 1990-07-17 Welch Allyn, Inc. Portable color imager borescope
US4941454A (en) 1989-10-05 1990-07-17 Welch Allyn, Inc. Servo actuated steering mechanism for borescope or endoscope
JP2579372B2 (ja) 1989-12-04 1997-02-05 日本テキサス・インスツルメンツ株式会社 低消費電力撮像装置
US5052803A (en) 1989-12-15 1991-10-01 Welch Allyn, Inc. Mushroom hook cap for borescope
US5014600A (en) 1990-02-06 1991-05-14 Welch Allyn, Inc. Bistep terminator for hydraulic or pneumatic muscle
US4998182A (en) 1990-02-08 1991-03-05 Welch Allyn, Inc. Connector for optical sensor
US5070401A (en) 1990-04-09 1991-12-03 Welch Allyn, Inc. Video measurement system with automatic calibration and distortion correction
US5019121A (en) 1990-05-25 1991-05-28 Welch Allyn, Inc. Helical fluid-actuated torsional motor
US5387928A (en) 1990-05-29 1995-02-07 Fuji Photo Optical Co., Ltd. Electronic endoscope system having both still and moving images
US4989581A (en) 1990-06-01 1991-02-05 Welch Allyn, Inc. Torsional strain relief for borescope
US5203319A (en) 1990-06-18 1993-04-20 Welch Allyn, Inc. Fluid controlled biased bending neck
US5018506A (en) 1990-06-18 1991-05-28 Welch Allyn, Inc. Fluid controlled biased bending neck
US5047848A (en) 1990-07-16 1991-09-10 Welch Allyn, Inc. Elastomeric gage for borescope
US5018436A (en) 1990-07-31 1991-05-28 Welch Allyn, Inc. Folded bladder for fluid dynamic muscle
US5114636A (en) 1990-07-31 1992-05-19 Welch Allyn, Inc. Process for reducing the internal cross section of elastomeric tubing
US5155585A (en) 1990-08-13 1992-10-13 Brother Kogyo Kabushiki Kaisha Image pickup apparatus for receiving light and converting to an electrical signal corresponding to the light
JP3216650B2 (ja) 1990-08-27 2001-10-09 オリンパス光学工業株式会社 固体撮像装置
US5061995A (en) 1990-08-27 1991-10-29 Welch Allyn, Inc. Apparatus and method for selecting fiber optic bundles in a borescope
US5418566A (en) 1990-09-10 1995-05-23 Kabushiki Kaisha Toshiba Compact imaging apparatus for electronic endoscope with improved optical characteristics
JP2848574B2 (ja) 1990-09-21 1999-01-20 オリンパス光学工業株式会社 色ずれ補正装置
US5164824A (en) 1990-10-12 1992-11-17 Olympus Optical Co., Ltd. Image freezing signal-processing apparatus
US5066122A (en) 1990-11-05 1991-11-19 Welch Allyn, Inc. Hooking cap for borescope
US5823958A (en) 1990-11-26 1998-10-20 Truppe; Michael System and method for displaying a structural data image in real-time correlation with moveable body
US5291151A (en) 1991-01-19 1994-03-01 Canon Kabushiki Kaisha Sensor amplifier
JP2953079B2 (ja) 1991-02-14 1999-09-27 富士写真光機株式会社 電子内視鏡装置
US5140975A (en) 1991-02-15 1992-08-25 Welch Allyn, Inc. Insertion tube assembly for probe with biased bending neck
US5469210A (en) 1991-03-01 1995-11-21 Canon Kabushiki Kaisha Image pickup apparatus with control for output of non-vibrating images
JP3078085B2 (ja) 1991-03-26 2000-08-21 オリンパス光学工業株式会社 画像処理装置および画像処理方法
JPH0595900A (ja) 1991-04-11 1993-04-20 Olympus Optical Co Ltd 内視鏡画像処理装置
US6002430A (en) 1994-01-31 1999-12-14 Interactive Pictures Corporation Method and apparatus for simultaneous capture of a spherical image
JP3012373B2 (ja) 1991-06-05 2000-02-21 旭光学工業株式会社 内視鏡の先端部
US5417210A (en) 1992-05-27 1995-05-23 International Business Machines Corporation System and method for augmentation of endoscopic surgery
US5191879A (en) 1991-07-24 1993-03-09 Welch Allyn, Inc. Variable focus camera for borescope or endoscope
US5202758A (en) 1991-09-16 1993-04-13 Welch Allyn, Inc. Fluorescent penetrant measurement borescope
US5614943A (en) 1991-12-19 1997-03-25 Olympus Optical Co., Ltd. Dissimilar endoscopes usable with a common control unit
US5278642A (en) 1992-02-26 1994-01-11 Welch Allyn, Inc. Color imaging system
DE4211547C2 (de) 1992-04-06 1994-08-11 Henke Sass Wolf Gmbh Schutzabdeckung für das distale Ende von Endoskopen
US5369446A (en) 1992-04-30 1994-11-29 Thomson Consumer Electronics, Inc. Video signal processor employing edge replacement, preshoots and overshoots for transient enhancement
US5262856A (en) * 1992-06-04 1993-11-16 Massachusetts Institute Of Technology Video image compositing techniques
US5275152A (en) 1992-07-27 1994-01-04 Welch Allyn, Inc. Insertion tube terminator
US5347989A (en) 1992-09-11 1994-09-20 Welch Allyn, Inc. Control mechanism for steerable elongated probe having a sealed joystick
US5441043A (en) 1992-09-11 1995-08-15 Welch Allyn, Inc. Video laparoscope with modular video connector and dual low-wattage light sources
EP0587514A1 (en) 1992-09-11 1994-03-16 Welch Allyn, Inc. Processor module for video inspection probe
US5314070A (en) 1992-12-16 1994-05-24 Welch Allyn, Inc. Case for flexible borescope and endoscope insertion tubes
JP3220538B2 (ja) 1992-12-24 2001-10-22 オリンパス光学工業株式会社 立体視内視鏡及び立体視内視鏡装置
US5365331A (en) 1993-01-27 1994-11-15 Welch Allyn, Inc. Self centering device for borescopes
US5345339A (en) 1993-01-29 1994-09-06 Welch Allyn, Inc. Motorized mirror assembly
US5587736A (en) 1993-02-16 1996-12-24 Envision Medical Corporation Sterilizable CCD video camera
US5633675A (en) 1993-02-16 1997-05-27 Welch Allyn, Inc, Shadow probe
US5674182A (en) 1993-02-26 1997-10-07 Olympus Optical Co., Ltd. Endoscope system including endoscope and protection cover
USD358471S (en) 1993-03-11 1995-05-16 Welch Allyn, Inc. Combined control handle and viewing screen for an endoscope
US5550582A (en) 1993-03-19 1996-08-27 Olympus Optical Co., Ltd. Endoscope-image processing apparatus for performing image processing of emphasis in endoscope image by pigment concentration distribution
US5373317B1 (en) 1993-05-28 2000-11-21 Welch Allyn Inc Control and display section for borescope or endoscope
US5323899A (en) 1993-06-01 1994-06-28 Welch Allyn, Inc. Case for video probe
US5435296A (en) 1993-06-11 1995-07-25 Welch Allyn, Inc. Endoscope having crimped and soldered cable terminator
JP3271838B2 (ja) 1993-10-18 2002-04-08 オリンパス光学工業株式会社 内視鏡用画像処理装置
US6983051B1 (en) 1993-11-18 2006-01-03 Digimarc Corporation Methods for audio watermarking and decoding
US5842473A (en) 1993-11-29 1998-12-01 Life Imaging Systems Three-dimensional imaging system
US5694530A (en) 1994-01-18 1997-12-02 Hitachi Medical Corporation Method of constructing three-dimensional image according to central projection method and apparatus for same
JPH07246184A (ja) 1994-03-09 1995-09-26 Fuji Photo Optical Co Ltd 面順次式撮像装置
JP3497231B2 (ja) 1994-04-22 2004-02-16 オリンパス株式会社 フリーズ装置
TW387560U (en) 1994-05-13 2000-04-11 Prec Optics Coroporation Viewing scope with image intensification
US5788628A (en) 1994-05-26 1998-08-04 Asahi Kogaku Kogyo Kabushiki Kaisha Endoscope
JPH0829701A (ja) 1994-07-18 1996-02-02 Olympus Optical Co Ltd 立体視内視鏡システム
JPH08186760A (ja) 1994-12-28 1996-07-16 Philips Japan Ltd 画揺れ補正装置
JPH08243078A (ja) 1995-03-07 1996-09-24 Fuji Photo Optical Co Ltd 電子内視鏡の撮像素子組付け体
US5730129A (en) 1995-04-03 1998-03-24 General Electric Company Imaging of interventional devices in a non-stationary subject
FR2732848B1 (fr) 1995-04-04 1997-05-16 Thomson Csf Semiconducteurs Amplificateur de lecture de registre ccd
GB9506954D0 (en) 1995-04-04 1995-05-24 Street Graham S B Method and apparatus for image enhancement
KR0169376B1 (ko) 1995-10-10 1999-03-20 김광호 멀티미디어 대응 가능한 씨씨디 카메라 시스템
KR100269563B1 (ko) 1995-10-23 2000-12-01 사이토메트릭스, 인코오포레이티드 반사적영상화분석을위한장치
KR970049406A (ko) 1995-12-15 1997-07-29 김광호 그래픽 오버레이속도 향상기능을 갖는 화상처리장치
US5696850A (en) 1995-12-21 1997-12-09 Eastman Kodak Company Automatic image sharpening in an electronic imaging system
US5857963A (en) 1996-07-17 1999-01-12 Welch Allyn, Inc. Tab imager assembly for use in an endoscope
US5754313A (en) 1996-07-17 1998-05-19 Welch Allyn, Inc. Imager assembly
US5734418A (en) 1996-07-17 1998-03-31 Welch Allyn, Inc. Endoscope with tab imager package
US6108005A (en) 1996-08-30 2000-08-22 Space Corporation Method for producing a synthesized stereoscopic image
US6046777A (en) * 1996-09-06 2000-04-04 Thomson Consumer Electronics, Inc. Apparatus for sampling and displaying an auxiliary image with a main image to eliminate a spatial seam in the auxiliary image during freeze frame operation
US5964696A (en) 1996-10-24 1999-10-12 Smith & Nephew, Inc. Stereoscopic imaging by alternately blocking light
US6084461A (en) 1996-11-29 2000-07-04 Varian Medical Systems, Inc. Charge sensitive amplifier with high common mode signal rejection
JPH10192220A (ja) 1997-01-14 1998-07-28 Fuji Photo Optical Co Ltd 内視鏡
JP3521109B2 (ja) 1997-02-17 2004-04-19 シャープ株式会社 動き検出用固体撮像装置
US6088612A (en) 1997-04-04 2000-07-11 Medtech Research Corporation Method and apparatus for reflective glare removal in digital photography useful in cervical cancer detection
US5877803A (en) 1997-04-07 1999-03-02 Tritech Mircoelectronics International, Ltd. 3-D image detector
US6310647B1 (en) 1997-04-15 2001-10-30 Eastman Kodak Company Image format for storing digital images and including multiple application segments
US5821532A (en) 1997-06-16 1998-10-13 Eastman Kodak Company Imager package substrate
JPH1132986A (ja) 1997-07-16 1999-02-09 Olympus Optical Co Ltd 内視鏡装置
US6211904B1 (en) 1997-09-11 2001-04-03 Edwin L. Adair Surgical devices incorporating reduced area imaging devices
US6097848A (en) 1997-11-03 2000-08-01 Welch Allyn, Inc. Noise reduction apparatus for electronic edge enhancement
US6191809B1 (en) 1998-01-15 2001-02-20 Vista Medical Technologies, Inc. Method and apparatus for aligning stereo images
JPH11249031A (ja) 1998-03-03 1999-09-17 Asahi Optical Co Ltd 内視鏡光学素子
US5926318A (en) 1998-04-06 1999-07-20 Optimize Incorporated Biocular viewing system with intermediate image planes for an electronic display device
JP3560217B2 (ja) * 1998-04-30 2004-09-02 ソニー株式会社 データ符号化装置、データ符号化方法及びデータ伝送方法
US6428650B1 (en) 1998-06-23 2002-08-06 Amerasia International Technology, Inc. Cover for an optical device and method for making same
JP2000107120A (ja) 1998-08-07 2000-04-18 Olympus Optical Co Ltd 内視鏡
US6547721B1 (en) 1998-08-07 2003-04-15 Olympus Optical Co., Ltd. Endoscope capable of being autoclaved
US6184514B1 (en) 1998-12-18 2001-02-06 Eastman Kodak Company Plastic cover for image sensors
US6172361B1 (en) 1998-12-29 2001-01-09 Cirrus Logic, Inc. Methods for mounting an imager to a support structure and circuitry and systems embodying the same
US6083152A (en) 1999-01-11 2000-07-04 Welch Allyn, Inc. Endoscopic insertion tube
JP2000210252A (ja) 1999-01-25 2000-08-02 Sony Corp 固体撮像装置
EP1051037A3 (en) 1999-05-04 2001-08-29 Everest-VIT, Inc. (a New Jersey Corporation) Inspection system and method
JP3734389B2 (ja) 1999-09-29 2006-01-11 フジノン株式会社 内視鏡用撮像素子組付け装置
US6483535B1 (en) 1999-12-23 2002-11-19 Welch Allyn, Inc. Wide angle lens system for electronic imagers having long exit pupil distances
US7084905B1 (en) * 2000-02-23 2006-08-01 The Trustees Of Columbia University In The City Of New York Method and apparatus for obtaining high dynamic range images
US6842196B1 (en) 2000-04-04 2005-01-11 Smith & Nephew, Inc. Method and system for automatic correction of motion artifacts
US6590470B1 (en) 2000-06-13 2003-07-08 Welch Allyn, Inc. Cable compensator circuit for CCD video probe
US6472247B1 (en) 2000-06-26 2002-10-29 Ricoh Company, Ltd. Solid-state imaging device and method of production of the same
US6494739B1 (en) 2001-02-07 2002-12-17 Welch Allyn, Inc. Miniature connector with improved strain relief for an imager assembly
US7262797B2 (en) 2001-02-22 2007-08-28 Ge Inspection Technologies Lp Method and system for storing calibration data within image files
US6721361B1 (en) 2001-02-23 2004-04-13 Yesvideo.Com Video processing system including advanced scene break detection methods for fades, dissolves and flashes
US6468201B1 (en) 2001-04-27 2002-10-22 Welch Allyn, Inc. Apparatus using PNP bipolar transistor as buffer to drive video signal
US7436435B2 (en) 2001-10-01 2008-10-14 Minolta Co., Ltd. Image taking device having image-blur compensator
US6830545B2 (en) 2002-05-13 2004-12-14 Everest Vit Tube gripper integral with controller for endoscope of borescope
US7505604B2 (en) * 2002-05-20 2009-03-17 Simmonds Precision Prodcuts, Inc. Method for detection and recognition of fog presence within an aircraft compartment using video images
US6909459B2 (en) 2002-08-21 2005-06-21 Alpha Innotech Corporation Method of and apparatus for extending signal ranges of digital images
US7283247B2 (en) 2002-09-25 2007-10-16 Olympus Corporation Optical probe system
US20050129108A1 (en) 2003-01-29 2005-06-16 Everest Vit, Inc. Remote video inspection system
US7744528B2 (en) 2003-02-26 2010-06-29 Infinite Biomedical Technologies, Llc Methods and devices for endoscopic imaging
US20040183900A1 (en) 2003-03-20 2004-09-23 Everest Vit Method and system for automatically detecting defects in remote video inspection applications
US6953432B2 (en) 2003-05-20 2005-10-11 Everest Vit, Inc. Imager cover-glass mounting
US7142723B2 (en) * 2003-07-18 2006-11-28 Microsoft Corporation System and process for generating high dynamic range images from multiple exposures of a moving scene
US20050050707A1 (en) 2003-09-05 2005-03-10 Scott Joshua Lynn Tip tool
US7343048B2 (en) * 2003-09-18 2008-03-11 Arcsoft, Inc. Edge based alignment algorithm
JP4461937B2 (ja) 2003-09-30 2010-05-12 セイコーエプソン株式会社 低解像度の複数の画像に基づく高解像度の画像の生成
KR100564592B1 (ko) * 2003-12-11 2006-03-28 삼성전자주식회사 동영상 데이터 잡음제거방법
US8164672B2 (en) 2003-12-31 2012-04-24 Given Imaging Ltd. System and method for displaying an image stream
US20050162643A1 (en) 2004-01-22 2005-07-28 Thomas Karpen Automotive fuel tank inspection device
US7134993B2 (en) 2004-01-29 2006-11-14 Ge Inspection Technologies, Lp Method and apparatus for improving the operation of a remote viewing device by changing the calibration settings of its articulation servos
US8587648B2 (en) 2004-06-01 2013-11-19 SeeScan, Inc. Self-leveling camera head
US7422559B2 (en) 2004-06-16 2008-09-09 Ge Inspection Technologies, Lp Borescope comprising fluid supply system
US7916173B2 (en) * 2004-06-22 2011-03-29 Canon Kabushiki Kaisha Method for detecting and selecting good quality image frames from video
US7605854B2 (en) 2004-08-11 2009-10-20 Broadcom Corporation Operational amplifier for an active pixel sensor
US20060050983A1 (en) 2004-09-08 2006-03-09 Everest Vit, Inc. Method and apparatus for enhancing the contrast and clarity of an image captured by a remote viewing device
JP2006115964A (ja) 2004-10-20 2006-05-11 Fujinon Corp 電子内視鏡装置
US7773115B2 (en) 2004-12-15 2010-08-10 Texas Instruments Incorporated Method and system for deblurring digital camera images using reference image and motion estimation
JP4434939B2 (ja) 2004-12-27 2010-03-17 キヤノン株式会社 撮像装置及びその制御方法
US7239805B2 (en) 2005-02-01 2007-07-03 Microsoft Corporation Method and system for combining multiple exposure images having scene and camera motion
US7626614B1 (en) * 2005-02-15 2009-12-01 Apple Inc. Transfer function and high dynamic range images
US8482618B2 (en) 2005-02-22 2013-07-09 Hewlett-Packard Development Company, L.P. Reduction of motion-induced blur in images
US20060245618A1 (en) * 2005-04-29 2006-11-02 Honeywell International Inc. Motion detection in a video stream
US8068647B2 (en) * 2005-06-14 2011-11-29 General Electric Company Method and apparatus for real-time motion correction for ultrasound spatial compound imaging
US7912337B2 (en) * 2005-11-02 2011-03-22 Apple Inc. Spatial and temporal alignment of video sequences
US8310533B2 (en) 2006-03-27 2012-11-13 GE Sensing & Inspection Technologies, LP Inspection apparatus for inspecting articles
CN100539648C (zh) * 2006-05-11 2009-09-09 精工爱普生株式会社 摄像元件及摄像装置和方法
US7602418B2 (en) * 2006-10-11 2009-10-13 Eastman Kodak Company Digital image with reduced object motion blur
TW200820123A (en) * 2006-10-20 2008-05-01 Primax Electronics Ltd Method and system of generating high dynamic range image corresponding to specific scene
US8213676B2 (en) 2006-12-20 2012-07-03 Ge Inspection Technologies Lp Inspection apparatus method and apparatus comprising motion responsive control
JP4290193B2 (ja) * 2006-12-26 2009-07-01 三洋電機株式会社 画像処理装置
CN101617197B (zh) * 2007-02-16 2011-06-22 三菱电机株式会社 测量装置、测量方法及地物识别装置
US8107083B2 (en) * 2008-03-05 2012-01-31 General Electric Company System aspects for a probe system that utilizes structured-light
CN201393267Y (zh) * 2009-02-06 2010-01-27 无锡锦腾智能科技有限公司 高动态范围图像获取装置
US9204113B1 (en) * 2010-06-28 2015-12-01 Ambarella, Inc. Method and/or apparatus for implementing high dynamic range image processing in a video processing system
US8760537B2 (en) * 2010-07-05 2014-06-24 Apple Inc. Capturing and rendering high dynamic range images
US8466976B2 (en) 2010-11-03 2013-06-18 Eastman Kodak Company Digital camera providing high dynamic range images
JP2012165259A (ja) * 2011-02-08 2012-08-30 Olympus Corp 画像処理装置、画像処理方法、画像処理プログラム、および撮影装置
JP5153021B2 (ja) * 2011-03-14 2013-02-27 パナソニック株式会社 撮影装置、撮影方法及びプログラム
JP5713752B2 (ja) * 2011-03-28 2015-05-07 キヤノン株式会社 画像処理装置、及びその制御方法
JP2012247874A (ja) * 2011-05-25 2012-12-13 Sony Corp 画像処理装置および方法
KR101216663B1 (ko) * 2011-05-31 2012-12-28 중앙대학교 산학협력단 고스트 왜곡을 제거하는 높은 동적 대역 영상 생성장치 및 방법
US11109835B2 (en) * 2011-12-18 2021-09-07 Metritrack Llc Three dimensional mapping display system for diagnostic ultrasound machines
CN103312942B (zh) * 2012-03-12 2016-07-20 华晶科技股份有限公司 动态范围图像的噪声处理方法及其图像捕捉装置
JP6172967B2 (ja) * 2013-02-20 2017-08-02 キヤノン株式会社 撮像装置、及びその制御方法
US9424632B2 (en) * 2013-04-05 2016-08-23 Ittiam Systems (P) Ltd. System and method for generating high dynamic range images
US9363446B2 (en) * 2013-04-15 2016-06-07 Htc Corporation Automatic exposure control for sequential images
TWI501639B (zh) * 2013-07-29 2015-09-21 Quanta Comp Inc 拍攝高動態範圍影片之方法
US9600887B2 (en) * 2013-12-09 2017-03-21 Intel Corporation Techniques for disparity estimation using camera arrays for high dynamic range imaging
US9485435B2 (en) * 2014-04-22 2016-11-01 Shih-Chieh Huang Device for synthesizing high dynamic range image based on per-pixel exposure mapping and method thereof

Also Published As

Publication number Publication date
US9633426B2 (en) 2017-04-25
US20200021738A1 (en) 2020-01-16
WO2015183541A1 (en) 2015-12-03
CN106416225B (zh) 2020-03-10
US20150348253A1 (en) 2015-12-03
US10291850B2 (en) 2019-05-14
CN106416225A (zh) 2017-02-15
DE112015002570T5 (de) 2017-04-06
US20170223273A1 (en) 2017-08-03
JP2017527137A (ja) 2017-09-14

Similar Documents

Publication Publication Date Title
JP6681844B2 (ja) 遠隔視覚検査画像捕捉システムおよび方法
EP2175231B1 (en) System aspects for a probe system that utilizes structured-light
CN110352346B (zh) 用于检查资产的方法和装置
CN102401646B (zh) 基于结构光测量的方法
JP2018066740A5 (ja)
EP3404401A1 (en) Optical gas imaging systems and methods
US7869706B2 (en) Shooting apparatus for a microscope
US20170208311A1 (en) Image processing apparatus, image capturing apparatus, and storage medium for storing image processing program
JP2019148438A (ja) 画像処理システムおよび設定方法
EP3403397B1 (en) Through-focus image combination
US11663712B2 (en) Automated turbine blade to shroud gap measurement
US20220108435A1 (en) Automated turbine blade to shroud gap measurement
WO2018179610A1 (ja) 制御装置、内視鏡システム、処理方法およびプログラム
JP2009092409A (ja) 3次元形状測定装置
JP6238574B2 (ja) 観察装置
JP5826612B2 (ja) 画像処理装置、画像処理方法及びコンピュータプログラム
JP7490457B2 (ja) 処理装置、処理システム、撮像装置、処理方法、およびプログラム
JP2009014494A (ja) 計測装置
JP6991600B2 (ja) 画像計測システム、画像計測方法、画像計測プログラムおよび記録媒体
JP6284428B2 (ja) 顕微鏡システム
JP2006345228A (ja) ポイント画像の制御装置およびポイント画像の制御方法
JP2021196656A (ja) 処理装置、処理システム、撮像装置、処理方法、およびプログラム
JP6300692B2 (ja) 測定装置
JP6124718B2 (ja) 撮像装置及びその制御方法
JP2009222399A (ja) 画像ゲイン調整装置およびその方法、並びに三次元形状測定装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180423

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190517

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191105

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200226

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200317

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200324

R150 Certificate of patent or registration of utility model

Ref document number: 6681844

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250