JP6751155B2 - 画像処理装置、撮像装置、及び画像処理方法 - Google Patents
画像処理装置、撮像装置、及び画像処理方法 Download PDFInfo
- Publication number
- JP6751155B2 JP6751155B2 JP2018552461A JP2018552461A JP6751155B2 JP 6751155 B2 JP6751155 B2 JP 6751155B2 JP 2018552461 A JP2018552461 A JP 2018552461A JP 2018552461 A JP2018552461 A JP 2018552461A JP 6751155 B2 JP6751155 B2 JP 6751155B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- images
- wavelength band
- image pickup
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 title claims description 96
- 238000012545 processing Methods 0.000 title claims description 79
- 238000003672 processing method Methods 0.000 title claims description 16
- 230000003287 optical effect Effects 0.000 claims description 222
- 238000005259 measurement Methods 0.000 claims description 39
- 238000000034 method Methods 0.000 claims description 19
- 238000002834 transmittance Methods 0.000 claims description 9
- 230000008569 process Effects 0.000 claims description 5
- 210000001747 pupil Anatomy 0.000 claims description 4
- 230000000875 corresponding effect Effects 0.000 description 54
- 238000010586 diagram Methods 0.000 description 26
- 238000004891 communication Methods 0.000 description 18
- 238000001514 detection method Methods 0.000 description 17
- 230000005540 biological transmission Effects 0.000 description 9
- 238000007796 conventional method Methods 0.000 description 4
- 210000004204 blood vessel Anatomy 0.000 description 3
- 238000006073 displacement reaction Methods 0.000 description 3
- 239000004973 liquid crystal related substance Substances 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 230000000903 blocking effect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000015654 memory Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 210000004400 mucous membrane Anatomy 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000017531 blood circulation Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000009313 farming Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000035764 nutrition Effects 0.000 description 1
- 235000016709 nutrition Nutrition 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 239000002344 surface layer Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/951—Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
- H04N23/13—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with multiple sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
- H04N23/13—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with multiple sensors
- H04N23/15—Image signal generation with circuitry for avoiding or correcting image misregistration
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/45—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10032—Satellite or aerial image; Remote sensing
- G06T2207/10036—Multispectral image; Hyperspectral image
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Computing Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Studio Devices (AREA)
- Color Television Image Signal Generators (AREA)
- Image Processing (AREA)
Description
まず、従来の手法及び本発明による画像の位置合わせ及び混信除去について原理的に説明する。
<画像処理システムの構成>
以下、本発明の具体的な実施形態を説明する。図7は第1の実施形態に係る画像処理システム10(画像処理装置、撮像装置)の概略構成を示すブロック図である。画像処理システム10は撮像部100(画像入力部)及び本体部200(画像処理装置)から構成され、無線通信により画像データ等を互いに送受信する。撮像部100は第1撮像部110、第2撮像部120、及び無線通信部130を備え、本体部200からの指示に従って画像を取得し、本体部200に送信する。一方、本体部200は処理部210(画像入力部、対応点検出部、位置合わせ部、混信除去部、波長帯域指定部、計測部、関心領域設定部、撮像制御部)、記録部220、表示部230、及び操作部240を備え、これら各部は互いに接続されていて必要な情報を送受信する。また、処理部210は無線通信用アンテナ及び入出力インタフェース回路を含み、記録部220はHDD(Hard Disk Drive)等の非一時的記録媒体を含んで構成される。また表示部230は液晶ディスプレイ等の表示デバイスを含み、操作部240はキーボードやマウス等の入力デバイスを含む。なお第1の実施形態では撮像部100で画像を撮像して本体部200に入力する場合について説明するが、撮像部100以外の手段で取得した画像を記録媒体やネットワーク経由で入力してもよい。
図8は処理部210の機能構成を示す図である。処理部210は、波長帯域指定部210A(波長帯域指定部)、通信制御部210B、撮像制御部210C(撮像制御部)、画像入力部210D(画像入力部)、対応点検出部210E(対応点検出部)、位置合わせ部210F(位置合わせ部)、混信除去部210G(混信除去部)、関心領域設定部210H(関心領域設定部)、計測部210I(計測部)、表示制御部210J、及び記録制御部210Kを備える。これらの機能は、CPU(Central Processing Unit)や各種電子回路等のデバイスが記録部220に記憶された画像や情報、またEEPROM(Electronically Erasable and Programmable Read Only Memory:非一時的記録媒体)等に記憶されたデータを適宜参照しつつ、ROM等に記憶されたプログラムを実行することにより行われる。この場合、ROM等には本発明に係る画像処理方法を画像処理システムに実行させるプログラムのコンピュータ読み取り可能なコードが記録される。処理の際には、RAM(Random Access Memory)等が一時記憶領域や作業領域として用いられる。なお、図8ではこれらデバイスの図示は省略する。
記録部220はCD(Compact Disk)、DVD(Digital Versatile Disk)、ハードディスク(Hard Disk)、各種半導体メモリ等の非一時的記録媒体及びその制御回路により構成され、画像及び各種情報を互いに関連づけて記録する。画像には第1撮像部110及び第2撮像部120による撮像画像、位置合わせ後の画像、混信除去後の画像、計測結果を示す画像が含まれ、各種情報には撮像条件、画像処理条件、計測条件、及び計測結果が含まれる。
表示部230は液晶ディスプレイ等の表示デバイス(不図示)を備えており、撮像部100から入力した画像や記録部220に記憶された画像及び各種情報、処理部210により得られた画像や計測結果を表示することができる。操作部240はマウス等のポインティングデバイス及びキーボード等の入力デバイス(不図示)を含んでおり、ユーザは操作部240を介して表示部230に表示された画像やボタン等の操作や、撮像条件、波長帯域、関心領域の設定等の操作を行うことができる。
図9は撮像部100の構成を示すブロック図である。撮像部100は第1撮像部110、第2撮像部120、及び無線通信部130を備える。第1撮像部110と第2撮像部120とは、後述する波長帯域で画像を撮像する独立した撮像部であり、無線通信部130は無線通信用のアンテナ131を介して本体部200との通信を行う。なお第1の実施形態では撮像部100が2つの撮像部を備える場合について説明するが、本発明において撮像部の数は3つ以上でもよい。また第1の実施形態では撮像部100が本体部200と独立して移動できる場合について説明するが、撮像部と本体部とを一体にしてもよく、また撮像部と本体部とは有線接続されていてもよい。
第1撮像部110は、撮像レンズ111(撮像光学系),光学フィルタ112(光学フィルタ)、シャッタ113、撮像素子114(撮像素子、モノクロ撮像素子)、AFE115(AFE:Analog Front End)、A/D変換器116(A/D:Analog to Digital)、制御部117(撮像制御部)を含む。
第2撮像部120の構成は光学フィルタ122(光学フィルタ)を除いては第1撮像部110と同じであり、撮像レンズ111及び光学フィルタ122(図10参照)を透過した光が撮像素子114に入射して被写体の光学像が結像される。図9において、第1撮像部110と同一の構成要素には同一の参照符号を付し、詳細な説明を省略する。なお第1撮像部110及び第2撮像部120は共通の光軸L1を有し、光学系の特性誤差や設置のずれに起因する画像への影響には後述する位置合わせで対応する。
第1撮像部110の光学フィルタ112は複数の波長帯域の光を透過させる光学フィルタであり、領域によって透過させる波長帯域が異なっている。具体的には、図10に示すように全領域の3/4が第1波長帯域の光を100%透過させる領域112A(単一波長帯域光学フィルタ)であり、1/4が第2波長帯域の光を100%透過させる領域112B(単一波長帯域光学フィルタ)である(領域112A,112Bの形状及び大きさは固定されているものとする)。一方、第2撮像部120の光学フィルタ122は単一の波長帯域の光を透過させる光学フィルタであり、図10に示すように全領域の1/4が第1波長帯域の光を100%透過させる領域122A(単一波長帯域光学フィルタ)であり、3/4が第2波長帯域の光を100%透過させる領域122B(単一波長帯域光学フィルタ)である(領域122A,122Bの形状及び大きさは固定されているものとする)。このように、光学フィルタ112,122は単一波長帯域光学フィルタを複数組み合わせて構成された光学フィルタである。なお、光学フィルタ112、122は第1撮像部110,第2撮像部120の光路において撮像レンズ111の瞳の位置に挿入され、被写体の位置による影響を少なくしている。
上述した構成の撮像部100は、車両、船舶、航空機、飛翔体(ドローン等)、ロボット、人工衛星等の移動体に搭載して移動してもよいし、ユーザが持って移動してもよい。なお撮像部100により画像を取得するのに際して、GPS(Global Positioning System)等の測位システムを利用して撮像部100の位置や被写体の位置を把握し、通信制御部210Bや撮像制御部210Cを介して撮像部100を制御して所望の被写体を撮像してもよい。
次に、上述した構成の画像処理システム10における画像処理の手順を説明する。図11は第1の実施形態における画像処理の手順を示すフローチャートである。
上述した第1の実施形態では光学フィルタ112、122のいずれもが第1波長帯域及び第2波長帯域を透過させる場合について説明しているが、本発明において光学フィルタの構成はこのような態様に限定されるものではない。例えば、第1撮像部110の光学フィルタを上述した光学フィルタ112(図10参照)と同じにし、第2撮像部120の光学フィルタ(図9,10に示す光学フィルタ122)を図12に示す光学フィルタ123のように「全領域が第1波長帯域(赤色波長帯域)の光を100%透過させる領域123A」としてもよい。すなわち、互いに重複しない複数の波長帯域(例えば、上述した赤色波長帯域と近赤外波長帯域)の光を透過させる光学フィルタ(光学フィルタ112)を少なくとも1つ含み、それら複数の波長帯域のうち少なくとも1つ(この場合、第1波長帯域である赤色波長帯域)が光学フィルタ間(光学フィルタ112,123)で共通していればよい。このような光学フィルタを用いる場合でも、光学フィルタ間で共通する波長帯域の成分に基づいて対応点検出及び位置合わせを高精度に行うことができ、これにより所望の波長帯域の成分のみを含む複数の画像を取得することができる。
次に、本発明の画像処理装置、撮像装置、及び画像処理方法の第2の実施形態について説明する。図13は第2の実施形態に係る撮像部100Aの構成を示すブロック図である。撮像部100Aでは、第1撮像部110A及び第2撮像部120Aにおいて開口度を調節する光学部材119(光学部材)が光学フィルタ118の前(後ろでもよい)に設けられており、制御部117Aにより光学部材119を制御する。制御部117Aは、処理部210の図示せぬ開口度調整部の指令により動作する。なお、図13において図9と同一の構成要素には同一の参照符号を付し、詳細な説明を省略する。
次に、本発明の画像処理装置、撮像装置、及び画像処理方法の第3の実施形態について説明する。上述した第1,第2の実施形態では、撮像部100,100Aが独立した複数の撮像光学系及びそれに対応した複数の光学素子、複数の光学フィルタを備える態様について説明したが、第3の実施形態では単一の撮像光学系とこれに対応した単一の撮像素子を備え、複数の光学フィルタを切り替えて用いる態様について説明する。
なお、上述した第3の実施形態のように単一の撮像光学系とこれに対応した単一の撮像素子を備える態様において、複数の光学フィルタを切り替えるのではなく図14,15に示すような単一の光学フィルタ及び開口度調整用の光学部材を用いることにより、取得する画像における第1波長帯域の成分と第2波長帯域の成分の比率を変化させてもよい。
次に、本発明の画像処理装置、撮像装置、及び画像処理方法を用いた計測の例について説明する。
本発明により取得した「高精度に位置合わせされ、所望の波長帯域の成分のみを含む複数の画像」を用いて、植物や作物の生育状況、河川や海域の栄養状況等を示す指標を算出することができる。例えば植生指標としてNDVI(Normalized Difference Vegetation Index;正規化植生指標)を挙げることができる。NDVIは、観察領域(関心領域)における可視域赤色波長帯域の反射率(信号強度)をRとし、近赤外波長帯域の反射率をNIRとしたときに、以下の式(3)で表すことができ、NDVIが大きいほど植生の量及び活性が高いことが知られている。
なお、NDVIを算出するには、上述した第1〜第3の実施形態において光学フィルタの第1,第2波長帯域を赤色波長帯域、近赤外波長帯域とすればよい。
本発明の画像処理装置、撮像装置、及び画像処理方法は、光学フィルタの透過波長帯域や特定波長帯域等の条件を変更することにより、上述した例を含め各種の指標を算出することができる。また、算出した指標については、例えば撮像画像を指標の値に応じた色や明るさで表示したり地形データと重ね合わせたりすることで、植生の状況等指標の分布を把握することができる。上述のように本発明の画像処理装置、撮像装置、及び画像処理方法によれば高精度に位置合わせされた、所望の波長帯域の成分のみを含む画像を取得することができるので、それらの画像に基づいて高精度に計測を行うことができ、いわゆる「精密農業(Precision Farming)」に適用することができる。
本発明の画像処理装置、撮像装置、及び画像処理方法は、内視鏡を用いた狭帯域光観察に適用することもできる。例えば、粘膜表層の毛細血管観察用の紫色狭帯域光または青色狭帯域光を透過させる光学フィルタと、深部の血管を観察するための緑色狭帯域光を透過させる光学フィルタとを用い、これら狭帯域光を光源から照射して撮像した画像に基づいて、関心領域における深部の血管と毛細血管とのコントラスト及び粘膜の微細構造を強調した画像を生成することができる。同様に、波長帯域の異なる2つの赤外光(例えば、波長800nm前後と900nm前後)を特定波長帯域としてそれぞれ透過させる光学フィルタを用いて複数の画像を取得し、それら画像における信号強度に基づいて粘膜深部の血管や血流情報を強調した画像を生成することができる。このようにして、医療機器への適用の場合も上述した農林水産業の場合と同様に高精度に計測を行うことができる。
100 撮像部
100A 撮像部
100B 撮像部
110 第1撮像部
110A 第1撮像部
110B 第1撮像部
111 撮像レンズ
112 光学フィルタ
112A 領域
112B 領域
113 シャッタ
114 撮像素子
115 AFE
116 A/D変換器
117 制御部
117A 制御部
117B 制御部
118 光学フィルタ
118A 領域
118B 領域
119 光学部材
119A 領域
119B 遮光領域
120 第2撮像部
120A 第2撮像部
122 光学フィルタ
122A 領域
122B 領域
123 光学フィルタ
123A 領域
130 無線通信部
131 アンテナ
140 フィルタ板
141 光学フィルタ
141A 領域
141B 領域
142 光学フィルタ
142A 領域
142B 領域
143 光学フィルタ
143A 領域
143B 領域
200 本体部
210 処理部
210A 波長帯域指定部
210B 通信制御部
210C 撮像制御部
210D 画像入力部
210E 対応点検出部
210F 位置合わせ部
210G 混信除去部
210H 関心領域設定部
210I 計測部
210J 表示制御部
210K 記録制御部
211 処理部
211L フィルタ切替部
212 アンテナ
220 記録部
230 表示部
240 操作部
A01 被写体
A02 被写体
A03 被写体
A04 被写体
A05 被写体
A06 被写体
A07 被写体
AR1 矢印
AR2 矢印
IL0 画像
IL1 画像
IL2 画像
IL3 画像
IR0 画像
IR1 画像
IR2 画像
IR3 画像
L1 光軸
S100〜S190 画像処理方法の各ステップ
Claims (16)
- 互いに重複しない複数の波長帯域の光で撮像された画像を少なくとも1つ含む複数の画像を入力する画像入力部であって、前記複数の波長帯域のうち少なくとも1つの波長帯域が画像間で共通する複数の画像を入力する画像入力部と、
前記複数の画像にそれぞれ対応する複数の画像信号のうち前記少なくとも1つの共通している波長帯域の成分に基づいて、前記複数の画像どうしの対応点を検出する対応点検出部と、
前記検出した対応点に基づいて前記複数の画像の位置合わせを行う位置合わせ部と、
前記位置合わせを行った前記複数の画像に対し特定波長帯域と異なる波長帯域の光の影響を除去する混信除去部と、を備え、
前記特定波長帯域は前記複数の波長帯域のうちのいずれかの波長帯域であって前記複数の画像のそれぞれについて異なる波長帯域である画像処理装置。 - 前記画像入力部は、全ての画像が前記複数の波長帯域の光で撮像された複数の画像を前記複数の画像として入力する請求項1に記載の画像処理装置。
- 前記複数の波長帯域のうちから前記特定波長帯域を指定する波長帯域指定部をさらに備える請求項1または2に記載の画像処理装置。
- 前記影響を除去した前記複数の画像に基づいて被写体を計測する計測部を備える請求項1から3のいずれか1項に記載の画像処理装置。
- 前記計測部は、前記影響を除去した前記複数の画像のうちの一の画像に設定された第1の関心領域における前記特定波長帯域の信号強度と、前記影響を除去した前記複数の画像のうちの前記一の画像を除く他の画像において前記第1の関心領域に対応して設定された第2の関心領域における前記特定波長帯域の信号強度と、に基づいて前記被写体を計測する請求項4に記載の画像処理装置。
- 前記第1の関心領域及び前記第2の関心領域を設定する関心領域設定部をさらに備える請求項5に記載の画像処理装置。
- 請求項1から6のいずれか1項に記載の画像処理装置と、
撮像光学系と、
前記撮像光学系の光路に挿入される複数の光学フィルタであって、前記複数の波長帯域の光を透過させる光学フィルタを少なくとも1つ含み、前記複数の波長帯域のうち少なくとも1つの波長帯域がフィルタ間で共通している複数の光学フィルタと、
前記撮像光学系及び前記複数の光学フィルタを透過した光により複数の画像が結像される撮像素子と、を備える撮像装置であって、
前記画像入力部は、前記撮像素子に結像された画像を前記複数の画像を構成する画像として入力する撮像装置。 - 前記撮像光学系はそれぞれ独立した複数の撮像光学系であり、
前記複数の光学フィルタのいずれかが前記複数の撮像光学系のいずれかの光路に挿入され、
前記撮像素子は前記複数の撮像光学系にそれぞれ対応した複数の撮像素子であり、
前記画像入力部は、前記複数の撮像光学系及び前記複数の光学フィルタを透過した光が前記複数の撮像素子に入射して結像された複数の画像を前記複数の画像として入力する請求項7に記載の撮像装置。 - 前記複数の撮像素子による前記複数の画像の撮像タイミングを制御して前記複数の画像を同時に撮像させる撮像制御部をさらに備え、
前記画像入力部は前記同時に撮像した前記複数の画像を入力する請求項8に記載の撮像装置。 - 前記撮像光学系は単一の撮像光学系であり、
前記撮像素子は前記単一の撮像光学系に対応した単一の撮像素子であり、
前記単一の撮像光学系の光路に前記複数の光学フィルタのいずれかを挿入するフィルタ切替部をさらに備え、
前記画像入力部は、前記単一の撮像光学系及び前記複数の光学フィルタのいずれかを透過した光が前記単一の撮像素子に入射して結像された画像を前記複数の画像を構成する画像として入力する請求項7に記載の撮像装置。 - 前記少なくとも1つの光学フィルタは、単一の波長帯域の光を透過させる単一波長帯域光学フィルタであって互いに異なる波長帯域の光を透過させる単一波長帯域光学フィルタを複数組み合わせて構成された光学フィルタである請求項7から10のいずれか1項に記載の撮像装置。
- 前記複数の光学フィルタは波長帯域によって透過率が異なる請求項7から11のいずれか1項に記載の撮像装置。
- 前記複数の光学フィルタは前記撮像光学系の瞳の位置に挿入される請求項7から12のいずれか1項に記載の撮像装置。
- 前記複数の光学フィルタに対する撮像光学系の開口度を調節する光学部材をさらに備える請求項7から13のいずれか1項に記載の撮像装置。
- 前記撮像素子はモノクロ撮像素子である請求項7から14のいずれか1項に記載の撮像装置。
- 互いに重複しない複数の波長帯域の光で撮像された画像を少なくとも1つ含む複数の画像を入力する画像入力工程であって、前記複数の波長帯域のうち少なくとも1つの波長帯域が画像間で共通する複数の画像を入力する画像入力工程と、
前記複数の画像にそれぞれ対応する複数の画像信号のうち前記少なくとも1つの共通している波長帯域の成分に基づいて、前記複数の画像どうしの対応点を検出する対応点検出工程と、
前記検出した対応点に基づいて、前記複数の画像の位置合わせを行う位置合わせ工程と、
前記位置合わせを行った前記複数の画像に対し特定波長帯域と異なる波長帯域の光の影響を除去する混信除去工程と、を有し、
前記特定波長帯域は前記複数の波長帯域のうちのいずれかの波長帯域であって前記複数の画像のそれぞれについて異なる波長帯域である画像処理方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016228101 | 2016-11-24 | ||
JP2016228101 | 2016-11-24 | ||
PCT/JP2017/037512 WO2018096840A1 (ja) | 2016-11-24 | 2017-10-17 | 画像処理装置、撮像装置、及び画像処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2018096840A1 JPWO2018096840A1 (ja) | 2019-10-17 |
JP6751155B2 true JP6751155B2 (ja) | 2020-09-02 |
Family
ID=62194994
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018552461A Active JP6751155B2 (ja) | 2016-11-24 | 2017-10-17 | 画像処理装置、撮像装置、及び画像処理方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11006040B2 (ja) |
EP (1) | EP3547681B1 (ja) |
JP (1) | JP6751155B2 (ja) |
CN (1) | CN110024380B (ja) |
WO (1) | WO2018096840A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7399680B2 (ja) * | 2019-10-29 | 2023-12-18 | ヤンマーパワーテクノロジー株式会社 | 作業支援システム |
JP6880380B2 (ja) * | 2019-11-01 | 2021-06-02 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | 画像処理装置、画像処理方法、及びプログラム |
US11620759B2 (en) * | 2020-07-24 | 2023-04-04 | Apple Inc. | Systems and methods for machine learning enhanced image registration |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5880473A (en) * | 1997-07-28 | 1999-03-09 | Applied Imaging, Inc. | Multifluor-fluorescence in-situ hybridization (M-FISH) imaging techniques using multiple multiband filters with image registration |
EP1389956B1 (en) * | 2001-04-25 | 2012-10-31 | Amnis Corporation | Method and apparatus for correcting crosstalk and spatial resolution for multichannel imaging |
JP5166230B2 (ja) | 2008-12-26 | 2013-03-21 | 富士フイルム株式会社 | 画像処理装置および方法並びにプログラム |
JP2011205587A (ja) * | 2010-03-26 | 2011-10-13 | Olympus Corp | マルチバンドステレオ撮像装置 |
JP5704984B2 (ja) | 2011-03-22 | 2015-04-22 | キヤノン株式会社 | 撮像装置 |
JP5738904B2 (ja) | 2013-01-28 | 2015-06-24 | オリンパス株式会社 | 画像処理装置、撮像装置、画像処理方法及びプログラム |
JP6173065B2 (ja) * | 2013-06-21 | 2017-08-02 | オリンパス株式会社 | 撮像装置、画像処理装置、撮像方法及び画像処理方法 |
-
2017
- 2017-10-17 WO PCT/JP2017/037512 patent/WO2018096840A1/ja unknown
- 2017-10-17 JP JP2018552461A patent/JP6751155B2/ja active Active
- 2017-10-17 EP EP17873029.7A patent/EP3547681B1/en active Active
- 2017-10-17 CN CN201780072649.6A patent/CN110024380B/zh active Active
-
2019
- 2019-05-21 US US16/417,668 patent/US11006040B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
EP3547681B1 (en) | 2021-01-20 |
CN110024380B (zh) | 2021-08-10 |
EP3547681A1 (en) | 2019-10-02 |
US11006040B2 (en) | 2021-05-11 |
CN110024380A (zh) | 2019-07-16 |
JPWO2018096840A1 (ja) | 2019-10-17 |
US20190273862A1 (en) | 2019-09-05 |
WO2018096840A1 (ja) | 2018-05-31 |
EP3547681A4 (en) | 2019-11-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11727542B2 (en) | Super resolution and color motion artifact correction in a pulsed hyperspectral, fluorescence, and laser mapping imaging system | |
CN112789495B (zh) | 混合光谱成像仪 | |
JP6356051B2 (ja) | 分析装置及び分析装置の作動方法 | |
EP2943761B1 (en) | Multispectral imaging system and methods | |
US11398011B2 (en) | Super resolution and color motion artifact correction in a pulsed laser mapping imaging system | |
JP6751155B2 (ja) | 画像処理装置、撮像装置、及び画像処理方法 | |
CN105380587A (zh) | 图像采集系统和电子内窥镜系统 | |
US11533417B2 (en) | Laser scanning and tool tracking imaging in a light deficient environment | |
US11134832B2 (en) | Image rotation in an endoscopic hyperspectral, fluorescence, and laser mapping imaging system | |
US11671691B2 (en) | Image rotation in an endoscopic laser mapping imaging system | |
US20200400795A1 (en) | Noise aware edge enhancement in a pulsed laser mapping imaging system | |
US20200404131A1 (en) | Hyperspectral and fluorescence imaging with topology laser scanning in a light deficient environment | |
EP3986240A1 (en) | Noise aware edge enhancement in a pulsed hyperspectral, fluorescence, and laser mapping imaging system | |
US20160225150A1 (en) | Method and Apparatus for Object Distance and Size Estimation based on Calibration Data of Lens Focus | |
CN110087528B (zh) | 内窥镜系统以及图像显示装置 | |
WO2018163771A1 (ja) | 水質検査システム及び水質検査方法 | |
US20180092516A1 (en) | Imaging device, endoscope apparatus, and imaging method | |
US20220007942A1 (en) | Medical imaging systems and methods that facilitate use of different fluorescence imaging agents | |
JP6931401B2 (ja) | 撮像装置及び画像処理装置 | |
KR20190135705A (ko) | 단일 컬러 카메라를 이용하고 가시광선 및 근적외선 영상 동시 획득이 가능한 가시광선 및 근적외선 영상 제공 시스템 및 방법 | |
JPS6340528A (ja) | 内視鏡装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190513 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190513 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200728 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200813 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6751155 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |