JP7430801B2 - 撮像制御装置、撮像制御装置の作動方法、プログラム、並びに撮像装置 - Google Patents

撮像制御装置、撮像制御装置の作動方法、プログラム、並びに撮像装置 Download PDF

Info

Publication number
JP7430801B2
JP7430801B2 JP2022540075A JP2022540075A JP7430801B2 JP 7430801 B2 JP7430801 B2 JP 7430801B2 JP 2022540075 A JP2022540075 A JP 2022540075A JP 2022540075 A JP2022540075 A JP 2022540075A JP 7430801 B2 JP7430801 B2 JP 7430801B2
Authority
JP
Japan
Prior art keywords
image
filter
difference
brightness level
control device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022540075A
Other languages
English (en)
Other versions
JPWO2022024612A5 (ja
JPWO2022024612A1 (ja
Inventor
臣一 下津
雅彦 杉本
哲也 藤川
敏浩 青井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2022024612A1 publication Critical patent/JPWO2022024612A1/ja
Publication of JPWO2022024612A5 publication Critical patent/JPWO2022024612A5/ja
Application granted granted Critical
Publication of JP7430801B2 publication Critical patent/JP7430801B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/11Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B11/00Filters or other obturators specially adapted for photographic purposes
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/60Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/761Proximity, similarity or dissimilarity measures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/125Colour sequential image capture, e.g. using a colour wheel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20224Image subtraction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Evolutionary Computation (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Studio Devices (AREA)

Description

本開示の技術は、撮像制御装置、撮像制御装置の作動方法、プログラム、並びに撮像装置に関する。
特許文献1には、同一被写体に対する可視光及び赤外光での撮影を同時に行うことを可能にする可視光・赤外光撮影用レンズシステムであって、可視光領域と赤外光領域のうちいずれか一方の波長領域を第1波長領域とし、他方の波長領域を第2波長領域とし、第1波長領域の被写体光により結像された被写体像を撮像する第1の撮像手段と、第2波長領域の被写体光により結像された被写体像を撮像する第2の撮像手段と、第1の撮像手段により被写体を撮像するための第1の被写体光を第1の撮像手段の撮像面に結像する光学系であって、所望の被写体距離の被写体にピントを合わせるために光軸方向に移動可能なフォーカスレンズを備えた光学系と、光学系に配置されると共にフォーカスレンズよりも後側に配置される光分割手段であって、光学系に入射した被写体光を第1の被写体光と、第2の撮像手段により被写体を撮像するための第2の被写体光に分割する光分割手段と、光分割手段によって分割され、光学系の作用により結像した後の第2の被写体光を再度結像させるためのリレー光学系であって、結像位置を調整するために光軸方向に移動可能な補正レンズを備えたリレー光学系と、第1の撮像手段の撮像面に対してピントが合う被写体の被写体距離と、第2の撮像手段の撮像面に対してピントが合う被写体の被写体距離とが一致するようにフォーカスレンズの位置に基づいて補正レンズの位置を制御する補正レンズ制御手段と、を備えたことを特徴とする可視光・赤外光撮影用レンズシステムが記載されている。
特許文献2には、被写体の発する所定の二つの相異なる波長帯の電磁波を各々にとらえて撮像して被写体の映像信号に変換する撮像装置において、いずれか一方の波長帯の電磁波を反射し他方の波長帯の電磁波を透過する光学系と、反射した反射電磁波をとらえて撮像して映像信号に変換する第一のカメラと、透過した透過電磁波をとらえて撮像して映像信号に変換する第二のカメラとから構成されることを特徴とする撮像装置が記載されている。
特許文献3には、TVカメラにより撮像した被監視機器の画像を表示装置に表示して監視するTVカメラ監視装置において、光学レンズ系より入射される入射光を可視光線と赤外線とに分離する光分離器と、これら分離された可視光線および赤外線によりそれぞれ結像される各画像をそれぞれ撮像する撮像管とをTVカメラに設け、このTVカメラの撮像管からの各画像信号を受けて可視光線像と赤外線像とを重畳して表示装置に表示させる画像信号処理回路を設けたことを特徴とするTVカメラ監視装置が記載されている。
特開2004-354714号公報 特開2002-209126号公報 特開昭62-011384号公報
本開示の技術に係る1つの実施形態は、被写体の輻射像をユーザに分かりやすく提示することが可能な撮像制御装置、撮像制御装置の作動方法、プログラム、並びに撮像装置を提供する。
本開示の撮像制御装置は、プロセッサと、プロセッサに接続または内蔵されたメモリと、を備え、第1フィルタ、第2フィルタ、補正レンズ、ズーム機能、およびイメージセンサを有する撮像装置の動作を制御する撮像制御装置であって、第1フィルタは可視光線を透過し、第2フィルタは赤外線を透過し、プロセッサは、第1フィルタと第2フィルタとを選択的に光路に挿入し、第1フィルタを透過した可視光線と、第2フィルタを透過した赤外線との軸上色収差を、補正レンズを光軸に沿って移動させることで補正し、第1フィルタを透過した可視光線をイメージセンサに撮像させることで、被写体の反射像を含む第1画像を取得し、第2フィルタを透過した赤外線をイメージセンサに撮像させることで、被写体の反射像および輻射像を含む第2画像を取得し、補正レンズを光軸に沿って移動させることで生じた第1画像と第2画像との画角差を、ズーム機能を動作させることで補正し、画角差が補正された状態において取得した第1画像と第2画像に基づく、輻射像を含む第3画像を出力する。
プロセッサは、予め設定された実行条件が満たされた場合に限り、第3画像を出力することが好ましい。
実行条件は、第1画像に含まれる反射像の輝度レベルが、予め設定された閾値以上である、という内容を含むことが好ましい。
プロセッサは、輝度レベルが閾値未満であった場合、輝度レベルが閾値以上の場合に取得して予め記憶しておいた第1画像と、画角差が補正された状態において取得した第2画像とを出力することが好ましい。
実行条件は、第3画像の出力を実行する指示を受け付けた、という内容を含むことが好ましい。
プロセッサは、第3画像として、第1画像と第2画像の差分画像を生成することが好ましい。
プロセッサは、第1画像に含まれる反射像の輝度レベルと第2画像に含まれる反射像の輝度レベルを一致させたうえで、差分画像を生成することが好ましい。
プロセッサは、第1画像に含まれる反射像の輝度レベルと第2画像に含まれる反射像の輝度レベルが異なった状態で、差分画像を生成することが好ましい。
撮像装置は、ズームレンズを有し、プロセッサは、補正レンズを光軸に沿って移動させることで生じた第1画像と第2画像との画角差を、ズームレンズを光軸に沿って移動させることにより補正することが好ましい。
プロセッサは、軸上色収差を補正した際のズームレンズの位置に応じて、画角差の補正に要するズームレンズの移動量を変更することが好ましい。
プロセッサは、画角差を補正する場合にズームレンズを移動させることでずれたピントを、補正レンズを移動させることで合わせることが好ましい。
本開示の撮像装置は、上記のいずれかに記載の撮像制御装置を備える。
本開示の撮像制御装置の作動方法は、可視光線を透過する第1フィルタ、赤外線を透過する第2フィルタ、補正レンズ、ズーム機能、およびイメージセンサを有する撮像装置の動作を制御する撮像制御装置の作動方法であって、第1フィルタと第2フィルタとを選択的に光路に挿入すること、第1フィルタを透過した可視光線と、第2フィルタを透過した赤外線との軸上色収差を、補正レンズを光軸に沿って移動させることで補正すること、第1フィルタを透過した可視光線をイメージセンサに撮像させることで、被写体の反射像を含む第1画像を取得すること、第2フィルタを透過した赤外線をイメージセンサに撮像させることで、被写体の反射像および輻射像を含む第2画像を取得すること、補正レンズを光軸に沿って移動させることで生じた第1画像と第2画像との画角差を、ズーム機能を動作させることで補正すること、および、画角差が補正された状態において取得した第1画像と第2画像に基づく、輻射像を含む第3画像を出力すること、を含む。
本開示のプログラムは、可視光線を透過する第1フィルタ、赤外線を透過する第2フィルタ、補正レンズ、ズーム機能、およびイメージセンサを有する撮像装置の動作を制御するプログラムであって、第1フィルタと第2フィルタとを選択的に光路に挿入すること、第1フィルタを透過した可視光線と、第2フィルタを透過した赤外線との軸上色収差を、補正レンズを光軸に沿って移動させることで補正すること、第1フィルタを透過した可視光線をイメージセンサに撮像させることで、被写体の反射像を含む第1画像を取得すること、第2フィルタを透過した赤外線をイメージセンサに撮像させることで、被写体の反射像および輻射像を含む第2画像を取得すること、補正レンズを光軸に沿って移動させることで生じた第1画像と第2画像との画角差を、ズーム機能を動作させることで補正すること、および、画角差が補正された状態において取得した第1画像と第2画像に基づく、輻射像を含む第3画像を出力すること、を含む処理をコンピュータに実行させる。
カメラを示す図である。 フィルタユニットを示す図である。 制御部を構成するコンピュータを示すブロック図である。 CPUのブロック図である。 各フィルタが光路に挿入された場合の様子を示す図であり、図5Aは第1フィルタが光路に挿入された場合の様子を示し、図5Bは第2フィルタが光路に挿入された場合の様子を示す。 ズームレンズ移動量情報を示す図である。 第2フィルタが光路に挿入された場合のフォーカスレンズとズームレンズの動きを示すフローチャートである。 第1フィルタが光路に挿入された場合のフォーカスレンズとズームレンズの動きを示すフローチャートである。 画像処理部の詳細を示すブロック図である。 第1輝度レベルが閾値以上であった場合の判定結果を示す図である。 第1輝度レベルが閾値未満であった場合の判定結果を示す図である。 輝度レベル正規化部による正規化の具体例を示す図である。 差分画像の成り立ちを示す図である。 第1画像と差分画像の重畳画像を生成する様子を示す図である。 重畳用第1画像と第2画像の重畳画像を生成する様子を示す図である。 制御部の動作手順を示すフローチャートである。 第2実施形態の制御部を示す図である。 実行指示を受け付けた場合の判定結果を示す図である。 実行指示を受け付けなかった場合、あるいは取り消し指示を受け付けた場合の判定結果を示す図である。 第3実施形態の画像処理部の詳細を示すブロック図である。 第3実施形態の差分画像の成り立ちを示す図である。 第1画像と差分画像の重畳画像を生成する様子を示す図である。 第4実施形態のカメラを示す図である。 第4実施形態の制御部の動作手順を示すフローチャートである。
[第1実施形態]
一例として図1に示すように、カメラ10は、例えば工場等に設置される監視カメラであり、鏡筒11と本体12とを備える。鏡筒11には鏡筒側マウント13が設けられており、本体12には本体側マウント14が設けられている。これら鏡筒側マウント13および本体側マウント14によって、鏡筒11が本体12に取り付けられる。鏡筒11には撮像光学系20が内蔵されており、本体12にはイメージセンサ21が内蔵されている。カメラ10は、本開示の技術に係る「撮像装置」の一例である。
撮像光学系20は、イメージセンサ21に被写体光SL(図5参照)を結像させるための複数種のレンズを有する。具体的には、撮像光学系20は、対物レンズ25、フォーカスレンズ26、ズームレンズ27、およびマスターレンズ28を有する。これら各レンズ25~28は、対物レンズ25、フォーカスレンズ26、ズームレンズ27、マスターレンズ28の順に、物体側(被写体側)から結像側(イメージセンサ21側)に向かって配置されている。各レンズ25~28は、400nmから1700nmまでの波長帯域の光、すなわち可視光域から近赤外域までの波長帯域の光を透過する。図1では簡略化しているが、各レンズ25~28は、実際には複数枚のレンズが組み合わされたレンズ群である。
撮像光学系20は、絞り30およびフィルタユニット31も有する。絞り30はズームレンズ27とフィルタユニット31との間に配置されている。フィルタユニット31は絞り30とマスターレンズ28との間に配置されている。
鏡筒11には、フォーカスレンズ駆動機構35、ズームレンズ駆動機構36、絞り駆動機構37、およびフィルタユニット駆動機構38が設けられている。フォーカスレンズ駆動機構35は、周知のように、フォーカスレンズ26を保持し、外周にカム溝が形成されたフォーカス用カム環、およびフォーカス用カム環を光軸OA周りに回転させることで、フォーカス用カム環を光軸OAに沿って移動させるフォーカス用モータ等を含む。ズームレンズ駆動機構36も同様に、ズームレンズ27を保持し、外周にカム溝が形成されたズーム用カム環、およびズーム用カム環を光軸OA周りに回転させることで、ズーム用カム環を光軸OAに沿って移動させるズーム用モータ等を含む。なお、以下では、光軸OAと平行で、かつ物体側から結像側に向かう方向を結像側方向IDと表記し、光軸OAと平行で、結像側から物体側に向かう方向を物体側方向ODと表記する。ここでいう平行とは、完全な平行の他に、本開示の技術が属する技術分野で一般的に許容される誤差を含めた意味合いでの平行を指す。
絞り駆動機構37は、これも周知のように、絞り30の複数枚の絞り羽根を開閉するモータ等を含む。フィルタユニット駆動機構38は、フィルタユニット31を、その中心を軸として一方向に回転させるモータ等を含む。
フォーカス用モータおよびズーム用モータは、例えばステッピングモータである。この場合、フォーカス用モータおよびズーム用モータの駆動量から、光軸OA上のフォーカスレンズ26およびズームレンズ27の位置を導き出すことができる。なお、モータの駆動量ではなく、位置センサを設けて、フォーカスレンズ26およびズームレンズ27の位置を検出してもよい。
フィルタユニット駆動機構38には、フィルタユニット31の回転位置を検出する回転位置センサが設けられている。回転位置センサは、例えばロータリーエンコーダである。
各駆動機構35~38のモータ等の電気部品は、鏡筒側マウント13に設けられた鏡筒側接点40に接続されている。本体側マウント14の鏡筒側接点40と対応する位置には、本体側接点41が設けられている。本体側接点41には、制御部45が接続されている。制御部45は、本開示の技術に係る「撮像制御装置」の一例である。鏡筒側マウント13および本体側マウント14を介して鏡筒11が本体12に取り付けられた場合、鏡筒側接点40と本体側接点41とが接触する。これにより、各駆動機構35~38の電気部品と制御部45とが電気的に接続される。
各駆動機構35~38の電気部品は、制御部45の制御の下で駆動される。より詳しくは、制御部45は、モニタ装置50を介して入力されたユーザからの指示に応じた駆動信号を発して、各駆動機構35~38の電気部品を駆動させる。例えば、モニタ装置50を介して画角を望遠側に変更する指示が入力された場合、制御部45は、ズームレンズ駆動機構36のズーム用モータに駆動信号を発して、ズームレンズ27を望遠側に移動させる。モニタ装置50は、例えば、タッチパネルで構成される。または、モニタ装置50は、例えば、ディスプレイ、キーボードおよびマウスで構成される。なお、モニタ装置50は、カメラ10とは離れた遠隔地、例えば管制室に設置されており、コネクタ51を介して本体12に接続されている。
フォーカス用モータおよびズーム用モータは、駆動量を制御部45に出力する。制御部45は、駆動量から光軸OA上のフォーカスレンズ26およびズームレンズ27の位置を導き出す。また、回転位置センサは、フィルタユニット31の回転位置を制御部45に出力する。これにより制御部45は、フィルタユニット31の回転位置を把握する。
イメージセンサ21は、被写体光SLを受光する受光面を有している。イメージセンサ21は、受光面の中心が光軸OAと一致し、かつ受光面が光軸OAと直交するよう配されている。イメージセンサ21は、受光面がヒ化インジウムガリウム(InGaAs)により形成されている。このためイメージセンサ21は、撮像光学系20を透過した400nmから1700nmまでの波長帯域の光、すなわち可視光域から近赤外域までの波長帯域の光に基づく被写体像を検出することが可能である。なお、ここでいう直交とは、完全な直交の他に、本開示の技術が属する技術分野で一般的に許容される誤差を含めた意味合いでの直交を指す。
一例として図2に示すように、フィルタユニット31は、第1フィルタF1および第2フィルタF2の2つのフィルタF1およびF2が円環状に等間隔(図2においては180°毎)で並べられた円板である。フィルタユニット31は、各フィルタF1およびF2を1フレーム毎に切り替えるために、フィルタユニット駆動機構38によって時計回りに回転する。ここでいう等間隔とは、完全な等間隔の他に、本開示の技術が属する技術分野で一般的に許容される誤差を含めた意味合いでの等間隔を指す。なお、フィルタユニット31を反時計回りに回転させてもよい。また、フィルタユニット31は円板でなくてもよく、矩形またはその他の形状でもよい。
フィルタユニット31は、第1フィルタF1の中心と光軸OAとが一致するよう配置された図示の第1位置から、第2フィルタF2の中心と光軸OAとが一致するよう配置された第2位置を経て、再び第1位置に戻る。つまりフィルタF1およびF2は、フィルタユニット31の時計回りの回転に伴って、順次光路に挿入される。
第1フィルタF1および第2フィルタF2はそれぞれ、予め設定された波長帯域の光を選択的に透過させる。第1フィルタF1は可視光線VR(図5参照)を透過する。第1フィルタF1を透過する可視光線VRは、例えば400nm~770nmの波長帯域の光である。第2フィルタF2は赤外線IR(図5参照)を透過する。第2フィルタF2を透過する赤外線IRは、例えば1550±100nm(1450nm~1650nm)の波長帯域の光である。なお、上記のように「~」を用いて表される数値範囲は、「~」の前後に記載される数値を下限値および上限値として含む範囲を意味する。
第1フィルタF1を透過した可視光線VRをイメージセンサ21が撮像することによって、被写体の反射像RFIを含む第1画像60が得られる。また、第2フィルタF2を透過した赤外線IRをイメージセンサ21が撮像することによって、被写体の反射像RFIおよび輻射像RDIを含む第2画像61が得られる。輻射像RDIは、被写体の温度を表す。輻射像RDIで表される被写体の温度の範囲は、例えば200℃~2000℃である。
一例として図3に示すように、制御部45は、CPU(Central Processing Unit)65、メモリ66、およびストレージ67を含むコンピュータよって実現される。メモリ66は例えばRAM(Random Access Memory)等であり、各種情報を一時的に記憶する。非一時的記憶媒体であるストレージ67は例えばハードディスクドライブ、またはソリッドステートドライブ等であり、各種パラメータおよび各種プログラムを記憶する。CPU65は、ストレージ67に記憶されたプログラムをメモリ66へロードして、プログラムにしたがった処理を実行することにより、カメラ10の各部の動作を統括的に制御する。なお、メモリ66は、CPU65に内蔵されていてもよい。なお、プログラムは、図示しない外部記録媒体に記録されて配布され、その記録媒体からCPU65によりインストールされてもよい。または、プログラムは、ネットワークに接続されたサーバ等に、外部からアクセス可能な状態で記憶され、要求に応じてCPU65によりメモリ66やストレージ67にダウンロードされ、インストールおよび実行されてもよい。
一例として図4に示すように、ストレージ67には、作動プログラム70が記憶されている。作動プログラム70は、制御部45を構成するコンピュータを撮像制御装置として機能させるためのアプリケーションプログラムである。すなわち、作動プログラム70は、本開示の技術に係る「プログラム」の一例である。ストレージ67には、作動プログラム70の他に、閾値TH、重畳用第1画像60SP、およびズームレンズ移動量情報71も記憶されている。
作動プログラム70が起動されると、CPU65は、メモリ66等と協働して、イメージセンサ駆動制御部80、画像処理部81、転送制御部82、フォーカスレンズ駆動制御部83、ズームレンズ駆動制御部84、絞り駆動制御部85、およびフィルタユニット駆動制御部86として機能する。CPU65は、本開示の技術に係る「プロセッサ」の一例である。
イメージセンサ駆動制御部80は、イメージセンサ21の駆動を制御する。イメージセンサ駆動制御部80は、モニタ装置50を介して撮像開始の指示が入力された場合に、予め設定されたフレームレート、例えば30fps(frames per second)にて、イメージセンサ21に被写体光SLを撮像させる。イメージセンサ21は、被写体光SLを撮像することにより得られた画像を画像処理部81に出力する。
画像処理部81は、イメージセンサ21からの画像に対して各種画像処理を施す。画像処理部81は、画像処理後の画像を転送制御部82に出力する。転送制御部82は、画像処理部81からの画像をモニタ装置50に転送する。
フォーカスレンズ駆動制御部83は、フォーカスレンズ駆動機構35の駆動を制御する。例えばフォーカスレンズ駆動制御部83は、フィルタユニット31の第1フィルタF1および第2フィルタF2を各々透過した2種の光の軸上色収差を、フォーカスレンズ駆動機構35を介してフォーカスレンズ26を光軸OAに沿って移動させることで補正する。すなわち、フォーカスレンズ26は、本開示の技術に係る「補正レンズ」の一例である。
ズームレンズ駆動制御部84は、ズームレンズ駆動機構36の駆動を制御する。ここで、軸上色収差を補正するためにフォーカスレンズ26を光軸OAに沿って移動させることによって、第1画像60と第2画像61とには画角差が生じる。このため、ズームレンズ駆動制御部84は、フォーカスレンズ26を光軸OAに沿って移動させることで生じた第1画像60と第2画像61との画角差を、ズームレンズ駆動機構36を介してズームレンズ27を光軸OAに沿って移動させることで補正する。なお、ズームレンズ27、ズームレンズ駆動機構36、およびズームレンズ駆動制御部84等は、光学ズーム機能90を構成する。光学ズーム機能90は、本開示の技術に係る「ズーム機能」の一例である。
絞り駆動制御部85は、被写体光SLの光量が適切となるよう絞り駆動機構37の駆動を制御する。フィルタユニット駆動制御部86は、各フィルタF1およびF2が1フレーム毎に選択的に光路に挿入されるようフィルタユニット駆動機構38の駆動を制御する。
一例として図5Aに示すように、第1フィルタF1が光路に挿入された場合、フォーカスレンズ駆動制御部83は、図5Bの第2フィルタF2が光路に挿入された場合の位置からフォーカスレンズ26を物体側方向ODに移動させることで、軸上色収差を補正する。また、ズームレンズ駆動制御部84は、図5Bの第2フィルタF2が光路に挿入された場合の位置からズームレンズ27を物体側方向ODに移動させることで、画角差を補正する。
一例として図5Bに示すように、第2フィルタF2が光路に挿入された場合、フォーカスレンズ駆動制御部83は、図5Aの第1フィルタF1が光路に挿入された場合の位置からフォーカスレンズ26を結像側方向IDに移動させることで、軸上色収差を補正する。また、ズームレンズ駆動制御部84は、図5Aの第1フィルタF1が光路に挿入された場合の位置からズームレンズ27を結像側方向IDに移動させることで、画角差を補正する。
こうして軸上色収差が補正され、かつ画角差が補正された状態において、イメージセンサ21は、図5Aの場合は第1フィルタF1を透過した可視光線VRを撮像することで、反射像RFIを含む第1画像60を出力する。また、イメージセンサ21は、図5Bの場合は第2フィルタF2を透過した赤外線IRを撮像することで、反射像RFIおよび輻射像RDIを含む第2画像61を出力する。
軸上色収差は、ズームレンズ27の位置が望遠側となるほど大きくなる。このため、軸上色収差の補正に要するフォーカスレンズ26の移動量は、ズームレンズ27の位置が望遠側となるほど大きくなる。したがって、画角差の補正に要するズームレンズ27の移動量も、軸上色収差を補正した際のズームレンズ27の位置に応じて変わる。ズームレンズ駆動制御部84は、ズームレンズ移動量情報71を参照することで、軸上色収差を補正した際のズームレンズ27の位置に応じて、画角差の補正に要するズームレンズ27の移動量を変更する。
一例として図6に示すように、ズームレンズ移動量情報71には、画角差の補正に要するズームレンズ27の移動量であって、軸上色収差を補正した際のズームレンズ27の位置に対応するズームレンズ27の移動量が登録されている。ズームレンズ27の移動量は、ズームレンズ27の位置が望遠側となるほど大きい値が登録されている。例えば最も望遠側の位置であるZ1には、最大値の0.25mmが登録されている。
撮像光学系20に含まれる各レンズ25~28は、赤外線IR用に設計されている。このため、第2フィルタF2が光路に挿入された場合は、画角差を補正するためにズームレンズ27を移動させたことでピントはずれない。したがって、一例として図7に示すように、第2フィルタF2が光路に挿入された場合、フォーカスレンズ駆動制御部83がフォーカスレンズ26を移動させて軸上色収差を補正した後(ステップST10)は、ズームレンズ駆動制御部84がズームレンズ27を1回移動させて画角差を補正(ステップST11)すれば済む。
対して第1フィルタF1が光路に挿入された場合は、画角差を補正するためにズームレンズ27を移動させたことでピントがずれる。したがって、一例として図8に示すように、第1フィルタF1が光路に挿入された場合は、フォーカスレンズ駆動制御部83がフォーカスレンズ26を移動させて軸上色収差を補正(ステップST10)し、ズームレンズ駆動制御部84がズームレンズ27を移動させて画角差を補正(ステップST11)した後、フォーカスレンズ駆動制御部83がフォーカスレンズ26を再び移動させて、ずれたピントを合わせる(ステップST12)。そして、これらステップST11およびST12を、画角差が許容範囲となる(ステップST13でYES)まで繰り返す。
一例として図9に示すように、画像処理部81は、画像取得部100、輝度レベル算出部101、実行可否判定部102、輝度レベル正規化部103、差分画像生成部104、および画像出力部105を有する。
画像取得部100は、イメージセンサ21からの第1画像60を取得する。画像取得部100は、取得した第1画像60に対して階調変換処理等の各種画像処理を施した後、第1画像60を輝度レベル算出部101および画像出力部105に出力する。同様に、画像取得部100は、イメージセンサ21からの第2画像61を取得し、第2画像61に対して各種画像処理を施した後、第2画像61を輝度レベル算出部101および画像出力部105に出力する。画像取得部100で取得される第1画像60および第2画像61は、画角差が補正された画像である。
輝度レベル算出部101は、第1画像60に含まれる反射像RFIの輝度レベルである第1輝度レベル110を算出する。輝度レベル算出部101は、算出した第1輝度レベル110を実行可否判定部102に出力する。また、輝度レベル算出部101は、算出した第1輝度レベル110、および第1画像60を、輝度レベル正規化部103に出力する。同様に、輝度レベル算出部101は、第2画像61に含まれる反射像RFIの輝度レベルである第2輝度レベル111を算出する。輝度レベル算出部101は、算出した第2輝度レベル111、および第2画像61を、輝度レベル正規化部103に出力する。
輝度レベル算出部101は、例えば、画素値が予め設定された閾値以上の第2画像61の領域を輻射像RDIが写る領域、画素値が閾値未満の第2画像61の領域を反射像RFIが写る領域として抽出する。そして、輝度レベル算出部101は、第2画像61の反射像RFIが写る領域の画素の輝度値の代表値を、第2輝度レベル111として算出する。また、輝度レベル算出部101は、第2画像61の反射像RFIが写る領域に対応する第1画像60の領域を、第1画像60の反射像RFIが写る領域として抽出する。そして、輝度レベル算出部101は、第1画像60の反射像RFIが写る領域の画素の輝度値の代表値を、第1輝度レベル110として算出する。代表値は、最大値、最頻値、中央値、および平均値のうちのいずれかである。なお、第1画像60の反射像RFIが写る領域と、第2画像61の反射像RFIが写る領域とが、モニタ装置50を介してユーザに指定されてもよい。
実行可否判定部102は、閾値THおよび第1輝度レベル110に関連する実行条件を満たすか否かに基づいて、第1画像60と第2画像61の差分画像115を出力する処理の実行可否を判定する。実行可否判定部102は、実行可否の判定結果112を、輝度レベル正規化部103、差分画像生成部104、および画像出力部105に出力する。
実行可否判定部102は、予め設定された時間間隔で実行可否を判定する。予め設定された時間間隔とは、例えば1フレーム毎、数分毎、または数時間毎である。
輝度レベル正規化部103は、実行条件が満たされ、実行可否判定部102からの判定結果112が「実行する」という内容であった場合に限り動作する。輝度レベル正規化部103は、第2画像61の第2輝度レベル111に合わせて第1画像60の第1輝度レベル110を正規化することで、第1画像60を正規化第1画像60Nとする。輝度レベル正規化部103は、正規化第1画像60Nおよび第2画像61を差分画像生成部104に出力する。
差分画像生成部104は、輝度レベル正規化部103と同じく、実行条件が満たされ、実行可否判定部102からの判定結果112が「実行する」という内容であった場合に限り動作する。差分画像生成部104は、正規化第1画像60Nと第2画像61の対応する画素毎に画素値の差分をとることで、差分画像115を生成する。差分画像生成部104は、生成した差分画像115を画像出力部105に出力する。なお、差分画像115は、本開示の技術に係る「第3画像」の一例である。
実行条件が満たされ、実行可否判定部102からの判定結果112が「実行する」という内容であった場合、画像出力部105は、第1画像60、第2画像61、および差分画像115を転送制御部82に出力する。転送制御部82は、第1画像60、第2画像61、および差分画像115をモニタ装置50に転送する。対して、実行条件が満たされず、実行可否判定部102からの判定結果112が「実行しない」という内容であった場合、画像出力部105は、重畳用第1画像60SPおよび第2画像61を転送制御部82に出力する。転送制御部82は、重畳用第1画像60SPおよび第2画像61をモニタ装置50に転送する。すなわち、画像出力部105は、実行条件が満たされた場合に限り、差分画像115を出力する。
ここで、重畳用第1画像60SPは、第1輝度レベル110が閾値TH以上の場合に、イメージセンサ21によって反射像RFIが撮像されて取得された画像である。重畳用第1画像60SPは、例えばモニタ装置50を介したユーザの指示によって取得され、ストレージ67に記憶される。第1輝度レベル110が閾値TH以上の場合とは、例えば日中である。なお、ユーザにより予め指定された時刻に重畳用第1画像60SPを取得して記憶してもよい。
一例として図10に示すように、実行可否判定部102は、第1輝度レベル110が閾値TH以上であった場合、実行条件を満たしたと判定し、「実行する」という内容の判定結果112Aを出力する。対して、一例として図11に示すように、実行可否判定部102は、第1輝度レベル110が閾値TH未満であった場合、実行条件を満たさなかったと判定し、「実行しない」という内容の判定結果112Bを出力する。なお、閾値THには、第1輝度レベル110がそれ以上の値であった場合に、第1画像60の反射像RFIに対応する第2画像61の反射像RFIの明るさによって、輻射像RDIを観察することが困難となる値が設定されている。
図12は、輝度レベル正規化部103による正規化の具体例を示す。第1輝度レベル110が「100」、第2輝度レベル111が「80」であった場合、輝度レベル正規化部103は、第1画像60の各画素の画素値に0.8を乗算することで、第1画像60を正規化第1画像60Nとする。
図13は、差分画像115の成り立ちを示す。差分画像生成部104は、第2画像61から正規化第1画像60Nを減算することで差分画像115を生成する。第2画像61に含まれる反射像RFIの第2輝度レベル111と、正規化第1画像60Nに含まれる反射像RFIの第1輝度レベル110とは一致している。このため差分画像115は、第2画像61の反射像RFIがほとんど取り除かれ、ほぼ輻射像RDIのみの画像となる。
一例として図14に示すように、転送制御部82から差分画像115等が転送された場合、モニタ装置50においては、第1画像60と差分画像115の重畳画像120が生成され、重畳画像120がディスプレイ(図示省略)に表示される等してユーザに提示される。なお、重畳画像120は、画像処理部81により生成され、転送制御部82によりモニタ装置50へ転送されてもよい。一方、一例として図15に示すように、転送制御部82から差分画像115ではなく重畳用第1画像60SP等が転送された場合、モニタ装置50においては、重畳用第1画像60SPと第2画像61の重畳画像121が生成され、重畳画像121がディスプレイに表示される等してユーザに提示される。なお、重畳画像120を生成する場合に、第1画像60と差分画像115に対してエッジ抽出を施し、第1画像60と差分画像115のエッジ同士を合わせ込むように重畳してもよい。重畳画像121を生成する場合についても同様である。また、重畳画像120、121の輻射像RDIの領域を点滅表示させたり、色を付けたりしてもよい。さらに、第1画像60または重畳用第1画像60SPの反射像RFIのエッジ抽出画像と差分画像115または第2画像61を重畳してもよい。
次に、上記構成による作用について、図16のフローチャートを参照しつつ説明する。被写体光SLは、撮像光学系20の対物レンズ25、フォーカスレンズ26、ズームレンズ27、絞り30、フィルタユニット31の各フィルタF1およびF2のいずれか、およびマスターレンズ28を透過して、イメージセンサ21の受光面に至る。イメージセンサ21は、制御部45の制御の下、被写体光SLを撮像して画像を出力する。
フィルタユニット駆動制御部86の制御の下で駆動されるフィルタユニット駆動機構38によって、フィルタユニット31が時計回りに回転される。これによりフィルタF1およびF2が1フレーム毎に順次光路に挿入される。
まず、第1フィルタF1が光路に挿入される(ステップST100)。この場合、図5Aで示したように、フォーカスレンズ駆動制御部83の制御の下で駆動されるフォーカスレンズ駆動機構35によって、フォーカスレンズ26が物体側方向ODに移動される。これにより軸上色収差が補正される(ステップST110)。また、ズームレンズ駆動制御部84の制御の下で駆動されるズームレンズ駆動機構36によって、ズームレンズ27が物体側方向ODに移動される。これにより画角差が補正される(ステップST120)。なお、実際には図8で示したように、画角差が許容範囲となるまで、画角差を補正するためのズームレンズ27の移動と、ピントを合わせるためのフォーカスレンズ26の移動とが繰り返される。
イメージセンサ駆動制御部80の制御の下、第1フィルタF1を透過した可視光線VRがイメージセンサ21にて撮像され、反射像RFIを含む第1画像60がイメージセンサ21から出力される。第1画像60は、イメージセンサ21から画像処理部81の画像取得部100に送られ、画像取得部100にて取得される(ステップST130)。
続いて、第2フィルタF2が光路に挿入される(ステップST140)。この場合、図5Bで示したように、フォーカスレンズ駆動制御部83の制御の下で駆動されるフォーカスレンズ駆動機構35によって、フォーカスレンズ26が結像側方向IDに移動される。これにより軸上色収差が補正される(ステップST150)。また、ズームレンズ駆動制御部84の制御の下で駆動されるズームレンズ駆動機構36によって、ズームレンズ27が結像側方向IDに移動される。これにより画角差が補正される(ステップST160)。
イメージセンサ駆動制御部80の制御の下、第2フィルタF2を透過した赤外線IRがイメージセンサ21にて撮像され、反射像RFIおよび輻射像RDIを含む第2画像61がイメージセンサ21から出力される。第2画像61は、イメージセンサ21から画像処理部81の画像取得部100に送られ、画像取得部100にて取得される(ステップST170)。
図9で示したように、第1画像60は、画像取得部100から輝度レベル算出部101に出力される。そして、輝度レベル算出部101において第1画像60の第1輝度レベル110が算出される。第1輝度レベル110は実行可否判定部102に出力され、実行可否判定部102において閾値THと比較される。
図10で示したように、第1輝度レベル110が閾値TH以上であった場合、「実行する」という内容の判定結果112Aが、実行可否判定部102から輝度レベル正規化部103、差分画像生成部104、および画像出力部105に出力される(ステップST180でYES)。この場合、輝度レベル正規化部103において第1画像60が正規化第1画像60Nとされる。そして、差分画像生成部104において正規化第1画像60Nと第2画像61の差分画像115が生成される。差分画像115は、第1画像60および第2画像61と併せて画像出力部105から転送制御部82に出力される(ステップST190)。
一方、図11で示したように、第1輝度レベル110が閾値TH未満であった場合、「実行しない」という内容の判定結果112Bが、実行可否判定部102から輝度レベル正規化部103、差分画像生成部104、および画像出力部105に出力される(ステップST180でNO)。この場合、輝度レベル正規化部103および差分画像生成部104は動作されず、したがって差分画像115は生成されない。画像出力部105からは、重畳用第1画像60SPおよび第2画像61が転送制御部82に出力される。これらステップST100~ST190の一連の処理は、モニタ装置50を介して撮像終了指示が入力されるまで繰り返し続けられる。
以上説明したように、CPU65のフィルタユニット駆動制御部86は、可視光線VRを透過する第1フィルタF1と、赤外線IRを透過する第2フィルタF2とを選択的に光路に挿入する。フォーカスレンズ駆動制御部83は、第1フィルタF1を透過した可視光線VRと、第2フィルタF2を透過した赤外線IRとの軸上色収差を、フォーカスレンズ26を光軸OAに沿って移動させることで補正する。イメージセンサ駆動制御部80は、第1フィルタF1を透過した可視光線VRをイメージセンサ21に撮像させることで、被写体の反射像RFIを含む第1画像60を取得する。また、イメージセンサ駆動制御部80は、第2フィルタF2を透過した赤外線IRをイメージセンサ21に撮像させることで、被写体の反射像RFIおよび輻射像RDIを含む第2画像61を取得する。ズームレンズ駆動制御部84は、フォーカスレンズ26を光軸OAに沿って移動させることで生じた第1画像60と第2画像61との画角差を、ズームレンズ27を光軸OAに沿って移動させることで補正する。画像処理部81は、画角差が補正された状態において取得した第1画像60と第2画像61に基づく第3画像としての差分画像115を出力する。このため、例えば図14で示したように、第1画像60と差分画像115の重畳画像120をユーザに提示することができる。したがって、輻射像RDIの観察の妨げになる反射像RFIが除かれない場合と比べて、輻射像RDIをユーザに分かりやすく提示することが可能となる。
図10および図11で示したように、画像処理部81は、予め設定された実行条件が満たされた場合に限り、差分画像115を出力する。実行条件は、第1画像60に含まれる反射像RFIの輝度レベルである第1輝度レベル110が、予め設定された閾値TH以上である、という内容を含む。このため、夜間等、反射像RFIを除かなくても輻射像RDIの観察が十分に可能な場合に、わざわざ差分画像115を生成して出力する手間を省くことができる。言い換えれば、必要な場合に限って差分画像115を生成して出力することができる。なお、夜間等においても、照明光が照射されて第1輝度レベル110が閾値TH以上であった場合は、差分画像115が生成されて出力される。
図11で示したように、画像処理部81は、第1輝度レベル110が閾値TH未満であった場合、第1輝度レベル110が閾値TH以上の場合に取得して予め記憶しておいた重畳用第1画像60SPと、画角差が補正された状態において取得した第2画像61とを出力する。このため、例えば図15で示したように、重畳用第1画像60SPと第2画像61の重畳画像121をユーザに提示することができる。したがって、夜間等、反射像RFIの視認が困難な場合においても、被写体のどの部分が高温となっているか等を把握することができる。
図12および図13で示したように、画像処理部81は、第1画像60に含まれる反射像RFIの第1輝度レベル110と第2画像61に含まれる反射像RFIの第2輝度レベル111とを一致させたうえで、差分画像115を生成する。このため、第2画像61に含まれる反射像RFIをほとんど除くことができ、より反射像RFIに邪魔されずに輻射像RDIを観察することができる。
図6で示したように、ズームレンズ駆動制御部84は、軸上色収差を補正した際のズームレンズ27の位置に応じて、画角差の補正に要するズームレンズ27の移動量を変更する。このため、ズームレンズ27の位置に応じて、適切に画角差を補正することができる。
図8で示したように、フォーカスレンズ駆動制御部83は、画角差を補正する場合にズームレンズ27を移動させることでずれたピントを、フォーカスレンズ26を移動させることで合わせる。このため、画角差が補正され、かつピントが合った第1画像60を取得することができる。
なお、撮像光学系20は、ハーフミラー、または偏光素子といった他の光学素子を含んでいてもよい。また、フィルタユニット31は、絞り30とマスターレンズ28との間に限らず、例えばズームレンズ27と絞り30との間、あるいはマスターレンズ28の後段等に配置されていてもよい。さらに、フィルタユニット31は、鏡筒11ではなく、本体12のイメージセンサ21の前段に配置されていてもよい。
鏡筒11と本体12とが取り外し可能なカメラ10を例示したが、これに限らない。鏡筒11と本体12とが取り外し不可で一体のカメラであってもよい。
フィルタユニット31は、第1フィルタF1および第2フィルタF2に加えて、光路長調整用フィルタ、あるいは減光フィルタを含んでいてもよい。また、第1フィルタF1を透過する可視光線VRの波長帯域は、例示の400nm~770nmに限らない。第2フィルタF2を透過する赤外線IRの波長帯域も、例示の1450nm~1650nmに限らない。
[第2実施形態]
上記第1実施形態では、実行条件は、第1輝度レベル110が閾値TH以上である、という内容であったが、これに限らない。
一例として図17に示すように、第2実施形態のCPUは、上記第1実施形態の各部に加えて、指示受付部130として機能する。指示受付部130は、モニタ装置50を介してユーザにより入力される指示を受け付ける。指示は、差分画像115の出力を実行する指示(以下、実行指示という)、および実行指示を取り消す指示(以下、取り消し指示という)を含む。指示受付部130は、実行指示を受け付けた場合、実行指示を受け付けた旨を実行可否判定部131に出力する。また、指示受付部130は、取り消し指示を受け付けた場合も、取り消し指示を受け付けた旨を実行可否判定部131に出力する。実行可否判定部131は、第1画像60と第2画像61の差分画像115を出力する処理の実行可否の判定結果132を、図示省略した輝度レベル正規化部103、差分画像生成部104、および画像出力部105に出力する。
一例として図18に示すように、実行可否判定部131は、指示受付部130において実行指示を受け付けた場合、実行条件を満たしたと判定し、「実行する」という内容の判定結果132Aを出力する。対して、一例として図19に示すように、実行可否判定部131は、指示受付部130において実行指示を受け付けなかった場合、あるいは指示受付部130において取り消し指示を受け付けた場合、実行条件を満たさなかったと判定し、「実行しない」という内容の判定結果132Bを出力する。
このように、第2実施形態においては、実行条件は、差分画像115の出力を実行する指示を受け付けた、という内容を含む。このため、差分画像115を出力する処理の実行可否を、ユーザの意向に沿って決めることができる。
なお、実行条件が、第1輝度レベル110が閾値TH以上である、という内容の上記第1実施形態の態様と、実行条件が、差分画像115の出力を実行する指示を受け付けた、という内容の本第2実施形態の態様とを、ユーザが選択可能な構成としてもよい。この構成は、第1輝度レベル110が閾値TH以上である、という内容の上記第1実施形態の態様と、実行条件が、差分画像115の出力を実行する指示を受け付けた、という内容の本第2実施形態の態様の両方を選択する場合も含む。上記第1実施形態の態様と本第2実施形態の態様の両方を選択した場合、実行可否判定部131は、第1輝度レベル110が閾値TH以上であった場合、および差分画像115の出力を実行する指示を受け付けた場合に、実行条件を満たしたと判定する。
[第3実施形態]
上記第1実施形態では、第1輝度レベル110と第2輝度レベル111とを一致させたうえで差分画像115を生成しているが、これに限らない。
一例として図20に示すように、第3実施形態の画像処理部140は、輝度レベル正規化部103が設けられていない点が、上記第1実施形態の画像処理部81と異なる。また、画像取得部100は、第1画像60のみを輝度レベル算出部101に出力し、輝度レベル算出部101は、第1輝度レベル110のみを算出する点が異なる。
画像取得部100は、第1画像60および第2画像61を直接差分画像生成部104に出力する。差分画像生成部104は、第1画像60と第2画像61の差分画像145を生成し、生成した差分画像145を画像出力部105に出力する。
差分画像145の成り立ちを示す図21において、差分画像生成部104は、第2画像61から第1画像60を減算することで差分画像145を生成する。第2画像61に含まれる反射像RFIの第2輝度レベル111と、第1画像60に含まれる反射像RFIの第1輝度レベル110とは、上記第1実施形態のように第1輝度レベル110の正規化を行っていないので、異なっている。このため差分画像145は、上記第1実施形態の差分画像115と比べて、第2画像61の反射像RFIがある程度残存した画像となる。
このように、第3実施形態においては、第1画像60に含まれる反射像RFIの第1輝度レベル110と、第2画像61に含まれる反射像RFIの第2輝度レベル111とを一致させずに、差分画像145を生成する。このため、一例として図22に示すように、モニタ装置50において第1画像60と差分画像145の重畳画像150を生成する場合に、差分画像145に残存している反射像RFIによって、第1画像60と差分画像145との位置合わせを精度よく行うことができる。
[第4実施形態]
図23および図24に示す第4実施形態では、フォーカスレンズ26に加えてマスターレンズ28が軸上色収差の補正に用いられる。
図23において、第4実施形態のカメラ200は、鏡筒201と本体12とを備える。鏡筒201は、上記第1実施形態の鏡筒11とほぼ同じ構成であるが、マスターレンズ28にマスターレンズ駆動機構202が接続されている点が異なる。その他、上記第1実施形態と同じ部品については同じ符号を付し、説明を省略する。
マスターレンズ駆動機構202は、フォーカスレンズ駆動機構35およびズームレンズ駆動機構36と同様に、マスターレンズ28を保持し、外周にカム溝が形成されたマスター用カム環、およびマスター用カム環を光軸OA周りに回転させることで、マスター用カム環を光軸OAに沿って移動させるマスター用モータ等を含む。マスター用モータは、制御部205の制御の下で駆動される。マスター用モータはステッピングモータであり、制御部205は、マスター用モータの駆動量から、光軸OA上のマスターレンズ28の位置を導き出す。
制御部205は、フィルタF1およびF2を各々透過した複数種の光の軸上色収差を、フォーカスレンズ駆動機構35を介してフォーカスレンズ26を光軸OAに沿って移動させることで補正する。また、制御部205は、フィルタF1およびF2を各々透過した複数種の光の軸上色収差を、マスターレンズ駆動機構202を介してマスターレンズ28を光軸OAに沿って移動させることで補正する。すなわち、第4実施形態においては、フォーカスレンズ26に加えてマスターレンズ28も、本開示の技術に係る「補正レンズ」の一例である。
一例として図24のフローチャートに示すように、制御部205は、まず、ズームレンズ27の位置を検出する(ステップST500)。検出したズームレンズ27の位置が、予め設定された閾値よりも望遠側であった場合、すなわち、予め設定された閾値よりもズームレンズ27が望遠側に位置していた場合(ステップST510でYES)、制御部205は、フォーカスレンズ駆動機構35を介してフォーカスレンズ26を光軸OAに沿って移動させることで、軸上色収差を補正する(ステップST520)。対して、検出したズームレンズ27の位置が閾値よりも広角側であった場合、すなわち、閾値よりもズームレンズ27が広角側に位置していた場合(ステップST510でNO)、制御部205は、マスターレンズ駆動機構202を介してマスターレンズ28を光軸OAに沿って移動させることで、軸上色収差を補正する(ステップST530)。
このように、第4実施形態では、予め設定された閾値よりもズームレンズ27が望遠側に位置していた場合は、フォーカスレンズ26が移動して軸上色収差を補正し、閾値よりもズームレンズ27が広角側に位置していた場合は、マスターレンズ28が移動して軸上色収差を補正する。ズームレンズ27が望遠側に位置していた場合は、軸上色収差の補正に要する移動量は、マスターレンズ28よりもフォーカスレンズ26のほうが小さい。このため、予め設定された閾値よりもズームレンズ27が望遠側に位置していた場合は、フォーカスレンズ26が移動することにより、軸上色収差の補正に掛かる時間を短縮することができる。一方、ズームレンズ27が広角側に位置していた場合は、軸上色収差の補正に要する移動量は、フォーカスレンズ26よりもマスターレンズ28のほうが小さい。このため、予め設定された閾値よりもズームレンズ27が広角側に位置していた場合は、マスターレンズ28が移動することにより、軸上色収差の補正に掛かる時間を短縮することができる。なお、フォーカスレンズ26とマスターレンズ28を並行して移動させることで、軸上色収差が補正されてもよい。
上記各実施形態では、第3画像として差分画像115および145を例示したが、これに限らない。
ズーム機能は、例示の光学ズーム機能90に限らない。光学ズーム機能90に加えて、あるいは代えて、電子ズーム機能を用いてもよい。また、重畳用第1画像60SPは、1フレーム毎にモニタ装置50に転送してもよいし、1回だけモニタ装置50に転送してもよい。1回だけ転送する場合、重畳用第1画像60SPは、モニタ装置50に記憶されて使い回される。
上記各実施形態では、工場等に設置される監視カメラであるカメラ10および200が、本開示の技術に係る「撮像装置」の一例として示されているが、これに限らない。カメラ10および200に代えて、一般ユーザが用いるデジタルカメラ、またはスマートデバイス等でもよい。
上記各実施形態では、本開示の撮像制御装置に相当する制御部45および205が、カメラ10および200に搭載された態様を例示したが、これに限らない。本開示の撮像制御装置は、モニタ装置50に搭載されていてもよい。
上記各実施形態において、例えば、イメージセンサ駆動制御部80、画像処理部81および140、転送制御部82、フォーカスレンズ駆動制御部83、ズームレンズ駆動制御部84、絞り駆動制御部85、フィルタユニット駆動制御部86、画像取得部100、輝度レベル算出部101、実行可否判定部102および131、輝度レベル正規化部103、差分画像生成部104、画像出力部105、および指示受付部130といった各種の処理を実行する処理部(Processing Unit)のハードウェア的な構造としては、次に示す各種のプロセッサ(Processor)を用いることができる。各種のプロセッサには、上述したように、ソフトウェア(作動プログラム70)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU65に加えて、FPGA(Field Programmable Gate Array)等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、ASIC(Application Specific Integrated Circuit)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が含まれる。
1つの処理部は、これらの各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGAの組み合わせ、および/または、CPUとFPGAとの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。
複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントおよびサーバ等のコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)等に代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサの1つ以上を用いて構成される。
さらに、これらの各種のプロセッサのハードウェア的な構造としては、より具体的には、半導体素子等の回路素子を組み合わせた電気回路(circuitry)を用いることができる。
本開示の技術は、上述の種々の実施形態および/または種々の変形例を適宜組み合わせることも可能である。また、上記各実施形態に限らず、要旨を逸脱しない限り種々の構成を採用し得ることはもちろんである。さらに、本開示の技術は、プログラムに加えて、プログラムを非一時的に記憶する記憶媒体にもおよぶ。
以上に示した記載内容および図示内容は、本開示の技術に係る部分についての詳細な説明であり、本開示の技術の一例に過ぎない。例えば、上記の構成、機能、作用、および効果に関する説明は、本開示の技術に係る部分の構成、機能、作用、および効果の一例に関する説明である。よって、本開示の技術の主旨を逸脱しない範囲内において、以上に示した記載内容および図示内容に対して、不要な部分を削除したり、新たな要素を追加したり、置き換えたりしてもよいことはいうまでもない。また、錯綜を回避し、本開示の技術に係る部分の理解を容易にするために、以上に示した記載内容および図示内容では、本開示の技術の実施を可能にする上で特に説明を要しない技術常識等に関する説明は省略されている。
本明細書において、「Aおよび/またはB」は、「AおよびBのうちの少なくとも1つ」と同義である。つまり、「Aおよび/またはB」は、Aだけであってもよいし、Bだけであってもよいし、AおよびBの組み合わせであってもよい、という意味である。また、本明細書において、3つ以上の事柄を「および/または」で結び付けて表現する場合も、「Aおよび/またはB」と同様の考え方が適用される。
本明細書に記載された全ての文献、特許出願および技術規格は、個々の文献、特許出願および技術規格が参照により取り込まれることが具体的かつ個々に記された場合と同程度に、本明細書中に参照により取り込まれる。
10、200 カメラ
11、201 鏡筒
12 本体
13 鏡筒側マウント
14 本体側マウント
20 撮像光学系
21 イメージセンサ
25 対物レンズ
26 フォーカスレンズ
27 ズームレンズ
28 マスターレンズ
30 絞り
31 フィルタユニット
35 フォーカスレンズ駆動機構
36 ズームレンズ駆動機構
37 絞り駆動機構
38 フィルタユニット駆動機構
40 鏡筒側接点
41 本体側接点
45、205 制御部
50 モニタ装置
51 コネクタ
60 第1画像
60N 正規化第1画像
60SP 重畳用第1画像
61 第2画像
65 CPU
66 メモリ
67 ストレージ
70 作動プログラム
71 ズームレンズ移動量情報
80 イメージセンサ駆動制御部
81、140 画像処理部
82 転送制御部
83 フォーカスレンズ駆動制御部
84 ズームレンズ駆動制御部
85 絞り駆動制御部
86 フィルタユニット駆動制御部
90 光学ズーム機能
100 画像取得部
101 輝度レベル算出部
102、131 実行可否判定部
103 輝度レベル正規化部
104 差分画像生成部
105 画像出力部
110 第1輝度レベル
111 第2輝度レベル
112、112A、112B、132、132A、132B 判定結果
115、145 差分画像
120、121、150 重畳画像
130 指示受付部
202 マスターレンズ駆動機構
F1 第1フィルタ
F2 第2フィルタ
ID 結像側方向
IR 赤外線
OA 光軸
OD 物体側方向
RDI 輻射像
RFI 反射像
SL 被写体光
ST10~ST13、ST100、ST110、ST120、ST130、ST140、ST150、ST160、ST170、ST180、ST190、ST200、ST500、ST510、ST520、ST530 ステップ
TH 閾値
VR 可視光線

Claims (12)

  1. プロセッサと、
    前記プロセッサに接続または内蔵されたメモリと、を備え、
    第1フィルタ、第2フィルタ、補正レンズ、ズーム機能、およびイメージセンサを有する撮像装置の動作を制御する撮像制御装置であって、
    前記第1フィルタは可視光線を透過し、
    前記第2フィルタは赤外線を透過し、
    前記プロセッサは、
    前記第1フィルタと前記第2フィルタとを選択的に光路に挿入し、
    前記第1フィルタを透過した可視光線と、前記第2フィルタを透過した赤外線との軸上色収差を、前記補正レンズを光軸に沿って移動させることで補正し、
    前記第1フィルタを透過した可視光線を前記イメージセンサに撮像させることで、被写体の反射像を含む第1画像を取得し、
    前記第2フィルタを透過した赤外線を前記イメージセンサに撮像させることで、前記被写体の反射像および輻射像を含む第2画像を取得し、
    前記補正レンズを光軸に沿って移動させることで生じた前記第1画像と前記第2画像との画角差を、前記ズーム機能を動作させることで補正し、
    前記画角差が補正された状態において取得した前記第1画像と前記第2画像に基づく、輻射像を含む第3画像を、前記第1画像に含まれる反射像の輝度レベルが、予め設定された閾値以上である、という内容を含む実行条件が満たされた場合に限り出力する、
    撮像制御装置。
  2. 前記プロセッサは、
    前記輝度レベルが前記閾値未満であった場合、前記輝度レベルが前記閾値以上の場合に取得して予め記憶しておいた前記第1画像と、前記画角差が補正された状態において取得した前記第2画像とを出力する請求項に記載の撮像制御装置。
  3. 前記実行条件は、前記第3画像の出力を実行する指示を受け付けた、という内容を含む請求項1または請求項2に記載の撮像制御装置。
  4. 前記プロセッサは、
    前記第3画像として、前記第1画像と前記第2画像の差分画像を生成する請求項1から請求項のいずれか1項に記載の撮像制御装置。
  5. 前記プロセッサは、
    前記第1画像に含まれる反射像の輝度レベルと前記第2画像に含まれる反射像の輝度レベルを一致させたうえで、前記差分画像を生成する請求項に記載の撮像制御装置。
  6. 前記プロセッサは、
    前記第1画像に含まれる反射像の輝度レベルと前記第2画像に含まれる反射像の輝度レベルが異なった状態で、前記差分画像を生成する請求項に記載の撮像制御装置。
  7. 前記撮像装置は、ズームレンズを有し、
    前記プロセッサは、前記補正レンズを光軸に沿って移動させることで生じた前記第1画像と前記第2画像との画角差を、前記ズームレンズを光軸に沿って移動させることにより補正する請求項1から請求項のいずれか1項に記載の撮像制御装置。
  8. 前記プロセッサは、
    前記軸上色収差を補正した際の前記ズームレンズの位置に応じて、前記画角差の補正に要する前記ズームレンズの移動量を変更する請求項に記載の撮像制御装置。
  9. 前記プロセッサは、
    前記画角差を補正する場合に前記ズームレンズを移動させることでずれたピントを、前記補正レンズを移動させることで合わせる請求項または請求項に記載の撮像制御装置。
  10. 請求項1から請求項のいずれか1項に記載の撮像制御装置を備える撮像装置。
  11. 可視光線を透過する第1フィルタ、赤外線を透過する第2フィルタ、補正レンズ、ズーム機能、およびイメージセンサを有する撮像装置の動作を制御する撮像制御装置の作動方法であって、
    前記第1フィルタと前記第2フィルタとを選択的に光路に挿入すること、
    前記第1フィルタを透過した可視光線と、前記第2フィルタを透過した赤外線との軸上色収差を、前記補正レンズを光軸に沿って移動させることで補正すること、
    前記第1フィルタを透過した可視光線を前記イメージセンサに撮像させることで、被写体の反射像を含む第1画像を取得すること、
    前記第2フィルタを透過した赤外線を前記イメージセンサに撮像させることで、前記被写体の反射像および輻射像を含む第2画像を取得すること、
    前記補正レンズを光軸に沿って移動させることで生じた前記第1画像と前記第2画像との画角差を、ズーム機能を動作させることで補正すること、および、
    前記画角差が補正された状態において取得した前記第1画像と前記第2画像に基づく、輻射像を含む第3画像を、前記第1画像に含まれる反射像の輝度レベルが、予め設定された閾値以上である、という内容を含む実行条件が満たされた場合に限り出力すること、
    を含む撮像制御装置の作動方法。
  12. 可視光線を透過する第1フィルタ、赤外線を透過する第2フィルタ、補正レンズ、ズーム機能、およびイメージセンサを有する撮像装置の動作を制御するプログラムであって、
    前記第1フィルタと前記第2フィルタとを選択的に光路に挿入すること、
    前記第1フィルタを透過した可視光線と、前記第2フィルタを透過した赤外線との軸上色収差を、前記補正レンズを光軸に沿って移動させることで補正すること、
    前記第1フィルタを透過した可視光線を前記イメージセンサに撮像させることで、被写体の反射像を含む第1画像を取得すること、
    前記第2フィルタを透過した赤外線を前記イメージセンサに撮像させることで、前記被写体の反射像および輻射像を含む第2画像を取得すること、
    前記補正レンズを光軸に沿って移動させることで生じた前記第1画像と前記第2画像との画角差を、ズーム機能を動作させることで補正すること、および、
    前記画角差が補正された状態において取得した前記第1画像と前記第2画像に基づく、輻射像を含む第3画像を、前記第1画像に含まれる反射像の輝度レベルが、予め設定された閾値以上である、という内容を含む実行条件が満たされた場合に限り出力すること、
    を含む処理をコンピュータに実行させるためのプログラム。
JP2022540075A 2020-07-29 2021-06-24 撮像制御装置、撮像制御装置の作動方法、プログラム、並びに撮像装置 Active JP7430801B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2020128580 2020-07-29
JP2020128580 2020-07-29
PCT/JP2021/023987 WO2022024612A1 (ja) 2020-07-29 2021-06-24 撮像制御装置、撮像制御装置の作動方法、プログラム、並びに撮像装置

Publications (3)

Publication Number Publication Date
JPWO2022024612A1 JPWO2022024612A1 (ja) 2022-02-03
JPWO2022024612A5 JPWO2022024612A5 (ja) 2023-04-14
JP7430801B2 true JP7430801B2 (ja) 2024-02-13

Family

ID=80035489

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022540075A Active JP7430801B2 (ja) 2020-07-29 2021-06-24 撮像制御装置、撮像制御装置の作動方法、プログラム、並びに撮像装置

Country Status (3)

Country Link
US (1) US20230171474A1 (ja)
JP (1) JP7430801B2 (ja)
WO (1) WO2022024612A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11836825B1 (en) * 2022-05-23 2023-12-05 Dell Products L.P. System and method for detecting postures of a user of an information handling system (IHS) during extreme lighting conditions

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016171088A1 (ja) 2015-04-23 2016-10-27 富士フイルム株式会社 撮像装置及び撮像装置の画像処理方法及びプログラム
JP2018195085A (ja) 2017-05-17 2018-12-06 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP2019205180A (ja) 2019-07-02 2019-11-28 株式会社四国総合研究所 水素火炎監視装置および水素取扱施設

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006033716A (ja) * 2004-07-21 2006-02-02 Hitachi Maxell Ltd 撮像装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016171088A1 (ja) 2015-04-23 2016-10-27 富士フイルム株式会社 撮像装置及び撮像装置の画像処理方法及びプログラム
JP2018195085A (ja) 2017-05-17 2018-12-06 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP2019205180A (ja) 2019-07-02 2019-11-28 株式会社四国総合研究所 水素火炎監視装置および水素取扱施設

Also Published As

Publication number Publication date
US20230171474A1 (en) 2023-06-01
WO2022024612A1 (ja) 2022-02-03
JPWO2022024612A1 (ja) 2022-02-03

Similar Documents

Publication Publication Date Title
US10371933B2 (en) Medical image processing apparatus, medical image processing method, and medical observation system
US8553134B2 (en) Imager processing a captured image
JP2008252639A (ja) 撮像装置及び方法
US10326941B2 (en) Image generating apparatus, imaging observing apparatus, imaging apparatus, and storage medium storing image processing program
JP2012124555A (ja) 撮像装置
JP2010096962A (ja) Af枠自動追尾機能を備えたオートフォーカスシステム
US11419482B2 (en) Endoscope apparatus, control method of endoscope apparatus, and recording medium
JP5896763B2 (ja) 光学機器および自動焦点調節を行う方法
JP7430801B2 (ja) 撮像制御装置、撮像制御装置の作動方法、プログラム、並びに撮像装置
JP5384172B2 (ja) オートフォーカスシステム
JP2010258669A (ja) 全方位撮像装置
JP6516426B2 (ja) 撮像装置、画像処理方法及びプログラム
CN110995982B (zh) 图像处理装置及其控制方法、摄像装置、以及记录介质
JP2005148265A (ja) カメラ装置
WO2019188934A1 (ja) 撮像装置、撮像方法、及びプログラム
JP5933306B2 (ja) 撮像装置
JP7055624B2 (ja) 医療用撮像装置
JP2016140636A (ja) 眼科装置、眼科システム、および眼科撮影プログラム
JP5977526B2 (ja) 画像処理装置及び画像処理方法
JP6309489B2 (ja) 画像検出装置及び画像検出システム
JP2010117487A (ja) オートフォーカスシステム
JP6452528B2 (ja) 監視カメラ
JP7483368B2 (ja) 画像処理装置、制御方法およびプログラム
JP2011150203A (ja) レンズバレルのフォーカス調整装置およびフォーカス調整方法
JP2010096963A (ja) Af枠自動追尾機能を備えたオートフォーカスシステム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230110

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230110

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240109

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240131

R150 Certificate of patent or registration of utility model

Ref document number: 7430801

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150