JP2017011459A - 撮像装置及び画像処理方法 - Google Patents

撮像装置及び画像処理方法 Download PDF

Info

Publication number
JP2017011459A
JP2017011459A JP2015124252A JP2015124252A JP2017011459A JP 2017011459 A JP2017011459 A JP 2017011459A JP 2015124252 A JP2015124252 A JP 2015124252A JP 2015124252 A JP2015124252 A JP 2015124252A JP 2017011459 A JP2017011459 A JP 2017011459A
Authority
JP
Japan
Prior art keywords
image
filter
plant
color
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015124252A
Other languages
English (en)
Inventor
悠馬 小林
Yuma Kobayashi
悠馬 小林
小金 春夫
Haruo Kogane
春夫 小金
一寛 柳
Kazuhiro Yanagi
一寛 柳
山田 英明
Hideaki Yamada
英明 山田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2015124252A priority Critical patent/JP2017011459A/ja
Priority to PCT/JP2016/002083 priority patent/WO2016203690A1/ja
Publication of JP2017011459A publication Critical patent/JP2017011459A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Exposure Control For Cameras (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)

Abstract

【課題】太陽光等の光の変化による影響を受けても、植物の生育指標の誤差を低減でき、ユーザの誤判断を防止できる撮像装置を提供する。【解決手段】監視カメラ10では、イメージセンサ22が、可視光フィルタ(赤外カットフィルタ)F6を介して、被写体である植物のカラー画像GZ1を撮像する。画像処理部28は、イメージセンサ22によって撮像される、植物のカラー画像のうち、緑色成分の輝度値(G値)を検出し、このG値が理想的なG値(晴天時の昼間に撮像されたような、特定の条件で得られる緑色成分の輝度値)と等しくなるように、イメージセンサ22の露光条件を制御する。送信部29は、露光条件が制御された状態で撮像されたカラー画像GZ1をモニタ30に出力する。モニタ30は、カラー画像GZ1を画面に表示する。【選択図】図14

Description

本発明は、撮像された植物の画像を処理する撮像装置及び画像処理方法に関する。
従来、作物の生育状況を分析する技術として、複数の観測波長域を有するイメージセンサを用いて、作物のスペクトル画像を撮像し、このスペクトル画像に基づいて正規化植生指数(NDVI:Normalized Difference Vegetation Index)、蛋白含有率等を推定することが知られている(例えば特許文献1参照)。
特開2006−250827号公報
特許文献1を含む従来の撮像装置では、天候や時間帯によって太陽光の照度や色温度が変化するので、植物の生育指標を正確に推定することが難しかった。
例えば、植物の葉の緑色成分は太陽光の影響を受けやすく、曇天の時には照度が低くなるので、実際には葉が枯れていないにもかかわらず、枯れているように見えたりする。また、朝方は太陽光の色温度が青色に近くなるので、葉が青く見えたり、夕方は太陽光の色温度がオレンジ色に近くなるので、葉に赤みが生じて見えたりする。このように、太陽光の照度や色温度の変化によって、葉の活性度が分かりにくくなり、ユーザの誤判断に繋がる。
本発明は、上述した従来の状況に鑑みてなされたものであり、太陽光等の光の変化による影響を受けても、植物の生育指標の誤差を低減でき、ユーザの誤判断を防止する撮像装置及び画像処理方法を提供することを目的とする。
本発明は、植物の画像を撮像する撮像装置であって、前記植物のカラー画像を撮像する撮像部と、前記撮像部によって撮像された前記植物のカラー画像のうち、緑色成分の輝度値を検出し、前記緑色成分の輝度値が特定の条件で得られる緑色成分の輝度値と等しくなるように、前記カラー画像の露光条件を制御する露光制御部と、前記露光制御部によって前記露光条件が制御された状態で、前記撮像部によって撮像された前記植物のカラー画像を出力する出力部と、を備える、撮像装置である。
本発明は、カラー画像を出力可能な撮像部を有する撮像装置における画像処理方法であって、前記撮像部において、植物を撮像するステップと、前記撮像装置によって撮像された前記植物のカラー画像のうち、緑色成分の輝度値を検出するステップと、検出された前記緑色成分の輝度値が特定の条件で得られる緑色成分の輝度値と等しくなるように、前記植物のカラー画像の露光条件を制御するステップと、前記露光条件が制御された状態で、前記撮像部によって撮像された前記植物のカラー画像を出力するステップと、を有する、画像処理方法である。
本発明によれば、太陽光等の光の変化による影響を受けても、植物の生育指標の誤差を低減でき、ユーザの誤判断を防止できる。
第1の実施形態の監視カメラの内部構成の一例を示すブロック図 監視カメラの内部に設けられたカメラ本体機構の一例を示す正面図 図2の矢印E−E線方向から視たカメラ本体機構の構造の一例を示す断面図 フィルタ切替機構の構造の一例を示す斜視図 フレームの形状の一例を示す正面図 各種フィルタの分光特性の一例を示すグラフ 6枚のフィルタのうちイメージセンサの前面に位置するフィルタを特定する方法の一例を説明する図 NDVI演算時における撮像動作手順の一例を時系列に示す図 PRI演算時における撮像動作手順の一例を時系列に示す図 他のカメラ本体機構の一例を示す正面図 第2の実施形態における撮像時の動作手順、使用するフィルタ、及び撮像画像の一例を時系列に示す図 モニタの画面に並べて表示されるカラー画像及びNDVI画像の一例を示す図 第3の実施形態における露光制御の一例を説明する図 自動露光制御手順の一例を示すフローチャート 色温度補正制御手順の一例を示すフローチャート 変形例における監視カメラシステムの内部構成の一例を示すブロック図
以下、適宜図面を参照しながら、本発明に係る撮像装置及び画像処理方法を具体的に開示した各実施形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面及び以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。各実施形態の撮像装置は、例えば植物の生育状況を監視する監視カメラに適用されるとして説明するが、撮像対象は植物に限らず、その他の被写体を撮像してもよい。
(第1の実施形態に至る経緯・課題)
監視カメラが光学フィルタを切り替えて使用するフィルタ切替機構を有する場合、フィルタの切り替えに長い時間がかかってしまうと、照度の変化や風等の外乱要因により撮像条件が変化する可能性がある。従って、撮像中のフィルタの切り替えの途中で撮像条件が変化した場合、NDVI等の植物の生育指標を精度良く推定することができなかった。そこで、第1の実施形態では、監視カメラが安価な構成であっても、撮像中、照度の変化や風等の外乱要因の影響により撮像条件が変化する可能性が低くする監視カメラの例について説明する。
(第1の実施形態)
図1は、第1の実施形態の監視カメラ10の内部構成の一例を示すブロック図である。監視カメラ10は、被写体である植物を撮像してその撮像画像を出力する。監視カメラ10は、レンズ11、光学モジュール13、フィルタ切替機構15、オートバックフォーカス(ABF)機構21、CPU25、画像処理部28及び送信部29を有する。
レンズ11は、監視対象(つまり、撮像対象)である植物からの反射光を集光し、イメージセンサ22にその光学像を結像させる。光学モジュール13は、レンズ11を通して入射する植物からの光の量を調節する絞り部の一例としての絞り(アイリス、とも呼ばれる)13zを有し、CPU25からの絞り制御信号に従い、絞り13zの開き具合(絞り量の一例としての開度)を調節する。
切替部の一例としてのフィルタ切替機構15は、特定波長の光を透過させる複数枚のフィルタF1〜F6(図5参照)を保持するホルダの一例としてのフィルタ保持部16、及び、このフィルタ保持部16を駆動し植物からの反射光を透過させるフィルタを切り替えるモータ17を有する。フィルタ切替機構15の詳細については後述する。
ABF機構21は、イメージセンサ22の受光面に結像する光の焦点を自動で調節する。ABF機構21は、レンズ11によって集光され、フィルタを透過した光が受光面に結像した光学像を電気信号に変換する撮像部の一例としてのイメージセンサ22、及び、このイメージセンサ22の位置を光軸方向に移動させることで焦点調節を行うモータ24を有する。
CPU25は、監視カメラ10の各部を統括的に制御する。CPU25は、光学モジュール13に絞り制御信号を出力し、フィルタ切替機構15にフィルタ切替信号を出力し、ABF機構21に撮像制御信号を出力する。CPU25には、画像処理専用のデジタルシグナルプロセッサ(DSP:Digital Signal Processor)が用いられる。
演算部の一例としての画像処理部28は、例えばDSPを用いて構成され、イメージセンサ22から出力される電気信号を増幅するアンプ28z(図13参照)を有し、電気信号として出力される画像信号に対し、画像処理を行って撮像画像(画像データ)を得る。また、画像処理部28は、この撮像画像を基に、後述する生育状況を観察する指標であるNDVI(Normalized Difference Vegetation Index)、又は植物の光合成の活性度合いを表す指標(光合成指標)であるPRI(Photochemical Reflectance Index)を画素毎に算出する。
出力部の一例としての送信部29は、画像処理部28から入力した、画像データ(画素毎のRGBの輝度値)、及び画素毎のNDVI値(又はPRI値)をモニタ30に送信する。
表示装置の一例としてのモニタ30は、監視カメラ10と別体の装置であり、送信部29から送信された画像データ及びNDVI値(又はPRI値)に基づき、カラー画像及びNDVI画像(又はPRI画像)を画面に並べて対比的に表示する。
図2は、監視カメラ10の内部に設けられたカメラ本体機構20の一例を示す正面図である。図3は、図2の矢印E−E線方向から視たカメラ本体機構20の構造の一例を示す断面図である。カメラ本体機構20には、前述したフィルタ切替機構15及びABF機構21が組み込まれている。
カメラ本体機構20は、前面にレンズ11が嵌め込まれた枠体20zを有する。枠体20zの内側には、光軸に沿って被写体側からフィルタ切替機構15及びABF機構21が配置される。
ABF機構21は、前述したように、イメージセンサ22及びモータ24を有する。イメージセンサ22は、センサ基板22zに搭載される。モータ24は、センサ基板22zを光軸方向に移動させるように駆動することで、焦点調節を行う。
カメラ本体機構20は、図3の紙面左側から、レンズ11、フィルタ切替機構15、イメージセンサ22の順に設けられている。このようにすると、レンズ11を監視カメラ10の筐体面(図示せず)に設けることが可能になるので、レンズ11の交換が容易になる。
フィルタ切替機構15は、前述したように、フィルタ保持部16及びモータ17(図4参照)を有する。図4は、フィルタ切替機構15の構造の一例を示す斜視図である。フィルタ保持部16は、6枚のフィルタF1〜F6が交換自在に嵌めこまれたフレーム161、及びこのフレーム161をスライド自在に収納するフレームケース164を有する。フレームケース164の上面には、ギアボックス18が設けられる。
モータ17は、ギアボックス18と連結し、モータ17のシャフト17zはギアボックス18内の歯車18wを軸支する。このシャフト17zの回転力は、ギアボックス18内の複数枚の歯車18w,18z,18yに順次伝達される。ギアボックス18内の最下段の歯車18yは、ピニオンギアとなっており、フレーム161の上面に形成されたラック163と歯合する。フレームケース164に収納されたフレーム161は、フレームケース164の内側の上面及び下面に敷設されたレール165に沿って、フレームケース164内を往復移動(スライド)自在である。従って、歯車18yが回転すると、歯車18yと歯合するラック163が移動し、フレーム161はフレームケース164の内側を矢印g方向に移動する。
なお、フレームケース164の端部は、取り外しが可能である。フレームケース164の端部を取り外すことにより、レール165に沿ってフレーム161を簡易に取り出すことができ、フレーム161とは異なるフィルタを有する別のフレーム(図示せず)と簡易に交換することができる。これにより、NDVI値やPRI値以外の様々な植生指標を算出することが可能になる。
図5は、フレーム161の形状の一例を示す正面図である。フレーム161は、細長い板状に形成された部材である。その長手方向の面には、複数個(ここでは6個)の開口部161z,161y,161x,161w,161v,161uが一列に形成されている。フレーム161の面に形成された6個の開口部161z〜161uには、それぞれ特定波長の光の透過率が異なる複数のバンドパスフィルタ(単にフィルタ或いは光学フィルタともいう)が交換自在に嵌め込まれている。図5では、左側から530nmフィルタF1、570nmフィルタF2、赤色(R)フィルタF3、赤外(IR)フィルタF4、緑色(G)フィルタF5、及び可視光フィルタ(カラーフィルタ)F6が順に配される。本実施形態では、NDVIを演算する際に使用される、RフィルタF3とIRフィルタF4とが隣り合うように、フレーム161に配置される。また、PRIを演算する際に使用される、530nmフィルタF1と570nmフィルタF2とが隣り合うように、フレーム161に配置される。
このように、RフィルタF3とIRフィルタF4とが隣り合う位置にあることで、NDVIを演算する際、これらのフィルタを切り替えるためのフレーム161の移動距離を短くすることができ、RフィルタF3とIRフィルタF4とを組み合わせた撮像時間を短縮できる。つまり、IRフィルタF4を用いて撮像を開始してからRフィルタF3を用いて撮像を終了するまでの時間が短くなる。これにより、照度の変化や風等の外乱要因の影響により撮像条件が変化する可能性を低減でき、NDVIの演算精度の低下が抑えられる。また、530nmフィルタF1と570nmフィルタF2とが隣り合う位置にある場合も同様であり、PRIの演算精度の低下が抑えられる。
本実施形態では、PRIと比べ、NDVIを演算する頻度が高いので、NDVIを演算する際に使用される、RフィルタF3とIRフィルタF4は、緑色(G)フィルタF5或いは可視光フィルタF6に近い側に配置される。これにより、GフィルタF5或いは可視光フィルタF6をIRフィルタF4に切り替える際、フレーム161の移動距離を短くすることができ、撮像時間の短縮に繋がる。また、本実施形態では、NDVIを演算する際、後述するように、IR画像を撮像してからR画像を撮像するので、RフィルタF3に比べ、IRフィルタF4がGフィルタF5或いは可視光フィルタF6に近い側に配置される。これにより、フレーム161の移動距離をさらに短くすることができる。
また、フレーム161の上面には、前述したように、モータ17によって駆動される歯車18yと歯合されるラック163が形成される。モータ17のシャフト17zが回転し、その回転力がギアボックス18内の歯車18yに伝達されると、歯車18yと歯合するラック163によってフレーム161が矢印g方向に移動する。
図6は、各種フィルタの分光特性の一例を示すグラフである。グラフの縦軸は透過率(%)を示し、横軸は波長(nm)を示す。530nmフィルタF1は、光の波長530nmにおいて透過率の鋭いピークの波形(符号a)を有する。570nmフィルタF2は、波長570nmにおいて透過率の鋭いピークの波形(符号b)を有する。RフィルタF3は、波長660nmを中心とする透過率の高いピークの波形(符号c)を有する。IR(赤外)フィルタF4は、750nmを超える波長において、大きな透過率の波形(符号d)を有する。GフィルタF5は、550nmを略中心とする530nm〜630nmの波長において、やや大きな透過率の波形(符号e)を有する。可視光フィルタF6は、可視光画像(カラー画像)を撮像する際に赤外光又は近赤外光をカット(遮蔽)する赤外カットフィルタであり、400nm〜680nmの波長において、大きな透過率の波形(符号f)を有する。なお、本実施形態では、フレーム161に装着されないが、青色(B)フィルタもフレームに嵌め込むことで装着可能である。Bフィルタは、450nmを略中心とする400nm〜500nmの波長において、やや大きな透過率の波形(符号g)を有する。
図7は、6枚のフィルタF1〜F6のうちイメージセンサ22の前面に位置するフィルタを特定する方法の一例を説明する図である。フィルタを特定する方法として、例えば次のような方法が挙げられる。フィルタF1〜F6が嵌め込まれた、フレーム161の上部には、フィルタF1〜F6に対応するように、それぞれ少なくとも1つの細孔164z〜164uが形成される。また、レンズ11と対向するフレームケース164の面には、フレーム161に形成された細孔164z〜164uを通して入射する光を受光可能な3つのフォトセンサ16zが配置される。3つのフォトセンサ16zは、それぞれ受光することでオンとなり、受光パルスを出力するスイッチとして機能する。
ここでは、530nmフィルタF1の上部に位置するフレーム161には、3つの細孔164zが形成される。イメージセンサ22の前面に530nmフィルタF1が位置すると、3つの細孔164zを通して被写体である植物側から入射する光を3つのフォトセンサ16zがそれぞれ受光する。3つのフォトセンサ16zは3つの受光パルスを出力する。
また、570nmフィルタF2の上部に位置するフレーム161には、2つの細孔164yが開口部161yに対して左側に形成される。イメージセンサ22の前面に570nmフィルタF2が位置すると、2つの細孔164yを通して被写体である植物側から入射する光を左側2つのフォトセンサ16zがそれぞれ受光する。左側2つのフォトセンサ16zは2つの受光パルスを出力する。
以後、同様に、可視光フィルタF6の上部に位置するフレーム161には、1つの細孔164uが開口部161uに対して右側に形成される。イメージセンサ22の前面に可視光フィルタF6が位置すると、1つの細孔164uを通して被写体である植物側から入射する光を右側1つのフォトセンサ16zが受光する。右側1つのフォトセンサ16zは1つの受光パルスを出力する。
フィルタ特定部の一例としてのCPU25は、3つのフォトセンサ16zで受光される光の受光パターンを検出することで、複数のフィルタF1〜F6のうちいずれのフィルタがイメージセンサ22の前面に位置しているかを特定することが可能である。つまり、3つのフォトセンサ16zから全て受光パルスが出力されると、CPU25は、530nmフィルタF1がイメージセンサ22の前面に位置していると判断する。また、3つのフォトセンサ16zのうち右側1つから受光パルスが出力されると、CPU25は、可視光フィルタF6がイメージセンサ22の前面に位置していると判断する。
なお、ここでは、被写体である植物側からの光をフレームに形成された細孔を通して検出するセンサとして、フォトセンサを用いたが、画像を撮像するためのイメージセンサがフレームに形成された細孔を通して植物側からの光を検出してもよく、この場合、フォトセンサが省かれ、フィルタ保持部の構成を簡単化できる。
また、他のフィルタを特定する方法として、フレームに細孔を形成する代わりに、フレーム自体にフォトセンサを取り付けてもよい。例えば、530nmフィルタF1の上部に位置するフレーム161に3つのフォトセンサを取り付ける。570nmフィルタF2の上部に位置するフレーム161に、開口部161yに対して左側に2つのフォトセンサを取り付ける。以後、同様に、可視光フィルタF6の上部に位置するフレーム161に、開口部161uに対して右側に1つのフォトセンサを取り付ける。この場合も、フォトセンサから出力される受光パルスの組み合わせで、イメージセンサ22の前面に位置しているフィルタを特定することが可能である。
また、フィルタF1〜フィルタF6を特定するための細孔164z〜164uは、それぞれフレーム161の下部に設けても良い。この場合、3つのフォトセンサ16zは、細孔164z〜164uに対向するようにフレームケース164の下部または枠体20z内に設けられる。
また、フィルタF1〜フィルタF6を特定するための手段として、細孔164z〜164uの代わりに、フレーム161の下縁に複数の突起(図示せず)を設けても良い。これら突起は、細孔164z〜164uと同じ水平位置に設けられ、3つのフォトセンサ16zは、これら突起によって遮蔽されない入射光を受光して受光パルスを出力する。なお、3つのフォトセンサ16zは、これら突起に対向するようにフレームケース164の下部または枠体20z内に設けられる。CPU25は、これら受光パルスのパターンを識別することによって、イメージセンサ22の前面に位置しているフィルタを特定する。
また、フィルタF1〜フィルタF6を特定するための手段として、細孔164z〜164uとフォトセンサ16zの代わりに、複数の磁石(図示せず)と3つの磁気センサ(図示せず)を設けても良い。これら磁石は細孔164z〜164uと同じ位置に設けられ、3つの磁気センサは、3つのフォトセンサと同じ位置に設けられる。3つの磁気センサは、複数の磁石から発生する磁界を検出すると信号パルスを出力する。CPU25は、これら信号パルスのパターンを識別することによって、イメージセンサ22の前面に位置しているフィルタを特定する。なお、磁気センサとしてはコイルやホール素子が用いられる。
また、フィルタF1〜フィルタF6を特定するための手段として、細孔164z〜164uとフォトセンサ16zの代わりに、突起(図示せず)とスイッチ(図示せず)を設けても良い。この突起は、フレーム161の下縁上の任意の位置(例えば、フィルタF1の真下の位置)に設けられる。スイッチは枠体20z内の線分EEに沿って配置され、当該突起と接触可能な位置に設けられる。フレーム161の動作中にスイッチが突起と接触すると、スイッチは信号パルスを出力する。CPU25は、この信号パルスを検出するとフィルタF1がイメージセンサ22の前面に位置していることを認識する。また、CPU25は、当該信号パルスを検出した時点からのモータ17の回転数を計測することによって、フィルタF2〜F6のうち、どのフィルタがイメージセンサ22の前面に位置しているかを判断する。
上記構造を有する監視カメラ10における撮像動作を示す。
始めに、正規化植生指数(NDVI)は、植物の育成状況を観察するために用いられる指標であり、数式(1)に従い、画素値毎に算出される。
ここで、LIRは赤外光又は近赤外光の輝度を表し、Lは赤色光の輝度を表す。数式(1)で算出される、NDVI値は、値0〜値1の範囲であり、値0に近い程、青に近い色で表現され、値1に近い程、緑に近い色で表現される。なお、CPU25は、LIRおよびLを算出する際は、入射する光量をできるだけ一定にするため、絞り13zの開度を固定値に設定する。
CPU25は、NDVIの演算に必要な、植物のIR(赤外光又は近赤外光)画像及びR(赤色)画像を連続して撮像する。
図8は、NDVI演算時における撮像動作手順の一例を時系列に示す図である。フィルタ切替機構15は、初期位置(つまり、ホームポジション)として、可視光フィルタF6がイメージセンサ22の前面に位置するように、モータ17を駆動しフレーム161をスライドさせる。
通常、監視カメラ10は、植物を監視する際、自動露光でカラー画像を撮像する。CPU25は、植物の撮像を開始すると、照度センサ(図示せず)で外光を検出し、周囲の光量に応じて、光学モジュール13に絞り制御信号を出力し、絞り13zの開度を制御する自動露光制御を行う(S1)。なお、太陽光による照度、つまり周囲の光量は、イメージセンサ22によって検出されてもよく、この場合、照度センサを省くことができる。
監視カメラ10は、初期位置に設定された可視光フィルタF6を通して入射する、植物からの反射光をイメージセンサ22で撮像し、カラー画像を得る(S2)。送信部29は、このカラー画像をモニタ30に送信する。モニタ30は、監視カメラ10から受信したカラー画像(映像)を画面に表示する。
カラー画像を連続して撮像中、イベント(例えばタイムアップやユーザ操作)が発生すると、監視カメラ10は、NDVIの演算処理に移行する。CPU25は、絞り13zの開度を固定値に設定する(S3)。この固定値は、例えば緑色(G)の輝度が、晴天時の昼間に撮像されたG値(理想的なGの輝度値)となるように設定された、絞りの開度である。
CPU25は、フィルタ切替機構15にフィルタ切替信号を出力する。フィルタ切替機構15は、CPU25からのフィルタ切替信号に従い、イメージセンサ22の前面に位置するフィルタを切り替える。つまり、フィルタ切替機構15は、イメージセンサ22の前面に位置するフィルタを、カラー画像を撮像可能な可視光フィルタF6からIR画像を撮像可能なIRフィルタF4に切り替える。
監視カメラ10は、IRフィルタF4を通して入射する植物からの反射光をイメージセンサ22で撮像してIR画像を取得すると、このIR画像を画像処理部28に出力する(S4)。画像処理部28は、IR画像を入力すると、内部メモリに一時的に記憶する。
CPU25は、フィルタ切替機構15にフィルタ切替信号を出力する。フィルタ切替機構15は、CPU25からのフィルタ切替信号に従い、イメージセンサ22の前面に位置するフィルタを切り替える。つまり、フィルタ切替機構15は、イメージセンサ22の前面に位置するフィルタを、IR画像を撮像可能なIRフィルタF4からR画像を撮像可能なRフィルタF3に切り替える。
監視カメラ10は、RフィルタF3を通して入射する植物からの反射光をイメージセンサ22で撮像してR画像を取得すると、このR画像を画像処理部28に出力する(S5)。画像処理部28は、R画像を入力すると、内部メモリに一時的に記憶する。画像処理部28は、内部メモリに記憶されたIR画像及びR画像を読み出し、画素毎にIR画像の輝度LIRとR画像の輝度Lとを用い、数式(1)に従い、NDVIを演算する。画像処理部28は、画素毎に演算したNDVI値を用いてNDVI画像を生成する。送信部29は、画像処理部28によって生成されたNDVI画像をモニタ30に送信する。モニタ30は、監視カメラ10から受信したNDVI画像を画面に表示する。
この後、CPU25は、フィルタ切替機構15にフィルタ切替信号を出力する。フィルタ切替機構15は、CPU25からのフィルタ切替信号に従い、イメージセンサ22の前面に位置するフィルタを切り替える。つまり、フィルタ切替機構15は、イメージセンサ22の前面に位置するフィルタを、R画像を撮像可能なRフィルタF3からカラー画像を撮像可能な可視光フィルタF6に切り替える。
この後、監視カメラ10は通常の動作に戻り、CPU25は、照度センサ(不図示)で外光を検出し、周囲の光量に応じて光学モジュール13に絞り制御信号を出力し、絞り13zの開度を自動で制御する自動露光制御を行う(S6)。
監視カメラ10は、可視光フィルタF6を通して入射する、植物からの反射光をイメージセンサ22で撮像してカラー画像を取得する(S7)。送信部29は、このカラー画像をモニタ30に送信する。モニタ30は、監視カメラ10から受信したカラー画像を画面に表示する。以後、同様の動作が繰り返される。従って、カラー画像を撮像中、イベント(例えばタイムアップやユーザ操作)が発生すると、監視カメラ10は、前述したNDVIの演算処理に移行する。
以上により、第1の実施形態の監視カメラ10では、イメージセンサ22は、IRフィルタF4を介して、植物の生育状況を観察する指標であるNDVIの演算に使用されるIR画像を撮像する。撮像後、フィルタ切替機構15は、IRフィルタF4とRフィルタF3とが隣り合った位置になるように保持されたフレーム161を動かし、イメージセンサ22の前面に位置するフィルタを、IRフィルタF4からRフィルタF3に切り替える。イメージセンサ22は、RフィルタF3を介して、植物の生育状況を観察する指標であるNDVIの演算に使用されるR画像を撮像する。画像処理部28は、撮像されたIR画像及びR画像を用いて、植物の生育状況を観察する指標であるNVDIを算出する。
このように、第1の光学フィルタの一例としてのIRフィルタF4と第2の光学フィルタの一例としてのRフィルタF3とは隣り合った位置になるように、フレーム161(ホルダ)に保持されるので、IRフィルタF4とRフィルタF3との切替時間を短縮できる。従って、安価な構成であっても、撮像中、照度の変化や風等の外乱要因により撮像条件が変化する可能性が低くなり、演算されるNDVIの精度の低下を抑制できる。
また、フィルタ切替機構15によってイメージセンサ22の前面に位置するように切り替えられたフィルタを検出可能な位置に配置された3つのフォトセンサ16zが受光した植物からの反射光の受光波形(つまり、受光パターン)によって、CPU25はイメージセンサ22の前面に位置するIRフィルタF4又はRフィルタF3を特定する。ここでは、検出可能な位置は、レンズ11と対向するフレームケース164の内側であって、フレーム161の上部に形成された細孔164z〜164uを通して入射する光を受光可能な位置である。このように、機械的部品を用いることなく、簡単にイメージセンサ22の前面に位置するフィルタを特定できる。
また、植物の生育指標の演算に使用されるフィルタとして、RフィルタF3は、赤色に対応する波長の光を透過させ、IRフィルタF4は、赤外光又は近赤外光を透過させるので、植物の生育状況を観察する指標であるNDVI(Normalized Difference Vegetation Index)を演算することができる。
また、イメージセンサ22が、IRフィルタF4を介してIR画像を撮像し、RフィルタF3を介してR画像を撮像する場合、絞り13zの開度を固定値に設定するので、IR画像及びR画像の撮像中に起こる露光量の変化を少なくし、演算される植物の生育指標の推定精度の低下を抑えることができる。
(第1の実施形態の変形例1)
第1の実施形態では、植物の生育状況を観察する指標として、正規化植生指数(NDVI)を用いる場合を示したが、植物の光合成の活性度合いを表す指標である光合成指標(PRI)を用いてもよく、NDVIと同様の手順で分析することが可能である。
光合成指標(PRI)は、植物の光合成の活性度合いを表す指標であり、数式(2)に従い、画素値毎に算出される。
ここで、L530は530nmの波長を有する光の輝度を表し、L570は570nmの波長を有する光の輝度を表す。数式(2)で算出されるPRI値は、値0〜値1の範囲であり、値0に近い程、光合成の活性度合いが小さい色で表現され、値1に近い程、光合成の活性度合いが大きい色で表現される。
また、葉の緑色部分は、太陽光による照度の影響を受け易いので、CPU25は、PRIの演算に必要な、植物の530nm画像及び570nm画像を連続して撮像する際、絞り13zの開度を固定値に設定し、イメージセンサ22に入射する光の量をできるだけ一定になるようにする。
図9は、PRI演算時における撮像動作手順の一例を時系列に示す図である。フィルタ切替機構15は、初期位置(つまり、ホームポジション)として、可視光フィルタF6がイメージセンサ22の前面に位置するように、モータ17を駆動しフレーム161をスライドさせる。
通常、監視カメラ10は、植物を監視する際、自動露光でカラー画像を撮像する。CPU25は、植物の撮像を開始すると、イメージセンサ22で外光を検出し、周囲の光量に応じて、光学モジュール13に絞り制御信号を出力し、絞り13zの開度を制御する自動露光制御を行う(S1)。
監視カメラ10は、初期位置に設定された可視光フィルタF6を通して入射する、植物からの反射光をイメージセンサ22で撮像し、カラー画像を得る(S2)。送信部29は、このカラー画像をモニタ30に送信する。モニタ30は、監視カメラ10から受信したカラー画像を画面に表示する。
カラー画像を連続して撮像中、イベント(例えばタイムアップやユーザ操作)が発生すると、監視カメラ10は、PRIの演算処理に移行する。CPU25は、絞り13zの開度を固定値に設定する(S3)。この固定値は、例えば緑色(G)の輝度が、晴天時の昼間に撮像されたG値(理想的なGの輝度値)となるように設定された、絞りの開度である。
CPU25は、フィルタ切替機構15にフィルタ切替信号を出力する。フィルタ切替機構15は、CPU25からのフィルタ切替信号に従い、イメージセンサ22の前面に位置するフィルタを切り替える。つまり、フィルタ切替機構15は、イメージセンサ22の前面に位置するフィルタを、カラー画像を撮像可能な可視光フィルタF6から530nm画像を撮像可能な530nmフィルタF1に切り替える。
監視カメラ10は、530nmフィルタF1を通して入射する植物からの反射光をイメージセンサ22で撮像して530nm画像を取得すると、画像処理部28に出力する(S4A)。画像処理部28は、530nm画像を入力すると、内部メモリに一時的に記憶する。
CPU25は、フィルタ切替機構15にフィルタ切替信号を出力する。フィルタ切替機構15は、CPU25からのフィルタ切替信号に従い、イメージセンサ22の前面に位置するフィルタを切り替える。つまり、フィルタ切替機構15は、イメージセンサ22の前面に位置するフィルタを、530nm画像を撮像可能な530nmフィルタF1から570nm画像を撮像可能な570nmフィルタF2に切り替える。
監視カメラ10は、570nmフィルタF2を通して入射する植物からの反射光をイメージセンサ22で撮像し、570nm画像を取得すると、画像処理部28に出力する(S5A)。画像処理部28は、570nm画像を入力すると、内部メモリに一時的に記憶する。
画像処理部28は、内部メモリに記憶された530nm画像及び570nm画像を読み出し、画素毎に530nm画像の輝度と570nm画像の輝度とを用い、数式(2)に従い、PRIを演算する。画像処理部28は、画素毎に演算したPRI値を用いてPRI画像を生成する。送信部29は、PRI画像をモニタ30に送信する。モニタ30は、監視カメラ10から受信したPRI画像を画面に表示する。
この後、CPU25は、フィルタ切替機構15にフィルタ切替信号を出力する。フィルタ切替機構15は、CPU25からのフィルタ切替信号に従い、イメージセンサ22の前面に位置するフィルタを切り替える。つまり、フィルタ切替機構15は、イメージセンサ22の前面に位置するフィルタを、570nm画像を撮像可能な570nmフィルタF2からカラー画像を撮像可能な可視光フィルタF6に切り替える。
監視カメラ10は通常の動作に戻り、CPU25は、照度センサ(図示せず)で外光を検出し、周囲の光量に応じて光学モジュール13に絞り制御信号を出力し、絞り13zの開度を制御する自動露光制御を行う(S6)。
監視カメラ10は、可視光フィルタF6を通して入射する、植物からの反射光をイメージセンサ22で撮像してカラー画像を取得する(S7)。送信部29は、このカラー画像をモニタ30に送信する。モニタ30は、監視カメラ10から受信したカラー画像を画面に表示する。以後、同様の動作が繰り返される。つまり、カラー画像を撮像中、イベント(例えばタイムアップやユーザ操作)が発生すると、監視カメラ10は、前述したPRIの演算処理に移行する。
このように、530nmフィルタF1と570nmフィルタF2とは隣り合った位置になるように、フレーム161(ホルダ)に保持されるので、530nmフィルタF1と570nmフィルタF2との切替時間を短縮できる。従って、安価な構成であっても、撮像中、照度の変化や風等の外乱要因により撮像条件が変化する可能性が低くなり、演算されるPRIの精度の低下を抑制できる。
また、植物の生育指標の演算に使用されるフィルタとして、530nmフィルタF1は、530nmの波長の光を透過させ、570nmフィルタF2は、570nmの波長の光を透過させるので、植物の光合成の活性度合いを表す指標(光合成指標)であるPRI(Photochemical Reflectance Index)を演算することができる。
(第1の実施形態の変形例2)
第1の実施形態では、フレーム161をその長手方向にスライド移動させることで、6枚のフィルタF1〜F6を切り替えていたが、この場合、フレーム161及びフレームケース164は、細長い板状に形成されるので、フィルタの枚数が多くなると、フレーム161及びフレームケース164の外形が一方向に延びて長くなり、監視カメラの筐体は取扱いに不便な形状となる。変形例では、フレーム及びフレームケースを円盤状に形成した場合を示す。
図10は、他のカメラ本体機構20Aの一例を示す正面図である。カメラ本体機構20Aは、第1の実施形態と同様、前面にレンズ11が嵌め込まれた枠体20zを有する。カメラ本体機構20Aに組み込まれるフィルタ切替機構15Aは、円盤状に形成されたフレーム161A及びフレームケース164Aを有し、フレームケース164Aに収納されたフレーム161Aをその中心軸を中心に回転自在である。
ここでは、フレーム161Aには、その周縁部に沿うように、8枚のフィルタF1〜F8が交換自在に嵌め込まれている。フィルタF1〜F6は、前記第1の実施形態と同様kのフィルタである。フィルタF7,F8はその他の分光特性を有するフィルタである。例えば、青色(B)フィルタF7は、450nmを略中心とする400nm〜500nmの波長において、やや大きな透過率を有するフィルタである。
フィルタ切替機構15Aは、前述したように、フィルタ保持部16及びモータ17を有する。フレームケース164Aには、モータ17と連結したギアボックス(不図示)が設けられる。フレーム161Aの上面には、ギアボックスの最下段の歯車であるピニオンギア18Aと歯合するラック163Aが形成される。
モータ17が回転し、シャフト17zの回転力がギアボックスに伝達され、ピニオンギア18Aが回転すると、このピニオンギアと歯合するラック163Aもフレーム161Aの中心軸を中心に回転する。フレーム161Aに嵌め込まれたフィルタは、イメージセンサ22の前面とレンズ11との間に位置するように、切り替えられる。
この変形例2のように、円盤状のフレーム161Aの円周上に8枚のフィルタF1〜F8を配置することで、直線上にフィルタを配置する場合と比べ、フレーム161A及びフレームケース164Aの外形を丸くすることができ、監視カメラの筐体を取り扱いに不便さを生じない形状にすることができる。
(第2の実施形態に至る経緯・課題)
監視カメラが光学フィルタを切り替えて撮像する場合、例えばNDVIを演算するために、赤色(R)フィルタやIR(赤外光又は近赤外光)フィルタを透過させて撮像した画像は、ユーザにとって必要の無い画像である。つまり、RフィルタやIRフィルタを透過させた撮像画像は、特定の波長を有する光だけを撮像した画像であるので、この撮像画像をモニタの画面に表示した場合、ユーザに対し画像が反転したような印象を与え、ユーザは監視カメラが故障していると誤認識するおそれがあった。また、RフィルタやIRフィルタを通過させた撮像画像は専門知識を有する者でないと植物の正確な育成状況を把握することは困難であり、そのような専門知識を有さない者は、本来植物の育成状況として正常である葉や茎、幹等の部位が枯死している等と勘違いをしてしまう可能性もあった。そこで、第2の実施形態では、ユーザが監視カメラの故障や撮像対象である植物の育成状況を誤認識することを防ぐ監視カメラの例について説明する。
(第2の実施形態)
第2の実施形態の監視カメラは第1の実施形態とほぼ同一の構成を有する。第1の実施形態と同一の構成要素については同一の符号を用いることで、その説明を省略する。
図11は、第2の実施形態における撮像時の動作手順、使用するフィルタ、及び撮像画像を時系列に示す図である。
撮像開始時(T1)、フィルタ切替機構15は、IR光をカットする可視光フィルタF6がイメージセンサ22の前面に位置するように、モータ17を駆動しフレーム161をスライドさせる。なお、図中、イメージセンサ22の前面に位置するフィルタは、太い枠線で描かれている。
監視カメラ10は、初期位置に設定された可視光フィルタF6を通して入射する、植物からの反射光をイメージセンサ22で撮像し、カラー画像GZ1を得る。送信部29は、このカラー画像GZ1をモニタ30に送信する。モニタ30は、監視カメラ10から受信したカラー画像GZ1を画面に表示する。カラー画像GZ1は、植物を撮像した画像である。
カラー画像を撮像中、イベント(例えばタイムアップやユーザ操作)が発生すると(T2)、監視カメラ10は、NDVIの演算処理に移行し、CPU25は、フィルタ切替機構15にフィルタ切替信号を出力する。フィルタ切替機構15は、CPU25からのフィルタ切替信号に従い、イメージセンサ22の前面に位置するフィルタを切り替える。つまり、フィルタ切替機構15は、イメージセンサ22の前面に位置するフィルタを、カラー画像を撮像可能な可視光フィルタF6からIR画像を撮像可能なIRフィルタF4に切り替える。
監視カメラ10の画像処理部28は、IRフィルタF4を通して入射する植物からの反射光をイメージセンサ22で撮像してIR画像GZ2を取得し、このIR画像GZ2を内部メモリに一時的に記憶する(T3)。ここでは、画像処理部28の内部メモリに一時的に記憶されたIR画像GZ2は、送信部29に出力されない。モニタ30は、送信部29からIR画像GZ2を受信しないので、既に受信済みのカラー画像GZ1の表示状態を維持する。
なお、画像処理部28は内部メモリに一時的に記憶されたIR画像GZ2を送信部29に出力し、送信部29がモニタ30にIR画像GZ2を送信しないように停止してもよい。又は、モニタ30は、送信部29からIR画像GZ2を受信してもその表示を止めてもよい。
CPU25は、フィルタ切替機構15にフィルタ切替信号を出力する(T4)。フィルタ切替機構15は、CPU25からのフィルタ切替信号に従い、イメージセンサ22の前面に位置するフィルタを切り替える。つまり、フィルタ切替機構15は、イメージセンサ22の前面に位置するフィルタを、IR画像を撮像可能なIRフィルタF4からR画像を撮像可能なRフィルタF3に切り替える。
監視カメラ10の画像処理部28は、RフィルタF3を通して入射する植物からの反射光をイメージセンサ22で撮像してR画像GZ3を取得し、このR画像GZ3を内部メモリに一時的に記憶する(T5)。ここでは、画像処理部28の内部メモリに一時的に記憶されたR画像GZ3は、送信部29に出力されない。モニタ30は、送信部29からR画像GZ3を受信しないので、既に受信済みのカラー画像GZ1の表示状態を維持する。
なお、画像処理部28は内部メモリに一時的に記憶されたR画像GZ3を送信部29に出力し、送信部29がモニタ30にR画像GZ3を送信しないように停止してもよい。又は、モニタ30は、送信部29からR画像GZ3を受信してもその表示を止めてもよい。
画像処理部28は、IR画像GZ2の輝度LIRとR画像GZ3の輝度Lとを用い、数式(1)に従い、画素毎にNDVIを演算する。画像処理部28は、画素毎に演算したNDVI値を用いてNDVI画像GZ4を生成する(T6)。送信部29は、NDVI画像GZ4をモニタ30に送信する。モニタ30は、監視カメラ10から受信したNDVI画像GZ4を画面に表示する。
この後、監視カメラ10は、再びカラー画像の撮像動作に戻る。撮像開始時と同様、CPU25は、フィルタ切替機構15にフィルタ切替信号を出力する。フィルタ切替機構15は、イメージセンサ22の前面に位置するフィルタを、R画像を撮像可能なRフィルタF3からカラー画像を撮像可能な可視光フィルタF6に切り替える。以後、同様の動作が行われる。
なお、カラー画像の撮像時(T1)には、自動露光制御で絞りの開度を可変させ、IR画像の撮像時(T3)及びR画像の撮像時(T5)には、絞りの開度を固定値に設定してもよいことは、前記第1の実施形態と同様である。
図12は、モニタ30の画面に並べて表示されるカラー画像GZ1及びNDVI画像GZ4の一例を示す図である。モニタ30の画面には、カラー画像GZ1とNDVI画像GZ4とが並んで対比的に表示される。モニタ30の画面の左側には、植物から反射光が可視光フィルタF6を透過して撮像されたカラー画像GZ1が表示される。一方、モニタ30の画面右側には、画像処理部28によって演算された画素毎のNDVI値を青色から緑色の範囲の色で表現したNDVI画像GZ4が表示される。
ここでは、NDVI画像GZ4は、値0〜値1の範囲にあるNDVI値に対し、段階的な色(例えば、青色、水色、緑色の3段階)で表現される。これにより、ユーザはおおまかに植物の生育状況を知ることができる。なお、NDVI値は、3段階に限らず、任意の段階数に分けて任意の色で表現してもよく、例えば青色、水色、緑色、黄色、赤色といった5段階で表現することも可能である。また、CPU25は、NDVI値に対して閾値を設定して、当該閾値以上の値に対応する色または当該閾値以下の値に対応する色のみをモニタ30上に表示させるようにしても良い。
また、カラー画像GZ1に対し、NDVI画像GZ4は、IR画像GZ2及びR画像GZ3を撮像しNDVI値を演算した後に生成されるので、カラー画像GZ1の撮像時刻とNDVI画像GZ4の生成時刻との間には、僅かな時間差(数十秒程度)がある。
なお、ここでは、モニタ30は、カラー画像GZ1とNDVI画像GZ4とを画面に並べて対比的に表示したが、カラー画像GZ1とNDVI画像GZ4とを交互に表示して対比できるようにしてもよい。また、NDVI画像GZ4を生成するために、途中で撮像されたIR画像GZ2及びR画像GZ3の画像データの送信を監視カメラ10に要求する操作ボタンをモニタ30の画面に設け、ユーザが希望した場合、この操作ボタンを押下することで、カラー画像GZ1とNDVI画像GZ4の他、IR画像GZ2やR画像GZ3をモニタ30の画面に表示できるようにしてもよい。これにより、ユーザは必要な時にだけIR画像GZ2やR画像GZ3を見ることも可能となり、利便性が向上する。
以上により、第2の実施形態の監視カメラ10では、イメージセンサ22が、可視光フィルタ(赤外カットフィルタ)F6を介してカラー画像GZ1を撮像し、IRフィルタF4及びRフィルタF3を介して、植物の生育状況を観察する指標であるNDVIの演算に使用される、IR画像GZ2及びR画像GZ3をそれぞれ撮像する。送信部29は、イメージセンサ22がIR画像GZ2及びR画像GZ3を撮像している間、カラー画像GZ1をモニタ30に出力する。モニタ30は、IR画像GZ2及びR画像GZ3の代わりに、カラー画像GZ1を表示する。
このように、植物の生育指標として植物の生育状況を観察する指標であるNDVIの演算に用いられる光学フィルタであるIRフィルタF4及びRフィルタF3を透過させた画像を撮像している間、カラー画像(可視光画像)GZ1を出力するので、IRフィルタF4及びRフィルタF3をそれぞれ透過させたIR画像GZ2及びR画像GZ3の出力が遮られ、ユーザが監視カメラ10の故障や撮像対象である植物の育成状況を誤認識することを防ぐことができる。
なお、イメージセンサ22が、可視光フィルタ(赤外カットフィルタ)F6を介してカラー画像GZ1を撮像し、530nmフィルタF1及び570nmフィルタF2を介して、植物の生育指標として植物の光合成の活性度合いを表す指標(光合成指標)の演算に使用される、530nm画像及び570nm画像をそれぞれ撮像する場合も同様である。
また、植物の生育指標に関する第1波長を通過させる第1の光学フィルタとしてIRフィルタF4、前記植物の生育指標に関する第2波長を通過させる第2の光学フィルタとしてRフィルタF3を用いることで、植物の生育状況を観察する指標であるNDVI(Normalized Difference Vegetation Index)を容易に演算することができる。また、530nmフィルタF1及び570nmフィルタF2を用いることで、植物の光合成の活性度合いを表す指標(光合成指標)であるPRI(Photochemical Reflectance Index)を容易に演算することができる。
また、フィルタ切替機構15が、フレーム161を動かして、イメージセンサ22の前面に位置するフィルタを切り替えている間、送信部29はカラー画像GZ1をモニタ30に出力するので、フィルタの切替中に撮像される不要な撮像画像の出力も遮られ、より一層、ユーザが監視カメラ10の故障を誤認識することを防ぐことができる。
また、送信部29は、植物の生育指標の演算結果を表す画像(NDVI画像,PRI画像)をモニタ30に出力するので、カラー画像中に活性度合いの高い葉を見つけることが容易になる。
また、送信部29は、カラー画像GZ1と、植物の生育指標の演算結果を表す画像(NDVI画像,PRI画像)とを対比的にモニタ30に出力するので、活性度合いが高い葉であるにもかかわらず、枯れてしまっている葉であると、ユーザが誤認識して刈り取る(葉刈りする)ことも避けることができる。
(第3の実施形態に至る経緯・課題)
監視カメラが光学フィルタを切り替えて撮像する場合、天候や時間帯によって太陽光の照度や色温度が変化するので、植物の生育指標を正確に推定することが難しかった。葉の緑色成分は、太陽光の照度によって直線的に輝度が変化し、その他の色成分は葉の植生状態によって輝度が変化する。例えば、葉の緑色成分は曇天の時には照度が低くなるので、輝度が小さくなり暗くて見えづらくなる。また、朝方は、太陽光の色温度が青色に近くなるので、葉が青く見えたり、夕方は、太陽光の色温度がオレンジ色に近くなるので、葉に赤みが生じて見えたりする。このように、太陽光の照度や色温度の変化によって、葉の活性度が分かりにくくなり、ユーザの誤判断に繋がる。そこで、第3の実施形態では、太陽光等の光の変化による影響を受けても、植物の生育指標の誤差を低減できるようにする監視カメラの例について説明する。
(第3の実施形態)
第3の実施形態の監視カメラは第1の実施形態とほぼ同一の構成を有する。第1の実施形態と同一の構成要素については同一の符号を用いることで、その説明を省略する。
監視カメラ10が被写体である植物を連続して撮像しカラー画像で監視する場合を示す。この撮像では、自動露光制御及び色温度補正制御が行われる。
図13は、第3の実施形態おける露光制御の一例を説明する図である。露光条件を制御する場合、例えば次の3つの方法が挙げられる。第1の方法として、第1の実施形態で示したように、アイリス(絞り)制御を行う場合が挙げられる。イメージセンサ22の前面に配置された、絞り13zは、CPU25からの絞り制御信号に従い、絞り13zの開度を調節し、レンズ11を通して入射する光の光量を制御する。
第2の方法として、イメージセンサ22で電気信号に変換された画像信号のゲイン制御を行う場合が挙げられる。画像処理部28には、前述したように、画像処理専用のデジタルシグナルプロセッサ(DSP)が用いられるので、ゲイン制御は、DSP内のアンプ28zの増幅度を可変することで行われる。
第3の方法として、イメージセンサ22に入射する光の通過を開閉するシャッタを制御する場合が挙げられる。シャッタ制御を行う場合、イメージセンサの電荷蓄積時間を制御することで露光量を制御してもよいし、イメージセンサの前面に機械式シャッタを設け、機械式シャッタの開閉時間を制御することで露光量を制御してもよい。
図14は、自動露光制御手順の一例を示すフローチャートである。まず、イメージセンサ22は、CPU25からの指示に従い、被写体である植物を撮像する(S11)。この撮像では、フィルタ切替機構15は、可視光フィルタF6がイメージセンサ22の前面に位置するように、モータ17を駆動してフレーム161をスライドさせておく。
画像処理部28は、イメージセンサ22で撮像された画像に対し、画素ユニット(所定数の画素群)毎にRGB値及び輝度値を検出する(S12)。RGB値は、画素ユニットに含まれるR、G、Bの各画素の輝度である。輝度値は、画素ユニット全体の輝度である。
画像処理部28は、撮像画像を構成する複数の画素ユニットのうち、G値の割合が所定値以上に高い画素ユニットを緑色成分の画素ユニットとして検出し、この画素ユニットの輝度値を読み込む(S13)。
画像処理部28は、内部メモリに記憶された、理想的なG値(例えば晴天時の昼間に検出された緑色の輝度値)を読み込む(S14)。なお、理想的なG値としては、ユーザが観察し易い緑色の輝度値であればよく、これに限られず、任意に設定可能である。画像処理部28は、ステップS13で読み込まれた緑色成分として検出された画素ユニットの輝度値が理想的なG値と等しくなるように、露光条件を制御する(S15)。露光条件を制御する方法は、前述した3つの方法のいずれでも可能であるが、ここでは、最も良く用いられる絞り制御で行われる。
露光条件を制御した結果、太陽光による照度の影響を受けることなく、イメージセンサ22で撮像された画像は、晴天時の昼間に撮像されたような輝度を有する画像の撮像が可能となる。なお、露光条件を制御する際、緑色の輝度は、赤色や赤外光又は近赤外光の輝度と比べ、太陽光の照度にほぼ比例するので、ここでは緑色成分が用いられたが、赤色成分や赤外光成分或いは近赤外光成分を用いることも可能である。
図15は、色温度補正制御手順の一例を示すフローチャートである。まず、イメージセンサ22は、CPU25からの指示に従い、被写体である植物を撮像する(S21)。この撮像では、フィルタ切替機構15は、可視光フィルタF6がイメージセンサ22の前面に位置するように、モータ17を駆動しフレーム161をスライドさせておく。
画像処理部28は、イメージセンサ22で撮像された画像に対し、画素ユニット(所定数の画素群)毎にRGB値及び輝度値を検出する(S22)。前述したように、RGB値は、画素ユニットに含まれるR、G、Bの各画素の輝度である。輝度値は、画素ユニット全体の輝度である。
画像処理部28は、撮像画像を構成する複数の画素ユニットのうち、G値の割合が所定値以上に高い画素ユニットを緑色成分の画素ユニットとして検出する(S23)。更に、画像処理部28は、緑色成分として検出された画素ユニットにおけるR値及びB値を読み込む(S24)。
色温度制御部の一例としての画像処理部28は、緑色成分として検出された画素ユニットに対し、R値とB値が所定の割合になるように制御する(S25)。緑色成分として検出された画素ユニットに対し、R値とB値が所定の割合になるように制御する場合、例えば、晴天時の昼間に撮像したR値及びB値に対し、夕方ではR値を下げるように、また、朝ではB値を下げるように、ゲイン制御を行う。これにより、朝では、葉の色が青みがかることはなくなり、夕方では、赤みがかることはなくなる。なお、R値を下げる代わりに、G値及びB値を上げるように、ゲイン制御を行ってもよいし、B値を下げる代わりに、G値及びR値を上げるように、ゲイン制御を行ってもよい。
この色温度補正制御の結果、太陽光の色温度の影響を受けることなく、イメージセンサ22で撮像された画像の色温度は、晴天時の昼間に撮像されたような色温度を有する画像、例えば緑色成分の色が真の緑色になるように色バランスが補正された画像の撮像が可能となる。
以上により、第3の実施形態の監視カメラ10では、イメージセンサ22が、可視光フィルタ(赤外カットフィルタ)F6を介して、被写体である植物のカラー画像GZ1を撮像する。画像処理部28は、イメージセンサ22によって撮像される、植物のカラー画像のうち、緑色成分の輝度値(G値)を検出し、このG値が理想的なG値(晴天時の昼間に撮像されたような、特定の条件で得られる緑色成分の輝度値)と等しくなるように、イメージセンサ22の露光条件を制御する。送信部29は、露光条件が制御された状態で撮像されたカラー画像GZ1をモニタ30に出力する。モニタ30は、カラー画像GZ1を画面に表示する。
これにより、太陽光の照度の変化による影響を受けることなく、カラー画像を出力できる。従って、曇天であっても、晴天で撮像したようなカラー画像を得ることができる。
また、絞り13zの開度を調節することで、露光条件を制御する。これにより、絞りの開度を大きくしたり小さくすることで、露光量を簡単かつダイナミックに可変できる。また、イメージセンサで変換される電気信号のS/N比の低下を抑えることができる。
また、画像処理部28は、イメージセンサ22で撮像されたカラー画像GZ1の画像信号を増幅するアンプ28zの増幅度を可変することで、露光条件を制御する。これにより、絞り等の部品を設けなくても、露光条件を簡単に制御できる。
また、イメージセンサ22は、入射する光の通過を開閉するシャッタの開閉時間を調整することで、露光条件を制御する。これにより、露光量を精度良く調整できる。
また、画像処理部28は、イメージセンサ22によって撮像されるカラー画像のうち、緑色成分の割合が所定値以上である画素ユニットの色を検出し、画素ユニットの色が晴天時の昼間に撮像されたような、特定の条件で得られる緑色となるように、赤色成分及び青色成分の割合を制御する。
これにより、太陽光の色温度の変化による影響を受けることなく、晴天時の昼間に撮像したようなカラー画像を得ることができる。従って、朝に葉の色が青みがかって撮像されることなく、夕方に葉の色が赤みがかって撮像されることなく、晴天時の昼間に撮像されたような葉の色となる。また、水分を吸い過ぎた葉の緑色は薄くなるが、このような場合でも、葉の色は水分を吸い過ぎていないように表示されるので、ユーザは葉の状態を勘違いすることなく判断できる。従って、植物の葉の色を鮮明に撮像することができる。
(第1〜第3の各実施形態の変形例)
上記第1〜第3の各実施形態では、監視カメラが、NDVIやPRIの演算、NDVI画像の生成、露光制御、及び色温度補正制御を行っていたが、監視カメラは撮像した画像の画像データをPC(パーソナルコンピュータ装置)に送信するだけで、PCが監視カメラから受信した画像データを基に、上記処理を行ってもよい。
図16は、変形例における監視カメラシステム5の内部構成の一例を示すブロック図である。監視カメラシステム5は、監視カメラ10A及びPC50を有する。監視カメラ10A内の画像処理部28Aは、イメージセンサ22で撮像された画像に対して画像処理を行い、可視光画像、IR画像、R画像、530nm画像、570nm画像等の画像データを、送信部29を介してPC50に送信するが、NDVIやPRIの演算を行わないので、NDVI画像やPRI画像の画像データは送信されない。
PC50は、汎用のコンピュータ装置であり、CPU51、メモリ54、通信部52、操作部53及びモニタ55を有する。PC50は、監視カメラ10Aから送信される画像データを、通信部52を介して受信すると、前記第1〜第3の実施形態で示したような、NDVIやPRIの演算やNDVI画像の生成を行い、また、監視カメラ10Aに対し、露光制御や色温度補正制御を行う。
これにより、監視カメラ10Aの構成を簡単化することができ、また、PC50による監視カメラ10Aの遠隔制御が可能となる。
以上、図面を参照しながら各種の実施形態について説明したが、本発明はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
例えば、上記各実施形態では、フィルタ切替機構は、フレームを直線方向に或いは円周方向に動かしていたが、動かし方はこれに限定されず、例えば枠状に移動させる(つまり、水平方向及び垂直方向の移動を組み合わせて矩形状に移動させる)、楕円形に沿うように移動させる等、種々の移動の方法が可能である。
本発明は、太陽光等の光の変化による影響を受けても、植物の生育指標の誤差を低減でき、ユーザの誤判断を防止する撮像装置及び画像処理方法として有用である。
5 監視カメラシステム
10,10A 監視カメラ
11 レンズ
13 光学モジュール
13z 絞り
15,15A フィルタ切替機構
16,16A フィルタ保持部
16z フォトセンサ
17,24 モータ
17z シャフト
18 ギアボックス
18w,18y,18z 歯車
18A ピニオンギア
20,20A カメラ本体機構
20z 枠体
21 ABF機構
22 イメージセンサ
22z センサ基板
25 CPU
28,28A 画像処理部
28z アンプ
29 送信部
30 モニタ
50 PC
51 CPU
52 通信部
53 操作部
54 メモリ
55 モニタ
161,161A フレーム
161z,161y,161x,161w,161u 開口部
163,163A ラック
164,164A フレームケース
164z,164y,164x,164w,164u 細孔
165 レール
F1〜F6 フィルタ
GZ1 カラー画像
GZ2 IR画像
GZ3 R画像
GZ4 NDVI画像

Claims (6)

  1. 植物の画像を撮像する撮像装置であって、
    前記植物のカラー画像を撮像する撮像部と、
    前記撮像部によって撮像された前記植物のカラー画像のうち、緑色成分の輝度値を検出し、前記緑色成分の輝度値が特定の条件で得られる緑色成分の輝度値と等しくなるように、前記カラー画像の露光条件を制御する露光制御部と、
    前記露光制御部によって前記露光条件が制御された状態で、前記撮像部によって撮像された前記植物のカラー画像を出力する出力部と、を備える、
    撮像装置。
  2. 請求項1に記載の撮像装置であって、
    絞り部、を更に有し、
    前記露光制御部は、前記絞りの絞り量を調節することで、前記露光条件を制御する、
    撮像装置。
  3. 請求項1に記載の撮像装置であって、
    前記撮像部によって撮像された前記植物のカラー画像の画像信号を増幅するアンプ、を更に有し、
    前記露光制御部は、前記アンプの増幅度を変更することで、前記露光条件を制御する、
    撮像装置。
  4. 請求項1に記載の撮像装置であって、
    前記撮像部に入射する前記植物の反射光の通過を開閉するシャッタ、を更に備え、
    前記露光制御部は、前記シャッタの開閉時間を変更することで、前記露光条件を制御する、
    撮像装置。
  5. 請求項1に記載の撮像装置であって、
    前記撮像部によって撮像された前記植物のカラー画像のうち、緑色成分の割合が所定値以上である画素群の色を検出し、前記画素群の色が前記特定の条件で得られる緑色となるように、赤色成分及び青色成分の割合を制御する色温度制御部、を更に備える、
    撮像装置。
  6. カラー画像を出力可能な撮像部を有する撮像装置における画像処理方法であって、
    前記撮像部において、植物を撮像するステップと、
    前記撮像装置によって撮像された前記植物のカラー画像のうち、緑色成分の輝度値を検出するステップと、
    検出された前記緑色成分の輝度値が特定の条件で得られる緑色成分の輝度値と等しくなるように、前記植物のカラー画像の露光条件を制御するステップと、
    前記露光条件が制御された状態で、前記撮像部によって撮像された前記植物のカラー画像を出力するステップと、を有する、
    画像処理方法。
JP2015124252A 2015-06-19 2015-06-19 撮像装置及び画像処理方法 Pending JP2017011459A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015124252A JP2017011459A (ja) 2015-06-19 2015-06-19 撮像装置及び画像処理方法
PCT/JP2016/002083 WO2016203690A1 (ja) 2015-06-19 2016-04-19 撮像装置及び画像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015124252A JP2017011459A (ja) 2015-06-19 2015-06-19 撮像装置及び画像処理方法

Publications (1)

Publication Number Publication Date
JP2017011459A true JP2017011459A (ja) 2017-01-12

Family

ID=57761907

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015124252A Pending JP2017011459A (ja) 2015-06-19 2015-06-19 撮像装置及び画像処理方法

Country Status (1)

Country Link
JP (1) JP2017011459A (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019026618A1 (ja) * 2017-08-01 2019-02-07 ソニー株式会社 撮像装置、撮像方法、並びにプログラム
WO2019181154A1 (ja) * 2018-03-23 2019-09-26 ソニー株式会社 信号処理装置、信号処理方法、撮像装置および医療用撮像装置
CN112817108A (zh) * 2021-01-22 2021-05-18 浙江大华技术股份有限公司 一种滤光片间切换检测方法、装置、存储介质及电子装置
CN113167647A (zh) * 2018-10-22 2021-07-23 罗伯特·博世有限公司 用于芯片实验室分析仪器的光学模块的滤波设备、用于芯片实验室分析仪器的光学模块和用于运行芯片实验室分析仪器的光学模块的方法
JP2021175396A (ja) * 2020-04-28 2021-11-04 株式会社椿本チエイン 収穫装置、収穫システム、収穫方法及びコンピュータプログラム
WO2024070120A1 (ja) * 2022-09-26 2024-04-04 キヤノン株式会社 測定装置、測定方法、およびプログラム

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7127647B2 (ja) 2017-08-01 2022-08-30 ソニーグループ株式会社 撮像装置、撮像方法、並びにプログラム
US11570371B2 (en) 2017-08-01 2023-01-31 Sony Group Corporation Imaging apparatus, imaging method, and program
JPWO2019026618A1 (ja) * 2017-08-01 2020-08-20 ソニー株式会社 撮像装置、撮像方法、並びにプログラム
WO2019026618A1 (ja) * 2017-08-01 2019-02-07 ソニー株式会社 撮像装置、撮像方法、並びにプログラム
CN112005546A (zh) * 2018-03-23 2020-11-27 索尼公司 信号处理设备、信号处理方法、图像捕获设备以及医用图像捕获设备
US11399161B2 (en) 2018-03-23 2022-07-26 Sony Group Corporation Signal processing device, signal processing method, image capture device, and medical image capture device
WO2019181154A1 (ja) * 2018-03-23 2019-09-26 ソニー株式会社 信号処理装置、信号処理方法、撮像装置および医療用撮像装置
CN113167647A (zh) * 2018-10-22 2021-07-23 罗伯特·博世有限公司 用于芯片实验室分析仪器的光学模块的滤波设备、用于芯片实验室分析仪器的光学模块和用于运行芯片实验室分析仪器的光学模块的方法
JP2022508894A (ja) * 2018-10-22 2022-01-19 ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツング ラボオンチップ分析装置用の光学モジュールのためのフィルタ装置、ラボオンチップ分析装置用の光学モジュール、及び、ラボオンチップ分析装置用の光学モジュールを動作させるための方法
US11988605B2 (en) 2018-10-22 2024-05-21 Robert Bosch Gmbh Filter device for an optical module for a lab-on-a-chip analysis device, optical module for a lab-on-a-chip analysis device and method for operating an optical module for a lab-on-a-chip analysis device
JP2021175396A (ja) * 2020-04-28 2021-11-04 株式会社椿本チエイン 収穫装置、収穫システム、収穫方法及びコンピュータプログラム
JP7259888B2 (ja) 2020-04-28 2023-04-18 株式会社椿本チエイン 収穫装置、収穫システム、収穫方法及びコンピュータプログラム
CN112817108A (zh) * 2021-01-22 2021-05-18 浙江大华技术股份有限公司 一种滤光片间切换检测方法、装置、存储介质及电子装置
WO2024070120A1 (ja) * 2022-09-26 2024-04-04 キヤノン株式会社 測定装置、測定方法、およびプログラム

Similar Documents

Publication Publication Date Title
JP2017011459A (ja) 撮像装置及び画像処理方法
JP5468178B2 (ja) 撮像装置、撮像装置の制御方法及びプログラム
US8629916B2 (en) Camera with imaging unit and imaging unit for camera
US8009223B2 (en) Image sensor, focus detection device, focus adjustment device and image-capturing apparatus
KR101577606B1 (ko) 렌즈 장치의 캘리브레이션
EP2744205A1 (en) Image pickup apparatus and filter
US9846350B2 (en) Lens barrel, method of controlling lens barrel, camera body, method of controlling camera body, imaging device, and method of controlling imaging device
CN107076962A (zh) 透镜镜筒、照相机主体及摄影装置
KR20100090319A (ko) 피사체의 근접여부 판단이 가능한 이미지센서
JP6435278B2 (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
US20230213386A1 (en) Imaging device with spectrometer and methods for use therewith
JP2013198041A (ja) 画像処理装置
US10021357B2 (en) Image capturing apparatus and method for generating image data
JP5991603B1 (ja) 撮像装置
JP2017009395A (ja) 撮像装置及び表示制御方法
JP5564812B2 (ja) 植物体の生育変化の連続測定方法
JP2021071732A (ja) 制御装置、制御方法、コンピュータプログラム及び電子機器
WO2016203689A1 (ja) 撮像装置
US20190167080A1 (en) Endoscope system
WO2016203690A1 (ja) 撮像装置及び画像処理方法
KR101778380B1 (ko) 식물 관리 장치 및 이를 이용한 식물 관리 시스템
JP2011097264A (ja) 撮像装置
CN202617286U (zh) 影像获取装置
US9906705B2 (en) Image pickup apparatus
CN108353123A (zh) 摄影装置及其控制方法