JP7677003B2 - 撮像装置およびモデル学習システム - Google Patents

撮像装置およびモデル学習システム Download PDF

Info

Publication number
JP7677003B2
JP7677003B2 JP2021113039A JP2021113039A JP7677003B2 JP 7677003 B2 JP7677003 B2 JP 7677003B2 JP 2021113039 A JP2021113039 A JP 2021113039A JP 2021113039 A JP2021113039 A JP 2021113039A JP 7677003 B2 JP7677003 B2 JP 7677003B2
Authority
JP
Japan
Prior art keywords
image
teacher
unit
input data
light receiving
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021113039A
Other languages
English (en)
Other versions
JP2023009613A (ja
Inventor
広器 佐々木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Toyota Motor Corp
Mirise Technologies Corp
Original Assignee
Denso Corp
Toyota Motor Corp
Mirise Technologies Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp, Toyota Motor Corp, Mirise Technologies Corp filed Critical Denso Corp
Priority to JP2021113039A priority Critical patent/JP7677003B2/ja
Publication of JP2023009613A publication Critical patent/JP2023009613A/ja
Application granted granted Critical
Publication of JP7677003B2 publication Critical patent/JP7677003B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Studio Devices (AREA)

Description

画像処理機能を備えた撮像装置、および、モデル学習システムに関する。
非特許文献1には、撮像画像を表している受光素子毎の輝度信号を入力データとして事前に学習しておいて学習型ネットワークモデルに入力し、撮像画像のボケを改善する技術が開示されている。
"Learned large field-of-view imaging with thin-plate optics", ACM Transactions on Graphics, Volume 38, Issue 6, November 2019 Article No.: 219, pp 1-14
非特許文献1に開示された技術は、まだボケの改善が十分ではない。より、ボケの程度が少ない画像を出力できる技術が望まれる。
本開示は、この事情に基づいて成されたものであり、その目的とするところは、ボケの程度が少ない補正後撮像画像を得られる撮像装置、および、撮像装置が使うモデルを学習するモデル学習システムを提供することにある。
上記目的は独立請求項に記載の特徴の組み合わせにより達成され、また、下位請求項は更なる有利な具体例を規定する。特許請求の範囲に記載した括弧内の符号は、一つの態様として後述する実施形態に記載の具体的態様との対応関係を示すものであって、開示した技術的範囲を限定するものではない。
上記目的を達成するための撮像装置に係る1つの開示は、
画像のボケが光軸(11a)に対して対称性をもつ撮像画像を、複数の受光素子を備えた受光センサ(12)により撮像し、受光素子別の輝度を示す輝度信号を出力する撮像部(10)と、
撮像部が出力した輝度信号と、輝度信号を検出した受光素子の位置を示す極座標成分とを入力データとし、入力データを学習型ネットワークモデルに入力してボケを補正した補正後撮像画像を生成し、生成した補正後撮像画像を所定の演算装置へ出力する画像処理部(20、220)と、を備え、
学習型ネットワークモデルは、撮像画像に対してボケが改善されている教師画像を受光素子の位置に対応した画像位置別の輝度信号により示す教師輝度信号と、画像位置を示す極座標成分とを教師データとし、入力データと教師データとを含む学習データにより学習されている、撮像装置であって、
撮像部は、直交座標の配列で輝度信号を出力し、
画像処理部は、
撮像部が出力した輝度信号を極座標の配列に変換する座標変換部(221)と、
座標変換部が変換した後の輝度信号のそれぞれに、極座標成分である光軸からの距離を加えた入力データを生成する入力データ生成部(222)と、
入力データを学習型ネットワークモデルに入力して補正後撮像画像を生成する画像補正部(223)とを備え、
学習型ネットワークモデルは、教師画像を受光素子に対応した画像位置別の輝度信号により示し、かつ、極座標系で配列している教師輝度信号のそれぞれに、光軸からの距離を加えたデータを教師データとし、入力データと教師データとを含む学習データにより学習されている、撮像装置である。
撮像部が撮像する画像は、画像のボケが光軸に対して対称性を持っている。画像処理部は、学習型ネットワークモデルにより撮像画像のボケを補正する。学習型ネットワークモデルは、輝度信号だけでなく、輝度信号を検出した受光素子の位置を示す極座標成分も入力データとするモデルである。
この学習型ネットワークモデルは、撮像画像に対してボケが改善されている教師画像をベースとして学習されている。詳しくは、教師画像において受光素子に対応した画像位置別の輝度信号(すなわち教師輝度信号)と画像位置を示す極座標成分とを教師データとしている。学習型ネットワークモデルは、この教師データと入力データとを学習データとして学習されている。
学習型ネットワークモデルがこの学習データにより学習されていると、輝度信号のみを入力データとして学習されたモデルよりも補正精度が向上する。補正精度が向上する理由は以下の通りである。ボケが光軸に対して対称性を持つ撮像画像は、座標を極座標系とすると、互いに対称となる座標のボケが同様になる。そのため、上記の学習データとすることで、学習時にボケの対称性が利用されて学習型ネットワークモデルのパラメータが学習されるので、学習効率が向上する。学習効率が向上することは、よりボケを改善できる学習型ネットワークモデルになることを意味する。このようにして学習された学習型ネットワークモデルを用いて撮像画像を補正するので、ボケの程度が少ない補正後撮像画像を得られるのである。
上記目的を達成するための他の開示は、撮像装置が備える学習型ネットワークモデルを学習するモデル学習システムである。このモデル学習システムは、
画像のボケが光軸(11a)に対して対称性をもつ撮像画像を、複数の受光素子を備えた受光センサ(12)により撮像し、受光素子別の輝度を示す輝度信号を出力する撮像部(10)と、
撮像画像に対してボケが改善されている教師画像を複数の受光素子に対応した画像位置別の輝度信号により示す教師輝度信号と、画像位置を示す極座標成分とを含む教師データを生成する教師データ生成部(123、323)と、
撮像部が出力した輝度信号と、輝度信号を検出した受光素子の位置を示す極座標成分とを入力データとし、入力データと教師データ生成部が生成した教師データとを含む学習データにより、学習型ネットワークモデルのパラメータを学習するモデル学習部(124、324)とを備え
撮像部は、直交座標の配列で輝度信号を出力し、
教師データ生成部は、直交座標の配列で教師輝度信号を取得し、取得した教師輝度信号を極座標の配列に変換し、変換した後の教師輝度信号のそれぞれに、極座標成分である光軸からの距離を加えたデータを教師データとして生成する。
第1実施形態の撮像装置1の構成を示す図。 入力データ生成部22と画像補正部23が実行する処理を説明する図。 モデル学習システム100の構成図。 第1実施形態の効果を説明する図。 第2実施形態の撮像装置200の構成を示す図。 座標変換部221、入力データ生成部222および画像補正部223が実行する処理を説明する図。 モデル学習システム300の構成図。 第2実施形態の効果を説明する図。
<第1実施形態>
以下、実施形態を図面に基づいて説明する。図1は、第1実施形態の撮像装置1の構成を示す図である。本実施形態の撮像装置1は車両に搭載され、車両の周囲の画像を撮像する。
撮像装置1は、撮像部10と画像処理部20とを備えている。撮像部10は、車両の周囲を撮像し、撮像した画像(以下、撮像画像)を示すデジタルデータを画像処理部20に出力する。撮像部10は、レンズ11と受光センサ12と撮像制御部13とを備えている。
レンズ11は、車両外部からレンズ11に入射する光を受光センサ12の受光面12aに集光する。レンズ11は、第1面を凹面、第2面を凸面とする非球面レンズとし、中央部のコントラストに優れる設計とする。また、レンズ11は、車両で用いる場合の耐候性を考慮して、ガラス製とすることが好ましい。
受光センサ12は、受光面12aに縦横に多数の受光素子が配置された構成である。受光素子は受光画素、あるいは、単に画素と言われることもある。受光素子は、光の強度を電気信号に変換する素子である。受光センサ12としては、CMOSセンサ、CCDセンサなどを用いることができる。受光センサ12は、赤、緑、青のカラーフィルタが光路手前に配置されることにより、赤色の光の強度、緑色の光の強度、青色の光の強度を検出する。
受光面12aは、非点収差を補正するために、レンズ11の光軸11aから離れるほどレンズ11側に近づく湾曲形状である。受光面12aの湾曲の程度は、非点収差を補正できるように、レンズ11の特性に応じて適宜、決定する。
前述のように、レンズ11は、中央のコントラストに優れる。換言すれば、このレンズ11を用いて撮像される撮像画像は、視野中心から視野周辺に向かうほどボケの程度が大きくなる。また、レンズ11は、光軸11aに対して対称形状であるので、撮像画像は、ボケが光軸11aに対して対称性を持つ画像である。
撮像制御部13は、受光センサ12が備える受光素子を制御するものである。撮像制御部13は、少なくとも1つのプロセッサを備えた構成により実現できる。撮像制御部13は、受光センサ12に撮像画像を逐次撮像させ、また、撮像画像を示す画像信号を画像処理部20に逐次出力する。画像信号は、詳しくは、受光素子別の輝度信号である。受光センサ12の受光面12aには、格子状に受光素子が配列しているので、撮像制御部13は、受光素子別の輝度信号を、1列ずつ順番に直交座標系において連続する配列で、画像処理部20に出力する。画像処理部20は、逐次、画像処理部20に入力される輝度信号の順番により、各輝度信号がどの受光素子が検出した輝度信号であるかを特定できる。なお、撮像制御部13は、受光素子別の輝度信号に直交座標を付与して画像処理部20に出力してもよい。
画像処理部20は、撮像画像のボケを改善した補正後撮像画像を生成し、補正後撮像画像を示す画像データを演算装置2へ出力する。演算装置2は、画像データを演算する装置であればよい。演算装置2は、たとえば、画像データを処理して補正後撮像画像に写っている障害物を検出する装置である。演算装置2の他の具体例は、補正後撮像画像を表示する表示器である。
画像処理部20は、少なくとも1つのプロセッサを備えた構成により実現できる。なお、撮像制御部13と画像処理部20が、同じプロセッサにより実現されてもよい。画像処理部20は、プロセッサが実行する機能として、入力データ生成部22と、画像補正部23とを備える。
入力データ生成部22は、画像補正部23に入力する入力データを生成する。入力データの1単位は、1つの画素位置についての赤色の輝度値LR、緑色の輝度値LG、青色の輝度値LB、および、その画素位置の極座標(r、θ)である。輝度値LR、LG、LBは、輝度信号に基づいて定まる値とすることができる。
画素位置の極座標における距離rは、光軸11aからの距離を意味する。極座標における角度θは、始線からの角度である。入力データ生成部22は、生成した入力データを画像補正部23に出力する。
画像補正部23は、入力データを学習型ネットワークモデルに入力して補正後撮像画像を生成する。そして、画像補正部23は、生成した補正後撮像画像を演算装置2に出力する。画像処理部20は、記憶部24を備える。記憶部24は不揮発性であり、記憶部24に、画像補正部23が用いる学習済みの学習型ネットワークモデルが記憶されている。
学習型ネットワークモデルは、学習型フィルタを用い、逆畳み込み演算を行うように構築されたモデルである。たとえば、非特許文献1にも開示されているU-netを用いることができる。なお、非特許文献1では、U-netの段数は6段になっている。本実施形態でも、段数は6段とすることができる。ただし、5段など6段以外の段数でもよい。入力データの1セットが5つのパラメータを備えるので、本実施形態で用いる学習型ネットワークモデルは入力チャンネルを5チャンネルとする。また、初段の変換は、たとえば、128チャンネルとする。
図2は、入力データ生成部22と画像補正部23が実行する処理を説明する図である。図2において、「Image_RGB」は、撮像制御部13が出力する画像信号である。画像信号は、画素位置毎に、赤色、緑色、青色の3つの輝度値Lが、直交座標の配列で配列されている信号群である。「Adress_rθ」は、距離r、角度θにより定まる極座標位置である。入力データ生成部22は、これら5つのパラメータを結合して、1セットの入力データ「Input_RGBrθ」とする。
画像補正部23は、入力データを、所定の大きさで順次切り出す。図2では、256×256の大きさを例示している。この切り出した入力データを、学習型ネットワークモデルに入力して出力データを得る。「Output_RGBrθ」は、入力データを順次、学習型ネットワークモデルに入力して得られた出力データを意味する。画像補正部23は、この出力データから、極座標(r、θ)のデータを除去することで、「Image_RGB」を得る。画像補正部23側の「Image_RGB」は、補正後撮像画像を表す画像データである。
〔学習処理〕
次に、学習型ネットワークモデルの学習処理について説明する。図3に、学習処理をするモデル学習システム100の構成を示す。モデル学習システム100は、撮像部10、教師画像撮像装置110、モデル生成装置120を備える。
教師画像撮像装置110は、教師画像を撮像する装置である。教師画像は、撮像部10が撮像する撮像画像に対してボケが改善されている画像である。教師画像撮像装置110は、このような教師画像を撮像するために、複数枚のレンズを組み合わせたりする。教師画像撮像装置110は、教師画像を、受光素子の位置に対応した画像位置別の輝度信号により示す教師輝度信号に、各教師輝度信号の画像位置を示す直交座標を付与して、モデル生成装置120に出力する。
撮像部10は、撮像装置1が備えるものと同じである。学習時、撮像部10は、教師画像撮像装置110が撮像する範囲と同じ範囲を撮像する。なお、教師画像は、コンピュータグラフィックスにより作成したものでもよい。教師画像がコンピュータグラフィックスにより作成した画像である場合、撮像部10は、教師画像を撮像する。
モデル生成装置120は、入力データ生成部122、教師データ生成部123、モデル学習部124、記憶部125を備える。入力データ生成部122は、撮像装置1が備える入力データ生成部22と同じ処理により、入力データを生成する。
教師データ生成部123は、教師輝度信号を教師画像撮像装置110から取得し、この教師輝度信号をもとに教師データを生成する。教師データは、入力データにおける撮像画像を教師画像に置き換えたデータである。したがって、教師データは、画像位置別の輝度信号に、各画像位置を示す極座標(r、θ)を加えたデータである。
モデル学習部124は、入力データ生成部122が生成した入力データと、教師データ生成部123が生成した教師データとを学習データとして、学習型ネットワークモデルのパラメータを学習する。そして、モデル学習部124は、パラメータを学習した学習型ネットワークモデルを記憶部125に記憶する。撮像装置1が備える記憶部24に記憶されている学習型ネットワークモデルは、このモデル学習システム100により学習された学習型ネットワークモデルである。学習済みの学習型ネットワークモデルを記憶部24に記憶するために、撮像装置1とモデル学習システム100は、相互に通信できるようになっていてもよい。また、作業者が可搬型記憶媒体を用いて、記憶部125から記憶部24へ、学習型ネットワークモデルをコピーしてもよい。
このように、学習型ネットワークモデルは、教師輝度信号と極座標で示す画像位置とを教師データとして学習されている。学習型ネットワークモデルがこのようにして学習されていると、以下の理由により、輝度信号のみを入力データとして学習されたモデルよりも補正精度が向上する。
撮像画像は、ボケが光軸に対して対称性を持っているため、極座標を入力データの一部として学習することで、ボケの対称性が利用されて学習型ネットワークモデルのパラメータが学習されるからである。このようにして学習された学習型ネットワークモデルを用いて撮像画像を補正することで、撮像装置1は、ボケの程度が少ない補正後撮像画像を得られる。
〔画像改善効果〕
図4に、撮像装置1による画像改善効果を確認した結果を示す。図4は、横軸がHalfFoV(°)である。HalfFoVは、光軸を0°とし、光軸に対して一方の側のみの視野を意味する。全体の視野(Field of View)は、HalfFoVの2倍である。図4の縦軸は、PSNR(Peak Signal Noise Ratio)である。
図4において非特許文献1として示した結果は、第1実施形態の撮像装置1の構成において、学習型ネットワークモデルのみ、非特許文献1に開示されているモデルとした装置を用いた結果である。非特許文献1に開示されているモデルは、U-netを用いるが、入力データが、各画素の輝度信号のみであり、各画素の輝度信号に極座標情報は追加されない。
図4に示されるように、第1実施形態によれば、非特許文献1に開示されている入力データと学習型ネットワークモデルを用いるよりも、全体的にPSNRが向上していることが分かる。
また、非特許文献1では、回折型DOEを用いたシングルレンズを採用している。非特許文献1には、HalfFoVが9°~13°付近では、非球面レンズを採用するよりもPSNRが向上しているグラフが開示されている。しかし、このグラフは、換言すれば、HalfFoVが0°から9°付近では、非球面レンズを採用したほうが、PSNRがよいことを意味している。そこで、本実施形態では、非球面のレンズ11を採用している。これにより、視野中央部の解像度が、非特許文献1に開示された構成よりも向上する。
ただし、非球面のレンズ11を採用すると、非点収差により、周辺視野ではPSNRが低くなる。そこで、非点収差を補正するために、撮像装置1では、受光面12aが湾曲形状になっている受光センサ12を備える。この構成により、視野周辺の解像度も向上する。
<第2実施形態>
次に、第2実施形態を説明する。この第2実施形態以下の説明において、それまでに使用した符号と同一番号の符号を有する要素は、特に言及する場合を除き、それ以前の実施形態における同一符号の要素と同一である。また、構成の一部のみを説明している場合、構成の他の部分については先に説明した実施形態を適用できる。
図5に、第2実施形態の撮像装置200の構成を示す。撮像装置200は、撮像装置1が備えているものと同じ撮像部10を備える。撮像装置200は、この撮像部10と、画像処理部220とを備える。
画像処理部220は、座標変換部221、入力データ生成部222、画像補正部223、記憶部224を備える。座標変換部221は、撮像部10が出力した輝度信号を、極座標の配列に変換する。
入力データ生成部222は、画像補正部223に入力する入力データを生成する。第2実施形態での入力データの1単位は、1つの画素位置についての赤色の輝度値LR、緑色の輝度値LG、青色の輝度値LB、および、その画素位置の極座標成分の距離rである。第1実施形態とは異なり、入力データに、画素位置の極座標成分の角度θは含ませない。したがって、入力データは4チャンネルのデータになる。
撮像画像は光軸11aに対してボケの程度が対称性を持つ画像である。したがって、角度θが変わっても、ボケの程度は同じである。そこで、輝度信号の配列を極座標系に変換している第2実施形態では、画素位置の極座標成分のうち角度θは、入力データに含ませないのである。
画像補正部223は、入力データ生成部222が生成した入力データを学習型ネットワークモデルに入力して補正後撮像画像を生成する。そして、画像補正部223は、生成した補正後撮像画像を演算装置2に出力する。画像処理部220は、記憶部224を備える。記憶部224には、画像補正部223が用いる学習済みの学習型ネットワークモデルが記憶されている。
図6は、座標変換部221、入力データ生成部222および画像補正部223が実行する処理を説明する図である。図6において、座標変換部221の「Image_RGB」は撮像制御部13が出力する画像信号、「Polar_RGB」は極座標の順で配列された画像信号である。「Adress_r」は画素位置の極座標成分である距離r、「Input_RGBr」は入力データである。
画像補正部223は、入力データを、所定の大きさで順次切り出し、切り出した入力データを、学習型ネットワークモデルに入力して出力データを得る。「Output_RGBr」は、入力データを順次、学習型ネットワークモデルに入力して得られた出力データを意味する。画像補正部223は、この出力データから、極座標(r)のデータを除去して、「Polar_RGB」を得る。この「Polar_RGB」は極座標の配列になっている補正後撮像画像であるので、さらに、「Polar_RGB」を直交座標の配列に変換して「Image_RGB」を得る。画像補正部223側の「Image_RGB」は、直交座標系で補正後撮像画像を表す画像データである。
〔学習処理〕
次に、第2実施形態において学習型ネットワークモデルを学習する学習処理について説明する。図7に、学習処理をするモデル学習システム300の構成を示す。モデル学習システム300は、撮像部10、教師画像撮像装置110、モデル生成装置320を備える。撮像部10と教師画像撮像装置110は、モデル学習システム100が備えるものと同じである。
モデル生成装置320は、座標変換部321、入力データ生成部322、教師データ生成部323、モデル学習部324、記憶部325を備える。座標変換部321、入力データ生成部322は、それぞれ、撮像装置200が備える座標変換部221、入力データ生成部222と同じ処理を実行する。
教師データ生成部323は、教師輝度信号を教師画像撮像装置110から取得する。教師画像撮像装置110から取得する教師輝度信号は直交座標系で配列している。教師データ生成部323は、教師画像撮像装置110から取得した教師輝度信号を極座標の配列に変換する。さらに、教師データ生成部323は、変換後の各画像位置別の教師輝度信号に、その画像位置を示す極座標のうちの距離rを加えて教師データとする。
モデル学習部324は、入力データ生成部322が生成した入力データと、教師データ生成部323が生成した教師データとを学習データとして、学習型ネットワークモデルのパラメータを学習する。そして、モデル学習部324は、パラメータを学習した学習型ネットワークモデルを記憶部325に記憶する。撮像装置200が備える記憶部325に記憶されている学習型ネットワークモデルは、このモデル学習システム300により学習された学習型ネットワークモデルである。
学習型ネットワークモデルがこのようにして学習されても、輝度信号のみを入力データとして学習されたモデルよりも補正精度が向上する。
〔画像改善効果〕
図8に、撮像装置200による画像改善効果を確認した結果を示す。図8も、図4と同じく、横軸がHalfFoV、縦軸がPSNRである。図8に示されるように、第2実施形態のようにしても、非特許文献1に開示されている入力データと学習型ネットワークモデルを用いるよりも、全体的にPSNRが向上していることが分かる。
以上、実施形態を説明したが、開示した技術は上述の実施形態に限定されるものではなく、次の変形例も開示した範囲に含まれ、さらに、下記以外にも要旨を逸脱しない範囲内で種々変更して実施できる。
撮像装置1、200は、車両に搭載されていなくてもよい。車両以外の移動体に搭載されてもよいし、移動しない場所に設定されてもよい。
また、撮像装置1、200とモデル学習システム100、300とを備えた1つのシステムが構成されていてもよい。
撮像制御部13、画像処理部20、220、モデル生成装置120、320は、専用ハードウエア論理回路により実現されてもよいし、コンピュータプログラムを実行するプロセッサと一つ以上のハードウエア論理回路との組み合わせにより構成された一つ以上の専用コンピュータにより実現されてもよい。ハードウエア論理回路は、たとえば、ASIC、FPGAである。上記コンピュータプログラムは、コンピュータ読み取り可能な非遷移有形記録媒体に記憶されていればよい。たとえば、フラッシュメモリに上記コンピュータプログラムが記憶される。
1:撮像装置 2:演算装置 10:撮像部 11:レンズ 11a:光軸 12:受光センサ 12a:受光面 13:撮像制御部 20:画像処理部 22:入力データ生成部 23:画像補正部 24:記憶部 100:モデル学習システム 110:教師画像撮像装置 120:モデル生成装置 122:入力データ生成部 123:教師データ生成部 124:モデル学習部 125:記憶部 200:撮像装置 220:画像処理部 221:座標変換部 222:入力データ生成部 223:画像補正部 224:記憶部 300:モデル学習システム 320:モデル生成装置 321:座標変換部 322:入力データ生成部 323:教師データ生成部 324:モデル学習部 325:記憶部 r:距離 θ:角度

Claims (6)

  1. 画像のボケが光軸(11a)に対して対称性をもつ撮像画像を、複数の受光素子を備えた受光センサ(12)により撮像し、前記受光素子別の輝度を示す輝度信号を出力する撮像部(10)と、
    前記撮像部が出力した前記輝度信号と、前記輝度信号を検出した前記受光素子の位置を示す極座標成分とを入力データとし、前記入力データを学習型ネットワークモデルに入力して前記ボケを補正した補正後撮像画像を生成し、生成した前記補正後撮像画像を所定の演算装置へ出力する画像処理部(20、220)と、を備え、
    前記学習型ネットワークモデルは、前記撮像画像に対して前記ボケが改善されている教師画像を前記受光素子の位置に対応した画像位置別の前記輝度信号により示す教師輝度信号と、前記画像位置を示す極座標成分とを教師データとし、前記入力データと前記教師データとを含む学習データにより学習されている、撮像装置であって、
    前記撮像部は、直交座標の配列で前記輝度信号を出力し、
    前記画像処理部は、
    前記撮像部が出力した前記輝度信号を極座標の配列に変換する座標変換部(221)と、
    前記座標変換部が変換した後の前記輝度信号のそれぞれに、前記極座標成分である前記光軸からの距離を加えた前記入力データを生成する入力データ生成部(222)と、
    前記入力データを前記学習型ネットワークモデルに入力して前記補正後撮像画像を生成する画像補正部(223)とを備え、
    前記学習型ネットワークモデルは、前記教師画像を前記受光素子に対応した画像位置別の前記輝度信号により示し、かつ、極座標系で配列している前記教師輝度信号のそれぞれに、前記光軸からの距離を加えたデータを前記教師データとし、前記入力データと前記教師データとを含む学習データにより学習されている、撮像装置。
  2. 請求項1に記載の撮像装置であって、
    前記画像処理部は、
    前記輝度信号のそれぞれに、前記極座標成分である、前記光軸からの距離(r)と始線からの角度(θ)とを加えた前記入力データを生成する入力データ生成部(22)と、
    前記入力データを前記学習型ネットワークモデルに入力して前記補正後撮像画像を生成する画像補正部(23)とを備え、
    前記学習型ネットワークモデルは、前記教師画像を前記受光素子の位置に対応した画像位置別の前記輝度信号により示し、かつ、直交座標系で配列している前記教師輝度信号のそれぞれに、前記光軸からの距離と、前記始線からの角度とを加えたデータを前記教師データとし、前記入力データと前記教師データとを含む学習データにより学習されている、撮像装置。
  3. 請求項1または2に記載の撮像装置であって、
    前記撮像部は、光軸から離れるほどボケが大きくなる非球面のレンズ(11)を備える、撮像装置。
  4. 請求項に記載の撮像装置であって、
    前記撮像部は、受光面(12a)が、前記光軸から離れるほど前記レンズ側に近づく湾曲形状になっている受光センサ(12)を備える、撮像装置。
  5. 請求項またはに記載の撮像装置であって、
    前記レンズはガラス製である、撮像装置。
  6. 画像のボケが光軸(11a)に対して対称性をもつ撮像画像を、複数の受光素子を備えた受光センサ(12)により撮像し、前記受光素子別の輝度を示す輝度信号を出力する撮像部(10)と、
    前記撮像画像に対してボケが改善されている教師画像を複数の前記受光素子に対応した画像位置別の前記輝度信号により示す教師輝度信号と、前記画像位置を示す極座標成分とを含む教師データを生成する教師データ生成部(123、323)と、
    前記撮像部が出力した前記輝度信号と、前記輝度信号を検出した前記受光素子の位置を示す極座標成分とを入力データとし、前記入力データと前記教師データ生成部が生成した前記教師データとを含む学習データにより、学習型ネットワークモデルのパラメータを学習するモデル学習部(124、324)とを備え
    前記撮像部は、直交座標の配列で前記輝度信号を出力し、
    前記教師データ生成部は、直交座標の配列で前記教師輝度信号を取得し、取得した前記教師輝度信号を極座標の配列に変換し、変換した後の前記教師輝度信号のそれぞれに、前記極座標成分である前記光軸からの距離を加えたデータを前記教師データとして生成する、モデル学習システム。
JP2021113039A 2021-07-07 2021-07-07 撮像装置およびモデル学習システム Active JP7677003B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021113039A JP7677003B2 (ja) 2021-07-07 2021-07-07 撮像装置およびモデル学習システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021113039A JP7677003B2 (ja) 2021-07-07 2021-07-07 撮像装置およびモデル学習システム

Publications (2)

Publication Number Publication Date
JP2023009613A JP2023009613A (ja) 2023-01-20
JP7677003B2 true JP7677003B2 (ja) 2025-05-15

Family

ID=85118833

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021113039A Active JP7677003B2 (ja) 2021-07-07 2021-07-07 撮像装置およびモデル学習システム

Country Status (1)

Country Link
JP (1) JP7677003B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018072638A (ja) 2016-10-31 2018-05-10 株式会社ニコン 撮像レンズ、撮像装置および撮像レンズの製造方法
JP2020061129A (ja) 2018-10-04 2020-04-16 キヤノン株式会社 画像処理方法、画像処理装置、撮像装置、画像処理システム、プログラム、および、記憶媒体
JP2020201540A (ja) 2019-06-06 2020-12-17 キヤノン株式会社 画像処理方法、画像処理装置、画像処理システム、学習済みウエイトの製造方法、および、プログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018072638A (ja) 2016-10-31 2018-05-10 株式会社ニコン 撮像レンズ、撮像装置および撮像レンズの製造方法
JP2020061129A (ja) 2018-10-04 2020-04-16 キヤノン株式会社 画像処理方法、画像処理装置、撮像装置、画像処理システム、プログラム、および、記憶媒体
JP2020201540A (ja) 2019-06-06 2020-12-17 キヤノン株式会社 画像処理方法、画像処理装置、画像処理システム、学習済みウエイトの製造方法、および、プログラム

Also Published As

Publication number Publication date
JP2023009613A (ja) 2023-01-20

Similar Documents

Publication Publication Date Title
JP6467787B2 (ja) 画像処理システム、撮像装置、画像処理方法およびプログラム
US9712755B2 (en) Information processing method, apparatus, and program for correcting light field data
US8379976B2 (en) Image processing apparatus and method and a computer-readable recording medium on which an image processing program is stored
CN107071234B (zh) 一种镜头阴影校正方法及装置
JP2018084982A (ja) 画像処理装置、情報処理方法及びプログラム
JP6274931B2 (ja) マルチエリアホワイトバランス制御装置、マルチエリアホワイトバランス制御方法、マルチエリアホワイトバランス制御プログラム、マルチエリアホワイトバランス制御プログラムを記録したコンピュータ、マルチエリアホワイトバランス画像処理装置、マルチエリアホワイトバランス画像処理方法、マルチエリアホワイトバランス画像処理プログラム、マルチエリアホワイトバランス画像処理プログラムを記録したコンピュータ及びマルチエリアホワイトバランス画像処理装置を備えた撮像装置
JP2008516299A (ja) 撮像装置及び画像改質処理方法
JPWO2014125659A1 (ja) 画像処理装置、撮像装置、フィルタ生成装置、画像復元方法及びプログラム
JP6600936B2 (ja) 画像処理装置、画像処理方法、画像処理システム、プログラム、及び記録媒体
CN114820581B (zh) 轴对称光学成像并行仿真方法及装置
CN101946519A (zh) 图像处理装置、成像装置、校正系数计算方法以及图像处理程序
US20200228709A1 (en) Method for processing image signal, image signal processor, and image sensor chip
US10778915B2 (en) Dual-aperture ranging system
TW201839716A (zh) 環景影像的拼接方法及其系統
JP4311040B2 (ja) 色収差補正装置および色収差補正方法、並びに色収差補正プログラム
JP2009219123A (ja) 色収差を補正する方法
JP7677003B2 (ja) 撮像装置およびモデル学習システム
JP7628002B2 (ja) 歪み画像内の対象物を検出するための方法、システム、およびデバイス
CN112866550B (zh) 相位差获取方法和装置、电子设备、计算机可读存储介质
CN117152264A (zh) 一种基于多个环形编码点标定板的大视场相机标定方法
JP2019212132A (ja) 画像処理方法、画像処理装置、撮像装置、プログラム、および、記憶媒体
JP7415707B2 (ja) 撮像装置、補正方法、及び、プログラム
TWI497448B (zh) 影像強化方法及其系統
JP2016134631A (ja) 画像処理装置、撮像装置、画像処理方法
CN115187680B (zh) 图像处理方法、图像处理系统、终端及可读存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240313

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20241227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20250121

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250305

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250401

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250414

R150 Certificate of patent or registration of utility model

Ref document number: 7677003

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150