JP7677003B2 - 撮像装置およびモデル学習システム - Google Patents
撮像装置およびモデル学習システム Download PDFInfo
- Publication number
- JP7677003B2 JP7677003B2 JP2021113039A JP2021113039A JP7677003B2 JP 7677003 B2 JP7677003 B2 JP 7677003B2 JP 2021113039 A JP2021113039 A JP 2021113039A JP 2021113039 A JP2021113039 A JP 2021113039A JP 7677003 B2 JP7677003 B2 JP 7677003B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- teacher
- unit
- input data
- light receiving
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Image Processing (AREA)
- Studio Devices (AREA)
Description
画像のボケが光軸(11a)に対して対称性をもつ撮像画像を、複数の受光素子を備えた受光センサ(12)により撮像し、受光素子別の輝度を示す輝度信号を出力する撮像部(10)と、
撮像部が出力した輝度信号と、輝度信号を検出した受光素子の位置を示す極座標成分とを入力データとし、入力データを学習型ネットワークモデルに入力してボケを補正した補正後撮像画像を生成し、生成した補正後撮像画像を所定の演算装置へ出力する画像処理部(20、220)と、を備え、
学習型ネットワークモデルは、撮像画像に対してボケが改善されている教師画像を受光素子の位置に対応した画像位置別の輝度信号により示す教師輝度信号と、画像位置を示す極座標成分とを教師データとし、入力データと教師データとを含む学習データにより学習されている、撮像装置であって、
撮像部は、直交座標の配列で輝度信号を出力し、
画像処理部は、
撮像部が出力した輝度信号を極座標の配列に変換する座標変換部(221)と、
座標変換部が変換した後の輝度信号のそれぞれに、極座標成分である光軸からの距離を加えた入力データを生成する入力データ生成部(222)と、
入力データを学習型ネットワークモデルに入力して補正後撮像画像を生成する画像補正部(223)とを備え、
学習型ネットワークモデルは、教師画像を受光素子に対応した画像位置別の輝度信号により示し、かつ、極座標系で配列している教師輝度信号のそれぞれに、光軸からの距離を加えたデータを教師データとし、入力データと教師データとを含む学習データにより学習されている、撮像装置である。
画像のボケが光軸(11a)に対して対称性をもつ撮像画像を、複数の受光素子を備えた受光センサ(12)により撮像し、受光素子別の輝度を示す輝度信号を出力する撮像部(10)と、
撮像画像に対してボケが改善されている教師画像を複数の受光素子に対応した画像位置別の輝度信号により示す教師輝度信号と、画像位置を示す極座標成分とを含む教師データを生成する教師データ生成部(123、323)と、
撮像部が出力した輝度信号と、輝度信号を検出した受光素子の位置を示す極座標成分とを入力データとし、入力データと教師データ生成部が生成した教師データとを含む学習データにより、学習型ネットワークモデルのパラメータを学習するモデル学習部(124、324)とを備え、
撮像部は、直交座標の配列で輝度信号を出力し、
教師データ生成部は、直交座標の配列で教師輝度信号を取得し、取得した教師輝度信号を極座標の配列に変換し、変換した後の教師輝度信号のそれぞれに、極座標成分である光軸からの距離を加えたデータを教師データとして生成する。
以下、実施形態を図面に基づいて説明する。図1は、第1実施形態の撮像装置1の構成を示す図である。本実施形態の撮像装置1は車両に搭載され、車両の周囲の画像を撮像する。
次に、学習型ネットワークモデルの学習処理について説明する。図3に、学習処理をするモデル学習システム100の構成を示す。モデル学習システム100は、撮像部10、教師画像撮像装置110、モデル生成装置120を備える。
図4に、撮像装置1による画像改善効果を確認した結果を示す。図4は、横軸がHalfFoV(°)である。HalfFoVは、光軸を0°とし、光軸に対して一方の側のみの視野を意味する。全体の視野(Field of View)は、HalfFoVの2倍である。図4の縦軸は、PSNR(Peak Signal Noise Ratio)である。
次に、第2実施形態を説明する。この第2実施形態以下の説明において、それまでに使用した符号と同一番号の符号を有する要素は、特に言及する場合を除き、それ以前の実施形態における同一符号の要素と同一である。また、構成の一部のみを説明している場合、構成の他の部分については先に説明した実施形態を適用できる。
次に、第2実施形態において学習型ネットワークモデルを学習する学習処理について説明する。図7に、学習処理をするモデル学習システム300の構成を示す。モデル学習システム300は、撮像部10、教師画像撮像装置110、モデル生成装置320を備える。撮像部10と教師画像撮像装置110は、モデル学習システム100が備えるものと同じである。
図8に、撮像装置200による画像改善効果を確認した結果を示す。図8も、図4と同じく、横軸がHalfFoV、縦軸がPSNRである。図8に示されるように、第2実施形態のようにしても、非特許文献1に開示されている入力データと学習型ネットワークモデルを用いるよりも、全体的にPSNRが向上していることが分かる。
Claims (6)
- 画像のボケが光軸(11a)に対して対称性をもつ撮像画像を、複数の受光素子を備えた受光センサ(12)により撮像し、前記受光素子別の輝度を示す輝度信号を出力する撮像部(10)と、
前記撮像部が出力した前記輝度信号と、前記輝度信号を検出した前記受光素子の位置を示す極座標成分とを入力データとし、前記入力データを学習型ネットワークモデルに入力して前記ボケを補正した補正後撮像画像を生成し、生成した前記補正後撮像画像を所定の演算装置へ出力する画像処理部(20、220)と、を備え、
前記学習型ネットワークモデルは、前記撮像画像に対して前記ボケが改善されている教師画像を前記受光素子の位置に対応した画像位置別の前記輝度信号により示す教師輝度信号と、前記画像位置を示す極座標成分とを教師データとし、前記入力データと前記教師データとを含む学習データにより学習されている、撮像装置であって、
前記撮像部は、直交座標の配列で前記輝度信号を出力し、
前記画像処理部は、
前記撮像部が出力した前記輝度信号を極座標の配列に変換する座標変換部(221)と、
前記座標変換部が変換した後の前記輝度信号のそれぞれに、前記極座標成分である前記光軸からの距離を加えた前記入力データを生成する入力データ生成部(222)と、
前記入力データを前記学習型ネットワークモデルに入力して前記補正後撮像画像を生成する画像補正部(223)とを備え、
前記学習型ネットワークモデルは、前記教師画像を前記受光素子に対応した画像位置別の前記輝度信号により示し、かつ、極座標系で配列している前記教師輝度信号のそれぞれに、前記光軸からの距離を加えたデータを前記教師データとし、前記入力データと前記教師データとを含む学習データにより学習されている、撮像装置。 - 請求項1に記載の撮像装置であって、
前記画像処理部は、
前記輝度信号のそれぞれに、前記極座標成分である、前記光軸からの距離(r)と始線からの角度(θ)とを加えた前記入力データを生成する入力データ生成部(22)と、
前記入力データを前記学習型ネットワークモデルに入力して前記補正後撮像画像を生成する画像補正部(23)とを備え、
前記学習型ネットワークモデルは、前記教師画像を前記受光素子の位置に対応した画像位置別の前記輝度信号により示し、かつ、直交座標系で配列している前記教師輝度信号のそれぞれに、前記光軸からの距離と、前記始線からの角度とを加えたデータを前記教師データとし、前記入力データと前記教師データとを含む学習データにより学習されている、撮像装置。 - 請求項1または2に記載の撮像装置であって、
前記撮像部は、光軸から離れるほどボケが大きくなる非球面のレンズ(11)を備える、撮像装置。 - 請求項3に記載の撮像装置であって、
前記撮像部は、受光面(12a)が、前記光軸から離れるほど前記レンズ側に近づく湾曲形状になっている受光センサ(12)を備える、撮像装置。 - 請求項3または4に記載の撮像装置であって、
前記レンズはガラス製である、撮像装置。 - 画像のボケが光軸(11a)に対して対称性をもつ撮像画像を、複数の受光素子を備えた受光センサ(12)により撮像し、前記受光素子別の輝度を示す輝度信号を出力する撮像部(10)と、
前記撮像画像に対してボケが改善されている教師画像を複数の前記受光素子に対応した画像位置別の前記輝度信号により示す教師輝度信号と、前記画像位置を示す極座標成分とを含む教師データを生成する教師データ生成部(123、323)と、
前記撮像部が出力した前記輝度信号と、前記輝度信号を検出した前記受光素子の位置を示す極座標成分とを入力データとし、前記入力データと前記教師データ生成部が生成した前記教師データとを含む学習データにより、学習型ネットワークモデルのパラメータを学習するモデル学習部(124、324)とを備え、
前記撮像部は、直交座標の配列で前記輝度信号を出力し、
前記教師データ生成部は、直交座標の配列で前記教師輝度信号を取得し、取得した前記教師輝度信号を極座標の配列に変換し、変換した後の前記教師輝度信号のそれぞれに、前記極座標成分である前記光軸からの距離を加えたデータを前記教師データとして生成する、モデル学習システム。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021113039A JP7677003B2 (ja) | 2021-07-07 | 2021-07-07 | 撮像装置およびモデル学習システム |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021113039A JP7677003B2 (ja) | 2021-07-07 | 2021-07-07 | 撮像装置およびモデル学習システム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2023009613A JP2023009613A (ja) | 2023-01-20 |
| JP7677003B2 true JP7677003B2 (ja) | 2025-05-15 |
Family
ID=85118833
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021113039A Active JP7677003B2 (ja) | 2021-07-07 | 2021-07-07 | 撮像装置およびモデル学習システム |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7677003B2 (ja) |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2018072638A (ja) | 2016-10-31 | 2018-05-10 | 株式会社ニコン | 撮像レンズ、撮像装置および撮像レンズの製造方法 |
| JP2020061129A (ja) | 2018-10-04 | 2020-04-16 | キヤノン株式会社 | 画像処理方法、画像処理装置、撮像装置、画像処理システム、プログラム、および、記憶媒体 |
| JP2020201540A (ja) | 2019-06-06 | 2020-12-17 | キヤノン株式会社 | 画像処理方法、画像処理装置、画像処理システム、学習済みウエイトの製造方法、および、プログラム |
-
2021
- 2021-07-07 JP JP2021113039A patent/JP7677003B2/ja active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2018072638A (ja) | 2016-10-31 | 2018-05-10 | 株式会社ニコン | 撮像レンズ、撮像装置および撮像レンズの製造方法 |
| JP2020061129A (ja) | 2018-10-04 | 2020-04-16 | キヤノン株式会社 | 画像処理方法、画像処理装置、撮像装置、画像処理システム、プログラム、および、記憶媒体 |
| JP2020201540A (ja) | 2019-06-06 | 2020-12-17 | キヤノン株式会社 | 画像処理方法、画像処理装置、画像処理システム、学習済みウエイトの製造方法、および、プログラム |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2023009613A (ja) | 2023-01-20 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6467787B2 (ja) | 画像処理システム、撮像装置、画像処理方法およびプログラム | |
| US9712755B2 (en) | Information processing method, apparatus, and program for correcting light field data | |
| US8379976B2 (en) | Image processing apparatus and method and a computer-readable recording medium on which an image processing program is stored | |
| CN107071234B (zh) | 一种镜头阴影校正方法及装置 | |
| JP2018084982A (ja) | 画像処理装置、情報処理方法及びプログラム | |
| JP6274931B2 (ja) | マルチエリアホワイトバランス制御装置、マルチエリアホワイトバランス制御方法、マルチエリアホワイトバランス制御プログラム、マルチエリアホワイトバランス制御プログラムを記録したコンピュータ、マルチエリアホワイトバランス画像処理装置、マルチエリアホワイトバランス画像処理方法、マルチエリアホワイトバランス画像処理プログラム、マルチエリアホワイトバランス画像処理プログラムを記録したコンピュータ及びマルチエリアホワイトバランス画像処理装置を備えた撮像装置 | |
| JP2008516299A (ja) | 撮像装置及び画像改質処理方法 | |
| JPWO2014125659A1 (ja) | 画像処理装置、撮像装置、フィルタ生成装置、画像復元方法及びプログラム | |
| JP6600936B2 (ja) | 画像処理装置、画像処理方法、画像処理システム、プログラム、及び記録媒体 | |
| CN114820581B (zh) | 轴对称光学成像并行仿真方法及装置 | |
| CN101946519A (zh) | 图像处理装置、成像装置、校正系数计算方法以及图像处理程序 | |
| US20200228709A1 (en) | Method for processing image signal, image signal processor, and image sensor chip | |
| US10778915B2 (en) | Dual-aperture ranging system | |
| TW201839716A (zh) | 環景影像的拼接方法及其系統 | |
| JP4311040B2 (ja) | 色収差補正装置および色収差補正方法、並びに色収差補正プログラム | |
| JP2009219123A (ja) | 色収差を補正する方法 | |
| JP7677003B2 (ja) | 撮像装置およびモデル学習システム | |
| JP7628002B2 (ja) | 歪み画像内の対象物を検出するための方法、システム、およびデバイス | |
| CN112866550B (zh) | 相位差获取方法和装置、电子设备、计算机可读存储介质 | |
| CN117152264A (zh) | 一种基于多个环形编码点标定板的大视场相机标定方法 | |
| JP2019212132A (ja) | 画像処理方法、画像処理装置、撮像装置、プログラム、および、記憶媒体 | |
| JP7415707B2 (ja) | 撮像装置、補正方法、及び、プログラム | |
| TWI497448B (zh) | 影像強化方法及其系統 | |
| JP2016134631A (ja) | 画像処理装置、撮像装置、画像処理方法 | |
| CN115187680B (zh) | 图像处理方法、图像处理系统、终端及可读存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240313 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20241227 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20250121 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20250305 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20250401 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20250414 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7677003 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |