JP2020148483A - 画像処理装置、測距装置、方法及びプログラム - Google Patents
画像処理装置、測距装置、方法及びプログラム Download PDFInfo
- Publication number
- JP2020148483A JP2020148483A JP2019043814A JP2019043814A JP2020148483A JP 2020148483 A JP2020148483 A JP 2020148483A JP 2019043814 A JP2019043814 A JP 2019043814A JP 2019043814 A JP2019043814 A JP 2019043814A JP 2020148483 A JP2020148483 A JP 2020148483A
- Authority
- JP
- Japan
- Prior art keywords
- image
- distance
- statistical model
- subject
- blur
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/571—Depth or shape recovery from multiple images from focus
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/54—Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/55—Optical parts specially adapted for electronic image sensors; Mounting thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/64—Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Measurement Of Optical Distance (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
Abstract
Description
図1は、本実施形態に係る画像処理装置を含む測距システムの構成の一例を示す。図1に示す測距システム1は、画像を撮像し、当該撮像された画像を用いて撮像地点から被写体までの距離を取得(測定)するために使用される。
以下、前述した実施形態及び変形例のような構成を有する測距システム1が適用される応用例について説明する。ここでは、便宜的に、測距システム1が図1に示す撮像装置2に相当する撮像部、画像処理装置3に相当する画像処理部を備える1つの装置(測距装置)として実現されている場合について説明する。以下の図面においては、測距装置1が撮像部2及び画像処理部3を備えるものとして説明する。
Claims (17)
- 光学系の収差の影響を受けた第1画像に生じる、当該第1画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成された統計モデルを格納する格納手段と、
前記光学系の収差の影響を受けた第2画像を取得する画像取得手段と、
前記取得された第2画像を前記統計モデルに入力し、当該第2画像中の被写体までの距離を示す距離情報を取得する距離取得手段と
を具備する画像処理装置。 - 前記第1画像中の被写体までの距離に応じて非線形に変化するぼけは、前記光学系の収差により生じるぼけを含む請求項1記載の画像処理装置。
- 前記第1画像中の被写体までの距離に応じて非線形に変化するぼけは、前記光学系に取り込まれる光の量を調節する絞り機構の開口部の大きさまたは形状に応じて生じるぼけを含む請求項1または2に記載の画像処理装置。
- 前記統計モデルは、前記第1画像中の被写体までの距離に応じて非線形に変化するぼけのみを学習することによって生成される請求項1記載の画像処理装置。
- 前記統計モデルは、前記第1画像のうちの局所領域毎に、当該局所領域中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成される請求項1〜4のいずれか一項に記載の画像処理装置。
- 前記統計モデルは、ニューラルネットワークまたはランダムフォレストである請求項1〜5のいずれか一項に記載の画像処理装置。
- 前記統計モデルは、距離に応じて変化するぼけを前記第2画像から抽出し、当該ぼけに応じた距離を推定し、
前記距離取得手段は、前記推定された距離を示す距離情報を取得する
請求項1〜6のいずれか一項に記載の画像処理装置。 - 前記距離取得手段は、前記取得された第2画像から局所領域を抽出し、当該抽出された局所領域に関する情報を前記統計モデルに入力して、当該局所領域中の被写体までの距離を示す距離情報を取得する請求項5記載の画像処理装置。
- 前記統計モデルに入力される前記局所領域に関する情報は、当該局所領域を構成する各画素と当該画素に隣接する画素との画素値の差分を示す情報である請求項8記載の画像処理装置。
- 前記統計モデルに入力される前記局所領域に関する情報は、前記第2画像における当該局所領域の位置情報を含む請求項8または9に記載の画像処理装置。
- 前記位置情報は、前記第2画像上における前記局所領域の中心点の座標を示す情報である請求項10記載の画像処理装置。
- 前記統計モデルは、前記第2画像を構成する複数の画素の各々について前記被写体までの距離を推定するとともに、当該推定された距離に対する不確実性の度合いを示す不確実度を算出し、
前記距離取得手段は、前記推定された距離を示す距離情報及び前記算出された不確実度を取得する
請求項1〜11のいずれか一項に記載の画像処理装置。 - 前記距離取得手段は、前記取得された距離情報のうち、前記算出された不確実度が閾値以上である距離を示す距離情報を破棄する請求項12記載の画像処理装置。
- 前記距離取得手段は、前記取得された距離情報によって示される第1距離を、当該第1距離が推定された画素の周辺に位置する画素について推定された第2距離を用いて補正し、
前記第1距離に対する不確実度は閾値以上であり、
前記第2距離に対する不確実度は前記閾値未満である
請求項12記載の画像処理装置。 - 画像を撮像する撮像手段と、
前記撮像手段の光学系の収差の影響を受けた第1画像に生じる、当該第1画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成された統計モデルを格納する格納手段と、
前記撮像手段の光学系の収差の影響を受けた第2画像を前記撮像手段から取得する画像取得手段と、
前記取得された第2画像を前記統計モデルに入力し、当該第2画像中の被写体までの距離を示す距離情報を取得する距離取得手段と
を具備する測距装置。 - 光学系の収差の影響を受けた第1画像に生じる、当該第1画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成された統計モデルを格納手段に格納するステップと、
前記光学系の収差の影響を受けた第2画像を取得するステップと、
前記取得された第2画像を前記統計モデルに入力し、当該第2画像中の被写体までの距離を示す距離情報を取得するステップと
を具備する方法。 - 格納手段を有する画像処理装置のコンピュータによって実行されるプログラムであって、
前記コンピュータに、
光学系の収差の影響を受けた第1画像に生じる、当該第1画像中の被写体までの距離にも応じて非線形に変化するぼけを学習することによって生成された統計モデルを前記格納手段に格納するステップと、
前記光学系の収差の影響を受けた第2画像を取得するステップと、
前記取得された第2画像を前記統計モデルに入力し、当該第2画像中の被写体までの距離を示す距離情報を取得するステップと
を実行させるためのプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019043814A JP7051740B2 (ja) | 2019-03-11 | 2019-03-11 | 画像処理装置、測距装置、方法及びプログラム |
US16/543,692 US11030760B2 (en) | 2019-03-11 | 2019-08-19 | Image processing device, ranging device and method |
CN201910782236.8A CN111683193B (zh) | 2019-03-11 | 2019-08-23 | 图像处理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019043814A JP7051740B2 (ja) | 2019-03-11 | 2019-03-11 | 画像処理装置、測距装置、方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020148483A true JP2020148483A (ja) | 2020-09-17 |
JP7051740B2 JP7051740B2 (ja) | 2022-04-11 |
Family
ID=72423899
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019043814A Active JP7051740B2 (ja) | 2019-03-11 | 2019-03-11 | 画像処理装置、測距装置、方法及びプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US11030760B2 (ja) |
JP (1) | JP7051740B2 (ja) |
CN (1) | CN111683193B (ja) |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10951835B1 (en) | 2019-09-12 | 2021-03-16 | Kabushiki Kaisha Toshiba | Imaging device, method, and storage medium |
US11107245B2 (en) | 2019-09-12 | 2021-08-31 | Kabushiki Kaisha Toshiba | Image processing device, ranging device, and method |
WO2022014148A1 (ja) * | 2020-07-17 | 2022-01-20 | キヤノン株式会社 | 画像処理方法、プログラム、画像処理装置、学習済みモデルの製造方法、および、画像処理システム |
JP2022071891A (ja) * | 2020-10-29 | 2022-05-17 | 達之 下川 | 炉内画像作成方法、炉内状況判定方法、及び燃焼状況評価方法 |
US11651504B2 (en) | 2021-03-16 | 2023-05-16 | Kabushiki Kaisha Toshiba | Learning method, storage medium and image processing device |
US11722791B2 (en) | 2021-10-27 | 2023-08-08 | Kabushiki Kaisha Toshiba | Ranging device, image processing device and method |
US11868430B2 (en) | 2021-03-17 | 2024-01-09 | Kabushiki Kaisha Toshiba | Image processing device, method, and storage medium |
JP7446985B2 (ja) | 2020-12-15 | 2024-03-11 | 株式会社東芝 | 学習方法、プログラム及び画像処理装置 |
JP7451465B2 (ja) | 2021-07-29 | 2024-03-18 | 株式会社東芝 | 学習方法、プログラム及び画像処理装置 |
JP7458355B2 (ja) | 2021-09-16 | 2024-03-29 | 株式会社東芝 | 光学装置、及び、推定方法 |
JP7467368B2 (ja) | 2021-02-25 | 2024-04-15 | 株式会社東芝 | 画像処理装置、測距装置、方法及びプログラム |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7204586B2 (ja) * | 2019-06-17 | 2023-01-16 | 株式会社東芝 | 学習方法、プログラム及び画像処理装置 |
US11823353B2 (en) * | 2020-07-28 | 2023-11-21 | Samsung Electronics Co., Ltd. | System and method for generating bokeh image for DSLR quality depth-of-field rendering and refinement and training method for the same |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101545774A (zh) * | 2009-04-30 | 2009-09-30 | 上海交通大学 | 基于单图像的距离测定方法 |
US20100310176A1 (en) * | 2009-06-08 | 2010-12-09 | Huei-Yung Lin | Apparatus and Method for Measuring Depth and Method for Computing Image Defocus and Blur Status |
WO2011158515A1 (ja) * | 2010-06-17 | 2011-12-22 | パナソニック株式会社 | 距離推定装置、距離推定方法、集積回路、コンピュータプログラム |
JP2015096812A (ja) * | 2013-11-15 | 2015-05-21 | キヤノン株式会社 | 画像処理装置、撮像装置および距離補正方法 |
JP2016109489A (ja) * | 2014-12-03 | 2016-06-20 | キヤノン株式会社 | 画像処理装置、画像処理方法、プログラム、及びプログラムを記憶した記憶媒体 |
JP2019016275A (ja) * | 2017-07-10 | 2019-01-31 | キヤノン株式会社 | 画像処理方法、画像処理プログラム、記憶媒体、画像処理装置、および撮像装置 |
Family Cites Families (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8294999B2 (en) * | 2003-01-16 | 2012-10-23 | DigitalOptics Corporation International | Optics for an extended depth of field |
US7612805B2 (en) * | 2006-07-11 | 2009-11-03 | Neal Solomon | Digital imaging system and methods for selective image filtration |
WO2008079301A2 (en) * | 2006-12-21 | 2008-07-03 | Massachusetts Institute Of Technology | Methods and apparatus for 3d surface imaging using active wave-front sampling |
US8514491B2 (en) * | 2009-11-20 | 2013-08-20 | Pelican Imaging Corporation | Capturing and processing of images using monolithic camera array with heterogeneous imagers |
JP5528173B2 (ja) * | 2010-03-31 | 2014-06-25 | キヤノン株式会社 | 画像処理装置、撮像装置および画像処理プログラム |
US8045046B1 (en) * | 2010-04-13 | 2011-10-25 | Sony Corporation | Four-dimensional polynomial model for depth estimation based on two-picture matching |
US20120200673A1 (en) * | 2010-06-15 | 2012-08-09 | Junichi Tagawa | Imaging apparatus and imaging method |
JP2012044564A (ja) * | 2010-08-20 | 2012-03-01 | Sanyo Electric Co Ltd | 撮像装置 |
US8593565B2 (en) * | 2011-03-25 | 2013-11-26 | Gary S. Shuster | Simulated large aperture lens |
JP6335423B2 (ja) * | 2012-08-31 | 2018-05-30 | キヤノン株式会社 | 情報処理装置および情報処理方法 |
AU2012258467A1 (en) * | 2012-12-03 | 2014-06-19 | Canon Kabushiki Kaisha | Bokeh amplification |
US9374514B2 (en) * | 2013-10-18 | 2016-06-21 | The Lightco Inc. | Methods and apparatus relating to a camera including multiple optical chains |
AU2013273830A1 (en) * | 2013-12-23 | 2015-07-09 | Canon Kabushiki Kaisha | Post-processed bokeh rendering using asymmetric recursive Gaussian filters |
US9749532B1 (en) * | 2014-08-12 | 2017-08-29 | Amazon Technologies, Inc. | Pixel readout of a charge coupled device having a variable aperture |
TWI554106B (zh) * | 2014-09-25 | 2016-10-11 | 聚晶半導體股份有限公司 | 產生影像散景效果的方法及影像擷取裝置 |
US9723197B2 (en) * | 2015-03-31 | 2017-08-01 | Sony Corporation | Depth estimation from image defocus using multiple resolution Gaussian difference |
US9625632B2 (en) * | 2015-03-31 | 2017-04-18 | Sony Corporation | Camera, optical system and interchangeable lens with birefringent device |
JP2019015575A (ja) * | 2017-07-05 | 2019-01-31 | 株式会社東芝 | 画像処理装置、測距装置および処理システム |
CN107424195B (zh) * | 2017-07-20 | 2020-03-31 | 清华大学深圳研究生院 | 一种光场距离估计方法 |
US11024046B2 (en) * | 2018-02-07 | 2021-06-01 | Fotonation Limited | Systems and methods for depth estimation using generative models |
JP6971934B2 (ja) | 2018-08-10 | 2021-11-24 | 株式会社東芝 | 画像処理装置 |
CN109146980B (zh) * | 2018-08-12 | 2021-08-10 | 浙江农林大学 | 基于单目视觉的优化的深度提取和被动测距方法 |
KR102597518B1 (ko) * | 2019-02-20 | 2023-11-03 | 삼성전자주식회사 | 영상에 보케 효과를 적용하는 전자 장치 및 그 제어 방법 |
-
2019
- 2019-03-11 JP JP2019043814A patent/JP7051740B2/ja active Active
- 2019-08-19 US US16/543,692 patent/US11030760B2/en active Active
- 2019-08-23 CN CN201910782236.8A patent/CN111683193B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101545774A (zh) * | 2009-04-30 | 2009-09-30 | 上海交通大学 | 基于单图像的距离测定方法 |
US20100310176A1 (en) * | 2009-06-08 | 2010-12-09 | Huei-Yung Lin | Apparatus and Method for Measuring Depth and Method for Computing Image Defocus and Blur Status |
WO2011158515A1 (ja) * | 2010-06-17 | 2011-12-22 | パナソニック株式会社 | 距離推定装置、距離推定方法、集積回路、コンピュータプログラム |
JP2015096812A (ja) * | 2013-11-15 | 2015-05-21 | キヤノン株式会社 | 画像処理装置、撮像装置および距離補正方法 |
JP2016109489A (ja) * | 2014-12-03 | 2016-06-20 | キヤノン株式会社 | 画像処理装置、画像処理方法、プログラム、及びプログラムを記憶した記憶媒体 |
JP2019016275A (ja) * | 2017-07-10 | 2019-01-31 | キヤノン株式会社 | 画像処理方法、画像処理プログラム、記憶媒体、画像処理装置、および撮像装置 |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11107245B2 (en) | 2019-09-12 | 2021-08-31 | Kabushiki Kaisha Toshiba | Image processing device, ranging device, and method |
US10951835B1 (en) | 2019-09-12 | 2021-03-16 | Kabushiki Kaisha Toshiba | Imaging device, method, and storage medium |
WO2022014148A1 (ja) * | 2020-07-17 | 2022-01-20 | キヤノン株式会社 | 画像処理方法、プログラム、画像処理装置、学習済みモデルの製造方法、および、画像処理システム |
JP2022071891A (ja) * | 2020-10-29 | 2022-05-17 | 達之 下川 | 炉内画像作成方法、炉内状況判定方法、及び燃焼状況評価方法 |
JP7446985B2 (ja) | 2020-12-15 | 2024-03-11 | 株式会社東芝 | 学習方法、プログラム及び画像処理装置 |
JP7467368B2 (ja) | 2021-02-25 | 2024-04-15 | 株式会社東芝 | 画像処理装置、測距装置、方法及びプログラム |
US11651504B2 (en) | 2021-03-16 | 2023-05-16 | Kabushiki Kaisha Toshiba | Learning method, storage medium and image processing device |
JP7482070B2 (ja) | 2021-03-16 | 2024-05-13 | 株式会社東芝 | 学習方法、プログラム及び画像処理装置 |
US11868430B2 (en) | 2021-03-17 | 2024-01-09 | Kabushiki Kaisha Toshiba | Image processing device, method, and storage medium |
JP7447042B2 (ja) | 2021-03-17 | 2024-03-11 | 株式会社東芝 | 画像処理装置、方法及びプログラム |
JP7451465B2 (ja) | 2021-07-29 | 2024-03-18 | 株式会社東芝 | 学習方法、プログラム及び画像処理装置 |
JP7458355B2 (ja) | 2021-09-16 | 2024-03-29 | 株式会社東芝 | 光学装置、及び、推定方法 |
US11722791B2 (en) | 2021-10-27 | 2023-08-08 | Kabushiki Kaisha Toshiba | Ranging device, image processing device and method |
Also Published As
Publication number | Publication date |
---|---|
JP7051740B2 (ja) | 2022-04-11 |
CN111683193B (zh) | 2022-06-21 |
US20200294260A1 (en) | 2020-09-17 |
US11030760B2 (en) | 2021-06-08 |
CN111683193A (zh) | 2020-09-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7051740B2 (ja) | 画像処理装置、測距装置、方法及びプログラム | |
JP6878219B2 (ja) | 画像処理装置および測距装置 | |
JP7123884B2 (ja) | 撮像装置、方法及びプログラム | |
JP6971934B2 (ja) | 画像処理装置 | |
JP7170609B2 (ja) | 画像処理装置、測距装置、方法及びプログラム | |
CN109211103B (zh) | 推定系统 | |
JP6971933B2 (ja) | 画像処理装置及び撮像装置 | |
JP2018160228A (ja) | 経路生成装置、経路制御システム、及び経路生成方法 | |
JPWO2020116046A1 (ja) | センサ装置、電子機器、センサシステム及び制御方法 | |
JP7467368B2 (ja) | 画像処理装置、測距装置、方法及びプログラム | |
JP7447042B2 (ja) | 画像処理装置、方法及びプログラム | |
US20230141542A1 (en) | Image processing device, method, and storage medium | |
JP2023065092A (ja) | 測距装置、画像処理装置、方法及びプログラム | |
JP6847891B2 (ja) | 画像処理装置、撮像装置及び方法 | |
JP2022040134A (ja) | 推定システムおよび自動車 | |
CN116503822A (zh) | 图像识别方法、装置及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200907 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210716 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210803 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211001 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220301 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220330 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7051740 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |