JP2023065092A - 測距装置、画像処理装置、方法及びプログラム - Google Patents

測距装置、画像処理装置、方法及びプログラム Download PDF

Info

Publication number
JP2023065092A
JP2023065092A JP2021175694A JP2021175694A JP2023065092A JP 2023065092 A JP2023065092 A JP 2023065092A JP 2021175694 A JP2021175694 A JP 2021175694A JP 2021175694 A JP2021175694 A JP 2021175694A JP 2023065092 A JP2023065092 A JP 2023065092A
Authority
JP
Japan
Prior art keywords
image
focus position
distance
blur
position information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021175694A
Other languages
English (en)
Inventor
正子 柏木
Masako Kashiwagi
直 三島
Sunao Mishima
晃仁 関
Akihito Seki
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2021175694A priority Critical patent/JP2023065092A/ja
Priority to US17/900,918 priority patent/US11722791B2/en
Publication of JP2023065092A publication Critical patent/JP2023065092A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/958Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging
    • H04N23/959Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging by adjusting depth of field during image capture, e.g. maximising or setting range based on scene characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/676Bracketing for image capture at varying focusing conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/671Focus control based on electronic image sensor signals in combination with active ranging signals, e.g. using light or sound signals emitted toward objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Measurement Of Optical Distance (AREA)

Abstract

【課題】画像から測定される距離の精度を向上させることが可能な測距装置、画像処理装置、方法及びプログラムを提供することにある。【解決手段】実施形態に係る測距装置は、格納手段と、第1取得手段と、第2取得手段と、第3取得手段と、第1変換手段とを具備する。格納手段は、第1画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成された統計モデルを格納する。第1取得手段は、撮像部によって撮像された第2画像を取得する。第2取得手段は、第2画像が撮像された際のピント位置に関するピント位置情報を取得する。第3取得手段は、第2画像を統計モデルに入力することによって当該統計モデルから出力される第2画像中の被写体に生じるぼけを示すぼけ値を取得する。第1変換手段は、ピント位置情報に基づいてぼけ値を被写体までの距離に変換する。【選択図】図1

Description

本発明の実施形態は、測距装置、画像処理装置、方法及びプログラムに関する。
一般的に、被写体までの距離を測定(取得)するために、2つの撮像装置(カメラ)やステレオカメラ(複眼のカメラ)で撮像された画像を用いることが知られていたが、近年では、1つの撮像装置(単眼のカメラ)で撮像された画像を用いて被写体までの距離を測定する技術が開示されている。
しかしながら、1つの撮像装置で撮像された画像から被写体までの距離(被写体と撮像装置との間の実距離)を測定する場合には、当該距離の精度が低い場合がある。
特開2021-043115号公報
そこで、本発明が解決しようとする課題は、画像を用いて測定される距離の精度を向上させることが可能な測距装置、画像処理装置、方法及びプログラムを提供することにある。
実施形態によれば、撮像部を備える測距装置が提供される。前記測距装置は、格納手段と、第1取得手段と、第2取得手段と、第3取得手段と、第1変換手段とを具備する。前記格納手段は、前記撮像部の光学系の収差の影響を受けた第1画像に生じる、当該第1画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成された統計モデルを格納する。前記第1取得手段は、前記撮像部によって撮像された第2画像であって、当該撮像部の光学系の収差の影響を受けた第2画像を取得する。前記第2取得手段は、前記第2画像が撮像された際のピント位置に関するピント位置情報を取得する。前記第3取得手段は、前記取得された第2画像を前記統計モデルに入力することによって当該統計モデルから出力される当該第2画像中の被写体に生じるぼけを示すぼけ値を取得する。前記第1変換手段は、前記取得されたピント位置情報に基づいて、前記取得されたぼけ値を前記被写体までの距離に変換する。
実施形態に係る測距装置の構成の一例を示す図。 測距装置のシステム構成の一例を示す図。 測距装置の動作の概要について説明するための図。 単レンズを用いた場合における被写体までの距離と色収差により画像に生じるぼけとの関係性を示す図。 色消しレンズを用いた場合における被写体までの距離と色収差により画像に生じるぼけとの関係性を示す図。 撮像部の光学系に備えられている絞り機構の開口部の大きさとPSF形状との関係性を示す図。 各チャンネルの画像に生じるPSF形状の一例を示す図。 各チャンネルの画像に生じるPSF形状の別の例を示す図。 画像中の各位置に生じるPSF形状の一例を示す図。 レンズの種別に応じたPSF形状の位置依存性について具体的に説明するための図。 PSF形状の非線形性と絞り機構の開口部の形状との関係を表す図。 画像からぼけを推定する第1方式を説明するための図。 第1方式において統計モデルに入力される情報の一例を示す図。 画像からぼけを推定する第2方式を説明するための図。 第2方式において統計モデルに入力される情報の一例を示す図。 画像からぼけを推定する第3方式を説明するための図。 画像に生じるぼけと当該画像中の被写体までの距離との相関について具体的に説明するための図。 統計モデルの学習処理の一例を示す図。 統計モデルの学習処理の処理手順の一例を示すフローチャート。 被写体までの距離を測定する際の測距装置の処理手順の一例を示すシーケンスチャート。 ピント位置情報について説明するための図。 ピント位置情報と実ピント距離との対応関係を示す図。 測距装置の構成の他の例を示す図。 測距装置が組み込まれている移動体の機能構成の一例を示す図。 移動体が自動車である場合について説明するための図。 移動体がドローンである場合について説明するための図。 移動体が自立型の移動ロボットである場合について説明するための図。 移動体がロボットアームである場合について説明するための図。
以下、図面を参照して、実施形態について説明する。
図1は、本実施形態に係る測距装置の構成の一例を示す。図1に示す測距装置1は、画像を撮像し、当該撮像された画像を用いて撮像地点から被写体までの距離を測定(取得)するために用いられる。
図1に示すように、測距装置1は、撮像部2及び画像処理部3を備える。本実施形態においては、測距装置1が撮像部2及び画像処理部3を備える1つの装置として実現されるものとして説明するが、測距装置1は、例えば撮像部2及び画像処理部3がそれぞれ別個の装置である撮像装置及び画像処理装置として実現された測距システム(画像処理システム)であってもよい。撮像部2及び画像処理部3を備える測距装置1の場合には、例えばデジタルカメラ、スマートフォン及びタブレットコンピュータ等を当該測距装置1として用いることができる。一方、撮像部2及び画像処理部3が別個の装置である撮像装置及び画像処理装置として実現されている測距システムの場合には、例えばデジタルカメラ等を撮像装置として用い、パーソナルコンピュータ、スマートフォンまたはタブレットコンピュータ等を画像処理装置として用いることができる。この場合、画像処理装置は、例えばクラウドコンピューティングサービスを実行するサーバ装置として動作するものであってもよい。
撮像部2は、測距装置1に組み込まれたカメラ(撮像装置)によって実現され、レンズ21とイメージセンサ22とを備える。レンズ21及びイメージセンサ22は、撮像部2の光学系(単眼カメラ)に相当する。
本実施形態において、レンズ21は、当該レンズ21の位置を調整することによりピント位置を制御するための信号処理部(信号処理回路)及びレンズ駆動部(レンズ駆動回路)等と、撮像部2の光学系に取り込まれる光の量(入射光)を調節するための開口部を有する絞り機構及び絞り制御回路等と、当該レンズ21に関する情報(以下、レンズ情報と表記)を保持するメモリが搭載される制御回路等とともにレンズユニットを構成する。
また、本実施形態において、レンズ21(レンズユニット)は、手動で他のレンズに交換可能であってもよい。この場合、測距装置1を使用するユーザは、例えば標準レンズ、望遠レンズ及び広角レンズ等の複数の種別のレンズのうちの1つを測距装置1に装着して用いることができる。なお、レンズを交換した場合には、焦点距離やF値(絞り値)が変わり、測距装置1において用いられるレンズに応じた画像を撮像することができる。
本実施形態において、焦点距離とは、レンズから、当該レンズに対して平行に光が入射したときに当該光が収束する位置までの距離をいう。また、F値とは、絞り機構に応じて撮像部2(イメージセンサ22)に取り込まれる光の量を数値化したものである。なお、F値は、値が小さくなるについて、撮像部2に取り込まれる光の量が多くなる(つまり、開口部の大きさが大きくなる)ことを示す。
レンズ21には、被写体で反射した光が入射する。レンズ21に入射した光は、レンズ21を透過する。レンズ21を透過した光は、イメージセンサ22に到達し、当該イメージセンサ22によって受光(検出)される。イメージセンサ22は、受光した光を電気信号に変換(光電変換)することによって、複数の画素から構成される画像を生成する。
なお、イメージセンサ22は、例えばCCD(Change Coupled Device)イメージセンサ及びCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等により実現される。イメージセンサ22は、例えば赤色(R)の波長帯域の光を検出する第1センサ(Rセンサ)221、緑色(G)の波長帯域の光を検出する第2センサ(Gセンサ)222及び青色(B)の波長帯域の光を検出する第3センサ(Bセンサ)223を含む。イメージセンサ22は、第1~第3センサ221~223により対応する波長帯域の光を受光して、各波長帯域(色成分)に対応するセンサ画像(R画像、G画像及びB画像)を生成することができる。すなわち、撮像部2によって撮像される画像はカラー画像(RGB画像)であり、当該画像にはR画像、G画像及びB画像が含まれる。
なお、本実施形態においてはイメージセンサ22が第1~第3センサ221~223を含むものとして説明するが、イメージセンサ22は、第1~第3センサ221~223のうちの少なくとも1つを含むように構成されていればよい。また、イメージセンサ22は、第1~第3センサ221~223に代えて、例えばモノクロ画像を生成するためのセンサを含むように構成されていてもよい。
本実施形態においてレンズ21を透過した光に基づいて生成された画像は、撮像部2の光学系(レンズ21)の収差の影響を受けた画像であり、当該収差により生じるぼけを含む。なお、画像に生じるぼけの詳細については後述する。
図1に示すように、撮像部2は、第1画像取得部23及び第1ピント位置情報取得部24を更に含む。
第1画像取得部23は、撮像部2(カメラ)によって撮像された画像を取得する。第1画像取得部23によって取得された画像は、撮像部2から画像処理部3に送信される。
第1ピント位置情報取得部24は、撮像部2によって画像が撮像された際のピント位置(当該画像においてピントが合っている位置)に関する情報(以下、ピント位置情報と表記)を取得する。第1ピント位置情報取得部24によって取得されたピント位置情報は、上記した第1画像取得部23によって取得された画像に付加されて撮像部2から画像処理部3に送信される。
画像処理部3は、撮像部2と接続されており、格納部31、第2画像取得部32、第2ピント位置情報取得部33、ぼけ値取得部34、実距離変換部35及び出力部36を含む。
格納部31には、被写体までの距離を撮像部2によって撮像された画像から測定するために用いられる統計モデルが格納されている。格納部31に格納されている統計モデルは、上記した撮像部2の光学系の収差の影響を受けた画像に生じる、当該画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成されている。
なお、統計モデルは、例えばニューラルネットワークまたはランダムフォレスト等の既知の様々な機械学習のアルゴリズムを適用して生成することができるものとする。また、本実施形態において適用可能なニューラルネットワークには、例えば畳み込みニューラルネットワーク(CNN:Convolutional Neural Network)、全結合ニューラルネットワーク及び再帰型ニューラルネットワーク等が含まれていてもよい。
第2画像取得部32は、上記した撮像部2から送信された画像を取得する。第2ピント位置情報取得部33は、第2画像取得部32によって取得された画像(つまり、撮像部2から送信された画像)に付加されているピント位置情報を取得する。
ぼけ値取得部34は、第2画像取得部32によって取得された画像を格納部31に格納されている統計モデルに入力することによって当該統計モデルから出力される当該画像中の被写体に生じるぼけを示すぼけ値を取得する。
実距離変換部35は、第2ピント位置情報取得部33によって取得されたピント位置情報に基づいて、ぼけ値取得部34によって取得されたぼけ値を第2画像取得部32によって取得された画像中の被写体までの距離(つまり、測距装置1から被写体までの実距離)に変換する。
出力部36は、実距離変換部35によってぼけ値から変換された被写体までの距離(を示す距離情報)を出力する。
図2は、測距装置1のシステム構成の一例を示す。測距装置1は、CPU101、不揮発性メモリ102、RAM103及び通信デバイス104を備える。また、測距装置1は、CPU101、不揮発性メモリ102、RAM103及び通信デバイス104を相互に接続するバス105を有する。
なお、本実施形態に係る測距装置1には上記した図1において説明したレンズ21及びイメージセンサ22を備えるカメラが組み込まれている場合を想定しているが、図2においては、当該カメラは省略されている。
CPU101は、測距装置1内の様々なコンポーネントの動作を制御するためのプロセッサである。CPU101は、単一のプロセッサであってもよいし、複数のプロセッサで構成されていてもよい。ここではコンポーネントの動作を制御するプロセッサとしてCPU(Central Processing Unit)を用いて説明するが、当該プロセッサは、GPU(Graphics Processing Unit)であってもよい。CPU101は、不揮発性メモリ102からRAM103にロードされる様々なプログラムを実行する。これらプログラムは、オペレーティングシステム(OS)や例えば測距プログラム103Aを含む様々なアプリケーションプログラムを含む。
不揮発性メモリ102は、補助記憶装置として用いられる記憶媒体である。RAM103は、主記憶装置として用いられる記憶媒体である。図2においては不揮発性メモリ102及びRAM103のみが示されているが、測距装置1は、例えばHDD(Hard Disk Drive)及びSSD(Solid State Drive)等の他の記憶装置を備えていてもよい。
なお、本実施形態において、図1に示す格納部31は、例えば不揮発性メモリ102または他の記憶装置等によって実現される。
また、本実施形態において、図1に示す第1画像取得部23、第1ピント位置情報取得部24、第2画像取得部32、第2ピント位置情報取得部33、ぼけ値取得部34、実距離変換部35及び出力部36の一部または全ては、CPU101(つまり、測距装置1のコンピュータ)に測距プログラム103Aを実行させること、すなわち、ソフトウェアによって実現されるものとする。この測距プログラム103Aは、コンピュータ読み取り可能な記憶媒体に格納して頒布されてもよいし、ネットワークを通じて測距装置1にダウンロードされてもよい。なお、これらの各部23、24及び32~36の一部または全ては、IC(Integrated Circuit)等のハードウェアによって実現されてもよいし、ソフトウェア及びハードウェアの組み合わせによって実現されてもよい。
ここでは測距装置1に含まれる各部23、24及び32~36が単一のプログラム(測距プログラム103A)によって実現されるものとして説明したが、例えば撮像部2に含まれる第1画像取得部23及び第1ピント位置情報取得部24と画像処理部3に含まれる第2画像取得部32、第2ピント位置情報取得部33、ぼけ値取得部34、実距離変換部35及び出力部36とは、異なるプログラム(ソフトウェア)によって実現されても構わない。
通信デバイス104は、有線通信または無線通信を実行するように構成されたデバイスである。
図2においては省略されているが、測距装置1は、入力デバイス及び表示デバイス等の他のデバイスを更に備えていてもよい。
次に、図3を参照して、本実施形態における測距装置1の動作の概要について説明する。測距装置1において、撮像部2(イメージセンサ22)は、上記したように当該撮像部2の光学系(レンズ21)の収差の影響を受けた画像を撮像する。
画像処理部3(第2画像取得部32)は、撮像部2によって撮像された画像を取得し、当該画像を格納部31に格納されている統計モデルに入力する。
ここで、本実施形態における統計モデルは上記したように画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成されているところ、当該統計モデルに画像が入力された場合には、当該画像中の被写体までの距離に応じて当該画像に生じるぼけを示すぼけ値(ぼけ情報)が当該統計モデルから出力される。後述するように画像中の被写体までの距離と当該距離に応じて画像に生じるぼけの色、サイズ及び形状とは相関があり、画像処理部3(実距離変換部35)は、統計モデルから出力されたぼけ値を距離に変換することによって、当該被写体までの距離を取得することができる。
このように本実施形態においては、統計モデルを用いて、撮像部2によって撮像された画像から被写体までの距離(距離情報)を測定することができる。
ここで、本実施形態において撮像部2によって撮像された画像には、上記したように当該撮像部2の光学系の収差(レンズ収差)に起因するぼけが生じている。以下、撮像部2によって撮像された画像に生じるぼけについて説明する。まず、撮像部2の光学系の収差に起因するぼけのうち、色収差について説明する。
図4は、被写体までの距離と色収差により画像に生じるぼけとの関係性について示している。
収差のあるレンズ21を透過する際の光の屈折率は波長帯域毎に異なるため、例えば被写体の位置がピント位置からずれているような場合には、各波長帯域の光が1点に集まらず異なった点に到達する。これが画像上で色収差(ぼけ)として現れる。
図4の上段は、測距装置1(イメージセンサ22)に対する被写体の位置がピント位置よりも遠い(つまり、被写体の位置がピント位置よりも奥にある)場合を示している。
この場合、赤色の波長帯域の光401に関しては、イメージセンサ22(第1センサ221)において比較的小さいぼけbを含む画像が生成される。一方、青色の波長帯域の光402に関しては、イメージセンサ22(第3センサ223)において比較的大きいぼけbを含む画像が生成される。なお、緑色の波長帯域の光403に関しては、ぼけbとぼけbとの中間の大きさのぼけを含む画像が生成される。したがって、このような被写体の位置がピント位置よりも遠い状態で撮像された画像においては、当該画像中の被写体の外側に青色のぼけが確認される。
一方、図4の下段は、測距装置1(イメージセンサ22)に対する被写体の位置がピント位置よりも近い(つまり、被写体の位置がピント位置よりも手前にある)場合を示している。
この場合、赤色の波長帯域の光401に関しては、イメージセンサ22(第1センサ221)において比較的大きいぼけbを含む画像が生成される。一方、青色の波長帯域の光402に関しては、イメージセンサ22(第3センサ223)において比較的小さいぼけbを含む画像が生成される。なお、緑色の波長帯域の光403に関しては、ぼけbとぼけbとの中間の大きさのぼけを含む画像が生成される。したがって、このような被写体の位置がピント位置よりも近い状態で撮像された画像においては、当該画像中の被写体の外側に赤色のぼけが観察される。
ここで、図4はレンズ21が単純な単レンズである例を示しているが、当該レンズ21として、例えば色収差補正が施されたレンズ(以下、色消しレンズと表記)が用いられる場合がある。なお、色消しレンズとは、低分散の凸レンズと高分散の凹レンズとを組み合わせたレンズであり、色収差を補正するレンズとして最もレンズ枚数が少ないレンズである。
図5は、レンズ21として上記した色消しレンズを用いた場合における被写体までの距離と色収差により画像に生じるぼけとの関係性を示している。色消しレンズにおいては青色の波長と赤色の波長の焦点位置を揃える設計がされているが、色収差は完全に除去することができない。このため、被写体の位置がピント位置よりも遠い場合には図5の上段に示すように緑色のぼけが発生し、被写体の位置がピント位置よりも近い場合には図5の下段に示すように紫色のぼけが発生する。
なお、図4及び図5の中段は、測距装置1(イメージセンサ22)に対する被写体の位置とピント位置とが一致している場合を示している。この場合には、イメージセンサ22(第1~第3センサ221~223)においてぼけの少ない画像が生成される。
ここで、撮像部2の光学系(レンズユニット)には上記したように絞り機構が備えられているが、当該撮像部2によって撮像された画像に生じるぼけの形状は、当該絞り機構の開口部の大きさによっても異なる。なお、ぼけの形状は、PSF(Point Spread Function)形状と称され、点光源が撮像されたときに生じる光の拡散分布を示している。
図6の上段は、焦点距離が50mmのレンズを用いた撮像部2(の光学系)においてピント位置を1500mm、F値(絞り)をF1.8とした場合に当該撮像部2によって撮像された画像の中央部に生じるPSF形状を、被写体の位置が測距装置1から近い順に左から示している。図6の下段は、焦点距離が50mmのレンズを用いた撮像部2(の光学系)においてピント位置を1500mm、F値(絞り)をF4とした場合に当該撮像部2によって撮像された画像の中央部に生じるPSF形状を、被写体の位置が測距装置1から近い順に左から示している。なお、図6の上段及び下段の中央は、被写体の位置がピント位置と一致している場合のPSF形状を示している。
図6の上段及び下段の対応する位置に示されているPSF形状は測距装置1に対する被写体の位置が同一である場合のPSF形状であるが、当該被写体の位置が同一である場合であっても、上段のPSF形状(F値をF1.8として撮像した画像に生じるPSF形状)と下段のPSF形状(F値をF4として撮像した画像に生じるPSF形状)とでは形状が異なっている。
更に、図6の最も左側のPSF形状と最も右側のPSF形状に示すように、例えば被写体の位置からピント位置までの距離が同程度である場合であっても、当該被写体の位置がピント位置よりも近い場合と当該被写体の位置がピント位置よりも遠い場合とで、PSF形状が異なっている。
なお、上記したように絞り機構の開口部の大きさや測距装置1に対する被写体の位置に応じてPSF形状が異なる現象は、各チャンネル(RGB画像、R画像、G画像及びB画像)においても同様に生じる。図7は、焦点距離が50mmのレンズを用いた撮像部2においてピント位置を1500mm、F値をF1.8とした場合に当該撮像部2によって撮像された各チャンネルの画像に生じるPSF形状を、被写体の位置がピント位置よりも近い(手前にある)場合と被写体の位置がピント位置よりも遠い(奥にある)場合とに分けて示している。図8は、焦点距離が50mmのレンズを用いた撮像部2においてピント位置を1500mm、F値をF4とした場合に当該撮像部2によって撮像された各チャンネルの画像に生じるPSF形状を、被写体の位置がピント位置よりも近い場合と被写体の位置がピント位置よりも遠い場合とに分けて示している。
更に、撮像部2によって撮像された画像に生じるPSF形状は、当該画像中の位置によっても異なる。
図9の上段は、焦点距離が50mmのレンズを用いた撮像部2においてピント位置を1500mm、F値をF1.8とした場合に当該撮像部2によって撮像された画像中の各位置に生じるPSF形状を、被写体の位置がピント位置よりも近い場合と被写体の位置がピント位置よりも遠い場合とに分けて示している。
図9の中段は、焦点距離が50mmのレンズを用いた撮像部2においてピント位置を1500mm、F値をF4とした場合に当該撮像部2によって撮像された画像中の各位置に生じるPSF形状を、被写体の位置がピント位置よりも近い場合と被写体の位置がピント位置よりも遠い場合とに分けて示している。
図9の上段及び中段に示すように、撮像部2によって撮像された画像の端部近傍(特に、左上等の角部近傍)においては、例えば画像中央付近に位置するPSF形状とは異なるPSF形状を観察することができる。
また、図9の下段は、焦点距離が105mmのレンズを用いた撮像部2においてピント位置を1500mm、F値をF4とした場合に当該撮像部2によって撮像された画像中の各位置に生じるPSF形状を、被写体の位置がピント位置よりも近い場合と被写体の位置がピント位置よりも遠い場合とに分けて示している。
上記した図9の上段及び中段は同一のレンズを用いて撮像された画像に生じるPSF形状を示しているが、図9の下段に示すように、焦点距離が異なるレンズを用いた場合には当該レンズに応じた異なるPSF形状(図9の上段及び中段とは異なるPSF形状)が観察される。
次に、図10を参照して、上記した撮像部2の光学系に用いるレンズの種別に応じたPSF形状(レンズの収差)の位置依存性について具体的に説明する。図10は、焦点距離が異なる複数のレンズの各々を用いて撮像された画像の中央付近(画面中央)及び端部付近(画面端)に生じるPSF形状を、被写体の位置がピント位置よりも近い場合と被写体の位置がピント位置よりも遠い場合とに分けて示している。
図10に示すように、画像の中央付近に生じるPSF形状は、レンズの種別が異なる場合であっても概ね円形で同一であるが、画像の端部付近に生じるPSF形状は、画像の中央付近に生じるPSF形状と異なる形状を有し、かつ、レンズの種別に応じてそれぞれ特性(特徴)が異なる。なお、上記した図5において説明した被写体の位置がピント位置よりも近い場合にはPSF形状のふち付近に紫色のぼけが発生し、被写体の位置がピント位置よりも遠い場合にはPSF形状のふち付近に緑色のぼけが発生する点については、レンズの種別が異なる場合であっても共通している。
また、図10においては、焦点距離が50mmのレンズに関しては2つの例(#1及び#2)が示されているが、これは、焦点距離が50mmで同一であるが、レンズの製造元が異なる(つまり、異なる製品である)ことを示している。焦点距離が85mmのレンズについても同様である。
上記したように本実施形態における被写体までの距離に応じて非線形に変化するぼけには、上記した図4及び図5において説明した撮像部2の光学系の色収差により生じるぼけ、図6~図8において説明した撮像部2の光学系に取り込まれる光の量を調節する絞り機構の開口部の大きさ(つまり、F値)に応じて生じるぼけ、図9及び図10において説明した撮像部2によって撮像された画像中の位置に応じて変化するぼけ等が含まれる。
なお、PSF形状は、絞り機構の開口部の形状によっても異なる。ここで、図11は、PSF形状の非線形性(非対称性)と絞り機構の開口部の形状との関係を表している。上記したPSF形状の非線形性は、絞り機構の開口部の形状が円以外の場合に生じやすい。特に、PSF形状の非線形性は、開口部の形状が奇数角形、或いはイメージセンサ22の水平または垂直軸に対して非対称に配置された偶数角形の場合により生じやすい。
本実施形態に係る測距装置1においては、上記した画像に生じるぼけ(色、サイズ及び形状)が被写体までの距離に関する物理的な手掛かりとなる点に着目して生成された統計モデルを用いて当該画像に生じるぼけを示すぼけ値が推定(予測)される。なお、本実施形態において統計モデルによって推定される(つまり、当該統計モデルから出力される)ぼけ値とは、画像に生じるぼけの色、サイズ及び形状を含むぼけ量を表すスカラー量である。
以下、本実施形態において統計モデルによって画像からぼけ(を示すぼけ値)を推定する方式の一例について説明する。ここでは、第1~第3方式について説明する。
まず、図12を参照して、第1方式について説明する。第1方式においては、画像501から局所領域(画像パッチ)501aが抽出される。
この場合、例えば画像501の全領域をマトリクス状に分割し、当該分割後の部分領域を局所領域501aとして順次抽出するようにしてもよいし、画像501を認識して、被写体(像)が検出された領域を網羅するように局所領域501aを抽出するようにしてもよい。また、局所領域501aは、他の局所領域501aとの間で一部がオーバーラップしていてもよい。
次に、抽出された局所領域501a毎に、当該局所領域501aに関する情報(画像501の情報)が統計モデルに入力されることによって、当該局所領域501a中の被写体までの距離に応じて生じるぼけを示すぼけ値が推定される。
このように局所領域501aに関する情報が入力された統計モデルは、当該局所領域501aを構成する画素毎にぼけ値502を推定する。
ここで、例えば特定の画素が第1局所領域501a及び第2局所領域501aの両方に属する(つまり、第1局所領域501a及び第2局所領域501aとの間で当該画素を含む領域がオーバーラップしている)場合、当該画素が第1局所領域501aに属するものとして推定されたぼけ値と、当該画素が第2局所領域501aに属するものとして推定されたぼけ値とでは異なる場合がある。
このため、例えば上記したように一部がオーバーラップする複数の局所領域501aが抽出されている場合、当該複数の局所領域501aがオーバーラップしている領域を構成する画素のぼけ値は、例えば当該オーバーラップしている一方の局所領域501aの一部の領域(画素)について推定されたぼけ値と他方の局所領域501aの一部の領域(画素)について推定されたぼけ値との平均値としてもよい。また、一部がオーバーラップする3以上の局所領域501aの一部の領域毎に推定されたぼけ値による多数決で決定されてもよい。
図13は、上記した第1方式において統計モデルに入力される局所領域501aに関する情報の一例を示す。
図13に示すように、統計モデルには、画像501から抽出された局所領域501aの勾配データが入力される。局所領域501aの勾配データは、画像501に含まれるR画像、G画像及びB画像の各々から生成され、R画像の勾配データ、G画像の勾配データ及びB画像の勾配データを含む。
なお、勾配データは、各画素と当該画素に隣接する画素との画素値の差分(差分値)を示す。例えば、局所領域501aがn画素(X軸方向)×m画素(Y軸方向)の矩形領域として抽出される場合、当該局所領域501a内の各画素について算出した例えば右隣の画素との差分値をn行×m列のマトリクス状に配置した勾配データが生成される。
統計モデルは、R画像の勾配データと、G画像の勾配データと、B画像の勾配データとを用いて、当該各画像に生じているぼけを示すぼけ値を推定する。図13においてはR画像、G画像及びB画像の各々の勾配データが統計モデルに入力される場合について示しているが、画像501(RGB画像)の勾配データが統計モデルに入力される構成であってもよい。
次に、図14を参照して、第2方式について説明する。第2方式においては、第1方式における局所領域501aに関する情報として、当該局所領域(画像パッチ)501a毎の勾配データ及び画像501における当該局所領域501aの位置情報が統計モデルに入力される。
位置情報501bは、例えば局所領域501aの中心点を示すものであってもよいし、左上辺等の予め定められた一辺を示すものであってもよい。また、位置情報501bとして、局所領域501aを構成する画素それぞれの画像501上での位置を用いてもよい。
上記したように位置情報501bを更に統計モデルに入力することで、例えばレンズ21の中心部を透過する光によって結像された被写体像のぼけと、当該レンズ21の端部を透過する光によって結像された被写体像のぼけとの間の差異を考慮したぼけ値502を推定することができる。
つまり、この第2方式によれば、画像上の位置との相関に基づいて画像501からぼけ値を推定することができる。
図15は、上記した第2方式において統計モデルに入力される局所領域501aに関する情報の一例を示す。
例えばn画素(X軸方向)×m画素(Y軸方向)の矩形領域が局所領域501aとして抽出される場合、当該局所領域501aの例えば中心点に対応する画像501上のX座標値(X座標データ)と、当該局所領域501aの例えば中心点に対応する画像501上のY座標値(Y座標データ)とが取得される。
第2方式においては、このように取得されたX座標データ及びY座標データが、上記したR画像、G画像及びB画像の勾配データとともに、統計モデルに入力される。
更に、図16を参照して、第3方式について説明する。第3方式においては、上記した第1方式及び第2方式のような画像501からの局所領域501aの抽出は行われない。第3方式においては、例えば画像501の全領域に関する情報(R画像、G画像及びB画像の勾配データ)が統計モデルに入力される。
局所領域501a毎にぼけ値502を推定する第1方式及び第2方式と比較して、第3方式は、統計モデルによる推定の不確実性が高くなる可能性があるが、当該推定にかかる処理の負荷を軽減することができる。
以下の説明においては、上記した第1~第3方式において統計モデルに入力される情報を、便宜的に、画像に関する情報と称する。
ここでは画素毎にぼけ値が推定されるものとして説明したが、当該ぼけ値は、少なくとも1つの画素を含む所定の領域毎に推定されても構わない。
以下、図17を参照して、本実施形態における画像に生じるぼけと当該画像中の被写体までの距離との相関について具体的に説明する。
図17においては、被写体がピント位置よりも近い(手前にある)場合に生じるぼけのサイズをX軸上においてマイナスの値で示し、被写体がピント位置よりも遠い(奥にある)場合に生じるぼけのサイズをX軸上においてプラスの値で示している。つまり、上記したように被写体の位置がピント位置よりも近い場合と被写体の位置がピント位置よりも遠い場合とで当該被写体に生じるぼけにおいて観察される色が異なることを鑑みると、図17においては、ぼけの色及びサイズが正負の値で示されているといえる。
また、図17においては、被写体の位置がピント位置よりも近い場合及び被写体の位置がピント位置よりも遠い場合のいずれの場合においても、被写体がピント位置から離れるほど、ぼけのサイズ(ピクセル)の絶対値が大きくなることが示されている。
図17に示す例では、画像を撮像した撮像部2の光学系におけるピント位置が約1500mmである場合を想定している。この場合、例えば約-4.8ピクセルのぼけは光学系から約1000mmの距離に対応し、0ピクセルのぼけは光学系から1500mmの距離に対応し、約4.8ピクセルのぼけは光学系から約750mmの距離に対応する。
ここでは、便宜的に、ぼけの色及びサイズ(ピクセル)をX軸上に示す場合について説明したが、上記した図6~図10において説明したように、画像に生じるぼけの形状(PSF形状)についても、被写体がピント位置よりも近い場合と当該被写体がピント位置よりも遠い場合とで異なるし、画像中の位置によっても異なる。このため、図17においてX軸上に示す値(つまり、ぼけ値)は、実際には当該ぼけの形状(PSF形状)を反映した値である。
上記した被写体までの距離とぼけの色、サイズ及び形状とは例えば図17の線分d1によって示されるような相関があるため、距離を推定することと、ぼけの色、サイズ及び形状(を示すぼけ値)を推定することとは同義である。
なお、例えば統計モデルに直接的に距離を推定させる構成も考えられるが、統計モデルにぼけ値を推定させる構成の方が、光学系におけるピント位置(合焦距離)を変更したような場合であっても同一の統計モデルを用いることが可能であり、汎用性が高いといえる。
本実施形態においては、上記した統計モデルを用いることによって画像から当該画像中の被写体までの距離に応じて当該画像に生じるぼけを示すぼけ値を取得(推定)することができるが、当該統計モデルは、上記したように撮像部2の光学系の収差の影響を受けた画像に生じるぼけ(当該画像中の被写体までの距離に応じて非線形に変化するぼけ)を学習する処理(以下、学習処理と表記)を実行することによって生成される。
以下、統計モデルを生成するために実行される学習処理(以下、統計モデルの学習処理と表記)の概要について説明する。
図18は、本実施形態における統計モデルの学習処理(学習方法)の一例を示す。統計モデルの学習処理は、当該統計モデルを学習させるために用意された画像(以下、学習用画像と表記)を用いて実行される。学習用画像は、例えば撮像部2によって撮像された画像であればよいが、当該撮像部2の光学系と同様の光学系を有する他の撮像装置(カメラ等)によって撮像された画像であってもよい。
上記した図12を参照して説明した第1方式、図14を参照して説明した第2方式、図16を参照して説明した第3方式のいずれの方式を用いる場合においても、統計モデルの学習処理は、基本的に、学習用画像601(に関する情報)を統計モデルに入力し、当該統計モデルによって推定されたぼけ値602と正解値603との誤差を当該統計モデルにフィードバックすることによって行われる。なお、フィードバックとは、誤差が減少するように統計モデルのパラメータ(例えば、重み係数)を更新することをいう。
上記した画像からぼけ値を推定する方式として第1方式が適用される場合には、統計モデルの学習処理時においても、学習用画像601から抽出された局所領域(画像パッチ)毎に、当該局所領域に関する情報(勾配データ)が統計モデルに入力され、当該統計モデルによって各局所領域内の各画素のぼけ値602が推定される。このように推定されたぼけ値602と正解値603とが比較されることによって得られる誤差が、当該統計モデルにフィードバックされる。
同様に、画像からぼけ値を推定する方式として第2方式が適用される場合には、統計モデルの学習処理時においても、学習用画像601から抽出された局所領域(画像パッチ)毎に、当該局所領域に関する情報として勾配データ及び位置情報が統計モデルに入力され、当該統計モデルによって各局所領域内の各画素のぼけ値602が推定される。このように推定されたぼけ値602と正解値603とが比較されることによって得られる誤差が、統計モデルにフィードバックされる。
また、画像から距離を推定する方式として第3方式が適用される場合には、統計モデルの学習処理時においても、学習用画像601の全領域に関する情報(勾配データ)が一括して統計モデルに入力され、当該統計モデルによって当該学習用画像601内の各画素のぼけ値602が推定される。このように推定されたぼけ値602と正解値603とが比較されることによって得られる誤差が、統計モデルにフィードバックされる。
上記した統計モデルの学習処理によれば、ぼけ値602と正解値603との誤差が減少するように統計モデルのパラメータが更新され、当該統計モデルは学習用画像601に生じているぼけを学習することができる。
なお、本実施形態における統計モデルは、例えばピント位置を固定した状態で撮像部2から被写体までの距離を変化させながら撮像された学習用画像を用いた学習処理が繰り返し実行されることによって生成される。また、1つのピント位置についての学習処理が完了した場合には、他のピント位置についても同様に学習処理を実行することによって、より精度の高い統計モデルを生成することができる。
また、本実施形態における統計モデルの学習処理において用いられる正解値は、上記したように学習用画像が撮像された際の被写体までの実際の距離から変換されたぼけ値(つまり、当該実際の距離に対応するぼけの色、サイズ及び形状を示すぼけ値)であるものとする。
次に、図19のフローチャートを参照して、統計モデルの学習処理の処理手順の一例について説明する。なお、図19に示す処理は、例えば測距装置1(画像処理部3)において実行されてもよいし、他の装置等において実行されてもよい。
まず、予め用意された学習用画像(に関する情報)が統計モデルに入力される(ステップS1)。この学習用画像は、例えば撮像部2に備えられるレンズ21を透過した光に基づいてイメージセンサ22によって生成された画像であって、撮像部2の光学系(レンズ21)の収差の影響を受けた画像である。具体的には、学習用画像には、図4~図10において説明した被写体までの距離に応じて非線形に変化するぼけが生じている。
なお、統計モデルの学習処理においては、測距装置1において測定(推定)可能な距離の下限値(手前)から上限値(奥)まで極力細かい粒度で被写体を各距離で撮像した学習用画像が予め用意されているものとする。また、学習用画像としては、被写体が異なる様々な画像を用意しておくことが好ましい。
画像からぼけ値を推定する方式として上記した第1方式が適用される場合には、学習用画像に関する情報として、当該学習用画像の局所領域毎に、R画像、G画像及びB画像の勾配データが統計モデルに入力される。
画像からぼけ値を推定する方式として上記した第2方式が適用される場合には、学習用画像に関する情報として、当該学習用画像の局所領域毎に、R画像、G画像及びB画像の勾配データと当該局所領域の学習用画像上における位置情報とが統計モデルに入力される。
画像からぼけ値を推定する方式として上記した第3方式が適用される場合には、学習用画像に関する情報として、当該学習用画像の全領域分のR画像、G画像及びB画像の勾配データが統計モデルに入力される。
なお、本実施形態においてはR画像、G画像及びB画像の勾配データが統計モデルに入力されるものとして説明するが、当該統計モデルが画像に生じるぼけの形状(PSF形状)の観点からぼけ値を推定する場合には、R画像、G画像及びB画像の勾配データのうちの少なくとも1つの勾配データが統計モデルに入力されればよい。一方、統計モデルが色収差により画像に生じるぼけの色及びサイズの観点からぼけ値を推定する場合には、R画像、G画像及びB画像の勾配データのうちの少なくとも2つの勾配データが統計モデルに入力されればよい。
ステップS1の処理が実行されると、統計モデルによってぼけ値が推定される(ステップS2)。
ステップS2において推定されたぼけ値は、学習用画像の撮像時に得られている正解値と比較される(ステップS3)。
ステップS3における比較結果(誤差)は、統計モデルにフィードバックされる(ステップS4)。これにより、統計モデルにおいては、誤差が減少するようにパラメータが更新される(つまり、被写体までの距離に応じて学習用画像に生じているぼけが学習される)。
上記した図19に示す処理が学習用画像毎に繰り返し実行されることによって、推定精度の高い統計モデルが生成される。このように生成された統計モデルは、画像処理部3に含まれる格納部31に格納される。
本実施形態に係る測距装置1は、上記したように生成される統計モデルを用いて撮像部2によって撮像された画像中の被写体までの距離を測定する。
以下、図20のシーケンスチャートを参照して、被写体までの距離を測定する際の測距装置1(撮像部2及び画像処理部3)の処理手順の一例について説明する。
まず、撮像部2に含まれる第1画像取得部23は、当該撮像部2(イメージセンサ22)によって撮像された被写体を含む画像(以下、撮像画像と表記)を取得する(ステップS11)。この撮像画像は、上記したように撮像部2の光学系(レンズ21)の収差の影響を受けた画像である。なお、図20においては省略されているが、ステップS11において取得された撮像画像は、撮像部2内に記録されてもよい。
次に、撮像部2に含まれる第1ピント位置情報取得部24は、上記した撮像画像が撮像された際のピント位置に関するピント位置情報を取得する(ステップS12)。
以下、図21を参照して、本実施形態におけるピント位置情報について説明する。図21は、撮像部2の光学系を模式的に示している。
図21に示すように、ピント位置(撮像部2によって撮像された画像においてピントが合う位置)は、レンズ21とイメージセンサ22との間の距離(レンズ相対位置)に依存する。換言すれば、ピント位置は、レンズ21の位置を光学系の光軸に対して平行方向に移動する(つまり、レンズ21を駆動する)ことによって調整(設定)される。
ところで、上記したようにレンズ21はレンズユニットを構成するが、当該レンズユニットは、信号処理部2a及びレンズ駆動部2bを備える。信号処理部2a及びレンズ駆動部2bは、レンズ21の位置を制御するように動作する。具体的には、信号処理部2aは、撮像部2(カメラ)の動作を制御する制御回路(図示せず)からの指示(例えば、オートフォーカス機能によって指定されたピント位置)に応じてレンズ21を駆動するための制御信号値(調整値)を生成し、当該制御信号値をレンズ駆動部2bに送信する。レンズ駆動部2bは、信号処理部2aから送信された制御信号値に基づいてレンズ21を駆動する。
上記したようにレンズ21を駆動することによってピント位置が調整される場合、当該レンズ21を駆動するための制御信号値をピント位置情報として利用することができる。
具体的には、例えばレンズ21の位置が電気駆動により機械的に制御される場合、信号処理部2aにおいて任意のレンズ21の移動量に応じた電圧値が制御信号値として生成され、当該電圧値がレンズ駆動部2bに送信される。この場合には、信号処理部2aからレンズ駆動部2bに送信される電圧値がピント位置情報として利用される。
また、予め設定されたピント位置(基準値)に対する固有のピント調整量がカメラ撮影ソフトウェア(画像を撮像するために動作するソフトウェア)の内部に保持されているような構成においては、当該ピント調整量が信号処理部2aに送信され、当該ピント調整量から変換された電圧値が信号処理部2aからレンズ駆動部2bに送信される。この場合には、ソフトウェアの内部に保持されているピント調整量(つまり、信号処理部2aに送信されたピント調整量)がレンズ21を駆動するための制御信号値に相当するとして、当該ピント調整量をピント位置情報として利用してもよい。
なお、ここで説明したレンズ21を駆動するための制御信号値は一例であり、ピント位置情報は、レンズ21の駆動に関わる他の制御信号値であってもよい。
また、ピント位置情報は、例えば撮像部2の光学系の光軸に対して平行方向に移動するレンズ21の位置に関する情報であってもよい。
具体的には、ピント位置(つまり、レンズ21の位置)は、例えばレンズ21が配置されている鏡筒21aや他のねじ等を手動で回すことによって調整される場合がある。この場合には、例えば鏡筒21aやねじの回転数をピント位置情報として利用することができる。
また、鏡筒21a内部におけるレンズ21の相対位置(つまり、イメージセンサ22に対するレンズ21の位置)がピント位置情報として利用されてもよい。このレンズ21の相対位置は、例えば当該レンズ21の主点21bとイメージセンサ22との間の距離であってもよいし、鏡筒21aの基準点に対するレンズ21の主点21bの位置であってもよい。ここではレンズ21の主点21bを用いる場合について主に説明したが、必ずしもレンズ21の主点21bを用いる必要はなく、例えばレンズ21の先端部と鏡筒21aの端との間の距離がピント位置情報として利用されてもよい。上記したレンズ21の相対位置は、例えば所定のセンサ等を用いて得ることが可能であるが、他の手法により得るようにしてもよい。
なお、ステップS12においては撮像画像が撮像された際のピント位置に関するピント位置情報が取得されるものとして説明したが、当該ピント位置情報は、ピント位置が調整(設定)された時点で取得することができる。すなわち、ステップS12の処理は、ピント位置が調整された後、撮像画像が撮像される(つまり、ステップS11の処理が実行される)前に実行されてもよい。
また、ステップS12においてはピント位置情報が取得されるものとして説明したが、撮像画像が撮像された際のピント位置に関するピント位置情報が存在しない(または当該ピント位置情報を取得することができない)場合には、予め用意されているピント位置情報(または人手により設定されたピント位置情報)を取得するようにしてもよい。
次に、ステップS11において取得された撮像画像に対して、ステップS12において取得されたピント位置情報が付加される(ステップS13)。この場合、ピント位置情報は、例えば画像が撮像された日時やその他の設定データ(焦点距離及び絞り値等)を当該画像に保存することができるデジタルカメラ用のフォーマットであるEXIF(Exchangeable Image File Format)のような画像のメタファイル(メタデータ)として撮像画像内に記録される。これによれば、ピント位置情報がメタファイルとしてヘッダ部に埋め込まれた撮像画像が取得される。
ここではピント位置情報が撮像画像に埋め込まれるものとして説明したが、当該ピント位置情報は、他の電子ファイルとして撮像画像に付加されてもよい。
ステップS13の処理が実行されると、当該ステップS13においてピント位置情報が付加された撮像画像が撮像部2から画像処理部3に送信される(ステップS14)。
ステップS14において送信された撮像画像は、画像処理部3によって受信される。これにより、画像処理部3に含まれる第2画像取得部32は、画像処理部3によって受信された撮像画像を取得する(ステップS15)。
また、画像処理部3に含まれる第2ピント位置情報取得部33は、ステップS15において取得された撮像画像に付加されているピント位置情報を取得する(ステップS16)。
次に、第2ピント位置情報取得部33は、ステップS16において取得されたピント位置情報に基づいて、実ピント距離(つまり、測距装置1からピント位置までの実際の距離)を取得する(ステップS17)。
ここで、図22は、ピント位置情報と実ピント距離との対応関係を示している。なお、図22においては、便宜的に、正規化されたピント位置情報及び実ピント距離が示されている。
本実施形態においては、図22に示すようなピント位置情報と実ピント距離との対応関係(関係性)を表す数式モデル(実ピント距離変換モデル)が画像処理部3(第2ピント位置情報取得部33)内に保持されておいるものとする。これによれば、第2ピント位置情報取得部33は、このような数式モデルを参照してステップS16において取得されたピント位置情報を実ピント距離に変換することによって、当該実ピント距離を取得することができる。
ここではピント位置情報と実ピント距離との対応関係が数式モデルの形式で画像処理部3内に保持されているものとして説明したが、当該対応関係はテーブルのような形式で保持されていてもよい。
なお、上記したピント位置情報と実ピント距離との対応関係は、例えば実験的手段等によって(つまり、ピント位置情報に対応する実ピント距離を実際に計測することによって)予め得られているものとする。
ステップS17の処理が実行されると、ぼけ値取得部34は、ステップS15において取得された撮像画像を格納部31に格納されている統計モデルに入力し、当該統計モデルから出力されたぼけ値(つまり、当該統計モデルにおいて推定されたぼけ値)を取得する(ステップS18)。このステップS18において取得されたぼけ値は、上記したように撮像画像中の被写体までの距離に応じた相対距離情報に相当する。ステップS18の処理は上記した図19に示すステップS1及びS2の処理に相当するため、ここではその詳しい説明を省略する。
なお、図20においてはステップS17及びS18の順に処理が実行されるものとして説明したが、当該ステップS17及びS18の処理が実行される順番は入れ替えられても構わない。
次に、実距離変換部35は、ステップS17において取得された実ピント距離に基づいて、ステップS18において取得されたぼけ値を実距離(つまり、撮像画像中の被写体までの実際の距離)に変換する(ステップS19)。
ここで、ステップS19においてぼけ値から変換される実距離uは、ぼけ値bを用いた以下の式(1)により表される。
Figure 2023065092000002
式(1)におけるfは、撮像画像を撮像した撮像部2の光学系(レンズ21)における焦点距離を表している。uは、撮像画像が撮像された際の実ピント距離を表している。Fは、撮像画像を撮像した撮像部2の光学系におけるF値(絞り値)を表している。
すなわち、本実施形態においては、ステップS17において取得された実ピント距離、ステップS18において取得されたぼけ値、撮像部2の光学系における焦点距離及びF値を式(1)に適用することによって実距離を計算することができる。
なお、撮像部2の光学系における焦点距離及びF値は、上記したレンズ情報としてレンズユニット(制御回路)に搭載されるメモリに保持されているため、撮像部2から取得可能である。また、レンズ情報(焦点距離及びF値)は、上記したピント位置情報と同様に、メタファイルとして撮像画像に付加(記録)されていてもよい。
ステップS19の処理が実行されると、出力部36は、ステップS19においてぼけ値から変換された距離を示す距離情報を、例えば撮像画像と位置的に対応づけて配置したマップ形式で出力する(ステップS20)。なお、本実施形態においては、距離情報がマップ形式で出力されるものとして説明したが、当該距離情報は、他の形式で出力されてもよい。
なお、ここでは例えば実ピント距離変換モデルを参照して撮像部2(第1ピント位置情報取得部24)において取得されたピント位置情報を実ピント距離に変換する処理が実行されるものとして説明したが、例えば測距装置1の外部の距離センサ等を用いて撮像画像においてピントが合っている被写体(例えば撮像画像中の複数の被写体のうちの1つの被写体)までの距離を計測(取得)することができるのであれば、当該距離(測距した値)を実ピント距離として用いることができる。距離センサとしては、例えば被写体に対して送信された光(電磁波)の反射波を受信することによって当該被写体までの距離を計測することが可能なLidar(Light detection and ranging)等を使用することができる。このような構成によれば、画像処理部3におけるピント位置情報を実ピント距離に変換する処理(実ピント距離変換処理)を省略することができるため、処理コスト(計算コスト)を低減しつつ、実ピント距離に基づく実距離(実ピント距離を用いてぼけ値から変換されるカメラから被写体までの実際の距離)の精度を向上させることができる。
また、図20においては格納部31に1つの統計モデルが格納されている場合を想定して説明したが、上記したように測距装置1がレンズを交換することが可能なように構成されている場合には、当該測距装置1において用いることが可能なレンズ(つまり、当該測距装置1に装着可能なレンズ)毎に統計モデルを用意しておくことが考えられる。この場合、例えば上記したレンズ情報(焦点距離、F値及びカメラの機種名等を含むレンズの仕様または設計値の情報)を利用して測距装置1に装着されているレンズに応じた統計モデルを選定し、当該選定された統計モデルを用いてぼけ値を推定するような構成としてもよい。
上記したように本実施形態においては、撮像画像(撮像部2によって撮像された第2画像であって、当該撮像部2の光学系の収差の影響を受けた第2画像)を取得し、当該撮像画像が撮像された際のピント位置に関するピント位置情報を取得し、当該撮像画像を統計モデル(撮像部2の光学系の収差の影響を受けた第1画像に生じる、当該第1画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成された統計モデル)に入力することによって当該統計モデルから出力されるぼけ値(撮像画像中の被写体に生じるぼけを示すぼけ値)を取得し、当該ピント位置情報に基づいて、当該ぼけ値を被写体までの実距離に変換する。
本実施形態においては、上記したように撮像画像を取得する際に、当該撮像画像の撮像時におけるピント位置に関するピント位置情報を取得することにより、当該撮像画像から測定される距離の精度を向上させることができる。
具体的には、撮像画像中の被写体に生じるぼけを示すぼけ値を実距離に変換するためには、上記した式(1)に表されるように、実ピント距離が必要である。このような実ピント距離を例えば人手により設定するような場合には、人為的な要因に基づく誤差(実ピント距離の設定誤差)が生じる可能性があり、このような実ピント距離の誤差はぼけ値から変換される実距離の精度の低下を招く。
更に、例えば被写体の位置がピント位置から過度に離れている(つまり、ぼけの大きさが過度に大きい)場合には測距装置1によって当該被写体までの実距離を測定することができない可能性があるが、この場合には、当該被写体を含む画像を撮像する際にピント位置を変更(調整)することが考えられる。例えばピント位置が変更される前に正確な実ピント距離が設定されていたとしても、このようにピント位置が変更された場合には、当該変更されたピント位置に基づく実ピント距離(測距装置1からピント位置までの実際の距離)を新たに設定する必要があり、上記した人為的な要因に基づく誤差が生じる可能性がある。更に、ピント位置の変更に伴って実ピント距離を計測及び設定する手間もかかる。
これに対して、本実施形態においては、撮像画像が撮像された際のピント位置情報を取得し、当該ピント位置情報に基づいてぼけ値を実距離に変換する構成であるため、実ピント距離の設定誤差を回避するとともに、撮像画像を撮像する際のピント位置の変更にも容易に対応することができる。
なお、本実施形態におけるピント位置情報としては、例えばレンズ21を駆動するための制御信号値または撮像部2の光学系の光軸に対して平行方向に移動するレンズの位置を利用することができる。
更に、本実施形態においては、実ピント距離変換モデルを参照してピント位置情報を実ピント距離に変換し、当該実ピント距離を用いてぼけ値を実距離に変換する構成であるため、被写体までの適切な実距離を測定(取得)することができる。
また、本実施形態において、撮像画像を撮像する撮像部2(第1ピント位置情報取得部24)において取得されたピント位置情報は当該撮像画像に付加されて画像処理部3に送信されるが、当該ピント位置情報は、メタデータ(メタファイル)として撮像画像のヘッダ部に埋め込まれていてもよいし、当該撮像画像とは異なる電子ファイルとして当該撮像画像に付加されていてもよい。すなわち、本実施形態においては、撮像部2側で取得された撮像画像及び当該撮像画像が撮像されたピント位置に関するピント位置情報が当該撮像部2から画像処理部3に渡される構成であればよい。
ところで、一般に、測距装置1に組み込まれるカメラ(製品としてのカメラ)には個体差があり、上記したピント位置情報と実ピント距離との対応関係は、当該カメラの個体毎に異なる場合がある。
このため、本実施形態おいては、例えば図23に示すように、撮像部2がピント位置情報補正部25を更に含む構成としてもよい。
ピント位置情報補正部25は、予め保持(用意)されている補正値に基づいて、第1ピント位置情報取得部24によって取得されたピント位置情報を補正する。ピント位置情報補正部25によって補正されたピント位置情報は、第1画像取得部23によって取得された画像に付加されて撮像部2から画像処理部3に送信される。
ここで、本実施形態においては、ピント位置情報と実ピント距離との対応関係を表す実ピント距離変換モデルが画像処理部3(第2ピント位置情報取得部33)において予め保持されているものとして説明したが、ピント位置情報補正部25によって保持される補正値は、第1ピント位置情報取得部24によって取得されたピント位置情報が当該実ピント距離変換モデルを参照して適切な実ピント距離に変換される(つまり、上記した個体差を吸収する)ように当該ピント位置情報を補正するための値である。
この補正値(つまり、測距装置1に組み込まれているカメラと基準となるカメラとのピント位置情報のずれ量)は、例えば製品(カメラ)の出荷時の製品検査等において任意のピント位置で画像が撮像された際のピント位置情報と実ピント距離(測距装置1からピント位置までの実際の距離)との対応関係と、上記した画像処理部3において保持されている実ピント距離変換モデル(によって表されるピント位置情報と実ピント距離との対応関係)とを比較することによって取得されるものとする。
このような構成によれば、測距装置1に組み込まれるカメラに個体差が生じている場合であっても、当該個体差を吸収するように補正されたピント位置情報に基づいて適切に被写体までの実距離を測定することができる。
ここでは撮像部2(ピント位置情報補正部25)がピント位置情報を補正するものとして説明したが、当該ピント位置情報の補正は、例えば画像処理部3側で実行されてもよい。
また、本実施形態において画像処理部3が各部31~36を含むものとして説明したが、例えば格納部31は、測距装置1とは異なる外部の装置に配置されていてもよい。この場合、画像処理部3は、外部の装置から取得された統計モデルを利用するように動作してもよい。また、本実施形態は、例えば各部32~36によって実行される処理の一部が外部の装置で実行される構成であってもよい。
(応用例)
以下、本実施形態に係る測距装置1が適用される応用例について説明する。
図24は、測距装置1が組み込まれている移動体700の機能構成の一例を示す。移動体700は、例えば自動運転機能を有する自動車、無人航空機、自立型の移動ロボット等として実現され得る。無人航空機は、人が乗ることができない飛行機、回転翼航空機、滑空機、飛行船であって、遠隔操作または自動操縦により飛行させることができるものであり、例えばドローン(マルチコプター)、ラジコン機、農薬散布用ヘリコプター等を含む。自立型の移動ロボットは、無人搬送車(AGV:Automated Guided Vehicle)のような移動ロボット、床を掃除するための掃除ロボット、来場者に各種案内を行うコミュニケーションロボット等を含む。移動体700には、ロボット本体が移動するものだけでなく、ロボットアームのような、ロボットの一部分を移動または回転させるような駆動機構を有する産業用ロボット等も含まれる。
図24に示すように、移動体700は、例えば測距装置1と制御信号生成部701と駆動機構702とを有する。測距装置1は、例えば撮像部2が移動体700またはその一部分の進行方向の被写体を撮像することができるように設置される。
図25に示すように、移動体700が自動車700Aである場合、測距装置1は、前方を撮像するいわゆるフロントカメラとして設置される。なお、測距装置1は、バック時に後方を撮像するいわゆるリアカメラとして設置されてもよい。また、フロントカメラ及びリアカメラとして複数の測距装置1が設置されてもよい。更に、測距装置1は、いわゆるドライブレコーダーとしての機能を兼ねて設置されるものであってもよい。すなわち、測距装置1は録画機器であってもよい。
図26は、移動体700がドローン700Bである場合の例を示す。ドローン700Bは、駆動機構702に相当するドローン本体711と4つのプロペラ部712~715とを備える。各プロペラ部712~715は、プロペラとモータとを有する。モータの駆動がプロペラに伝達されることによって、当該プロペラが回転し、その回転による揚力によってドローン700Bが浮上する。ドローン本体711の例えば下部には、測距装置1が搭載されている。
また、図27は、移動体700が自立型の移動ロボット700Cである場合の例を示す。移動ロボット700Cの下部には、駆動機構702に相当する、モータや車輪等を含む動力部721が設けられている。動力部721は、モータの回転数や車輪の向きを制御する。移動ロボット700Cは、モータの駆動が伝達されることによって、路面または床面に設置する車輪が回転し、当該車輪の向きが制御されることにより任意の方向に移動することができる。図27に示す例では、測距装置1は、例えば撮像部2が人型の移動ロボット700Cの前方を撮像するように、当該移動ロボット700Cの頭部に設置されている。なお、測距装置1は、移動ロボット700Cの後方や左右を撮像するように設置されてもよいし、複数の方位を撮像するように複数設置されてもよい。また、センサ等を搭載するためのスペースが少ない小型ロボットに測距装置1を設けて、自己位置、姿勢及び被写体の位置を推定することにより、デッドレコニングを行うこともできる。
なお、図28に示すように移動体700がロボットアーム700Dであり、当該ロボットアーム700Dの一部分の移動及び回転を制御する場合には、測距装置1は、当該ロボットアーム700Dの先端等に設置されてもよい。この場合、測距装置1に備えられる撮像部2によってロボットアーム700Dで把持される物体が撮像され、画像処理部3は、ロボットアーム700Dが把持しようとする物体までの距離を測定することができる。これにより、ロボットアーム700Dにおいて、物体の正確な把持動作を行うことができる。
制御信号生成部701は、測距装置1(画像処理部3)から出力される被写体までの距離を示す距離情報に基づいて駆動機構702を制御するための制御信号を出力する。駆動機構702は、制御信号生成部701から出力される制御信号により、移動体700または当該移動体700の一部分を駆動する。駆動機構702は、例えば移動体700または当該移動体700の一部分の移動、回転、加速、減速、推力(揚力)の加減、進行方向の転換、通常運転モードと自動運転モード(衝突回避モード)との切り替え及びエアバッグ等の安全装置の作動のうちの少なくとも1つを行う。駆動機構702は、例えば被写体までの距離が閾値未満である場合に、移動、回転、加速、推力(揚力)の加減、物体に近寄る方向への方向転換及び自動運転モード(衝突回避モード)から通常運転モードへの切り替えのうちの少なくとも1つを行ってもよい。
なお、図25に示す自動車700Aの駆動機構702は、例えばタイヤである。図26に示すドローン700Bの駆動機構702は、例えばプロペラである。図27に示す移動ロボット700Cの駆動機構702は、例えば脚部である。図28に示すロボットアーム700Dの駆動機構702は、例えば測距装置1が設けられた先端を支持する支持部である。
移動体700は、測距装置1から出力された被写体までの距離に関する情報(距離情報)が入力されるスピーカやディスプレイを更に備えていてもよい。このスピーカやディスプレイは、測距装置1と有線または無線で接続されており、被写体までの距離に関する音声または画像を出力するように構成されている。更に、移動体700は、測距装置1から出力された被写体までの距離に関する情報が入力され、例えば被写体までの距離に応じて点灯及び消灯することができる発光部を有していてもよい。
また、例えば移動体700がドローン700Bである場合においては、上空から、地図(物体の三次元形状)の作成、ビルや地形の構造調査、ひび割れや電線破断等の点検等が行われる際に、撮像部2が対象を撮像した画像を取得し、被写体までの距離が閾値以上であるか否かを判定する。制御信号生成部701は、この判定結果に基づいて、点検対象との距離が一定になるようにドローン700Bの推力を制御するための制御信号を生成する。ここで、推力には揚力も含まれるものとする。駆動機構702がこの制御信号に基づいてドローン700Bを動作させることにより、当該ドローン700Bを点検対象に対して平行して飛行させることができる。移動体700が監視用のドローン700Bである場合、制御信号生成部701は、監視対象の物体との距離を一定に保つように当該ドローン700Bの推力を制御するための制御信号を生成してもよい。
なお、移動体700(例えば、ドローン700B)が各種インフラストラクチャー(以下、単にインフラと表記)の保守点検等に用いられる場合には、当該インフラにおけるひび割れ箇所または錆が発生している箇所等を含む補修が必要な箇所(以下、補修箇所と表記)の画像を撮像部2で撮像することによって、当該補修箇所までの距離を得ることができる。この場合、補修箇所までの距離を利用することによって画像から当該補修箇所のサイズを算出することが可能である。これによれば、例えばインフラ全体を表すマップ上に補修箇所を表示することによって、当該インフラの保守点検者に補修箇所を認識させることができる。また、補修箇所のサイズを事前に保守点検者に伝えておくことは、円滑な補修作業を実施するためにも有用である。
なお、ここでは測距装置1が組み込まれている移動体700(例えば、ドローン700B)がインフラの保守点検等に用いられる場合について説明したが、例えば測距装置1がスマートフォン等として実現されている場合には、例えば保守点検者が当該スマートフォンを用いて補修箇所を撮像することによってインフラの保守点検を実施することができる。また、上記した測距システムに備えられる撮像装置がスマートフォン等として実現されている場合には、保守点検者が当該スマートフォンを用いて撮像された補修箇所の画像が画像処理装置にアップロードされることによって同様の保守点検を実現することができる。
画像をアップロードする際、例えばネットワークを経由してサーバ上の画像処理装置に画像を転送する方法を用いることで、保守点検の現場で手軽に点検作業ができる。
また、ドローン700Bの飛行時に、撮像部2が地面方向を撮像した画像を取得し、地面との距離が閾値以上であるか否かを判定する。制御信号生成部701は、この判定結果に基づいて地面からの高さが指定された高さになるようにドローン700Bの推力を制御するための制御信号を生成する。駆動機構702がこの制御信号に基づいてドローン700Bを動作させることにより、当該ドローン700Bを指定された高さで飛行させることができる。ドローン700Bが農薬散布用ドローンであれば、このようにドローン700Bの地面からの高さを一定に保つことで、農薬を均等に散布しやすくなる。
また、移動体700が自動車700Aまたはドローン700Bである場合、自動車700Aの連隊走行やドローン700Bの連携飛行時に、撮像部2が前方の自動車や周囲のドローンを撮像し、当該自動車やドローンまでの距離が閾値以上であるか否かを判定する。制御信号生成部701は、この判定結果に基づいて、前方の自動車や周囲のドローンとの距離が一定になるように、自動車700Aの速度やドローン700Bの推力を制御するための制御信号を生成する。駆動機構702がこの制御信号に基づいて自動車700Aやドローン700Bを動作させることにより、自動車700Aの連隊走行やドローン700Bの連携飛行を容易に行うことができる。
更に、移動体700が自動車700Aである場合、自動車700Aのドライバーが閾値を設定(変更)することができるように、ユーザインタフェースを介してドライバーの指示を受理可能な構成としてもよい。これにより、ドライバーが好む車間距離で自動車700Aを走行させるようなことができる。また、前方の自動車との安全な車間距離を保つために、自動車700Aの速度に応じて閾値を変化させてもよい。安全な車間距離は、自動車700Aの速度によって異なる。そこで、自動車700Aの速度が速いほど閾値を大きく(長く)設定することができる。
また、移動体700が自動車700Aである場合には、進行方向の所定の距離を閾値に設定しておき、当該閾値の手前に物体が表れた際にブレーキを作動させるまたはエアバッグ等の安全装置を作動させる制御信号を生成するようにしてもよい。この場合、自動ブレーキやエアバッグ等の安全装置が駆動機構702に設けられる。
本実施形態に記載された様々な機能の各々は、回路(処理回路)によって実現されてもよい。処理回路の例には、中央処理装置(CPU)のような、プログラムされたプロセッサが含まれる。このプロセッサは、メモリに格納されたコンピュータプログラム(命令群)を実行することによって、記載された機能それぞれを実行する。このプロセッサは、電気回路を含むマイクロプロセッサであってもよい。処理回路の例には、デジタル信号プロセッサ(DSP)、特定用途向け集積回路(ASIC)、マイクロコントローラ、コントローラ、他の電気回路部品も含まれる。本実施形態に記載されたCPU以外の他のコンポーネントの各々もまた処理回路によって実現されてもよい。
また、本実施形態の各種処理はコンピュータプログラムによって実現することができるため、このコンピュータプログラムを格納したコンピュータ読み取り可能な記憶媒体を通じてこのコンピュータプログラムをコンピュータにインストールして実行するだけで、本実施形態と同様の効果を容易に実現することができる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
1…測距装置、2…撮像部、2a…信号処理部、2b…レンズ駆動部、3…画像処理部、21…レンズ、22…イメージセンサ、23…第1画像取得部、24…第1ピント位置情報取得部、25…ピント位置情報補正部、31…格納部、32…第2画像取得部、33…第2ピント位置情報取得部、34…ぼけ値取得部、35…実距離変換部、36…出力部、101…CPU、102…不揮発性メモリ、103…RAM、103A…測距プログラム、104…通信デバイス。

Claims (13)

  1. 撮像部を備える測距装置において、
    前記撮像部の光学系の収差の影響を受けた第1画像に生じる、当該第1画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成された統計モデルを格納する格納手段と、
    前記撮像部によって撮像された第2画像であって、当該撮像部の光学系の収差の影響を受けた第2画像を取得する第1取得手段と、
    前記第2画像が撮像された際のピント位置に関するピント位置情報を取得する第2取得手段と、
    前記取得された第2画像を前記統計モデルに入力することによって当該統計モデルから出力される当該第2画像中の被写体に生じるぼけを示すぼけ値を取得する第3取得手段と、
    前記取得されたピント位置情報に基づいて、前記取得されたぼけ値を前記被写体までの距離に変換する第1変換手段と
    を具備する測距装置。
  2. 前記撮像部の光学系は、当該光学系の光軸に対して平行方向に移動するレンズを含み、
    前記ピント位置情報は、前記レンズを駆動するための制御信号値を含む
    請求項1記載の測距装置。
  3. 前記撮像部の光学系は、当該光学系の光軸に対して平行方向に移動するレンズを含み、
    前記ピント位置情報は、前記レンズの位置を含む
    請求項1記載の測距装置。
  4. 前記取得されたピント位置情報を、前記ピント位置までの距離に変換する第2変換手段を更に具備し、
    前記第1変換手段は、前記ピント位置情報から変換された前記ピント位置までの距離に基づいて、前記取得されたぼけ値を前記被写体までの距離に変換する
    請求項1記載の測距装置。
  5. 前記ピント位置情報は、前記撮像部において前記第2画像に付加されて当該撮像部から送信される請求項1~4のいずれか一項に記載の測距装置。
  6. 前記ピント位置情報は、メタデータとして前記第2画像のヘッダ部に埋め込まれる請求項5記載の測距装置。
  7. 前記ピント位置情報は、前記第2画像とは異なる電子ファイルとして当該第2画像に付加される請求項5記載の測距装置。
  8. 前記取得されたピント位置情報を予め保持されている補正値に基づいて補正する補正手段を更に具備する請求項1~7のいずれか一項に記載の測距装置。
  9. 撮像装置と接続される画像処理装置において、
    撮像装置の光学系の収差の影響を受けた第1画像に生じる、当該第1画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成された統計モデルを格納する格納手段と、
    前記撮像装置によって撮像された第2画像であって、当該撮像装置の光学系の収差の影響を受けた第2画像を、前記撮像装置から取得する第1取得手段と、
    前記第2画像が撮像された際のピント位置に関するピント位置情報を、前記撮像装置から取得する第2取得手段と、
    前記取得された第2画像を前記統計モデルに入力することによって当該統計モデルから出力される当該第2画像中の被写体に生じるぼけを示すぼけ値を取得する第3取得手段と、
    前記取得されたピント位置情報に基づいて、前記取得されたぼけ値を前記被写体までの距離に変換する変換手段と
    を具備する画像処理装置。
  10. 撮像部と、前記撮像部の光学系の収差の影響を受けた第1画像に生じる、当該第1画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成された統計モデルを格納する格納手段とを備える測距装置が実行する方法であって、
    前記撮像部によって撮像された第2画像であって、当該撮像部の光学系の収差の影響を受けた第2画像を取得するステップと、
    前記第2画像が撮像された際のピント位置に関するピント位置情報を取得するステップと、
    前記取得された第2画像を前記統計モデルに入力することによって当該統計モデルから出力される当該第2画像中の被写体に生じるぼけを示すぼけ値を取得するステップと、
    前記取得されたピント位置情報に基づいて、前記取得されたぼけ値を前記被写体までの距離に変換するステップと
    を具備する方法。
  11. 撮像装置と接続される画像処理装置であって、前記撮像装置の光学系の収差の影響を受けた第1画像に生じる、当該第1画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成された統計モデルを格納する格納手段を備える画像処理装置が実行する方法であって、
    前記撮像装置によって撮像された第2画像であって、当該撮像装置の光学系の収差の影響を受けた第2画像を、前記撮像装置から取得するステップと、
    前記第2画像が撮像された際のピント位置に関するピント位置情報を、前記撮像装置から取得するステップと、
    前記取得された第2画像を前記統計モデルに入力することによって当該統計モデルから出力される当該第2画像中の被写体に生じるぼけを示すぼけ値を取得するステップと、
    前記取得されたピント位置情報に基づいて、前記取得されたぼけ値を前記被写体までの距離に変換するステップと
    を具備する方法。
  12. 撮像部と、前記撮像部の光学系の収差の影響を受けた第1画像に生じる、当該第1画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成された統計モデルを格納する格納手段とを備える測距装置のコンピュータによって実行されるプログラムであって、
    前記コンピュータに、
    前記撮像部によって撮像された第2画像であって、当該撮像部の光学系の収差の影響を受けた第2画像を取得するステップと、
    前記第2画像が撮像された際のピント位置に関するピント位置情報を取得するステップと、
    前記取得された第2画像を前記統計モデルに入力することによって当該統計モデルから出力される当該第2画像中の被写体に生じるぼけを示すぼけ値を取得するステップと、
    前記取得されたピント位置情報に基づいて、前記取得されたぼけ値を前記被写体までの距離に変換するステップと
    を実行させるためのプログラム。
  13. 撮像装置と接続される画像処理装置であって、前記撮像装置の光学系の収差の影響を受けた第1画像に生じる、当該第1画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成された統計モデルを格納する格納手段を備える画像処理装置のコンピュータによって実行されるプログラムであって、
    前記コンピュータに、
    前記撮像装置によって撮像された第2画像であって、当該撮像装置の光学系の収差の影響を受けた第2画像を、前記撮像装置から取得するステップと、
    前記第2画像が撮像された際のピント位置に関するピント位置情報を、前記撮像装置から取得するステップと、
    前記取得された第2画像を前記統計モデルに入力することによって当該統計モデルから出力される当該第2画像中の被写体に生じるぼけを示すぼけ値を取得するステップと、
    前記取得されたピント位置情報に基づいて、前記取得されたぼけ値を前記被写体までの距離に変換するステップと
    を実行させるためのプログラム。
JP2021175694A 2021-10-27 2021-10-27 測距装置、画像処理装置、方法及びプログラム Pending JP2023065092A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021175694A JP2023065092A (ja) 2021-10-27 2021-10-27 測距装置、画像処理装置、方法及びプログラム
US17/900,918 US11722791B2 (en) 2021-10-27 2022-09-01 Ranging device, image processing device and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021175694A JP2023065092A (ja) 2021-10-27 2021-10-27 測距装置、画像処理装置、方法及びプログラム

Publications (1)

Publication Number Publication Date
JP2023065092A true JP2023065092A (ja) 2023-05-12

Family

ID=86056279

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021175694A Pending JP2023065092A (ja) 2021-10-27 2021-10-27 測距装置、画像処理装置、方法及びプログラム

Country Status (2)

Country Link
US (1) US11722791B2 (ja)
JP (1) JP2023065092A (ja)

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2013273830A1 (en) * 2013-12-23 2015-07-09 Canon Kabushiki Kaisha Post-processed bokeh rendering using asymmetric recursive Gaussian filters
TWI554106B (zh) * 2014-09-25 2016-10-11 聚晶半導體股份有限公司 產生影像散景效果的方法及影像擷取裝置
JP6971934B2 (ja) 2018-08-10 2021-11-24 株式会社東芝 画像処理装置
KR102597518B1 (ko) * 2019-02-20 2023-11-03 삼성전자주식회사 영상에 보케 효과를 적용하는 전자 장치 및 그 제어 방법
JP7051740B2 (ja) * 2019-03-11 2022-04-11 株式会社東芝 画像処理装置、測距装置、方法及びプログラム
JP7123884B2 (ja) * 2019-09-12 2022-08-23 株式会社東芝 撮像装置、方法及びプログラム
JP7170609B2 (ja) 2019-09-12 2022-11-14 株式会社東芝 画像処理装置、測距装置、方法及びプログラム

Also Published As

Publication number Publication date
US11722791B2 (en) 2023-08-08
US20230126635A1 (en) 2023-04-27

Similar Documents

Publication Publication Date Title
CN111683193B (zh) 图像处理装置
JP6878219B2 (ja) 画像処理装置および測距装置
JP7123884B2 (ja) 撮像装置、方法及びプログラム
JP6971934B2 (ja) 画像処理装置
US11748898B2 (en) Methods and system for infrared tracking
JP7170609B2 (ja) 画像処理装置、測距装置、方法及びプログラム
CN110622499B (zh) 图像生成装置、图像生成系统、图像生成方法及记录介质
US20210009270A1 (en) Methods and system for composing and capturing images
JP2018160228A (ja) 経路生成装置、経路制御システム、及び経路生成方法
JP2017015704A (ja) ドローンに搭載されて土地をマッピングするように適合されたカメラユニット、およびカメラユニットによる画像撮像管理方法
US20220270222A1 (en) Image processing device, ranging device, and method
JP2023065092A (ja) 測距装置、画像処理装置、方法及びプログラム
JP2023069681A (ja) 画像処理装置、方法及びプログラム
JP7447042B2 (ja) 画像処理装置、方法及びプログラム
JP6847891B2 (ja) 画像処理装置、撮像装置及び方法
US20240155223A1 (en) Imaging control device, imaging system, imaging control method, and imaging control program
CN116503822A (zh) 图像识别方法、装置及电子设备
JP2022040134A (ja) 推定システムおよび自動車

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240301

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20241016