JP2021032990A - 制御装置、撮像システム、制御方法、及びプログラム - Google Patents

制御装置、撮像システム、制御方法、及びプログラム Download PDF

Info

Publication number
JP2021032990A
JP2021032990A JP2019151539A JP2019151539A JP2021032990A JP 2021032990 A JP2021032990 A JP 2021032990A JP 2019151539 A JP2019151539 A JP 2019151539A JP 2019151539 A JP2019151539 A JP 2019151539A JP 2021032990 A JP2021032990 A JP 2021032990A
Authority
JP
Japan
Prior art keywords
positional relationship
focus lens
image
image pickup
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019151539A
Other languages
English (en)
Inventor
誠 高宮
Makoto Takamiya
誠 高宮
佳範 永山
Yoshinori Nagayama
佳範 永山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SZ DJI Technology Co Ltd
Original Assignee
SZ DJI Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SZ DJI Technology Co Ltd filed Critical SZ DJI Technology Co Ltd
Priority to JP2019151539A priority Critical patent/JP2021032990A/ja
Priority to PCT/CN2020/106579 priority patent/WO2021031833A1/zh
Priority to CN202080003361.5A priority patent/CN112335227A/zh
Publication of JP2021032990A publication Critical patent/JP2021032990A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/36Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/40Systems for automatic generation of focusing signals using time delay of the reflected waves, e.g. of ultrasonic waves
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/18Focusing aids
    • G03B13/20Rangefinders coupled with focusing arrangements, e.g. adjustment of rangefinder automatically focusing camera
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B5/00Adjustment of optical system relative to image or object surface other than for focusing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules

Abstract

【課題】光パルスの反射光に基づいて対象物までの距離を測距する測距センサが、太陽光などの光パルスの反射光以外の外光を受光することで、対象物までの距離を精度よく測距できない場合がある。【解決手段】制御装置は、信号が距離の信頼性を示す第1条件を満たす場合、距離に基づき特定される撮像装置の撮像面とフォーカスレンズとの第1目標位置関係に基づいて、対象物に合焦させる合焦制御を実行し、信号が第1条件を満たさない場合、撮像面とフォーカスレンズとの位置関係が第1位置関係で撮像装置により撮像された第1画像及び撮像面とフォーカスレンズとの位置関係が第2位置関係で撮像装置により撮像された第2画像のそれぞれのぼけ量に基づき特定される撮像面とフォーカスレンズとの第2目標位置関係に基づいて、合焦制御を実行するように構成された回路を備える。【選択図】図7

Description

本発明は、制御装置、撮像システム、制御方法、及びプログラムに関する。
特許文献1には、光パルスの反射光に基づいて目標被写体までの距離を測距することが記載されている。
[先行技術文献]
[特許文献]
[特許文献1] 特開2006−79074号公報
光パルスの反射光に基づいて対象物までの距離を測距する測距センサが、太陽光などの光パルスの反射光以外の外光を受光することで、対象物までの距離を精度よく測距できない場合がある。
本発明の一態様に係る制御装置は、パルス光を出射する発光素子と、対象物からのパルス光の反射光を含む光を受光して、受光された光の量に応じた信号を出力する受光素子とを有し、信号に基づいて対象物までの距離を測距する測距センサ、及びフォーカスレンズを備える撮像装置を制御する制御装置でよい。制御装置は、信号が距離の信頼性を示す第1条件を満たす場合、距離に基づき特定される撮像装置の撮像面とフォーカスレンズとの第1目標位置関係に基づいて、対象物に合焦させる合焦制御を実行するように構成された回路を備えてよい。回路は、信号が第1条件を満たさない場合、撮像面とフォーカスレンズとの位置関係が第1位置関係で撮像装置により撮像された第1画像及び撮像面とフォーカスレンズとの位置関係が第2位置関係で撮像装置により撮像された第2画像のそれぞれのぼけ量に基づき特定される撮像面とフォーカスレンズとの第2目標位置関係に基づいて、合焦制御を実行するように構成されてよい。
回路は、第1画像と第2画像との違いの度合いを示す第1相違度が第2目標位置関係の信頼性を示す第2条件を満たす場合、第2目標位置関係に基づいて合焦制御を実行するように構成されてよい。
回路は、第1相違度が第2条件を満たさない場合、コントラストAFにより合焦制御を実行するように構成されてよい。
回路は、第1相違度が第2条件を満たさない場合、撮像面とフォーカスレンズとの位置関係を第2位置関係から第3位置関係まで変化させ、撮像面とフォーカスレンズとの位置関係が第3位置関係で撮像装置により撮像された第3画像と第1画像または第2画像との違いの度合いを示す第2相違度が第2条件を満たす場合、第1画像または第2画像と、第3画像とのそれぞれのぼけ量に基づいて特定された撮像面とフォーカスレンズとの第3目標位置関係に基づいて合焦制御を実行し、第2相違度が第2条件を満たさない場合、コントラストAFにより合焦制御を実行するように構成されてよい。
信号が光の量が予め定められた範囲に含まれることを示す場合、信号は第1条件を満たしてよい。
回路は、信号が第1条件を満たさない場合、撮像面とフォーカスレンズとの位置関係が第1位置関係で撮像装置により撮像された第1画像を取得した後、撮像面とフォーカスレンズとの位置関係を第2位置関係まで変化させて、撮像面とフォーカスレンズとの位置関係が第2位置関係で撮像装置により撮像された第2画像を取得するように構成されてよい。
回路は、信号が第1条件を満たさない場合、撮像面とフォーカスレンズとの位置関係が第1位置関係で撮像装置により撮像された第1画像を取得した後、第1目標位置関係に基づいて特定される方向にフォーカスレンズを予め定められた距離、移動させることで撮像面とフォーカスレンズとの位置関係を第2位置関係まで移動させるように構成されてよい。
本発明の一態様に係る撮像システムは、上記制御装置と、測距センサと、撮像装置とを備えてよい。
本発明の一態様に係る制御方法は、パルス光を出射する発光素子と、対象物からのパルス光の反射光を含む光を受光して、受光された光の量に応じた信号を出力する受光素子とを有し、信号に基づいて対象物までの距離を測距する測距センサ、及びフォーカスレンズを備える撮像装置を制御する制御方法でよい。制御方法は、信号が距離の信頼性を示す第1条件を満たす場合、距離に基づき特定される撮像装置の撮像面とフォーカスレンズとの第1目標位置関係に基づいて、対象物に合焦させる合焦制御を実行する段階を備えてよい。制御方法は、信号が第1条件を満たさない場合、撮像面とフォーカスレンズとの位置関係が第1位置関係で撮像装置により撮像された第1画像及び撮像面とフォーカスレンズとの位置関係が第2位置関係で撮像装置により撮像された第2画像のそれぞれのぼけ量に基づき特定される撮像面とフォーカスレンズとの第2目標位置関係に基づいて、合焦制御を実行する段階を備えてよい。
本発明の一態様に係るプログラムは、上記制御装置としてコンピュータを機能させるためのプログラムでよい。
本発明の一態様によれば、フォーカスレンズを無駄に駆動することなく、より最適な方式で合焦制御を実行できる。
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
撮像システムの外観斜視図の一例である。 撮像システムの他の形態を示す外界斜視図の一例である。 撮像システムの機能ブロックを示す図である。 ぼけ量とレンズ位置との関係を示す曲線の一例を示す図である。 ぼけ量に基づいてオブジェクトまでの距離を算出する手順の一例を示す図である。 オブジェクトの位置、レンズの位置、及び焦点距離との関係について説明するための図である。 撮像装置のAF処理の手順の一例を示すフローチャートである。 TOF演算結果とフォーカスレンズ位置との関係を示す図である。 AF実行時のフォーカスレンズの動きの一例を示す図である。 AF実行時のフォーカスレンズの動きの一例を示す図である。 AF実行時のフォーカスレンズの動きの一例を示す図である。 AF実行時のフォーカスレンズの動きの一例を示す図である。 無人航空機及び遠隔操作装置の外観の一例を示す図である。 ハードウェア構成の一例を示す図である。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施の形態は特許請求の範囲に係る発明を限定するものではない。また、実施の形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。以下の実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。
本発明の様々な実施形態は、フローチャート及びブロック図を参照して記載されてよく、ここにおいてブロックは、(1)操作が実行されるプロセスの段階または(2)操作を実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、プログラマブル回路、及び/またはプロセッサによって実装されてよい。専用回路は、デジタル及び/またはアナログハードウェア回路を含んでよい。集積回路(IC)及び/またはディスクリート回路を含んでよい。プログラマブル回路は、再構成可能なハードウェア回路を含んでよい。再構成可能なハードウェア回路は、論理AND、論理OR、論理XOR、論理NAND、論理NOR、及び他の論理操作、フリップフロップ、レジスタ、フィールドプログラマブルゲートアレイ(FPGA)、プログラマブルロジックアレイ(PLA)等の様なメモリ要素等を含んでよい。
コンピュータ可読媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよい。その結果、そこに格納される命令を有するコンピュータ可読媒体は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読媒体のより具体的な例としては、フロッピー(登録商標)ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ(RAM)、リードオンリメモリ(ROM)、消去可能プログラマブルリードオンリメモリ(EPROMまたはフラッシュメモリ)、電気的消去可能プログラマブルリードオンリメモリ(EEPROM)、静的ランダムアクセスメモリ(SRAM)、コンパクトディスクリードオンリメモリ(CD-ROM)、デジタル多用途ディスク(DVD)、ブルーレイ(登録商標)ディスク、メモリスティック、集積回路カード等が含まれてよい。
コンピュータ可読命令は、1または複数のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードの何れかを含んでよい。ソースコードまたはオブジェクトコードは、従来の手続型プログラミング言語を含む。従来の手続型プログラミング言語は、アセンブラ命令、命令セットアーキテクチャ(ISA)命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、またはSmalltalk(登録商標)、JAVA(登録商標)、C++等のようなオブジェクト指向プログラミング言語、及び「C」プログラミング言語または同様のプログラミング言語でよい。コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサまたはプログラマブル回路に対し、ローカルにまたはローカルエリアネットワーク(LAN)、インターネット等のようなワイドエリアネットワーク(WAN)を介して提供されてよい。プロセッサまたはプログラマブル回路は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく、コンピュータ可読命令を実行してよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。
図1は、本実施形態に係る撮像システム10の外観斜視図の一例である。撮像システム10は、撮像装置100、支持機構200、及び把持部300を備える。撮像装置100は、TOFセンサ160を備える。支持機構200は、撮像装置100を、アクチュエータを用いてロール軸、ピッチ軸、ヨー軸のそれぞれを中心に回転可能に支持する。支持機構200は、ロール軸、ピッチ軸、及びヨー軸の少なくとも1つを中心に撮像装置100を回転させることで、撮像装置100の姿勢を変更、または維持してよい。支持機構200は、ロール軸駆動機構201、ピッチ軸駆動機構202、及びヨー軸駆動機構203を備える。支持機構200は、ヨー軸駆動機構203が固定される基部204をさらに備える。把持部300は、基部204に固定される。把持部300は、操作インタフェース301、及び表示部302を備える。撮像装置100は、ピッチ軸駆動機構202に固定される。
操作インタフェース301は、撮像装置100及び支持機構200を操作するための命令をユーザから受け付ける。操作インタフェース301は、撮像装置100による撮影または録画を指示するシャッター/録画ボタンを含んでよい。操作インタフェース301は、撮像システム10の電源をオンまたはオフ、及び撮像装置100の静止画撮影モードまたは動画撮影モードの切り替えを指示する電源/ファンクションボタンを含んでよい。
表示部302は、撮像装置100により撮像される画像を表示してよい。表示部302は、撮像装置100及び支持機構200を操作するためのメニュー画面を表示してよい。表示部302は、撮像装置100及び支持機構200を操作するための命令を受け付けるタッチパネルディスプレイでよい。
図2は、撮像システム10の他の形態を示す外界斜視図の一例である。図2に示すように、撮像システム10は、把持部300の脇に、スマートフォン400などのディスプレイを備えるモバイル端末を固定した状態で、使用されてよい。ユーザは、把持部300を把持して撮像装置100により静止画または動画を撮影する。スマートフォン400などのディスプレイは、撮像装置100により静止画または動画を表示する。
図3は、撮像システム10の機能ブロックを示す図である。撮像装置100は、撮像制御部110、イメージセンサ120、メモリ130、レンズ制御部150、レンズ駆動部152、複数のレンズ154、及びTOFセンサ160を備える。
イメージセンサ120は、CCDまたはCMOSにより構成されてよい。イメージセンサ120は、撮像用のイメージセンサの一例である。イメージセンサ120は、複数のレンズ154を介して結像された光学像の画像データを撮像制御部110に出力する。撮像制御部110は、CPUまたはMPU等のマイクロプロセッサ、MCU等のマイクロコントローラ等により構成されてよい。
撮像制御部110は、把持部300からの撮像装置100の動作命令に応じて、撮像制御部110は、イメージセンサ120から出力された画像信号にデモザイク処理を施すことで画像データを生成する。撮像制御部110は、画像データをメモリ130に格納する。撮像制御部110は、TOFセンサ160を制御する。撮像制御部110は、回路の一例である。TOFセンサ160は、対象物までの距離を測距する飛行時間型センサである。撮像装置100は、TOFセンサ160により測距された距離に基づいて、フォーカスレンズの位置を調整することで、合焦制御を実行する。
メモリ130は、コンピュータ可読可能な記録媒体でよく、SRAM、DRAM、EPROM、EEPROM、及びUSBメモリ等のフラッシュメモリの少なくとも1つを含んでよい。メモリ130は、撮像制御部110がイメージセンサ120等を制御するのに必要なプログラム等を格納する。メモリ130は、撮像装置100の筐体の内部に設けられてよい。把持部300は、撮像装置100により撮像された画像データを保存するための他のメモリを備えてよい。把持部300は、把持部300の筐体からメモリを取り外し可能なスロットを有してよい。
複数のレンズ154は、ズームレンズ、バリフォーカルレンズ、及びフォーカスレンズとして機能してよい。複数のレンズ154の少なくとも一部または全部は、光軸に沿って移動可能に配置される。レンズ制御部150は、撮像制御部110からのレンズ制御命令に従って、レンズ駆動部152を駆動して、1または複数のレンズ154を光軸方向に沿って移動させる。レンズ制御命令は、例えば、ズーム制御命令、及びフォーカス制御命令である。レンズ駆動部152は、複数のレンズ154の少なくとも一部または全部を光軸方向に移動させるボイスコイルモータ(VCM)を含んでよい。レンズ駆動部152は、DCモータ、コアレスモータ、または超音波モータ等の電動機を含んでよい。レンズ駆動部152は、電動機からの動力をカム環、ガイド軸等の機構部材を介して複数のレンズ154の少なくとも一部または全部に伝達して、複数のレンズ154の少なくとも一部または全部を光軸に沿って移動させてよい。
撮像装置100は、姿勢制御部210、角速度センサ212、及び加速度センサ214をさらに備える。角速度センサ212は、撮像装置100の角速度を検出する。角速度センサ212は、撮像装置100のロール軸、ピッチ軸、及びヨー軸回りのそれぞれの角速度を検出する。姿勢制御部210は、角速度センサ212から撮像装置100の角速度に関する角速度情報を取得する。角速度情報は、撮像装置100のロール軸、ピッチ軸、及びヨー軸回りのそれぞれの角速度を示してよい。姿勢制御部210は、加速度センサ214から撮像装置100の加速度に関する加速度情報を取得する。加速度情報は、撮像装置100のロール軸、ピッチ軸、及びヨー軸のそれぞれの方向の加速度を示してもよい。
角速度センサ212、及び加速度センサ214は、イメージセンサ120及びレンズ154等を収容する筐体内に設けられてよい。本実施形態では、撮像装置100と支持機構200とが一体的に構成される形態について説明する。しかし、支持機構200が、撮像装置100を着脱可能に固定する台座を備えてよい。この場合、角速度センサ212、及び加速度センサ214は台座等、撮像装置100の筐体の外に設けられてよい。
姿勢制御部210は、角速度情報及び加速度情報に基づいて、撮像装置100の姿勢を維持または変更すべく、支持機構200を制御する。姿勢制御部210は、撮像装置100の姿勢を制御するための支持機構200の動作モードに従って、撮像装置100の姿勢を維持または変更すべく、支持機構200を制御する。
動作モードは、支持機構200の基部204の姿勢の変化に撮像装置100の姿勢の変化を追従させるように支持機構200のロール軸駆動機構201、ピッチ軸駆動機構202、及びヨー軸駆動機構203の少なくとも1つを動作させるモードを含む。動作モードは、支持機構200の基部204の姿勢の変化に撮像装置100の姿勢の変化を追従させるように支持機構200のロール軸駆動機構201、ピッチ軸駆動機構202、及びヨー軸駆動機構203のそれぞれを動作させるモードを含む。動作モードは、支持機構200の基部204の姿勢の変化に撮像装置100の姿勢の変化を追従させるように支持機構200のピッチ軸駆動機構202、及びヨー軸駆動機構203のそれぞれを動作させるモードを含む。動作モードは、支持機構200の基部204の姿勢の変化に撮像装置100の姿勢の変化を追従させるようにヨー軸駆動機構203のみを動作させるモードを含む。
動作モードは、支持機構200の基部204の姿勢の変化に撮像装置100の姿勢の変化を追従させるように支持機構200を動作させるFPV(First Person View)モードと、撮像装置100の姿勢を維持するように支持機構200を動作させる固定モードとを含んでよい。
FPVモードは、支持機構200の基部204の姿勢の変化に撮像装置100の姿勢の変化を追従させるように、ロール軸駆動機構201、ピッチ軸駆動機構202、及びヨー軸駆動機構203の少なくとも1つを動作させるモードである。固定モードは、撮像装置100の現在の姿勢を維持するように、ロール軸駆動機構201、ピッチ軸駆動機構202、及びヨー軸駆動機構203の少なくとも1つを動作させるモードである。
TOFセンサ160は、発光部162、受光部164、発光制御部166、受光制御部167、及びメモリ168を備える。TOFセンサ160は、測距センサの一例である。
発光部162は、少なくとも1つの発光素子163を含む。発光素子163は、LEDまたはレーザ等の高速変調されたパルス光を繰り返し出射するデバイスである。発光素子163は、赤外光であるパルス光を出射してよい。発光制御部166は、発光素子163の発光を制御する。発光制御部166は、発光素子163から出射されるパルス光のパルス幅を制御してよい。
受光部164は、複数の領域のそれぞれに関連する被写体までの距離を測距する複数の受光素子165を含む。受光部164は、測距用のイメージセンサの一例である。複数の受光素子165は、複数の領域のそれぞれに対応する。受光素子165は、対象物からのパルス光の反射光を繰り返し受光する。受光素子165は、対象物からのパルス光の反射光を含む光を受光し、受光された光の量に応じた信号を出力する。受光制御部167は、受光素子165の受光を制御する。受光制御部167は、受光素子165から出力される信号に基づいて、複数の領域のそれぞれに関連する被写体までの距離を測距する。受光制御部167は、予め定められた受光期間に受光素子165が繰り返し受光する反射光の量に基づいて、複数の領域のそれぞれに関連する被写体までの距離を測距する。受光制御部167は、予め定められた受光期間に受光素子165が繰り返し受光する反射光の量に基づいて、パルス光と反射光との間の位相差を特定することで、被写体までの距離を測距してよい。受光部164は、反射波の周波数変化を読み取ることで、被写体までの距離を測距してよい。これはFMCW(Frequency Modulated Continuous Wave)方式と呼ばれる。
メモリ168は、コンピュータ可読可能な記録媒体でよく、SRAM、DRAM、EPROM、及びEEPROMの少なくとも1つを含んでよい。メモリ168は、発光制御部166が発光部162を制御するために必要なプログラム、及び受光制御部167が受光部164を制御するのに必要なプログラム等を格納する。
撮像装置100が実行するオートフォーカス(AF)方式について説明する。撮像装置100は、TOFセンサ160で測距された撮像装置100から被写体までの距離(被写体距離)に基づいてフォーカスレンズを移動させることによって、フォーカスレンズとイメージセンサ120の撮像面との位置関係を制御してよい。
撮像制御部110は、フォーカスレンズを移動させながら、撮像装置100により撮像された画像のコントラスト評価値を導出し、コントラスト評価値がピークとなるフォーカスレンズの位置を特定することで、コントラストAFを実行してよい。撮像制御部110は、撮像装置100により撮像された画像に対してコントラスト評価フィルタを適用することで、画像のコントラスト評価値を導出してよい。撮像制御部110は、コントラスト評価値に基づいて、特定の被写体に合焦させるフォーカスレンズの位置を特定することで、コントラストAFを実行してよい。
他のAF方式として、フォーカスレンズを移動させることによって、フォーカスレンズとイメージセンサ120の撮像面との位置関係が異なる状態で撮像された複数の画像のぼけ量に基づいて決定する方式がある。ここで、この方式を用いたAFを、ぼけ検出オートフォーカス(Bokeh Detection Auto Foucus:BDAF)方式と称する。具体的には、BDAFでは、DFD(Depth From Defocus)演算を行ってAFを行う。
例えば、画像のぼけ量(Cost)は、ガウシアン関数を用いて次式(1)で表すことができる。式(1)において、xは、水平方向における画素位置を示す。σは、標準偏差値を示す。
図4は、画像のぼけ量(Cost)とフォーカスレンズの位置との関係を示す曲線の一例を示す。C1は、フォーカスレンズがx1に位置するときに得られた画像のぼけ量である。C2は、フォーカスレンズがx2に位置するときに得られた画像のぼけ量である。ぼけ量C1及び量C2からレンズ154の光学特性を考慮して定められる曲線500の極小点502に対応するレンズ位置x0にフォーカスレンズを合わせることで、被写体に焦点を合わせることができる。
図5は、BDAF方式における距離算出手順の一例を示すフローチャートである。撮像制御部110は、レンズ154とイメージセンサ120の撮像面とが第1位置関係にある状態で、第1画像を撮像してメモリ130に格納する。撮像制御部110は、レンズ154を光軸方向に移動させることで、レンズ154と撮像面とが第2位置関係にある状態にして、撮像装置100で第2画像を撮像してメモリ130に格納する(S201)。例えば、撮像制御部110は、フォーカスレンズを光軸方向に移動させることで、レンズ154と撮像面との位置関係を第1位置関係から第2位置関係に変更する。レンズの移動量は、例えば、10μm程度でよい。
次いで、撮像制御部110は、第1画像を複数の領域に分割する(S202)。撮像制御部110は、第1画像内の画素ごとに特徴量を算出して、類似する特徴量を有する画素群を一つの領域として第1画像を複数の領域に分割してよい。撮像制御部110は、第1画像のうちAF処理枠に設定されている範囲の画素群を複数の領域に分割してもよい。撮像制御部110は、第2画像を、第1画像の複数の領域に対応する複数の領域に分割する。撮像制御部110は、第1画像の複数の領域のそれぞれのぼけ量と、第2画像の複数の領域のそれぞれのぼけ量とに基づいて、複数の領域ごとに複数の領域のそれぞれに含まれるオブジェクトに対応する被写体までの距離を算出する(S203)。
なお、レンズ154とイメージセンサ120の撮像面との位置関係を変える方法は、レンズ154が備えるフォーカスレンズを移動させる方法に限られない。例えば、撮像制御部110は、レンズ154の全体を光軸方向に移動させてよい。撮像制御部110は、イメージセンサ120の撮像面を光軸方向に移動させてよい。撮像制御部110は、レンズ154が備える少なくとも一部のレンズ及びイメージセンサ120の撮像面の双方を光軸方向に移動させてよい。撮像制御部110は、レンズ154の焦点とイメージセンサ120の撮像面の相対的な位置関係を光学的に変えるための任意の方法を用いてよい。
図5を参照して被写体距離の算出手順についてさらに説明する。レンズLの主点から被写体510(物面)までの距離をA、レンズLの主点から被写体510からの光束が結像する位置(像面)までの距離をB、レンズLの焦点距離をFとする。この場合、距離A、距離B、及び焦点距離Fの関係は、レンズの公式から次式(2)で表すことができる。
焦点距離FはレンズLが備える各レンズの位置から定まる。したがって、被写体510からの光束が結像する距離Bが特定できれば、式(2)を用いて、レンズLの主点から被写体510までの距離Aを特定することができる。
ここで、レンズLと撮像面との位置関係を、イメージセンサの撮像面をレンズL側に移動させることによって変えたとする。図6に示すように、レンズLの主点から距離D1の位置やレンズLの主点から距離D2の位置に撮像面があるとすると、撮像面上に投影された被写体510の像にはぼけが生じる。撮像面上に投影された被写体510の像のぼけの大きさ(錯乱円512及び514)から被写体510が結像する位置を算出することで、距離Bを特定し、さらに距離Aを特定することができる。つまり、ぼけの大きさ(ぼけ量)が撮像面と結像位置とに比例することを考慮して、ぼけの量の差から結像位置を特定できる。
ここで、撮像面から距離D1の位置の像I及び撮像面から距離D2の位置の像Iのそれぞれの画像はぼけている。像Iについて、点像分布関数(Point Spread Function)をPSF、被写体像をId1とすると、像Iは、畳み込み演算により次式(3)で表すことができる。
像IもPSFによる畳み込み演算によって同様に表される。被写体像のフーリエ変換をfとして、点像分布関数PSF及びPSFをフーリエ変換した光学伝達関数(Optical Transfer Function)をOTF及びOTFとして、次式(4)のように比をとる。
式(4)に示す値Cは、レンズLの主点から距離D1の位置の像及びレンズLの主点から距離D2の位置の像のそれぞれのぼけ量の変化量、つまり、値Cは、レンズLの主点から距離D1の位置の像とレンズLの主点から距離D2の位置の像のぼけ量との差に相当する。
図6において、撮像面をレンズL側に移動させることによって、レンズLと撮像面との位置関係を変えた場合について説明した。フォーカスレンズを撮像面に対して移動させることによって、レンズLの焦点の位置と撮像面との位置関係を変えることによっても、ぼけ量に違いが生じる。本実施形態では、主にフォーカスレンズを撮像面に対して移動させることによってぼけ量が異なる画像を取得し、取得した画像に基づいてDFD演算を行ってデフォーカス量を表すDFD演算値を取得して、DFD演算値に基づいて被写体に合焦するためのフォーカスレンズの位置の目標値を、撮像面とフォーカスレンズとの目標位置関係として算出するものとする。
上記の通り、撮像装置100は、TOFセンサ160の測距に基づくAF(TOF方式)、DFD演算に基づくAF(DFD方式)、及びコントラスト評価値に基づくAF(コントラスト方式)のいずれかでAFを実行する。
TOF方式によれば、撮像装置100は、1枚の画像で被写体に合焦するためのフォーカスレンズの位置の目標値を導出できる。TOF方式は、撮像装置100が低輝度、かつ低コントラストの画像を撮像する場合に、精度よく目標値を導出できる。しかし、太陽光が入射されやすい環境では、TOFセンサ160にパルス光の反射光以外の外光が入射される可能性があるので、精度よく目標値を導出できない場合がある。
DFD方式によれば、撮像装置100は、フォーカスレンズの位置が異なる位置で撮像された2枚以上の画像により、被写体に合焦するためのフォーカスレンズの位置の目標値を導出できる。しかし、撮像装置100が、例えば、雲などのコントラストの低い画像を撮像する場合には、2以上の画像のぼけ量の差が少なく、精度よく目標値を導出できない場合がある。
コントラスト方式によれば、撮像装置100は、複数の画像を撮像して、コントラスト評価値がピークとなるフォーカスレンズの位置を特定する必要がある。したがって、目標値を導出するまでの時間が比較的長くなる。しかし、温度による機械的な変化、レンズなどの光学部材の変化などの外乱につよく、目標値の精度も高い。
以上のように、撮像装置100により撮像される被写体が存在する環境によって、最適なAF方式は異なる。また、フォーカスレンズをできるだけ移動させずにAFを行うことにより、AF処理の間に画像のぼけなどが生じず、ユーザに与える違和感を低減できる。そこで、本実施形態によれば、撮像装置100は、フォーカスレンズをできるだけ無駄に移動させずにAFを行うことができるAF方式を優先的に実行する。より具体的には、撮像装置100は、TOF方式で算出される被写体距離の信頼性が高い場合には、TOF方式でAFを行う。撮像装置100は、TOF方式で算出される被写体距離の信頼性が高くない場合には、DFD方式でAFを行う。さらに、TOF方式及びDFD方式で算出される被写体距離の信頼性が高くない場合には、コントラスト方式でAFを行う。
撮像制御部110は、受光素子165から出力される光の量に応じた信号が被写体距離の信頼性を示す第1条件を満たすか否かを判定する。撮像制御部110は、信号が光の量が予め定められた範囲に含まれることを示す場合、信号は第1条件を満たすと判定する。撮像制御部110は、信号が光の量が予め定められた範囲に含まれることを予め定められた期間継続的に示す場合、信号は第1条件を満たすと判定してよい。撮像制御部110は、信号により示される受光素子165で受光される光の振幅が下限閾値以上で、かつ信号がA/D変換された後の値が上限閾値以下である場合、信号は第1条件を満たすと判定してよい。撮像制御部110は、信号により示される受光素子165で受光される光の振幅が閾値以上で、かつ信号がA/D変換された後の値が飽和していない場合、信号は第1条件を満たすと判定してよい。すなわち、撮像制御部110は、発光素子163から出射されたパルス光に対して、受光素子165で受光される光が弱すぎず、かつ強すぎない場合、信号が第1条件を満たすと判定する。
撮像制御部110は、信号が第1条件を満たす場合、TOFセンサ160で測距された対象物までの距離に基づき特定される撮像装置100の撮像面とフォーカスレンズとの第1目標位置関係に基づいて、対象物に合焦させる合焦制御を実行する。撮像制御部110は、信号が第1条件を満たさない場合、撮像面とフォーカスレンズとの位置関係が第1位置関係で撮像装置100により撮像された第1画像及び撮像面とフォーカスレンズとの位置関係が第2位置関係で撮像装置100により撮像された第2画像のそれぞれのぼけ量に基づき特定される撮像面とフォーカスレンズとの第2目標位置関係に基づいて、対象物に合焦させる合焦制御を実行する。すなわち、撮像制御部110は、信号が第1条件を満たさない場合、DFD方式で合焦制御を実行する。
撮像制御部110は、信号が第1条件を満たさない場合、撮像面とフォーカスレンズとの位置関係が第1位置関係で撮像装置100により撮像された第1画像を取得した後、撮像面とフォーカスレンズとの位置関係を第2位置関係まで変化させて、撮像面とフォーカスレンズとの位置関係が第2位置関係で撮像装置100により撮像された第2画像を取得してよい。
撮像制御部110は、信号が第1条件を満たさない場合、撮像面とフォーカスレンズとの位置関係が第1位置関係で撮像装置100により撮像された第1画像を取得した後、第1目標位置関係に基づいて特定される方向にフォーカスレンズを予め定められた距離、移動させることで撮像面とフォーカスレンズとの位置関係を第2位置関係まで移動させてよい。TOF方式で算出された被写体距離の精度が低い場合でも、撮像制御部110は、TOF方式で算出された被写体距離に基づいて、フォーカスレンズを移動させるべき方向については、正しく判断できる可能性がある。そこで、撮像制御部110は、信号が第1条件を満たさない場合、TOF方式で算出された被写体距離に基づいてフォーカスレンズを移動させる法億を特定してもよい。
撮像制御部110は、DFD方式で合焦制御を実行する前に、第1画像と第2画像との間の違いの度合いを示す第1相違度が第2目標位置関係の信頼性を示す第2条件を満たすか否かを判定してよい。撮像制御部110は、第1画像と第2画像の類似度に基づいて、DFD方式の信頼性を示す第2条件を満たすか否かを判定してよい。撮像制御部110は、第1画像と第2画像との類似度が予め定められた閾値より低い場合、第1相違度が第2条件を満たすと判定してよい。撮像制御部110は、第1画像のコントラストと第2画像のコントラストとの差が予め定められた閾値より大きい場合、第1相違度が第2条件を満たすと判定してよい。撮像制御部110は、第1画像のぼけ量と第2画像のぼけ量との差が、予め定められた閾値より大きい場合、第1相違度が第2条件を満たすと判定してよい。そして、撮像制御部110は、第1相違度が第2条件を満たす場合、DFD方式で導出された第2目標位置関係に基づいて対象物に合焦させる合焦制御を実行してよい。
撮像制御部110は、第1相違度が第2条件を満たさない場合、コントラストAFにより対象物に合焦させる合焦制御を実行してよい。
撮像制御部110は、第1相違度が第2条件を満たさない場合、撮像面とフォーカスレンズとの位置関係を第2位置関係から第3位置関係までさらに変化させてよい。そして、撮像制御部110は、撮像面とフォーカスレンズとの位置関係が第3位置関係で撮像装置100により撮像された第3画像と第1画像または第2画像との間の違いの度合いを示す第2相違度が第2条件を満たす場合、第1画像または第2画像と、第3画像とのそれぞれのぼけ量に基づいて特定された撮像面とフォーカスレンズとの第3目標位置関係に基づいて対象物に合焦させる合焦制御を実行してよい。そして、撮像制御部110は、第2相違度が第2条件を満たさない場合、コントラストAFにより対象物に合焦させる合焦制御を実行してよい。
図7は、撮像装置100のAF処理の手順の一例を示すフローチャートである。撮像制御部110は、AF処理を開始すると、フォーカスレンズが第1位置で撮像装置100にDFD用の第1画像を撮像させ、DFD用の第1画像を取得する(S100)。次いで、撮像制御部110は、TOFセンサ160で測距される被写体距離の信頼性が高いか否かを判定する(S102)。撮像制御部110は、受光素子165から出力される信号で示される光の量が予め定められた範囲内であれば、TOFセンサ160で測距される被写体距離の信頼性が高いと判定してよい。
TOFセンサ160で測距される被写体距離の信頼性が高い場合、撮像制御部110は、TOFセンサ160により測距された被写体距離を示すTOF結果に基づいて、対象物に合焦させるフォーカスレンズの位置を示す合焦位置を演算する(S104)。撮像制御部110は、例えば、図8に示すようなTOF演算結果とフォーカスレンズ位置との関係を示すデータを参照することで、合焦位置を演算してよい。そして、撮像制御部110は、TOF方式の合焦位置へフォーカスレンズを駆動する(S106)。TOF結果の信頼性が高い場合、撮像制御部110は、図9に示すように、フォーカスレンズをAF開始位置から合焦位置まで駆動する。
TOF結果の信頼性が低い場合、撮像制御部110は、TOF結果に基づき演算された合焦位置に向かう方向を示す合焦方向にフォーカスレンズを1深度以下だけ駆動する(S108)。撮像制御部110は、フォーカスレンズを第1位置から第2位置まで移動させる。1深度は、DFD演算を行う場合に点像分布関数(Point Spread Function)を用いることができる最低限度のフォーカスレンズの移動距離に相当する。例えば、1深度は0.003mmでよい。フォーカスレンズを1深度以下だけ駆動することで、ユーザはフォーカスレンズの駆動による画像のぼけ度合いの変化を認識しづらい。したがって、フォーカスレンズの駆動によりディスプレイに表示されている画像のぼけ度合いが極端に変化し、ユーザに違和感を与えることを防止できる。
次いで、撮像制御部110は、フォーカスレンズが第2位置で撮像装置100にDFD用の第2画像を撮像させ、DFD用の第2画像を取得する(S110)。撮像制御部110は、第1画像及び第2画像を用いてDFD演算を行い合焦位置を演算する(S112)。撮像制御部110は、第1画像と第2画像とを用いたDFD演算による導出された合焦位置の信頼性が高いか否かを判定する(S114)。撮像制御部110は、第1画像と第2画像との類似度が予め定められた閾値以下の場合、DFD演算による導出された合焦位置の信頼性が高いと判定してよい。撮像制御部110は、第1画像のぼけ量と第2画像のぼけ量との差が予め定められた閾値以上の場合、DFD演算による導出された合焦位置の信頼性が高いと判定してよい。
DFD演算による導出された合焦位置の信頼性が高いと判定された場合、撮像制御部110は、DFD方式の合焦位置にフォーカスレンズを駆動する(S116)。DFD演算による導出された合焦位置の信頼性が高いと判定された場合、撮像制御部110は、図10に示すように、フォーカスレンズをAF開始位置(第1位置)から第2位置まで駆動する。その後、撮像制御部110は、DFD方式で演算された合焦位置までフォーカスレンズを駆動する。
DFD演算による導出された合焦位置の信頼性が低いと判定された場合、撮像制御部110は、さらにフォーカスレンズを合焦方向に駆動する(S118)。撮像制御部110は、フォーカスレンズを1深度以下だけ駆動してよい。または、撮像制御部110は、コントラストAFを実行すべく、TOF方式またはDFD方式で演算された合焦位置から特定されるコントラストAFサーチ範囲の一方の境界位置までフォーカスレンズを駆動してよい。撮像制御部110は、フォーカスレンズを第2位置から第3位置まで駆動する。そして、撮像制御部110は、フォーカスレンズが第3位置で撮像装置100にDFD用の第3画像を撮像させ、DFD用の第3画像を取得する(S120)。撮像制御部110は、第2画像と第3画像とを用いたDFD演算による導出された合焦位置の信頼性が高いか否かを判定する(S124)。撮像制御部110は、第1画像と第3画像とを用いたDFD演算による導出された合焦位置の信頼性が高いか否かを判定してもよい。
DFD演算による導出された合焦位置の信頼性が高い場合、撮像制御部110は、DFD方式の合焦位置にフォーカスレンズを駆動する(S116)。撮像制御部110は、図11に示すように、フォーカスレンズをAF開始位置(第1位置)から第2位置まで駆動し、さらに第3位置まで移動した後、第2画像と第3画像とを用いたDFD演算による導出された合焦位置までフォーカスレンズを駆動する。
DFD演算による導出された合焦位置の信頼性が低い場合、撮像制御部110は、コントラストAFを実行すべく、第3画像のコントラスト評価値を取得する(S126)。撮像制御部110は、コントラスト評価値がピークになるフォーカスレンズ位置を検索すべく、微小ステップで、フォーカスレンズを駆動する(S128)。
撮像制御部110は、コントラスト評価値がピークになるフォーカスレンズ位置を検索できたか否かを判定する(S130)。ピークを検索できなければ、撮像制御部110は、ステップS126以降を繰り返す。ピークを検索できれば、撮像制御部110は、コントラスト方式で特定された合焦位置までフォーカスレンズを駆動する(S132)。撮像制御部110は、図12に示すように、TOF方式及びDFD方式の合焦位置の信頼性が低ければ、コントラスト評価値のピークを検索すべく山登り方式で、フォーカスレンズを駆動する。撮像制御部110は、コントラスト評価値のピークを過ぎるまでフォーカスレンズを駆動した後、逆方向にさらにフォーカスレンズを駆動して、コントラスト方式の合焦位置までフォーカスレンズを駆動する。
以上の通り、本実施形態によれば、撮像装置100は、TOF方式で算出される被写体距離の信頼性が高い場合には、TOF方式でAFを行う。撮像装置100は、TOF方式で算出される被写体距離の信頼性が高くない場合には、DFD方式でAFを行う。さらに、TOF方式及びDFD方式で算出される被写体距離の信頼性が高くない場合には、コントラスト方式でAFを行う。これにより、撮像装置100は、フォーカスレンズをできるだけ無駄に移動させずにAFを行うことができるAF方式を優先的に実行できる。
上記のような撮像装置100は、移動体に搭載されてもよい。撮像装置100は、図13に示すような、無人航空機(UAV)に搭載されてもよい。UAV1000は、UAV本体20、ジンバル50、複数の撮像装置60、及び撮像装置100を備えてよい。ジンバル50、及び撮像装置100は、撮像システムの一例である。UAV1000は、推進部により推進される移動体の一例である。移動体とは、UAVの他、空中を移動する他の航空機などの飛行体、地上を移動する車両、水上を移動する船舶等を含む概念である。
UAV本体20は、複数の回転翼を備える。複数の回転翼は、推進部の一例である。UAV本体20は、複数の回転翼の回転を制御することでUAV1000を飛行させる。UAV本体20は、例えば、4つの回転翼を用いてUAV1000を飛行させる。回転翼の数は、4つには限定されない。また、UAV1000は、回転翼を有さない固定翼機でもよい。
撮像装置100は、所望の撮像範囲に含まれる被写体を撮像する撮像用のカメラである。ジンバル50は、撮像装置100を回転可能に支持する。ジンバル50は、支持機構の一例である。例えば、ジンバル50は、撮像装置100を、アクチュエータを用いてピッチ軸で回転可能に支持する。ジンバル50は、撮像装置100を、アクチュエータを用いて更にロール軸及びヨー軸のそれぞれを中心に回転可能に支持する。ジンバル50は、ヨー軸、ピッチ軸、及びロール軸の少なくとも1つを中心に撮像装置100を回転させることで、撮像装置100の姿勢を変更してよい。
複数の撮像装置60は、UAV1000の飛行を制御するためにUAV1000の周囲を撮像するセンシング用のカメラである。2つの撮像装置60が、UAV1000の機首である正面に設けられてよい。更に他の2つの撮像装置60が、UAV1000の底面に設けられてよい。正面側の2つの撮像装置60はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の2つの撮像装置60もペアとなり、ステレオカメラとして機能してよい。複数の撮像装置60により撮像された画像に基づいて、UAV1000の周囲の3次元空間データが生成されてよい。UAV1000が備える撮像装置60の数は4つには限定されない。UAV1000は、少なくとも1つの撮像装置60を備えていればよい。UAV1000は、UAV1000の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも1つの撮像装置60を備えてもよい。撮像装置60で設定できる画角は、撮像装置100で設定できる画角より広くてよい。撮像装置60は、単焦点レンズまたは魚眼レンズを有してもよい。
遠隔操作装置600は、UAV1000と通信して、UAV1000を遠隔操作する。遠隔操作装置600は、UAV1000と無線で通信してよい。遠隔操作装置600は、UAV1000に上昇、下降、加速、減速、前進、後進、回転等のUAV1000の移動に関する各種命令を示す指示情報を送信する。指示情報は、例えば、UAV1000の高度を上昇させる指示情報を含む。指示情報は、UAV1000が位置すべき高度を示してよい。UAV1000は、遠隔操作装置600から受信した指示情報により示される高度に位置するように移動する。指示情報は、UAV1000を上昇させる上昇命令を含んでよい。UAV1000は、上昇命令を受け付けている間、上昇する。UAV1000は、上昇命令を受け付けても、UAV1000の高度が上限高度に達している場合には、上昇を制限してよい。
図14は、本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ1200の一例を示す。コンピュータ1200にインストールされたプログラムは、コンピュータ1200に、本発明の実施形態に係る装置に関連付けられるオペレーションまたは当該装置の1または複数の「部」として機能させることができる。または、当該プログラムは、コンピュータ1200に当該オペレーションまたは当該1または複数の「部」を実行させることができる。当該プログラムは、コンピュータ1200に、本発明の実施形態に係るプロセスまたは当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ1200に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつかまたはすべてに関連付けられた特定のオペレーションを実行させるべく、CPU1212によって実行されてよい。
本実施形態によるコンピュータ1200は、CPU1212、及びRAM1214を含み、それらはホストコントローラ1210によって相互に接続されている。コンピュータ1200はまた、通信インタフェース1222、入力/出力ユニットを含み、それらは入力/出力コントローラ1220を介してホストコントローラ1210に接続されている。コンピュータ1200はまた、ROM1230を含む。CPU1212は、ROM1230及びRAM1214内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。
通信インタフェース1222は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブが、コンピュータ1200内のCPU1212によって使用されるプログラム及びデータを格納してよい。ROM1230はその中に、アクティブ化時にコンピュータ1200によって実行されるブートプログラム等、及び/またはコンピュータ1200のハードウェアに依存するプログラムを格納する。プログラムが、CR−ROM、USBメモリまたはICカードのようなコンピュータ可読記録媒体またはネットワークを介して提供される。プログラムは、コンピュータ可読記録媒体の例でもあるRAM1214、またはROM1230にインストールされ、CPU1212によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ1200に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置または方法が、コンピュータ1200の使用に従い情報のオペレーションまたは処理を実現することによって構成されてよい。
例えば、通信がコンピュータ1200及び外部デバイス間で実行される場合、CPU1212は、RAM1214にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース1222に対し、通信処理を命令してよい。通信インタフェース1222は、CPU1212の制御の下、RAM1214、またはUSBメモリのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、またはネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。
また、CPU1212は、USBメモリ等のような外部記録媒体に格納されたファイルまたはデータベースの全部または必要な部分がRAM1214に読み取られるようにし、RAM1214上のデータに対し様々なタイプの処理を実行してよい。CPU1212は次に、処理されたデータを外部記録媒体にライトバックしてよい。
様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。CPU1212は、RAM1214から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索/置換等を含む、様々なタイプの処理を実行してよく、結果をRAM1214に対しライトバックする。また、CPU1212は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第2の属性の属性値に関連付けられた第1の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、CPU1212は、第1の属性の属性値が指定される、条件に一致するエントリを当該複数のエントリの中から検索し、当該エントリ内に格納された第2の属性の属性値を読み取り、それにより予め定められた条件を満たす第1の属性に関連付けられた第2の属性の属性値を取得してよい。
上で説明したプログラムまたはソフトウェアモジュールは、コンピュータ1200上またはコンピュータ1200近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワークまたはインターネットに接続されたサーバーシステム内に提供されるハードディスクまたはRAMのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ1200に提供する。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
10 撮像システム
20 UAV本体
50 ジンバル
60 撮像装置
100 撮像装置
110 撮像制御部
120 イメージセンサ
130 メモリ
150 レンズ制御部
152 レンズ駆動部
154 レンズ
160 センサ
162 発光部
163 発光素子
164 受光部
165 受光素子
166 発光制御部
167 受光制御部
168 メモリ
200 支持機構
201 ロール軸駆動機構
202 ピッチ軸駆動機構
203 ヨー軸駆動機構
204 基部
210 姿勢制御部
212 角速度センサ
214 加速度センサ
300 把持部
301 操作インタフェース
302 表示部
400 スマートフォン
600 遠隔操作装置
1200 コンピュータ
1210 ホストコントローラ
1212 CPU
1214 RAM
1220 入力/出力コントローラ
1222 通信インタフェース
1230 ROM

Claims (10)

  1. パルス光を出射する発光素子と、対象物からの前記パルス光の反射光を含む光を受光して、受光された前記光の量に応じた信号を出力する受光素子とを有し、前記信号に基づいて前記対象物までの距離を測距する測距センサ、及びフォーカスレンズを備える撮像装置を制御する制御装置であって、
    前記信号が前記距離の信頼性を示す第1条件を満たす場合、前記距離に基づき特定される前記撮像装置の撮像面と前記フォーカスレンズとの第1目標位置関係に基づいて、前記対象物に合焦させる合焦制御を実行し、
    前記信号が前記第1条件を満たさない場合、前記撮像面と前記フォーカスレンズとの位置関係が第1位置関係で前記撮像装置により撮像された第1画像及び前記撮像面と前記フォーカスレンズとの位置関係が第2位置関係で前記撮像装置により撮像された第2画像のそれぞれのぼけ量に基づき特定される前記撮像面と前記フォーカスレンズとの第2目標位置関係に基づいて、前記合焦制御を実行するように構成された回路を備える制御装置。
  2. 前記回路は、前記第1画像と前記第2画像との違いの度合いを示す第1相違度が前記第2目標位置関係の信頼性を示す第2条件を満たす場合、前記第2目標位置関係に基づいて前記合焦制御を実行するように構成される、請求項1に記載の制御装置。
  3. 前記回路は、前記第1相違度が前記第2条件を満たさない場合、コントラストAFにより前記合焦制御を実行するように構成される、請求項2に記載の制御装置。
  4. 前記回路は、
    前記第1相違度が前記第2条件を満たさない場合、前記撮像面と前記フォーカスレンズとの位置関係を前記第2位置関係から第3位置関係まで変化させ、
    前記撮像面と前記フォーカスレンズとの位置関係が第3位置関係で前記撮像装置により撮像された第3画像と前記第1画像または前記第2画像との違いの度合いを示す第2相違度が前記第2条件を満たす場合、前記第1画像または前記第2画像と、前記第3画像とのそれぞれのぼけ量に基づいて特定された前記撮像面と前記フォーカスレンズとの第3目標位置関係に基づいて前記合焦制御を実行し、
    前記第2相違度が前記第2条件を満たさない場合、コントラストAFにより前記合焦制御を実行するように構成される、請求項2に記載の制御装置。
  5. 前記信号が前記光の量が予め定められた範囲に含まれることを示す場合、前記信号は前記第1条件を満たす、請求項1に記載の制御装置。
  6. 前記回路は、前記信号が前記第1条件を満たさない場合、前記撮像面と前記フォーカスレンズとの位置関係が前記第1位置関係で前記撮像装置により撮像された前記第1画像を取得した後、前記撮像面と前記フォーカスレンズとの位置関係を前記第2位置関係まで変化させて、前記撮像面と前記フォーカスレンズとの位置関係が前記第2位置関係で前記撮像装置により撮像された前記第2画像を取得するように構成される、請求項1に記載の制御装置。
  7. 前記回路は、前記信号が前記第1条件を満たさない場合、前記撮像面と前記フォーカスレンズとの位置関係が前記第1位置関係で前記撮像装置により撮像された前記第1画像を取得した後、前記第1目標位置関係に基づいて特定される方向に前記フォーカスレンズを予め定められた距離、移動させることで前記撮像面と前記フォーカスレンズとの位置関係を前記第2位置関係まで移動させるように構成される、請求項6に記載の制御装置。
  8. 請求項1から7のいずれか1つに記載の制御装置と、
    前記測距センサと、
    前記撮像装置と
    を備える撮像システム。
  9. パルス光を出射する発光素子と、対象物からの前記パルス光の反射光を含む光を受光して、受光された前記光の量に応じた信号を出力する受光素子とを有し、前記信号に基づいて前記対象物までの距離を測距する測距センサ、及びフォーカスレンズを備える撮像装置を制御する制御方法であって、
    前記信号が前記距離の信頼性を示す第1条件を満たす場合、前記距離に基づき特定される前記撮像装置の撮像面と前記フォーカスレンズとの第1目標位置関係に基づいて、前記対象物に合焦させる合焦制御を実行する段階と、
    前記信号が前記第1条件を満たさない場合、前記撮像面と前記フォーカスレンズとの位置関係が第1位置関係で前記撮像装置により撮像された第1画像及び前記撮像面と前記フォーカスレンズとの位置関係が第2位置関係で前記撮像装置により撮像された第2画像のそれぞれのぼけ量に基づき特定される前記撮像面と前記フォーカスレンズとの第2目標位置関係に基づいて、前記合焦制御を実行する段階と
    を備える制御方法。
  10. 請求項1から7のいずれか1つに記載の制御装置としてコンピュータを機能させるためのプログラム。
JP2019151539A 2019-08-21 2019-08-21 制御装置、撮像システム、制御方法、及びプログラム Pending JP2021032990A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019151539A JP2021032990A (ja) 2019-08-21 2019-08-21 制御装置、撮像システム、制御方法、及びプログラム
PCT/CN2020/106579 WO2021031833A1 (zh) 2019-08-21 2020-08-03 控制装置、摄像系统、控制方法以及程序
CN202080003361.5A CN112335227A (zh) 2019-08-21 2020-08-03 控制装置、摄像系统、控制方法以及程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019151539A JP2021032990A (ja) 2019-08-21 2019-08-21 制御装置、撮像システム、制御方法、及びプログラム

Publications (1)

Publication Number Publication Date
JP2021032990A true JP2021032990A (ja) 2021-03-01

Family

ID=74660175

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019151539A Pending JP2021032990A (ja) 2019-08-21 2019-08-21 制御装置、撮像システム、制御方法、及びプログラム

Country Status (2)

Country Link
JP (1) JP2021032990A (ja)
WO (1) WO2021031833A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022148973A (ja) * 2021-03-24 2022-10-06 ビクター ハッセルブラッド アクチボラーグ 距離検出装置、及び撮像装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE112015002088T5 (de) * 2014-05-02 2017-02-23 Fujifilm Corporation Abstandsmessvorrichtung, Abstandsmessverfahren und Abstandsmessprogramm
CN104954681B (zh) * 2015-06-16 2018-01-23 广东欧珀移动通信有限公司 一种关闭激光对焦模式的方法及终端
CN105763805B (zh) * 2016-02-29 2019-03-08 Oppo广东移动通信有限公司 控制方法、控制装置及电子装置
WO2018185939A1 (ja) * 2017-04-07 2018-10-11 エスゼット ディージェイアイ テクノロジー カンパニー リミテッド 撮像制御装置、撮像装置、撮像システム、移動体、撮像制御方法、及びプログラム
JP6543875B2 (ja) * 2017-09-28 2019-07-17 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 制御装置、撮像装置、飛行体、制御方法、プログラム
CN107809586B (zh) * 2017-10-31 2020-09-01 努比亚技术有限公司 移动终端对焦模式的切换方法、移动终端及存储介质

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022148973A (ja) * 2021-03-24 2022-10-06 ビクター ハッセルブラッド アクチボラーグ 距離検出装置、及び撮像装置
JP7160391B2 (ja) 2021-03-24 2022-10-25 ビクター ハッセルブラッド アクチボラーグ 距離検出装置、及び撮像装置

Also Published As

Publication number Publication date
WO2021031833A1 (zh) 2021-02-25

Similar Documents

Publication Publication Date Title
WO2018185939A1 (ja) 撮像制御装置、撮像装置、撮像システム、移動体、撮像制御方法、及びプログラム
JP6733106B2 (ja) 決定装置、移動体、決定方法、及びプログラム
JP2020012878A (ja) 制御装置、移動体、制御方法、及びプログラム
CN112335227A (zh) 控制装置、摄像系统、控制方法以及程序
JP6874251B2 (ja) 装置、撮像装置、移動体、方法、及びプログラム
JP2021085893A (ja) 制御装置、撮像装置、制御方法、及びプログラム
WO2021031833A1 (zh) 控制装置、摄像系统、控制方法以及程序
JP6768997B1 (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
JP6543875B2 (ja) 制御装置、撮像装置、飛行体、制御方法、プログラム
JP6503607B2 (ja) 撮像制御装置、撮像装置、撮像システム、移動体、撮像制御方法、及びプログラム
JP6972456B1 (ja) 測距センサ、撮像装置、制御方法、及びプログラム
JP2019082539A (ja) 制御装置、レンズ装置、飛行体、制御方法、及びプログラム
JP6714802B2 (ja) 制御装置、飛行体、制御方法、及びプログラム
JP6641574B1 (ja) 決定装置、移動体、決定方法、及びプログラム
JP6696092B2 (ja) 制御装置、移動体、制御方法、及びプログラム
JP6961889B1 (ja) 制御装置、撮像装置、制御方法、及びプログラム
JP7173657B2 (ja) 制御装置、撮像装置、制御方法、及びプログラム
JP7019895B2 (ja) 装置、撮像装置、撮像システム、移動体、方法、及びプログラム
JP7043707B2 (ja) シーン認識装置、撮像装置、シーン認識方法、及びプログラム
JP6805448B2 (ja) 制御装置、撮像システム、移動体、制御方法、及びプログラム
WO2021031840A1 (zh) 装置、摄像装置、移动体、方法以及程序
JP6746856B2 (ja) 制御装置、撮像システム、移動体、制御方法、及びプログラム
JP6569157B1 (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
WO2021249245A1 (zh) 装置、摄像装置、摄像系统及移动体
JP6413170B1 (ja) 決定装置、撮像装置、撮像システム、移動体、決定方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190821

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200901

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210413

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20211116