JP2018207453A - 制御装置、撮像装置、制御方法、プログラム及び撮像システム - Google Patents

制御装置、撮像装置、制御方法、プログラム及び撮像システム Download PDF

Info

Publication number
JP2018207453A
JP2018207453A JP2017114472A JP2017114472A JP2018207453A JP 2018207453 A JP2018207453 A JP 2018207453A JP 2017114472 A JP2017114472 A JP 2017114472A JP 2017114472 A JP2017114472 A JP 2017114472A JP 2018207453 A JP2018207453 A JP 2018207453A
Authority
JP
Japan
Prior art keywords
imaging
setting value
unit
total exposure
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017114472A
Other languages
English (en)
Other versions
JP7059522B2 (ja
JP2018207453A5 (ja
Inventor
雅史 若月
Masashi Wakatsuki
雅史 若月
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2017114472A priority Critical patent/JP7059522B2/ja
Priority to DE112018002918.2T priority patent/DE112018002918T5/de
Priority to PCT/JP2018/016080 priority patent/WO2018225392A1/en
Priority to US16/618,257 priority patent/US11272115B2/en
Publication of JP2018207453A publication Critical patent/JP2018207453A/ja
Publication of JP2018207453A5 publication Critical patent/JP2018207453A5/ja
Application granted granted Critical
Publication of JP7059522B2 publication Critical patent/JP7059522B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2624Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects for obtaining an image which is composed of whole input images, e.g. splitscreen
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)
  • Stereoscopic And Panoramic Photography (AREA)

Abstract

【課題】例えば、複数の撮像装置に対して適切な設定を行う。【解決手段】複数の総露出量を取得する取得部と、複数の総露出量の中から基準となる基準総露出量を決定し、基準総露出量に基づいて、複数の撮像装置毎の設定値を決定する制御部とを有する制御装置である。【選択図】図4

Description

本開示は、制御装置、撮像装置、制御方法、プログラム及び撮像システムに関する。
従来から複数の撮像装置(マルチカメラ)を使用するシステムが提案されている(例えば、下記特許文献1を参照のこと)。
特許第3830689号
このような分野では、各撮像装置に対して適切な設定がなされることが望まれる。
本開示は、複数の撮像装置のそれぞれに対して適切な設定を行うことが可能な制御装置、撮像装置、制御方法、プログラム及び撮像システムを提供することを目的の一つとする。
本開示は、例えば、
複数の総露出量を取得する取得部と、
複数の総露出量の中から基準となる基準総露出量を決定し、基準総露出量に基づいて、複数の撮像装置毎の設定値を決定する制御部と
を有する制御装置である。
本開示は、例えば、
撮像部と、
少なくとも、自身に設定される主設定値と他の撮像装置に設定される副設定値とを取得する取得部と、
主設定値を副設定値に基づいて変調する制御部と
を有し、
主設定値及び副設定値は、感度に関する設定値であり、
他の撮像装置は、撮像部を介して得られる画像と繋ぎ合わせる画像を撮影する装置である
撮像装置である。
本開示は、例えば、
取得部が、複数の総露出量を取得し、
制御部が、複数の総露出量の中から基準となる基準総露出量を決定し、基準総露出量に基づいて、複数の撮像装置毎の設定値を決定する
制御方法である。
本開示は、例えば、
取得部が、複数の総露出量を取得し、
制御部が、複数の総露出量の中から基準となる基準総露出量を決定し、基準総露出量に基づいて、複数の撮像装置毎の設定値を決定する
制御方法をコンピュータに実行させるプログラムである。
本開示は、例えば、
制御装置と、複数の撮像装置とを有し、
制御装置は、
複数の総露出量を取得する取得部と、
複数の総露出量の中から基準となる基準総露出量を決定し、基準総露出量に基づいて、複数の撮像装置毎の設定値を決定する制御部と
複数の撮像装置に共通する第1の設定値及び撮影を行うタイミングを示すタイミング情報を複数の撮像装置の全てに対して送信し、複数の撮像装置毎に異なる第2の設定値を対応する撮像装置に対して送信する通信部と
を有し、
撮像装置は、
第1の設定値及び第2の設定値に基づいて、タイミング情報で示されるタイミングで撮影を行う撮像制御部を有する
撮像システムである。
本開示の少なくとも実施形態によれば、例えば、複数の撮像装置のそれぞれに対して適切な設定を行うことが可能となる。なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれの効果であっても良い。また、例示された効果により本開示の内容が限定して解釈されるものではない。
図1は、本開示の一実施形態に係る撮像システムの構成例を示す図である。 図2は、本開示の一実施形態に係るマルチカメラ制御装置の構成例を示すブロック図である。 図3は、本開示の一実施形態に係る撮像装置の構成例を示すブロック図である。 図4は、本開示の一実施形態に係る撮像システムにおいて行われる処理の流れを示すフローチャートである。 図5は、変形例を説明するための図である。 図6は、車両制御システムの概略的な構成の一例を示すブロック図である。 図7は、車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
以下、本開示の実施形態等について図面を参照しながら説明する。なお、説明は以下の順序で行う。
<1.一実施形態>
<2.変形例>
<3.応用例>
以下に説明する実施形態等は本開示の好適な具体例であり、本開示の内容がこれらの実施形態等に限定されるものではない。
<1.一実施形態>
[撮像システムの構成例]
図1は、本開示の一実施形態に係る撮像システム(撮像システム1)の構成例を示している。撮像システム1は、複数の撮像装置と、制御装置としてのマルチカメラ制御装置10とを有している。本実施形態に係る撮像システム1は、複数の撮像装置として4台の撮像装置20A、20B、20C、20Dを有している(以下の説明において、個々の撮像装置を区別する必要がない場合には、撮像装置20と称する場合がある。)もちろん、撮像装置20の数は4台に限定されるものではなく、複数(2台以上)であれば良い。
マルチカメラ制御装置10と撮像装置20との間でアクセスポイントAPを介した近距離の無線通信が行われる。無線通信の規格は、例えばWiFi(登録商標)を適用することができるがこれに限定されるものではない。なお、マルチカメラ制御装置10と撮像装置20との間が有線で接続され、有線による通信が行われるようにしても良い。
マルチカメラ制御装置10は、撮像装置20A、20B、20C、20Dに対する設定値を決定する。マルチカメラ制御装置10は、パーソナルコンピュータ、タブレットコンピュータ、スマートフォン等を適用することができる。マルチカメラ制御装置10は、撮像システム1におけるマスタ機として機能する。また、本実施形態に係るマルチカメラ制御装置10は、撮像装置20により撮影された画像を繋ぎ合わせてパノラマ画像やVR(Virtual Reality)を生成する機能を有している。
4台の撮像装置20A〜20Dは、例えば、近接して配置される。撮像装置20の配置態様は、任意とすることができる。例えば、図1に示すように、4台の撮像装置20が横方向(水平方向)に並ぶように配置される。4台の撮像装置20が縦方向(垂直方向)に並べて配置されても良いし、横方向及び縦方向に配置されても良い。4台の撮像装置20が円周状に配置されても良い。この場合、撮像装置20の撮像方向は円の内側でも良いし外側でも良い。撮像装置20は、例えば、リグと称される支持装置に支持されることにより、所定の位置に配置される。各撮像装置をユーザが手で支持しても良い。撮像装置20は、一眼レフカメラのように撮像機能を主とする装置でも良いし、スマートフォン、タブレットコンピュータ等のように多機能を有する装置であってその機能の中に撮像機能を含む装置であっても良い。
撮像システム1で行われる処理について概略的に説明する。撮像システム1における各撮像装置20A〜20Dに対して適正な露出を実現するための設定値が、マルチカメラ制御装置10から送信される。さらに、各撮像装置20A〜20Dに対しては、マルチカメラ制御装置10から撮影を行うタイミング情報が送信される。撮像装置20A〜20Dは、自身に送信された設定値を対応する機能ブロックに設定する。そして、タイミング情報で示されるタイミングで撮像装置20A〜20Dが同期した撮影を行い、所定の被写体を撮影する。
撮影装置20A〜20Dが撮影動作を行うことで得られる画像データがマルチカメラ制御装置10に送信される。マルチカメラ制御装置10は、撮像装置20A〜20Dから供給される画像データを繋ぎ合わせることにより、パノラマ画像やVR画像を生成する。マルチカメラ制御装置10は、撮像装置20A〜20Dから供給される画像データを横方向や縦方向、円環状等、適宜な方向に繋ぎ合わせる。撮像システム1の具体的な適用例として、撮像装置20A〜20Dが、例えば異なる所有者のものとされる。すなわち、パーティー等で参加者が保有する撮像装置を使用して撮像システム1を構成することにより、簡単にパノラマ画像やVR画像を得ることができる。
なお、パノラマ画像やVR画像は静止画でも良いし動画でも良い。動画の場合は、所定の回数、同期撮影が行われ、同期撮影により得られる画像が繋ぎ合わされる。そして、例えば、繋ぎ合わされた画像における再生箇所をユーザが指定し再生を開始することにより、動画として再生することができる。すなわち、本開示に係る技術は、静止画及び動画のそれぞれに対して適用することができる。
ところで、撮像装置により得られる画像の明るさを決定する要素(パラメータ)として、絞り、シャッタースピード、感度(ゲイン)が知られている。絞りは設定値によってピントが合う範囲(被写界深度)が異なり、シャッタースピードは設定値によって被写体のブレの度合いが異なる。例えば、シャッタースピードが長いと動被写体が流れるように写る。このため、上記2つの要素は一度撮影された画像を画像処理によって補正することは困難である。したがって、各撮像装置で得られた画像を繋ぎ合わせる場合、撮像装置間における絞り及びシャッタースピードの少なくとも一方(本実施形態では両方)の設定値(第1の設定値)が揃っていることが望まれる。
一方、感度の調整に関しては画像処理により容易に実現することができる。絞り及びシャッタースピードの設定値を撮像装置20で共通とした場合、撮像装置20の位置によっては露出オーバー又は露出アンダーが発生し得る。そこで、本実施形態では、撮像装置20A〜20D毎に異なる感度の設定値(第2の設定値)を設定する。これにより、繋ぎ合わせる各画像の露出が適切なものとなり、高品質のパノラマ画像やVR画像を生成することができる。
なお、撮像装置20A〜20D毎に異なる感度の設定値とは、撮像装置20A〜20Dの感度の設定値の全てが異なっていなくても良いし、一部の撮像装置の感度の設定値が同一であっても良い。例えば、撮像装置20A、20Bの感度の設定値が同一であり、撮像装置20C、20Dの感度の設定値が撮像装置20A、20Bの感度の設定値と異なる値でも良い。また、撮像装置20A〜20D毎に感度の設定値が計算されれば良く、撮影の環境によっては全ての感度の設定値が同一となる場合もあり得る。以下、このような点に鑑みてなされた本開示の一実施形態について、より詳細に説明する。
[マルチカメラ制御装置の構成例]
図2は、マルチカメラ制御装置10の構成例を示している。マルチカメラ制御装置10は、例えば、制御部11と、通信部12とを有している。
制御部11は、CPU(Central Processing Unit)等から構成されており、マルチカメラ制御装置10の各部を制御する。制御部11は、通信部12を介して得られるデータに基づく処理や、通信部12を介して撮像装置20に送信するデータを生成する。
通信部12は、撮像装置20と通信を行うための構成である。本実施形態では、通信部12が取得部として機能する。通信部12は、撮像装置20から送信されたデータ(例えば、後述する総露出量の一例であるEV(Exposure Value)値)を通信により取得し、取得したデータを制御部11に供給する。また、通信部12は、制御部11の制御に応じて動作し、制御部11から供給されるデータ(例えば、各撮像装置の設定情報)を撮像装置20に対して送信する。
なお、図2では、マルチカメラ制御装置10の構成のうち、本実施形態に関わる主要な構成のみが示されている。マルチカメラ制御装置10が図示された構成以外の構成を有していても良い。例えば、マルチカメラ制御装置10が、タッチパネルやキーボード等の操作入力部、スピーカ、ディスプレイ等を有していても良い。
[撮像装置の構成例]
次に、撮像装置20の構成について説明する。なお、以下の説明では、撮像装置20Aの構成を例にして説明する。撮像装置20B〜20Dは、後述する動作を実行するための構成を有していれば、撮像装置20Aと同じ構成でも良いし異なる構成であっても良い。
図3は、一実施形態に係る撮像装置20Aの構成例を示している。撮像装置20Aは、例えば、光学撮像系21と、撮像部22と、信号処理部23と、総露出量演算部24と、制御部(撮像制御部)25と、通信部26と、絞り駆動部27とを有している。
光学撮像系21は、被写体からの光を撮像部22に集光するための撮影レンズ、光量を調節するための絞り等を総称したものである。図3では、便宜上1枚の撮影レンズが示されているが、撮影レンズにはフォーカスレンズ、ズームレンズ等が含まれている。制御部25から供給されるレンズ駆動信号に応じてモータ等の図示しないレンズ駆動機構が動作することにより、撮影レンズが光軸方向に沿って移動される。これによりAF(Auto Focus)動作が実現される。光学撮像系21を介して得られた被写体の光画像は、撮像デバイスとしての撮像部22上に結像される。なお、撮影レンズは、撮像装置20Aのボディ部と一体のものでも良いし、所定のアダプタを介してボディ部に着脱可能とされたものであっても良い。
撮像部22は、撮影画像生成用の撮像素子と、アナログフロントエンド(前処理回路)とを有している。撮像素子としては、CCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)などが用いられる。撮像部22は、光学撮像系21を介して入射する被写体光を光電変換して電荷量に変換し、画像を生成する。前処理回路は、撮像素子から出力された撮像信号に対して、CDS(Correlated Double Sampling)処理によりS/N(Signal/Noise)比を良好に保つようにサンプルホールドなどを行う。さらに、AGC(Auto Gain Control)処理により利得を制御し、A/D(Analog/Digital)変換を行ってデジタル形式の画像信号を出力する。出力された画像信号が信号処理部23及び総露出量演算部24に供給されるように構成されている。
信号処理部23は、撮像部22から供給される画像信号に対して、ホワイトバランス調整処理や色補正処理、ガンマ補正処理、Y/C変換処理、AE(Auto Exposure)処理などの信号処理を施す。また、信号処理部23は、制御部25から供給される感度情報で示される設定値でもって画像の感度を調節する。感度に関する設定値は、例えば、ISO(International Organization for Standardization)感度と称されるものである。
総露出量演算部24は、撮像部22から供給される画像信号を使用して適正な(適切な)露出量を計算し、計算結果である総露出量を制御部25に出力する。本実施形態では、総露出量の一例としてEV値が用いられる。
制御部25は、例えばCPU、RAM(Random Access Memory)およびROM(Read Only Memory)などから構成されている。ROMには、CPUにより読み込まれ実行されるプログラムなどが記憶されている。RAMは、CPUのワークメモリとして用いられる。CPUは、ROMに記憶されたプログラムに従い様々な処理を実行してコマンドの発行を行うことによって撮像装置20A全体の制御を行う。制御部25は、内部にRTC(Real Time Clock)を有しており、後述するタイミング情報で示されるタイミング(時刻)で撮像装置20Aを動作させ撮影を行うことが可能となっている。なお、制御部25が行う具体的な処理の内容については後述する。
通信部26は、撮像装置20Aが他の機器(例えば、マルチカメラ制御装置10)と通信を行うための構成である。通信部26は、所定の通信方式に基づいて通信を行うことにより、制御部25により供給されたデータをマルチカメラ制御装置10に送信する。また、通信部26は、マルチカメラ制御装置10から送信されたデータを受信し、受信したデータを制御部25に供給する。
絞り駆動部27は、制御部25から供給される制御信号(絞り情報)に応じて、図示しない絞り駆動機構を駆動して絞りを動作させる。
なお、上述した撮像装置20Aの構成は、適宜、変更することができる。例えば、撮像部22が、撮像素子や前処理回路等が積層された1チップのものでも良い。また、撮像装置20Aが、信号処理部23から出力される画像信号が記憶される記憶部を有する構成でも良い。このような、記憶部は、撮像装置20Aに内蔵されたものでも良いし、撮像装置20Aに着脱自在とされるものであっても良い。また、撮像装置20Aが、ディスプレイを有していても良い。ディスプレイは、LCD(Liquid Crystal Display)や有機EL(Electro Luminescence)等を用いることができる。ディスプレイには、撮影対象を決定するための画像(スルー画像)、撮像装置20Aにより撮影された画像や撮像装置20Aに記憶されている画像、通信部26を介して他の機器やネットワーク経由で取得された画像等が表示される。その他に、撮像装置20Aが、撮像装置20Aを操作するための操作入力部等を有していても構わない。
(撮像装置における信号の流れ)
次に、撮像装置20Aにおける信号の流れの一例について説明する。撮像部22により得られた画像信号が信号処理部23及び総露出量演算部24に供給される。総露出量演算部24により計算されたEV値が制御部25に供給される。このEV値や撮像装置20AのID等を含む情報が自身の撮像装置の情報として、通信部26からマルチカメラ制御装置10に送信される。
また、マルチカメラ制御装置10から送信された設定値が通信部26により受信される。この設定値に基づいて、制御部25がシャッタースピード(SS)、絞り、感度を制御する。具体的には、シャッタースピードに関する値に基づいて撮像部22の撮像素子に当たる光の照射時間を制御する。また、制御部25は、絞りに関する設定値に応じた絞り情報を絞り駆動部27に出力し、絞り情報に応じて絞り駆動部27が光学撮像系21における絞りを制御する。また、制御部25は、マルチカメラ制御装置10から送信された感度の設定値に基づいて感度情報を出力し感度を制御する。例えば、制御部25が撮像部22に感度情報を出力することにより、撮像素子から出力される信号に対するゲインが感度情報に基づく値に設定されることで、感度が調整される。なお、制御部25が感度情報を信号処理部23に出力しても良い。そして、信号処理部23のゲイン調整処理におけるゲインが感度情報に基づく値に設定されることで、感度が調整されるようにしても良い。
[動作例]
次に、図4に示すフローチャートを参照して、撮像システム1を構成する各装置によって行われる処理(各装置の動作)について説明する。なお、図4に示す処理の前に、撮像システム1に係るネットワークを構築する処理が行われる。この処理について概略的に説明すれば、始めに、マルチカメラ制御装置10が撮像システム1を構成する撮像装置20を認識する。例えば、マルチカメラ制御装置10は、周囲にビーコンを発信してその応答の有無を判別することにより周囲の撮像装置20を認識しても良いし、有線通信が行われる場合には物理的な接続を契機としてなされる通信により接続された撮像装置20を認識しても良い。
マルチカメラ制御装置10が撮像システム1を構成する撮像装置として撮像装置20A〜20Dを認識すると、マルチカメラ制御装置10の制御部11は撮像装置20A〜20Dのそれぞれに異なるID(Identifier)を割り当てる。IDとしてIP(Internet Protocol)アドレスが用いられても良い。制御部11は、通信部12を制御して、IDを対応する撮像装置に送信する。例えば、IDが撮像装置20Aの通信部26により受信された後、制御部25に供給される。制御部25は、撮像装置20Aに割り当てられたIDを認識する。他の撮像装置20B〜20Dでも同様の処理が行われる。なお、以下では、4台の撮像装置のうち撮像装置20Aを例にして説明するが、特に断らない限り、撮像装置20Aによって行われる処理は、撮像装置20B〜撮像装置20Dによっても行われる。
図4のフローチャートにより示される処理について説明する。ステップST11では、撮像装置20Aの撮像部22を介して画像信号が取得される。続いて、処理がステップST12に進む。
ステップST12では、ステップST11の処理で得られた画像信号を使用して適正な露出値を示すEV値を総露出量演算部24が算出する。そして、処理がステップST13に進む。
ステップST13では、マスタ機であるか否かが判断される。本実施形態におけるこの判断処理は、マスタ機であるマルチカメラ制御装置10と撮像装置20とで行われる処理がそれぞれ異なるため、理解を容易とするための処理である。但し、何れかの撮像装置がマスタ機として動作する場合もあるため、その場合には撮像装置20においてこの処理が行われる。マスタ機でない場合、すなわち、撮像装置20A〜20Dの何れかである場合には、処理がステップST14に進む。
ステップST14では、ステップST12で総露出量演算部24が演算した総露出量を撮像装置20Aがマルチカメラ制御装置10に送信する。例えば、総露出量演算部24がEV値を制御部25に供給する。制御部25は、EV値を通信方式に対応するフォーマットの信号に変換した後、通信部26を制御して当該EV値をマルチカメラ制御装置10に送信する。そして、処理がステップST15に進む。
ステップST15では、撮像装置20Aの通信部26が、マルチカメラ制御装置10から送信される設定値及びタイミング情報を受信する。ここで、タイミング情報とは、設定値を反映させた撮影を行うタイミングを示す情報である。そして、処理がステップST16に進む。
マスタ機である場合には、ステップST13に続いてステップST16の処理が行われる。ステップST16では、全ての撮像装置20A〜20Dから送信されるEV値を通信部12が受信したか否かが判断される。撮像装置20A〜20DのそれぞれからEV値を受信していない場合は、処理がステップST16に戻り、ステップST16の処理が繰り返される。なお、所定時間、特定の撮像装置からEV値が送信されない場合には、当該撮像装置にEV値を要求する処理や、当該撮像装置をスキップしてその後の処理を行う制御が行われても良い。ステップST16において、全ての撮像装置20A〜20Dから送信されるEV値を通信部12が受信した場合には、処理がステップST17に進む。
ステップST17では、マルチカメラ制御装置10の制御部11が全ての撮像装置20のEV値が受信される。そして、処理がステップST18に進む。
ステップST18では、マルチカメラ制御装置10の制御部11が、撮像装置20の全てに共通する設定値である、シャッタースピード及び絞りに関する設定値を計算する。また、マルチカメラ制御装置10の制御部11が、撮像装置20毎に異なる設定値である、感度の設定値を計算する。
制御部11は、例えば、以下の方法により各設定値を計算する。撮像装置20から送信された4個のEV値の中から基準となる基準EV値(基準総露出量)を決定する。例えば、制御部11は、最も大きいEV値(画像の明るさとしては明るい)を基準EV値として決定する。なお、本実施形態では、基準EV値は撮像装置20Aから送信されたものとして説明する。
制御部11は、基準EV値に対応する感度(感度としては小さくなる)を最低感度に設定し、プログラム線図等を参照して、この最低感度に対応するシャッタースピード及び絞り値を求める。このシャッタースピード及び絞り値を各撮像装置20に共通の設定値とする。しかしながら、このままでは撮像装置20A以外の撮像装置による撮影において露出が不足するおそれがある。そこで、制御部11が、例えば撮像装置20Bから送信されたEV値と、共通のシャッタースピード及び絞り値とに基づいて、撮像装置20Bに対する感度の設定値を決定する。制御部11は、撮像装置20C及び20Dについても同様に、感度の設定値を決定する。以上の処理が行われた後、処理がステップST19に進む。
ステップST19は、マルチカメラ制御装置10の制御部11が、撮像装置のIDと設定値(シャッタースピード、絞り及び感度に関する設定値)とタイミング情報とを対応付けた通信用データ(設定情報)を生成する。制御部11は、生成した通信用データを通信部12に供給する。通信部12から通信用データが撮像装置20に配信される。上述したように、配信された通信用データは、ステップST15において、対応する撮像装置20により受信される。そして、処理がステップST20に進む。
ステップST20では、各撮像装置20の制御部25が、現在の時刻がタイミング情報で示された時刻になったか否かを判断する。ここで、現在の時刻がタイミング情報で示された時刻でない場合には処理がステップST20に戻り、ステップST20の処理が繰り返される。現在の時刻がタイミング情報で示された時刻である場合には、処理がステップST21に進む。
ステップST21では、撮像装置20Aの制御部25が、ステップST15で受信した設定値に基づいて撮影を行う制御を実行する。撮像装置20B〜20Dにおいても、それぞれが受信した設定値に基づいて撮影を行う制御が行われる。これにより、4台の撮像装置20を使用した同期撮影が行われる。
なお、図示はしていないが、撮像装置20で撮影された画像は、マルチカメラ制御装置10に送信される。マルチカメラ制御装置10は、撮像装置20から送信された画像を繋ぎ合わせることにより、VR画像やパノラマ画像を生成する。複数の画像を繋ぎ合わせる方法は、例えばαブレンド等と称される方法や公知の方法を適用することができる。
以上、説明した一実施形態によれば、複数の撮像装置を使用したマルチカメラシステムによって得られる画像に基づいてVR画像やパノラマ画像を生成する際に、撮像装置間のシャッタースピード及び絞りに関する設定値が撮像装置間で揃うため、高品質のVR画像やパノラマ画像を生成することが可能となる。また、設定値の切り替えを同時刻に反映して撮影できるため、動画や静止画で露出に関する設定値のずれが無い質の高い画像を生成することが可能になる。
<2.変形例>
以上、本開示の一実施形態について具体的に説明したが、本開示の内容は上述した一実施形態に限定されるものではなく、本開示の技術的思想に基づく各種の変形が可能である。
(感度を変調する変形例)
VR画像やパノラマ画像を生成するために複数の画像を繋ぎ合わせる(スティッチ)場合には、つなぎ目が自然になることが望まれる。そこで、撮像装置20が自身に設定された感度の設定値を変調して撮影を行うようにしても良い。
この点について、図5を参照して詳細に説明する。図5Aでは、3枚の画像IM1〜IM3が模式的に示されている。例えば、画像IM1が撮像装置20Bにより撮影された画像であり、画像IM2、画像IM3が画像IM1に繋ぎ合わせる画像であり、それぞれ撮像装置20Bに隣接する撮像装置20A、20Cにより撮影された画像である。図5Aにおいて点線で囲まれた箇所は、画像を繋ぎ合わせる箇所を示している。すなわち、画像IM1における繋ぎ合わせ部AR1aと画像IM2における繋ぎ合わせ部AR1bとが繋ぎ合わされる。また、画像IM1における繋ぎ合わせ部AR2aと画像IM3における繋ぎ合わせ部AR2bとが繋ぎ合わされる。対応する繋ぎ合わせ部には、例えば同じ被写体が写っており、所定の透過度に基づいて繋ぎ合わされる。なお、繋ぎ合わせ部AR1a、AR1b、AR2a、AR2bは、ユーザにより設定される領域でも良いし、画像IM1〜画像IM3を用いて、撮像装置20の制御部25により自動的に認識される領域でも良い。
図5Bは、マルチカメラ制御装置10により指示された感度の設定値GA1〜GA3を模式的に示したものである。設定値GA1は、撮像装置20Bに設定される感度の設定値である。設定値GA2は、撮像装置20Aに設定される感度の設定値である。設定値GA3は、撮像装置20Cに設定される感度の設定値である。一実施形態で説明したように、各撮像装置20における感度の設定値は、適正な総露出量に基づいて設定されたものである。しかしながら、撮影方向によっては適正な総露出量が撮像装置毎に異なる環境もあり得る。この場合、露出オーバーや露出アンダーが生じる可能性がある。さらに、繋ぎ合わせ部AR1aと繋ぎ合わせ部AR1bとの間や繋ぎ合わせ部AR2aと繋ぎ合わせ部AR2bとの間に生じ得る露出差により、最終的に得られるパノラマ画像やVR画像が不自然になるおそれがある。そこで、変形例では、例えばフレーム内で感度を変調する処理が行われる。
以下、処理の具体的な内容の一例について説明する。マルチカメラ制御装置10は、撮像装置20Bに対して一実施形態と同様にシャッタースピード、絞り及び撮像装置20Bの感度に関する設定値(主設定値)と、タイミング情報とを送信する。さらに、マルチカメラ制御装置10は、画像IM1に繋ぎ合わせる画像を撮影する撮像装置(本例では、撮像装置20A、撮像装置20C)に関する感度の設定値(副設定値)を送信する。
撮像装置20Bの制御部25は、自身の感度の設定値GA1を、設定値GA2及び設定値GA3を使用して変調する。例えば、図5Cに示すように、設定値GA1〜GA3が略リニアに変化するように、設定値GA1を変調する。変調後の感度の設定値でもって、撮影画像を得る。例えば、撮像素子の読み出し行単位や、画素単位、複数の画素からなるブロック単位で、変調された感度を適用する、換言すれば、適用する感度を異なるようにする。これにより、繋ぎ合わせる箇所に適用される感度の設定値が略等しくなる。以上の処理を行うことにより、撮像装置20の向きによって適正な露出量が異なる環境においても、露出オーバーや露出アンダーが発生してしまうことを防止できる。さらに、繋ぎ合わせ部AR1a及び繋ぎ合わせ部AR1bに対する感度の設定値が略等しくなる。また、繋ぎ合わせ部AR2a及び繋ぎ合わせ部AR2bに対する感度の設定値が略等しくなる。したがって、各画像を繋ぎ合わせる箇所に極端な露出差が生じてしまうことを防止することができ、高品質のパノラマ画像やVR画像を得ることができる。
なお、撮像装置20Aのように、端に配置される撮像装置の場合は、例えば、隣の撮像装置20Bの感度の設定値に応じて、撮像装置20Aの感度の設定値が変調される。また、上下方向で得られる画像を繋ぎ合わせる場合にも、本例を適用することができる。さらに、感度を変調する方法は、感度をリニアに変化させることに限定されることはなく、非線形補間により変調させても良い。
なお、撮像装置20の配置位置については、ユーザがマルチカメラ制御装置10に設定しても良いし、マルチカメラ制御装置10が電波強度やGPS(Global Positioning System)等を参照して各撮像装置の配置位置を識別するようにしても良い。これにより、例えば撮像装置20Bに対しては、撮像装置20A、20Cの感度に関する設定値を送信すれば良いと、マルチカメラ制御装置10が認識することができる。
(その他の変形例)
その他の変形例について説明する。上述した一実施形態では、マルチカメラ制御装置10がマスタ機として動作したが、撮像システム1においてマルチカメラ制御装置10がなくても良い。そして、4台のうちの1台の撮像装置がマスタ機としてマルチカメラ制御装置10と同様の動作を行うようにしても良い。なお、例えば撮像装置20Aがマスタ機として動作する場合には、自身の総露出量を演算する総露出量演算部24及び撮像装置20B〜20Dの総露出量を取得する通信部26が取得部として機能する。複数の撮像装置のうちどれをマスタ機とするかは、例えばユーザにより設定される。
各撮像装置20において共通とされるシャッタースピード及び絞りに関する設定値は、好ましくは同一の値であるが、撮像装置20の性能等の相違に応じて所定の範囲の誤差があっても良い。また、上述した一実施形態において、シャッタースピード及び絞りの設定値のうち、何れか(例えば、絞りの設定値)が各撮像装置20において共通とされても良い。
上述した一実施形態では、最も大きいEV値を基準EV値として決定したが、これに限定されるものではない。但し、最も大きいEV値を基準EV値とすることにより、感度の設定値としては小さくなるのでノイズ的に有利にすることができる。
マルチカメラ制御装置10の制御部11は、撮像装置20毎の設定値を周期的に計算して決定しても良い。これにより、気象条件の変化等に起因して適正なEV値が変化する環境下においても、適切な設定値に基づく撮影を行うことができる。また、撮像装置20から周期的にEV値をマルチカメラ制御装置10に送信する構成とし、何れかの撮像装置から送信されたEV値が閾値以上、変化した場合に、マルチカメラ制御装置10の制御部11が撮像装置20毎の設定値を再計算するようにしても良い。
撮像装置20に設定されたモードによっては、当該モードに対応する設定値が優先されるようにしても良い。例えば、撮像装置20にシャッタースピード優先モードや絞り優先モードが設定されている場合には、設定されたモードに対応する設定値が優先的に適用されるようにしても良い。
上述した一実施形態における図4の処理が繰り返して行われても良い。そして、得られた複数の画像が繋ぎなわされた後、ユーザによる再生及び再生箇所の指示等に応じて、当該複数の画像が所定の画像を起点として動画的態様で再生されるようにしても良い。
撮影に関する設定値は、最終的に得られたパノラマ画像やVR画像にメタデータとして付随して記憶されても良い。
上述した実施形態における撮像装置は、顕微鏡等の医療用の機器やスマートフォン、コンピュータ装置、ゲーム機器、ロボット、防犯カメラ、移動体(車両、電車、飛行機、ヘリコプター、小型飛行体、工事用車両、農業用車両等)に組み込まれていても良い。
本開示は、装置の他に、複数の装置からなる撮像システム、方法、プログラム等の任意の形態により実現することもできる。例えば、一実施形態で説明した制御を行うプログラムをダウンロード可能とし、一実施形態で説明した制御機能を有しない撮像装置(例えば、スマートフォンに備えられる撮像装置)が当該プログラムをダウンロードしてインストールすることにより、当該撮像装置において一実施形態で説明した制御を行うことが可能となる。
本開示は、以下の構成も採ることができる。
(1)
複数の総露出量を取得する取得部と、
前記複数の総露出量の中から基準となる基準総露出量を決定し、前記基準総露出量に基づいて、複数の撮像装置毎の設定値を決定する制御部と
を有する制御装置。
(2)
前記制御部は、前記複数の撮像装置に共通する第1の設定値と、前記複数の撮像装置毎に異なる第2の設定値とを決定する
(1)に記載の制御装置。
(3)
前記第1の設定値を前記複数の撮像装置の全てに対して送信し、前記第2の設定値を対応する撮像装置に対して送信する通信部を有する
(2)に記載の制御装置。
(4)
前記通信部は、第1の撮像装置に対して、当該第1の撮像装置に対応する第2の設定値と、当該第1の撮像装置とは異なる第2の撮像装置に対応する第2の設定値とを送信する
(3)に記載の制御装置。
(5)
前記第2の撮像装置は、前記第1の撮像装置により撮像された画像と繋ぎ合わせる画像を撮像する撮像装置である
(4)に記載の制御装置。
(6)
前記通信部は、撮影を行うタイミングを示すタイミング情報を、前記複数の撮像装置の全てに対して送信する
(3)から(5)の何れかに記載の制御装置。
(7)
前記第2の撮像装置が複数である
(4)又は(5)に記載の制御装置。
(8)
撮像装置として構成されている
(1)から(7)の何れかに記載の制御装置。
(9)
前記制御部は、前記撮像装置毎の設定値を周期的に決定する
(1)から(8)の何れかに記載の制御装置。
(10)
前記第1の設定値はシャッタースピードの値及び絞り値の少なくとも一方を含み、前記第2の設定値は感度である
(2)から(9)の何れかに記載の制御装置。
(11)
前記第1の設定値はシャッタースピードの値及び絞り値である
(10)に記載の制御装置。
(12)
前記総露出量は、撮影における適切な露出値である
(1)から(11)の何れかに記載の制御装置。
(13)
撮像部と、
少なくとも、自身に設定される主設定値と他の撮像装置に設定される副設定値とを取得する取得部と、
前記主設定値を前記副設定値に基づいて変調する制御部と
を有し、
前記主設定値及び前記副設定値は、感度に関する設定値であり、
前記他の撮像装置は、前記撮像部を介して得られる画像と繋ぎ合わせる画像を撮影する装置である
撮像装置。
(14)
前記制御部は、画像を繋ぎ合わせる箇所に対する感度が略等しくなるように、前記主設定値を変調する
(13)に記載の撮像装置。
(15)
取得部が、複数の総露出量を取得し、
制御部が、前記複数の総露出量の中から基準となる基準総露出量を決定し、前記基準総露出量に基づいて、複数の撮像装置毎の設定値を決定する
制御方法。
(16)
取得部が、複数の総露出量を取得し、
制御部が、前記複数の総露出量の中から基準となる基準総露出量を決定し、前記基準総露出量に基づいて、複数の撮像装置毎の設定値を決定する
制御方法をコンピュータに実行させるプログラム。
(17)
制御装置と、複数の撮像装置とを有し、
前記制御装置は、
複数の総露出量を取得する取得部と、
前記複数の総露出量の中から基準となる基準総露出量を決定し、前記基準総露出量に基づいて、複数の撮像装置毎の設定値を決定する制御部と
前記複数の撮像装置に共通する第1の設定値及び撮影を行うタイミングを示すタイミング情報を前記複数の撮像装置の全てに対して送信し、前記複数の撮像装置毎に異なる第2の設定値を対応する撮像装置に対して送信する通信部と
を有し、
前記撮像装置は、
前記第1の設定値及び前記第2の設定値に基づいて、前記タイミング情報で示されるタイミングで撮影を行う撮像制御部を有する
撮像システム。
(18)
前記複数の撮像装置のうち一の撮像装置が前記制御装置として機能する
(17)に記載の撮像システム。
<3.応用例>
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械(トラクター)などのいずれかの種類の移動体に搭載される装置として実現されてもよい。
図6は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システム7000の概略的な構成例を示すブロック図である。車両制御システム7000は、通信ネットワーク7010を介して接続された複数の電子制御ユニットを備える。図6に示した例では、車両制御システム7000は、駆動系制御ユニット7100、ボディ系制御ユニット7200、バッテリ制御ユニット7300、車外情報検出ユニット7400、車内情報検出ユニット7500、及び統合制御ユニット7600を備える。これらの複数の制御ユニットを接続する通信ネットワーク7010は、例えば、CAN(Controller Area Network)、LIN(Local Interconnect Network)、LAN(Local Area Network)又はFlexRay(登録商標)等の任意の規格に準拠した車載通信ネットワークであってよい。
各制御ユニットは、各種プログラムにしたがって演算処理を行うマイクロコンピュータと、マイクロコンピュータにより実行されるプログラム又は各種演算に用いられるパラメータ等を記憶する記憶部と、各種制御対象の装置を駆動する駆動回路とを備える。各制御ユニットは、通信ネットワーク7010を介して他の制御ユニットとの間で通信を行うためのネットワークI/Fを備えるとともに、車内外の装置又はセンサ等との間で、有線通信又は無線通信により通信を行うための通信I/Fを備える。図6では、統合制御ユニット7600の機能構成として、マイクロコンピュータ7610、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660、音声画像出力部7670、車載ネットワークI/F7680及び記憶部7690が図示されている。他の制御ユニットも同様に、マイクロコンピュータ、通信I/F及び記憶部等を備える。
駆動系制御ユニット7100は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット7100は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。駆動系制御ユニット7100は、ABS(Antilock Brake System)又はESC(Electronic Stability Control)等の制御装置としての機能を有してもよい。
駆動系制御ユニット7100には、車両状態検出部7110が接続される。車両状態検出部7110には、例えば、車体の軸回転運動の角速度を検出するジャイロセンサ、車両の加速度を検出する加速度センサ、あるいは、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操舵角、エンジン回転数又は車輪の回転速度等を検出するためのセンサのうちの少なくとも一つが含まれる。駆動系制御ユニット7100は、車両状態検出部7110から入力される信号を用いて演算処理を行い、内燃機関、駆動用モータ、電動パワーステアリング装置又はブレーキ装置等を制御する。
ボディ系制御ユニット7200は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット7200は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット7200には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット7200は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
バッテリ制御ユニット7300は、各種プログラムにしたがって駆動用モータの電力供給源である二次電池7310を制御する。例えば、バッテリ制御ユニット7300には、二次電池7310を備えたバッテリ装置から、バッテリ温度、バッテリ出力電圧又はバッテリの残存容量等の情報が入力される。バッテリ制御ユニット7300は、これらの信号を用いて演算処理を行い、二次電池7310の温度調節制御又はバッテリ装置に備えられた冷却装置等の制御を行う。
車外情報検出ユニット7400は、車両制御システム7000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット7400には、撮像部7410及び車外情報検出部7420のうちの少なくとも一方が接続される。撮像部7410には、ToF(Time Of Flight)カメラ、ステレオカメラ、単眼カメラ、赤外線カメラ及びその他のカメラのうちの少なくとも一つが含まれる。車外情報検出部7420には、例えば、現在の天候又は気象を検出するための環境センサ、あるいは、車両制御システム7000を搭載した車両の周囲の他の車両、障害物又は歩行者等を検出するための周囲情報検出センサのうちの少なくとも一つが含まれる。
環境センサは、例えば、雨天を検出する雨滴センサ、霧を検出する霧センサ、日照度合いを検出する日照センサ、及び降雪を検出する雪センサのうちの少なくとも一つであってよい。周囲情報検出センサは、超音波センサ、レーダ装置及びLIDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)装置のうちの少なくとも一つであってよい。これらの撮像部7410及び車外情報検出部7420は、それぞれ独立したセンサないし装置として備えられてもよいし、複数のセンサないし装置が統合された装置として備えられてもよい。
ここで、図7は、撮像部7410及び車外情報検出部7420の設置位置の例を示す。撮像部7910,7912,7914,7916,7918は、例えば、車両7900のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部のうちの少なくとも一つの位置に設けられる。フロントノーズに備えられる撮像部7910及び車室内のフロントガラスの上部に備えられる撮像部7918は、主として車両7900の前方の画像を取得する。サイドミラーに備えられる撮像部7912,7914は、主として車両7900の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部7916は、主として車両7900の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部7918は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図7には、それぞれの撮像部7910,7912,7914,7916の撮影範囲の一例が示されている。撮像範囲aは、フロントノーズに設けられた撮像部7910の撮像範囲を示し、撮像範囲b,cは、それぞれサイドミラーに設けられた撮像部7912,7914の撮像範囲を示し、撮像範囲dは、リアバンパ又はバックドアに設けられた撮像部7916の撮像範囲を示す。例えば、撮像部7910,7912,7914,7916で撮像された画像データが重ね合わせられることにより、車両7900を上方から見た俯瞰画像が得られる。
車両7900のフロント、リア、サイド、コーナ及び車室内のフロントガラスの上部に設けられる車外情報検出部7920,7922,7924,7926,7928,7930は、例えば超音波センサ又はレーダ装置であってよい。車両7900のフロントノーズ、リアバンパ、バックドア及び車室内のフロントガラスの上部に設けられる車外情報検出部7920,7926,7930は、例えばLIDAR装置であってよい。これらの車外情報検出部7920〜7930は、主として先行車両、歩行者又は障害物等の検出に用いられる。
図6に戻って説明を続ける。車外情報検出ユニット7400は、撮像部7410に車外の画像を撮像させるとともに、撮像された画像データを受信する。また、車外情報検出ユニット7400は、接続されている車外情報検出部7420から検出情報を受信する。車外情報検出部7420が超音波センサ、レーダ装置又はLIDAR装置である場合には、車外情報検出ユニット7400は、超音波又は電磁波等を発信させるとともに、受信された反射波の情報を受信する。車外情報検出ユニット7400は、受信した情報に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。車外情報検出ユニット7400は、受信した情報に基づいて、降雨、霧又は路面状況等を認識する環境認識処理を行ってもよい。車外情報検出ユニット7400は、受信した情報に基づいて、車外の物体までの距離を算出してもよい。
また、車外情報検出ユニット7400は、受信した画像データに基づいて、人、車、障害物、標識又は路面上の文字等を認識する画像認識処理又は距離検出処理を行ってもよい。車外情報検出ユニット7400は、受信した画像データに対して歪補正又は位置合わせ等の処理を行うとともに、異なる撮像部7410により撮像された画像データを合成して、俯瞰画像又はパノラマ画像を生成してもよい。車外情報検出ユニット7400は、異なる撮像部7410により撮像された画像データを用いて、視点変換処理を行ってもよい。
車内情報検出ユニット7500は、車内の情報を検出する。車内情報検出ユニット7500には、例えば、運転者の状態を検出する運転者状態検出部7510が接続される。運転者状態検出部7510は、運転者を撮像するカメラ、運転者の生体情報を検出する生体センサ又は車室内の音声を集音するマイク等を含んでもよい。生体センサは、例えば、座面又はステアリングホイール等に設けられ、座席に座った搭乗者又はステアリングホイールを握る運転者の生体情報を検出する。車内情報検出ユニット7500は、運転者状態検出部7510から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。車内情報検出ユニット7500は、集音された音声信号に対してノイズキャンセリング処理等の処理を行ってもよい。
統合制御ユニット7600は、各種プログラムにしたがって車両制御システム7000内の動作全般を制御する。統合制御ユニット7600には、入力部7800が接続されている。入力部7800は、例えば、タッチパネル、ボタン、マイクロフォン、スイッチ又はレバー等、搭乗者によって入力操作され得る装置によって実現される。統合制御ユニット7600には、マイクロフォンにより入力される音声を音声認識することにより得たデータが入力されてもよい。入力部7800は、例えば、赤外線又はその他の電波を利用したリモートコントロール装置であってもよいし、車両制御システム7000の操作に対応した携帯電話又はPDA(Personal Digital Assistant)等の外部接続機器であってもよい。入力部7800は、例えばカメラであってもよく、その場合搭乗者はジェスチャにより情報を入力することができる。あるいは、搭乗者が装着したウェアラブル装置の動きを検出することで得られたデータが入力されてもよい。さらに、入力部7800は、例えば、上記の入力部7800を用いて搭乗者等により入力された情報に基づいて入力信号を生成し、統合制御ユニット7600に出力する入力制御回路などを含んでもよい。搭乗者等は、この入力部7800を操作することにより、車両制御システム7000に対して各種のデータを入力したり処理動作を指示したりする。
記憶部7690は、マイクロコンピュータにより実行される各種プログラムを記憶するROM(Read Only Memory)、及び各種パラメータ、演算結果又はセンサ値等を記憶するRAM(Random Access Memory)を含んでいてもよい。また、記憶部7690は、HDD(Hard Disc Drive)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等によって実現してもよい。
汎用通信I/F7620は、外部環境7750に存在する様々な機器との間の通信を仲介する汎用的な通信I/Fである。汎用通信I/F7620は、GSM(登録商標)(Global System of Mobile communications)、WiMAX(登録商標)、LTE(登録商標)(Long Term Evolution)若しくはLTE−A(LTE−Advanced)などのセルラー通信プロトコル、又は無線LAN(Wi−Fi(登録商標)ともいう)、Bluetooth(登録商標)などのその他の無線通信プロトコルを実装してよい。汎用通信I/F7620は、例えば、基地局又はアクセスポイントを介して、外部ネットワーク(例えば、インターネット、クラウドネットワーク又は事業者固有のネットワーク)上に存在する機器(例えば、アプリケーションサーバ又は制御サーバ)へ接続してもよい。また、汎用通信I/F7620は、例えばP2P(Peer To Peer)技術を用いて、車両の近傍に存在する端末(例えば、運転者、歩行者若しくは店舗の端末、又はMTC(Machine Type Communication)端末)と接続してもよい。
専用通信I/F7630は、車両における使用を目的として策定された通信プロトコルをサポートする通信I/Fである。専用通信I/F7630は、例えば、下位レイヤのIEEE802.11pと上位レイヤのIEE6609との組合せであるWAVE(Wireless Access in Vehicle Environment)、DSRC(Dedicated Short Range Communications)、又はセルラー通信プロトコルといった標準プロトコルを実装してよい。専用通信I/F7630は、典型的には、車車間(Vehicle to Vehicle)通信、路車間(Vehicle to Infrastructure)通信、車両と家との間(Vehicle to Home)の通信及び歩車間(Vehicle to Pedestrian)通信のうちの1つ以上を含む概念であるV2X通信を遂行する。
測位部7640は、例えば、GNSS(Global Navigation Satellite System)衛星からのGNSS信号(例えば、GPS(Global Positioning System)衛星からのGPS信号)を受信して測位を実行し、車両の緯度、経度及び高度を含む位置情報を生成する。なお、測位部7640は、無線アクセスポイントとの信号の交換により現在位置を特定してもよく、又は測位機能を有する携帯電話、PHS若しくはスマートフォンといった端末から位置情報を取得してもよい。
ビーコン受信部7650は、例えば、道路上に設置された無線局等から発信される電波あるいは電磁波を受信し、現在位置、渋滞、通行止め又は所要時間等の情報を取得する。なお、ビーコン受信部7650の機能は、上述した専用通信I/F7630に含まれてもよい。
車内機器I/F7660は、マイクロコンピュータ7610と車内に存在する様々な車内機器7760との間の接続を仲介する通信インタフェースである。車内機器I/F7660は、無線LAN、Bluetooth(登録商標)、NFC(Near Field Communication)又はWUSB(Wireless USB)といった無線通信プロトコルを用いて無線接続を確立してもよい。また、車内機器I/F7660は、図示しない接続端子(及び、必要であればケーブル)を介して、USB(Universal Serial Bus)、HDMI(登録商標)(High-Definition Multimedia Interface、又はMHL(Mobile High-definition Link)等の有線接続を確立してもよい。車内機器7760は、例えば、搭乗者が有するモバイル機器若しくはウェアラブル機器、又は車両に搬入され若しくは取り付けられる情報機器のうちの少なくとも1つを含んでいてもよい。また、車内機器7760は、任意の目的地までの経路探索を行うナビゲーション装置を含んでいてもよい。車内機器I/F7660は、これらの車内機器7760との間で、制御信号又はデータ信号を交換する。
車載ネットワークI/F7680は、マイクロコンピュータ7610と通信ネットワーク7010との間の通信を仲介するインタフェースである。車載ネットワークI/F7680は、通信ネットワーク7010によりサポートされる所定のプロトコルに則して、信号等を送受信する。
統合制御ユニット7600のマイクロコンピュータ7610は、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660及び車載ネットワークI/F7680のうちの少なくとも一つを介して取得される情報に基づき、各種プログラムにしたがって、車両制御システム7000を制御する。例えば、マイクロコンピュータ7610は、取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット7100に対して制御指令を出力してもよい。例えば、マイクロコンピュータ7610は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行ってもよい。また、マイクロコンピュータ7610は、取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行ってもよい。
マイクロコンピュータ7610は、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660及び車載ネットワークI/F7680のうちの少なくとも一つを介して取得される情報に基づき、車両と周辺の構造物や人物等の物体との間の3次元距離情報を生成し、車両の現在位置の周辺情報を含むローカル地図情報を作成してもよい。また、マイクロコンピュータ7610は、取得される情報に基づき、車両の衝突、歩行者等の近接又は通行止めの道路への進入等の危険を予測し、警告用信号を生成してもよい。警告用信号は、例えば、警告音を発生させたり、警告ランプを点灯させたりするための信号であってよい。
音声画像出力部7670は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図6の例では、出力装置として、オーディオスピーカ7710、表示部7720及びインストルメントパネル7730が例示されている。表示部7720は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。表示部7720は、AR(Augmented Reality)表示機能を有していてもよい。出力装置は、これらの装置以外の、ヘッドホン、搭乗者が装着する眼鏡型ディスプレイ等のウェアラブルデバイス、プロジェクタ又はランプ等の他の装置であってもよい。出力装置が表示装置の場合、表示装置は、マイクロコンピュータ7610が行った各種処理により得られた結果又は他の制御ユニットから受信された情報を、テキスト、イメージ、表、グラフ等、様々な形式で視覚的に表示する。また、出力装置が音声出力装置の場合、音声出力装置は、再生された音声データ又は音響データ等からなるオーディオ信号をアナログ信号に変換して聴覚的に出力する。
なお、図6に示した例において、通信ネットワーク7010を介して接続された少なくとも二つの制御ユニットが一つの制御ユニットとして一体化されてもよい。あるいは、個々の制御ユニットが、複数の制御ユニットにより構成されてもよい。さらに、車両制御システム7000が、図示されていない別の制御ユニットを備えてもよい。また、上記の説明において、いずれかの制御ユニットが担う機能の一部又は全部を、他の制御ユニットに持たせてもよい。つまり、通信ネットワーク7010を介して情報の送受信がされるようになっていれば、所定の演算処理が、いずれかの制御ユニットで行われるようになってもよい。同様に、いずれかの制御ユニットに接続されているセンサ又は装置が、他の制御ユニットに接続されるとともに、複数の制御ユニットが、通信ネットワーク7010を介して相互に検出情報を送受信してもよい。
なお、図2、3等を用いて説明した本実施形態に係るマルチカメラ制御装置10及び撮像装置20の各機能を実現するためのコンピュータプログラムを、いずれかの制御ユニット等に実装することができる。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体を提供することもできる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリ等である。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信されてもよい。
以上説明した車両制御システム7000において、図2、3等を用いて説明した本実施形態に係る撮像装置20は例えば、撮像部7410に適用することができる。
1・・・撮像システム、10・・・マルチカメラ制御装置、11・・・制御部、12・・・通信部、20,20A,20B,20C,20D・・・撮像装置、22・・・撮像部、23・・・信号処理部、24・・・総露出量演算部、25・・・制御部、26・・・通信部

Claims (18)

  1. 複数の総露出量を取得する取得部と、
    前記複数の総露出量の中から基準となる基準総露出量を決定し、前記基準総露出量に基づいて、複数の撮像装置毎の設定値を決定する制御部と
    を有する制御装置。
  2. 前記制御部は、前記複数の撮像装置に共通する第1の設定値と、前記複数の撮像装置毎に異なる第2の設定値とを決定する
    請求項1に記載の制御装置。
  3. 前記第1の設定値を前記複数の撮像装置の全てに対して送信し、前記第2の設定値を対応する撮像装置に対して送信する通信部を有する
    請求項2に記載の制御装置。
  4. 前記通信部は、第1の撮像装置に対して、当該第1の撮像装置に対応する第2の設定値と、当該第1の撮像装置とは異なる第2の撮像装置に対応する第2の設定値とを送信する
    請求項3に記載の制御装置。
  5. 前記第2の撮像装置は、前記第1の撮像装置により撮像された画像と繋ぎ合わせる画像を撮像する撮像装置である
    請求項4に記載の制御装置。
  6. 前記通信部は、撮影を行うタイミングを示すタイミング情報を、前記複数の撮像装置の全てに対して送信する
    請求項3に記載の制御装置。
  7. 前記第2の撮像装置が複数である
    請求項4に記載の制御装置。
  8. 撮像装置として構成されている
    請求項1に記載の制御装置。
  9. 前記制御部は、前記撮像装置毎の設定値を周期的に決定する
    請求項1に記載の制御装置。
  10. 前記第1の設定値はシャッタースピードの値及び絞り値の少なくとも一方を含み、前記第2の設定値は感度である
    請求項2に記載の制御装置。
  11. 前記第1の設定値はシャッタースピードの値及び絞り値である
    請求項10に記載の制御装置。
  12. 前記総露出量は、撮影における適切な露出値である
    請求項1に記載の制御装置。
  13. 撮像部と、
    少なくとも、自身に設定される主設定値と他の撮像装置に設定される副設定値とを取得する取得部と、
    前記主設定値を前記副設定値に基づいて変調する制御部と
    を有し、
    前記主設定値及び前記副設定値は、感度に関する設定値であり、
    前記他の撮像装置は、前記撮像部を介して得られる画像と繋ぎ合わせる画像を撮影する装置である
    撮像装置。
  14. 前記制御部は、画像を繋ぎ合わせる箇所に対する感度が略等しくなるように、前記主設定値を変調する
    請求項13に記載の撮像装置。
  15. 取得部が、複数の総露出量を取得し、
    制御部が、前記複数の総露出量の中から基準となる基準総露出量を決定し、前記基準総露出量に基づいて、複数の撮像装置毎の設定値を決定する
    制御方法。
  16. 取得部が、複数の総露出量を取得し、
    制御部が、前記複数の総露出量の中から基準となる基準総露出量を決定し、前記基準総露出量に基づいて、複数の撮像装置毎の設定値を決定する
    制御方法をコンピュータに実行させるプログラム。
  17. 制御装置と、複数の撮像装置とを有し、
    前記制御装置は、
    複数の総露出量を取得する取得部と、
    前記複数の総露出量の中から基準となる基準総露出量を決定し、前記基準総露出量に基づいて、複数の撮像装置毎の設定値を決定する制御部と
    前記複数の撮像装置に共通する第1の設定値及び撮影を行うタイミングを示すタイミング情報を前記複数の撮像装置の全てに対して送信し、前記複数の撮像装置毎に異なる第2の設定値を対応する撮像装置に対して送信する通信部と
    を有し、
    前記撮像装置は、
    前記第1の設定値及び前記第2の設定値に基づいて、前記タイミング情報で示されるタイミングで撮影を行う撮像制御部を有する
    撮像システム。
  18. 前記複数の撮像装置のうち一の撮像装置が前記制御装置として機能する
    請求項17に記載の撮像システム。
JP2017114472A 2017-06-09 2017-06-09 制御装置、制御方法、プログラム及び撮像システム Active JP7059522B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017114472A JP7059522B2 (ja) 2017-06-09 2017-06-09 制御装置、制御方法、プログラム及び撮像システム
DE112018002918.2T DE112018002918T5 (de) 2017-06-09 2018-04-19 Steuervorrichtung, bildaufnahmevorrichtung, steuerverfahren, programm undbildaufnahmesystem
PCT/JP2018/016080 WO2018225392A1 (en) 2017-06-09 2018-04-19 Control apparatus, image pickup apparatus, control method, program, and image pickup system
US16/618,257 US11272115B2 (en) 2017-06-09 2018-04-19 Control apparatus for controlling multiple camera, and associated control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017114472A JP7059522B2 (ja) 2017-06-09 2017-06-09 制御装置、制御方法、プログラム及び撮像システム

Publications (3)

Publication Number Publication Date
JP2018207453A true JP2018207453A (ja) 2018-12-27
JP2018207453A5 JP2018207453A5 (ja) 2020-07-09
JP7059522B2 JP7059522B2 (ja) 2022-04-26

Family

ID=62116525

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017114472A Active JP7059522B2 (ja) 2017-06-09 2017-06-09 制御装置、制御方法、プログラム及び撮像システム

Country Status (4)

Country Link
US (1) US11272115B2 (ja)
JP (1) JP7059522B2 (ja)
DE (1) DE112018002918T5 (ja)
WO (1) WO2018225392A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020137018A (ja) * 2019-02-22 2020-08-31 株式会社リコー 撮像装置
JP2022173721A (ja) * 2021-05-10 2022-11-22 株式会社モリタ製作所 撮像装置、眼球運動データ処理システム、および制御方法
JP2022173722A (ja) * 2021-05-10 2022-11-22 株式会社モリタ製作所 撮像装置、眼球運動データ処理システム、および制御方法

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108377345B (zh) * 2018-04-11 2020-04-03 浙江大华技术股份有限公司 一种曝光参数值确定方法、装置、多目摄像机及存储介质
CN110049257B (zh) * 2019-05-31 2021-09-21 影石创新科技股份有限公司 一种确定半同步曝光参数的方法及电子装置
CN111083356A (zh) * 2019-12-05 2020-04-28 河北汉光重工有限责任公司 一种全景图像拍摄过程中调光的方法
CN112714282A (zh) * 2020-12-22 2021-04-27 北京百度网讯科技有限公司 远程控制中的图像处理方法、装置、设备和程序产品
US11671551B2 (en) * 2021-05-24 2023-06-06 Sony Group Corporation Synchronization of multi-device image data using multimodal sensor data

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010074535A (ja) * 2008-09-18 2010-04-02 Fujifilm Corp 撮影装置及び撮影方法
JP2015050498A (ja) * 2013-08-30 2015-03-16 株式会社リコー 撮像装置、撮像方法および記録媒体
JP2015095853A (ja) * 2013-11-14 2015-05-18 株式会社リコー 撮影システム及びプログラム
JP2016208306A (ja) * 2015-04-23 2016-12-08 パナソニックIpマネジメント株式会社 画像処理装置及びこれを備えた撮像システムならびに画像処理方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3035434B2 (ja) * 1993-10-13 2000-04-24 キヤノン株式会社 複眼撮像装置
JP3830689B2 (ja) 1999-05-25 2006-10-04 三菱電機株式会社 ステレオカメラ
EP1771811A4 (en) * 2004-07-26 2010-06-09 Silicon Optix Inc PANORAMIC VISION SYSTEM AND METHOD
US9368614B2 (en) 2008-08-20 2016-06-14 Alpha And Omega Semiconductor Incorporated Flexibly scalable charge balanced vertical semiconductor power devices with a super-junction structure
US20080303922A1 (en) * 2007-06-08 2008-12-11 Imran Chaudhri Image capture
KR20130080614A (ko) 2012-01-05 2013-07-15 한국전자통신연구원 휘도 자동 보정 장치 및 방법
US9508014B2 (en) * 2013-05-06 2016-11-29 Magna Electronics Inc. Vehicular multi-camera vision system
US9438794B2 (en) * 2013-06-25 2016-09-06 Omnivision Technologies, Inc. Method and apparatus for distributed image processing in cameras for minimizing artifacts in stitched images
KR101631439B1 (ko) 2014-05-29 2016-06-17 엘지전자 주식회사 카메라, 및 이를 구비한 차량
US10560374B2 (en) * 2014-10-17 2020-02-11 Apple Inc. Methods and apparatuses for flexible mobile steering in cellular networks
JP6455601B2 (ja) * 2015-09-09 2019-01-23 株式会社リコー 制御システム、撮像装置、およびプログラム
US10230904B2 (en) * 2016-04-06 2019-03-12 Facebook, Inc. Three-dimensional, 360-degree virtual reality camera system

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010074535A (ja) * 2008-09-18 2010-04-02 Fujifilm Corp 撮影装置及び撮影方法
JP2015050498A (ja) * 2013-08-30 2015-03-16 株式会社リコー 撮像装置、撮像方法および記録媒体
JP2015095853A (ja) * 2013-11-14 2015-05-18 株式会社リコー 撮影システム及びプログラム
JP2016208306A (ja) * 2015-04-23 2016-12-08 パナソニックIpマネジメント株式会社 画像処理装置及びこれを備えた撮像システムならびに画像処理方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020137018A (ja) * 2019-02-22 2020-08-31 株式会社リコー 撮像装置
JP2022173721A (ja) * 2021-05-10 2022-11-22 株式会社モリタ製作所 撮像装置、眼球運動データ処理システム、および制御方法
JP2022173722A (ja) * 2021-05-10 2022-11-22 株式会社モリタ製作所 撮像装置、眼球運動データ処理システム、および制御方法
JP7333359B2 (ja) 2021-05-10 2023-08-24 株式会社モリタ製作所 撮像装置、眼球運動データ処理システム、および制御方法
JP7449898B2 (ja) 2021-05-10 2024-03-14 株式会社モリタ製作所 撮像装置、眼球運動データ処理システム、および制御方法

Also Published As

Publication number Publication date
JP7059522B2 (ja) 2022-04-26
WO2018225392A1 (en) 2018-12-13
DE112018002918T5 (de) 2020-02-20
US11272115B2 (en) 2022-03-08
US20200154025A1 (en) 2020-05-14

Similar Documents

Publication Publication Date Title
JP7047767B2 (ja) 画像処理装置と画像処理方法
JP7059522B2 (ja) 制御装置、制御方法、プログラム及び撮像システム
US20200344421A1 (en) Image pickup apparatus, image pickup control method, and program
JP7040447B2 (ja) 画像処理装置および情報生成装置と情報生成方法
JP6977821B2 (ja) 画像処理装置と画像処理方法
US10704957B2 (en) Imaging device and imaging method
JP6977722B2 (ja) 撮像装置、および画像処理システム
TW202038088A (zh) 感測器裝置、電子機器、感測器系統及控制方法
WO2018034209A1 (ja) 撮像装置と撮像方法
JP6816768B2 (ja) 画像処理装置と画像処理方法
JP6816769B2 (ja) 画像処理装置と画像処理方法
JP2018029279A (ja) 撮像装置と撮像方法
JP2018064007A (ja) 固体撮像素子、および電子装置
JP7139584B2 (ja) 情報処理装置、情報処理方法、プログラム、および情報処理システム
US11070714B2 (en) Information processing apparatus and information processing method
WO2021256483A1 (ja) 制御装置、投影システム、制御方法及びプログラム
WO2020137398A1 (ja) 操作制御装置、撮像装置、操作制御方法
JP7059185B2 (ja) 画像処理装置、画像処理方法、および撮像装置
WO2020255589A1 (ja) 情報処理装置、情報処理方法及びプログラム
WO2021229983A1 (ja) 撮像装置及びプログラム
JP7173056B2 (ja) 認識装置と認識方法およびプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200519

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200519

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210310

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210323

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210517

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20211012

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220106

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20220106

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20220117

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20220118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220315

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220328

R151 Written notification of patent or utility model registration

Ref document number: 7059522

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151