JP7013730B2 - 画像生成制御装置、画像生成制御方法、及び画像生成制御プログラム - Google Patents

画像生成制御装置、画像生成制御方法、及び画像生成制御プログラム Download PDF

Info

Publication number
JP7013730B2
JP7013730B2 JP2017164061A JP2017164061A JP7013730B2 JP 7013730 B2 JP7013730 B2 JP 7013730B2 JP 2017164061 A JP2017164061 A JP 2017164061A JP 2017164061 A JP2017164061 A JP 2017164061A JP 7013730 B2 JP7013730 B2 JP 7013730B2
Authority
JP
Japan
Prior art keywords
image
unit
shooting
period
image generation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017164061A
Other languages
English (en)
Other versions
JP2019041351A (ja
Inventor
久 小磯
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JVCKenwood Corp
Original Assignee
JVCKenwood Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JVCKenwood Corp filed Critical JVCKenwood Corp
Priority to JP2017164061A priority Critical patent/JP7013730B2/ja
Priority to PCT/JP2018/010945 priority patent/WO2019044009A1/ja
Publication of JP2019041351A publication Critical patent/JP2019041351A/ja
Priority to US16/785,151 priority patent/US11363211B2/en
Application granted granted Critical
Publication of JP7013730B2 publication Critical patent/JP7013730B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • G03B15/02Illuminating scene
    • G03B15/03Combinations of cameras with lighting apparatus; Flash units
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • G03B15/02Illuminating scene
    • G03B15/03Combinations of cameras with lighting apparatus; Flash units
    • G03B15/05Combinations of cameras with electronic flash apparatus; Electronic flash units
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/08Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
    • G03B7/091Digital circuits
    • G03B7/093Digital circuits for control of exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/745Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination

Description

本発明は、画像生成制御装置、画像生成制御方法、及び画像生成制御プログラムに関する。
従来、撮影画像を複数の分割領域に分割し、分割領域ごとに点滅するフリッカを検出し、フリッカが検出された分割領域をLED(Light Emitting Diode)領域とし、該LED領域に対してホワイトバランス調整を行う技術が提案されている(例えば、特許文献1)。
例えば交通監視システム等では、走行車両のナンバープレートが「撮影対象物」として撮像装置によって撮影されることがある。通常、ナンバープレートの近傍にはヘッドライトが配設され、該ヘッドライトにLEDが用いられることがある。
国際公開第2012/073657号
しかしながら、ヘッドライトが撮像装置に対して逆光となる場合には、ナンバープレートを精度良く撮影することが困難となる可能性がある。これは、ヘッドライト及びナンバープレートに限られず、その他の撮影障害光源及び該撮影障害光源の近傍に位置する撮影対象物にも当てはまるものである。
本発明は、このような問題を解決するためになされたものであり、撮影障害光源の近傍に位置する撮影対象物の画像を精度良く生成することができる、画像生成制御装置、画像生成制御方法、及び画像生成制御プログラムを提供することを目的とする。
本発明の一態様に係る画像生成制御装置は、周期的に点滅する撮影障害光源の近傍に位置する撮影対象物の画像を生成する画像生成制御装置であって、前記撮影障害光源及び前記撮影対象物を含むターゲット範囲内の輝度変動に基づいて、前記撮影障害光源が消灯する消灯予定期間を算出する算出部と、撮像部の露光期間を前記算出された消灯予定期間内に設定して、前記撮像部に対して前記算出された消灯予定期間に前記ターゲット範囲を含む画像を撮影させる撮影制御部と、を具備する。
本発明の一態様に係る画像生成制御方法は、周期的に点滅する撮影障害光源の近傍に位置する撮影対象物の画像を生成する画像生成制御方法であって、前記撮影障害光源及び前記撮影対象物を含むターゲット範囲内の輝度変動に基づいて、前記撮影障害光源が消灯する消灯予定期間を算出し、撮像部の露光期間を前記算出された消灯予定期間内に設定して、前記撮像部に対して前記算出された消灯予定期間に前記ターゲット範囲を含む画像を撮影させる。
本発明の一態様に係る画像生成制御プログラムは、周期的に点滅する撮影障害光源の近傍に位置する撮影対象物の画像を生成する画像生成制御装置に、前記撮影障害光源及び前記撮影対象物を含むターゲット範囲内の輝度変動に基づいて、前記撮影障害光源が消灯する消灯予定期間を算出し、撮像部の露光期間を前記算出された消灯予定期間内に設定して、前記撮像部に対して前記算出された消灯予定期間に前記ターゲット範囲を含む画像を撮影させる、処理を実行させる。
本発明によれば、撮影障害光源の近傍に位置する撮影対象物の画像を精度良く生成することができる、画像生成制御装置、画像生成制御方法、及び画像生成制御プログラムを提供することができる。
第1実施形態の画像生成制御装置を含む撮影装置の一例を示すブロック図である。 第2実施形態の画像生成制御装置を含む撮影装置の一例を示すブロック図である。 第2実施形態の画像生成制御装置の処理動作の一例を示すフローチャートである。 広範囲画像及びターゲット範囲画像の説明に供する図である。 画像生成制御装置の処理動作の説明に供する図である。 第3実施形態の多重露光の説明に供する図である。 第4実施形態の消灯所定期間の算出処理の説明に供する図である。 画像生成制御装置のハードウェア構成例を示す図である。
以下、図面を参照して本発明の実施形態について説明する。なお、実施形態において、同一又は同等の要素には、同一の符号を付し、重複する説明は省略される。
<第1実施形態>
<画像生成制御装置の構成例>
図1は、第1実施形態の画像生成制御装置を含む撮影装置の一例を示すブロック図である。図1において撮影装置1は、撮像部10と、画像生成制御装置20とを有する。
撮像部10は、画像生成制御装置20によって設定される撮影設定(例えば、撮影フレームレート)に基づいて、撮影する。撮像部10は、例えば撮像素子を含んいる。撮像素子は、例えば、CCD(Charge Coupled Devices)又はCMOS(Complementary Metal Oxide Semiconductor)である。
画像生成制御装置20は、周期的に点滅する撮影障害光源の近傍に位置する撮影対象物の画像を生成する装置である。以下では、一例として、周期的に点滅する撮影障害光源が車両のヘッドライトに用いられているLEDであり、撮影対象物がナンバープレートであるものとして説明する。
図1において画像生成制御装置20は、取得部21と、算出部22と、撮影制御部23とを有している。
取得部21は、撮影制御部23の制御に従って、撮像部10で撮影された撮影画像を取得する。
算出部22は、撮影フレームレートの設定値が「第1設定値」であるときに撮像部10によって複数の撮影フレームにおいて撮影された、「ターゲット範囲」を含むターゲット範囲画像(以下では、「第2画像」と呼ぶことがある)を取得部21から受け取る。そして、算出部22は、受け取った複数の第2画像の輝度変動に基づいて、撮影障害光源が消灯する「消灯予定期間」を算出する。複数の第2画像において、撮影障害光源が点灯している場合には輝度が高く、消灯している場合には輝度が低い。これらの輝度の変動が複数の画像で繰り返されることを検出し、「消灯予定期間」を算出する。すなわち、「消灯予定期間」は、周期的に点滅する撮影障害光源の「滅」に対応する期間である。ここで、「ターゲット範囲」は、撮影障害光源(つまり、ヘッドライト)及び撮影対象物(つまり、ナンバープレート)を含む範囲である。また「第1設定値」は、撮影障害光源の点滅レートより高く設定される必要がある。
撮影制御部23は、撮像部10に対して上記の撮影条件を設定する。すなわち、上記の「第1設定値」も撮影制御部23によって設定される。また、撮影制御部23は、撮像部10の露光期間(露出期間)を算出部22で算出された消灯予定期間内に設定して、撮像部10に対して該消灯予定期間にターゲット範囲を含むターゲット範囲画像(以下では、「第1画像」と呼ぶことがある)を撮影させる。ここで、撮影制御部23は、撮像部10に第1画像を撮影させる際に、撮像部10に対する撮影フレームレートの設定値を「第2設定値」に調整してもよい。例えば、「第2設定値」は、上記の「第1設定値」よりも低い撮影フレームレートに対応する。この第2画像は、撮影制御部23の制御に従って取得部21によって取得される。
以上のように第1実施形態によれば、画像生成制御装置20において算出部22が、撮影障害光源が消灯する「消灯予定期間」を算出し、撮影制御部23が、撮像部10の露光期間を算出部22で算出された消灯予定期間内に設定して、撮像部10に対して該消灯予定期間にターゲット範囲を含む「第1画像」を撮影させる。すなわち、画像生成制御装置20は、撮影制御装置と呼ぶこともできる。
この画像生成制御装置20の構成により、撮影障害光源の消灯期間に撮影された第1画像を取得することができるので、撮影障害光源が撮像部10に対して逆光となる場合であっても撮影障害光源の近傍に位置する撮影対象物の画像を精度良く生成することができる。ここで、取得された第1画像は、直接的に撮影対象物の画像生成に利用されてもよいし、例えば後述する第2実施形態のように撮影対象物の位置の特定に用いられてもよい。
<第2実施形態>
第2実施形態は、より具体的な実施形態に関する。
<画像生成制御装置の構成例>
図2は、第2実施形態の画像生成制御装置を含む撮影装置の一例を示すブロック図である。図2において撮影装置2は、撮像部10と、画像生成制御装置30と、照明部40とを有する。
第2実施形態の撮像部10は、第1実施形態と同様に、画像生成制御装置30によって設定される撮影設定(例えば、撮影フレームレート)に基づいて、撮影する。
画像生成制御装置30は、図2に示すように、取得部31と、動体画像範囲特定部32と、設定部33と、対象物位置特定部34と、撮影制御部35と、画像生成部36とを有している。
取得部31は、撮影制御部35の制御に従って、撮像部10によって撮影された「広範囲画像」を取得し、取得した広範囲画像を動体画像範囲特定部32及び画像生成部36へ出力する。ここでは、「広範囲画像」は、ターゲット範囲を含み且つターゲット範囲よりも広い範囲の画像である。すなわち、例えば、「広範囲画像」は、例えば撮像部10の素子全体から得られる画像である一方、「ターゲット範囲画像」は、撮像部10の素子全体のうちでターゲット範囲に対応する画素から得られる画像である。ここで、後述するように、「ターゲット範囲特定処理期間」では、撮影制御部35によって撮像部10に対して上記の「第1設定値」よりも低い撮影フレームレートに対応する「第3設定値」が設定されてもよい。
また、取得部31は、撮影制御部35の制御に従って、撮像部10によって撮影された「ターゲット範囲画像(つまり、第2画像)」を取得し、取得した第2画像を算出部22へ出力する。ここで、第2画像が取得される際には、撮影制御部35によって撮像部10に対して上記の「第1設定値」が設定されている。
また、取得部31は、撮影制御部35の制御に従って、撮像部10によって撮影された「ターゲット範囲画像(つまり、第1画像)」を取得し、取得した第1画像を対象物位置特定部34へ出力する。ここで、第1画像が取得される際には、撮像部10の露光期間が算出部22で算出された消灯予定期間内に設定されている。また、第1画像が取得される際には、撮影制御部35によって撮像部10に対して上記の「第2設定値」が設定されていてもよい。
また、取得部31は、撮影制御部35の制御に従って、撮像部10によって撮影された「撮影対象物画像」を取得し、取得した撮影対象物画像を画像生成部36へ出力する。「撮影対象物画像」は、撮像部10の素子全体のうちで撮影対象物の範囲に対応する画素から得られる画像であり、「ターゲット範囲画像」よりも狭い範囲の画像である。
動体画像範囲特定部32は、取得部31を介して撮像部10から取得した、複数の広範囲画像を用いて、移動物体の少なくとも一部に対応する画像範囲を特定し、設定部33に出力する。例えば、動体画像範囲特定部32は、複数の広範囲画像の間で形状が略変わらずに位置が変化する画像範囲を特定する。この特定される画像範囲は、例えば、撮影対象物であるナンバープレートが装着された車両に対応する画像範囲、又は、それぞれ車両の左右に配設された2つのヘッドライトを左右端に含む画像範囲である。
設定部33は、動体画像範囲特定部32によって特定された画像範囲を「ターゲット範囲」として設定する。上述の通り、「ターゲット範囲」は、撮影障害光源及び撮影対象物を含んでいる。
対象物位置特定部34は、取得部31を介して撮像部10から取得した、第1画像を用いて、撮影対象物の位置を特定する。
撮影制御部35は、撮像部10に対して「第1設定値」よりも低い撮影フレームレートに対応する「第3設定値」を設定し、撮像部10から「広範囲画像」を出力させる。
また、撮影制御部35は、撮像部10に対して「第1設定値」を設定し、撮像部10から第2画像を出力させる。
また、撮影制御部35は、撮像部10に対して上記の「第2設定値」を設定すると共に撮像部10の露光期間を算出部22で算出された消灯予定期間内に設定し、撮像部10から第1画像を出力させる。
また、撮影制御部35は、撮像部10に対して上記の「第2設定値」を設定すると共に撮像部10の露光期間を算出部22で算出された消灯予定期間内に設定し、さらに、照明部40に対して、撮像部10の露光期間に合わせたタイミングで、対象物位置特定部34によって特定された撮影対象物の位置に向けて照明光を照射させる。そして、撮影制御部35は、撮像部10から、照明部40の照明光によって照射された撮影対象物の位置の画像を出力させる。
画像生成部36は、取得部31から受け取った撮影対象物の画像と取得部31から受け取った広範囲画像とを結合して、合成画像を生成する。
照明部40は、撮影制御部35の制御に従って、撮像部10の露光期間に合わせたタイミングで、対象物位置特定部34によって特定された撮影対象物の位置に向けて照明光を照射する。
<画像生成制御装置の動作例>
以上の構成を有する画像生成制御装置の処理動作の一例について説明する。図3は、第2実施形態の画像生成制御装置の処理動作の一例を示すフローチャートである。図4は、広範囲画像及びターゲット範囲画像の説明に供する図である。図5は、画像生成制御装置の処理動作の説明に供する図である。
〈ターゲット範囲の特定処理〉
撮影制御部35は、撮像部10に対して、撮影フレームレートの設定値を第3設定値に設定し、取得部31に対して、取得モードを「広範囲画像の取得モード」に設定すると共に、出力先を動体画像範囲特定部32に設定する(ステップS101)。ステップS101における設定によって、動体画像範囲特定部32は、複数の広範囲画像を取得することができる。例えば、図4に示す画像の全体が、1つの広範囲画像である。また、例えば、第3設定値は、30fpsである。
次いで、動体画像範囲特定部32は、取得した複数の広範囲画像を用いて、移動物体の少なくとも一部に対応する画像範囲を特定する(ステップS102)。次いで、設定部33は、ステップS102で特定された画像範囲をターゲット範囲として設定する(ステップS103)。この設定されたターゲット範囲は、撮影制御部35に通知される。例えば、図4に示す一点鎖線の矩形枠で囲まれた範囲が、ターゲット範囲である。ここでは、撮像部10の撮影方向の遠方から近づいてくる車両の画像が占有する範囲が、ターゲット範囲として設定されている。この車両のヘッドライトは、撮像部10に対して逆光となるので、ナンバープレートを撮影する際の障害となる可能性がある。
〈消灯予定期間の算出処理〉
次いで、撮影制御部35は、撮像部10に対して、撮影フレームレートの設定値を第1設定値に設定し、取得部31に対して、取得モードを「第2画像の取得モード」に設定すると共に、出力先を算出部22に設定する(ステップS104)。ステップS104における設定によって、算出部22は、複数の第2画像を取得することができる。第1設定値は撮影障害光源の点滅レートより高く設定される必要がある。例えば、第1設定値は、20000fpsなどの高速なフレームレートであり、第3設定値よりも高い値である。
次いで、算出部22は、取得した複数の第2画像に基づいて、撮影障害光源が消灯する消灯予定期間を算出する(ステップS105)。ここで、図5の最上段には、撮影障害光源であるヘッドライトの点滅に関するタイミングチャートの一例が示されている。そして、図5の上から2段目には、撮影フレームレートの設定値が第1設定値に設定されたときの撮影制御信号列が示されている。この撮影制御信号列に含まれる各パルスが1回の撮影に対応し、この1回の撮影によって1つの第2画像が得られる。すなわち、前後に連続する2つのパルスの2つの立ち上がり部分の時間間隔(つまり、点滅検出周期)の逆数が撮影フレームレートに対応する。そして、算出部22は、各第2画像の輝度の総和が判定閾値Th以上であれば、その第2画像に対応する点滅検出周期が、撮影障害光源の点灯期間の一部であると判定する。一方、算出部22は、各第2画像の輝度の総和が判定閾値Th未満であれば、その第2画像に対応する点滅検出周期が、撮影障害光源の消灯期間の一部であると判定する。この撮影障害光源は例えば10kHzで周期的に点滅するので、この点滅周期よりも長い期間において撮影された複数の第2画像を用いることで、図5の上から3段目の図に示すように、各点滅周期における撮影障害光源の点灯期間及び消灯期間を特定することができる。この結果として、算出部22は、点灯予定期間及び消灯予定期間を算出することができる。
ここで、消灯予定期間の算出処理の対象を、広範囲画像の全体ではなくその一部のターゲット範囲の画像としている。このことで画像処理の負担を軽減することが可能である。また、ターゲット範囲における明暗の変化を検出できればよいので、第2画像はモノクロ画像でよく、露光期間も短くすることができる。このため、点灯周期が短い場合でも点灯周期にデータ転送のスピード及び算出処理のスピードを合わせることができる。
〈対象物位置の特定処理〉
次いで、撮影制御部35は、撮像部10に対して、撮影フレームレートの設定値を第2設定値に設定すると共に、撮像部10の露光期間を消灯予定期間内に設定する(ステップS106)。さらに、撮影制御部35は、取得部31に対して、取得モードを「第1画像の取得モード」に設定すると共に、出力先を対象物位置特定部34に設定する(ステップS106)。すなわち、取得部31の取得モードについては、ステップS104における設定が継続される。ステップS106における設定によって、対象物位置特定部34は、少なくとも1つの第1画像を取得することができる。ここで、第2設定値は、上記の通り、第1設定値よりも低い値であり、例えば撮影障害光源の点滅周期に対応する値であってもよいし、該点滅周期の自然数倍に対応する値であってもよい。これにより、消灯予定期間内で確実に撮影することができる。
次いで、対象物位置特定部34は、取得した第1画像を用いて、撮影対象物の位置を特定する(ステップS107)。撮影対象物がナンバープレートである場合、ナンバープレートの形状及び大きさは規格化されているので、例えば、パターンマッチングによって撮影対象物のおおよその位置を特定することができる。
〈対象物画像の取得処理〉
次いで、撮影制御部35は、撮像部10に対して、撮影フレームレートの設定値を第2設定値に設定すると共に、撮像部10の露光期間を消灯予定期間内に設定する(ステップS108)。すなわち、撮像部10の撮影フレームレート及び露光期間については、ステップS106における設定が継続される。また、撮影制御部35は、照明部40の照射タイミングを撮像部10の露光期間に合わせて設定すると共に、照明部40の照射目標を対象物位置に設定する(ステップS108)。さらに、撮影制御部35は、取得部31に対して、取得モードを「撮像対象物画像の取得モード」に設定すると共に、出力先を画像生成部36に設定する(ステップS108)。ステップS108における設定によって、画像生成部36は、照明部40から照射された光によって照らされた撮影対象物の画像を取得することができる。ここで、図5の上から4段目の図では、算出された消灯予定期間のすべてにおいて照明部40が発光するケースが示されているが、これに限定されるものではなく、消灯予定期間の一部において照明部40が発光してもよい。また、図5の最下段の図では、算出された消灯予定期間のすべてが撮像部10の露光期間であるケースが示されているが、これに限定されるものではなく、消灯予定期間の一部が撮像部10の露光期間であってもよい。
次いで、画像生成部36は、取得した撮影対象物画像を保持する(ステップS109)。
〈合成画像の生成処理〉
次いで、撮影制御部35は、撮像部10に対して、撮影フレームレートの設定値を第3設定値に設定し、取得部31に対して、取得モードを「広範囲画像の取得モード」に設定すると共に、出力先を画像生成部36に設定する(ステップS110)。ステップS110における設定によって、画像生成部36は、広範囲画像を取得することができる。
次いで、画像生成部36は、取得した広範囲画像と保持している撮影対象物画像とを結合して、合成画像を生成する(ステップS111)。例えば、画像生成部36は、広範囲画像における撮影対象物位置に撮影対象物画像を重ね合わせて、つまり、広範囲画像における撮影対象物位置の画像を撮影対象物画像で置き換えて、合成画像を生成してもよい。
以上のように第2実施形態によれば、画像生成制御装置30において動体画像範囲特定部32は、撮像部10によって複数の撮影フレームにおいて撮影された複数の広範囲画像を用いて、移動物体の少なくとも一部に対応する画像範囲を特定する。そして、設定部33は、特定された画像範囲に基づいて、ターゲット範囲を設定する。
この画像生成制御装置30の構成により、消灯予定期間の算出処理の対象を、広範囲画像の全体ではなくその一部のターゲット範囲の画像にすることができるので、処理負荷を低減することができ、点灯周期が短い場合でも点灯周期にデータ転送のスピード及び算出処理のスピードを合わせることができる。
また、画像生成制御装置30において対象物位置特定部34は、撮像部10によって撮影された第1画像を用いて、撮影対象物の位置を特定する。上述の通り、第1画像は、撮影制御部23が、撮像部10の露光期間を算出部22で算出された消灯予定期間内に設定して、撮像部10に対して該消灯予定期間に撮影させた、ターゲット範囲を含む画像である。
この画像生成制御装置30の構成により、逆光の影響を受けていないターゲット範囲画像を用いて撮影対象物の位置を特定するので、特定精度を向上させることができる。
また、画像生成制御装置30において対象物位置特定部34は、照明部40に対して、露光期間に合わせたタイミングで、特定された撮影対象物の位置に向けて照明光を照射させ、撮像部10に対して、消灯予定期間内に設定された露光期間において、特定された撮影対象物の位置を撮影させる。すなわち、画像生成制御装置30は、撮影制御装置と呼ぶこともできる。
この画像生成制御装置30の構成により、さらに鮮明な撮影対象物の画像を撮影することができる。すなわち、撮影対象物の画像を精度良く生成することができる。
また、画像生成制御装置30において画像生成部36は、撮像対象物画像と広範囲画像とを結合した合成画像を生成する。
この画像生成制御装置30の構成により、撮像対象物の画像だけでなく撮像対象物の周りの画像を含む合成画像を生成することができるので、得られる情報が多くてユーザにとって利便性の高い画像を提供することができる。
<第3実施形態>
第3実施形態は、撮像部に対して複数の露光期間において露光させて、1つの第1画像を撮影させる、実施形態に関する。なお、第3実施形態の撮影装置及び画像生成制御装置の基本構成は、第2実施形態の撮影装置2及び画像生成制御装置30と同じなので、図2を参照して説明する。
第3実施形態の画像生成制御装置30において撮影制御部35は、撮像部10に対して、複数の消灯予定期間にそれぞれ対応する複数の露光期間において露光させて、1つの第1画像を撮影させる。
例えば、図6に示すように、撮影制御部35は、撮像部10に対して、3つの露光期間において露光させて、1つの第1画像を撮影させる。例えば、図6に示すように、撮影障害光源であるヘッドライトの点滅周期が10KHzであって点灯消灯のデューティが50%である場合、3回の撮影にかかる時間は合計200μsである。この200μSの間の被写体の動きは、シャッタースピードを1/5000秒に設定した撮影と同じである。このように3回の撮影で1つの第1画像を撮影させる場合でも十分に高速な撮影であるため、撮影対象物のナンバープレートが付けられた車両が走行中であっても、その間の動き量はごくわずかであり、ブレの無い画像を得ることができる。図6は、第3実施形態の多重露光の説明に供する図である。
以上のように第3実施形態によれば、画像生成制御装置30において撮影制御部35は、撮像部10に対して、複数の消灯予定期間にそれぞれ対応する複数の露光期間において露光させて、1つの第1画像を撮影させる。
この画像生成制御装置30により、消灯予定期間内における撮影であっても光量を十分に確保した撮影が可能となる。
なお、図6では、撮像部10に対して、連続した複数の消灯予定期間にそれぞれ対応する複数の露光期間において露光させて、1つの第1画像を撮影させているが、これに限定されるものではなく、非連続の複数の消灯予定期間にそれぞれ対応する複数の露光期間において露光させて、1つの第1画像を撮影させてもよい。
<第4実施形態>
第4実施形態は、一度の算出処理では消灯予定期間が算出できない場合の処理に関する。なお、第4実施形態の撮影装置及び画像生成制御装置の基本構成は、第2実施形態の撮影装置2及び画像生成制御装置30と同じなので、図2を参照して説明する。
第4実施形態の画像生成制御装置30において撮影制御部35は、算出部22が消灯予定期間を算出できなかった場合、撮像部10に設定している第1設定値を撮影フレームレートが高くなるように調整する。第1設定値の調整では、例えば、現在設定されている第1設定値に対して所定値を加算したものを調整後の第1設定値としてもよいし、現在設定されている第1設定値を所定割合だけ大きくしたものを調整後の第1設定値としてもよい。ここで、算出部22が消灯予定期間を算出できなかった場合とは、例えば、輝度の総和が判定閾値Th未満となる第2画像が現れない場合である。
例えば、図7の上段には、撮影障害光源であるヘッドライトの点滅周期が10KHzであり且つ撮影フレームレートが30fpsである場合の点灯期間及び消灯期間の算出結果が示されている。この場合、点滅周期に対して撮影フレームレートが遅いので、各第2画像の輝度が判定閾値Th以上となり、すべての期間が点灯期間であると判定されてしまう。すなわち、この場合には、算出部22は、消灯予定期間が算出できないと判定して算出不可通知を撮影制御部35へ出力する。
そして、図7の中段には、撮影障害光源であるヘッドライトの点滅周期が10KHzであり且つ撮影フレームレートが1000fpsである場合の点灯期間及び消灯期間の算出結果が示されている。この場合、正確ではないが、消灯予定期間が算出できている。
さらに、図7の下段には、撮影障害光源であるヘッドライトの点滅周期が10KHzであり且つ撮影フレームレートが10000fpsである場合の点灯期間及び消灯期間の算出結果が示されている。この場合、かなり正確な消灯予定期間が算出できている。なお、撮影障害光源であるヘッドライトの点滅周期が10KHzであって点灯消灯のデューティが50%である場合、20000fpsでの撮影で消灯点灯を繰り返す画像が撮影できる計算となる。100000fpsまで撮影可能であれば、より正確に消灯期間及び消灯周期を測定することが可能となる。
そして、算出部22は、調整された第1設定値に基づき撮像部10によって撮影された、ターゲット範囲を含む複数の第2画像に基づいて、消灯予定期間を再度算出する。
以上のように第4実施形態によれば、画像生成制御装置30において撮影制御部35は、算出部22が消灯予定期間を算出できなかった場合、撮像部10に設定している第1設定値を撮影フレームレートが高くなるように調整する。そして、算出部22は、調整された第1設定値に基づき撮像部10によって撮影された、ターゲット範囲を含む複数の第2画像に基づいて、消灯予定期間を再度算出する。
この画像生成制御装置30の構成により、撮影障害光源の点滅周期に対してデフォルトの第1設定値が小さい場合でも、第1設定値を撮影フレームレートが高くなるように調整して、消灯予定期間を確実に算出することができる。
<他の実施形態>
<1>上記の第1実施形態から第4実施形態では、算出部22が撮像部10で撮影された複数の第2画像に基づいて、撮影障害光源が消灯する消灯予定期間を算出するものとして説明を行ったが、これに限定されるものではない。例えば、撮影装置1,2がさらに受光素子を有し、算出部22が、該受光素子で検出されたターゲット範囲内の輝度変動に基づいて、消灯予定期間を算出してもよい。要するに、画像生成制御装置20,30において算出部22は、ターゲット範囲内の輝度変動に基づいて、消灯予定期間を算出できればよい。そして、撮影制御部23が、撮像部10の露光期間を算出部22で算出された消灯予定期間内に設定して、撮像部10に対して該消灯予定期間にターゲット範囲を含む画像を撮影させることができればよい。
<2>上記の第1実施形態から第4実施形態では、「ターゲット範囲画像(つまり、第1画像、第2画像)」が「広範囲画像」よりも小さい画像、つまり、「広範囲画像」の一部を切り出した画像であるものとして説明を行ったが、これに限定されるものではなく、「ターゲット範囲画像」は「広範囲画像」と同一であってもよい。
<3>上記の第1実施形態から第4実施形態で説明した撮影装置1,2は、例えば、交通監視システムにおける監視装置、又は、ドライブレコーダ等に用いることができる。
<4>図8は、画像生成制御装置のハードウェア構成例を示す図である。図8において、画像生成制御装置100は、インタフェース部101と、プロセッサ102と、メモリ103とを有する。
第1実施形態から第4実施形態及び他の実施形態<1>で説明した画像生成制御装置20,30の取得部21,31は、インタフェース部101によって実現される。また、画像生成制御装置20,30の算出部22と、動体画像範囲特定部32と、設定部33と、対象物位置特定部34と、撮影制御部23,35と、画像生成部36とは、プロセッサ102がメモリ103に記憶されたプログラムを読み込んで実行することにより実現される。
なお、本発明は上記の実施形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。
1,2 撮影装置
10 撮像部
20,30 画像生成制御装置
21,31 取得部
22 算出部
23,35 撮影制御部
32 動体画像範囲特定部
33 設定部
34 対象物位置特定部
36 画像生成部
40 照明部

Claims (9)

  1. 周期的に点滅する撮影障害光源の近傍に位置する撮影対象物の画像を生成する画像生成制御装置であって、
    前記撮影障害光源及び前記撮影対象物を含むターゲット範囲内の輝度変動に基づいて、前記撮影障害光源が消灯する消灯予定期間を算出する算出部と、
    撮像部の露光期間を前記算出された消灯予定期間内に設定して、前記撮像部に対して前記算出された消灯予定期間に前記ターゲット範囲を含む第1画像を撮影させる撮影制御部と、
    を具備し、
    前記撮影制御部は、前記撮像部に対して、複数の前記消灯予定期間にそれぞれ対応する複数の前記露光期間において露光させて、1つの前記第1画像を撮影させる、画像生成制御装置。
  2. 前記算出部は、撮影フレームレートの設定値が第1設定値であるときに前記撮像部によって複数の撮影フレームにおいて撮影された、前記ターゲット範囲を含む複数の第2画像に基づいて、前記撮影障害光源が消灯する消灯予定期間を算出する、
    請求項1記載の画像生成制御装置。
  3. 前記撮影制御部は、前記算出部が前記消灯予定期間を算出できなかった場合、前記第1設定値を前記撮影フレームレートが高くなるように再調整し、
    前記算出部は、前記調整された第1設定値に基づき前記撮像部によって撮影された、前記ターゲット範囲を含む複数の第2画像に基づいて、前記消灯予定期間を再度算出する、
    請求項2に記載の画像生成制御装置。
  4. 前記撮像部によって複数の撮影フレームにおいて撮影された、前記ターゲット範囲を含み且つ前記ターゲット範囲よりも広い範囲の複数の広範囲画像を用いて、移動物体の少なくとも一部に対応する画像範囲を特定する第1特定部と、
    前記特定された画像範囲に基づいて、前記ターゲット範囲を設定する設定部と、
    を具備する請求項1から3のいずれか1項に記載の画像生成制御装置。
  5. 前記撮影された第1画像を用いて、前記撮影対象物の位置を特定する第2特定部をさらに具備する、
    請求項1からのいずれか1項に記載の画像生成制御装置。
  6. 前記撮影制御部は、
    照明部に対して、前記露光期間に合わせたタイミングで、前記特定された撮影対象物の位置に向けて照明光を照射させ、
    前記撮像部に対して、前記消灯予定期間内に設定された露光期間において前記特定された撮影対象物の位置を撮影させる、
    請求項に記載の画像生成制御装置。
  7. 前記撮影対象物の画像と、前記ターゲット範囲を含み且つ前記ターゲット範囲よりも広い範囲の広範囲画像とを結合した合成画像を生成する画像生成部をさらに具備する、
    請求項1からのいずれか1項に記載の画像生成制御装置。
  8. 周期的に点滅する撮影障害光源の近傍に位置する撮影対象物の画像を生成する画像生成制御方法であって、
    前記撮影障害光源及び前記撮影対象物を含むターゲット範囲内の輝度変動に基づいて、前記撮影障害光源が消灯する消灯予定期間を算出することと
    撮像部の露光期間を前記算出された消灯予定期間内に設定して、前記撮像部に対して前記算出された消灯予定期間に前記ターゲット範囲を含む画像を撮影させることと
    を含み、
    前記画像を撮影させることは、前記撮像部に対して、複数の前記消灯予定期間にそれぞれ対応する複数の前記露光期間において露光させて、1つの前記画像を撮影させることを含む、
    画像生成制御方法。
  9. 周期的に点滅する撮影障害光源の近傍に位置する撮影対象物の画像を生成する画像生成制御装置に、
    前記撮影障害光源及び前記撮影対象物を含むターゲット範囲内の輝度変動に基づいて、前記撮影障害光源が消灯する消灯予定期間を算出することと
    撮像部の露光期間を前記算出された消灯予定期間内に設定して、前記撮像部に対して前記算出された消灯予定期間に前記ターゲット範囲を含む画像を撮影させることと
    を含む処理を実行させ
    前記画像を撮影させることは、前記撮像部に対して、複数の前記消灯予定期間にそれぞれ対応する複数の前記露光期間において露光させて、1つの前記画像を撮影させることを含む、
    画像生成制御プログラム。
JP2017164061A 2017-08-29 2017-08-29 画像生成制御装置、画像生成制御方法、及び画像生成制御プログラム Active JP7013730B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2017164061A JP7013730B2 (ja) 2017-08-29 2017-08-29 画像生成制御装置、画像生成制御方法、及び画像生成制御プログラム
PCT/JP2018/010945 WO2019044009A1 (ja) 2017-08-29 2018-03-20 画像生成制御装置、画像生成制御方法、及び画像生成制御プログラム
US16/785,151 US11363211B2 (en) 2017-08-29 2020-02-07 Image generation control device, image generation control method, and image generation control program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017164061A JP7013730B2 (ja) 2017-08-29 2017-08-29 画像生成制御装置、画像生成制御方法、及び画像生成制御プログラム

Publications (2)

Publication Number Publication Date
JP2019041351A JP2019041351A (ja) 2019-03-14
JP7013730B2 true JP7013730B2 (ja) 2022-02-15

Family

ID=65527588

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017164061A Active JP7013730B2 (ja) 2017-08-29 2017-08-29 画像生成制御装置、画像生成制御方法、及び画像生成制御プログラム

Country Status (3)

Country Link
US (1) US11363211B2 (ja)
JP (1) JP7013730B2 (ja)
WO (1) WO2019044009A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020072392A (ja) * 2018-10-31 2020-05-07 キヤノン株式会社 撮像装置、撮像装置の制御方法およびプログラム
WO2023067670A1 (ja) * 2021-10-19 2023-04-27 三菱電機株式会社 車両用点灯制御装置、及び車両用点灯制御方法
FR3129803B1 (fr) * 2021-11-29 2023-11-03 Valeo Comfort & Driving Assistance Système de capture d’image et ensemble d’imagerie comprenant un tel système

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001043383A (ja) 1999-07-29 2001-02-16 Oki Electric Ind Co Ltd 画像監視システム
JP2002204391A (ja) 2000-10-23 2002-07-19 Hitachi Kokusai Electric Inc 透過光量制御方法およびその方法を用いたテレビジョンカメラ装置
JP2007251258A (ja) 2006-03-13 2007-09-27 Fujitsu Ten Ltd 画像認識装置
JP2011227657A (ja) 2010-04-19 2011-11-10 Honda Motor Co Ltd 車両の周辺を監視する装置
JP2016196233A (ja) 2015-04-03 2016-11-24 クラリオン株式会社 車両用道路標識認識装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6674474B2 (en) 2000-10-23 2004-01-06 Hitachi Kokusai Electric Inc. Method of controlling transmission light amount and television camera apparatus using the method
JP4869572B2 (ja) * 2004-08-09 2012-02-08 株式会社ニコン 撮像装置
JP4706466B2 (ja) * 2005-12-16 2011-06-22 株式会社日立製作所 撮像装置
CN103250418B (zh) 2010-11-30 2014-10-15 富士胶片株式会社 图像处理设备、成像设备、图像处理方法、及白平衡调整方法
US9076233B2 (en) * 2012-02-03 2015-07-07 Seiko Epson Corporation Image processing device and electronic apparatus using the same
JP2015009570A (ja) * 2013-06-26 2015-01-19 富士重工業株式会社 前照灯制御装置
EP3361283A4 (en) * 2015-10-09 2018-10-24 Panasonic Intellectual Property Management Co., Ltd. Imaging apparatus and solid-state image element used for same
JP6305456B2 (ja) * 2016-03-31 2018-04-04 株式会社Subaru 表示装置
US10000157B2 (en) * 2016-04-29 2018-06-19 Faraday&Future Inc. Controlling dimming of mirrors or displays using dual-function lighting
US10554901B2 (en) * 2016-08-09 2020-02-04 Contrast Inc. Real-time HDR video for vehicle control

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001043383A (ja) 1999-07-29 2001-02-16 Oki Electric Ind Co Ltd 画像監視システム
JP2002204391A (ja) 2000-10-23 2002-07-19 Hitachi Kokusai Electric Inc 透過光量制御方法およびその方法を用いたテレビジョンカメラ装置
JP2007251258A (ja) 2006-03-13 2007-09-27 Fujitsu Ten Ltd 画像認識装置
JP2011227657A (ja) 2010-04-19 2011-11-10 Honda Motor Co Ltd 車両の周辺を監視する装置
JP2016196233A (ja) 2015-04-03 2016-11-24 クラリオン株式会社 車両用道路標識認識装置

Also Published As

Publication number Publication date
US11363211B2 (en) 2022-06-14
US20200177785A1 (en) 2020-06-04
WO2019044009A1 (ja) 2019-03-07
JP2019041351A (ja) 2019-03-14

Similar Documents

Publication Publication Date Title
JP6566737B2 (ja) 情報処理装置、情報処理方法、プログラム
JP7013730B2 (ja) 画像生成制御装置、画像生成制御方法、及び画像生成制御プログラム
JP6073501B2 (ja) 可変照明パターンの赤外線照明ビームを生成するための方法及び装置
JP2006235254A (ja) 撮影装置
US10771717B2 (en) Use of IR pre-flash for RGB camera's automatic algorithms
JP2014033276A5 (ja)
JP6935815B2 (ja) 照明撮像装置
JP2008193195A (ja) ディジタルカメラ
JP2017225073A (ja) 撮像装置とその制御方法、プログラム及び撮像システム
JP4972423B2 (ja) カメラ装置及びその制御方法
US10371924B2 (en) Image device comprising fill-light projector, and autofocus method using imaging device
US8681263B2 (en) Imager capturing an image with a rolling shutter using flicker detection
CN112565618B (zh) 曝光控制装置
JP2829951B2 (ja) 照明付き撮像装置
JP5546381B2 (ja) 撮像装置及びその制御方法
JP2017184151A (ja) 撮像装置及び撮像方法
JP2004146873A (ja) 撮影装置
JP2017175199A (ja) 車室内用カメラの目標範囲の設定方法および車室内用カメラ
JP2021044667A (ja) 露光制御装置
JP2014143645A (ja) 撮像装置及び撮像プログラム
JP2016109975A (ja) 撮像装置及び撮像方法
JP2023147476A (ja) 画像処理装置、画像処理方法、および画像処理プログラム
JPH08294036A (ja) 自動ズーム付きビデオカメラ
CN115314641A (zh) 摄像设备的控制方法和装置、存储介质及电子装置
JP2013024979A (ja) カメラ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200330

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210525

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210719

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211221

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220103

R150 Certificate of patent or registration of utility model

Ref document number: 7013730

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150