JP6865906B2 - Display control device and display control method - Google Patents
Display control device and display control method Download PDFInfo
- Publication number
- JP6865906B2 JP6865906B2 JP2020560672A JP2020560672A JP6865906B2 JP 6865906 B2 JP6865906 B2 JP 6865906B2 JP 2020560672 A JP2020560672 A JP 2020560672A JP 2020560672 A JP2020560672 A JP 2020560672A JP 6865906 B2 JP6865906 B2 JP 6865906B2
- Authority
- JP
- Japan
- Prior art keywords
- feature amount
- display control
- image
- brightness
- driver
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 22
- 230000002093 peripheral effect Effects 0.000 claims description 88
- 230000001815 facial effect Effects 0.000 claims description 81
- 210000001747 pupil Anatomy 0.000 claims description 25
- 238000003384 imaging method Methods 0.000 claims description 4
- 238000012545 processing Methods 0.000 description 47
- 238000010586 diagram Methods 0.000 description 18
- 238000012986 modification Methods 0.000 description 16
- 230000004048 modification Effects 0.000 description 16
- 238000004891 communication Methods 0.000 description 15
- 230000008569 process Effects 0.000 description 13
- 230000006870 function Effects 0.000 description 11
- 230000005540 biological transmission Effects 0.000 description 7
- 238000012544 monitoring process Methods 0.000 description 5
- 230000007423 decrease Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 210000000744 eyelid Anatomy 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000004313 glare Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R11/00—Arrangements for holding or mounting articles, not otherwise provided for
- B60R11/04—Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
Description
本発明は、車両周辺を撮像して得られた周辺画像を表示する表示装置を制御する表示制御装置及び表示制御方法に関する。 The present invention relates to a display control device and a display control method for controlling a display device that displays a peripheral image obtained by imaging the surroundings of a vehicle.
近年、バックミラーやサイドミラーなどの物理鏡の代用として、車両から後方に向けられたカメラの撮影画像を表示装置で表示する電子ミラー装置などのカメラモニタリングシステム(CMS)が提案されている。このようなCMSについて様々な技術が提案されている。 In recent years, as a substitute for physical mirrors such as rear-view mirrors and side mirrors, camera monitoring systems (CMS) such as electronic mirror devices that display images taken by a camera directed backward from a vehicle on a display device have been proposed. Various techniques have been proposed for such CMS.
例えば特許文献1では、ドライバモニタリングシステム(DMS)を用いて運転者の画像から、表示装置を見ているときの運転者の瞳孔径を取得し、取得した瞳孔径と予め記憶された径との差に基づいて表示装置の輝度を制御する技術が提案されている。このような技術によれば、表示装置の輝度が運転者にとって明る過ぎないように、または暗過ぎないように制御されるので、運転者は、適切な明るさの撮影画像を見ることが可能となる。
For example, in
例えば電子ミラー装置において、運転者は、昼間などに比較的明るい車両外部を見ながら運転している間に、車両室内に設けられた表示装置の画像を瞬間的に見て後方を確認したい場合がある。しかしながら従来技術では、運転者が表示装置を見た時点から、表示装置の輝度が制御されるため、表示装置の輝度を適切に制御することが間に合わないことがあった。この結果、表示装置の輝度が運転者にとって適切でなく、表示装置の画像が運転者にとって見難い場合があった。 For example, in an electronic mirror device, the driver may want to instantly see an image of a display device provided in the vehicle interior to check the rear while driving while looking at the outside of the vehicle, which is relatively bright in the daytime. is there. However, in the prior art, since the brightness of the display device is controlled from the time when the driver looks at the display device, it may not be possible to appropriately control the brightness of the display device. As a result, the brightness of the display device may not be appropriate for the driver, and the image of the display device may be difficult for the driver to see.
そこで、本発明は、上記のような問題点を鑑みてなされたものであり、表示装置の輝度を早く制御することが可能な技術を提供することを目的とする。 Therefore, the present invention has been made in view of the above problems, and an object of the present invention is to provide a technique capable of quickly controlling the brightness of a display device.
本発明に係る表示制御装置は、車両周辺を撮像して得られた周辺画像を表示する表示装置を制御する表示制御装置であって、車両の運転者の顔の画像に基づく顔特徴量を取得する取得部と、運転者が周辺画像を見ていないときに取得部で取得された顔特徴量である特定顔特徴量に基づいて、表示装置に表示される周辺画像の輝度である周辺画像輝度を制御する制御部とを備える。 The display control device according to the present invention is a display control device that controls a display device that displays a peripheral image obtained by imaging the surroundings of the vehicle, and acquires a facial feature amount based on an image of the driver's face of the vehicle. Peripheral image brightness, which is the brightness of the peripheral image displayed on the display device, based on the acquisition unit and the specific facial feature amount, which is the facial feature amount acquired by the acquisition unit when the driver is not looking at the peripheral image. It is provided with a control unit for controlling the above.
本発明によれば、運転者が周辺画像を見ていないときに取得部で取得された顔特徴量である特定顔特徴量に基づいて、表示装置に表示される周辺画像の輝度である周辺画像輝度を制御する。このような構成によれば、表示装置の輝度を早く制御することができる。 According to the present invention, the peripheral image which is the brightness of the peripheral image displayed on the display device based on the specific facial feature amount which is the facial feature amount acquired by the acquisition unit when the driver is not looking at the peripheral image. Control the brightness. According to such a configuration, the brightness of the display device can be controlled quickly.
本発明の目的、特徴、態様及び利点は、以下の詳細な説明と添付図面とによって、より明白となる。 The objects, features, embodiments and advantages of the present invention will be made clearer by the following detailed description and accompanying drawings.
<実施の形態1>
図1は、本発明の実施の形態1に係る表示制御装置1の構成を示すブロック図である。以下、表示制御装置1が搭載され、着目の対象となる車両を「自車両」と記載して説明する。<
FIG. 1 is a block diagram showing a configuration of a
図1の表示制御装置1は、撮像装置31及び表示装置32と、有線または無線によって接続されている。表示制御装置1、撮像装置31及び表示装置32は、例えばカメラモニタリングシステム(CMS)を構成する。以下、表示制御装置1について説明する前に、撮像装置31及び表示装置32について説明する。
The
撮像装置31は、自車両周辺を撮像する装置であり、例えば自車両に搭載されたカメラなどが適用される。以下の説明では、撮像装置31は、自車両の後方を自車両周辺として撮像するものとするが、例えば自車両の前方または側方を自車両周辺として撮像してもよい。撮像装置31が周辺画像を撮像して得られた自車両周辺の画像は、周辺画像として表示制御装置1に送信される。なお図1では、撮像装置31は、表示制御装置1と個別に設けられている構成が示されているが、表示制御装置1に備えられてもよい。
The
表示装置32は、表示制御装置1で各種処理が行われた周辺画像を受信し、当該周辺画像を表示する。なお図1では、表示装置32は、表示制御装置1と個別に設けられている構成が示されているが、表示制御装置1に備えられてもよい。また、表示装置32は、自車両に固定された表示装置であってもよいし、自車両に持ち込まれた表示装置であってもよい。
The
次に、表示制御装置1について説明する。図1の表示制御装置1は、取得部11と、制御部12とを備え、以下で説明するように周辺画像を表示する表示装置32を制御する。
Next, the
取得部11は、自車両の運転者の顔の画像に基づく顔特徴量を取得する。運転者は、運転座席に座っている人である。顔特徴量は、運転者の瞳孔径、運転者の顔に当たっている光の強度、及び、運転者の開眼度、のうちの少なくとも1つを含む。なお、運転者の開眼度は、運転者の上下瞼の間の通常距離に対する、運転者の上下瞼の間の取得時の距離の割合に相当する。
The
図1では、表示制御装置1の外部に設けられた図示しないドライバモニタリングシステム(DMS)が、運転者の画像を取得して、当該画像に基づいて運転者の顔特徴量を生成し、取得部11が、DMSから当該顔特徴量を取得する構成が示されている。この構成の場合、取得部11は、例えば受信装置またはインターフェースである。しかしながら、取得部11はこれらに限ったものではなく、取得部11自体がDMSであってもよい。
In FIG. 1, a driver monitoring system (DMS) (not shown) provided outside the
制御部12は、運転者が周辺画像を見ていないときに取得部11で取得された顔特徴量に基づいて、表示装置32に表示される周辺画像の輝度を制御する。以下の説明では、任意の時点に取得部11で取得された顔特徴量のうち、運転者が周辺画像を見ていないときに取得部11で取得された顔特徴量を「特定顔特徴量」と記すこともある。また、表示装置32に表示される周辺画像の輝度を「周辺画像輝度」と記すこともある。特定顔特徴量は、例えば、運転者が自車両の外部を見ているとき、または自車両室内の表示装置32以外の部分を見ているときに取得部11で取得された前記顔特徴量を含む。
The
例えば、特定顔特徴量が瞳孔径を含む場合、制御部12は、瞳孔径が小さくなるほど周辺画像の輝度を高くする。例えば、特定顔特徴量が光の強度を含む場合、制御部12は、光の強度が大きくなるほど周辺画像の輝度を高くする。例えば、特定顔特徴量が開眼度を含む場合、制御部12は、開眼度が小さくなるほど周辺画像の輝度を高くする。このような制御部12は、後述するECU(Electronic Control Unit)などであってもよいし、後述するCPU(Central Processing Unit)などであってもよい。
For example, when the specific facial feature amount includes the pupil diameter, the
なお、取得部11で取得された顔特徴量が、特定顔特徴量であるか否かの判定は、取得部11で行われてもよいし、制御部12で行われてもよい。
The determination of whether or not the face feature amount acquired by the
以下、取得部11が特定顔特徴量の判定を行う第1例について説明する。この第1例では、取得部11は、自車両の運転者の画像から運転者の視線方向を検出することが可能に構成される。取得部11は、当該視線方向が予め定められた範囲内であると判定した場合に、上記画像から取得された顔特徴量が特定顔特徴量であると判定し、当該視線方向が予め定められた範囲外であると判定した場合に、上記画像から取得された顔特徴量が特定顔特徴量でないと判定する。
Hereinafter, a first example in which the
次に、取得部11が特定顔特徴量の判定を行う第2例について説明する。この第2例では、取得部11は、自車両の運転者の画像から運転者の顔の向きを検出することが可能に構成される。取得部11は、当該顔の向きが予め定められた範囲内であると判定した場合に、上記画像から取得された顔特徴量が特定顔特徴量であると判定し、当該視線方向が予め定められた範囲外であると判定した場合に、上記画像から取得された顔特徴量が特定顔特徴量でないと判定する。
Next, a second example in which the
以上、取得部11で取得された顔特徴量が、特定顔特徴量であるか否かを判定する例について説明したが、制御部12が判定を行う場合の説明も以上の説明と同様である。また以上の説明では、制御部12は、特定顔特徴量に基づいて周辺画像輝度を制御したが、その制御に加えて、運転者が周辺画像を見ているときに取得部11で取得された顔特徴量に基づいて周辺画像輝度を制御してもよい。
The example of determining whether or not the face feature amount acquired by the
<実施の形態1のまとめ>
以上のような本実施の形態1に係る表示制御装置1によれば、自車両の運転者が周辺画像を見ていないときに取得部11で取得された顔特徴量に基づいて、表示装置32に表示される周辺画像の輝度を制御する。このような構成によれば、運転者が、表示装置32に表示されている周辺画像を見る前から、当該周辺画像の輝度を制御することができる。このため、表示装置32の輝度を早く制御することができるので、運転者は、周辺画像を瞬間的に見る場合であっても、適切な明るさの周辺画像を瞬間的に見ることができる。<Summary of
According to the
<実施の形態2>
図2は、本発明の実施の形態2に係る表示制御装置1の構成を示すブロック図である。以下、本実施の形態2に係る構成要素のうち、上述の構成要素と同じまたは類似する構成要素については同じ参照符号を付し、異なる構成要素について主に説明する。<
FIG. 2 is a block diagram showing a configuration of a
図2の表示制御装置1は、実施の形態1と同様に撮像装置31及び表示装置32と接続されている。撮像装置31及び表示装置32の構成は、実施の形態1で説明した撮像装置31と概ね同様である。ただし、表示装置32の構成については後で詳細に説明する。
The
図2の表示制御装置1は、ドライバモニタリングシステム21(DMS21)と、CMS画像処理装置22とを備える。
The
図3は、DMS21の構成を示すブロック図である。図3のDMS21は、DMS撮像装置21aと、DMS画像処理部21bと、DMS送信部21cとを備える。このDMS21は、以下で説明するように、運転者の画像を撮像し、当該画像に基づいて運転者の顔特徴量を生成する。なお、DMS21は、図1の取得部11の概念に含まれる。
FIG. 3 is a block diagram showing the configuration of the
DMS撮像装置21aは、例えば自車両に搭載されたカメラであり、自車両の運転者の画像を撮像する。
The DMS
DMS画像処理部21bは、DMS撮像装置21aで撮像された運転者の画像から、運転者の顔特徴量を取得する。図3のDMS画像処理部21bは、瞳孔径計測部21b1と、顔光強度分布測定部21b2と、開眼度検出部21b3とを備える。瞳孔径計測部21b1は、運転者の画像から、運転者の瞳孔径を顔特徴量として計測する。顔光強度分布測定部21b2は、運転者の画像から、運転者の顔に当たっている光の強度及び分布を計測し、その計測結果に基づいて運転者の眼及び眼周辺の光の強度を顔特徴量として測定する。開眼度検出部21b3は、運転者の画像から、運転者の開眼度を顔特徴量として検出する。
The DMS
DMS画像処理部21bは、取得された顔特徴量が、特定顔特徴量であるか否か、つまり運転者が周辺画像を見ていないときに取得部11で取得された顔特徴量であるか否かを判定する。DMS画像処理部21bにおける特定顔特徴量の判定には、例えば実施の形態1で説明した第1例または第2例の判定が用いられる。
The DMS
DMS送信部21cは、DMS画像処理部21bにて特定顔特徴量であると判定された顔特徴量をCMS画像処理装置22に送信する。
The
図4は、CMS画像処理装置22の構成を示すブロック図である。図4のCMS画像処理装置22は、画像受信部22aと、画像処理部22bと、画像送信部22cと、DMS処理結果受信部22dと、顔特徴判定部22eと、照度データ受信部22fと、照度判定部22gと、画像輝度設定部22hと、画像輝度データ送信部22iとを備える。このCMS画像処理装置22は、以下で説明するように、DMS21で取得された特定顔特徴量に基づいて、表示装置32に表示される周辺画像の輝度を制御するための画像輝度データを生成する。
FIG. 4 is a block diagram showing the configuration of the CMS
なお、CMS画像処理装置22、撮像装置31及び表示装置32は、CMSを構成する。また、照度データ受信部22f及び照度判定部22gは、図1の取得部11の概念に含まれ、顔特徴判定部22e及び画像輝度設定部22hは、図1の制御部12の概念に含まれる。
The CMS
画像受信部22aは、図2の撮像装置31から送信された周辺画像を受信する。画像処理部22bは、画像受信部22aで受信された周辺画像に各種処理を行う。画像送信部22cは、画像処理部22bで処理された周辺画像を表示装置32に送信する。
The
DMS処理結果受信部22dは、図3のDMS21から送信された特定顔特徴量を受信する。顔特徴判定部22eは、DMS処理結果受信部22dで受信された特定顔特徴量が特定の条件を満たすか否かを判定する。例えば、特定の条件は、特定顔特徴量が瞳孔径を含むか否か、つまり瞳孔径が読み取り可能であったか否かであってもよい。また例えば、特定顔特徴量が開眼度を含む場合には、特定の条件は、開眼度が予め定められた閾値以下であるか否かであってもよい。また例えば、特定顔特徴量が光の強度を含む場合には、特定の条件は、光の強度が予め定められた閾値以上であるか否かであってもよい。また例えば、特定の条件は、これらの組み合わせであってもよい。顔特徴判定部22eは、特定顔特徴量が特定の条件を満たすか否かの判定結果と、DMS処理結果受信部22dで受信された特定顔特徴量とを画像輝度設定部22hに出力する。
The DMS processing
照度データ受信部22fは、後述する表示装置32から送信された照度データを受信する。照度判定部22gは、照度データ受信部22fで受信された照度データに基づいて、表示装置32周辺の照度を判定する。ここでいう表示装置32周辺の照度は、表示装置32の照度も含む。このように、照度データ受信部22f及び照度判定部22gは協働して、表示装置32周辺の照度を取得する。
The illuminance
画像輝度設定部22hは、特定顔特徴量と周辺画像輝度とが予め対応付けられた第1テーブルとを有している。第1テーブルは、瞳孔径−輝度テーブルと、強度−輝度テーブルと、開眼度−輝度テーブルと、の少なくとも1つを含む。なお、瞳孔径−輝度テーブルでは、瞳孔径が小さくなるにつれて周辺画像輝度が高くなるように、瞳孔径と周辺画像輝度とが予め対応付けられている。強度−輝度テーブルでは、光の強度が大きくなるにつれて周辺画像輝度が高くなるように、光の強度と周辺画像輝度とが予め対応付けられている。開眼度−輝度テーブルでは、開眼度が小さくなるにつれて周辺画像輝度が高くなるように、開眼度と周辺画像輝度とが予め対応付けられている。
The image
また、画像輝度設定部22hは、照度−輝度テーブルを含む第2テーブルを有している。照度−輝度テーブルでは、表示装置32周辺の照度が大きくなるにつれて周辺画像輝度が高くなるように、照度と周辺画像輝度とが予め対応付けられている。
Further, the image
特定顔特徴量が特定の条件を満たすと顔特徴判定部22eで判定された場合、画像輝度設定部22hは、顔特徴判定部22eから出力された特定顔特徴量に対応する周辺画像輝度を第1テーブルから読み出し、当該周辺画像輝度を示す画像輝度データを生成する。特定顔特徴量が特定の条件を満たさないと顔特徴判定部22eで判定された場合、画像輝度設定部22hは、照度判定部22gで判定された表示装置32周辺の照度に対応する周辺画像輝度を第2テーブルから読み出し、当該周辺画像輝度を示す画像輝度データを生成する。
When the face
画像輝度データ送信部22iは、画像輝度設定部22hで生成された画像輝度データを表示装置32に送信する。
The image brightness
図5は、表示装置32の構成を示すブロック図である。図5の表示装置32は、画像受信部32aと、表示部32bと、画像輝度データ受信部32cと、画像輝度制御部32dと、画像輝度調整部32eと、照度センサ32fと、照度データ送信部32gとを備える。
FIG. 5 is a block diagram showing the configuration of the
画像受信部32aは、図4のCMS画像処理装置22から送信された周辺画像を受信する。表示部32bは、例えば液晶パネルであり、画像受信部32aで受信された周辺画像を表示する。画像輝度データ受信部32cは、図4のCMS画像処理装置22から送信された画像輝度データを受信する。
The
画像輝度制御部32dは、画像輝度データ受信部32cで受信された画像輝度データに基づいて画像輝度調整部32eを制御する。画像輝度調整部32eは、例えばバックライトであり、表示部32bに表示されている周辺画像の輝度を、画像輝度制御部32dの制御によって適宜調整する。この場合、本実施の形態2に係る画像輝度データは、バックライト制御データに相当する。なお、図5の表示装置32では、表示部32b、画像輝度制御部32d、及び、画像輝度調整部32eが個別に設けられているが、表示部32b、画像輝度制御部32d、及び、画像輝度調整部32eのいくつかが一体化されてもよい。
The image
照度センサ32fは、表示装置32周辺の照度を検出する。照度データ送信部32gは、照度センサ32fで検出された表示装置32周辺の照度を示す照度データをCMS画像処理装置22に送信する。
The
以上のような構成によれば、特定顔特徴量が特定の条件を満たす場合に、画像輝度設定部22hは、特定顔特徴量に基づいて、表示装置32に表示される周辺画像の輝度を制御する。この際、画像輝度設定部22hは、第1テーブルにおいて特定顔特徴量と予め対応付けられた輝度に周辺画像輝度を合わせる制御を行う。
According to the above configuration, when the specific face feature amount satisfies a specific condition, the image
一方、特定顔特徴量が特定の条件を満たさない場合に、画像輝度設定部22hは、表示装置32周辺の照度に基づいて、表示装置32に表示される周辺画像の輝度を制御する。この際、画像輝度設定部22hは、第2テーブルにおいて表示装置32周辺の照度と予め対応付けられた輝度に周辺画像輝度を合わせる制御を行う。
On the other hand, when the specific facial feature amount does not satisfy the specific condition, the image
<動作>
図6は、本実施の形態2に係る表示制御装置1の動作を示すフローチャートである。<Operation>
FIG. 6 is a flowchart showing the operation of the
ステップS1にて、CMS画像処理装置22は、表示装置32から送信された照度データを読み出す。ステップS2にて、CMS画像処理装置22は、DMS21から送信された特定顔特徴量を読み出す。
In step S1, the CMS
ステップS3にて、図4のCMS画像処理装置22の顔特徴判定部22eは、特定顔特徴量に基づいて瞳孔径が読み取り可能であったか否かを判定する。瞳孔径が読み取り可能であったと判定された場合には、処理がステップS4に進み、瞳孔径が読み取り可能でなかったと判定された場合には、処理がステップS6に進む。
In step S3, the face
ステップS4にて、画像輝度設定部22hは瞳孔径−輝度テーブルを参照する。そしてステップS5にて、画像輝度設定部22hは、特定顔特徴量に含まれる瞳孔径に対応する周辺画像輝度を、瞳孔径−輝度テーブルから読み出し、当該周辺画像輝度を示す画像輝度データを生成する。その後、処理がステップS12に進む。
In step S4, the image
ステップS6にて、顔特徴判定部22eは、特定顔特徴量に含まれる開眼度が予め定められた閾値以下であるか否かを判定する。開眼度が予め定められた閾値以下であると判定された場合には、処理がステップS7に進み、開眼度が予め定められた閾値よりも大きいと判定された場合には、処理がステップS8に進む。
In step S6, the face
ステップS7にて、顔特徴判定部22eは、特定顔特徴量に含まれる光の強度が予め定められた閾値以上であるか否かを判定する。光の強度が予め定められた閾値以上であると判定された場合には、処理がステップS10に進み、光の強度が予め定められた閾値よりも小さいと判定された場合には、処理がステップS8に進む。なお、ステップS7からステップS10に処理が進む場合には、運転者は眼に光を浴びて眩しいと感じて目を細めていると推測され、ステップS7からステップS8に処理が進む場合には、運転者は眩しさ以外の要因で目を細めていると推測される。
In step S7, the face
ステップS8にて、画像輝度設定部22hは照度−輝度テーブルを参照する。そしてステップS9にて、画像輝度設定部22hは、照度データが示す照度に対応する周辺画像輝度を、照度−輝度テーブルから読み出し、当該周辺画像輝度を示す画像輝度データを生成する。その後、処理がステップS12に進む。
In step S8, the image
ステップS10にて、画像輝度設定部22hは開眼度−輝度テーブルを参照する。そしてステップS11にて、画像輝度設定部22hは、特定顔特徴量に含まれる開眼度に対応する周辺画像輝度を、開眼度−輝度テーブルから読み出し、当該周辺画像輝度を示す画像輝度データを生成する。その後、処理がステップS12に進む。
In step S10, the image
ステップS12にて、画像輝度データ送信部22iは、画像輝度設定部22hで生成された画像輝度データを表示装置32に送信する。これにより、表示装置32は、当該画像輝度データに基づいて周辺画像輝度を適宜調整する。その後、図6の動作が終了する。
In step S12, the image brightness
<実施の形態2のまとめ>
以上のような本実施の形態2に係る表示制御装置1によれば、画像輝度設定部22hは、特定顔特徴量と予め対応付けられた輝度に周辺画像輝度を合わせる制御を行う。このような構成によれば、比較的簡単な構成で周辺画像輝度を適切に制御することができる。<Summary of
According to the
また本実施の形態2によれば、特定顔特徴量が特定の条件を満たさない場合に、画像輝度設定部22hは、表示装置32周辺の照度に基づいて、表示装置32に表示される周辺画像の輝度を制御する。このような構成によれば、特定顔特徴量を用いて周辺画像の輝度を制御することが適切でない場合に、表示装置32周辺の照度に基づいて、周辺画像の輝度を制御することができる。
Further, according to the second embodiment, when the specific facial feature amount does not satisfy the specific condition, the image
<変形例1>
実施の形態2に係る表示制御装置1の動作を示すフローチャート(図6)の説明では、顔特徴量及び特定顔特徴量は、瞳孔径、光の強度、及び、開眼度を含んでいた。しかしながら、顔特徴量及び特定顔特徴量は、瞳孔径、光の強度、及び、開眼度の少なくとも1つを含んでいればよい。<Modification example 1>
In the explanation of the flowchart (FIG. 6) showing the operation of the
図7は、顔特徴量及び特定顔特徴量が、光の強度及び開眼度を含まずに、瞳孔径を含む場合の表示制御装置1の動作を示すフローチャートである。この図7のフローチャートは、図6のフローチャートからステップS6,S7,S10,S11を取り除いたフローチャートと同様である。
FIG. 7 is a flowchart showing the operation of the
図8は、顔特徴量及び特定顔特徴量が、瞳孔径を含まずに、光の強度及び開眼度を含む場合の表示制御装置1の動作を示すフローチャートである。この図7のフローチャートは、図6のフローチャートからステップS3〜S5を取り除いたフローチャートと同様である。
FIG. 8 is a flowchart showing the operation of the
<変形例2>
図9は、本変形例2に係るCMS画像処理装置22の構成を示すブロック図である。図9のCMS画像処理装置22の構成は、図4のCMS画像処理装置22の構成に、運転情報取得部22jが追加された構成と同様である。なお、運転情報取得部22jは、図1の取得部11の概念に含まれる。<
FIG. 9 is a block diagram showing the configuration of the CMS
運転情報取得部22jは、自車両の運転情報を取得する。運転情報は、自車両が運転中であるか否かを示す情報であり、例えば、自車両のシフトレバーがDレンジに位置しているか否かを示す情報である。画像輝度設定部22hは、運転情報取得部22jで取得された運転情報に基づいて自車両が運転中であると判定した場合に、特定顔特徴量に基づいて周辺画像輝度を制御する。以上のような本変形例2に係る表示制御装置1によれば、運転中外には、特定顔特徴量に基づく周辺画像輝度の制御を抑制することができる。
The driving
<変形例3>
DMS21が、複数の運転者を互いに識別可能に構成されている場合には、実施の形態2で説明した第1テーブルは、運転者ごとに予め規定されてもよい。そして、運転情報取得部22jは、DMS21で識別された運転者に基づいて、周辺画像輝度の制御に用いる第1テーブルを変更してもよい。<Modification example 3>
When the
<その他の変形例>
上述した図1の取得部11及び制御部12を、以下「取得部11等」と記す。取得部11等は、図10に示す処理回路81により実現される。すなわち、処理回路81は、車両の運転者の顔の画像に基づく顔特徴量を取得する取得部11と、運転者が周辺画像を見ていないときに取得部11で取得された顔特徴量である特定顔特徴量に基づいて、周辺画像輝度を制御する制御部12と、を備える。処理回路81には、専用のハードウェアが適用されてもよいし、メモリに格納されるプログラムを実行するプロセッサが適用されてもよい。プロセッサには、例えば、中央処理装置、処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、DSP(Digital Signal Processor)などが該当する。<Other variants>
The
処理回路81が専用のハードウェアである場合、処理回路81は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)、またはこれらを組み合わせたものが該当する。取得部11等の各部の機能それぞれは、処理回路を分散させた回路で実現されてもよいし、各部の機能をまとめて一つの処理回路で実現されてもよい。
When the
処理回路81がプロセッサである場合、取得部11等の機能は、ソフトウェア等との組み合わせにより実現される。なお、ソフトウェア等には、例えば、ソフトウェア、ファームウェア、または、ソフトウェア及びファームウェアが該当する。ソフトウェア等はプログラムとして記述され、メモリに格納される。図11に示すように、処理回路81に適用されるプロセッサ82は、メモリ83に記憶されたプログラムを読み出して実行することにより、各部の機能を実現する。すなわち、表示制御装置1は、処理回路81により実行されるときに、車両の運転者の顔の画像に基づく顔特徴量を取得するステップと、運転者が周辺画像を見ていないときに取得された顔特徴量である特定顔特徴量に基づいて周辺画像輝度を制御するステップと、が結果的に実行されることになるプログラムを格納するためのメモリ83を備える。換言すれば、このプログラムは、取得部11等の手順や方法をコンピュータに実行させるものであるともいえる。ここで、メモリ83は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read Only Memory)などの、不揮発性または揮発性の半導体メモリ、HDD(Hard Disk Drive)、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、DVD(Digital Versatile Disc)、そのドライブ装置等、または、今後使用されるあらゆる記憶媒体であってもよい。
When the
以上、取得部11等の各機能が、ハードウェア及びソフトウェア等のいずれか一方で実現される構成について説明した。しかしこれに限ったものではなく、取得部11等の一部を専用のハードウェアで実現し、別の一部をソフトウェア等で実現する構成であってもよい。例えば、取得部11については専用のハードウェアとしての処理回路81、インターフェース及びレシーバなどでその機能を実現し、それ以外についてはプロセッサ82としての処理回路81がメモリ83に格納されたプログラムを読み出して実行することによってその機能を実現することが可能である。
The configuration in which each function of the
以上のように、処理回路81は、ハードウェア、ソフトウェア等、またはこれらの組み合わせによって、上述の各機能を実現することができる。
As described above, the
また、以上で説明した表示制御装置1は、PND(Portable Navigation Device)及びナビゲーション装置などの車両装置と、携帯電話、スマートフォン及びタブレットなどの携帯端末を含む通信端末と、車両装置及び通信端末の少なくとも1つにインストールされるアプリケーションの機能と、サーバとを適宜に組み合わせてシステムとして構築される表示制御システムにも適用することができる。この場合、以上で説明した表示制御装置1の各機能あるいは各構成要素は、前記システムを構築する各機器に分散して配置されてもよいし、いずれかの機器に集中して配置されてもよい。
Further, the
図12は、本変形例に係るサーバ91の構成を示すブロック図である。図12のサーバ91は、通信部91aと制御部91bとを備えており、車両92のナビゲーション装置などの車両装置93と無線通信を行うことが可能となっている。
FIG. 12 is a block diagram showing the configuration of the
取得部である通信部91aは、車両装置93と無線通信を行うことにより、車両92の運転者の顔の画像に基づく顔特徴量を受信する。
The
制御部91bは、サーバ91の図示しないプロセッサなどが、サーバ91の図示しないメモリに記憶されたプログラムを実行することにより、図1の制御部12と同様の機能を有している。つまり、制御部91bは、運転者が周辺画像を見ていないときに取得部11で取得された顔特徴量である特定顔特徴量に基づいて、車両装置93に表示される周辺画像の輝度である周辺画像輝度を制御するための制御信号を生成する。そして、通信部91aは、制御部91bで生成された制御信号を車両装置93に送信する。このように構成されたサーバ91によれば、実施の形態1で説明した表示制御装置1と同様の効果を得ることができる。
The control unit 91b has the same function as the
図13は、本変形例に係る通信端末96の構成を示すブロック図である。図13の通信端末96は、通信部91aと同様の通信部96aと、制御部91bと同様の制御部96bとを備えており、車両97の車両装置98と無線通信を行うことが可能となっている。なお、通信端末96には、例えば車両97の運転者が携帯する携帯電話、スマートフォン、及びタブレットなどの携帯端末が適用される。このように構成された通信端末96によれば、実施の形態1で説明した表示制御装置1と同様の効果を得ることができる。
FIG. 13 is a block diagram showing the configuration of the
なお、本発明は、その発明の範囲内において、各実施の形態及び各変形例を自由に組み合わせたり、各実施の形態及び各変形例を適宜、変形、省略したりすることが可能である。 In the present invention, each embodiment and each modification can be freely combined, and each embodiment and each modification can be appropriately modified or omitted within the scope of the invention.
本発明は詳細に説明されたが、上記した説明は、すべての態様において、例示であって、本発明がそれに限定されるものではない。例示されていない無数の変形例が、本発明の範囲から外れることなく想定され得るものと解される。 Although the present invention has been described in detail, the above description is exemplary in all embodiments and the present invention is not limited thereto. It is understood that innumerable variations not illustrated can be assumed without departing from the scope of the present invention.
1 表示制御装置、11 取得部、12 制御部、32 表示装置。 1 display control device, 11 acquisition unit, 12 control unit, 32 display device.
Claims (7)
前記車両の運転者の顔の画像に基づく顔特徴量を取得する取得部と、
前記運転者が前記周辺画像を見ていないときに前記取得部で取得された前記顔特徴量である特定顔特徴量に基づいて、前記表示装置に表示される前記周辺画像の輝度である周辺画像輝度を制御する制御部と
を備える、表示制御装置。It is a display control device that controls a display device that displays a peripheral image obtained by imaging the surroundings of a vehicle.
An acquisition unit that acquires a facial feature amount based on an image of the driver's face of the vehicle, and an acquisition unit.
A peripheral image that is the brightness of the peripheral image displayed on the display device based on the specific facial feature amount that is the facial feature amount acquired by the acquisition unit when the driver is not looking at the peripheral image. A display control device including a control unit that controls brightness.
前記特定顔特徴量は、前記運転者が前記車両の外部を見ているときに前記取得部で取得された前記顔特徴量を含む、表示制御装置。The display control device according to claim 1.
The specific facial feature amount is a display control device including the facial feature amount acquired by the acquisition unit when the driver is looking at the outside of the vehicle.
前記制御部は、
前記特定顔特徴量と予め対応付けられた輝度に前記周辺画像輝度を合わせる制御を行う、表示制御装置。The display control device according to claim 1.
The control unit
A display control device that controls to match the peripheral image brightness with the brightness previously associated with the specific face feature amount.
前記取得部は、前記車両の運転情報さらに取得し、
前記制御部は、
前記取得部で取得された前記運転情報に基づいて前記車両が運転中であると判定した場合に、前記特定顔特徴量に基づいて前記周辺画像輝度を制御する、表示制御装置。The display control device according to claim 1.
The acquisition unit further acquires the driving information of the vehicle, and obtains the driving information.
The control unit
A display control device that controls the peripheral image brightness based on the specific facial feature amount when it is determined that the vehicle is driving based on the driving information acquired by the acquisition unit.
前記取得部は、前記表示装置の照度をさらに取得し、
前記制御部は、
前記特定顔特徴量が特定の条件を満たさない場合に、前記取得部で取得された前記照度に基づいて前記周辺画像輝度を制御する、表示制御装置。The display control device according to claim 1.
The acquisition unit further acquires the illuminance of the display device, and obtains the illuminance.
The control unit
A display control device that controls the peripheral image brightness based on the illuminance acquired by the acquisition unit when the specific facial feature amount does not satisfy a specific condition.
前記顔特徴量は、前記運転者の瞳孔径、前記運転者の顔に当たっている光の強度、及び、前記運転者の開眼度、のうちの少なくとも1つを含む、表示制御装置。The display control device according to claim 1.
The facial feature amount is a display control device including at least one of the pupil diameter of the driver, the intensity of light hitting the driver's face, and the degree of eye opening of the driver.
前記車両の運転者の顔の画像に基づく顔特徴量を取得し、
前記運転者が前記周辺画像を見ていないときに取得された前記顔特徴量である特定顔特徴量に基づいて、前記表示装置に表示される前記周辺画像の輝度である周辺画像輝度を制御する、表示制御方法。It is a display control method that controls a display device that displays a peripheral image obtained by imaging the surroundings of a vehicle.
The facial feature amount based on the image of the driver's face of the vehicle is acquired, and the face feature amount is acquired.
The peripheral image brightness, which is the brightness of the peripheral image displayed on the display device, is controlled based on the specific facial feature amount, which is the facial feature amount acquired when the driver is not looking at the peripheral image. , Display control method.
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2018/046493 WO2020129146A1 (en) | 2018-12-18 | 2018-12-18 | Display control device and display control method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6865906B2 true JP6865906B2 (en) | 2021-04-28 |
JPWO2020129146A1 JPWO2020129146A1 (en) | 2021-04-30 |
Family
ID=71102219
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020560672A Active JP6865906B2 (en) | 2018-12-18 | 2018-12-18 | Display control device and display control method |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP6865906B2 (en) |
WO (1) | WO2020129146A1 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7327301B2 (en) * | 2020-07-02 | 2023-08-16 | トヨタ自動車株式会社 | Driver monitoring device |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006174960A (en) * | 2004-12-21 | 2006-07-06 | Nissan Motor Co Ltd | Device for presenting information on degree of wakefulness |
JP4687573B2 (en) * | 2006-06-14 | 2011-05-25 | トヨタ自動車株式会社 | Vehicle driving support device |
JP4853389B2 (en) * | 2007-06-07 | 2012-01-11 | 株式会社デンソー | Face image capturing device |
JP5565387B2 (en) * | 2011-07-20 | 2014-08-06 | 三菱電機株式会社 | Liquid crystal display |
JP6939737B2 (en) * | 2014-08-12 | 2021-09-22 | ソニーグループ株式会社 | Information processing equipment and information processing methods and programs |
-
2018
- 2018-12-18 WO PCT/JP2018/046493 patent/WO2020129146A1/en active Application Filing
- 2018-12-18 JP JP2020560672A patent/JP6865906B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JPWO2020129146A1 (en) | 2021-04-30 |
WO2020129146A1 (en) | 2020-06-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10110828B2 (en) | Photographing apparatus and method for controlling photographing apparatus | |
JP2010033106A (en) | Driver support device, driver support method, and driver support processing program | |
US9508136B2 (en) | Image fusing method | |
TW201623051A (en) | Vehicle and automatic adjusting system, automatic adjusting method using same | |
JP6865906B2 (en) | Display control device and display control method | |
CN109791294B (en) | Method and device for operating a display system with data glasses | |
JP2019028959A (en) | Image registration device, image registration system, and image registration method | |
US20180233092A1 (en) | Display system, electronic apparatus and display adjustment method thereof | |
US20170364765A1 (en) | Image processing apparatus, image processing system, vehicle, imaging apparatus and image processing method | |
KR20200053125A (en) | Electronic device and control method thereof | |
JP5513190B2 (en) | Vehicle rear monitoring device and vehicle rear monitoring method | |
US11140366B2 (en) | Vehicle and method of providing rear image thereof | |
JP2015103867A (en) | On-vehicle image processing apparatus | |
US8502904B2 (en) | Digital photographic apparatus and method for controlling the same that provide vision correction | |
US10688929B2 (en) | Driving assistance system and method of enhancing a driver's vision | |
WO2019215875A1 (en) | Notification control device and notification control method | |
JPWO2021064791A5 (en) | ||
KR101797696B1 (en) | System and method for recognizing license plate based on smart phone | |
JP2007038859A (en) | Control device for display apparatus | |
WO2019053809A1 (en) | Driver state determination device and driver state determination method | |
CN113168798B (en) | Display control device, display control method, and display control program | |
JP7051014B2 (en) | Face detection processing device and face detection processing method | |
CN113168798A (en) | Display control device, display control method, and display control program | |
US11783505B2 (en) | Camera position detection apparatus, camera unit, camera position detection method, and medium | |
US20230306707A1 (en) | Around view monitoring system and the method thereof |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201225 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20201225 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20210212 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210309 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210406 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6865906 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |