-
QUERVERWEIS AUF VERWANDTE ANMELDUNG
-
Diese Anmeldung basiert auf der
Japanischen Patentanmeldung Nr. 2018-045251 , die am 13. März 2018 beim Japanischen Patentamt hinterlegt wurde und deren Inhalt hierin vollumfänglich durch Bezug aufgenommen ist.
-
BEREICH
-
Die Offenbarung betrifft eine Abbildungsvorrichtung, wie beispielsweise einen Fahrermonitor, der zum Beispiel an einem Fahrzeug montiert ist, und insbesondere eine Abbildungsvorrichtung, die Licht auf ein Individuum ausstrahlt und ein Bild des Individuums erfasst.
-
HINTERGRUND
-
Ein Fahrermonitor, der an einem Fahrzeug montiert ist, ist eine Vorrichtung, die ein von einer Kamera erfasstes Bild des Gesichts des Fahrers analysiert und das Vorliegen oder Nichtvorliegen von „dösendem“ und unaufmerksamem Fahren anhand des Grads der Augenlidschließung, der Blickrichtung und dergleichen überwacht.
-
Die Kamera des Fahrermonitors ist mit einem abbildenden Element ausgestattet, das ein Bild des Gesichts des Fahrers erfasst. Es ist jedoch bei Nacht oder in einem Tunnel schwierig, ein Bild des Gesichts des Fahrers genau zu erfassen, da es im Inneren des Fahrzeugs dunkel ist. Daher wird ein lichtemittierendes Element in der Kamera bereitgestellt, und das Gesicht des Fahrers wird bei Erfassen des Bilds mit Licht von dem lichtemittierenden Element bestrahlt. Auf diese Weise wird ein Bild in einem Zustand erfasst, in dem das Gesicht erhellt ist.
-
Als lichtemittierendes Element wird beispielsweise eine LED, welche Nahinfrarotlicht emittiert, verwendet. Außerdem wird als abbildendes Element zum Beispiel ein CMOS-Bildsensor verwendet, der Hochempfindlichkeitseigenschaften im Nahinfrarotbereich aufweist. Durch Verwendung eines solchen abbildenden Elements und eines solchen lichtemittierenden Elements ist es auch in einem Fall, in dem sich ein Fahrzeug bei Nacht oder in einem Tunnel fortbewegt, möglich, ein Bild des Gesichts des Fahrers mit hoher Empfindlichkeit zu erfassen.
JP 2017-175199 A und
JP 2009-276849 A beschreiben jeweils einen Fahrermonitor, der Licht auf das Gesicht des Fahrers emittiert und ein Bild des Gesichts des Fahrers, wie oben beschrieben, erfasst.
-
In dem in
JP 2017-175199 A offenbarten Fahrermonitor werden ein Bild des Gesichts, das in einem Zustand erfasst wird, in dem kein Licht emittiert wird (erstes Bild), und ein Bild des Gesichts, das in einem Zustand erfasst wird, in dem Licht emittiert wird (zweites Bild), erhalten. Anschließend wird die Differenz zwischen der Luminanz des ersten Bilds und der Luminanz des zweiten Bilds berechnet, und es wird der Gesichtsbereich in einem Abbildungsbereich anhand der Differenz berechnet.
-
In dem Fahrermonitor von
JP 2009-276849 A wird Bildverarbeitung in einem breiten Bereich (Gesichtskontur oder dergleichen) des Gesicht des Fahrers unter Verwendung eines ersten erfassten Bilds, welches bei niedriger Belichtung erfasst wurde, durchgeführt, und Bildverarbeitung wird an einem Teil (Augen oder dergleichen) des Gesichts des Fahrers unter Verwendung eines zweiten erfassten Bilds, welches bei hoher Belichtung erfasst wurde, durchgeführt.
-
Wie in
JP 2017-175199 A wird durch Erzeugen eines Differenzbilds, welches die Differenz zwischen dem ersten, ohne Lichtemission erfassten Bild und dem zweiten, unter Lichtemission erfassten Bild darstellt, der Einfluss von Umgebungslicht, wie beispielsweise Sonnenlicht, beseitigt, und es kann ein klares Bild von dem Gesicht mit weniger Luminanzunregelmäßigkeit erhalten werden.
-
Jedoch ist Umgebungslicht, welches in das Innere des Fahrzeugs eintritt, nicht gleichmäßig und variiert in Abhängigkeit des Wetters und der Umgebung. Daher tritt in dem Fall, in dem die Menge an Umgebungslicht gering ist, eine beträchtliche Luminanzdifferenz zwischen dem ersten Bild und dem zweiten Bild auf. Wenn jedoch zum Beispiel Sonnenlicht auf das Gesicht trifft und das Gesicht hell genug ist, verändert sich die Helligkeit des Gesichts nicht sehr, unabhängig davon, ob Licht emittiert wird oder nicht. Somit tritt keine bemerkenswerte Luminanzdifferenz zwischen dem ersten Bild und dem zweiten Bild auf. Dadurch wird, wenn die Differenz zwischen dem ersten Bild und dem zweiten Bild in diesem Fall berechnet wird, das gesamte Differenzbild extrem dunkel und weist Schattenbereiche, sogenannte „blocked-up shadows“, auf. Dadurch kann das Gesicht während der Bildverarbeitung nicht genau detektiert werden.
-
ÜBERBLICK
-
Eine Aufgabe der Offenbarung ist es, eine Abbildungsvorrichtung zur Verfügung zu stellen, die ein Differenzbild auf eine optimale Helligkeit entsprechend dem Umgebungslichtniveau einstellen kann.
-
Eine Abbildungsvorrichtung gemäß einer oder mehreren Ausführungsformen der Offenbarung umfasst eine Abbildungseinheit, einen Bildprozessor, einen Luminanzdetektor, eine Zielluminanzeinstelleinheit und eine Empfindlichkeitseinstelleinheit. Die Abbildungseinheit umfasst: ein abbildendes Element, das so konfiguriert ist, dass es ein Bild von einem Individuum erfasst, und ein lichtemittierendes Element, das so konfiguriert ist, dass es Licht zu dem Individuum emittiert. Die Abbildungseinheit erzeugt ein erstes Bild von dem Individuum, welches in einem Zustand erfasst wird, in dem das lichtemittierende Element kein Licht emittiert, und ein zweites Bild des Individuums, das in einem Zustand erfasst wird, in dem das lichtemittierende Element Licht emittiert. Der Bildprozessor erzeugt ein Differenzbild, welches die Differenz zwischen dem ersten Bild und dem zweiten Bild darstellt, und detektiert das Individuum anhand des Differenzbilds. Der Luminanzdetektor detektiert die Luminanz des ersten Bilds und die Luminanz des Differenzbilds. Die Zielluminanzeinstelleinheit stellt die Zielluminanz des Differenzbilds entsprechend der durch den Luminanzdetektor detektierten Luminanz des ersten Bilds ein. Die Empfindlichkeitseinstelleinheit stellt die Abbildungsempfindlichkeit der Abbildungseinheit so ein, dass die durch den Luminanzdetektor detektierte Luminanz des Differenzbilds sich der durch die Zielluminanzeinstelleinheit festgelegten Zielluminanz annähert.
-
In der oben beschriebenen Abbildungsvorrichtung werden die Luminanz des ersten Bilds und die Luminanz des Differenzbilds detektiert, die Zielluminanz des Differenzbilds wird entsprechend der Luminanz des ersten Bilds eingestellt, und die Abbildungsempfindlichkeit der Abbildungseinheit wird so eingestellt, dass die Luminanz des Differenzbilds sich der Zielluminanz annähert. Somit kann das Niveau des Umgebungslichts anhand der Luminanz des ersten Bilds bestimmt werden, und die Zielluminanz des Differenzbilds kann auf einen Wert eingestellt werden, der dem Niveau des Umgebungslichts entspricht. Dadurch ist es möglich, das Differenzbild auf eine optimale Helligkeit einzustellen, indem die Zielluminanz niedrig eingestellt wird, wenn die Menge an Umgebungslicht groß ist, und indem die Zielluminanz hoch eingestellt wird, wenn die Menge an Umgebungslicht klein ist.
-
In einer oder mehreren Ausführungsformen der Offenbarung kann die Zielluminanzeinstelleinheit die durch den Luminanzdetektor detektierte Luminanz des ersten Bilds mit einer zuvor festgelegten Luminanzschwelle vergleichen. Wenn die Luminanz des ersten Bilds nicht größer als die Luminanzschwelle ist, kann die Zielluminanz des Differenzbilds erhöht werden. Wenn die Luminanz des ersten Bilds größer als die Luminanzschwelle ist, kann die Zielluminanz des Differenzbilds herabgesetzt werden.
-
In einer oder mehreren Ausführungsformen der Offenbarung kann die Empfindlichkeitseinstelleinheit die Abbildungsempfindlichkeit erhöhen, wenn die durch den Luminanzdetektor detektierte Luminanz des Differenzbilds um einen vorbestimmten Betrag niedriger ist als die Zielluminanz, und die Empfindlichkeitseinstelleinheit kann die Abbildungsempfindlichkeit herabsetzen, wenn die durch den Luminanzdetektor detektierte Luminanz des Differenzbilds die Zielluminanz um einen vorbestimmten Betrag überschreitet.
-
In einer oder mehreren Ausführungsformen der Offenbarung kann die Zielluminanzeinstelleinheit eine erste Tabelle aufweisen, in der Umgebungslichtniveaus in mehreren Stufen, entsprechend der Luminanz des ersten Bilds, und die Zielluminanz, die den jeweiligen Umgebungslichtniveaus entspricht, gespeichert sind, und die Zielluminanzeinstelleinheit kann, mit Bezug auf die erste Tabelle, die Zielluminanz für die durch den Luminanzdetektor detektierte Luminanz des ersten Bilds festlegen.
-
In einer oder mehreren Ausführungsformen der Offenbarung kann die Empfindlichkeitseinstelleinheit eine zweite Tabelle aufweisen, in der die Empfindlichkeitsniveaus in mehreren Stufen, entsprechend der Abbildungsempfindlichkeit der Abbildungseinheit, und Empfindlichkeitseinstellungsparameter, die den Empfindlichkeitsniveaus entsprechen, gespeichert sind. Die Empfindlichkeitseinstelleinheit kann die Abbildungsempfindlichkeit entsprechend den Empfindlichkeitseinstellungsparametem unter Bezugnahme auf die zweite Tabelle unter Beachtung der durch die Zielluminanzeinstelleinheit festgelegten Zielluminanz des Differenzbilds einstellen.
-
In einer oder mehreren Ausführungsformen der Offenbarung können die Empfindlichkeitseinstellungsparameter die Belichtungszeit des abbildenden Elements, den Antriebsstrom des lichtemittierenden Elements und/oder eine Verstärkung des abbildenden Elements einschließen.
-
In einer oder mehreren Ausführungsformen der Offenbarung kann die Empfindlichkeitseinstelleinheit die Abbildungsempfindlichkeit einstellen, indem sie aus den Empfindlichkeitseinstellungsparametern bevorzugt die Belichtungszeit des abbildenden Elements oder den Antriebsstrom des lichtemittierenden Elements verwendet, und kann die Verstärkung des abbildendes Element erhöhen, wenn die Luminanz des Differenzbilds sich nicht der Zielluminanz annähert, auch wenn die Belichtungszeit des abbildenden Elements oder der Antriebsstrom des lichtemittierenden Elements erhöht sind.
-
In einer oder mehreren Ausführungsformen der Offenbarung kann der Luminanzdetektor als Luminanz des ersten Bilds die Luminanz eines bestimmten Bereichs, in dem sich ein bestimmter Teil des Individuum befindet, in einem Bereich des ersten Bilds detektieren.
-
In einer oder mehreren Ausführungsformen der Offenbarung kann, wenn der bestimmte Teil des Individuums nicht in dem bestimmten Bereich vorgefunden wird, der Luminanzdetektor graduell den Suchbereich für den bestimmten Teil auf dem ersten Bild ausweiten. Wenn der bestimmte Teil innerhalb des Suchbereichs vorgefunden wird, kann der Luminanzdetektor einen bestimmten Bereich für den bestimmten Teil neu festlegen und die Luminanz des bestimmten Bereichs, welche als Luminanz des ersten Bilds neu festgelegt wurde, detektieren.
-
In einer oder mehreren Ausführungsformen der Offenbarung kann das Individuum der Fahrer eines Fahrzeugs sein, der bestimmte Teil kann das Gesicht des Fahrers sein, und der bestimmte Bereich kann der Gesichtsbereich sein, in dem sich das Gesicht befindet.
-
Gemäß der Offenbarung ist es möglich, eine Abbildungsvorrichtung bereitzustellen, die ein Differenzbild auf eine optimale Helligkeit, entsprechend dem Niveau des Umgebungslichts, einstellen kann.
-
Figurenliste
-
- 1 ist ein elektrisches Blockdiagramm eines Fahrermonitors gemäß einer oder mehreren Ausführungsformen der Offenbarung;
- 2 ist eine Ansicht, in der ein Zustand dargestellt ist, in dem eine Abbildungseinheit ein Bild eines Gesichts erfasst;
- die 3A bis 3C sind Ansichten, in denen schematisch ein Off-Bild, ein On-Bild bzw. ein Differenzbild dargestellt sind;
- die 4A bis 4D sind Ansichten, in denen eine Änderung der Gesichtsposition in einem Off-Bild und Gesichtssuchbereiche dargestellt sind;
- 5 ist ein Diagramm, in dem eine Umgebungslichtniveau-Tabelle dargestellt ist;
- 6 ist ein Diagramm, in dem eine Empfindlichkeitsniveau-Tabelle dargestellt ist; und
- 7 ist ein Flussdiagramm, in dem die Empfindlichkeitseinstellungsprozesse dargestellt sind.
-
DETAILLIERTE BESCHREIBUNG
-
Im Folgenden werden Ausführungsformen der Offenbarung mit Bezug auf die Zeichnungen beschrieben. In den Zeichnungen sind identische oder entsprechende Teile mit identischen Bezugsziffern versehen. In den Ausführungsformen der Offenbarung sind verschiedene spezifische Details ausgeführt, um ein besseres Verständnis der Erfindung zu ermöglichen. Es ist für einen Fachmann auf dem Gebiet jedoch offensichtlich, dass die Erfindung ohne diese spezifischen Details ausgeführt werden kann. In anderen Fällen sind bestens bekannte Merkmale nicht detailliert beschrieben, um eine Verkomplizierung der Erfindung zu vermeiden. Im Folgenden ist ein Beispiel beschrieben, in dem die offenbarte Erfindung auf einen an einem Fahrzeug montierten Fahrermonitor angewendet wird.
-
Zunächst wird mit Bezug auf die 1 und 2 eine Konfiguration des Fahrermonitors beschrieben. Gemäß 1 ist der Fahrermonitor 100 an einem in 2 dargestellten Fahrzeug 50 befestigt und umfasst eine Abbildungseinheit 1, eine Steuerung 2 und eine Steuerschaltung 3.
-
Die Abbildungseinheit 1 bildet eine Kamera und umfasst ein abbildendes Element 11 und ein lichtemittierendes Element 12. Die Abbildungseinheit 1 umfasst neben dem abbildenden Element 11 und dem lichtemittierenden Element 12 außerdem optische Komponenten, wie beispielsweise eine Linse (nicht dargestellt). Das abbildende Element 11 besteht zum Beispiel aus einem CMOS-Bildsensor. Das lichtemittierende Element 12 besteht zum Beispiel aus einer LED, welche Licht im Nahinfrarotbereich emittiert.
-
Wie in 2 dargestellt, ist die Abbildungseinheit 1 an einer Stelle installiert, die dem Gesicht F eines Fahrers 53, der auf dem Sitz 52 sitzt, gegenüberliegt. Die gepunkteten Linien markieren den Abbildungsbereich der Abbildungseinheit 1. In diesem Beispiel wird die Abbildungseinheit 1 auf einem Armaturenbrett 51 des Fahrersitzes zusammen mit einem Display und Instrumenten, welche nicht dargestellt sind, bereitgestellt. Jedoch ist der Installationsort der Abbildungseinheit 1 nicht hierauf beschränkt. Das abbildende Element 11 erfasst ein Bild des Gesichts F des Fahrers 53, und das lichtemittierende Element 12 emittiert Nahinfrarotlicht zu dem Gesicht des Fahrers 53. Der Fahrer 53 stellt ein Beispiel für ein „Individuum“ in einer oder mehreren Ausführungsformen der Offenbarung dar.
-
Die Abbildungseinheit 1 erzeugt ein Bild (im Folgenden als „Off-Bild“ bezeichnet) des Fahrers 53, welches in einem Zustand erfasst wird, in dem das lichtemittierende Element 12 kein Licht emittiert (nicht-lichtemittierender Zustand), und ein zweites Bild (im Folgenden als „On-Bild“ bezeichnet) des Fahrers 53, welches in einem Zustand erfasst wird, in dem das lichtemittierende Element 12 Licht emittiert (lichtemittierender Zustand). Die Abbildungseinheit 1 gibt Bilddaten der jeweiligen Bilder an einen Bildprozessor 21 der Steuerung 2 aus.
-
3A veranschaulicht schematisch ein Beispiel für das Off-Bild. 3B veranschaulicht schematisch ein Beispiel für das On-Bild. In den 3A bis 3C sind Bilder des Hintergrunds, die sich von dem Gesicht F unterscheiden, weggelassen. Das Off-Bild G1, welches in dem Zustand erfasst wird, in dem kein Licht emittiert wird, ist dunkler als das On-Bild G2, das in dem Zustand erfasst wird, in dem Licht emittiert wird. Das Off-Bild G1 entspricht einem „ersten Bild“ in einer oder mehreren Ausführungsformen der Offenbarung, und das On-Bild G2 entspricht einem „zweiten Bild“ in einer oder mehreren Ausführungsformen der Offenbarung.
-
Die Steuerung 2 umfasst den Bildprozessor 21, eine Fahrerzustandsbestimmungseinheit 22, einen Luminanzdetektor 23, eine Zielluminanzeinstelleinheit 24 und eine Empfindlichkeitseinstelleinheit 25.
-
Der Bildprozessor 21 führt eine vorbestimmte Verarbeitung an einem von der Abbildungseinheit 1 erfassten Bild durch. Zum Beispiel erzeugt der Bildprozessor 21 ein Differenzbild, welches die Differenz zwischen dem On-Bild und dem Off-Bild, die von der Abbildungseinheit 1 erhalten werden, darstellt. Anhand des Differenzbilds detektiert der Bildprozessor 21 das Gesicht F, Merkmalspunkte des Gesichts (Augen, Nase, Mund und dergleichen) des Fahrers 53, detektiert die Richtung des Gesichts F und detektiert die Blickrichtung.
-
In 3C ist schematisch ein Beispiel für das Differenzbild dargestellt. Umgebungslicht ist aus dem Differenzbild Gs entfernt, welches die Differenz zwischen dem On-Bild G2 von 3B und dem Off-Bild G1 von 3A darstellt. Dadurch ist das Differenzbild Gs ein klares Bild mit weniger Luminanzunregelmäßigkeiten.
-
Anhand der Merkmalspunkte des Gesichts, der Richtung des Gesichts, der Blickrichtung und dergleichen, die durch den Bildprozessor 21 detektiert werden, bestimmt die Fahrerzustandsbestimmungseinheit 22 den Fahrerzustand („dösendes“ Fahren, unaufmerksames Fahren und dergleichen) des Fahrers 53. Dieses Bestimmungsergebnis wird an eine ECU (elektronische Steuereinheit) 200, bei der es sich um eine Host-Vorrichtung handelt, weitergegeben. Die ECU 200 ist an dem Fahrzeug 50 montiert und mit dem Fahrermonitor 100 über ein CAN (Controller Area Network), welches nicht dargestellt ist, verbunden.
-
Der Luminanzdetektor 23 detektiert die Luminanz des Off-Bilds G1 und die Luminanz des Differenzbilds Gs. Da das Off-Bild G1 in einem Zustand erfasst wird, in dem kein Licht emittiert wird, ist die Luminanz gering, wie in 3A dargestellt. Da das Differenzbild Gs die Differenz zwischen dem On-Bild G2, welches hell ist, und dem Off-Bild G1, welches dunkel ist, darstellt, ist dagegen die Luminanz hoch, wie in 3C dargestellt.
-
Wie in 4A dargestellt, detektiert der Luminanzdetektor 23 die Luminanz eines Gesichtsbereichs Z, in dem sich das Gesicht F befindet, in dem Bereich des Off-Bilds G1 und legt die Luminanz als Luminanz des Off-Bilds G1 fest. Bei der Detektion der Luminanz des Gesichtsbereichs Z wird zum Beispiel der maximale Wert oder der Mittelwert der Luminanzwerte der jeweiligen Pixel, die in dem Gesichtsbereich Z enthalten sind, erhalten, und der maximale Wert oder der Mittelwert werden als Luminanz des Gesichtsbereichs Z festgelegt. Der Gesichtsbereich Z kann im Voraus im zentralen Bereich des Off-Bilds G1 festgelegt werden, oder er kann jedes Mal festgelegt werden, wobei als Bezugspunkt die Stelle, an der das Gesicht F tatsächlich in dem Off-Bild G1 detektiert wird, verwendet wird. Der Gesichtsbereich Z stellt ein Beispiel für einen „bestimmten Bereich“ in einer oder mehreren Ausführungsformen der Offenbarung dar. Im Hinblick auf das Differenzbild Gs detektiert der Luminanzdetektor 23 außerdem die Luminanz des Gesichtsbereichs in einer ähnlichen Weise wie oben beschrieben und legt die Luminanz als Luminanz des Differenzbilds Gs fest.
-
Wenn, wie in 4B dargestellt, sich das Individuum (der Fahrer 53) bewegt und das Gesicht F nicht in dem Gesichtsbereich Z aufgefunden werden kann, erweitert der Luminanzdetektor 23 graduell einen Suchbereich W des Gesichts F auf dem Off-Bild G1, wie in 4C dargestellt. Wenn, wie in 4D dargestellt, das Gesicht F innerhalb des Suchbereichs W gefunden wird, stellt der Luminanzdetektor 23 anschließend einen Gesichtsbereich Z für das Gesicht F in dieser Position neu ein und detektiert die Luminanz des Gesichtsbereichs Z, welche als Luminanz des Off-Bilds G1 neu festgelegt wird. Der Grund dafür, dass der Suchbereich W nicht in einem Schritt auf den gesamten Bereich des Off-Bilds G1 ausgedehnt wird, liegt darin, dass das Risiko einer fehlerhaften Detektion aufgrund von Licht von einem reflektierendem Objekt, bei dem es sich nicht um das Gesicht F handelt, besteht, wenn der Suchbereich W in einem Schritt auf den gesamten Bereich ausgedehnt wird. Im Hinblick auf das Differenzbild Gs wird ebenso eine Gesichtssuche auf ähnliche Art und Weise, wie oben beschrieben, durchgeführt.
-
Die Zielluminanzeinstelleinheit 24 legt die Zielluminanz des Differenzbilds Gs entsprechend der Luminanz des durch den Luminanzdetektor 23 detektierten Off-Bilds G1 fest. Da das Off-Bild G1 ein Bild in einem Zustand darstellt, in dem das lichtemittierende Element 12 kein Licht emittiert, wird die Luminanz des Off-Bilds G1 lediglich durch Umgebungslicht, wie beispielsweise Sonnenlicht, bestimmt. Daher kann das Niveau des Umgebungslichts anhand der Luminanz des Off-Bilds G1 bestimmt werden, und die Zielluminanz des Differenzbilds Gs kann entsprechend dem Niveau des Umgebungslichts festgelegt werden. Das Festlegen der Zielluminanz wird später detailliert beschrieben.
-
Die Empfindlichkeitseinstelleinheit 25 stellt die Abbildungsempfindlichkeit der Abbildungseinheit 1 so ein, dass die Luminanz des durch den Luminanzdetektor 23 detektierten Differenzbilds Gs sich der durch die Zielluminanzeinstelleinheit 24 festgelegten Luminanz annähert. Das heißt, in einem Fall, in dem die Luminanz des Differenzbilds Gs geringer ist als die Zielluminanz, erhöht die Empfindlichkeitseinstelleinheit 25 die Abbildungsempfindlichkeit, so dass die Luminanz des Differenzbilds Gs erhöht wird, und in einem Fall, in dem die Luminanz des Differenzbilds Gs die Zielluminanz übersteigt, vermindert die Empfindlichkeitseinstelleinheit 25 die Abbildungsempfindlichkeit, so dass die Luminanz des Differenzbilds Gs herabgesetzt wird. Diese Abbildungsempfindlichkeitseinstellung wird ebenso später im Detail erläutert.
-
Die Steuerschaltung 3 versorgt das lichtemittierende Element 12 mit einem vorbestimmten Antriebsstrom entsprechend einem Belichtungszeit-Steuersignal und einem Optische-Leistung-Steuersignal und bringt das lichtemittierende Element 12 dazu, Licht zu emittieren. Das Belichtungszeit-Steuersignal und das Optische-Leistung-Steuersignal werden von der Empfindlichkeitseinstelleinheit 25 gegeben und werden später beschrieben.
-
Obwohl gemäß 1 die Funktionen des Bildprozessors 21, der Fahrerzustandsbestimmungseinheit 22, des Luminanzdetektors 23, der Zielluminanzeinstelleinheit 24 und der Empfindlichkeitseinstelleinheit 25, die in der Steuerung 2 enthalten sind, tatsächlich durch Software realisiert werden, sind die Funktionen der Einfachheit halber in 1 in einem Hardware-Blockdiagramm dargestellt.
-
Als nächstes wird das Einstellen der Zielluminanz des Differenzbilds Gs in der Zielluminanzeinstelleinheit 24 detailliert beschrieben. Wie in 1 dargestellt, ist die Zielluminanzeinstelleinheit 24 mit einer Umgebungslichtniveau-Tabelle Ta ausgestattet. Ein spezifisches Beispiel für die Umgebungslichtniveau-Tabelle Ta ist in 5 dargestellt. Gemäß 5 speichert die Umgebungslichtniveau-Tabelle Ta Umgebungslichtniveaus in mehreren Stufen (hier vier Stufen), die der Luminanz des Off-Bilds G1 entsprechen, die Zielluminanz des Differenzbilds Gs, die den jeweiligen Umgebungslichtniveaus entspricht, Luminanzschwellen des Off-Bilds G1 und Sonnenlichtsättigungs-Flags, die den Umgebungslichtniveaus entsprechen. Die Umgebungslichtniveau-Tabelle Ta entspricht einer „ersten Tabelle“ in einer oder mehreren Ausführungsformen der Offenbarung.
-
Die Zielluminanzeinstelleinheit 24 nimmt Bezug auf die Umgebungslichtniveau-Tabelle Ta hinsichtlich der durch den Luminanzdetektor 23 detektierten Luminanz des Off-Bilds G1 (im Folgenden als „detektierte Luminanz X“ bezeichnet) und legt die Zielluminanz des Differenzbilds Gs fest. Insbesondere wird die detektierte Luminanz X mit den Luminanzschwellen (80, 160, 192) verglichen, um das Umgebungslichtniveau zu bestimmen (Niveau 1 bis 4), und die Zielluminanz (160, 80, 48), die dem Umgebungslichtniveau entspricht, welches bestimmt wurde, wird als Zielluminanz des Differenzbilds Gs festgelegt.
-
Wenn zum Beispiel die detektierte Luminanz X ≤ 80 ist, ist das Umgebungslichtniveau 1, und die Zielluminanz wird auf 160 festgelegt. Wenn die detektierte Luminanz 80 <X ≤ 160 ist, ist das Umgebungslichtniveau 2, und die Zielluminanz wird auf 80 festgelegt. Wenn die detektierte Luminanz 160 <X ≤ 192 ist, ist das Umgebungslichtniveau 3, und die Zielluminanz wird auf 48 festgelegt. In diesen Fällen ist das Sonnenlichtsättigungs-Flag aus (off). Wenn zudem die detektierte Luminanz 192 < X wird, ist das Umgebungslichtniveau 4, und die detektierte Luminanz X ist gesättigt. Daher bleibt die Zielluminanz unverändert bei 48. In diesem Fall wird das Sonnenlichtsättigungs-Flag gesetzt, und die Steuerung meldet an die ECU 200, dass die detektierte Luminanz X durch das Sonnenlicht, welches das Umgebungslicht darstellt, gesättigt ist.
-
Wie oben beschrieben, ist in einem Fall, in dem die detektierte Luminanz X des Bilds G1 niedrig ist, das Umgebungslichtniveau niedrig, das heißt, die Menge an Umgebungslicht ist klein. Daher wird die Zielluminanz des Differenzbilds Gs erhöht, so dass das Differenzbild Gs hell wird. Dagegen ist in einem Fall, in dem die detektierte Luminanz X des Off-Bilds G1 hoch ist, das Umgebungslichtniveau hoch, das heißt, die Menge an Umgebungslicht ist groß. Daher wird die Zielluminanz des Differenzbilds Gs herabgesetzt, so dass das Differenzbild Gs nicht zu hell wird. Das heißt, in einer oder mehreren Ausführungsformen der Offenbarung wird das Umgebungslichtniveau anhand der Luminanz des Off-Bilds G1 bestimmt, und es wird die Zielluminanz entsprechend dem Umgebungslichtniveau festgelegt.
-
Als nächstes wird die Einstellung der Abbildungsempfindlichkeit in der Empfindlichkeitseinstelleinheit 25 detailliert beschrieben. Wie in 1 dargestellt, ist die Empfindlichkeitseinstelleinheit 25 mit der Empfindlichkeitsniveau-Tabelle Tb ausgestattet. Ein spezifisches Beispiel für die Empfindlichkeitsniveau-Tabelle Tb ist in 6 dargestellt. Gemäß 6 speichert die Empfindlichkeitsniveau-Tabelle Tb die Empfindlichkeitsniveaus in mehreren Stufen (hier 15 Stufen) die der Abbildungsempfindlichkeit der Abbildungseinheit 1 entsprechen, und Empfindlichkeitseinstellungsparameter, die den jeweiligen Empfindlichkeitsniveaus entsprechen. In diesem Beispiel sind die Empfindlichkeitseinstellungsparameter aus der Belichtungszeit des abbildenden Elements 11, einem Antriebsstrom des lichtemittierenden Elements 12 und einer Verstärkung des abbildenden Elements 11 konfiguriert. Die Empfindlichkeitsniveau-Tabelle Tb entspricht einer „zweiten Tabelle“ in einer oder mehreren Ausführungsformen der Offenbarung.
-
In dem Beispiel von 6 wird die Belichtungszeit des abbildenden Elements 11 erhöht, wenn das Empfindlichkeitsniveau erhöht wird, und bleibt konstant, wenn das Empfindlichkeitsniveau das Empfindlichkeitsniveau 10 erreicht. Der Antriebsstrom des lichtemittierenden Elements 12 ist über alle Empfindlichkeitsniveaus 0 bis 14 konstant. Die Verstärkung des abbildenden Elements 11 ist bis zum Niveau 9 konstant und wird erhöht, wenn das Empfindlichkeitsniveau auf das Niveau 9 oder darüber hinaus ansteigt. In diesem Beispiel ist die Verstärkung des abbildenden Elements 11 eine Analogverstärkung.
-
Die Belichtungszeit des abbildenden Elements 11 wird durch die Belichtungszeitsteuersignal-Ausgabe von der Empfindlichkeitseinstelleinheit 25 gesteuert. Der Antriebsstrom des lichtemittierenden Elements 12 wird durch die Optische-Leistung-Steuersignal-Ausgabe von der Empfindlichkeitseinstelleinheit 25 gesteuert. Die Verstärkung des abbildenden Elements 11 wird durch eine Verstärkungssteuersignal-Ausgabe von der Empfindlichkeitseinstelleinheit 25 gesteuert. Außerdem wird die Ansteuerungszeit des Antriebsstroms des lichtemittierenden Elements 12 durch die Belichtungszeitsteuersignal-Ausgabe von der Empfindlichkeitseinstelleinheit 25 gesteuert, und das lichtemittierende Element 12 wird mit Spannung versorgt und emittiert Licht für den Zeitraum der Belichtungszeit.
-
Die Empfindlichkeitseinstelleinheit 25 vergleicht die durch den Luminanzdetektor 23 detektierte Luminanz (im Folgenden als „detektierte Luminanz Y“ bezeichnet) des Differenzbilds Gs mit der durch die Zielluminanzeinstelleinheit 24 festgelegten Luminanz und verändert das Empfindlichkeitsniveau so, dass die detektierte Luminanz Y innerhalb eines Bereichs von ± α der Zielluminanz liegt, das heißt, so, dass sich die detektierte Luminanz Y der Zielluminanz annähert. Dabei ist α ein konstanter Wert, der im Voraus festgelegt wird.
-
Zum Beispiel wird gemäß 5 die Zielluminanz des Differenzbilds Gs auf 80 festgelegt (Umgebungslichtniveau: 2), wobei das Empfindlichkeitsniveau zu diesem Zeitpunkt das Niveau 7 gemäß 6 ist. Wenn in diesem Fall die detektierte Luminanz Y < 80 - α ist, d.h., wenn die detektierte Luminanz Y um einen vorbestimmten Betrag niedriger als die Zielluminanz ist, wird das Empfindlichkeitsniveau auf Niveau 8 angehoben. Dadurch wird die Belichtungszeit des abbildenden Elements 11 von 1,20 Sekunden auf 1,44 Sekunden geändert und somit verlängert. Folglich wird die Abbildungsempfindlichkeit erhöht, und die Luminanz des Differenzbilds Gs nimmt zu.
-
Nach Anheben des Empfindlichkeitsniveaus auf 8 überprüft die Empfindlichkeitseinstelleinheit 25 die durch den Luminanzdetektor 23 detektierte Luminanz Y des Differenzbilds Gs. Anschließend wird, wenn die detektierte Luminanz Y immer noch Y < 80 - α bleibt, obwohl das Empfindlichkeitsniveau auf das Niveau 8 angehoben wurde, das Empfindlichkeitsniveau auf das Niveau 9 erhöht. Dadurch wird die Belichtungszeit des abbildenden Elements von 1,44 Sekunden auf 1,73 Sekunden geändert und somit weiter verlängert. Folglich wird die Abbildungsempfindlichkeit weiter erhöht, und die Luminanz des Differenzbilds Gs nimmt weiter zu. Wenn jedoch die detektierte Luminanz Y immer noch Y < 80 - α bleibt, obwohl das Empfindlichkeitsniveau auf das Niveau 9 angehoben wurde, erhöht die Empfindlichkeitseinstelleinheit 25 das Empfindlichkeitsniveau auf Niveau 10. Danach wird auf die gleiche Weise das Empfindlichkeitsniveau schrittweise angehoben, bis die detektierte Luminanz Y ≥ 80 - α wird.
-
Bei Niveau 10 wird die Belichtungszeit des abbildenden Elements 11 von 1,73 Sekunden auf 2,00 Sekunden geändert, und gleichzeitig wird die Verstärkung des abbildenden Elements 11 ebenso von 2,00, was der vorherige Wert ist, auf 2,06 verändert. Dies geschieht, weil in einem Fall, in dem es schwierig ist, die detektierte Luminanz Y nur durch Veränderung der Belichtungszeit nahe an die Zielluminanz heranzubringen, die Abbildungsempfindlichkeit weiter erhöht wird und die detektierte Luminanz Y schnell in die Nähe der Zielluminanz gebracht wird, indem die Verstärkung des abbildenden Elements 11 erhöht wird. Der Grund dafür, dass die Verstärkung nicht erhöht wird, bis das Empfindlichkeitsniveau das Niveau 10 erreicht, liegt darin, dass Geräusch in dem erfassten Bild durch Erhöhung der Verstärkung erhöht wird.
-
In einer oder mehreren Ausführungsformen der Offenbarung wird bei Erhöhung der Abbildungsempfindlichkeit von den Empfindlichkeitseinstellungsparametem vorzugsweise die Belichtungszeit des abbildenden Elements 11 verwendet. Dann wird die Erhöhung der Abbildungsempfindlichkeit so lange wie möglich durch Änderung der Belichtungszeit bewerkstelligt. Zu dem Zeitpunkt, zu dem es unmöglich wird, die Erhöhung der Abbildungsempfindlichkeit durch die Belichtungszeit zu bewerkstelligen, wird das Geräusch in einem erfassten Bild minimiert, indem die Verstärkung des abbildenden Elements 11 erhöht wird.
-
Oben ist ein Fall beschrieben, in dem das Empfindlichkeitsniveau schrittweise erhöht wird. Jedoch erfolgt das schrittweise Herabsetzen des Empfindlichkeitsniveaus auf ähnliche Art und Weise.
-
Zum Beispiel wird gemäß 5 die Zielluminanz des Differenzbilds Gs auf 48 festgelegt (Umgebungslichtniveau: 3), wobei gemäß 6 das Empfindlichkeitsniveau zu diesem Zeitpunkt das Niveau 9 ist. Wenn in diesem Fall die detektierte Luminanz Y > 48 + α ist, d.h., wenn die detektierte Luminanz Y die Zielluminanz um einen vorbestimmten Betrag übersteigt, wird das Empfindlichkeitsniveau auf Niveau 8 herabgesetzt. Dadurch wird die Belichtungszeit des abbildenden Elements 11 von 1,73 Sekunden auf 1,44 Sekunden geändert und damit verkürzt. Somit wird die Abbildungsempfindlichkeit vermindert, und die Luminanz des Differenzbilds Gs wird herabgesetzt.
-
Nach Herabsetzen des Empfindlichkeitsniveaus auf 8 überprüft die Empfindlichkeitseinstelleinheit 25 die durch den Luminanzdetektor 23 detektierte Luminanz Y des Differenzbilds Gs. Anschließend wird, wenn die detektierte Luminanz Y immer noch Y > 48 + α bleibt, obwohl das Empfindlichkeitsniveau auf das Niveau 8 herabgesetzt wurde, das Empfindlichkeitsniveau auf das Niveau 7 herabgesetzt. Dadurch wird die Belichtungszeit des abbildenden Elements 11 von 1,44 Sekunden auf 1,20 Sekunden geändert und somit weiter verkürzt. Folglich wird die Abbildungsempfindlichkeit weiter herabgesetzt, und die Luminanz des Differenzbilds Gs wird weiter reduziert. Danach wird auf die gleiche Weise das Empfindlichkeitsniveau schrittweise herabgesetzt, bis die detektierte Luminanz Y ≤ 48 + α wird.
-
7 ist ein Flussdiagramm, in dem eine Reihe von Empfindlichkeitseinstellungsprozessen veranschaulicht ist.
-
Gemäß 7 stellt in Schritt S1 die Zielluminanzeinstelleinheit 24 das Umgebungslichtniveau auf einen vorgegebenen Standardwert (Default-Wert) ein (zum Beispiel Niveau 2), und die Empfindlichkeitseinstelleinheit 25 stellt das Empfindlichkeitsniveau auf einen vorgegebenen Standardwert ein (zum Beispiel Niveau 9).
-
In Schritt S2 erfasst in einem Zustand, in dem das lichtemittierende Element 12 kein Licht emittiert, die Abbildungseinheit 1 ein Bild des Fahrers 53 und erzeugt ein Off-Bild G1. In Schritt S3 erfasst in einem Zustand, in dem das lichtemittierende Element 12 Licht emittiert, die Abbildungseinheit 1 ein Bild des Fahrers 53 und erzeugt ein On-Bild G2. In Schritt S4 errechnet der Bildprozessor 21 die Differenz zwischen dem On-Bild G2 und dem Off-Bild G1 und erzeugt ein Differenzbild Gs.
-
In Schritt S5 bestimmt die Zielluminanzeinstelleinheit 24, ob die durch den Luminanzdetektor 23 detektierte Luminanz (detektierte Luminanz X, wie oben beschrieben) des Off-Bilds G1 gleich oder niedriger als die Luminanzschwelle in der Umgebungslichtniveau-Tabelle Ta gemäß 5 ist oder nicht. Wenn als Ergebnis der Bestimmung die Luminanz des Off-Bilds G1 gleich oder niedriger ist als die Luminanzschwelle (Schritt 5: JA), schreitet der Prozess weiter zu Schritt S6 fort. In Schritt S6 setzt die Zielluminanzeinstelleinheit 24 das Umgebungslichtniveau in der Umgebungslichtniveau-Tabelle Ta um eine Stufe herab und erhöht die Zielluminanz des Differenzbilds Gs.
-
Wenn dagegen als Ergebnis der Bestimmung in Schritt S5 die Luminanz des Off-Bilds G1 nicht gleich oder niedriger ist als die Luminanzschwelle (Schritt S5: NEIN), schreitet der Prozess weiter zu Schritt S7 fort. In Schritt S7 erhöht die Zielluminanzeinstelleinheit 24 das Umgebungslichtniveau in der Umgebungslichtniveau-Tabelle Ta um eine Stufe und setzt die Zielluminanz des Differenzbilds Gs herab.
-
Nach Durchführung der Schritte S6 und S7 schreitet der Prozess weiter zu Schritt S8 fort. In Schritt S8 bestimmt die Empfindlichkeitseinstelleinheit 25, ob die durch den Luminanzdetektor 23 detektierte Luminanz (detektierte Luminanz Y, wie oben beschrieben) des Differenzbilds Gs innerhalb des Bereichs ± α der Zielluminanz liegt. Wenn als Ergebnis der Bestimmung die durch den Luminanzdetektor 23 detektierte Luminanz des Differenzbilds Gs innerhalb des Bereichs ± α der Zielluminanz liegt (Schritt S8: JA), geht der Prozess zurück zu Schritt S2 und die Abbildungseinheit 1 fährt mit der Erfassung eines Bilds fort. Wenn dagegen als Ergebnis der Bestimmung die Luminanz des Differenzbilds Gs nicht innerhalb des Bereichs ± α der Zielluminanz liegt (Schritt S8: NEIN), schreitet der Prozess weiter zu Schritt S9 fort.
-
In Schritt S9 verändert die Empfindlichkeitseinstelleinheit 25 das Empfindlichkeitsniveau in der Empfindlichkeitsniveau-Tabelle Tb. Wenn in diesem Fall die detektierte Luminanz Y des Differenzbilds Gs Y < Zielluminanz - α ist, d.h., die detektierte Luminanz um einen vorbestimmten Betrag niedriger ist als die Zielluminanz, wird das Empfindlichkeitsniveau um eine Stufe angehoben, um die Abbildungsempfindlichkeit zu erhöhen. Wenn außerdem die detektierte Luminanz Y des Differenzbilds Gs Y > Zielluminanz + α ist, d.h., die detektierte Luminanz die Zielluminanz um den vorbestimmten Betrag überschreitet, wird das Empfindlichkeitsniveau um eine Stufe herabgesetzt, um die Abbildungsempfindlichkeit zu vermindern. Nach Durchführung von Schritt S9 geht der Prozess zurück zu Schritt S2 und Abbildungseinheit 1 fährt mit der Erfassung eines Bilds fort.
-
In einer oder mehreren Ausführungsformen der Offenbarung werden die Luminanz des Off-Bilds G1 und die Luminanz des Differenzbilds Gs detektiert, die Zielluminanz des Differenzbilds Gs wird entsprechend der Luminanz des Off-Bilds G1 festgelegt, und die Abbildungsempfindlichkeit der Abbildungseinheit 1 wird so eingestellt, dass die Luminanz des Differenzbilds Gs sich der Zielluminanz annähert. Daher kann das Niveau des Umgebungslichts anhand der Luminanz des Off-Bilds G1 bestimmt werden, und die Zielluminanz des Differenzbilds Gs kann auf einen Wert festgelegt werden, der dem Niveau des Umgebungslichts entspricht. Somit ist es möglich, das Differenzbild auf eine optimale Helligkeit einzustellen, indem die Zielluminanz niedrig eingestellt wird, wenn die Menge an Umgebungslicht groß ist, und die Zielluminanz hoch eingestellt wird, wenn die Menge an Umgebungslicht gering ist.
-
In einer oder mehreren Ausführungsformen der Offenbarung können neben der beispielhaften Ausführungsform verschiedene Ausführungsformen, die im Folgenden beschrieben werden, ausgeführt werden.
-
In einer beispielhaften Ausführungsform ist in der Empfindlichkeitsniveau-Tabelle Tb gemäß 6 der Antriebsstrom des lichtemittierenden Elements 12 konstant, ungeachtet des Empfindlichkeitsniveaus. Der Antriebsstrom des lichtemittierenden Elements 12 kann jedoch erhöht werden, wenn das Empfindlichkeitsniveau angehoben wird.
-
In einer beispielhaften Ausführungsform ist in der Empfindlichkeitsniveau-Tabelle Tb gemäß 6 die Belichtungszeit des abbildenden Elements 11 von den Empfindlichkeitseinstellungsparametern priorisiert. Es kann jedoch der Antriebsstrom des lichtemittierenden Elements 12 priorisiert sein.
-
In einer beispielhaften Ausführungsform werden in der Empfindlichkeitsniveau-Tabelle Tb gemäß 6 drei Parameter, nämlich die Belichtungszeit, der Antriebsstrom und die Verstärkung, als Empfindlichkeitseinstellungsparameter verwendet. Empfindlichkeitseinstellungsparameter können jedoch auch zwei oder einer dieser Parameter sein.
-
In einer beispielhaften Ausführungsform wird Analogverstärkung als Verstärkung des abbildenden Elements 11 eingesetzt. Es kann jedoch auch eine Digitalverstärkung eingesetzt werden. Außerdem können Analogverstärkung und Digitalverstärkung zusammen eingesetzt werden.
-
In einer beispielhaften Ausführungsform wird in Schritt S8 gemäß 7 bestimmt, ob sich die Luminanz des Differenzbilds Gs innerhalb des Bereichs von ± α der Zielluminanz befindet oder nicht. Jedoch kann auch bestimmt werden, ob die Luminanz eines Differenzbilds Gs gleich der Zielluminanz ist. Das heißt, der Wert von α kann Null sein.
-
In einer beispielhaften Ausführungsform wurde ein Beispiel beschrieben, in dem der Gesichtsbereich Z in dem erfassten Bild ein Viereck ist (4). Jedoch ist die Offenbarung nicht darauf beschränkt, und ein Gesichtsbereich Z kann eine Raute, eine Ellipse, ein Kreis oder dergleichen sein.
-
In einer beispielhaften Ausführungsform ist das Individuum der Fahrer 53 des Fahrzeugs, der bestimmte Teil des Individuum ist das Gesicht F, und der bestimmte Bereich in dem erfassten Bild ist der Gesichtsbereich Z. Jedoch ist die Offenbarung nicht hierauf beschränkt. Das Individuum kann ein anderer Insasse als der Fahrer sein, der bestimmte Teil des Individuums kann ein anderer Teil als das Gesicht sein, und der bestimmte Bereich kann ein Bereich sein, in dem sich ein anderer Teil als das Gesicht befindet.
-
In einer beispielhaften Ausführungsform wurde der an dem Fahrzeug montierte Fahrermonitor 100 als Beispiel für die Abbildungsvorrichtung der Offenbarung beschrieben. Die Offenbarung kann jedoch auch auf eine Abbildungsvorrichtung angewendet werden, die für einen anderen Zweck als bei einem Fahrzeug verwendet wird.
-
Obwohl die Erfindung anhand einer begrenzten Anzahl an Ausführungsformen beschrieben wurde, erkennt der Fachmann, dass andere Ausführungsformen denkbar sind, die sich innerhalb des Schutzumfangs der hierin offenbarten Erfindung befinden. Entsprechend wird der Schutzumfang der Erfindung lediglich durch die angefügten Ansprüche bestimmt.
-
ZITATE ENTHALTEN IN DER BESCHREIBUNG
-
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
-
Zitierte Patentliteratur
-
- JP 2018045251 [0001]
- JP 2017175199 A [0005, 0006, 0008]
- JP 2009276849 A [0005, 0007]