BR112018000133B1 - Dispositivo de detecção de lâmpada e método de detecção de lâmpada - Google Patents

Dispositivo de detecção de lâmpada e método de detecção de lâmpada Download PDF

Info

Publication number
BR112018000133B1
BR112018000133B1 BR112018000133-3A BR112018000133A BR112018000133B1 BR 112018000133 B1 BR112018000133 B1 BR 112018000133B1 BR 112018000133 A BR112018000133 A BR 112018000133A BR 112018000133 B1 BR112018000133 B1 BR 112018000133B1
Authority
BR
Brazil
Prior art keywords
lamp
image
edge portion
pixels
edge
Prior art date
Application number
BR112018000133-3A
Other languages
English (en)
Other versions
BR112018000133A2 (pt
Inventor
Takahiko Oki
Haruo Matsuo
Daiki Yamanoi
Original Assignee
Nissan Motor Co., Ltd.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co., Ltd. filed Critical Nissan Motor Co., Ltd.
Publication of BR112018000133A2 publication Critical patent/BR112018000133A2/pt
Publication of BR112018000133B1 publication Critical patent/BR112018000133B1/pt

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/095Traffic lights
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/584Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/62Text, e.g. of license plates, overlay texts or captions on TV images
    • G06V20/63Scene text, e.g. street names
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/0962Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G08G1/09623Systems involving the acquisition of information from passive traffic signs by means mounted on the vehicle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/582Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of traffic signs

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Circuit Arrangement For Electric Light Sources In General (AREA)
  • Photometry And Measurement Of Optical Pulse Characteristics (AREA)

Abstract

DISPOSITIVO DE DETECÇÃO DE LÂMPADA E MÉTODO DE DETECÇÃO DE LÂMPADA. Um dispositivo de detecção de lâmpada detecta (21) uma porção de borda (31a, 31b) de uma imagem de câmera, a porção de borda tendo uma diferença de luminância igual ou superior a um valor predeterminado, e gera (22) uma imagem suavizada diminuindo a diferença de luminância da porção de borda. Em seguida, o dispositivo de detecção de lâmpada extrai (24) pixels sincronizados da imagem suavizada, os pixels sincronizados tendo luminâncias variando de forma síncrona com um ciclo de corrente alternada de energia fornecida a uma lâmpada e detecta (26) a lâmpada a partir dos pixels sincronizados.

Description

CAMPO TÉCNICO
[001] A presente invenção refere-se a um dispositivo de detecção de lâmpada e a um método de detecção de lâmpada.
TÉCNICA ANTERIOR
[002] Um dispositivo de detecção de sinal luminoso de trânsito configurado para detectar um sinal luminoso de trânsito a partir de uma imagem capturada com uma câmera é conhecido até o momento (ver Literatura de Patente 1). De acordo com a Literatura de Patente 1, uma lâmpada de sinalização candidata é detectada a partir de uma imagem com base em uma cor e um formato de uma lâmpada de sinalização e determina-se se a lâmpada de sinalização candidata pisca em um ciclo predeterminado. LISTA DE CITAÇÃO LITERATURA DE PATENTE Literatura de Patente 1: Publicação do Pedido de Patente Japonês N° 2005-301518.
SUMÁRIO DA INVENÇÃO PROBLEMA TÉCNICO
[003] Quando um veículo que tem uma câmera instalada está em movimento, uma posição de uma porção de borda incluída em uma imagem capturada durante o movimento e tendo uma diferença de luminância igual ou superior a um valor predeterminado também se move em conformidade. Isso causa uma resposta ao degrau de luminância em uma região onde a porção de borda está em movimento, e gera ruído tendo componentes de ampla frequência. Quando pixels com luminâncias variando em um ciclo predeterminado são extraídos como uma lâmpada, o ruído tendo um componente de ampla frequência pode ser falsamente reconhecido como tal lâmpada.
[004] A presente invenção foi feita em vista do problema mencionado acima. Um objeto da invenção é prover um dispositivo de detecção de lâmpada e um método de detecção de lâmpada, que são capazes de detectar de forma estável uma lâmpada ao mesmo tempo em que suprimem falsa detecção de uma resposta ao degrau de luminância como uma lâmpada mesmo no caso de um movimento de uma porção de borda.
SOLUÇÃO PARA O PROBLEMA
[005] Um dispositivo de detecção de lâmpada, de acordo com um aspecto da presente invenção, detecta uma porção de borda de uma imagem de câmera, a porção de borda tendo uma diferença de luminância igual ou superior a um valor predeterminado, e gera uma imagem suavizada diminuindo a diferença de luminância da porção de borda. Em seguida, o dispositivo de detecção de lâmpada extrai pixels sincronizados da imagem suavizada, os pixels sincronizados tendo luminâncias variando de forma síncrona com um ciclo de corrente alternada de energia fornecida a uma lâmpada, e detecta a lâmpada dos pixels sincronizados.
EFEITOS VANTAJOSOS DA INVENÇÃO
[006] Um aspecto da presente invenção reduz um gradiente de luminância que representa uma diferença de luminância entre pixels adjacentes na porção de borda, assim reduzindo a diferença de luminância em uma resposta ao degrau de luminância de um pixel atribuído à mudança de posição da porção de borda em uma imagem e reduzindo intensidade de ruído em uma banda de frequência de energia. Dessa forma, é possível detectar uma lâmpada de forma estável ao suprimir falsa detecção do ruído atribuído à resposta ao degrau de luminância do pixel como a lâmpada.
BREVE DESCRIÇÃO DOS DESENHOS
[007] A Figura 1 é um diagrama de blocos mostrando uma configuração global de um dispositivo de detecção de lâmpada de acordo com uma primeira modalidade.
[008] A Figura 2A(a) mostra uma imagem de câmera, a Figura 2A(b) mostra uma porção de borda detectada da Figura 2A(a), e a Figura 2A(c) mostra uma imagem suavizada gerada por ajuste da luminância na porção de borda da Figura 2A(b).
[009] A Figura 2B(a) mostra uma imagem de câmera, a Figura 2B(b) mostra subporções de borda consecutivas em uma direção horizontal que são detectadas da Figura 2B(a), e a Figura 2B(c) mostra uma imagem suavizada gerada por ajuste de luminâncias na porção de borda.
[010] A Figura 3A é um diagrama mostrando um exemplo de processamento de suavização para ajustar uma luminância de um pixel no centro usando luminâncias de oito pixels circundantes.
[011] A Figura 3B(a) e 3B(b) são diagramas mostrando um exemplo de processamento de suavização para ajustar uma luminância de um pixel no centro usando luminâncias de seis pixels circundantes, que representam o processamento de suavização de subporções de borda que se estendem em uma direção longitudinal.
[012] A Figura 3C(a) e 3C(b) são diagramas mostrando um exemplo de processamento de suavização para ajustar uma luminância de um pixel no centro usando luminâncias de seis pixels circundantes, que representam o processamento de suavização de subporções de borda que se estendem em uma direção lateral.
[013] A Figura 4 é um diagrama de blocos mostrando configurações detalhadas de um circuito de geração de imagem sincronizada 24 e um circuito de configuração de sinal de referência 23.
[014] A Figura 5 é um fluxograma mostrando um exemplo de um método de detecção de lâmpada usando o dispositivo de detecção de lâmpada da Figura 1.
[015] A Figura 6 é um diagrama de blocos mostrando uma configuração global de um dispositivo de detecção de lâmpada de acordo com uma segunda modalidade.
[016] A Figura 7 é um fluxograma mostrando um exemplo de um método de detecção de lâmpada usando o dispositivo de detecção de lâmpada da Figura 6.
DESCRIÇÃO DE MODALIDADES PRIMEIRA MODALIDADE
[017] A seguir, modalidades da presente invenção serão descritas em detalhes com referência aos desenhos.
[018] Uma configuração global de um dispositivo de detecção de lâmpada, de acordo com uma primeira modalidade, será descrita com referência à Figura 1. Um dispositivo de detecção de sinal luminoso de trânsito inclui uma unidade de captação de imagem 11 montada em um veículo e configurada para adquirir uma imagem de câmera capturando uma imagem em torno do veículo, uma unidade de processamento de imagem 12 configurada para detectar uma lâmpada usando a imagem de câmera adquirida pela unidade de captação de imagem 11, e uma base de dados de mapa.
[019] A unidade de captação de imagem 11 é uma câmera digital que inclui dispositivos de detecção de imagem de estado sólido (sensores de imagem), tais como CCD e CMOS, e é configurada para adquirir uma imagem de câmera processável por imagem. A unidade de captação de imagem 11 adquire imagens de câmera sucessivas capturando imagens em frente ao veículo, por exemplo, repetidamente em determinados intervalos de tempo. A unidade de captação de imagem 11 capta imagens várias vezes durante um ciclo de corrente alternada de uma fonte de energia do sistema a ser fornecida à lâmpada. A unidade de captação de imagem 11 pode capturar a lâmpada localizada em frente ao veículo em cada imagem de câmera. Em outras palavras, os sensores de imagem têm sensibilidade pelo menos o suficiente para detectar a lâmpada.
[020] Aqui, a “lâmpada” é uma fonte de luz artificial que emite luz junto com o fornecimento da fonte de energia do sistema, e inclui uma lâmpada de sinalização em um sinal luminoso de trânsito, uma sinalização de trânsito emissora de luz, e qualquer outra lâmpada elétrica (uma placa emissora de luz e uma parte emissora de luz de uma máquina automática de vendas ou semelhantes).
[021] A unidade de processamento de imagem 12 recebe dados das imagens de câmera adquiridas pela unidade de captação de imagem 11 e detecta o tipo da lâmpada incluída nas imagens de câmera. As informações sobre a lâmpada detectada são enviadas para outra unidade de processamento (uma CPU de veículo 16) montada no veículo, que inclui um controlador para realizar condução autônoma do veículo, por exemplo. A unidade de processamento de imagem 12 é formada de um microcontrolador incluindo uma CPU, uma memória e uma unidade de entrada-saída, por exemplo, e compõe vários circuitos de processamento de informação providos no dispositivo de detecção de lâmpada executando um programa de computador instalado previamente. A unidade de processamento de imagem 12 executa uma sequência de um ciclo de processamento de informação (incluindo processamento de detecção de borda, processamento de suavização de borda e processamento de sincronização de energia) para detectar a lâmpada a partir de uma imagem de câmera repetidamente para cada uma das imagens de câmera sucessivas. A unidade de processamento de imagem 12 pode também servir como uma ECU usada para outro controle relacionado ao veículo.
[022] Os vários circuitos de processamento de informação compostos pela unidade de processamento de imagem 12 incluem um circuito de detecção de borda 21, um circuito de suavização de borda 22, um circuito de configuração de sinal de referência 23, um circuito de geração de imagem sincronizada 24 e um circuito de detecção de lâmpada 26.
[023] O circuito de detecção de borda 21 detecta uma porção de borda de cada imagem de câmera. Aqui, cada porção de borda tem uma diferença de luminância entre pixels adjacentes igual ou superior a um valor predeterminado. Por exemplo, o circuito de detecção de borda 21 detecta uma porção de borda 31a mostrada na Figura 2A(b) de uma imagem de câmera mostrada na Figura 2A(a). Os valores (0) e (255) na Figura 2A(a) representam valores de luminância (em oito bits), respectivamente. O valor (0) representa preto enquanto o valor (255) representa branco. As grades na Figura 2A(a) representam pixels. Uma porção que desenvolve uma diferença de luminância entre pixels adjacentes em uma quantidade igual ou superior a um limite predeterminado é detectada como a porção de borda 31a pelo circuito de detecção de borda 21. Uma porção na Figura 2A(a), onde o valor de luminância (0) é limítrofe ao valor de luminância (255), é detectada como a porção de borda 31a. A porção de borda 31a mostrada na Figura 2A(b) é formada por um total de dezesseis pixels consecutivos, em um formato quadrado definido por quatro pixels longitudinais e quatro pixels laterais. Quando a região de alta luminância da porção de borda se move na imagem de câmera, a luminância do pixel para qual a porção de borda se move varia em forma de resposta ao degrau. Como consequência, o valor de luminância emerge como ruído em uma banda de ampla frequência. Se o ruído ocorre em uma banda de frequência do ciclo de corrente alternada da energia fornecida à lâmpada, o ruído é também extraído como um pixel sincronizado em que a luminância varia de forma síncrona. Portanto, o valor predeterminado que serve como o limite predeterminado é definido com base na diferença de luminância da porção de borda que desenvolve o ruído que tende a ser extraído como o pixel sincronizado.
[024] Um método de detecção de borda não é limitado a um método específico, e técnicas existentes podem ser usadas. Por exemplo, é possível usar o operador Sobel, o operador Prewitt e o detector de borda Canny.
[025] O circuito de suavização de borda 22 gera uma imagem suavizada diminuindo a diferença de luminância da porção de borda 31a na imagem da câmera. Por exemplo, o circuito de suavização de borda 22 gera uma imagem suavizada mostrada na Figura 2A(c) propositadamente diminuindo a diferença de luminância da porção de borda 31a na imagem da câmera mostrada na Figura 2A(a). Neste momento, a diferença de luminância é propositadamente diminuída de modo a reduzir um gradiente de luminância que representa a diferença de luminância entre os pixels adjacentes na porção de borda 31a na imagem de câmera da Figura 2A(b). Em uma instância, o circuito de suavização de borda 22 ajusta as respectivas luminâncias do total de dezesseis pixels que constituem a porção de borda 31a mostrada na Figura 2A(b) de acordo com o processamento de suavização mostrado abaixo. A diferença de luminância da porção de borda 31a é diminuída de modo a eliminar a ocorrência do ruído a ser extraído como a imagem sincronizada.
[026] Na Figura 3A, o pixel no centro marcado “0” corresponde ao pixel que constitui a porção de borda 31a. De acordo com o método na Figura 3A, a luminância deste pixel é ajustada para um valor médio de luminâncias dos oito pixels circundantes. Este processamento é realizado em cada um dos dezesseis pixels que constituem a porção de borda 31a. Por conseguinte, como mostrado na Figura 2A(c), as luminâncias dos oito pixels que constituem os quatro lados da porção de borda 31a são ajustadas para um valor (192) enquanto as luminâncias dos quatro pixels que constituem os quatro cantos da porção de borda 31a são ajustadas para um valor (96). Dessa forma, a diferença de luminância da imagem de câmera da Figura 2A(a) é diminuída de modo a reduzir o gradiente de luminância que representa a diferença de luminância entre os pixels adjacentes na porção de borda 31a, pelo que a imagem suavizada da Figura 2A(c) é gerada. Um grupo de pixels definido por dois pixels longitudinais e dois pixels laterais, que não submetidos ao ajuste de luminância e circundados pelos oito pixels que foram submetidos ao ajuste de luminância, constituem uma região 32a para detecção da lâmpada.
[027] Entretanto, as Figuras 3B(a) e 3B(b) mostram um exemplo de subporções de borda subjacentes que se estendem em uma direção longitudinal ao processamento de suavização, e as Figuras 3C(a) e 3C(b) mostram um exemplo de subporções de borda subjacentes que se estendem em uma direção lateral ao processamento de suavização. Em outras palavras, em relação à porção de borda 31a da Figura 2A(b), uma subporção de borda que se estende em uma direção vertical pode passar pelo processamento de suavização de forma diferente do processamento de suavização a ser realizado em uma subporção de borda que se estende em uma direção horizontal. Alternativamente, apenas uma dentre a subporção de borda que se estende na direção horizontal e a subporção de borda que se estende na direção vertical pode ser submetida ao processamento de suavização dependendo de uma direção de movimento da imagem como descrito posteriormente.
[028] O circuito de geração de imagem sincronizada 24 (um circuito de extração de pixel sincronizado) extrai pixels sincronizados da imagem suavizada, em que as luminâncias variam de forma síncrona com o ciclo de corrente alternada da energia fornecida à lâmpada e, em seguida, gera uma imagem sincronizada composta pelos pixels sincronizados. O circuito de configuração de sinal de referência 23 define um sinal de referência usado para extração dos pixels sincronizados.
[029] Como mostrado na Figura 4, o circuito de geração de imagem sincronizada 24 inclui uma memória de imagem 35, um circuito de multiplicação 36 e um circuito de processamento de média 37. O circuito de configuração de sinal de referência 23 inclui um circuito de geração de sinal de referência 38 e um circuito de determinação de fase 39. Primeiramente, o circuito de geração de sinal de referência 38 adquire informações de frequência na fonte de energia do sistema (uma fonte de energia comercial) em torno do veículo usando informações de posição do próprio veículo 14, como mostrado na Figura 1, e gera um sinal de referência do qual a intensidade varia em um ciclo (100 Hz, por exemplo) de energia de corrente alternada obtida submetendo a fonte de energia do sistema para retificação de onda completa. Aqui, as informações de posição do próprio veículo 14 podem ser obtidas de um sinal de posicionamento, tal como um sinal de GPS, ou informações de posição em um ponto de referência capturado na imagem da câmera.
[030] O circuito de multiplicação 36 faz a leitura da imagem suavizada armazenada na memória de imagem 35 e extrai pixels sincronizados multiplicando a imagem suavizada pelo sinal de referência. O circuito de multiplicação 36 executa o processamento de multiplicação acima descrito em cada uma das várias imagens suavizadas armazenadas simultaneamente na memória de imagem 35. O circuito de processamento de média 37 obtém um valor médio dos resultados de multiplicação das respectivas imagens suavizadas pelo circuito de multiplicação 36, e emite o valor médio como a imagem sincronizada composta pelos pixels sincronizados.
[031] Aqui, o circuito de determinação de fase 39 determina se uma fase do sinal de referência é sincronizada com uma fase de uma variação em luminância das imagens suavizadas e alimenta um resultado da determinação de volta no circuito de geração de sinal de referência 38. Ao receber o retorno, o circuito de geração de sinal de referência 38 ajusta a fase do sinal de referência de tal forma para sincronizar a fase do sinal de referência com a variação de luminância das imagens suavizadas. Especificamente, a fase do sinal de referência é ajustada tal que o resultado da multiplicação pelo circuito de multiplicação 36, ou seja, a luminância de cada pixel sincronizado obtenha o maior valor. Este controle de retorno torna possível aumentar a luminância da imagem sincronizada.
[032] A energia fornecida à lâmpada é a energia de corrente alternada obtida submetendo a energia da fonte de energia comercial à retificação de onda completa. A luminância da lâmpada acesa recebendo o fornecimento de energia da fonte de energia comercial varia em um ciclo que é o mesmo que o ciclo (tal como 100 Hz) da energia de corrente alternada de onda completa. Os pixels sincronizados dos quais as luminâncias variam de forma síncrona com o ciclo de corrente alternada da energia fornecida à lâmpada podem ser extraídos das imagens suavizadas.
[033] Nesta modalidade, a diferença de luminância da porção de borda é diminuída de modo a reduzir o gradiente de luminância que representa a diferença de luminância entre os pixels adjacentes na porção de borda, e os pixels sincronizados dos quais as luminâncias variam de forma síncrona com o ciclo de corrente alternada da energia são extraídos em seguida. Dessa forma, uma frequência de espaço é menos provável de ser misturada no caso de detecção de sincronização de uma frequência de tempo mesmo em uma situação de movimento especial da região de alta luminância, e é possível reduzir o ruído incluído na imagem sincronizada.
[034] O circuito de detecção de lâmpada 26 detecta uma posição da lâmpada na imagem sincronizada determinando os pixels sincronizados na imagem sincronizada tendo as luminâncias maiores do que um limite de luminância predeterminado como a lâmpada. Em seguida, o tipo da lâmpada é detectado usando pelo menos uma dentre a imagem sincronizada, uma imagem de borda e a imagem de câmera. Por exemplo, o circuito de detecção de lâmpada 26 usa combinação de padrão para determinar se o formato da lâmpada é similar ao da sinalização de trânsito emissora de luz. Em seguida, o circuito de detecção de lâmpada 26 determina se uma fase de cor em uma posição na imagem da câmera correspondente à posição da lâmpada é similar a uma cor de uma lâmpada em um sinal luminoso de trânsito. Essas funções de determinação tornam possível determinar se a lâmpada é uma lâmpada de sinalização em um sinal luminoso de trânsito, uma sinalização de trânsito emissora de luz ou qualquer outra lâmpada elétrica.
[035] Um exemplo de um método de detecção de lâmpada usando o dispositivo de detecção de lâmpada da Figura 1 será descrito com referência a um fluxograma da Figura 5.
[036] Primeiramente, na etapa S01, a unidade de captação de imagem 11 adquire as imagens de câmera sucessivamente. As várias imagens de câmera assim adquiridas são armazenadas na memória. O processamento prossegue para a etapa S03 após aquisição de seis imagens de câmera, por exemplo, durante um ciclo de corrente alternada da fonte de energia do sistema. O circuito de detecção de borda 21 detecta a porção de borda 31a (Figura 2A(b)) tendo a diferença de luminância igual ou acima do valor predeterminado a partir da imagem de câmera (Figura 2A(a)) usando o operador Sobel ou o operador Prewitt, por exemplo.
[037] A seguir, o processamento prossegue para a etapa S05. Como descrito com referência às Figuras 2A e 3A a 3C, o circuito de suavização de borda 22 gera a imagem suavizada (Figura 2A(c)) diminuindo a diferença de luminância na imagem da câmera de modo a reduzir o gradiente de luminância que representa a diferença de luminância entre os pixels adjacentes na porção de borda 31a.
[038] O processamento prossegue para a etapa S07, onde o circuito de geração de imagem sincronizada 24 extrai os pixels sincronizados, em que as luminâncias variam de forma síncrona com o ciclo de corrente alternada da energia fornecida à lâmpada, a partir das imagens suavizadas e, então, gera a imagem sincronizada composta pelos pixels sincronizados. O processamento prossegue para a etapa S09, onde o circuito de determinação de fase 39 determina se a fase do sinal de referência é sincronizada com a variação de luminância das imagens suavizadas referindo-se à imagem sincronizada. Por exemplo, quando um valor de luminância médio de toda a imagem sincronizada é inferior a um valor predeterminado, o circuito de determinação de fase 39 determina que não existe sincronização (NÃO na etapa S09), e alimenta o resultado da determinação de volta ao circuito de geração de sinal de referência 38. Ao receber o retorno, o circuito de geração de sinal de referência 38 ajusta a fase do sinal de referência de tal forma para sincronizar a fase do sinal de referência com a variação de luminância das imagens suavizadas (etapa S10).
[039] No caso da determinação que existe a sincronização (SIM na etapa S09), o processamento prossegue para a etapa S11, onde o circuito de detecção de lâmpada 26 detecta a posição da lâmpada na imagem sincronizada determinando um agrupamento dos pixels sincronizados (o grupo de pixels) na imagem sincronizada, que têm as luminâncias maiores do que o limite de luminância predeterminado, como a lâmpada. O circuito de detecção de lâmpada 26 utiliza a combinação de padrão para determinar se o formato da lâmpada (o grupo de pixels) é similar ao da sinalização de trânsito emissora de luz. Quando o formato é similar ao da sinalização de trânsito emissora de luz (SIM na etapa S11), o circuito de detecção de lâmpada 26 identifica a lâmpada (o grupo de pixels) como a sinalização de trânsito emissora de luz (etapa S15), e o processamento prossegue para a etapa S21.
[040] Quando o formato não é similar ao da sinalização de trânsito emissora de luz (NÃO na etapa S11), o circuito de detecção de lâmpada 26 determina se a fase de cor na posição na imagem da câmera correspondente à posição da lâmpada é similar à cor da lâmpada no sinal luminoso de trânsito (etapa S13). Quando a fase de cor é similar à cor da lâmpada no sinal luminoso de trânsito (SIM na etapa S13), o circuito de detecção de lâmpada 26 identifica a lâmpada (o grupo de pixels) como a lâmpada de sinalização no sinal luminoso de trânsito (etapa S17), e o processamento prossegue para a etapa S21. Quando a fase de cor não é similar à cor da lâmpada no sinal luminoso de trânsito (NÃO na etapa S13), o circuito de detecção de lâmpada 26 identifica a lâmpada (o grupo de pixels) como outra lâmpada elétrica (etapa S19), e o processamento prossegue para a etapa S21.
[041] Quando a determinação do tipo de todos os grupos de pixels na imagem sincronizada, cada um dos quais é determinado como a lâmpada, ainda está incompleta (NÃO na etapa S21), o processamento retorna para a etapa S11 e a determinação do tipo é realizada no grupo de pixels (a lâmpada) não submetido ainda à determinação. Após a determinação do tipo de todos os grupos de pixels (as lâmpadas) ser concluída (SIM na etapa S21), o dispositivo de detecção de lâmpada encaminha a informação sobre a lâmpada detectada para a CPU do veículo 16.
[042] Como descrito acima, a operação e os efeitos a seguir são obtidos de acordo com a primeira modalidade.
[043] Na primeira modalidade, a diferença de luminância da porção de borda é propositadamente diminuída (S05) de modo a reduzir o gradiente de luminância que representa a diferença de luminância entre os pixels adjacentes na porção de borda, e os pixels sincronizados em que as luminâncias variam de forma síncrona com o ciclo de corrente alternada da energia são extraídos em seguida (S07). O gradiente de luminância que representa a diferença de luminância entre os pixels adjacentes na região de borda é, assim, suavizado. Quando a região de alta luminância da porção de borda se move na imagem de câmera, a luminância do pixel para o qual a porção de borda se move varia em forma de resposta ao degrau. Como consequência, o valor de luminância emerge como o ruído na banda de ampla frequência. A quantidade de ruído se torna maior conforme a variação de luminância devido ao movimento é maior ou conforme uma velocidade de movimento é mais rápida. Se o ruído ocorre na banda de frequência do ciclo de corrente alternada da energia fornecida à lâmpada, o ruído é também extraído como o pixel sincronizado em que a luminância varia de forma síncrona. Por conseguinte, a diminuição da diferença de luminância da porção de borda, de modo a reduzir o gradiente de luminância que representa a diferença de luminância entre pixels adjacentes na porção de borda, reduz a chance de falsa detecção do ruído como o pixel sincronizado, que é atribuído à resposta ao degrau de luminância do pixel junto com o movimento da porção de borda na posição da imagem. Dessa forma, o ruído incluído na imagem sincronizada é reduzido de modo que a lâmpada possa ser detectada de forma estável.
EXEMPLOS MODIFICADOS
[044] Em relação à porção de borda a ser submetida à detecção de borda e ao processamento de suavização, a primeira modalidade (Figura 2A) não restringe sua direção de extensão (horizontal ou vertical). Em um ambiente de deslocamento real, onde o veículo está se deslocando, seu corpo de veículo se move para cima e para baixo. Por conseguinte, uma quantidade de movimento de uma subporção de borda na direção vertical se torna maior do que na direção horizontal. Neste sentido, das múltiplas subporções de borda, apenas as subporções de borda que são consecutivas na direção horizontal podem ser submetidas à diminuição da diferença de luminância a fim de remover eficientemente o ruído enquanto reduz a carga de processamento de imagem.
[045] Por exemplo, o circuito de suavização de borda 22 da Figura 1 pode diminuir a diferença de luminância de apenas as subporções de borda 31a que são consecutivas na direção horizontal fora da porção de borda 31a detectada pelo circuito de detecção de borda 21 e mostrada na Figura 2A(b), de tal forma a reduzir o gradiente de luminância que representa a diferença de luminância entre os pixels adjacentes. É possível realizar o processamento de suavização apenas das subporções de borda 31a da porção de borda 31a que são consecutivas na direção horizontal, por exemplo, usando matrizes da Figura 3C. Isso torna possível gerar a imagem suavizada como mostrado na Figura 2B(c).
[046] Alternativamente, o circuito de detecção de borda 21 da Figura 1 pode detectar apenas subporções de borda 31b, que são consecutivas na direção horizontal, a partir da imagem de câmera da Figura 2B(a). Neste caso, o circuito de suavização de borda 22 pode realizar o processamento de suavização em todas as subporções de borda 31b detectadas pelo circuito de detecção de borda 21. A imagem suavizada, como mostrada na Figura 2B(c), pode ser gerada. Na Figura 2B(c), um grupo de pixels definido por dois pixels longitudinais e quatro pixels laterais, que não submetidos ao ajuste de luminância, constitui uma região 32b para detecção da lâmpada. A região de detecção 32b da Figura 2B(c) é mais ampla do que a região de detecção 32a da Figura 2A(c) obtida por suavização de duas bordas na direção horizontal e duas bordas na direção vertical, porque as subporções de borda que se estendem na direção vertical não são suavizadas e permanecem inalteradas a partir da imagem de câmera.
[047] O gradiente de luminância que representa a diferença de luminância entre os pixels adjacentes nas subporções de borda fora da porção de borda, que são consecutivas na direção horizontal, é reduzido. Dessa forma, as subporções de borda consecutivas na direção vertical não são suavizadas e podem, assim, permanecer como a região para detecção da lâmpada. Por conseguinte, uma lâmpada que tem baixa luminância e está distante do veículo pode ser detectada com alta sensibilidade ao reduzir eficientemente o ruído na porção de borda. Entretanto, a carga de processamento de imagem referente à detecção de borda ou à suavização de borda é também reduzida.
SEGUNDA MODALIDADE
[048] Conforme uma velocidade de uma mudança de posição de uma porção de borda em uma imagem de câmera é elevada, é mais provável que ocorra ruído em uma região para qual a porção de borda muda. O ruído é menos provável de ocorrer quando a mudança de posição da porção de borda na imagem da câmera tem uma baixa velocidade. Neste caso, é preferível assegurar a região de detecção ampla enquanto deixa a porção de borda intacta sem suavização. Uma segunda modalidade irá descrever um dispositivo de detecção de lâmpada e um método de detecção de lâmpada, que são concebidos para determinar a necessidade de redução de ruído dependendo de uma velocidade de variação de uma porção de borda em uma imagem de câmera.
[049] Como mostrado na Figura 6, o dispositivo de detecção de lâmpada, de acordo com a segunda modalidade, é diferente da Figura 1, em que o dispositivo ainda inclui um circuito de determinação de comportamento de veículo 13. Como com a unidade de processamento de imagem 12, o circuito de determinação de comportamento de veículo 13 é formado de um microcontrolador, por exemplo, que constitui o circuito de determinação de comportamento de veículo 13 executando o programa de computador instalado previamente.
[050] O circuito de determinação de comportamento de veículo 13 determina se uma velocidade de uma mudança de posição da porção de borda na imagem da câmera é igual ou superior a um valor de referência. O valor de referência é um valor que serve como uma referência para determinar uma necessidade de submeter a porção de borda ao processamento de suavização e este é um valor predeterminado. O circuito de determinação de comportamento de veículo 13 pode estimar a velocidade da mudança de posição da porção de borda na imagem da câmera com base em informações de inclinação e informações de curso de suspensão no veículo obtidas do controle eletrônico de estabilidade (ESC) através de comunicação CAN.
[051] A Figura 7 mostra um exemplo de um método de detecção de lâmpada usando o dispositivo de detecção de lâmpada da Figura 6. Quando a velocidade da mudança de posição da porção de borda na imagem da câmera é igual ou superior ao valor de referência (SIM na etapa S02), a etapa de detecção de borda (S03) e a etapa de suavização (S05) são conduzidas de maneira similar às da primeira modalidade. Por outro lado, quando a velocidade da mudança de posição da porção de borda é abaixo do valor de referência (NÃO na etapa S02), o circuito de geração de imagem sincronizada 24 pode gerar a imagem sincronizada diretamente a partir da imagem de câmera (etapa S07) sem conduzir a detecção de borda ou a suavização. Os procedimentos remanescentes são os mesmo que aqueles da Figura 5.
[052] O ruído é mais provável de ocorrer quando a velocidade da mudança de posição da porção de borda na imagem da câmera aumenta. Portanto, quando a velocidade da mudança de posição da porção de borda na imagem da câmera é igual ou superior ao valor de referência, os pixels sincronizados são extraídos da imagem suavizada a fim de reduzir a ocorrência do ruído. Por outro lado, o ruído não ocorre muito quando a velocidade fica abaixo do valor de referência. Assim, os pixels sincronizados são extraídos da imagem de câmera. Como descrito acima, a necessidade da redução de ruído é determinada dependendo da velocidade da mudança de posição da porção de borda na imagem da câmera. Dessa forma, é possível reduzir a carga do processamento de imagem da imagem de câmera para a imagem suavizada, e reduzir eficientemente o ruído atribuído à porção de borda.
[053] Embora a presente invenção tenha sido descrita acima com referência às modalidades, deve ser compreendido que as afirmações e os desenhos que fazem parte desta descrição não se destinam a limitar a presente invenção. Várias modalidades alternativas, exemplos e técnicas de operação serão óbvios para uma pessoa versada na técnica a partir desta descrição. LISTA DE SINAIS DE REFERÊNCIA 11 unidade de captação de imagem 13 circuito de determinação de comportamento de veículo 21 circuito de detecção de borda 22 circuito de suavização de borda 23 circuito de configuração de sinal de referência 24 circuito de geração de imagem sincronizada (circuito de extração de pixel sincronizado) 26 circuito de detecção de lâmpada 31a, 31b porção de borda

Claims (4)

1. Dispositivo de detecção de lâmpada, CARACTERIZADO pelo fato de que compreende: uma unidade de captação de imagem (11) montada em um veículo e configurada para adquirir uma imagem de câmera capturando uma imagem em torno do veículo; um circuito de detecção de borda (21) configurado para detectar uma porção de borda (31a, 31b) da imagem de câmera, a porção de borda (31a, 31b) tendo uma diferença de luminância igual ou superior a um valor predeterminado; um circuito de suavização de borda (22) configurado para gerar uma imagem suavizada diminuindo a diferença de luminância entre pixels adjacentes na porção de borda (31a, 31b); um circuito de extração de pixel sincronizado (24) configurado para extrair pixels sincronizados da imagem suavizada, os pixels sincronizados tendo luminâncias variando de forma síncrona com um ciclo de corrente alternada de energia fornecida a uma lâmpada; e um circuito de detecção de lâmpada (26) configurado para detectar a lâmpada a partir dos pixels sincronizados.
2. Dispositivo de detecção de lâmpada, de acordo com a reivindicação 1, CARACTERIZADO pelo fato de que o circuito de suavização de borda (22) diminui a diferença de luminância apenas de subporções de borda na porção de borda (31a, 31b) que são consecutivas em uma direção horizontal.
3. Dispositivo de detecção de lâmpada, de acordo com a reivindicação 1 ou 2, CARACTERIZADO pelo fato de que ainda compreende: um circuito de determinação de comportamento de veículo (13) configurado para determinar se uma velocidade de uma mudança de posição da porção de borda (31a, 31b) na imagem da câmera é igual ou superior a um valor de referência, em que o circuito de extração de pixel sincronizado (24) extrai os pixels sincronizados tendo as luminâncias variando de forma síncrona com o ciclo de corrente alternada da energia fornecida à lâmpada, a partir da imagem suavizada quando a velocidade da mudança de posição da porção de borda (31a, 31b) é igual ou superior ao valor de referência, e o circuito de extração de pixel sincronizado (24) extrai os pixels sincronizados tendo as luminâncias variando de forma síncrona com o ciclo de corrente alternada da energia fornecida à lâmpada, a partir da imagem de câmera quando a velocidade da mudança de posição da porção de borda (31a, 31b) é abaixo do valor de referência.
4. Método de detecção de lâmpada, CARACTERIZADO pelo fato de que compreende: adquirir uma imagem de câmera capturando uma imagem em torno de um veículo ao usar uma unidade de captação de imagem (11) montada no veículo; detectar uma porção de borda (31a, 31b) da imagem de câmera, a porção de borda (31a, 31b) tendo uma diferença de luminância igual ou superior a um valor predeterminado; gerar uma imagem suavizada diminuindo a diferença de luminância entre pixels adjacentes da porção de borda (31a, 31b); extrair pixels sincronizados da imagem suavizada, os pixels sincronizados tendo luminâncias variando de forma síncrona com um ciclo de corrente alternada de energia fornecida a uma lâmpada; e detectar a lâmpada a partir dos pixels sincronizados.
BR112018000133-3A 2015-07-08 2015-07-08 Dispositivo de detecção de lâmpada e método de detecção de lâmpada BR112018000133B1 (pt)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2015/069599 WO2017006451A1 (ja) 2015-07-08 2015-07-08 灯火器検出装置及び灯火器検出方法

Publications (2)

Publication Number Publication Date
BR112018000133A2 BR112018000133A2 (pt) 2018-09-04
BR112018000133B1 true BR112018000133B1 (pt) 2023-01-17

Family

ID=57685055

Family Applications (1)

Application Number Title Priority Date Filing Date
BR112018000133-3A BR112018000133B1 (pt) 2015-07-08 2015-07-08 Dispositivo de detecção de lâmpada e método de detecção de lâmpada

Country Status (10)

Country Link
US (1) US10074022B2 (pt)
EP (1) EP3321911B1 (pt)
JP (1) JP6455596B2 (pt)
KR (1) KR101920186B1 (pt)
CN (1) CN107851382B (pt)
BR (1) BR112018000133B1 (pt)
CA (1) CA2991471C (pt)
MX (1) MX364013B (pt)
RU (1) RU2668885C1 (pt)
WO (1) WO2017006451A1 (pt)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102233391B1 (ko) * 2014-06-16 2021-03-29 팅크웨어(주) 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체
CN112131414B (zh) * 2020-09-23 2024-06-25 阿波罗智联(北京)科技有限公司 信号灯的图像的标注方法、装置、电子设备以及路侧设备
US11681780B2 (en) * 2020-09-30 2023-06-20 Nissan North America, Inc. Annotation and mapping for vehicle operation in low-confidence object detection conditions
CN112700410A (zh) * 2020-12-28 2021-04-23 北京百度网讯科技有限公司 信号灯位置确定方法、装置、存储介质、程序、路侧设备

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03217807A (ja) * 1990-01-23 1991-09-25 Dainippon Screen Mfg Co Ltd 合焦点条件検出方法
JPH05316361A (ja) * 1992-04-24 1993-11-26 Sony Corp ブロック歪除去フィルタ
US6611610B1 (en) * 1997-04-02 2003-08-26 Gentex Corporation Vehicle lamp control
EP1504276B1 (en) * 2002-05-03 2012-08-08 Donnelly Corporation Object detection system for vehicle
JP4253271B2 (ja) * 2003-08-11 2009-04-08 株式会社日立製作所 画像処理システム及び車両制御システム
JP2005301518A (ja) 2004-04-08 2005-10-27 Toyota Motor Corp 信号機検出装置および信号機検出方法
US20100033571A1 (en) * 2006-09-28 2010-02-11 Pioneer Corporation Traffic information detector, traffic information detecting method, traffic information detecting program, and recording medium
JP2008134916A (ja) 2006-11-29 2008-06-12 Denso Corp 車載用車両前方認識装置
JP4746575B2 (ja) * 2007-03-16 2011-08-10 株式会社東芝 画像処理装置及びその方法
EP2210233A1 (en) * 2007-11-16 2010-07-28 Tele Atlas B.V. Method of and apparatus for producing lane information
CN102834309B (zh) * 2010-02-26 2016-12-21 金泰克斯公司 自动车辆设备监控、报警和控制系统
EP2439716B1 (en) * 2010-09-16 2013-11-13 Ricoh Company, Ltd. Object identification device, moving object controlling apparatus having object identification device and information presenting apparatus having object identification device
JP2013097676A (ja) 2011-11-02 2013-05-20 Honda Elesys Co Ltd 到達時間推定装置、到達時間推定方法、到達時間推定プログラム、及び情報提示装置
RU116258U1 (ru) * 2011-11-15 2012-05-20 Игорь Юрьевич Мацур Система регулирования движения транспортных средств
JP5399578B2 (ja) * 2012-05-16 2014-01-29 シャープ株式会社 画像処理装置、動画像処理装置、映像処理装置、画像処理方法、映像処理方法、テレビジョン受像機、プログラム、及び記録媒体
JP2014006885A (ja) * 2012-05-31 2014-01-16 Ricoh Co Ltd 段差認識装置、段差認識方法及び段差認識用プログラム
WO2014007153A1 (ja) * 2012-07-03 2014-01-09 クラリオン株式会社 車両周囲監視装置
US9056395B1 (en) * 2012-09-05 2015-06-16 Google Inc. Construction zone sign detection using light detection and ranging
CN103345766B (zh) * 2013-06-21 2016-03-30 东软集团股份有限公司 一种信号灯识别方法及装置
RU2643861C1 (ru) * 2014-03-10 2018-02-06 Ниссан Мотор Ко., Лтд. Устройство обнаружения светофоров и способ обнаружения светофоров
RU2628023C1 (ru) * 2014-03-10 2017-08-14 Ниссан Мотор Ко., Лтд. Устройство обнаружения светофоров и способ обнаружения светофоров

Also Published As

Publication number Publication date
CN107851382A (zh) 2018-03-27
EP3321911B1 (en) 2019-09-11
US20180197026A1 (en) 2018-07-12
CN107851382B (zh) 2019-04-09
KR101920186B1 (ko) 2018-11-19
CA2991471A1 (en) 2017-01-12
WO2017006451A1 (ja) 2017-01-12
RU2668885C1 (ru) 2018-10-04
CA2991471C (en) 2018-08-07
EP3321911A4 (en) 2018-07-18
MX364013B (es) 2019-04-11
BR112018000133A2 (pt) 2018-09-04
MX2018000029A (es) 2018-03-15
JPWO2017006451A1 (ja) 2018-04-19
JP6455596B2 (ja) 2019-01-23
EP3321911A1 (en) 2018-05-16
US10074022B2 (en) 2018-09-11
KR20180016564A (ko) 2018-02-14

Similar Documents

Publication Publication Date Title
US9679207B2 (en) Traffic light detecting device and traffic light detecting method
JP6233500B2 (ja) 信号機検出装置及び信号機検出方法
EP3896643A1 (en) Image processing apparatus and control method thereof
BR112018000133B1 (pt) Dispositivo de detecção de lâmpada e método de detecção de lâmpada
BR112017021644B1 (pt) Dispositivo de detecção de semáforo e método de detecção de semáforo
US12118801B2 (en) Object recognition device
JP6477876B2 (ja) 信号機検出装置及び信号機検出方法
JP6659098B2 (ja) 画像処理方法、画像処理装置、プログラム及び記録媒体
BR112016019494B1 (pt) Aparelho de cálculo de autoposição e método de cálculo de autoposição
KR101712136B1 (ko) 열화상 카메라를 이용한 객체의 실신 상황 감지 방법 및 장치
BR112016020973B1 (pt) Dispositivo de detecção de luz de tráfego e método de detecção de luz de tráfego
JP6452361B2 (ja) 情報処理装置、情報処理方法、プログラム
JP6772059B2 (ja) 電子制御装置、電子制御システムおよび電子制御方法
BR112018002423B1 (pt) Dispositivo de detecção de passo e método de detecção de passo

Legal Events

Date Code Title Description
B06U Preliminary requirement: requests with searches performed by other patent offices: procedure suspended [chapter 6.21 patent gazette]
B09A Decision: intention to grant [chapter 9.1 patent gazette]
B16A Patent or certificate of addition of invention granted [chapter 16.1 patent gazette]

Free format text: PRAZO DE VALIDADE: 20 (VINTE) ANOS CONTADOS A PARTIR DE 08/07/2015, OBSERVADAS AS CONDICOES LEGAIS