KR20200119790A - 인식 장치와 인식 방법 그리고 프로그램 - Google Patents

인식 장치와 인식 방법 그리고 프로그램 Download PDF

Info

Publication number
KR20200119790A
KR20200119790A KR1020207021640A KR20207021640A KR20200119790A KR 20200119790 A KR20200119790 A KR 20200119790A KR 1020207021640 A KR1020207021640 A KR 1020207021640A KR 20207021640 A KR20207021640 A KR 20207021640A KR 20200119790 A KR20200119790 A KR 20200119790A
Authority
KR
South Korea
Prior art keywords
unit
recognition
image
signal
control unit
Prior art date
Application number
KR1020207021640A
Other languages
English (en)
Inventor
스그루 아오키
류타 사토
게이타로 야마모토
Original Assignee
소니 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 소니 주식회사 filed Critical 소니 주식회사
Publication of KR20200119790A publication Critical patent/KR20200119790A/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/285Selection of pattern recognition techniques, e.g. of classifiers in a multi-classifier system
    • G06T5/002
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/143Sensing or illuminating at different wavelengths
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/87Arrangements for image or video recognition or understanding using pattern recognition or machine learning using selection of the recognition techniques, e.g. of a classifier in a multiple classifier system
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • H04N5/23245
    • H04N5/2351

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Human Computer Interaction (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

인식 제어부(40)는 카메라부(20)로부터의 화상 신호나 카메라 제어부(30)로부터의 제어 신호 등에 기초하여, 촬상 영역의 광량을 검출하여, 광량의 검출 결과에 기초하여 선택 판별 정보를 생성한다. 인식 처리부(50)는 인식 제어부(40)에서 생성된 선택 판별 정보에 기초하여, 카메라부(20)에서 생성된 촬상 영역의 화상을 영역 분할하여 영역별로 인식기를 선택한다. 추가로, 인식 처리부(50)는 선택된 인식기를 사용하여 대응하는 영역의 화상에 대하여 피사체 인식 처리를 행한다. 촬상화에 밝은 영역과 어두운 영역이 포함되어도 각 영역의 피사체를 용이하게 고정밀도로 인식할 수 있게 된다.

Description

인식 장치와 인식 방법 그리고 프로그램
이 기술은, 인식 장치와 인식 방법 그리고 프로그램에 관한 것이며, 촬상화에 포함되는 피사체를 고정밀도로 인식할 수 있도록 한다.
종래, 야간에 피사체를 고정밀도로 검출하기 위해서, 촬상 시의 노광량을 자동적으로 전환하는 것이 행하여지고 있다. 예를 들어 특허문헌 1에서는 점등된 등화류의 윤곽 부분을 촬상 가능한 제1 촬상 모드와, 등화류를 갖지 않는 대상을 검출 가능한 제2 촬상 모드로 촬상 모드의 전환이 행하여지고 있다.
일본 특허 공개 제2009-234344호 공보
그런데, 인식기를 사용하여 촬상화에 포함되는 피사체의 인식을 행하는 경우, 예를 들어 노이즈가 많은 촬상화로 인식 정밀도의 저하를 초래할 우려가 있다. 또한, 노이즈가 적은 촬상화를 취득하기 위해서, 노광 시간을 길게 하여 광량을 증가시키면, 움직임이 발생된 피사체의 화상은 흐림을 발생해버리고, 조리개를 확장하여 광량을 증가시키면, 피사계 심도가 얕아져버려, 흐림이 적은 촬상화를 취득할 수 없다.
그래서, 이 기술에서는 촬상화에 포함되는 피사체를 용이하게 고정밀도로 인식할 수 있는 인식 장치와 인식 방법 그리고 프로그램을 제공하는 것을 목적으로 한다.
이 기술의 제1 측면은,
촬상 영역의 광량 검출 결과에 기초하여 선택 판별 정보를 생성하는 인식 제어부와,
상기 촬상 영역을 나타내는 촬상화에 대한 피사체 인식 처리를, 상기 인식 제어부에서 생성된 상기 선택 판별 정보에 기초하여 선택된 인식기를 사용하여 행하는 인식 처리부
를 구비하는 인식 장치.
이 기술에 있어서는, 촬상 영역의 광량 검출 결과에 기초하여 선택 판별 정보가 생성된다. 촬상 영역의 광량은, 촬상화를 취득하는 촬상부의 동작을 제어하는 제어 신호와 촬상부에서 생성된 화상 신호에 기초하여 검출한다. 제어 신호는, 조리개, 셔터 속도, 아날로그 게인 조정 및 계조 변환 중 적어도 어느 것을 제어하는 신호이며, 예를 들어 조리개와 셔터 속도와 아날로그 게인 조정 및 계조 변환의 제어 신호와, 아날로그 게인 조정과 계조 변환이 행하여진 화상 신호에 기초하여 검출한다. 또한, 예를 들어 조리개와 셔터 속도와 아날로그 게인 조정의 제어 신호와 아날로그 게인 조정이 행하여진 화상 신호에 기초하여 검출해도 된다. 또한, 조리개와 셔터 속도의 제어 신호와 아날로그 게인 조정이 행하여지기 전의 화상 신호에 기초하여 검출해도 된다. 추가로, 촬상부에서 생성된 화상 신호와 촬상 환경 조도를 검출하는 조도 검출부에서 검출된 조도에 기초하여 광량을 검출해도 된다.
인식 제어부는, 광량 검출 결과에 기초하여 노이즈 추정을 행하여, 노이즈 추정 결과를 선택 판별 정보로 한다. 인식 처리부는, 선택 판별 정보에 기초하여 인식기를 선택한다. 예를 들어, 인식 처리부는, 선택 판별 정보에서 나타난 노이즈가 역치 이하인 경우에 제1 인식기를 선택하고, 선택 판별 정보에서 나타난 노이즈가 역치보다도 많은 경우에 제1 인식기보다도 노이즈에 강한 제2 인식기를 선택한다. 또한, 인식 처리부는, 선택 판별 정보에 기초하여 촬상화의 영역 분할을 행하여, 분할된 영역별로 인식기를 선택한다. 또한, 인식 제어부는, 촬상화를 취득하는 촬상부의 동작을 제어하는 제어 신호에 의해 나타난 계조 변환의 변환 함수 정보에 기초하여 촬상화의 영역 분할을 행하여, 분할된 영역별로 선택 판별 정보를 생성해도 된다.
이 기술의 제2 측면은,
촬상 영역의 광량 검출 결과에 기초하여 선택 판별 정보를 인식 제어부에서 생성하는 것과,
상기 촬상 영역을 나타내는 촬상화에 대한 피사체 인식 처리를, 상기 인식 제어부에서 생성된 선택 판별 정보에 기초하여 선택된 인식기를 사용하여 인식 처리부에서 행하는 것
을 포함하는 인식 방법에 있다.
이 기술의 제3 측면은,
인식 처리를 컴퓨터에서 실행시키는 프로그램이며,
촬상 영역의 광량 검출 결과에 기초하여 선택 판별 정보를 생성하는 수순과,
상기 촬상 영역을 나타내는 촬상화에 대한 피사체 인식 처리를, 상기 선택 판별 정보에 기초하여 선택된 인식기를 사용하여 행하는 수순
을 상기 컴퓨터에서 실행시키는 프로그램에 있다.
또한, 본 기술의 프로그램은, 예를 들어 다양한 프로그램·코드를 실행 가능한 범용 컴퓨터에 대하여 컴퓨터 가독인 형식으로 제공하는 기억 매체, 통신 매체, 예를 들어 광 디스크나 자기 디스크, 반도체 메모리 등의 기억 매체, 혹은, 네트워크 등의 통신 매체에 의해 제공 가능한 프로그램이다. 이러한 프로그램을 컴퓨터 가독인 형식으로 제공함으로써, 컴퓨터 상에서 프로그램에 따른 처리가 실현된다.
이 기술에 의하면, 촬상 영역의 광량 검출 결과에 기초하여 선택 판별 정보가 생성되어서, 선택 판별 정보에 기초하여 선택된 인식기를 사용하여, 촬상 영역을 나타내는 촬상화에 대하여 피사체 인식 처리가 행하여진다. 따라서, 촬상화에 포함되는 피사체를 용이하게 고정밀도로 인식할 수 있게 된다. 또한, 본 명세서에 기재된 효과는 어디까지나 예시이고 한정되는 것은 아니며, 또 부가적인 효과가 있어도 된다.
도 1은 인식 장치의 구성을 예시한 도면이다.
도 2는 제1 실시 형태의 구성을 예시한 도면이다.
도 3은 제1 실시 형태의 동작을 나타내는 흐름도이다.
도 4는 광량과 S/N비의 관계를 예시한 도면이다.
도 5는 영역 구분을 설명하기 위한 도면이다.
도 6은 계조 변환의 변환 함수를 예시한 도면이다.
도 7은 제1 실시 형태의 동작예를 도시한 도면이다.
도 8은 제2 실시 형태의 구성을 예시한 도면이다.
도 9는 제3 실시 형태의 구성을 예시한 도면이다.
도 10은 제4 실시 형태의 구성을 예시한 도면이다.
도 11은 차량 제어 시스템의 개략적인 구성의 일례를 나타내는 블록도이다.
도 12는 차외 정보 검출부 및 촬상부의 설치 위치의 일례를 나타내는 설명도이다.
이하, 본 기술을 실시하기 위한 형태에 대하여 설명한다. 또한, 설명은 이하의 순서로 행한다.
1. 인식 장치의 구성
2. 제1 실시 형태
3. 제2 실시 형태
4. 제3 실시 형태
5. 제4 실시 형태
6. 응용예
<1. 인식 장치의 구성>
도 1은, 인식 장치의 구성을 예시하고 있다. 인식 장치(10)는 카메라부(20), 카메라 제어부(30), 인식 제어부(40), 인식 처리부(50)를 갖고 있다. 또한, 카메라부(20)나 카메라 제어부(30)는 인식 장치(10)와 별개로 마련되어 있어도 된다.
카메라부(20)는 원하는 촬상 영역을 나타내는 촬상화의 화상 신호를 생성하여 인식 처리부(50)로 출력한다. 카메라 제어부(30)는 제어 신호를 카메라부(20)로 출력하여, 카메라부(20)의 셔터 스피드나 조리개, 아날로그 게인, 계조 변환 등을 제어한다. 또한, 카메라 제어부(30)는 제어 신호를 인식 제어부(40)로 출력한다.
인식 제어부(40)는 카메라 제어부(30)로부터의 제어 신호나 카메라부(20)에서 생성된 화상 신호에 기초하여, 촬상 영역의 광량을 검출한다. 또한, 인식 장치(10)에 조도 검출부(60)를 마련하여, 인식 제어부(40)는 조도 검출부(60)로부터의 조도 검출 신호에 기초하여 촬상 영역의 광량을 검출해도 된다. 인식 제어부(40)는 검출한 광량에 기초하여 선택 판별 정보를 생성하여 인식 처리부(50)로 출력한다. 예를 들어, 인식 제어부(40)는 광량 검출 결과에 기초하여 노이즈 추정을 행하고, 노이즈 추정 결과를 선택 판별 정보로 한다.
인식 처리부(50)는 선택 판별 정보에 기초하여 선택된 인식기를 사용하여, 카메라부(20)에서 취득된 촬상화에 대하여 피사체 인식 처리를 행한다.
<2. 제1 실시 형태>
다음에, 인식 장치의 제1 실시 형태에 대하여 설명한다. 도 2는, 인식 장치의 제1 실시 형태의 구성을 예시하고 있다.
카메라부(20)는 광학계 블록(21), 촬상부(22), 게인 조정부(23), A/D(아날로그/디지털) 변환부(24), 계조 변환부(25)를 갖고 있다.
광학계 블록(21)은 광학 렌즈(211)와 조리개 기구(212)를 갖고 있다. 광학 렌즈(211)는 피사체 광학상을 촬상부(22)의 촬상 소자의 촬상면에 결상시킨다. 또한, 조리개 기구(212)는 촬상면에 결상되는 피사체 광학상의 광량을 조정한다. 광학계 블록(21)은 카메라 제어부(30)로부터 공급된 제어 신호에 기초하여 광학 렌즈(211)를 이동시켜서, 포커스 동작이나 줌 동작을 행한다. 또한, 광학계 블록(21)에서는, 제어 신호에 기초하여 조리개 기구(212)를 구동시켜서, 피사체 광학상의 광량을 조정한다.
촬상부(22)는 CMOS(Complementary Metal Oxide Semiconductor)나 CCD(Charge Coupled Device) 등의 촬상 소자를 사용하여 구성되어 있다. 촬상부(22)는 광전 변환을 행하여, 피사체 광학상에 따른 화상 신호를 생성하여 게인 조정부(23)로 출력한다. 또한, 촬상부(22)는 카메라 제어부(30)로부터 공급된 제어 신호에 기초하여 촬상 소자의 노광 기간을 제어하여, 원하는 셔터 속도로 촬상을 행한다. 또한, 촬상 동작에 있어서의 노광 기간은, 광학계 블록(21)에 셔터 기구를 마련하여, 카메라 제어부(30)로부터의 제어 신호에 기초하여 셔터 기구를 구동시킴으로써 변경 가능하게 되어도 된다.
게인 조정부(23)는 촬상부(22)에서 생성된 아날로그 화상 신호의 게인 조정(아날로그 게인 조정이라고도 함)을 행하고, A/D 변환부(24)로 출력한다. A/D 변환부(24)는 아날로그 게인 조정 후의 화상 신호를 아날로그 신호로부터 디지털 신호로 변환하여 계조 변환부(25)로 출력한다.
계조 변환부(25)는 A/D 변환부(24)로부터 공급된 화상 신호에 대하여 제어 신호에 기초한 변환 함수를 사용하여 휘도의 계조를 압축한다. 계조 변환부(25)는 계조 변환 후의 화상 신호를 인식 제어부(40)와 인식 처리부(50)로 출력한다.
카메라 제어부(30)는 제어 신호를 생성하여 카메라부(20)에 공급하여, 카메라부(20)에 있어서의 각 부의 동작을 제어한다. 또한, 카메라 제어부(30)는 제어 신호를 인식 제어부(40)로 출력한다.
인식 제어부(40)는 광량 검출부(41)와 노이즈 추정부(42)를 갖고 있다. 광량 검출부(41)는 카메라부(20)로부터 공급된 화상 신호와 카메라 제어부(30)로부터 공급된 제어 신호에 기초하여, 촬상 영역의 광량을 검출한다. 노이즈 추정부(42)는 광량 검출부(41)의 광량 검출 결과에 기초하여 노이즈를 추정하여, 추정 결과를 나타내는 노이즈 정보를 생성한다. 노이즈 추정부(42)는 생성된 노이즈 정보를 선택 판별 정보로서 인식 처리부(50)로 출력한다.
인식 처리부(50)는 인식기 선택부(51)와 복수의 인식기(52-1 내지 52-n)를 갖고 있다. 예를 들어 인식 처리부(50)는 노이즈가 적은 학습 화상을 사용하여 기계 학습 등을 행함으로써, 노이즈가 적은 촬상화로부터 고정밀도로 피사체를 인식할 수 있는 인식기와, 노이즈가 많은 학습 화상을 사용하여 기계 학습 등을 행함으로써, 노이즈가 많은 촬상화로부터 고정밀도로 피사체를 인식할 수 있는 인식기를 갖고 있다. 인식기 선택부(51)는 인식 제어부(40)로부터의 선택 판별 정보에 기초하여 촬상 영역의 영역 구분 처리를 행하여, 구분된 영역별로 인식기를 선택하고, 선택된 인식기(52-1(52-n))를 사용하여, 카메라부(20)로부터 공급된 화상 신호에 기초하여 피사체 인식을 행한다.
다음에, 인식 장치의 제1 실시 형태의 동작에 대하여 설명한다. 도 3은, 제1 실시 형태의 동작을 나타내는 흐름도이다. 스텝 ST1에서 인식 장치는 촬상화를 취득한다. 카메라부(20)에서는, 촬상 소자에서 생성된 화상 신호의 아날로그 게인 조정, 아날로그 게인 조정 후의 화상 신호를 아날로그 신호로부터 디지털 신호로의 A/D 변환, A/D 변환 후의 화상 신호의 계조 변환 등을 행하여, 화상 신호를 생성한다. 인식 장치(10)의 인식 처리부(50)는 카메라부(20)에서 생성된 촬상화의 화상 신호를 취득하고 스텝 ST2로 진행된다.
스텝 ST2에서 인식 장치는, 광량 관련 정보를 취득한다. 광량 관련 정보는, 촬상 영역의 광량에 따른 변화를 발생시키는 파라미터에 관한 정보이다. 예를 들어 조리개값, 셔터 속도, 아날로그 게인 조정값, 계조 변환의 변환 함수 f(u, v, I(u, v))는 촬상 영역의 광량에 따라서 조정되는 파라미터이며, 이 파라미터들에 대한 제어 신호는 광량 관련 정보로서 사용할 수 있다. 또한, 변환 함수 f(u, v, I(u, v))에 있어서, 파라미터 u, v는 촬상화에 있어서의 위치, 파라미터 I(u, v)는 위치 (u, v)의 휘도를 나타내고 있다. 카메라부(20)에서 생성되는 화상 신호는, 광량에 따라서 신호 레벨이 변화하는 점에서, 광량 관련 정보로서 사용할 수 있다. 따라서, 인식 장치(10)의 인식 제어부(40)는 카메라 제어부(30)로부터 출력되는 제어 신호나 카메라부(20)에서 생성된 화상 신호를 광량 관련 정보로서 취득하고 스텝 ST3으로 진행된다.
스텝 ST3에서 인식 장치는, 광량을 검출한다. 인식 제어부(40)는 스텝 ST2에서 출력된 광량 관련 정보에 기초하여, 촬상 영역의 광량을 검출한다.
여기서, 광량의 검출 처리에 대하여 설명한다. 촬상화에 있어서의 위치 (u, v)의 계조 변환 전(A/D 변환 후)의 화상 신호의 신호값 I(u, v)는 촬상화에 있어서의 위치 (u, v)의 피사체의 광량 L(u, v), 조리개 상태에 관한 조리개 정보 F, 노광 시간에 관한 셔터 속도 정보 S, 아날로그 게인 조정에 관한 게인 정보 G에 기초하여, 식 (1)의 관계가 성립된다.
I(u, v)=L(u, v)*S*F*G ···(1)
또한, 계조 변환의 변환 함수에 촬상화에 있어서의 위치 (u, v)의 계조 변환 전의 화상 신호의 신호값 I(u, v)를 입력함으로써, 식 (2)에 나타낸 바와 같이, 계조 변환 후의 위치 (u, v)의 화상 신호의 신호값 J(u, v)가 얻어진다.
J(u, v)=f(u, v, I(u, v))…(2)
따라서, 식 (3)에 기초하여 산출되는 광량 L'(u, v)는 위치 (u, v)의 피사체의 광량을 나타내게 된다.
L'(u, v)=f-1(u, v, J(u, v))/(S*F*G)…(3)
이와 같이 하여, 인식 제어부(40)는 촬상 영역의 광량을 검출하고 스텝 ST4로 진행된다.
스텝 ST4에서 인식 장치는, 광량의 검출 결과에 기초하여 선택 판별 정보를 생성한다. 인식 장치(10)의 인식 제어부(40)에는, 예를 들어 광량과 S/N의 관계를 나타내는 특성 정보가 미리 기억되어 있어, 광량 관련 정보에 기초하여 검출된 광량에 있어서의 노이즈를 추정한다. 도 4는, 특성 정보에서 나타나 있는 광량과 S/N비의 관계를 예시하고 있다. 인식 제어부(40)는 노이즈 정보 즉 광량 관련 정보에 기초하여 검출된 광량에 대응하는 S/N비를, 선택 판별 정보로서 스텝 ST5로 진행된다.
스텝 ST5에서 인식 장치는 영역 구분 처리를 행한다. 인식 장치(10)의 인식 처리부(50)는 스텝 ST4에서 생성된 선택 판별 정보에 기초하여 촬상 영역을 예를 들어 노이즈가 많은 영역과 노이즈가 적은 영역으로 구분한다. 도 5는, 영역 구분을 설명하기 위한 도면이다. 인식 처리부(50)는 선택 판별 정보(S/N비)를 역치 THsn과 비교하여, 선택 판별 정보(S/N비)가 역치 THsn 이하인 경우에는 노이즈가 많은 영역, 선택 판별 정보(S/N비)가 역치 THsn보다 큰 경우에는 노이즈가 적은 영역으로 보고 스텝 ST6으로 진행된다.
스텝 ST6에서 인식 장치는 영역별로 인식기를 선택한다. 인식 장치(10)의 인식 처리부(50)는 스텝 ST5에서 구분된 영역별로, 인식 처리에서 사용하는 인식기를 선택한다. 인식 처리부(50)는 노이즈가 적은 영역에서는, 노이즈가 적은 촬상화로부터 고정밀도로 피사체를 인식할 수 있는 인식기를 선택하고, 노이즈가 많은 영역에서는, 노이즈가 많은 촬상화로부터 고정밀도로 피사체를 인식할 수 있는 인식기를 선택하고 스텝 ST7로 진행된다.
스텝 ST7에서 인식 장치는 인식 처리를 행한다. 인식 장치(10)의 인식 처리부(50)는 스텝 ST6에서 선택된 인식기를 사용하여, 영역별로 피사체 인식을 행하여 처리를 종료한다.
또한, 스텝 ST2에서 취득된 광량 관련 정보에, 영역 구분에 관한 정보가 포함되는 경우, 스텝 ST3과 스텝 ST4에서는, 영역별로 광량의 검출이나 노이즈의 추정을 행해도 된다. 예를 들어, 화면 전체에서 일률적으로 계조 변환을 행하면 백화나 흑화가 발생하기 때문에, 영역별로 계조 변환 함수를 전환하는 경우가 있다. 도 6은, 계조 변환의 변환 함수를 예시하고 있다. 도 6의 (a)는 노출 부족이 발생한 경우에 사용되는 계조 변환 특성을 나타내고 있고, 변환 전의 신호 레벨이 작은 경우에는, 신호 레벨 변화가 커지도록 계조 변환이 행하여진다. 또한, 도 6의 (b)는 백화나 흑화가 발생하지 않은 경우에 사용되는 계조 변환 특성을 예시하고 있다. 이와 같이 계조 변환에서 변환 함수의 전환이 행하여지는 경우, 인식 제어부(40)는 촬상화를 취득하는 촬상부의 계조 변환 전환 동작에 따라서 촬상 영역의 영역 분할을 행하여, 분할된 영역별로 선택 판별 정보를 생성해도 된다.
도 7은 제1 실시 형태의 동작예를 나타내고 있다. 인식 제어부(40)는 광량 관련 정보에 기초하여 촬상 영역의 광량을 검출하여, 광량 검출 결과에 기초하여 선택 판별 정보를 생성한다. 여기서, 선택 판별 정보에 의해, 영역 ARa가 노이즈가 많은 영역, 영역 ARb가 노이즈가 적은 영역임이 나타나 있을 경우, 인식 처리부(50)는 영역 ARa에서는 노이즈가 많은 촬상화로부터 고정밀도로 피사체를 인식할 수 있는 인식기를 선택한다. 또한, 인식 처리부(50)는 영역 ARb에서는 노이즈가 적은 촬상화로부터 고정밀도로 피사체를 인식할 수 있는 인식기를 선택한다. 또한, 인식 처리부(50)는 선택된 인식기를 사용하여 피사체 인식을 행한다. 따라서, 인식 영역을 나타내는 인식 프레임 TA를 화살표 방향으로 순차적으로 이동시켜서 피사체 인식을 행한 경우, 예를 들어 광량이 적은 영역 ARa의 피사체와 광량이 많은 영역 ARb의 피사체를 용이하게 고정밀도로 인식할 수 있게 된다.
이와 같이, 제1 실시 형태에 의하면, 광량 관련 정보에 기초하여 촬상 영역의 광량이 검출되고, 검출된 광량에 기초하여 생성된 선택 판별 정보에 기초하여 인식기를 선택하여, 촬상 영역의 촬상화에 대하여 피사체 인식 처리가 행하여진다. 예를 들어 촬상화에 있어서의 노이즈가 많은 영역에서는, 노이즈가 많은 촬상화로부터 고정밀도로 피사체를 인식할 수 있는 인식기를 사용하여 피사체 인식이 행하여진다. 또한, 촬상화에 있어서의 노이즈가 적은 영역에서는, 노이즈가 적은 촬상화로부터 고정밀도로 피사체를 인식할 수 있는 인식기를 사용하여 피사체 인식이 행하여진다. 즉, 노이즈가 적은 촬상화를 취득하기 위해서, 노광 시간을 길게 하거나 혹은 조리개를 확장하여 광량을 증가시키는 처리를 행하지 않더라도, 최적의 인식기가 자동적으로 선택되어서 인식 처리를 행할 수 있다. 또한, 노이즈를 추정하기 위하여 화상 신호를 메모리에 기억하여 노이즈 추정을 위한 처리를 행할 필요가 없으므로, 필요로 하는 메모리 용량이나 처리량의 증가를 초래하는 일이 없다. 따라서, 촬상화에 포함되는 피사체를 용이하게 고정밀도로 인식할 수 있게 된다.
<3. 제2 실시 형태>
다음에, 제2 실시 형태에 대하여 설명한다. 제2 실시 형태에서는, 계조 변환보다도 전단계의 제어 신호와 계조 변환이 행하여지기 전의 화상 신호를 광량 관련 정보로서 사용하여, 계조 변환의 영향을 받는 일없이 광량의 검출을 행한다.
도 8은, 인식 장치의 제2 실시 형태의 구성을 예시하고 있다. 카메라부(20)는 광학계 블록(21), 촬상부(22), 게인 조정부(23), A/D(아날로그/디지털) 변환부(24), 계조 변환부(25)를 갖고 있다.
광학계 블록(21)은 광학 렌즈(211)와 조리개 기구(212)를 갖고 있다. 광학계 블록(21)은 카메라 제어부(30)로부터 공급된 제어 신호에 기초하여 광학 렌즈(211)를 이동시켜서, 포커스 동작이나 줌 동작을 행한다. 또한, 광학계 블록(21)은 제어 신호에 기초하여 조리개 기구(212)를 구동시켜서, 피사체 광학상의 광량을 조정한다.
촬상부(22)는 피사체 광학상에 따른 화상 신호를 생성하여 게인 조정부(23)로 출력한다. 또한, 촬상부(22)는 카메라 제어부(30)로부터 공급된 제어 신호에 기초하여 촬상 소자의 노광 기간을 제어하여, 원하는 셔터 속도로 촬상을 행한다. 또한, 촬상 동작에 있어서의 노광 기간은, 광학계 블록(21)에 마련된 셔터 기구를 구동시킴으로써 변경 가능하도록 되어도 된다.
게인 조정부(23)는 촬상부(22)에서 생성된 화상 신호의 아날로그 게인 조정을 행하여, A/D 변환부(24)로 출력한다. A/D 변환부(24)는 아날로그 게인 조정 후의 화상 신호를 아날로그 신호로부터 디지털 신호로 변환하여 계조 변환부(25)와 인식 제어부(40)로 출력한다.
계조 변환부(25)는 A/D 변환부(24)로부터 공급된 화상 신호에 대하여 제어 신호에 기초하는 변환 함수를 사용하여 휘도의 계조를 압축한다. 계조 변환부(25)는 계조 변환 후의 화상 신호를 인식 처리부(50)로 출력한다.
카메라 제어부(30)는 제어 신호를 생성하여 카메라부(20)에 공급하여, 카메라부(20)에 있어서의 각 부의 동작을 제어한다. 또한, 카메라 제어부(30)는 제어 신호를 인식 제어부(40)로 출력한다.
인식 제어부(40)는 광량 검출부(41)와 노이즈 추정부(42)를 갖고 있다. 광량 검출부(41)는 카메라부(20)로부터 공급된 계조 변환 전의 화상 신호와 카메라 제어부(30)로부터 공급된 계조 변환보다도 전단계의 처리에 관한 제어 신호에 기초하여, 촬상 영역의 광량을 검출한다.
노이즈 추정부(42)는 광량 검출부(41)의 광량 검출 결과에 기초하여 노이즈를 추정하여, 추정 결과를 나타내는 노이즈 정보를 생성한다. 노이즈 추정부(42)는 생성된 노이즈 정보를 선택 판별 정보로서 인식 처리부(50)로 출력한다.
인식 처리부(50)는 인식기 선택부(51)와 복수의 인식기(52-1 내지 52-n)를 갖고 있다. 예를 들어 인식 처리부(50)는 노이즈가 적은 촬상화로부터 고정밀도로 피사체를 인식할 수 있는 인식기와, 노이즈가 많은 촬상화로부터 고정밀도로 피사체를 인식할 수 있는 인식기를 갖고 있다. 인식기 선택부(51)는 인식 제어부(40)로부터의 선택 판별 정보에 기초하여 촬상 영역의 영역 구분 처리를 행하고, 구분된 영역별로 인식기를 선택하고, 선택된 인식기(52-1(52-n))를 사용하여, 카메라부(20)로부터 공급된 화상 신호에 기초하여 피사체 인식을 행한다.
인식 장치의 제2 실시 형태의 동작에서는, 도 3에 도시되는 제1 실시 형태의 동작과 마찬가지의 처리를 행하며, 스텝 ST2와 스텝 ST3의 처리 내용이 제1 실시 형태와 상이하다.
스텝 ST2에서 인식 장치는, 광량 관련 정보를 취득한다. 광량 관련 정보로서는, 예를 들어 조리개값 정보 F, 셔터 속도 정보 S, 게인 정보 G를 사용한다. 또한, 촬상 영역의 광량에 따라서 신호 레벨이 변화하고 있어, 계조 변환에 의한 정보의 열화를 발생시키지 않는 계조 변환 전의 화상 신호를, 광량 관련 정보로서 사용한다. 인식 장치(10)의 인식 제어부(40)는 이와 같이 광량 관련 정보를 취득하고 스텝 ST3으로 진행된다.
스텝 ST3에서 인식 장치는, 광량을 검출한다. 인식 제어부(40)는 스텝 ST2에서 출력된 광량 관련 정보에 기초하여, 촬상 영역의 광량을 검출한다.
여기서, 광량의 검출 처리에 대하여 설명한다. 촬상화에 있어서의 위치 (u, v)의 피사체를 광량 L(u, v), 위치 (u, v)의 계조 변환 전의 화상 신호를 신호값 I(u, v)라고 하면, 상술한 식 (1)의 관계가 성립된다.
따라서, 식 (4)에 기초하여 산출되는 광량 L'(u, v)는 위치 (u, v)의 피사체의 광량을 나타낸다.
L'(u, v)=I(u, v))/(S*F*G)…(4)
이와 같이 하여, 인식 제어부(40)는 촬상 영역의 광량을 검출한다. 그 후, 제1 실시 형태와 마찬가지로, 광량의 검출 결과에 기초하여 노이즈 추정을 행하여, 추정 결과를 나타내는 노이즈 정보를 선택 판별 정보로 한다. 추가로, 인식 처리부(50)는 선택 판별 정보에 기초하여 영역 구분 처리를 행하고, 영역별로 인식기를 선택하여 피사체 인식을 행한다.
이와 같이, 제2 실시 형태에 의하면, 계조 변환에 의해 정보량의 열화가 발생해도, 이 정보량의 열화의 영향을 받는 일없이 피사체 인식을 행할 수 있게 된다. 또한, 제2 실시 형태에서는, 제1 실시 형태와 마찬가지로, 촬상화에 포함되는 피사체를 용이하게 고정밀도로 인식할 수 있다.
<4. 제3 실시 형태>
다음에, 제3 실시 형태에 대하여 설명한다. 제3 실시 형태에서는, 아날로그 게인 조정보다도 전단계의 제어 신호와 아날로그 게인 조정이 행하여지기 전의 화상 신호를 광량 관련 정보로서 사용하여 광량의 검출을 행한다.
도 9는, 인식 장치의 제3 실시 형태의 구성을 예시하고 있다. 카메라부(20)는 광학계 블록(21), 촬상부(22), 게인 조정부(23), A/D(아날로그/디지털) 변환부(24), 계조 변환부(25)를 갖고 있다.
광학계 블록(21)은 광학 렌즈(211)와 조리개 기구(212)를 갖고 있다. 광학계 블록(21)은 카메라 제어부(30)로부터 공급된 제어 신호에 기초하여 광학 렌즈(211)를 이동시켜서, 포커스 동작이나 줌 동작을 행한다. 또한, 광학계 블록(21)은 제어 신호에 기초하여 조리개 기구(212)를 구동시켜서, 피사체 광학상의 광량을 조정한다.
촬상부(22)는 피사체 광학상에 따른 화상 신호를 생성하여 게인 조정부(23)와 인식 제어부(40)로 출력한다. 또한, 촬상부(22)는 카메라 제어부(30)로부터 공급된 제어 신호에 기초하여 촬상 소자의 노광 기간을 제어하여, 원하는 셔터 속도로 촬상을 행한다. 또한, 촬상 동작에 있어서의 노광 기간은, 광학계 블록(21)에 마련된 셔터 기구를 구동시킴으로써 변경 가능하게 되어도 된다.
게인 조정부(23)는 촬상부(22)에서 생성된 화상 신호의 아날로그 게인 조정을 행하여, A/D 변환부(24)로 출력한다. A/D 변환부(24)는 아날로그 게인 조정 후의 화상 신호를 아날로그 신호로부터 디지털 신호로 변환하여 계조 변환부(25)로 출력한다.
계조 변환부(25)는 A/D 변환부(24)로부터 공급된 화상 신호에 대하여 제어 신호에 기초하는 변환 함수를 사용하여 휘도의 계조를 압축한다. 계조 변환부(25)는 계조 변환 후의 화상 신호를 인식 처리부(50)로 출력한다.
카메라 제어부(30)는 제어 신호를 생성하여 카메라부(20)로 공급하고, 카메라부(20)에 있어서의 각 부의 동작을 제어한다. 또한, 카메라 제어부(30)는 제어 신호를 인식 제어부(40)로 출력한다.
인식 제어부(40)는 광량 검출부(41)와 노이즈 추정부(42)를 갖고 있다. 광량 검출부(41)는 카메라부(20)로부터 공급된 아날로그 게인 조정 전의 화상 신호와 카메라 제어부(30)로부터 공급된 아날로그 게인 조정보다도 전단계의 처리에 관한 제어 신호에 기초하여, 촬상 영역의 광량을 검출한다.
노이즈 추정부(42)는 광량 검출부(41)의 광량 검출 결과에 기초하여 노이즈를 추정하여, 추정 결과를 나타내는 노이즈 정보를 생성한다. 노이즈 추정부(42)는 생성된 노이즈 정보를 선택 판별 정보로서 인식 처리부(50)로 출력한다.
인식 처리부(50)는 인식기 선택부(51)와 복수의 인식기(52-1 내지 52-n)를 갖고 있다. 예를 들어 인식 처리부(50)는 노이즈가 적은 촬상화로부터 고정밀도로 피사체를 인식할 수 있는 인식기와, 노이즈가 많은 촬상화로부터 고정밀도로 피사체를 인식할 수 있는 인식기를 갖고 있다. 인식기 선택부(51)는 인식 제어부(40)로부터의 선택 판별 정보에 기초하여 촬상 영역의 영역 구분 처리를 행하고, 구분된 영역별로 인식기를 선택하고, 선택된 인식기(52)-1(52-n)을 사용하여, 카메라부(20)로부터 공급된 화상 신호에 기초하여 피사체 인식을 행한다.
인식 장치의 제3 실시 형태의 동작에서는, 도 3에 도시되는 제1 실시 형태의 동작과 마찬가지의 처리를 행하며, 스텝 ST2와 스텝 ST3의 처리 내용이 제1 실시 형태와 상이하다.
스텝 ST2에서 인식 장치는, 광량 관련 정보를 취득한다. 여기서, 광량 관련 정보로서는, 예를 들어 조리개값 정보 F, 셔터 속도 정보 S를 광량 관련 정보로서 사용한다. 또한, 촬상 영역의 광량에 따라서 신호 레벨이 변화하는 아날로그 게인 조정 전의 화상 신호를 광량 관련 정보로서 사용한다. 인식 장치(10)의 인식 제어부(40)는 이와 같이 광량 관련 정보를 취득하고 스텝 ST3으로 진행된다.
스텝 ST3에서 인식 장치는, 광량을 검출한다. 인식 제어부(40)는 스텝 ST2에서 출력된 광량 관련 정보에 기초하여, 촬상 영역의 광량을 검출한다.
여기서, 광량의 검출 처리에 대하여 설명한다. 촬상화에 있어서의 위치 (u, v)의 피사체를 광량L(u, v), 위치 (u, v)의 아날로그 게인 조정 전의 화상 신호를 신호값 A(u, v)라고 하면, 식 (5)의 관계가 성립된다.
A(u, v)=L(u, v)*S*F ···(5)
따라서, 식 (6)에 기초하여 산출되는 광량 L'(u, v)은 위치 (u, v)의 피사체의 광량을 나타낸다.
L'(u, v)=A(u, v))/(S*F)…(6)
이와 같이 하여, 인식 제어부(40)는 촬상 영역의 광량을 검출한다. 그 후, 제1 실시 형태와 마찬가지로, 광량의 검출 결과에 기초하여 노이즈 추정을 행하고, 추정 결과를 나타내는 노이즈 정보를 선택 판별 정보로 한다. 또한, 인식 처리부(50)는 선택 판별 정보에 기초하여 영역 구분 처리를 행하고, 영역별로 인식기를 선택하여 피사체 인식을 행한다.
이와 같이, 제3 실시 형태에 의하면, 계조 변환이나 아날로그 게인 조정으로 정보량의 열화가 발생해도, 이 정보량의 열화의 영향을 받는 일없이 피사체 인식을 행할 수 있게 된다. 또한, 제3 실시 형태에서는, 제1 실시 형태와 마찬가지로, 촬상화에 포함되는 피사체를 용이하게 고정밀도로 인식할 수 있다.
<5. 제4 실시 형태>
상술한 제1 내지 제3 실시 형태에서는, 카메라 제어부(30)에서 생성된 제어 신호를 사용하여 광량을 검출하는 경우를 예시했지만, 인식 장치의 구성에 따라서는 제어 신호를 취득할 수 없는 경우가 있다. 예를 들어 카메라부(20)와 카메라 제어부(30)가 인식 장치와 별개로 마련되어 있고, 카메라 제어부(30)와 인식 제어부(40) 사이에서 제어 신호의 통신을 행할 수 없는 경우, 제어 신호를 광량 관련 정보로서 이용할 수 없다. 그래서, 제4 실시 형태에서는, 제어 신호를 사용하지 않고 촬상 영역의 광량을 검출하는 경우에 대하여 설명한다.
도 10은, 인식 장치의 제4 실시 형태의 구성을 예시하고 있다. 카메라부(20)는 광학계 블록(21), 촬상부(22), 게인 조정부(23), A/D(아날로그/디지털) 변환부(24), 계조 변환부(25)를 갖고 있다.
광학계 블록(21)은 광학 렌즈(211)와 조리개 기구(212)를 갖고 있다. 광학계 블록(21)은 카메라 제어부(30)로부터 공급된 제어 신호에 기초하여 광학 렌즈(211)를 이동시켜서, 포커스 동작이나 줌 동작을 행한다. 또한, 광학계 블록(21)은 제어 신호에 기초하여 조리개 기구(212)를 구동하여, 피사체 광학상의 광량을 조정한다.
촬상부(22)는 피사체 광학상에 따른 화상 신호를 생성하여 게인 조정부(23)로 출력한다. 또한, 촬상부(22)는 카메라 제어부(30)로부터 공급된 제어 신호에 기초하여 촬상 소자의 노광 기간을 제어하여, 원하는 셔터 속도로 촬상을 행한다. 또한, 촬상 동작에 있어서의 노광 기간은, 광학계 블록(21)에 마련된 셔터 기구를 구동시킴으로써 변경 가능하게 되어도 된다.
게인 조정부(23)는 촬상부(22)에서 생성된 화상 신호의 아날로그 게인 조정을 행하여, A/D 변환부(24)로 출력한다. A/D 변환부(24)는 아날로그 게인 조정 후의 화상 신호를 아날로그 신호로부터 디지털 신호로 변환하여 계조 변환부(25)로 출력한다.
계조 변환부(25)는 A/D 변환부(24)로부터 공급된 화상 신호에 대하여 제어 신호에 기초하는 변환 함수를 사용하여 휘도의 계조를 압축한다. 계조 변환부(25)는 계조 변환 후의 화상 신호를 인식 제어부(40)와 인식 처리부(50)로 출력한다.
카메라 제어부(30)는 제어 신호를 생성하여 카메라부(20)에 공급하여, 카메라부(20)에 있어서의 각 부의 동작을 제어한다.
조도 검출부(60)는 촬상 영역의 밝기를 나타내는 촬상 환경 조도 정보를 생성하여 인식 제어부(40)로 출력한다.
인식 제어부(40)는 광량 검출부(41)와 노이즈 추정부(42)를 갖고 있다. 광량 검출부(41)는 카메라부(20)로부터 공급된 계조 변환 후의 화상 신호와 조도 검출부(60)로부터 공급된 촬상 환경 조도 정보에 기초하여, 촬상 영역의 광량을 검출한다.
노이즈 추정부(42)는 광량 검출부(41)의 광량 검출 결과에 기초하여 노이즈를 추정하여, 추정 결과를 나타내는 노이즈 정보를 생성한다. 노이즈 추정부(42)는 생성된 노이즈 정보를 선택 판별 정보로서 인식 처리부(50)로 출력한다.
인식 처리부(50)는 인식기 선택부(51)와 복수의 인식기(52-1 내지 52-n)를 갖고 있다. 예를 들어 인식 처리부(50)는 노이즈가 적은 촬상화로부터 고정밀도로 피사체를 인식할 수 있는 인식기와, 노이즈가 많은 촬상화로부터 고정밀도로 피사체를 인식할 수 있는 인식기를 갖고 있다. 인식기 선택부(51)는 인식 제어부(40)로부터의 선택 판별 정보에 기초하여 촬상 영역의 영역 구분 처리를 행하고, 구분된 영역별로 인식기를 선택하고, 선택된 인식기(52)-1(52-n)을 사용하여, 카메라부(20)로부터 공급된 화상 신호에 기초하여 피사체 인식을 행한다.
인식 장치의 제4 실시 형태의 동작에서는, 도 3에 도시되는 제1 실시 형태의 동작과 마찬가지의 처리를 행하며, 스텝 ST2와 스텝 ST3의 처리 내용이 제1 실시 형태와 상이하다.
스텝 ST2에서 인식 장치는, 광량 관련 정보를 취득한다. 여기서, 광량 관련 정보로서는, 예를 들어 촬상 환경 조도 β를 광량 관련 정보로서 사용한다. 또한, 촬상 영역의 광량에 따라서 신호 레벨이 변화하는 계조 변환 후의 화상 신호를 광량 관련 정보로서 사용한다. 인식 장치(10)의 인식 제어부(40)는 이와 같이 광량 관련 정보를 취득하고 스텝 ST3으로 진행된다.
스텝 ST3에서 인식 장치는, 광량을 검출한다. 인식 제어부(40)는 스텝 ST2에서 출력된 광량 관련 정보에 기초하여, 촬상 영역의 광량을 검출한다.
여기서, 광량의 검출 처리에 대하여 설명한다. 촬상화에 있어서의 위치 (u, v)의 계조 변환 후의 화상 신호를 신호값 J(u, v)로 하여, 촬상 환경 조도를 화상 평균 조도와 근사하면, 식 (7)에 기초하여 산출되는 광량 L'(u, v)는 위치 (u, v)의 피사체의 광량을 나타낸다.
L'(u, v)=J(u, v))*β…(7)
이와 같이 하여, 인식 제어부(40)는 촬상 영역의 광량을 검출한다. 그 후, 제1 실시 형태와 마찬가지로, 광량의 검출 결과에 기초하여 노이즈 추정을 행하고, 추정 결과를 나타내는 노이즈 정보를 선택 판별 정보로 한다. 추가로, 인식 처리부(50)는 선택 판별 정보에 기초하여 영역 구분 처리를 행하고, 영역별로 인식기를 선택하여 피사체 인식을 행한다.
이와 같이, 제4 실시 형태에 의하면, 카메라 제어부(30)로부터 제어 신호를 취득할 수 없는 경우에도, 조도 검출부(60)에서 검출된 촬상 환경 조도와 카메라부(20)로부터 출력되는 화상 신호에 기초하여 촬상 영역의 광량을 검출할 수 있다. 추가로, 상술한 제1 실시 형태 등과 마찬가지로, 검출된 광량에 기초하여 생성된 선택 판별 정보에 기초하여 인식기를 선택하여, 촬상 영역의 촬상화에 대하여 피사체 인식 처리를 행할 수 있다. 또한, 제4 실시 형태에서는, 제1 실시 형태와 마찬가지로, 촬상화에 포함되는 피사체를 용이하게 고정밀도로 인식할 수 있다.
<6. 응용예>
본 개시에 따른 기술은, 다양한 제품에 응용될 수 있다. 예를 들어, 본 개시에 따른 기술은, 자동차, 전기 자동차, 하이브리드 전기 자동차, 자동 이륜차, 자전거, 퍼스널 모빌리티, 비행기, 드론, 선박, 로봇, 건설 기계, 농업 기계(트랙터) 등 중 어느 종류의 이동체에 탑재되는 장치로서 실현되어도 된다.
도 11은, 본 개시에 따른 기술이 적용될 수 있는 이동체 제어 시스템의 일례인 차량 제어 시스템(7000)의 개략적인 구성예를 나타내는 블록도이다. 차량 제어 시스템(7000)은 통신 네트워크(7010)를 통하여 접속된 복수의 전자 제어 유닛을 구비한다. 도 11에 도시된 예에서는, 차량 제어 시스템(7000)은 구동계 제어 유닛(7100), 보디계 제어 유닛(7200), 배터리 제어 유닛(7300), 차외 정보 검출 유닛(7400), 차내 정보 검출 유닛(7500) 및 통합 제어 유닛(7600)을 구비한다. 이들의 복수의 제어 유닛을 접속하는 통신 네트워크(7010)는, 예를 들어 CAN(Controller Area Network), LIN(Local Interconnect Network), LAN(Local Area Network) 또는 FlexRay(등록 상표) 등의 임의의 규격에 준거한 차량 탑재 통신 네트워크이면 된다.
각 제어 유닛은, 각종 프로그램에 따라서 연산 처리를 행하는 마이크로 컴퓨터와, 마이크로 컴퓨터에 의해 실행되는 프로그램 또는 각종 연산에 사용되는 파라미터 등을 기억하는 기억부와, 각종 제어 대상의 장치를 구동하는 구동 회로를 구비한다. 각 제어 유닛은, 통신 네트워크(7010)를 통하여 다른 제어 유닛 사이에서 통신을 행하기 위한 네트워크 I/F를 구비함과 함께, 차내외의 장치 또는 센서 등과의 사이에서, 유선 통신 또는 무선 통신에 의해 통신을 행하기 위한 통신 I/F를 구비한다. 도 11에서는, 통합 제어 유닛(7600)의 기능 구성으로서, 마이크로 컴퓨터(7610), 범용 통신 I/F(7620), 전용 통신 I/F(7630), 측위부(7640), 비콘 수신부(7650), 차내 기기 I/F(7660), 음성 화상 출력부(7670), 차량 탑재 네트워크 I/F(7680) 및 기억부(7690)가 도시되어 있다. 다른 제어 유닛도 마찬가지로, 마이크로 컴퓨터, 통신 I/F 및 기억부 등을 구비한다.
구동계 제어 유닛(7100)은 각종 프로그램에 따라서 차량의 구동계에 관련한 장치의 동작을 제어한다. 예를 들어, 구동계 제어 유닛(7100)은 내연 기관 또는 구동용 모터 등의 차량의 구동력을 발생시키기 위한 구동력 발생 장치, 구동력을 차륜에 전달하기 위한 구동력 전달 기구, 차량의 타각을 조절하는 스티어링 기구 및 차량의 제동력을 발생시키는 제동 장치 등의 제어 장치로서 기능한다. 구동계 제어 유닛(7100)은 ABS(Antilock Brake System) 또는 ESC(Electronic Stability Control) 등의 제어 장치로서의 기능을 가져도 된다.
구동계 제어 유닛(7100)에는, 차량 상태 검출부(7110)가 접속된다. 차량 상태 검출부(7110)에는, 예를 들어 차체의 축 회전 운동의 각속도를 검출하는 자이로 센서, 차량의 가속도를 검출하는 가속도 센서, 혹은, 액셀러레이터 페달의 조작량, 브레이크 페달의 조작량, 스티어링 휠의 조타각, 엔진 회전수 또는 차륜의 회전 속도 등을 검출하기 위한 센서 중 적어도 하나가 포함된다. 구동계 제어 유닛(7100)은 차량 상태 검출부(7110)로부터 입력되는 신호를 사용하여 연산 처리를 행하여, 내연 기관, 구동용 모터, 전동 파워스티어링 장치 또는 브레이크 장치 등을 제어한다.
보디계 제어 유닛(7200)은 각종 프로그램에 따라서 차체에 장비된 각종 장치의 동작을 제어한다. 예를 들어, 보디계 제어 유닛(7200)은 키리스 엔트리 시스템, 스마트 키 시스템, 파워 윈도우 장치, 혹은, 헤드 램프, 백 램프, 브레이크 램프, 방향 지시등 또는 포그 램프 등의 각종 램프의 제어 장치로서 기능한다. 이 경우, 보디계 제어 유닛(7200)에는, 키를 대체하는 휴대기로부터 발신되는 전파 또는 각종 스위치의 신호가 입력될 수 있다. 보디계 제어 유닛(7200)은 이들의 전파 또는 신호의 입력을 접수하여, 차량의 도어록 장치, 파워 윈도우 장치, 램프 등을 제어한다.
배터리 제어 유닛(7300)은 각종 프로그램에 따라서 구동용 모터의 전력 공급원인 이차 전지(7310)를 제어한다. 예를 들어, 배터리 제어 유닛(7300)에는, 이차 전지(7310)를 구비한 배터리 장치로부터, 배터리 온도, 배터리 출력 전압 또는 배터리의 잔존 용량 등의 정보가 입력된다. 배터리 제어 유닛(7300)은 이들의 신호를 사용하여 연산 처리를 행하고, 이차 전지(7310)의 온도 조절 제어 또는 배터리 장치에 구비된 냉각 장치 등의 제어를 행한다.
차외 정보 검출 유닛(7400)은 차량 제어 시스템(7000)을 탑재한 차량의 외부의 정보를 검출한다. 예를 들어, 차외 정보 검출 유닛(7400)에는, 촬상부(7410) 및 차외 정보 검출부(7420) 중 적어도 한쪽이 접속된다. 촬상부(7410)에는, ToF(Time Of Flight) 카메라, 스테레오 카메라, 단안 카메라, 적외선 카메라 및 그 밖의 카메라 중 적어도 하나가 포함된다. 차외 정보 검출부(7420)에는, 예를 들어 현재의 날씨 또는 기상을 검출하기 위한 환경 센서, 혹은, 차량 제어 시스템(7000)을 탑재한 차량의 주위의 다른 차량, 장애물 또는 보행자 등을 검출하기 위한 주위 정보 검출 센서 중 적어도 하나가 포함된다.
환경 센서는, 예를 들어 우천을 검출하는 빗방울 센서, 안개를 검출하는 안개 센서, 일조 정도를 검출하는 일조 센서 및 강설을 검출하는 눈 센서 중 적어도 하나이면 된다. 주위 정보 검출 센서는, 초음파 센서, 레이더 장치 및 LIDAR(Light Detection and Ranging, Laser Imaging Detection and Ranging) 장치 중 적어도 하나이면 된다. 이들의 촬상부(7410) 및 차외 정보 검출부(7420)는 각각 독립된 센서 내지 장치로서 구비되어도 되고, 복수의 센서 내지 장치가 통합된 장치로서 구비되어도 된다.
여기서, 도 12는, 촬상부(7410) 및 차외 정보 검출부(7420)의 설치 위치의 예를 나타낸다. 촬상부(7910, 7912, 7914, 7916, 7918)는, 예를 들어 차량(7900)의 프론트 노즈, 사이드미러, 리어 범퍼, 백 도어 및 차 실내의 프론트 글래스의 상부 중 적어도 하나의 위치에 마련된다. 프론트 노즈에 구비되는 촬상부(7910) 및 차 실내의 프론트 글래스의 상부에 구비되는 촬상부(7918)는 주로 차량(7900)의 전방 화상을 취득한다. 사이드미러에 구비되는 촬상부(7912, 7914)는, 주로 차량(7900)의 측방 화상을 취득한다. 리어 범퍼 또는 백 도어에 구비되는 촬상부(7916)는 주로 차량(7900)의 후방 화상을 취득한다. 차 실내의 프론트 글래스의 상부에 구비되는 촬상부(7918)는 주로 선행 차량, 또는, 보행자, 장애물, 신호기, 교통 표지 또는 차선 등의 검출에 사용된다.
또한, 도 12에는, 각각의 촬상부(7910, 7912, 7914, 7916)의 촬영 범위의 일례가 도시되어 있다. 촬상 범위 a는, 프론트 노즈에 마련된 촬상부(7910)의 촬상 범위를 나타내고, 촬상 범위 b, c는, 각각 사이드 미러에 마련된 촬상부(7912, 7914)의 촬상 범위를 나타내고, 촬상 범위 d는, 리어 범퍼 또는 백 도어에 마련된 촬상부(7916)의 촬상 범위를 나타낸다. 예를 들어, 촬상부(7910, 7912, 7914, 7916)에서 촬상된 화상 데이터가 중첩됨으로써, 차량(7900)을 상방으로부터 본 부감 화상이 얻어진다.
차량(7900)의 프론트, 리어, 사이드, 코너 및 차 실내의 프론트 글래스의 상부에 마련되는 차외 정보 검출부(7920, 7922, 7924, 7926, 7928, 7930)는, 예를 들어 초음파 센서 또는 레이더 장치이면 된다. 차량(7900)의 프론트 노즈, 리어 범퍼, 백 도어 및 차 실내의 프론트 글래스의 상부에 마련되는 차외 정보 검출부(7920, 7926, 7930)는, 예를 들어 LIDAR 장치이면 된다. 이 차외 정보 검출부(7920 내지 7930)들은 주로 선행 차량, 보행자 또는 장애물 등의 검출에 사용된다.
도 11로 되돌아가서 설명을 계속한다. 차외 정보 검출 유닛(7400)은 촬상부(7410)에 차 밖의 화상을 촬상시킴과 함께, 촬상된 화상 데이터를 수신한다. 또한, 차외 정보 검출 유닛(7400)은 접속되어 있는 차외 정보 검출부(7420)로부터 검출 정보를 수신한다. 차외 정보 검출부(7420)가 초음파 센서, 레이더 장치 또는 LIDAR 장치인 경우에는, 차외 정보 검출 유닛(7400)은 초음파 또는 전자파 등을 발신시킴과 함께, 수신된 반사파의 정보를 수신한다. 차외 정보 검출 유닛(7400)은 수신된 정보에 기초하여, 사람, 차, 장애물, 표지 또는 노면 상의 문자 등의 물체 검출 처리 또는 거리 검출 처리를 행해도 된다. 차외 정보 검출 유닛(7400)은 수신된 정보에 기초하여, 강우, 안개 또는 노면 상황 등을 인식하는 환경 인식 처리를 행해도 된다. 차외 정보 검출 유닛(7400)은 수신된 정보에 기초하여, 차 밖의 물체까지의 거리를 산출해도 된다.
또한, 차외 정보 검출 유닛(7400)은 수신된 화상 데이터에 기초하여, 사람, 차, 장애물, 표지 또는 노면 상의 문자 등을 인식하는 화상 인식 처리 또는 거리 검출 처리를 행해도 된다. 차외 정보 검출 유닛(7400)은 수신된 화상 데이터에 대하여 왜곡 보정 또는 위치 정렬 등의 처리를 행함과 함께, 다른 촬상부(7410)에 의해 촬상된 화상 데이터를 합성하여, 부감 화상 또는 파노라마 화상을 생성해도 된다. 차외 정보 검출 유닛(7400)은 다른 촬상부(7410)에 의해 촬상된 화상 데이터를 사용하여, 시점 변환 처리를 행해도 된다.
차내 정보 검출 유닛(7500)은 차내의 정보를 검출한다. 차내 정보 검출 유닛(7500)에는, 예를 들어 운전자의 상태를 검출하는 운전자 상태 검출부(7510)가 접속된다. 운전자 상태 검출부(7510)는 운전자를 촬상하는 카메라, 운전자의 생체 정보를 검출하는 생체 센서 또는 차 실내의 음성을 집음하는 마이크 등을 포함해도 된다. 생체 센서는, 예를 들어 시트면 또는 스티어링 휠 등에 마련되고, 좌석에 앉은 탑승자 또는 스티어링 휠을 쥔 운전자의 생체 정보를 검출한다. 차내 정보 검출 유닛(7500)은 운전자 상태 검출부(7510)로부터 입력되는 검출 정보에 기초하여, 운전자의 피로 정도 또는 집중 정도를 산출해도 되고, 운전자가 졸지 않고 있는지를 판별해도 된다. 차내 정보 검출 유닛(7500)은 집음된 음성 신호에 대하여 노이즈 캔슬링 처리 등의 처리를 행해도 된다.
통합 제어 유닛(7600)은 각종 프로그램에 따라서 차량 제어 시스템(7000) 내의 동작 전반을 제어한다. 통합 제어 유닛(7600)에는, 입력부(7800)가 접속되어 있다. 입력부(7800)는, 예를 들어 터치 패널, 버튼, 마이크로폰, 스위치 또는 레버 등, 탑승자에 의해 입력 조작될 수 있는 장치에 의해 실현된다. 통합 제어 유닛(7600)에는, 마이크로폰에 의해 입력되는 음성을 음성 인식함으로써 얻은 데이터가 입력되어도 된다. 입력부(7800)는, 예를 들어 적외선 또는 그 밖의 전파를 이용한 리모트 컨트롤 장치여도 되고, 차량 제어 시스템(7000)의 조작에 대응한 휴대 전화 또는 PDA(Personal Digital Assistant) 등의 외부 접속 기기여도 된다. 입력부(7800)는 예를 들어 카메라여도 되고, 그 경우 탑승자는 제스처에 의해 정보를 입력할 수 있다. 혹은, 탑승자가 장착한 웨어러블 장치의 움직임을 검출함으로써 얻어진 데이터가 입력되어도 된다. 추가로, 입력부(7800)는, 예를 들어 상기 입력부(7800)를 사용하여 탑승자 등에 의해 입력된 정보에 기초하여 입력 신호를 생성하고, 통합 제어 유닛(7600)으로 출력하는 입력 제어 회로 등을 포함해도 된다. 탑승자 등은, 이 입력부(7800)를 조작함으로써, 차량 제어 시스템(7000)에 대하여 각종 데이터를 입력하거나 처리 동작을 지시하거나 한다.
기억부(7690)는 마이크로 컴퓨터에 의해 실행되는 각종 프로그램을 기억하는 ROM(Read Only Memory) 및 각종 파라미터, 연산 결과 또는 센서 값 등을 기억하는 RAM(Random Access Memory)을 포함하고 있어도 된다. 또한, 기억부(7690)는 HDD(Hard Disc Drive) 등의 자기 기억 디바이스, 반도체 기억 디바이스, 광 기억 디바이스 또는 광 자기 기억 디바이스 등에 의해 실현해도 된다.
범용 통신 I/F(7620)는, 외부 환경(7750)에 존재하는 다양한 기기 사이의 통신을 중개하는 범용적인 통신 I/F이다. 범용 통신 I/F(7620)는, GSM(등록 상표)(Global System of Mobile communications), WiMAX(등록 상표), LTE(등록 상표)(Long Term Evolution) 혹은 LTE-A(LTE-Advanced) 등의 셀룰러 통신 프로토콜, 또는 무선 LAN(Wi-Fi(등록 상표)라고도 함), Bluetooth(등록 상표) 등의 그 밖의 무선 통신 프로토콜을 실장해도 된다. 범용 통신 I/F(7620)는, 예를 들어 기지국 또는 액세스 포인트를 통하여, 외부 네트워크(예를 들어, 인터넷, 클라우드 네트워크 또는 사업자 고유의 네트워크) 상에 존재하는 기기(예를 들어, 애플리케이션 서버 또는 제어 서버)에 접속해도 된다. 또한, 범용 통신 I/F(7620)는, 예를 들어 P2P(Peer To Peer) 기술을 사용하여, 차량의 근방에 존재하는 단말기(예를 들어, 운전자, 보행자 혹은 점포의 단말기, 또는 MTC(Machine Type Communication) 단말기)와 접속해도 된다.
전용 통신 I/F(7630)은, 차량에 있어서의 사용을 목적으로서 책정된 통신 프로토콜을 서포트하는 통신 I/F이다. 전용 통신 I/F(7630)는, 예를 들어 하위 레이어의 IEEE802.11p와 상위 레이어의 IEEE1609의 조합인 WAVE(Wireless Access in Vehicle Environment), DSRC(Dedicated Short Range Communications), 또는 셀룰러 통신 프로토콜과 같은 표준 프로토콜을 실장해도 된다. 전용 통신 I/F(7630)는, 전형적으로는, 차차간(Vehicle to Vehicle) 통신, 노차간(Vehicle to Infrastructure) 통신, 차량과 집 사이(Vehicle to Home)의 통신 및 보차간(Vehicle to Pedestrian) 통신 중 하나 이상을 포함하는 개념인 V2X 통신을 수행한다.
측위부(7640)는, 예를 들어 GNSS(Global Navigation Satellite System) 위성으로부터의 GNSS 신호(예를 들어, GPS(Global Positioning System) 위성으로부터의 GPS 신호)를 수신하여 측위를 실행하고, 차량의 위도, 경도 및 고도를 포함하는 위치 정보를 생성한다. 또한, 측위부(7640)는 무선 액세스 포인트와의 신호의 교환에 의해 현재 위치를 특정해도 되고, 또는 측위 기능을 갖는 휴대 전화, PHS 혹은 스마트폰과 같은 단말기로부터 위치 정보를 취득해도 된다.
비콘 수신부(7650)는, 예를 들어 도로 상에 설치된 무선국 등으로부터 발신되는 전파 혹은 전자파를 수신하여, 현재 위치, 정체, 통행 금지 또는 소요 시간 등의 정보를 취득한다. 또한, 비콘 수신부(7650)의 기능은, 상술한 전용 통신 I/F(7630)에 포함되어도 된다.
차내 기기 I/F(7760)는 마이크로 컴퓨터(7610)와 차 내에 존재하는 다양한 차내 기기(7760) 사이의 접속을 중개하는 통신 인터페이스이다. 차내 기기 I/F(7660)는, 무선 LAN, Bluetooth(등록 상표), NFC(Near Field Communication) 또는 WUSB(Wireless USB)와 같은 무선 통신 프로토콜을 사용하여 무선 접속을 확립해도 된다. 또한, 차내 기기 I/F(7660)는, 도시되지 않은 접속 단자(및, 필요하면 케이블)을 통하여, USB(Universal Serial Bus), HDMI(등록 상표)(High-Definition Multimedia Interface, 또는 MHL(Mobile High-definition Link) 등의 유선 접속을 확립해도 된다. 차내 기기(7760)는, 예를 들어 탑승자가 갖는 모바일 기기 혹은 웨어러블 기기, 또는 차량에 반입되거나 혹은 설치되는 정보 기기 중 적어도 하나를 포함하고 있어도 된다. 또한, 차내 기기(7760)는 임의의 목적지까지의 경로 탐색을 행하는 내비게이션 장치를 포함하고 있어도 된다. 차내 기기 I/F(7660)는, 이차내 기기(7760)들 사이에서, 제어 신호 또는 데이터 신호를 교환한다.
차량 탑재 네트워크 I/F(7680)는, 마이크로 컴퓨터(7610)와 통신 네트워크(7010) 사이의 통신을 중개하는 인터페이스이다. 차량 탑재 네트워크 I/F(7680)는, 통신 네트워크(7010)에 의해 서포트되는 소정의 프로토콜에 의거하여, 신호 등을 송수신한다.
통합 제어 유닛(7600)의 마이크로 컴퓨터(7610)는 범용 통신 I/F(7620), 전용 통신 I/F(7630), 측위부(7640), 비콘 수신부(7650), 차내 기기 I/F(7660) 및 차량 탑재 네트워크 I/F(7680) 중 적어도 하나를 통하여 취득되는 정보에 기초하여, 각종 프로그램에 따라서, 차량 제어 시스템(7000)을 제어한다. 예를 들어, 마이크로 컴퓨터(7610)는 취득되는 차내외의 정보에 기초하여, 구동력 발생 장치, 스티어링 기구 또는 제동 장치의 제어 목표값을 연산하여, 구동계 제어 유닛(7100)에 대하여 제어 명령을 출력해도 된다. 예를 들어, 마이크로 컴퓨터(7610)는 차량의 충돌 회피 혹은 충격 완화, 차간 거리에 기초하는 추종 주행, 차속 유지 주행, 차량의 충돌 경고, 또는 차량의 레인 일탈 경고 등을 포함하는 ADAS(Advanced Driver Assistance System)의 기능 실현을 목적으로 한 협조 제어를 행해도 된다. 또한, 마이크로 컴퓨터(7610)는 취득되는 차량의 주위 정보에 기초하여 구동력 발생 장치, 스티어링 기구 또는 제동 장치 등을 제어함으로써, 운전자의 조작에 따르지 않고 자율적으로 주행하는 자동 운전 등을 목적으로 한 협조 제어를 행해도 된다.
마이크로 컴퓨터(7610)는 범용 통신 I/F(7620), 전용 통신 I/F(7630), 측위부(7640), 비콘 수신부(7650), 차내 기기 I/F(7660) 및 차량 탑재 네트워크 I/F(7680) 중 적어도 하나를 통하여 취득되는 정보에 기초하여, 차량과 주변의 구조물이나 인물 등의 물체 사이에 3차원 거리 정보를 생성하고, 차량의 현재 위치의 주변 정보를 포함하는 로컬 지도 정보를 작성해도 된다. 또한, 마이크로 컴퓨터(7610)는 취득되는 정보에 기초하여, 차량의 충돌, 보행자 등의 근접 또는 통행 금지 도로로의 진입 등의 위험을 예측하여, 경고용 신호를 생성해도 된다. 경고용 신호는, 예를 들어 경고음을 발생시키거나, 경고 램프를 점등시키거나 하기 위한 신호이면 된다.
음성 화상 출력부(7670)는 차량의 탑승자 또는 차밖에 대하여 시각적 또는 청각적으로 정보를 통지하는 것이 가능한 출력 장치에 음성 및 화상 중 적어도 한쪽의 출력 신호를 송신한다. 도 11의 예에서는, 출력 장치로서, 오디오 스피커(7710), 표시부(7720) 및 인스트루먼트 패널(7730)이 예시되어 있다. 표시부(7720)는, 예를 들어 온 보드 디스플레이 및 헤드 업 디스플레이 중 적어도 하나를 포함하고 있어도 된다. 표시부(7720)는 AR(Augmented Reality) 표시 기능을 갖고 있어도 된다. 출력 장치는, 이 장치들 이외의, 헤드폰, 탑승자가 장착하는 안경형 디스플레이 등의 웨어러블 디바이스, 프로젝터 또는 램프 등의 다른 장치여도 된다. 출력 장치가 표시 장치인 경우, 표시 장치는, 마이크로 컴퓨터(7610)가 행한 각종 처리에 의해 얻어진 결과 또는 다른 제어 유닛으로부터 수신된 정보를, 텍스트, 이미지, 표, 그래프 등, 다양한 형식으로 시각적으로 표시한다. 또한, 출력 장치가 음성 출력 장치인 경우, 음성 출력 장치는, 재생된 음성 데이터 또는 음향 데이터 등으로 이루어지는 오디오 신호를 아날로그 신호에 변환하여 청각적으로 출력한다.
또한, 도 11에 도시된 예에 있어서, 통신 네트워크(7010)를 통하여 접속된 적어도 두 제어 유닛이 하나의 제어 유닛으로서 일체화되어도 된다. 혹은, 개개의 제어 유닛이, 복수의 제어 유닛에 의해 구성되어도 된다. 추가로, 차량 제어 시스템(7000)이 도시되지 않은 별도의 제어 유닛을 구비해도 된다. 또한, 상기의 설명에 있어서, 어느 제어 유닛이 담당하는 기능의 일부 또는 전부를, 다른 제어 유닛에 갖게 해도 된다. 즉, 통신 네트워크(7010)를 통하여 정보의 송수신이 되도록 되어 있으면, 소정의 연산 처리가, 어느 제어 유닛에서 행하여지도록 되어도 된다. 마찬가지로, 어느 제어 유닛에 접속되어 있는 센서 또는 장치가, 다른 제어 유닛에 접속됨과 함께, 복수의 제어 유닛이, 통신 네트워크(7010)를 통하여 서로 검출 정보를 송수신해도 된다.
이상 설명한 차량 제어 시스템(7000)에 있어서, 본 기술은, 도 11에 도시되는 차외 정보 검출 유닛(7400)에 적용될 수 있다. 이와 같이, 차외 정보 검출 유닛(7400)에 본 기술을 적용하면, 피사체의 밝기에 의한 영향을 적게 하여, 예를 들어 차밖의 피사체의 시인이 용이하게 되어 드라이버의 피로 등을 경감할 수 있다. 또한, 자동 운전 등에 필요한 정보를 고정밀도로 취득하는 것이 가능하게 된다.
또한, 본 개시에 따른 기술을 감시 시스템에 적용하면, 피사체의 밝기에 구애되지 않고 고정밀도로 인식 처리를 행하는 것이 가능하게 되어, 예를 들어 밝은 장소의 인물이나 어두운 장소의 인물을 고정밀도로 감시할 수 있게 된다.
명세서 중에 있어서 설명한 일련의 처리는 하드웨어 또는 소프트웨어, 혹은 양자의 복합 구성에 의해 실행하는 것이 가능하다. 소프트웨어에 의한 처리를 실행하는 경우에는, 처리 시퀀스를 기록한 프로그램을, 전용의 하드웨어에 내장된 컴퓨터 내의 메모리에 인스톨하여 실행시킨다. 또는, 각종 처리가 실행 가능한 범용 컴퓨터에 프로그램을 인스톨하여 실행시키는 것이 가능하다.
예를 들어, 프로그램은 기록 매체로서의 하드 디스크나 SSD(Solid State Drive), ROM(Read Only Memory)에 미리 기록해 둘 수 있다. 혹은, 프로그램은 플렉시블 디스크, CD-ROM(Compact Disc Read Only Memory), MO(Magneto optical) 디스크, DVD(Digital Versatile Disc), BD(Blu-Ray Disc(등록 상표)), 자기 디스크, 반도체 메모리 카드 등의 리무버블 기록 매체에, 일시적 또는 영속적으로 저장(기록)해 둘 수 있다. 이러한 리무버블 기록 매체는, 소위 패키지 소프트웨어로서 제공될 수 있다.
또한, 프로그램은, 리무버블 기록 매체부터 컴퓨터에 인스톨하는 것 외에, 다운로드 사이트로부터 LAN(Local Area Network)이나 인터넷 등의 네트워크를 통하여, 컴퓨터에 무선 또는 유선으로 전송해도 된다. 컴퓨터에서는, 그렇게 하여 전송되어 오는 프로그램을 수신하여, 내장된 하드 디스크 등의 기록 매체에 인스톨 할 수 있다.
또한, 본 명세서에 기재된 효과는 어디까지나 예시이고 한정되는 것은 아니며, 기재되지 않은 부가적인 효과가 있어도 된다. 또한, 본 기술은, 상술한 기술의 실시 형태에 한정하여 해석되어서는 안된다. 이 기술의 실시 형태는, 예시라고 하는 형태로 본 기술을 개시하고 있으며, 본 기술의 요지를 일탈하지 않는 범위에서 당업자가 실시 형태의 수정이나 대용을 이룰 수 있는 것은 자명하다. 즉, 본 기술의 요지를 판단하기 위해서는, 청구범위를 참작해야 한다.
또한, 본 기술의 인식 장치는 이하와 같은 구성도 취할 수 있다.
(1) 촬상 영역의 광량 검출 결과에 기초하여 선택 판별 정보를 생성하는 인식 제어부와,
상기 촬상 영역을 나타내는 촬상화에 대한 피사체 인식 처리를, 상기 인식 제어부에서 생성된 상기 선택 판별 정보에 기초하여 선택된 인식기를 사용하여 행하는 인식 처리부
를 구비하는 인식 장치.
(2) 상기 인식 제어부는, 상기 광량 검출 결과에 기초하여 노이즈 추정을 행하여, 노이즈 추정 결과를 상기 선택 판별 정보로 하는 (1)에 기재된 인식 장치.
(3) 상기 인식 처리부는, 상기 선택 판별 정보에 기초하여 노이즈가 역치 이하라고 판별된 경우에 제1 인식기를 선택하고, 상기 선택 판별 정보에 기초하여 노이즈가 역치보다도 많다고 판별된 경우에 제1 인식기보다도 노이즈에 강한 제2 인식기를 선택하는 (2)에 기재된 인식 장치.
(4) 상기 인식 처리부는, 상기 선택 판별 정보에 기초하여 상기 촬상화의 영역 분할을 행하여, 분할된 영역별로 상기 인식기를 선택하는 (1) 내지 (3) 중 어느 것에 기재된 인식 장치.
(5) 상기 인식 제어부는, 상기 촬상화를 취득하는 촬상부의 계조 변환 전환 동작에 따라서 상기 촬상화의 영역 분할을 행하여, 분할된 영역별로 상기 선택 판별 정보를 생성하는 (1) 내지 (3) 중 어느 것에 기재된 인식 장치.
(6) 상기 인식 제어부는, 상기 촬상화를 취득하는 촬상부의 동작을 제어하는 제어 신호와 상기 촬상부에서 생성된 화상 신호에 기초하여 상기 촬상 영역의 광량을 검출하는 (1) 내지 (5) 중 어느 것에 기재된 인식 장치.
(7) 상기 제어 신호는, 조리개, 셔터 속도, 아날로그 게인 조정 및 계조 변환 중 적어도 어느 것을 제어하는 신호인 (6)에 기재된 인식 장치.
(8) 상기 제어 신호는, 상기 조리개와 상기 셔터 속도와 상기 아날로그 게인 조정 및 상기 계조 변환을 제어하는 신호이며,
상기 화상 신호는 상기 아날로그 게인 조정과 상기 계조 변환이 행하여진 신호인 (7)에 기재된 인식 장치.
(9) 상기 제어 신호는, 상기 조리개와 상기 셔터 속도와 상기 아날로그 게인 조정을 제어하는 신호이며,
상기 화상 신호는 상기 아날로그 게인 조정이 행하여진 신호인 (7)에 기재된 인식 장치.
(10) 상기 제어 신호는, 상기 조리개와 상기 셔터 속도를 제어하는 신호이며,
상기 화상 신호는 상기 아날로그 게인 조정이 행하여지기 전의 신호인 (7)에 기재된 인식 장치.
(11) 상기 인식 제어부는, 상기 촬상부에서 생성된 화상 신호와 촬상 환경 조도를 검출하는 조도 검출부에서 검출된 조도에 기초하여 상기 광량을 검출하는 (1)에 기재된 인식 장치.
이 기술의 인식 장치와 인식 방법 그리고 프로그램에 의하면, 촬상 영역의 광량 검출 결과에 기초하여 선택 판별 정보가 생성되어, 선택 판별 정보에 기초하여 선택된 인식기를 사용하여, 촬상 영역을 나타내는 촬상화에 대하여 피사체 인식 처리가 행하여진다. 이 때문에, 촬상화에 포함되는 피사체를 용이하게 고정밀도로 인식할 수 있게 된다. 따라서, 주변 상황을 감시하는 감시 장치나, 주변 상황을 판별하여 이동 제어를 행하는 이동체 장치 등에 적합하다.
10: 인식 장치
20: 카메라부
21: 광학계 블록
22: 촬상부
23: 게인 조정부
24: A/D 변환부
25: 계조 변환부
30: 카메라 제어부
40: 인식 제어부
41: 광량 검출부
42: 노이즈 추정부
50: 인식 처리부
51: 인식기 선택부
52-1 내지 52-n: 인식기
60: 조도 검출부
211: 광학 렌즈
212: 조리개 기구

Claims (13)

  1. 촬상 영역의 광량 검출 결과에 기초하여 선택 판별 정보를 생성하는 인식 제어부와,
    상기 촬상 영역을 나타내는 촬상화에 대한 피사체 인식 처리를, 상기 인식 제어부에서 생성된 상기 선택 판별 정보에 기초하여 선택된 인식기를 사용하여 행하는 인식 처리부
    를 구비하는 인식 장치.
  2. 제1항에 있어서,
    상기 인식 제어부는, 상기 광량 검출 결과에 기초하여 노이즈 추정을 행하여, 노이즈 추정 결과를 상기 선택 판별 정보로 하는
    인식 장치.
  3. 제2항에 있어서,
    상기 인식 처리부는, 상기 선택 판별 정보에 기초하여 노이즈가 역치 이하라고 판별된 경우에 제1 인식기를 선택하고, 상기 선택 판별 정보에 기초하여 노이즈가 역치보다도 많다고 판별된 경우에 제1 인식기보다도 노이즈에 강한 제2 인식기를 선택하는
    인식 장치.
  4. 제1항에 있어서,
    상기 인식 처리부는, 상기 선택 판별 정보에 기초하여 상기 촬상화의 영역 분할을 행하여, 분할된 영역별로 상기 인식기를 선택하는
    인식 장치.
  5. 제1항에 있어서,
    상기 인식 제어부는, 상기 촬상화를 취득하는 촬상부의 계조 변환 전환 동작에 따라서 상기 촬상화의 영역 분할을 행하여, 분할된 영역별로 상기 선택 판별 정보를 생성하는
    인식 장치.
  6. 제1항에 있어서,
    상기 인식 제어부는, 상기 촬상화를 취득하는 촬상부의 동작을 제어하는 제어 신호와 상기 촬상부에서 생성된 화상 신호에 기초하여 상기 촬상 영역의 광량을 검출하는
    인식 장치.
  7. 제6항에 있어서,
    상기 제어 신호는, 조리개, 셔터 속도, 아날로그 게인 조정 및 계조 변환 중 적어도 어느 것을 제어하는 신호인
    인식 장치.
  8. 제7항에 있어서,
    상기 제어 신호는, 상기 조리개와 상기 셔터 속도와 상기 아날로그 게인 조정 및 상기 계조 변환을 제어하는 신호이며,
    상기 화상 신호는 상기 아날로그 게인 조정과 상기 계조 변환이 행하여진 신호인
    인식 장치.
  9. 제7항에 있어서,
    상기 제어 신호는, 상기 조리개와 상기 셔터 속도와 상기 아날로그 게인 조정을 제어하는 신호이며,
    상기 화상 신호는 상기 아날로그 게인 조정이 행하여진 신호인
    인식 장치.
  10. 제7항에 있어서,
    상기 제어 신호는, 상기 조리개와 상기 셔터 속도를 제어하는 신호이며,
    상기 화상 신호는 상기 아날로그 게인 조정이 행하여지기 전의 신호인
    인식 장치.
  11. 제1항에 있어서,
    상기 인식 제어부는, 상기 촬상부에서 생성된 화상 신호와 촬상 환경 조도를 검출하는 조도 검출부에서 검출된 조도에 기초하여 상기 광량을 검출하는
    인식 장치.
  12. 촬상 영역의 광량 검출 결과에 기초하여 선택 판별 정보를 인식 제어부에서 생성하는 것과,
    상기 촬상 영역을 나타내는 촬상화에 대한 피사체 인식 처리를, 상기 인식 제어부에서 생성된 선택 판별 정보에 기초하여 선택된 인식기를 사용하여 인식 처리부에서 행하는 것
    을 포함하는 인식 방법.
  13. 인식 처리를 컴퓨터에서 실행시키는 프로그램이며,
    촬상 영역의 광량 검출 결과에 기초하여 선택 판별 정보를 생성하는 수순과,
    상기 촬상 영역을 나타내는 촬상화에 대한 피사체 인식 처리를, 상기 선택 판별 정보에 기초하여 선택된 인식기를 사용하여 행하는 수순
    을 상기 컴퓨터에서 실행시키는 프로그램.
KR1020207021640A 2018-02-09 2018-11-16 인식 장치와 인식 방법 그리고 프로그램 KR20200119790A (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018021493 2018-02-09
JPJP-P-2018-021493 2018-02-09
PCT/JP2018/042447 WO2019155718A1 (ja) 2018-02-09 2018-11-16 認識装置と認識方法およびプログラム

Publications (1)

Publication Number Publication Date
KR20200119790A true KR20200119790A (ko) 2020-10-20

Family

ID=67548849

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020207021640A KR20200119790A (ko) 2018-02-09 2018-11-16 인식 장치와 인식 방법 그리고 프로그램

Country Status (6)

Country Link
US (1) US11438517B2 (ko)
EP (1) EP3751512A4 (ko)
JP (1) JP7173056B2 (ko)
KR (1) KR20200119790A (ko)
CN (1) CN111684455A (ko)
WO (1) WO2019155718A1 (ko)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009234344A (ja) 2008-03-26 2009-10-15 Fuji Heavy Ind Ltd 撮像手段の調整装置および物体検出装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3550874B2 (ja) * 1996-04-12 2004-08-04 オムロン株式会社 監視装置
JP5320331B2 (ja) * 2010-03-17 2013-10-23 日立オートモティブシステムズ株式会社 車載用環境認識装置及び車載用環境認識システム
JP5761601B2 (ja) * 2010-07-01 2015-08-12 株式会社リコー 物体識別装置
JP6266238B2 (ja) 2013-07-03 2018-01-24 クラリオン株式会社 接近物検出システム、及び車両
JP2015035704A (ja) * 2013-08-08 2015-02-19 株式会社東芝 検出装置、検出方法および検出プログラム
WO2015045829A1 (ja) * 2013-09-27 2015-04-02 富士フイルム株式会社 撮像装置及び撮像方法
US9298993B2 (en) * 2014-02-27 2016-03-29 Xerox Corporation On-street vehicle parking occupancy estimation via curb detection
KR20160020132A (ko) * 2014-08-13 2016-02-23 현대모비스 주식회사 차량의 인식 시스템
JP6650691B2 (ja) * 2015-07-02 2020-02-19 キヤノン株式会社 撮像装置
JP6537385B2 (ja) * 2015-07-17 2019-07-03 日立オートモティブシステムズ株式会社 車載環境認識装置
KR20180025591A (ko) * 2016-09-01 2018-03-09 삼성전자주식회사 자율 주행 차량을 위한 비전 센서의 제어 방법 및 장치

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009234344A (ja) 2008-03-26 2009-10-15 Fuji Heavy Ind Ltd 撮像手段の調整装置および物体検出装置

Also Published As

Publication number Publication date
US20200366825A1 (en) 2020-11-19
JPWO2019155718A1 (ja) 2021-01-28
EP3751512A1 (en) 2020-12-16
JP7173056B2 (ja) 2022-11-16
EP3751512A4 (en) 2021-04-07
CN111684455A (zh) 2020-09-18
WO2019155718A1 (ja) 2019-08-15
US11438517B2 (en) 2022-09-06

Similar Documents

Publication Publication Date Title
US10957029B2 (en) Image processing device and image processing method
US11363235B2 (en) Imaging apparatus, image processing apparatus, and image processing method
US10880498B2 (en) Image processing apparatus and image processing method to improve quality of a low-quality image
US11698642B2 (en) Information processing apparatus, mobile object, control system, and information processing method
US10704957B2 (en) Imaging device and imaging method
JP6764573B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP6977722B2 (ja) 撮像装置、および画像処理システム
KR20210013044A (ko) 정보 처리 장치, 정보 처리 방법, 촬영 장치, 조명 장치 및 이동체
US11585898B2 (en) Signal processing device, signal processing method, and program
CN111587572A (zh) 图像处理装置、图像处理方法和程序
US11689797B2 (en) Camera, method, non-transitory computer-readable medium, and system
WO2019116746A1 (ja) 画像処理装置、画像処理方法及び撮像装置
US20230186651A1 (en) Control device, projection system, control method, and program
US20230013424A1 (en) Information processing apparatus, information processing method, program, imaging apparatus, and imaging system
JP7059185B2 (ja) 画像処理装置、画像処理方法、および撮像装置
CN111868778B (zh) 图像处理装置、图像处理方法以及存储介质
WO2019215979A1 (ja) 画像処理装置、車載装置、画像処理方法及びプログラム
WO2020036044A1 (ja) 画像処理装置と画像処理方法およびプログラム
JP7173056B2 (ja) 認識装置と認識方法およびプログラム
US20230412923A1 (en) Signal processing device, imaging device, and signal processing method
US10791287B2 (en) Imaging control apparatus and method, and vehicle
JP2021180459A (ja) 撮像装置及びプログラム

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal