KR20210100610A - 화상 처리 장치, 화상 처리 방법 및 화상 처리 시스템 - Google Patents

화상 처리 장치, 화상 처리 방법 및 화상 처리 시스템 Download PDF

Info

Publication number
KR20210100610A
KR20210100610A KR1020217016360A KR20217016360A KR20210100610A KR 20210100610 A KR20210100610 A KR 20210100610A KR 1020217016360 A KR1020217016360 A KR 1020217016360A KR 20217016360 A KR20217016360 A KR 20217016360A KR 20210100610 A KR20210100610 A KR 20210100610A
Authority
KR
South Korea
Prior art keywords
image
driver
vehicle
unit
viewpoint position
Prior art date
Application number
KR1020217016360A
Other languages
English (en)
Inventor
고지 나가타
Original Assignee
소니그룹주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 소니그룹주식회사 filed Critical 소니그룹주식회사
Publication of KR20210100610A publication Critical patent/KR20210100610A/ko

Links

Images

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/006—Side-view mirrors, e.g. V-shaped mirrors located at the front or rear part of the vehicle
    • B60R1/007—Side-view mirrors, e.g. V-shaped mirrors located at the front or rear part of the vehicle specially adapted for covering the lateral blind spot not covered by the usual rear-view mirror
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30—Image reproducers
    • H04N13/366—Image reproducers using viewer tracking
    • H04N13/383—Image reproducers using viewer tracking for tracking with gaze detection, i.e. detecting the lines of sight of the viewer's eyes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/02—Rear-view mirror arrangements
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/31—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles providing stereoscopic vision
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—2D [Two Dimensional] image generation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/16—Anti-collision systems
    • G08G1/167—Driving aids for lane monitoring, lane changing, e.g. blind spot detection
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30—Image reproducers
    • H04N13/361—Reproducing mixed stereoscopic images; Reproducing mixed monoscopic and stereoscopic images, e.g. a stereoscopic image overlay window on a monoscopic image background
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30—Image reproducers
    • H04N13/363—Image reproducers using image projection screens
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/414—Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance
    • H04N21/41422—Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance located in transportation means, e.g. personal vehicle
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223—Cameras
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442—Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44213—Monitoring of end-user related data
    • H04N21/44218—Detecting physical presence or behaviour of the user, e.g. using sensors to detect if the user is leaving the room or changes his face expression during a TV program
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81—Monomedia components thereof
    • H04N21/8146—Monomedia components thereof involving graphical data, e.g. 3D object, 2D graphics
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/64—Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265—Mixing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/12—Mirror assemblies combined with other articles, e.g. clocks
    • B60R2001/1253—Mirror assemblies combined with other articles, e.g. clocks with cameras, video cameras or video screens
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • B60R2300/202—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used displaying a blind spot scene on the vehicle part responsible for the blind spot
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/602—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint
    • B60R2300/605—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint the adjustment being automatic
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8046—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for replacing a rear-view mirror system
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8066—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring rearward traffic
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261—Obstacle

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Social Psychology (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Graphics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Databases & Information Systems (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

운전자에게 직감적이고 보기 편한 시계를 제공하면서, 운전자가 보고 있지 않은 경우에 있어서의 표시의 안정성을 도모한다. 운전자의 시선이 표시부를 포함하는 일정 영역에 있을 때, 차량의 후방을 촬영해서 얻어진 촬영 화상에 기초하여 운전자의 시점의 운동에 따라서 표시부에 표시하는 표시 화상을 얻는다. 예를 들어, 운전자의 시점 위치의 기준 시점 위치로부터의 어긋남에 따라서 표시 화상을 얻는다. 예를 들어, 시점 위치의 장기적 변동에 기초하여 기준 시점 위치를 갱신한다. 예를 들어, 운전자의 시선이 표시 화상을 표시하는 표시부를 포함하는 일정 영역에 있을 때, 기준 시점 위치를 갱신하지 않는다.

Description

화상 처리 장치, 화상 처리 방법 및 화상 처리 시스템
본 기술은, 화상 처리 장치, 화상 처리 방법 및 화상 처리 시스템에 관한 것으로, 상세하게는, 차량 탑재용 전자 미러에 적용하기에 바람직한 화상 처리 장치 등에 관한 것이다.
종래, 차량의 백미러(룸 미러나 좌우의 도어 미러)를 카메라와 디스플레이로 치환한 차량 탑재용 전자 미러가 제안되어 있다. 특허문헌 1에서는, 전자 미러의 보이는 모습이 실제 미러의 보이는 모습과 다른 것을 해결하기 위해, 디스플레이에 대한 운전자의 헤드부의 상대 위치를 이용하여, 카메라 화상 중 디스플레이에 표시할 범위를 가변시키는 기술이 제안되어 있다.
일본 특허 공개 제2013-216286호 공보
특허문헌 1에 기재되는 기술에서는, 헤드부 운동에 따라서 후방 영상의 표시 화각이 변화되므로, 직감적이고 보기 편한 시계를 제공할 수 있다. 그러나, 운전자가 보고 있지 않은 경우라도, 운전자의 헤드부 운동에 따라서 후방 영상의 표시 화각이 변화되어, 표시의 안정성이 결여되어, 동승자에게 불쾌감을 부여할 가능성이 있다.
본 기술의 목적은, 운전자에게 직감적이고 보기 편한 시계를 제공하면서, 운전자가 보고 있지 않은 경우에 있어서의 표시의 안정성을 도모하는 데 있다.
본 기술의 개념은,
운전자의 시선이 표시부를 포함하는 일정 영역에 있을 때, 차량의 후방을 촬영해서 얻어진 촬영 화상에 기초하여 상기 운전자의 시점의 운동에 따라서 상기 표시부에 표시하는 표시 화상을 얻는 처리부를 구비하는 화상 처리 장치에 있다.
본 기술에 있어서, 처리부에 의해, 운전자의 시선이 표시부를 포함하는 일정 영역에 있을 때, 차량의 후방을 촬영해서 얻어진 촬영 화상에 기초하여 운전자의 시점의 운동에 따라서 표시부에 표시할 표시 화상이 얻어진다. 예를 들어, 처리부는, 운전자의 시점 위치의 기준 시점 위치로부터의 어긋남에 따라서 표시 화상을 얻는 식으로 되어도 된다. 이에 의해, 시점 운동에 따른 표시 화상을 양호하게 얻는 것이 가능하게 된다.
이와 같이 본 기술에 있어서는, 운전자의 시선이 표시부를 포함하는 일정 영역에 있을 때, 촬영 화상에 기초하여 운전자의 시점의 운동에 따라서 표시 화상을 얻는 것이다. 그로 인해, 운전자에게 직감적이고 보기 편한 시계를 제공하면서, 운전자가 보고 있지 않은 경우에 있어서의 표시의 안정성을 도모할 수 있다.
또한, 본 기술에 있어서, 예를 들어, 처리부는, 시점 위치의 장기적 변동에 기초하여 기준 시점 위치를 갱신하는 식으로 되어도 된다. 이에 의해, 예를 들어, 운전자의 자세 변화에 의한 시점 위치의 장기적 변동이 있어도, 적절한 후방 시계가 얻어지게 된다.
이 경우, 예를 들어, 처리부는, 소정의 샘플 레이트로 얻어지는 시점 위치를 일정 구간마다 평균하여 기준 시점 위치의 갱신값을 순차 얻는 식으로 되어도 된다. 이에 의해, 운전자의 자세의 변화에 의한 시점 위치의 장기적 변동에 대응한 기준 시점 위치의 갱신값을 적절하게 얻는 것이 가능하게 된다.
또한, 이 경우, 예를 들어, 처리부는, 운전자의 시선이 표시 화상을 표시하는 표시부를 포함하는 일정 영역에 있을 때, 기준 시점 위치를 갱신하지 않는 식으로 되어도 된다. 이 경우, 운전자의 시점 변동에 대응해서 후방 영상의 표시 화각이 고정밀도로 변화되므로, 직감적이고 보기 편한 시계의 제공을 고정밀도로 행할 수 있다.
또한, 본 기술에 있어서, 예를 들어, 운전자의 시점 위치가 착좌 상태에 대응한 일정 영역에 들어갔을 때, 그 운전자의 시선이 표시 화상을 표시하는 표시부 상에 일정 시간 계속된 경우의 운전자의 시점 위치를 초기 기준 시점 위치로서 등록하는 등록부를 더 구비하는 식으로 되어도 된다. 이와 같이 초기 기준 시점 위치를 등록함으로써, 운전자의 교대가 있는 경우라도, 운전 최초로부터 운전자에 대하여 적절한 후방 시계를 제공하는 것이 가능하게 된다.
또한, 본 기술에 있어서, 예를 들어, 처리부는, 촬영 화상에 차량을 나타내는 화상을 중첩해서 표시 화상을 얻는 식으로 되어도 된다. 이 경우, 차량의 후방을 촬영해서 얻어진 촬영 화상만으로 표시 화상을 구성하는 것이 아니라, 그 촬영 화상에 차량을 나타내는 화상을 중첩해서 표시 화상을 얻는 것이기 때문에, 운동 시차에 의한 거리감의 제공을 간단하게 실현할 수 있다.
이 경우, 예를 들어, 차량을 나타내는 화상은, 컴퓨터 그래픽스 화상으로 하는 식으로 되어도 된다. 컴퓨터 그래픽스 화상을 사용함으로써, 차량을 나타내는 화상의 생성 자유도를 높일 수 있다.
또한, 예를 들어, 차량의 후방을 촬영해서 얻어진 촬영 화상은, 그 차량의 후방부에 설치된 촬영 장치로 촬영된 촬영 화상이며, 차량을 나타내는 화상은, 차실 내 화상으로 하는 식으로 되어도 된다. 이 경우, 표시 화상은, 룸 미러 표시에 대응한 것이 된다. 또한, 예를 들어, 차량의 후방을 촬영해서 얻어진 촬영 화상은, 그 차량의 측부에 설치된 촬영 장치로 촬영된 촬영 화상을 포함하고, 그 차량을 나타내는 화상은 차체 화상으로 하는 식으로 되어도 된다. 이 경우, 표시 화상은 사이드 미러 표시에 대응한 것이 된다.
또한, 예를 들어, 처리부는, 운전자의 시점 위치의 기준 시점 위치로부터의 어긋남에 따라서 촬영 화상과 차량을 나타내는 화상의 중첩 위치 관계를 변화시키는 식으로 되어도 된다. 이에 의해, 실제의 백미러를 보고 있는 것에 가까운 운동 시차를 발생시켜, 운전자의 거리간의 지각을 보조할 수 있다.
이 경우, 예를 들어, 처리부는, 촬영 화상과 차량을 나타내는 화상을 삼차원 공간에 배치하고, 운전자의 시점 위치의 기준 시점 위치로부터의 어긋남에 따라서 변화하는 가상 시점 위치를 구하고, 그 가상 시점 위치에서 결정되는 시계에 의해 촬영 화상과 차량을 나타내는 화상을 사영 좌표계로 변환하여 표시 화상을 얻는 식으로 되어도 된다. 이에 의해, 운전자의 시점의 운동에 따라서 촬영 화상과 차량을 나타내는 화상의 중첩 위치 관계를 고정밀도로 변화시킬 수 있다.
그리고, 이 경우, 예를 들어, 처리부는, 촬영 화상을, 차량의 후방에 존재하는 소정의 오브젝트의 위치에 배치하는 식으로 되어도 된다. 예를 들어, 소정의 오브젝트는, 차량에 대하여 가장 가까이에 있는 오브젝트, 또는 운전자가 보고 있는 오브젝트로 하는 식으로 되어도 된다. 이와 같이 촬영 화상을 차량의 후방에 존재하는 소정의 오브젝트의 위치에 배치함으로써, 소정의 오브젝트를 삼차원 공간의 올바른 위치에 올바른 크기로 배치할 수 있어, 그 소정의 오브젝트와 차량을 나타내는 화상 사이에서 일어나는 운동 시차를 올바르게 표현할 수 있다.
또한, 예를 들어, 처리부는 차량을 나타내는 화상을 촬영 화상이 투과되어 보이도록, 그 촬영 화상에 중첩하는 식으로 되어도 된다. 이에 의해, 차량을 나타내는 화상의 중첩에 의해 운동 시차를 제공해도, 후방 시인성을 손상시키지 않도록 할 수 있다.
도 1은 실시 형태로서의 차량의 구성물 배치의 일례를 나타내는 도면이다.
도 2는 차량의 차체(바디), 차체 개구부(창) 및 내장 오브젝트를 도시하는 도면이다.
도 3은 화상 처리 장치의 구성예를 도시하는 블록도이다.
도 4는 가상 공간 상의 구성물 배치를 도시하는 도면이다.
도 5는 시점 운동과 가상 시점 운동을 설명하기 위한 도면이다.
도 6은 기준 시계에서의 전자 미러의 보이는 모습의 일례를 나타내는 도면이다.
도 7은 초기화 플로우의 일례를 나타내는 흐름도이다.
도 8은 시점 검출 영역과 시선 검출 영역의 일례를 나타내는 도면이다.
도 9는 운전자에 의한 시계 설정의 조정의 일례를 나타내는 도면이다.
도 10은 시점 운동과 이동 평균의 일례를 나타내는 도면이다.
도 11은 촬영된 카메라 화상을 설명하기 위한 도면이다.
도 12는 카메라 화상의 배치예를 도시하는 도면이다.
도 13은 카메라 화상의 배치의 차이에 의한 카메라 화상의 보이는 모습의 변화를 도시하는 도면이다.
도 14는 카메라 화상 배치 연산부의 처리 플로우의 일례를 나타내는 흐름도이다.
도 15는 카메라 화상 배치 연산부의 처리 플로우의 다른 일례를 나타내는 흐름도이다.
도 16은 카메라 화상 배치 연산부의 처리 플로우의 다른 일례를 나타내는 흐름도이다.
도 17은 가상 공간 상의 카메라 화상 배치를 도시하는 도면이다.
도 18은 가상 공간 상에 있어서의 묘화에 필요한 요소의 배치예를 도시하는 도면이다.
도 19는 화상 묘화부에서 얻어지는 표시 화상의 일례를 나타내는 도면이다.
도 20은 화상 처리 장치에 있어서의 통상 동작 플로우의 처리의 일례를 나타내는 흐름도이다.
도 21은 표시 화상 처리의 일례를 나타내는 흐름도이다.
도 22는 시점 운동에 의한 묘화 오브젝트 이동의 겹침 정도의 변화를 도시하는 도면이다.
도 23은 묘화 처리의 베리에이션을 도시하는 도면이다.
도 24는 종래의 전자 미러(백미러) 기술에 대해서 설명하기 위한 도면이다.
도 25는 본 기술의 전자 미러(백미러) 기술에 대해서 설명하기 위한 도면이다.
도 26은 사이드 미러에 관한 종래 기술을 설명하기 위한 도면이다.
도 27은 본 기술을 적용한 사이드 미러를 대체하는 전자 미러를 설명하기 위한 도면이다.
도 28은 차량의 구성물 배치의 일례를 나타내는 도면이다.
도 29는 화상 처리 장치의 구성예를 도시하는 블록도이다.
도 30은 가상 공간 상에 있어서의 카메라 화상의 배치 위치를 도시하는 도면이다.
도 31은 가상 공간 상에 있어서의 묘화에 필요한 요소의 배치예를 도시하는 도면이다.
도 32는 컴퓨터 하드웨어의 구성예를 도시하는 블록도이다.
이하, 발명을 실시하기 위한 형태(이하, 「실시 형태」라 함)에 대해서 설명한다. 또한, 설명을 이하의 순서로 행한다.
1. 실시 형태
2. 변형예
<1. 실시 형태>
[차량의 구성물 배치]
도 1은, 실시 형태로서의 차량(10)의 구성물 배치의 일례를 나타내고 있다. 차량(10)은 차체(바디)(100)와, 차체 개구부(창)(101)와, 시트 등의 내장 오브젝트(102)를 갖고 있다. 도 2의 (a)는 차체(바디)(100)를 나타내고, 도 2의 (b)의 해칭 부분은 차체 개구부(창)(101)를 나타내고, 도 2의 (c)는 시트 등의 내장 오브젝트(102)를 나타내고 있다.
또한, 차량(10)은 후방 촬영부(103)와, 후방 거리 계측부(104)와, 시점 계측부(105)와, 시선 계측부(106)를 갖고 있다. 후방 촬영부(103)는, 예를 들어 CMOS(Complementary Metal Oxide Semiconductor) 카메라로 구성되어 있고, 차량(10)의 리어측 외곽에 후방을 촬영하도록 설치되어 있다. 후방 거리 계측부(104)는, 예를 들어 ToF(Time of Flight) 방식 거리 화상 센서로 구성되어 있고, 차량(10)의 리어측 외곽에 후방의 거리 화상을 취득하도록 설치되어 있다.
시점 계측부(105)는 운전자(유저)의 시점 위치를 검출하는 것이다. 시점 계측부(105)는 차량(10)의 프론트측 내부에 설치되어 있다. 시점 계측부(105)는, 예를 들어, CMOS 카메라를 구비하고 있고, 그 카메라의 촬영 화상에 기초하여 운전자의 눈 위치를 시점 위치로 하여 계측한다. 또한, 시점 계측부(105)는, 예를 들어, 적외선 카메라에 의해 촬영한 화상에 기초하여 운전자의 시점 위치를 계측해도 된다. 시선 계측부(106)는 운전자의 시선을 검출하는 것이다. 시선 계측부(106)는 차량(10)의 프론트측 내부에 설치되어 있다. 시선 계측부(106)는, 예를 들어, CMOS 카메라를 구비하고 있고, 운전자의 눈동자의 화상에 기초하여, 운전자의 시선, 즉 운전자가 어디를 보고 있는지를 검출한다.
또한, 차량(10)은 영상 표시부(디스플레이)(107)와, 유저 조작부(108)와, 화상 처리 장치(109)를 갖고 있다. 영상 표시부(107)는 종래의 룸 미러 대신에, 차량(10)의 프론트측 내부에 설치되어 있고, 대략 직사각 형상의 표시면을 갖고 있다. 영상 표시부(107)는 LCD(liquid crystal display)나 유기 EL(Electronic Luminescent) 패널 등으로 구성된다.
유저 조작부(108)는 운전자에 의한 여러가지 조작을 접수하는 유저 인터페이스를 구성하고 있다. 이 유저 조작부(108)는, 예를 들어, 인 프론트 패널에 배치되는 기계적인 조작 버튼, 나아가서는 영상 표시부(107)의 화면 상에 배치되는 터치 패널 등으로 구성되어 있다. 영상 표시부(107)는, 기본적으로는 차량(10)의 후방 화상을 표시하는 것이지만, 터치 패널 기능을 갖는 경우에는, 필요에 따라서, 유저 조작을 위한 UI(User Interface) 표시도 된다.
화상 처리 장치(109)는 영상 표시부(107)에 표시할 표시 화상을 얻기 위한 처리를 한다. 화상 처리 장치(109)는 차량(10)의 내부의 임의의 장소, 예를 들어, 도시한 바와 같이 인 프론트 패널 부분에 배치된다. 화상 처리 장치(109)는 후방 촬영부(103)에서 얻어진 카메라 화상에 기초하여, 운전자의 시점 위치의 기준 시점 위치로부터의 어긋남에 따라서 표시 화상을 얻는다. 그리고, 이 경우, 화상 처리 장치(109)는 시점 위치의 장기적 변동에 기초하여 기준 시점 위치를 갱신한다. 이에 의해, 직감적이고 보기 편한 시계를 제공하면서, 운전자의 자세 변화가 있어도 적절한 후방 시계가 얻어지게 된다.
이 경우, 화상 처리 장치(109)는 운전자의 시선이 표시 화상을 표시하는 표시부를 포함하는 일정 영역에 있을 때, 기준 시점 위치를 갱신하지 않도록 한다. 이에 의해, 운전자의 시점 변동에 대응해서 후방 영상의 표시 화각이 고정밀도로 변화되므로, 직감적이고 보기 편한 시계의 제공을 고정밀도로 행할 수 있다.
또한, 이 경우, 화상 처리 장치(109)는 운전자의 시점 위치가 착좌 상태에 대응한 일정 영역에 들어갔을 때, 그 운전자의 시선이 표시 화상을 표시하는 표시부 상에 일정 시간 계속된 경우의 운전자의 시점 위치를 초기 기준 시점 위치로서 등록한다. 이에 의해, 운전자의 교대가 있는 경우라도, 운전 최초로부터 운전자에 대하여 적절한 후방 시계를 제공하는 것이 가능하게 된다.
또한, 이 경우, 화상 처리 장치(109)는 후방 촬영부(103)에서 얻어진 카메라 화상에, 차량(10)을 나타내는 화상으로서의 차실 내 화상(시트, 헤드레스트, 창, 필러 등)을 3D CG로 중첩 합성해서 표시 화상을 얻는다. 이 경우, 카메라 화상만으로 표시 화상을 구성하는 것이 아니라, 그 카메라 화상에 차실 내 화상을 중첩해서 표시 화상을 얻는 것이기 때문에, 운동 시차에 의한 거리감의 제공을 간단하게 실현할 수 있다.
이 경우, 화상 처리 장치(109)는 시점 계측부(105)에서 얻어지는 운전자의 시점 위치의 기준 시점 위치로부터의 어긋남에 따라서 촬영 화상과 차실 내 화상의 중첩 위치 관계를 변화시킨다. 이에 의해, 운전자에게 실제의 룸 미러를 보고 있는 것에 가까운 운동 시차를 발생시켜, 운전자의 거리간의 지각을 보조할 수 있다.
[화상 처리 장치의 구성]
도 3은, 화상 처리 장치(109)의 구성예를 도시하고 있다. 화상 처리 장치(109)는 기억부(111)와, 절두체 형상 위치 연산부(112)와, 물체 이력 기억부(113)와, 장기 시점 운동 계측부(114)와, 카메라 화상 배치 연산부(115)와, 가상 공간 배치 연산부(116)와, 사영 연산부(117)와, 화상 묘화부(118)를 갖고 있다.
화상 처리 장치(109)는 도 4에 도시한 바와 같이, 화상 처리의 대상으로 되는 구성물, 즉 차량(10)의 3D CG 데이터(바디, 창, 내장 등)에 추가로, 후방을 촬영한 카메라 화상을 가상 공간 상에 배치하고, 가상 시점 위치 및 가상 영상 표시부(107A)에 기초하여 구해지는 절두체를 둔다. 그리고, 화상 처리 장치(109)는 이 절두체에 의해 생성되는 화상을, 필요에 따라서 확대 축소의 처리를 실시한 후, 영상 표시부(107)에 표시될 표시 화상으로서 출력한다. 또한, 가상 영상 표시부(107A)의 크기가 영상 표시부(107)와 동일한 크기인 경우에는, 확대 축소의 처리는 불필요하게 된다.
이 경우, 화상 처리 장치(109)는 도 5에 도시한 바와 같이, 시점 계측부(105)에서 계측된 운전자의 시점 위치의 운동을 기준 시점 위치에 대한 상대 운동으로서 계측하고, 이에 대응해서 가상 시점 위치를 기준 가상 시점 위치로부터 움직임으로써, 가상 영상 표시부(107A), 따라서 영상 표시부(107)에 표시되는 화상(영상)을 변화시켜, 운전자에게 적절한 운동 시차를 제공한다.
도 3으로 되돌아가, 기억부(111)는, 기준 시점 위치나 기준 시계 설정의 정보, 나아가서는 차량의 3D CG 데이터를 기억한다. 여기서, 기준 시계는, 기준이 되는 후방 시계이며, 가상 시점 위치 및 가상 영상 표시부(107A)에 의해 형성되는 절두체에 의한 시계를 의미한다. 그로 인해, 기준 시계 설정의 정보는 기준 가상 시점 위치와, 가상 영상 표시부(107A)의 위치와 크기의 정보이다.
기준 시계로서 바람직한 후방 시계는, 운전 상황이나 개인에 따라서 다르지만, 상하 좌우가 밸런스 좋게 비추고, 소실점이 화면 중앙의 약간 위에 있는 시계가 일반적인 기준 시계로서 생각된다. 도 6은, 기준 시계로서 바람직한 후방 시계의 일례를 나타내고 있다. 이 예에서는, 직선 수평 도로를 주행하고 있는 상태에서, 소실점이 화면 중앙의 약간 위에 있다. 또한, 도 6에 있어서, 종방향 및 횡방향으로 연장되는 파선의 교점은 화면 중심을 나타내고 있다.
화상 처리 장치(109)는 운전자(유저)가 운전석에 착좌 후에, 초기화 플로우를 실시하고, 기억부(111)에, 당해 운전자에게 적절한 기준 시점 위치를, 자동적으로 등록한다. 이 초기화 플로우에서 등록되는 기준 시점 위치는 초기 기준 시점 위치이다. 이와 같이 초기 기준 시점 위치를 등록함으로써, 운전자가 기준으로 해야 할 시점 위치의 개인차를 흡수할 수 있고, 운전자의 교대가 있는 경우라도 운전 최초로부터 당해 운전자에 대하여 적절한 후방 시계를 제공하는 것이 가능하게 된다. 이 실시 형태에 있어서, 기준 시점 위치는, 후술하는 바와 같이 시점 위치의 장기적 변동에 기초하여, 초기 기준 시점 위치로부터 순차 갱신되어 간다.
도 7의 흐름도는, 초기화 플로우의 일례를 나타내고 있다. 화상 처리 장치(109)는, 스텝 ST11에 있어서, 처리를 개시한다. 다음에, 화상 처리 장치(109)는, 스텝 ST12에 있어서, 시점 계측부(105)의 검출 결과에 기초하여 운전자의 현재의 시점 위치를 취득함과 함께, 시선 계측부(106)의 검출 결과에 기초하여 운전자의 현재의 시선 위치를 취득한다.
다음에, 화상 처리 장치(109)는, 스텝 ST13에 있어서, 시점은 시점 검출 영역(도 8 참조) 내에 있는지 여부를 판단한다. 여기서, 시점 검출 영역은, 미리, 운전석에 착좌한 상태에 있어서의 운전자의 시점을 포함하도록 설정되어 있다. 그로 인해, 운전자의 시점이 이 시점 검출 영역 내에 있다는 것은, 운전자가 운전석에 착좌하고 있는 것으로 간주할 수 있다.
시점이 시점 검출 영역 내에 없을 때, 화상 처리 장치(109)는, 스텝 ST12의 처리로 복귀한다. 한편, 시점이 시점 검출 영역 내에 있을 때, 화상 처리 장치(109)는, 스텝 ST14에 있어서, 시선은 시선 검출 영역(도 8 참조) 내의 영상 표시부(107) 위에 있는지 여부를 판단한다. 여기서, 시선 검출 영역은 영상 표시부(107) 및 그 주변을 포함하는 영역으로 미리 설정되어 있다.
시선이 영상 표시부(107) 상에 없을 때, 화상 처리 장치(109)는, 스텝 ST12의 처리로 복귀한다. 한편, 시선이 영상 표시부(107) 상에 있을 때, 화상 처리 장치(109)는, 스텝 ST15의 처리로 이행한다. 스텝 ST15에 있어서, 화상 처리 장치(109)는 시선은 일정 시간 이상, 여기서는 1초 이상 계속해서 영상 표시부(107) 상에 있는지 여부를 판단한다.
시선이 1초 이상 계속해서 영상 표시부(107) 상에 없을 때, 화상 처리 장치(109)는, 스텝 ST12의 처리로 복귀한다. 한편, 시선이 1초 이상 계속해서 영상 표시부(107) 상에 있을 때, 화상 처리 장치(109)는, 스텝 ST16에 있어서, 현재의 시점 위치를 기준 시점 위치로서, 기억부(111)에 등록한다. 그 후, 화상 처리 장치(109)는, 스텝 ST17에 있어서, 일련의 처리를 종료한다.
기준 시계 설정의 등록에 관해서는, 운전자는 유저 조작부(108), 예를 들어, 영상 표시부(107)의 화면 상에 배치된 터치 패널 상에서의 터치 조작을 행하여 실행할 수 있다. 이 경우, 기준 시점 위치에서의 후방 시계의 보이는 모습이 원하는 것이 되도록 시계 설정(가상 시점 위치 등)이 조정되고, 그 조정 후의 시계 설정이 기준 시계 설정으로서, 기억부(111)에 등록된다.
도 9의 (a), (b)는 운전자에 의한 시계 설정의 조정의 일례를 나타내고 있다. 이 예에서는, 운전자가 도 9의 (a)에 도시한 바와 같이 터치 패널 상에서 우측 방향으로 슬라이드 조작을 함으로써, 도 9의 (b)에 도시한 바와 같이 가상 시점 위치 A로부터 가상 시점 위치 B로 이동하고, 기준 시계 A로부터 기준 시계 B로 변경되는 것을 나타내고 있다.
또한, 운전석에 착좌한 운전자는, 기준 시계 설정의 등록을 반드시 행할 필요는 없다. 기준 시계 설정의 등록을 행하지 않는 경우, 기억부(111)에 이미 등록되어 있는 기준 시계 설정이 그대로 사용된다. 또한, 기억부(111)가 기준 시계 설정을 복수 보유 지지하고, 운전 상황에 따라서 수동 또는 자동으로 전환해서 사용하는 것도 생각된다.
기억부(111)에 기억(등록)되어 있는 기준 시점 위치 및 기준 시계 설정의 정보는, 통상 동작 플로우에 있어서 사용되지만, 기준 시점 위치에 관해서는, 시점 위치의 장기적 변동에 기초하여 순차 갱신되어 간다. 그로 인해, 운전자의 자세 변화가 있어도 적절한 후방 시계를 항상 얻는 것이 가능하게 된다.
도 3으로 되돌아가, 장기 시점 운동 계측부(114)는, 통상 동작 플로우에 있어서, 시점 계측부(105)에서 얻어지는 운전자의 시점 위치의 장기적 변동에 기초하여 기억부(111)에 기억되어 있는 기준 시점 위치를 갱신한다. 이 경우, 장기 시점 운동 계측부(114)는 소정의 샘플 레이트로 얻어지는 시점 위치를 일정 이동 평균 구간마다 평균하여 기준 시점 위치의 갱신값을 순차 얻는다.
도 10은 시점 운동과 이동 평균, 즉 갱신값의 일례를 나타내고 있다. 도시의 예는, 시점 위치의 샘플 레이트가 60sample/sec이며 이동 평균 구간이 500msec인 경우를 나타내고 있다. 또한, 도시의 예는, 1축분 뿐이지만, 마찬가지의 계산을 상하 방향, 전후 방향, 좌우측 방향 각각에서 산출하고, 이동 평균값을 기준 시점 위치로서 채용함으로써, 자세 변동과 같은 시점 위치가 장기적인 변동에 추종하고, 항상 양호한 후방 시계를 제공할 수 있다. 여기서, 시점 위치의 샘플 레이트나 이동 평균 구간은, 이 값에 한정되는 것은 아니다.
이 실시 형태에 있어서, 장기 시점 운동 계측부(114)는, 운전자의 시선이 영상 표시부(107)를 포함하는 시선 검출 영역(도 8 참조) 내에 있을 때, 기준 시점 위치를 갱신하지 않는다. 이에 의해, 운전자의 시점 변동에 대응해서 후방 영상의 표시 화각이 고정밀도로 변화되므로, 직감적이고 보기 편한 시계의 제공을 고정밀도로 행할 수 있다. 또한, 운전자의 시선이 영상 표시부(107)를 포함하는 시선 검출 영역 내에 있는지 여부에 구애되지 않고 기준 시점 위치를 갱신하는 것도 생각된다.
도 3으로 되돌아가, 절두체 형상 위치 연산부(112)는 기억부(111)로부터 판독되는 기준 시점 위치 및 기준 시계 설정의 정보와, 시점 계측부(105)에서 검출되는 현재의 시점 위치에 기초하여, 가상 공간 상에서의 절두체의 형상과 위치를 산출한다. 이 경우, 기준 시점 위치로부터의 시점 위치(현재의 시점 위치)의 어긋남(거리, 방향의 어긋남)에 따라서 기준 가상 시점 위치로부터 어긋난 가상 시점 위치(현재의 가상 시점 위치)가 구해지고(도 5 참조), 이 가상 시점 위치와 가상 영상 표시부(107A)의 크기 및 위치에 기초하여 가상 시점을 정점으로 하는 절두체의 위치와 형상이 구해진다(도 4 참조).
카메라 화상 배치 연산부(115)는 후방 거리 계측부(104)에서 취득되는 후방의 거리 화상, 후방 촬영부(103)에서 취득되는 후방의 카메라 화상, 절두체 형상 배치 연산부(112)에서 구해진 절두체의 형상과 위치 등에 기초하여, 가상 공간 상에서의 카메라 화상의 배치 거리를 산출한다. 이 카메라 화상의 배치 위치에 의해서, 운전자가 시점 위치를 움직였을 때, 차실 내 화상(바디, 창, 내장)에 보였다 가려졌다 하는 카메라 화상에 비추는 피사체의 보이는 모습(운동 시차)이 달라진다. 적절한 운동 시차를 제공하기 위해서는, 가상 공간 상에 있어서 카메라 화상을 적절한 위치에 배치할 필요가 있다.
실제로 카메라로 촬영된 화상은, 도 11에 도시한 바와 같이, 3차원 공간을 거리 방향으로 압축한 것이며, 각기 다른 거리에 있는 물체(오브젝트) A 내지 D가 2차원의 화상으로서 거리에 따른 크기로 촬영되어 있다. 그 때문에, 이 카메라 화상을 3차원 공간 상의 어디에 두어도 완전히 적절하게는 되지 않고, 카메라 화상을 둔 거리에 존재하는 물체에 대해서만 적절한 위치로 된다. 여기서, 실제로는, 카메라 렌즈의 피사계 심도로부터 벗어난 화상은 흐릿해지지만, 여기서는 이상적인 팬포커스 카메라로서 고찰하고 있다.
도 12는, 물체 A의 거리에 카메라 화상을 둔 경우(화상 배치 A)와, 물체 D의 거리에 카메라 화상을 둔 경우(화상 배치 D)를 나타내고 있다. 그리고, 도 13의 (a), (b), (c)는, 각각, 시계(가상 시점 위치에서 결정되는 절두체에 대응)를 우측, 중앙, 좌측으로 움직인 경우의 시야를 나타내고 있다.
도 13의 (a), (b), (c)를 비교해 보면, 화상 배치 A의 경우와 화상 배치 D의 경우는, 시야에 들어오는 카메라 화상의 범위가 달라, 시계의 운동에 수반하여 카메라 화상 내를 움직이는 범위가 다르다는 것을 알 수 있다. 이것이, 카메라 화상 내의 물체에 대한 운동 시차이며, 착안하고자 하는 물체(오브젝트)의 거리에 카메라 화상을 둠으로써, 그 물체와 차량 사이에서 일어나는 운동 시차를 올바르게 표현할 수 있다.
주의해야 할 점으로서, 착안하는 물체 이외의 물체에 대해서는, 표시되는 크기나, 시점 운동에 수반하여 생기는 운동 시차가 올바르게 표현되지 않는다는 것을 들 수 있다. 모든 물체에 대해서 올바른 운동 시차를 제공하기 위해서는, 후방을 3D로 촬영하고, 모든 물체를 분리해서 가상 공간 상에 배치할 필요가 있다. 그러나, 그와 같은 처리는 매우 큰 계산력을 필요로 한다.
본 기술은, 착안하는 물체 이외의 운동 시차를 포기함으로써, 비교적 작은 계산량으로, 착안한 물체에 대한 운동 시차를 제공하는 것을 특징으로 하고 있다.
한정적인 운동 시차에 의해, 유용한 거리감을 제시하기 위해서는, 운전자에게 거리감을 제시하는 데 어울리는, 착안할 물체를 선택할 필요가 있다. 거리감을 제시하는 데 어울리는 물체를 선택함에 있어서, 고려해야 할 사상을 이하에 예로 든다.
(1) 차량과 물체의 거리(차량에 가장 가까운 물체)
(2) 차량과 물체의 거리의 변화(가까워지고 있는가, 멀어지고 있는가)
(3) 물체의 크기(일정 이하의 크기의 물체에는 착안할 필요가 없다. 예: 곤충)
(4) 그 물체가 무엇인가(차인가, 자전거인가, 사람인가, 벽인가, 식물인가)
(5) 운전자가 보고 있는 것(운전자는 어디를 보고 있는가)
이들 모두를 고려해서 종합적으로 판단하는 것이 이상적이지만, 일부의 사상만으로도 유용한 시스템을 제공하는 것은 가능하다. 도 14의 흐름도는, 카메라 화상 배치 연산부(115)의 처리 플로우의 일례를 나타내고 있다. 이 처리예는, 상술한 (1), (2), (3)의 사상을 고려한 것이며, 후방 거리 계측부(104)에서 취득되는 거리 화상만을 사용해서 실현할 수 있는 것이다.
카메라 화상 배치 연산부(115)는 후방 거리 계측부(104)에서 거리 화상을 취득할 때마다, 도 14의 흐름도에 나타내는 처리 플로우를 실행한다. 또한, 후방 거리 계측부(104)는, 예를 들어, 120fps의 빈도로 거리 화상을 취득한다.
카메라 화상 배치 연산부(115)는, 스텝 ST21에 있어서, 후방 거리 계측부(104)에서 거리 화상을 취득하는 타이밍에 처리를 개시한다. 다음에, 카메라 화상 배치 연산부(115)는, 스텝 ST22에 있어서, 거리 화상으로부터 물체(오브젝트)를 추출하고, 일정 이상의 크기의 물체에 대해서, 위치, 형상, 크기, 거리의 리스트를 작성한다. 그리고, 카메라 화상 배치 연산부(115)는, 스텝 ST23에 있어서, 작성된 리스트를 물체 이력 기억부(113)에 보존한다.
다음에, 카메라 화상 배치 연산부(115)는, 스텝 ST24에 있어서, 물체 이력 기억부(113)의 이력 데이터를 열람하여, 형상의 특징으로부터, 동일한 물체를 탐색하고, 이력이 없는 물체를 리스트로부터 삭제하고, 이력이 있는 물체는 차량과의 상대 속도를 산출해서 리스트에 추가한다.
다음에, 카메라 화상 배치 연산부(115)는, 스텝 ST25에 있어서, 작성된 리스트로부터 카메라의 유효 촬영 거리를 벗어나는 물체를 배제한다. 이것은, 카메라의 포커스가 맞지 않는 거리에 있는 물체를 제외시키는 것을 의도하고 있다. 거리가 측정되더라도, 카메라 화상을 촬영할 수 없는 것이면, 카메라 화상 배치 거리로서는 부적절하므로, 배제하는 것이다.
다음에, 카메라 화상 배치 연산부(115)는, 스텝 ST26에 있어서, 일정 이상의 속도로 멀어지고 있는 물체를 리스트로부터 삭제한다. 다음에, 카메라 화상 배치 연산부(115)는, 스텝 ST27에 있어서, 절두체 및 그 근방으로부터 벗어나는 물체를 리스트로부터 삭제한다. 그리고, 카메라 화상 배치 연산부(115)는, 스텝 ST28에 있어서, 리스트에 데이터가 남아있는지 여부를 판단한다.
리스트에 데이터가 남아있을 때, 카메라 화상 배치 연산부(115)는, 스텝 ST29에 있어서, 차량으로부터 가장 가까운 물체와의 거리를 카메라 화상 배치 거리로 채용한다. 카메라 화상 배치 연산부(115)는, 스텝 ST29의 처리 후, 스텝 ST30에 있어서, 일련의 처리를 종료한다.
또한, 스텝 ST28에서 리스트에 데이터가 남아있지 않을 때, 스텝 ST31에 있어서, 미리 정한 디폴트 거리를 카메라 화상 배치 거리로 채용한다. 여기서, 디폴트 거리는, 원경을 배치하는 데 적합한 거리이다. 거리감을 제시함에 있어서는 계산 능력이 허용하는 한 먼 쪽이 바람직하다. 그러나, 현실적으로는, 예를 들어, 후방 거리 계측부(104)의 계산 능력을 참고로 디폴트 거리가 결정된다. 예를 들어, 디폴트 거리는, Lidar(light detection and ranging)에서는 100m 정도, ToF 센서라면 250m 정도로 하는 것이 생각된다. 카메라 화상 배치 연산부(115)는, 스텝 ST31의 처리 후, 스텝 ST30에 있어서, 일련의 처리를 종료한다.
도 15의 흐름도는, 카메라 화상 배치 연산부(115)의 처리 플로우의 다른 일례를 나타내고 있다. 이 처리예는, 상술한 (1), (3), (4)의 사상을 고려한 것이며, 후방 거리 계측부(104)에서 취득되는 거리 화상 외에, 후방 촬영부(103)에서 얻어진 카메라 화상을 사용해서 실현할 수 있는 것이다.
카메라 화상 배치 연산부(115)는 후방 거리 계측부(104)에서 거리 화상을 취득할 때마다, 도 15의 흐름도에 나타내는 처리 플로우를 실행한다. 또한, 후방 거리 계측부(104)는, 예를 들어, 120fps의 빈도로 거리 화상을 취득한다.
카메라 화상 배치 연산부(115)는, 스텝 ST61에 있어서, 후방 거리 계측부(104)에서 거리 화상을 취득하는 타이밍에 처리를 개시한다. 다음에, 카메라 화상 배치 연산부(115)는, 스텝 ST62에 있어서, 거리 화상으로부터 물체를 추출하여, 일정 이상의 크기의 물체에 대해서, 위치, 형상, 크기, 거리의 리스트를 작성한다.
다음에, 카메라 화상 배치 연산부(115)는, 스텝 ST63에 있어서, 작성된 리스트로부터 카메라의 유효 촬영 거리를 벗어나는 물체를 배제한다. 이것은, 카메라의 포커스가 맞지 않는 거리에 있는 물체를 제외시키는 것을 의도하고 있다. 거리를 측정할 수 있어도, 카메라 화상을 촬영할 수 없는 것이면, 카메라 화상 배치 거리로서는 부적절하므로, 배제하는 것이다.
다음에, 카메라 화상 배치 연산부(115)는, 스텝 ST64에 있어서, 화상 인식에 의해 물체를 인식하여, 화상 배치에 상응하지 않는 물체(예를 들어, 새, 고엽 등)를 리스트로부터 삭제한다. 다음에, 카메라 화상 배치 연산부(115)는, 스텝 ST65에 있어서, 절두체 및 그 근방으로부터 벗어나는 물체를 리스트로부터 삭제한다. 그리고, 카메라 화상 배치 연산부(115)는, 스텝 ST66에 있어서, 리스트에 데이터가 남아있는지 여부를 판단한다.
리스트에 데이터가 남아있을 때, 카메라 화상 배치 연산부(115)는, 스텝 ST67에 있어서, 차량으로부터 가장 가까운 물체와의 거리를 카메라 화상 배치 거리로 채용한다. 카메라 화상 배치 연산부(115)는, 스텝 ST67의 처리 후, 스텝 ST68에 있어서, 일련의 처리를 종료한다.
또한, 스텝 ST66에서 리스트에 데이터가 남아있지 않을 때, 스텝 ST69에 있어서, 미리 정한 디폴트 거리(원경을 배치하는 데 적합한 거리)를 카메라 화상 배치 거리로 채용한다. 카메라 화상 배치 연산부(115)는, 스텝 ST69의 처리 후, 스텝 ST68에 있어서, 일련의 처리를 종료한다.
도 16의 흐름도는, 카메라 화상 배치 연산부(115)의 처리 플로우의 또 다른 일례를 나타내고 있다. 이 처리예는, 상술한 (1), (3), (5)의 사상을 고려한 것이며, 후방 거리 계측부(104)에서 취득되는 거리 화상 외에, 시선 계측부(106)에 있어서의 운전자(유저)의 시선 검출 결과를 사용해서 실현할 수 있는 것이다.
카메라 화상 배치 연산부(115)는 후방 거리 계측부(104)에서 거리 화상을 취득할 때마다, 도 16의 흐름도에 나타내는 처리 플로우를 실행한다. 또한, 후방 거리 계측부(104)는, 예를 들어, 120fps의 빈도로 거리 화상을 취득한다.
카메라 화상 배치 연산부(115)는, 스텝 ST71에 있어서, 후방 거리 계측부(104)에서 거리 화상을 취득하는 타이밍에 처리를 개시한다. 다음에, 카메라 화상 배치 연산부(115)는, 스텝 ST72에 있어서, 거리 화상으로부터 물체를 추출하여, 일정 이상의 크기의 물체에 대해서, 위치, 형상, 크기, 거리의 리스트를 작성한다.
다음에, 카메라 화상 배치 연산부(115)는, 스텝 ST73에 있어서, 작성된 리스트로부터 카메라의 유효 촬영 거리를 벗어나는 물체를 배제한다. 그리고, 카메라 화상 배치 연산부(115)는, 스텝 ST74에 있어서, 리스트에 데이터가 남아있는지 여부를 판단한다.
리스트에 데이터가 남아있을 때, 카메라 화상 배치 연산부(115)는, 스텝 ST75에 있어서, 시선 계측부(106)에서 얻어지는 운전자(유저)의 시선을 취득한다. 그리고, 카메라 화상 배치 연산부(115)는, 스텝 ST76에 있어서, 시선에 가장 가까운 위치에 있는 물체의 거리를 카메라 화상 배치 거리로 채용한다. 카메라 화상 배치 연산부(115)는, 스텝 ST76의 처리 후, 스텝 ST77에 있어서, 일련의 처리를 종료한다.
또한, 스텝 ST74에서 리스트에 데이터가 남아있지 않을 때, 스텝 ST78에 있어서, 미리 정한 디폴트 거리(원경을 배치하는 데 적합한 거리)를 카메라 화상 배치 거리로 채용한다. 카메라 화상 배치 연산부(115)는, 스텝 ST78의 처리 후, 스텝 ST77에 있어서, 일련의 처리를 종료한다.
도 17은, 가상 공간 상에 있어서의 카메라 화상의 배치 위치를 나타내고 있다. 카메라 화상은 후방 촬영부(103)에 의해 소정의 촬영 화각으로 촬영되어 얻어진 것이다. 이 카메라 화상은, 가상 공간 상에 있어서, 차량(10)의 후방부로부터, 카메라 화상 배치 연산부(115)에서 산출된 카메라 화상 배치 거리만큼 이격된 위치에 배치된다.
도 3으로 되돌아가, 가상 공간 배치 연산부(116)는, 가상 공간 상에 묘화에 필요한 요소를 배치한다. 즉, 가상 공간 배치 연산부(116)는 가상 공간 상에, 기억부(111)에 기억되어 있는 차량(10)의 3D CG 데이터(바디, 창, 내장 등)를 배치함과 함께, 카메라 화상 배치 연산부(115)에서 산출된 카메라 화상 배치 거리의 위치에 카메라 화상을 배치하고, 또한, 절두체 형상 배치 연산부(112)에서 산출된 형상과 위치에 기초하여 절두체를 배치한다. 도 18은 가상 공간 상에 있어서의 묘화에 필요한 요소의 배치예를 도시하고 있다.
사영 연산부(117)는 가상 영상 표시부(107A)를 사영면으로 하여, 가상 공간 상의 오브젝트를 사영 화상으로 변환한다. 화상 묘화부(118)는 사영 연산부(117)에서 얻어진 사영 화상에 카메라 화상 및 3D CG 데이터의 디테일을 묘화하는 처리, 나아가서는 화상의 크기를 영상 표시부(107)의 크기에 맞추기 위한 확대 축소의 처리를 실시하고, 영상 표시부(107)에 공급할 표시 화상을 출력한다. 도 19는 화상 묘화부(118)에서 얻어지는 표시 화상의 일례를 나타내고 있다.
도 20의 흐름도는 화상 처리 장치(109)에 있어서의 통상 동작 플로우의 처리의 일례를 나타내고 있다. 화상 처리 장치(109)는 이 도 20의 흐름도에 나타내는 처리를, 시점 계측부(105), 시선 계측부(106)에 있어서의 시점, 시선의 검출 주기, 예를 들어, 1/60초에 동기하여, 그 주기로 실행한다.
화상 처리 장치(109)는, 스텝 ST40에 있어서, 처리를 개시한다. 다음에, 화상 처리 장치(109)는, 스텝 ST41에 있어서, 시점 계측부(105)의 검출 결과에 기초하여 현재의 시점 위치를 취득함과 함께, 시선 계측부(106)의 검출 결과에 기초하여 현재의 시선 위치를 취득한다. 그리고, 화상 처리 장치(109)는, 스텝 ST42에 있어서, 시점 위치 데이터를 축적한다.
다음에, 화상 처리 장치(109)는, 스텝 ST43에 있어서, 시선은 시선 검출 영역(도 8 참조) 내에 있는지 여부를 판단한다. 시선이 시선 검출 영역 내에 있을 때, 화상 처리 장치(109)는, 스텝 ST44에 있어서, 기준 시점 위치와 현재의 시점 위치의 차분을 기준 가상 시점 위치로부터의 가상 시점의 차분으로 변환해서 가상 시점 위치를 산출한다(도 5 참조). 다음에, 화상 처리 장치(109)는, 스텝 ST45에 있어서, 가상 시점 위치로부터 절두체의 형상과 위치를 산출한다. 화상 처리 장치(109)는, 이 스텝 ST45의 처리 후, 스텝 ST46의 처리로 진행한다.
한편, 스텝 ST43에서 시선이 시선 검출 영역 내에 없을 때, 화상 처리 장치(109)는, 스텝 ST47에 있어서, 시점 위치를 일정 이동 평균 구간마다 평균하여 장기 시점 위치, 따라서 기준 시점 위치의 갱신값을 취득한다. 그리고, 화상 처리 장치(109)는, 스텝 ST48에 있어서, 스텝 ST47에서 취득된 장기 시점 위치를 기준 시점 위치로서 채용하여, 기억부(111)에 보존한다.
또한, 스텝 ST47 및 스텝 ST48은, 일정 이동 평균 구간마다, 예를 들어 500msec마다 실행된다. 그러나, 이 스텝 ST47 및 스텝 ST48을, 시점 계측부(105), 시선 계측부(106)에 있어서의 시점, 시점의 검출 주기로 행하는 것도 생각된다. 그 경우, 스텝 ST47에서는, 과거 일정 이동 평균 구간의 시점 위치가 평균되어 장기 시점 위치가 취득된다.
다음에, 화상 처리 장치(109)는, 스텝 ST49에 있어서, 기준 가상 시점 위치로부터 절두체의 형상과 위치를 산출한다. 이와 같이, 시선이 시선 검출 영역 내에 없을 때는 현재의 시점 위치에 영향받는 일 없이, 항상, 기준 가상 시점 위치로부터 절두체의 형상과 위치가 산출된다. 이에 의해, 영상 표시부(107)에 표시되는 후방 시계의 표시 화상은 운전자(유저)의 시점 위치의 운동에 구애되지 않고 안정되게 된다. 화상 처리 장치(109)는, 이 스텝 ST49의 처리 후, 스텝 ST46의 처리로 진행한다. 화상 처리 장치(109)는, 스텝 ST46에 있어서, 표시 화상 처리를 행하고, 그 후 스텝 ST41의 처리로 복귀되어, 상술한 바와 같이 마찬가지의 처리를 반복한다.
도 21의 흐름도는 표시 화상 처리의 일례를 나타내고 있다. 화상 처리 장치(109)는, 스텝 ST50에 있어서, 처리를 개시한다. 다음에, 화상 처리 장치(109)는, 스텝 ST51에 있어서, 후방 촬영부(103)에서 얻어지는 후방의 카메라 화상을 취득한다. 다음에, 화상 처리 장치(109)는, 스텝 ST52에 있어서, 카메라 화상 배치 거리를 산출한다.
다음에, 화상 처리 장치(109)는, 스텝 ST53에 있어서, 가상 공간 상에 묘화에 필요한 요소인, 차량(10)의 3D CG 데이터(바디, 창, 내장 등), 카메라 화상, 절두체를 배치한다(도 18 참조). 다음에, 화상 처리 장치(109)는, 스텝 ST54에 있어서, 가상 공간 상의 구성물을 사영 좌표계로 변환하여 사영 화상을 얻는다.
다음에, 화상 처리 장치(109)는, 스텝 ST55에 있어서, 사영 화상에 카메라 화상 및 3D CG 데이터의 디테일을 묘화하는 처리를 행하여 표시 화상을 얻는다. 다음에, 화상 처리 장치(109)는, 스텝 ST56에 있어서, 표시 화상을 영상 표시부(107)에 출력한다. 화상 처리 장치(109)는, 스텝 ST56의 처리 후, 스텝 ST57에 있어서, 일련의 처리를 종료한다.
화상 처리 장치(109)는 상술한 통상 동작 플로우의 처리를, 시점, 시선의 검출 주기마다 실행한다. 그 때문에, 운전자(유저)의 시선이 영상 표시부(107) 상에 있는 경우, 영상 표시부(107)에 표시되는 표시 화상은 시점의 운동과, 착안하는 후방 물체 사이의 거리에 의해서, 묘화 대상 오브젝트의 겹침 상태가 적절하게 변화되고, 즉 적절한 운동 시차가 얻어지고, 운전자는 후방의 카메라 화상에 대하여 적절한 거리감을 얻을 수 있다.
도 22의 (a), (b), (c)는 영상 표시부(107)에 표시되는 표시 화상의 일례를 나타내고 있다. 도 22의 (a)는 운전자의 시점 위치가 표준 시점 위치에 있는 경우를 나타내고 있고, 도 22의 (b)는 운전자의 시점 위치가 표준 시점 위치로부터 우측으로 이동한 경우를 나타내고 있고, 또한 도 22의 (c)는 운전자의 시점 위치가 표준 시점 위치로부터 좌측으로 이동한 경우를 나타내고 있다. 운전자의 시점 위치에 따라서, 차실 내 CG 화상과 카메라 화상 내의 오브젝트(자동차)의 겹침 상태가 변화되어 있는 것을 알 수 있다.
또한, 내장 오브젝트나 차체는, 실제 미러라면 후방이 보이지 않는 사각을 만들어 버리지만, 본 기술에서는, 묘화 시에 투과해서 묘화하거나, 또는 일부를 비표시로 하거나 함으로써, 운동 시차에 의해서 거리감의 지각을 보조하면서, 후방 시계를 넓게 유지하는 것도 가능하다. 예를 들어, 도 23의 (a)는 내장 오브젝트로서의 후방부 시트를 비표시로 한 것이다. 또한, 도 23의 (b)는 차체 및 내장 오브젝트로서의 후방부 시트를 저투과율로 한 것이며, 도 23의 (c)는 차체 및 내장 오브젝트로서의 후방부 시트를 고투과율로 한 것이다.
물론, 사각의 발생을 신경쓰지 않는다면, 내장 오브젝트나 차체를 투과율 0%로 묘화하고, 실제 미러와 같은 화상을 생성해서 표시해도 된다.
또한, 내장 오브젝트는 시트 등에 한정되지 않고, 예를 들어, 창 유리 상에 무늬를 그림으로써, 보다 거리 지각을 강조할 수도 있다. 도 23의 (d)는 창 유리 상의 오브젝트로서 수평 라인을 마련한 것이다.
화상 처리 장치(109)는 상술한 통상 동작 플로우의 처리를 함으로써, 운전자(유저)의 시선이 영상 표시부(107) 상에 없는 경우, 운전자의 시점 위치의 장기적 변동에 기초하여 기준 시점 위치가 갱신되어 간다. 그로 인해, 운전자의 자세 변화가 있어도 영상 표시부(107)에 후방 시계를 적절하게 계속해서 표시할 수 있다.
도 24의 (a) 내지 (c)는 종래의 전자 미러(백미러) 기술에 대해서 나타내고 있다. 도 24의 (a)는 운전자(유저)의 자세가 적정한 위치에 있는 경우에, 영상 표시부에 후방 시계가 기준의 시계로 적절하게 표시되는 것을 나타내고 있다. 도 24의 (b)는 운전자의 몸 전체가 시트에 가라앉는 것에 의한 운전자의 시점 위치의 급한 변동(단기적 시점 변동)이 있는 경우에, 영상 표시부에 표시되는 후방 시계가 위를 향하는 것을 나타내고 있다. 도 24의 (c)는 운전자의 몸 전체가 시트에 가라앉는 것이 계속되는 것에 의한 운전자의 시점 위치의 변동(장기적 시점 변동)이 있는 경우에, 영상 표시부에 표시되는 후방 시계가 위를 향한 상태 그대로로 되는 것을 나타내고 있다.
도 25의 (a) 내지 (c)는 본 기술의 전자 미러(백미러) 기술에 대해서 나타내고 있다. 도 25의 (a)는 운전자(유저)의 자세가 적정한 위치에 있는 경우에, 영상 표시부(107)에 후방 시계가 기준 시계로 적절하게 표시되는 것을 나타내고 있다. 도 25의 (b)는 운전자의 몸 전체가 시트에 가라앉는 것에 의한 운전자의 시점 위치의 급한 변동(단기적 시점 변동)이 있는 경우에, 영상 표시부(107)에 표시되는 후방 시계가 위를 향하는 것을 나타내고 있다. 도 25의 (c)는 운전자의 몸 전체가 시트에 가라앉는 것이 계속되는 것에 의한 운전자의 시점 위치의 변동(장기적 시점 변동)이 있는 경우에, 영상 표시부(107)에 표시되는 후방 시계가 기준 시계로 되돌아가 적절하게 표시되는 것을 나타내고 있다.
상술한 바와 같이, 도 1에 도시하는 차량(10)에 있어서는, 도 3에 도시하는 화상 처리 장치(109)에 의해, 운전자의 시선이 영상 표시부(107)를 포함하는 일정 영역(시선 검출 영역)에 있을 때, 차량(10)의 후방을 촬영해서 얻어진 카메라 화상에 기초하여 운전자의 시점의 운동에 따라서 표시 화상을 얻는 것이다. 그로 인해, 운전자에게 직감적이고 보기 편한 시계를 제공하면서, 운전자가 보고 있지 않은 경우에 있어서의 표시의 안정성을 도모할 수 있다.
또한, 도 1에 도시하는 차량(10)에 있어서는, 도 3에 도시하는 화상 처리 장치(109)에 의해, 시점 위치의 장기적 변동에 기초하여 기준 시점 위치를 갱신하는 것이다. 그로 인해, 직감적이고 보기 편한 시계를 제공하면서, 운전자의 자세 변화가 있어도 적절한 후방 시계의 표시가 가능하게 된다.
또한, 도 1에 도시하는 차량(10)에 있어서는, 도 3에 도시하는 화상 처리 장치(109)에 의해, 운전자의 시선이 표시 화상을 표시하는 영상 표시부(107)를 포함하는 일정 영역(시선 검출 영역)에 있을 때, 기준 시점 위치를 갱신하지 않는 것이다. 그로 인해, 운전자의 시점 변동에 대응해서 후방 영상의 표시 화각이 고정밀도로 변화되므로, 직감적이고 보기 편한 시계의 제공을 고정밀도로 행할 수 있다.
또한, 도 1에 도시하는 차량(10)에 있어서는, 도 3에 도시하는 화상 처리 장치(109)에 의해, 운전자의 시점 위치가 착좌 상태에 대응한 일정 영역에 들어갔을 때, 그 운전자의 시선이 표시 화상을 표시하는 영상 표시부(107) 상에 일정 시간 계속된 경우의 운전자의 시점 위치를 초기 기준 시점 위치로서 등록하는 것이다. 그로 인해, 운전자의 교대가 있는 경우라도, 운전 최초로부터 운전자에 대하여 적절한 후방 시계를 제공하는 것이 가능하게 된다.
또한, 도 1에 도시하는 차량(10)에 있어서는, 도 3에 도시하는 화상 처리 장치(109)에 의해, 차량의 후방을 촬영해서 얻어진 카메라 화상에 차실 내 화상을 중첩하여, 종래의 룸 미러 대신에 배치되는 영상 표시부(107)에 표시할 표시 화상을 얻는 것이다. 차량의 후방을 촬영해서 얻어진 카메라 화상만으로 표시 화상을 구성하는 것이 아니라, 그 카메라 화상에 차실 내 화상을 중첩해서 표시 화상을 얻는 것이므로, 운동 시차에 의한 거리감의 제공을 간단하게 실현할 수 있다.
또한, 도 1에 도시하는 차량(10)에 있어서는, 도 3에 도시하는 화상 처리 장치(109)에 의해, 운전자의 시점 위치의 기준 시점 위치로부터의 어긋남에 따라서 카메라 화상과 차실 내 화상의 중첩 위치 관계를 변화시키는 것이다. 그로 인해, 실제의 백미러를 보고 있는 것에 가까운 운동 시차를 발생시켜, 운전자의 거리간의 지각을 보조할 수 있다.
또한, 도 1에 도시하는 차량(10)에 있어서는, 도 3에 도시하는 화상 처리 장치(109)에 의해, 카메라 화상과 차량(10)을 나타내는 화상을 삼차원 공간에 배치하고, 운전자의 시점의 운동에 따라서 변화하는 가상 시점 위치를 구하고, 그 가상 시점 위치에서 결정되는 시계에 의해서 카메라 화상과 차실 내 화상을 사영 좌표계로 변환하여 표시 화상을 얻는 것이다. 그로 인해, 운전자의 시점의 운동에 따라서 카메라 화상과 차실 내 화상의 중첩 위치 관계를 고정밀도로 변화시킬 수 있다.
또한, 도 1에 도시하는 차량(10)에 있어서는, 도 3에 도시하는 화상 처리 장치(109)에 의해, 카메라 화상을, 차량(10)의 후방에 존재하는 착안할 물체(오브젝트)의 위치에 배치하여, 표시 화상을 얻는 것이다. 그 때문에, 착안할 물체를 삼차원 공간의 올바른 위치에 올바른 크기로 배치할 수 있고, 그 물체와 차실 내 화상 사이에서 일어나는 운동 시차를 올바르게 표현할 수 있다.
또한, 본 명세서에 기재된 효과는 어디까지나 예시이지 한정되는 것이 아니며, 또한 부가적인 효과가 있어도 된다.
<2. 변형예>
또한, 상술한 실시 형태에 있어서는, 차량의 룸 미러를 대체하는 전자 미러에 본 기술을 적용한 예를 나타냈지만, 본 기술은, 차량의 사이드 미러를 대체하는 전자 미러에도 적용할 수 있다. 또한, 차량용의 전자 미러 뿐만 아니라, 혼자 사용하는 것이 전제된 전자 미러라면, 본 기술을 적용함으로써, 실제의 미러에 가까운 거리감의 제시를 행할 수 있다. 마찬가지로, 혼자 사용하는 것이 전제라면, 전자 미러가 아니라, 전자 창에도 본 기술을 적용할 수 있다.
본 기술을, 차량의 사이드 미러를 대체하는 전자 미러에 적용하는 경우에 대해서 설명한다. 도 26의 (a)는 종래의 사이드 미러 또는 종래의 사이드 미러를 대체하는 전자 미러를 사용한 경우에 있어서의 사각의 범위의 일례를 나타내고 있다. 도 26의 (b)는 종래의 사이드 미러에 비추는 화상의 일례를 나타내고 있다. 이 경우, 후방 물체의 크기의 차이나, 투영하는 차체와의 운동 시차에 의해서, 후방 물체의 거리감을 얻을 수 있다. 도 26의 (c)는 종래의 사이드 미러를 대체하는 전자 미러의 표시 화상의 일례를 나타내고 있다. 이 경우, 시점이 운동해도 운동 시차가 발생하지 않으므로, 실제 미러와는 달리, 거리감을 얻는 것이 곤란하였다.
도 27의 (a)는 본 기술을 적용한 사이드 미러를 대체하는 전자 미러를 사용한 경우에 있어서의 사각의 범위의 일례를 나타내고 있다. 종래의 사이드 미러 또는 종래의 사이드 미러를 대체하는 전자 미러로 사각이 되는 자차의 배후에 관해서도, 운전자는 시인하는 것이 가능하게 된다. 도 27의 (b), (c)는 본 기술을 적용한 사이드 미러를 대체하는 전자 미러의 표시 화상의 일례를 나타내고 있다. 이 경우, 자차체가 3D CG로 중첩 묘화되기 때문에, 운동 시차에 의한 거리감을 제공할 수 있다. 또한, 도 27의 (c)에 도시한 바와 같이, 자차체를 투과적으로 중첩함으로써, 자차의 배후도 시인하는 것이 가능하게 된다.
도 28은, 차량(10)의 구성물 배치의 일례를 나타내고 있다. 이 도 28에 있어서, 도 1과 대응하는 부분에는 동일 부호를 부여하고, 적절히, 그 상세 설명은 생략한다. 차량(10)은 차체(바디)(100)와, 차체 개구부(창)(101)와, 시트 등의 내장 오브젝트(102)를 갖고 있다. 또한, 차량(10)은 후방 촬영부(103)와, 후방 거리 계측부(104)와, 시점 계측부(105)와, 시선 계측부(106)를 갖고 있다.
또한, 차량(10)은 우측 후방 촬영부(103R)와, 우측 후방 거리 계측부(104R)와, 좌측 후방 촬영부(103L)와, 좌측 후방 거리 계측부(104L)를 갖고 있다. 우측 후방 촬영부(103R) 및 좌측 후방 촬영부(103L)는, 각각, 예를 들어, CMOS 카메라로 구성되어 있고, 차량(10)의 예를 들어 종래의 사이드 미러 위치에 후방을 촬영하도록 설치되어 있다. 또한, 우측 후방 거리 계측부(104R) 및 좌측 후방 거리 계측부(104L)는, 각각, 예를 들어, ToF 방식 거리 화상 센서로 구성되어 있고, 차량(10)의 예를 들어 종래의 사이드 미러 위치에 후방의 거리 화상을 취득하도록 설치되어 있다.
또한, 차량(10)은 우측 후방 영상 표시부(디스플레이)(107R)와, 좌측 후방 영상 표시부(디스플레이)(107L)와, 유저 조작부(108)와, 화상 처리 장치(109S)를 갖고 있다. 우측 후방 영상 표시부(107R) 및 좌측 후방 영상 표시부(107L)는, 각각, LCD나 유기 EL 패널 등으로 구성되고, 차량(10)의 프론트측 내부의 우측 및 좌측의 위치에 설치되어 있고, 대략 직사각 형상의 표시면을 갖고 있다.
유저 조작부(108)는 운전자에 의한 여러가지 조작을 접수하는 유저 인터페이스를 구성하고 있다. 이 유저 조작부(108)는, 예를 들어, 인 프론트 패널에 배치되는 기계적인 조작 버튼, 나아가서는 우측 후방 영상 표시부(107R)나 좌측 후방 영상 표시부(107L)의 화면 상에 배치되는 터치 패널 등으로 구성되어 있다.
화상 처리 장치(109S)는, 우측 후방 영상 표시부(107R)와 좌측 후방 영상 표시부(107L)에 표시하는 표시 화상을 얻기 위한 처리를 한다. 화상 처리 장치(109S)는 차량(10)의 내부의 임의의 장소, 예를 들어, 도시한 바와 같이 인 프론트 패널 부분에 배치된다. 화상 처리 장치(109S)는 후방 촬영부(103), 우측 후방 촬영부(103R) 및 좌측 후방 촬영부(103L)에서 촬영해서 얻어지는 카메라 화상에, 차량(10)을 나타내는 화상으로서의 차체(바디)를 3D CG로 중첩 합성하여, 표시 화상을 얻는다.
이와 같이, 카메라 화상만으로 표시 화상을 구성하는 것이 아니라, 그 카메라 화상에 차체 화상을 중첩해서 표시 화상을 얻는 것이기 때문에, 운동 시차에 의한 거리감의 제공을 간단하게 실현할 수 있다. 또한, 차체 화상을 투과적으로 중첩함으로써, 운전자(유저)는 자차의 배후에 숨어 보이지 않는 물체도 시인하는 것이 가능하게 된다.
도 29는 화상 처리 장치(109S)의 구성예를 도시하고 있다. 이 도 29에 있어서, 도 3과 대응하는 부분에는 동일 부호를 부여하고, 적절히, 그 상세 설명은 생략한다. 화상 처리 장치(109S)는 기억부(111)와, 절두체 형상 위치 연산부(112)와, 물체 이력 기억부(113)와, 장기 시점 운동 계측부(114)와, 카메라 화상 배치 연산부(115)와, 가상 공간 배치 연산부(116)와, 사영 연산부(우측)(117R)와, 사영 연산부(좌측)(117L)와, 화상 묘화부(우측)(118R)와, 화상 묘화부(좌측)(118L)를 갖고 있다.
화상 처리 장치(109S)는 화상 처리의 대상이 되는 구성물, 즉 차량(10)의 3D CG 데이터(바디 등)에 추가로, 후방을 촬영한 카메라 화상을 가상 공간 상에 배치한다. 그리고, 화상 처리 장치(109S)는 우측 후방 표시에 관한 가상 시점 위치 및 가상 영상 표시부에 기초하여 절두체를 구하고, 이 절두체에 의해서 생성되는 화상을, 필요에 따라서 확대 축소의 처리를 실시한 후, 우측 후방 영상 표시부(107R)에 표시될 우측 후방 표시 화상으로서 출력한다.
또한, 마찬가지로, 화상 처리 장치(109S)는 좌측 후방 표시에 관한 가상 시점 위치 및 가상 영상 표시부에 기초하여 절두체를 구하고, 이 절두체에 의해 생성되는 화상을, 필요에 따라서 확대 축소의 처리를 실시한 후, 좌측 후방 영상 표시부(107L)에 표시될 좌측 후방 표시 화상으로서 출력한다.
이 경우, 화상 처리 장치(109S)는 시점 계측부(105)에서 계측된 운전자의 시점 위치의 운동을 기준 시점 위치에 대한 상대 운동으로서 계측하고, 이에 대응해서 가상 시점 위치를 기준 가상 시점 위치로부터 움직임으로써, 우측 후방 영상 표시부(107R) 및 좌측 후방 영상 표시부(107L)에 표시되는 화상(영상)을 변화시켜, 운전자에게 적절한 운동 시차를 제공한다.
기억부(111)는 기준 시점 위치나 우측 후방 표시 및 좌측 후방 표시에 관한 기준 시계 설정의 정보, 나아가서는 차량의 3D CG 데이터를 기억한다. 화상 처리 장치(109)는 운전자(유저)가 운전석에 착좌 후에, 초기화 플로우를 실시하고, 기억부(111)에, 당해 운전자에게 적절한 기준 시점 위치를, 자동적으로 등록한다. 이 기준 시점 위치는 시점 위치의 장기적 변동에 기초하여, 초기 기준 시점 위치로부터 순차 갱신되어 간다.
화상 처리 장치(109)는 운전자(유저)가 운전석에 착좌 후에, 초기화 플로우를 실시하여, 기억부(111)에, 당해 운전자에게 적절한 기준 시점 위치를, 자동적으로 등록한다. 이 초기화 플로우로 등록되는 기준 시점 위치는 초기 기준 시점 위치이다. 이와 같이 초기 기준 시점 위치를 등록함으로써, 운전자의 기준으로 해야 할 시점 위치의 개인차를 흡수할 수 있고, 운전자의 교대가 있는 경우라도 운전 최초로부터 당해 운전자에 대하여 적절한 후방 시계를 제공하는 것이 가능하게 된다.
장기 시점 운동 계측부(114)는, 통상 동작 플로우에 있어서, 시점 계측부(105)에서 얻어지는 운전자의 시점 위치의 장기적 변동에 기초하여, 기억부(111)에 기억되어 있는 기준 시점 위치를 갱신한다. 절두체 형상 위치 연산부(112)는 기억부(111)로부터 판독되는 기준 시점 위치나 기준 시계 설정의 정보와, 시점 계측부(105)에서 검출되는 현재의 시점 위치에 기초하여, 가상 공간 상에서의, 우측 후방 표시용 및 좌측 후방 표시용의 2개의 절두체의 형상과 위치를 산출한다.
카메라 화상 배치 연산부(115)는 우측 후방 거리 계측부(104R), 후방 거리 계측부(104) 및 좌측 후방 거리 계측부(104L)에서 취득되는 후방의 거리 화상, 우측 후방 촬영부(103R), 후방 촬영부(103) 및 좌측 후방 촬영부(103L)에서 취득되는 후방의 카메라 화상, 절두체 형상 배치 연산부(112)에서 구해지는 우측 후방 표시용 및 좌측 후방 표시용의 2개의 절두체의 형상과 위치 등에 기초하여, 가상 공간 상에서의 카메라 화상의 배치 거리를 산출한다.
이 카메라 화상의 배치 위치에 의해서, 운전자가 시점 위치를 움직였을 때, 차체(바디)에 보였다 가려졌다 하는 카메라 화상에 비추는 피사체의 보이는 모습(운동 시차)이 달라진다. 이 경우, 착안할 물체에 대하여 적절한 운동 시차를 제공할 수 있도록, 당해 물체까지의 거리가 배치 거리로서 산출된다. 여기서, 우측 후방 표시용 및 좌측 후방 표시용의 착안할 물체가 다른 경우도 상정된다. 그 경우에는, 우측 후방 표시용 및 좌측 후방 표시용의 카메라 화상의 배치 거리가 상이한 값으로 산출된다.
도 30은 가상 공간 상에 있어서의 카메라 화상의 배치 위치를 나타내고 있다. 카메라 화상은 우측 후방 촬영부(103R), 후방 촬영부(103) 및 좌측 후방 촬영부(103L)에 의해 소정의 촬영 화각으로 촬영되어 얻어진 것이다. 이 카메라 화상은, 가상 공간 상에 있어서, 차량(10)의 후방부로부터 카메라 화상 배치 연산부(115)에서 산출된 카메라 화상 배치 거리만큼 이격된 위치에 배치된다.
가상 공간 배치 연산부(116)는 가상 공간 상에 묘화에 필요한 요소를 배치한다. 즉, 가상 공간 배치 연산부(116)는 가상 공간 상에, 기억부(111)에 기억되어 있는 차량(10)의 3D CG 데이터(바디 등)를 배치함과 함께, 카메라 화상 배치 연산부(115)에서 산출된 카메라 화상 배치 거리의 위치에 카메라 화상을 배치하고, 또한 절두체 형상 배치 연산부(112)에서 산출된 형상과 위치에 기초하여, 우측 후방 표시용 및 좌측 후방 표시용의 2개의 절두체를 배치한다. 도 31은 가상 공간 상에 있어서의 묘화에 필요한 요소의 배치예를 도시하고 있다.
도 29로 되돌아가, 사영 연산부(우측)(117R)는 우측의 가상 영상 표시부(107A)를 사영면으로 하여, 가상 공간 상의 오브젝트를 사영 화상으로 변환한다. 화상 묘화부(우측)(118R)는 사영 연산부(117R)에서 얻어진 사영 화상에 카메라 화상 및 3D CG 데이터의 디테일을 묘화하는 처리, 나아가서는 화상의 크기를 우측 후방 영상 표시부(107R)의 크기에 맞추기 위한 확대 축소의 처리를 실시하여, 우측 후방 영상 표시부(107R)에 공급할 표시 화상을 출력한다.
또한, 사영 연산부(좌측)(117L)는 좌측의 가상 영상 표시부(107A)를 사영면으로 하여, 가상 공간 상의 오브젝트를 사영 화상으로 변환한다. 화상 묘화부(좌측)(118L)는 사영 연산부(117L)에서 얻어진 사영 화상에 카메라 화상 및 3D CG 데이터의 디테일을 묘화하는 처리, 나아가서는 화상의 크기를 좌측 후방 영상 표시부(107L)의 크기에 맞추기 위한 확대 축소의 처리를 실시하여, 좌측 후방 영상 표시부(107L)에 공급할 표시 화상을 출력한다.
화상 처리 장치(109S)에 있어서의 기본적인 처리 플로우는, 좌우의 표시부용으로 별도로 처리되는 것을 제외하고, 상술한 실시 형태에 있어서의 화상 처리 장치(109)의 처리 플로우와 마찬가지가 되므로, 여기서는 그 설명을 생략한다.
또한, 상술한 화상 처리 장치(109, 109S)에 있어서의 일련의 처리는, 하드웨어에 의해 실행할 수도 있고, 소프트웨어에 의해 실행할 수도 있다. 일련의 처리를 소프트웨어에 의해 실행하는 경우에는, 그 소프트웨어를 구성하는 프로그램이, 컴퓨터에 인스톨된다. 여기서, 컴퓨터에는 전용의 하드웨어에 내장되어 있는 컴퓨터나, 각종 프로그램을 인스톨함으로써, 각종의 기능을 실행하는 것이 가능한, 예를 들어, 범용의 퍼스널 컴퓨터 등이 포함된다.
도 32는, 상술한 일련의 처리를 프로그램에 의해 실행하는 컴퓨터(400)의 하드웨어의 구성예를 도시하는 블록도이다.
컴퓨터(400)에 있어서, CPU(Central Processing Unit)(401), ROM(Read Only Memory)(402), RAM(Random Access Memory)(403)은 버스(404)에 의해 서로 접속되어 있다.
버스(404)에는, 또한 입출력 인터페이스(405)가 접속되어 있다. 입출력 인터페이스(405)에는 입력부(406), 출력부(407), 기록부(408), 통신부(409) 및 드라이브(410)가 접속되어 있다.
입력부(406)는 입력 스위치, 버튼, 마이크로폰, 촬상 소자 등으로 이루어진다. 출력부(407)는 디스플레이, 스피커 등으로 이루어진다. 기록부(408)는 하드 디스크나 불휘발성의 메모리 등으로 이루어진다. 통신부(409)는 네트워크 인터페이스 등으로 이루어진다. 드라이브(410)는 자기 디스크, 광 디스크, 광자기 디스크 또는 반도체 메모리 등의 리무버블 미디어(411)를 구동한다.
이상과 같이 구성되는 컴퓨터(400)에서는, CPU(401)가, 예를 들어, 기록부(408)에 기록되어 있는 프로그램을, 입출력 인터페이스(405) 및 버스(404)를 개재하여, RAM(403)에 로드해서 실행함으로써, 상술한 일련의 처리가 행해진다.
컴퓨터(400)(CPU(401))가 실행하는 프로그램은, 예를 들어, 패키지 미디어 등으로서의 리무버블 미디어(411)에 기록해서 제공할 수 있다. 또한, 프로그램은 로컬 에어리어 네트워크, 인터넷, 디지털 위성 방송 등의, 유선 또는 무선의 전송 매체를 통하여 제공할 수 있다.
컴퓨터에서는, 프로그램은 리무버블 미디어(411)를 드라이브(410)에 장착함으로써, 입출력 인터페이스(405)를 통하여, 기록부(408)에 인스톨할 수 있다. 또한, 프로그램은 유선 또는 무선의 전송 매체를 통하여, 통신부(409)에서 수신하고, 기록부(408)에 인스톨할 수 있다. 기타, 프로그램은 ROM(402)이나 기록부(408)에 미리 인스톨해 둘 수 있다.
또한, 컴퓨터가 실행하는 프로그램은, 본 명세서에서 설명하는 순서를 따라서 시계열로 처리가 행해지는 프로그램이어도 되고, 병렬로, 또는 호출이 행해졌을 때 등의 필요한 타이밍에 처리가 행해지는 프로그램이어도 된다.
또한, 첨부 도면을 참조하면서 본 개시의 바람직한 실시 형태에 대해서 상세하게 설명했지만, 본 개시의 기술적 범위는 이러한 예에 한정되지 않는다. 본 개시의 기술 분야에 있어서의 통상의 지식을 갖는 자라면, 특허 청구의 범위에 기재된 기술적 사상의 범주 내에서, 각종 변경예 또는 수정예에 상도할 수 있음은 명확하고, 이들에 대해서도, 당연히 본 개시의 기술적 범위에 속하는 것으로 이해된다.
또한, 본 기술은, 이하와 같은 구성도 취할 수 있다.
(1) 운전자의 시선이 표시부를 포함하는 일정 영역에 있을 때, 차량의 후방을 촬영해서 얻어진 촬영 화상에 기초하여 상기 운전자의 시점의 운동에 따라서 상기 표시부에 표시할 표시 화상을 얻는 처리부를 구비하는
화상 처리 장치.
(2) 상기 처리부는, 상기 운전자의 시점 위치의 기준 시점 위치로부터의 어긋남에 따라서 상기 표시 화상을 얻는
상기 (1)에 기재된 화상 처리 장치.
(3) 상기 처리부는, 상기 시점 위치의 장기적 변동에 기초하여 상기 기준 시점 위치를 갱신하는
상기 (2)에 기재된 화상 처리 장치.
(4) 상기 처리부는, 상기 운전자의 시선이 상기 일정 영역에 있을 때, 상기 기준 시점 위치를 갱신하지 않는
상기 (3)에 기재된 화상 처리 장치.
(5) 상기 처리부는, 소정의 샘플 레이트로 순차 얻어지는 상기 시점 위치를 일정 구간마다 평균하여 상기 기준 위치의 갱신값을 얻는
상기 (3) 또는 (4)에 기재된 화상 처리 장치.
(6) 상기 운전자의 시점 위치가 착좌 상태에 대응한 일정 영역에 들어갔을 때, 상기 운전자의 시선이 상기 표시 화상을 표시하는 표시부 상에 일정 시간 계속된 경우의 상기 운전자의 시점 위치를 기준 시점 위치로서 등록하는 등록부를 더 구비하는
상기 (2) 내지 (5) 중 어느 것에 기재된 화상 처리 장치.
(7) 상기 처리부는, 상기 촬영 화상에 상기 차량을 나타내는 화상을 중첩해서 상기 표시 화상을 얻는
상기 (1) 내지 (6) 중 어느 것에 기재된 화상 처리 장치.
(8) 상기 차량을 나타내는 화상은 컴퓨터 그래픽스 화상인
상기 (7)에 기재된 화상 처리 장치.
(9) 상기 차량의 후방을 촬영해서 얻어진 촬영 화상은, 상기 차량의 후방부에 설치된 촬영 장치로 촬영된 촬영 화상이며,
상기 차량을 나타내는 화상은 차실 내 화상인
상기 (7) 또는 (8)에 기재된 화상 처리 장치.
(10) 상기 차량의 후방을 촬영해서 얻어진 촬영 화상은, 상기 차량의 측부에 설치된 촬영 장치로 촬영된 촬영 화상을 포함하고,
상기 차량을 나타내는 화상은 차체 화상인
상기 (7) 또는 (8)에 기재된 화상 처리 장치.
(11) 상기 처리부는, 상기 운전자의 시점 위치의 기준 시점 위치로부터의 어긋남에 따라서 상기 촬영 화상과 상기 차량을 나타내는 화상의 중첩 위치 관계를 변화시키는
상기 (7) 내지 (10) 중 어느 것에 기재된 화상 처리 장치.
(12) 상기 처리부는,
상기 촬영 화상과 상기 차량을 나타내는 화상을 삼차원 공간에 배치하고,
상기 운전자의 시점 위치의 기준 시점 위치로부터의 어긋남에 따라서 변화하는 가상 시점 위치를 구하고, 해당 가상 시점 위치에서 결정되는 시계에 의해서 상기 촬영 화상과 상기 차량을 나타내는 화상을 사영 좌표계로 변환하여 상기 표시 화상을 얻는
상기 (11)에 기재된 화상 처리 장치.
(13) 상기 처리부는, 상기 촬영 화상을, 상기 차량의 후방에 존재하는 소정의 오브젝트의 위치에 배치하는
상기 (12)에 기재된 화상 처리 장치.
(14) 상기 소정의 오브젝트는, 상기 차량에 대하여 가장 가까이에 있는 오브젝트인
상기 (13)에 기재된 화상 처리 장치.
(15) 상기 소정의 오브젝트는, 상기 운전자가 보고 있는 오브젝트인
상기 (13)에 기재된 화상 처리 장치.
(16) 상기 처리부는, 상기 차량을 나타내는 화상을 상기 촬영 화상이 투과되어 보이도록, 해당 촬영 화상에 중첩하는
상기 (7) 내지 (15) 중 어느 것에 기재된 화상 처리 장치.
(17) 운전자의 시선이 표시부를 포함하는 일정 영역에 있을 때, 차량의 후방을 촬영해서 얻어진 촬영 화상에 기초하여 상기 운전자의 시점의 운동에 따라서 상기 표시부에 표시하는 표시 화상을 얻는 수순을 갖는
화상 처리 방법.
(18) 차량의 후방을 촬영하는 촬영부와,
운전자의 시선이 표시부를 포함하는 일정 영역에 있을 때, 상기 촬영부에서 촬영해서 얻어진 촬영 화상에 기초하여 상기 운전자의 시점의 운동에 따라서 표시 화상을 얻는 처리부와,
상기 처리부에서 얻어진 표시 화상을 표시하는 표시부를 구비하는
화상 처리 시스템.
(19) 컴퓨터를,
운전자의 시선이 표시부를 포함하는 일정 영역에 있을 때, 차량의 후방을 촬영해서 얻어진 촬영 화상에 기초하여 상기 운전자의 시점의 운동에 따라서 상기 표시부에 표시하는 표시 화상을 얻는 처리 수단으로서 기능시키는
프로그램.
10… 차량
100… 차체(바디)
101… 차체 개구부(창)
102… 내장 오브젝트
103… 후방 촬영부
103R… 우측 후방 촬영부
103L… 좌측 후방 촬영부
104… 후방 거리 계측부
104R… 우측 후방 거리 계측부
104L… 좌측 후방 거리 계측부
105… 시점 계측부
106… 시선 계측부
107… 영상 표시부
107A… 가상 영상 표시부
107R… 우측 후방 영상 표시부
107L… 좌측 후방 영상 표시부
108… 유저 조작부
109, 109S… 화상 처리 장치
111… 기억부
112… 절두체 형상 배치 연산부
113… 물체 이력 기억부
114… 장기 시점 운동 계측부
115… 카메라 화상 배치 연산부
116… 가상 공간 배치 연산부
117… 사영 연산부
117R… 사영 연산부(우측)
117L… 사영 연산부(좌측)
118… 화상 묘화부
118R… 화상 묘화부(우측)
118L… 화상 묘화부(좌측)

Claims (18)

  1. 운전자의 시선이 표시부를 포함하는 일정 영역에 있을 때, 차량의 후방을 촬영해서 얻어진 촬영 화상에 기초하여 상기 운전자의 시점의 운동에 따라서 상기 표시부에 표시할 표시 화상을 얻는 처리부를 구비하는 화상 처리 장치.
  2. 제1항에 있어서,
    상기 처리부는, 상기 운전자의 시점 위치의 기준 시점 위치로부터의 어긋남에 따라서 상기 표시 화상을 얻는 화상 처리 장치.
  3. 제2항에 있어서,
    상기 처리부는, 상기 시점 위치의 장기적 변동에 기초하여 상기 기준 시점 위치를 갱신하는 화상 처리 장치.
  4. 제3항에 있어서,
    상기 처리부는, 상기 운전자의 시선이 상기 일정 영역에 있을 때, 상기 기준 시점 위치를 갱신하지 않는 화상 처리 장치.
  5. 제3항에 있어서,
    상기 처리부는, 소정의 샘플 레이트로 순차 얻어지는 상기 시점 위치를 일정 구간마다 평균하여 상기 기준 위치의 갱신값을 얻는 화상 처리 장치.
  6. 제2항에 있어서,
    상기 운전자의 시점 위치가 착좌 상태에 대응한 일정 영역에 들어갔을 때, 상기 운전자의 시선이 상기 표시 화상을 표시하는 표시부 상에 일정 시간 계속된 경우의 상기 운전자의 시점 위치를 기준 시점 위치로서 등록하는 등록부를 더 구비하는 화상 처리 장치.
  7. 제1항에 있어서,
    상기 처리부는, 상기 촬영 화상에 상기 차량을 나타내는 화상을 중첩해서 상기 표시 화상을 얻는 화상 처리 장치.
  8. 제7항에 있어서,
    상기 차량을 나타내는 화상은 컴퓨터 그래픽스 화상인 화상 처리 장치.
  9. 제7항에 있어서,
    상기 차량의 후방을 촬영해서 얻어진 촬영 화상은, 상기 차량의 후방부에 설치된 촬영 장치로 촬영된 촬영 화상이며,
    상기 차량을 나타내는 화상은 차실 내 화상인 화상 처리 장치.
  10. 제7항에 있어서,
    상기 차량의 후방을 촬영해서 얻어진 촬영 화상은, 상기 차량의 측부에 설치된 촬영 장치로 촬영된 촬영 화상을 포함하고,
    상기 차량을 나타내는 화상은 차체 화상인 화상 처리 장치.
  11. 제7항에 있어서,
    상기 처리부는, 상기 운전자의 시점 위치의 기준 시점 위치로부터의 어긋남에 따라서 상기 촬영 화상과 상기 차량을 나타내는 화상의 중첩 위치 관계를 변화시키는 화상 처리 장치.
  12. 제11항에 있어서,
    상기 처리부는,
    상기 촬영 화상과 상기 차량을 나타내는 화상을 삼차원 공간에 배치하고,
    상기 운전자의 시점 위치의 기준 시점 위치로부터의 어긋남에 따라서 변화하는 가상 시점 위치를 구하고, 해당 가상 시점 위치에서 결정되는 시계에 의해서 상기 촬영 화상과 상기 차량을 나타내는 화상을 사영 좌표계로 변환하여 상기 표시 화상을 얻는 화상 처리 장치.
  13. 제12항에 있어서,
    상기 처리부는, 상기 촬영 화상을, 상기 차량의 후방에 존재하는 소정의 오브젝트의 위치에 배치하는 화상 처리 장치.
  14. 제13항에 있어서,
    상기 소정의 오브젝트는, 상기 차량에 대하여 가장 가까이에 있는 오브젝트인 화상 처리 장치.
  15. 제13항에 있어서,
    상기 소정의 오브젝트는, 상기 운전자가 보고 있는 오브젝트인 화상 처리 장치.
  16. 제7항에 있어서,
    상기 처리부는, 상기 차량을 나타내는 화상을 상기 촬영 화상이 투과되어 보이도록, 해당 촬영 화상에 중첩하는 화상 처리 장치.
  17. 운전자의 시선이 표시부를 포함하는 일정 영역에 있을 때, 차량의 후방을 촬영해서 얻어진 촬영 화상에 기초하여 상기 운전자의 시점의 운동에 따라서 상기 표시부에 표시하는 표시 화상을 얻는 수순을 갖는 화상 처리 방법.
  18. 차량의 후방을 촬영하는 촬영부와,
    운전자의 시선이 표시부를 포함하는 일정 영역에 있을 때, 상기 촬영부에서 촬영해서 얻어진 촬영 화상에 기초하여 상기 운전자의 시점의 운동에 따라서 표시 화상을 얻는 처리부와,
    상기 처리부에서 얻어진 표시 화상을 표시하는 표시부를 구비하는 화상 처리 시스템.
KR1020217016360A 2018-12-11 2019-12-10 화상 처리 장치, 화상 처리 방법 및 화상 처리 시스템 KR20210100610A (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018232050 2018-12-11
JPJP-P-2018-232050 2018-12-11
PCT/JP2019/048364 WO2020122085A1 (ja) 2018-12-11 2019-12-10 画像処理装置、画像処理方法および画像処理システム

Publications (1)

Publication Number Publication Date
KR20210100610A true KR20210100610A (ko) 2021-08-17

Family

ID=71077332

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020217016360A KR20210100610A (ko) 2018-12-11 2019-12-10 화상 처리 장치, 화상 처리 방법 및 화상 처리 시스템

Country Status (6)

Country Link
US (1) US11987182B2 (ko)
EP (1) EP3896962A4 (ko)
JP (1) JP7444073B2 (ko)
KR (1) KR20210100610A (ko)
CN (1) CN113170084A (ko)
WO (1) WO2020122085A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210370773A1 (en) * 2018-05-08 2021-12-02 Sony Semiconductor Solutions Corporation Image processing apparatus, moving apparatus, method, and program

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7018923B2 (ja) * 2019-12-13 2022-02-14 本田技研工業株式会社 駐車支援装置、駐車支援方法およびプログラム
JP2021182704A (ja) * 2020-05-19 2021-11-25 トヨタ自動車株式会社 画像表示装置

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013216286A (ja) 2012-04-12 2013-10-24 Suzuki Motor Corp 車両周囲確認用モニター装置

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3890595B2 (ja) * 2003-09-30 2007-03-07 マツダ株式会社 車両用情報提供装置
US8179435B2 (en) 2005-09-28 2012-05-15 Nissan Motor Co., Ltd. Vehicle surroundings image providing system and method
JP5115136B2 (ja) 2007-10-16 2013-01-09 株式会社デンソー 車両後方監視装置
JP2010274813A (ja) 2009-05-29 2010-12-09 Fujitsu Ten Ltd 画像生成装置及び画像表示システム
EP2512134B1 (en) 2009-12-07 2020-02-05 Clarion Co., Ltd. Vehicle periphery monitoring system
KR101544524B1 (ko) * 2010-12-16 2015-08-17 한국전자통신연구원 차량용 증강현실 디스플레이 시스템 및 차량용 증강현실 디스플레이 방법
US8744642B2 (en) * 2011-09-16 2014-06-03 Lytx, Inc. Driver identification based on face data
US20130096820A1 (en) 2011-10-14 2013-04-18 Continental Automotive Systems, Inc. Virtual display system for a vehicle
US8702250B2 (en) 2012-04-02 2014-04-22 GM Global Technology Operations LLC System and method for adjusting vehicle mirrors automatically based on driver head position
JP5977130B2 (ja) 2012-09-25 2016-08-24 富士通テン株式会社 画像生成装置、画像表示システム、および、画像生成方法
US9405982B2 (en) 2013-01-18 2016-08-02 GM Global Technology Operations LLC Driver gaze detection system
JP6364702B2 (ja) 2013-03-29 2018-08-01 アイシン精機株式会社 画像表示制御装置、画像表示システム、および表示ユニット
JP6234701B2 (ja) * 2013-05-15 2017-11-22 クラリオン株式会社 車両用周囲モニタ装置
JP6232994B2 (ja) 2013-12-16 2017-11-22 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
US20160280136A1 (en) 2014-03-05 2016-09-29 Guy M. Besson Active-tracking vehicular-based systems and methods for generating adaptive image
JP6610546B2 (ja) * 2014-07-03 2019-11-27 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
JP6384188B2 (ja) 2014-08-12 2018-09-05 ソニー株式会社 車両用表示装置と表示制御方法および後方モニタリングシステム
JP6446925B2 (ja) * 2014-09-05 2019-01-09 アイシン精機株式会社 画像表示制御装置および画像表示システム
JP6350247B2 (ja) 2014-12-01 2018-07-04 株式会社デンソー 画像処理装置
JP6512475B2 (ja) * 2015-04-30 2019-05-15 株式会社リコー 情報提供装置、情報提供方法及び情報提供用制御プログラム
DE102015008042B3 (de) 2015-06-23 2016-12-15 Mekra Lang Gmbh & Co. Kg Anzeigeeinrichtung für Fahrzeuge, insbesondere Nutzfahrzeuge
US10116873B1 (en) * 2015-11-09 2018-10-30 Ambarella, Inc. System and method to adjust the field of view displayed on an electronic mirror using real-time, physical cues from the driver in a vehicle
JP2017111739A (ja) * 2015-12-18 2017-06-22 株式会社デンソー 運転支援装置、運転支援方法
JP6770330B2 (ja) 2016-04-25 2020-10-14 本田技研工業株式会社 画像表示装置
TWI642972B (zh) 2018-03-07 2018-12-01 和碩聯合科技股份有限公司 抬頭顯示系統及其控制方法
WO2020122084A1 (ja) 2018-12-11 2020-06-18 ソニー株式会社 画像処理装置、画像処理方法および画像処理システム
KR20210100611A (ko) 2018-12-11 2021-08-17 소니그룹주식회사 화상 처리 장치, 화상 처리 방법 및 화상 처리 시스템
CN113170081A (zh) 2018-12-11 2021-07-23 索尼集团公司 图像处理装置、图像处理方法和图像处理系统

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013216286A (ja) 2012-04-12 2013-10-24 Suzuki Motor Corp 車両周囲確認用モニター装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210370773A1 (en) * 2018-05-08 2021-12-02 Sony Semiconductor Solutions Corporation Image processing apparatus, moving apparatus, method, and program
US11958358B2 (en) * 2018-05-08 2024-04-16 Sony Semiconductor Solutions Corporation Image processing apparatus, moving apparatus, method, and program

Also Published As

Publication number Publication date
WO2020122085A1 (ja) 2020-06-18
EP3896962A1 (en) 2021-10-20
CN113170084A (zh) 2021-07-23
US11987182B2 (en) 2024-05-21
JPWO2020122085A1 (ja) 2021-10-21
JP7444073B2 (ja) 2024-03-06
EP3896962A4 (en) 2022-01-26
US20220001803A1 (en) 2022-01-06

Similar Documents

Publication Publication Date Title
JP6493361B2 (ja) 車両用装置、車両用プログラム、フィルタ設計プログラム
JP6134478B2 (ja) 情報処理装置、表示制御方法、プログラムおよび記憶媒体
US11794667B2 (en) Image processing apparatus, image processing method, and image processing system
KR20210100610A (ko) 화상 처리 장치, 화상 처리 방법 및 화상 처리 시스템
US20070003162A1 (en) Image generation device, image generation method, and image generation program
US11813988B2 (en) Image processing apparatus, image processing method, and image processing system
JP2005335410A (ja) 画像表示装置
JP2007052304A (ja) 映像表示システム
EP3896963A1 (en) Image processing device, image processing method, and image processing system
JP2005269010A (ja) 画像生成装置、画像生成プログラム、及び画像生成方法
WO2017168953A1 (ja) 車両用装置、車両用プログラム、フィルタ設計プログラム
JP2016181004A (ja) 情報処理装置、表示制御方法、プログラムおよび記憶媒体
WO2012131862A1 (ja) 画像処理装置、方法およびプログラム
JP2015166835A (ja) 画像表示装置、画像表示システム
JP2021104792A (ja) 電子ミラー
KR20190068162A (ko) 차량용 디스플레이 시스템 및 그 제어 방법