WO2015053040A1 - 画像表示装置、画像表示システム、画像表示方法、及び、プログラム - Google Patents

画像表示装置、画像表示システム、画像表示方法、及び、プログラム Download PDF

Info

Publication number
WO2015053040A1
WO2015053040A1 PCT/JP2014/074091 JP2014074091W WO2015053040A1 WO 2015053040 A1 WO2015053040 A1 WO 2015053040A1 JP 2014074091 W JP2014074091 W JP 2014074091W WO 2015053040 A1 WO2015053040 A1 WO 2015053040A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
vehicle
virtual viewpoint
image display
user
Prior art date
Application number
PCT/JP2014/074091
Other languages
English (en)
French (fr)
Inventor
康嘉 澤田
Original Assignee
富士通テン株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 富士通テン株式会社 filed Critical 富士通テン株式会社
Priority to DE112014004701.5T priority Critical patent/DE112014004701B4/de
Priority to US14/915,922 priority patent/US10857974B2/en
Priority to CN201480055343.6A priority patent/CN105612552A/zh
Publication of WO2015053040A1 publication Critical patent/WO2015053040A1/ja
Priority to US17/089,767 priority patent/US11643047B2/en

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R25/00Fittings or systems for preventing or indicating unauthorised use or theft of vehicles
    • B60R25/10Fittings or systems for preventing or indicating unauthorised use or theft of vehicles actuating a signalling device
    • B60R25/102Fittings or systems for preventing or indicating unauthorised use or theft of vehicles actuating a signalling device a signal being sent to a remote location, e.g. a radio signal being transmitted to a police station, a security company or the owner
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R25/00Fittings or systems for preventing or indicating unauthorised use or theft of vehicles
    • B60R25/30Detection related to theft or to other events relevant to anti-theft systems
    • B60R25/305Detection related to theft or to other events relevant to anti-theft systems using a camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R25/00Fittings or systems for preventing or indicating unauthorised use or theft of vehicles
    • B60R25/30Detection related to theft or to other events relevant to anti-theft systems
    • B60R25/31Detection related to theft or to other events relevant to anti-theft systems of human presence inside or outside the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources

Definitions

  • the present invention relates to a technique for displaying an image showing the periphery of a vehicle.
  • an object of the present invention is to enable the user to change the virtual viewpoint to the viewpoint desired by the user when displaying an image showing the periphery of the vehicle from the virtual viewpoint.
  • a first aspect of the present invention is an image display device, An acquisition unit that acquires a plurality of images obtained by photographing a subject with a plurality of cameras; A generating unit that combines the plurality of images and generates a combined image in which the subject is viewed from a virtual viewpoint; A display control unit for displaying the composite image on a screen; A detection unit that detects a user operation to change the position of the virtual viewpoint of the composite image displayed on the screen; With The generation unit changes the position of the virtual viewpoint of the composite image based on the user operation.
  • the composite image may be configured such that a reference point set at a specific position in the subject is viewed from the position of the virtual viewpoint, regardless of the position of the virtual viewpoint.
  • the plurality of cameras may be installed in a vehicle.
  • the generation unit changes the position of the virtual viewpoint based on a world coordinate system having the reference point as an origin for the vehicle and a viewpoint coordinate system having the reference point as an origin for the virtual viewpoint. Can be done.
  • the subject can be displayed from various directions and positions.
  • the image display device can be configured such that the position of the reference point can be set by a user.
  • the subject can be displayed at an angle desired by the user.
  • the generation unit changes the position of the virtual viewpoint around a vertical axis in the world coordinate system when the user operation is an operation indicating a horizontal direction on the screen. Can be done.
  • the position of the virtual viewpoint can be changed with a simple operation around the vertical axis in the world coordinate system.
  • the generation unit changes a position of the virtual viewpoint around a horizontal axis in the viewpoint coordinate system. Can be done.
  • the position of the virtual viewpoint can be changed with a simple operation around the horizontal axis in the viewpoint coordinate system.
  • the generation unit when the generation unit changes the position of the virtual viewpoint around a horizontal axis in the viewpoint coordinate system, the position of the virtual viewpoint is within a range above the ground plane of the subject. It can be set as the structure which changes.
  • an appropriate viewpoint position can be set.
  • the plurality of cameras may be installed in a vehicle.
  • the generation unit is arranged along the front-rear direction of the vehicle.
  • the position of the virtual viewpoint may be changed around the axis.
  • the subject can be displayed while changing the viewing angle without a sense of incongruity.
  • a second aspect of the present invention is an image display system, An image acquisition device; An image display device capable of communicating with the image acquisition device; With The image acquisition device includes: An acquisition unit that acquires a plurality of images obtained by photographing a subject with a plurality of cameras; A request receiving unit that receives a request signal for transmitting the plurality of images from the image display device; An image transmission unit configured to transmit the plurality of images to the image display device based on the request signal; With The image display device includes: A request transmission unit that transmits the request signal to request transmission of the plurality of images to the image acquisition device; An image receiving unit for receiving the plurality of images from the image acquisition device; A generating unit that combines the plurality of images and generates a combined image in which the subject is viewed from a virtual viewpoint; A display control unit for displaying the composite image on a screen; A detection unit that detects a user operation to change the position of the virtual viewpoint of the composite image displayed on the screen; With The generation unit changes a virtual viewpoint
  • the image acquisition device can be installed in a vehicle.
  • the subject may be a state around the vehicle.
  • the image display system may include a security device that detects a prior phenomenon that leads to theft of the vehicle.
  • the security device may include a monitoring unit that detects the prior phenomenon and a notification unit that notifies the image display device that the prior phenomenon has been detected.
  • the user of the image display device can recognize that a pre-phenomenon that leads to theft of the vehicle has occurred, and can quickly check the state around the vehicle on the screen. .
  • a third aspect of the present invention is an image display method, (A) acquiring a plurality of images obtained by photographing a subject with a plurality of cameras; (B) combining the plurality of images and generating a combined image in which the subject is viewed from a virtual viewpoint; (C) displaying the composite image on a screen; (D) detecting a user operation for changing the position of the virtual viewpoint of the composite image displayed on the screen; With In the step (b), the position of the virtual viewpoint of the composite image is changed based on the user operation.
  • a fourth aspect of the present invention is a program that can be executed by a computer included in an image display device that displays an image.
  • the computer (A) acquiring a plurality of images obtained by photographing a subject with a plurality of cameras; (B) combining the plurality of images and generating a combined image in which the subject is viewed from a virtual viewpoint; (C) displaying the composite image on a screen; (D) detecting a user operation for changing the position of the virtual viewpoint of the composite image displayed on the screen; And execute In the step (b), the position of the virtual viewpoint of the composite image is changed based on the user operation.
  • FIG. 1 is a diagram illustrating an overview of an image display system according to the first embodiment.
  • FIG. 2 is a diagram illustrating a portable terminal included in the image display system of FIG.
  • FIG. 3 is a block diagram showing a configuration of the image display system of FIG.
  • FIG. 4 is a diagram illustrating the arrangement of cameras provided in the image display system of FIG.
  • FIG. 5 is a block diagram showing a configuration of the mobile terminal of FIG.
  • FIG. 6 is a diagram for explaining a method of generating a peripheral image and a composite image in the image display system of FIG.
  • FIG. 7 is a diagram showing the position of the virtual viewpoint in the image display system of FIG.
  • FIG. 8 is a diagram showing the position of the virtual viewpoint in the image display system of FIG. FIG.
  • FIG. 9 is a diagram for explaining the movement of the virtual viewpoint in the image display system of FIG.
  • FIG. 10 is a diagram for explaining the movement of the virtual viewpoint in the image display system of FIG.
  • FIG. 11 is a diagram for explaining the movement of the virtual viewpoint in the image display system of FIG.
  • FIG. 12 is a diagram for explaining the movement of the virtual viewpoint in the image display system of FIG.
  • FIG. 13 is a diagram illustrating a display image in the image display system of FIG.
  • FIG. 14 is a diagram illustrating a display image in the image display system of FIG.
  • FIG. 15 is a diagram illustrating a display image in the image display system of FIG.
  • FIG. 16 is a diagram illustrating a display image in the image display system of FIG. FIG.
  • FIG. 17 is a diagram illustrating a display image in the image display system of FIG.
  • FIG. 18 is a diagram illustrating a display image in the image display system of FIG.
  • FIG. 19 is a diagram illustrating a display image in the image display system of FIG.
  • FIG. 20 is a diagram illustrating a display image in the image display system of FIG.
  • FIG. 21 is a diagram illustrating a display image in the image display system of FIG.
  • FIG. 22 is a diagram illustrating a display image in the image display system of FIG.
  • FIG. 23 is a diagram illustrating a display image in the image display system of FIG.
  • FIG. 24 is a diagram illustrating a display image in the image display system of FIG.
  • FIG. 25 is a flowchart showing a processing procedure by the image display system of FIG. FIG.
  • FIG. 26 is a flowchart showing a processing procedure by the image display system of FIG.
  • FIG. 27 is a block diagram illustrating a configuration of a mobile terminal in the image display system according to the second embodiment.
  • FIG. 28 is a diagram for explaining the movement of the virtual viewpoint in the image display system of FIG.
  • FIG. 29 is a diagram for explaining the movement of the virtual viewpoint in the image display system of FIG.
  • FIG. 30 is a diagram illustrating a display image in the image display system of FIG.
  • FIG. 31 is a flowchart showing a processing procedure by the image display system of FIG.
  • FIG. 32 is a flowchart showing a processing procedure by the image display system of FIG.
  • FIG. 33 is a diagram illustrating a modification of the image display system.
  • FIG. 1 shows an overview of an image display system 1 according to an embodiment of the present invention.
  • the image display system 1 includes an image acquisition device 3 mounted on a vehicle 2 and a camera 4 (4F, 4B, 4L, 4R).
  • the image display system 1 is a system for causing the portable terminal 8 to display an image around the vehicle 2 acquired by the image acquisition device 3 from the camera 4 (4F, 4B, 4L, 4R).
  • the portable terminal 8 is owned by a user located remotely from the vehicle 2.
  • the vehicle 2 is provided with a security device 5 having a monitoring sensor.
  • the monitoring sensor is activated when the suspicious person SI approaches an abnormality to the vehicle 2 or when a physical hazard is applied to the vehicle 2, and the security device 5 informs the user that the monitoring sensor has been activated. Notice.
  • the user who receives the notification from the security device 5 requests the image acquisition device 3 to transmit an image and causes the portable terminal 8 to display an image around the vehicle 2. At this time, the user freely changes the display range of the image and refers to the situation around the vehicle 2 from a desired angle.
  • FIG. 2 shows an example of the portable terminal 8 having a display 83 for displaying an image around the vehicle 2.
  • the user can change the display range of the image and check in detail the area of concern.
  • the user can activate the alarm of the vehicle 2 from a remote location or report it to a security company as needed by referring to the image around the vehicle 2.
  • the vehicle 2 owned by the user can be always maintained safely.
  • the vehicle 2 includes an image acquisition device 3, a camera 4, a security device 5, and an alarm device 6.
  • the image acquisition device 3 is an electronic control device that receives image data from the camera 4 installed in the vehicle and transmits the received image data to the mobile terminal 8.
  • the image acquisition device 3 includes a control unit 31, a communication unit 32, and a storage unit 33.
  • the control unit 31 is a microcomputer including a CPU, a RAM, and a ROM.
  • the control unit 31 is communicably connected to other components included in the image acquisition device 3 and controls the operation of the entire device.
  • the control unit 31 includes a request reception unit 31a, a camera control unit 31b, an image acquisition unit 31c, an image transmission unit 31d, and an anti-theft unit 31e.
  • the request receiving unit 31a receives a request signal for requesting the operation of the camera 4 and the start of photographing from the user who possesses the mobile terminal 8.
  • the camera control unit 31b transmits an operation signal to the camera 4 to cause the camera 4 to start shooting.
  • the image acquisition unit 31 c acquires image data transmitted from the camera 4, and converts the acquired image data into a format that can be processed by the control unit 31.
  • the image transmission unit 31d transmits the image data acquired by the image acquisition unit 31c from the camera 4 to the mobile terminal 8 via the communication unit 32.
  • the theft prevention unit 31e transmits an operation signal to the alarm device 6 to cause the alarm device 6 to perform an alarm. This prevents the vehicle 2 from being stolen.
  • the anti-theft unit 31e may cause the alarm device 6 to issue an alarm and control an engine control device (not shown) so that the engine does not operate.
  • the anti-theft unit 31e may report to the security company via the communication unit 32. In short, the anti-theft unit 31e only needs to function so as to prevent the theft of the vehicle 2 by using a device provided in the vehicle 2.
  • the communication unit 32 has a communication function using wireless communication, and performs information communication with the mobile terminal 8 via the network 7.
  • information communication technologies to be used include WiMAX (Worldwide Interoperability for Microwave Access), LTE (Long Term Evolution), and the like.
  • the storage unit 33 is a memory that stores data.
  • it is a non-volatile storage medium such as an EEPROM (Electrical Erasable Programmable Read-Only memory), a flash memory, or a hard disk drive including a magnetic disk.
  • the storage unit 33 stores a program 33a.
  • the program 33 a is firmware that is read by the control unit 31 and executed for the control unit 31 to control the image acquisition device 3.
  • the camera 4 includes a front camera 4F, a rear camera 4B, a left side camera 4L, and a right side camera 4R.
  • Each camera (4F, 4B, 4L, 4R) includes a lens and an image sensor, and is disposed at a different position on the vehicle 2.
  • FIG. 4 shows a position where the camera 4 (4F, 4B, 4L, 4R) is arranged in the vehicle 2 and a direction in which the optical axis of each camera is directed.
  • the front camera 4F is installed at the front end of the vehicle 2, and its optical axis 4Fa is directed in the straight traveling direction of the vehicle 2.
  • the rear camera 4B is installed at the rear end portion of the vehicle 2, and its optical axis 4Ba is directed in the direction opposite to the straight traveling direction of the vehicle 2, that is, in the backward traveling direction.
  • the left side camera 4L is installed on the left side mirror ML, and its optical axis 4La is directed in the left direction of the vehicle 2 (a direction orthogonal to the straight traveling direction).
  • the right side camera 4R is installed on the right side mirror MR, and its optical axis 4Ra is directed in the right direction of the vehicle 2 (a direction orthogonal to the straight traveling direction).
  • Each camera 4F, 4B, 4L, 4R captures a different direction around the vehicle 2 and electronically acquires the captured image.
  • the lens provided in the camera 4 has a relatively shorter focal length than a standard lens and has an angle of view ⁇ of 180 degrees or more. For this reason, the entire periphery of the vehicle 2 can be photographed by using the four cameras 4.
  • the security device 5 detects a prior phenomenon that leads to theft of the vehicle 2 or an article in the vehicle 2, and electronically notifies the portable terminal 8 possessed by the user of the vehicle 2 that the fear of theft has occurred. It is a device that notifies by email.
  • the security device 5 includes a monitoring sensor 5a and a mail notification unit 5b.
  • the monitoring sensor 5a is a sensor that detects a prior phenomenon that leads to theft of the vehicle 2 or an article in the vehicle 2.
  • a vibration sensor that detects vibration generated in the vehicle 2
  • a glass break sensor that detects glass breakage of the vehicle 2
  • a tilt sensor that detects the tilt of the vehicle 2 by a jack or a crane, and an intruder into the vehicle 2
  • An intrusion sensor to detect.
  • the mail notification unit 5b When the monitoring sensor 5a detects a prior phenomenon that leads to theft, the mail notification unit 5b notifies the user that the theft has occurred. Specifically, the mail notification unit 5b generates an e-mail with the content of the fear of theft and transmits the e-mail to the mobile terminal 8 carried by the user. You may notify by audio
  • the mail notification unit 5b preferably includes in the e-mail which monitoring sensor has detected a prior phenomenon that leads to theft. This is to make it easier for the user to grasp the situation of the vehicle 2.
  • the alarm device 6 is a device that emits a voice to the surroundings and gives a warning.
  • the alarm device 6 is, for example, a speaker or a horn mounted on the vehicle 2.
  • the alarm device 6 may emit light such as a warning light mounted on the vehicle 2 in addition to the sound.
  • the alarm device 6 may be anything that alerts the surroundings and gives a warning.
  • the mobile terminal 8 is an information terminal that is carried by a user and has a function of displaying an image, a function of connecting to an information network, and the like.
  • the mobile terminal 8 is a mobile phone or a smartphone.
  • FIG. 5 shows the configuration of the mobile terminal 8.
  • the portable terminal 8 includes a control unit 81, a communication unit 82, a display 83, and a storage unit 84.
  • the control unit 81 is a microcomputer including a CPU, a RAM, and a ROM.
  • the control unit 81 is connected to be communicable with other components included in the mobile terminal 8 and controls the operation of the entire mobile terminal 8. Each function of the control unit 81 will be described later.
  • the communication unit 82 has a communication function using wireless communication, and performs information communication with the image acquisition device 3 and the security device 5 via the network 7.
  • wireless communication technologies to be used include WiMAX (Worldwide Interoperability for Microwave Access), LTE (Long Term Evolution), and the like.
  • the display 83 displays various information such as characters and figures, and visually presents the information to the user.
  • the display 83 is a display device such as a liquid crystal display, a plasma display, or an organic EL display.
  • the display 83 includes a touch panel 83a.
  • the touch panel 83a senses the user's contact with the button area displayed on the display 83, and transmits the sensed position information to the control unit 81.
  • the storage unit 84 is a memory that stores data.
  • the storage unit 84 is a nonvolatile storage medium such as an EEPROM (Electrical Erasable Programmable Read-Only memory), a flash memory, or a hard disk drive including a magnetic disk.
  • the storage unit 84 stores vehicle body image data 84a and a program 84b.
  • the vehicle body image data 84a is image data indicating the appearance of the vehicle 2.
  • the vehicle body image data 84a includes image data when the vehicle 2 is viewed from any external angle.
  • the vehicle body image data 84a may be acquired from an external server via the network 7 after the image acquisition device 3 is attached to the vehicle 2 without being stored in the mobile terminal 8 in advance. In this case, vehicle body image data 84a that matches the appearance of the vehicle 2 to which the image acquisition device 3 is attached can be acquired.
  • the user may transmit the vehicle type name of the vehicle 2 from the portable terminal 8 to the external server and request the vehicle body image data 84a.
  • the program 84b is firmware that is read by the control unit 81 and executed for the control unit 81 to control the portable terminal 8.
  • the control unit 81 includes an image acquisition unit 81a, an image generation unit 81b, a display control unit 81c, and an operation detection unit 81d.
  • the image acquisition unit 81 a acquires image data transmitted from the image acquisition device 3, and converts the acquired image data into a format that can be processed by the control unit 81. That is, the image acquisition unit 81a acquires a plurality of images obtained by photographing the subject with the plurality of cameras 4, respectively.
  • the image generation unit 81b combines a plurality of photographed images acquired by the camera 4 and generates a peripheral image that shows a state around the vehicle 2 viewed from the virtual viewpoint.
  • the virtual viewpoint is a viewpoint in which the vehicle 2 is viewed from a position outside the vehicle 2. Further, the image generation unit 81b superimposes a vehicle body image showing the vehicle 2 viewed from the virtual viewpoint on the peripheral image. A method for generating a peripheral image and a method for setting a virtual viewpoint by the image generation unit 81b will be described later.
  • the display control unit 81c displays data such as images and characters on the display 83. Further, the display control unit 81c changes an image or the like displayed on the display 83 based on the touch position input to the touch panel 83a.
  • the operation detection unit 81d detects a user operation on the touch panel 83a. Specifically, the operation detection unit 81d detects in which direction on the touch panel 83a the user's fingertip moves after touching the touch panel 83a based on the touch position information transmitted from the touch panel 83a.
  • a so-called flick operation in which the fingertip is slid while being in contact with the touch panel 83a
  • a so-called pinch-in operation in which the distance between the fingertip and the fingertip is reduced while the two fingertips are in contact with the touch panel 83a
  • a so-called pinch-out operation in which the distance between the fingertips is increased while the two fingertips are in contact with the touch panel 83a.
  • the notification unit 81e transmits a predetermined signal to a device outside the mobile terminal 8 via the communication unit 82.
  • Examples of the signal transmitted by the notification unit 81e include a signal that requests the image acquisition apparatus to transmit image data.
  • FIG. 6 shows a method in which the image generation unit 81b generates the peripheral image AP.
  • the image generation unit 81b converts the data (value of each pixel) included in these four images AP (F), AP (B), AP (L), and AP (R) into a three-dimensional curved surface in a virtual three-dimensional space. Is projected onto the projection surface TS.
  • the projection surface TS is, for example, a substantially hemispherical shape (a bowl shape).
  • the center part (bottom part of the bowl) of the projection surface TS is the position where the vehicle 2 is present.
  • the portion other than the central portion of the projection surface TS is associated with any one of the images AP (F), AP (B), AP (L), and AP (R).
  • the image generation unit 81b projects the peripheral images AP (F), AP (B), AP (L), and AP (R) on a portion other than the central portion of the projection surface TS.
  • the image generation unit 81b projects the image AP (F) of the front camera 4F on an area corresponding to the front of the vehicle 2 on the projection surface TS, and projects the image AP (B) of the rear camera 4B on an area corresponding to the rear of the vehicle 2. To do.
  • the image generation unit 81b projects the image AP (L) of the left side camera 4L on the area corresponding to the left side of the vehicle 2 on the projection plane TS, and the image of the right side camera 4R on the area corresponding to the right side of the vehicle 2.
  • the surrounding image AP which shows the area
  • the image generation unit 81b sets a virtual viewpoint VP that faces an arbitrary line-of-sight direction from an arbitrary viewpoint position in the three-dimensional space. And the image data projected on the area
  • the image generation unit 81b reads the vehicle body image data from the storage unit 84, and generates the vehicle body image 10 of the vehicle 2 viewed from the virtual viewpoint VP. Then, the vehicle body image 10 is synthesized with the peripheral image AP indicating the area around the vehicle 2 viewed from the virtual viewpoint VP, thereby generating a composite image CP.
  • the image generation unit 81b sets the peripheral images AP (F), AP (B), AP (L), AP (R), and Using the vehicle body image 10, a composite image CPt that overlooks the vehicle 2 and the surrounding area of the vehicle 2 is generated.
  • the composite image CPt is an image as if the vehicle 2 was looked down from directly above, and shows an area around the vehicle 2.
  • the image generation unit 81b sets the peripheral images AP (B), AP (L), AP (R ) And the vehicle body image 10 are used to generate a composite image CPb overlooking the vehicle 2 and the surrounding area of the vehicle 2.
  • the composite image CPb is an image as if the vehicle 2 is looked down from the upper front to the rear, and shows a region behind the vehicle 2.
  • the peripheral image AP (F), AP (L), AP (R) and the vehicle body image 10 a composite image CPI is generated that overlooks the vehicle 2 and the surrounding area of the vehicle 2.
  • the composite image CPI is an image as if the vehicle 2 is looked left obliquely rearward and from above, and shows a region on the left side of the vehicle 2.
  • FIG. 7 to 12 show a method in which the image generation unit 81b sets the virtual viewpoint VP.
  • a three-dimensional XYZ orthogonal coordinate system cc is used, and directions and directions are appropriately shown.
  • Each coordinate axis of the orthogonal coordinate system cc is fixed relative to the vehicle 2. That is, the left-right direction of the vehicle 2 is the X-axis direction, the front-rear direction of the vehicle 2 is the Y-axis direction, and the vertical direction is the Z-axis direction.
  • the right side of the vehicle 2 is the + X side
  • the front side of the vehicle 2 is the + Y side
  • the vertical upper side is the + Z side. Therefore, the left side of the vehicle 2 is the ⁇ X side, the rear side of the vehicle 2 is the ⁇ Y side, and the vertically lower side is the ⁇ Z side.
  • FIG. 7 is a view of the vehicle 2 as viewed from vertically above (+ Z side), and shows five reference virtual viewpoints VPa (VPat, VPaf, VPab, VPal, and VPar) serving as a reference among the virtual viewpoints VP. .
  • VPa virtual viewpoints VPat, VPaf, VPab, VPal, and VPar
  • Each of the five reference virtual viewpoints VPa has five reference positions (VLt, VLf, VLb, VL1, VLr), five movement center points RC (RCt, RCf, RCb, RCl, RCr), and five reference directions (VDt). , VDf, VDb, VDtl, VDr).
  • the reference position VLt is located immediately above the vehicle 2.
  • the reference position VLf is located slightly in front of the vehicle 2 (+ Y side).
  • the reference position VLb is located slightly above ( ⁇ Y side) immediately above the vehicle 2.
  • the reference position VLl is located diagonally to the left of the vehicle 2 ( ⁇ Y side and ⁇ X side).
  • the reference position VLr is located diagonally to the right of the vehicle 2 (+ X side and ⁇ Y side).
  • the height (+ Z side) of each reference position VL is the same height from the ground contact surface GR with which the vehicle 2 is in contact. For example, it is twice as high as the vehicle height.
  • FIG. 8 is a diagram of the vehicle 2 viewed from the right side in the horizontal direction (+ X side), and is a diagram illustrating the movement center point RC and the reference direction VD.
  • the movement center point RC is a reference point that becomes the center when the virtual viewpoint VP moves. Therefore, even if the viewpoint position of the virtual viewpoint VP moves, the line-of-sight direction always faces the movement center point RC. According to such a configuration, it is possible to provide a composite image as if the user is moving while looking at the subject. A method of moving the virtual viewpoint VP viewpoint position using the movement center point RC will be described later.
  • the moving center point RCt is a specific point set at a specific position of the vehicle 2.
  • the movement center point RCt is located at the center of the vehicle 2.
  • the movement center point RCf is located at the left-right center of the vehicle 2 and slightly forward (+ Y side) of the front end of the vehicle 2.
  • the movement center point RCb is located at the left-right center of the vehicle 2 and slightly rearward ( ⁇ Y side) of the rear end of the vehicle 2.
  • the movement center point RCl is located at the front-rear center of the vehicle 2 and slightly to the left outer side ( ⁇ X side) of the vehicle 2.
  • the movement center point RCr is located at the front-rear center of the vehicle 2 and slightly outside (+ X side) of the vehicle 2.
  • the height (+ Z side) of each movement center point RC is the height h of the line of sight of the user seated on the vehicle 2.
  • the reference direction VDt is directed from the reference position VLt to the movement center point RCt ( ⁇ Z side).
  • the reference direction VDf is directed from the reference position VLf to the movement center point RCf ( ⁇ Z side and + Y side).
  • the reference direction VDb is directed from the reference position VLb to the movement center point RCb ( ⁇ Z side and ⁇ Y side).
  • the reference direction VDl is directed from the reference position VLl to the movement center point RCl ( ⁇ Z side and + Y side).
  • the reference direction VDr is directed from the reference position VLr to the movement center point RCr ( ⁇ Z side and + Y side).
  • the virtual viewpoint VP is a viewpoint when the moving center point RC is viewed from the viewpoint position VL.
  • the reference virtual viewpoint VPat is a viewpoint (top view) in which the vehicle 2 is viewed from directly above.
  • the reference virtual viewpoint VPaf is a viewpoint in which the vehicle 2 is seen from the front and the front of the vehicle 2 from above (front view).
  • the reference virtual viewpoint VPab is a viewpoint (back view) for viewing the vehicle 2 from behind and from above.
  • the reference virtual viewpoint VPal is a viewpoint (left side view) in which the left side region of the vehicle 2 is viewed from the diagonally left rear and above the vehicle 2.
  • the reference virtual viewpoint VPar is a viewpoint (right side view) in which the vehicle 2 is viewed from the upper right and obliquely rearward to the right side area of the vehicle 2.
  • Such a reference virtual viewpoint VPa is selected by the user.
  • the selection by the user is selected by a touch operation on a touch panel button associated with each reference virtual viewpoint VPa. That is, when one of the reference virtual viewpoints VPa is selected by the user while the composite image CP is displayed on the display, the image generation unit 81b generates a composite image viewed from the reference virtual viewpoint VPa. Accordingly, even when the virtual viewpoint cannot be returned to the reference virtual viewpoint VPa after changing the position of the virtual viewpoint in various ways, the user can easily set the virtual viewpoint to the reference virtual viewpoint VPa by touching the touch panel button. it can.
  • one of the viewpoints of the reference virtual viewpoint VPa is set in advance. At this time, it is preferable to generate the composite image CP at the reference virtual viewpoint VPat overlooking the vehicle 2 from directly above. This is because a wide area around the vehicle 2 can be presented to the user and is suitable as an initial display.
  • a method for moving the viewpoint position VL using the movement center point RC will be described.
  • a method of moving the viewpoint position VL in the left-right direction (horizontal direction) when viewing the display from the user will be described with reference to FIGS. 9 and 10.
  • the movement of the viewpoint position VL described below is performed in response to a flick operation in the left-right direction (horizontal direction) on the touch panel by the user.
  • FIG. 9 is a view of the vehicle 2 as viewed from the vertically upward direction (+ Z side), and shows a path along which the reference position VLl of the reference virtual viewpoint VPal moves.
  • the reference position VLl moves along the movement path OBlh around the movement center point RCl.
  • the movement of the viewpoint position VL is based on an orthogonal coordinate system cc (world coordinate system) that is relatively fixed to the vehicle 2 with the position of the movement center point RCl as the origin.
  • the coordinate axis that serves as a reference for the movement of the reference position VLl is the Z axis of the orthogonal coordinate system cc at the position of the movement center point RCl.
  • FIG. 10 is a view of the vehicle 2 as viewed from the right side in the horizontal direction (+ X side), and shows a path along which the reference position VLl of the reference virtual viewpoint VPal moves as in FIG.
  • the reference position VLl moves along the movement path OBlh around the movement center point RCl.
  • the coordinate axis that serves as a reference for movement of the reference position VLl is the Z axis (AXl) of the orthogonal coordinate system cc at the position of the movement center point RC.
  • the reference direction VDl is directed from the reference position VLl to the movement center point RCl no matter where the reference position VLl is located on the movement path OBlh. Therefore, when the reference position VLl moves on the movement path OBlh, the user looking at the display 83 seems to move the image in the horizontal direction.
  • the reference position VLl moves counterclockwise on the movement route OBlh.
  • the reference position VLl moves clockwise on the movement route OBlh.
  • a three-dimensional XYZ orthogonal coordinate system VPcc viewpoint coordinate system
  • VPcc viewpoint coordinate system
  • directions and directions are appropriately shown.
  • Each coordinate axis of the orthogonal coordinate system VPcc is fixed relative to the virtual viewpoint VP. That is, the left-right direction of the virtual viewpoint VP is the X-axis (VPx) direction, the front-rear direction of the virtual viewpoint VP is the Y-axis (VPy) direction, and the vertical direction of the virtual viewpoint VP is the Z-axis (VPz) direction.
  • the right side of the virtual viewpoint VP is the + X side
  • the front side of the virtual viewpoint VP is the + Y side
  • the vertical upper side of the virtual viewpoint VP is the + Z side. Therefore, the left side of the virtual viewpoint VP is the ⁇ X side, the rear side of the virtual viewpoint VP is the ⁇ Y side, and the vertically lower side is the ⁇ Z side.
  • FIG. 11 is a view of the vehicle 2 viewed from the vertically upward direction (+ Z side), and shows a path along which the reference position VLl of the reference virtual viewpoint VPal moves.
  • the reference position VLl moves along the movement path OBlv around the movement center point RCl.
  • the movement of the viewpoint position VL is based on the orthogonal coordinate system VPcc that is relatively fixed to the virtual viewpoint VP with the position of the movement center point RCl as the origin.
  • the coordinate axis that serves as a reference for the movement of the reference position VLl is the X axis (AXlv) of the orthogonal coordinate system VPcc at the position of the movement center point RCl.
  • FIG. 12 is a view of the vehicle 2 as viewed from the left side ( ⁇ X side) in the horizontal direction, and shows a path along which the reference position VLl of the reference virtual viewpoint VPal moves as in FIG.
  • the reference position VLl moves along the movement path OBlv around the movement center point RCl.
  • the coordinate axis that serves as a reference for the movement of the reference position VLl is the X axis of the orthogonal coordinate system cc at the position of the movement center point RC.
  • the reference direction VDl is directed from the reference position VLl to the movement center point RCl regardless of where the reference position VLl is located on the movement path OBlv. Therefore, when the reference position VLl moves on the movement path OBlv, the user looking at the display 83 seems to move the image in the vertical direction.
  • the travel route OBlv is set above the ground contact surface GR of the vehicle 2. Accordingly, the reference position VLl moves on the movement route OBlv indicated by the broken line, and the movement route OBlx indicated by the solid line does not move. As a result, it is possible to prevent image display from a viewpoint position that cannot normally occur when the vehicle 2 is viewed from below the ground contact surface. The user can move the viewpoint position without a sense of incongruity.
  • the reference position VLl moves clockwise on the movement route OBlv.
  • the reference position VLl moves counterclockwise on the movement route OBlv.
  • FIG. 13 shows an example in which the composite image CPt1 is displayed on the display 83.
  • the composite image CPt1 is an image in which the reference virtual viewpoint VPat is set to the virtual viewpoint VP and the vehicle 2 is viewed from the reference virtual viewpoint VPat.
  • the composite image CPt1 displays the vehicle body image 10 in addition to the peripheral image showing the periphery of the vehicle 2.
  • the composite image CPt1 is displayed when the user touches the touch panel button TB13 indicating the periphery of the vehicle 2 and when the composite image CP is initially displayed. The user can check the situation around the vehicle 2 in a list by referring to the composite image CPt1.
  • FIG. 14 shows an example in which the composite image CPt2 is displayed on the display 83.
  • the composite image CPt2 is an image in which the reference virtual viewpoint VPat is set by moving clockwise on OBlh in FIG. 9 after the display of the composite image CPt1 (FIG. 13), and the vehicle 2 is viewed from the set reference virtual viewpoint VPat. is there.
  • the composite image CPt2 displays the vehicle body image 10 in addition to the peripheral image showing the periphery of the vehicle 2 displayed by rotating leftward when viewing the display 83 from the user.
  • the composite image CPt2 is displayed when a flick operation FH is performed from left to right (horizontal direction) on the touch panel 83a in a state where the composite image CPt1 (FIG. 13) is displayed.
  • the user can check the situation around the vehicle 2 from an angle different from that of the composite image CPt1 by referring to the composite image CPt2.
  • FIG. 15 shows an example in which the composite image CPt3 is displayed on the display 83.
  • the composite image CPt3 is an image obtained by setting the reference virtual viewpoint VPat by moving counterclockwise on OBlh in FIG. 12 after displaying the composite image CPt1 (FIG. 13), and viewing the vehicle 2 from the set reference virtual viewpoint VPat. It is.
  • the composite image CPt3 is displayed including immediately below the front end of the vehicle 2.
  • the composite image CPt3 is displayed when a flick operation FV is performed from the upper direction to the lower direction (vertical direction) on the touch panel 83a in a state where the composite image CPt1 (FIG. 13) is displayed.
  • the user can check the situation around the vehicle 2 including the area immediately below the front end of the vehicle 2 by referring to the composite image CPt3.
  • FIG. 16 shows an example in which the composite image CPf1 is displayed on the display 83.
  • the composite image CPf1 is an image in which the reference virtual viewpoint VPaf is set to the virtual viewpoint VP and the vehicle 2 is viewed from the reference virtual viewpoint VPaf.
  • the composite image CPf1 displays the vehicle body image 10 in addition to the peripheral image showing the front of the vehicle 2.
  • the composite image CPf1 is displayed when the user touches the touch panel button TB16 indicating the front of the vehicle 2. The user can confirm the situation ahead of the vehicle 2 by referring to the composite image CPf1.
  • FIG. 17 shows an example in which the composite image CPf2 is displayed on the display 83.
  • the composite image CPf2 is an image in which the reference virtual viewpoint VPaf is set by moving clockwise on OBlh in FIG. 9 after the display of the composite image CPf1 (FIG. 16), and the vehicle 2 is viewed from the set reference virtual viewpoint VPaf. is there.
  • the composite image CPf2 displays the vehicle body image 10 in addition to the peripheral image showing the periphery of the vehicle 2 displayed by rotating to the left when viewing the display 83 from the user.
  • the composite image CPf2 is displayed when a flick operation FH is performed from left to right (horizontal direction) on the touch panel 83a in a state where the composite image CPf1 (FIG. 16) is displayed.
  • the user can check the situation ahead of the vehicle 2 from an angle different from that of the composite image CPf1 by referring to the composite image CPf2.
  • FIG. 18 shows an example in which the composite image CPf3 is displayed on the display 83.
  • the composite image CPf3 is an image obtained by setting the reference virtual viewpoint VPaf by moving counterclockwise on OBlh in FIG. 12 after displaying the composite image CPf1 (FIG. 16), and viewing the vehicle 2 from the set reference virtual viewpoint VPaf. It is.
  • the composite image CPf3 displays the front area of the vehicle 2 in more detail than the composite image CPf1.
  • the composite image CPt3 is displayed when a flick operation FV is performed from the upper direction to the lower direction (vertical direction) on the touch panel 83a in a state where the composite image CPf1 (FIG. 16) is displayed.
  • the user can confirm in detail the situation ahead of the vehicle 2 by referring to the composite image CPt3.
  • FIG. 19 shows an example in which the composite image CPb1 is displayed on the display 83.
  • the composite image CPb1 is an image in which the reference virtual viewpoint VPab is set to the virtual viewpoint VP and the vehicle 2 is viewed from the reference virtual viewpoint VPab.
  • the composite image CPb1 displays the vehicle body image 10 in addition to the peripheral image showing the rear of the vehicle 2.
  • the composite image CPb1 is displayed when the user touches the touch panel button TB19 indicating the rear of the vehicle 2. The user can check the situation behind the vehicle 2 by referring to the composite image CPb1.
  • FIG. 20 is an example in which the composite image CPb2 is displayed on the display 83.
  • the composite image CPb2 is an image in which the reference virtual viewpoint VPab is set by moving clockwise on OBlh in FIG. 9 after the display of the composite image CPb1 (FIG. 19), and the vehicle 2 is viewed from the set reference virtual viewpoint VPab. is there.
  • the composite image CPb2 displays the vehicle body image 10 in addition to the peripheral image showing the rear of the vehicle 2 displayed by moving to the left when viewing the display 83 from the user.
  • the composite image CPb2 is displayed when a flick operation FH is performed from left to right (horizontal direction) on the touch panel 83a in a state where the composite image CPb1 (FIG. 19) is displayed.
  • the user can check the situation behind the vehicle 2 from an angle different from that of the composite image CPb1 by referring to the composite image CPb2.
  • FIG. 21 shows an example in which the composite image CPb3 is displayed on the display 83.
  • the composite image CPb3 is an image in which the reference virtual viewpoint VPab is set by moving counterclockwise on OBlh in FIG. 12 after the composite image CPb1 (FIG. 19) is displayed, and the vehicle 2 is viewed from the set reference virtual viewpoint VPab. It is.
  • the composite image CPb3 displays the rear region of the vehicle 2 in more detail than the composite image CPb1.
  • the composite image CPb3 is displayed when a flick operation FV is performed from the upper direction to the lower direction (vertical direction) on the touch panel 83a in a state where the composite image CPb1 (FIG. 16) is displayed.
  • the user can confirm the situation behind the vehicle 2 in detail by referring to the composite image CPb3.
  • FIG. 22 is an example in which the composite image CP11 is displayed on the display 83.
  • the composite image CP11 is an image in which the reference virtual viewpoint VPal is set to the virtual viewpoint VP and the vehicle 2 is viewed from the reference virtual viewpoint VPal.
  • the composite image CPL1 displays the vehicle body image 10 in addition to the peripheral image showing the left side of the vehicle 2.
  • the composite image CPL1 is displayed when the user touches the touch panel button TB22 indicating the left side of the vehicle 2. The user can check the situation on the left side of the vehicle 2 by referring to the composite image CPL1.
  • FIG. 23 is an example in which the composite image CPL2 is displayed on the display 83.
  • the composite image CPl2 is an image in which the reference virtual viewpoint VPal is set by moving clockwise on OBlh in FIG. 9 after the composite image CPl1 (FIG. 22) is displayed, and the vehicle 2 is viewed from the set reference virtual viewpoint VPal. is there.
  • the composite image CPL2 displays the vehicle body image 10 in addition to the peripheral image showing the left side of the vehicle 2 displayed by moving to the left when viewing the display 83 from the user.
  • the composite image CPl2 is displayed when a flick operation FH is performed from left to right (horizontal direction) on the touch panel 83a in a state where the composite image CPl1 (FIG. 22) is displayed.
  • the user can confirm the situation on the left side of the vehicle 2 from an angle different from that of the composite image CP11 by referring to the composite image CP12.
  • FIG. 24 shows an example in which the composite image CP13 is displayed on the display 83.
  • the composite image CPl3 is an image obtained by setting the reference virtual viewpoint VPal by moving counterclockwise on OBlh in FIG. 12 after displaying the composite image CPl1 (FIG. 22), and viewing the vehicle 2 from the set reference virtual viewpoint VPal. It is.
  • the composite image CPl3 displays the left region of the vehicle 2 in more detail than the composite image CPl1.
  • the composite image CPl3 is displayed when the flick operation FV is performed from the upper direction to the lower direction (vertical direction) on the touch panel 83a in a state where the composite image CPl1 (FIG. 22) is displayed.
  • the user can confirm the situation on the left side of the vehicle 2 in detail by referring to the composite image CPL3.
  • the composite image CP showing the right side of the vehicle 2 may be operated and controlled symmetrically with respect to the case where the left side of the vehicle 2 described with reference to FIGS.
  • the user can confirm the situation on the right side of the vehicle 2 by referring to the composite image CP showing the right side of the vehicle 2.
  • FIG. 25 shows a procedure of processes executed by the image acquisition device 3, the security device 5, and the mobile terminal 8.
  • FIG. 26 shows a procedure of processing executed by the alarm device 6 and the portable terminal 8. This process is repeatedly executed at a predetermined cycle.
  • the security device 5 determines whether or not the monitoring sensor 5a is activated (step S101 in FIG. 25).
  • the security device 5 determines that the monitoring sensor 5a has been activated (Yes in step S101)
  • the security device 5 controls the mail notification unit 5b to indicate to the user's mobile terminal 8 that the monitoring sensor 5a has been activated, that is, leading to theft.
  • An e-mail with the content that the phenomenon has occurred in the vehicle 2 is transmitted (step S102).
  • the monitoring sensor 5a As an example of the case where the monitoring sensor 5a is activated, when the monitoring sensor 5a detects the occurrence of vibration or tilt in the vehicle 2, or when glass breakage is detected, an intruder into the vehicle 2 is detected. Cases.
  • the security device 5 determines that the monitoring sensor 5a is not operating (No in step S101), and when the mail notification unit 5b transmits an e-mail, the processing by the security device 5 ends.
  • the security device 5 starts processing again after a predetermined time has elapsed.
  • the display control unit 81c displays the content of the email on the display 83 (step S201).
  • the user confirms the content of the e-mail displayed on the display and determines whether or not to display the surrounding image of the vehicle 2.
  • the user may perform a touch operation on a predetermined position on the touch panel 83a.
  • the operation detection unit 81d determines whether or not the user has performed a touch operation on a predetermined position on the touch panel 83a where a peripheral image should be displayed (step S202).
  • the notification unit 81e acquires the image. A signal requesting transmission of an image is transmitted to the apparatus 3 (step S203).
  • step S202 When the operation detecting unit 81d performs a touch operation on a predetermined position indicating that the user does not display a peripheral image on the touch panel 83a, that is, when the operation detecting unit 81d determines that no image display is desired (in step S202). No), the process ends. This is because it is not necessary to continue the process as long as the user does not desire to display an image.
  • the camera control unit 31b controls the camera 4 (4F, 4B, 4L, 4R) to start shooting. (Step S301).
  • the image transmission unit 31d transmits the image data to the portable terminal 8 via the communication unit 32. (Step S302).
  • the image generation unit 81b sets the position and direction of the virtual viewpoint for generating the peripheral image. (Step S204).
  • the image generation unit 81b sets the position of the virtual viewpoint directly above the vehicle 2 and the direction of the virtual visual field as downward (top view).
  • the virtual viewpoint is a viewpoint in which the user looks downward from a position directly above the vehicle 2.
  • Such a viewpoint is preferable as the position and direction of the virtual viewpoint to be displayed to the user first. This is because the entire periphery of the vehicle is displayed, so that a wide range of situations can be communicated to the user.
  • the image generation unit 81b When the virtual viewpoint is set, the image generation unit 81b generates a peripheral image by the above-described method. Then, the image generation unit 81b reads the vehicle body image data 84a from the storage unit 84, and generates a composite image in which the vehicle body image is combined with the generated peripheral image (step S205).
  • the display control unit 81c displays the composite image on the display 83 (step S206). Thereby, the user can confirm the state around the vehicle 2.
  • the operation detector 81d determines whether or not the user has performed a flick operation on the display 83 (step S207).
  • Step S207 When the operation detection unit 81d determines that the flick operation has been performed by the user (Yes in Step S207), the image generation unit 81b sets the virtual viewpoint again (Step S204). *
  • the image generation unit 81b rotates the virtual viewpoint with respect to the vertical axis of the world coordinate system as described above to position the virtual viewpoint.
  • the image generation unit 81b sets the position of the virtual viewpoint so that the virtual viewpoint is counterclockwise when viewed from above the vertical direction axis of the world coordinate system. Rotate. Further, when the flick operation is an operation from the left side to the right side with respect to the display 83, the position of the virtual viewpoint is rotated so that the vertical axis of the world coordinate system is clockwise when viewed from above.
  • the image generation unit 81b rotates the virtual viewpoint based on the horizontal axis of the viewpoint coordinate system as described above, and the position of the virtual viewpoint Set.
  • the image generation unit 81b causes the virtual viewpoint to rotate counterclockwise when the horizontal axis of the viewpoint coordinate system is viewed from the right of the viewpoint. Rotate the position.
  • the flick operation is an operation from the lower side to the upper side with respect to the display 83
  • the position of the virtual viewpoint is rotated so that the horizontal axis of the viewpoint coordinate system is clockwise when viewed from the right of the viewpoint.
  • the direction in which the user wants to move the viewpoint by the flick operation matches the direction in which the displayed image moves, and the user can intuitively operate by operating the touch panel 83a.
  • the image can be moved automatically.
  • step S207 the operation detection unit 81d determines whether an operation for changing the virtual viewpoint to the reference viewpoint is performed.
  • step S208 determines whether or not the user has performed a touch operation on any touch panel button indicating the reference viewpoint.
  • the image generation unit 81b sets the position and direction of the virtual viewpoint to the reference viewpoint that the user desires by a touch operation. (Step S204). For example, when the user desires a reference viewpoint for displaying the left side area of the vehicle 2, the image generation unit 81b sets the position and direction of the virtual viewpoint as shown in FIGS.
  • the reference viewpoints are five viewpoints immediately above the vehicle, the left side of the vehicle 2, the right side of the vehicle 2, the front side of the vehicle 2, and the rear side of the vehicle 2.
  • the position of the movement center point RC which is a specific point set at the specific position of the vehicle, is set at a position corresponding to the reference viewpoint desired by the user.
  • step S208 determines whether or not the operation for changing the virtual viewpoint to the reference viewpoint is not performed. Judgment is made (step S209).
  • the operation detection unit 81d determines whether or not the user has performed a touch operation on a predetermined position indicating that the alarm device on the touch panel 83a is activated.
  • the notification unit 81e transmits a signal requesting the image acquisition device 3 to activate the alarm device 6 ( Step S210).
  • the anti-theft unit 31e of the image acquisition device 3 causes the alarm device 6 to perform an alarm (step S401).
  • the alarm by the alarm device 6 ends after a predetermined time has elapsed.
  • the predetermined time may be sufficient to give a warning to the suspicious person. For example, 5 seconds.
  • the user may perform an operation to end the alarm.
  • operation detection unit 81d determines that the user is not trying to activate the alarm device 6 (No in step S209), and when the anti-theft unit 31e causes the alarm device 6 to issue an alarm (step S210), operation detection The unit 81d determines whether or not the user is going to end the image display (step S211).
  • the notification unit 81e transmits a signal requesting the image acquisition device 3 to end shooting (step S212).
  • the notification unit 81e transmits a signal for requesting the image acquisition device 3 to end photographing, the processing by the portable terminal 8 ends.
  • the display control unit 81c continues to generate and display the image, and the mobile terminal 8 performs the processing from step S205 onward. Try again.
  • the request reception unit 31a determines whether or not an end request signal for requesting to end the photographing is transmitted from the portable terminal 8 (step S303).
  • the image acquisition device 3 repeatedly transmits the image data obtained most recently in the camera 4 (4F, 4B, 4L, 4R) to the portable terminal 8 until receiving the end request signal.
  • the image generation part 81b of the portable terminal 8 can generate a peripheral image showing the state of the periphery of the vehicle 2 in substantially real time based on the most recently obtained image data.
  • the camera control unit 31b determines that the camera 4 (4F, 4B, 4L, 4R) is used. Control is performed to stop photographing (step S304).
  • the camera control unit 31b controls the camera 4 (4F, 4B, 4L, 4R) and stops photographing, the processing by the image acquisition device 3 ends.
  • the position of the virtual viewpoint is changed based on a user operation, and a composite image is displayed.
  • the subject can be easily displayed from the viewpoint desired by the user.
  • the viewpoint position VL is directly above the vehicle 2 and the line-of-sight direction VD is downward ( ⁇ Z side) (that is, in the case of the top view), the left / right direction (horizontal direction) of the user.
  • the movement of the viewpoint position VL with respect to the flick operation is based on the vertical axis (Z axis) of the orthogonal coordinate system cc.
  • the composite image CP is displayed so as to rotate to the left or right.
  • the movement of the viewpoint position VL is based on the axis (Y axis) that is the front and rear of the vehicle 2 in the orthogonal coordinate system cc.
  • the left and right areas of the vehicle 2 including the side surfaces of the vehicle 2 are displayed. Therefore, the user can confirm the left and right areas of the vehicle 2 in detail.
  • FIG. 27 shows the configuration of the mobile terminal 8 in the image display system 1 according to the second embodiment.
  • the main difference from the first embodiment is that the control unit 81 of the mobile terminal 8 includes a coordinate axis conversion unit 81f.
  • the coordinate axis conversion unit 81f converts the coordinate axis serving as a reference for moving the viewpoint position VL from the vertical axis (Z axis) of the orthogonal coordinate system cc to the vehicle longitudinal axis (Y axis). .
  • FIG. 28 and 29 a method of moving the viewpoint position VL in the left-right direction (horizontal direction) when viewing the display from the user in the top view display will be described with reference to FIGS. 28 and 29.
  • FIG. The movement of the viewpoint position VL described below is performed in response to a flick operation in the horizontal direction (horizontal direction) on the touch panel by the user in the top view display.
  • FIG. 28 is a view of the vehicle 2 viewed from the vertically upward direction (+ Z side), and shows a path along which the reference position VLt of the reference virtual viewpoint VPat moves.
  • the reference position VLt moves on the movement route OBth around the movement center point RCt.
  • the movement of the reference position VLt is based on the orthogonal coordinate system cc that is relatively fixed to the virtual viewpoint VP with the position of the movement center point RCt as the origin.
  • the coordinate axis that serves as a reference for movement of the reference position VLt is the Y axis (AXth) of the orthogonal coordinate system cc at the position of the movement center point RCt, that is, the axis along the front-rear direction of the vehicle 2.
  • FIG. 29 is a view of the vehicle 2 as viewed from the rear side ( ⁇ Y side) in the horizontal direction, and shows a path along which the reference position VLt of the reference virtual viewpoint VPat moves, as in FIG.
  • the reference position VLt moves on the movement route OBth around the movement center point RCt.
  • the movement path OBth is circular when viewed from the rear side in the horizontal direction ( ⁇ Y side).
  • the coordinate axis that serves as a reference for the movement of the reference position VLt is the Y axis of the orthogonal coordinate system cc at the position of the movement center point RCt.
  • the reference direction VDt is directed from the reference position VLt to the movement center point RCt no matter where the reference position VLt is located on the movement route OBth. Therefore, when the reference position VLt moves on the movement path OBth, the user looking at the display 83 seems to move the image in the left-right direction (horizontal direction).
  • the reference coordinate axis for the movement of the reference position VLt is the Y axis of the Cartesian coordinate system cc at the position of the movement center point RCt. it can.
  • the travel route OBth is not set below the ground contact surface GR of the vehicle 2. Therefore, the reference position VLt moves on the movement route OBth indicated by the broken line, and the movement route OBtx indicated by the solid line does not move.
  • the reference position VLt moves counterclockwise on the movement route OBth.
  • the reference position VLt moves clockwise on the movement route OBth.
  • the upper diagram in FIG. 30 is an example in which the composite image CPt1 is displayed on the display 83.
  • the composite image CPt1 is an image in which the reference virtual viewpoint VPat is set to the virtual viewpoint VP and the vehicle 2 is viewed from the reference virtual viewpoint VPat. That is, the composite image CPt1 is a composite image when the virtual viewpoint is the top view.
  • the composite image CPt4 is an image when the coordinate axis for moving the viewpoint position VL after the display of the composite image CPt1 is converted from the vertical axis (Z axis) of the orthogonal coordinate system cc to the vehicle longitudinal axis (Y axis), that is, FIG.
  • This is an image in which the reference virtual viewpoint VPat is set by moving counterclockwise on OBth and the vehicle 2 is viewed from the set reference virtual viewpoint VPat.
  • the composite image CPt4 displays the vehicle body image 10 in addition to the surrounding image of the vehicle 2 including the side surface of the vehicle 2.
  • the composite image CPt4 is displayed when a flick operation FH is performed from left to right (horizontal direction) on the touch panel 83a in a state where the composite image CPt1 is displayed.
  • the user can confirm in detail the left and right regions of the vehicle 2 including the side surface of the vehicle 2 by referring to the composite image CPt4.
  • FIG. 31 shows a procedure of processes executed by the image acquisition device 3, the security device 5, and the mobile terminal 8.
  • the difference from the processing procedure according to the first embodiment shown in FIG. 25 is that the processing of step S209 is provided.
  • the image generation unit 81b sets the position of the virtual viewpoint and the direction of the virtual visual field for generating the peripheral image. (Step S204).
  • the image generation unit 81b sets the position of the virtual viewpoint to be directly above the vehicle 2 and the direction of the virtual visual field to be downward (top view).
  • the coordinate axis conversion unit 81f sets a reference axis for moving the viewpoint position VL as the vehicle longitudinal axis (Y axis).
  • step S205 determines whether or not an operation for changing the virtual viewpoint to the reference viewpoint has been performed (step S208).
  • the operation detection unit 81d determines whether any touch panel button indicating the reference viewpoint is touched by the user.
  • step S208 When the operation detection unit 81d determines that an operation to change the virtual viewpoint to the reference viewpoint has been performed (Yes in step S208), the image generation unit 81b executes a coordinate axis setting process (step S209).
  • FIG. 32 shows details of the coordinate axis setting process (step S209).
  • the operation detection unit 81d determines whether or not the virtual viewpoint has been changed to the viewpoint of the top view (step S401).
  • the coordinate axis conversion unit 81f sets the coordinate axis serving as a reference for moving the viewpoint position VL as the vehicle longitudinal axis (Y axis). Setting is made (step S402).
  • the coordinate axis conversion unit 81f sets the coordinate axis serving as a reference for moving the viewpoint position VL to the vertical axis (Z axis). Set (step S403).
  • step S402 or step S403 When step S402 or step S403 is executed, the processing returns to FIG. 31, and the processing after step S204 is executed again.
  • the movement of the viewpoint position VL is based on the axis (Y axis) that is the front and rear of the vehicle 2 in the orthogonal coordinate system cc. .
  • the left and right areas of the vehicle 2 including the side surfaces of the vehicle 2 are displayed. Therefore, the user can confirm the left and right areas of the vehicle 2 in detail.
  • the image acquisition device 3 starts shooting when receiving a request for image transmission from the user.
  • the image acquisition device 3 may start photographing before receiving a request for image transmission from the user, that is, when the monitoring sensor 5a is activated.
  • the user can refer to the situation around the vehicle 2 from when the abnormality of the vehicle 2 occurs such that the monitoring sensor 5a operates.
  • FIG. 33 shows an outline of the image display system 1a in which the image acquisition device 3 starts photographing when the monitoring sensor 5a is activated.
  • the security device 5 transmits a signal requesting the image acquisition device 3 to start photographing.
  • the image acquisition device 3 operates the camera 4 to start photographing. That is, the image acquisition device 3 does not wait for an image transmission request from the user, and starts shooting when an abnormality occurs in the vehicle 2.
  • the image acquisition device 3 transmits the image data to the server SV installed outside. Thereby, image data is preserve
  • FIG. 33 shows an outline of the image display system 1a in which the image acquisition device 3 starts photographing when the monitoring sensor 5a is activated.
  • the user when the user receives an email notifying the occurrence of an abnormality in the vehicle 2 from the security device 5, the user makes a request for image transmission to the server SV.
  • the server SV receives the request for image transmission, the server SV transmits image data from when the abnormality of the vehicle 2 occurs to the portable terminal 8 possessed by the user.
  • the user can refer to the situation around the vehicle 2 when the monitoring sensor 5a is operated, that is, when the abnormality of the vehicle 2 occurs.
  • the server SV is a dedicated server that transmits and receives image data, there is no possibility that the image data is intercepted by others, and the confidentiality of the image data can be improved.
  • the user can request the server SV to transmit the current image data when he / she wants to confirm the current situation around the vehicle 2.
  • the server SV omits transmission of the image data from the time of occurrence of the abnormality to the present, and transmits the current image data.
  • the image acquisition device 3, the camera 4, the security device 5, and the alarm device 6 are mounted on the vehicle 2.
  • these devices may be installed on land, buildings, and articles to be monitored such as houses and buildings.
  • the user performs an input operation through the touch panel.
  • the input operation by the user can be determined, the user may perform the input operation through a push button type switch such as a cross key.
  • the image acquisition device 3 and the mobile terminal 8 are separate devices. However, the image acquisition device 3 and the mobile terminal 8 may be configured as an integrated device.
  • each function in the image display system 1 is realized as software according to a program.
  • each function in the image display system 1 may be realized as an electrical hardware circuit.

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)
  • Processing Or Creating Images (AREA)
  • Image Analysis (AREA)

Abstract

 複数のカメラで撮影された被写体の複数の画像が取得される。当該複数の画像が合成され、当該被写体を仮想視点から見た合成画像が生成される。当該合成画像は、画面(83)に表示される。当該仮想視点の位置を変更するユーザ操作が検出されると、合成画像における仮想視点の位置が変更される。

Description

画像表示装置、画像表示システム、画像表示方法、及び、プログラム
 本発明は、車両周辺を示す画像を表示する技術に関する。
 自動車等の車両周辺を撮影した画像を合成し、仮想的な視点から車両周辺を見た様子を表示する技術が知られている。このような技術により、ユーザ(代表的には運転者)は、車両内に居ながらにして車両周辺の状況を確認できる。
 また、このような画像をユーザの携帯する携帯端末に送信する技術が提案されている(例えば、特許文献1を参照)。ユーザは、このような画像を視認することで、車両から遠隔に所在しても、車両の状態や盗難の恐れを把握できる。
日本国特許出願公開2012-121384号公報
 しかしながら、提案された技術においては、車両周辺を見る視点が限定されているため、必ずしもユーザの希望する角度から周辺画像を視認できない場合がある。このため、例えば車両付近に不審者が接近している画像を携帯端末上で確認しても、不審者がどのような人物であるか、どのような行動をしているかは明確に判明せず、却ってユーザの不安を助長する場合がある。
 したがって、本発明は、仮想的な視点から車両周辺を示す画像を表示する場合において、ユーザが希望する視点に仮想視点を変更できるようにすることを目的とする。
 上記の目的を達成するために、本発明がとりうる第1の態様は、画像表示装置であって、
 複数のカメラで被写体をそれぞれ撮影した複数の画像を取得する取得部と、
 前記複数の画像を合成し、前記被写体を仮想視点から見た合成画像を生成する生成部と、
 前記合成画像を画面に表示させる表示制御部と、
 前記画面に表示された合成画像の前記仮想視点の位置を変更させるユーザ操作を検出する検出部と、
を備えており、
 前記生成部は、前記ユーザ操作に基づいて、前記合成画像の仮想視点の位置を変更する。
 このような構成によれば、ユーザの操作に基づいて合成画像の仮想視点の位置を変更するので、ユーザの望む視点から容易に被写体を表示できる。
 前記画像表示装置において、前記合成画像は、前記仮想視点の位置によらず、前記被写体における特定の位置に設定された基準点を当該仮想視点の位置から見た画像である構成とされうる。
 このような構成によれば、ユーザ自身が被写体を見ながら移動しているかのような合成画像を提供できる。
 前記画像表示装置において、前記複数のカメラは、車両に設置されうる。この場合、前記生成部は、前記車両について前記基準点を原点とするワールド座標系、および前記仮想視点について前記基準点を原点とする視点座標系に基づき、前記仮想視点の位置を変更する構成とされうる。
 このような構成によれば、様々な方向および位置から被写体を表示できる。
 前記画像表示装置は、前記基準点の位置をユーザにより設定可能な構成とされうる。
 このような構成によれば、ユーザの希望する角度で被写体を表示できる。
 前記画像表示装置において、前記生成部は、前記ユーザ操作が前記画面における水平方向を示す操作である場合、前記ワールド座標系における鉛直方向の軸を中心として、前記仮想視点の位置を変更する構成とされうる。
 このような構成によれば、ワールド座標系における鉛直方向の軸を中心として、簡易な操作で、仮想視点の位置を変更できる。
 前記画像表示装置において、前記生成部は、前記ユーザ操作が前記画面における垂直方向を示す操作である場合、前記視点座標系における水平方向の軸を中心として、前記仮想視点の位置を変更する構成とされうる。
 このような構成によれば、視点座標系における水平方向の軸を中心として、簡易な操作で、仮想視点の位置を変更できる。
 前記画像表示装置において、前記生成部は、前記視点座標系における水平方向の軸を中心に前記仮想視点の位置を変更する場合は、前記被写体の接地面よりも上側の範囲で前記仮想視点の位置を変更する構成とされうる。
 このような構成によれば、適切な視点位置を設定できる。
 前記画像表示装置において、前記複数のカメラは、車両に設置されうる。この場合、前記車両の直上に位置する前記仮想視点から前記基準点を見ている場合に前記画面における水平方向を示すユーザ操作がなされると、前記生成部は、前記車両の前後方向に沿った軸を中心として、前記仮想視点の位置を変更する構成とされうる。
 このような構成によれば、車両の直上から側面へ仮想視点の位置を変更するので、違和感なく視野角度を変化させつつ被写体を表示できる。
 上記の目的を達成するために、本発明がとりうる第2の態様は、画像表示システムであって、
 画像取得装置と、
 前記画像取得装置と通信可能な画像表示装置と、
を備えており、
 前記画像取得装置は、
  複数のカメラで被写体をそれぞれ撮影した複数の画像を取得する取得部と、
  前記複数の画像を送信するよう要求する要求信号を、前記画像表示装置から受信する要求受信部と、
  前記要求信号に基づき、前記複数の画像を前記画像表示装置へ送信する画像送信部と、
を備えており、
 前記画像表示装置は、
  前記複数の画像を送信するよう要求する前記要求信号を、前記画像取得装置へ送信する要求送信部と、
  前記複数の画像を前記画像取得装置から受信する画像受信部と、
  前記複数の画像を合成し、仮想視点から前記被写体を見た合成画像を生成する生成部と、
  前記合成画像を画面に表示させる表示制御部と、
  前記画面に表示された合成画像の前記仮想視点の位置を変更させるユーザ操作を検出する検出部と、
を備えており、
  前記生成部は、前記ユーザ操作に基づき、前記合成画像の仮想視点を変更する。
 このような構成によれば、ユーザの操作に基づいて合成画像の仮想視点の位置を変更するので、ユーザの望む視点から容易に被写体を表示できる。
 前記画像表示システムにおいて、前記画像取得装置は、車両に設置されうる。この場合、前記被写体は前記車両の周辺の様子でありうる。また、前記画像表示システムは、前記車両の盗難に繋がる事前現象を検出するセキュリティ装置を備えうる。前記セキュリティ装置は、前記事前現象を検出する監視部と、前記事前現象を検出した旨を前記画像表示装置へ通知する通知部と、を備えうる。
 このような構成によれば、画像表示装置のユーザは、車両から遠隔に所在しても、車両の盗難に繋がる事前現象が発生したことを認識でき、速やかに車両周辺の様子を画面で確認できる。
 上記の目的を達成するために、本発明がとりうる第3の態様は、画像表示方法であって、
 (a)複数のカメラで被写体をそれぞれ撮影した複数の画像を取得するステップと、
 (b)前記複数の画像を合成し、前記被写体を仮想視点から見た合成画像を生成するステップと、
 (c)前記合成画像を画面に表示させるステップと、
 (d)前記画面に表示された合成画像の前記仮想視点の位置を変更させるユーザ操作を検出するステップと、
を備えており、
 前記ステップ(b)においては、前記ユーザ操作に基づき、前記合成画像の仮想視点の位置を変更する。
 このような構成によれば、ユーザの操作に基づいて合成画像の仮想視点の位置を変更するので、ユーザの望む視点から容易に被写体を表示できる。
 上記の目的を達成するために、本発明がとりうる第4の態様は、画像を表示する画像表示装置に含まれるコンピュータによって実行可能なプログラムであって、
 前記コンピュータに、
  (a)複数のカメラで被写体をそれぞれ撮影した複数の画像を取得するステップと、
  (b)前記複数の画像を合成し、前記被写体を仮想視点から見た合成画像を生成するステップと、
  (c)前記合成画像を画面に表示させるステップと、
  (d)前記画面に表示された合成画像の前記仮想視点の位置を変更させるユーザ操作を検出するステップと、
を実行させ、
  前記ステップ(b)においては、前記ユーザ操作に基づき、前記合成画像の仮想視点の位置を変更する。
 このような構成によれば、ユーザの操作に基づいて合成画像の仮想視点の位置を変更するので、ユーザの望む視点から容易に被写体を表示できる。
図1は、第1の実施形態に係る画像表示システムの概要を示す図である。 図2は、図1の画像表示システムが備える携帯端末を示す図である。 図3は、図1の画像表示システムの構成を示すブロック図である。 図4は、図1の画像表示システムが備えるカメラの配置を説明する図である。 図5は、図2の携帯端末の構成を示すブロック図である。 図6は、図1の画像表示システムにおいて周辺画像および合成画像を生成する手法を説明する図である。 図7は、図1の画像表示システムにおける仮想視点の位置を示す図である。 図8は、図1の画像表示システムにおける仮想視点の位置を示す図である。 図9は、図1の画像表示システムにおける仮想視点の動きを説明する図である。 図10は、図1の画像表示システムにおける仮想視点の動きを説明する図である。 図11は、図1の画像表示システムにおける仮想視点の動きを説明する図である。 図12は、図1の画像表示システムにおける仮想視点の動きを説明する図である。 図13は、図1の画像表示システムにおける表示画像を例示する図である。 図14は、図1の画像表示システムにおける表示画像を例示する図である。 図15は、図1の画像表示システムにおける表示画像を例示する図である。 図16は、図1の画像表示システムにおける表示画像を例示する図である。 図17は、図1の画像表示システムにおける表示画像を例示する図である。 図18は、図1の画像表示システムにおける表示画像を例示する図である。 図19は、図1の画像表示システムにおける表示画像を例示する図である。 図20は、図1の画像表示システムにおける表示画像を例示する図である。 図21は、図1の画像表示システムにおける表示画像を例示する図である。 図22は、図1の画像表示システムにおける表示画像を例示する図である。 図23は、図1の画像表示システムにおける表示画像を例示する図である。 図24は、図1の画像表示システムにおける表示画像を例示する図である。 図25は、図1の画像表示システムによる処理手順を示すフローチャートである。 図26は、図1の画像表示システムによる処理手順を示すフローチャートである。 図27は、第2の実施形態に係る画像表示システムにおける携帯端末の構成を示すブロック図である。 図28は、図27の画像表示システムにおける仮想視点の動きを説明する図である。 図29は、図27の画像表示システムにおける仮想視点の動きを説明する図である。 図30は、図27の画像表示システムにおける表示画像を例示する図である。 図31は、図27の画像表示システムによる処理手順を示すフローチャートである。 図32は、図27の画像表示システムによる処理手順を示すフローチャートである。 図33は、画像表示システムの変形例を示す図である。
 以下、図面を参照しつつ本発明の実施形態について説明する。
 <1.第1の実施形態>
  <1-1.概要>
 図1は、本発明の一実施形態に係る画像表示システム1の概要を示している。画像表示システム1は、車両2に搭載された画像取得装置3とカメラ4(4F、4B、4L、4R)を備えている。画像表示システム1は、画像取得装置3がカメラ4(4F、4B、4L、4R)から取得した車両2周辺の画像を、携帯端末8に表示させるシステムである。携帯端末8は、車両2から遠隔に所在するユーザにより所有されている。
 このようなシステムにおいて、車両2には、監視センサを備えたセキュリティ装置5が設置される。監視センサは、不審者SIが車両2への異常に接近した場合や、車両2に対して物理的な危害を加えた場合に作動し、セキュリティ装置5は、監視センサが作動した旨をユーザに通知する。セキュリティ装置5から通知を受けたユーザは、画像取得装置3に画像の送信を要求し、携帯端末8に車両2周辺の画像を表示させる。この際、ユーザは、画像の表示される範囲を自在に変更し、所望する角度から車両2周辺の状況を参照する。
 図2は、車両2周辺の画像を表示させるディスプレイ83を有する携帯端末8の例を示している。ユーザは、ディスプレイ83のタッチパネル83aを操作することにより、画像の表示範囲を変え、危惧する個所を詳細に点検できる。ユーザは、車両2周辺の画像を参照し、必要に応じて遠隔から車両2のアラームを作動させたり、警備会社へ通報したりできる。このような画像表示システム1を用いることにより、ユーザは車両2から遠隔に所在した場合であっても、自らの所有する車両2を常時安全に維持できる。
  <1-2.構成>
 次に、図3を参照しつつ、車両2に搭載されて画像表示システム1を構成する各装置について説明する。車両2は、画像取得装置3、カメラ4、セキュリティ装置5、および警報器6を備えている。
 画像取得装置3は、車両に設置されたカメラ4から画像データを受信し、受信した画像データを携帯端末8へ送信する電子制御装置である。画像取得装置3は、制御部31、通信部32、および記憶部33を備えている。
 制御部31は、CPU、RAM、およびROMを備えたマイクロコンピュータである。制御部31は、画像取得装置3が備える他の構成と通信可能に接続され、装置全体の動作を制御する。制御部31は、要求受信部31a、カメラ制御部31b、画像取得部31c、画像送信部31d、および盗難防止部31eを備えている。
 要求受信部31aは、携帯端末8を所持するユーザから、カメラ4の作動と撮影開始を要求する要求信号を受信する。
 カメラ制御部31bは、要求受信部31aがユーザから撮影開始の要求信号を受信すると、カメラ4に作動信号を送信し、カメラ4に撮影を開始させる。
 画像取得部31cは、カメラ4から送信される画像データを取得し、取得した画像データを、制御部31で処理可能な形式に変換する。
 画像送信部31dは、画像取得部31cがカメラ4から取得した画像データを、通信部32を介して携帯端末8へ送信する。
 盗難防止部31eは、警報器6に作動信号を送信し、警報器6に警報を行なわせる。これにより、車両2が盗難されるのを防止する。なお、盗難防止部31eは、警報器6に警報を行なわせると共に、エンジン制御装置(図示せず)を制御し、エンジンが作動しないようにしてもよい。また、盗難防止部31eは、通信部32を介して警備会社へ通報してもよい。要するに、盗難防止部31eは、車両2に備わる機器を利用し、車両2の盗難が防止されるよう機能すればよい。
 通信部32は、無線通信を利用した通信機能を備え、ネットワーク7を介して携帯端末8と情報通信を行なう。使用する情報通信技術の例としては、、WiMAX(Worldwide Interoperability for Microwave Access)やLTE(Long Term Evolution)等が挙げられる。
 記憶部33は、データを記憶するメモリである。例えば、EEPROM(Electrical Erasable Programmable Read-Only memory)や、フラッシュメモリ、磁気ディスクを備えたハードディスクドライブ等の不揮発性の記憶媒体である。また、記憶部33は、プログラム33aを記憶している。
 プログラム33aは、制御部31により読み出され、制御部31が画像取得装置3を制御するために実行されるファームウェアである。
 次に、カメラ4を説明する。カメラ4は、フロントカメラ4F、リアカメラ4B、左サイドカメラ4L、および右サイドカメラ4Rを含んでいる。各カメラ(4F、4B、4L、4R)は、レンズと撮像素子とを備え、車両2の異なる位置に配置されている。
 図4は、カメラ4(4F、4B、4L、4R)が車両2に配置される位置と、各カメラの光軸が向けられる方向とを示している。フロントカメラ4Fは、車両2の前端部に設置され、その光軸4Faが車両2の直進方向に向けられる。リアカメラ4Bは、車両2の後端部に設置され、その光軸4Baが車両2の直進方向と反対の方向、すなわち後進方向に向けられる。左サイドカメラ4Lは、左側のサイドミラーMLに設置され、その光軸4Laが車両2の左方向(直進方向に対する直交方向)に向けられる。また、右サイドカメラ4Rは、右側のサイドミラーMRに設置され、その光軸4Raが車両2の右方向(直進方向に対する直交方向)に向けられる。
 各カメラ4F、4B、4L、4Rは、車両2周辺の異なる方向を撮影し、撮影画像を電子的に取得する。カメラ4の備えるレンズは、標準的なレンズよりも焦点距離が比較的短く、180度以上の画角θを有する。このため、4つのカメラ4を用いることで、車両2の全周囲を撮影できる。
 図3に示すように、セキュリティ装置5は、車両2や車両2内の物品に対する盗難に繋がる事前現象を検出し、盗難の恐れが発生した旨を車両2のユーザの所持する携帯端末8へ電子メールで通知する装置である。セキュリティ装置5は、監視センサ5aおよびメール通知部5bを備えている。
 監視センサ5aは、車両2や車両2内の物品に対する盗難に繋がる事前現象を検出するセンサである。例えば、車両2に発生した振動を検出する振動センサや、車両2のガラスの破壊を検出するガラス割れセンサ、ジャッキやクレーンによる車両2の傾きを検出する傾斜センサ、車両2内への侵入者を検出する侵入センサ等である。
 メール通知部5bは、監視センサ5aが盗難に繋がる事前現象を検出すると、盗難の恐れが発生した旨をユーザへ通知する。具体的には、メール通知部5bは、盗難の恐れが発生した旨を内容とする電子メールを生成し、ユーザの携帯する携帯端末8へ電子メールを送信する。電子メールを利用した文字情報でなく、音声情報で通知してもよい。この場合、携帯端末8で音声情報を読み上げればよい。セキュリティ装置5が複数の監視センサを備える場合、メール通知部5bは、いずれの監視センサが盗難に繋がる事前現象を検出したのかを電子メールに含めることが好ましい。ユーザが車両2の状況を把握し易くするためである。
 警報器6は、周囲に音声を発し、警告を行なう装置である。警報器6は、例えば、車両2に搭載されたスピーカやホーンである。警報器6は、音声を発するもののほか、車両2に搭載された警告灯などの光を発するものでもよい。要するに、警報器6は、周囲に注意を喚起し、警告を行なうものであればよい。
 携帯端末8は、ユーザに携帯され、画像を表示する機能や情報ネットワークと接続する機能等を備える情報端末である。例えば、携帯端末8は、携帯電話やスマートフォンである。図5は、携帯端末8の構成を示している。携帯端末8は、制御部81、通信部82、ディスプレイ83、および記憶部84を備えている。
 制御部81は、CPU、RAM、およびROMを備えたマイクロコンピュータである。制御部81は、携帯端末8が備える他の構成と通信可能に接続され、携帯端末8全体の動作を制御する。制御部81の備える各機能は後述する。
 通信部82は、無線通信を利用した通信機能を備え、ネットワーク7を介して画像取得装置3およびセキュリティ装置5と情報通信を行なう。使用する無線通信技術の例としては、WiMAX(Worldwide Interoperability for Microwave Access)やLTE(Long Term Evolution)等が挙げられる。
 ディスプレイ83は、文字や図形等の各種情報を表示し、ユーザに情報を視覚的に提示する。ディスプレイ83は、例えば、液晶ディスプレイや、プラズマディスプレイ、有機ELディスプレイ等の表示装置である。ディスプレイ83は、タッチパネル83aを備えている。
 タッチパネル83aは、ディスプレイ83に表示されたボタン領域へのユーザの接触を感知し、感知した位置情報を制御部81へ送信する。
 記憶部84は、データを記憶するメモリである。記憶部84は、例えば、EEPROM(Electrical Erasable Programmable Read-Only memory)や、フラッシュメモリ、磁気ディスクを備えたハードディスクドライブ等の不揮発性の記憶媒体である。記憶部84は、車体画像データ84aおよびプログラム84bを記憶している。
 車体画像データ84aは、車両2の外観を示す画像データである。車体画像データ84aは、車両2を外部のあらゆる角度から見た場合の画像データを含んでいる。なお、車体画像データ84aは、予め携帯端末8に記憶せず、画像取得装置3を車両2に取り付けた後、ネットワーク7を介して外部サーバから取得してもよい。この場合、画像取得装置3を取り付けた車両2の外観に合致する車体画像データ84aを取得できる。ユーザは、携帯端末8から外部サーバへ車両2の車種名等を送信し、車体画像データ84aを要求すればよい。
 プログラム84bは、制御部81により読み出され、制御部81が携帯端末8を制御するために実行されるファームウェアである。
 前述の制御部81が備える各機能を説明する。制御部81は、画像取得部81a、画像生成部81b、表示制御部81c、および操作検出部81dを備えている。
 画像取得部81aは、画像取得装置3から送信される画像データを取得し、取得した画像データを制御部81で処理可能な形式に変換する。すなわち、画像取得部81aは、複数のカメラ4で被写体をそれぞれ撮影した複数の画像を取得する。
 画像生成部81bは、カメラ4で取得された複数の撮影画像を合成し、仮想視点から見た車両2周辺の様子を示す周辺画像を生成する。仮想視点は、車両2外部の位置から車両2を俯瞰する視点である。また、画像生成部81bは、仮想視点から見た車両2を示す車体画像を周辺画像に重畳する。画像生成部81bによる周辺画像の生成手法および仮想視点の設定手法は後述する。
 表示制御部81cは、画像や文字等のデータをディスプレイ83に表示する。また、表示制御部81cは、タッチパネル83aに入力されるタッチ位置に基づき、ディスプレイ83に表示する画像等を変化させる。
 操作検出部81dは、ユーザのタッチパネル83aに対する操作を検出する。具体的には、操作検出部81dは、タッチパネル83aから送信されるタッチ位置情報により、ユーザの指先がタッチパネル83aに接触後、タッチパネル83a上のどの方向へ移動しているかを検出する。
 ユーザのタッチパネル83aに対する操作の例としては、指先をタッチパネル83aに接触させたままスライドさせる、いわゆるフリック操作、2本の指先をタッチパネル83aに接触させたまま指先と指先の間隔を縮める、いわゆるピンチイン操作、2本の指先をタッチパネル83aに接触させたまま指先と指先の間隔を広げる、いわゆるピンチアウト操作が挙げられる。
 通知部81eは、通信部82を介して携帯端末8の外部の装置へ所定の信号を送信する。通知部81eが送信する信号の例としては、画像取得装置に対して画像データの送信を要求する信号等が挙げられる。
  <1-3.周辺画像および合成画像の生成>
 次に、画像生成部81bが、車両2の周辺領域を示す周辺画像AP、および周辺画像APに車体画像10を重畳した合成画像CPを生成する手法を説明する。図6は、画像生成部81bが周辺画像APを生成する手法を示している。
 まず、フロントカメラ4F、リアカメラ4B、左サイドカメラ4L、および右サイドカメラ4Rの各々が車両2周辺を撮影すると、車両2の前方、後方、左側方、および右側方を各々示す4つの画像AP(F)、AP(B)、AP(L)、AP(R)が取得される。これら4つの画像は、車両2の全周囲を示す画像データを含んでいる。
 画像生成部81bは、これら4つの画像AP(F)、AP(B)、AP(L)、AP(R)に含まれるデータ(各画素の値)を、仮想的な三次元空間における立体曲面である投影面TSに投影する。投影面TSは、例えば、略半球状(お椀形状)である。この投影面TSの中心部(お椀の底部分)は、車両2の存在位置である。また、投影面TSの中心部以外の部分は、画像AP(F)、AP(B)、AP(L)、AP(R)のいずれかと対応付けられる。
 画像生成部81bは、投影面TSの中心部以外の部分に、周辺画像AP(F)、AP(B)、AP(L)、AP(R)を投影する。画像生成部81bは、投影面TSにおける車両2前方に相当する領域にフロントカメラ4Fの画像AP(F)を投影し、車両2後方に相当する領域にリアカメラ4Bの画像AP(B)を投影する。さらに、画像生成部81bは、投影面TSにおける車両2左側方に相当する領域に左サイドカメラ4Lの画像AP(L)を投影し、車両2右側方に相当する領域に右サイドカメラ4Rの画像AP(R)を投影する。これにより、車両2全周囲の領域を示す周辺画像APが生成される。
 次に、画像生成部81bは、この三次元空間における任意の視点位置から任意の視線方向を向く仮想視点VPを設定する。そして、投影面TSのうち、設定した仮想視点VPから見た視野角に含まれる領域に投影された画像データを切り出す。切り出した画像データにより、仮想視点VPから見た車両2周辺の領域を示す周辺画像APが生成される。
 画像生成部81bは、記憶部84から車体画像データを読み出し、仮想視点VPから見た車両2の車体画像10を生成する。そして、仮想視点VPから見た車両2周辺の領域を示す周辺画像APに車体画像10を合成し、合成画像CPを生成する。
 画像生成部81bは、視点位置を車両2の直上、視線方向を直下とした仮想視点VPtを設定した場合、周辺画像AP(F)、AP(B)、AP(L)、AP(R)および車体画像10を用いて、車両2および車両2の周辺領域を俯瞰する合成画像CPtを生成する。合成画像CPtは、車両2を直上から見下ろしたような画像であり、車両2周囲の領域を示している。
 また、画像生成部81bは、視点位置を車両2の前方上方、視線方向を車両2の後方下向きとした仮想視点VPbを設定した場合、周辺画像AP(B)、AP(L)、AP(R)および車体画像10を用いて、車両2および車両2の周辺領域を俯瞰する合成画像CPbを生成する。合成画像CPbは、車両2を前方上方から後方を見下ろしたような画像であり、車両2後方の領域を示している。
 また、画像生成部81bは、視点位置を車両2の左斜め後方かつ上方、視線方向を車両2の前方下向きとした仮想視点VPlを設定した場合、周辺画像AP(F)、AP(L)、AP(R)および車体画像10を用いて、車両2および車両2の周辺領域を俯瞰する合成画像CPlを生成する。合成画像CPlは、車両2を左斜め後方かつ上方から前方を見下ろしたような画像であり、車両2左側の領域を示している。
  <1-4.仮想視点の設定>
 次に、画像生成部81bが、仮想視点VPを設定する手法を詳細に説明する。図7から図12は、画像生成部81bが、仮想視点VPを設定する手法を示している。なお、各図において、3次元のXYZ直交座標系ccを用い、方向および向きを適宜示している。直交座標系ccの各座標軸は、車両2に対して相対的に固定されている。すなわち、車両2の左右方向がX軸方向、車両2の前後方向がY軸方向、鉛直方向がZ軸方向とされる。また、車両2の右方側が+X側、車両2の前方側が+Y側、鉛直上側が+Z側とされる。したがって、車両2の左方側が-X側、は車両2の後方側が-Y側、鉛直下側が-Z側とされる。
 図7は、車両2を鉛直上方向(+Z側)から見た図であり、仮想視点VPのうち基準となる5つの基準仮想視点VPa(VPat、VPaf、VPab、VPal、VPar)を示している。
 5つの基準仮想視点VPaは各々、5つの基準位置(VLt、VLf、VLb、VLl、VLr)、5つの移動中心点RC(RCt、RCf、RCb、RCl、RCr)、および5つの基準方向(VDt、VDf、VDb、VDtl、VDr)を含んでいる。
 基準位置VLtは、車両2の直上に位置する。基準位置VLfは、車両2の直上のやや前方(+Y側)に位置する。基準位置VLbは、車両2の直上のやや後方(-Y側)に位置する。基準位置VLlは、車両2の左斜め後方(-Y側かつ-X側)に位置する。基準位置VLrは、車両2の右斜め後方(+X側かつ-Y側)に位置する。各基準位置VLの高さ(+Z側)は、車両2の接する接地面GRから同一の高さである。例えば、車高の2倍の高さである。
 図8は、車両2を水平方向右側(+X側)から見た図であり、移動中心点RCおよび基準方向VDを説明する図である。移動中心点RCは、仮想視点VPが移動する際の中心となる基準点である。したがって、仮想視点VPの視点位置が移動しても、視線方向は常に移動中心点RCを向く。このような構成によれば、ユーザ自身が被写体を見ながら移動しているかのような合成画像を提供できる。移動中心点RCを用いた仮想視点VP視点位置を移動させる手法は後述する。
 移動中心点RCtは、車両2の特定位置に設定された特定点である。移動中心点RCtは、車両2の中心に位置する。移動中心点RCfは、車両2の左右中心、かつ車両2の前端やや前方(+Y側)に位置する。移動中心点RCbは、車両2の左右中心、かつ車両2の後端やや後方(-Y側)に位置する。移動中心点RClは、車両2の前後中心、かつ車両2のやや左外側(-X側)に位置する。移動中心点RCrは、車両2の前後中心、かつ車両2のやや右外側(+X側)に位置する。各移動中心点RCの高さ(+Z側)は、車両2に着座したユーザの目線の高さhである。
 基準方向VDtは、基準位置VLtから移動中心点RCtの方向(-Z側)を向く。基準方向VDfは、基準位置VLfから移動中心点RCfの方向(-Z側かつ+Y側)を向く。基準方向VDbは、基準位置VLbから移動中心点RCbの方向(-Z側かつ-Y側)を向く。基準方向VDlは、基準位置VLlから移動中心点RClの方向(-Z側かつ+Y側)を向く。基準方向VDrは、基準位置VLrから移動中心点RCrの方向(-Z側かつ+Y側)を向く。
 このように、仮想視点VPは、視点位置VLから移動中心点RCを見た視点である。また、基準仮想視点VPatは、車両2を直上から俯瞰する視点(トップビュー)である。基準仮想視点VPafは、車両2を前方かつ上方から車両2前方を見る視点である(フロントビュー)。基準仮想視点VPabは、車両2を後方かつ上方から車両2後方を見る視点(バックビュー)である。基準仮想視点VPalは、車両2を左斜め後方かつ上方から車両2の左側領域を見る視点(左サイドビュー)である。基準仮想視点VParは、車両2を右斜め後方かつ上方から車両2の右側領域を見る視点(右サイドビュー)である。
 このような基準仮想視点VPaは、ユーザにより選択される。ユーザによる選択は、各基準仮想視点VPaと対応付けられたタッチパネルボタンへのタッチ操作により選択される。すなわち、合成画像CPがディスプレイに表示されている際、ユーザによりいずれかの基準仮想視点VPaが選択されると、画像生成部81bは、かかる基準仮想視点VPaから見た合成画像を生成する。これにより、仮想視点の位置を様々に変化させた後で基準仮想視点VPaに仮想視点を戻せなくなった場合でも、ユーザは、タッチパネルボタンへのタッチ操作により容易に仮想視点を基準仮想視点VPaに設定できる。
 なお、ユーザの視点選択前の画像表示初期においては、基準仮想視点VPaのうちいずれかの視点が予め設定される。この際、車両2を直上から俯瞰する基準仮想視点VPatで合成画像CPを生成することが好ましい。車両2周辺の広い領域をユーザに提示でき、初期表示として好適だからである。
 次に、移動中心点RCを用いた視点位置VLを移動させる手法について説明する。まず、ユーザからディスプレイを見て左右方向(水平方向)に視点位置VLを移動させる手法について、図9および図10を参照して説明する。以下で説明する視点位置VLの移動は、ユーザによるタッチパネルへの左右方向(水平方向)のフリック操作に対応して行なわれる。
 図9は、車両2を鉛直上方向(+Z側)から見た図であり、基準仮想視点VPalの基準位置VLlが移動する経路を示している。基準位置VLlは、移動中心点RClを中心に移動経路OBlhを移動する。視点位置VLの移動は、移動中心点RClの位置を原点とする車両2に相対的に固定される直交座標系cc(ワールド座標系)を基準とする。基準位置VLlの移動する基準となる座標軸は、移動中心点RClの位置における直交座標系ccのZ軸である。
 図10は、車両2を水平方向右側(+X側)から見た図であり、図9と同様に基準仮想視点VPalの基準位置VLlが移動する経路を示している。基準位置VLlは、移動中心点RClを中心に移動経路OBlhを移動する。基準位置VLlの移動する基準となる座標軸は、移動中心点RCの位置における直交座標系ccのZ軸(AXl)である。
 図9および図10において、基準方向VDlは、基準位置VLlが移動経路OBlhのどこに位置しても、基準位置VLlから移動中心点RClの方向を向く。したがって、基準位置VLlが移動経路OBlh上を移動すると、ディスプレイ83を見ているユーザは、画像が横方向に移動しているように見える。
 また、ユーザがタッチパネル83aに対し、左方向から右方向へ(水平方向)のフリック操作を行なった場合、基準位置VLlは、移動経路OBlh上を反時計回りに移動する。一方、ユーザがタッチパネル83aに対し、右方向から左方向へ(水平方向)のフリック操作を行なった場合、基準位置VLlは、移動経路OBlh上を時計回りに移動する。これにより、ユーザのフリック操作の方向と画像の移動する方向とが一致し、ユーザは直感的にタッチパネル操作を行なうことができる。
 次に、ユーザからディスプレイを見て上下方向(垂直方向)に視点位置VLを移動させる手法について、図11および図12を参照して説明する。以下で説明する視点位置VLの移動は、ユーザによるタッチパネルへの上下方向(垂直方向)のフリック操作に対応して行なわれる。
 なお、図11および図12においては、3次元のXYZ直交座標系ccに加えて3次元のXYZ直交座標系VPcc(視点座標系)をさらに用い、方向および向きを適宜示している。直交座標系VPccの各座標軸は、仮想視点VPに対して相対的に固定されている。すなわち、仮想視点VPの左右方向がX軸(VPx)方向、仮想視点VPの前後方向がY軸(VPy)方向、仮想視点VPの垂直方向がZ軸(VPz)方向とされる。また、仮想視点VPの右方側が+X側、仮想視点VPの前方側が+Y側、仮想視点VPの垂直上側が+Z側とされる。したがって、仮想視点VPの左方側が-X側、仮想視点VPの後方側が-Y側、垂直下側が-Z側とされる。
 図11は、車両2を鉛直上方向(+Z側)から見た図であり、基準仮想視点VPalの基準位置VLlが移動する経路を示している。基準位置VLlは、移動中心点RClを中心に移動経路OBlvを移動する。視点位置VLの移動は、移動中心点RClの位置を原点とする仮想視点VPに相対的に固定される直交座標系VPccを基準とする。基準位置VLlの移動する基準となる座標軸は、移動中心点RClの位置における直交座標系VPccのX軸(AXlv)である。
 図12は、車両2を水平方向左側(-X側)から見た図であり、図11と同様に基準仮想視点VPalの基準位置VLlが移動する経路を示している。基準位置VLlは、移動中心点RClを中心に移動経路OBlvを移動する。基準位置VLlの移動する基準となる座標軸は、移動中心点RCの位置における直交座標系ccのX軸である。
 図11および図12において、基準方向VDlは、基準位置VLlが移動経路OBlvのどこに位置しても、基準位置VLlから移動中心点RClの方向を向く。したがって、基準位置VLlが移動経路OBlv上を移動すると、ディスプレイ83を見ているユーザは、画像が上下方向に移動しているように見える。
 なお、移動経路OBlvは、車両2の接地面GRより上側に設定される。したがって、基準位置VLlは、破線で示した移動経路OBlvを移動し、実線で示した移動経路OBlxは移動しない。これにより、車両2を接地面下から見るという、通常起こり得ない視点位置からの画像表示を防止できる。ユーザは違和感なく視点位置を移動できる。
 また、ユーザがタッチパネル83aに対し、上方向から下方向へ(垂直方向)のフリック操作を行なった場合、基準位置VLlは、移動経路OBlv上を時計回りに移動する。一方、ユーザがタッチパネル83aに対し、下方向から上方向へ(垂直方向)のフリック操作を行なった場合、基準位置VLlは、移動経路OBlv上を反時計回りに移動する。これにより、ユーザのフリック操作の方向と画像の移動する方向とが一致し、ユーザは直感的にタッチパネル操作を行なうことができる。
  <1-5.合成画像の表示例>
 次に、ディスプレイ83に表示される合成画像CPの例について、図13から図24を参照して説明する。
 図13は、合成画像CPt1が、ディスプレイ83に表示された例である。合成画像CPt1は、仮想視点VPに基準仮想視点VPatが設定され、基準仮想視点VPatから車両2を見た画像である。合成画像CPt1は、車両2の周囲を示す周辺画像に加え車体画像10を表示する。合成画像CPt1は、ユーザが車両2の周囲を示すタッチパネルボタンTB13にタッチ操作した場合、および合成画像CPの初期表示の場合に表示される。ユーザは、合成画像CPt1を参照することで、車両2周囲の状況を一覧で確認できる。
 図14は、合成画像CPt2が、ディスプレイ83に表示された例である。合成画像CPt2は、合成画像CPt1(図13)の表示後に図9のOBlh上を時計回りに移動させて基準仮想視点VPatを設定し、設定された基準仮想視点VPatから車両2を見た画像である。合成画像CPt2は、ユーザからディスプレイ83を見て左方向に回転して表示された車両2の周囲を示す周辺画像に加え、車体画像10を表示する。合成画像CPt2は、合成画像CPt1(図13)が表示された状態で、タッチパネル83aに対し、左方向から右方向へ(水平方向)フリック操作FHが行われた場合に表示される。ユーザは、合成画像CPt2を参照することで、車両2周囲の状況を合成画像CPt1とは異なる角度から確認できる。
 図15は、合成画像CPt3が、ディスプレイ83に表示された例である。合成画像CPt3は、合成画像CPt1(図13)の表示後に図12のOBlh上を反時計回りに移動させて基準仮想視点VPatを設定し、設定された基準仮想視点VPatから車両2を見た画像である。合成画像CPt3は、車両2の前端直下を含めて表示される。合成画像CPt3は、合成画像CPt1(図13)が表示された状態で、タッチパネル83aに対し、上方向から下方向へ(垂直方向)フリック操作FVが行われた場合に表示される。ユーザは、合成画像CPt3を参照することで、車両2周囲の状況を、車両2の前端直下を含めて確認できる。
 図16は、合成画像CPf1が、ディスプレイ83に表示された例である。合成画像CPf1は、仮想視点VPに基準仮想視点VPafが設定され、基準仮想視点VPafから車両2を見た画像である。合成画像CPf1は、車両2の前方を示す周辺画像に加え、車体画像10を表示する。合成画像CPf1は、ユーザが車両2の前方を示すタッチパネルボタンTB16にタッチ操作した場合に表示される。ユーザは、合成画像CPf1を参照することで、車両2の前方の状況を確認できる。
 図17は、合成画像CPf2が、ディスプレイ83に表示された例である。合成画像CPf2は、合成画像CPf1(図16)の表示後に図9のOBlh上を時計回りに移動させて基準仮想視点VPafを設定し、設定された基準仮想視点VPafから車両2を見た画像である。合成画像CPf2は、ユーザからディスプレイ83を見て左方向に回転して表示された車両2の周囲を示す周辺画像に加え、車体画像10を表示する。合成画像CPf2は、合成画像CPf1(図16)が表示された状態で、タッチパネル83aに対し、左方向から右方向へ(水平方向)フリック操作FHが行われた場合に表示される。ユーザは、合成画像CPf2を参照することで、車両2前方の状況を合成画像CPf1とは異なる角度から確認できる。
 図18は、合成画像CPf3が、ディスプレイ83に表示された例である。合成画像CPf3は、合成画像CPf1(図16)の表示後に図12のOBlh上を反時計回りに移動させて基準仮想視点VPafを設定し、設定された基準仮想視点VPafから車両2を見た画像である。合成画像CPf3は、車両2の前方領域を合成画像CPf1より詳細に表示する。合成画像CPt3は、合成画像CPf1(図16)が表示された状態で、タッチパネル83aに対し、上方向から下方向へ(垂直方向)フリック操作FVが行われた場合に表示される。ユーザは、合成画像CPt3を参照することで、車両2前方の状況を詳細に確認できる。
 図19は、合成画像CPb1が、ディスプレイ83に表示された例である。合成画像CPb1は、仮想視点VPに基準仮想視点VPabが設定され、基準仮想視点VPabから車両2を見た画像である。合成画像CPb1は、車両2の後方を示す周辺画像に加え、車体画像10を表示する。合成画像CPb1は、ユーザが車両2の後方を示すタッチパネルボタンTB19にタッチ操作した場合に表示される。ユーザは、合成画像CPb1を参照することで、車両2の後方の状況を確認できる。
 図20は、合成画像CPb2が、ディスプレイ83に表示された例である。合成画像CPb2は、合成画像CPb1(図19)の表示後に図9のOBlh上を時計回りに移動させて基準仮想視点VPabを設定し、設定された基準仮想視点VPabから車両2を見た画像である。合成画像CPb2は、ユーザからディスプレイ83を見て左方向に移動して表示された車両2の後方を示す周辺画像に加え、車体画像10を表示する。合成画像CPb2は、合成画像CPb1(図19)が表示された状態で、タッチパネル83aに対し、左方向から右方向へ(水平方向)フリック操作FHが行われた場合に表示される。ユーザは、合成画像CPb2を参照することで、車両2後方の状況を合成画像CPb1とは異なる角度から確認できる。
 図21は、合成画像CPb3が、ディスプレイ83に表示された例である。合成画像CPb3は、合成画像CPb1(図19)の表示後に図12のOBlh上を反時計回りに移動させて基準仮想視点VPabを設定し、設定された基準仮想視点VPabから車両2を見た画像である。合成画像CPb3は、車両2の後方領域を合成画像CPb1より詳細に表示する。合成画像CPb3は、合成画像CPb1(図16)が表示された状態で、タッチパネル83aに対し、上方向から下方向へ(垂直方向)フリック操作FVが行われた場合に表示される。ユーザは、合成画像CPb3を参照することで、車両2の後方の状況を詳細に確認できる。
 図22は、合成画像CPl1が、ディスプレイ83に表示された例である。合成画像CPl1は、仮想視点VPに基準仮想視点VPalが設定され、基準仮想視点VPalから車両2を見た画像である。合成画像CPl1は、車両2の左方を示す周辺画像に加え、車体画像10を表示する。合成画像CPl1は、ユーザが車両2の左方を示すタッチパネルボタンTB22にタッチ操作した場合に表示される。ユーザは、合成画像CPl1を参照することで、車両2左方の状況を確認できる。
 図23は、合成画像CPl2が、ディスプレイ83に表示された例である。合成画像CPl2は、合成画像CPl1(図22)の表示後に図9のOBlh上を時計回りに移動させて基準仮想視点VPalを設定し、設定された基準仮想視点VPalから車両2を見た画像である。合成画像CPl2は、ユーザからディスプレイ83を見て左方向に移動して表示された車両2の左方を示す周辺画像に加え、車体画像10を表示する。合成画像CPl2は、合成画像CPl1(図22)が表示された状態で、タッチパネル83aに対し、左方向から右方向へ(水平方向)フリック操作FHが行われた場合に表示される。ユーザは、合成画像CPl2を参照することで、車両2左方の状況を合成画像CPl1とは異なる角度から確認できる。
 図24は、合成画像CPl3が、ディスプレイ83に表示された例である。合成画像CPl3は、合成画像CPl1(図22)の表示後に図12のOBlh上を反時計回りに移動させて基準仮想視点VPalを設定し、設定された基準仮想視点VPalから車両2を見た画像である。合成画像CPl3は、車両2の左方領域を合成画像CPl1より詳細に表示する。合成画像CPl3は、合成画像CPl1(図22)が表示された状態で、タッチパネル83aに対し、上方向から下方向へ(垂直方向)フリック操作FVが行われた場合に表示される。ユーザは、合成画像CPl3を参照することで、車両2の左方の状況を詳細に確認できる。
 車両2の右方を示す合成画像CPについては、図22から図24で説明した車両2の左方を示す場合に対し、左右対称に操作および制御を行なえばよい。ユーザは、車両2の右方を示す合成画像CPを参照することで、車両2の右方の状況を確認できる。
  <1-6.処理>
 次に、画像表示システム1において実行される処理の手順を図25および図26を参照しつつ説明する。図25は、画像取得装置3、セキュリティ装置5、および携帯端末8により実行される処理の手順を示している。図26は、警報器6および携帯端末8により実行される処理の手順を示している。本処理は、所定周期で繰り返し実行される。
 まず、セキュリティ装置5が、監視センサ5aが作動したか否かを判断する(図25のステップS101)。
 セキュリティ装置5は、監視センサ5aが作動したと判断すると(ステップS101でYes)、メール通知部5bを制御し、ユーザの携帯端末8に対し、監視センサ5aが作動した旨、すなわち盗難に繋がる事前現象が車両2に発生した旨を内容とする電子メールを送信する(ステップS102)。なお、監視センサ5aが作動する場合の例としては、監視センサ5aが車両2に振動や傾斜の発生を検出した場合や、ガラスの破壊を検出した場合、車両2内への侵入者を検出した場合等が挙げられる。
 セキュリティ装置5が、監視センサ5aが作動していないと判断した場合(ステップS101でNo)、およびメール通知部5bが電子メールを送信した場合は、セキュリティ装置5による処理は終了する。セキュリティ装置5は、所定時間経過後に再度処理を開始する。
 メール通知部5bから送信された電子メールを携帯端末8の通信部82が受信すると、表示制御部81cが、ディスプレイ83に電子メールの内容を表示する(ステップS201)。ユーザは、ディスプレイに表示された電子メールの内容を確認し、車両2の周辺画像を表示させるか否かを判断する。ユーザは、車両2の周辺画像を表示させることを希望する場合は、タッチパネル83aの所定位置へタッチ操作を行なえばよい。
 操作検出部81dは、ユーザがタッチパネル83aにおける周辺画像を表示させるべき所定位置へタッチ操作を行なったか否かを判断する(ステップS202)。
 操作検出部81dが、ユーザがタッチパネル83aにおける周辺画像を表示させるべき所定位置へタッチ操作を行ない、画像の表示を希望していると判断すると(ステップS202でYes)、通知部81eが、画像取得装置3へ画像の送信を要求する信号を送信する(ステップS203)。
 操作検出部81dが、ユーザがタッチパネル83aにおける周辺画像を表示させないことを示す所定位置へタッチ操作を行なった場合、すなわち画像の表示を希望していないと操作検出部81dが判断すると(ステップS202でNo)、処理は終了する。ユーザが画像の表示を希望しない以上、処理を継続する必要はないからである。
 携帯端末8から画像の送信を要求する信号を画像取得装置3の要求受信部31aが受信すると、カメラ制御部31bが、カメラ4(4F、4B、4L、4R)を制御し、撮影を開始させる(ステップS301)。
 カメラ4(4F、4B、4L、4R)により撮影された画像に対応する画像データを画像取得部31cが受信すると、画像送信部31dは、通信部32を介し、画像データを携帯端末8へ送信する(ステップS302)。
 画像取得装置3から送信された画像データを携帯端末8の画像取得部81aが受信すると、画像生成部81bは、周辺画像を生成するための仮想視点の位置および方向を設定する。(ステップS204)。画像生成部81bは、最初に周辺画像を生成する際には、仮想視点の位置を車両2の直上とし、かつ仮想視野の方向は下向き(トップビュー)として設定する。当該仮想視点は、ユーザが車両2の真上の位置から下方向を見たような視点である。このような視点は、最初にユーザへ表示すべき仮想視点の位置および方向として好ましい。車両の全周囲を表示するので、ユーザに広範囲に渡る状況を伝えることができるからである。
 画像生成部81bは、仮想視点を設定すると、上述の手法により周辺画像を生成する。そして、画像生成部81bは、記憶部84から車体画像データ84aを読み出し、生成した周辺画像に車体画像を合成した合成画像を生成する(ステップS205)。
 画像生成部81bが合成画像を生成すると、表示制御部81cは、ディスプレイ83に合成画像を表示する(ステップS206)。これにより、ユーザは車両2周辺の様子を確認できる。
 表示制御部81cがディスプレイ83に合成画像を表示すると、操作検出部81dは、ユーザがディスプレイ83に対してフリック操作を行なったか否かを判断する(ステップS207)。
 ユーザによりフリック操作が行われたと操作検出部81dが判断すると(ステップS207でYes)、画像生成部81bは、仮想視点を再度設定する(ステップS204)。 
 ユーザがディスプレイ83に対して左右方向(水平方向)のフリック操作を行なった場合、画像生成部81bは、前述の通りワールド座標系の鉛直方向軸を基準に仮想視点を回転させて仮想視点の位置を設定する。
 フリック操作がディスプレイ83に対して右側から左側への操作である場合、画像生成部81bは、仮想視点をワールド座標系の鉛直方向軸を上から見て反時計回りとなるよう仮想視点の位置を回転させる。また、フリック操作がディスプレイ83に対して左側から右側への操作である場合は、ワールド座標系の鉛直方向軸を上から見て時計回りとなるよう仮想視点の位置を回転させる。
 ユーザがディスプレイ83に対して上下方向(垂直方向)のフリック操作を行なった場合、画像生成部81bは、前述の通り視点座標系の水平方向軸を基準に仮想視点を回転させて仮想視点の位置を設定する。
 フリック操作がディスプレイ83に対して上側から下側への操作である場合、画像生成部81bは、仮想視点を視点座標系の水平方向軸を視点の右から見て反時計回りとなるよう仮想視点の位置を回転させる。また、フリック操作がディスプレイ83に対して下側から上側への操作である場合は、視点座標系の水平方向軸を視点の右から見て時計回りとなるよう仮想視点の位置を回転させる。
 このような仮想視点の位置を回転させる手法により、ユーザがフリック操作により視点を移動させたい方向と、表示される画像が移動する方向とが一致し、ユーザは、タッチパネル83aへの操作により、直感的に画像を移動させることができる。
 操作検出部81dは、ユーザによりフリック操作が行われていないと判断すると(ステップS207でNo)、仮想視点を基準視点に変更する操作がなされたか否かを判断する(ステップS208)。操作検出部81dは、基準視点を示すいずれかのタッチパネルボタンにユーザがタッチ操作を行なったか否かにより判断する。
 仮想視点を基準視点に変更する操作がなされたと操作検出部81dが判断すると(ステップS208でYes)、画像生成部81bは、ユーザがタッチ操作により所望した基準視点に仮想視点の位置および方向を設定する(ステップS204)。例えば、ユーザが車両2左側領域を表示する基準視点を希望した場合には、画像生成部81bは、図9および図10に示したような仮想視点の位置および方向を設定する。なお、基準視点は、車両直上、車両2左側、車両2右側、車両2前側、および車両2後側の5視点である。車両の特定位置に設定される特定点である移動中心点RCの位置は、ユーザが所望した基準視点に応じた位置に設定される。
 一方、操作検出部81dは、仮想視点を基準視点に変更する操作がなされていないと判断すると(ステップS208でNo)、ユーザが車両2に備えた警報器6を作動させようとしているか否かを判断する(ステップS209)。操作検出部81dは、ユーザがタッチパネル83aにおける警報器を作動させることを示す所定位置へタッチ操作を行なったか否かにより判断する。
 操作検出部81dは、ユーザが警報器6を作動させようとしていると判断すると(ステップS209でYes)、通知部81eが画像取得装置3へ警報器6を作動するよう要求する信号を送信する(ステップS210)。
 通知部81eが警報器6を作動するよう要求する信号を送信すると、画像取得装置3の盗難防止部31eは、警報器6に警報を行なわせる(ステップS401)。なお、警報器6による警報は、所定時間経過後に終了する。かかる所定時間は、不審者に対し警告を与えるのに十分な時間であればよい。例えば、5秒である。ユーザが警報を終了させる操作をしてもよい。
 ユーザが警報器6を作動させようとしていないと操作検出部81dが判断した場合(ステップS209でNo)、および盗難防止部31eが警報器6に警報を行わせた場合(ステップS210)、操作検出部81dは、ユーザが画像表示を終了させようとしているか否かを判断する(ステップS211)。
 ユーザが画像表示を終了させようとしていると操作検出部81dが判断すると(ステップS211でYes)、通知部81eは、画像取得装置3へ撮影を終了するよう要求する信号を送信する(ステップS212)。画像取得装置3へ撮影を終了するよう要求する信号を通知部81eが送信すると、携帯端末8による処理は終了する。
 ユーザが画像表示を終了させようとしていないと操作検出部81dが判断すると(ステップS211でNo)、表示制御部81cが画像の生成および表示を継続し、携帯端末8は、ステップS205以下の処理を再度実行する。
 ステップS302において画像送信部31dが画像データを送信すると、要求受信部31aが、携帯端末8から撮影を終了するよう要求する終了要求信号が送信されたか否かを判断する(ステップS303)。画像取得装置3は、この終了要求信号を受信するまでは、カメラ4(4F、4B、4L、4R)において直近に得られた画像データを繰り返し携帯端末8に送信する。これにより、携帯端末8の画像生成部81bは、直近に得られた画像データに基づいて、車両2周辺の様子を略リアルタイムに示す周辺画像を生成できる。
 携帯端末8から撮影を終了するよう要求する終了要求信号が送信されたと要求受信部31aが判断すると(ステップS303でYes)、カメラ制御部31bが、カメラ4(4F、4B、4L、4R)を制御し、撮影を停止させる(ステップS304)。カメラ制御部31bがカメラ4(4F、4B、4L、4R)を制御し、撮影を停止させると、画像取得装置3による処理は終了する。
 以上のように、第1の実施形態に係る画像表示システム1では、ユーザの操作に基づいて仮想視点の位置を変更し、合成画像を表示する。これにより、ユーザの望む視点から容易に被写体を表示できる。
 <2.第2の実施形態>
 <2-1.概要>
 次に、第2の実施形態について説明する。前述の第1の実施形態は、視点位置VLが車両2の直上かつ視線方向VDが下向き(-Z側)である場合(すなわち、トップビューである場合)に、ユーザの左右方向(水平方向)のフリック操作に対する視点位置VLの移動は、直交座標系ccの鉛直軸(Z軸)を基準としている。これにより、合成画像CPは左右いずれかに回転するように表示される。
 しかしながら、合成画像CPを回転表示させても、ユーザに対し新たな周辺領域を提示するものではない。
 そこで、第2の実施形態は、トップビューにおいて、視点位置VLの移動は直交座標系ccの車両2の前後となる軸(Y軸)を基準とする。これにより、トップビューにおいて、ユーザがタッチパネル83aに対して左右方向(水平方向)のフリック操作を行なうと、車両2側面を含めた車両2の左右の領域が表示される。そのため、ユーザは、車両2の左右領域を詳細に確認できる。
 以下、第1の実施形態との相違点について主に説明し、第1の実施形態と同一または同様の構成および動作については、繰り返しとなる説明を省略する。
 <2-2.構成>
 図27は、第2の実施形態に係る画像表示システム1における携帯端末8の構成を示している。第1の実施形態との主な相違点は、携帯端末8の制御部81が座標軸変換部81fを備えている点である。
 座標軸変換部81fは、仮想視点がトップビューである場合に、視点位置VLを移動させる基準となる座標軸を、直交座標系ccの鉛直軸(Z軸)から車両前後軸(Y軸)へ変換する。
  <2-3.仮想視点の設定>
 次に、トップビュー表示において、ユーザからディスプレイを見て左右方向(水平方向)に視点位置VLを移動させる手法について、図28および図29を参照して説明する。以下で説明する視点位置VLの移動は、トップビュー表示において、ユーザによるタッチパネルへの左右方向(水平方向)のフリック操作に対応して行なわれる。
 図28は、車両2を鉛直上方向(+Z側)から見た図であり、基準仮想視点VPatの基準位置VLtが移動する経路を示している。基準位置VLtは、移動中心点RCtを中心に移動経路OBthを移動する。基準位置VLtの移動は、移動中心点RCtの位置を原点とする仮想視点VPに相対的に固定される直交座標系ccを基準とする。基準位置VLtの移動する基準となる座標軸は、移動中心点RCtの位置における直交座標系ccのY軸(AXth)、すなわち、車両2の前後方向に沿った軸である。
 図29は、車両2を水平方向後側(-Y側)から見た図であり、図28と同様に基準仮想視点VPatの基準位置VLtが移動する経路を示している。基準位置VLtは、移動中心点RCtを中心に移動経路OBthを移動する。移動経路OBthは、水平方向後側(-Y側)から見ると円形となる。基準位置VLtの移動する基準となる座標軸は、移動中心点RCtの位置における直交座標系ccのY軸である。
 図28および図29において、基準方向VDtは、基準位置VLtが移動経路OBthのどこに位置しても、基準位置VLtから移動中心点RCtの方向を向く。したがって、基準位置VLtが移動経路OBth上を移動すると、ディスプレイ83を見ているユーザは、画像が左右方向(水平方向)に移動しているように見える。特に、基準位置VLtの移動する基準となる座標軸を、移動中心点RCtの位置における直交座標系ccのY軸としたので、ユーザは車両2の側面に回り込むようにして車両2周辺の画像を参照できる。
 なお、移動経路OBthは、車両2の接地面GRより下側には設定されない。したがって、基準位置VLtは、破線で示した移動経路OBthを移動し、実線で示した移動経路OBtxは移動しない。
 また、ユーザがタッチパネル83aに対し、左方向から右方向へ(水平方向)のフリック操作を行なった場合、基準位置VLtは、移動経路OBth上を反時計回りに移動する。一方、ユーザがタッチパネル83aに対し、左方向から右方向へ(水平方向)のフリック操作を行なった場合、基準位置VLtは、移動経路OBth上を時計回りに移動する。これにより、ユーザのフリック操作の方向と画像の移動する方向とが一致するため、ユーザは、直感的にタッチパネル操作を行なうことができる。
  <2-4.合成画像の表示例>
 図30における上の図は、合成画像CPt1が、ディスプレイ83に表示された例である。合成画像CPt1は、仮想視点VPに基準仮想視点VPatが設定され、基準仮想視点VPatから車両2を見た画像である。すなわち、合成画像CPt1は、仮想視点がトップビューである場合の合成画像である。
 図30における下の図は、合成画像CPt4が、ディスプレイ83に表示された例である。合成画像CPt4は、合成画像CPt1の表示後に視点位置VLを移動させる座標軸を直交座標系ccの鉛直軸(Z軸)から車両前後軸(Y軸)へ変換した場合の画像、すなわち、図29のOBth上を反時計回りに移動させて基準仮想視点VPatを設定し、設定された基準仮想視点VPatから車両2を見た画像である。合成画像CPt4は、車両2側面を含めた車両2の周辺画像に加え、車体画像10を表示する。このため、ユーザは、トップビューから車両2の左右領域を詳細に確認できる。合成画像CPt4は、合成画像CPt1が表示された状態で、タッチパネル83aに対し、左方向から右方向へ(水平方向)フリック操作FHが行われた場合に表示される。ユーザは、合成画像CPt4を参照することで、車両2側面を含めた車両2の左右の領域を詳細に確認できる。
 <2-5.処理>
 次に、第2の実施形態に係る画像表示システム1において実行される処理の手順を、図31および図32を参照して説明する。図31は、画像取得装置3、セキュリティ装置5、および携帯端末8により実行される処理の手順を示している。図25で示した第1の実施形態に係る処理手順との相違点は、ステップS209の処理を備えている点である。
 まず、画像生成部81bは、周辺画像を生成するための仮想視点の位置および仮想視野の方向を設定する。(ステップS204)。画像生成部81bは、最初に周辺画像を生成する際には、仮想視点の位置は車両2の直上とし、かつ仮想視野の方向は下向き(トップビュー)として設定する。また、座標軸変換部81fは、視点位置VLを移動させる基準となる軸を車両前後軸(Y軸)に設定する。
 ステップS205、ステップS206、およびステップS207が実行されると、操作検出部81dは、仮想視点を基準視点に変更する操作がなされたか否かを判断する(ステップS208)。操作検出部81dは、基準視点を示すいずれかのタッチパネルボタンがユーザによりタッチ操作されたか否かにより判断する。
 仮想視点を基準視点に変更する操作がなされたと操作検出部81dが判断すると(ステップS208でYes)、画像生成部81bは、座標軸の設定処理(ステップS209)を実行する。
 図32は、座標軸の設定処理(ステップS209)の詳細を示している。座標軸の設定処理(ステップS209)に処理が移行すると、操作検出部81dは、仮想視点がトップビューの視点に変更されたか否かを判断する(ステップS401)。
 仮想視点がトップビューの視点に変更されたと操作検出部81dが判断すると(ステップS401でYes)、座標軸変換部81fは、視点位置VLを移動させる基準となる座標軸を車両前後軸(Y軸)に設定する(ステップS402)。
 仮想視点がトップビュー以外の視点に変更されたと操作検出部81dが判断すると(ステップS401でNo)、座標軸変換部81fは、視点位置VLを移動させる基準となる座標軸を鉛直軸(Z軸)に設定する(ステップS403)。
 ステップS402またはステップS403が実行されると、処理は図31に戻り、再度ステップS204以下の処理が実行される。
 以上説明したように、第2の実施形態に係る画像表示システム1においては、トップビューにおいて、視点位置VLの移動は直交座標系ccの車両2の前後となる軸(Y軸)を基準とする。これにより、トップビューにおいて、ユーザがタッチパネル83aに対して左右方向(水平方向)のフリック操作を行なうと、車両2側面を含めた車両2の左右の領域が表示される。そのため、ユーザは、車両2の左右領域を詳細に確認できる。
 <3.変形例>
 本発明は、上記の実施形態例に限定されるものではなく、様々な変形が可能である。以下、そのような変形例を説明する。なお、上記の実施形態例および以下の変形例は、適宜に組み合わせ可能である。
 上記の各実施形態では、画像取得装置3は、ユーザから画像送信の要求の受信時に、撮影を開始する。しかしながら、画像取得装置3は、ユーザから画像送信の要求の受信前に、すなわち、監視センサ5aの作動時に撮影を開始してもよい。この場合、ユーザは、監視センサ5aが作動するような車両2の異常発生時から、車両2周辺の様子を参照できる。
 図33は、画像取得装置3が監視センサ5aの作動時に撮影を開始する画像表示システム1aの概要を示している。監視センサ5aが車両2の異常を検出すると、セキュリティ装置5は、画像取得装置3へ撮影開始を要求する信号を送信する。画像取得装置3は、かかる信号を受信すると、カメラ4を作動させ撮影を開始する。すなわち、画像取得装置3は、ユーザからの画像送信の要求を待たず、車両2の異常発生時に撮影を開始する。画像取得装置3は、撮影を開始すると、画像データを外部に設置されたサーバSVへ送信する。これにより、画像データは車両2の異常発生時からサーバSVに保存される。したがって、ユーザは、セキュリティ装置5から車両2の異常発生を通知するメールを受信すると、サーバSVに対して画像送信の要求を行なう。サーバSVは、画像送信の要求を受信すると、ユーザの所持する携帯端末8へ車両2の異常発生時からの画像データを送信する。これにより、ユーザは、監視センサ5aの作動時、すなわち、車両2の異常発生時からの車両2周辺の様子を参照できる。また、サーバSVを、画像データを送受信する専用サーバとすれば、画像データを他者に傍受される恐れがなく、画像データの秘匿性を高めることができる。なお、ユーザは、現在の車両2周辺の様子を確認したい場合には、サーバSVへ現在の画像データの送信を要求できる。この場合、サーバSVは、異常発生時から現在までの画像データの送信を省略し、現在の画像データを送信する。
 他の変形例を説明する。上記の各実施形態では、画像取得装置3、カメラ4、セキュリティ装置5、および警報器6は車両2に搭載される。しかしながら、これらの装置は、住宅やビルディング等の監視すべき土地や建物、物品に設置されてもよい。
 上記の各実施形態では、タッチパネルを通じてユーザが入力操作を行なう。しかしながら、ユーザによる入力操作が判別できれば、十字キー等の押しボタン式のスイッチを通じてユーザが入力操作を行なってもよい。
 上記の各実施形態では、画像取得装置3と携帯端末8とは別体の装置である。しかしながら、画像取得装置3と携帯端末8とを一体の装置として構成してもよい。
 上記の各実施形態では、画像表示システム1における各機能は、プログラムに従ったソフトウェアとして実現される。しかしながら、画像表示システム1における各機能は、電気的なハードウェア回路として実現されてもよい。
 本出願の記載の一部を構成するものとして、2013年10月11日に提出された日本国特許出願2013-214014の内容を援用する。

Claims (12)

  1.  複数のカメラで被写体をそれぞれ撮影した複数の画像を取得する取得部と、
     前記複数の画像を合成し、前記被写体を仮想視点から見た合成画像を生成する生成部と、
     前記合成画像を画面に表示させる表示制御部と、
     前記画面に表示された合成画像の前記仮想視点の位置を変更させるユーザ操作を検出する検出部と、
    を備えており、
     前記生成部は、前記ユーザ操作に基づいて、前記合成画像の仮想視点の位置を変更する、
    画像表示装置。
  2.  前記合成画像は、前記仮想視点の位置によらず、前記被写体における特定の位置に設定された基準点を当該仮想視点の位置から見た画像である、
    請求項1に記載の画像表示装置。
  3.  前記複数のカメラは車両に設置され、
     前記生成部は、
      前記車両について前記基準点を原点とするワールド座標系、および前記仮想視点について前記基準点を原点とする視点座標系に基づき、前記仮想視点の位置を変更する、
    請求項2に記載の画像表示装置。
  4.  前記基準点の位置は、ユーザにより設定可能である、
    請求項2または3に記載の画像表示装置。
  5.  前記生成部は、前記ユーザ操作が前記画面における水平方向を示す操作である場合、前記ワールド座標系における鉛直方向の軸を中心として、前記仮想視点の位置を変更する、
    請求項2から4のいずれか一項に記載の画像表示装置。
  6.  前記生成部は、前記ユーザ操作が前記画面における垂直方向を示す操作である場合、前記視点座標系における水平方向の軸を中心として、前記仮想視点の位置を変更する、
    請求項2から4のいずれか一項に記載の画像表示装置。
  7.  前記生成部は、前記視点座標系における水平方向の軸を中心に前記仮想視点の位置を変更する場合は、前記被写体の接地面よりも上側の範囲で前記仮想視点の位置を変更する、
    請求項6に記載の画像表示装置。
  8.  前記複数のカメラは車両に設置され、
     前記車両の直上に位置する前記仮想視点から前記基準点を見ている場合に前記画面における水平方向を示すユーザ操作がなされると、前記生成部は、前記車両の前後方向に沿った軸を中心として、前記仮想視点の位置を変更する、
    請求項2に記載の画像表示装置。
  9.  画像取得装置と、
     前記画像取得装置と通信可能な画像表示装置と、
    を備えており、
     前記画像取得装置は、
      複数のカメラで被写体をそれぞれ撮影した複数の画像を取得する取得部と、
      前記複数の画像を送信するよう要求する要求信号を、前記画像表示装置から受信する要求受信部と、
      前記要求信号に基づき、前記複数の画像を前記画像表示装置へ送信する画像送信部と、
    を備えており、
     前記画像表示装置は、
      前記複数の画像を送信するよう要求する前記要求信号を、前記画像取得装置へ送信する要求送信部と、
      前記複数の画像を前記画像取得装置から受信する画像受信部と、
      前記複数の画像を合成し、仮想視点から前記被写体を見た合成画像を生成する生成部と、
      前記合成画像を画面に表示させる表示制御部と、
      前記画面に表示された合成画像の前記仮想視点の位置を変更させるユーザ操作を検出する検出部と、
    を備えており、
      前記生成部は、前記ユーザ操作に基づき、前記合成画像の仮想視点を変更する、
    画像表示システム。
  10.  前記画像取得装置は、車両に設置され、
     前記被写体は、前記車両の周辺の様子であり、
     前記車両の盗難に繋がる事前現象を検出するセキュリティ装置を備えており、
      前記セキュリティ装置は、
       前記事前現象を検出する監視部と、
       前記事前現象を検出した旨を前記画像表示装置へ通知する通知部と、
    を備えている、
    請求項9に記載の画像表示システム。
  11.  (a)複数のカメラで被写体をそれぞれ撮影した複数の画像を取得するステップと、
     (b)前記複数の画像を合成し、前記被写体を仮想視点から見た合成画像を生成するステップと、
     (c)前記合成画像を画面に表示させるステップと、
     (d)前記画面に表示された合成画像の前記仮想視点の位置を変更させるユーザ操作を検出するステップと、
    を備えており、
     前記ステップ(b)においては、前記ユーザ操作に基づき、前記合成画像の仮想視点の位置を変更する、
    画像表示方法。
  12.  画像を表示する画像表示装置に含まれるコンピュータによって実行可能なプログラムであって、
     前記コンピュータに、
      (a)複数のカメラで被写体をそれぞれ撮影した複数の画像を取得するステップと、
      (b)前記複数の画像を合成し、前記被写体を仮想視点から見た合成画像を生成するステップと、
      (c)前記合成画像を画面に表示させるステップと、
      (d)前記画面に表示された合成画像の前記仮想視点の位置を変更させるユーザ操作を検出するステップと、
    を実行させ、
      前記ステップ(b)においては、前記ユーザ操作に基づき、前記合成画像の仮想視点の位置を変更する、
    プログラム。
PCT/JP2014/074091 2013-10-11 2014-09-11 画像表示装置、画像表示システム、画像表示方法、及び、プログラム WO2015053040A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
DE112014004701.5T DE112014004701B4 (de) 2013-10-11 2014-09-11 Bildanzeigevorrichtung, Bildanzeigesystem, Bildanzeigeverfahren und Programm
US14/915,922 US10857974B2 (en) 2013-10-11 2014-09-11 Image display device, image display system, image display method and program
CN201480055343.6A CN105612552A (zh) 2013-10-11 2014-09-11 图像显示装置、图像显示系统、图像显示方法、以及程序
US17/089,767 US11643047B2 (en) 2013-10-11 2020-11-05 Image display device, image display system, image display method and program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2013-214014 2013-10-11
JP2013214014A JP6347934B2 (ja) 2013-10-11 2013-10-11 画像表示装置、画像表示システム、画像表示方法、及び、プログラム

Related Child Applications (2)

Application Number Title Priority Date Filing Date
US14/915,922 A-371-Of-International US10857974B2 (en) 2013-10-11 2014-09-11 Image display device, image display system, image display method and program
US17/089,767 Continuation US11643047B2 (en) 2013-10-11 2020-11-05 Image display device, image display system, image display method and program

Publications (1)

Publication Number Publication Date
WO2015053040A1 true WO2015053040A1 (ja) 2015-04-16

Family

ID=52812860

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2014/074091 WO2015053040A1 (ja) 2013-10-11 2014-09-11 画像表示装置、画像表示システム、画像表示方法、及び、プログラム

Country Status (5)

Country Link
US (2) US10857974B2 (ja)
JP (1) JP6347934B2 (ja)
CN (2) CN105612552A (ja)
DE (1) DE112014004701B4 (ja)
WO (1) WO2015053040A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016185637A1 (ja) * 2015-05-20 2016-11-24 三菱電機株式会社 点群画像生成装置および表示システム
WO2019035229A1 (ja) * 2017-08-14 2019-02-21 アイシン精機株式会社 周辺監視装置
US11445167B2 (en) 2017-06-23 2022-09-13 Canon Kabushiki Kaisha Display control apparatus, display control method, and storage medium

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6347934B2 (ja) * 2013-10-11 2018-06-27 株式会社デンソーテン 画像表示装置、画像表示システム、画像表示方法、及び、プログラム
JP6563694B2 (ja) * 2015-05-29 2019-08-21 株式会社デンソーテン 画像処理装置、画像処理システム、画像合成装置、画像処理方法及びプログラム
JP6610139B2 (ja) * 2015-09-30 2019-11-27 アイシン精機株式会社 周辺監視装置
JP2017143340A (ja) 2016-02-08 2017-08-17 株式会社デンソー 情報処理装置及びプログラム
JP6639379B2 (ja) * 2016-12-21 2020-02-05 トヨタ自動車株式会社 車両周辺監視装置
JP7073092B2 (ja) * 2017-01-06 2022-05-23 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP6482580B2 (ja) * 2017-02-10 2019-03-13 キヤノン株式会社 情報処理装置、情報処理方法、およびプログラム
JP6962035B2 (ja) * 2017-07-07 2021-11-05 株式会社アイシン 周辺監視装置
JP2019036832A (ja) * 2017-08-14 2019-03-07 アイシン精機株式会社 周辺監視装置
JP6409107B1 (ja) * 2017-09-06 2018-10-17 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
JP6419278B1 (ja) * 2017-09-19 2018-11-07 キヤノン株式会社 制御装置、制御方法、及びプログラム
JP7060418B2 (ja) * 2018-03-15 2022-04-26 株式会社デンソーテン 車両遠隔操作装置及び車両遠隔操作方法
WO2020068960A1 (en) * 2018-09-26 2020-04-02 Coherent Logix, Inc. Any world view generation
JP6632681B2 (ja) * 2018-10-10 2020-01-22 キヤノン株式会社 制御装置、制御方法、及びプログラム
JP6559870B1 (ja) * 2018-11-30 2019-08-14 株式会社ドワンゴ 動画合成装置、動画合成方法及び動画合成プログラム
US11626010B2 (en) * 2019-02-28 2023-04-11 Nortek Security & Control Llc Dynamic partition of a security system
WO2020262392A1 (ja) 2019-06-28 2020-12-30 富士フイルム株式会社 情報処理装置、情報処理方法、及びプログラム
JP7274045B2 (ja) 2020-03-31 2023-05-15 本田技研工業株式会社 画像処理装置、車両、画像処理方法およびプログラム
US20210103738A1 (en) * 2020-12-17 2021-04-08 Cornelius Buerkle Autonomous system terminus assistance techniques
JP2022145977A (ja) * 2021-03-22 2022-10-05 トヨタ自動車株式会社 画像処理装置、テレプレゼンスシステム、画像処理方法及び画像処理プログラム
JP2024052375A (ja) * 2022-09-30 2024-04-11 株式会社東海理化電機製作所 表示システム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07200875A (ja) * 1993-12-27 1995-08-04 Mutoh Ind Ltd 3次元モデルの表示位置変更方法
WO2011064895A1 (ja) * 2009-11-30 2011-06-03 パイオニア株式会社 地図表示装置、地図表示方法、地図表示プログラムおよび記録媒体
JP2012121384A (ja) * 2010-12-06 2012-06-28 Fujitsu Ten Ltd 画像表示システム
JP2013191969A (ja) * 2012-03-13 2013-09-26 Fujitsu Ten Ltd 画像処理装置、画像表示システム、表示装置、画像処理方法及びプログラム

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2267656A3 (en) * 1998-07-31 2012-09-26 Panasonic Corporation Image displaying apparatus und image displaying method
JP3599639B2 (ja) 2000-05-26 2004-12-08 松下電器産業株式会社 画像処理装置
JP3927512B2 (ja) * 2003-03-27 2007-06-13 トヨタ自動車株式会社 駐車支援装置
US8373660B2 (en) * 2003-07-14 2013-02-12 Matt Pallakoff System and method for a portable multimedia client
US7814436B2 (en) * 2003-07-28 2010-10-12 Autodesk, Inc. 3D scene orientation indicator system with scene orientation change capability
WO2006100904A1 (ja) * 2005-03-18 2006-09-28 Sharp Kabushiki Kaisha 多重画像表示装置、多重画像表示プログラムおよびそれを記録したコンピュータ読み取り可能な記録媒体
JP4956915B2 (ja) * 2005-05-20 2012-06-20 日産自動車株式会社 映像表示装置及び映像表示方法
JP4835109B2 (ja) * 2005-10-31 2011-12-14 アイシン精機株式会社 駐車目標位置設定装置
CN101017570A (zh) * 2006-02-06 2007-08-15 奥林巴斯映像株式会社 图像合成装置及图像合成方法
CN101123865A (zh) * 2006-08-07 2008-02-13 陈清甫 汽车多媒体信息系统
US20080204556A1 (en) * 2007-02-23 2008-08-28 De Miranda Federico Thoth Jorg Vehicle camera security system
CN101123866B (zh) * 2007-07-06 2013-01-02 刘西钉 具有导航和音/视频记录及防盗功能的车载系统及控制方法
JP2010049313A (ja) * 2008-08-19 2010-03-04 Sony Corp 画像処理装置、画像処理方法、プログラム
KR100966288B1 (ko) * 2009-01-06 2010-06-28 주식회사 이미지넥스트 주변 영상 생성 방법 및 장치
JP2010274813A (ja) * 2009-05-29 2010-12-09 Fujitsu Ten Ltd 画像生成装置及び画像表示システム
JP5627253B2 (ja) * 2009-05-29 2014-11-19 富士通テン株式会社 画像処理装置、電子装置、および、画像処理方法
JP5500369B2 (ja) * 2009-08-03 2014-05-21 アイシン精機株式会社 車両周辺画像生成装置
JP5158051B2 (ja) 2009-09-18 2013-03-06 三菱自動車工業株式会社 運転支援装置
JP5302227B2 (ja) * 2010-01-19 2013-10-02 富士通テン株式会社 画像処理装置、画像処理システム、および、画像処理方法
JP5479956B2 (ja) * 2010-03-10 2014-04-23 クラリオン株式会社 車両用周囲監視装置
JP2012109934A (ja) * 2010-10-19 2012-06-07 Panasonic Corp 立体画像表示装置
JP5813944B2 (ja) 2010-12-06 2015-11-17 富士通テン株式会社 画像表示システム、画像処理装置及び画像表示方法
EP2554434B1 (en) 2011-08-05 2014-05-21 Harman Becker Automotive Systems GmbH Vehicle surround view system
US10318146B2 (en) * 2011-09-12 2019-06-11 Microsoft Technology Licensing, Llc Control area for a touch screen
JP2013214014A (ja) 2012-04-04 2013-10-17 Seiko Epson Corp 電気泳動表示装置の製造方法及びエレクトロクロミック表示装置の製造方法
JP6347934B2 (ja) * 2013-10-11 2018-06-27 株式会社デンソーテン 画像表示装置、画像表示システム、画像表示方法、及び、プログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07200875A (ja) * 1993-12-27 1995-08-04 Mutoh Ind Ltd 3次元モデルの表示位置変更方法
WO2011064895A1 (ja) * 2009-11-30 2011-06-03 パイオニア株式会社 地図表示装置、地図表示方法、地図表示プログラムおよび記録媒体
JP2012121384A (ja) * 2010-12-06 2012-06-28 Fujitsu Ten Ltd 画像表示システム
JP2013191969A (ja) * 2012-03-13 2013-09-26 Fujitsu Ten Ltd 画像処理装置、画像表示システム、表示装置、画像処理方法及びプログラム

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016185637A1 (ja) * 2015-05-20 2016-11-24 三菱電機株式会社 点群画像生成装置および表示システム
JPWO2016185637A1 (ja) * 2015-05-20 2017-08-31 三菱電機株式会社 点群画像生成装置および表示システム
KR101928689B1 (ko) 2015-05-20 2018-12-12 미쓰비시덴키 가부시키가이샤 점군 화상 생성 장치 및 표시 시스템
AU2015395741B2 (en) * 2015-05-20 2019-06-27 Mitsubishi Electric Corporation Point-cloud-image generation device and display system
US11445167B2 (en) 2017-06-23 2022-09-13 Canon Kabushiki Kaisha Display control apparatus, display control method, and storage medium
WO2019035229A1 (ja) * 2017-08-14 2019-02-21 アイシン精機株式会社 周辺監視装置
JP2019036831A (ja) * 2017-08-14 2019-03-07 アイシン精機株式会社 周辺監視装置
JP7056034B2 (ja) 2017-08-14 2022-04-19 株式会社アイシン 周辺監視装置

Also Published As

Publication number Publication date
DE112014004701T5 (de) 2016-07-28
JP2015076062A (ja) 2015-04-20
CN105612552A (zh) 2016-05-25
DE112014004701B4 (de) 2023-02-02
US20210053529A1 (en) 2021-02-25
JP6347934B2 (ja) 2018-06-27
CN112165609A (zh) 2021-01-01
US11643047B2 (en) 2023-05-09
US10857974B2 (en) 2020-12-08
US20160193983A1 (en) 2016-07-07

Similar Documents

Publication Publication Date Title
WO2015053040A1 (ja) 画像表示装置、画像表示システム、画像表示方法、及び、プログラム
US11868517B2 (en) Information processing apparatus and information processing method
US9451062B2 (en) Mobile device edge view display insert
JP6011104B2 (ja) 車両用視界支援装置
WO2016067544A1 (ja) 車載注意喚起システム及び報知制御装置
US10235879B2 (en) Notification system of a car and method of controlling therefor
EP3136720A1 (en) Image processing device, method for controlling image processing device, program, and display device
JP2019156298A (ja) 車両遠隔操作装置及び車両遠隔操作方法
JP2008219559A (ja) 車載カメラシステム
JP6568981B2 (ja) 画像表示装置、画像表示システム、画像表示方法、及び、プログラム
JP7051369B2 (ja) 画像処理装置及び画像処理方法
JP7112191B2 (ja) 画像処理装置及び画像処理方法
US20190258245A1 (en) Vehicle remote operation device, vehicle remote operation system and vehicle remote operation method
JP6725734B2 (ja) 画像表示装置、画像表示システム、画像表示方法、及び、プログラム
JP2019161549A (ja) 車両遠隔操作装置及び車両遠隔操作方法
JP2019116220A (ja) 車両用視認装置
JP2020150295A (ja) 車両防犯装置
JP6990874B2 (ja) 駐車支援装置および車両
JP2021033944A (ja) 通信装置、通信方法及びプログラム
JP7103773B2 (ja) 画像処理装置及び画像処理方法
JP2019038372A (ja) 画像表示装置
JP5825091B2 (ja) 撮影領域明示装置
KR20160032453A (ko) 차량 및 그 제어방법과 네비게이션

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 14851887

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 14915922

Country of ref document: US

WWE Wipo information: entry into national phase

Ref document number: 112014004701

Country of ref document: DE

Ref document number: 1120140047015

Country of ref document: DE

122 Ep: pct application non-entry in european phase

Ref document number: 14851887

Country of ref document: EP

Kind code of ref document: A1