WO2009116285A1 - 車両用操作入力装置 - Google Patents

車両用操作入力装置 Download PDF

Info

Publication number
WO2009116285A1
WO2009116285A1 PCT/JP2009/001213 JP2009001213W WO2009116285A1 WO 2009116285 A1 WO2009116285 A1 WO 2009116285A1 JP 2009001213 W JP2009001213 W JP 2009001213W WO 2009116285 A1 WO2009116285 A1 WO 2009116285A1
Authority
WO
WIPO (PCT)
Prior art keywords
finger
display
image
specified
information
Prior art date
Application number
PCT/JP2009/001213
Other languages
English (en)
French (fr)
Inventor
青木隆
赤堀一郎
丹羽伸二
伊藤正広
川島毅
長田岳史
Original Assignee
株式会社デンソー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP2009021004A external-priority patent/JP5077773B2/ja
Priority claimed from JP2009021003A external-priority patent/JP5257779B2/ja
Application filed by 株式会社デンソー filed Critical 株式会社デンソー
Priority to EP09723615.2A priority Critical patent/EP2258587A4/en
Priority to CN2009801095824A priority patent/CN101977796B/zh
Priority to US12/866,969 priority patent/US20110029185A1/en
Priority to KR1020127027535A priority patent/KR101297144B1/ko
Publication of WO2009116285A1 publication Critical patent/WO2009116285A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/10Input arrangements, i.e. from user to vehicle, associated with vehicle functions or specially adapted therefor
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/212Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays displaying on manual operation elements, e.g. on a knob
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/29Instruments characterised by the way in which information is handled, e.g. showing information on plural displays or prioritising information according to driving conditions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R16/00Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
    • B60R16/02Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3664Details of the user input interface, e.g. buttons, knobs or sliders, including those provided on a touch screen; remote controllers; input using gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • G06F3/0312Detection arrangements using opto-electronic means for tracking the rotation of a spherical or circular member, e.g. optical rotary encoders used in mice or trackballs using a tracking ball or in mouse scroll wheels
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0425Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0425Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected
    • G06F3/0426Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected tracking fingers with respect to a virtual keyboard projected or printed on the surface
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0428Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means by sensing at the edges of the touch surface the interruption of optical paths, e.g. an illumination plane, parallel to the touch surface which may be virtual
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/141Activation of instrument input devices by approaching fingers or pens
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/18Information management
    • B60K2360/195Blocking or enabling display functions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/02Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof
    • B60R11/0229Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof for displays, e.g. cathodic tubes
    • B60R11/0235Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof for displays, e.g. cathodic tubes of flat type, e.g. LCD
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/12Mirror assemblies combined with other articles, e.g. clocks
    • B60R2001/1253Mirror assemblies combined with other articles, e.g. clocks with cameras, video cameras or video screens
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R2011/0001Arrangements for holding or mounting articles, not otherwise provided for characterised by position
    • B60R2011/0003Arrangements for holding or mounting articles, not otherwise provided for characterised by position inside the vehicle
    • B60R2011/0007Mid-console

Definitions

  • the present invention relates to a vehicle operation input device.
  • an operation input device which operates a device remotely such as a prompter system
  • Such an operation input device is provided with a remote operation unit at the operator's hand separately from a display device that displays an operation screen (main screen), and further, photographs and extracts a hand that operates the remote operation unit, The obtained hand image and manual operation are reflected on the operation screen (main screen) of the display device, and display control is performed as if the operation screen is directly touch-operated.
  • Such operation input devices those provided in the vehicle are provided with the remote operation unit at the user's seat on the seat in order to increase the operability.
  • the remote operation unit is often configured as a touch operation type operation unit having a touch operation surface.
  • an object of the present invention is to provide a display method of a position fingertip image that can easily identify an actual finger used for position indication in a display in which a position indication image corresponding to a finger is superimposed or synthesized on another image.
  • An object of the present invention is to provide a display device adopting a display method and an operation input device including the display device.
  • a vehicle operation input device is provided as follows.
  • a display unit having a display screen for operating a device included in the vehicle, and a remote operation surface provided at a position different from the display screen for remotely performing operation input on the display screen
  • a remote operation unit ; an input receiving unit that receives an input corresponding to a pressing operation position based on a pressing operation on the remote operation surface; a hand image capturing unit that captures an image of a hand facing the remote operation surface;
  • a position indicating image display unit for displaying a position indicating image generated based on the image of the photographed hand at a position on the display screen instructed by a hand, and a finger state of the hand facing the remote operation surface
  • the predetermined finger state specifying unit for specifying whether or not the predetermined finger state is determined in advance and the display mode set for the position indicating image display unit are specified.
  • the position finger Display mode setting for executing display mode switching control for setting display permission mode for permitting image display and setting to display prohibition mode for prohibiting display of the position
  • a display device comprising: a display unit having a display screen; and a remote operation unit having a remote operation surface for remotely performing operations on the display screen, wherein fingers are opposed to the front side of the remote operation unit
  • a display method for displaying a position indication image in a form superimposed or superimposed on an image forming a background at a screen position on the display screen corresponding to the finger position, wherein the hand is opposed to the remote operation surface.
  • a predetermined finger state specifying step for specifying whether or not the finger state is a predetermined finger state, and a display permission mode for permitting display of the position indicating image when the predetermined finger state is specified.
  • a step of setting to a display prohibit mode for prohibiting display of the position indicating image when the predetermined finger state is not specified.
  • a display device comprising: a display unit having a display screen; and a remote operation unit having a remote operation surface for remotely performing operations on the display screen, wherein fingers are opposed to the front side of the remote operation unit Accordingly, a display method for displaying a position indication image in a form superimposed or superimposed on an image forming a background at a screen position on the display screen corresponding to the finger position is provided on the front side of the remote operation unit.
  • the position indication image corresponding to the manipulation target finger which is, and a position indication image highlight display step of performing at relatively emphasized highlighting of the position indication image corresponding to the different fingers from the operation target finger.
  • FIG. 1 shows the structure of the navigation apparatus for vehicles using the operation input device for vehicles which is an example of the touch-type operation input device of 1st embodiment of this invention.
  • Sectional drawing which shows the 1st structure of an operation information input part.
  • indication image display process of 4th Example of 1st embodiment The flowchart which shows the touch operation input process in 5th Example of 1st embodiment.
  • summary (6th Example) of the operation input device for vehicles different from FIG. The example of the setting of the vehicle speed threshold value in 2nd Example thru
  • the figure explaining the specific method of a fingertip The figure explaining the 1st example of the method of specifying an operation target finger in the Example of FIG.
  • the figure explaining the 2nd example of the method of specifying an operation target finger in the Example of FIG. The figure explaining the 3rd example of the method of specifying an operation target finger in the Example of FIG.
  • the flowchart which shows the 2nd modification of the specific process of the operation target finger in the tenth example of the first embodiment.
  • the figure explaining the 2nd example of the method of specifying an operation target finger in the 2nd modification of the 10th example of a first embodiment The flowchart which shows the 3rd modification of the specific process of the operation target finger in the tenth example of the first embodiment.
  • the flowchart which shows the 5th modification of the specific process of the operation target finger in the tenth example of the first embodiment The figure explaining an example of the method of specifying an operation target finger in the fifth modification of the tenth example of the first embodiment.
  • the flowchart which shows the 6th modification of the specific process of the operation target finger in the tenth example of the first embodiment.
  • the flowchart which shows the 7th modification of the specific process of the operation target finger in the tenth example of the first embodiment.
  • the 1st figure explaining the method of specifying an operation target finger in the 7th modification of the 10th example of a first embodiment.
  • the flowchart which shows the flow of a finger tracking process. The flowchart following FIG.
  • the flowchart which shows the flow of a touch operation input process.
  • FIG. 1 is a block diagram showing a configuration of a vehicle navigation device using the operation input device of the present embodiment.
  • the operation input device 1 a display device 15 capable of displaying an operation input image such as a switch image (operation icon) for touch operation on the display screen, and a touch operation on the display screen are remotely performed.
  • An operation input device is employed in which an operation panel 12a for performing the operation is provided at a different position.
  • the operation target of the touch-type operation input device of the present embodiment is not limited to the navigation function, but the device functions (audio, air conditioner, power window, etc.) of other in-vehicle electronic devices controlled by the ECU 100 connected via the in-vehicle LAN 50. Sheet adjustment function, etc.).
  • the navigation device 10 includes a position detector 11 that detects the current position of the vehicle, an operation information input unit 12 for inputting various instructions from an operator such as a driver, and an external that records map data and various information.
  • a map data input device 14 for inputting map data and the like from a recording medium, a display device 15 for performing various displays such as a map display screen and a TV (Television) screen, and outputting various guide voices, etc.
  • the control circuit 18 can also be connected to the cameras 20 and 40 and the vehicle speed sensor 30.
  • the camera may be configured only as a camera 12b described later.
  • the position detector 11 receives a radio wave transmitted from an artificial satellite for GPS (Global Positioning System) via a GPS antenna and is added to the vehicle and a GPS receiver 11a that detects the position, direction, speed, and the like of the vehicle.
  • GPS Global Positioning System
  • a gyroscope 11b that detects the magnitude of the rotational motion
  • a distance sensor 11c that detects the distance traveled from the longitudinal acceleration of the vehicle, and the like
  • a geomagnetic sensor 11d that detects the traveling direction from the geomagnetism.
  • Each of the sensors 11a to 11d has an error of a different property, and is configured to be used while complementing each other. Depending on the accuracy, some of the sensors described above may be used, or a steering rotation sensor, a wheel sensor for each rolling wheel, or the like (not shown) may be used.
  • the operation information input unit 12 irradiates light of a predetermined wavelength band, and transmits the light emitted from the light source 12c from the surface 12a2 side to the surface 12a1 side.
  • the operation information input unit 12 of the present embodiment is operated from both the right and left seats below the lower edge of the windshield of the vehicle, such as the center console portion C of the vehicle. It is installed in a possible position. More specifically, it is disposed below the display device 15 and on the front side between both seats of the adjacent left and right seats.
  • the adjacent left and right seats in this embodiment are the driver's seat 2D and the passenger seat 2P in FIG. 2, but may be, for example, the left and right seats in the rear row.
  • the position is not limited to a position that can be operated from both the left and right seats, and may be installed at a position where the operator can easily operate, for example, a steering section or a door section.
  • the operation panel 12a is a panel having translucency with respect to light emitted from at least the light source 12c.
  • it is configured as a well-known resistive film type touch panel provided with a vertical transparent electrode and a horizontal transparent electrode, and its output is input to the control circuit 18.
  • the operation panel 12a is fitted into the front end opening of the hollow casing 12f, and the surface 12a1 is a touch operation surface (remote operation surface).
  • a cylindrical wall portion 122e is provided from the outer edge of the housing front end portion 121e forming the front end opening toward the rear, and the rear end portion is fixed to the circuit board 12k.
  • the housing 12f is fixedly disposed at a predetermined position in the vehicle interior, and a camera 12b and a light source 12c are disposed inside.
  • the light source 12c irradiates light in such a manner that the operation panel 12a is transmitted from the back surface 12a2 to the front surface 12a1.
  • Light (irradiation light) from the light source 12c passes outside from the touch operation surface 12a1 unless there is an approaching object (such as a hand) positioned so as to cover the touch operation surface 12a1,
  • an approaching object such as a hand
  • the camera 12b captures the reflected object reflected from the approaching object H by the light emitted from the light source 12c, and photographs the approaching object H from the back surface 12a2 side of the operation panel 12a. It is fixed on the vehicle body side to shoot the shooting range. Specifically, a reflecting member 12r is provided so that the photographing range can be photographed by the camera 12b, and the camera 12b photographs the reflected image. When there is no reflecting member 12r, the photographing range is directly photographed by the camera 12b. Therefore, it is necessary to perform left-right reversal processing on the photographed image.
  • the light source 12c is an infrared light source
  • the camera 12b includes an infrared camera (not shown) that shuts out visible light and is suitable for shooting in a dark place. Do). Photographing is performed in such a manner that the camera 12b captures the reflected light reflected from the approaching object H by the light (infrared rays) emitted from the infrared light source 12c.
  • the camera 12b is fixedly arranged on a substrate fixed to the vehicle body side, and a range including the touch operation surface 12a1 is set as a shooting range.
  • the infrared light source 12c is an LED located on the back side of the operation panel 12a.
  • the operation panel 12a in the present embodiment is made of a material having translucency only with respect to the light from the light source 12c, an infrared filter in the camera 12b can be eliminated, and The inside of the housing 12f is not visible from the outside.
  • the camera 12b in this embodiment functions as a photographing unit or means.
  • the camera 12b functions as an approaching object photographing unit or means for photographing an approaching object approaching the operation panel 12a, and considering that the approaching object includes a hand, It can be said that it functions as a hand image photographing unit or means for photographing a hand image, and further as a finger image photographing unit or means for photographing a finger image of a hand.
  • FIGS. 4 to 7 are diagrams for explaining photographing of the hand (finger) H facing the operation panel 12a.
  • (A) of each figure has shown the state (finger state) of the operation panel 12a and the hand which opposes the surface 12a1, and (b) of each figure shows the hand of the state of (a) with the camera 12b.
  • the image 150 is taken in the above, and is an image taken using the entire operation panel 12a as a shooting area.
  • the video 150 of (b) in this embodiment is a binarized version of the video after shooting.
  • reference numeral 150H is an area where the approaching object H is reflected
  • reference numeral 150B is an area where nothing is reflected.
  • the region denoted by reference numeral 150B is originally a region where the operation panel 12a is reflected, but is not reflected because the operation panel 12a has translucency with respect to the light from the light source 12c. Even in such a case, it is not strange that a background (the ceiling surface of the vehicle in the present embodiment) is reflected through the operation panel 12a, but such a background is removed. Background removal can be performed by using images with different illumination conditions as described in Japanese Patent Application Laid-Open No. 2007-272596.
  • (c) of each figure is an example of a screen display on the display device 15 when the video 150 of (b) is taken.
  • FIG. 4C is an example of the screen display in the conventional prompter type operation input device. In this embodiment, when the image 150 as shown in FIG. 4B is displayed, FIG. ) Is displayed on the screen.
  • the display device 15 is a color display device installed on the front side of the driver's seat 2 ⁇ / b> D in FIG. 2 so as to be visible by the driver, and the display screen is farther from the driver than the touch operation surface 12 a 1. In the position.
  • any of a liquid crystal display, a plasma display, an organic EL display, or the like may be used.
  • the display screen of the display device 15 includes a mark indicating the current location identified from the current position of the vehicle detected by the position detector 11 and the map data input from the map data input device 14, a guidance route to the destination, a name, Additional data such as landmarks and marks of various facilities can be displayed in an overlapping manner. Also, facility guides can be displayed.
  • the display device 15 functions as an example of a display unit or means.
  • the display device 15 has a display screen for performing operations of equipment provided in the vehicle, and in this embodiment, the display device 15 includes a touch panel 15a on the display screen.
  • the touch panel 12a of the operation information input unit 12 already described is a remote operation unit provided so that the operation of the touch panel 15a can be remotely operated from a position closer to the driver or passenger on the passenger seat. Based on the touch operation performed on the touch operation surface 12a1, an input to the screen position of the display device 15 (touch operation surface position of the touch panel 15a) corresponding to the touch operation position is accepted.
  • a two-dimensional coordinate system (two-dimensional coordinate system defined on the touch operation surface of the touch panel 15a) defined on the display screen of the display device 15 and a touch operation surface 12a1 of the operation panel 12a are defined.
  • An unambiguous correspondence between the two-dimensional coordinate system is determined in advance, and the other in-plane position corresponding to the one in-plane position can be uniquely identified, and the touch operation surface 12a1. If there is a touch operation, an operation input to a position coordinate on the display screen of the display device 15 corresponding to the position coordinate where the touch operation is performed is received based on the correspondence.
  • the control circuit 18 specifies the position coordinates on the touch operation surface 12a1 where the touch operation is performed, and further, the position on the specified touch operation surface 12a1.
  • a position coordinate on the display screen of the display device 15 corresponding to the coordinate is specified, and then a control signal for executing control content corresponding to the specified position coordinate on the display screen is output.
  • a switch image (operation icon or the like) 200I is displayed on the display screen of the display device 15
  • the touch operation is performed at a position corresponding to the switch image 200I on the touch operation surface 12a1
  • the control circuit 18 Then, an input is accepted on the assumption that there has been a touch operation on the switch image 200I, and accordingly, the control content corresponding to the switch image 200I is executed.
  • a map screen (map operation image) that can be displayed on the display screen of the display device 15 is displayed, the control circuit 18 can be operated by touching the position on the map on the touch operation surface 12a1. Then, an input to the touch operation position is accepted, and accordingly, display feed control for displaying a map with the touch operation position as a new screen center is executed.
  • the display device 15 is not limited to the display device 15 disposed in the center console C as shown in FIG. 2, and may be installed above the lower edge of the windshield FG, for example.
  • a head-up display (HUD) for displaying the above-described image / data on the windshield FG of the vehicle, a meter display device located behind the steering wheel, and the like can be exemplified.
  • the map data input device 14 is road data as network data, map data such as so-called map matching data for improving the accuracy of position specification, mark data indicating facilities, guidance image and audio data. It is a device for inputting various data including the like.
  • a CD-ROM, DVD-ROM, hard disk, memory, memory card, or the like can be used as a recording medium for these data.
  • the voice input / output device 16 can output the facility guide and various guidance voices input from the map data input device 14 and the reading voice of the information acquired through the I / F 19.
  • the voice input / output device 16 includes a microphone (not shown) and a known voice recognition unit, and can input voice of an operator such as a driver to the control circuit 18 as a command or the like.
  • the wireless communication device 13 is for performing narrow-band communication with other communication devices 13a.
  • DSRC Dedicated Short Range Communications
  • Bluetooth registered trademark
  • wireless LAN Local Area Network
  • UWB User Wideband
  • the LAN I / F 19 is an interface circuit for exchanging data with other in-vehicle electronic devices and sensors via the in-vehicle LAN 50. Further, for example, data from another ECU (such as the ECU 100 in FIG. 1) may be taken in via the LAN I / F 19.
  • the camera 20 is provided in the periphery of the rear-view mirror at the upper front of the vehicle, and photographs the surrounding area including the touch operation surface 12a of the operation panel 12a. More specifically, for example, a photographed image 300 as shown in FIG. 8 is photographed, and the photographing range is determined so that not only the operator's hand of the operation panel 12a but also the arm following that hand is reflected. In the control circuit 18 that acquires the photographed peripheral image of the operation panel, the direction of the arm extending from the hand is specified by the image processing unit 18a to determine whether or not the operator is a driver. In the photographed image 300 in FIG.
  • reference numeral 300H is a hand image
  • reference numeral 300A is an image of an arm that continues from the hand
  • reference numeral 312a is an area on which the operation panel 12a is reflected
  • the operator's arm of the operation panel 12a is the captured image. Since it extends from the right side, that is, from the driver's seat side, the operator is identified as the driver.
  • the camera 20 functions as an operator specifying unit or means together with the control circuit 18 (image processing unit 18a).
  • an approaching object detection unit for example, a reflective optical sensor such as an infrared reflection sensor
  • an approaching object may be provided on each of the left and right sides of the touch operation surface 12a to identify the operator.
  • the vehicle speed sensor 30 includes a rotation detection unit such as a known rotary encoder, and is installed near the wheel mounting unit, for example, to detect the rotation of the wheel and send it to the control circuit 18 as a pulse signal.
  • the control circuit 18 calculates an estimated arrival time from the current position of the vehicle to a predetermined location, and calculates an average vehicle speed for each travel section of the vehicle. Or calculate.
  • the vehicle speed sensor 30 is a vehicle speed detection unit or means, and the control circuit 18 receives the detection result and specifies whether or not the vehicle is in a predetermined low-speed driving state. It functions as a part or means.
  • the control circuit 18 is configured around a well-known microcomputer including a well-known CPU, ROM, RAM, I / O (Input / Output) (not shown) and a bus line connecting these components.
  • a well-known microcomputer including a well-known CPU, ROM, RAM, I / O (Input / Output) (not shown) and a bus line connecting these components.
  • the current position of the vehicle is calculated as a set of coordinates and traveling directions based on each detection signal from the position detector 11, and is read via the map data input device 14.
  • Map display processing for displaying a nearby map, a map in a range designated by the operation of the operation information input unit 12, and the like on the display device 15 as a main image (including moving images and still images) 200B as shown in FIG.
  • the destination facility is selected according to the operation of the operation information input unit 12, and the target location is selected from the current position.
  • a technique such as the Dijkstra method is known as a technique for automatically setting an optimum route in this way.
  • the control circuit 18 also displays a switch image (operation icon) 200I, a processed image 200H based on the approaching object image 150H acquired from the operation information input unit 12, and the like based on a program stored in the storage unit 18d such as a ROM.
  • the image processing unit 18a is used as a sub-image, which is combined with the main image 200B (map operation image or the like) and displayed or superimposed.
  • the processing unit 18a is used as a sub-image, which is combined with the main image 200B (map operation image or the like) and displayed or superimposed.
  • the processed image 200H generated based on the photographed hand image 150H is used as a position indicating image, and the position is determined by the hand. Overlays at the indicated position on the display screen. That is, the processed image 200H is overlaid and displayed as a position indicating image 200H indicating the position on the display screen where the position is specified by the finger of the hand.
  • the processed image 200H based on the approaching object image 150H is an approaching object contour reflecting image that is processed and generated so that at least the outer shape (contour) of the approaching object image 150H is reflected. 200H. Then, this image 200H is superimposed on the main image 200B. Instead of the superimposed display, the image 200H may be combined with the main image 200B and displayed. As a result, when an operator such as a driver moves his / her finger or the like so as to face the touch operation surface 12a1 of the operation panel 12a, for example, a hand is displayed on the display screen of the display device 15. The processed image 200H reflecting the shape (finger shape) is moved and displayed, and the operation can be performed as if the operation panel 12a exists on the display screen of the display device 15.
  • the position instruction image 200H does not necessarily reflect the photographed hand shape / finger shape outline, and may be an image that indicates at least the position indicated by the photographed hand finger. It may be only a portion, only a fingertip, or a symbol image such as a pointer image. Moreover, there is no problem if the hand image (or finger image) 150H photographed by the camera 12b is displayed as it is without being processed (superimposed display or composite display) as the position indication image 200H, but the position overlapping image In view of the fact that a part of the main image 200B that should be displayed on the screen becomes invisible, it is more desirable to perform processing (for example, translucent synthesis) that makes the operation easier. Alternatively, the image may be processed into a pseudo finger image that is thinner than the actual finger image.
  • switch image data for displaying the switch image 200I is stored in the storage unit 18d such as a ROM of the control circuit 18, and is used for overlapping display or composite display of the switch image 200I.
  • the storage unit 18d such as the ROM of the control circuit 18 is implemented by an operation input (touch input to a corresponding area on the touch operation surface 12a1) in a form associated with each switch image 200I.
  • the control contents are also stored.
  • An operation input reception range (operation input position) is set in the corresponding area (operation input position setting unit or means).
  • operation input position setting unit or means When a map screen (map operation image) 200B2 that can be displayed and sent as the main image 200B is displayed on the display screen, an operation input reception range (operation input position) is set for the entire displayed map area. (Operation input position setting unit or means).
  • control circuit 18 can measure the time by starting its own timer 18b and counting up the counter 18c. These are used when measuring time in the processing described later.
  • the control circuit 18 receives an input, displays a position instruction image, specifies an operator, specifies a running state, specifies a predetermined finger state, specifies a finger state for simple operation, specifies a finger state for operation intention display, sets a display mode, and inputs an operation. It functions as an example of each part or means of control. Note that the image processing unit 18a also functions as an example of each part or means for displaying the position indication image and specifying the operator.
  • the control circuit 18 determines whether an image of the operator's hand has been acquired based on the captured image captured by the camera 12b.
  • the camera 12b always shoots an approaching object (for example, an operator's hand such as a driver) H that approaches the touch operation surface (front surface) 12a1 side from the back surface 12a2 side of the operation panel 12a via the operation panel 12a.
  • the captured image is always input to the image processing unit 18a of the control circuit 18.
  • the captured image 150 including the approaching object H is naturally input to the image processing unit 18a.
  • the input captured image 150 is analyzed by a known image analysis method in the image processing unit 18a, and an approaching object image 150H is extracted based on a color difference or the like. Then, from the shape of the extracted approaching object image 150H, it is determined whether or not the image 150H is an image of a human hand. The determination result is output to the control circuit 18, and if it is determined that the hand image has been recognized, the process proceeds to S2, and if not determined, the present process is terminated.
  • the light source 12c is arranged, and the camera 12b performs shooting in a form that captures the reflected light of the light source 12c. Therefore, the reflected light intensity is reflected in the gradation of the color appearing in the captured image 150, and the higher the reflected light intensity, the higher the gradation level. That is, since the captured video 150 captured by the camera 12b of the present embodiment is a multi-gradation captured image (monochrome captured image in the present embodiment), the image processing unit 18a converts this to a predetermined gradation. The gradation level of each pixel is binarized using the threshold value, and a region exceeding the gradation threshold value is extracted as the approaching object image 150H as shown in FIG. 4 to FIG. 7B.
  • the shape of the approaching object image 150H and the hand stored in the storage unit 18d of the control circuit 18 are used. Compared to the shape pattern, the approaching object image 150H that matches these patterns is recognized as a hand image (hand image recognition unit or means: hand shape recognition unit or means).
  • the finger state for simple operation included as Example 2 is adopted as the predetermined finger state. Therefore, specifically, it is specified whether or not it is the finger state for simple operation (finger state specifying unit or means for simple operation).
  • the simple operation finger state is, for example, a state where the number of fingers that can be an operation target, that is, the number of fingers extending substantially along the touch operation surface 12a is about one or two. In other words, an operation using five fingers to speed up input is a highly difficult finger state, and the simple operation finger state here is different from such a finger state.
  • the image processing unit 18a that has extracted the hand image identifies a substantially linear rod-shaped image pattern having an axial line longer than a predetermined length from the overall shape of the hand image.
  • a finger image 150F finger specifying unit or means
  • the specified result is output to the control circuit 18, and the control circuit 18 specifies the number of the finger images 150F (a finger number specifying unit or means: a hand shape recognition unit or means), and the number is one. Is determined to be a predetermined simple operation finger state (simple operation finger shape).
  • the control circuit 18 specifies the positional relationship between the display screen of the display device 15 and the photographed hand. That is, it is specified which position on the display screen the captured hand image H (see FIG. 3) faces.
  • the operation panel image area where the touch operation surface 12a is located is specified on the captured image captured by the camera 12b, and the operation coordinate system of the touch operation surface 12a is set on the operation panel image area.
  • the position of the captured hand image H is specified on the set operation coordinate system.
  • a position corresponding to the position of the hand image H specified on the operation coordinate system is specified.
  • the captured image (binarized image) 150 shown in FIGS. 5 to 7B is an operation panel image area obtained by capturing the entire touch operation surface 12a1.
  • the position indicating image is displayed at the position corresponding to the hand image H specified on the operation panel image area on the display screen of the display device 15.
  • 200H is displayed (position indication image display unit or means).
  • a processed image 200H in which the outer shape of the hand image 150H is clearly displayed and the inside of the contour is translucent is generated, and the main image 200B displayed on the screen of the display device 15 is generated.
  • the process proceeds to S7.
  • the display mode is set to a display prohibition mode in which the display of the position indication image is prohibited. Thereby, the display of the position instruction image performed in S5 and S6 is not executed, and the position instruction image 200H is not displayed on the display screen of the display device 15, for example, as shown in FIG.
  • the set display prohibition mode is stored in a predetermined storage area (display mode storage unit) provided in the storage unit 18d of the control circuit 18.
  • This process ends when S6 and S7 end. Note that this processing is repeatedly performed at a predetermined cycle after the end, and when the hand in the simple operation finger state that faces the operation panel 12a moves, the position instruction image displayed on the display screen of the display device 15 in accordance with this movement. (Processed image) The display position of 200H also moves.
  • a form in which a predetermined finger shape state (in this embodiment, a simple operation finger state) is determined as a display permission period is determined. It has become. That is, the processing is such that the display permission mode is set when the simple operation finger state is specified, and the display prohibition mode is set when the simple operation finger state is not specified.
  • the control circuit 18 functions as an example of a display mode setting unit or means by executing the display process of the position indication image.
  • the control circuit 18 sets the input permission mode
  • the display prohibit mode is set. If it is set, the process includes operation input reception control for prohibiting reception of the touch operation input (the control circuit 18 sets the input prohibit mode).
  • the control circuit 18 functions as an example of an operation input control unit or means by executing this touch operation input process.
  • the control circuit 18 determines whether or not there is a touch operation on the operation panel 12a. Since the operation panel 12a is configured as a touch panel, when a touch operation is performed, an operation signal is input to the control circuit 18, and thus determination is made based on the presence or absence of the input. If there is a touch operation on the operation panel 12a, the process proceeds to S102, and if there is no touch operation, this process ends.
  • the control circuit 18 determines whether or not the current display mode is the display permission mode. Since the current display mode is stored in a predetermined storage area (display mode storage unit) provided in the storage unit 18d of the control circuit 18, the current display mode is determined based on the stored display mode information. When it is determined that the current display mode is the display permission mode, the process proceeds to S103, and when it is determined that the current display mode is not the display permission mode, that is, when it is determined that the display prohibition mode is set, this process ends.
  • the touch operation position on the operation panel 12a that is, the touch operation position on the touch operation surface 12a1 is specified. Since the operation panel 12 a is configured as a touch panel, an operation signal is input to the control circuit 18 when a touch operation is performed. Since the touch operation position is reflected in the operation signal as coordinate information on the operation coordinate system defined on the operation surface 12a1, the control circuit 18 specifies the touch operation position based on the operation signal. .
  • the control circuit 18 performs control corresponding to the touch operation position on the operation panel 12a. Specifically, since each position on the touch operation surface 12a1 of the operation panel 12a corresponds to a position on the display screen of the display screen 15, the position on the touch operation surface 12a1 specified in S103. The corresponding control content determined at the position on the display screen of the display screen 15 is executed. Specifically, the control circuit 18 outputs a control signal for performing the control content. For example, if the position on the touch operation surface 12a1 specified in S103 corresponds to the position of the switch image 200I displayed on the display screen of the display screen 15, the control circuit 18 is assigned to the switch image. A control signal for executing the control content is output.
  • This process ends when S104 ends. Note that this process is repeatedly performed at a predetermined cycle even after the completion of the process, and the control circuit 18 performs the control content corresponding to the position touched at that time or is performed by another control unit (for example, the ECU 100 or the like).
  • the display permission mode when the display permission mode is set, the acceptance of the touch operation input to the operation panel 12a is permitted (input permission mode), and when the display prohibit mode is set. The reception of the touch operation input is prohibited (input prohibition mode).
  • the display permission mode is set when the predetermined finger state (in this embodiment, the simple operation finger state) is specified, and the predetermined finger state is not specified.
  • the display prohibit mode is set, and as a result, the touch operation input to the operation panel 12a is not accepted unless the user's finger state is the predetermined finger state.
  • the touch operation input to the operation panel 12a is not accepted unless the user's finger state is the simple operation finger state.
  • the display permission mode is set to permit display of the position instruction image, and the finger state for simple operation is specified.
  • the display prohibition mode for prohibiting the display of the position indication image is set.
  • display mode switching control is performed when the vehicle is in a predetermined driving state, and the predetermined driving state is set. If not, the display permission mode can be set as the display mode.
  • the vehicle travel state detection unit or means for detecting the travel state of the vehicle is provided. FIG. 11 shows an example of such processing.
  • a vehicle speed sensor (vehicle speed detection unit or means) 30 for detecting the vehicle speed of the vehicle is connected to the control circuit 18, and the control circuit 18 is connected to the vehicle.
  • vehicle speed detection unit or means 30 for detecting the vehicle speed of the vehicle is connected to the control circuit 18, and the control circuit 18 is connected to the vehicle.
  • display mode switching control is executed.
  • display is permitted as a display mode regardless of the finger state. The mode is set.
  • control circuit 18 determines whether an image of the operator's hand has been acquired. This is the same as the processing of S1 in FIG. When the image of the operator's hand is acquired, the process proceeds to S22, and when the image of the operator's hand is not acquired, this process ends.
  • the current running state of the vehicle is specified. That is, it is determined whether or not the vehicle is in a traveling state exceeding a predetermined vehicle speed level.
  • the control circuit 18 stores a vehicle speed threshold value in advance in a predetermined storage unit 18d such as a ROM, determines whether the vehicle speed detected by the vehicle speed sensor 30 exceeds the vehicle speed threshold value, and identifies the vehicle running state as the vehicle speed threshold value.
  • the case where it does not exceed is specified as the low-speed running state (including the stopped state).
  • 5 km / h or the like is fixedly determined as the vehicle speed threshold.
  • S24 it is specified whether or not the operator's hand (operator) is in a predetermined finger state (in this embodiment, a simple operation finger state).
  • a predetermined finger state in this embodiment, a simple operation finger state.
  • the specification of the predetermined finger state is performed by the same process as the process of S2 of FIG.
  • subsequent S25 when it is determined that the current finger state is the predetermined finger state, the process proceeds to S26, and when it is determined that the current finger state is not the predetermined finger state, the process proceeds to S29.
  • the display permission mode in which the display of the position instruction image is permitted is set as the display mode.
  • the set display permission mode is stored in a predetermined storage area (display mode storage unit) of the storage unit 18d of the control circuit 18.
  • the control circuit 18 specifies the positional relationship between the display screen of the display device 15 and the photographed hand. This process is the same as the process of S5 of FIG.
  • the position indication image 200H is displayed in an overlapping manner on the main image 200B displayed on the display screen of the display device 15 (position indication image display unit or means). This process is the same as S6 in FIG.
  • the process proceeds to S29.
  • the display mode is set to a display prohibition mode in which the display of the position indication image is prohibited, and this is stored in a predetermined storage area (display mode storage unit) of the storage unit 18d of the control circuit 18.
  • the display of the position instruction image 200H performed in S27 and S28 is not executed, and the position instruction image 200H is not displayed on the display screen of the display device 15, for example, as shown in FIG.
  • This process is ended by the end of S28 and S29, but this process is repeatedly performed at a predetermined cycle after the end.
  • the above-mentioned predetermined vehicle speed level (vehicle speed threshold) is set to 5 km / h, and the display permission mode is always set in the slow running state of the vehicle that does not exceed the vehicle speed level. It has come to be.
  • this vehicle speed level is set within a vehicle speed range that is higher than 0 km / h and lower than 5 km, or within a vehicle speed range that is greater than or equal to 5 km / h and less than 10 km / h, as shown in FIG.
  • it may be set to 0 km / h so that the display permission mode is always set when the vehicle is stopped.
  • this vehicle speed level may be set within a vehicle speed range of 10 km / h or more and less than 30 km (low-speed driving state of the vehicle), or within a vehicle speed range of 30 km / h or more and less than 60 km / h (in the vehicle). (High speed running state), or may be set within a vehicle speed range of 60 km / h or higher (high speed running state of the vehicle).
  • the display mode switching control is performed when the vehicle is in a predetermined vehicle running state (higher speed than the vehicle speed threshold), and when the vehicle is not in the predetermined vehicle running state (lower speed than the vehicle speed threshold). ),
  • the display permission mode is fixedly set.
  • the display prohibition mode is fixedly set and the predetermined vehicle traveling is performed. It is good also as an Example by which the said display mode switching control is implemented when it is not in a state (it is a low speed side from a vehicle speed threshold value).
  • the display permission mode is set to permit the display of the position instruction image when the simple operation finger state is specified, and when the simple operation finger state is not specified, the position instruction image is displayed.
  • the display prohibition mode is set to prohibit the display, but when the driver is specified as the operator of the touch operation surface 12a1, the display mode switching control is executed. However, when the driver is not specified, the display permission mode can be set as the display mode regardless of the finger state.
  • the position instruction image display process shown in FIG. 12 is performed instead of the position instruction image display process of FIG. 9 in the first embodiment.
  • control circuit 18 determines whether an image of the operator's hand has been acquired. This is the same as the processing of S1 in FIG. When the image of the operator's hand is acquired, the process proceeds to S32, and when the image of the operator's hand is not acquired, this process is terminated.
  • S32 it is specified whether or not the operator who makes his / her hand face the operation panel 12a is a driver (operator specifying unit or means).
  • the operator can be specified based on, for example, a captured image (FIG. 8) of the camera 20 shown in FIG. Specifically, by identifying the direction in which the arm extends from the captured image of the camera 20 and determining whether or not the direction extends from the driver's seat 2D side, the operator Whether or not is a driver.
  • S33 it is determined whether or not the operator of the operation panel 12a is a driver. If it is determined that the operator is a driver, the process proceeds to S34. On the other hand, if it is determined in S33 that the operator of the operation panel 12a is a person other than the driver, the process proceeds to S36.
  • S34 it is determined whether or not the driver's hand (operator) as the operator is in a predetermined finger state, that is, in the present embodiment, the finger state for simple operation.
  • the finger state for simple operation is specified by a process similar to the process of S2 in FIG.
  • S35 it is determined whether or not the current finger state is the simple operation finger state. If it is determined that the current finger state is the simple operation finger state, the process proceeds to S36, and it is determined that the current state is not the simple operation finger state. If so, the process proceeds to S39.
  • the display permission mode in which the display of the position instruction image is permitted is set as the display mode.
  • the set display permission mode is stored in a predetermined storage area (display mode storage unit) of the storage unit 18d of the control circuit 18.
  • the control circuit 18 specifies the positional relationship between the display screen of the display device 15 and the photographed hand. This process is the same as the process of S5 of FIG.
  • the position indication image 200H is displayed in an overlapping manner on the main image 200B displayed on the display screen of the display device 15 (position indication image display unit or means). This process is the same as S6 in FIG.
  • the finger of the operator is determined regardless of the finger state of the operator by the processes of S37 and S38. While the position indication image 200H based on the state is displayed (see (c) of FIGS. 4, 6, and 7), the driver is specified as the operator of the operation panel 12a in S32, and in S35.
  • the position instruction image 200H based on the simple operation finger state performed by the driver is displayed by the processing of S37 and S38 (FIG. 6). And (c) of FIG. 7).
  • the process proceeds to S39.
  • the display mode is set to a display prohibition mode in which the display of the position indication image is prohibited, and this is stored in a predetermined storage area (display mode storage unit) of the storage unit 18d of the control circuit 18.
  • the display of the position instruction image 200H performed in S37 and S38 is not executed, and the position instruction image 200H is not displayed on the display screen of the display device 15 as shown in FIG. 5C, for example.
  • This process ends when S38 and S39 end. This process is repeatedly performed at a predetermined cycle even after the process is completed.
  • the display processing of the position indication image shown in FIG. 9 is performed as processing in a combination of both FIG. 11 and FIG. That is, the traveling state of the vehicle (for example, the vehicle speed of the vehicle) is detected, and whether or not the operator of the remote touch operation surface 12a is a driver is determined. In a low-speed driving state that is lower than a predetermined vehicle speed level) and the operator of the specified remote touch operation surface 12a is a driver, the simple operation finger state is specified. The display of the position instruction image 200H is permitted only when it is present, but the display of the position instruction image 200H is prohibited when the simple operation finger state is not specified.
  • the specified finger state is set. Regardless, it is possible to perform processing that permits display of the position indicating image 200H. Specifically, the touch operation input process of FIG. 9 described above can be realized as a process as shown in FIG.
  • the process proceeds to S46 and S47, and the operator's hand (operator) is A predetermined finger state, that is, in this embodiment, whether or not it is a simple operation finger state is identified (the same processing as S2 and S3 in FIG. 9), and the current finger state is the simple operation finger state.
  • the operator's hand is A predetermined finger state, that is, in this embodiment, whether or not it is a simple operation finger state is identified (the same processing as S2 and S3 in FIG. 9), and the current finger state is the simple operation finger state.
  • the display permission mode is set as the display mode, and this is stored in a predetermined storage area (display mode storage unit) of the storage unit 18d.
  • the control circuit 18 specifies the positional relationship between the display screen of the display device 15 and the photographed hand, and in S50, on the main image 200B displayed on the display screen of the display device 15, The position instruction image 200H is displayed in an overlapping manner (position instruction image display unit or means).
  • the process proceeds to S51.
  • the display prohibit mode is set as the display mode, and this is stored in a predetermined storage area (display mode storage unit) of the storage unit 18d. Thereby, the display of the position instruction image 200H performed in S49 and S50 is not executed, and the position instruction image 200H is not displayed on the display screen of the display device 15, for example, as shown in FIG.
  • This process ends when S50 and S51 end. This process is repeatedly performed at a predetermined cycle even after the process is completed.
  • the display mode switching control is performed when the vehicle is in a predetermined vehicle running state (higher speed than the vehicle speed threshold) and the operator is a driver.
  • the display permission mode is fixedly set when the vehicle is not in a predetermined vehicle running state (lower speed than the vehicle speed threshold) or when the operator is not a driver.
  • the display prohibit mode is fixedly set when the operator is a driver and the display mode switching control is performed when the vehicle is not in a predetermined vehicle running state and the operator is a driver. In other cases (when the operator is not the driver), the display permission mode may be fixedly set.
  • the control content corresponding to the touch operation input to the remote touch operation surface 12a is executed, that is, the corresponding control.
  • the control content corresponding to the touch operation input to the remote touch operation surface 12a is not executed, that is, the execution of the corresponding control content is prohibited. It was.
  • execution of the control content corresponding to the touch operation input to the remote touch operation surface 12a is permitted, and the display prohibit mode
  • execution of the control content corresponding to the touch operation input to the remote touch operation surface 12a is prohibited when the predetermined finger state is not specified but the finger state for simple operation is not specified in the first embodiment. Can be configured to.
  • the control circuit 18 determines whether or not there is a touch operation on the operation panel 12a.
  • the process of S111 is the same as S101 of FIG.
  • the control circuit 18 determines whether or not the current finger state is a predetermined finger state, that is, the finger state for simple operation in the first embodiment.
  • whether or not the finger state for the simple operation as the predetermined finger state is determined as the processing of S2 in FIG. 9, S24 in FIG. 11, S34 in FIG. 12, S46 in FIG. 13, or S12 in FIG.
  • the process of storing the specified current finger state in a predetermined storage area (finger state storage unit) provided in the storage unit 18d of the control circuit 18 as the current finger state is specified I do.
  • the touch operation position on the operation panel 12a that is, the touch operation position on the touch operation surface 12a1 is specified (the same processing as S103 in FIG. 10).
  • control corresponding to the touch operation position on the operation panel 12a is performed (the same processing as S104 in FIG. 10).
  • the present process ends upon completion of S114, the present process is repeatedly performed at a predetermined cycle even after the completion.
  • position instruction image display process in the embodiment that performs the touch operation input process shown in FIG. 14 may be any of the position instruction image display process described above and the position instruction image display process described later. .
  • the camera 12b serving as the hand image capturing unit or means is a camera that captures a fixed area in the vehicle interior facing the touch operation surface (front surface) 12a1 of the touch panel 12a, as in the above-described embodiment.
  • the touch panel 12a has a configuration for photographing from the back surface 12a2 side.
  • the present embodiment is not limited to such a configuration.
  • the touch operation surface 12 a 1 of the touch panel 12 a is attached to the center console portion C of the vehicle so as to photograph from an obliquely upper side, and an approaching object approaching the touch operation surface 12 a 1 is displayed on the touch operation surface 12 a 1. You may comprise so that it may image
  • the process of horizontally inverting the image can be omitted.
  • the camera 12b serving as a hand image capturing unit or means may be used as the camera 20 that captures the peripheral area including the touch operation surface 12a1 of the operation panel 12a.
  • a period until the finger state for simple operation as the predetermined finger state becomes unspecified is determined.
  • a predetermined time can be determined as shown in FIG. That is, a period from when switching to the display permission mode until a predetermined time (prohibition mode return time) elapses is defined as a display permission period, and the display prohibition mode is restored as the prohibition mode return time elapses.
  • the touch operation input process is the process of FIG. According to this configuration, a period during which the position indication image can be displayed (display permission mode) is triggered when the user indicates a specific finger state, and the touch operation surface 12a1 while viewing the position indication image is displayed.
  • the position instruction input touch operation
  • the position instruction image is not displayed unless the user indicates a specific finger state, and the touch operation for performing the position instruction input cannot be performed smoothly.
  • the display of the position indication image is permitted only when the user displays a clear intention to input the position instruction, and the intention display is confirmed by specifying the user's finger state. ing.
  • the image display as shown in FIG. 4C is also possible.
  • the position indication image display process (FIG. 9) of the above embodiment can be realized by the process as shown in FIG.
  • control circuit 18 determines whether an image of the operator's hand has been acquired based on the captured image captured by the camera 12b. This process is the same as the process of S1 in FIG.
  • the control circuit 18 determines whether or not the current display mode is the display permission mode. Since the current display mode is stored in a predetermined storage area (display mode storage unit) provided in the storage unit 18d of the control circuit 18, the current display mode is determined based on the stored display mode information. If it is determined that the current display mode is the display prohibition mode, the process proceeds to S12. If it is determined that the current display mode is not the display permission mode, that is, if it is determined to be the display prohibition mode, the process proceeds to S19.
  • the hand state is a predetermined finger state determined in advance, in this first embodiment, the finger state for simple operation (the simple operation finger). State identification part or means). This process is the same as the process of S2 of FIG. In subsequent S13, when it is determined that the current finger state is the simple operation finger state, the process proceeds to S14.
  • the display mode is set to a display permission mode in which the display of the position instruction image is permitted, and the process proceeds to S15.
  • the set display permission mode is stored in a predetermined storage area (display mode storage unit) of the storage unit 18d of the control circuit 18.
  • the timer 18b provided in the control circuit 18 is activated, time counting is started, and the process proceeds to S16.
  • the time is stored in a form counted up by the counter 18c. Before the timer is started, the count value of the counter 18c is reset.
  • the control circuit 18 specifies the positional relationship between the display screen of the display device 15 and the photographed hand.
  • the process of S16 is the same process as S5 of FIG.
  • the position indication image 200H is overlaid on the main image 200B displayed on the display screen of the display device 15 (position indication image display section or means).
  • the process of S17 is the same process as S6 of FIG.
  • a position instruction image 200H as shown in FIG. 4C is also displayed in S16 and S17.
  • overlapping display (or composite display) of hand images (finger images) is permitted, and at least the finger pointing position based on the hand images is indicated.
  • the position indicating image 200H may be displayed in any form as long as it is an image. Therefore, when the display permission mode is set, there can be a multiple-finger-shaped overlapping display as shown in FIG.
  • the process proceeds to S18.
  • the display prohibition mode is set and stored in a predetermined storage area (display mode storage unit) provided in the storage unit 18d of the control circuit 18.
  • This process is ended by the end of S17 and S18, but this process is repeatedly performed at a predetermined cycle after the end, as long as the hand image is acquired and the display permission mode continues, the position indication image of S16 and S17 is displayed.
  • the display permission state continues. That is, during this period, the position indication image is displayed even if the finger state is not the simple operation finger state.
  • the display permission mode when it is determined in S19 that the predetermined time has elapsed by the timer 18b started in S15, the display prohibition mode is forcibly set in S20, and this processing ends. Become.
  • the process of S20 is the same as the process of S18.
  • the user indicates the intention of operation by a hand shape (simple operation finger state), and when this is indicated, the display permission mode is set for a certain period of time.
  • the simple operation finger state is not limited to the one-finger state (see, for example, FIGS. 6 and 7), but the two-finger state with two fingers extended (see FIG. 70), three A three-finger state with one finger extended (see FIG. 71), a four-finger state with four fingers extended (see FIG. 72), and the like can be variously determined.
  • the finger is an index finger (see FIGS.
  • the simple operation finger state may be set as the simple operation finger state, or only the case where the finger is the middle finger (see FIG. 68). It is good also as a finger state for operation. Even in the two-finger state, the simple operation finger state may be used only when the fingers are the index finger and the middle finger (see FIG. 70). One or more of these may be defined as the simple operation finger state. From the viewpoint of processing, it is desirable to determine a hand state (finger state) that is easier to identify.
  • the identification of the finger state for simple operation as the predetermined finger state in S2 of FIG. 9 may not be performed based on the captured image as described above. For example, among the inputs by the touch operation performed on the touch operation surface 12a1 (remote operation surface) by the control circuit 18 during a predetermined period, the number of inputs by the touch operation performed at different positions on the touch operation surface 12a1. (The number-of-operations specifying unit or means), and the case where the number of inputs specified within the period is a predetermined number for simple operation may be specified as the finger state for simple operation. In this case, for example, when three touch operations are performed at different positions within one second (or simultaneously), it is specified that there are three fingers, and the number of simple operations is determined to be three.
  • the control circuit 18 when a touch operation is performed on the touch operation surface 12a1 in a state where the display prohibition mode (and the input prohibition mode) is set, the control circuit 18 The timer 18b is started and the time counting is started by counting up the counter 18c, and the number of inputs by the touch operation including the touch operation at the start of the time counting is counted within the predetermined period t0.
  • touch position information for example, position coordinates in the touch operation surface 12a1
  • a retouch operation to the same position in the touch operation surface 12a1 is performed. Do not count that input.
  • a display permission mode (and an input permission mode) is set only for a predetermined display permission period from the time of the identification. When the display permission period ends, the display prohibition mode (and the input prohibition mode) is set again.
  • the display mode switching control as described above is executed on every operation screen displayed on the display device 15. However, the control is executed only on a predetermined operation screen, and otherwise. In this operation screen, the display permission mode or the display prohibition mode may be fixedly set.
  • the display device 15 can switch a plurality of operation screens 200 that accept input by a pressing operation on the touch operation surface 12 a 1 on the display screen (operation screen display unit or means). For example, a menu selection screen 2003 as shown in FIG. 22, a car air conditioner air volume setting screen 2004 as shown in FIG. 23, a car audio volume setting screen 2005 as shown in FIG.
  • the map display screen 2002 (FIG. 7C), the character input screen 2001 (FIG. 6C), and the like can be switched and displayed according to various inputs.
  • display mode execution availability information that enables specification of the operation screen that is the execution target of the display mode switching control is stored in a predetermined storage area of the control circuit 18 (display mode execution availability information storage unit or The control circuit 18 refers to the display mode execution availability information when performing the position indication image display process, and based on this, the operation screen displayed by the display device 15 is Only when it is specified that the display mode switching control is to be executed, the display mode switching control is executed on the specified operation screen.
  • display mode execution availability information storage unit or The control circuit 18 refers to the display mode execution availability information when performing the position indication image display process, and based on this, the operation screen displayed by the display device 15 is Only when it is specified that the display mode switching control is to be executed, the display mode switching control is executed on the specified operation screen.
  • control circuit 18 determines whether an image of the operator's hand has been acquired. This is the same as the processing of S1 in FIG. When the image of the operator's hand is acquired, the process proceeds to S62, and when the image of the operator's hand is not acquired, this process is terminated.
  • the control circuit 18 specifies the type of the operation screen 200 currently being displayed, and specifies whether or not it is a predetermined execution target of display mode switching control.
  • the pressing operation on the touch operation surface 12a1 of the operation screen exceeds a predetermined operation burden level.
  • a complex operation screen including an operation is determined as an execution target of the display mode switching control, and a simple operation screen including only an operation in which a pressing operation on the touch operation surface 12a1 does not exceed the operation load level is a fixed setting target of the display permission mode. It has been established.
  • the control circuit 18 refers to the display mode execution enable / disable information to specify whether or not the currently displayed operation screen 200 is an execution target of the display mode switching control.
  • the display mode execution availability information can be stored as information obtained by classifying screen types as follows. That is, as a complex operation screen, one or more operation input images displayed on the display device 15 (or all pressing operation areas defined on the touch operation surface 12a1 corresponding to the operation input image (operation icon) 200I). An operation screen in which the ratio SI / SA occupying the entire screen (or the entire area of the touch operation surface 12a1) exceeds a predetermined ratio S0 can be determined, and an operation screen not exceeding can be determined as a simple operation screen. (Example 1 in FIG. 73).
  • the number KI of one or more operation input images (or pressing operation areas determined on the touch operation surface 12a1 corresponding to the operation input images) 200I displayed on the display device 15 as the complex operation screen is determined in advance.
  • An operation screen exceeding the given number K0 can be determined, and an operation screen not exceeding can be determined as a simple operation screen (example 2 in FIG. 73).
  • An operation screen whose interval (LI) is narrower than a predetermined interval L0 can be determined, and an operation screen that does not exceed the predetermined interval L0 can be determined as a simple operation screen (example 3 in FIG. 73).
  • screens 2002, 2003, 3004, and 2005 as shown in FIGS. 22 to 24 and FIG. 7C are simplified operation screens, and a character input screen 2001 as shown in FIG. Name input screen) is defined as a complex operation screen.
  • the control circuit 18 refers to the display mode execution availability information that can specify the complex operation screen and the simple operation screen, and the currently displayed operation screen 200 is the display mode switching control execution target (here, If it is determined whether or not it is a complicated operation screen, the process proceeds to S63. If it is determined in S63 that the currently displayed operation screen 200 is an execution target of display mode switching control, the process proceeds to S69. If it is determined that the operation screen 200 is not an execution target of display mode switching control, the process proceeds to S66. .
  • S64 it is specified whether or not the operator's hand (operator) is in a predetermined finger state, in this first embodiment, the simple operation finger state (the same processing as S2 in FIG. 9).
  • the process proceeds to S66. If it is determined that the current finger state is not the simple operation finger state, the process proceeds to S69.
  • the display permission mode in which the display of the position instruction image is permitted is set as the display mode.
  • the set display permission mode is stored in a predetermined storage area (display mode storage unit) of the storage unit 18d of the control circuit 18.
  • the control circuit 18 specifies the positional relationship between the display screen 200 of the display device 15 and the photographed hand (similar to S5 in FIG. 9).
  • the position instruction image 200H is displayed on the main image 200B displayed on the display screen 200 of the display device 15 (position instruction image display unit or means: same as S6 in FIG. 9).
  • the process proceeds to S69.
  • the display mode is set to a display prohibition mode in which the display of the position indication image 200H is prohibited, and this is stored in a predetermined storage area (display mode storage unit) of the storage unit 18d of the control circuit 18.
  • the display of the position instruction image 200H performed in S67 and S68 is not executed, and the position instruction image 200H is not displayed on the display screen 200 of the display device 15 as shown in FIG. 5C, for example. .
  • This process is ended by the end of S68 and S69, but this process is repeatedly performed at a predetermined cycle after the end.
  • the display mode switching control is performed on the complex operation screen, and the display permission mode is fixedly set on the simple operation screen. May be fixedly set, and the display mode switching control may be performed on the simple operation screen.
  • the operation input device when the hand operating the remote operation unit (touch panel 12a) is actually displayed on the operation screen in the display device, when the hand is close to the remote operation unit, As shown in FIG. 4C, only the finger is displayed. However, if many fingers are displayed side by side at the same time, it is confusing which finger to operate, and the correspondence between the displayed finger and the finger that the operator actually wants to use for position indication The relationship may not be understood, and it may lead to erroneous operations. In particular, when the operation input device is for a vehicle, the driver who is driving the vehicle cannot stare at the operation screen, so that it is difficult to input an operation with a large number of fingers while driving, and an erroneous operation is likely to occur.
  • the finger that specifies the finger in the opposite hand on the front side of the remote operation unit is subjected to the position indication image display process so that the actual finger used for the position indication can be easily specified.
  • the specified step, the operation target finger specifying step for specifying the operation target finger used for the operation from the specified finger to the remote operation unit, or the estimated operation target finger, and the background image 200B on the display screen are combined or superimposed.
  • the position indicating image 200P corresponding to the specified operation target finger is displayed among the position indicating images 200H displayed in the display step of displaying the position indicating image 200H indicating the specified position of the specified finger.
  • a position indication image emphasis display step performed by highlighting that emphasizes relatively more than the position indication image 200R corresponding to a finger different from the operation target finger; It can be carried way with.
  • the designated operation target finger here, one index finger
  • the control circuit 18 functions as a finger specifying unit or means, an operation target finger specifying unit or means, and a position indicating image emphasizing display portion or means by performing these steps.
  • the control circuit 18 is on the front side of the touch operation surface (remote operation surface) 12a1 (here, the opposite side of the camera 12b).
  • the finger of the hand facing the touch operation surface 12a1 is specified (finger specifying step).
  • the determination result is output to the control circuit 18, and if it is determined that the image of the finger has been recognized, the process proceeds to T2, and if not determined, this process ends.
  • the control circuit 18 detects the fingertip from the acquired finger image 150F.
  • the detection of the fingertip is performed by specifying the fingertip Q from the specified finger image 150F (fingertip specifying step).
  • the fingertip Q in this embodiment is specified in the form shown in FIG. That is, when the finger image 150F is specified as shown in FIG. 29A, the image processing unit 18a displays the hand image 150H including the specified finger image 150F and the finger image 150H of the finger image 150F.
  • the moving hand images 160H shifted by a predetermined amount in the length direction are overlapped with each other, the non-overlapping region 170 where the finger images 150H and 160H do not overlap each other is specified, and the barycentric position of the non-overlapping region 170 is calculated.
  • the center of gravity position is specified as a fingertip (fingertip position) Q.
  • the fingertip Q may be specified by specifying the area up to the first joint of the finger as the fingertip (fingertip area) Q instead of specifying it as one point of the finger as described above.
  • T1 and T2 are steps which perform a finger
  • the control circuit 18 designates an operation target finger (position instruction finger) P that is used or estimated to be used for an operation on the remote operation unit (operation target finger designation step). Specifically, the positional relationship reflecting the positional relationship between the specified fingertips Q in the touch operation surface direction (the direction in which the touch operation surface 12a1 spreads, that is, the direction perpendicular to the normal line of the touch operation surface 12a1). Information is acquired as designated finger information (designated finger information obtaining step), and on the basis of the obtained positional relationship information, a predetermined selection condition relating to the positional relationship among the fingers identified by T1 is obtained. The finger having the positional relationship information most suitable for is designated as the operation target finger P with priority.
  • a plurality of fingers can be specified as the operation target finger P, but from the viewpoint of giving a position instruction so that the operation on the contact-type operation unit 12a is easy to understand, one or two relatively It is desirable to specify a small number of fingers. In this embodiment, there is one. Furthermore, as the types of fingers to be designated, the index finger (see FIG. 27 and FIG. 28C) suitable for position indication, the middle finger (see FIG. 47), the index finger and the middle finger (see FIG. 27). 48). In this embodiment, an index finger is assumed.
  • the process of T3 of this embodiment is executed as the process shown in the flowchart of FIG. That is, at T11, the fingertip Q specified as shown in FIG. 29C is specified on the surface 180 of the virtual two-dimensional coordinate system, and one axis X determined on the surface 180 is used. Then, another one-dimensional coordinate system is defined in the two-dimensional coordinate system.
  • the specified fingertip Q is projected toward the touch operation surface 12a1 (in the direction facing the remote operation unit), and the projection surface is set as the above-described surface 180 at a predetermined position on the projection surface.
  • One axis X is set to define a one-dimensional coordinate system.
  • the position coordinate (coordinate value) XQ of the fingertip Q specified on the surface 180 is specified in the one-dimensional coordinate system, and the axis coordinate information reflecting the position coordinate XQ is acquired as the positional relationship information. Then, based on the acquired axis coordinate information at T13, priority is given to a finger suitable for a predetermined selection condition regarding the axis coordinate information among the fingers specified at T1 in FIG. And designated as the operation target finger P.
  • the axis X of the operator is designated as the operation target finger P so that the operator's index finger is designated. Is set. Therefore, at T11, the axis X is set at the position shown in FIG. At T12, the fingertip Q is projected toward the set axis X, and coordinate values X1 to X3 of the projected positions are calculated. At T13, the coordinate value of the acquired coordinate values X1 to X3 is the largest. A large fingertip Q is specified, the finger having this fingertip Q is estimated to be an index finger, and this finger is designated as the operation target finger P.
  • the axis X in the present embodiment is determined so as to go from the lower right of the captured image where the right index finger is difficult to position to the upper left where the right index finger is easily positioned.
  • 31 and FIG. 32 may be set.
  • it is suitable to estimate the finger with the largest coordinate value as the middle finger, and if it can be estimated or specified whether the operating hand is left or right, the finger adjacent to the middle finger is estimated as the index finger. You can also.
  • FIG. 32 if it can be estimated or specified whether the operating hand is left or right, it is suitable to estimate the leftmost finger as the index finger, and the finger adjacent to it can be estimated as the middle finger.
  • the photographed image photographed by the camera 12b can be referred to as a projection surface 180 obtained by projecting the fingertip Q toward the touch operation surface 12a1. Therefore, the operation panel image area (the area where the touch operation surface 12a is reflected: here the entire area of the captured image 150) where the touch operation surface 12a is located in the captured image captured by the camera 12b and the projection surface 180 are the same.
  • the coordinate position of the fingertip Q on the operation panel image area can be used as the projected coordinate position of the fingertip Q on the projection plane 180 as it is.
  • the operation target finger P is designated by calculation on the coordinate system on the virtually determined projection plane 180, and image processing is not required. That is, since the image data is not used for the operation target finger P specifying process, the calculation cost (calculation amount / memory amount) can be reduced.
  • the control circuit 18 synthesizes or superimposes on the background image 200B on the display screen of the display device 15 on the display screen corresponding to the specified fingertip Q.
  • a position indication image 200H is displayed at the position. However, this display corresponds to the remaining finger R different from the operation target finger P in the display region 200P of the position instruction image 200H corresponding to the designated operation target finger P in the displayed position instruction image 200H.
  • the position indication image 200H to be displayed is displayed in a highlighted manner in which it is emphasized relatively than the display area 200R. Thereby, the visibility of the operation target finger P is improved, the finger to be operated is easily transmitted to the user, and the operability is also improved.
  • the control circuit 18 first specifies the positional relationship between the display screen of the display device 15 and the photographed finger. That is, the position on the display screen where the photographed finger faces is specified.
  • an operation panel image area where the touch operation surface 12a is located (an area where the touch operation surface 12a is displayed: here, the entire area of the captured image 150) is specified on the captured image 150 captured by the camera 12b.
  • a two-dimensional operation coordinate system is set on the operation panel image area, and the position of the photographed finger is specified on the operation coordinate system.
  • the position on the display screen of the display device 15 corresponding to the position of the finger specified on the operation coordinate system is specified in the two-dimensional display coordinate system defined on the display screen.
  • the position indication image 200H is superimposed on the corresponding position coordinates of the main image 200B at the position specified on the display screen of the display device 15.
  • the above-described emphasis display of the position instruction image 200H (200P, 200R) is performed in such a manner that the emphasis level (enhancement degree) is gradually changed over a predetermined time t1, as shown in FIG. That is, in the process of highlight change, it has a state in the middle of change as shown in FIG. 33 (b), and the change in emphasis as shown in FIG. 33 (c) is completed through such a state in the middle of highlight change. To do.
  • the highlighting is performed on the entire finger display areas 200P to 200R of the position indication image 200H, the outline, and only the inside of the outline, with a change in color (see FIG. 63) and a change in shading (see FIG. 63: Note that the operation target finger Fingers may be erased), shape change (FIG. 64: the operation target finger P is relatively thick here as an example), switching to another image, change in transparency (see FIG. 27), It blinks (see FIG. 65) or a combination thereof.
  • the processing is executed in such a manner that the transparency inside the contour of the processed image forming the position indicating image 200H is changed.
  • the highlighting holds the display area 200P of the position indicating image 200H corresponding to the operation target finger P in a constant state, and emphasizes the display area 200R of the position indicating image 200H corresponding to the remaining fingers R. It is done in a form that reduces the level.
  • the position indicating image region 200R corresponding to the remaining finger R may be erased.
  • the emphasis level is lower than that at the time of erasure, but it may be relatively easily visible.
  • the highlighting at T4 may be started immediately as the operation target finger P is designated at T3 as shown in FIG. 61, or the operation at T3 as shown in FIG. It may be started after a predetermined time has elapsed since the target finger P is designated. In particular, in the case of a configuration in which highlighting is not performed in stages, it is desirable to select the latter.
  • This process ends when T4 ends.
  • This process is repeatedly performed at a predetermined cycle after the end, and when the hand facing the operation panel 12a moves, the display position of the position instruction image 200H displayed on the display screen of the display device 15 is moved accordingly. To do.
  • the display position of the position indicating image 200H (200P and 200R) moves while continuing the emphasis change, and when the hand moves in a state where the emphasis change is completed, The display position of the position indicating image 200H (200P and 200R) moves while maintaining the emphasized state.
  • the display process of the position instruction image includes a finger specifying step, a fingertip specifying step, an operation target finger specifying step, a position instruction image emphasizing display step, and a specified finger information acquiring step.
  • the unit or means for executing each of these steps finger specifying unit or means, fingertip specifying unit or means, operation target finger specifying unit or means, position indication image highlighting display unit or means, specified finger Functions as an information acquisition unit or means).
  • the method of specifying the operation target finger P can also be as shown in FIGS.
  • the fingertip Q specified at T2 of FIG. 25 is projected toward the touch operation surface 12a1, and is projected onto a predetermined region on the projection surface 180.
  • a reference area Y is set (see FIG. 35 or FIG. 36), and at T22, distance information reflecting the distance between the set reference area Y and the projected fingertip Q is acquired as positional relationship information (specified) Finger information acquisition step)
  • positional relationship information (specified) Finger information acquisition step)
  • priority is given to a finger suitable for a predetermined selection condition regarding the distance among the fingers specified at T1 in FIG.
  • the operation target finger P is designated (operation target finger designation step).
  • the fingertip Q is specified on the virtually defined surface 180 as in the above embodiment, and the reference area Y is further defined (T21). Then, each distance is calculated (T22), and the operation target finger P is designated based on the calculated distance (T23).
  • the middle finger of the operator is assumed as the operation target finger P, and the finger with the longest standard distance is designated as the operation target finger P.
  • the reference region Y may be defined as a region having an area, or may be defined as a point or line having no area.
  • the reference region Y can be arranged at a predetermined position where it is estimated that the back of the hand is located in a state where a finger is photographed by the camera 12b.
  • the distance information in this case is information that does not directly reflect the length of the finger specified in T1, but can be specified from the length of the distance.
  • the finger with the longest distance can be estimated as the middle finger, and if it can be estimated or specified whether the operating hand is left or right, the finger adjacent to the middle finger can be estimated as the index finger.
  • the second longest finger may be estimated as the index finger and specified.
  • the reference region Y can be arranged at a position where the fingertip of the finger assumed as the operation target finger P is most easily located in a state where the finger is photographed by the camera 12b.
  • the finger having the fingertip Q having the shortest distance from the reference area Y can be designated as the operation target finger P.
  • the operating hand is the right hand and is located at the upper left.
  • 1.10.3 Third Modification of Tenth Example A method for specifying the operation target finger P can be as shown in FIGS.
  • finger shape information relating to the shape of each finger specified at T1 of FIG. 25 is acquired as designated finger information (designated finger information acquisition step), and T32 Based on the obtained finger shape information, among the fingers specified at T1, the finger having the approach distance information most suitable for the predetermined selection condition related to the finger shape is preferentially operated.
  • Designate as a target finger operation target finger designation step).
  • finger length information related to the length relationship in the touch operation surface direction between the fingers specified at T1 in FIG. 25 can be determined. Specifically, the lengths d1 to d3 (see FIG. 38) from the fingertip Q specified at T2 in FIG. 25 to the position corresponding to the midpoint of the line segment of the finger edge appearing on the photographed image 150. These can be calculated and used as the finger length information.
  • the finger length information is information reflecting the length of the finger specified in T1
  • a specific finger can be designated from the length. For example, the finger with the longest distance can be estimated as the middle finger, and if it can be estimated or specified whether the operating hand is left or right, the finger adjacent to the middle finger can be estimated as the index finger.
  • the finger length information d1 to d3 may be information reflecting at least the length of each finger. For example, the finger length from the tip position of the curved fingertip to the finger edge appearing on the captured image 150 is sufficient. It may be a distance along the direction.
  • finger width information related to the width relationship between the fingers specified at T1 in FIG. 25 in the touch operation surface direction can be determined. Specifically, lengths w1 to w3 (see FIG. 38) in the width direction passing through the fingertip Q specified in T2 of FIG. 25 and perpendicular to the finger length direction are set as the finger width information. Can do. In this case, since the finger width information appears larger as the finger approaches the touch operation surface 12a1, it can also be referred to as approach distance information that reflects the approach distance relationship to the touch operation surface 12a1. A large finger can be designated as the operation target finger P. Note that the finger width information w1 to w3 may be information reflecting at least the width of each finger, and may be a finger width calculated at a position different from the above.
  • 1.10.4 Fourth Modification of Tenth Example A method for specifying the operation target finger P can be as shown in FIG.
  • the touch operation position T on the touch operation surface 12a1 is detected by the finger specified at T1 in FIG. 25, and at T42, the detected finger that has performed the first touch operation is the operation target finger.
  • the highlighting start trigger is determined as a touch operation by the user, it is possible to avoid missing a display change due to the highlighting.
  • the designated operation target finger P is tracked when it is moved by a manual operation, and continues to be designated until the finger P disappears from the screen or a new touch operation is performed.
  • conditions such as positional relationship information with other fingers R and finger shape information of the finger P so that the same finger is set as the operation target finger P when it appears on the screen again after disappearing from the screen May be stored in the storage unit 18d in the control circuit 18, and the operation target finger P may be designated based on this.
  • FIGS. 40 and 41 A method for specifying the operation target finger P can be as shown in FIGS. 40 and 41.
  • the touch operation position T on the touch operation surface 12a1 is detected by the finger specified at T1 of FIG. 25, and the touch operation position T is detected.
  • the finger closest to the detected touch operation position T is specified as the operation target finger P (operation target finger specifying step).
  • the highlighting at T4 in FIG. 25 may be started (immediately) as the touch operation on the touch operation surface 12a1 is performed, or the touch operation on the touch operation surface 12a1 may be started. It may be started after a lapse of a predetermined time from being made. In particular, in the case of a configuration in which highlighting is not performed in stages, it is desirable to select the latter.
  • a touch operation that has an operation burden larger than that of a normal touch operation can be determined as the highlight display start operation.
  • a touch operation for starting highlighting a touch operation in which a pressing operation duration time until an input becomes valid is longer than a normal touch operation, or a press stronger than a normal touch operation It is possible to determine a touch operation by an operation force.
  • the process proceeds at T42 or T52 only when a predetermined highlight display start operation is performed.
  • the highlight display is not started until the highlight display start operation is performed. It can be set to a standby state.
  • the luminance information of the image of the photographed finger is acquired as designated finger information at T61 (designated finger information obtaining step), and the obtained luminance information is obtained at T62.
  • a finger suitable for a predetermined selection condition related to the luminance information is preferentially designated as the manipulation target finger P (operation target finger designation step). Since the camera 12b captures the reflected light of the hand operating the touch operation surface 12a1, the fingertip closest to the touch operation surface 12a1 appears with higher brightness. That is, it can be said that the luminance information is the approach distance information (designated finger information) already described.
  • the fingertip that operates the touch operation surface 12a1 has a higher possibility of a position instruction as the finger is closer to the touch operation surface 12a1, for example, the finger with the highest brightness is designated as the operation target finger P with priority. Can be configured.
  • the camera 12b is shooting in the form of capturing the reflected light of the light source 12c. Therefore, the reflected light intensity is reflected in the gradation of the color appearing in the captured image 150, and the higher the reflected light intensity, the higher the gradation level. That is, since the captured video 150 captured by the camera 12b of this embodiment is a multi-gradation captured image (monochrome captured image in the present embodiment), the image processing unit 18a converts this to a predetermined gradation. The gradation level of each pixel is binarized using the threshold value, and an area exceeding the gradation threshold value is extracted as the approaching object image 150H as shown in FIG.
  • the image processing unit 18a first stores the shape of the approaching object image 150H and the storage unit 18d of the control circuit 18. Compared to the stored hand and finger shape patterns, the approaching object image 150H that matches those patterns is recognized as a finger image.
  • the gradation threshold value for specifying the image of the hand or finger is set as the first gradation threshold value, and a second gradation threshold value higher than that is defined, and the second gradation value is determined.
  • the fingertip finger having the region L1 (see FIG. 43) exceeding the threshold value can be designated as the operation target finger P.
  • the operation target finger P may be designated by comparing the brightness of the fingertip Q or the average (or maximum / minimum) brightness of a predetermined area with the fingertip Q as a reference.
  • regions L1 to L3 in FIG. 43 indicate regions with different luminances in the captured video 150, and the luminances decrease in the order of L1, L2, and L3.
  • T1 in FIG. 25 is a step of specifying a finger image based on the luminance of the image captured by the camera 12b and specifying the finger by the finger image
  • T2 in FIG. This is a step of specifying the fingertip using the hand image taken by the above.
  • T3 in FIG. 25 is a step of specifying the operation target finger P based on the luminance of the hand image captured by the camera 12b. Therefore, in the present embodiment, it is possible to specify a finger, a fingertip, and even an operation target finger P from a captured image of the camera 12b.
  • the operation target finger P is designated by using image information of the fingertip portion instead of the entire finger.
  • the calculation cost (calculation amount / memory amount) can be reduced.
  • a region S having a predetermined shape (in this case, a square) including the entire fingertip is set around the fingertip Q specified in T2, and all the regions specified in T1 are specified.
  • the luminance information in the region S is specified and acquired at T61, and the finger of the region S having the highest luminance among the acquired luminance information is preferentially designated as the operation target finger P at T62. ing.
  • the method of specifying the operation target finger P can be as shown in FIGS.
  • the approach distance information reflecting the approach distance relationship of the fingertip specified at T1 of FIG. 25 to the touch operation surface 12a1 is acquired as designated finger information.
  • Designated finger information acquisition step At T62, based on the acquired approach distance information, priority is given to a finger suitable for a predetermined selection condition regarding the approach distance among the fingers specified by the finger specifying step.
  • operation target finger designation step means for detecting the distance between the touch operation surface 12a1 and the fingertip of the operating hand is required.
  • the camera (shooting unit or means) 40 acquires the approach distance information. Or means.
  • the camera 40 is arranged so that the distance between the touch operation surface 12a1 and the fingertip of the operator is reflected. From the captured image (for example, FIG. 46), the control circuit 18 causes the fingertip of each finger of the operator to touch the touch operation surface 12a1. Can be designated as the operation target finger P, for example.
  • FIG. 46 is an example of a video image taken by the camera 40 of FIG.
  • the operation target finger may be specified in a combination of a plurality of types of specified finger information such as the positional relationship information and finger shape information described above. As a result, it is possible to more accurately specify a predetermined type of finger such as an index finger or a middle finger.
  • the camera 12b constituting the hand image capturing unit or means is not photographed from the back surface 12a2 side of the touch panel 12a, and may be configured as shown in FIG. 15, for example. . Further, the camera 12b serving as the hand image photographing unit or means may be used as the camera 20 in FIG.
  • the image processing unit 18a can specify the direction of the arm extending from the hand, and can specify whether the operator is the left or right passenger. Accordingly, if the operator of the touch operation surface 12a1 is a person located on the left side of the touch operation surface 12a1, the operator can be identified as the right hand, and is located on the right side of the touch operation surface 12a1. If it is a person, the operation hand can be specified as the left hand.
  • the control circuit 18 can switch the designated condition of the operation target finger P based on the identification result of the operator. Specifically, when the index finger is specified as the operation target finger P, when the operating hand is the left hand, it is specified as the finger that appears rightmost or the finger that is adjacent to the right of the longest middle finger. On the other hand, when the operating hand is the right hand, it can be specified as the finger that appears to the left most, or the finger that is adjacent to the left of the middle finger that appears the longest. Therefore, when selecting the operation target finger P, if the selection condition is switched depending on whether the operating hand is the left hand or the right hand, the switching is performed based on the result of specifying the operating hand. be able to.
  • the display may not be performed so that the operation cannot be performed.
  • the right hand can be determined constantly as the operator, and this can be reflected in advance in the selection conditions for the operation target finger P.
  • reference numeral 300H is a hand image
  • reference numeral 300A is an image of an arm that continues from the hand
  • reference numeral 312a is an area on which the operation panel 12a is reflected
  • the operator's arm of the operation panel 12a is the captured image. Since it extends from the right side, that is, from the driver's seat side, the operator is specified as the driver.
  • the camera 20 functions as an operator specifying unit or means together with the control circuit 18 (image processing unit 18a). It should be noted that another method may be used for specifying whether or not the operator of the operation panel 12a is a driver.
  • an approaching object detection unit for example, a reflective optical sensor such as an infrared reflection sensor
  • an approaching object detection unit may be provided on each of the left and right sides of the touch operation surface 12a to identify the operator.
  • the above highlighting may be performed only when two or more fingers are specified. Since the control circuit 18 functioning as a finger specifying unit or means can specify the number of fingers, when the specified number of fingers is 2 or more, the position indicating image display process according to the tenth embodiment is performed. In the case of one, simple display processing for displaying only the position indicating image corresponding to the finger can be executed.
  • the remote operation unit since the remote operation unit is premised on a touch operation (push operation or touch operation), a position of one finger is indicated. It is specified for. Further, it is also described that in some cases, two fingers can be designated for position indication as shown in FIG.
  • the remote operation unit may be an operation unit such as a dial operation unit, which is premised on the operation of pinching the operation knob. In this case, the number of fingers such as two or three is operated. It can also be designated as the target finger P.
  • the finger specification or fingertip specification in the pinch-type operation can be performed using the approach distance information (information reflecting the approach distance relationship to the remote operation surface).
  • a dial operation unit 12a ′ (the front end 121e around the dial knob is also a part of the dial operation unit 12a ′) is provided as a remote operation unit of the present embodiment.
  • the approaching hand is photographed by the cameras 41 and 42 (configured to be connected to the control circuit 18).
  • the cameras 41 and 42 have different shooting ranges, and are set so that both shooting directions are orthogonal to each other on a plane perpendicular to the rotational axis of the dial operation unit 12a '.
  • An example of images taken by the cameras 41 and 42 (binarized images similar to those shown in FIGS. 27 and 28) 150a and 150b are shown in FIGS.
  • the camera 12b is also installed in the operation information input unit 12 in the form shown in FIG. 3 (may be outside as shown in FIG. 15).
  • An example of a photographed image of the camera 12b (an image after binarization similar to (b) in FIGS. 27 and 28) 150c is shown in FIG. 50 (c).
  • the image area 150S of these images 150a, 150b, and 150c is an area where the operation unit 12a 'is reflected.
  • the images 150a and 150b in FIGS. 50A and 50B are acquired (processing corresponding to T1 in FIG. 25), and the fingertip Q is specified from the hand image 150H extracted from the images 150a and 150b. Then, the specific position of the fingertip Q is specified (processing corresponding to T2 in FIG. 25).
  • a three-dimensional coordinate system vehicle interior coordinate system having an x-axis, y-axis, and z-axis as shown in FIG. 49 is defined in the vehicle interior and specified as position coordinates in the coordinate system.
  • an xz coordinate system and a yz coordinate system are defined for the images 150a and 150b, and any one of those already described in the tip region of the protruding image 150F extending from these to the housing front end 121e side.
  • the fingertip Q is specified by the method, the position coordinates of the fingertip Q are specified, and the three-dimensional position coordinates in the vehicle interior coordinate system are specified from these.
  • the operation target finger P is specified.
  • the distance from each fingertip Q to the front end surface of the housing front end portion 121e is calculated, and the fingertip Q that is closest to the front end surface of the housing front end portion 121e, and Q that is next closest to the fingertip Q are calculated. Both are specified as the operation target finger P.
  • the calculation of the distance here may be performed using the image 150a, 150b because the front end surface of the housing front end 121e is reflected (reference numeral 150E), or may be calculated from the luminance of the image 150c. Also good.
  • the position indicating area 200Q (200P) of the position indicating image 200H corresponding to the specified fingertip Q of the operation target finger P is more than the position indicating area 200Q (200R) of the position indicating image 200H corresponding to the other fingertip Q.
  • the image is superimposed on the background image 200B as shown in FIG.
  • the background image 200B (200B3) in FIG. 51 is a dial switch image displayed as the switch image 200I, and is rotated according to the rotation operation of the dial operation unit 12a ′ serving as the remote operation unit, and the rotation position is displayed.
  • the control content corresponding to is executed.
  • the operation target finger P is specified here by pointing the identified fingertip Q toward the dial operation unit 12a ′ serving as a remote operation unit as in the second modification of the tenth embodiment already described ( Distance information reflecting the distance between the reference area Y set in a predetermined area on the projection plane 180 and the projected fingertip Q is projected (in the direction facing the dial operation unit 12a ′) It is acquired as relation information, and using the acquired distance information, a finger suitable for a predetermined selection condition regarding the distance is preferentially designated as the operation target finger P.
  • the reference area Y set here can be set as the center position of the projection area 120 obtained by projecting the dial operation unit 12a 'onto the projection plane 180, as shown in FIG.
  • the method of designating the operation target finger P may be a method that is determined so that at least the thumb is included. Specifically, it can be identified from various factors such as a difference in thickness with other fingers, a difference in positional relationship with other fingers, and a difference in extension direction of the fingers.
  • the remaining one finger can be the finger closest to the front end surface of the housing front end 121e other than the thumb.
  • the index finger or the middle finger is designated for ease of knob operation.
  • the index finger or the middle finger can be designated based on the thumb (for example, based on the positional relationship from the thumb).
  • the fingertips of three fingers may be emphasized as shown in FIG. In this case, it is desirable that the thumb, index finger, and middle finger are designated as the operation target finger P.
  • the fingertip area 200Q in the position indicating image 200H is used as the position indicating area.
  • the entire finger included in the position indicating image 200H may be used as the position indicating area.
  • the fingertip area 200Q in the position indicating image 200H may be used as the position indicating area. 1.10.12. Twelfth modification of tenth embodiment (finger or fingertip tracking process) Processing applicable in all the above-described embodiments will be described as a twelfth modification of the tenth embodiment.
  • the operation target finger P is specified for each frame of the captured video, but in this case, the positional relationship between the operation panel 12a (12a ′) and the operating hand has changed. In this case, there is a possibility that the operation target finger P is automatically switched to another finger.
  • the touch operation is a reference. Since the operation target finger P is identified, it is not desirable that another finger is easily set as the operation target finger P because the position of the hand or the finger is moved.
  • a state in which a predetermined type of finger for simple operation is specified as the simple operation finger state (for example, either the index finger or the middle finger or In the finger state in which both are specified), after the finger of that type is specified, the position of the hand or finger is moved, so another finger is easily specified as the finger for the type for simple operation. It is not desirable to end up. For this reason, after a finger such as the operation target finger P is designated or specified, a process for tracking the movement of the designated or specified finger is added, and the same finger is continuously designated based on the tracking result. By continuing identification, the above problem can be solved.
  • the simple operation finger state for example, either the index finger or the middle finger or In the finger state in which both are specified
  • a hand (finger) facing the front side of the operation panel 12a (12a ′) is taken by the camera 12b as a photographing unit or means. It is configured to specify based on a moving image to be shot.
  • the finger identifiable range (fingertip identifiable range) of the hand (finger) facing the front side of the operation panel 12a (12a ') is a photographing range of the camera 12b that is fixedly arranged.
  • the camera 12b captures a moving image within the range, and the control circuit 18 acquires moving image frames that are sequentially captured at predetermined time intervals.
  • the finger tracking process (finger tracking step) of FIG. 54 and FIG. 55 calculates the position of each fingertip identified from the sequentially acquired moving image frames within the frame, and uses the calculated position information as tracking information.
  • Each movement is performed while identifying each fingertip specified from sequentially obtained moving image frames by storing and accumulating in a predetermined tracking information storage unit provided in a storage unit 18d such as a ROM of the control circuit 18. To track.
  • the tracking information is stored in a form as indicated by reference numeral 500 in FIG.
  • a fingertip ID identification information
  • the previous moving image of each fingertip is associated with the fingertip ID.
  • Position information indicating the position in the frame (hereinafter referred to as the previous frame) and the previous moving image frame (hereinafter referred to as the previous frame) can be stored.
  • the position information here is the position coordinates of each fingertip on a predetermined two-dimensional coordinate system defined in the moving image frame.
  • the upper diagram of FIG. 56 illustrates a moving image frame (also referred to as a finger identifiable range) in which the two-dimensional coordinate system is defined.
  • the specified fingertip position coordinates P i (-1), the fingertip position coordinates P i (-2) specified in the previous frame, and the fingertip R j (0) specified in the current frame are displayed.
  • the position coordinates of each fingertip are sequentially stored and updated as new moving image frames are acquired.
  • the position coordinates stored and held here are the position coordinates of the previous frame and the previous frame, and the position coordinates of the frames before the previous frame are sequentially deleted.
  • the tracking information 500 includes position information indicating the position of each fingertip on the frame specified from the latest moving image frame (hereinafter referred to as the current frame).
  • the position information is stored for each fingertip ID.
  • the tracking information includes a predicted position (next position) where each fingertip will be positioned in the current frame, and the tracking information storage unit stores predicted position information indicating the predicted position.
  • the correspondence relationship between the fingertip position information in the current frame and the predicted fingertip position information predicted for the current frame is specified, and the corresponding fingertip tracking at the time of acquiring the current frame is determined for each fingertip ID from the corresponding result. The situation is specified, and this is also stored as tracking information in the tracking information storage unit.
  • the tracking status includes the tracking continuation state where tracking of the fingertip continues from the previous frame to the current frame (tracking) and the tracking of the fingertip that was tracked up to the previous frame is lost (disappears) in the current frame. It has at least three states: a state (lost) and a new appearance state (new appearance) in which a fingertip that has not been tracked up to the previous frame has newly appeared.
  • the following calculation method can be exemplified. That is, it is a method of calculating based on position information indicating the position of each fingertip on a plurality of past moving image frames.
  • the tracking information of each finger the position information of each fingertip on the previous frame times and the previous frame is included. Therefore, based on the position information, the movement of each fingertip is estimated, and on the next frame.
  • the estimated movement destination of each fingertip is calculated as the predicted position (see FIG. 57).
  • FIG. 58 (a) in the two-dimensional coordinate system on the moving image frame 400 defined in common on each moving image frame, the position coordinates P of the finger specified on the previous frame are determined.
  • the finger velocity vector V i (-1) at the position coordinate P i (-1) is Calculation is performed based on the moving direction and moving distance of the movement.
  • the finger located at the position coordinate P i ( ⁇ 1) moves by the velocity vector V i ( ⁇ 1)
  • the calculated position coordinate Q i ( ⁇ 0) is the predicted position information, and is stored in the predetermined tracking information storage unit of the storage unit 18d of the control circuit 18 as one piece of tracking information.
  • the position of the fingertip in the previous frame is determined as a temporary position, the position information indicating the temporary position, and the position information of the previous frame Based on the above, the appearance position of the fingertip on the next frame is specified.
  • the method for determining the temporary position is as follows. That is, as shown in FIG.
  • the area in the moving image frame (fingertip identifiable range) 400 is partitioned in advance in association with each edge (here, the top, bottom, left, and right edges) (partition lines are
  • the edge corresponding area 410 corresponding to each edge 401 (401a to 401d) is set, and then the fingertip position P i ( ⁇ 1) specified on the previous frame is first set.
  • the edge corresponding area 410 (401A to 401D) in which is present is specified.
  • the edge corresponding region 410 where P i ( ⁇ 1) exists is specified, the position on the edge 401 of the edge corresponding region 410 closest to the P i ( ⁇ 1) Is determined as a temporary position.
  • the calculation method of the predicted position of the fingertip is a method of calculating based on the position information of each fingertip on the previous frame times and the previous frame, but in order to calculate with higher accuracy, FIG. Calculate as shown in b). That is, in the two-dimensional coordinate system on the moving image frame 400 defined in common on each moving image frame, the finger velocity vector on the position coordinates P i ( ⁇ 1) specified on the previous frame once from the current frame. V i (-1) and acceleration vector A i (-1) are calculated, respectively, and in the next frame, the finger located at the position coordinate P i (-1) is the velocity vector V i (-1) and acceleration vector.
  • this finger is specified on the previous frame once from the current frame from the previous position coordinate moved from the position coordinate P i ( ⁇ 2) on the moving image frame 400 by the velocity vector V i ( ⁇ 2).
  • the velocity vector V i ( ⁇ 1) is obtained from the position coordinates P i ( ⁇ 2) specified on the previous frame twice from the current frame, and the position coordinates P i specified on the previous frame once from the current frame. Calculate based on the moving direction and moving distance when moving to (-1).
  • the following specifying method can be exemplified. That is, the fingertip position information specified on the current frame is compared with the predicted position information of the fingertip on the current frame, and based on whether or not these positional relationships satisfy a predetermined reference condition. It is a method to specify. For example, as shown in FIG. 56, the position coordinates Q 1 (-0), Q 2 (-0), Q 3 (-0) of the fingertip indicated by each predicted position information calculated for the current frame, A pair corresponding to a pair closest to the position in the moving image frame from among the position coordinates R a (0), R b (0), R c (0),. Are recognized as a pair satisfying the reference condition.
  • the pair is not recognized as a corresponding pair.
  • the corresponding pair it is determined that the fingertip actually identified in the current frame and the fingertip corresponding to the position information of the previous frame that is the basis for calculating the predicted position information are the same fingertip,
  • the tracking of the fingertip is identified as a tracking continuation state (tracking) that continues from the previous frame to the current frame.
  • the fingertip for which no corresponding pair is found is specified as a new appearance state (new appearance).
  • the fingertips corresponding to the predicted position information calculated for the current frame are identified as a non-trackable state (lost).
  • the identified tracking situation of each fingertip is stored in a predetermined tracking information storage unit of the storage unit 18d of the control circuit 18 in a form associated with each fingertip ID.
  • the untrackable recognition order in which the context of the untrackable specific time with other untrackable fingers can be specified is stored as tracking return determination information in the tracking information storage unit (tracking return determination information storage unit).
  • the tracking return determination information is also handled as one of the tracking information.
  • This finger tracking process is a process that is executed each time the control circuit 18 acquires a moving image frame from the camera 12b, whereby the control circuit 18 functions as a finger tracking unit or means.
  • the control circuit 18 determines whether or not the fingertip is specified in a new moving image frame (current frame) acquired by moving image shooting by the camera 12b, and the fingertip is specified. If YES, the process proceeds to R202. If the fingertip is not specified, the process proceeds to R215.
  • the fingertip specifying method is the same as T1 and T2 in FIG.
  • the control circuit 18 specifies the correspondence between each fingertip specified on the current frame and each fingertip specified on the previous frame.
  • the correspondence between the fingertip position information in the current frame and the predicted fingertip position information predicted for the current frame is identified, and the tracking status of each fingertip at the time of acquiring the current frame is tracked based on the corresponding result. It is specified for each fingertip ID whether the state (tracking), tracking impossible state (lost), new appearance state (new appearance), or unspecified (not appearing).
  • the identified tracking state is stored in a predetermined tracking information storage unit of the storage unit 18d of the control circuit 18 for each corresponding fingertip ID in a form as indicated by reference numeral 500 in FIG.
  • the fingertip specified on the previous frame and the fingertip specified on the current frame that satisfies the above criteria are recognized as a tracking continuation state (tracking) and specified on the previous frame. If any of the fingertips does not satisfy the above-mentioned standard condition, the fingertip identified on the current frame is recognized as a new appearance state (new appearance), and any of the fingertips identified on the current frame If there is a fingertip specified on the previous frame that does not satisfy the above, it is recognized as a non-trackable state (lost).
  • the tracking information corresponding to the fingertip ID of the fingertip in the tracking continuation state (tracking) is updated.
  • the fingertip in the tracking continuation state (tracking) is the fingertip whose tracking information was updated when the previous frame was acquired, and the position information of the current frame corresponding to the fingertip ID of the fingertip indicates the position of the fingertip in the current frame. Update with location information. Further, the position information of the current frame stored so far is updated as the position information of the previous frame, and the position information of the previous frame stored so far is updated as the position information of the previous frame.
  • R205 whether there is a fingertip not specified on the current frame among the fingertips specified on the previous frame, in other words, tracking in the current frame, such as P 1 (0) shown in FIG. It is determined whether there is a disabled fingertip. If there is a fingertip in the tracking disabled state (tracking), the process proceeds to R206, and if there is no fingertip in the tracking continuation state (tracking), the process proceeds to R207.
  • information related to the finger when it is recognized that tracking is impossible is stored as tracking return determination information in association with the fingertip ID of the fingertip in the tracking disabled state (lost).
  • This tracking return determination information is used to determine whether or not a finger that is not tracked here is recognized when a new fingertip that is not being tracked appears in a moving image frame acquired later. Information.
  • the fingertip ID of the fingertip that has become untrackable is stored and retained without being erased, and is associated with the fingertip ID along with the position information (position immediately before disappearance) of the previous frame corresponding to the fingertip ID.
  • the untraceable recognition order (disappearance order) in which the context of the untrackable recognition time with the untrackable finger can be specified is stored as tracking return determination information.
  • “1” is assigned to the fingertip ID “2” as the order of disappearance, and when a new fingertip cannot be tracked in a moving image frame acquired later, the fingertip ID is “2” is assigned as the order of disappearance, and it can be determined that the higher the number assigned, the newer the untraceable recognition time.
  • R207 it is determined whether or not there is a fingertip not specified on the previous frame among the fingertips specified on the current frame, in other words, whether or not there is a fingertip newly appearing on the current frame. . If there is a fingertip in a new appearance state (new appearance), the process proceeds to R208. If there is no fingertip in a tracking continuation state, the process proceeds to R209.
  • R208 when it is specified in R207 that there is a fingertip in a new appearance state (new appearance), it is determined whether or not there is a fingertip that is currently in a tracking impossible state (lost). This determination is made based on whether or not the fingertip ID storing the tracking return determination information exists in the tracking information shown in FIG. At this stage, if it is determined that there is no fingertip that continues to be untrackable (lost), the process proceeds to R213, and a new appearance that has not been added to the fingertip of the new appearance state specified in R207.
  • the position information indicating the position specified on the current frame of the fingertip in the newly appearing state is stored in a form in which the fingertip ID is assigned and associated with the fingertip ID.
  • the tracking status corresponding to the fingertip ID is changed from the non-trackable state to the tracking continuation state (tracking restart), and the tracking return determination information that has been continuously stored is erased.
  • the present process is terminated.
  • the process proceeds to R209.
  • R209 it is specified whether or not there is a finger that is the same as the fingertip that is currently in the untrackable state (lost) among the newly appearing fingertips. Specifically, the position information in the current frame of the newly appearing fingertip actually identified in R207 and the position information (tracking return determination information) indicating the last position of the untrackable fingertip included in the tracking information 500 Based on the above, it is determined whether or not there is a fingertip that is closest to the position of the newly identified fingertip that is actually identified among the fingertips that are in an untraceable state within a certain range.
  • the distance between the fingertip position of each fingertip actually specified in the current frame and the fingertip position of each fingertip that is in the untrackable state is calculated, and the shortest of these distances is calculated.
  • each fingertip that is actually specified in the current frame corresponding to the distance and each fingertip that is in a non-trackable state are the same fingertip judge.
  • the fingertip that has been in the most untrackable state based on the untrackable recognition order (tracking return judgment information) It is identified as the same as the fingertip identified as a new appearance in the current frame.
  • R211 based on the result of R209, it is determined whether or not there are a plurality of fingertips that are determined to be the same as the fingertips that continue to be untrackable (lost) among the fingertips identified as new appearances in the current frame. To do. If it is determined that there is one instead of a plurality, the process proceeds to R212.
  • the position information of the newly appearing fingertip identified on the current frame, determined to be the same as the fingertip is stored in association with the fingertip ID in the non-trackable state (lost) of the one fingertip, Update the tracking information of the fingertip ID. As a result, the tracking of the position of the fingertip that cannot be tracked is resumed. At this time, the tracking status corresponding to the fingertip ID is changed from the non-trackable state to the tracking continuation state (tracking restart), and the tracking return determination information that has been continuously stored is erased.
  • this process is terminated.
  • R211 based on the result of R209, it is determined that there are a plurality of fingertips that are determined to be the same as the fingertips that continue to be untrackable (lost) among the fingertips identified as new appearances in the current frame. If yes, go to R214.
  • the fingertip that has been most recently untrackable is identified and associated with the fingertip ID of the identified fingertip, The position information of the newly appearing fingertip specified on the current frame determined to be the same as the fingertip is stored, and the tracking information of the fingertip ID is updated. As a result, the tracking of the position of the fingertip that cannot be tracked is resumed. At this time, the tracking status corresponding to the fingertip ID is changed from the non-trackable state to the tracking continuation state (tracking restart), and the tracking return determination information that has been continuously stored is erased.
  • this process ends.
  • the operation target finger P can be fixed to the same finger.
  • the operation target finger information indicating the operation target finger P is stored in a form associated with the fingertip ID as shown in FIG.
  • the operation target finger P can be specified at any timing. That is, by adding a finger tracking process as shown in FIGS. 54 and 55, in the process of FIG. 25 that is repeatedly performed at a predetermined cycle, the process of specifying the operation target finger P by T3 is performed separately.
  • the operation target finger P may be specified based on the operation target finger information stored in association with the fingertip ID.
  • the fingertip tracking process is applied to the operation contents of the operation target finger designation operation performed by the user as in the fourth modification of the tenth embodiment of FIG. 39 and the fifth modification of the tenth embodiment of FIG.
  • This is suitable for the embodiment in which the operation target finger P is designated.
  • the touch operation on the touch panel 12a is an operation target finger designation operation, and based on the operation content of the touch operation,
  • the operation target finger P is designated. That is, in the embodiment in which the operation target finger P is not changed unless the operation target finger designation operation is performed by the user, it is not necessary to perform an operation for specifying the operation target finger P every time a moving image frame is acquired. By simply picking up a finger to be designated from the tracking information, the operation target finger P can be easily identified.
  • operation target finger P in the tenth embodiment may be configured to match the finger specified in the already described simple operation finger state.
  • the processed image (real finger image) 200H in which the contour shape of the photographed finger is reflected as it is is displayed as the position instruction image 200H, but the fingertip Q ( That is, an image completely different from the finger shape may be displayed, such as a fingertip position image (pointer or the like: see FIG. 67) 200H2 indicating a photographed finger pointing position). If highlighting is to be performed, only the fingertip region including the fingertip Q (for example, up to the first joint of the finger or an area within a predetermined radius centered on the fingertip position Q) may be displayed with emphasis.
  • a predetermined position indication image such as a pointer is displayed at the specified screen position.
  • a pseudo finger image here, a bar-shaped image: see FIG. 66
  • 200H1 or the like that simply shows the photographed finger length direction F and the fingertip Q may be displayed.
  • the operation target finger P in the tenth embodiment may be configured to match the finger specified as the already described simple operation finger state.
  • a touch panel is provided as the remote operation unit of the present embodiment, but an operation unit including a switch with a pressing operation such as a push switch or a seesaw switch may be used.
  • an operation unit including a switch with a pressing operation such as a push switch or a seesaw switch may be used.
  • the resistive film type touch panel is used as the operation panel 12a, you may use the touch panel of another system.
  • the operation panel 12a an operation panel that detects the position of the touch operation by image processing on a photographed image photographed by a photographing unit or means such as a camera may be employed instead of the touch panel. More specifically, the operation panel 12a is a translucent panel in which the surface 12a1 forms a touch operation surface, and a wavelength predetermined for an approaching object that approaches the operation panel 12a from the touch operation surface 12a1 side. A light source 12c that irradiates the band light through the operation panel 12a is provided.
  • the camera 12b constituting the hand image photographing unit or means captures the reflected light reflected by the approaching object at least by the light emitted from the light source 12c, and moves the approaching object to the back surface 12a2 side of the operation panel 12a1.
  • An imaging unit or means for imaging from Further, the control circuit 18 functions as a light reflection area specifying unit or means for specifying a light reflection area where the intensity of the reflected light exceeds a predetermined threshold intensity on the image taken by the camera 12b. Based on this light reflection area (coordinate information), it is configured to function as an input receiving unit or means for receiving a touch input to the light reflection area.
  • the captured image of the camera 12b is configured to be used not only for displaying the position indication image as in the above-described embodiment but also for specifying the light reflection area. Further, in this case, when the area of the specified light reflection area exceeds a predetermined threshold area, a touch operation input to the light reflection area can be received.
  • the operation information input unit 12 is disposed on a flat portion of a so-called center console (see, for example, FIG. 2), but is not particularly limited thereto, and may be disposed at the following positions, for example.
  • the input unit 12 may be arranged at a position close to the side of the steering wheel (on the right and left sides of the steering wheel) of the instrument panel containing the instruments,
  • An auxiliary panel may be installed at a position that does not hinder the operation of the steering wheel, and the input unit 12 may be arranged on the auxiliary panel.
  • the display device 15 does not need to be arranged at the center portion of the instrument panel.
  • the display device 15 can be arranged in a region of the instrument panel where the field of view is not blocked by the steering wheel, or an image is displayed on the windshield of the vehicle.
  • a head-up display for projecting may be used as the display device 15.
  • each process, step, or means described above includes the functionality of the associated equipment as a software part (eg, a subroutine) or a hardware part (eg, a circuit or an integrated circuit). Alternatively, it can be achieved without inclusion.
  • the hardware portion can be formed inside the microcomputer.
  • a software portion or a combination of a plurality of software portions can be included in the software program.
  • the software program can be included in a computer-readable medium, or can be downloaded and installed on a computer via a communication network.
  • FIGS. 4 to 7 are diagrams for explaining photographing of the hand (finger) H facing the operation panel 12a.
  • the screen display as shown in FIG. In the embodiment, a screen display as shown in FIG. 4C may be displayed.
  • the display processing of the position indication image displayed on the display device 15 is also substantially the same as in the first embodiment.
  • a predetermined finger state For example, in S2, based on the acquired hand image, it is specified whether or not the hand is in a predetermined finger state. In this case, in the first embodiment, as shown in FIG. 75, the finger state for simple operation included as Example 2 is adopted as the predetermined finger state. On the other hand, in the second embodiment, the finger state for operation intention display in Example 1 is adopted. Therefore, in S2, S3 in FIG. 9, S24, S25 in FIG. 11, S34, S35 in FIG. 12, S46, S47 in FIG. 13, S112 in FIG. 14, S12, S13 in FIG. 17, and S64, S65 in FIG.
  • Each predetermined finger shape means an operation intention display finger state.
  • each predetermined finger shape means an operation intention display finger shape.
  • the operation intention display finger state is a simple operation finger state in the present embodiment.
  • one or more fingers that can be an operation target that is, a finger that extends substantially along the touch operation surface 12a. It is a state where there are as few as two. In other words, an operation using five fingers to speed up input is a highly difficult finger state, and the simple operation finger state here is different from such a finger state.
  • the simple operation finger state here is different from such a finger state.
  • only when the acquired hand image is in a one-finger operation state in which only one finger appears in the surface direction (the direction in which the surface expands) of the touch operation surface 12a. It is specified as an operation intention display finger state. In that sense, it can be said that the predetermined finger shape is the same as in the first embodiment.
  • the touch operation input process to the operation panel (remote operation unit) 12a of the operation information input unit 12 is also substantially the same as that in the first embodiment.
  • the predetermined finger state As shown in FIG. 75, as the predetermined finger state, the simple operation finger state included as Example 2 is adopted, while in the second embodiment, the operation of Example 1 is adopted. Uses a finger display for intention display.
  • the display permission mode when the display permission mode is set, the acceptance of the touch operation input to the operation panel 12a is permitted (input permission mode), and the display is performed.
  • the prohibit mode reception of the touch operation input is prohibited (input prohibit mode).
  • the display permission mode is set when the finger state for operation intention display is specified, and the display prohibition mode is set when the finger state for operation intention display is not specified.
  • the touch operation input to the operation panel 12a is not accepted unless the user's finger state is the operation intention display finger state.
  • the finger state for simple operation called the one-finger state is set as the finger state for displaying the operation intention.
  • the other examples in the second embodiment are the same as the other embodiments after the second example of the first embodiment.
  • the predetermined finger state As the predetermined finger state, the simple operation finger state included as Example 2 is adopted, while in the second embodiment, the operation of Example 1 is adopted.
  • a configuration that does not include the camera 20 as shown in FIG. 69 is basically used.
  • the configuration that includes the camera 20 as shown in FIG. Will be equivalent.
  • the shooting of the hand (finger) facing the operation panel 12a will be described with reference to FIGS. 27, 7 and 6 in the third embodiment.
  • the difference from the first embodiment is that when a plurality of fingers are opposed to the operation panel 12a, as shown in FIG. 27C, the display area of the position indicating image 200H corresponding to the specific finger remains. This is a point that is combined with or superimposed on the background image 200B in a form that is emphasized relative to the display area of the position indicating image 200H corresponding to the finger.
  • the control circuit 18 specifies the finger of the hand facing the touch operation surface 12a1 on the front side of the touch operation surface (remote operation surface) 12a1 (here, the opposite side of the camera 12b) (finger specifying step). ).
  • the captured image captured by the camera 12b it is determined whether an image of the finger of the operator has been acquired.
  • the camera 12b always shoots an approaching object (for example, an operator's hand such as a driver) H that approaches the touch operation surface (front surface) 12a1 side from the back surface 12a2 side of the operation panel 12a via the operation panel 12a.
  • the captured image is always input to the image processing unit 18 a of the control circuit 18.
  • the captured image 150 including the approaching object H is naturally input to the image processing unit 18a.
  • the input captured image 150 is analyzed by a known image analysis method in the image processing unit 18a, and an approaching object image 150H is extracted based on a color difference or the like. Then, based on the shape of the extracted approaching object image 150H, it is determined whether or not the image 150H includes an image 150F of a human finger.
  • the finger image is recognized by identifying a substantially linear bar-shaped image pattern having an axial line longer than a predetermined length from the entire shape of the extracted hand image 150H, and there is the bar-shaped image pattern. This is recognized as a finger image 150F.
  • the determination result is output to the control circuit 18, and if it is determined that the image of the finger has been recognized, the process proceeds to T2, and if not determined, this process ends.
  • the control circuit 18 detects the fingertip from the acquired finger image 150F.
  • the detection of the fingertip is performed by specifying the fingertip Q from the specified finger image 150F (fingertip specifying step).
  • the fingertip Q in this embodiment is specified in the form shown in FIG. That is, when the finger image 150F is specified as shown in FIG. 29A, the image processing unit 18a displays the hand image 150H including the specified finger image 150F and the finger image 150H of the finger image 150F.
  • the moving hand images 160H shifted by a predetermined amount in the length direction are overlapped with each other, the non-overlapping region 170 where the finger images 150H and 160H do not overlap each other is specified, and the barycentric position of the non-overlapping region 170 is calculated.
  • the center of gravity position is specified as a fingertip (fingertip position) Q.
  • the fingertip Q may be specified by specifying the area up to the first joint of the finger as the fingertip (fingertip area) Q instead of specifying it as one point of the finger as described above.
  • T1 and T2 are steps which perform a finger
  • the control circuit 18 designates an operation target finger (position instruction finger) P that is used or estimated to be used for an operation on the remote operation unit (operation target finger designation step). Specifically, the positional relationship reflecting the positional relationship between the specified fingertips Q in the touch operation surface direction (the direction in which the touch operation surface 12a1 spreads, that is, the direction perpendicular to the normal line of the touch operation surface 12a1). Information is acquired as designated finger information (designated finger information obtaining step), and on the basis of the obtained positional relationship information, a predetermined selection condition relating to the positional relationship among the fingers identified by T1 is obtained. The finger having the positional relationship information most suitable for is designated as the operation target finger P with priority.
  • a plurality of fingers can be specified as the operation target finger P, but from the viewpoint of giving a position instruction so that the operation on the contact-type operation unit 12a is easy to understand, one or two relatively It is desirable to specify a small number of fingers. In this embodiment, there is one. Further, as the types of fingers to be designated, the index finger (refer to FIG. 27C), the middle finger (refer to FIG. 47), or the index finger and the middle finger (refer to FIG. 48) suitable for the position instruction are used. It is desirable to assume that the index finger is assumed in this embodiment.
  • the process of T3 of this embodiment is executed as the process shown in the flowchart of FIG. That is, at T11, the fingertip Q specified as shown in FIG. 29C is specified on the surface 180 of the virtual two-dimensional coordinate system, and 1 defined on the surface 180 (see FIG. 30).
  • the axis X of the book defines another one-dimensional coordinate system in the two-dimensional coordinate system.
  • the specified fingertip Q is projected toward the touch operation surface 12a1 (in the direction facing the remote operation unit), and the projection surface is set as the above-described surface 180 at a predetermined position on the projection surface.
  • One axis X is set to define a one-dimensional coordinate system.
  • the position coordinate (coordinate value) XQ of the fingertip Q specified on the surface 180 is specified in the one-dimensional coordinate system, and the axis coordinate information reflecting the position coordinate XQ is acquired as the positional relationship information. Then, based on the acquired axis coordinate information at T13, priority is given to a finger suitable for a predetermined selection condition regarding the axis coordinate information among the fingers specified at T1 in FIG. And designated as the operation target finger P.
  • the operation with the right hand of the passenger on the passenger seat is assumed, and the axis X is set so that the index finger of the operator is designated as the operation target finger P. Therefore, at T11, the axis X is set at the position shown in FIG. At T12, the fingertip Q is projected toward the set axis X, and coordinate values X1 to X3 of the projected positions are calculated. At T13, the coordinate value of the acquired coordinate values X1 to X3 is the largest. A large fingertip Q is specified, the finger having this fingertip Q is estimated to be an index finger, and this finger is designated as the operation target finger P.
  • the axis X in the present embodiment is determined so as to go from the lower right of the captured image where the right index finger is difficult to position to the upper left where the right index finger is easily positioned.
  • 31 and FIG. 32 may be set.
  • it is suitable to estimate the finger with the largest coordinate value as the middle finger, and if it can be estimated or specified whether the operating hand is left or right, the finger adjacent to the middle finger is estimated as the index finger. You can also.
  • FIG. 32 if it can be estimated or specified whether the operating hand is left or right, it is suitable to estimate the leftmost finger as the index finger, and the finger adjacent to it can be estimated as the middle finger.
  • the photographed image photographed by the camera 12b can be referred to as a projection surface 180 obtained by projecting the fingertip Q toward the touch operation surface 12a1. Therefore, the operation panel image area (the area where the touch operation surface 12a is reflected: here the entire area of the captured image 150) where the touch operation surface 12a is located in the captured image captured by the camera 12b and the projection surface 180 are the same.
  • the coordinate position of the fingertip Q on the operation panel image area can be used as the projected coordinate position of the fingertip Q on the projection plane 180 as it is.
  • the operation target finger P is designated by calculation on the coordinate system on the virtually determined projection plane 180, and image processing is not required. That is, since the image data is not used for the operation target finger P specifying process, the calculation cost (calculation amount / memory amount) can be reduced.
  • the control circuit 18 synthesizes or superimposes on the background image 200B on the display screen of the display device 15 on the display screen corresponding to the specified fingertip Q.
  • a position indication image 200H is displayed at the position. However, this display corresponds to the remaining finger R different from the operation target finger P in the display region 200P of the position instruction image 200H corresponding to the designated operation target finger P in the displayed position instruction image 200H.
  • the position indication image 200H to be displayed is displayed in a highlighted manner in which it is emphasized relatively than the display area 200R. Thereby, the visibility of the operation target finger P is improved, the finger to be operated is easily transmitted to the user, and the operability is also improved.
  • the control circuit 18 first specifies the positional relationship between the display screen of the display device 15 and the photographed finger. That is, the position on the display screen where the photographed finger faces is specified.
  • an operation panel image area where the touch operation surface 12a is located (an area where the touch operation surface 12a is displayed: here, the entire area of the captured image 150) is specified on the captured image 150 captured by the camera 12b.
  • a two-dimensional operation coordinate system is set on the operation panel image area, and the position of the photographed finger is specified on the operation coordinate system.
  • the position on the display screen of the display device 15 corresponding to the position of the finger specified on the operation coordinate system is specified in the two-dimensional display coordinate system defined on the display screen.
  • the position indication image 200H is superimposed on the corresponding position coordinates of the main image 200B at the position specified on the display screen of the display device 15.
  • the above-described emphasis display of the position instruction image 200H (200P, 200R) is performed in such a manner that the emphasis level (enhancement degree) is gradually changed over a predetermined time t1, as shown in FIG. That is, in the process of highlight change, it has a state in the middle of change as shown in FIG. 33 (b), and the change in emphasis as shown in FIG. 33 (c) is completed through such a state in the middle of highlight change. To do.
  • the highlighting is performed on the entire finger display areas 200P to 200R of the position indication image 200H, the outline, and only the inside of the outline, with a change in color (see FIG. 63) and a change in shading (see FIG. 63: Note that the operation target finger Fingers may be erased), shape change (FIG. 64: the operation target finger P is relatively thick here as an example), switching to another image, change in transparency (see FIG. 27), It blinks (see FIG. 65) or a combination thereof.
  • the processing is executed in such a manner that the transparency inside the contour of the processed image forming the position indicating image 200H is changed.
  • the highlighting holds the display area 200P of the position indicating image 200H corresponding to the operation target finger P in a constant state, and emphasizes the display area 200R of the position indicating image 200H corresponding to the remaining fingers R. It is done in a form that reduces the level.
  • the position indicating image region 200R corresponding to the remaining finger R may be erased.
  • the emphasis level is lower than that at the time of erasure, but it may be relatively easily visible.
  • the highlighting at T4 may be started immediately as the operation target finger P is designated at T3 as shown in FIG. 61, or the operation at T3 as shown in FIG. It may be started after a predetermined time has elapsed since the target finger P is designated. In particular, in the case of a configuration in which highlighting is not performed in stages, it is desirable to select the latter.
  • This process ends when T4 ends.
  • This process is repeatedly performed at a predetermined cycle after the end, and when the hand facing the operation panel 12a moves, the display position of the position instruction image 200H displayed on the display screen of the display device 15 is moved accordingly. To do.
  • the display position of the position indicating image 200H (200P and 200R) moves while continuing the emphasis change, and when the hand moves in a state where the emphasis change is completed, The display position of the position indicating image 200H (200P and 200R) moves while maintaining the emphasized state.
  • the display process of the position instruction image includes a finger specifying step, a fingertip specifying step, an operation target finger specifying step, a position instruction image emphasizing display step, and a specified finger information acquiring step.
  • the means for executing each of these steps finger specifying unit or means, fingertip specifying unit or means, operation target finger specifying unit or means, position indication image highlighting display unit or means, specified finger information acquisition Part or means).
  • the control circuit 18 determines whether or not there is a touch operation on the operation panel 12a. Since the operation panel 12a is configured as a touch panel, when a touch operation is performed, an operation signal is input to the control circuit 18, and thus determination is made based on the presence or absence of the input. If there is a touch operation on the operation panel 12a, the process proceeds to T102, and if there is no touch operation, this process ends.
  • the touch operation position on the operation panel 12a that is, the touch operation position on the touch operation surface 12a1 is specified. Since the operation panel 12 a is configured as a touch panel, an operation signal is input to the control circuit 18 when a touch operation is performed. Since the touch operation position is reflected in the operation signal as coordinate information on the operation coordinate system defined on the operation surface 12a1, the control circuit 18 specifies the touch operation position based on the operation signal. .
  • the control circuit 18 performs control corresponding to the touch operation position on the operation panel 12a. Specifically, since each position on the touch operation surface 12a1 of the operation panel 12a corresponds to a position on the display screen of the display screen 15, the position on the touch operation surface 12a1 specified in T103 is set. The corresponding control content determined at the position on the display screen of the display screen 15 is executed. Specifically, the control circuit 18 outputs a control signal for performing the control content. For example, if the position on the touch operation surface 12a1 specified in T103 corresponds to the position of the switch image 200I displayed on the display screen of the display screen 15, the control circuit 18 is assigned to the switch image. A control signal for executing the control content is output.
  • This process ends when T103 ends. Note that this process is repeatedly performed at a predetermined cycle even after the completion of the process, and the control circuit 18 performs the control content corresponding to the position touched at that time or is performed by another control unit (for example, the ECU 100 or the like).
  • the control circuit 18 functions as an input receiving unit or means and an operation input control unit or means by executing the touch operation input process by the CPU.
  • the display method of the third embodiment is realized by a vehicle operation input device.
  • the operation input device is not limited to a vehicle, for example, general household appliances The operation input device may be used.
  • a general display device having a screen display as a main function may be used instead of an operation input device for performing device operations.
  • the first embodiment can be variously modified. Each modification is equivalent to the second modification to the twelfth modification of the tenth example in the first embodiment, and thus description thereof is omitted.
  • the remote operation unit since the remote operation unit is provided at the user's hand, it is a problem that the operation unit is unintentionally touched and an erroneous operation input is made.
  • a touch operation type operation unit there is a case where an input is made only by touching something with a momentum.
  • the position indication image 200H in the first embodiment is highlighted only during a predetermined display permission period.
  • the position instruction image 200 ⁇ / b> H can be configured not to be displayed even when the hand faces the touch operation surface 12 a 1.
  • a position instruction image display process as shown in FIG. 9 is performed. This processing is also performed in such a manner that the CPU executes a program stored in the storage unit 18d of the control circuit 18.
  • the control circuit 18 determines whether an image of the operator's hand has been acquired based on the captured image captured by the camera 12b.
  • the camera 12b always shoots an approaching object (for example, an operator's hand such as a driver) H that approaches the touch operation surface (front surface) 12a1 side from the back surface 12a2 side of the operation panel 12a via the operation panel 12a.
  • the captured image is always input to the image processing unit 18a of the control circuit 18.
  • the captured image 150 including the approaching object H is naturally input to the image processing unit 18a.
  • the input captured image 150 is analyzed by a known image analysis method in the image processing unit 18a, and an approaching object image 150H is extracted based on a color difference or the like. Then, from the shape of the extracted approaching object image 150H, it is determined whether or not the image 150H is an image of a human hand. The determination result is output to the control circuit 18, and if it is determined that the hand image has been recognized, the process proceeds to S2, and if not determined, the present process is terminated.
  • the light source 12c is arranged, and the camera 12b performs shooting in a form that captures the reflected light of the light source 12c. Therefore, the reflected light intensity is reflected in the gradation of the color appearing in the captured image 150, and the higher the reflected light intensity, the higher the gradation level. That is, since the captured video 150 captured by the camera 12b of this embodiment is a multi-gradation captured image (monochrome captured image in the present embodiment), the image processing unit 18a converts this to a predetermined gradation. The gradation level of each pixel is binarized using the threshold value, and an area exceeding the gradation threshold value is extracted as the approaching object image 150H as shown in FIGS. 27, 7, 6, and 5B. To do.
  • the shape of the approaching object image 150H and the hand stored in the storage unit 18d of the control circuit 18 are used. Compared to the shape pattern, the approaching object image 150H that matches these patterns is recognized as a hand image (hand image recognition unit or means).
  • predetermined finger state specifying unit or means it is specified whether or not the hand is in a predetermined finger state (predetermined finger state specifying unit or means).
  • predetermined operation intention display finger state operation intention display finger state specifying unit or means.
  • the operation intention display finger state is a simple operation finger state in this embodiment. For example, one or two fingers that can be operated, that is, fingers that extend substantially along the touch operation surface 12a. The state is a minority of the degree. In other words, an operation using five fingers to speed up input is a highly difficult finger state, and the simple operation finger state here is different from such a finger state.
  • the image processing unit 18a that has extracted the hand image identifies a substantially linear rod-shaped image pattern having an axial line longer than a predetermined length from the overall shape of the hand image.
  • a finger image 150F finger specifying unit or means
  • the specified result is output to the control circuit 18, and the control circuit 18 specifies the number of the finger images 150F (a finger number specifying unit or means: a hand shape recognition unit or means), and the number is one. Is specified as a predetermined operation intention display finger state (operation intention display finger shape).
  • the display permission mode in which the display of the position indication image is permitted is set as the display mode, and the process proceeds to S5.
  • the set display mode is stored in a predetermined storage area (display mode storage unit) provided in the storage unit 18d of the control circuit 18.
  • the display permission mode is stored in the storage area.
  • the control circuit 18 specifies the positional relationship between the display screen of the display device 15 and the photographed hand. That is, the position on the display screen where the photographed hand image H faces is specified.
  • the operation panel image area where the touch operation surface 12a is located is specified on the captured image captured by the camera 12b, and the operation coordinate system of the touch operation surface 12a is set on the operation panel image area. Then, the position of the captured hand image H is specified on the set operation coordinate system. Then, in the display coordinate system defined on the display screen of the display device 15, a position corresponding to the position of the hand image H specified on the operation coordinate system is specified.
  • the photographed image (binarized image) 150 shown in FIGS. 27, 7, 6, and 5B is an operation panel image area obtained by photographing the entire touch operation surface 12a1. Yes.
  • a position indicating image is displayed at a position corresponding to the hand image H specified on the operation panel image area on the display screen of the display device 15.
  • 200H is displayed (position indication image display unit or means).
  • a processed image 200H in which the outer shape of the hand image 150H is clearly displayed and the inside of the contour is translucent is generated, and the main image 200B displayed on the screen of the display device 15 is generated.
  • the position indication image highlighting process (FIG. 25) in the first embodiment is performed, and the finger position indication image 200H specified as the operation target finger P is emphasized relatively to the remaining fingers. Is displayed.
  • the operation target finger P to be emphasized is defined as the index finger. Therefore, even if the finger is in a single finger state, if the finger extending at that time is not an index finger, the position pointing image corresponding to this finger is displayed in a non-emphasized state. On the other hand, if the one-finger state is the index finger, as shown in FIGS. 7 and 6C, the index finger is displayed in the emphasized state, but the non-emphasized finger is not displayed.
  • the process proceeds to S7.
  • the display mode is set to a display prohibition mode in which the display of the position indication image is prohibited.
  • the set display prohibition mode is stored in a predetermined storage area (display mode storage unit) provided in the storage unit 18d of the control circuit 18.
  • This process ends when S6 and S7 end. Note that this process is repeatedly performed at a predetermined cycle after the end, and when a hand in a predetermined finger state that faces the operation panel 12a moves, the position displayed on the display screen of the display device 15 is adjusted accordingly. The display position of the instruction image (processed image) 200H also moves.
  • a period until the predetermined finger state determined in advance is unspecified is set as the display permission period. That is, the processing is such that the display permission mode is set when a predetermined finger state is determined in advance, and the display prohibition mode is set when a predetermined finger state is not specified.
  • the control circuit 18 functions as a display mode setting unit or means by executing the display processing of the position indication image.
  • the touch operation input device when the hand to be remotely operated is actually displayed on the operation screen, when the hand is close to the touch panel 12a (remote operation unit), only the finger is displayed. Some users perform touch operation input with five fingers of one hand for quick input. In this case, many fingers are displayed side by side on the operation screen. There is a problem in that the correspondence between the finger that is made and the finger that the operator actually wants to use for the instruction cannot be understood, and an erroneous operation is likely to occur. On the other hand, in the above-described embodiment, the touch operation input to the operation panel 12a is not accepted unless the predetermined finger state is determined in advance, so that the above-described problems can be solved. .
  • the touch operation input process to the operation panel (remote operation unit) 12a of the operation information input unit 12 can be a process as shown in FIG. 10 instead of the process as shown in FIG. .
  • This processing is also performed in such a manner that the CPU executes a program stored in the storage unit 18d of the control circuit 18.
  • the control circuit 18 sets the input permission mode
  • the display prohibit mode is set. If it is set, the process includes operation input reception control for prohibiting reception of the touch operation input (the control circuit 18 sets the input prohibit mode).
  • the control circuit 18 functions as an operation input control unit or means by executing this touch operation input process.
  • the control circuit 18 determines whether or not there is a touch operation on the operation panel 12a. Since the operation panel 12a is configured as a touch panel, when a touch operation is performed, an operation signal is input to the control circuit 18, and thus determination is made based on the presence or absence of the input. If there is a touch operation on the operation panel 12a, the process proceeds to S102, and if there is no touch operation, this process ends.
  • the control circuit 18 determines whether or not the current display mode is the display permission mode. Since the current display mode is stored in a predetermined storage area (display mode storage unit) provided in the storage unit 18d of the control circuit 18, the current display mode is determined based on the stored display mode information. When it is determined that the current display mode is the display permission mode, the process proceeds to S103, and when it is determined that the current display mode is not the display permission mode, that is, when it is determined that the display prohibition mode is set, this process ends.
  • the touch operation position on the operation panel 12a that is, the touch operation position on the touch operation surface 12a1 is specified. Since the operation panel 12 a is configured as a touch panel, an operation signal is input to the control circuit 18 when a touch operation is performed. Since the touch operation position is reflected in the operation signal as coordinate information on the operation coordinate system defined on the operation surface 12a1, the control circuit 18 specifies the touch operation position based on the operation signal. .
  • the control circuit 18 performs control corresponding to the touch operation position on the operation panel 12a. Specifically, since each position on the touch operation surface 12a1 of the operation panel 12a corresponds to a position on the display screen of the display screen 15, the position on the touch operation surface 12a1 specified in S103. The corresponding control content determined at the position on the display screen of the display screen 15 is executed. Specifically, the control circuit 18 outputs a control signal for performing the control content. For example, if the position on the touch operation surface 12a1 specified in S103 corresponds to the position of the switch image 200I displayed on the display screen of the display screen 15, the control circuit 18 is assigned to the switch image. A control signal for executing the control content is output.
  • This process ends when S104 ends. Note that this process is repeatedly performed at a predetermined cycle even after the completion of the process, and the control circuit 18 performs the control content corresponding to the position touched at that time or is performed by another control unit (for example, the ECU 100 or the like).
  • the display permission mode when the display permission mode is set, the acceptance of the touch operation input to the operation panel 12a is permitted (input permission mode), and when the display prohibit mode is set. The reception of the touch operation input is prohibited (input prohibition mode).
  • the display permission mode is set when a predetermined predetermined finger state is specified, and display is prohibited when the predetermined predetermined finger state is not specified. Since the mode is set, as a result, the touch operation input to the operation panel 12a is not accepted unless the user's finger state is a predetermined finger state.
  • the simple finger state for simple operation which is a single-finger state, is a predetermined finger state (in this case, an operation intention display finger state).
  • a period until a predetermined predetermined finger state becomes unspecified is determined.
  • a predetermined time can be determined as shown in FIG. That is, a period from when switching to the display permission mode until a predetermined time (prohibition mode return time) elapses is defined as a display permission period, and the display prohibition mode is restored as the prohibition mode return time elapses.
  • a period during which the position indication image can be displayed is triggered when the user indicates a specific finger state, and the touch operation surface 12a1 while viewing the position indication image is displayed.
  • the position instruction input touch operation
  • the position instruction image is not displayed unless the user indicates a specific finger state, and the touch operation for performing the position instruction input cannot be performed smoothly.
  • the display of the position indication image is permitted only when the user displays a clear intention to input the position instruction, and the intention display is confirmed by specifying the user's finger state. ing.
  • the display permission mode it is also possible to display an image of a finger state different from a predetermined finger state determined in advance. More specifically, the position instruction image display process shown in FIG. 9 can be realized by the process shown in FIG.
  • control circuit 18 determines whether an image of the operator's hand has been acquired based on the captured image captured by the camera 12b. This process is the same as the process of S1 in FIG.
  • the control circuit 18 determines whether or not the current display mode is the display permission mode. Since the current display mode is stored in a predetermined storage area (display mode storage unit) provided in the storage unit 18d of the control circuit 18, the current display mode is determined based on the stored display mode information. If it is determined that the current display mode is the display prohibition mode, the process proceeds to S12. If it is determined that the current display mode is not the display permission mode, that is, if it is determined to be the display prohibition mode, the process proceeds to S19.
  • the display mode is set to a display permission mode in which the display of the position instruction image is permitted, and the process proceeds to S15.
  • the set display permission mode is stored in a predetermined storage area (display mode storage unit) of the storage unit 18d of the control circuit 18.
  • the timer 18b provided in the control circuit 18 is activated, time counting is started, and the process proceeds to S16.
  • the time is stored in a form counted up by the counter 18c. Before the timer is started, the count value of the counter 18c is reset.
  • the control circuit 18 specifies the positional relationship between the display screen of the display device 15 and the photographed hand.
  • the process of S16 is the same process as S5 of FIG.
  • subsequent S17 as shown in FIG. 27, FIG. 7 and FIG. 6C, the position indication image 200H is overlaid on the main image 200B displayed on the display screen of the display device 15 (position indication).
  • the process of S17 is the highlighting process of the position instruction image shown in FIG. 25, similar to S6 of FIG.
  • a position instruction image 200H as shown in FIG. 27C is also displayed in S16 and S17.
  • overlapping display (or composite display) of hand images is permitted, and at least indicates the finger pointing position based on the hand images.
  • the position indicating image 200H may be displayed in any form as long as it is an image. Therefore, when the display permission mode is set, there can be an overlapping display of a large number of fingers as shown in FIG. However, the operation target finger P is displayed more emphasized than the remaining fingers.
  • the process proceeds to S18.
  • the display prohibition mode is set and stored in a predetermined storage area (display mode storage unit) provided in the storage unit 18d of the control circuit 18.
  • This process is ended by the end of S17 and S18, but this process is repeatedly performed at a predetermined cycle after the end, as long as the hand image is acquired and the display permission mode continues, the position indication image of S16 and S17 is displayed.
  • the display permission state continues. That is, during this time, even if the finger state is not a predetermined finger state that is determined in advance, the position indication image is displayed based on the finger state at that time.
  • the display permission mode when it is determined in S19 that the predetermined time has elapsed by the timer 18b started in S15, the display prohibition mode is forcibly set in S20, and this processing ends. Become.
  • the process of S20 is the same as the process of S18.
  • the user indicates the intention of the operation by a hand shape (operation intention display finger state), and when this is indicated, the display permission mode is set for a certain period of time. Yes.
  • the operation state display finger state is not limited to the simple operation finger state such as the one-finger state (see, for example, FIGS. 7 and 6), but is a state in which two fingers are extended (see FIG. 70). It can be variously defined as a state where three fingers are extended (see FIG. 71), a state where four fingers are extended (see FIG. 72), and the like. Further, even in the single-finger state, only the case where the finger is the index finger (see FIGS.
  • the operation intention display finger state may be set as the operation intention display finger state, or only when the finger is the middle finger (see FIG. 68).
  • An operation intention display finger state may be used. Further, even in the two-finger state, only when the fingers are the index finger and the middle finger (see FIG. 70), the operation intention display finger state may be set. Further, any one or more of these may be defined as an operation intention display finger state. From the viewpoint of preventing erroneous operations, it is desirable to determine a hand state (finger state) that is not performed by the user as an operation intention display finger state. From the viewpoint of processing, it is desirable to determine a hand state (finger state) that is easier to identify.
  • the identification of the predetermined finger state such as the operation intention display finger state and the simple operation finger state in S2 of FIG. 9 may not be performed based on the captured image as described above. For example, among the inputs by the touch operation performed on the touch operation surface 12a1 (remote operation surface) by the control circuit 18 during a predetermined period, the number of inputs by the touch operation performed at different positions on the touch operation surface 12a1. (Number of operations specifying unit or means), and when the number of inputs specified within the period is a predetermined number (number for simple operation or number for operation intention display) as a predetermined finger state It may be specified.
  • the predetermined number of fingers is three.
  • the predetermined finger state As shown in FIG. 20, when a touch operation is performed on the touch operation surface 12a1 in a state where the display prohibition mode (and the input prohibition mode) is set, the control circuit 18 The timer 18b is started and the time counting is started by counting up the counter 18c, and the number of inputs by the touch operation including the touch operation at the start of the time counting is counted within the predetermined period t0.
  • touch position information for example, position coordinates in the touch operation surface 12a1
  • a retouch operation to the same position in the touch operation surface 12a1 is performed. Do not count that input. If the number of inputs when the predetermined period t0 has elapsed is the same as the predetermined number of fingers that define the predetermined finger state, the finger state of the current operator's hand is the predetermined finger state.
  • a display permission mode (and an input permission mode) is set only for a predetermined display permission period from the time of the identification. When the display permission period ends, the display prohibition mode (and the input prohibition mode) is set again.
  • the control content corresponding to the touch operation input to the remote touch operation surface 12a is executed, that is, the execution of the corresponding control content is permitted.
  • the display prohibit mode is set, the control content corresponding to the touch operation input to the remote touch operation surface 12a is not executed, that is, the execution of the corresponding control content is prohibited.
  • it corresponds to touch operation input to the remote touch operation surface 12a when a predetermined predetermined finger state (in this case, a finger state for operation intention display) is specified, not when the display permission mode is set.
  • a predetermined predetermined finger state in this case, a finger state for operation intention display
  • the control content corresponding to the touch operation input to the remote touch operation surface 12a when execution of the control content to be performed is permitted and the predetermined predetermined finger state is not specified rather than when the display prohibition mode is set Can be configured to be prohibited.
  • a predetermined finger state in this case, an operation intention display finger state
  • the touch operation input to the remote touch operation surface 12a is permitted to be received and determined in advance.
  • the operation input reception control for prohibiting the reception of the touch operation input to the remote touch operation surface 12a can be executed.
  • the control circuit 18 determines whether or not there is a touch operation on the operation panel 12a.
  • the process of S111 is the same as S101 of FIG.
  • the control circuit 18 determines whether or not the current finger state is a predetermined finger state (in this case, an operation intention display finger state).
  • a predetermined finger state in this case, an operation intention display finger state.
  • the touch operation position on the operation panel 12a that is, the touch operation position on the touch operation surface 12a1 is specified.
  • This process is the same as S103 in FIG.
  • control corresponding to the touch operation position on the operation panel 12a is performed.
  • This process is the same as S104 in FIG.
  • the present process ends upon completion of S114, the present process is repeatedly performed at a predetermined cycle even after the completion.
  • position instruction image display process in the embodiment for executing the touch operation input process shown in FIG. 14 may be any one of FIGS. 9 and 17 and a position instruction image display process described later.
  • the display permission mode is set to permit the display of the position indication image when a predetermined predetermined finger state is specified, and when the predetermined predetermined finger state is not specified.
  • the display prohibition mode is set to prohibit the display of the position instruction image.
  • Such display mode switching control is performed when the vehicle is in a predetermined traveling state and is not in the predetermined traveling state.
  • the vehicle travel state detection unit or means for detecting the travel state of the vehicle is provided.
  • FIG. 11 shows an example of such processing.
  • a vehicle speed sensor (vehicle speed detection unit or means) 30 for detecting the vehicle speed of the vehicle is connected to the control circuit 18, and the control circuit 18 is connected to the vehicle.
  • display mode switching control is executed.
  • vehicle speed threshold vehicle speed threshold
  • display mode switching control is executed.
  • display is permitted as a display mode regardless of the finger state. The mode is set.
  • control circuit 18 determines whether an image of the operator's hand has been acquired. This is the same as the processing of S1 in FIG. When the image of the operator's hand is acquired, the process proceeds to S22, and when the image of the operator's hand is not acquired, this process ends.
  • the current running state of the vehicle is specified. That is, it is determined whether or not the vehicle is in a traveling state exceeding a predetermined vehicle speed level.
  • the control circuit 18 stores a vehicle speed threshold value in advance in a predetermined storage unit 18d such as a ROM, determines whether the vehicle speed detected by the vehicle speed sensor 30 exceeds the vehicle speed threshold value, and identifies the vehicle running state as the vehicle speed threshold value.
  • the case where it does not exceed is specified as the low-speed running state (including the stopped state).
  • 5 km / h or the like is fixedly determined as the vehicle speed threshold.
  • S24 it is specified whether or not the operator's hand (operator) is in a predetermined finger state (in this case, an operation intention display finger state).
  • a predetermined finger state in this case, an operation intention display finger state.
  • the specification of the predetermined finger state is performed by the same process as the process of S2 of FIG.
  • S25 if it is determined that the current finger state is a predetermined finger state, the process proceeds to S26. If it is determined that the current finger state is not a predetermined finger state, the process proceeds to S29.
  • the display permission mode in which the display of the position instruction image is permitted is set as the display mode.
  • the set display permission mode is stored in a predetermined storage area (display mode storage unit) of the storage unit 18d of the control circuit 18.
  • the control circuit 18 specifies the positional relationship between the display screen of the display device 15 and the photographed hand. This process is the same as the process of S5 of FIG.
  • the position indication image 200H is displayed in an overlapping manner on the main image 200B displayed on the display screen of the display device 15 (position indication image display unit or means). This process is the same as S6 in FIG.
  • the processing of S27 and S28 is performed.
  • the position instruction image 200H based on the finger state is displayed (see FIGS. 27, 7 and 6C), but in S22, the vehicle is in a traveling state.
  • the processing of S27 and S28 is performed.
  • a position indication image 200H based on a predetermined finger state determined in advance by the operator is displayed (see FIGS. 7 and 6C).
  • the process proceeds to S29.
  • the display mode is set to a display prohibition mode in which the display of the position indication image is prohibited, and this is stored in a predetermined storage area (display mode storage unit) of the storage unit 18d of the control circuit 18.
  • the display of the position instruction image 200H performed in S27 and S28 is not executed, and the position instruction image 200H is not displayed on the display screen of the display device 15, for example, as shown in FIG.
  • This process is ended by the end of S28 and S29, but this process is repeatedly performed at a predetermined cycle after the end.
  • the above-mentioned predetermined vehicle speed level (vehicle speed threshold) is set to 5 km / h, and the display permission mode is always set in the slow running state of the vehicle that does not exceed the vehicle speed level. It has come to be.
  • this vehicle speed level is set within a vehicle speed range that is higher than 0 km / h and lower than 5 km, or within a vehicle speed range that is greater than or equal to 5 km / h and less than 10 km / h, as shown in FIG.
  • it may be set to 0 km / h so that the display permission mode is always set when the vehicle is stopped.
  • this vehicle speed level may be set within a vehicle speed range of 10 km / h or more and less than 30 km (low-speed driving state of the vehicle), or within a vehicle speed range of 30 km / h or more and less than 60 km / h (in the vehicle). (High speed running state), or may be set within a vehicle speed range of 60 km / h or higher (high speed running state of the vehicle).
  • the display mode switching control is performed when the vehicle is in a predetermined vehicle running state (higher speed than the vehicle speed threshold), and when the vehicle is not in the predetermined vehicle running state (lower speed than the vehicle speed threshold). ),
  • the display permission mode is fixedly set.
  • the display prohibition mode is fixedly set and the predetermined vehicle traveling is performed. It is good also as an Example by which the said display mode switching control is implemented when it is not in a state (it is a low speed side from a vehicle speed threshold value).
  • the display permission mode is set to permit the display of the position indication image when a predetermined predetermined finger state is specified, and when the predetermined predetermined finger state is not specified.
  • the display prohibit mode is set to prohibit the display of the position indication image.
  • the display mode switching control is performed in the display mode.
  • the display permission mode can be set as the display mode regardless of the finger state.
  • control circuit 18 determines whether an image of the operator's hand has been acquired. This is the same as the processing of S1 in FIG. When the image of the operator's hand is acquired, the process proceeds to S32, and when the image of the operator's hand is not acquired, this process is terminated.
  • S32 it is specified whether or not the operator who makes his / her hand face the operation panel 12a is a driver (operator specifying unit or means).
  • the operator can be specified based on, for example, a captured image (FIG. 8) of the camera 20 shown in FIG. Specifically, by identifying the direction in which the arm extends from the captured image of the camera 20 and determining whether or not the direction extends from the driver's seat 2D side, the operator Whether or not is a driver.
  • S33 it is determined whether or not the operator of the operation panel 12a is a driver. If it is determined that the operator is a driver, the process proceeds to S34. On the other hand, if it is determined in S33 that the operator of the operation panel 12a is a person other than the driver, the process proceeds to S36.
  • S34 it is specified whether or not the driver's hand (operator) as an operator is in a predetermined predetermined finger state (here, a finger state for operation intention display).
  • a predetermined predetermined finger state here, a finger state for operation intention display.
  • the specification of the predetermined finger state is performed by the same process as the process of S2 of FIG.
  • subsequent S35 it is determined whether or not the current finger state is a predetermined predetermined finger state. If it is determined that the present finger state is a predetermined predetermined finger state, the process proceeds to S36, and a predetermined predetermined finger state is determined. If it is determined not to be in the state, the process proceeds to S39.
  • the display permission mode in which the display of the position instruction image is permitted is set as the display mode.
  • the set display permission mode is stored in a predetermined storage area (display mode storage unit) of the storage unit 18d of the control circuit 18.
  • the control circuit 18 specifies the positional relationship between the display screen of the display device 15 and the photographed hand. This process is the same as the process of S5 of FIG.
  • the position indication image 200H is displayed in an overlapping manner on the main image 200B displayed on the display screen of the display device 15 (position indication image display unit or means). This process is the same as S6 in FIG.
  • the finger of the operator is determined regardless of the finger state of the operator by the processes of S37 and S38. While the position indication image 200H based on the state is displayed (see (c) of FIGS. 27, 7 and 6), in S32, the driver is specified as the operator of the operation panel 12a, and in S35.
  • the finger state is a predetermined finger state (in this case, an operation intention display finger state)
  • a position based on the predetermined finger state performed by the driver is obtained by the processing of S37 and S38.
  • the instruction image 200H is displayed (see FIGS. 7 and 6C).
  • the process proceeds to S39.
  • the display mode is set to a display prohibition mode in which the display of the position indication image is prohibited, and this is stored in a predetermined storage area (display mode storage unit) of the storage unit 18d of the control circuit 18.
  • the display of the position instruction image 200H performed in S37 and S38 is not executed, and the position instruction image 200H is not displayed on the display screen of the display device 15 as shown in FIG. 5C, for example.
  • This process ends when S38 and S39 end. This process is repeatedly performed at a predetermined cycle even after the process is completed.
  • the position indication image display process described above is performed as a process in which both of FIGS. 11 and 12 are combined. That is, the traveling state of the vehicle (for example, the vehicle speed of the vehicle) is detected, and whether or not the operator of the remote touch operation surface 12a is a driver is determined. A predetermined predetermined finger state is specified when the operator of the specified remote touch operation surface 12a is a driver. The display of the position instruction image 200H is permitted only when the position instruction image 200H is displayed, but the display of the position instruction image 200H is prohibited when the predetermined predetermined finger state is not specified.
  • the traveling state of the vehicle for example, the vehicle speed of the vehicle
  • a predetermined predetermined finger state is specified when the operator of the specified remote touch operation surface 12a is a driver.
  • the display of the position instruction image 200H is permitted only when the position instruction image 200H is displayed, but the display of the position instruction image 200H is prohibited when the predetermined predetermined finger state is not specified.
  • the specified finger state is set. Regardless, it is possible to perform processing that permits display of the position indicating image 200H.
  • the specific processing flow will be described with reference to FIG.
  • the process proceeds to S46 and S47, and the operator's hand (operator) is It is specified whether or not the predetermined finger state is predetermined (in this case, the finger state for displaying the intention of operation) (the same processing as S2 and S3 in FIG. 9), and the current finger state is the predetermined finger state determined in advance. If it is determined that the predetermined finger state is not established, the process proceeds to S51.
  • the display permission mode is set as the display mode, and this is stored in a predetermined storage area (display mode storage unit) of the storage unit 18d.
  • the control circuit 18 specifies the positional relationship between the display screen of the display device 15 and the photographed hand, and in S50, on the main image 200B displayed on the display screen of the display device 15, The position instruction image 200H is displayed in an overlapping manner (position instruction image display unit or means).
  • the process proceeds to S51.
  • the display prohibit mode is set as the display mode, and this is stored in a predetermined storage area (display mode storage unit) of the storage unit 18d. Thereby, the display of the position instruction image 200H performed in S49 and S50 is not executed, and the position instruction image 200H is not displayed on the display screen of the display device 15, for example, as shown in FIG.
  • This process ends when S50 and S51 end. This process is repeatedly performed at a predetermined cycle even after the process is completed.
  • the display mode switching control is performed when the vehicle is in a predetermined vehicle running state (higher speed than the vehicle speed threshold) and the operator is a driver.
  • the display permission mode is fixedly set when the vehicle is not in a predetermined vehicle running state (lower speed than the vehicle speed threshold) or when the operator is not a driver.
  • the display prohibit mode is fixedly set when the operator is a driver and the display mode switching control is performed when the vehicle is not in a predetermined vehicle running state and the operator is a driver. In other cases (when the operator is not the driver), the display permission mode may be fixedly set.
  • the camera 12b serving as the hand image capturing unit or means is a camera that captures a fixed area in the vehicle interior facing the touch operation surface (front surface) 12a1 of the touch panel 12a, as in the above-described embodiment.
  • the touch panel 12a has a configuration for photographing from the back surface 12a2 side.
  • the third embodiment is not limited to such a configuration.
  • the touch operation surface 12 a 1 of the touch panel 12 a is attached to the center console portion C of the vehicle so as to photograph from an obliquely upper side, and an approaching object approaching the touch operation surface 12 a 1 is displayed on the touch operation surface 12 a 1. You may comprise so that it may image
  • the process of horizontally inverting the image can be omitted.
  • the camera 12b serving as a hand image capturing unit or means may be used as the camera 20 that captures the peripheral area including the touch operation surface 12a1 of the operation panel 12a.
  • the display mode switching control is executed only on a predetermined operation screen for the display mode switching control as described above.
  • the display permission mode or the display prohibition mode may be fixedly set.
  • the display device 15 can switch a plurality of operation screens 200 that accept input by a pressing operation on the touch operation surface 12 a 1 on the display screen (operation screen display unit or means). For example, a menu selection screen 2003 as shown in FIG. 22, a car air conditioner air volume setting screen 2004 as shown in FIG. 23, a car audio volume setting screen 2005 as shown in FIG.
  • the map display screen 2002 (FIG. 7C), the character input screen 2001 (FIG. 27C), and the like can be switched and displayed according to various inputs.
  • display mode execution availability information that enables specification of the operation screen that is the execution target of the display mode switching control is stored in a predetermined storage area of the control circuit 18 (display mode execution availability information storage unit or The control circuit 18 refers to the display mode execution availability information when performing the position indication image display process, and based on this, the operation screen displayed by the display device 15 is Only when it is specified that the display mode switching control is to be executed, the display mode switching control is executed on the specified operation screen.
  • display mode execution availability information storage unit or The control circuit 18 refers to the display mode execution availability information when performing the position indication image display process, and based on this, the operation screen displayed by the display device 15 is Only when it is specified that the display mode switching control is to be executed, the display mode switching control is executed on the specified operation screen.
  • control circuit 18 determines whether an image of the operator's hand has been acquired. This is the same as the processing of S1 in FIG. When the image of the operator's hand is acquired, the process proceeds to S62, and when the image of the operator's hand is not acquired, this process is terminated.
  • the control circuit 18 specifies the type of the operation screen 200 currently being displayed, and specifies whether or not it is a predetermined execution target of display mode switching control.
  • the pressing operation on the touch operation surface 12a1 of the operation screen exceeds a predetermined operation burden level.
  • a complex operation screen including an operation is determined as an execution target of the display mode switching control, and a simple operation screen including only an operation in which a pressing operation on the touch operation surface 12a1 does not exceed the operation load level is a fixed setting target of the display permission mode. It has been established.
  • the control circuit 18 refers to the display mode execution enable / disable information to specify whether or not the currently displayed operation screen 200 is an execution target of the display mode switching control.
  • the display mode execution availability information can be stored as information obtained by classifying screen types as follows. That is, as a complex operation screen, one or more operation input images displayed on the display device 15 (or all pressing operation areas defined on the touch operation surface 12a1 corresponding to the operation input image (operation icon) 200I). An operation screen in which the ratio SI / SA occupying the entire screen (or the entire area of the touch operation surface 12a1) exceeds a predetermined ratio S0 can be determined, and an operation screen not exceeding can be determined as a simple operation screen. (Example 1 in FIG. 73).
  • the number KI of one or more operation input images (or pressing operation areas determined on the touch operation surface 12a1 corresponding to the operation input images) 200I displayed on the display device 15 as the complex operation screen is determined in advance.
  • An operation screen exceeding the given number K0 can be determined, and an operation screen not exceeding can be determined as a simple operation screen (example 2 in FIG. 73).
  • An operation screen whose interval (LI) is narrower than a predetermined interval L0 can be determined, and an operation screen that does not exceed the predetermined interval L0 can be determined as a simple operation screen (example 3 in FIG. 73).
  • screens 2001, 2003, 3004, and 2005 as shown in FIGS. 22 to 24 and FIG. 7C are simplified operation screens, and a character input screen 2002 as shown in FIG. Name input screen) is defined as a complex operation screen.
  • the control circuit 18 refers to the display mode execution availability information that can specify the complex operation screen and the simple operation screen, and the currently displayed operation screen 200 is the display mode switching control execution target (here, If it is determined whether or not it is a complicated operation screen, the process proceeds to S63. If it is determined in S63 that the currently displayed operation screen 200 is an execution target of display mode switching control, the process proceeds to S69. If it is determined that the operation screen 200 is not an execution target of display mode switching control, the process proceeds to S66. .
  • S64 it is specified whether or not the operator's hand (operator) is in a predetermined finger state (in this case, a finger state for operation intention display) (processing similar to S2 in FIG. 9).
  • a predetermined finger state in this case, a finger state for operation intention display
  • subsequent S65 if it is determined that the current finger state is the predetermined predetermined finger state, the process proceeds to S66, and if it is determined not to be the predetermined predetermined finger state, the process proceeds to S69.
  • the display permission mode in which the display of the position instruction image is permitted is set as the display mode.
  • the set display permission mode is stored in a predetermined storage area (display mode storage unit) of the storage unit 18d of the control circuit 18.
  • the control circuit 18 specifies the positional relationship between the display screen 200 of the display device 15 and the photographed hand (similar to S5 in FIG. 9).
  • the position instruction image 200H is displayed on the main image 200B displayed on the display screen 200 of the display device 15 (position instruction image display unit or means: same as S6 in FIG. 9).
  • the process proceeds to S69.
  • the display mode is set to a display prohibition mode in which the display of the position indication image 200H is prohibited, and this is stored in a predetermined storage area (display mode storage unit) of the storage unit 18d of the control circuit 18.
  • the display of the position instruction image 200H performed in S67 and S68 is not executed, and the position instruction image 200H is not displayed on the display screen 200 of the display device 15 as shown in FIG. 5C, for example. .
  • This process is ended by the end of S68 and S69, but this process is repeatedly performed at a predetermined cycle after the end.
  • the display mode switching control is performed on the complex operation screen, and the display permission mode is fixedly set on the simple operation screen. May be fixedly set, and the display mode switching control may be performed on the simple operation screen.
  • the position indicating image in the first embodiment is only for a predetermined display permission period. While the highlighted display of 200H is performed, in other cases, the position instruction image 200H is not displayed, and the finger state for displaying the operation intention is determined as the predetermined finger state.
  • another characteristic finger state may be used, or a simple operation finger state (a finger state in which an operation can be easily performed (a state in which a specific number or type of fingers are extended): 75 example 2) may be sufficient.
  • a vehicle operation input device is provided as follows.
  • a display unit having a display screen for operating a device provided in the vehicle, and a remote having a remote operation surface provided at a position different from the display screen for remotely performing operation input on the display screen
  • An operation unit an input receiving unit that receives an input corresponding to the pressing operation position based on a pressing operation on the remote operation surface, a hand image capturing unit that captures an image of a hand facing the remote operation surface, and a position by the hand
  • a vehicle operation input device comprising a position indication image display unit for displaying a position indication image generated based on an image of a photographed hand at a specified position on a display screen, on a remote operation surface Simple operation of the finger state specifying unit for simple operation for specifying whether or not the finger state of the opposing hand is a predetermined simple operation finger state, and the display mode set for the position indication image display unit Special finger condition Display mode switching to set the display permission mode to permit the display of the position indication image when it is set, and to
  • the operation display (the operation state on the remote operation unit is displayed on the operation screen of the display device).
  • a vehicle speed detection unit that detects the vehicle speed of the vehicle can be provided.
  • the display mode setting unit executes the display mode switching control when the vehicle is in a vehicle traveling state exceeding a predetermined vehicle speed level, and when the vehicle is not in the vehicle traveling state, the display mode is permitted. It can be configured to set the mode. According to this configuration, for example, when the vehicle is stopped, operation input by a finger state having a high degree of difficulty is permitted as an operation for the remote operation unit, and thus it is possible to perform operation input in each easy form.
  • the operation display is restricted, so the operation with a specific finger state that is simpler and easier to operate is forced as an operation on the remote control unit, and in particular, an erroneous operation by the driver occurs. It becomes difficult. Further, the correspondence between the displayed finger and the actually used finger is not lost.
  • an operator specifying unit for specifying whether or not the operator on the remote operation surface is a driver can be provided.
  • the display mode setting unit executes display mode switching control, and the driver is not specified as the operator of the remote operation surface.
  • the display permission mode can be set as the display mode. According to this configuration, for example, if the operator on the remote operation surface is a person other than the driver such as a passenger on the passenger seat, operation input with a highly difficult finger state is permitted as an operation on the remote operation unit. It is possible to input operations in a form that is easy to do.
  • the operation display is restricted, so that the operation with a specific finger state that is simpler and easier to operate as the operation on the remote operation unit is forced, and by the driver Misoperations are less likely to occur.
  • the correspondence between the displayed finger and the actually used finger is not lost.
  • the input reception section accepts input
  • the display prohibit mode when the display prohibit mode is set, the input reception section prohibits input reception.
  • An operation input reception control unit that executes operation input reception control is provided.
  • the operation input device if the operation display is not performed, the position instruction operation from the remote control unit becomes extremely difficult. Therefore, as in the above configuration, the input is accepted only in the display permission mode in which the position instruction image is displayed. By allowing this, it is possible to reliably prevent erroneous operation of the remote control unit. In other words, the position indication image can be displayed only when the input to the remote control unit can be accepted, so that it can be said that the useless display of the position indication image is reduced and power saving is effective.
  • the input accepting unit is allowed to accept the input
  • the finger state for simple operation is not specified
  • An operation input reception control unit that performs operation input reception control that prohibits input reception by the input reception unit can be provided. According to this configuration, since the acceptance of the input to the remote operation unit is permitted only when the simple operation finger state is specified regardless of the display mode, the erroneous operation to the remote operation unit is surely prevented. be able to.
  • the simple operation finger state identification unit can be configured to identify the simple operation finger state based on the hand image captured by the hand image capturing unit.
  • the simple operation finger state identification unit includes a finger shape recognition unit that recognizes the finger shape of the hand facing the remote operation surface based on the hand image captured by the hand image capturing unit,
  • the case where the recognized finger shape is a predetermined finger shape for simple operation can be configured to be specified as the finger state for simple operation.
  • the hand image photographed by the hand image photographing unit can be used not only for the indication position display but also for specifying the finger state for simple operation. In other words, since the photographing unit is also used as a configuration, a useless additional configuration can be eliminated, and cost reduction can be realized.
  • the finger state identification unit for simple operation specifies the number of fingers that are substantially extended along the remote operation surface when the finger shape recognition unit recognizes a finger extending substantially along the remote operation surface.
  • An identification unit is provided, and the case where the number of fingers in a state extending substantially along the identified remote operation surface is a predetermined number for simple operation can be identified as the simple operation finger state. Counting the fingers in the stretched state can be easily performed by image analysis, and there are few errors in counting. Further, since the finger extended state is a finger state that can be used for the operation as it is, the operator can start the operation in the simple operation finger state, which is excellent in operability.
  • the simple operation finger state specifying unit includes an operation number specifying unit that specifies the number of inputs by pressing operations received at different positions on the remote operation surface received by the input receiving unit during a predetermined period, A case where the number of inputs specified within the period is a predetermined number for simple operation can be specified as a finger state for simple operation. According to this configuration, the finger state for simple operation can be easily identified from a predetermined number of touch operations by the user.
  • the number for the above simple operation can be one.
  • the operation difficulty becomes lower as the number of fingers used for position instruction is smaller. Therefore, the one-finger state with the smallest number of fingers is the simplest and easy-to-understand operation finger state.
  • the one-finger state has a very simple hand shape, the process of specifying the one-finger state can be facilitated.
  • the number for the simple operation can be 4, more preferably 3, and more preferably 2. Since the two-finger state is also a relatively simple hand shape, the process for specifying the finger state for simple operation is easy. Three or four are relatively simple finger states. In addition, these finger states are not hand-shaped that a user accidentally forms, so that erroneous operation can be reliably prevented.
  • the simple operation finger state specifying unit specifies a finger type that is in a state extending substantially along the remote operation surface.
  • the simple operation finger state It can also be set as a specific configuration. Since the hand shape with only a specific finger extended is not a hand shape that is accidentally formed by the user, it is possible to reliably prevent erroneous operation. Further, since the finger extended state is a finger state that can be used for the operation as it is, the operator can start the operation in the simple operation finger state, which is excellent in operability.
  • the finger type for simple operation can be the index finger only. Since the single-finger state of the index finger has a very simple hand shape, the process of specifying the single-finger state can be facilitated. Further, since the finger is often used for the operation, it is convenient to start the operation as it is.
  • the finger type for simple operation can be the middle finger only. Since the single finger state of the middle finger has a very simple hand shape, the process of specifying the single finger state can be facilitated. In addition, since it has the feature of the longest finger, it is easy to recognize the type. Further, since the finger is also used for the operation, it is convenient to start the operation as it is.
  • the finger type for the simple operation can be only the index finger and the middle finger. Since the two-finger state of the index finger and the middle finger has a very simple hand shape, the process of specifying the two-finger state can be facilitated. In addition, since the middle finger, which is the longest finger, is included, finger type recognition is easy. Also, since both fingers are used for operation, it is convenient to start the operation as it is.
  • the position instruction image display unit generates a real finger image that allows at least the contour of the finger of the hand to be specified based on the hand image captured by the hand image capturing unit, and the generated actual finger image is the position instruction. It can be displayed as an image. Since the position of the hand can be grasped from the contour of the hand on the screen, the position can be easily recognized and the operability becomes easier.
  • the position instruction image display unit displays, as a position instruction image, either a pseudo finger image in which at least the finger extending direction and the fingertip position can be specified, or a fingertip position image in which at least the fingertip position of the finger can be specified. And can.
  • the processing load can be reduced by using an image simplified to such an extent that the finger pointing position can be understood as the position pointing image.
  • the display mode setting unit executes the display mode switching control when the vehicle is in a vehicle running state exceeding a predetermined vehicle speed level (vehicle speed threshold), and sets the display permission mode as the display mode when the vehicle is not in the vehicle running state.
  • a predetermined vehicle speed level can be set to 0 km / h.
  • the display mode setting unit executes display mode switching control when the vehicle is in a vehicle running state exceeding a predetermined vehicle speed level (vehicle speed threshold), and when the vehicle is not in the vehicle running state, the display permission mode is set as the display mode.
  • a predetermined vehicle speed level is set within a vehicle speed range that is faster than 0 km / h and slower than 5 km / h (deceleration state), or a vehicle speed that is greater than or equal to 5 km / h and less than 10 km / h It can be determined within a range (slowing state).
  • a predetermined vehicle speed level can be set within a vehicle speed range of 10 km / h or more and less than 30 km / h (low speed running state), or within a vehicle speed range of 30 km / h or more and less than 60 km / h (medium-side running). State) or within a vehicle speed range of 60 km / h or higher (high-speed running state).
  • an appropriate vehicle speed threshold value may be set according to the operation difficulty level (operation burden level) of each operation screen that is switched and displayed on the screen.
  • An operation screen display unit that displays a plurality of operation screens in which input by pressing operation on the remote operation surface is received by the input receiving unit on the display screen, and a target for execution of display mode switching control among the plurality of operation screens
  • a display mode execution enable / disable information storage unit that stores in advance display mode execution enable / disable information that enables specification of an operation screen.
  • the display mode setting unit specifies whether the operation screen displayed by the operation screen display unit is an execution target of the display mode switching control based on the display mode execution availability information, and performs display mode switching control.
  • the display mode switching control can be executed on the specified operation screen only when it is specified as the execution target.
  • the display mode switching control is executed only when a predetermined operation screen is displayed, the display mode switching control is performed, for example, on an operation screen that is easy to operate even while traveling.
  • the display permission mode can be fixedly set without setting, and on the contrary, the display prohibit mode can be fixedly set without setting the display mode switching control on the operation screen that is difficult to operate while driving.
  • Useless display mode switching control can be omitted.
  • the display mode execution enable / disable information is obtained by switching the display mode to a complicated operation screen including an operation in which a pressing operation on a remote operation surface whose input is received by the input receiving unit exceeds a predetermined operation burden level. It is possible to determine a control operation target and a simple operation screen that includes only operations that do not exceed a predetermined operation burden level as a display permission mode fixed setting target. According to this configuration, since the display permission mode is fixedly set on the simple operation screen, the display mode switching control can be omitted.
  • the simple operation screen can include at least one of a menu selection screen, a volume adjustment screen, and an air volume adjustment screen. Since the menu screen has a relatively small number of operation input images (operation icons) displayed on the screen, and the distance between adjacent operation input images has a certain width, the operation is relatively easy. Volume adjustment screens such as volume adjustment and air volume adjustment are also displayed on a relatively simple operation screen. Therefore, these operation screens are suitable to be determined as simple operation screens.
  • the complex operation screen can include at least a character input screen. For character input of 50 sounds, the number of operation input images displayed on the screen is large, and as a result, the distance between adjacent operation input images is often short, so that an intended operation input image may be operated. difficult. Therefore, such an operation screen is suitable to be determined as a complex operation screen.
  • the vehicle operation input device is provided at a position different from the display screen and a display unit having a display screen for operating a device included in the vehicle, and operates on the display screen.
  • a remote operation unit having a remote operation surface for performing input remotely, an input reception unit for receiving an input corresponding to the pressing operation position based on a pressing operation on the remote operation surface, and a hand facing the remote operation surface
  • a position image display section for displaying a position instruction image generated based on the image of the photographed hand at a position on the display screen position-designated by the hand;
  • An operation intention display finger state specifying unit for specifying whether or not the finger state of the hand facing the remote operation surface is a predetermined operation intention display finger state; , Position indication image
  • the display mode set on the display unit is set to a display prohibition mode in which the display of the position instruction image is prohibited, and the position instruction is performed only during a display permission period that is determined in advance as the operation intention display finger state is specified.
  • a display mode setting section for switching to a display permission
  • the display mode setting unit determines a period from when switching to the display permission mode until a predetermined prohibition mode return time elapses as the display permission period, and as the prohibition mode return time elapses, the display prohibition mode It can be configured to return to According to this configuration, the return from the display permission mode to the display prohibition mode can be performed with a simple process.
  • the display mode setting unit determines the period until the operation intention display finger state becomes unspecified as the display permission period.
  • the display permission mode is set.
  • the display prohibit mode may be set. According to this configuration, it is possible to easily switch between the display permission mode and the display prohibition mode by determining whether or not the operation intention display finger state is specified.
  • the display permission mode when the display permission mode is set, the input reception by the input reception unit is permitted, and when the display prohibition mode is set, the input reception by the input reception unit is prohibited.
  • a control unit may also be provided.
  • the prompter type operation input device if the operation state at the remote operation unit is not displayed by the position instruction image, the position instruction operation becomes extremely difficult, and thus the position instruction image is displayed as in the above configuration.
  • the position indication image can be displayed only when the input to the remote control unit can be accepted, so that it can be said that the useless display of the position indication image is reduced and power saving is effective.
  • the input reception unit When the operation intention display finger state is specified, the input reception unit is allowed to accept the input. When the operation intention display finger state is not specified, the input reception unit receives the input. The operation input reception control unit prohibiting the operation can be provided. According to this configuration, since the acceptance of the input to the remote operation unit is permitted only when the operation intention display finger state is specified regardless of the display mode, an erroneous operation can be reliably prevented.
  • the operation intention display finger state identification unit includes a finger shape recognition unit that recognizes the finger shape of the hand facing the remote operation surface based on the hand image captured by the hand image capturing unit. Can be configured to specify the finger shape for displaying the operation intention as a predetermined finger shape for displaying the operation intention. According to this configuration, the hand image photographed by the hand image photographing unit can be used not only for the indication position display but also for specifying the finger state for displaying the operation intention. In other words, since the photographing unit is also used as a configuration, a useless additional configuration can be eliminated, and cost reduction can be realized.
  • the operation intention display finger state specifying unit specifies the number of fingers that are substantially extended along the remote operation surface.
  • An operation intention display finger state is provided when the number of fingers in a state extending substantially along the specified remote operation surface is a predetermined number for operation intention display, provided with a number specifying unit And can. Counting the fingers in the stretched state can be easily performed by image analysis, and there are few errors in counting.
  • the state where the finger is extended is a finger state that can be used for the operation as it is, the operator can start the operation while maintaining the finger state for displaying the operation intention, and thus the operability is excellent.
  • the operation intention display finger state specifying unit includes an operation number specifying unit that specifies the number of inputs made by pressing operations performed at different positions on the remote operation surface received by the input receiving unit during a predetermined period.
  • the case where the number of inputs specified within the period is a predetermined number for displaying the operation intention can be specified as the finger state for displaying the operation intention. According to this configuration, it is possible to easily specify the operation intention display finger state from a predetermined number of touch operations by the user.
  • the number for the above-mentioned operation intention display can be one. Since the one-finger state has a very simple hand shape, the process for specifying the one-finger state can be facilitated. Further, when it is configured to allow input to the remote operation unit only when the finger state for operation intention display is specified, that is, when the finger state is not the finger state for operation intention display, to the remote operation unit In the case where the input cannot be performed, it is desirable to determine the simplest and easy-to-understand finger state as the operation state display finger state. Therefore, also in this case, it is preferable to determine the one-finger state with the smallest number of fingers as the operation intention display finger state.
  • the number for displaying the operation intention can be four, more preferably three, and even more preferably two. Since the two-finger state is also a relatively simple hand shape, the processing for specifying the operation intention display finger state is easy. Three or four are relatively simple finger states. In addition, these finger states are not hand-shaped that a user accidentally forms, so that erroneous operation can be reliably prevented.
  • An operation intention display finger state specifying unit specifies a type of a finger that extends substantially along the remote operation surface when the finger shape recognition unit recognizes a finger extending substantially along the remote operation surface.
  • a finger type specifying unit is provided, and when the specified finger type that extends substantially along the specified remote operation surface is only a predetermined finger type for displaying an operation intention, the operation intention display It can also be set as the structure specified as a finger state. Since the hand shape with only a specific finger extended is not a hand shape that is accidentally formed by the user, it is possible to reliably prevent erroneous operation. In addition, since the state where the finger is extended is a finger state that can be used for the operation as it is, the operator can start the operation while maintaining the finger state for displaying the operation intention, and thus the operability is excellent.
  • the finger type for displaying the operation intention can be the index finger only. Since the single-finger state of the index finger has a very simple hand shape, the process of specifying the single-finger state can be facilitated. Further, since the finger is often used for the operation, it is convenient to start the operation as it is.
  • the finger type for displaying the operation intention can be the middle finger only. Since the single finger state of the middle finger has a very simple hand shape, the process of specifying the single finger state can be facilitated. In addition, since it has the feature of the longest finger, it is easy to recognize the type. Further, since the finger is also used for the operation, it is convenient to start the operation as it is.
  • the above-mentioned finger type for displaying the intention of operation can be only the index finger and the middle finger. Since the two-finger state of the index finger and the middle finger has a very simple hand shape, the process of specifying the two-finger state can be facilitated. In addition, since the middle finger, which is the longest finger, is included, finger type recognition is easy. Also, since both fingers are used for operation, it is convenient to start the operation as it is.
  • the position instruction image display unit generates a real finger image that allows at least the contour of the finger of the hand to be specified based on the hand image captured by the hand image capturing unit, and the generated actual finger image is the position instruction. It can be displayed as an image. Since the position of the hand can be grasped from the contour of the hand on the screen, the position can be easily recognized and the operability becomes easier.
  • the position instruction image display unit displays, as a position instruction image, either a pseudo finger image in which at least the finger extending direction and the fingertip position can be specified, or a fingertip position image in which at least the fingertip position of the finger can be specified. And can.
  • the processing load can be reduced by using an image simplified to such an extent that the finger pointing position can be understood as the position pointing image.
  • a display method includes: a display device having a display screen; and a remote control unit having a remote operation surface for remotely operating the display screen.
  • a display method for displaying a position indication image in a form superimposed or superimposed on an image forming a background at a screen position on a display screen corresponding to the finger position as a finger is opposed to the front side of an operation unit.
  • a finger specifying step for specifying a finger in the opposite hand on the front side of the remote control unit, and an operation target for specifying an operation target finger that is used or estimated to be used from the specified finger to the remote control unit A finger specifying step, and a display step for displaying a position indicating image indicating the specified position of the specified finger in a form that is synthesized or superimposed on a background image on the display screen.
  • the A position indication image emphasis display step for performing a position indication image corresponding to the selected operation target finger in an emphasis display in which the position indication image corresponding to a finger different from the position indication finger is emphasized relatively. .
  • the position indication image corresponding to the position of the operation target finger according to a predetermined method and a predetermined rule Is specified, and the position indicating image is emphasized relative to other fingers.
  • the user can easily recognize from the screen which finger should be used for the operation.
  • the correspondence between the displayed finger and the actual finger can be easily recognized if the user knows how to determine the operation target finger. Accordingly, it is possible to display a position indication image suitable for remote position indication.
  • the finger specifying step is a fingertip specifying step for specifying a fingertip from a hand facing the remote operation surface, and may be a step for specifying the finger in a form for specifying the fingertip.
  • the position instruction image highlighting step is a display step based on the premise that the position instruction image is displayed at a position corresponding to the specified fingertip in a form synthesized or superimposed on the background image on the display screen. As described above, the highlighting can be performed.
  • the fingertip refers to a predetermined area on the tip side of the finger (for example, up to the first indirect, etc.) or a specific position included therein (for example, the center of gravity position of the area from the tip of the finger to the first indirect, etc.). Shall be defined as
  • the operation target finger designation step can designate one finger as the operation target finger.
  • the number is one, it is easy to clearly recognize the operation target finger, and it is particularly suitable for application to a remote operation unit in which a contact operation including a push operation is performed.
  • each processing can be facilitated because the one-finger state is a very simple hand shape.
  • the operation target finger designation step may designate two or three fingers as the operation target fingers. If two or three are used, it is suitable for application to a remote control unit that performs pull operation, rotation operation, and the like.
  • the position instruction image highlighting step the position instruction image corresponding to a finger different from the operation target finger can be prevented from being hidden. Thereby, it becomes possible to grasp the correspondence between the displayed operation target finger and the actual operation target finger while referring to the display states of the other fingers.
  • a designated finger information obtaining step for obtaining finger shape information related to the finger shape identified in the finger identifying step as designated finger information.
  • the above-described operation target finger designating step is based on the obtained finger shape information, and among the fingers identified by the finger identifying step, the finger shape most suitable for a predetermined selection condition related to the shape of the finger It can be a step of preferentially specifying a finger having information as an operation target finger. When only one operation target finger is specified, the finger most suitable for the selection condition can be designated as the operation target finger.
  • this configuration for example, it is possible to specify or estimate a predetermined type of finger from information related to the shape of the finger and designate the finger as an operation target finger. Since each finger has a different shape for each type, it is possible to identify or estimate the finger from these, and therefore it is possible to identify or estimate an index finger or middle finger that is easy to use for position indication.
  • the designated finger information acquisition step may be a step of acquiring finger length information reflecting the length relationship between the fingers specified in the finger specification step in the remote operation surface direction as finger shape information.
  • the operation target finger designating step includes a finger suitable for a predetermined selection condition related to the finger length information among the fingers identified by the finger identifying step based on the obtained finger length information.
  • a finger of a predetermined type can be specified or estimated from the comparison of the lengths, and the finger can be designated as the operation target finger.
  • a middle finger that is easy to use for position indication can be identified as the finger that is identified (or estimated) as being the longest.
  • the operating hand is the left or right hand, it can be specified as one finger adjacent to the finger that is specified or estimated to be the longest.
  • the longest appearing finger is generally highly likely to be used for the operation, the opposite halfway finger that is not intended to be used for the operation is surely excluded. It becomes possible to do.
  • the designated finger information acquisition step acquires finger width information reflecting the relationship between the widths of the fingers specified in the finger specification step in the remote operation surface direction as finger shape information, and may be a step.
  • the operation target finger designating step includes a finger suitable for a predetermined selection condition related to the finger width information among the fingers identified by the finger identifying step based on the obtained finger width information. Can be designated as an operation target finger with priority. According to this configuration, since the relationship between the widths (thicknesses) of the fingers is clarified, it is possible to specify or estimate a predetermined type of finger from the comparison of the widths, and specify the finger as an operation target finger. it can.
  • the positional relationship information related to the positional relationship between the fingers specified in the finger specifying step in the remote operation surface direction is specified.
  • a designated finger information acquisition step to be acquired as finger information can be provided, and the operation target finger specification step includes the positional relationship among the fingers specified by the finger specifying step based on the acquired positional relationship information. It is possible to preferentially designate the finger having the positional relationship information most suitable for the predetermined selection condition relating to as the operation target finger. When only one operation target finger is specified, the finger most suitable for the selection condition can be designated as the operation target finger.
  • the finger can be specified using this. For example, if the index finger is the easiest to use for position indication, the thumb is removed from the finger shape etc., and if the hand to be operated is the left hand, it can be specified as the rightmost finger. Can be identified as the leftmost finger. If the index finger can be specified, the adjacent finger can be specified as the middle finger. Further, in this configuration, since the operation target finger is selected according to the positional relationship of the fingers, it is easy for the user to understand which finger is selected.
  • the fingertip specified in the fingertip specifying step is projected in a direction facing the remote control unit, and one axis is set at a predetermined position on the projection plane.
  • a one-dimensional coordinate system specify the coordinate value of the projected fingertip in the coordinate system, and acquire the axis coordinate information reflecting the coordinate value as positional relationship information, in this case,
  • the operation target finger designation step gives priority to a finger suitable for a predetermined selection condition related to the axis coordinate information among the fingers identified by the finger identification step based on the acquired axis coordinate information.
  • the step can be designated as an operation target finger. According to this configuration, the operation target finger can be easily specified only by the coordinates at which each fingertip is positioned in the position-dimensional coordinate system.
  • the axis line in this case can be defined as, for example, a straight line from the region where the operation target finger is most likely to be located to the region where it is difficult to locate, or vice versa, on the remote operation surface.
  • the fingertip specified in the fingertip specifying step is projected in a direction facing the remote control unit, and the projected fingertip is projected with a reference area set in a predetermined area on the projection plane.
  • the operation target finger designating step is based on the obtained distance information by the finger specifying step.
  • the step may be a step of preferentially designating a finger suitable for a predetermined selection condition related to the distance information as an operation target finger.
  • the operation target finger can be easily identified only by calculating the distance from the reference region.
  • the reference area can be determined, for example, as an area where the operation target finger is most likely to be located on the remote operation surface, or an opposite area.
  • a designated finger information obtaining step for obtaining, as designated finger information, approaching distance information reflecting the approaching distance relationship between the fingers identified by the finger identifying step to the remote operation surface.
  • the operation target finger designation step may be a step of preferentially designating a finger suitable for a predetermined selection condition regarding the approach distance as the operation target finger. According to this configuration, for example, it becomes possible to specify the operation target finger from the positional relationship of the specified plurality of fingers in the approaching direction to the remote operation surface. Since the operation on the remote operation surface is accompanied by contact with the fingertip of the hand, the finger whose fingertip is closest to the remote operation surface is a finger having a higher possibility of position designation.
  • the finger closer to the remote operation surface among the fingers identified in the finger identification step is preferentially designated as the operation target finger based on the acquired approach distance information. If it is set as a step, the finger most suitable for a position instruction
  • the designated finger information acquisition step may be a step of acquiring the brightness of the hand image taken by the photographing unit as the approach distance information.
  • the operation target finger designating step can be a step of preferentially designating a finger suitable for a predetermined selection condition regarding the luminance as the operation target finger.
  • a photographing step is performed in which a hand approaching the remote operation surface is irradiated with light from the light source and the reflected light is captured to photograph the hand from the back side of the remote operation surface by the photographing unit. Is required. Since the imaging unit captures the reflected light of the hand operating the remote operation surface, the fingertip closest to the remote operation surface appears brighter, so it is possible to easily obtain approach distance information using luminance.
  • the operation target finger designation step is performed by the fingertip identification unit among the fingers identified in the finger identification step.
  • the specified fingertip with the highest luminance can be a step of giving priority to the operation target finger.
  • all the above-mentioned designated finger information acquisition steps can be steps for acquiring designated finger information based on the photographed image obtained by the photographing step.
  • the finger designation information can be easily obtained using information obtained from the photographed image.
  • a photographing step the hand approaching the remote operation surface is irradiated with light from the light source and the reflected light is captured so that the hand is taken from the back side of the remote operation surface. Therefore, a step for photographing is required.
  • the finger specifying step can be a step of specifying a finger from the captured hand image.
  • the fingertip specifying step can be a step of specifying the fingertip from the captured hand image.
  • the display step of displaying the position instruction image may be a step of displaying a position instruction image generated based on the photographed hand image.
  • the remote operation unit can be configured as a touch operation unit that detects the presence or absence of a touch operation on the touch operation surface and the touch position, such as a touch panel.
  • the operation target finger designation step may be a step of designating, as the operation target finger, a finger that has performed a touch operation on the touch operation surface among the fingers identified in the finger identification step.
  • the finger used for the position instruction is specified as the operation target finger. Since a general operator tends to use the operation target finger fixedly, the operation target finger can be accurately determined and displayed in an emphasized manner.
  • by highlighting the finger that has been touched it becomes possible to clearly recognize the correspondence between a large number of fingers displayed on the screen and the actual finger by using this touch operation.
  • the operation target finger designation step is a step of designating the finger that has performed the touch operation as the operation target finger when the touch operation is a touch operation that exceeds a predetermined pressing operation time. That's fine. Further, the operation target finger designation step may be a step of designating the finger that has performed the touch operation as the operation target finger when the first touch operation is a touch operation exceeding a predetermined pressing operation force. According to these configurations, an operation with a load of a certain level or more is not effective as a touch operation, so that an erroneous operation can be prevented.
  • the position indicating image highlighting step can be a step of performing highlighting in such a manner that the highlight level is changed stepwise over a predetermined time. That is, in the highlight display, the display is such that one or more transitional states different from both the state before the start of the highlight and the state after the completion of the highlight are passed between the start of the highlight display and the completion of the highlight display. be able to. According to this configuration, since the highlight change process is displayed, it is easy to recognize the correspondence between the displayed finger (especially the operation target finger) and the actual finger by seeing the process.
  • a position indication image corresponding to the operation target finger and a position indication image corresponding to a finger different from the position indication finger are changed in such a manner that the relative enhancement level of the position pointing image corresponding to the operation target finger increases step by step as time elapses from the start of the highlight display. It can also be set as the step which performs the display to perform. In this case, the enhancement level of the position indicating image corresponding to the operation target finger is gradually (relatively) increased. Immediately after the completion of the emphasis state, immediately after that, it is felt confusing to recognize which finger the operation target that is highlighted actually hits. You can eliminate confusion.
  • the position indication image highlighting step is performed after the predetermined time has elapsed after the operation target finger is specified by the operation target finger specifying step. It is good to set it as the step which starts a display.
  • the position target image emphasis display step is designated by the operation target finger designation step. Accordingly, relative highlighting may be started.
  • the finger specifying step can specify the finger of the hand facing the remote operation surface based on the photographed hand image.
  • the position indicating image highlighting step generates a real finger image that enables at least the contour of the finger of the identified hand to be identified based on the captured hand image, and the generated real finger image Can be displayed as a position indicating image. Since the contour of the actual hand is displayed on the operation screen, the position of the hand can be grasped from the contour. Since it is an actual hand contour, the position can be easily recognized, and the operation becomes easier.
  • the position instruction image highlighting step either a pseudo finger image in which at least the finger extending direction can be specified or a fingertip position image in which at least the fingertip position of the finger can be specified is displayed as the position instruction image. It can also be configured as follows.
  • the processing load can be reduced by using an image simplified to such an extent that the finger pointing position can be understood as the position pointing image.
  • the highlighting can be performed on the contour line of the position indicating image.
  • the contour line of the position indicating image By emphasizing the contour line, the designated position of a specific finger becomes easier to understand.
  • the highlighting may be performed by changing the display color of the position indication image, changing the shape of the position indication image, changing the transparency of the position indication image, or blinking the position indication image. Good. By emphasizing with these simple image processes, the processing load can be reduced. Further, it is possible to sufficiently emphasize a specific finger even with these highlighted displays.
  • the finger that is used or estimated to be used for the operation of the remote operation unit is designated as the operation target finger, and the position indication image displayed corresponding to the designated operation target finger is associated with the other finger.
  • the position indication image displayed in this manner is emphasized and displayed relatively. In this case, it is better from the viewpoint of operability that a constant finger is always designated as the operation target finger. That is, it is desirable that the same finger is continuously designated as the operation target finger.
  • the display method includes an operation target finger tracking step for tracking the movement of the finger specified as the operation target finger after the operation target finger is specified in the operation target finger specifying step.
  • the target finger designation step the same finger as the finger designated as the operation target finger may be continuously designated as the operation target finger based on the tracking result in the operation target finger tracking step. According to this configuration, since the movement of the finger designated as the operation target finger is tracked, the same finger can always be designated as the operation target finger. Compared to the case where the operation target finger changes as the finger moves, the operation is easier.
  • the finger specifying step can sequentially specify fingers of a hand that exist within a finger-identifiable range predetermined on the front side of the remote operation unit at predetermined time intervals. For example, when the finger specifying step is to specify a finger from an image of a hand that is shot with a moving image by the shooting unit, for each moving image frame that is sequentially acquired by shooting at a predetermined time interval, from the hand image reflected in the frame The finger will be specified. In such a case, position information for each finger sequentially specified by the finger specifying step is acquired, and the position information is sequentially specified by the finger specifying step by storing the position information as tracking information in a predetermined tracking information storage unit.
  • the operation target finger tracking step is based on the tracking information of the operation target finger among the tracking information for each finger stored in the finger tracking step.
  • the movement of the finger specified as the operation target finger can be tracked. According to this configuration, since the movement of all the fingers specified by the finger specifying step is tracked, it is possible to cope with any finger designated as the operation target finger.
  • the movement of the operation target finger occurs in conjunction with other fingers, if tracking information of not only the operation target finger but also other fingers is collected, this can be used for tracking the operation target finger. More accurate tracking is also possible.
  • each tracking target storing the tracking information for each finger specifying step is set to the corresponding tracking information, with the next position estimated to be positioned in the next finger specifying step. It is possible to have a next position estimation step that is calculated on the basis of this.
  • the finger tracking step includes the next position of each finger being tracked calculated in the next position estimating step and the actual position of each finger actually specified in the next finger specifying step.
  • the positional relationship specifies a pair that satisfies a predetermined standard condition, and the finger being tracked and the finger actually specified in the finger specifying step as one of the pair are mutually the same finger The movement tracking of the finger can be continued assuming that the finger being determined has moved to the position of the actually specified finger determined to be the same.
  • the position information of the actually identified finger that is recognized as the same is stored in the tracking information storage unit in the form of being stored in the tracking information storage unit as the latest position information of the finger being tracked.
  • the movement tracking of the finger can be continued by updating the stored tracking information.
  • the tracking information is stored, so that the next movement destination of the finger being tracked can be estimated from the past tracking information.
  • the positional relationship between the estimated position and the position where the finger is actually specified is compared. If both are close to each other, for example, a predetermined level or more, the finger being tracked moves as estimated. It can be judged that In other words, the movement destination being tracked can be estimated with high accuracy by using past tracking information, and the movement tracking of the finger is performed using the estimation result, so that high tracking accuracy can be obtained. .
  • the tracking information can include each position information of the corresponding finger being tracked identified by the finger identifying step a plurality of times.
  • the next position estimation step can calculate the next position of the corresponding finger being tracked based on the position information. According to this configuration, since the next position is estimated from the past positions of the finger being tracked, high estimation accuracy can be obtained.
  • the tracking information when the tracking information includes each position information of the corresponding finger being tracked specified by the finger specifying step of the previous time and the previous time, based on the position information of both of them. While the next position of the finger being tracked can be calculated, the tracking information includes the corresponding position information of the finger being tracked specified by the previous finger specifying step. If the position information of the corresponding finger being tracked identified by the finger identifying step is not included, the position information when identified by the previous finger identifying step and the position information indicate Based on the position of the edge of the finger identifiable range close to the position, the next position of the finger being tracked can be calculated.
  • the next position can be estimated with high accuracy using both of them, but the position of the finger being tracked is known only for the previous time. In this case, that is, when the finger being tracked is a finger that has newly appeared last time, since only one position is known, the next position cannot be estimated with high accuracy alone.
  • the position of the edge of the finger identifiable range close to the previous position is used instead of the previous position. In this case, since the finger that has just newly appeared last time is likely to have appeared from the nearest edge of the finger identifiable range, there is no previous position by using that edge as the previous position. However, the next position can be estimated with sufficient accuracy.
  • the finger tracking step when there is a finger being tracked that does not satisfy the reference condition with the finger actually identified when the finger is identified by the finger identifying step, the finger being tracked is identified. Is switched as a non-trackable finger, and information related to the finger when it is recognized as untrackable is stored as tracking return determination information in a predetermined tracking return determination information storage unit. In this case, the finger tracking step is further performed when there is an actually specified finger that does not satisfy the reference condition with the finger being tracked when the finger is specified by the finger specifying step.
  • the tracking return determination information storage unit Based on the tracking return determination information stored in the tracking return determination information storage unit, it is determined whether the finger actually identified is the same as a finger that has been made untrackable in the past, the same If it is determined that the finger that was untrackable corresponding to the tracking return determination information has reappeared at the position of the finger that was actually identified, the movement tracking of the finger On the other hand, if it is determined that the fingers are not the same, the finger actually identified is recognized as a newly appearing finger, and movement tracking of the finger can be newly started. Specifically, when it is determined that they are the same, the position information of the actually identified finger is the tracking information as the latest position information of the finger that is recognized as unidentifiable and that cannot be tracked.
  • the movement tracking of the finger is resumed.
  • the operation target finger is not specified when it moves outside the range that can be specified in the finger specification step, but it is a good idea to use a finger other than that finger as the operation target finger just because it is no longer specified. Is not good. For example, when the index finger has been moved as an operation target finger and the index finger has moved out of a specific range, it is less desirable to change the ring finger to the operation target finger simply because the ring finger has been specified.
  • the operation target finger it is better not to designate the operation target finger until the index finger is identified again. That is, it is easier to operate if a certain finger is always designated as the operation target finger.
  • the situation at the time of the loss is stored as tracking return determination information, and when a finger that has not been tracked is newly specified, Based on the accumulated tracking return determination information, it is determined whether the finger is a finger that has been lost in the past. If a finger that has been lost once appears again, it is recognized as the same finger. Can do. If the lost finger is the operation target finger, it can be immediately designated again as the operation target finger when it reappears, and movement tracking can be resumed as it is.
  • the tracking information in this case may include at least the latest position information of the finger specified by the finger specifying step, and the tracking return determination information is also the last information before the corresponding finger is recognized as untrackable. It can include location information.
  • the position immediately before being lost is compared with the reappearing position, and a pair in a close positional relationship can be determined as the same finger. That is, it is possible to easily determine whether or not a newly specified finger is a re-appearing finger simply by storing the previous position at the time of loss and comparing the position at the time of re-appearance.
  • the finger tracking step when the finger is specified by the finger specifying step, an actually specified finger that does not satisfy the reference condition with the finger being tracked is specified, and the tracking return determination is performed.
  • the information storage unit stores tracking return determination information of a plurality of fingers, the position information of the finger actually identified and the last of untrackable fingers included in the tracking return determination information Based on the position information, the finger that is untraceable corresponding to the tracking return determination information including the position information indicating the position closest to the actually identified finger is referred to as the actually identified finger. It can be determined that the fingers are the same.
  • the last specified position of the finger in the lost is compared with the position of the newly specified finger, and the lost The middle finger is determined to be the same as the newly specified finger. Since a lost finger is likely to appear from the same position as the lost part, by using this, a newly identified finger or a lost finger reappears. Can be accurately identified.
  • the finger tracking step is performed when an actually specified finger is identified that does not satisfy the reference condition with the finger being tracked when the finger is identified in the finger identifying step.
  • the distance between the positions indicated by the identified position information of the finger and the last position information of the non-trackable finger included in the tracking return determination information is less than a predetermined reference distance, While it is permitted to recognize that the actually specified finger is the same as the non-trackable finger corresponding to the tracking return determination information, and is not less than the reference distance, it is actually specified. It is possible to prohibit the recognition of the finger and the finger that cannot be tracked corresponding to the tracking return determination information as the same.
  • both fingers may be different fingers High nature.
  • the finger tracking step includes the finger being tracked that did not satisfy the reference condition with the finger actually identified when the finger was identified in the finger identifying step, and the finger being tracked cannot be tracked.
  • the return determination information can be stored in the tracking return determination information storage unit.
  • the finger tracking step further specifies an actually specified finger that does not satisfy the reference condition with the finger being tracked when the finger is specified in the finger specifying step.
  • the tracking return determination information storage unit stores tracking return determination information of a plurality of fingers, it is included in the actually specified finger position information and the tracking return determination information.
  • the tracking return determination information including the position information indicating the position closest to the actually specified finger can be specified based on the last position information of the finger that cannot be tracked. However, in the case where one tracking return determination information including the position information indicating the position closest to the actually specified finger is specified, the finger that cannot be tracked corresponding to the tracking return determination information is specified. Is determined to be the same finger as the actually specified finger, while two or more tracking return determination information including the position information indicating the position closest to the actually specified finger is specified.
  • the untrackable recognition order included in the tracking return determination information is Referring to the tracking return determination information, the finger that cannot be tracked corresponding to the latest tracking-unrecognized recognition time can be determined to be the same finger as the actually specified finger. According to the arrangement of fingers in the human hand, when multiple fingers are lost (not traceable) at the same position last, when they appear again, there is a high possibility that they will appear in order from the last lost finger. . With the above configuration, even if there are a plurality of fingers in the lost state, it is possible to accurately specify which finger in the lost state is the same as the newly specified finger.
  • the tracking return determination information can be the tracking information of the finger stored in the tracking information storage unit when the corresponding finger is recognized as untrackable. According to this configuration, when the finger being tracked is lost (not trackable), the tracking information of the finger stored in the tracking information storage unit may be stored in the tracking return determination information as it is. If the tracking information storage unit and the tracking return determination information storage unit are the same, it is only necessary to leave the stored tracking information as it is.
  • the finger tracking step when a finger is specified by the finger specifying step and the specified finger is recognized as a newly appearing finger, new identification information is given to the new finger and the identification is performed.
  • the tracking information of each finger can be stored in the tracking information storage unit in a form associated with the information. Thereby, identification information is attached to the finger specified in the finger specifying step, and information management corresponding to the finger is facilitated.
  • the identification information of the finger can be stored in the tracking recovery determination information storage unit in association with the tracking recovery determination information. In this case, even if the finger being tracked is lost (tracking is impossible), the identification information of the finger remains as it is, so that information corresponding to the finger can be easily managed even after the finger is lost.
  • the finger tracking step includes tracking information stored in the tracking information storage unit and further tracking return determination information stored in the tracking return determination information storage unit when the finger is specified in the finger specifying step. Based on each finger with the identification information, it is determined whether or not the finger actually specified by the finger specifying step is the finger being tracked, or whether the finger is not trackable. Then, the determination result can be stored in a predetermined tracking status storage unit as a tracking status in association with the identification information. According to this configuration, it is possible to easily identify the tracking state (during tracking, lost, etc.) of the finger with identification information.
  • the identification information and various information stored in association with the identification information are erased, It can be initialized. While various information of the finger specified sequentially is stored and updated in association with the identification information, all the information can be initialized once at the timing when the finger is not specified.
  • the display device is a unit (finger specifying unit, finger specifying step, operation target finger specifying step, fingertip specifying step, position instruction image emphasizing display step, specifying finger information acquiring step) in the display method described above.
  • the operation input device can be configured to include the display device.
  • the display screen is configured as a screen for performing device operations and the like, and the remote operation surface is provided at a position different from the display screen to remotely perform operation input on the display screen.
  • an input for accepting an input corresponding to a pressing operation position based on a pressing operation on the remote operation surface a display unit having the display screen, a remote operation unit having the remote operation surface A reception unit, a hand image capturing unit that captures an image of a hand facing the remote operation surface, and a position indication image generated based on a hand image taken at a position on the display screen instructed by the hand And a position indicating image emphasizing display unit for displaying.
  • the operation input device can be a vehicle operation input device.
  • the device is a vehicle-mounted device, the display screen is arranged to be visible by the driver on the vehicle front side of the driver, and the remote operation surface is closer to the driver than the display screen. Can be provided in position. Since the operation target finger is displayed in an easy-to-understand manner, the operation becomes easy. In particular, it can contribute to simplification of the driver's operation.
  • the vehicle operation input device is provided as follows.
  • a display unit having a display screen for operating a device included in the vehicle, and a remote operation surface provided at a position different from the display screen for remotely performing operation input on the display screen
  • a remote operation unit ; an input receiving unit that receives an input corresponding to a pressing operation position based on a pressing operation on the remote operation surface; a hand image capturing unit that captures an image of a hand facing the remote operation surface;
  • a position instruction image display unit that displays a position instruction image generated based on the image of the photographed hand at a position on the display screen instructed by a hand.
  • a predetermined finger state specifying unit for specifying whether or not the finger state of the hand facing the remote operation surface is a predetermined finger state determined in advance; and a display mode set for the position indicating image display unit, Predetermined finger Is set to a display permission mode for permitting display of the position indicating image when specified, and is set to a display prohibiting mode for prohibiting display of the position indicating image when the predetermined finger state is not specified.
  • a display mode setting unit that executes display mode switching control.
  • the above can be provided as the following display method as another aspect of disclosure. That is, in a display device including a display unit having a display screen and a remote operation unit having a remote operation surface for remotely operating the display screen, a finger is placed on the front side of the remote operation unit. Is a display method for displaying a position indicating image in a form superimposed or superimposed on an image forming a background at a screen position on the display screen corresponding to the finger position as opposed to the remote control surface.
  • a predetermined finger state specifying step for specifying whether or not the finger state of the hand to be performed is a predetermined finger state, and a display permission for permitting display of the position indication image when the predetermined finger state is specified Setting to a mode, and setting to a display prohibit mode for prohibiting display of the position indicating image when the predetermined finger state is not specified.
  • operation input device 10 vehicle navigation device 12 operation information input unit (remote operation unit) 12a operation panel 12b camera (hand image capturing unit or means) 12c light source 15 display device (display unit or means, operation screen display unit or means) 15a touch panel 18 control circuit (input receiving part or means, position indication image display part or means, predetermined finger state specifying part or means, operation intention display finger state specifying part or means, simple operation finger state specifying part or means, Operation input control part or means, display mode setting part or means, operator specifying part or means, running state specifying part or means, position indication image highlighting display part or means, finger specifying part or means, operation target finger specifying part or means , Fingertip specifying part or means, designated finger information obtaining part or means, finger number specifying part Or means, hand shape recognition unit or means, operation number specifying unit or means, display mode execution information storage unit or means) 18a image processing unit 18d storage unit 20 camera 30 vehicle speed sensor (vehicle speed detection unit or means) 40 camera 41 , 42 Camera 50 In-veh

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Mechanical Engineering (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Chemical & Material Sciences (AREA)
  • Multimedia (AREA)
  • Automation & Control Theory (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

 操作パネル(12a)と、該操作パネル(12a)上の指示位置を表示するための位置指示画像(200H)を表示する表示装置(15)とを備える車両用操作入力装置であって、操作パネル(12a)に対向する手の指状態が、操作意思表示用指状態であるか否かを特定し、車両が走行状態にある場合に、当該指状態が特定されると位置指示画像(200H)の表示が許可され、当該指状態が特定されないと位置指示画像(200H)の表示が禁止される。

Description

車両用操作入力装置 関連出願の相互参照
 本出願は、
2008年3月19日に出願された日本特許出願2008-71467、
2008年3月19日に出願された日本特許出願2008-71468、
2008年3月19日に出願された日本特許出願2008-71470、
2008年11月14日に出願された日本特許出願2008-291592、
2009年1月30日に出願された日本特許出願2009-21003、
2009年1月30日に出願された日本特許出願2009-21004、および
2009年1月30日に出願された日本特許出願2009-21005、
を基にしており、そして、それらを参照することによって、それらの開示内容を本出願に組み込む。
 本発明は車両用操作入力装置に関する。
特開2000-6687号公報 近年では、操作入力装置(特許文献1)としてプロンプター方式等の遠隔的に機器操作を行う操作入力装置が開発されている。このような操作入力装置は、操作画面(メイン画面)を表示する表示装置とは別に、操作者の手元に遠隔操作部を設け、さらに、その遠隔操作部を操作する手を撮影・抽出し、得られた手画像および手操作を表示装置の操作画面(メイン画面)に反映して、あたかも操作画面を直接タッチ操作しているかのように表示制御するものである。また、このような操作入力装置のうち、車両に設けられるものについては、その操作性を増すために、遠隔操作部が座席に着座したユーザーの手元に設けられる。そして、その遠隔操作部は、タッチ操作面を有してなるタッチ操作式の操作部として構成されることが多い。
 上記のような操作入力装置では、ユーザーの手元に遠隔操作部が設けられるので、意図しないで操作部に触れてしまい、誤った操作入力がされることが問題となる。特に、タッチパネル等のタッチ操作式の操作部であれば、何かのはずみで接触しただけでも入力がされてしまうことがある。
 さらにいえば、上記のような操作入力装置において、遠隔操作部を操作する手を実際に操作画面上に表示すると、手が遠隔操作部に近い場合には、指のみが表示された状態となる。ところが、ユーザーの中には、より早く入力するために、片手の5本の指でタッチ操作入力を行う人もいる。この場合、操作画面上では、多数本の指が同時に並んで表示されるので、表示された指と、実際に操作者が位置指示に使いたい指との対応関係がわからなくなり、誤操作を招く可能性があった。特に、車両運転中の運転者は操作画面を凝視できないので運転しながらでの多数本の指での操作入力は難しく、誤操作を生じやすかった。
本発明の課題は、遠隔操作部において誤操作がされ難い車両用操作入力装置を提供することにある。
 さらに、本発明の課題は、手指に対応する位置指示画像を別の画像に重畳ないし合成する表示において、位置指示に使用する実際の指を容易に特定できるような位置指先画像の表示方法、該表示方法を採用する表示装置、及び該表示装置を備える操作入力装置を提供することにある。
 本発明の例として、車両用操作入力装置は次のように提供される。 車両が備える機器の操作などを行うための表示画面を有した表示部と、前記表示画面とは異なる位置に設けられ、当該表示画面における操作入力を遠隔的に行うための遠隔操作面を有した遠隔操作部と、前記遠隔操作面への押圧操作に基づいて押圧操作位置に対応した入力を受け付ける入力受付部と、前記遠隔操作面に対向する手の画像を撮影する手画像撮影部と、当該手により位置指示された前記表示画面上の位置に前記撮影された手の画像に基づいて生成された位置指示画像を表示する位置指示画像表示部と、前記遠隔操作面に対向する手の指状態が、予め定められた所定指状態であるか否かを特定する所定指状態特定部と、前記位置指示画像表示部に対し設定される表示モードを、前記所定指状態が特定されている場合に前記位置指示画像の表示を許可する表示許可モードに設定し、前記所定指状態が特定されていない場合には前記位置指示画像の表示を禁止する表示禁止モードに設定する表示モード切替制御を実行する表示モード設定部と、を備えている。
 本発明の例として、表示方法は、次のように提供される。 表示画面を有した表示部と、前記表示画面への操作を遠隔的に行うための遠隔操作面を有した遠隔操作部とを備える表示装置において、前記遠隔操作部の手前側にて指が対向するに伴い当該指位置に対応する前記表示画面上の画面位置に、背景をなす画像に合成ないしは重畳する形で、位置指示画像を表示する表示方法であって、前記遠隔操作面に対向する手の指状態が、予め定められた指状態であるか否かを特定する所定指状態特定ステップと、前記所定指状態が特定されている場合に前記位置指示画像の表示を許可する表示許可モードに設定するステップと、前記所定指状態が特定されていない場合には前記位置指示画像の表示を禁止する表示禁止モードに設定するするステップと、を有する。
 本発明のさらに別の例として、表示方法は、次のように提供される。 表示画面を有した表示部と、前記表示画面への操作を遠隔的に行うための遠隔操作面を有した遠隔操作部とを備える表示装置において、前記遠隔操作部の手前側にて指が対向するに伴い当該指位置に対応する前記表示画面上の画面位置に、背景をなす画像に合成ないしは重畳する形で、位置指示画像を表示する表示方法であって、前記遠隔操作部の手前側で対向する手において指を特定する指特定ステップと、特定された前記指から前記遠隔操作部への操作に使用する、あるいは使用すると推定される操作対象指を指定する操作対象指指定ステップと、前記表示画面上の背景画像に合成ないしは重畳する形で、特定された前記指の指示位置を示す前記位置指示画像を表示する表示ステップであって、表示される前記位置指示画像のうち、指定された前記操作対象指に対応する位置指示画像を、当該操作対象指とは異なる指に対応する位置指示画像よりも相対的に強調する強調表示にて行う位置指示画像強調表示ステップとを有する。
 本発明における上記あるいは他の目的、構成、利点は、下記の図面を参照しながら、以下の詳細説明から、より明白となる。図面において、
本発明の、第一実施形態のタッチ式操作入力装置の一例である車両用操作入力装置を用いた車両用ナビゲーション装置の構成を示すブロック図。 車両用操作入力装置の概要を説明するための車室内の要部斜視図。 操作情報入力部の第一の構成を示す断面図。 第一実施形態の第一実施例において操作パネルに対向する手の撮影及び表示を説明する第一の図。 第一実施形態の第一実施例において操作パネルに対向する手の撮影及び表示を説明する第二の図。 第一実施形態の第一実施例において操作パネルに対向する手の撮影及び表示を説明する第三の図。 第一実施形態の第一実施例において操作パネルに対向する手の撮影及び表示を説明する第四の図。 操作者を特定するために撮影された画像の一例を示す図。 第一実施形態の第一実施例における位置指示画像表示処理を示すフローチャート。 第一実施形態の第一実施例におけるタッチ操作入力処理を示すフローチャート。 第一実施形態の第二実施例の位置指示画像表示処理を示すフローチャート。 第一実施形態の第三実施例の位置指示画像表示処理を示すフローチャート。 第一実施形態の第四実施例の位置指示画像表示処理を示すフローチャート。 第一実施形態の第五実施例におけるタッチ操作入力処理を示すフローチャート。 図2とは異なる車両用操作入力装置の概要(第六実施例)を説明するための車室内の要部斜視図。 第二実施例ないし第四実施例における車速閾値の設定例。 第一実施形態の第七実施例の位置指示画像表示処理を示すフローチャート。 第一実施形態において設定可能な表示許可期間の一例を示す図。 第一実施形態の第七実施例における表示許可期間を示す図。 第一実施形態の第八実施例における表示許可期間を示す図。 第一実施形態の第九実施例における位置指示画像の強調表示処理の流れを示すフローチャート。 第一実施形態における操作画面の一例。 第一実施形態における操作画面の一例。 第一実施形態における操作画面の一例。 第一実施形態の第十実施例における位置指示画像の強調表示処理の流れを示すフローチャート。 第一実施形態の第十実施例における操作対象指の特定処理の第一変形を示すフローチャート。 第一実施形態の第十実施例において操作パネルに対向する手の撮影及び表示を説明する第一の図。 第一実施形態の第十実施例において操作パネルに対向する手の撮影及び表示を説明する第二の図。 指先の特定方法を説明する図。 図26の実施例において操作対象指を特定する方法の第一例を説明する図。 図26の実施例において操作対象指を特定する方法の第二例を説明する図。 図26の実施例において操作対象指を特定する方法の第三例を説明する図。 第一実施形態の第十実施例における位置指示画像の強調表示の時間変化の一例を示す図。 第一実施形態の第十実施例における操作対象指の特定処理の第二変形を示すフローチャート。 第一実施形態の第十実施例の第二変形において操作対象指を特定する方法の第一例を説明する図。 第一実施形態の第十実施例の第二変形において操作対象指を特定する方法の第二例を説明する図。 第一実施形態の第十実施例における操作対象指の特定処理の第三変形を示すフローチャート。 第一実施形態の第十実施例の第三変形において操作対象指を特定する方法の一例を説明する図。 第一実施形態の第十実施例における操作対象指の特定処理の第四変形を示すフローチャート。 第一実施形態の第十実施例における操作対象指の特定処理の第五変形を示すフローチャート。 第一実施形態の第十実施例の第五変形において操作対象指を特定する方法の一例を説明する図。 第一実施形態の第十実施例における操作対象指の特定処理の第六変形を示すフローチャート。 第一実施形態の第十実施例の第六変形において操作対象指を特定する方法の一例を説明する図。 第一実施形態の第十実施例における操作対象指の特定処理の第七変形を示すフローチャート。 第一実施形態の第十実施例の第七変形において操作対象指を特定する方法を説明する第一の図。 第一実施形態の第十実施例の第七変形において操作対象指を特定する方法を説明する第二の図。 第一実施形態の第十実施例における位置指示画像の強調表示の一表示例を示す図。 第一実施形態の第十実施例における位置指示画像の強調表示の一表示例を示す図。 第一実施形態の第十実施例の第十一変形においてつまみ操作を前提とする操作部を簡略的に示す斜視図。 図49に示すx方向、y方向、z方向からの撮影画像の一例。 図50に基づく表示画像の一例。 図51とは異なる、図50に基づく表示画像の一例。 第一実施形態の第十実施例の第十一変形において操作対象指を特定する方法の一例を説明する図。 指追跡処理の流れを示すフローチャート。 図54に続くフローチャート。 指先位置を予測する制御回路に記憶される追跡情報を説明する図。 動画像フレーム間で指先を追跡する基本アルゴリズムを説明する図。 指先(指)の出現予測位置の算出方法を示す図。 前フレームにて新規出現した指先の次フレームでの出現予測位置の算出方法を説明する図。 指先の新規出現及び指先のロストを説明する図。 第一実施形態の第十実施例における位置指示画像の強調表示の時間変化の一例を示す図。 第一実施形態の第十実施例における位置指示画像の強調表示の時間変化の一例を示す図。 第一実施形態の第十実施例における位置指示画像の強調表示の一表示例を示す図。 第一実施形態の第十実施例における位置指示画像の強調表示の一表示例を示す図。 第一実施形態の第十実施例における位置指示画像の強調表示の一表示例を示す図。 第一実施形態における位置指示画像を擬似指画像にて表示した一表示例を示す図。 第一実施形態における位置指示画像を指先位置画像にて表示した一表示例を示す図。 所定指状態の第二例を説明する図。 図2及び図15とは異なる車両用操作入力装置の概要(第六実施例)を説明するための車室内の要部斜視図。 所定指状態の第三例を説明する図。 所定指状態の第四例を説明する図。 所定指状態の第五例を説明する図。 表示モード切替制御の実施対象となる画面条件の例を示す図。 タッチ操作入力処理の流れを示すフローチャート。 所定指状態の例示。
 1. 第1実施形態
 1.1 第一実施例
 以下、本発明の第一実施形態の操作入力装置の第一実施例を、図面を参照して説明する。
 (構成)
 図1は、本実施形態の操作入力装置を用いた車両用ナビゲーション装置の構成を示すブロック図である。本実施例においては、操作入力装置1として、表示画面上にタッチ操作用のスイッチ画像(操作アイコン)等の操作入力用画像を表示可能な表示装置15と、それら表示画面へのタッチ操作を遠隔的に行うための操作パネル12aとが別位置に設けられてなる操作入力装置を採用している。なお、本実施例のタッチ式操作入力装置の操作対象は、ナビゲーション機能のみに限られず、車内LAN50を介して接続するECU100が制御する他の車載電子機器の機器機能(オーディオ、エアコン、パワーウィンドウ、シート調整機能等)も含むことができる。
 ナビゲーション装置10は、車両の現在位置を検出する位置検出器11と、運転者等の操作者からの各種指示を入力するための操作情報入力部12と、地図データや各種の情報を記録した外部記録媒体から地図データ等を入力する地図データ入力器14と、地図表示画面やTV(Television)画面等の各種表示を行うための表示装置15と、各種のガイド音声等を出力したり運転者等の操作者の音声を入力したりするための音声入出力装置16と、車両情報等の各種のデータを記憶するためのハードディスク記憶装置17と、車両情報の授受を行うための車両I/F(Interface)部19と、他の通信装置13aと近距離無線通信を行うための無線通信機13と、これら11~19と接続する制御回路18とを備えている。また、制御回路18は、カメラ20,40及び車速センサ30に接続することもできる。本実施例においては、図69のように、カメラを後述するカメラ12bのみとして構成してもよい。
 位置検出器11は、GPS(Global Positioning System)用の人工衛星からの送信電波をGPSアンテナを介して受信し、車両の位置,方位,速度等を検出するGPS受信機11aと、車両に加えられる回転運動の大きさを検出するジャイロスコープ11bと、車両の前後方向の加速度等から走行した距離を検出する距離センサ11cと、地磁気から進行方位を検出する地磁気センサ11dとを備えている。そして、これら各センサ等11a~11dは、各々が性質の異なる誤差を有しているため、互いに補完しながら使用するように構成されている。なお、精度によっては、上述したうちの一部のセンサで構成してもよく、また、ステアリングの回転センサや各転動輪の車輪センサ等(図示せず)を用いてもよい。
 操作情報入力部12は、図3に示すように、予め定められた波長帯の光を照射する光源12cと、該光源12cからの照射光が表面12a2側から表面12a1側に向けて透過するよう配置された透光性を有する操作パネル12aと、該操作パネル12aを撮影範囲に含む形で該操作パネル12aの裏面12a2側から撮影するカメラ(接近対象物撮影部あるいは手段)12bと、を備えている。
 なお、本実施例の操作情報入力部12は、図2に示すように、車両のセンターコンソール部Cのような、車両のフロントガラス下縁よりも下側で、かつ隣接する左右両座席から操作可能な位置に設置されている。さらに言えば、表示装置15よりも下側で、かつ隣接する左右両座席の両座部の間の前側に配置されている。なお、本実施例における隣接する左右両座席とは、図2の運転席2D及び助手席2Pのことであるが、例えば後列の左右の座席であってもよい。さらに、左右両座席から操作可能な位置に限らず、例えば、ステアリング部やドア部など、操作者が操作しやすい位置に設置されていてもよい。
 操作パネル12aは、少なくとも光源12cから照射される光に対して透光性を有したパネルからなる。本実施例においては縦方向透明電極と横方向透明電極とを備えた周知の抵抗膜方式のタッチパネルとして構成されており、その出力が制御回路18に入力される。
 図3に示すように、操作パネル12aは、中空の筐体12fの前端開口に嵌め込まれており、表面12a1がタッチ操作面(遠隔操作面)とされている。前端開口を形成する筐体前端部121eの外縁からは、後方に向けて筒状の壁部122eが設けられており、その後端部が回路基板12kに固定されている。この筐体12fは、車室内の所定位置の固定配置されており、内部には、カメラ12b及び光源12cが配置されている。
 光源12cは、図3に示すように、操作パネル12aを裏面12a2から表面12a1に透過させる形で光を照射する。光源12cからの光(照射光)は、タッチ操作面12a1を被うように位置する接近対象物(例えば手等)が存在しない限り、該タッチ操作面12a1から外に通過していくが、該タッチ操作面12a1に対向する形で接近した接近対象物Hが存在する場合には、当該接近対象物Hに反射して、その光(反射光)の一部は裏面12a2側に戻り、カメラ12bに捉えられる。
 カメラ12bは、光源12cから照射された光が接近対象物Hにて反射した反射光を捉える形で、当該接近対象物Hを操作パネル12aの裏面12a2側から撮影するものであり、予め定められた撮影範囲を撮影するよう車体側に固定されている。具体的にいえば、当該撮影範囲をカメラ12bにより撮影できるように反射部材12rが設けられ、カメラ12bはその反射画像を撮影している。反射部材12rが無い場合は、当該撮影範囲をカメラ12bにより直接撮影する形となるから、撮影後の画像に左右反転処理を施す必要がある。
 本実施例において、光源12cは赤外光光源であり、カメラ12bは、暗所での撮影にも適した赤外線カメラ(可視光をシャットアウトする図示しない赤外線フィルタを備え、これを介して撮影を行う)である。赤外光光源12cから照射された光(赤外線)が接近対象物Hにて反射した反射光をカメラ12bが捉える形で撮影がなされる。カメラ12bは、車体側に固定された基板上に固定配置されており、撮影範囲として、タッチ操作面12a1が含まれる範囲が設定されている。また、赤外光光源12cは、操作パネル12aの裏面側後方に位置するLEDである。また、本実施例における操作パネル12aは、光源12cの光に対してのみ透光性を有した材料にて構成されているので、カメラ12b内の赤外線フィルタを不要とすることができ、かつ、筐体12fの内部が外部から視認できないようになっている。
 なお、本実施例におけるカメラ12bは、撮影部あるいは手段として機能するものである。このカメラ12bは、操作パネル12aに対向する形で接近する接近対象物を撮影する接近対象物撮影部あるいは手段として機能するものであり、接近対象物に手が含まれることを考慮すれば、その手の画像を撮影する手画像撮影部あるいは手段、さらには手の指の画像を撮影する指画像撮影部あるいは手段として機能しているともいえる。
 図4~図7は、操作パネル12aに対向する手(指)Hの撮影を説明する図である。各図の(a)は、操作パネル12aと、その表面12a1に対向する手の状態(指の状態)を示しており、各図の(b)は、(a)の状態の手をカメラ12bにて撮影した映像150であり、操作パネル12a全体を撮影領域として撮影された画像である。ただし、本実施例における(b)の映像150は、撮影後にその映像を2値化したものである。(b)において、符号150Hは接近対象物Hが映った領域、符号150Bは何も映らなかった領域である。符号150Bの領域は本来、操作パネル12aが映る領域であるが、該操作パネル12aが光源12cの光に対し透光性を有するので映らない。また、それであっても、その操作パネル12a越しに背景(本実施例でいえば車両の天井面等)が映っていてもおかしくないが、そうした背景は除去されている。背景除去に関しては、特開2007-272596号公報に記載されているように、異なる照明条件の画像を使用することで可能となる。ちなみに、各図の(c)は、(b)の映像150が撮影されているときの、表示装置15における画面表示の一例である。ただし、図4(c)は、従来のプロンプター方式操作入力装置における画面表示の一例であり、本実施例においては、図4(b)のような映像150がされているときには、図5(c)に示すような画面表示となる。
 図1に戻り、表示装置15は、図2の運転席2Dの車両前方側で、運転者により視認可能に設置されたカラー表示装置であり、表示画面がタッチ操作面12a1よりも運転者から遠い位置に設けられている。表示装置15としては、液晶ディスプレイ,プラズマディスプレイ,有機ELディスプレイ等のいずれを用いてもよい。表示装置15の表示画面は、位置検出器11にて検出した車両の現在位置と地図データ入力器14より入力された地図データとから特定した現在地を示すマーク,目的地までの誘導経路,名称,目印,各種施設のマーク等の付加データとを重ねて表示することができる。また、施設のガイド等も表示できる。なお、表示装置15の表示部あるいは手段の例として機能する。
 また、表示装置15は、車両が備える機器の操作などを行うための表示画面を有するものであり、本実施例においては、表示画面上にタッチパネル15aを備えている。既に述べた操作情報入力部12のタッチパネル12aは、当該タッチパネル15aの操作を、それよりも運転者や助手席搭乗者に近い位置から遠隔的に操作できるよう設けられた遠隔操作部である。当該タッチ操作面12a1になされたタッチ操作に基づいて、そのタッチ操作位置に対応した、表示装置15の画面位置(タッチパネル15aのタッチ操作面位置)への入力が受け付けられる。具体的にいえば、表示装置15の表示画面上に定められる二次元座標系(タッチパネル15aのタッチ操作面上に定められる二次元座標系)と、該操作パネル12aのタッチ操作面12a1上に定められる二次元座標系との間には一義的な対応関係が予め定められており、一方の面内位置に対応する他方の面内位置が一義的に特定可能とされており、タッチ操作面12a1にタッチ操作があった場合には、その対応関係に基づいて、当該タッチ操作がなされた位置座標に対応する、表示装置15の表示画面上の位置座標への操作入力が受け付けられる。
 つまり、タッチ操作面12a1にタッチ操作があった場合には、制御回路18が、そのタッチ操作がなされたタッチ操作面12a1上の位置座標を特定し、さらに、特定したタッチ操作面12a1上の位置座標に対応する、表示装置15の表示画面上の位置座標を特定して、その上で、特定された当該表示画面上の位置座標に対応する制御内容を実行する制御信号を出力する。例えば、表示装置15の表示画面にスイッチ画像(操作アイコン等)200Iが表示された場合には、タッチ操作面12a1上において、当該スイッチ画像200Iに対応する位置にタッチ操作をすれば、制御回路18では、当該スイッチ画像200Iへのタッチ操作があったとして入力が受け付けられ、これに伴い当該スイッチ画像200Iに対応する制御内容が実行される。表示装置15の表示画面にて表示送り可能な地図画面(地図操作用画像)が表示された場合には、タッチ操作面12a1上において、該地図上の位置にタッチ操作をすれば、制御回路18では、当該タッチ操作位置への入力が受け付けられ、これに伴い該タッチ操作位置を新たな画面中心として地図を表示する表示送り制御が実行される。
 なお、表示装置15としては、図2に示すようなセンターコンソールC内に配置されるものに限られず、例えばフロントガラスFG下縁よりも上方に設置されるものであってもよい。具体的には、車両のフロントガラスFGに、上述の画像・データを表示するヘッドアップディスプレイ(HUD)や、ステアリングホイールの奥に位置するメーター表示装置等を例示できる。
 図1に戻り、地図データ入力器14は、ネットワークデータとしての道路データ,位置特定の精度向上のためのいわゆるマップマッチング用データ等の地図データ,施設を示すマークデータ,案内用の画像や音声データ等を含む各種のデータを入力するための装置である。これらのデータの記録媒体としては、CD-ROM,DVD-ROM,ハードディスク,メモリ,メモリカード等を用いることができる。
 音声入出力装置16は、地図データ入力器14より入力した施設のガイドや各種案内の音声や、I/F19を介して取得した情報の読み上げ音声を出力することができる。また、音声入出力装置16は、図示しないマイクおよび周知の音声認識ユニットを含み、運転者等の操作者の音声をコマンド等として制御回路18に入力することができる。
 無線通信機13は、他の通信装置13aと狭帯域通信を行うためのものであり、例えばDSRC(Dedicated Short Range Communications),Bluetooth(登録商標),無線LAN(Local Area Network),UWB(Ultra Wideband)などが使用されている。
 LAN I/F19は、車内LAN50を介して他の車載電子機器やセンサとのデータの遣り取りを行うためのインターフェース回路である。また、LAN I/F19を介して、例えば他のECU(図1のECU100等)からのデータ取り込みを行ってもよい。
 カメラ20は、車両前方上部のバックミラー周辺部に設けられ、操作パネル12aのタッチ操作面12aを含むその周辺領域を撮影するものである。具体的に言えば、例えば図8に示すような撮影画像300を撮影するものであり、撮影範囲が、操作パネル12aの操作者の手だけでなく、その手から続く腕まで映るように定められており、撮影される操作パネル周辺画像を取得する制御回路18では、画像処理部18aにて手からのびる腕の方向を特定して、操作者が運転者であるか否かを特定する。図8の撮影画像300においては、符号300Hが手画像、符号300Aが手から続く腕の画像、符号312aが操作パネル12aの映った領域であり、操作パネル12aの操作者の腕は撮影画像の右側から、即ち運転席側から延びているので、当該操作者が運転者であると特定される。本実施例においては、このカメラ20が、制御回路18(画像処理部18a)とともに操作者特定部あるいは手段として機能している。なお、操作パネル12aの操作者が運転者であるか否かを特定する方法は、他の方法であってもよい。例えば、タッチ操作面12aの車両左右両側にそれぞれ接近物を検知する接近物検知部(例えば赤外反射センサ等の反射式光学センサ)を設け、これにより操作者を特定してもよい。
 車速センサ30は、周知のロータリエンコーダ等の回転検出部を含み、例えば車輪取り付け部付近に設置されて車輪の回転を検出してパルス信号として制御回路18に送るものである。制御回路18では、その車輪の回転数を車両の速度(車速)に換算する他に、車両の現在位置から所定の場所までの予想到達時間を算出したり、車両の走行区間毎の平均車速を算出したりする。本実施例においては、この車速センサ30が車速検出部あるいは手段であり、制御回路18はその検出結果を受けて車両の走行状態が所定の低速走行状態であるか否かを特定する走行状態特定部あるいは手段として機能する。
 制御回路18は、図示しない周知のCPU,ROM,RAM,I/O(Input/Output)およびこれらの構成を接続するバスライン等からなる周知のマイクロコンピュータを中心に構成されており、ROM等の記憶部18dに記憶されたプログラムに基づいて、位置検出器11からの各検出信号に基づき座標および進行方向の組として車両の現在位置を算出し、地図データ入力器14を介して読み込んだ現在位置付近の地図や、操作情報入力部12の操作によって指示された範囲の地図等を、図7に示すようなメイン画像(動画・静止画を含む)200Bとして表示装置15に画面表示する地図表示処理や、地図データ入力器14に格納された地点データに基づき、操作情報入力部12の操作に従って目的地となる施設を選択し、現在位置から目的地までの最適な経路を自動的に求める経路計算を行って経路案内を行う経路案内処理等を行う。このように自動的に最適な経路を設定する手法は、ダイクストラ法等の手法が知られている。
 また、制御回路18は、ROM等の記憶部18dに記憶されたプログラムに基づいて、スイッチ画像(操作アイコン)200I、操作情報入力部12から取得した接近対象物画像150Hに基づく加工画像200H等をサブ画像とし、これらをメイン画像200B(地図操作用画像等)に合成して表示する、あるいは重ね表示するための画像処理部18aを有している。本実施例においては、接近対象物画像150Hが指等の映った手の画像である場合、撮影された手の画像150Hに基づいて生成された加工画像200Hを位置指示画像として、その手により位置指示された表示画面上の位置に重ね表示する。つまり、該加工画像200Hを、その手の指により位置指示された表示画面上の位置を指示する位置指示画像200Hとして重ね表示する。
 なお、接近対象物画像150Hに基づく加工画像200Hとは、本実施例においては、当該接近対象物画像150Hの少なくとも外形形状(輪郭)が反映されるよう加工・生成された接近対象物外形反映画像200Hである。そして、この画像200Hがメイン画像200Bに重畳表示される。重畳表示ではなく、画像200Hをメイン画像200Bに合成して表示してもよい。これにより、運転者等の操作者が、例えば手の指等を、操作パネル12aのタッチ操作面12a1に対面させる形で移動させると、これに併せて、表示装置15の表示画面上には手形状(指形状)を反映した加工画像200Hが移動して表示され、あたかも表示装置15の表示画面に操作パネル12aが存在しているかのような感覚で操作を行うことができる。
 また、位置指示画像200Hは、必ずしも撮影された手形状・指形状の輪郭を反映していなくともよく、少なくとも撮影された手の指が指し示す位置を指示する画像であればよく、例えば手の指部分だけであったり、指先だけであったり、あるいはポインタ画像等のシンボル画像であってもよい。また、位置指示画像200Hとして、カメラ12bにより撮影された手の画像(ないし指の画像)150Hを加工せずにそのまま表示(重畳表示や合成表示)しても問題はないが、これと重なる位置に表示されるはずのメイン画像200Bの一部分が見えなくなること等を考慮すると、より操作がし易くなるような加工(例えば半透過合成)を施しておいた方がより望ましい。あるいは、実際の指の画像よりも細い擬似指画像に加工してもよい。
 また、制御回路18のROM等の記憶部18dには、スイッチ画像200Iを表示するためのスイッチ画像データが記憶されており、スイッチ画像200Iの重ね表示ないし合成表示に用いられている。一方で、制御回路18のROM等の記憶部18dには、各スイッチ画像200Iに対応付けた形で、各々への操作入力(対応するタッチ操作面12a1上の領域へのタッチ入力)により実施される制御内容も記憶されている。制御回路18により、表示画面に表示されたメイン画像200B上にスイッチ画像200Iが重なった画像200が表示されると、タッチパネル12a,15aの双方のタッチ操作面には、スイッチ画像200Iの表示位置に対応する領域に操作入力受付範囲(操作入力位置)が設定される(操作入力位置設定部あるいは手段)。また、表示画面に、メイン画像200Bとして表示送り可能な地図画面(地図操作用画像)200B2が表示されると、表示されている地図領域全体に操作入力受付範囲(操作入力位置)が設定される(操作入力位置設定部あるいは手段)。
 また、制御回路18は、自身のタイマ18bを起動し、カウンタ18cをカウントアップする形で時間計時を行うことができる。後述する処理において時間計時を行う場合にはこれらが用いられる。
 なお、この制御回路18は、入力受付、位置指示画像表示、操作者特定、走行状態特定、所定指状態特定、簡易操作用指状態特定、操作意思表示用指状態特定、表示モード設定、操作入力制御の各々の部あるいは手段の例として機能する。なお、画像処理部18aも位置指示画像表示、操作者特定の各々の部あるいは手段の一部の例として機能する。
 (位置指示画像の表示処理)
 次に、表示装置15の表示される位置指示画像の表示処理について、図9を用いて説明する。なお、当該処理は、制御回路18の記憶部18dに格納されたプログラムをCPUが実行する形で実施される。
 S1では、制御回路18が、カメラ12bによって撮影された撮影画像に基づいて、操作者の手の画像を取得したか否かを判定する。カメラ12bは、操作パネル12aの裏面12a2側から該操作パネル12aを介してタッチ操作面(表面)12a1側に接近する接近対象物(例えば運転者等の操作者の手)Hを常時撮影しており(撮影ステップ)、その撮影画像は常に制御回路18の画像処理部18aに入力されている。タッチ操作面12a1と対面する位置に接近対象物Hが進入してくると、当然その接近対象物Hを含む撮影画像150が画像処理部18aに入力される。入力された撮影画像150は、画像処理部18aにて公知の画像解析手法によって解析され、色の相違等に基づいて接近対象物画像150Hが抽出される。そして、抽出された接近対象物画像150Hの形状から、当該画像150Hが人の手の画像であるか否かを判定する。判定結果は制御回路18に出力され、手の画像が認識されたと判定された場合にはS2に進み、判定されなければ本処理を終了する。
 なお、本実施例においては、光源12cが配置されており、カメラ12bは、当該光源12cの反射光を捉える形で撮影を行っている。従って、撮影映像150に現れる色の階調には反射光強度が反映されており、高強度の反射光を捉えたところほど階調レベルが高く現れる。つまり、本実施例のカメラ12bにより撮影される撮影映像150は多階調の撮影画像(本実施例ではモノクロの撮影画像)であるから、画像処理部18aでは、これを予め定められた階調閾値を用いて各画素の階調レベルを2値化して、図4~図7の(b)のようにし、当該階調閾値を上回る領域を接近対象物画像150Hとして抽出する。また、画像処理部18aでは、抽出された接近対象物画像150Hから人の手の画像を特定するために、当該接近対象物画像150Hの形状と、制御回路18の記憶部18dに記憶された手形状パターンと比較して、それらパターンに合致する接近対象物画像150Hを手の画像として認識する(手画像認識部あるいは手段:手形状認識部あるいは手段)。
 S2では、取得した手の画像に基づいて、その手の状態が予め定められた所定指状態であるがか否かを特定する(所定指状態特定部あるいは手段)。この実施形態あるいはこの実施例では、図75で示すが、所定指状態として、その例2として包含される簡易操作用指状態を採用する。よって、具体的には、簡易操作用指状態であるか否かを特定する(簡易操作用指状態特定部あるいは手段)。簡易操作用指状態とは、例えば、操作対象となりうる指、即ちタッチ操作面12aに略沿ってのびた状態の指が、1本ないし2本程度の少数である状態等である。付言するならば、入力を早くするために5本の指を使う操作は難易度の高い指状態であり、ここでいう簡易操作用指状態はこうした指状態とは異なるものである。本実施例においては、取得した手の画像にて、タッチ操作面12aの面方向(面の広がる方向)側にのびた状態の指が1本だけ表れている一本指操作状態にある場合のみを簡易操作用指状態として特定する。具体的にいえば、S1にて、手の画像を抽出した画像処理部18aが、その手画像の全体形状から、所定長さ以上の軸線を有する略直線的な棒状の画像パターンを識別して、当該棒状の画像パターンがあった場合に、これを指画像150Fとして認識・特定する(指特定部あるいは手段)。特定された結果は制御回路18に出力され、制御回路18は、該指画像150Fの数を特定し(指本数特定部あるいは手段:手形状認識部あるいは手段)、その数が1つである場合を予め定められた簡易操作用指状態(簡易操作用指形状)であると特定する。
 続くS3では、その出力結果に基づいて、現在の指状態が簡易操作用指状態であるか否かを判定し、簡易操作用指状態であると判定された場合にS4に進む。S4では、表示モードとして、位置指示画像の表示が許可される表示許可モードに設定し、S5に進む。なお、設定された表示モードは、制御回路18の記憶部18dに設けられた所定記憶領域(表示モード記憶部)には記憶される。S4では、当該記憶領域に表示許可モードを記憶する。
 S5では、制御回路18が、表示装置15の表示画面と、撮影された手との位置関係を特定する。つまり、撮影された手の画像H(図3参照)が、表示画面上のどの位置に対向しているかを特定する。本実施例においては、カメラ12bによって撮影された撮影画像上に、タッチ操作面12aが位置する操作パネル画像領域を特定するとともに、当該操作パネル画像領域上にタッチ操作面12aの操作座標系を設定し、その上で、撮影された手画像Hの位置を、設定された該操作座標系上で特定する。そして、表示装置15の表示画面上に定められた表示座標系において、当該操作座標系上で特定された該手画像Hの位置に対応する位置を特定する。本実施例においては、図5~図7の(b)に示す撮影画像(2値化画像)150が、タッチ操作面12a1の全体を撮影した操作パネル画像領域となっている。
 さらにS6では、図6及び図7の(c)に示すように、表示装置15の表示画面の、上記操作パネル画像領域上にて特定された該手画像Hに対応する位置に、位置指示画像200Hを表示する(位置指示画像表示部あるいは手段)。本実施例においては、手画像150Hの外形形状が明確に表示され、かつ輪郭内部が半透過状態とされた加工画像200Hが生成され、表示装置15の画面上において、表示されているメイン画像200Bの対応する座標位置に重ね表示される。
 他方、S3にて、現在の指状態が簡易操作用指状態でないと判定された場合はS7に進む。S7では、表示モードを、位置指示画像の表示が禁止される表示禁止モードに設定する。これにより、S5及びS6にて実施される位置指示画像の表示が実行されず、表示装置15の表示画面には、例えば図5(c)に示すように、位置指示画像200Hが表示されない。なお、設定された表示禁止モードは、制御回路18の記憶部18dに設けられた所定記憶領域(表示モード記憶部)に記憶される。
 S6及びS7の終了により本処理は終了となる。なお、本処理は終了後も所定周期で繰り返し実施され、操作パネル12aに対向する簡易操作用指状態の手が移動すると、これに合わせて、表示装置15の表示画面に表示される位置指示画像(加工画像)200Hの表示位置も移動する。
 この位置指示画像の表示処理においては、図18に示すように、表示許可期間として、所定指形状状態(本実施形態では簡易操作用指状態)が非特定となるまでの期間が定められた形となっている。つまり、簡易操作用指状態が特定されている場合には表示許可モードを設定し、簡易操作用指状態が特定されていない場合には表示禁止モードを設定するような処理となっている。なお、制御回路18は、この位置指示画像の表示処理を実行することにより、表示モード設定の部あるいは手段の一例として機能する。
 (タッチ操作入力処理)
 最後に、操作情報入力部12の操作パネル12aへのタッチ操作入力処理について、図10を用いて説明する。なお、当該処理も、制御回路18の記憶部18dに格納されたプログラムをCPUが実行する形で実施される。
 ここでのタッチ操作入力処理では、表示許可モードが設定されている場合には、操作パネル12aへのタッチ操作入力の受け付けを許可(制御回路18が入力許可モードを設定)し、表示禁止モードが設定されている場合には、当該タッチ操作入力の受け付けを禁止(制御回路18が入力禁止モードを設定)する操作入力受付制御が含まれた処理である。制御回路18は、このタッチ操作入力処理を実行することにより操作入力制御部あるいは手段の一例として機能する。
 S101では、制御回路18が、操作パネル12aへのタッチ操作の有無を判定する。操作パネル12aはタッチパネルとして構成されているので、タッチ操作があると、その操作信号が制御回路18に入力されるので、その入力の有無に基づいて判定する。操作パネル12aへのタッチ操作があった場合はS102に進み、タッチ操作が無かった場合は本処理を終了する。
 S102では、制御回路18が、現在の表示モードが表示許可モードであるか否かを判定する。現在の表示モードは、制御回路18の記憶部18dに設けられた所定記憶領域(表示モード記憶部)に記憶されているので、記憶されている表示モード情報に基づいて判定する。現在の表示モードが表示許可モードであると判定された場合はS103に進み、表示許可モードでないと判定された場合、即ち表示禁止モードであると判定された場合は本処理を終了する。
 S103では、操作パネル12aへのタッチ操作位置、即ちタッチ操作面12a1上へのタッチ操作位置を特定する。操作パネル12aはタッチパネルとして構成されているので、タッチ操作があると、その操作信号が制御回路18に入力される。そして、その操作信号には、タッチ操作位置が操作面12a1に定められる操作座標系上の座標情報として反映されているので、制御回路18が、この操作信号に基づいて、タッチ操作位置を特定する。
 続くS104では、制御回路18が、操作パネル12aへのタッチ操作位置に対応する制御を実施する。具体的にいえば、操作パネル12aのタッチ操作面12a1上の各位置は、表示画面15の表示画面上の位置と対応しているので、S103にて特定されたタッチ操作面12a1上の位置に対応する、表示画面15の表示画面上の位置に定められた制御内容を実施する。具体的には、制御回路18が、当該制御内容を実施するための制御信号を出力する。例えばS103にて特定されたタッチ操作面12a1上の位置が、表示画面15の表示画面に表示されたスイッチ画像200Iに位置に対応していれば、制御回路18は、当該スイッチ画像に割り当てられた制御内容を実行するための制御信号を出力する。
 S104の終了により本処理は終了となる。なお、本処理は終了後も所定周期で繰り返し実施され、制御回路18は、そのときどきにタッチ操作された位置に応じた制御内容を実施する、あるいは他の制御部(例えばECU100等)にて実施させる。
 このタッチ操作入力処理においては、表示許可モードが設定されている場合には、操作パネル12aへのタッチ操作入力の受け付けが許可され(入力許可モード)、表示禁止モードが設定されている場合には、当該タッチ操作入力の受け付けが禁止される(入力禁止モード)。ただし、図9の位置指示画像表示処理においては、所定指状態(本実施形態では、簡易操作用指状態)が特定されている場合に表示許可モードが設定され、所定指状態が特定されていない場合に表示禁止モードが設定されるので、結果として、ユーザーの指状態が所定指状態でないと、操作パネル12aへのタッチ操作入力が受け付けられないようになっている。上記実施例においては、ユーザーの指状態が簡易操作用指状態でないと、操作パネル12aへのタッチ操作入力が受け付けられないようになっている。
 以上、本実施形態の一実施例を説明したが、これはあくまでも例示にすぎず、本実施形態はこれに限定されるものではなく、特許請求の範囲の趣旨を逸脱しない限りにおいて、当業者の知識に基づく種々の変更が可能である。以下、上記実施例を第一実施例とし、それとは異なる実施例を説明する。なお、共通する構成については、同符号を用いることで説明を略する。
 1.2 第2実施例
 以下、本実施形態の第二実施例について説明する。
 上記第一実施例においては、所定指状態としての簡易操作用指状態が特定されている場合に位置指示画像の表示を許可する表示許可モードに設定し、その簡易操作用指状態が特定されていない場合には位置指示画像の表示を禁止する表示禁止モードに設定するように構成されていたが、こうした表示モード切替制御を、車両が所定の走行状態である場合に実施し、所定の走行状態ではない場合には、表示モードとして表示許可モードを設定するように構成することができる。この場合、車両の走行状態を検出する車両走行状態検出部あるいは手段を備えた構成となる。図11は、こうした処理の一例であり、ここでは、車両の車速を検出する車速センサ(車速検出部あるいは手段)30が制御回路18に接続する構成を有し、該制御回路18が、車両が予め定められた車速レベル(車速閾値)を上回る車両走行状態にある場合には表示モード切替制御を実行し、当該車両走行状態にない場合には、指状態に関らず、表示モードとして表示許可モードを設定するようになっている。
 具体的には、S21では、制御回路18が、操作者の手の画像を取得したか否かを判定する。これは図9のS1の処理と同様である。操作者の手の画像が取得された場合はS22に進み、操作者の手の画像が取得されなかった場合は本処理を終了する。
 S22では、車両の現在の走行状態を特定する。即ち、車両が予め定められた車速レベルを上回る走行状態にあるか否かを判定する。制御回路18は、ROM等の所定の記憶部18dに車速閾値を予め記憶させておき、車速センサ30が検出した車速が当該車速閾値を上回るかを判定し、上回る場合を車両走行状態と特定し、上回らない場合を低速走行状態(停車状態を含む)と特定する。ここでは、上記車速閾値として5km/h等を固定的に定めるものとする。そして、S23では、現在の車両が上記の車両走行状態にあるか否かを判定して、車両走行状態にあると判定された場合にはS24に進む。他方、S23にて、車両走行状態にないと判定された場合(停車状態を含む低速走行状態が特定された場合)にはS26に進む。
 S24では、操作者の手(操作手)が、所定指状態(本実施形態では、簡易操作用指状態)であるか否かを特定する。所定指状態の特定は、図9のS2の処理と同様の処理で行われる。続くS25にて、現在の指状態が所定指状態であると判定された場合はS26に進み、所定指状態でないと判定された場合はS29に進む。
 S26では、表示モードとして、位置指示画像の表示が許可される表示許可モードに設定する。なお、設定された表示許可モードは、制御回路18の記憶部18dの所定記憶領域(表示モード記憶部)に記憶される。続くS27では、制御回路18が、表示装置15の表示画面と、撮影された手との位置関係を特定する。この処理は、図9のS5の処理と同様である。続くS28では、表示装置15の表示画面において表示されているメイン画像200B上に、位置指示画像200Hを重ね表示する(位置指示画像表示部あるいは手段)。この処理は、図9のS6と同様である。
 具体的にいえば、S23にて、現在の車両が所定の車両走行状態にないと判定された場合(停車状態を含む低速走行状態が特定された場合)には、S27及びS28の処理により、操作者の指状態に関らず、その指状態に基づく位置指示画像200Hが表示される一方で(図4、図6、図7の(c)参照)、S22にて、車両走行状態にあると判定され、かつS25にて現在の操作者の指状態が所定指状態(すなわち、簡易操作用指状態)であると判定された場合には、S27及びS28の処理により、操作者が行っている簡易操作用指状態に基づく位置指示画像200Hが表示される(図6及び図7の(c)参照)。
 他方、S25にて、現在の指状態が簡易操作用指状態でないと判定された場合はS29に進む。S29では、表示モードを、位置指示画像の表示が禁止される表示禁止モードに設定し、これを制御回路18の記憶部18dの所定記憶領域(表示モード記憶部)に記憶する。これにより、S27及びS28にて実施される位置指示画像200Hの表示が実行されず、表示装置15の表示画面には、例えば図5(c)に示すように、位置指示画像200Hが表示されない。
 S28及びS29の終了により本処理は終了となるが、本処理は終了後も所定周期で繰り返し実施される。
 なお、本実施例においては、上記の予め定められた車速レベル(車速閾値)が5km/hと定められており、当該車速レベルを上回らない車両の徐行走行状態においては、常に表示許可モードが設定されるようになっている。ただし、この車速レベルは、図16に示すように、0km/hより速く5kmより遅い車速範囲内、あるいは5km/h以上10km/h未満の車速範囲内(車両の徐行走行状態)において設定されるようにしてもよいし、0km/hと設定して、車両停車状態において常に表示許可モードが設定されるようにしてもよい。また、この車速レベルは、10km/以上30km未満の車速範囲内(車両の低速走行状態)に設定されるようにしてもよいし、30km/h以上60km/h未満の車速範囲内(車両の中速走行状態)に設定されるようにしてもよいし、60km/h以上の車速範囲内(車両の高速走行状態)に設定されるようにしてもよい。
 また、図11の処理においては、所定の車両走行状態である場合(車速閾値よりも高速側)に上記表示モード切替制御が実施され、所定の車両走行状態にない場合(車速閾値よりも低速側)に表示許可モードが固定的に設定される実施例であったが、所定の車両走行状態である場合(車速閾値よりも高速側)に表示禁止モードが固定的に設定され、所定の車両走行状態にない場合(車速閾値よりも低速側)に上記表示モード切替制御が実施される実施例としてもよい。
 1.3 第三実施例
 以下、本実施形態の第三実施例について説明する。
 上記実施例においては、簡易操作用指状態が特定されている場合に位置指示画像の表示を許可する表示許可モードに設定し、簡易操作用指状態が特定されていない場合には位置指示画像の表示を禁止する表示禁止モードに設定するように構成されていたが、こうした表示モード切替制御を、タッチ操作面12a1の操作者として運転者が特定されている場合には、表示モード切替制御を実行し、運転者が特定されていない場合には、指状態に関らず、表示モードとして表示許可モードを設定するように構成することができる。第三実施例では、上記第一実施例における図9の位置指示画像表示処理に代わり、図12に示す位置指示画像表示処理を実施するように構成されている。以下、その具体的な処理の流れを、図12を用いて説明する。
 S31では、制御回路18が、操作者の手の画像を取得したか否かを判定する。これは図9のS1の処理と同様である。操作者の手の画像が取得された場合はS32に進み、操作者の手の画像が取得されなかった場合は本処理を終了する。
 S32では、操作パネル12aに手を対向させるようにしている操作者が運転者であるか否かを特定する(操作者特定部あるいは手段)。操作者の特定は、例えば、図2に示すカメラ20の撮影画像(図8)に基づいて行うことができる。具体的にいえば、当該カメラ20の撮影画像から、腕がのびてくる方向を特定して、その方向が運転席2D側からのびてきたものであるか否かを判定することにより、操作者が運転者であるか否かを特定する。S33では、操作パネル12aの操作者が運転者であるか否かを判定して、運転者であると判定された場合にはS34に進む。他方、S33にて、操作パネル12aの操作者が運転者以外の者であると判定された場合にはS36に進む。
 S34では、操作者である運転者の手(操作手)が、所定指状態、即ち、本実施形態では簡易操作用指状態であるか否かを特定する。簡易操作用指状態の特定は、図9のS2の処理と同様の処理で行われる。続くS35では、現在の指状態が簡易操作用指状態であるか否かが判定され、簡易操作用指状態であると判定された場合はS36に進み、簡易操作用指状態でないと判定された場合はS39に進む。
 S36では、表示モードとして、位置指示画像の表示が許可される表示許可モードに設定する。なお、設定された表示許可モードは、制御回路18の記憶部18dの所定記憶領域(表示モード記憶部)に記憶される。続くS37では、制御回路18が、表示装置15の表示画面と、撮影された手との位置関係を特定する。この処理は、図9のS5の処理と同様である。続くS38では、表示装置15の表示画面において表示されているメイン画像200B上に、位置指示画像200Hを重ね表示する(位置指示画像表示部あるいは手段)。この処理は、図9のS6と同様である。
 具体的にいえば、S33にて、操作パネル12aの操作者として運転者とは異なる者が特定された場合には、S37及びS38の処理により、操作者の指状態に関らず、その指状態に基づく位置指示画像200Hが表示される一方で(図4、図6、図7の(c)参照)、S32にて、操作パネル12aの操作者として運転者が特定され、かつS35にてその指状態が簡易操作用指状態であると判定された場合には、S37及びS38の処理により、運転者が行っている簡易操作用指状態に基づく位置指示画像200Hが表示される(図6及び図7の(c)参照)。
 他方、S35にて、現在の指状態が簡易操作用指状態であると判定された場合はS39に進む。S39では、表示モードを、位置指示画像の表示が禁止される表示禁止モードに設定し、これを制御回路18の記憶部18dの所定記憶領域(表示モード記憶部)に記憶する。これにより、S37及びS38にて実施される位置指示画像200Hの表示が実行されず、表示装置15の表示画面には、例えば図5(c)に示すように、位置指示画像200Hが表示されない。
 S38及びS39の終了により本処理は終了となる。なお、本処理は終了後も所定周期で繰り返し実施される。
 1.4 第四実施例
 以下、本実施形態の第四実施例について説明する。
 第四実施例は、図9に示した位置指示画像の表示処理を、図11及び図12の双方を組み合わせた形の処理として実施するものである。即ち、車両の走行状態(例えば車両の車速)を検出し、さらに、遠隔タッチ操作面12aの操作者が運転者であるか否かを特定して、車両が所定の走行状態(例えば停車状態を含む予め定められた車速レベルを下回る低速走行状態にない走行状態)であり、かつ特定された遠隔タッチ操作面12aの操作者が運転者である場合には、簡易操作用指状態が特定されている場合に限り位置指示画像200Hの表示を許可するが、簡易操作用指状態が特定されていない場合には位置指示画像200Hの表示を禁止するようにする。そして、車両が上記所定の走行状態にない場合、あるいは特定された遠隔タッチ操作面12aの操作者が運転者ではない場合、あるいはそれら双方が同時に生じている場合には、特定された指状態に関らず、位置指示画像200Hの表示を許可するような処理とすることができる。具体的には、上記した図9のタッチ操作入力処理を、図13に示すような処理とすることで実現できる。
 即ち、S41にて、遠隔タッチ操作面12aの操作者の手画像が取得されると(図9のS1と同様の処理)、S42及びS43で車両が車両速走行状態であるか否かを判定し(図11のS22、S23と同様の処理)、車両速走行状態であればS44及びS45に進み、遠隔タッチ操作面12aの操作者が運転者であるか否かを判定する(図12のS32、S33と同様の処理)。
 S42~S45にて、車両が車両速走行状態であり、かつ遠隔タッチ操作面12aの操作者が運転者であるとされた場合にはS46及びS47に進み、操作者の手(操作手)が所定指状態、即ち、本実施形態では、簡易操作用指状態であるか否かを特定し(図9のS2及びS3と同様の処理)、現在の指状態が簡易操作用指状態であると判定された場合はS48に進み、簡易操作用指状態でないと判定された場合はS51に進む。
 S48では、表示モードとして表示許可モードに設定し、これを記憶部18dの所定記憶領域(表示モード記憶部)に記憶する。続くS49では、制御回路18が、表示装置15の表示画面と、撮影された手との位置関係を特定し、さらにS50では、表示装置15の表示画面において表示されているメイン画像200B上に、位置指示画像200Hを重ね表示する(位置指示画像表示部あるいは手段)。これらの処理は、図9のS4~S6の処理と同様である。
 具体的にいえば、S42にて車両が車両走行状態ではないとされた場合、S44にて、操作パネル12aの操作者として運転者とは異なる者が特定された場合には、S48~S50の処理により、操作者の指状態に関らず、その指状態に基づく位置指示画像200Hが表示される(図4、図6、図7の(c)参照)。一方、S42にて車両が車両走行状態であるとされ、かつS44にて操作パネル12aの操作者として運転者が特定され、その上で、S46にて簡易操作用指状態が特定された場合には、S48~S50の処理により、運転者が行っている簡易操作用指状態に基づく位置指示画像200Hが表示される(図6及び図7の(c)参照)。
 他方、S47にて、現在の指状態が簡易操作用指状態でないと判定された場合はS51に進む。S51では、表示モードとして表示禁止モードに設定し、これを記憶部18dの所定記憶領域(表示モード記憶部)に記憶する。これにより、S49及びS50にて実施される位置指示画像200Hの表示が実行されず、表示装置15の表示画面には、例えば図5(c)に示すように、位置指示画像200Hが表示されない。
 S50及びS51の終了により本処理は終了となる。なお、本処理は終了後も所定周期で繰り返し実施される。
 なお、図13の処理においては、車両が所定の車両走行状態(車速閾値よりも高速側)であり、なおかつ操作者が運転者である場合に上記表示モード切替制御が実施され、それ以外の場合(所定の車両走行状態にない場合(車速閾値よりも低速側)や操作者が運転者でない場合)に表示許可モードが固定的に設定される実施例であったが、車両が所定の車両走行状態であり、なおかつ操作者が運転者である場合に表示禁止モードが固定的に設定され、車両が所定の車両走行状態ではなく、なおかつ操作者が運転者である場合に上記表示モード切替制御が実施され、それ以外の場合(操作者が運転者でない場合)には、表示許可モードが固定的に設定される実施例としてもよい。
 1.5 第五実施例
 以下、本実施形態の第五実施例について説明する。
 上記実施例では、図10に示すタッチ操作入力処理において、表示許可モードが設定されている場合には、遠隔タッチ操作面12aへのタッチ操作入力に対応する制御内容を実行する、即ち対応する制御内容の実行が許可され、表示禁止モードが設定されている場合には、遠隔タッチ操作面12aへのタッチ操作入力に対応する制御内容を実行しない、即ち、対応する制御内容の実行が禁止されていた。ところが、表示許可モードが設定されている場合ではなく簡易操作用指状態が特定されている場合に、遠隔タッチ操作面12aへのタッチ操作入力に対応する制御内容の実行が許可され、表示禁止モードが設定されている場合ではなく所定指状態、第一実施形態では、簡易操作用指状態が特定されていない場合に、遠隔タッチ操作面12aへのタッチ操作入力に対応する制御内容の実行を禁止するように構成することができる。
 具体的にいえば、簡易操作用指状態が特定されている場合には、遠隔タッチ操作面12aへのタッチ操作入力の受け付けを許可し、簡易操作用指状態が特定されていない場合には、遠隔タッチ操作面12aへのタッチ操作入力の受け付けを禁止する操作入力受付制御を実行するように構成することができる。以下、その具体的な処理の流れについて、その一例を、図14を用いて説明する。
 S111では、制御回路18が、操作パネル12aへのタッチ操作の有無を判定する。S111の処理は図10のS101と同様である。S112では、制御回路18が、現在の指状態が所定指状態、即ち、この第一実施形態では、簡易操作用指状態であるか否かを判定する。本実施例においては、図9のS2、図11のS24、図12のS34、図13のS46、あるいは図17のS12の処理として、所定指状態としての簡易操作用指状態であるか否を特定する処理だけでなく、現在の指状態が特定されるに伴い、特定された現在の指状態を制御回路18の記憶部18dに設けられた所定記憶領域(指状態記憶部)に記憶する処理を行う。
 そして、S112では、この記憶領域(指状態記憶部)に記憶された指状態情報に基づいて、現在の指状態が所定指状態としての簡易操作用指状態であるか否かを判定する。簡易操作用指状態であると判定された場合にS113に進み、簡易操作用指状態でないと判定された場合に本処理を終了する。
 S113では、操作パネル12aへのタッチ操作位置、即ちタッチ操作面12a1へのタッチ操作位置を特定する(図10のS103と同様の処理)。続くS114では、操作パネル12aへのタッチ操作位置に対応する制御を実施する(図10のS104と同様の処理)。S114の終了により本処理は終了となるが、本処理は終了後も所定周期で繰り返し実施される。
 なお、図14に示すタッチ操作入力処理を実行する実施例における位置指示画像表示処理は、既に述べた位置指示画像表示処理、さらには後述する位置指示画像表示処理のいずれのものであってもよい。
 1.6 第六実施例
 以下、本実施形態の第六実施例について説明する。
 上記実施例においては、手画像撮影部あるいは手段をなすカメラ12bは、タッチパネル12aのタッチ操作面(表面)12a1と対向する車室内の固定領域を撮影するカメラであって、上記実施例のように、タッチパネル12aの裏面12a2側から撮影する構成を有している。ところが、本実施形態は、このような構成に限られるものではない。例えば、図15に示すように、車両のセンターコンソール部Cにタッチパネル12aのタッチ操作面12a1を斜め上側から撮影するように取り付けて、当該タッチ操作面12a1に接近する接近物を、タッチ操作面12a1側から撮影するように構成してもよい。この場合、上記した実施例とは異なり、撮影画像内の特定の画像(例えば手画像)を抽出して表示装置15に表示する際には、画像を左右反転する処理を省略できる。また、手画像撮影部あるいは手段をなすカメラ12bは、操作パネル12aのタッチ操作面12a1を含むその周辺領域を撮影するカメラ20に兼用させてもよい。
 1.7 第七実施例
 以下、本実施形態の第七実施例について説明する。
 上記実施例においては、表示許可期間として、図18に示すように、所定指状態としての簡易操作用指状態が非特定となるまでの期間が定められた形となっているが、この表示許可期間として、図19に示すように、予め決められた時間を定めることができる。つまり、表示許可モードに切り替わってから予め定められた時間(禁止モード復帰時間)が経過するまでの期間を表示許可期間と定め、当該禁止モード復帰時間が経過するに伴い表示禁止モードに復帰させるように構成することができる。ただし、タッチ操作入力処理を図10の処理とする。この構成によれば、ユーザーが特定の指状態を示したことをきっかけに位置指示画像が表示可能な期間(表示許可モード)が始まって、該位置指示画像を見ながらのタッチ操作面12a1への位置指示入力(タッチ操作)が可能となる一方で、ユーザーが特定の指状態を示さなければ位置指示画像は表示されず、位置指示入力を行うためのタッチ操作をスムーズに行えない。つまり、ユーザーが位置指示入力を行うという明確な意思を表示した場合にのみ位置指示画像の表示が許可されるようになっており、その意思表示をユーザーの指状態の特定により確認する構成となっている。なお、ここでは、表示許可モードが設定されている場合に、図4(c)のような画像表示も可能となる。具体的にいえば、上記実施例の位置指示画像の表示処理(図9)を、図17に示すような処理とすることで実現できる。
 S10では、制御回路18が、カメラ12bによって撮影された撮影画像に基づいて、操作者の手の画像を取得したか否かを判定する。この処理は図9のS1の処理と同様である。
 S11では、制御回路18が、現在の表示モードが表示許可モードであるか否かを判定する。現在の表示モードは、制御回路18の記憶部18dに設けられた所定記憶領域(表示モード記憶部)に記憶されているので、記憶されている表示モード情報に基づいて判定する。現在の表示モードが表示禁止モードであると判定された場合はS12に進み、表示許可モードでないと判定された場合、即ち表示禁止モードであると判定された場合はS19に進む。
 S12では、取得した手の画像に基づいて、その手の状態が予め定められた所定指状態、この第一実施形態では、簡易操作用指状態であるか否かを特定する(簡易操作用指状態特定部あるいは手段)。この処理は図9のS2の処理と同様である。続くS13にて、現在の指状態が簡易操作用指状態であると判定された場合はS14に進む。
 S14では、表示モードを、位置指示画像の表示が許可される表示許可モードに設定し、S15に進む。なお、設定された表示許可モードは、制御回路18の記憶部18dの所定記憶領域(表示モード記憶部)に記憶される。
 続くS15では、制御回路18に設けられたタイマー18bを起動し、時間カウントを開始してS16に進む。時間はカウンタ18cにおいてカウントアップされる形で記憶される。タイマー起動前にはカウンタ18cのカウント値がリセットされる。
 S16では、制御回路18が、表示装置15の表示画面と、撮影された手との位置関係を特定する。このS16の処理は、図9のS5と同様の処理である。続くS17では、図6及び図7の(c)に示すように、表示装置15の表示画面において表示されているメイン画像200B上に、位置指示画像200Hを重ね表示する(位置指示画像表示部あるいは手段)。このS17の処理は、図9のS6と同様の処理である。ただし、第七実施例においては、S16及びS17において、図4(c)のような位置指示画像200Hも表示される。つまり、第七実施例においては、表示許可モードが設定されている限り、手画像(指画像)の重ね表示(あるいは合成表示)が許可されており、少なくとも手画像に基づく指の指示位置を示す画像であればどのような形で位置指示画像200Hを表示してもよい。従って、表示許可モードが設定されている場合には、図4の(c)に示すような多本数の指形状の重ね表示もありうる。
 他方、S13にて、現在の指状態が簡易操作用指状態でないと判定された場合はS18に進む。S18では表示禁止モードが設定され、それが制御回路18の記憶部18dに設けられた所定記憶領域(表示モード記憶部)に記憶される。
 S17及びS18の終了により本処理は終了となるが、本処理は終了後も所定周期で繰り返し実施され、手画像が取得され、かつ表示許可モードが継続する限り、S16及びS17による位置指示画像の表示許可状態が継続する。つまり、この間は、指状態が簡易操作用指状態でなくても、位置指示画像が表示される。ところが、表示許可モードは、S19にて、S15にて起動したタイマー18bにより所定時間が経過したと判定された場合に、S20にて、強制的に表示禁止モードが設定され、本処理が終了となる。なお、S20の処理はS18の処理と同様である。
 この第七実施例においては、ユーザーが操作の意思を手形状(簡易操作用指状態)により示し、それが示された場合には、一定時間の間だけ表示許可モードが設定される構成となっている。この場合、簡易操作用指状態は、一本指状態(例えば図6及び図7参照)のような状態に限らず、二本の指をのばした二本指状態(図70参照)、三本の指を伸ばした三本指状態(図71参照)、4本の指を伸ばした四本指状態(図72参照)等と様々に定めることができる。また、一本指状態であっても、その指が人差し指である場合(図6及び図7参照)のみを簡易操作用指状態としてもよいし、中指である場合(図68参照)のみを簡易操作用指状態としてもよい。また、二本指状態においても、それらの指が人差し指と中指である場合(図70参照)のみ、簡易操作用指状態としてもよい。また、これらのうちのいずれか又は複数を簡易操作用指状態として定めてもよい。処理の観点からすれば、より識別しやすい手状態(指状態)を定めることが望ましい。
 1.8 第八実施例
 以下、本実施形態の第八実施例について説明する。
 なお、図9のS2における所定指状態としての簡易操作用指状態の特定は、上記のように撮影画像に基づいて実施されるものでなくともよい。例えば、制御回路18が、予め定められた期間の間にタッチ操作面12a1(遠隔操作面)になされたタッチ操作による入力のうち、タッチ操作面12a1の異なる位置になされたタッチ操作による入力の数を特定し(操作数特定部あるいは手段)、当該期間内に特定された入力数が予め定められた簡易操作用の数であった場合を簡易操作用指状態として特定するようにしてもよい。この場合、例えば1秒以内の間に3回のタッチ操作がそれぞれ異なる位置になされた場合に(同時でもよい)、3本の指があると特定され、簡易操作用の本数が3本と定められている場合には、これをもって所定指状態としての簡易操作用指状態として特定するようにできる。具体的には、図20に示すように、表示禁止モード(さらには入力禁止モード)が設定されている状態にて、タッチ操作面12a1へのタッチ操作があった場合に、制御回路18が、自身のタイマー18bを起動し、カウンタ18cをカウントアップする形で時間計時を開始し、所定期間t0内に、時間計時開始時のタッチ操作を含めたタッチ操作による入力数をカウントする。ただし、タッチ操作面12a1にタッチ操作がなされる際に、タッチ位置情報(例えばタッチ操作面12a1内における位置座標)を取得して、タッチ操作面12a1内の同一位置への再タッチ操作に関しては、その入力をカウントしないようにする。そして、所定期間t0が経過した際の当該入力数が、簡易操作用指状態を定める指の数と同数であった場合には、現在の操作者の手の指状態が簡易操作用指状態であると特定し、特定された時から予め定められた表示許可期間の間だけ表示許可モード(さらには入力許可モード)を設定する。表示許可期間が終了すると、再び表示禁止モード(さらには入力禁止モード)が設定される。
 1.9 第九実施例
 以下、本実施形態の第九実施例について説明する。
 上記実施例においては、表示装置15に表示されるあらゆる操作画面において、上記のような表示モード切替制御を実行するような構成であったが、予め定められた操作画面においてのみ実行し、それ以外の操作画面では、表示許可モード、あるいは表示禁止モードに固定的に設定されるようにしてもよい。
 表示装置15は、制御回路18からの制御指令に基づいて、タッチ操作面12a1への押圧操作による入力が受け付けられる複数の操作画面200を、表示画面上において切り替えることができる(操作画面表示部あるいは手段)。例えば、図22に示すようなメニュー選択画面2003や図23に示すようなカーエアコンの風量設定画面2004、図24に示すようなカーオーディオのボリューム設定画面2005、さらには、既に述べたカーナビゲーションの地図表示画面2002(図7(c))や文字入力画面2001(図6(c))等を、様々な入力に応じて切り替えて表示することができる。これら複数の操作画面のうち上記表示モード切替制御の実行対象とされる操作画面の特定を可能とする表示モード実行可否情報を、制御回路18の所定の記憶領域(表示モード実行可否情報記憶部あるいは手段)に予め記憶しておき、制御回路18は、位置指示画像表示処理を実施するに際して、表示モード実行可否情報を参照し、これに基づいて、表示装置15により表示される操作画面が上記のような表示モード切替制御の実行対象であると特定される場合に限り、特定された操作画面にて該表示モード切替制御を実行するように構成する。以下、その具体的な処理の流れを、図21を用いて説明する。
 S61では、制御回路18が、操作者の手の画像を取得したか否かを判定する。これは図9のS1の処理と同様である。操作者の手の画像が取得された場合はS62に進み、操作者の手の画像が取得されなかった場合は本処理を終了する。
 S62では、制御回路18が、現在表示中の操作画面200の種別を特定し、予め定められた、表示モード切替制御の実行対象であるか否かを特定する。ここでは、制御回路18の記憶部18dの所定記憶領域に記憶される上記表示モード実行可否情報にて、操作画面のうち、タッチ操作面12a1への押圧操作が予め定められた操作負担レベルを上回る操作を含む複雑操作画面が表示モード切替制御の実行対象と定められ、タッチ操作面12a1への押圧操作が当該操作負担レベルを上回らない操作のみからなる簡易操作画面が表示許可モードの固定設定対象と定められている。制御回路18が当該表示モード実行可否情報を参照することにより、現在表示されている操作画面200が表示モード切替制御の実行対象であるか否かを特定する。
 なお、表示モード実行可否情報は、以下のように画面種別を分類した情報として記憶することができる。即ち、複雑操作画面として、表示装置15に画面表示される1以上の操作入力画像(あるいは当該操作入力画像(操作アイコン)200Iに対応してタッチ操作面12a1上に定められる全ての押圧操作領域)の、画面全体(あるいは該タッチ操作面12a1の全領域)に対し占める割合SI/SAが、予め定められた割合S0を上回る操作画面を定め、上回らない操作画面を簡易操作画面として定めることができる(図73の例1)。また、複雑操作画面として、表示装置15に画面表示される1以上の操作入力画像(あるいは当該操作入力画像に対応してタッチ操作面12a1上に定められる押圧操作領域)200Iの数KIが予め定められた数K0を上回る操作画面を定め、上回らないものを簡易操作画面として定めることもできる(図73の例2)。また、複雑操作画面として、表示装置15に画面表示される1以上の操作入力画像200I間の間隔(あるいは当該操作入力画像に対応してタッチ操作面12a1上に定められる隣接する押圧操作領域間の間隔)LIが、予め定められた間隔L0よりも狭い操作画面を定め、上回らない操作画面を簡易操作画面として定めることもできる(図73の例3)。ここでは、図22~図24、さらには図7(c)に示すような画面2002,2003,3004,2005が簡易操作画面、図6(c)に示すような文字入力画面2001(例えば目的地名称入力画面等)が複雑操作画面として定められている。
 S64にて、制御回路18が、上記複雑操作画面及び簡易操作画面を特定可能な表示モード実行可否情報を参照して、現在表示されている操作画面200が表示モード切替制御の実行対象(ここでは複雑操作画面)であるか否かを特定するとS63に進む。S63にて、現在表示中の操作画面200が表示モード切替制御の実行対象であると判定された場合にはS69に進み、表示モード切替制御の実行対象でないと判定された場合にはS66に進む。
 S64では、操作者の手(操作手)が、所定指状態、この第一実施形態では、簡易操作用指状態であるか否かを特定する(図9のS2と同様の処理)。続くS65にて、現在の指状態が簡易操作用指状態であると判定された場合はS66に進み、簡易操作用指状態でないと判定された場合はS69に進む。
 S66では、表示モードとして、位置指示画像の表示が許可される表示許可モードに設定する。なお、設定された表示許可モードは、制御回路18の記憶部18dの所定記憶領域(表示モード記憶部)に記憶される。続くS67では、制御回路18が、表示装置15の表示画面200と、撮影された手との位置関係を特定する(図9のS5と同様)。続くS68では、表示装置15の表示画面200において表示されているメイン画像200B上に、位置指示画像200Hを重ね表示する(位置指示画像表示部あるいは手段:図9のS6と同様)。
 具体的にいえば、S62にて、現在表示中の操作画面200が表示モード切替制御の実行対象でないと判定された場合(ここでは簡易操作画面であると特定された場合)には、S67及びS68の処理により、操作者の指状態に関らず、その指状態に基づく位置指示画像200Hが表示される一方で(図4、図6、図7の(c)参照)、S62にて、現在表示中の操作画面200が表示モード切替制御の実行対象であると判定された場合(ここでは複雑操作画面であると特定された場合)には、S67及びS68の処理により、操作者が行っている簡易操作用指状態に基づく位置指示画像200Hが表示される(図6及び図7の(c)参照)。
 他方、S65にて、現在の指状態が簡易操作用指状態でないと判定された場合はS69に進む。S69では、表示モードを、位置指示画像200Hの表示が禁止される表示禁止モードに設定し、これを制御回路18の記憶部18dの所定記憶領域(表示モード記憶部)に記憶する。これにより、S67及びS68にて実施される位置指示画像200Hの表示が実行されず、表示装置15の表示画面200には、例えば図5(c)に示すように、位置指示画像200Hが表示されない。
 S68及びS69の終了により本処理は終了となるが、本処理は終了後も所定周期で繰り返し実施される。
 なお、図21の処理においては、複雑操作画面において上記表示モード切替制御が実施され、簡易操作画面において表示許可モードが固定的に設定される実施例であったが、複雑操作画面において表示禁止モードが固定的に設定され、簡易操作画面において上記表示モード切替制御が実施される実施例としてもよい。
 1.10 第十実施例
 以下、本実施形態の第十実施例について説明する。
 また、上記実施例のような操作入力装置において、その表示装置では、遠隔操作部(タッチパネル12a)を操作する手を実際に操作画面上に表示すると、手が遠隔操作部に近い場合には、図4(c)に示すように、指のみが表示された状態となる。ところが、多数本の指が同時に並んで表示されていると、どの指で操作してよいかの迷いが生じるし、表示された指と、実際に操作者が位置指示に使いたい指との対応関係がわからなくなって、誤操作を招く可能性もある。特に、上記操作入力装置が車両用のものである場合、車両運転中の運転者は操作画面を凝視できないので、運転しながらの多数本指での操作入力は難しく、誤操作を生じやすい。
 このような課題を解決するべく、位置指示に使用する実際の指を容易に特定できるよう位置指示画像表示処理を、遠隔操作部(タッチパネル12a)の手前側で対向する手において指を特定する指特定ステップと、特定された指から遠隔操作部への操作に使用する、あるいは使用すると推定される操作対象指を指定する操作対象指指定ステップと、表示画面上の背景画像200Bに合成ないしは重畳する形で、特定された指の指示位置を示す位置指示画像200Hを表示する表示ステップであって表示される位置指示画像200Hのうち、指定された操作対象指に対応する位置指示画像200Pを、当該操作対象指とは異なる指に対応する位置指示画像200Rよりも相対的に強調する強調表示にて行う位置指示画像強調表示ステップと、を有するようにして実施することができる。これにより、図27や図28に示すように、指定された操作対象指(ここでは人差し指1本)が残余の指に対し強調して表示され、操作性が向上する。なお、制御回路18は、これら各ステップを実施することにより、指特定部あるいは手段、操作対象指指定部あるいは手段、位置指示画像強調表示部あるいは手段として機能する。
 具体的には、上述した各実施例において、図9のS6に対応する処理を、図25のような処理として実施することでなされる。
 1.10.1 第十実施例の第一変形
 図25において、T1では、制御回路18が、タッチ操作面(遠隔操作面)12a1の手前側(ここではカメラ12bの逆側)にて、当該タッチ操作面12a1に対向する手の指を特定する(指特定ステップ)。ここでは、図9のS1と同様、カメラ12bによって撮影された撮影画像150Hに基づいて、操作者の手指の画像を取得したか否かを判定する。判定結果は制御回路18に出力され、手指の画像が認識されたと判定された場合にはT2に進み、判定されなければ本処理を終了する。
 T2では、制御回路18が、取得した指画像150Fから指先を検出する。指先の検出は、特定された指画像150Fから指先Qを特定する形で行う(指先特定ステップ)。本実施例における指先Qの特定は、図29に示すような形で行われる。即ち、図29(a)に示すように指画像150Fが特定されると、画像処理部18aが、特定された指画像150Fを含む手画像150Hと、当該手画像150Hをその指画像150Fの指長さ方向に所定量だけずらした移動手画像160Hとを互いに重ね合わせて、互いの指画像150H,160Hが重ならない非重畳領域170を特定し、当該非重畳領域170の重心位置を算出する。そして、当該重心位置を指先(指先位置)Qと特定する。なお、指先Qの特定方法は他の方法であってもよく、例えば湾曲して表れる指先の輪郭を抽出・平滑化した上でその曲率中心として定めてもよい。また、指先Qの特定方法は、上記のように指の一点として特定するのではなく、指の第一関節までの領域を指先(指先領域)Qとして特定するものであってもよい。
 なお、T1とT2は、それぞれ指特定処理と指先特定処理を行うステップであるが、これらを同時に実行してもよい。即ち、指画像から指先を特定するのではなく、カメラ12bによって撮影された撮影画像から直接指先を特定し、指先の特定によって指を特定するという処理としてもよい。これにより処理が簡略化される。
 続くT3では、制御回路18が、遠隔操作部への操作に使用する、あるいは使用すると推定される操作対象指(位置指示用の指)Pを指定する(操作対象指指定ステップ)。具体的には、特定された指先Q同士の、タッチ操作面方向(タッチ操作面12a1の広がる方向、即ち該タッチ操作面12a1の法線に対し垂直をなす方向)における位置関係を反映した位置関係情報を指定指情報として取得し(指定指情報取得ステップ)、その上で、取得された該位置関係情報に基づいて、T1により特定された指のうち、当該位置関係に関する予め定められた選定条件に最も適する位置関係情報を有した指を優先して操作対象指Pとして指定する。
 なお、操作対象指Pとして、複数本の指を指定することができるが、接触式操作部12aへの操作が分かり易くなるように位置指示するという観点からすると、1本又は2本といった比較的少数の指を指定するものとすることが望ましい。本実施例においては1本である。さらに、指定対象となる指の種類としては、位置指示において好適とされる人差し指(図27及び図28の(c)を参照)、中指(図47参照)、あるいは人差し指及び中指の2本(図48参照)を想定することが望ましく、本実施例においては人差し指を想定している。
 本実施例のT3の処理は、図26のフローチャートに示す処理として実行される。即ち、T11にて、図29(c)のように特定された指先Qを仮想的な二次元座標系の面180上にて特定し、その面180上に定められた1本の軸Xにより、上記二次元座標系内に別の一次元座標系を定める。ここでは、特定された指先Qをタッチ操作面12a1に向けて(遠隔操作部との対向方向に)投影し、その投影面を上記の面180とし、該投影面上の予め定められた位置に1本の軸Xを設定して一次元座標系を定める。T12では、面180上にて特定された指先Qの当該一次元座標系における位置座標(座標値)XQを特定し、その位置座標XQを反映した軸座標情報を、位置関係情報として取得する。その上で、T13にて、取得された該軸座標情報に基づいて、図25のT1にて特定された指のうち、当該軸座標情報に関する予め定められた選定条件に対し適する指を優先して操作対象指Pとして指定する。
 また、本実施例においては、右ハンドルの車両を前提として、助手席搭乗者の右手による操作が想定されており、さらに、操作対象指Pとしてその操作者の人差し指が指定されるように軸Xが設定されている。このため、T11では、図30に示す位置に軸Xが設定されている。T12では、設定されたこの軸Xに向けて指先Qを投影し、投影された各位置の座標値X1~X3を算出するとともに、T13では、取得した座標値X1~X3のうち座標値が最も大きい指先Qを特定して、この指先Qを有する指が人差し指であると推定し、この指を操作対象指Pとして指定している。
 また、本実施例における軸Xは、図30に示すように、右手の人差し指が位置しにくい撮影画像の右下から、右手の人差し指が位置しやすい左上に向かうように決められているが、例えば、図31や図32のような設定であってもよい。図31の場合は、最も座標値が大きいものを中指として推定することに適しており、さらに操作手が左右のいずれであるか推定ないし特定できれば、その中指に隣接する指を人差し指として推定することもできる。図32の場合は、操作手が左右のいずれであるか推定ないし特定できれば、左右いずれかの最も端にある指を人差し指として推定することに好適であり、それに隣接する指を中指として推定できる。
 なお、本実施例において、カメラ12bによって撮影された撮影画像は、指先Qをタッチ操作面12a1に向けて投影した投影面180ということができる。従って、カメラ12bによって撮影された撮影画像におけるタッチ操作面12aが位置する操作パネル画像領域(タッチ操作面12aが映る領域:ここでは撮影画像150の全領域)と、上記投影面180とは、同一の座標系を有する二次元平面として認識することができ、操作パネル画像領域上の指先Qの座標位置を、そのまま投影面180における投影された指先Qの座標位置として使用することができる。T3では、この仮想的に定められる投影面180における座標系上での計算により操作対象指Pを指定しており、画像処理を要することはない。つまり、操作対象指Pの指定処理に画像データを使用しないため演算コスト(演算量・メモリ量)を低減することができる。
 図25に戻る。T4では、制御回路18が、図33(c)に示すように、表示装置15の表示画面上の背景画像200Bに合成ないしは重畳する形で、特定された指先Qに対応する該表示画面上の位置に、位置指示用の画像200Hを表示する。ただし、この表示は、表示される位置指示画像200Hのうち、指定された操作対象指Pに対応する位置指示画像200Hの表示領域200Pを、当該操作対象指Pとは異なる残余の指Rに対応する位置指示画像200Hの表示領域200Rよりも相対的に強調して表示する強調表示の形でなされる。これにより、操作対象指Pの視認性が向上し、操作すべき指がユーザーに伝わりやすく、また、操作性も向上する。
 本実施例においては、制御回路18が、まず、表示装置15の表示画面と撮影された手指との位置関係を特定する。つまり、撮影された指が、表示画面上のどの位置に対向するのかを特定する。本実施例においては、カメラ12bによって撮影された撮影画像150上に、タッチ操作面12aが位置する操作パネル画像領域(タッチ操作面12aが映る領域:ここでは撮影画像150の全領域)を特定するとともに、当該操作パネル画像領域上に二次元の操作座標系を設定して、撮影された指の位置を当該操作座標系上で特定する。そして、該操作座標系上で特定された指の位置に対応する、表示装置15の表示画面上における位置を、当該表示画面上に定められた二次元の表示座標系において特定する。
 その上で、表示装置15の表示画面上にて特定された位置に、図33(a)に示すように、位置指示画像200Hをメイン画像200Bの対応する位置座標に重ね表示される。そして、上記した位置指示画像200H(200P,200R)の強調表示を、図61に示すように、所定時間t1をかけて段階的に強調レベル(強調度合い)を変化させる形で行う。つまり、強調表示変化の過程において、図33(b)に示すような変化途中状態を有し、このような強調変化途中状態を経て、図33(c)のような強調変化が完了するようにする。強調表示によって特定されていない指を見えにくくした場合、いきなりそれらの指を見えにくくしてはどの指が強調されているのか認識しづらくなる可能性がある。このため、最初は図33(a)のようにすべての指を同じように表示し、その上で、段階的に強調レベルを変化させれば、ユーザーにとって画面上に表示された指と自分の指との対応づけが容易になる。
 また、強調表示は、位置指示画像200Hの指表示領域200Pないし200Rの全体、輪郭、輪郭内部のみに対し、色の変化(図63参照)、濃淡の変化(図63参照:なお、操作対象指以外の指を消してもよい)、形状変化(図64:ここでは一例として操作対象指Pを相対的に太くしている)、別画像への切り替え、透過度の変化(図27参照)、点滅(図65参照)、あるいはそれらの組み合わせにより行う。本実施例においては、位置指示画像200Hをなす加工画像の輪郭内部の透過度を変化する形で実行する。また、ここでの強調表示は、操作対象指Pに対応する位置指示画像200Hの表示領域200Pの強調状態を一定に保持し、残余の指Rに対応する位置指示画像200Hの表示領域200Rの強調レベルを減じる形で行われている。残余の指Rに対応する位置指示画像領域200Rは消去されてもよいが、操作性を考慮すれば、消去時よりも強調レベルは低くなるものの比較的容易に視認できる状態であるとよい。
 また、T4における強調表示は、図61に示すように、T3において操作対象指Pが指定されるに伴いすぐに開始されるようにしてもよいし、図62に示すように、T3にて操作対象指Pが指定されてから所定時間経過した後に開始されるようにしてもよい。特に、強調表示が段階的になされないような構成の場合は、後者が選択されることが望ましい。
 T4の終了により本処理は終了となる。なお、本処理は終了後も所定周期で繰り返し実施され、操作パネル12aに対向する手が移動すると、これに合わせて、表示装置15の表示画面に表示される位置指示画像200Hの表示位置も移動する。強調変化途中で手が動いた場合は、強調変化を継続しながら位置指示画像200H(200P及び200R)の表示位置が移動し、強調変化が完了している状態で手が動いた場合には、当該強調状態を保持したまま位置指示画像200H(200P及び200R)の表示位置が移動する。
 なお、この位置指示画像の表示処理には、指特定ステップ、指先特定ステップ、操作対象指指定ステップ、位置指示画像強調表示ステップ、指定指情報取得ステップが含まれており、制御回路18は、CPUにより当該処理を実行することで、これら各ステップを実行する部あるいは手段(指特定部あるいは手段、指先特定部あるいは手段、操作対象指指定部あるいは手段、位置指示画像強調表示部あるいは手段、指定指情報取得部あるいは手段)として機能する。
 1.10.2 第十実施例の第二変形
 操作対象指Pの指定方法は、図34~図36に示すようにすることもできる。ここでは、図34のフローチャートに示すように、T21にて、図25のT2にて特定された指先Qをタッチ操作面12a1に向けて投影し、その投影面180上の予め定められた領域に基準領域Yを設定し(図35又は図36参照)、T22にて、設定された基準領域Yと投影された指先Qとの間の距離を反映した距離情報を位置関係情報として取得し(指定指情報取得ステップ)、T23にて、取得された該距離情報に基づいて、図25のT1にて特定された指のうち、当該距離に関する予め定められた選定条件に対し適する指を優先して操作対象指Pとして指定する(操作対象指指定ステップ)。
 なお、本実施例においても、上記実施例と同様に仮想的に定められた面180上に指先Qを特定し、さらに上記基準領域Yを定める(T21)。その上で、上記各距離を算出し(T22)、それに基づいて操作対象指Pを指定する(T23)。ここでは、操作対象指Pとして操作者の中指が想定されており、上規格距離の最も長い指が操作対象指Pとして指定される。なお、基準領域Yは面積を持つ領域として定めてもよいし、面積を持たない点や線として定めてもよい。
 また、基準領域Yは、例えば図35のように、カメラ12bにて指が撮影される状態において手の甲が位置すると推定される予め決められた位置に配置することができる。この場合の距離情報は、T1にて特定された指の長さを直接反映はしないもののそれに関連する情報であり、その距離の長さから、特定の指を指定できる。例えば、当該距離が最も長い指を中指と推定できるし、さらに操作手が左右のいずれであるか推定ないし特定できれば、その中指に隣接する指を人差し指として推定できる。また、操作対象指Pとして人差し指等を想定する場合には、2番目に長い指を人差し指と推定し、指定してもよい。
 また、基準領域Yは、例えば図36のように、カメラ12bにて指が撮影される状態において操作対象指Pとして想定する指の指先が最も位置しやすい位置に配置することができる。この場合、基準領域Yとの距離が最も短い指先Qを有する指を操作対象指Pとして指定することができる。図36の場合は、操作手が右手である場合を想定しており、最も左上に位置している。
 1.10.3 第十実施例の第三変形
 操作対象指Pの指定方法は、図37及び図38に示すようにすることができる。ここでは、図37のフローチャートに示すように、T31にて、図25のT1にて特定された各指の形状に係る指形状情報を指定指情報として取得し(指定指情報取得ステップ)、T32にて、取得された該指形状情報に基づいて、T1にて特定された指のうち、当該指の形状に関する予め定められた選定条件に最も適する接近距離情報を有した指を優先して操作対象指として指定する(操作対象指指定ステップ)。
 指形状情報としては、図25のT1にて特定された指同士の、タッチ操作面方向における長さ関係に係る指長情報を定めることができる。具体的にいえば、図25のT2において特定された指先Qから、撮影画像150上に表れる指端縁の線分の中点に相当する位置までの長さd1~d3(図38参照)を算出し、これらを上記指長情報とすることができる。この場合、指長情報は、T1にて特定される指の長さが反映された情報であるから、その長さから特定の指を指定できる。例えば、当該距離が最も長い指を中指と推定できるし、さらに操作手が左右のいずれであるか推定ないし特定できれば、その中指に隣接する指を人差し指として推定できる。また、操作対象指Pとして人差し指等を想定する場合には、2番目に長い指を人差し指と推定し、指定してもよい。この構成によると、操作に使用する意図が無いような中途半端にのびた指が位置指示用に指定される可能性を確実に排除することができる。なお、指長情報d1~d3は、少なくとも各指の長さを反映した情報であればよく、例えば、湾曲する指先の先端位置から、撮影画像150上に表れる指端縁までの指の長さ方向に沿った距離としてもよい。
 また、指形状情報としては、図25のT1にて特定された指同士の、タッチ操作面方向における幅の関係に係る指幅情報を定めることもできる。具体的にいえば、図25のT2において特定された指先Qを通り、その指の長さ方向に垂直な幅方向の長さw1~w3(図38参照)を、上記指幅情報とすることができる。この場合、指幅情報は、指がタッチ操作面12a1に接近しているほど大きく表れるから、当該タッチ操作面12a1への接近距離関係を反映した接近距離情報ともいうことができ、最も指幅の大きい指を操作対象指Pとして指定することができる。なお、指幅情報w1~w3は、少なくとも各指の幅を反映した情報であればよく、上記とは別の位置にて算出された指幅であってもよい。
 1.10.4 第十実施例の第四変形
 操作対象指Pの指定方法は、図39に示すようにすることができる。T41にて、図25のT1にて特定された指によりタッチ操作面12a1へのタッチ操作位置Tを検出して、T42にて、検出されたの初回のタッチ操作を行った指を操作対象指Pとして指定する(操作対象指指定ステップ)。つまり、タッチ操作面12a1へのタッチ操作位置Tを指定指情報として取得し、これに基づいて操作対象指Pを指定する。この構成によると、強調表示の開始トリガーが、ユーザーのタッチ操作として定められているので、強調表示による表示変化を見逃すことが無くなる。なお、この場合、指定された操作対象指Pは、手操作により移動する際に追跡され、当該指Pが画面から消失するまで、あるいは新たなタッチ操作がなされるまで指定され続ける。あるいは、画面から消失した後、再び画面上に現れた際にも同じ指が操作対象指Pとされるように、他の指Rとの位置関係情報や当該指Pの指形状情報等の条件を、制御回路18内の記憶部18dに記憶して、これに基づいて操作対象指Pを指定するようにしてもよい。
 1.10.5 第十実施例の第五変形
 操作対象指Pの指定方法は、図40及び図41に示すようにすることができる。ここでは、図40のフローチャートに示すように、T51にて、図25のT1にて特定された指によりタッチ操作面12a1へのタッチ操作位置Tを検出し、該タッチ操作位置Tが検出されるに伴いT52にて、図41に示すように、検出されたタッチ操作位置Tに最も近い指を操作対象指Pとして指定する(操作対象指指定ステップ)。なお、この場合、図25のT4における強調表示は、タッチ操作面12a1へのタッチ操作がなされるに伴い(すぐに)開始されるようにしてもよいし、タッチ操作面12a1へのタッチ操作がなされてから所定時間経過した後に開始されるようにしてもよい。特に、強調表示が段階的になされないような構成の場合は、後者が選択されることが望ましい。
 なお、上記第十実施例の第四変形及び第五変形において、誤ってタッチ操作面12a1に触れてタッチ操作をしてしまった場合に、強調表示が開始されないようにすることができる。具体的にいえば、T41又はT51におけるタッチ操作として、通常のタッチ操作(操作入力が有効となるタッチ操作)よりも操作負担が大となるタッチ操作を強調表示開始操作として定めることができる。例えば、強調表示開始用のタッチ操作(強調表示開始操作)として、通常のタッチ操作よりも入力が有効となるまでの押圧操作継続時間が長いタッチ操作を定めたり、通常のタッチ操作よりも強い押圧操作力によるタッチ操作を定めたりすることができる。この場合、T41又はT51において、定められた強調表示開始操作があった場合に限りT42又はT52にて進み、強調表示開始操作がない場合は、当該強調表示開始操作があるまで強調表示を開始しない待機状態とするようできる。
 1.10.6 第十実施例の第六変形
 操作対象指Pの指定方法は、図42及び図43に示すようにすることができる。ここでは、図42のフローチャートに示すように、T61にて、撮影された指の画像の輝度情報を指定指情報として取得し(指定指情報取得ステップ)、T62にて、取得された輝度情報に基づいて、撮影された指の画像のうち、当該輝度情報に関する予め定められた選定条件に対し適する指を優先して操作対象指Pとして指定する(操作対象指指定ステップ)。カメラ12bは、タッチ操作面12a1を操作する手の反射光を捉える形で撮影を行うので、該タッチ操作面12a1に最も近い指先ほど高輝度に表れる。つまり、輝度情報とは、既に述べた接近距離情報(指定指情報)であるといえる。一方で、タッチ操作面12a1を操作する指先は、当該タッチ操作面12a1に近い指ほど位置指示の可能性が高いから、例えば、輝度の最も高い指を優先して操作対象指Pとして指定するように構成することができる。
 カメラ12bは、図3に示すように、光源12cの反射光を捉える形で撮影を行っている。従って、撮影映像150に現れる色の階調には反射光強度が反映されており、高強度の反射光を捉えたところほど階調レベルが高く現れる。つまり、本実施例のカメラ12bにより撮影される撮影映像150は多階調の撮影画像(本実施例ではモノクロの撮影画像)であるから、画像処理部18aでは、これを予め定められた階調閾値を用いて各画素の階調レベルを2値化して、図29の(a)のようにし、当該階調閾値を上回る領域を接近対象物画像150Hとして抽出する。また、画像処理部18aでは、抽出された接近対象物画像150Hから人の手・指の画像を特定するために、まずは、当該接近対象物画像150Hの形状と、制御回路18の記憶部18dに記憶された手や指の形状パターンと比較して、それらパターンに合致する接近対象物画像150Hを手指の画像として認識する。本実施例においては、手や指の画像を特定するための上記階調閾値を第一の階調閾値とし、さらに、それよりも高い第二の階調閾値を定め、当該第二の階調閾値を越える領域L1(図43参照)を有する指先の指を、操作対象指Pとして指定することができる。また別の方法として、指先Qの輝度または、指先Qを基準にする予め決められた領域の平均(または最大/最小)輝度の比較により操作対象指Pを指定してもよい。なお、図43の領域L1~L3は、撮影映像150において輝度の異なる領域を示すものであり、L1,L2,L3の順で輝度が低くなっている。
 つまり、ここでは、図25のT1が、カメラ12bにより撮影された画像の輝度に基づいて指画像を特定して、当該指画像により指を特定するステップであり、図25のT2が、カメラ12bにより撮影された手の画像を用いて指先を特定するステップである。さらに、図25のT3は、同じくカメラ12bにより撮影された手の画像の輝度に基づいて、操作対象指Pを特定するステップである。従って、本実施例においては、カメラ12bの撮影画像から、指の特定、指先の特定、さらには操作対象指Pの指定までもが可能となっている。
 また、ここでは、指全体ではなく指先部分の画像情報を使用して、操作対象指Pを指定する処理とする。これにより、操作対象指Pの指定処理の対象となるデータを限定することが可能となり演算コスト(演算量・メモリ量)を低減することができる。具体的にいえば、図43に示すように、T2で特定された指先Qを中心に、指先全体が含まれる所定形状(ここでは四角)の領域Sを設定し、T1で特定された全ての指に関し、T61にて当該領域Sにおける輝度情報を特定・取得し、T62にて、取得した輝度情報のうち最も高輝度である領域Sの指を優先して操作対象指Pとして指定するようにしている。
 1.10.7 第十実施例の第七変形
 操作対象指Pの指定方法は、図44~図46に示すようにすることができる。ここでは、図44のフローチャートに示すように、T61にて、図25のT1にて特定された指先の、タッチ操作面12a1への接近距離関係を反映した接近距離情報を指定指情報として取得し(指定指情報取得ステップ)、T62にて、取得された接近距離情報に基づいて、指特定ステップにより特定された指のうち、当該接近距離に関する予め定められた選定条件に対し適する指を優先して操作対象指として指定する(操作対象指指定ステップ)。ただし、この構成の場合、タッチ操作面12a1と操作手の指先との距離を検出する手段が必要となる。上記第十実施例の第五変形のように輝度を接近距離情報として取得することもできるが、例えば図45に示すように、カメラ(撮影部あるいは手段)40を、接近距離情報を取得するための部あるいは手段とすることができる。カメラ40は、タッチ操作面12a1と操作手の指先との距離が映るように配置され、その撮影画像(例えば図46)から、制御回路18が、タッチ操作面12a1に対する操作手の各指の指先との距離d1~d4を算出して、例えば最も距離の近い指先の指を操作対象指Pとして指定することができる。図46は、図45のカメラ40による撮影映像の一例である。
 1.10.8 第十実施例の第八変形
 なお、上記した位置関係情報、指形状情報等の複数種の指定指情報を組み合わせる形で、操作対象指を指定してもよい。これにより、人差し指や中指といった決められた種類の指をより正確に特定することが可能となる。
 1.10.9 第十実施例の第九変形
 手画像撮影部あるいは手段をなすカメラ12bは、タッチパネル12aの裏面12a2側から撮影するものではなく、例えば、図15のように取り付ける構成としてもよい。また、手画像撮影部あるいは手段をなすカメラ12bは、図15のカメラ20に兼用させてもよい。
 図15のカメラ20のように、撮影範囲が、操作パネル12aの操作者の手だけでなく、その手から続く腕まで映るように定められている場合は(例えば図8の撮影画像300)、撮影される操作パネル周辺画像を取得する制御回路18では、画像処理部18aにて、手からのびる腕の方向を特定して、操作者が左右いずれの搭乗者であるかを特定できる。これにより、タッチ操作面12a1の操作者が、該タッチ操作面12a1の左側に位置する者であれば、その操作手を右手と特定することができるし、該タッチ操作面12a1の右側に位置する者であれば、その操作手を左手と特定することができる。
 そして、制御回路18は、その操作手の特定結果に基づいて、操作対象指Pの指定条件を切り替えるようにすることができる。具体的にいえば、操作対象指Pとして人差し指を特定する場合には、操作手が左手の場合は、最も右に出現する指として特定したり、最も長く表れる中指の右に隣接する指として特定することができ、他方、操作手が右手の場合は、最も左に出現する指として特定したり、最も長く表れる中指の左に隣接する指として特定することができる。従って、操作対象指Pを指定する際に、操作手が左手であるか右手であるかに応じて選定条件が切り替わる場合は、当該操作手の特定結果に基づいて、その切り替えを行うようにすることができる。また、操作手が運転者の手と特定された場合に、操作ができないよう表示を行わないようにしてもよい。こうすると、左側の助手席搭乗者のみを操作者として指定できるから、操作手として絶えず右手を定めることができ、ひいては、これを操作対象指Pの選定条件に予め反映しておくことができる。
 図8の撮影画像300においては、符号300Hが手画像、符号300Aが手から続く腕の画像、符号312aが操作パネル12aの映った領域であり、操作パネル12aの操作者の腕は撮影画像の右側から、即ち運転席側から延びているので、当該操作者が運転者であると特定される。
 この場合、このカメラ20が、制御回路18(画像処理部18a)とともに操作者特定部あるいは手段として機能している。なお、操作パネル12aの操作者が運転者であるか否かを特定する方法は、他の方法であってもよい。例えば、タッチ操作面12aの車両左右両側にそれぞれ接近物を検知する接近物検知部(例えば赤外反射センサ等の反射式光学センサ)を設け、これにより操作者を特定してもよい。
 1.10.10 第十実施例の第十変形
 上記した全ての第十実施例において、上記のような強調表示を、2以上の指が特定された場合にのみ実施するようにしてもよい。指特定部あるいは手段として機能する制御回路18は、指の本数を特定することが可能であるから、特定された指本数が2以上である場合に上記第十実施例に係る位置指示画像表示処理を実行し、1本の場合には、その指に対応する位置指示画像のみを表示するシンプルな表示処理を実行するように構成するようにできる。
 1.10.11 第十実施例の第十一変形
 上記した全ての第十実施例において、遠隔操作部は接触操作(プッシュ操作やタッチ操作)を前提としているため、1本の指を位置指示用に指定している。さらに、場合によっては図48に示すように2本の指を位置指示用に指定するように構成できることも述べられている。ところが、遠隔操作部は、ダイアル操作部等のような、操作ノブをつまむ形での操作が前提となる操作部であってもよく、この場合は、2本あるいは3本といった本数の指を操作対象指Pとして指定することもできる。なお、つまむ形での操作における指の特定ないしは指先の特定は、上記した接近距離情報(遠隔操作面への接近距離関係を反映した情報)を用いて行うことができる。
 例えば、図49に示すように、本実施形態の遠隔操作部としてダイアル操作部12a’(ダイアルノブ周辺の筐体前端部121eもダイアル操作部12a’の一部とする)を設け、これを操作するために接近する手をカメラ41,42(制御回路18に接続する形で構成する)にて撮影するように構成する。カメラ41,42は、撮影範囲が異なっており、双方の撮影方向がダイアル操作部12a’の回転軸線に対し垂直な平面上にて直交するように定められている。これらカメラ41,42の撮影画像(図27及び図28の(b)と同様の2値化後の画像)150a,150bの一例が、図50(a)、(b)に示されている。一方で、操作情報入力部12の内部にも図3に示す形でカメラ12bが設置されている(図15のように外部にあってもよい)。カメラ12bの撮影画像(図27及び図28の(b)と同様の2値化後の画像)150cの一例が、図50(c)に示されている。なお、これらの画像150a,150b,150cの画像領域150Sは、操作部12a’の映った領域である。
 ここで、この構成において実施される上記のような強調表示について、その処理の流れを説明する。
 まずは、図50(a)、(b)の画像150a,150bを取得し(図25のT1に相当する処理)、画像150a,150bから抽出される手画像150Hから指先Qを特定する。その上で、指先Qの具体的な位置を特定する(図25のT2に相当する処理)。ここでは、図49に示すようなx軸、y軸、z軸を有する三次元座標系(車室内座標系)を車室内に定めて、当該座標系における位置座標として特定する。具体的には、画像150a,150bにx-z座標系、y-z座標系を定めて、これらから筐体前端部121e側に延出する突出画像150Fの先端領域に既に述べたいずれかの方法により指先Qを特定するとともに、当該指先Qの位置座標を特定して、これらから上記車室内座標系における三次元位置座標を特定する。
 続いて、操作対象指Pを特定する。ここでは、各指先Qから筐体前端部121eの前端面間までの距離を算出して、筐体前端部121eの前端面に最も近い位置にある指先Qと、それに次いで近い位置にあるQとの双方を、操作対象指Pとして特定する。なお、ここでの距離の算出は、画像150a,150bに筐体前端部121eの前端面が映るので(符号150E)、これを用いて算出してもよいし、画像150cの輝度から算出してもよい。
 そして、特定された操作対象指Pの指先Qに対応する位置指示画像200Hの位置指示領域200Q(200P)を、他の指先Qに対応する位置指示画像200Hの位置指示領域200Q(200R)よりも強調する形で、図51に示すような形で背景画像200Bに重ねて表示する、あるいは合成して表示する。なお、図51における背景画像200B(200B3)は、スイッチ画像200Iとして、ダイアルスイッチ画像が表示されており、遠隔操作部をなすダイアル操作部12a’の回転操作に応じた回転表示がなされ、回転位置に応じた制御内容が実施される。
 なお、ここでの操作対象指Pの指定方法は、既に述べた第十実施例の第二変形のように、特定された指先Qを、遠隔操作部をなすダイアル操作部12a’に向けて(ダイアル操作部12a’との対向方向に)投影し、その投影面180上の予め定められた領域に設定される基準領域Yと投影された指先Qとの間の距離を反映した距離情報を位置関係情報として取得して、取得された該距離情報を用いて、当該距離に関する予め定められた選定条件に対し適する指を優先して操作対象指Pとして指定する。なお、ここで設定される基準領域Yは、図53に示すように、ダイアル操作部12a’を投影面180に投影した投影領域120の中心位置として設定することができる。
 また、ここでの操作対象指Pの指定方法は、少なくとも親指が含まれるように定められるような方法であるとよい。具体的には、他の指との太さの違い、他の指との位置関係の違い、指の延出方向の違い等、様々な要素から特定できる。また、操作対象指Pが2本である場合は、残り1本の指は、親指以外で最も筐体前端部121eの前端面に近い指とすることができる。ただし、つまみ操作のしやすさから人差し指又は中指が指定されることが望ましく、例えば親指を基準として(たとえば親指からの位置関係により)指定することができる。また、上記のようなつまみ操作を前提とするような遠隔操作部の場合は、図52のように、3本の指の指先を強調してもよい。この場合は、望ましくは、親指、人差し指、中指が操作対象指Pに指定されるとよい。
 また、この実施例では、位置指示画像200Hにおける指先領域200Qを位置指示領域としているが、既に述べた他の実施例のように、位置指示画像200Hに含まれる指全体を位置指示領域としてもよい。逆に、既に述べた他の実施例において、位置指示画像200Hにおける指先領域200Qを位置指示領域としてもよい。
1.10.12 第十実施例の第十二変形
 (指ないし指先の追跡処理)
 上記した全ての実施例において適用可能な処理について、第十実施例の第十二変形として説明する。 上記した第十実施例においては、撮影映像のフレーム毎に操作対象指Pが特定される構成となっているが、この場合、操作パネル12a(12a’)と操作する手の位置関係が変わった際に、操作対象指Pが自動的に別の指に切り替わってしまう可能性がある。特に、第十実施例の第四変形や第五変形のように、遠隔操作部への接触位置(ユーザー操作)に基づいて操作対象指Pが特定される場合には、タッチ操作が基準となって操作対象指Pが特定されるため、手や指の位置が移動したからといって簡単に別の指が操作対象指Pとされることは望ましくない。また、第十実施例以外においても、簡易操作用指状態として、予め定められた簡易操作用の指の種別が特定される状態が定められているような場合(例えば人差し指や中指のいずれか又は双方が特定される指状態)も、当該種別の指が特定された後に、手や指の位置が移動したからといって、簡単に別の指が簡易操作用の種別の指として特定されてしまうことは望ましくない。このため、操作対象指P等の指が指定ないし特定された後、指定ないし特定された指の移動を追跡する処理を追加し、その追跡結果に基づいて、同一の指を継続的に指定ないし特定し続けることで、上記の問題を解決することができる。
 図54及び図55は、図25のT1で特定される全ての指を追跡するための処理、さらにいえばT2で特定される全ての指先を追跡する処理、あるいは、図9のS2(及びS2に相当する処理)で特定される全ての指(さらには指先)を追跡するための処理である。ここでは、遠隔操作部をなす操作パネル12a(12a’)を操作するために当該操作パネル12a(12a’)の手前側にて対向した手(指)を、撮影部あるいは手段であるカメラ12bにより撮影される動画像に基づいて特定するよう構成されている。この場合、操作パネル12a(12a’)の手前側にて対向する手(指)の指特定可能範囲(指先特定可能範囲)は、固定配置されたカメラ12bの撮影範囲である。カメラ12bは、当該範囲の動画像を撮影し、制御回路18は所定時間間隔おきに順次撮影された動画像フレームを取得する。
 図54及び図55の指追跡処理(指追跡ステップ)では、順次取得される動画像フレームから特定される各指先の当該フレーム内での位置を算出して、算出された位置情報を追跡情報として、制御回路18のROM等の記憶部18dに設けられた所定の追跡情報記憶部に記憶・蓄積することで、順次取得される動画像フレームから特定される各指先を識別しながら、それぞれの移動を追跡する。
 追跡情報は、図56の符号500に示すような形で記憶される。図56に示す追跡情報500には、取得した動画像フレームにて特定された各指先に指先ID(識別情報)を付与し、当該指先IDに対応付けた形で、各指先の前回の動画像フレーム(以下、前フレーム称する)及び前々回の動画像フレーム(以下、前々フレームと称する)内での位置を示す位置情報を記憶可能としている。なお、ここでの位置情報は、動画像フレーム内に定められる所定の二次元座標系上での各指先の位置座標である。図56の上図は、当該二次元座標系が定められた動画像フレーム(指特定可能範囲ともいえる)を図示したものであり、図56の追跡情報500として記憶されている、前フレームにて特定された指先の位置座標Pi(-1)及び前々フレームにて特定された指先の位置座標Pi(-2)、さらに現フレームにて特定された指先のRj(0)が表示されている。図56に示すように、新たな動画像フレームが取得されるに伴い各指先の位置座標が順次記憶・更新されていく。なお、記憶保持される位置座標は、ここでは前フレーム及び前々フレームの位置座標であって、前々フレームよりも以前のフレームの位置座標は順次消去される。
 また、追跡情報500には、最新の動画像フレーム(以下、現フレームと称する)から特定される各指先の当該フレーム上での位置を示す位置情報が含まれており、追跡情報記憶部には、当該位置情報が指先IDごとに記憶される。さらに、追跡情報には、現フレームにおいて各指先が位置するであろう予測位置(次回位置)が含まれており、追跡情報記憶部には、当該予測位置を示す予測位置情報が記憶される。さらに、現フレームにおける指先の位置情報と、現フレームに関し予測された指先の予測位置情報との対応関係を特定し、その対応結果から、指先IDごとに、現フレーム取得時における対応する指先の追跡状況が特定され、これも追跡情報として追跡情報記憶部に記憶される。追跡状況としては、指先の追跡が前フレーム時から現フレームにかけて継続している追跡継続状態(追跡中)と、前フレームまでは追跡されていた指先を現フレームにてロスト(消滅)した追跡不可状態(ロスト)と、前フレームまでは追跡されていなかった指先が新規に出現した新規出現状態(新規出現)との少なくとも3状態を有している。
 指先の予測位置の算出方法としては、例えば以下のような算出方法を例示できる。即ち、過去複数回の動画像フレーム上の各指先の位置を示す位置情報に基づいて算出する方法である。ここでは、各指の追跡情報として、前フレーム回及び前々フレーム上の各指先の位置情報が含まれているから、それら位置情報に基づいて、各指先の移動を推定し、次フレーム上の各指先の推定移動先を上記予測位置として算出する(図57参照)。具体例としては、図58(a)に示すように、各動画像フレーム上に共通に定められる動画像フレーム400上の二次元座標系において、前々フレーム上に特定される指の位置座標Pi(-2)から、前フレーム上に特定される位置座標Pi(-1)に移動した際の、当該位置座標Pi(-1)における指の速度ベクトルVi(-1)を、当該移動の移動方向及び移動距離に基づいて算出する。そして次フレームでは、位置座標Pi(-1)に位置する指が速度ベクトルVi(-1)だけ移動すると推定し、その推定移動先の位置座標Qi(-0)を算出する(Qi(-0)=Pi(-1)+Vi(-1))。算出された位置座標Qi(-0)が予測位置情報であり、追跡情報の一つとして制御回路18の記憶部18dの所定の追跡情報記憶部に記憶される。
 ただし、前フレームにおいて新規に出現した指先に対し、次フレームでの出現を予測することは、上記のように前フレームと前々フレームとの双方を用いた予測方法では実施できない。こうした場合、ここでは、前フレーム上にて特定された指先の位置情報に基づいて、当該指先の前々フレームにおける位置を仮位置として定め、この仮位置を示す位置情報と、前フレームの位置情報とに基づいて、当該指先の次フレーム上での出現位置を特定する。この仮位置の決定方法は以下の通りである。即ち、図59に示すように、動画像フレーム(指先特定可能範囲)400内の領域を、各縁部(ここでは上下左右の縁部)に対応付けた形で予め区画して(区画線は破線で図示)、各縁部401(401a~401d)に対応する縁部対応領域410を設定しておき、その上で、まずは、前フレーム上にて特定された指先位置Pi(-1)が存在する縁部対応領域410(401A~401D)を特定する。Pi(-1)が存在する縁部対応領域410が特定された場合には、当該Pi(-1)に最近接する当該縁部対応領域410の縁部401上の位置を、前々フレームの仮位置として決定する。つまり、前フレーム上にて特定された指先位置Pi(-1)を通過し、当該指先位置Pi(-1)が存在する縁部対応領域410の縁部401に向かう垂線と、当該縁部401との交点を仮位置Pi'(-2)と定める。
 なお、上記の指先の予測位置の算出方法は、前フレーム回及び前々フレーム上の各指先の位置情報に基づいて算出する方法であったが、より高い精度で算出するために、図58(b)に示すように算出する。即ち、各動画像フレーム上に共通に定められる動画像フレーム400上の二次元座標系において、現フレームから1回前フレーム上に特定される位置座標Pi(-1)上における指の速度ベクトルVi(-1)と加速ベクトルAi(-1)をそれぞれ算出し、次フレームでは、当該位置座標Pi(-1)に位置する指がこれら速度ベクトルVi(-1)と加速ベクトルAi(-1)の分に相当する移動が生ずると推定して、その推定移動先の位置座標Qi(-0)を算出する(Qi(-0)=Pi(-1)+Vi(0)=Pi(-1)+Vi(-1)+Ai(-1))。まずは、現フレームから3回前のフレーム上に特定される指の位置座標Pi(-3)から、現フレームから2回前フレーム上に特定される位置座標Pi(-2)に移動した際の移動方向及び移動距離に基づいて、位置座標Pi(-2)における当該指の速度ベクトルVi(-2)を算出する。その上でこの指を、動画像フレーム400上の位置座標Pi(-2)から速度ベクトルVi(-2)だけ移動した先の位置座標から、現フレームから1回前フレーム上に特定される位置座標Pi(-1)に移動した際の移動方向及び移動距離に基づいて、加速ベクトルAi(-1)を算出する(Ai(-1)=Vi(-1)-Vi(-2)=Pi(-1)-Pi(-2)-Vi(-2))。また、速度ベクトルVi(-1)は、現フレームから2回前フレーム上に特定される位置座標Pi(-2)から、現フレームから1回前フレーム上に特定される位置座標Pi(-1)に移動した際の、移動方向及び移動距離に基づいて算出する。
 指先の追跡状況の特定方法としては、例えば以下のような特定方法を例示できる。即ち、現フレーム上に特定された指先の位置情報と、当該指先の現フレーム上での予測位置情報とを比較し、これらの位置関係が予め定められた基準条件を満たすか否かに基づいて特定する方法である。例えば、図56に示すように、現フレームに関して算出された各予測位置情報が示す指先の位置座標Q1(-0)、Q2(-0)、Q3(-0)と、現フレームにおいて実際に特定された全ての指先の位置座標Ra(0)、Rb(0)、Rc(0)、…との中から、動画像フレーム内において最も位置が近接するペアを対応するペアを、基準条件を満たすペアとして認識するようにする。ただし、ペアをなす両位置間の距離が予め定められた基準距離を下回らないような、一定以上離れた位置関係にある場合については、当該ペアを対応するペアとして認識しないようにする。対応するペアについては、現フレームにて実際に特定された指先と、予測位置情報を算出するための根拠となった前フレームの位置情報に対応する指先とが同一の指先であると判定し、当該指先の追跡が前フレーム時から現フレームにかけて継続している追跡継続状態(追跡中)と特定する。現フレームにて実際に特定された指先のうち、対応するペアが見つからなかった指先は、新規出現状態(新規出現)として特定する。現フレームに関して算出された予測位置情報に対応する指先(前フレームにて追跡中と特定された指先)のうち、対応するペアが見つからなかった指先は、追跡不可状態(ロスト)として特定する。特定された各指先の追跡状況は、各指先IDに対応付けた形で制御回路18の記憶部18dの所定の追跡情報記憶部に記憶される。
 なお、追跡状況として追跡不可状態(ロスト)が特定された場合には、この追跡不可状態(追跡状況)や、この追跡不可状態が特定される直前のフレーム上での当該指先の位置情報と共に、他の追跡不可状態の指との追跡不可特定時期の前後関係が特定可能となる追跡不可認識順序が、追跡復帰判断情報として追跡情報記憶部(追跡復帰判断情報記憶部)に記憶される。なお、ここではこの追跡復帰判断情報も追跡情報の一つとして取り扱うこととする。
 ここで、図54及び図55に示す指追跡処理(指追跡ステップ)の流れを説明する。この指追跡処理は、制御回路18が、カメラ12bから動画像フレームを取得するたびに実行する処理であり、これにより当該制御回路18が指追跡部あるいは手段として機能する。
 まずR201(図54)では、制御回路18が、カメラ12bによる動画撮影により取得した新たな動画像フレーム(現フレーム)内に、指先が特定されるか否かを判定し、指先が特定された場合にはR202に進み、指先が特定されなかった場合にはR215に進む。なお、指先の特定方法については、図25のT1及びT2と同様である。
 R202では、制御回路18が、現フレーム上に特定される各指先と、前フレーム上に特定される各指先との対応関係を特定する。ここでは、現フレームにおける指先の位置情報と、現フレームに関し予測された指先の予測位置情報との対応関係を特定し、その対応結果から、現フレーム取得時における各指先の追跡状況が、追跡継続状態(追跡中)・追跡不可状態(ロスト)・新規出現状態(新規出現)・未特定(未出現)のいずれの状況にあるかを、指先IDごとに特定する。特定された追跡状況は、図56の符号500に示すような形で、対応する指先IDごとに制御回路18の記憶部18dの所定の追跡情報記憶部に記憶する。ここでは、前フレーム上に特定された指先と上記基準条件を満たす、現フレーム上に特定された指先が存在する場合を、追跡継続状態(追跡中)と認識し、前フレーム上に特定された指先のいずれとも上記基準条件を満たさない、現フレーム上に特定された指先が存在する場合を、新規出現状態(新規出現)と認識し、現フレーム上に特定されたいずれの指先とも上記基準条件を満たさない、前フレーム上に特定された指先が存在する場合を、追跡不可状態(ロスト)と認識する。
 R203では、前フレーム上に特定された指先と現フレーム上に特定された指先とにおいて同一の指が存在するか否か、言い換えれば、現フレーム上に追跡継続状態(追跡中)の指先が存在するか否かを判定する。追跡継続状態(追跡中)の指先が存在する場合にはR204に進み、追跡継続状態(追跡中)の指先が存在しない場合は図55のR205に進む。
 R204では、追跡継続状態(追跡中)の指先の指先IDに対応する追跡情報を更新する。追跡継続状態(追跡中)の指先とは前フレーム取得時に追跡情報の更新を行った指先であり、当該指先の指先IDに対応する現フレームの位置情報を、当該指先の現フレームにおける位置を示す位置情報により更新する。さらに、これまで記憶されていた現フレームの位置情報を前フレームの位置情報として更新し、これまで記憶されていた前フレームの位置情報を前々フレームの位置情報として更新する。
 R205では、前フレーム上に特定された指先のうち、現フレーム上に特定されなかった指先が存在するか否か、言い換えれば、図60に示すP1(0)ような、現フレームにて追跡不可となった指先が存在するか否かを判定する。追跡不可状態(追跡中)の指先が存在する場合にはR206に進み、追跡継続状態(追跡中)の指先が存在しない場合はR207に進む。
 R206では、追跡不可状態(ロスト)の指先の指先IDに対応付ける形で、追跡不可と認識されたときの当該指に係る情報を追跡復帰判断情報として記憶する。この追跡復帰判断情報は、後に取得される動画像フレームにおいて追跡中でない新たな指先が出現した時に、その指がここで追跡不可と認識された指であるか否かを判定するために使用される情報である。これにより、一度フレームから外れた指先が再度フレーム内に進入した場合に、両者を同じ指として認識することができ、改めてその指の追跡を行うことが可能となる。ここでは、追跡不可状態となった指先の指先IDを消去することなく記憶保持し、当該指先IDに対応付ける形で、当該指先IDに対応する前フレームの位置情報(消滅直前位置)と共に、他の追跡不可の指との追跡不可認識時期の前後関係が特定可能となる追跡不可認識順序(消滅順)を追跡復帰判断情報として記憶する。図56の場合、指先ID「2」に消滅順として「1」が付されており、後に取得される動画像フレームにて新たの指先が追跡不可となった場合には、その指先IDには消滅順として「2」が付されることになり、付された番号の大きいものほど、追跡不可認識時期が新しいと判断できる。
 R207では、現フレーム上に特定された指先のうち、前フレーム上に特定されなかった指先が存在するか否か、言い換えれば、現フレームにて新規出現した指先が存在するか否かを判定する。新規出現状態(新規出現)の指先が存在する場合にはR208に進み、追跡継続状態の指先が存在しない場合はR209に進む。
 R208では、R207にて新規出現状態(新規出現)の指先が存在すると特定された段階で、現在、追跡不可状態(ロスト)を継続している指先が存在するか否かを判定する。この判定は、図56に示す追跡情報において、追跡復帰判断情報が記憶されている指先IDが存在するか否かに基づいて行う。この段階で、追跡不可状態(ロスト)を継続している指先が存在しないと判定された場合にはR213に進み、R207にて特定された新規出現状態の指先に、これまで付されていない新たな指先IDを付与し、当該指先IDに対応付ける形で、当該新規出現状態の指先の現フレーム上にて特定された位置を示す位置情報を記憶する。さらに、当該指先IDに対応する追跡状況を追跡不可状態から追跡継続状態(追跡再開)に変更し、これまで継続的に記憶保持していた追跡復帰判断情報を消去する。R213を終了すると、本処理は終了となる。他方、R208にて、追跡不可状態(ロスト)を継続している指先が存在すると判定された場合にはR209に進む。
 R209では、新規出現の指先のうち、現在、追跡不可状態(ロスト)を継続している指先と同一の指があるか否かを特定する。具体的には、R207にて実際に特定された新規出現の指先の現フレームにおける位置情報と、追跡情報500に含まれる追跡不可状態の指先の最後の位置を示す位置情報(追跡復帰判断情報)とに基づいて、追跡不可状態となっている指先のうち、実際に特定された新規出現の指先の位置に対し、一定範囲内にて最も近接するものが存在するか否かを判定する。ここでは、現フレームにて実際に特定された各指先の指先位置と、追跡不可状態となっている各指先の指先位置との間の距離を算出し、それらの距離のうち、最も距離が短く、なおかつ予め定められた基準距離よりを下回る距離を特定して、当該距離に対応するする現フレームにて実際に特定された各指先と追跡不可状態となっている各指先とを同一の指先と判定する。ただし、一定範囲内に存在する追跡不可状態となっている指先が複数存在する場合には、追跡不可認識順序(追跡復帰判断情報)に基づいて、最も最近に追跡不可状態となった指先を、現フレームにおいて新規出現と特定された指先と同一と特定する。
 続くR210では、R209の結果に基づいて、現フレームにおいて新規出現と特定された指先のうち、追跡不可状態(ロスト)を継続している指先と同一のものが存在するか否かを判定して、存在する場合にはR211に進み、存在しない場合にはR213に進む。
 R211では、R209の結果に基づいて、現フレームにおいて新規出現と特定された指先のうち、追跡不可状態(ロスト)を継続している指先と同一と判定された指先が複数あるか否かを判定する。複数ではなく1つであると判定されている場合にはR212に進む。R212では、当該1つの指先の追跡不可状態(ロスト)における指先IDに対応付ける形で、当該指先と同一と判定された、現フレーム上で特定された新規出現の指先の位置情報を記憶し、当該指先IDの追跡情報を更新する。これにより、追跡不可状態の指先の位置追跡が再開される。なお、このとき、当該指先IDに対応する追跡状況を追跡不可状態から追跡継続状態(追跡再開)に変更し、これまで継続的に記憶保持していた追跡復帰判断情報を消去する。R212を終了すると、本処理は終了となる。
 他方、R211にて、R209の結果に基づいて、現フレームにおいて新規出現と特定された指先のうち、追跡不可状態(ロスト)を継続している指先と同一と判定された指先が複数あると判定された場合にはR214に進む。R214では、それら複数の指先のうち、追跡不可認識順序(追跡復帰判断情報)に基づいて、最も最近に追跡不可状態となった指先を特定し、特定された指先の指先IDに対応付ける形で、当該指先と同一と判定された、現フレーム上で特定された新規出現の指先の位置情報を記憶し、当該指先IDの追跡情報を更新する。これにより、追跡不可状態の指先の位置追跡が再開される。なお、このとき、当該指先IDに対応する追跡状況を追跡不可状態から追跡継続状態(追跡再開)に変更し、これまで継続的に記憶保持していた追跡復帰判断情報を消去する。R214を終了すると、本処理は終了となる。
 なお、R201において、取得した新たな動画像フレーム内に指先が特定されなかった場合には、図56に示すような追跡情報500はリセットされ、各IDに対応する情報は消去されるものとする。
 このように、カメラ12bが撮影する動画像から特定される全ての指先を、フレームアウト時も考慮して継続的に追跡することにより、操作対象指Pを同じ指に固定して定めることができる。具体的には、操作対象指Pを特定する処理によって操作対象指Pが指定された際に、図56に示すように、操作対象指Pを示す操作対象指情報を指先IDに対応付ける形で記憶しておくことで、これを参照することにより、どのタイミングにおいても操作対象指Pを特定することができる。即ち、図54及び図55のような指追跡処理を追加することにより、所定周期で繰り返し実施される図25の処理において、T3による操作対象指Pの特定処理は別途実施するものとし、T3では、指先IDに対応付けて記憶されている操作対象指情報に基づいて、操作対象指Pを特定すればよい。
 また、この指先追跡処理の適用は、図39の第十実施例の第四変形や図40の第十実施例の第五変形のように、ユーザーによりなされる操作対象指指定操作の操作内容に基づいて、操作対象指Pが指定される実施例にとって好適となる。図39の第十実施例の第四変形や図40の第十実施例の第五変形では、タッチパネル12aへのタッチ操作が操作対象指指定操作であり、当該タッチ操作の操作内容に基づいて、操作対象指Pが指定される。つまり、ユーザーによる操作対象指指定操作がなされない限り操作対象指Pが変更されない実施例であれば、動画像フレームを取得するたびに操作対象指Pを特定する演算をする必要が無くなり、各指の追跡情報から指定すべき指をピックアップするだけで、容易に操作対象指Pを特定することができる。
 また、第十実施例における操作対象指Pを、既に述べた簡易操作指状態において特定される指と一致するように構成してもよい。
 1.11 他の実施例
 以下、他の実施例について説明する。
 また、上記した実施例においては、位置指示画像200Hとして、撮影された指の輪郭形状をそのまま反映させた加工画像(実指画像)200Hを表示しているが、撮影された指の指先Q(即ち撮影された指の指示位置)を指し示す指先位置画像(ポインタ等:図67参照)200H2のように、指形状とは全く異なる画像を表示してもよい。強調表示を行うのであれば、指先Qを含む指先領域(例えば、指の第一関節までや、指先位置Qを中心とする所定半径内領域等)だけを強調して表示してもよい。この場合は、撮影された指の指先Qが、表示画面上のどの位置に対向するのかを特定して、特定された画面位置にポインタ等の所定の位置指示画像を表示する。また、位置指示画像200Hとして、撮影された指の長さ方向F及び指先Qを簡略的に示す擬似指画像(ここでは棒状の画像:図66参照)200H1等を表示してもよい。
 また、第十実施例における操作対象指Pを、既に述べた簡易操作指状態として特定される指と一致するように構成してもよい。
 また、上記実施例においては、本実施形態の遠隔操作部としてタッチパネルを設けて構成しているが、プッシュスイッチやシーソースイッチ等の押圧操作を伴うスイッチを備える操作部であってもよい。また、上記実施例においては、操作パネル12aとして抵抗膜式のタッチパネルを用いているが、他の方式のタッチパネルを用いてもよい。
 また、操作パネル12aとして、タッチ操作の位置検出を、カメラ等の撮影部あるいは手段により撮影された撮影画像への画像処理により行うものを、タッチパネルに代わって採用してもよい。具体的にいえば、操作パネル12aを、表面12a1がタッチ操作面をなす透光性を有したパネルとし、この操作パネル12aにタッチ操作面12a1側から接近する接近対象物に予め定められた波長帯の光を、当該操作パネル12aを介して照射する光源12cを設ける。そして、手画像撮影部あるいは手段をなすカメラ12bを、少なくともその光源12cから照射された光が接近対象物にて反射した反射光を捉える形で、当該接近対象物を操作パネル12a1の裏面12a2側から撮影する撮影部あるいは手段とする。さらに、制御回路18を、このカメラ12bにより撮影された画像上において、反射光の強度が予め定められた閾強度を上回る光反射領域を特定する光反射領域特定部あるいは手段として機能させるとともに、特定されたこの光反射領域(座標情報)に基づいて、当該光反射領域へのタッチ入力を受け付ける入力受付部あるいは手段としても機能させるように構成する。
 この構成によると、カメラ12bの撮影画像に予め定められた閾強度を上回る光反射領域が特定された場合に、その特定された領域にタッチ操作入力があったと判定して、入力が受け付けられる。つまり、カメラ12bの撮影画像は、上記した実施例と同様に位置指示画像の表示に利用されるだけでなく、光反射領域の特定にも利用されるように構成されている。また、この場合、特定された前記光反射領域の面積が予め定められた閾面積を上回った場合に、当該光反射領域へのタッチ操作入力を受け付けるようにすることもできる。
操作情報入力部12はいわゆるセンターコンソールの平面部に配置されているが(例えば、図2参照)、特にこれに限定されるものはなく、例えば次のような位置に配置されていてもよい。
例えば、計器類が収められたインストルメントパネルのうち、ステアリングホイールの側方に近接した位置(ステアリングホイールの右側、左側)に上記入力部12を配置してもよいし、ステアリングホイールの周りのうち該ステアリングホイールの操作の妨げとならない位置に補助パネルを設置し、該補助パネルに上記入力部12を配置してもよい。これにより、入力部12がステアリングホイールの側方に近接するから、ステアリングホイールから手を離して操作する際の負荷が軽減することになる。
 表示装置15も上記インストルメントパネルの中央部分に配置する必要はなく、例えばインストルメントパネルのうちステアリングホイールによって視界が遮られない領域に配置することも可能であるし、あるいは車両のフロントガラスに画像を投射するヘッドアップディスプレイを表示装置15としてもよいことは勿論である。
 なお、上記した各実施例について、各要素を組み合わせて実施することももちろん可能である。
 さらに、上記に説明した、各々の工程、ステップ、あるいは手段は、ソフトウエアの部分(例えば、サブルーチン)あるいは、及びハードウエアの部分(例えば、回路あるいは集積回路)として、関連する機器の機能を含みあるいは含まずに、達成できる。さらに、ハードウエアの部分はマイクロコンピュータの内部に形成されることもできる。さらに、ソフトウエアの部分あるいは、複数のソフトウエアの部分の組み合わせはソフトウエアプログラムに含めることも可能である。このソフトウエアプログラムはコンピュータで読み取り可能な媒体に含めることが出来る一方、通信ネットワークを介して、ダウンロードされコンピュータにインストールすることもできる。
 2.第2実施形態
 2.1 第一実施例
 以下、本発明の第2実施形態の操作入力装置の第一実施例を、図面を参照して説明する。第二実施形態の説明においては、第一実施形態と同一の箇所の説明は、省き、差異を中心に説明する。
 
 (構成)
 第二実施形態の操作入力装置を用いた車両用ナビゲーション装置の構成は、主に第一実施形態の図1、図3、および、図69に示される。即ち、図69では、図2にあるカメラ20は無い。
その他は、ほぼ、同一である。
 図4~図7の、操作パネル12aに対向する手(指)Hの撮影を説明する図において、第一実施形態では、図4(c)のような画面表示は行われないが、第二実施形態では、図4(c)のような画面表示を表示する場合もある。
 (位置指示画像の表示処理)
 表示装置15の表示される位置指示画像の表示処理についても、第一実施形態とほぼ同一であある。差は、所定指状態あるいは所定指形状について存在する。例えば、S2では、取得した手の画像に基づいて、その手の状態が予め定められた所定指状態であるがか否かを特定する。この場合、第一実施形態では、図75で示すが、所定指状態として、その例2として包含される簡易操作用指状態を採用している。一方、第二実施形態では、その例1の操作意思表示用指状態を採用している。よって、図9のS2,S3、図11のS24,S25、図12のS34,S35,図13のS46,S47、図14のS112,図17のS12,S13,図21のS64,S65において、各々の所定指形状は、操作意思表示用指状態を意味する。また、また、同様に、図18、図19においても、各々の所定指形状は、操作意思表示用指形状を意味する。
 さらに、操作意思表示用指状態とは、本実施例においては簡易操作用指状態であり、例えば、操作対象となりうる指、即ちタッチ操作面12aに略沿ってのびた状態の指が、1本ないし2本程度の少数である状態等である。付言するならば、入力を早くするために5本の指を使う操作は難易度の高い指状態であり、ここでいう簡易操作用指状態はこうした指状態とは異なるものである。本実施例においては、取得した手の画像にて、タッチ操作面12aの面方向(面の広がる方向)側にのびた状態の指が1本だけ表れている一本指操作状態にある場合のみを操作意思表示用指状態として特定する。その意味で、所定指形状は第一実施形態と同様とも言える。
 (タッチ操作入力処理)
 操作情報入力部12の操作パネル(遠隔操作部)12aへのタッチ操作入力処理についても、第一実施形態とほぼ同一である。差は、上記の表示処理での説明に示したと同様に、所定指状態について存在する。第一実施形態では、図75で示すように、所定指状態として、その例2として包含される簡易操作用指状態を採用しているが、一方、第二実施形態では、その例1の操作意思表示用指状態を採用している。
 第一実施形態でも説明したように、このタッチ操作入力処理においては、表示許可モードが設定されている場合には、操作パネル12aへのタッチ操作入力の受け付けが許可され(入力許可モード)、表示禁止モードが設定されている場合には、当該タッチ操作入力の受け付けが禁止される(入力禁止モード)。ただし、図9の位置指示画像表示処理においては、操作意思表示用指状態が特定されている場合に表示許可モードが設定され、操作意思表示用指状態が特定されていない場合に表示禁止モードが設定されるので、結果として、ユーザーの指状態が操作意思表示用指状態でないと、操作パネル12aへのタッチ操作入力が受け付けられないようになっている。なお、上記実施例においては、一本指状態という簡易操作用指状態が操作意思表示用指状態とされている。
 ところで、従来の方式の操作入力装置では、遠隔操作する手を実際に操作画面上に表示すると、手がタッチパネル12a(遠隔操作部)に近い場合には、図4に示すように、指のみが表示された状態となる。ユーザーの中には、早く入力するために、片手の5本の指でタッチ操作入力を行う人もおり、この場合、操作画面上では、多数本の指が同時に並んで表示されるので、表示された指と、実際に操作者が指示に使いたい指との対応関係がわからなくなり、誤操作を招き易いという課題があった。これに対し、上記実施例においては、操作意思表示用指状態としての簡易操作用指状態でないと、操作パネル12aへのタッチ操作入力が受け付けられない構成となっているので、上記のような課題を解消することができる。
 以上、本実施形態の一実施例を説明したが、これはあくまでも例示にすぎず、本実施形態はこれに限定されるものではなく、特許請求の範囲の趣旨を逸脱しない限りにおいて、当業者の知識に基づく種々の変更が可能である。以下、上記実施例を第一実施例とし、それとは異なる実施例を説明する。なお、共通する構成については、同符号を用いることで説明を略する。
 2.2 その他実施例
 第2実施形態でのその他の実施例は、同じく、第一実施形態の第2実施例以下の他の実施形態と同等である。差は、上記の表示処理での説明に示したと同様に、所定指状態について存在する。第一実施形態では、図75で示すように、所定指状態として、その例2として包含される簡易操作用指状態を採用しているが、一方、第二実施形態では、その例1の操作意思表示用指状態を採用している。よって、簡易操作指状態を操作意思表示用指状態と置き換えることで、その他の実施例の説明が可能である。また、その他、第二実施形態では、図69のように、カメラ20を含まない構成を基本としたが、第一実施形態と同様に、カメラ20を図2のように含む構成とすることで、同等なものとなる。
 また、操作意思表示用指状態としては、誤操作防止の観点からすれば、日頃ユーザーが行わないような手状態(指状態)を定めることが望ましい。また、処理の観点からすれば、より識別しやすい手状態(指状態)を定めることが望ましい。
 
  3.第3実施形態
 3.1 第一実施例
 以下、本発明の第3実施形態の操作入力装置の一実施例を、図面を参照して説明する。第三実施形態の説明においては、第一実施形態と同一の箇所の説明は、省き、差異を中心に説明する。また、図は、ほぼ同一であり、第一実施形態で説明した図を参照しながら説明する。
  (構成)
 第3実施形態の操作入力装置を用いた車両用ナビゲーション装置の構成は、主に第一実施形態の図1、図3、および、図69に示される。即ち、図69では、図2にあるカメラ20は無い。その他は、ほぼ、同一である。
 操作パネル12aに対向する手(指)の撮影をに関しては、第一実施形態とは異なり、この第三実施形態では、図27、図7、及び図6はを用いて説明する。第一実施形態との差は、操作パネル12aに複数の指が対向している場合には、図27(c)に示すように、特定の指に対応する位置指示画像200Hの表示領域が残余の指に対応する位置指示画像200Hの表示領域よりも相対的に強調された形で、背景画像200Bに対し合成ないし重畳されて表示される点である。
 (位置指示画像の表示処理)
 次に、表示装置15の表示される位置指示画像の表示処理について、図25を用いて説明する。なお、当該処理は、制御回路18の記憶部18dに格納されたプログラムをCPUが実行する形で実施される。
 T1では、制御回路18が、タッチ操作面(遠隔操作面)12a1の手前側(ここではカメラ12bの逆側)にて、当該タッチ操作面12a1に対向する手の指を特定する(指特定ステップ)。ここでは、カメラ12bによって撮影された撮影画像に基づいて、操作者の手指の画像を取得したか否かを判定する。カメラ12bは、操作パネル12aの裏面12a2側から該操作パネル12aを介してタッチ操作面(表面)12a1側に接近する接近対象物(例えば運転者等の操作者の手)Hを常時撮影しており(撮影ステップ)、その撮影画像は常に制御回路18の画像処理部18aに入力される。タッチ操作面12a1と対面する位置に接近対象物Hが進入してくると、当然その接近対象物Hを含む撮影画像150が画像処理部18aに入力される。入力された撮影画像150は、画像処理部18aにて公知の画像解析手法によって解析され、色の相違等に基づいて接近対象物画像150Hが抽出される。そして、抽出された接近対象物画像150Hの形状に基づいて、当該画像150Hに、人の手指の画像150Fが含まれるか否かを判定する。なお、手指の画像の認識は、抽出された手画像150Hの全体形状から、所定長さ以上の軸線を有する略直線的な棒状の画像パターンを識別して、当該棒状の画像パターンがあった場合に、これを指画像150Fとして認識する。判定結果は制御回路18に出力され、手指の画像が認識されたと判定された場合にはT2に進み、判定されなければ本処理を終了する。
 T2では、制御回路18が、取得した指画像150Fから指先を検出する。指先の検出は、特定された指画像150Fから指先Qを特定する形で行う(指先特定ステップ)。本実施例における指先Qの特定は、図29に示すような形で行われる。即ち、図29(a)に示すように指画像150Fが特定されると、画像処理部18aが、特定された指画像150Fを含む手画像150Hと、当該手画像150Hをその指画像150Fの指長さ方向に所定量だけずらした移動手画像160Hとを互いに重ね合わせて、互いの指画像150H,160Hが重ならない非重畳領域170を特定し、当該非重畳領域170の重心位置を算出する。そして、当該重心位置を指先(指先位置)Qと特定する。なお、指先Qの特定方法は他の方法であってもよく、例えば湾曲して表れる指先の輪郭を抽出・平滑化した上でその曲率中心として定めてもよい。また、指先Qの特定方法は、上記のように指の一点として特定するのではなく、指の第一関節までの領域を指先(指先領域)Qとして特定するものであってもよい。
 なお、T1とT2は、それぞれ指特定処理と指先特定処理を行うステップであるが、これらを同時に実行してもよい。即ち、指画像から指先を特定するのではなく、カメラ12bによって撮影された撮影画像から直接指先を特定し、指先の特定によって指を特定するという処理としてもよい。これにより処理が簡略化される。
 続くT3では、制御回路18が、遠隔操作部への操作に使用する、あるいは使用すると推定される操作対象指(位置指示用の指)Pを指定する(操作対象指指定ステップ)。具体的には、特定された指先Q同士の、タッチ操作面方向(タッチ操作面12a1の広がる方向、即ち該タッチ操作面12a1の法線に対し垂直をなす方向)における位置関係を反映した位置関係情報を指定指情報として取得し(指定指情報取得ステップ)、その上で、取得された該位置関係情報に基づいて、T1により特定された指のうち、当該位置関係に関する予め定められた選定条件に最も適する位置関係情報を有した指を優先して操作対象指Pとして指定する。
 なお、操作対象指Pとして、複数本の指を指定することができるが、接触式操作部12aへの操作が分かり易くなるように位置指示するという観点からすると、1本又は2本といった比較的少数の指を指定するものとすることが望ましい。本実施例においては1本である。さらに、指定対象となる指の種類としては、位置指示において好適とされる人差し指(図27の(c)を参照)、中指(図47参照)、あるいは人差し指及び中指の2本(図48参照)を想定することが望ましく、本実施例においては人差し指を想定している。
 本実施例のT3の処理は、図26のフローチャートに示す処理として実行される。即ち、T11にて、図29(c)のように特定された指先Qを仮想的な二次元座標系の面180上にて特定し、その面180上(図30参照)に定められた1本の軸Xにより、上記二次元座標系内に別の一次元座標系を定める。ここでは、特定された指先Qをタッチ操作面12a1に向けて(遠隔操作部との対向方向に)投影し、その投影面を上記の面180とし、該投影面上の予め定められた位置に1本の軸Xを設定して一次元座標系を定める。T12では、面180上にて特定された指先Qの当該一次元座標系における位置座標(座標値)XQを特定し、その位置座標XQを反映した軸座標情報を、位置関係情報として取得する。その上で、T13にて、取得された該軸座標情報に基づいて、図25のT1にて特定された指のうち、当該軸座標情報に関する予め定められた選定条件に対し適する指を優先して操作対象指Pとして指定する。
 また、本実施例においては、助手席搭乗者の右手による操作が想定されており、さらに、操作対象指Pとしてその操作者の人差し指が指定されるように軸Xが設定されている。このため、T11では、図30に示す位置に軸Xが設定されている。T12では、設定されたこの軸Xに向けて指先Qを投影し、投影された各位置の座標値X1~X3を算出するとともに、T13では、取得した座標値X1~X3のうち座標値が最も大きい指先Qを特定して、この指先Qを有する指が人差し指であると推定し、この指を操作対象指Pとして指定している。
 また、本実施例における軸Xは、図30に示すように、右手の人差し指が位置しにくい撮影画像の右下から、右手の人差し指が位置しやすい左上に向かうように決められているが、例えば、図31や図32のような設定であってもよい。図31の場合は、最も座標値が大きいものを中指として推定することに適しており、さらに操作手が左右のいずれであるか推定ないし特定できれば、その中指に隣接する指を人差し指として推定することもできる。図32の場合は、操作手が左右のいずれであるか推定ないし特定できれば、左右いずれかの最も端にある指を人差し指として推定することに好適であり、それに隣接する指を中指として推定できる。
 なお、本実施例において、カメラ12bによって撮影された撮影画像は、指先Qをタッチ操作面12a1に向けて投影した投影面180ということができる。従って、カメラ12bによって撮影された撮影画像におけるタッチ操作面12aが位置する操作パネル画像領域(タッチ操作面12aが映る領域:ここでは撮影画像150の全領域)と、上記投影面180とは、同一の座標系を有する二次元平面として認識することができ、操作パネル画像領域上の指先Qの座標位置を、そのまま投影面180における投影された指先Qの座標位置として使用することができる。T3では、この仮想的に定められる投影面180における座標系上での計算により操作対象指Pを指定しており、画像処理を要することはない。つまり、操作対象指Pの指定処理に画像データを使用しないため演算コスト(演算量・メモリ量)を低減することができる。
 図25に戻る。T4では、制御回路18が、図33(c)に示すように、表示装置15の表示画面上の背景画像200Bに合成ないしは重畳する形で、特定された指先Qに対応する該表示画面上の位置に、位置指示用の画像200Hを表示する。ただし、この表示は、表示される位置指示画像200Hのうち、指定された操作対象指Pに対応する位置指示画像200Hの表示領域200Pを、当該操作対象指Pとは異なる残余の指Rに対応する位置指示画像200Hの表示領域200Rよりも相対的に強調して表示する強調表示の形でなされる。これにより、操作対象指Pの視認性が向上し、操作すべき指がユーザーに伝わりやすく、また、操作性も向上する。
 本実施例においては、制御回路18が、まず、表示装置15の表示画面と撮影された手指との位置関係を特定する。つまり、撮影された指が、表示画面上のどの位置に対向するのかを特定する。本実施例においては、カメラ12bによって撮影された撮影画像150上に、タッチ操作面12aが位置する操作パネル画像領域(タッチ操作面12aが映る領域:ここでは撮影画像150の全領域)を特定するとともに、当該操作パネル画像領域上に二次元の操作座標系を設定して、撮影された指の位置を当該操作座標系上で特定する。そして、該操作座標系上で特定された指の位置に対応する、表示装置15の表示画面上における位置を、当該表示画面上に定められた二次元の表示座標系において特定する。
 その上で、表示装置15の表示画面上にて特定された位置に、図33(a)に示すように、位置指示画像200Hをメイン画像200Bの対応する位置座標に重ね表示される。そして、上記した位置指示画像200H(200P,200R)の強調表示を、図61に示すように、所定時間t1をかけて段階的に強調レベル(強調度合い)を変化させる形で行う。つまり、強調表示変化の過程において、図33(b)に示すような変化途中状態を有し、このような強調変化途中状態を経て、図33(c)のような強調変化が完了するようにする。強調表示によって特定されていない指を見えにくくした場合、いきなりそれらの指を見えにくくしてはどの指が強調されているのか認識しづらくなる可能性がある。このため、最初は図33(a)のようにすべての指を同じように表示し、その上で、段階的に強調レベルを変化させれば、ユーザーにとって画面上に表示された指と自分の指との対応づけが容易になる。
 また、強調表示は、位置指示画像200Hの指表示領域200Pないし200Rの全体、輪郭、輪郭内部のみに対し、色の変化(図63参照)、濃淡の変化(図63参照:なお、操作対象指以外の指を消してもよい)、形状変化(図64:ここでは一例として操作対象指Pを相対的に太くしている)、別画像への切り替え、透過度の変化(図27参照)、点滅(図65参照)、あるいはそれらの組み合わせにより行う。本実施例においては、位置指示画像200Hをなす加工画像の輪郭内部の透過度を変化する形で実行する。また、ここでの強調表示は、操作対象指Pに対応する位置指示画像200Hの表示領域200Pの強調状態を一定に保持し、残余の指Rに対応する位置指示画像200Hの表示領域200Rの強調レベルを減じる形で行われている。残余の指Rに対応する位置指示画像領域200Rは消去されてもよいが、操作性を考慮すれば、消去時よりも強調レベルは低くなるものの比較的容易に視認できる状態であるとよい。
 また、T4における強調表示は、図61に示すように、T3において操作対象指Pが指定されるに伴いすぐに開始されるようにしてもよいし、図62に示すように、T3にて操作対象指Pが指定されてから所定時間経過した後に開始されるようにしてもよい。特に、強調表示が段階的になされないような構成の場合は、後者が選択されることが望ましい。
 T4の終了により本処理は終了となる。なお、本処理は終了後も所定周期で繰り返し実施され、操作パネル12aに対向する手が移動すると、これに合わせて、表示装置15の表示画面に表示される位置指示画像200Hの表示位置も移動する。強調変化途中で手が動いた場合は、強調変化を継続しながら位置指示画像200H(200P及び200R)の表示位置が移動し、強調変化が完了している状態で手が動いた場合には、当該強調状態を保持したまま位置指示画像200H(200P及び200R)の表示位置が移動する。
 なお、この位置指示画像の表示処理には、指特定ステップ、指先特定ステップ、操作対象指指定ステップ、位置指示画像強調表示ステップ、指定指情報取得ステップが含まれており、制御回路18は、CPUにより当該処理を実行することで、これら各ステップを実行する手段(指特定部あるいは手段、指先特定部あるいは手段、操作対象指指定部あるいは手段、位置指示画像強調表示部あるいは手段、指定指情報取得部あるいは手段)として機能する。
 (タッチ操作入力処理)
 最後に、操作情報入力部12の操作パネル12aへのタッチ操作入力処理について、図74を用いて説明する。なお、当該処理も、制御回路18の記憶部18dに格納されたプログラムをCPUが実行する形で実施される。
 T101では、制御回路18が、操作パネル12aへのタッチ操作の有無を判定する。操作パネル12aはタッチパネルとして構成されているので、タッチ操作があると、その操作信号が制御回路18に入力されるから、その入力の有無に基づいて判定する。操作パネル12aへのタッチ操作があった場合はT102に進み、タッチ操作が無かった場合は本処理を終了する。
 続くT102では、操作パネル12aへのタッチ操作位置、即ちタッチ操作面12a1上へのタッチ操作位置を特定する。操作パネル12aはタッチパネルとして構成されているので、タッチ操作があると、その操作信号が制御回路18に入力される。そして、その操作信号には、タッチ操作位置が操作面12a1に定められる操作座標系上の座標情報として反映されているので、制御回路18が、この操作信号に基づいて、タッチ操作位置を特定する。
 続くT103では、制御回路18が、操作パネル12aへのタッチ操作位置に対応する制御を実施する。具体的にいえば、操作パネル12aのタッチ操作面12a1上の各位置は、表示画面15の表示画面上の位置と対応しているので、T103にて特定されたタッチ操作面12a1上の位置に対応する、表示画面15の表示画面上の位置に定められた制御内容を実施する。具体的には、制御回路18が、当該制御内容を実施するための制御信号を出力する。例えばT103にて特定されたタッチ操作面12a1上の位置が、表示画面15の表示画面に表示されたスイッチ画像200Iに位置に対応していれば、制御回路18は、当該スイッチ画像に割り当てられた制御内容を実行するための制御信号を出力する。
 T103の終了により本処理は終了となる。なお、本処理は終了後も所定周期で繰り返し実施され、制御回路18は、そのときどきにタッチ操作された位置に応じた制御内容を実施する、あるいは他の制御部(例えばECU100等)にて実施させる。
 なお、制御回路18は、CPUにより当該タッチ操作入力処理を実行することで、入力受付部あるいは手段、操作入力制御部あるいは手段として機能する。
 以上、本第三実施形態の一実施例を説明したが、これはあくまでも例示にすぎず、本第三実施形態はこれに限定されるものではなく、特許請求の範囲の趣旨を逸脱しない限りにおいて、当業者の知識に基づく種々の変更が可能である。
 例えば、上記実施例においては、本第三実施形態の表示方法を車両用操作入力装置により実現した構成となっているが、操作入力装置は車両用に限られるものではなく、例えば一般の家電機器の操作入力装置であってもよい。さらにいえば、機器動作を行うための操作入力装置ではなく、画面表示をメイン機能とする一般の表示装置であってもよい。
 以下、上記実施例を第一実施例とし、それとは異なる実施例を説明する。なお、共通する構成については、同符号を用いることで説明を略する。
 3.1.1 第一実施例の各種の変形
 第一実施例は、各種の変形が可能である。各々の変形は、第一実施形態における第十実施例の第二変形から第十二変形と同等であり、よって説明を省く。
 3.2 第二実施例
 以下、本第三実施形態の第二実施例について説明する。
 上記実施例においては、ユーザーの手元に遠隔操作部が設けられるので、意図しないで操作部に触れてしまい、誤った操作入力がされることが課題となる。特に、タッチ操作式の操作部であれば、何かのはずみで接触しただけでも入力がされてしまうことがある。この課題を解決するために、操作者の指状態として予め定められた所定指状態を特定した場合に、予め定められた表示許可期間の間だけ上記第一実施例における位置指示画像200Hの強調表示を実施する一方で、それ以外の場合には、図5のように、手がタッチ操作面12a1に対向した状態にあっても位置指示画像200Hの表示をしないように構成することができる。具体的には、図9に示すような位置指示画像表示処理を実施する。なお、当該処理も、制御回路18の記憶部18dに格納されたプログラムをCPUが実行する形で実施される。
 S1では、制御回路18が、カメラ12bによって撮影された撮影画像に基づいて、操作者の手の画像を取得したか否かを判定する。カメラ12bは、操作パネル12aの裏面12a2側から該操作パネル12aを介してタッチ操作面(表面)12a1側に接近する接近対象物(例えば運転者等の操作者の手)Hを常時撮影しており(撮影ステップ)、その撮影画像は常に制御回路18の画像処理部18aに入力されている。タッチ操作面12a1と対面する位置に接近対象物Hが進入してくると、当然その接近対象物Hを含む撮影画像150が画像処理部18aに入力される。入力された撮影画像150は、画像処理部18aにて公知の画像解析手法によって解析され、色の相違等に基づいて接近対象物画像150Hが抽出される。そして、抽出された接近対象物画像150Hの形状から、当該画像150Hが人の手の画像であるか否かを判定する。判定結果は制御回路18に出力され、手の画像が認識されたと判定された場合にはS2に進み、判定されなければ本処理を終了する。
 なお、本実施例においては、光源12cが配置されており、カメラ12bは、当該光源12cの反射光を捉える形で撮影を行っている。従って、撮影映像150に現れる色の階調には反射光強度が反映されており、高強度の反射光を捉えたところほど階調レベルが高く現れる。つまり、本実施例のカメラ12bにより撮影される撮影映像150は多階調の撮影画像(本実施例ではモノクロの撮影画像)であるから、画像処理部18aでは、これを予め定められた階調閾値を用いて各画素の階調レベルを2値化して、図27、図7、図6、図5の(b)のようにし、当該階調閾値を上回る領域を接近対象物画像150Hとして抽出する。また、画像処理部18aでは、抽出された接近対象物画像150Hから人の手の画像を特定するために、当該接近対象物画像150Hの形状と、制御回路18の記憶部18dに記憶された手形状パターンと比較して、それらパターンに合致する接近対象物画像150Hを手の画像として認識する(手画像認識部あるいは手段)。
 S2では、取得した手の画像に基づいて、その手の状態が予め定められた所定指状態であるか否かを特定する(所定指状態特定部あるいは手段)。ここでは、予め定められた操作意思表示用指状態であるか否かを特定する(操作意思表示用指状態特定部あるいは手段)。操作意思表示用指状態とは、本実施例においては簡易操作用指状態であり、例えば、操作対象となりうる指、即ちタッチ操作面12aに略沿ってのびた状態の指が、1本ないし2本程度の少数である状態等である。付言するならば、入力を早くするために5本の指を使う操作は難易度の高い指状態であり、ここでいう簡易操作用指状態はこうした指状態とは異なるものである。本実施例においては、取得した手の画像にて、タッチ操作面12aの面方向(面の広がる方向)側にのびた状態の指が1本だけ表れている一本指操作状態にある場合のみを操作意思表示用指状態として特定する。具体的にいえば、S1にて、手の画像を抽出した画像処理部18aが、その手画像の全体形状から、所定長さ以上の軸線を有する略直線的な棒状の画像パターンを識別して、当該棒状の画像パターンがあった場合に、これを指画像150Fとして認識・特定する(指特定部あるいは手段)。特定された結果は制御回路18に出力され、制御回路18は、該指画像150Fの数を特定し(指本数特定部あるいは手段:手形状認識部あるいは手段)、その数が1つである場合を予め定められた操作意思表示用指状態(操作意思表示用指形状)であると特定する。
 続くS3では、その出力結果に基づいて、現在の指状態が予め定められた所定指状態(ここでは操作意思表示用指状態)であるか否かを判定し、予め定められた所定指状態であると判定された場合にS4に進む。S4では、表示モードとして、位置指示画像の表示が許可される表示許可モードに設定し、S5に進む。なお、設定された表示モードは、制御回路18の記憶部18dに設けられた所定記憶領域(表示モード記憶部)に記憶される。S4では、当該記憶領域に表示許可モードを記憶する。
 S5では、制御回路18が、表示装置15の表示画面と、撮影された手との位置関係を特定する。つまり、撮影された手の画像Hが、表示画面上のどの位置に対向しているかを特定する。本実施例においては、カメラ12bによって撮影された撮影画像上に、タッチ操作面12aが位置する操作パネル画像領域を特定するとともに、当該操作パネル画像領域上にタッチ操作面12aの操作座標系を設定し、その上で、撮影された手画像Hの位置を、設定された該操作座標系上で特定する。そして、表示装置15の表示画面上に定められた表示座標系において、当該操作座標系上で特定された該手画像Hの位置に対応する位置を特定する。本実施例においては、図27、図7、図6、図5の(b)に示す撮影画像(2値化画像)150が、タッチ操作面12a1の全体を撮影した操作パネル画像領域となっている。
 さらにS6では、図7、図6の(c)に示すように、表示装置15の表示画面の、上記操作パネル画像領域上にて特定された該手画像Hに対応する位置に、位置指示画像200Hを表示する(位置指示画像表示部あるいは手段)。本実施例においては、手画像150Hの外形形状が明確に表示され、かつ輪郭内部が半透過状態とされた加工画像200Hが生成され、表示装置15の画面上において、表示されているメイン画像200Bの対応する座標位置に重ね表示される。さらに、S6では、第一実施例における位置指示画像の強調表示処理(図25)が実施されて、操作対象指Pとして特定された指の位置指示画像200Hが残余の指に対し相対的に強調して表示される。
 なお、ここでは、強調される操作対象指Pは人差し指と定められているものとする。従って、一本指状態であっても、そのときのびている指が人差し指ではないのであれば、この指に対応する位置指示画像は非強調状態にて表示される。他方、一本指状態が人差し指であれば、図7、図6の(c)に示すように、人差し指が強調状態にて表示されるが、非強調状態の指は表示されない。
 他方、S3にて、現在の指状態が予め定められた所定指状態(ここでは操作意思表示用指状態)でないと判定された場合はS7に進む。S7では、表示モードを、位置指示画像の表示が禁止される表示禁止モードに設定する。これにより、S5及びS6での位置指示画像200Hの表示がされず、表示装置15の表示画面には、例えば図5(c)に示すように、位置指示画像200Hが表示されないままとなる。なお、設定された表示禁止モードは、制御回路18の記憶部18dに設けられた所定記憶領域(表示モード記憶部)に記憶される。
 S6及びS7の終了により本処理は終了となる。なお、本処理は終了後も所定周期で繰り返し実施され、操作パネル12aに対向する予め定められた所定指状態の手が移動すると、これに合わせて、表示装置15の表示画面に表示される位置指示画像(加工画像)200Hの表示位置も移動する。
 この位置指示画像の表示処理においては、図18に示すように、表示許可期間として、予め定められた所定指状態が非特定となるまでの期間が定められた形となっている。つまり、予め定められた所定指状態が特定されている場合には表示許可モードを設定し、予め定められた所定指状態が特定されていない場合には表示禁止モードを設定するような処理となっている。なお、制御回路18は、この位置指示画像の表示処理を実行することにより、表示モード設定部あるいは手段として機能する。
 従来の方式の操作入力装置では、遠隔操作する手を実際に操作画面上に表示すると、手がタッチパネル12a(遠隔操作部)に近い場合には、指のみが表示された状態となる。ユーザーの中には、早く入力するために、片手の5本の指でタッチ操作入力を行う人もおり、この場合、操作画面上では、多数本の指が同時に並んで表示されるので、表示された指と、実際に操作者が指示に使いたい指との対応関係がわからなくなり、誤操作を招き易いという課題があった。これに対し、上記実施例においては、予め定められた所定指状態でないと、操作パネル12aへのタッチ操作入力が受け付けられない構成となっているので、上記のような課題を解消することができる。
 3.3 第三実施例
 以下、本第三実施形態の第三実施例について説明する。
 上記した第二実施例において、操作情報入力部12の操作パネル(遠隔操作部)12aへのタッチ操作入力処理は、図74のような処理ではなく、図10のような処理とすることができる。なお、当該処理も、制御回路18の記憶部18dに格納されたプログラムをCPUが実行する形で実施される。
 図10のタッチ操作入力処理では、表示許可モードが設定されている場合には、操作パネル12aへのタッチ操作入力の受け付けを許可(制御回路18が入力許可モードを設定)し、表示禁止モードが設定されている場合には、当該タッチ操作入力の受け付けを禁止(制御回路18が入力禁止モードを設定)する操作入力受付制御が含まれた処理である。制御回路18は、このタッチ操作入力処理を実行することにより操作入力制御部あるいは手段として機能する。
 S101では、制御回路18が、操作パネル12aへのタッチ操作の有無を判定する。操作パネル12aはタッチパネルとして構成されているので、タッチ操作があると、その操作信号が制御回路18に入力されるので、その入力の有無に基づいて判定する。操作パネル12aへのタッチ操作があった場合はS102に進み、タッチ操作が無かった場合は本処理を終了する。
 S102では、制御回路18が、現在の表示モードが表示許可モードであるか否かを判定する。現在の表示モードは、制御回路18の記憶部18dに設けられた所定記憶領域(表示モード記憶部)に記憶されているので、記憶されている表示モード情報に基づいて判定する。現在の表示モードが表示許可モードであると判定された場合はS103に進み、表示許可モードでないと判定された場合、即ち表示禁止モードであると判定された場合は本処理を終了する。
 S103では、操作パネル12aへのタッチ操作位置、即ちタッチ操作面12a1上へのタッチ操作位置を特定する。操作パネル12aはタッチパネルとして構成されているので、タッチ操作があると、その操作信号が制御回路18に入力される。そして、その操作信号には、タッチ操作位置が操作面12a1に定められる操作座標系上の座標情報として反映されているので、制御回路18が、この操作信号に基づいて、タッチ操作位置を特定する。
 続くS104では、制御回路18が、操作パネル12aへのタッチ操作位置に対応する制御を実施する。具体的にいえば、操作パネル12aのタッチ操作面12a1上の各位置は、表示画面15の表示画面上の位置と対応しているので、S103にて特定されたタッチ操作面12a1上の位置に対応する、表示画面15の表示画面上の位置に定められた制御内容を実施する。具体的には、制御回路18が、当該制御内容を実施するための制御信号を出力する。例えばS103にて特定されたタッチ操作面12a1上の位置が、表示画面15の表示画面に表示されたスイッチ画像200Iに位置に対応していれば、制御回路18は、当該スイッチ画像に割り当てられた制御内容を実行するための制御信号を出力する。
 S104の終了により本処理は終了となる。なお、本処理は終了後も所定周期で繰り返し実施され、制御回路18は、そのときどきにタッチ操作された位置に応じた制御内容を実施する、あるいは他の制御部(例えばECU100等)にて実施させる。
 このタッチ操作入力処理においては、表示許可モードが設定されている場合には、操作パネル12aへのタッチ操作入力の受け付けが許可され(入力許可モード)、表示禁止モードが設定されている場合には、当該タッチ操作入力の受け付けが禁止される(入力禁止モード)。ただし、図9の位置指示画像表示処理においては、予め定められた所定指状態が特定されている場合に表示許可モードが設定され、予め定められた所定指状態が特定されていない場合に表示禁止モードが設定されるので、結果として、ユーザーの指状態が予め定められた所定指状態でないと、操作パネル12aへのタッチ操作入力が受け付けられないようになっている。ここでは、一本指状態という簡易操作用指状態が予め定められた所定指状態(ここでは操作意思表示用指状態)とされている。
 3.4 第四実施例
 以下、本第三実施形態の第四実施例について説明する。
 上記第二及び第三実施例においては、表示許可期間として、図18に示すように、予め定められた所定指状態が非特定となるまでの期間が定められた形となっているが、この表示許可期間として、図19に示すように、予め決められた時間を定めることができる。つまり、表示許可モードに切り替わってから予め定められた時間(禁止モード復帰時間)が経過するまでの期間を表示許可期間と定め、当該禁止モード復帰時間が経過するに伴い表示禁止モードに復帰させるように構成することができる。この構成によれば、ユーザーが特定の指状態を示したことをきっかけに位置指示画像が表示可能な期間(表示許可モード)が始まって、該位置指示画像を見ながらのタッチ操作面12a1への位置指示入力(タッチ操作)が可能となる一方で、ユーザーが特定の指状態を示さなければ位置指示画像は表示されず、位置指示入力を行うためのタッチ操作をスムーズに行えない。つまり、ユーザーが位置指示入力を行うという明確な意思を表示した場合にのみ位置指示画像の表示が許可されるようになっており、その意思表示をユーザーの指状態の特定により確認する構成となっている。なお、ここでは、表示許可モードが設定されている場合に、予め定められた所定指状態とは異なる指状態の画像も表示可能となる。具体的にいえば、図9に示す位置指示画像表示処理を、図17に示すような処理とすることで実現できる。
 S10では、制御回路18が、カメラ12bによって撮影された撮影画像に基づいて、操作者の手の画像を取得したか否かを判定する。この処理は図9のS1の処理と同様である。
 S11では、制御回路18が、現在の表示モードが表示許可モードであるか否かを判定する。現在の表示モードは、制御回路18の記憶部18dに設けられた所定記憶領域(表示モード記憶部)に記憶されているので、記憶されている表示モード情報に基づいて判定する。現在の表示モードが表示禁止モードであると判定された場合はS12に進み、表示許可モードでないと判定された場合、即ち表示禁止モードであると判定された場合はS19に進む。
 S12では、取得した手の画像に基づいて、その手の状態が予め定められた所定指状態(ここでは操作意思表示用指状態)であるか否かを特定する(所定指状態特定部あるいは手段:操作意思表示用指状態特定部あるいは手段)。この処理は図9のS2の処理と同様である。続くS13にて、現在の指状態が予め定められた所定指状態であると判定された場合はS14に進む。
 S14では、表示モードを、位置指示画像の表示が許可される表示許可モードに設定し、S15に進む。なお、設定された表示許可モードは、制御回路18の記憶部18dの所定記憶領域(表示モード記憶部)に記憶される。
 続くS15では、制御回路18に設けられたタイマー18bを起動し、時間カウントを開始してS16に進む。時間はカウンタ18cにおいてカウントアップされる形で記憶される。タイマー起動前にはカウンタ18cのカウント値がリセットされる。
 S16では、制御回路18が、表示装置15の表示画面と、撮影された手との位置関係を特定する。このS16の処理は、図9のS5と同様の処理である。続くS17では、図27、図7、及び図6の(c)に示すように、表示装置15の表示画面において表示されているメイン画像200B上に、位置指示画像200Hを重ね表示する(位置指示画像強調表示部あるいは手段)。このS17の処理は、図9のS6と同様、図25に示す位置指示画像の強調表示処理である。ただし、第二実施携帯においては、S16及びS17において、図27(c)のような位置指示画像200Hも表示される。つまり、第四実施例においては、表示許可モードが設定されている限り、手画像(指画像)の重ね表示(あるいは合成表示)が許可されており、少なくとも手画像に基づく指の指示位置を示す画像であればどのような形で位置指示画像200Hを表示してもよい。従って、表示許可モードが設定されている場合には、図27(c)に示すような多本数の指形状の重ね表示もありうる。ただし、操作対象指Pが残余の指よりも強調されて表示される。
 他方、S13にて、現在の指状態が予め定められた所定指状態(ここでは操作意思表示用指状態)でないと判定された場合はS18に進む。S18では表示禁止モードが設定され、それが制御回路18の記憶部18dに設けられた所定記憶領域(表示モード記憶部)に記憶される。
 S17及びS18の終了により本処理は終了となるが、本処理は終了後も所定周期で繰り返し実施され、手画像が取得され、かつ表示許可モードが継続する限り、S16及びS17による位置指示画像の表示許可状態が継続する。つまり、この間は、指状態が予め定められた所定指状態でなくても、その時の指状態に基いて位置指示画像が表示される。ところが、表示許可モードは、S19にて、S15にて起動したタイマー18bにより所定時間が経過したと判定された場合に、S20にて、強制的に表示禁止モードが設定され、本処理が終了となる。なお、S20の処理はS18の処理と同様である。
 この実施例においては、ユーザーが操作の意思を手形状(操作意思表示用指状態)により示し、それが示された場合には、一定時間の間だけ表示許可モードが設定される構成となっている。この場合、操作意思表示用指状態は、一本指状態(例えば図7及び図6参照)のような簡易操作用指状態に限らず、二本の指をのばした状態(図70参照)、三本の指を伸ばした状態(図71参照)、4本の指を伸ばした状態(図72参照)等と様々に定めることができる。また、一本指状態であっても、その指が人差し指である場合(図7及び図6参照)のみを操作意思表示用指状態としてもよいし、中指である場合(図68参照)のみを操作意思表示用指状態としてもよい。また、二本指状態においても、それらの指が人差し指と中指である場合(図70参照)のみ、操作意思表示用指状態としてもよい。また、これらのうちのいずれか又は複数を操作意思表示用指状態として定めてもよい。誤操作防止の観点からすれば、日頃ユーザーが行わないような手状態(指状態)を操作意思表示用指状態として定めることが望ましい。また、処理の観点からすれば、より識別しやすい手状態(指状態)を定めることが望ましい。
 3.5 第五実施例
 以下、本第三実施形態の第五実施例について説明する。
 なお、図9のS2における操作意思表示用指状態及び簡易操作用指状態等の所定指状態の特定は、上記のように撮影画像に基づいて実施されるものでなくともよい。例えば、制御回路18が、予め定められた期間の間にタッチ操作面12a1(遠隔操作面)になされたタッチ操作による入力のうち、タッチ操作面12a1の異なる位置になされたタッチ操作による入力の数を特定し(操作数特定部あるいは手段)、当該期間内に特定された入力数が予め定められた数(簡易操作用の数や操作意思表示用の数)であった場合を所定指状態として特定するようにしてもよい。この場合、例えば1秒以内の間に3回のタッチ操作がそれぞれ異なる位置になされた場合に(同時でもよい)、3本の指があると特定され、予め定められた指の本数が3本と定められている場合には、これをもって所定指状態として特定するようにできる。具体的には、図20に示すように、表示禁止モード(さらには入力禁止モード)が設定されている状態にて、タッチ操作面12a1へのタッチ操作があった場合に、制御回路18が、自身のタイマー18bを起動し、カウンタ18cをカウントアップする形で時間計時を開始し、所定期間t0内に、時間計時開始時のタッチ操作を含めたタッチ操作による入力数をカウントする。ただし、タッチ操作面12a1にタッチ操作がなされる際に、タッチ位置情報(例えばタッチ操作面12a1内における位置座標)を取得して、タッチ操作面12a1内の同一位置への再タッチ操作に関しては、その入力をカウントしないようにする。そして、所定期間t0が経過した際の当該入力数が、所定指状態を定める予め定められた指の数と同数であった場合には、現在の操作者の手の指状態が所定指状態であると特定し、特定された時から予め定められた表示許可期間の間だけ表示許可モード(さらには入力許可モード)を設定する。表示許可期間が終了すると、再び表示禁止モード(さらには入力禁止モード)が設定される。
 3.6 第六実施例
 以下、本第三実施形態の第六実施例について説明する。
 図10に示すタッチ操作入力処理において、表示許可モードが設定されている場合には、遠隔タッチ操作面12aへのタッチ操作入力に対応する制御内容を実行する、即ち対応する制御内容の実行が許可され、表示禁止モードが設定されている場合には、遠隔タッチ操作面12aへのタッチ操作入力に対応する制御内容を実行しない、即ち、対応する制御内容の実行が禁止されていた。ところが、表示許可モードが設定されている場合ではなく予め定められた所定指状態(ここでは操作意思表示用指状態)が特定されている場合に、遠隔タッチ操作面12aへのタッチ操作入力に対応する制御内容の実行が許可され、表示禁止モードが設定されている場合ではなく予め定められた所定指状態が特定されていない場合に、遠隔タッチ操作面12aへのタッチ操作入力に対応する制御内容の実行を禁止するように構成することができる。
 具体的にいえば、予め定められた所定指状態(ここでは操作意思表示用指状態)が特定されている場合には、遠隔タッチ操作面12aへのタッチ操作入力の受け付けを許可し、予め定められた所定指状態が特定されていない場合には、遠隔タッチ操作面12aへのタッチ操作入力の受け付けを禁止する操作入力受付制御を実行するように構成することができる。以下、その具体的な処理の流れについて、その一例を、図14を用いて説明する。
 S111では、制御回路18が、操作パネル12aへのタッチ操作の有無を判定する。S111の処理は図10のS101と同様である。S112では、制御回路18が、現在の指状態が予め定められた所定指状態(ここでは操作意思表示用指状態)であるか否かを判定する。本実施例においては、図9のS2あるいは図17のS12等の処理と同様、予め定められた所定指状態であるか否を特定する処理だけでなく、現在の指状態が特定されるに伴い、特定された指状態を制御回路18の記憶部18dに設けられた所定記憶領域(指状態記憶部)に記憶する処理を行う。そして、S112では、この記憶領域(指状態記憶部)に記憶された指状態情報に基づいて、現在の指状態が予め定められた所定指状態であるか否かを判定する。予め定められた所定指状態であると判定された場合にS113に進み、予め定められた所定指状態でないと判定された場合に本処理を終了する。
 S113では、操作パネル12aへのタッチ操作位置、即ちタッチ操作面12a1へのタッチ操作位置を特定する。この処理は、図10のS103と同様の処理である。続くS114では、操作パネル12aへのタッチ操作位置に対応する制御を実施する。この処理は、図10のS104と同様の処理である。S114の終了により本処理は終了となるが、本処理は終了後も所定周期で繰り返し実施される。
 なお、図14に示すタッチ操作入力処理を実行する実施例における位置指示画像表示処理は、図9及び図17、さらには後述する位置指示画像表示処理のいずれのものであってもよい。
 3.7 第七実施例
 以下、本第三実施形態の第七実施例について説明する。
 上記実施例においては、予め定められた所定指状態が特定されている場合に位置指示画像の表示を許可する表示許可モードに設定し、予め定められた所定指状態が特定されていない場合には位置指示画像の表示を禁止する表示禁止モードに設定するように構成されていたが、こうした表示モード切替制御を、車両が所定の走行状態である場合に実施し、所定の走行状態ではない場合には、表示モードとして表示許可モードを設定するように構成することができる。この場合、車両の走行状態を検出する車両走行状態検出部あるいは手段を備えた構成となる。図11は、こうした処理の一例であり、ここでは、車両の車速を検出する車速センサ(車速検出部あるいは手段)30が制御回路18に接続する構成を有し、該制御回路18が、車両が予め定められた車速レベル(車速閾値)を上回る車両走行状態にある場合には表示モード切替制御を実行し、当該車両走行状態にない場合には、指状態に関らず、表示モードとして表示許可モードを設定するようになっている。
 具体的には、S21では、制御回路18が、操作者の手の画像を取得したか否かを判定する。これは図9のS1の処理と同様である。操作者の手の画像が取得された場合はS22に進み、操作者の手の画像が取得されなかった場合は本処理を終了する。
 S22では、車両の現在の走行状態を特定する。即ち、車両が予め定められた車速レベルを上回る走行状態にあるか否かを判定する。制御回路18は、ROM等の所定の記憶部18dに車速閾値を予め記憶させておき、車速センサ30が検出した車速が当該車速閾値を上回るかを判定し、上回る場合を車両走行状態と特定し、上回らない場合を低速走行状態(停車状態を含む)と特定する。ここでは、上記車速閾値として5km/h等を固定的に定めるものとする。そして、S23では、現在の車両が上記の車両走行状態にあるか否かを判定して、車両走行状態にあると判定された場合にはS24に進む。他方、S23にて、車両走行状態にないと判定された場合(停車状態を含む低速走行状態が特定された場合)にはS26に進む。
 S24では、操作者の手(操作手)が、予め定められた所定指状態(ここでは操作意思表示用指状態)であるか否かを特定する。所定指状態の特定は、図9のS2の処理と同様の処理で行われる。続くS25にて、現在の指状態が予め定められた所定指状態であると判定された場合はS26に進み、予め定められた所定指状態でないと判定された場合はS29に進む。
 S26では、表示モードとして、位置指示画像の表示が許可される表示許可モードに設定する。なお、設定された表示許可モードは、制御回路18の記憶部18dの所定記憶領域(表示モード記憶部)に記憶される。続くS27では、制御回路18が、表示装置15の表示画面と、撮影された手との位置関係を特定する。この処理は、図9のS5の処理と同様である。続くS28では、表示装置15の表示画面において表示されているメイン画像200B上に、位置指示画像200Hを重ね表示する(位置指示画像表示部あるいは手段)。この処理は、図9のS6と同様である。
 具体的にいえば、S23にて、現在の車両が所定の車両走行状態にないと判定された場合(停車状態を含む低速走行状態が特定された場合)には、S27及びS28の処理により、操作者の指状態に関らず、その指状態に基づく位置指示画像200Hが表示される一方で(図27、図7、図6の(c)参照)、S22にて、車両走行状態にあると判定され、かつS25にて現在の操作者の指状態が予め定められた所定指状態(ここでは操作意思表示用指状態)であると判定された場合には、S27及びS28の処理により、操作者が行っている予め定められた所定指状態に基づく位置指示画像200Hが表示される(図7及び図6の(c)参照)。
 他方、S25にて、現在の指状態が予め定められた所定指状態(ここでは操作意思表示用指状態)でないと判定された場合はS29に進む。S29では、表示モードを、位置指示画像の表示が禁止される表示禁止モードに設定し、これを制御回路18の記憶部18dの所定記憶領域(表示モード記憶部)に記憶する。これにより、S27及びS28にて実施される位置指示画像200Hの表示が実行されず、表示装置15の表示画面には、例えば図5(c)に示すように、位置指示画像200Hが表示されない。
 S28及びS29の終了により本処理は終了となるが、本処理は終了後も所定周期で繰り返し実施される。
 なお、本実施例においては、上記の予め定められた車速レベル(車速閾値)が5km/hと定められており、当該車速レベルを上回らない車両の徐行走行状態においては、常に表示許可モードが設定されるようになっている。ただし、この車速レベルは、図16に示すように、0km/hより速く5kmより遅い車速範囲内、あるいは5km/h以上10km/h未満の車速範囲内(車両の徐行走行状態)において設定されるようにしてもよいし、0km/hと設定して、車両停車状態において常に表示許可モードが設定されるようにしてもよい。また、この車速レベルは、10km/以上30km未満の車速範囲内(車両の低速走行状態)に設定されるようにしてもよいし、30km/h以上60km/h未満の車速範囲内(車両の中速走行状態)に設定されるようにしてもよいし、60km/h以上の車速範囲内(車両の高速走行状態)に設定されるようにしてもよい。
 また、図11の処理においては、所定の車両走行状態である場合(車速閾値よりも高速側)に上記表示モード切替制御が実施され、所定の車両走行状態にない場合(車速閾値よりも低速側)に表示許可モードが固定的に設定される実施例であったが、所定の車両走行状態である場合(車速閾値よりも高速側)に表示禁止モードが固定的に設定され、所定の車両走行状態にない場合(車速閾値よりも低速側)に上記表示モード切替制御が実施される実施例としてもよい。
 3.8 第八実施例
 以下、本第三実施形態の第八実施例について説明する。
 上記実施例においては、予め定められた所定指状態が特定されている場合に位置指示画像の表示を許可する表示許可モードに設定し、予め定められた所定指状態が特定されていない場合には位置指示画像の表示を禁止する表示禁止モードに設定するように構成されていたが、こうした表示モード切替制御を、タッチ操作面12a1の操作者として運転者が特定されている場合には、表示モード切替制御を実行し、車両走行状態にない場合には、指状態に関らず、表示モードとして表示許可モードを設定するように構成することができる。以下、その具体的な処理の流れを、図12を用いて説明する。
 S31では、制御回路18が、操作者の手の画像を取得したか否かを判定する。これは図9のS1の処理と同様である。操作者の手の画像が取得された場合はS32に進み、操作者の手の画像が取得されなかった場合は本処理を終了する。
 S32では、操作パネル12aに手を対向させるようにしている操作者が運転者であるか否かを特定する(操作者特定部あるいは手段)。操作者の特定は、例えば、図15に示すカメラ20の撮影画像(図8)に基づいて行うことができる。具体的にいえば、当該カメラ20の撮影画像から、腕がのびてくる方向を特定して、その方向が運転席2D側からのびてきたものであるか否かを判定することにより、操作者が運転者であるか否かを特定する。S33では、操作パネル12aの操作者が運転者であるか否かを判定して、運転者であると判定された場合にはS34に進む。他方、S33にて、操作パネル12aの操作者が運転者以外の者であると判定された場合にはS36に進む。
 S34では、操作者である運転者の手(操作手)が、予め定められた所定指状態(ここでは操作意思表示用指状態)であるか否かを特定する。所定指状態の特定は、図9のS2の処理と同様の処理で行われる。続くS35では、現在の指状態が予め定められた所定指状態であるか否かが判定され、予め定められた所定指状態であると判定された場合はS36に進み、予め定められた所定指状態でないと判定された場合はS39に進む。
 S36では、表示モードとして、位置指示画像の表示が許可される表示許可モードに設定する。なお、設定された表示許可モードは、制御回路18の記憶部18dの所定記憶領域(表示モード記憶部)に記憶される。続くS37では、制御回路18が、表示装置15の表示画面と、撮影された手との位置関係を特定する。この処理は、図9のS5の処理と同様である。続くS38では、表示装置15の表示画面において表示されているメイン画像200B上に、位置指示画像200Hを重ね表示する(位置指示画像表示部あるいは手段)。この処理は、図9のS6と同様である。
 具体的にいえば、S33にて、操作パネル12aの操作者として運転者とは異なる者が特定された場合には、S37及びS38の処理により、操作者の指状態に関らず、その指状態に基づく位置指示画像200Hが表示される一方で(図27、図7、図6の(c)参照)、S32にて、操作パネル12aの操作者として運転者が特定され、かつS35にてその指状態が予め定められた所定指状態(ここでは操作意思表示用指状態)であると判定された場合には、S37及びS38の処理により、運転者が行っている所定指状態に基づく位置指示画像200Hが表示される(図7及び図6の(c)参照)。
 他方、S35にて、現在の指状態が予め定められた所定指状態(ここでは操作意思表示用指状態)であると判定された場合はS39に進む。S39では、表示モードを、位置指示画像の表示が禁止される表示禁止モードに設定し、これを制御回路18の記憶部18dの所定記憶領域(表示モード記憶部)に記憶する。これにより、S37及びS38にて実施される位置指示画像200Hの表示が実行されず、表示装置15の表示画面には、例えば図5(c)に示すように、位置指示画像200Hが表示されない。
 S38及びS39の終了により本処理は終了となる。なお、本処理は終了後も所定周期で繰り返し実施される。
 3.9 第九実施例
 以下、本第三実施形態の第九実施例について説明する。
 本実施例は、既に述べた位置指示画像表示処理を、図11及び図12の双方を組み合わせた形の処理として実施するものである。即ち、車両の走行状態(例えば車両の車速)を検出し、さらに、遠隔タッチ操作面12aの操作者が運転者であるか否かを特定して、車両が所定の走行状態(例えば停車状態を含む予め定められた車速レベルを下回る低速走行状態にない走行状態)であり、かつ特定された遠隔タッチ操作面12aの操作者が運転者である場合には、予め定められた所定指状態が特定されている場合に限り位置指示画像200Hの表示を許可するが、予め定められた所定指状態が特定されていない場合には位置指示画像200Hの表示を禁止するようにする。そして、車両が上記所定の走行状態にない場合、あるいは特定された遠隔タッチ操作面12aの操作者が運転者ではない場合、あるいはそれら双方が同時に生じている場合には、特定された指状態に関らず、位置指示画像200Hの表示を許可するような処理とすることができる。以下、その具体的な処理の流れを、図13を用いて説明する。
 即ち、S41にて、遠隔タッチ操作面12aの操作者の手画像が取得されると(図9のS1と同様の処理)、S42及びS43で車両が車両速走行状態であるか否かを判定し(図11のS22、S23と同様の処理)、車両速走行状態であればS44及びS45に進み、遠隔タッチ操作面12aの操作者が運転者であるか否かを判定する(図12のS32、S33と同様の処理)。
 S42~S45にて、車両が車両速走行状態であり、かつ遠隔タッチ操作面12aの操作者が運転者であるとされた場合にはS46及びS47に進み、操作者の手(操作手)が予め定められた所定指状態(ここでは操作意思表示用指状態)であるか否かを特定し(図9のS2及びS3と同様の処理)、現在の指状態が予め定められた所定指状態であると判定された場合はS48に進み、予め定められた所定指状態でないと判定された場合はS51に進む。
 S48では、表示モードとして表示許可モードに設定し、これを記憶部18dの所定記憶領域(表示モード記憶部)に記憶する。続くS49では、制御回路18が、表示装置15の表示画面と、撮影された手との位置関係を特定し、さらにS50では、表示装置15の表示画面において表示されているメイン画像200B上に、位置指示画像200Hを重ね表示する(位置指示画像表示部あるいは手段)。これらの処理は、図9のS4~S6の処理と同様である。
 具体的にいえば、S42にて車両が車両走行状態ではないとされた場合、S44にて、操作パネル12aの操作者として運転者とは異なる者が特定された場合には、S48~S50の処理により、操作者の指状態に関らず、その指状態に基づく位置指示画像200Hが表示される(図27、図7、図6の(c)参照)。一方、S42にて車両が車両走行状態であるとされ、かつS44にて操作パネル12aの操作者として運転者が特定され、その上で、S46にて予め定められた所定指状態(ここでは操作意思表示用指状態)が特定された場合には、S48~S50の処理により、運転者が行っている所定指状態に基づく位置指示画像200Hが表示される(図7及び図6の(c)参照)。
 他方、S47にて、現在の指状態が予め定められた所定指状態(ここでは操作意思表示用指状態)でないと判定された場合はS51に進む。S51では、表示モードとして表示禁止モードに設定し、これを記憶部18dの所定記憶領域(表示モード記憶部)に記憶する。これにより、S49及びS50にて実施される位置指示画像200Hの表示が実行されず、表示装置15の表示画面には、例えば図5(c)に示すように、位置指示画像200Hが表示されない。
 S50及びS51の終了により本処理は終了となる。なお、本処理は終了後も所定周期で繰り返し実施される。
 なお、図13の処理においては、車両が所定の車両走行状態(車速閾値よりも高速側)であり、なおかつ操作者が運転者である場合に上記表示モード切替制御が実施され、それ以外の場合(所定の車両走行状態にない場合(車速閾値よりも低速側)や操作者が運転者でない場合)に表示許可モードが固定的に設定される実施例であったが、車両が所定の車両走行状態であり、なおかつ操作者が運転者である場合に表示禁止モードが固定的に設定され、車両が所定の車両走行状態ではなく、なおかつ操作者が運転者である場合に上記表示モード切替制御が実施され、それ以外の場合(操作者が運転者でない場合)には、表示許可モードが固定的に設定される実施例としてもよい。
 3.10 第十実施例
 以下、本第三実施形態の第十実施例について説明する。
 上記実施例においては、手画像撮影部あるいは手段をなすカメラ12bは、タッチパネル12aのタッチ操作面(表面)12a1と対向する車室内の固定領域を撮影するカメラであって、上記実施例のように、タッチパネル12aの裏面12a2側から撮影する構成を有している。ところが、本第三実施形態は、このような構成に限られるものではない。例えば、図15に示すように、車両のセンターコンソール部Cにタッチパネル12aのタッチ操作面12a1を斜め上側から撮影するように取り付けて、当該タッチ操作面12a1に接近する接近物を、タッチ操作面12a1側から撮影するように構成してもよい。この場合、上記した実施例とは異なり、撮影画像内の特定の画像(例えば手画像)を抽出して表示部15に表示する際には、画像を左右反転する処理を省略できる。また、手画像撮影部あるいは手段をなすカメラ12bは、操作パネル12aのタッチ操作面12a1を含むその周辺領域を撮影するカメラ20に兼用させてもよい。
 3.11 第十一実施例
 以下、本第三実施形態の第十一実施例について説明する。
 上記実施例のうち、表示装置15に表示されるあらゆる操作画面において、上記のような表示モード切替制御を実行する構成のものについては、予め定められた操作画面においてのみ表示モード切替制御を実行し、それ以外の操作画面では、表示許可モード、あるいは表示禁止モードに固定的に設定されるようにしてもよい。
 表示装置15は、制御回路18からの制御指令に基づいて、タッチ操作面12a1への押圧操作による入力が受け付けられる複数の操作画面200を、表示画面上において切り替えることができる(操作画面表示部あるいは手段)。例えば、図22に示すようなメニュー選択画面2003や図23に示すようなカーエアコンの風量設定画面2004、図24に示すようなカーオーディオのボリューム設定画面2005、さらには、既に述べたカーナビゲーションの地図表示画面2002(図7(c))や文字入力画面2001(図27(c))等を、様々な入力に応じて切り替えて表示することができる。これら複数の操作画面のうち上記表示モード切替制御の実行対象とされる操作画面の特定を可能とする表示モード実行可否情報を、制御回路18の所定の記憶領域(表示モード実行可否情報記憶部あるいは手段)に予め記憶しておき、制御回路18は、位置指示画像表示処理を実施するに際して、表示モード実行可否情報を参照し、これに基づいて、表示装置15により表示される操作画面が上記のような表示モード切替制御の実行対象であると特定される場合に限り、特定された操作画面にて該表示モード切替制御を実行するように構成する。以下、その具体的な処理の流れを、図21を用いて説明する。
 S61では、制御回路18が、操作者の手の画像を取得したか否かを判定する。これは図9のS1の処理と同様である。操作者の手の画像が取得された場合はS62に進み、操作者の手の画像が取得されなかった場合は本処理を終了する。
 S62では、制御回路18が、現在表示中の操作画面200の種別を特定し、予め定められた、表示モード切替制御の実行対象であるか否かを特定する。ここでは、制御回路18の記憶部18dの所定記憶領域に記憶される上記表示モード実行可否情報にて、操作画面のうち、タッチ操作面12a1への押圧操作が予め定められた操作負担レベルを上回る操作を含む複雑操作画面が表示モード切替制御の実行対象と定められ、タッチ操作面12a1への押圧操作が当該操作負担レベルを上回らない操作のみからなる簡易操作画面が表示許可モードの固定設定対象と定められている。制御回路18が当該表示モード実行可否情報を参照することにより、現在表示されている操作画面200が表示モード切替制御の実行対象であるか否かを特定する。
 なお、表示モード実行可否情報は、以下のように画面種別を分類した情報として記憶することができる。即ち、複雑操作画面として、表示装置15に画面表示される1以上の操作入力画像(あるいは当該操作入力画像(操作アイコン)200Iに対応してタッチ操作面12a1上に定められる全ての押圧操作領域)の、画面全体(あるいは該タッチ操作面12a1の全領域)に対し占める割合SI/SAが、予め定められた割合S0を上回る操作画面を定め、上回らない操作画面を簡易操作画面として定めることができる(図73の例1)。また、複雑操作画面として、表示装置15に画面表示される1以上の操作入力画像(あるいは当該操作入力画像に対応してタッチ操作面12a1上に定められる押圧操作領域)200Iの数KIが予め定められた数K0を上回る操作画面を定め、上回らないものを簡易操作画面として定めることもできる(図73の例2)。また、複雑操作画面として、表示装置15に画面表示される1以上の操作入力画像200I間の間隔(あるいは当該操作入力画像に対応してタッチ操作面12a1上に定められる隣接する押圧操作領域間の間隔)LIが、予め定められた間隔L0よりも狭い操作画面を定め、上回らない操作画面を簡易操作画面として定めることもできる(図73の例3)。ここでは、図22~図24、さらには図7(c)に示すような画面2001,2003,3004,2005が簡易操作画面、図27(c)に示すような文字入力画面2002(例えば目的地名称入力画面等)が複雑操作画面として定められている。
 S64にて、制御回路18が、上記複雑操作画面及び簡易操作画面を特定可能な表示モード実行可否情報を参照して、現在表示されている操作画面200が表示モード切替制御の実行対象(ここでは複雑操作画面)であるか否かを特定するとS63に進む。S63にて、現在表示中の操作画面200が表示モード切替制御の実行対象であると判定された場合にはS69に進み、表示モード切替制御の実行対象でないと判定された場合にはS66に進む。
 S64では、操作者の手(操作手)が、予め定められた所定指状態(ここでは操作意思表示用指状態)であるか否かを特定する(図9のS2と同様の処理)。続くS65にて、現在の指状態が予め定められた所定指状態であると判定された場合はS66に進み、予め定められた所定指状態でないと判定された場合はS69に進む。
 S66では、表示モードとして、位置指示画像の表示が許可される表示許可モードに設定する。なお、設定された表示許可モードは、制御回路18の記憶部18dの所定記憶領域(表示モード記憶部)に記憶される。続くS67では、制御回路18が、表示装置15の表示画面200と、撮影された手との位置関係を特定する(図9のS5と同様)。続くS68では、表示装置15の表示画面200において表示されているメイン画像200B上に、位置指示画像200Hを重ね表示する(位置指示画像表示部あるいは手段:図9のS6と同様)。
 具体的にいえば、S62にて、現在表示中の操作画面200が表示モード切替制御の実行対象でないと判定された場合(ここでは簡易操作画面であると特定された場合)には、S67及びS68の処理により、操作者の指状態に関らず、その指状態に基づく位置指示画像200Hが表示される一方で(図27、図7、図6の(c)参照)、S62にて、現在表示中の操作画面200が表示モード切替制御の実行対象であると判定された場合(ここでは複雑操作画面であると特定された場合)には、S67及びS68の処理により、操作者が行っている操作意思表示用指状態に基づく位置指示画像200Hが表示される(図7及び図6の(c)参照)。
 他方、S65にて、現在の指状態が予め定められた所定指状態でないと判定された場合はS69に進む。S69では、表示モードを、位置指示画像200Hの表示が禁止される表示禁止モードに設定し、これを制御回路18の記憶部18dの所定記憶領域(表示モード記憶部)に記憶する。これにより、S67及びS68にて実施される位置指示画像200Hの表示が実行されず、表示装置15の表示画面200には、例えば図5(c)に示すように、位置指示画像200Hが表示されない。
 S68及びS69の終了により本処理は終了となるが、本処理は終了後も所定周期で繰り返し実施される。
 なお、図21の処理においては、複雑操作画面において上記表示モード切替制御が実施され、簡易操作画面において表示許可モードが固定的に設定される実施例であったが、複雑操作画面において表示禁止モードが固定的に設定され、簡易操作画面において上記表示モード切替制御が実施される実施例としてもよい。
 3.12 第十二実施例
 以下、本第三実施形態の第十二実施例について説明する。
 上記第二ないし第十一実施例においては、操作者の指状態として予め定められた所定指状態を特定した場合に、予め定められた表示許可期間の間だけ上記第一実施例における位置指示画像200Hの強調表示を実施する一方で、それ以外の場合には、位置指示画像200Hの表示をしないような構成とされており、その所定指状態として操作意思表示用指状態が定められていたが(図75の例1)、他の特徴的な指状態でもよいし、簡易操作用指状態(操作を簡易に行うことができる指状態(特定の数又は種別の指が伸びた状態):図75例2)であってもよい。
 3.13 他の実施例
 以下、第三実施形態の他の実施例については、第一実施形態の1.11 他の実施例の記載の内容と同一のものが採用可能であり、それらの説明はここでは省略する。
 
 
 4.開示の観点
 上記に記載された開示の各種の観点は、次のように表現される。
 開示の第一の観点として、車両用操作入力装置は次のように提供される。 車両が備える機器の操作などを行うための表示画面を有した表示部と、表示画面とは異なる位置に設けられ、当該表示画面における操作入力を遠隔的に行うための遠隔操作面を有した遠隔操作部と、遠隔操作面への押圧操作に基づいて押圧操作位置に対応した入力を受け付ける入力受付部と、遠隔操作面に対向する手の画像を撮影する手画像撮影部と、当該手により位置指示された表示画面上の位置に、撮影された手の画像に基づいて生成された位置指示画像を表示する位置指示画像表示部と、を備える車両用操作入力装置であって、 遠隔操作面に対向する手の指状態が、予め定められた簡易操作用指状態であるか否かを特定する簡易操作用指状態特定部と、 位置指示画像表示部に対し設定される表示モードを、簡易操作用指状態が特定されている場合に位置指示画像の表示を許可する表示許可モードに設定し、簡易操作用指状態が特定されていない場合には位置指示画像の表示を禁止する表示禁止モードに設定する表示モード切替制御を実行する表示モード設定部と、 を備える。
 上記構成によれば、遠隔操作部に対する操作として、5本の指を使った難易度の高い指状態による操作がなされる場合にその操作表示(遠隔操作部での操作状態を表示装置の操作画面上で位置指示画像により表示すること)を規制することで、より単純で操作し易い指状態(簡易操作用指状態)による操作入力をユーザーに促すことができる。これにより、意図無くなされるような遠隔操作部への誤操作を防止できるし、表示された指と、実際に操作者が遠隔操作部への位置指示に使いたい指との対応関係がわからなくなるようなことも無くなる。
 また、車両の車速を検出する車速検出部を設けることができる。この場合、表示モード設定部は、車両が予め定められた車速レベルを上回る車両走行状態にある場合には、表示モード切替制御を実行し、車両走行状態にない場合には、表示モードとして表示許可モードを設定するように構成することができる。この構成によると、例えば車両停車時においては、遠隔操作部に対する操作として難易度の高い指状態による操作入力が許可されるので、各々のやりやすい形での操作入力が可能となる。一方、一定速度以上の車両走行中においては、操作表示が規制されるから、遠隔操作部に対する操作としてより単純で操作し易い特定の指状態での操作が強いられ、特に運転者による誤操作が生じ難くなる。また、表示される指と実際に使う指との対応関係が分からなくなるようなことも無い。
 また、遠隔操作面の操作者が、運転者であるか否かを特定する操作者特定部を設けることができる。この場合、表示モード設定部は、遠隔操作面の操作者として運転者が特定されている場合には、表示モード切替制御を実行し、遠隔操作面の操作者として前記運転者が特定されていない場合には、表示モードとして表示許可モードを設定するように構成することができる。この構成によると、例えば遠隔操作面の操作者が助手席搭乗者等の運転者以外の者であれば、遠隔操作部に対する操作として難易度の高い指状態による操作入力が許可されるので、各々のやりやすい形での操作入力が可能となる。一方、遠隔操作面の操作者が運転者である場合は、操作表示が規制されるから、遠隔操作部に対する操作としてより単純で操作し易い特定の指状態での操作が強いられ、運転者による誤操作が生じ難くなる。表示される指と実際に使う指との対応関係が分からなくなるようなことも無い。
 表示モード設定部により、表示許可モードが設定されている場合には、入力受付部による入力の受け付けを許可し、表示禁止モードが設定されている場合には、入力受付部による入力の受け付けを禁止する操作入力受付制御を実行する操作入力受付制御部を備えて構成することができる。操作入力装置においては、操作表示がされていないと、遠隔操作部からの位置指示操作が極めて困難となるので、上記構成のように、位置指示画像が表示される表示許可モードにおいてのみ入力の受け付けを許可するようにすることで、遠隔操作部への誤操作を確実に防止することができる。逆にいえば、遠隔操作部への入力の受け付けが可能な場合にのみ位置指示画像が表示可能となるので、無駄な位置指示画像の表示を減じ、省電力化にも効果があるといえる。
 また、簡易操作用指状態特定部により、簡易操作用指状態が特定されている場合には、入力受付部による入力の受け付けを許可し、簡易操作用指状態が特定されていない場合には、入力受付部による入力の受け付けを禁止する操作入力受付制御を実行する操作入力受付制御部を備えて構成することができる。この構成によると、表示モードに関らず、簡易操作用指状態が特定されている場合にのみ遠隔操作部への入力の受け付けが許可されるので、遠隔操作部への誤操作を確実に防止することができる。
 また、簡易操作用指状態特定部は、手画像撮影部により撮影された手の画像に基づいて、簡易操作用指状態を特定するように構成できる。具体的にいえば、簡易操作用指状態特定部は、手画像撮影部により撮影された手の画像に基づいて、遠隔操作面に対向する手の指形状を認識する指形状認識部を備え、認識された指形状が予め定められた簡易操作用の指形状であった場合を簡易操作用指状態として特定するように構成できる。この構成によると、手画像撮影部により撮影された手画像を、指示位置表示に用いるだけでなく、簡易操作用指状態の特定にも用いることができる。つまり、撮影部が兼用化された構成となるので、無駄な追加構成を排除することができ、低コスト化を実現できる。
 簡易操作用指状態特定部は、指形状認識部により遠隔操作面に略沿ってのびた指が認識された場合に、該遠隔操作面に略沿ってのびた状態にある指の本数を特定する指本数特定部を備え、特定された該遠隔操作面に略沿ってのびた状態にある指の本数が予め定められた簡易操作用の数であった場合を簡易操作用指状態として特定するものとできる。伸びた状態の指をカウントすることは画像解析により容易に実施可能であり、カウントの誤りが少ない。また、指が伸びた状態は、そのまま操作に利用できる指状態であるから、操作者はその簡易操作用指状態のまま操作を開始できるため、操作性にも優れる。
 簡易操作用指状態特定部は、予め定められた期間の間に入力受付部が受け付けた、前記遠隔操作面の異なる位置になされた押圧操作による入力の数を特定する操作数特定部を備え、当該期間内に特定された入力数が予め定められた簡易操作用の数であった場合を簡易操作用指状態として特定することができる。この構成によると、ユーザーによる所定数のタッチ操作から、簡易操作用指状態を容易に特定することができる。
 上記簡易操作用の数は1本とすることができる。手操作が表示される操作入力装置においては、遠隔操作部を操作する場合、位置指示に使用する指の本数が少ないほど操作難易度が低くなる。従って、最も指の本数が少ない一本指状態が最も単純で分かり易い操作用指状態となる。また、一本指状態は非常にシンプルな手形状であるから、該一本指状態を特定する処理を容易化できる。
 上記簡易操作用の数は4本、さらに望ましくは3本、さらに望ましくは2本とすることができる。二本指状態も比較的シンプルな手形状であるから、簡易操作用指状態を特定する処理は容易なものとなる。3本、4本も比較的シンプルな指状態である。また、これらの指状態は、ユーザーが偶然に形成するような手形状でもないので、誤操作の防止も確実に実施できる。
 簡易操作用指状態特定部は、指形状認識部により前記遠隔操作面に略沿ってのびた指が認識された場合に、該遠隔操作面に略沿ってのびた状態にある指の種別を特定する指種別特定部を備え、特定された該遠隔操作面に略沿ってのびた状態にある指の種別が予め定められた簡易操作用の指種別のもののみであった場合を前記簡易操作用指状態として特定する構成とすることもできる。特定の指のみがのびた手形状は、ユーザーが偶然に形成するような手形状でもないので、誤操作の防止も確実に実施できる。また、指が伸びた状態は、そのまま操作に利用できる指状態であるから、操作者はその簡易操作用指状態のまま操作を開始できるため、操作性にも優れる。
 上記簡易操作用の指種別は人差し指のみとすることができる。人差し指の一本指状態は非常にシンプルな手形状であるから、該一本指状態を特定する処理を容易化できる。また、操作にも多く利用される指であるから、そのまま操作を開始するにも都合がいい。
 上記簡易操作用の指種別は中指のみとすることができる。中指の一本指状態は非常にシンプルな手形状であるから、該一本指状態を特定する処理を容易化できる。また、最長の指という特徴も有しているため、種別認識も容易である。また、操作にも利用される指であるから、そのまま操作を開始するにも都合がいい。
 上記簡易操作用の指種別は人差し指と中指の二本のみとすることができる。人差し指と中指の二本指状態は非常にシンプルな手形状であるから、該二本指状態を特定する処理を容易化できる。また、最長の指である中指が含まれるから、指の種別認識も容易である。また、双方の指とも操作にも利用される指であるから、そのまま操作を開始するにも都合がいい。
 位置指示画像表示部は、手画像撮影部により撮影された手の画像に基づいて当該手の指の輪郭が少なくとも特定可能となる実指画像を生成し、生成された実指画像を前記位置指示画像として表示するものとできる。画面上で、手の輪郭から手の位置を把握できるので、位置を認識しやすく、操作性がより容易となる。
 位置指示画像表示部は、指の延びる方向と指先位置が少なくとも特定可能となる擬似指画像、又は、指の指先位置が少なくとも特定可能となる指先位置画像のいずれかを位置指示画像として表示するものとできる。位置指示画像として、指の指示位置が分かる程度に簡略された画像を用いることで処理負担を軽減できる。
 表示モード設定部が、車両が予め定められた車速レベル(車速閾値)を上回る車両走行状態にある場合に表示モード切替制御を実行し、車両走行状態にない場合に表示モードとして表示許可モードを設定する上述の構成において、予め定められた車速レベルは、0km/hと定めることができる。車両停止時においては、運転者は操作に集中することができるから操作制限を設ける必要は無い。上記構成によれば、車両停止時においては、位置指示画像が常に表示されるようになるから、操作者は自由に操作をすることができる。
 また、表示モード設定部が、車両が予め定められた車速レベル(車速閾値)を上回る車両走行状態にある場合に表示モード切替制御を実行し、車両走行状態にない場合に表示モードとして表示許可モードを設定する上述の構成において、予め定められた車速レベルを、0km/hよりも速く5km/hよりも遅い車速範囲内(徐行状態)に定める、あるいは、5km/h以上10km/h未満の車速範囲内(徐行状態)に定めることができる。また、予め定められた車速レベルを、10km/h以上30km/h未満の車速範囲内(低速走行状態)に定めることもできるし、30km/h以上60km/h未満の車速範囲内(中側走行状態)に定めることもできるし、60km/h以上の車速範囲内(高速走行状態)に定めることもできる。これらの設定は、画面上に切替表示される各操作画面のそれぞれの操作難易度(操作負担レベル)に応じて適切な車速閾値を設定するようにすればよい。
 遠隔操作面への押圧操作による入力が入力受付部により受け付けられる複数の操作画面を、表示画面上に切り替える形で表示する操作画面表示部と、複数の操作画面のうち表示モード切替制御の実行対象とされる操作画面の特定を可能とする表示モード実行可否情報を予め記憶する表示モード実行可否情報記憶部と、を備えて構成できる。この場合、表示モード設定部は、当該表示モード実行可否情報に基づいて、操作画面表示部により表示される操作画面が表示モード切替制御の実行対象であるか否かを特定し、表示モード切替制御の実行対象であると特定される場合に限り、特定された操作画面にて表示モード切替制御を実行するように構成できる。この構成によると、予め定められた操作画面が表示されている場合にのみ表示モード切替制御が実行されるから、例えば走行中であっても操作が容易な操作画面においては、表示モード切替制御を設定せずに表示許可モードを固定設定するようにできるし、逆に走行中に操作が困難な操作画面においては表示モード切替制御を設定せずに表示禁止モードを固定設定するようにできるから、無駄な表示モード切替制御を省略することができる。
 表示モード実行可否情報は、操作画面のうち、前記入力受付部により入力が受け付けられる遠隔操作面への押圧操作が、予め定められた操作負担レベルを上回る操作を含む複雑操作画面を前記表示モード切替制御の実行対象と定め、予め定められた操作負担レベルを上回らない操作のみである簡易操作画面を表示許可モードの固定設定対象と定めることができる。この構成によると、簡易操作画面において表示許可モードが固定設定されるから、表示モード切替制御を省略することができる。
 なお、簡易操作画面には、少なくともメニュー選択画面と、音量調整画面と、風量調整画面とのうちいずれか1以上が含まれるようにできる。メニュー画面は、画面上に表示される操作入力画像(操作アイコン)の数も比較的少なく、隣接する操作入力画像間の距離もある程度の幅があるから、操作は比較的容易である。音量調整や風量調整のようなボリューム調整画面も、比較的単純な操作画面にて表示される。従って、これらの操作画面は簡易操作画面と定めるのに適する。一方で、複雑操作画面には、少なくとも文字入力画面が含まれるようにできる。50音の文字入力などは、画面上に表示される操作入力画像の数が多く、その結果として隣接する操作入力画像間の距離が近いことが多いので、意図する操作入力画像を操作することが難しい。従って、このような操作画面は複雑操作画面と定めるのに適する。
 開示の第ニの観点として、車両用操作入力装置は、 車両が備える機器の操作などを行うための表示画面を有した表示部と、表示画面とは異なる位置に設けられ、当該表示画面における操作入力を遠隔的に行うための遠隔操作面を有した遠隔操作部と、遠隔操作面への押圧操作に基づいて押圧操作位置に対応した入力を受け付ける入力受付部と、遠隔操作面に対向する手の画像を撮影する手画像撮影部と、当該手により位置指示された表示画面上の位置に、撮影された手の画像に基づいて生成された位置指示画像を表示する位置指示画像表示部と、を備える車両用操作入力装置であって、 遠隔操作面に対向する手の指状態が、予め定められた操作意思表示用指状態であるか否かを特定する操作意思表示用指状態特定部と、 位置指示画像表示部に設定される表示モードを、位置指示画像の表示を禁止した表示禁止モードに設定するとともに、操作意思表示用指状態が特定されるに伴い予め定められた表示許可期間の間だけ位置指示画像の表示を許可する表示許可モードに切り替える表示モード設定部と、 を備える。
 上記構成によれば、ユーザーが操作する意図を持って特定の指状態を作らなければ遠隔操作部の操作ができないように制限されているので、意図無くなされるような遠隔操作部への誤操作を効果的に防止できる。
 表示モード設定部は、表示許可期間として、表示許可モードに切り替わってから予め定められた禁止モード復帰時間が経過するまでの期間を定めており、当該禁止モード復帰時間が経過するに伴い表示禁止モードに復帰させるように構成できる。この構成によると、表示許可モードから表示禁止モードへの復帰を簡易な処理で行うことができる。
 一方で、表示モード設定部は、表示許可期間として、操作意思表示用指状態が非特定となるまでの期間を定めており、操作意思表示用指状態が特定されている場合には表示許可モードを設定し、操作意思表示用指状態が特定されていない場合には表示禁止モードを設定するように構成することもできる。この構成によると、操作意思表示用指状態が特定されるか否かの判定により、表示許可モードと表示禁止モードとの切り替えを簡易に行うことができる。
 また、表示許可モードが設定されている場合には、入力受付部による入力の受け付けを許可し、表示禁止モードが設定されている場合には、入力受付部による入力の受け付けを禁止する操作入力受付制御部を備えて構成することもできる。プロンプター方式の操作入力装置においては、遠隔操作部での操作状態が位置指示画像により表示されていないと、位置指示操作が極めて困難となるので、上記構成のように、位置指示画像が表示される表示許可モードにおいてのみ入力の受け付けを許可するようにすることで、遠隔操作部への誤操作を確実に防止することができる。逆にいえば、遠隔操作部への入力の受け付けが可能な場合にのみ位置指示画像が表示可能となるので、無駄な位置指示画像の表示を減じ、省電力化にも効果があるといえる。
 なお、操作意思表示用指状態が特定されている場合には、入力受付部による入力の受け付けを許可し、操作意思表示用指状態が特定されていない場合には、入力受付部による入力の受け付けを禁止する操作入力受付制御部を備えて構成することができる。この構成によると、表示モードに関らず、操作意思表示用指状態が特定されている場合にのみ遠隔操作部への入力の受け付けが許可されるので、誤操作を確実に防止することができる。
 操作意思表示用指状態特定部は、手画像撮影部により撮影された手の画像に基づいて、遠隔操作面に対向する手の指形状を認識する指形状認識部を備え、認識された指形状が予め定められた操作意思表示用の指形状であった場合を操作意思表示用指状態として特定するように構成できる。この構成によると、手画像撮影部により撮影された手画像を、指示位置表示に用いるだけでなく、操作意思表示用指状態の特定にも用いることができる。つまり、撮影部が兼用化された構成となるので、無駄な追加構成を排除することができ、低コスト化を実現できる。
 操作意思表示用指状態特定部は、指形状認識部により遠隔操作面に略沿ってのびた指が認識された場合に、該遠隔操作面に略沿ってのびた状態にある指の本数を特定する指本数特定部を備え、特定された該遠隔操作面に略沿ってのびた状態にある指の本数が予め定められた操作意思表示用の数であった場合を操作意思表示用指状態として特定するものとできる。伸びた状態の指をカウントすることは画像解析により容易に実施可能であり、カウントの誤りが少ない。また、指が伸びた状態は、そのまま操作に利用できる指状態であるから、操作者はその操作意思表示用指状態のまま操作を開始できるため、操作性にも優れる。
 操作意思表示用指状態特定部は、予め定められた期間の間に入力受付部が受け付けた、前記遠隔操作面の異なる位置になされた押圧操作による入力の数を特定する操作数特定部を備え、当該期間内に特定された入力数が予め定められた操作意思表示用の数であった場合を操作意思表示用指状態として特定することができる。この構成によると、ユーザーによる所定数のタッチ操作から、操作意思表示用指状態を容易に特定することができる。
 上記操作意思表示用の数は1本とすることができる。一本指状態は非常にシンプルな手形状であるから、該一本指状態を特定する処理を容易化できる。また、操作意思表示用指状態が特定された場合にのみ遠隔操作部への入力を許可するように構成されている場合、即ち、操作意思表示用指状態の指状態でなければ遠隔操作部への入力ができない構成の場合は、最も単純で分かり易い指状態を操作意思表示用指状態と定めることが望ましい。よって、この場合も、最も指の本数が少ない一本指状態を操作意思表示用指状態として定めるとよい。
 上記操作意思表示用の数は4本、さらに望ましくは3本、さらに望ましくは2本とすることができる。二本指状態も比較的シンプルな手形状であるから、操作意思表示用指状態を特定する処理は容易なものとなる。3本、4本も比較的シンプルな指状態である。また、これらの指状態は、ユーザーが偶然に形成するような手形状でもないので、誤操作の防止も確実に実施できる。
 操作意思表示用指状態特定部は、指形状認識部により前記遠隔操作面に略沿ってのびた指が認識された場合に、該遠隔操作面に略沿ってのびた状態にある指の種別を特定する指種別特定部を備え、特定された該遠隔操作面に略沿ってのびた状態にある指の種別が予め定められた操作意思表示用の指種別のもののみであった場合を前記操作意思表示用指状態として特定する構成とすることもできる。特定の指のみがのびた手形状は、ユーザーが偶然に形成するような手形状でもないので、誤操作の防止も確実に実施できる。また、指が伸びた状態は、そのまま操作に利用できる指状態であるから、操作者はその操作意思表示用指状態のまま操作を開始できるため、操作性にも優れる。
 上記操作意思表示用の指種別は人差し指のみとすることができる。人差し指の一本指状態は非常にシンプルな手形状であるから、該一本指状態を特定する処理を容易化できる。また、操作にも多く利用される指であるから、そのまま操作を開始するにも都合がいい。
 上記操作意思表示用の指種別は中指のみとすることができる。中指の一本指状態は非常にシンプルな手形状であるから、該一本指状態を特定する処理を容易化できる。また、最長の指という特徴も有しているため、種別認識も容易である。また、操作にも利用される指であるから、そのまま操作を開始するにも都合がいい。
 上記操作意思表示用の指種別は人差し指と中指の二本のみとすることができる。人差し指と中指の二本指状態は非常にシンプルな手形状であるから、該二本指状態を特定する処理を容易化できる。また、最長の指である中指が含まれるから、指の種別認識も容易である。また、双方の指とも操作にも利用される指であるから、そのまま操作を開始するにも都合がいい。
 位置指示画像表示部は、手画像撮影部により撮影された手の画像に基づいて当該手の指の輪郭が少なくとも特定可能となる実指画像を生成し、生成された実指画像を前記位置指示画像として表示するものとできる。画面上で、手の輪郭から手の位置を把握できるので、位置を認識しやすく、操作性がより容易となる。
 位置指示画像表示部は、指の延びる方向と指先位置が少なくとも特定可能となる擬似指画像、又は、指の指先位置が少なくとも特定可能となる指先位置画像のいずれかを位置指示画像として表示するものとできる。位置指示画像として、指の指示位置が分かる程度に簡略された画像を用いることで処理負担を軽減できる。
 
 開示の第三の観点として、表示方法は、 表示画面を有した表示部と、表示画面への操作を遠隔的に行うための遠隔操作面を有した遠隔操作部とを備える表示装置において、遠隔操作部の手前側にて指が対向するに伴い当該指位置に対応する表示画面上の画面位置に、背景をなす画像に合成ないしは重畳する形で、位置指示画像を表示する表示方法であって、 遠隔操作部の手前側で対向する手において指を特定する指特定ステップと、 特定された指から遠隔操作部への操作に使用する、あるいは使用すると推定される操作対象指を指定する操作対象指指定ステップと、 表示画面上の背景画像に合成ないしは重畳する形で、特定された指の指示位置を示す位置指示画像を表示する表示ステップであって、表示される位置指示画像のうち、指定された操作対象指に対応する位置指示画像を、当該位置指示用指とは異なる指に対応する位置指示画像よりも相対的に強調する強調表示にて行う位置指示画像強調表示ステップと、 を有する。
 上記によれば、多数本の指が遠隔操作面に対向し、それら全てが画面表示された場合でも、予め定められた方法、予め定められたルールに従い操作対象指の位置に対応する位置指示画像が特定され、その位置指示画像が他の指よりも相対的に強調してなされる。これにより、ユーザーは、どの指で操作を行うべきかを画面上から容易に認識することができる。また、表示されている指と実際の指との対応関係は、操作対象指の決められ方さえユーザーが把握しておけば容易に認識できる。従って、遠隔位置指示に適した位置指示画像の表示が可能となる。
 また、遠隔操作面に対向する手において指先を特定する指先特定ステップを設けることができる。具体的にいえば、上記指特定ステップは、遠隔操作面に対向する手から指先を特定する指先特定ステップであり、当該指先を特定する形で前記指を特定するステップとすることができる。そして、この場合、位置指示画像強調表示ステップは、表示画面上の背景画像に合成ないしは重畳する形で、特定された指先に対応する位置に位置指示画像の表示を行うことを前提とする表示ステップとして、上記強調表示を実施するようにするものとできる。
 なお、指先とは、指の先端側の予め定められた領域(例えば第一間接まで等)や、その中に含まれる特定の位置(例えば指先端から第一間接までの領域の重心位置等)として定められるものとする。
 また、操作対象指指定ステップは、操作対象指として1本の指を指定するものとすることができる。特に1本としておけば、操作対象指を明確認識し易く、特にプッシュ操作を含む接触操作がなされる遠隔操作部への適用に好適である。また、一本指状態は非常にシンプルな手形状であるから各処理を容易化できる。
 また、操作対象指指定ステップは、操作対象指として2本又は3本の指を指定するものとすることができる。2本又は3本としておけば、プル操作や回転操作等を行う遠隔操作部への適用に好適である。
 また、位置指示画像強調表示ステップにおいて、前記操作対象指とは異なる指に対応する位置指示画像を非表示としないことができる。これにより、表示されている操作対象指と、実際の操作対象指との対応関係を、それ以外の指の表示状態も参照にしながら把握できるようになる。
 また、指特定ステップにより特定された指の形状に係る指形状情報を指定指情報として取得する指定指情報取得ステップを設けることができる。この場合、上記の操作対象指指定ステップは、取得された指形状情報に基づいて、指特定ステップにより特定された指のうち、当該指の形状に係る予め定められた選定条件に最も適する指形状情報を有した指を優先して操作対象指として指定するステップとすることができる。操作対象指が一本だけ特定される場合には、選定条件に最も適した指を操作対象指として指定することができる。
 この構成によれば、例えば指の形状に係る情報から予め決められた種類の指を特定ないし推定して、その指を操作対象指として指定することも可能となる。各指にはそれぞれ種類毎に形状の違いがあるので、これらから指を特定ないし推定することができるから、位置指示に使用しやすい人差し指や中指を特定ないし推定することも可能となる。
 具体的にいえば、指定指情報取得ステップは、指特定ステップにより特定された指同士の、遠隔操作面方向における長さ関係を反映した指長情報を指形状情報として取得するステップとすることができ、この場合、上記の操作対象指指定ステップは、取得された指長情報に基づいて、指特定ステップにより特定された指のうち、当該指長情報に係る予め定められた選定条件に適する指を優先して操作対象指として指定するステップとすることができる。この構成によれば、指の長さ関係が明らかになるので、この長さの比較から予め決められた種類の指を特定ないし推定して、その指を操作対象指として指定することができる。例えば、位置指示に使用しやすい中指であれば、最も長いと特定される(あるいは推定される)指として特定できる。人差し指であれば、操作手が左右いずれの手であるかさえ分かれば、最も長いと特定されるあるいは推定される指に隣接する一方側の指として特定できる。また、この構成によれば、最も長く表れる指は操作に使用される可能性が一般的には高いから、その逆の、操作に使用する意図が無いような中途半端にのびた指は確実に排除することが可能となる。
 また、指定指情報取得ステップは、指特定ステップにより特定された指同士の、遠隔操作面方向における幅の関係を反映した指幅情報を指形状情報として取得するものであり、ステップとすることもでき、この場合、上記の操作対象指指定ステップは、取得された指幅情報に基づいて、指特定ステップにより特定された指のうち、当該指幅情報に係る予め定められた選定条件に適する指を優先して操作対象指として指定するステップとすることができる。この構成によれば、指の幅(太さ)の関係が明らかになるので、この幅の比較から予め決められた種類の指を特定ないし推定し、その指を操作対象指として指定することもできる。
 また、指特定ステップにより特定された指同士の、遠隔操作面方向(遠隔操作面の広がる方向、即ち該遠隔操作面の法線に対し垂直をなす方向)における位置関係に係る位置関係情報を指定指情報として取得する指定指情報取得ステップを設けることができ、上記の操作対象指指定ステップは、取得された該位置関係情報に基づいて、指特定ステップにより特定された指のうち、当該位置関係に係る予め定められた選定条件に最も適する位置関係情報を有した指を優先して操作対象指として指定するステップとすることができる。操作対象指が一本だけ特定される場合には、選定条件に最も適した指を操作対象指として指定することができる。
 この構成によれば、例えば特定された複数本の指の遠隔操作面方向における位置関係から予め決められた種類の指を特定ないし推定して、その指を操作対象指として指定することも可能となる。各指はその種類毎に位置関係が決められているから、これを用いて指を特定することができる。例えば、位置指示に最も使用しやすい人差し指であれば、指形状等から親指を排除した上で、操作する手が左手の場合は最も右に位置する指として特定でき、操作する手が右手の場合は最も左の指として特定できる。人差し指を特定できるならば、それに隣接する指を中指として特定することもできる。また、この構成では、指の位置関係によって操作対象指を選定するので、ユーザーにとってどの指が選定されるか分かりやすくなる。
 具体的にいえば、指定指情報取得ステップは、指先特定ステップにより特定された指先を遠隔操作部との対向方向に投影し、その投影面上の予め定められた位置に1本の軸を設定して一次元の座標系を定め、投影された該指先の当該座標系における座標値を特定し、当該座標値を反映した軸座標情報を位置関係情報として取得するステップであり、この場合、上記の操作対象指指定ステップは、取得された該軸座標情報に基づいて、指特定ステップにより特定された指のうち、当該軸座標情報に係る予め定められた選定条件に対し適する指を優先して操作対象指として指定するステップとすることができる。この構成によると、上記位置次元座標系における各指先の位置する座標のみで、操作対象指を簡易に特定できる。なお、この場合の軸線は、例えば、遠隔操作面において操作対象指が最も位置し易い領域から位置し難い領域に向かう、あるいはその逆の直線として定めることができる。
 また、指定指情報取得ステップは、指先特定ステップにより特定された指先を遠隔操作部との対向方向に投影し、その投影面上の予め定められた領域に設定される基準領域と投影された指先との間の距離を反映した距離情報を位置関係情報として取得するステップとすることができ、この場合、上記の操作対象指指定ステップは、取得された該距離情報に基づいて、指特定ステップにより特定された指のうち、当該距離情報に係る予め定められた選定条件に対し適する指を優先して操作対象指として指定するステップとすることができる。この構成によると、基準領域との距離演算のみで、操作対象指を簡易に特定できる。この場合の基準領域は、例えば、遠隔操作面において操作対象指が最も位置し易い領域、あるいはその逆の領域として定めることができる。
 また、指特定ステップにより特定された指同士の、遠隔操作面への接近距離関係を反映した接近距離情報を指定指情報として取得する指定指情報取得ステップを設けることができ、この場合、上記の操作対象指指定ステップは、当該接近距離に関する予め定められた選定条件に対し適する指を優先して操作対象指として指定するステップとすることができる。この構成によれば、例えば特定された複数本の指の遠隔操作面への接近方向における位置関係から操作対象指を特定することが可能となる。なお、遠隔操作面への操作は手の指先による接触を伴うものであるから、この指先が遠隔操作面に最も近い指ほど位置指示の可能性が高い指である。従って、操作対象指指定ステップを、取得された該接近距離情報に基づいて、指特定ステップにより特定された指のうち、遠隔操作面に対し近い指先の指ほど優先して操作対象指として指定するステップとすれば、位置指示に最も適した指を操作対象指に指定できる。
 また、指定指情報取得ステップは、撮影部により撮影された手の画像の輝度を接近距離情報として取得するステップとすることができる。この場合、上記の操作対象指指定ステップは、当該輝度に関する予め定められた選定条件に対し適する指を優先して操作対象指として指定するステップとすることができる。なお、これを実現するために、遠隔操作面に接近する手に光源から光が照射されるとともに、その反射光を捉える形で、当該手を遠隔操作面の裏側から撮影部により撮影する撮影ステップが必要となる。撮影部は、遠隔操作面を操作する手の反射光を捉える形で撮影を行うので、遠隔操作面に最も近い指先ほど高輝度に表れるから、輝度を用いて接近距離情報を容易に得ることができ、実際に接近距離を測るような部・処理を省略できる。また、指先が遠隔操作面に最も近い指ほど、位置指示の可能性が高い指であるから、ここでの操作対象指指定ステップは、指特定ステップにより特定された指のうち、指先特定部により特定された指先の輝度が最も高い指ほど優先して操作対象指として指定するステップとすることができる。
 ところで、上記の全ての指定指情報取得ステップは、撮影ステップによる撮影画像に基づいて指定指情報を取得するステップとすることができる。この構成によると、撮影画像から得られる情報を使って容易に指指定情報を得ることができる。なお、これを実現するためには、撮影ステップとして、遠隔操作面に接近する手に光源から光が照射されるとともに、その反射光を捉える形で、当該手を遠隔操作面の裏側から撮影部により撮影するステップが必要となる。
 なお、遠隔操作面に接近する手に光源から光が照射されるとともに、その反射光を捉える形で、当該手を遠隔操作面の裏側から撮影部により撮影する撮影ステップを設けることができるが、この場合、指特定ステップは、撮影された手の画像から指を特定するステップとすることができる。さらにいえば、上記指先特定ステップは、撮影された手の画像から指先を特定するステップとすることができる。さらには、位置指示画像を表示する表示ステップを、撮影された手の画像に基づいて生成された位置指示画像を表示するステップとすることもできる。これらの構成によれば、カメラ等の1つの撮影部の撮影画像により、指の特定、指先の特定、さらには操作対象指の特定や位置指示表示も可能となるので、これらの部を個別に設けた構成と比べて、構成を単純化できる。
 ところで、遠隔操作部は、例えばタッチパネル等のように、遠隔操作面がタッチ操作面をなすとともに当該タッチ操作面へのタッチ操作の有無及びタッチ位置を検出するタッチ操作部として構成することができる。この場合、操作対象指指定ステップは、指特定ステップにより特定された指のうち、タッチ操作面へのタッチ操作を行った指を操作対象指として指定するステップとすることができる。この構成によると、実際に位置指示がなされた後、その位置指示に使用された指が操作対象指として特定される。一般的な操作者は、操作対象指を固定して使用する傾向にあるので、正確に操作対象指を定め、これを強調した表示を行うことができる。また、タッチ操作をした指が強調表示されることにより、このタッチ操作をきっかけにして、画面表示された多数本の指と実際の指との対応関係を明確に認識できるようになる。
 なお、誤って遠隔操作部に触れてタッチ操作をしてしまった場合に、その操作が入力に反映されないようにし、さらには強調表示に繁栄されないようにすることができる。具体的にいえば、操作対象指指定ステップを、タッチ操作が予め定められた押圧操作時間を上回るタッチ操作であった場合に、当該タッチ操作を行った指を操作対象指として指定するステップとすればよい。また、操作対象指指定ステップを、初回のタッチ操作が予め定められた押圧操作力を上回るタッチ操作であった場合に、当該タッチ操作を行った指を操作対象指として指定するステップとしてもよい。これらの構成によれば、一定以上の負荷を伴う操作でなれば、タッチ操作として有効とならないので、誤操作を防止できる。
 ところで、位置指示画像強調表示ステップは、強調表示を、所定時間をかけて段階的に強調レベルを変化させる形で行うステップとすることができる。つまり、強調表示において、強調表示を開始してから強調表示が完了するまでの間に、強調開始前及び強調完了後の双方の状態とは異なる1以上の変化途中状態を経るような表示とすることができる。この構成によると、強調表示変化の過程が表示されるので、その過程を見ることで、表示されている指(特に操作対象指)と、実際の指との対応関係を認識しやすい。
 また、この位置指示画像強調表示ステップは、強調表示として、該強調表示の開始時においては、操作対象指に対応する位置指示画像と、該位置指示用指とは異なる指に対応する位置指示画像とが強調レベル(強調度合い)が同じ状態でなされるとともに、該強調表示の開始から時間が経過するに従い操作対象指に対応する位置指示画像の相対的な強調レベルが段階的に増すように変化する表示を実行するステップとすることもできる。この場合によると、操作対象指に対応する位置指示画像の強調レベルが(相対的に)徐々に増していく構成となる。いきなり強調完了状態となると、その直後、強調表示されている操作対象指が実際にどの指に当たるのかを認識するのに戸惑いを感じてしまうが、徐々に強調表示が進むようにすることにより、そうした戸惑いを無くすことができる。
 このように、強調表示前の状態を表示する重要性を考慮するならば、位置指示画像強調表示ステップを、操作対象指指定ステップにより操作対象指が指定されてから所定時間経過した後に、相対強調表示を開始するステップとすることがよい。ただし、上記のような強調レベルが徐々に増す構成においては、その変化の過程を時間をかけて視認できるので、位置指示画像強調表示ステップを、操作対象指指定ステップにより操作対象指が指定されるに伴い相対強調表示を開始するようにしてもよい。
 遠隔操作面に対向する手の画像を撮影する手画像撮影ステップを備えて構成することができる。この場合、指特定ステップは、撮影された手の画像に基づいて、遠隔操作面に対向する手の指を特定するものとすることができる。さらに、この場合、位置指示画像強調表示ステップは、特定された手の指の輪郭が少なくとも特定可能となる実指画像を、撮影された手の画像に基づいて生成し、生成された実指画像を位置指示画像として表示するものとできる。操作画面上に実際の手の輪郭が表示されるため、その輪郭から手の位置を把握することができる。実際の手の輪郭であることから位置を認識しやすく、操作がより容易となる。
 また、位置指示画像強調表示ステップは、指の延びる方向が少なくとも特定可能となる擬似指画像、又は、指の指先位置が少なくとも特定可能となる指先位置画像のいずれかを前記位置指示画像として表示するように構成することもできる。位置指示画像として、指の指示位置が分かる程度に簡略された画像を用いることで処理負担を軽減できる。
 ところで、強調表示は、位置指示画像の輪郭線に対してなされるものとできる。輪郭線が強調されることで、特定の指の指示位置がより分かり易くなる。
 また、強調表示は、位置指示画像の表示色の濃淡を変える、位置指示画像の形状を変える、位置指示画像の透過度を変える、位置指示画像を点滅表示する形でなされるものであってもよい。これら単純な画像処理により強調表示を実施することで、処理負担を軽減できる。また、これらの強調表示でも十分に、特定の指を強調することができる。
 ところで、遠隔操作部への操作に使用する、あるいは使用すると推定される指を操作対象指として指定し、指定された操作対象指に対応して表示される位置指示画像を、他の指に対応して表示される位置指示画像よりも相対的に強調して表示することを特徴としている。この場合、常に一定の指が操作対象指として指定される方が操作性の観点で優れる。つまり、操作対象指として同一の指が継続して指定されることが望ましい。
 そのための構成として、表示方法は、操作対象指指定ステップにて前記操作対象指が指定された後、当該操作対象指に指定された指の移動を追跡する操作対象指追跡ステップを有し、操作対象指指定ステップは、前記操作対象指追跡ステップによる追跡結果に基づいて、前記操作対象指に指定された指と同一の指を継続的に前記操作対象指として指定するものとすることができる。この構成によれば、操作対象指に指定された指の移動が追跡されるから、常に同一の指を操作対象指として指定することができる。指の移動に伴い操作対象指が変化する場合と比較して、操作しやすい。
 また、指特定ステップは、前記遠隔操作部の手前側にて予め定められている指特定可能範囲内に存在する手の指を、所定時間間隔にて順次特定とするものとできる。例えば、指特定ステップが撮影部により動画撮影される手の画像から指を特定するものである場合、撮影により所定時間間隔おきに順次取得される動画像フレーム毎に、フレーム内に映る手画像から指を特定することになる。こうした場合、指特定ステップにより順次特定される指ごとの位置情報を取得し、当該位置情報を追跡情報として予め定められた追跡情報記憶部に記憶することにより、前記指特定ステップにより順次特定される指の移動を指ごとに追跡する指追跡ステップを設けることにより、操作対象指追跡ステップは、前記指追跡ステップにより記憶される指ごとの追跡情報のうち前記操作対象指の追跡情報に基づいて、当該操作対象指に指定された指の移動を追跡することができる。この構成によると、指特定ステップにより特定される全ての指の移動が追跡されるから、どの指が操作対象指に指定されても対応できる。また、操作対象指の移動は他の指と連動して生ずるから、操作対象指だけでなく他の指の追跡情報も収集しておけば、これを操作対象指の追跡に利用することで、より正確な追跡も可能となる。
 また、指追跡ステップは、指特定ステップ毎に前記追跡情報を記憶している追跡中の各指が、次回の前記指特定ステップにて位置すると推定される次回位置を、対応する前記追跡情報に基づいて算出する次回位置推定ステップを有するものとできる。この場合、指追跡ステップは、当該次回位置推定ステップにて算出される前記追跡中の各指の前記次回位置と、次回の前記指特定ステップにて実際に特定される各指の実位置との位置関係が、予め定められた基準条件を満たすペアを特定するとともに、当該ペアの一方である前記追跡中の指と前記指特定ステップにて実際に特定された指とは互いを同一の指と判断し、当該追跡中の指が同一と判断された実際に特定された指の位置に移動したものとして、当該指の移動追跡を継続するものとできる。具体的に言えば、同一と認識された当該実際に特定された指の位置情報を、当該追跡中の指の最新の位置情報として前記追跡情報記憶部に記憶する形で当該追跡情報記憶部に記憶されている前記追跡情報を更新することにより、当該指の移動追跡を継続するものとできる。この構成によると、追跡情報が記憶されることで、過去の追跡情報から追跡中の指の次回の移動先を推定できる。さらに、その推定された位置と実際に指が特定された位置との位置関係を比較して、双方が例えば所定レベル以上近接した位置関係にある場合には、追跡中の指が推定どおりに移動したものと判断できる。つまり、追跡中の移動先の推定を、過去の追跡情報を用いることで高い精度で行うことができ、さらに指の移動追跡は、その推定結果を用いてなされるから、高い追跡精度が得られる。
 上記追跡情報は、複数回の前記指特定ステップにより特定された対応する前記追跡中の指の各位置情報を含むことを可能とできる。この場合、次回位置推定ステップは、当該各位置情報に基づいて、対応する追跡中の指の前記次回位置を算出するものとできる。この構成によると、追跡中の指の過去複数回の位置から次回の位置が推定されるので、高い推定精度を得ることができる。
 また、次回位置推定ステップは、前記追跡情報に、前回及び前々回の前記指特定ステップにより特定された対応する前記追跡中の指の各位置情報が含まれる場合には、それら双方の位置情報に基づいて、当該追跡中の指の前記次回位置を算出することができる一方で、前記追跡情報に、前回の前記指特定ステップにより特定された対応する前記追跡中の指の位置情報が含まれ、前々回の前記指特定ステップにより特定された対応する前記追跡中の指の位置情報が含まれていない場合には、前回の前記指特定ステップにより特定された際の前記位置情報と、当該位置情報が示す位置に近接する前記指特定可能範囲の縁部の位置とに基づいて、当該追跡中の指の前記次回位置を算出することができる。追跡中の指の前回及び前々回の位置が分かる場合には、それら双方を用いて、次回の位置を高い精度で推定することができるが、追跡中の指の位置が前回の分だけしか分からない場合、即ち追跡中の指が前回新規に出現した指である場合には、1つの位置しか分からないためそれだけでは高い精度で次回の位置を推定できない。ところが、上記構成によれば、前々回の位置の代わりに、前回の位置に近接する指特定可能範囲の縁部の位置を用いる。この場合、前回新規に出現したばかりの指は、指特定可能範囲の最も近接する縁部から出現した可能性が高いから、当該縁部を前々回の位置として利用することで、前々回の位置がなくても、次の位置を十分な精度で推定できる。
 指追跡ステップは、前記指特定ステップによる前記指の特定がなされた際に実際に特定された指とは前記基準条件を満たさなかった前記追跡中の指がある場合には、当該追跡中の指を追跡不可の指として認識を切り替えるとともに、追跡不可と認識されたときの当該指に係る情報を追跡復帰判断情報として、予め定められた追跡復帰判断情報記憶部に記憶するものとできる。この場合、前記指追跡ステップはさらに、前記指特定ステップによる前記指の特定がなされた際に前記追跡中の指とは前記基準条件を満たさなかった、実際に特定された指がある場合には、前記追跡復帰判断情報記憶部に記憶されている前記追跡復帰判断情報に基づいて、実際に特定された当該指が過去に追跡不可とされた指と同一であるか否かを判断し、同一であると判断された場合には、当該追跡復帰判断情報に対応する追跡不可とされていた指が、実際に特定された当該指の位置に再出現したと認識して、当該指の移動追跡を再開する一方で、同一ではないと判断された場合には、実際に特定された当該指が新規出現した指であると認識して、当該指の移動追跡を新たに開始するものとできる。具体的に言えば、同一であると判断された場合には、実際に特定された指の位置情報を、同一と認識された追跡不可とされていた当該指の最新の位置情報として前記追跡情報記憶部に記憶する形で、当該追跡情報記憶部に記憶されている前記追跡情報を更新することにより、当該指の移動追跡を再開する一方で、同一でないと判断された場合には、新規出現の指の位置情報を前記追跡情報として前記追跡情報記憶部に記憶することにより、当該指の移動追跡を新たに開始するものとできる。操作対象指は、指特定ステップにおいて特定可能な範囲外に移動した際には特定されなくなるが、特定されなくなったからといって、その指以外の指を操作対象指とすることは得策であるとはいい難い。例えば、人差し指が操作対象指とされていた状態で、この人差し指が特定範囲外に移動した場合に、薬指が特定されているからといって、この薬指を操作対象指に変更することはあまり望ましいことではなく、再び人差し指が特定されるまでは、操作対象指を指定しないほうがよい。つまり、一定の指が常に操作対象指として指定される方が、操作しやすいのである。上記構成によれば、追跡中の指をロスト(追跡不可)した場合には、ロスト時の状況が追跡復帰判断情報として記憶され、追跡されていなかった指が新たに特定された場合には、蓄積された追跡復帰判断情報を根拠に、その指が過去にロストした指であるか否かが判断されるから、一度ロストした指が再出現した場合には、これを同じ指と認識することができる。ロストした指が操作対象指である場合には、再出現した際に再び操作対象指として直ちに指定することができ、そのまま移動追跡を再開できる。
 この場合の追跡情報は、少なくとも前記指特定ステップにより特定された指の最新の位置情報を含むものとすることができ、前記追跡復帰判断情報も、対応する指が追跡不可と認識される前の最後の位置情報を含むものとできる。この構成によると、指追跡ステップにて、ロスト(追跡不可)する直前の位置と、再出現の位置とを比較し、互いが近い位置関係にあるペアを同一の指と判断できる。つまり、ロスト時に直前の位置を記憶し、再出現時に位置の比較するだけで、新たに特定された指が再出現した指であるか否かを容易に判断可能となる。
 指追跡ステップは、前記指特定ステップによる前記指の特定がなされた際に前記追跡中の指とは前記基準条件を満たさなかった、実際に特定された指が特定されており、なおかつ追跡復帰判断情報記憶部に、複数の指の追跡復帰判断情報が記憶されている場合には、実際に特定された当該指の位置情報と、それら前記追跡復帰判断情報に含まれる追跡不可の指の最後の位置情報とに基づいて、実際に特定された当該指に最も近い位置を示す前記位置情報を含む前記追跡復帰判断情報に対応する追跡不可とされている指を、実際に特定された当該指と同一の指と判定するものとできる。この構成によると、ロスト(追跡不可)した指が複数存在する場合であっても、それらロスト中の指の最終特定位置と新たに特定された指の位置とを比較し、最も近いかったロスト中の指を、新たに特定された指と同一と判断される。ロストした指は、ロストした箇所と同じ位置から出現する可能性が高いから、これを利用することで、新たに特定された指が新規に出現したものかロストしていた指が再出現したものかを正確に特定できる。
 指追跡ステップは、前記指特定ステップによる前記指の特定がなされた際に前記追跡中の指とは前記基準条件を満たさなかった、実際に特定された指が特定されている場合に、実際に特定された当該指の位置情報と、前記追跡復帰判断情報に含まれる追跡不可の指の最後の位置情報とが示すそれぞれの位置間の距離が、予め定められた基準距離を下回る場合には、実際に特定された当該指と当該追跡復帰判断情報に対応する追跡不可とされている指とを同一と認識することを許可する一方で、前記基準距離を下回らない場合には、実際に特定された当該指と当該追跡復帰判断情報に対応する追跡不可とされている指とを同一と認識することを禁止するものとできる。ロスト(追跡不可)中の指の最終特定位置と新たに特定された指の位置とを比較したときに、両者の距離があまりにかけ離れた位置にある場合には、両指は異なる指である可能性が高い。上記構成とすることで、新たに特定された指が新規に出現したものかロストしていた指が再出現したものかをより正確に特定できる。
 指追跡ステップは、前記指特定ステップによる前記指の特定がなされた際に実際に特定された指とは前記基準条件を満たさなかった前記追跡中の指があり、当該追跡中の指が追跡不可と認識された場合には、追跡不可と認識されたときの当該指に係る情報と共に、他の追跡不可の指との追跡不可認識時期の前後関係が特定可能となる追跡不可認識順序を、追跡復帰判断情報として前記追跡復帰判断情報記憶部に記憶するものとできる。この場合、前記指追跡ステップはさらに、前記指特定ステップによる前記指の特定がなされた際に前記追跡中の指とは前記基準条件を満たさなかった、実際に特定された指が特定されており、なおかつ前記追跡復帰判断情報記憶部には、複数の指の追跡復帰判断情報が記憶されている場合には、実際に特定された当該指の位置情報と、それら前記追跡復帰判断情報に含まれる追跡不可の指の最後の位置情報とに基づいて、実際に特定された当該指に最も近い位置を示す前記位置情報を含む前記追跡復帰判断情報を特定することができる。ただし、実際に特定された当該指に最も近い位置を示す前記位置情報を含む追跡復帰判断情報が1つ特定されている場合には、当該追跡復帰判断情報に対応する追跡不可とされている指を、実際に特定された当該指と同一の指と判定する一方で、実際に特定された当該指に最も近い位置を示す前記位置情報を含む追跡復帰判断情報が2以上特定される場合には(つまり、複数の前記追跡復帰判断情報に含まれる位置情報が示す位置が予め定められた近接条件を満たす位置関係にある場合には)、それら追跡復帰判断情報に含まれる前記追跡不可認識順序を参照して、それら追跡復帰判断情報のうち追跡不可認識時期が最も新しいものに対応する追跡不可とされている指を、実際に特定された当該指と同一の指と判定するものとできる。人間の手における指の並びからすると、複数の指がほぼ同じ位置を最後にロスト(追跡不可)した場合には、それらが再び出現する時には、最後にロストした指から順に出現する可能性が高い。上記構成とすることで、ロスト中の指が複数あったとしても、新たに特定された指がロスト中のどの指と同一であるかを正確に特定できる。
 なお、追跡復帰判断情報は、対応する指が追跡不可と認識される際に、追跡情報記憶部に記憶されていた当該指の前記追跡情報とすることができる。この構成によると、追跡中の指をロスト(追跡不可)した際に、追跡情報記憶部に記憶されていた当該指の追跡情報をそのまま追跡復帰判断情報に記憶するだけでよい。追跡情報記憶部と追跡復帰判断情報記憶部とが同じとするならば、記憶されている追跡情報をそのまま残しておくだけでよい。
 指追跡ステップは、前記指特定ステップにより指が特定され、なおかつ特定された当該指が新規出現の指として認識した際には、当該新規の指に対し新たな識別情報を付与するとともに、当該識別情報に対応付けた形で、各指の前記追跡情報を前記追跡情報記憶部に記憶するものとできる。これにより、指特定ステップにより特定された指には識別情報が付されるので、指に対応する情報管理が容易となる。
 また、追跡復帰判断情報記憶部を有した構成において、指追跡ステップは、前記識別情報が付与されている前記追跡中の指を追跡不可の指として認識した際には、当該指の前記識別情報に前記追跡復帰判断情報を対応付けた形で前記追跡復帰判断情報記憶部に記憶するものとできる。この場合、追跡中の指をロスト(追跡不可)してもその指の識別情報はそのまま残されるから、ロスト後もその指に対応する情報を容易に管理できる。
 指追跡ステップは、前記指特定ステップによる前記指の特定がなされた際に、追跡情報記憶部に記憶された追跡情報と、さらには追跡復帰判断情報記憶部に記憶された追跡復帰判断情報とに基づいて、当該指特定ステップにより実際に特定された指が前記追跡中の指であるか否か、さらには追跡不可の指であるか否かを、前記識別情報が付された指ごとに判定し、その判定結果を追跡状況として前記識別情報に対応付けた形で、予め定められた追跡状況記憶部に記憶するものとできる。この構成によると、識別情報が付された指の追跡状況(追跡中、ロスト等)を容易に特定することができる。
 指追跡ステップは、前記指特定ステップによる前記指の特定がなされた際に、指が特定されなかった場合には、前記識別情報及び当該識別情報に対応付けて記憶される各種情報を消去し、初期化するものとできる。順次特定される指の各種情報が識別情報に対応付けて記憶更新されていく中で、指が特定されなかったタイミングで一度全ての情報の初期化を図ることができる。
 また、表示装置は、上記した表示方法における各ステップ(指特定ステップ、操作対象指指定ステップ、指先特定ステップ、位置指示画像強調表示ステップ、指定指情報取得ステップ)を実現する部(指特定部、操作対象指指定部、指先特定部、位置指示画像強調表示部、指定指情報取得部)を備えて構成することができる。これにより、表示装置において上記効果を実現できる。
 また、操作入力装置は、上記表示装置を備えて構成することができる。具体的にいえば、表示画面は、機器の操作などを行うための画面として構成し、遠隔操作面は、表示画面とは異なる位置に設けられて当該表示画面における操作入力を遠隔的に行うための操作面として構成するとともに、上記表示画面を有した表示部と、上記遠隔操作面を有した遠隔操作部と、遠隔操作面への押圧操作に基づいて押圧操作位置に対応した入力を受け付ける入力受付部と、遠隔操作面に対向する手の画像を撮影する手画像撮影部と、当該手により位置指示された表示画面上の位置に撮影された手の画像に基づいて生成された位置指示画像を表示する位置指示画像強調表示部と、を備えて構成することができる。これにより、上記表示方法の効果を有した遠隔操作用の操作入力装置を実現できる。
 また、操作入力装置は車両用操作入力装置とすることができる。具体的にいえば、上記機器は車載搭載機器であり、表示画面は運転者よりも車両前方側にて該運転者により視認可能に配置され、遠隔操作面は、表示画面よりも運転者に近い位置に設けることができる。操作対象指が分かり易い表示がなされるので、操作が容易となる。特に運転者の操作の簡易化に貢献できる。
 また、第一の観点と第二の観点は、上位の概念として提供されことができる。即ち、車両用操作入力装置は次のように提供される。 車両が備える機器の操作などを行うための表示画面を有した表示部と、前記表示画面とは異なる位置に設けられ、当該表示画面における操作入力を遠隔的に行うための遠隔操作面を有した遠隔操作部と、前記遠隔操作面への押圧操作に基づいて押圧操作位置に対応した入力を受け付ける入力受付部と、前記遠隔操作面に対向する手の画像を撮影する手画像撮影部と、当該手により位置指示された前記表示画面上の位置に前記撮影された手の画像に基づいて生成された位置指示画像を表示する位置指示画像表示部と、を備える車両用操作入力装置であり、前記遠隔操作面に対向する手の指状態が、予め定められた所定指状態であるか否かを特定する所定指状態特定部と、前記位置指示画像表示部に対し設定される表示モードを、前記所定指状態が特定されている場合に前記位置指示画像の表示を許可する表示許可モードに設定し、前記所定指状態が特定されていない場合には前記位置指示画像の表示を禁止する表示禁止モードに設定する表示モード切替制御を実行する表示モード設定部と、を備えている。
 また、上記は、開示の別の観点として、次のような表示方法として提供することができる。即ち、表示画面を有した表示部と、前記表示画面への操作を遠隔的に行うための遠隔操作面を有した遠隔操作部とを備える表示装置において、前記遠隔操作部の手前側にて指が対向するに伴い当該指位置に対応する前記表示画面上の画面位置に、背景をなす画像に合成ないしは重畳する形で、位置指示画像を表示する表示方法であって、前記遠隔操作面に対向する手の指状態が、予め定められた指状態であるか否かを特定する所定指状態特定ステップと、前記所定指状態が特定されている場合に前記位置指示画像の表示を許可する表示許可モードに設定するステップと、前記所定指状態が特定されていない場合には前記位置指示画像の表示を禁止する表示禁止モードに設定するするステップと、を有する。
 この発明の個々の実施形態が上記に記載されているが、これは、発明を個々に記載の形態に限定する意図で記載されていると理解されるのではなく、反対に、その発明は、請求項によって規定されるようにその発明の範囲に入る全ての修正物、同等物、及び代替物を含めるものと理解されるものである。
符号の説明
 1操作入力装置 10 車両用ナビゲーション装置 12 操作情報入力部(遠隔操作部) 12a 操作パネル 12b カメラ(手画像撮影部または手段) 12c 光源 15 表示装置(表示部または手段、操作画面表示部あるいは手段) 15a タッチパネル 18 制御回路(入力受付部または手段、位置指示画像表示部または手段、所定指状態特定部または手段、、操作意思表示用指状態特定部または手段、簡易操作用指状態特定部または手段、操作入力制御部または手段、表示モード設定部または手段、操作者特定部または手段、走行状態特定部または手段、位置指示画像強調表示部または手段、指特定部または手段、操作対象指指定部または手段、指先特定部または手段、指定指情報取得部または手段、指本数特定部あるいは手段、手形状認識部あるいは手段、操作数特定部あるいは手段、表示モード実行可否情報記憶部あるいは手段) 18a 画像処理部 18d 記憶部 20 カメラ 30 車速センサ(車速検出部あるいは手段) 40 カメラ 41,42 カメラ 50 車両内LAN 100 ECU 150 撮影画像 200B メイン画像 200I スイッチ画像(操作アイコン) 200H 位置指示画像(手画像) H 接近対象物(手・指)

Claims (95)

  1.  車両が備える機器の操作などを行うための表示画面を有した表示部(15)と、
    前記表示画面とは異なる位置に設けられ、当該表示画面における操作入力を遠隔的に行うための遠隔操作面を有した遠隔操作部(12,12a)と、
    前記遠隔操作面への押圧操作に基づいて押圧操作位置に対応した入力を受け付ける入力受付部(18)と、
    前記遠隔操作面に対向する手の画像を撮影する手画像撮影部(12b)と、
    当該手により位置指示された前記表示画面上の位置に前記撮影された手の画像に基づいて生成された位置指示画像を表示する位置指示画像表示部(18)と、
    前記遠隔操作面に対向する手の指状態が、予め定められた所定指状態であるか否かを特定する所定指状態特定部(18)と、
    前記位置指示画像表示部に対し設定される表示モードを、前記所定指状態が特定されている場合に前記位置指示画像の表示を許可する表示許可モードに設定し、前記所定指状態が特定されていない場合には前記位置指示画像の表示を禁止する表示禁止モードに設定する表示モード切替制御を実行する表示モード設定部(18)と、
     を備えることを特徴とする車両用操作入力装置(1)。
  2. 前記所定指状態特定部は、前記遠隔操作面に対向する手の指状態が、予め定められた簡易操作用指状態であるか否かを特定する簡易操作用指状態特定部(18)を含み
    前記表示モード設定部は、前記位置指示画像表示部に対し設定される表示モードを、前記簡易操作用指状態が特定されている場合に前記位置指示画像の表示を許可する表示許可モードに設定し、前記簡易操作用指状態が特定されていない場合には前記位置指示画像の表示を禁止する表示禁止モードに設定する表示モード切替制御を実行するものである請求項1に記載の車両用操作入力装置。
  3.  車両の車速を検出する車速検出部(30)を備え、 前記表示モード設定部は、前記車両が予め定められた車速レベルを上回る車両走行状態にある場合には、前記表示モード切替制御を実行し、前記車両走行状態にない場合には、前記表示モードとして前記表示許可モードを設定するものである請求項2記載の車両用操作入力装置。
  4.  前記遠隔操作面の操作者が、運転者であるか否かを特定する操作者特定部(18)を備え、 前記表示モード設定部は、前記遠隔操作面の操作者として前記運転者が特定されている場合には、前記表示モード切替制御を実行し、前記遠隔操作面の操作者として前記運転者が特定されていない場合には、前記表示モードとして前記表示許可モードを設定するものである請求項2又は請求項3記載の車両用操作入力装置。
  5.  前記表示モード設定部により、前記表示許可モードが設定されている場合には、前記入力受付部による入力の受け付けを許可し、前記表示禁止モードが設定されている場合には、前記入力受付部による入力の受け付けを禁止する操作入力受付制御を実行する操作入力受付制御部(18)を備える請求項2ないし請求項4のいずれか1項に記載の車両用操作入力装置。
  6.  前記簡易操作用指状態特定部により、前記簡易操作用指状態が特定されている場合には、前記入力受付部による入力の受け付けを許可し、前記簡易操作用指状態が特定されていない場合には、前記入力受付部による入力の受け付けを禁止する操作入力受付制御を実行する操作入力受付制御部を備える請求項2ないし請求項4のいずれか1項に記載の車両用操作入力装置。
  7.  前記簡易操作用指状態特定部は、前記手画像撮影部により撮影された前記手の画像に基づいて、前記遠隔操作面に対向する手の指形状を認識する指形状認識部(18)を備え、認識された指形状が予め定められた簡易操作用の指形状であった場合を前記簡易操作用指状態として特定するものである請求項2ないし請求項6のいずれか1項に記載の車両用操作入力装置。
  8.  前記簡易操作用指状態特定部は、前記指形状認識部により前記遠隔操作面に略沿ってのびた指が認識された場合に、該遠隔操作面に略沿ってのびた状態にある指の本数を特定する指本数特定部を備え、特定された該遠隔操作面に略沿ってのびた状態にある指の本数が予め定められた簡易操作用の数であった場合を前記簡易操作用指状態として特定するものである請求項7記載の車両用操作入力装置。
  9.  前記簡易操作用指状態特定部は、予め定められた期間の間に前記入力受付部が受け付けた、前記遠隔操作面の異なる位置になされた押圧操作による入力の数を特定する操作数特定部(18)を備え、当該期間内に特定された入力数が予め定められた簡易操作用の数であった場合を前記簡易操作用指状態として特定するものである請求項2ないし請求項6のいずれか1項に記載の車両用操作入力装置。
  10.  前記簡易操作用の数が1本である請求項8又は請求項9に記載の車両用操作入力装置。
  11.  前記簡易操作用の数が2本である請求項8又は請求項9に記載の車両用操作入力装置。
  12.  前記簡易操作用の数が3本である請求項8又は請求項9に記載の車両用操作入力装置。
  13.  前記簡易操作用の数が4本である請求項8又は請求項9に記載の車両用操作入力装置。
  14.  前記簡易操作用指状態特定部は、前記指形状認識部により前記遠隔操作面に略沿ってのびた指が認識された場合に、該遠隔操作面に略沿ってのびた状態にある指の種別を特定する指種別特定部を備え、特定された該遠隔操作面に略沿ってのびた状態にある指の種別が予め定められた簡易操作用の指種別のもののみであった場合を前記簡易操作用指状態として特定するものである請求項7記載の車両用操作入力装置。
  15.  前記簡易操作用の指種別が人差し指である請求項14記載の車両用操作入力装置。
  16.  前記簡易操作用の指種別が中指である請求項14記載の車両用操作入力装置。
  17.  前記簡易操作用の指種別が人差し指と中指の双方である請求項14記載の車両用操作入力装置。
  18.  前記位置指示画像表示部は、前記手画像撮影部により撮影された手の画像に基づいて当該手の指の輪郭が少なくとも特定可能となる実指画像を生成し、生成された実指画像を前記位置指示画像として表示するものである請求項2ないし請求項17のいずれか1項に記載の車両用操作入力装置。
  19.  前記位置指示画像表示部は、指の延びる方向と指先位置が少なくとも特定可能となる擬似指画像、又は、指の指先位置が少なくとも特定可能となる指先位置画像のいずれかを前記位置指示画像として表示するものである請求項2ないし請求項17のいずれか1項に記載の車両用操作入力装置。
  20.  車両の車速を検出する車速検出部(30)を備え、
     前記表示モード設定部は、前記車両が予め定められた車速レベルを上回る車両走行状態にある場合には、前記表示モード切替制御を実行し、前記車両走行状態にない場合には、前記表示モードとして前記表示許可モードを設定するものであり、
     前記予め定められた車速レベルは、0km/hと定められている請求項2ないし請求項19のいずれか1項に記載の車両用操作入力装置。
  21.  車両の車速を検出する車速検出部(30)を備え、
     前記表示モード設定部は、前記車両が予め定められた車速レベルを上回る車両走行状態にある場合には、前記表示モード切替制御を実行し、前記車両走行状態にない場合には、前記表示モードとして前記表示許可モードを設定するものであり、
     前記予め定められた車速レベルは、0km/hよりも速く5km/hよりも遅い車速範囲内に定められている請求項2ないし請求項19のいずれか1項に記載の車両用操作入力装置。
  22.  車両の車速を検出する車速検出部(30)を備え、
     前記表示モード設定部は、前記車両が予め定められた車速レベルを上回る車両走行状態にある場合には、前記表示モード切替制御を実行し、前記車両走行状態にない場合には、前記表示モードとして前記表示許可モードを設定するものであり、
     前記予め定められた車速レベルは、5km/h以上10km/h未満の車速範囲内に定められている請求項2ないし請求項19のいずれか1項に記載の車両用操作入力装置。
  23.  車両の車速を検出する車速検出部(30)を備え、
     前記表示モード設定部は、前記車両が予め定められた車速レベルを上回る車両走行状態にある場合には、前記表示モード切替制御を実行し、前記車両走行状態にない場合には、前記表示モードとして前記表示許可モードを設定するものであり、
     前記予め定められた車速レベルは、10km/h以上30km/h未満の車速範囲内に定められている請求項2ないし請求項19のいずれか1項に記載の車両用操作入力装置。
  24.  車両の車速を検出する車速検出部(30)を備え、
     前記表示モード設定部は、前記車両が予め定められた車速レベルを上回る車両走行状態にある場合には、前記表示モード切替制御を実行し、前記車両走行状態にない場合には、前記表示モードとして前記表示許可モードを設定するものであり、
     前記予め定められた車速レベルは、30km/h以上60km/h未満の車速範囲内に定められている請求項2ないし請求項19のいずれか1項に記載の車両用操作入力装置。
  25.  車両の車速を検出する車速検出部(30)を備え、
     前記表示モード設定部は、前記車両が予め定められた車速レベルを上回る車両走行状態にある場合には、前記表示モード切替制御を実行し、前記車両走行状態にない場合には、前記表示モードとして前記表示許可モードを設定するものであり、
     前記予め定められた車速レベルは、60km/h以上の車速範囲内に定められている請求項2ないし請求項19のいずれか1項に記載の車両用操作入力装置。
  26.  前記遠隔操作面への押圧操作による入力が前記入力受付部により受け付けられる複数の操作画面を、前記表示画面上に切り替える形で表示する操作画面表示部(15)と、 前記複数の操作画面のうち前記表示モード切替制御の実行対象とされる操作画面の特定を可能とする表示モード実行可否情報を予め記憶する表示モード実行可否情報記憶部(18d)と、 を備え、前記表示モード設定部は、前記表示モード実行可否情報に基づいて、前記操作画面表示部により表示される前記操作画面が前記表示モード切替制御の実行対象であると特定される場合に限り、特定された操作画面にて前記表示モード切替制御を実行する請求項2ないし請求項25のいずれか1項に記載の車両用操作入力装置。
  27.  前記表示モード実行可否情報は、前記操作画面のうち、前記入力受付部により入力が受け付けられる前記遠隔操作面への押圧操作が、予め定められた操作負担レベルを上回る操作を含む複雑操作画面を前記表示モード切替制御の実行対象と定め、予め定められた操作負担レベルを上回らない操作のみである簡易操作画面を前記表示許可モードの固定設定対象と定めている請求項26記載の車両用操作入力装置。
  28.  前記簡易操作画面には、少なくともメニュー選択画面と、音量調整画面と、風両調整画面とのうちいずれか又は1以上が含まれている請求項27記載の車両用操作入力装置。
  29.  前記複雑操作画面には、少なくとも文字入力画面が含まれている請求項27又は請求項28に記載の車両用操作入力装置。
     
  30. 前記所定指状態特定部は、前記遠隔操作面に対向する手の指状態が、予め定められた操作意思表示用指状態であるか否かを特定する操作意思表示用指状態特定部(18)を含み、
    前記表示モード設定部は、前記位置指示画像表示部に設定される表示モードを、前記位置指示画像の表示を禁止した表示禁止モードに設定するとともに、前記操作意思表示用指状態が特定されるに伴い予め定められた表示許可期間の間だけ前記位置指示画像の表示を許可する表示許可モードに切り替える表示モード切替制御を実行とするものである請求項1に記載の車両用操作入力装置。
  31.  前記表示モード設定部は、前記表示許可期間として、前記表示許可モードに切り替わってから予め定められた禁止モード復帰時間が経過するまでの期間を定めており、当該禁止モード復帰時間が経過するに伴い前記表示禁止モードに復帰させる請求項30記載の車両用操作入力装置。
  32.  前記表示モード設定部は、前記表示許可期間として、前記操作意思表示用指状態が非特定となるまでの期間が定められており、前記操作意思表示用指状態が特定されている場合には前記表示許可モードを設定し、前記操作意思表示用指状態が特定されていない場合には前記表示禁止モードを設定するものである請求項30記載の車両用操作入力装置。
  33.  前記表示許可モードが設定されている場合には、前記入力受付部による入力の受け付けを許可し、前記表示禁止モードが設定されている場合には、前記入力受付部による入力の受け付けを禁止する操作入力受付制御を実行する操作入力受付制御部を備える請求項30ないし請求項32のいずれか1項に記載の車両用操作入力装置。
  34.  前記操作意思表示用指状態が特定されている場合には、前記入力受付部による入力の受け付けを許可し、前記操作意思表示用指状態が特定されていない場合には、前記入力受付部による入力の受け付けを禁止する操作入力受付制御を実行する操作入力受付制御部を備える請求項30ないし請求項33のいずれか1項に記載の車両用操作入力装置。
  35.  前記操作意思表示用指状態特定部は、前記手画像撮影部により撮影された前記手の画像に基づいて、前記遠隔操作面に対向する手の指形状を認識する指形状認識部を備え、認識された指形状が予め定められた操作意思表示用の指形状であった場合を前記操作意思表示用指状態として特定するものである請求項30ないし請求項34のいずれか1項に記載の車両用操作入力装置。
  36.  前記操作意思表示用指状態特定部は、前記指形状認識部により前記遠隔操作面に略沿ってのびた指が認識された場合に、該遠隔操作面に略沿ってのびた状態にある指の本数を特定する指本数特定部を備え、特定された該遠隔操作面に略沿ってのびた状態にある指の本数が予め定められた操作意思表示用の数であった場合を前記操作意思表示用指状態として特定するものである請求項35記載の車両用操作入力装置。
  37.  前記操作意思表示用指状態特定部は、予め定められた期間の間に前記入力受付部が受け付けた、前記遠隔操作面の異なる位置になされた押圧操作による入力の数を特定する操作数特定部を備え、当該期間内に特定された入力数が予め定められた操作意思表示用の数であった場合を前記操作意思表示用指状態として特定するものである請求項30ないし請求項34のいずれか1項に記載の車両用操作入力装置。
  38.  前記操作意思表示用の数が1本である請求項36又は請求項37に記載の車両用操作入力装置。
  39.  前記操作意思表示用の数が2本である請求項36又は請求項37に記載の車両用操作入力装置。
  40.  前記操作意思表示用の数が3本である請求項36又は請求項37に記載の車両用操作入力装置。
  41.  前記操作意思表示用の数が4本である請求項36又は請求項37に記載の車両用操作入力装置。
  42.  前記操作意思表示用指状態特定部は、前記指形状認識部により前記遠隔操作面に略沿ってのびた指が認識された場合に、該遠隔操作面に略沿ってのびた状態にある指の種別を特定する指種別特定部を備え、特定された該遠隔操作面に略沿ってのびた状態にある指の種別が予め定められた操作意思表示用の指種別のもののみであった場合を前記操作意思表示用指状態として特定するものである請求項35記載の車両用操作入力装置。
  43.  前記操作意思表示用の指種別が人差し指である請求項42記載の車両用操作入力装置。
  44.  前記操作意思表示用の指種別が中指である請求項42記載の車両用操作入力装置。
  45.  前記操作意思表示用の指種別が人差し指と中指である請求項42記載の車両用操作入力装置。
  46.  前記位置指示画像表示部は、前記手画像撮影部により撮影された手の画像に基づいて当該手の指の輪郭が少なくとも特定可能となる実指画像を生成し、生成された実指画像を前記位置指示画像として表示するものである請求項30ないし請求項45のいずれか1項に記載の車両用操作入力装置。
  47.  前記位置指示画像表示部は、指の延びる方向と指先位置が少なくとも特定可能となる擬似指画像、又は、指の指先位置が少なくとも特定可能となる指先位置画像のいずれかを前記位置指示画像として表示するものである請求項30ないし請求項45のいずれか1項に記載の車両用操作入力装置。
  48. 前記位置指示画像表示部は
    前記遠隔操作部の手前側にて指が対向するに伴い当該指位置に対応する前記表示画面上の画面位置に、背景をなす画像に合成ないしは重畳する形で、位置指示画像を表示し、
    前記所定指状態特定部は、前記遠隔操作部の手前側で対向する手において指を特定し、
     特定された前記指から前記遠隔操作部への操作に使用する、あるいは使用すると推定される操作対象指を指定する操作対象指指定部(18)と
     前記表示画面上の背景画像に合成ないしは重畳する形で、特定された前記指の指示位置を示す前記位置指示画像を前記表示部に表示させ、表示される前記位置指示画像のうち、指定された前記操作対象指に対応する位置指示画像を、当該操作対象指とは異なる指に対応する位置指示画像よりも相対的に強調する強調表示を表示部に行わせる位置指示画像強調表示部(18)、
    を有する
    ことを特徴とする請求項1に記載の車両用操作入力装置。
  49.  表示画面を有した表示部(15)と、
    前記表示画面への操作を遠隔的に行うための遠隔操作面を有した遠隔操作部(12,12a)とを備える表示装置(1)において、
    前記遠隔操作部の手前側にて指が対向するに伴い当該指位置に対応する前記表示画面上の画面位置に、背景をなす画像に合成ないしは重畳する形で、位置指示画像を表示する表示方法であって、
    前記遠隔操作面に対向する手の指状態が、予め定められた指状態であるか否かを特定する所定指状態特定ステップ(S2,S3)と、
    前記所定指状態が特定されている場合に前記位置指示画像の表示を許可する表示許可モードに設定するステップ(S4)と
    前記所定指状態が特定されていない場合には前記位置指示画像の表示を禁止する表示禁止モードに設定するするステップ(S7)と、
     を有することを特徴とする表示方法。
  50.  表示画面を有した表示部(15)と、
    前記表示画面への操作を遠隔的に行うための遠隔操作面を有した遠隔操作部(12,12a)とを備える表示装置(1)において、
    前記遠隔操作部の手前側にて指が対向するに伴い当該指位置に対応する前記表示画面上の画面位置に、背景をなす画像に合成ないしは重畳する形で、位置指示画像を表示する表示方法であって、
    前記遠隔操作部の手前側で対向する手において指を特定する指特定ステップ(T1,T2)と、
     特定された前記指から前記遠隔操作部への操作に使用する、あるいは使用すると推定される操作対象指を指定する操作対象指指定ステップ(T3)と、
     前記表示画面上の背景画像に合成ないしは重畳する形で、特定された前記指の指示位置を示す前記位置指示画像を表示する表示ステップであって、表示される前記位置指示画像のうち、指定された前記操作対象指に対応する位置指示画像を、当該操作対象指とは異なる指に対応する位置指示画像よりも相対的に強調する強調表示にて行う位置指示画像強調表示ステップ(T4)と、
     を有することを特徴とする表示方法。
  51.  前記指特定ステップは、前記手から指先を特定する指先特定ステップ(T2)であり、当該指先を特定する形で前記指が特定されるステップとされている請求項50記載の表示方法。
  52.  前記操作対象指指定ステップは、前記操作対象指として1本の指を指定するものである請求項50又は請求項51に記載の表示方法。
  53.  前記操作対象指指定ステップは、前記操作対象指として2本又は3本の指を指定するものである請求項50又は請求項51記載の表示方法。
  54.  前記指特定ステップにより特定された指の形状に係る指形状情報を指定指情報として取得する指定指情報取得ステップ(T2)を有し、 前記操作対象指指定ステップは、取得された指形状情報に基づいて、前記指特定ステップにより特定された指のうち、当該指の形状に係る予め定められた選定条件に最も適する前記指形状情報を有した指を優先して前記操作対象指として指定するものである請求項50ないし請求項53のいずれか1項に記載の表示方法。
  55.  前記指定指情報取得ステップは、前記指特定ステップにより特定された指同士の、前記遠隔操作面方向における長さ関係を反映した指長情報を前記指形状情報として取得するものであり、 前記操作対象指指定ステップは、取得された指長情報に基づいて、前記指特定ステップにより特定された指のうち、当該指長情報に係る予め定められた選定条件に適する指を優先して前記操作対象指として指定するものである請求項54記載の表示方法。
  56.  前記指定指情報取得ステップは、前記指特定ステップにより特定された指同士の、前記遠隔操作面方向における幅の関係を反映した指幅情報を前記指形状情報として取得するものであり、 前記操作対象指指定ステップは、取得された指幅情報に基づいて、前記指特定ステップにより特定された指のうち、当該指幅情報に係る予め定められた選定条件に適する指を優先して前記操作対象指として指定するものである請求項54記載の表示方法。
  57.  前記指特定ステップにより特定された指同士の、前記遠隔操作面方向における位置関係に係る位置関係情報を指定指情報として取得する指定指情報取得ステップ(T2)を備え、 前記操作対象指指定ステップは、取得された該位置関係情報に基づいて、前記指特定ステップにより特定された指のうち、当該位置関係に係る予め定められた選定条件に最も適する前記位置関係情報を有した指を優先して前記操作対象指として指定するものである請求項50ないし請求項53いずれか1項に記載の表示方法。
  58.  前記指特定ステップは、前記手から指先を特定する指先特定ステップ(T2)であり、当該指先を特定する形で前記指が特定されるステップとされており、
     前記指定指情報取得ステップは、前記指先特定ステップにより特定された前記指先を前記遠隔操作部との対向方向に投影し、その投影面上の予め定められた位置に1本の軸を設定して一次元の座標系を定め、投影された該指先の当該座標系における座標値を特定し、当該座標値を反映した軸座標情報を前記位置関係情報として取得するものであり、
     前記操作対象指指定ステップは、取得された該軸座標情報に基づいて、前記指特定ステップにより特定された指のうち、当該軸座標情報に係る予め定められた選定条件に対し適する指を優先して前記操作対象指として指定するものである請求項57記載の表示方法。
  59.  前記指特定ステップは、前記手から指先を特定する指先特定ステップ(T2)であり、当該指先を特定する形で前記指が特定されるステップとされている
     前記指定指情報取得ステップは、前記指先特定ステップにより特定された指先を前記遠隔操作部との対向方向に投影し、その投影面上の予め定められた領域に設定される基準領域と投影された指先との間の距離を反映した距離情報を前記位置関係情報として取得するものであり、 前記操作対象指指定ステップは、取得された該距離情報に基づいて、前記指特定ステップにより特定された指のうち、当該距離情報に係る予め定められた選定条件に対し適する指を優先して前記操作対象指として指定するものである請求項57記載の表示方法。
  60.  前記指特定ステップにより特定された指同士の、前記遠隔操作面への接近距離関係を反映した接近距離情報を指定指情報として取得する指定指情報取得ステップ(T2)と、 前記操作対象指指定ステップは、取得された該接近距離情報に基づいて、前記指特定ステップにより特定された指のうち、前記遠隔操作面に対し近い指先の指ほど優先して前記操作対象指として指定するものである請求項50ないし請求項53のいずれか1項に記載の表示方法。
  61.  前記遠隔操作面に接近する手に光源から光が照射されるとともに、その反射光を捉える形で、当該手を前記遠隔操作面の裏側から撮影部により撮影する撮影ステップ(T1)を有し、 前記指定指情報取得ステップは、前記撮影部により撮影された手の画像の輝度を前記接近距離情報として取得するとともに、 前記操作対象指指定ステップは、前記指特定ステップにより特定された指のうち、前記指先特定部により特定された指先の前記輝度が最も高い指ほど優先して前記操作対象指として指定するものであるである請求項60記載の表示方法。
  62.  前記遠隔操作面に接近する手に光源から光が照射されるとともに、その反射光を捉える形で、当該手を前記遠隔操作面の裏側から撮影部により撮影する撮影ステップ(T1)を有し、 前記指定指情報取得ステップは、前記撮影ステップによる撮影画像に基づいて前記指定指情報を取得するものである請求項54ないし請求項61のいずれか1項に記載の表示方法。
  63.  前記遠隔操作面に接近する手に光源から光が照射されるとともに、その反射光を捉える形で、当該手を前記遠隔操作面の裏側から撮影部により撮影する撮影ステップ(T1)を有し、 前記指特定ステップは、撮影された前記手の画像から前記指を特定するものである請求項50ないし請求項62のいずれか1項に記載の表示方法。
  64.  前記遠隔操作面に接近する手を前記遠隔操作面の裏側から撮影部により撮影する撮影ステップを有し、前記位置指示画像を表示する表示ステップでは、撮影された手の画像に基づいて生成された位置指示画像を表示するものである請求項50ないし請求項63のいずれか1項に記載の表示方法。
  65.  前記遠隔操作部は、前記遠隔操作面がタッチ操作面をなすとともに当該タッチ操作面へのタッチ操作の有無及びタッチ位置を検出するタッチ操作部(12a)であり、 前記操作対象指指定ステップは、前記指特定ステップにより特定された指のうち、前記タッチ操作面へのタッチ操作を行った指を前記操作対象指として指定するものである請求項50ないし請求項53のいずれか1項に記載の表示方法。
  66.  前記位置指示画像強調表示ステップは、前記強調表示を、所定時間をかけて段階的に強調レベルを変化させる形で行うものである請求項50ないし請求項65のいずれか1項に記載の表示方法。
  67.  前記位置指示画像強調表示ステップは、前記強調表示として、該強調表示の開始時においては、前記操作対象指に対応する前記位置指示画像と、該位置指示用指とは異なる指に対応する前記位置指示画像とを強調レベルを同じ状態にして表示するとともに、該強調表示の開始から時間が経過するに従い前記操作対象指に対応する前記位置指示画像の相対的な強調レベルが段階的に増すように変化する表示を実行するものである表示される請求項66記載の表示方法。
  68.  前記位置指示画像強調表示ステップは、前記操作対象指指定ステップにより前記操作対象指が指定されるに伴い前記相対強調表示を開始するものである請求項66又は請求項67の表示方法。
  69.  前記位置指示画像強調表示ステップは、前記操作対象指指定ステップにより前記操作対象指が指定されてから所定時間経過した後に、前記相対強調表示を開始するものである請求項66又は請求項687の表示方法。
  70.  前記遠隔操作面に対向する手の画像を撮影する手画像撮影ステップ(T1)を備え、 前記指特定ステップは、撮影された手の画像に基づいて、前記遠隔操作面に対向する手の指を特定するものであり、 前記位置指示画像強調表示ステップは、特定された手の指の輪郭が少なくとも特定可能となる実指画像を、撮影された手の画像に基づいて生成し、生成された実指画像を前記位置指示画像として表示するものである請求項50ないし請求項69のいずれか1項に記載の表示方法。
  71.  前記位置指示画像強調表示ステップは、指の延びる方向が少なくとも特定可能となる擬似指画像、又は、指の指先位置が少なくとも特定可能となる指先位置画像のいずれかを前記位置指示画像として表示するものである請求項50ないし請求項69のいずれか1項に記載の表示方法。
  72.  前記強調表示は、前記位置指示画像の輪郭線に対してなされるものである請求項50ないし請求項71のいずれか1項に記載の表示方法。
  73.  前記強調表示は、前記位置指示画像の表示色を変える形でなされるものである請求項50ないし請求項71のいずれか1項に記載の表示方法。
  74.  前記強調表示は、前記位置指示画像の表示色の濃淡を変える形でなされるものである請求項50ないし請求項71のいずれか1項に記載の表示方法。
  75.  前記強調表示は、前記位置指示画像の形状を変える形でなされるものである請求項50ないし請求項71のいずれか1項に記載の表示方法。
  76.  前記強調表示は、前記位置指示画像の透過度を変える形でなされるものである請求項50ないし請求項71のいずれか1項に記載の表示方法。
  77.  前記強調表示は、前記位置指示画像を点滅表示する形でなされるものである請求項50ないし請求項71のいずれか1項に記載の表示方法。
  78.  前記操作対象指指定ステップにて前記操作対象指が指定された後、当該操作対象指に指定された指の移動を追跡する操作対象指追跡ステップ(R201-R215)を有し、 前記操作対象指指定ステップは、前記操作対象指追跡ステップによる追跡結果に基づいて、前記操作対象指に指定された指と同一の指を継続的に前記操作対象指として指定するものである請求項50ないし請求項77のいずれか1項に記載の表示方法。
  79.  前記指特定ステップは、前記遠隔操作部の手前側にて予め定められている指特定可能範囲内に存在する前記手の指を、所定時間間隔にて順次特定とするものであり、
     前記指特定ステップにより順次特定される前記指ごとの位置情報を取得し、当該位置情報を追跡情報として予め定められた追跡情報記憶部に記憶することにより、前記指特定ステップにより順次特定される指の移動を指ごとに追跡する指追跡ステップ(R201-R215)を有し、
     前記操作対象指追跡ステップは、前記指追跡ステップにより記憶される指ごとの追跡情報から前記操作対象指の追跡情報を特定し、当該操作対象指の追跡情報に基づいて、当該操作対象指に指定された指の移動を追跡するものである請求項78記載の表示方法。
  80.  前記指追跡ステップは、前記指特定ステップ毎に前記追跡情報を記憶している追跡中の各指が、次回の前記指特定ステップにて位置すると推定される次回位置を、対応する前記追跡情報に基づいて算出する次回位置推定ステップ(R201-R215)を有し、当該次回位置推定ステップにて算出される前記追跡中の各指の前記次回位置と、次回の前記指特定ステップにて実際に特定される各指の実位置との位置関係が、予め定められた基準条件を満たすペアを特定するとともに、当該ペアの一方である前記追跡中の指と前記指特定ステップにて実際に特定された指とは互いを同一の指と判断し、当該追跡中の指が同一と判断された実際に特定された指の位置に移動したものとして、当該指の移動追跡を継続するものである請求項79記載の表示方法。
  81.  前記追跡情報は、複数回の前記指特定ステップにより特定された対応する前記追跡中の指の各位置情報を含むことが可能であり、
     前記次回位置推定ステップは、当該各位置情報に基づいて、対応する追跡中の指の前記次回位置を算出するものである請求項80記載の表示方法。
  82.  前記次回位置推定ステップは、前記追跡情報に、前回及び前々回の前記指特定ステップにより特定された対応する前記追跡中の指の各位置情報が含まれる場合には、それら双方の位置情報に基づいて、当該追跡中の指の前記次回位置を算出する一方で、前記追跡情報に、前回の前記指特定ステップにより特定された対応する前記追跡中の指の位置情報が含まれ、前々回の前記指特定ステップにより特定された対応する前記追跡中の指の位置情報が含まれていない場合には、前回の前記指特定ステップにより特定された際の前記位置情報と、当該位置情報が示す位置に近接する前記指特定可能範囲の縁部の位置とに基づいて、当該追跡中の指の前記次回位置を算出するものである請求項81記載の表示方法。
  83.  前記指追跡ステップは、前記指特定ステップによる前記指の特定がなされた際に実際に特定された指とは前記基準条件を満たさなかった前記追跡中の指がある場合には、当該追跡中の指を追跡不可の指として認識を切り替えるとともに、追跡不可と認識されたときの当該指に係る情報を追跡復帰判断情報として、予め定められた追跡復帰判断情報記憶部(18d)に記憶し、
     さらに前記指追跡ステップは、前記指特定ステップによる前記指の特定がなされた際に前記追跡中の指とは前記基準条件を満たさなかった、実際に特定された指がある場合には、記憶されている前記追跡復帰判断情報に基づいて、実際に特定された当該指が過去に追跡不可と認識された指と同一であるか否かを判断し、同一であると判断された場合には、当該追跡復帰判断情報に対応する追跡不可とされていた指が、実際に特定された当該指の位置に再出現したと認識して、当該指の移動追跡を再開する一方で、同一ではないと判断された場合には、実際に特定された当該指が新規出現した指であると認識して、当該指の移動追跡を新たに開始するものである請求項80ないし請求項82のいずれか1項に記載の表示方法。
  84.  前記追跡情報には、少なくとも前記指特定ステップにより特定された指の最新の位置情報が含まれており、前記追跡復帰判断情報にも、対応する指が追跡不可と認識される前の最後の位置情報が含まれている請求項83記載の表示方法。
  85.  前記指追跡ステップは、前記指特定ステップによる前記指の特定がなされた際に前記追跡中の指とは前記基準条件を満たさなかった、実際に特定された指が特定されており、なおかつ前記追跡復帰判断情報記憶部に、複数の指の追跡復帰判断情報が記憶されている場合には、実際に特定された当該指の位置情報と、それら前記追跡復帰判断情報に含まれる追跡不可の指の最後の位置情報とに基づいて、実際に特定された当該指に最も近い位置を示す前記位置情報を含む前記追跡復帰判断情報に対応する追跡不可とされている指を、実際に特定された当該指と同一の指と判定するものである請求項84記載の表示方法。
  86.  前記指追跡ステップは、前記指特定ステップによる前記指の特定がなされた際に前記追跡中の指とは前記基準条件を満たさなかった、実際に特定された指が特定されている場合に、実際に特定された当該指の位置情報と、前記追跡復帰判断情報に含まれる追跡不可の指の最後の位置情報とが示すそれぞれの位置間の距離が、予め定められた基準距離を下回る場合には、実際に特定された当該指と当該追跡復帰判断情報に対応する追跡不可とされている指とを同一と認識することを許可する一方で、前記基準距離を下回らない場合には、実際に特定された当該指と当該追跡復帰判断情報に対応する追跡不可とされている指とを同一と認識することを禁止するものである請求項84又は請求項85に記載の表示方法。
  87.  前記指追跡ステップは、前記指特定ステップによる前記指の特定がなされた際に実際に特定された指とは前記基準条件を満たさなかった前記追跡中の指があり、当該追跡中の指が追跡不可と認識された場合には、追跡不可と認識されたときの当該指に係る情報と共に、他の追跡不可の指との追跡不可認識時期の前後関係が特定可能となる追跡不可認識順序を、追跡復帰判断情報として前記追跡復帰判断情報記憶部(18d)に記憶し、
     さらに前記指追跡ステップは、前記指特定ステップによる前記指の特定がなされた際に前記追跡中の指とは前記基準条件を満たさなかった、実際に特定された指が特定されており、なおかつ前記追跡復帰判断情報記憶部には、複数の指の追跡復帰判断情報が記憶されている場合には、実際に特定された当該指の位置情報と、それら前記追跡復帰判断情報に含まれる追跡不可の指の最後の位置情報とに基づいて、実際に特定された当該指に最も近い位置を示す前記位置情報を含む前記追跡復帰判断情報を特定するとともに、当該追跡復帰判断情報が1つ特定される場合には、当該追跡復帰判断情報に対応する追跡不可とされている指を、実際に特定された当該指と同一の指と判定する一方で、当該追跡復帰判断情報が2以上特定される場合には、それら追跡復帰判断情報に含まれる前記追跡不可認識順序を参照して、それら追跡復帰判断情報のうち前記追跡不可認識時期が最も新しいものに対応する追跡不可とされている指を、実際に特定された当該指と同一の指と判定するものである請求項84ないし請求項86のいずれか1項に記載の表示方法。
  88.  前記追跡復帰判断情報は、対応する指が追跡不可と認識される際に、前記追跡情報記憶部に記憶されていた当該指の前記追跡情報である請求項84ないし請求項87のいずれか1項に記載の表示方法。
  89.  前記指追跡ステップは、前記指特定ステップにより指が特定され、なおかつ特定された当該指が新規出現の指として認識した際には、当該新規の指に対し新たな識別情報を付与するとともに、当該識別情報に対応付けた形で、各指の前記追跡情報を前記追跡情報記憶部に記憶するものである請求項79ないし請求項88のいずれか1項に記載の表示方法。
  90.  前記追跡情報には、少なくとも前記指特定ステップにより特定された指の最新の位置情報が含まれており、前記追跡復帰判断情報にも、対応する指が追跡不可と認識される前の最後の位置情報が含まれており、
     前記指追跡ステップは、前記識別情報が付与されている前記追跡中の指を追跡不可の指として認識した際には、当該指の前記識別情報に前記追跡復帰判断情報を対応付けた形で前記追跡復帰判断情報記憶部に記憶するものである請求項88記載の表示方法。
  91.  前記指追跡ステップは、前記指特定ステップによる前記指の特定がなされた際に、前記追跡情報記憶部に記憶された前記追跡情報と、さらには前記追跡復帰判断情報記憶部に記憶された前記追跡復帰判断情報とに基づいて、当該指特定ステップにより実際に特定された指が前記追跡中の指であるか否か、さらには追跡不可の指であるか否かを、前記識別情報が付された指ごとに判定し、その判定結果を追跡状況として前記識別情報に対応付けた形で、予め定められた追跡状況記憶部に記憶するものである請求項90記載の表示方法。
  92.  前記指追跡ステップは、前記指特定ステップによる前記指の特定がなされた際に、指が特定されなかった場合には、前記識別情報及び当該識別情報に対応付けて記憶される各種情報を消去し、初期化するものとできる請求項89ないし請求項91のいずれか1項に記載の表示方法。
  93.  請求項50ないし請求項92のいずれか1項に記載の表示方法における各ステップを実現する部を備えてなることを特徴とする表示装置。
  94.  請求項93に記載の表示装置を備えるとともに、
     前記表示画面は、機器の操作などを行うための画面であり、前記遠隔操作面は、前記表示画面とは異なる位置に設けられ、当該表示画面における操作入力を遠隔的に行うための操作面であって、前記表示部と、前記遠隔操作部と、前記遠隔操作面への押圧操作に基づいて押圧操作位置に対応した入力を受け付ける入力受付部(18)と、前記遠隔操作面に対向する手の画像を撮影する手画像撮影部(12b)と、当該手により位置指示された前記表示画面上の位置に前記撮影された手の画像に基づいて生成された位置指示画像を表示する位置指示画像強調表示部(18)と、を備えることを特徴とする操作入力装置。
  95.  前記機器は車載搭載機器であり、前記表示画面は運転者よりも車両前方側にて該運転者により視認可能に配置され、前記遠隔操作面は、前記表示画面よりも運転者に近い位置に設けられている請求項94記載の操作入力装置。
     
PCT/JP2009/001213 2008-03-19 2009-03-18 車両用操作入力装置 WO2009116285A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
EP09723615.2A EP2258587A4 (en) 2008-03-19 2009-03-18 OPERATING DEVICE FOR A VEHICLE
CN2009801095824A CN101977796B (zh) 2008-03-19 2009-03-18 车辆操作输入设备
US12/866,969 US20110029185A1 (en) 2008-03-19 2009-03-18 Vehicular manipulation input apparatus
KR1020127027535A KR101297144B1 (ko) 2008-03-19 2009-03-18 차량용 조작 입력 장치

Applications Claiming Priority (14)

Application Number Priority Date Filing Date Title
JP2008-071467 2008-03-19
JP2008-071470 2008-03-19
JP2008071468 2008-03-19
JP2008-071468 2008-03-19
JP2008071467 2008-03-19
JP2008071470 2008-03-19
JP2008291592 2008-11-14
JP2008-291592 2008-11-14
JP2009-021004 2009-01-30
JP2009021004A JP5077773B2 (ja) 2008-03-19 2009-01-30 車両用操作入力装置
JP2009021003A JP5257779B2 (ja) 2008-03-19 2009-01-30 表示方法、表示装置、及び操作入力装置
JP2009021005A JP5077774B2 (ja) 2008-03-19 2009-01-30 車両用操作入力装置
JP2009-021003 2009-01-30
JP2009-021005 2009-09-11

Publications (1)

Publication Number Publication Date
WO2009116285A1 true WO2009116285A1 (ja) 2009-09-24

Family

ID=43048978

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2009/001213 WO2009116285A1 (ja) 2008-03-19 2009-03-18 車両用操作入力装置

Country Status (5)

Country Link
US (1) US20110029185A1 (ja)
EP (2) EP2258587A4 (ja)
KR (2) KR101297144B1 (ja)
CN (2) CN101977796B (ja)
WO (1) WO2009116285A1 (ja)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011131686A (ja) * 2009-12-24 2011-07-07 Nec Access Technica Ltd ナビゲーションシステム
CN102147700A (zh) * 2010-01-29 2011-08-10 兄弟工业株式会社 输入设备和输入控制方法
CN102339205A (zh) * 2010-04-23 2012-02-01 罗彤 用于从手持计算机化设备的背板进行用户输入的方法
CN102609130A (zh) * 2010-12-29 2012-07-25 微软公司 计算设备中的触摸事件预期
US8593417B2 (en) 2009-04-30 2013-11-26 Denso Corporation Operation apparatus for in-vehicle electronic device and method for controlling the same
KR20150038233A (ko) * 2012-08-23 2015-04-08 가부시키가이샤 덴소 조작 장치
CN105204764A (zh) * 2015-09-06 2015-12-30 惠州Tcl移动通信有限公司 具有悬浮屏的手持终端、显示设备及遥控方法
WO2017000754A1 (zh) * 2015-06-29 2017-01-05 华为技术有限公司 一种文本输入实现方法及装置
US11182601B2 (en) * 2019-03-29 2021-11-23 Deere & Company System for recognizing an operating intention at an operating unit that can be actuated manually
US11294470B2 (en) 2014-01-07 2022-04-05 Sony Depthsensing Solutions Sa/Nv Human-to-computer natural three-dimensional hand gesture based navigation method
US11513601B2 (en) 2012-07-13 2022-11-29 Sony Depthsensing Solutions Sa/Nv Method and system for human-to-computer gesture based simultaneous interactions using singular points of interest on a hand

Families Citing this family (75)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8730169B2 (en) * 2009-10-29 2014-05-20 Pixart Imaging Inc. Hybrid pointing device
DE102008029446A1 (de) * 2008-06-20 2009-12-24 Bayerische Motoren Werke Aktiengesellschaft Verfahren zur Steuerung von Funktionen in einem Kraftfahrzeug mit benachbart liegenden Bedienelementen
JP5482023B2 (ja) * 2009-08-27 2014-04-23 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
US20120013532A1 (en) * 2009-10-29 2012-01-19 Pixart Imaging Inc. Hybrid pointing device
US8581847B2 (en) 2009-10-29 2013-11-12 Pixart Imaging Inc. Hybrid pointing device
WO2011070886A1 (ja) * 2009-12-07 2011-06-16 日本電気株式会社 偽指判別装置
US20110257958A1 (en) 2010-04-15 2011-10-20 Michael Rogler Kildevaeld Virtual smart phone
US9430147B2 (en) 2010-04-23 2016-08-30 Handscape Inc. Method for user input from alternative touchpads of a computerized system
US9891821B2 (en) 2010-04-23 2018-02-13 Handscape Inc. Method for controlling a control region of a computerized device from a touchpad
US9542032B2 (en) 2010-04-23 2017-01-10 Handscape Inc. Method using a predicted finger location above a touchpad for controlling a computerized system
US9678662B2 (en) 2010-04-23 2017-06-13 Handscape Inc. Method for detecting user gestures from alternative touchpads of a handheld computerized device
US9311724B2 (en) * 2010-04-23 2016-04-12 Handscape Inc. Method for user input from alternative touchpads of a handheld computerized device
US9639195B2 (en) 2010-04-23 2017-05-02 Handscape Inc. Method using finger force upon a touchpad for controlling a computerized system
US9891820B2 (en) 2010-04-23 2018-02-13 Handscape Inc. Method for controlling a virtual keyboard from a touchpad of a computerized device
US9529523B2 (en) 2010-04-23 2016-12-27 Handscape Inc. Method using a finger above a touchpad for controlling a computerized system
US9310905B2 (en) 2010-04-23 2016-04-12 Handscape Inc. Detachable back mounted touchpad for a handheld computerized device
US8760403B2 (en) 2010-04-30 2014-06-24 Pixart Imaging Inc. Hybrid human-interface device
US8648836B2 (en) 2010-04-30 2014-02-11 Pixart Imaging Inc. Hybrid pointing device
US20110310126A1 (en) * 2010-06-22 2011-12-22 Emil Markov Georgiev Method and system for interacting with datasets for display
US8542218B2 (en) * 2010-08-19 2013-09-24 Hyundai Motor Company Electronic switch apparatus for vehicle
DE102010035373A1 (de) * 2010-08-25 2012-03-01 Elektrobit Automotive Gmbh Technik zur bildschirmbasierten Routenmanipulation
US8514192B2 (en) * 2011-01-04 2013-08-20 Ma Lighting Technology Gmbh Method for operating a lighting control console
FR2970797B1 (fr) * 2011-01-25 2013-12-20 Intui Sense Dispositif a commandes tactile et gestuelle et procede d'interpretation de la gestuelle associe
JP5229379B2 (ja) * 2011-02-21 2013-07-03 株式会社デンソー 表示制御装置
KR20120122379A (ko) * 2011-04-29 2012-11-07 삼성전기주식회사 차량 화상 기록 시스템 및 반사 기구
KR20120122378A (ko) * 2011-04-29 2012-11-07 삼성전기주식회사 차량 화상 기록 시스템
US9043042B2 (en) * 2011-07-19 2015-05-26 GM Global Technology Operations LLC Method to map gaze position to information display in vehicle
WO2013021654A1 (ja) * 2011-08-11 2013-02-14 株式会社デンソー 表示制御装置
KR20220032059A (ko) 2011-09-19 2022-03-15 아이사이트 모빌 테크놀로지 엘티디 증강 현실 시스템용 터치프리 인터페이스
US20130179811A1 (en) * 2012-01-05 2013-07-11 Visteon Global Technologies, Inc. Projection dynamic icon knobs
EP2626778B1 (en) * 2012-02-09 2017-04-05 Sony Mobile Communications, Inc. Capacitive touch panel device
DE102012004793B4 (de) * 2012-03-07 2018-03-22 Audi Ag Kraftfahrzeug mit einem elektronischen Rückspiegel
US9310922B2 (en) * 2012-04-30 2016-04-12 Blackberry Limited Method and apparatus for determining a selection option
KR101868352B1 (ko) * 2012-05-14 2018-06-19 엘지전자 주식회사 이동 단말기 및 그것의 제어 방법
US9182233B2 (en) * 2012-05-17 2015-11-10 Robert Bosch Gmbh System and method for autocompletion and alignment of user gestures
US8872781B1 (en) * 2012-06-27 2014-10-28 Google Inc. Method and system for filtering movements on a trackpad
US9558667B2 (en) 2012-07-09 2017-01-31 Elwha Llc Systems and methods for cooperative collision detection
US9165469B2 (en) 2012-07-09 2015-10-20 Elwha Llc Systems and methods for coordinating sensor operation for collision detection
KR101392861B1 (ko) * 2012-09-21 2014-05-27 전자부품연구원 조작자와 차량 주행 상황을 반영한 차량용 ui 제공방법 및 장치
US9442587B2 (en) 2012-12-04 2016-09-13 L-3 Communications Corporation Touch sensor controller responsive to environmental operating conditions
WO2014096896A1 (en) * 2012-12-20 2014-06-26 Renault Trucks A method of selecting display data in a display system of a vehicle
DE102013006069A1 (de) * 2013-04-08 2014-10-09 Audi Ag Verfahren zum Herstellen eines Bedienelements und Bedienelement
DE102013214326A1 (de) * 2013-07-23 2015-01-29 Robert Bosch Gmbh Verfahren zum Betreiben einer Eingabevorrichtung, Eingabevorrichtung
US9269268B2 (en) 2013-07-31 2016-02-23 Elwha Llc Systems and methods for adaptive vehicle sensing systems
US9230442B2 (en) 2013-07-31 2016-01-05 Elwha Llc Systems and methods for adaptive vehicle sensing systems
US9776632B2 (en) * 2013-07-31 2017-10-03 Elwha Llc Systems and methods for adaptive vehicle sensing systems
JP6086350B2 (ja) * 2013-08-09 2017-03-01 株式会社デンソー タッチパネル式入力装置、およびタッチパネル式入力方法
KR101550604B1 (ko) 2013-09-25 2015-09-07 현대자동차 주식회사 차량용 조작 장치
CN110223327B (zh) * 2013-10-07 2023-08-01 苹果公司 用于提供位置信息或移动信息以用于控制车辆的至少一种功能的方法和系统
US10937187B2 (en) 2013-10-07 2021-03-02 Apple Inc. Method and system for providing position or movement information for controlling at least one function of an environment
KR102138958B1 (ko) * 2013-10-14 2020-07-28 콘티넨탈 오토모티브 게엠베하 제어 디바이스의 입력 구역용 듀얼 그래픽 라벨
KR101480775B1 (ko) * 2013-10-30 2015-01-22 전자부품연구원 필기 인식을 이용한 차량용 정보 표시 장치 및 방법, 그 정보 입력 모듈
KR101422060B1 (ko) 2013-10-30 2014-07-28 전자부품연구원 터치패드를 이용한 차량용 정보 표시 장치 및 방법, 그 정보 입력 모듈
CN105722714B (zh) * 2013-11-12 2018-03-30 三菱电机株式会社 显示控制装置、信息显示方法及信息显示系统
KR101558354B1 (ko) 2013-11-13 2015-10-20 현대자동차 주식회사 차량용 블라인드 콘트롤 시스템
CN104691444A (zh) * 2013-12-09 2015-06-10 奇点新源国际技术开发(北京)有限公司 一种基于电动汽车的车载终端和车载终端系统
US20150205374A1 (en) * 2014-01-20 2015-07-23 Beijing Lenovo Software Ltd. Information processing method and electronic device
KR101575650B1 (ko) * 2014-03-11 2015-12-08 현대자동차주식회사 단말기, 그를 가지는 차량 및 그 제어 방법
WO2015146283A1 (ja) * 2014-03-25 2015-10-01 クラリオン株式会社 車両用機器
JP2015201062A (ja) * 2014-04-09 2015-11-12 株式会社東海理化電機製作所 操作装置
CN104019826A (zh) * 2014-06-16 2014-09-03 张善珍 一种基于触控的自动导航方法及系统
JP2016035685A (ja) * 2014-08-04 2016-03-17 三菱自動車工業株式会社 タッチパネル装置
US9315197B1 (en) * 2014-09-30 2016-04-19 Continental Automotive Systems, Inc. Hands accelerating control system
KR101646117B1 (ko) * 2014-10-30 2016-08-05 현대자동차 주식회사 곡면 터치 디스플레이 장치 및 상기 곡면 터치 디스플레이 장치를 이용한 터치 인식 방법
DE102014016222A1 (de) * 2014-10-31 2016-05-04 Audi Ag Verfahren und System zum Betreiben einer berührungssensitiven Anzeigeeinrichtung eines Kraftwagens
CN104363345A (zh) * 2014-11-17 2015-02-18 联想(北京)有限公司 一种显示方法和电子设备
DE102014224641A1 (de) * 2014-12-02 2016-06-02 Robert Bosch Gmbh Verfahren zum Betreiben einer Eingabevorrichtung, Eingabevorrichtung
KR102049649B1 (ko) * 2014-12-22 2019-11-27 폭스바겐 악티엔 게젤샤프트 손가락 기반 컨트롤 바 및 상기 컨트롤 바의 사용
JP2016200887A (ja) * 2015-04-08 2016-12-01 株式会社リコー 情報処理装置、情報入力システム、情報処理方法およびプログラム
CN105388973B (zh) * 2015-11-13 2019-03-19 业成光电(深圳)有限公司 可携式电子装置
CN105625857B (zh) * 2015-12-25 2018-09-11 北京新能源汽车股份有限公司 车窗玻璃的控制装置、方法和车辆
JP2017219957A (ja) * 2016-06-06 2017-12-14 株式会社東海理化電機製作所 操作予測装置
WO2019039522A1 (ja) * 2017-08-23 2019-02-28 住友建機株式会社 ショベル
US10747371B1 (en) 2019-06-28 2020-08-18 Konica Minolta Business Solutions U.S.A., Inc. Detection of finger press from live video stream
US11353993B2 (en) * 2020-05-05 2022-06-07 Pixart Imaging Inc. Optical detection device

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09185456A (ja) * 1995-04-28 1997-07-15 Matsushita Electric Ind Co Ltd インターフェイス装置
JP2000006687A (ja) * 1998-06-25 2000-01-11 Yazaki Corp 車載機器スイッチ安全操作システム
JP2004026046A (ja) * 2002-06-26 2004-01-29 Clarion Co Ltd 車載用情報機器の操作装置

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5483261A (en) * 1992-02-14 1996-01-09 Itu Research, Inc. Graphical input controller and method with rear screen image detection
KR19990008158A (ko) * 1995-04-28 1999-01-25 모리시타요우이치 인터페이스 장치
JPH0918456A (ja) * 1995-06-29 1997-01-17 Matsushita Electric Ind Co Ltd ダイバーシティ受信機
JP3588527B2 (ja) * 1997-01-22 2004-11-10 株式会社東芝 ユーザインタフェース装置及び指示入力方法
JP2000346651A (ja) * 1999-06-07 2000-12-15 Tokai Rika Co Ltd ディスプレイシステム
JP2001216069A (ja) * 2000-02-01 2001-08-10 Toshiba Corp 操作入力装置および方向検出方法
US20020070852A1 (en) * 2000-12-12 2002-06-13 Pearl I, Llc Automobile display control system
JP3863809B2 (ja) * 2002-05-28 2006-12-27 独立行政法人科学技術振興機構 手の画像認識による入力システム
JP2004348522A (ja) * 2003-05-23 2004-12-09 Nippon Telegr & Teleph Corp <Ntt> 掌形認証用基準点検出方法、掌形認証用基準点検出装置、プログラムおよび記録媒体
JP4274997B2 (ja) * 2004-05-06 2009-06-10 アルパイン株式会社 操作入力装置および操作入力方法
JP4351599B2 (ja) * 2004-09-03 2009-10-28 パナソニック株式会社 入力装置
WO2006104132A1 (ja) * 2005-03-28 2006-10-05 Matsushita Electric Industrial Co., Ltd. ユーザインタフェイスシステム
JP4645299B2 (ja) * 2005-05-16 2011-03-09 株式会社デンソー 車載用表示装置
CN100478862C (zh) * 2005-10-05 2009-04-15 索尼株式会社 显示装置和显示方法
US8085243B2 (en) * 2006-02-03 2011-12-27 Panasonic Corporation Input device and its method
JP4797752B2 (ja) * 2006-03-31 2011-10-19 株式会社デンソー 移動体用操作物体抽出装置
JP5086560B2 (ja) * 2006-04-12 2012-11-28 トヨタ自動車株式会社 入力装置
WO2008078603A1 (ja) * 2006-12-22 2008-07-03 Panasonic Corporation ユーザインターフェイス装置
TW200928892A (en) * 2007-12-28 2009-07-01 Wistron Corp Electronic apparatus and operation method thereof
US8140970B2 (en) * 2009-02-23 2012-03-20 International Business Machines Corporation System and method for semi-transparent display of hands over a keyboard in real-time

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09185456A (ja) * 1995-04-28 1997-07-15 Matsushita Electric Ind Co Ltd インターフェイス装置
JP2000006687A (ja) * 1998-06-25 2000-01-11 Yazaki Corp 車載機器スイッチ安全操作システム
JP2004026046A (ja) * 2002-06-26 2004-01-29 Clarion Co Ltd 車載用情報機器の操作装置

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8593417B2 (en) 2009-04-30 2013-11-26 Denso Corporation Operation apparatus for in-vehicle electronic device and method for controlling the same
JP2011131686A (ja) * 2009-12-24 2011-07-07 Nec Access Technica Ltd ナビゲーションシステム
US9146628B2 (en) 2010-01-29 2015-09-29 Brother Kogyo Kabushiki Kaisha Input apparatus and storage medium storing input control program
CN102147700A (zh) * 2010-01-29 2011-08-10 兄弟工业株式会社 输入设备和输入控制方法
CN102339205A (zh) * 2010-04-23 2012-02-01 罗彤 用于从手持计算机化设备的背板进行用户输入的方法
CN102609130A (zh) * 2010-12-29 2012-07-25 微软公司 计算设备中的触摸事件预期
US9354804B2 (en) 2010-12-29 2016-05-31 Microsoft Technology Licensing, Llc Touch event anticipation in a computing device
US11513601B2 (en) 2012-07-13 2022-11-29 Sony Depthsensing Solutions Sa/Nv Method and system for human-to-computer gesture based simultaneous interactions using singular points of interest on a hand
KR20150038233A (ko) * 2012-08-23 2015-04-08 가부시키가이샤 덴소 조작 장치
KR101655291B1 (ko) 2012-08-23 2016-09-07 가부시키가이샤 덴소 조작 장치
US11294470B2 (en) 2014-01-07 2022-04-05 Sony Depthsensing Solutions Sa/Nv Human-to-computer natural three-dimensional hand gesture based navigation method
WO2017000754A1 (zh) * 2015-06-29 2017-01-05 华为技术有限公司 一种文本输入实现方法及装置
CN105204764A (zh) * 2015-09-06 2015-12-30 惠州Tcl移动通信有限公司 具有悬浮屏的手持终端、显示设备及遥控方法
US11182601B2 (en) * 2019-03-29 2021-11-23 Deere & Company System for recognizing an operating intention at an operating unit that can be actuated manually

Also Published As

Publication number Publication date
EP2258587A4 (en) 2013-08-07
KR101267378B1 (ko) 2013-05-24
CN101977796B (zh) 2013-05-08
EP2258587A1 (en) 2010-12-08
CN101977796A (zh) 2011-02-16
CN103076949A (zh) 2013-05-01
KR20100120705A (ko) 2010-11-16
EP2700528A3 (en) 2014-12-24
KR101297144B1 (ko) 2013-08-21
CN103076949B (zh) 2016-04-20
US20110029185A1 (en) 2011-02-03
KR20120132561A (ko) 2012-12-05
EP2700528A2 (en) 2014-02-26

Similar Documents

Publication Publication Date Title
WO2009116285A1 (ja) 車両用操作入力装置
JP5077774B2 (ja) 車両用操作入力装置
JP5257779B2 (ja) 表示方法、表示装置、及び操作入力装置
US9910506B2 (en) Method for interacting with an object displayed on data eyeglasses
EP2270767B1 (en) Device, Method and Program for Displaying Map Information
US8270669B2 (en) Apparatus for extracting operating object and apparatus for projecting operating hand
JP5638896B2 (ja) 表示制御プログラム、表示制御装置、表示制御システム、および表示制御方法
JP5732218B2 (ja) 表示制御プログラム、表示制御装置、表示制御システム、および表示制御方法
CN103870802A (zh) 使用指谷操作车辆内的用户界面的系统和方法
CN113330395B (zh) 一种多屏交互的方法、装置、终端设备和车辆
JP5141878B2 (ja) タッチ式操作入力装置
JP4626860B2 (ja) 操作装置
JP2010184600A (ja) 車載用ジェスチャースイッチ装置
JP6534011B2 (ja) 情報処理装置、情報処理プログラム、情報処理システム、および、情報処理方法
JP2010117917A (ja) 動作検出装置および操作システム
JP5382313B2 (ja) 車両用操作入力装置
CN105759955B (zh) 输入装置
CN111638786B (zh) 车载后排投影显示系统的显示控制方法、装置、设备及存储介质
KR20130119144A (ko) 투명 디스플레이 패널을 이용한 객체 표시 방법 및 장치
JP4645665B2 (ja) 操作手投影システムおよび操作手投影システム用のプログラム
JP5619202B2 (ja) 地図情報処理装置
CN115877941A (zh) 一种头戴式交互设备以及用于头戴式交互设备的交互方法

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 200980109582.4

Country of ref document: CN

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 09723615

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 12866969

Country of ref document: US

WWE Wipo information: entry into national phase

Ref document number: 2009723615

Country of ref document: EP

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 20107021928

Country of ref document: KR

Kind code of ref document: A