CN105934732B - 控制装置、电子设备、控制方法及程序 - Google Patents

控制装置、电子设备、控制方法及程序 Download PDF

Info

Publication number
CN105934732B
CN105934732B CN201480046601.4A CN201480046601A CN105934732B CN 105934732 B CN105934732 B CN 105934732B CN 201480046601 A CN201480046601 A CN 201480046601A CN 105934732 B CN105934732 B CN 105934732B
Authority
CN
China
Prior art keywords
detection reference
user
display
aerial image
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201480046601.4A
Other languages
English (en)
Other versions
CN105934732A (zh
Inventor
栗林英范
田边达良
下山茉理绘
土岐英史
小宫大作
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to CN202110375065.4A priority Critical patent/CN112965636A/zh
Publication of CN105934732A publication Critical patent/CN105934732A/zh
Application granted granted Critical
Publication of CN105934732B publication Critical patent/CN105934732B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • G06F3/04164Connections between sensors and controllers, e.g. routing lines between electrodes and connection pads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • G06F3/0325Detection arrangements using opto-electronic means using a plurality of light emitters or reflectors or a plurality of detectors forming a reference frame from which to derive the orientation of the object, e.g. by triangulation or on the basis of reference deformation in the picked up image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • G06F3/0418Control or interface arrangements specially adapted for digitisers for error correction or compensation, e.g. based on parallax, calibration or alignment
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0421Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means by interrupting or reflecting a light beam, e.g. optical touch-screen
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0425Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0428Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means by sensing at the edges of the touch surface the interruption of optical paths, e.g. an illumination plane, parallel to the touch surface which may be virtual
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/044Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by capacitive means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/044Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by capacitive means
    • G06F3/0444Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by capacitive means using a single conductive element covering the whole sensing surface, e.g. by sensing the electrical current flowing at the corners
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/147Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/001Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
    • G09G3/003Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background to produce spatial visual effects
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/38Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory with means for controlling the display position
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/041Indexing scheme relating to G06F3/041 - G06F3/045
    • G06F2203/041012.5D-digitiser, i.e. digitiser detecting the X/Y position of the input means, finger or stylus, also when it does not touch, but is proximate to the digitiser's interaction surface and also measures the distance of the input means within a short range in the Z direction, possibly with a separate measurement setup
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/041Indexing scheme relating to G06F3/041 - G06F3/045
    • G06F2203/04108Touchless 2D- digitiser, i.e. digitiser detecting the X/Y position of the input means, finger or stylus, also when it does not touch, but is proximate to the digitiser's interaction surface without distance measurement in the Z direction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0626Adjustment of display parameters for control of overall brightness
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/066Adjustment of display parameters for control of contrast
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0693Calibration of display systems
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user

Abstract

一种控制装置,其具有控制部,该控制部控制空中的显示画面来改变检测使用者对空中的显示画面的操作的检测装置与所述显示画面之间的位置关系,控制部能够根据使用者来改变位置关系。

Description

控制装置、电子设备、控制方法及程序
技术领域
本发明涉及控制装置、电子设备、控制方法及程序。
背景技术
已公开有这样的电子设备:其通过能够计算出手指与触摸面板之间距离的静电电容式触摸传感器来检测对显示在空中的三维物体的操作(专利文献1)。
现有技术文献
专利文献
专利文献1:日本特开2012-203737号公报
发明内容
然而,在专利文献1中,虽然记载了检测针对三维物体(对象)进行的操作的情况,但是关于针对物体进行操作时的操作性的记载却不充分。
本发明的第一方式是一种控制装置,其具有控制部,该控制部控制空中的显示画面来改变检测使用者对空中的显示画面的操作的检测装置与显示画面之间的位置关系,控制装置能够根据使用者改变位置关系。
本发明的第二方式是一种控制方法,其中,控制空中的显示画面,并根据使用者来改变检测使用者的操作的检测基准与显示画面之间的位置关系。
本发明的第三方式是一种供计算机执行的程序,其使计算机执行下述处理:控制空中的显示画面,并根据使用者来改变检测使用者的操作的检测基准与显示画面之间的位置关系。
附图说明
图1是对第一实施方式的显示装置的构成进行说明的图,其中(a)是分解立体图,(b)是剖视图。
图2是对第一实施方式的显示装置的主要部分构成进行说明的框图。
图3是示意性地示出在第一实施方式中显示的空中图像的图,其中(a)是俯视图,(b)、(c)是示出操作检测器、空中图像及检测基准之间关系的剖视图。
图4是示意性地示出在第一实施方式中显示的校准处理用的空中图像的图。
图5是对第一实施方式中的校准处理进行说明的图,其中(a)、(b)、(c)、(d)是示出操作检测器、空中图像、检测基准及手指位置之间关系的剖视图。
图6是对第一实施方式中的基于第一校准处理模式进行的校准处理进行说明的流程图。
图7是示出第一实施方式中第二校准处理模式中的空中图像、检测基准及手指到达位置之间的位置关系的图。
图8是对第一实施方式中的基于第二校准处理模式进行的校准处理进行说明的流程图。
图9是对第一实施方式的变形例1的显示装置的主要部分构成进行说明的框图。
图10是对第一实施方式的变形例1的校准处理进行说明的图,其中(a)、(b)、(c)是示出操作检测器、空中图像、检测基准及手指位置之间关系的剖视图。
图11是对第一实施方式的变形例1的校准处理进行说明的流程图。
图12是示意性地示出在第一实施方式的变形例3中显示的校准处理用的空中图像的图。
图13是对第一实施方式的变形例3中的校准处理进行说明的图,其中(a)、(b)、(c)是示出操作检测器、空中图像、检测基准及手指位置之间关系的剖视图。
图14是对第一实施方式的变形例3中的校准处理进行说明的流程图。
图15是示意性地示出在第一实施方式的变形例4中显示的校准处理用的空中图像的图。
图16是对第一实施方式的变形例4中的校准处理进行说明的流程图。
图17是对第一实施方式的变形例6的显示装置的要部构成进行说明的框图。
图18是示意性地示出在第一实施方式的变形例6中显示的校准处理用的空中图像的图。
图19是对第一实施方式的变形例6中的校准处理进行说明的流程图。
图20是示意性地示出在第一实施方式的变形例7中显示的空中图像的图,(a)是俯视图,(b)是示出操作检测器、空中图像及检测基准之间关系的剖视图。
图21是对第一实施方式的变形例7中的校准处理进行说明的图,其中(a)、(b)、(c)是示出操作检测器、空中图像、检测基准及手指位置之间关系的剖视图。
图22是第一实施方式的变形例8的显示装置的立体图。
图23是对第一实施方式的变形例8的显示装置的主要部分构成进行说明的框图。
图24是示出第一实施方式的变形例8的显示装置的内部构成的剖视图。
图25是对第二实施方式的显示装置的主要部分构成进行说明的框图。
图26是对第二实施方式中的校准处理进行说明的流程图。
图27是对第三实施方式的显示装置的主要部分构成进行说明的框图。
图28是对第三实施方式中的校准处理进行说明的流程图。
图29是示出第四实施方式的显示装置的图,其中(a)是对显示装置的概略构成进行说明的剖视图,(b)是组装了显示装置的电子设备的立体图。
图30是对第四实施方式的显示装置的主要部分构成进行说明的框图。
图31是第四实施方式的显示装置所装备的操作检测器的俯视图。
图32是对第四实施方式中的操作检测器的构成与功能进行说明的图。
图33是示出第四实施方式的变形例1的显示装置的概略构成的图。
图34是示出第四实施方式的变形例1的显示装置的另一概略构成的图。
图35是对第五实施方式的显示装置的构成进行说明的图,(a)是分解立体图,(b)是剖视图。
图36是对第五实施方式的显示装置的主要部分构成进行说明的框图。
图37是对第五实施方式中的校准处理进行说明的图,(a)、(b)是示出空中图像、检测基准及手指位置之间关系的剖视图。
图38是对第五实施方式中的校准处理进行说明的流程图。
图39是对第五实施方式中的变形例3的显示装置的校准处理进行说明的流程图。
图40是对第五实施方式的变形例4中的显示装置的主要部分构成进行说明的框图。
图41是示出第五实施方式的变形例4中的显示装置的校准用空中图像的图。
图42是示意性地示出在第六实施方式中显示的空中图像的图,是示出操作检测器、空中图像及检测基准之间关系的剖视图。
图43是对第六实施方式中的显示装置的校准处理进行说明的图,其中(a)、(b)是示出空中图像、检测基准及手指位置之间关系的剖视图。
图44是对第六实施方式中的显示装置的校准处理进行说明的图,其中(a)、(b)是示出空中图像、检测基准及手指位置之间关系的剖视图。
图45是对第六实施方式的变形例1中的校准处理进行说明的图,其中(a)、(b)、(c)是示出空中图像、检测基准及手指位置之间关系的剖视图。
图46是对第七实施方式中的显示装置的主要部分机构进行说明的框图。
图47是示意性地示出在第八实施方式中显示的空中图像的图,其中(a)是俯视图,(b)是示出操作检测器、空中图像及检测基准之间关系的剖视图,(c)是检测基准的立体图。
图48是示意性地示出第八实施方式中的规定的非接触操作的例子的图。
图49是示意性地示出在第八实施方式中、在检测基准内检测到规定的非接触操作的情况的图。
图50是示意性地示出在第八实施方式中、在检测基准内没有检测到规定的非接触操作的情况的图,其中(a)是示出规定的非接触操作全部在检测基准的上方的检测基准外范围被检测到的情况的图,(b)是示出规定的非接触操作全部在检测基准的下方的检测基准外范围被检测到的情况的图。
图51是示出在第八实施方式中检测基准的位置的改变的图,其中(a)是示出检测基准的位置的改变前的图,(b)是示出检测基准的位置向上方改变后的图。
图52是示出在第八实施方式中检测基准的位置的改变的图,其中(a)是示出检测基准的位置的改变前的图,(b)是示出检测基准的位置向下方改变后的图。
图53是示出在第八实施方式中检测基准的位置的改变的图,其中(a)是示出检测基准的位置的改变前的图,(b)是示出检测基准的位置向右方改变后的图。
图54是示意性地示出在第八实施方式中、在检测基准内没有检测到非接触操作的情况的图,其中(a)是示出规定的非接触操作的一部分在检测基准的上方的检测基准外范围被检测到、而其余部分在检测基准内被检测到的情况的图,(b)是示出规定的非接触操作的一部分在检测基准下方或侧部的检测基准外范围被检测到、而其余部分在检测基准内被检测到的情况的图。
图55是对第八实施方式中的校准处理进行说明的流程图。
图56是示出在第八实施方式的变形例2中、在规定的非接触操作的一部分在检测基准内被检测到的情况下改变检测基准的情况和不改变检测基准的情况的图,其中(a)是示出改变检测基准的情况的图,(b)是示出不改变检测基准的情况的图。
图57是对第八实施方式的变形例3的显示装置1中的显示装置的主要部分构成进行说明的框图。
图58是对第八实施方式的变形例3中的校准处理进行说明的图,其中(a)、(b)是示出操作检测器、检测基准及手指位置之间关系的剖视图。
图59是对第八实施方式的变形例3中的校准处理进行说明的流程图。
图60是对第八实施方式的变形例6中的校准处理进行说明的图,其中(a)、(b)是示出操作检测器、检测基准及手指位置之间关系的剖视图。
图61是对第八实施方式的变形例6中的校准处理进行说明的图,其中(a)、(b)是示出操作检测器、检测基准及手指位置之间关系的剖视图。
具体实施方式
-第一实施方式-
一边参照图面,一边对第一实施方式的显示装置进行说明。在第一实施方式中,以将本实施方式的显示装置组装在手机中的情况为一例来进行说明。当然,本实施方式的显示装置并不限于组装到手机中,也能够组装于平板电脑终端、腕表型终端等的便携式信息终端装置中,以及个人计算机、音乐播放器、固定电话机、可穿戴装置等电子设备中。
图1的(a)是显示装置1的分解立体图,图1的(b)是将显示装置1的局部放大表示的侧视图。另外,为了便于说明,关于显示装置1,如图示地设定由X轴、Y轴、Z轴构成的坐标系。另外,坐标系并不限于由X轴、Y轴、Z轴构成的直角坐标系,还可以采用极坐标系或圆柱坐标系。即,将X轴设定为显示装置1的矩形显示面的短边方向,将Y轴设定为显示装置1的矩形显示面的长边方向,将Z轴设定为与显示面垂直的方向。
显示装置1包括:内置有控制部20的主体10、显示器11、成像光学系统12、以及操作检测器13。显示器11、成像光学系统12以及操作检测器13配置在主体10内。显示器11例如由液晶显示器、有机EL显示器等构成,其具有以二维状排列的多个显示像素排列。显示器11由控制部20控制,其显示与显示用图像数据对应的图像。成像光学系统12以距显示器11设置规定间隔的方式配置在显示器11的上方(Z方向+侧)。例如,成像光学系统12如图1的(b)所明示那样通过由微小凸透镜121以二维状排列而成的微透镜阵列沿Z方向重叠2个而构成。
成像光学系统12将显示在显示器11上的显示图像的空中图像30形成在显示装置1的上方空间。即,显示装置1的使用者(以下称“用户”)能够将显示在显示器11上的显示图像作为悬浮在显示装置1上方的空中的空中图像30而进行观察。空中图像30包括与用于指示显示装置1的各种设定和各种功能的执行的操作按钮相对应的多个图标30A(操作按钮)。在本实施方式中,图标30A例如排列成3行×5列。另外,也可以代替作为成像光学系统的微透镜阵列而采用针孔阵列或狭缝阵列。
操作检测器13设置于成像光学系统12的上方(Z方向+侧),例如由公知的透明平板式静电电容器(以下记载为“平板静电电容器”)构成。由平板静电电容器构成的操作检测器13实质上通过由透明的部件构成的电极形成电场。操作检测器13在用户为了对空中图像30的显示位置进行操作而使手指或触控笔向空中图像30一方移动的情况下,将该手指或触控笔的位置作为静电电容的值检测出来。例如,对在透明平板静电电容器的四角检测出的静电电容的值进行比较,并基于在四角检测出的静电电容的值来检测用户的手指在X轴、Y轴上的位置。此外,操作检测器13如在后详细说明的那样,在自身的向上方向的规定范围内具有静电电容的检测范围,其检测该规定检测范围内的手指或触控笔与操作检测器13之间的间隔(在Z轴上的位置),例如对在透明平板静电电容器的四角检测出的静电电容的值进行比较、并基于在四角检测出的静电电容的值来进行检测。当然,空中图像30由成像光学系统12成像,并使成像位于操作检测器13的规定检测范围内,优选位于规定检测范围的上下方向中间。如此,由于操作检测器13检测用户用手指或触控笔对空中图像30的显示位置进行操作的情况,所以用户不直接接触操作检测器13就能够执行对空中图像30的操作。另外,在以下的说明中,对用手指操作空中图像30的显示位置的例子进行说明,但对于用触控笔等进行操作的情况也是一样的。
图2是示出显示装置1的构成中的控制部20、以及由控制部20控制的显示器11及操作检测器13的框图。控制部20具有CPU、ROM、RAM等,其包括根据控制程序对显示装置1的包括显示器11及操作检测器13在内的各种构成要素进行控制、以及执行各种数据处理的运算电路。控制部20包括图像生成部201、显示控制部202、校准部203、检测基准控制部204、以及存储部205。存储部205包括:存储控制程序的非易失性存储器;和存储要在显示器11上显示的图像数据等的存储介质等。另外,从操作检测器13的表面到手指尖的距离与操作检测器13检测到该手指尖时的静电电容之间的对应关系被预先存储在存储部205中。因此,一旦手指尖位于操作检测器13的规定检测范围内,操作检测器13就检测手指尖处的静电电容,并能够根据该检测出的静电电容与存储在存储部205中的上述的对应关系检测出手指尖在Z方向上的位置。
图像生成部201根据存储在存储介质中的图像数据,生成与用于显示在显示器11上的显示图像对应的显示用图像数据。显示控制部202使得与通过图像生成部201生成的显示用图像数据对应的图像显示在显示器11上。此外,一旦用户对空中图像30的图标30A的显示位置进行操作,显示控制部202就根据该被操作的图标30A的种类进行显示器11的显示图像的切换控制。另外,在用户对空中图像30的图标30A的显示位置进行了操作的情况下,显示控制部202并不限于进行显示器11的显示图像的切换控制。例如,显示器11将动态图像作为显示图像来显示,当用户对空中图像30的图标30A的显示位置进行了操作的情况下,显示控制部202还可以进行使由显示器11显示的动态图像再现的控制、或是使动态图像停止的控制。
校准部203执行在后详细叙述的第一、第二校准处理模式的校准处理。检测基准控制部204将检测面、即检测基准设定在显示装置1的上方空间,具体而言,设定在操作检测器13的规定检测范围内的空中图像30的位置(或是规定范围)处。检测基准控制部204进一步根据由操作检测器13检测出的静电电容的值判定出用户的手指已到达检测基准。即,检测基准控制部204在由操作检测器13检测出的静电电容的值所对应的手指位置(X轴,Y轴,Z轴各轴上的位置)与所设定的检测基准的位置一致时,判定为用户对图标30A的显示位置进行了操作。此外,检测基准控制部204将检测基准设定在预先确定了的规定初始位置,并根据后述的校准处理的结果改变或修正检测基准的位置。该检测基准的初始位置被预先存储于存储部205。另外,检测基准的初始位置例如可以是对所有用户通用的位置,也可以根据用户对显示装置1的使用历史记录等来按各用户设定不同的位置。此外,检测基准的初始位置以及改变后的检测基准的位置既可以设定于操作检测器13的整个平面上(X轴、Y轴上),也可以设定于平面上的局部。再者,关于检测基准的初始位置,可以将在显示装置1上一次使用时所设定的检测基准预先存储于存储部205,将其读出而使用。另外,检测基准控制部204并不仅限于由操作检测器13检测出的静电电容的值所对应的手指位置与检测基准的位置一致的情况,在手指位置与检测基准的位置大致一致的情况下也可以判定为用户操作了图表30A的显示位置。该判定为大致一致的范围也可以预先设定。
图3的(a)示出由显示装置1显示的空中图像30的一例,图3的(b)示意性地示出主体10或操作检测器13、空中图像30以及检测基准40之间的位置关系。在图3的(a)中,空中图像30包括如上所述那样排列成3行×5列的15个图标30A。在图3的(b)中,检测基准40被检测基准控制部204设定在空中图像30的位置附近,具体而言,在图示例中是设定在与空中图像30相比稍微位于上方的位置。在图3的(b)中,空中图像30内的图标用粗虚线30A表示。另外,图标30A是空中图像30的一部分,因此位于与空中图像30的位置相同的高度位置,但是,在图3的(b)中,为了与表示空中图像30的实线相区别,将表示图标30A的粗虚线以使粗虚线的位置从实线位置错开的方式画出。
在图3的(b)中,空中图像30形成在显示装置1的操作检测器13的上方且与之离开了距离H1的位置处,检测基准40被设定在操作检测器13的上方且与之离开了距离H2(H1<H2)的位置处。操作检测器13如上所述,从其表面起在上方具有静电电容的检测范围13A。在图3的(b)中,操作检测器13上方的静电电容的检测界限用虚线13a表示,该静电电容的检测界限13a与操作检测器13之间的间隔被表示为静电电容检测范围13A。空中图像30和检测基准40被设定成位于静电电容的检测范围13A内。另外,检测基准40虽然在图3的(b)中被设定在空中图像30的上方,但是,只要在操作检测器13的静电电容检测范围13A内,在空中图像30的下方也可以,或者与空中图像30的位置一致也可以。此处,将检测范围13A内的、被设定为检测基准40的区域以外的范围作为检测基准外范围41。
另外,在图3的(b)中,空中图像30和检测基准40被表示为与XY平面平行的平面,但是它们并不限于都是平面,也可以例如都由曲面构成。此外,如图3的(c)所示,检测基准40也可以不是平面而是按图标30A不同而具有层差。换言之,某图标30A和与该图标相对的检测基准40之间的间隔可以与另一图标30A和与该另一图标相对的检测基准40之间的间隔不同。这样对检测基准40设置层差对于下述情况尤其有效,即:空中图像30是立体图像,且多个图标30A的位置在Z方向上、即上下方向上彼此错开。例如,根据立体的空中图像30的多个图标30A在上下方向上的错位,使与各图标30A对应的检测基准40的位置错开,由此还能够使图标30A与所对应的检测基准40之间的距离为恒定。
操作检测器13在用户的手指尖到达距操作检测器13为距离H2时,输出与距离H2对应的检测输出。检测基准控制部204根据操作检测器13的检测输出而判定出用户的手指尖与检测基准40一致,从而判定出手指尖对图标30A的显示位置进行了操作。如此,显示装置1检测出用户对空中图像30的图标30A的显示位置进行了操作,并执行与该被操作了的图标30A对应的功能。例如进行显示器11的显示图像的切换等。
此外,虽然图标30A位于距操作检测器13为距离H1的位置,但是由于是作为空中图像30而显示的,所以对于某用户和另一用户而言,对空中图像30的图标30A的显示位置、即高度H1的视觉感觉是不同的。此外,即使是对同一用户而言,也会存在根据操作该显示装置1的环境的不同而感觉图标30A的显示位置不同的情况。例如,在设定成使检测基准40与空中图像30的位置一致的情况下,某用户为了对图标30A的显示位置进行操作而将手指向空中图像30的图标30A一方移动时,虽然该用户感觉手指尚在图标30A近前,但实际上手指已经到达了图标30A、即检测基准40,在这种情况下会有违用户的意思而执行图标操作。相反,当另一用户为了进行图标操作而将手指向空中图像30的图标30A一方移动时,虽然该用户以为手指已经到达图标30A从而正在对图标30A的显示位置进行操作,但实际上手指位于图标30A、即检测基准40的近前,在该情况下会有违用户的意思而没有执行图标操作。不论是哪一种情况,用户都会觉得图标操作存在不适应感。
因此,本实施方式的显示装置1除了具有进行上述的针对空中图像30的操作的空中图像操作模式外,还具有用于减轻上述图标操作的不适应感的校准处理模式。校准处理模式用于将空中图像30与检测基准40的相对位置关系设定成适于用户的操作感觉/操作特性和显示装置的使用环境等的关系。本实施方式的显示装置1如上所述具有第一及第二校准处理模式。第一校准处理模式与空中图像操作模式不同,即,是在没有执行空中图像操作模式时执行校准处理;第二校准处理模式是在显示装置1起动后已执行了空中图像操作模式时且在该空中图像操作模式执行中执行校准处理。这些第一~第二校准处理模式由图2所示的校准部203执行。另外,执行第一~第二校准处理模式的哪一个,可以通过操作省略了图示的、设于显示装置1的校准处理模式选择用操作按钮来选择,在该校准处理模式选择用操作按钮没有选择第一~第二校准处理模式中的任一个的情况下,控制部20可以选择空中图像操作模式来执行。此外,也可以不具备校准处理模式选择用操作按钮,而是始终进行第二校准处理模式。以下依次说明第一~第二校准处理模式。另外,第一~第二校准处理模式的选择除了操作按钮以外,也可以从空中图像的图标中选择。
首先对第一校准处理模式进行说明。起动显示装置1,当用户操作校准处理模式选择用操作按钮而选择第一校准处理模式时,图2的校准部203起动第一校准处理模式。图像生成部201生成显示用图像数据,显示器11根据该显示用图像数据显示用于校准处理的显示图像。图4及图5示出该校准处理用显示图像的空中图像300。空中图像300包含校准用图标300A,该校准用图标300A重叠显示出提示信息“进行校准。请触及该图标”。此外,如图5的(a)所示,检测基准控制部204将检测基准40初始设定在空中图像300附近的位置,例如初始设定在与空中图像300相比稍微位于上方的位置。当然,也可以使检测基准40的初始位置与空中图像300一致,还可以将其设定在与空中图像300相比稍微位于下方的位置。另外,上述的信息“进行校准。请触及该图标”也可以在校准处理时并不必须显示。例如,在选择了校准处理模式的用户预先知晓要在校准处理模式下如何操作的情况等时,就不需要显示上述提示信息。
在图5的(a)中,用户为了按照重叠显示于空中图像300的图标300A上的提示信息对图标300A的显示位置进行操作,而将手指尖F向图标300A一方下降移动,一旦手指尖F到达图2的操作检测器13的静电电容的检测范围13A,操作检测器13就会将用户手指尖F向该图标300A的接近移动、即向下移动作为静电电容的变化检测出来。
在图5的(b)中,当手指尖F下降移动并到达与检测基准40相比稍微位于上方的虚线位置50时,用户感觉到手指尖F到达图标300A的显示位置并执行了按下图标300A的操作,并使手指尖F向上方移动规定距离。操作检测器13将手指尖F的上述下降移动、即按下动作及其接下来的规定距离的向上移动作为静电电容的变化检测出来。检测基准控制部204在操作检测器13检测到手指尖F的上述按下动作及其接下来的规定距离的向上移动后,判定为在图标300A的显示位置进行了操作。另外,在用户的手指尖F为了对图标300A的显示位置实施操作而进行了按下动作后又向上方移动了规定距离的情况下,将移动到的最下方的位置作为到达位置。即,将虚线位置50称为到达位置。
检测基准控制部204若判定为手指尖F在到达位置50处针对图标300A的显示位置进行了操作,则如图5的(c)所示,使检测基准40移动、即改变至到达位置50的位置处,并且将该改变后的检测基准40的位置数据存储于图2的存储部205。另外,检测基准控制部204如图5的(d)所示,将检测基准40从到达位置50移动、即改变至距其有规定距离d1的上方的位置处,并将该改变后的检测基准40的位置数据存储于图2的存储部205。该规定距离d1例如设定为1mm~10mm左右。此外,可以根据利用装置的各用户来改变规定距离d1,也可以根据从用户手指的指尖到第一关节的长度来设定。例如,可以将规定距离d1设定为包含在用户手指的指尖到第一关节的长度的1/4~1/2左右范围内的规定值。
以上,对手指的到达位置50与检测基准40相比位于上方的情况进行了说明,在到达位置50与检测基准40相比位于下方的情况下,也与上述同样地判定到达位置50,并根据该到达位置50来改变检测基准40。此外,在到达位置50与检测基准40一致的情况下,也是与上述同样地判定到达位置50,但是由于到达位置50与检测基准40一致,所以不改变检测基准40。
另外,在到达位置50与检测基准40相比位于下方的情况下,由于手指在到达于到达位置50之前会通过检测基准40,所以,检测基准控制部204虽然根据操作检测器13的检测输出判定出手指已到达检测基准40,但是在第一校准处理模式中并不进行显示器13的显示切换。在到达位置50与检测基准40一致的情况下也是一样,并不进行显示器13的显示切换。当然,可以在手指到达检测基准40时,进行例如使图标300A闪烁等的突出(highlight)显示,从而告知用户手指已到达检测基准。
另外,在以上的说明中,是以对图标300A的显示位置的操作为例举出了用户按下图标300A的操作的例子,但是并不限于此。在通过操作检测器13检测出用户对图标300A进行的规定的非接触操作的情况下,也可以根据规定的非接触操作所进行的位置来改变检测基准40。所谓规定的非接触操作,例如是像触及图标300A那样的手势操作。可以根据进行了像触及图标300A那样的操作的位置来改变检测基准40。所谓像触及那样的操作,例如可以列举出用户用手弹拂图标300A(振り払う)那样的手势等。此外,作为进行了像触及那样的操作的位置,可以根据用户用手弹拂那样的手势结束而用户的手停止这一情况被判定出的位置和用户用手弹拂那样的手势所开始的位置来确定。
如以上那样,在第一校准处理模式下,通过检测手指从按压移动到规定距离的向上方移动的变化,来判定出用户感觉到了手指已对空中图像300的图标300A的显示位置进行了操作,从而将该用户用的检测基准40改变到与手指的到达位置50相比以规定距离d1位于上方的位置处,从而改变检测基准40与空中图像300的显示位置之间的位置关系。即,根据作为使用装置的用户的信息之一的用户操作,来改变检测基准40与空中图像300的显示位置之间的位置关系。另外,在改变用户用的检测基准40的情况下,未必需要检测利用装置的用户,只要根据上述的操作被操作检测器13检测到这一情况来改变检测基准40与空中图像300的显示位置之间的位置关系即可。
另外,在检测基准控制部204改变检测基准40的位置的情况下,可以使所有检测基准40的位置移动,也可以仅使检测基准40中的、与被用户的手指操作的图标300A相对应的一部分检测基准40移动。
另外,在图5的(c)所示的例子中,将检测基准40改变到与到达位置50相比以规定距离d1位于上方的位置的理由如下。即,用户一般在对触摸面板进行操作时会使手指接触触摸面板并将手指按下些许,因此,在对空中图像300的图标300A的显示位置进行操作时,即使手指尖在空中图像300的图标300A的显示位置进行操作,也不会在该处立即向上方移动规定距离,而总是会在按下些许后才向上方移动规定距离。因此,手指的到达位置50总是为:与感觉出手指对图标300A的显示位置进行了操作的位置相比些许位于下方的位置,因此,将检测基准40改变到与到达位置50相比以规定距离d1位于上方的位置。当然,该按下量根据用户的不同而具有比较小的时候或是几乎不存在的情况,因此也可以将检测基准40的位置改变成与到达位置50大体一致。
如上所述,校准处理模式是将校准用的空中图像300与检测基准40之间的相对位置关系设定成适于用户的操作特性的关系的模式,因此,根据用户的操作特性、显示装置,也可以将检测基准40改变成不是位于到达位置50的上方而是如上所述与到达位置50大体一致,另外,还可以改变到与到达位置50相比位于下方的位置。例如,在某用户的到达位置50位于空中图像300的上方,且到达位置50与静电电容的检测范围13A的上限13a之间的间隔比到达位置50与空中图像300之间的间隔小的情况下,若将检测基准40改变到与到达位置50相比位于上方的位置,则检测基准40会过于靠近静电电容的检测范围13A的上限13a,因此也可以将检测基准40改变成与到达位置50一致、或是与到达位置50相比位于下方的位置。
另外,判定到达位置50的方法并不限于上述的、根据从按下移动到规定距离的向上移动的变化来判定的方法,通过以下所述的其他各种方法也能够判定。例如,用户感觉到手指到达图标300A的显示位置并执行了对图标300A的按下操作,然后停止手指向下方的移动、即停止按下动作。检测基准控制部204根据操作检测器13所检测的静电电容的值几乎没有变化这一情况而判定出手指的按下动作停止,并将该按下动作的停止位置判定为、即确定为到达位置50。另外,向下方移动的停止是通过操作检测器13所检测的静电电容的值在短时间内、例如0.1秒~1秒左右的期间内没有变化这一情况来判定的。作为再其他的方法,还可以从静电电容的变化检测出用户手指移动的速度矢量、即手指的移动速度和移动方向,并根据手指的速度矢量的方向从向下方向变化为反方向这一情况以及反方向的速度矢量为规定大小这一情况,将检测到反方向的、规定大小的速度矢量时的手指位置判定为到达位置。在采用该方法的情况下,若将上述速度矢量的规定大小设定为大致为0,则速度矢量的方向从朝下方向向反方向变化时刻的手指位置、即最下方的位置被判定为到达位置,若将规定大小设定为0以外的值,则手指距上述最下方的位置有规定距离的上方的位置被判定为到达位置。如以上那样,到达位置被确定在:通过检测基准控制部405判定为手指对图标的显示位置进行了操作时的、手指的最下方位置或其附近的位置。
此外,在上述的例子中,对于手指或触控笔,以与空中图像300的图标300A接触的部分、即手指尖部分的位置或触控笔最下部的位置为基准来确定到达位置,但也可以取而代之,以用户手指的指甲尖的位置或是手指第一关节的位置为基准来确定到达位置。更进一步讲,并不限于用户的手指,在用户用脚或手肘等来操作图标的情况下,也可以将脚或手肘等作为基准来确定到达位置。在使用触控笔的情况下,在触控笔的规定位置附有标记,也可以将该标记的位置作为基准来确定到达位置。另外,在使用手指的第一关节或触控笔的标记等来确定到达位置的情况下,作为操作检测器13,优选采用在后述的变形例8中说明的拍摄装置等来代替平板式静电电容器。
参照图6所示的流程图,对上述说明的第一校准处理模式与空中图像操作模式之间的关系进行说明。图6的流程图所示的各处理是在显示装置1被起动后由控制部20执行程序来进行的。该程序存储于存储部205。在步骤S1中,当识别出由用户通过校准处理模式选择用操作按钮选择了第一校准处理模式,则进入步骤S2。在步骤S2中,由图2所示的校准部203开始第一校准处理模式,然后进入步骤S3。在步骤S3中,图像生成部201生成校准用的显示用图像数据,显示控制部202使基于显示用图像数据的校准用图像显示在显示器11上,并且,检测基准控制部204将检测基准设定在初始位置。显示器11的显示图像是由成像光学系统12生成的、如图4所示的校准用空中图像300,空中图像300包括图标300A和提示信息“进行校准。请触及该图标”。在步骤S4中,操作检测器13检测出用户的手指尖F向下方移动,从而进入步骤S5。
在步骤S5中,图2所示的检测基准控制部204根据操作检测器13的检测输出来判定手指是否到达了到达位置。若在步骤S5中为肯定判断、即判定为手指到达了到达位置,则进入步骤S6。若在步骤S5中为否定判断、即判定为手指还没有停止,则待机直到为肯定判断。在步骤S6中,检测基准控制部204根据到达位置50来改变检测基准40的位置,并将该改变后的检测基准40的位置数据存储于图2所示的存储部205,然后进入步骤S7。在步骤S7中,结束第一校准处理模式而进入步骤S8。在步骤S8中,开始空中图像操作模式,并进入步骤S9。在步骤S9中,显示图3所示的包括空中图像操作模式用的图标30A在内的空中图像30,并且,从存储部205中读出在步骤S6中通过第一校准处理模式而改变后的检测基准40的位置数据,并基于该位置数据将检测基准40如图3的(b)所示设定在空中图像30附近的位置。如此,在该空中图像操作模式下,使用在第一校准处理模式中所设定的适于用户的操作特性的检测基准40。
当用户为了对图标30A的显示位置进行操作,使手指朝着空中图像30而向下方移动时,在步骤S10中,图2所示的操作检测器13检测出用户手指向下方的移动,并进入步骤S11。在步骤S11中,检测基准控制部204根据操作检测器13的检测输出来判定手指是否到达检测基准40。若在步骤S11中为肯定判断、即判定为手指到达了检测基准40,则进入步骤S12。若在步骤S11中为否定判断、即判定为手指还没有到达检测基准40,则待机直到为肯定判断。在步骤S12中,显示控制部202将显示器13的显示图像切换成与所操作的图标30A相应的显示图像,并进入步骤S13。在步骤S13中,判定是否进行了显示装置1的停止操作。若在步骤S13为肯定判断、即进行了显示装置1的停止操作,则显示装置1停止。若在步骤S13中为否定判定,则返回步骤S10。
如以上说明的那样,在第一校准模式下,基于用户的操作而改变检测基准,并改变空中图像与检测基准之间的位置关系。由于将空中图像操作模式的检测基准设定于在该第一校准模式下改变后的检测基准的位置处,所以能够基于适于用户的操作特性和显示装置1的使用环境的检测基准来执行空中图像操作模式。
在以上的说明中,第一校准处理模式是在显示装置1被起动后而空中图像操作模式之前执行,但是第一校准处理模式也可以在空中图像操作模式之后执行。例如,当用户在空中图像操作模式的执行过程中觉得例如对图标300A的显示位置的操作存在不适应感时,操作显示装置1的校准处理模式选择用操作按钮而选择第一校准处理模式。在该情况下,使执行过程中的空中图像操作模式中断而执行第一校准处理模式,在该第一校准处理结束后,再次开始空中图像操作模式。另外,也可以取代上述的根据用户对操作按钮的操作而显示装置1选择第一校准模式的方式,而是在检测出用户因对图标300A的显示位置的操作所引起的不适应感而怀有不快感的样子时,执行第一校准处理模式。显示装置1例如检测用户的脉搏数(生物体信息),在检测到的脉搏数超过规定值的情况下,能够检测出用户怀有不快感的样子。
下面参照图7及图8对第二校准处理模式进行说明。另外,对于以下说明的第二校准处理模式,可以合适地采用已在上述的第一校准处理模式中说明的处理。图7是示出空中图像操作模式用的空中图像30、初始位置的检测基准40及手指的到达位置50的图;图8是表示出第二校准处理模式的动作的流程图。图8的流程图所示的各处理是在显示装置起动后通过由控制部20执行程序而进行的。
在步骤S41中,识别出选择了第二校准处理模式,并进入步骤S42。在步骤S42中,使空中图像操作模式和第二校准处理模式一并开始,并进入步骤S43。在步骤S43中,显示图3所示的包括图标30A在内的空中图像30,并且,图2所示的检测基准控制部204将检测基准40设定在预先确定的初始位置,例如设定在空中图像30的位置或是与空中图像30的位置相比稍微位于上方的位置,然后进入步骤S44。此时,在空中图像30中,仅在短时间内显示提示信息“在图标的操作中进行校准”。当然,也可以不显示该提示信息。
在步骤S44中,当用户为了对图标30A的显示位置进行操作而使手指向下方移动时,操作检测器13就开始对手指移动的检测,并进入步骤S45。在步骤S45中,检测基准控制部204根据操作检测器13的检测输出判定手指在向下方移动的过程中是否通过了检测基准40。若在步骤S45中为肯定判断、即指在下降移动过程中通过了检测基准40并进一步下降移动,则进入步骤S46。图7的手指F1表示在下降移动过程中通过了检测基准40的手指。在步骤S46中,检测基准控制部204判定出手指F1已到达检测基准40、即通过了检测基准40,并进行图标显示的切换,即根据空中图像30被操作了的图标30A进行切换,然后进入步骤S47。在步骤S47中,检测基准控制部204判定手指F1是否到达了到达位置50,在是肯定判断的情况下进入步骤S48,在是否定判断的情况下,维持在该步骤,直到成为肯定判断。在步骤S48中,检测基准控制部204基于到达位置50来改变检测基准40的位置。另外,在改变检测基准40的位置时,有改变后的检测基准40与用户的手指尖一致的情况,或是与用户手指尖的位置相比位于上方的情况。在该情况下,由于在步骤S46中曾一度进行了图标显示的切换,因此不进行图标显示的切换。
若在前述的步骤S45中为否定判断、即手指在下降移动过程中没有通过检测基准40,则进入步骤S49。在步骤S49中,检测基准控制部204根据操作检测器13的检测输出来判定手指是否到达了到达位置50,并在为肯定判断的情况下进入步骤S50。在为否定判断的情况下,维持该步骤直到成为肯定判断。图7的手指F2表示到达位置50与检测基准40一致的情况。在步骤S50中,检测基准控制部204根据操作检测器13的检测输出来判断到达位置50是否与检测基准40一致,在为肯定判断的情况下进入步骤S51,在为否定判断的情况下进入步骤S52。在步骤S51中,由于到达位置50与检测基准40一致,所以虽然进行图标显示的切换,但是不进行检测基准40的改变。
在步骤S52中,如图7的手指F3所示,到达位置50位于检测基准40的上方,检测基准控制部204基于到达位置50来改变检测基准40的位置,具体而言,将检测基准40的位置改变至到达位置50的附近,然后进入步骤S55。此时,在改变后的检测基准40与用户的手指尖一致的情况下,或是与用户手指尖的位置相比移动到上方的情况下,进行图标显示的切换。另一方面,在改变后的检测基准40没有到达用户手指尖的位置的情况下,不进行图标显示的切换。
在步骤S55,判定是否进行了第二校准处理模式的结束操作,若为肯定判断则进入步骤S55,若为否定判断则返回步骤S44。
如以上说明的那样,由于第二校准处理模式是在空中图像操作模式的执行过程中并行进行的,所以,能够在对校准处理的执行毫无意识的情况下,以适于用户的检测基准执行对空中图像的显示位置的操作。另外,第一~第二校准处理模式也不是必须由用户选择。也可以由显示装置1自动地选择第一~第二校准处理模式中的某一个。此外,也可以不具有第一~第二校准处理模式全部,可以具有其中的一个。
以上说明的第一实施方式的显示装置1可以如下那样变形。
(第一实施方式的变形例1)
变形例1的显示装置1也可以根据操作检测器13的检测输出计算出用户手指尖的速度或加速度,并基于算出的速度或加速度来预测手指的到达位置,基于该预测到达位置来改变检测基准。图9是示出本变形例1的显示装置1的构成中的控制部20、由控制部20控制的显示器11以及操作检测器13的框图。
关于变形例1的显示装置1,对相对于第一实施方式的显示装置不同的构成进行说明。在图9中,速度/加速度检测部206每隔规定时间读出由操作检测器13检测的静电电容值,根据每规定时间内的静电电容值的变化计算出手指的移动速度,并且根据计算出的速度计算出手指的移动加速度。到达位置预测部207根据从速度/加速度检测部206输出的手指的移动速度或加速度来预测手指的到达位置。到达位置预测部207能够检测例如从手指的移动正在加速的状态或是速度大致恒定的状态过渡到减速状态的情况,并根据该减速情况预测手指的到达位置。检测基准控制部204根据由到达位置预测部207预测出的到达位置来改变检测基准。
接下来,参照图10及图11说明变形例1的显示装置1的第一校准处理模式。在图11的流程图中,除了从步骤S103到步骤S107以外,均与图6的流程图相同,因此省略说明。如图10的(a)所示,一旦手指尖F进入操作检测器13的规定检测范围13A内,在步骤S104中,操作检测器13就将手指尖F的移动作为静电电容值的变化检测出来。在步骤S105中,速度/加速度检测部206根据操作检测器13的检测输出而计算出手指尖F的移动速度及加速度。在步骤S106中,到达位置预测部207根据速度/加速度检测部206所算出的移动速度及加速度而计算出手指尖F的到达位置。在图10的(b)中,到达位置预测部207所计算出的、即预测出的手指的到达位置用虚线60示出。在步骤S107中,检测基准控制部204如图10的(c)所示基于预测到达位置60而改变检测基准40,并且将该检测基准40的位置数据存储于存储部205。在其后的步骤S110中,空中图像操作模式的检测基准被设定在该被存储的检测基准40的位置处。另外,为了预测手指的到达位置,既可以使用手指的移动速度和加速度双方,也可以使用其中的一个。
另外,在上述的说明中,速度/加速度检测部206每隔规定时间读出由操作检测器13检测的静电电容值,根据每规定时间内的静电电容值的变化而计算出手指的移动速度,并且根据算出的速度而计算出手指的移动加速度,但是并不限于该方法,也可以使用拍摄装置来作为速度/加速度检测部206。此外,在上述的说明中,是计算出用户手指的移动速度或加速度,但除此之外,也可以是用户的脚或手肘、用户所持的触控笔。
另外,根据算出的用户手指的移动速度及加速度而计算出用户手指的预测到达位置60,并基于用户手指的预测到达位置60来改变检测基准40,但是并没必要针对每个操作确定用户手指的预测到达位置60。在用户进行操作前意外移动的情况下,若根据该移动计算出预测到达位置60,则检测基准40会设定在极其靠上的位置等,从而无法将检测基准设定在恰当的位置。为了防止上述那样的情况,在检测到用户手指的移动速度及加速度的情况下,可以只在检测到规定阈值以上的用户手指的移动速度及加速度的情况下计算出预测到达位置60,并基于预测到达位置60来改变检测基准40的位置。
根据该变形例1,由于手指的到达位置能够根据手指的移动速度或加速度来预测,所以能够迅速地进行校准处理。
如上所述,关于本变形例中的校准处理,对于应用在第一实施方式中的第一校准处理模式中的情况进行了说明,但是也能够应用在第二校准处理模式中。在将本变形例1应用在第二校准处理模式中的情况下,可以在空中图像操作中的用户的手指尖F到达检测基准40之前,事先预测手指尖F的到达位置,并基于预测出的到达位置来改变检测基准。因此,能够实现防止用户的手指尖F没有到达检测基准40就不发生图标显示的切换等的误操作,从而能够使用户进行愉快的操作。
(第一实施方式的变形例2)
第一实施方式及变形例1涉及的显示装置1是在一次校准处理中检测或预测到达位置,并基于该到达位置改变检测基准,并将该检测基准的位置数据存储于存储部205,在空中图像操作模式时将空中图像操作模式的检测基准设定在或是改变到存储于存储部205中的检测基准的位置处,但取而代之的是,变形例2涉及的显示装置将在多次的校准处理中分别设定的多个检测基准的位置分别存储于存储部205,并基于该存储的多个检测基准位置来改变空中图像操作模式下的检测基准。在第一次校准处理中,检测基准控制部204根据操作检测器13的检测输出来判定手指的到达位置50,基于该到达位置50来改变检测基准40,并将该检测基准40的位置数据存储于存储部205。继续进行第二次校准处理,将同样地改变的检测基准的位置数据存储于存储部205。还可以进一步继续进行第三次校准处理。通过这样连续进行的多次校准处理而根据存储在存储部205中的多个检测基准的位置数据计算出一个检测基准,并将该计算出的检测基准的位置数据存储于存储部205。在其后执行的空中图像操作模式中,将检测基准设定在存储于存储部205中的算出检测基准的位置处。
为了使用这多个检测基准40来确定一个检测基准,想出了各种步骤。例如,既可以将多个检测基准40相加平均而计算出一个检测基准,也可以将其相乘平均而计算出一个检测基准。此外,还可以对多个检测基准40的各个进行适当的加权来确定新的检测基准。例如,关于由第N次操作求出的检测基准HN和由第N+1次操作求出的检测基准的位置HN+1,可以以3:7的比例进行加权而计算出检测基准。具体而言,利用HN与HN+1进行(HN×3+HN+1×7)/10的计算,并基于其结果来计算出检测基准。权重并不限于3:7,而且操作次数也不限于2次。当然,也可以不是在多次校准处理的每次基于手指的到达位置设定检测位置并分别存储于存储部205,而是在多次校准处理的每次将检测到的手指的到达位置分别存储于存储部205,并基于该存储的多个到达位置计算出一个检测基准。
此外,关于校准处理,在到达位置与检测基准之间的间隔为规定值以下时、即到达位置处于检测基准附近时,也可以不进行检测基准的位置改变。
再者,在校准处理中,也可以不是每次校准处理都进行检测基准的改变,而是在多次校准处理中,根据判定到达位置的次数、和判定出到达位置实际上到达检测基准的次数来计算出对图标的显示位置的操作失败的次数,在判定为失败了规定次数以上时才改变检测基准。
如上所述,关于本变形例中的校准处理,对应用于第一实施方式中的第一校准处理模式的情况进行了说明,但是也可以应用于第二校准处理模式和上述的变形例1。
在上述的校准处理中,检测用户对空中图像的图标的显示位置进行操作时通常进行的自然的操作动作,即:用手指按下图标后又将手指向上方移动的动作、手指接触图标后将其按下并短时间停止的动作等,从而来判定到达位置,因此用户不会注意到在校准处理中进行到达位置的检测/判定这一情况,因此能够在用户没有意识到校准处理的情况下执行处理。
(第一实施方式的变形例3)
在第一实施方式中,检测用户的手指对空中图像的显示位置的操作来判定到达位置,并基于到达位置来进行检测基准的改变。但是,用户也可以指定感觉到对空中图像的图标的显示位置进行了操作的手指位置,并由检测基准控制部来判定该指定位置,并基于指定位置来改变检测基准,从而改变检测基准与空中图像之间的位置关系。以下说明由用户将对空中图像的显示位置进行操作的位置指定为指定位置的变形例。另外,在以下的说明,对应用于第一实施方式中的第一校准处理模式的情况进行说明,但是也可以应用于第二校准处理模式和上述的变形例1、2。
以下说明变形例3的显示装置。在起动显示装置1且用户操作校准处理模式选择用操作按钮而选择第一校准处理模式之后,图2的校准部203起动第一校准处理模式。图像生成部201生成显示用图像数据,显示器11基于该显示用图像数据显示校准用显示图像。图12示出该校准用显示图像的空中图像300。空中图像300包含校准用图标300B,该校准用图标300B重叠显示出提示信息“进行校准。请用手指指出该图标的位置,并在该状态下使手指沿横向移动”。此外,如图13的(a)所示,检测基准控制部204将检测基准40设定在空中图像300附近的初始位置。
在图13的(a)中,用户为了按照图标300B上重叠显示出的提示信息对图标300B的显示位置进行操作,使手指尖F向图标300B一方下降移动,当手指尖F到达图2的操作检测器13的静电电容检测范围13A时,操作检测器13将用户的手指F向该图标300B的接近移动、即向下方的移动作为静电电容的变化检测出来。另外,图13的(a)是以从正面观察手指的方式来表示的。
当用户使手指进一步下降移动并感觉到手指尖F到达了空中图像300的图标300B的显示位置时,如图13的(b)中用箭头所示那样,使手指F沿横向移动。操作检测器13检测该手指F的下降移动及横向移动。检测基准控制部204判定出检测到手指下降移动的操作检测器13检测到了手指的横向移动,从而将从下降移动向横向移动变化时的手指的高度位置判定为指定位置50A。检测基准控制部204基于该指定位置50A来改变检测基准40的位置,并将该改变后的检测基准40的位置数据存储于存储部205。另外,指定位置50A在图13的(b)中被例示为空中图像300上方的位置,但是,由于指定位置50A是用户感觉到手指尖F到达空中图像300的图标300B时的位置,所以可以被指定在与空中图像300一致的位置,或者也可以被指定在与空中图像300相比位于下方的位置。
另外,在以上的说明中,检测基准控制部204将手指从下降移动变化成横向移动时的手指位置、即手指的高度判定为指定位置50A,但是并不限于此,例如也可以将手指从下降移动变化为横向移动且该横向移动结束时的手指高度判定为指定位置50A。此外,检测基准控制部204也可以将从手指的横向移动开始到横向移动结束之间的手指的高度平均值或中间值等作为指定位置50A。
参照图14所示的流程图对上述说明的变形例3的校准处理进行说明。另外,图14的流程图示出步骤S121~步骤S129,省略了其之后的步骤。步骤S129之后的处理与图11所示的流程图的步骤S109之后的处理是相同的。
步骤S121~步骤S124的各处理与图6所示的流程图中的步骤S1~步骤S4的各处理是相同的。在步骤S126中,操作检测器13检测用户的手指的横向移动。在步骤S127中,检测基准控制部204根据操作检测器13的检测输出而判定出手指从下降移动变化为横向移动,并将该变化时的手指位置判定为指定位置50A,基于指定位置50A来改变检测基准40的位置,并将该改变后的检测基准40的位置数据存储于存储部205,然后进入步骤S128。在步骤S128中,第一校准处理模式结束而进入步骤S129。在步骤S129中,开始空中图像操作模式。在该空中图像操作模式下,基于从存储部205读出的被改变后的检测基准40的位置数据来设定检测基准。
在该变形例3中,用户在校准处理中通过使手指从下降移动变化成横向移动来指定感觉到手指对空中图像的显示位置进行了操作的位置。如此,由于用户将感觉对图标300B的显示位置进行了操作的位置指定为指定位置来进行校准处理,所以能够准确地进行校准处理。此外,通过手指从下降移动向横向移动的变化来对指定位置进行指定,其操作性好,能够迅速地进行校准处理。
(第一实施方式的变形例4)
在变形例3的显示装置1中,用户通过从手指的下降移动向横向移动的变化而将认为用手指尖对图标的显示位置进行了操作的位置指定为指定位置。变形例4的显示装置1是通过由用户操作别的图标来指定认为用手指尖对图标的显示位置进行了操作的位置。下面说明该校准处理。另外,说明是针对应用于第一实施方式中的第一校准处理模式的情况来进行的,但也能够应用于第二校准处理模式及上述的变形例1~3。
起动显示装置1,当用户操作校准处理模式选择用操作按钮而选择第一校准处理模式后,图2的校准部203起动第一校准处理模式。图像生成部201生成显示用图像数据,显示器11基于该显示用图像数据显示校准用显示图像。图15示出该校准用显示图像的空中图像300。空中图像300包含校准用图标300C和300D,该校准用图标300C重叠显示出提示信息“进行校准。请用右手的手指指出该图标的位置。在已用右手的手指指出的状态下,请用左手的手指触及左侧的图标”。另外,图标300C和图标300D以图标300C位于右侧、图标300D位于左侧的方式并列布置。
用户为了按照图标300C所重叠显示出的提示信息操作图标300C的显示位置而使右手的手指尖向图标300C一方下降移动,一旦手指尖到达操作检测器13的静电电容检测范围13A,操作检测器13就将用户手指向该图标300C的显示位置的接近移动、即向下方的移动作为静电电容的变化检测出来。用户使手指进一步下降移动,并在感觉手指尖正在对空中图像300的图标300C的显示位置进行操作的时刻,按照提示信息欲用左手的手指尖对图标300D的显示位置进行操作而使左手的手指尖向图标300D一方移动。操作检测器13检测出手指尖朝向图标300D的移动。检测基准控制部204根据操作检测器13检测出用户的手指位于图标300D之上这一情况,而将该时刻的右手手指尖的位置判定为指定位置50A。检测基准控制部204基于指定位置50A来改变检测基准40,并将该改变后的检测基准40的位置数据存储于存储部205。
另外,关于对右侧的图标300C的显示位置进行操作的右手手指,由于将感觉到进行了该操作时的位置判定为指定位置,所以需要进行向空中图像接近的下降移动。但是,关于对左侧的图标300D的显示位置进行操作的左侧手指,由于只要将手指定位在图标300D的上或下即可,所以并不是必须使左手手指下降移动,左手手指例如可以沿着与空中图像300的平面平行的方向、即横向移动,从而横向移动到图标300D的上或下的位置。
此外,并不是必须利用左手手指和右手手指,只要在校准用空中图像300的图标300C上和图标300D上这双方能够检测出上述的动作即可。例如,可以利用一只手的2根手指。此外,该变形例4也可以取代对图标300D的显示位置进行操作,而是以按压设于显示装置1上的未图示的确定按钮构成。
再者,也可以取代将用户对图标300D的显示位置进行操作、或是按压未图示的确定按钮时刻的右手手指尖的位置判定为指定位置,而是将检测出用户例如用左手进行了规定手势时的、右手手指尖的位置判定为指定位置。在该情况下,显示装置1具有后述的变形例8的拍摄装置18(参照图22),利用通过该拍摄装置18获取的图像来检测出用户进行了手势(例如将手从石头手势变为布手势)。
关于上述说明的校准处理,参照图16所示的流程图来进行说明。另外,图16的流程图示出了步骤S131~步骤S139,省略了其之后的步骤。步骤S139之后的处理与图11所示的流程图的步骤S109之后的处理是相同的。
步骤S131~步骤S133的各处理与图6所示的流程图中的步骤S1~步骤S3的各处理是相同的。在步骤S134中,操作检测器13开始检测用户的右手手指尖向下方的移动。用户使手指进一步下降移动,并在感觉手指尖正在对空中图像300的图标300C的显示位置进行操作的时刻,用左手的手指尖对图标300D的显示位置进行操作。在步骤S136中,将在步骤S135中左手对图标300D的显示位置进行操作的时刻的右手手指尖的位置作为指定位置50A,然后进入步骤S137。在步骤S137中,检测基准控制部204基于指定位置50A来改变检测基准40,并将该改变后的检测基准40的位置数据存储于存储部205,然后进入步骤S138。在步骤S138中,结束第一校准处理模式而进入步骤S139。在步骤S139中,开始空中图像操作模式。
上述的变形例4的显示装置1通过用户在校准处理中操作别的图标或是操作显示装置1的确定按钮,来指定出对手指操作图标的位置进行指定的指定位置。如此,由于让用户来指定用户感知图标300的位置而进行校准处理,所以能够准确地进行校准处理。此外,通过操作别的图标或是显示装置的按钮来指定这样的指定位置,能够迅速地进行校准处理。
(第一实施方式的变形例5)
变形例5的显示装置是,若用户认为用手指尖操作了图标的显示位置,则用户通过使手指停止规定时间来对指定位置进行指定。另外,关于本变形例,是对应用于第一实施方式中的第一校准处理模式的情况进行说明的,但是也可以应用于第二校准处理模式及上述的变形例1~4。
在该情况下,在校准用空中图像所包含的图标中重叠显示有提示信息“进行校准。请指出该图标的位置。请将指出状态保持一段时间”。当用户感觉对图标的显示位置进行了操作而使手指的移动停止一段时间后,操作检测器13检测出手指的下降移动停止了规定时间。检测基准控制部204基于此时的操作检测器13的检测输出而将手指的停止位置判定为指定位置。
该指定位置的判定如下那样进行。即,根据向下方移动的手指尖F停止并在上下方向较小的规定停止范围内滞留规定时间以上这一情况,判定为对图标300A的显示位置进行了操作。如此,根据手指尖F在规定停止范围内停留规定时间以上这一情况而判定为手指尖F对图标300A的显示位置进行了操作的理由是,由于操作是针对空中图像300的图标300A的显示位置的操作,所以与对触摸面板的操作不同,存在手指尖F在图标300A的显示位置并不完全停止的可能性。另外,用于指定位置判定的规定停止范围被设定为与操作检测器13的静电电容的检测范围13A相比足够小的值,例如设定为5mm;此外,规定时间例如设定为2秒左右。
(第一实施方式的变形例6)
变形例6的显示装置是,用户通过发声来指定认为用手指尖对图标的显示位置进行了操作的指定位置。另外,关于该变形例,是对应用于第一实施方式中的第一校准处理模式的情况进行说明的,但是也能够应用于第二校准处理模式及上述的变形例1~5。
图17是示出了本变形例的显示装置1的构成中的控制部20、由控制部20控制的显示器11以及操作检测器13的框图。该显示装置1包括集音器14,并且在控制部20中具有语音检测部208。集音器14对显示装置1周围的声音进行集音,并作为语音数据输出至语音检测部208。作为集音器14,可以采用市场中出售的麦克风。语音检测部208识别来自集音器14的语音数据,并判断该语音数据是否相当于“是”。
在图17中,在校准部203起动第一校准处理模式后,图像生成部201生成显示用图像数据,显示器11基于该显示用图像数据显示校准用显示图像。图18示出该校准用显示图像的空中图像300。空中图像300包含校准用图标300E,在该校准用图标300E中重叠显示出提示信息“进行校准。请在触及了该图标时发出‘是’的声音”。
用户为了按照图标300E所重叠显示出的提示信息对图标300E的显示位置进行操作,将手指尖向图标300E一方按下,并在认为触及了图标300E的时候按照提示信息发出“是”的声音。操作检测器13检测手指尖的下降移动,集音器14收集该声音,并将其作为语音数据输出至语音检测部208。若语音检测部208判定出语音数据与“是”对应,则检测基准控制部204将该时刻由操作检测器13检测的手指尖的位置判定为指定位置50A,基于指定位置50A改变检测基准40,并且将该改变后的检测基准40的位置数据存储于存储部205。
关于上述说明的校准处理,参照图19所示的流程图来进行说明。另外,图19的流程图示出步骤S141~步骤S149,省略了其之后的步骤。步骤S149之后的处理与图11所示的流程图的步骤S109之后的处理是相同的。
步骤S141~步骤S144的各处理与图6所示流程图中的步骤S1~步骤S4的各处理是相同的。在步骤S145中,语音检测部208根据来自集音器14的输出判定用户是否发出了“是”的声音。在步骤S145中为肯定判断的情况下,即:判定为用户认为触及了图标30F并发出了“是”的声音的情况下,进入步骤S146。在步骤S145中为否定判断的情况下,待机,直到为肯定判断。在步骤S146中,检测基准控制部204将语音检测部208判定出语音“是”的时刻的手指尖位置确定为、即判定为指定位置50A。在步骤S147中,基于指定位置50A改变检测基准40,并将该改变后的检测基准40的位置数据存储于存储部205,然后进入步骤S148。在步骤S148中,结束第一校准处理模式并进入步骤S149。在步骤S149中,开始空中图像操作模式。
上述变形例6的显示装置1是,用户通过发声来指定认为对图标的显示位置进行了操作的手指的位置、即指定位置。这样通过发声来指定到达位置能够迅速地进行校准处理。
另外,显示装置1也可以不具备集音器14,而是经由无线或有线方式输入由外部的集音装置获取的语音数据,并利用从外部的集音装置输入的语音数据由语音检测部208进行语音检测。
(第一实施方式的变形例7)
在上述说明中,是将检测基准作为一个平面或是具有层差的平面来进行说明的。但是,检测基准也可以不是面,而是具有厚度的区域。对具有这样的区域的检测基准的校准处理进行说明。另外,说明是针对应用于第一实施方式中的第一校准处理模式的情况来进行的,但是也能够应用于第二校准处理模式及上述的变形例1~6。此外,也能够应用于上述的变形例1~6。
本变形例的显示装置1是与在第一实施方式中说明的显示装置1相同的装置,其构成由图2所示的框图来表示。图20的(a)示出了通过本变形例的显示装置1显示的、空中图像操作模式时的空中图像30的一个例子;图20的(b)示意性地示出了主体10或操作检测器13、空中图像30以及检测基准40之间的位置关系。图20的(a)所示的空中图像30与图3的(a)所示的空中图像30是相同的。在图20的(b)中,检测基准40被设定为由上表面401和下表面402夹着且在上下方向上具有厚度d2的区域。
在图20的(b)中,空中图像30形成在显示装置1的操作检测器13的上方且与之离开距离H1的位置,检测基准40被设定在上表面401和下表面402分别在操作检测器13的上方且与之离开距离H3和H4(H1<H3<H4)的位置。即,d2=H4-H3。空中图像30和检测基准40被设定成位于静电电容的检测范围13A内。另外,检测基准40虽然在图3的(b)中被设定在空中图像30的上方,但是只要在操作检测器13的静电电容检测范围13A内,也可以设定在空中图像30的下方,或者还可以设定成在区域d2内包含空中图像30的位置。
操作检测器13在用户的手指尖进入了检测基准40时,与手指尖的位置相应地输出与距离H3~H4之间的某一个相对应的检测输出,检测基准控制部204在该操作检测器13的检测输出是与距离H3与H4之间相当的检测输出的情况下,判定为手指尖对图标30A的显示位置进行了操作。如此,显示装置1检测出用户对空中图像30的图标30A的显示位置进行了操作的情况,并执行与该被操作了的图标30A相对应的功能。例如,进行显示器11的显示图像的切换等。如此,在变形例7的显示装置中,在空中图像操作模式下,不论手指位于检测基准40的厚度d2内的何处,检测基准控制部204都判定为手指正在对图标30A的显示位置进行操作,因此能够更确实地判定出对显示位置的操作。例如,在手指有时并不从图标30A的正上方下降移动,而是从斜上方下降移动的情况下,若检测基准40如图3所示是平面,则手指并不通过图标30A正上方的检测基准40,而是通过其横向的部分,从而有可能导致无法判定出手指对图标30A的显示位置的操作。但是,若检测基准40具有厚度d2,则即使在手指从斜上方下降移动的情况下,也能够确实地检测出手指进入了检测基准40这一情况,因此能够减少上述事态的发生。再者,即使在手指平行于空中图像30移动而对图标30A的显示位置进行操作的情况下,变形例7的显示装置由于检测基准40具有厚度d2,所以也能够确实地检测出手指进入了检测基准40内这一情况。
以下,关于具有这样的厚度d2的检测基准40的变形例7的显示装置1,说明其第一校准处理模式。另外,与具有厚度d2的检测基准40相关的第二校准处理模式也是一样的。另外,以下的说明省略了关于与第一实施方式相同部分的说明。
在图21的(a)中,在第一校准处理模式下,显示图4所示的包含有图标300A的空中图像300,并对检测基准40进行初始设定。用户为了按照图标300A上重叠显示出的提示信息对图标300A的显示位置进行操作,使手指尖F向着图标300A一方向下方移动,一旦手指尖F到达图2的操作检测器13的静电电容检测范围13A,操作检测器13就将用户手指F向该图标300A的接近移动、即向下方的移动作为静电电容的变化检测出来。
在图21的(b)中,当用户感觉手指正在对图标300的显示位置进行操作时,用户例如使手指尖F向上方移动规定距离。操作检测器13将手指尖F的上述下降移动、即按下动作以及接下来的向上方的规定距离的移动作为静电电容的变化检测出来。基于该静电电容的变化,检测基准控制部204判定出上述的到达位置50或指定位置50A。
检测基准控制部204如图21的(c)所示基于到达位置50或指定位置50A来将检测基准40改变为具有厚度d2的三维区域的检测基准40。在图21的(c)中,厚度d2的检测基准40被设定成包含到达位置50或指定位置50A,但是厚度d2的检测基准40也可以设定在与到达位置50或指定位置50A相比上方或下方的位置。此外,也可以将从到达位置50或指定位置50A离开规定距离的位置与到达位置50或指定位置50A之间夹着的三维区域作为厚度d2的检测基准40,所述离开规定距离的位置是指:沿着因用户按下操作而被按入的方向的反方向离开规定距离的位置。检测基准控制部204将厚度d2的检测基准40的位置数据存储于存储部205。此后,在执行空中图像操作模式时,基于存储在存储部205中的位置数据来设定厚度d2的检测基准40。
关于上述说明的第一校准处理模式和空中图像操作模式的关系,除了下面一点外,可以通过与图6所示的流程图相同的步骤来进行。即,在步骤S6中,在第一实施方式中是检测基准控制部204基于到达位置50设定作为一个面的检测基准40的顺序。与此相对的,在本变形例7中,不同的是,基于到达位置50或指定位置50A而设定厚度d2的检测基准40。
另外,在空中图像操作模式下,每当图标被操作时如下进行校准处理也是有效的,即:以将检测基准40设定成包含用户手指尖的到达位置50或指定位置50A的面处于检测基准40的上表面401与下表面402中间的方式进行校准处理。
此外,只要手指尖位于校准处理用图标的上方,即使在用户的手指斜向地、即相对于Z方向具有角度地下降移动的情况下,也能够判定出到达位置或指定位置。
(第一实施方式的变形例8)
在上述说明中,通过由平板静电电容器构成的操作检测器13来检测用户的手指尖向下方的移动,但是也可以通过拍摄装置来检测用户的手指尖的位置。变形例8的显示装置1如图22所示,具有作为操作检测器的拍摄装置(例如数码相机)18,该拍摄装置18配置在显示装置1的上表面。这样的显示装置1的框图如图23所示。
关于在图23中示出框图的显示装置1,在控制部20中具有图像解析部209。拍摄装置18对位于显示器11上方的物体、即用户的手指进行拍摄,并将所拍摄的拍摄图像输入至图像解析部209。图像解析部209对从拍摄装置18输入的拍摄图像进行解析而求出用户手指尖的位置。即,图像解析部209从拍摄图像内手指的像的位置来判定用户的手指尖正在对多个图标中的哪一个图标进行操作。再者,图像解析部209通过将拍摄图像内手指的像的大小与基准手指的大小、具体而言是事先拍摄的规定高度位置的手指的大小进行比较,由此来判定手指的高度位置、即手指的降下位置。由此获得用户手指尖在三维空间中的位置。通过这样的构成,变形例8的显示装置1能够通过对拍摄装置18所拍摄的拍摄图像的解析而获得与通过采用了平板静电电容器的操作检测器13求出的关于手指尖位置的信息同样的信息。因此,变形例8的显示装置能够使用拍摄装置18来代替在上述实施方式以及各种变形例中说明的平板静电电容器,并能够进行与上述实施方式以及变形例同样的处理。
在变形例8的显示装置1中,是图像解析部209从拍摄图像中的手指的大小计算出手指的高度位置,但是也可以取而代之,由拍摄装置18通过搭载于数码相机中的相位差型焦点检测装置和图像识别装置来检测手指的高度位置。具体而言,图像识别装置识别手指,相位差型焦点检测装置关于由图像识别装置识别出的手指检测散焦量,从该散焦量能够计算出手指的高度位置。此外,也可以取代相位差型焦点检测装置,而使用搭载于数码相机中的对比度检测型焦点检测装置也同样能够检测手指的高度位置。
作为拍摄装置18,可以代替相位差型焦点检测装置和对比度检测型焦点检测装置而适宜地使用搭载了TOF(Time of Flight:飞行时间)装置的相机。TOF相机从相机主体射出红外线,并接收在对象物反射而向TOF相机入射的红外线,根据出射光与接收光的相位变化而计算出从TOF相机到对象物的距离。因此,将测定对象物设为用户的手指尖,从TOF相机向着用户的手指尖射出红外线,并接收从手指尖的反射光,由此能够求出从TOF相机到用户手指尖的距离。另外,作为拍摄装置18的拍摄镜头,为了涵盖整个空中图像30,优选广角镜头,鱼眼镜头也可以。而且,也可以搭载多个(例如2个)拍摄装置,通过它们的拍摄图像来检测用户手指尖的位置。
在显示装置1中装备了TOF相机的例子如图24所示。图24仅示出了显示装置1的内部构成,省略了显示装置的主体。在图24中,在显示器11与成像光学元件12的中央部设有用于配置TOF相机118'的空间,该空间内配置有TOF相机118'。TOF相机118'通过在规定范围内扫描红外线而对用户的手指尖照射红外线,并根据其反射光的相位变化来测定从TOF相机118'到用户手指尖的距离。根据该距离和红外线的出射方向,能够求出用户的手指尖相对于TOF相机118'在三维空间中的位置。即,求出手指尖位置相当于空中图像面内的哪一位置,以及手指尖的位置距离显示装置1的表面有多远。由此,根据通过TOF相机118'得到的测距结果,能够获得与通过平板静电电容器得到的手指尖位置的检测信息同样的信息。另外,上述的说明是通过下述构成来进行说明的,即:在显示器11与成像光学系统12的中央部设有用于配置TOF相机118'的空间,在该空间中配置有TOF相机118',但是并不限于这样的构成,也可以是TOF相机118'设置在显示器11的外部那样的构成。
在变形例8的显示装置1中,如图24所示,同样将空中图像30形成在显示装置1的成像光学系统12的上方且与之离开距离H1的位置,将检测基准40设定在成像光学系统12的上方且与之离开距离H2(H1<H2)的位置。拍摄装置18从成像光学系统12的表面起在上方具有用于检测用户手指尖的位置的检测范围13A。在图24中,将拍摄装置18的上方可拍摄范围的界限用虚线13a表示,该检测界限13a与成像光学系统12的表面之间的间隔被表示为检测范围13A。在变形例8中,也与上述的第一实施方式及变形例1~7的情形相同地以使空中图像30和检测基准40位于检测范围13A内的方式进行设定。另外,检测基准24在图24中是设定在空中图像30的上方,但是只要在检测范围13A内,也可以在空中图像30的下方、或是与空中图像30的位置一致。此外,在变形例8中,同样地,检测范围13A内的、被设定为检测基准40的区域以外的范围为检测基准外范围41。另外,检测范围13A并不限于设定为拍摄装置18的可拍摄范围的界限,也可以设定为可拍摄范围中的除一部分范围(例如图24中的左右方向端部的规定范围)以外的范围。
在上述说明中,本变形例8的显示装置1具有拍摄装置18,来取代了作为操作检测器的平板静电电容器13。但是,显示装置1也可以同时具有操作检测器13和拍摄装置18。在该情况下,例如,可以将图3所示的操作检测器13的检测范围13A分割成上下2个而形成下方的检测范围(接近显示器11一方的检测范围)和上方的检测范围(离显示器11较远一方的检测范围),将该下方的检测范围作为平板静电电容器13的检测范围,将上方的检测范围作为拍摄装置18的检测范围。通过这样的构成,在用户为了对显示位置进行操作而使手指下降移动时,由拍摄装置18检测该手指的下降移动的前半部分,由平板静电电容器13检测手指的下降移动的后半部分。一般,平板静电电容器13能够高精度地检测显示器13的上方附近范围,而拍摄装置18则存在难以拍摄到显示器13的上方的极为附近的范围,因此优选如上述那样分担平板静电电容器13的检测范围和拍摄装置18的检测范围。另外,检测范围13A的一分为二并不限于将检测范围13A沿上下二等分的情形,也可以不等分地分割。此外,操作检测器13并不限于平板静电电容器13和拍摄装置18,也可以使用其他的接近传感器等。因此,在分割了检测范围13A的情况下,可以由各种操作检测器13来分担所分割的检测范围。
图9所示的速度/加速度检测部206也能够根据图23的拍摄装置18的拍摄图像计算出手指的移动速度和加速度。因此,在分割了检测范围13A的情况下,针对上方及下方的各检测范围计算出手指的移动速度和加速度,从而停止位置预测部207能够预测出手指的到达位置。
另外,在上述的第一实施方式及其变形例1~7中,是以至少包括控制部20、显示器11以及操作检测器13的显示装置1为例进行说明的,但是也可以是仅由控制部20构成的检测装置、或是由控制部20和操作检测器13构成的检测装置。而且,控制部20只要至少具有校准部203和检测基准控制部204即可。为了得到上述的第一实施方式或变形例1~7所记载的各效果,可以根据需要从上述的构成中合适地追加构成。
-第二实施方式-
一边参照图面一边对第二实施方式涉及的显示装置1进行说明。在第二实施方式中,将本实施方式的显示装置1被组装在手机中的情况作为一例来进行说明。另外,本实施方式的显示装置并不限于组装到手机中,也能够组装于平板电脑终端、腕表型终端等便携式信息终端装置中,以及个人计算机、音乐播放器、固定电话机、可穿戴装置等电子设备中。
本实施方式的显示装置1与图1所示的显示装置1相同,其主要部分的构成用图25所示的框图示出。即,示出了控制部20、由控制部20控制的显示器11以及操作检测器13。控制部20包括图像生成部201、显示控制部202、校准部203、检测基准控制部204、存储部205、以及用户信息解析部210。
控制部20的主要构成除了具有用户信息解析部210以外,与第一实施方式的显示装置1相同,因此,除了不同的部分,省略说明。检测基准控制部204对检测基准进行初始设定,并基于后述的校准处理的结果来改变检测基准。用户信息解析部210对所输入的与用户相关的信息进行解析。检测基准控制部204根据校准处理时从用户信息解析部210输入的信息来改变检测基准。
下面,一边参照图26所示的流程图,一边对本实施方式的显示装置1中的校准处理进行说明。另外,图26的流程图示出了步骤S201~步骤S207,省略了其之后的步骤。步骤S207以后的处理与图11所示的流程图的步骤S109以后的处理是相同的。图26的流程图所示的各处理是在显示装置1被起动后通过由控制部20执行程序而进行。该程序被存储于存储部205。
在步骤S201中,判定用户是否操作了用户信息输入模式的操作按钮。若在步骤S201中为肯定判断,即判定为用户选择了用户信息输入模式,则进入步骤S202。若在步骤S201中为否定判断,即判定为用户没有选择用户信息输入模式,则进入步骤S206。在步骤S202中,开始用户信息输入模式,从而进入步骤S203。在步骤S203中,判定用户信息的输入是否已结束。该判定例如通过用户是否操作了指示用户信息输入结束的按钮来进行。如在步骤S203中为肯定判断,即用户指示了用户信息的输入结束,则进入步骤S204。若在步骤S203中为否定判断,则待机,直到为肯定判断。
在步骤S204中,用户信息解析部210基于所输入的用户信息来改变在空中图像操作模式中被初始设定的检测基准40,并将该改变后的检测基准40的位置数据存储于存储部205,而后进入步骤S205。例如,将检测基准40改变到离到达位置50规定距离d1的上方位置处。在步骤S205中,结束用户信息输入模式而进入步骤S206。在步骤S206中开始空中图像操作模式。
作为用户信息,例如有用户的性别、年龄、体型(身高、臂长)、视力中的至少1种或是多个的组合。在存储部205中预先存储有关于到达位置50的多个表格,所述表格以性别、年龄、体型(身高)、视力这些因素中的1种或多个的组合为参数。当用户输入用户信息时,用户信息解析部210基于所输入的用户信息的种类和内容来选择所符合的表格,并从该表格中选择所符合的到达位置50。检测基准控制部204基于所选择的到达位置50来确定检测基准40。
关于被作为表格存储的到达位置50,例如,与男性相比关于女性、与年龄高的人相比关于年龄低的人、与身高高的人相比关于身高低的人,将到达位置50设定在更接近操作检测器13的位置。
另外,在图26的流程图的步骤S201中,判定用户是否操作了用户信息输入模式的操作按钮,但是并非必须进行该处理,在装置已获取用户信息的阶段,可以转到步骤S204。
另外,作为上述的用户信息,也可以将用户的性别、年龄、体型(身高、臂长)、视力等信息与特定该用户的ID(Identification Code)、密码相关联地存储于存储部205。这样,使用者在使用显示装置1时,只需输入ID和密码就能够基于自身的性别、年龄、体型(身高)、视力等信息来设定检测基准40。如此,根据作为与用户相关联的信息之一的用户信息,能够在该用户用时改变检测基准40,并改变检测基准40与空中图像300的显示位置之间的位置关系。
也可以利用在第一实施方式的变形例8中所说明的那样的拍摄装置18来拍摄用户,并对该拍摄图像进行图像解析,由此来指定用户。例如,利用公知的面部识别技术,从拍摄图像来特定用户的年龄、性别等。检测基准控制部204基于该用户的性别、年龄等信息来设定检测基准50。这样的话,还可以省去用户输入ID和密码的动作。这样,利用作为与用户相关联的信息之一的特定用户的信息来改变该用户用时的检测基准40,并改变检测基准40与空中图像300的显示位置之间的位置关系。
(第二实施方式的变形例1)
第二实施方式可以如下那样变形。用户的用户信息也可以代替针对显示装置1来进行,而是针对与显示装置1分体的信息输入装置来进行,并经由接口将该信息传输给显示装置1。此外,用户信息也可以预先记录在IC卡中,在该情况下,优选显示装置1或信息输入装置具有卡信息读取功能。
另外,在上述的第二实施方式中,以至少包括控制部20、显示器11以及操作检测器13的显示装置1为例来进行了说明,但是也可以是仅由控制部20构成的检测装置、或是由控制部20和操作检测器13构成的检测装置。此外,控制部20至少具有校准部203、检测基准控制部204、以及用户信息解析部210即可。另外,为了得到上述的第二实施方式所记载的各效果,可以根据需要从上述的构成中合适地追加而构成。
-第三实施方式-
一边参照图面,一边对第三实施方式涉及的显示装置1进行说明。在第三实施方式中,将本实施方式的显示装置1被组装在手机中的情况作为一例来进行说明。另外,本实施方式的显示装置并不限于组装到手机中,也能够组装于平板电脑终端、腕表型终端等便携式信息终端装置中,以及个人计算机、音乐播放器、固定电话机、可穿戴装置等电子设备中。
本实施方式的显示装置1与图1所示的显示装置1相同,其主要部分的构成用图27所示的框图示出。本实施方式的显示装置1包括控制部20、由控制部20控制的显示器11、操作检测器13、以及环境检测部19。环境检测部19对显示装置1周围的使用环境进行检测。控制部20包括图像生成部201、显示控制部202、校准部203、检测基准控制部204、存储部205、以及环境解析部211。
环境解析部211对从环境检测部19输入的环境信息进行解析,并判定是否存在环境变化,在存在环境变化的情况下,将环境变化信息输出至检测基准控制部204。检测基准控制部204基于从环境解析部211输入的环境变化信息来执行检测基准的校准处理。
本实施方式的校准处理与空中图像操作模式的执行并行地执行。参照图28所示的流程图来说明本实施方式的校准处理。图28的流程图所示的各处理在显示装置1被起动后,通过由控制部20执行程序而进行。该程序存储于存储部205。
在步骤S211中开始空中图像操作模式,而后进入步骤S212。在步骤S212中,显示图3所示的包含空中图像操作模式用的图标30A的空中图像30,并且,检测基准控制部204将检测基准40设定在预先确定的初始位置,而后进行步骤S213。在步骤S213中,环境解析部211基于由环境检测部19检测到的关于使用环境的环境信息,来判定是否存在环境变化。若在步骤S213中为肯定判断,即判定为存在环境变化,则进入步骤S214。若在步骤S213中为否定判断,即没有判定出存在环境变化,则进入步骤S216。在步骤S214中,将环境变化信息输出至检测基准控制部204,并进入步骤S215。在步骤S215中,检测基准控制部204基于环境变化信息来改变空中图像操作模式的检测基准,并进入步骤S216。即,在步骤S216中继续执行空中图像操作模式。
作为环境信息,有温度、湿度、亮度等。基于这些环境的变化来对检测基准进行校准处理的理由如下。一旦显示装置1被用户使用,从而显示装置1的温度或显示装置1周围的温度上升,随之而来,例如在显示装置1的内部,固定显示器11和成像光学系统12的固定部件(未图示)就会延伸,显示器11与成像光学系统12之间的距离就会随之变长。作为因用户导致空中图像30附近的温度变化的因素,可以举出手机等的由用户手持的显示装置的情形、由于用户握持显示装置而导致显示装置的温度上升的情形。其结果是,生成空中图像30的位置与温度上升前相比,靠近用户侧。而且,在用户利用显示装置时,空中图像30附近的亮度会发生变化,用户看到的空中图像30也会变化。其结果是,还能够想到下述情况:认为空中图像30实际上比亮度变化之前要远。作为空中图像30附近的亮度变化的主要原因,可以想到用户自己的影子与空中图像重叠的情况。或者,在显示装置是手机等的由用户手持的装置的情况下,由于用户握持显示装置,所以用户的手出汗而导致周围湿度变化,在该情况下,显示装置1的显示性能也会受到影响。
作为环境检测部19,例如是装备在显示装置1的主体10内的温度传感器、湿度传感器、亮度传感器等。另外,关于亮度,可以使用相机的测光功能。
下面对基于由用户引起的周围环境变化信息而进行的校准的相关信息进行说明。在存储部205中预先存储有关于检测基准的修正值的多个表格,所述表格以显示装置1内部或是附近的温度变化、湿度变化、空中图像30附近的亮度变化这些因素中的1种或多个的组合为参数。在通过环境解析部211判定为存在环境变化的情况下,环境解析部211在判断为存在环境变化的情况下根据存在变化的因素,选择所符合的表格,并从该表格中选择所符合的检测基准的修正值。检测基准控制部204基于所选择的修正值来改变检测基准40。如此,根据作为与用户相关联的信息之一的、由用户引起的周围环境变化信息,在该用户用时改变检测基准40,并改变检测基准40与空中图像300的显示位置之间的位置关系。
在第一实施方式的第一或第二校准处理模式以及第一实施方式的变形例1~8中,上述的环境检测部19的检测输出也可以在改变检测基准时使用。即,在上述的第一或第二校准处理模式中,取代基于用户手指的到达位置来改变检测基准,而可以基于用户手指的到达位置或指定位置与环境检测部19的检测输出这双方来改变检测基准。
另外,作为上述的环境变化,并不限于由用户引起的周围环境变化,也可以检测由从窗子射入日光而引起的变化、因天气气候带来的湿度变化、显示装置的持续起动所伴有的装置自身的温度上升等各种环境变化,并基于该检测结果来改变检测基准,并改变检测基准与空中图像之间的位置关系。
另外,在上述的第三实施方式中,是以至少包括控制部20、显示器11以及操作检测器13的显示装置1为例进行说明的,但是也可以是仅由控制部20构成的检测装置、或是由控制部20和操作检测器13构成的检测装置。此外,控制部20只要至少包括校准部203、检测基准控制部204以及环境解析部211即可。为了得到上述的第三实施方式所记载的各效果,可以根据需要从上述的构成中合适地追加而构成。
-第四实施方式-
一边参照图面,一边对第四实施方式涉及的显示装置100进行说明。本实施方式的显示装置100的操作检测器的构成与第一实施中的操作检测器13不同。图29是示出本实施方式涉及的显示装置的图,图29的(a)是说明第四实施方式的显示装置100的操作检测器113的概略构成的剖视图。此外,图29的(b)是作为组装了显示装置100的电子设备的一例的现金自动存取机(ATM装置)200的立体图。在现金自动存取机200中,显示装置100装备在用于供用户输入密码、金额等的前表面面板上。另外,显示装置100并不限于组装在现金自动存取机中,其可以广泛地组装在铁道或巴士的乘车券/定期券等的各种自动售票机、图书馆、美术馆等的各种信息检索终端装置等中。为了便于说明,关于显示装置100,如图所示设定了由X轴、Y轴及Z轴构成的坐标系。
如图29的(a)所示,显示装置100在主体(未图示)内具有显示器111、成像光学系统112、以及操作检测器113。设于主体内部的显示器111例如由液晶元件或有机EL元件等构成,其具有多个二维状排列的显示像素。显示器111由与第一实施方式涉及的显示装置1的控制部20类似的控制部(未图示)控制,其显示与显示用图像数据对应的图像。成像光学系统112被配置成相对于显示器111成规定的位置关系。作为成像光学系统112,可以是由2个在透明基板的内部将2种带状反射部以一定间隔平行配置而成的元件重叠配置而成的结构。
图30是示出显示装置100的构成中的控制部20、以及由控制部20控制的显示器111及操作检测器113的框图。图30的框图所示的显示装置100除了显示器111及操作检测器113的构成与图2的框图所示的显示装置1的显示器11及操作检测器13的构成不同以外,其他是实质上相同的。即,控制部20具有CPU、ROM、RAM等,其包括根据控制程序对显示装置100的包括显示器111及操作检测器113在内的各种构成要素进行控制、以及执行各种数据处理的运算电路。控制部20包括图像生成部201、显示控制部202、校准部203、检测基准控制部204、以及存储部205。存储部205包括:存储控制程序的非易失性存储器;和存储要在显示器111上显示的图像数据等的存储介质等。
成像光学系统112对应于显示用图像数据而使从显示在显示器111上的图像射出的光束偏转,并生成图29所示那样的包含图标的空中图像30。
操作检测器113以包围空中图像30的方式设置在空中图像30的附近。图31示出操作检测器113的俯视图。操作检测器113具有壳体115,该壳体115的与XY平面平行的截面为矩形的框状。在构成壳体115内表面的4个面中,在相邻的2个面上配置多个投光元件116,在其余的两相邻面上配置多个受光元件117。在图31中,在枠状的壳体115的、与ZX平面平行的一对内表面中,在内表面ZX1上仅设有投光元件116,在内表面ZX2上仅设有受光元件117。同样地,在与YZ平面平行的一对内表面中,在内表面YZ1上仅设有投光元件116,在内表面YZ2上仅设有受光元件117。即,投光元件116和受光元件117彼此相对地设置。作为投光元件116,可以使用市场中出售的激光器或LED元件等。此外,作为受光元件117,可以使用市场中出售的光电二极管或光电晶体管。另外,也可以使用将投光元件和受光元件构成为一体的投受光元件,在该情况下,取代投光元件而配置投受光元件,取代受光元件而配置反射镜。
投光元件116和受光元件117以1对1的对应关系整齐地排列成阵列状,从而构成为从1个投光元件116射出的光只入射到所对应的1个受光元件117中。从投光元件116射出的光线进入与空中图像I平行的面内(即:与XY平面平行的面内)而入射到受光元件117中。通过受光元件117获得的光的检测状态被送给控制部,在控制部中,与受光元件117的位置对应着来掌握受光元件117的检测状态。由此,在壳体115的内部,形成有与XY平面平行的多层2维网格状的光路群。从投光元件116射出的光的波长优选为红外区域。
位置检测器113的截面如图32所示。图32为了便于说明而示出投光元件116和受光元件117分别沿Z方向各配置6层的结构。6层投光元件116从Z方向+侧起分别为116a、116b、116c、116d、116e、116f。此外,6层受光元件117从Z方向+侧起分别为117a、117b、117c、117d、117e、117f。如此,位置检测器113在投光元件116a与116f之间具有检测范围,该检测范围相当于第一实施方式中图3的检测范围13A。
使用图32来说明操作检测器113的功能。在显示装置100中,显示控制部204在从显示装置100离开的位置处生成空中图像30。此处,空中图像30包含图标30A,其上下方向上的生成位置是包含投光元件116d和受光元件117d在内的面。此外,检测基准控制部204将检测基准40设定在规定的初始位置。此处,检测基准40被设定在包含投光元件116c和受光元件117c在内的面上。另外,为了分别极为细致地设定空中图像30及检测基准40,投光元件116和受光元件117的上下方向上的层数较多为好。
用户为了对空中图像30的第一图标30A进行操作,使手指尖朝着图标30A下降移动,当到达操作检测器113的检测界限(此处为包含投光元件116a和受光元件117a在内的面)时,操作检测器113基于受光元件117的输出而检测出用户手指尖的接近。
在手指尖F到达与空中图像30的图标30A相比位于上方的虚线位置50时,用户感觉手指到达图标30B并正在执行操作,从而停止手指尖F向下方的移动。检测基准控制部204根据在受光元件117a及117b没有检测到光且在受光元件117c检测到光的状态持续规定时间以上这一情况,判定出手指尖F向下方的移动停止、即对图标30B的显示位置进行了操作。此时,包含投光元件116b和受光元件117b的面即为手指尖F对图标30A的显示位置进行了操作而停止移动的位置、即到达位置。
检测基准控制部204一旦判定出到达位置50,就将初始设定的检测基准40的位置改变到例如到达位置50的位置处,并将该改变后的检测基准40的位置数据存储于图2的存储部205。由此,与第一实施方式的显示装置1同样地,基于到达位置50设定适于该用户的检测基准40。即,将包含预先设置了多个的投光元件116和受光元件117中的投光元件116c和受光元件117c的面初始设定为检测基准40,并通过校准处理,基于到达位置而将检测基准40改变成例如包含投光元件116b和受光元件117b的面,由此来改变检测基准40与空中图像30的显示位置之间的位置关系。另外,通过校准处理,也可以将检测基准40的位置改变到到达位置50的位置处,即改变成包含设置了多个的投光元件116和受光元件117中的投光元件116b和受光元件117c的面。当然,基于到达位置,也可以将被初始设定的检测基准改变到到达位置上方的位置处,还可以改变到到达位置下方的位置处。
再者,检测基准还可以如图21的(c)所示,变成具有宽度d2的检测基准。例如,相对于到达位置50选择上方的投光元件116a和受光元件117a,将包含投光元件116a和受光元件117a的面作为上表面401,并相对于到达位置50选择下方的投光元件116c和受光元件117c,将包含投光元件116c和受光元件117c的面作为下表面402,即,在包含多个投光元件116和受光元件117的组中的一组投光元件116和受光元件117的面设定上表面401,在包含另一组投光元件116和受光元件117的面设定下表面402即可。
如上所述,本实施方式是,基于到达位置,从可由设置了多个的投光元件116和受光元件117设定的多个检测基准中选择一组或多组投光元件116和受光元件117,由此来选择检测基准,从而改变检测基准的位置。
虽然如以上说明的那样,显示装置100的显示器111及操作检测器113与显示装置1的显示器11及操作检测器13构成不同,但是可以通过类似的步骤来进行检测基准40的设定。因此,通过第四实施方式的显示装置100进行的第一以及第二校准处理可以分别通过与图6以及图8的流程图所示的步骤相同的步骤来进行。第四实施方式的显示装置100也可以应用于上述的各种变形例。
另外,显示装置100还可以具有致动器和编码器,从而使投光元件116和受光元件117沿Z方向移动微小距离。例如,在将检测基准42改变到离到达位置50距离d1的位置处时,会选择最接近离到达位置50距离d1的位置的位置处的投光元件116和受光元件117。根据该被选择的投光元件116和受光元件117所配置的位置与离到达位置50有距离d1处的差值,通过致动器来移动投光元件116和受光元件117,从而对投光元件116和受光元件117的位置进行微调整。即,通过对投光元件116和受光元件117的位置进行微调整,能够将检测基准42改变到更接近离到达位置50有距离d1处的位置。
(第四实施方式的变形例1)
第四实施方式可以如下那样变形。在第四实施方式的显示装置100中,以操作检测器113具有沿Z方向以二维状排列成多层的投光元件116和受光元件117的构成来进行了说明。但是,以二维状排列的投光元件116和受光元件117也可以只有一层。装备了这样的操作检测器113'的构成的显示装置100如图33所示。操作检测器113'具有框状的壳体115',在构成框状壳体115'的内表面的4个面中,在相邻的2个面上,多个投光元件116配置成与XY平面平行的一列,在其余的相邻两个面上,多个受光元件117配置成与XY平面平行的一列。即,操作检测器113'仅由在图32中说明的6层结构的操作检测器113中的1层构成。壳体115'上连接有致动器119,从而使壳体115'沿Z方向以规定的周期(例如每秒10循环)往复移动。壳体115'的位置由组装于致动器119的用于检测位置的传感器、例如编码器(未图示)来检测。该情况下,将包含在壳体115'可往复移动的范围内的规定位置设定为检测基准40。
利用图32对装备了操作检测器113'的显示装置100所进行的检测基准的校准处理进行说明。用户为了对空中图像30的图标30A的显示位置进行操作,将手指尖向空中图像30按下。一旦手指尖的位置进入壳体115'的移动范围,从投光元件116射出的光就会被用户的手指遮挡而无法到达受光元件117。通过编码器检测出该被用户的手指遮挡而无法到达受光元件117的位置,从而检测出用户手指尖的位置。用户为了对空中图像30中所包含的图标30A的显示位置进行操作,进一步将手指尖向空中图像30按压,当用户感觉到达了图标30A并正在对图标30A的显示位置执行操作时,使手指尖停止。关于用户的手指尖是否已静止,例如,若在往复移动的壳体115'进行一个往复的期间,来自投光元件116的光没有到达受光元件117的位置在大致相同的位置被检测出,则控制部20判定为用户的手指尖处于静止中。此时,将用户的手指尖所静止的位置作为到达位置,并基于所确定的到达位置来设定检测基准40的位置。示出各处理的流程图与图6所示的流程图实质上相同。
另外,在上述的第四实施方式及变形例1中,以至少包括控制部20、显示器111及操作检测器113的显示装置1为例进行了说明,但是,也可以是仅由控制部20构成的检测装置、或是由控制部20和操作检测器113构成的检测装置。此外,控制部20只要至少包括校准部203和检测基准控制部204即可。为了得到上述的第四实施方式或变形例1所记载的各效果,根据需要从上述的构成中合适地追加构成即可。
在第四实施方式中,利用采用了投光元件/受光元件的操作检测器来检测用户手指尖的位置。但是,也可以具有拍摄部来作为操作检测部。例如,也可以在显示装置中装备相机来作为拍摄部,通过该相机来检测用户手指尖的动作,并基于该信息来进行检测基准40的校准处理。图34示出与在第四实施方式中说明的显示装置100同样的、具有显示器111和成像光学系统112的显示装置100'。显示装置100'不具有操作检测器113,取而代之,具有拍摄装置(例如数码相机)118,这一点与显示装置100不同。在显示装置100'中,通过拍摄装置118来掌握用户手指的位置。作为安装于拍摄装置118上的镜头,为了涵盖整个空中图像30,优选广角镜头,鱼眼镜头也可以。而且,也可以设置多个(例如2个)拍摄装置,通过它们的拍摄图像来检测用户手指尖的位置。
在从上述第一实施方式至第四实施方式以及它们的变形例中,控制成通过使检测基准40的位置移动来改变检测基准40与空中图像30(或图标300A等)之间的位置关系。但是,为了改变检测基准40与空中图像30之间的相对位置关系,也可以使空中图像30移动。此外,为了改变检测基准40与空中图像30之间的相对位置关系,也可以使检测基准40与空中图像30双方都移动。
-第五实施方式-
以上的实施方式及其变形例是通过校准处理来控制或改变检测基准从而改变检测基准与空中图像的显示位置之间的位置关系的,下面,对通过校准处理来改变空中图像的显示位置从而改变检测基准与空中图像的显示位置之间的位置关系的第五实施方式进行说明。
图35及图36示出第五实施方式的显示装置。第五实施方式的显示装置1与第一实施方式的显示装置一样,如图35所示,包括内置有控制部20的主体10、显示器11、成像光学系统12、以及操作检测器13,并且,如图36所示,具有图像生成部201、显示控制部202、校准部203、检测基准控制部204、以及存储部205。第五实施方式的显示装置1除了包括上述构成外,还包括显示位置改变部500和显示位置控制部220。
显示位置改变部500具有例如马达或致动器等驱动部,使得成像光学系统12如箭头所示那样在成像光学系统12的光轴方向上移动,从而使通过成像光学系统12形成的空中图像30的显示位置在Z轴方向、即光轴方向上移动而改变。在要使空中图像30向上方、即向远离显示器11的方向移动时,使成像光学系统12向下方、即接近显示器11的方向移动,相反,在要使空中图像30向下方、即向接近显示器11的方向移动时,使成像光学系统12向上方、即远离显示器11的方向移动。另外,显示位置改变部500也可以不使成像光学系统12移动,而是取而代之使显示器11在成像光学系统12的光轴方向上移动,从而使空中图像30的显示位置移动而改变。
显示器11、成像光学系统12以及操作检测器13可以使用分别与图1所示的、第一实施方式的显示器11、成像光学系统12以及操作检测器13相同的构成,但本实施方式的成像光学系统12或显示器11也可以构成为如上述那样能够在成像光学系统12的光轴方向上移动。
另外,在以下的说明中,是通过下述例子来进行说明的,即:具有马达或致动器等的驱动部,使成像光学系统12如箭头所示那样在成像光学系统12的光轴方向上移动,从而使通过成像光学系统12形成的空中图像30的显示位置在Z轴方向、即光轴方向上移动而改变,但是并不限于该例子,也可以是:显示位置控制部220控制显示器11,使之显示用于通过右眼来视觉观看的显示图像、和与用右眼视觉观看的图像具有视差的、用于通过左眼来视觉观看的显示图像,从而来改变空中图像30的进深方向上的显示位置。
图像生成部201、显示控制部202、校准部203、检测基准控制部204以及存储部205能够发挥与图1所示的第一实施方式的图像生成部201、显示控制部202、校准部203、检测基准控制部204以及存储部205相同的功能。
控制部20如上所述具有显示位置控制部206,该显示位置控制部220基于在校准处理模式下检测或是判定出的手指的到达位置或指定位置等计算或是确定空中图像30的移动量,并由显示位置改变部500来改变空中图像30的显示位置。
下面说明第五实施方式的显示装置的动作。空中图像操作模式与第一实施方式的显示装置一样,当空中图像操作模式起动后,通过成像光学系统12显示图3的(a)所示的空中图像操作模式用的空中图像30,通过检测基准控制部204将检测基准40设定在规定初始位置。当手指为了对空中图像30的图标30A的显示位置进行操作而下降移动时,操作检测器13就对手指的下降移动进行检测。检测基准控制部204基于操作检测器13的检测输出判定出手指到达了检测基准40的位置,根据该判定执行与被操作了的图标30A相应的功能,例如,切换空中图像30的显示内容。
当执行第一校准处理模式时,显示控制部202、显示器11以及成像光学系统12在空中形成图4所示的校准处理用的空中图像300,检测基准控制部204将检测基准40设定在空中图像300附近的初始位置。当用户为了对空中图像300的图标300A进行操作而将手指下降移动时,操作检测器13检测到该下降移动。检测基准控制部204基于操作检测器13的检测输出来判定手指的到达位置50。该判定可以使用在第一实施方式中说明的方法或在第一实施方式的变形例1、2中说明的方法。显示位置控制部206基于手指的到达位置50使显示位置改变部500在成像光学系统12的光轴方向上移动空中图像300的位置。
另外,显示控制部202、显示器11以及成像光学系统12也可以形成图12、图15、图18所示的校准处理用的空中图像300,在该情况下,检测基准控制部204基于操作检测器13的检测输出来判定手指所指定的指定位置50A。显示位置控制部220基于指定位置50A而使显示位置改变部500在成像光学系统12的光轴方向上移动空中图像300的位置。基于该空中图像300的显示位置的移动,第一校准处理结束,在接下来的空中图像操作模式下,在被移动了的显示位置显示空中图像操作模式用的空中图像30。
通过显示位置控制部220及显示位置改变部500实现的空中图像300的显示位置的移动是如下那样进行的。即,显示位置控制部220及显示位置改变部500在手指的到达位置50或指定位置50A如图37的(a)所示与检测基准40相比位于上方的情况下,计算出到达位置50或指定位置50A与检测基准40之间的间隔ΔH,并使空中图像300的显示位置移动到例如以间隔ΔH位于其下方的、用虚线示出的显示位置300。由于空中图像300显示在空中,所以视觉观看性差,存在因用户不同而看到的空中图像300的显示位置不同的情况。在图37的(a)所示的例子中,用户会感觉空中图像300在比空中图像300的显示位置的实际位置高的位置处。因此,用户的到达位置50或指定位置50A是与空中图像300的显示位置相比处于上方的位置。因此,为了检测用户对空中图像300的显示位置进行的操作,使空中图像300的显示位置向下方移动间隔ΔH。因此,变成了用户对向下方移动了的空中图像300的显示位置进行操作,并且能够期待到达位置50或指定位置50A变到更下方。由于到达位置50或指定位置50A变到更下方,所以到达位置50或指定位置50A到达检测基准,从而能够检测出用户对空中图像300的显示位置进行的操作。如此,通过使空中图像300的显示位置移动,就能够在检测基准40检测出用户对空中图像300的显示位置进行的操作。
此外,显示位置控制部220及显示位置改变部500在手指的到达位置50或指定位置50A如图37的(b)所示与检测基准40相比位于下方的情况下,计算出到达位置50或指定位置50A与检测基准40之间的间隔ΔH,并使空中图像300的显示位置移动到例如以间隔ΔH位于其上方的虚线处的显示位置300。
此外,显示位置控制部220及显示位置改变部500在手指的到达位置50或指定位置50A与检测基准40一致的情况下、或是存在于检测基准40附近位置的情况下,不使空中图像300的显示位置移动。
另外,显示位置控制部220及显示位置改变部500在到达位置50或指定位置50A与检测基准40相比位于上方的情况下,使空中图像300的显示位置向下方移动,在到达位置50或指定位置50A与检测基准40相比位于下方的情况下,使空中图像300的显示位置向上方移动,但是其移动量没必要如上述那样与到达位置50或指定位置50A与检测基准40之间的间隔ΔH一致,可以如在第一实施方式中说明的那样,既可以比间隔ΔH大,也可以比其小。
另外,作为空中图像移动量的计算方法的一例,让大量的用户事先执行校准处理,针对到达位置或指定位置与检测基准之间的距离ΔH,求出使空中图像300的显示位置各种移动时的、空中图像的操作上不适应感少的空中图像300的移动量,并针对该空中图像300的移动量进行统计处理,确定出针对距离ΔH的空中图像的移动量。
基于这样的统计处理而确定的空中图像的移动量例如可以是对于所有的用户通用的值,也可以是按用户的各年龄层而不同的值,还可以是按性别而不同的值。另外,该基于统计处理的空中图像移动量的确定方法也能够应用于下述情况,即:确定在上述第一实施方式中基于到达位置或指定位置来改变检测基准时的检测基准移动量的情况。
关于上述说明的校准处理,以第一校准处理模式为例,参照图38所示的流程图来进行说明。另外,图38的流程图示出了步骤S301~S308,省略了其之后的步骤。步骤S308之后的处理与图6的步骤S9之后的处理相同。
步骤S301~S305的各处理与图6所示的流程图中的步骤S1~S5的各处理相同。在步骤S306中,显示位置控制部206改变空中图像300的显示位置。即,显示位置控制部206基于手指的到达位置50,使显示位置改变部500在成像光学系统12的光轴方向上移动空中图像300的显示位置,而后进入步骤S307。在步骤S307中,第一校准处理模式结束,进入步骤S308。在步骤S308中,开始空中图像操作模式。另外,当在步骤S303中显示图12、图15、图18所示的空中图像300的情况下,只要在步骤S305中判定指定位置50A、在步骤S306中基于指定位置50A来改变空中图像300的显示位置即可。
另外,作为校准处理的说明,是以第一校准处理模式为例进行说明的,但是也能够应用于第二校准处理模式。
如以上所述,第五实施方式的显示装置是,在校准处理中,基于到达位置或指定位置来改变空中图像的显示位置,从而来改变空中图像的显示位置与检测基准之间的位置关系,从而能够获得适于用户操作特性的、空中图像的显示位置与检测基准之间的位置关系。
此外,关于在校准处理中移动空中图像,当在校准处理中改变检测基准的情况下将发生改变后的检测基准超出到图3所示的操作检测器13的检测范围13A之外、或是位于检测范围13A的上限或下限附近这种事态的情况下,代替改变检测基准,而移动空中图像,则能够避免上述的事态。
(第五实施方式的变形例1)
下面说明第五实施方式的显示装置的变形例1。
第五实施方式的显示装置是,在校准处理中,基于到达位置或指定位置来改变空中图像的显示位置,而第五实施方式的显示装置的变形例1则是,在校准处理中,由显示位置控制部220及显示位置改变部500基于到达位置或指定位置来改变空中图像的显示位置,并且由检测基准控制部204改变检测基准的位置。通过该空中图像的显示位置的改变以及检测基准的位置的改变,能够得到适于用户的操作特性的、空中图像的显示位置与检测基准之间的位置关系。在显示位置改变部500难以将空中图像高精度地移动到根据到达位置或指定位置而确定的合适的显示位置的情况下,由显示位置改变部500对空中图像的显示位置进行粗调节,由检测基准控制部204对检测基准进行微调节,由此来合适地设定空中图像的显示位置与检测基准之间的位置关系。
(第五实施方式的变形例2)
以下说明第五实施方式涉及的显示装置的变形例2。在变形例2的显示装置在显示位置控制部220及显示位置改变部500移动空中图像的显示位置时,在从移动开始到移动结束期间,使空中图像的显示淡出而后又淡入。即,伴随着空中图像移动的开始,显示的亮度渐渐变小,而后,随着向空中图像移动结束的推移,显示亮度渐渐变大。作为校准处理,要使空中图像移动,但是一旦用户可视觉观看的空中图像移动,就存在使用户产生不适应感的情况。因此,由于伴随着空中图像移动的开始而使显示亮度逐渐变小,因此空中图像的移动不容易被用户视觉观看出来,从而能够减轻用户的不适应感。
此外,显示控制部202能够在空中图像的移动过程中使空中图像的显示亮度、对比度降低,也能够在使亮度、对比度降低了的状态下使空中图像的显示闪烁,还能够使空中图像的显示消去。这样,通过显示位置改变部500所实现的空中图像的移动就不会引起引人注目,即不容易被视觉观看出来,由此能够减轻用户的不适应感。
此外,也可以相反地,进行伴随着空中图像的移动而使空中图像本身引人注目那样的显示方式。所谓使空中图像引人注目的显示方式是指,可以在空中图像的移动过程中提高空中图像的显示亮度、对比度,也可以使空中图像的显示闪烁。如此,通过进行使空中图像本身引人注目的显示方式,而能够使空中图像的移动不会引人注目,与空中图像的移动相比,用户更关注空中图像本身。因此,用户不会介意空中图像的移动,从而能够减轻用户的不适应感。
上述那样在空中图像的移动时对空中图像的显示方式的改变是在图38的流程图中的步骤S306的处理进行过程中进行的。
在这样的空中图像的移动过程中使空中图像的显示不引人注目、或是引人注目,可以不是针对整个空中图像来进行的,而是针对空中图像的一部分、例如校准处理用的图标来进行的。此外,是否使这样的空中图像的移动引人注目,也可以能够根据用户的喜好来选择。
此外,也可以与前面的说明相反,在校准处理的执行过程中,为了使用户确认空中图像的移动而使得通过显示位置改变部500实现的空中图像的移动引人注目。显示控制部202可以在空中图像的移动过程中提高空中图像的显示亮度、对比度,或是使空中图像的显示闪烁。在上述的说明中,是使得空中图像的移动不要引人注目,但是,通过相反地使空中图像的移动对用户而言引人注目,能够使空中图像移动后的位置明确。
另外,如上所述在空中图像移动时对空中图像的显示亮度的改变是在图38的流程图中的步骤S306的处理进行过程中进行的。
(第五实施方式的变形例3)
以下说明第五实施方式的显示装置1的变形例3。变形例3的显示装置1在校准处理时通过用户的操作来开始空中图像的显示位置的改变。该情况下,在用户的操作结束后,显示位置控制部220控制显示位置改变部500,从而开始空中图像的显示位置的改变。
关于上述说明的校准处理,以第一校准处理模式为例,参照图39所示的流程图进行说明。另外,图39的流程图示出了步骤S311~S319,省略了其之后的步骤。步骤S319以后的处理与图6的步骤S9以后的处理相同。
步骤S311~S315的各处理与图38所示的流程图中的步骤S301~S305的各处理相同。在步骤S316中,判定用户进行的操作是否已结束。若在步骤S316中为肯定判断的情况、即判定为用户进行的操作已结束的情况下,则进入步骤S317。若在步骤S316中为否定判断,则返回步骤S314。步骤S317~S319的各处理与图38所示的流程图中的步骤S306~S308的各处理相同。
另外,判定用户的操作是否结束的步骤S316决定着是否改变空中图像的显示位置。因此,关于用户的操作的结束,可以根据判定为到达位置或指定位置这一情况来判断为用户的操作结束,也可以在到达位置或指定位置判定后,根据用于改变显示位置的特定的手势(用户的手的形状从布手势变为石头手势那样的手势)被检测出来判断为用户的操作结束,还可以在到达位置或指定位置判定后,在空中图像中显示用于改变显示位置的按钮,根据检测出该按钮被用户按下这一情况来判断为用户的操作结束。
另外,作为校准处理的说明,以第一校准处理模式为例来进行说明的,但是也能够应用于第二校准处理模式。
(第五实施方式的变形例4)
以下说明第五实施方式的显示装置1的变形例4。变形例4的显示装置1在校准处理时根据发声来指定用户开始改变空中图像的显示位置的时机。图40是示出变形例4的显示装置1的构成中的、由控制部20控制的显示器11以及操作检测器13的框图。该显示装置1包括图17所示的第一实施方式的变形例6中的集音器14,并且在控制部20中具有语音检测部208。
显示装置1与第一实施方式的情况同样地判定到达位置50。显示控制部202在空中图像300的校准用图标300F中例如如图41所示重叠显示出提示信息“执行校准。请发出‘是’的声音”。在用户按校准用图标300F的提示信息发出“是”的声音后,集音器14对该语音进行集音,并将其作为语音数据输出至语音检测器208。若语音检测器208判断出语音数据与“是”对应,则显示位置控制部220控制显示位置改变部500,并改变空中图像300的显示位置。关于上述那样的空中图像的显示位置的改变,取代图39所示的第五实施方式变形例3的流程图中的步骤S316的、判定用户的操作是否结束,而是判定用户是否发出了“是”的声音,在判定为发出了“是”的声音的情况下,步骤S316为肯定判断,从而进入步骤S317。
另外,作为校准处理的说明,以第一校准处理模式为例来进行说明的,但是也能够应用于第二校准处理模式。
此外,显示装置1也可以不具备集音器14,而是经由无线或有线方式输入由外部的集音装置获取的语音数据,并利用从外部的集音装置输入的语音数据由语音检测部208进行语音检测。
另外,如以上所述,检测基准控制部204虽然已判定出手指的到达位置或指定位置,但是在用户发出“是”的声音前不使空中图像移动,检测到用户发出了“是”的声音才使空中图像移动,于是,在用户发出“是”的声音前的期间里,可能存在多次反复进行针对空中图像的显示位置的操作的情况。在这种情况下,当用户发出了“是”的声音时,例如,基于多次的到达位置或指定位置的相加平均或相乘平均等平均值,或是基于多个到达位置50的中央值(中值),或是基于多个到达位置或指定位置中的、最后的到达位置或指定位置,来使空中图像移动。
(第五实施方式的变形例5)
以下说明第五实施方式的显示装置的变形例5。变形例5的显示装置1在用户正在对空中图像进行视觉观看的情况下,使空中图像的移动中止,在用户将视线从空中图像移开的情况下,进行空中图像的移动。因此,显示装置1如第一实施方式的变形例8那样具有相机等拍摄装置,拍摄装置对校准处理执行过程中的用户进行拍摄,控制部20对所拍摄到的图像数据进行解析,并基于该解析结果判定用户面部的朝向、或用户身体的朝向,从而来判定用户是否正在对空中图像进行视觉观看。显示位置控制部220及显示位置改变部500在用户没有对空中图像进行视觉观看时,使空中图像移动。虽然作为校准处理要使空中图像移动,但是一旦用户可视觉观看的空中图像移动,就存在用户产生不适应感的情况。因此,通过在用户将视线从空中图像移开的情况下进行空中图像的移动,能够使得空中图像的移动不被用户视觉观看出来,从而能够减轻用户的不适应感。
显示装置1取代拍摄装置的视线检测器而具有,或是除了拍摄装置还具有视线检测器,该视线检测器用于检测用户的视线,基于该视线检测器的检测输出,显示位置控制部220及显示位置改变部500在用户没有对空中图像进行视觉观看时、用户的视线没有朝向空中图像时使空中图像移动。关于上述那样的空中图像的显示位置的改变,例如取代图39所示的第五实施方式变形例3的流程图中的步骤S316的、判定用户的操作是否结束,而是判定用户是否正在对空中图像进行视觉观看。在判定为用户对空中图像进行视觉观看的情况下,步骤S316为肯定判定,从而进入步骤S317。
另外,校准处理的说明是以第一校准处理模式为例进行说明的,但是也能够应用于第二校准处理模式。
另外,上述的视线检测器或拍摄装置也可以不设置在显示装置1中。视线检测器也可以设置在显示装置1的外部,并通过无线通信或是线缆将视线检测结果发送至显示装置1。此外,拍摄装置也可以设置在显示装置1的外部,并通过无线通信或是线缆将拍摄数据发送至显示装置1。
另外,在上述说明中,在判定为用户正在对空中图像进行视觉观看的情况下,进行空中图像的显示位置的改变,但是也可以相反,在用户正在对空中图像进行视觉观看的情况下,显示位置控制部220及显示位置改变部500进行使空中图像的显示位置改变的控制。在该情况下,由于用户正在确实地对空中图像进行视觉观看,所以用户能够知晓空中图像移动了何种程度,因此能够促使用户改变所操作的位置。
另外,在上述的说明中,在用户没有对空中图像进行视觉观看的情况下,进行使空中图像的显示位置改变那样的控制,但是也可以获取用户的生物体信息,并基于生物体信息的值来进行使空中图像的显示位置改变那样的控制。例如,作为用户的生物体信息,可以获取用户的脉搏数。作为获取用户脉搏的方法,例如在使用装置之前,给用户安装上用于获取用户脉搏数的装置。然后,显示位置控制部220及显示位置改变部500可以在用户的脉搏数变大的情况下,进行使空中图像的显示位置改变的控制。在用户的脉搏数变大的情况下,存在用户无法顺利地进行操作而焦急的情况。在该情况下,通过改变空中图像的显示位置,能够使用户畅快地使用装置。
另外,如以上那样,虽然检测基准控制部判定出了手指的到达位置或指定位置,但是在用户正在对空中图像进行视觉观看时并不移动空中图像,检测到用户没有对空中图像进行视觉观看才移动空中图像,于是,可能存在用户在变成不对空中图像进行视觉观看之前,多次反复对空中图像的显示位置进行操作的情况。在这种情况下,在用户变成不对空中图像进行视觉观看时,例如基于多次的到达位置或指定位置的相加平均或相乘平均等的平均值,或是基于多个到达位置50的中央值(中值),或是基于多个到达位置或指定位置中的、最后的到达位置或指定位置,来使空中图像移动。
(第五实施方式的变形例6)
以下说明第五实施方式的显示装置的变形例6。变形例6的显示装置1在校准处理中能够改变空中图像的移动速度。显示装置1能够使空中图像以极高的速度移动,还能够使空中图像以低速移动。显示位置控制部220及显示位置改变部500能够使空中图像以第一规定值以上的极高的速度移动,还能够使空中图像以比第一规定值小的第二规定值以下的低速度移动。如此,由于使空中图像以极高的速度或是低速度移动,所以用户不容易视觉观看出空中图像的移动。此外,使空中图像以极高的速度移动还是以低速度移动,也可以能够由用户通过选择开关等来选择。由于显示位置控制部220及显示位置改变部500进行这样的控制,所以用户不容易视觉观看出空中图像的显示位置的移动。因此,空中图像的移动不容易被用户视觉观看出,从而能够减轻用户的不适应感。此外,在空中图像的显示位置的改变距离大的情况下,存在空中图像的显示位置的改变引起用户注目的情况,因此,也可以基于改变的距离来改变第一规定值和第二规定值。例如可以是,与使空中图像的显示位置移动规定距离以下的情况相比,使空中图像的显示位置移动规定距离以上的情况的第一规定值的速度快,第二规定值的速度慢。
另外,在上述的第五实施方式及其变形例1~6中,是以至少包括控制部20、显示器11以及操作检测器13的显示装置1为例来进行说明的,但是也可以是仅由控制部20构成的控制装置、或是由控制部20和显示器11构成的控制装置。此外,控制部20至少具有校准部203和显示位置控制部220即可。另外,为了得到上述的第五实施方式、或是变形例1~6所记载的各效果,可以根据需要从上述的构成中合适地追加构成。
-第六实施方式-
接下来,参照图42说明第六实施方式的显示装置。作为待说明的显示装置,具有与图35及图36所示的第五实施方式的显示装置相同的构成。与上述第五实施方式的显示装置之间的差别为下面这一点:如图42所示,以隔着空中图像30的方式初始设定第一检测基准40a和第二检测基准40b。另外,在图42中,设定成空中图像30位于第一及第二检测基准40a,40b之间的中间位置,即空中图像30与第一检测基准40a之间的距离和空中图像30与第二检测基准40b之间的距离是相等的。但是,也可以不是必须将空中图像30与第一检测基准40a之间的距离和空中图像30与第二检测基准40b之间的距设定成相等。此外,空中图像30中显示有图标30A。
在空中图像操作模式下,若手指F向图标30A一方下降移动,则操作检测器13检测出手指F的下降移动。当手指F到达第一检测基准40a时,检测基准控制部204基于操作检测器13的检测输出来判定出手指F到达了第一检测基准40a,与该判定相应地,显示控制部202使图标30A的显示方式变化。关于该显示方式的变化,既可以是显示的高亮度化或闪烁显示等突出显示,也可以是改变显示的颜色。通过这样的图标30A的显示方式的变化,用户能够确认出手指选择了图标30A。
当用户使手指F进一步下降移动而到达第二检测基准40b时,检测基准控制部204基于操作检测器13的检测输出而判定出手指F到达了第二检测基准40b,与该判定相应地,显示控制部202切换空中图像30的显示内容。即,第二检测基准40b发挥出与上述第五实施方式所记载的检测基准40同样的功能。另外,对判定出手指F到达了第二检测基准40b,与该判定相应地,显示控制部202切换空中图像30的显示内容的例子进行了说明,但是并不限于此。例如,也可以判定出手指F到达了第二检测基准40b,与该判定相应地,显示控制部202进行将动态图像作为空中图像30来显示从而使动态图像再现的控制。此外,也可以判定出手指F到达了第二检测基准40b,与该判定相应地,显示控制部202进行使空中图像30滚动的控制。
接下来,以第二校准处理模式为参考来说明第六实施方式的校准。在图43的(a)中,在第二校准处理中,当用户使手指F向空中图像30的图标30A一方下降移动,并感觉对图标30A进行了选择操作时,即用户判断手指F到达了第一检测基准40a的情况下,用户的手指F就会停止下降等。图36所示的检测基准控制部204基于操作检测器13的检测输出,根据用户手指F的下降停止等情况判定出手指的到达位置50或指定位置50A。到达位置50或指定位置50A位于与第一检测基准40a相比以距离ΔH处于上方的位置处。
到达位置50或指定位置50A位于与第一检测基准40a相比以距离ΔH处于上方的位置处,因此,显示位置控制部220将空中图像30的显示位置移动到以距离ΔH处于下方的位置、即虚线所示的位置30处。
通过该空中图像30向下方的移动,来校准处理空中图像30与第一检测基准40a之间的位置关系。通过该校准处理,空中图像30与第二检测基准40b之间的距离变得比空中图像30与第一检测基准40a之间的距离小,因此检测基准控制部204如图43的(b)所示使第二检测基准40b向下方移动到虚线所示的位置40b,从而使空中图像30与第二检测基准40b之间的距离与空中图像30与第一检测基准40a之间的距离相等。由于空中图像30向下方的移动,从空中图像30的位置到第二检测基准40b的位置之间的距离变短。因此,在用户以为触摸了空中图像30后,立即到达第二检测基准40b,所以有时会感觉操作不便。如此,由于使空中图像30与第二检测基准40b之间的距离成为合适的距离,所以便于用户操作。此外,若空中图像30与第二检测基准40b之间的距离和空中图像30与第一检测基准40a之间的距离相等,则用户基于空中图像30与第一检测基准40a之间的距离,就能够简单地掌握空中图像30与第二检测基准40b之间的距离。
下面,如图44的(a)所示,在到达位置50或指定位置50A位于与第一检测基准40a相比以距离-ΔH处于下方的位置处的情况下,显示位置控制部220及显示位置改变部500如图44的(b)所示那样使空中图像30的显示位置向上方移动距离ΔH。伴随着该空中图像30的移动,检测基准控制部204如图44的(c)所示使第二检测基准40b向上方移动到虚线所示的位置40b。由此,使空中图像30与第二检测基准40b之间的距离和空中图像30与第一检测基准40a之间的距离相等。由于空中图像30向上方的移动,从空中图像30的位置到第二检测基准40b的位置之间的距离变长。因此,在用户认为触摸到了空中图像30之后,在到达第二检测基准40b之前还存在距离,存在感觉操作不便的情况。如此,由于使空中图像30与第二检测基准40b之间的距离成为合适的距离,所以便于用户操作。此外,由于空中图像30与第二检测基准40b之间的距离和空中图像30与第一检测基准40a之间的距离相等,所以用户能够基于空中图像30与第一检测基准40a之间的距离,简单地掌握空中图像30与第二检测基准40b之间的距离。
对第二校准处理模式的说明如以上所述,对于第一校准处理模式而言也是一样的。
(第六实施方式的变形例1)
上述第六实施方式的显示装置通过移动空中图像30来改变第一检测基准40a与空中图像30之间的位置关系,伴随着该空中图像30的移动,将第二检测基准40b移动成使得空中图像30与第二检测基准40b之间的距离大致等于空中图像30与第一检测基准40a之间的距离。下面说明该变形例1。在该变形例1中,第一检测基准40a与空中图像30之间的位置关系与第六实施方式的显示装置同样地通过空中图像30的移动来改变,但是空中图像30与第二检测基准40b之间的位置关系是通过基于手指相对于第二检测基准的到达位置或指定位置移动第二检测基准40b来改变的。
该变形例1的显示装置与第六实施方式的显示装置同样地显示图42所示的空中图像30,并对第一以及第二检测基准40a、40b进行初始设定。利用图45的(a)、(b)、(c)来说明校准处理。另外,图45的(a)与图39的(a)相同。
在图45的(a)中,例如,当用户使手指F向着空中图像30的第一图标30A一方下降移动,并感觉到对图标30A进行了选择操作,即在用户判断手指F到达了第一检测基准40a的情况下,用户的手指F就会停止下降等。检测基准控制部204基于操作检测器13的检测输出来判定手指的到达位置50或指定位置50A。由于到达位置50或指定位置50A位于与第一检测基准40a相比以距离ΔH处于上方的位置处,因此显示位置控制部220使空中图像30的显示位置移动到例如大致以距离ΔH处于下方的位置处、即虚线所示的位置30处。通过该空中图像30向下方的移动,能够对空中图像30与第一检测基准40a之间的位置关系进行改变、即校准处理。
当用户在进行了校准处理后使手指F进一步下降移动,并感觉对图标30A执行了操作时,即用户判断为手指F到达了第二检测基准40b的情况下,用户的手指F就会停止下降等。如图45的(b)所示,检测基准控制部204基于操作检测器13的检测输出判定出手指相对于第二检测基准40b的到达位置50或指定位置50A。由于该手指的到达位置50或指定位置50A位于与第二检测基准40b相比以距离ΔH处于上方的位置处,所以图36的检测基准控制部204基于手指的到达位置50或指定位置50A,使第二检测基准40b向上方例如移动大致距离ΔH。这样一来,第二检测基准40b就如图45的(c)所示向上方移动到虚线位置40a。通过该第二检测基准40b向上方的移动,能够对空中图像30与第二检测基准40b之间的位置关系进行改变、即校准。
另外,在手指相对于第一检测基准40a的到达位置50或指定位置50A处于第一检测基准40a下方的位置的情况下,与在图44的(a)、(b)中说明的第六实施方式的显示装置同样,显示位置控制部220基于手指的到达位置50或指定位置50A而使空中图像30向上方移动。通过该空中图像30向上方的移动,能够对空中图像30与第一检测基准40a之间的位置关系进行改变、即校准处理。
此外,在手指相对于第二检测基准40b的到达位置50或指定位置50A在第二检测基准40b下方的位置的情况,检测基准控制部204基于手指的到达位置50或指定位置50A使第二检测基准40b向下方移动。通过该第二检测基准40b向下方的移动,能够对空中图像30与第二检测基准40b之间的位置关系进行改变、校准。如此,在通过空中图像30的移动改变了空中图像30与第一检测基准40a之间的位置关系后,通过第二检测基准40b的移动来改变空中图像30与第二检测基准40b之间的位置关系,由此能够将空中图像30与第一检测基准40a之间的位置关系和空中图像30与第二检测基准40b之间的位置关系双方都改变成合适的位置关系。
另外,也可以与上述的变形例1的控制不同,在基于手指相对于第一检测基准40a的到达位置50或指定位置50A来使空中图像30移动,从而改变了空中图像30与第一检测基准40a之间的位置关系之后,基于手指相对于第二检测基准40b的到达位置50或指定位置50A来进一步使空中图像30移动,从而改变空中图像30与第二检测基准40b之间的位置关系。如此,由于仅通过空中图像30的移动就能够确定空中图像30与第一检测基准40a之间的位置关系、空中图像30与第二检测基准40b之间的位置关系,因此通过简单的控制就能够改变位置关系。
(第六实施方式的变形例2)
下面说明第六实施方式的显示装置的变形例2。与上述第六实施方式以及变形例1之间的不同是:使空中图像30移动的方式不同。即,配合着用户手指的下降移动来使空中图像30的显示位置移动。
在变形例2中,在空中图像操作模式下,用户的手指向图标30A一方下降移动,手指到达第一检测基准40a,由此图标30A的显示方式发生变化,而后使手指进一步下降移动而到达空中图像30的显示位置时,显示位置控制部220基于操作检测器13的检测输出而判定出手指到达了空中图像30的显示位置,并配合着手指的下降移动而使空中图像30的显示位置移动。显示位置控制部220对空中图像30的显示位置进行控制,使得空中图像的显示位置和下降移动的手指的位置处于规定范围内。通过这样进行控制,能够以追随于下降的手指的方式使空中图像30的显示位置下降移动。此外,将空中图像30的显示位置设定成与进一步下降的手指相比始终位于下方,并且显示位置控制部220以配合着下降的手指来使空中图像30的显示位置下降移动的方式控制空中图像30的显示位置,由此用户的手指就不会穿过空中图像30。
当通过手指的下降移动以及追随于该移动的空中图像30的下降移动而手指和空中图像30到达第二检测基准40b时,检测基准控制部204判定出手指到达了第二检测基准40b,显示控制部202进行再现图像的显示。
如此,由于手指到达空中图像30后,空中图像30追随于手指的下降移动而下降移动,所以用户会感觉手指的下降移动被空中图像30引导到第二检测基准40b,从而能够确实地到达第二检测基准40b。
另外,在上述的第六实施方式及变形例1、变形例2中,是以至少包括控制部20、显示器11以及操作检测器13的显示装置1为例来进行说明的,但是也可以是仅由控制部20构成的控制装置、或是由控制部20和显示器11构成的控制装置。此外,控制部20至少具有校准部203、显示位置控制部220以及检测基准控制部204即可。另外,为了得到上述的第六实施方式、或是变形例1或变形例2所记载的各效果,可以根据需要从上述的构成中合适地追加构成。
-第七实施方式-
下面关于第七实施方式的显示装置进行说明。本实施方式涉及的显示装置具有与图29、图31、图32所示的第四实施方式的显示装置100、以及图33、图34所示的第四实施方式的变形例1的显示装置100同样的构成。在第七实施方式的显示装置100中,也与第五实施方式及其变形例1~4以及第六实施方式及其变形例1的显示装置1一样,构成为能够改变空中图像的显示位置。
如图46所示,本实施方式涉及的显示装置100除了具有图29所示的第四实施方式的显示装置100的构成以外,还具有显示位置改变部500和显示位置控制部220。检测基准控制部204与第五实施方式及其变形例1~4以及第六实施方式及其变形例1的情况同样,基于操作检测器13的检测输出判定手指的到达位置50。显示位置控制部206基于手指的到达位置50而使显示位置改变部500在成像光学系统12的光轴方向上移动空中图像300的位置。该情况下,显示位置改变部500通过使显示器111在X方向上移动来使空中图像30在Z方向上移动。即,能够通过使显示器111向X方向+侧移动而使空中图像30向Z方向+侧移动,通过使显示器111向X方向-侧移动而使空中图像30向Z方向-侧移动。当然,显示位置改变部500也可以不使显示器111移动,而是使成像光学系统112平行移动,还可以使成像光学系统112和显示器111都移动。
在上述说明的各实施方式以及它们的变形例中,通过使检测基准40的位置移动、以及使空中图像30的显示位置移动,来进行校准处理,以调整检测基准40与空中图像30(或图标30A等)之间的相对位置关系。但是,为了调整检测基准40与空中图像30之间的相对位置关系,也可以使检测基准40和空中图像30双方都移动。
另外,在上述的第七实施方式中,是以至少包括控制部20、显示器111以及操作检测器113的显示装置100为例来进行说明的,但是也可以是仅由控制部20构成的控制装置、或是由控制部20和显示器111构成的控制装置。此外,控制部20至少具有校准部203和显示位置控制部220即可。另外,为了得到上述的第七实施方式所记载的各效果,根据需要从上述的构成中合适地追加构成即可。
-第八实施方式-
以上的实施方式及其变形例是,基于校准处理中的手指尖的到达位置和指定位置来控制或是改变检测基准以及/或空中图像,从而来改变检测基准与空中图像的显示位置之间的位置关系。下面,关于在校准处理中的规定的非接触操作没有在检测基准内被检测到的情况下改变检测基准的第八实施方式进行说明。
本实施方式的显示装置1具有与图1、图2所示的第一实施方式的显示装置1同样的构成。在第八实施方式的显示装置1中,在空中图像操作模式下,显示控制部202、显示器11以及成像光学系统12将图47的(a)及图47的(b)所示的空中图像操作模式用的空中图像30显示在空中。在图47的(a)中,空中图像30例如包含2个矩形的图标30D、30E。
如图47的(b)以及图47的(c)所示,检测基准控制部204关于空中图像30所包含的2个图标30D、30E分别初始设定出长方体形状的检测基准42。与图标30D对应的检测基准42的横截面的大小,如图47所示,与图标30D的大小相对应。上下方向、即Z方向上的高度为D1。即,长方体状的检测基准42被设定为,横截面的一条边的长度W1与图标30D的一条边的长度W1相等,横截面的另一条边的长度W2与图标30D的另一条边的长度W2相等。
关于长方体状的检测基准42,将其上表面称为上部基准面42a,将其下表面称为下部基准面42b,将由长度W2和D1形成的侧面称为侧部基准面42c,将由长度W1和D1形成的侧面称为侧部基准面42d。将检测基准42的外部称为检测基准外范围41。
此外在本实施方式中,将检测基准42作为长方体形状来说明,但并不限于此。也可以是球状、圆柱状或棱柱状等,还可以是其他形状。
空中图像30被设定为位于检测基准42的上部基准面42a与下部基准面42b的中间,即被设定成使空中图像30与上部基准面42a之间的距离和空中图像30与下部基准面42b之间的距离相等。另外,空中图像30并不限于位于上部基准面42a与下部基准面42b的中间,也可以使空中图像30与上部基准面42a之间的距离和空中图像30与下部基准面42b之间的距离不相等,或是使空中图像30与上部基准面42a相比位于上方,亦或是使空中图像30位于下部基准面42b的下方。即,从Z轴方向来看,只要是空中图像30(图标30D、30E)与检测基准42的基准面42a、42b重叠的状态即可。
另外,与对应于图标30D的检测基准42同样地,对应于图标30E的检测基准42也是横截面与图标30E的形状相对应且具有规定高度的长方体形状。
在空中图像操作模式下,由于用户对检测基准42进行规定的非接触操作,所以显示装置1执行被分派给图标30D、图标30E的功能。在图48的(a)~(c)中示出本实施方式中的规定的非接触操作600A~600C(在统称的情况下称为规定的非接触操作600)的例子。在图48中,规定的非接触操作600A~600C为手指F移动时的轨迹并用箭头示意性地示出。图48的(a)所示的规定的非接触操作600A是下述操作,即:用户使手指F下降移动距离L1后又U形转弯而向上方移动距离L1的操作。即,该规定的非接触操作600A是下降移动距离与上升移动距离相等的U形转弯轨迹。此外,规定的非接触操作600A也可以不是画出U形转弯、即U字形的轨迹,而是画出L字形的轨迹,而且,也可以是手指F下降移动距离L1后又沿着该下降轨迹向上方移动距离L1的操作。再者,规定的非接触操作600A还可以是下降移动距离L1与上升移动距离L1不相等、不同的操作。本实施方式中的规定的非接触操作600A只要是与手指的下降移动接续地进行手指的上升移动的操作即可。
图48的(b)的规定的非接触操作600B是用户使手指F下降移动距离L1后使手指F停止规定时间的操作。图48的(c)的规定的非接触操作600C是用户使手指F下降移动距离L1后使手指F在横向上至少移动规定距离L2的操作。
规定的非接触操作600并不限于上述各种手指F的移动轨迹所表示的操作,只要其移动轨迹(手指F或手的移动轨迹)能够通过操作检测器13检测,也可以是画出其他移动轨迹的操作。
在空中图像操作模式下,当通过操作检测器13在检测基准内检测到规定的非接触操作600,检测基准控制部204就基于检测到该用户手指F的移动的操作检测器13的检测输出而判定为手指F对图标的显示位置进行了操作。
图49例示出了通过检测基准控制部204而判定出在检测基准42内进行了上述规定的非接触操作600中的非接触操作600A的情况。规定的非接触操作600A1表示下述情况:手指F从上部基准面42a向下方移动距离L1又继续U形转弯向上方移动距离L1,从而手指F到达上部基准面42a。规定的非接触操作600A2表示下述情况:手指F在上部基准面42a与下部基准面42b中间,且手指F向下方移动距离L1又继续U形转弯向上方移动距离L1。规定非接触处理600A3表示下述情况:手指F向下方移动距离L1,在下部基准面42b处U形转弯向上方移动距离L1。
如以上所述,若如图49所示在检测基准42内,规定的非接触操作600A的下降移动距离L1、U形转弯、上升移动距离L1全部都进行了,则检测基准控制部204判定为在检测基准42内进行了规定的非接触操作600A。即,检测基准控制部204在检测基准42内检测到规定的非接触操作600A。
以上以规定的非接触操作600A为例,说明了检测基准控制部204判定是否在检测基准42内进行了规定的非接触操作600的方法。关于其他规定的非接触操作600B、600C等也是一样。检测基准控制部204在规定的非接触操作600全部都在检测基准42内进行了的情况下,判定为在检测基准42内进行了规定的非接触操作600。在规定的非接触操作600即使是一部分在检测基准外范围41内进行了的情况下,也不判定为在检测基准42内进行了规定的非接触操作600。在规定的非接触操作600是在上下方向上伴有距离L1的移动的操作的情况下,检测基准42的宽度D1、即上部基准面42a与下部基准面42b之间的间隔(Z方向上的长度)需要至少为距离L1以上,例如被确定为距离L1的1.5倍~3倍左右。
另外,在图49中,检测基准外范围41是指检测基准42外侧的外部空间。详细地说,在图47的(c)中,是由检测基准42的上部基准面42a、下部基准面42b、侧部基准面42c、侧部基准面42d围成的空间以外的外侧空间。
下面,对在检测基准外范围41内检测到规定的非接触操作600的情况进行说明。所谓在检测基准外范围41内检测到规定的非接触操作600的情况,是指规定的非接触操作600全部都在检测基准外范围41内被检测到的情况。
此后,在本实施方式以及变形例的说明中,均代表性地采用规定的非接触操作600A来进行说明,但是对于其他的非接触操作600B、600C等,也能够采用同等的技术。
图50示出了规定的非接触操作600A全部都在检测基准外范围41内被检测到的情况。在图50的(a)中,手指F进行的规定的非接触操作600A全部都是在检测基准42的上部基准面42a的上方位置进行的。在该情况下,通过操作检测器13和检测基准控制部204,规定的非接触操作600A全部都在检测基准外范围41内被检测到。
在图50的(b)中,手指F进行的规定的非接触操作600Aa全部都在检测基准42的下部基准面42b的下方位置进行,此外,手指F进行的规定的非接触操作600Ab全部都在检测基准42的侧部基准面42c的外侧位置进行。在这些情况下,也通过操作检测器13和检测基准控制部204,在检测基准外范围41内分别检测到规定的非接触操作600Aa的全部和600Ab的全部。下面说明通过操作检测器13和检测基准控制部204而在检测基准外范围41内检测规定的非接触操作600的方法。首先,操作检测器13依次检测手指F的移动。接着,检测基准控制部204基于操作检测器13的检测输出,来判定手指F的移动轨迹是否对应于规定的非接触操作600、以及手指F的移动轨迹的位置(检测基准42或检测基准外范围41或检测基准42与检测基准外范围41双方)。基于该判定结果,能够在检测基准外范围41内检测到规定的非接触操作600。
接下来,参照图51、图52以及图53来说明规定的非接触操作600在检测基准外范围41内被检测到的情况下的校准处理。图51是规定的非接触操作600A在检测基准外范围41内的、与检测基准42的上部基准面42a相比处于上方的位置处被检测出的情形。另外,以下的校准处理是使用空中图像操作用的空中图像30来进行的,但是也可以使用图4等所示的校准处理用的空中图像300。
在图51的(a)中,用户为了对空中图像30的图标30D的显示位置进行操作而使手指F下降移动,当该手指F到达操作检测器13的检测范围13A的上限13a时,操作检测器13依次检测手指的下降移动,并将伴随该手指移动的检测输出依次存储于存储部205。检测基准控制部204基于存储在存储部205中的操作检测器13的检测输出,判定手指F的移动轨迹是否对应于规定的非接触操作600A,并且判定该手指F的移动轨迹是否全部都存在于检测基准42内。
若检测基准控制部204判定出进行了规定的非接触操作600A,且判定为规定的非接触操作全部都是在检测基准外范围41内进行的,则检测基准控制部204基于在存储部205中存储的来自操作检测器13的检测输出,计算出规定的非接触操作600A的操作开始位置与上部基准面42a之间的间隔ΔH10。该间隔ΔH10可以如上所述根据规定的非接触操作600A的操作开始位置和上部基准面42a的位置计算出,但是也可以通过以下方法计算出。即,基于在存储部205中存储的来自操作检测器13的检测输出求出规定的非接触操作600A的最低位置、即规定的非接触操作600A的到达位置,并计算出该规定的非接触操作600A的到达位置与上部基准面42a的位置之间的间隔,在该算出的间隔上加上规定的非接触操作600A的距离L1,由此也能够计算出间隔ΔH10。
在算出间隔ΔH10后,检测基准控制部204如图51的(b)所示基于距离ΔH10而使检测基准42整体向图中上方移动。移动了的检测基准42用单点划线示出。检测基准42向上方移动的移动量既可以如图51的(b)所示与距离ΔH10大致相等,也可以比距离ΔH10大或小。如此,在用户进行的规定的非接触操作在检测基准外范围41内的、与检测基准42相比位于上方的位置被检测到的情况下,使检测基准42整体以接近该规定的非接触操作的实施位置的方式向上方移动,从而改变检测基准42。其结果是,在由于用户的操作没有到达检测基准42而操作无效的情况下,配合着该用户的操作位置来改变检测基准42,因此能够缓和用户的操作上的不适应感。
图52是用于说明规定的非接触操作600A在检测基准外范围41内的、与检测基准42的下部基准面42b相比位于下方的位置处被检测出的情况下的校准处理的图。在图52的(a)中,若检测基准控制部204基于在存储部205中存储的操作检测器13的检测输出而判定出进行了规定的非接触操作600A且判定为该规定的非接触操作是在检测基准外范围内进行的,则检测基准控制部204计算出规定的非接触操作600A的移动轨迹的最低位置、即规定的非接触操作600A的到达位置与检测基准42的下部基准面42b之间的间隔ΔH10。计算出该间隔ΔH10后,检测基准控制部204如图52的(b)所示基于距离ΔH10使检测基准42整体向图中下方移动。移动了的检测基准42用单点划线示出。检测基准42向下方移动的移动量既可以如图52的(b)所示与距离ΔH10大致相等,也可以比距离ΔH10大或小。这样,在用户进行的规定的非接触操作在检测基准外范围41内的、与检测基准42相比位于下方的位置处被检测到的情况下,使检测基准42整体以接近规定的非接触操作的实施位置的方式向下方移动,从而改变检测基准42。其结果是,在由于用户的操作超过了检测基准42而操作无效的情况下,配合着该用户的操作位置来改变检测基准42,因此能够缓和用户的操作上的不适应感。
图53是用于说明检测出非接触操作600A在检测基准外范围41内的、检测基准42的侧部基准面42c外侧进行的情况下的校准处理的图。在图53的(a)中,若检测基准控制部204基于在存储部205中存储的操作检测器13的检测输出判定出进行了规定的非接触操作600A且判定为该规定的非接触操作是在侧部基准面42c的外侧进行的,则检测基准控制部204计算出检测基准42的侧部基准面42c与规定的非接触操作600A的移动轨迹中的离侧部基准面42c最远离的部分之间的距离ΔH10。计算出该距离ΔH10后,检测基准控制部204如图53的(b)所示那样基于距离ΔH10使检测基准42整体在图中的横向、即向接近规定的非接触操作600A的方向移动。移动了的检测基准42用单点划线示出。检测基准42的横向的移动量既可以如图53的(b)所示那样与距离ΔH10大致相等,也可以比距离ΔH10大或小。如此,在用户进行的规定的非接触操作在检测基准外范围41内的、检测基准42的侧部基准面42c或42d外侧的位置处被检测出的情况下,使检测基准42整体以接近规定的非接触操作的实施位置的方式移动,从而改变检测基准42。其结果是,在由于用户的操作从检测基准42偏离而操作无效的情况下,配合着该用户的操作位置来改变检测基准42,因此能够缓和用户的操作上的不适应感。
另外,在图51~图53中,使检测基准42以计算出的改变量ΔH10改变,但是也可以将在间隔ΔH10上加了规定量h而成的值作为改变量来改变检测基准42。关于规定量h,可以举出规定的非接触操作600的到达位置的差量(从非接触操作的到达位置到检测基准42的最近基准面之间的差量)的平均值、多个非接触操作600的开始位置的差量(从非接触操作的开始位置到检测基准42的最近基准面之间的差量)的平均值等。此外,规定量h也可以是预先设定的固定值。在该情况下,检测基准42以在间隔ΔH10上加上作为余量的规定量h而得到的量移动。因此,即使是无法在与校准处理时进行的非接触操作严格相同的位置处进行非接触操作的情况下,只要误差在规定量h的范围内,就能够在检测基准42中检测到用户的非接触操作。即使用户的非接触操作的开始位置、到达位置在每次操作时都变动,也能够在检测基准42内检测出用户的非接触操作。因此,与将间隔ΔH10的值作为改变量的情况相比,在将对间隔ΔH10加上规定量h而得到的值作为改变量的情况下,能够提高在检测基准42内检测到非接触操作的比例。
下面说明在检测基准外范围41内检测到与规定的非接触操作600不同的操作的情况。所谓在检测基准外范围41内检测到与规定的非接触操作600不同的操作的情况,是指不是规定的非接触操作600的全部,而仅是其一部分在检测基准外范围41内被检测到的情况。
图54示出规定的非接触操作600A的一部分在检测基准外范围41内被检测到的情况的例子。在图54的(a)中,手指F进行的规定的非接触操作600A的一部分、即对应于距离ΔH10的部分是在与检测基准42的上部基准面42a相比位于上方的位置进行的,其余的部分是在检测基准42内进行的。换言之,将在检测基准42内被检测到的规定的非接触操作600A的一部分与在检测基准外范围41内被检测到的规定的非接触操作600A的一部分组合起来即为规定的非接触操作600A。
在该情况下,规定的非接触操作600A的一部分由操作检测器13和检测基准控制部204在检测基准外范围41内检测到。
在图54的(b)中,手指F进行的规定的非接触操作600Aa的一部分、即对应于距离ΔH10的部分是在与检测基准42的下部基准面42b相比位于下方的位置进行的,其余的部分是在检测基准42内进行的。换言之,将在检测基准42内被检测到的规定的非接触操作600Aa的一部分与在检测基准外范围41内被检测到的规定的非接触操作600Aa的一部分组合起来即为规定的非接触操作600Aa。
此外,手指F进行的规定的非接触操作600Ab的一部分、即对应于距离ΔH10的部分是在检测基准42的侧部基准面42c的外侧进行的,其余的部分是在检测基准42内进行的。换言之,在检测基准42内被检测到的规定的非接触操作600Ab的一部分与在检测基准外范围41内被检测到的规定的非接触操作600Ab的一部分组合起来即为规定的非接触操作600Ab。
在这些情况下,都是规定的非接触操作600Aa的一部分、或是Ab的一部分由操作检测器13和检测基准控制部204在检测基准外范围41内检测出来。
接下来,参照图54来说明与规定的非接触操作600不同的操作在检测基准外范围41内被检测到的情况下的校准处理。
关于下述情况的校准处理与图51的情形相同,所述情况是:像图54的(a)所示的规定的非接触操作600A那样,规定的非接触操作600A的一部分在检测基准42内进行,其余的部分在与上部基准面42a相比位于上方的位置进行。即,基于距离ΔH10而使检测基准42整体向图中上方移动。
关于下述情况的校准处理与图52的情形相同,所述情况是:像图54的(b)所示的规定的非接触操作600Aa那样,规定的非接触操作600Aa的一部分在检测基准42内进行,其余的部分在与下部基准面42b相比位于下方的位置进行。即,基于距离ΔH10使检测基准42整体向图中下方移动。
关于下述情况的校准处理与图53的情形相同,所述情况是:像图54的(b)所示的规定的非接触操作600Ab那样,规定的非接触操作600Ab的一部在检测基准42内进行,其余的部分在侧部基准面42c的外侧的位置进行。即,基于距离ΔH10而使检测基准42整体横向移动。
关于上述说明的校准处理,以第一校准处理模式为例,参照图55所示的流程图来进行说明。另外,图55的流程图示出了步骤S701~S709,步骤S709以后的处理由于与图6的步骤S9以后的处理相同,所以此处省略了记载。步骤S701~S703的各处理与图6所示的流程图中的步骤S1~S3的各处理相同。在步骤S704中,基于来自操作检测器13的检测输出,判定用户进行的操作(更具体地说,是用户对空中图像300的图标300A的显示位置进行的操作)是否是规定的非接触操作。在是规定的非接触操作的情况下,步骤S704为肯定判断,从而进入步骤S705,在不是规定的非接触操作的情况下,步骤S704为否定判断,因此待机直到成为肯定判断。
在步骤S705中,判定是否在检测基准42内进行了规定的非接触操作。在如图49所示规定的非接触操作在检测基准42内进行的情况下,步骤S705为肯定判断,因此进入将在后说明的步骤S708。在规定的非接触操作在检测基准42内没有被检测到的情况下,即(1)在规定的非接触操作全部在检测基准外范围41内被检测到的情况下,或是(2)在规定的非接触操作的一部分在检测基准42内被检测到而另一部分在检测基准外范围41内被检测到情况下,步骤S705为否定判断,从而进入步骤S706。在步骤S706中,基于规定的非接触操作与检测基准42之间的位置关系计算出检测基准42的改变量,并进入步骤S707。
在步骤S707中,基于在步骤S706中算出的改变量来改变检测基准42的位置,并进入步骤S708。在步骤S708中,第一校准处理模式结束,从而进入步骤S709。在步骤S709中开始空中图像操作模式。在如以上那样,用户的规定的非接触操作没有在检测基准内被检测到的情况下,改变检测基准的位置。即,改变检测基准42的上下方向上的中心位置以及/或左右方向上的中心位置。通过该检测基准的位置改变,能够在对于用户来说合适的地方进行操作。而且,能够将检测基准与空中图像之间的位置关系改变成适于用户的操作的位置关系。
另外,作为校准处理的说明,是以第一校准处理模式为例进行的说明,但是图55的流程图也能够应用于第二校准处理模式。
另外,在上述的第八实施方式中,是分别对应于各图标30D、30E设定检测基准42来进行说明,但是并不限于此。也可以以多个图标通用的方式来设定检测基准42,还可以针对空中图像30的全部区域设定1个检测基准42。
(第八实施方式的变形例1)
在第八实施方式中,基于规定的非接触操作600被检测到时的空间上的位置与检测基准42之间的位置关系来使检测基准42在上下方向以及/或左右方向上改变。即,说明了对检测基准42的上下方向上的中心位置以及/或左右方向上的中心位置进行改变的情况。在变形例1的显示装置1中,在改变检测基准42与规定的非接触操作600之间的空间上的位置关系时,可以改变检测基准42的宽度D1的大小。例如,如图50的(a)所示,在规定的非接触操作600A被在检测基准42的上方的检测基准外范围41内被检测到的情况下,可以不改变下部基准面42b的位置,而只将上部基准面42a以改变量ΔH10向上方改变。即,可以通过改变检测基准42的宽度D1来改变检测基准42的上下方向上的中心位置。或者,将上部基准面42a以改变量ΔH10向上方改变,将下部基准面42b以改变量ΔH10向下方改变。即,通过将检测基准42的宽度D1在上下方向上以相同的改变量ΔH10进行改变,能够在不改变检测基准42的上下方向上的中心位置的情况下改变检测基准42。另外,在如图50的(b)所示,在检测基准42的下方检测到规定的非接触操作600Aa的情况下,可以将下部基准面42b的位置以改变量ΔH10向下方改变,也可以在将下部基准面42b的位置以改变量ΔH10向下方改变,并将上部基准面42a的位置以改变量ΔH10向上方改变。另外,当在检测基准42的右侧检测到规定的非接触操作600Ab的情况下,也可以同样地在左右方向上改变侧部基准面42c的位置。即,既可以改变检测基准42的左右方向上的中心位置而改变检测基准42,也可以在不改变中心位置的情况下改变检测基准42的宽度。
(第八实施方式的变形例2)
下面说明变形例2的显示装置1。在变形例2的显示装置1中,在校准处理时进行的规定的非接触操作600在检测基准外范围41内被检测到的情况下,若规定的非接触操作600与检测基准42之间的距离为规定值以下,则改变检测基准42。如图50的(a)所示,以规定的非接触操作600A在检测基准42上方的检测基准外范围41内被检测到的情况为例。在该情况下,若判定为间隔ΔH10为规定值以下、即判定为规定的非接触操作600A是在检测基准42的附近进行的,则显示装置1视为用户有意图对空中图像的显示位置进行操作,因此改变检测基准42。若判定为间隔ΔH10比规定值大、即判定为规定的非接触操作600A是在远离检测基准42的位置处进行的,则显示装置1视为用户没有意图对空中图像的显示位置进行操作、是误操作、或是在途中中断了操作,从而不改变检测基准42。
此外,如图54所示,在规定的非接触操作600A的一部分在检测基准外范围41内被检测到的情况下,也可以基于在检测基准外范围41内检测到的规定的非接触操作600的一部分在空间上的位置与检测基准42之间的距离,来改变检测基准42的位置。例如,如图54的(a)所示那样判定与检测基准42的上部基准面42a相比在上方被检测到的非接触操作600的一部分、即距离ΔH10是否为规定阈值以下。若距离ΔH10为规定阈值以下,则如图56的(a)所示,虽然并不是手指F的规定的非接触操作600A的全部都在检测基准42内进行,但是规定的非接触操作600A的大部分是在检测基准42内进行的。在该情况下,显示装置1视为用户有意图对空中图像的显示位置进行操作,从而改变检测基准42的位置。在距离ΔH10超过规定阈值的情况下,如图56的(b)所示,规定的非接触操作600A的大部分是在检测基准外范围41内进行的。在该情况下,显示装置1视为用户没有意图对空中图像的显示位置进行操作、是误操作、或是在途中中断了操作,从而不改变检测基准42的位置。
(第八实施方式的变形例3)
第八实施方式的变形例3如第一实施方式的变形例1那样,可以基于操作检测器13的检测输出而计算出用户的手指尖的速度或加速度,并基于算出的速度或加速度来改变检测基准42的位置。即,基于规定的非接触操作600的至少一部分的速度,尤其是在规定的非接触操作600的一部分的速度比规定值小的情况下改变检测基准42。图57是示出变形例3的显示装置1中的控制部20、由控制部20控制的显示器11以及操作检测器13的框图。
此处,所谓规定的非接触操作600的至少一部分的速度是指,规定的非接触操作600中的至少一部分操作的速度。关于规定的非接触操作600中的至少一部分操作,例如若规定的非接触操作600是在从检测基准外范围41的位置向着检测基准42进行操作后又继续返回的操作(规定的非接触操作600A),则该规定的非接触操作600中的至少一部分操作是指从检测基准外范围41向着检测基准42时的至少一部分区间内的操作。或者,若规定的非接触操作600是从检测基准42中的某位置向着检测基准42的一端进行操作后,又继续返回的操作(规定的非接触操作600A),则该规定的非接触操作600中的至少一部分操作是指该向着该一端时的至少一部分区间。
另外,可以监视规定的非接触操作600的所有操作(例如规定的非接触操作600A中的从下降开始又继续上升直到结束的操作)的速度(加速度),并计算出该速度(加速度)的平均值,基于该平均值判断操作的强弱,并在下次及其以后的操作检测时改变检测基准42。例如,由于在操作速度平均快的情况下存在穿过检测基准42的可能,因此进行控制使得下次及其以后的检测基准42的宽度变大。
图57所示的速度/加速度检测部206与第一实施方式的变形例1一样,每隔规定时间读出由操作检测器13检测的静电电容值,根据每规定时间内的静电电容值的变化计算出手指的移动速度。而且,根据计算出的速度计算出手指的移动加速度,并判定其是否超过规定值。操作预测部211在由速度/加速度检测部206计算出的移动速度以及/或移动加速度为规定值以下的情况下,基于从速度/加速度检测器206输出的手指的移动速度或加速度来计算出、即预测出手指F的移动轨迹。检测基准控制部204根据由操作预测部211预测出的手指F的移动轨迹来改变检测基准42。即,在预测出的手指F的移动轨迹不在检测基准42内的情况下,判断为规定的非接触操作600在检测基准42内没有被检测到。在该情况下,与第八实施方式的情形一样,以计算出的改变量ΔH10改变检测基准42。此外,在预测出的手指F的移动轨迹处于检测基准42内的情况下,判断为规定的非接触操作600在检测基准42内被检测到,从而不改变检测基准42。
此外,也可以是操作预测部211在由速度/加速度检测部206计算出的移动速度以及/或移动加速度为规定值以上的情况下,预测手指F的移动轨迹,并改变检测基准42。即,在手指F的移动速度以及/或移动加速度为规定值以上的情况下,若预测出的手指F的移动轨迹没有在检测基准42内,则判断为规定的非接触操作600在检测基准42内没有被检测到。在该情况下,与第八实施方式的情形一样,以计算出的改变量ΔH10改变检测基准42。
接下来,参照图58及图59来说明变形例3的显示装置1所进行的第一校准处理模式。在图59的流程图中,从步骤S764到步骤S766与图56的流程图是相同的,因此省略说明。如图58的(a)所示,一旦手指尖F进入操作检测器13的规定检测范围13A内,步骤S764中,操作检测器13就将手指尖F的移动作为静电电容值的变化检测出来。在步骤S765中,速度/加速度检测部206根据操作检测器13的检测输出而计算出手指尖F的移动速度及加速度。在步骤S765中,操作预测部211判定由速度/加速度检测部206计算出的移动速度及加速度是否为第一规定值以上且第二规定值以下。第一规定值对应于预测出手指F从检测基准42的上方向下方的移动不会到达上部基准面42a时的速度以及加速度来确定,第二规定值是比第一规定值大的值,对应于预测出手指F向下方的移动会通过下部基准面42b时的速度以及加速度来确定。在手指尖F的移动速度及加速度为第一规定值以上且第二规定值以下的情况下,步骤S765为肯定判定,从而进入步骤S770。在手指F的移动速度及加速度比第一规定值小或是比第二规定值大的情况下,步骤S765为否定判断,从而进入步骤S767。
在步骤S767中,操作预测部211基于速度/加速度检测部206所计算出的移动速度及加速度而计算出手指尖F的移动轨迹。在图58的(b)中,在移动速度、移动加速度为第一规定值以下的情况下,操作预测部211所计算出、即预测出的手指F的移动轨迹如虚线600Ac所示。在步骤S768中,检测基准控制部204与图51所示的情况同样地计算出检测基准42的改变量ΔH10,并改变检测基准42。另外,为了预测手指的到达位置,既可以使用手指的移动速度和加速度这两者,也可以使用其中之一。
另外,作为校准处理的说明,是以第一校准处理模式为例进行的说明,但是也能够应用于第二校准处理模式。
另外,在上述的说明中,操作预测部211计算出了手指尖F的移动轨迹,但是也可以不计算出移动轨迹。即,显示装置1的控制部20不包括操作预测部211,在由速度/加速度检测部206计算出的移动速度以及移动加速度为规定值以下的情况下,可以以预先确定的改变量改变检测基准42。例如,在与检测基准42相比以规定距离位于上方的位置处检测移动速度或移动加速度,当检测到的移动速度或移动加速度为规定值以下的情况下,预测为手指F不到达检测基准42,从而改变检测基准42。
另外,在上述的说明中,速度/加速度检测部206每隔规定时间读出由操作检测器13检测的静电电容值,根据每规定时间内的静电电容值的变化而计算出手指的移动速度,并且根据算出的速度而计算出手指的移动加速度,但是并不限于该方法,也可以使用拍摄装置来作为速度/加速度检测部206。此外,在上述的说明中,是计算出用户手指的移动速度或加速度,但除此之外,也可以是用户的脚或手肘、用户所持的触控笔。
(第八实施方式的变形例4)
第八实施方式及其变形例1~3的显示装置1是,在一次的校准处理中,基于规定的非接触操作600A的空间上的位置与检测基准42之间的位置关系来改变检测基准42的位置。即,在1次用户操作中,进行1次校准处理。变形例4涉及的显示装置1是,在多次的用户操作中进行1次校准处理。即,基于规定的非接触操作600A在检测基准外范围41内被检测到的次数或是规定的非接触操作600A在检测基准42内被检测到的次数来改变检测基准42。
在第一次用户操作中,检测基准控制部204基于操作检测器13的检测输出来判定手指F是否进行了规定的非接触操作600A,在检测到进行了规定的非接触操作600A的情况下,检测进行该规定的非接触操作600A的、空间上的位置。在检测出规定的非接触操作600A是在检测基准42内进行的情况下,检测基准控制部204将第一次的校准处理判定为成功并将判定结果存储于存储部205。在规定的非接触操作600A在检测基准外范围41内被检测到的情况下,检测基准控制部204将第一次用户操作判定为失败,并与第八实施方式同样地计算出改变量ΔH10,并将判定结果和改变量ΔH10存储于存储部205。接着,在第二次用户操作中,将操作成功或失败的判定结果以及/或改变量ΔH10存储于存储部205。进一步,也可以继续在第三次用户操作中进行处理。
如上所述,基于在连续进行的多次用户操作中存储于存储部205中的上述多个判定结果以及/或改变量ΔH10来改变检测基准42。确定是否基于这些多次用户操作的判定结果以及/或改变量ΔH10进行检测基准42的改变,可以考虑各种方法。例如,在连续的多次用户操作中,当失败作为判定结果被连续地存储于存储部205中的情况下,改变检测基准42。具体地说,在第一次用户操作和第二次用户操作都被判定为失败的情况下,改变检测基准42。也可以在第一次用户操作被判定为成功、第二次用户操作和第三次用户操作被判定为失败的情况下,改变检测基准42。此外,也可以当在多次的用户操作中,被判定为失败的用户操作存在规定次以上的情况下,改变检测基准42。具体地说,当10次用户操作中有5次以上的用户操作被判定为失败时,改变检测基准42。在该情况下,既可以在第五次判定为用户操作失败的时刻(失败判定累积5次的时刻)改变检测基准42,也可以在10次用户操作全部结束后,改变检测基准42。另外,也可以当在检测基准外范围41内检测到规定的非接触操作600A的频次较高的情况下,提高改变检测基准42的频次。即,在设定为若10次用户操作中有5次以上的用户操作被判定为失败则改变检测基准42的情况下,改变成10次用户操作中有8次的用户操作被判定为失败。在该情况下,也可以是,从下次开始,若5次用户操作中有3次以上的用户操作被判定为失败,则改变检测基准42。
在利用多次用户操作的结果来改变检测基准42的情况下,关于改变量ΔH10,进行与在第一实施方式的变形例2中确定检测基准时的算出方法同样的处理即可。即,对在判定为失败的用户操作中算出的改变量进行相加平均或相乘平均,由此计算出1个改变量ΔH10即可。在该情况下,也可以如在第一实施方式的变形例2中说明的那样,进行适当的加权而计算出新的改变量ΔH10。
另外,在基于多次用户操作的结果而改变检测基准42的情况下,也可以当在各个用户操作中算出的改变量ΔH10的相加平均或相乘平均的值超过规定阈值的情况下,或是当在各个用户操作中算出的改变量ΔH10有增加倾向的情况下,改变检测基准42。
另外,在以上的说明中,举出了基于规定的非接触操作600A在检测基准外范围41内被检测出的情况的次数来改变检测基准42的位置的例子,但是,也可以将与规定的非接触操作600A不同的操作、即规定的非接触操作600A的一部分在检测基准外范围41内被检测出时的用户操作也视为失败。即,也可以是在多次的用户操作中,当规定的非接触操作600A的一部分连续地在检测基准外范围41被检测到的情况下、或是规定的非接触操作600A的一部分在检测基准外范围41内被检测到规定次以上的情况下,改变检测基准42。
(第八实施方式的变形例5)
在上述的第八实施方式中,规定的非接触操作600是用户朝着显示位置1按入手指F的操作。例如,是图48的(a)所示那样的手指F进行U形转弯的操作,但是并不限于此。规定的非接触操作600也可以是在显示位置伸出三根手指,还可以是在身体前进行手指F向显示位置1移动的动作。此外,规定的非接触操作600还可以是手指F的移动停止规定时间,例如停止20秒的动作。
在上述实施方式中,检测基准控制部204基于操作检测器13的检测输出来判定是否进行了规定的非接触操作600。但是,根据用户不同,存在不能正确地进行规定的非接触操作600的情况、或是无法顺利地进行的情况。例如,在规定的非接触操作600为手指下降移动10cm以及与之连续的上升移动10cm的情况下,根据用户不同,存在作为非接触操作,进行手指下降移动5cm以及与之连续的上升移动5cm的操作的情况。此外,在规定的非接触操作600是在显示位置1伸出三根手指的情况下,根据用户不同而存在无法顺利地张开第三根手指而只能伸出二根手指的情况。此外,在规定的非接触操作600是在身体前使手指F向显示位置移动的动作的情况下,根据用户不同,存在在身体的侧面进行使手指F向显示位置的移动的情况。而且,在规定的非接触操作600是手指F的移动停止规定时间、例如20秒的情况下,根据用户不同而有在达到20秒前、例如15秒左右就使手指动作的情况。
在这样的情况下,即使通过改变例如检测基准42的中心位置、检测宽度,而能够在检测基准42内检测到所有的用户操作,若用户所执行的操作本身(作为用户的操作而被检测出的检测值本身)与“规定的非接触操作600”(表示规定的非接触操作600的基准值)不一致,则即使对检测基准42(上述那样的位置、宽度)进行设定(改变),也无法识别出用户操作。在这种情况下,作为检测基准42的改变,改变表示规定的非接触操作600的基准值,由此能够将用户的操作识别为规定的非接触操作600。
因此,在用户进行了某非接触操作时,该某非接触操作虽然与规定的非接触操作600不同,但若是与规定的非接触操作600类似的动作、或是非常相似的动作等,则显示装置1推测为用户进行了规定的非接触操作600。然后,显示装置1将自身所存储的、表示规定的非接触操作600的基准值(规定的非接触操作600的定义)改变(更新)成用户所进行的操作本身(作为用户的操作而被检测出的检测值)。例如,检测基准控制部204检测用户的非接触操作,并将检测到的用户的非接触操作的检测值与表示规定的非接触操作600的、预先存储的基准值进行比较。表示规定的非接触操作600的基准值表示的是指显示装置1中预先存储的规定的非接触操作600的定义或模板等。当比较的结果是两者的相似度超过规定的阈值时,基于检测到的用户的非接触操作的检测值来改变规定的非接触操作600的基准值(预先存储的值)。由此,在用户所进行的非接触操作中,操作有效。例如,将表示“手指F下降10cm”的值作为表示规定的非接触操作600的基准值存储。在检测到手指F只下降了5cm的情况下,将表示规定的非接触操作600的基准值改变为表示“手指F下降5cm”的值。如此,通过改变表示规定的非接触操作600的基准值,通过与规定的非接触操作600类似的非接触操作也能够进行操作。此外,改变规定的非接触操作600的基准值,使得即使用户的非接触操作的操作量少、操作也有效,由此能够减轻用户的操作负担。
此外,将表示“在身体的‘前方’使手指下降移动10cm并与之连续地上升移动10cm”这样的动作的值作为表示规定的非接触操作的基准值存储。在用户在身体的“侧面”使手指下降移动10cm并与之连续地上升移动10cm的情况下,将表示上述的规定的非接触操作600的基准值改变为表示“在身体的侧面使手指下降移动10cm并与之连续地上升移动10cm”这样的动作的值。由此,通过在身体的侧面使手指下降移动10cm并与之连续地上升移动10cm的动作就能够操作显示装置1。
另外,也可以基于用户的多个操作来改变检测基准42(表示规定的非接触操作600的基准值)。即,可以在与规定的非接触操作600不同但类似的非接触操作进行了多次的情况下,改变表示上述的规定的非接触操作600的基准值。
如此,检测基准42的改变包括对表示规定的非接触操作600的基准值的改变。
(第八实施方式的变形例6)
在第八实施方式及其变形例1~5的显示装置1中,在规定的非接触操作600或规定的非接触操作600的一部分在检测基准外范围41内被检测到的情况等下,改变检测基准42。
也可以在指示检测基准42改变的操作在检测基准42内被检测到的情况下,改变检测基准42。该情况的检测基准42的改变包括检测基准42的位置、宽度的改变、以及表示规定的非接触操作600的基准值的改变。例如,在变形例6中,也可以是指示校准的手势存储在显示装置1中,当用户在检测基准42内进行了指示校准的手势时,改变检测基准42。此外,也可以是在检测基准外范围41内检测到指示校准的手势时,也与上述一样改变检测基准42。
(第八实施方式的变形例7)
检测基准控制部204也可以基于声音来改变检测基准42。该情况的检测基准42的改变包括检测基准42的位置、宽度的改变、以及表示规定的非接触操作600的基准值的改变。例如,显示装置1具有与第一实施方式的变形例6同样的集音器14,控制部20具有检测从集音器14输入的语音数据的语音检测部208。另外,在该情况下,语音检测部208具有“是”以外的语音也能够识别的、周知的语音识别功能。在用户说出意思为“无法执行”的话或是对话的情况下、或是说出意思是想要进行校准的话的情况等下,变形例7的显示装置1利用语音识别功能检测出该对话或是说的话,从而改变检测基准42。具体地说,既可以移动检测基准42,也可以改变检测基准42的宽度,以使得检测到声音(说话)时的、用户的手指位置被包含其中。或者,在检测到声音(说话)后,既可以使检测基准42向接近用户的方向移动规定量、例如1cm,也可以使检测基准42的宽度改变。此外,还可以改变表示规定的非接触操作600的基准值,以便成为在检测到声音(说话)时被作为用户的操作检测出来的检测值。此外,在检测到声音(说话)后,也可以使表示规定的非接触操作600的基准值改变规定量。例如,在将表示“下降10cm”操作的值作为表示规定的非接触操作600的基准值存储的情况下,当检测到声音(说话)时,将表示“下降9cm”这一操作的值作为表示规定的非接触操作600的基准值而进行改变(更新)。
另外,显示装置1也可以不具有集音器14,而是通过无线或有线方式输入通过外部的集音装置获取的语音数据,语音检测部208利用从外部的集音装置输入的语音数据来进行语音检测。
(第八实施方式的变形例8)
检测基准控制部204也可以基于时间来改变检测基准42。该情况的检测基准42的改变包括检测基准42的位置、宽度的改变、以及表示规定的非接触操作600的基准值的改变。例如,若在规定时间内,规定的非接触操作600在检测基准42内没有被检测到,则变形例8的显示装置1使检测基准42改变规定量。因此,控制部20具有计时部,在显示装置1的电源开关接通后,若在规定时间内没有对图标等的操作,则基于对规定时间进行了计时的计时部的输出,检测基准控制部204使检测基准42改变规定量。此外,在对某图标等进行了操作后,若经过规定时间也没有对下一图标等进行操作,则基于对规定时间进行了计时的计时部的输出,检测基准控制部204使检测基准42改变规定量。
当在变形例8中基于规定时间的计时来改变检测基准42的情况下,优选以使得检测基准42向接近用户一方的方向移动规定量的方式进行改变。例如,若在规定时间内没有检测到用户的操作,则既可以使检测基准42的中心位置(全体位置)向接近用户的方向移动规定量、例如1cm,也可以改变检测基准42的宽度。此外,既可以移动检测基准42的中心位置,也可以改变检测基准42的宽度,以使得经过规定时间时的用户的手指位置被包含其中。此外,还可以改变表示规定的非接触操作600的基准值,以便成为在规定时间经过时被作为用户的操作检测出来的检测值。在经过了规定时间后,也可以使表示规定的非接触操作600的基准值改变规定量。例如,在将表示“下降10cm”操作的值作为表示规定的非接触操作600的基准值存储的情况下,当经过了规定时间时,将表示“下降9cm”这一操作的值作为表示规定的非接触操作600的基准值而进行改变(更新)。
(第八实施方式的变形例9)
检测基准控制部204也可以基于用户的面部改变检测基准42。该情况的检测基准42的改变包括检测基准42的位置、宽度的改变、以及表示规定的非接触操作600的基准值的改变。例如,通过设于变形例9的显示装置1中的相机拍摄用户的面部,并在控制部20对该拍摄图像进行解析,当检测到用户的面部的规定表情(基于所谓的面部识别功能的规定表情的识别),改变检测基准42。另外,规定表情是例如用户无法顺利地进行操作时的为难的表情,当检测到用户的为难的表情的情况下,改变检测基准42。
例如,当利用显示装置1的面部识别功能检测到用户正在为难时,可以使检测基准42向接近用户的方向移动规定量(例如1cm),也可以改变检测基准42的宽度。此外,也可以将表示识别出为难的表情之前用户所进行的操作的检测值存储起来,并基于该存储的检测值改变表示规定的非接触操作600的基准值。
(第八实施方式的变形例10)
检测基准控制部204也可以在用户的手势操作在检测基准42内没有被检测到的情况下,改变检测基准42(检测基准42的位置、宽度、表示规定的非接触操作的基准值)。例如,在作为规定的非接触操作600的用户的手势操作是例如手比划出的石头、剪子、布等动作、或是与手指F的下降移动连续的横向移动动作中的某一个的情况下,变形例10的显示装置1将上述各动作的特征信息(表示特征的基准值)分别预先存储于存储部205。然后,显示装置1检测用户的手势操作,并将该检测到的手势操作与从存储于存储部205中的多个特征信息中选择出的某一个特征信息进行比较,判定该手势操作是否相当于上述某一个规定的非接触操作。显示装置1在用户的手势操作没有在检测基准42内被检测到的情况下,改变检测基准42。该情况下的检测基准42的改变是指表示规定的非接触操作600的基准值的选择的改变。即,例如显示装置1最初将表示石头手势的特征信息作为在检测基准42内检测时使用的基准值而选择出来。若在该检测基准42内无法检测到用户操作,则显示装置1将基准值从表示石头手势的特征信息选择性地改变为表示与石头手势不同的操作(上述多个手势操作中的其他操作,例如剪子手势)的特征信息。
(第八实施方式的变形例11)
在规定的非接触操作600是手指F的位置与规定位置一致的动作的情况下,存在该规定位置处于检测基准42之中的情况、规定位置处于检测基准外范围41中的情况、规定位置与图标的显示位置一致的情况、规定位置为检测基准42的位置的情况等。在规定位置处于检测基准42之中的情况下,当手指存在于检测基准42中时判定为进行了规定的非接触操作600。在规定位置处于检测基准外范围41中的情况下,当手指处于检测基准外范围41内时判定为进行了规定的非接触操作600。在规定位置与图标的显示位置一致的情况下,当手指F与空中图像的图标的显示位置一致时、或是对图标的显示位置进行了操作时判定为进行了规定的非接触操作600。在规定位置为检测基准42的位置的情况下,当手指F通过检测基准42与检测基准外范围41之间的边界时、或是手指通过上述边界又再次通过边界时,判定为进行了规定的非接触操作600。
(第八实施方式的变形例12)
在第八实施方式及其变形例1~11中,对检测基准42在上下方向上具有宽度D1的情况进行了说明,但是也可以如第一实施方式的检测基准40那样由面构成。如图60的(a)、(b)所示,在进行了从检测基准40向下方在距离L1或距离L1以上的位置处进行U形转弯的规定的非接触操作600A的情况下,在检测基准40检测到进行了规定的非接触操作600A。在如图61的(a)所示那样在检测基准40的上方(静电电容检测范围13A内)进行了规定的非接触操作600A的情况下,利用操作检测器13在检测基准外范围41内检测到规定的非接触操作600A,在如图61的(b)所示那样通过检测基准40而进行了规定的非接触操作600A的情况下,利用操作检测器13在检测基准外范围41内检测到规定的非接触操作600A的一部分。在图61的(a)、(b)的情况下,基于离检测基准40的距离计算出位移量ΔH10,并以该位移量ΔH10改变检测基准40的位置(图61中的Z方向上的位置)。
第八实施方式及其变形例1~12可以利用在第四实施方式及其变形例1以及第七实施方式中说明的显示装置100来进行。
此外,在第八实施方式及其变形例1~12中,关于进行与对空中图像的显示位置的操作相对的规定的非接触操作600的情况进行了说明,但是并不限于此例。例如,当在空间上对第八实施方式及其变形例1~12的显示装置的显示器11上所显示的图像进行规定的非接触操作600时,也可以基于规定的非接触操作600的空间上的位置与检测基准42之间的位置关系,改变检测基准42的位置。
另外,在上述的第八实施方式及其变形例1~12中,是以至少包括控制部20、显示器11以及操作检测器13的显示装置1为例进行说明的,但是也可以是仅由控制部20构成的控制装置、或是由控制部20和显示器11构成的控制装置。而且,控制部20只要至少具有校准部203和检测基准控制部204即可。
在以上说明的各实施方式及其变形例中,关于显示装置1,说明了通过成像光学系统12将显示器11所显示的像生成为空中图像这样的构成。此外,关于显示装置100,说明了通过成像光学系统12将显示器111所显示的像生成为空中图像这样的构成。但是,生成空中图像的构成并不限于上述构成,也包含以下说明的方法。当然,以下说明的构成只是一例,除此以外的生成空中图像的方法也包含于其中。
在显示装置中,作为生成空中图像的构成的例子,有下述例子:使显示装置的显示器显示通过右眼来视觉观看的图像、和与用右眼视觉观看的图像具有视差的、通过左眼来视觉观看的图像,由此生成使用户感觉到与通过显示器显示的图像具有不同进深的图像。通过这种方式,用户能够认识到与显示器所显示的图像相对应的图像被显示在空中。
此外,作为显示装置,还可以使用透视型头戴式可视设备(HMD),并使用户穿戴该设备。当使HMD显示图像时,由于所显示的图像在实际的视野中是重叠的,所以用户感觉HMD所显示的图像宛如在空中显示的图像。
另外,作为生成空中图像的方法,可以列举出投影虚像的方法、使图像直接成像于用户的视网膜的方法等。此外,作为生成空中图像的方法,也可以使激光在空中汇聚从而使构成空气的分子等离子体化进而在空中发光,从而在空中形成图像。在该情况下,通过在三维空间中自由地控制激光的汇聚位置,而能够在空中生产作为实像的三维图像。此外,作为生成空中图像的方法,除了投影功能外,还可以利用具有使空气中产生雾的功能的显示装置,使空气中产生雾而形成显示屏,并在该雾形成的显示屏上投射图像(雾屏显示器),由此来在空中生成图像。
也可以将用于利用显示装置1、100执行校准的程序事先记录在计算机可读取的记录介质中,使计算机系统读取该程序而执行校准。此处所说的“计算机系统”,也可以包含OS(Operating System;操作系统)、周边设备等硬件。
另外,上述“计算机系统”还包括利用WWW系统的主页提供环境(或显示环境)。此外,上述“计算机可读取的记录介质”是指,软盘、光磁盘、ROM、闪速存储器等的可写入的非易失性存储器、CD-ROM等可移动介质、内置于计算机系统中的硬盘等存储装置。再者,上述“计算机可读取的记录介质”也包含像在经由互联网等网络、电话线路等通信线路发送程序的情况下、作为服务器、客户端的计算机系统内部的易失性存储器(例如DRAM(DynamicRandom Access Memory)那样在一定时间内保存程序的介质。
上述“程序”也可以从在存储装置等中存储了该程序的计算机系统经由传输介质或是传输介质中的传输波而被传输给其他的计算机系统。此处,传输程序的“传输介质”是指,具有像互联网等网络(通信网络)、电话线路等通信线路(通信线路)那样传输信息的功能的介质。此外,上述程序也可以是用于实现上述功能的一部分的程序。再者,也可以是通过与已经存储在计算机系统中的程序的组合来实现上述功能的程序、即所谓的差分文件(差分程序)。
另外,也可以将上述各实施方式以及各变形例组合来构成下述检测装置,该检测装置检测使用者对空中的显示画面的操作,其具有:检测部,在检测基准检测规定的非接触操作;和控制部,改变检测到操作的检测基准与显示画面之间的位置关系,并在规定的非接触操作在检测基准没有被检测到的情况下改变检测基准,控制部能够根据使用者来改变位置关系。该检测装置的控制部还可以进一步基于声音来改变检测基准。此外,该检测装置的控制部还可以进一步基于时间来改变检测基准。此外,该检测装置的控制部还可以进一步基于使用者的面部来改变检测基准。此外,该检测装置的控制部还可以进一步在作为规定的非接触操作的规定动作在检测基准没有被检测到的情况下,改变检测基准。此外,该检测装置的控制部还可以在作为规定的非接触操作的按下操作在检测基准没有被检测到的情况下,改变检测基准。此外,该检测装置的控制部还可以进一步在作为规定的非接触操作的手势操作在检测基准没有被检测到的情况下,改变检测基准。此外,该检测装置的控制部还可以进一步在作为规定的非接触操作的、进行非接触操作的操作物体的形状与规定形状不一致的情况下,改变检测基准。此外,还可以将上述各实施方式以及各变形例组合来构成下述检测装置,该检测装置检测使用者对空中的显示画面的操作,其具有:检测部,具有检测非接触操作的检测基准;和控制部,改变检测到非接触操作的检测基准与显示画面之间的位置关系,并基于在检测基准外范围检测到的非接触操作改变检测基准,控制部能够根据使用者来改变位置关系。
另外,还可以将上述各实施方式以及各变形例组合来构成下述检测装置,该检测装置具有:检测部,在检测基准检测规定的非接触操作;和控制部,在规定的非接触操作在检测基准没有被检测到的情况下,改变检测基准,控制部基于使用者的操作来改变位置关系。此外,还可以将上述各实施方式以及各变形例组合来构成下述检测装置,该检测装置具有:检测部,在检测基准检测规定的非接触操作;和控制部,在规定的非接触操作在检测基准没有被检测到的情况下,改变检测基准,控制部基于使用者的信息来改变位置关系。此外,还可以将上述各实施方式以及各变形例组合来构成下述检测装置,该检测装置具有:检测部,在检测基准检测规定的非接触操作;和控制部,在规定的非接触操作在检测基准没有被检测到的情况下,改变检测基准,控制部基于使用者引起的检测装置周边的环境变化来改变位置关系。
另外,还可以将上述各实施方式以及各变形例组合来构成下述检测装置,该检测装置检测使用者对空中的显示画面的操作,其具有:检测部,在检测基准检测规定的非接触操作;和控制部,在规定的非接触操作在检测基准没有被检测到的情况下,改变检测基准,控制部控制显示画面来改变位置关系。
另外,还可以将上述各实施方式以及各变形例组合来构成下述控制装置,该控制装置具有控制部,控制部基于使用者的操作来控制显示画面,从而改变检测使用者对空中的显示画面的操作的检测装置与显示画面之间的位置关系,控制部能够根据使用者来改变位置关系。此外,还可以将上述各实施方式以及各变形例组合来构成下述控制装置,该控制装置具有控制部,控制部基于使用者的信息来控制显示画面,从而改变检测使用者对空中的显示画面的操作的检测装置与显示画面之间的位置关系,控制部能够根据使用者来改变位置关系。此外,还可以将上述各实施方式以及各变形例组合来构成下述控制装置,该控制装置具有控制部,控制部基于使用者引起的检测装置周边的环境变化来控制显示画面,从而改变检测使用者对空中的显示画面的操作的检测装置与显示画面之间的位置关系,控制部能够根据使用者来改变位置关系。
此外,还可以将上述各实施方式以及各变形例组合来构成下述控制装置,该控制装置具有:检测部,在检测基准检测规定的非接触操作;和控制部,控制显示画面来改变检测使用者对空中的显示画面的操作的检测基准与显示画面之间的位置关系,在规定的非接触操作在检测基准没有被检测到的情况下,改变检测基准,控制部根据使用者来改变位置关系。该控制装置的控制部还可以进一步基于声音来改变检测基准。此外,该控制装置的控制部还可以进一步基于时间来改变检测基准。此外,该控制装置的控制部还可以进一步基于使用者的面部来改变检测基准。此外,该控制装置的控制部还可以进一步在作为规定的非接触操作的规定动作在检测基准没有被检测到的情况下,改变检测基准。此外,该控制装置的控制部还可以在作为规定的非接触操作的按下操作在检测基准没有被检测到的情况下,改变检测基准。此外,该控制装置的控制部还可以进一步在作为规定的非接触操作的手势操作在检测基准没有被检测到的情况下,改变检测基准。此外,该控制装置的控制部还可以进一步在作为规定的非接触操作的、进行非接触操作的操作物体的形状与规定形状不一致的情况下,改变检测基准。此外,还可以将上述各实施方式以及各变形例组合来构成下述控制装置,该控制装置具有:检测部,具有检测非接触操作的检测基准;和控制部,控制显示画面来改变检测使用者对空中的显示画面的操作的检测基准与显示画面之间的位置关系,并基于在检测基准外范围检测到的非接触操作改变检测基准,控制部能够根据使用者来改变位置关系。
只要无损本发明的特点,本发明并不限于上述实施方式和上述变形例,在本发明的技术思想范围内能够想到的其他方式也包含在本发明的范围内。而且,本发明可以对上述实施例的方式及上述变形例进行合适的组合。
附图标记的说明
1,100 显示装置
11,111 显示器
12,112 成像光学系统
13,113 操作检测器
14 集音器
18,118 拍摄装置
19 环境检测部
20 控制部
116 投光元件
117 受光元件
119 致动器
201 图像生成部
202 显示控制部
203 校准部
204 检测基准控制部
205 存储部
206 速度/加速度检测部
207 停止位置预测部
208 语音检测部
209 图像解析部
210 用户信息解析部
220 显示位置控制部
500 显示位置改变部

Claims (18)

1.一种控制装置,其特征在于,
具有控制部,该控制部控制空中的显示画面来改变检测基准与所述显示画面之间的位置关系,其中,在所述检测基准检测使用者对空中的所述显示画面的操作,
所述控制部能够根据使用者来改变所述位置关系,
所述控制部基于在所述检测基准以外的范围即检测基准外范围检测到的所述使用者的操作来改变所述位置关系。
2.根据权利要求1所述的控制装置,其特征在于,
所述控制部根据所述使用者来控制改变所述位置关系的时机。
3.根据权利要求2所述的控制装置,其特征在于,
所述控制部在所述使用者的操作结束后改变所述位置关系。
4.根据权利要求3所述的控制装置,其特征在于,
所述使用者的操作是所述使用者的手指所进行的操作,
所述控制部在检测到的所述手指的位置变化在规定的范围内的情况下,判定为所述使用者的操作结束。
5.根据权利要求2所述的控制装置,其特征在于,
所述控制部在检测到所述使用者所发出的语音的情况下,改变所述位置关系。
6.根据权利要求2所述的控制装置,其特征在于,
所述控制部在所述使用者没有视觉观看所述显示画面的情况下,改变所述位置关系。
7.根据权利要求6所述的控制装置,其特征在于,
所述控制部基于与检测到的所述使用者的视线相关的信息、与所述使用者的面部朝向相关的信息、以及与所述使用者的身体朝向相关的信息中的至少一个,来判定所述使用者是否正在视觉观看所述显示画面。
8.根据权利要求1至7中任一项所述的控制装置,其特征在于,
所述控制部使所述显示画面以第一规定值以下的速度、或是比所述第一规定值快的第二规定值以上的速度移动,来改变所述位置关系。
9.根据权利要求1至7中任一项所述的控制装置,其特征在于,
所述控制部在改变所述位置关系的情况下,将所述显示画面的显示方式从改变所述位置关系之前的所述显示画面的显示方式改变成与之不同的显示方式。
10.根据权利要求9所述的控制装置,其特征在于,
所述控制部改变所述显示画面的亮度和所述显示画面的对比度中的至少一方。
11.根据权利要求9所述的控制装置,其特征在于,
所述控制部改变所述显示画面的一部分的显示方式。
12.根据权利要求1至7中任一项所述的控制装置,其特征在于,
所述检测基准包括第一检测基准和第二检测基准,
所述控制部基于在所述第一检测基准检测到的所述使用者的操作来控制所述显示画面、来改变所述第一检测基准与所述显示画面之间的第一位置关系,并基于在所述第二检测基准检测到的所述使用者的操作来控制所述第二检测基准、来改变所述第二检测基准与所述显示画面之间的第二位置关系。
13.根据权利要求1至7中任一项所述的控制装置,其特征在于,
具有将所述显示画面显示在空中的显示部。
14.根据权利要求13所述的控制装置,其特征在于,
具有使所述显示部移动的移动部,
所述控制部控制所述移动部而使所述显示部移动,来改变所述位置关系。
15.根据权利要求13所述的控制装置,其特征在于,
所述显示部使基于视差而形成的立体图像显示在空中,
所述控制部控制由所述显示部显示的所述立体图像的视差来改变所述位置关系。
16.一种电子设备,其具有权利要求1至15中任一项所述的控制装置。
17.一种控制方法,其特征在于,
控制空中的显示画面,并根据使用者来改变检测使用者的操作的检测基准与所述显示画面之间的位置关系,基于在所述检测基准以外的范围即检测基准外范围检测到的所述使用者的操作来改变所述位置关系。
18.一种记录介质,记录有程序,所述程序使计算机执行下述处理:控制空中的显示画面,并根据使用者来改变检测使用者的操作的检测基准与所述显示画面之间的位置关系,基于在所述检测基准以外的范围即检测基准外范围检测到的所述使用者的操作来改变所述位置关系的处理。
CN201480046601.4A 2014-12-26 2014-12-26 控制装置、电子设备、控制方法及程序 Active CN105934732B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110375065.4A CN112965636A (zh) 2014-12-26 2014-12-26 控制装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2014/084716 WO2016103522A1 (ja) 2014-12-26 2014-12-26 制御装置、電子機器、制御方法およびプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
CN202110375065.4A Division CN112965636A (zh) 2014-12-26 2014-12-26 控制装置

Publications (2)

Publication Number Publication Date
CN105934732A CN105934732A (zh) 2016-09-07
CN105934732B true CN105934732B (zh) 2021-04-27

Family

ID=56149604

Family Applications (2)

Application Number Title Priority Date Filing Date
CN201480046601.4A Active CN105934732B (zh) 2014-12-26 2014-12-26 控制装置、电子设备、控制方法及程序
CN202110375065.4A Pending CN112965636A (zh) 2014-12-26 2014-12-26 控制装置

Family Applications After (1)

Application Number Title Priority Date Filing Date
CN202110375065.4A Pending CN112965636A (zh) 2014-12-26 2014-12-26 控制装置

Country Status (7)

Country Link
US (1) US10748509B2 (zh)
EP (1) EP3239818A4 (zh)
JP (1) JP6520918B2 (zh)
KR (1) KR20170105404A (zh)
CN (2) CN105934732B (zh)
TW (1) TW201636796A (zh)
WO (1) WO2016103522A1 (zh)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10503392B2 (en) * 2015-06-25 2019-12-10 Oath Inc. User interface adjustment methods and systems
US10722800B2 (en) 2016-05-16 2020-07-28 Google Llc Co-presence handling in virtual reality
US10592048B2 (en) * 2016-05-17 2020-03-17 Google Llc Auto-aligner for virtual reality display
US10459522B2 (en) * 2016-06-15 2019-10-29 Konkuk University Glocal Industry-Academic Collaboration Foundation System and method for inducing somatic sense using air plasma and interface device using them
WO2018147143A1 (ja) * 2017-02-09 2018-08-16 ソニー株式会社 情報処理装置および情報処理方法
JP2019185169A (ja) * 2018-04-03 2019-10-24 富士通コンポーネント株式会社 入力装置
JP2019197190A (ja) * 2018-05-11 2019-11-14 富士ゼロックス株式会社 情報処理装置、情報処理システム及びプログラム
KR102101565B1 (ko) * 2018-08-21 2020-04-16 박주현 미디어 안내장치
EP3651003B1 (en) * 2018-11-07 2022-04-06 Vestel Elektronik Sanayi ve Ticaret A.S. Touch-sensitive input device, screen and method
US11481069B2 (en) * 2020-09-15 2022-10-25 International Business Machines Corporation Physical cursor control in microfluidic display devices
JP2022100561A (ja) * 2020-12-24 2022-07-06 マクセル株式会社 空間浮遊映像表示装置
JP6916568B1 (ja) * 2021-01-29 2021-08-11 株式会社ツガワ 端末処理装置
JP7349200B1 (ja) 2022-12-19 2023-09-22 株式会社ソリトンウェーブ 非接触入力装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101042621A (zh) * 2006-03-20 2007-09-26 南京Lg同创彩色显示系统有限责任公司 写字板显示器的误差校正装置及其方法
CN102566822A (zh) * 2012-01-17 2012-07-11 苏州瀚瑞微电子有限公司 一种触摸屏的自动校准方法
CN102713822A (zh) * 2010-06-16 2012-10-03 松下电器产业株式会社 信息输入装置、信息输入方法以及程序

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060176294A1 (en) * 2002-10-07 2006-08-10 Johannes Vaananen Cursor for electronic devices
US7893920B2 (en) 2004-05-06 2011-02-22 Alpine Electronics, Inc. Operation input device and method of operation input
JP4274997B2 (ja) 2004-05-06 2009-06-10 アルパイン株式会社 操作入力装置および操作入力方法
JP4318056B1 (ja) 2008-06-03 2009-08-19 島根県 画像認識装置および操作判定方法
JP4793422B2 (ja) 2008-10-10 2011-10-12 ソニー株式会社 情報処理装置、情報処理方法、情報処理システムおよび情報処理用プログラム
TW201020901A (en) * 2008-11-20 2010-06-01 Ibm Visual feedback for drag-and-drop operation with gravitational force model
JP4701424B2 (ja) 2009-08-12 2011-06-15 島根県 画像認識装置および操作判定方法並びにプログラム
US8514255B2 (en) * 2009-08-31 2013-08-20 Namco Bandai Games Inc. Information storage medium, image control device, and image control method
JP5446769B2 (ja) * 2009-11-20 2014-03-19 富士通モバイルコミュニケーションズ株式会社 3次元入力表示装置
JP4900741B2 (ja) * 2010-01-29 2012-03-21 島根県 画像認識装置および操作判定方法並びにプログラム
CN101866243A (zh) 2010-07-09 2010-10-20 苏州瀚瑞微电子有限公司 三维空间触控操作的方法及其手势
US20120056989A1 (en) * 2010-09-06 2012-03-08 Shimane Prefectural Government Image recognition apparatus, operation determining method and program
EP2620849B1 (en) 2010-09-22 2019-08-28 Shimane Prefectural Government Operation input apparatus, operation input method, and program
JP5494423B2 (ja) 2010-11-02 2014-05-14 ソニー株式会社 表示装置、位置補正方法およびプログラム
JP5785753B2 (ja) 2011-03-25 2015-09-30 京セラ株式会社 電子機器、制御方法および制御プログラム
JP5766479B2 (ja) * 2011-03-25 2015-08-19 京セラ株式会社 電子機器、制御方法および制御プログラム
JP5341126B2 (ja) * 2011-03-31 2013-11-13 シャープ株式会社 検出領域拡大装置、表示装置、検出領域拡大方法、プログラムおよび、コンピュータ読取可能な記録媒体
TW201248452A (en) * 2011-05-30 2012-12-01 Era Optoelectronics Inc Floating virtual image touch sensing apparatus
US9671869B2 (en) * 2012-03-13 2017-06-06 Eyesight Mobile Technologies Ltd. Systems and methods of direct pointing detection for interaction with a digital device
KR20130109389A (ko) * 2012-03-27 2013-10-08 박승배 개인화 가상키보드 제공방법
CN103376891A (zh) * 2012-04-23 2013-10-30 凹凸电子(武汉)有限公司 多媒体系统,显示装置的控制方法及控制器
US9524098B2 (en) * 2012-05-08 2016-12-20 Sonos, Inc. Methods and systems for subwoofer calibration
JP6040564B2 (ja) * 2012-05-08 2016-12-07 ソニー株式会社 画像処理装置、投影制御方法及びプログラム
JP2014067071A (ja) 2012-09-10 2014-04-17 Askanet:Kk 空中タッチパネル
US20140191927A1 (en) * 2013-01-09 2014-07-10 Lg Electronics Inc. Head mount display device providing eye gaze calibration and control method thereof
JP6206180B2 (ja) * 2013-12-27 2017-10-04 船井電機株式会社 画像表示装置
CN103731526A (zh) * 2014-01-21 2014-04-16 唐景华 一种能将三维画面悬浮在空中虚拟成像的智能手机
US10353207B2 (en) * 2014-12-19 2019-07-16 Sony Interactive Entertainment Inc. Head-mounted display device and video display system

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101042621A (zh) * 2006-03-20 2007-09-26 南京Lg同创彩色显示系统有限责任公司 写字板显示器的误差校正装置及其方法
CN102713822A (zh) * 2010-06-16 2012-10-03 松下电器产业株式会社 信息输入装置、信息输入方法以及程序
CN102566822A (zh) * 2012-01-17 2012-07-11 苏州瀚瑞微电子有限公司 一种触摸屏的自动校准方法

Also Published As

Publication number Publication date
KR20170105404A (ko) 2017-09-19
JP6520918B2 (ja) 2019-05-29
CN105934732A (zh) 2016-09-07
US10748509B2 (en) 2020-08-18
US20170025097A1 (en) 2017-01-26
EP3239818A4 (en) 2018-07-11
TW201636796A (zh) 2016-10-16
EP3239818A1 (en) 2017-11-01
CN112965636A (zh) 2021-06-15
WO2016103522A1 (ja) 2016-06-30
JPWO2016103522A1 (ja) 2017-09-14

Similar Documents

Publication Publication Date Title
CN105934732B (zh) 控制装置、电子设备、控制方法及程序
CN106062683B (zh) 检测装置、电子设备、检测方法以及程序
JP6724987B2 (ja) 制御装置および検出方法
US10983680B2 (en) Display device, program, display method and control device
JP6733731B2 (ja) 制御装置、プログラムおよび制御方法
US10747395B2 (en) Display device, program, display method and control device
US20220011900A1 (en) Detection device and program
JP6658809B2 (ja) 検出装置、電子機器、検出方法およびプログラム

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant