CN107710114A - 电子设备、以及驱动控制方法 - Google Patents
电子设备、以及驱动控制方法 Download PDFInfo
- Publication number
- CN107710114A CN107710114A CN201580081042.5A CN201580081042A CN107710114A CN 107710114 A CN107710114 A CN 107710114A CN 201580081042 A CN201580081042 A CN 201580081042A CN 107710114 A CN107710114 A CN 107710114A
- Authority
- CN
- China
- Prior art keywords
- mentioned
- amplitude
- image
- subject
- electronic equipment
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/043—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means using propagating acoustic waves
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/016—Input arrangements with force or tactile feedback as computer generated output to the user
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/02—Input arrangements using manually operated switches, e.g. using keyboards or dials
- G06F3/023—Arrangements for converting discrete items of information into a coded form, e.g. arrangements for interpreting keyboard generated codes as alphanumeric codes, operand codes or instruction codes
- G06F3/0233—Character input methods
- G06F3/0236—Character input methods using selection techniques to select from displayed items
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/0412—Digitisers structurally integrated in a display
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/042—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/042—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
- G06F3/0425—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04847—Interaction techniques to control parameter settings, e.g. interaction with sliders or dials
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
- G06F3/04886—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures by partitioning the display area of the touch-screen or the surface of the digitising tablet into independently controllable areas, e.g. virtual keyboards or menus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
- G06F2203/01—Indexing scheme relating to G06F3/01
- G06F2203/014—Force feedback applied to GUI
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/045—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means using resistive elements, e.g. a single continuous surface or two parallel surfaces put in contact
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Acoustics & Sound (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本发明提供提供与光泽的有无对应的触感的电子设备。电子设备包含:提取部,其基于包含被拍摄体的视场的图像和距离图像,提取被拍摄体的距离图像;判定部,其基于被拍摄体的距离图像所包含的噪声,判定被拍摄体是否是光泽物体;显示部,其显示视场的图像;上面板,其配设在显示部的显示面侧,且具有操作面;振动元件,其由使操作面产生超声波频带的固有振动的驱动信号驱动;振幅数据分配部,其对光泽物体的显示区域分配第一振幅作为驱动信号的振幅数据,并对非光泽物体的显示区域分配比第一振幅小的第二振幅;以及驱动控制部,若在光泽物体的显示区域内进行操作输入则该驱动控制部根据操作输入的位置的随时间变化程度以第一振幅的驱动信号驱动振动元件,若在非光泽物体的显示区域内进行操作输入则该驱动控制部根据操作输入的位置的随时间变化程度以第二振幅的驱动信号驱动振动元件。
Description
技术领域
本发明涉及电子设备、以及驱动控制方法。
背景技术
以往,有使用具有被拍摄体的三维信息的距离图像,基于用手指描绘的部分的被拍摄体的倾斜信息,自动决定与凹凸等形状有关的提示触感的方法(例如,参照非专利文献1)。
非专利文献1:Kim,Seung-Chan,Ali Israr,and Ivan Poupyrev."Tactilerendering of 3D features on touch surfaces."Proceedings of the 26th annualACM symposium on User interface software and technology.ACM,2013.
然而,以往的提示触感的自动决定方法仅提示与物体的形状有关的触感,不能够提供与光泽的有无对应的触感。
发明内容
因此,目的在于提供能够提供与光泽的有无对应的触感的电子设备和驱动控制方法。
本发明的实施方式的电子设备包含:拍摄部,其获取包含被拍摄体的视场的图像和距离图像;距离图像提取部,其基于上述图像、和上述距离图像,提取上述被拍摄体的距离图像;光泽判定部,其基于上述被拍摄体的距离图像所包含的数据的缺失部,判定上述被拍摄体是否是有光泽的物体;显示部,其显示上述图像;上面板,其配设在上述显示部的显示面侧,且具有操作面;位置检测部,其检测在上述操作面进行的操作输入的位置;振动元件,其由使上述操作面产生超声波频带的固有振动的驱动信号驱动,使上述操作面产生超声波频带的固有振动;振幅数据分配部,其对通过上述光泽判定部判定为是有光泽的物体的上述被拍摄体的显示区域分配第一振幅作为上述驱动信号的振幅数据,并对通过上述光泽判定部判定为是没有光泽的物体的上述被拍摄体的显示区域分配比上述第一振幅小的第二振幅作为上述驱动信号的振幅数据;以及驱动控制部,其若在上述显示部显示通过上述光泽判定部判定为是有光泽的物体的上述被拍摄体的区域内进行对上述操作面的操作输入,则根据上述操作输入的位置的随时间变化程度以分配了上述第一振幅的上述驱动信号驱动上述振动元件,若在上述显示部显示通过上述光泽判定部判定为是没有光泽的物体的上述被拍摄体的区域内进行对上述操作面的操作输入,则根据上述操作输入的位置的随时间变化程度以分配了上述第二振幅的上述驱动信号驱动上述振动元件。
能够提供可提供与光泽的有无对应的触感的电子设备和驱动控制方法。
附图说明
图1是表示实施方式1的电子设备的立体图。
图2是表示实施方式1的电子设备的俯视图。
图3是表示图2所示的电子设备的A-A箭头剖面的图。
图4是表示实施方式1的电子设备的仰视图。
图5是表示由于超声波频带的固有振动而在上面板产生的驻波中与上面板的短边平行地形成的波峰的图。
图6是说明通过使电子设备的上面板产生的超声波频带的固有振动,而施加给进行操作输入的指尖的动摩擦力变化的样子的图。
图7是表示实施方式1的电子设备的构成的图。
图8是表示电子设备的利用的方法的一个例子的图。
图9是说明通过红外线照相机获取的距离图像的图。
图10是说明通过红外线照相机获取的距离图像的图。
图11是表示包含噪声的距离图像的图。
图12是示出表示实施方式1的电子设备为了分配振幅数据而执行的处理的流程图的图。
图13是示出表示实施方式1的电子设备为了分配振幅数据而执行的处理的流程图的图。
图14是表示图12的流程的一部分的详细的流程图。
图15是表示基于图14所示的流程的图像处理的图。
图16是表示获取噪声比例的处理的流程图。
图17是表示通过振幅数据分配部分配到特定区域的振幅数据的图。
图18是表示储存于存储器的光泽物体用的振幅数据、和非光泽物体用的振幅数据的图。
图19是表示储存于存储器的数据的图。
图20是表示实施方式的电子设备的驱动控制部执行的处理的流程图。
图21是表示实施方式1的电子设备的动作例的图。
图22是表示电子设备的利用场景的图。
图23是示出表示实施方式2的电子设备为了分配振幅数据而执行的处理的流程图的图。
图24是表示噪声比例的概率分布的图。
图25是表示通过模态法决定阈值的方法的图。
图26是表示实施方式3的特定区域的图像的获取方法的处理的流程图。
图27是表示通过图26所示的流程进行的图像处理的图。
图28是表示实施方式4的电子设备的侧视图。
具体实施方式
以下,对应用了本发明的电子设备、以及驱动控制方法的实施方式进行说明。
<实施方式1>
图1是表示实施方式1的电子设备100的立体图。
电子设备100作为一个例子,是将触摸面板作为输入操作部的智能手机终端机,或者,平板型计算机。电子设备100只要是将触摸面板作为输入操作部的设备即可,所以例如,也可以是移动信息终端机,或者,ATM(Automatic Teller Machine:自动取款机)那样设置在特定的场所来利用的设备。
电子设备100的输入操作部101在触摸面板下配设显示面板,在显示面板显示基于GUI(Graphic User Interface:图形用户界面)的各种按钮102A,或者,滑块102B等(以下,称为GUI操作部102)。
电子设备100的利用者通常为了操作GUI操作部102,而以指尖触摸输入操作部101。
接下来,使用图2,对电子设备100的具体的构成进行说明。
图2是表示实施方式1的电子设备100的俯视图,图3是表示图2所示的电子设备100的A-A箭头剖面的图。图4是表示实施方式1的电子设备100的仰视图。此外,在图2~图4中,如图示那样定义作为正交坐标系的XYZ坐标系。
电子设备100包含壳体110、上面板120、双面胶带130、振动元件140、触摸面板150、显示面板160、以及基板170。另外,电子设备100包含照相机180、红外线照相机190以及红外线光源191。照相机180、和红外线照相机190以及红外线光源191设在电子设备100的底面(参照图4)。
壳体110例如为树脂制,如图3所示在凹部110A配设基板170、显示面板160、以及触摸面板150,并且通过双面胶带130粘合上面板120。在壳体110的底面(参照图4)设置有照相机180、红外线照相机190以及红外线光源191。
上面板120是俯视时长方形的较薄的平板状的部件,由透明的玻璃,或者,聚碳酸酯那样的增强塑料制成。上面板120的表面120A(Z轴正方向侧的面)是电子设备100的利用者进行操作输入的操作面的一个例子。
上面板120在Z轴负方向侧的面粘合振动元件140,且俯视时的四边通过双面胶带130与壳体110粘合。此外,双面胶带130只要能够将上面板120的四边与壳体110粘合即可,不需要如图3所示那样为矩形环状。
在上面板120的Z轴负方向侧配设有触摸面板150。上面板120为了保护触摸面板150的表面而设置。此外,也可以在上面板120的表面120A进一步设置其它的面板或者保护膜等。
上面板120在Z轴负方向侧的面粘合了振动元件140的状态下,通过振动元件140被驱动而振动。在实施方式1中,使上面板120以上面板120的固有振动频率振动,使上面板120产生驻波。但是,由于在上面板120粘合有振动元件140,所以实际上,优选在考虑了振动元件140的重量等的基础上,决定固有振动频率。
振动元件140在上面板120的Z轴负方向侧的面上,在Y轴正方向侧沿着向X轴方向伸延的短边粘合。振动元件140只要是能够产生超声波频带的振动的元件即可,例如,能够使用包含压电式元件那样的压电元件的元件。
振动元件140被从后述的驱动控制部输出的驱动信号驱动。根据驱动信号设定振动元件140产生的振动的振幅(强度)以及频率。另外,根据驱动信号控制振动元件140的开/关。
此外,超声波频带例如是指大约20kHz以上的频段。在实施方式1的电子设备100中,振动元件140振动的频率与上面板120的振动频率相等,所以振动元件140被驱动信号驱动为以上面板120的固有振动频率振动。
触摸面板150配设在显示面板160之上(Z轴正方向侧)、上面板120之下(Z轴负方向侧)。触摸面板150是检测电子设备100的利用者接触上面板120的位置(以下,称为操作输入的位置)的位置检测部的一个例子。
在处于触摸面板150之下的显示面板160显示基于GUI的各种按钮等(以下,称为GUI操作部)。因此,电子设备100的利用者通常为了操作GUI操作部,而以指尖触摸上面板120。
触摸面板150只要是能够检测出利用者对上面板120的操作输入的位置的位置检测部即可,例如是静电电容型或者电阻膜型的位置检测部即可。这里,对触摸面板150为静电电容型的位置检测部的方式进行说明。即使在触摸面板150与上面板120之间有缝隙,静电电容型的触摸面板150也能够检测出对上面板120的操作输入。
另外,这里对在触摸面板150的输入面侧配设上面板120的方式进行说明,但上面板120也可以与触摸面板150呈一体。该情况下,触摸面板150的表面成为图2以及图3所示的上面板120的表面120A,构建操作面。另外,也可以是省去了图2以及图3所示的上面板120的构成。该情况下,也是触摸面板150的表面构建操作面。另外,该情况下,只要使具有操作面的部件以该部件的固有振动振动即可。
另外,在触摸面板150为静电电容型的情况下,也可以在上面板120之上配设触摸面板150。该情况下,也是触摸面板150的表面构建操作面。另外,在触摸面板150为静电电容型的情况下,也可以是省去了图2以及图3所示的上面板120的构成。该情况下,也是触摸面板150的表面构建操作面。另外,此时,只要使具有操作面的部件以该部件的固有振动30振动即可。
显示面板160例如是液晶显示面板或者有机EL(Electroluminescence:电致发光)面板等能够显示图像的显示部即可。显示面板160在壳体110的凹部110A的内部,通过省略图示的保持件等被设置在基板170之上(Z轴正方向侧)。
显示面板160被后述的驱动IC(Integrated Circuit:集成电路)驱动控制,根据电子设备100的动作状况,显示GUI操作部、图像、文字、符号、图形等。
此外,显示面板160的显示区域的位置与触摸面板150的坐标相关联。例如使显示面板160的各像素与触摸面板150的坐标建立关联即可。
基板170被配设在壳体110的凹部110A的内部。在基板170之上配设有显示面板160以及触摸面板150。显示面板160以及触摸面板150通过省略图示的保持件等被固定于基板170以及壳体110。
在基板170除了后述的驱动控制装置之外,还安装有电子设备100的驱动所需要的各种电路等。
照相机180是获取彩色图像的数码照相机,获取包含被拍摄体的视场的图像。在照相机180获取的视场的图像包含有被拍摄体的图像和背景的图像。照相机180是第一拍摄部的一个例子。数字照相机例如能够使用具有CMOS(Complementary Metal OxideSemiconductor:互补金属氧化物半导体)图像传感器的照相机。此外,照相机180也可以是黑白拍摄用的数码照相机。
红外线照相机190通过拍摄从红外线光源191照射到被拍摄体的红外线的反射光,来获取包含被拍摄体的视场的距离图像。在红外线照相机190获取的视场的距离图像包含有被拍摄体的距离图像和背景的距离图像。
红外线照相机190是投光式距离图像照相机。投光式距离图像照相机是指向被拍摄体投射红外线等,并读取由被拍摄体反射的红外线的照相机。作为投光式距离图像照相机的一个例子,有TOF(Time Of Flight:飞行时间)距离图像照相机。TOF距离图像照相机是根据投射的红外线与被拍摄体的往复所花费的时间,测量从TOF距离图像照相机到被拍摄体的距离的照相机。TOF距离图像照相机包含红外线照相机190和红外线光源191。红外线照相机190以及红外线光源191是第二拍摄部的一个例子。
此外,照相机180和红外线照相机190靠近壳体110的底面并排地配设。这是因为为了使用由照相机180获取的图像、和由红外线照相机190获取的距离图像进行图像处理,而将照相机180与红外线照相机190靠近地配置,从而使由照相机180获取的图像与由红外线照相机190获取的距离图像中的物体的大小以及方向等一致。这是因为由照相机180获取的图像和由红外线照相机190获取的距离图像中的物体的大小以及方向等的偏差较小更能够容易地进行图像处理。
以上那样的构成的电子设备100基于由照相机180获取的视场的图像和通过红外线照相机190获取的距离图像,提取被拍摄体的距离图像。然后,基于被拍摄体的距离图像所包含的噪声,判定被拍摄体是否为有光泽的物体。这里,有光泽的物体的一个例子是金属制的摆设。另外,没有光泽的物体的一个例子是布偶。
若利用者触摸显示于显示面板160的被拍摄体的图像并沿着上面板120的表面120A使指尖移动,则电子设备100驱动振动元件140使上面板120以超声波频带的频率振动。该超声波频带的频率是包含上面板120和振动元件140的共振系统的共振频率,使上面板120产生驻波。
另外,此时,电子设备100在被拍摄体为有光泽的物体的情况下,与被拍摄体是没有光泽的物体的情况相比,以振幅更大的驱动信号来驱动振动元件140。
另一方面,电子设备100在被拍摄体是没有光泽的物体的情况下,与被拍摄体是有光泽的物体的情况相比,以振幅更小的驱动信号来驱动振动元件140。
像这样,在被拍摄体为有光泽的物体的情况下,与被拍摄体是没有光泽的物体的情况相比,以振幅更大的驱动信号来驱动振动元件140是为了对利用者的指尖提供滑溜的光滑触感。
这是因为若以振幅比较大的驱动信号驱动振动元件140,则由于挤压(Squeeze)效应而夹在上面板120的表面120A与手指之间的空气层变厚,而动摩擦系数降低,所以能够提供触摸有光泽的物体的表面那样的触感。
另一方面,在被拍摄体是没有光泽的物体的情况下,与被拍摄体是有光泽的物体的情况相比,以振幅更小的驱动信号来驱动振动元件140是为了对利用者的指尖提供柔软且较弱的触感。
这是因为若以振幅比较小的驱动信号驱动振动元件140,则由于挤压效应而夹在上面板120的表面120A与手指之间的空气层变薄,而与被拍摄体是有光泽的物体的情况相比动摩擦系数变高,所以能够提供触摸没有光泽的物体的表面那样的触感。
另外,在被拍摄体是没有光泽的物体的情况下,也可以使驱动信号的振幅随着时间的经过而变化。例如,也可以在被拍摄体为布偶的情况下,通过使驱动信号的振幅随着时间的经过而变化,来对利用者的指尖提供触摸布偶那样的触感。
此外,若利用者触摸显示面板160所显示的被拍摄体的图像以外的区域,则电子设备100不驱动振动元件140。
如以上那样,电子设备100通过根据被拍摄体是否为有光泽的物体来改变驱动信号的振幅,从而通过上面板120对利用者提供被拍摄体的触感。
接下来,使用图5,对使上面板120产生的驻波进行说明。
图5是表示通过超声波频带的固有振动在上面板120产生的驻波中、与上面板120的短边平行地形成的波峰的图,图5的(A)是侧视图,(B)是立体图。在图5的(A)、(B)中,定义与图2以及图3相同的XYZ坐标。此外,在图5的(A)、(B)中,为了容易理解,而夸张地示出驻波的振幅。另外,在图5的(A)、(B)中省略振动元件140。
若使用上面板120的杨氏模量E、密度ρ、泊松比δ、长边尺寸l、厚度t、以及在长边方向存在的驻波的周期数k,则上面板120的固有振动频率(共振频率)f由下式(1)、(2)表示。由于驻波以1/2周期单位具有相同的波形,所以周期数k取0.5增量的值,为0.5、1、1.5、2……。
[数学式1]
[数学式2]
f=αk2 (2)
其中,式(2)的系数α是将式(1)中的k2以外的系数集中表示的系数。
作为一个例子,图5的(A)、(B)所示的驻波是周期数k为10的情况下的波形。例如,在作为上面板120而使用长边的长度l为140mm、短边的长度为80mm、厚度t为0.7mm的Gorilla(注册商标)玻璃的情况下,在周期数k为10的情况下,固有振动频率f为33.5[kHz]。该情况下,只要使用频率为33.5[kHz]的驱动信号即可。
上面板120是平板状的部件,若驱动振动元件140(参照图2以及图3)而使其产生超声波频带的固有振动,则通过如图5的(A)、(B)所示那样挠曲,从而在表面产生驻波。
此外,这里对一个振动元件140在上面板120的Z轴负方向侧的面中,在Y轴正方向侧沿着向X轴方向伸延的短边粘合的方式进行说明,但也可以使用两个振动元件140。在使用两个振动元件140的情况下,只要在上面板120的Z轴负方向侧的面中,在Y轴负方向侧沿着向X轴方向伸延的短边粘合另一个振动元件140即可。在这种情况下,两个振动元件140被配设为以与上面板120的两个短边平行的中心线为对称轴而轴对称即可。
另外,在驱动两个振动元件140的情况下,在周期数k为整数的情况下以同一相位驱动即可,在周期数k为小数(包含整数部和小数部的数)的情况下以相反相位驱动即可。
接下来,使用图6,对使电子设备100的上面板120产生的超声波频带的固有振动进行说明。
图6是说明通过使电子设备100的上面板120产生的超声波频带的固有振动,而施加到进行操作输入的指尖的动摩擦力变化的样子的图。在图6的(A)、(B)中,利用者进行以指尖触摸上面板120,并且使手指从上面板120的里侧沿着箭头向近前侧移动的操作输入。此外,振动的开/关通过对振动元件140(参照图2以及图3)进行开/关来进行。
另外,在图6的(A)、(B)中,在上面板120的进深方向,以灰色示出在振动关闭的期间手指接触的范围,并以白色示出在振动开启的期间手指接触的范围。
如图5所示在上面板120的整体产生超声波频带的固有振动,然而在图6的(A)、(B)示出在利用者的手指从上面板120的里侧向近前侧移动的期间切换振动的开/关的动作模式。
因此,在图6的(A)、(B)中,在上面板120的进深方向,以灰色示出在振动关闭的期间手指接触的范围,并以白色示出在振动开启的期间手指接触的范围。
在图6的(A)所示的动作模式中,当利用者的手指处于上面板120的里侧时振动关闭,在使手指向近前侧移动的中途振动开启。
另一方面,在图6的(B)所示的动作模式中,在利用者的手指处于上面板120的里侧时振动开启,在使指向近前侧移动的中途振动关闭。
这里,若使上面板120产生超声波频带的固有振动,则在上面板120的表面120A与手指之间夹有挤压效应引起的空气层,而以手指描绘上面板120的表面120A时的动摩擦系数降低。
因此,在图6的(A)中,在上面板120的里侧以灰色示出的范围内,对指尖施加的动摩擦力较大,在上面板120的近前侧以白色示出的范围内,对指尖施加的动摩擦力较小。
因此,若振动开启,则如图6的(A)所示那样对上面板120进行操作输入的利用者感知到施加给指尖的动摩擦力的降低,察觉到指尖的滑动容易。此时,由于上面板120的表面120A更光滑,而动摩擦力降低时,利用者感觉为在上面板120的表面120A存在凹部。
另一方面,在图6的(B),在上面板120的里侧以白色示出的范围内,施加给指尖的动摩擦力较小,在上面板120的近前侧以灰色示出的范围内,施加给指尖的动摩擦力较大。
因此,若振动关闭,则如图6的(B)所示那样对上面板120进行操作输入的利用者感知到施加给指尖的动摩擦力的增大,察觉到指尖的滑动困难、或者卡住的感觉。而且,由于指尖变得滑动困难,而动摩擦力变高时,感觉为在上面板120的表面120A存在凸部。
根据以上,在图6的(A)和(B)的情况下,利用者能够通过指尖感受到凹凸。像这样人感知凹凸例如记载于“用于触感设计的打印物转印法和Sticky-band Illusion”(第11次测量自动控制学会系统集成部门演讲会论文集(SI2010,仙台)____174-177,2010-12)。另外,也记载于“Fishbone Tactile Illusion”(日本拟真技术学会第10次大会论文集(2005年9月))。
此外,这里对切换振动的开/关的情况下的动摩擦力的变化进行了说明,这在使振动元件140的振幅(强度)变化的情况下也相同。
接下来,使用图7,对实施方式1的电子设备100的构成进行说明。
图7是表示实施方式1的电子设备100的构成的图。
电子设备100包含振动元件140、放大器141、触摸面板150、驱动IC(IntegratedCircuit:集成电路)151、显示面板160、驱动IC161、照相机180、红外线照相机190、红外线光源191、控制部200、正弦波产生器310、以及振幅调制器320。
控制部200具有应用处理器220、通信处理器230、驱动控制部240、以及存储器250。控制部200例如由IC芯片实现。
此外,这里对通过一个控制部200实现应用处理器220、通信处理器230、驱动控制部240、以及存储器250的方式进行说明,但驱动控制部240也可以在控制部200的外部作为其它的IC芯片或者处理器而设置。该情况下,储存于存储器250的数据中、驱动控制部240的驱动控制所需要的数据储存于与存储器250不同的存储器即可。
在图7中,省略壳体110、上面板120、双面胶带130、以及基板170(参照图2)。另外,这里,对放大器141、驱动IC151、驱动IC161、应用处理器220、驱动控制部240、存储器250、正弦波产生器310、以及振幅调制器320进行说明。
放大器141配设在振幅调制器320与振动元件140之间,并放大从振幅调制器320输出的驱动信号来驱动振动元件140。
驱动IC151与触摸面板150连接,检测表示有对触摸面板150的操作输入的位置的位置数据,并将位置数据输出给控制部200。结果,位置数据被输入到应用处理器220和驱动控制部240。
驱动IC161与显示面板160连接,将从应用处理器220输出的描绘数据输入到显示面板160,并使显示面板160显示基于描绘数据的图像。由此,在显示面板160显示有基于描绘数据的GUI操作部或者图像等。
应用处理器220进行执行电子设备100的各种应用程序的处理。这里,特别是示出应用处理器220包含的构成要素中的照相机控制部221、图像处理部222、距离图像提取部223、光泽判定部224、以及振幅数据分配部225。
照相机控制部221进行照相机180、红外线照相机190、以及红外线光源191的控制。若操作作为GUI操作部显示于显示面板160的照相机180的快门按钮则照相机控制部221利用照相机180进行拍摄处理。另外,若操作作为GUI操作部显示于显示面板160的红外线照相机190的快门按钮,则照相机控制部221使红外线从红外线光源191输出,并利用红外线照相机190进行拍摄处理。
在照相机控制部221输入表示通过照相机180获取的图像的图像数据和表示通过红外线照相机190获取的距离图像的距离图像数据。照相机控制部221将图像数据和距离图像数据输出给距离图像提取部223。
图像处理部222执行距离图像提取部223和光泽判定部224进行的图像处理以外的图像处理。后述图像处理部222执行的图像处理。
距离图像提取部223基于从照相机控制部221输入的图像数据和距离图像数据,提取被拍摄体的距离图像。被拍摄体的距离图像是使表示从红外线照相机190的透镜到被拍摄体的距离的数据与表示被拍摄体的图像的各像素建立关联的的数据。此外,使用图8以及图12后述提取被拍摄体的距离图像的处理。
光泽判定部224对通过距离图像提取部223提取的被拍摄体的距离图像所包含的噪声进行解析,并基于解析结果判定被拍摄体是否为有光泽的物体。使用图12后述基于噪声的解析结果判定被拍摄体是否为有光泽的物体的处理。
振幅数据分配部225对通过光泽判定部224判定为是有光泽的物体的被拍摄体的图像,或者,通过光泽判定部224判定为是没有光泽的物体的被拍摄体的图像分配振动元件140的驱动信号的振幅数据。使用图12后述振幅数据分配部225执行的处理的详细内容。
通信处理器230执行电子设备100为了进行3G(Generation)、4G(Generation)、LTE(Long Term Evolution:长期演进)、WiFi等通信所需要的处理。
驱动控制部240在两个规定的条件齐备的情况下,将振幅数据输出给振幅调制器320。振幅数据是表示用于调整振动元件140的驱动所使用的驱动信号的强度的振幅值的数据。振幅值根据位置数据的随时间的变化程度设定。这里,使用利用者的指尖沿着上面板120的表面120A移动的速度,作为位置数据的随时间的变化程度。由驱动控制部240基于从驱动IC151输入的位置数据的随时间的变化程度计算利用者的指尖的移动速度。
驱动控制部240为了在利用者的指尖沿着上面板120的表面120A移动时,使施加给指尖的动摩擦力变化而使上面板120振动。由于动摩擦力在指尖移动时产生,所以驱动控制部240在移动速度变为规定的阈值速度以上时,使振动元件140振动。移动速度变为规定的阈值速度以上是第一个规定的条件。
因此,驱动控制部240输出的振幅数据所表示的振幅值在移动速度小于规定的阈值速度时为零,若移动速度变为规定的阈值速度以上,则与移动速度对应地被设定为规定的振幅值。在移动速度为规定的阈值速度以上时,移动速度越高则越小地设定振幅值,移动速度越低则越大地设定振幅值。
另外,驱动控制部240在进行操作输入的指尖的位置处于应该使振动产生的规定的区域内的情况下,将振幅数据输出给振幅调制器320。进行操作输入的指尖的位置处于应该使振动产生的规定的区域内是第二个规定条件。
基于进行操作输入的指尖的位置是否处于应使振动产生的规定的区域的内部,来判定进行操作输入的指尖的位置是否处于应该使振动产生的规定的区域内。此外,应该使振动产生的规定的区域是显示由利用者确定的被拍摄体的区域。
这里,显示于显示面板160的GUI操作部、显示图像的区域、或者表示页面整体的区域等在显示面板160上的位置根据表示该区域的区域数据来确定。区域数据在全部的应用程序中,针对显示于显示面板160的全部的GUI操作部、显示图像的区域、或者表示页面整体的区域而存在。
因此,作为第二个规定条件,在判定进行操作输入的指尖的位置是否处于应该使振动产生的规定的区域内时,与电子设备100启动的应用程序的种类有关。这是因为根据应用程序的种类,显示面板160的显示不同。
另外,这是因为根据应用程序的种类,使接触上面板120的表面120A的指尖移动的操作输入的种类不同。作为使接触上面板120的表面120A的指尖移动的操作输入的种类,例如在操作GUI操作部时,有所谓的轻击操作。轻击操作是使指尖沿着上面板120的表面120A如轻弹(snap)那样移动比较短的距离的操作。
另外,在翻页的情况下,例如进行轻扫(swipe)操作。轻扫操作是使指尖沿着上面板120的表面120A如扫动那样移动比较长的距离的操作。轻扫操作除了进行翻页的情况之外,例如还在翻照片的情况下进行。另外,在使GUI操作部的滑块(参照图1的滑块102B)滑动的情况下,进行拖动滑块的拖动操作。
如这里作为一个例子而列举的轻击操作、轻扫操作、以及拖动操作那样,使与上面板120的表面120A接触的指尖移动的操作输入根据应用程序的显示的种类而区分使用。因此,在判定进行操作输入的指尖的位置是否处在应该使振动产生的规定的区域内时,与电子设备100启动的应用程序的种类有关。
驱动控制部240判定从驱动IC151输入的位置数据表示的位置是否处在应该使振动产生的规定的区域的内部。
根据以上,驱动控制部240为了将振幅数据输出给振幅调制器320所需要的两个规定的条件是指尖的移动速度在规定的阈值速度以上、和操作输入的位置的坐标处在应该使振动产生的规定的区域的内部。
此外,若在操作输入的位置处于在显示面板160显示由利用者确定的被拍摄体的区域的内部时,利用者触摸显示的被拍摄体的图像并使指尖沿着上面板120的表面120A移动,则电子设备100驱动振动元件140使上面板120以超声波频带的频率振动。
因此,应该使振动产生的规定的区域是指在显示面板160显示由利用者确定的被拍摄体的区域。
驱动控制部240在指尖的移动速度在规定的阈值速度以上,且操作输入的位置的坐标处在应该使振动产生的规定的区域的内部的情况下,从存储器250读出表示振幅值的振幅数据,并输出到振幅调制器320。
存储器250储存应用处理器220执行应用程序所需要的数据以及程序、及通信处理器230进行通信处理所需要的数据以及程序等。
正弦波发生器310产生生成用于使上面板120以固有振动频率振动的驱动信号所需要的正弦波。例如,在使上面板120以33.5[kHz]的固有振动频率f振动的情况下,正弦波的频率为33.5[kHz]。正弦波发生器310将超声波频带的正弦波信号输入给振幅调制器320。
振幅调制器320使用从驱动控制部240输入的振幅数据,对从正弦波发生器310输入的正弦波信号的振幅进行调制而生成驱动信号。振幅调制器320仅对从正弦波发生器310输入的超声波频带的正弦波信号的振幅进行调制,不对频率以及相位进行调制,而生成驱动信号。
因此,振幅调制器320输出的驱动信号是仅对从正弦波发生器310输入的超声波频带的正弦波信号的振幅进行了调制的超声波频带的正弦波信号。此外,在振幅数据为零的情况下,驱动信号的振幅为零。这相当于振幅调制器320不输出驱动信号。
图8是表示电子设备100的利用的方法的一个例子的图。
首先,作为第一步骤,利用者使用电子设备100的照相机180和红外线照相机190,拍摄布偶1和金属的摆设2的照片。更具体而言,利用照相机180拍摄布偶1,并利用照相机180拍摄金属的摆设2的照片。并且,利用红外线照相机190拍摄布偶1,并利用红外线照相机190拍摄金属的摆设2的照片。通过照相机控制部221进行第一步骤。
这里,布偶1是动物的角色的布偶。布偶1为没有光泽的布制,如果用手触摸则是柔软的触感。布偶1是没有光泽的物体的一个例子。
另外,金属的摆设2是骸骨的形状的摆设。金属的摆设2的表面为光滑的曲面,如果用手触摸则是光滑的触感。金属的摆设2是有光泽的物体的一个例子。
此外,有光泽是指物体的表面为某种程度光滑的平面或者曲面,在某种程度上对光进行反射,如果触摸则能够得到某种程度光滑的触感。这里,利用触感判断是否有光泽。
由于触感因人而异,所以这里作为一个例子,利用者能够根据喜好设定决定是否有光泽的边界值(阈值)。
接下来,作为第二步骤,得到布偶1的图像1A和金属的摆设2的图像2A。通过由照相机180分别拍摄布偶1和金属的摆设2得到图像1A和图像2A。图像1A和图像2A显示在电子设备100的显示面板160。通过照相机控制部221和图像处理部222进行第二步骤。
接下来,作为第三步骤,电子设备100对图像1A和图像2A进行图像处理,生成表示显示图像1A和图像2A所分别包含的被拍摄体(布偶1和金属的摆设2)的区域(以下,称为特定区域)的图像1B和图像2B。
在图像1B中,以白色示出显示被拍摄体的区域亦即特定区域,并以黑色示出被拍摄体以外的背景的部分。以黑色示出的部分是数据不存在的区域。以白色示出的部分表示被拍摄体的图像存在的像素,与布偶1的显示区域对应。
同样地,在图像2B中,以白色示出显示被拍摄体的区域亦即特定区域,并以黑色示出被拍摄体以外的背景的部分。以黑色示出的部分是数据不存在的区域。以白色示出的部分表示被拍摄体的图像存在的像素,与金属的摆设2的显示区域对应。此外,通过图像处理部222进行第三步骤。
另外,在第四步骤中,得到布偶1的距离图像1C和金属的摆设2的距离图像2C。通过由红外线照相机190分别拍摄布偶1和金属的摆设2得到距离图像1C和距离图像2C。此外,与第二步骤以及第三步骤平行地通过图像处理部222进行第四步骤。
接下来,在第五步骤中,通过提取距离图像1C和2C中与图像1B和2B所包含的特定区域的内部的像素对应的图像,分别获取特定区域的距离图像1D和2D。通过距离图像提取部223进行第五步骤。
接下来,在第六步骤中,计算特定区域的距离图像1D和2D所包含的噪声的比例,并判定计算出的噪声的比例是否在规定值以上。若计算出的噪声的比例在规定值以上,则与特定区域的距离图像1D或者2D对应的被拍摄体为有光泽的物体。另一方面,若计算出的噪声的比例不在规定值以上,则与特定区域的距离图像1D或者2D对应的被拍摄体是没有光泽的物体。
这里,作为一个例子,与特定区域的距离图像1D对应的被拍摄体(布偶1)判定为是没有光泽的物体,且与特定区域的距离图像2D对应的被拍摄体(金属的摆设2)判定为是有光泽的物体。
对判定为没有光泽的物体的特定区域的距离图像1D所在的区域1E(以下,称为非光泽区域1E)分配与没有光泽的物体对应的表示比较小的振幅的振幅数据。
另外,对判定为有光泽的物体的特定区域的距离图像2D所在的区域2E(以下,称为光泽区域2E)分配与有光泽的物体对应的表示比较大的振幅的振幅数据。
这样,在存储器250储存表示分配了振幅数据的非光泽区域1E和光泽区域2E的数据。由此第六步骤结束。此外,通过光泽判定部224和振幅数据分配部225进行第六步骤。
然后,作为第七步骤,若在电子设备100的显示面板160显示金属的摆设2的图像2A,利用者以手指描绘显示了图像2A的部分,则振动元件140被驱动而提供与金属的摆设2对应的触感。
接下来,使用图9以及图10,对通过红外线照相机190获取的距离图像进行说明。
图9以及图10是说明通过红外线照相机190获取的距离图像的图。
如图9所示,若从红外线光源191向物体3(被拍摄体)照射红外线,则红外线被物体3的表面漫反射。然后,通过利用红外线照相机190拍摄被物体3反射的红外线,得到距离图像。
图10的下侧所示的距离图像5包含物体3的距离图像3A和背景的距离图像4A。距离图像5是对每个像素赋予距离的信息,但在图10的下侧所示的距离图像5中,为了方便说明,以灰度表示距离红外线照相机190的距离。在图10中,距离红外线照相机190越近越以较淡的灰色示出,距离红外线照相机190越远越以较浓的灰色示出。从红外线照相机190观察,与背景相比物体3较近,所以以较淡的灰色示出物体3的距离图像3A,以较浓的灰色示出背景的距离图像4A。
在图10的上侧放大地示出图10的下侧所示的距离图像5中的一部分(被四角包围的部分)。距离图像5中的距离的信息赋予各像素。这里,作为一个例子,对物体3的距离图像3A赋予100(mm)这样的距离的信息,对背景的距离图像4A赋予300(mm)这样的距离的信息。
接下来,使用图11,对距离图像所包含的噪声进行说明。
图11是表示包含噪声3A1的距离图像5的图。
在物体3为光泽物质制的情况下,在某个特定的方向引起较强的反射的镜面反射的性质较强,所以有在一部分的像素反射光返回不到红外线照相机190的情况。从红外线光源191照射的红外线的反射光未返回的部分的像素不具有反射光的光的数据,所以成为噪声3A1。由于噪声3A1没有光的数据,所以以黑色显示。此外,噪声3A1能够作为反射光的数据缺失的数据缺失部处理。
实施方式1的电子设备100利用噪声3A1,判定物体3是否为有光泽的物体,并根据判定结果分配振幅数据。
图12以及图13是示出表示实施方式1的电子设备100为了分配振幅数据而执行的处理的流程图的图。通过应用处理器220执行图12以及图13所示的处理。
应用处理器220决定阈值(步骤S100)。阈值用作在后面的步骤S170判定特定区域的距离图像所包含的噪声的比例多还是少时的基准值。步骤S100是通过应用处理器220的图像处理部222执行的处理。
这里,应用处理器220在显示面板160显示用于设定阈值的输入画面,并通过输入画面要求利用者设定阈值。利用者通过操作显示面板160的输入画面,设定阈值。此外,使用图13后述由利用者操作输入画面时的应用处理器220的处理。
应用处理器220利用照相机180和红外线照相机190拍摄被拍摄体(步骤S110)。应用处理器220在显示面板160显示要求被拍摄体的拍摄的消息,利用者利用照相机180和红外线照相机190拍摄被拍摄体,来实现步骤S110的处理。
此外,步骤S110是通过照相机控制部221执行的处理,相当于图8所示的第一步骤。
若步骤S110结束,则应用处理器220平行地同时进行步骤S120~S130的处理、和步骤S140的处理。
应用处理器220从照相机180获取彩色图像(步骤S120)。步骤S120是通过照相机控制部221和图像处理部222执行的处理,相当于图8所示的第二步骤。
应用处理器220通过对在步骤S120获取的彩色图像进行图像处理,获取特定区域的图像(步骤S130)。步骤S130是通过图像处理部222执行的处理,相当于图8所示的第三步骤。此外,使用图14以及图15后述获取特定区域的图像的处理的详细内容。
另外,应用处理器220从红外线照相机190获取距离图像(步骤S140)。步骤S140相当于图8所示的第四步骤。
应用处理器220基于在步骤S130获取的特定区域的图像、和在步骤S140获取的距离图像,获取特定区域的距离图像(步骤S150)。特定区域的距离图像表示被拍摄体的距离图像。步骤S150是通过照相机控制部221和图像处理部222执行的处理,相当于图8所示的第五步骤。
接下来,应用处理器220求出在步骤S150求出的特定区域的距离图像所包含的噪声相对于特定区域的距离图像的比例(步骤S160)。步骤S160是通过光泽判定部224执行的处理,相当于图8所示的第六步骤。此外,使用图16后述噪声的比例的求解方法的详细内容。
应用处理器220判定噪声的比例是否在步骤S100求出的阈值以上(步骤S170)。步骤S170相当于图8所示的第六步骤。
应用处理器220若判定为噪声的比例不在阈值以上(S170:否),则将特定区域判定为非光泽区域(步骤S180A)。步骤S180A是通过光泽判定部224执行的处理,相当于图8所示的第六步骤。
另一方面,应用处理器220若判定为噪声的比例在阈值以上(S170:是),则将特定区域判定为光泽区域(步骤S180B)。步骤S180B是通过光泽判定部224执行的处理,相当于图8所示的第六步骤。
应用处理器220将与步骤S180A或者步骤S180B的判定结果对应的振幅数据分配给特定区域(步骤S190)。应用处理器220将表示分配了振幅数据的特定区域的数据储存于存储器250。步骤S190是通过振幅数据分配部225执行的处理,相当于图8所示的第六步骤。
通过开始步骤S100的处理而开始图13所示的处理。
首先,应用处理器220将有光泽的物体(以下,称为光泽物体)的数目m(m为1以上的整数)设定为1(步骤S101A)。是用于针对第一个光泽物体获取彩色图像的准备。
应用处理器220获取第m个光泽物体的距离图像(步骤S102A)。与步骤S110、S120、S130、S140、以及S150的处理相同,通过使用利用照相机180获取的彩色图像、和利用红外线照相机190获取的距离图像,求出与光泽物体对应的特殊区域的距离图像来获取光泽物体的距离图像。
即,获取由照相机180和红外线照相机190分别拍摄的视场所包含的仅有光泽物体的距离图像作为与光泽物体对应的特殊区域的距离图像。
此外,在步骤S102A使用的彩色图像和距离图像既可以通过以照相机180和红外线照相机190拍摄身边的光泽物体来获取,也可以通过利用者读出预先保存于电子设备100的存储器250的彩色图像和距离图像来获取。
应用处理器220获取第m个光泽物体的噪声比例(步骤S103A)。噪声比例能够通过对在步骤S102A获取的特殊区域的距离图像进行与步骤S160相同的处理来获取。
应用处理器220判定噪声比例是否在50%以上(步骤S104A)。这里,作为一个例子将用于判定的阈值设定为50%,但也可以是能够根据利用者的喜好设定为任意的值。
若应用处理器220判定为噪声比例在50%以上(S104A:是),则放弃成为判定对象的特殊区域的距离图像(步骤S105A)。这是因为噪声比例在50%以上的特殊区域的距离图像并不合适作为具有有光泽的物体的特定区域的距离图像的区域(光泽区域)。
应用处理器220使数值m自加1(步骤S106A)。即,m=m+1。若步骤S106A的处理结束,则应用处理器220使流程返回到步骤S102A。
另外,应用处理器220若在104A判定为噪声比例不在50%以上(S104A:否),则采用成为判定对象的特殊区域的距离图像和噪声比例作为光泽区域的数据(步骤S107A)。
应用处理器220将在步骤S107A采用的光泽区域的数据保存于存储器250(步骤S108A)。应用处理器220若结束步骤S108A,则使流程进入步骤S101B。
应用处理器220将没有光泽的物体(以下,称为非光泽物体)的数目n(n是1以上的整数)设定为1(步骤S101B)。是用于针对第一个非光泽物体获取彩色图像的准备。
应用处理器220获取第n个非光泽物体的距离图像(步骤S102B)。非光泽物体的距离图像与步骤S110、S120、S130、S140、以及S150的处理相同,通过使用利用照相机180获取的彩色图像、和利用红外线照相机190获取的距离图像,求出与非光泽物体对应的特殊区域的距离图像来获取。
即,获取分别利用照相机180和红外线照相机190拍摄的视场所包含的仅有非光泽物体的距离图像作为与非光泽物体对应的特殊区域的距离图像。
此外,在步骤S102B使用的彩色图像和距离图像既可以通过以照相机180和红外线照相机190拍摄身边的非光泽物体来获取,也可以通过利用者读出预先保存于电子设备100的存储器250的彩色图像和距离图像来获取。
应用处理器220获取第n个非光泽物体的噪声比例(步骤S103B)。噪声比例通过对在步骤S102B获取的特殊区域的距离图像进行与步骤S160相同的处理来获取。
应用处理器220判定噪声比例是否在50%以上(步骤S104B)。这里,虽然作为一个例子将用于判定的阈值设定在50%,但也可以是能够根据利用者的喜好设定为任意的值。
应用处理器220若判定为噪声比例在50%以上(S104B:是),则放弃成为判定对象的特殊区域的距离图像(步骤S105B)。这是因为噪声比例在50%以上的特殊区域的距离图像并不适合作为具有没有光泽的物体的特定区域的距离图像的区域(非光泽区域)。
应用处理器220使数值n自加1(步骤S106B)。即,n=n+1。若步骤S106B的处理结束,则应用处理器220使流程返回到步骤S102B。
另外,应用处理器220若在104B判定为噪声比例不在50%以上(S104B:否),则采用成为判定对象的特殊区域的距离图像和噪声比例作为非光泽区域的数据(步骤S107B)。
应用处理器220将在步骤S107B采用的非光泽区域的数据保存于存储器250(步骤S108B)。
应用处理器220将保存于存储器250的光泽区域的数据和非光泽区域的数据所包含的特殊区域的噪声比例显示于显示面板160(步骤S109B)。
为了设定噪声比例的阈值的利用者的参考,显示光泽区域的数据、和非光泽区域的数据所包含的特殊区域的噪声比例。
应用处理器220将阈值设定为通过利用者的操作输入指定的值(步骤S109C)。
例如,在针对金属的摆设2的特殊区域的噪声比例为5%,针对布偶1的特殊区域的噪声比例为0%的情况下,利用者例如将噪声比例的阈值为设定2.5%。
通过以上,决定步骤S100的阈值。
图14是表示步骤S130的处理的详细内容的流程图。在对图14所示的流程进行说明时,使用图15。图15是表示基于步骤S130的图像处理的图。
应用处理器220设定将利用步骤S132的处理分割的彩色图像中的两个区域中面积较大的一方和面积较小的一方的哪一个作为特定区域处理(步骤S131)。该设定根据利用者的输入内容来进行。此外,特定区域是表示被拍摄体的显示区域的区域。
进行这样的设定是因为在包含被拍摄体的视场中,根据较大地拍摄被拍摄体,还是较小地拍摄被拍摄体,而彩色图像中的被拍摄体与背景的面积的大小关系不同。
此外,这里,作为一个例子,设定为两个区域中面积较小的一方作为特定区域来处理。
应用处理器220通过图像分割,获取将彩色图像分割为被拍摄体和背景两个区域的图像(步骤S132)。例如,通过对图15的(A)所示的图像2A(彩色图像)进行图像分割,得到图15的(B)所示的图像2A1。在图像2A1中,分割为区域2A11、和区域2A12。
此外,此时,并不知道区域2A11和区域2A12中的哪一个为被拍摄体的显示区域。
接下来,应用处理器220计算一方的区域2A11的面积和另一方的区域2A12的面积(步骤S133A、S133B)。面积的计算例如能够通过对区域2A11和区域2A12所分别包含的像素数进行计数来进行。
在像素数的计数时,例如在图10所示那样的XY坐标系中,从离原点O最近的像素向X轴正方向(列方向的正方向)进行计数,并一行一行地向Y轴正方向(行方向的正方向)偏移,来对全部的像素进行计数即可。
例如,如图15的(C)所示,区域2A11的像素数为92,160[pixel],区域2A12的像素数为215,040[pixel]。
应用处理器220对在步骤S133A以及S133B计算出的面积进行比较(步骤S134)。
接下来,应用处理器220基于比较结果,决定特定区域(步骤S135)。这里,作为一个例子,在步骤S131中,设定为将两个区域中面积较小的一方作为表示被拍摄体的显示区域的特定区域来处理,所以区域2A11和区域2A12中,面积较小的区域2A11被决定为特定区域。
接下来,应用处理器220获取特定区域的图像(步骤S136)。例如,获取将图15的(B)所示的区域2A11作为特定区域的图像2B(参照图15的(D))。
在图像2B中,以白色示出显示被拍摄体的区域亦即特定区域,并以黑色示出被拍摄体以外的背景的部分。图像2B仅在特定区域存在数据,特定区域的数据表示被拍摄体的图像存在的像素。
接下来,使用图16,对噪声比例的获取方法进行说明。
图16是表示获取噪声比例的处理的流程图。
图16所示的流程示出在步骤S160中决定噪声比例的处理的详细内容。通过振幅数据分配部225执行图16所示的流程。
以下,将特定区域所包含的像素数设为P,将表示赋予特定区域所包含的像素中第k(1≤k≤P)个像素的距离的值设为I(k),将产生噪声的像素数设为N(0≤N≤P),并将噪声比例设为R(0%≤R≤100%)。
此外,第k个与对像素进行计数时的顺序相同,从离原点O(参照图10)最近的像素向X轴正方向(列方向的正方向)分配顺序,并一行一行地向Y轴正方向(行方向的正方向)偏移,来对全部的像素分配顺序即可。
若处理开始,则应用处理器220获取特定区域所包含的距离图像的像素数P(步骤S161)。获取在步骤S133A以及S133B计数的像素数中在步骤S135判定为特定区域的一方的像素数作为像素数即可。例如,获取图15的(C)所示的区域2A11的92,160[pixel]。
应用处理器220设定为k=1、N=0(步骤S162)。
应用处理器220参照表示赋予第k个像素的距离的值I(k)(步骤S163)。值I(k)从特定区域的第k个像素读出即可。
应用处理器220判定是否有表示第k个像素的距离的值I(k)(步骤S164)。对于是否有表示距离的值I(k)来说,若表示距离的值I(k)为0(零)则判定为没有值I(k),若表示距离的值I(k)不为0(零)(有正的值)则判定为有表示距离的值I(k)。
应用处理器220若判定为没有表示距离的值I(k)(S164:否),则使产生噪声的像素数N自加1(步骤S165)。即,N=N+1。若步骤S165的处理结束,则应用处理器220使流程进入步骤S166。
另一方面,应用处理器220若判定为有表示距离的值I(k)(S164:是),则使流程进入步骤S166,使k的值自加1(步骤S166)。即,k=k+1。
应用处理器220判定k>P是否成立(步骤S167)。
应用处理器220若判定为k>P不成立(S167:否),则使流程返回到步骤S163。
另一方面,应用处理器220若判定为k>P成立(S167:是),则使流程进入步骤S168。此外,k>P成立是指对特定区域所包含的全部的像素结束处理,而k=P+1的情况。
应用处理器220求出噪声比例(步骤S168)。根据以下的式(3)求出噪声比例。
R=100×N/P (3)
即,噪声比例是将产生噪声的像素数N相对于全部的像素的数目P以百分率表示的比例。
根据以上,求出步骤S160中的噪声比例。
图17是表示通过振幅数据分配部225分配给特定区域的振幅数据的图。
使用图10所示的XY坐标表示特定区域的像素。在图17示出分配给X轴方向上第一列、第二列、第三列,Y轴方向上第一行的像素的振幅数据(电压值)。
此外,X轴方向上第一列是表示在X轴方向离原点O最近的列。另外,Y轴方向上第一行是表示在Y轴方向离原点O最近的行。图17所示的数据示出赋予离特定区域的原点最近的一部分的像素的振幅值,在X轴方向以及Y轴方向还具有数据。
此外,在存储器250储存光泽物体用的振幅数据、和非光泽物体用的振幅数据,并在振幅数据分配部225对特定区域的各像素分配振幅数据时读出振幅数据即可。
图18是表示储存于存储器250的光泽物体用的振幅数据、和非光泽物体用的振幅数据的图。
在图18中,作为一个例子,光泽物体用的振幅数据设定为1.0(V),非光泽物体用的振幅数据设定为0.5(V)。此外,振幅数据也可以根据特定区域的像素而设定为不同的值。例如,在如布偶1(参照图8)那样,在表面有凹凸的情况下,也可以每隔恒定的像素数,振幅数据周期性地变化。若将这样的振幅数据分配给特定区域,则能够更忠实地再现布偶1的表面的触感。
图19是表示储存于存储器250的数据的图。
图19所示的数据是将表示应用程序的种类的数据、表示特定区域的坐标值的区域数据、以及表示振动模式的模式数据建立关联的数据。
作为表示应用程序的种类的数据,示出应用程序ID(Identification)。例如对与振动数据建立关联的每个特定区域分配应用程序ID即可。即,例如在布偶1(参照图8)的特定区域和金属的摆设2(参照图8)的特定区域,使应用程序ID不同即可。
另外,作为区域数据,示出表示特定区域的坐标值的式f1~f4。式f1~f4例如是表示如图像1B和2B所包含的特定区域(参照图8的第三步骤)那样的特定区域的坐标的式子。另外,作为表示振动模式的模式数据,示出P1~P4。模式数据P1~P4是对特定区域内的各像素分配图18所示的振幅数据的数据。
接下来,使用图20,对实施方式的电子设备100的驱动控制部240执行的处理进行说明。
图20是表示实施方式的电子设备100的驱动控制部240执行的处理的流程图。
电子设备100的OS(Operating System:操作系统)每隔规定的控制周期执行用于驱动电子设备100的控制。因此,驱动控制部240每隔规定的控制周期,反复执行图20所示的流程。
驱动控制部240通过接通电子设备100的电源,而使处理开始。
驱动控制部240根据当前的应用程序的种类,获取与振动模式建立关联的区域数据(步骤S1)。
驱动控制部240判定移动速度是否在规定的阈值速度以上(步骤S2)。通过向量运算来计算移动速度即可。此外,阈值速度设定为在如所谓的轻击操作,轻扫操作,或者拖动操作等那样使指尖移动并且进行操作输入时的指尖的移动速度的最低速度。也可以基于实验结果设定这样的最低速度,也可以根据触摸面板150的分辨率等进行设定。
驱动控制部240在步骤S2判定为移动速度在规定的阈值速度以上的情况下,判定当前的位置数据示出的坐标是否在步骤S1求出的区域数据示出的特定区域中(步骤S3)。
驱动控制部240在判定为当前的位置数据示出的坐标位于在步骤S1求出的区域数据示出的特定区域中的情况下,根据图19所示的数据求出与当前的位置数据示出的坐标对应的振动模式(步骤S4)。
驱动控制部240输出振幅数据(步骤S5)。由此,在振幅调制器320中,通过调制从正弦波产生器310输出的正弦波的振幅来生成驱动信号,驱动振动元件140。
另一方面,在步骤S2判定为移动速度不在规定的阈值速度以上的情况下(S2:否)、和在步骤S3判定为当前的坐标不在步骤S1求出的区域数据示出的特定区域中的情况下,驱动控制部240将振幅值设定为零(步骤S6)。
其结果,驱动控制部240输出振幅值为零的振幅数据,在振幅调制器320中,生成从正弦波产生器310输出的正弦波的振幅被调制为零的驱动信号。因此,该情况下,不驱动振动元件140。
图21是表示实施方式1的电子设备100的动作例的图。
在图21中,横轴表示时间轴,纵轴表示振幅数据的振幅值。另外,这里假设利用者使指尖沿着上面板120的表面120A移动的速度大致恒定。另外,在显示面板160显示有有光泽的物体,利用者进行描绘有光泽的物体的图像的操作。
假设在时刻t1利用者使触摸上面板120的特定区域外的指尖开始向左方向移动。然后,若在时刻t2,指尖进入显示有光泽的物体的特定区域内,则驱动控制部240使振动元件140振动。
此时的振动模式是振幅为A11,且在指尖在特定区域内移动的期间,振动连续的驱动模式。
若在时刻t3利用者的指尖移动到特定区域外,则驱动控制部240将振幅值设定为零。因此,时刻t3之后振幅为零。
这样,在指尖在特定区域内移动的期间,作为一个例子,驱动控制部240输出振幅为恒定值(A11)的振幅数据。因此,在利用者接触显示于特定区域的物体的图像并且使指尖移动的期间,施加给利用者的指尖的动摩擦力降低,而能够提供给利用者指尖滑溜的光滑感觉,利用者能够得到有光泽的物体的触感。此外,在没有光泽的物体的情况下,振幅变小,所以触感变弱。例如,布偶1(参照图8)的情况下提供绵软的柔软触感。
图22是表示电子设备100的利用场景的图。
若在对特定区域分配了振幅数据之后,利用者在电子设备100的显示面板160显示呈骸骨的形状的金属的摆设2的图像2A,并以手指描绘上面板120,则在显示金属的摆设2的特定区域以外,不使振动元件140(参照图2、3、7)振动,所以不产生挤压效应。
若利用者的指尖在显示有金属的摆设2的特定区域的内部移动,则如上述那样通过根据分配给特定区域的振幅数据调制了强度的驱动信号来驱动振动元件140。
其结果,若利用者使指尖在显示有金属的摆设2的特定区域的内部移动,则由于挤压效应能够得到光滑的触感。
即,在显示有金属的摆设2的特定区域以外,如较短的箭头所示,利用者的指尖缓慢地移动,在显示有金属的摆设2的特定区域的内部,如较长的箭头所示利用者的指尖以较快的速度移动。
另外,若在显示面板160显示布偶1(参照图8),并在显示有布偶1的特定区域的内部移动,则通过根据比金属的摆设2小的振幅数据调制了强度的驱动信号来驱动振动元件140。因此,利用者能够得到触摸布偶1那样的绵软触感。
以上,根据实施方式1,能够提供可提供与光泽的有无对应的触感的电子设备100和驱动控制方法。
此外,也可以是能够由利用者自由地设定分配给特定区域的振幅数据。该情况下,能够提供与利用者的喜好对应的各种触感。
另外,以上,对通过对从照相机180获取的彩色图像进行图像处理,获取特定区域的图像的方式进行了说明。然而,电子设备100也可以不包含照相机180,而利用红外线照相机190获取红外线图像,并代替上述的彩色图像而对红外线图像进行图像处理,从而获取特定区域的图像。红外线图像是对被拍摄体照射红外线,并将反射光的强度作为像素值的图像,是以黑白表示的图像。
该情况下,在电子设备100的显示面板160显示红外线图像即可。
另外,在通过对从照相机180获取的彩色图像进行图像处理来获取特定区域的图像的情况下,也可以在显示面板160显示利用红外线照相机190获取的红外线图像。
另外,与其相反,在通过对由红外线照相机190获取的红外线图像进行图像处理获取特定区域的图像的情况下,也可以在显示面板160显示从照相机180获取的彩色图像。
另外,由照相机180获取的图像也可以不是彩色图像而是黑白的图像。
<实施方式2>
实施方式2的步骤S100(参照图12)中的阈值的设定方法与实施方式1不同。除此以外与实施方式1的电子设备100相同,所以对相同的构成要素附加相同的附图标记,并省略其说明。
图23是示出表示实施方式2的电子设备100为了分配振幅数据而执行的处理的流程图的图。通过应用处理器220执行图23所示的处理。
图23所示的流程中,步骤S101A~S108A、步骤S101B~S108B与图13所示的步骤S101A~S108A、步骤S101B~S108B相同。
但是,在步骤S101A中,追加将光泽区域的数据的数目x1设定为0(零)的处理。另外,在步骤S101B中,追加将非光泽区域的数据的数目y1设定为0(零)的处理。此外,x1、y1均为2以上的整数。
另外,在步骤S107A与S108A之间插入步骤S208A。另外,在步骤S108A与S101B之间插入步骤S209A。
另外,在步骤S107B与S108B之间插入步骤S208B。另外,在步骤S108B后设有步骤S209B、S210A、S210B。
这里,作为一个例子,应用处理器220使用判别分析法自动地决定阈值。所谓的判别分析法是将直方图分割为两类的方法。因此,除了图23,还使用图24进行说明。图24是表示噪声比例的概率分布的图。
在实施方式2中,应用处理器220将有光泽的物体(以下,光泽物体)的数目m(m是1以上的整数)设定为1,并且将光泽区域的数据的数目x1设定为0(零)(步骤S101A)。是用于针对第一个光泽物体获取彩色图像的准备。
接下来,应用处理器220进行与实施方式1的步骤S102A~步骤S107A相同的处理。
应用处理器220若在步骤S107A采用光泽区域的数据,则使光泽区域的数据的数目x1自加1(步骤S208A)。
接下来,应用处理器220将在步骤S107A采用的光泽区域的数据保存于存储器250(步骤S108A)。
接下来,应用处理器220判定光泽区域的数据的数目x1是否达到规定的数目x2(步骤S209A)。规定的数目x2是预先设定的需要的光泽区域的数据的数目。光泽区域的数据的数目x2的设定既可以由利用者决定,也可以在电子设备100预先设定。
应用处理器220若判定为光泽区域的数据的数目x1达到规定的数目x2(S209A:是),则使流程进入步骤S101B。
另外,应用处理器220若判定为光泽区域的数据的数目x1未达到规定的数目x2(S209A:否),则使流程返回到到步骤S106A。其结果,重复处理直到光泽区域的数据的数目x1达到规定的数目x2。
应用处理器220将没有光泽的物体(以下,非光泽物体)的数目n(n是1以上的整数)设定为1,并且将非光泽区域的数据的数目y1设定为0(零)(步骤S101B)。是用于针对第一个非光泽物体获取彩色图像的准备。
接下来,应用处理器220进行与实施方式1的步骤S102B~步骤S107B相同的处理。
应用处理器220若在步骤S107B采用非光泽区域的数据,则使非光泽区域的数据的数目y1自加1(步骤S208B)。
接下来,应用处理器220将在步骤S107B采用的光泽区域的数据保存于存储器250(步骤S108B)。
接下来,应用处理器220判定非光泽区域的数据的数目y1是否达到规定的数目y2(步骤S209B)。规定的数目y2是预先设定的需要的非光泽区域的数据的数目。非光泽区域的数据的数目y2的设定既可以由利用者决定,也可以在电子设备100预先设定。
应用处理器220若判定为非光泽区域的数据的数目y1达到规定的数目y2(S209B:是),则使流程进入步骤S210A。
另外,应用处理器220若判定为非光泽区域的数据的数目y1未达到规定的数目y2(S209B:否),则使流程返回到步骤S106B。其结果,重复处理直至光泽区域的数据的数目y1达到规定的数目y2。
若结束步骤S209B的处理,则应用处理器220生成噪声比例的概率分布,并求出分离度α(步骤S210A)。
如图24所示,应用处理器220首先通过判别分析法对概率分布设定假定的阈值Th,并求出非光泽区域数据的样本数ω1、噪声比例的平均m1、噪声比例的方差σ1、和光泽区域数据的样本数ω2、噪声比例的平均m2、噪声比例的方差σ2。
此外,这里将作为光泽区域数据采用的多个数据的组称为光泽区域数据类,并将作为非光泽区域数据采用的多个数据的组称为非光泽区域数据类。
接下来,应用处理器220使用这些值,并根据式(4)、(5),求出类内方差和类间方差。然后,根据类内方差和类间方差,并根据式(6)求出分离度α。
[数学式3]
应用处理器220改变假定的阈值Th而反复求解分离度α的计算。
应用处理器220最终将使分离度α最大化的假定的阈值Th决定为在步骤S100使用的阈值(步骤S210B)。
根据以上,能够决定在步骤S100使用的阈值。
另外,也可以代替判别分析法而使用模态法。模态法是与判别分析法相同,将直方图分割为两类的方法。
在使用模态法的情况下,代替图23所示的步骤S210B,而进行以下那样的处理。
图25是表示通过模态法决定阈值的方法的图。
首先,搜索概率分布所包含的两个极大值。这里,求出极大值1和极大值2。
接下来,搜索极大值1与极大值2之间的极小值,并将成为极小值的点决定为在步骤S100使用的阈值。
<实施方式3>
实施方式3的步骤S130(参照图12)中的特定区域的图像的获取方法与实施方式1不同。除此以外,与实施方式1的电子设备100相同,所以对相同的构成要素附加相同的附图标记,并省略其说明。
图26是表示实施方式3的特定区域的图像的获取方法的处理的流程图。图27是表示根据图26所示的流程进行的图像处理的图。
应用处理器220使用照相机180获取背景图像(步骤S331)。例如,如图27的(A)所示,在未配置物体7(参照图27的(B))的状态下,仅使背景进入视场并利用照相机180进行拍摄,从而获取背景图像8A。
接下来,应用处理器220使用照相机180获取物体7的图像(步骤S332)。例如,如图27的(B)所示,在配置了物体7的状态下,使物体7和背景进入视场并利用照相机180进行拍摄,从而获取物体图像8B。
接下来,应用处理器220从物体图像8B的像素值减去背景图像8A的像素值,获取物体7的差分图像8C(步骤S333)。如图27的(C)所示,从物体图像8B的像素值减去背景图像8A的像素值,获取物体7的差分图像8C。
接下来,应用处理器220将差分图像8C二值化,来获取特定区域的图像8D(步骤S334)。如图27的(D)所示,特定区域的图像8D是在物体7的显示区域8D1(白色的区域)内具有“1”的值,在物体7的显示区域8D1以外的区域8D2(黑色的区域)内具有“0”的值的数据。显示区域8D1是特定区域。
在进行二值化时,对差分图像8C使用无限接近“0”的值的阈值,分割为有像素值的显示区域8D1、和没有像素值的区域8D2即可。
也可以通过进行以上那样的处理,求出特定区域。
<实施方式4>
图28是表示实施方式4的电子设备400的侧视图。图28是表示与图3对应的侧面的图。
实施方式4的电子设备400并不像实施方式1的电子设备100那样使用振动元件140提供触感,而利用配设在上面板120与触摸面板150之间的透明的电极板410来提供触感。此外,上面板120的与表面120A相反侧的面是绝缘面。在上面板120为玻璃板的情况下,也可以在与表面120A相反侧的面实施绝缘涂覆。
若对电极板410施加电压,则在上面板120的表面120A产生电荷。这里,作为一个例子,假设在上面板120的表面120A产生负的电荷。
若在这样的状态下,利用者使指尖接近,则在指尖感应正的电荷,所以在表面120A的负的电荷与在指尖的正的电荷互相拉而产生静电力,而施加到指尖的摩擦力增大。
因此,在利用者的指尖接触上面板120的表面的位置(操作输入的位置)在特定区域中,并且,操作输入的位置移动时,不对电极板410施加电压。这是为了与对电极板410施加电压而产生静电力的情况相比,降低施加给利用者的指尖的摩擦力。
另一方面,在操作输入的位置在特定区域以外的区域,并且,操作输入的位置移动时,对电极板410施加电压。这是为了通过对电极板410施加电压使静电力产生,与未产生静电力的情况相比,使施加给利用者的指尖的摩擦力增大。
这样一来,与实施方式1的电子设备100相同,能够提供与光泽的有无对应的触感。
以上,对本发明的例示的实施方式的电子设备、以及驱动控制方法进行了说明,但本发明并不限定于具体地公开的实施方式,在不脱离权利要求书的范围内,能够进行各种变形、变更。
附图标记说明
1…布偶,2…金属的摆设,100…电子设备,110…壳体,120…上面板,130…双面胶带,140…振动元件,150…触摸面板,160…显示面板,170…基板,180…照相机,190…红外线照相机,191…红外线光源,200…控制部,220…应用处理器,221…照相机控制部,222…图像处理部,223…距离图像提取部,224…光泽判定部,225…振幅数据分配部,230…通信处理器,240…驱动控制部,250…存储器,310…正弦波产生器,320…振幅调制器,410…电极板。
Claims (11)
1.一种电子设备,包含:
拍摄部,其获取包含被拍摄体的视场的图像和距离图像;
距离图像提取部,其基于上述图像和上述距离图像,提取上述被拍摄体的距离图像;
光泽判定部,其基于上述被拍摄体的距离图像所包含的数据的缺失部,判定上述被拍摄体是否是有光泽的物体;
显示部,其显示上述图像;
上面板,其配设在上述显示部的显示面侧,且具有操作面;
位置检测部,其检测在上述操作面进行的操作输入的位置;
振动元件,其由使上述操作面产生超声波频带的固有振动的驱动信号驱动,使上述操作面产生超声波频带的固有振动;
振幅数据分配部,其对通过上述光泽判定部判定为是有光泽的物体的上述被拍摄体的显示区域分配第一振幅作为上述驱动信号的振幅数据,并对通过上述光泽判定部判定为是没有光泽的物体的上述被拍摄体的显示区域分配比上述第一振幅小的第二振幅作为上述驱动信号的振幅数据;以及
驱动控制部,若在上述显示部显示通过上述光泽判定部判定为是有光泽的物体的上述被拍摄体的区域内进行对上述操作面的操作输入,则该驱动控制部根据上述操作输入的位置的随时间变化程度以被分配了上述第一振幅的上述驱动信号驱动上述振动元件,若在上述显示部显示通过上述光泽判定部判定为是没有光泽的物体的上述被拍摄体的区域内进行对上述操作面的操作输入,则该驱动控制部根据上述操作输入的位置的随时间变化程度以被分配了上述第二振幅的上述驱动信号驱动上述振动元件。
2.根据权利要求1所述的电子设备,其中,
若在上述显示部显示上述被拍摄体的区域以外进行对上述操作面的操作输入,则上述驱动控制部不驱动上述振动元件。
3.根据权利要求1或者2所述的电子设备,其中,
在上述数据的缺失部在规定的阈值以上的情况,上述光泽判定部判定为上述被拍摄体是有光泽的物体。
4.根据权利要求1~3中任意一项所述的电子设备,其中,
还包含储存表示上述第一振幅以及上述第二振幅的振幅数据的存储器,
上述振幅数据分配部对储存于上述存储器的上述第一振幅以及上述第二振幅进行分配作为上述振幅数据。
5.根据权利要求1~3中任意一项所述的电子设备,其中,
上述振幅数据分配部基于利用者的上述操作输入的内容,设定上述第一振幅或者上述第二振幅。
6.根据权利要求1~5中任意一项所述的电子设备,其中,
上述第二振幅根据通过上述光泽判定部判定为是没有光泽的物体的上述被拍摄体的显示区域内的位置而不同。
7.根据权利要求1~6中任意一项所述的电子设备,其中,
上述拍摄部具有:
第一拍摄部,其获取上述图像;以及
第二拍摄部,其获取上述距离图像。
8.根据权利要求7所述的电子设备,其中,
上述第一拍摄部和上述第二拍摄部靠近地并排配置。
9.根据权利要求7或者8所述的电子设备,其中,
上述第一拍摄部是获取彩色图像作为上述图像的照相机。
10.根据权利要求1~6中任意一项所述的电子设备,其中,
上述拍摄部是获取红外线图像作为上述图像,并且获取上述距离图像的红外线照相机。
11.一种驱动控制方法,是驱动电子设备的振动元件的驱动控制方法,该电子设备包含:拍摄部,其获取包含被拍摄体的视场的图像和距离图像;距离图像提取部,其基于上述图像和上述距离图像,提取上述被拍摄体的距离图像;光泽判定部,其基于上述被拍摄体的距离图像所包含的数据的缺失部,判定上述被拍摄体是否是有光泽的物体;显示部,其显示上述图像;上面板,其配设在上述显示部的显示面侧,且具有操作面;位置检测部,其检测在上述操作面进行的操作输入的位置;以及上述振动元件,其由使上述操作面产生超声波频带的固有振动的驱动信号驱动,使上述操作面产生超声波频带的固有振动,
计算机执行以下处理,即
对通过上述光泽判定部判定为是有光泽的物体的上述被拍摄体的显示区域分配第一振幅作为上述驱动信号的振幅数据,并对通过上述光泽判定部判定为是没有光泽的物体的上述被拍摄体的显示区域分配比上述第一振幅小的第二振幅作为上述驱动信号的振幅数据,
若在上述显示部显示通过上述光泽判定部判定为是有光泽的物体的上述被拍摄体的区域内进行对上述操作面的操作输入,则根据上述操作输入的位置的随时间变化程度以被分配了上述第一振幅的上述驱动信号驱动上述振动元件,若在上述显示部显示通过上述光泽判定部判定为是没有光泽的物体的上述被拍摄体的区域内进行对上述操作面的操作输入,则根据上述操作输入的位置的随时间变化程度以被分配了上述第二振幅的上述驱动信号驱动上述振动元件。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2015/068370 WO2016208036A1 (ja) | 2015-06-25 | 2015-06-25 | 電子機器、及び、駆動制御方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN107710114A true CN107710114A (zh) | 2018-02-16 |
Family
ID=57585268
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201580081042.5A Pending CN107710114A (zh) | 2015-06-25 | 2015-06-25 | 电子设备、以及驱动控制方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20180088698A1 (zh) |
JP (1) | JP6500986B2 (zh) |
CN (1) | CN107710114A (zh) |
WO (1) | WO2016208036A1 (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102591807B1 (ko) * | 2016-11-21 | 2023-10-23 | 한국전자통신연구원 | 촉감자극을 생성하는 방법 및 장치 |
US10977910B1 (en) * | 2017-09-06 | 2021-04-13 | Apple Inc. | Tactile outputs for input structures of electronic devices |
CN110007841B (zh) * | 2019-03-29 | 2021-05-18 | 联想(北京)有限公司 | 一种控制方法和电子设备 |
JP7054794B2 (ja) * | 2019-12-09 | 2022-04-15 | パナソニックIpマネジメント株式会社 | 入力装置 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06300543A (ja) * | 1993-04-19 | 1994-10-28 | Toshiba Eng Co Ltd | 光沢物抽出装置 |
JP2003308152A (ja) * | 2002-04-17 | 2003-10-31 | Nippon Hoso Kyokai <Nhk> | 触感提示装置 |
US20070236450A1 (en) * | 2006-03-24 | 2007-10-11 | Northwestern University | Haptic device with indirect haptic feedback |
JP2010256138A (ja) * | 2009-04-23 | 2010-11-11 | Canon Inc | 撮像装置及びその制御方法 |
CN103973971A (zh) * | 2013-01-30 | 2014-08-06 | 奥林巴斯映像株式会社 | 触摸操作装置、信息设备、接口装置以及拍摄设备 |
CN104199547A (zh) * | 2014-08-29 | 2014-12-10 | 福州瑞芯微电子有限公司 | 人机交互式虚拟触控装置、系统及方法 |
CN104423710A (zh) * | 2013-09-06 | 2015-03-18 | 意美森公司 | 将触觉信号变换成振动触知触觉效果模式集合的触觉变形系统 |
CN104460973A (zh) * | 2013-09-25 | 2015-03-25 | 现代自动车株式会社 | 用于提供触觉反馈的曲面触摸显示装置及其方法 |
CN104662495A (zh) * | 2013-09-26 | 2015-05-27 | 富士通株式会社 | 驱动控制装置、电子设备以及驱动控制方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015121971A1 (ja) * | 2014-02-14 | 2015-08-20 | 富士通株式会社 | 触感提供装置、及び、システム |
-
2015
- 2015-06-25 JP JP2017524524A patent/JP6500986B2/ja not_active Expired - Fee Related
- 2015-06-25 WO PCT/JP2015/068370 patent/WO2016208036A1/ja active Application Filing
- 2015-06-25 CN CN201580081042.5A patent/CN107710114A/zh active Pending
-
2017
- 2017-11-30 US US15/828,056 patent/US20180088698A1/en not_active Abandoned
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06300543A (ja) * | 1993-04-19 | 1994-10-28 | Toshiba Eng Co Ltd | 光沢物抽出装置 |
JP2003308152A (ja) * | 2002-04-17 | 2003-10-31 | Nippon Hoso Kyokai <Nhk> | 触感提示装置 |
US20070236450A1 (en) * | 2006-03-24 | 2007-10-11 | Northwestern University | Haptic device with indirect haptic feedback |
JP2010256138A (ja) * | 2009-04-23 | 2010-11-11 | Canon Inc | 撮像装置及びその制御方法 |
CN103973971A (zh) * | 2013-01-30 | 2014-08-06 | 奥林巴斯映像株式会社 | 触摸操作装置、信息设备、接口装置以及拍摄设备 |
CN104423710A (zh) * | 2013-09-06 | 2015-03-18 | 意美森公司 | 将触觉信号变换成振动触知触觉效果模式集合的触觉变形系统 |
CN104460973A (zh) * | 2013-09-25 | 2015-03-25 | 现代自动车株式会社 | 用于提供触觉反馈的曲面触摸显示装置及其方法 |
CN104662495A (zh) * | 2013-09-26 | 2015-05-27 | 富士通株式会社 | 驱动控制装置、电子设备以及驱动控制方法 |
CN104199547A (zh) * | 2014-08-29 | 2014-12-10 | 福州瑞芯微电子有限公司 | 人机交互式虚拟触控装置、系统及方法 |
Also Published As
Publication number | Publication date |
---|---|
WO2016208036A1 (ja) | 2016-12-29 |
US20180088698A1 (en) | 2018-03-29 |
JP6500986B2 (ja) | 2019-04-17 |
JPWO2016208036A1 (ja) | 2018-03-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104662495B (zh) | 驱动控制装置、电子设备以及驱动控制方法 | |
CN101878487B (zh) | 用户接口装置、用户接口方法、以及记录媒体 | |
CN107710114A (zh) | 电子设备、以及驱动控制方法 | |
Aghajan et al. | Human-centric interfaces for ambient intelligence | |
CN111541907B (zh) | 物品显示方法、装置、设备及存储介质 | |
CN107199571A (zh) | 机器人控制系统 | |
CN103970267A (zh) | 用于触觉装置中的三维浮凸的摩擦调制 | |
US20180288387A1 (en) | Real-time capturing, processing, and rendering of data for enhanced viewing experiences | |
Strese et al. | Haptic material analysis and classification inspired by human exploratory procedures | |
WO2022012194A1 (zh) | 交互方法、装置、显示设备和存储介质 | |
WO2014147443A1 (en) | A touch display device with tactile feedback | |
CN111242090A (zh) | 基于人工智能的人脸识别方法、装置、设备及介质 | |
CN107430455A (zh) | 驱动控制装置、电子设备、驱动控制程序以及驱动控制方法 | |
CN109284005A (zh) | 一种融合静电力和振动的可穿戴式触觉再现装置和方法 | |
Waters et al. | Visual sensing of humans for active public interfaces | |
Greenwold | Spatial computing | |
CN105353829A (zh) | 一种电子设备 | |
CN106293099A (zh) | 手势识别方法及系统 | |
Zhang et al. | Multidimensional tactile sensor with a thin compound eye-inspired imaging system | |
Lo et al. | Augmediated reality system based on 3D camera selfgesture sensing | |
Sawada et al. | Tactile pen for presenting texture sensation from touch screen | |
CN109960912A (zh) | 电子设备 | |
Bichsel et al. | Automatic interpretation of human head movements | |
CN107430454A (zh) | 驱动控制装置、电子设备、驱动控制程序、以及驱动控制方法 | |
Hopf et al. | Novel autostereoscopic single-user displays with user interaction |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20180216 |