CN103135922A - 信息处理装置、信息处理方法以及内容文件的数据结构 - Google Patents
信息处理装置、信息处理方法以及内容文件的数据结构 Download PDFInfo
- Publication number
- CN103135922A CN103135922A CN201210477205XA CN201210477205A CN103135922A CN 103135922 A CN103135922 A CN 103135922A CN 201210477205X A CN201210477205X A CN 201210477205XA CN 201210477205 A CN201210477205 A CN 201210477205A CN 103135922 A CN103135922 A CN 103135922A
- Authority
- CN
- China
- Prior art keywords
- gui
- mentioned
- indication point
- indication
- point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
Abstract
本发明提供一种使用图形用户接口的信息处理装置、信息处理方法以及内容文件的数据结构。显示器的画面上显示有第1GUI、第2GUI、第3GUI。假定各GUI的点击判定区域为该GUI的图形内部区域。用户对接触点进行了触摸操作时,在画面内V字状地生成四个假想接触点。其结果,一个接触点位于第2GUI的点击判定区域内,两个接触点位于第3GUI的点击判定区域内。基于存在于各点击判定区域内的接触点的有无、个数、针对GUI分别设定的优先度等,按照预定的规则确定用户作为选择对象的GUI。
Description
技术领域
本发明涉及进行伴有图像显示的信息处理的信息处理装置、以及在该装置中使用的信息处理方法、内容文件的数据结构。
背景技术
近年来,便携式游戏机、便携式电话、PDA(Personal Data Assistance:个人数据助理)、平板终端等以便携式为假想前提的信息设备正在普及。在这样的设备中,基于尺寸上的限制以及便携时的便利性等观点,其输入手段受到限制。结果,专用于这些设备的输入手段及功能实现了独自的发展。
作为其一个方面,近年来,通过在显示器上装配触摸板而使得能在同一区域进行显示和输入的装置正在普及。导入触摸板后,能够就如在二维平面上存在实物一样进行图标等对象物的选择及移动、网页及文章的显示画面的放大缩小、滚动、翻页等,能进行直观的操作。
与是否采用触摸板作为输入手段无关地,为了启动应用程序、选择显示对象,一般是显示GUI(图形用户接口)的。从操作性和视认性的观点来说,由于不能无限制地缩小各个GUI的尺寸,故存在画面尺寸越小、一次显示的GUI的数量越多,GUI彼此的间隔就越狭窄的趋势。由此,特别是在用手指对触摸板进行操作时,容易发生选择了用户非意图的GUI等误操作。此外,对于要显示在装置上的内容的制作者来说,也需要根据显示环境等调整各GUI的点击判定区域的分配。
发明内容
本发明是鉴于这样的课题而设计的,其目的在于提供一种能不依赖于装置等环境地维持GUI的选择操作性的技术。
本发明的一个方案涉及一种信息处理装置,包括:输入信息取得部,针对包含GUI(图形用户接口)的显示图像,取得用户所表示的指示点的位置;操作内容确定部,在构成显示图像的平面上,在基于指示点的位置而决定的位置配置假想指示点,并基于包含该假想指示点在内的多个指示点的位置与针对GUI分别设定的点击判定区域的位置关系来进行GUI的比较,由此选出一个GUI;信息处理部,执行与所选出的GUI对应的处理。
本发明的另一方案涉及一种信息处理方法。该信息处理方法包括如下步骤:在信息处理装置中,针对包含GUI(图形用户接口)的显示图像,取得用户所表示的指示点的位置;在构成显示图像的平面上,在基于指示点的位置而决定的位置配置假想指示点,并基于包含该假想指示点在内的多个指示点的位置与针对GUI分别设定的点击判定区域的位置关系来进行GUI的比较,由此选出一个GUI;执行与所选出的GUI对应的信息处理。
本发明的再一个方案涉及一种内容文件的数据结构,其特征在于,使在信息处理装置中执行的内容的程序与接触点生成规则设定文件建立有对应;接触点生成规则设定文件是用于在该信息处理装置中设定假想指示点的配置规则的文件,所述假想指示点是基于所取得的用户在构成含有内容执行中所显示的GUI(图形用户接口)的显示图像的平面上所表示的指示点的位置而产生的假想指示点,该接触点生成规则设定文件由信息处理装置在内容执行中进行参照,从而产生假想指示点,并基于包含该假想指示点在内的多个指示点的位置与按GUI而设的点击判定区域的位置关系,进行GUI的比较,由此选出一个GUI,执行与该GUI对应的处理。
将以上构成要素的任意组合、本发明的表现形式在方法、装置、系统、计算机程序等之间变换后的实施方式,作为本发明的方案也是有效的。
附图说明
图1是表示本实施方式的信息处理装置的外观例的图。
图2是详细表示本实施方式的信息处理装置的构成的图。
图3是表示本实施方式的信息处理装置接受GUI的选择输入的处理步骤的流程图。
图4是用于说明在本实施方式中,操作内容确定部根据触摸操作而进行的处理的例子的图。
图5是用于说明在本实施方式中,决定接触点所形成的V字形状的倾度的一种方法的图。
图6是表示在本实施方式中为生成假想的接触点而记述在接触点生成规则设定文件中的数据例子的图。
图7是表示在本实施方式中生成假想的接触点的规则的另一例的图。
图8是表示在本实施方式中,操作内容确定部从所点击的多个GUI中选出一个时的处理步骤的流程图。
具体实施方式
下面基于具体实施方式说明本发明,但实施方式仅用于说明本发明的原理,并非限定本发明的范围。
图1表示了本实施方式的信息处理装置的外观例。信息处理装置10可以是便携式电话、PDA、便携式游戏机、平板终端等一体地具有显示功能和其它信息处理功能的装置的任一种。或者,也可以将具有图1所示的信息处理装置10的外观的装置作为显示及输入用的装置,并将其它信息处理功能设置在与该装置连接的另一壳体内。信息处理装置10可以具有与功能相应的各种各样的处理机构,但这些都可以采用一般的技术,故适当省略说明。
信息处理装置10具有如下结构:显示器14被配置在本体前面,触摸板12覆盖其上面。显示器14的背面内置有CPU、图形处理器、声音处理器、存储器等各种信息处理所需的机构(未图示)。显示器14可以是液晶显示器、EL(Electronic Luminescence:电致发光)显示器、等离子显示器等一般的显示器的任一种。
触摸板12由电阻膜方式、光学式、静电电容耦合式等已被实用化的方式的任一种实现,检测手指7或触摸笔等的接触点。信息处理装置10可以除此之外还具有输出声音的扬声器、耳机连接端子、与其它装置进行通信的红外线端口或无线LAN的机构、电池盒等,但在此省略了图示。显示器14上根据信息处理装置10的功能而显示菜单画面、图标排列等用户操作输入所需的画面、作为信息处理结果的游戏画面、动图像再现画面、文本显示画面、静止图像显示画面等。
图2详细表示了信息处理装置10的构成。信息处理装置10除上述的触摸板12、显示器14外,还包括取得手指位置等必要信息的传感器15、存储内容程序及各种数据的内容文件存储部16、控制从触摸板12接收输入信号和向显示器14输出图像数据的输入输出控制部20、将来自触摸板的输入信号转换成操作内容的信息的操作内容确定部22、根据操作内容来处理内容的内容处理部24、以及生成显示图像的显示图像生成部30。
在图2中,作为进行各种各样处理的功能块而记载的各要素在硬件上可以由CPU、存储器及其它LSI构成,在软件上可以由处理内容、进行图像处理的程序等实现。因此,本领域技术人员当理解这些功能块可以仅由硬件、仅由软件、或者由它们的组合以各种各样的形式实现,并不限定于某一种。
传感器15可以是装配于信息处理装置10的背面的触摸板、装配于显示器14并将位于显示器14上面的手指等物体的影子或像作为图像来取得的传感器、装配于内部并取得显示器14的倾度的加速度传感器、陀螺传感器等的任一种。传感器15如后述那样是为取得用于提高处理精度的辅助性信息而设的,也可以根据情况不设置该传感器15。
输入输出控制部20以现有的方法与触摸板12、显示器14、传感器15相连接,控制数据的输入输出。从触摸板12接收的输入信号表达用户在触摸板12上触碰的接触点的坐标、接触点连续移动时的坐标移动路径等。触摸板12上的接触点的检测方法因其方式而异,故不在此讨论。对触摸板12的接触操作也可以通过手指以外的身体部位或触摸笔那样的道具来进行,但下面以手指为代表进行说明。输入输出控制部20接收传感器15所取得的数据,并向显示器14输出显示图像的视频信号。
内容文件存储部16存储根据用户的触摸板操作等进行内容显示的相关信息处理所需要的各种数据。这里所谓“内容”,可以是计算机游戏、电影、音乐、小说、照片、地图、网页、统括它们的菜单画面等,只要是能通过电子处理表现的对象即可,并不限定其种类和数据的存储路径。此外,本实施方式除适用于一般的“内容”外,还能适用于通信、日程管理、地址簿、表计算等一般的信息处理,但在以下说明中,将它们也都包含在内地统称为“内容”。
例如若内容是游戏,则内容文件存储部16存储其程序、玩家信息、前次游戏时的达到级别等信息。若内容是电影或音乐,则存储被压缩编码了的视频数据、音频数据,以及用于将其解码再现的程序等。此外,还存储内容显示及处理所需的GUI(图形用户接口)的图像数据、GUI配置信息。内容文件存储部16可以是硬盘驱动器,也可以是存储卡、ROM盘、光盘、光磁盘等移动记录介质和与之对应的读取装置的组合。
操作内容确定部22从输入输出控制部20取得来自触摸板12的输入信号,基于该信号中所包含的接触点的坐标,确认用户所意图的操作内容。例如在进行了接触触摸板12的一点、并使该接触点移动的操作时,将之视为画面滚动操作。另外,当显示图像中显示有GUI时,基于接触点与GUI的位置关系确定选择对象的GUI,并确定与该GUI对应的操作内容。然后将所确定的操作内容、以及接触点的移动路径等处理所需的信息通知给内容处理部24。
在此,将用户为选择输入而触碰选择对象的GUI的操作称为“触摸操作”。“触摸操作”一般表示触碰到触摸板12中的与GUI对应的区域(以下称作“点击判定区域”)内。另一方面,在本实施方式中,在实际接触点的附近按预定规则产生一个以上的假想接触点,并根据各GUI的点击判定区域中所包含的接触点的数量等确定选择对象的GUI。
因此,在以下的说明中,将虽然接触点不直接位于点击判定区域内,但作为触摸操作的对象的GUI存在于画面内,且该画面内发生了一处接触的时候,作为广义的“触摸操作”。当然,认定为“触摸操作”的规则多种多样,并不限定于本例。此外,关于“GUI”,只要是通过触摸操作的指示而决定接下来的信息处理的对象即可,并不限定其形态。例如除模仿操作按钮样子的GUI、表示各菜单项目的矩形、图标等外,还可以是描绘于画面内的虚拟世界中存在的对象等。
为确定选择对象的GUI,操作内容确定部22将设定有基于接触点而产生假想接触点的规则的接触点生成规则设定文件26、和设定有选出选择对象的GUI的规则的GUI选出规则设定文件28存储在内部的存储器等中。这些设定文件可以在装置制造时准备,也可以读取同内容文件存储部16存储的内容文件一起提供来的信息而得到。
内容处理部24基于操作内容确定部22所通知的信息等,使用内容文件存储部16存储的程序及图像数据等,进行内容显示所需要的处理。此时,根据需要将预定的GUI配置在预定位置。具体的处理步骤可以根据内容(contents)的内容来适用现有技术。显示图像生成部30按照来自内容处理部24的要求,从内容文件存储部16读出所需的图像数据等,生成应输出的图像的数据,将之输出给输入输出控制部20。所生成的图像被存储在输入输出控制部20内的帧缓存器中,通过输入输出控制部20在适当的定时(timing)输出到显示器14而被显示。
图3是表示信息处理装置10接受GUI的选择输入的处理步骤的流程图。首先,用户从显示于显示器14的菜单画面中选择内容等,介由触摸板12输入开始显示的指示后(S10),内容处理部24和显示图像生成部30从内容文件存储部16中读出所需的数据,使内容的图像和所需的GUI的图像显示在显示器14上(S12)。
在该状态下待机(S14的“否”),直到用户接触触摸板12。此时,可以适当进行可与用户操作独立进展的内容相关处理及显示更新。如果有接触了,操作内容确定部22检测该接触(S14的“是”)。然后,若该接触与画面滚动、图像的放大缩小操作等触摸操作不同(S16的“否”),则操作内容确定部22确定与该操作建立了对应的操作内容,将之与接触点的路径等处理所需的信息一并通知给内容处理部24,由此,内容处理部24进行相应处理(S24)。
若进行了触摸操作(S16的“是”),则操作内容确定部22基于接触点的位置和接触点生成规则设定文件26中所设定的规则,使画面内产生假想接触点(S18)。接触点生成规则设定文件26中记载有所产生的假想接触点的数量、分布形状、分布区域的尺寸等。然后,不论是实际接触点还是假想接触点,都抽取出位于针对各GUI所分别设定的点击判定区域内的接触点。
以下将接触点位于某个点击判定区域内的状态称为“点击”了对应的GUI,将各GUI的点击判定区域内的接触点数量称作该GUI的“点击点数”。当只有一个GUI的点击判定区域内有接触点时,即仅有一个GUI发生了点击时(S20的“否”),将该GUI选为选择对象,将与之对应的操作内容通知给内容处理部24,由此,内容处理部24进行相应处理(S24)。
另一方面,多个GUI发生了点击时(S20的“是”),操作内容确定部22按照GUI选出规则设定文件28选择一个GUI作为选择对象(S22)。GUI选出规则设定文件28中记载有点击点数、优先度、对点击点数和优先度加权相加后的得点等用于选出GUI的参数的定义、以及基于该参数选出一个GUI的规则。
然后以选出的GUI为选择对象,将与之对应的操作内容通知给内容处理部24,由此,内容处理部24进行相应处理(S24)。在用户未进行结束内容的显示的指示输入的期间(S26的“否”),反复进行S14至S24的处理,当有结束显示的指示输入时,结束处理(S26的“是”)。
图4是用于说明操作内容确定部22根据触摸操作进行的处理的例子的图。首先,作为一例,假定显示器14的画面40中显示了作为选项的三个GUI、即第1GUI42a、第2GUI42b、第3GUI42c。假定各GUI的点击判定区域为该GUI的图形内部的区域。在该状态下用户对接触点44进行触摸操作时,操作内容确定部22在画面内生成例如四个假想接触点46a、46b、46c、46d。在该图中,使假想接触点46a、46b、46c、46d分布成以实际接触点44为顶点的V字形状。表示接触点44和假想接触点46a、46b、46c、46d的圆形标记表示了构成画面的平面上的位置,但并不作为图像而显示。
包含这样产生的假想接触点在内的共计五个接触点中,一个接触点46d位于第2GUI42b的点击判定区域内,两个接触点46a、46b位于第3GUI42c的点击判定区域内。即,第2GUI42b和第3GUI42c发生了点击,第2GUI42b的点击点数为“1”,第3GUI42c的点击点数为“2”。当GUI选出规则设定文件28中规定了选出点击点数最大的GUI这样的规则时,操作内容确定部22选出第3GUI42c作为选择对象。
在该图的例子中使假想接触点分布成以实际接触点为顶点的V字形状的理由如下。即,在用户从画面40的下方伸出手进行触摸操作的情况下,其指尖多数情况下是朝向画面上侧。一边看着画面40一边用该指尖进行触摸操作时,一般倾向于接触比选择对象的GUI的图形的中心靠下方,有时接触GUI的下端附近。利用该倾向,在以这样的手指朝向为假想前提的装置中,使假想接触点分布在比实际接触点靠画面上侧。
此外,在以右手手指进行操作时,倾向于触摸GUI的右下方,在以左手手指进行操作时,倾向于触摸GUI的左下方。即,在以右手操作时,选择对象的GUI存在于比实际接触点靠左上方的概率较高,在以左手操作时,选择对象的GUI存在于比实际接触点靠右上方的概率较高。因此,在使接触点分布成V字形状时,不论操作的手是左右哪只手,都能精度良好地选出选择对象的GUI。若将该性质一般化,就成了优选使假想接触点分布在接触点周围区域中的手指的顶点侧。
图5是用于说明利用上述性质决定图4所示的接触点所形成的V字形状的倾度的一种方法的图。该例是以从左右方向握持信息处理装置10,用伸出到画面上的拇指和食指操作触摸板12为假想前提的。该图右侧表示了握持信息处理装置10的用户右手50的样子。关注拇指,一般来说拇指的根部位于画面48右端的下部(例如该图的位置52)。通过以该位置为中心调整手指的方向和到达距离,来进行基于拇指的触摸操作。
因此,拇指的可动范围成为接近以根部的位置52为中心的扇形的区域(该图的区域54)。若预先定义根部的位置52,则拇指的朝向由以该位置52为始点、以实际接触点56为终点的矢量58来表示。如上所述选择对象的GUI处于手指的顶点附近的概率较高,故通过使假想接触点以接触点56的周围区域中的手指顶点的方向、即矢量58的延长线60为中心地进行分布,能精度良好地选出GUI。
在该图的例子中,使之分布成相对于延长线60呈线对称的V字形状。在以食指、左手进行操作时,同样将根部的位置定义为始点,由此,能使接触点分布在手指的顶点附近。若基于区域54那样的各手指的可动范围等预先使画面内的区域与接触其内部的手指预先建立对应,并根据接触的区域切换根部的位置,则不论用哪个手指操作都能以同样的精度选出GUI。关于根部的位置52,可以基于装置的形状或画面的构成等导出预想值,也可以通过在装置中对根部的位置52附加标记来调整用户握持的位置。
图6表示了为生成图5所示的假想接触点而记述在接触点生成规则设定文件26中的数据例。接触点生成规则设定文件26包括形状栏72、尺寸栏74、个数栏76以及始点栏78。形状栏72中记载接触点的分布形状。在图5的例子中,是“V字”。尺寸栏74中记载按基准方向表示分布形状时的纵向和横向的尺寸。在该图的情况下,相对于无倾度的V字,使纵向为5mm、使横向为5mm。
个数栏76中记载假想接触点的生成数量。在图5的例子中是“4”。此外,始点栏78中记载表示进行操作的手指的根部位置的信息、例如屏幕坐标系中的坐标“(X1,Y1)”等。当然,尺寸及位置的设定单位和表现方法不限于此。在以用多个手和手指进行操作为假想前提的情况下,对它们分别准备同样的数据。此外,还可以设置用于设定画面内的某个区域的栏,该区域用于切换根部的位置。
除图5、6所示的例子外,通过根据装置和画面构成等使假想接触点的分布最优化,能够针对各种各样的环境维持GUI的选出精度。作为决定最优分布的要素,有是握持信息处理装置还是将之放在桌子等上、画面的倾度、是否用握持的手操作、握持的手的状态、握持位置等基本上基于装置的外在表现来决定的情况,和GUI的配置、是纵向看画面还是横向看画面等根据内在表现来决定的情况。
例如在将显示器和触摸板装配在桌子的桌面上,用户从正上方俯瞰画面时,进行触摸操作的指尖一般是几乎垂直于显示器向下的。此时在画面的平面上,认为在接触点的周围区域存在选择对象的GUI的概率无偏向,故可以使假想接触点在实际接触点的周围圆状且均等地分布。此时,图6中的始点栏78就不需要了。另外,基于上述要素,也可以取代V字而使分布形状为Y字,或者使之为穿过实际接触点的直线或曲线等。
不论如何,优选考虑基于上述要素决定的位置关系的倾向,来决定能高精度地选出选择对象的GUI的分布。在进行决定时,可以如上所述那样基于GUI处于手指的顶点侧的可能性较高这样的预想,使用矢量等算出,也可以实际地按各条件反复进行触摸操作实验,统计学地导出最优分布。另外,也可以在首次操作装置时、首次执行内容时等,通过让用户进行对测试图像的触摸操作来进行校准,考虑各用户的操作倾向、手指长度、常用手等地进一步进行最优化。还可以按照所决定的分布,适当改变接触点生成规则设定文件26的数据结构。
此外,在通过传感器15另行得到实际操作的手指的相关信息的情况下,操作内容确定部22可以基于该信息适应性地更新接触点生成规则设定文件26中的设定。例如当信息处理装置10的背面装配有另一触摸板,并能取得在背面支承装置的中指的位置的情况下,根据中指的位置,按照一般的手的大小等导出所能假定的拇指和食指的根部位置,随时更新接触点生成规则设定文件26的始点栏78。
在通过在信息处理装置10内部装配加速度传感器、陀螺传感器而能取得画面的倾度的情况下,根据画面的倾度随时更新接触点生成规则设定文件26的形状栏72。例如画面朝向为向上时,按照上述原理,将形状栏72的设定从“V字”变成“圆状”。此时,将画面的倾度与最优分布形状在另一文件中预先建立对应关系。此外,当在显示器14上设置能取得手指的影子或像的摄像头、传感器,能将操作的手指作为二维图像来取得的情况下,不进行矢量计算就能判明指尖的朝向,故无需始点栏78。此时,只要使用指尖的朝向来取代矢量,其后的处理与上述是一样的。
图7表示了生成假想接触点的规则的另一例。在该图中,接触点的分布形状呈V字状,这一点同图5是一样的。另一方面,在该图的例子中,根据接触点与画面80的边框的关系决定了V字的朝向和尺寸。例如接触点处于画面80的右下方时,不论指尖的朝向如何,若画面80的下端附近及右端附近没有GUI,则在该方向上生成假想接触点是不够高效的。
此时,如V字分布82所示那样,从接触点起以左上方向的预定角度为中心分部假想接触点。此时,可以根据画面端不存在GUI等GUI的配置,使V字的开度较小等。接触点处于画面80的左下方时也是一样,从接触点起以右上方向的预定角度为中心分布假想接触点(V字分布84)。此外,当画面80的上端附近有GUI,实际接触点处于其下部附近时,加大V字的开度以使得假想接触点收于画面80内,并减小纵方向的尺寸(V字分布86)。同样,当有根据画面的端部、GUI的配置与接触点的位置关系,应比指尖的朝向更优先的规则存在时,也根据装置及内容决定这样的规则,适当设定在接触点生成规则设定文件26中。
图8是在图3的S22中,操作内容确定部22从发生了点击的多个GUI中选出一个时的处理步骤的流程图。当然,该处理步骤仅是能设定在GUI选出规则设定文件28中的各种各样规则的一例。首先,以发生了点击的多个GUI为对象进行点击点数判定(S30)。具体来说,针对该多个GUI分别取得点击点数、即位于对应的点击判定区域之内的接触点的数量,将它们进行比较。若某一个GUI的点击点数比其它的高(S32的“否”),则将该GUI选为选择对象GUI(S40)。
此外,在S30的点击点数判定处理时,也可以按预定的规则对各接触点进行加权。例如仅使用户的实际接触点乘以预定的系数,使其点数比一个假想接触点的点数(=1点)高。或者,使所有接触点都乘以距实际接触点的距离越远、值就越小的系数,根据距离来使接触点的权重变化。由此,能够重视实际接触点地选出GUI。
另一方面,当按最高点击点数同点的GUI存在多个时(S32的“是”),以该GUI为对象进行优先度判定(S34)。此外,也可以根据假想接触点的生成数量,使得若点数差在预定阈值以下,就视为“同点”。在进行优先度判定的情况下,预先对各GUI设定表示优先度的数值。例如将优先度分为5个级别,根据GUI的内容等设定从1到5的数值。在为确认能否删除文件或数据而并排显示“删除”、“取消”这样的两个按钮的GUI的情况下,通过将“取消”按钮的优先度设定得高于“删除”按钮,能防止因误操作导致的数据删除。
然后,将对象GUI的优先度进行比较,若某个GUI的优先度高于其它(S36的“否”),则将该GUI选为选择对象的GUI(S40)。另一方面,若按最高优先度同点的GUI存在多个(S36的“是”),则以该GUI为对象进行处理顺序判定(S38)。这是对显示GUI的程序上的处理顺序进行比较,将最早处理的GUI选为选择对象的GUI(S40)。通过这样的处理步骤,能在至少某一个级别选出一个GUI。当然,也可以根据内容(contents)的内容等,使优先度判定和点击点数判定的顺序反过来等。不论是哪种情况,都预先设定在GUI选出规则设定文件28中。
根据以上所述的本实施方式,在对显示于画面上的GUI进行选择输入时,基于触摸操作时的接触点产生假想接触点,并根据存在于各GUI的点击判定区域内的接触点的有无及个数等,推定选出选择对象的GUI。在接受对GUI的触摸操作的以往技术中,为使得即使用户接触到多少偏离于GUI图形的位置也能反应,是增加GUI图形周围的边界区域来作为点击判定区域的。但显示多个GUI或显示空间较小,GUI较密集时,就需要下功夫使点击判定区域不重叠、或者研究接触到重叠区域时的特别处理。
GUI的密集程度还依赖于内容的画面构成、显示器的面积等,所以即使是能通用的GUI部件,在内容制作时也需要根据各种各样的状況重新定义点击判定区域,这对制作者来说会成为负担。在本实施方式中,通过产生假想接触点,即使接触到远离GUI一定距离的位置,附近的GUI也易于发生点击。因此,能不包含边界区域地以与GUI图形相同的尺寸设定点击判定区域。结果,无需上述那样的点击判定区域的相关调整作业,能减轻内容制作者的负担。
此外,根据装置的形状、预想的持有方式等依赖于装置的条件、GUI的配置、画面构成等依赖于内容的条件,来决定要生成的假想接触点的个数、分布形状、分布区域的尺寸。由此,能高精度地确定选择对象的GUI,能抑制接触稍偏离点击判定区域就得不到响应、或成了对另一GUI的选择输入这样的非理想状况的发生。结果,能兼顾内容制作的容易性和触摸操作的操作性。
以上基于实施方式说明了本发明。本领域技术人员当理解上述实施方式仅是例示,可以对其各构成要素和各处理过程的组合进行各种变形,并且这样的变形例也包含在本发明的范围内。
本实施方式是以对触摸板的触摸操作为契机确定成为对象的GUI的,但触摸板以外的输入手段也能适用同样的处理。例如如上所述对显示器装配了拍摄手指或指示棒的影子的传感器等时,可以使用其指示的位置来取代本实施方式中的接触点。此外,还考虑将本发明应用于通过使用投影仪在墙壁或地板等上投影图像,用摄像头或各种传感器取得图像前的用户的影子或图像,来演示出与用户的手或脚的位置相应的图像变化的系统。此时,在被识别为用户的手尖或脚尖的位置附近产生假想指示点,并进行与本实施方式同样的判定,由此确定出现变化的部分。在用点来识别手尖或脚尖的情况下,有可能出现仅微小的偏差无法得到所意图的变化这样的情况,但通过产生假想指示点,能吸收该偏差,实现精度良好的处理。
此外,在本实施方式中,即使接触点多少偏离于GUI的图形,也能精度良好地确定选择对象的GUI。利用该特征,当所确定的GUI偏离于实际的接触点时,可以施加GUI的图形本身像向手指吸附那样移动的演示效果。例如在要通过拖拽操作使用触摸操作选择的GUI移动到画面内的另一位置时,能以GUI始终跟着手指的状态进行拖拽,故能得到更加自然的操作感。此时,只要通过现有技术显示所选出的GUI的中心向实际接触点移动那样的动画即可。
Claims (12)
1.一种信息处理装置,其特征在于,包括:
输入信息取得部,针对包含GUI即图形用户接口的显示图像,取得用户所表示的指示点的位置;
操作内容确定部,在构成显示图像的平面上,在基于上述指示点的位置而决定的位置配置假想指示点,并基于包含该假想指示点在内的多个指示点的位置与按上述GUI而设的点击判定区域的位置关系来进行GUI的比较,由此选出一个GUI;以及
信息处理部,执行与所选出的GUI对应的处理。
2.如权利要求1所述的信息处理装置,其特征在于,
上述输入信息取得部取得用户对装配于显示上述显示图像的显示器上的触摸板的指头接触点作为上述指示点;
上述操作内容确定部在上述接触点周围区域中的指尖的顶点侧的区域配置上述假想指示点。
3.如权利要求1所述的信息处理装置,其特征在于,
上述操作内容确定部在按照与装置或显示图像相对应地准备的规则而定的位置配置上述假想指示点。
4.如权利要求1所述的信息处理装置,其特征在于,
上述操作内容确定部使上述假想指示点分布成以上述指示点为顶点的V字形状。
5.如权利要求2所述的信息处理装置,其特征在于,
上述输入信息取得部取得握持上述信息处理装置的手的手指对上述触摸板的接触点;
上述操作内容确定部以从该手指的根部位置至上述接触点的矢量的方向为上述指尖的顶点的方向,使上述假想指示点以该方向为中心地分布。
6.如权利要求5所述的信息处理装置,其特征在于,还包括:
背面触摸板,检测从背面支承上述信息处理装置的指头的位置;
上述操作内容确定部基于上述背面触摸板检测出的位置,确定上述指头的根部位置。
7.如权利要求2所述的信息处理装置,其特征在于,还包括:
传感器,取得上述显示器的倾度;
上述操作内容确定部根据上述显示器的倾度而使分布上述假想指示点的形状变化。
8.如权利要求2所述的信息处理装置,其特征在于,还包括:
传感器,将上述显示器上的指头的像作为图像而取得;
上述操作内容确定部基于上述指头的像确定上述指尖的顶点的方向,并使上述假想指示点以该方向为中心地分布。
9.一种信息处理方法,其特征在于,包括如下步骤:
在信息处理装置中,针对包含GUI即图形用户接口的显示图像,取得用户所表示的指示点的位置的步骤;
在构成显示图像的平面上,在基于上述指示点的位置而决定的位置配置假想指示点,并基于包含该假想指示点在内的多个指示点的位置与按上述GUI而设的点击判定区域的位置关系来进行GUI的比较,由此选出一个GUI的步骤;以及
执行与所选出的GUI对应的信息处理的步骤。
10.一种计算机程序,其特征在于,使计算机实现以下功能:
针对包含GUI即图形用户接口的显示图像,取得用户所表示的指示点的位置的功能;
在构成显示图像的平面上,在基于上述指示点的位置而决定的位置配置假想指示点,并基于包含该假想指示点在内的多个指示点的位置与按上述GUI而设的点击判定区域的位置关系来进行GUI的比较,由此选出一个GUI的功能;以及
执行与所选出的GUI对应的信息处理的功能。
11.一种记录介质,其特征在于,记录有使计算机实现以下功能的计算机程序:
针对包含GUI即图形用户接口的显示图像,取得用户所表示的指示点的位置的功能;
在构成显示图像的平面上,在基于上述指示点的位置而决定的位置配置假想指示点,并基于包含该假想指示点在内的多个指示点的位置与按上述GUI而设的点击判定区域的位置关系来进行GUI的比较,由此选出一个GUI的功能;以及
执行与所选出的GUI对应的信息处理的功能。
12.一种记录有内容文件的数据的记录介质,其特征在于,所述内容文件具有如下特征:
使在信息处理装置执行的内容的程序与接触点生成规则设定文件建立有对应;
上述接触点生成规则设定文件是用于在该信息处理装置中设定假想指示点的配置规则的文件,所述假想指示点是基于所取得的用户在构成含有内容执行中所显示的GUI即图形用户接口的显示图像的平面上所表示的指示点的位置而产生的假想指示点,该接触点生成规则设定文件由上述信息处理装置在内容执行中进行参照,从而产生上述假想指示点,并基于包含该假想指示点在内的多个指示点的位置与按上述GUI而设的点击判定区域的位置关系,进行GUI的比较,由此选出一个GUI,执行与该GUI对应的处理。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011-259554 | 2011-11-28 | ||
JP2011259554A JP5460679B2 (ja) | 2011-11-28 | 2011-11-28 | 情報処理装置、情報処理方法、およびコンテンツファイルのデータ構造 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103135922A true CN103135922A (zh) | 2013-06-05 |
CN103135922B CN103135922B (zh) | 2016-05-04 |
Family
ID=47191569
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201210477205.XA Active CN103135922B (zh) | 2011-11-28 | 2012-11-21 | 信息处理装置以及信息处理方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US9841890B2 (zh) |
EP (1) | EP2597560B1 (zh) |
JP (1) | JP5460679B2 (zh) |
CN (1) | CN103135922B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114144235A (zh) * | 2019-12-25 | 2022-03-04 | 株式会社克拉普汉兹 | 操作输入程序和操作输入方法 |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8639020B1 (en) | 2010-06-16 | 2014-01-28 | Intel Corporation | Method and system for modeling subjects from a depth map |
JP5529700B2 (ja) * | 2010-09-27 | 2014-06-25 | 株式会社ソニー・コンピュータエンタテインメント | 情報処理装置、その制御方法、及びプログラム |
US11048333B2 (en) | 2011-06-23 | 2021-06-29 | Intel Corporation | System and method for close-range movement tracking |
JP6074170B2 (ja) | 2011-06-23 | 2017-02-01 | インテル・コーポレーション | 近距離動作のトラッキングのシステムおよび方法 |
JP5102412B1 (ja) * | 2011-12-27 | 2012-12-19 | パナソニック株式会社 | 情報端末、情報端末の制御方法、及び、プログラム |
US9477303B2 (en) | 2012-04-09 | 2016-10-25 | Intel Corporation | System and method for combining three-dimensional tracking with a three-dimensional display for a user interface |
JP5377709B2 (ja) * | 2012-05-23 | 2013-12-25 | 株式会社スクウェア・エニックス | 情報処理装置,情報処理方法,及びゲーム装置 |
US20140123077A1 (en) * | 2012-10-29 | 2014-05-01 | Intel Corporation | System and method for user interaction and control of electronic devices |
KR20140133353A (ko) * | 2013-05-10 | 2014-11-19 | 삼성전자주식회사 | 디스플레이 장치 및 그 ui 화면 제공 방법 |
US20150160794A1 (en) * | 2013-12-09 | 2015-06-11 | Microsoft Corporation | Resolving ambiguous touches to a touch screen interface |
US20150277678A1 (en) * | 2014-03-26 | 2015-10-01 | Kobo Incorporated | Information presentation techniques for digital content |
US10558341B2 (en) * | 2017-02-20 | 2020-02-11 | Microsoft Technology Licensing, Llc | Unified system for bimanual interactions on flexible representations of content |
US10684758B2 (en) | 2017-02-20 | 2020-06-16 | Microsoft Technology Licensing, Llc | Unified system for bimanual interactions |
JP6418299B1 (ja) * | 2017-09-15 | 2018-11-07 | 株式会社セガゲームス | 情報処理装置及びプログラム |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5168531A (en) * | 1991-06-27 | 1992-12-01 | Digital Equipment Corporation | Real-time recognition of pointing information from video |
US6411283B1 (en) * | 1999-05-20 | 2002-06-25 | Micron Technology, Inc. | Computer touch screen adapted to facilitate selection of features at edge of screen |
CN101878056A (zh) * | 2007-11-30 | 2010-11-03 | 科乐美数码娱乐株式会社 | 游戏程序、游戏装置以及游戏控制方法 |
EP2290515A2 (en) * | 2009-08-24 | 2011-03-02 | Samsung Electronics Co., Ltd. | Apparatus and method for providing GUI-interacting according to recognized user approach |
US20110102464A1 (en) * | 2009-11-03 | 2011-05-05 | Sri Venkatesh Godavari | Methods for implementing multi-touch gestures on a single-touch touch surface |
CN102257457A (zh) * | 2008-12-25 | 2011-11-23 | 富士通株式会社 | 计算机程序、输入装置以及输入方法 |
Family Cites Families (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05173684A (ja) * | 1991-12-26 | 1993-07-13 | Nec Corp | キーボード装置 |
JPH06301484A (ja) * | 1993-04-16 | 1994-10-28 | Hitachi Ltd | 情報処理装置および情報処理装置における表示情報の指示方法 |
US6259436B1 (en) * | 1998-12-22 | 2001-07-10 | Ericsson Inc. | Apparatus and method for determining selection of touchable items on a computer touchscreen by an imprecise touch |
US7821425B2 (en) * | 2002-07-12 | 2010-10-26 | Atmel Corporation | Capacitive keyboard with non-locking reduced keying ambiguity |
US8230359B2 (en) * | 2003-02-25 | 2012-07-24 | Microsoft Corporation | System and method that facilitates computer desktop use via scaling of displayed objects with shifts to the periphery |
US20070097096A1 (en) * | 2006-03-25 | 2007-05-03 | Outland Research, Llc | Bimodal user interface paradigm for touch screen devices |
KR100837283B1 (ko) * | 2007-09-10 | 2008-06-11 | (주)익스트라스탠다드 | 터치스크린을 구비한 휴대용 단말기 |
JP4430708B2 (ja) * | 2007-11-30 | 2010-03-10 | 株式会社コナミデジタルエンタテインメント | ゲームプログラム、ゲーム装置、およびゲーム制御方法 |
JP2010086230A (ja) * | 2008-09-30 | 2010-04-15 | Sony Corp | 情報処理装置、情報処理方法およびプログラム |
CN102197358A (zh) * | 2008-10-28 | 2011-09-21 | 夏普株式会社 | 具有2个显示装置的电子设备、其控制方法以及记录介质 |
US8788977B2 (en) * | 2008-11-20 | 2014-07-22 | Amazon Technologies, Inc. | Movement recognition as input mechanism |
WO2011044663A1 (en) * | 2009-10-14 | 2011-04-21 | Research In Motion Limited | Touch-input determination based on relative sizes of contact areas |
JP2011134127A (ja) * | 2009-12-24 | 2011-07-07 | Toshiba Corp | 情報処理装置およびキー入力方法 |
KR101695810B1 (ko) | 2010-05-07 | 2017-01-13 | 엘지전자 주식회사 | 이동 단말기 및 그 제어방법 |
JP2012003742A (ja) * | 2010-05-18 | 2012-01-05 | Panasonic Corp | 入力装置、入力方法、プログラム及び記録媒体 |
EP2606416B1 (en) * | 2010-08-16 | 2017-10-11 | Koninklijke Philips N.V. | Highlighting of objects on a display |
JP5694867B2 (ja) * | 2011-06-27 | 2015-04-01 | 京セラ株式会社 | 携帯端末装置、プログラムおよび表示制御方法 |
US20130002565A1 (en) * | 2011-06-28 | 2013-01-03 | Microsoft Corporation | Detecting portable device orientation and user posture via touch sensors |
US8775966B2 (en) * | 2011-06-29 | 2014-07-08 | Motorola Mobility Llc | Electronic device and method with dual mode rear TouchPad |
US10140011B2 (en) * | 2011-08-12 | 2018-11-27 | Microsoft Technology Licensing, Llc | Touch intelligent targeting |
-
2011
- 2011-11-28 JP JP2011259554A patent/JP5460679B2/ja active Active
-
2012
- 2012-09-12 US US13/611,239 patent/US9841890B2/en active Active
- 2012-11-08 EP EP12191884.1A patent/EP2597560B1/en active Active
- 2012-11-21 CN CN201210477205.XA patent/CN103135922B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5168531A (en) * | 1991-06-27 | 1992-12-01 | Digital Equipment Corporation | Real-time recognition of pointing information from video |
US6411283B1 (en) * | 1999-05-20 | 2002-06-25 | Micron Technology, Inc. | Computer touch screen adapted to facilitate selection of features at edge of screen |
CN101878056A (zh) * | 2007-11-30 | 2010-11-03 | 科乐美数码娱乐株式会社 | 游戏程序、游戏装置以及游戏控制方法 |
CN102257457A (zh) * | 2008-12-25 | 2011-11-23 | 富士通株式会社 | 计算机程序、输入装置以及输入方法 |
EP2290515A2 (en) * | 2009-08-24 | 2011-03-02 | Samsung Electronics Co., Ltd. | Apparatus and method for providing GUI-interacting according to recognized user approach |
US20110102464A1 (en) * | 2009-11-03 | 2011-05-05 | Sri Venkatesh Godavari | Methods for implementing multi-touch gestures on a single-touch touch surface |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114144235A (zh) * | 2019-12-25 | 2022-03-04 | 株式会社克拉普汉兹 | 操作输入程序和操作输入方法 |
Also Published As
Publication number | Publication date |
---|---|
EP2597560A2 (en) | 2013-05-29 |
EP2597560A3 (en) | 2017-05-03 |
CN103135922B (zh) | 2016-05-04 |
JP2013114422A (ja) | 2013-06-10 |
US20130139079A1 (en) | 2013-05-30 |
JP5460679B2 (ja) | 2014-04-02 |
EP2597560B1 (en) | 2020-12-23 |
US9841890B2 (en) | 2017-12-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103135922B (zh) | 信息处理装置以及信息处理方法 | |
EP3258361B1 (en) | Mobile terminal using pressure sensor and method of controlling the mobile terminal | |
US20110201388A1 (en) | Prominent selection cues for icons | |
US9367233B2 (en) | Display apparatus and method thereof | |
JP4148187B2 (ja) | 携帯型電子機器、入力操作制御方法及びそのプログラム | |
US9519402B2 (en) | Screen display method in mobile terminal and mobile terminal using the method | |
US20130117698A1 (en) | Display apparatus and method thereof | |
US8669937B2 (en) | Information processing apparatus and computer-readable medium | |
KR102378570B1 (ko) | 휴대 장치 및 휴대 장치의 화면 변경방법 | |
WO2012066591A1 (ja) | 電子機器、メニュー表示方法、コンテンツ画像表示方法、機能実行方法 | |
CN102473066A (zh) | 在多功能手持设备上显示、导航和选择电子方式存储内容的系统和方法 | |
CN105190504A (zh) | 由陀螺仪和加速度计修改的基于触摸的手势 | |
AU2012200532A1 (en) | Method and apparatus for graphical user interface | |
US20120284671A1 (en) | Systems and methods for interface mangement | |
US20140359450A1 (en) | Activating a selection and a confirmation method | |
JP2013109667A (ja) | 情報処理装置および情報処理方法 | |
US10628017B2 (en) | Hovering field | |
KR20170057823A (ko) | 에지 스크린을 통한 터치 입력 방법 및 전자 장치 | |
KR20190002525A (ko) | 눈멀거나 시각적으로 손상된 사람용 컴퓨팅 장치의 멀티미디어 관리용 가제트 | |
US20160227269A1 (en) | Display apparatus and control method thereof | |
US11016575B2 (en) | Input tool | |
US20160170593A1 (en) | A Hovering Field | |
US20190034069A1 (en) | Programmable Multi-touch On-screen Keyboard |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |