CN1524218A - 用于遗留软件与屏幕朗读器程序之间的互操作的方法和装置 - Google Patents

用于遗留软件与屏幕朗读器程序之间的互操作的方法和装置 Download PDF

Info

Publication number
CN1524218A
CN1524218A CNA02808621XA CN02808621A CN1524218A CN 1524218 A CN1524218 A CN 1524218A CN A02808621X A CNA02808621X A CN A02808621XA CN 02808621 A CN02808621 A CN 02808621A CN 1524218 A CN1524218 A CN 1524218A
Authority
CN
China
Prior art keywords
user interface
definition
control
interface definition
order
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CNA02808621XA
Other languages
English (en)
Other versions
CN1249577C (zh
Inventor
���׺�ķ��R�����¶�ɭ
格雷汉姆·R·爱德尔森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Publication of CN1524218A publication Critical patent/CN1524218A/zh
Application granted granted Critical
Publication of CN1249577C publication Critical patent/CN1249577C/zh
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00Arrangements for software engineering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/451Execution arrangements for user interfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Stored Programmes (AREA)
  • User Interface Of Digital Computer (AREA)
  • Storage Device Security (AREA)
  • Programmable Controllers (AREA)
  • Debugging And Monitoring (AREA)

Abstract

一种计算机程序和方法,帮助屏幕朗读器工作于其用户界面定义不符合屏幕朗读器程序所期望的设计准则的遗留程序。该方法包括:分析图形用户界面以识别用户界面元素在界面内的逻辑顺序;将用户界面元素在用户界面定义内的顺序与所识别的逻辑顺序进行比较,以识别任何所需的元素重新排序以符合所识别的逻辑顺序;以及执行所需的元素重新排序以符合所识别的逻辑顺序。为每个可分离的用户界面组件(如对话框)生成一个或多个列表或表格,以指定用于对定义内顺序不正确的用户界面控件重新排序的所需顺序,并且标识动态生成以与不具有所需静态文本控件的编辑控件一起使用的新静态文本控件。

Description

用于遗留软件与屏幕朗读器程序 之间的互操作的方法和装置
技术领域
本发明涉及可访问性辅助程序如屏幕朗读器程序与其他计算机程序和装置之间的互操作。
背景技术
近年来日益认识到需要考虑残疾人士的需要来设计软件产品和网页,以避免排除特定人群访问信息技术和信息内容。美国和英国政府以及其他国家的最近立法已使得帮助残疾人士访问商品和服务是强制性的,并且这就突出了软件供应商和信息提供商转向更易于访问的软件产品的重要性。而且,采用对可访问性问题的适当解决方案,万维网因特网服务和信息技术一般能够向盲人和视力受损人提供非常有用的服务来增强他们的自我依赖以及主动参与信息交换的能力。
可以使得软件产品易于访问的一种重要方式是使其正确地与屏幕朗读器程序一起工作。这些程序朗读显示在屏幕上的信息,或者将屏幕信息转换成盲文,从而使眼盲和视力受损的用户可以访问软件产品。目前存在很多GUI屏幕朗读器产品,包括来自国际商业机器公司的Screen Reader/2(TM)、来自Henter-Joyce Inc.的Jaws(TM)forWindows(TM)、来自Arctic Technologies Inc.的Winvision(TM)以及来自Berkeley Access的Outspoken(TM)for Windows。很多这些屏幕朗读器能够朗读图标和其他图形对象。例如,Outspoken屏幕朗读器将对话框、圆形按钮和其他图形控件转换成可听输出,并且可以与为Windows操作系统开发的很多应用程序一起使用。
当软件产品具有需要用户输入数据或其他信息的对话框或面板时,它们典型地使用称作‘静态文本控件’的控件随后是用户输入数据的输入区域(‘编辑控件’)而具有一行或多行描述所要输入的数据的文本。屏幕朗读器软件查找紧邻在编辑控件之前的静态文本控件,并且向用户朗读它作为在此点输入什么的提示。对话框或面板元素典型地作为控件有序列表而定义在一个文件中,并且屏幕朗读器通常将以它们出现在该列表中的次序朗读这些控件。对于屏幕朗读器以正确逻辑次序朗读对话框或面板,控件必须以正确次序位于该列表中。对于典型屏幕朗读器正确地以输入区域的提示工作,以下几点是重要的:
1)使用静态文本控件实现编辑控件的提示;以及
2)在对话框或面板定义文件中,正确的静态文本控件紧邻在编辑控件之前。
允许屏幕朗读器操作的先前尝试依赖于向用户界面设计者提供“可访问性”准则从而如果设计或重新设计用户界面将符合该准则,因而标准屏幕朗读器将能够读取并解释图形以及文本元素,并且以正确的顺序提供它们。
然而,在软件供应商注意残疾人士可访问性需求之前所编写的遗留程序可能具有很多不满足这些规则的对话框和面板定义,并且如果软件产品在很多不同国家出售,则各定义可能已被翻译成很多语言。由于无论控件在定义中的次序对话框或面板通常都将正确显示,因此只有当考虑与屏幕朗读器程序的兼容性时,准确的顺序才变得重要。遗留程序还可能使用不同于静态文本控件的控件作为编辑区域的提示区域,例如,允许用户从多个选项的范围内仅选择一个选项的‘圆形按钮’控件-在这种情况下,只有选择特定选项,输入区域才可以用来输入参数。如果提示是圆形按钮控件,则设计为读出与编辑控件相关联的静态文本控件的文本的屏幕朗读器将不正确工作,并且如果控件在对话框或面板定义内的次序不正确,则它将不以正确次序读出元素。
对于程序员在复杂软件产品多语言版本的所有对话框和面板定义内测试并改变控件次序或者增加控件来保证屏幕朗读器的正确操作将是冗长且易于出错的任务,并且将可能导致对话框和面板显示得与现有用户所熟悉和在产品文档中所示不同。
US 6,144,377公开一种允许可访问性辅助程序如屏幕朗读器程序访问和操纵应用程序的用户接口(UI)元素包括图形元素如编辑框和按钮的架构。根据US 6,144,377,允许屏幕朗读器访问实现UI元素的程序代码和数据以检查并操纵UI元素的各种特性如其位置或文本描述。然而,US 6,144,377没有公开如果控件或者这些控件在用户界面元素定义内的次序不同于屏幕朗读器所期望则典型屏幕朗读器不能完整或以正确次序朗读屏幕信息这一问题。
发明内容
在本发明的第一方面,提供一种帮助屏幕朗读器操作的方法,包括如下步骤:分析图形用户界面以识别用户界面元素在界面内的逻辑顺序;将用户界面元素在用户界面定义内的顺序与所识别的逻辑顺序进行比较,以识别任何所需的元素重新排序以符合所识别的逻辑顺序;以及执行所需的元素重新排序以符合所识别的逻辑顺序。
根据本发明这一方面的方法允许依赖于特定用户界面顺序的屏幕朗读器以正确次序朗读GUI信息。
本发明最好包括,响应分析或比较步骤,生成表示所识别逻辑顺序的界面内(或其可分离组件内)的用户界面元素列表,然后使用该列表来指定控件在用户界面定义内的所需顺序。允许屏幕朗读器以所识别逻辑顺序朗读用户界面元素控件的比较和重新排序步骤最好包括,响应开始显示用户界面,生成一个修改用户界面定义,其中,修改用户界面定义内的控件顺序符合所识别的逻辑顺序。
在显示时候生成修改用户界面定义最好通过调用操作系统功能以实现将元素重新排序成在列表中指定的顺序来实现。因此,至少在可以获得用于访问和操纵用户界面定义的功能的操作系统环境中,本发明可以以非常少的新程序代码来实现。
例如,本发明可以通过生成表示所识别逻辑顺序的用户界面元素有序列表然后使用响应“开始对话框显示”命令或消息(在Microsoft的Windows操作系统的例子中为“WM_INITDIALOG”消息)调用如在US 6,144,377中所述的操作系统功能来实现。
本发明可以用来保证屏幕朗读器对整个用户界面的正确操作,但是在一个优选实施例中,对分别定义的用户界面组件如面板、对话框或窗口(均可以包含很多不同的可选择或可编辑用户界面元素)单独执行其处理。本发明可以实现窗口、面板或对话框定义内用户界面元素的重新排序,从而使屏幕朗读器以对用户有意义的正确逻辑顺序朗读控件。
由于本发明允许屏幕朗读器程序正确使用遗留程序内的对话框和面板而无需人工修改遗留程序内的众多对话框和面板定义,因此与依赖于人工重新排序界面定义元素的情况相比,本发明可以实现得更快且更可靠。根据本发明的实施例,在三种可能时候之一处理应用程序内的对话框/面板定义:
1.在将对话框/面板定义编译成二进制格式之前,通过软件开发工具实现本发明。
2.在将对话框/面板定义编译成二进制格式之后,但是在使用它们来显示它们之前。
3.当对话框/面板显示在屏幕上时,通过运行时刻过程来执行其操作。运行时刻过程可以是操作系统的特性,包括用户界面的应用程序的特性、屏幕朗读器程序组件或者单独工具如Java(TM)applet(小应用程序)或ActiveX控件。应用程序在本上下文中是使用操作系统资源执行数据处理功能的任何程序,包括中间件和商业集成产品如消息递送或消息代理产品以及执行终端用户请求操作的程序如在线预订或订购程序。
这些可选实现时候的最后一个是最简单实现的,因为它不需要知道对话框/面板定义的源或者编译二进制格式的格式。本发明的该实施例将在下面进行更详细的描述。
在优选实施例中,本发明使用为每个错误对话框或面板定义生成的信息列表或表格以及当开始显示对话框或面板时运行以使用表格信息来纠正问题的过程。对于对话框或面板的所有不同语言版本,都使用相同的列表或表格,这与需要为各个语言版本单独人工重新排序GUI元素的解决方案相比保证一致性并且大大减轻实现屏幕朗读器正确操作的任务。
在一个优选实施例中,本发明被扩展为对遗留对话框和面板定义进行其他动态修改,如遵循其他可访问性要求;隐藏或增加控件,从而可能根据当前状态或情形剪裁对话框/面板;并且/或者在显示对话框/面板之前以缺省值预先填充一些区域。
在本发明的第二方面,本发明解决对话框定义中的用户界面元素如编辑控件之前不是屏幕朗读器所期望的静态文本控件提示或者其他用户界面元素这一问题。例如,如果紧邻在编辑控件如输入区域之前不是提示有视力用户输入数据的静态文本控件,则屏幕朗读器将不能为无视力的用户读出适当的提示。根据本发明这一方面,提供一种分析用户界面定义来识别省略屏幕朗读器所需的用户界面定义元素并且替代使用另一元素的任何情形的方法。如果省略所需元素,则根据该另一元素的内容动态创建所需用户界面元素的新实例。
本发明的该第二方面的一个应用是将紧邻在缺少期望静态文本控件的任何编辑控制之前的不可见静态文本控件加到用户界面定义文件。无论哪一个其他用户界面控件用作有视力用户的提示,都可以从中提取将由屏幕朗读器读出的该静态文本控件的文本(例如,如果圆形按钮的文本标签是视觉提示,则提取该文本标签)。用于解决没有静态文本控件的编辑控件这一问题的本发明一个实施例将在后面进行更详细的描述。
实现本发明的方法可以通过计算机程序来实现,例如可以作为包括记录在机器可读记录介质上的程序代码的计算机程序产品来提供。本发明的另外方面包括结合用于实现本发明的装置的程序产品和数据处理装置。
附图说明
现在仅作为示例参照附图对本发明的优选实施例进行更详细的描述:
图1是数据处理系统的示意图;
图2示出屏幕朗读器使用操作系统服务来访问界面定义文件;
图3示出遗留应用程序的用户界面内一个对话框的示例定义文件;
图4示出在图3中定义的对话框的视觉表示,其中标出各控件出现在图3的定义中的次序;
图5示出纠正控制器组件访问UI元素顺序列表并且使用操作系统访问组件以改变UI定义内的UI元素顺序;以及
图6A和6B示出根据本发明一个实施例的处理用户界面定义的方法的步骤序列。
具体实施方式
图1是例如在本领域中公知的数据处理系统的示意图,其中,屏幕朗读器程序40安装在系统上以使用操作系统20的功能来访问应用程序30的用户界面元素,并且通过输出设备60输出信息。对于本领域的技术人员是清楚的,这不限于任何具体数据处理系统或装置,或者任何具体类型的应用程序或者特定操作系统或屏幕朗读器。然而,为了描述本发明的特定示例实现,假定屏幕朗读器程序是Windows操作系统的典型屏幕朗读器程序,并且被配置用来访问当应用程序30在系统上运行时保存在系统存储器50中的应用程序用户界面定义文件。
如图2所示,操作系统20的组件在创建用户界面控件时访问应用程序30的用户界面的二进制格式定义文件70。屏幕朗读器程序40使用操作系统的资源来访问定义70并且提取适当的提示以提供给用户。例如,假定屏幕朗读器使用操作系统20的访问组件80从用户界面定义文件中提取文本信息,将它转换成音频信号并且通过扬声器60输出可听信息。访问组件例如可以实现在US 6,144,377中公开的可访问性接口。
如上所述,只有当用户界面控件在定义文件中具有正确顺序时,典型的屏幕朗读器程序才正确工作以提供完整且正确排序的音频信息。然而,这对于创建用户界面而没有考虑眼盲和视力受损用户的访问需求的遗留应用程序却不总是这种情况。
图3示出用户界面对话框的示例定义,并且图4示出该对话框的对应视觉表示。包括编辑区域、按钮和圆形按钮的对话框元素以与对话框的逻辑顺序不同的顺序出现在图3的定义中。由于定义内的坐标信息确定各组件的视觉位置而不考虑它们在定义内的顺序,因此这也将是一种对界面编程的可接受方法。然而,图4中元素1至10的编号表示如果不使用本发明则将由典型屏幕朗读器或其他可访问性工具朗读用户界面元素的顺序。因而,由屏幕朗读器提供的可听提示将只是使用户糊涂,并且对于某些编辑区域将不提供任何提示。例如,参照图3和4,当将光标置于各边界区域内向用户朗读的提示不正确-对于前两个编辑区域,将根本不朗读任何提示,并且对于第三编辑区域,提示将是“静态控件1(Static control 1)”。
对该问题的一个解决方案是人工重新编码应用程序内的所有用户界面组件定义从而以屏幕朗读器所期望的次序定位用户界面元素,并且保证包括所需的静态文本提示。如果所要修改的应用程序包括复杂用户界面,则这将是非常费时且易于出错的任务。而且,对于界面的各个不同语言版本,该任务将不得不重复。
实现本发明的另一解决方案是使用程序代码来自动修改用户界面定义内用户界面元素的顺序,从而以与界面视觉表示的逻辑顺序相符合的顺序将这些元素提供给屏幕朗读器。该定义修改最好是在将用户界面组件定义提供给操作系统以作显示的时候实现。在显示时候,向操作系统提供定义所需顺序的信息(界面元素标识符的有序列表),并且指示操作系统相应更新界面元素的属性。操作系统保持该更新顺序信息,从而使屏幕朗读器程序可以查询该顺序-例如使用如在US6,144,377中描述的访问接口。
现在将参照图6A和B更详细地描述该解决方案。首先,分析200、210用户界面,以识别不符合典型屏幕朗读器的用户界面要求的用户界面内的任何对话框、面板或窗口元素。根据现有定义所存在的问题,为每个错误对话框或面板生成220、230一个或两个列表或表格。如果元素没有以正确次序列出(215),则生成220由以正确次序排列的界面组件界面元素标识符列表组成的简单列表或表格。然后,与界面组件定义相关联对此进行存储240以允许随后的元素重新排序。其次,如果对话框或面板包括带有由不同于静态文本控件的控件显示的提示的编辑控件如输入区域(225),则生成230并存储240另一列表或表格。该表格以成对的方式列出用作提示的控件的标识符与编辑控件的标识符,并且包括一个指向动态创建用户界面元素的指针,如下所述。
上述分析200和列表生成步骤220、230可以由界面编程者人工执行,然后,该方法的随后自动步骤将使用这些列表来处理界面定义。然而,在另一实现中,可以由比较对话框或面板的元素与一组经过认可的界面布局模板或规则以自动确定逻辑正确的元素顺序的程序代码来实现初始分析和列表生成。实现该列表自动生成的程序代码可以是在程序开发期间所用的编程工具(例如,当创建遗留程序的新版本时)或者在安装时候或者应用启动时候分析应用程序的操作系统组件。用户界面控件的排序规则一般很好理解,它已经被定义为用户界面设计者的“可访问性”准则的一部分。设计良好的界面的逻辑顺序确定规则可以复用设计准则。例如,这些规则将包括如从左到右且从上到下朗读、文本提示之后跟随相关编辑区域、在进入一组之外的其他元素之前朗读该组内的用户界面元素全集的简单指令。
在列表生成步骤之后,当开始显示对话框或面板时,执行250另一程序代码组件(以下称作纠正控制器100,如图5所示)。图6B示出由纠正控制器执行的功能。如果现有界面定义内的控件无序,则该代码组件100逐步循环260与用户界面定义文件相关联所存储的顺序列表,向操作系统指示其控制应遵循顺序列表。该顺序信息有效地作为用户界面元素属性之一来记录以由操作系统作随后的解释,但是这也可以通过操作系统在不改变实际界面定义的情况下单独存储正确的顺序信息来实现。当从用户界面定义70变至重新排序定义70’时,该重新排序在图5中示意性地表示。
除了排序问题之外,图3和4的示例对话框和定义演示在公知操作系统中实现可访问性界面的方式所产生的另一问题。对于特定操作系统,总是从必须紧邻在编辑控件之前的静态文本区域中提取由可访问性辅助程序如屏幕朗读器对编辑区域朗读的提示。即使当使用本发明的纠正控制器100来纠正元素次序时,但是图4所示的第三编辑控件之前是圆形按钮而不是静态文本区域,并且这将导致屏幕朗读器不读出提示或者读出不正确的提示。
为解决这一问题,如果存在其提示不是静态控件的编辑控件,则纠正控制器组件100逐步循环270先前存储的控件对列表或表格。它读取原先用作提示的控件的位置、尺寸和文本。然后,它动态创建280具有相同位置、尺寸和文本但不可见(即,其属性指定它将不在界面的视觉表示中显示)的静态文本控件。最后,纠正控制器100向操作系统指示290新静态文本控件位于原始提示控件之后,并且编辑控件位于新静态文本控件之后,并且操作系统更新界面元素属性来反映该顺序。
现在将更详细地描述本发明的一个示例实现,其中,在开始在屏幕上显示对话框或面板的时候纠正对话框或面板定义内的问题。为纠正对话框或面板中的元素排序,需要以所需次序由各元素的数字或符号标识符组成的简单列表(或表格)。对于图4所示的示例对话框,该列表可能如下所示:
IDC_STATIC_1,
IDC_EDIT_1,
IDC_STATIC_2,
IDC_EDIT_2,
IDC_RADIO_1,
IDC_EDIT_3,
IDC_RADIO_2,
IDOK,
IDC_BUTTON_FIX
当开始显示对话框或面板时(对于Microsoft Windows操作系统,此时为应用程序接收到“WM_INITDIALOG”消息)调用一个代码片断来实现下面功能:
For each pair of identifiers in the list
    Call the operating system to order the second element after thefirst
Next pair
(对于列表中的每对标识符循环
    调用操作系统以将第二元素排在第一元素之后
下一对)
为当在屏幕上显示对话框或面板时纠正编辑控件之前为不同于静态文本控件的用户界面元素这一问题,也可以使用一个表格与使用该表格的代码的组合。这一问题通过在与其他居前控件相同的位置动态创建一个隐藏静态文本控件来解决。向新的静态文本控件提供与其他居前控件相同的文本,并且将其依次插入在其他居前控件与编辑控件之间。当消除对话框或面板时,删除该新静态控件。在本方法的一个示例实现中,对于对话框或面板中的每个受影响编辑控件,均需要下面元素:
Identifier of the edit control
Identifier of the control that precedes the edit control
Whether the preceding control is a static text control
Pointer to the static text control dynamically created
(编辑控件的标识符
居于编辑控件之前的控件的标识符
居前控件是否为静态文本控件
指向动态创建的静态文本控件的指针)
对于图4所示的样例对话框,该表格可能如下所示:
{
{IDC_EDIT_1,IDC_STATIC_1,TRUE,NULL},
{IDC_EDIT_2,IDC_STATIC_2,TRUE,NULL},
{IDC_EDIT_3,IDC_RADIO_1,FALSE,NULL},
};
当开始显示对话框或面板时运行的代码片断实现如下功能:
  For each row in the table

      If preceding control is a static control
         Call the operating system to ensure the edit control is
after the preceding control

  Else

      Dynamically create a new static control

      Remember the its address in the table

      Read the text and position of the preced ing control

      Set the new static control to have the same text and
position

      Set the new static control to be invisible

      Order the new static control after the preceding control

      Order the edit control after the new static control

      End

  Next row
    (对于表格中的每一行循环
        如果居前控件为静态控件,
            调用操作系统来确保编辑控件位于居前控件之后
        否则
            动态创建一个新的静态控件
            在表格中记录它的地址
            读取居前控件的文本和位置
            设置新静态控件具有相同的文本和位置
            将新静态控件设为不可见
            将新静态控件排在居前控件之后
            将编辑控件排在新静态控件之后
        结束
    下一行)
当消除对话框或面板时运行的代码片断实现如下功能:
For each row in the table
    If pointer to static control dynamically created is non-null
        Delete static control
    End
Next row
    (对于表格中的每一行循环
        如果指向动态创建的静态控件的指针不为空
                删除静态控件
        结束
    下一行)
对于遗留应用仅需要构成纠正控制器的代码片断的一个副本。当显示各对话框/面板/窗口时,使用纠正该特定对话框/面板/窗口的控件的表格地址调用纠正控制器。因此,遗留应用中代码的大小/复杂性增加极小,并且生成列表/表格的任务相对简单实现。
本发明的优选实施例提供如下优点:
1)对于每一国家语言均存在一份的定义文件保持不变。
2)所需的修改即列表或表格只需针对每个对话框/面板定义一次,而不是针对每一国家语言版本的对话框/面板定义一次。纠正控制器代码可以公用于所有对话框/面板。
3)与公知替代方案相比可以大大减轻验证/测试工作量-由于代码和表格公用于所有语言,因此在一种国家语言中检查的对话框或面板在所有语言中都应正确。
4)对话框和面板在视觉上保持不变,这意味着它们仍将与现有用户期望以及文档中的任何对话框或面板图片相符。

Claims (19)

1.一种帮助屏幕朗读器操作的方法,包括如下步骤:
分析图形用户界面以识别用户界面元素在界面内的逻辑顺序;
将用户界面元素在用户界面定义内的顺序与所识别的逻辑顺序进行比较,以识别任何所需的元素重新排序以符合所识别的逻辑顺序;以及
执行所需的元素重新排序以符合所识别的逻辑顺序。
2.如权利要求1所述的方法,其中,响应所述比较步骤,生成一个用户界面元素标识符有序列表,以表示所需的用户界面元素顺序。
3.如权利要求2所述的方法,其中,与所述用户界面定义相关联来存储所述列表,并且执行所需元素重新排序的所述步骤包括修改用户界面定义来实现所需顺序。
4.如任一前面权利要求所述的方法,其中,执行所需重新排序的步骤包括通过作为用户界面元素的属性加入顺序信息来修改用户界面定义。
5.如任一前面权利要求所述的方法,其中,响应开始显示用户界面的命令或消息来执行所需重新排序执行步骤。
6.如任一前面权利要求所述的方法,包括比较用户界面定义内的用户界面元素顺序与用户界面定义的一组预定规则,并且响应识别出不符合需要特定用户界面控件的规则,生成所需用户界面控件的一个实例。
7.如权利要求6所述的方法,其中,预定规则集合包括要求在用户界面定义内的各个编辑控件之前紧邻静态文本控件的规则,并且响应识别出不符合所述规则,生成一个新静态文本控件,并且将新控件加到用户界面定义。
8.如权利要求7所述的方法,其中,从在所识别的逻辑顺序内紧邻在编辑控件之前的用户界面元素中提取新静态文本控件的文本。
9.如权利要求7或权利要求8所述的方法,包括设置新静态文本控件的属性以防止其显示在用户界面的视觉表示内。
10.如权利要求7至9中的任一项所述的方法,包括响应所述识别出不符合规则的编辑控件,执行如下步骤:
生成一个表格,包括编辑控件的标识符、居于编辑控件之前的控件的标识符以及指向新静态文本控件的指针;
其中,响应开始显示用户界面的命令或消息来执行将新静态文本控件加到用户界面定义的步骤。
11.一种用于控制数据处理装置操作的计算机程序,在所述数据处理装置上运行来执行包括如下步骤的方法:
判定用户接口定义是否具有一个相关列表,其中,所述列表定义所述用户接口定义内用户界面元素的所需顺序;
响应判定用户界面定义具有所述相关列表,调用一个过程来修改定义内用户界面元素的顺序以符合所需顺序。
12.如权利要求11所述的计算机程序,其中,响应开始显示用户界面的命令或消息来执行所述判定步骤。
13.如权利要求11或权利要求12所述的计算机程序,其中,计算机程序包括用于控制数据处理装置以执行如下步骤的程序代码:
判定用户界面定义是否具有一个相关表格,其中,所述表格标识:
界面定义的编辑控件,
界面定义内紧邻在编辑控件之前的非静态文本控件,以及
对所需静态文本控件的引用;以及
响应判定用户界面定义具有所述相关表格,调用一个过程,从而通过生成所需静态文本控件并且将所生成的静态文本控件加到紧邻于编辑控件之前来修改界面定义。
14.一种用于控制数据处理装置操作的计算机程序,在所述数据处理装置上运行来执行包括如下步骤的方法:
分析图形用户界面以识别用户界面元素在界面内的逻辑顺序;
将用户界面元素在用户界面定义内的顺序与所识别的逻辑顺序进行比较,以识别任何所需的元素重新排序以符合所识别的逻辑顺序;以及
执行所需的元素重新排序以符合所识别的逻辑顺序。
15.如权利要求14所述的计算机程序,其中,所述方法包括比较用户界面定义内的用户界面元素顺序与用户界面定义的一组预定规则,并且响应识别出不符合需要特定用户界面控件的规则,生成所需用户界面控件的一个实例。
16.如权利要求15所述的计算机程序,其中,预定规则集合包括要求在用户界面定义内的各个编辑控件之前紧邻静态文本控件的规则,并且所述方法包括如下步骤:响应识别出不符合所述规则,生成一个新静态文本控件,然后将新控件加到用户界面定义。
17.如权利要求16所述的计算机程序,其中,从在所识别的逻辑顺序内紧邻在编辑控件之前的用户界面元素中提取新静态文本控件的文本。
18.一种数据处理装置,包括:
包括用户界面定义的应用程序;
屏幕朗读器程序,用于生成与用户界面定义内的信息一致的非视觉提示;
操作系统,用于读取用户界面定义以向屏幕朗读器程序提供输入;
其中,该装置还包括如下程序代码,用于判定用户接口定义是否具有一个相关列表,其中,所述列表定义所述用户接口定义内用户界面元素的所需顺序,以及响应判定用户界面定义具有所述相关列表,调用一个过程来修改定义内用户界面元素的顺序以符合所需顺序。
19.如权利要求18所述的数据处理装置,包括一程序代码,用于判定用户界面定义是否具有一个相关表格,其中,所述表格标识:
界面定义的编辑控件,
界面定义内紧邻在编辑控件之前的非静态文本控件,以及
对所需静态文本控件的引用;以及
一程序代码,用于响应判定用户界面定义具有所述相关表格,调用一个过程,从而通过生成所需静态文本控件并且将其加到紧邻于编辑控件之前来修改界面定义。
CNB02808621XA 2001-04-27 2002-03-11 用于遗留软件与屏幕朗读器程序之间的互操作的方法和装置 Expired - Fee Related CN1249577C (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
GB0110326.6 2001-04-27
GBGB0110326.6A GB0110326D0 (en) 2001-04-27 2001-04-27 Method and apparatus for interoperation between legacy software and screen reader programs

Publications (2)

Publication Number Publication Date
CN1524218A true CN1524218A (zh) 2004-08-25
CN1249577C CN1249577C (zh) 2006-04-05

Family

ID=9913559

Family Applications (1)

Application Number Title Priority Date Filing Date
CNB02808621XA Expired - Fee Related CN1249577C (zh) 2001-04-27 2002-03-11 用于遗留软件与屏幕朗读器程序之间的互操作的方法和装置

Country Status (12)

Country Link
US (2) US7484174B2 (zh)
EP (1) EP1423787B1 (zh)
KR (1) KR100613052B1 (zh)
CN (1) CN1249577C (zh)
AT (1) ATE469392T1 (zh)
AU (1) AU2002238752A1 (zh)
CA (1) CA2442549A1 (zh)
DE (1) DE60236519D1 (zh)
GB (1) GB0110326D0 (zh)
IL (2) IL158611A0 (zh)
TW (1) TWI244040B (zh)
WO (1) WO2002088916A2 (zh)

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN100353317C (zh) * 2004-11-26 2007-12-05 佳能株式会社 构造用户界面的方法
CN103558964A (zh) * 2008-09-05 2014-02-05 苹果公司 电子设备中的多层次话音反馈
CN106133675A (zh) * 2013-09-27 2016-11-16 起元科技有限公司 评估应用于数据的规则
US9865248B2 (en) 2008-04-05 2018-01-09 Apple Inc. Intelligent text-to-speech conversion
US9966060B2 (en) 2013-06-07 2018-05-08 Apple Inc. System and method for user-specified pronunciation of words for speech synthesis and recognition
US9986419B2 (en) 2014-09-30 2018-05-29 Apple Inc. Social reminders
US10043516B2 (en) 2016-09-23 2018-08-07 Apple Inc. Intelligent automated assistant
US10049675B2 (en) 2010-02-25 2018-08-14 Apple Inc. User profiling for voice input processing
US10079014B2 (en) 2012-06-08 2018-09-18 Apple Inc. Name recognition system
CN109583591A (zh) * 2012-09-20 2019-04-05 伊夫维泽德公司 用于简化的知识工程的方法与系统
US10356243B2 (en) 2015-06-05 2019-07-16 Apple Inc. Virtual assistant aided communication with 3rd party service in a communication session
US10410637B2 (en) 2017-05-12 2019-09-10 Apple Inc. User-specific acoustic models
US10482874B2 (en) 2017-05-15 2019-11-19 Apple Inc. Hierarchical belief states for digital assistants
US10567477B2 (en) 2015-03-08 2020-02-18 Apple Inc. Virtual assistant continuity
US10593346B2 (en) 2016-12-22 2020-03-17 Apple Inc. Rank-reduced token representation for automatic speech recognition
US10755703B2 (en) 2017-05-11 2020-08-25 Apple Inc. Offline personal assistant
US10791176B2 (en) 2017-05-12 2020-09-29 Apple Inc. Synchronization and task delegation of a digital assistant
US10810274B2 (en) 2017-05-15 2020-10-20 Apple Inc. Optimizing dialogue policy decisions for digital assistants using implicit feedback
CN112130874A (zh) * 2013-01-11 2020-12-25 辛纳科尔股份有限公司 背景控制面板配置选择的方法和系统
US10904611B2 (en) 2014-06-30 2021-01-26 Apple Inc. Intelligent automated assistant for TV user interactions
US11080012B2 (en) 2009-06-05 2021-08-03 Apple Inc. Interface for a virtual digital assistant
US11217255B2 (en) 2017-05-16 2022-01-04 Apple Inc. Far-field extension for digital assistant services

Families Citing this family (144)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8645137B2 (en) 2000-03-16 2014-02-04 Apple Inc. Fast, language-independent method for user authentication by voice
US6889337B1 (en) * 2002-06-03 2005-05-03 Oracle International Corporation Method and system for screen reader regression testing
US7657844B2 (en) * 2004-04-30 2010-02-02 International Business Machines Corporation Providing accessibility compliance within advanced componentry
US7665063B1 (en) 2004-05-26 2010-02-16 Pegasystems, Inc. Integration of declarative rule-based processing with procedural programming
KR100616157B1 (ko) * 2005-01-11 2006-08-28 와이더댄 주식회사 애플리케이션 연동 방법 및 그 시스템
US7908557B2 (en) * 2005-06-16 2011-03-15 Sap Ag Presenting message detectable by screen reader application
US8677377B2 (en) 2005-09-08 2014-03-18 Apple Inc. Method and apparatus for building an intelligent automated assistant
CA2641941C (en) * 2006-02-10 2014-09-09 Make Technologies, Inc. Legacy software modernization system
US8924335B1 (en) 2006-03-30 2014-12-30 Pegasystems Inc. Rule-based user interface conformance methods
US9318108B2 (en) 2010-01-18 2016-04-19 Apple Inc. Intelligent automated assistant
US9471333B2 (en) * 2006-11-03 2016-10-18 Conceptual Speech, Llc Contextual speech-recognition user-interface driven system and method
US8250525B2 (en) 2007-03-02 2012-08-21 Pegasystems Inc. Proactive performance management for multi-user enterprise software systems
US8977255B2 (en) 2007-04-03 2015-03-10 Apple Inc. Method and system for operating a multi-function portable electronic device using voice-activation
US9330720B2 (en) 2008-01-03 2016-05-03 Apple Inc. Methods and apparatus for altering audio output signals
US10496753B2 (en) 2010-01-18 2019-12-03 Apple Inc. Automatically adapting user interfaces for hands-free interaction
US9405847B2 (en) * 2008-06-06 2016-08-02 Apple Inc. Contextual grouping of a page
US20100030549A1 (en) 2008-07-31 2010-02-04 Lee Michael M Mobile device having human language translation capability with positional feedback
WO2010035391A1 (ja) * 2008-09-29 2010-04-01 日本電気株式会社 Gui評価システム、gui評価方法およびgui評価プログラム
WO2010067118A1 (en) 2008-12-11 2010-06-17 Novauris Technologies Limited Speech recognition involving a mobile device
US8843435B1 (en) 2009-03-12 2014-09-23 Pegasystems Inc. Techniques for dynamic data processing
US8468492B1 (en) 2009-03-30 2013-06-18 Pegasystems, Inc. System and method for creation and modification of software applications
US9858925B2 (en) 2009-06-05 2018-01-02 Apple Inc. Using context information to facilitate processing of commands in a virtual assistant
US10241644B2 (en) 2011-06-03 2019-03-26 Apple Inc. Actionable reminder entries
US10706373B2 (en) 2011-06-03 2020-07-07 Apple Inc. Performing actions associated with task items that represent tasks to perform
US8493344B2 (en) 2009-06-07 2013-07-23 Apple Inc. Devices, methods, and graphical user interfaces for accessibility using a touch-sensitive surface
US9431006B2 (en) 2009-07-02 2016-08-30 Apple Inc. Methods and apparatuses for automatic speech recognition
US10553209B2 (en) 2010-01-18 2020-02-04 Apple Inc. Systems and methods for hands-free notification summaries
US10276170B2 (en) 2010-01-18 2019-04-30 Apple Inc. Intelligent automated assistant
US10679605B2 (en) 2010-01-18 2020-06-09 Apple Inc. Hands-free list-reading by intelligent automated assistant
US10705794B2 (en) 2010-01-18 2020-07-07 Apple Inc. Automatically adapting user interfaces for hands-free interaction
US8434134B2 (en) 2010-05-26 2013-04-30 Google Inc. Providing an electronic document collection
US10276148B2 (en) * 2010-11-04 2019-04-30 Apple Inc. Assisted media presentation
US10762293B2 (en) 2010-12-22 2020-09-01 Apple Inc. Using parts-of-speech tagging and named entity recognition for spelling correction
US8880487B1 (en) 2011-02-18 2014-11-04 Pegasystems Inc. Systems and methods for distributed rules processing
US9262612B2 (en) 2011-03-21 2016-02-16 Apple Inc. Device access using voice authentication
US10057736B2 (en) 2011-06-03 2018-08-21 Apple Inc. Active transport based notifications
US10672399B2 (en) 2011-06-03 2020-06-02 Apple Inc. Switching between text data and audio data based on a mapping
US8994660B2 (en) 2011-08-29 2015-03-31 Apple Inc. Text correction processing
GB201118283D0 (en) * 2011-10-24 2011-12-07 Wrenshall Peter A system for assisting in modifying websites
US8826158B1 (en) * 2011-12-14 2014-09-02 The United States Of America As Represented By The Director, National Security Agency Device for and method of determining changes to GUI
US9195572B2 (en) 2011-12-16 2015-11-24 Sap Se Systems and methods for identifying user interface (UI) elements
US8612806B2 (en) * 2011-12-16 2013-12-17 Sap Ag Systems and methods for recording user interactions within a target application
US9195936B1 (en) 2011-12-30 2015-11-24 Pegasystems Inc. System and method for updating or modifying an application without manual coding
US8856640B1 (en) 2012-01-20 2014-10-07 Google Inc. Method and apparatus for applying revision specific electronic signatures to an electronically stored document
US10134385B2 (en) 2012-03-02 2018-11-20 Apple Inc. Systems and methods for name pronunciation
US9483461B2 (en) 2012-03-06 2016-11-01 Apple Inc. Handling speech synthesis of content for multiple languages
US9280610B2 (en) 2012-05-14 2016-03-08 Apple Inc. Crowd sourcing information to fulfill user requests
US9495129B2 (en) 2012-06-29 2016-11-15 Apple Inc. Device, method, and user interface for voice-activated navigation and browsing of a document
US9576574B2 (en) 2012-09-10 2017-02-21 Apple Inc. Context-sensitive handling of interruptions by intelligent digital assistant
US9547647B2 (en) 2012-09-19 2017-01-17 Apple Inc. Voice-based media searching
US11308037B2 (en) 2012-10-30 2022-04-19 Google Llc Automatic collaboration
US9529916B1 (en) 2012-10-30 2016-12-27 Google Inc. Managing documents based on access context
US9384285B1 (en) 2012-12-18 2016-07-05 Google Inc. Methods for identifying related documents
US9495341B1 (en) 2012-12-18 2016-11-15 Google Inc. Fact correction and completion during document drafting
KR20240132105A (ko) 2013-02-07 2024-09-02 애플 인크. 디지털 어시스턴트를 위한 음성 트리거
US9368114B2 (en) 2013-03-14 2016-06-14 Apple Inc. Context-sensitive handling of interruptions
US10652394B2 (en) 2013-03-14 2020-05-12 Apple Inc. System and method for processing voicemail
WO2014144579A1 (en) 2013-03-15 2014-09-18 Apple Inc. System and method for updating an adaptive speech recognition model
AU2014233517B2 (en) 2013-03-15 2017-05-25 Apple Inc. Training an at least partial voice command system
WO2014197336A1 (en) 2013-06-07 2014-12-11 Apple Inc. System and method for detecting errors in interactions with a voice-based digital assistant
US9582608B2 (en) 2013-06-07 2017-02-28 Apple Inc. Unified ranking with entropy-weighted information for phrase-based semantic auto-completion
WO2014197335A1 (en) 2013-06-08 2014-12-11 Apple Inc. Interpreting and acting upon commands that involve sharing information with remote devices
US10176167B2 (en) 2013-06-09 2019-01-08 Apple Inc. System and method for inferring user intent from speech inputs
KR101772152B1 (ko) 2013-06-09 2017-08-28 애플 인크. 디지털 어시스턴트의 둘 이상의 인스턴스들에 걸친 대화 지속성을 가능하게 하기 위한 디바이스, 방법 및 그래픽 사용자 인터페이스
EP3008964B1 (en) 2013-06-13 2019-09-25 Apple Inc. System and method for emergency calls initiated by voice command
US9514113B1 (en) 2013-07-29 2016-12-06 Google Inc. Methods for automatic footnote generation
DE112014003653B4 (de) 2013-08-06 2024-04-18 Apple Inc. Automatisch aktivierende intelligente Antworten auf der Grundlage von Aktivitäten von entfernt angeordneten Vorrichtungen
US9842113B1 (en) 2013-08-27 2017-12-12 Google Inc. Context-based file selection
US9529791B1 (en) 2013-12-12 2016-12-27 Google Inc. Template and content aware document and template editing
US9620105B2 (en) 2014-05-15 2017-04-11 Apple Inc. Analyzing audio input for efficient speech and music recognition
US10592095B2 (en) 2014-05-23 2020-03-17 Apple Inc. Instantaneous speaking of content on touch devices
US9502031B2 (en) 2014-05-27 2016-11-22 Apple Inc. Method for supporting dynamic grammars in WFST-based ASR
US10289433B2 (en) 2014-05-30 2019-05-14 Apple Inc. Domain specific language for encoding assistant dialog
US9734193B2 (en) 2014-05-30 2017-08-15 Apple Inc. Determining domain salience ranking from ambiguous words in natural speech
US10170123B2 (en) 2014-05-30 2019-01-01 Apple Inc. Intelligent assistant for home automation
US9633004B2 (en) 2014-05-30 2017-04-25 Apple Inc. Better resolution when referencing to concepts
US9842101B2 (en) 2014-05-30 2017-12-12 Apple Inc. Predictive conversion of language input
US9715875B2 (en) 2014-05-30 2017-07-25 Apple Inc. Reducing the need for manual start/end-pointing and trigger phrases
US9430463B2 (en) 2014-05-30 2016-08-30 Apple Inc. Exemplar-based natural language processing
US10078631B2 (en) 2014-05-30 2018-09-18 Apple Inc. Entropy-guided text prediction using combined word and character n-gram language models
US9760559B2 (en) 2014-05-30 2017-09-12 Apple Inc. Predictive text input
US9785630B2 (en) 2014-05-30 2017-10-10 Apple Inc. Text prediction using combined word N-gram and unigram language models
CN110797019B (zh) 2014-05-30 2023-08-29 苹果公司 多命令单一话语输入方法
US10659851B2 (en) 2014-06-30 2020-05-19 Apple Inc. Real-time digital assistant knowledge updates
US9703763B1 (en) 2014-08-14 2017-07-11 Google Inc. Automatic document citations by utilizing copied content for candidate sources
US10446141B2 (en) 2014-08-28 2019-10-15 Apple Inc. Automatic speech recognition based on user feedback
US9818400B2 (en) 2014-09-11 2017-11-14 Apple Inc. Method and apparatus for discovering trending terms in speech requests
US10789041B2 (en) 2014-09-12 2020-09-29 Apple Inc. Dynamic thresholds for always listening speech trigger
US10127911B2 (en) 2014-09-30 2018-11-13 Apple Inc. Speaker identification and unsupervised speaker adaptation techniques
US9646609B2 (en) 2014-09-30 2017-05-09 Apple Inc. Caching apparatus for serving phonetic pronunciations
US9886432B2 (en) 2014-09-30 2018-02-06 Apple Inc. Parsimonious handling of word inflection via categorical stem + suffix N-gram language models
US10074360B2 (en) 2014-09-30 2018-09-11 Apple Inc. Providing an indication of the suitability of speech recognition
US10469396B2 (en) 2014-10-10 2019-11-05 Pegasystems, Inc. Event processing with enhanced throughput
US10552013B2 (en) 2014-12-02 2020-02-04 Apple Inc. Data detection
US9711141B2 (en) 2014-12-09 2017-07-18 Apple Inc. Disambiguating heteronyms in speech synthesis
US10466883B2 (en) 2015-03-02 2019-11-05 Apple Inc. Screenreader user interface
US9865280B2 (en) 2015-03-06 2018-01-09 Apple Inc. Structured dictation using intelligent automated assistants
US9721566B2 (en) 2015-03-08 2017-08-01 Apple Inc. Competing devices responding to voice triggers
US9886953B2 (en) 2015-03-08 2018-02-06 Apple Inc. Virtual assistant activation
US9899019B2 (en) 2015-03-18 2018-02-20 Apple Inc. Systems and methods for structured stem and suffix language models
US9842105B2 (en) 2015-04-16 2017-12-12 Apple Inc. Parsimonious continuous-space phrase representations for natural language processing
US10083688B2 (en) 2015-05-27 2018-09-25 Apple Inc. Device voice control for selecting a displayed affordance
US10127220B2 (en) 2015-06-04 2018-11-13 Apple Inc. Language identification from short strings
US10101822B2 (en) 2015-06-05 2018-10-16 Apple Inc. Language input correction
US10186254B2 (en) 2015-06-07 2019-01-22 Apple Inc. Context-based endpoint detection
US11025565B2 (en) 2015-06-07 2021-06-01 Apple Inc. Personalized prediction of responses for instant messaging
US10255907B2 (en) 2015-06-07 2019-04-09 Apple Inc. Automatic accent detection using acoustic models
US10747498B2 (en) 2015-09-08 2020-08-18 Apple Inc. Zero latency digital assistant
US10671428B2 (en) 2015-09-08 2020-06-02 Apple Inc. Distributed personal assistant
US9697820B2 (en) 2015-09-24 2017-07-04 Apple Inc. Unit-selection text-to-speech synthesis using concatenation-sensitive neural networks
US10366158B2 (en) 2015-09-29 2019-07-30 Apple Inc. Efficient word encoding for recurrent neural network language models
US11010550B2 (en) 2015-09-29 2021-05-18 Apple Inc. Unified language modeling framework for word prediction, auto-completion and auto-correction
US11587559B2 (en) 2015-09-30 2023-02-21 Apple Inc. Intelligent device identification
US10691473B2 (en) 2015-11-06 2020-06-23 Apple Inc. Intelligent automated assistant in a messaging environment
US10049668B2 (en) 2015-12-02 2018-08-14 Apple Inc. Applying neural network language models to weighted finite state transducers for automatic speech recognition
US10223066B2 (en) 2015-12-23 2019-03-05 Apple Inc. Proactive assistance based on dialog communication between devices
US10446143B2 (en) 2016-03-14 2019-10-15 Apple Inc. Identification of voice inputs providing credentials
FR3050293A1 (fr) * 2016-04-18 2017-10-20 Orange Procede d'assistance sonore d'interface de controle d'un terminal, un programme et un terminal
US9934775B2 (en) 2016-05-26 2018-04-03 Apple Inc. Unit-selection text-to-speech synthesis based on predicted concatenation parameters
US9972304B2 (en) 2016-06-03 2018-05-15 Apple Inc. Privacy preserving distributed evaluation framework for embedded personalized systems
US10698599B2 (en) 2016-06-03 2020-06-30 Pegasystems, Inc. Connecting graphical shapes using gestures
US10249300B2 (en) 2016-06-06 2019-04-02 Apple Inc. Intelligent list reading
US10049663B2 (en) 2016-06-08 2018-08-14 Apple, Inc. Intelligent automated assistant for media exploration
DK179588B1 (en) 2016-06-09 2019-02-22 Apple Inc. INTELLIGENT AUTOMATED ASSISTANT IN A HOME ENVIRONMENT
US10586535B2 (en) 2016-06-10 2020-03-10 Apple Inc. Intelligent digital assistant in a multi-tasking environment
US10192552B2 (en) 2016-06-10 2019-01-29 Apple Inc. Digital assistant providing whispered speech
US10490187B2 (en) 2016-06-10 2019-11-26 Apple Inc. Digital assistant providing automated status report
US10067938B2 (en) 2016-06-10 2018-09-04 Apple Inc. Multilingual word prediction
US10509862B2 (en) 2016-06-10 2019-12-17 Apple Inc. Dynamic phrase expansion of language input
DK179415B1 (en) 2016-06-11 2018-06-14 Apple Inc Intelligent device arbitration and control
DK179343B1 (en) 2016-06-11 2018-05-14 Apple Inc Intelligent task discovery
DK201670540A1 (en) 2016-06-11 2018-01-08 Apple Inc Application integration with a digital assistant
DK179049B1 (en) 2016-06-11 2017-09-18 Apple Inc Data driven natural language event detection and classification
DK201670580A1 (en) 2016-06-12 2018-01-02 Apple Inc Wrist-based tactile time feedback for non-sighted users
US10698647B2 (en) 2016-07-11 2020-06-30 Pegasystems Inc. Selective sharing for collaborative application usage
KR102029980B1 (ko) * 2017-08-31 2019-10-08 한국전자통신연구원 대체 텍스트 생성 장치 및 그 방법
US11231848B2 (en) * 2018-06-28 2022-01-25 Hewlett-Packard Development Company, L.P. Non-positive index values of panel input sources
US11048488B2 (en) 2018-08-14 2021-06-29 Pegasystems, Inc. Software code optimizer and method
US10656955B1 (en) * 2019-05-15 2020-05-19 Capital One Services, Llc Modifying readable and focusable elements on a page during execution of automated scripts
US10996761B2 (en) 2019-06-01 2021-05-04 Apple Inc. User interfaces for non-visual output of time
US11567945B1 (en) 2020-08-27 2023-01-31 Pegasystems Inc. Customized digital content generation systems and methods
CN113296857B (zh) * 2020-11-04 2024-07-02 阿里巴巴集团控股有限公司 信息无障碍化处理方法、装置及电子设备
US11520687B2 (en) 2020-11-20 2022-12-06 Bank Of America Corporation System and method for automated testing of an accessibility feature of a user device by emulating actions of users
US12051399B2 (en) * 2021-12-02 2024-07-30 Jpmorgan Chase Bank, N.A. Evaluating screen content for accessibility

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5734863A (en) * 1986-04-14 1998-03-31 National Instruments Corporation Method and apparatus for providing improved type compatibility and data structure organization in a graphical data flow diagram
JPH07110749A (ja) * 1993-04-16 1995-04-25 Hewlett Packard Co <Hp> ダイアログ・ボックスの動的構築方法
ATE190149T1 (de) * 1993-04-30 2000-03-15 Ibm Bereich-layout in einer sicht auf einem grafischen anzeigeschirm
US5675752A (en) * 1994-09-15 1997-10-07 Sony Corporation Interactive applications generator for an interactive presentation environment
US5826031A (en) * 1996-06-10 1998-10-20 Sun Microsystems, Inc. Method and system for prioritized downloading of embedded web objects
US5893127A (en) * 1996-11-18 1999-04-06 Canon Information Systems, Inc. Generator for document with HTML tagged table having data elements which preserve layout relationships of information in bitmap image of original document
US6144377A (en) * 1997-03-11 2000-11-07 Microsoft Corporation Providing access to user interface elements of legacy application programs
US6334157B1 (en) * 1997-03-11 2001-12-25 Microsoft Corporation Programmatically providing direct access to user interface elements of an application program
US20020054126A1 (en) * 1998-10-16 2002-05-09 Owen John Gamon Browser translation between frames and no frames
EP0997815A3 (en) * 1998-10-29 2004-05-26 Texas Instruments Incorporated Interactive translation system and method
US6404442B1 (en) * 1999-03-25 2002-06-11 International Business Machines Corporation Image finding enablement with projected audio
US6469712B1 (en) * 1999-03-25 2002-10-22 International Business Machines Corporation Projected audio for computer displays
US6340977B1 (en) * 1999-05-07 2002-01-22 Philip Lui System and method for dynamic assistance in software applications using behavior and host application models
US6501779B1 (en) * 1999-05-26 2002-12-31 Nxi Communications, Inc. Network communication system
JP4774145B2 (ja) * 2000-11-24 2011-09-14 富士通株式会社 構造化文書圧縮装置および構造化文書復元装置並びに構造化文書処理システム
GB2372339A (en) * 2001-01-17 2002-08-21 Priorlease Ltd An arrangement for applying handwriting to an HTML document
US7194411B2 (en) * 2001-02-26 2007-03-20 Benjamin Slotznick Method of displaying web pages to enable user access to text information that the user has difficulty reading
US7263662B1 (en) * 2001-03-02 2007-08-28 Oracle International Corporation Customization of immediate access and hotkey functionality in an internet application user interface
JP3969628B2 (ja) * 2001-03-19 2007-09-05 富士通株式会社 翻訳支援装置、方法及び翻訳支援プログラム
US20020156799A1 (en) * 2001-04-24 2002-10-24 Stephen Markel System and method for verifying and correcting websites
US7058887B2 (en) * 2002-03-07 2006-06-06 International Business Machines Corporation Audio clutter reduction and content identification for web-based screen-readers
US20040139370A1 (en) * 2003-01-14 2004-07-15 Dan Bailey Source code analysis

Cited By (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN100353317C (zh) * 2004-11-26 2007-12-05 佳能株式会社 构造用户界面的方法
US9865248B2 (en) 2008-04-05 2018-01-09 Apple Inc. Intelligent text-to-speech conversion
CN103558964A (zh) * 2008-09-05 2014-02-05 苹果公司 电子设备中的多层次话音反馈
US9691383B2 (en) 2008-09-05 2017-06-27 Apple Inc. Multi-tiered voice feedback in an electronic device
CN103558964B (zh) * 2008-09-05 2018-03-23 苹果公司 电子设备中的多层次话音反馈
US11080012B2 (en) 2009-06-05 2021-08-03 Apple Inc. Interface for a virtual digital assistant
US10049675B2 (en) 2010-02-25 2018-08-14 Apple Inc. User profiling for voice input processing
US10079014B2 (en) 2012-06-08 2018-09-18 Apple Inc. Name recognition system
CN109583591A (zh) * 2012-09-20 2019-04-05 伊夫维泽德公司 用于简化的知识工程的方法与系统
CN112130874A (zh) * 2013-01-11 2020-12-25 辛纳科尔股份有限公司 背景控制面板配置选择的方法和系统
US9966060B2 (en) 2013-06-07 2018-05-08 Apple Inc. System and method for user-specified pronunciation of words for speech synthesis and recognition
CN106133675A (zh) * 2013-09-27 2016-11-16 起元科技有限公司 评估应用于数据的规则
US10540436B2 (en) 2013-09-27 2020-01-21 Ab Initio Technology Llc Evaluating rules applied to data
CN106133675B (zh) * 2013-09-27 2019-11-08 起元科技有限公司 评估应用于数据的规则
US10904611B2 (en) 2014-06-30 2021-01-26 Apple Inc. Intelligent automated assistant for TV user interactions
US9986419B2 (en) 2014-09-30 2018-05-29 Apple Inc. Social reminders
US10567477B2 (en) 2015-03-08 2020-02-18 Apple Inc. Virtual assistant continuity
US10356243B2 (en) 2015-06-05 2019-07-16 Apple Inc. Virtual assistant aided communication with 3rd party service in a communication session
US10553215B2 (en) 2016-09-23 2020-02-04 Apple Inc. Intelligent automated assistant
US10043516B2 (en) 2016-09-23 2018-08-07 Apple Inc. Intelligent automated assistant
US10593346B2 (en) 2016-12-22 2020-03-17 Apple Inc. Rank-reduced token representation for automatic speech recognition
US10755703B2 (en) 2017-05-11 2020-08-25 Apple Inc. Offline personal assistant
US10791176B2 (en) 2017-05-12 2020-09-29 Apple Inc. Synchronization and task delegation of a digital assistant
US10410637B2 (en) 2017-05-12 2019-09-10 Apple Inc. User-specific acoustic models
US11405466B2 (en) 2017-05-12 2022-08-02 Apple Inc. Synchronization and task delegation of a digital assistant
US10482874B2 (en) 2017-05-15 2019-11-19 Apple Inc. Hierarchical belief states for digital assistants
US10810274B2 (en) 2017-05-15 2020-10-20 Apple Inc. Optimizing dialogue policy decisions for digital assistants using implicit feedback
US11217255B2 (en) 2017-05-16 2022-01-04 Apple Inc. Far-field extension for digital assistant services

Also Published As

Publication number Publication date
IL158611A (en) 2010-12-30
WO2002088916A2 (en) 2002-11-07
US20090083635A1 (en) 2009-03-26
GB0110326D0 (en) 2001-06-20
WO2002088916A3 (en) 2004-02-05
CN1249577C (zh) 2006-04-05
IL158611A0 (en) 2004-05-12
US7882441B2 (en) 2011-02-01
AU2002238752A1 (en) 2002-11-11
ATE469392T1 (de) 2010-06-15
KR100613052B1 (ko) 2006-08-16
CA2442549A1 (en) 2002-11-07
US20040145607A1 (en) 2004-07-29
DE60236519D1 (de) 2010-07-08
TWI244040B (en) 2005-11-21
US7484174B2 (en) 2009-01-27
KR20040068464A (ko) 2004-07-31
EP1423787A2 (en) 2004-06-02
EP1423787B1 (en) 2010-05-26

Similar Documents

Publication Publication Date Title
CN1249577C (zh) 用于遗留软件与屏幕朗读器程序之间的互操作的方法和装置
CN112181416B (zh) 一种从视觉稿直接生成ui代码的方法及装置
US8745581B2 (en) Method and system for selectively copying portions of a document contents in a computing system (smart copy and paste
US20100146491A1 (en) System for Preparing Software Documentation in Natural Languages
CN105408885A (zh) 用于对话框定制的系统和方法
CN1525288A (zh) 用于专门数据输入的实用对象
CN1808377A (zh) 由非专属语言驱动的通用序列图生成器
CN1517904A (zh) 墨水划分器及关联的应用编程接口
CN101063924A (zh) 使用户能够在一个文档中选择多个对象的方法及装置
CN1969272A (zh) 自动生成内容的导入
CN1615507A (zh) 用于作为图形布局/表示对象的宿主的系统
CN1015749B (zh) 一种用作用户接口工具的赋值设备选择单
CN1495609A (zh) 在计算机生成文档中提供语境感测工具和帮助内容
CN1856796A (zh) 框式和行式输入屏面
CN1932803A (zh) 文档编辑方法和装置
CN113886362A (zh) 基于工作流引擎及低代码平台的数据存储系统及存储方法
CN1781086A (zh) 内容创建系统、内容创建方法、用于执行该内容创建方法的计算机可执行程序、包括该程序的计算机可读记录介质、图形用户接口系统、以及显示控制方法
CN1026629C (zh) 由单一屏面定义文件生成多版屏面
CN1811630A (zh) 将过程控制系统中梯形逻辑转换为布尔逻辑的方法和系统
CN1173283C (zh) 文献图象处理装置和方法
JP5747698B2 (ja) 要件管理支援装置
JP2006285707A (ja) 業務仕様作成支援システム及び方法
CN100338595C (zh) 定义对象层次的说明机制
JP2000076228A (ja) 文書フォーマット自動修正方法
WO2007097014A1 (ja) 情報システムの動作確認方法、その動作確認プログラム、記録媒体及び動作確認システム

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20060405

Termination date: 20190311

CF01 Termination of patent right due to non-payment of annual fee