TW469397B - A data processor controlled display system with audio identifiers for overlapping windows in an interactive graphical user interface - Google Patents

A data processor controlled display system with audio identifiers for overlapping windows in an interactive graphical user interface Download PDF

Info

Publication number
TW469397B
TW469397B TW089104650A TW89104650A TW469397B TW 469397 B TW469397 B TW 469397B TW 089104650 A TW089104650 A TW 089104650A TW 89104650 A TW89104650 A TW 89104650A TW 469397 B TW469397 B TW 469397B
Authority
TW
Taiwan
Prior art keywords
window
pointing device
windows
item
patent application
Prior art date
Application number
TW089104650A
Other languages
English (en)
Inventor
John Madalozzo Jr
Gerald Francis Makuburiatei
Meng-Han Johnnie Shieh
Original Assignee
Ibm
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ibm filed Critical Ibm
Application granted granted Critical
Publication of TW469397B publication Critical patent/TW469397B/zh

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00Speech synthesis; Text to speech systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Acoustics & Sound (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Digital Computer Display Output (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Description

:9 397 A7 ----------B7_____ 五、發明說明() 發明頜娀:_ 本發明係有關於一種使用者互動式電腦支援之顯示技 術’並且特別是指有關於具使用者親和性,以及可提供給 互動式使用者一種易於使用的介面環境之圖形使用者介 面。 發明背景:_ 1990年代起十年間的代表作’即在於由以資料處理產 業噪起所堪動,而對於消費性電子產業方面之技術革命β 這種進步甚至更進—步地由於消費者與企業界在這兩年 間的廣泛地介入網際網路,因而加速發展。由於這些變 化’造成如同幾乎是在工業化世界中所有的人類作業觀點 均需要與電腦間的人機介面β故在此產生讓電腦導向活動 可實際地被世界上大部分的人所接取到之需求,而彼等甚 而在數年前,仍為電腦文盲或最多是對電腦感到冷漠。為 讓廣大的電腦支援市場領域可繼續成長以及具有商業性 生產力,從而亟需提供對於電腦感到冷漠之消費者大眾一 (請先閲讀背面之注意事項再填寫本頁) 面 介 腦 電 之 與 參 其 供 可 箱 經濟部智慧財產局員工消费合作社印製 資 與 能 功 的 用 享 可 者 用 使 式 動 互 大 強 趄 曰 腦 電 著 隨 之百 用數 可於 者至 用甚 使個 著十 隨數 伴有 即若 , 倘 加, 增然 的當 能。 功异 而上 然性 。 樣 多多 增與 趨量 日數 亦窗 源視 之視 素的 元疊 諸重 等相 項互 圖。一 如了藉 有雜係 含複式 且更方 並得示 中.變頃 其面其 而介而 ,讓’ 面會 介就置 用這安 可,來 個料疊 是 像 如 例 種 货堆利 式以專 動是國 互窗美 頁 3 第 本紙張尺度適用中困國家標準(CNS)A4規格(210 * 297公迓) 4 69 39 7 Α7 ---- Β7 經濟部智慧財產局貝工消费合作社印製 五、發明說明() 5,241,656文件内所描述的深度緩衝器之多階式顯示或視 框緩衝器來加以控制。 事實上*該多階式視窗層級早已廣泛應用,而常常置 放於多個桌面會期水平之中。一個桌面會期經常係由數個 重疊視窗的層級所组成,其中該深度視框緩衝器可對其加 以索引與追蹤。此外,設立視窗介面以處理額外的層級视 窗之桌面會期,彼等常為未作用並且將其儲存在視框緩衝 器之外’不過若當該會期既經啟動時,亦可以互動方式將 彼等移進或是移離視框緩衝器。經由這種複雜安排,很明 顯地在任何給定時間上,大量的視窗將會整個或是部分地 被重疊於其上之視窗所掩蓋或隱藏。 當最初發展視窗環境時,互動式使用者僅需應付大約 數個視窗即可a從那個時候開始,即習慣於對每個視窗標 示一個標題區’其中含有視窗名稱或抬頭β當視窗數目不 多時’即使是有部分重疊,使用者仍可很簡易地利用游標 來移動視窗,以便讓標題區顯示出來並且辨識該視窗,而 今曰’對於如上述般大量且複雜階層架構之視窗,常常需 耗費使用者冗長且麻煩的工作來搬移或牽動目前己頬示 視窗’以便將標題區顯示出來足夠大小藉以辨識各個視 窗。本發明即可提供一種實作方法以簡化該等視窗辨識問 題》 發明概诚;: , 本發明可提供一種用於對複雜的視窗階層架構圈形使 第4肓 ί請先閱讀背面之注意事項再填寫本頁) 裝 丨I .1丨訂.!1丨1·線 本紙張尺度適用中國國家標準(CNS)A4規格(210 * 297公釐) 397 469 397 A7 B7 經濟部智慧財產局貝工消费合作社印製 五、發明說明( 用者介面之諸視窗,以互動方式進行視窗處理與排序的使 用者親和性顯示介面系統。該系統可提供視窗階層式儲存 功能,可按選定之次序重鲞顯示,而同時該等多個视窗仍 為部分可見。在顯示螢幕上,亦提供有用以顯示多個該等 部分重疊視窗之裝置。並且對於每一個該等視窗均提供並 存有一不同之音效辨識器。亦提供有用以對例如像游標的 指示裝置予以在顯示螢幕上移動與定位之裝置,併同回應 於該指示裝置之裝置’以此而為各個該指示裝置所進入到 的視窗聲音知會其音效辨識器,該指示裝置可為使用者控 制式游標,觸控筆甚或是觸感式顯示系統的手指。該音效 辨識器可簡易地採用視窗標題區内之名稱。 蹰示簡單說明: 藉由參酌隨附圖示併同規格文件,可更瞭解本發明與 其各式應用目的,並且對於熟捻本項技藝之人士來說,其 優點即更加明顯易見,而其中: 、 第i圖為-由互動式資料處理器所控制的襄示系統之區 塊圖,其中包括-足以實作本發明之音效視窗辨 識舆聲音知會功能的中央處理單元; 第2圖為—顯示勞幕之輪廓圏,藉以說明用來敘述本發明 有關位於堆4内各個視窗之音效辨識的视窗堆吞 或階層’以及顯示該項位於某視窗内的指示裝 置’即游磕》 第3圖為輿第2圖相同的類示勞幕輪廓困,其中將該游標 第5頁 私紙張尺度適用中國國家標毕(CNS)A4規格C 297公·5" (請先閲讀背面之注意事項再填寫本頁) i ! I--I I ^----1 線 經濟部智慧財產局員工消t合作社印製 A7 B7______ 五、發明說明() 移至另外-個視窗内; 第4圖為與第 3阁相同的顯示螢幕輪廓圖,其中再將該游 標移至S At 王另外一個視窗内; 第5圖為~將久加 +偃1如第3圖中諸視窗關連到其預存音效辨 識器的傲左t J傅存列表之輪廓概念圖; 第6圖為—奎; 到設定本發明之音效辨識系統各項步纸 的裎式波程圖;以及 第7圖為執行彼龙 吸辛如第6®程式内各設定步驟之說明性访 程圓。 、 圖號對照說明: 10 CPU 12 系統匯流排 14 RAM 16 ROM 18 I/O介面卡 20 磁碟儲存裝置 22 使用者介面介面卡 24 鍵盤 26 滑氣 28 味J,八 32 軌跡球 34 通訊介面卡 36 顧示介面卡 38 顯示螢幕 39 視框緩衝器 40 應用程式 41 作業系統 57 游標 50,5 1,52,5 3,54,55,56 視窗 發明詳細說明: . 現參考第1圖,其中顯示一種資料處理系統,可作為 第6頁 本紙張尺度適用中0國家標準(CNS)A4規格(210 X 297公« ) (琦先閱讀背面之;i意事項再#鸾本頁> --------訂·!----線 469 397 A7 B7 五、發明說明() 經濟部智慧財產局員工消费合作杜印製 應用在控制該根據本發明而處理之視窗堆疊階層的電腦 控制式顯示終端機,並且當該指示裝置進入該等視窗之 後,用以提供視窗的音效儲存與聲音知會功能。在此提供 有例如像IBM公司所銷售之PC用微處理器,或是如ibm 公司所销售之RISC系統/6000(RS/600〇)系列工作站(該 RISC/6000為IBM公司之註冊商標)的中央處理單元 (CPU) 1 0 ’並且經由系統匯流排丨2而連接到各種其他的元 件。作業系統41執行於該cpu 1〇之上,提供控制功能並 用以協調如第1圖中各種元件的運作。而該作業系統41, 可為例如IBM公司所銪售之Αϊχ 600()作業系統或〇s/2 作業系統(該AIX 6000與OS/2作業系統俱為ibm公司之 狂冊商標)' 微軟的視窗98或視窗NT,以及UNIX與AIX 作業系統等等各種商業販售之視窗型態作業系統其中之 一。而由該系統所控制之應用程式4〇,可被搬移進入或 離開其主記憶體「隨機存取記憶鳢AM)」1 4。這些程式 中包括有文中後續將說明並可提供視窗之音效辨識器的 本發明程式《 —「唯讀記憶體(R〇N1)」1 6經由匯流排12 而連接於CPU 1 0 ’其中並包括控制各項電腦基本功能的 「基本輸入輸出系統(BIOS)」》RAM 14、I/O介面卡18以 及通訊介面卡34也連接於該系統匯流排12〇應注意到包 含有作業系統41與應用程式40的軟體元件,會被載入到 RAM 14,其中該RAM為電腦系統之主記憶體。I/O介面 卡18為可與磁碟‘存裝置2〇,即硬碟,互通的小型電腦 系統介面卡。通訊介面卡3 4則將匯流排1 2舆外部網路互 (請先閲讀背面之注意^項再填寫本頁) 裝
n I n n I I I « I I n I 線 本紙張尺度適用中國國家標準(CNS)A4規格(210 * 297公龙> 469 397 A7 B7 經濟部智慧財產局員工消费合作社印數 五、發明說明() 相連接,讓該資料處理系統能夠與其他類似系統通訊。在 今日之系統内,可將視窗型態的資料由例如像網際網路般 網路裡其他的電腦機站傳輸而來。 I/O裝置也透過使用者介面介面卡22以及顯示介面卡 36而連接到系統匯流排1 2。鍵盤24、軌跡球32、滑氣26 以及味1队2 8所有均經由該使用者介面介面卡2 2連接到匿 流排12»透過該等輸入裝置,即可實作出涉及到本發明 顯示之使用者介面功能。顯示介面卡36内包括一视框緩 衝器39’此為一足可持握顯示螢幕38上各個像素表示之 儲存裝置。影像可存放在視框緩衝器39内,以便透過諸 等例如數位類比轉換器(未示出)之元件,而將其顯示在跃 視器38上。正如前文所述’為了容納重疊與隱藏视窗之 階層’該視框緩衝器3 9應具備有深度緩衝器,例如像是 美國專利5,241,656文件内所描述的深度緩衝器β透過上 文的I/O裝置’使用者可藉由鍵盤24、軌跡球32、滑鼠 26以輸入資訊給系統,並且經由喇叭28與顯示器38而 自系統接收輸出資訊。當然,可藉喇叭2 8而將指示裝置 或游標所進入到的各視窗發出聲音以告知該互動使用 者。 茲藉由如第2至4®内的顯示螢幕,來對本發明之— 簡易範例進行說明。當說明該等螢幕影像時,應瞭解其可 為如第1圖系統的RAM 1 4裡在傳統性視窗作業系統内的 各種儲存影像與文字之產生程式,該作業系統概圖顯示於 第1圓内的作業系統41。而如第2至4圖内之顯示勞幕
*8X 本紙張尺度適用中國圉家標準(CNS)A4規格(210 X 297公贫) (請先閱讀背面之>i意事項再填寫本頁> -----I--訂.! -----緩 1 . 469 397 經濟部智慧財產局員工消费合作社印製 A7 ________B7_ 五、發明說明() 則係於第1圖内呈現給觀看者的顯示監視器3 8。根據傳 統性的技術,使用者可透過例如像1圖中滑鼠2 6的傳兢 I/O裝置而以互動方式來控制該勞幕,該傳統1/〇裝置經 由使用者介面介面卡22來呼叫RAM 14内的程式併同該 作業系統41,而在顯示介面卡36的視框緩衝器39内產 生影像,藉以控制該監視器38的顯示作業》如前文所示, 即透過喇< 28播送某特定視窗辨識之音效性聲音知會。 現參考第2圖的螢幕上之重疊視窗階層或堆疊,多數 為部分重疊。為簡化說明起見’有些物件或圖像與文字係 自下層視窗所移除,並且僅顯示了上層視窗50的部分圖 像。該堆疊裡其餘的部分可見之視窗為51、52、53、54、 55和56。這些視窗每一個可藉視覺方式依照其位於視窗 頂端標題區内的名稱而加以辨識<根據本發明,視窗名稱 係紀錄於電腦之音效系統内,並且儲存於如第5圖之列表 6 0裡,其中,各個視窗5 0到5 6的名稱是以所對應的多 個音效性聲音知會項目61來存放,而當游標57進入各個 視窗開始時,即產生音效性聲音知會《因此,如第2圖, 由於游標57係位於視窗53内’故當該游標進入到該视窗 剛開始的時候,該音效性聲音知會為「Freeiance Heip^ 而接著如第3圖,當游標57進入到視窗52剛開始的時 候’該音效性聲音知會即成為「Control Panel」,然後如 第4囷,當游標57進入到視窗56剛開始的時候,該音致 性聲音知會即成為·「Untitled Paint」> 現參考第6圓’來說明一根據本發明而用以每次該游 I I I ! -----I--訂---------線 (請先Μ讀背面之注意事項具填寫本頁> 4 69 397 A7 經濟部智慧財產局員工消t合作社印製 B7 五、發明說明() 標進入視窗隋層裡的視窗時,可藉動態方式製作視窗名稱 之音效性聲音知會的程式實作程序a而由第6圖中程序所 產生的程式副程序,可將有關於由第2至5圖中所敘述的 作業予以實際完成。在第6圖中的流程圖裡,如步驟71 藉由任何一種例如Windows 95、OS/2以及Unix或是AIX 的Motif等等可用以管理視窗階層作業系統,來設立一基 本型態的作業系統。接著,對於視窗階層内每一個視窗進 行處理’以紀錄並且儲存其聲音辨識器,如步驟72。為 簡化起見,該辨識器可為出現於個別視窗其上標題方塊内 的名稱。然後建立一程序以便對各個辨識器製作—錄製之 音效性聲音知會,如步驟73 a如步驟74處,藉一處理程 序來利用游標所進入的某視窗,其聲音辨識器之音效性聲 音知會,來回應於該游標進入該視窗的動作。該聲音知會 源自於一可加以更新之列表,並且係為其所支援,而如步 驟75該表内列有各聲音辨識器》 經描述並說明過該基本程式後,現討論第7圖中的簡 易作業流程圖,其中頚示該程式是如何對多個視窗而執行 個別辨識器之音效性聲音知會β首先,如步鄉,顯示 有一視窗滑層,其中多個視窗為部分重疊與部分可見。該 游標或其他指示裝置的位置係由視窗作業系統所利用到 有關本項用途之既有程序所追蹤=在步驟81處作一決 定,是否該游標已進入一新的視窗"如為否,則將該程序 返還到步驟82,且繼續追蹤該游標。如為是,則如步 驟84在第5圖内的列表中査看所進入到的視窗辨識器, 第10頁 本紙張尺度適用中0國家標準(CNS)A4規格(210 X 297公芨) -----1------- ^--------訂 i n n —1 -I I C請先M讀背面之注意事項再填窝本頁) 4 69 397 A7 B7 五、發明說明() 並且如步驟85發出該音效性辨識器之聲音知會。然後, 在步驟86處作一決定,該會期是否已結束。如為是’則 結束該會期。如為否,則該程序返回到步驟82處,並且 如上述般繼續追跋該游標。 當彼等視窗之文字名稱藉由一般傳統可用來作為直接 讀取該文字内碼而將其轉換為音效輸出的系統,而直接轉 換成語音輸出時,即可獲得最佳之結果。這種文字轉為語 音輸出系統,係描述於 C 〇 k e r e t a 1.之美國專利 3,704,345、1:461玨1,之美國專利4,398,058 以及八1^〇乂6131. 之美國專利4,27 8,83 8内。經由該等系統,即可讀取各個 視窗内的標題區或其他文字辨識器,並且當啟動某一視窗 時’神奇地予以轉換。另一方面,如有需要亦可讀取第5 圖列表中的文字,且轉換成語音輸出。 本發明之一較佳具體實施例係當成該作業系統中的副 程式,在電腦作業過程中,由常駐於第1圖裡RAM14内 的諸程式步驟或是指令所構成。可將該程式指令存放於另 外一個例如像是磁碟機20的可讀取媒體,或者是用於 CD-ROM電腦輸入的光碟或用於軟碟機電腦輸入的軟碟 之可柚取式記憶體上,一直等到由電腦系統需要叫用。此 外*在使用本發明之系統前,該程式指令亦可存放於另外 一台電腦的記憶體上,而當本發明之使用者有需要而叫用 時’可透過區域網路(LAN)或是例如像網際網路般的廣域 網路(WAN)而傳送籩來。 對於熟检本項技藝之人士應知悉該等控制本發明之程
第HIT 本紙張尺度適用中画國家標準(CNS)A4規格(210 X 297公釐) (請先Μ讀背面之注意事項再填寫本頁) 裝·! III 訂i I — 11 -線 經濟部智慧財產局貝工消費合作杜印製 4 69 397 A7 B7 五、發明說明( 序,可為各種電腦可讀取媒體之型式而銷售配送。 數項較佳之具體實施例雖於前文中予以顯示並描述, 然應明暸實可對其進行多種變化與修飾,而仍不悖離隨附 申請專利範圍之範疇與宗旨。 (請先閱讀背面之注意事項再填寫本頁) 經濟部智慧財產局貝工消费合作社印製 第121 本紙張尺度適用中國國家標準(CNS)A4規格(210 X 297公釐)

Claims (1)

  1. 經濟部智慧財產局員工消費合作社印製 69397 § D8、申請專利範圍 1. 一種電腦控制互動式顯示系統,其至少包括有: 多個用以在顯示器螢幕上顯示一視窗喈層之裝置, 而其中該視窗階層彼此互相重疊,且該多個視窗係部分 可見, 用以對該视窗階層内每個視窗提供一聲音辨識器之 裝置, 用以對該顯示器螢幕上的指示裝置加以定位之裝 置,以及 回應於該指示裝置,以便針對每個該指示裝置所進 入到的視窗而發出聲音辨識器知會之裝置。 2. 如申請專利範園第1項所述之顯示系統,其中上述之指 示裝置係一使用者控制游標。 3 .如申請專利範圍第1項所述之顯示系統,其中上述之指 示裝置為一觸控筆3 4. 如申請專利範圍第1項所述之顯示系統,其中上述之聲 音辨識器包括至少部份的出現於視窗標題區内之視窗 名稱。 5. —種用以於電腦控制互動式顯示而部分地辨識隱藏視 •窗的方法,其中包括: 在顯示螢幕上顯示一彼此互相重疊之視窗睹層,而 第13頁 (請先閱讀背面之注意事項再填寫本頁) --I Ϊ l· I I — 訂.------I I 本紙張尺度適用中國國家標準(CNS)A4規格(210 X 297公釐) 4 9 3 9 5 A8B8C8D8 六、申請專利範圍 且該多個視窗係屬部分可見* 對該視窗階層内每個視窗提供一聲音辨識器, 對該顯示器螢幕上的指示裝置加以'定位,以及 回應於該指示裝置,針對.每·個該指示裝置所進入到 的視窗而發出聲音辨識器知會。 6.如申請專利範圍第5項所述之方法,其中上迷之指示裝 置定位作業,係經由一使用者控制游標而執行。 •如_請專利範圍第5項所述之方法’其中上述之指示裝 置定位作業,係經由一觸控筆而執行, 8.如令請專利範圍第5項所述之银中上述之聲 音辨識器包括至少部份的出現於視窗區内之視窗 名稱。 9. 一種電腦控制顯示程式,其具有包含於電腦可讀取媒體 上並用來作為互動方式控制一顯示系統的程式碼’該顯 示系統包括有: 多個用以在顯示器螢幕上顯示一視窗階層之裝置, 而其中該視窗階層彼此互相重疊,且該多個視窗係屬部 分可見, ' 用以對該視窗榷層内每個視窗提供一聲音辨識器之 裝置| 第UT 本紙張尺度適用t國國家標準(CNS)A4規格(210 « 297公釐) (請先閱讀背面之注意事項再填寫本頁) -丨裝 訂---------線 經濟部智慧財產局員工消f合作社印製 A8B8C8D8 4.6 9 39 7 六、申請專利範圍 用以對該顯示器螢幕上的指示裝置加以定位之裝 置,以及 回應於該指示裝置.以便針對每個該指示裝置所進 入到的視窗而發出聲音辨識器知會之裝置^ 1〇·如申請專利範圍第9項所述之電腦程式,其中上述之 指示裝置係一使用者控制游標β Π.如申請專利範圍第9項所述之電腦程式,其中上述之 指示.裝置係一觸控筆。 12.如申請專利範圍第9項所述之電腦程式,其中上迷之 聲音辨識器包括至少部份的出現於視窗標題區内之視 窗名稱》 (請先閱讀背面之注意ί項再填窝本頁> 裝-----r---訂---------線s 準 標 家 國 國 Φ* 用 適 度 張 紙- U 經濟部智慧財產局員工消費合作社印製 規 4 )Α s)
TW089104650A 1999-06-03 2000-03-14 A data processor controlled display system with audio identifiers for overlapping windows in an interactive graphical user interface TW469397B (en)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US09/325,404 US6728675B1 (en) 1999-06-03 1999-06-03 Data processor controlled display system with audio identifiers for overlapping windows in an interactive graphical user interface

Publications (1)

Publication Number Publication Date
TW469397B true TW469397B (en) 2001-12-21

Family

ID=23267753

Family Applications (1)

Application Number Title Priority Date Filing Date
TW089104650A TW469397B (en) 1999-06-03 2000-03-14 A data processor controlled display system with audio identifiers for overlapping windows in an interactive graphical user interface

Country Status (6)

Country Link
US (1) US6728675B1 (zh)
JP (1) JP2001022494A (zh)
KR (1) KR100369213B1 (zh)
CN (1) CN1177274C (zh)
CA (1) CA2307296A1 (zh)
TW (1) TW469397B (zh)

Families Citing this family (147)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8645137B2 (en) 2000-03-16 2014-02-04 Apple Inc. Fast, language-independent method for user authentication by voice
US6806869B2 (en) * 2001-03-02 2004-10-19 Seiko Epson Corporation Data processing system utilizing discrete operating device
FI20010958A0 (fi) * 2001-05-08 2001-05-08 Nokia Corp Menetelmä ja järjestely laajennetun käyttöliittymän muodostamiseksi
US7055104B1 (en) * 2002-03-29 2006-05-30 Digeo, Inc. System and method for focused navigation using filters
US7735102B1 (en) 2001-08-29 2010-06-08 Billmaier James A System and method for focused navigation within a user interface
US7650569B1 (en) 2001-08-29 2010-01-19 Allen Paul G System and method for focused navigation within a user interface
US20030046694A1 (en) * 2001-08-29 2003-03-06 Digeo, Inc. System and method for displaying option representations with multiple levels of specificity
US7594246B1 (en) 2001-08-29 2009-09-22 Vulcan Ventures, Inc. System and method for focused navigation within a user interface
WO2003021916A2 (en) * 2001-08-29 2003-03-13 Digeo, Inc. System and method for capturing video frames for focused navigation within a user interface
US20030046695A1 (en) * 2001-08-29 2003-03-06 Digeo, Inc. System and method for enabling focused navigation using filtering and direct-tune buttons
US20030046693A1 (en) * 2001-08-29 2003-03-06 Digeo, Inc. System and method for focused navigation within an interactive television user interface
US7107532B1 (en) * 2001-08-29 2006-09-12 Digeo, Inc. System and method for focused navigation within a user interface
US8099680B1 (en) 2002-03-12 2012-01-17 Arris Group, Inc. System and method of contextual pre-tuning
US7487444B2 (en) * 2002-03-19 2009-02-03 Aol Llc Reformatting columns of content for display
CN100440189C (zh) * 2003-06-04 2008-12-03 无敌科技(西安)有限公司 结合图形描绘的语言学习系统及其运作方法
US7502480B2 (en) * 2003-08-19 2009-03-10 Microsoft Corporation System and method for implementing a flat audio volume control model
US8744852B1 (en) * 2004-10-01 2014-06-03 Apple Inc. Spoken interfaces
US7735012B2 (en) * 2004-11-04 2010-06-08 Apple Inc. Audio user interface for computing devices
US7321856B1 (en) * 2005-08-03 2008-01-22 Microsoft Corporation Handling of speech recognition in a declarative markup language
US8677377B2 (en) 2005-09-08 2014-03-18 Apple Inc. Method and apparatus for building an intelligent automated assistant
KR100754211B1 (ko) * 2006-03-15 2007-09-03 삼성전자주식회사 멀티태스킹을 위한 사용자 인터페이스 방법 및 그 방법을수행하는 프로그램을 기록한 컴퓨터 판독 가능한 기록매체
KR100699050B1 (ko) * 2006-06-30 2007-03-28 삼성전자주식회사 문자정보를 음성정보로 출력하는 이동통신 단말기 및 그방법
US9318108B2 (en) 2010-01-18 2016-04-19 Apple Inc. Intelligent automated assistant
US8473868B1 (en) 2006-10-27 2013-06-25 Arris Group, Inc. System and method for reverse hierarchical navigation within a user interface
US20080104944A1 (en) * 2006-10-31 2008-05-08 Caterpillar Inc. Engine emissions control system
JP4403561B2 (ja) * 2007-01-31 2010-01-27 インターナショナル・ビジネス・マシーンズ・コーポレーション 画面の表示を制御する技術
US8977255B2 (en) 2007-04-03 2015-03-10 Apple Inc. Method and system for operating a multi-function portable electronic device using voice-activation
US20080282230A1 (en) * 2007-05-07 2008-11-13 International Business Machines Corporation Product, method and system for using window authentication in testing graphical user interface applications
US7847677B2 (en) * 2007-10-04 2010-12-07 International Business Machines Corporation Method and system for providing auditory feedback for the visually impaired when defining visual models
US9330720B2 (en) 2008-01-03 2016-05-03 Apple Inc. Methods and apparatus for altering audio output signals
US8996376B2 (en) 2008-04-05 2015-03-31 Apple Inc. Intelligent text-to-speech conversion
US10496753B2 (en) 2010-01-18 2019-12-03 Apple Inc. Automatically adapting user interfaces for hands-free interaction
US20100030549A1 (en) 2008-07-31 2010-02-04 Lee Michael M Mobile device having human language translation capability with positional feedback
US8898568B2 (en) 2008-09-09 2014-11-25 Apple Inc. Audio user interface
WO2010067118A1 (en) 2008-12-11 2010-06-17 Novauris Technologies Limited Speech recognition involving a mobile device
US10241752B2 (en) 2011-09-30 2019-03-26 Apple Inc. Interface for a virtual digital assistant
US20120309363A1 (en) 2011-06-03 2012-12-06 Apple Inc. Triggering notifications associated with tasks items that represent tasks to perform
US9858925B2 (en) 2009-06-05 2018-01-02 Apple Inc. Using context information to facilitate processing of commands in a virtual assistant
US10241644B2 (en) 2011-06-03 2019-03-26 Apple Inc. Actionable reminder entries
US9431006B2 (en) 2009-07-02 2016-08-30 Apple Inc. Methods and apparatuses for automatic speech recognition
US10276170B2 (en) 2010-01-18 2019-04-30 Apple Inc. Intelligent automated assistant
US10553209B2 (en) 2010-01-18 2020-02-04 Apple Inc. Systems and methods for hands-free notification summaries
US10679605B2 (en) 2010-01-18 2020-06-09 Apple Inc. Hands-free list-reading by intelligent automated assistant
US10705794B2 (en) 2010-01-18 2020-07-07 Apple Inc. Automatically adapting user interfaces for hands-free interaction
DE202011111062U1 (de) 2010-01-25 2019-02-19 Newvaluexchange Ltd. Vorrichtung und System für eine Digitalkonversationsmanagementplattform
US8682667B2 (en) 2010-02-25 2014-03-25 Apple Inc. User profiling for selecting user specific voice input processing information
US8433828B2 (en) 2010-02-26 2013-04-30 Apple Inc. Accessory protocol for touch screen device accessibility
US10762293B2 (en) 2010-12-22 2020-09-01 Apple Inc. Using parts-of-speech tagging and named entity recognition for spelling correction
US9262612B2 (en) 2011-03-21 2016-02-16 Apple Inc. Device access using voice authentication
US10057736B2 (en) 2011-06-03 2018-08-21 Apple Inc. Active transport based notifications
US8994660B2 (en) 2011-08-29 2015-03-31 Apple Inc. Text correction processing
US10134385B2 (en) 2012-03-02 2018-11-20 Apple Inc. Systems and methods for name pronunciation
US9483461B2 (en) 2012-03-06 2016-11-01 Apple Inc. Handling speech synthesis of content for multiple languages
US9280610B2 (en) 2012-05-14 2016-03-08 Apple Inc. Crowd sourcing information to fulfill user requests
US9721563B2 (en) 2012-06-08 2017-08-01 Apple Inc. Name recognition system
US9495129B2 (en) 2012-06-29 2016-11-15 Apple Inc. Device, method, and user interface for voice-activated navigation and browsing of a document
US9576574B2 (en) 2012-09-10 2017-02-21 Apple Inc. Context-sensitive handling of interruptions by intelligent digital assistant
US9547647B2 (en) 2012-09-19 2017-01-17 Apple Inc. Voice-based media searching
EP2746917A3 (en) * 2012-12-19 2016-11-02 2236008 Ontario Inc. User interface with navigation context
DE212014000045U1 (de) 2013-02-07 2015-09-24 Apple Inc. Sprach-Trigger für einen digitalen Assistenten
US10652394B2 (en) 2013-03-14 2020-05-12 Apple Inc. System and method for processing voicemail
US9368114B2 (en) 2013-03-14 2016-06-14 Apple Inc. Context-sensitive handling of interruptions
WO2014144579A1 (en) 2013-03-15 2014-09-18 Apple Inc. System and method for updating an adaptive speech recognition model
CN105027197B (zh) 2013-03-15 2018-12-14 苹果公司 训练至少部分语音命令系统
WO2014197334A2 (en) 2013-06-07 2014-12-11 Apple Inc. System and method for user-specified pronunciation of words for speech synthesis and recognition
US9582608B2 (en) 2013-06-07 2017-02-28 Apple Inc. Unified ranking with entropy-weighted information for phrase-based semantic auto-completion
WO2014197336A1 (en) 2013-06-07 2014-12-11 Apple Inc. System and method for detecting errors in interactions with a voice-based digital assistant
WO2014197335A1 (en) 2013-06-08 2014-12-11 Apple Inc. Interpreting and acting upon commands that involve sharing information with remote devices
AU2014278592B2 (en) 2013-06-09 2017-09-07 Apple Inc. Device, method, and graphical user interface for enabling conversation persistence across two or more instances of a digital assistant
US10176167B2 (en) 2013-06-09 2019-01-08 Apple Inc. System and method for inferring user intent from speech inputs
EP3008964B1 (en) 2013-06-13 2019-09-25 Apple Inc. System and method for emergency calls initiated by voice command
WO2015020942A1 (en) 2013-08-06 2015-02-12 Apple Inc. Auto-activating smart responses based on activities from remote devices
US9620105B2 (en) 2014-05-15 2017-04-11 Apple Inc. Analyzing audio input for efficient speech and music recognition
US10592095B2 (en) 2014-05-23 2020-03-17 Apple Inc. Instantaneous speaking of content on touch devices
US9502031B2 (en) 2014-05-27 2016-11-22 Apple Inc. Method for supporting dynamic grammars in WFST-based ASR
US9760559B2 (en) 2014-05-30 2017-09-12 Apple Inc. Predictive text input
AU2015266863B2 (en) 2014-05-30 2018-03-15 Apple Inc. Multi-command single utterance input method
US9734193B2 (en) 2014-05-30 2017-08-15 Apple Inc. Determining domain salience ranking from ambiguous words in natural speech
US10289433B2 (en) 2014-05-30 2019-05-14 Apple Inc. Domain specific language for encoding assistant dialog
US9785630B2 (en) 2014-05-30 2017-10-10 Apple Inc. Text prediction using combined word N-gram and unigram language models
US9842101B2 (en) 2014-05-30 2017-12-12 Apple Inc. Predictive conversion of language input
US9430463B2 (en) 2014-05-30 2016-08-30 Apple Inc. Exemplar-based natural language processing
US9633004B2 (en) 2014-05-30 2017-04-25 Apple Inc. Better resolution when referencing to concepts
US10078631B2 (en) 2014-05-30 2018-09-18 Apple Inc. Entropy-guided text prediction using combined word and character n-gram language models
US20150348496A1 (en) * 2014-05-30 2015-12-03 Pixtronix, Inc. Systems and methods for selecting display operation modes
US10170123B2 (en) 2014-05-30 2019-01-01 Apple Inc. Intelligent assistant for home automation
US9715875B2 (en) 2014-05-30 2017-07-25 Apple Inc. Reducing the need for manual start/end-pointing and trigger phrases
US9338493B2 (en) 2014-06-30 2016-05-10 Apple Inc. Intelligent automated assistant for TV user interactions
US10659851B2 (en) 2014-06-30 2020-05-19 Apple Inc. Real-time digital assistant knowledge updates
US10446141B2 (en) 2014-08-28 2019-10-15 Apple Inc. Automatic speech recognition based on user feedback
US9818400B2 (en) 2014-09-11 2017-11-14 Apple Inc. Method and apparatus for discovering trending terms in speech requests
US10789041B2 (en) 2014-09-12 2020-09-29 Apple Inc. Dynamic thresholds for always listening speech trigger
US10074360B2 (en) 2014-09-30 2018-09-11 Apple Inc. Providing an indication of the suitability of speech recognition
US10127911B2 (en) 2014-09-30 2018-11-13 Apple Inc. Speaker identification and unsupervised speaker adaptation techniques
US9886432B2 (en) 2014-09-30 2018-02-06 Apple Inc. Parsimonious handling of word inflection via categorical stem + suffix N-gram language models
US9668121B2 (en) 2014-09-30 2017-05-30 Apple Inc. Social reminders
US9646609B2 (en) 2014-09-30 2017-05-09 Apple Inc. Caching apparatus for serving phonetic pronunciations
US10552013B2 (en) 2014-12-02 2020-02-04 Apple Inc. Data detection
US9711141B2 (en) 2014-12-09 2017-07-18 Apple Inc. Disambiguating heteronyms in speech synthesis
US9865280B2 (en) 2015-03-06 2018-01-09 Apple Inc. Structured dictation using intelligent automated assistants
US10567477B2 (en) 2015-03-08 2020-02-18 Apple Inc. Virtual assistant continuity
US9721566B2 (en) 2015-03-08 2017-08-01 Apple Inc. Competing devices responding to voice triggers
US9886953B2 (en) 2015-03-08 2018-02-06 Apple Inc. Virtual assistant activation
US9899019B2 (en) 2015-03-18 2018-02-20 Apple Inc. Systems and methods for structured stem and suffix language models
US9842105B2 (en) 2015-04-16 2017-12-12 Apple Inc. Parsimonious continuous-space phrase representations for natural language processing
US10083688B2 (en) 2015-05-27 2018-09-25 Apple Inc. Device voice control for selecting a displayed affordance
US10127220B2 (en) 2015-06-04 2018-11-13 Apple Inc. Language identification from short strings
US10101822B2 (en) 2015-06-05 2018-10-16 Apple Inc. Language input correction
US9578173B2 (en) 2015-06-05 2017-02-21 Apple Inc. Virtual assistant aided communication with 3rd party service in a communication session
US10186254B2 (en) 2015-06-07 2019-01-22 Apple Inc. Context-based endpoint detection
US10255907B2 (en) 2015-06-07 2019-04-09 Apple Inc. Automatic accent detection using acoustic models
US11025565B2 (en) 2015-06-07 2021-06-01 Apple Inc. Personalized prediction of responses for instant messaging
US10671428B2 (en) 2015-09-08 2020-06-02 Apple Inc. Distributed personal assistant
US10747498B2 (en) 2015-09-08 2020-08-18 Apple Inc. Zero latency digital assistant
US9697820B2 (en) 2015-09-24 2017-07-04 Apple Inc. Unit-selection text-to-speech synthesis using concatenation-sensitive neural networks
US10366158B2 (en) 2015-09-29 2019-07-30 Apple Inc. Efficient word encoding for recurrent neural network language models
US11010550B2 (en) 2015-09-29 2021-05-18 Apple Inc. Unified language modeling framework for word prediction, auto-completion and auto-correction
US11587559B2 (en) 2015-09-30 2023-02-21 Apple Inc. Intelligent device identification
US10691473B2 (en) 2015-11-06 2020-06-23 Apple Inc. Intelligent automated assistant in a messaging environment
US10049668B2 (en) 2015-12-02 2018-08-14 Apple Inc. Applying neural network language models to weighted finite state transducers for automatic speech recognition
US10223066B2 (en) 2015-12-23 2019-03-05 Apple Inc. Proactive assistance based on dialog communication between devices
US10446143B2 (en) 2016-03-14 2019-10-15 Apple Inc. Identification of voice inputs providing credentials
US9934775B2 (en) 2016-05-26 2018-04-03 Apple Inc. Unit-selection text-to-speech synthesis based on predicted concatenation parameters
US9972304B2 (en) 2016-06-03 2018-05-15 Apple Inc. Privacy preserving distributed evaluation framework for embedded personalized systems
US10249300B2 (en) 2016-06-06 2019-04-02 Apple Inc. Intelligent list reading
US10049663B2 (en) 2016-06-08 2018-08-14 Apple, Inc. Intelligent automated assistant for media exploration
DK179309B1 (en) 2016-06-09 2018-04-23 Apple Inc Intelligent automated assistant in a home environment
US10509862B2 (en) 2016-06-10 2019-12-17 Apple Inc. Dynamic phrase expansion of language input
US10192552B2 (en) 2016-06-10 2019-01-29 Apple Inc. Digital assistant providing whispered speech
US10067938B2 (en) 2016-06-10 2018-09-04 Apple Inc. Multilingual word prediction
US10490187B2 (en) 2016-06-10 2019-11-26 Apple Inc. Digital assistant providing automated status report
US10586535B2 (en) 2016-06-10 2020-03-10 Apple Inc. Intelligent digital assistant in a multi-tasking environment
DK179415B1 (en) 2016-06-11 2018-06-14 Apple Inc Intelligent device arbitration and control
DK179343B1 (en) 2016-06-11 2018-05-14 Apple Inc Intelligent task discovery
DK201670540A1 (en) 2016-06-11 2018-01-08 Apple Inc Application integration with a digital assistant
DK179049B1 (en) 2016-06-11 2017-09-18 Apple Inc Data driven natural language event detection and classification
JP2018005091A (ja) * 2016-07-06 2018-01-11 富士通株式会社 表示制御プログラム、表示制御方法および表示制御装置
US10043516B2 (en) 2016-09-23 2018-08-07 Apple Inc. Intelligent automated assistant
US10593346B2 (en) 2016-12-22 2020-03-17 Apple Inc. Rank-reduced token representation for automatic speech recognition
DK201770439A1 (en) 2017-05-11 2018-12-13 Apple Inc. Offline personal assistant
DK179496B1 (en) 2017-05-12 2019-01-15 Apple Inc. USER-SPECIFIC Acoustic Models
DK179745B1 (en) 2017-05-12 2019-05-01 Apple Inc. SYNCHRONIZATION AND TASK DELEGATION OF A DIGITAL ASSISTANT
DK201770431A1 (en) 2017-05-15 2018-12-20 Apple Inc. Optimizing dialogue policy decisions for digital assistants using implicit feedback
DK201770432A1 (en) 2017-05-15 2018-12-21 Apple Inc. Hierarchical belief states for digital assistants
DK179560B1 (en) 2017-05-16 2019-02-18 Apple Inc. FAR-FIELD EXTENSION FOR DIGITAL ASSISTANT SERVICES
USD861023S1 (en) * 2017-10-27 2019-09-24 Canva Pty Ltd. Display screen or portion thereof with a graphical user interface
CN116527811A (zh) * 2022-01-22 2023-08-01 华为技术有限公司 一种音频通知的显示方法及电子设备

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5305435A (en) * 1990-07-17 1994-04-19 Hewlett-Packard Company Computer windows management system and method for simulating off-screen document storage and retrieval
FR2693810B1 (fr) * 1991-06-03 1997-01-10 Apple Computer Systemes d'interfaces d'utilisateurs a acces direct a une zone secondaire d'affichage.
JPH0540589A (ja) * 1991-08-02 1993-02-19 Canon Inc マルチウインドウ表示方法及びその装置
US5223828A (en) * 1991-08-19 1993-06-29 International Business Machines Corporation Method and system for enabling a blind computer user to handle message boxes in a graphical user interface
US5186629A (en) * 1991-08-22 1993-02-16 International Business Machines Corporation Virtual graphics display capable of presenting icons and windows to the blind computer user and method
US6046722A (en) * 1991-12-05 2000-04-04 International Business Machines Corporation Method and system for enabling blind or visually impaired computer users to graphically select displayed elements
US5287102A (en) * 1991-12-20 1994-02-15 International Business Machines Corporation Method and system for enabling a blind computer user to locate icons in a graphical user interface
JP3286339B2 (ja) * 1992-03-25 2002-05-27 株式会社リコー ウインドウ画面制御装置
JP3426267B2 (ja) * 1992-09-29 2003-07-14 沖電気工業株式会社 音声出力制御方法
JP3160462B2 (ja) * 1993-06-01 2001-04-25 松下電器産業株式会社 音声出力機能付きマルチウインドウ装置
US5956030A (en) * 1993-06-11 1999-09-21 Apple Computer, Inc. Computer system with graphical user interface including windows having an identifier within a control region on the display
CA2133877A1 (en) * 1993-10-25 1995-04-26 Mark A. Malamud Quick info windows and audio information cursors
JP2610114B2 (ja) * 1993-12-30 1997-05-14 インターナショナル・ビジネス・マシーンズ・コーポレイション ポインティング・システム、コンピュータ・システムおよび力応答方法
US5534887A (en) * 1994-02-18 1996-07-09 International Business Machines Corporation Locator icon mechanism
JPH08166867A (ja) * 1994-12-15 1996-06-25 Fujitsu Ltd 音声ガイダンス装置
US5826051A (en) * 1995-12-27 1998-10-20 Intel Corporation Method and apparatus for simplifying active window selection, application activation, and shared command execution in a multi-application environment
US6147684A (en) * 1998-02-06 2000-11-14 Sun Microysytems, Inc. Techniques for navigating layers of a user interface

Also Published As

Publication number Publication date
JP2001022494A (ja) 2001-01-26
KR100369213B1 (ko) 2003-01-24
CN1177274C (zh) 2004-11-24
US6728675B1 (en) 2004-04-27
KR20010020890A (ko) 2001-03-15
CA2307296A1 (en) 2000-12-03
CN1291741A (zh) 2001-04-18

Similar Documents

Publication Publication Date Title
TW469397B (en) A data processor controlled display system with audio identifiers for overlapping windows in an interactive graphical user interface
JP4645473B2 (ja) 電子会議支援プログラム、電子会議支援方法、電子会議制御装置
US9250766B2 (en) Labels and tooltips for context based menus
US6965450B2 (en) Method for imaging multiple sets of an electronic document on one or more image forming devices
US5752059A (en) Apparatus and method for representing electronic mail
US6167439A (en) Data retrieval, manipulation and transmission with facsimile images
TW392116B (en) Computer system and method of manipulating multiple graphical user interface components on a computer display with a proximity pointer
US20050018658A1 (en) Information processing method and information processing apparatus
JPH02504564A (ja) データ処理システムにおけるディスプレー用の文書フォルダー・アイコン
US7508354B1 (en) Multi-board presentation system
JP2007272857A (ja) デバイスドライバシステム
US20070120875A1 (en) Computer aided design interface
Kumar Human computer interaction
JP2020042700A (ja) 情報処理装置及び情報処理プログラム
JP2004021595A (ja) 会議支援協調作業システム
TWI233039B (en) Communicating objects between users
US20100042921A1 (en) System and method for viewing software help documentation
JP5469985B2 (ja) データ受渡方法及び汎用データ取得方法
US20130127718A1 (en) Method for Operating Computer Objects and Computer Program Product Thereof
JPH0944331A (ja) 情報処理装置
JP6657576B2 (ja) 出力制御プログラム、出力制御方法及び出力制御装置
KR101941177B1 (ko) 컴퓨터에서 pc 모니터를 통한 바탕화면 통합 관리용 애플리케이션을 구현하기 위하여 매체에 저장된 컴퓨터 프로그램
JP2010182125A (ja) 学習支援システム
JP2002278874A (ja) 電子伝言板システムおよび伝言板プログラム
JP2001167285A (ja) 電子紙面作成システム及び電子紙面作成方法

Legal Events

Date Code Title Description
GD4A Issue of patent certificate for granted invention patent
MM4A Annulment or lapse of patent due to non-payment of fees