TWI514885B - 用於透過低頻寬及高潛時傳輸頻道之影像及視訊傳輸的方法及裝置 - Google Patents

用於透過低頻寬及高潛時傳輸頻道之影像及視訊傳輸的方法及裝置 Download PDF

Info

Publication number
TWI514885B
TWI514885B TW103111679A TW103111679A TWI514885B TW I514885 B TWI514885 B TW I514885B TW 103111679 A TW103111679 A TW 103111679A TW 103111679 A TW103111679 A TW 103111679A TW I514885 B TWI514885 B TW I514885B
Authority
TW
Taiwan
Prior art keywords
client
image
server
data
video
Prior art date
Application number
TW103111679A
Other languages
English (en)
Other versions
TW201429258A (zh
Inventor
湯姆 金沛
Original Assignee
巴而可公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 巴而可公司 filed Critical 巴而可公司
Publication of TW201429258A publication Critical patent/TW201429258A/zh
Application granted granted Critical
Publication of TWI514885B publication Critical patent/TWI514885B/zh

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W12/00Security arrangements; Authentication; Protecting privacy or anonymity
    • H04W12/02Protecting privacy or anonymity, e.g. protecting personally identifiable information [PII]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60Protecting data
    • G06F21/62Protecting access to data via a platform, e.g. using keys or access control rules
    • G06F21/6218Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
    • G06F21/6245Protecting personal data, e.g. for financial or medical purposes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/56Provisioning of proxy services
    • H04L67/568Storing data temporarily at an intermediate stage, e.g. caching
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/127Prioritisation of hardware or computational resources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/154Measured or subjectively estimated visual quality after decoding, e.g. measurement of distortion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/164Feedback from the receiver or from the transmission channel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/20Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/37Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability with arrangements for assigning different transmission priorities to video input data or to video coded data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/258Client or end-user data management, e.g. managing client capabilities, user preferences or demographics, processing of multiple end-users preferences to derive collaborative data
    • H04N21/25808Management of client data
    • H04N21/25841Management of client data involving the geographical location of the client
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/258Client or end-user data management, e.g. managing client capabilities, user preferences or demographics, processing of multiple end-users preferences to derive collaborative data
    • H04N21/25808Management of client data
    • H04N21/25858Management of client data involving client software characteristics, e.g. OS identifier
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W12/00Security arrangements; Authentication; Protecting privacy or anonymity
    • H04W12/03Protecting confidentiality, e.g. by encryption
    • H04W12/033Protecting confidentiality, e.g. by encryption of the user plane, e.g. user's traffic
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02Services making use of location information
    • H04W4/025Services making use of location information using location based information parameters
    • H04W4/026Services making use of location information using location based information parameters using orientation information, e.g. compass
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W12/00Security arrangements; Authentication; Protecting privacy or anonymity
    • H04W12/60Context-dependent security
    • H04W12/63Location-dependent; Proximity-dependent
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W12/00Security arrangements; Authentication; Protecting privacy or anonymity
    • H04W12/60Context-dependent security
    • H04W12/63Location-dependent; Proximity-dependent
    • H04W12/64Location-dependent; Proximity-dependent using geofenced areas
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30Services specially adapted for particular environments, situations or purposes

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Databases & Information Systems (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Security & Cryptography (AREA)
  • Theoretical Computer Science (AREA)
  • Bioethics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Graphics (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • Medical Informatics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • Discrete Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Mobile Radio Communication Systems (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

用於透過低頻寬及高潛時傳輸頻道之影像及視訊傳輸的方法及裝置
本發明是有關於為以在(無線)帶寬有限、漏失及高潛時性之傳輸頻道上,進行高品質影像及視訊傳輸的系統及方法。藉此「高品質影像及視訊」通常意味著「醫學影像及視訊」。各特別是,本發明是有關於為以在像是Wifi、UWB、藍芽、DECT、ZigBee、...之頻道上,傳輸各影像及視訊的系統及方法,並提供對於像是在較高壓縮比例及高潛時而整體低影像品質之典型問題的解決方案。
本發明係歸屬於為以在其中出現有一帶寬限制之頻道上,傳輸各影像或視訊的方法及系統之領域,在此該頻道或具漏失性,或是其中該潛時性具關鍵性質者。要加以解決的常見問題是於各高品質影像或視訊從一點處到另一點處的傳送作業。由於所用頻道的帶寬限制之故,這或有必要容忍在影像或視訊品質方面的部分降低,即如在當於頻道上進行發送之前,先將各影像或視訊資料依一漏失方式加以壓縮時的情況。在此情況下,經解壓縮之影像或視訊序列比起原始影像或視訊序列會具較低品質。 常用的壓縮法則為JPEG、JPEG2000、MPEG-2、...。這些壓縮法則各者具有其相關於壓縮比例、法則複雜度、所需計算功率、經引入之潛時、...的各項優點及缺點,並且所運用之最佳壓縮法則是依照經壓縮影像或視訊之內容而定。例如:一醫學影像相較於某片段藝術圖片會要求另一種壓縮法則以獲最佳品質及壓縮比例。特別是對於像是醫學成影處理之高需求應用,在品質方面的普遍性降低或無法令人接受,從而帶寬限制顯然地是與至少所傳之醫學影像的高品質需求相衝突。
若傳輸頻道具有一顯著位元錯誤率(如該頻道在所傳資料中引入錯誤),則影像或視訊品質劣化或會完全無法令人接受。尤其是位元錯誤及經壓縮資料之組合通常會在解壓縮資料串流內引入重大錯誤。此一問題稱為錯誤彈性。一種在具高度位元錯誤率之頻道情況下的可能解決方式即為利用錯誤偵測碼或錯誤校正碼(ECC)。這些數碼可在某些限制內供以偵測並甚校正位元錯誤。錯誤校正碼的範例可如CRC(循環冗餘碼)及RS(Reed-Solomon碼)。
除可能的品質劣化外,壓縮作業也會增加一些額外的潛時性,因為這會耗費時間以對串流進行壓縮及解壓縮處理。特別是在若該資料訊務為雙向式為如此。這可為例如若一伺服器產生視訊序列,此視訊資料經傳至該客戶端,而該客戶端具有與該伺服器互動(藉由例如移動一滑鼠點指器)的可能的情況。在該情況下,會因該系統的緩慢回應而立即地見到一高潛時性:這會在該客戶端動作(例如移動滑鼠)之結果產生效用前,耗佔無可接受的冗長時間。
此外,該接收該影像或視訊資料之裝置通常會為一可攜式裝 置,並因此會具有一接至該伺服器的無線介面。此可攜性特性會造成關於耗電性、信號整體性(變動的信號品質以及與該伺服器之可能連線漏失)和安全性的額外複雜度。確實,可攜式裝置正常情況下為電池供電,並且為獲一可用電池操作會需要盡可能地將電力耗用降至最低。這會與一般的傳輸頻道(Wifi 802.11.a/b/g...、DECT、ZigBee、UWB、...)之帶寬限制相衝突:因低可用帶寬之故從而需要一高壓縮比例,而這通常會要求複雜的壓縮法則。壓縮法則的複雜度會直接地相關於耗電性,因為額外計算作業需要額外的電力。可攜式裝置亦遭受到變動信號品質影響。藉以Wifi為例,僅將該裝置移動數米即可造成可用帶寬減半,因為無線信號的複雜反射及干涉。最劣情況下,該信號可甚完全地衰退(對於一有限時間)。在此情況下,當然不希望該可攜式裝置於該時刻無法使用。由於為是以無線方式傳送資料,因此他人可較簡易地接收到資料。在該資料具有機密性的情況下(像是醫療影像或病患資料),會需要像是加密演算法的額外預防措施。
本發明之目的即為提供一種方法及裝置,以解決目前存在於在具有限帶寬之網路上進行影像傳輸及視訊傳輸的問題,特別是高品質或醫療影像及視訊傳輸。該等問題可如,然不限於此,當僅一低帶寬頻道為可用時的低整體影像/視訊品質、因在該頻道上引入位元錯誤所致的嚴重影像劣化,以及當進行雙向式通訊時的潛時性問題。本發明將揭示一種基於根據該影像內之空間位置而自動選擇最佳編解碼型態的解決方案、為改善多重使用者環境下之安全性及優先權訊令的方法、為藉自動地重新組態設 定各計算區塊以最高地使用可用計算電力的方法、降低並隱藏高度潛時性問題之方法,以及減少可攜式電池操作裝置之耗電性的方法。
在一第一特性裡,本發明提供一種為於一伺服器與多個裝置之間,在帶寬受限而具變動性可用帶寬之各傳輸頻道上,進行影像及/或視訊,尤以即如高品質影像及/或視訊,傳輸作業的方法。藉「高品質影像及/或視訊」此通常意味著「醫療影像及/或視訊」。可用帶寬或因該內涵性帶寬為變化而為變動,即如在無線傳輸的情況下,或是在出現一固定帶寬的情況下,因可變負載或可變產通量所致。該根據本發明之方法包含對待予提供給一裝置之各個影像及/或視訊使用分類演算法,以:●將各待予傳輸之影像及/或視訊分解至多個空間區域內,各區域具有一特定影像型態;●偵測該等區域各者的影像型態;●對於該等區域各者,個別地選擇一具一壓縮比例之影像及/或視訊編碼演算法。
根據本發明,該等裝置各者經優權化,並且該分類演算法可在漸減帶寬的情況下,提高專屬於具較低優先權之空間區域的影像及/或視訊編碼演算法之壓縮比例。
根據本發明具體實施例,可基於透過各裝置所接取之應用來完成該裝置的優權化處理。或另者,根據本發明具體實施例,可為基於使用該等裝置之各使用者識別資料,即如該使用者究係一醫生或一助理,來完成各裝置的優權化處理。接著,該方法可包含一使用者登錄於該等裝置其一者之步驟。或另者,根據本發明具體實施例,可為基於各裝置的位置, 即如一裝置究係位於一急救室內或一諮詢室內,來完成該等裝置的優權化處理。
該方法可經運用在一醫院環境中。
在一第二特性裡,本發明提供一種為以確保資料從一伺服器至一可攜式成影裝置之傳輸作業的方法,其中該方法包含:-決定該可攜式成影裝置相對於一經授權區域的精確位置,-基於該可攜式成影裝置之既決精確位置,決定該可攜式成影裝置是否經授權以在一預定傳輸頻道上接收特定資料,-若經准允一授權,而該可攜式成影裝置具有一顯示區域,則將所請求之特定資料自該伺服器傳輸至該可攜式成影裝置。
該方法進一步包含,在當該可攜式成影裝置離開該經授權區域時,至少自該顯示區域處至少移除該機密資料的步驟。
根據本發明具體實施例,該方法可進一步經調適以在當該可攜式成影裝置進入該經授權區域時,於該顯示區域上至少顯示至少該機密資料。根據本發明具體實施例,該方法可進一步經調適以在當該可攜式成影裝置離開該經授權區域時,自該可攜式成影裝置內之揮發性及/或非揮發性記憶體元件至少移除該機密資料。
或可,根據本發明具體實施例,該方法可進一步包含在當該可攜式成影裝置離開該經授權區域時將該機密資料予以加密。根據本發明具體實施例,該方法可包含一在當該可攜式成影裝置進入該經授權區域時,將該機密資料予以解密之步驟。根據本發明具體實施例,該方法可進一步包含利用一不同傳輸頻道以傳送所請求資料,該所用傳輸頻道係依該 可攜式成影裝置之所決精確位置而定。根據本發明具體實施例,該可攜式成影裝置可決定應使用哪一傳輸頻道以傳送該所請求資料。或另者,該伺服器可決定應使用哪一傳輸頻道以傳送該所請求資料。
該方法可經運用在一醫院環境中。
在一第三特性裡,本發明提供一種為以減低一客戶端-伺服器電腦系統中之潛時性的方法,該伺服器經調適以至少按照一或更多的參數值來產生資料,該方法包含如下步驟:●預測可能的可獲未來參數值,可能的未來參數值之預測處理是由該客戶端所執行,在此之後將這些經預測參數值發送至該伺服器;●產生對應於該等經預測參數值之資料,並且將此資料發送至該客戶端;以及●該客戶端快取該對應於各參數值之所生資料,俾供以未來使用。
根據本發明具體實施例,當設妥一相對應參數值後,該客戶端即可利用該經快取資料。根據本發明具體實施例,當將一參數值設妥而落在該經快取資料既已為其所產生之參數值附近的預設範圍內時,該客戶端即可利用該經快取資料。
該方法可經運用在一醫院環境中。
在一第四特性裡,本發明提供一種為以在帶寬受限而具變動性可用帶寬之各傳輸頻道上,進行影像及/或視訊,尤以即如高品質影像及/或視訊,傳輸作業的方法。藉「高品質影像及/或視訊」此通常意味著「醫療影像及/或視訊」。可用帶寬或因該內涵性帶寬為變化而為變動,即如在無線傳輸的情況下,或是在出現一固定帶寬的情況下,因可變負載或可變產 通量所致。該方法包含使用一分類演算法以:●將各待予傳輸之影像及/或視訊分解至多個空間區域內,各區域具有一特定影像型態;●偵測該等區域各者的影像型態;●對於該等區域各者,個別地選擇一具一壓縮比例之影像及/或視訊編碼演算法。
根據本發明,該分類演算法經調適以對該等區域各者優權化,而在漸減帶寬的情況下,提高專屬於具較低優先權之空間區域的影像及/或視訊編碼演算法之壓縮比例。
根據本發明具體實施例,該方法可經運用在一醫院環境中。
在一第五特性裡,本發明提供一種為以在一從一伺服器至一客戶端之傳輸頻道上,進行影像及/或視訊,尤以即如高品質影像及/或視訊,傳輸作業的方法。藉「高品質影像及/或視訊」此通常意味著「醫療影像及/或視訊」。該方法包含如下步驟:●將各待予傳輸之影像及/或視訊分解至多個空間區域內,各區域具有一特定影像型態;●偵測該等區域各者的影像型態;●對於該等區域各者,個別地選擇一利用一為將該區域之影像及/或視訊加以編碼的數碼之影像及/或視訊編碼演算法。
根據本發明具體實施例,該客戶端為一可重新組態設定裝置。該方法進一步包含對此可重新組態設定裝置加以重新組態設定,俾對於該等區域之影像及/或視訊進行解碼的步驟。
根據本發明具體實施例,該方法可進一步包含如下步驟:●調適用於編碼處理之編碼演算法,該調適作業係依目前或預測傳輸頻道性質為基礎;●根據經調適之影像及/或視訊編碼演算法,將該可重新組態設定裝置予以重新組態設定,俾解碼該區域之各影像及/或視訊。
根據本發明具體實施例,所有經運用之影像及/或視訊編碼演算法在該可重新組態設定裝置處可為可獲用者。或另者,根據本發明具體實施例,僅部份的影像及/或視訊編碼演算法在該可重新組態設定裝置處為可獲用者,而該方法進一步包含下載在該可重新組態設定裝置處並非可獲用之各影像及/或視訊編碼演算法的步驟。根據本發明具體實施例,可將經下載之各影像及/或視訊編碼演算法儲存於該可重新組態設定裝置處。
根據本發明具體實施例,可在一該伺服器與該可重新組態設定裝置之間的個別連線上,發送待予下載之各影像及/或視訊編碼演算法。
根據本發明具體實施例,該可重新組態設定處理為該可重新組態設定裝置之一部分重新組態設定。可自伺服器處進行該重新組態設定處理。
該方法可經運用在一醫院環境中。
在一第六特性裡,本發明提供一種為以在帶寬受限而具變動性可用帶寬之各傳輸頻道上,進行影像及/或視訊,即如高品質影像及/或視訊,傳輸作業的方法。藉「高品質影像及/或視訊」此通常意味著「醫療影像及/或視訊」。可用帶寬或因該內涵性帶寬為變化而為變動,即如在無線傳輸的情況下,或是在出現一固定帶寬的情況下,因可變負載或可變產通量 所致。該方法包含使用一分類演算法以:●將各待予傳輸之影像及/或視訊分解至多個空間區域內,各區域具有一特定影像型態;●偵測該等區域各者的影像型態;●對於該等區域各者,個別地選擇一具一壓縮比例之影像及/或視訊編碼演算法。
該方法進一步包含如下步驟:●由一影像及/或視訊編碼演算法將該等區域各者加以編碼;●傳送經編碼影像及/或視訊;●由一影像及/或視訊編碼演算法將將該等區域各者加以解碼;其中,在進行編碼之前,會先對該等區域至少一者供置以各填補像素,這些填補像素在解碼過程中會被其他各區域其一者之部分所取代。
根據本發明具體實施例,該等填補像素代表至少有兩個區域相重疊的地帶。
可將該方法運用在一醫院環境中。
101‧‧‧工作列區域
102‧‧‧文字文件
103‧‧‧圖片
104‧‧‧視訊區域
105‧‧‧背景區域
200‧‧‧區域
201‧‧‧長方形視窗
202‧‧‧圖片
203‧‧‧視訊序列
204‧‧‧背景
210‧‧‧分類演算法
231‧‧‧不規則形狀
232‧‧‧長方形
233‧‧‧填補像素
301‧‧‧覆蓋部分
302‧‧‧長方形區域
303‧‧‧長方形區域
圖1略圖顯示一桌面,其中包含在一具變動性可用帶寬之帶寬有限傳輸頻道上進行傳輸的影像及/或視訊。
圖2略圖說明使用一分類演算法,以檢驗在具變動性可用帶寬之帶寬有限傳輸頻道上進行傳輸的影像及/或視訊總體區域。
圖3略圖顯示兩個在具變動性可用帶寬之帶寬有限傳輸頻道上進行傳 輸的影像及/或視訊中相重疊之區域。
圖4略圖顯示一其中定義數個安全層級的醫院環境。
圖5略圖顯示一其中定義數個傳輸地帶的醫院環境。
根據本發明一第一特性,茲揭示一種可在當僅一有限帶寬為可用時,相較於現有方法而供獲較高整體影像品質方法及系統。這是藉由將該待予傳送之影像/視訊分解成多個空間區域,而各者具有一特定影像型態,並偵測該等區域各者的影像型態,且選擇對於該等區域之最佳影像/視訊編解碼所達到。選擇該最佳影像/視訊編解碼意味著將影像品質(PSNR、MSE)最佳化、將壓縮比例最佳化、將編碼/解碼處理之潛時性最佳化、將基於一人類視覺系統之模型的主觀影像品質最佳化...。分解該影像/視訊或可意味著將該影像/視訊串流分割成各長方形區域,而各區域具有一特定影像型態。例如:若需於某他處複製一PC的桌面,則必須在一頻道上傳送該桌面內容,並且在接收端處再次地顯示該桌面。如該頻道為帶寬有限,則通常在該頻道上發送資料之前會需先執行編碼(壓縮)處理,並且在接收端處將該資料解碼(解壓縮)。典型的情況會是該桌面上含有多個區域:例如可有一含一工作列之區域,可有一含有文字文件之區域,可有一含圖片之區域,而又另一區域則為含有一視訊序列,而亦可有某部分的桌面背景屬可見者。目前情況為利用一些特定的壓縮法則將該桌面壓縮如一單元。然而,根據本發明,在該傳送器側可偵測到如圖1所示之桌面100含有數種影像型態,並且對該等區域各者可運用不同的壓縮法則。對於該工作列區域 101,可例如利用一基於JPEG2000的漏失壓縮演算法;對於該文字文件102,可利用簡單運行長度編碼處理,因為這會依照低複雜度以良好地壓縮文字資料;對於該圖片103,可利用一無漏失JPEG-LS法則,因為希望的是正確地顯示該圖片;而對於該視訊區域104,可利用一極為複雜的MPEG-4視訊壓縮編解碼,達到極高壓縮比例然又引入高潛時性。可利用JPEG高度地壓縮該背景區域105,或甚由一尋常背景所替換以節省帶寬。可自動地,或藉助於產生該內容之應用程式,完成各影像區域以及相關型態的偵測作業。在該第一情況下,一分類演算法會檢核該待予傳送之總體區域,並將該區域分解成一或更多個具特定型態的物件。該分類演算法可為例如一神經網路分類器、一樣式辨識演算法、一直方圖分析演算法、一可自該作業系統得到關於各視窗位置及型態之資訊的演算法...。該分類演算法亦可將時間成分納入考量。換言之:若亦比較連續視框而非僅檢核在個別視框內的資料,則會較為簡易地識別出視訊/電影串流。例如,在圖2裡該分類演算法210發現整個區域200實際上含有4個物件。一第一物件為一含有文字並且具有特定位置及形狀的長方形視窗201。在此特定情況下,可按其左上角訂出該位置並且大小可為其高及寬。然而,本發明並不受限於精確的表示方法。該第二物件為一在特定位置x’且具一大小z’的圖片202型態之長方形視窗。該第三物件203含有一視訊序列。該物件具不規則形狀231,然可經表示為一具特定位置及形狀的長方形232。在此情況下,會說明含填補項的各像素233,或藉由列出這些像素233或是藉由將該等像素描述如一具一或更多其他物件之組集(例如含數個具特定位置及大小之長方形與具特定位置及大小之三角形的填補區域)。按相同方式,所偵得之最後物件為具 背景204型態者。該物件亦具不規則形狀,然為便於編碼處理,因此將該者表示成一具特定位置及大小的長方形。再度地,後文將對此填補像素加以說明。該分類演算法可按逐一視框方式運作,或可採多個視框作為單一輸入。將多個視框採如單一輸入可令其例如更簡易地偵測視訊序列。即如作為一僅利用一分類演算法之替代方式,產生該等影像/視訊的應用程式可對該編碼演算法給予一提示(或另者該應用程式的使用者可將此項資訊提供給該分類演算法,或是給該應用程式然後再將此傳送給該分類演算法)。在此情況下,產生例如該文字視窗的應用程式可傳通予該分類演算法該應用程式產生一具影像型態文字之視窗,並且此視窗擁有具一特定位置及大小的長方形形狀。當然,該應用程式可僅傳通部分的該項資訊(例如僅影像型態),或是該者傳通更多資訊(例如所欲壓縮演算法、此應用程式對於潛時性的敏感度、最大可容允潛時性、該資料的機密度層級或所欲加密演算法、優先權層級、所欲傳輸協定、所欲傳輸媒體...)。亦可僅一些應用程式將資訊傳通給該分類演算法,而對於該待予加密之影像/視訊的其他區域,該分類演算法會加以分類而無提示。
各物件區域可為一長方形或可採任意形狀。亦可將所偵得區域簡化成一較不複雜形狀。當例如假定偵得一含有一視訊序列之圓形區域時,若將該圓形區域延伸至一含有該圓形之長方形區域並對該長方形區域加以編碼,則可供較為簡單的壓縮處理(如該壓縮編解碼器僅接受特定的區域形狀)。在該情況下,或有意進行資料填補:可為該編碼處理之目的,將在該長方形區域內而並未在該圓形區域內的像素設定為一常數值或是任何其他的特定樣式。亦可按此方式疊置多個區域,即如圖3所示:假設有兩 個應用程式,各者具有一長方形視窗,各者具有一特定影像型態,然該第一視窗的一部分被該第二視窗的一部分所隱藏,則或希望仍將該視窗A編碼為一單元,但該視窗A中被該視窗B所覆蓋的部分301則由各填補像素所取代。而在解碼側,應將在視窗A內的填補像素再度地替換成該視窗A上之視窗B的像素。這種方式的優點是,由於在替換該視窗B之像素後該視窗A含有一種影像型態,因此按如一單元之視窗A的編碼處理會具有效率,而不需將該視窗A分割為多個長方形地帶。確實,其替代方式即為將該視窗A切分成兩個具相同影像型態之長方形區域302、303,然後亦將該視窗B編碼成一單元。而若是將所偵得區域簡化成一較不複雜的形狀,則應謹慎避免邊界處的仿製壓縮。確實,接著可利用兩種不同的壓縮法則來編碼某一特性型態之物件,這是因為該物件形狀並不符合該經簡化之偵得區域。在該情況下,該邊界/塊分仿製結果即為可見。為避免此一問題,可挑選具相同特徵(品質、壓縮仿製之型態、...)然不會見到該邊界的壓縮演算法。
根據由該分類演算法所偵得的影像型態(又稱為物件型態),且或基於由該等產生各影像/視訊之應用程式所提供的資訊,接著即可依不同的影像/視訊分類演算法對個別物件進行編碼。然後按不同影像/視訊分類演算法對這些經編碼資料串流進行編碼。然後在該頻道上傳送這些經編碼資料串流,並且在接收器側再度地將該等解碼並重新產生各物件。最後,按照個別物件的組成方式,移除掉填補像素的效果(例如若由異於該物件實際原具之其他形狀所表示的經疊覆視窗或物件),藉以重新建構出完整的影像/視訊。應注意到所選定之編碼演算法亦可包含利用特定錯誤偵測或 校正數碼、利用特定加密演算法、利用特定傳輸協定(利用UDP或TCP)、利用特定傳輸頻道(例如於藍芽或Wifi或UWB之間選擇)、...。
應注意到該「影像型態」可為極具特定性。在醫療成影處理的情況下(然非限於此),可於「單色胸部影像」與「乳房X光照片」、「彩色CT影像」、「彩色超音波視訊序列」、「經顯析之3D物件」間加以區別。本發明當然不受限於任何特定影像型態。同時,一影像型態可指稱某特定型態的應用程式(像是在醫療成影處理上的PACS審閱應用程式),或甚指稱某特定販售廠商的任一特定應用程式(或甚應用程式版本)。
當然,可按周期方式(對各個別視框,或是僅為每數個視框一次的方式進行)來完成該待予傳送之影像/視訊串流的分解處理,因此可偵測出在物件型態上的變化並將以納入考量。或另者,若出現一變化,可由該作業系統或各應用程式將一提示提供給該分類演算法。換言之:如該作業系統產生一視窗或改變其狀態(位置、大小、...),則該者知會該分類演算法,因此可開始一新的物件偵通作業。同時,若該應用程式之內容型態改變,則該應用程式本身可知會該分類演算法。
根據本發明另一特性,可按照目前的頻道特徵,將所用之編碼演算法依即時方式加以調適。頻道特徵為例如,但不限於此:目前可用帶寬、可用帶寬上的變異性,或是可用帶寬的統計資料(例如,然不限於此,最小值、最大值、平均值、變異數、分布、時間行為、...)、該頻道的位元錯誤統計資料、該傳輸頻道所引入之潛時性的統計資料、...。這可意味著例如若該頻道的可用帶寬減少,則會將部分(對於特定的物件型態)或所有的影像/視訊壓縮編解碼器予以重新組態設定,藉以具有較高的壓縮比例,或 者是對於部分或所有的物件型態選擇其他的編解碼器。或另者,如該頻道所引入的位元錯誤數目增加,則可對於一或更多的物件型態利用較佳的錯誤偵測數碼或錯誤校正數碼,這會要求較多帶寬,然於接收器側獲致較高品質。可甚至測量(或估計)在該接收器側的位元錯誤率,然後詢請該發送裝置以改變該錯誤校正數碼,故可至少獲得一最低品質水準(例如位元錯誤率)。同時,可利用位元錯誤(突波錯誤、單一位元錯誤)的本質以自動地選擇最適切的錯誤校正或錯誤偵測數碼。或另者,若在該頻道上的潛時性增加,則可選擇對於一或更多物件型態具有較低潛時性的壓縮演算法,藉此具有較低的整體潛時性(編碼/解碼處理之潛時性以及傳輸頻道的潛時性)。或另者,如可用帶寬的變異性相當地高,則可增加對於一或更多物件型態的壓縮比例,藉以避免網路的暫時壅塞。在此情況下,可增加對於被視為具較低優先權之物件型態(像是文字資料),或是對於按「低優先權」所傳通之應用程式,的壓縮比例。亦可對特定裝置指配優先權。例如,若一裝置為一可透過一無線網路接收來自一伺服器之影像的可攜式顯示器,或若有多個裝置,則所欲者為亦對各特定裝置指配優先權。例如,若在一醫院環境裡,有些裝置經運用於緊急室而亦經運用在一般的醫師辦公室內兩者處,則很明顯地若可用網路帶寬為低,則會對用於緊急室內之裝置賦予優先權。在此情況下,對一裝置給予優先權可意味著將較多帶寬指配給具較高優先權的裝置,使得影像品質較高且使用者互動會更流暢,或可意味著降低對於較低優先權裝置的可用帶寬,或甚(暫時地)將具較低優先權的裝置完全斷線,因此具較高優先權的裝置可獲用更多的帶寬。可藉由將優先權指配予實體裝置來決定一裝置究係具有高或低優先權;例如,意欲用於緊 急室之裝置可具有內建的較高優先權水準。或另者,可意味著決根據使用該裝置之位置來決定優先權。(例如相較於經運用在某醫師辦公室內,若是運用於該緊急室內,則相同的裝置會具有較高的優先權)。或另者,可意味著按照使用該裝置之使用者來給予優先權;例如,若一醫師登錄於該裝置(或使用該裝置,這可透過密碼、指紋讀取機、虹膜掃描、語音辨識、照片ID、...方式來進行檢查),則比起若為一護士登錄於此裝置(或使用該裝置),該裝置會具有較高的優先權。決定誰使用該裝置可藉由登錄程序依使用者帳號及密碼進行,或是藉由一指紋讀取機或藉由一安全符號、...。或另者,可按照透過該裝置所接取之應用程式來決定一裝置的優先權。例如,若一裝置僅在一特定時刻被用來讀取郵件,則相較於相同裝置當被用來檢視醫學影像時,該裝置會被指配為具較低優先權。當然,任何一或更多方法之組合以如前述般決定該優先權亦皆為可能。
應注意可藉由實際地測量在該使用者之一動作與對此動作之回應間的時間,以最佳地完成測量該系統的總潛時性。例如,當該使用者執行一動作(例如像是,然不限於此,一滑鼠移動、一鍵盤命令、一滑鼠敲擊、...)時,則可啟動一計時器,並可測量一直到在該客戶端側實際地顯示出該使用者動作之結果的經修改影像為止的時間。可對於多個所支援之編解碼器、對於可用傳輸頻道、對於可用錯誤偵測/校正編解碼器、...,來進行此一潛時性時間的測量處理。按此方式,可獲得關於總系統潛時性的清晰資訊。然後將此項資訊運用在最佳化地組態設定該客戶端-伺服器系統。另一種測量潛時性的方式是可藉由將簽章嵌入至所傳送之影像內進行。在此情況下,該客戶端可將一命令發送至該伺服器以開始該潛時性測 量程序。當該伺服器接收此一命令後,該伺服器即可將一位元樣式(對該使用者或為不可見)嵌入該影像內。然後該客戶端可尋找此位元樣式。從發送該「測量潛時性」命令給該伺服器到發現該位元樣式之刻的時間也是一項該系統潛時性的指示值。然此方法較不精確,因為該伺服器執行一異常操作(嵌入一位元樣式),而這並非必然地為像是移動視窗、...正常操作之潛時性的良好指示值。此外,在該客戶端側,偵測出該位元樣式之刻,並不必然地即為該位元樣式變成對該使用者為可見之時。雖略較不精確,然該第二方法仍可相當良好地將該編解碼器之潛時性模型化,因為實際上是由該所用編解碼器對該位元樣式加以編碼及解碼。需了解可因該壓縮/解壓縮作業之故而替換該位元樣式,因此須注意確定該客戶端甚至能夠偵測出或經替換的位元樣式。
根據本發明之另一特性,茲揭示多項方法以在可攜式裝置情況提高安全性。藉可攜式裝置,通常會是顯示於該等裝置上之資訊僅係為運用在一特定環境內,而非為散佈至該環境以外的情況。在一醫院環境中,例如HIPAA,即藉由聲明除非對於治療處理或是對於該病患之臨床權益確有必要,否則不可散佈或經鏈結於某一特定病患(如因經顯示於該資料內之病患姓名或ID)的醫療資料(包含影像)以規定保護病患的隱私(參見HIPAA規定的進一步細節)。例如:某病患的乳房X光照片(胸部X光)僅可顯示在放射部門內的顯示器上並且不可散佈至該部門以外,除非將所有的病患ID資料自該影像上移除。在過去這可藉由確保僅該放射部門內之工作站可接取到具醫療影像的伺服器以簡單達成。如需將一影像散佈至該放射部門以外(例如待由另一醫院的醫師同仁加以檢視),則在發送該影像之前會先將所 有的病患ID移除。然而,藉可攜式裝置及無線網路,即無法再運用各部門之間的實體屏障來保護病患隱私。因此,在其一具體實施例裡,本發明揭示一種新的解決方式。在各裝置中,納入一方法/系統以決定該裝置的精確位置。這可為例如基於GPS(在外面的開放空間裡),或在一建物內而基於RFID-符號,或者是任何其他像是檢查該裝置使用哪一接取點之方法。又另一獲得位置的方法即為檢查哪些接取點可觸及該裝置。通常,各無線接取點可按一具一特定距離作為直徑之球形方式(粗略地)接取各裝置。藉由檢查哪些接取點可接取到該特定無線裝置,且藉由測量對這些接取點的潛時性,即可簡易地限制該可攜式裝置現處之可能位置。即以一細化項目,可將定義一接取點之範圍的簡易模型替換成真實測量資料,而不是簡單的「球形」模型。用以決定位置之精確方法自不與本發明相關。根據該裝置的精確位置,當經詢請時,該伺服器即可決定該裝置是否經授權以連接至該伺服器及/或以接收該特定資料(例如該出現有病患ID的乳房X光照片)。如經准允授權,則該伺服器透過該(無線)網路,然經加密,將資料傳送至該客戶端,因此僅該特定客戶端能夠將該資料解碼。當然,可增加額外的條件以授權一客戶端能夠觀看特定資料。範例為登錄及密碼、指紋掃描、一特定裝置ID、...。為強化安全性,可僅透過一位於其中可接取該資料之區域內部的無線接取點來傳送機密資訊。按該方式,可能的攻擊者需在具有攻擊該安全系統的能力之前,即先為實體性地極為接近該機密區域。由於該裝置為可攜式裝置,因此會需要避免將該機密資料散佈到所容允區域之外。這可藉由若該裝置離開該授權區域,則自動地從該裝置移除該機密資料而達成。例如,若一具病患ID資料之乳房X光照片經顯示於一可攜式顯示器 上且該放射科專家離開該放射部門,則該裝置應自動地從該顯示器移除該機密資料,並亦清除所有的經快取實例(例如在記憶體內或在該硬碟上,或是其他揮發性及/或非揮發性儲存物上)。移除該機密資料可意味著當離開經授權區域時,完全地清除該顯示畫面(且或可清除經快取之實例,例如在記憶體內或在該硬碟上,或是其他揮發性及/或非揮發性儲存物上)。或另者,移除機密資料可意味著自所顯示影像移除所有的機密部分(且或可清除所有經快取之實例,例如在記憶體內或在該硬碟上,或是其他揮發性及/或非揮發性儲存物上),因此當離開經授權區域時可令遺以顯示僅非機密資訊。在此情況下,這會意味著審閱應用程式在該顯示器仍為可見,然機密影像會被移除,或是由一圖像或任何其他表示不可散佈此項資訊且此刻不可觀看之符號所取代。或另者,移除機密資料可意味著關於HIPAA規定,令所有的醫療影像為匿名,並且移除所有或會將某特定病患鏈結至所顯示之影像的資料(且亦可移除所有經快取之實例,例如在記憶體內或在該硬碟上,或是其他揮發性及/或非揮發性儲存物上)。實作上,這會意味著一在放射部門中所檢視且具有一可見之病患ID的乳房X光照片會在放射部門外仍為可見,然在當離開該部門之後,即自動地移除該病患的ID。或另者,移除機密資料亦可意味著將機密資料加密(且亦可將所有經快取之實例,例如在記憶體內或在該硬碟上,或是其他揮發性及/或非揮發性儲存物上,予以加密),因此無法對其接取或利用另一加密演算法或改變加密演算法強度。根據該HIPAA,例如這可意味著在該放射部門內部,會將影像儲存在一可攜式裝置的硬碟上,並利用一特定加密演算法予以加密。當離開該放射部門時,會利用一更強的加密演算法將此資料重新加密,以符合HIPAA規定。 顯然地機密層級的數目並非本發明之限制。例如,可具有2個以上的安全層級,其中當使用該裝置之位置具有愈來愈低的安全層極時,該裝置即顯示出愈來愈少的機密資料。另一方面,亦可進行相反方式:一在一經授權區域外顯示有限資料之可攜式裝置,在當進入經授權區域時,可自動地經調適以顯示更多資料,即如病患的詳細資料。再度地,這可藉由將該資料按另一加密演算法予以重新加密,或是藉由進行匿名化步驟之相反方式,亦即重新載入該資料以將該影像鏈結於一病患,而獲得。
本發明又另一特性即為符合放射規定。如該客戶端裝置具有多個可用傳輸頻道(例如像是,然不限於此,Wifi、藍芽、紅外線、UWB、...),則在特定情況下或會並不供允或無興趣使用特定的傳輸裝置。例如:在一醫院環境裡,可為在醫院內的公開場所僅允用Wifi,而在該密集看護的部門中則不可使用Wifi(例如因輻射功率之故)。
另一非限制性範例如圖4所示。在一醫院環境裡,分別地定義出六個安全層級,即層級0、層級1、層級2、層級3、層級4與層級5。底下對於這些層級給定安全層級的定義:層級5:此為最高接取層級,即如放射部門:所請求或所傳送至此層級之資料會含有所有的資料。
層級4:即如緊急室:所請求或所傳送至此層級之資料會含有經令為匿名的影像資料。
層級3:即如密集看護室:所請求或所傳送至此層級之資料會含有經令為匿名的影像資料。
層級2:即如病患房:所請求或所傳送至此層級之資料會含有經加密的 病患資料。
層級1:即如院內病房:所請求或所傳送至此層級之資料會僅含有病患資料。
層級0:醫院以外之範圍:自所請求或所傳送至此層級之資料中移除所有資訊,或是所有資訊皆經加密。
根據本發明,該客戶端裝置可按照目前位置及在該位置處所行之規定自發地決定使用哪一傳輸頻道。這可例如意味著若一醫師使用一目前利用Wifi傳輸頻道的可攜式裝置,且若該醫師進入手術室區域內,則該裝置會自動地從Wifi切換到例如紅外線或DECT傳輸模式,藉以符合在手術室區域內所行的放射規定。應注意該客戶端並不需切換至另一傳輸頻道。該客戶端在當有所要求時,亦可例如降低該放射功率。即以GSM標準為例,該客戶端可按多重功率強度發射輻射(按瓦特所測量),因此降低所發射之信號強度亦為本發明之一部分。該客戶端如何決定所身處之處的精確方式,以及如何儲存關於在特定位置處之可接受傳輸方法的資訊之精確方式,並非本發明之限制。
即以一非限制性範例,在此顯示一醫院環境,其中定義出6個院區。
院區1:在此院區內僅GSM網路可用。
院區2:在此院區內,Wifi、DECT及UWB為可用,次於GSM網路。對於使用任何傳輸網路並無限制。
院區3:在此院區內,Wifi及DECT為可用,次於GSM網路。對於GSM網路,僅准允按低功率進行傳送。
院區4:在此院區內,紅外線(IR)傳輸為可用,次於院區3的所有傳輸可能性。僅可准允DECT及IR。
院區5:在此院區內,乙太網路傳輸為可用,次於院區3的所有傳輸可能性。僅可准允IR及乙太網路。
院區6:在此院區內,Wifi、DECT及GSM為可用;對於使用這些傳輸網路並無限制。
各可攜式裝置僅能使用既為在該可攜式裝置所處位置為可用,並且在其中該可攜式裝置所位在的院區內,該可攜式裝置僅獲允使用該者所處之院區內的經准允頻道兩者的各傳輸頻道。或可,若有必要,該可攜式裝置須切換傳輸頻道。
本發明之又另一特性即為將所要求一客戶端之計算功率最小化,而同時仍可支援多個壓縮協定及演算法。由於本發明會對於影像的不同部分使用不同的影像/視訊壓縮演算法,因此會要求該接收器側(客戶端)可解碼所有的這些影像串流。然而,由於是希望選擇對各種影像型態的最佳壓縮編解碼器,因此會預期該伺服器及該客戶端兩者皆須支援大量的壓縮演算法。此外,各所用之編解碼器可按照頻道性質而隨時間改變,造成在該伺服器及該客戶端兩者處皆應支援甚至更多的編解碼器。在該伺服器側這通常並非問題,因為該伺服器(產生影像/視訊者)通常是功能強大的工作站,具有大量的記憶體、硬碟儲存及處理能力。然而客戶端係經設計為輕巧且可攜帶,因此具有即為有限的處理能力。本發明可藉由揭示一種在該接收器側的客戶端來解決這些衝突要求,該者可按多個層級而重新組態設定。一種達此目的之方式即為藉由在該接收客戶端內提供一可重新組態 設定之裝置(像是一處理器、一FPGA、一DSP、一GPU、一CPLD、一ASIC,可經組態設定以執行多項作業)或是任何該等裝置之組合,並且按照目前所要求之壓縮編解碼器以組態設定這些可重新組態設定裝置。換言之,若該伺服器將一JPEG2000串流發送至該接收客戶端,則該客戶端邏輯會經重新組態設定,藉以能夠將此串流解碼。可藉由既已出現在該客戶端裝置內之組態設定碼的方式來進行重新組態設定該客戶端。可例如將對於應予支援之各編解碼器的組態設定位元串流儲存在該客戶端裝置內之快閃記憶體上,且該可重新組態設定裝置(處理器、FPGA、...),然後按照目前所要求之編解碼器,以適當的組態設定位元串流來組態設定該可重新組態設定裝置。按此方式,即無需在該客戶端側隨時可獲用對於所有編解碼器的支援,而這當然會減少在該接收客戶端裝置處所要求的處理能力及/或硬體資源量。這種方式雖在其中運用有限數量之編解碼器的環境下確為有用,然若必須支援大量的編解碼器,則這就很快地變為不切實際,因為必須在該客戶端裝置上可獲用對於所有這些編解碼器的組態設定數碼。另一項限制是,除非將該客戶端更新,否則這種方法無法供以利用在生產該接收客戶端裝置時非可獲用的新編解碼器。因此,一較佳解決方式是能夠完整地,或部分地,自該伺服器將該客戶端予以重新組態設定。這意味著該伺服器會將對於所要求之編解碼器發送至該客戶端,令其能夠使用任何在該伺服器側可獲用的新編解碼器。當然,在該客戶端測必須出現有一些邏輯,令以該客戶端能夠在一新編解碼器經發送至該客戶端之後,對於其本身進行重新組態設定。這可意味著例如該客戶端的初始組態設定可供連接至一伺服器,下載一些編解碼器,重新組態設定該客戶端功能性,然後利用此編 解碼器連接至此或另一伺服器。另一替代方式為該客戶端具有一些(有限數量)編解碼器,因此該客戶端立即地能夠解碼該伺服器串流(或具非最佳的品質)。這當然意味著在開始時該伺服器即應按此一該客戶端可藉該客戶端最初可獲用之各編解碼器來解碼該資料的格式,將資料發送至該客戶端。然後,該客戶端開始下載為最佳效能所需之新編解碼器,而同時該客戶端即已為運作中。一旦下載所需之編解碼器後,即可將該客戶端重新組態設定,並且該伺服器可使用新的編解碼器。傳送編解碼器組態設定資料的精確方法對於本發明並不重要。一種可能性是透過一於該客戶端與該伺服器之間的個別連線來發送該編解碼器。或另者,可將新的編解碼器程式碼嵌入一現有頻道的位元串流內。這可意味著例如將該編解碼器程式碼嵌入到一經壓縮視訊/影像串流的閑置位元內。
為避免一次又一次地發送相同的編解碼器程式碼至客戶端,該客戶端裝置可在本地儲存一份所有或部分編解碼器程式碼的拷貝。按此方式,該客戶端可傳通該伺服器該者既已擁有一些可用的編解碼器,不需要再次地發送該編解碼器。這也表示在會期開始處該客戶端可將一份可用的編解碼器列表傳通給該伺服器。然後,該伺服器藉利用此列表中的一或更多編解碼器以開始將資料串流傳送至該客戶端,並且亦可(如該客戶端需要且獲支援)將新的編解碼器發送至該客戶端,俾進一步改善傳輸效率或品質。此外,該客戶端亦可對於該客戶端所支援的各編解碼器,發送在該客戶端側處的品質水準或效能水準。然後當該伺服器決定使用哪些編解碼器進行傳輸作業時,即可將此項資訊納入考量。例如:一客戶端可對該伺服器傳通說明該客戶端初始地具有一可用JPEG-LS編解碼器、一可用原 始資料傳輸編解碼器以及一可用RLE編解碼器。該者另對該伺服器傳通說明該客戶端所能處理者,為按解析度1024x768對於JPEG-LS編解碼器達每秒10個視框、按解析度1280x1024對於JPEG-LS編解碼器達每秒8個視框、按最高解析度1600x1200對於原始資料編解碼器低於每秒4個視框,以及按最高解析度1600x1200對於RLE解碼器低於每秒6個視框。此外該客戶端傳知說明可自該伺服器接受JPEG2000(按相容於該客戶端平台之特定版本)編解碼器,並可達到每秒2個視框之最大視框速率與最大解析度1280x1024。然後所有這些資訊可由該伺服器用以決定哪些為用以與此客戶端進行通信的最佳編解碼器。當然,該客戶端亦可發送其他額外資訊,像是,然不限於此:該客戶端所支援的解析度(例如1280x1024)、所支援的彩色模式(例如16位元灰階,或3x8位元彩色或256彩色調色盤模式、...)、該客戶端對於不同解析度及彩色模式所支援的視框速率、該客戶端之網路連線型態、該客戶端的電池水準(因此該伺服器可決定切換至一在該客戶端側為較低耗電的編解碼器)、該客戶端所偏好之編解碼器的列表(可在該客戶端側獲致高效能及品質的各編解碼器)、該客戶端側可用的硬體型態,以及應與該客戶端硬體相容的各項編解碼器要求、...。該伺服器可利用所有的這些額外資訊,以決定哪些組的編解碼器可對於所傳串流提供最佳效能。即以作為一對於交換有關所預測編解碼器效能之資訊的替代方式,亦可僅測試所有或數項編解碼器,並測量實際效能。在此情況下,該此可將所有或部分編解碼器發送至該客戶端。該客戶端會嘗試著藉該編解碼器以組態設定該客戶端裝置,且若成功則該伺服器會利用這個經測試之特定編解碼器,將單一或一系列的測試影像或視訊資料發送至該客戶端。然後該客戶 端測試該編解碼器是否具有足夠效能(這可為依照影像品質、速度、視框速率、潛時性、...),並將結果送返至該伺服器。然後可為利用此項資訊,而非進行估計或預測。
亦可僅重新組態設定該客戶端之一有限部分。例如,若該客戶端含有一FPGA,則可組態設定一部分的FPGA,以支援一些標準編解碼器,並亦保留某些部分的FPGA以實作一些自訂編解碼器,若確有需要。按相同方式,可將這些自訂編解碼器儲存在該客戶端裝置(非揮發性)記憶體內,或是當需要時自一伺服器所擷取。例如,可按內定將一JPEG-LS編解碼器實作於該FPGA內,而將一JPEG2000編解碼器及一MPEG2編解碼器暫時地實作在該裝置內,因為需要該等以進行解碼目前的資料串流。同時,這可供依平行方式對關聯於前述不同物件/影像型態之串流進行解碼。或另者,如該客戶端裝置含有一FPGA及一處理器,則該客戶端裝置可決定(部分地)組態設定該FPGA,藉以加快部分(或所有)在該處理器上執行會耗時過多或是在該處理器上獲致過低品質之各編解碼器的速度。例如:實作一具很多像點之過濾器將會耗費極多時間以在該處理器上執行,而可極有效率地在一FPGA、一DSP或一GPU上執行。相同的原理適用於其他型態的裝置,而這意味著若一客戶端具有多個裝置,則該客戶端可按照效能或品質結果/統計資料或是測量值,決定在各特定裝置上執行部份的或整個編解碼器演算法。
根據本發明之另一特性,可減輕典型的潛時性問題並令隱匿而讓使用者無覺。當於客戶端與伺服器間進行一互動時,潛時性經常會是一主要問題。例如:一應用程式執行於一伺服器上,利用一無線網路傳送 該伺服器的桌面,且將其重製於一經連接至該伺服器之客戶端裝置處。如該於客戶端與伺服器之間的總潛時性(這意味著編碼潛時、傳輸潛時、解碼潛時、在該伺服器側的應用程式潛時,以及自該客戶端至該伺服器的回饋潛時)會為極高,並因此這會造成一讓使用者感知該系統為緩慢且無回應。例如:若在該客戶端側的使用者敲擊一按鍵,則這會耗用20毫秒以將該按鍵訊息發送至該伺服器。該伺服器或需10毫秒以對該按鍵敲擊進行反應,一經修改影像的編碼處理或將耗用20毫秒,經編碼影像的傳輸作業可佔用10毫秒,經編碼影像的解碼處理或需時30毫秒,而在該客戶端側顯示該經修改影像會用去15毫秒。在該情況下,總潛時性會為105毫秒,這意味著只有在105毫秒後該使用者才會看到敲擊該按鍵後的結果。顯然地大量潛時會導致緩慢且無回應的系統。本發明可藉由降低潛時性,並藉由對該裝置之使用者隱藏該潛時性,來解決此項問題。可藉由將待傳資料分割成潛時關鍵性及非潛時關鍵性資料,來降低系統內的潛時性。如該待傳資料為一典型的視窗OS桌面具一試算表、一視訊視窗、一工作列及一背景,則並非所有的這些元件皆被視為對於潛時具有關鍵性。例如在一試算表內工作要求低潛時性,這是因為使用者頻繁地與資料進行互動,並預期快速回應。一其中顯示例如一電影的視訊視窗對於潛時性完全不敏感。如該電影實際地延遲2秒,則該使用者甚至不會注意到。只有在視訊開始處潛時性才會為可見,因為視訊串流只會在2秒鐘之後才開始,但是一般不會將此視為問題。同時該桌面背景可容忍大量潛時。改變桌面背景通常是被視為具極為低度的優先權,且幾乎無人會在意是否耗費5秒鐘才看到變化的效果。在一帶寬有限的頻道裡,通常會出現因該頻道正按(幾乎)最大帶寬運作而各 封包經排佇以待傳送。在此一情況下,可對一要求低潛時性之串流的一部分的各封包給予優先權。同時,對於要求低潛時性之物件型態(參見如上),可選擇一具低潛時性壓縮及解壓縮作業的編解碼器。為知悉一物件是否對潛時性敏感,可利用前文所述之分類演算法,或可接收來自該應用程式(或一來自該應用程式之視窗/部分)的提示,以偵測出該物件型態。同時,若可獲用多個傳輸頻道(例如,但不限於此,Wifi、藍芽、紅外線連線、...),則可對要求低度潛時性之串流選擇具低度潛時性的頻道。
即以一為以改善潛時性問題之替代性方法,本發明揭示對該系統之使用者隱藏潛時性的方法。可藉由在客戶端上按本地方式執行各項具潛時關鍵性之操作以達此目的。其一範例為本地方式產生滑鼠指標。滑鼠指標係一極具潛時關鍵性的物件,因為若該指標緩延於滑鼠移動之後,則此者會極為可見。為解決該項問題,可在該客戶端上,而非在伺服器上,按本方式產生滑鼠指標。這表示如該使用者移動滑鼠,則會由該客戶端捕捉到此一訊息(「移動滑鼠至座標[x,y]」),且會由該客戶端以本地方式在新的位置處顯析出該滑鼠。當然,也會將該位置變化轉傳給該伺服器,因為可能會在該伺服器處發生超出的副作用(像是滑鼠指標形狀的變化,或在該指標下方的文字強調,或是任何其他來自於在該伺服器處執行之應用程式因所移動滑鼠指標而致生的反應)。當然,接著會將這些副作用從該伺服器傳送到該客戶端,並顯示在該客戶端側。按本地方式所顯析的鍵盤亦為所欲項目之一,這是因為若所鍵入之符號後緩於按鍵敲擊將會非常惱人。按本地方式顯析鍵盤可意味著例如在一文字文件中,在該客戶端處直接地顯析並顯示各符號,並再度地也會轉傳給該伺服器。除鍵盤與滑鼠外,亦可 按本地方式執行其他操作。其一範例為利用本地查核表。在例如醫療成影處理中,經常使用查核表以執行視窗/水準操作。視窗/水準是一種藉由將一查核表施用於一現有影像而獲的對比強化結果。通常是利用一滑鼠以控制該影像的亮度及對比,並因此改變該查核表的內容。每次在當視窗/水準改變時將一新影像從伺服器發送至客戶端不僅耗佔許多帶寬,同時該視窗/水準操作也會因將影像從伺服器傳送到客戶端所引入的潛時性之故而為緩慢。從而,一種良好的解決方式即為在該客戶端側按本地方式施用該查核表。接著仍有兩種替代方式。其一是將滑鼠命令發送至伺服器,然後該者產生一新查核表。再將此表發送至該客戶端,然後該客戶端按本地方式將該查核表施用於既已出現在該客戶端處的影像。第二種替代方式是該客戶端亦按本地方式處理該滑鼠命令,並按本地方式產生新的查核表內容。然後依照此一新近產生查核表,在該客戶端側調適該影像。當然,也會將該滑鼠命令發送至該伺服器,並且該伺服器將回應以正確的查核表。然後該客戶端檢查本地產生之查核表是否正確,且若有必要則將其查核表替換成經接收自該伺服器處的新者,並再度地按本地方式處理該影像。應注意本發明並不限於僅單一查核表。可對於不同的桌面部分具有多個查核表,或甚對於不同視窗或應用程式具有不同的桌面查核表。亦可按平行方式或按瀑序(序列)方式具有查核表。
一種對於本地查核表之方式的延伸(廣義化)項目即為使用本地過濾器。在此情況下,如可自該伺服器側清楚地定義這些可在該客戶端側有效率方式處置的作業,則該客戶端會以本地方式執行該等作業。換言之,若該客戶端能夠按本地方式有效率地處置一特定作業,且若可由該 伺服器對該客戶端清晰地描述該作業,則因潛時性理由按本地方式處置該等作業確實會為有利。其一範例可為按本地方式執行特定的影像處理過濾器。假設將相同的影像按彩色(將此定義為影像A)及按灰階(將此定義為影像B)方式而顯示於該桌面上。然後,對於該伺服器所欲者即為將該影像A轉換成該影像B的轉換定義發送至該客戶端。這可為如下範例:B(x,y)=R[A(x,y)]*0.30+G[x,y]*0.59+B[A(x,y)]*0.11。或者,換句話說:此公式解釋可如何地藉由逐一像素地計算出各像素之紅、綠及藍子成分的加權總和,而自該影像A產生出該影像B。這種方式會減少在該客戶端與該伺服器之間的所要求帶寬,並且亦可降低潛時性,這是因為可按本地方式處置部分的作業。另一範例則是對一影像的某部分施用一過濾器,而在此該部分之影像是由滑鼠所選定。假設一醫療影像經顯示於該桌面上,並且該使用者可藉由該滑鼠來移動一該影像上的正方形。在該正方形裡,該影像係經過濾。在此情況下,該伺服器可將該過濾器的說明發送至該客戶端,且接著該客戶端可按本地方式將該過濾器施用於該影像。這可大幅地降低所要求的帶寬,並可顯著地減少所感知的潛時性,因為是在該客戶端處以本地方式施用該過濾器。應注意可絕佳地運用該客戶端之(部分的)可重新組態設定邏輯以執行此等作業。
又另一為以對該顯示器之使用者隱藏該潛時性的技術即為預測各項參數、將所預測之參數發送至該伺服器,並且在該客戶端處按本地方式向該伺服器快接各結果,從而當各項參數為實際有效時,隨即可獲用該等結果。這些參數可包含,但不限於此,滑鼠命令(位置、按鍵操作、...)、鍵盤命令、一些環境變數或程式變數值,或是該等特性之任何組合、...。 預設這些參數的精確方法與本發明無關。一些可能方式為利用滑鼠軌線內插(藉由嘗試將過去的滑鼠軌線擬合於一曲線,然後藉由經擬合之曲線以預測新的滑鼠位置,來預測該滑鼠的次一位置)、僅嘗試在目前數值附近之所有或部分的參數值、嘗試在目前參數值附近內有限數量的隨機變數、...。為預測各參數值,可利用來自於電腦架構的技術。這些技術既經開發(「數值預測」)以預測暫存器的內容。茲提供一範例作為說明:如該使用者以滑鼠進行一緩慢的連續性移動,則很可能以具高度信賴度方式預測出該滑鼠的未來位置。在此情況下,所欲者係為將所預測之滑鼠位置發送至該伺服器。然後該伺服器回應以一按照所預測之滑鼠位置而經修改的滑鼠位置。該客戶端接著應快取此影像,且連同於一對應至該影像的滑鼠預測位置,此時並不顯示出該影像本身。若所預測滑鼠位置(或部分的所預測滑鼠位置)為正確(換言之,如該使用者實際地將該滑鼠移動至一或更多的所預測位置),則該客戶端可隨即顯示出對應於正確預測滑鼠位置的經快取影像,而無須等待該伺服器的回應。若所預測滑鼠位置並不正確,則該客戶端可做兩件事情。第一個可能是將該真實滑鼠位置發送給該伺服器,並等待對應於此一真實滑鼠位置的影像。然後將所收影像,並連同此正確滑鼠位置,顯示在該客戶端上。這種方式會造成較高潛時性及較緩慢的回應,不過所顯示的影像會是完全地正確。第二種可能是在該客戶端上的正確位置處顯示出該滑鼠指標,不過是在該客戶端上顯示一對應於一可能會非常類似於真實滑鼠指標位置之滑鼠指標位置的經快取影像。換言之,假設該滑鼠指標實際上是在位置(10,10)處,然對於該滑鼠指標位置(10,10)並無可用的快取影像。然後可決定使用對應於滑鼠指標位置(11,11)的經快取影像,因為 可相信此影像與對應於滑鼠指標位置(10,10)之影像相差並不多。該滑鼠指標本身當然在該客戶端應經顯示於該位置(10,10)處,這是因為否則會在滑鼠指標移動上出現不連續性。使用方式1(僅使用正確影像)或方式2(仍使用經快取影像,若參數並不完全相符)的決定可為依照經執行於該伺服器上之特定應用程式、所顯示之物件型態、經登錄之使用者、該頻道的可用帶寬、該使用者之偏好或是依照任何其他的條件而定。所採用的精確方法並非本發明之限制。
可將相同的參數預測原理運用於其他項目上,像是,但不限於此,滑棒、選擇按鍵、下拉式方盒、...。同時,相同的參數預測方式對於更高維度之參數向量亦為有效。換言之:由該伺服器所顯析之影像可為一多個參數或是部分的各參數之組合。例如:所顯析的影像可根據該滑鼠指標的縱行位置以及一選擇按鍵之狀態而定。這甚至可能為利用統計方法以實際地尋找在參數或參數向量與所顯析影像之間的相關性。此一分析結果可例如清楚說明所顯析影像僅為依該滑鼠之縱行位置與一參數欄位之數值間的比例而定。在此情況下,被發送至該伺服器的所預測數值是為以使得只會將該等顯析出不同影像之各參數的組合發送至該伺服器,並且若是該滑鼠之所預測縱行位置與一參數欄位之所預測數值的比例值確和該滑鼠之目前縱行位置與一參數欄位之目前數值間的比例值相同,則可在該客戶端上使用該等經快取影像。
當然,若在該客戶端上使用一對應於一稍早預測之參數的經快取影像,則仍會將目前參數發送給該伺服器。這意味著之後該伺服器會藉由發送對應於此新參數情況的新顯析影像以進行回應。為進一步降低所 須帶寬,該伺服器亦可在該伺服器側上快取(部分的)該組合(參數、經顯析影像)。如該伺服器接著偵測到該經顯析影像與稍早對於相同參數值所發送者相同,則該伺服器可僅發送一訊息說明此為相同影像,而不是發送該影像本身。這可降低所需帶寬。或另者,若該伺服器並不快取該所顯析影像,則該伺服器仍可發送該影像的檢查總和(CRC)而非該影像本身。確實,假設該客戶端發送一所預測參數值且該伺服器回應以一經顯析影像。在稍後某時刻該客戶端實際地需要對於此參數值的影像。該客戶端利用經快取影像,然仍將該參數值發送至該伺服器。由於該伺服器並未快取該影像,因此該伺服器並不知道該影像是與稍早被送至該客戶端處的影像相同(不過,該伺服器確保留有先前的參數值,因此該伺服器瞭解先前曾將一對於此參數值之影像發送給該客戶端),該伺服器將該影像之一CRC發送至該客戶端。此CRC僅為一要求極低帶寬之簡短訊息。該客戶端現可計算對於此參數值之經快取影像的CRC,而與該伺服器發送至該客戶端的CRC相比較。如該等相符,則確有一該經快取影像與由該伺服器所顯析出之新影像相同的極佳機率。而在另一情況下,該客戶端無論如何皆會詢請該客戶端(?)發送出對於此參數值之經顯析影像,因此該等影像互異。
應注意所述之方法亦可被運用在待自伺服器傳送至客戶端之資料的任何部分。換言之:這可為一參數值僅對該顯示器上的某一特定區域具有影響力,而該顯示器的其餘區域則為不相關,或是相關於其他的參數值。這意味著可按多個區域平行之方式,完成將所預測參數值發送至該伺服器的方法。在此情況下,一明顯的最佳化即為亦將所欲區域發送至該伺服器。的確,若一特定參數值僅對該總影像之一特定區域具有影響力, 則該伺服器每次都發送完整的影像,然僅一部分與該參數值相關,其實並無用處。僅發送該客戶端所欲之各部分可進一步減少所需帶寬。
當然,發送所預測參數然後利用經快取影像的方法只有在若確可找出該參數值與各影像之間清楚的相關性時才會有作用。若例如播放一電影而滑鼠移動對於該電影沒有效果,則快取各影像,並連帶各滑鼠位置,實亦並無用處。有數種方法來測試對於某一特定情況,預測參數並使用經快取影像的方式是否合乎常理。第一種方法是事先嘗試該參數值是否與該影像相關聯。這可藉由將多個參數值發送至該伺服器,然後檢查所獲影像,並且辨識若是第二次再將相同的參數值發送至該伺服器,是否能夠重新產生出完全相同的影像(或是足夠類似的影像)而達成。若有必要,則可重複這種方式,以即時地辨識出各參數值與各影像之間的相關性是否確仍足夠。第二種方式是即以開始利用該經預測參數值及經快取影像的系統,並檢查當對影像加以辨識時該系統是否真為有用。的確:首先將預測參數值發送至該伺服器,而在客戶端側快取所產生影像。如稍後各參數值等於先前的各預測值,則可將各經快取影像(或是該等影像的檢查總和)與由該伺服器所產生而對應於相同參數值的新影像相比較。而根據其類似程度,可繼續或停止此一利用預測及經快取影像的方式。是否使用該預測方法的決策亦可為基於任何其他的條件,像是使用者偏好、經執行於該伺服器上之應用程式的型態、影像物件之型態等等...。而其精確的決定方法並不對本發明造成限制。如該客戶端獲得結論決定於發送至該伺服器之各參數與該伺服器所產生的影像之間並沒有或無足夠相關性,則最好是停止利用該預測法則以避免該伺服器側錯誤狀態的風險。確實,若即以對於一預測參數 的反應,該伺服器進入另一所不欲之狀態下,則此非如所希望方式進行,且亦非該使用者所願者。這會對使用者造成混淆,因為必須在客戶端側顯示新的伺服器狀態,藉以提供該使用者回到原始伺服器狀態的可能性。例如,若該客戶端會將「按住滑鼠左鍵」及「新滑鼠位置(x,y)」之組合發送至該伺服器作為預測值,並且基於此動作之結果該伺服器啟動另一視窗,則必須將此狀態顯示在客戶端上,因為否則該伺服器的狀態及經顯示在該客戶端上的狀態會不一致。藉由在該客戶端上顯示此實際狀態,該使用者可藉由執行必要的動作以令該伺服器回到正確狀態來校正問題。
在多數個情況下,將在伺服器上新影像的產生作業鏈結至一由該客戶端所發送之參數值相當地容易。在許多情況下,該伺服器所產生的影像會為靜態(或至少部分的影像為靜態),且在該客戶端將一參數值發送給該伺服器之後會隨即改變。然後該客戶端可假定該影像變化是因經發送至該伺服器之參數值所造成。一更為可靠的系統為該伺服器將一訊息增加至所產生的影像,這可將該新影像鏈結於該客戶端之一特定動作。例如,該伺服器可按如超資料方式,對該影像增入該影像為將該參數值X從該客戶端發送至該伺服器之結果。一額外細化處理可為該伺服器延後發送一新近顯析之影像至該客戶端,一直到該伺服器之影像內容再度地觸抵一穩定狀態(在將一參數值從該客戶端發送至該伺服器之後),或是一直到既已逾越一最大時間為止。例如,若該客戶端將一滑鼠更新發送至該伺服器,且此滑鼠位置更新在該伺服器側獲致一微小動畫,然後產生一新的穩定條件,則該伺服器可等待該穩定條件以將一影像更新發送至該客戶端。優點是於參數值與影像內容之間的相關性會更加地近似,並且可進一步減少所要求 的帶寬。此外,或為可能確實該動畫確為一使用者並無或低度意欲之移位情況,因此未將這些資訊/影像發送至該客戶端並不會造成重大問題。缺點是該動畫確實是該客戶端之使用者無法可見。該伺服器會另外對被發送至該客戶端之影像籤註以在處理過從客戶端傳至伺服器的參數值之後,為獲致該穩定狀態的所需時間。同時,若未獲得穩定情況,則該伺服器可將此超資料發送至該客戶端,該客戶端接著可例如藉由獲得此參數或此組參數或與先前經檢驗之影像內容無關的結論,來利用此項資訊。同時,該客戶端可通知該伺服器經發送至該伺服器之參數值究係為一預測值或一真實值。如該者為一預測值,則該伺服器確可等待一穩定情況,而若是一真實值,則該者或會較有意願立即地處理該參數更新。並且,如該伺服器知曉經送至該伺服器之參數為一預測值,則該伺服器可儲存其本地狀態。的確:若該參數值為一預測結果,則有可能如該預測結果經證實為錯誤,則該伺服器會因為利用該預測參數值而獲一錯誤狀態。如該伺服器在利用該預測參數值之前先快取其狀態,而若該預測結果經證實為錯誤,則這總是可回到正確狀態,或是甚至按內定方式回返到在使用該預測結果之前的狀態。該伺服器的狀態包含所有撤銷掉利用一經預測數值之效果所需要的資訊。例如,該客戶端通知該伺服器需要處理一滑鼠位置預測結果。該伺服器首先儲存其狀態(這可包含,但不限於此:像是前景/背景、最小化、最大化、大小、位置、重要程式變數值、...的視窗屬性),然後按本地方式執行該「改變滑鼠位置」命令。接著,該滑鼠將該結果(經顯析影像)送返至該客戶端。然後,該伺服器將其狀態復原,因此若是稍後該經預測滑鼠位置經證實為錯誤,則該伺服器仍可維持在正確狀態下。此一按內定復原該狀態在理論 上並非總是必要者。若利用該經預測參數值並未改變該狀態,則當然復原該狀態並無用處。不過,假設因為使用該經預測參數值而啟動另一視窗,則在處理任何其他來自於該客戶端的經預測參數值之前,是絕對有必要將該正確狀態加以復原。確實,由於使用一經預測參數值或會造成另一伺服器狀態,因此也有可能因此之故該伺服器對於一由該伺服器所發送的新經預測參數值之反應,相較於其中該伺服器並未執行該第一經預測參數值的情況,會有所不同。
應注意在多數的情況下,若在經預測參數值上有微小錯誤並不會是問題。換言之:在多數情況,使用一並不相同而卻是接近於一可用經預測參數值的經預測參數值並不會是問題。這當然是依逐一應用程式而定。是否可使用這些不正確經預測參數值是取決於應用程式型態,或可甚至是根據一個別應用程式之列表所決定。當然,該應用程式亦可對該編碼演算法傳送說明是否可接受使用錯誤的經預測參數值。或另者,該使用者可選擇此項並,或為透過該應用程式,將該項資訊提供給該編碼演算法。
根據本發明之另一特性,將一系列的經快取影像儲存在該客戶端側,並亦選擇性地在該伺服器側。當該伺服器將一影像發送至該客戶端後,該客戶端可決定按本地方式快取該影像,若該客戶端相信在未來將會再度地需要傳送該影像。在該伺服器側,該伺服器亦可快取該影像,或是快取一關於此影像的檢查總和(例如CRC或雜湊)。若該伺服器接著在未來發現需要將一影像發送至該客戶端,並且之前即曾將此影像發送至該客戶端,則該伺服器可首先發送該影像的CRC或雜湊值。然後,該客戶端可檢查此影像在該客戶端側是否為可獲用。這可藉由辨識由該伺服器所發送 至該客戶端之CRC或雜湊值來完成。如果該影像在該客戶端側確經快取,則該客戶端可立即地使用此經快取影像,因此不再需要在該傳輸頻道上發送整個影像,而這當然可減少所需帶寬且縮短潛時性。如發送至該客戶端的CRC並不等於在該客戶端快取中可用之影像的任何CRC,則該客戶端必須對該伺服器發送一請求,藉以令該伺服器無論如何傳送該影像。在伺服器側,該伺服器可決定將整個影像儲存於快取內,或僅將此影像的雜湊或CRC儲存在快取內。確實,為辨識是否已曾傳送該目前影像,該伺服器可完全地比較該目前影像與該伺服器之快取內的各影像,或是另者該伺服器可計算該目前影像的雜湊或CRC,並比較此雜湊或CRC與在該伺服器之快取內可獲用的雜湊或CRC。如該待傳之目前影像的雜湊或CRC值符合(等於)一先前已傳影像之雜湊或CRC值,則該等影像本身亦相符的機率非常地高。僅儲存雜湊或CRC值可進一步減少在伺服器側的計算電力,因為不以比較在該伺服器之快取內的所有影像與該目前影像,而僅需比較各影像的較短雜湊或CRC值。當然,亦可減少所要求的快取記憶體/儲存。為減少在客戶端處的所要求計算電力,該伺服器可按內定方式亦將所傳影像之經計算雜湊/CRC值,連同於該影像,一起發送至該客戶端。這可消除掉客戶端需以計算此雜湊/CRC值的需要。然後該客戶端可立即地將該影像,連同於經該伺服器所計算之雜湊/CRC值,儲存在該快取內。
當然,並不需要將所有既經發送至該客戶端之影像儲存在快取內。該客戶端可決定僅將部分的影像,連同於相應之雜湊/CRC值,儲存在該快取內。或另者,該伺服器可決定應快取哪些影像。可例如藉由僅發送一雜湊/CRC值,連同在該客戶端側應快取之影像,將此傳知給該客戶 端。該伺服器亦可顯明地發送一命令給該客戶端,以快取一特定影像。可例如藉僅察看一特定影像在過去出現多少次,來決定需要快取哪些影像。若此數目超過一特定門檻值,則該伺服器/客戶端即可決定快取此影像以供未來使用。或另者,該應用程式可將有關於關鍵影像之提示提供給該伺服器/編碼演算法。然後快取這些關鍵影像。當然前述各項為以決定應快取哪些影像之策略的任何組合亦為可能。
不以利用CRC/雜湊值來識別特定影像,該伺服器亦可僅對該等影像提供一唯一識別碼。其一範例為一簡單的編號法則。該伺服器可例如將該應由該客戶端快取之第一影像籤註為編號1,應予快取之第二影像為編號2等等。如一之前即已傳送且經快取的影像再度地出現,則該伺服器可僅將此唯一識別碼發送至該客戶端。當然,該唯一地籤註該影像之精確方法並不會限制本發明。
該伺服器亦有機會能夠清除掉該客戶端/伺服器快取內的一或更多項目。例如,若在該客戶端/伺服器處之快取的大小僅為256張影像,則一旦該快取被佔滿而又需要快取新的影像時,該伺服器可將一清除快取命令發送至該客戶端。此命令可令以清除在該客戶端及該伺服器兩側的快取,因此在未來可快取新的影像。或另者,可按一依序環繞(Round-Robin)法則來進行該快取清除處理。換言之,若在256個項目裡已佔用256個項目,則如需快取一新影像,將會覆寫該第一項目(編號1)。如需快取另一新影像,則會覆寫該次一項目(編號2)。或另者,可由該伺服器/客戶端決定應移除哪些影像。例如,若該伺服器具有一256張影像的影像快取,然客戶端僅具有一16張影像的影像快取,則若是應快取一新影像,該客戶端可根 據一頻繁使用性的統計資料,來選擇應予移除之經快取影像。換句話說:該客戶端會按照在過去究竟是多經常地使用這些影像,而自其影像快取中移除影像。如該快取既經填滿,則該客戶端會首先移除在過往從未/不常被使用的影像。在一256個影像之伺服器快取及一16個影像之客戶端快取的情況下,這可意味著該客戶端側的組對(影像,CRC)延伸出一稱為「使用度」,而表示至目前此經快取影像被使用過多少次數的第三數值。若因該快取已為填滿且必須快取一新影像而必須要刪除某一項目,則該客戶端會首先移除掉具有最低「使用度」數值的快取項目。或另者,為減低在該客戶端側的計算電力,該伺服器可完全地或部分地管理在該客戶端側的快取。例如,該客戶端可保留使用度統計資料或可保持追蹤該客戶端側的快取狀態,並按照此項資訊來決定對於該客戶端快取的最佳策略為何。該伺服器在此情況下會控制該客戶端快取或會對該客戶端快取提供提示。一項非常有用的應用即為醫療成影處理。在CT重新建構名錄裡,使用者通常會瀏覽經大量的切片。這可藉由以滑鼠拉動滑棒而達成。放射專家通常是會頻繁地往返瀏覽經大量的切片。在此情況下,很可能所顯示影像在未來會再次地被顯示。的確,假設放射專家觀看影像1、2、3、4、5、6然後再退回到5、4、3、2。那麼可自該快取重用這些影像。實作此一項目的最簡單方式即為該伺服器僅對各影像編號,並將該等影像,連同於編號,一起發送至該客戶端。如必須顯示一之前已曾發送的影像,則該伺服器可發送該唯一ID(編號),而非該影像。若該應用程式本身即可將有關於應如何地對各影像進行編號之提示提供給該編碼演算法,則這可甚為更佳。的確,產生該等影像(來自該名錄之切片)之應用程式本身擁有關於觀看過哪些切片以及 在未來最可能觀看哪些切片的最多知識。另一種觀看這種型態之資料(瀏覽經重新建構CT名錄之切片)的方式即為藉由迴圈旅經各切片。這意味著該使用者敲擊一種播放按鍵,然後依序地顯示各切片,因此切片1、切片2、...、最一張切片,然後自動地再度開始瀏覽切片1、切片2、...等等。在此情況下,該應用程式最佳地知悉在未來會需要哪些影像。因此,該應用程式本身亦可預測一參數(在此情況下為該切片編號),該伺服器可產生對於該經預測參數(切片編號)的影像,並可既已按如一組合(經預測參數,影像)發送至該客戶端。或另者,亦可將對應於或在未來加以顯示之影像的影像發送至該客戶端,作為應予儲存於該快取內之影像,然這只有在若該客戶端並非立即地顯示/呈現這些影像,而是僅將該等放置在快取內以供可能的未來使用方如此進行。這會意味著,在行經一系列切片的情況下,該伺服器會立即地顯析各影像(切片1、切片2、切片3、切片4),並將這些影像發送至該客戶端,以作為對應於經預測參數之影像或是作為待予快取之影像。然後,在需要顯示該等影像於該客戶端側之刻,即可在該客戶端側獲用這些影像。更詳細地說:假設該放射專家按一2張影像/秒的速率依序地(影像1、影像2、影像3、...)觀看各切片(影像)。則該伺服器可即已發送盡可能多的影像給該客戶端(例如4張影像/秒,即影像1、影像2、影像3、影像4、...),因此在該客戶端需要顯示這些影像時,於該客戶端側即可獲用這些影像。這可獲致極低的潛時性(這些影像為即時可用),且提高客戶端-伺服器架構的感知反應速度。當然,若該放射專家本身瀏覽各切片,並且或可往返於各影像(例如藉拉下該滑棒),則此系統亦可運作。若該伺服器事先產生各影像(或為基於該應用程式的提示),並且將該等發送至該客戶端以供快取,則 可即時地獲用各影像,即使是該影像觀看序列並非全然地具有規則性亦同。
本發明之一目的在於藉由從一(無線、可攜式)客戶端裝置連接至一伺服器,而可供在任意他處複製該伺服器的桌面。起點為所有的應用程式應運行於該伺服器末端處,且限制該客戶端/伺服器架構的維護成本。確實,若將所有的應用程式安裝且執行於該伺服器上,則若有必要進行一應用程式更新,僅需更新該伺服器即可。同時,若可獲用較佳的硬體/處理功能性(像是更快的GPU或CPU),則僅需更新該伺服器,並且所有客戶端的效能也會提高。因此,其概念性設計牽涉到將該伺服器的桌面內容複製至一遠端客戶端顯示器,並供來自於該客戶端的回饋,因此對於該客戶端的使用者,這看似宛若該使用者正在該伺服器上按本地方式工作。實作上,這可藉由利用「螢幕攫取器」技術所實作,這可在任何時刻即行抓取該伺服器的螢幕內容,並加以編碼且將此螢幕內容傳送至該客戶端。然後該客戶端解碼此經編碼之資料串流,並在該客戶端側重新產生該等影像。任何來自在該客戶端側之使用者的輸入皆會被送到該伺服器,且該伺服器(在該伺服器上執行之(各)應用程式)處理這些輸入。為供該使用者能夠與該伺服器互動,至少應可獲用鍵盤及滑鼠連線。這可例如藉由將在客戶端處之滑鼠及鍵盤的類比PS/2信號轉換成經數位取樣信號,並將這些數位樣本傳發至該伺服器側所完成。在該伺服器側,將經取樣之PS/2信號再度轉換成一類比信號,且連接於該伺服器的PS/2輸入。按此方式,該系統的行為將可宛如將該鍵盤及滑鼠直接地連接至該伺服器一般。一種替代方式為亦按本地方式處理該客戶端側之鍵盤及滑鼠,藉以降低潛時性。這些技術既已如前所描述。亦可在該客戶端側支援USB連線。在此,問題會多少 有些較為複雜,因為USB協定要求嚴格的計時,而且將該USB信號轉換成數位樣本並在伺服器側重建出該類比信號,或將會耗去過多時間且產生協定問題。同時,USB為一雙向式協定。為克服務此一問題,存在有像是「終極USB」解決方案的解決方案,這可按本地方式處置一部分的USB協定,藉以克服該USB協定的嚴格計時要求。
當然,亦應可將多個客戶端連接於相同的伺服器。這可藉由利用一多重使用者作業系統(像是Windows 2000伺服器或是Linux)而達成,其中可平行地進行多個使用者會期。在此情況下,可對意欲連接至該伺服器之各使用者建立一會期(具有其本身的視框緩衝器)。然後可按如一須予傳送至一特定客戶端之桌面的方式來對待各個該等會期。另一種其中並無來自作業系統對於多個使用者之支援的可能是建立虛擬視窗。這可意味著例如按該客戶端所意欲執行的應用程式,對各個客戶端建立一視窗。然而所有這些應用程式運行於該單一使用者作業系統的其一使用者空間內。不過,僅將屬於各個特定客戶端之視窗傳送至該客戶端。例如:若一伺服器意欲執行一要求高處理電力之特定應用程式,且其目的係為多個使用者可同時地使用該應用程式。那麼,可對於各使用者起始一該應用程式之實例,並且僅將屬於各特定使用者之實例的視窗發送至該特定使用者。或另者,可在該應用程式本身內提供對於多個使用者的支援。在此情況下,該應用程式會處置在同一時間伺服多重使用者,並且僅將屬於一特定使用者之會期的應用程式視窗/部分發送至該特定使用者。
當然,在此特定實作裡,可施用所有如前所述的本發明特性。例如,然不限於此:按本地方式處置像是鍵盤或滑鼠的一些部分、按 本地方式執行某些部分的應用程式以減少潛時性、利用該預測參數機制並利用關聯於該等經預測參數之影像、在客戶端/伺服器處按本地方式快取影像且唯一地識別這些影像,以及若是必須再次地傳送該影像則發送該識別碼而非影像本身...等等。
200‧‧‧區域
201‧‧‧長方形視窗
202‧‧‧圖片
203‧‧‧視訊序列
204‧‧‧背景
210‧‧‧分類演算法
231‧‧‧不規則形狀
232‧‧‧長方形
233‧‧‧填補像素

Claims (11)

  1. 一種為以確保從一伺服器至一可攜式成影裝置的資料傳輸之方法,該方法包含:-決定該可攜式成影裝置相對於一經授權區域的精確位置,-基於該可攜式成影裝置之已決定的精確位置,決定該可攜式成影裝置是否經授權以在一預定傳輸頻道上接收特定資料,-若經准允一授權,則將所請求之特定資料自該伺服器傳輸至該可攜式成影裝置,該可攜式成影裝置具有一顯示區域,該方法進一步經調適以在當該可攜式成影裝置離開該經授權區域時,至少自該顯示區域處移除至少機密資料。
  2. 如申請專利範圍第1項之方法,該方法進一步經調適以在當該可攜式成影裝置進入該經授權區域時,至少在該顯示區域上顯示至少機密資料。
  3. 如申請專利範圍第1項之方法,該方法進一步經調適以在當該可攜式成影裝置離開該經授權區域時,自該可攜式成影裝置之揮發性及/或非揮發性記憶體元件中移除至少機密資料。
  4. 如申請專利範圍第1項之方法,該方法進一步包含在當該可攜式成影裝置離開該經授權區域時,將該機密資料加密。
  5. 如申請專利範圍第4項之方法,該方法進一步包含在當該可攜式成影裝置進入該經授權區域時,將該機密資料解密。
  6. 如申請專利範圍第1至5項中任一項之方法,該方法進一步包含利用一不同傳輸頻道以傳送所請求的資料,所用之傳輸頻道係按照該可攜式成影裝置之已決定的精確位置而定。
  7. 如申請專利範圍第6項之方法,該可攜式成影裝置決定使用何種傳輸頻道以傳輸所請求之資料。
  8. 如申請專利範圍第6項之方法,該伺服器決定使用何種傳輸頻道以傳輸所請求之資料。
  9. 一種減低客戶端-伺服器的電腦系統中之潛時性(latency)的方法,該伺服器經調適以至少按照一或更多的參數值來產生資料,該方法包含如下步驟:●預測可達成的可能未來參數值,可能未來參數值之預測處理是由該客戶端所執行,在此之後將這些經預測參數值發送至該伺服器;●產生對應於該等經預測參數值之資料,並且將此資料發送至該客戶端;以及●該客戶端將對應於參數值之所產生的資料進行快取,以供未來使用。
  10. 如申請專利範圍第9項之方法,其中當一對應的參數值設妥時,該客戶端即利用已快取的資料。
  11. 如申請專利範圍第9項之方法,其中當一參數值設妥而落在其附近的預設範圍內時,該客戶端即利用已快取的資料,已快取的資料係為了該參數值而產生的。
TW103111679A 2005-02-04 2006-01-25 用於透過低頻寬及高潛時傳輸頻道之影像及視訊傳輸的方法及裝置 TWI514885B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US64957605P 2005-02-04 2005-02-04
PCT/BE2005/000173 WO2006081634A2 (en) 2005-02-04 2005-11-25 Method and device for image and video transmission over low-bandwidth and high-latency transmission channels

Publications (2)

Publication Number Publication Date
TW201429258A TW201429258A (zh) 2014-07-16
TWI514885B true TWI514885B (zh) 2015-12-21

Family

ID=35840468

Family Applications (2)

Application Number Title Priority Date Filing Date
TW095102800A TWI520612B (zh) 2005-02-04 2006-01-25 用於透過低頻寬及高潛時傳輸頻道之影像及視訊傳輸的方法及裝置
TW103111679A TWI514885B (zh) 2005-02-04 2006-01-25 用於透過低頻寬及高潛時傳輸頻道之影像及視訊傳輸的方法及裝置

Family Applications Before (1)

Application Number Title Priority Date Filing Date
TW095102800A TWI520612B (zh) 2005-02-04 2006-01-25 用於透過低頻寬及高潛時傳輸頻道之影像及視訊傳輸的方法及裝置

Country Status (4)

Country Link
US (3) US20070183493A1 (zh)
EP (1) EP1844612B1 (zh)
TW (2) TWI520612B (zh)
WO (1) WO2006081634A2 (zh)

Families Citing this family (134)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8387099B2 (en) * 2002-12-10 2013-02-26 Ol2, Inc. System for acceleration of web page delivery
US9227139B2 (en) 2002-12-10 2016-01-05 Sony Computer Entertainment America Llc Virtualization system and method for hosting applications
US9446305B2 (en) 2002-12-10 2016-09-20 Sony Interactive Entertainment America Llc System and method for improving the graphics performance of hosted applications
US8964830B2 (en) 2002-12-10 2015-02-24 Ol2, Inc. System and method for multi-stream video compression using multiple encoding formats
US8979655B2 (en) 2002-12-10 2015-03-17 Ol2, Inc. System and method for securely hosting applications
US9314691B2 (en) 2002-12-10 2016-04-19 Sony Computer Entertainment America Llc System and method for compressing video frames or portions thereof based on feedback information from a client device
US9108107B2 (en) 2002-12-10 2015-08-18 Sony Computer Entertainment America Llc Hosting and broadcasting virtual events using streaming interactive video
US8549574B2 (en) 2002-12-10 2013-10-01 Ol2, Inc. Method of combining linear content and interactive content compressed together as streaming interactive video
US10201760B2 (en) 2002-12-10 2019-02-12 Sony Interactive Entertainment America Llc System and method for compressing video based on detected intraframe motion
US9138644B2 (en) 2002-12-10 2015-09-22 Sony Computer Entertainment America Llc System and method for accelerated machine switching
US9077991B2 (en) 2002-12-10 2015-07-07 Sony Computer Entertainment America Llc System and method for utilizing forward error correction with video compression
US20100166056A1 (en) * 2002-12-10 2010-07-01 Steve Perlman System and method for encoding video using a selected tile and tile rotation pattern
US9061207B2 (en) * 2002-12-10 2015-06-23 Sony Computer Entertainment America Llc Temporary decoder apparatus and method
US8711923B2 (en) 2002-12-10 2014-04-29 Ol2, Inc. System and method for selecting a video encoding format based on feedback data
US8366552B2 (en) 2002-12-10 2013-02-05 Ol2, Inc. System and method for multi-stream video compression
US9192859B2 (en) 2002-12-10 2015-11-24 Sony Computer Entertainment America Llc System and method for compressing video based on latency measurements and other feedback
US20090118019A1 (en) 2002-12-10 2009-05-07 Onlive, Inc. System for streaming databases serving real-time applications used through streaming interactive video
US8526490B2 (en) 2002-12-10 2013-09-03 Ol2, Inc. System and method for video compression using feedback including data related to the successful receipt of video content
JP4426492B2 (ja) * 2005-03-30 2010-03-03 Ykk株式会社 プログラマブル・ターミナル・システム
US8074248B2 (en) 2005-07-26 2011-12-06 Activevideo Networks, Inc. System and method for providing video content associated with a source image to a television in a communication network
US8112513B2 (en) * 2005-11-30 2012-02-07 Microsoft Corporation Multi-user display proxy server
US20070140116A1 (en) * 2005-12-16 2007-06-21 Microsoft Corporation Interactive Codec Selection
US7996495B2 (en) * 2006-04-06 2011-08-09 General Electric Company Adaptive selection of image streaming mode
US9680686B2 (en) * 2006-05-08 2017-06-13 Sandisk Technologies Llc Media with pluggable codec methods
CN101460087B (zh) * 2006-06-02 2013-05-22 皇家飞利浦电子股份有限公司 用于健康护理设备的认知监测无线装置
US20080043643A1 (en) * 2006-07-25 2008-02-21 Thielman Jeffrey L Video encoder adjustment based on latency
US20080066092A1 (en) * 2006-08-09 2008-03-13 Michael Laude System for interactive images and video
JP5936805B2 (ja) * 2006-09-29 2016-06-22 アビニティ・システムズ・ベスローテン・フェンノートシャップAvinity Systems B.V. パラレルユーザセッションをストリーミングするための方法、システム、およびコンピュータソフトウェア
WO2008088741A2 (en) 2007-01-12 2008-07-24 Ictv, Inc. Interactive encoded content system including object models for viewing on a remote device
US9826197B2 (en) 2007-01-12 2017-11-21 Activevideo Networks, Inc. Providing television broadcasts over a managed network and interactive content over an unmanaged network to a client device
US8296662B2 (en) * 2007-02-05 2012-10-23 Brother Kogyo Kabushiki Kaisha Image display device
US8280028B1 (en) * 2007-03-23 2012-10-02 Nextel Communications, Inc. System and method for indicating call priority
US20080249376A1 (en) * 2007-04-09 2008-10-09 Siemens Medical Solutions Usa, Inc. Distributed Patient Monitoring System
JP4510845B2 (ja) * 2007-04-26 2010-07-28 シャープ株式会社 表示システムおよび画像処理装置
US8305914B2 (en) * 2007-04-30 2012-11-06 Hewlett-Packard Development Company, L.P. Method for signal adjustment through latency control
US9168457B2 (en) 2010-09-14 2015-10-27 Sony Computer Entertainment America Llc System and method for retaining system state
US9100716B2 (en) * 2008-01-07 2015-08-04 Hillcrest Laboratories, Inc. Augmenting client-server architectures and methods with personal computers to support media applications
US8456380B2 (en) * 2008-05-15 2013-06-04 International Business Machines Corporation Processing computer graphics generated by a remote computer for streaming to a client computer
US8769048B2 (en) 2008-06-18 2014-07-01 Commvault Systems, Inc. Data protection scheduling, such as providing a flexible backup window in a data protection system
US8725688B2 (en) 2008-09-05 2014-05-13 Commvault Systems, Inc. Image level copy or restore, such as image level restore without knowledge of data object metadata
US8131086B2 (en) 2008-09-24 2012-03-06 Microsoft Corporation Kernelized spatial-contextual image classification
US20100313274A1 (en) * 2008-10-07 2010-12-09 Apteryx, Inc. Image server with multiple image confidentiality ports
US8812615B2 (en) * 2009-02-17 2014-08-19 Canon Kabushiki Kaisha Remote control of a host computer
US8560918B1 (en) * 2009-04-21 2013-10-15 Marvell International Ltd. Method and apparatus for dynamically selecting an error correction code to be applied to data in a communication system
US20110002376A1 (en) * 2009-07-01 2011-01-06 Wham! Inc. Latency Minimization Via Pipelining of Processing Blocks
US8954538B2 (en) * 2009-11-17 2015-02-10 Broadcom Corporation Method and system for reducing latency for interactive content for complete internet anywhere
US8429269B2 (en) * 2009-12-09 2013-04-23 Sony Computer Entertainment Inc. Server-side rendering
US8626824B2 (en) * 2010-02-26 2014-01-07 Red Hat Israel, Ltd. Persisting graphics structures across resolution change in graphics remoting environment
US8230008B2 (en) * 2010-02-26 2012-07-24 Red Hat Israel, Ltd. Persisting graphics structures across client change in graphics remoting environment
US8914305B2 (en) * 2010-06-30 2014-12-16 Trading Technologies International, Inc. Method and apparatus for motion based target prediction and interaction
US8660934B2 (en) 2010-06-30 2014-02-25 Trading Technologies International, Inc. Order entry actions
US9098279B2 (en) * 2010-09-14 2015-08-04 Google Inc. Methods and systems for data interchange between a network-connected thermostat and cloud-based management server
AU2011315950B2 (en) 2010-10-14 2015-09-03 Activevideo Networks, Inc. Streaming digital video between video devices using a cable television system
US8892809B2 (en) 2010-10-25 2014-11-18 Marvell World Trade Ltd. Data compression and encoding in a memory system
US9046898B2 (en) 2011-02-24 2015-06-02 Google Inc. Power-preserving communications architecture with long-polling persistent cloud channel for wireless network-connected thermostat
US20120166953A1 (en) * 2010-12-23 2012-06-28 Microsoft Corporation Techniques for electronic aggregation of information
US9679404B2 (en) 2010-12-23 2017-06-13 Microsoft Technology Licensing, Llc Techniques for dynamic layout of presentation tiles on a grid
US9436685B2 (en) 2010-12-23 2016-09-06 Microsoft Technology Licensing, Llc Techniques for electronic aggregation of information
US9715485B2 (en) 2011-03-28 2017-07-25 Microsoft Technology Licensing, Llc Techniques for electronic aggregation of information
EP2695388B1 (en) 2011-04-07 2017-06-07 ActiveVideo Networks, Inc. Reduction of latency in video distribution networks using adaptive bit rates
DE102011083957B4 (de) * 2011-10-04 2018-12-27 Siemens Healthcare Gmbh Gerätesteuerung mit zuschaltbaren Touch-User-Interfaces
US9942580B2 (en) * 2011-11-18 2018-04-10 At&T Intellecutal Property I, L.P. System and method for automatically selecting encoding/decoding for streaming media
CN103959198B (zh) * 2011-11-30 2017-09-12 英特尔公司 降低3d工作负荷的功率
US10409445B2 (en) 2012-01-09 2019-09-10 Activevideo Networks, Inc. Rendering of an interactive lean-backward user interface on a television
US9800945B2 (en) 2012-04-03 2017-10-24 Activevideo Networks, Inc. Class-based intelligent multiplexing over unmanaged networks
US9123084B2 (en) 2012-04-12 2015-09-01 Activevideo Networks, Inc. Graphical application integration with MPEG objects
US9188644B1 (en) 2012-09-25 2015-11-17 The Boeing Company Latency measurement system and method
US9514664B2 (en) * 2012-09-25 2016-12-06 The Boeing Company Measuring latency in a test system using captured images
US10616086B2 (en) 2012-12-27 2020-04-07 Navidia Corporation Network adaptive latency reduction through frame rate control
US9633216B2 (en) 2012-12-27 2017-04-25 Commvault Systems, Inc. Application of information management policies based on operation with a geographic entity
US9459968B2 (en) 2013-03-11 2016-10-04 Commvault Systems, Inc. Single index to query multiple backup formats
US10275128B2 (en) 2013-03-15 2019-04-30 Activevideo Networks, Inc. Multiple-mode system and method for providing user selectable video content
EP3005712A1 (en) 2013-06-06 2016-04-13 ActiveVideo Networks, Inc. Overlay rendering of user interface onto source video
US9219922B2 (en) 2013-06-06 2015-12-22 Activevideo Networks, Inc. System and method for exploiting scene graph information in construction of an encoded video sequence
US9294785B2 (en) 2013-06-06 2016-03-22 Activevideo Networks, Inc. System and method for exploiting scene graph information in construction of an encoded video sequence
US9917873B2 (en) * 2013-10-15 2018-03-13 Cyberlink Corp. Network-based playback of content in cloud storage based on device playback capability
US9432338B2 (en) * 2013-10-23 2016-08-30 Google Inc. Secure communications using adaptive data compression
US9634942B2 (en) 2013-11-11 2017-04-25 Amazon Technologies, Inc. Adaptive scene complexity based on service quality
US9582904B2 (en) 2013-11-11 2017-02-28 Amazon Technologies, Inc. Image composition based on remote object data
US9578074B2 (en) 2013-11-11 2017-02-21 Amazon Technologies, Inc. Adaptive content transmission
US9805479B2 (en) 2013-11-11 2017-10-31 Amazon Technologies, Inc. Session idle optimization for streaming server
US9604139B2 (en) 2013-11-11 2017-03-28 Amazon Technologies, Inc. Service for generating graphics object data
US9641592B2 (en) 2013-11-11 2017-05-02 Amazon Technologies, Inc. Location of actor resources
US9413830B2 (en) * 2013-11-11 2016-08-09 Amazon Technologies, Inc. Application streaming service
US20150142626A1 (en) * 2013-11-15 2015-05-21 International Business Machines Corporation Risk scenario generation
US9798596B2 (en) 2014-02-27 2017-10-24 Commvault Systems, Inc. Automatic alert escalation for an information management system
US10438692B2 (en) 2014-03-20 2019-10-08 Cerner Innovation, Inc. Privacy protection based on device presence
US9788029B2 (en) 2014-04-25 2017-10-10 Activevideo Networks, Inc. Intelligent multiplexing using class-based, multi-dimensioned decision logic for managed networks
US9740574B2 (en) 2014-05-09 2017-08-22 Commvault Systems, Inc. Load balancing across multiple data paths
KR20150142718A (ko) * 2014-06-11 2015-12-23 한국전자통신연구원 데이터 전송 방법 및 장치
US11249858B2 (en) 2014-08-06 2022-02-15 Commvault Systems, Inc. Point-in-time backups of a production application made accessible over fibre channel and/or ISCSI as data sources to a remote application by representing the backups as pseudo-disks operating apart from the production application and its host
US9852026B2 (en) 2014-08-06 2017-12-26 Commvault Systems, Inc. Efficient application recovery in an information management system based on a pseudo-storage-device driver
US20160104000A1 (en) * 2014-10-10 2016-04-14 MD Cloud Practice Solutions, L.L.C. Methods and systems for secure acquisition and transmission of image
US11275757B2 (en) 2015-02-13 2022-03-15 Cerner Innovation, Inc. Systems and methods for capturing data, creating billable information and outputting billable information
US9766825B2 (en) 2015-07-22 2017-09-19 Commvault Systems, Inc. Browse and restore for block-level backups
US10205763B2 (en) * 2015-08-26 2019-02-12 Zhan Ma Method and apparatus for the single input multiple output (SIMO) media adaptation
EP3343934B1 (en) * 2015-10-06 2021-03-10 Sony Interactive Entertainment Inc. Communication system, transmission device, receiving device, communication system control method and program
AU2015243069A1 (en) * 2015-10-16 2017-05-04 Canon Kabushiki Kaisha Method, system and apparatus for processing a document
JP6515787B2 (ja) * 2015-11-02 2019-05-22 富士通株式会社 仮想デスクトッププログラム、仮想デスクトップ処理方法、および仮想デスクトップシステム
US10440153B1 (en) 2016-02-08 2019-10-08 Microstrategy Incorporated Enterprise health score and data migration
US11283900B2 (en) 2016-02-08 2022-03-22 Microstrategy Incorporated Enterprise performance and capacity testing
US10296368B2 (en) 2016-03-09 2019-05-21 Commvault Systems, Inc. Hypervisor-independent block-level live browse for access to backed up virtual machine (VM) data and hypervisor-free file-level recovery (block-level pseudo-mount)
WO2017210908A1 (zh) * 2016-06-08 2017-12-14 华为技术有限公司 处理方法与终端
FR3052953A1 (fr) * 2016-06-20 2017-12-22 Orange Procede de controle de l'enregistrement d'un terminal
CN106569894A (zh) * 2016-10-11 2017-04-19 北京元心科技有限公司 图片加载方法和系统
US10740193B2 (en) 2017-02-27 2020-08-11 Commvault Systems, Inc. Hypervisor-independent reference copies of virtual machine payload data based on block-level pseudo-mount
US10891069B2 (en) 2017-03-27 2021-01-12 Commvault Systems, Inc. Creating local copies of data stored in online data repositories
US10326651B1 (en) 2017-04-18 2019-06-18 Amazon Technologies, Inc. Client configurable hardware logic and corresponding signature
US10949222B2 (en) * 2017-05-30 2021-03-16 Citrix Systems, Inc. System and method for displaying customized user guides in a virtual client application
WO2018231263A1 (en) * 2017-06-13 2018-12-20 Google Llc Transmitting high latency digital components in a low latency environment
US10664352B2 (en) 2017-06-14 2020-05-26 Commvault Systems, Inc. Live browsing of backed up data residing on cloned disks
CN111093759A (zh) * 2017-07-05 2020-05-01 心脏起搏器股份公司 基于优先级的医疗数据管理系统
KR102098325B1 (ko) * 2017-08-25 2020-04-07 주식회사 엠플러스 입력신호 제어를 이용한 버튼 클릭 구현방법
US10761942B2 (en) 2018-03-12 2020-09-01 Commvault Systems, Inc. Recovery point objective (RPO) driven backup scheduling in a data storage management system using an enhanced data agent
WO2020102823A2 (en) * 2018-11-14 2020-05-22 Skywave Networks Llc Communication system and method of using variable-length messages
US10860443B2 (en) 2018-12-10 2020-12-08 Commvault Systems, Inc. Evaluation and reporting of recovery readiness in a data storage management system
US10824501B2 (en) * 2019-01-07 2020-11-03 Mellanox Technologies, Ltd. Computer code integrity checking
US11641274B2 (en) * 2019-03-22 2023-05-02 Jpmorgan Chase Bank, N.A. Systems and methods for manipulation of private information on untrusted environments
US11308034B2 (en) 2019-06-27 2022-04-19 Commvault Systems, Inc. Continuously run log backup with minimal configuration and resource usage from the source machine
US20210020283A1 (en) * 2019-07-19 2021-01-21 Abinash Achrekar Cloud-based method and system for extraction and display of clinically-relevant actionable patient data from multiple electronic medical records
US11288053B2 (en) 2019-08-15 2022-03-29 Microstrategy Incorporated Conversion and restoration of computer environments to container-based implementations
US11106455B2 (en) 2019-08-15 2021-08-31 Microstrategy Incorporated Integration of containers with external elements
US11637748B2 (en) 2019-08-28 2023-04-25 Microstrategy Incorporated Self-optimization of computing environments
US11507295B2 (en) * 2019-08-30 2022-11-22 Microstrategy Incorporated Backup, restoration, and migration of computer systems
US11210189B2 (en) 2019-08-30 2021-12-28 Microstrategy Incorporated Monitoring performance of computing systems
US11354216B2 (en) 2019-09-18 2022-06-07 Microstrategy Incorporated Monitoring performance deviations
US11360881B2 (en) 2019-09-23 2022-06-14 Microstrategy Incorporated Customizing computer performance tests
US11438231B2 (en) 2019-09-25 2022-09-06 Microstrategy Incorporated Centralized platform management for computing environments
KR102436512B1 (ko) * 2019-10-29 2022-08-25 삼성전자주식회사 부호화 방법 및 그 장치, 복호화 방법 및 그 장치
CN110933435B (zh) * 2019-11-29 2022-07-12 上海依图网络科技有限公司 动图延时优化处理方法、装置、设备及可读存储介质
US11741232B2 (en) 2021-02-01 2023-08-29 Mellanox Technologies, Ltd. Secure in-service firmware update
CN113365335B (zh) * 2021-07-01 2021-12-17 苏州经贸职业技术学院 一种图像数据处理方法
US11954473B2 (en) 2021-09-20 2024-04-09 Microstrategy Incorporated Deployment architecture for multi-tenant cloud computing systems
US11861342B2 (en) 2022-01-28 2024-01-02 Microstrategy Incorporated Enhanced cloud-computing environment deployment

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5892847A (en) * 1994-07-14 1999-04-06 Johnson-Grace Method and apparatus for compressing images
TW586284B (en) * 2001-12-21 2004-05-01 Best Buy Entpr Services Inc Buried data stream in a wireless home network

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5063603A (en) * 1989-11-06 1991-11-05 David Sarnoff Research Center, Inc. Dynamic method for recognizing objects and image processing system therefor
US5611038A (en) * 1991-04-17 1997-03-11 Shaw; Venson M. Audio/video transceiver provided with a device for reconfiguration of incompatibly received or transmitted video and audio information
US6037991A (en) * 1996-11-26 2000-03-14 Motorola, Inc. Method and apparatus for communicating video information in a communication system
GB2322509B (en) * 1997-02-21 2001-09-12 Motorola Ltd Communication system and method for transmitting information
US6216152B1 (en) * 1997-10-27 2001-04-10 Sun Microsystems, Inc. Method and apparatus for providing plug in media decoders
US6182133B1 (en) * 1998-02-06 2001-01-30 Microsoft Corporation Method and apparatus for display of information prefetching and cache status having variable visual indication based on a period of time since prefetching
US6304677B1 (en) * 1998-04-07 2001-10-16 Adobe Systems Incorporated Smoothing and fitting point sequences
US20020133589A1 (en) * 1998-09-11 2002-09-19 Rajugopal R. Gubbi Dynamic bandwidth negotiation scheme for wireless computer networks
GB9912079D0 (en) * 1999-05-24 1999-07-21 Motorola Ltd An image encoding method and apparatus
US8291007B2 (en) * 2000-02-22 2012-10-16 Flash Networks Ltd System and method to accelerate client/server interactions using predictive requests
US6553150B1 (en) * 2000-04-25 2003-04-22 Hewlett-Packard Development Co., Lp Image sequence compression featuring independently coded regions
US20020156864A1 (en) * 2000-06-06 2002-10-24 Kniest James Newton System for wireless exchange of data with hand held devices
US6742033B1 (en) * 2000-06-12 2004-05-25 Gateway, Inc. System, method and computer program product that pre-caches content to provide timely information to a user
US6965457B2 (en) * 2000-09-21 2005-11-15 Matsushita Electric Industrial Co., Ltd. Image processing apparatus, method, and program for image attribute determination based on orthogonal data
US7028329B1 (en) * 2000-10-13 2006-04-11 Seiko Epson Corporation Remote accessible programming
US6874019B2 (en) * 2001-03-08 2005-03-29 International Business Machines Corporation Predictive caching and highlighting of web pages
US6898628B2 (en) * 2001-03-22 2005-05-24 International Business Machines Corporation System and method for providing positional authentication for client-server systems
EP1260914A1 (en) * 2001-05-23 2002-11-27 Mediabricks Ab A method for optimizing utilization of client capacity
EP1402388A4 (en) * 2001-06-04 2005-03-16 Nct Group Inc SYSTEM AND METHOD FOR MODIFYING A DATA STREAM USING ELEMENT ANALYSIS
US7003566B2 (en) * 2001-06-29 2006-02-21 International Business Machines Corporation Method and system for predictive directional data caching
US6871218B2 (en) * 2001-11-07 2005-03-22 Oracle International Corporation Methods and systems for preemptive and predictive page caching for improved site navigation
EP1316457A1 (en) 2001-11-30 2003-06-04 Ford Global Technologies, Inc. Method and arrangement for controlling the take-off in a hybrid electric vehicle
US7340092B2 (en) * 2001-12-21 2008-03-04 Minolta Co., Ltd. Image processing device, image processing method, program for executing image processing, and computer readable recording medium on which the program is stored
US20030131226A1 (en) * 2002-01-04 2003-07-10 Spencer Donald J. Dynamic distributed configuration management system
US7295556B2 (en) * 2002-03-01 2007-11-13 Enterasys Networks, Inc. Location discovery in a data network
US7107009B2 (en) * 2002-06-26 2006-09-12 Nokia Corporation Method, system and computer program product for personalizing the functionality of a personal communication device
GB2391963B (en) * 2002-08-14 2004-12-01 Flyingspark Ltd Method and apparatus for preloading caches
JP2004186844A (ja) * 2002-12-02 2004-07-02 Hitachi Ltd カメラ装置
AU2003223929A1 (en) * 2003-05-13 2004-12-03 Medical Insight A/S Method and system for remote and adaptive visualization of graphical image data
US7523316B2 (en) * 2003-12-08 2009-04-21 International Business Machines Corporation Method and system for managing the display of sensitive content in non-trusted environments
US7558822B2 (en) * 2004-06-30 2009-07-07 Google Inc. Accelerating user interfaces by predicting user actions
US7548657B2 (en) * 2005-06-25 2009-06-16 General Electric Company Adaptive video compression of graphical user interfaces using application metadata

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5892847A (en) * 1994-07-14 1999-04-06 Johnson-Grace Method and apparatus for compressing images
TW586284B (en) * 2001-12-21 2004-05-01 Best Buy Entpr Services Inc Buried data stream in a wireless home network

Also Published As

Publication number Publication date
EP1844612B1 (en) 2017-05-10
US9986427B2 (en) 2018-05-29
US20070183493A1 (en) 2007-08-09
US20160021533A1 (en) 2016-01-21
WO2006081634A2 (en) 2006-08-10
TW201429258A (zh) 2014-07-16
EP1844612A2 (en) 2007-10-17
WO2006081634A3 (en) 2006-12-28
TWI520612B (zh) 2016-02-01
TW200642480A (en) 2006-12-01
US20140304332A1 (en) 2014-10-09

Similar Documents

Publication Publication Date Title
TWI514885B (zh) 用於透過低頻寬及高潛時傳輸頻道之影像及視訊傳輸的方法及裝置
US10789389B2 (en) Remote data viewer
JP5681706B2 (ja) 専用ウェブポータルを用いた医療用スキャンの高度可視化高速アクセス方法およびシステム
KR101707462B1 (ko) 모바일 컴퓨팅 디바이스 기술 및 기술 이용 시스템 및 방법
CN100477717C (zh) 用于图形图像数据的远程和自适应显示的方法和系统
CN104303504B (zh) 稳定信息和瞬时/随机信息的不同编码和解码
CN109309842B (zh) 直播数据处理方法和装置、计算机设备和存储介质
KR20150012882A (ko) 감시 서버, 감시 서버의 데이터 처리 방법, 및 감시 시스템
US20040240752A1 (en) Method and system for remote and adaptive visualization of graphical image data
US9407922B2 (en) System and method of managing medical image
CN107066794A (zh) 用于评估医学研究数据的方法和系统
CN102770827B (zh) 用于在终端的屏幕上显示多媒体内容的方法
US8989432B2 (en) System and method of adding a watermark to a JPEG image file
Shen et al. A context-aware mobile web middleware for service of surveillance video with privacy
KR101136854B1 (ko) 이기종 애플리케이션 공유 시스템 및 방법
CN109905762A (zh) 图像处理装置及其控制方法
US20230100728A1 (en) A system, an arrangement, a computer software module arrangement, a circuitry arrangement and a method for improved image processing utilzing two entities
Kau et al. A cloud computing-based image codec system for lossless compression of images on a Cortex-A8 platform
US20210150718A1 (en) System and method for automatic recognition for hand activity defined in unified parkinson disease rating scale
Mukta Cloud framework for efficient and secured multimedia image communication
WO2021138164A1 (en) Video coding with multiple intra block copy modes
JP5593514B2 (ja) スクリーンフレームの符号化方法、及び、それを応用した電子装置
CN108574692A (zh) 用于使用jpeg 2000进行自适应流送的系统和方法