TWI414183B - Information processing apparatus and method and non-temporary computer-readable recording medium - Google Patents

Information processing apparatus and method and non-temporary computer-readable recording medium Download PDF

Info

Publication number
TWI414183B
TWI414183B TW97111513A TW97111513A TWI414183B TW I414183 B TWI414183 B TW I414183B TW 97111513 A TW97111513 A TW 97111513A TW 97111513 A TW97111513 A TW 97111513A TW I414183 B TWI414183 B TW I414183B
Authority
TW
Taiwan
Prior art keywords
packet
unit
processing
data
partition
Prior art date
Application number
TW97111513A
Other languages
English (en)
Other versions
TW200906195A (en
Inventor
Sei Sunahara
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of TW200906195A publication Critical patent/TW200906195A/zh
Application granted granted Critical
Publication of TWI414183B publication Critical patent/TWI414183B/zh

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/438Interfacing the downstream path of the transmission network originating from a server, e.g. retrieving MPEG packets from an IP network
    • H04N21/4385Multiplex stream processing, e.g. multiplex stream decrypting
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/63Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/238Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
    • H04N21/2389Multiplex stream processing, e.g. multiplex stream encrypting

Description

資訊處理裝置及方法與非暫時性電腦可讀取之記錄媒體
本發明係關於一種資訊處理裝置及方法與程式,特別是關於可減低封包送收訊時之延遲的資訊處理裝置及方法與程式。
先前係經由網際網路等進行視頻及聲音之流動。此時產生封包損失及到達延遲等時,可能引起資料品質惡化。如MPEG(動畫專家群)及H.26x系列之壓縮方式,取幀間差分之編碼方式時,因封包損失而遺漏某幀之資料時,會產生影響其以後之幀的畫質之所謂錯誤傳播。
此外,MPEG方式雖藉由移動預測而提高壓縮率,但是進行移動預測時之算法複雜,因為其處理時間與幀尺寸之平方成正比而變大,所以在原理上產生數幀之編碼延遲。進行雙向實時通訊時,成為容許延遲時間250 ms最大限度之延遲時間,其大小無法忽略。
對照此等,以JPEG(聯合攝影專家群)2000為代表之幀內編碼解碼,因為不利用幀間差分資訊,所以不產生上述之延遲。但是,因為係以幀單位壓縮,所以在開始編碼前,至少需要等待1幀。目前一般之系統多為1秒鐘內有30幀,所以,在開始編碼前,需要16 ms程度之等待時間。
因此,要求進一步減低該延遲,亦需要減低編碼及解碼以外之部分的延遲。
一種處理延遲方法,係進行RTP(實時傳輸協定)封包化 與解封包化之封包化/解封包化處理。先前,進行解封包化時,因為係等待封包某種程度停滯後開始處理,所以產生延遲。停滯封包之理由,係因可以網際網路不分割地送訊之封包的最大尺寸有限制,具有某種意義之一連串資料被分割成複數封包而送訊。解封包化亦係在緩衝至被分割之封包聚齊後開始解封包化,所以延遲增大,此外,亦需要緩衝用之資源。
換言之,編碼資料之收訊側的裝置,其收訊之封包係藉由解封包化處理部解封包化,抽出之編碼資料藉由解碼器解碼,不過,此時解封包化處理與解碼處理兩者均需要緩衝器,可能造成緩衝器之記憶容量增大。
對照此,為了減低緩衝器之記憶容量,而考慮有各種方法(如參照專利文獻1)。
專利文獻1中,係以為了訂正中繼裝置收訊之封包的錯誤,而儲存於緩衝記憶體,同時,錯誤訂正運算區塊全體不等待封包到達,而向下游側逐次送訊,檢測出封包消失時,進行錯誤訂正運算使其恢復,將其恢復之封包繼續於之前送訊的封包的形式來送訊。
[專利文獻1]日本特開2005-12753號
但是,採用記載於上述專利文獻1之方法時,為了進行錯誤訂正,中繼裝置中亦需要緩衝記憶體。亦即,如上述地可能造成緩衝器之記憶容量增大。此外,採用記載於專 利文獻1之方法時,中繼裝置進行封包之錯誤訂正時,會變更封包之順序。因此,在收訊裝置中解封包化時,需要進行重排,不但解封包化處理複雜,延遲時間增大,還需要解封包化處理用之緩衝器。在收訊裝置中進行經封包化而傳送之編碼資料的解碼時,由於除了其解封包化用之緩衝器外,還需要解碼用之緩衝器,因此不僅記憶容量,就連延遲時間亦可能進一步增大。
本發明係鑑於此種先前之情況而提出者,且係可減低將資料封包化而送收訊時產生的延遲時間者。
本發明之一側面係資訊處理裝置,其係進行在每特定單位將圖像資料編碼之編碼資料中附加標頭資訊而進行封包化之封包化處理,且包含:製作機構,其係製作前述標頭資訊;分割機構,其係將前述編碼資料每預定之特定資料量分割成複數部分資料;封包化機構,其係在藉由前述分割機構分割前述編碼資料而獲得之複數前述部分資料各個中,附加由前述製作機構所製作之前述標頭資訊,進行封包化;及旗標設定機構,其係在由前述封包化機構所產生之封包內,對於將複數前述部分資料之最前的部分資料作為酬載之最前封包,設立標頭資訊中包含之表示係前述最前封包的最前旗標,對於將複數前述部分資料之末端的部分資料作為酬載之最後封包,設立標頭資訊中包含之表示係前述最後封包的最後旗標。
前述編碼資料可為以在產生圖像資料之最低區域成分的 1線部分所必要的亦包含其他子帶的線集合即分區單位來小波轉換(wavelet)而熵編碼的編碼資料。
前述編碼資料可依解碼順序供給。
可進一步包含編碼機構,其係每特定單位將前述圖像資料編碼,而產生前述編碼資料,前述分割機構分割由前述編碼機構所產生之前述編碼資料。
前述編碼機構供給與前述標頭資訊相同格式之附加資訊,前述製作機構可使用由前述編碼機構供給之前述附加資訊,而製作前述標頭資訊。
前述編碼機構供給表示前述編碼成功或失敗之旗標資訊,前述封包化機構依據前述旗標資訊判定前述編碼失敗時,可僅使用由前述製作機構所製作之前述標頭資訊進行封包化。
本發明之一側面又係資訊處理方法,其係進行在每特定單位將圖像資料編碼之編碼資料中附加標頭資訊而進行封包化之封包化處理的資訊處理裝置之資訊處理方法,且包含以下步驟:製作前述標頭資訊;將前述編碼資料每預定之特定資料量分割成複數部分資料;在分割前述編碼資料而獲得之複數前述部分資料各個中,附加前述標頭資訊,進行封包化;及在所產生之封包內,對於將複數前述部分資料之最前的部分資料作為酬載之最前封包,設立標頭資訊中包含之表示係前述最前封包的最前旗標,對於將複數前述部分資料之末端的部分資料作為酬載之最後封包,設立標頭資訊中包含之表示係前述最後封包的最後旗標。
本發明之一側面更係程式,其係使進行在每特定單位將圖像資料編碼之編碼資料中附加標頭資訊而進行封包化之封包化處理的電腦執行者,其中使電腦執行包含以下步驟之資訊處理:製作前述標頭資訊;將前述編碼資料每預定之特定資料量分割成複數部分資料;在分割前述編碼資料而獲得之複數前述部分資料各個中,附加前述標頭資訊,進行封包化;及在所產生之封包內,對於將複數前述部分資料之最前的部分資料作為酬載之最前封包,設立標頭資訊中包含之表示係前述最前封包的最前旗標,對於將複數前述部分資料之末端的部分資料作為酬載之最後封包,設立標頭資訊中包含之表示係前述最後封包的最後旗標。
本發明之其他側面係資訊處理裝置,其係進行從封包中抽出酬載資料的解封包化處理,且包含:取得機構,其係取得從外部供給之前述封包;損失判定機構,其係依據由前述取得機構所取得之前述封包的標頭資訊,判定藉由前述取得機構之取得中是否產生封包之損失;及供給機構,其係在藉由前述損失判定機構判定為並未產生前述封包之損失時,從由前述取得機構所取得之前述封包中抽出酬載資料供給至後階之處理部,而在藉由前述損失判定機構判定為產生前述封包之損失時,廢棄藉由前述取得機構所取得之前述封包。
前述損失判定機構可在前述標頭資訊中包含之表示封包順序之資訊即序號與前次取得之封包的序號不連續時,判定為產生前述封包之損失。
可進一步包含通知機構,其係在藉由前述損失判定機構判定為產生前述封包之損失時,通知前述後階之處理部。
可進一步包含最前判定機構,其係判定由前述取得機構所取得之封包是否為由前述序號連續之複數封包所構成之群的最前封包,前述供給機構在藉由前述損失判定機構判定為並未產生前述封包之損失,且藉由前述最前判定機構判定為係前述群之最前封包時,進一步亦將前述標頭資訊供給至後階之處理部。
前述供給機構於藉由前述損失判定機構判定為產生前述封包之損失時,直到藉由前述最前判定機構判定為已藉由前述取得機構取得新的群之最前封包為止,廢棄前述封包。
前述酬載資料可為以在產生最低區域成分的1線部分所必要的亦包含其他子帶的線集合即分區單位來小波轉換而熵編碼的編碼資料。
前述編碼資料可依解碼順序供給。
前述後階之處理部中可進一步包含解碼處理執行機構,其係進行將由前述供給機構所供給之前述酬載資料即前述編碼資料解碼之解碼處理。
前述解碼處理執行機構可包含:保持機構,其係暫時保持由前述供給機構所供給之前述編碼資料;解碼機構,其係將由前述保持機構所保持之前述編碼資料以前述分區單位解碼;及小波反轉換機構,其係對由前述解碼機構所解碼而獲得之係數資料進行小波反轉換。
可進一步包含編碼成功與否判定機構,其係依據由前述取得機構所取得之前述封包的標頭資訊,判定前述熵編碼成功與否,前述供給機構藉由前述編碼成功與否判定機構判定為前述編碼失敗時,僅供給前述標頭資訊。
本發明之其他側面又係資訊處理方法,其係進行從封包抽出酬載資料的解封包化處理的資訊處理裝置之資訊處理方法,且包含以下步驟:取得從外部供給之前述封包;依據取得之前述封包的標頭資訊,判定是否產生封包之損失;及在判定為並未產生前述封包之損失時,從取得之前述封包抽出酬載資料供給至後階之處理部,而在判定為產生前述封包之損失時,廢棄取得之前述封包。
本發明之其他側面更係程式,其係使進行從封包抽出酬載資料之解封包化處理的電腦執行者,其中使電腦執行包含以下步驟之資訊處理:取得從外部供給之前述封包;依據取得之前述封包的標頭資訊,判定是否產生封包之損失;及在判定為並未產生前述封包之損失時,從取得之前述封包抽出酬載資料供給至後階之處理部,而在判定為產生前述封包之損失時,廢棄取得之前述封包。
本發明之一側面中,製作標頭資訊,將編碼資料以每個預定之特定資料量分割成複數部分資料,在分割編碼資料而獲得之複數部分資料中,分別附加標頭資訊進行封包化,在所產生之封包內,對於將複數部分資料之最前部分資料作為酬載的最前封包,設立標頭資訊中包含之表示係最前封包之最前旗標,對於將複數部分資料之末端部分資 料作為酬載之最後封包,設立標頭資訊中包含之表示係最後封包的最後旗標。
本發明之其他側面中,取得由外部供給之封包,依據封包之標頭資訊,判定取得時是否產生封包之損失,在判定為並未產生封包之損失時,從取得之封包抽出酬載資料而供給至後階之處理部,而在判定為產生封包之損失時,廢棄所取得之封包。
藉由本發明,可收發封包。特別是可減低將資料封包化而收發時產生之延遲時間。
(實施例)
以下,說明本發明之實施形態。
圖1係顯示適用本發明之傳送系統的結構例之區塊圖。
圖1中,傳送系統100係將攝像裝置101產生之圖像資料由送訊裝置102壓縮編碼,進行封包化而送訊,將經由線路110而傳送之該封包,由收訊裝置103收訊,進行解封包化予以解碼,而顯示顯示裝置104獲得之圖像資料的圖像之資料傳送系統。
攝像裝置101具有利用CCD(電荷耦合器件)及CMOS(互補金氧半導體)等之攝像元件,攝像景物,將其攝像圖像轉換成數位資料之圖像資料,而將獲得之圖像資料供給至送訊裝置102。
送訊裝置102具有:編碼部121、封包處理部122及送訊 部123。送訊裝置102在編碼部121中以特定之方法將從攝像裝置101供給之圖像資料予以編碼,將藉由其編碼而獲得之編碼資料在封包處理部122中封包化,將產生之封包以特定之通訊方法從送訊部123送出至線路110。
線路110係連接送訊裝置102與收訊裝置103,而將從送訊裝置102送出之封包傳送至收訊裝置103的任意傳送媒體。
收訊裝置103具有:收訊部131、解封包化處理部132及解碼部133。收訊裝置103在收訊部131中進行經由線路110而送達之封包的收訊,在解封包化處理部132中,從其收訊之封包抽出編碼資料,在解碼部133中,將其抽出之編碼資料以對應於送訊裝置102之編碼部121的解碼方法進行解碼,並將所獲得之基帶的圖像資料輸出至顯示裝置104。
顯示裝置104具有顯示器,而將從收訊裝置103供給之圖像資料的圖像顯示於其顯示器上。
該圖1之傳送系統100係減低藉由封包處理部122進行封包處理之延遲時間,及藉由解封包化處理部132進行解封包化處理之延遲時間,而可使從在攝像裝置101中攝像至其圖像顯示於顯示裝置104之延遲時間減低的系統。
圖1之傳送系統100中,提供送訊裝置102送訊之圖像資料的裝置,係顯示攝像裝置101,不過,只要是可提供圖像資料之裝置,亦可為任何裝置。此外,利用收訊裝置103收訊之圖像資料的裝置,係顯示顯示裝置104,不過, 只要是可利用圖像資料之裝置,亦可為任意之裝置。
此外,此處傳送之資料,僅就圖像資料作說明,不過亦可與圖像資料一起傳送如聲音資料等其他資料。
送訊裝置102進行之封包的送訊方法,亦可為僅對收訊裝置103送訊之單播式(unicast),亦可為對包含收訊裝置103之複數裝置送訊的多播式(multicast),亦可為對不特定多數之裝置送訊的廣播式。
線路110只要是可傳送封包者,亦可為任何之形態者,可為有線亦可為無線,亦可為包含其兩者的。此外,圖1中線路110係藉由1個箭頭顯示,不過亦可為專用或通用之傳送電纜,如亦可如LAN(區域網路)及網際網路等之包含1個或複數通訊網,亦可包含某些通訊中繼裝置。再者,線路110之線路數量(通道數量)亦可有幾條。
其次,就圖1所示之送訊裝置102及收訊裝置103的各部分詳細作說明。
圖2係顯示圖1之送訊裝置102的編碼部121內部結構例之區塊圖。圖2中,編碼部121具有:小波轉換部150、中途計算用緩衝部151、係數重排用緩衝部152、係數重排部153、比率控制部154及熵編碼部155。
輸入編碼部121之圖像資料暫時留置於中途計算用緩衝部151。小波轉換部150對留置於中途計算用緩衝部151之圖像資料實施小波轉換。亦即,小波轉換部150從中途計算用緩衝部151讀取圖像資料,藉由分析濾波器實施濾波器處理,產生低帶成分及高帶成分之係數資料,並將所產 生之係數資料儲存於中途計算用緩衝部151中。小波轉換部150具有水平分析濾波器與垂直分析濾波器,而對圖像資料群,就畫面水平方向與畫面垂直方向兩者進行分析濾波器處理。小波轉換部150再度讀取儲存於中途計算用緩衝部151之低帶成分的係數資料,對讀取之係數資料藉由分析濾波器實施濾波器處理,而進一步產生高帶成分及低帶成分之係數資料。所產生之係數資料儲存於中途計算用緩衝部151。
小波轉換部150反覆進行該處理,於分解位準達到特定位準後,從中途計算用緩衝部151讀取係數資料,而將讀取之係數資料寫入係數重排用緩衝部152。
係數重排部153以特定之順序讀取寫入係數重排用緩衝部152之係數資料,而供給至熵編碼部155。熵編碼部155將供給之係數資料如以Huffman編碼及算術編碼之特定熵編碼方式予以編碼。
熵編碼部155與比率控制部154連動地動作,並以輸出之壓縮編碼資料的位元率概略成為一定值之方式作控制。亦即,比率控制部154依據來自熵編碼部155之編碼資料資訊,對熵編碼部155供給以在藉由熵編碼部155而壓縮編碼之資料的位元率達到目標值之時點,或是在達到目標值之前,結束熵編碼部155之編碼處理的方式作控制的控制訊號,熵編碼部155按照從比率控制部154供給之控制訊號,在編碼處理結束之時點,輸出編碼資料。
另外,熵編碼部155對於從係數重排部153讀取之係數資 料,首先進行量子化,對獲得之量子化係數實施Huffman編碼及算術編碼等之資訊源編碼處理時,可進一步期待壓縮效果之提高。該量子化之方法亦可使用任何方法,如可使用一般之手段,亦即以下公式(1)所示之量子化步長(step size)Δ除以係數資料W的方法。
量子化係數=W/Δ………(1)
此時之量子化步長Δ,如在比率控制部154中算出。
熵編碼部155將藉由編碼而獲得之編碼資料供給至封包處理部122。
其次,就圖2之小波轉換部150進行之處理進一步詳細作說明。首先,就小波轉換概略作說明。對圖像資料之小波轉換,如概略顯示於圖3,對分割結果而獲得之空間頻率的低帶帶之資料,遞歸地反覆進行將圖像資料分割成空間頻率之高帶帶與低帶帶之處理。如此,藉由將空間頻率之低帶帶的資料塞入更小之區域,可進行有效之壓縮編碼。
另外,圖3係對圖像資料之最低帶成分區域之低帶成分的區域L及高帶成分的區域H反覆進行3次分割處理,作為顯示分割階層之總數的分割位準=3時之例。圖3中,"L"及"H"分別表示低帶成分及高帶成分,"L"及"H"之順序,其前側顯示在橫方向分割之結果的頻帶,後側顯示在縱方向分割之結果的頻帶。此外,"L"及"H"之前的數字表示其區域的階層,較低帶成分之階層以小的值表示。
此外,從圖3之例瞭解,從畫面右下方區域至左上方區域形成階段性處理,而塞入低帶成分。亦即,圖3之例係 畫面右下方區域成為最低帶成分少(高帶成分包含最多)之區域3HH的畫面被4分割之左上方區域進一步被4分割,該被4分割之區域中,左上方之區域進一步被4分割。最左上角之區域為包含許多最低帶成分之區域0LL。
對低帶成分反覆進行轉換及分割,係因圖像之能集中於低帶成分。這從按照從圖4之A中顯示一例的分割位準=1之狀態,向前推進分割位準成圖4之B中顯示一例的分割位準=3之狀態,如圖4之B所示地形成子帶亦可理解。如圖3中之小波轉換的分割位準係3,結果形成有10個子帶。
小波轉換部150通常使用由低帶濾波器與高帶濾波器構成之濾波器組,而進行上述之處理。另外,因為數位濾波器通常具有複數分支(tap)長之脈衝應答亦即濾波係數,所以需要預先緩衝可進行濾波器處理程度之輸入圖像資料或係數資料。此外,涵蓋多階進行小波轉換時亦同樣地,需要預先將前階產生之小波轉換係數緩衝可進行濾波器處理之數量程度。
就該小波轉換之具體例,使用5×3濾波器之方法作說明。使用該5×3濾波器之方法係一種優異之方法,即使採用JPEG2000規格,仍可以少的濾波器分支數進行小波轉換。
5×3濾波器之脈衝應答(Z轉換表示)如以下之公式(2)及公式(3)所示,係由低帶濾波器H0 (z)與高帶濾波器H1 (z)而構成。從公式(2)及公式(3)瞭解低帶濾波器H0 (z)係5分支,高帶濾波器H1 (z)係3分支。
H0 (z)=(-1+2z-1 +6Z-2 +2z-3 -z-4 )/8………(2)
H1 (z)=(-1+2z-1 -z-2 )/2………(3)
採用此等公式(2)及公式(3)可直接算出低帶成分及高帶成分之係數。此處,藉由使用提升(Lifting)技術,可減少濾波器處理之計算。
其次,就該小波轉換方法進一步具體作說明。圖5顯示將藉由5×3濾波器之提升的濾波器處理執行至分解位準=2之例。另外,圖5中,在圖之左側作為分析濾波器而顯示之部分係小波轉換部150之濾波器。此外,在圖之右側作為合成濾波器而顯示之部分係後述解碼裝置中之小波反轉換部的濾波器。
另外,以下之說明,如係在顯示器件等中,將畫面左上角之像素作為最前,像素從畫面左端向右端掃描而構成1線,每條線之掃描係從畫面上端向下端進行,而構成1個畫面者。
圖5中,左端行縱方向並列顯示原圖像資料在線上對應位置之像素資料。亦即,小波轉換部150中之濾波器處理係使用垂直濾波器,而在畫面上縱向掃描像素來進行。從左端起第1行至第3行顯示分割位準=1之濾波器處理,第4行至第6行顯示分割位準=2之濾波器處理。從左端起第2行顯示依據左端原圖像資料之像素的高帶成分輸出,從左端起第3行顯示依據原圖像資料及高帶成分輸出之低帶成分輸出。分割位準=2之濾波器處理,如從左端起第4行至第6行所示,係對分割位準=1之濾波器處理的輸出形成處理。
分割位準=1之濾波器處理中,第1階段之濾波器處理係依據原圖像資料之像素算出高帶成分之係數資料,第2階段之濾波器處理係依據以第1階段之濾波器處理而算出之高帶成分的係數資料與原圖像資料之像素,算出低帶成分之係數資料。將分解位準=1之一例的濾波器處理顯示於圖5中左側(分析濾波器側)之第1行至第3行。算出之高帶成分的係數資料儲存於圖2之係數重排用緩衝部152。此外,算出之低帶成分的係數資料儲存於圖2之中途計算用緩衝部151。
圖5中,係數重排用緩衝部152顯示於以一點鏈線所包圍之部分,中途計算用緩衝部151顯示於以虛線所包圍之部分。
依據保持於中途計算用緩衝部151之分解位準=1的濾波器處理結果,進行分解位準=2之濾波器處理。分解位準=2之濾波器處理,係在分解位準=1之濾波器處理中,將作為低帶成分之係數而算出的係數資料,當作包含低帶成分及高帶成分之係數資料,而進行與分解位準=1相同之濾波器處理。藉由分解位準=2之濾波器處理所算出之高帶成分之係數資料及低帶成分之係數資料儲存於係數重排用緩衝部152。
小波轉換部150分別在畫面之水平方向及垂直方向進行上述之濾波器處理。如首先在水平方向進行分解位準=1之濾波器處理,將產生之高帶成分及低帶成分之係數資料儲存於中途計算用緩衝部151。其次,對儲存於中途計算用 緩衝部151之係數資料,在垂直方向進行分解位準=1之濾波器處理。藉由該分解位準=1之水平及垂直方向的處理,而形成由將高帶成分進一步分解成高帶成分及低帶成分之係數資料分別構成的區域HH及區域HL,與由將低帶成分進一步分解成高帶成分及低帶成分之係數資料分別構成的區域LH及LL之4個區域。
而後,分解位準=2係分別就水平方向及垂直方向,對分解位準=1所產生之低帶成分的係數資料進行濾波器處理。亦即,分解位準=2係將以分解位準=1分割而形成之區域LL進一步予以4分割,而在區域LL內進一步形成區域HH、區域HL、區域LH及區域LL。
小波轉換部150就畫面之縱方向,分割成每數條線之處理,並區分數次而階段性進行小波轉換之濾波器處理。圖5之例中,從畫面上第1條線起之處理的第1次處理,係就7條線進行濾波器處理,從第8條線起之處理的第2次以後之處理,係每4條線進行濾波器處理。該線數量係依據2分解成高帶成分與低帶成分後,為了產生1條線部分之最低帶成分所需的線數量。
另外,以下將為了產生該最低帶成分之1條線部分(最低帶成分之1條子帶部分的係數資料)所需之亦包含其他子帶的線集合,稱為分區(或是線區塊)。此處所謂線,表示對應於小波轉換前之圖像資料的圖片(picture)或是在場內或各子帶內形成之1列部分的像素資料或係數資料者。亦即,所謂分區(線區塊),表示小波轉換前之原來圖像資料 中,為了產生小波轉換後之最低帶成分之1條子帶部分的係數資料所需之線數部分的圖像資料群,或是將其圖像資料群進行小波轉換而獲得之各子帶的係數資料群者。
採用圖5,以分解位準=2之濾波器處理結果而獲得之係數C5,依據係數C4及儲存於中途計算用緩衝部151之係數Ca 而算出,係數C4依據儲存於中途計算用緩衝部151之係數Ca 、係數Cb 及係數Cc 而算出。再者,係數Cc 依據儲存於係數重排用緩衝部152之係數C2及C3與依據第5條線之像素資料而算出。此外,係數C3依據第5條線至第7條線之像素資料而算出。如此,為了獲得分解位準=2中之低帶成分的係數C5,需要第1條線至第7條線的像素資料。
對照此,在第2次以後之濾波器處理中,由於可使用經前次為止的濾波器處理已經算出,而儲存於係數重排用緩衝部152的係數資料,因此需要之線數減少即可達成。
亦即,採用圖5時,分解位準=2之濾波器處理結果而獲得之低帶成分的係數中,係數C5其次之係數的係數C9,依據係數C4及係數C8與儲存於中途計算用緩衝部151之係數Cc 而算出。係數C4藉由上述第1次之濾波器處理已經算出,而儲存於係數重排用緩衝部152。同樣地,係數Cc 藉由上述第1次之濾波器處理已經算出,而儲存於中途計算用緩衝部151。因此,在該第2次之濾波器處理中,僅算出係數C8用之濾波器處理是新的處理。該新的濾波器處理進一步使用第8條線至第11條線。
如此,由於第2次以後之濾波器處理可使用藉由前次為 止之濾波器處理算出,而儲存於中途計算用緩衝部151及係數重排用緩衝部152的資料,因此,分別以每4條線之處理即可達成。
另外,畫面上之線數與編碼之線數不一致時,係以特定之方法複製原圖像資料之線,使線數與編碼之線數相符,來進行濾波器處理。
如此,藉由階段性對畫面全體之線區分數次(以分區單位),進行獲得最低帶成分1條線部分之係數資料程度的濾波器處理,於傳送編碼資料時可以低延遲獲得解碼圖像。
為了進行小波轉換,需要執行小波轉換用之第1緩衝器,與儲存執行處理至特定之分割位準中產生之係數用的第二緩衝器。第1緩衝器對應於中途計算用緩衝部151,在圖5中以虛線包圍而顯示。此外,第2緩衝器對應於係數重排用緩衝部152,在圖5中以一點鏈線包圍而顯示。因為儲存於第2緩衝器之係數係用於解碼時,所以作為後階之熵編碼處理的對象。
其次,就圖2之係數重排部153的處理作說明。如上述,以小波轉換部150算出之係數資料儲存於係數重排用緩衝部152,藉由係數重排部153重排順序而讀取,並以編碼單元單位送至熵編碼部155。
如上述說明,在小波轉換中,從高帶成分側向低帶成分側地產生係數。圖5之例係在第1次中,藉由原圖像之像素資料,以分解位準=1之濾波器處理依序產生高帶成分之係數C1、係數C2及係數C3。而後,對以分解位準=1之濾波 器處理獲得之低帶成分的係數資料,進行分解位準=2之濾波器處理,而依序產生低帶成分之係數C4及係數C5。亦即,第1次係按照係數C1、係數C2、係數C3、係數C4及係數C5之順序產生係數資料。該係數資料之產生順序,在小波轉換之原理上,一定為該順序(從高帶至低帶的順序)。
對照此,在解碼側,為了以低延遲立即進行解碼,需要從低帶成分進行圖像之產生及輸出。因而,須將在編碼側產生之係數資料,從最低帶成分側向高帶成分側重排而供給至解碼側。
使用圖5之例,更具體地作說明。圖5之右側顯示進行反小波轉換之合成濾波器側。解碼側之包含輸出圖像資料的第1條線的第1次合成處理(反小波轉換處理)使用以編碼側之第1次的濾波器處理產生之最低帶成分之係數C4、係數C5及係數C1來進行。
亦即,在第1次之合成處理中,係按照係數C5、係數C4及係數C1之順序,從編碼側供給係數資料至解碼側,在解碼側,以對應於分解位準=2之合成處理的合成位準=2之處理,對係數C5及係數C4進行合成處理,而產生係數Cf ,並儲存於緩衝器中。而後,以對應於分解位準=1之合成處理的合成位準=1之處理,對該係數Cf 與係數C1進行合成處理,並輸出第1條線。
如此,在第1次之合成處理中,於編碼側按照係數C1、係數C2、係數C3、係數C4、係數C5之順序產生,而儲存於係數重排用緩衝部152之係數資料,係按照係數C5、係 數C4、係數C1、‧‧‧之順序重排而供給至解碼側。
另外,在圖5之右側所示之合成濾波器側,就從編碼側供給之係數,於括弧內註記在編碼側之係數編號,並在括弧外註記合成濾波器之線順序。如係數C1(5)表示圖5左側之分析濾波器側係係數C5,合成濾波器側係第1條線。
藉由以編碼側之第2次以後的濾波器處理產生之係數資料進行之解碼側的合成處理,可使用前次合成處理時合成或從編碼側供給之係數資料來進行。圖5之例,係使用以編碼側第2次之濾波器處理產生的低帶成分之係數C8及係數C9,而進行之解碼側第2次之合成處理,進一步需要以編碼側第1次之濾波器處理產生之係數C2及係數C3,將第2條線至第5條線解碼。
亦即,在第2次之合成處理中,係按照係數C9、係數C8、係數C2、係數C3之順序,從編碼側供給係數資料至解碼側。解碼側係在合成位準=2之處理中,使用係數C8及係數C9,與第1次合成處理時從編碼側供給之係數C4產生係數Cg ,並儲存於緩衝器中。使用該係數Cg 、上述係數C4與藉由第1次之合成處理產生而儲存於緩衝器之係數Cf ,產生係數Ch ,並儲存於緩衝器中。
而後,在合成位準=1之處理中,使用以合成位準=2之處理產生而儲存於緩衝器之係數Cg 及係數Ch ,以及從編碼側供給之係數C2(合成濾波器係顯示為係數C6(2))及係數C3(合成濾波器係顯示為係數C7(3))進行合成處理,將第2條線至第5條線解碼。
如此,在第2次之合成處理中,於編碼側按照係數C2、係數C3、(係數C4、係數C5)、係數C6、係數C7、係數C8、係數C9之順序產生的係數資料,按照係數C9、係數C8、係數C2、係數C3、‧‧‧之順序重排而供給至解碼側。
第3次以後之合成處理中亦同樣地,將儲存於係數重排用緩衝部152之係數資料重排成特定之順序而供給至解碼部,各4條線進行線解碼。
另外,在編碼側中,對應於包含畫面下端之線的濾波器處理(以下稱為最後次)的解碼側之合成處理,因為將以之前的處理產生而儲存於緩衝器之係數資料全部輸出,所以輸出線數增多。圖5之例係在最後次輸出8條線。
另外,係數重排部153實施之係數資料的重排處理,如藉由將讀取儲存於係數重排用緩衝部152之係數資料時的讀取位址設定成特定之順序而形成。
使用圖6更具體地說明上述為止的處理。圖6係使用5×3濾波器,實施小波轉換之濾波器處理至分解位準=2之例。在小波轉換部150中,如圖6之A中所示的一例,從輸入圖像資料之第1條線對第7條線,分別在水平及垂直方向進行第1次之濾波器處理(圖6之A的In-1)。
在第1次濾波器處理之分解位準=1的處理中,產生係數C1、係數C2及係數C3之3條線部分的係數資料,如圖6之B中所示的一例,分別配置於以分解位準=1而形成之區域HH、區域HL及區域LH(圖6之B的WT-1)。
此外,以分解位準=1形成之區域LL,以藉由分解位準=2之水平及垂直方向的濾波器處理進一步被4分割。以分解位準=2產生之係數C5及係數C4,在分解位準=1之區域LL內,係在區域LL中配置係數C5之1條線,分別在區域HH、區域HL及區域LH中配置係數C4之1條線。
小波轉換部150實施之第2次以後的濾波器處理,係每4條線進行濾波器處理(圖6之A的In-2‧‧‧),以分解位準=1產生各2條線之係數資料(圖6之B的WT-2),並以分解位準=2產生各1條線之係數資料。
圖5之第2次之例,係以分解位準=1之濾波器處理產生係數C6及係數C7的2條線部分之係數資料,如圖6之B中所示的一例,從以分解位準1形成之區域HH、區域HL及區域LH的以第1次濾波器處理所產生之係數資料的其次起配置。同樣地,在分解位準=1之區域LL內,以分解位準=2之濾波器處理所產生之1條線部分的係數C9配置於區域LL,1條線部分之係數C8分別配置於區域HH、區域HL及區域LH。
如圖6之B所示,將小波轉換後之資料解碼時,如圖6之C中所示之一例,對編碼側之第1條線至第7條線的第1次濾波器處理,輸出解碼側之第1次合成處理的第1條線(圖6之C的Out-1)。
以後,對從編碼側第2次至最後次之前的濾波器處理,以解碼側各4條線輸出(圖6之C的Out-2‧‧‧)。而後,對編碼側之最後次的濾波器處理,以解碼側輸出8條線。
以小波轉換部150從高帶成分側向低帶成分側產生之係數資料依序儲存於係數重排用緩衝部152。係數重排部153在上述之係數資料可重排前,在係數重排用緩衝部152中存儲係數資料時,從係數重排用緩衝部152,重排成合成處理時需要之順序而讀取係數資料。讀取之係數資料依序供給至熵編碼部155。
如以上所述,以分區單位而編碼之圖像資料(編碼資料)供給至封包處理部122。此時,熵編碼部155以分區單位,將關於其圖像資料之資訊作為標頭資訊(分區標頭),而供給至封包處理部122。圖7中顯示其分區標頭之結構例。
如圖7所示,分區標頭171由4個字(32×4位元)部分之資料構成,且包含PID、AT、AID、FT、CF、IF、分區時間戳記、量子化係數及分區碼長等之資訊。
PID(分區ID)係顯示從圖片最前數起之分區編號的12位元之資訊。AT(對準單元類型)係顯示構成於分區內之對準單元的屬性之4位元的資訊。對準單元係分區內之編碼資料如以編碼單位等之特定資料單位分割者。換言之,分區係藉由1個或複數對準單元而構成。AID(對準單元ID)係顯示從分區最前數起之對準單元的編號之5位元的資訊。FT(場類型)係顯示圖片係順次或交錯之場的2位元之旗標資訊。CF(成分旗標)係顯示亮度成分Y、色差成分Cb、及色差成分Cr之成分中,將複數成分合併成一個對準單元或分區的3位元之資訊。
IF(未完成旗標)係顯示係因某種原因編碼失敗之對準單 元或分區的1位元之旗標資訊。該失敗之範圍限定於PID、AT及AID顯示之酬載。
分區時間戳記(Precint Time Stamp)係顯示其分區之時間戳記的下階32位元之資訊。量子化係數(QP Y或C)係顯示其分區之使用於亮度成分Y或色差成分C之量子化時的量子化係數之值的16位元之資訊。分區碼長(Precinct Code Length Y or C)係顯示其分區之亮度成分Y或色差成分C之編碼資料的資料長之26位元的資訊。
此外,熵編碼部155以圖片單位將關於其圖像資料之資訊,作為標頭資訊(圖片標頭)而供給至封包處理部122。圖8顯示其圖片標頭之結構例。
如圖8所示,圖片標頭172由26個字(32×26位元)部分之資料構成,且包含:PI、w、CEF、CBD、DL、WF、PDI、SF、FR、AR、DBSZ、全時戳記、V0開始位置、SD、H開始位置、VF、V合計尺寸、TSD、H合計尺寸、PXCS、V尺寸、VSD、H尺寸、BRT、CTS及WTm等之資訊。
PI(輪廓指示)係進行輪廓之指定的5位元資訊。w係顯示設定加權係數之定制(custom)值用的表資訊之加權表是否包含於封包內的1位元之旗標資訊。CEF(色彩擴充旗標)係顯示是否使用色彩資訊之擴充標頭的1位元之旗標資訊。CBD(成分位元深度)係顯示成分之位元深度的5位元資訊。儲存從預先指定之值減去「8」之值。DL(DWT位準)係顯示小波轉換之分割數(分割位準)的3位元資訊。WF(小波濾 波器)係顯示在小波轉換中使用之濾波器種類的2位元資訊。PDI(圖片中斷指示)係顯示時間戳記之連續性的1位元資訊。SF(抽樣格式)係顯示色差之抽樣法的2位元資訊。
FR(幀率)係顯示幀率之1位元資訊。AR(長寬比)係顯示像素長寬比之6位元資訊。DBSZ(解碼器緩衝尺寸)係顯示以解碼器實施之分區緩衝尺寸的4位元資訊。全時戳記(FTS (Full Time Stamp))係顯示全尺寸之時間戳記的46位元資訊。
V0開始位置(FFVS (First Field Vertical Start))係顯示最前場之垂直方向有效像素開始位置的13位元資訊。SD(開始差分)係顯示FFVS與第2場之差分的2位元資訊。H開始位置(HS (Horizontal Start))係顯示水平方向之有效像素開始位置的13位元資訊。VF(視頻格式)係顯示壓縮訊號之視頻格式的4位元資訊。
V合計尺寸(FFVTS (First Field Vertical Total Size))係顯示包含最前場之空白的總像素數之13位元資訊。TSD(合計尺寸差分)係顯示FFVTS與第二場之差分的2位元資訊。H合計尺寸(HTS (Horizontal Total Size))係顯示包含水平方向之空白的總像素數之13位元資訊。PXCS(像素時脈刻度(Pixel Clock Scale))係顯示時脈之倍率的3位元資訊。
V尺寸(FFVVS(第1場垂直有效尺寸))係顯示最前場之垂直方向有效像素尺寸的13位元資訊。VSD(有效尺寸差分)係顯示FFVVS與第2場之差分的2位元資訊。H尺寸(HVS(水平有效尺寸))係顯示水平方向之有效像素尺寸的 13位元資訊。BRT(B值重設時序)係顯示B值之重設時序的2位元資訊。
CTS(定制表尺寸)係顯示定制表之尺寸的16位元資訊。指定值之數量程度地存在後續的定制值,其尺寸係CTS×2位元組。WTm(加權表m)係顯示第m個加權表之16×m位元之資訊。
另外,實際上如圖9所示,從編碼部121向封包處理部122,除了資料之外,亦供給屬性資訊及VALID資訊等。屬性資訊係顯示供給之資料是標頭或是圖像資料,或係顯示是亮度成分之資料或是色差成分之資料的資訊。VALID資訊係通知資料之讀取時序的資訊。
封包處理部122對每個特定之資料單位(分區)供給的編碼資料,依據其資料尺寸與另外指定之封包尺寸,進行封包處理。
圖10係顯示圖1之封包處理部122的內部結構例之區塊圖。
圖10中,封包處理部122具有:資料取得部201、RTP(實施傳輸協定)標頭製作部202、共用標頭製作部203、擴充標頭製作部204、圖片資訊製作部205、旗標確認部206、尺寸確認部207、片段處理部208、封包化部209及輸出部210。
資料取得部201依據與其資料一起供給之屬性資訊及VALID資訊等,取得由編碼部121供給之編碼資料及封包等。如取得分區標頭171時,資料取得部201將其供給至 RTP標頭製作部202、共用標頭製作部203、擴充標頭製作部204、旗標確認部206及尺寸確認部207。此外,如取得圖片標頭172時,資料取得部201將其供給至圖片資訊製作部205。再者,如取得編碼資料時,資料取得部201將其供給至片段處理部208。
RTP標頭製作部202於資料取得部201取得分區標頭時,依據其取得之分區標頭,製作RTP封包之標頭的RTP標頭。RTP標頭詳細內容於後述。RTP標頭製作部202將製作之RTP標頭供給至封包化部209,並通知共用標頭製作部203處理結束。
從RTP標頭製作部202收到通知時,共用標頭製作部203依據資料取得部201取得之分區標頭171,製作附加於從其分區製作之各封包的共用之標頭的共用標頭。共用標頭中包含關於其分區之基本資訊。共用標頭之詳細內容於後述。共用標頭製作部203將製作之共用標頭供給至封包化部209,並通知擴充標頭製作部204處理結束。
從共用標頭製作部203收到通知時,擴充標頭製作部204依據資料取得部201取得之分區標頭171,製作關於其分區之依需要賦予共用標頭中不包含的資訊之擴充標頭資訊。藉由製作該擴充標頭,送訊者可靈活且有效地製作標頭。擴充標頭之資訊內容不拘,而如為關於量子化係數之資訊及關於尺寸之資訊等。擴充標頭之詳細內容於後述。擴充標頭製作部204將製作之擴充標頭供給至封包化部209,並通知圖片資訊製作部205處理結束。
從擴充標頭製作部204收到通知時,且資料取得部201取得圖片標頭172時,圖片資訊製作部205依據其圖片標頭172,製作包含關於其圖片之資訊的圖片資訊。該圖片資訊之詳細內容於後述。圖片資訊製作部205將製作之圖片資訊供給至封包化部209,使其圖片資訊插入擴充標頭,並通知旗標確認部206處理結束。另外,在資料取得部201未取得圖片標頭172時,圖片資訊製作部205不製作圖片資訊,並通知旗標確認部206處理結束。
從圖片資訊製作部205收到通知時,旗標確認部206參照資料取得部201取得之分區標頭171中包含的IF,按照其旗標值,判定封包中是否包含編碼資料。如係「IF=1」時,旗標確認部206判定為其分區之資料編碼失敗,使資料取得部201捨棄(不取得)其無法解碼之編碼資料,進一步控制封包化部209,僅以標頭資訊(不含酬載)封包化。此外,如係「IF=0」時,旗標確認部206判定為其分區之編碼成功,使封包化部209包含酬載實施封包化,並通知尺寸確認部207處理結束。
從旗標確認部206收到通知時,尺寸確認部207依據資料取得部201取得之分區標頭中包含之分區碼長,確認分區之資料尺寸是否比預先另外設定之封包尺寸(1個封包中包含之酬載的資料尺寸之最大值)大。如分區之資料尺寸比封包尺寸大時,尺寸確認部207控制片段處理部208,使資料取得部201取得之編碼資料每封包尺寸地分割。反之,如分區之資料尺寸不比封包尺寸大時,尺寸確認部207控 制片段處理部208,不使資料取得部201取得之編碼資料分割。
片段處理部208被尺寸確認部207控制,於分區之資料尺寸比封包尺寸大時,每封包尺寸地分割資料取得部201取得之編碼資料而供給至封包化部209。換言之,此時,片段處理部208係在資料取得部201取得亦考慮標頭部分之1個封包尺寸部分的編碼資料時,將其1個封包尺寸部分之編碼資料作為1個酬載而供給至封包化部209。
反之,分區之資料尺寸不比封包尺寸大時,片段處理部208被尺寸確認部207控制,而將資料取得部201取得之編碼資料照樣供給至封包化部209。換言之,此時,片段處理部208係將資料取得部201取得之1個分區部分的編碼資料作為1個酬載而供給至封包化部209。
封包化部209使用從各部供給之標頭資訊,將從片段處理部208供給之酬載實施封包化。如1個分區之編碼資料藉由片段處理部208分割成複數酬載時,封包化部209對各酬載分別附加需要之標頭資訊,各個實施封包化。此外,如片段處理部208不分割編碼資料時,封包化部209對於從片段處理部208供給之1個酬載附加需要之標頭資訊而實施封包化。再者,如旗標確認部206指示酬載不包含於封包中時,封包化部209依據其指示僅以標頭資訊進行封包化。
此外,封包化部209適宜設定所產生之各封包的共用標頭中包含之SFF及M等旗標資訊之值。SFF(開始片段旗標)係顯示其封包是否係包含分區之最前部分的封包(最前封 包)之旗標資訊,M(標誌)係顯示是否係包含分區之末端部分的封包(最後封包)之旗標資訊。此等旗標資訊於解封包化處理部132實施解封包化處理時作參照。
如片段處理部208分割編碼資料時,封包化部209在分割1個分區之編碼資料所產生之酬載群內,將最前酬載之封包的SFF設定為1,將最後酬載之封包的M設定為1。
此外,如片段處理部208不分割編碼資料時,封包化部209將產生之1個封包之SFF及M分別設定為1。
如此,藉由設定SFF及M等之旗標資訊,解封包化處理部132僅須參照該旗標資訊,即可輕易地掌握其封包是分區之最前封包,或是最後封包,或是其以外之封包。藉此,解封包化處理部132如後述地可減低待機時間,並可減低解封包化處理之延遲時間。
封包化部209將產生之封包供給至輸出部210。
輸出部210將從封包化部209供給之RTP封包供給至送訊部123(圖1),而送訊至收訊裝置103(圖1)。
如上述,編碼部121如圖11所示地,將1個圖片(幀或場)分割成複數分區,每個該分區進行編碼。
如圖12所示,封包處理部122將1個分區之編碼資料每個特定封包尺寸地分割而實施封包化。分區之資料尺寸不比封包尺寸大時,產生之封包為1個。在圖12之例中,係從1個分區之編碼資料產生5個封包。
就圖像資料之一種傳送格式顯示於下。
圖13顯示RTP標頭製作部202製作之RTP封包之標頭資訊 的RTP標頭結構。RTP標頭221中設有版本編號(V)、分離(P)、有無擴充標頭(X)、送訊端數(計數器)(CC)、標誌資訊(marker bit)(M)、酬載類型(Payload type)(PT)、序號、時間戳記及同步來源(送訊端)識別符(SSRC (Synchronization Source Identifier))之各場。
版本編號(V)係顯示RTP之版本編號的2位元資訊。分離(P)係1位元之旗標資訊,其值為「1」時,表示在酬載之最後附加1個以上分離八位組(Parting Octet)(埋入資料)。有無擴充標頭(X)係1位元之旗標資訊,其值為「1」時,顯示除了固定長標頭之外還附加有擴充標頭(有標頭擴充)。送訊端數(CC)係顯示CSRC之識別符數量的4位元資訊,如多地點電話會議之情況,顯示將複數資料源之資料封包化成1個RTP時之各個資料源的識別符數量。
標誌資訊(M)係1位元之旗標資訊,如顯示酬載中任意之事件等。該標誌資訊(M)之利用方法,如在酬載類型(PT)等中設定。酬載類型(PT)係指定以其封包輸送之酬載形式的7位元資訊。
序號係顯示RTP資料封包之順序的16位元之編號資訊,初始值隨機地設定,其後續之封包中,值遞增「1」。該序號顯示通過傳送之編碼資料(圖像資料)全體的封包順序。
時間戳記係顯示RTP封包最初位元組之抽樣時刻的32位元資訊,抽樣時脈藉由酬載之資料輪廓而決定。如聲音訊號之抽樣頻率為8 kHz時,由於時間戳記之值每125μsec增加「1」,因此RTP資料封包為20 msec之資料時,時間戳記 之值係各封包各增加160。另外,初始值隨機地設定。
同步來源(送訊端)識別符(SSRC)係顯示該封包之送訊端的32位元之識別符。該資訊隨機地產生。傳輸位址改變時,亦更新該SSRC識別符。
共用標頭製作部203、擴充標頭製作部204及圖片資訊製作部205產生RTP標頭後續之酬載標頭中包含的各種資訊。圖14顯示酬載標頭之結構例。如圖14所示,酬載標頭藉由共用標頭231、量子化參數資訊232、尺寸資訊233、格式資訊234、圖片資訊235及色彩資訊236而構成,並附加於酬載237之前。
共用標頭231係包含關於藉由共用標頭製作部203製作之分區的基本資訊之標頭資訊。該共用標頭231係必須之標頭,且附加於全部封包。
量子化參數資訊232係藉由擴充標頭製作部204製作之擴充標頭,且包含關於量子化係數之資訊。尺寸資訊233係藉由擴充標頭製作部204製作之擴充標頭,且包含關於資料尺寸之資訊。格式資訊234係藉由擴充標頭製作部204製作之擴充標頭,且包含關於資料格式之資訊。圖片資訊235係藉由圖片資訊製作部205製作之擴充標頭,且包含關於來源圖像(換言之,係經編碼、封包化而傳送之圖像資料)之資訊。色彩資訊236係藉由擴充標頭製作部204製作之擴充標頭,且包含關於圖像資料顏色之資訊。
量子化參數資訊232、格式資訊234、圖片資訊235及色彩資訊236附加於分區之最前封包(亦包含不進行片段時之 封包)作為擴充標頭。尺寸資訊233附加於任意之封包中作為擴充標頭。
換言之在全部之封包中附加尺寸資訊時,分區之最前封包中包含共用標頭231至酬載237之全部。對照此,在分區之最前封包以外的封包中,僅包含共用標頭231、尺寸資訊233與酬載237。
就各資訊之詳細內容作說明。
圖15係顯示共用標頭231之結構例圖。如圖15所示,共用標頭231包含PID、AT、AID、SFF、M、TSF、NF、FT、CF、IF、X及TS等資訊。換言之,共用標頭231之第1個字(從上起第1階)與第2個字(從上起第2階),係照樣使用從編碼部121供給之分區標頭171的第1個字(Word0)與第2個字(Word1)而製作,並在第1個字之空白場(保留)之4位元中追加SFF、M、TSF及NF者。
SFF(開始片段旗標)係顯示是否為PID、AT及AID顯示之酬載的最前之1位元的旗標資訊。換言之,該封包係分區之最前封包(最前封包)時,該SFF之值設定為「1」,其以外之情況設定為「0」。
M(標誌)係顯示是否包含PID、AT及AID顯示之酬載的末端部分之1位元的旗標資訊。換言之,該封包係包含分區或對準單元之末端部分的封包(最後封包)時,該M之值設定為「1」,其以外之情況設定為「0」。
TSF(時間戳記旗標)係顯示共用標頭中是否包含時間戳記之1位元的旗標資訊。換言之,該TSF之值為「1」時, 在共用標頭231之第2個字中附加有分區標頭171之第2個字(Word1)。
NF(其次旗標)係顯示後續酬載存在之1位元的旗標資訊。換言之,該封包中附加有複數分區或對準單元之酬載,且該標頭並非封包中之最後分區或對準單元時,將該NF之值設定為「1」。
TS(時間戳記)係顯示該封包之酬載所屬之分區的時間戳記之下階32位元的資訊,且對應於分區標頭171之第2個字(Word1)。
另外,圖15所示之第3個字(從上起第3階),顯示連接於共用標頭231而賦予之擴充標頭。
圖16係顯示擴充標頭中包含之量子化參數資訊232的結構例圖。如圖16所示,量子化參數資訊232係包含ET、QP及X等資訊之資訊。擴充標頭製作部204利用從編碼部121供給之分區標頭171的第3個字(Word2),而製作該量子化參數資訊232。
ET(擴充類型)係顯示擴充標頭之內容的5位元資訊。該量子化參數資訊232使用時之情況的指定值不拘,而如為「00011」。QP(量子化參數)係顯示量子化係數之值的16位元資訊。X(擴充)係顯示是否使用擴充標頭的旗標。
圖17係顯示擴充標頭中包含之尺寸資訊233的結構例圖。如圖17所示,尺寸資訊233係包含ET、SS、及X等資訊之資訊。擴充標頭製作部204利用從編碼部121供給之分區標頭171的第4個字(Word3),製作該尺寸資訊233。
ET(擴充類型)係顯示擴充標頭之內容的5位元資訊。該尺寸資訊233使用時之情況的指定值不拘,而如為「00100」。SS(部分尺寸(Segment Size))係以字長顯示部分之酬載尺寸的26位元資訊。X(擴充)係顯示是否使用擴充標頭的旗標。
如圖7與圖15至圖17所示,編碼部121將與共用標頭231及擴充標頭(量子化參數資訊232及尺寸資訊233)相同格式之分區標頭171供給至封包處理部122。藉此,封包處理部122之共用標頭製作部203及擴充標頭製作部204可輕易且高速地製作共用標頭及擴充標頭。
圖18係顯示擴充標頭中包含之格式資訊234的結構例圖。格式資訊234基本上如圖18之A所示,包含:ET、FTI及X等資訊。擴充標頭製作部204如利用從編碼部121供給之資訊而製作該格式資訊234。
ET(擴充類型)係顯示擴充標頭之內容的5位元資訊。該格式資訊234使用時之情況的指定值不拘,而如為「00101」。FTI(格式類型辨識器)係顯示記述有關於哪個格式類型之資訊的資訊。該值不拘,如記述有Bayer資訊時,設定值「00001」。X(擴充)係顯示是否使用擴充標頭的旗標。
圖18之B中顯示記述有Bayer資訊時之格式資訊234的結構例。此時格式資訊234中,除了ET、FTI及X之外,還包含:MT、SMT、BLF、VLOF、SSF、EVF、DC、BL、RBL、RVLO、DSS、NSS及EV等資訊。
MT(鑲嵌類型)係顯示酬載之鑲嵌類型的4位元資訊。SMT(開始鑲嵌類型)係顯示幀左上方之最初像素資訊的4位元資訊。BLF(黑位準旗標)係顯示黑位準資訊存在之1位元的旗標資訊。VLOF(垂直線偏置旗標)係顯示縱條紋修正資訊存在的1位元之旗標資訊。SSF(快門速度旗標)係顯示快門速度資訊存在之1位元的旗標資訊。EVF(EV旗標)係顯示EV資訊存在之1位元的旗標資訊。DC(瑕疵更正)係顯示是否進行瑕疵修正之1位元的旗標資訊。
BL(黑位準)係顯示黑位準值之32位元的旗標資訊。RBL(修正黑位準)係顯示黑位準修正偏置值之32位元資訊。BL與RBL僅在BLF之值為「1」時存在。
RVLO(修正垂直線偏置)係顯示縱條紋修正偏置值之32位元資訊。RVLO僅在VLOF之值為「1」時存在。
DSS係顯示快門速度分子(APEX單位)之32位元資訊。NSS係顯示快門速度分母(APEX單位)之32位元資訊。DSS與NSS僅在SSF之值為「1」時存在。
EV係顯示EV值之32位元資訊。EV僅在EVF之值為「1」時存在。
圖19係顯示擴充標頭中包含之圖片資訊235的結構例圖。如圖19所示,圖片資訊235包含:ET、PI、CEF、CBD、DL、WF、PDI、SF、FR、AR、DBSZ、FTS、FFVS、SD、HS、VF、FFVTS、TSD、HTS、PXCS、FFVVS、VSD、HVS、BRT、WCF、X、CTS及WTm等資訊。圖片資訊製作部205利用從編碼部121供給之圖片標頭 172,製作該圖片資訊235。
換言之,圖片資訊235係在從編碼部121供給之圖片標頭172的第1個字(Word0)之空白場(保留)中追加ET,並在第6個字(Word5)之空白場(保留)中追加WCF與X者。
ET(擴充類型)係顯示擴充標頭之內容的5位元資訊。該圖片資訊235使用時之情況的指定值不拘,而如為「00010」。WCF(加權定制旗標)係顯示是否使用加權係數之定制值的1位元之旗標資訊。CTS僅在該WCF之值為「1」時存在。X(擴充)係顯示是否將擴充標頭繼續於該標頭而使用的旗標。
如圖8及圖19所示,編碼部121將與圖片資訊235相同格式之圖片標頭172供給至封包處理部122。藉此,封包處理部122之圖片資訊製作部205可輕易且高速地製作圖片資訊235。
圖20係顯示擴充標頭中包含之色彩資訊236的結構例圖。如圖20所示,色彩資訊236包含ET及X等之資訊。擴充標頭製作部204利用從編碼部121供給之資訊等,製作該色彩資訊236。
ET(擴充類型)係顯示擴充標頭之內容的5位元資訊。X(擴充)係顯示是否使用擴充標頭之旗標。
封包處理部122如上述地將每個分區之編碼資料實施封包化,而供給至送訊部123。送訊部123將其封包依序經由線路110而送訊至收訊裝置103。
以如上之格式從送訊部123送出之封包,經由線路110而 供給至收訊裝置103之收訊部131。收訊部131收訊其封包時,將其供給至解封包化處理部132。
圖21係顯示解封包化處理部132之內部結構例的區塊圖。如圖21所示,解封包化處理部132如具有:封包取得部251、標頭資訊分析部252、控制模式轉變部253、控制部254、標頭供給部255、資料供給部256、錯誤通知部257及控制訊號供給部258。
封包取得部251取得從收訊部131供給之封包。此時,封包取得部251取得資訊至RTP酬載標頭時,繼續其取得,並將已經取得之資訊依序供給至標頭資訊分析部252。換言之,封包取得部251在酬載之取得完成前,將標頭資訊供給至標頭資訊分析部252。此外,封包取得部251將標頭資訊亦供給至標頭供給部255,將酬載亦供給至資料供給部256。
標頭資訊分析部252分析封包取得部251取得之RTP封包的標頭資訊,換言之,分析RTP標頭及酬載標頭之資訊,並將其分析結果供給至控制模式轉變部253及控制部254。
控制模式轉變部253依據從標頭資訊分析部252供給之標頭資訊的分析結果,控制控制部254之動作模式,並依需要轉變。
控制部254以藉由控制模式轉變部253控制而轉變之控制模式,依據從標頭資訊分析部252供給之分析結果,控制標頭供給部255、資料供給部256、錯誤通知部257及控制訊號供給部258之動作。
標頭供給部255被控制部254控制,抽出從封包取得部251供給之酬載標頭中包含的各種資訊,將分區標頭171及圖片標頭172復原,而供給至解碼部133。資料供給部256被控制部254控制,將從封包取得部251供給之酬載資料供給至解碼部133。錯誤通知部257被控制部254控制,而將產生封包損失等之錯誤通知解碼部133。控制訊號供給部258被控制部254控制,而將標頭及資料以外之各種控制資訊供給至解碼部133。
如圖22所示,控制部254之控制模式中有開始模式301、待用模式302、處理模式303及損失模式304之4個模式。控制模式轉變部253依據標頭資訊分析部252分析標頭資訊之結果,掌握RTP封包之收訊狀況,而按照其狀況,使控制部254之控制模式轉變成最佳之模式。
開始模式301係處理編碼資料全體最初之封包用的模式。開始解封包化處理時,控制部254被設定成該開始模式301。待用模式302係處理分區之最前封包用的模式。於處理分區之最後封包後,控制部254被設定成該待用模式302。處理模式303係在未產生封包損失之正常時,處理分區之最前以外之各封包用的模式。未產生封包損失時,對分區之最前以外的各封包,控制部254被設定成該處理模式303。損失模式304係產生封包損失等之錯誤時,處理其分區之其餘封包用的模式。於產生封包損失時,控制部254被設定成該損失模式304。
就各模式中解封包化處理部132之詳細動作於後述。
另外,實際上如圖23所示,從解封包化處理部132向解碼部133,除了資料之外,亦供給開始資訊、結束資訊、VALID資訊、屬性資訊及錯誤通知等。
開始資訊係顯示分區或對準單元之最前封包的酬載之資訊,於解封包化處理部132將分區或對準單元之最前封包的酬載供給至解碼部133時,在該開始資訊中設定值「1」。結束資訊係顯示分區或對準單元之最後封包的酬載之資訊,於解封包化處理部132將分區或對準單元之最後封包的酬載供給至解碼部133時,在該結束資訊中設定值「1」。
屬性資訊係顯示供給之資料係標頭或是圖像資料,或是顯示係亮度成分之資料或是色差成分之資料的資訊。VALID資訊係通知資料之讀取時序的資訊。錯誤通知係將封包損失等錯誤之產生通知解碼部133的資訊。
圖24係顯示圖1之解碼部133的內部結構例之區塊圖。如圖24所示,解碼部133具有:控制資訊取得部351、解碼控制部352、解碼處理執行部353、標頭取得部354、資料取得部355、錯誤通知取得部356及捨棄處理部357。
控制資訊取得部351從解封包化處理部132取得開始資訊、結束資訊、VALID資訊及屬性資訊等控制資訊,並將其控制資訊供給至解碼控制部352。解碼控制部352依據其控制資訊,以特定之時序,使解碼處理執行部353開始解碼處理。
解碼處理執行部353依據從解封包化處理部132供給,並 藉由標頭取得部354而取得之標頭資訊,進行藉由資料取得部355取得之編碼資料的解碼處理。如圖24所示,解碼處理執行部353具有:緩衝部361、熵解碼部362及小波反轉換部363。緩衝部361暫時保持從資料取得部355供給之編碼資料,並依需要將其編碼資料供給至熵解碼部362。此外,緩衝部361暫時保持從熵解碼部362供給之編碼資料的解碼結果之係數資料,並依需要將其係數資料供給至小波反轉換部363。
熵解碼部362被解碼控制部352控制,讀取保持於緩衝部361之編碼資料,以對應於編碼部121之熵編碼部155的方法實施熵解碼,而產生係數資料。另外,熵編碼部155中進行量子化時,熵解碼部362在進行熵解碼處理後,對獲得之係數資料亦進行反量子化處理。熵解碼部362將獲得之係數資料供給至緩衝部361使其存儲。
小波反轉換部363以特定之時序讀取存儲於緩衝部361之係數資料,以對應於編碼部121之小波轉換部150的方法進行小波反轉換處理,將獲得之基帶的圖像資料作為輸出圖像資料而輸出至顯示裝置104。
標頭取得部354取得從解封包化處理部132供給之分區標頭及圖片標頭等標頭資訊,將其供給至緩衝部361使其保持。資料取得部355取得從解封包化處理部132供給之酬載資料,將其供給至緩衝部361使其保持。
錯誤通知取得部356取得從解封包化處理部132供給之在收訊處理中通知產生了封包損失等的錯誤通知,並將其供 給至捨棄處理部357。捨棄處理部357取得錯誤通知時,捨棄存儲於解碼處理執行部353之緩衝部361的編碼資料。換言之,捨棄處理部357在封包之收訊處理中,於產生封包損失時(依據序號而確認產生封包損失時),由於無法對其產生封包損失之目前的分區執行正常之熵解碼處理,因此,將存儲於緩衝部361之產生封包損失的目前分區之編碼資料全部捨棄。
其次,就各部執行之處理流程作說明。首先,參照圖25之流程圖說明藉由送訊裝置102之編碼部121執行的編碼處理之流程例。
開始編碼處理時,小波轉換部150在步驟S1中,將處理對象分區之編號A作初始設定。通常之情況,編號A設定成「1」。設定結束時,小波轉換部150在步驟S2中,於最低帶子帶中取得從上起產生A編號之1條線時需要的線數(亦即1個分區)之圖像資料,對其圖像資料在步驟S3中,進行對於在畫面垂直方向並列之圖像資料進行分析濾波的垂直分析濾波處理,在步驟S4中,進行對於在畫面水平方向並列之圖像資料進行分析濾波的水平分析濾波處理。
在步驟S5中,小波轉換部150判定是否將分析濾波處理進行至最後位準,判定為分解位準尚未達到最後位準時,將處理回到步驟S3,對目前之分解位準反覆進行步驟S3及步驟S4的分析濾波處理。
在步驟S5中,判定為分析濾波處理進行至最後位準時,小波轉換部150將處理進入步驟S6。
在步驟S6中,係數重排部153將分區A(圖片(幀或場)上起A編號之分區)之係數按照低帶至高帶之次序重排。熵編碼部155在步驟S7中,對其係數每條線實施熵編碼。
熵編碼結束時,熵編碼部155首先在步驟S8中送出分區標頭171(圖7),在步驟S9中,判定目前之處理對象的分區是否為圖片最前之分區(換言之A=1)。判定為是圖片之最前時,處理進入步驟S10,熵編碼部155送出圖片標頭172(圖8)。步驟S10之處理結束時,處理進入步驟S11。此外,在步驟S9中,判定為目前處理對象之分區並非圖片之最前分區時,省略步驟S10之處理,處理進入步驟S11。
熵編碼部155在步驟S11中,繼續標頭資訊,而將分區A之編碼資料送出外部。
小波轉換部150在步驟S12中,將編號A之值遞增「1」,將其次之分區作為處理對象,在步驟S13中,就處理對象之圖片判定是否存在未處理之圖像輸入線,判定為存在時,將處理回到步驟S2,對新的處理對象之分區反覆進行其以後之處理。
如以上地反覆執行步驟S2至步驟S13之處理,將各分區實施編碼。而後,在步驟S13中,判定為未處理之圖像輸入線不存在時,小波轉換部150結束對其圖片之編碼處理。對其次之圖片開始新的編碼處理。
採用先前之小波轉換的方法時,首先對圖片全體進行水平分析濾波處理,其次對其圖片全體進行垂直分析濾波處理。而後對獲得之低帶成分全體依序進行同樣之水平分析 濾波處理與垂直分析濾波處理。如以上所述,係遞歸地反覆分析濾波處理至分解位準達到最後位準。因此,需要使各分析濾波處理之結果保持於緩衝器中,不過,此時緩衝器需要保持圖片全體或是其時點之分解位準的低帶成分全體之濾波結果,而需要龐大之記憶體容量(保持之資料量多)。
此外,此時在圖片內,於全部小波轉換結束前,無法進行後階之係數重排及熵編碼,導致延遲時間增大。
對照此,採用編碼部121之小波轉換部150時,如上述,由於係以分區單位連續地進行垂直分析濾波處理及水平分析濾波處理至最後位準,因此與先前之方法比較,需要一次(同時期)保持(緩衝)之資料量少,而可大幅減低應備用之緩衝器的記憶量。此外,藉由進行分析濾波處理至最後位準,亦可進行後階之係數重排及熵編碼等之處理(換言之,可以分區單位進行係數重排及熵編碼)。因此,與先前之方法比較,可使延遲時間大幅減低。
此外,由於熵編碼部155係與編碼資料一起,每分區將分區標頭171,且每圖片將圖片標頭172供給至封包處理部122,因此,封包處理部122可輕易地產生標頭資訊。此外,由於該分區標頭171及圖片標頭172之格式與封包處理部122附加於封包之酬載標頭的格式相同,因此,封包處理部122可更輕易地產生標頭資訊。
再者,熵編碼部155於某種原因而編碼失敗時,藉由設立分區標頭171之IF,而顯示其分區或對準單元係編碼失 敗之分區或對準單元。藉由參照該IF,封包處理部122可輕易地抑制將無法解碼之不必要的資料實施封包化而送訊至收訊裝置103。
其次,參照圖26之流程圖說明藉由封包處理部122實施封包處理之流程例。
在步驟S31中,封包處理部122之資料取得部201判定是否取得了分區標頭171,並待機至判定為已取得。判定為取得了從編碼部121供給之分區標頭171時,處理進入步驟S32。
在步驟S32中,RTP標頭製作部202製作RTP標頭221。在步驟S33中,共用標頭製作部203依據分區標頭171製作共用標頭231。此時,共用標頭製作部203在分區標頭171之第1個字(Word0)中追加SFF、M、TSF及NF之場。
在步驟S34中,擴充標頭製作部204依據分區標頭171,製作量子化參數資訊232、尺寸資訊233、格式資訊234及色彩資訊236等擴充標頭。
在步驟S35中,圖片資訊製作部205判定是否取得了圖片標頭172。判定為已取得圖片標頭172時,處理進入步驟S36。在步驟S36中,圖片資訊製作部205參照圖片標頭172判定w之值是否為「1」,判定為w之值係「1」時,在步驟S37中,加權表(WTm)亦實施封包化地包含於圖片資訊中。於步驟S37之處理結束時,處理進入步驟S39。
此外,在步驟S36中,判定為w之值係「0」時,圖片資訊製作部205在步驟S38中,從圖片資訊刪除加權表 (WTm)。於步驟S38之處理結束時,處理進入步驟S39。
再者,於步驟S35中,判定為尚未取得圖片標頭時,處理進入步驟S39。
在步驟S39中,旗標確認部206判定分區標頭171之IF值是否為0。判定為分區標頭171之IF值係0時,處理進入步驟S40。
在步驟S40中,尺寸確認部207判定分區之資料尺寸是否比封包之酬載的最大尺寸(封包尺寸)大。
判定為分區之尺寸比封包尺寸大時,處理進入步驟S41。在步驟S41中,片段處理部208每封包尺寸地分割1個分區之編碼資料,作為彼此不同之酬載。於步驟S41之處理結束時,處理進入步驟S43。
此外,在步驟S40中,判定為分區之資料尺寸不比封包尺寸大時,片段處理部208不進行編碼資料之分割。換言之,此時省略步驟S41之處理,處理進入步驟S43。
再者,於步驟S39中,判定為「IF=0」時,處理進入步驟S42。在步驟S42中,資料取得部201被旗標確認部206控制,捨棄供給之編碼資料。於步驟S42之處理結束時,處理進入步驟S43。
封包化部209在步驟S43中,使用各酬載及標頭資訊產生RTP封包,在步驟S44中,設定各封包之SFF及M等之旗標資訊。
如以上地設定各旗標資訊時,輸出部210將其RTP封包輸出至送訊部123。
在步驟S45中,資料取得部201判定是否已處理全部之分區。判定為未處理之分區存在時,處理回到步驟S31,反覆實施其以後之處理。此外,在步驟S45中,判定為已處理全部之分區時,封包處理結束。
如以上所述,封包處理部122可依據從編碼部121供給之標頭資訊,輕易地產生共用標頭及擴充標頭。
此外,如上述,在步驟S36至步驟S38中,圖片資訊製作部205可依據分區標頭171之w值,輕易且高速地控制加權表之附加。換言之,圖片資訊製作部205只須確認分區標頭171之w值,可僅在需要加權表時適切地附加。藉此,可抑制從送訊裝置102轉送至收訊裝置103之資料量不必要的增大,及隨之造成各部分不必要之負荷增大。
再者,如上述,於步驟S39中,分區標頭171之IF值係「1」時,旗標確認部206在步驟S42中控制資料取得部201,以不使其取得編碼資料之方式,而不使封包附加酬載。換言之,此時從封包處理部122輸出之RTP封包中僅包含標頭資訊,而不含酬載。藉由如此動作,封包處理部122只須參照從編碼部121供給之分區標頭171,即可輕易且高速地減低無法解碼之不必要的資料送訊,並可抑制送訊部123、線路110及收訊裝置103等不必要之負荷增大。
此外,如上述,由於在步驟S40中,尺寸確認部207可依據分區標頭171判定分區之尺寸是否比封包尺寸大,因此封包處理部122無需存儲1個分區之編碼資料,即可輕易且高速地判定是否實施片段。
再者,封包化部209於步驟S44中,就分區之最前封包,係設立共用標頭231之SFF的旗標,就分區之最後封包係設立共用標頭231之M的旗標。藉由設立此種旗標,收訊裝置103之解封包化處理部132只須參照標頭資訊即可輕易地識別分區之最前與分區之末端。藉此,解封包化處理部132可如後述地高速且輕易地進行解封包化處理。
再者,此時藉由設立共用標頭231之IF旗標,收訊裝置103之解封包化處理部132只須參照標頭資訊,即可輕易地識別封包中並未包含酬載。藉此,解封包化處理部132可如後述地高速且輕易地進行解封包化處理。
其次,就封包收訊之收訊裝置103的解封包化處理部132執行之處理作說明。如上述,解封包化處理部132以4個控制模式進行解封包化處理。開始解封包化處理時,解封包化處理部132設定成開始模式301。
首先,參照圖27之流程圖說明其開始模式301中藉由解封包化處理部132執行之開始模式處理的流程例。
在步驟S61中,封包取得部251判定是否已取得封包,並在判定為經由收訊部131而取得封包之前待機。判定為已取得封包時,處理進入步驟S62。在步驟S62中,標頭資訊分析部252取得封包之標頭資訊,判定是否為「PID=0」,「CF=4」且「SFF=1」。換言之,標頭資訊分析部252判定是否為將複數成分合併為1個之圖片最前分區的最初封包。判定為並非「PID=0」,「CF=4」且「SFF=1」時,處理回到步驟S61,反覆進行其以後之處理。換言之,在判 定為「PID=0」,「CF=4」且「SFF=1」之前,反覆進行步驟S61及步驟S62之處理,於判定為「PID=0」,「CF=4」且「SFF=1」時,處理進入步驟S63。
在步驟S63中,控制部254如後述地執行以各模式執行之對分區之最前封包的拆報處理之模式共用處理。模式共用處理之詳細內容於後述。模式共用處理結束時,由於控制模式轉變成其他模式,因此開始模式處理結束。
如以上所述,在開始模式中,控制部254只須參照共用標頭231之SFF的值,即可輕易地檢測圖片之最前分區的最前封包。此外,控制部254藉由檢測其圖片之最前分區的最前封包,在其時點開始模式共用處理,可開始從其分區抽出酬載。換言之,由於控制部254無需確認分區之最後封包,即可掌握新的分區,因此可更提早抽出酬載之開始時序,而可減低延遲時間。
其次,參照圖28之流程圖說明在圖27之步驟S63中執行之模式共用處理的流程例。該模式共用處理如後述,係在其他模式中亦執行之處理,解封包化處理部132係在尚未確認前1個分區之最後封包,確認出新的分區之最前封包時,進行對其分區之解封包化處理者。
因此,該模式共用處理係在封包取得部251已經取得封包之狀態下開始。
開始模式共用處理時,在步驟S82中,標頭資訊分析部252參照共用標頭231判定是否為「IF=0」。判定為「IF=1」時,處理進入步驟S83。
判定為「IF=1」時,控制部254在步驟S83中控制標頭供給部255及資料供給部256,僅將封包之標頭部分轉送至解碼部133。於IF=1時,基本上其封包中並未包含酬載。若即使包含仍無法解碼,因此控制部254控制資料供給部256,而禁止其酬載轉送。
於步驟S83之處理結束時,控制模式轉變部253在步驟S84中,將控制模式向等待其次分區之最前封包的待用模式轉變。就待用模式之處理於後述。轉變控制模式時,模式共用處理結束。
在步驟S82中,判定為「IF=0」時,處理進入步驟S85。此時酬載之編碼資料係正常編碼後之資料。在步驟S85中,標頭供給部255被控制部254控制,而將分區標頭4個字部分轉送至解碼部133。
在步驟S86中,標頭資訊分析部252參照共用標頭231判定是否為「PID=0」且「CF=4」。判定為「PID=0」且「CF=4」時,處理進入步驟S87。在步驟S87中,標頭資訊分析部252參照共用標頭231判定是否為「w=1」。判定為「w=1」時,處理進入步驟S88,標頭供給部255被控制部254控制,而將圖片標頭172以亦包含加權表之方式,26個字部分轉送至解碼部133。步驟S88之處理結束時,處理進入步驟S90。
此外,在步驟S87中,判定為並非「w=1」時,處理進入步驟S89,標頭供給部255被控制部254控制,而將圖片標頭172以亦不含加權表之方式,僅6個字部分轉送至解碼 部133。步驟S89之處理結束時,處理進入步驟S90。
此外,在步驟S86中,判定為「PID=0」且「CF=4」時,由於並非圖片之最前分區,因此標頭供給部255被控制部254控制,不將圖片標頭172轉送至解碼部133。因此,此時處理進入步驟S90。
在步驟S90中,資料供給部256被控制部254控制,將封包之其餘酬載,換言之將編碼資料轉送至解碼部133。在步驟S91中,標頭資訊分析部252參照共用標頭231判定是否為「M=1」。判定為「M=1」,且處理對象之封包係分區之最後封包時,處理進入步驟S92,控制部254被控制模式轉變部253控制,將控制模式向待用模式轉變。換言之,由於此次最後封包之處理結束,因此控制模式向等待其次分區之最前封包的待用模式轉變。轉變控制模式時,模式共用處理結束。
此外,在步驟S91中,判定為並非「M=1」,且處理對象之封包並非分區之最後封包時,處理進入步驟S93,控制部254被控制模式轉變部253控制,而將控制模式向處理模式轉變。換言之,由於此次並非最後封包之封包的轉送處理正常地結束,因此控制模式向等待相同分區之後續封包的處理模式轉變。轉變控制模式時,模式共用處理結束。該模式共用處理係在圖27之步驟S63中執行者時,藉由模式共用處理結束,處理回到圖27之步驟S63,而結束開始模式處理。
如以上所述,解封包化處理部132依據SFF及M之值,可 輕易地識別分區之最前封包及最後封包。此外,由於可藉由M識別最後封包,因此解封包化處理部132可輕易地每個分區適宜轉變模式。藉此解封包化處理部132可對各分區適切地進行解封包化處理。再者,由於可藉由SFF識別最前封包,因此解封包化處理部132即使不確認最後封包仍可掌握分區之更新。換言之,如封包損失產生時,換言之,即使取得之封包的序號不與前次取得之封包的序號連續時,解封包化處理部132在其封包係新的分區之最前封包時,無需等待其次之分區,即可從其新的分區之封包開始抽出酬載。換言之,解封包化處理部132可使不必要之待機時間減低。當然,不僅開始模式,就連處理模式及損失模式中,執行模式共用處理時,解封包化處理部132亦可縮短待機時間,因此可實現延遲時間之縮短。
此外,如步驟S83,解封包化處理部132只須參照共用標頭231,即可輕易地抑制將無法解碼之不必要的酬載供給至解碼部133。藉此可減輕解碼部133之解碼處理負荷。另外,由於標頭資訊可利用於解碼處理,因此控制部254僅轉送標頭資訊。
其次,參照圖29之流程圖說明待用模式處理之流程例。該待用模式處理係等待其次分區之最前封包的模式之處理,且於藉由控制模式轉變部253而將控制模式轉變成待用模式時開始。
開始待用模式處理時封包取得部251在步驟S111中,判定是否已收訊了封包,並在判定為已收訊之前待機。從收訊 部131供給封包,而判定為已收訊了封包時,處理進入步驟S112。
在步驟S112中,標頭資訊分析部252參照RTP標頭221,判定序號是否與前次收訊之封包連續。序號與前次收訊之封包不連續時,表示封包收訊失敗(產生封包損失)。判定為序號與前次收訊之封包連續,且並未產生封包損失時,處理進入步驟S113。
步驟S113至步驟S122之各處理,與參照圖28而說明之模式共用處理之步驟S82及步驟S83、步驟S85至步驟S91、與步驟S93之各處理同樣地執行。
換言之,步驟S113之處理對應於步驟S82,步驟S114之處理對應於步驟S83。不過,在待用模式處理時,由於已經是待用模式,因此省略對應於圖28之步驟S84的處理,而處理進入步驟S111(與圖28中轉變成待用模式,而開始待用模式處理者相等)。
此外,步驟S115至步驟S121分別對應於圖28之步驟S85至步驟S91。不過,待用模式處理時,由於已經是待用模式,因此在步驟S121中,判定為「M=1」時,省略對應於圖28之步驟S92的處理,處理進入步驟S111(與圖28中轉變成待用模式,而開始待用模式處理者相等)。
另外,步驟S121中,判定為並非「M=1」時,處理進入步驟S122。該步驟S122之處理對應於圖28之步驟S93的處理,控制模式轉變部253使控制模式轉變成處理模式時,結束待用模式處理。
此外,在步驟S112中,判定為序號與前次收訊之封包不連續,而產生了封包損失時,處理進入步驟S123。
在步驟S123中,標頭資訊分析部252參照共用標頭231判定是否為「SFF=1」。判定為「SFF=1」時,處理回到步驟S113,並反覆進行其以後之處理。由於係以分區單位進行解碼處理,因此在分區內未產生封包損失時,其分區可解碼。換言之,係「SFF=1」時,表示並非目前處理對象之封包所屬之分區,而係在過去之分區中產生了封包損失者。此外,待用模式時,其過去之分區的編碼資料藉由解碼部133之存儲已結束。因此,即使產生封包損失,若新取得之封包係新的分區之最前封包時,可忽略其封包損失,處理回到步驟S113。
步驟S123中判定為並非「SFF=1」時,處理進入步驟S124。此時封包損失在與處理對象之封包相同的分區內產生。因此,由於其分區無法解碼,因此終止酬載之轉送。換言之,在步驟S124中,資料供給部256被控制部254控制,捨棄收訊之封包,而不轉送至解碼部133。
如上述,由於係待用模式,因此過去之分區的編碼資料藉由解碼部133之存儲已結束,新的分區之編碼資料尚未存儲。因此,此時由於解碼部133無需捨棄資料,因此解封包化處理部132無需將錯誤通知解碼部133。
在步驟S125中,控制部254被控制模式轉變部253控制,而將控制模式轉變成在產生了錯誤之分區中取得其次分區之封包前待機的模式之損失模式。控制模式轉變成損失模 式時,結束待用模式處理。
如以上所述,在待用模式中,解封包化處理部132可依據SFF及M之值,輕易地識別分區之最前封包及最後封包。此外,由於可藉由M識別最後封包,因此解封包化處理部132可輕易地每個分區適宜轉變模式。藉此,解封包化處理部132可對各分區適切地進行解封包化處理。再者,由於可藉由SFF識別最前封包,因此解封包化處理部132即使不確認最後封包,仍可掌握分區之更新。換言之,如產生封包損失時,換言之,即使取得之封包的序號與前次取得之封包的序號不連續時,解封包化處理部132只要其封包係新的分區之最前封包,無需等待其次之分區,即可從其新的分區之封包開始抽出酬載。換言之,解封包化處理部132可使不必要之待機時間減低。
其次,參照圖30之流程圖說明處理模式處理之流程例。該處理模式處理係等待相同分區之後續封包的模式之處理,且在藉由控制模式轉變部253將控制模式轉變成處理模式時開始。
開始處理模式處理時,封包取得部251在步驟141中,判定是否已收訊了封包,並在判定為已收訊之前待機。從收訊部131供給封包,而判定為已收訊了封包時,處理進入步驟S142。
在步驟S142中,標頭資訊分析部252參照RTP標頭221,判斷序號是否與前次收訊之封包連續。判斷為序號與前次收訊之封包連續,且並未產生封包損失時,處理進入步驟 S143。
在步驟S143中,標頭供給部255被控制部254控制,從封包刪除共用標頭231。在步驟S144中,資料供給部256被控制部254控制,將其餘之酬載資料轉送至解碼部133。在步驟S145中,標頭資訊分析部252參照共用標頭231,判定是否為「M=1」,判定為並非「M=1」,且並非分區之最後封包時,由於相同之分區中存在後續的封包,因此處理回到步驟S141,反覆進行其以後之處理。
換言之,係反覆進行步驟S141至步驟S145之處理,並從分區之各封包抽出酬載而轉送至解碼部133。
在步驟S145中,判定為「M=1」,且處理對象之封包係分區之最後封包時,處理進入步驟S146,控制部254被控制模式轉變部253控制,而將控制模式轉變成待用模式。控制模式轉變成待用模式時,結束處理模式處理。
此外,在步驟S142中,判定為序號與前次收訊之封包不連續,且產生了封包損失時,處理進入步驟S147。
此時,由於其分區之資料存儲於解碼部133中,因此在步驟S147中,錯誤通知部257被控制部254控制,將轉送錯誤通知解碼部133。
錯誤通知結束時,標頭資訊分析部252在步驟S148中,參照共用標頭231判定是否為「SFF=1」。判定為「SFF=1」時,處理進入步驟S149。在步驟S149中,控制部254執行參照圖28之流程圖所說明之模式共用處理。此時,模式共用處理結束時,處理回到圖30之步驟S149,而 結束處理模式處理。
此外,在步驟S148中,判定為並非「SFF=1」時,處理進入步驟S150,資料供給部256被控制部254控制,捨棄所收訊之封包。在步驟S151中,控制部254被控制模式轉變部253控制,將控制模式轉變成損失模式。控制模式轉變成損失模式時,結束處理模式處理。
如以上所述,在處理模式中,解封包化處理部132可依據SFF及M之值,輕易地識別分區之最前封包及最後封包。此外,由於可藉由M識別最後封包,因此解封包化處理部132可輕易地每個分區使模式適宜轉變。藉此,解封包化處理部132可對各分區適切地進行解封包化處理。再者,由於可藉由SFF識別最前封包,因此解封包化處理部132即使不確認最後封包,仍可掌握分區之更新。
如並未產生封包損失時,解封包化處理部132從依序供給之各封包抽出酬載,依據M之值確認最後封包,判定為對其分區之處理已結束時,轉變成待用模式。產生了封包損失時,解封包化處理部132對解碼部133通知錯誤,若無最前封包,則捨棄其封包,並以在確認其次分區之封包前待機的方式轉變成損失模式。不過,係「SFF=1」時,換言之,確認封包損失時取得之封包係新的分區之最前封包時,解封包化處理部132藉由執行模式共用處理,不轉變成待用模式及損失模式,換言之,由於可不等待新的分區之封包,而開始從其分區抽出酬載,因此,可更提早抽出酬載之開始時序,而可使延遲時間減低。
其次,參照圖31之流程圖說明損失模式處理之流程例。該損失模式處理係在相同分區中產生封包損失時,在收訊其次分區之封包前待機的模式之處理,並在藉由控制模式轉變部253將控制模式轉變成損失模式時開始。
開始損失模式處理時,封包取得部251在步驟S171中,判定是否已收訊了封包,並在判定為已收訊之前待機。從收訊部131供給封包,而判定為已收訊了封包時,處理進入步驟S172。
在步驟S172中,標頭資訊分析部252參照共用標頭231判定是否為「SFF=1」。判定為並非「SFF=1」,且並非分區之最前封包時,處理進入步驟S173,此時標頭資訊分析部252判定是否為「M=1」。判定為並非「M=1」,換言之判定為並非分區之最後封包時,處理回到步驟S171,反覆進行其以後之處理。
在步驟S173中,判定為「M=1」時,處理進入步驟S174,控制部254被控制模式轉變部253控制,將控制模式轉變成待用模式。控制模式轉變成待用模式時,結束損失模式處理。
此外,在步驟S172中,判定為「SFF=1」時,控制部254執行參照圖28之流程圖所說明之模式共用處理。此時,模式共用處理結束時,處理回到圖31之步驟S175,而結束損失模式處理。
換言之,在損失模式中,解封包化處理部132亦可依據SFF及M之值輕易地識別分區之最前封包及最後封包。此 外,由於可藉由M識別最後封包,因此解封包化處理部132可輕易地每個分區使模式適宜轉變。藉此,解封包化處理部132可對各分區適切地進行解封包化處理。再者,由於可藉由SFF識別最前封包,因此解封包化處理部132即使不確認最後封包,仍可掌握分區之更新。
損失模式時,解封包化處理部132取得封包,而基本上待機,在依據M之值檢測出最後封包時,轉變成待用模式,準備取得其次分區之最前封包。此外,依據SFF之值而檢測出最前封包時,解封包化處理部132藉由執行模式共用處理,而開始從其分區抽出酬載。
藉由如此動作,解封包化處理部132可更提早抽出酬載之開始時序,而可使延遲時間減低。
如以上所述,藉由依狀況切換控制模式,而進行解封包化處理,解封包化處理部132即使不設置解封包化用之緩衝器,而每個分區存儲封包,仍可依據供給之封包的標頭資訊,依序適切地進行處理,而可輕易且高速地進行解封包化處理。此外,產生了封包損失時,由於解封包化處理部132依需要進行錯誤通知,因此解碼部133可抑制執行不必要之解碼處理,而可使解碼處理之負荷減輕。
再者,解封包化處理部132可藉由IF之值輕易地抑制將無法解碼之不必要的酬載供給至解碼部133。藉此,可使解碼部133解碼處理之負荷減輕。
解碼部133對應於以上解封包化處理部132之處理,進行從解封包化處理部132供給之編碼資料的解碼處理。因 而,解碼部133執行控制解碼處理之執行的解碼控制處理。參照圖32之流程圖,說明解碼控制處理之流程例。該編碼控制處理係在開始供給編碼資料至結束之間執行。
在步驟S191中,資料取得部355取得從解封包化處理部132供給之編碼資料。在步驟S192中,緩衝部361存儲其編碼資料。在步驟S193中,控制資訊取得部351取得控制資訊。在步驟S194中,解碼控制部352依據控制資訊取得部351取得之控制資訊,判定資料取得部355取得之資料是否為分區之最前封包的酬載。判定為分區之最前封包的酬載時,處理進入步驟S195。在步驟S195中,解碼控制部352依據控制資訊取得部351取得之控制資訊,判定被資料取得部355取得而存儲於緩衝部361之資料是否連續。判定為不產生封包損失,且被資料取得部355取得而存儲於緩衝部361之資料連續時,處理回到步驟S191,對其次之編碼資料反覆進行步驟S191以後之處理。
此外,在步驟S195中,判定為產生封包損失,且資料不連續時,處理進入步驟S196。在步驟S196中,解碼控制部352控制熵解碼部362使其開始補充處理。熵解碼部362係以分區單位進行解碼處理,不過在分區之資料遺漏時,係使用其他分區之資料等進行補充處理。
因此,解碼控制部352於取得與前次取得之封包不連續的最前封包時,控制熵解碼部362,對其前1個分區執行補充處理。於補充處理結束時,處理進入步驟S197。
在步驟S197中,解碼控制部352判定是否結束解碼控制 處理,判定為不結束時,處理回到步驟S191,反覆實施其以後之處理。此外,在步驟S197中,判定為結束解碼控制處理時,結束解碼控制處理。
此外,在步驟S194中,判定為資料取得部355取得之資料並非分區之最前封包的酬載時,處理進入步驟S198,解碼控制部352判定資料取得部355取得之資料是否為分區之最後封包的酬載。判定為分區之最後封包的酬載時,處理進入步驟S199,解碼控制部352控制熵解碼部362,而對存儲於緩衝部361之編碼資料開始實施解碼處理。結束步驟S199之處理時,處理回到步驟S197。
此外,在步驟S198中,判定為資料取得部355取得之資料並非分區之最後封包的酬載時,處理回到步驟S197。
其次,參照圖35之流程圖說明在圖33之步驟S199中開始的解碼處理之流程例。該解碼處理藉由圖34之解碼控制處理來控制,並以分區單位執行。
開始解碼處理時,熵解碼部362在步驟S211中,取得存儲於緩衝部361之編碼資料,在步驟S212中,每條線實施編碼資料之熵解碼。在步驟S213中,緩衝部361保持其解碼所獲得之係數資料。在步驟S214中,小波反轉換部363判定緩衝部361中是否存儲有1個分區部分之係數資料,判定為尚未存儲時,將處理回到步驟S211,執行其以後之處理,待機至於緩衝部361中存儲1個分區部分之係數資料。
在步驟S214中,判定為緩衝部361中存儲了1個分區部分之係數資料時,小波反轉換部363將處理進入步驟S215, 讀取1個分區部分之保持於緩衝部361的係數資料。
而後,小波反轉換部363對於其讀取之係數資料,在步驟S216中,進行對並列於畫面垂直方向之係數資料進行合成濾波處理的垂直合成濾波處理,在步驟S217中,進行對並列於畫面水平方向之係數資料進行合成濾波處理的水平合成濾波處理,在步驟S218中,判定合成濾波處理是否結束至位準1(分解位準之值為「1」之位準),亦即是否反轉換至小波轉換前之狀態,判定為尚未到達位準1時,將處理回到步驟S216,反覆實施步驟S216及步驟S217之濾波處理。
在步驟S218中,判定為反轉換處理結束至位準1時,小波反轉換部363將處理進入步驟219,而將藉由反轉換處理所獲得之圖像資料輸出至外部。
在步驟S220中,熵解碼部362判定是否結束解碼處理,判定為尚未結束解碼處理時,將處理回到步驟S211,反覆實施其以後之處理。此外,在步驟S220中,因分區結束等,而判定為結束解碼處理時,熵解碼部362結束解碼處理。
先前之小波反轉換處理之方法的情況,對處理對象之分解位準的全部係數,首先係在畫面水平方向進行水平合成濾波處理,其次在畫面垂直方向進行垂直合成濾波處理。換言之,在各合成濾波處理時,需要使其合成濾波處理之結果保持於緩衝器中,此時緩衝器需要保持該時點之分解位準的合成濾波結果與其次之分解位準的全部係數,因而 需要龐大之記憶體容量(保持之資料量多)。
此外,此時在圖片(交錯方式時為場)內,由於尚未進行圖像資料輸出至全部小波反轉換結束,因此從輸入至輸出之延遲時間增大。
對照此,解碼部133之小波反轉換部363的情況如上述,由於係以分區單位連續進行垂直合成濾波處理及水平合成濾波處理至位準1,因此與先前之方法比較,一次(同時期)進行緩衝需要之資料量少,可使應備用之緩衝器的記憶量大幅減低。此外,藉由進行合成濾波處理(小波反轉換處理)至位準1,可在獲得圖片內之全部圖像資料前(以分區單位)依序輸出圖像資料,與先前之方法比較,可使延遲時間大幅減低。
其次,參照圖34之流程圖,說明在解碼部133中,與圖32之解碼控制處理並列進行之對來自解封包化處理部132之錯誤通知的處理之錯誤通知對應處理之流程例。
圖34中,開始錯誤通知處理時,錯誤通知取得部356在步驟S241中,判定是否已從解封包化處理部132取得錯誤通知。處理待機至判定為已取得錯誤通知。在步驟S241中,判定為已取得錯誤通知時,處理進入步驟S242。在步驟S242中,捨棄處理部357判定緩衝部361中是否存在目前收訊中途之分區(屬於產生封包損失之最新的分區之編碼資料)。
判定為目前收訊中途之分區存在於緩衝部361時,處理進入步驟S243。在步驟S243中,捨棄處理部357捨棄存儲 於緩衝部361之收訊中的切片(slice)。步驟S243之處理結束時,處理進入步驟S244。此外,在步驟S242中,判定為目前收訊中途之切片不存在於緩衝部361時,省略步驟S243之處理,處理進入步驟S244。
在步驟S244中,捨棄處理部357判定是否已結束錯誤通知對應處理。判定為解封包化處理繼續,且錯誤通知對應處理亦尚未結束時,處理回到步驟S241,反覆實施其以後之處理。此外,在步驟S244中,判定為結束錯誤通知對應處理時,結束錯誤通知對應處理。
如以上所述,由於解碼部133按照來自解封包化處理部132之錯誤通知,捨棄產生封包損失之切片的編碼資料,因此,可避免進行不必要之解碼處理。由於可如此地進行適切之解碼處理,因此解碼部133可輕易且高速地進行解碼處理,並可減低解碼處理之負荷,使電路規模及成本減低。
圖35顯示藉由解封包化處理部132進行之錯誤通知的情況例。
圖35中,解封包化處理部132與解碼部133係以6條訊號線連接者。解封包化處理部132將從收訊之封包1刪除RTP標頭等而抽出的編碼資料(Datal)供給至解碼部133。此時,該編碼資料(Datal)係新的切片之最前時,解封包化處理部132之控制訊號供給部258被控制部254控制,而通知開始資訊(START)。
其次到達之封包係封包5時,判斷為有封包損失。此 時,因為解碼部133中已經傳送有分區之一部分的Datal,所以解封包化處理部132之錯誤通知部257被控制部254控制而進行錯誤通知。此外,因為封包5係「SFF=1」,所以解封包化處理部132之控制訊號供給部258被控制部254控制而通知開始資訊(START)。
另外,以上係說明封包處理部122於分區之資料尺寸比封包尺寸大時,分割資料而產生複數封包,不比其大時係產生1個封包,不過,分區之資料尺寸比封包尺寸小時,亦可將複數分區之資料作為1個封包。
該情況下,酬載標頭之結構如圖36所示,依序並列標頭資訊及酬載。圖36之例的情況,係在第1個分區之資料的共用標頭231至酬載237之後,構成第2個分區之資料的部分資訊431、量子化參數資訊432、尺寸資訊433、格式資訊434、圖片資訊435、色彩資訊436及酬載437,並在其後並列第3個以後之分區的資料。
部分資訊431係對第2個分區之共用標頭,且如圖37所示,基本上包含與共用標頭231相同之資訊。換言之,部分資訊431係依據分區標頭171而製作。另外在本身之後存在其他分區之資料時,在共用標頭231(部分資訊431亦同)中,將NF之值設定成「1」。
參照圖38之流程圖說明該情況之封包處理的流程例。
如圖38所示,該情況之封包處理基本上亦與參照圖26而說明之情況同樣地執行。步驟S301至步驟S312之各處理,與圖26之步驟S31至步驟S42之各處理同樣地執行,步驟 S315至步驟S317之各處理,與圖26之步驟S43至步驟S45之各處理同樣地執行。
不過,在步驟S310中,判定為分區之尺寸不比封包尺寸大時,封包處理部122之尺寸確認部207判定相同封包中能否追加新的酬載。封包尺寸中有餘裕,判定為可追加酬載時,處理進入步驟S314,資料取得部201判定是否已取得分區標頭,並待機至判定為已取得。判定為已取得分區標頭時,處理回到步驟S303,對追加於封包中之分區反覆實施其以後之處理。換言之,藉由反覆實施步驟S303至步驟S310,與步驟S313及步驟S314之迴路處理,在相同封包中依序追加分區至編碼資料之合計資料尺寸比封包尺寸大。
另外,在步驟S313中,判定為封包中無法追加酬載時,處理回到步驟S313,而執行其以後之處理。換言之,此時係以1個分區之編碼資料產生1個封包。
如以上所述,藉由進行封包處理,可在1個封包中包含複數分區之資料。
藉由以上圖1所示之傳送系統100之各部而執行的各種處理,如圖39所示地適宜而並列地執行。
圖39係概略顯示藉由圖1所示之傳送系統100的各部而執行之處理的各要素之並列動作的例圖。該圖39係與上述圖6對應者。對圖像資料之輸入In-1(圖39之A),以小波轉換部150(圖2)實施第1次之小波轉換WT-1(圖39之B)。如參照圖5之說明,該第1次之小波轉換WT-1係在輸入最初之3條線的時點開始,而產生係數C1。亦即,從輸入圖像資料 In-1至開始小波轉換WT-1,產生3條線部分之延遲。
所產生之係數資料儲存於係數重排用緩衝部152(圖2)。以後,對輸入之圖像資料實施小波轉換,第1次之處理結束時,照樣將處理轉移至第2次之小波轉換WT-2。
第2次之小波轉換WT-2用的圖像資料In-2之輸入,與該第2次之小波轉換WT-2的處理並列地,藉由係數重排部153(圖2)執行3個之係數C1、係數C4及係數C5的重排Ord-1(圖39之C)。
另外,從小波轉換WT-1結束至開始重排Ord-1之延遲,如係伴隨將重排處理指示係數重排部153之控制訊號的傳達之延遲,係數重排部153對控制訊號開始處理時需要之延遲,及程式處理時需要之延遲的依據裝置及系統結構的延遲,而並非編碼處理中本質性之延遲。
係數資料按照重排結束之順序,從係數重排用緩衝部152讀取,而供給至熵編碼部155(圖2),進行熵編碼EC-1(圖39之D)。該熵編碼EC-1可不等待3個之係數C1、係數C4及係數C5全部重排結束而開始。如可在藉由最初輸出之係數C5重排1條線結束的時點,對該係數C5開始熵編碼。此時,從開始重排Ord-1之處理至開始熵編碼EC-1之處理的延遲成為1條線部分。
藉由熵編碼部155實施熵編碼EC-1結束之編碼資料,實施特定之訊號處理後,經由線路110而傳送至收訊裝置103(圖39之E)。此時編碼資料被封包化而傳送。
對送訊裝置102之編碼部121,在藉由第1次之處理輸入7 條線部分之圖像資料後,繼續依序輸入圖像資料至畫面上的下端之線。編碼部121伴隨圖像資料之輸入In-n(n係2以上),如上述地,每4條線進行小波轉換WT-n、重排Ord-n及熵編碼EC-n。於編碼部121中對最後次之處理的重排Ord及熵編碼EC係對6條線進行。此等處理在編碼部121中,如例示於圖39之A至圖39之D,係並列地進行。
藉由編碼部121之熵編碼EC-1所編碼之編碼資料的封包傳送至收訊裝置103,實施解封包化處理等後,供給至解碼部133。解碼部133之熵解碼部362對於被供給之藉由熵編碼EC-1所編碼之編碼資料,依序進行熵代碼之解碼iEC-1,復原係數資料(圖39之F)。被復原之係數資料依序儲存於緩衝部361。小波反轉換部363於緩衝部361中儲存了可進行小波反轉換程度之係數資料後,從緩衝部361讀取係數資料,並使用讀取之係數資料進行小波反轉換iWT-1(圖39之G)。
如參照圖5之說明,藉由小波反轉換部363之小波反轉換iWT-1,可在係數C4及係數C5儲存於緩衝部361的時點開始。因此,從藉由熵解碼部362開始解碼iEC-1至藉由小波反轉換部363開始小波反轉換iWT-1的延遲成為2條線部分。
小波反轉換部363中,藉由第1次小波轉換之3條線部分的小波反轉換iWT-1結束時,進行小波反轉換iWT-1所產生之圖像資料的輸出Out-1(圖39之H)。輸出Out-1如使用圖5及圖6之說明,係輸出第1條線之圖像資料。
對解碼部133輸入在編碼部121中藉由第1次之處理而3條線部分編碼後的係數資料後,繼續依序輸入藉由熵編碼EC-n(n係2以上)而編碼之係數資料。解碼部133係對輸入之係數資料如上述地,每4條線進行熵解碼iEC-n及小波反轉換iWT-n,依序進行藉由小波反轉換iWT-n所復原之圖像資料的輸出Out-n。對應於編碼部121之最後次的熵解碼iEC及小波反轉換iWT,係對6條線進行,輸出Out係輸出8條線。此等處理在解碼部133中,如圖39之F至圖39之H所例示,係並列地進行。
如上述,藉由從畫面上部至下部的方向按次序並列進行編碼部121及解碼部133中之各處理,可以更低的延遲進行圖像壓縮處理及圖像解碼處理。
參照圖39,嘗試計算使用5×3濾波器進行小波轉換至分解位準=2時之從圖像輸入至圖像輸出的延遲時間。從將第1條線之圖像資料輸入編碼部121至從解碼部133輸出該第1條線之圖像資料的延遲時間為下述各要素的總和。另外,此處,排除傳送路徑中之延遲及伴隨裝置各部之實際處理時序的延遲等之依系統結構而不同的延遲。
(1)從最初之線輸入至7條線部分之小波轉換WT-1結束的延遲D_WT
(2)伴隨3條線部分之計數重排Ord-1的時間D_Ord
(3)伴隨3條線部分之熵編碼EC-1的時間D_EC
(4)伴隨3條線部分之熵解碼iEC-1的時間D_iEC
(5)伴隨3條線部分之小波反轉換iWT-1的時間D_iWT
參照圖39嘗試計算上述各要素產生之延遲。(1)之延遲D_WT係10條線部分之時間。(2)之時間D_Ord、(3)之時間D_EC、(4)之時間D_iEC及(5)之時間D_iWT分別係3條線部分之時間。此外,在編碼部121中,從開始重排Ord-/經過1條線後,可開始熵編碼EC-1。同樣地,在解碼部133中,從開始熵解碼iEC-1經過2條線後,可開始小波反轉換iWT-1。此外,熵解碼iEC-1可在以熵編碼EC-1實施1條線部分之編碼結束的時點開始處理。
因此,該圖39之例,從在編碼部121中輸入第1條線之圖像資料,至從解碼部133輸出該第1條線之圖像資料的延遲時間為10+1+1+2+3=17條線部分。
就延遲時間舉出更具體之例作考察。輸入之圖像資料係HDTV(高畫質電視)之交錯視頻訊號時,如以1920像素×1080條線之解像度構成1幀,1場為1920像素×540條線。因此,幀頻率為30 Hz時,1場之540條線係在16.67 msec(=1sec/60場)之時間中輸入編碼部121。
因此,伴隨7條線部分之圖像資料的輸入之延遲時間係0.216 msec(=16.67 msec×7/540條線),如對1場之更新時間為非常短的時間。此外,就上述之(1)之延遲D_WT、(2)之時間D_Ord、(3)之時間D_EC、(4)之時間D_iEC及(5)之時間D_iWT的總和,亦因處理對象之線數少,所以非常縮短延遲時間。將進行各處理之要素予以硬體化時,亦可進一步縮短處理時間。
此處,說明SFF及M之旗標資訊。
如上述,在傳送系統100中,要求對延遲時間增大之容許度低,至少有效傳送資料,且有效進行必要之處理。
先前存在以特定之資料單位進行編碼及解碼的系統。如圖1之傳送系統100,將編碼資料實施封包化而傳送時,亦有將其資料單位之編碼資料分割成複數,分別實施封包化而傳送者。不過,先前之系統的情況,由於對延遲時間之容許度大,因此解封包化處理係存儲其資料單位部分之封包,每資料單位進行解封包化處理。藉由如此動作,僅可使資料單位部分聚齊之編碼資料供給至解碼部實施解碼。
但是,由於該方法不論在解封包化處理部中或編碼部中,均需要實施緩衝,因此在要求減低延遲時間之傳送系統100中不符所需。
因此,解封包化處理部132如上述,係利用傳送之編碼資料係可在各部中按照其供給順序處理者,而從收訊之封包依序抽出酬載資料,不存儲而供給至解碼部133。解碼部133每個分區部分存儲依序供給之編碼資料而開始實施解碼處理。藉此,由於可減低編碼資料之緩衝次數,因此傳送系統100可進一步縮短延遲時間。
SFF及M係顯示分區最前或末端的旗標資訊,解封包化處理部132可依據該旗標資訊檢測分區之最前及末端,並可將其要旨通知解碼部133。解碼部133依據來自其解封包化處理部132之通知,掌握分區之段落,可以分區單位開始實施解碼處理。
這樣的話,即使僅顯示分區之終端的M就夠了。若是將 分區分割成複數之封包與未分割之封包混合者時,如有顯示係分割之旗標資訊時,即可識別此等封包。
但是,實際上亦須考慮收訊部131於封包收訊時失敗(損失)。如此產生封包損失時,解封包化處理部132因為不進行封包之緩衝,所以需要與正常時改變處理。如產生封包損失時,傳送系統100之情況,由於無法確保將其封包再度傳送至送訊裝置102的時間,因此其分區之編碼資料未聚齊。換言之,因產生封包損失,解碼部133無法對其分區執行解碼處理。
因此,如係分區之中途的封包產生損失時,亦須考慮解碼部133中存儲有其分區之前的編碼資料。此種情況下,解封包化處理部132係對解碼部133通知產生封包損失,而捨棄其中存儲之與損失之封包的編碼資料相同分區的編碼資料。藉此,解碼部133可避免對其分區執行不必要之解碼處理(失敗之解碼處理),而可使負荷減輕。
此外,一旦產生封包損失時,其分區中以後之編碼資料亦無用。因此,即使解封包化處理部132其次取得以後分區之前的封包,仍不將編碼資料供給至解碼部133。而後,在取得新的分區之封包時,解封包化處理部132再度開始供給編碼資料。
如此,解封包化處理部132依其狀況變更控制模式,進行適宜適切之處理。因而,解封包化處理部132參照SFF及M檢測分區之最前及末端。此時,僅有顯示末端之M時,在檢測分區之末端前,解封包化處理部132無法判斷為分 區已改變。如損失了分區之最後封包時,解封包化處理部132須進一步等待其次的新分區,不但造成延遲時間增大,解碼部133中亦無法進行解碼處理,而可能導致復原之圖像的畫質惡化。
對照此,藉由參照SFF之值檢測最前封包,解封包化處理部132不但減少對解碼部133再開始供給資料等不必要之待機時間,如在解碼部133中除了編碼資料之外,亦供給標頭資訊,或是省略將封包損失之產生通知解碼部133的錯誤通知,或是即使產生封包損失,仍對解碼部133繼續供給編碼資料等,亦可僅對最前封包進行例外性之處理。
如此,藉由SFF及M之旗標資訊,解封包化處理部132可適切地進行處理,而可使延遲時間進一步縮短。
此外,解封包化處理部132依據該SFF及M,將供給之編碼資料係分區之最前者或是末端者通知解碼部133。藉此,由於解碼部133可輕易地掌握分區之最前與終端,因此,如係供給了分區之末端者時,可開始實施解碼處理,係供給了未連續之新的分區之最前者時,可對其之前損失的分區進行補充處理。換言之,解碼部133可依據來自解封包化處理部132之通知,輕易且高速地進行此種控制。
如以上所述,SFF及M並非僅是通知解封包化處理及解碼處理之開始時序用的旗標資訊,而係以使將編碼資料解碼而輸出至解封包化處理部132及解碼部133之前的延遲時間進一步縮短之方式,以適切之時序選擇適切之處理而執行用的旗標資訊。
再者,圖2中,係說明在小波轉換之後(熵編碼之前)進行係數之重排,不過,可將編碼資料按照低帶至高帶之順序供給至解碼部133之小波反轉換部363(換言之,可從編碼屬於低帶之子帶的係數資料而獲得之編碼資料起,至編碼屬於高帶之子帶的係數資料而獲得之編碼資料的順序供給),重排之時序亦可並非小波轉換之後。
如亦可重排藉由熵編碼而獲得之編碼資料的順序。圖40係顯示該情況之編碼部的結構例之區塊圖。
圖40之情況,編碼部500與圖2之編碼部121的情況同樣地具有:小波轉換部150、中途計算用緩衝部151、熵編碼部155及比率控制部154,不過,取代圖2之係數重排用緩衝部152及係數重排部153,而具有代碼重排用緩衝部501及代碼重排部502。
代碼重排用緩衝部501係重排在熵編碼部155中編碼後之編碼資料的輸出順序用之緩衝器,代碼重排部502藉由特定順序地讀取存儲於其代碼重排用緩衝部501之編碼資料,而進行編碼資料之輸出順序的重排。
換言之,圖40之情況,從小波轉換部150輸出之小波係數供給至熵編碼部155實施編碼。藉由其編碼所獲得之各編碼資料依序供給至代碼重排用緩衝部501,為了重排而暫時存儲。
代碼重排部502以希望之順序讀取寫入代碼重排用緩衝部501之編碼資料,並輸出至編碼部500之外部。
圖40之例的情況,熵編碼部155係按照小波轉換部150之 輸出順序進行各係數資料之編碼,並將所獲得之編碼資料寫入代碼重排用緩衝部501。換言之,在代碼重排用緩衝部501中,以對應於小波轉換部150輸出小波係數之順序的順序儲存編碼資料。通常之情況,比較屬於1個分區之各係數資料時,小波轉換部150先輸出如屬於更高帶之子帶的係數資料,而後輸出如屬於更低帶之子帶的係數資料。換言之,在代碼重排用緩衝部501中,各編碼資料係按照從將屬於高帶之子帶的係數資料實施熵編碼而獲得之編碼資料,向將屬於低帶之子帶的係數資料實施熵編碼而獲得之編碼資料的順序被記憶。
對照此,代碼重排部502與該順序獨立,而以任意之順序,藉由讀取存儲於其代碼重排用緩衝部501之各編碼資料,來進行編碼資料之重排。
如代碼重排部502優先讀取如將屬於低帶之子帶的係數資料實施編碼而獲得之編碼資料,最後讀取如將屬於最高帶之子帶的係數資料實施編碼而獲得之編碼資料。如此,藉由從低帶向高帶讀取編碼資料,代碼重排部502以解碼部133可已取得之順序將各編碼資料實施解碼之方式,可使藉由解碼部133實施解碼處理中產生之延遲時間減低。
代碼重排部502讀取存儲於代碼重排用緩衝部501之編碼資料,並將其輸出至編碼部500之外部。
另外,以圖40所示之編碼部500編碼而輸出之資料,可藉由使用圖24已經說明過之解碼部133,與從圖2之編碼部121輸出之編碼資料的情況同樣地實施解碼。
此外,進行重排處理之時序,亦可係上述以外。如圖41中顯示之一例,亦可在編碼部中進行,如圖42中顯示之一例,亦可在解碼部中進行。
將小波轉換所產生之係數資料實施重排處理,係數重排用緩衝器之記憶容量需要比較大之容量,並且係數重排之處理本身亦要求高的處理能力。即使該情況,編碼裝置之處理能力提高某種程度以上情況下,仍不產生任何問題。
此處,就行動電話終端及PDA(個人數位助理)之所謂移動終端等的較低處理能力的機器中裝設編碼裝置之情況作考慮。如近年來對行動電話終端附加攝像功能之製品廣泛地普及(稱為附相機功能行動電話終端)。考慮將藉由此種附相機功能行動電話終端所攝像之圖像資料,藉由小波轉換及熵編碼予以壓縮編碼,而經由無線或有線通訊傳送。
此種例之移動終端,其CPU(中央處理單元)之處理能力亦有限,此外,記憶體容量亦有某種程度之上限。因而,伴隨上述之係數重排的處理負荷等,成為無法忽視之問題。
因此,如圖42中所示之一例,藉由將重排處理編入解碼部,編碼部之負荷減輕,而可將編碼部裝設於移動終端等處理能力較低的機器中。
圖43係顯示該情況之編碼部一種結構的區塊圖。另外,該圖43中,在與上述圖2共用之部分註記同一代碼,而省略詳細之說明。
該圖43所示之編碼部510之結構,係對上述圖2所示之編 碼部121的結構,除去係數重排部153及係數重排用緩衝部152而構成。亦即,編碼部510具有與編碼部121同樣之小波轉換部150、中途計算用緩衝部151、比率控制部154及熵編碼部155。
輸入之圖像資料暫時滯留於中途計算用緩衝部151。小波轉換部150對滯留於中途計算用緩衝部151之圖像資料實施小波轉換,並將產生之係數資料按照係數資料之產生順序,依序供給至熵編碼部155。亦即對熵編碼部155,按照小波轉換之順序,從高帶成分至低帶成分依序供給所產生之係數資料。熵編碼部155對所供給之係數,藉由比率控制部154控制輸出資料之位元率,並實施熵編碼。從熵編碼部155輸出藉由小波轉換所產生之係數資料實施了熵編碼的編碼資料。
圖44係顯示對應於該編碼部510之解碼裝置一種結構的區塊圖。另外,該圖44中,在與上述圖24共用之部分註記同一代碼,而省略詳細之說明。
如圖44所示,該情況之解碼部520與圖24之解碼部133同樣地具有:控制資訊取得部351、解碼控制部352、解碼處理執行部353、標頭取得部354、資料取得部355、錯誤通知取得部356及捨棄處理部357,而解碼處理執行部353進一步具有係數重排用緩衝部521。
從圖43中說明之編碼部510的熵編碼部155輸出之編碼資料,在圖44之解碼部520中,經由緩衝部361而供給至熵解碼部362,將熵代碼實施解碼作為係數資料。該係數資料 經由緩衝部361儲存於係數重排用緩衝部521。小波反轉換部363在係數重排用緩衝部521中存儲係數資料至可實施係數資料之重排時,以低帶成分至高帶成分之順序重排儲存於係數重排用緩衝部521之係數資料而讀取,並按照讀取之順序使用係數資料進行小波反轉換處理。使用5×3濾波器時,如上述圖42所示。
亦即,小波反轉換部363如係從1幀之最前的處理時,在係數重排用緩衝部521中儲存了用於熵代碼之解碼的係數C1、係數C4及係數C5的時點,從係數重排用緩衝部521讀取係數資料,進行小波反轉換處理。以小波反轉換部363實施了小波反轉換之資料,依序作為輸出圖像資料而輸出。
另外,該情況亦如使用圖39已經說明者,係並列地執行編碼部510中各要素之處理,對傳送路徑之編碼資料的傳送,與解碼部520中各要素之處理。
如以上所述,本發明之效果大,可適用於多種形態,並可輕易地適用於多種用途(亦即通用性高)。
上述一連串之處理,亦可藉由硬體來執行,亦可藉由軟體來執行。藉由軟體執行一連串之處理情況下,構成其軟體之程式,從程式記錄媒體安裝於裝入有專用硬體之電腦,或是藉由安裝各種程式,可執行各種功能之如通用的個人電腦,或是由複數裝置構成之資訊處理系統之資訊處理裝置等中。
圖45係顯示藉由程式執行上述一連串處理之資訊處理系 統的結構例之區塊圖。
如圖45所示,資訊處理系統800係藉由資訊處理裝置801、藉由PCI匯流排802與資訊處理裝置801連接之記憶裝置803、數台錄放影機(VTR)之VTR804-1至VTR804-S、使用者對此等進行輸入操作用之滑鼠805、鍵盤806、與操作控制器807而構成的系統,且係藉由安裝之程式進行上述圖像編碼處理及圖像解碼處理等的系統。
如資訊處理系統800之資訊處理裝置801,可將記憶於RAID(冗餘陣列之獨立光碟)之大容量的記憶裝置803中的動畫內容實施編碼而獲得之編碼資料記憶於記憶裝置803中,或是將記憶於記憶裝置803之編碼資料實施解碼而獲得之解碼圖像資料(動畫內容)記憶於記憶裝置803,或是將編碼資料及解碼圖像資料經由VTR804-1至VTR804-S而記錄於錄影帶中。此外,資訊處理裝置801亦可成為將記錄於安裝在VTR804-1至VTR804-S中之錄影帶的動畫內容放入記憶裝置803。此時,資訊處理裝置801亦可將動畫內容實施編碼。
資訊處理裝置801具有:微處理器901、GPU(圖形處理單元)902、XDR(極端資料率)-RAM903、South Bridge 904、HDD(硬碟驅動機)905、USB介面(USB I/F)906及聲音輸入輸出編碼解碼器907。
GPU902經由專用之匯流排911而連接於微處理器901。XDR-RAM903經由專用之匯流排912而連接於微處理器901。South Bridge 904經由專用之匯流排而連接於微處理 器901之I/O控制器944。該South Bridge 904中亦連接有HDD905、USB介面906及聲音輸入輸出編碼解碼器907。該聲音輸入輸出編碼解碼器907中連接有喇叭921。此外,GPU902中連接有顯示器922。
此外,South Bridge 904中進一步經由PCI匯流排802,而連接有滑鼠805、鍵盤806、VTR804-1至VTR804-S、記憶裝置803以及操作控制器807。
滑鼠805及鍵盤806受理使用者之操作輸入,經由PCI匯流排802及South Bridge 904,將顯示使用者之操作輸入的內容之訊號供給至微處理器901。記憶裝置803及VTR804-1至VTR804-S可記錄或再生特定之資料。
PCI匯流排802中進一步依需要而連接驅動機808,適宜安裝磁碟、光碟、光磁碟或半導體記憶體等可移式媒體811,從此等讀取之電腦程式依需要安裝於HDD905。
微處理器901成為將執行OS(作業系統)等之基本程式的通用主CPU核心941;在主CPU核心941中經由內部匯流排945而連接之複數(此時為8個)的RISC(精簡指令集電腦)型式之訊號處理器之子CPU核心942-1至子CPU核心942-8;對於如具有256[MByte]之容量的XDR-RAM903進行記憶體控制之記憶體控制器943;及在與South Bridge 904之間管理資料之輸入輸出的I/O(In/Out)控制器944積體於1個晶片的多核心結構,如實現工作頻率4[GHz]。
該微處理器901於起動時,依據儲存於HDD905之控制程式,讀取儲存於HDD905之必要的應用程式,而展開於 XDR-RAM903,之後,依據該應用程式及作業人員操作,執行必要之控制處理。
此外,微處理器901藉由執行軟體,如實現上述之編碼處理及解碼處理,而將編碼結果獲得之編碼資料流經由South Bridge 904供給至HDD905使其記憶,將解碼結果獲得之動態圖像內容之再生影像向GPU902資料轉送,可使顯示器922顯示。
微處理器901內之各CPU核心的使用方法不拘,亦可如主CPU核心941進行關於圖像編碼處理及圖像解碼處理之控制的處理,在8個子CPU核心942-1至子CPU核心942-8中,如參照圖39而說明地同時並列執行小波轉換、係數重排、熵編碼、熵解碼、小波反轉換、量子化及反量子化等的各處理。此時,主CPU核心941對8個子CPU核心942-1至子CPU核心942-8之各個,以分區單位分配處理時,與參照圖39而說明之情況同樣地,以分區單位同時並列地執行編碼處理及解碼處理。換言之,可使編碼處理及解碼處理之效率提高,使處理全體之延遲時間縮短,再者,使負荷、處理時間及處理時必要之記憶體容量減低。當然亦可以其他方法進行各處理。
如亦可微處理器901之8個子CPU核心942-1至子CPU核心942-8中之一部分執行編碼處理,而其他部分同時並列地執行解碼處理。
此外,如在PCI匯流排802中連接有獨立之編碼器或解碼器,或是編碼解碼處理裝置時,亦可微處理器901之8個子 CPU核心942-1至子CPU核心942-8經由South Bridge 904及PCI匯流排802,控制此等裝置執行之處理。再者,連接複數此等裝置時,或是此等裝置包含複數解碼器或編碼器時,微處理器901之8個子CPU核心942-1至子CPU核心942-8亦可分擔複數解碼器或編碼器執行之處理而控制。
此時,主CPU核心941管理8個子CPU核心942-1至子CPU核心942-8之動作,對各子CPU核心分配處理,或是取回處理結果。再者,主CPU核心941亦進行此等子CPU核心進行之以外的處理。如主CPU核心941經由South Bridge 904受理從滑鼠805、鍵盤806或操作控制器807供給之命令,而執行按照命令之各種處理。
GPU902除了關於移動顯示於顯示器922之動畫內容的再生影像時之結構埋入等的最後構思處理之外,還擔任將動畫內容之再生影像及靜態畫內容之靜態圖像一次複數顯示於顯示器922時之座標轉換計算處理,及對動畫內容之再生影像及靜態畫內容之靜態圖像進行放大、縮小處理等的功能,使微處理器901之處理負擔減輕。
GPU902按照微處理器901之控制,對供給之動畫內容之影像資料及靜止畫內容之圖像資料實施特定之訊號處理,並將其結果而獲得之影像資料及圖像資料向顯示器922送出,使圖像訊號向顯示器922顯示。
再者,以微處理器901中之8個子CPU核心942-1至子CPU核心942-8同時並列地解碼之複數動畫內容中的再生影像,係經由匯流排911而向GPU902轉送資料,不過,此時 之轉送速度如最大係30[Gbyte/sec],即使是實施了特殊效果之複雜的再生影像,仍可高速且順利地顯示。
此外,微處理器901藉由在動畫內容之影像資料及聲音資料中,對聲音資料實施聲音混合處理,將其結果獲得之編輯聲音資料,經由South Bridge 904及聲音輸入輸出編碼解碼器907向喇叭921送出,亦可使依據聲音訊號之聲音從喇叭921輸出。
藉由軟體執行上述一連串之處理情況下,構成其軟體之程式從網路或記錄媒體安裝。
該記錄媒體如圖45所示,除了在裝置本體之外,藉由為了程式傳訊而分發給使用者之記錄有程式之磁碟(包含軟式磁碟)、光碟(包含CD-ROM, DVD)、光磁碟(包含MD)、或是半導體記憶體等組成之可移式媒體811而構成之外,還以預先組裝於裝置本體之狀態配送給使用者之記錄有程式的HDD905及記憶裝置803等構成。當然,記錄媒體亦可為ROM及快閃記憶體等半導體記憶體。
以上係說明在微處理器901內構成8個子CPU核心,不過不限於此,子CPU核心數量不拘。此外,亦可微處理器901不藉由主CPU核心與子CPU核心之複數核心構成,亦可使用藉由單一核心(一個核心)而構成之CPU。此外,亦可使用複數CPU來取代微處理器901,亦可使用複數資訊處理裝置(亦即,在將執行本發明之處理的程式彼此合作而動作之複數裝置中執行)。
另外,本說明書中,記述記錄於記錄媒體之程式的步 驟,當然係按照記載之順序而時間序列地進行之處理,不過,並非一定是時間序列地處理,亦包含並列地或個別地執行之處理。
此外,本說明書中所謂系統,係表示藉由複數器件(裝置)而構成之裝置全體者。
另外,以上中亦可將作為1個裝置而說明之結構分割,而構成複數裝置。反之,以上中亦可合併作為複數裝置而說明之結構,而構成1個裝置。此外,各裝置之結構中當然亦可附加上述以外之結構。再者,作為系統全體之結構及動作實質上相同時,亦可將某個裝置之結構的一部分包含於其他裝置之結構中。
(產業上之可利用性)
以上說明之本發明,係輕易且高速地進行封包處理及解封包化處理者,只要是將圖像壓縮編碼後傳送,在傳送端將壓縮代碼解碼而輸出之裝置或系統,可適用於各種裝置或系統。本發明特別適合用於要求從圖像之壓縮編碼至解碼及輸出的延遲短之裝置或系統。
如本發明適合用於觀察以攝影機攝影之影像,並操作機械手進行治療行為之醫學用遠距醫療診斷的用途。此外,本發明適合用於廣播電台等中將圖像編碼後傳送、解碼而顯示或記錄之系統。
再者,可適用本發明於進行實況轉播之影像傳訊的系統,於教育現場可在學生與教師之間交互通訊的系統等。
再者,還可適用本發明於以附相機功能之行動電話終端 的具有攝像功能之移動終端攝影之圖像資料的送訊,及電視會議系統、由監視器及記錄以監視器攝影之影像的錄影機構成之系統等。
100‧‧‧傳送系統
102‧‧‧送訊裝置
103‧‧‧收訊裝置
110‧‧‧線路
132‧‧‧解封包化處理部
133‧‧‧解碼部
202‧‧‧RTP標頭製作部
203‧‧‧共用標頭製作部
204‧‧‧擴充標頭製作部
205‧‧‧圖像資訊製作部
206‧‧‧旗標確認部
207‧‧‧尺寸確認部
208‧‧‧片段處理部
209‧‧‧封包化部
252‧‧‧標頭資訊分析部
253‧‧‧控制模式轉變部
254‧‧‧控制部
255‧‧‧標頭供給部
256‧‧‧資料供給部
257‧‧‧錯誤通知部
258‧‧‧控制訊號供給部
351‧‧‧控制資訊取得部
352‧‧‧解碼控制部
353‧‧‧解碼處理執行部
354‧‧‧標頭取得部
355‧‧‧資料取得部
356‧‧‧錯誤通知取得部
357‧‧‧捨棄處理部
圖1係顯示適用本發明之傳送系統的結構例之區塊圖。
圖2係顯示圖1之編碼部的結構例之區塊圖。
圖3係就小波轉換概略說明用之簡略線圖。
圖4A、4B係就小波轉換概略說明用之簡略線圖。
圖5係顯示將藉由5×3濾波器之提升(lifting)進行的濾波執行至分解位準=2之例的簡略線圖。
圖6A-C係概略顯示本發明之小波轉換及小波反轉換之流程的簡略線圖。
圖7係顯示分區標頭之結構例圖。
圖8係顯示圖片(picture)標頭之結構例圖。
圖9係顯示在編碼部與封包處理部之間授受的資訊例圖。
圖10係顯示圖1之封包處理部的詳細結構例之區塊圖。
圖11係說明分區之例用的模式圖。
圖12係說明封包之製作例用的模式圖。
圖13係說明RTP標頭之結構例用的模式圖。
圖14係說明RTP酬載標頭之結構例用的模式圖。
圖15係顯示共用標頭之結構例圖。
圖16係顯示量子化參數資訊之結構例圖。
圖17係顯示尺寸資訊之結構例圖。
圖18A、18B係顯示格式資訊之結構例圖。
圖19係顯示圖片資訊之結構例圖。
圖20係顯示色彩資訊之結構例圖。
圖21係顯示圖1之解封包化處理部的詳細結構例之區塊圖。
圖22係顯示控制模式之轉變情況之例圖。
圖23係顯示在解封包化處理部與解碼部之間授受的資訊之例圖。
圖24係顯示圖1之解碼部的詳細結構例之區塊圖。
圖25係說明編碼處理之流程例用之流程圖。
圖26係說明封包處理流程之例用的流程圖。
圖27係說明開始模式處理之流程例用的流程圖。
圖28係說明模式共用處理之流程例用的流程圖。
圖29係說明待用模式處理之流程例用的流程圖。
圖30係說明處理模式處理之流程例用的流程圖。
圖31係說明損失模式處理之流程例用的流程圖。
圖32係說明解碼控制處理之流程例用的流程圖。
圖33係說明解碼處理之流程例用的流程圖。
圖34係說明錯誤通知對應處理之流程例用的流程圖。
圖35係說明錯誤通知對應之情況例的模式圖。
圖36係顯示RTP酬載標頭之其他結構例圖。
圖37係顯示部分資訊之結構例圖。
圖38係說明封包處理之流程的其他例用之流程圖。
圖39A-H係概略顯示送訊裝置及收訊裝置之各要素進行 的並列動作之情況例的簡略線圖。
圖40係顯示圖1之編碼部的其他結構例之區塊圖。
圖41係說明以編碼部側進行小波係數之重排處理時的處理流程用之簡略線圖。
圖42係說明以解碼部側進行小波係數之重排處理時的處理流程用之簡略線圖。
圖43係顯示圖1之編碼部的另外結構例之區塊圖。
圖44係顯示對應於圖43之編碼部的解碼部之結構例的區塊圖。
圖45係顯示適用本發明之資訊處理系統的結構例圖。
201‧‧‧資料取得部
202‧‧‧RTP標頭製作部
203‧‧‧共用標頭製作部
204‧‧‧擴充標頭製作部
205‧‧‧圖片資訊製作部
206‧‧‧旗標確認部
207‧‧‧尺寸確認部
208‧‧‧片段處理部
209‧‧‧封包化部
210‧‧‧輸出部
122‧‧‧封包處理部

Claims (19)

  1. 一種資訊處理裝置,其包含:處理器,其係取得以分區單位編碼之圖像資料,前述分區係包含產生前述圖像資料之最低區域成分的1線部分的子帶的線集合;製作機構,其係製作標頭資訊;分割機構,其係將編碼之圖像資料的分區於每預定之特定資料量分割成對應之複數封包用之複數酬載;封包化機構,其係在藉由前述分割機構分割前述編碼之圖像資料之前述分區而獲得之複數前述酬載各個中,藉由附加由前述製作機構所製作之前述標頭資訊,而形成複數前述封包;及旗標設定機構,其係在由前述封包化機構所產生之封包內,對於將前述編碼之圖像資料之一分區的最前的部分作為酬載之最前封包,設立包含於前述標頭資訊中之表示係前述最前封包的最前旗標,對於將前述編碼之圖像資料之前述分區的末端的部分作為酬載之最後封包,設立包含於前述標頭資訊中之表示係前述最後封包的最後旗標;其中前述最前旗標僅具有兩個固定值中之一者,前述最後旗標僅具有兩個固定值中之一者。
  2. 如請求項1之資訊處理裝置,其中前述編碼之圖像資料係以前述分區單位,來小波轉換而熵編碼的編碼資料。
  3. 如請求項1之資訊處理裝置,其中前述編碼之圖像資料依解碼順序供給。
  4. 如請求項1之資訊處理裝置,其中進一步包含編碼機構,其係於將前述圖像資料編碼,而產生前述編碼之圖像資料;前述分割機構分割由前述編碼機構所產生之前述編碼之圖像資料。
  5. 如請求項4之資訊處理裝置,其中前述編碼機構供給與前述標頭資訊相同格式之附加資訊;前述製作機構使用由前述編碼機構供給之前述附加資訊,而製作前述標頭資訊。
  6. 如請求項4之資訊處理裝置,其中前述編碼機構供給表示前述編碼成功或失敗之旗標資訊,前述封包化機構依據前述旗標資訊判定前述編碼失敗時,僅使用由前述製作機構所製作之前述標頭資訊進行封包化。
  7. 一種資訊處理方法,其包含:取得以分區單位編碼之圖像資料,前述分區係包含產生前述圖像資料之最低區域成分的1線部分的子帶的線集合;製作標頭資訊;將前述編碼之圖像資料於每預定之特定資料量分割成對應之複數封包用之複數酬載;在分割前述編碼之圖像資料之前述分區而獲得之複數前述酬載各個中,藉由附加前述標頭資訊,而形成複數前述封包;及在所產生之封包內,對於將前述編碼之圖像資料之一 分區的最前的部分作為酬載之最前封包,設立包含於前述標頭資訊中之表示係前述最前封包的最前旗標,對於將前述編碼之圖像資料之前述分區的末端的部分作為酬載之最後封包,設立包含於前述標頭資訊中之表示係前述最後封包的最後旗標;其中前述最前旗標僅具有兩個固定值中之一者,前述最後旗標僅具有兩個固定值中之一者。
  8. 一種資訊處理裝置,其包含:取得機構,其係取得從外部供給之封包,其中前述封包中之酬載資料係以分區單位編碼之圖像資料,前述分區係包含產生前述圖像資料之最低區域成分的1線部分的子帶的線集合;最前判定機構,其係藉由判定前述封包之標頭資訊是否包含表示係前述最前封包之一標頭旗標,而判定由前述取得機構所取得之封包是否係前述編碼之圖像資料的一分區的最前封包,其中前述最前封包係包含一酬載,其係前述編碼之圖像資料的最前的部份;損失判定機構,其係依據由前述取得機構所取得之前述封包的前述標頭資訊,判定由前述取得機構之取得中是否產生封包之損失;及供給機構,其係在藉由前述損失判定機構判定為並未產生前述封包之損失時,從由前述取得機構所取得之前述封包中抽出酬載資料供給至後階之處理部,而在藉由前述損失判定機構判定為產生前述封包之損失時,廢棄 由前述取得機構所取得之前述封包;其中前述供給機構於藉由前述損失判定機構判定為產生前述封包之損失時,直到藉由前述最前判定機構判定已藉由前述取得機構取得一新分區的最前封包為止,廢棄前述封包。
  9. 如請求項8之資訊處理裝置,其中前述損失判定機構在前述標頭資訊中所包含之表示封包順序之資訊即序號與一較前之封包的序號不連續時,判定為產生前述封包之損失。
  10. 如請求項8之資訊處理裝置,其中進一步包含通知機構,其係在藉由前述損失判定機構判定為產生前述封包之損失時,通知前述後階之處理部。
  11. 如請求項8之資訊處理裝置,其中前述供給機構在藉由前述損失判定機構判定為並未產生前述封包之損失,且藉由前述最前判定機構判定前述封包為編碼之圖像資料的前述分區之前述最前封包時,進一步將前述封包之前述標頭資訊供給至後階之處理部。
  12. 如請求項8之資訊處理裝置,其中前述酬載資料係以前述分區單位,來小波轉換而熵編碼的編碼資料。
  13. 如請求項12之資訊處理裝置,其中前述編碼資料依解碼順序供給。
  14. 如請求項12之資訊處理裝置,其中前述後階之處理部中進一步包含解碼處理執行機構,其係進行將由前述供給 機構所供給之前述酬載資料即前述編碼資料解碼之解碼處理。
  15. 如請求項14之資訊處理裝置,其中前述解碼處理執行機構包含:保持機構,其係暫時保持由前述供給機構所供給之前述編碼資料;解碼機構,其係將由前述保持機構所保持之前述編碼資料以前述分區單位解碼;及小波反轉換機構,其係對由前述解碼機構所解碼而獲得之係數資料進行小波反轉換。
  16. 如請求項12之資訊處理裝置,其中進一步包含編碼成功與否判定機構,其係依據由前述取得機構所取得之前述封包的標頭資訊,判定前述熵編碼成功與否;前述供給機構藉由前述編碼成功與否判定機構判定為前述編碼失敗時,僅供給前述標頭資訊。
  17. 一種資訊處理方法,其包含:取得從外部供給之封包,其中前述封包中之酬載資料係以分區單位編碼之圖像資料,前述分區係包含產生前述圖像資料之最低區域成分的1線部分的子帶的線集合;藉由判定前述封包之標頭資訊是否包含表示係前述最前封包之一標頭旗標,而判定由前述取得機構所取得之封包是否係前述編碼之圖像資料的一分區的最前封包,其中前述最前封包係包含一酬載,其係前述編碼之圖像 資料的最前的部份;依據取得之前述封包的標頭資訊,判定是否產生封包之損失;及在判定為並未產生前述封包之損失時,從取得之前述封包抽出酬載資料供給至後階之處理部,而在判定為產生前述封包之損失時,廢棄取得之前述封包;其中於判定為產生前述封包之損失時,直到判定已取得一新分區的最前封包為止,廢棄前述封包。
  18. 一種非暫時性電腦可讀取之記錄媒體,其記錄有指令可使電腦執行一資訊處理方法,其包含:取得以分區單位編碼之圖像資料,前述分區係包含產生前述圖像資料之最低區域成分的1線部分的子帶的線集合;製作標頭資訊;將前述編碼之圖像資料於每預定之特定資料量分割成對應之複數封包用之複數酬載;在分割前述編碼之圖像資料之前述分區而獲得之複數前述酬載各個中,藉由附加前述標頭資訊,而形成複數前述封包;及在所產生之封包內,對於將前述編碼之圖像資料之一分區的最前的部分作為酬載之最前封包,設立包含於前述標頭資訊中之表示係前述最前封包的最前旗標,對於將前述編碼之圖像資料之前述分區的末端的部分作為酬載之最後封包,設立包含於前述標頭資訊中之表示係前述最後封包的最後旗標;其中前述最前旗標 僅具有兩個固定值中之一者,前述最後旗標僅具有兩個固定值中之一者。
  19. 一種非暫時性電腦可讀取之記錄媒體,其記錄有指令可使電腦執行一資訊處理方法,其包含:取得從外部供給之封包,其中前述封包中之酬載資料係以分區單位編碼之圖像資料,前述分區係包含產生前述圖像資料之最低區域成分的1線部分的子帶的線集合;藉由判定前述封包之標頭資訊是否包含表示係前述最前封包之一標頭旗標,而判定由前述取得機構所取得之封包是否係前述編碼之圖像資料的一分區的最前封包,其中前述最前封包係包含一酬載,其係前述編碼之圖像資料的最前的部份;依據取得之前述封包的標頭資訊,判定是否產生封包之損失;及在判定為並未產生前述封包之損失時,從取得之前述封包抽出酬載資料供給至後階之處理部,而在判定為產生前述封包之損失時,廢棄取得之前述封包;其中於判定為產生前述封包之損失時,直到判定已取得一新分區的最前封包為止,廢棄前述封包。
TW97111513A 2007-03-30 2008-03-28 Information processing apparatus and method and non-temporary computer-readable recording medium TWI414183B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007094015A JP5162939B2 (ja) 2007-03-30 2007-03-30 情報処理装置および方法、並びにプログラム

Publications (2)

Publication Number Publication Date
TW200906195A TW200906195A (en) 2009-02-01
TWI414183B true TWI414183B (zh) 2013-11-01

Family

ID=39808357

Family Applications (1)

Application Number Title Priority Date Filing Date
TW97111513A TWI414183B (zh) 2007-03-30 2008-03-28 Information processing apparatus and method and non-temporary computer-readable recording medium

Country Status (8)

Country Link
US (1) US8184636B2 (zh)
EP (1) EP2134092B1 (zh)
JP (1) JP5162939B2 (zh)
KR (1) KR101426097B1 (zh)
CN (1) CN101543071B (zh)
BR (1) BRPI0803098B1 (zh)
TW (1) TWI414183B (zh)
WO (1) WO2008120777A1 (zh)

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI384882B (zh) * 2009-07-28 2013-02-01 Mstar Semiconductor Inc 封包順序回復控制器及其方法
US9411810B2 (en) * 2009-08-27 2016-08-09 International Business Machines Corporation Method and apparatus for identifying data inconsistency in a dispersed storage network
JP5263621B2 (ja) * 2009-09-24 2013-08-14 ソニー株式会社 画像処理装置および方法
KR101079697B1 (ko) 2009-10-05 2011-11-03 주식회사 글로벌미디어테크 범용 그래픽 처리장치의 병렬 프로세서를 이용한 고속 영상 처리 방법
JP2011147050A (ja) * 2010-01-18 2011-07-28 Sony Corp 画像処理装置および方法
JP5515758B2 (ja) * 2010-01-18 2014-06-11 ソニー株式会社 画像処理装置および方法
JP5123340B2 (ja) * 2010-02-23 2013-01-23 日本電信電話株式会社 映像データ送信装置,映像データ送信方法および映像データ送信プログラム
US8970750B2 (en) * 2010-11-12 2015-03-03 Sony Corporation Image outputting apparatus, image outputting method, image processing apparatus, image processing method, program, data structure and imaging apparatus
JP2012138851A (ja) * 2010-12-27 2012-07-19 Toshiba Corp 画像送信装置および方法、画像受信装置および方法
FR2972588A1 (fr) 2011-03-07 2012-09-14 France Telecom Procede de codage et decodage d'images, dispositif de codage et decodage et programmes d'ordinateur correspondants
FR2977111A1 (fr) * 2011-06-24 2012-12-28 France Telecom Procede de codage et decodage d'images, dispositif de codage et decodage et programmes d'ordinateur correspondants
JP2013051607A (ja) * 2011-08-31 2013-03-14 Canon Inc データ処理装置、方法および制御プログラム
JP5994367B2 (ja) * 2012-04-27 2016-09-21 富士通株式会社 動画像符号化装置、動画像符号化方法
JP2014070993A (ja) * 2012-09-28 2014-04-21 Japan Radio Co Ltd 衛星測位受信装置
JP6098114B2 (ja) * 2012-10-26 2017-03-22 アイコム株式会社 中継装置および通信システム
KR102053689B1 (ko) * 2013-01-14 2019-12-09 삼성전자 주식회사 카메라의 영상 데이터 압축 방법 및 이를 지원하는 단말기
KR102195069B1 (ko) 2014-08-06 2020-12-24 삼성전자주식회사 패킷 송신기 및 이를 포함하는 인터페이스 장치
CN104486633B (zh) * 2014-11-11 2019-01-18 三星电子(中国)研发中心 视频错误掩藏方法及装置
JPWO2016140089A1 (ja) * 2015-03-04 2017-12-14 ソニー株式会社 送信装置、送信方法、受信装置、及び、受信方法
US10187640B2 (en) * 2015-09-01 2019-01-22 Mediatek Inc. Method of hard-limited packet size for video encoding
KR102225722B1 (ko) * 2018-02-15 2021-03-09 미쓰비시덴키 가부시키가이샤 정보 분석 장치, 정보 분석 방법, 및 정보 분석 프로그램
JP2020022087A (ja) * 2018-08-01 2020-02-06 日本放送協会 映像/パケット変換装置、パケット/映像変換装置、及びプログラム
KR101967260B1 (ko) * 2018-11-05 2019-04-09 (주)이엠텍아이엔씨 컴퓨터의 상태에 따라 모니터의 절전을 행하는 방법 및 이를 활용한 에너지 절감형 모니터를 갖는 컴퓨터 시스템
KR101967259B1 (ko) * 2018-11-05 2019-04-09 (주)이엠텍아이엔씨 컴퓨터의 상태에 따라 모니터의 밝기를 제어하는 방법 및 이를 활용한 에너지 절감형 컴퓨터 시스템
MX2022008445A (es) * 2020-01-13 2022-10-18 Lg Electronics Inc Metodo y aparato de inter prediccion en sistema de codificacion de imagenes/video.

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5991445A (en) * 1994-06-27 1999-11-23 Canon Kabushiki Kaisha Image processing apparatus
US6339658B1 (en) * 1999-03-09 2002-01-15 Rockwell Science Center, Llc Error resilient still image packetization method and packet structure
US20030198391A1 (en) * 2002-04-19 2003-10-23 Sony Corporation Image coding apparatus and method, image decoding apparatus and method, and recording medium

Family Cites Families (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05153550A (ja) 1991-12-02 1993-06-18 Matsushita Electric Ind Co Ltd 映像信号の記録装置および再生装置
JPH06292179A (ja) 1993-04-01 1994-10-18 Matsushita Electric Ind Co Ltd 直交変換符号化装置および直交変換復号化装置
GB2295936B (en) * 1994-12-05 1997-02-05 Microsoft Corp Progressive image transmission using discrete wavelet transforms
JP3213222B2 (ja) 1995-11-02 2001-10-02 株式会社リコー 符号化方法
JP3213582B2 (ja) * 1997-05-29 2001-10-02 シャープ株式会社 画像符号化装置及び画像復号装置
US6707948B1 (en) * 1997-11-17 2004-03-16 The Regents Of The University Of California Image compression for memory-constrained decoders
JP2000059781A (ja) 1998-08-07 2000-02-25 Ricoh Co Ltd ウェーブレット変換装置
US6970604B1 (en) * 1998-10-05 2005-11-29 Media Tek Inc. Apparatus and method for forming a coding unit
JP2000333163A (ja) * 1999-05-24 2000-11-30 Sony Corp 復号装置及び方法、符号化装置及び方法、画像処理システム、画像処理方法
JP4097108B2 (ja) 1999-07-06 2008-06-11 株式会社リコー ウェーブレット変換装置及び符号化復号化装置
JP3609389B2 (ja) * 1999-09-30 2005-01-12 富士通株式会社 プロトコル変換装置、通信装置、通信プログラム記憶媒体、および通信システム
EP1655970A2 (en) * 2000-09-19 2006-05-10 Matsushita Electric Industrial Co., Ltd. Image signal transmitter
JP2002359853A (ja) 2001-03-26 2002-12-13 Sony Corp 画像処理装置、画像処理方法、画像処理プログラムおよび記録媒体
US7136485B2 (en) * 2001-05-04 2006-11-14 Hewlett-Packard Development Company, L.P. Packetizing devices for scalable data streaming
US6865374B2 (en) * 2001-09-18 2005-03-08 Koninklijke Philips Electronics N.V. Video recovery system and method
JP4549610B2 (ja) * 2001-11-08 2010-09-22 ソニー株式会社 通信システム、通信方法、送信装置および方法、受信装置および方法、並びにプログラム
JP3931642B2 (ja) * 2001-11-27 2007-06-20 日本電気株式会社 ストリーム配信システム、ストリーム送信装置、及び、中継装置
US7557929B2 (en) * 2001-12-18 2009-07-07 Massachusetts Institute Of Technology Systems and methods for phase measurements
US7194630B2 (en) * 2002-02-27 2007-03-20 Canon Kabushiki Kaisha Information processing apparatus, information processing system, information processing method, storage medium and program
JP2003283839A (ja) * 2002-03-19 2003-10-03 Sanyo Electric Co Ltd 画像変換方法および装置
JP4449400B2 (ja) 2002-10-25 2010-04-14 ソニー株式会社 画像符号化装置及び方法、並びにプログラム及び記録媒体
US7483575B2 (en) * 2002-10-25 2009-01-27 Sony Corporation Picture encoding apparatus and method, program and recording medium
AU2003290807A1 (en) * 2002-11-15 2004-06-15 The Arizona Board Of Regents On Behalf Of The University Of Arizona Methods for decoding corrupt jpeg2000 codestreams
SG111978A1 (en) * 2002-11-20 2005-06-29 Victor Company Of Japan An mpeg-4 live unicast video streaming system in wireless network with end-to-end bitrate-based congestion control
JP3880050B2 (ja) 2002-12-16 2007-02-14 梶原工業株式会社 調理装置
JP3701956B2 (ja) 2003-05-29 2005-10-05 日本電信電話株式会社 パケット中継装置及びその方法と、パケット受信装置及びその方法と、パケット中継プログラム及びそのプログラムを記録した記録媒体と、パケット受信プログラム及びそのプログラムを記録した記録媒体
EP1494456A1 (en) * 2003-07-01 2005-01-05 Deutsche Thomson-Brandt GmbH Method for run-length encoding of a bitmap data stream
US7715480B2 (en) * 2003-10-17 2010-05-11 Mitsubishi Electric Research Laboratories, Inc. Video encoding with motion-selective wavelet transform
JP2005167515A (ja) * 2003-12-01 2005-06-23 Matsushita Electric Ind Co Ltd ストリーミングデータ通信システム、ストリーミングデータ通信装置及びストリーミングデータ配信方法
JP4716949B2 (ja) * 2005-09-02 2011-07-06 株式会社リコー 画像処理装置および画像処理方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5991445A (en) * 1994-06-27 1999-11-23 Canon Kabushiki Kaisha Image processing apparatus
US6339658B1 (en) * 1999-03-09 2002-01-15 Rockwell Science Center, Llc Error resilient still image packetization method and packet structure
US20030198391A1 (en) * 2002-04-19 2003-10-23 Sony Corporation Image coding apparatus and method, image decoding apparatus and method, and recording medium

Also Published As

Publication number Publication date
EP2134092A4 (en) 2011-08-31
EP2134092B1 (en) 2019-10-23
WO2008120777A1 (ja) 2008-10-09
US20090201949A1 (en) 2009-08-13
BRPI0803098A2 (pt) 2011-08-30
JP5162939B2 (ja) 2013-03-13
TW200906195A (en) 2009-02-01
US8184636B2 (en) 2012-05-22
JP2008252739A (ja) 2008-10-16
EP2134092A1 (en) 2009-12-16
CN101543071B (zh) 2013-05-08
KR20090126176A (ko) 2009-12-08
BRPI0803098B1 (pt) 2020-03-24
KR101426097B1 (ko) 2014-08-01
CN101543071A (zh) 2009-09-23

Similar Documents

Publication Publication Date Title
TWI414183B (zh) Information processing apparatus and method and non-temporary computer-readable recording medium
JP5527588B2 (ja) 情報処理装置および方法
JP3474005B2 (ja) 動画像符号化方法及び動画像復号方法
EP1439705A2 (en) Method and apparatus for processing, transmitting and receiving dynamic image data
CN110602522B (zh) 一种多路实时直播WebRTC流合成方法
JP2001274689A (ja) データ処理装置及びデータ処理方法
WO2022021519A1 (zh) 视频解码方法、系统、设备及计算机可读存储介质
JP5172874B2 (ja) 映像同期装置、映像表示装置、映像同期方法及びプログラム
JP4174960B2 (ja) 信号処理装置及び方法並びにファイル生成方法
JPH11122610A (ja) 画像符号化方法及び画像復号化方法並びにこれらの装置
CN111406404A (zh) 获得视频文件的压缩方法、解压缩方法、系统及存储介质
WO2013149522A1 (zh) 帧场信息的编码方法及解码方法、编码器和解码器
JPH10262228A (ja) 通信システム、多地点制御装置、映像情報表示方法
WO2009098763A1 (ja) 映像処理装置、映像処理方法及び映像処理プログラム
JPH02272851A (ja) 画像パケット組立方式及び分解方式
US9479823B2 (en) Transmitting device and receiving device
JP2006115001A (ja) 映像送信装置および映像受信装置
JP2004056234A (ja) 画像符号化装置および画像符号化方法
JP2001045495A (ja) 画面合成装置
JP2000069486A (ja) 画像合成装置
CN115695815A (zh) 一种基于fpga的视频无损和有损压缩系统
JP2005252898A (ja) 符号化データの再構成プログラム
JP2002159003A (ja) ストリーム統合装置及びストリーム分離装置
JPH10327412A (ja) 画像復号化装置
JP2007067790A (ja) 動画受信装置

Legal Events

Date Code Title Description
MM4A Annulment or lapse of patent due to non-payment of fees