KR20090125236A - 정보 처리 장치 및 방법 - Google Patents
정보 처리 장치 및 방법 Download PDFInfo
- Publication number
- KR20090125236A KR20090125236A KR1020097005749A KR20097005749A KR20090125236A KR 20090125236 A KR20090125236 A KR 20090125236A KR 1020097005749 A KR1020097005749 A KR 1020097005749A KR 20097005749 A KR20097005749 A KR 20097005749A KR 20090125236 A KR20090125236 A KR 20090125236A
- Authority
- KR
- South Korea
- Prior art keywords
- unit
- data
- information
- header
- processing
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 436
- 230000010365 information processing Effects 0.000 title claims abstract description 37
- 238000012545 processing Methods 0.000 claims abstract description 401
- 230000008569 process Effects 0.000 claims abstract description 379
- 230000015572 biosynthetic process Effects 0.000 claims description 47
- 238000003786 synthesis reaction Methods 0.000 claims description 46
- 230000002194 synthesizing effect Effects 0.000 claims description 12
- 238000003672 processing method Methods 0.000 claims description 8
- 230000008685 targeting Effects 0.000 claims description 4
- 238000004458 analytical method Methods 0.000 abstract description 111
- 238000012546 transfer Methods 0.000 abstract description 5
- 230000008707 rearrangement Effects 0.000 description 85
- 230000005540 biological transmission Effects 0.000 description 68
- 238000010586 diagram Methods 0.000 description 56
- 238000000354 decomposition reaction Methods 0.000 description 46
- 230000007704 transition Effects 0.000 description 40
- 238000001914 filtration Methods 0.000 description 31
- 238000013139 quantization Methods 0.000 description 27
- 238000004364 calculation method Methods 0.000 description 26
- 239000012634 fragment Substances 0.000 description 23
- 238000006467 substitution reaction Methods 0.000 description 15
- 230000006854 communication Effects 0.000 description 11
- 238000012790 confirmation Methods 0.000 description 11
- 238000004891 communication Methods 0.000 description 9
- 238000003384 imaging method Methods 0.000 description 9
- 238000007906 compression Methods 0.000 description 7
- 230000008859 change Effects 0.000 description 6
- 230000000295 complement effect Effects 0.000 description 6
- 230000006835 compression Effects 0.000 description 6
- 230000006870 function Effects 0.000 description 6
- 239000004065 semiconductor Substances 0.000 description 6
- 101100162203 Aspergillus parasiticus (strain ATCC 56775 / NRRL 5862 / SRRC 143 / SU-1) aflG gene Proteins 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 5
- 238000012937 correction Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 239000003550 marker Substances 0.000 description 5
- 238000005070 sampling Methods 0.000 description 5
- 238000007796 conventional method Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 238000000605 extraction Methods 0.000 description 4
- 230000033001 locomotion Effects 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 230000001360 synchronised effect Effects 0.000 description 4
- TVZRAEYQIKYCPH-UHFFFAOYSA-N 3-(trimethylsilyl)propane-1-sulfonic acid Chemical compound C[Si](C)(C)CCCS(O)(=O)=O TVZRAEYQIKYCPH-UHFFFAOYSA-N 0.000 description 3
- 230000001131 transforming effect Effects 0.000 description 3
- 238000009825 accumulation Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000005236 sound signal Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000003139 buffering effect Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000006378 damage Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000002156 mixing Methods 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 238000004904 shortening Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000001225 therapeutic effect Effects 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/188—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a video data packet, e.g. a network abstraction layer [NAL] unit
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/46—Embedding additional information in the video signal during the compression process
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/63—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
- H04N19/64—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets characterised by ordering of coefficients or of bits for transmission
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
- H04N19/89—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
- H04N19/895—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder in combination with error concealment
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/238—Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
- H04N21/2381—Adapting the multiplex stream to a specific network, e.g. an Internet Protocol [IP] network
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/434—Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/438—Interfacing the downstream path of the transmission network originating from a server, e.g. retrieving encoded video stream packets from an IP network
- H04N21/4381—Recovering the multiplex stream from a specific network, e.g. recovering MPEG packets from ATM cells
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/63—Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
- H04N21/643—Communication protocols
- H04N21/6437—Real-time Transport Protocol [RTP]
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression Of Band Width Or Redundancy In Fax (AREA)
- Detection And Prevention Of Errors In Transmission (AREA)
Abstract
본 발명은, 디패킷타이즈 처리에서의 불필요한 대기 시간을 저감시켜, 처리를 용이하게 또한 고속으로 행할 수 있도록 할 수 있는 정보 처리 장치 및 방법에 관한 것이다. 해석부(621)는, 입력된 화상 데이터와, 기억부(622)로부터 읽어낸 1개 전의 픽쳐의 화상 데이터를 비교한다. 은폐용 헤더 생성부(623)는, 그 해석 결과에 기초하여, 수신 장치(603)가 에러 은폐 처리 시에 참조하는 은폐용 헤더를 생성한다. 로스 해석부(631)는, 은폐용 헤더에 기초하여, 기억부(632)에 기억되어 있는 부호화 데이터를 적당히 이용하면서, 전송 오류의 발생에 대해서 에러 은폐를 행한다. 본 발명은, 예를 들면, 부호화 장치에 적용할 수 있다.
은폐용 헤더 생성부, 패킷타이즈 처리부, 로스 해석부, 확장 헤더, 프리싱크트 헤더, 셔터 스피드 분자, 픽쳐 헤더, 제어 모드 천이부
Description
본 발명은, 정보 처리 장치 및 방법에 관한 것으로, 특히, 패킷 송수신 시에서의 지연을 저감시시킬 수 있도록 한 정보 처리 장치 및 방법에 관한 것이다.
종래, 쌍방향 텔레비전 회의 시스템과 같은 영상이나 음성을 이용한 커뮤니케이션 시스템이나, 방송국 등에서의 비압축 환경과의 혼재 시스템 등에서, 영상이나 음성의 데이터를 보다 지연 없이 전송하는 것이 요구되고 있다. 최근, 특히, 영상이나 음성의 고품질화에 수반하여 그들의 데이터량도 증대하고 있어, 보다 저지연의 데이터 전송이 요구되고 있다.
예를 들면, MPEG(Moving Picture Experts Group)나 H.26x계의 압축 방식에서는 움직임 예측에 의해 압축율을 높이고 있지만, 움직임 예측을 행하면 알고리즘이 복잡하게 되고, 그 처리 시간은 프레임 사이즈의 2승에 비례하여 커지기 때문에, 원리적으로 수 프레임의 부호화 지연이 발생한다. 쌍방향 실시간 통신을 행할 때에는, 거의 허용 지연 시간 250㎳의 지연 시간으로 되어, 무시할 수 없는 크기이다.
또한, JPEG(Joint Photographic Experts Group) 2000으로 대표되는 바와 같은, 인트라 프레임 코덱은 프레임간의 차분 정보를 이용하지 않기 때문에, 상술한 바와 같은 지연은 발생하지 않는다. 그러나, 프레임 단위로의 압축으로 되기 때문에, 인코드 개시까지, 최저라도 1프레임은 대기할 필요가 있다. 현재의 일반적인 시스템에서는 1초간에 30프레임인 경우가 많기 때문에, 인코드 개시까지 16㎳ 정도의 대기 시간이 필요로 된다.
따라서 이 지연을 더욱 저감하는 것이 요구되고 있고, 예를 들면, 패킷타이즈 처리나 디패킷타이즈 처리와 같이, 인코드나 디코드 이외의 부분에서의 지연의 저감도 필요로 되어 왔다. 예를 들면, 전송 지연을 저감시키기 위해서, 버퍼 메모리의 용량을 저감시키는 방법도 생각되어 왔다(예를 들면, 특허 문헌 1 참조).
그런데, 영상이나 음성의 데이터를 전송하는 디지털 비디오 통신에서, 통신 과정에서 전송 오류가 발생하여, 재생 품질에 영향을 주는 경우가 종종 발생한다.
특허 문헌 1: 일본 특허 공개 2005-12753호
<발명의 개시>
<발명이 해결하고자 하는 과제>
이러한 전송 오류에 대해서도 어떠한 대처가 실시되지만, 데이터 전송의 한층 더한 저지연화를 위해서는, 이 전송 오류에 대한 처리에서도 저지연화가 요구된다.
본 발명은, 이러한 종래의 실정을 감안하여 제안된 것으로서, 데이터를 송수신할 때에 발생하는 지연 시간을 저감시킬 수 있도록 하는 것이다.
<과제를 해결하기 위한 수단>
본 발명의 일 측면은, 화상 데이터를 부호화하는 정보 처리 장치로서, 화상 데이터를 구성하는 프레임 또는 필드를 대상으로 하여, 적어도 최저역 성분의 서브밴드의 1라인분의 계수 데이터를 생성하는 데에 필요한 라인수분의 화상 데이터를 포함하는 라인 블록마다 비교하는 비교 수단과, 상기 비교 수단에 의한 비교 결과에 따라서, 라인 블록의 에러의 은폐 방법을 나타내는 은폐 정보를 생성하는 생성 수단과, 주파수 대역으로 분해된 복수의 서브밴드의 계수 데이터를 합성하여 화상 데이터를 생성하는 합성 처리를 실행하는 순으로 미리 재배열된 계수 데이터를 부호화하여 부호화 데이터를 생성하는 부호화 수단과, 상기 생성 수단에 의해 생성된 은폐 정보를, 상기 부호화 수단에 의해 생성된 부호화 데이터로 다중화하도록, 상기 부호화 수단을 제어하는 제어 수단을 구비하는 정보 처리 장치이다.
상기 제어 수단은, 상기 은폐 정보를 헤더로 하여 상기 부호화 데이터를 패킷화하도록, 상기 부호화 수단을 제어할 수 있다.
상기 부호화 수단은, 상기 계수 데이터를 부호화하여 부호화 데이터를 생성하는 계수 부호화 수단과, 상기 부호화 데이터를 패킷화하는 패킷화 수단을 포함할 수 있다.
상기 은폐 정보는, 프레임 또는 필드를 구성하는 라인 블록을 다른 프레임 또는 다른 필드를 구성하는 라인 블록으로 치환 가능한지의 여부를 나타내는 플래그 정보를 포함하도록 할 수 있다.
상기 비교 수단은, 상기 화상 데이터에 대한 프레임간의 차분값 또는 필드간의 차분값과 임계값을 비교할 수 있다.
상기 생성 수단은, 상기 프레임간의 차분값 또는 상기 필드간의 차분값이 임 계값 이하인 경우, 상기 플래그 정보를 치환 가능하게 설정할 수 있다.
상기 은폐 정보는, 프레임 또는 필드를 구성하는 라인 블록을 다른 프레임 또는 다른 필드를 구성하는 라인 블록으로 치환 가능한 경우, 어느 픽쳐 또는 필드까지 거슬러 올라가서 치환 가능한지를 나타내는 정보를 포함하도록 할 수 있다.
상기 은폐 정보는, 프레임 또는 필드를 구성하는 라인 블록을 다른 프레임 또는 다른 필드를 구성하는 라인 블록으로 치환 가능한 경우, 치환 가능한 픽쳐 또는 필드 이후의 픽쳐 또는 필드에서 치환 가능한지를 나타내는 플래그 정보를 포함하도록 할 수 있다.
상기 계수 데이터는, 라인 블록마다, 저역 성분으로부터 고역 성분의 순으로 재배열되어 있도록 할 수 있다.
본 발명의 일 측면은 또한, 화상 데이터를 부호화하는 정보 처리 장치의 정보 처리 방법으로서, 비교 수단은, 화상 데이터를 구성하는 프레임 또는 필드를 대상으로 하여, 적어도 최저역 성분의 서브밴드의 1라인분의 계수 데이터를 생성하는 데에 필요한 라인수분의 화상 데이터를 포함하는 라인 블록마다 비교하고, 생성 수단은, 상기 비교 수단에 의한 비교 결과에 따라서, 라인 블록의 에러의 은폐 방법을 나타내는 은폐 정보를 생성하고, 부호화 수단은, 주파수 대역으로 분해된 복수의 서브밴드의 계수 데이터를 합성하여 화상 데이터를 생성하는 합성 처리를 실행하는 순으로 미리 재배열된 계수 데이터를 부호화하여 부호화 데이터를 생성하고, 제어 수단은, 상기 생성 수단에 의해 생성된 은폐 정보를, 상기 부호화 수단에 의해 생성된 부호화 데이터로 다중화하도록, 상기 부호화 수단을 제어하는 정보 처리 방법이다.
본 발명의 다른 측면은, 화상 데이터가 부호화된 부호화 데이터에 에러 은폐 처리를 행하는 정보 처리 장치로서, 상기 화상 데이터가 주파수 대역으로 분해된 복수의 서브밴드의 계수 데이터를 합성하여 화상 데이터를 생성하는 합성 처리를 실행하는 순으로 미리 재배열된 계수 데이터를 부호화하여 얻어지는 부호화 데이터로부터, 화상 데이터를 구성하는 프레임 또는 필드를 대상으로 하여 적어도 최저역 성분의 서브밴드의 1라인분의 계수 데이터를 생성하는 데에 필요한 라인수분의 화상 데이터를 포함하는 라인 블록마다, 라인 블록의 에러의 은폐 방법을 나타내는 은폐 정보를 취득하는 취득 수단과, 상기 취득 수단에 의해 취득된 에러 은폐 정보에 나타내어지는 에러 은폐 정보에 따라서, 상기 부호화 데이터에 포함되는 에러를, 라인 블록마다 은폐 처리하는 은폐 수단을 구비하는 정보 처리 장치이다.
상기 부호화 데이터는, 상기 은폐 정보를 헤더로 하여 패킷화되어 있고, 상기 취득 수단은, 상기 은폐 정보를 헤더로서 취득할 수 있다.
상기 은폐 수단에 의해 은폐 처리된 부호화 데이터를 복호하여 화상 데이터를 생성하는 복호 수단을 더 구비할 수 있다.
상기 은폐 수단에 의해 은폐 처리된 부호화 데이터를 기록 매체에 기록하는 기록 수단을 더 구비할 수 있다.
본 발명의 다른 측면은 또한, 화상 데이터가 부호화된 부호화 데이터에 에러 은폐 처리를 행하는 정보 처리 장치의 정보 처리 방법으로서, 취득 수단이, 상기 화상 데이터가 주파수 대역으로 분해된 복수의 서브밴드의 계수 데이터를 합성하여 화상 데이터를 생성하는 합성 처리를 실행하는 순으로 미리 재배열된 계수 데이터를 부호화하여 얻어지는 부호화 데이터로부터, 화상 데이터를 구성하는 프레임 또는 필드를 대상으로 하여 적어도 최저역 성분의 서브밴드의 1라인분의 계수 데이터를 생성하는 데에 필요한 라인수분의 화상 데이터를 포함하는 라인 블록마다, 라인 블록의 에러의 은폐 방법을 나타내는 은폐 정보를 취득하고, 은폐 수단이, 상기 취득 수단에 의해 취득된 에러 은폐 정보에 나타내어지는 에러 은폐 정보에 따라서, 상기 부호화 데이터에 포함되는 에러를, 라인 블록마다 은폐 처리하는 정보 처리 방법이다.
본 발명의 일 측면에서는, 화상 데이터를 구성하는 프레임 또는 필드를 대상으로 하여, 적어도 최저역 성분의 서브밴드의 1라인분의 계수 데이터를 생성하는 데에 필요한 라인수분의 화상 데이터를 포함하는 라인 블록마다 비교되고, 그 비교 결과에 따라서, 라인 블록의 에러의 은폐 방법을 나타내는 은폐 정보가 생성되고, 주파수 대역으로 분해된 복수의 서브밴드의 계수 데이터를 합성하여 화상 데이터를 생성하는 합성 처리를 실행하는 순으로 미리 재배열된 계수 데이터를 부호화하여 부호화 데이터가 생성되고, 생성된 은폐 정보를 부호화 데이터로 다중화하도록 제어가 행하여진다.
본 발명의 다른 측면에서는, 화상 데이터가 주파수 대역으로 분해된 복수의 서브밴드의 계수 데이터를 합성하여 화상 데이터를 생성하는 합성 처리를 실행하는 순으로 미리 재배열된 계수 데이터를 부호화하여 얻어지는 부호화 데이터로부터, 화상 데이터를 구성하는 프레임 또는 필드를 대상으로 하여 적어도 최저역 성분의 서브밴드의 1라인분의 계수 데이터를 생성하는 데에 필요한 라인수분의 화상 데이터를 포함하는 라인 블록마다, 라인 블록의 에러의 은폐 방법을 나타내는 은폐 정보가 취득되고, 취득된 에러 은폐 정보에 나타내어지는 에러 은폐 정보에 따라서, 부호화 데이터에 포함되는 에러가 라인 블록마다 은폐 처리된다.
<발명의 효과>
본 발명에 따르면, 데이터를 송수신할 수 있다. 특히, 데이터 송수신에서 발생하는 지연 시간을 저감시킬 수 있다.
도 1은 본 발명을 적용한 전송 시스템의 구성예를 도시하는 블록도.
도 2는 도 1의 부호화부의 구성예를 도시하는 블록도.
도 3은 웨이블릿 변환에 대해서 개략적으로 설명하기 위한 개략 선도.
도 4는 웨이블릿 변환에 대해서 개략적으로 설명하기 위한 개략 선도.
도 5는 5×3 필터의 리프팅에 의한 필터링을 분해 레벨=2까지 실행한 예를 도시하는 개략 선도.
도 6은 본 발명에 따른 웨이블릿 변환 및 웨이블릿 역변환의 흐름을 개략적으로 도시하는 개략 선도.
도 7은 프리싱크트 헤더의 구성예를 도시하는 도면.
도 8은 픽쳐 헤더의 구성예를 도시하는 도면.
도 9는 부호화부와 패킷타이즈 처리부 사이에서 수수되는 정보의 예를 도시하는 도면.
도 10은 도 1의 패킷타이즈 처리부의 상세한 구성예를 도시하는 블록도.
도 11은 프리싱크트의 예를 설명하기 위한 모식도.
도 12는 패킷의 작성예를 설명하기 위한 모식도.
도 13은 RTP 헤더의 구성예를 설명하기 위한 모식도.
도 14는 RTP 페이로드 헤더의 구성예를 설명하기 위한 모식도.
도 15는 공통 헤더의 구성예를 도시하는 도면.
도 16은 양자화 파라미터 정보의 구성예를 도시하는 도면.
도 17은 사이즈 정보의 구성예를 도시하는 도면.
도 18은 포맷 정보의 구성예를 도시하는 도면.
도 19는 픽쳐 정보의 구성예를 도시하는 도면.
도 20은 컬러 정보의 구성예를 도시하는 도면.
도 21은 도 1의 디패킷타이즈 처리부의 상세한 구성예를 도시하는 블록도.
도 22는 제어 모드의 천이의 모습의 예를 도시하는 도면.
도 23은 디패킷타이즈 처리부와 복호부 사이에서 수수되는 정보의 예를 도시하는 도면.
도 24는 도 1의 복호부의 상세한 구성예를 도시하는 블록도.
도 25는 부호화 처리의 흐름의 예를 설명하기 위한 플로우차트.
도 26은 패킷타이즈 처리의 흐름의 예를 설명하기 위한 플로우차트.
도 27은 스타트 모드 처리의 흐름의 예를 설명하기 위한 플로우차트.
도 28은 모드 공통 처리의 흐름의 예를 설명하기 위한 플로우차트.
도 29는 스탠바이 모드 처리의 흐름의 예를 설명하기 위한 플로우차트.
도 30은 프로세싱 모드 처리의 흐름의 예를 설명하기 위한 플로우차트.
도 31은 로스 모드 처리의 흐름의 예를 설명하기 위한 플로우차트.
도 32는 복호 제어 처리의 흐름의 예를 설명하기 위한 플로우차트.
도 33은 복호 처리의 흐름의 예를 설명하기 위한 플로우차트.
도 34는 에러 통지 대응 처리의 흐름의 예를 설명하기 위한 플로우차트.
도 35는 에러 통지 대응의 모습의 예를 설명하는 모식도.
도 36은 RTP 페이로드 헤더의 다른 구성예를 도시하는 도면.
도 37은 세그먼트 정보의 구성예를 도시하는 도면.
도 38은 패킷타이즈 처리의 흐름의 다른 예를 설명하기 위한 플로우차트.
도 39는 송신 장치 및 수신 장치의 각 요소가 행하는 병렬 동작의 모습의 예를 개략적으로 도시하는 개략 선도.
도 40은 도 1의 부호화부의 다른 구성예를 도시하는 블록도.
도 41은 웨이블릿 계수의 재배열 처리를 부호화부측에서 행하는 경우의 처리의 흐름을 설명하기 위한 개략 선도.
도 42는 웨이블릿 계수의 재배열 처리를 복호부측에서 행하는 경우의 처리의 흐름을 설명하기 위한 개략 선도.
도 43은 도 1의 부호화부의 또 다른 구성예를 도시하는 블록도.
도 44는 도 43의 부호화부에 대응하는 복호부의 구성예를 도시하는 블록도.
도 45는 본 발명을 적용한 전송 시스템의 다른 구성예를 도시하는 블록도.
도 46은 도 45의 송신 장치 및 수신 장치의 상세한 구성예를 도시하는 블록도.
도 47은 은폐용 헤더의 구성예를 도시하는 모식도.
도 48은 전송되는 화상 데이터의 구성예를 도시하는 모식도.
도 49는 해석 처리의 흐름의 예를 설명하는 플로우차트.
도 50은 은폐용 헤더 생성 처리의 흐름의 예를 설명하는 플로우차트.
도 51은 로스 해석 처리를 설명하는 플로우차트.
도 52는 본 발명을 적용한 정보 처리 시스템의 구성예를 도시하는 도면.
<도면의 주요 부분에 대한 부호의 설명>
100 : 전송 시스템
102 : 송신 장치
103 : 수신 장치
110 : 회선
132 : 디패킷타이즈 처리부
133 : 복호부
202 : RTP 헤더 작성부
203 : 공통 헤더 작성부
204 : 확장 헤더 작성부
205 : 픽쳐 정보 작성부
206 : 플래그 확인부
207 : 사이즈 확인부
208 : 플래그먼트 처리부
209 : 패킷화부
252 : 헤더 정보 해석부
253 : 제어 모드 천이부
254 : 제어부
255 : 헤더 공급부
256 : 데이터 공급부
257 : 에러 통지부
258 : 제어 신호 공급부
351 : 제어 정보 취득부
352 : 복호 제어부
353 : 복호 처리 실행부
354 : 헤더 취득부
355 : 데이터 취득부
356 : 에러 통지 취득부
357 : 파기 처리부
602 : 송신 장치
603 : 수신 장치
621 : 해석부
622 : 기억부
623 : 은폐용 헤더 생성부
631 : 로스 해석부
632 : 기억부
640 : 은폐용 헤더
643 : 치환 선두 픽쳐 ID
644 : RF
645 : SF
646 : 치환 선두 프리싱크트 ID
<발명을 실시하기 위한 최량의 형태>
이하, 본 발명의 실시 형태에 대해서 설명한다.
도 1은, 본 발명을 적용한 전송 시스템의 구성예를 도시하는 블록도이다.
도 1에서, 전송 시스템(100)은, 촬상 장치(101)가 생성한 화상 데이터를 송신 장치(102)가 압축 부호화하고, 패킷화하여 송신하고, 회선(110)을 통해서 전송되는 그 패킷을, 수신 장치(103)가 수신하여 디패킷타이즈하여 복호하고, 표시 장치(104)가 얻어진 화상 데이터의 화상을 표시하는 데이터 전송 시스템이다.
촬상 장치(101)는, CCD(Charge Coupled Device)나 CMOS(Complementary Metal Oxide Semiconductor) 등을 이용한 촬상 소자를 갖고, 피사체를 촬상하고, 그 촬상 화상을 디지털 데이터의 화상 데이터로 변환하고, 얻어진 화상 데이터를 송신 장치(102)에 공급한다.
송신 장치(102)는, 부호화부(121), 패킷타이즈 처리부(122), 및 송신부(123)를 갖는다. 송신 장치(102)는, 부호화부(121)에서, 촬상 장치(101)로부터 공급되는 화상 데이터를 소정의 방법으로 부호화하고, 그 부호화에 의해 얻어진 부호화 데이터를 패킷타이즈 처리부(122)에서 패킷화하고, 생성된 패킷을 송신부(123)로부터 소정의 통신 방법으로 회선(110)에 송출한다.
회선(110)은, 송신 장치(102)와 수신 장치(103)를 접속하고, 송신 장치(102)로부터 송출되는 패킷을 수신 장치(103)에 전송하는 임의의 전송 매체이다.
수신 장치(103)는, 수신부(131), 디패킷타이즈 처리부(132), 및 복호부(133)를 갖는다. 수신 장치(103)는, 수신부(131)에서, 회선(110)을 통해서 전송되어 온 패킷을 수신하고, 디패킷타이즈 처리부(132)에서, 그 수신한 패킷으로부터 부호화 데이터를 추출하고, 복호부(133)에서, 그 추출한 부호화 데이터를 송신 장치(102)의 부호화부(121)에 대응하는 복호 방법으로 복호하고, 얻어진 베이스 밴드의 화상 데이터를 표시 장치(104)에 출력한다.
표시 장치(104)는, 디스플레이를 갖고, 수신 장치(103)로부터 공급된 화상 데이터의 화상을 그 디스플레이에 표시한다.
이 도 1의 전송 시스템(100)은, 패킷타이즈 처리부(122)에 의한 패킷타이즈 처리에 의한 지연 시간 및 디패킷타이즈 처리부(132)에 의한 디패킷타이즈 처리에 의한 지연 시간을 저감하고, 촬상 장치(101)에서 촬상되고 나서, 그 화상이 표시 장치(104)에 표시될 때까지의 지연 시간을 저감시킬 수 있는 시스템이다.
도 1의 전송 시스템(100)에서, 송신 장치(102)가 송신하는 화상 데이터를 제 공하는 장치로서 촬상 장치(101)가 도시되어 있지만, 화상 데이터를 제공할 수 있는 장치이면 어떠한 장치이어도 된다. 또한, 수신 장치(103)가 수신한 화상 데이터를 이용하는 장치로서 표시 장치(104)가 도시되어 있지만, 화상 데이터를 이용할 수 있는 장치이면 어떠한 장치이어도 된다.
또한, 여기서는 전송되는 데이터로서 화상 데이터에 대해서만 설명하지만, 예를 들면, 음성 데이터 등, 그 밖의 데이터가 화상 데이터와 함께 전송되어도 된다.
송신 장치(102)가 행하는 패킷의 송신 방법은, 수신 장치(103)에 대해서만 송신하는 유니캐스트이어도 되고, 수신 장치(103)를 포함하는 복수의 장치에 대해서 송신하는 멀티캐스트이어도 되고, 불특정 다수의 장치에 대해서 송신하는 브로드캐스트이어도 된다.
회선(110)은, 패킷을 전송 가능한 것이면 어떠한 형태의 것이어도 되고, 유선이어도 되고, 무선이어도 되고, 그 양방을 포함하는 것이어도 된다. 또한, 도 1에서 회선(110)은, 1개의 화살표에 의해 도시되어 있지만, 전용 또는 범용의 전송 케이블이어도 되고, 예를 들면 LAN(Local Area Network)이나 인터넷 등과 같은, 1개 또는 복수의 통신망을 포함하도록 해도 되고, 어떠한 통신 중계 장치를 포함하도록 해도 된다. 또한, 회선(110)의 회선수(채널수)는 몇개이어도 된다.
다음으로, 도 1에 도시되는 송신 장치(102) 및 수신 장치(103)의 각 부의 상세에 대해서 설명한다.
도 2는, 도 1의 송신 장치(102)의 부호화부(121)의 내부의 구성예를 도시하 는 블록도이다. 도 2에서, 부호화부(121)는, 웨이블릿 변환부(150), 도중 계산용 버퍼부(151), 계수 재배열용 버퍼부(152), 계수 재배열부(153), 레이트 제어부(154), 및 엔트로피 부호화부(155)를 갖는다.
부호화부(121)에 입력된 화상 데이터는, 도중 계산용 버퍼부(151)에 일시적으로 저장된다. 웨이블릿 변환부(150)는, 도중 계산용 버퍼부(151)에 저장된 화상 데이터에 대해서 웨이블릿 변환을 실시한다. 즉, 웨이블릿 변환부(150)는, 도중 계산용 버퍼부(151)로부터 화상 데이터를 읽어내어 분석 필터에 의해 필터 처리를 실시하여 저역 성분 및 고역 성분의 계수의 데이터를 생성하고, 생성된 계수 데이터를 도중 계산용 버퍼부(151)에 저장한다. 웨이블릿 변환부(150)는, 수평 분석 필터와 수직 분석 필터를 갖고, 화상 데이터군에 대하여, 화면 수평 방향과 화면 수직 방향의 양방에 대해서 분석 필터 처리를 행한다. 웨이블릿 변환부(150)는, 도중 계산용 버퍼부(151)에 저장된 저역 성분의 계수 데이터를 재차 읽어내고, 읽어낸 계수 데이터에 대해서 분석 필터에 의한 필터 처리를 실시하여, 고역 성분 및 저역 성분의 계수의 데이터를 또한 생성한다. 생성된 계수 데이터는, 도중 계산용 버퍼부(151)에 저장된다.
웨이블릿 변환부(150)는, 이 처리를 반복하여 분해 레벨이 소정 레벨에 도달하면, 도중 계산용 버퍼부(151)로부터 계수 데이터를 읽어내고, 읽어내어진 계수 데이터를 계수 재배열용 버퍼부(152)에 기입한다.
계수 재배열부(153)는, 계수 재배열용 버퍼부(152)에 기입된 계수 데이터를 소정의 순서로 읽어내고, 엔트로피 부호화부(155)에 공급한다. 엔트로피 부호화 부(155)는, 공급된 계수 데이터를, 예를 들면 하프만 부호화나 산술 분호화와 같은 소정의 엔트로피 부호화 방식으로 부호화한다.
엔트로피 부호화부(155)는, 레이트 제어부(154)와 연동적으로 동작하고, 출력되는 압축 부호화 데이터의 비트 레이트가 대략 일정값으로 되도록 제어된다. 즉, 레이트 제어부(154)는, 엔트로피 부호화부(155)로부터의 부호화 데이터 정보에 기초하여, 엔트로피 부호화부(155)에 의해 압축 부호화된 데이터의 비트 레이트가 목표값에 도달한 시점 혹은 목표값에 도달하기 직전에서 엔트로피 부호화부(155)에 의한 부호화 처리를 종료하도록 제어하는 제어 신호를, 엔트로피 부호화부(155)에 대해서 공급한다. 엔트로피 부호화부(155)는, 레이트 제어부(154)로부터 공급되는 제어 신호에 따라서 부호화 처리가 종료된 시점에서, 부호화 데이터를 출력한다.
또한, 엔트로피 부호화부(155)가, 계수 재배열부(153)로부터 읽어내어진 계수 데이터에 대하여, 최초로 양자화를 행하고, 얻어진 양자화 계수에 대해서 하프만 부호화나 산술 분호화 등의 정보원 부호화 처리를 실시하도록 하면, 더욱 압축 효과의 향상을 기대할 수 있다. 이 양자화의 방법으로서는 어떠한 것을 이용해도 되고, 예를 들면, 일반적인 수단, 즉, 이하의 수학식 1로 나타내어지는 바와 같은, 계수 데이터 W를 양자화 스텝 사이즈 Δ로 제산하는 방법을 이용하면 된다.
이 때의 양자화 스텝 사이즈 Δ는, 예를 들면 레이트 제어부(154)에서 산출 된다.
엔트로피 부호화부(155)는, 부호화에 의해 얻어진 부호화 데이터를 패킷타이즈 처리부(122)에 공급한다.
다음으로, 도 2의 웨이블릿 변환부(150)에서 행하여지는 처리에 대해서 보다 상세하게 설명한다. 우선, 웨이블릿 변환에 대해서 개략적으로 설명한다. 화상 데이터에 대한 웨이블릿 변환에서는, 도 3에 개략적으로 도시되는 바와 같이, 화상 데이터를 공간 주파수가 높은 대역과 낮은 대역으로 분할하는 처리를, 분할의 결과 얻어지는 공간 주파수가 낮은 대역의 데이터에 대해서 재귀적으로 반복한다. 이와 같이 하여, 공간 주파수가 낮은 대역의 데이터를 보다 작은 영역으로 좁혀 들어감으로써, 효율적인 압축 부호화를 가능하게 한다.
또한, 도 3은, 화상 데이터의 최저역 성분 영역에 대한 저역 성분의 영역 L 및 고역 성분의 영역 H로의 분할 처리를 3회 반복하고, 분할의 계층의 총수를 나타내는 분할 레벨=3으로 한 경우의 예이다. 도 3에서, "L" 및 "H"는 각각 저역 성분 및 고역 성분을 나타내고, "L" 및 "H"의 순서는, 전측이 가로 방향으로 분할한 결과의 대역을 나타내고, 후측이 세로 방향으로 분할한 결과의 대역을 나타낸다. 또한, "L" 및 "H"의 앞의 숫자는, 그 영역의 계층을 나타내고 있고, 저역 성분의 계층일수록 작은 값으로 표시되어 있다.
또한, 도 3의 예로부터 알 수 있는 바와 같이, 화면의 우측 하부의 영역으로부터 좌측 상부의 영역에 걸쳐서 단계적으로 처리가 이루어져, 저역 성분이 좁혀들어져 간다. 즉, 도 3의 예에서는, 화면의 우측 하부의 영역이 가장 저역 성분이 적은(고역 성분이 가장 많이 포함되는) 영역 3HH로 되고, 화면이 4분할된 좌측 상부의 영역은 다시 4분할되고, 이 4분할된 영역 중 좌측 상부의 영역이 다시 4분할된다. 가장 좌측 상부 코너의 영역은, 가장 저역 성분을 많이 포함하는 영역 0LL로 된다.
저역 성분에 대해서 반복하여 변환 및 분할을 행하는 것은, 화상의 에너지가 저역 성분에 집중되어 있기 때문이다. 이것은, 도 4의 A에 일례가 도시되는 분할 레벨=1의 상태로부터, 도 4의 B에 일례가 도시되는 분할 레벨=3의 상태와 같이 분할 레벨을 진행시켜 감에 따라서, 도 4의 B에 도시되는 바와 같이 하여 서브밴드가 형성되어 가는 것으로부터도 이해된다. 예를 들면, 도 3에서의 웨이블릿 변환의 분할 레벨은 3이며, 이 결과, 10개의 서브밴드가 형성되어 있다.
웨이블릿 변환부(150)는, 통상적으로, 저역 필터와 고역 필터로 구성되는 필터 뱅크를 이용하여 상술한 바와 같은 처리를 행한다. 또한, 디지털 필터는, 통상적으로, 복수 탭 길이의 임펄스 응답 즉 필터 계수를 갖고 있기 때문에, 필터 처리를 행할 수 있을 만큼의 입력 화상 데이터 또는 계수 데이터를 미리 버퍼링해 둘 필요가 있다. 또한, 웨이블릿 변환을 다단에 걸쳐 행하는 경우도 마찬가지로, 전단에서 생성한 웨이블릿 변환 계수를, 필터 처리를 행할 수 있는 수만큼 버퍼링해 둘 필요가 있다.
이 웨이블릿 변환의 구체적인 예로서, 5×3 필터를 이용한 방법에 대해서 설명한다. 이 5×3 필터를 이용한 방법은, JPEG2000 규격에서도 채용되고 있으며, 적은 필터 탭수로 웨이블릿 변환을 행할 수 있는 점에서 우수한 방법이다.
5×3 필터의 임펄스 응답(Z변환 표현)은, 다음의 수학식 2 및 수학식 3으로 나타내는 바와 같이, 저역 필터 H0(z)와 고역 필터 H1(z)로 구성된다. 수학식 2 및 수학식 3으로부터, 저역 필터 H0(z)은 5탭이고, 고역 필터 H1(z)은 3탭인 것을 알 수 있다.
이들 수학식 2 및 수학식 3에 따르면, 저역 성분 및 고역 성분의 계수를, 직접적으로 산출할 수 있다. 여기서, 리프팅(Lifting) 기술을 이용함으로써, 필터 처리의 계산을 줄일 수 있다.
다음으로, 이 웨이블릿 변환 방법에 대해서 더욱 구체적으로 설명한다. 도 5는, 5×3 필터의 리프팅에 의한 필터 처리를, 분해 레벨=2까지 실행한 예를 도시하고 있다. 또한, 도 5에서, 도면의 좌측에 분석 필터로서 도시되는 부분은, 웨이블릿 변환부(150)의 필터이다. 또한, 도면의 우측에 합성 필터로서 도시되는 부분은, 후술하는 복호 장치에서의 웨이블릿 역변환부의 필터이다.
또한, 이하의 설명에서는, 예를 들면 표시 디바이스 등에서 화면의 좌측 상부 코너의 화소를 선두로 하여, 화소가 화면의 좌단으로부터 우단을 향하여 주사되 어 1라인이 구성되고, 라인마다의 주사가 화면의 상단으로부터 하단을 향하여 행하여져 1화면이 구성되는 것으로 한다.
도 5에서, 좌단열은, 원화상 데이터의 라인 상의 대응하는 위치에 있는 화소 데이터가 세로 방향으로 배열되어 도시되어 있다. 즉, 웨이블릿 변환부(150)에서의 필터 처리는, 수직 필터를 이용하여 화면 상을 화소가 세로로 주사되어 행하여진다. 좌단으로부터 1열째 내지 3열째가 분할 레벨=1의 필터 처리를 나타내고, 4열째 내지 6열째가 분할 레벨=2의 필터 처리를 나타낸다. 좌단으로부터 2열째는, 좌단의 원화상 데이터의 화소에 기초하는 고역 성분 출력, 좌단으로부터 3열째는, 원화상 데이터 및 고역 성분 출력에 기초하는 저역 성분 출력을 나타낸다. 분할 레벨=2의 필터 처리는, 좌단으로부터 4열째 내지 6열째에 도시되는 바와 같이, 분할 레벨=1의 필터 처리의 출력에 대해서 처리가 이루어진다.
분해 레벨=1의 필터 처리에서, 제1 단계의 필터 처리로서, 원화상 데이터의 화소에 기초하여 고역 성분의 계수 데이터가 산출되고, 제2 단계의 필터 처리로서, 제1 단계의 필터 처리에서 산출된 고역 성분의 계수 데이터와, 원화상 데이터의 화소에 기초하여 저역 성분의 계수 데이터가 산출된다. 분해 레벨=1의 일례의 필터 처리를, 도 5에서의 좌측(분석 필터측)의 제1열째 내지 제3열째에 도시한다. 산출된 고역 성분의 계수 데이터는, 도 2의 계수 재배열용 버퍼부(152)에 저장된다. 또한, 산출된 저역 성분의 계수 데이터는, 도 2의 도중 계산용 버퍼부(151)에 저장된다.
도 5에서는, 계수 재배열용 버퍼부(152)는, 일점쇄선으로 둘러싸여진 부분으 로서 나타내고, 도중 계산용 버퍼부(151)는, 점선으로 둘러싸여진 부분으로서 나타낸다.
도중 계산용 버퍼부(151)에 유지된 분해 레벨=1의 필터 처리의 결과에 기초하여, 분해 레벨=2의 필터 처리가 행하여진다. 분해 레벨=2의 필터 처리에서는, 분해 레벨=1의 필터 처리에서 저역 성분의 계수로서 산출된 계수 데이터를, 저역 성분 및 고역 성분을 포함한 계수 데이터로 간주하여, 분해 레벨=1과 마찬가지의 필터 처리를 행한다. 분해 레벨=2의 필터 처리에 의해 산출된, 고역 성분의 계수 데이터 및 저역 성분의 계수 데이터는, 계수 재배열용 버퍼부(152)에 저장된다.
웨이블릿 변환부(150)에서는, 상술한 바와 같은 필터 처리를, 화면의 수평 방향 및 수직 방향으로 각각 행한다. 예를 들면, 우선, 분해 레벨=1의 필터 처리를 수평 방향으로 행하고, 생성된 고역 성분 및 저역 성분의 계수 데이터를 도중 계산용 버퍼부(151)에 저장한다. 다음으로, 도중 계산용 버퍼부(151)에 저장된 계수 데이터에 대하여, 수직 방향으로 분해 레벨=1의 필터 처리를 행한다. 이 분해 레벨=1의 수평 및 수직 방향의 처리에 의해, 고역 성분을 다시 고역 성분 및 저역 성분으로 분해한 계수 데이터의 각각에 의한 영역 HH 및 영역 HL과, 저역 성분을 다시 고역 성분 및 저역 성분으로 분해한 계수 데이터의 각각에 의한 영역 LH 및 영역 LL의 4영역이 형성된다.
그리고, 분해 레벨=2에서는, 수평 방향 및 수직 방향의 각각에 대해서, 분해 레벨=1에서 생성된 저역 성분의 계수 데이터에 대해서 필터 처리가 행하여진다. 즉, 분해 레벨=2에서는, 분해 레벨=1에서 분할되어 형성된 영역 LL이 다시 4분할되 어, 영역 LL 내에 다시 영역 HH, 영역 HL, 영역 LH 및 영역 LL이 형성된다.
웨이블릿 변환부(150)는, 웨이블릿 변환에 의한 필터 처리를, 화면의 세로 방향에 대해서, 수라인마다의 처리로 분할하여, 복수회로 나누어 단계적으로 행하도록 하고 있다. 도 5의 예에서는, 화면 상의 제1 라인으로부터의 처리로 되는 1회째의 처리는, 7라인에 대해서 필터 처리를 행하고, 8라인째로부터의 처리로 되는 2회째 이후의 처리는, 4라인마다 필터 처리를 행하고 있다. 이 라인수는, 고역 성분과 저역 성분으로 2분해한 후에, 1라인분의 최저역 성분이 생성되기 위해서 필요한 라인수에 기초한다.
또한, 이하에서, 이 최저역 성분의 1라인분(최저역 성분의 서브밴드의 1라인분의 계수 데이터)을 생성하기 위해서 필요한, 다른 서브밴드도 포함시킨 라인의 모임을, 프리싱크트(또는 라인 블록)라고 칭한다. 여기서 라인이란, 웨이블릿 변환 전의 화상 데이터에 대응하는 픽쳐 혹은 필드 내, 또는 각 서브밴드 내에서 형성되는 1행분의 화소 데이터 혹은 계수 데이터를 나타낸다. 즉, 프리싱크트(라인 블록)란, 웨이블릿 변환 전의 원래의 화상 데이터에서의 웨이블릿 변환 후의 최저역 성분의 서브밴드 1라인분의 계수 데이터를 생성하기 위해서 필요한 라인수분의 화소 데이터군, 또는, 그 화소 데이터군을 웨이블릿 변환하여 얻어지는 각 서브밴드의 계수 데이터군을 나타낸다.
도 5에 따르면, 분해 레벨=2의 필터 처리 결과에서 얻어지는 계수 C5는, 계수 C4 및 도중 계산용 버퍼부(151)에 저장된 계수 Ca에 기초하여 산출되고, 계수 C4 는, 도중 계산용 버퍼부(151)에 저장된 계수 Ca, 계수 Cb 및 계수 Cc에 기초하여 산출된다. 또한, 계수 Cc는, 계수 재배열용 버퍼부(152)에 저장되는 계수 C2 및 계수 C3 및 제5 라인의 화소 데이터에 기초하여 산출된다. 또한, 계수 C3은, 제5 라인 내지 제7 라인의 화소 데이터에 기초하여 산출된다. 이와 같이, 분할 레벨=2에서의 저역 성분의 계수 C5를 얻기 위해서는, 제1 라인 내지 제7 라인의 화소 데이터가 필요로 된다.
이에 대하여, 2회째 이후의 필터 처리에서는, 전회까지의 필터 처리에서 이미 산출되고 계수 재배열용 버퍼부(152)에 저장되어 있는 계수 데이터를 이용할 수 있으므로, 필요한 라인수가 적어도 된다.
즉, 도 5에 따르면, 분해 레벨=2의 필터 처리 결과에서 얻어지는 저역 성분의 계수 중, 계수 C5의 다음의 계수인 계수 C9는, 계수 C4 및 계수 C8 및 도중 계산용 버퍼부(151)에 저장된 계수 Cc에 기초하여 산출된다. 계수 C4는, 상술한 1회째의 필터 처리에 의해 이미 산출되어, 계수 재배열용 버퍼부(152)에 저장되어 있다. 마찬가지로, 계수 Cc는, 상술한 1회째의 필터 처리에 의해 이미 산출되어, 도중 계산용 버퍼부(151)에 저장되어 있다. 따라서, 이 2회째의 필터 처리에서는, 계수 C8을 산출하기 위한 필터 처리만이 새롭게 이루어지게 된다.
이 새로운 필터 처리는, 제8 라인 내지 제11 라인이 더 이용되어 이루어진다.
이와 같이, 2회째 이후의 필터 처리는, 전회까지의 필터 처리에 의해 산출되 어 도중 계산용 버퍼부(151) 및 계수 재배열용 버퍼부(152)에 저장된 데이터를 이용할 수 있으므로, 각각 4라인마다의 처리로 완료되게 된다.
또한, 화면 상의 라인수가 부호화의 라인수와 합치하지 않는 경우에는, 원화상 데이터의 라인을 소정의 방법으로 복제하여 라인수를 부호화의 라인수와 합하여, 필터 처리를 행한다.
이와 같이, 최저역 성분 1라인분의 계수 데이터가 얻어지는 만큼의 필터 처리를 단계적으로 화면 전체의 라인에 대해서 복수회로 나누어(프리싱크트 단위로) 행함으로써, 부호화 데이터를 전송하였을 때에 저지연으로 복호 화상을 얻는 것을 가능하게 하고 있다.
웨이블릿 변환을 행하기 위해서는, 웨이블릿 변환 그 자체를 실행하기 위해서 이용되는 제1 버퍼와, 소정의 분할 레벨까지 처리를 실행하는 동안에 생성되는 계수를 저장하기 위한 제2 버퍼가 필요로 된다. 제1 버퍼는, 도중 계산용 버퍼부(151)에 대응하고, 도 5에서는 점선으로 둘러싸여 도시되어 있다. 또한, 제2 버퍼는, 계수 재배열용 버퍼부(152)에 대응하여, 도 5에서는 일점쇄선으로 둘러싸여 도시되어 있다. 제2 버퍼에 저장된 계수는, 복호 시에 이용되기 때문에, 후단의 엔트로피 부호화 처리의 대상으로 된다.
다음으로, 도 2의 계수 재배열부(153)의 처리에 대해서 설명한다. 상술한 바와 같이, 웨이블릿 변환부(150)에서 산출된 계수 데이터는, 계수 재배열용 버퍼부(152)에 저장되고, 계수 재배열부(153)에 의해 순서가 재배열되어 읽어내어지고, 코딩 유닛 단위로 엔트로피 부호화부(155)에 송출된다.
이미 설명한 바와 같이, 웨이블릿 변환에서는, 고역 성분측으로부터 저역 성분측으로 계수가 생성되어 간다. 도 5의 예에서는, 1회째에서, 원화상의 화소 데이터에 의해, 분해 레벨=1의 필터 처리에서, 고역 성분의 계수 C1, 계수 C2 및 계수 C3이 순차적으로 생성된다. 그리고, 분해 레벨=1의 필터 처리에서 얻어진 저역 성분의 계수 데이터에 대해서 분해 레벨=2의 필터 처리를 행하여, 저역 성분의 계수 C4 및 계수 C5가 순차적으로 생성된다. 즉, 제1회째에서는, 계수 C1, 계수 C2, 계수 C3, 계수 C4, 계수 C5의 순으로 계수 데이터가 생성된다. 이 계수 데이터의 생성순은, 웨이블릿 변환의 원리상, 반드시 이 순서(고역으로부터 저역의 순)로 된다.
이에 대하여, 복호측에서는, 저지연으로 바로 복호를 행하기 위해서는 저역 성분으로부터 화상의 생성 및 출력을 행할 필요가 있다. 그 때문에, 부호화측에서 생성된 계수 데이터를 최저역 성분측으로부터 고역 성분측을 향하여 재배열하여 복호측에 공급하는 것이 바람직하다.
도 5의 예를 이용하여, 보다 구체적으로 설명한다. 도 5의 우측은, 역 웨이블릿 변환을 행하는 합성 필터측을 나타낸다. 복호측의 출력 화상 데이터의 제1 라인째를 포함하는 1회째의 합성 처리(역웨이블릿 변환 처리)는, 부호화측의 1회째의 필터 처리에서 생성된 최저역 성분의 계수 C4 및 계수 C5와, 계수 C1을 이용하여 행하여진다.
즉, 1회째의 합성 처리에서는, 계수 C5, 계수 C4, 계수 C1의 순으로 부호화측으로부터 복호측에 계수 데이터를 공급하고, 복호측에서는, 분해 레벨=2에 대응 하는 합성 처리인 합성 레벨=2의 처리에서, 계수 C5 및 계수 C4에 대해서 합성 처리를 행하여 계수 Cf를 생성하고, 버퍼에 저장한다. 그리고, 분해 레벨=1에 대응하는 합성 처리인 합성 레벨=1의 처리에서, 이 계수 Cf와 계수 C1에 대해서 합성 처리를 행하여, 제1 라인을 출력한다.
이와 같이, 제1회째의 합성 처리에서는, 부호화측에서 계수 C1, 계수 C2, 계수 C3, 계수 C4, 계수 C5의 순으로 생성되어 계수 재배열용 버퍼부(152)에 저장된 계수 데이터가, 계수 C5, 계수 C4, 계수 C1, …의 순으로 재배열되어 복호측에 공급된다.
또한, 도 5의 우측에 도시하는 합성 필터측에서는, 부호화측으로부터 공급되는 계수에 대해서, 괄호 안에 부호화측에서의 계수의 번호를 기입하고, 괄호 밖에 합성 필터의 라인순을 기입한다. 예를 들면 계수 C1(5)는, 도 5의 좌측의 분석 필터측에서는 계수 C5이고, 합성 필터측에서는 제1 라인째인 것을 나타낸다.
부호화측의 2회째 이후의 필터 처리에서 생성된 계수 데이터에 의한 복호측의 합성 처리는, 전회의 합성 처리 시에 합성 혹은 부호화측으로부터 공급된 계수 데이터를 이용하여 행할 수 있다. 도 5의 예에서는, 부호화측의 2회째의 필터 처리에서 생성된 저역 성분의 계수 C8 및 계수 C9를 이용하여 행하는, 복호측의 2회째의 합성 처리는, 부호화측의 1회째의 필터 처리에서 생성된 계수 C2 및 계수 C3이 더 필요로 되어, 제2 라인 내지 제5 라인이 복호된다.
즉, 2회째의 합성 처리에서는, 계수 C9, 계수 C8, 계수 C2, 계수 C3의 순으 로 부호화측으로부터 복호측에 계수 데이터를 공급한다. 복호측에서는, 합성 레벨=2의 처리에서, 계수 C8 및 계수 C9와, 1회째의 합성 처리 시에 부호화측으로부터 공급된 계수 C4를 이용하여 계수 Cg를 생성하여, 버퍼에 저장한다. 이 계수 Cg와, 상술한 계수 C4와, 1회째의 합성 처리에 의해 생성되어 버퍼에 저장된 계수 Cf를 이용하여 계수 Ch를 생성하여, 버퍼에 저장한다.
그리고, 합성 레벨=1의 처리에서, 합성 레벨=2의 처리에서 생성되어 버퍼에 저장된 계수 Cg 및 계수 Ch와, 부호화측으로부터 공급된 계수 C2(합성 필터에서는 계수 C6(2)로 표시되어 있음) 및 계수 C3(합성 필터에서는 계수 C7(3)으로 표시되어 있음)을 이용하여 합성 처리가 행하여져, 제2 라인 내지 제5 라인이 복호된다.
이와 같이, 제2회째의 합성 처리에서는, 부호화측에서 계수 C2, 계수 C3, (계수 C4, 계수 C5), 계수 C6, 계수 C7, 계수 C8, 계수 C9의 순으로 생성된 계수 데이터가, 계수 C9, 계수 C8, 계수 C2, 계수 C3, …의 순으로 재배열되어 복호측에 공급된다.
3회째 이후의 합성 처리에서도 마찬가지로 하여 계수 재배열용 버퍼부(152)에 저장된 계수 데이터가 소정의 순서로 재배열되어 복호부에 공급되어, 4라인씩 라인이 복호된다.
또한, 부호화측에서 화면의 하단의 라인을 포함하는 필터 처리(이하, 최후의 회라고 부름)에 대응하는 복호측의 합성 처리에서는, 지금까지의 처리에서 생성되어 버퍼에 저장된 계수 데이터를 모두 출력하게 되기 때문에, 출력 라인수가 많아 진다. 도 5의 예에서는, 최후의 회에 8라인이 출력된다.
또한, 계수 재배열부(153)에 의한 계수 데이터의 재배열 처리는, 예를 들면, 계수 재배열용 버퍼부(152)에 저장된 계수 데이터를 읽어낼 때의 읽어내기 어드레스를 소정의 순서로 설정함으로써 이루어진다.
도 6을 이용하여, 상술한 처리를 보다 구체적으로 설명한다. 도 6은, 5×3 필터를 이용하여, 분해 레벨=2까지 웨이블릿 변환에 의한 필터 처리를 실시한 예이다. 웨이블릿 변환부(150)에서, 도 6의 A에 일례가 도시되는 바와 같이, 입력 화상 데이터의 제1 라인 내지 제7 라인에 대해서 1회째의 필터 처리가 수평 및 수직 방향으로 각각 행하여진다(도 6의 A의 In-1).
1회째의 필터 처리의 분해 레벨=1의 처리에서, 계수 C1, 계수 C2, 및 계수 C3의 3라인분의 계수 데이터가 생성되어, 도 6의 B에 일례가 도시되는 바와 같이, 분해 레벨=1에서 형성되는 영역 HH, 영역 HL 및 영역 LH의 각각에 배치된다(도 6의 B의 WT-1).
또한, 분해 레벨=1에서 형성되는 영역 LL은, 분해 레벨=2에 의한 수평 및 수직 방향의 필터 처리에서 다시 4분할된다. 분해 레벨=2에서 생성되는 계수 C5 및 계수 C4는, 분해 레벨=1에 의한 영역 LL 내에서, 영역 LL에 계수 C5에 의한 1라인이 배치되고, 영역 HH, 영역 HL 및 영역 LH의 각각에, 계수 C4에 의한 1라인이 배치된다.
웨이블릿 변환부(150)에 의한 2회째 이후의 필터 처리에서는, 4라인마다 필터 처리가 행하여져(도 6의 A의 In-2…), 분해 레벨=1에서 2라인씩의 계수 데이터 가 생성되고(도 6의 B의 WT-2), 분해 레벨=2에서 1라인씩의 계수 데이터가 생성된다.
도 5의 2회째의 예에서는, 분해 레벨=1의 필터 처리에서 계수 C6 및 계수 C7의 2라인분의 계수 데이터가 생성되어, 도 6의 B에 일례가 도시되는 바와 같이, 분해 레벨1에서 형성되는 영역 HH, 영역 HL 및 영역 LH의 1회째의 필터 처리에서 생성된 계수 데이터의 다음부터 배치된다. 마찬가지로, 분해 레벨=1에 의한 영역 LL 내에서, 분해 레벨=2의 필터 처리에서 생성된 1라인분의 계수 C9가 영역 LL에 배치되고, 1라인분의 계수 C8이 영역 HH, 영역 HL 및 영역 LH에 각각 배치된다.
도 6의 B와 같이 웨이블릿 변환된 데이터를 복호하였을 때에는, 도 6의 C에 일례가 도시되는 바와 같이, 부호화측의 제1 라인 내지 제7 라인에 의한 1회째의 필터 처리에 대하여, 복호측의 1회째의 합성 처리에 의한 제1 라인이 출력된다(도 6의 C의 Out-1).
이후, 부호화측의 2회째부터 최후의 회 전까지의 필터 처리에 대하여, 복호측에서 4라인씩이 출력된다(도 6의 C의 Out-2…). 그리고, 부호화측의 최후의 회의 필터 처리에 대하여, 복호측에서 8라인이 출력된다.
웨이블릿 변환부(150)에서 고역 성분측으로부터 저역 성분측으로 생성된 계수 데이터는, 계수 재배열용 버퍼부(152)에 순차적으로 저장된다. 계수 재배열부(153)는, 상술한 계수 데이터의 재배열이 가능하게 될 때까지 계수 재배열용 버퍼부(152)에 계수 데이터가 축적되면, 계수 재배열용 버퍼부(152)로부터 합성 처리에 필요한 순으로 재배열하여 계수 데이터를 읽어낸다. 읽어내어진 계수 데이터 는, 엔트로피 부호화부(155)에 순차적으로 공급된다.
이상과 같이 프리싱크트 단위로 부호화된 화상 데이터(부호화 데이터)는, 패킷타이즈 처리부(122)에 공급된다. 그 때, 엔트로피 부호화부(155)는, 프리싱크트 단위로, 그 화상 데이터에 관한 정보를 헤더 정보(프리싱크트 헤더)로서 패킷타이즈 처리부(122)에 공급한다. 도 7에 그 프리싱크트 헤더의 구성예를 도시한다.
도 7에 도시되는 바와 같이, 프리싱크트 헤더(171)는, 4워드(32×4비트)분의 데이터로 이루어지고, PID, AT, AID, ET, CF, IF, 프리싱크트 타임 스탬프, 양자화 계수, 및 프리싱크트 코드 길이 등의 정보를 포함한다.
PID(Precinct ID)는, 픽쳐의 선두로부터 센 프리싱크트의 번호를 나타내는 12비트의 정보이다. AT(Align Unit Type)는, 프리싱크트 내에 구성되는 얼라인 유닛의 속성을 나타내는 4비트의 정보이다. 얼라인 유닛은, 프리싱크트 내의 부호화 데이터가, 예를 들면 부호화 단위 등, 소정의 데이터 단위로 분할된 것이다. 즉,프리싱크트는 1개 또는 복수의 얼라인 유닛에 의해 구성된다. AID(Align Unit ID)는, 프리싱크트의 선두로부터 센 얼라인 유닛의 번호를 나타내는 5비트의 정보이다. FT(Field Type)는, 픽쳐가 프로그레시브인지 또는 인터레이스 중 어느 쪽의 필드인지를 나타내는 2비트의 플래그 정보이다. CF(Component Flag)는, 휘도 성분 Y, 색차 성분 Cb, 및 색차 성분 Cr의 컴포넌트 중, 복수의 컴포넌트를 하나의 얼라인 유닛이나 프리싱크트에 통합한 것을 나타내는 3비트의 정보이다.
IF(Incomplete Flag)는, 어떠한 이유로 부호화에 실패한 얼라인 유닛 또는 프리싱크트인 것을 나타내는 1비트의 플래그 정보이다. 이 실패의 범위는, PID, AT, 및 AID가 나타내는 페이로드에 한정된다.
프리싱크트 타임 스탬프(Precint Time Stamp)는, 그 프리싱크트의 타임 스탬프의 하위 32비트를 나타내는 정보이다. 양자화 계수(QP Y or C)는, 그 프리싱크트의 휘도 성분 Y 또는 색차 성분 C의 양자화 시에 사용된 양자화 계수의 값을 나타내는 16비트의 정보이다. 프리싱크트 코드 길이(Precinct Code Length Y or C)는, 그 프리싱크트의 휘도 성분 Y 또는 색차 성분 C의 부호화 데이터의 데이터 길이를 나타내는 26비트의 정보이다.
또한, 엔트로피 부호화부(155)는, 픽쳐 단위로, 그 화상 데이터에 관한 정보를 헤더 정보(픽쳐 헤더)로서 패킷타이즈 처리부(122)에 공급한다. 도 8에 그 픽쳐 헤더의 구성예를 도시한다.
도 8에 도시되는 바와 같이, 픽쳐 헤더(172)는, 26워드(32×26비트)분의 데이터로 이루어지고, PI, w, CEF, CBD, DL, WF, PDI, SF, FR, AR, DBSZ, 풀 타임 스탬프, V0 스타트 포지션, SD, H 스타트 포지션, VF, V 합계 사이즈, TSD, H 합계 사이즈, PXCS, V 사이즈, VSD, H 사이즈, BRT, CTS, 및 WTm 등의 정보를 포함한다.
PI(Profile Indication)는, 프로파일의 지정을 행하는 5비트의 정보이다. w는, 가중치 부여 계수의 커스텀값을 설정하기 위한 테이블 정보인 웨이팅 테이블을 패킷에 포함시킬지의 여부를 나타내는 1비트의 플래그 정보이다. CEF(Color Extension Flag)는, 컬러 정보의 확장 헤더를 사용할지의 여부를 나타내는 1비트의 플래그 정보이다. CBD(Component Bit Depth)는, 컴포넌트의 비트 심도를 나타내는 5비트의 정보이다. 미리 지정된 값으로부터 「8」을 뺀 값이 저장된다. DL(DWT Level)은, 웨이블릿 변환의 분할수(분할 레벨)를 나타내는 3비트의 정보이다. WF(Wavelet Filter)는, 웨이블릿 변환에서 사용된 필터의 종류를 나타내는 2비트의 정보이다. PDI(Picture Discontinuity Indication)는, 타임 스탬프의 연속성을 나타내는 1비트의 정보이다. SF(Sampling Format)는, 색차의 샘플링법을 나타내는 2비트의 정보이다.
FR(Frame Rate)은, 프레임 레이트를 나타내는 1비트의 정보이다. AR(Aspect Ratio)은, 화소 어스펙트비를 나타내는 6비트의 정보이다. DBSZ(Decoder Buffer Size)는, 디코더에서의 프리싱크트 버퍼 사이즈를 나타내는 4비트의 정보이다. 풀 타임 스탬프(FTS(Full Time Stamp))는, 풀 사이즈 타임 스탬프를 나타내는 46비트의 정보이다.
V0 스타트 포지션(FFVS(First Field Vertical Start))은, 선두 필드의 수직 방향 유효 화소 개시 위치를 나타내는 13비트의 정보이다. SD(Start Diff)는, FFVS와 제2 필드의 차분을 나타내는 2비트의 정보이다. H 스타트 포지션(HS(Horizontal Start))은, 수평 방향의 유효 화소 개시 위치를 나타내는 13비트의 정보이다. VF(Video Format)는, 압축 신호의 영상 포맷을 나타내는 4비트의 정보이다.
V 합계 사이즈(FEVTS(First Field Vertical Total Size))는, 선두 필드의 블랭크를 포함시킨 총 화소수를 나타내는 13비트의 정보이다. TSD(Total Size Diff)는, FFVTS와 제2 필드의 차분을 나타내는 2비트의 정보이다. H 합계 사이즈(HTS(Horizontal Total Size))는, 수평 방향의 블랭크를 포함시킨 총 화소수를 나타내는 13비트의 정보이다. PXCS(Pixel Clock Scale)는, 클럭의 배율을 나타내는 3비트의 정보이다.
V 사이즈(FFVVS(First Field Vertical Valid Size))는, 선두 필드의 수직 방향 유효 화소 사이즈를 나타내는 13비트의 정보이다. VSD(Valid Size Diff)는, FFVVS와 제2 필드의 차분을 나타내는 2비트의 정보이다. H 사이즈(HVS(Horizontal Valid Size))는, 수평 방향의 유효 화소 사이즈를 나타내는 13비트의 정보이다. BRT(B Value Reset Timing)는, B값의 리세트 타이밍을 나타내는 2비트의 정보이다.
CTS(Custom Table Size)는, 커스텀 테이블의 사이즈를 나타내는 16비트의 정보이다. 지정값의 수만큼 후속의 커스텀값이 존재하고, 그 사이즈는 CTS×2바이트이다. WTm(Weighting Table m)은, m번째의 웨이팅 테이블을 나타내는 16×m 비트의 정보이다.
또한, 실제로는, 도 9에 도시되는 바와 같이, 부호화부(121)로부터 패킷타이즈 처리부(122)에는, 데이터 이외에도, 속성 정보나 VALID 정보 등이 공급된다. 속성 정보는, 공급하는 데이터가, 헤더인지 화상 데이터인지를 나타내거나, 휘도 성분의 데이터인지 색차 성분의 데이터인지를 나타내거나 하는 정보이다. VALID 정보는, 데이터의 판독 타이밍을 통지하는 정보이다.
패킷타이즈 처리부(122)는, 소정의 데이터 단위(프리싱크트)마다 공급되는 부호화 데이터에 대하여, 그 데이터의 사이즈와, 별도 지정되는 패킷 사이즈에 기초하여, 패킷타이즈 처리를 행한다.
도 10은, 도 1의 패킷타이즈 처리부(122)의 내부의 구성예를 도시하는 블록 도이다.
도 10에서 패킷타이즈 처리부(122)는, 데이터 취득부(201), RTP(Real-time Transport Protocol) 헤더 작성부(202), 공통 헤더 작성부(203), 확장 헤더 작성부(204), 픽쳐 정보 작성부(205), 플래그 확인부(206), 사이즈 확인부(207), 프래그먼트 처리부(208), 패킷화부(209), 및 출력부(210)를 갖는다.
데이터 취득부(201)는, 부호화부(121)로부터 공급되는 부호화 데이터나 패킷 등을, 그 데이터와 함께 공급되는 속성 정보나 VALID 정보 등에 기초하여 취득한다. 예를 들면, 프리싱크트 헤더(171)를 취득하면, 데이터 취득부(201)는, 그것을, RTP 헤더 작성부(202), 공통 헤더 작성부(203), 확장 헤더 작성부, 플래그 확인부(206), 및 사이즈 확인부(207)에 공급한다. 또한, 예를 들면, 픽쳐 헤더(172)를 취득하면, 데이터 취득부(201)는, 그것을 픽쳐 정보 작성부(205)에 공급한다. 또한, 예를 들면, 부호화 데이터를 취득하면, 데이터 취득부(201)는, 그것을 프래그먼트 처리부(208)에 공급한다.
RTP 헤더 작성부(202)는, 데이터 취득부(201)가 프리싱크트 헤더를 취득하면, 그 취득된 프리싱크트 헤더에 기초하여, RTP 패킷의 헤더인 RTP 헤더를 작성한다. RTP 헤더의 상세에 대해서는 후술한다. RTP 헤더 작성부(202)는, 작성한 RTP 헤더를 패킷화부(209)에 공급하고, 처리 종료를 공통 헤더 작성부(203)에 통지한다.
RTP 헤더 작성부(202)로부터 통지를 받으면, 공통 헤더 작성부(203)는, 데이터 취득부(201)가 취득한 프리싱크트 헤더(171)에 기초하여, 그 프리싱크트로부터 작성되는 각 패킷에 부가되는 공통의 헤더인 공통 헤더를 작성한다. 공통 헤더에는 그 프리싱크트에 관한 기본적인 정보가 포함된다. 공통 헤더의 상세에 대해서는 후술한다. 공통 헤더 작성부(203)는, 작성한 공통 헤더를 패킷화부(209)에 공급하고, 처리 종료를 확장 헤더 작성부(204)에 통지한다.
공통 헤더 작성부(203)로부터 통지를 받으면, 확장 헤더 작성부(204)는, 데이터 취득부(201)가 취득한 프리싱크트 헤더(171)에 기초하여, 그 프리싱크트에 관한, 공통 헤더에는 포함되지 않는 정보를 필요에 따라서 부여하는 확장 헤더의 정보를 작성한다. 이 확장 헤더의 작성에 의해, 송신자는 유연 또한 효율적인 헤더 작성이 가능하게 된다. 확장 헤더의 정보의 내용은 임의이지만, 예를 들면, 양자화 계수에 관한 정보나, 사이즈에 관한 정보 등이 있다. 확장 헤더의 상세에 대해서는 후술한다. 확장 헤더 작성부(204)는, 작성한 확장 헤더를 패킷화부(209)에 공급하고, 처리 종료를 픽쳐 정보 작성부(205)에 통지한다.
확장 헤더 작성부(204)로부터 통지를 받고, 또한, 데이터 취득부(201)가 픽쳐 헤더(172)를 취득하면, 픽쳐 정보 작성부(205)는, 그 픽쳐 헤더(172)에 기초하여, 그 픽쳐에 관한 정보를 포함하는 픽쳐 정보를 작성한다. 이 픽쳐 정보의 상세에 대해서는 후술한다. 픽쳐 정보 작성부(205)는, 작성한 픽쳐 정보를 패킷화부(209)에 공급하고, 그 픽쳐 정보를 확장 헤더에 삽입시키고, 처리 종료를 플래그 확인부(206)에 통지한다. 또한, 데이터 취득부(201)가 픽쳐 헤더(172)를 취득하지 않은 경우, 픽쳐 정보 작성부(205)는, 픽쳐 정보를 작성하지 않고, 처리 종료를 플래그 확인부(206)에 통지한다.
픽쳐 정보 작성부(205)로부터 통지를 받으면, 플래그 확인부(206)는, 데이터 취득부(201)가 취득한 프리싱크트 헤더(171)에 포함되는 IF를 참조하여, 그 플래그의 값에 따라서, 패킷에 부호화 데이터를 포함시킬지의 여부를 판정한다. 예를 들면, 「IF=1」인 경우, 플래그 확인부(206)는, 그 프리싱크트의 데이터의 부호화는 실패하였다고 판정하고, 데이터 취득부(201)에, 그 복호 불가능한 부호화 데이터를 파기시키도록(취득하지 않도록) 하고, 또한, 패킷화부(209)를 제어하여, 헤더 정보만으로(페이로드를 포함시키지 않도록) 패킷화시킨다. 또한, 예를 들면, 「IF=0」인 경우, 플래그 확인부(206)는, 그 프리싱크트의 부호화는 성공하였다고 판정하고, 패킷화부(209)에 페이로드를 포함시켜 패킷화시키도록 하고, 처리 종료를 사이즈 확인부(207)에 통지한다.
플래그 확인부(206)로부터 통지를 받으면, 사이즈 확인부(207)는, 데이터 취득부(201)가 취득한 프리싱크트 헤더에 포함되는 프리싱크트 코드 길이에 기초하여, 프리싱크트의 데이터 사이즈가, 미리 별도 설정되어 있는 패킷 사이즈(1개의 패킷에 포함되는 페이로드의 데이터 사이즈의 최대값)보다 큰지의 여부를 확인한다. 예를 들면, 패킷 사이즈보다 프리싱크트의 데이터 사이즈 쪽이 큰 경우, 사이즈 확인부(207)는, 프래그먼트 처리부(208)를 제어하여, 데이터 취득부(201)가 취득하는 부호화 데이터를 패킷 사이즈마다 분할시킨다. 반대로, 예를 들면, 패킷 사이즈보다 프리싱크트의 데이터 사이즈 쪽이 크지 않은 경우, 사이즈 확인부(207)는, 프래그먼트 처리부(208)를 제어하여, 데이터 취득부(201)가 취득하는 부호화 데이터를 분할시키지 않도록 한다.
프래그먼트 처리부(208)는, 사이즈 확인부(207)에 제어되어, 프리싱크트의 데이터 사이즈가 패킷 사이즈보다 큰 경우, 데이터 취득부(201)가 취득하는 부호화 데이터를, 패킷 사이즈마다 분할하여 패킷화부(209)에 공급한다. 즉, 이 경우, 프래그먼트 처리부(208)는, 데이터 취득부(201)가 헤더 부분도 고려한 1패킷 사이즈분의 부호화 데이터를 취득할 때마다, 그 1패킷 사이즈분의 부호화 데이터를 1개의 페이로드로서 패킷화부(209)에 공급한다.
반대로, 프리싱크트의 데이터 사이즈가 패킷 사이즈보다 크지 않은 경우, 프래그먼트 처리부(208)는, 사이즈 확인부(207)에 제어되어, 데이터 취득부(201)가 취득하는 부호화 데이터를, 그대로 패킷화부(209)에 공급한다. 즉, 이 경우, 프래그먼트 처리부(208)는, 데이터 취득부(201)가 취득하는 1프리싱크트분의 부호화 데이터를 1개의 페이로드로서 패킷화부(209)에 공급한다.
패킷화부(209)는, 각 부로부터 공급되는 헤더 정보를 이용하여 프래그먼트 처리부(208)로부터 공급되는 페이로드를 패킷화한다. 예를 들면, 1프리싱크트의 부호화 데이터가 프래그먼트 처리부(208)에 의해 복수의 페이로드로 분할되는 경우, 패킷화부(209)는, 각 페이로드에 대하여, 각각 필요한 헤더 정보를 부가하고, 각각을 패킷화한다. 또한, 예를 들면, 프래그먼트 처리부(208)가 부호화 데이터를 분할하지 않는 경우, 패킷화부(209)는, 프래그먼트 처리부(208)로부터 공급된 1개의 페이로드에 대해서 필요한 헤더 정보를 부가하고 패킷화한다. 또한, 예를 들면, 플래그 확인부(206)가, 페이로드를 패킷에 포함시키지 않도록 지시하는 경우, 패킷화부(209)는, 그 지시에 기초하여 헤더 정보만으로 패킷화를 행한다.
또한, 패킷화부(209)는, 생성한 각 패킷의 공통 헤더에 포함되는 SFF나 M 등의 플래그 정보의 값을 적당히 설정한다. SFF(Start Fragment Flag)는, 그 패킷이 프리싱크트의 선두 부분을 포함하는 패킷(선두 패킷)인지의 여부를 나타내는 플래그 정보이며, M(Marker)은, 프리싱크트의 종단 부분을 포함하는 패킷(최종 패킷)인지의 여부를 나타내는 플래그 정보이다. 이들 플래그 정보는, 디패킷타이즈 처리부(132)에 의한 디패킷타이즈 처리 시에 참조된다.
예를 들면, 프래그먼트 처리부(208)가 부호화 데이터를 분할하는 경우, 패킷화부(209)는, 1프리싱크트의 부호화 데이터가 분할되어 생성된 페이로드군 중, 선두의 페이로드의 패킷의 SFF를 1로 설정하고, 최후의 페이로드의 패킷의 M을 1로 설정한다.
또한, 예를 들면, 프래그먼트 처리부(208)가 부호화 데이터를 분할하지 않는 경우, 패킷화부(209)는, 생성된 1개의 패킷의 SFF 및 M의 각각을 1로 설정한다.
이와 같이 SFF나 M 등의 플래그 정보를 설정함으로써, 디패킷타이즈 처리부(132)는, 이 플래그 정보를 참조하는 것만으로 용이하게, 그 패킷이 프리싱크트의 선두 패킷인지, 최종 패킷인지, 또는 그 이외의 패킷인지를 파악할 수 있다. 이에 의해, 디패킷타이즈 처리부(132)는, 후술하는 바와 같이 대기 시간을 저감시킬 수 있어, 디패킷타이즈 처리의 지연 시간을 저감시킬 수 있다.
패킷화부(209)는, 생성한 패킷을 출력부(210)에 공급한다.
출력부(210)는, 패킷화부(209)로부터 공급되는 RTP 패킷을, 송신부(123)(도 1)에 공급하고, 수신 장치(103)(도 1)에 송신시킨다.
상술한 바와 같이 부호화부(121)는, 도 11에 도시되는 바와 같이, 1픽쳐(프레임 또는 필드)를, 복수의 프리싱크트로 분할하고, 그 프리싱크트마다 부호화를 행한다.
패킷타이즈 처리부(122)는, 도 12에 도시되는 바와 같이, 1개의 프리싱크트의 부호화 데이터를 소정의 패킷 사이즈마다 분할하여 패킷화한다. 프리싱크트의 데이터 사이즈가 패킷 사이즈보다 크지 않으면, 생성되는 패킷은 1개로 된다. 도 12의 예에서는 1개의 프리싱크트의 부호화 데이터로부터 5개의 패킷이 생성되어 있다.
화상 데이터의 전송 포맷의 일례에 대해서 이하에 기재한다.
도 13은, RTP 헤더 작성부(202)가 작성하는, RTP 패킷의 헤더 정보인 RTP 헤더의 구성을 도시하고 있다. RTP 헤더(221)에는, 버젼 번호(V), 패딩(P), 확장 헤더(X)의 유무, 송신원수(Counter)(CC), 마커 정보(marker bit)(M), 페이로드 타입(Payload type)(PT), 시퀀스 번호, 타임 스탬프, 및 동기 소스(송신원) 식별자(SSRC(Synchronization Source Identifier))의 각 필드가 설치되어 있다.
버젼 번호(V)는, RTP의 버젼 번호를 나타내는 2비트의 정보이다. 패딩(P)은, 1비트의 플래그 정보이며, 그 값이 「1」일 때, 페이로드의 마지막에 패딩 옥테트(매립 데이터)가 1개 이상 부가되어 있는 것을 나타낸다. 확장 헤더(X)의 유무는, 1비트의 플래그 정보이며, 그 값이 「1」일 때, 고정 길이 헤더 이외에 확장 헤더가 부가되어 있는(헤더 확장이 있는) 것을 나타낸다. 송신원수(CC)는, CSRC의 식별자의 수를 나타내는 4비트의 정보이며, 예를 들면, 다지점 전화 회의와 같이, 복수의 데이터원의 데이터를 1개의 RTP 패킷화하였을 때의 개개의 데이터원의 식별자의 수를 나타낸다.
마커 정보(M)는, 1비트의 플래그 정보이며, 예를 들면, 페이로드에서의 임의의 이벤트 등을 나타낸다. 이 마커 정보(M)의 이용 방법은, 예를 들면, 페이로드 타입(PT) 등에 설정된다. 페이로드 타입(PT)은, 그 패킷으로 운반하는 페이로드의 형식을 지정하는 7비트의 정보이다.
시퀀스 번호는, RTP 데이터 패킷의 순서를 나타내는 16비트의 번호 정보이며, 초기값은 랜덤하게 설정되고, 그 후에 계속되는 패킷에서는 값이 「1」씩 증가한다. 이 시퀀스 번호는, 전송되는 부호화 데이터(화상 데이터) 전체를 통한 패킷의 순서를 나타낸다.
타임 스탬프는, RTP 패킷의 최초의 바이트의 샘플링 시각을 나타내는 32비트의 정보이다. 샘플링 클럭은, 페이로드의 데이터 프로파일에 의해 결정된다. 예를 들면, 음성 신호의 표본화 주파수를 8㎑로 하면, 타임 스탬프의 값은 125μsec마다 「1」 증가하므로, RTP 데이터 패킷이 20㎳ec의 데이터인 것으로 하면, 타임 스탬프의 값은 패킷마다 160씩 증가한다. 또한, 초기값은 랜덤하게 설정된다.
동기 소스(송신원) 식별자(SSRC)는, 이 패킷의 송신원을 나타내는 32비트의 식별자이다. 이 정보는 랜덤하게 생성된다. 트랜스포트 어드레스가 변하면, 이 SSRC 식별자도 갱신된다.
공통 헤더 작성부(203), 확장 헤더 작성부(204), 및 픽쳐 정보 작성부(205)는 RTP 헤더에 계속되는 페이로드 헤더에 포함되는 각종 정보를 생성한다. 도 14 에 페이로드 헤더의 구성예를 도시한다. 도 14에 도시되는 바와 같이, 페이로드 헤더는, 공통 헤더(231), 양자화 파라미터 정보(232), 사이즈 정보(233), 포맷 정보(234), 픽쳐 정보(235), 및 컬러 정보(236)에 의해 구성되며, 페이로드(237) 전에 부가된다.
공통 헤더(231)는, 공통 헤더 작성부(203)에 의해 작성되는 프리싱크트에 관한 기본적인 정보를 포함하는 헤더 정보이다. 이 공통 헤더(231)는 필수적인 헤더이며, 전체 패킷에 부가된다.
양자화 파라미터 정보(232)는, 확장 헤더 작성부(204)에 의해 작성되는 확장 헤더로서, 양자화 계수에 관한 정보를 포함한다. 사이즈 정보(233)는, 확장 헤더 작성부(204)에 의해 작성되는 확장 헤더로서, 데이터 사이즈에 관한 정보를 포함한다. 포맷 정보(234)는, 확장 헤더 작성부(204)에 의해 작성되는 확장 헤더로서, 데이터의 포맷에 관한 정보를 포함한다. 픽쳐 정보(235)는, 픽쳐 정보 작성부(205)에 의해 작성되는 확장 헤더로서, 원화상(즉, 부호화되고, 패킷화되어 전송되는 화상 데이터)에 관한 정보를 포함한다. 컬러 정보(236)는, 확장 헤더 작성부(204)에 의해 작성되는 확장 헤더로서, 화상 데이터의 색에 관한 정보를 포함한다.
양자화 파라미터 정보(232), 포맷 정보(234), 픽쳐 정보(235), 및 컬러 정보(236)는, 프리싱크트의 선두의 패킷(프래그먼트를 행하지 않은 경우의 패킷도 포함함)에 확장 헤더로서 부가된다. 사이즈 정보(233)는, 확장 헤더로서 임의의 패킷에 부가된다.
즉, 모든 패킷에 사이즈 정보를 부가하는 경우, 프리싱크트의 선두의 패킷에는, 공통 헤더(231) 내지 페이로드(237) 모두가 포함된다. 이에 대하여, 프리싱크트의 선두의 패킷 이외의 패킷에는, 공통 헤더(231)와 사이즈 정보(233)와 페이로드(237)만이 포함된다.
각 정보의 상세에 대해서 설명한다.
도 15는, 공통 헤더(231)의 구성예를 도시하는 도면이다. 도 15에 도시되는 바와 같이, 공통 헤더(231)는, PID, AT, AID, SFF, M, TSF, NF, FT, CF, IF, X, 및 TS 등의 정보를 포함한다. 즉, 공통 헤더(231)의 제1 워드(위로부터 1단째)과 제2 워드(위로부터 2단째)는, 부호화부(121)로부터 공급되는 프리싱크트 헤더(171)의 제1 워드(Word0)와 제2 워드(Word1)를 그대로 이용하여 작성되어 있고, 제1 워드의 빈 필드(Reserved)이었던 4비트에, SFF, M, TSF, 및 NF를 추가한 것이다.
SFF(Start Fragment Flag)는, PID, AT, 및 AID가 나타내는 페이로드의 선두인지의 여부를 나타내는 1비트의 플래그 정보이다. 즉, 이 패킷이 프리싱크트의 선두의 패킷(선두 패킷)인 경우, 이 SFF의 값이 「1」로 설정되고, 그 이외의 경우, 「0」으로 설정된다.
M(Marker)은, PID, AT, 및 AID가 나타내는 페이로드의 종단 부분을 포함하는지의 여부를 나타내는 1비트의 플래그 정보이다. 즉, 이 패킷이 프리싱크트 혹은 얼라인 유닛의 종단 부분을 포함하는 패킷(최종 패킷)인 경우, 이 M의 값이 「1」로 설정되고, 그 이외의 경우, 「0」으로 설정된다.
TSF(Time Stamp Flag)는, 공통 헤더에 타임 스탬프를 포함하는지의 여부를 나타내는 1비트의 플래그 정보이다. 즉, 이 TSF의 값이 「1」인 경우, 공통 헤더(231)의 제2 워드에는, 프리싱크트 헤더(171)의 제2 워드(Word1)가 부가되어 있다.
NF(Next Flag)는, 후속 페이로드의 존재를 나타내는 1비트의 플래그 정보이다. 즉, 이 패킷에 복수의 프리싱크트 혹은 얼라인 유닛의 페이로드가 부가되어 있으며, 또한, 이 헤더가 패킷 중의 최후의 프리싱크트 혹은 얼라인 유닛이 아닌 경우, 이 NF의 값이 「1」로 설정된다.
TS(Time Stamp)는, 이 패킷의 페이로드가 속하는 프리싱크트의 타임 스탬프의 하위 32비트를 나타내는 정보로서, 프리싱크트 헤더(171)의 제2 워드(Word1)에 대응한다.
또한, 도 15에 도시되는 제3 워드(위로부터 3단째)는, 공통 헤더(231)에 연속하여 부여되는 확장 헤더를 나타내고 있다.
도 16은, 확장 헤더에 포함되는 양자화 파라미터 정보(232)의 구성예를 도시하는 도면이다. 도 16에 도시되는 바와 같이, 양자화 파라미터 정보(232)는, ET, QP, 및 X 등의 정보를 포함하는 정보이다. 확장 헤더 작성부(204)는, 부호화부(121)로부터 공급되는 프리싱크트 헤더(171)의 제3 워드(Word2)를 이용하여, 이 양자화 파라미터 정보(232)를 작성한다.
ET(Extension Type)는, 확장 헤더의 내용을 나타내는 5비트의 정보이다. 이 양자화 파라미터 정보(232) 사용 시의 경우의 지정값은 임의이지만, 예를 들면 「00011」이다. QP(Quantize Parameter)는, 양자화 계수의 값을 나타내는 16비트의 정보이다. X(Extension)는, 확장 헤더를 사용할지의 여부를 나타내는 플래그이다.
도 17은, 확장 헤더에 포함되는 사이즈 정보(233)의 구성예를 도시하는 도면이다. 도 17에 도시되는 바와 같이, 사이즈 정보(233)는, ET, SS, 및 X 등의 정보를 포함하는 정보이다. 확장 헤더 작성부(204)는, 부호화부(121)로부터 공급되는 프리싱크트 헤더(171)의 제4 워드(Word3)를 이용하여, 이 사이즈 정보(233)를 작성한다.
ET(Extension Type)는, 확장 헤더의 내용을 나타내는 5비트의 정보이다. 이 사이즈 정보(233) 사용 시의 경우의 지정값은 임의이지만, 예를 들면 「00100」이다. SS(Segment Size)는, 세그먼트의 페이로드 사이즈를 워드 길이로 나타내는 26비트의 정보이다. X(Extension)는, 확장 헤더를 사용하는지의 여부를 나타내는 플래그이다.
도 7 및 도 15 내지 도 17에 도시되는 바와 같이, 부호화부(121)는, 공통 헤더(231)나 확장 헤더(양자화 파라미터 정보(232)나 사이즈 정보(233))와 동일한 포맷의 프리싱크트 헤더(171)를, 패킷타이즈 처리부(122)에 공급한다. 이에 의해, 패킷타이즈 처리부(122)의 공통 헤더 작성부(203) 및 확장 헤더 작성부(204)는, 용이하게 또한 고속으로 공통 헤더 및 확장 헤더를 작성할 수 있다.
도 18은, 확장 헤더에 포함되는 포맷 정보(234)의 구성예를 도시하는 도면이다. 포맷 정보(234)는, 기본적으로, 도 18의 A에 도시되는 바와 같이, ET, FTI, 및 X 등의 정보를 포함한다. 확장 헤더 작성부(204)는, 예를 들면 부호화부(121)로부터 공급되는 정보를 이용하여, 이 포맷 정보(234)를 작성한다.
ET(Extension Type)는, 확장 헤더의 내용을 나타내는 5비트의 정보이다. 이 포맷 정보(234) 사용 시의 경우의 지정값은 임의이지만, 예를 들면 「00101」이다. FTI(Format Type Identifier)는, 어떤 포맷 타입에 관한 정보가 기술되어 있는지를 나타내는 정보이다. 이 값은 임의이지만, 예를 들면, 베이어 정보가 기술되어 있는 경우, 값「00001」이 설정된다. X(Extension)는, 확장 헤더를 사용할지의 여부를 나타내는 플래그이다.
도 18의 B에, 베이어 정보가 기술되어 있는 경우의 포맷 정보(234)의 구성예를 도시한다. 이 경우, 포맷 정보(234)에는, ET, FTI, 및 X 이외에, MT, SMT, BLF, VLOF, SSF, EVF, DC, BL, RBL, RVLO, DSS, NSS, 및 EV 등의 정보가 포함된다.
MT(Mosaic Type)는, 페이로드의 모자이크 타입을 나타내는 4비트의 정보이다. SMT(Start Mosaic Type)는, 프레임 좌측 상부의 최초의 화소 정보를 나타내는 4비트의 정보이다. BLF(Black Level Flag)는, 흑 레벨 정보의 존재를 나타내는 1비트의 플래그 정보이다. VLOF(Vertical Line Offbet Flag)는, 세로줄 보정 정보의 존재를 나타내는 1비트의 플래그 정보이다. SSF(Shutter Speed Flag)는, 셔터 스피드 정보의 존재를 나타내는 1비트의 플래그 정보이다. EVF(EV Flag)는, EV 정보의 존재를 나타내는 1비트의 플래그 정보이다. DC(Defect Correction)는, 결함 보정을 행할지의 여부를 나타내는 1비트의 플래그 정보이다.
BL(Black Level)은, 흑 레벨값을 나타내는 32비트의 플래그 정보이다. RBL(Revised Black Level)은, 흑 레벨 보정 오프셋값을 나타내는 32비트의 정보이다. BL과 RBL은, BLF의 값이 「1」인 경우만 존재한다.
RVLO(Revised Vertical Line Offset)는, 세로줄 보정 오프셋값을 나타내는 32비트의 정보이다. RVLO는, VLOF의 값이 「1」인 경우만 존재한다.
DSS는, 셔터 스피드 분자(APEX 단위)를 나타내는 32비트의 정보이다. NSS는, 셔터 스피드 분모(APEX 단위)를 나타내는 32비트의 정보이다. DSS와 NSS는, SSF의 값이 「1」인 경우만 존재한다.
EV는, EV값을 나타내는 32비트의 정보이다. EV는, EVF의 값이 「1」인 경우만 존재한다.
도 19는, 확장 헤더에 포함되는 픽쳐 정보(235)의 구성예를 도시하는 도면이다. 도 19에 도시되는 바와 같이, 픽쳐 정보(235)는, ET, PI, CEF, CBD, DL, WF, PDI, SF, FR, AR, DBSZ, FTS, FFVS, SD, HS, VF, FFVTS, TSD, HTS, PXCS, FFVVS, VSD, HVS, BRT, WCF, X, CTS, 및 WTm 등의 정보를 포함한다. 픽쳐 정보 작성부(205)는, 부호화부(121)로부터 공급되는 픽쳐 헤더(172)를 이용하여, 이 픽쳐 정보(235)를 작성한다.
즉, 픽쳐 정보(235)는, 부호화부(121)로부터 공급되는 픽쳐 헤더(172)의 제1 워드(Word0)의 빈 필드(Reserved)에 ET를 추가하고, 제6 워드(Word5)의 빈 필드(Reserved)에 WCF와 X를 추가한 것이다.
ET(Extension Type)는, 확장 헤더의 내용을 나타내는 5비트의 정보이다. 이 픽쳐 정보(235) 사용 시의 경우의 지정값은 임의이지만, 예를 들면 「00010」이다. WCF(Waighting Custom Flag)는, 가중치 부여 계수의 커스텀값을 사용할지를 나타내는 1비트의 플래그 정보이다. 이 WCF의 값이 「1」일 때에만 CTS가 존재한다. X(Extension)는, 확장 헤더를 이 헤더에 계속해서 사용할지의 여부를 나타내는 플래그이다.
도 8, 및 도 19에 도시되는 바와 같이, 부호화부(121)는, 픽쳐 정보(235)와 동일한 포맷의 픽쳐 헤더(172)를, 패킷타이즈 처리부(122)에 공급한다. 이에 의해, 패킷타이즈 처리부(122)의 픽쳐 정보 작성부(205)는, 용이하게 또한 고속으로 픽쳐 정보(235)를 작성할 수 있다.
도 20은, 확장 헤더에 포함되는 컬러 정보(236)의 구성예를 도시하는 도면이다. 도 20에 도시되는 바와 같이, 컬러 정보(236)는, ET나 X 등의 정보를 포함한다. 확장 헤더 작성부(204)는, 부호화부(121)로부터 공급되는 정보 등을 이용하여, 이 컬러 정보(236)를 작성한다.
ET(Extension Type)는, 확장 헤더의 내용을 나타내는 5비트의 정보이다. X(Extension)는, 확장 헤더를 사용할지의 여부를 나타내는 플래그이다.
패킷타이즈 처리부(122)는, 이상과 같이 프리싱크트마다의 부호화 데이터를 패킷화하여, 송신부(123)에 공급한다. 송신부(123)는, 그 패킷을 순차적으로 회선(110)을 통해서 수신 장치(103)에 송신한다.
이상과 같은 포맷으로 송신부(123)로부터 송출된 패킷은, 회선(110)을 통해서 수신 장치(103)의 수신부(131)에 공급된다. 수신부(131)는, 그 패킷을 수신하면, 그것을 디패킷타이즈 처리부(132)에 공급한다.
도 21은, 디패킷타이즈 처리부(132)의 내부의 구성예를 도시하는 블록도이다. 도 21에 도시되는 바와 같이, 디패킷타이즈 처리부(132)는, 예를 들면, 패킷 취득부(251), 헤더 정보 해석부(252), 제어 모드 천이부(253), 제어부(254), 헤더 공급부(255), 데이터 공급부(256), 에러 통지부(257), 및 제어 신호 공급부(258)를 갖는다.
패킷 취득부(251)는, 수신부(131)로부터 공급되는 패킷을 취득한다. 그 때, 패킷 취득부(251)는, RTP 페이로드 헤더까지 정보를 취득하면, 그 취득을 계속하면서, 이미 취득한 정보를 순차적으로 헤더 정보 해석부(252)에 공급한다. 즉, 패킷 취득부(251)는, 페이로드의 취득이 완료되기 전에, 헤더 정보를 헤더 정보 해석부(252)에 공급한다. 또한, 패킷 취득부(251)는, 헤더 정보는 헤더 공급부(255)에도 공급하고, 페이로드는 데이터 공급부(256)에도 공급한다.
헤더 정보 해석부(252)는, 패킷 취득부(251)가 취득한 RTP 패킷의 헤더 정보, 즉, RTP 헤더나 페이로드 헤더의 정보를 해석하고, 그 해석 결과를 제어 모드 천이부(253)나 제어부(254)에 공급한다.
제어 모드 천이부(253)는, 헤더 정보 해석부(252)로부터 공급되는 헤더 정보의 해석 결과에 기초하여 제어부(254)의 동작 모드를 제어하고, 필요에 따라서 천이시킨다.
제어부(254)는, 제어 모드 천이부(253)에 의해 제어되어 천이한 제어 모드에서, 헤더 정보 해석부(252)로부터 공급되는 해석 결과에 기초하여, 헤더 공급부(255), 데이터 공급부(256), 에러 통지부(257), 및 제어 신호 공급부(258)의 동작을 제어한다.
헤더 공급부(255)는, 제어부(254)에 제어되어, 패킷 취득부(251)로부터 공급 되는 페이로드 헤더에 포함되는 각종 정보를 추출하고, 프리싱크트 헤더(171)나 픽쳐 헤더(172)를 복원하여, 복호부(133)에 공급한다. 데이터 공급부(256)는, 제어부(254)에 제어되어, 패킷 취득부(251)로부터 공급되는 페이로드 데이터를 복호부(133)에 공급한다. 에러 통지부(257)는, 제어부(254)에 제어되어, 패킷 로스의 발생 등의 에러를 복호부(133)에 통지한다. 제어 신호 공급부(258)는, 제어부(254)에 제어되어, 헤더나 데이터 이외의 각종 제어 정보를 복호부(133)에 공급한다.
제어부(254)의 제어 모드에는, 도 22에 도시되는 바와 같이, 스타트 모드(301), 스탠바이 모드(302), 프로세싱 모드(303), 및 로스 모드(304)의 4개의 모드가 있다. 제어 모드 천이부(253)는, 헤더 정보 해석부(252)에 의한 헤더 정보의 해석 결과에 기초하여, RTP 패킷의 수신 상황을 파악하고, 그 상황에 따라서 제어부(254)의 제어 모드를 최적의 모드로 천이시킨다.
스타트 모드(301)는, 부호화 데이터 전체의 최초의 패킷을 처리하기 위한 모드이다. 디패킷타이즈 처리 개시 시, 제어부(254)는, 이 스타트 모드(301)로 설정된다. 스탠바이 모드(302)는, 프리싱크트의 선두의 패킷을 처리하기 위한 모드이다. 프리싱크트의 최후의 패킷이 처리된 후, 제어부(254)는, 이 스탠바이 모드(302)로 설정된다. 프로세싱 모드(303)는, 패킷 로스가 발생하고 있지 않은 통상 시, 프리싱크트의 선두 이외의 각 패킷을 처리하기 위한 모드이다. 패킷 로스가 발생하고 있지 않을 때, 프리싱크트의 선두 이외의 각 패킷에 대하여, 제어부(254)는, 이 프로세싱 모드(303)로 설정된다. 로스 모드(304)는, 패킷 로스 등 의 에러가 발생하였을 때에, 그 프리싱크트의 나머지 패킷을 처리하기 위한 모드이다. 패킷 로스가 발생한 경우, 제어부(254)는, 이 로스 모드(304)로 설정된다.
각 모드에서의 디패킷타이즈 처리부(132)의 동작의 상세에 대해서는 후술한다.
또한, 실제로는, 도 23에 도시되는 바와 같이, 디패킷타이즈 처리부(132)로부터 복호부(133)에는, 데이터 이외에도, 스타트 정보, 엔드 정보, VALID 정보, 속성 정보, 및 에러 통지 등이 공급된다.
스타트 정보는, 프리싱크트 혹은 얼라인 유닛의 선두 패킷의 페이로드를 나타내는 정보로서, 디패킷타이즈 처리부(132)가, 프리싱크트 혹은 얼라인 유닛의 선두 패킷의 페이로드를 복호부(133)에 공급할 때, 이 스타트 정보에 값 「1」이 설정된다. 엔드 정보는, 프리싱크트 혹은 얼라인 유닛의 최종 패킷의 페이로드를 나타내는 정보로서, 디패킷타이즈 처리부(132)가, 프리싱크트 혹은 얼라인 유닛의 최종 패킷의 페이로드를 복호부(133)에 공급할 때, 이 엔드 정보에 값 「1」이 설정된다.
속성 정보는, 공급하는 데이터가, 헤더인지 화상 데이터인지를 나타내거나, 휘도 성분의 데이터인지 색차 성분의 데이터인지를 나타내거나 하는 정보이다. VALID 정보는, 데이터의 판독 타이밍을 통지하는 정보이다. 에러 통지는, 패킷 로스 등의 에러의 발생을 복호부(133)에 통지하는 정보이다.
도 24는, 도 1의 복호부(133)의 내부의 구성예를 도시하는 블록도이다. 도 24에 도시되는 바와 같이, 복호부(133)는, 제어 정보 취득부(351), 복호 제어 부(352), 복호 처리 실행부(353), 헤더 취득부(354), 데이터 취득부(355), 에러 통지 취득부(356), 및 파기 처리부(357)를 갖는다.
제어 정보 취득부(351)는, 디패킷타이즈 처리부(132)로부터, 스타트 정보, 엔드 정보, VALID 정보, 및 속성 정보 등의 제어 정보를 취득하고, 그 제어 정보를 복호 제어부(352)에 공급한다. 복호 제어부(352)는, 그 제어 정보에 기초하여, 소정의 타이밍에서 복호 처리 실행부(353)에 복호 처리를 개시시킨다.
복호 처리 실행부(353)는, 디패킷타이즈 처리부(132)로부터 공급되어, 헤더 취득부(354)에 의해 취득된 헤더 정보에 기초하여, 데이터 취득부(355)에 의해 취득된 부호화 데이터의 복호 처리를 행한다. 복호 처리 실행부(353)는, 도 24에 도시되는 바와 같이, 버퍼부(361), 엔트로피 복호부(362), 및 웨이블릿 역변환부(363)를 갖는다. 버퍼부(361)는, 데이터 취득부(355)로부터 공급되는 부호화 데이터를 일시적으로 유지하고, 필요에 따라서 그 부호화 데이터를 엔트로피 복호부(362)에 공급한다. 또한, 버퍼부(361)는, 엔트로피 복호부(362)로부터 공급되는 부호화 데이터의 복호 결과인 계수 데이터를 일시적으로 유지하고, 필요에 따라서 그 계수 데이터를 웨이블릿 역변환부(363)에 공급한다.
엔트로피 복호부(362)는, 복호 제어부(352)에 제어되어, 버퍼부(361)에 유지되어 있는 부호화 데이터를 읽어내고, 부호화부(121)의 엔트로피 부호화부(155)에 대응하는 방법으로 엔트로피 복호하여, 계수 데이터를 생성한다. 또한, 엔트로피 부호화부(155)에서, 양자화를 행하는 경우, 엔트로피 복호부(362)는, 엔트로피 복호 처리를 행한 후, 얻어지는 계수 데이터에 대해서 역양자화 처리도 행한다. 엔 트로피 복호부(362)는, 얻어진 계수 데이터를 버퍼부(361)에 공급하여 축적시킨다.
웨이블릿 역변환부(363)는, 소정의 타이밍에서 버퍼부(361)에 축적된 계수 데이터를 읽어내어, 부호화부(121)의 웨이블릿 변환부(150)에 대응하는 방법으로 웨이블릿 역변환 처리를 행하고, 얻어진 베이스 밴드의 화상 데이터를 출력 화상 데이터로서 표시 장치(104)에 출력한다.
헤더 취득부(354)는, 디패킷타이즈 처리부(132)로부터 공급되는 프리싱크트 헤더나 픽쳐 헤더 등의 헤더 정보를 취득하고, 그것을 버퍼부(361)에 공급하여 유지시킨다. 데이터 취득부(355)는, 디패킷타이즈 처리부(132)로부터 공급되는 페이로드 데이터를 취득하고, 그것을 버퍼부(361)에 공급하여 유지시킨다.
에러 통지 취득부(356)는, 디패킷타이즈 처리부(132)로부터 공급되는, 수신 처리에서 패킷의 로스가 발생한 것 등을 통지하는 에러 통지를 취득하고, 그것을 파기 처리부(357)에 공급한다. 파기 처리부(357)는, 에러 통지를 취득하면, 복호 처리 실행부(353)의 버퍼부(361)에 축적되어 있는 부호화 데이터를 파기시킨다. 즉, 파기 처리부(357)는, 패킷의 수신 처리에서 패킷의 로스가 발생한 경우(시퀀스 번호에 기초하여 패킷 로스의 발생이 확인된 경우), 그 패킷 로스가 발생한 현재의 프리싱크트에 대한 정상적인 엔트로피 복호 처리가 실행 불가능하므로, 버퍼부(361)에 축적되어 있는 패킷 로스가 발생한 현재의 프리싱크트의 부호화 데이터를 모두 파기한다.
다음으로, 각 부가 실행하는 처리의 흐름에 대해서 설명한다. 처음에, 송신 장치(102)의 부호화부(121)에 의해 실행되는 부호화 처리의 흐름의 예를 도 25의 플로우차트를 참조하여 설명한다.
부호화 처리가 개시되면, 웨이블릿 변환부(150)는 스텝 S1에서, 처리 대상 프리싱크트의 번호 A를 초기 설정으로 한다. 통상의 경우, 번호 A는 「1」로 설정된다. 설정이 종료되면, 웨이블릿 변환부(150)는 스텝 S2에서, 최저역 서브밴드에서 위로부터 A번째의 1라인을 생성하는 데에 필요한 라인수(즉, 1프리싱크트)의 화상 데이터를 취득하고, 그 화상 데이터에 대하여, 스텝 S3에서 화면 수직 방향으로 배열되는 화상 데이터에 대해서 분석 필터링을 행하는 수직 분석 필터링 처리를 행하고, 스텝 S4에서 화면 수평 방향으로 배열되는 화상 데이터에 대해서 분석 필터링 처리를 행하는 수평 분석 필터링 처리를 행한다.
스텝 S5에서 웨이블릿 변환부(150)는, 분석 필터링 처리를 최종 레벨까지 행하였는지의 여부를 판정하고, 분해 레벨이 최종 레벨에 도달하지 않았다고 판정한 경우, 처리를 스텝 S3으로 되돌려, 현재의 분해 레벨에 대하여, 스텝 S3 및 스텝 S4의 분석 필터링 처리를 반복한다.
스텝 S5에서, 분석 필터링 처리가 최종 레벨까지 행하여졌다고 판정한 경우, 웨이블릿 변환부(150)는, 처리를 스텝 S6으로 진행시킨다.
스텝 S6에서, 계수 재배열부(153)는, 프리싱크트 A(픽쳐(프레임 또는 필드)의 위로부터 A번째의 프리싱크트)의 계수를 저역으로부터 고역의 순번으로 재배열한다. 엔트로피 부호화부(155)는 스텝 S7에서, 그 계수에 대해서 라인마다 엔트로피 부호화한다.
엔트로피 부호화가 종료되면, 엔트로피 부호화부(155)는, 우선, 스텝 S8에서 프리싱크트 헤더(171)(도 7)를 송출하고, 스텝 S9에서, 현재의 처리 대상의 프리싱크트가 픽쳐의 선두의 프리싱크트(즉, A=1)인지의 여부를 판정한다. 픽쳐의 선두라고 판정된 경우, 처리는 스텝 S10으로 진행하여, 엔트로피 부호화부(155)는, 픽쳐 헤더(172)(도 8)를 송출한다. 스텝 S10의 처리가 종료되면, 처리는 스텝 S11로 진행한다. 또한, 스텝 S9에서, 현재의 처리 대상의 프리싱크트가 픽쳐의 선두의 프리싱크트가 아니라고 판정된 경우, 스텝 S10의 처리는 생략되고, 처리는 스텝 S11로 진행한다.
엔트로피 부호화부(155)는 스텝 S11에서, 헤더 정보에 계속해서 프리싱크트 A의 부호화 데이터를 외부에 송출한다.
웨이블릿 변환부(150)는 스텝 S12에서 번호 A의 값을 「1」 인크리먼트하여 다음의 프리싱크트를 처리 대상으로 하고, 스텝 S13에서, 처리 대상의 픽쳐에 대해서, 미처리의 화상 입력 라인이 존재하는지의 여부를 판정하고, 존재한다고 판정한 경우, 처리를 스텝 S2로 되돌려, 새로운 처리 대상의 프리싱크트에 대해서 그 이후의 처리를 반복한다.
이상과 같이 스텝 S2 내지 스텝 S13의 처리가 반복하여 실행되어, 각 프리싱크트가 부호화된다. 그리고, 스텝 S13에서, 미처리의 화상 입력 라인이 존재하지 않는다고 판정한 경우, 웨이블릿 변환부(150)는, 그 픽쳐에 대한 부호화 처리를 종료한다. 다음 픽쳐에 대해서는 새롭게 부호화 처리가 개시된다.
종래의 웨이블릿 변환의 방법의 경우, 우선, 수평 분석 필터링 처리를 픽쳐 전체에 대해서 행하고, 다음으로 수직 분석 필터링 처리를 그 픽쳐 전체에 대해서 행한다. 그리고 얻어진 저역 성분 전체에 대해서 마찬가지의 수평 분석 필터링 처리와 수직 분석 필터링 처리를 순서대로 행한다. 이상과 같이, 분해 레벨이 최종 레벨에 도달할 때까지, 분석 필터링 처리가 재귀적으로 반복된다. 따라서, 각 분석 필터링 처리의 결과를 버퍼에 유지시킬 필요가 있지만, 그 때, 버퍼는, 픽쳐 전체, 혹은, 그 시점의 분해 레벨의 저역 성분 전체의 필터링 결과를 유지할 필요가 있어, 다대한 메모리 용량을 필요로 하게 된다(유지하는 데이터량이 많다).
또한, 이 경우, 픽쳐 내에서 모든 웨이블릿 변환이 종료될 때까지, 후단의 계수 재배열이나 엔트로피 부호화를 행할 수 없어, 지연 시간이 증대한다.
이에 대하여, 부호화부(121)의 웨이블릿 변환부(150)의 경우, 상술한 바와 같이 프리싱크트 단위로 수직 분석 필터링 처리 및 수평 분석 필터링 처리를 최종 레벨까지 연속하여 행하므로, 종래의 방법과 비교하여, 한번에(동시기에) 유지할(버퍼링할) 필요가 있는 데이터의 양이 적어, 준비할 버퍼의 메모리량을 대폭 저감시킬 수 있다. 또한, 최종 레벨까지 분석 필터링 처리가 행하여짐으로써, 후단의 계수 재배열이나 엔트로피 부호화 등의 처리도 행할 수 있다(즉, 계수 재배열이나 엔트로피 부호화를 프리싱크트 단위로 행할 수 있다). 따라서, 종래의 방법과 비교하여 지연 시간을 대폭 저감시킬 수 있다.
또한, 엔트로피 부호화부(155)는, 부호화 데이터와 함께, 프리싱크트마다 프리싱크트 헤더(171)를, 픽쳐마다 픽쳐 헤더(172)를 패킷타이즈 처리부(122)에 공급하므로, 패킷타이즈 처리부(122)는, 용이하게 헤더 정보를 생성할 수 있다. 또한, 이 프리싱크트 헤더(171) 및 픽쳐 헤더(172)의 포맷은, 패킷타이즈 처리부(122)가 패킷에 부가하는 페이로드 헤더의 포맷과 마찬가지이므로, 패킷타이즈 처리부(122)는, 더욱 용이하게 헤더 정보를 생성할 수 있다.
또한, 엔트로피 부호화부(155)는, 어떠한 이유로 부호화에 실패한 경우, 프리싱크트 헤더(171)의 IF를 세움으로써, 그 프리싱크트 또는 얼라인 유닛이, 부호화에 실패한 프리싱크트 또는 얼라인 유닛인 것을 나타낸다. 이 IF를 참조함으로써 패킷타이즈 처리부(122)는, 복호할 수 없는 불필요한 데이터를 패킷화하여 수신 장치(103)에 송신하는 것을 용이하게 억제할 수 있다.
다음으로, 패킷타이즈 처리부(122)에 의한 패킷타이즈 처리의 흐름의 예를, 도 26의 플로우차트를 참조하여 설명한다.
스텝 S31에서, 패킷타이즈 처리부(122)의 데이터 취득부(201)는, 프리싱크트 헤더(171)를 취득하였는지의 여부를 판정하고, 취득하였다고 판정할 때까지 대기한다. 부호화부(121)로부터 공급된 프리싱크트 헤더(171)를 취득하였다고 판정된 경우, 처리는 스텝 S32로 진행한다.
스텝 S32에서, RTP 헤더 작성부(202)는, RTP 헤더(221)를 작성한다. 스텝 S33에서, 공통 헤더 작성부(203)는, 프리싱크트 헤더(171)에 기초하여, 공통 헤더(231)를 작성한다. 이 때, 공통 헤더 작성부(203)는, 프리싱크트 헤더(171)의 제1 워드(Word0)에, SFF, M, TSF, 및 NF의 필드를 추가한다.
스텝 S34에서, 확장 헤더 작성부(204)는, 프리싱크트 헤더(171)에 기초하여, 양자화 파라미터 정보(232), 사이즈 정보(233), 포맷 정보(234), 및 컬러 정보(236) 등의 확장 헤더를 작성한다.
스텝 S35에서, 픽쳐 정보 작성부(205)는, 픽쳐 헤더(172)를 취득하였는지의 여부를 판정한다. 픽쳐 헤더(172)를 취득하였다고 판정된 경우, 처리는 스텝 S36으로 진행한다. 스텝 S36에서, 픽쳐 정보 작성부(205)는, 픽쳐 헤더(172)를 참조하여, w의 값이 「1」인지의 여부를 판정하고, w의 값이 「1」이라고 판정한 경우, 스텝 S37에서 웨이팅 테이블(WTm)도 패킷화하도록 픽쳐 정보에 포함시킨다. 스텝 S37의 처리가 종료되면, 처리는 스텝 S39로 진행한다.
또한, 스텝 S36에서, w의 값이 폭이 「0」이라고 판정한 경우, 픽쳐 정보 작성부(205)는 스텝 S38에서, 웨이팅 테이블(WTm)을 픽쳐 정보로부터 삭제한다. 스텝 S38의 처리가 종료되면, 처리는 스텝 S39로 진행한다.
또한, 스텝 S35에서, 픽쳐 헤더를 취득하지 않았다고 판정된 경우, 처리는 스텝 S39로 진행한다.
스텝 S39에서, 플래그 확인부(206)는, 프리싱크트 헤더(171)의 IF의 값이 0인지의 여부를 판정한다. 프리싱크트 헤더(171)의 IF의 값이 0이라고 판정된 경우, 처리는 스텝 S40으로 진행한다.
스텝 S40에서, 사이즈 확인부(207)는, 프리싱크트의 데이터 사이즈가 패킷의 페이로드의 최대 사이즈(패킷 사이즈)보다 큰지의 여부를 판정한다.
프리싱크트의 사이즈가 패킷 사이즈보다 크다고 판정된 경우, 처리는 스텝 S41로 진행한다. 스텝 S41에서, 프래그먼트 처리부(208)는, 1프리싱크트의 부호화 데이터를 패킷 사이즈마다 분할하고, 서로 다른 페이로드로 한다. 스텝 S41의 처리가 종료되면, 처리는 스텝 S43으로 진행한다.
또한, 스텝 S40에서, 프리싱크트의 데이터 사이즈가 패킷 사이즈보다 크지 않다고 판정된 경우, 프래그먼트 처리부(208)는, 부호화 데이터의 분할을 행하지 않는다. 즉, 이 경우, 스텝 S41의 처리는 생략되고, 처리는 스텝 S43으로 진행한다.
또한, 스텝 S39에서, 「IF=0」이라고 판정된 경우, 처리는 스텝 S42로 진행한다. 스텝 S42에서, 데이터 취득부(201)는, 플래그 확인부(206)에 제어되어, 공급되는 부호화 데이터를 파기한다. 스텝 S42의 처리가 종료되면, 처리는 스텝 S43으로 진행한다.
패킷화부(209)는 스텝 S43에서, 각 페이로드나 헤더 정보를 이용하여 RTP 패킷을 생성하고, 스텝 S44에서, 각 패킷의 SFF 및 M 등의 플래그 정보를 설정한다.
이상과 같이 각 플래그 정보가 설정되면, 출력부(210)는, 그 RTP 패킷을 송신부(123)에 출력한다.
스텝 S45에서, 데이터 취득부(201)는, 모든 프리싱크트를 처리하였는지의 여부를 판정한다. 미처리의 프리싱크트가 존재한다고 판정된 경우, 처리는 스텝 S31로 되돌아가서, 그 이후의 처리가 반복된다. 또한, 스텝 S45에서 모든 프리싱크트를 처리하였다고 판정된 경우, 패킷타이즈 처리는 종료된다.
이상과 같이, 패킷타이즈 처리부(122)는, 부호화부(121)로부터 공급되는 헤더 정보에 기초하여 용이하게 공통 헤더나 확장 헤더를 생성할 수 있다.
또한, 상술한 바와 같이, 스텝 S36 내지 스텝 S38에서, 픽쳐 정보 작성부(205)는, 프리싱크트 헤더(171)의 w의 값에 기초하여 웨이팅 테이블의 부가를 용 이하게 또한 고속으로 제어할 수 있다. 즉, 픽쳐 정보 작성부(205)는, 프리싱크트 헤더(171)의 w의 값을 확인하는 것만으로, 웨이팅 테이블을 필요할 때만 적절하게 부가할 수 있다. 이에 의해, 송신 장치(102)로부터 수신 장치(103)에 전송되는 데이터량의 불필요한 증대나, 그것에 수반되는 각 부의 불필요한 부하의 증대를 억제할 수 있다.
또한, 상술한 바와 같이, 스텝 S39에서 프리싱크트 헤더(171)의 IF의 값이 「1」인 경우, 플래그 확인부(206)는 스텝 S42에서 데이터 취득부(201)를 제어하여, 부호화 데이터를 취득시키지 않도록 하고, 패킷에 페이로드를 부가시키지 않도록 한다. 즉, 이 경우, 패킷타이즈 처리부(122)로부터 출력되는 RTP 패킷에는 헤더 정보만이 포함되고, 페이로드는 포함되지 않는다. 이와 같이 함으로써, 패킷타이즈 처리부(122)는, 부호화부(121)로부터 공급되는 프리싱크트 헤더(171)를 참조하는 것만으로, 용이하게 또한 고속으로 복호할 수 없는 불필요한 데이터의 송신을 저감시킬 수 있어, 송신부(123), 회선(110), 및 수신 장치(103) 등의 불필요한 부하의 증대를 억제할 수 있다.
또한, 상술한 바와 같이 스텝 S40에서, 사이즈 확인부(207)는, 프리싱크트 헤더(171)에 기초하여 프리싱크트의 사이즈가 패킷 사이즈보다 큰지의 여부를 판정할 수 있으므로, 패킷타이즈 처리부(122)는, 1프리싱크트의 부호화 데이터를 축적하지 않고, 용이하게 또한 고속으로 프래그먼트할지의 여부를 판정할 수 있다.
또한, 패킷화부(209)는 스텝 S44에서, 프리싱크트의 선두 패킷에 대해서는, 공통 헤더(231)의 SFF의 플래그를 세우고, 프리싱크트의 최종 패킷에 대해서는, 공 통 헤더(231)의 M의 플래그를 세운다. 이와 같은 플래그를 세움으로써, 수신 장치(103)의 디패킷타이즈 처리부(132)는, 헤더 정보를 참조하는 것만으로 용이하게 프리싱크트의 선두와 프리싱크트의 종단을 식별할 수 있다. 이에 의해 디패킷타이즈 처리부(132)는, 후술하는 바와 같이 디패킷타이즈 처리를 고속으로 또한 용이하게 행할 수 있다.
또한, 이 때, 공통 헤더(231)의 IF의 플래그가 세워져 있음으로써, 수신 장치(103)의 디패킷타이즈 처리부(132)는, 헤더 정보를 참조하는 것만으로 용이하게 패킷에 페이로드가 포함되어 있지 않은 것을 식별할 수 있다. 이에 의해 디패킷타이즈 처리부(132)는, 후술하는 바와 같이 디패킷타이즈 처리를 고속으로 또한 용이하게 행할 수 있다.
다음으로, 패킷을 수신하는 수신 장치(103)의 디패킷타이즈 처리부(132)가 실행하는 처리에 대해서 설명한다. 상술한 바와 같이 디패킷타이즈 처리부(132)는, 4개의 제어 모드에서 디패킷타이즈 처리를 행한다. 디패킷타이즈 처리를 개시할 때, 디패킷타이즈 처리부(132)는, 스타트 모드(301)로 설정된다.
처음에, 그 스타트 모드(301)의 디패킷타이즈 처리부(132)에 의해 실행되는 스타트 모드 처리의 흐름의 예를 도 27의 플로우차트를 참조하여 설명한다.
스텝 S61에서, 패킷 취득부(251)는, 패킷을 취득하였는지의 여부를 판정하고, 수신부(131)를 통해서 패킷을 취득하였다고 판정할 때까지 대기한다. 패킷을 취득하였다고 판정된 경우, 처리는 스텝 S62로 진행한다. 스텝 S62에서, 헤더 정보 해석부(252)는, 패킷의 헤더 정보를 취득하고, 「PID=0」, 「CF=4」, 또한 「 SFF=1」인지의 여부를 판정한다. 즉, 헤더 정보 해석부(252)는, 복수의 컴포넌트를 1개로 통합한, 픽쳐의 선두의 프리싱크트의 최초의 패킷인지의 여부를 판정한다. 「PID=0」, 「CF=4」, 또한 「SFF=1」이 아니라고 판정된 경우, 처리는 스텝 S61로 되돌아가서 그 이후의 처리가 반복된다. 즉, 「PID=0」, 「CF=4」, 또한 「SFF=1」이라고 판정될 때까지, 스텝 S61 및 스텝 S62의 처리가 반복되고, 「PID=0」, 「CF=4」, 또한 「SFF=1」이라고 판정되면, 처리는 스텝 S63으로 진행한다.
스텝 S63에서, 제어부(254)는, 후술하는 바와 같이 각 모드에서 실행되는, 프리싱크트의 선두의 패킷에 대한 디패킷타이즈 처리인 모드 공통 처리를 실행한다. 모드 공통 처리의 상세에 대해서는 후술한다. 모드 공통 처리가 종료되면, 제어 모드는 다른 모드로 천이하므로, 스타트 모드 처리는 종료된다.
이상과 같이, 스타트 모드에서, 제어부(254)는, 공통 헤더(231)의 SFF의 값을 참조하는 것만으로, 픽쳐의 선두의 프리싱크트의 선두 패킷을 용이하게 검출할 수 있다. 또한, 제어부(254)는, 그 픽쳐의 선두의 프리싱크트의 선두 패킷을 검출함으로써, 그 시점에서 모드 공통 처리를 개시하고, 그 프리싱크트로부터 페이로드의 추출을 개시할 수 있다. 즉, 제어부(254)는, 프리싱크트의 최종 패킷을 확인하지 않고, 신규의 프리싱크트를 파악할 수 있으므로, 페이로드의 추출의 개시 타이밍을 보다 빠르게 할 수 있어, 지연 시간을 저감시킬 수 있다.
다음으로, 도 27의 스텝 S63에서 실행되는 모드 공통 처리의 흐름의 예를 도 28의 플로우차트를 참조하여 설명한다. 이 모드 공통 처리는, 후술하는 바와 같이, 다른 모드에서도 실행되는 처리로서, 디패킷타이즈 처리부(132)가, 1개 전의 프리싱크트의 최종 패킷이 확인되어 있지 않지만, 새로운 프리싱크트의 선두 패킷을 확인한 경우에, 그 프리싱크트에 대한 디패킷타이즈 처리를 행하는 것이다.
따라서, 이 모드 공통 처리는, 패킷 취득부(251)가 패킷을 이미 취득하고 있는 상태에서 개시된다.
모드 공통 처리가 개시되면, 스텝 S82에서, 헤더 정보 해석부(252)는, 공통 헤더(231)를 참조하여, 「IF=0」인지의 여부를 판정한다. 「IF=1」이라고 판정된 경우, 처리는 스텝 S83으로 진행한다.
「IF=1」이라고 판정된 경우, 제어부(254)는 스텝 S83에서, 헤더 공급부(255) 및 데이터 공급부(256)를 제어하여, 패킷의 헤더 부분만을 복호부(133)에 전송시킨다. IF=1인 경우, 기본적으로 그 패킷에 페이로드는 포함되어 있지 않다. 만일 포함되어 있다고 해도 복호 불가능하므로, 제어부(254)는, 데이터 공급부(256)를 제어해서 그 페이로드의 전송을 금지한다.
스텝 S83의 처리가 종료되면, 제어 모드 천이부(253)는 스텝 S84에서, 제어 모드를, 다음의 프리싱크트의 선두 패킷을 대기하는 스탠바이 모드로 천이한다. 스탠바이 모드의 처리에 대해서는 후술한다. 제어 모드가 천이되면 모드 공통 처리는 종료된다.
스텝 S82에서, 「IF=0」이라고 판정된 경우, 처리는 스텝 S85로 진행한다. 이 경우, 페이로드의 부호화 데이터는 정상적으로 부호화된 데이터이다. 스텝 S85에서, 헤더 공급부(255)는, 제어부(254)에 제어되어, 프리싱크트 헤더 4워드분을 복호부(133)에 전송한다.
스텝 S86에서, 헤더 정보 해석부(252)는, 공통 헤더(231)를 참조하여, 「PID=0」 또한 「CF=4」인지의 여부를 판정한다. 「PID=0」 또한 「CF=4」라고 판정된 경우, 처리는 스텝 S87로 진행한다. 스텝 S87에서, 헤더 정보 해석부(252)는, 공통 헤더(231)를 참조하여, 「w=1」인지의 여부를 판정한다. 「w=1」이라고 판정된 경우, 처리는 스텝 S88로 진행하여, 헤더 공급부(255)는, 제어부(254)에 제어되어, 픽쳐 헤더(172)를 웨이팅 테이블도 포함시키도록 26워드분 복호부(133)에 전송한다. 스텝 S88의 처리가 종료되면, 처리는 스텝 S90으로 진행한다.
또한, 스텝 S87에서, 「w=1」이 아니라고 판정된 경우, 처리는 스텝 S89로 진행하여, 헤더 공급부(255)는, 제어부(254)에 제어되어, 픽쳐 헤더(172)를 웨이팅 테이블도 포함시키지 않도록 6워드분만 복호부(133)에 전송한다. 스텝 S89의 처리가 종료되면, 처리는 스텝 S90으로 진행한다.
또한, 스텝 S86에서, 「PID=0」 또한 「CF=4」라고 판정된 경우, 픽쳐의 선두의 프리싱크트가 아니므로, 헤더 공급부(255)는, 제어부(254)에 제어되어, 픽쳐 헤더(172)를 복호부(133)에 전송하지 않는다. 따라서, 이 경우, 처리는 스텝 S90으로 진행한다.
스텝 S90에서, 데이터 공급부(256)는, 제어부(254)에 제어되어, 패킷의 나머지 페이로드, 즉 부호화 데이터를 복호부(133)에 전송한다. 스텝 S91에서, 헤더 정보 해석부(252)는, 공통 헤더(231)를 참조하여, 「M=1」인지의 여부를 판정한다. 「M=1」이며, 처리 대상의 패킷이 프리싱크트의 최종 패킷이라고 판정된 경우, 처리는 스텝 S92로 진행하여, 제어부(254)는, 제어 모드 천이부(253)에 제어되어, 제 어 모드를 스탠바이 모드로 천이한다. 즉, 금회 최종 패킷의 처리가 종료되었으므로, 제어 모드는, 다음의 프리싱크트의 선두 패킷을 대기하는 스탠바이 모드로 천이된다. 제어 모드가 천이되면 모드 공통 처리는 종료된다.
또한, 스텝 S91에서, 「M=1」이 아니고, 처리 대상의 패킷이 프리싱크트의 최종 패킷이 아니라고 판정된 경우, 처리는 스텝 S93으로 진행하여, 제어부(254)는, 제어 모드 천이부(253)에 제어되어, 제어 모드를 프로세싱 모드로 천이한다. 즉, 금회 최종 패킷이 아닌 패킷의 전송 처리가 정상적으로 종료되었으므로, 제어 모드는, 동일한 프리싱크트의 후속의 패킷을 대기하는 프로세싱 모드로 천이된다. 제어 모드가 천이되면 모드 공통 처리는 종료된다. 이 모드 공통 처리가 도 27의 스텝 S63에서 실행된 것이면, 모드 공통 처리 종료에 의해, 처리는 도 27의 스텝 S63으로 되돌아가서, 스타트 모드 처리가 종료된다.
이상과 같이, 디패킷타이즈 처리부(132)는, SFF나 M의 값에 기초하여, 프리싱크트의 선두 패킷이나 최종 패킷을 용이하게 식별할 수 있다. 또한, M에 의해 최종 패킷을 식별할 수 있으므로, 디패킷타이즈 처리부(132)는, 용이하게 프리싱크트마다 모드를 적당히 천이시킬 수 있다. 이에 의해, 디패킷타이즈 처리부(132)는, 각 프리싱크트에 대해서 적절하게 디패킷타이즈 처리를 행할 수 있다. 또한, SFF에 의해 선두 패킷을 식별할 수 있으므로, 디패킷타이즈 처리부(132)는, 최종 패킷을 확인하지 않아도 프리싱크트의 갱신을 파악할 수 있다. 즉, 예를 들면, 패킷 로스가 발생한 경우, 즉, 취득한 패킷의 시퀀스 번호가 전회 취득한 패킷의 시퀀스 번호와 연속하고 있지 않은 경우라도, 디패킷타이즈 처리부(132)는, 그 패킷 이 새로운 프리싱크트의 선두 패킷이면, 다음의 프리싱크트를 대기하지 않고, 그 새로운 프리싱크트의 패킷으로부터 페이로드의 추출을 개시할 수 있다. 즉, 디패킷타이즈 처리부(132)는, 불필요한 대기 시간을 저감시킬 수 있다. 물론, 스타트 모드뿐만 아니라, 프로세싱 모드나 로스 모드에서 모드 공통 처리를 실행하는 경우에도, 디패킷타이즈 처리부(132)는, 대기 시간을 단축할 수 있으므로, 지연 시간의 단축을 실현할 수 있다.
또한, 스텝 S83과 같이, 디패킷타이즈 처리부(132)는, 공통 헤더(231)를 참조하는 것만으로, 용이하게 복호 불가능한 불필요한 페이로드를 복호부(133)에 공급하는 것을 억제할 수 있다. 이에 의해 복호부(133)의 복호 처리의 부하를 경감시킬 수 있다. 또한, 헤더 정보는, 복호 처리에 이용 가능하므로, 제어부(254)는, 헤더 정보만을 전송시킨다.
다음으로, 스탠바이 모드 처리의 흐름의 예를 도 29의 플로우차트를 참조하여 설명한다. 이 스탠바이 모드 처리는, 다음의 프리싱크트의 선두 패킷을 대기하는 모드의 처리이며, 제어 모드 천이부(253)에 의해 제어 모드가 스탠바이 모드로 천이되면, 개시된다.
스탠바이 모드 처리가 개시되면, 패킷 취득부(251)는 스텝 S111에서, 패킷을 수신하였는지의 여부를 판정하고, 수신하였다고 판정할 때까지 대기한다. 수신부(131)로부터 패킷이 공급되어, 패킷을 수신하였다고 판정된 경우, 처리는 스텝 S112로 진행한다.
스텝 S112에서, 헤더 정보 해석부(252)는, RTP 헤더(221)를 참조하여, 시퀀 스 번호가 전회 수신한 패킷과 연속하는지의 여부를 판정한다. 시퀀스 번호가 전회 수신한 패킷과 연속하고 있지 않은 경우, 패킷의 수신에 실패한(패킷 로스가 발생하고 있는) 것을 나타낸다. 시퀀스 번호가 전회 수신한 패킷과 연속하고 있고, 패킷 로스가 발생하고 있지 않다고 판정된 경우, 처리는 스텝 S113으로 진행한다.
스텝 S113 내지 스텝 S122의 각 처리는, 도 28을 참조하여 설명한 모드 공통 처리의 스텝 S82 및 스텝 S83, 스텝 S85 내지 스텝 S91 및 스텝 S93의 각 처리와 마찬가지로 실행된다.
즉, 스텝 S113의 처리는 스텝 S82에 대응하며, 스텝 S114의 처리는 스텝 S83에 대응한다. 단, 스탠바이 모드 처리의 경우, 이미 스탠바이 모드이므로, 도 28의 스텝 S84에 대응하는 처리는 생략되고, 스텝 S111로 처리가 진행된다(도 28에서 스탠바이 모드로 천이하고, 스탠바이 모드 처리가 개시되는 것과 동등함).
또한, 스텝 S115 내지 스텝 S121은, 각각 도 28의 스텝 S85 내지 스텝 S91에 대응한다. 단, 스탠바이 모드 처리의 경우, 이미 스탠바이 모드이므로, 스텝 S121에서 「M=1」이라고 판정된 경우, 도 28의 스텝 S92에 대응하는 처리는 생략되고, 스텝 S111로 처리가 진행된다(도 28에서 스탠바이 모드로 천이하고, 스탠바이 모드 처리가 개시되는 것과 동등함).
또한, 스텝 S121에서, 「M=1」이 아니라고 판정된 경우, 처리는 스텝 S122로 진행한다. 이 스텝 S122의 처리는, 도 28의 스텝 S93의 처리에 대응하고, 제어 모드 천이부(253)가 제어 모드를 프로세싱 모드로 천이시키면, 스탠바이 모드 처리는 종료된다.
또한, 스텝 S112에서, 시퀀스 번호가 전회 수신한 패킷과 연속하지 않고, 패킷 로스가 발생하였다고 판정된 경우, 처리는 스텝 S123으로 진행한다.
스텝 S123에서, 헤더 정보 해석부(252)는, 공통 헤더(231)를 참조하여, 「SFF=1」인지의 여부를 판정한다. 「SFF=1」이라고 판정된 경우, 처리는 스텝 S113으로 되돌아가서, 그 이후의 처리를 반복한다. 복호 처리는 프리싱크트 단위로 행하여지므로, 프리싱크트 내에서 패킷 로스가 발생하고 있지 않으면, 그 프리싱크트는 복호 가능하다. 즉, 「SFF=1」인 경우, 현재 처리 대상의 패킷이 속하는 프리싱크트가 아니라, 과거의 프리싱크트에서 패킷 로스가 발생한 것을 나타내고 있다. 게다가, 스탠바이 모드의 경우, 그 과거의 프리싱크트의 부호화 데이터의 복호부(133)에 의한 축적은 종료하고 있다. 따라서, 패킷 로스가 발생해도, 새롭게 취득한 패킷이 새로운 프리싱크트의 선두 패킷이면, 그 패킷 로스는 무시되고, 처리는 스텝 S113으로 되돌아간다.
스텝 S123에서, 「SFF=1」이 아니라고 판정된 경우, 처리는 스텝 S124로 진행한다. 이 경우, 패킷 로스는, 처리 대상의 패킷과 동일한 프리싱크트 내에서 발생하고 있다. 따라서, 그 프리싱크트는 복호할 수 없으므로, 페이로드의 전송은 중지된다. 즉, 스텝 S124에서, 데이터 공급부(256)는, 제어부(254)에 제어되어, 수신한 패킷을, 복호부(133)에 전송하지 않고 파기한다.
상술한 바와 같이, 스탠바이 모드이므로, 과거의 프리싱크트의 부호화 데이터의 복호부(133)에 의한 축적은 종료되어 있으며, 새로운 프리싱크트의 부호화 데이터는 아직 축적되어 있지 않다. 따라서, 이 경우, 복호부(133)는 데이터를 파기 할 필요가 없으므로, 디패킷타이즈 처리부(132)는, 복호부(133)에 에러를 통지할 필요는 없다.
스텝 S125에서, 제어부(254)는, 제어 모드 천이부(253)에 제어되어, 제어 모드를, 에러가 발생한 프리싱크트에서 다음의 프리싱크트의 패킷을 취득할 때까지 대기하는 모드인 로스 모드로 천이한다. 제어 모드가 로스 모드로 천이되면, 스탠바이 모드 처리는 종료된다.
이상과 같이, 스탠바이 모드에서 디패킷타이즈 처리부(132)는, SFF나 M의 값에 기초하여, 프리싱크트의 선두 패킷이나 최종 패킷을 용이하게 식별할 수 있다. 또한, M에 의해 최종 패킷을 식별할 수 있으므로, 디패킷타이즈 처리부(132)는, 용이하게 프리싱크트마다 모드를 적당히 천이시킬 수 있다. 이에 의해, 디패킷타이즈 처리부(132)는, 각 프리싱크트에 대해서 적절하게 디패킷타이즈 처리를 행할 수 있다. 또한, SFF에 의해 선두 패킷을 식별할 수 있으므로, 디패킷타이즈 처리부(132)는, 최종 패킷을 확인하지 않아도 프리싱크트의 갱신을 파악할 수 있다. 즉, 예를 들면, 패킷 로스가 발생한 경우, 즉, 취득한 패킷의 시퀀스 번호가 전회 취득한 패킷의 시퀀스 번호와 연속하고 있지 않은 경우에도, 디패킷타이즈 처리부(132)는, 그 패킷이 새로운 프리싱크트의 선두 패킷이면, 다음의 프리싱크트를 대기하지 않고, 그 새로운 프리싱크트의 패킷으로부터 페이로드의 추출을 개시할 수 있다. 즉, 디패킷타이즈 처리부(132)는, 불필요한 대기 시간을 저감시킬 수 있다.
다음으로, 프로세싱 모드 처리의 흐름의 예를 도 30의 플로우차트를 참조하 여 설명한다. 이 프로세싱 모드 처리는, 동일한 프리싱크트의 후속의 패킷을 대기하는 모드의 처리로서, 제어 모드 천이부(253)에 의해 제어 모드가 프로세싱 모드로 천이되면, 개시된다.
프로세싱 모드 처리가 개시되면, 패킷 취득부(251)는 스텝 S141에서, 패킷을 수신하였는지의 여부를 판정하고, 수신하였다고 판정할 때까지 대기한다. 수신부(131)로부터 패킷이 공급되어, 패킷을 수신하였다고 판정된 경우, 처리는 스텝 S142로 진행한다.
스텝 S142에서, 헤더 정보 해석부(252)는, RTP 헤더(221)를 참조하여, 시퀀스 번호가 전회 수신한 패킷과 연속하는지의 여부를 판정한다. 시퀀스 번호가 전회 수신한 패킷과 연속하고 있고, 패킷 로스가 발생하고 있지 않다고 판정된 경우, 처리는 스텝 S143으로 진행한다.
스텝 S143에서, 헤더 공급부(255)는, 제어부(254)에 제어되어, 패킷으로부터 공통 헤더(231)를 삭제한다. 스텝 S144에서, 데이터 공급부(256)는, 제어부(254)에 제어되어, 나머지 페이로드 데이터를 복호부(133)에 전송한다. 스텝 S145에서, 헤더 정보 해석부(252)는, 공통 헤더(231)를 참조하여, 「M=1」인지의 여부를 판정하고, 「M=1」이 아니고 프리싱크트의 최종 패킷이 아니라고 판정된 경우, 동일한 프리싱크트에 후속의 패킷이 존재하므로, 처리는 스텝 S141로 되돌아가서, 그 이후의 처리가 반복된다.
즉, 스텝 S141 내지 스텝 S145의 처리가 반복되면서, 프리싱크트의 각 패킷으로부터 페이로드가 추출되어 복호부(133)에 전송된다.
스텝 S145에서, 「M=1」이며, 처리 대상의 패킷이 프리싱크트의 최종 패킷이라고 판정된 경우, 처리는 스텝 S146으로 진행하여, 제어부(254)는, 제어 모드 천이부(253)에 제어되어, 제어 모드를 스탠바이 모드로 천이한다. 제어 모드가 스탠바이 모드로 천이되면 프로세싱 모드 처리는 종료된다.
또한, 스텝 S142에서, 시퀀스 번호가 전회 수신한 패킷과 연속하지 않고, 패킷 로스가 발생하였다고 판정된 경우, 처리는 스텝 S147로 진행한다.
이 경우, 그 프리싱크트의 데이터를 복호부(133)에서 축적 중이므로, 스텝 S147에서, 에러 통지부(257)는, 제어부(254)에 제어되어, 전송 에러를 복호부(133)에 통지한다.
에러 통지가 종료되면, 헤더 정보 해석부(252)는 스텝 S148에서, 공통 헤더(231)를 참조하여, 「SFF=1」인지의 여부를 판정한다. 「SFF=1」이라고 판정된 경우, 처리는 스텝 S149로 진행한다. 스텝 S149에서, 제어부(254)는, 도 28의 플로우차트를 참조하여 설명한 모드 공통 처리를 실행한다. 이 경우, 모드 공통 처리가 종료되면, 처리는 도 30의 스텝 S149로 되돌아가서, 프로세싱 모드 처리가 종료된다.
또한, 스텝 S148에서, 「SFF=1」이 아니라고 판정된 경우, 처리는 스텝 S150으로 진행하여, 데이터 공급부(256)는, 제어부(254)에 제어되어 수신한 패킷을 파기한다. 스텝 S151에서, 제어부(254)는, 제어 모드 천이부(253)에 제어되어, 제어 모드를 로스 모드로 천이한다. 제어 모드가 로스 모드로 천이되면 프로세싱 모드 처리는 종료된다.
이상과 같이, 프로세싱 모드에서 디패킷타이즈 처리부(132)는, SFF나 M의 값에 기초하여, 프리싱크트의 선두 패킷이나 최종 패킷을 용이하게 식별할 수 있다. 또한, M에 의해 최종 패킷을 식별할 수 있으므로, 디패킷타이즈 처리부(132)는, 용이하게 프리싱크트마다 모드를 적당히 천이시킬 수 있다. 이에 의해, 디패킷타이즈 처리부(132)는, 각 프리싱크트에 대해서 적절하게 디패킷타이즈 처리를 행할 수 있다. 또한, SFF에 의해 선두 패킷을 식별할 수 있으므로, 디패킷타이즈 처리부(132)는, 최종 패킷을 확인하지 않아도 프리싱크트의 갱신을 파악할 수 있다.
예를 들면, 패킷 로스가 발생하고 있지 않은 경우, 디패킷타이즈 처리부(132)는, 순차적으로 공급되는 각 패킷으로부터 페이로드를 추출하고, M의 값에 기초하여 최종 패킷을 확인하고, 그 프리싱크트에 대한 처리가 종료되었다고 판정한 경우, 스탠바이 모드로 천이한다.
패킷 로스가 발생한 경우, 디패킷타이즈 처리부(132)는, 복호부(133)에 에러를 통지하고, 선두 패킷이 아니면 그 패킷을 파기하고, 다음의 프리싱크트의 패킷을 확인할 때까지 대기하도록 로스 모드로 천이한다. 단, 「SFF=1」일 때, 즉, 패킷 로스을 확인하였을 때에 취득한 패킷이 새로운 프리싱크트의 선두 패킷이면, 디패킷타이즈 처리부(132)는, 모드 공통 처리를 실행함으로써, 스탠바이 모드나 로스 모드로 천이하지 않고, 즉, 새로운 프리싱크트의 패킷을 대기하지 않고, 그 프리싱크트로부터 페이로드 추출을 개시할 수 있으므로, 페이로드 추출의 개시 타이밍을 보다 빠르게 할 수 있어, 지연 시간을 저감시킬 수 있다.
다음으로, 도 31의 플로우차트를 참조하여 로스 모드 처리의 흐름의 예를 설 명한다. 이 로스 모드 처리는, 동일한 프리싱크트에서 패킷 로스가 발생하였을 때에 다음의 프리싱크트의 패킷을 수신할 때까지 대기하는 모드의 처리로서, 제어 모드 천이부(253)에 의해 제어 모드가 로스 모드로 천이되면, 개시된다.
로스 모드 처리가 개시되면, 패킷 취득부(251)는 스텝 S171에서, 패킷을 수신하였는지의 여부를 판정하고, 수신하였다고 판정할 때까지 대기한다. 수신부(131)로부터 패킷이 공급되어, 패킷을 수신하였다고 판정된 경우, 처리는 스텝 S172로 진행한다.
스텝 S172에서, 헤더 정보 해석부(252)는, 공통 헤더(231)를 참조하여, 「SFF=1」인지의 여부를 판정한다. 「SFF=1」이 아니고, 프리싱크트의 선두 패킷이 아니라고 판정된 경우, 처리는 스텝 S173으로 진행하여, 헤더 정보 해석부(252)는, 이번에는, 「M=1」인지의 여부를 판정한다. 「M=1」이 아닌, 즉 프리싱크트의 최종 패킷이 아니라고 판정된 경우, 처리는 스텝 S171로 되돌아가서 그 이후의 처리가 반복된다.
스텝 S173에서, 「M=1」이라고 판정된 경우, 처리는 스텝 S174로 진행하여, 제어부(254)는, 제어 모드 천이부(253)에 제어되어 제어 모드를 스탠바이 모드로 천이한다. 제어 모드가 스탠바이 모드로 천이되면 로스 모드 처리는 종료된다.
또한, 스텝 S172에서, 「SFF=1」이라고 판정된 경우, 제어부(254)는, 도 28의 플로우차트를 참조하여 설명한 모드 공통 처리를 실행한다. 이 경우, 모드 공통 처리가 종료되면, 처리는 도 31의 스텝 S175로 되돌아가서, 로스 모드 처리가 종료된다.
즉, 로스 모드에서도, 디패킷타이즈 처리부(132)는, SFF나 M의 값에 기초하여, 프리싱크트의 선두 패킷이나 최종 패킷을 용이하게 식별할 수 있다. 또한, M에 의해 최종 패킷을 식별할 수 있으므로, 디패킷타이즈 처리부(132)는, 용이하게 프리싱크트마다 모드를 적당히 천이시킬 수 있다. 이에 의해, 디패킷타이즈 처리부(132)는, 각 프리싱크트에 대해서 적절하게 디패킷타이즈 처리를 행할 수 있다. 또한, SFF에 의해 선두 패킷을 식별할 수 있으므로, 디패킷타이즈 처리부(132)는, 최종 패킷을 확인하지 않아도 프리싱크트의 갱신을 파악할 수 있다.
로스 모드의 경우, 디패킷타이즈 처리부(132)는, 패킷을 취득하면서, 기본적으로 대기하고, M의 값에 기초하여 최종 패킷을 검출한 경우, 스탠바이 모드로 천이하여, 다음의 프리싱크트의 선두 패킷의 취득에 대비한다. 또한, SFF의 값에 기초하여 선두 패킷을 검출한 경우, 디패킷타이즈 처리부(132)는, 모드 공통 처리를 실행함으로써, 그 프리싱크트로부터 페이로드의 추출을 개시한다.
이와 같이 함으로써, 디패킷타이즈 처리부(132)는, 페이로드의 추출의 개시 타이밍을 보다 빠르게 할 수 있어, 지연 시간을 저감시킬 수 있다.
이상과 같이, 상황에 따라서 제어 모드를 절환하면서 디패킷타이즈 처리를 행함으로써, 디패킷타이즈 처리부(132)는, 디패킷타이즈용의 버퍼를 설치하여, 프리싱크트마다 패킷을 축적하지 않아도, 공급되는 패킷의 헤더 정보에 기초하여 순차적으로 적절하게 처리를 행할 수 있어, 용이하게 또한 고속으로 디패킷타이즈 처리를 행할 수 있다. 또한, 패킷 로스가 발생한 경우, 디패킷타이즈 처리부(132)는, 필요에 따라서 에러 통지를 행하므로 복호부(133)는, 불필요한 복호 처리의 실 행을 억제하여, 복호 처리의 부하를 경감시킬 수 있다.
또한, IF의 값에 의해, 디패킷타이즈 처리부(132)는, 용이하게 복호 불가능한 불필요한 페이로드를 복호부(133)에 공급하는 것을 억제할 수 있다. 이에 의해 복호부(133)의 복호 처리의 부하를 경감시킬 수 있다.
복호부(133)는, 이상과 같은 디패킷타이즈 처리부(132)의 처리에 대응하여, 디패킷타이즈 처리부(132)로부터 공급되는 부호화 데이터의 복호 처리를 행한다. 그 때문에, 복호부(133)는, 복호 처리의 실행을 제어하는 복호 제어 처리를 실행한다. 도 32의 플로우차트를 참조하여, 복호 제어 처리의 흐름의 예를 설명한다. 이 부호화 제어 처리는, 부호화 데이터의 공급이 개시되고 나서 종료될 때까지의 동안 실행된다.
스텝 S191에서, 데이터 취득부(355)는, 디패킷타이즈 처리부(132)로부터 공급되는 부호화 데이터를 취득한다. 스텝 S192에서, 버퍼부(361)는, 그 부호화 데이터를 축적한다. 스텝 S193에서, 제어 정보 취득부(351)는, 제어 정보를 취득한다. 스텝 S194에서, 복호 제어부(352)는, 제어 정보 취득부(351)가 취득한 제어 정보에 기초하여, 데이터 취득부(355)가 취득한 데이터가 프리싱크트의 선두 패킷의 페이로드인지의 여부를 판정한다. 프리싱크트의 선두 패킷의 페이로드라고 판정된 경우, 처리는 스텝 S195로 진행한다. 스텝 S195에서, 복호 제어부(352)는, 제어 정보 취득부(351)가 취득한 제어 정보에 기초하여, 데이터 취득부(355)에 취득되어 버퍼부(361)에 축적된 데이터가 연속하고 있는지의 여부를 판정한다. 패킷 로스가 발생하고 있지 않고, 데이터 취득부(355)에 취득되어 버퍼부(361)에 축적된 데이터가 연속하고 있다고 판정된 경우, 처리는 스텝 S191로 되돌아가서, 다음의 부호화 데이터에 대하여, 스텝 S191 이후의 처리가 반복된다.
또한, 스텝 S195에서, 패킷 로스가 발생하고, 데이터가 연속하고 있지 않다고 판정된 경우, 처리는 스텝 S196으로 진행한다. 스텝 S196에서, 복호 제어부(352)는, 엔트로피 복호부(362)를 제어하여, 보완 처리를 개시시킨다. 엔트로피 복호부(362)는, 프리싱크트 단위로 복호 처리를 행하지만, 프리싱크트의 데이터가 누락된 경우, 다른 프리싱크트의 데이터 등을 이용하여 보완 처리를 행한다.
따라서, 복호 제어부(352)는, 전회 취득한 패킷과 연속하고 있지 않은 선두 패킷을 취득한 경우, 엔트로피 복호부(362)를 제어하여, 그 1개 전의 프리싱크트에 대해서 보완 처리를 실행시킨다. 보완 처리가 종료되면, 처리는 스텝 S197로 진행한다.
스텝 S197에서, 복호 제어부(352)는, 복호 제어 처리를 종료할지의 여부를 판정하고, 종료하지 않는다고 판정된 경우, 처리는 스텝 S191로 되돌아가서, 그 이후의 처리가 반복된다. 또한, 스텝 S197에서, 복호 제어 처리를 종료한다고 판정된 경우, 복호 제어 처리가 종료된다.
또한, 스텝 S194에서, 데이터 취득부(355)가 취득한 데이터가 프리싱크트의 선두 패킷의 페이로드가 아니라고 판정된 경우, 처리는 스텝 S198로 진행하여, 복호 제어부(352)는, 데이터 취득부(355)가 취득한 데이터가 프리싱크트의 최종 패킷의 페이로드인지의 여부를 판정한다. 프리싱크트의 최종 패킷의 페이로드라고 판정된 경우, 처리는 스텝 S199로 진행하여, 복호 제어부(352)는, 엔트로피 복호 부(362)를 제어하여, 버퍼부(361)에 축적되어 있는 부호화 데이터에 대하여, 복호 처리를 개시시킨다. 스텝 S199의 처리가 종료되면, 처리는 스텝 S197로 되돌아간다.
또한, 스텝 S198에서, 데이터 취득부(355)가 취득한 데이터가 프리싱크트의 최종 패킷의 페이로드가 아니라고 판정된 경우, 처리는 스텝 S197로 되돌아간다.
다음으로, 도 33의 스텝 S199에서 개시되는 복호 처리의 흐름의 예를 도 35의 플로우차트를 참조하여 설명한다. 이 복호 처리는, 도 34의 복호 제어 처리에 의해 제어되어, 프리싱크트 단위로 실행된다.
복호 처리가 개시되면, 엔트로피 복호부(362)는 스텝 S211에서, 버퍼부(361)에 축적되어 있는 부호화 데이터를 취득하고, 스텝 S212에서, 라인마다 부호화 데이터를 엔트로피 복호한다. 스텝 S213에서, 버퍼부(361)는, 그 복호되어 얻어진 계수 데이터를 유지한다. 스텝 S214에서 웨이블릿 역변환부(363)는, 버퍼부(361)에 1프리싱크트분의 계수 데이터가 축적되었는지의 여부를 판정하고, 축적되어 있지 않다고 판정한 경우, 처리를 스텝 S211로 되돌려, 그 이후의 처리를 실행시키고, 버퍼부(361)에 1프리싱크트분의 계수 데이터가 축적될 때까지 대기한다.
스텝 S214에서 버퍼부(361)에 1프리싱크트분의 계수 데이터가 축적되었다고 판정한 경우, 웨이블릿 역변환부(363)는, 처리를 스텝 S215로 진행시켜, 버퍼부(361)에 유지되어 있는 계수 데이터를 1프리싱크트분 읽어낸다.
그리고 그 읽어낸 계수 데이터에 대하여, 웨이블릿 역변환부(363)는 스텝 S216에서, 화면 수직 방향으로 배열되는 계수 데이터에 대해서 합성 필터링 처리를 행하는 수직 합성 필터링 처리를 행하고, 스텝 S217에서, 화면 수평 방향으로 배열되는 계수 데이터에 대해서 합성 필터링 처리를 행하는 수평 합성 필터링 처리를 행하고, 스텝 S218에서, 합성 필터링 처리가 레벨1(분해 레벨의 값이 「1」인 레벨)까지 종료되었는지의 여부, 즉, 웨이블릿 변환 전의 상태까지 역변환되었는지의 여부를 판정하고, 레벨1까지 도달해 있지 않다고 판정한 경우, 처리를 스텝 S216으로 되돌려, 스텝 S216 및 스텝 S217의 필터링 처리를 반복한다.
스텝 S218에서, 레벨1까지 역변환 처리가 종료되었다고 판정한 경우, 웨이블릿 역변환부(363)는, 처리를 스텝 S219로 진행시켜, 역변환 처리에 의해 얻어진 화상 데이터를 외부에 출력한다.
스텝 S220에서, 엔트로피 복호부(362)는, 복호 처리를 종료할지의 여부를 판정하고, 복호 처리를 종료하지 않는다고 판정한 경우, 처리를 스텝 S211로 되돌려, 그 이후의 처리를 반복한다. 또한, 스텝 S220에서, 프리싱크트가 종료되거나 하여 복호 처리를 종료한다고 판정한 경우, 엔트로피 복호부(362)는, 복호 처리를 종료한다.
종래의 웨이블릿 역변환의 방법의 경우, 처리 대상의 분해 레벨의 전체 계수에 대하여, 우선 화면 수평 방향으로 수평 합성 필터링 처리를 행하고, 다음으로 화면 수직 방향으로 수직 합성 필터링 처리를 행하고 있었다. 즉, 각 합성 필터링 처리 시마다, 그 합성 필터링 처리의 결과를 버퍼에 유지시킬 필요가 있지만, 그 때, 버퍼는, 그 시점의 분해 레벨의 합성 필터링 결과와, 다음의 분해 레벨의 전체 계수를 유지할 필요가 있어, 다대한 메모리 용량을 필요로 하게 된다(유지하는 데 이터량이 많음).
또한, 이 경우, 픽쳐(인터레이스 방식의 경우 필드) 내에서 모든 웨이블릿 역변환이 종료될 때까지 화상 데이터 출력이 행하여지지 않으므로, 입력으로부터 출력까지의 지연 시간이 증대된다.
이에 대하여, 복호부(133)의 웨이블릿 역변환부(363)의 경우, 상술한 바와 같이 프리싱크트 단위로 수직 합성 필터링 처리 및 수평 합성 필터링 처리를 레벨1까지 연속하여 행하므로, 종래의 방법과 비교하여, 한번에(동시기에) 버퍼링할 필요가 있는 데이터의 양이 적어, 준비할 버퍼의 메모리량을 대폭 저감시킬 수 있다. 또한, 레벨1까지 합성 필터링 처리(웨이블릿 역변환 처리)가 행하여짐으로써, 픽쳐 내의 전체 화상 데이터가 얻어지기 전에 (프리싱크트 단위로) 화상 데이터를 순차적으로 출력시킬 수 있어, 종래의 방법과 비교하여 지연 시간을 대폭 저감시킬 수 있다.
다음으로, 복호부(133)에서, 도 32의 복호 제어 처리와 병행하여 행하여지는, 디패킷타이즈 처리부(132)로부터의 에러 통지에 대한 처리인 에러 통지 대응 처리의 흐름의 예를 도 34의 플로우차트를 참조하여 설명한다.
도 34에서, 에러 통지 처리가 개시되면, 에러 통지 취득부(356)는 스텝 S241에서, 디패킷타이즈 처리부(132)로부터 에러 통지를 취득하였는지의 여부를 판정한다. 에러 통지를 취득하였다고 판정될 때까지 처리는 대기한다. 스텝 S241에서 에러 통지를 취득하였다고 판정된 경우, 처리는 스텝 S242로 진행한다. 스텝 S242에서, 파기 처리부(357)는, 버퍼부(361)에 현재 수신 도중인 프리싱크트(패킷 로스 가 발생한 최신의 프리싱크트에 속하는 부호화 데이터)가 존재하는지의 여부를 판정한다.
현재 수신 도중인 프리싱크트가 버퍼부(361)에 존재한다고 판정된 경우, 처리는 스텝 S243으로 진행한다. 스텝 S243에서, 파기 처리부(357)는, 버퍼부(361)에 축적되어 있는 수신 중인 슬라이스를 파기한다. 스텝 S243의 처리가 종료되면, 처리는 스텝 S244로 진행한다. 또한, 스텝 S242에서, 현재 수신 도중인 슬라이스가 버퍼부(361)에 존재하지 않는다고 판정된 경우, 스텝 S243의 처리는 생략되고, 처리는 스텝 S244로 진행한다.
스텝 S244에서, 파기 처리부(357)는, 에러 통지 대응 처리를 종료할지의 여부를 판정한다. 디패킷타이즈 처리는 계속되고 있고, 에러 통지 대응 처리도 종료하지 않는다고 판정된 경우, 처리는 스텝 S241로 되돌아가서, 그 이후의 처리를 반복한다. 또한, 스텝 S244에서, 에러 통지 대응 처리를 종료한다고 판정된 경우, 에러 통지 대응 처리는 종료된다.
이상과 같이, 복호부(133)는, 디패킷타이즈 처리부(132)로부터의 에러 통지에 따라서, 패킷 로스가 발생한 슬라이스의 부호화 데이터를 파기하므로, 불필요한 복호 처리를 행하지 않도록 할 수 있다. 이와 같이 적절한 복호 처리를 행할 수 있으므로, 복호부(133)는, 복호 처리를 용이하게 또한 고속으로 행할 수 있어, 복호 처리의 부하를 저감하고, 회로 규모나 코스트를 저감시킬 수 있다.
디패킷타이즈 처리부(132)에 의해 행하여지는 에러 통지의 모습의 예를 도 35에 도시한다.
도 35에서, 디패킷타이즈 처리부(132)와 복호부(133)는, 6개의 신호선으로 접속되어 있는 것으로 한다. 디패킷타이즈 처리부(132)는, 수신한 패킷1로부터 RTP 헤더 등을 삭제해서 추출한 부호화 데이터(Data1)를 복호부(133)에 공급한다. 이 때, 이 부호화 데이터(Data1)가 새로운 슬라이스의 선두이었던 경우, 디패킷타이즈 처리부(132)의 제어 신호 공급부(258)는, 제어부(254)에 제어되어 스타트 정보(START)를 통지한다.
다음으로 도달한 패킷이 패킷5이었던 경우, 패킷 로스가 있었다고 판단된다. 이 때, 복호부(133)에는 프리싱크트의 일부인 Data1이 이미 전송되어 있기 때문에, 디패킷타이즈 처리부(132)의 에러 통지부(257)는, 제어부(254)에 제어되어 에러 통지를 행한다. 또한, 패킷5는 「SFF=1」이었기 때문에, 디패킷타이즈 처리부(132)의 제어 신호 공급부(258)는, 제어부(254)에 제어되어, 스타트 정보(START)를 통지한다.
또한, 이상에서는, 패킷타이즈 처리부(122)는, 프리싱크트의 데이터 사이즈가 패킷 사이즈보다 큰 경우, 데이터를 분할하여 복수의 패킷을 생성하고, 그렇지 않은 경우, 1개의 패킷을 생성하도록 설명하였지만, 프리싱크트의 데이터 사이즈가 패킷 사이즈에 비해서 작은 경우, 복수의 프리싱크트의 데이터를 1개의 패킷으로 하도록 해도 된다.
그 경우, 페이로드 헤더의 구성은, 예를 들면, 도 36에 도시되는 바와 같이, 헤더 정보 및 페이로드가 순차적으로 배열된다. 도 36의 예의 경우, 1개째의 프리싱크트의 데이터인 공통 헤더(231) 내지 페이로드(237) 후에, 2개째의 프리싱크트 의 데이터인 세그먼트 정보(431), 양자화 파라미터 정보(432), 사이즈 정보(433), 포맷 정보(434), 픽쳐 정보(435), 컬러 정보(436), 및 페이로드(437)가 구성되고, 그 후에는, 3개째 이후의 프리싱크트의 데이터가 배열된다.
세그먼트 정보(431)는, 2개째의 프리싱크트에 대한 공통 헤더이며, 도 37에 도시되는 바와 같이, 기본적으로 공통 헤더(231)와 마찬가지의 정보가 포함된다. 즉, 세그먼트 정보(431)는, 프리싱크트 헤더(171)에 기초하여 작성된다. 또한, 자기 자신보다도 뒤에 다른 프리싱크트의 데이터가 존재하는 경우, 공통 헤더(231)(세그먼트 정보(431)도 마찬가지임)에서, NF의 값이 「1」로 설정된다.
이 경우의 패킷타이즈 처리의 흐름의 예를 도 38의 플로우차트를 참조하여 설명한다.
도 38에 도시되는 바와 같이, 이 경우의 패킷타이즈 처리도 기본적으로 도 26을 참조하여 설명한 경우와 마찬가지로 실행된다. 스텝 S301 내지 스텝 S312의 각 처리는, 도 26의 스텝 S31 내지 스텝 S42의 각 처리와 마찬가지로 실행되고, 스텝 S315 내지 스텝 S317의 각 처리는, 도 26의 스텝 S43 내지 스텝 S45의 각 처리와 마찬가지로 실행된다.
단, 스텝 S310에서, 프리싱크트의 사이즈가 패킷 사이즈보다 크지 않다고 판정된 경우, 패킷타이즈 처리부(122)의 사이즈 확인부(207)는, 동일한 패킷에 새로운 페이로드를 추가 가능한지의 여부를 판정한다. 패킷 사이즈에 여유가 있고, 페이로드 추가 가능으로 판정된 경우, 처리는 스텝 S314로 진행하여, 데이터 취득부(201)는, 프리싱크트 헤더를 취득하였는지의 여부를 판정하고, 취득하였다고 판 정할 때까지 대기한다. 프리싱크트 헤더를 취득하였다고 판정한 경우, 처리는 스텝 S303으로 되돌아가서, 패킷에 추가하는 프리싱크트에 대해서 그 이후의 처리가 반복된다. 즉, 스텝 S303 내지 스텝 S310 및 스텝 S313 및 스텝 S314의 루프 처리가 반복됨으로써, 부호화 데이터의 합계의 데이터 사이즈가 패킷 사이즈보다 커질 때까지, 동일한 패킷에 프리싱크트가 순차적으로 추가된다.
또한, 스텝 S313에서, 패킷에 페이로드 추가 불가능이라고 판정된 경우, 처리는 스텝 S313으로 되돌아가서, 그 이후의 처리가 실행된다. 즉 이 경우, 1개의 프리싱크트의 부호화 데이터에서 1개의 패킷이 생성된다.
이상과 같이 패킷타이즈 처리를 행함으로써, 1개의 패킷에 복수의 프리싱크트의 데이터를 포함시킬 수 있다.
이상과 같은 도 1에 도시되는 전송 시스템(100)의 각 부에 의해 실행되는 각종 처리는, 예를 들면, 도 39에 도시되는 바와 같이, 적당히 병렬적으로 실행된다.
도 39는, 도 1에 도시되는 전송 시스템(100)의 각 부에 의해 실행되는 처리의 각 요소의 병렬 동작의 예를 개략적으로 도시하는 도면이다. 이 도 39는, 상술한 도 6과 대응하는 것이다. 화상 데이터의 입력 In-1(도 39의 A)에 대하여, 웨이블릿 변환부(150)(도 2)에서 1회째의 웨이블릿 변환 WT-1이 실시된다(도 39의 B). 도 5를 참조하여 설명한 바와 같이, 이 1회째의 웨이블릿 변환 WT-1은, 최초의 3라인이 입력된 시점에서 개시되고, 계수 C1이 생성된다. 즉, 화상 데이터 In-1의 입력으로부터 웨이블릿 변환 WT-1이 개시될 때까지, 3라인분의 지연이 발생한다.
생성된 계수 데이터는, 계수 재배열용 버퍼부(152)(도 2)에 저장된다. 이 후, 입력된 화상 데이터에 대해서 웨이블릿 변환이 실시되고, 1회째의 처리가 종료되면, 그대로 2회째의 웨이블릿 변환 WT-2로 처리가 이행한다.
2회째의 웨이블릿 변환 WT-2를 위한 화상 데이터 In-2의 입력과, 그 2회째의 웨이블릿 변환 WT-2의 처리와 병렬적으로, 계수 재배열부(153)(도 2)에 의해 3개의 계수 C1, 계수 C4, 및 계수 C5의 재배열 Ord-1이 실행된다(도 39의 C).
또한, 웨이블릿 변환 WT-1의 종료로부터 재배열 Ord-1이 개시될 때까지의 지연은, 예를 들면, 재배열 처리를 계수 재배열부(153)에 지시하는 제어 신호의 전달에 수반되는 지연이나, 제어 신호에 대한 계수 재배열부(153)의 처리 개시에 요하는 지연, 프로그램 처리에 요하는 지연과 같은, 장치나 시스템 구성에 기초하는 지연으로서, 부호화 처리에서의 본질적인 지연은 아니다.
계수 데이터는, 재배열이 종료된 순으로 계수 재배열용 버퍼부(152)로부터 읽어내어져, 엔트로피 부호화부(155)(도 2)에 공급되어, 엔트로피 부호화 EC-1이 행하여진다(도 39의 D). 이 엔트로피 부호화 EC-1은, 3개의 계수 C1, 계수 C4, 및 계수 C5의 모든 재배열의 종료를 대기하지 않고 개시할 수 있다. 예를 들면, 최초로 출력되는 계수 C5에 의한 1라인의 재배열이 종료된 시점에서, 그 계수 C5에 대한 엔트로피 부호화를 개시할 수 있다. 이 경우, 재배열 Ord-1의 처리 개시로부터 엔트로피 부호화 EC-1의 처리 개시까지의 지연은, 1라인분으로 된다.
엔트로피 부호화부(155)에 의한 엔트로피 부호화 EC-1이 종료된 부호화 데이터는, 소정의 신호 처리가 실시된 후, 회선(110)을 통해서 수신 장치(103)에 전송된다(도 39의 E). 이 때, 부호화 데이터는 패킷화되어 전송된다.
송신 장치(102)의 부호화부(121)에 대하여, 1회째의 처리에 의한 7라인분의 화상 데이터 입력에 계속해서, 화면 상의 하단의 라인까지 화상 데이터가 순차적으로 입력된다. 부호화부(121)에서는, 화상 데이터의 입력 In-n(n은 2 이상)에 수반하여, 상술한 바와 같이 하여, 4라인마다 웨이블릿 변환 WT-n, 재배열 Ord-n 및 엔트로피 부호화 EC-n을 행한다. 부호화부(121)에서의 최후의 회의 처리에 대한 재배열 Ord 및 엔트로피 부호화 EC는, 6라인에 대해서 행하여진다. 이들 처리는, 부호화부(121)에서, 도 39의 A 내지 도 39의 D에 예시되는 바와 같이 병렬적으로 행하여진다.
부호화부(121)에 의한 엔트로피 부호화 EC-1에 의해 부호화된 부호화 데이터의 패킷은, 수신 장치(103)에 전송되어, 디패킷타이즈 처리 등이 실시된 후, 복호부(133)에 공급된다. 복호부(133)의 엔트로피 복호부(362)는, 공급된 엔트로피 부호화 EC-1에 의해 부호화된 부호화 데이터에 대하여, 순차적으로 엔트로피 부호의 복호 iEC-1을 행하여, 계수 데이터를 복원한다(도 39의 F). 복원된 계수 데이터는, 순차적으로 버퍼부(361)에 저장된다. 웨이블릿 역변환부(363)는, 버퍼부(361)에 웨이블릿 역변환을 행할 수 있을 만큼 계수 데이터가 저장되면, 버퍼부(361)로부터 계수 데이터를 읽어내고, 읽어내어진 계수 데이터를 이용하여 웨이블릿 역변환 iWT-1을 행한다(도 39의 G).
도 5를 참조하여 설명한 바와 같이, 웨이블릿 역변환부(363)에 의한 웨이블릿 역변환 iWT-1은, 계수 C4 및 계수 C5가 버퍼부(361)에 저장된 시점에서 개시할 수 있다. 따라서, 엔트로피 복호부(362)에 의한 복호 iEC-1이 개시되고 나서 웨이 블릿 역변환부(363)에 의한 웨이블릿 역변환 iWT-1이 개시될 때까지의 지연은, 2라인분으로 된다.
웨이블릿 역변환부(363)에서, 1회째의 웨이블릿 변환에 의한 3라인분의 웨이블릿 역변환 iWT-1이 종료되면, 웨이블릿 역변환 iWT-1에서 생성된 화상 데이터의 출력 Out-1이 행하여진다(도 39의 H). 출력 Out-1에서는, 도 5 및 도 6을 이용하여 설명한 바와 같이, 제1 라인째의 화상 데이터가 출력된다.
복호부(133)에 대하여, 부호화부(121)에서의 1회째의 처리에 의한 3라인분의 부호화된 계수 데이터의 입력에 계속해서, 엔트로피 부호화 EC-n(n은 2 이상)에 의해 부호화된 계수 데이터가 순차적으로 입력된다. 복호부(133)에서는, 입력된 계수 데이터에 대하여, 상술한 바와 같이 하여, 4라인마다 엔트로피 복호 iEC-n 및 웨이블릿 역변환 iWT-n을 행하고, 웨이블릿 역변환 iWT-n에 의해 복원된 화상 데이터의 출력 Out-n을 순차적으로 행한다. 부호화부(121)의 최후의 회에 대응하는 엔트로피 복호 iEC 및 웨이블릿 역변환 iWT는, 6라인에 대해서 행하여지고, 출력 Out는, 8라인이 출력된다. 이들 처리는, 복호부(133)에서, 도 39의 F 내지 도 39의 H에 예시되는 바와 같이 병렬적으로 행하여진다.
상술한 바와 같이 하여, 화면 상부로부터 하부의 방향으로 순서대로, 부호화부(121) 및 복호부(133)에서의 각 처리를 병렬적으로 행함으로써, 화상 압축 처리 및 화상 복호 처리를 의해 저지연으로 행하는 것이 가능하게 된다.
도 39를 참조하여, 5×3 필터를 이용하여 분해 레벨=2까지 웨이블릿 변환을 행한 경우의 화상 입력으로부터 화상 출력까지의 지연 시간을 계산해 본다. 제1 라인째의 화상 데이터가 부호화부(121)에 입력되고 나서, 이 제1 라인째의 화상 데이터가 복호부(133)로부터 출력될 때까지의 지연 시간은, 하기의 각 요소의 총합으로 된다. 또한, 여기서는, 전송로에서의 지연이나, 장치 각 부의 실제의 처리 타이밍에 수반되는 지연 등의 시스템의 구성에 따라 상이한 지연은 제외하고 있다.
(1) 최초의 라인 입력으로부터 7라인분의 웨이블릿 변환 WT-1이 종료될 때까지의 지연 D_WT
(2) 3라인분의 계수 재배열 Ord-1에 수반되는 시간 D_Ord
(3) 3라인분의 엔트로피 부호화 EC-1에 수반되는 시간 D_EC
(4) 3라인분의 엔트로피 복호 iEC-1에 수반되는 시간 D_iEC
(5) 3라인분의 웨이블릿 역변환 iWT-1에 수반되는 시간 D_iWT
도 39를 참조하여, 상술한 각 요소에 의한 지연의 계산을 시도한다. (1)의 지연 D_WT는, 10라인분의 시간이다. (2)의 시간 D_Ord, (3)의 시간 D_EC, (4)의 시간 D_iEC, 및 (5)의 시간 D_iWT는 각각 3라인분의 시간이다. 또한, 부호화부(121)에서, 재배열 Ord-1이 개시되고 나서 1라인 후에는, 엔트로피 부호화 EC-1을 개시할 수 있다. 마찬가지로, 복호부(133)에서, 엔트로피 복호 iEC-1이 개시되고 나서 2라인 후에는, 웨이블릿 역변환 iWT-1을 개시할 수 있다. 또한, 엔트로피 복호 iEC-1은, 엔트로피 부호화 EC-1에서 1라인분의 부호화가 종료된 시점에서 처리를 개시할 수 있다.
따라서, 이 도 39의 예에서는, 부호화부(121)에 제1 라인째의 화상 데이터가 입력되고 나서, 복호부(133)로부터 그 제1 라인째의 화상 데이터가 출력될 때까지 의 지연 시간은, 10+1+1+2+3=17라인분으로 된다.
지연 시간에 대해서, 보다 구체적인 예를 들어 고찰한다. 입력되는 화상 데이터가 HDTV(High Definition Television)의 인터레이스 비디오 신호인 경우, 예를 들면 1920화소×1080라인의 해상도로 1프레임이 구성되고, 1필드는 1920화소×540라인으로 된다. 따라서, 프레임 주파수를 30㎐로 한 경우, 1필드의 540라인이 16.67㎳ec(=1sec/60필드)의 시간에, 부호화부(121)에 입력되게 된다.
따라서, 7라인분의 화상 데이터의 입력에 수반되는 지연 시간은, 0.216㎳ec(=16.67㎳ec×7/540라인)이며, 예를 들면 1필드의 갱신 시간에 대해서 매우 짧은 시간으로 된다. 또한, 상술한 (1)의 지연 D_WT, (2)의 시간 D_Ord, (3)의 시간 D_EC, (4)의 시간 D_iEC, 및 (5)의 시간 D_iWT의 총합에 대해서도, 처리 대상의 라인수가 적기 때문에, 지연 시간이 매우 단축된다. 각 처리를 행하는 요소를 하드웨어화하면, 처리 시간을 더욱 단축하는 것도 가능하다.
여기서, SFF 및 M의 플래그 정보에 대해서 설명한다.
상술한 바와 같이 전송 시스템(100)에서는, 지연 시간의 증대에 대한 허용도가 낮아, 조금이라도 효율적으로 데이터를 전송하고, 효율적으로 필요한 처리를 행하는 것이 요구된다.
종래에서도, 소정의 데이터 단위로 부호화나 복호를 행하는 시스템은 존재한다. 도 1의 전송 시스템(100)과 같이, 부호화 데이터를 패킷화하여 전송하는 경우, 그 데이터 단위의 부호화 데이터를 복수로 분할하여 각각을 패킷화하여 전송하는 것도 있다. 단, 종래의 시스템의 경우, 지연 시간에 대한 허용도는 크므로, 디 패킷타이즈 처리에서는, 그 데이터 단위분의 패킷을 축적하고, 데이터 단위마다 디패킷타이즈 처리가 행하여진다. 이와 같이 함으로써, 데이터 단위분 갖추어진 부호화 데이터만을 복호부에 공급하여 복호시킬 수 있다.
그러나, 이 방법에서는, 디패킷타이즈 처리부에서도 부호화부에서도 버퍼링할 필요가 생기므로, 지연 시간의 저감이 요구되는 전송 시스템(100)에서는 바람직하지 않다.
따라서, 디패킷타이즈 처리부(132)는, 상술한 바와 같이, 전송되는 부호화 데이터가 각 부에서 그 공급순으로 처리가 가능한 것을 이용하여, 수신한 패킷으로부터 페이로드 데이터를 순차적으로 추출하고, 축적하지 않고 복호부(133)에 공급한다. 복호부(133)는, 순차적으로 공급되는 부호화 데이터를 프리싱크트분 축적할 때마다 복호 처리를 개시한다. 이에 의해, 부호화 데이터의 버퍼링의 횟수를 저감시킬 수 있으므로, 전송 시스템(100)은, 지연 시간을 보다 단축시킬 수 있다.
SFF 및 M은, 프리싱크트의 선두 또는 종단을 나타내는 플래그 정보이고, 디패킷타이즈 처리부(132)는, 이 플래그 정보에 기초하여 프리싱크트의 선두나 종단을 검출할 수 있고, 그 취지를 복호부(133)에 통지할 수 있다. 복호부(133)는, 그 디패킷타이즈 처리부(132)로부터의 통지에 기초하여, 프리싱크트의 단락을 파악하고, 복호 처리를 프리싱크트 단위로 개시할 수 있다.
이것만이면 프리싱크트의 종단을 나타내는 M만으로도 충분하다. 만일, 프리싱크트를 복수로 분할한 패킷과 분할하지 않은 패킷이 혼재하는 것이면, 분할한 것을 나타내는 플래그 정보가 있으면, 그들 패킷의 식별은 가능하다.
그러나, 실제로는 수신부(131)가 패킷의 수신에 실패한(로스한) 것도 생각할 수 있다. 이와 같이 패킷 로스가 발생한 경우, 디패킷타이즈 처리부(132)는, 패킷의 버퍼링을 행하지 않기 때문에, 통상 시로 처리를 변경할 필요가 있다. 예를 들면, 패킷 로스가 발생하면, 전송 시스템(100)의 경우, 그 패킷을 송신 장치(102)에 재송시키는 시간을 확보할 수 없으므로, 그 프리싱크트의 부호화 데이터는 갖추어지지 않게 된다. 즉, 패킷 로스의 발생에 의해 복호부(133)는, 그 프리싱크트에 대한 복호 처리를 실행할 수 없게 된다.
따라서, 예를 들면 프리싱크트의 도중의 패킷에서 로스가 발생한 경우, 복호부(133)에는, 그 프리싱크트의 그때까지의 부호화 데이터가 축적되어 있는 것도 생각할 수 있다. 이와 같은 경우, 디패킷타이즈 처리부(132)는, 복호부(133)에 패킷 로스의 발생을 통지하고, 그 축적하고 있는, 로스된 패킷의 부호화 데이터와 동일한 프리싱크트의 부호화 데이터를 파기시킨다. 이에 의해, 복호부(133)는, 그 프리싱크트에 대해서 불필요한 복호 처리(실패하는 복호 처리)의 실행을 회피할 수 있어, 부하를 경감시킬 수 있다.
또한, 한번 패킷 로스가 발생하면, 그 프리싱크트의 그것 이후의 부호화 데이터는 불필요하게 된다. 따라서, 디패킷타이즈 처리부(132)는, 다음 이후의 프리싱크트로 될 때까지 패킷을 취득해도, 부호화 데이터를 복호부(133)에 공급하지 않는다. 그리고 새로운 프리싱크트의 패킷을 취득하면, 디패킷타이즈 처리부(132)는, 부호화 데이터의 공급을 재개한다.
이와 같이 디패킷타이즈 처리부(132)는, 그 상황에 따라서, 제어 모드를 변 경하여, 적당히 적절한 처리를 행한다. 그 때문에, 디패킷타이즈 처리부(132)는, SFF나 M을 참조하여, 프리싱크트의 선두나 종단을 검출한다. 이 때, 종단을 나타내는 M밖에 없으면, 프리싱크트의 종단을 검출할 때까지, 디패킷타이즈 처리부(132)는, 프리싱크트가 변하였다고 판정할 수 없게 된다. 예를 들면, 프리싱크트의 최종 패킷을 로스한 경우, 디패킷타이즈 처리부(132)는, 다시 다음의 새로운 프리싱크트를 대기해야만 하게 되어, 지연 시간이 증대되게 될 뿐만 아니라, 복호부(133)에서 복호 처리를 행할 수 없어, 복원된 화상의 화질이 열화될 우려가 있다.
이에 대하여, SFF의 값을 참조하여, 선두 패킷을 검출함으로써, 디패킷타이즈 처리부(132)는, 복호부(133)에의 데이터를 재개시키는 등, 불필요한 대기 시간을 저감시킬 뿐만 아니라, 예를 들면, 복호부(133)에 부호화 데이터뿐만 아니라 헤더 정보도 공급하거나, 패킷 로스의 발생을 복호부(133)에 통지하는 에러 통지를 생략하거나, 패킷 로스가 발생해도 복호부(133)에의 부호화 데이터의 공급을 계속시키거나 하는 등, 선두 패킷에 대해서만 예외적인 처리를 행할 수도 있다.
이와 같이 SFF 및 M의 플래그 정보에 의해 디패킷타이즈 처리부(132)는 적절하게 처리를 행할 수 있어, 지연 시간을 보다 단축시킬 수 있다.
또한, 디패킷타이즈 처리부(132)는, 이 SFF나 M에 기초하여, 공급하는 부호화 데이터가 프리싱크트의 선두인 것이나 종단인 것을 복호부(133)에 통지하거나 한다. 이에 의해, 복호부(133)는, 프리싱크트의 선두와 종단을 용이하게 파악할 수 있으므로, 예를 들면, 프리싱크트의 종단이 공급된 것이라면, 복호 처리를 개시 할 수 있고, 연속하고 있지 않은 새로운 프리싱크트의 선두가 공급된 것이면, 그 전의 로스한 프리싱크트에 대해서 보완 처리를 행할 수 있다. 즉, 복호부(133)는, 디패킷타이즈 처리부(132)로부터의 통지에 기초하여, 이와 같은 제어를 용이하게 또한 고속으로 행할 수 있다.
이상과 같이, SFF나 M은, 간단히 디패킷타이즈 처리나 복호 처리의 개시 타이밍을 통지하기 위한 플래그 정보가 아니라, 디패킷타이즈 처리부(132) 및 복호부(133)에, 부호화 데이터를 복호하여 출력할 때까지의 지연 시간을 보다 단축시키도록, 적절한 타이밍에서 적절한 처리를 선택시켜 실행시키도록 하기 위한 플래그 정보이다.
그런데, 도 2에서는, 계수의 재배열을 웨이블릿 변환의 직후(엔트로피 부호화 전)에 행하도록 설명하였지만, 부호화 데이터가 저역으로부터 고역의 순으로 복호부(133)의 웨이블릿 역변환부(363)에 공급되면 되고(즉, 저역의 서브밴드에 속하는 계수 데이터를 부호화하여 얻어지는 부호화 데이터로부터, 고역의 서브밴드에 속하는 계수 데이터를 부호화하여 얻어지는 부호화 데이터의 순으로 공급되면 되고), 재배열의 타이밍은, 웨이블릿 변환의 직후 이외이어도 된다.
예를 들면, 엔트로피 부호화에 의해 얻어지는 부호화 데이터의 순서를 재배열하도록 해도 된다. 도 40은, 그 경우의 부호화부의 구성예를 도시하는 블록도이다.
도 40의 경우, 부호화부(500)는, 도 2의 부호화부(121)의 경우와 마찬가지로, 웨이블릿 변환부(150), 도중 계산용 버퍼부(151), 엔트로피 부호화부(155), 및 레이트 제어부(154)를 갖지만, 도 2의 계수 재배열용 버퍼부(152) 및 계수 재배열부(153) 대신에, 부호 재배열용 버퍼부(501) 및 부호 재배열부(502)를 갖는다.
부호 재배열용 버퍼부(501)는, 엔트로피 부호화부(155)에서 부호화된 부호화 데이터의 출력순을 재배열하기 위한 버퍼이고, 부호 재배열부(502)는, 그 부호 재배열용 버퍼부(501)에 축적되는 부호화 데이터를 소정의 순서로 읽어냄으로써, 부호화 데이터의 출력순의 재배열을 행한다.
즉, 도 40의 경우, 웨이블릿 변환부(150)로부터 출력되는 웨이블릿 계수는, 엔트로피 부호화부(155)에 공급되어 부호화된다. 그 부호화에 의해 얻어진 각 부호화 데이터가, 순차적으로 부호 재배열용 버퍼부(501)에 공급되어, 재배열을 위해 일시적으로 축적된다.
부호 재배열부(502)는, 부호 재배열용 버퍼부(501)에 기입된 부호화 데이터를, 원하는 순서로 읽어내고, 부호화부(500)의 외부에 출력한다.
도 40의 예의 경우, 엔트로피 부호화부(155)는, 웨이블릿 변환부(150)에 의한 출력순으로, 각 계수 데이터의 부호화를 행하고, 얻어진 부호화 데이터를 부호 재배열용 버퍼부(501)에 기입한다. 즉, 부호 재배열용 버퍼부(501)에는, 부호화 데이터가, 웨이블릿 변환부(150)에 의한 웨이블릿 계수의 출력순에 대응하는 순서로 저장된다. 통상의 경우, 1개의 프리싱크트에 속하는 계수 데이터끼리를 비교하면, 웨이블릿 변환부(150)는, 보다 고역의 서브밴드에 속하는 계수 데이터일수록 먼저 출력하고, 보다 저역의 서브밴드에 속하는 계수 데이터일수록 나중에 출력한다. 즉, 부호 재배열용 버퍼부(501)에는, 각 부호화 데이터가, 고역의 서브밴드에 속하는 계수 데이터를 엔트로피 부호화하여 얻어진 부호화 데이터로부터, 저역의 서브밴드에 속하는 계수 데이터를 엔트로피 부호화하여 얻어진 부호화 데이터를 향하는 순으로 기억된다.
이에 대하여, 부호 재배열부(502)는, 이 순서와는 독립적으로, 임의의 순서로 그 부호 재배열용 버퍼부(501)에 축적된 각 부호화 데이터를 읽어냄으로써, 부호 데이터의 재배열을 행한다.
예를 들면, 부호 재배열부(502)는, 저역의 서브밴드에 속하는 계수 데이터를 부호화하여 얻어진 부호화 데이터일수록 우선적으로 읽어내고, 마지막으로, 가장 고역의 서브밴드에 속하는 계수 데이터를 부호화하여 얻어진 부호화 데이터를 읽어낸다. 이와 같이, 부호화 데이터를 저역으로부터 고역을 향하여 읽어냄으로써, 부호 재배열부(502)는, 복호부(133)가, 취득한 순으로 각 부호화 데이터를 복호할 수 있도록 하고, 복호부(133)에 의한 복호 처리에서 생기는 지연 시간을 저감시키도록 할 수 있다.
부호 재배열부(502)는, 부호 재배열용 버퍼부(501)에 축적되어 있는 부호화 데이터를 읽어내고, 그것을 부호화부(500)의 외부에 출력한다.
또한, 도 40에 도시되는 부호화부(500)에서 부호화되어 출력된 데이터는, 도 24를 이용하여 이미 설명한 복호부(133)에 의해, 도 2의 부호화부(121)로부터 출력되는 부호화 데이터의 경우와 마찬가지로 복호할 수 있다.
또한, 재배열의 처리를 행하는 타이밍은, 상술한 것 이외이어도 된다. 예를 들면, 도 41에서 일례가 도시되는 바와 같이, 부호화부에서 행하도록 해도 되고, 도 42에서 일례가 도시되는 바와 같이, 복호부에서 행하도록 해도 된다.
웨이블릿 변환에서 생성된 계수 데이터를 재배열하는 처리에서는, 계수 재배열용 버퍼의 기억 용량으로서 비교적 대용량이 필요로 됨과 함께, 계수 재배열의 처리 자체에도, 높은 처리 능력이 요구된다. 이 경우라도, 부호화 장치의 처리 능력이 어느 정도 이상 높은 경우에는 전혀 문제가 발생하지 않는다.
여기서, 휴대 전화 단말기나 PDA(Personal Digital Assistant)와 같은 소위 모바일 단말기 등의 비교적 처리 능력이 낮은 기기에 부호화 장치가 탑재되는 경우에 대해서 생각한다. 예를 들면, 최근에는, 휴대 전화 단말기에 대해서 촬상 기능을 부가한 제품이 널리 보급되어 있다(카메라 기능을 가진 휴대 전화 단말기라고 부름). 이와 같은 카메라 기능을 가진 휴대 전화 단말기로 촬상된 화상 데이터를 웨이블릿 변환 및 엔트로피 부호화에 의해 압축 부호화하고, 무선 혹은 유선 통신을 통해서 전송하는 것이 생각된다.
이와 같은 예를 들면 모바일 단말기는, CPU(Central Processing Unit)의 처리 능력도 한정되며, 또한, 메모리 용량에도 어느 정도의 상한이 있다. 그 때문에, 상술한 바와 같은 계수 재배열에 수반되는 처리의 부하 등은, 무시할 수 없는 문제로 된다.
따라서, 도 42에 일례가 도시되는 바와 같이, 재배열 처리를 복호부에 편입시킴으로써, 부호화부의 부하가 가벼워져, 부호화부를 모바일 단말기 등의 비교적 처리 능력이 낮은 기기에 탑재하는 것이 가능하게 된다.
도 43은, 그 경우의 부호화부의 일례의 구성을 도시하는 블록도이다. 또한, 이 도 43에서, 상술한 도 2와 공통되는 부분에는 동일한 부호를 붙이고, 상세한 설명을 생략한다.
이 도 43에 도시되는 부호화부(510)의 구성은, 상술한 도 2에서 도시한 부호화부(121)의 구성에 대해서 계수 재배열부(153) 및 계수 재배열용 버퍼부(152)를 제거한 구성으로 되어 있다. 즉, 부호화부(510)는, 부호화부(121)와 마찬가지의 웨이블릿 변환부(150), 도중 계산용 버퍼부(151), 레이트 제어부(154), 및 엔트로피 부호화부(155)를 갖고 있다.
입력된 화상 데이터는, 도중 계산용 버퍼부(151)에 일시적으로 저장된다. 웨이블릿 변환부(150)는, 도중 계산용 버퍼부(151)에 저장된 화상 데이터에 대해서 웨이블릿 변환을 실시하고, 생성된 계수 데이터를, 계수 데이터의 생성순으로 순차적으로 엔트로피 부호화부(155)에 공급한다. 즉, 엔트로피 부호화부(155)에 대하여, 웨이블릿 변환의 순서에 따라 고역 성분으로부터 저역 성분의 순으로, 생성된 계수 데이터가 공급된다. 엔트로피 부호화부(155)는, 공급된 계수에 대하여, 레이트 제어부(154)에 의해 출력 데이터의 비트 레이트를 제어받으면서 엔트로피 부호화를 실시한다. 엔트로피 부호화부(155)로부터, 웨이블릿 변환에 의해 생성된 계수 데이터가 엔트로피 부호화된 부호화 데이터가 출력된다.
도 44는, 이 부호화부(510)에 대응하는 복호 장치의 일례의 구성을 도시하는 블록도이다. 또한, 이 도 44에서, 상술한 도 24와 공통되는 부분에는 동일한 부호를 붙이고, 상세한 설명을 생략한다.
도 44에 도시되는 바와 같이, 이 경우의 복호부(520)는, 도 24의 복호 부(133)와 마찬가지로, 제어 정보 취득부(351), 복호 제어부(352), 복호 처리 실행부(353), 헤더 취득부(354), 데이터 취득부(355), 에러 통지 취득부(356), 및 파기 처리부(357)를 갖지만, 복호 처리 실행부(353)는, 또한 계수 재배열용 버퍼부(521)를 갖는다.
도 43에서 설명한 부호화부(510)의 엔트로피 부호화부(155)로부터 출력된 부호화 데이터는, 도 44의 복호부(520)에서 버퍼부(361)를 통해서 엔트로피 복호부(362)에 공급되어, 엔트로피 부호가 복호되어 계수 데이터로 된다. 이 계수 데이터는, 버퍼부(361)를 통해서 계수 재배열용 버퍼부(521)에 저장된다. 웨이블릿 역변환부(363)는, 계수 재배열용 버퍼부(521)에 계수 데이터의 재배열이 가능하게 될 때까지 계수 데이터가 축적되면, 계수 재배열용 버퍼부(521)에 저장된 계수 데이터를, 저역 성분으로부터 고역 성분의 순으로 재배열하여 읽어내고, 읽어내어진 순으로 계수 데이터를 이용하여 웨이블릿 역변환 처리를 행한다. 5×3 필터를 이용하는 경우에는, 상술한 도 42에서 도시한 바와 같이 된다.
즉, 웨이블릿 역변환부(363)는, 예를 들면 1프레임의 선두로부터의 처리이면, 계수 재배열용 버퍼부(521)에 엔트로피 부호의 복호가 이루어진 계수 C1, 계수 C4, 및 계수 C5가 저장된 시점에서, 계수 재배열용 버퍼부(521)로부터 계수 데이터를 읽어내어, 웨이블릿 역변환 처리를 행한다. 웨이블릿 역변환부(363)에서 웨이블릿 역변환이 실시된 데이터는, 순차적으로 출력 화상 데이터로서 출력된다.
또한, 이 경우라도, 도 39를 이용하여 이미 설명한 바와 같이, 부호화부(510)에서의 각 요소의 처리와, 전송로에 대한 부호화 데이터의 전송과, 복호 부(520)에서의 각 요소의 처리가 병렬적으로 실행된다.
이상과 같이, 본 발명은, 다양한 형태로 적용할 수 있어, 용이하게 다양한 용도에 응용할 수 있는(즉 범용성이 높은) 것도 큰 효과이다.
그런데, 상술한 바와 같이, 영상이나 음성의 데이터를 전송하는 디지털 비디오 통신에서, 통신 과정에서 전송 오류가 발생하여, 재생 품질에 영향을 주는 경우가 종종 발생한다.
이들 전송 오류에 의한 영향은, 어떠한 방법으로 경감시키는 것이 바람직하지만, 그 방법으로서, 예를 들면, 잘못된 데이터 그 자체의 복원을 시도하는 방법(데이터를 수복하는 방법)이 있다. 그러나, 이 방법의 경우, 수복이 성공하면 완전한 화상을 재현할 수 있지만, 데이터를 복원하기 위한 시간이 필요로 되거나, 에러 수복을 위해 실효 레이트가 떨어지거나 하는 등, 지연 시간이 증대될 우려가 있다.
이에 대하여, 잘못된 데이터는 그대로 두고, 직전의 에러가 없는 화상을 그대로 표시하거나, 전후의 화상으로부터 에러 부분을 추정하거나 하여 디코드 후의 에러를 되도록이면 눈에 띄지 않게 하는 방법(에러를 은폐하는 방법)이 있다.
이 에러를 은폐하는 방법의 경우, 완전한 화상을 재생할 수는 없지만, 에러가 발생한 데이터를, 전후의 프레임 등의 다른 데이터로 치환하는 것뿐이므로, 데이터 수복의 시간을 대기할 필요가 없다. 그 때문에, 보다 저지연으로 처리할수 있다. 그러나, 이와 같은 데이터의 치환은, 픽쳐(프레임 또는 필드) 단위나, 그것보다도 거친 입도로 행할 필요가 있다.
예를 들면, 픽쳐(프레임 또는 필드)의 일부분에서 발생한 에러에 대하여, 그 부분만을 전후의 픽쳐로 치환하면, 그 부분의 그림이 다른 부분의 그림과 일치하지 않게 되어, 픽쳐 전체에서 화상이 성립하지 않게 될 우려가 있으므로, 픽쳐 전체를(또는 복수의 픽쳐에 걸쳐) 치환할 필요가 있다. 그 때문에, 이와 같은 데이터의 치환을 위해, 1픽쳐분 이상의 지연이 필요하게 되어, 데이터 전송의 한층 더한 저지연화를 실현하는 것이 곤란하게 된다.
따라서, 지연 시간의 증대를 억제하면서, 전송 오류에 의한 영향을 경감시키는 방법을 이하에 설명한다.
도 45는, 본 발명을 적용한 전송 시스템의 다른 구성예를 도시하는 도면이다.
도 45에 도시되는 전송 시스템(600)은, 도 1에 도시되는 전송 시스템(100)과 기본적으로 마찬가지의 시스템으로서, 촬상 장치(101)가 생성한 화상 데이터를 송신 장치(602)가 압축 부호화하고, 패킷화하여 송신하고, 회선(110)을 통해서 전송되는 그 패킷을, 수신 장치(603)가 수신하여 디패킷타이즈하여 복호하고, 표시 장치(104)가 얻어진 화상 데이터의 화상을 표시하는 데이터 전송 시스템이다.
송신 장치(602) 및 수신 장치(603)의 보다 상세한 구성예를 도 46에 도시한다.
도 46에 도시되는 바와 같이, 송신 장치(602)는, 부호화부(121), 패킷타이즈 처리부(122), 및 송신부(123) 이외에, 해석부(621), 기억부(622), 및 은폐용 헤더 생성부(623)를 갖는다.
해석부(621)는, 입력되는 화상 데이터에 대하여, 에러 은폐를 위한 해석을 행한다. 또한, 에러 은폐란, 데이터 전송 시에 발생하는 전송 오류를 은폐하는 것이다. 기억부(622)는, 예를 들면 하드디스크나 반도체 메모리 등의 기억 매체를 갖고, 입력되는 화상 데이터를 1픽쳐분 이상 필요한 정도 유지한다. 해석부(621)는, 입력된 화상 데이터와, 기억부(622)로부터 읽어낸 1개 전의 픽쳐의 화상 데이터를 비교한다. 또한, 해석부(621)는, 어떠한 데이터 단위로 해석을 행하는 것도 가능하지만, 여기서는 지연 저감을 위해, 프리싱크트(라인 블록) 단위로 처리를 행하는 것으로 한다. 즉, 해석부(621)는, 연속하는 2개의 픽쳐(프레임 또는 필드)간에서, 서로 동일한 위치의 프리싱크트의 화상을 비교한다. 해석부(621)는, 그 비교 결과를 해석 결과로서 은폐용 헤더 생성부(623)에 공급한다.
은폐용 헤더 생성부(623)는, 그 해석 결과에 기초하여, 프리싱크트의 에러의 은폐 방법을 나타내는 은폐 정보인 은폐용 헤더를 생성한다. 보다 구체적으로 설명하면, 은폐용 헤더 생성부(623)는, 수신 장치(603)에 의한 에러 은폐 처리 시에, 에러가 발생한 프리싱크트를 치환 가능한 프리싱크트를 나타내는 정보(어느 픽쳐의 어느 프리싱크트의 데이터이면 치환 가능한지를 나타내는 정보)를 포함하는 헤더 정보(은폐용 헤더)를 생성하고, 그것을 패킷타이즈 처리부(122)에 공급한다.
패킷타이즈 처리부(122)는, 부호화부(121)로부터 공급되는 부호화 데이터와 은폐용 헤더 생성부(623)로부터 공급되는 은폐용 헤더로부터 전송용의 패킷을 작성한다(패킷화한다). 즉, 패킷타이즈 처리부(122)는, 부호화 데이터에 은폐용 헤더를 부가(다중화)해서 패킷화한다. 이와 같이 생성된 패킷은, 송신부(123)에 의해 수신 장치(603)에 송신된다.
또한, 도 46에 도시되는 바와 같이, 수신 장치(603)는, 수신부(131), 디패킷타이즈 처리부(132), 및 복호부(133) 이외에, 로스 해석부(631) 및 기억부(632)를 갖는다.
송신 장치(602)로부터 송신된 패킷은, 수신부(131)에 의해 수신되고, 디패킷타이즈 처리부(132)에 의해 디패킷타이즈되어 부호화 데이터가 추출된다. 추출된 부호화 데이터는, 로스 해석부(631)에 공급된다. 또한, 이 때, 디패킷타이즈 처리부(132)는, 부호화 데이터와 함께, 은폐용 헤더도 추출하여, 로스 해석부(631)에 공급한다.
로스 해석부(631)는, 은폐용 헤더에 기초하여, 기억부(632)에 기억되어 있는 부호화 데이터를 적당히 이용하면서, 전송 오류의 발생에 대해서 에러 은폐를 행한다. 또한, 로스 해석부(631)는, 어떠한 데이터 단위로 해석을 행하는 것도 가능하지만, 여기서는 지연 저감을 위해, 프리싱크트 단위로 처리를 행하는 것으로 한다.
기억부(632)는, 예를 들면, 하드디스크나 반도체 메모리 등의 기억 매체를 갖고, 과거에 전송된 부호화 데이터(과거의 부호화 데이터)를 필요한 만큼 유지하고 있다. 로스 해석부(631)는, 은폐용 헤더를 참조하여, 데이터의 치환에 사용 가능한 과거의 부호화 데이터(즉, 어느 픽쳐의 어느 프리싱크트의 데이터를 이용하여 치환할지)를 특정한다. 그리고, 로스 해석부(631)는, 그 특정한 부호화 데이터를 기억부(632)로부터 읽어내고, 전송 오류가 발생한 프리싱크트를 그 데이터로 치환한다.
복호부(133)는, 로스 해석부(631)로부터 공급되는 에러 은폐 처리 후의 부호화 데이터를 복호하고, 베이스 밴드의 화상 데이터를 출력한다.
다음으로, 은폐용 헤더에 대해서 설명한다. 도 47은, 은폐용 헤더의 구성예를 설명하는 도면이다. 도 47에 도시되는 바와 같이, 은폐용 헤더(640)는, 32비트의 정보로, 픽쳐 ID(641), 프리싱크트 ID(642), 치환 선두 픽쳐 ID(643), RF(Replacement Flag)(644), SF(Slide Flag)(645), 및 치환 선두 프리싱크트 ID(646)를 포함한다.
픽쳐 ID(641)는, 동화상 데이터 전체에서 현재의(처리 대상의) 픽쳐를 식별하는 8비트의 식별 정보이다. 프리싱크트 ID(642)는, 픽쳐 내에서 현재의(처리 대상의) 프리싱크트를 식별하는 8비트의 식별 정보이다. 치환 선두 픽쳐 ID(643)는, 각각이 현재의(처리 대상의) 프리싱크트를 치환 가능한 프리싱크트를 갖고, 현재의(처리 대상의) 픽쳐까지 시간 방향으로 연속하는 픽쳐군의 선두의 픽쳐를 나타내는 8비트의 식별 정보이다. 즉, 치환 선두 픽쳐 ID(643)는, 현재의(처리 대상의) 프리싱크트를, 어느 픽쳐까지 거슬러 올라가서 치환 가능한지를 나타내는 정보이다. 이 치환 선두 픽쳐 ID(643)에는, 동화상 데이터 전체에서 픽쳐를 식별하는 식별 정보(픽쳐 ID(641)와 동종의 ID)가 세트된다.
RF(644)는, 1비트의 플래그 정보로, 현재의(처리 대상의) 프리싱크트를, 치환 선두 픽쳐 ID(643)보다 나중의 픽쳐의 데이터로 치환 가능한지의 여부를 나타낸다. 당연히, 치환 선두 픽쳐 ID(643)를 참조함으로써, 과거의 픽쳐를 이용하여 치환 가능한지의 여부를 판정하는 것도 가능하지만, RF(644)를 이용하는 쪽이 판정이 용이하게 된다.
SF(645)는, 1비트의 플래그 정보로, 현재의(처리 대상의) 프리싱크트를, 동일 픽쳐의 과거의 프리싱크트의 데이터로 치환이 가능한지를 나타내는 비트이다. 치환 선두 프리싱크트 ID(646)는, 현재의(처리 대상의) 픽쳐 내에서, 현재의(처리 대상의) 프리싱크트까지 공간 방향으로 연속하는, 현재의(처리 대상의) 프리싱크트를 치환 가능한 프리싱크트군의 선두의 프리싱크트를 나타내는 6비트의 식별 정보이다. 즉, 치환 선두 프리싱크트 ID(646)는, 현재의(처리 대상의) 프리싱크트를, 어느 프리싱크트까지 거슬러 올라가서 치환 가능한지를 나타내는 정보이다.
이 치환 선두 프리싱크트 ID(646)에는, 픽쳐 내에서 현재의(처리 대상의) 프리싱크트를 식별하는 식별 정보(프리싱크트 ID(642)와 동종의 ID)가 6비트로 압축되어 세트된다.
또한, 이 은폐용 헤더(640)의 비트 길이는 임의이다. 따라서, 치환 선두 프리싱크트 ID(646)의 비트 길이를 프리싱크트 ID(642)와 동일한 비트 길이로 해도 된다. 또한, 상술한 각 정보의 비트 길이도 임의이다.
이상과 같이, 은폐용 헤더(640)에는, 현재의(처리 대상의) 프리싱크트를 치환 가능한 데이터의 범위를 나타내는 정보가 포함된다. 로스 해석부(631)는, 이 정보에 기초하여, 그 범위를 파악하고, 기억부(632)에 유지되어 있는, 그 범위에 포함되는 부호화 데이터를 이용하여 데이터의 치환을 행한다.
도 48을 참조하여, 은폐용 헤더(640)의 각 정보에 대해서 보다 구체적으로 설명한다. 도 48은, 송신 장치(602)로부터 수신 장치(603)에 전송되는 화상 데이 터의 모습의 예를 도시하는 도면이다.
도 48에 도시되는 픽쳐(651) 내지 픽쳐(653)는, 송신 장치(602)로부터 수신 장치(603)에 전송되는 화상 데이터의 일부의 픽쳐를 모식적으로 도시한 것이다. 픽쳐(651) 내지 픽쳐(653)는, 이 순서로 시간 방향으로 연속되는 3픽쳐이다. 즉, 이 3픽쳐 중에서, 픽쳐(651)가 가장 시간적으로 앞인(오래된) 픽쳐이고, 픽쳐(653)가 시간적으로 가장 뒤인(새로운) 픽쳐이다.
여기서는, 설명의 간략화를 위해, 픽쳐(651) 내지 픽쳐(653)의 각각이, 3개의 프리싱크트로 구성되는 것으로 한다. 즉, 픽쳐(651)는, 프리싱크트(651-1) 내지 프리싱크트(651-3)에 의해 구성되고, 픽쳐(652)는, 프리싱크트(652-1) 내지 프리싱크트(652-3)에 의해 구성되며, 픽쳐(653)는, 프리싱크트(653-1) 내지 프리싱크트(653-3)에 의해 구성되는 것으로 한다.
또한, 이들 프리싱크트의 데이터는, 도 48의 상측으로부터 하측을 향하는 순으로 전송되는 것으로 한다. 즉, 도 48에 도시되는 프리싱크트 중에서, 픽쳐(651)의 프리싱크트(651-1)가 최초로 전송되고, 픽쳐(653)의 프리싱크트(653-3)가 마지막으로 전송된다.
또한, 여기서, 프리싱크트(653-3)가 현재의(처리 대상의) 프리싱크트인 것으로 하고, 이 프리싱크트(653-3)에서 전송 오류가 발생한 것으로 한다.
이 때 프리싱크트(653-3)의 (모두 또는 일부의) 패킷에 부가된 은폐용 헤더(640)의 RF(644) 및 SF(645)의 값이 오프(예를 들면 「0」)이면, 프리싱크트(653-3)를 치환 가능한 프리싱크트가 존재하지 않는다.
또한, RF(644)의 값이 오프이고 SF(645)의 값이 온(예를 들면 「1」)일 때, 픽쳐(653) 내에서 치환 가능한 프리싱크트가 존재한다. 예를 들면, 치환 선두 프리싱크트 ID(646)가 프리싱크트(653-2)를 나타내는 값이면, 프리싱크트(653-3)는, 프리싱크트(653-2)에 의해 치환할 수 있다. 또한, 예를 들면, 치환 선두 프리싱크트 ID(646)가 프리싱크트(653-1)를 나타내는 값이면, 프리싱크트(653-3)는, 프리싱크트(653-1) 및 프리싱크트(653-2) 중 어느 쪽이라도 치환 가능하다.
실제로는, 프리싱크트는 수라인 정도의 화소로 구성되는 경우가 많고, 일반적인 화상의 경우, 인접하는 프리싱크트의 유사성이 높아, 그 차분이 작아지는 경우가 많다. 즉, 동일 픽쳐 내의 가까운 프리싱크트일수록, 치환할 수 있을 가능성이 높다. 따라서 은폐용 헤더(640)에서는, 치환 선두 프리싱크트 ID(646)에 의해, 치환 가능한 프리싱크트 중, 현재의(처리 대상의) 프리싱크트로부터 가장 먼(시간적으로 가장 빠른) 프리싱크트가 표시된다. 바꾸어 말하면, 치환 선두 프리싱크트 ID(646)에 의해 표시되는 프리싱크트보다도 후의(현재의 프리싱크트까지의 사이의) 프리싱크트는, 치환 가능한 것이 보증되어 있다.
또한, RF(644)의 값이 온이면, 다른 픽쳐에 치환 가능한 프리싱크트가 존재한다. 예를 들면, 치환 선두 픽쳐 ID(643)가 픽쳐(652)를 나타내는 값이면, 프리싱크트(653-3)는, 픽쳐(652)의 동일한 위치의 프리싱크트(652-3)에 의해 치환할 수 있다. 또한, 예를 들면, 치환 선두 픽쳐 ID(643)가 픽쳐(651)를 나타내는 값이면, 프리싱크트(653-3)는, 픽쳐(651)의 동일한 위치의 프리싱크트(651-3) 및 픽쳐(652)의 동일한 위치의 프리싱크트(652-3) 중 어느 쪽이라도 치환 가능하다.
통상의 동화상의 경우, 씬 체인지 등의 특이점을 제외하고, 기본적으로 연속하는 픽쳐의 그림은 근사하며, 그 차분은 작다. 즉, 일반적인 화상의 경우, 시간적으로 가까운 픽쳐일수록, 치환 가능한 프리싱크트를 가질 가능성이 높다. 따라서 은폐용 헤더(640)에서는, 치환 선두 픽쳐 ID(643)에 의해, 치환 가능한 프리싱크트를 갖는 픽쳐 중, 현재의(처리 대상의) 픽쳐로부터 가장 먼(시간적으로 가장 빠른) 픽쳐가 표시된다. 바꾸어 말하면, 치환 선두 픽쳐 ID(643)에 의해 표시되는 픽쳐보다도 후의(현재의 픽쳐까지의 사이의) 픽쳐는, 치환 가능한 프리싱크트를 갖는 것이 보증되어 있다.
단, 실제로는, 기억부(632)가 그 데이터를 유지하고 있지 않으면, 로스 해석부(631)는 프리싱크트를 치환할 수 없다. 예를 들면, 치환 선두 픽쳐 ID(643)가 픽쳐(651)를 나타내는 값이며, 또한, 기억부(632)가 픽쳐(652)의 데이터를 유지하고 있으면, 로스 해석부(631)는, 프리싱크트(653-3)를, 프리싱크트(652-3)로 치환할 수 있다.
이상과 같이, 은폐용 헤더(640)에 의해, 치환 가능한 데이터가 존재하는 위치(범위)가 표시된다. 즉, 이 은폐용 헤더(640)를 생성하는 송신 장치(602)가, 이 범위를 지정한다. 보다 구체적으로는, 해석부(621)는, 금회 입력된 프리싱크트의 데이터와, 기억부(622)에 유지되어 있는 1개 전의 프리싱크트의 데이터의 차분값을 산출한다. 또한, 해석부(621)는, 금회 입력된 프리싱크트의 데이터와, 기억부(622)에 유지되어 있는 1개 전의 픽쳐의 동일한 위치의 프리싱크트의 데이터의 차분값을 산출한다. 해석부(621)는, 이들 연산 결과에 기초하여, 금회 입력된 프 리싱크트의 데이터와, 동일 픽쳐의 1개 전의 프리싱크트, 또는, 1개 전의 동일 위치의 프리싱크트와의 유사성을 판정하고, 치환 가능한지의 여부를 판정한다.
은폐용 헤더 생성부(623)는, 이 판정 결과에 따라, 치환 불가능한 경우, 치환 선두 픽쳐 ID(643)나 치환 선두 프리싱크트 ID(646)의 정보를 적당히 갱신한다.
다음으로 이들 처리의 흐름에 대해서 설명한다. 처음에, 도 49의 플로우차트를 참조하여, 송신 장치(602)의 해석부(621)에 의해 실행되는 해석 처리의 흐름의 예를 설명한다.
해석 처리가 개시되면, 해석부(621)는, 스텝 S601에서, 현재의(처리 대상의) 프리싱크트와, 기억부(622)로부터 읽어낸 전 픽쳐의 동일한 프리싱크트(1개 전의 픽쳐의 동일한 위치의 프리싱크트)의 차분 계산을 행하고, 스텝 S602에서, 그 차분이 미리 정해진 소정의 임계값 이하인지의 여부를 판정한다. 차분이 임계값 이하라고 판정한 경우, 해석부(621)는, 스텝 S603으로 처리를 진행시켜, 해석 결과로서 「전 픽쳐 치환 가능」을 설정하고, 스텝 S605로 처리를 진행시킨다. 또한, 스텝 S602에서, 차분이 임계값보다 크다고 판정한 경우, 해석부(621)는, 스텝 S604로 처리를 진행시켜, 해석 결과로서 「전 픽쳐 치환 불가」를 설정하고, 스텝 S605로 처리를 진행시킨다.
해석부(621)는, 스텝 S605에서, 현재의(처리 대상의) 프리싱크트와, 기억부(622)로부터 읽어낸 전 프리싱크트(1개 전의 프리싱크트)의 차분 계산을 행하고, 스텝 S606에서, 그 차분이 미리 정해진 소정의 임계값 이하인지의 여부를 판정한다. 차분이 임계값 이하라고 판정한 경우, 해석부(621)는, 스텝 S607로 처리를 진 행시켜, 해석 결과로서 「전 프리싱크트 치환 가능」을 설정하고, 해석 처리를 종료한다. 또한, 스텝 S606에서, 차분이 임계값보다 크다고 판정한 경우, 해석부(621)는, 스텝 S608로 처리를 진행시켜, 해석 결과로서 「전 프리싱크트 치환 불가」를 설정하고, 해석 처리를 종료한다.
이상과 같이, 각 처리를 실행함으로써, 해석부(621)는, 프레임간의 화상의 유사성을 판정할 수 있고, 은폐용 헤더 생성부(623)에, 은폐용 헤더(640)의 생성을 위해 필요한 정보를 제공할 수 있다.
다음으로, 은폐용 헤더 생성부(623)에 의한 은폐용 헤더 생성 처리의 흐름의 예를 도 50의 플로우차트를 참조하여 설명한다.
은폐용 헤더 생성 처리가 개시되면, 은폐용 헤더 생성부(623)는, 스텝 S621에서, 해석 결과로서 「전 픽쳐 치환 가능」이 세트되어 있는지의 여부를 판정한다.
「전 픽쳐 치환 가능」이 세트되어 있다고 판정한 경우, 은폐용 헤더 생성부(623)는, 스텝 S622로 처리를 진행시켜, 치환 선두 픽쳐 ID(643)의 값을 전회와 동일한 값으로 세트한다. 스텝 S623에서, 은폐용 헤더 생성부(623)는, 전 픽쳐 치환 플래그인 RF(644)의 값을 온(예를 들면, 「1」)으로 하고, 처리를 스텝 S626으로 진행시킨다.
또한, 스텝 S621에서, 「전 픽쳐 치환 불가」가 세트되어 있다고 판정한 경우, 은폐용 헤더 생성부(623)는, 스텝 S624로 처리를 진행시켜, 치환 선두 픽쳐 ID(643)의 값을 현재의 픽쳐의 식별 정보로 갱신한다. 스텝 S625에서, 은폐용 헤 더 생성부(623)는, 전 픽쳐 치환 플래그인 RF(644)의 값을 오프(예를 들면, 「0」)로 하고, 처리를 스텝 S626으로 진행시킨다.
스텝 S626에서, 은폐용 헤더 생성부(623)는, 해석 결과로서 「전 프리싱크트 치환 가능」이 세트되어 있는지의 여부를 판정한다.
「전 프리싱크트 치환 가능」이 세트되어 있다고 판정한 경우, 은폐용 헤더 생성부(623)는, 처리를 스텝 S627로 진행시켜, 치환 선두 프리싱크트 ID(646)의 값을 전회와 동일한 값으로 세트한다. 스텝 S628에서, 은폐용 헤더 생성부(623)는, 전 프리싱크트 치환 플래그인 SF(645)의 값을 온(예를 들면, 「1」)으로 하고, 은폐용 헤더 생성 처리를 종료한다.
또한, 스텝 S626에서, 「전 프리싱크트 치환 불가」가 세트되어 있다고 판정한 경우, 은폐용 헤더 생성부(623)는, 처리를 스텝 S629로 진행시켜, 치환 선두 프리싱크트 ID(646)의 값을 현재의 프리싱크트의 식별 정보로 갱신한다. 스텝 S630에서, 은폐용 헤더 생성부(623)는, 전 프리싱크트 치환 플래그인 SF(645)의 값을 오프(예를 들면, 「1」)로 하고, 은폐용 헤더 생성 처리를 종료한다.
이상과 같이 각 처리를 행함으로써, 은폐용 헤더 생성부(623)는, 지연 시간의 증대를 억제하면서, 전송 오류에 의한 영향을 경감시키기 위해서 참조되는 은폐용 헤더(640)를 생성할 수 있다. 이 은폐용 헤더(640)가 수신 장치(603)에 제공됨으로써, 수신 장치(603)는, 픽쳐 단위보다도 작은 프리싱크트 단위로 적절하게 에러 은폐 처리를 행할 수 있게 된다.
다음으로, 이 은폐용 헤더(640)를 이용하여 행하여지는 로스 해석 처리의 흐 름의 예를 도 51의 플로우차트를 참조하여 설명한다.
로스 해석 처리가 개시되면, 로스 해석부(631)는, 스텝 S651에서, 현재의(처리 대상의) 프리싱크트에서 로스(에러)가 발생하였는지의 여부를 판정하고, 로스가 발생하고 있지 않다고 판정한 경우, 로스 해석 처리를 종료한다.
또한, 스텝 S651에서, 로스가 발생하였다고 판정한 경우, 로스 해석부(631)는, 처리를 스텝 S652로 진행시켜, 은폐용 헤더(640)를 취득할 수 있었는지의 여부를 판정한다. 취득할 수 없었다고 판정한 경우, 정확한 에러 은폐를 행하는 것이 곤란하므로, 로스 해석부(631)는, 로스 해석 처리를 종료한다.
또한, 스텝 S652에서, 은폐용 헤더(640)를 취득하였다고 판정한 경우, 로스 해석부(631)는, 처리를 스텝 S653으로 진행시켜, 그 은폐용 헤더(640)의 정보에 기초하여, 전 픽쳐의 동일한 프리싱크트(1개 전의 픽쳐의 동일한 위치의 프리싱크트)로 치환 가능한지의 여부를 판정한다. RF(644)의 값이 온(예를 들면 「1」)이며, 치환 가능하다고 판정한 경우, 로스 해석부(631)는, 처리를 스텝 S654로 진행시킨다.
스텝 S654에서, 로스 해석부(631)는, 기억부(632)로부터 읽어낸 전 픽쳐의 픽쳐 ID의 값이, 치환 선두 픽쳐 ID(643) 이상인지의 여부, 즉, 치환 선두 픽쳐 ID로 표시되는 픽쳐 쪽이, 기억부(632)로부터 읽어낸 전 픽쳐보다도 오래되었는지의 여부를 판정한다. 기억부(632)로부터 읽어낸 전 픽쳐가, 치환 선두 픽쳐 ID로 표시되는 픽쳐보다도 후라고 판정된 경우, 로스 해석부(631)는, 처리를 스텝 S655로 진행시켜, 현재의(처리 대상)의 프리싱크트를, 기억부(632)로부터 읽어낸 전 픽쳐 의 동일한 위치의 프리싱크트로 치환하고, 로스 해석 처리를 종료한다. 또한, 스텝 S654에서, 기억부(632)로부터 읽어낸 전 픽쳐의 픽쳐 ID의 값이, 치환 선두 픽쳐 ID보다 작다고 판정한 경우, 로스 해석부(631)는, 치환 가능한 픽쳐의 데이터가 기억부(632)에 유지되어 있지 않으므로, 로스 해석 처리를 종료한다.
또한, 스텝 S653에서, 기억부(632)로부터 읽어낸 전 픽쳐의 동일한 위치의 프리싱크트로 치환할 수 없다고 판정한 경우, 로스 해석부(631)는, 처리를 스텝 S656으로 진행시켜, 기억부(632)로부터 읽어낸 동일 픽쳐의 전 프리싱크트(동일 픽쳐의 1개 전의 프리싱크트)로 치환 가능한지의 여부를 판정한다. SF(645)의 값이 오프(예를 들면 「0」)이며, 치환 가능하지 않는다고 판정한 경우, 로스 해석부(631)는, 로스 해석 처리를 종료한다.
또한, 스텝 S656에서, SF(645)의 값이 온(예를 들면 「1」)이며, 기억부(632)로부터 읽어낸 동일 픽쳐의 전 프리싱크트로 치환 가능하다고 판정한 경우, 로스 해석부(631)는, 처리를 스텝 S657로 진행시켜, 기억부(632)로부터 읽어내어진 전 프리싱크트의 프리싱크트 ID의 값이, 치환 선두 프리싱크트 ID(646) 이상인지의 여부를 판정한다.
기억부(632)로부터 읽어내어진 전 프리싱크트의 프리싱크트 ID의 값이, 치환 선두 프리싱크트 ID(646)보다 작다고 판정된 경우, 즉, 기억부(632)로부터 읽어내어진 전 프리싱크트가, 치환 선두 프리싱크트 ID(646)에 의해 나타내어지는 프리싱크트보다 이전의 프리싱크트라고 판정된 경우, 기억부(632)에 치환 가능한 프리싱크트가 유지되어 있지 않으므로, 로스 해석부(631)는, 로스 해석 처리를 종료한다.
또한, 기억부(632)로부터 읽어내어진 전 프리싱크트의 프리싱크트 ID의 값이, 치환 선두 프리싱크트 ID(646) 이상이라고 판정된 경우, 즉, 기억부(632)로부터 읽어내어진 전 프리싱크트가, 치환 선두 프리싱크트 ID(646)에 의해 나타내어지는 프리싱크트보다 후의 프리싱크트라고 판정된 경우, 로스 해석부(631)는, 처리를 스텝 S658로 진행시켜, 현재의(처리 대상)의 프리싱크트를, 기억부(632)로부터 읽어낸 동일 픽쳐의 전 프리싱크트로 치환하고, 로스 해석 처리를 종료한다.
이상과 같이, 로스 해석부(631)는, 로스 해석 처리를 행한다. 이에 의해, 로스 해석부(631)는, 상술한 바와 같이 처리를 행함으로써, 은폐용 헤더(640)에 기초하여, 픽쳐 단위보다도 작은 프리싱크트 단위로 적절하게 에러 은폐 처리를 행할 수 있다. 즉, 로스 해석부(631)는, 지연 시간의 증대를 억제하면서, 전송 오류에 의한 영향을 경감시킬 수 있다.
또한, 치환 가능한지의 여부를 수신 장치(603)에서 판단하도록 하고, 상술한 바와 같은 은폐용 헤더(640)를 이용하지 않고, 픽쳐 단위보다도 작은 단위로 치환을 행할 수 있도록 해도 되지만, 그 경우, 수신 장치(603)에서 버퍼량이 증가하여, 지연 시간이 증대되게 될 우려가 있다. 또한, 수신 장치(603)측에서는, 데이터의 결손의 가능성이 있기 때문에, 정확한 판정에 장시간을 필요로 할 우려가 있다.
따라서, 상술한 바와 같이, 데이터가 갖추어져 있는 송신 장치(602)에서, 치환 가능한지의 여부의 판단을 행하고, 은폐용 헤더(640)를 이용하여 그 정보를 수신 장치(603)에 통지하도록 함으로써, 송신 장치(602)는, 수신 장치(603)에, 지연 시간의 증대를 억제하면서, 전송 오류에 의한 영향을 경감시키도록 할 수 있다.
상술한 일련의 처리는, 하드웨어에 의해 실행시킬 수도 있고, 소프트웨어에 의해 실행시킬 수도 있다. 일련의 처리를 소프트웨어에 의해 실행시키는 경우에는, 그 소프트웨어를 구성하는 프로그램이, 전용의 하드웨어에 내장되어 있는 컴퓨터, 또는, 각종 프로그램을 인스톨함으로써, 각종 기능을 실행하는 것이 가능한, 예를 들면 범용의 퍼스널 컴퓨터, 또는, 복수의 장치로 이루어지는 정보 처리 시스템의 정보 처리 장치 등에, 프로그램 기록 매체로부터 인스톨된다.
도 52는, 상술한 일련의 처리를 프로그램에 의해 실행하는 정보 처리 시스템의 구성의 예를 도시하는 블록도이다.
도 52에 도시되는 바와 같이, 정보 처리 시스템(800)는, 정보 처리 장치(801), 그 정보 처리 장치(801)와 PCI 버스(802)에 의해 접속된, 기억 장치(803), 복수대의 비디오 테이프 레코더(VTR)인 VTR(804-1) 내지 VTR(804-S), 유저가 이들에 대한 조작 입력을 행하기 위한 마우스(805), 키보드(806), 및 조작 컨트롤러(807)에 의해 구성되는 시스템으로서, 인스톨된 프로그램에 의해, 상술한 바와 같은 화상 부호화 처리나 화상 복호 처리 등을 행하는 시스템이다.
예를 들면 정보 처리 시스템(800)의 정보 처리 장치(801)는, RAID(Redundant Arrays of Independent Disks)로 이루어지는 대용량의 기억 장치(803)에 기억되어 있는 동화상 콘텐츠를 부호화하여 얻어진 부호화 데이터를 기억 장치(803)에 기억시키거나, 기억 장치(803)에 기억되어 있는 부호화 데이터를 복호하여 얻어진 복호 화상 데이터(동화상 콘텐츠)를 기억 장치(803)에 기억시키거나, 부호화 데이터나 복호 화상 데이터를 VTR(804-1) 내지 VTR(804-S)을 통해서 비디오 테이프에 기 록하거나 할 수 있다. 또한, 정보 처리 장치(801)는, VTR(804-1) 내지 VTR(804-S)에 장착된 비디오 테이프에 기록된 동화상 콘텐츠를 기억 장치(803)에 취득할 수도 있도록 이루어져 있다. 그 때, 정보 처리 장치(801)가 동화상 콘텐츠를 부호화하도록 해도 된다.
정보 처리 장치(801)는, 마이크로프로세서(901), GPU(Graphics Processing Unit)(902), XDR(Extreme Data Rate)-RAM(903), 사우스 브릿지(904), HDD(Hard Disk Drive)(905), USB 인터페이스(USBI/F)(906), 및 사운드 입출력 코덱(907)을 갖고 있다.
GPU(902)는 전용의 버스(911)를 통해서 마이크로 프로세서(901)에 접속된다. XDR-RAM(903)은 전용의 버스(912)를 통해서 마이크로프로세서(901)에 접속된다. 사우스 브릿지(904)는, 전용의 버스를 통해서 마이크로프로세서(901)의 I/O 컨트롤러(944)에 접속된다. 이 사우스 브릿지(904)에는, HDD(905), USB 인터페이스(906) 및 사운드 입출력 코덱(907)도 접속되어 있다. 이 사운드 입출력 코덱(907)에는 스피커(921)가 접속되어 있다. 또한, GPU(902)에는 디스플레이(922)가 접속되어 있다.
또한 사우스 브릿지(904)에는, 또한, PCI 버스(802)를 통해서, 마우스(805), 키보드(806), VTR(804-1) 내지 VTR(804-S), 기억 장치(803) 및 조작 컨트롤러(807)가 접속되어 있다.
마우스(805) 및 키보드(806)는, 유저의 조작 입력을 받아, PCI 버스(802) 및 사우스 브릿지(904)를 통해서, 유저의 조작 입력의 내용을 나타내는 신호를 마이크 로프로세서(901)에 공급한다. 기억 장치(803) 및 VTR(804-1) 내지 VTR(804-S)은, 소정의 데이터를 기록 또는 재생할 수 있도록 이루어져 있다.
PCI 버스(802)에는 또한, 필요에 따라서 드라이브(808)가 접속되고, 자기 디스크, 광 디스크, 광 자기 디스크, 혹은 반도체 메모리 등의 리무버블 미디어(811)가 적당히 장착되어, 그들로부터 읽어내어진 컴퓨터 프로그램이, 필요에 따라서 HDD(905)에 인스톨된다.
마이크로프로세서(901)는, OS(Operating System) 등의 기본 프로그램을 실행하는 범용의 메인 CPU 코어(941)와, 메인 CPU 코어(941)에 내부 버스(945)를 통해서 접속된 복수(이 경우 8개)의 RISC(Reduced Instruction Set Computer) 타입의 신호 처리 프로세서인, 서브 CPU 코어(942-1) 내지 서브 CPU 코어(942-8)와, 예를 들면 256[MByte]의 용량을 갖는 XDR-RAM(903)에 대한 메모리 컨트롤을 행하는 메모리 컨트롤러(943)와, 사우스 브릿지(904)와의 사이에서 데이터의 입출력을 관리하는 I/O(In/Out) 컨트롤러(944)가 1칩에 집적된 멀티 코어 구성으로 이루어지고, 예를 들면 동작 주파수 4[G㎐]를 실현하고 있다.
이 마이크로프로세서(901)는, 기동 시, HDD(905)에 저장된 제어 프로그램에 기초하여, HDD(905)에 저장되어 있는 필요한 어플리케이션 프로그램을 읽어내어 XDR-RAM(903)에 전개하고, 이 후 이 어플리케이션 프로그램 및 오퍼레이터 조작에 기초하여 필요한 제어 처리를 실행한다.
또한, 마이크로프로세서(901)는, 소프트웨어를 실행함으로써, 예를 들면, 상술한 부호화 처리나 복호 처리를 실현하고, 인코드의 결과 얻어진 부호화 스트림 을, 사우스 브릿지(904)를 통해서 HDD(905)에 공급하여 기억시키거나, 디코드한 결과 얻어지는 동화상 콘텐츠의 재생 영상을, GPU(902)에 데이터 전송하여, 디스플레이(922)에 표시시키거나 할 수 있다.
마이크로 프로세서(901) 내의 각 CPU 코어의 사용 방법은 임의이지만, 예를 들면, 메인 CPU 코어(941)가, 화상 부호화 처리나 화상 복호 처리의 제어에 관한 처리를 행하여, 8개의 서브 CPU 코어(942-1) 내지 서브 CPU 코어(942-8)에, 웨이블릿 변환, 계수 재배열, 엔트로피 부호화, 엔트로피 복호, 웨이블릿 역변환, 양자화, 및 역양자화 등의 각 처리를, 예를 들면 도 39를 참조하여 설명한 바와 같이 동시 병렬적으로 실행시키도록 해도 된다. 그 때, 메인 CPU 코어(941)가, 8개의 서브 CPU 코어(942-1) 내지 서브 CPU 코어(942-8)의 각각에 대해서 프리싱크트 단위로 처리를 할당하도록 하면, 부호화 처리나 복호 처리가, 도 39를 참조하여 설명한 경우와 마찬가지로 프리싱크트 단위로 동시 병렬적으로 실행된다. 즉, 부호화 처리나 복호 처리의 효율을 향상시켜, 처리 전체의 지연 시간을 단축시키고, 또한, 부하, 처리 시간 및 처리에 필요한 메모리 용량을 저감시킬 수 있다. 물론, 이 이외의 방법으로 각 처리를 행하도록 해도 된다.
예를 들면, 마이크로프로세서(901)의 8개의 서브 CPU 코어(942-1) 내지 서브 CPU 코어(942-8) 중의 일부가 인코드 처리를, 다른 부분이 디코드 처리를, 동시 병렬적으로 실행하도록 하는 것도 가능하다.
또한, 예를 들면, PCI 버스(802)에, 독립된 인코더 또는 디코더, 혹은, 코덱 처리 장치가 접속되어 있는 경우, 마이크로프로세서(901)의 8개의 서브 CPU 코 어(942-1) 내지 서브 CPU 코어(942-8)가, 사우스 브릿지(904) 및 PCI 버스(802)를 통해서, 이들 장치가 실행하는 처리를 제어하도록 해도 된다. 또한, 이들 장치가 복수 접속되어 있는 경우, 또는, 이들 장치가 복수의 디코더 또는 인코더를 포함하고 있는 경우, 마이크로프로세서(901)의 8개의 서브 CPU 코어(942-1) 내지 서브 CPU 코어(942-8)는, 복수의 디코더 또는 인코더가 실행하는 처리를 분담하여 제어하도록 해도 된다.
이 때 메인 CPU 코어(941)는, 8개의 서브 CPU 코어(942-1) 내지 서브 CPU 코어(942-8)의 동작을 관리하고, 각 서브 CPU 코어에 대해서 처리를 할당하거나, 처리 결과를 인수하거나 한다. 또한, 메인 CPU 코어(941)는, 이들 서브 CPU 코어가 행하는 것 이외의 처리도 행한다. 예를 들면, 메인 CPU 코어(941)는, 사우스 브릿지(904)를 통해서 마우스(805), 키보드(806), 또는, 조작 컨트롤러(807)로부터 공급된 명령을 접수하고, 명령에 따른 여러 가지의 처리를 실행한다.
GPU(902)는, 디스플레이(922)에 표시하는 동화상 콘텐츠의 재생 영상을 움직일 때의 텍스쳐의 붙여넣기 등에 관한 최종적인 렌더링 처리 외에, 동화상 콘텐츠의 재생 영상 및 정지 화상 콘텐츠의 정지 화상을 디스플레이(922)에 한번에 복수 표시할 때의 좌표 변환 계산 처리나, 동화상 콘텐츠의 재생 영상 및 정지 화상 콘텐츠의 정지 화상에 대한 확대·축소 처리 등을 행하는 기능을 담당하여, 마이크로프로세서(901)의 처리 부담을 경감시키도록 이루어져 있다.
GPU(902)는, 마이크로프로세서(901)의 제어 하에, 공급된 동화상 콘텐츠의 영상 데이터나 정지 화상 콘텐츠의 화상 데이터에 대해서 소정의 신호 처리를 실시 하고, 그 결과 얻어진 영상 데이터나 화상 데이터를 디스플레이(922)에 송출하여, 화상 신호를 디스플레이(922)에 표시시킨다.
그런데, 마이크로프로세서(901)에서의 8개의 서브 CPU 코어(942-1) 내지 서브 CPU 코어(942-8)에서 동시 병렬적으로 디코드된 복수의 동화상 콘텐츠에서의 재생 영상은, 버스(911)를 통해서 GPU(902)에 데이터 전송되지만, 이 때의 전송 속도는, 예를 들면, 최대 30[Gbyte/sec]이며, 특수 효과가 실시된 복잡한 재생 영상이어도 고속으로 또한 매끄럽게 표시할 수 있도록 이루어져 있다.
또한, 마이크로프로세서(901)는, 동화상 콘텐츠의 영상 데이터 및 음성 데이터 중 음성 데이터에 대해서 음성 믹싱 처리를 실시하고, 그 결과 얻어진 편집 음성 데이터를, 사우스 브릿지(904) 및 사운드 입출력 코덱(907)를 통하여 스피커(921)에 송출함으로써, 음성 신호에 기초하는 음성을 스피커(921)로부터 출력시킬 수도 있다.
상술한 일련의 처리를 소프트웨어에 의해 실행시키는 경우에는, 그 소프트웨어를 구성하는 프로그램이 네트워크나 기록 매체로부터 인스톨된다.
이 기록 매체는, 예를 들면, 도 52에 도시되는 바와 같이, 장치 본체와는 별도로, 유저에게 프로그램을 배신하기 위해서 배포되는, 프로그램이 기록되어 있는 자기 디스크(플렉시블 디스크를 포함함), 광 디스크(CD-ROM, DVD를 포함함), 광 자기 디스크(MD를 포함함), 혹은 반도체 메모리 등으로 이루어지는 리무버블 미디어(811)에 의해 구성될 뿐만 아니라, 장치 본체에 미리 내장된 상태로 유저에게 배신되는, 프로그램이 기록되어 있는 HDD(905)나 기억 장치(803) 등으로 구성된다. 물론, 기록 매체는, ROM이나 플래시 메모리 등의 반도체 메모리이어도 된다.
이상에서는, 마이크로프로세서(901) 내에 8개의 서브 CPU 코어가 구성되도록 설명하였지만, 이에 한하지 않고, 서브 CPU 코어의 수는 임의이다. 또한, 마이크로프로세서(901)가, 메인 CPU 코어와 서브 CPU 코어와 같은 복수의 코어에 의해 구성되어 있지 않아도 되고, 싱글 코어(1개의 코어)에 의해 구성되는 CPU를 이용하도록 해도 된다. 또한, 마이크로프로세서(901) 대신에 복수의 CPU를 이용하도록 해도 되고, 복수의 정보 처리 장치를 이용(즉, 본 발명의 처리를 실행하는 프로그램을, 서로 제휴하여 동작하는 복수의 장치에서 실행)하도록 해도 된다.
또한, 본 명세서에서, 기록 매체에 기록되는 프로그램을 기술하는 스텝은, 기재된 순서를 따라 시계열적으로 행하여지는 처리는 물론, 반드시 시계열적으로 처리되지 않더라도, 병렬적 혹은 개별로 실행되는 처리도 포함하는 것이다.
또한, 본 명세서에서, 시스템이란, 복수의 디바이스(장치)에 의해 구성되는 장치 전체를 나타내는 것이다.
또한, 이상에서, 1개의 장치로서 설명한 구성을 분할하고, 복수의 장치로서 구성하도록 해도 된다. 반대로, 이상에서 복수의 장치로서 설명한 구성을 통합해서 1개의 장치로서 구성되도록 해도 된다. 또한, 각 장치의 구성에 상술한 것 이외의 구성을 부가하도록 해도 물론 된다. 또한, 시스템 전체로서의 구성이나 동작이 실질적으로 동일하면, 임의의 장치의 구성의 일부를 다른 장치의 구성에 포함시키도록 해도 된다.
이상 설명한 본 발명은, 데이터 전송을 용이하게 또한 고속으로 행하는 것으로서, 화상을 압축 부호화하여 전송하고, 전송처에서 압축 부호를 복호하여 출력하는 장치 또는 시스템이면, 다양한 것에 적용할 수 있다. 본 발명은, 특히, 화상의 압축 부호화로부터 복호 및 출력까지의 지연이 짧은 것이 요구되는 장치 또는 시스템에 이용하기에 바람직하다.
예를 들면, 본 발명은, 비디오 카메라로 촬영된 영상을 보면서 매직 핸드를 조작해서 치료 행위를 행하는, 의료용 원격 의료 진단의 용도에 이용하기에 바람직하다. 또한, 본 발명은, 방송국 내 등에서의 화상을 부호화하여 전송하고, 복호하여 표시 또는 기록하는 시스템에 이용하기에 바람직하다.
또한, 실황 중계되는 영상의 배신을 행하는 시스템, 교육 현장에서 학생과 교사 사이에서 인터랙티브한 통신을 가능하게 한 시스템 등에 본 발명을 적용할 수 있다.
또한, 카메라 기능을 갖는 휴대 전화 단말기와 같은, 촬상 기능을 갖는 모바일 단말기로 촬영된 화상 데이터의 송신이나, 텔레비전 회의 시스템, 감시 카메라 및 감시 카메라로 촬영된 영상을 기록하는 레코더에 의한 시스템 등에 본 발명을 적용할 수 있다.
Claims (15)
- 화상 데이터를 부호화하는 정보 처리 장치로서,화상 데이터를 구성하는 프레임 또는 필드를 대상으로 하여, 적어도 최저역 성분의 서브밴드의 1라인분의 계수 데이터를 생성하는 데에 필요한 라인수분의 화상 데이터를 포함하는 라인 블록마다 비교하는 비교 수단과,상기 비교 수단에 의한 비교 결과에 따라서, 라인 블록의 에러의 은폐 방법을 나타내는 은폐 정보를 생성하는 생성 수단과,주파수 대역으로 분해된 복수의 서브밴드의 계수 데이터를 합성하여 화상 데이터를 생성하는 합성 처리를 실행하는 순으로 미리 재배열된 계수 데이터를 부호화하여 부호화 데이터를 생성하는 부호화 수단과,상기 생성 수단에 의해 생성된 은폐 정보를, 상기 부호화 수단에 의해 생성된 부호화 데이터로 다중화하도록, 상기 부호화 수단을 제어하는 제어 수단을 구비하는 정보 처리 장치.
- 제1항에 있어서,상기 제어 수단은, 상기 은폐 정보를 헤더로 하여 상기 부호화 데이터를 패킷화하도록 상기 부호화 수단을 제어하는 정보 처리 장치.
- 제2항에 있어서,상기 부호화 수단은,상기 계수 데이터를 부호화하여 부호화 데이터를 생성하는 계수 부호화 수단과,상기 부호화 데이터를 패킷화하는 패킷화 수단을 포함하는 정보 처리 장치.
- 제1항에 있어서,상기 은폐 정보는, 프레임 또는 필드를 구성하는 라인 블록을 다른 프레임 또는 다른 필드를 구성하는 라인 블록으로 치환 가능한지의 여부를 나타내는 플래그 정보를 포함하는 정보 처리 장치.
- 제4항에 있어서,상기 비교 수단은, 상기 화상 데이터에 대한 프레임간의 차분값 또는 필드간의 차분값과 임계값을 비교하는 정보 처리 장치.
- 제5항에 있어서,상기 생성 수단은, 상기 프레임간의 차분값 또는 상기 필드간의 차분값이 임계값 이하인 경우, 상기 플래그 정보를 치환 가능하게 설정하는 정보 처리 장치.
- 제1항에 있어서,상기 은폐 정보는, 프레임 또는 필드를 구성하는 라인 블록을 다른 프레임 또는 다른 필드를 구성하는 라인 블록으로 치환 가능한 경우, 어느 픽쳐 또는 필드까지 거슬러 올라가서 치환 가능한지를 나타내는 정보를 포함하는 정보 처리 장치.
- 제1항에 있어서,상기 은폐 정보는, 프레임 또는 필드를 구성하는 라인 블록을 다른 프레임 또는 다른 필드를 구성하는 라인 블록으로 치환 가능한 경우, 치환 가능한 픽쳐 또는 필드 이후의 픽쳐 또는 필드에서 치환 가능한지를 나타내는 플래그 정보를 포함하는 정보 처리 장치.
- 제1항에 있어서,상기 계수 데이터는, 라인 블록마다, 저역 성분으로부터 고역 성분의 순으로 재배열되어 있는 정보 처리 장치.
- 화상 데이터를 부호화하는 정보 처리 장치의 정보 처리 방법으로서,비교 수단은, 화상 데이터를 구성하는 프레임 또는 필드를 대상으로 하여, 적어도 최저역 성분의 서브밴드의 1라인분의 계수 데이터를 생성하는 데에 필요한 라인수분의 화상 데이터를 포함하는 라인 블록마다 비교하고,생성 수단은, 상기 비교 수단에 의한 비교 결과에 따라서, 라인 블록의 에러의 은폐 방법을 나타내는 은폐 정보를 생성하고,부호화 수단은, 주파수 대역으로 분해된 복수의 서브밴드의 계수 데이터를 합성하여 화상 데이터를 생성하는 합성 처리를 실행하는 순으로 미리 재배열된 계수 데이터를 부호화하여 부호화 데이터를 생성하고,제어 수단은, 상기 생성 수단에 의해 생성된 은폐 정보를, 상기 부호화 수단에 의해 생성된 부호화 데이터로 다중화하도록, 상기 부호화 수단을 제어하는정보 처리 방법.
- 화상 데이터가 부호화된 부호화 데이터에 에러 은폐 처리를 행하는 정보 처리 장치로서,상기 화상 데이터가 주파수 대역으로 분해된 복수의 서브밴드의 계수 데이터를 합성하여 화상 데이터를 생성하는 합성 처리를 실행하는 순으로 미리 재배열된 계수 데이터를 부호화하여 얻어지는 부호화 데이터로부터, 화상 데이터를 구성하는 프레임 또는 필드를 대상으로 하여 적어도 최저역 성분의 서브밴드의 1라인분의 계수 데이터를 생성하는 데에 필요한 라인수분의 화상 데이터를 포함하는 라인 블록마다, 라인 블록의 에러의 은폐 방법을 나타내는 은폐 정보를 취득하는 취득 수단과,상기 취득 수단에 의해 취득된 에러 은폐 정보에 나타내어지는 에러 은폐 정보에 따라서, 상기 부호화 데이터에 포함되는 에러를 라인 블록마다 은폐 처리하는 은폐 수단을 구비하는 정보 처리 장치.
- 제11항에 있어서,상기 부호화 데이터는, 상기 은폐 정보를 헤더로 하여 패킷화되어 있고,상기 취득 수단은, 상기 은폐 정보를 헤더로서 취득하는 정보 처리 장치.
- 제11항에 있어서,상기 은폐 수단에 의해 은폐 처리된 부호화 데이터를 복호하여 화상 데이터를 생성하는 복호 수단을 더 구비하는 정보 처리 장치.
- 제11항에 있어서,상기 은폐 수단에 의해 은폐 처리된 부호화 데이터를 기록 매체에 기록하는 기록 수단을 더 구비하는 정보 처리 장치.
- 화상 데이터가 부호화된 부호화 데이터에 에러 은폐 처리를 행하는 정보 처리 장치의 정보 처리 방법으로서,취득 수단이, 상기 화상 데이터가 주파수 대역으로 분해된 복수의 서브밴드의 계수 데이터를 합성하여 화상 데이터를 생성하는 합성 처리를 실행하는 순으로 미리 재배열된 계수 데이터를 부호화하여 얻어지는 부호화 데이터로부터, 화상 데이터를 구성하는 프레임 또는 필드를 대상으로 하여 적어도 최저역 성분의 서브밴드의 1라인분의 계수 데이터를 생성하는 데에 필요한 라인수분의 화상 데이터를 포함하는 라인 블록마다, 라인 블록의 에러의 은폐 방법을 나타내는 은폐 정보를 취 득하고,은폐 수단이, 상기 취득 수단에 의해 취득된 에러 은폐 정보에 나타내어지는 에러 은폐 정보에 따라서, 상기 부호화 데이터에 포함되는 에러를, 라인 블록마다 은폐 처리하는정보 처리 방법.
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2007094005 | 2007-03-30 | ||
| JPJP-P-2007-094005 | 2007-03-30 | ||
| PCT/JP2008/056331 WO2008123496A1 (ja) | 2007-03-30 | 2008-03-31 | 情報処理装置および方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20090125236A true KR20090125236A (ko) | 2009-12-04 |
| KR101442278B1 KR101442278B1 (ko) | 2014-09-22 |
Family
ID=39830973
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020097005749A KR101442278B1 (ko) | 2007-03-30 | 2008-03-31 | 정보 처리 장치 및 방법 |
Country Status (8)
| Country | Link |
|---|---|
| US (1) | US8774283B2 (ko) |
| EP (1) | EP2061255A4 (ko) |
| JP (1) | JP5527588B2 (ko) |
| KR (1) | KR101442278B1 (ko) |
| CN (1) | CN101543078B (ko) |
| BR (1) | BRPI0805802A2 (ko) |
| RU (1) | RU2479937C2 (ko) |
| WO (1) | WO2008123496A1 (ko) |
Families Citing this family (60)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20050097046A1 (en) | 2003-10-30 | 2005-05-05 | Singfield Joy S. | Wireless electronic check deposit scanning and cashing machine with web-based online account cash management computer application system |
| US8351677B1 (en) | 2006-10-31 | 2013-01-08 | United Services Automobile Association (Usaa) | Systems and methods for remote deposit of checks |
| US8799147B1 (en) | 2006-10-31 | 2014-08-05 | United Services Automobile Association (Usaa) | Systems and methods for remote deposit of negotiable instruments with non-payee institutions |
| US7873200B1 (en) | 2006-10-31 | 2011-01-18 | United Services Automobile Association (Usaa) | Systems and methods for remote deposit of checks |
| US8708227B1 (en) | 2006-10-31 | 2014-04-29 | United Services Automobile Association (Usaa) | Systems and methods for remote deposit of checks |
| US10380559B1 (en) | 2007-03-15 | 2019-08-13 | United Services Automobile Association (Usaa) | Systems and methods for check representment prevention |
| US8959033B1 (en) | 2007-03-15 | 2015-02-17 | United Services Automobile Association (Usaa) | Systems and methods for verification of remotely deposited checks |
| US8538124B1 (en) | 2007-05-10 | 2013-09-17 | United Services Auto Association (USAA) | Systems and methods for real-time validation of check image quality |
| US8433127B1 (en) | 2007-05-10 | 2013-04-30 | United Services Automobile Association (Usaa) | Systems and methods for real-time validation of check image quality |
| US9058512B1 (en) | 2007-09-28 | 2015-06-16 | United Services Automobile Association (Usaa) | Systems and methods for digital signature detection |
| US8358826B1 (en) | 2007-10-23 | 2013-01-22 | United Services Automobile Association (Usaa) | Systems and methods for receiving and orienting an image of one or more checks |
| US9159101B1 (en) | 2007-10-23 | 2015-10-13 | United Services Automobile Association (Usaa) | Image processing |
| US9892454B1 (en) | 2007-10-23 | 2018-02-13 | United Services Automobile Association (Usaa) | Systems and methods for obtaining an image of a check to be deposited |
| US9898778B1 (en) | 2007-10-23 | 2018-02-20 | United Services Automobile Association (Usaa) | Systems and methods for obtaining an image of a check to be deposited |
| US8320657B1 (en) | 2007-10-31 | 2012-11-27 | United Services Automobile Association (Usaa) | Systems and methods to use a digital camera to remotely deposit a negotiable instrument |
| US8290237B1 (en) | 2007-10-31 | 2012-10-16 | United Services Automobile Association (Usaa) | Systems and methods to use a digital camera to remotely deposit a negotiable instrument |
| US7900822B1 (en) | 2007-11-06 | 2011-03-08 | United Services Automobile Association (Usaa) | Systems, methods, and apparatus for receiving images of one or more checks |
| US10380562B1 (en) | 2008-02-07 | 2019-08-13 | United Services Automobile Association (Usaa) | Systems and methods for mobile deposit of negotiable instruments |
| WO2009144834A1 (ja) * | 2008-05-30 | 2009-12-03 | 株式会社アドバンテスト | 試験装置および送信装置 |
| US8351678B1 (en) | 2008-06-11 | 2013-01-08 | United Services Automobile Association (Usaa) | Duplicate check detection |
| US8422758B1 (en) | 2008-09-02 | 2013-04-16 | United Services Automobile Association (Usaa) | Systems and methods of check re-presentment deterrent |
| US10504185B1 (en) | 2008-09-08 | 2019-12-10 | United Services Automobile Association (Usaa) | Systems and methods for live video financial deposit |
| US8391599B1 (en) | 2008-10-17 | 2013-03-05 | United Services Automobile Association (Usaa) | Systems and methods for adaptive binarization of an image |
| JP4987034B2 (ja) * | 2008-12-26 | 2012-07-25 | 三菱電機株式会社 | 映像表示装置 |
| US8452689B1 (en) | 2009-02-18 | 2013-05-28 | United Services Automobile Association (Usaa) | Systems and methods of check detection |
| US10956728B1 (en) | 2009-03-04 | 2021-03-23 | United Services Automobile Association (Usaa) | Systems and methods of check processing with background removal |
| US8542921B1 (en) | 2009-07-27 | 2013-09-24 | United Services Automobile Association (Usaa) | Systems and methods for remote deposit of negotiable instrument using brightness correction |
| US9779392B1 (en) | 2009-08-19 | 2017-10-03 | United Services Automobile Association (Usaa) | Apparatuses, methods and systems for a publishing and subscribing platform of depositing negotiable instruments |
| US8977571B1 (en) | 2009-08-21 | 2015-03-10 | United Services Automobile Association (Usaa) | Systems and methods for image monitoring of check during mobile deposit |
| US9411810B2 (en) * | 2009-08-27 | 2016-08-09 | International Business Machines Corporation | Method and apparatus for identifying data inconsistency in a dispersed storage network |
| US8699779B1 (en) | 2009-08-28 | 2014-04-15 | United Services Automobile Association (Usaa) | Systems and methods for alignment of check during mobile deposit |
| US9129340B1 (en) | 2010-06-08 | 2015-09-08 | United Services Automobile Association (Usaa) | Apparatuses, methods and systems for remote deposit capture with enhanced image detection |
| KR20120045369A (ko) * | 2010-10-29 | 2012-05-09 | 에스케이 텔레콤주식회사 | 쿼드 트리 기반으로 블록 필터 정보를 부호화/복호화하는 영상 부호화/복호화 장치 및 방법 |
| US10135900B2 (en) | 2011-01-21 | 2018-11-20 | Qualcomm Incorporated | User input back channel for wireless displays |
| US9787725B2 (en) * | 2011-01-21 | 2017-10-10 | Qualcomm Incorporated | User input back channel for wireless displays |
| US10380565B1 (en) | 2012-01-05 | 2019-08-13 | United Services Automobile Association (Usaa) | System and method for storefront bank deposits |
| US10552810B1 (en) | 2012-12-19 | 2020-02-04 | United Services Automobile Association (Usaa) | System and method for remote deposit of financial instruments |
| US9756356B2 (en) * | 2013-06-24 | 2017-09-05 | Dialogic Corporation | Application-assisted spatio-temporal error concealment for RTP video |
| CN104346770A (zh) * | 2013-07-24 | 2015-02-11 | 联咏科技股份有限公司 | 数据插补方法及数据插补系统 |
| CN103428227B (zh) * | 2013-09-05 | 2016-03-30 | 中国科学技术大学苏州研究院 | 基于Huffman编码的IP隐秘通信方法 |
| US11138578B1 (en) | 2013-09-09 | 2021-10-05 | United Services Automobile Association (Usaa) | Systems and methods for remote deposit of currency |
| US9286514B1 (en) | 2013-10-17 | 2016-03-15 | United Services Automobile Association (Usaa) | Character count determination for a digital image |
| US10051279B2 (en) * | 2014-07-01 | 2018-08-14 | Samsung Display Co., Ltd. | High quality display system combining compressed frame buffer and temporal compensation technique |
| RU2568268C1 (ru) * | 2014-12-04 | 2015-11-20 | Федеральное государственное казенное военное образовательное учреждение высшего профессионального образования "ВОЕННАЯ АКАДЕМИЯ СВЯЗИ имени Маршала Советского Союза С.М. Буденного" Министерства обороны Российской Федерации | Способ аутентификации электронного изображения |
| RU2589345C1 (ru) * | 2014-12-26 | 2016-07-10 | Акционерное общество "Концерн радиостроения "Вега" | Способ аутентификации электронного изображения (варианты) |
| US10158889B2 (en) * | 2015-01-31 | 2018-12-18 | Intel Corporation | Replaying old packets for concealing video decoding errors and video decoding latency adjustment based on wireless link conditions |
| US10402790B1 (en) | 2015-05-28 | 2019-09-03 | United Services Automobile Association (Usaa) | Composing a focused document image from multiple image captures or portions of multiple image captures |
| JP6604782B2 (ja) * | 2015-09-08 | 2019-11-13 | キヤノン株式会社 | 画像処理装置 |
| CN111294236B (zh) * | 2015-12-28 | 2023-04-18 | 华为技术有限公司 | 基于业务功能链sfc的通信方法和装置 |
| US10224255B2 (en) * | 2016-06-14 | 2019-03-05 | Nxp Usa, Inc. | Shielded and packaged electronic devices, electronic assemblies, and methods |
| JP6706180B2 (ja) * | 2016-09-14 | 2020-06-03 | ルネサスエレクトロニクス株式会社 | デバイス装置及びデータ転送システム |
| US11030752B1 (en) | 2018-04-27 | 2021-06-08 | United Services Automobile Association (Usaa) | System, computing device, and method for document detection |
| CN110827187B (zh) * | 2018-08-13 | 2023-10-31 | 厦门雅迅网络股份有限公司 | 一种信息隐写以及恢复方法 |
| WO2020130910A1 (en) * | 2018-12-20 | 2020-06-25 | Telefonaktiebolaget Lm Ericsson (Publ) | Methods providing encoding and/or decoding of video using a syntax indicator and picture header |
| US11446949B1 (en) * | 2019-01-07 | 2022-09-20 | United Services Automobile Association (Usaa) | Virtual teller check system |
| EP3912407A4 (en) * | 2019-01-17 | 2022-08-03 | ZTE Corporation | METHODS, APPARATUS AND SYSTEMS FOR DATA SEGMENTATION AND REASSEMBLY IN WIRELESS COMMUNICATION |
| JP7269112B2 (ja) * | 2019-06-26 | 2023-05-08 | 日本放送協会 | 受信装置及びプログラム |
| GB2586517B (en) * | 2019-08-23 | 2022-06-15 | Imagination Tech Ltd | Methods and decompression units for decompressing a compressed block of image data |
| CN115088263A (zh) * | 2019-12-20 | 2022-09-20 | Lg电子株式会社 | 基于预测加权表的图像/视频编译方法和设备 |
| US11900755B1 (en) | 2020-11-30 | 2024-02-13 | United Services Automobile Association (Usaa) | System, computing device, and method for document detection and deposit processing |
Family Cites Families (38)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2763389B2 (ja) * | 1990-08-22 | 1998-06-11 | 富士通株式会社 | 画像伝送システム |
| DE69132076T2 (de) | 1990-12-28 | 2000-08-24 | Canon K.K., Tokio/Tokyo | Vorrichtung zur Bildverarbeitung |
| JP2962329B2 (ja) * | 1991-01-29 | 1999-10-12 | キヤノン株式会社 | 画像処理方法 |
| EP0545651A3 (en) | 1991-12-02 | 1993-08-11 | Matsushita Electric Industrial Co., Ltd. | Recorder and player for video digital video signals |
| JPH05153550A (ja) | 1991-12-02 | 1993-06-18 | Matsushita Electric Ind Co Ltd | 映像信号の記録装置および再生装置 |
| JPH06195772A (ja) * | 1992-12-21 | 1994-07-15 | Canon Inc | 画像信号処理機構およびその適用機器 |
| TW224553B (en) * | 1993-03-01 | 1994-06-01 | Sony Co Ltd | Method and apparatus for inverse discrete consine transform and coding/decoding of moving picture |
| JPH06292179A (ja) | 1993-04-01 | 1994-10-18 | Matsushita Electric Ind Co Ltd | 直交変換符号化装置および直交変換復号化装置 |
| JPH06311052A (ja) * | 1993-04-27 | 1994-11-04 | Victor Co Of Japan Ltd | 圧縮信号の処理装置 |
| GB2295936B (en) | 1994-12-05 | 1997-02-05 | Microsoft Corp | Progressive image transmission using discrete wavelet transforms |
| JP3213222B2 (ja) | 1995-11-02 | 2001-10-02 | 株式会社リコー | 符号化方法 |
| JP3213582B2 (ja) | 1997-05-29 | 2001-10-02 | シャープ株式会社 | 画像符号化装置及び画像復号装置 |
| GB2326300B (en) | 1997-06-10 | 2001-11-21 | Sony Uk Ltd | Concealing errors |
| JP4675477B2 (ja) * | 1997-11-14 | 2011-04-20 | アンテオン コーポレーション | ビデオ情報圧縮装置と方法 |
| US6707948B1 (en) * | 1997-11-17 | 2004-03-16 | The Regents Of The University Of California | Image compression for memory-constrained decoders |
| JPH11191886A (ja) * | 1997-12-25 | 1999-07-13 | Matsushita Electric Ind Co Ltd | 画像データ処理方法および画像データ処理装置 |
| US6456719B1 (en) * | 1998-01-16 | 2002-09-24 | Winbond Electronics Corp. | Compressed audio error concealment apparatus and method |
| JP2000059781A (ja) | 1998-08-07 | 2000-02-25 | Ricoh Co Ltd | ウェーブレット変換装置 |
| JP4103247B2 (ja) | 1999-06-11 | 2008-06-18 | 松下電器産業株式会社 | 洗濯機 |
| JP4097108B2 (ja) | 1999-07-06 | 2008-06-11 | 株式会社リコー | ウェーブレット変換装置及び符号化復号化装置 |
| JP4252689B2 (ja) | 1999-09-22 | 2009-04-08 | 大倉工業株式会社 | 積層フィルム |
| EP1655971A2 (en) | 2000-09-19 | 2006-05-10 | Matsushita Electric Industrial Co., Ltd. | Image signal transmitter |
| JP3702778B2 (ja) * | 2000-11-27 | 2005-10-05 | ソニー株式会社 | 画像符号化装置及び方法 |
| JP4409108B2 (ja) * | 2001-03-19 | 2010-02-03 | 富士通マイクロエレクトロニクス株式会社 | 通信端末装置 |
| JP2002359853A (ja) | 2001-03-26 | 2002-12-13 | Sony Corp | 画像処理装置、画像処理方法、画像処理プログラムおよび記録媒体 |
| JP2003018580A (ja) * | 2001-06-29 | 2003-01-17 | Matsushita Electric Ind Co Ltd | コンテンツ配信システムおよび配信方法 |
| JP2003069998A (ja) | 2001-08-28 | 2003-03-07 | Canon Inc | 画像処理装置及び画像処理方法 |
| JP2004104694A (ja) | 2002-09-12 | 2004-04-02 | Sony Corp | 符号化装置と符号化方法と符号化プログラムおよび復号化装置と復号化方法と復号化プログラム |
| US7483575B2 (en) | 2002-10-25 | 2009-01-27 | Sony Corporation | Picture encoding apparatus and method, program and recording medium |
| JP4449400B2 (ja) | 2002-10-25 | 2010-04-14 | ソニー株式会社 | 画像符号化装置及び方法、並びにプログラム及び記録媒体 |
| JP3880050B2 (ja) | 2002-12-16 | 2007-02-14 | 梶原工業株式会社 | 調理装置 |
| KR100513014B1 (ko) * | 2003-05-22 | 2005-09-05 | 엘지전자 주식회사 | 비디오 코딩 시스템 및 비디오 코딩 방법 |
| JP3701956B2 (ja) | 2003-05-29 | 2005-10-05 | 日本電信電話株式会社 | パケット中継装置及びその方法と、パケット受信装置及びその方法と、パケット中継プログラム及びそのプログラムを記録した記録媒体と、パケット受信プログラム及びそのプログラムを記録した記録媒体 |
| US7760719B2 (en) * | 2004-06-30 | 2010-07-20 | Conexant Systems, Inc. | Combined pipelined classification and address search method and apparatus for switching environments |
| TWI279143B (en) * | 2005-07-11 | 2007-04-11 | Softfoundry Internat Ptd Ltd | Integrated compensation method of video code flow |
| US8879635B2 (en) * | 2005-09-27 | 2014-11-04 | Qualcomm Incorporated | Methods and device for data alignment with time domain boundary |
| US7511641B1 (en) * | 2006-09-19 | 2009-03-31 | Lattice Semiconductor Corporation | Efficient bitstream compression |
| JP5153550B2 (ja) | 2008-09-30 | 2013-02-27 | 日本写真印刷株式会社 | シート面の一部に金属薄膜を有し、ポリエステル系アンカー層を有する転写シート、及びその製造方法 |
-
2008
- 2008-03-31 BR BRPI0805802-4A patent/BRPI0805802A2/pt not_active IP Right Cessation
- 2008-03-31 CN CN2008800004749A patent/CN101543078B/zh not_active Expired - Fee Related
- 2008-03-31 KR KR1020097005749A patent/KR101442278B1/ko not_active IP Right Cessation
- 2008-03-31 US US12/442,746 patent/US8774283B2/en not_active Expired - Fee Related
- 2008-03-31 WO PCT/JP2008/056331 patent/WO2008123496A1/ja active Application Filing
- 2008-03-31 JP JP2009509248A patent/JP5527588B2/ja not_active Expired - Fee Related
- 2008-03-31 RU RU2009111258/07A patent/RU2479937C2/ru not_active IP Right Cessation
- 2008-03-31 EP EP08739445A patent/EP2061255A4/en not_active Withdrawn
Also Published As
| Publication number | Publication date |
|---|---|
| EP2061255A1 (en) | 2009-05-20 |
| BRPI0805802A2 (pt) | 2011-08-30 |
| JPWO2008123496A1 (ja) | 2010-07-15 |
| WO2008123496A1 (ja) | 2008-10-16 |
| EP2061255A4 (en) | 2012-08-22 |
| CN101543078A (zh) | 2009-09-23 |
| US20100027679A1 (en) | 2010-02-04 |
| CN101543078B (zh) | 2011-10-05 |
| KR101442278B1 (ko) | 2014-09-22 |
| RU2009111258A (ru) | 2010-10-10 |
| JP5527588B2 (ja) | 2014-06-18 |
| US8774283B2 (en) | 2014-07-08 |
| RU2479937C2 (ru) | 2013-04-20 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP5527588B2 (ja) | 情報処理装置および方法 | |
| JP5162939B2 (ja) | 情報処理装置および方法、並びにプログラム | |
| US20060062299A1 (en) | Method and device for encoding/decoding video signals using temporal and spatial correlations between macroblocks | |
| US20090168880A1 (en) | Method and Apparatus for Scalably Encoding/Decoding Video Signal | |
| US20060062300A1 (en) | Method and device for encoding/decoding video signals using base layer | |
| KR20140143138A (ko) | 화상 처리 장치 및 방법 | |
| US20150139614A1 (en) | Input/output system for editing and playing ultra-high definition image | |
| US20130121588A1 (en) | Method, apparatus, and program for compressing images, and method, apparatus, and program for decompressing images | |
| US20060120454A1 (en) | Method and apparatus for encoding/decoding video signal using motion vectors of pictures in base layer | |
| US20080008241A1 (en) | Method and apparatus for encoding/decoding a first frame sequence layer based on a second frame sequence layer | |
| JP5172874B2 (ja) | 映像同期装置、映像表示装置、映像同期方法及びプログラム | |
| US20060133497A1 (en) | Method and apparatus for encoding/decoding video signal using motion vectors of pictures at different temporal decomposition level | |
| US20070242747A1 (en) | Method and apparatus for encoding/decoding a first frame sequence layer based on a second frame sequence layer | |
| US20060159176A1 (en) | Method and apparatus for deriving motion vectors of macroblocks from motion vectors of pictures of base layer when encoding/decoding video signal | |
| US20070223573A1 (en) | Method and apparatus for encoding/decoding a first frame sequence layer based on a second frame sequence layer | |
| US20060120457A1 (en) | Method and apparatus for encoding and decoding video signal for preventing decoding error propagation | |
| US20060133499A1 (en) | Method and apparatus for encoding video signal using previous picture already converted into H picture as reference picture of current picture and method and apparatus for decoding such encoded video signal | |
| WO2023030070A1 (zh) | 编码、封装及显示方法、装置及电子设备 | |
| JP2006115001A (ja) | 映像送信装置および映像受信装置 | |
| US20130114740A1 (en) | Image coding method, image coding apparatus, image decoding method, image decoding apparatus, and storage medium | |
| CN115174884A (zh) | 一种基于sei的多相机同步信息传输与存储方法 | |
| CN114667738A (zh) | Mpd有效期到期处理模型 | |
| JP2004056234A (ja) | 画像符号化装置および画像符号化方法 | |
| JP2008099033A (ja) | 画像通信装置及び画像通信方法 | |
| JP2005252898A (ja) | 符号化データの再構成プログラム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination | ||
| E902 | Notification of reason for refusal | ||
| GRNT | Written decision to grant | ||
| LAPS | Lapse due to unpaid annual fee |