KR100327210B1 - Copy control apparatus of video data and method thereof - Google Patents
Copy control apparatus of video data and method thereof Download PDFInfo
- Publication number
- KR100327210B1 KR100327210B1 KR1019980016997A KR19980016997A KR100327210B1 KR 100327210 B1 KR100327210 B1 KR 100327210B1 KR 1019980016997 A KR1019980016997 A KR 1019980016997A KR 19980016997 A KR19980016997 A KR 19980016997A KR 100327210 B1 KR100327210 B1 KR 100327210B1
- Authority
- KR
- South Korea
- Prior art keywords
- dct
- watermark information
- block
- converter
- data
- Prior art date
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/91—Television signal processing therefor
- H04N5/913—Television signal processing therefor for scrambling ; for copy protection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/91—Television signal processing therefor
- H04N5/913—Television signal processing therefor for scrambling ; for copy protection
- H04N2005/91307—Television signal processing therefor for scrambling ; for copy protection by adding a copy protection signal to the video signal
- H04N2005/91335—Television signal processing therefor for scrambling ; for copy protection by adding a copy protection signal to the video signal the copy protection signal being a watermark
Abstract
Description
본 발명은 비디오 데이터의 복제 제어 장치 및 그 방법에 관한 것으로, 특히, MPEG(Moving Picture Experts Group) 동화상 압축/복원 장치에 사용되는 저작권을 보호하기 위한 복제 제어 장치 및 그 방법에 관한 것이다.BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an apparatus and method for copy control of video data, and more particularly, to an apparatus and method for copy control for protecting a copyright used in a moving picture expert group (MPEG) moving picture compression / restore device.
최근 인터넷(Internet), 디지털 위성 방송 및 DVD(Digital Versatile Disc)등을 포함한 디지털 전송 및 저장 매체의 보급이 급격히 증가함에 따라 오디오, 비디오, 이미지들 등의 디지털 멀티미디어 데이터에 대한 저작권 보호 문제가 대두되고 있다.Recently, as the spread of digital transmission and storage media including the Internet, digital satellite broadcasting, and DVD (Digital Versatile Disc) has rapidly increased, the issue of copyright protection for digital multimedia data such as audio, video, images, etc. has emerged. have.
특히, 퍼스널 컴퓨터(PC)를 사용하여 누구나 손쉽게 디지털 저작물을 복제 또는 편집할 수 있게 되었으며, 이러한 복제물의 경우 디지털 방식 고유의 특성에 의해 원래의 데이터와의 질 및 내용의 변질없이 상업적 유통이 가능하므로 저작권을 둘러싼 새로운 사회적 문제를 불러 일으키고 있다. 따라서, 이에 대한 방지책으로 디지털 워터마크(watermark) 기술이 각광을 받고 있다.In particular, anyone can easily copy or edit digital works using a personal computer (PC), and these copies can be commercially distributed without altering the quality and contents of the original data due to the inherent characteristics of digital methods. It raises new social problems surrounding copyright. Therefore, digital watermark technology is in the spotlight as a countermeasure against this.
디지털 A/V 데이터의 불법 복제의 방지를 위하여 다음의 두 가지 방법이 널리 사용되고 있다. 암호화(encryption)와 스크램블(scramble)을 이용한 복제 제어 방법과 디지털 정보의 부정 복제를 방지할 목적으로 보이지 않는 신호(invisible signal)를 멀티미디어 데이터에 삽입(embedding)하는 디지털 워터마크를 사용하는 방법이다.The following two methods are widely used to prevent illegal copying of digital A / V data. It is a copy control method using encryption and scramble, and a digital watermark that embeds an invisible signal into multimedia data for the purpose of preventing illegal copying of digital information.
첫 번째 방법은 정상적으로 구입한 A/V 저작물에 대해서만 구동이 가능한 디스크램블(descramble) 정보 및 암호 해독 정보를 알려주므로서 디지털 A/V 데이터의 복제를 원천적으로 금지하는 기술이며, 두 번째 방법은 디지털 정보의 불법적인 상법적 이용을 금지할 목적으로 A/V 내용 데이터(content data)에 식별자("ID"라고 약칭함), 로고(logo) 또는 디지털 기록기로 전송되는 복제 제어 정보등과 같은 디지털 워터마크 정보를 잡음의 형태로 삽입하여 사용자로 하여금 불법 복제 행위를 자제케 하는 기술이다.The first method is a technology that prohibits the duplication of digital A / V data by informing the descramble information and the decryption information that can be operated only for the A / V works purchased normally, and the second method is the digital method. Digital water, such as identifiers (abbreviated as "IDs"), logos, or copy control information sent to digital recorders in A / V content data for the purpose of prohibiting illegal commercial use of the information. It is a technology that allows the user to refrain from illegal copying by inserting mark information in the form of noise.
그러나, 암호화 및 스크램블을 이용한 복제 제어 방법은 비트 단위의 복제가 가능하고 또한 암호 데이터의 유출시에는 쉽게 복제가 가능하며, 종래의 디지털 데이터에 워터마크를 삽입하는 복제 제어 방법은 A/V 내용 데이터에 ID, 로고, 또는 디지털 기록기로 전송되는 복제 제어 정보를 잡음의 형태로 삽입하므로 부호화 효율을 감소시킬 수 있으며, 삽입된 워터마크 정보를 검출하기 위해서는 도 1에 도시된 바와 같이 원영상이 필요하므로 실시간 동화상 압축/복원 장치에 적용하기에는 매우 힘든 문제점이 있었다.However, the duplication control method using encryption and scramble can be duplicated bit by bit and can be easily duplicated when the encrypted data is leaked, and the duplication control method of inserting a watermark into the digital data is the A / V content data. Coding efficiency can be reduced by inserting ID, logo, or copy control information transmitted to a digital recorder in the form of noise, and since the original image is needed to detect the inserted watermark information, as shown in FIG. There is a problem that is very difficult to apply to a real-time video compression / restoration device.
종래의 디지털 워터마크 검출장치는 도 1에 도시된 바와 같이, 제1 주파수 변환기(11)는 워터마크가 삽입된 테스트 영상(D"(i,j))을 주파수 영역의 데이터로 변환하고, 제2 주파수 변환기(12)는 원영상(D(i,j))을 주파수 영역의 데이터로 변환한다. 감산기(13)는 제1 주파수 변환기(11)의 출력으로부터 제2 주파수 변환기(12)의 출력을 감산한다. 워터마크 추출기(14)는 감산기(13)의 감산 결과로부터 워터마크를 추출해서 추출된 워터마크 신호(X*(k))를 인가한다. 비교기(15)는 추출된 워터마크 신호(X*)와 원래의 워터마크 신호(X(k))를 비교해서 비교결과에 따라 추출된 워터마크 신호를 실제의 워터마크로 검출한다.In the conventional digital watermark detection apparatus, as illustrated in FIG. 1, the first frequency converter 11 converts a test image D ″ (i, j) having an embedded watermark into data in a frequency domain. The two frequency converter 12 converts the original image D (i, j) into data in the frequency domain, and the subtractor 13 outputs the output of the second frequency converter 12 from the output of the first frequency converter 11. The watermark extractor 14 extracts the watermark from the subtraction result of the subtractor 13. The extracted watermark signal X * (k) is applied.The comparator 15 extracts the extracted watermark signal. (X * ) is compared with the original watermark signal X (k) and the extracted watermark signal is detected as the actual watermark according to the comparison result.
위에서 언급한 바와 같이, 도 1에 도시된 워터마크 검출장치는 정지화와 같은 실시간 처리가 필요로 하지 않는 장치에서는 사용할 수 있으나 실시간 처리를 요구하며 고압축 부호화체계를 사용하는 동화상 압축/복원장치에서는 원영상을 보관하기 위한 별도의 하드웨어량으로 인한 많은 비용이 들며, 실시간 처리가 어려운문제점이 있었다.As mentioned above, the watermark detection apparatus shown in FIG. 1 can be used in a device that does not require real-time processing such as still images, but requires a real-time processing and uses an original image in a moving picture compression / restore device that uses a high compression coding system. It is expensive because of the amount of extra hardware to store the data, and the real-time processing was difficult.
상기한 문제점을 해결하기 위하여, 본 발명의 목적은 실시간 처리가 가능하고, 원영상을 필요로 하지 않는 복제 제어 장치를 제공하는 데 있다.In order to solve the above problems, an object of the present invention is to provide a copy control device capable of real-time processing, and does not require the original image.
본 발명의 다른 목적은 블록 기반의 움직임 예측/보상을 이용한 동화상 압축/복원 장치에서 사용하기 위한 복제 제어 장치를 제공하는 데 있다.Another object of the present invention is to provide a copy control device for use in a moving picture compression / restore device using block based motion prediction / compensation.
본 발명의 또 다른 목적은 실시간 처리가 가능하고 원영상을 필요로 하지 않는 복제 제어 방법을 제공하는 데 있다.Another object of the present invention is to provide a copy control method capable of real-time processing and does not require the original image.
상기의 목적과 다른 목적을 달성하기 위하여, 본 발명에 의한 복제 제어 장치는 저작권 보호를 위하여 워터마크를 이용하는 복제 제어 장치에 있어서: 워터마크 정보를 소정의 부영상 단위로 스펙트럼상에 확산시키고, 의사 잡음열을 이용하여 변조하여 변조된 워터마크 정보를 발생하는 변조 유니트 및 보이지 않는 신호로 변조된 워터마크 정보를 입력 영상에 삽입하여 워터마크된 데이터를 발생하는 삽입 유니트를 포함함함을 특징으로 한다.In order to achieve the above object and other objects, the copy control apparatus according to the present invention is a copy control apparatus using a watermark for copyright protection: spreading watermark information on a spectrum in a predetermined sub-picture unit, And a modulation unit generating modulated watermark information by using a noise string and an insertion unit generating watermarked data by inserting watermark information modulated by an invisible signal into an input image.
또한, 본 발명의 복제 제어 장치는 워터마크된 데이터로부터 워터마크 정보를 의사 잡음열을 이용하여 복조하여 복조된 워터마크 정보를 발생하는 복조 유니트 및 복조된 워터마크 정보를 소정 크기의 부영상 단위로 합하여 워터마크 정보를 검출하는 검출 유니트를 더 포함하고 있다.In addition, the copy control apparatus of the present invention demodulates watermark information from watermarked data using a pseudo noise string to generate demodulated watermark information and converts the demodulated watermark information into sub-picture units having a predetermined size. In addition, the apparatus further includes a detection unit that detects the watermark information.
상기의 또 다른 목적을 달성하기 위하여, 본 발명에 의한 복제 제어 방법은 블록 기반 압축부호화 체계에 의해 비디오 데이터를 부호화하고 복호화하는 방법에있어서, 워터마크 정보의 정보 비트수와 패턴을 할당하는 단계, 할당된 워터마크 정보를 상관도를 고려한 소정수의 블록으로 이루어진 칩레이트내에 확산해서 확산된 워터마크 정보를 발생하는 단계, 확산된 워터마크 정보가 삽입된 동화상 데이터를 발생하는 단계를 포함함을 특징으로 한다.In order to achieve the above another object, the copy control method according to the present invention is a method for encoding and decoding video data by a block-based compression encoding scheme, the method comprising the steps of: assigning the number of information bits and patterns of watermark information, Generating the spread watermark information by spreading the allocated watermark information into a chip rate consisting of a predetermined number of blocks in consideration of the degree of correlation, and generating moving image data into which the spread watermark information is inserted. It is done.
본 발명에 의한 복제 제어 방법은 워터마크 정보가 삽입된 비디오 데이터에 대해 DCT 변환하여 DCT 계수를 인가하는 단계, DCT 계수 중 AC 계수만으로 IDCT 변환해서 IDCT 데이터를 발생하는 단계, 의사 잡음열을 이용하여 IDCT 데이터를 복조해서 복조된 데이터를 발생하는 단계 및 복조된 데이터를 칩레이트 단위로 합하여 워터마크 정보를 검출하는 단계를 더 포함함을 특징으로 한다.The copy control method according to the present invention comprises the steps of applying DCT coefficients by transforming DCT to video data embedded with watermark information, generating IDCT data by converting IDCT to only AC coefficients among DCT coefficients, and using pseudo noise strings. And demodulating IDCT data to generate demodulated data, and adding the demodulated data in a chip rate unit to detect watermark information.
본 발명에 의한 복제 제어 방법은 워터마크 정보가 삽입된 비디오 데이터를 DCT 변환하여 DCT 영역상에서 블록 분류하는 단계, 분류된 블록의 특성을 이용하여 삽입 마스크를 추출하는 단계, 추출된 삽입 마스크를 이용하여 현재 DCT 블록의 DC 계수 및 분류된 블록의 AC 계수를 제외한 DCT 계수에 대해 IDCT 변환하여 IDCT 계수를 인가하는 단계, IDCT 계수로부터 의사 잡음열을 이용하여 복조하여 복조된 데이터를 인가하는 단계 및 복조된 데이터를 칩레이트 단위로 합하여 워터마크 정보를 검출하는 단계를 더 포함함을 특징으로 한다.The duplication control method according to the present invention comprises the steps of DCT converting video data having watermark information embedded therein to block classification on a DCT region, extracting an insertion mask using characteristics of the classified block, and using the extracted insertion mask. IDCT transforming and applying IDCT coefficients to DCT coefficients excluding the DC coefficients of the current DCT block and the AC coefficients of the classified block, applying demodulated data using a pseudo noise string from the IDCT coefficients, and demodulated. The method may further include detecting watermark information by adding data in units of chip rates.
도 1은 종래의 디지털 워터마크 검출 장치의 블록도이다.1 is a block diagram of a conventional digital watermark detection apparatus.
도 2는 본 발명의 이해를 돕기 위한 일반적인 동화상 데이터의 부호화장치의 블록도이다.2 is a block diagram of a general encoding apparatus for moving picture data, to aid in understanding the present invention.
도 3은 MPEG-2 동화상 부호화를 위한 비디오 픽쳐의 구조를 보인 도면이다.3 is a diagram showing the structure of a video picture for MPEG-2 video encoding.
도 4는 본 발명에 의한 디지털 워터마크가 포함된 동화상 데이터의 부호화 장치의 일 실시예에 따른 블록도이다.4 is a block diagram according to an embodiment of an apparatus for encoding moving image data including a digital watermark according to the present invention.
도 5는 본 발명에 의한 디지털 워터마크가 포함된 동화상 데이터의 부호화 장치의 다른 실시예에 따른 블록도이다.5 is a block diagram according to another embodiment of an apparatus for encoding moving picture data including a digital watermark according to the present invention.
도 6은 도 4 및 도 5에 도시된 워터마크 정보 삽입기의 일 실시예에 따른 상세 블록도이다.6 is a detailed block diagram of an embodiment of the watermark information inserter shown in FIGS. 4 and 5.
도 7은 도 4 및 도 5에 도시된 워터마크 정보 삽입기의 다른 실시예에 따른 상세 블록도이다.FIG. 7 is a detailed block diagram of another embodiment of the watermark information inserter shown in FIGS. 4 and 5.
도 8의 (a) 내지 (d)는 도 7에 도시된 블록 분류기에서 사용되는 분류 마스크를 설명하기 위한 도면이다.8A to 8D are diagrams for describing a classification mask used in the block classifier shown in FIG. 7.
도 9는 도 4에 도시된 워터마크 정보 제거기의 일 실시예에 따른 상세 블록도이다.9 is a detailed block diagram of an embodiment of the watermark information remover illustrated in FIG. 4.
도 10은 도 4에 도시된 워터마크 정보 제거기의 다른 실시예에 따른 상세 블록도이다.FIG. 10 is a detailed block diagram of another embodiment of the watermark information remover illustrated in FIG. 4.
도 11은 본 발명의 이해를 돕기 위한 일반적인 동화상 데이터의 복호화장치의 블록도이다.11 is a block diagram of a general decoding apparatus for moving picture data for understanding the present invention.
도 12는 본 발명에 의한 디지털 워터마크가 포함된 동화상 데이터의 복호화 장치의 일 실시예에 따른 블록도이다.12 is a block diagram according to an embodiment of an apparatus for decoding moving picture data including a digital watermark according to the present invention.
도 13은 본 발명에 의한 디지털 워터마크가 포함된 동화상 데이터의 복호화 장치의 다른 실시예에 따른 블록도이다.13 is a block diagram according to another embodiment of an apparatus for decoding moving picture data including a digital watermark according to the present invention.
도 14는 도 12 및 도 13에 도시된 워터마크 정보 검출기의 일 실시예에 따른 상세 블록도이다.FIG. 14 is a detailed block diagram of an embodiment of the watermark information detector illustrated in FIGS. 12 and 13.
도 15는 도 12 및 도 13에 도시된 워터마크 정보 검출기의 다른 실시예에 따른 상세 블록도이다.15 is a detailed block diagram of another embodiment of the watermark information detector illustrated in FIGS. 12 and 13.
이하, 첨부된 도면을 참조하여, 본 발명에 의한 비디오 데이터의 복제 제어 장치 및 그 방법의 바람직한 실시예를 설명하기로 한다.Hereinafter, with reference to the accompanying drawings, it will be described a preferred embodiment of the copy control apparatus and method of the video data according to the present invention.
도 2는 본 발명의 이해를 돕기 위한 일반적인 MPEG-2 동화상 데이터의 부호화 장치의 블록도로서, 동화상 부호화 장치는 픽쳐내(intra-picture) 압축 및 픽쳐간(inter-picture) 압축을 하며, 예를 들어 I,P,B 픽쳐의 압축의 시퀀스에 따라 행한다.FIG. 2 is a block diagram of a general apparatus for encoding MPEG-2 video data for understanding of the present invention. The video encoding apparatus performs intra-picture compression and inter-picture compression. For example, this is performed according to the compression sequence of I, P, and B pictures.
통상적인 영상신호의 압축 부호화는 픽쳐를 기본단위로 하여 도 3에 도시된 바와 같이 현재 픽쳐만의 정보를 가지고 영상 정보의 공간적 잉여(redundancy) 정보를 줄이는 인트라(I) 픽쳐, 전방 예측을 통해 픽쳐간의 상관 관계를 줄이기 위하여 시간적으로 앞서는 이전의 I 또는 프리딕티드(P) 픽쳐와의 차성분을 압축부호화하는 P 픽쳐 및 양방향 예측을 통해 픽쳐간의 상관 관계를 줄이기 위해 이전의 I 또는 P 픽쳐들과 이후의 I 또는 P 픽쳐들과의 차성분을 압축부호화하는 양방향 프리딕티드(B) 픽쳐를 구성해서 부호화하고 있다.In general, compression coding of a video signal has an intra (I) picture that reduces information on the spatial redundancy of the video information with only the current picture as shown in FIG. To reduce the correlation between the previous I or P pictures, to reduce the correlation between the pictures through bi-prediction and P-picture compression-coding the difference component with the previous I or predicted (P) picture. A bidirectional predicated (B) picture that compresses and encodes a difference component with subsequent I or P pictures is constructed and encoded.
한편, 도 2에 도시된 아날로그/디지털(A/D) 변환기(102)는 입력되는 원영상신호를 디지털 영상 데이터로 변환한다. MPEG-1과는 달리 MPEG-2에서는 하나의 프레임을 그대로 DCT 변환하는 프레임 DCT 모드와 하나의 프레임을 두 개의 필드(기수 필드, 우수 필드)로 보고, 같은 필드내에서만 DCT 변환하는 필드 DCT 모드를 부가하여 모두 두 가지의 DCT 변환 모드를 가진다. 대개의 경우 움직임이 많은 영상에 대해서는 필드 DCT 변환이 더 압축 효율이 높아진다. 이 DCT 변환 모드에 대응하기 위하여 A/D 변환기(102)로부터 공급되는 영상 데이터를 프레임/필드 메모리(104)에 프레임 또는 필드 단위로 일시 저장한다.Meanwhile, the analog-to-digital (A / D) converter 102 shown in FIG. 2 converts the input original video signal into digital video data. Unlike MPEG-1, MPEG-2 uses the frame DCT mode of DCT conversion of one frame as it is, and the field DCT mode of DCT conversion of only one frame as two fields (odd field and even field). In addition, both have two DCT conversion modes. In most cases, field DCT conversion is more efficient for high-motion video. In order to correspond to the DCT conversion mode, the video data supplied from the A / D converter 102 is temporarily stored in the frame / field memory 104 on a frame or field basis.
I 픽쳐의 화소 데이터는 감산기(106)의 영향을 받지 않고 그대로 DCT(Discrete Cosine Transform) 변환기(108)로 인가된다. DCT 변환기(108)는 입력되는 영상을 8화소8 라인의 DCT 블록 단위로 DCT 변환하고, 양자화기(110)는 DCT 변환기(108)로부터 공급되는 DCT 계수를 양자화하고, 가변장 부호화 및 다중화기(VLC & MUX:112)는 양자화기(110)로부터 공급되는 양자화된 데이터를 가변장 부호화하고, 이 가변장 부호화된 데이터와 움직임 예측기(124)로부터 공급되는 움직임 벡터, 레이트 제어기(130)로부터 공급되는 양자화간격과 같은 부가정보를 다중화하여 부호화된 비트스트림을 출력한다. 버퍼(114)는 부호화된 비트스트림의 비트레이트를 조절하기 위해 비트스트림을 일시 저장한다.The pixel data of the I picture is applied to the discrete cosine transform (DCT) converter 108 without being affected by the subtractor 106. The DCT converter 108 converts the input image into 8 pixels. DCT conversion in units of 8 lines of DCT blocks, the quantizer 110 quantizes the DCT coefficients supplied from the DCT converter 108, and the variable length encoder and multiplexer (VLC & MUX: 112) is a quantizer 110. Bit encoded by quantizing the quantized data supplied from the multiplexed code, multiplexing the variable length coded data with additional information such as the motion vector supplied from the motion predictor 124 and the quantization interval supplied from the rate controller 130. Output the stream. The buffer 114 temporarily stores the bitstream to adjust the bitrate of the encoded bitstream.
양자화기(110)로부터 공급되는 압축된 I 픽쳐는 역양자화기(116)에서 역양자화되고, IDCT(Inverse Discrete Cosine Transform) 변환기(118)는 역양자화된 I 픽쳐에 대해 IDCT 변환하여 압축해제된 I 픽쳐를 가산기(120)에 인가한다. 압축해제된 I 픽쳐는 가산기(120)의 영향을 받지 않고 그대로 버퍼역할을 하는 프레임 메모리(122)에 전송되고, 이후 P 및 B 픽쳐를 예측 압축하기 위하여 프레임 메모리(122)에 저장된다.The compressed I picture supplied from the quantizer 110 is inversely quantized in the inverse quantizer 116, and the Inverse Discrete Cosine Transform (IDCT) converter 118 decompresses an IDCT transform for the dequantized I picture. The picture is applied to the adder 120. The decompressed I picture is transmitted to the frame memory 122 serving as a buffer as it is without being influenced by the adder 120, and then stored in the frame memory 122 to predictively compress the P and B pictures.
P 및 B 픽쳐의 예측 부호화도 유사하며, 예로서 P 픽쳐 압축에 대해 설명한다. 프레임 메모리(122)에 저장된 영상 프레임들은 움직임 예측기(124)에 인가된다. 움직임 예측기(124)는 현재 입력되는 영상 데이터와 프레임 메모리(122)에 저장된 이전 또는 이후의 기준 프레임의 영상 데이터를 이용하여 움직임 벡터를 계산해서 VLC & MUX(112) 및 움직임 보상기(126)에 출력한다.The predictive coding of P and B pictures is similar, and P picture compression is described as an example. The image frames stored in the frame memory 122 are applied to the motion predictor 124. The motion predictor 124 calculates a motion vector using the image data currently input and the image data of previous or subsequent reference frames stored in the frame memory 122, and outputs the motion vector to the VLC & MUX 112 and the motion compensator 126. do.
움직임 보상기(126)는 움직임 예측기(124)에서 예측된 움직임 벡터에 상응하는 블록을 프레임 메모리(122)로부터 독출하여 감산기(106)에 공급한다.감산기(106)는 현재 압축 해제될 픽쳐에 대응하는 블록으로부터 움직임 보상기(126)를 통해 프레임 메모리(122)로부터의 예측된 블록을 감산하는 데, 화소 대 화소 단위로 감산한다. 감산기(106)의 감산에 의해 얻어진 차 또는 나머지(residue)는 DCT 수행기(108)에 인가된다.The motion compensator 126 reads the block corresponding to the motion vector predicted by the motion predictor 124 from the frame memory 122 and supplies it to the subtractor 106. The subtractor 106 corresponds to the picture to be decompressed currently. Subtract the predicted block from the frame memory 122 from the block through the motion compensator 126, subtracting pixel by pixel. The difference or residual obtained by subtraction of the subtractor 106 is applied to the DCT performer 108.
한편, 압축된 P 픽쳐는 역양자화기(116) 및 IDCT 변환기(118)에서 복호화되고, 복호화된 데이터는 가산기(120)의 제1 입력단에 인가된다. 동시에 현재 픽쳐를 예측하기 위해 프레임 메모리(122)에 저장된 기준 프레임의 각각의 블록을 억세스하여 억세스된 블록은 움직임 보상기(126)를 통해 가산기(120)의 제2 입력단에 인가된다. 가산기(120)는 부호화된 나머지 또는 차와 움직임 보상기(126)로부터 출력되는 데이터를 가산해서 실제의 영상을 복원한다. 가산기(120)로부터의 복원된 P 픽쳐는 이후 B 픽쳐를 예측 부호화/복호화하기 위하여 프레임 메모리(122)에 저장된다.Meanwhile, the compressed P picture is decoded by the dequantizer 116 and the IDCT converter 118, and the decoded data is applied to the first input terminal of the adder 120. At the same time, each block of the reference frame stored in the frame memory 122 is accessed to predict the current picture, and the accessed block is applied to the second input terminal of the adder 120 through the motion compensator 126. The adder 120 adds the encoded remainder or difference and the data output from the motion compensator 126 to reconstruct the actual image. The reconstructed P picture from the adder 120 is then stored in frame memory 122 to predictively encode / decode the B picture.
한편, 활동도 계산기(128)는 초기 버퍼 충만도를 설정하기 위해서 프레임/필드 메모리(104)에 저장된 입력 영상의 공간영역에서 활동도(activity)를 계산해서 이 활동도에 근거한 양자화간격(quantization stepsize)을 예측한다. 레이트(rate) 제어기(130)는 예측된 양자화간격과 버퍼(114)의 충만도(fullness)에 근거하여 실제 양자화간격을 양자화기(110) 및 VLC & MUX(112)에 인가한다. 이때, 버퍼(114)는 부호화된 비트량에 따라 버퍼 충만도가 변하므로 양자화간격을 피드백으로 제어하게 된다. 도 2에 도시된 역양자화기(116)와 IDCT 변환기(118)는 국부(local) 복호화기로 지칭될 수 있으며, 감산기(106), 가산기(120), 프레임 메모리(122), 움직임예측기(124) 및 움직임 보상기(126)는 움직임 예측 및 보상기로 지칭될 수 있다.On the other hand, the activity calculator 128 calculates the activity in the spatial region of the input image stored in the frame / field memory 104 to set the initial buffer fullness, thereby quantizing steps based on the activity. Predict The rate controller 130 applies the actual quantization interval to the quantizer 110 and the VLC & MUX 112 based on the predicted quantization interval and the fullness of the buffer 114. In this case, the buffer 114 changes the buffer fullness according to the encoded bit amount, thereby controlling the quantization interval as feedback. The inverse quantizer 116 and IDCT converter 118 shown in FIG. 2 may be referred to as local decoders, including a subtractor 106, an adder 120, a frame memory 122, and a motion predictor 124. And motion compensator 126 may be referred to as a motion predictor and compensator.
도 4는 본 발명에 의한 디지털 워터마크가 삽입된 동화상 데이터의 부호화 장치의 일 실시예에 따른 블록도로서, 도 2에 도시된 동화상 데이터의 부호화 장치와 비교해 볼 때 프레임/필드 메모리(204)와 감산기(208)사이에 연결되는 워터마크 정보 삽입기(206) 및 IDCT 변환기(220)와 가산기(224) 사이에 연결되는 워터마크 정보 제거기(222)가 더 구성되어 있는 점이 상이하다.FIG. 4 is a block diagram of an apparatus for encoding video data having a digital watermark embedded therein according to an embodiment of the present invention. As compared with the apparatus for encoding video data shown in FIG. The watermark information inserter 206 connected between the subtractor 208 and the watermark information remover 222 connected between the IDCT converter 220 and the adder 224 are different from each other.
즉, 도 4에 도시된 부호화 장치는 MPEG-2 동화상 부호화시 기준 픽쳐로 사용되는 I 픽쳐에만 워터마크 정보를 삽입하며, 또한 I 픽쳐를 기준으로 하여 움직임 예측 및 보상하는 P 및 B 픽쳐에 대해, 삽입된 워터마크 정보에 의한 움직임 예측 및 보상시의 오차를 줄이기 위해, 움직임 예측시 기준 픽쳐로 사용되는 국부 복호화된 I 픽쳐로부터 워터마크를 제거하도록 구성되어 있다.That is, the encoding apparatus shown in FIG. 4 inserts watermark information only into an I picture used as a reference picture in MPEG-2 video encoding, and for P and B pictures that are motion predicted and compensated based on the I picture, In order to reduce errors in motion prediction and compensation due to the inserted watermark information, the watermark is configured to be removed from the local decoded I picture used as a reference picture in motion prediction.
도 5는 본 발명에 의한 디지털 워터마크가 삽입된 동화상 데이터의 부호화 장치의 다른 실시예에 따른 블록도로서, 도 4에 도시된 동화상 데이터의 부호화 장치와 비교해 볼 때 회로의 간략화를 위해 워터마크 정보 제거기가 구성되지 않은 점만이 상이하다.FIG. 5 is a block diagram according to another embodiment of an apparatus for encoding video data having a digital watermark embedded therein, according to an embodiment of the present invention. Watermark information is used for simplifying a circuit as compared with the apparatus for encoding video data shown in FIG. 4. Only the eliminator is not configured.
즉, 도 5에 도시된 부호화 장치는 워터마크 정보 삽입기(205)에 의해 MPEG-2 동화상 부호화시 기준 픽쳐로 사용되는 I 픽쳐에 대해서만 워터마크 정보를 삽입하고, I 픽쳐를 기준으로 하여 움직임 예측 및 보상하는 P 및 B 픽쳐에 대해, 움직임 예측시 기준 픽쳐로 사용되는 국부 복호화된 I 픽쳐에서 워터마크를 제거하지 않아도 화질에는 큰 영향이 없다는 것을 실험을 통해 알 수 있었으므로 회로의 간략화를 위해 워터마크 정보 제거기가 구성되지 않았다.That is, the encoding apparatus shown in FIG. 5 inserts watermark information only for an I picture used as a reference picture in MPEG-2 video encoding by the watermark information inserter 205, and predicts motion based on the I picture. For the P and B pictures to be compensated, the experiment shows that there is no significant effect on the image quality even if the watermark is not removed from the local decoded I picture used as the reference picture in the motion prediction. Mark information eliminator is not configured.
도 6은 도 4에 도시된 워터마크 정보 삽입기(206)와 도 5에 도시된 워터마크 정보 삽입기(205)의 일 실시예에 따른 상세 블록도로서, 이 워터마크 정보 삽입기는 제1 DCT 변환기(238), 누적기 및 제산기(240), 분산 계산기(242), 증폭기(244), 복제 제어 정보 발생기(246), 스펙트럼 확산기(248), 의사 잡음열(Pseudo Random Noise Sequence:PN) 발생기(250), 변조기(252), 제2 DCT 변환기(254), 승산기(256), 가산기(258) 및 IDCT 변환기(260)로 구성된다.6 is a detailed block diagram of an embodiment of the watermark information inserter 206 shown in FIG. 4 and the watermark information inserter 205 shown in FIG. 5, wherein the watermark information inserter is a first DCT. Converter 238, accumulator and divider 240, variance calculator 242, amplifier 244, replication control information generator 246, spectrum spreader 248, pseudo random noise sequence (PN) Generator 250, modulator 252, second DCT converter 254, multiplier 256, adder 258, and IDCT converter 260.
도 6에 도시된 워터마크 정보 삽입기의 동작을 설명의 편의상 도 4와 결부시켜 설명하고, 워터마크 정보의 예로서 복제 제어 정보로 설명한다.The operation of the watermark information inserter shown in FIG. 6 will be described in conjunction with FIG. 4 for convenience of explanation, and described as copy control information as an example of watermark information.
도 6에 있어서, 제1 DCT 변환기(238)는 도 4에 도시된 프레임/필드 메모리(204)로부터 공급되는 I 픽쳐 데이터(xi)에 대해 DCT 변환해서 DCT 계수를 발생하고, 누적기 및 제산기(240)는 N개의 DCT블록에 대한 DCT 계수를 누적하고, 누적된 DCT 계수를 계산해서 칩레이트 단위로 평균 분산을 계산한다.In FIG. 6, the first DCT converter 238 performs DCT conversion on the I picture data x i supplied from the frame / field memory 204 shown in FIG. 4 to generate a DCT coefficient, The calculator 240 accumulates the DCT coefficients for the N DCT blocks, calculates the accumulated DCT coefficients, and calculates an average variance in units of chip rates.
여기서, 원영상없이 삽입된 워터마크의 검출을 위해서는 워터마크 정보가 삽입되는 칩레이트(chiprate)는 화상의 상관도가 상대적으로 강한 영역으로 영상을 재구성할 필요가 있으며 따라서 칩레이트는 워터마크 정보 비트를 숨길려는 DCT 블록의 블록 배수로서 정의되며, 즉 N88로 구성한다. 여기서, 칩레이트 단위를 부영상 단위라고 지칭될 수 있다.Here, in order to detect a watermark inserted without an original image, it is necessary to reconstruct an image into a region in which watermark information is inserted into a relatively strong region of the image. Is defined as the block multiple of the DCT block to hide 8 It consists of eight. Here, the chip rate unit may be referred to as a sub-picture unit.
분산 계산기(242)는 제1 DCT 변환기(238)로부터 공급되는 현재 8화소8라인의 DCT 블록의 분산을 계산하고, 이 계산된 DCT 블록의 분산(복잡도)이 누적기 및 제산기(240)로부터 공급되는 해당 칩레이트의 평균 분산보다 크면 증폭기(244)는 증폭 계수(amplication factor) alpha를 증가시킨다. 이 증폭 계수는 시각 감도 계수 또는 삽입 강도(embedding strength)라고 지칭될 수 있다.The variance calculator 242 is currently eight pixels supplied from the first DCT converter 238. If the variance of the DCT block of eight lines is calculated and the variance (complexity) of the calculated DCT block is greater than the average variance of the corresponding chip rate supplied from the accumulator and divider 240, the amplifier 244 amplifies the amplification coefficient (amplication). factor) increases alpha This amplification coefficient may be referred to as visual sensitivity coefficient or embedding strength.
단, 현재 DCT 블록의 분산이 칩레이트의 평균 분산보다 작으면 alpha = n 이고, 그렇지 않으면 alpha = m 이다. n은 m보다 작다. 즉, 현재 DCT 블록의 복잡도가 해당 칩레이트의 평균 복잡도보다 크면 alpha를 증가시킨다.However, if the variance of the current DCT block is less than the average variance of the chip rate, alpha = n, otherwise alpha = m. n is less than m. That is, if the complexity of the current DCT block is greater than the average complexity of the corresponding chip rate, alpha is increased.
또한, 본 발명에서는 잡음 형태로 삽입되는 복제 제어 정보에 의한 MPEG 부호화시의 화질의 열화를 막고 삽입된 복제 제어 정보의 제거에 강인한 특성을 주기 위해 의사 잡음열을 이용한 확장된 주파수 확산(extended spectrum spreading)으로 복제 제어 정보를 삽입하며, 복제 제어 정보 발생기(246)에서 발생되는 복제 제어 정보(ai)의 예는 다음과 같다.In addition, in the present invention, extended spectrum spreading using pseudo-noise sequence is used to prevent degradation of image quality during MPEG encoding due to copy control information inserted in the form of noise and to give robustness to removal of inserted copy control information. ) Is inserted into the copy control information, and an example of the copy control information a i generated by the copy control information generator 246 is as follows.
- 1회 복제 허용(one copy)Allow one copy
- 복제 금지(copy never)Copy never
- 더 이상 카피 불가(no more copy)No more copy
- 기타- Other
본 발명의 실시예에서는 복제 제어 정보의 패턴은 4개이며, 이는 2비트로 표현할 수 있다.In the embodiment of the present invention, the copy control information has four patterns, which can be represented by two bits.
스펙트럼 확산기(248)는 복제 제어 정보 비트를 칩레이트내에 스펙트럼적으로 확산해서 삽입한다. 의사 잡음열 발생기(250)는 변조를 위한 의사 잡음열(pi)을 발생한다. 변조기(252)는 스펙트럼 확산기(248)로부터 공급되는 확산된 복제 제어 정보(bi)를 의사 잡음열 발생기(250)로부터 공급되는 의사 잡음열(pi)을 이용하여 변조시킨다. 제2 DCT 변환기(254)는 변조기(252)로부터 공급되는 변조된 복제 제어 정보에 대해 DCT 변환한다.Spectrum spreader 248 spreads and inserts the copy control information bits into the chip rate. Pseudo-noise sequence generator 250 generates a pseudo-noise sequence pi for modulation. Modulator 252 modulates using the pseudo noise column (p i) to be supplied to (b i) the spread spectrum duplication control information supplied from the spreader 248 from the pseudo noise generator column 250. The second DCT converter 254 performs DCT conversion on the modulated copy control information supplied from the modulator 252.
승산기(256)는 증폭기(244)로부터 공급되는 시각 감도 계수(alpha)와 제2 DCT 변환기(254)로부터 공급되는 복제 제어 정보에 대한 DCT 계수를 승산해서 승산결과를 가산기(258)에 인가한다. 가산기(258)는 제1 DCT 변환기(238)로부터 공급되는 소오스 영상의 I 픽쳐에 대한 DCT 계수와 승산기(256)의 승산결과를 가산하고, 가산결과를 IDCT 변환기(260)에 인가한다.The multiplier 256 multiplies the visual sensitivity coefficient alpha supplied from the amplifier 244 with the DCT coefficient for the replication control information supplied from the second DCT converter 254 to apply the multiplication result to the adder 258. The adder 258 adds the DCT coefficient for the I picture of the source image supplied from the first DCT converter 238 and the multiplication result of the multiplier 256, and applies the addition result to the IDCT converter 260.
IDCT 변환기(260)는 이 가산결과에 대해 IDCT 변환해서 복제 제어 정보가 삽입된 픽쳐(x'i)를 출력하며, 즉, 4개 패턴의 복제 제어 정보 중 하나가 원화상 I 픽쳐에 잡음 형태로 삽입된다.IDCT transformer 260 to the noise form the IDCT transform to replication and control information is output to the inserted picture (x 'i), that is, one is the original image I picture of the copying control information of the four patterns for the addition result Is inserted.
여기서, 복제 제어 정보의 삽입 방법의 일 실시예는 다음과 같다.Here, an embodiment of a method of inserting copy control information is as follows.
제1 단계: 삽입되는 복제 제어 정보의 정보 비트수를 수학식 1과 같이 할당하고, 할당된 정보 비트수와 패턴에 따른 복제 제어 정보(aj,k)를 수학식 2와 같이 나타낼 수 있다.First step: The number of information bits of the inserted copy control information may be allocated as in Equation 1, and the copy control information (a j, k ) according to the allocated number of information bits and the pattern may be represented as in Equation 2.
여기서, j=1,..., 정보 비트수이고, k=1,2,3,4 이며, 4가지의 복제 제어 정보 패턴 중 하나의 복제 제어 정보 패턴을 나타낸다.Here, j = 1, ..., the number of information bits, k = 1, 2, 3, 4, and represents one copy control information pattern among four copy control information patterns.
제2 단계: 복제 제어 정보의 비트를 칩레이트내에 확산시킨다. 이를 식으로 나타내면 수학식 3과 같다.Step 2: Spread the bits of copy control information into the chip rate. This is represented by the equation (3).
여기서, jchiprate = i < (j+1)chiprate 이고, i는 픽셀이다.Where j chiprate = i <(j + 1) chiprate, and i is the pixel.
제3 단계: 수학식 4에 주어진 바와 같이 바이폴라(bipolar)로 이루어진 변조를 위한 의사 잡음열(pi)을 이용하여 복제 제어 정보를 변조시킨다.Third Step: As given in Equation 4, the copy control information is modulated by using a pseudo noise string pi for bipolar modulation.
제4 단계: 복제 제어 정보가 삽입된 I 픽쳐의 동화상 데이터(x'i)를 발생한다. 이를 식으로 나타내면 수학식 5와 같이 주어진다.Fourth step: Generate moving picture data x ' i of the I picture in which the copy control information is inserted. This is given by Equation 5 below.
여기서, alpha는 시각 감도 계수이고, DCT와 IDCT 단위는 8화소8라인의 블록 단위이다. 따라서, 위 수학식 5를 통하여 4개 패턴의 복제 제어 정보 중 하나를 워터마크 정보로서 원화상 I픽쳐에 잡음 형태로 삽입한다.Where alpha is the visual sensitivity factor and DCT and IDCT units are 8 pixels It is a block unit of 8 lines. Therefore, one of four patterns of copy control information is inserted into the original picture I picture in the form of noise as watermark information through Equation 5 above.
도 7은 도 4에 도시된 워터마크 정보 삽입기(206)와 도 5에 도시된 워터마크보 삽입기(205)의 다른 실시예에 따른 상세 블록도로서, 이 워터마크 정보 삽입기는 잡음 형태로 삽입되는 저작권 정보 및 복제 제어 정보에 의한 MPEG 부호화시의 화질의 열화를 막고 삽입된 저작권 정보 및 복제 제어 정보의 제거에 강인한 특성을 주기 위해 의사 잡음열을 이용한 스펙트럼 확산 기법의 디지털 워터마크를 삽입하기 위해서, 제1 DCT 변환기(233), 블록 분류기(235), 삽입 강도 계산기(237), 삽입 마스크 발생기(239), 워터마크 정보 발생기(241), 스펙트럼 확산기(243), 의사 잡음열 발생기(245), 변조기(247), 제2 DCT 변환기(249), 승산기(251), 가산기(253) 및 IDCT 변환기(255)로 구성된다.FIG. 7 is a detailed block diagram of another embodiment of the watermark information inserter 206 shown in FIG. 4 and the watermark inserter 205 shown in FIG. 5, wherein the watermark information inserter is in the form of noise. Inserting a digital watermark of a spread spectrum technique using a pseudo noise string to prevent deterioration of image quality during MPEG encoding due to embedded copyright information and copy control information and to give robustness to removal of inserted copyright information and copy control information. The first DCT converter 233, the block classifier 235, the insertion strength calculator 237, the insertion mask generator 239, the watermark information generator 241, the spectrum spreader 243, and the pseudo noise string generator 245. ), A modulator 247, a second DCT converter 249, a multiplier 251, an adder 253, and an IDCT converter 255.
도 7에 도시된 워터마크 정보 삽입기의 동작의 설명을 편의상 도 5와 결부시켜 설명하며, 워터마크 정보는 복제 제어 정보 뿐만 아니라 저작자 정보도 포함된 다.A description of the operation of the watermark information inserter shown in FIG. 7 will be described with reference to FIG. 5 for convenience. The watermark information includes not only copy control information but also author information.
도 7에 있어서, 제1 DCT 변환기(233)는 도 5에 도시된 프레임/필드 메모리(203)로부터 공급되는 인트라 픽쳐의 데이터(Imn(i,j))에 대해 8화소8라인 크기의 블록으로 나눈 후 DCT 변환하고, 블록 분류기(235)는 제1 DCT 변환기(233)를 거친 DCT 블록에 대해 도 8에 도시된 분류 마스크를 사용하여 다음과 같이 블록 분류한다. 즉, 각 DCT 블록은 분류 마스크를 사용하여 에너지 분포에 따라 분류된다.In FIG. 7, the first DCT converter 233 has 8 pixels for the data I mn (i, j) of the intra picture supplied from the frame / field memory 203 shown in FIG. After dividing into 8-line blocks, the DCT transform is performed, and the block classifier 235 classifies the DCT block through the first DCT converter 233 using the classification mask shown in FIG. 8 as follows. That is, each DCT block is classified according to energy distribution using a classification mask.
- 평탄 블록(flat block)Flat block
- 수평 에지 블록(horizontal edge block)Horizontal edge block
- 수직 에지 블록(vertical edge block)Vertical edge block
- 대각 에지 블록(diagonal edge block)Diagonal edge block
- 복잡 블록(detailed block)-Detailed block
본 발명에서의 블록 분류를 위해 사용되는 분류 마스크는 도 8의 (a)에 도시된 수직 에지 마스크, 도 8의 (b)에 도시된 수평 에지 마스크, 도 8의 (c)에 도시된 대각선 에지 마스크, 도 8의 (d)에 도시된 복잡 블록 마스크이다. 여기서, 마스크는 윈도우라고 지칭될 수 있다. 부가적으로, 88 크기의 블록 영상이 수직 에지 영상 이면 이 블록 영상에 대해 DCT 변환한 후 발생하는 DCT 계수들 중 AC 계수들은 도 8의 (a)에 도시된 바와 같이 주로 수평 방향의 AC 계수들이 존재하게 되고, 마찬가지로 88 크기의 블록 영상이 수평 에지 영상이면 이 블록 영상에 대해 DCT 변환한 후 발생하는 DCT 계수들 중 AC 계수들은 도 8의 (b)에 도시된 바와 같이 주로 수직 방향의 AC 계수들이 존재하게 된다. 블록 분류기(235)에서 행해지는 DCT 블록의 분류를 식으로 나타내면 다음과 같다.The classification mask used for block classification in the present invention is a vertical edge mask shown in Fig. 8A, a horizontal edge mask shown in Fig. 8B, and a diagonal edge shown in Fig. 8C. Mask, the complex block mask shown in Fig. 8D. Here, the mask may be referred to as a window. In addition, 8 If the block image of size 8 is a vertical edge image, AC coefficients among DCT coefficients generated after DCT conversion on the block image are mainly in the horizontal direction as shown in FIG. Like 8 If the block image having the size of 8 is a horizontal edge image, AC coefficients among DCT coefficients generated after DCT conversion on the block image mainly have AC coefficients in the vertical direction as shown in FIG. The classification of the DCT block performed in the block classifier 235 is as follows.
즉, 88 블록의 DCT 계수들의 합의 절대값에서 DC 계수를 감산한 값(Bsum)이 제1 문턱값(Th1)보다 작을 때 클래스를 평탄 블록으로 분류한다. DCT 블록의 각 DCT 계수와 도 8의 (b)에 도시된 수평 에지 마스크를 승산해서 승산한 결과의 절대적인 합을 Hsum이라 하고, DCT 블록의 각 DCT 계수와 도 8의 (a)에 도시된 수직 에지 마스크를 승산해서 승산한 결과의 절대적인 합을 Vsum라 하고, DCT 블록의 각 DCT 계수와 도 8의 (c)에 도시된 대각선 에지 마스크를 승산해서 승산한 결과의 절대적인 합을 Dsum라 할 때, 이 HSUM,DSUM,VSUM의 값이 제2 문턱값(Th2)보다 크면, 클래스를 이들 중 최대값을 갖는 에지 방향의 블록으로 분류한다. Bsum이 제1 문턱값(Th1)보다 작지도 않고, Hsum,Dsum,Vsum의 값이 제2 문턱값(TH2)보다 크지 않으면 클래스를 복잡 블록으로 분류한다.That is, 8 The class is classified as a flat block when the value B sum obtained by subtracting the DC coefficient from the absolute value of the sum of the DCT coefficients of the eight blocks is smaller than the first threshold Th1. The absolute sum of the result of multiplying each DCT coefficient of the DCT block by the horizontal edge mask shown in FIG. 8B is called H sum , and each DCT coefficient of the DCT block is shown in FIG. 8A. the absolute sum of the results by multiplying the vertical edge mask multiplying V sum La, and the DCT block absolute sum of the diagonal result by multiplying the edge mask multiplication shown in (c) of Figure 8 with each DCT coefficient d sum La When the value of H SUM , D SUM , and V SUM is larger than the second threshold Th2, the class is classified as an edge block having the maximum value among them. If B sum is not smaller than the first threshold Th1 and the values of H sum , D sum , and V sum are not greater than the second threshold TH2, the class is classified as a complex block.
삽입 강도 계산기(237)는 블록 분류기(235)에서 블록 분류가 되면 각각의 DCT 블록의 국부적 성질에 해당하는 삽입 강도(alpha)를 수학식 7을 이용하여 계산한다.The insertion strength calculator 237 calculates an insertion strength alpha corresponding to a local property of each DCT block using Equation 7 when the block classification is performed in the block classifier 235.
삽입 강도(alpha)는 각 블록의 전체 에너지에 따라 적응적으로 선택된다. 상대적으로 작은 에너지를 갖는 블록이면 삽입 강도(alpha)도 작고, 상대적으로 큰 에너지를 갖는 블록이면 삽입 강도(alpha)도 크다.Insertion strength alpha is adaptively selected according to the total energy of each block. In the case of a block having a relatively small energy, the insertion strength alpha is small. In the case of a block having a relatively large energy, the insertion strength alpha is also large.
삽입 마스크 발생기(239)는 수학식 8을 이용하여 블록 분류기(235)에서 분류된 블록의 특성에 따라 워터마크 정보가 삽입되는 위치를 나타내는 삽입 마스크(tmn(i,j))를 발생한다.The insertion mask generator 239 generates an insertion mask t mn (i, j) indicating a position at which watermark information is inserted according to the characteristics of the blocks classified by the block classifier 235 using Equation (8).
즉, 블록 분류기(235)에서 현재 DCT 블록의 특성이 평탄 블록으로 분류되고, DCT 블록의 계수들이 제3 문턱값(Th3)이 곱해진 Bsum값보다 큰 값을 가지면 삽입 마스크의 값(t(i,j))을 "0"으로 한 삽입 마스크가 발생하고, 즉, 평탄 블록이면 워터마크 정보를 삽입하지 않는다. 그렇지 않고 에지 블록 또는 복잡 블록이면 DC 계수 위치의 삽입 마스크의 값(t(0,0))은 "0"으로 설정되고, 삽입 마스크의 값(t(i,j))은 1에서 분류 마스크를 감산한 값을 갖는 삽입 마스크가 발생하고 즉, 평탄 블록을 제외한 블록이면 DC 위치와 해당 블록의 분류 마스크가 "1"인 위치를 제외한 위치에 워터마크 정보를 삽입한다. 워터마크 추출 에러의 주원인은 상대적으로 큰 DCT 계수에 워터마크 정보가 삽입되는 경우이며 본 발명에서는 삽입 마스크를 이용하여 워터마크 정보가 상대적으로 큰 DCT 계수에 삽입되는 것을 막는다. 삽입 마스크는 블록 분류 마스크와 반대이다.That is, when the characteristic of the current DCT block is classified as a flat block in the block classifier 235, and the coefficients of the DCT block have a value larger than the B sum value multiplied by the third threshold Th3, the value of the insertion mask t ( An insertion mask with i, j)) set to " 0 " is generated, i.e., if it is a flat block, no watermark information is inserted. Otherwise, if it is an edge block or a complex block, the value (t (0,0)) of the insertion mask at the DC coefficient position is set to "0", and the value of the insertion mask (t (i, j)) sets the classification mask at 1. If an insertion mask having a subtracted value is generated, that is, a block excluding the flat block, watermark information is inserted at a position excluding a DC position and a position where the classification mask of the block is "1". The main cause of the watermark extraction error is when watermark information is inserted into a relatively large DCT coefficient, and the present invention prevents the watermark information from being inserted into a relatively large DCT coefficient using an embedding mask. Insertion masks are the opposite of block classification masks.
한편, 워터마크 정보 발생기(241)는 워터마크 정보(wm)를 발생한다. 여기서, 본 발명의 디지털 워터마크 기법으로 삽입되는 저작자 정보 및 복제 제어 정보는 다음과 같이 구성할 수 있다.On the other hand, the watermark information generator 241 generates watermark information w m . Here, the author information and the copy control information inserted by the digital watermark technique of the present invention can be configured as follows.
- 저작자 정보는 : N 비트,-Attribution information: N bits,
- 복제 제어 정보 : 2비트Replication control information: 2 bits
따라서, 삽입되는 워터마크 정보량은 M=N+2 비트이다. 이 중 복제 제어 정보는 다음과 같은 4개의 패턴으로 구성한다.Therefore, the amount of watermark information to be inserted is M = N + 2 bits. Among them, the replication control information is composed of the following four patterns.
- 1회 복제 허용(one copy)Allow one copy
- 복제 금지(copy never)Copy never
- 더 이상 카피 불가(no more copy)No more copy
- 기타- Other
스펙트럼 확산기(243)는 워터마크 정보 비트를 칩레이트내에 스펙트럼적으로 확산해서 삽입한다. 의사 잡음열 발생기(245)는 변조를 위한 의사 잡음열(pmn(i,j))을 발생한다. 변조기(247)는 스펙트럼 확산기(243)로부터 공급되는 확산된 워터마크 정보(wm)를 의사 잡음열 발생기(245)로부터 공급되는 의사 잡음열(pmn(i,j))을 이용하여 변조시킨다. 즉, 이와 같이 확산된 저작자 정보 및 복제 제어 정보는 저작자만이 알고 있는 의사 잡음열로 변조한 후 제2 DCT 변환기(249)에서 DCT 변환한다.The spreader 243 spreads and inserts the watermark information bits into the chip rate spectrally. Pseudo-noise sequence generator 245 generates a pseudo-noise sequence p mn (i, j) for modulation. The modulator 247 modulates the spread watermark information w m supplied from the spectrum spreader 243 using the pseudo noise string p mn (i, j) supplied from the pseudo noise string generator 245. . That is, the author information and the copy control information spread as described above are modulated by a pseudo noise string known only to the author, and then DCT-converted by the second DCT converter 249.
승산기(251)는 삽입 강도 계산기(237)로부터 출력되는 삽입 강도(alpha), 삽입 마스크 발생기(239)로부터 공급되는 삽입 마스크값(tmn(i,j))과 제2 DCT 변환기(249)로부터 공급되는 워터마크 정보에 대한 DCT 계수를 승산해서 승산결과를 가산기(253)에 인가한다.The multiplier 251 is provided from the insertion intensity alpha output from the insertion strength calculator 237, the insertion mask value t mn (i, j) supplied from the insertion mask generator 239, and the second DCT converter 249. The DCT coefficient for the supplied watermark information is multiplied to apply the multiplication result to the adder 253.
가산기(253)는 블록 분류기(235)를 통해 제1 DCT 변환기(233)로부터 공급되는 소오스 영상의 I 픽쳐에 대한 DCT 계수와 승산기(256)의 승산결과를 가산하고, 가산결과를 IDCT 변환기(255)에 인가한다. 여기서, 가산기(253)의 가산 결과를 식으로 나타내면 다음과 같다.The adder 253 adds the DCT coefficient for the I picture of the source image supplied from the first DCT converter 233 through the block classifier 235 and the multiplication result of the multiplier 256, and adds the addition result to the IDCT converter 255. ) Is applied. Here, the addition result of the adder 253 is represented as follows.
IDCT 변환기(255)는 가산기(253)의 가산결과에 대해 IDCT 변환해서 워터마크 정보가 삽입된 픽쳐(I'mn(i,j))를 MPEG 엔코더에 전송한다.The IDCT converter 255 performs IDCT conversion on the addition result of the adder 253 and transmits the picture I'mn (i, j) into which the watermark information is inserted, to the MPEG encoder.
즉, 본 발명에서의 워터마크 삽입 처리는 상대적으로 작은 DCT 계수에 워터마크를 집중적으로 삽입함으로서 워터마크 삽입으로 인한 화질 저하 및 원영상을 이용하지 않고 워터마크된 MPEG 부호화된 비트스트림만을 이용한 워터마크 검출시 검출 에러를 줄이고자 한 것이다.That is, the watermark embedding process according to the present invention concentrates the watermark on a relatively small DCT coefficient, thereby degrading the image quality due to the watermark embedding and watermark using only the watermarked MPEG encoded bitstream without using the original image. This is to reduce the detection error during detection.
여기서, 워터마크 정보의 삽입 방법은 다음과 같이 수행될 수 있다.Here, the method of embedding watermark information may be performed as follows.
제1 단계: 입력되는 인트라 픽쳐 데이터를 DCT 변환하여 위 수학식 6을 이용하여 DCT 영역상에서 블록 분류를 행한다.First step: DCT transform the input intra picture data and perform block classification on the DCT domain using Equation 6 above.
제2 단계; 블록 분류를 행한 후 각각의 DCT 블록의 국부적 성질에 해당하는 삽입 강도를 위 수학식 7을 이용하여 구하고, 분류화된 블록의 특성에 해당하는 삽입 위치를 나타내는 삽입 마스크를 위 수학식 8을 이용하여 발생한다.Second step; After the block classification, the insertion strength corresponding to the local property of each DCT block is obtained using Equation 7 above, and an insertion mask indicating an insertion position corresponding to the characteristics of the classified block is expressed using Equation 8 above. Occurs.
제3 단계: 삽입될 워터마크 정보를 구성해서 워터마크 정보를 아래 수학식 10으로 나타내어지는 칩레이트내에 확산한다.Third step: The watermark information to be inserted is constructed to spread the watermark information into the chip rate represented by the following expression (10).
여기서, horizontal_pixel_size는 라인당 픽셀의 수, vertical_line_size는 프레임당 라인수, block_size는 8(pixels)8(lines)이고, M은 삽입되는 저작권 정보 및 제어 정보 비트수이다.Where horizontal_pixel_size is the number of pixels per line, vertical_line_size is the number of lines per frame, and block_size is 8 (pixels) 8 (lines) and M is the number of bits of copyright information and control information to be inserted.
제4 단계; 확산된 워터마크 정보를 의사잡음열을 이용하여 변조한 후 DCT 변환한다.A fourth step; The spread watermark information is modulated using a pseudo noise string and then DCT-converted.
제5 단계: 삽입 강도, 삽입 마스크값으로부터 블록의 특성에 맞는 변조된 워터마크 정보를 DCT 영역상에서 삽입하여 워터마크된 영상을 발생한다.Step 5: The watermarked image is generated by inserting the modulated watermark information corresponding to the characteristics of the block from the insertion strength and the insertion mask on the DCT region.
한편, 잡음 형태인 디지털 워터마크 정보를 원영상의 I 픽쳐에 삽입하여 부호화하고, 부호화된 I 픽쳐를 국부 복호화하여 P 및 B 픽쳐의 움직임 예측시의 기준으로 사용하면 결국 혼입된 워터마크 정보에 의해 P 및 B 픽쳐의 움직임 예측시 에러가 발생할 수 있다.On the other hand, when digital watermark information in the form of noise is inserted into an I picture of an original image and encoded, and the encoded I picture is locally decoded and used as a reference for predicting motion of P and B pictures, the watermark information is eventually mixed. Errors may occur when predicting motion of P and B pictures.
본 발명은 이러한 문제점을 해결하기 위하여, 도 9에 도시된 바와 같이 I 픽쳐에 삽입된 디지털 워터마크 정보를 국부 복호화시 제거함으로서 P 및 B 픽쳐에 대한 시간 영역상의 움직임 예측 및 보상시의 에러를 줄인다.In order to solve this problem, as shown in FIG. 9, the digital watermark information inserted into the I picture is removed at the local decoding to reduce errors in motion prediction and compensation in the time domain for P and B pictures. .
도 9는 도 4에 도시된 워터마크 정보 제거기(222)의 일 실시예에 따른 상세 블록도로서, 이 워터마크 정보 제거기는 제1 DCT 변환기(262), 누적기 및 제산기(264), 분산 계산기(266), 증폭기(268), 스펙트럼 확산기(270), 변조기(272), 제2 DCT 변환기(274), 승산기(276), 감산기(278) 및 IDCT 변환기(280)로 구성된다.9 is a detailed block diagram of an embodiment of the watermark information remover 222 shown in FIG. 4, wherein the watermark information remover includes a first DCT converter 262, an accumulator and a divider 264, and distribution. It consists of a calculator 266, an amplifier 268, a spectrum spreader 270, a modulator 272, a second DCT converter 274, a multiplier 276, a subtractor 278, and an IDCT converter 280.
도 9에 도시된 워터마크 정보 제거기의 구성과 도 6에 도시된 워터마크 정보 삽입기의 구성과 비교해 볼 때, 워터마크 정보 삽입기의 가산기(258) 대신에 워터마크 정보 제거기는 워터마크된 I 픽쳐(x'i)에 대한 DCT 계수에서 복제 제어 정보에 대한 DCT 계수를 감산해서 원래의 I 픽쳐(xi)에 대한 DCT 계수를 추출하는 감산기(278)가 구성되는 것이 상이하다. 회로의 간략화를 위해 스펙트럼확산기(270)에 인가되는 복제 제어 정보(ai)를 발생하는 복제 제어 정보 발생기를 별도로 구성하지 않고, 도 4에 도시된 복제 제어 정보 발생기(246)와 공유하고, 마찬가지로 변조기(272)에 인가되는 의사 잡음열(pi)을 발생하는 의사 잡음열 발생기도 도 4에 도시된 의사 잡음열 발생기(250)와 공유한다.In comparison with the configuration of the watermark information inserter shown in Fig. 9 and the configuration of the watermark information inserter shown in Fig. 6, the watermark information remover instead of the adder 258 of the watermark information inserter is a watermarked I. it is different to that by subtracting the DCT coefficients for the copying control information from the DCT coefficients for the picture (x 'i) a subtracter for extracting a DCT coefficient to the original I-picture (x i) (278) configuration. For simplicity of the circuit, the duplication control information generator for generating the duplication control information a i applied to the spectrum spreader 270 is not configured separately, but is shared with the duplication control information generator 246 shown in FIG. The pseudo noise stream generator for generating a pseudo noise stream pi applied to the modulator 272 is also shared with the pseudo noise train generator 250 shown in FIG.
도 9에 도시된 워터마크 정보 제거기의 구성이 도 6에 도시된 복제 제어 정보 삽입기의 구성과 동일한 블록들과 공유할 수는 있으나 시스템의 신뢰도를 위해서 도 9에 도시된 바와 같이 별도로 구성되는 것이 바람직하다. 왜냐하면, 도 9에 도시된 제1 DCT 변환기(262)에 입력되는 워터마크된 I 픽쳐(x'i)는 도 4에 도시된 DCT 변환기(210), 양자화기(212), 역양자화기(218), IDCT 변환기(220)를 거치면서 데이터 손실이 불가피하므로 도 4에 도시된 워터마크 정보 삽입기(206)로부터 출력되는 워터마크된 I 픽쳐와는 동일하지 않기 때문이다.Although the configuration of the watermark information remover shown in FIG. 9 may be shared with the same blocks as the configuration of the copy control information inserter shown in FIG. 6, it is separately configured as shown in FIG. 9 for the reliability of the system. desirable. Because the watermarked I picture (x ' i ) input to the first DCT converter 262 shown in FIG. 9 is the DCT converter 210, the quantizer 212, and the inverse quantizer 218 shown in FIG. 4. This is because data loss is unavoidable while passing through the IDCT converter 220, which is not the same as the watermarked I picture output from the watermark information inserter 206 shown in FIG.
도 10은 도 4에 도시된 워터마크 정보 제거기(222)의 다른 실시예에 따른 상세 블록도로서, 이 워터마크 정보 제거기는 제1 DCT 변환기(257), 블록 분류기(259), 삽입 강도 조절기(261), 삽입 마스크 발생기(263), 스펙트럼 확산기(265), 변조기(267), 제2 DCT 변환기(269), 승산기(271), 감산기(273) 및 IDCT 변환기(275)로 구성된다.FIG. 10 is a detailed block diagram of another embodiment of the watermark information remover 222 shown in FIG. 4, which includes a first DCT converter 257, a block classifier 259, and an insertion strength regulator (FIG. 261, an insertion mask generator 263, a spectrum spreader 265, a modulator 267, a second DCT converter 269, a multiplier 271, a subtractor 273, and an IDCT converter 275.
마찬가지로, 도 10에 도시된 워터마크 정보 제거기의 구성과 도 7에 도시된 워터마크 정보 삽입기의 구성과 비교해 볼 때, 워터마크 정보 삽입기(205)의 가산기(253) 대신에 워터마크 정보 제거기는 워터마크된 I 픽쳐(I'mn(i,j))에 대한 DCT계수에서 워터마크 정보에 대한 DCT 계수를 감산해서 원래의 I 픽쳐(Imn(i,j))에 대한 DCT 계수를 추출하는 감산기(273)가 구성되는 것이 상이하다. 회로의 간략화를 위해 스펙트럼 확산기(265)에 인가되는 워터마크 정보(wm)를 발생하는 워터마크 발생기는 별도로 구성하지 않고 도 7에 도시된 워터마크 정보 발생기(241)와 공유하고, 마찬가지로 변조기(267)에 인가되는 의사 잡음열(pmn(i,j))을 발생하는 의사 잡음열 발생기도 도 7에 도시된 의사 잡음열 발생기(245)와 공유한다.Similarly, in comparison with the configuration of the watermark information remover shown in FIG. 10 and the configuration of the watermark information inserter shown in FIG. 7, the watermark information remover instead of the adder 253 of the watermark information inserter 205. It is by subtracting the DCT coefficient of the watermark information in the DCT coefficient to the watermark I picture (I 'mn (i, j )) extracts the DCT coefficients for the original I-picture (I mn (i, j) ) The subtractor 273 is different. The watermark generator for generating watermark information (w m ) applied to the spectrum spreader 265 for simplicity of the circuit is shared with the watermark information generator 241 shown in FIG. A pseudo noise stream generator for generating a pseudo noise stream p mn (i, j) applied to 267) is also shared with the pseudo noise stream generator 245 shown in FIG.
도 11은 본 발명의 이해를 돕기 위한 일반적인 MPEG-2 동화상 데이터의 복호화 장치의 블록도로서, 복호화는 부호화 순서의 역순으로 처리된다. 도 11에 있어서, 버퍼(302)는 MPEG-2 부호화된 비트스트림을 일시 저장한다. 가변장 복호화 및 역다중화기(VLD & DEMUX:304)는 부호화된 비트스트림을 가변장 복호화해서 가변장 복호화된 데이터로부터 양자화간격과 움직임 벡터를 검출해서 양자화 간격과 가변장 복호화된 데이터는 역양자화기(306)에 인가하고, 움직임 벡터는 움직임 보상기(312)에 인가한다.Fig. 11 is a block diagram of a general decoding apparatus for MPEG-2 moving picture data for better understanding of the present invention. Decoding is performed in the reverse order of the encoding order. In Fig. 11, the buffer 302 temporarily stores an MPEG-2 encoded bitstream. The variable length decoding and demultiplexer (VLD & DEMUX) 304 variable length decodes an encoded bitstream to detect a quantization interval and a motion vector from the variable length decoded data, and the quantization interval and the variable length decoded data are dequantized. 306, and the motion vector is applied to the motion compensator 312.
역양자화기(306)는 VLD & DEMUX(304)로부터 공급되는 가변장 복호화된 데이터를 양자화간격에 따라 역양자화하고, IDCT 변환기(308)는 역양자화기(306)로부터 공급되는 역양자화된 데이터에 대해 IDCT 변환한다.The inverse quantizer 306 dequantizes the variable-length decoded data supplied from the VLD & DEMUX 304 according to the quantization interval, and the IDCT converter 308 applies the dequantized data supplied from the inverse quantizer 306. For IDCT conversion.
가산기(310)는 IDCT 변환기(308)로부터 공급되는 복호화된 영상이 I 픽쳐이면 그대로 버퍼(314)를 통해 출력함과 동시에 I픽쳐를 기준으로 하여 P 또는 B 픽쳐를 복호화하기 위해서 움직임 보상기(312)에 저장하고, P 또는 B 픽쳐이면 움직임 보상기(312)로부터 출력되는 움직임 벡터를 이용하여 움직임 보상된 신호와 현재 복호화된 P 또는 B 픽쳐를 가산해서 버퍼(314)를 통해 출력한다.The adder 310 outputs through the buffer 314 as it is, if the decoded image supplied from the IDCT converter 308 is an I picture, and at the same time, decodes the P or B picture based on the I picture. If it is a P or B picture, the motion-compensated signal and the currently decoded P or B picture are added by using the motion vector output from the motion compensator 312 and output through the buffer 314.
즉, 동화상 복호화시 P 픽쳐는 복호화된 이전(previous)의 I 픽쳐 또는 P 픽쳐가 있어야만 움직임 벡터를 이용한 움직임 보상을 통해 완전히 복원될 수 있으며, B 픽쳐는 이전 I 또는 P 픽쳐 뿐만 아니라 이후(future)의 I 또는 P 픽쳐가 있어야만 움직임 벡터를 이용한 움직임 보상을 통해 복호화가 가능하기 때문에 움직임 보상기(312)는 이전 I 및 P 픽쳐와 이후의 I 및 P 픽쳐를 저장하고 있다.That is, when decoding a video, a P picture can be completely reconstructed through motion compensation using a motion vector only when there is a decoded previous I picture or P picture, and a B picture is not only a previous I or P picture but also a future. The motion compensator 312 stores a previous I and P picture and a subsequent I and P picture because the I or P picture can be decoded through motion compensation using a motion vector.
도 12는 본 발명에 의한 디지털 워터마크가 삽입된 동화상 데이터의 복호화 장치의 블록도로서, 부호화된 비트스트림상에 동화상 데이터와 함께 삽입되어 있는 워터마크 정보를 원영상없이 검출하는 워터마크 정보 검출기(410)와 워터마크 정보에 의한 P 및 B 픽쳐의 움직임 보상시의 오차를 막기 위해 움직임 보상시 기준 픽쳐로 사용되는 복호화된 I 픽쳐에서 워터마크를 제거하는 워터마크 정보 제거기(412)가 더 구성되어 있는 점이 도 11에 도시된 일반적인 MPEG-2 동화상 데이터의 복호화 장치와는 구별되는 점이다.12 is a block diagram of an apparatus for decoding a moving image data having a digital watermark inserted therein according to the present invention, wherein a watermark information detector for detecting watermark information inserted together with moving image data on an encoded bitstream without an original image ( 410 and a watermark information remover 412 for removing the watermark from the decoded I picture used as the reference picture during motion compensation to prevent errors in motion compensation of the P and B pictures due to the watermark information. This point is distinguished from the general MPEG-2 moving picture decoding apparatus shown in FIG.
즉, 워터마크 정보 검출기(410)는 IDCT 변환기(408)로부터 공급되는 복호화된 I 픽쳐로부터 워터마크 정보를 검출해서 디지털 기록기에 인가하여 불법 복제를 제어한다. 워터마크 정보 제거기(412)는 워터마크 정보에 의한 P 및 B 픽쳐의 움직임 보상시의 오차를 막기 위해 IDCT 변환기(408)로부터 출력되는 기준 픽쳐로 사용되는 복호화된 I 픽쳐에서 워터마크 정보를 제거해서 가산기(414)에 인가한다. 여기서, 워터마크 정보 제거기(412)는 도 9 및 도 10에 도시된 구성과 유사하게 구성될 수 있다.That is, the watermark information detector 410 detects watermark information from the decoded I picture supplied from the IDCT converter 408 and applies it to the digital recorder to control illegal duplication. The watermark information remover 412 removes the watermark information from the decoded I picture used as the reference picture output from the IDCT converter 408 to prevent errors in motion compensation of the P and B pictures due to the watermark information. To the adder 414. Here, the watermark information remover 412 may be configured similarly to the configuration shown in FIGS. 9 and 10.
즉, 도 12에 도시된 워터마크 정보 제거기(412)가 도 9에 도시된 워터마크 정보 제거기의 구성을 갖는다면, 제1 DCT 변환기(262)에 입력되는 워터마크된 I 픽쳐는 도 12의 IDCT 변환기(408)로부터 출력되는 워터마크된 I 픽쳐가 되고, 스펙트럼 확산기(270)에 입력되는 복제 제어 정보(ai)는 워터마크 정보 검출기(410)에서 검출된 복제 제어 정보가 되는 것이 상이하며, 도 10에 도시된 워터마크 정보 제거기의 구성을 갖는다면 제1 DCT 변환기(257)에 입력되는 워터마크된 I픽쳐는 도 12에 도시된 IDCT 변환기(408)로부터 출력되는 워터마크된 I 픽쳐가 되고, 스펙트럼 확산기(265)에 입력되는 워터마크 정보(wm)는 워터마크 정보 검출기(410)에서 검출된 워터마크 정보가 되는 것이 상이하다.That is, if the watermark information remover 412 shown in FIG. 12 has the configuration of the watermark information remover shown in FIG. 9, the watermarked I picture input to the first DCT converter 262 is the IDCT of FIG. 12. It becomes a watermarked I picture output from the converter 408, and the copy control information a i input to the spectrum spreader 270 is different from the copy control information detected by the watermark information detector 410, 10, the watermarked I picture input to the first DCT converter 257 becomes a watermarked I picture output from the IDCT converter 408 shown in FIG. The watermark information w m input to the spectrum spreader 265 is different from the watermark information detected by the watermark information detector 410.
따라서, 부호화 장치에서 P 또는 B 픽쳐의 부호화시 워터마크의 영향을 배제하여 부호화하므로, 복호화 장치 또한 I 픽쳐의 복호화시 검출된 워터마크를 제거함으로써 P 및 B 픽쳐에 대한 시간 영역상의 움직임 보상시의 에러를 줄일 수 있다.Accordingly, since the encoding apparatus encodes by removing the influence of the watermark when encoding the P or B picture, the decoding apparatus also removes the watermark detected during decoding of the I picture to compensate for motion in the time domain with respect to the P and B pictures. Reduce errors
도 13은 본 발명에 의한 디지털 워터마크가 삽입된 동화상 데이터의 복호화 장치의 다른 실시예에 따른 블록도로서, 도 11에 도시된 일반적인 MPEG-2 동화상 데이터의 복호화 장치와 구별되는 점은 버퍼(413)의 후단에 접속되어, 복호화된 비디오 데이터로부터 워터마크 정보를 검출하는 워터마크 정보 검출기(415)가 더 구성되어 있는 점이다.FIG. 13 is a block diagram according to another embodiment of a decoding apparatus for moving picture data having a digital watermark embedded therein, which is distinguished from the general decoding apparatus for MPEG-2 moving picture data shown in FIG. The watermark information detector 415 is further configured to be connected to the rear stage and detect watermark information from the decoded video data.
도 14는 도 12에 도시된 워터마크 정보 검출기(412)와 도 13에 도시된 워터마크 정보 검출기(415)의 일 실시예에 따른 상세 블록도로서, 워터마크 정보 검출기는 DCT 변환기(420), DC 계수 제거기(422), IDCT 변환기(424), 의사 잡음열 발생기(426), 복조기(428), 합회로(430), 복제 제어 정보 패턴 발생기(432) 및 비교기(434)로 구성된다.FIG. 14 is a detailed block diagram of the watermark information detector 412 shown in FIG. 12 and the watermark information detector 415 shown in FIG. 13. The watermark information detector includes a DCT converter 420; A DC coefficient remover 422, an IDCT converter 424, a pseudo noise string generator 426, a demodulator 428, a summation circuit 430, a copy control information pattern generator 432, and a comparator 434.
도 14에 도시된 워터마크 정보 검출기의 동작을 설명의 편의상 도 12와 결부시켜 설명하며, 워터마크 정보의 예로서 복제 제어 정보로 한다. 도 14에 있어서, DCT 변환기(420)는 도 12에 도시된 IDCT 변환기(408)로부터 공급되는 워터마크된 I 픽쳐 데이터(x'i)에 대해 DCT 변환하고, DC 계수 제거기(422)는 DCT 변환기(420)로부터 공급되는 DCT 계수 중 DC 계수는 제거하고, AC 계수에 대해서 IDCT 변환기(424)에서 IDCT 변환한다. 이는 워터마크 정보가 잡음 형태로서 삽입되기 때문에 DCT 계수 중 AC 계수에서 워터마크 정보를 검출하면 되기 때문이다.The operation of the watermark information detector shown in FIG. 14 will be described in conjunction with FIG. 12 for convenience of explanation, and as copy control information as an example of watermark information. In Figure 14, DCT converter 420 is the IDCT converter for watermarked I-picture data (x 'i) supplied from the (408) DCT transform, the DC coefficient remover 422 shown in Figure 12 is a DCT converter DC coefficients among DCT coefficients supplied from 420 are removed, and IDCT transformed by the IDCT converter 424 for the AC coefficients. This is because the watermark information is inserted in the form of noise so that the watermark information can be detected from the AC coefficient among the DCT coefficients.
복조기(428)는 의사 잡음열 발생기(426)로부터 발생되는 의사 잡음열(pi)을 이용하여 IDCT 데이터를 복조해서 칩레이트 단위로 복조된 데이터(bi)를 합회로(430)에서 합하면 복제 제어 정보가 검출된다. 즉, 합한 결과가 포지티브이면 복제 제어 정보가 "1"이고, 네가티브이면 복제 제어 정보가 "-1"이다. 이 의사 잡음열 발생기(426)는 부호화기에서 사용되는 의사 잡음열 발생기와 공유할 수 있다.The demodulator 428 is duplicate combined from the pseudonoise heat generator 426, pseudonoise column (p i), the data (b i) a conference to 430 demodulates the chip rate units to demodulate the IDCT data using the generated from Control information is detected. Namely, if the sum result is positive, the copy control information is "1", and if the result is negative, the copy control information is "-1". This pseudo noise stream generator 426 can be shared with the pseudo noise train generator used in the encoder.
비교기(434)는 합회로(430)의 출력과 복제제어 정보 패턴 발생기(432)에서발생되는 복제 제어 정보 패턴을 비교해서 비교결과가 문턱값(TH)보다 작으면 검출된 복제 제어 정보를 디지털 기록기에 출력하고, 그렇지 않으면 복제 제어 정보 없음을 나타내는 복제 제어 정보를 출력한다.The comparator 434 compares the output of the circuit 430 with the copy control information pattern generated by the copy control information pattern generator 432 and if the comparison result is smaller than the threshold value TH, the digital copy recorder detects the detected copy control information. Otherwise, copy control information indicating no copy control information is outputted.
검출된 복제 제어 정보의 예는 다음과 같다.Examples of the detected copy control information are as follows.
- 1회 복제 허용(one copy)Allow one copy
- 복제 금지(copy never)Copy never
- 더 이상 카피 불가(no more copy)No more copy
- 기타- Other
- 워터마크 없음(no watermark)No watermark
본 발명에서는 원영상없이 삽입된 워터마크의 검출을 위하여, 부호화 장치에서 복제 제어 정보의 칩레이트는 화상의 상관도가 상대적으로 강한 영역으로 영상을 재구성하였으므로 따라서 복호화 장치에서도 N88로 구성된 칩레이트 단위로 삽입된 복제 제어 정보를 검출한다.In the present invention, in order to detect a watermark inserted without an original image, the chip rate of the copy control information in the encoding apparatus is reconstructed into a region where the image has a relatively high correlation. 8 The duplication control information inserted in units of 8 chip rates is detected.
복제 제어 정보의 검출 방법의 일 실시예는 다음과 같다.An embodiment of a method of detecting copy control information is as follows.
제1 단계: 복호화된 I 픽쳐를 DCT 블록 단위로 DCT 변환한다.First step: DCT transform the decoded I picture in units of DCT blocks.
제2 단계: DCT계수 중 AC계수만으로 IDCT해서 IDCT 데이터를 발생한다Second step: IDCT data is generated by using only the AC coefficient among the DCT coefficients.
제3 단계: 부호화 장치에서 사용한 동일한 의사 잡음열(pi)을 이용하여 IDCT 데이터를 복조해서 복조된 데이터(bi)를 발생한다.Step 3: Demodulate IDCT data using the same pseudo noise string p i used in the encoding apparatus to generate demodulated data b i .
제4 단계: 복조된 데이터(bi)를 칩레이트 단위로 합한다. 이를 식으로 나타내면 수학식 11과 같다.Fourth Step: The demodulated data b i is summed into units of chip rate. This is represented by the equation (11).
제5 단계: 제4 단계의 합한 결과를 이용하여 삽입된 복제 제어 정보를 복원하며, 이를 식으로 나타내면 수학식 12와 같다.Step 5: The inserted copy control information is restored by using the sum result of the fourth step, which is represented by Equation 12.
제6 단계: 워터마크 정보가 복제 제어 정보이면 복원된 복제 제어 정보 비트와 복제 제어 정보 패턴과 비교하여 삽입된 복제 제어 정보를 검출하거나 워터마크 정보가 없음을 나타내는 정보를 발생한다. 이를 식으로 나타내면 수학식 13과 같이 주어지고, 검출된 복제 제어 정보는 디지털 기록기로 전달되어 불법 복제를 제어한다.Step 6: If the watermark information is copy control information, the inserted copy control information is detected by comparing the restored copy control information bit and the copy control information pattern or information indicating that there is no watermark information is generated. This is given by Equation 13, and the detected copy control information is transmitted to the digital recorder to control illegal copying.
여기서, pattern_aj,k는 복제 제어 정보 패턴이고, 단 simiarity_test가 문턱치보다 크면 워터마크 없음을 뜻한다.Here, pattern_a j, k is a replication control information pattern. However, if simiarity_test is larger than a threshold, it means no watermark.
도 15는 도 12에 도시된 워터마크 정보 검출기(412)와 도 13에 도시된 워터마크 정보 검출기(415)의 다른 실시예에 따른 상세 블록도로서, 워터마크 정보 검출기는 DCT 변환기(417), 블록 분류기(419), 삽입 마스크 추출기(421), 승산기(423), 감산기(425), IDCT 변환기(427), 복조기(429) 및 의사 잡음열 발생기(431) 및 합회로(433)로 구성된다.15 is a detailed block diagram of another embodiment of the watermark information detector 412 shown in FIG. 12 and the watermark information detector 415 shown in FIG. 13, wherein the watermark information detector includes a DCT converter 417; Block classifier 419, insertion mask extractor 421, multiplier 423, subtractor 425, IDCT converter 427, demodulator 429 and pseudo noise string generator 431, and circuit 433. .
도 15에 도시된 워터마크 정보 검출기의 동작을 설명의 편의상 도 13과 결부시켜 설명하며, 검출되는 워터마크 정보는 저작자 정보 및 복제 제어 정보 모두 포함된다. 도 15에 있어서, DCT 변환기(417)는 도 13에 도시된 버퍼(413)로부터 공급되는 복호화된 비디오 데이터에 대해 DCT 변환한다. 이때 DCT 변환기(417)에 입력되는 데이터를 Rmn(i,j)라고 하자.The operation of the watermark information detector shown in FIG. 15 is described in connection with FIG. 13 for convenience of description, and the detected watermark information includes both author information and copy control information. In FIG. 15, the DCT converter 417 performs DCT conversion on the decoded video data supplied from the buffer 413 shown in FIG. In this case, it is assumed that data input to the DCT converter 417 is R mn (i, j).
블록 분류기(419)는 도 7에 도시된 블록 분류기(235)와 동일하게 구성될 수 있으며, 위 수학식 6을 이용하여 DCT 변환기(417)로부터 공급되는 DCT 블록이 평탄 블록, 에지 블록 또는 복잡 블록인지를 분류한다.The block classifier 419 may be configured in the same manner as the block classifier 235 illustrated in FIG. 7, and the DCT block supplied from the DCT converter 417 may be a flat block, an edge block, or a complex block using Equation 6 above. Classify cognition.
삽입 마스크 추출기(421)는 블록 분류기(419)에 의해 분류된 블록으로부터 위 수학식 8를 통해 삽입 마스크(tmn(i,j))를 추출한다. 승산기(423)는 블록 분류기(419)를 통해 출력되는 DCT 블록의 계수들과 삽입 마스크 추출기(421)에서 추출된 삽입 마스크값(tmn(i,j))을 승산하고, 이 승산 결과는 수학식 14와 같이 나타낼 수 있다.The insertion mask extractor 421 extracts an insertion mask t mn (i, j) from Equation 8 from blocks classified by the block classifier 419. The multiplier 423 multiplies the coefficients of the DCT block output through the block classifier 419 and the insertion mask value t mn (i, j) extracted by the insertion mask extractor 421, and the result of the multiplication It can be expressed as Equation 14.
감산기(425)는 블록 분류기(419)를 통해 출력되는 DCT 블록의 각 계수로부터승산기(423)의 승산 결과를 감산하면 DCT 블록의 DC 계수 및 분류된 블록의 AC 계수가 제거된다. 이 감산기(425)의 결과를 IDCT 변환기(427)에서 정수 프리시젼(precision)으로 IDCT 변환한다.The subtractor 425 subtracts the multiplication result of the multiplier 423 from each coefficient of the DCT block output through the block classifier 419 to remove the DC coefficient of the DCT block and the AC coefficient of the classified block. The result of this subtractor 425 is IDCT-converted by the IDCT converter 427 into integer precision.
복조기(429)는 IDCT 변환기(427)의 출력(Emn(i,j))으로부터 의사 잡음열 발생기(431)에서 발생하는 의사 잡음열(pmn)을 이용하여 복조하고, 이 복조 결과(bmn)를 수학식 15와 같이 나타낼 수 있다. 이 의사 잡음열 발생기(426)는 부호화기에서 사용되는 의사 잡음열 발생기와 공유할 수 있다.The demodulator 429 demodulates from the output E mn (i, j) of the IDCT converter 427 by using the pseudo noise string p mn generated by the pseudo noise string generator 431, and the demodulation result b mn ) can be expressed as Equation 15. This pseudo noise stream generator 426 can be shared with the pseudo noise train generator used in the encoder.
합회로(433)는 복조기(429)로부터 출력되는 블록 단위의 {-1,1}의 정보 중 하나의 정보중 하나만을 선택하고 이 결과를 칩레이트 단위로 합해서 시그늄(signum) 함수를 취한다. 즉, 합회로(433)의 결과의 사인이 포지티브이면 검출된 워터마크 정보는 "1"이고, 네가티브이면 검출된 워터마크 정보는 "-1"이다. 이를 수학식 16와 같이 나타낼 수 있다.The sum circuit 433 selects only one piece of information of {-1,1} of the block unit output from the demodulator 429, and adds the result by the chip rate unit to take a signium function. . In other words, if the sine of the result of the combining circuit 433 is positive, the detected watermark information is "1", and if it is negative, the detected watermark information is "-1". This may be represented as in Equation 16.
또한, 합회로(433)는 위 수학식 16을 이용하여 칩레이트 단위로 최종 {-1,1}의 정보 중 하나만을 선택하여 삽입된 저작자 정보 및 복제 제어 정보를 검출한다.수학식 16에 의한 합 과정중 {-1,1}이 아닌 제로가 발생할 수 있으므로 수학식 17을 이용하여 보상한다. 즉, 칩레이트 단위내의 각 블록내에서 {-1,1}의 정보를 합해서 절대치를 취한 값 중 가장 큰 값을 갖는 블록의 사인(sign)을 취해서 워터마크 정보를 검출한다.Also, the sum circuit 433 detects the inserted author information and the copy control information by selecting only one of the information of the final {-1,1} on a chip rate basis using Equation 16 above. Since zero may occur during the sum process instead of {-1,1}, Equation 17 is used to compensate. That is, the watermark information is detected by taking the sign of the block having the largest value among the values obtained by adding the information of {-1,1} in each block in the chip rate unit.
도 15에 도시된 워터마크 정보 검출기도 워터마크 정보가 복제 제어 정보인 경우에는 도 14에 도시된 바와 같이 복제 제어 정보 패턴 발생기와 비교기가 더 구성될 수 있다.In the watermark information detector illustrated in FIG. 15, when the watermark information is copy control information, a copy control information pattern generator and a comparator may be further configured as shown in FIG. 14.
여기서, 워터마크 정보의 검출 방법의 다른 실시예는 다음과 같다.Here, another embodiment of the method for detecting watermark information is as follows.
제1 단계: 입력되는 인트라 픽쳐 데이터를 DCT 변환하여 수학식 6을 이용하여 DCT 영역상에서 블록 분류를 행한다.First step: DCT conversion of the input intra picture data is performed and block classification is performed on the DCT region using Equation (6).
제2 단계; 분류된 블록의 특성을 이용하여 삽입 마스크를 추출한다.Second step; The insertion mask is extracted using the characteristics of the classified blocks.
제3 단계; 추출된 삽입 마스크를 이용하여 현재 DCT 블록의 DC 계수 및 분류된 블록의 AC 계수가 제거하여 정수 프리시젼(precision)으로 IDCT 변환한다.Third step; By using the extracted insertion mask, the DC coefficients of the current DCT block and the AC coefficients of the classified block are removed to be IDCT transformed into integer precision.
제4 단계; IDCT 변환한 결과로부터 의사 잡음열을 이용하여 복조한다.A fourth step; Demodulate using the pseudo noise string from the result of IDCT conversion.
제5 단계: 복조된 데이터를 칩레이트 단위로 합하여 워터마크 정보를 검출한다.Fifth step: The watermark information is detected by adding the demodulated data in a chip rate unit.
본 발명은 MPEG-2 동화상 압축/복원 장치 뿐만 아니라 블록 기반 동화상 코덱에는 모두 적용될 수 있다. 또한, 압축된 데이터 또는 비압축된 데이터 모두 본 발명을 이용하여 워터마크 정보를 삽입하고 검출할 수 있으며, 동화상 데이터 뿐만 아니라 정지화상 데이터에도 본 발명을 이용하여 워터마크 정보를 삽입하고 검출할 수 있다.The present invention can be applied to both block-based video codecs as well as MPEG-2 video compression / restoration apparatus. In addition, both the compressed data and the uncompressed data can insert and detect watermark information using the present invention, and the watermark information can be inserted and detected using the present invention not only for moving image data but also for still image data. .
상술한 바와 같이, 본 발명은 MPEG 동화상 부호화 알고리즘을 채용한 동화상 압축/복원 장치의 화질의 열화를 최소로 하며, 또한 디지털 기록기 등을 이용한 불법 복제를 방지할 수 있다.As described above, the present invention minimizes the deterioration of the image quality of the moving picture compression / restoration apparatus employing the MPEG moving picture coding algorithm, and also prevents illegal duplication using a digital recorder or the like.
또한, 본 발명은 사용자에 의해 워터마크 정보의 제거가 곤란한 디지털 기록기로 전송되는 복제 제어 정보 뿐만 아니라 저작자 정보와 같은 워터마크 정보를 비디오 데이터에 삽입하며, 또한 원영상없이도 삽입된 워터마크 정보를 검출할 수 있는 효과와 실시간 동화상 압축/복원 장치에 적용할 수 있는 효과가 있다.In addition, the present invention inserts watermark information such as author information into video data as well as copy control information transmitted to a digital recorder that is difficult to remove watermark information by a user, and also detects inserted watermark information without an original image. There are effects that can be applied and can be applied to a real-time video compression / restore device.
Claims (35)
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR101998006955 | 1998-03-03 | ||
KR19980006955 | 1998-03-03 | ||
KR1019980006955 | 1998-03-03 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR19990076464A KR19990076464A (en) | 1999-10-15 |
KR100327210B1 true KR100327210B1 (en) | 2002-05-09 |
Family
ID=37478384
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1019980016997A KR100327210B1 (en) | 1998-03-03 | 1998-05-12 | Copy control apparatus of video data and method thereof |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR100327210B1 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101019631B1 (en) | 2010-08-17 | 2011-03-07 | 주식회사 씨케이앤비 | Apparatus for tracking illegal copy of image contents of digital set-top box |
KR101240467B1 (en) * | 2009-06-30 | 2013-03-11 | 한국전자통신연구원 | Apparatus of protecting digital rights for motion-picture, protecting method of digital rights for motion-picture and recording medium thereof |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3567975B2 (en) * | 2000-01-24 | 2004-09-22 | 日本電気株式会社 | Digital watermark detection / insertion device |
JP2001285607A (en) * | 2000-03-29 | 2001-10-12 | Nec Corp | Electronic watermark insertion device, electronic watermark detector, and electronic watermark insertion method and electronic watermark detection method used therefor |
US7137005B2 (en) * | 2001-03-28 | 2006-11-14 | Lg Electronics Inc. | Method of watermarking digital data |
KR100374665B1 (en) * | 2001-04-13 | 2003-03-04 | 주식회사 마크애니 | Method of inserting/detecting digital watermarks and apparatus for using thereof |
KR100423159B1 (en) * | 2001-04-20 | 2004-03-18 | 주식회사 마크애니 | Method of inserting/detecting digital watermarks and apparatus for using thereof |
KR100849436B1 (en) | 2004-12-13 | 2008-07-30 | 한국전자통신연구원 | Method and System for selecting test video data used to evaluate the performance of video watermarking methods |
KR101305639B1 (en) | 2010-09-10 | 2013-09-16 | 삼성전자주식회사 | Non volatile storage device for copy protection and authentication method thereof |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR19980042061A (en) * | 1996-11-05 | 1998-08-17 | 가네코 히사시 | Digital watermark insertion and extraction method |
-
1998
- 1998-05-12 KR KR1019980016997A patent/KR100327210B1/en not_active IP Right Cessation
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR19980042061A (en) * | 1996-11-05 | 1998-08-17 | 가네코 히사시 | Digital watermark insertion and extraction method |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101240467B1 (en) * | 2009-06-30 | 2013-03-11 | 한국전자통신연구원 | Apparatus of protecting digital rights for motion-picture, protecting method of digital rights for motion-picture and recording medium thereof |
KR101019631B1 (en) | 2010-08-17 | 2011-03-07 | 주식회사 씨케이앤비 | Apparatus for tracking illegal copy of image contents of digital set-top box |
Also Published As
Publication number | Publication date |
---|---|
KR19990076464A (en) | 1999-10-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR100290330B1 (en) | Identification Data Insertion and Detection System for Digital Data | |
US6037984A (en) | Method and apparatus for embedding a watermark into a digital image or image sequence | |
JP3083507B2 (en) | MPEG2 video encoding / decoding system | |
Hartung et al. | Watermarking of uncompressed and compressed video | |
Hartung et al. | Digital watermarking of MPEG-2 coded video in the bitstream domain | |
Chung et al. | Digital watermarking for copyright protection of MPEG2 compressed video | |
KR20050038020A (en) | Combined video decoder and watermark creator | |
KR100385407B1 (en) | System and apparatus for inserting electronic watermark data | |
KR100327210B1 (en) | Copy control apparatus of video data and method thereof | |
Liu et al. | Secure steganography in compressed video bitstreams | |
US7418110B2 (en) | Method and apparatus for compressed-domain watermarking | |
Barni et al. | Object watermarking for for MPEG-4 video streams copyright protection | |
KR100576382B1 (en) | Method of adding information to video signal and information adding device | |
JP2006253755A (en) | Apparatus for embedding secret information to compressed image data, apparatus for extracting the secret information, secret data rewriting apparatus, decryption apparatus, restoration apparatus, and secret data embedding coding apparatus | |
Houria et al. | Hybrid watermark fingerprint algorithm for h. 264 compressed video authentication | |
Kong et al. | Adaptive video watermarking scheme | |
Chaudhari et al. | Data hiding in Motion Vectors of Compressed Video Based On their Associated Prediction Error | |
Wang et al. | Mapping energy video watermarking algorithm based on compressed domain | |
Wang et al. | Inter-frame differential energy video watermarking algorithm based on compressed domain | |
Pranata et al. | Enhancement of blind watermark retrieval in drift-compensated MPEG video | |
Simitopoulos et al. | Fast compressed domain watermarking of MPEG multiplexed streams | |
Busch et al. | Video Watermarking: Requirements | |
Wang | A fast watermarking technology for compressed video | |
JP2000013764A (en) | Device and method for processing picture signal, and device and method for decoding picture signal | |
Pervej | Simulation and Analysis of Digital Video Watermarking Using MPEG-2 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant | ||
FPAY | Annual fee payment |
Payment date: 20080130 Year of fee payment: 7 |
|
LAPS | Lapse due to unpaid annual fee |