KR100541500B1 - a Water-marking System of the Mobile Communication Network - Google Patents

a Water-marking System of the Mobile Communication Network Download PDF

Info

Publication number
KR100541500B1
KR100541500B1 KR1020030051060A KR20030051060A KR100541500B1 KR 100541500 B1 KR100541500 B1 KR 100541500B1 KR 1020030051060 A KR1020030051060 A KR 1020030051060A KR 20030051060 A KR20030051060 A KR 20030051060A KR 100541500 B1 KR100541500 B1 KR 100541500B1
Authority
KR
South Korea
Prior art keywords
mobile communication
watermark
multimedia data
block
communication terminal
Prior art date
Application number
KR1020030051060A
Other languages
Korean (ko)
Other versions
KR20050011982A (en
Inventor
박진영
Original Assignee
주식회사 팬택
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 팬택 filed Critical 주식회사 팬택
Priority to KR1020030051060A priority Critical patent/KR100541500B1/en
Priority to DE102004033992A priority patent/DE102004033992A1/en
Priority to US10/897,710 priority patent/US20050018843A1/en
Priority to CNA2004100708789A priority patent/CN1577394A/en
Publication of KR20050011982A publication Critical patent/KR20050011982A/en
Application granted granted Critical
Publication of KR100541500B1 publication Critical patent/KR100541500B1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W12/00Security arrangements; Authentication; Protecting privacy or anonymity
    • H04W12/06Authentication
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/835Generation of protective data, e.g. certificates
    • H04N21/8358Generation of protective data, e.g. certificates involving watermark
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W12/00Security arrangements; Authentication; Protecting privacy or anonymity
    • H04W12/02Protecting privacy or anonymity, e.g. protecting personally identifiable information [PII]

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Security & Cryptography (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Multimedia (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Mobile Radio Communication Systems (AREA)

Abstract

본 발명은 이동 통신망에서 워터마킹 시스템을 이동 통신 단말기에 적용시켜 정보를 보호하도록 한 이동 통신망에서의 워터마킹 시스템에 관한 것으로, 이동 통신망에서 기지국 또는 네트워크를 통해 수신받은 멀티미디어 데이터를 전송하는 개인용 컴퓨터와; 상기 개인용 컴퓨터 또는 상기 기지국으로부터 멀티미디어 데이터를 수신받거나, 자체 내의 각종 주변 장치를 이용해 멀티미디어 데이터를 제작하는 이동 통신 단말기를 포함하는 이동 통신망에서의 워터마킹 시스템에 있어서, 상기 이동 통신 단말기는 상기 개인용 컴퓨터와 시리얼 통신을 수행하기 위한 USB(Universal Serial Bus) 블록과; 상기 기지국과 통신을 수행하고 멀티미디어 데이터를 송수신하는 멀티미디어 데이터 블록과; 상기 이동 통신 단말기의 ESN(Electronic Serial Number)을 영상 파일로 변환시켜 워터마크를 생성하는 워터마크 블록과; 상기 워터마크 블록에서 생성된 워터마크를 상기 USB 블록 또는 멀티미디어 데이터 블록을 통해 수신한 멀티미디어 데이터에 삽입시켜 워터마킹을 수행하는 MPEG(Moving Picture Experts Group) 프로세서와; 상기 멀티미디어 데이터 및 상기 워터마킹된 데이터를 저장하는 메모리를 포함하여 이루어진 것을 특징으로 함으로써, 공인 인증기관의 개입 없이 정보의 저작자 및 배포자를 추적 및 확인할 수 있도록 하여 정보의 저작권 보호와 오용 및 남용 문제를 해결할 수 있다.The present invention relates to a watermarking system in a mobile communication network which protects information by applying a watermarking system to a mobile communication terminal in a mobile communication network. The present invention relates to a personal computer for transmitting multimedia data received through a base station or a network in a mobile communication network; ; A watermarking system in a mobile communication network including a mobile communication terminal receiving multimedia data from the personal computer or the base station or producing multimedia data using various peripheral devices therein, wherein the mobile communication terminal is connected to the personal computer. A universal serial bus (USB) block for performing serial communication; A multimedia data block communicating with the base station and transmitting and receiving multimedia data; A watermark block for generating a watermark by converting an electronic serial number (ESN) of the mobile communication terminal into an image file; A moving picture expert group (MPEG) processor for watermarking the watermark generated from the watermark block by inserting the watermark into the multimedia data received through the USB block or the multimedia data block; And a memory for storing the multimedia data and the watermarked data, so that the author and distributor of the information can be tracked and verified without the intervention of an accredited certification authority, thereby preventing the problem of copyright protection, misuse, and abuse of information. I can solve it.

Description

이동 통신망에서의 워터마킹 시스템 {a Water-marking System of the Mobile Communication Network} Watermarking System in Mobile Communication Networks {a Water-marking System of the Mobile Communication Network}             

도 1은 본 발명의 실시 예에 따른 이동 통신망에서의 워터마킹 시스템(Water-marking System)을 나타낸 구성 블록도.1 is a block diagram illustrating a water-marking system in a mobile communication network according to an exemplary embodiment of the present invention.

도 2는 도 1에 있어 워터마크로 사용될 이진 이미지 파일의 양식을 일 예로 나타낸 도면.FIG. 2 illustrates an example of a format of a binary image file to be used as a watermark in FIG. 1; FIG.

도 3은 도 1에 있어 워터마크로 사용될 이진 이미지 파일의 양식을 이 예로 나타낸 도면.FIG. 3 illustrates in this example the format of a binary image file to be used as a watermark in FIG.

도 4는 도 1에 있어 ESN(Electronic Serial Number)의 형식 변환을 위한 문자표의 양식을 일 예로 나타낸 도면.FIG. 4 is a diagram illustrating an example of a character table for format conversion of an ESN (Electronic Serial Number) in FIG. 1; FIG.

도 5는 도 1에 있어 ESN의 형식 변환을 위한 문자표의 양식을 이 예로 나타낸 도면.FIG. 5 is a diagram showing the form of a character table for format conversion of an ESN in FIG. 1; FIG.

도 6은 본 발명의 실시 예에 따른 이동 통신망에서의 워터마킹 시스템의 동작을 나타낸 순서도.6 is a flowchart illustrating an operation of a watermarking system in a mobile communication network according to an exemplary embodiment of the present invention.

* 도면의 주요 부분에 대한 부호의 설명 *Explanation of symbols on the main parts of the drawings

100 : 네트워크(Network) 200 : 개인용 컴퓨터(Personal Computer)100: Network 200: Personal Computer

201 : 클라이언트(Client)201: Client

202 : 워터마킹 툴 블록(Water-making Tool Block)202: Water-making Tool Block

300 : 이동 통신 단말기 400 : 기지국300: mobile communication terminal 400: base station

301 : USB(Universal Serial Bus) 블록301: Universal Serial Bus Block

302 : MPEG(Moving Picture Experts Group) 프로세서(Processor)302: Moving Picture Experts Group (MPEG) Processor

303 : 워터마크 블록 304 : 신호 처리 블록303: watermark block 304: signal processing block

305 : 멀티미디어 데이터 블록 306 : 마이크로프로세서305: multimedia data block 306: microprocessor

307 : 카메라/캠코더 308 : LCD(Liquid Crystal Display)307: camera / camcorder 308: LCD (Liquid Crystal Display)

309 : 스피커(Speaker) 310 : 메모리(Memory)309: Speaker 310: Memory

311 : 마이크(Mike)311 Mike

본 발명은 이동 통신망에서의 워터마킹 시스템에 관한 것으로, 특히 이동 통신망에서 워터마킹 시스템을 이동 통신 단말기에 적용시켜 정보를 보호하도록 한 이동 통신망에서의 워터마킹 시스템에 관한 것이다.The present invention relates to a watermarking system in a mobile communication network, and more particularly, to a watermarking system in a mobile communication network in which a watermarking system is applied to a mobile communication terminal to protect information.

일반적으로, 클라이언트가 저작권을 가지는 멀티미디어 데이터(예로, 음악, 영상 및 동영상 파일 등)를 배포하기 위해서는, 직접 인증기관으로 사용자 정보, 멀티미디어 정보 및 워터마크 정보를 전송한 후에 해당 인증기관으로부터 승인 인증을 받으며, 이에 해당 인증기관에서 제공한 워터마킹 툴을 이용하여 멀티미디어 데이터를 워터마킹하여 워터마크가 삽입된 멀티미디어 데이터를 네트워크 또는 이동 통신 단말기를 이용하여 소비자에게 제공하여야 한다.In general, in order to distribute copyrighted multimedia data (e.g., music, video and video files), the client transmits user information, multimedia information, and watermark information directly to the certification authority, and then obtains approval from the certification authority. In response to this, the watermarking multimedia data is watermarked using a watermarking tool provided by the certification authority, and the watermarked multimedia data is provided to the consumer using a network or a mobile communication terminal.

그리고, 일반적인 이동 통신 단말기는 동작 속도와 성능이 향상된 주변 장치(예로, 카메라, 캠코더, 마이크, 스피커 등), 마이크로프로세서, DSP 프로세서, MPEG 칩 등을 사용하여 멀티미디어 정보의 활용성을 증가시킬 수 있도록 개발되고 있다.In addition, a general mobile communication terminal can increase the utilization of multimedia information by using peripheral devices (eg, cameras, camcorders, microphones, speakers, etc.), microprocessors, DSP processors, MPEG chips, etc., which have improved operation speed and performance. Is being developed.

그런데, 이와 같이 향상된 기능들을 이용하여 멀티미디어 데이터의 불법 복제가 이루어져 시장에서 유통되는 단점이 발생하였다. 또한, 상술한 바와 같은 주변 장치를 이용하여 타인의 사생활 침해성 멀티미디어가 제작되어 상업적으로 이용되고 있는 단점도 발생하였다.However, there is a disadvantage in that illegal copying of multimedia data is made using these improved functions and distributed in the market. In addition, using the above-mentioned peripheral devices, the invasive multimedia of others has been produced and has been used commercially.

이와 같이, 종래의 이동 통신 단말기는 인증기관을 통해 사용자의 소유권 주장만 가능할 뿐, 정보의 불법 복제와 타인의 사생활 침해성 정보 제작이 쉽게 이루어질 수 있어 정보화 사회의 문제점으로 지적되고 있다.As described above, the conventional mobile communication terminal can only claim the user's ownership through the certification authority, and it is pointed out as a problem of the information society because illegal copying of information and production of invasive information of others can be easily performed.

전술한 바와 같은 단점 내지는 문제점을 해결하기 위한 것으로, 본 발명은 이동 통신망에서 워터마킹 시스템을 이동 통신 단말기에 적용시켜 정보를 보호하도록 한 이동 통신망에서의 워터마킹 시스템을 제공하는데, 그 목적이 있다.SUMMARY OF THE INVENTION The present invention provides a watermarking system in a mobile communication network to protect information by applying a watermarking system to a mobile communication terminal in a mobile communication network.

또한, 본 발명은 이동 통신망에서 정보 보호를 위해 이동 통신 단말기를 이용하여 워터마킹을 수행하도록 함으로써, 저작권 보호와 정보의 오용 및 남용 문제를 해결하며, 또한 인증기관의 개입 없이 워터마킹이 이루어지도록 하는데, 그 목적이 있다.In addition, the present invention is to perform the watermarking using a mobile communication terminal for information protection in the mobile communication network, to solve the problem of copyright protection and misuse and abuse of information, and to ensure that watermarking without intervention of the certification authority , Its purpose is.

또한, 본 발명은 이동 통신망에서 이동 통신 단말기의 코덱(Codec)에 워터마킹을 적용하며, 해당 적용 시에 이동 통신 단말기의 고유한 ESN을 워터마크로 사용함으로써, 정보의 저작자 및 배포자를 확인할 수 있도록 하여 정보의 저작권 보호와 오용 및 남용 문제를 해결하도록 하는데, 그 목적이 있다.In addition, the present invention applies watermarking to the codec of the mobile communication terminal in the mobile communication network, and by using the unique ESN of the mobile communication terminal as a watermark in the application, it is possible to identify the author and distributor of the information It aims to address copyright protection, misuse and abuse of information.

또한, 본 발명은 이동 통신망에서 이동 통신 단말기의 카메라를 이용해 사진을 찍고 저장할 때에 이동 통신 단말기의 ESN을 워터마크로 삽입하여 사진을 찍은 사람을 추적할 수 있도록 하는데, 그 목적이 있다.In addition, an object of the present invention is to insert the ESN of the mobile communication terminal as a watermark to track the person who took the picture when taking and storing the picture using the camera of the mobile communication terminal in the mobile communication network.

또한, 본 발명은 이동 통신망에서 이동 통신 단말기 사용 시에 발생할 수 있는 정보의 오용 및 남용 문제와 저작권 보호 문제를 해결하기 위해서 이동 통신 단말기에 워터마킹을 적용하며, 해당 워터마킹 적용 시에 이동 통신 단말기의 고유한 ESN을 워터마크로 사용함으로써, 공인 인증기관의 개입 없이 정보의 저작자 또는 제공자를 추적 및 확인할 수 있도록 하는데, 그 목적이 있다.
In addition, the present invention applies watermarking to the mobile communication terminal to solve the problem of misuse and abuse of information and copyright protection that may occur when using the mobile communication terminal in the mobile communication network, the mobile communication terminal when applying the watermarking By using its unique ESN as a watermark, it is possible to track and verify the author or provider of the information without the involvement of an accredited certification body.

삭제delete

상술한 바와 같은 목적을 달성하기 위한 본 발명의 실시 예에 따른 이동 통신망에서의 워터마킹 시스템은 이동 통신망에서 기지국 또는 네트워크를 통해 수신받은 멀티미디어 데이터를 전송하는 개인용 컴퓨터와; 상기 개인용 컴퓨터 또는 상기 기지국으로부터 멀티미디어 데이터를 수신받거나, 자체 내의 각종 주변 장치를 이용해 멀티미디어 데이터를 제작하는 이동 통신 단말기를 포함하는 이동 통신망에서의 워터마킹 시스템에 있어서, 상기 이동 통신 단말기는 상기 개인용 컴퓨터와 시리얼 통신을 수행하기 위한 USB 블록과; 상기 기지국과 통신을 수행하고 멀티미디어 데이터를 송수신하는 멀티미디어 데이터 블록과; 상기 이동 통신 단말기의 ESN을 영상 파일로 변환시켜 워터마크를 생성하는 워터마크 블록과; 상기 워터마크 블록에서 생성된 워터마크를 상기 USB 블록 또는 멀티미디어 데이터 블록을 통해 수신한 멀티미디어 데이터에 삽입시켜 워터마킹을 수행하는 MPEG 프로세서와; 상기 멀티미디어 데이터 및 상기 워터마킹된 데이터를 저장하는 메모리를 포함하여 이루어진 것을 특징으로 한다.Watermarking system in a mobile communication network according to an embodiment of the present invention for achieving the above object is a personal computer for transmitting the multimedia data received through the base station or network in the mobile communication network; A watermarking system in a mobile communication network including a mobile communication terminal receiving multimedia data from the personal computer or the base station or producing multimedia data using various peripheral devices therein, wherein the mobile communication terminal is connected to the personal computer. A USB block for performing serial communication; A multimedia data block communicating with the base station and transmitting and receiving multimedia data; A watermark block for generating a watermark by converting the ESN of the mobile communication terminal into an image file; An MPEG processor for performing watermarking by inserting the watermark generated in the watermark block into multimedia data received through the USB block or the multimedia data block; And a memory for storing the multimedia data and the watermarked data.

바람직하게는, 상기 워터마크 블록은 상기 멀티미디어 데이터의 크기에 따라 워터마크의 종류를 선택하며, 해당 선택된 워터마크 종류에 따라 상기 이동 통신 단말기의 ESN을 워터마크 문자표로 대체시켜 워터마크를 생성하는 것을 특징으로 한다.Preferably, the watermark block selects a type of watermark according to the size of the multimedia data, and generates a watermark by replacing the ESN of the mobile communication terminal with a watermark character table according to the selected watermark type. It features.

더욱이 바람직하게는, 상기 워터마크 블록은 16진수의 ESN에 대한 문자 위치를 정의하고 문자표를 정의하여 해당 16진수 ESN을 이진 이미지 파일로 변환시켜 워터마크로 사용하도록 하는 것을 특징으로 한다.Further preferably, the watermark block is characterized by defining a character position for the hexadecimal ESN and defining a character table to convert the hexadecimal ESN into a binary image file to use as a watermark.

삭제delete

본 발명은 인증기관이 요구되지 않는 워터마킹 시스템을 구현하는 것에 관한 것으로, 인증기관의 개입 없이 이동 통신 단말기를 이용한 워터마킹 시스템을 구현하며, 해당 워터마킹 시에 이동 통신 단말기의 고유한 ESN을 이진 이미지 파일(즉, 영상 파일)로 변환시켜 워터마크로 사용함으로써, 워터마킹이 적용된 이동 통신 단말기를 이용한 멀티미디어 정보의 불법적 사용자를 확인 및 추적할 수 있도록 하며, 이에 따라 저작권 보호와 정보의 오용 및 남용의 문제점을 해결할 수 있도록 한다. 이하, 본 발명의 실시 예를 첨부한 도면을 참조하여 상세하게 설명하면 다음과 같다.The present invention relates to the implementation of a watermarking system that does not require a certification authority, implements a watermarking system using a mobile communication terminal without the intervention of the certification authority, and binary the unique ESN of the mobile communication terminal at the time of watermarking By converting an image file (ie, a video file) into a watermark, it is possible to identify and track illegal users of multimedia information using a mobile communication terminal with watermarking. Accordingly, copyright protection and misuse and abuse of information Try to solve the problem. Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings.

본 발명의 실시 예에 따른 이동 통신망에서의 워터마킹 시스템은 이동 통신 단말기를 통하여 송수신 또는 제작되는 멀티미디어 데이터를 보호하기 위해서 워터마킹이 적용되도록 구현되어지는데, 그 구성은 도 1에 도시된 바와 같이, 네트워크(100)와, 개인용 컴퓨터(200)와, 이동 통신 단말기(300)와, 기지국(400)을 포함하여 이루어진다.Watermarking system in a mobile communication network according to an embodiment of the present invention is implemented so that watermarking is applied to protect the multimedia data transmitted or received through the mobile communication terminal, the configuration is shown in Figure 1, It comprises a network 100, a personal computer 200, a mobile communication terminal 300, and a base station 400.

여기서, 유무선으로 데이터를 송수신하기 위해서 해당 이동 통신 단말기(300)를 해당 개인용 컴퓨터(200)와 기지국(400)에 연결시켜 이루어지며, 또한 해당 개인용 컴퓨터(200)는 해당 네트워크(100)를 통해서 데이터를 공유할 수 있도록 이루어진다.Here, the mobile communication terminal 300 is connected to the personal computer 200 and the base station 400 in order to transmit and receive data in a wired or wireless manner, and the personal computer 200 transmits data through the network 100. It is made to share.

상기 개인용 컴퓨터(200)는 상기 네트워크(100)를 통해 수신받은 모든 멀티미디어 데이터를 상기 이동 통신 단말기(300) 측으로 전송해 주며, 상기 이동 통신 단말기(300)로부터 ESN을 다운로드받아 이진 이미지 파일(즉, 영상 파일)로 변환시켜 워터마크로 사용해 워터마킹을 수행해 준다.The personal computer 200 transmits all the multimedia data received through the network 100 to the mobile communication terminal 300, and downloads an ESN from the mobile communication terminal 300 to obtain a binary image file (ie, It converts the image file into a watermark and performs watermarking.

그리고, 상기 개인용 컴퓨터(200)는 상기 네트워크(100) 및 상기 이동 통신 단말기(300)와의 통신을 수행하도록 하기 위한 클라이언트(201)와, 해당 클라이언트(201)를 통해 다운로드된 ESN을 이진 이미지 파일로 변환시켜 워터마크로 사용하여 멀티미디어 데이터를 워터마킹하는 워터마킹 툴 블록(202)을 포함하여 이루어진다.In addition, the personal computer 200 includes a client 201 for performing communication with the network 100 and the mobile communication terminal 300 and an ESN downloaded through the client 201 as a binary image file. And a watermarking tool block 202 for converting and watermarking the multimedia data using the watermark.

상기 이동 통신 단말기(300)는 상기 개인용 컴퓨터(200) 또는 기지국(400)으로부터 멀티미디어 데이터를 수신받거나, 자체 내의 각종 주변 장치를 이용하여 멀티미디어 데이터를 제작한 후에, 해당 수신받거나 제작된 멀티미디어 데이터에 워터마크를 삽입하여 저장시키며, 상기 개인용 컴퓨터(200)의 다운로드 요청 시에 자체의 ESN을 상기 개인용 컴퓨터(200) 측으로 전송해 주는 역할을 수행한다.The mobile communication terminal 300 receives the multimedia data from the personal computer 200 or the base station 400, or after producing the multimedia data using a variety of peripheral devices within the water, the received or produced multimedia data It inserts and stores the mark, and transmits its own ESN to the personal computer 200 when the personal computer 200 downloads the request.

그리고, 상기 이동 통신 단말기(300)는 상기 개인용 컴퓨터(200)와 시리얼 통신을 수행하기 위한 USB 블록(301)과, 데이터의 인코딩 및 디코딩, 그리고 워터 마킹을 수행하기 위한 MPEG 프로세서(302)와, 워터마크를 생성하기 위한 워터마크 블록(303)과, 디지털 신호 처리를 위한 신호 처리 블록(304)과, 사용하고자 하는 데이터를 불러오는 멀티미디어 데이터 블록(305)과, 베이스밴드(Baseband) 동작과 제어를 위한 마이크로프로세서(306)와, 주변 장치로서의 카메라/캠코더(307), LCD(308) 및 스피커(309)와, 데이터를 저장하기 위한 메모리(310)를 포함하여 이루어진다.The mobile communication terminal 300 includes a USB block 301 for performing serial communication with the personal computer 200, an MPEG processor 302 for encoding, decoding, and watermarking data; Watermark block 303 for generating a watermark, signal processing block 304 for digital signal processing, multimedia data block 305 for importing data to be used, and baseband operation and control A microprocessor 306, a camera / camcorder 307 as a peripheral device, an LCD 308 and a speaker 309, and a memory 310 for storing data.

여기서, 해당 MPEG 프로세서(302)는 해당 USB 블록(301)을 통해 멀티미디어 데이터를 수신받거나 주변 장치에서 생성시킨 멀티미디어 데이터를 수신받아 DCT를 수행하는 동안에 주파수 영역에서 해당 워터마크 블록(303)에서 생성된 워터마크를 삽입하는 역할을 수행한다. 해당 워터마크 블록(303)은 16진수 ESN을 이진 이미지 파일(즉, 영상 파일)로 변환시켜 주는데, 도 2 및 도 3에 도시된 바와 같은 양식처럼 ESN의 문자 위치를 정의하고 도 4 및 도 5에 도시된 바와 같은 양식처럼 문자표로 정의해 준다.Here, the MPEG processor 302 receives the multimedia data through the USB block 301 or receives the multimedia data generated by the peripheral device and generates the watermark block 303 in the frequency domain while performing the DCT. It inserts a watermark. The watermark block 303 converts the hexadecimal ESN into a binary image file (ie, an image file), which defines the character position of the ESN as shown in FIGS. 2 and 3 and defines the character positions of the ESN. It is defined as a character table as shown in the form.

그리고, 워터마킹에 사용된 워터마크는 도 2 또는 도 3에 도시된 바와 같은 양식으로 이진 이미지 파일로 삽입되어 이루어진다. 또한, 해당 워터마크로서 ESN의 16진수 문자는 워터마킹 동안에 도 4 또는 도 5와 같은 형태의 이진 이미지 파일로 변형되어 사용되어진다. 여기서, 이진 이미지 파일의 크기는 도 2 또는 도 3에 도시된 바와 같다.The watermark used for watermarking is inserted into a binary image file in the form as shown in FIG. 2 or 3. In addition, the hexadecimal characters of the ESN as the corresponding watermark are transformed into a binary image file of the form shown in FIG. 4 or 5 during watermarking. Here, the size of the binary image file is as shown in FIG. 2 or 3.

상술한 바와 같은 구성을 가지는 본 발명의 실시 예에 따른 이동 통신망에서 의 워터마킹 시스템에 있어서, 이동 통신 단말기(300)를 사용하여 멀티미디어 데이터(예를 들어, 영상 파일, 동영상 파일, 사운드 파일 등)에 워터마킹을 적용하는 방법에는 세 가지의 방법이 있다.In the watermarking system in a mobile communication network according to an embodiment of the present invention having the above-described configuration, the multimedia data (for example, an image file, a video file, a sound file, etc.) using the mobile communication terminal 300 There are three ways to apply watermarking.

첫 번째로, 클라이언트(201)의 요구에 의해 네트워크(100) 또는 기지국(400)에 연결되어 있는 개인용 컴퓨터(200)에서 최초 다운로드된 모든 멀티미디어 데이터(즉, 해당 네트워크(100) 또는 기지국(400)을 통해 수신받은 모든 멀티미디어 데이터)를 상기 이동 통신 단말기(300)의 메모리(310)에 저장시키는 동안에 워터마크를 삽입하는 방법이다.First, all multimedia data originally downloaded from the personal computer 200 connected to the network 100 or the base station 400 at the request of the client 201 (ie, the network 100 or the base station 400). A method of inserting a watermark while storing all the multimedia data received through the memory in the memory 310 of the mobile communication terminal 300.

두 번째로, 상기 이동 통신 단말기(300)의 각종 주변 장치(즉, 카메라/캠코더(307), LCD(308) 및 스피커(309))를 이용하여 멀티미디어 데이터를 제작하며, 해당 제작된 멀티미디어 데이터를 상기 메모리(310)에 저장시키는 동안에 워터마크를 삽입하는 방법이다.Secondly, multimedia data is produced using various peripheral devices (ie, camera / camcorder 307, LCD 308, and speaker 309) of the mobile communication terminal 300, and the corresponding multimedia data is produced. A method of inserting a watermark while storing the memory 310 is performed.

세 번째로, 상기 이동 통신 단말기(300)의 ESN을 상기 개인용 컴퓨터(200)로 전송(즉, 다운로드)하며, 상기 개인용 컴퓨터(200) 내에 구비되어 있는 워터마킹 툴 블록(202)에서 상기 이동 통신 단말기(300)의 ESN을 수신받아 이진 이미지 파일로 변환시켜 워터마크로 사용하도록 하는 방법이다.Thirdly, the mobile communication terminal 300 transmits (ie downloads) the ESN to the personal computer 200, and the mobile communication is performed in the watermarking tool block 202 provided in the personal computer 200. Receiving an ESN of the terminal 300 is converted to a binary image file to use as a watermark.

그러면, 상기 이동 통신 단말기(300)에서의 워터마킹 수행 과정을 도 6의 순서도를 참고하여 설명하면 다음과 같다.Then, the process of performing watermarking in the mobile communication terminal 300 will be described with reference to the flowchart of FIG. 6.

먼저, 이동 통신 단말기(300)의 사용자에 의해 해당 이동 통신 단말기(300)에 구비되어 있는 키패드를 이용하여 패스워드를 입력하여 해당 이동 통신 단말기(300) 측으로 사용자 인증 요청을 수행한 후에, 해당 이동 통신 단말기(300)로부터 사용자 인증 승인 응답을 수신받아 사용자 로그인된 상태가 되도록 해 주며(단계 S1), 이에 해당 로그인 상태에서 멀티미디어 기능을 선택하게 되면, 해당 멀티미디어 기능 선택을 감지하여(단계 S2) 워터마킹 동작을 수행하도록 해 준다.First, a user of the mobile communication terminal 300 inputs a password using a keypad provided in the mobile communication terminal 300 to perform a user authentication request to the corresponding mobile communication terminal 300, and then the corresponding mobile communication. Receiving a user authentication approval response from the terminal 300, the user is logged in (step S1), and if the multimedia function is selected in the corresponding login state, the multimedia function selection is detected (step S2). Allows you to perform an action.

이 때, 상기 제2단계(S2)의 멀티미디어 기능 선택 시에 메모리(310)에 저장되어 있는 데이터를 선택했는지(단계 S3), 또는 개인용 컴퓨터(200)나 기지국(400)을 이용하여 데이터 다운로드를 선택했는지를 확인한다(단계 S4).At this time, when the multimedia function of the second step S2 is selected, data stored in the memory 310 is selected (step S3), or data download is performed using the personal computer 200 or the base station 400. Check whether it is selected (step S4).

이에, 상기 제3단계(S3)에서 저장된 데이터를 선택하거나, 상기 제4단계(S4)에서 데이터 다운로드를 선택한 경우에, 멀티미디어 정보를 불법으로 복제하여 무단 배포하는 행위를 막기 위해서 사용자의 ESN을 사용하여 워터마킹 수행 과정을 진행하도록 해 준다.Therefore, when the data stored in the third step S3 or the data download is selected in the fourth step S4, the user's ESN is used to prevent illegal copying and distribution of multimedia information. To proceed with the watermarking process.

이에 따라, 상기 저장된 데이터 또는 상기 다운로드된 데이터를 출력할 것인지를 판단하게 되는데(단계 S5), 이때 상기 다운로드된 데이터는 MPEG 형식으로 인코딩된 데이터이다.Accordingly, it is determined whether to output the stored data or the downloaded data (step S5), wherein the downloaded data is data encoded in MPEG format.

그래서, 상기 데이터를 출력하는 경우에는, MPEG 프로세서(302)에서 상기 데이터를 디코딩한 후에(단계 S6), 해당 디코딩된 데이터를 LCD(308) 및 스피커(309)를 통해서 출력시켜 준다(단계 S7).Thus, in the case of outputting the data, after decoding the data in the MPEG processor 302 (step S6), the decoded data is output through the LCD 308 and the speaker 309 (step S7). .

그리고, 상기 제2단계(S2)의 멀티미디어 기능 선택 시에 상기 이동 통신 단말기(300)의 각종 주변 장치(즉, 카메라/캠코더(307), 마이크(311))를 이용한 멀티 미디어 데이터 생성을 선택하였는지를 확인한다(단계 S8).When the multimedia function is selected in the second step S2, whether multimedia data generation using various peripheral devices (ie, the camera / camcorder 307 and the microphone 311) of the mobile communication terminal 300 is selected is selected. Check (step S8).

이에, 상기 제8단계(S8)에서 멀티미디어 데이터 생성을 선택한 경우에, 저작자의 저작권 보호 또는 타인의 사생활 침해성 저작물에 대한 정보의 오용 및 남용 문제를 해결하기 위해서 사용자의 ESN을 사용하여 워터마킹 수행 과정을 진행하도록 해 준다.Therefore, in the case where multimedia data generation is selected in the eighth step S8, watermarking is performed using the user's ESN in order to solve the problem of copyright protection or misuse and misuse of information on copyright infringing works of others. Allow the process to proceed.

이에 따라, 신호 처리 블록(304)에서는 상기 생성된 멀티미디어 데이터를 디지털 신호 처리(예를 들어, 데이터 포맷 변환 등)를 수행한 후에(단계 S9), 해당 디지털 신호 처리된 데이터를 LCD(308) 및 스피커(309)를 통해서 출력시켜 준다(단계 S10).Accordingly, the signal processing block 304 performs digital signal processing (for example, data format conversion, etc.) on the generated multimedia data (step S9), and then displays the digital signal processed data on the LCD 308 and the like. It outputs through the speaker 309 (step S10).

이와 동시에, 상기 제6단계(S6)에서 디코딩된 데이터 또는 상기 제9단계(S9)에서 디지털 신호 처리된 데이터를 저장할 것인지를 판단하는데(단계 S11), 이때 데이터를 저장하고자 하는 경우에는 워터마킹을 적용하기 위한 멀티미디어 데이터의 크기에 따라 워터마크 종류를 선택하게 된다(단계 S12).At the same time, it is determined whether to store the data decoded in the sixth step S6 or the digital signal processed data in the ninth step S9 (step S11). The watermark type is selected according to the size of the multimedia data to be applied (step S12).

그리고, 상기 선택된 워터마크의 종류에 따라 상기 이동 통신 단말기(300)의 ESN을 도 4 또는 도 5에 도시된 바와 같은 워터마크 문자표로 대체시켜 멀티미디어의 불법적인 사용자의 추적을 위한 워터마크를 생성하게 된다(단계 S13).Then, the ESN of the mobile communication terminal 300 is replaced with the watermark character table as shown in FIG. 4 or 5 according to the type of the selected watermark to generate a watermark for tracking illegal users of the multimedia. (Step S13).

여기서, 해당 워터마크는 워터마크 블록(303)에서 생성되어지는데, 해당 워터마크는 상기 이동 통신 단말기(300)의 유일한 ESN을 사용하게 된다.Here, the watermark is generated in the watermark block 303, which uses the only ESN of the mobile communication terminal 300.

그리고, 상기 워터마크 블록(303)에서는 16진수의 ESN을 이진수 값으로 변환시켜 워터마크로 사용할 수 있으며, 이런 경우에는 워터마크가 삽입된 데이터(이하, '임베디드 데이터'라고 한다)는 상기 신호 처리 블록(304)에서 각종 디지털 신호 처리 동작(즉, 필터링, 크기 변환, 압축률 변환 등)을 수행할 때에 해당 워터마크가 일부 파괴되어 정확한 사용자 정보를 추출할 수 없게 됨으로써, 상기 워터마크 블록(303)에서는 16진수 ESN을 이진 이미지 파일로 변환시켜 주도록 한다.The watermark block 303 converts the hexadecimal ESN into a binary value to use as a watermark. In this case, the watermarked data (hereinafter referred to as 'embedded data') is the signal processing block. When performing various digital signal processing operations (ie, filtering, size conversion, compression rate conversion, etc.) at 304, the corresponding watermark is partially destroyed, so that accurate user information cannot be extracted, so that the watermark block 303 Convert a hexadecimal ESN to a binary image file.

이 때, 상기 이진 이미지 파일은 도 2에 도시된 바와 같은 15*20 픽셀(Pixel)(321)의 형태와 도 3에 도시된 바와 같은 30*40 픽셀(322)의 형태의 두 가지 양식으로 정의되어지는데, 이것은 워터마킹을 적용하기 위한 멀티미디어 데이터의 크기에 따라 워터마크를 선택적으로 적용하기 위해서이다.In this case, the binary image file is defined in two forms, a form of 15 * 20 pixels 321 as shown in FIG. 2 and a form of 30 * 40 pixels 322 as shown in FIG. 3. This is for selectively applying a watermark according to the size of multimedia data for applying watermarking.

그리고, 상기 워터마킹에 적용하기 위한 멀티미디어 데이터의 크기가 큰 경우, 상기 워터마크가 삽입되어도 원본 데이터와 비교하여 왜곡된 부분을 시각적으로 구별할 수 없어 워터마킹의 비가시성(Invisibility)을 만족하게 된다.When the size of the multimedia data to be applied to the watermarking is large, even if the watermark is inserted, the distorted portion cannot be visually distinguished from the original data, thereby satisfying the invisibility of watermarking. .

그러나, 상기 멀티미디어 데이터의 크기가 작은 경우, 즉 크기가 작은 멀티미디어 데이터에 비교적 크기가 큰 워터마크가 삽입되는 경우에는, 상기 임베디드 데이터는 많은 왜곡이 발생하여 멀티미디어 데이터로의 의미가 없게 될 뿐만 아니라 워터마크의 비가시성을 만족하지 못하게 되어 불법 사용자에 의해서 워터마크가 인위적으로 삭제될 수 있기 때문에, 상기 워터마킹을 적용하기 위한 멀티미디어 데이터의 크기에 따라 워터마크 종류를 선택하는 것이 중요하다.However, when the size of the multimedia data is small, that is, when a relatively large watermark is inserted into the small size of the multimedia data, the embedded data may cause a lot of distortion and become meaningless as the multimedia data. Since the invisibility of the mark may not be satisfied and the watermark may be artificially deleted by the illegal user, it is important to select the watermark type according to the size of the multimedia data to apply the watermarking.

예를 들어, 원본 데이터가 VGA 크기(예를 들어, 640*480 픽셀)보다 크거나 같은 경우에는 도 3에 도시된 바와 같은 파일 크기를 사용하도록 하며, 반면에 VGA 크기보다 작은 경우에는 도 2에 도시된 바와 같은 파일 크기를 사용하도록 한다.For example, if the original data is larger than or equal to the VGA size (e.g., 640 * 480 pixels), use a file size as shown in Figure 3, whereas if it is smaller than the VGA size, the file size is Use the file size as shown.

그리고, 상기 신호 처리 블록(304)에서의 디지털 신호 처리가 상기 임베디드 데이터에 적용되었을 경우에는, 추출된 워터마크가 약간의 데이터 손실이 발생되어 ESN의 식별성을 감소시키므로, 해당 추출된 워터마크의 보정력과 식별성을 높이기 위해서 도 2 및 도 3에 도시된 바와 같은 양식처럼 ESN의 문자 위치를 정의해 준다. 또한, 16진수 ESN을 도 4 및 도 5에 도시된 바와 같은 양식처럼 문자표로 정의해 주는데, 각 문자의 픽셀 수는 5*3 픽셀(321)과 7*5 픽셀(322)로 원본 데이터의 파일 크기에 따라 선택되도록 한다.When the digital signal processing in the signal processing block 304 is applied to the embedded data, a slight data loss occurs in the extracted watermark, thereby reducing the identification of the ESN, and thus the correction power of the extracted watermark. In order to improve identification and identification, the text positions of the ESN are defined as shown in FIGS. 2 and 3. In addition, the hexadecimal ESN is defined as a character table as shown in FIGS. 4 and 5, wherein the number of pixels of each character is 5 * 3 pixels 321 and 7 * 5 pixels 322, and the file of the original data is defined. Make sure to choose according to the size.

그런 후, 상기 제13단계(S13)에서 생성된 워터마크는 상기 MPEG 프로세서(302)의 인코더를 통해 삽입되어지는데, 즉 상기 MPEG 프로세서(302)는 DCT를 수행하는 동안에 주파수 영역에서 워터마크를 삽입하도록 한다(단계 S14).Then, the watermark generated in the thirteenth step S13 is inserted through the encoder of the MPEG processor 302, that is, the MPEG processor 302 inserts a watermark in the frequency domain while performing the DCT. (Step S14).

한편, 상술한 바와 같은 본 발명의 실시 예에 따른 이동 통신망에서의 워터마킹 시스템에서 사용되는 워터마킹 알고리즘은 상술한 바와 같은 실시 예에 국한되지 않고, 일반적인 다양한 알고리즘을 사용할 수 있음을 잘 알아야 한다.Meanwhile, it should be understood that the watermarking algorithm used in the watermarking system in the mobile communication network according to the above-described embodiments of the present invention is not limited to the above-described embodiment, and various general algorithms may be used.

그리고, 본 발명의 실시 예에 따른 이동 통신망에서의 워터마킹 시스템에 있어서, 상기 이동 통신 단말기(300)를 이용하지 않고 만들어진 멀티미디어 데이터의 저작권 보호를 위해서는, 상기 개인용 컴퓨터(200) 내에 구비되어 있는 워터마킹 툴 블록(202)에서 상기 이동 통신 단말기(300)의 ESN을 다운로드하여 이진 이미지 파일로 변환시켜 워터마크로 사용하도록 한다.In the watermarking system in a mobile communication network according to an embodiment of the present invention, in order to protect copyright of multimedia data created without using the mobile communication terminal 300, the water provided in the personal computer 200 is provided. In the marking tool block 202, the ESN of the mobile communication terminal 300 is downloaded, converted into a binary image file, and used as a watermark.

다른 한편, 상술한 바와 같이 워터마크가 워터마킹으로 사용된 후에 해당 워터마크를 추출하기 위해서는, 의심이 가는 멀티미디어 데이터를 선택한 후에 워터마킹에 사용되었던 알고리즘에 대해 역 과정을 수행하도록 하는데, 즉 역 워터마킹 알고리즘을 수행하여 해당 워터마크를 추출해 준다.On the other hand, in order to extract the watermark after the watermark is used as watermarking as described above, the reverse process is performed on the algorithm used for the watermarking after selecting suspicious multimedia data. The marking algorithm is extracted to extract the watermark.

이상과 같이, 본 발명에 의해 이동 통신망에서 이동 통신 단말기의 코덱에 워터마킹을 적용하며, 해당 적용 시에 이동 통신 단말기의 고유한 ESN을 워터마크로 사용함으로써, 공인 인증기관의 개입 없이 정보의 저작자 및 배포자를 추적 및 확인할 수 있도록 하여 정보의 저작권 보호와 오용 및 남용 문제를 해결할 수 있다.As described above, watermarking is applied to the codec of the mobile communication terminal in the mobile communication network according to the present invention, and by using the unique ESN of the mobile communication terminal as the watermark at the time of application, the author of the information and By tracking and verifying distributors, you can address the issue of copyright protection, misuse, and abuse of information.

Claims (5)

삭제delete 삭제delete 이동 통신망에서 기지국 또는 네트워크를 통해 수신받은 멀티미디어 데이터를 전송하는 개인용 컴퓨터와; 상기 개인용 컴퓨터 또는 상기 기지국으로부터 멀티미디어 데이터를 수신받거나, 자체 내의 각종 주변 장치를 이용해 멀티미디어 데이터를 제작하는 이동 통신 단말기를 포함하는 이동 통신망에서의 워터마킹 시스템에 있어서,A personal computer for transmitting multimedia data received through a base station or a network in a mobile communication network; In the watermarking system in a mobile communication network comprising a mobile communication terminal for receiving multimedia data from the personal computer or the base station, or to produce the multimedia data using a variety of peripheral devices in itself, 상기 이동 통신 단말기는 상기 개인용 컴퓨터와 시리얼 통신을 수행하기 위한 USB(Universal Serial Bus) 블록과;The mobile communication terminal includes a universal serial bus (USB) block for performing serial communication with the personal computer; 상기 기지국과 통신을 수행하고 멀티미디어 데이터를 송수신하는 멀티미디어 데이터 블록과;A multimedia data block communicating with the base station and transmitting and receiving multimedia data; 상기 이동 통신 단말기의 ESN(Electronic Serial Number)을 영상 파일로 변환시켜 워터마크를 생성하는 워터마크 블록과;A watermark block for generating a watermark by converting an electronic serial number (ESN) of the mobile communication terminal into an image file; 상기 워터마크 블록에서 생성된 워터마크를 상기 USB 블록 또는 멀티미디어 데이터 블록을 통해 수신한 멀티미디어 데이터에 삽입시켜 워터마킹을 수행하는 MPEG(Moving Picture Experts Group) 프로세서와;A moving picture expert group (MPEG) processor for watermarking the watermark generated from the watermark block by inserting the watermark into the multimedia data received through the USB block or the multimedia data block; 상기 멀티미디어 데이터 및 상기 워터마킹된 데이터를 저장하는 메모리를 포함하여 이루어진 것을 특징으로 하는 이동 통신망에서의 워터마킹 시스템.And a memory for storing the multimedia data and the watermarked data. 제3항에 있어서,The method of claim 3, 상기 워터마크 블록은 상기 멀티미디어 데이터의 크기에 따라 워터마크의 종류를 선택하며, 해당 선택된 워터마크 종류에 따라 상기 이동 통신 단말기의 ESN을 워터마크 문자표로 대체시켜 워터마크를 생성하는 것을 특징으로 하는 이동 통신망에서의 워터마킹 시스템.The watermark block selects a watermark type according to the size of the multimedia data, and generates a watermark by replacing the ESN of the mobile communication terminal with a watermark character table according to the selected watermark type. Watermarking system in communication network. 제4항에 있어서,The method of claim 4, wherein 상기 워터마크 블록은 16진수의 ESN에 대한 문자 위치를 정의하고 문자표를 정의하여 해당 16진수 ESN을 이진 이미지 파일로 변환시켜 워터마크로 사용하도록 하는 것을 특징으로 하는 이동 통신망에서의 워터마킹 시스템.The watermark block is a watermarking system in a mobile communication network, characterized in that for defining the character position for the ESN of the hexadecimal number and the character table to convert the hexadecimal ESN to a binary image file to use as a watermark.
KR1020030051060A 2003-07-24 2003-07-24 a Water-marking System of the Mobile Communication Network KR100541500B1 (en)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020030051060A KR100541500B1 (en) 2003-07-24 2003-07-24 a Water-marking System of the Mobile Communication Network
DE102004033992A DE102004033992A1 (en) 2003-07-24 2004-07-14 Methods and systems for watermarking multimedia data using mobile communication terminals
US10/897,710 US20050018843A1 (en) 2003-07-24 2004-07-23 Methods and systems of watermarking multimedia data using mobile communication terminals
CNA2004100708789A CN1577394A (en) 2003-07-24 2004-07-23 Methods and systems of watermarking multimedia data using mobile communication terminals

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020030051060A KR100541500B1 (en) 2003-07-24 2003-07-24 a Water-marking System of the Mobile Communication Network

Publications (2)

Publication Number Publication Date
KR20050011982A KR20050011982A (en) 2005-01-31
KR100541500B1 true KR100541500B1 (en) 2006-01-11

Family

ID=37223899

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020030051060A KR100541500B1 (en) 2003-07-24 2003-07-24 a Water-marking System of the Mobile Communication Network

Country Status (1)

Country Link
KR (1) KR100541500B1 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101047238B1 (en) * 2005-05-30 2011-07-06 박정규 Watermarking Method of Recording / Recording Data Using Mobile Communication Network

Also Published As

Publication number Publication date
KR20050011982A (en) 2005-01-31

Similar Documents

Publication Publication Date Title
US20100082478A1 (en) Apparatus & methods for digital content distribution
CA2271106A1 (en) Method and apparatus for imprinting id information into a digital content and for reading out the same
JP4325163B2 (en) Secure multimedia data transmission method
CN101491078A (en) Method, apparatus and system for secure distribution of content
US20030009667A1 (en) Data terminal device that can easily obtain content data again, a program executed in such terminal device, and recording medium recorded with such program
KR20180087962A (en) Watermark embedding method and apparatus, and system
US20050018843A1 (en) Methods and systems of watermarking multimedia data using mobile communication terminals
CN110889796A (en) Watermark embedding method, watermark extracting method, watermark embedding device, watermark extracting device and equipment
KR100545451B1 (en) Method of Water-marking Multi-media data by Using the Mobile Communication Terminal
KR100541500B1 (en) a Water-marking System of the Mobile Communication Network
KR101286649B1 (en) Method for implementing Key Sharing and Update mechanism utilizing Watermark
US7900051B2 (en) Secure multimedia data transmission method
CN112261040B (en) Online audio and video anti-theft method and system
JP2005318068A (en) Electronic watermark embedding system of contents authentication data, and authentication system
JP4107063B2 (en) Encryption information transmission / reception system, transmission / reception method, encryption information embedding program, and encryption information recording apparatus
KR101456698B1 (en) Digital contents providing method and storage medium recording that method program, digital contens providing system and user terminal
KR100613981B1 (en) Method for Water-marking Multi-media data in Mobile Communication System
JP2002041398A (en) System and method for distributing information
KR100659870B1 (en) Mobile terminal and method for servicing contents
KR100931500B1 (en) Rich Media Server, Rich Media Delivery System and Rich Media Delivery Method
JP2009048330A (en) Content protection system, content protection method, and content protection program
CN104113540A (en) Digital music copy-proof system for android platform
WO2012048537A1 (en) Data encryption method and mobile terminal
KR100712921B1 (en) Mobile communication terminal enable to play content in short time and its operating method
KR100556882B1 (en) A method and a apparatus of certification with authentication image signal for mobile phone

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20121130

Year of fee payment: 8

FPAY Annual fee payment

Payment date: 20131129

Year of fee payment: 9

FPAY Annual fee payment

Payment date: 20141212

Year of fee payment: 10

FPAY Annual fee payment

Payment date: 20151201

Year of fee payment: 11

FPAY Annual fee payment

Payment date: 20170529

Year of fee payment: 12

LAPS Lapse due to unpaid annual fee