KR100772866B1 - 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을동기화시키는 장치 및 그 방법 - Google Patents

타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을동기화시키는 장치 및 그 방법 Download PDF

Info

Publication number
KR100772866B1
KR100772866B1 KR1020060016837A KR20060016837A KR100772866B1 KR 100772866 B1 KR100772866 B1 KR 100772866B1 KR 1020060016837 A KR1020060016837 A KR 1020060016837A KR 20060016837 A KR20060016837 A KR 20060016837A KR 100772866 B1 KR100772866 B1 KR 100772866B1
Authority
KR
South Korea
Prior art keywords
audio data
time
data
video
frame
Prior art date
Application number
KR1020060016837A
Other languages
English (en)
Other versions
KR20070084713A (ko
Inventor
서장석
민성환
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020060016837A priority Critical patent/KR100772866B1/ko
Priority to US11/654,656 priority patent/US8331763B2/en
Publication of KR20070084713A publication Critical patent/KR20070084713A/ko
Application granted granted Critical
Publication of KR100772866B1 publication Critical patent/KR100772866B1/ko

Links

Images

Classifications

    • EFIXED CONSTRUCTIONS
    • E01CONSTRUCTION OF ROADS, RAILWAYS, OR BRIDGES
    • E01CCONSTRUCTION OF, OR SURFACES FOR, ROADS, SPORTS GROUNDS, OR THE LIKE; MACHINES OR AUXILIARY TOOLS FOR CONSTRUCTION OR REPAIR
    • E01C13/00Pavings or foundations specially adapted for playgrounds or sports grounds; Drainage, irrigation or heating of sports grounds
    • E01C13/08Surfaces simulating grass ; Grass-grown sports grounds
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • DTEXTILES; PAPER
    • D04BRAIDING; LACE-MAKING; KNITTING; TRIMMINGS; NON-WOVEN FABRICS
    • D04GMAKING NETS BY KNOTTING OF FILAMENTARY MATERIAL; MAKING KNOTTED CARPETS OR TAPESTRIES; KNOTTING NOT OTHERWISE PROVIDED FOR
    • D04G5/00Knotting not otherwise provided for
    • DTEXTILES; PAPER
    • D10INDEXING SCHEME ASSOCIATED WITH SUBLASSES OF SECTION D, RELATING TO TEXTILES
    • D10BINDEXING SCHEME ASSOCIATED WITH SUBLASSES OF SECTION D, RELATING TO TEXTILES
    • D10B2505/00Industrial
    • D10B2505/20Industrial for civil engineering, e.g. geotextiles
    • D10B2505/202Artificial grass
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/78Television signal recording using magnetic recording
    • H04N5/781Television signal recording using magnetic recording on disks or drums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Textile Engineering (AREA)
  • Architecture (AREA)
  • Civil Engineering (AREA)
  • Structural Engineering (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Television Signal Processing For Recording (AREA)

Abstract

본 발명은 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화 시키는 장치 및 그 방법에 관한 것으로서, 더욱 상세하게는 타임 시프트기능으로 녹화된 컨텐츠와 실시간 컨텐츠의 재생 시점이 동기화될 수 있도록 녹화된 컨텐츠에 대한 정제(refine) 과정을 수행하는 장치 및 방법에 관한 것이다.
본 발명의 일 실시예에 따른 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 장치는, 방송 신호를 튜닝하고, 튜닝된 디지털 방송 신호를 복조하여 트랜스포트 스트림 형태로 출력하는 튜너/디모듈레이터와, 상기 출력된 트랜스포트 스트림을 디먹싱하여 비디오 데이터, 오디오 데이터 및 부가 정보로 분리하여 출력하는 디먹스와, 상기 분리된 비디오 및 오디오 데이터 내에 불필요한 프레임을 제거하는 데이터 정제부와, 상기 불필요한 프레임이 제거된 비디오 및 오디오 데이터를 저장하는 HDD를 포함한다.
PVR, 타임 시프트, 데이터 정제부, 동기화

Description

타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 장치 및 그 방법{Apparatus and method for synchronism play time of time shift contents and real time contents}
도 1은 종래의 PVR 시스템의 블록도를 나타낸 도면.
도 2는 본 발명의 일 실시예에 따른 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 장치의 내부 블록도를 나타낸 도면.
도 3은 본 발명의 다른 실시예에 따른 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 장치에 수신되는 MPEG2-TS 구조 및 비디오 및 오디오 데이터의 불필요한 프레임을 제거하는 예를 나타낸 도면.
도 4는 본 발명의 또 다른 실시예에 따른 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 방법을 나타낸 순서도.
도 5는 본 발명의 또 다른 실시예에 따른 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 방법 중 비디오 및 오디오 데이터의 정제 과정을 나타낸 순서도.
<도면의 주요 부분에 관한 부호의 설명>
110 : 튜너/디모듈레이터 120 : 파서
130 : 디먹스 140 : 데이터 정제부
150 : HDD 160 : MPEG2 디코더
170 : 출력부
본 발명은 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화 시키는 장치 및 그 방법에 관한 것으로서, 더욱 상세하게는 타임 시프트(time-shift) 기능으로 녹화된 컨텐츠와 실시간 컨텐츠의 재생 시점이 동기화될 수 있도록 녹화된 컨텐츠에 대한 정제(refine) 과정을 수행하는 장치 및 방법에 관한 것이다.
일반적으로 PVR(Personal Video Recorder) 시스템은 디스크(HDD)와 같은 불휘발성 메모리에 디지털 방송 컨텐츠를 저장하거나 위성 방송 컨텐츠를 디지털 신호로 변환하여 저장하고, 필요할 때 TV와 같은 모니터로 컨텐츠를 출력하여 재생할 수 있는 개인용 디지털 비디오 녹화기기이다. 이러한 PVR 시스템은 마그네틱 테이프에 영상신호를 저장하는 VCR과는 달리 하드디스크에 정보를 기록하여 재생하는 신개념의 디지털 녹화기기이다. 셋톱 박스나 텔레비전 본체에 내장된 하드디스크 드라이브를 통해 VCR 없이도 용량에 따라 일정시간 분량의 방송프로그램을 녹화할 수 있는 녹화기기이다. 이때, 디스크(HDD)에 저장되는 데이터는 MPEG2 방식으로 인코딩되어 저장되며, 저장된 데이터를 재생할 때는 MPEG2 방식으로 디코딩되어 출력된다.
즉, PVR 시스템은 티브이(TV) 시스템에서 방송 채널로 수신되는 디지털 방송 데이터(유럽:DVB, 한국/일본/북미:ATSC), 아날로그 방송데이터(유럽;PAL, 한국/일본/북미:NTSC)를 CPU 및 비디오 신호 프로세서를 통하여 디지털 신호로 변환하고, 시스템 내부의 메모리(즉, HDD)에서 디지털 신호 데이터 변환 후 저장하며, 저장된 디지털 신호 데이터의 A/D 변환을 수행하고, 디스플레이 장치 또는 스크린을 통해 시청자가 원하는 시간 또는 방법으로 재생할 수 있는 시스템이다.
도 1은 종래의 PVR 시스템의 블록도를 나타낸 도면이다.
도시된 바와 같이, 원하는 채널을 선국하고 선국된 디지털 방송 신호를 트랜스포트 스트림(Transport Stream: TS) 형태로 변환하는 튜너/ 디모듈레이터(10)와, 튜너/디모듈레이터(10)에서 변환된 트랜스포트 스트림을 영상, 음성 및 데이터로 각각 분리하는 디먹스(20)와, 분리된 영상이 HDD(30)에 저장되도록 제어하는 CPU(30)와, CPU(30)의 제어에 따라 영상, 음성 및 데이터 스트림을 저장하는 HDD(40)와, 시청자의 요구에 따라 튜너/디모듈레이터(10)를 통해 수신되는 스트림 또는 HDD(40)에 저장된 스트림을 영상 및 음성으로 각각 디코딩하여 화면 및 스피커를 통해 출력 가능하도록 처리하는 MPEG 디코더(50)로 구성된다.
한편, PVR 시스템의 내부 기능으로는 방송프로그램 예약 녹화방법, 및 타임 시프트(time-shift) 방법 등이 있다. 여기서, 타임 시프트 기능은 튜너(10)를 통해 수신되는 방송 프로그램의 스트림 버퍼(stream buffer)를 저장 매체에 저장하고 저장된 방송 프로그램 데이터 중 원하는 부분을 일정 시간 경과 후에 시청자가 임의로 시청할 수 있도록 하는 기능으로서, 타임 시프트 모드가 개시되면 현재 수신된 실시간 컨텐츠(즉, 생방송 데이터)는 화면엔 나타나지 않고 저장 매체에 기록만 된 다. 실제 화면에 나타나는 화면은 PVR에 의해 저장 매체에 기록된 현재 시점 이전의 방송이다.
 이러한 타임 시프트 기능이 활성화된 경우, 시청자가 수신하고 있는 방송과 실제 수신되는 방송과는 시간차가 발생하게 된다. 그러나, 시청자는 이러한 타임 시프트 모드를 실행한 이후에 생방송을 보고 싶어하는 경우가 있다.
상기와 같은 경우 현재 PVR에서는 저장된 데이터를 디코딩하던 것을 멈추고 튜너로부터 방송 데이터를 디코딩한다. 이때, 시간차 만큼의 방송 데이터를 건너 뛰게 되어 시청자에게 보여 주지 못하는 방송데이터가 발생되게 된다.
따라서, 시청자는 녹화된 방송 컨텐츠를 빠르게 돌려보거나, 타임 시프트를 통해 녹화된 컨텐츠를 계속 보아야 하는 문제점이 있다.
한국공개특허 2005-0050456(시간 지연없이 타임 시프트 재생을 위한 디지털 방송 녹화 재생 장치)은 버퍼와, 외부로부터 타임 시프트 재생 선택 신호를 입력받으면 상기 기록 매체에 저장된 컨텐츠의 적어도 일부를 상기 버퍼로 출력하도록 제어하며, 외부로부터 타임 시프트 재생 개시 신호를 입력받으면 상기 버퍼에 저장된 상기 적어도 일부의 컨텐츠부터 재생을 개시하도록 제어하는 재생 제어 수단을 개시하고 있으나, 이는 일부의 컨텐츠가 버퍼에 저장되기 전에 트랜스포트 스트림 복호화 및 디코딩할 수 있어 타임 시프트 재생 시의 시간 지연을 최소화하여 시청자의 타임 시프트 재생 요청 시 빠르게 해당 컨텐츠를 재생해 주는 것으로, 타임 시프트된 컨텐츠(즉, 녹화된 방송 컨텐츠)와 실시간 컨텐츠의 재생 시간을 동기화시키는 기술은 전혀 개시하고 있지 않다.
본 발명은 타임 시프트 기능을 통해 녹화된 컨텐츠(예를 들어, 녹화된 방송 데이터)와 실시간 컨텐츠(예를 들어, 생방송 데이터)의 재생 시점이 동기화될 수 있도록 녹화된 컨텐츠에 대한 정제(refine) 과정을 수행하는데 그 목적이 있다.
본 발명의 목적들은 이상에서 언급한 목적들로 제한되지 않으며, 언급되지 않은 또 다른 목적들은 아래의 기재로부터 당업자에게 명확하게 이해되어 질 수 있을 것이다.
상기 목적을 달성하기 위하여, 본 발명의 일 실시예에 따른 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 장치는, 방송 신호를 튜닝하고, 튜닝된 디지털 방송 신호를 복조하여 트랜스포트 스트림 형태로 출력하는 튜너/디모듈레이터와, 상기 출력된 트랜스포트 스트림을 디먹싱하여 비디오 데이터, 오디오 데이터 및 부가 정보로 분리하여 출력하는 디먹스와, 상기 분리된 비디오 및 오디오 데이터 내에 불필요한 프레임을 제거하는 데이터 정제부와, 상기 불필요한 프레임이 제거된 비디오 및 오디오 데이터를 저장하는 HDD를 포함한다.
또한, 본 발명의 다른 실시예에 따른 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 방법은, 방송 신호를 튜닝하고, 튜닝된 디지털 방송 신호를 복조하여 트랜스포트 스트림 형태로 출력하는 단계와, 상기 파싱된 트랜스포트 스트림을 디먹싱하여 비디오 데이터, 오디오 데이터 및 부가 정보로 분리하여 출력하는 단계와, 상기 분리된 비디오 및 오디오 데이터 내에 불필요한 프레임을 제거하는 단계와, 상기 불필요한 프레임을 제거된 비디오 및 오디오 데이터를 동기화하여 출력하는 단계를 포함한다.
기타 실시예들의 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. 명세서 전체에 걸쳐 동일 참조 부호는 동일 구성 요소를 지칭한다.
이하, 첨부된 도면을 참조하여 본 발명의 바람직한 실시예를 상세히 설명하기로 한다.
도 2는 본 발명의 일 실시예에 따른 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 장치의 내부 블록도를 나타낸 도면이다.
도시된 바와 같이, 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 장치는 튜너/디모듈레이터(110), 파서(120), 디먹스(130), 데이터 정제부(140), HDD(150), MPEG2 디코더(160), 및 출력부(170)를 포함하여 구성된다.
이 때, 본 실시예에서 사용되는 '~부'라는 용어는 소프트웨어 또는 FPGA또는 ASIC과 같은 하드웨어 구성요소를 의미하며, '~부'는 어떤 역할들을 수행한다. 그 렇지만 '~부'는 소프트웨어 또는 하드웨어에 한정되는 의미는 아니다. '~부'는 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 '~부'는 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들, 및 변수들을 포함한다. 구성요소들과 '~부'들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 '~부'들로 결합되거나 추가적인 구성요소들과 '~부'들로 더 분리될 수 있다. 뿐만 아니라, 구성요소들 및 '~부'들은 디바이스 또는 보안 멀티미디어카드 내의 하나 또는 그 이상의 CPU들을 재생시키도록 구현될 수도 있다.
튜너/디모듈레이터(Tuner/Demodulator)(110)는 안테나를 통해 수신된 방송 신호를 튜닝하고, 튜닝된 디지털 방송 신호를 복조하여 트랜스포트 스트림(Transport Stream: TS) 형태로 출력한다. 여기서, 방송국에서 전송되는 방송 신호는 HD(High Definition)급 또는 SD(Standard Definition)급 방송 신호이다.
파서(parser)(120)는 튜너/디모듈레이터(110)를 통해 변환된 트랜스포트 스트림(TS)을 파싱(parsing)하여 트랜스포트 스트림 내의 프레임을 복원한다. 여기서, 파싱을 통해 프레임이 복원됨으로써 JEGP과 같은 스틸 이미지을 얻을 수 있다.
디먹스(demux)(130)는 파싱된 프레임(비디오 데이터 프레임, 오디오 데이터 프레임)을 디먹싱하여 비디오 데이터, 오디오 데이터 및 부가 정보로 분리하여 출 력한다. 여기서, 부가 정보는 EGP(Electronic Program Guide) 데이터를 말한다.
데이터 정제부(140)는 디먹스(130)를 통해 분리된 각각의 비디오 및 오디오 데이터 내에 불필요한 프레임(frame)을 제거(즉, 정제)하는 것으로, 비디오 데이터 정제부(141), 오디오 디코더(142), 오디오 데이터 정제부(143), 오디오 인코더(144), 및 동기화부(145)를 포함한다.
비디오 데이터 정제부(141)는 수신된 비디오 데이터에서 불필요한 영역(프레임)을 제거하는 것으로, 여기서 비디오 데이터에서 불필요한 영역이란 비디오 데이터 내 광고 화면이 포함된 영역 및 화면이 전환되는 영역 또는 정적인 화면이 포함된 영역을 말한다. 이하, 도 3에서 비디오 데이터에서 불필요한 영역을 제거하는 예를 후술한다.
오디오 디코더(142)는 수신된 오디오 데이터를 디코딩 한다. 여기서, 디코딩 되는 오디오 데이터는 PCM(Pulse Code Modulation), 및 AC3(Audio Coding-3)로 이해될 수 있다.
오디오 데이터 정제부(143)는 디코딩된 오디오 데이터 중 불필요한 영역(프레임)을 제거한다. 여기서, 오디오 데이터에서 불필요한 영역이란 오디오 데이터 내 광고 화면이 포함된 영역, 오디오 데이터 내에 사람의 소리가 없는 영역, 및 소정 임계값 이하를 갖는 영역을 말한다. 이하, 도 3에서 오디오 데이터에서 불필요한 영역을 제거하는 예를 후술한다.
오디오 인코더(144)는 오디오 데이터 정제부(143)를 통해 정제된 오디오 데이터를 다시 인코딩한다.
동기화부(145)는 정제된 비디오 데이터와 오디오 데이터의 타임 싱크를 동기화시키는 것이다. 여기서, 동기화부(145)는 비디오 데이터 정제부(141), 및 오디오 데이터 정제부(143)를 통해 정제된 데이터들(즉, 비디오 및 오디오 데이터) 이 동기화되어 출력될 수 있도록 시간 필드를 밀리초(msec) 단위로 제공하는 타임 스탬프(time stamp)를 포함한다.
예를 들어, 동기화부(145)는 정제된 비디오 데이터와 오디오 데이터를 동기화시키기 위해 각 데이터의 시간 정보를 비교하고, 비교 결과 비디오 데이터와 오디오 데이터가 동기화되지 않은 경우, 오디오 데이터 정제부(143)에게 오디오 데이터의 정제 과정을 요청한다. 이에, 정제된 오디오 데이터와 비디오 데이터의 동기화를 다시 수행하여 비디오 데이터와 오디오 데이터가 정확하게 동기화 될 수 있도록 한다.
HDD(150)는 동기화부(145)에 의해 동기화된 비디오 데이터 및 오디오 데이터를 저장하며, 디먹스(130)를 통해 디먹싱된 부가 정보를 저장한다.
또한, HDD(150)는 디먹스(130)를 통해 분리된 데이터(예를 들어, 비디오 데이터, 오디오 데이터 및 부가 정보)를 바로 저장할 수도 있다.
예를 들어, 사용자가 타임 시프트 기능으로 저장된 정제되지 않은 데이터를 HDD(150)에 저장하고자 할 경우, 데이터 정제부(140)의 동작이 수행하지 않고 HDD(150)에는 디먹스(130)를 통해 분리된 방송 데이터를 그대로 저장한다.
이에, HDD(150)에 타임 시프트 기능으로 저장된 정제되지 않은 데이터가 저장되고, 이 후 MPEG2 디코더(160)로 전달 되기 전에 데이터 정제부(140)를 통해 데 이터 정제를 수행하여 실시간 컨텐츠(예를 들어, 생방송 데이터)와 녹화된 컨텐츠의 시간 간격을 좁혀 동기화시킬 수 있다.
MPEG2 디코더(Decoder)(160)는 HDD(150)로부터 전송된 방송 데이터(예를 들어, 비디오 및 오디오 데이터)를 디코딩하여 실제 A/V 영상과 음향을 생성한다. 여기서, MPEG2 디코더(160)는 복원된 방송신호의 압축을 위한 표준방식인 MPEG2(Moving Picture Export Group phase 2) 방식으로 디코딩한다.
출력부(170)는 MPEG2 디코더(160)를 통해 디코딩된 A/V 영상과 음향을 출력한다.
도 3은 본 발명의 다른 실시예에 따른 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 장치에 수신되는 MPEG2-TS 구조 및 비디오 및 오디오 데이터의 불필요한 프레임을 제거하는 예를 나타낸 도면이다.
도 3a에 도시된 바와 같이, MPEG2-TS는 188바이트 고정 길이를 갖는 트랜스포트 패킷(Transport Packet)으로 구성된다.
즉, 전송 패킷은 4바이트의 패킷 헤더(packet header)와 184바이트의 데이터 영역으로 구성되고, 패킷 헤더에는 8비트의 동기(sync) 정보를 시작으로, 13비트의 바이너리 값을 갖는 PID(Packet Identifier; 패킷 식별자) 등의 정보가 포함되어 있다.
또한, 데이터 영역에는 각종 데이터(비디오, 오디오, 및 부가 데이터)가 프레임 단위(예를 들어, I프레임, P 프레임)로 저장되어 있다.
예를 들어, 비디오 데이터는 다수개의 I-프레임, P-프레임으로 구성되며, 소 정 I-프레임 사이에 다수개의 P-프레임들이 위치된다. 여기서, I-프레임은 다른 프레임과는 상관없이 압축하거나 복원할 수 있으며, 가장 낮은 압축율을 가진다. 즉, I 프레임은 JEGP처럼 독자적으로 온전한 스틸 이미지로 재생이 가능하다. 여기서, I는 "Intraframe"을 뜻한다.
또한, P-프레임은 이전의 프레임을 참조하여 계산되는 것으로, 즉 P-프레임은 이전의 프레임과 비교하여 차이가 있는 부분만을 계산하여 차이값만을 부호화한 것이다. 이에, 앞의 I-프레임을 참조하여 스틸 이미지로 복원된다. 여기서, P 는 "Predicted"을 뜻한다.
도 3b에 도시된 도면을 참조하여 비디오 데이터 정제부(141)를 통해 비디오 데이터의 불필요한 프레임을 제거하는 예를 설명한다.
비디오 데이터 정제부(141)는 수신된EPG 데이터를 기초로 비디오 데이터 내 광고 영역을 검출하고, 검출된 광고 영역에 해당하는 프레임들을 제거한다. 즉, I-프레임 단위로 광고 시간대를 모두 제거한다.
예를 들어, 광고 영역을 검출한 결과 소정 I-프레임(320)이 광고가 포함된 프레임인 경우, 해당 I-프레임(320)을 중심으로 다음 I-프레임(330) 전까지의 모든 프레임들(320 내지 324)을 모두 제거한다.
또한, 비디오 데이터 정제부(141)는 파서(120)를 통해 복원된 프레임을 기초로 I-프레임간의 에너지 값의 차이를 구하여 화면이 전환되는 프레임 또는 정적인 화면을 포함하는 프레임을 검출한다.
예를 들어, I-프레임간의 에너지 값의 차이가 매우 큰 경우, 비디오 데이터 정제부(141)는 화면이 전환되는 순간이라고 판단한다. 이 경우 앞뒤의 약간의 프레임을 삭제하여도 시청에 방해가 되지 않으므로 차이가 매우 큰 I-프레임과 그 사이의 P-프레임을 제거한다.
즉, I-프레임간의 에너지 값의 차이 비교한 결과 소정I-프레임(320)과 그 다음에 위치된 I-프레임(330)의 에너지 값이 큰 경우, I-프레임(320)과 그 다음에 위치된 I-프레임(330) 사이의 위치된 P-프레임(321 내지 324)을 제거한다. 여기서, 제거되는 프레임들은 임의에 따라 제거되는 것으로, 예를 들어 I-프레임(320)과 그에 따른 P-프레임(321 내지 324)이 제거될 수도 있고, I-프레임(330)과 그에 따른 P-프레임(331)이 제거될 수도 있다.
또한, I-프레임간의 에너지 값의 차이가 매우 작은 경우, 비디오 데이터 정제부(141)는 정적인 화면이라고 판단한다. 이 경우 앞뒤의 약간의 프레임을 삭제하여도 시청에 방해가 되지 않으므로 차이가 작은 I-프레임과 그 사이의 P-프레임을 제거한다.
한편, P-프레임간의 차이는 데이터량을 기초로 차이 값을 구할 수 있으므로, P-프레임 단위로도 정제 과정을 수행할 수 있다. 여기서, 데이터량은 해당 비디오 데이터의 크기로 알 수 있다.
예를 들어, 데이터량을 비교한 결과 P-프레임간(예를 들어, 321 및 322)의 데이터량이 작은 경우, 두개의 P-프레임(예를 들어, 321 및 322)은 제거된다.
한편, 비디오 데이터 정제부(141)의 검출 결과 비디오 데이터 내에 광고 프레임, I-프레임간의 에너지 값의 차이가 큰 프레임, 및 작은 프레임이 검출되지 않 은 경우, 비디오 데이터 정제부(141)는 소정I-프레임 내에서 특정 P-프레임의 10분의 1 정도 제거한다. 여기서, 제거되는 특정 P-프레임은 임의로 선택된다. 이를 통해서 1.1 배속 정도의 속도가 빨라지게 된다.
오디오 데이터 정제부(143)는 수신된 EPG 데이터를 기초로 비디오 데이터 내 광고 영역을 검출하고, 검출된 광고 영역에 해당하는 프레임들을 제거한다. 즉, I-프레임 단위로 광고 시간대를 모두 제거한다.
또한, 디코딩된 오디오 데이터를 기초로 사람의 음성 주파수 대역만을 찾아 소리가 없는 프레임 또는 소정 소리가 임계값 이하로 나타나는 프레임을 제거한다.
한편, 오디오 데이터 정제부(143)의 검출 결과 오디오 데이터 내에 광고 프레임, 소리가 없는 프레임, 및 소리가 임계값 이하인 프레임이 검출되지 않은 경우, 오디오 데이터 정제부(143)는 소정I-프레임 내에서 특정 P-프레임의 10분의 1 정도 제거한다. 여기서, 제거되는 특정 P-프레임은 임의로 선택된다. 이를 통해서 1.1 배속 정도로 음성이 빨리 재생된다.
도 4는 본 발명의 또 다른 실시예에 따른 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 방법을 나타낸 순서도 이다.
먼저, 방송국에서 방송 신호(예를 들어, HD급)를 전송하면 안테나를 통해 전송된 방송 신호가 수신된다(S400). 그 다음, 튜너/디모듈레이터(110)를 통해 트랜스포트 스트림(TS)을 출력한다(S410).
그 다음, 튜너/디모듈레이터(110)를 통해 출력된 트랜스포트 스트림(TS)은 파서(120)를 통해 파싱(parsing)되어 데이터의 프레임을 복원되고(S420), 디먹스 (130)를 통해 파싱된 프레임(비디오 데이터 프레임, 오디오 데이터 프레임)을 디먹싱 되어 비디오 데이터, 오디오 데이터 및 부가 정보로 분리하여 출력된다(S430).
이 후, 시청자의 부재에 의해 타임 시프트 기능이 수행되면(S440), 비디오 데이터 정제부(141) 및 오디오 데이터 정제부(143)는 분리되어 출력된 비디오 데이터 및 오디오 데이터에서 불필요한 프레임을 제거한다(S450). 여기서, 비디오 데이터에서 불필요한 프레임은 광고 화면이 포함된 프레임 및 화면이 전환되는 프레임 또는 정적인 화면이 포함된 프레임을 말하며, 오디오 데이터에서 불필요한 프레임은 광고 화면이 포함된 프레임, 오디오 데이터 내에 사람의 소리가 없는 프레임, 및 소정 임계값 이하를 갖는 프레임을 말한다. 이하, 도 5에서 불필요한 프레임을 제거하는 과정을 후술한다.
그 다음, 데이터 정제부(140)에 의해 불필요한 프레임이 제거된 비디오 데이터 및 오디오 데이터는 동기화부(145)로 전송되고, 이에, 동기화부(145)는 정제된 비디오 데이터와 오디오 데이터를 동기화 시킨다(S460). 여기서, 동기화부(145)는 정제된 비디오 데이터와 오디오 데이터를 기초로 동기화를 수행하며, 만일 비디오 데이터와 오디오 데이터가 동기화되지 않은 경우, 오디오 데이터 정제부(143)에게 오디오 데이터의 정제 과정을 요청하여 비디오 데이터와 오디오 데이터의 타임 싱크가 정확하게 동기화되도록 한다.
그 다음, 동기화부(145)에 의해 동기화된 비디오 데이터 및 오디오 데이터는 HDD(150)에 저장된다(S470).
이 후, 시청자가 타임 시프트로 저장된 컨텐츠(즉, 비디오 데이터 및 오디오 데이터)를 요청하면(S480), HDD(150)에 저장된 비디오 및 오디오 데이터는 MPEG2 디코더(160)로 전송되고, 전송된 비디오 및 오디오 데이터는 MPEG2 디코더(160)를 통해 디코딩 된다(S490).
그 다음, MPEG2 디코더(160)를 통해 디코딩된 A/V 영상 및 음향은 출력부(170)를 통해 출력된다(S500).
한편, 타임 시프트 기능이 수행되지 않은 경우(S440), 디먹스(130)를 통해 분리된 비디오 데이터, 오디오 데이터는 MPEG2 디코더(160)로 전송되고, 전송된 비디오 및 오디오 데이터는 MPEG2 디코더(160)를 통해 디코딩 된다(S490).
그 다음, MPEG2 디코더(160)를 통해 디코딩된 A/V 영상 및 음향은 출력부(170)를 통해 출력된다(S500).
따라서, 시청자는 적은 시간동안 녹화된 컨텐츠를 시청한 후, 현재 방송되는 실시간 컨텐츠를 바로 연결하여 시청할 수 있다.
도 5는 본 발명의 또 다른 실시예에 따른 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 방법 중 비디오 및 오디오 데이터의 정제 과정을 나타낸 순서도 이다.
도 5a를 참조하여 비디오 데이터의 정제 과정을 설명한다.
먼저, 비디오 데이터 정제부(141)는 디먹스(130)를 통해 분리되어 출력된 비디오 데이터에서 광고 화면이 포함된 영역을 검출하고(S610), 검출된 광고 영역에 해당하는 프레임들을 제거한다(S611, S612). 여기서, 광고 영역은 EPG 데이터를 기초로 검출할 수 있다.
그 다음, 비디오 데이터 정제부(141)는 파서(120)를 통해 복원된 프레임을 기초로 I-프레임간의 에너지 값의 차이를 구하여 화면이 전환되는 프레임 또는 정적인 화면을 포함하는 프레임을 검출하고, 검출된 프레임을 제거한다(S613, S614). 이에 대한 자세한 설명은 상기 도 3을 통하여 전술하였으므로 생략하기로 한다.
도 5b를 참조하여 오디오 데이터의 정제 과정을 설명한다.
먼저, 오디오 디코더(142)는 디먹스(130)를 통해 분리되어 출력된 오디오 데이터를 디코딩하고(S620), 디코딩된 오디오 데이터를 오디오 데이터 정제부(143)로 전송한다.
그 다음, 오디오 데이터 정제부(143)는 디코딩된 오디오 데이터에서 광고 화면이 포함된 영역을 검출하고(S621), 검출된 광고 영역에 해당하는 프레임들을 제거한다(S622, S623). 여기서, 광고 영역은 EPG 데이터를 기초로 검출할 수 있다.
그 다음, 오디오 데이터 정제부(143)는 디코딩된 오디오 데이터에서 오디오 데이터 내에 사람의 소리가 없는 프레임, 및 사람 소리가 소정 임계값 이하를 갖는 프레임을 검출하고, 검출된 프레임을 제거한다(S624, S625). 이에 대한 자세한 설명은 상기 도 3을 통하여 전술하였으므로 생략하기로 한다.
그 다음, 오디오 인코더(144)는 정제된 오디오 데이터를 인코딩을 수행한 후, 동기화부(145)로 전송한다(S626).
이상 첨부된 도면을 참조하여 본 발명의 실시예를 설명하였지만, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 본 발명이 그 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다.
상기한 바와 같은 본 발명의 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 장치 및 그 방법에 따르면 다음과 같은 효과가 하나 혹은 그 이상 있다.
타임 시프트 기능을 통해 녹화된 컨텐츠(예를 들어, 녹화된 방송 데이터)와 실시간 컨텐츠(예를 들어, 생방송 데이터)의 재생 시점이 동기화될 수 있도록 녹화된 컨텐츠에 대한 정제(refine) 과정을 수행함으로써, 시청자가 적은 시간 동안 녹화된 컨텐츠를 시청한 후, 현재 방송되는 실시간 컨텐츠를 바로 연결하여 시청할 수 있는 장점이 있다.
또한, 녹화된 컨텐츠를 시청한 후 바로 실시간 컨텐츠를 시청하고 싶은 시청자의 욕구를 해결해 주어 PVR 시장에서 차별화 및 고급화를 도모할 수 있는 장점이 있다.

Claims (10)

  1. 방송 신호를 튜닝하고, 튜닝된 디지털 방송 신호를 복조하여 트랜스포트 스트림 형태로 출력하는 튜너/디모듈레이터;
    상기 출력된 트랜스포트 스트림을 디먹싱하여 비디오 데이터, 오디오 데이터 및 부가 정보로 분리하여 출력하는 디먹스;
    상기 분리된 비디오 및 오디오 데이터 내에 불필요한 프레임을 제거하고, 상기 불필요한 프레임이 제거된 비디오 및 오디오 데이터를 동기화시키는 데이터 정제부; 및
    상기 불필요한 프레임이 제거된 비디오 및 오디오 데이터를 저장하는 HDD를 포함하는 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 장치.
  2. 제 1항에 있어서,
    상기 데이터 정제부는,
    상기 디먹스를 통해 분리된 비디오 데이터에서 불필요한 프레임을 제거하는 비디오 데이터 정제부;
    상기 디먹스를 통해 분리된 오디오 데이터를 디코딩하는 오디오 디코더;
    상기 디코딩된 오디오 데이터 중 불필요한 프레임을 제거하는 오디오 데이터 정제부;
    상기 불필요한 프레임이 제거된 오디오 데이터를 인코딩하는 오디오 인코더; 및
    상기 불필요한 프레임이 제거된 비디오 및 오디오 데이터를 동기화시키는 동기화부를 더 포함하는 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 장치.
  3. 제 2항에 있어서,
    상기 비디오 데이터에서 불필요한 프레임은 광고 프레임, 화면이 전환되는 프레임, 및 화면이 정적인 프레임인 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 장치.
  4. 제 2항에 있어서,
    상기 오디오 데이터에서 불필요한 프레임은 광고 프레임, 사람의 소리가 없는 프레임, 및 사람의 소리가 소정 임계값 이하를 갖는 프레임인 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 장치.
  5. 제 1항에 있어서,
    상기 HDD에 저장된 비디오 및 오디오 데이터를 디코딩하는 MPEG2 디코더; 및
    상기 디코딩된 영상 및 음향을 출력하는 출력부를 포함하는 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 장치.
  6. 방송 신호를 튜닝하고, 튜닝된 디지털 방송 신호를 복조하여 트랜스포트 스트림 형태로 출력하는 단계;
    상기 출력된 트랜스포트 스트림을 디먹싱하여 비디오 데이터, 오디오 데이터 및 부가 정보로 분리하여 출력하는 단계;
    상기 분리된 비디오 및 오디오 데이터 내에 불필요한 프레임을 제거하는 단계; 및
    상기 불필요한 프레임을 제거된 비디오 및 오디오 데이터를 동기화하여 출력하는 단계를 포함하는 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 방법.
  7. 제 6항에 있어서,
    상기 분리된 비디오 및 오디오 데이터 내에 불필요한 프레임을 제거하는 단계는,
    상기 분리된 오디오 데이터를 디코딩하는 단계;
    상기 디코딩된 오디오 데이터 중 불필요한 프레임을 제거하는 단계; 및
    상기 불필요한 프레임이 제거된 오디오 데이터를 인코딩하는 단계를 더 포함하는 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 방법.
  8. 제 6항에 있어서,
    상기 비디오 데이터에서 불필요한 프레임은 광고 프레임, 화면이 전환되는 프레임, 및 화면이 정적인 프레임인 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 방법.
  9. 제 6항에 있어서,
    상기 오디오 데이터에서 불필요한 프레임은 광고 프레임, 사람의 소리가 없는 프레임, 및 사람의 소리가 소정 임계값 이하를 갖는 프레임인 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 방법.
  10. 제 6항에 있어서,
    상기 출력된 트랜스포트 스트림을 파싱하여 프레임을 복원하는 단계를 포함하는 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을 동기화시키는 방법.
KR1020060016837A 2006-02-21 2006-02-21 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을동기화시키는 장치 및 그 방법 KR100772866B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020060016837A KR100772866B1 (ko) 2006-02-21 2006-02-21 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을동기화시키는 장치 및 그 방법
US11/654,656 US8331763B2 (en) 2006-02-21 2007-01-18 Apparatus and method for synchronizing reproduction time of time-shifted content with reproduction time of real-time content

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020060016837A KR100772866B1 (ko) 2006-02-21 2006-02-21 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을동기화시키는 장치 및 그 방법

Publications (2)

Publication Number Publication Date
KR20070084713A KR20070084713A (ko) 2007-08-27
KR100772866B1 true KR100772866B1 (ko) 2007-11-02

Family

ID=38428274

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020060016837A KR100772866B1 (ko) 2006-02-21 2006-02-21 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을동기화시키는 장치 및 그 방법

Country Status (2)

Country Link
US (1) US8331763B2 (ko)
KR (1) KR100772866B1 (ko)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100884471B1 (ko) * 2007-10-29 2009-02-20 에스케이 텔레콤주식회사 실시간 방송에 대한 타임 쉬프트 기능 제공 방법 및 시스템, 이에 대한 전송서버, 방송 수신기
KR101581354B1 (ko) * 2008-03-07 2015-12-30 엘지전자 주식회사 방송 신호 수신 방법 및 방송 신호 수신 장치
US8640181B1 (en) 2010-09-15 2014-01-28 Mlb Advanced Media, L.P. Synchronous and multi-sourced audio and video broadcast
KR20120063451A (ko) 2010-12-07 2012-06-15 삼성전자주식회사 컨텐츠를 구성하는 데이터를 송신하는 송신 장치와 그 데이터를 수신하여 처리하는 수신 장치 및 그 방법
KR101831775B1 (ko) * 2010-12-07 2018-02-26 삼성전자주식회사 멀티미디어 컨텐츠를 송수신하는 송신 장치 및 수신 장치와, 그 재생 방법
JP5978574B2 (ja) * 2011-09-12 2016-08-24 ソニー株式会社 送信装置、送信方法、受信装置、受信方法および送受信システム
KR102177876B1 (ko) * 2017-12-01 2020-11-12 링크플로우 주식회사 촬상 위치 정보를 결정하는 방법 및 이러한 방법을 수행하는 장치
US10805663B2 (en) 2018-07-13 2020-10-13 Comcast Cable Communications, Llc Audio video synchronization

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20040063559A (ko) * 2003-01-08 2004-07-14 엘지전자 주식회사 영상표시기기의 프로그램 녹화방법 및 장치
JP2004328306A (ja) * 2003-04-24 2004-11-18 Sony Corp 情報処理装置および方法、記録媒体、並びにプログラム

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6160950A (en) * 1996-07-18 2000-12-12 Matsushita Electric Industrial Co., Ltd. Method and apparatus for automatically generating a digest of a program
JPH10224722A (ja) * 1997-02-07 1998-08-21 Sony Corp コマーシャル検出装置及び検出方法
JP4332988B2 (ja) * 2000-04-27 2009-09-16 ソニー株式会社 信号処理装置及び方法
JP4337244B2 (ja) * 2000-07-25 2009-09-30 ソニー株式会社 Mpeg画像ストリームのデコード装置およびデコード方法
JP2003018538A (ja) * 2001-07-04 2003-01-17 Pioneer Electronic Corp コマーシャルカット装置とコマーシャルカット方法及びコマーシャルカット機能を備えた記録再生装置並びにコマーシャルカットプログラム
US20030123841A1 (en) * 2001-12-27 2003-07-03 Sylvie Jeannin Commercial detection in audio-visual content based on scene change distances on separator boundaries
US8331456B2 (en) * 2002-09-27 2012-12-11 Broadcom Corporation System and method for audio and visual synchronization
KR20040075237A (ko) 2003-02-20 2004-08-27 엘지전자 주식회사 디지털 녹화기에서의 데이터 경로 선택 제어방법 및 장치
US20040175094A1 (en) * 2003-03-05 2004-09-09 Pioneer Digital Technologies, Inc. A personal video recorder storing digital information in a doubly linked list
KR101000919B1 (ko) 2003-11-25 2010-12-13 삼성전자주식회사 시간 지연 없는 타임 시프트 재생을 위한 디지털 방송녹화 재생 장치

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20040063559A (ko) * 2003-01-08 2004-07-14 엘지전자 주식회사 영상표시기기의 프로그램 녹화방법 및 장치
JP2004328306A (ja) * 2003-04-24 2004-11-18 Sony Corp 情報処理装置および方法、記録媒体、並びにプログラム

Also Published As

Publication number Publication date
US8331763B2 (en) 2012-12-11
US20070196077A1 (en) 2007-08-23
KR20070084713A (ko) 2007-08-27

Similar Documents

Publication Publication Date Title
KR100772866B1 (ko) 타임 시프트된 컨텐츠와 실시간 컨텐츠의 재생 시간을동기화시키는 장치 및 그 방법
KR101454025B1 (ko) 영상표시기기에서 녹화정보를 이용한 영상 재생 장치 및 방법
JP4723152B2 (ja) 受信端末装置および受信端末装置の制御方法
US20070031119A1 (en) Playback apparatus
JP2003158724A (ja) デジタルビデオレコーダーにおいて特別モード再生を実施するためにmpegビデオデータをインデックスする装置及び方法
JP2006345169A (ja) デジタルテレビ受信端末装置
US20050008336A1 (en) Signal recording apparatus and method and signal reproduction apparatus and method
KR100731379B1 (ko) 영상표시기기의 녹화정보 처리장치 및 방법
KR100405975B1 (ko) Pvr에서의 스트림 점프 방법
JP2003158719A (ja) デジタルビデオレコーダーにおけるビデオデータストリーム多重化システム及びその動作方法
KR100747530B1 (ko) Pvr 시스템 및 그 방송 재생 방법
JP2004072727A (ja) 画像処理方法、画像処理装置、画像記録再生装置、およびテレビジョン受像機
JP3272243B2 (ja) 多重信号受信システム装置
WO2006070601A1 (ja) データ処理装置
US6912352B2 (en) Digital data recording and reproducing system capable of detecting discontinuity of data
JP4675885B2 (ja) 情報記録装置、情報記録方法及び情報記録用プログラム
JP4186514B2 (ja) 放送受信機
KR20050054557A (ko) 방송 영상 저장 및 재생 장치 및 방법
JP3548113B2 (ja) 受信装置及び画像再生方法
JP2002290894A (ja) ディジタルビデオデータ記録/再生装置
JP2002223408A (ja) 再生装置
JP2001309255A (ja) デジタルテレビ放送受信機
JP2002033712A (ja) パケット処理装置及びそのパケット出力方法
KR100539731B1 (ko) 전송스트림저장장치및방법
KR100782196B1 (ko) 타임 시프트 기능을 가지는 영상표시기기 및 그 제어방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
G170 Publication of correction
FPAY Annual fee payment

Payment date: 20120914

Year of fee payment: 6

FPAY Annual fee payment

Payment date: 20130924

Year of fee payment: 7

FPAY Annual fee payment

Payment date: 20140922

Year of fee payment: 8

LAPS Lapse due to unpaid annual fee