KR20020075081A - 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법 - Google Patents

뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법 Download PDF

Info

Publication number
KR20020075081A
KR20020075081A KR1020010015270A KR20010015270A KR20020075081A KR 20020075081 A KR20020075081 A KR 20020075081A KR 1020010015270 A KR1020010015270 A KR 1020010015270A KR 20010015270 A KR20010015270 A KR 20010015270A KR 20020075081 A KR20020075081 A KR 20020075081A
Authority
KR
South Korea
Prior art keywords
anchor
shots
shot
color
news
Prior art date
Application number
KR1020010015270A
Other languages
English (en)
Other versions
KR100438269B1 (ko
Inventor
이지은
배소영
윤경로
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR10-2001-0015270A priority Critical patent/KR100438269B1/ko
Priority to US10/102,896 priority patent/US20020146168A1/en
Priority to JP2002082756A priority patent/JP2003032583A/ja
Publication of KR20020075081A publication Critical patent/KR20020075081A/ko
Application granted granted Critical
Publication of KR100438269B1 publication Critical patent/KR100438269B1/ko

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Abstract

본 발명은 뉴스 비디오 콘텐트에서 앵커 샷을 자동적으로 검출하기 위한 앵커 샷 자동 검출방법에 관한 것이다.
본 발명은 샷 단위로 분할된 뉴스 비디오에서 앵커 후보 샷을 추출하고, 추출된 앵커 후보 샷들을 클러스터링하여 유사한 샷들을 같은 그룹으로 묶고, 유사한 샷들 끼리 묶여진 클러스터 중에서 앵커 샷들의 클러스터를 선택하여 최종적으로 앵커 샷을 확정한다. 본 발명에서 앵커 후보 샷은 모션정보, 칼라 변화도, 샷의 길이, 얼굴 검출정보, Not-Coded Macroblock의 비율을 기준으로 해서 추출하고, 클러스터링은 칼라 유사도를 이용해서 유사한 샷들을 그룹핑하며, 클러스터에 속한 샷의 개수, 기사 제목 글자의 존재 비율, 뉴스 아이콘의 존재 비율을 판단 기준으로 해서 클러스터를 선택하여 선택된 클러스터 내의 모든 샷을 앵커 샷으로 확정한다.

Description

뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법{ANCHOR SHOT DETECTING METHOD OF NEWS VIDEO BROWSING SYSTEM}
본 발명은 내용 기반 멀티미디어 검색과 브라우징(browsing) 시스템에 관한 것으로서, 특히 뉴스 비디오의 효율적인 요약과 브라우징을 위하여 뉴스 비디오에서 앵커(뉴스 진행자)가 등장하는 샷을 자동으로 검출하는 방법에 관한 것이다.
디지털 비디오 기술의 발달과 이미지/비디오/오디오 인식 기술의 발달로 인하여 사용자들은 원하는 멀티미디어 콘텐트를 원하는 시점에 원하는 부분만을 검색(searching/filtering)하고 브라우징(browsing) 할 수 있게 되었다.
비선형적인 멀티미디어 콘텐트 브라우징(non-linear multimedia content browsing)과 검색을 위하여 가장 기본이 되는 기술은 샷 분할 (shot segmentation) 기법과 샷 클러스터링(shot Clustering) 기법이며, 이 두 가지 기술은 멀티미디어 콘텐트를 구조적으로 분석하는데 있어서 가장 핵심이 되는 기술이다.
비디오에서 샷(shot)이란 방해(interruption) 없이 하나의 카메라로부터 얻어진 비디오 프레임들의 시퀀스(sequence)를 의미하며, 이는 비디오를 분석(analysis)하거나 구성(construction)하는 가장 기본이 되는 단위이다.
또한 일반적으로 비디오에는 의미적인 구성 요소인 씬(scene)이 존재하는데, 여기서 씬은 이야기 전개 또는 비디오 구성에 있어서 의미적인 구분 요소이며 일반적으로 하나의 씬 내에는 여러 개의 샷이 존재한다. 이러한 샷과 씬의 개념은 비디오뿐만 아니라 오디오 프로그램에도 같은 방식으로 적용 가능하다.
궁극적으로 멀티미디어 콘텐트 인덱싱 기법은 콘텐트에 존재하는 샷/씬 단위의 구조적인 정보를 추출하고 각각의 구조 단위 별로 그 세그먼트를 대표할 수 있는 키 프레임 등과 같은 주요 특징 요소를 추출하여 멀티미디어 콘텐트에 대한 구조적 정보를 인덱싱하고, 사건(event)의 발생, 시청각 오브젝트(audio-visual object)의 등장, 오브젝트의 상태, 배경(장소 등) 등에 대한 의미적인 정보를 시간축 위에 기술하는 방식으로 인덱싱하여 사용자가 원하는 부분을 쉽게 브라우징하거나 검색할 수 있도록 하는데 그 목적이 있다.
멀티미디어 콘텐트에서 일반적으로 뉴스 비디오 스트림은 정형화/구조화된 비디오 데이터로서 공간적/시간적 구조를 가지는 정형화된 모델을 따른다.
즉, 뉴스 비디오 스트림은 일반적인 멀티미디어 스트림과는 달리 정형화/구조화된 비디오 데이터로서, 하나의 뉴스 비디오 스트림은 여러 개의 기사로 구성되어 있고, 하나의 기사 내에서는 뉴스 앵커의 기사 요약설명 부분과 기사 내용을 뒷받침하는 에피소드 부분으로 구성된다.
하나의 뉴스 비디오 스트림은 여러 개의 기사(article)로 구성되어 있고, 하나의 기사 내에서는 뉴스 앵커의 기사 요약 설명 부분(앵커 샷)과 기사 내용을 뒷받침하는 자료화면(에피소드) 부분으로 구성된 것을 보여준다. 내용상으로 볼 때 종합 뉴스의 경우 정치, 경제, 사회, 스포츠, 날씨에 관한 사항들이 총 망라되며 다른 장르의 비디오 콘텐트와는 달리 뉴스 비디오는 정형적인 구조를 가지며, 사용자에 따라 관심있는 기사의 차이가 분명하므로 사용자는 실제로 원하는 뉴스 기사만을 빠르게 검색하고자 하는 요구가 많다.
상기한 바와 같이 사용자가 실제로 원하는 뉴스 기사만을 빠르게 검색하고자 하는 요구사항을 비디오 인덱싱 관점에서 수용하기 위하여 뉴스 비디오의 구조적/의미적 정보를 사용하여 뉴스 비디오 스트림을 기사 단위로 인덱싱하기 위한 관련 연구가 지속되고 있다. 즉, 뉴스 비디오의 시간적 구조를 이용하여 기사 단위로 인덱싱된 뉴스 비디오 데이터에 TOC(Table Of Content)나 스토리보드(storyboard)와 같은 인터페이스를 결합한 여러 가지 비선형적 뉴스 비디오 브라우징 기법들이 연구되고 있다.
앞에서 설명한 바와 같이 뉴스는 매우 구조화된 비디오 데이터로서, 하나의 뉴스는 여러 개의 기사들로 구성되며, 하나의 기사도 앵커의 도입 설명 부분과 자료화면으로 구성된다. 뉴스의 기사 기반 브라우징(News Article-based Browsing)방법은 뉴스를 기사 단위로 브라우징하는 방법으로서, 적절한 사용자 인터페이스가 추가되면 사용자는 뉴스에 포함된 기사 전체를 한눈에 파악할 수 있고, 원하는 기사만을 골라서 시청할 수 있게 된다. 도1은 이와 같은 뉴스의 기사 기반 브라우징의 예를 보여준다.
뉴스 비디오의 브라우징을 위한 앵커 샷을 검출하는 종래의 기술로는 앵커 샷의 특징을 이용하는 기술이 있다. 예를 들면 얼굴영역 추출하고, 움직임이 적고 배경이 일정하며 샷 길이가 일반적으로 길다는 특징을 이용해서 앵커 샷을 검출하는 방법이 있다. 또 다른 예를 들면, 칼라 정보와 모션 정보의 시간적 변화(temporal variance)가 작은 샷들을 칼라 히스토그램을 기준으로 클러스터링하고, 얼굴 검출 정보, 앵커 샷의 공간적 구조정보 등을 이용해서 어떤 클러스터가 앵커 샷의 클러스터인지를 판단한다. 또 다른 예를 들면, 화자 인식 기술을 기반으로 해서 화자 중심으로 앵커 샷을 판별하는 기술이 있다.
그러나, 앞서 설명한 종래의 앵커 샷 검출 기법들은 앵커 샷이 갖는 특성, 즉 앵커 샷을 다른 리포터 샷이나 인터뷰 샷 등과 구분할 수 있는 특성들을 충분하게 반영하지 못하고 있다. 예를 들면 앵커 샷의 경우는 앵커의 얼굴만 등장하는 것이 아니라, 뉴스 아이콘, 기사 제목 글자 등도 따라 나올 수 있다. 그렇기 때문에 앞서 설명한 종래의 앵커 샷 검출 기법에서 취급하고 있는 몇몇의 정보들만을 기반으로 해서 앵커 샷을 단순히 검출해 내는 정도로는 진정 앵커 샷의 검출이 어렵고, 그 검출 결과에 대한 신뢰성도 떨어지며, 이 것을 기반으로 해서 뉴스 비디오의 기사 단위 브라우징을 수행하면 원하는 결과를 얻기도 어렵게 된다.
본 발명은 뉴스 비디오를 요약하고 브라우징하기 위한 앵커 샷을 검출함에 있어서, 샷 단위로 분할된 뉴스 비디오에서 앵커 샷 검출을 위하여 앵커 샷의 후보를 추출하고, 상기 추출된 앵커 후보 샷들을 유사한 샷들 끼리 묶기 위하여 클러스터링하며, 상기 유사하다고 판단한 샷들 끼리 묶인 클러스터들 중에서 앵커 샷들의 클러스터를 선택하여 앵커 샷을 확정함을 특징으로 하는 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법을 제안한다.
본 발명의 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법에서는 샷 단위로 분할된 뉴스 비디오에서 모션정보, 칼라 변화도, 샷의 길이, 얼굴 검출정보 등을 이용해서 앵커 후보 샷을 추출하고, 추출된 앵커 후보 샷들에 대해서 칼라 유사도를 기반으로 같은(유사한) 샷들을 묶어서 앵커 샷 클러스터 후보를 구하고, 이 클러스터 중에서 앵커 샷들의 클러스터를 선택할 때 그 클러스터에 속한 샷의 개수, 기사 제목 글자의 존재 비율, 뉴스 아이콘의 존재 비율을 기반으로 진정 앵커 샷을 확정함으로써, 뉴스 비디오 검색과 브라우징을 위한 앵커 샷을 검출할 수 있도록 한 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법을 제안한다.
도1은 뉴스 비디오의 기사 기반 브라우징의 예를 나타낸 도면
도2는 본 발명의 앵커 샷 검출방법의 플로우차트
도3은 본 발명에서 앵커 후보 샷의 예를 나타낸 도면
도4는 본 발명에서 앵커 후보 샷 클러스터링을 설명하기 위한 도면
도5는 본 발명에서 앵커 후보 샷들 간의 클러스터링 결과를 예시한 도면
도6은 본 발명에서 앵커 샷의 구성을 예시한 도면
본 발명의 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법은 샷 단위로 분할된 뉴스 비디오에서 앵커 샷 후보를 추출하는 단계, 상기 추출된 앵커후보 샷들을 클러스터링하는 단계, 상기 클러스터 중에서 앵커 샷들의 클러스터를 선택하여 최종적으로 진정 앵커 샷을 확정하는 단계로 이루어진다.
본 발명의 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법은 상기 앵커 후보 샷의 추출을 위한 판단 기준으로, 모션정보, 칼라 변화도, 샷의 길이, 얼굴 검출 정보, 움직임 보상 압축 방법을 이용한 압축 동영상에서 코딩되지 않은 매크로 블록(Not-Coded Macroblock)의 비율을 이용하는 것을 특징으로 한다.
본 발명의 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법은 상기 유사한 앵커 후보 샷들을 클러스터링하기 위하여 샷들 간의 칼라 유사도를 이용하는 것을 특징으로 한다.
본 발명의 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법은 상기 클러스터 중에서 앵커 샷들의 클러스터를 선택할 때, 클러스터에 속한 샷의 개수, 기사 제목 글자의 존재 비율, 뉴스 아이콘의 존재 비율을 이용하는 것을 특징으로 한다.
상기한 바와 같이 이루어진 본 발명의 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법을 첨부된 도면을 참조하여 설명한다.
앵커 샷이란 앵커가 등장하여 기사의 내용을 말하는 부분으로 일반적으로 뉴스에는 남녀 두 메인 앵커와 뉴스 끝 부분의 스포츠 기사를 소개하는 스포츠 섹션 앵커가 있다. 본 발명에서는 메인 앵커뿐만 아니라 스포츠 섹션 앵커가 나오는 것도 앵커 샷으로 본다. 이러한 앵커 샷을 검출하기 위해서는 뉴스 비디오는 샷 단위로 분할되어야 한다. 본 발명에서는 샷 단위로 분할된 뉴스 비디오에 대해서 앵커샷의 검출을 1). 앵커 후보 샷 추출, 2). 앵커 후보 샷들 간의 클러스터링, 3). 클러스터 선택 및 앵커 샷 확정의 과정을 통해서 수행한다.
도2는 본 발명의 앵커 샷 검출 과정을 보여준다.
먼저, 샷 단위로 분할된 뉴스 비디오의 모든 샷에 대해서, 모션 정보, 칼라 변화도, 샷의 길이, 얼굴 검출 정보, Not-Coded Macroblock의 비율 등을 판단 기준으로 해서 앵커 후보 샷을 추출한다.
앵커 후보 샷 추출이 뉴스 비디오 전체에 대해서 이루어진 다음에는 칼라 유사도를 기준으로 해서 앵커 후보 샷들을 클러스터링한다.
그리고, 클러스터에 속한 샷의 개수, 기사의 제목, 글자의 존재 비율, 뉴스 아이콘의 존재 비율 등을 판단 기준으로 해서 앵커 샷으로 이루어진 클러스터를 선택하고, 선택된 클러스터의 샷들을 앵커 샷으로 확정하여 출력한다.
이와 같은 본 발명의 앵커 샷 검출방법을 앵커 후보 샷 검출과정, 앵커 후보 샷들간의 클러스터링 과정, 앵커 샷 확정 과정의 순서로 더욱 상세히 설명하면 다음과 같다.
1). 앵커 후보 샷 검출
샷 단위로 분할된 뉴스 비디오의 각각의 샷에 대해 모션 정보, 칼라 변화도, 샷의 길이, 얼굴 검출정보, 코딩되지 않은 매크로 블록(Not-Coded Macroblock)의 비율을 보고 앵커 후보 샷인지를 결정한다. 이 때 앵커 후보 샷인지의 판단 기준은 다음과 같다.
(1). 모션정보: 앵커 샷은 그 특징에서 볼 때 모션이 거의 없기 때문에 모션이 어떤 임계치 이하라는 기준을 적용할 수 있다. 즉, 오브젝트의 모션정보를 소정의 설정된 임계치와 비교해서 그 모션 정보가 임계치 이하인 경우를 앵커 후보 샷의 후보로 올릴 수 있다.
여기서 모션 정보는 움직임 보상 압축방법(MPEG-1/2, H.261, H.263 등)에 의해서 압축된 동영상 뉴스 비디오의 경우 모션 벡터를 이용해서 구할 수 있다.
(2). 칼라 변화도: 앵커 샷은 그 특징에서 볼 때 칼라의 변화가 거의 없기 때문에 칼라 변화가 어떤 임계치 이하라는 기준을 적용할 수 있다. 즉, 각 프레임에 대한 칼라정보를 칼라 히스토그램으로 정의하고, 프레임간의 칼라 히스토그램을 서로 비교해서 칼라의 차이를 계산해서, 칼라의 변화가 소정의 설정된 임계치 이하인 경우를 앵커 샷의 후보로 올릴 수 있다.
이 때 프레임간의 칼라 변화는 한 샷에서 임의의 개수의 프레임을 표본 추출하고, 이 표본 추출된 프레임들 간의 칼라 차이를 계산하여 앵커 후보 샷으로 올릴 것인지의 여부를 판단할 수도 있다. 이렇게 표본 추출 기법을 이용하면 앵커 후보 샷들의 추출 시간을 단축시킬 수 있다.
(3). 샷 길이: 앵커 샷은 그 특징에서 볼 때 샷의 길이가 긴 편이다. 대부분의 앵커 샷은 5내지 10초 정도의 샷 길이를 가지며, 스포츠 기사의 경우에는 이 보다 짧은 2초 정도의 샷도 있다. 따라서, 샷의 길이를 소정의 설정된 임계치와 비교해서 샷 길이가 임계치 이상인 경우를 앵커 샷의 후보로 올릴 수 있다.
(4). 얼굴 검출: 앵커 샷은 그 정의에서 볼 때 반드시 앵커의 얼굴이 보여지는 화면이다. 그러므로 이 프레임에서는 반드시 얼굴이 검출되어야 하며, 얼굴의크기가 어떤 임계치 이상에서 또 다른 임계치 이하이며, 얼굴의 방향도 정면이라는 기준을 적용할 수 있다. 즉, 앵커가 등장하는 장면에서 앵커를 잡은 카메라 앵글에서는 앵커가 거의 일정한 위치에서 일정한 크기로 보여진다. 그러므로 얼굴이 검출되고 그 얼굴의 크기가 소정의 임계치 범위 안에 있을 때를 앵커 샷의 후보로 올릴 수 있게 되는 것이다.
(5). 코딩되지 않은 매크로 블록(Not-Coded Macroblock): 앵커 샷은 뉴스 아이콘(앵커가 설명할 뉴스 기사의 의미를 함축적으로 표현하기 위하여 통상 앵커 옆에 작은 화면으로 표시되는 대표 장면 등)이나 기사의 제목 글자 등 합성 영상이 포함되기 때문에 MPEG-1/2, H.261, H.263 등 움직임 보상 방법을 적용한 압축방법을 이용한 압축 동영상에서는 Not-Coded Macroblock의 비율이 어떤 임계치 이상이라는 기준을 적용할 수 있고, 프레임 전체가 합성 영상일 때 보다 Not-Coded Macroblock의 비율이 낮기 때문에 Not-Coded Macroblock의 비율이 소정 임계치 이하라는 기준을 적용할 수도 있다.
이와 같이 모션 정보, 칼라 변화도, 샷 길이, 얼굴검출, Not-Coded Macroblock의 비율 등의 판단 기준을 적용해서 앵커 후보 샷을 추출하며, 상기 앵커 후보 샷 판단 기준은 적어도 하나 이상의 판단 기준을 적용하고, 복수개의 판단 기준을 적용할 때에는 각각의 판단 기준에 따라 소정의 가중치를 부여함으로써 앵커 후보 샷의 판단을 더욱 정확하게 할 수도 있다. 도3은 이러한 판단 기준을 적용하여 추출된 앵커 후보 샷의 예를 보여준다. 도3에서는 앵커 후보 샷을 남성 앵커 샷과 여성 앵커 샷, 그리고 스포츠 섹션 앵커 샷, 인터뷰 샷, 리포터 샷 등이 앵커후보 샷으로 추출된 예를 보여준다.
2). 앵커 후보 샷들 간의 클러스터링
앵커 후보 샷의 추출이 이루어진 다음에는 앵커 후보 샷들간의 클러스터링을 수행하여, 상기 추출된 앵커 후보 샷들에 대해 같은 유사한 샷들을 그룹핑(Grouping)한다. 이 때 그룹핑의 기준은 다음과 같다.
(1). 칼라 유사도: 각 앵커 후보 샷에 대해서 샷 내의 프레임들 또는 샷 내에서 표본 추출된 프레임들의 칼라 히스토그램(Color Histogram)을 대표 칼라 정보로 구하고, 이 값을 비교해서 칼라 정보가 비슷한 샷끼리 묶는다(그룹핑).
이 때, 샷의 칼라 정보는 샷 내의 프레임들의 칼라 히스토그램의 평균 칼라 히스토그램으로 정의하거나, 샷 내에서 표본 추출된 프레임들의 칼라 히스토그램의 평균 칼라 히스토그램으로 정의할 수 있다. 그리고 칼라 유사도를 상기 평균 칼라 히스토그램을 비교해서 그 차이를 계산하여 구할 수 있다. 물론 이 경우에도 샷들간의 칼라 유사도를 소정의 임계치와 비교해서 임계치 이상인 칼라 유사도를 갖는 앵커 후보 샷들 끼리 묶는다.
이와 같이 앵커 후보 샷들을 그룹핑하는 이유는 다음과 같다.
앵커 샷이라고 해도 칼라 정보가 완전히 같지는 않다. 남, 여 메인 앵커와 스포츠 섹션 앵커에 따라 얼굴 색, 머리 색, 의상의 색, 뒷 배경의 색 등으로 인한 칼라의 차이가 있으며, 같은 앵커의 샷들 간에도 그 앵커가 설명할 뉴스 기사에 따라 뉴스 아이콘이나 기사 제목 글자의 차이로 인한 칼라 차이가 있다.
따라서 다른 앵커의 샷은 한 그룹에 넣지 않고, 같은 앵커의 샷은 한 그룹에넣도록 칼라 유사도에 대한 임계치를 상한치와 하한치로 정해서 유사한 샷들을 묶는다.
도4는 앵커 후보 샷을 클러스터링하는 것을 보여준다. 도4에서는 칼라 유사도의 기준에 대해서도 보여주고 있는데, 본 발명에서 칼라 유사도는 역으로 칼라의 차이로 생각할 수도 있으며, 칼라 차이를 이용하는 경우 또한 칼라 유사도의 확장된 개념으로 이해할 수 있다. 즉, 칼라 유사도가 높다는 것은 반대로 칼라 차이가 적다는 것을 의미하고, 칼라 유사도가 낮다는 것은 반대로 칼라 차이가 크다는 것을 의미하므로, 이 것을 이용해서 비슷한 샷들을 서로 묶을 수 있다.
이와 같이 칼라 유사도를 이용해서 앵커 후보 샷들 간의 클러스터링을 수행하게 되면 도5에 나타낸 바와 같이 남자 앵커 샷, 여자 앵커 샷, 스포츠 섹션 앵커 샷 등이 각각 하나의 그룹으로 묶이게 된다. 그렇지만 인터뷰 샷이나 리포터 샷 등은 칼라 유사도가 높지 않기 때문에 앵커 샷과 함께 그룹핑되기가 쉽지 않고, 인터뷰 샷이나 리포터 샷끼리도 그룹핑되기가 쉽지 않게 된다.
왜냐 하면, 진정 앵커 샷의 경우는 도5에 예시된 바와 같이 거의 정형화된 화면 구도에 가깝기 때문에 서로 묶이기 쉽지만, 인터뷰 샷이나 리포터 샷의 경우는 현장의 상황에 따라 매우 다양하고 역동적인(앵커 샷에 비해 상대적, 절대적으로) 전개가 이루어지는 것이 보통이기 때문에 칼라 유사도가 높지 않고(칼라의 차이가 크다는 의미), 이러한 이유로 인해서 리포터 샷이나 인터뷰 샷은 앵커 샷과 함께 그룹핑되기가 쉽지 않고 각각 다른 리포터 샷이나 인터뷰 샷과 그룹핑 되기조차도 쉽지 않다.
3). 클러스터를 선택하여 앵커 샷 확정
상기 앵커 후보 샷들 간의 클러스터링을 통해서 그룹핑된 앵커 후보 샷들에서 앵커 샷을 최종적으로 확정한다. 즉, 클러스터링된 앵커 후보 샷의 그룹 중에서 앵커 샷들로 이루어진 클러스터를 선택하여 뉴스 비디오의 앵커 샷을 확정하며, 이 때 클러스터를 선택하는 기준은 다음과 같은 것들을 이용할 수 있다.
(1). 클러스터에 속한 샷의 개수: 메인 앵커 샷과 스포츠 섹션 앵커 샷은 하나의 뉴스 비디오에 대해서 어떤 임계치 이상의 횟수로 등장한다. 즉, 앵커란 해당 뉴스를 진행하는 진행자이므로 이 진행자가 뉴스 기사를 설명할 때마다 기사 소개의 선두에 등장하게 되고, 그렇기 때문에 메인 앵커 샷과 스포츠 섹션 앵커 샷은 하나의 뉴스 비디오에 대해서 어떤 임계치 이상의 횟수로 등장하게 된다. 예를 들면 보통 1시간 분량의 뉴스에 대해서 남, 여 메인 앵커는 각각 10회 이상 등장하며, 스포츠 섹션 앵커의 경우는 5회 이상 등장한다. 그러므로 그룹에 속한 샷의 개수가 설정된 임계치 보다 작으면 선택하지 않고, 설정된 임계치 이상이면 선택한다. 그러나 일반적으로 인터뷰 샷이나 리포터 샷 등은 다수로 그룹핑되지 않으므로(보통 1 내지 2개 샷 정도이다) 이 기준(클러스터에 속한 샷의 개수)을 적용하면 불필요한 그룹을 많이 제거할 수 있다.
(2). 기사 제목 글자의 존재 비율: 앵커 샷은 뉴스 아이콘이나 제목 글자 없이 앵커만 나와서 기사를 소개하기도 하지만 일반적으로 뉴스 아이콘과 기사 제목이 함께 나타나게 된다. 도6에 일반적인 앵커 샷의 구도를 보여주고 있다. 도6에서 보여주는 바와 같이 앵커 샷은 앵커, 뉴스 아이콘, 기사 제목 등이 함께 나타난다.
그러므로, 한 클러스터의 모든 샷에 대해서 기사 제목 글자의 존재 여부를 파악하고, 제목 글자의 존재 비율을 진정 앵커 샷의 판단 기준으로 삼는다. 앵커 샷 그룹일 경우에는 기사 제목 글자의 존재 비율이 매우 높고(일반적으로 10개의 앵커 샷 중에서 8개 내지 9개 정도는 기사 제목 글자를 갖는 것을 관찰할 수 있다), 앵커 샷이 아닌 샷들의 그룹일 경우에는 기사 제목 글자의 존재 비율이 매우 낮다. 따라서, 기사 제목 글자의 존재 비율을 소정의 임계치와 비교해서 임계치 이상인 경우를 앵커 샷들의 클러스터로 볼 수 있는 것이다.
(3). 뉴스 아이콘의 존재 비율: 뉴스 아이콘의 존재 비율 또한 클러스터의 선택 기준으로 이용할 수 있다. 도6에 예시된 바와 같이 앵커 샷에는 뉴스 아이콘이 등장할 확률이 매우 높다. 따라서, 한 클러스터의 모든 샷에 대해서 뉴스 아이콘이 존재하는지를 판단하고, 그 클러스터에서 뉴스 아이콘이 존재하는 샷의 비율을 구하면 앵커 샷들의 그룹인 경우에는 뉴스 아이콘 존재 비율이 높게 나올 것이고, 앵커 샷이 아닌 샷들의 그룹인 경우에는 뉴스 아이콘 존재 비율이 낮게 나올 것이다. 일반적으로 10개의 앵커 샷 중에서 8 내지 9개 이상의 샷이 뉴스 아이콘을 가지는 것을 관찰할 수 있다. 그러므로 한 클러스터에서 뉴스 아이콘의 존재 비율을 소정의 임계치와 비교해서 임계치 이상이면 앵커 샷들의 클러스터 혹은 앵커 샷들로 이루어진 클러스터, 그렇지 않으면 앵커 샷들의 클러스터가 아닌 것으로 판정할 수 있는 것이다.
앞에서 설명한 바와 같은 앵커 샷 판단 기준(클러스터에 속한 샷의 개수, 기사 제목 글자의 존재 비율, 뉴스 아이콘의 존재 비율)을 통해서 최종적으로 상기선택된 클러스터 내의 모든 샷을 앵커 샷으로 확정함으로써 본 발명의 뉴스 비디오앵커 샷 검출방법은 종료된다.
상기 앵커 샷 판단 기준은 적어도 하나 이상의 판단 기준을 적용하고, 복수개의 판단 기준을 적용할 때에는 각각의 판단 기준에 따라 소정의 가중치를 부여함으로써 앵커 후보 샷의 판단을 더욱 정확하게 할 수도 있다.
본 발명에서는 뉴스 비디오에서 앵커 샷을 자동적으로 검출하므로 뉴스를 앵커 샷을 기준으로 하는 기사 단위로 분할 할 수 있다. 앵커 샷을 기준으로 하는 기사 단위로 뉴스 비디오를 분할함으로써, 뉴스에 대한 기사 기반 브라우징(News Article-based Browsing)이 가능하게 되고, 사용자는 앵커 샷의 키프레임만 보고도 뉴스의 전체 기사 내용을 한 눈에 요약하여 보거나, 그 중에서 원하는 기사만을 골라서 보거나, 전체 앵커 샷만 보면서 앵커가 요약하는 기사의 내용을 짧게 간추려서 보는 등, 다양하고 효율적인 기사 기반 뉴스 브라우징이 가능하게 된다.

Claims (15)

  1. 샷 단위로 분할된 뉴스 비디오에서 앵커 샷 검출을 위하여 앵커 샷의 후보를 추출하는 단계, 상기 추출된 앵커 후보 샷들을 유사한 샷들 끼리 묶기 위하여 클러스터링하는 단계, 상기 유사하다고 판단한 샷들 끼리 묶인 클러스터들 중에서 앵커 샷들의 클러스터를 선택하여 앵커 샷을 확정하는 단계; 로 이루어지는 것을 특징으로 하는 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법.
  2. 제 1 항에 있어서, 상기 앵커 샷의 후보를 추출할 때 앵커 후보 샷의 판단 기준으로 모션정보, 칼라 변화도, 샷의 길이, 얼굴 검출정보, 움직임 보상 압축방법을 이용한 압축 동영상에서 코딩되지 않은 매크로 블록(Not-Coded Macroblock)의 비율 중에서 어느 하나 이상을 적용하는 것을 특징으로 하는 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법.
  3. 제 2 항에 있어서, 상기 앵커 후보 샷의 판단 기준인 모션정보나, 칼라 변화도나, 샷의 길이나, 얼굴 검출정보나, 코딩되지 않은 매크로 블록의 비율을 각각의 판단 기준에 대해서 설정된 소정 임계치나 임계치 범위와 비교한 결과에 따라서 앵커 후보 샷을 선택하는 것을 특징으로 하는 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법.
  4. 제 2 항 또는 제 3 항에 있어서, 상기 모션정보는 움직임 보상 압축 방법을 이용해서 압축된 동영상일 때, 모션 벡터를 이용해서 구하는 것을 특징으로 하는 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법.
  5. 제 2 항 또는 제 3 항에 있어서, 상기 칼라 변화도는 프레임 간 칼라의 변화 정도인 것을 특징으로 하는 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법.
  6. 제 5 항에 있어서, 상기 각 프레임에 대한 칼라 정보는 칼라 히스토그램이고, 각 프레임의 칼라 히스토그램을 비교하여 칼라 차이를 이용해서 칼라 변화도를 구하는 것을 특징으로 하는 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법.
  7. 제 5 항에 있어서, 상기 프레임 간 칼라의 변화 정도는 한 샷에서 임의의 개수의 프레임을 표본 추출하고 표본 추출된 프레임들 간의 칼라 차이를 계산하여 칼라 변화도를 구하는 것을 특징으로 하는 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법.
  8. 제 2 항 또는 제 3 항에 있어서, 상기 얼굴 검출 정보를 앵커 후보 샷 판단 기준으로 적용할 때, 얼굴의 크기, 얼굴의 방향을 판단 기준으로 하는 것을 특징으로 하는 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법.
  9. 제 1 항에 있어서, 상기 앵커 후보 샷들의 클러스터링이 샷들 간의 칼라 유사도에 따라 이루어지는 것을 특징으로 하는 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법.
  10. 제 9 항에 있어서, 상기 샷들 간의 칼라 유사도를 구하기 위한 칼라 정보는 샷 내의 프레임들의 칼라 히스토그램의 평균 칼라 히스토그램이나, 샷 내에서 표본 추출된 표본 프레임들의 칼라 히스토그램의 평균 칼라 히스토그램인 것을 특징으로 하는 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법.
  11. 제 9 항에 있어서, 상기 샷들 간의 칼라 유사도를 소정의 설정된 임계치와 비교한 결과에 따라 상기 클러스터링이 이루어지는 것을 특징으로 하는 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법.
  12. 제 10 항에 있어서, 상기 샷의 평균 칼라 히스토그램을 비교하여 그 차이를 계산하고 이 차이 값으로부터 상기 칼라 유사도를 구하는 것을 특징으로 하는 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법.
  13. 제 1 항에 있어서, 상기 클러스터링에 의해 묶여진 클러스터들에 대해 그 클러스터에 속한 샷의 개수, 기사 제목 글자의 존재 비율, 뉴스 아이콘의 존재 비율 중에서 어느 하나 이상을 적용하여 앵커 샷들의 클러스터인지를 판정하는 것을 특징으로 하는 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법.
  14. 제 13 항에 있어서, 상기 앵커 샷 클러스터 판정 기준인 클러스터에 속한 샷의 개수, 기사 제목 글자의 존재 비율, 뉴스 아이콘의 존재 비율을 각각의 판정 기준에 대해서 설정된 소정 임계치와 비교한 결과에 따라서 앵커 샷 클러스터인지를 판정하는 것을 특징으로 하는 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법.
  15. 제 1 항에 있어서, 상기 앵커 후보 샷의 추출 단계, 클러스터링 단계, 앵커 샷의 확정 단계를 위해서 각각의 단계마다 적어도 하나 이상의 판단 기준을 적용하고, 상기 판단 기준 각각에 대해서 소정의 가중치를 부여함으로써 뉴스 비디오 콘텐트의 뉴스 진행 구도의 변화나 뉴스 진행 구도의 유형 등에 적응적으로 대응할 수 있도록 한 것을 특징으로 하는 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법.
KR10-2001-0015270A 2001-03-23 2001-03-23 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법 KR100438269B1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR10-2001-0015270A KR100438269B1 (ko) 2001-03-23 2001-03-23 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법
US10/102,896 US20020146168A1 (en) 2001-03-23 2002-03-22 Anchor shot detection method for a news video browsing system
JP2002082756A JP2003032583A (ja) 2001-03-23 2002-03-25 ニュースビデオブラウジングシステムでアンカーショットの自動検出方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR10-2001-0015270A KR100438269B1 (ko) 2001-03-23 2001-03-23 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법

Publications (2)

Publication Number Publication Date
KR20020075081A true KR20020075081A (ko) 2002-10-04
KR100438269B1 KR100438269B1 (ko) 2004-07-02

Family

ID=19707321

Family Applications (1)

Application Number Title Priority Date Filing Date
KR10-2001-0015270A KR100438269B1 (ko) 2001-03-23 2001-03-23 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법

Country Status (3)

Country Link
US (1) US20020146168A1 (ko)
JP (1) JP2003032583A (ko)
KR (1) KR100438269B1 (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20030017880A (ko) * 2001-08-23 2003-03-04 학교법인 한국정보통신학원 실시간 처리에 의한 디지털 비디오 데이터의 내용기반요약방법
KR100438304B1 (ko) * 2002-05-24 2004-07-01 엘지전자 주식회사 실시간 진행형 뉴스 비디오 인덱싱 방법 및 시스템
US8732759B2 (en) 2008-04-30 2014-05-20 Samsung Electronics Co., Ltd. Method of browsing recorded news program and browsing apparatus for performing the method

Families Citing this family (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100493674B1 (ko) * 2001-12-29 2005-06-03 엘지전자 주식회사 멀티미디어 데이터 검색 및 브라우징 시스템
GB2395852B (en) * 2002-11-29 2006-04-19 Sony Uk Ltd Media handling system
KR100763899B1 (ko) * 2004-02-20 2007-10-05 삼성전자주식회사 앵커 샷 검출 방법 및 장치
KR100612842B1 (ko) * 2004-02-28 2006-08-18 삼성전자주식회사 앵커 샷 결정방법 및 결정장치
JP4973188B2 (ja) * 2004-09-01 2012-07-11 日本電気株式会社 映像分類装置、映像分類プログラム、映像検索装置、および映像検索プログラム
US8316301B2 (en) 2005-08-04 2012-11-20 Samsung Electronics Co., Ltd. Apparatus, medium, and method segmenting video sequences based on topic
CN101243448A (zh) * 2005-08-17 2008-08-13 松下电器产业株式会社 影像场面分类装置及影像场面分类方法
KR100650407B1 (ko) * 2005-11-15 2006-11-29 삼성전자주식회사 멀티 모달 기반의 고속 비디오 요약 생성 방법 및 그 장치
US8036263B2 (en) * 2005-12-23 2011-10-11 Qualcomm Incorporated Selecting key frames from video frames
JP4765732B2 (ja) * 2006-04-06 2011-09-07 オムロン株式会社 動画編集装置
US8379154B2 (en) * 2006-05-12 2013-02-19 Tong Zhang Key-frame extraction from video
KR100771244B1 (ko) * 2006-06-12 2007-10-29 삼성전자주식회사 동영상 데이터 처리 방법 및 장치
US7720281B2 (en) * 2006-07-31 2010-05-18 Mavs Lab, Inc. Visual characteristics-based news anchorperson segment detection method
US7912279B2 (en) * 2006-10-26 2011-03-22 Qualcomm Incorporated Automatic white balance statistics collection
US8358381B1 (en) * 2007-04-10 2013-01-22 Nvidia Corporation Real-time video segmentation on a GPU for scene and take indexing
US8345769B1 (en) 2007-04-10 2013-01-01 Nvidia Corporation Real-time video segmentation on a GPU for scene and take indexing
JP2011504710A (ja) * 2007-11-21 2011-02-10 ジェスチャー テック,インコーポレイテッド メディア嗜好
WO2009067676A1 (en) * 2007-11-21 2009-05-28 Gesturetek, Inc. Device access control
KR101569929B1 (ko) 2008-06-02 2015-11-17 코닌클리케 필립스 엔.브이. 시청각 콘텐트의 인지 복잡도를 뷰어 관심 레벨로 조정하기 위한 장치 및 방법
US8818803B2 (en) * 2008-10-27 2014-08-26 Frank Elmo Weber Character-based automated text summarization
KR101082589B1 (ko) * 2009-07-23 2011-11-10 한국과학기술원 매체의 편향 현상을 완화하기 위한 단면수준 뉴스브라우징 서비스 시스템 및 서비스 제공방법
JP4999015B2 (ja) * 2009-08-27 2012-08-15 株式会社Kddi研究所 動画像データの分類装置
US8351661B2 (en) 2009-12-02 2013-01-08 At&T Intellectual Property I, L.P. System and method to assign a digital image to a face cluster
US9384242B1 (en) 2013-03-14 2016-07-05 Google Inc. Discovery of news-related content
KR101642200B1 (ko) * 2014-12-19 2016-07-22 포항공과대학교 산학협력단 객체의 움직임 분석을 이용한 모션 효과 생성 장치 및 방법
US10248864B2 (en) 2015-09-14 2019-04-02 Disney Enterprises, Inc. Systems and methods for contextual video shot aggregation
CN107277557B (zh) * 2017-06-16 2019-12-03 深圳市茁壮网络股份有限公司 一种视频分割方法及系统
CN108551584B (zh) * 2018-05-17 2021-03-16 北京奇艺世纪科技有限公司 一种新闻分割的方法及装置
CN114862704B (zh) * 2022-04-25 2023-03-24 陕西西影数码传媒科技有限责任公司 影像色彩修复的镜头自动划分方法

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0738842A (ja) * 1993-06-29 1995-02-07 Toshiba Corp 動画編集装置
JP3329408B2 (ja) * 1993-12-27 2002-09-30 日本電信電話株式会社 動画像処理方法および装置
US5708767A (en) * 1995-02-03 1998-01-13 The Trustees Of Princeton University Method and apparatus for video browsing based on content and structure
US5821945A (en) * 1995-02-03 1998-10-13 The Trustees Of Princeton University Method and apparatus for video browsing based on content and structure
JPH08298659A (ja) * 1995-04-26 1996-11-12 Nippon Telegr & Teleph Corp <Ntt> H.261符号化データによる映像コンテンツ切り出し方法
JP3608758B2 (ja) * 1995-06-23 2005-01-12 株式会社リコー 索引生成方法、索引生成装置、索引付け装置、索引付け方法、ビデオ議事録生成方法、フレーム編集方法及びフレーム編集装置
JP3728775B2 (ja) * 1995-08-18 2005-12-21 株式会社日立製作所 動画像の特徴場面検出方法及び装置
JP3534368B2 (ja) * 1996-04-03 2004-06-07 株式会社東芝 動画像処理方法及び動画像処理装置
KR100243350B1 (ko) * 1997-12-04 2000-02-01 정선종 뉴스 비디오 자막 추출 및 인식 방법
US6278446B1 (en) * 1998-02-23 2001-08-21 Siemens Corporate Research, Inc. System for interactive organization and browsing of video
KR100319160B1 (ko) * 1998-12-05 2002-04-24 구자홍 사건구간을기반으로하는동영상검색방법과검색데이타구성방법
JP2000285243A (ja) * 1999-01-29 2000-10-13 Sony Corp 信号処理方法及び映像音声処理装置
WO2000045603A1 (fr) * 1999-01-29 2000-08-03 Sony Corporation Procede de traitement des signaux et dispositif de traitement de signaux video/vocaux
WO2000048397A1 (fr) * 1999-02-15 2000-08-17 Sony Corporation Procede de traitement de signal et dispositif de traitement video/audio
JP4224917B2 (ja) * 1999-02-15 2009-02-18 ソニー株式会社 信号処理方法及び映像音声処理装置
US6774917B1 (en) * 1999-03-11 2004-08-10 Fuji Xerox Co., Ltd. Methods and apparatuses for interactive similarity searching, retrieval, and browsing of video
KR100286742B1 (ko) * 1999-03-18 2001-04-16 이준환 압축된 뉴스 영상의 장면전환 및 기사 검출방법
US6724933B1 (en) * 2000-07-28 2004-04-20 Microsoft Corporation Media segmentation system and related methods
KR100404322B1 (ko) * 2001-01-16 2003-11-01 한국전자통신연구원 멀티모달 특징 기반의 뉴스 비디오 요약 방법

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20030017880A (ko) * 2001-08-23 2003-03-04 학교법인 한국정보통신학원 실시간 처리에 의한 디지털 비디오 데이터의 내용기반요약방법
KR100438304B1 (ko) * 2002-05-24 2004-07-01 엘지전자 주식회사 실시간 진행형 뉴스 비디오 인덱싱 방법 및 시스템
US8732759B2 (en) 2008-04-30 2014-05-20 Samsung Electronics Co., Ltd. Method of browsing recorded news program and browsing apparatus for performing the method
KR101401974B1 (ko) * 2008-04-30 2014-06-02 삼성전자주식회사 녹화된 뉴스 프로그램들을 브라우징하는 방법 및 이를 위한장치

Also Published As

Publication number Publication date
JP2003032583A (ja) 2003-01-31
KR100438269B1 (ko) 2004-07-02
US20020146168A1 (en) 2002-10-10

Similar Documents

Publication Publication Date Title
KR100438269B1 (ko) 뉴스 비디오 브라우징 시스템에서 앵커 샷 자동 검출 방법
Smith et al. Video skimming for quick browsing based on audio and image characterization
US8316301B2 (en) Apparatus, medium, and method segmenting video sequences based on topic
KR100411342B1 (ko) 비디오 텍스트 합성 키프레임 생성방법
Smith et al. Video skimming and characterization through the combination of image and language understanding techniques
Aoki et al. A shot classification method of selecting effective key-frames for video browsing
KR100915847B1 (ko) 스트리밍 비디오 북마크들
US6807306B1 (en) Time-constrained keyframe selection method
JP4559935B2 (ja) 画像記憶装置及び方法
US20030061612A1 (en) Key frame-based video summary system
US20030131362A1 (en) Method and apparatus for multimodal story segmentation for linking multimedia content
KR100374040B1 (ko) 비디오 텍스트 합성 키 프레임 추출방법
KR20040070269A (ko) 광고방송 및 다른 비디오 콘텐츠의 검출을 위한 패밀리히스토그램 기반으로 한 기술들
JP2005243035A (ja) アンカーショット決定方法及び決定装置
EP1067786A1 (en) Data describing method and data processor
Gauch et al. Real time video scene detection and classification
KR101195613B1 (ko) 동영상의 주제별 분할장치 및 방법
O'Connor et al. News story segmentation in the Fischlar video indexing system
JP4999015B2 (ja) 動画像データの分類装置
Chen et al. Multi-criteria video segmentation for TV news
Elliot Multiple views of digital video
Kim et al. An efficient graphical shot verifier incorporating visual rhythm
KR100438304B1 (ko) 실시간 진행형 뉴스 비디오 인덱싱 방법 및 시스템
JP2004260734A (ja) 動画像データの分類装置
Ding et al. A keyframe extraction method based on transition detection and image entropy

Legal Events

Date Code Title Description
A201 Request for examination
N231 Notification of change of applicant
E902 Notification of reason for refusal
AMND Amendment
E601 Decision to refuse application
J201 Request for trial against refusal decision
AMND Amendment
B701 Decision to grant
GRNT Written decision to grant
LAPS Lapse due to unpaid annual fee