KR100866201B1 - 멀티미디어 휴대형 단말기 사용자를 위한 관심 영역의 추출방법 - Google Patents

멀티미디어 휴대형 단말기 사용자를 위한 관심 영역의 추출방법 Download PDF

Info

Publication number
KR100866201B1
KR100866201B1 KR1020070017910A KR20070017910A KR100866201B1 KR 100866201 B1 KR100866201 B1 KR 100866201B1 KR 1020070017910 A KR1020070017910 A KR 1020070017910A KR 20070017910 A KR20070017910 A KR 20070017910A KR 100866201 B1 KR100866201 B1 KR 100866201B1
Authority
KR
South Korea
Prior art keywords
region
coordinates
roi
values
boundary
Prior art date
Application number
KR1020070017910A
Other languages
English (en)
Other versions
KR20080078186A (ko
Inventor
채경호
김용덕
주영훈
최광표
오윤제
김창익
김원준
Original Assignee
삼성전자주식회사
한국정보통신대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사, 한국정보통신대학교 산학협력단 filed Critical 삼성전자주식회사
Priority to KR1020070017910A priority Critical patent/KR100866201B1/ko
Priority to US12/528,367 priority patent/US8411959B2/en
Priority to PCT/KR2008/001061 priority patent/WO2008103010A1/en
Priority to CN200880013057A priority patent/CN101711398A/zh
Priority to EP08723099.1A priority patent/EP2126835A4/en
Publication of KR20080078186A publication Critical patent/KR20080078186A/ko
Application granted granted Critical
Publication of KR100866201B1 publication Critical patent/KR100866201B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/40Scaling the whole image or part thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20112Image segmentation details
    • G06T2207/20132Image cropping
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30221Sports video; Sports image

Abstract

본 발명은 멀티미디어 휴대형 단말기 사용자를 위한 관심 영역의 추출 방법에 관한 것으로, 단말기에 화면단위로 입력되는 입력영상에서 탐색 영역을 설정하여 주변 환경의 밝기 차이에 의해 관심 영역의 경계 좌표 후보군을 추출하며, 이러한 경계 좌표 후보군 중에서 일정 프레임 동안의 학습을 통해 관심 영역의 경계 좌표를 결정하고, 결정된 좌표의 관심 영역을 확대하여 디스플레이함으로써 사용자들이 화면상에서 가장 관심을 갖게 되는 영역 또는 사용자들이 다른 영역에 비해 더욱 주의를 기울이는 영역을 자동으로 추출한다.
이후 사용자가 원할 때마다 관심 영역을 확대하여 사용자들에게 보다 나은 시청 경험과 이해를 제공해주는 효율적인 영상의 시청이 가능해진다.
관심 영역, 경계 좌표, 프레임, 스코어 영역, 추출, 확대, SPD, DSPD

Description

멀티미디어 휴대형 단말기 사용자를 위한 관심 영역의 추출 방법{METHOD EXTRACTION OF A INTEREST REGION FOR MULTIMEDIA MOBILE USERS}
도 1은 운동경기가 방송되고 있는 DMB 폰을 나타내는 도면
도 2는 운동경기 비디오에 존재하는 여러 종류의 스코어 형태를 나타내는 도면
도 3은 본 발명의 일실시 예에 따른 운동경기 비디오 중에서 축구 경기 비디오를 나타내는 도면
도 4는 본 발명의 일실시 예에 따른 운동경기 비디오에서의 스코어 영역 추출 방법을 나타내는 흐름도
도 5는 도 2에 대하여 왼쪽 상단의 x, y의 좌표를 추출하기 위한 DSPDv, DSPDh의 변화를 나타내는 그래프
도 6은 본 발명의 일실시 예에 따른 운동경기 비디오에서의 스코어 영역 추출한 후 확대하여 나타내는 도면
도 7은 본 발명의 일실시 예에 따른 운동경기 비디오에서의 실제 스코어 영역과 추출된 스코어 영역을 비교하여 나타내는 도면
본 발명은 멀티미디어 휴대형 단말기의 사용자들이 화면상에서 가장 관심을 갖게 되는 영역 또는 사용자들이 다른 영역에 비해 더욱 주의를 기울이는 영역을 자동으로 추출하여 사용자가 원할 때마다 관심 영역을 확대하여 디스플레이하는 멀티미디어 휴대형 단말기 사용자를 위한 관심 영역의 추출 방법에 관한 것이다.
최근 멀티미디어 신호처리 및 전송기술의 급속한 발전과 DVB-H(Digital Video Broadcasting-Handheld) 및 DMB(Digital Multimedia Broadcasting) 등과 같은 새로운 형태의 휴대형 TV 서비스의 등장으로 인해 작은 LCD 패널을 통해 비디오를 시청하는 현상이 증가하고 있다. 도 1은 DMB 폰에서 축구경기 방송을 수신하여 출력하는 상태를 보여주고 있다. 그런데, 주로 비용상의 이유로, 대부분의 서비스들은 휴대형 방송을 위해 기존의 화면 크기를 단지 축소하여 제공하고 있는 실정이다.
휴대형 단말기에 크기가 축소된 영상을 디스플레이 하기에 적합한 영상의 화소수와 비트율 등의 조건을 측정하기 위해 Knoche 등에 의해 실시된 실험에 의하면, 『H. Knoche, J. D. McCarthy, and M. A. Sasse, Can small be beautiful?: assessing image resolution requirements for mobile tv, in MULTIMEDIA '05: Proceedings of the 13th annual ACM international conference on Multimedia, pp. 829-838, ACM Press, (New York, NY, USA), 2005.』에 발표된 바와 같이, 소형단말기에서의 디스플레이를 위한 영상의 직접적인 축소는 시각적으로 상세한 부분 에 대한 손실을 가져옴을 알 수 있었다.
이러한 손실은 영상의 내용이 필드스포츠인 경우, 특히 축구 비디오일 때, 더욱 심해지고 뮤직비디오, 뉴스, 만화 비디오의 순으로 조금씩 나아짐을 알 수 있었다. 따라서, 특정 내용을 담은 비디오의 경우, 휴대형 단말기의 시청자들이 관심 영역 (Region of interest, ROI)만이 확대된 화면을 볼 수 있게 하는 지능형 디스플레이 기술의 개발이 필요한 상태다.
여기서 ROI란 사용자들이 화면상에서 가장 관심을 갖게 되는 영역 또는 사용자들이 다른 영역에 비해 더욱 주의를 기울이는 영역으로 정의될 수 있다. 관심 영역은 상황인지 컨텐츠 적응, 트랜스 코딩, 지능형 정보 관리 등에 활용된다. 또한 관심 영역의 지정은 비디오 장면(scene)을 의미적으로 분석하는 첫 단계가 될 수 있으므로 영상 분석을 위해서도 매우 중요한 기술이라 할 수 있다.
도 2는 운동경기 비디오에 존재하는 여러 종류의 스코어 형태를 나타내는 도면으로서, 휴대형 단말기에서 재생 시 자동으로 스코어 영역을 추출하여 확대 재생할 필요가 있다.
스코어 영역은 축구 경기에서 일반적으로 화면의 왼쪽 상단에 위치하며, 주로 일정한 밝기의 경계선을 가진 사각형 형태로 디스플레이 된다. 또한, 자연 영상과는 달리 그래픽이며, 영상 내에서 디스플레이 되는 위치가 일정하다. 좀더 구체적으로 살펴보면 클로즈업 샷일 경우 스코어 영역의 주변 환경이 정적(static) 상태인 경우가 많다. 이러한 경우 좀더 정확한 스코어 영역의 추출이 가능하다는 장점이 있다.
다양한 축구 경기를 관찰한 결과 대부분의 스코어 영역이 화면의 시작점으로부터 가로 길이의 1/2, 세로 길이의 1/3 크기 영역 안에 포함되기 때문에 탐색 범위를 이 영역 안으로 제한하여 스코어 영역을 효율적으로 추출 할 수 있도록 한다.
그 동안 광고판 영역에 대한 연구는 몇몇 있어 왔으나 스코어 영역 추출에 대한 관련 연구는 활발히 이루어지지 않았다. Okihisa(O. Utsumi, K. Miura, I. Ide, S. Sakai, and H. Tanaka, "An object detection method for describing soccer games from video,"in Proc. Multimedia and Expo, vol. 1, Aug. 2002, pp. 45-48.) 등은 에지(Edge) 정보를 이용하여 그라운드 영역과 캡션(Caption) 영역을 구별하고 있지만 캡션 영역 내에서 스코어 영역과 광고판을 구별하기 쉽지 않은 문제점이 있다. Yoon (Ho-Sub Yoon, Young-lae J. Bae, and Young-kyu Yang, "A soccer image sequence mosaicking and analysis method using line and advertisement board detection," ETRI Journal, vol. 24, Dec. 2002, pp. 443-454.) 등은 광고판의 수평방향으로의 밝기 변화가 그라운드와 다르다는 사실을 이용하여 광고판 영역을 구별하고 있지만 다양한 디자인의 광고판과 스코어 영역이 존재하기 때문에 밝기의 차이를 이용해 이 둘을 구별하기는 쉽지 않다. 따라서 스코어 영역의 특성만을 이용하여 스코어 영역을 추출하는 것이 바람직하다.
상기와 같은 요구에 부응하기 위한 본 발명은 멀티미디어 휴대형 단말기의 사용자들이 화면상에서 가장 관심을 갖게 되는 영역 또는 사용자들이 다른 영역에 비해 더욱 주의를 기울이는 영역을 자동으로 추출 방법을 제공하는데 있다.
또한 사용자가 원할 때마다 추출된 관심 영역을 작은 화면에서도 알아보기 쉽도록 확대하여 디스플레이하는데 있다.
상기 목적을 달성하기 위한 본 발명은 멀티미디어 휴대형 단말기 사용자를 위한 관심 영역의 추출 방법에 있어서, 상기 단말기에 화면단위로 입력되는 입력영상에서 탐색 영역을 설정하여 주변 환경의 밝기 차이에 의해 관심 영역의 경계 좌표 후보군을 추출하는 과정과, 상기 경계 좌표 후보군 중에서 일정 프레임 동안의 학습을 통해 관심 영역의 경계 좌표를 결정하는 과정 및 상기 결정된 좌표의 관심 영역을 확대하여 디스플레이하는 과정을 포함하는 것을 특징으로 한다.
이하, 첨부된 도면을 참조하여 본 발명에 따른 바람직한 실시 예를 상세히 설명한다. 또한, 본 발명을 설명함에 있어서, 관련된 공지기능 혹은 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명은 생략한다. 한편 이하의 실시 예에서는 운동경기 비디오 중에서 축구경기 비디오를 디스플레이 하는 과정을 예로서 설명한다.
우선, 관심 영역은 일정한 밝기를 가진 경계선을 가지고 그 안에 점수나 시간을 표현하는 문자를 포함하기 때문에 Markov source의 한 형태인 자연영상과 달리 이웃 픽셀간의 밝기 차이가 크게 변한다. 따라서 밝기 차이들의 합이 미리 설정된 임계값 보다 커지는 순간을 관심 영역의 경계선으로 인식할 수 있다.
도 3은 본 발명의 일실시 예에 따른 운동경기 비디오 중에서 축구 경기 비디오를 나타내는 도면이고, 도 4는 본 발명의 일실시 예에 따른 운동경기 비디오에서의 스코어 영역 추출 방법을 나타내는 흐름도이다.
도 3과 같이, 화면단위로 입력되는 입력영상에서 굵은 선으로 표시한 사각형 내부를 탐색 영역으로 설정하며(S400), 화살표 방향은 각 측면에 대해 sum of pixel difference(SPD)를 구하는 방향이다.
도 4에 도시된 바와 같이, 스코어 영역의 왼쪽 상단 x 좌표를 추출하기 위해서 먼저, 탐색 영역의 왼쪽 경계에서 오른쪽 방향으로 한 열 단위로 각 픽셀과 이웃하는 픽셀의 밝기 차이를 구하고 절대값을 취하여 합산한다. 또한, y 좌표를 추출하기 위해서는 탐색 영역의 위쪽 경계에서 아래쪽 방향으로 한 행 단위로 각 픽셀과 이웃하는 픽셀의 밝기 차이를 구하고 절대값을 취하여 합산한다(S410).
스코어 영역의 오른쪽 하단 x 좌표를 추출하기 위해서는 탐색 영역의 오른쪽 경계에서 왼쪽 방향으로, y 좌표를 추출하기 위해서는 탐색 영역의 아래쪽 경계에서 위쪽 방향으로 위와 같은 과정을 수행한다(S420). 즉, 수평, 수직방향 측면에 대해 sum of pixel difference (SPD)를 수학식 1과 같이 정의한다.
[수학식 1]
Figure 112008044028235-pat00014
수학식 1에서 SPDh(x), SPDv(y)는 수평, 수직 방향 측면들에 대한 SPD들을 나타내며, x, y는 탐색 영역안의 수평, 수직 방향의 좌표를 나타내고, f(x, y)는 (x, y)좌표에서의 밝기를 나타내고, width, height는 탐색 영역의 폭, 높이를 나타낸다. SPD를 이용하여 그 값이 밝기의 차에 대한 임계값 보다 커지는 순간을 스코어 영역의 경계로 인식할 수 도 있으나 영상에 따라 SPD 값이 다양하기 때문에 임계값을 설정하기 쉽지 않다. 따라서 SPD 값의 변화량을 이용해야 할 필요가 있다.
SPD 값의 변화량은 수학식 1을 이용하여 행(또는 열) 단위로 구한 SPD 값의 차이로 알 수 있고, 이 차이가 설정된 임계값 보다 커지는 순간을 스코어 영역의 경계로 인식하게 된다. 즉, 수평, 수직 방향 측면에 대해 difference of SPD (DSPD)를 수학식 2와 같이 정의한다.
[수학식 2]
Figure 112008044028235-pat00015
스코어 영역을 사각형 형태로 추출하기 위해선 스코어 영역의 왼쪽 상단 좌표와 오른쪽 하단의 좌표가 필요하기 때문에 위의 방법을 스코어 영역의 4개 측면에 대해 적용한다. 수직, 수평 방향 측면들에 대한 DSPDv, DSPDh가 미리 설정된 임계값 보다 커지는 순간의 (x, y)좌표를 스코어 영역의 경계 좌표로 추출한다(S430).
도 5는 도 2에 대하여 왼쪽 상단의 x, y의 좌표를 추출하기 위한 DSPDv, DSPDh의 변화를 나타내는 그래프이다.
본 발명에서는 모든 영상에 대해 임계값으로 200을 사용하였으나 각 영상에 따라 (200, 300) 범위의 값 중 적절한 값을 선택 할 수 있다.
도 5에 도시된 바와 같이, DSPDv, DSPDh값이 설정된 임계값 보다 갑자기 커지는 순간을 알 수 있다. 여기서는 임계값 200에 대하여 수평, 수직방향에 대한 각각의 x, y좌표가 (29, 21)로 정해짐을 알 수 있다.
따라서 스코어 영역의 추출을 위한 왼쪽 상단의 좌표는 (29, 21)이 된다. 동일한 방법으로 오른쪽 하단의 좌표도 추출한다.
한편, 일반적으로 축구 경기에서 스코어 영역의 주변 환경은 역동적으로 변하기 때문에 한 프레임만을 이용하여 정확한 스코어 영역의 경계 좌표를 결정하기는 매우 어렵다. 이는 스코어 영역 주변에 광고판이나 관중석이 존재함으로 인해 추출되는 스코어 영역이 그들을 포함하여 원래보다 큰 영역이 추출되기 때문이다.
스코어 영역은 일반적으로 추출된 영역 안에 포함되기 때문에 최적의 스코어 영역을 결정하기 위해서는 일정한 학습 기간 동안 스코어 영역의 왼쪽 상단 경계 좌표를 위해 추출된 후보군 중 최대 x, 최대 y값을 가지는 좌표가 필요하고, 스코어 영역의 오른쪽 하단 경계 좌표를 위해 추출된 후보군 중 최소 x, 최소 y값을 가지는 좌표가 필요하다는 사실을 알 수 있다. 따라서 일정 프레임 구간에 대한 학습을 통해 위의 조건을 만족하는 경계 좌표를 결정한다.
일정 프레임 구간 동안 비교를 위해 초기 좌표값을 설정한 후(S440), 매 프레임마다 현재 프레임에서 구한 경계 좌표와 이전 프레임까지의 경계 좌표를 비교하는 과정을 반복한다(S450).
스코어 영역 왼쪽 상단의 좌표를 위해서는 최대 x, 최대 y가 필요하므로 x, y값이 각각 더 큰 좌표를 저장하고, 스코어 영역 오른쪽 하단의 좌표를 위해서는 최소 x, 최소 y가 필요하므로 x, y값이 각각 더 작은 좌표를 저장한다. 이에 기본적인 알고리즘은 아래와 같다.
Figure 112008044028235-pat00016
tempmax와 tempmin 의 초기 좌표값으로 각각 -1과 1000을 설정하였다. -i는 현재 프레임에서의 추출된 좌표를 나타낸다. 또한 학습 구간으로 100 프레임을 사용하였다. 100 프레임 구간 동안 tempmax와 tempmin의 좌표값과 현재 프레임에서 추출한 왼쪽 상단 좌표 값, 오른쪽 하단 좌표 값을 비교하여 최종 경계 좌표값을 결정한다. 즉, 스코어 영역 왼쪽 상단의 좌표를 위해서는 이전 프레임의 경계 좌표값보다 x, y값이 각각 더 큰 좌표를 결정하고(S460), 스코어 영역 오른쪽 하단의 좌표를 위해서는 x, y값이 각각 더 작은 좌표를 결정한다(S470).
학습이 끝나면 더 이상 좌표 추출을 위한 처리과정을 실행하지 않고 tempmax와 tempmin 에 저장된 최적의 경계 좌표 x, y를 이용하여 추출한 스코어 영역을 확대하게 된다(S470).
도 6은 본 발명의 일실시 예에 따른 운동경기 비디오에서의 스코어 영역 추출한 후 확대하여 나타내는 도면이다.
도 6에 도시된 바와 같이, 휴대형 단말기의 작은 화면에서도 알아보기 쉽게 위에서 결정한 최적의 스코어 영역을 선형 보간법 (bi-linear interpolation)을 사용하여 2배로 확대한다.
스코어 영역이 없는 프레임에서도 스코어 영역을 디스플레이 하기 위해서 몇 프레임 앞서 표시된 스코어 영역을 저장한다. 본 발명에서는 스코어 영역의 주변 환경이 정적인 클로즈업 샷[1] 프레임의 스코어 영역을 저장한다. 저장한 스코어 영역과 알고리즘을 통해 결정한 최적의 경계 좌표를 이용하여 추출한 영역의 밝기 차이가 설정된 임계값 보다 크면 현재 프레임에 스코어 영역이 없는 것으로 판단하고 저장한 스코어 영역을 디스플레이 한다.
이러한 본 발명은 Win32 환경에서Visual Studio 2003 (C++)을 이용하여 개발하였으며, MPEG 복호화를 위해 FFMpeg 라이브러리를 이용하였다. 본 발명은 5분짜리 축구 경기 영상을 352x240, 29.97fps의 MPEG-1 포맷으로 부호화하여 실험에 이용하였다. 모든 과정은 Pentium - 4 3.00GHz PC에서 실시간으로 수행되었다.
또한, 본 발명에서는 스코어 영역 추출의 정확성을 측정하기 위해 수학식 3과 같이 정의되는 Recall과 Precision을 사용하였다.
[수학식 3]
Figure 112007015697256-pat00004
정확성에 관계없이 추출된 스코어 영역이 실제 스코어 영역 보다 크다면 Recall 값이 커지고 추출된 스코어 영역이 실제 스코어 영역 보다 작다면 Precision 값이 커지기 때문에 Recall과 Precision을 동시에 살펴야 한다.
도 7은 본 발명의 일실시 예에 따른 운동경기 비디오에서의 실제 스코어 영역과 추출된 스코어 영역을 비교하여 나타내는 도면이다.
도 7에 도시된 바와 같이, 4개의 축구 경기 비디오를 이용하여 Recall과 Precision을 구하였으며, 실제 스코어 영역(왼쪽 : 위에서부터 아래로 각각 영상 1, 영상 2, 영상3, 영상 4)과 본 발명의 알고리즘에 의해 추출된 스코어 영역(오른쪽)으로 자세히 나타내고 있다. 또한, 표 1은 각 영역에 해당하는 픽셀 수, 표 2는 Recall과 Precision을 측정한 결과이다.
[표 1]
실제 스코어 영역 추출된 스코어 영역 추출된 영역 중 실제 스코어 영역
영상 1 1501 1509 1263
영상 2 1788 1610 1610
영상 3 2232 2232 2232
영상 4 1678 866 866
[표 2]
Recall(%) Precision(%)
영상 1 84.14 83.69
영상 2 90.04 100
영상 3 100 100
영상 4 51.61 100
또한, 본 발명은 실제 모바일 기기의 응용을 위해서 PDA용으로도 개발하였다. Microsoft Embeded Visual Studio 4.0을 이용하여 개발하였으며, 실험에는 HP iPAQ hx4700을 사용하였다. 성능 측정을 위해 h.264 포맷으로 재생시간 2분을 갖는 축구 경기 비디오(대한민국 대 독일 : 2004년 친선 축구 경기, 이탈리아 대 일본 : 2004년 아테네 올림픽 축구 경기)를 이용하였으며, 본 발명에서 제안하는 알고리즘을 적용한 영상 두 개에 대해 수학식 1을 이용하여 성능 측정한 결과를 표 3에 정리하였다.
[표 3]
대한민국 vs. 독일 이탈리아 vs. 일본
점수상자 추출 없을 시 평균 재생 속도 31.045 frame/sec 30.166 frame/sec
점수상자 추출 시 평균 재생 속도 29.251 frame/sec 28.667 frame/sec
시간 증가율(%) 5.78 4.97
본 발명은 휴대형 단말기의 작은 화면에서도 스코어 영역을 쉽게 볼 수 있도록 스코어 영역을 추출한 후 확대하여 디스플레이 하는 시스템을 제안하였으며, PDA에서 전체 디스플레이에 약 29 frame/sec의 속도를 보이고 있으며 사용자의 취향에 따라 추출 기능의 on/off가 가능하다.
이를 통해 축구 경기 이외에도 다양한 스포츠 경기나 뉴스의 헤드라인 박스 추출 등에 응용 될 수 있을 것으로 기대된다.
상기와 같이 본 발명의 일실시 예에 따른 멀티미디어 휴대형 단말기 사용자를 위한 관심 영역의 추출 방법이 이루어질 수 있으며, 한편 상기한 본 발명의 설명에서는 구체적인 실시 예에 관해 설명하였으나 여러 가지 변형이 본 발명의 요지를 벗어나지 않고 다양한 실시예가 있을 수 있다. 따라서 본 발명의 범위는 설명된 실시 예에 의하여 정할 것이 아니고 청구범위와 청구범위의 균등한 것에 의하여 정하여져야 할 것이다.
상기한 바와 같이 이루어진 본 발명은 멀티미디어 휴대형 단말기의 사용자들이 화면상에서 가장 관심을 갖게 되는 영역 또는 사용자들이 다른 영역에 비해 더욱 주의를 기울이는 영역을 자동으로 추출하는 방법과, 사용자가 원할 때마다 이를 확대하여 디스플레이 함으로써, 사용자들에게 보다 나은 시청 경험과 이해를 제공해주는 효율적인 영상의 시청이 가능해진다.

Claims (6)

  1. 멀티미디어 휴대형 단말기에 있어서,
    상기 단말기에 화면단위로 입력되는 입력영상에서 탐색 영역을 설정하여 주변 환경의 밝기 차이에 의해 관심 영역의 경계 좌표 후보군을 추출하는 과정과;
    상기 경계 좌표 후보군 중에서 일정 프레임 동안의 학습을 통해 관심 영역의 경계 좌표를 결정하는 과정; 및
    상기 결정된 좌표의 관심 영역을 확대하여 디스플레이하는 과정을 포함하는 것을 특징으로 하는 멀티미디어 휴대형 단말기 사용자를 위한 관심 영역의 추출 방법.
  2. 제1항에 있어서, 상기 추출 과정은 상기 탐색 영역의 왼쪽 상단의 X, Y좌표를 추출하기 위해 열 및 행 단위로 각 픽셀과 이웃하는 픽셀의 밝기 차이를 구하고 절대값을 합산하는 단계와;
    상기 탐색 영역의 오른쪽 하단의 X, Y좌표를 추출하기 위해 열 및 행 단위로 각 픽셀과 이웃하는 픽셀의 밝기 차이를 구하고 절대값을 합산하는 단계; 및
    상기 합산된 값들의 차이를 나타내는 DSPD 값이 설정된 임계값보다 커지는 순간의 X, Y 좌표를 상기 관심 영역의 경계 좌표 후보군으로 추출하는 단계를 포함하는 것을 특징으로 하는 멀티미디어 휴대형 단말기 사용자를 위한 관심 영역의 추출 방법.
  3. 제2항에 있어서, 상기 탐색 영역의 수평, 수직 방향 측면에 대한 DSPD값은 다음의 수학식에 의해 구해지는 것을 특징으로 하는 멀티미디어 휴대형 단말기 사용자를 위한 관심 영역의 추출 방법.
    Figure 112008044028235-pat00017
    (DSPDv(y) : 수직 방향 측면에 대한 DSPD 값, DSPDh(x) : 수평 방향 측면에 대한 DSPD 값, SPDv(y) : 수직 방향 측면에 대한 합산된 값, SPDh(x) : 수평 방향 측면에 대한 합산된 값, width : 상기 탐색 영역의 폭, height : 상기 탐색 영역의 높이)
  4. 제2항에 있어서, 상기 추출 과정은 상기 관심 영역 추출의 정확성을 측정하기 위해 다음의 수학식에 의해 구해지는 것을 특징으로 하는 멀티미디어 휴대형 단말기 사용자를 위한 관심 영역의 추출 방법.
    Figure 112007015697256-pat00006
  5. 제1항에 있어서, 상기 결정 과정은 상기 입력영상의 일정 프레임 구간 동안 비교를 위해 초기 좌표값을 설정하는 단계와;
    일정 프레임 구간 동안 현재 프레임에서 추출한 관심 영역의 경계 좌표와 이전 프레임까지의 경계 좌표를 반복 비교하는 단계와;
    상기 관심 영역의 왼쪽 상단의 좌표값을 이전 프레임의 경계 좌표값보다 x, y값이 각각 더 큰 좌표값으로 결정하는 단계; 및
    상기 관심 영역의 오른쪽 하단의 좌표값을 이전 프레임의 경계 좌표값보다 x, y값이 각각 더 작은 좌표값으로 결정하는 단계를 포함하는 것을 특징으로 하는 멀티미디어 휴대형 단말기 사용자를 위한 관심 영역의 추출 방법.
  6. 제1항에 있어서, 상기 디스플레이 과정은 이전에 표시되어 저장한 관심 영역의 밝기와 상기 결정된 좌표 내의 영역의 밝기와의 차이가 설정된 임계값보다 크면 현재 프레임에 관심 영역이 없는 것으로 판단하여 저장한 관심 영역을 디스플레이하는 단계를 포함하는 것을 특징으로 하는 멀티미디어 휴대형 단말기 사용자를 위한 관심 영역의 추출 방법.
KR1020070017910A 2007-02-22 2007-02-22 멀티미디어 휴대형 단말기 사용자를 위한 관심 영역의 추출방법 KR100866201B1 (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
KR1020070017910A KR100866201B1 (ko) 2007-02-22 2007-02-22 멀티미디어 휴대형 단말기 사용자를 위한 관심 영역의 추출방법
US12/528,367 US8411959B2 (en) 2007-02-22 2008-02-22 Extraction method of an interest region for multimedia mobile users
PCT/KR2008/001061 WO2008103010A1 (en) 2007-02-22 2008-02-22 Extraction method of an interest region for multimedia mobile users
CN200880013057A CN101711398A (zh) 2007-02-22 2008-02-22 多媒体移动用户的感兴趣区域的提取方法
EP08723099.1A EP2126835A4 (en) 2007-02-22 2008-02-22 METHOD FOR EXTRACTING A REGION OF INTEREST FOR MOBILE MULTIMEDIA TERMINAL USERS

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020070017910A KR100866201B1 (ko) 2007-02-22 2007-02-22 멀티미디어 휴대형 단말기 사용자를 위한 관심 영역의 추출방법

Publications (2)

Publication Number Publication Date
KR20080078186A KR20080078186A (ko) 2008-08-27
KR100866201B1 true KR100866201B1 (ko) 2008-10-30

Family

ID=39710253

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020070017910A KR100866201B1 (ko) 2007-02-22 2007-02-22 멀티미디어 휴대형 단말기 사용자를 위한 관심 영역의 추출방법

Country Status (5)

Country Link
US (1) US8411959B2 (ko)
EP (1) EP2126835A4 (ko)
KR (1) KR100866201B1 (ko)
CN (1) CN101711398A (ko)
WO (1) WO2008103010A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210079160A (ko) * 2019-12-19 2021-06-29 (주)오버플로우 화면을 확대하여 표시하며 실시간으로 중계하는 장치 및 이의 동작 방법

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100944903B1 (ko) * 2008-03-18 2010-03-03 한국전자통신연구원 비디오 신호의 특징 추출 장치 및 그 추출 방법, 비디오인식 시스템 및 그 인식 방법
US8773577B2 (en) * 2010-10-27 2014-07-08 Qualcomm Incorporated Region of interest extraction
FR2980067B1 (fr) * 2011-09-08 2013-09-27 Evs Internat Swiss Sarl Traitement d'un flux d'images de television pour une adaptation a des ecrans de petites dimensions
JP6169395B2 (ja) 2012-08-27 2017-07-26 株式会社トーキン 共振器
US10057346B1 (en) * 2013-12-06 2018-08-21 Concurrent Ventures, LLC System, method and article of manufacture for automatic detection and storage/archival of network video
KR20170012979A (ko) * 2015-07-27 2017-02-06 삼성전자주식회사 영상 공유 서비스를 위한 전자 장치 및 방법
CN106528027B (zh) * 2016-11-28 2020-02-14 合一网络技术(北京)有限公司 数据展示方法及装置
CN106886777B (zh) * 2017-04-11 2020-06-09 深圳怡化电脑股份有限公司 一种字符边界确定方法及装置
US10939126B1 (en) 2019-12-09 2021-03-02 Guangzhou Zhijing Technology Co., Ltd Method of adding encoded range-of-interest location, type and adjustable quantization parameters per macroblock to video stream
US11259081B2 (en) * 2020-02-28 2022-02-22 Rovi Guides, Inc. Systems and methods for adaptively modifying presentation of media content
CN114418848B (zh) * 2022-01-17 2023-09-19 Tcl通讯科技(成都)有限公司 视频处理方法、装置、存储介质及电子设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20010056157A (ko) * 1999-12-14 2001-07-04 윤종용 오에스디 화면 확대 장치 및 그 제어 방법
KR20030029353A (ko) * 2001-10-08 2003-04-14 엘지전자 주식회사 영상내의 오브젝트 영역 추출방법
KR20050073016A (ko) * 2004-01-08 2005-07-13 삼성전자주식회사 다이나믹 영상 재생을 위한 자동 줌 장치 및 방법
KR20070077600A (ko) * 2006-01-24 2007-07-27 엘지전자 주식회사 이동 방송 수신 단말기의 영상 부분 확대 방법과 장치

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3720951B2 (ja) * 1996-09-30 2005-11-30 富士通株式会社 情報処理装置及びプログラム記録媒体
WO2003014867A2 (en) * 2001-08-03 2003-02-20 John Allen Ananian Personalized interactive digital catalog profiling
US7003161B2 (en) * 2001-11-16 2006-02-21 Mitutoyo Corporation Systems and methods for boundary detection in images
DE10308074A1 (de) * 2003-02-26 2004-09-09 Hydraulik-Ring Gmbh Ventil, vorzugsweise Proportionalmagnetventil
US8292433B2 (en) * 2003-03-21 2012-10-23 Queen's University At Kingston Method and apparatus for communication between humans and devices
EP1598778B1 (en) * 2004-05-18 2008-08-13 Agfa HealthCare NV Method for automatically mapping of geometric objects in digital medical images
US20060045381A1 (en) * 2004-08-31 2006-03-02 Sanyo Electric Co., Ltd. Image processing apparatus, shooting apparatus and image display apparatus
FR2875662A1 (fr) * 2004-09-17 2006-03-24 Thomson Licensing Sa Procede de visualisation de document audiovisuels au niveau d'un recepteur, et recepteur apte a les visualiser

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20010056157A (ko) * 1999-12-14 2001-07-04 윤종용 오에스디 화면 확대 장치 및 그 제어 방법
KR20030029353A (ko) * 2001-10-08 2003-04-14 엘지전자 주식회사 영상내의 오브젝트 영역 추출방법
KR20050073016A (ko) * 2004-01-08 2005-07-13 삼성전자주식회사 다이나믹 영상 재생을 위한 자동 줌 장치 및 방법
KR20070077600A (ko) * 2006-01-24 2007-07-27 엘지전자 주식회사 이동 방송 수신 단말기의 영상 부분 확대 방법과 장치

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210079160A (ko) * 2019-12-19 2021-06-29 (주)오버플로우 화면을 확대하여 표시하며 실시간으로 중계하는 장치 및 이의 동작 방법
KR102339553B1 (ko) 2019-12-19 2021-12-16 ㈜오버플로우 화면을 확대하여 표시하며 실시간으로 중계하는 장치 및 이의 동작 방법

Also Published As

Publication number Publication date
EP2126835A1 (en) 2009-12-02
CN101711398A (zh) 2010-05-19
EP2126835A4 (en) 2016-12-07
WO2008103010A1 (en) 2008-08-28
US8411959B2 (en) 2013-04-02
US20100150451A1 (en) 2010-06-17
KR20080078186A (ko) 2008-08-27

Similar Documents

Publication Publication Date Title
KR100866201B1 (ko) 멀티미디어 휴대형 단말기 사용자를 위한 관심 영역의 추출방법
KR101009881B1 (ko) 재생되는 영상의 타겟 영역을 확대 디스플레이하기 위한장치 및 방법
US20180077452A1 (en) Devices, systems, methods, and media for detecting, indexing, and comparing video signals from a video display in a background scene using a camera-enabled device
US20110145883A1 (en) Television receiver and method
US7970257B2 (en) Image display method and electronic apparatus implementing the image display method
US8849063B2 (en) Apparatus and method for optimizing on-screen location of additional content overlay on video content
KR101318459B1 (ko) 수신기 상에서 오디오비주얼 문서를 시청하는 방법 및이러한 문서를 시청하기 위한 수신기
KR20070120403A (ko) 영상 편집장치 및 방법
KR102246305B1 (ko) 증강 미디어 서비스 제공 방법, 장치 및 시스템
KR101414669B1 (ko) 적응형 비디오 표현을 위한 방법 및 디바이스
CN108293140B (zh) 公共媒体段的检测
US20130176486A1 (en) Pillarboxing Correction
US20150036050A1 (en) Television control apparatus and associated method
CN114143561B (zh) 一种超高清视频多视角漫游播放方法
Lai et al. Tennis Video 2.0: A new presentation of sports videos with content separation and rendering
KR101106910B1 (ko) 큰 스틸 사진 처리 방법 및 디바이스와 컴퓨터 판독가능 저장 매체
CN113938713A (zh) 一种多路超高清视频多视角漫游播放方法
US20230073093A1 (en) Image processing apparatus, image processing method, and program
JP6363015B2 (ja) 電子機器及び表示方法
CN113542818B (zh) 一种视频展示方法、视频编辑方法及装置
US10674207B1 (en) Dynamic media placement in video feed
JP4881282B2 (ja) トリミング処理装置およびトリミング処理プログラム
Kim et al. Intelligent video display to raise quality of experience on mobile devices
JP5003458B2 (ja) 画像信号処理装置、表示装置、画像信号処理方法、プログラム及び記録媒体
JP2009246829A (ja) 動画像シーン分割装置および動画像シーン分割方法

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20120927

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20130927

Year of fee payment: 6

FPAY Annual fee payment

Payment date: 20140929

Year of fee payment: 7

FPAY Annual fee payment

Payment date: 20150925

Year of fee payment: 8

FPAY Annual fee payment

Payment date: 20160929

Year of fee payment: 9

FPAY Annual fee payment

Payment date: 20170927

Year of fee payment: 10

FPAY Annual fee payment

Payment date: 20180921

Year of fee payment: 11