KR20100071803A

KR20100071803A - 영상의 전송 에러 복원 방법 및 그 장치

Info

Publication number: KR20100071803A
Application number: KR1020080130644A
Authority: KR
Inventors: 김진술; 이현우; 류원
Original assignee: 한국전자통신연구원; 주식회사 케이티
Priority date: 2008-12-19
Filing date: 2008-12-19
Publication date: 2010-06-29
Also published as: US20100158406A1; US8520973B2; KR101192429B1

Abstract

본 발명은 영상의 전송 에러 복원 방법 및 그 장치에 관한 것이다.

본 발명에서는 수신되는 영상 프레임을 다수의 블록으로 나누고 각 블록을 다시 세분화하는 다중 해상도 처리를 한 다음에 에러가 발생한 영역을 찾고, 각 블록별로 복잡도에 따라 전역 픽셀 정보 및 지역 픽셀 정보 중 하나를 선택하고 이를 토대로 에러 영역을 복구한다.

영상복원, 에러복구, POD, IP 미디어서비스, IPTV

Description

영상의 전송 에러 복원 방법 및 그 장치{Method for restoring transport error included in image and apparatus thereof}

본 발명은 전송 에러 복원 방법 및 그 장치에 관한 것으로, 더욱 상세하게 말하자면 미디어 서비스에 따라 전송되는 영상에서 발생한 에러를 복구하여 원래의 영상을 복원하는 방법 및 그 장치에 관한 것이다.

통신 및 방송 서비스가 통합된 다양한 융합서비스 환경이 도래함과 동시에 IP 미디어 서비스에 대한 관심이 높아지고 있으며, 현재 네트워크의 ALL-IP 화 추세에 따라 IP기반의 다양한 멀티미디어 응용서비스가 폭발적으로 출현하고 있다.

그 결과 TCP/IP(Transmission Control Protocol/Internet Protocol), UDP/IP(User Datagram Protocol/Internet Protocol) 망에서 트래픽이 급격하게 증가되어 IP기반 서비스의 품질저하 문제가 심각하게 대두되고 있다. 또한 IP망은 일반적으로 QoS(Quality of Service)를 보장하지 않는 최선형(Best Effort) 방식으로 되어 있기 때문에, IP 망을 통해 영상 패킷을 전송하는 경우 수신 단에서 영상 품질(video quality)이 떨어지는 현상이 발생한다. 즉, 송신단에서 보낸 오리지널 영상의 품질이 다양한 에러 발생으로 변경되어 수신단에서 오리지널 영상이 재현되 지 않는 현상이 빈번하게 발생한다. 예를 들어, 영상이 IP 네트워크를 통하여 전송되는 동안 패킷 로스(Packet Loss), 지터(Jitter), 오정렬(Out of order)과 같은 에러 현상이 발생되고, 이러한 에러 현상이 수신단의 영상에 나타나게 된다.

이에 따라, 유선통신시스템, 무선가입자망, 이동 영상전화망, 개인휴대통신망, 차세대 이동통신망 등을 포함하는 이기종간 통신시스템 및 IPTV 통신 시스템에서, 위에 기술된 바와 같은 문제점을 해결하기 위한 연구가 진행되고 있고, 최근에는 이러한 연구가 IPTV 서비스의 활성화와 더불어 중요하게 이슈화되고 있는 실정이다. 하지만 이러한 노력에도 불구하고 다양한 요인으로 인하여 영상 품질의 저하가 발생되고 있으며, 이러한 문제점을 빠르고 정확하게 파악하기에는 아직도 연구가 미진한 상태이다. 이러한 영상 품질의 저하를 최소화하기 위하여 주로 전송망에서 손실된 영상의 정보를 복구하는 방법이 제안되고 있으나, 손실된 정보를 완벽하게 복구하는 데에는 한계가 있다.

또한 손실된 영상 정보를 복구하기 위하여 엔드(End)단에서 손실된 정보를 복원하는 방법이 꾸준히 연구되고 있으나, 이러한 방법은 실시간 복원 및 에러의 종류 등이 제한된 상태를 가정하고 손실된 정보를 복원한다. 그러나 IPTV에서의 전송에러는 매우 다양하며 전송 에러가 발생되는 영상의 색깔 또한 고정되어 있지 않으므로, 제한된 조건을 토대로 복원이 이루어지는 기존 방법은 적용하기에 부적합하다.

또한 IPTV는 실시간 방송으로 초당 30 프레임 정도가 빠르게 변화되면서 영상 서비스가 방송되며, 이와 같이 동적으로 빠르게 변하는 실시간 방송에서는 빠른 복구가 필요하다.

본 발명이 해결하고자 하는 과제는 영상 서비스가 이루어지는 통신 환경에서 영상이 전송되는 동안에 발생한 에러를 효율적으로 복구하여 원래의 영상을 복원하는 것이다.

상기 과제를 위한 본 발명의 특징에 따른 전송 에러 복원 방법은, 수신되는 영상에 포함된 전송 에러를 복원하는 방법에서, 상기 수신된 영상의 프레임을 다수의 블록으로 나누고, 각 블록들에 대하여 에러 영역을 찾는 단계; 각 블록들에 대하여, 해당 블록을 구성하는 픽셀들의 정보를 토대로 해당 블록의 텍스쳐(texture)의 복잡도를 판별하는 단계; 및 각 블록들에 대하여, 상기 판별된 복잡도에 따라 전역 픽셀 정보 및 지역 픽셀 정보 중 하나를 선택하고 이를 토대로 해당 블록에 포함되어 있는 에러 영역을 복구하는 단계를 포함한다.

본 발명의 다른 특징에 따른 전송 에러 복원 장치는, IP 미디어 서비스가 이루어지는 통신 환경에서 수신되는 영상에 포함된 전송 에러를 복원하는 장치에서, 상기 영상의 프레임을 다수의 손상 블록들로 나누고, 각각의 손상 블록들은 영상 블록들로 나누며, 각각의 영상 블록은 픽셀 블록들로 나누고, 각 손상 블록들에서 에러가 발생한 영역을 찾는 에러 영역 추출부; 각 손상 블록의 영상 블록들에 대하여 픽셀값들의 표준편차를 구하고 이를 토대로 해당 영상 블록의 복잡도를 판단하 는 판별부; 각 영상 블록에 대하여 판별된 복잡도를 토대로, 해당 영상 블록에 포함되어 있는 에러 영역을 전체 픽셀 정보 및 지역 픽셀 정보 중 하나를 선택하고 이를 토대로 각 영상 블록에 포함된 에러 영역을 복구하는 에러 복구부를 포함한다.

영상을 전송하는 통신 시스템의 앤드단에서 전송시간 동안 발생한 영상의 에러를 복원하여 고품질을 가지는 영상 서비스를 제공할 수 있다. 특히 전송망 및 액세스망을 통과하면서 발생된 에러를 효과적으로 복원하여 고품질의 영상을 제공할 수 있다. 특히 실시간으로 영상을 제공하는 IP 미디어 서비스 환경에서 효과적으로 영상에 발생한 전송 에러를 복원할 수 있다.

또한 본 발명의 실시 예에 따른 전송 에러 복원 방법은 실시간 방송 환경에 적용 가능하며, 따라서, IPTV 서비스의 고품질 보장을 위한 정확하고 빠른 복원 측정을 지원할 수 있으며, 그 결과 사용자에게 품질이 보장된 서비스를 제공할 수 있다.

아래에서는 첨부한 도면을 참고로 하여 본 발명의 실시 예에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시 예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유 사한 부분에 대해서는 유사한 도면 부호를 붙였다.

명세서 전체에서, 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다. 또한, 명세서에 기재된 "…부" 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어나 소프트웨어 또는 하드웨어 및 소프트웨어의 결합으로 구현될 수 있다.

이제 첨부한 도면을 참조하여 본 발명의 실시 예에 대하여 설명한다.

본 발명의 실시 예에서는 영상 전송 중에 발생하여 생긴 에러를 복원하는 방법을 제공하며, 구체적으로 수신단에서 디코딩 처리된 영상에서 전송 에러에 의해 손상된 소정 영역을 주변 픽셀들의 값을 이용하여 수신된 영상의 손상된 영역을 복원한다. 이를 위하여 수신되는 영상 프레임을 다수의 블록으로 나누고 각 블록을 다시 세분화하는 다중 해상도(multi-resolution) 처리를 한 다음에 에러가 발생한 영역을 찾고, 각 블록별로 복잡도에 따라 전역 픽셀 정보 및 지역 픽셀 정보 중 하나를 선택하고 이를 토대로 에러 영역을 복구한다.

도 1은 본 발명의 실시 예에 따른 전송 에러 복원 장치의 구조도이다.

첨부한 도 1에 도시되어 있듯이, 본 발명의 실시 예에 따른 전송 에러 복원 장치(100)는 영상의 프레임을 다수의 블록으로 분류하고 각 블록에 대하여 에러가 발생한 영역을 찾는 에러 영역 추출부(10), 각 블록에 대하여 픽셀값들의 표준편차를 구하고 이를 토대로 해당 블록의 복잡도 및 에러 발생 정도(이하, 설명의 편의상 손상 정도라고 명명함)를 판별하는 판별부(20), 각 블록의 복잡도 및 손상 정도 중 적어도 하나에 따라 전역 픽셀 정보 및 지역 픽셀 정보 중 하나를 선택하고 이를 토대로 각 블록에 발생된 에러 영역을 복구하는 에러 복구부(30)를 포함한다.

에러 영역 추출부(10)는 각 블럭별로 에지 픽셀들을 구하는 에지 픽셀 추출부(11), 각 블록의 에지 픽셀들에 대하여 기울기(Gradient) 방향을 구하고 구해진 기울기 방향을 토대로 블록 에지 픽셀을 구하는 블록 에지 측정부(12), 블록 에지 픽셀의 적어도 하나 이상의 주변 픽셀들의 평균 밝기를 산출하고 이를 토대로 가중치를 산출하는 가중치 산출부(13), 산출된 가중치를 블록 에지 픽셀에 부가하여 에러가 발생한 영역으로 정의하는 에러 추출부(14)를 포함한다.

판별부(20)는 에러 영역 추출부(10)에 의하여 찾아진 에러 영역을 포함하는 각각의 블록들에 대하여, 해당 블록을 구성하는 픽셀들의 값을 토대로 표준 편차를 구하는 표준 편차 산출부(21), 산출된 표준 편차를, 복잡도를 판별하기 위하여 설정한 설정값과 비교하여 해당 블록의 복잡도를 판별하는 제1 판별부(22), 그리고 해당 블록의 손상 정도를 판별하는 제2 판별부(23)를 포함한다. 특히 표준 편차 산출부(21)는 소정 블록을 소정값으로 나누어서 다수의 제1 블록을 획득하고, 각각의 제1 블록에 대한 표준 편차를 구한다.

제1 판별부(22)는 소정의 제1 블록에 대하여 산출된 표준 편차를 설정값과 비교한다. 비교 결과, 표준 편차가 설정값보다 큰 경우에는 해당 블록의 텍스쳐(texture)가 제1 복잡도를 가지는 것으로 판단한다. 그리고 표준 편차가 설정값보다 작은 경우에는 해당 블록의 텍스쳐가 제2 복잡도를 가지는 것으로 판단한다. 여기서, 제1 및 제2 복잡도는 제1 복잡도> 제2 복잡도의 관계를 만족하며, 복잡도 의 값이 클수록 해당 블록의 텍스쳐가 복잡한 것을 나타낸다.

또한, 제2 판별부(23)는 표준 편차가 설정값보다 작아서 해당 블록의 텍스쳐가 제2 복잡도를 가지는 것으로 판단된 경우, 해당 블록의 손상 정도를 판별한다. 이를 위하여 소정 블록의 손상 정도를 나타내는 손상 계수를 구하고 구해진 손상 계수를 제1 및 제2 설정 계수와 비교하고 그 결과를 에러 복구부(30)로 전달한다. 여기서 제1 및 제2 설정 계수는 제1 설정 계수 > 제2 설정 계수의 조건을 만족한다.

구체적으로, 제2 판별부(23)는 소정 제1 블록을 소정값으로 나누어 다수의 제2 블록들로 구분하고, 제2 블록을 구성하는 픽셀 중 에러가 발생된 픽셀의 개수를 토대로 손상 계수(이를 POD(pixel of distorted)라고 명명할 수 있음)를 구한다. 그리고 구해진 손상 계수를 제1 및 제2 손상 계수들과 비교한다.

에러 복구부(30)는 각 블록의 복잡도 및 손상 정도에 따라 에러 복구 작업을 수행하며, 이를 위하여 소정 블록이 제1 복잡도를 가지는 경우 전역 픽셀 정보 즉, 해당 영상의 전체 픽셀 정보를 이용하여 에러 영역을 복구하는 제1 복구부(31), 소정 블록이 제2 복잡도를 가지는 경우 해당 블록의 손상 정도에 따라 지역 픽셀 정보를 토대로 에러 복구를 수행하는 제2 내지 제4 복구부(32∼34)를 포함한다.

제2 복구부(32)는 손상 계수가 제1 손상 계수보다 큰 경우에 지역 픽셀 정보 즉, 제1 블록의 전체 픽셀 정보를 토대로 에러 영역을 복구하며, 제3 복구부(33)는 손상 계수가 제1 손상 계수보다 작고 제2 손상 계수보다 큰 경우에 지역 픽셀 정보 즉, 제1 블록을 소정값으로 나눈 영역에 해당하는 제2 블록의 픽셀 정보를 토대로 에러 영역을 복구한다. 그리고 제4 복구부(34)는 손상 계수가 제2 손상 계수보다 작은 경우에는 지역 픽셀 정보 즉, 에러가 발생된 픽셀의 인접 픽셀(NP: neighbor pixels)들의 정보를 토대로 에러 영역을 복구한다.

여기서 에러 영역을 포함하는 소정 블록 즉, 원래의 블록을 손상 영역 블록(damaged image block : DIB)이라고 명명하고, 손상 영역 블록을 제1 소정값으로 나눈 제1 블록을 영상 블록(image block : IB)이라고 명명하며, 영상 블록을 제2 소정값으로 나눈 제2 블록을 픽셀 블록(pixel block : PB)이라고 명명할 수 있다. 또한 위에서 살펴본 바와 같이, 본 발명의 실시 예에서 에러 복구를 위하여 사용되는 전역 픽셀 정보는 전체 영상의 칼라의 평균값으로 구체적으로는 손상 영상을 포함하는 손상 블록을 구성하는 모든 픽셀들의 평균값을 나타낸다. 지역 픽셀 정보는 손상 블록(DB)을 나누어서 획득한 영상 블록(IB)을 구성하는 모든 픽셀들의 평균값인 제1 지역 픽셀 정보, 영상 블록(IB)을 나누어서 획득한 픽셀 블록(PB)을 구성하는 모든 픽셀들의 평균값인 제2 지역 픽셀 정보 그리고, 에러가 발생한 소정 픽셀의 주변 픽셀들의 값인 제3 지역 픽셀 정보를 포함한다.

도 2에 본 발명의 실시 예에 따른 영상을 위에 기술된 블록들로 분류한 경우의 예가 도시되어 있다.

하나의 영상 프레임을 예를 들어 8×8 블록들로 나누어 총 64개의 블록을 획득할 수 있다. 첨부한 도 2에 예시되어 있듯이, 각각의 블록 즉, 임의 손상 영상 블록(DIB)을 2×2 로 나누어 영상 블록(IB)을 획득하고, 영상 블록(IB)을 2×2로 나누어 픽셀 블록(PB)을 획득할 수 있다.

각 복구부(31∼34)의 구체적인 에러 영역 복구 방법에 대해서는 이하에서 구체적으로 설명하기로 한다.

위에 기술된 바와 같은 구조로 이루어지는 전송 에러 복원 장치는 IP 기반으로 영상을 포함하는 IP 미디어 서비스를 제공하는 통신 시스템에 적용될 수 있으며, 특히 통신 시스템에서 전송되는 영상을 수신하는 앤드단에 설치되어 전송 중에 발생한 영상의 에러를 복구하여 원래의 영상을 복원할 수 있다.

도 3은 본 발명의 실시 예에 따른 전송 에러 복원 장치가 적용되는 통신 시스템 환경을 나타낸 예시도이다. 특히 IP 망에서 미디어가 전송되는 초기부터 앤드단의 사용자까지의 전송 경로를 간략하게 개념적으로 나타낸 도이다.

첨부한 도 3에 도시되어 있듯이, IP 미디어 서비스가 제공되는 경우, 영상을 포함하는 IP 미디어 컨텐츠가 MPEG(Moving Picture Experts Group) 인코더(1)를 통하여 부호화 처리되어 VoD(Video on Demand) 서버(2)로 전달되며, VoD 서버(2)는 IP 미디어 컨텐츠를 IP 코어망(3), 액세스망(4)을 통하여 앤드단인 셋탑 박스(set top box)(5)로 전송한다. 셋탑 박스(5)는 수신된 IP 미디어 컨텐츠를 처리하여 이를 연결된 IPTV 등을 통하여 출력한다.

이와 같은 환경에서, IP 미디어 서비스에 따른 영상이 전송되면서 패킷 로스(Packet Loss), 지터(Jitter), 오정렬(Out of order)과 같은 에러 현상이 발생되고, 이러한 에러 현상이 수신단의 영상에 나타나게 된다. 도 4는 이러한 에러들을 포함한 영상을 나타낸 예시도이다.

본 발명의 실시 예에서는 앤드단인 셋탑 박스(5)에 설치되는 전송 에러 복원 장치(100)가 IP 미디어 컨텐츠에 포함된 도 4에 예시된 바와 같은 패킷 로스, 지터, 오정렬 등의 영상 에러를 복구한다.

여기서는 전송 에러 복원 장치가 도 3에 예시된 바와 같이, IP 미디어 서비스가 이루어지는 통신 환경에서 전송 중 영상에 발생한 에러를 복구하여 원래의 영상을 복원하는 것을 설명하나, 본 발명은 이에 한정되지 않는다.

다음에는 본 발명의 실시 예에 따른 전송 에러 복원 방법에 대하여 설명한다.

도 5는 본 발명의 실시 예에 따른 전송 에러 복원 방법의 흐름도이다.

송신단으로부터 인코딩되어 전송되는 영상은 수신단에서 수신되어 디코딩되며, 예를 들어 도 3에서와 같이 IP 미디어 서비스에 따라 전송된 영상은 전송망(IP 코어망), 액세스망을 통하여 앤드단인 셋탑 박스(5)에 수신되어 디코딩 처리된다.

전송 에러 복원 장치의 에러 영역 추출부(10)는 먼저, 디코딩된 영상의 프레임을 다수의 블록들로 나눈다(S100). 구체적으로 영상 프레임을 예를 들어 8×8의 다중 해상도로 나누어 블록화하며, 이에 따라 각 블록에는 전송 에러로 인한 왜곡된 현상이 나누어지면서 포함된다. 전송 에러는 블록 손상 현상을 보유하고 있으며, 일반적인 화질 열화 현상인 블록킹 현상(blocking effect or blockiness)을 포함한다. 블록킹 현상은 인접한 블록들의 경계에서 불연속성이 나타나 화질의 열화를 일으키는 현상이다.

그리고 각 블록들에 대하여 블록킹 현상 즉, 에러가 발생한 에러 영역을 찾는다(S110). 에러 영역을 찾는 구체적인 방법이 도 6에 도시되어 있다.

도 6을 참조하면, 각 블록에 대하여 에러가 발생한 영역을 찾기 위하여, 먼저 임의 블록에서 예를 들어 소벨 마스크(Sobel mask)를 이용하여 에지 픽셀들을 찾는다(S111). 소벨 마스크를 이용하여 에지 픽셀을 찾는 방법은 당업계에 알려진 방법이므로 여기서는 상세한 설명을 생략한다. 물론 이러한 방법이외에 다른 방법을 사용하여 소정 블록의 에지 픽셀들을 찾을 수 있다.

임의 블록의 에지 픽셀들을 찾은 다음에, 에러 영역 추출부(10)는 각 에지 픽셀값들을 수직 및 수평 방향으로 미분하여 밝기의 변화율인 기울기를 산출하고, 산출된 기울기를 토대로 기울기의 방향을 구한다(S112). 그리고 각 에지 픽셀들의 기울기 방향 중에서 설정 방향을 만족하는 에지 픽셀들을 블록 에지 픽셀로 정의한다(S113). 예를 들어, 기울기 방향이 0°, 90°. 180° 및 270°인 경우에, 해당 기울기 방향을 가지는 에지 픽셀들을 블록 에지 픽셀들로 정의한다. 그리고 블록 에지 픽셀들에 대하여 하기와 같이 가중치를 적용한다.

가중치를 적용하는 과정을 구체적으로 설명하면, 우선 임의 블록 에지 픽셀의 주변 픽셀들의 평균 밝기값을 구한다. 예를 들어 블록 에지 픽셀의 상하, 좌우에 각각 위치하는 8개의 전체 주변 픽셀들의 평균 밝기값을 구한다. 그리고 임의 블록 에지 픽셀의 상하 방향(제1 방향이라고 명명될 수 있음)에 위치한 주변 픽셀들의 평균 밝기값과, 좌우 방향(제2 방향이라고 명명될 수 있음)에 위치한 주변 픽셀드의 평균 밝기값을 각각 구하고, 전체 주변 픽셀들의 평균 밝기값과의 차이값을 구한다. 즉, 전체 주변 픽셀들의 평균 밝기값과 상하 방향에 위치한 주변 픽셀들의 평균 밝기값과의 차이인 제1 차이값, 그리고 전체 주변 픽셀들의 평균 밝기값과 좌 우 방향에 위치한 주변 픽셀들의 평균 밝기값과의 차이인 제2 차이값을 구한다. 그리고 구해진 제1 및 제2 차이값 중에서 큰 값을 선택하고 선택한 차이값을 정규화하여 가중치로 사용한다. 예를 들어 선택한 차이값을 255로 정규화하여 가중치로 사용한다(S114). 위에 기술된 과정을 통하여 블록 에지 픽셀들에 대하여 각각 가중치들을 구한 다음에, 에러 영역 추출부(10)는 각 블록 에지 픽셀들에 대하여 가중치를 적용하고 적용된 모든 가중치들을 합하여 에러가 발생한 영역으로 설정한다(S115∼S116). 이러한 에러 영역은 인접한 블록들의 경계에서 불연속성이 나타나 화질의 열화를 일으키는 블록킹 현상으로 정의될 수 있다.

위에 기술된 바와 같이, 블록킹 현상이 발생한 에러 영역을 찾은 다음에, 다시 첨부한 도 5를 참조하여, 에러 영역에 대한 복구가 이루어진다. 특히 각 블록의 텍스쳐의 복잡도에 따라 다른 방법을 사용하여 에러 영역을 복구한다.

이를 위하여, 판별부(20)는 도 5에서와 같이, 손상 영상 블록(DIB)의 각 영상 블록(IB)에 대하여 픽셀값들의 표준 편차를 구한다(S120). 여기서 표준 편차는 하기의 식을 토대로 산출될 수 있다.

[수학식 1]

여기서, σ는 표준 편차를 나타내며, I(x,y)는 임의 픽셀의 값을 나타내며, μ는 임의 블록의 전체 픽셀들의 평균값을 나타낸다. 전체 픽셀들의 평균값 μ는 다음의 식을 토대로 산출될 수 있다.

[수학식 2]

다음 구해진 표준 편차와 설정값을 비교한다(S130).

비교 결과, 표준 편차가 설정값보다 큰 경우에는 해당 블록의 텍스쳐가 제1 복잡도를 가지는 것으로 판단하고 그에 대한 판단 결과를 에러 복구부(30)로 전달한다. 이 경우, 에러 복구부(30)의 제1 복구부(31)는 지역적 정보 대신에 전역 픽셀 정보를 이용하여 에러 영역을 복구한다. 즉, 제1 복구부(31)는 영상 블록(IB)의 복잡도가 큰 것으로 판단되면 해당 영상 블록(IB)이 포함된 손상 블록(DIB)의 전체 픽셀 정보를 이용하여 에러 영역을 복구한다. 구체적으로 해당 손상 블록(DIB)의 전체 픽셀들의 평균값을 구하고, 상기 영상 블록(IB)에 포함되어 있는 에러 영역들의 픽셀들이 상기 구해진 평균값을 가지도록 처리하여, 에러 영역을 복구한다(S140).

한편 비교 결과, 표준 편차가 설정값보다 작은 경우에는 해당 영상 블록(IB)의 텍스쳐가 제2 복잡도를 가지는 것으로 판단하고, 손상 계수(POD)를 구한다(S150). 구체적으로 해당 영상 블록(IB)을 픽셀 블록(PB)들로 나누고(예를 들어 영상 블록(IB)을 2×2로 나누어 픽셀 블록(PB)을 구한다.), 픽셀 블록(PB)의 전체 픽셀 개수와 픽셀 블록(PB)내의 손상된 즉, 에러가 발생된 픽셀들의 개수를 토대로 손상 계수를 구한다. 예를 들어 픽셀 블록(PB) 중에서 에러가 발생한 픽셀들의 개수를 픽셀 블록(PB)의 전체 픽셀 개수로 나누어서 손상 계수(POD)를 구한다. 여기 서 픽셀 블록(PB) 중에서 에러가 발생한 픽셀들은 위에서 구해진 에러 영역을 토대로 찾을 수 있다.

다음 구해진 손상 계수를 제1 및 제2 손상 계수와 비교한다(S160). 손상 계수가 제1 손상 계수보다 큰 경우, 제2 복구부(32)는 제1 지역 픽셀 정보 즉, 해당 영상 블록(IB)의 전체 픽셀들의 평균값을 구하고 이를 토대로 에러 영역을 복구한다(S170).

한편, 손상 계수가 제1 손상 계수보다 작지만 제2 손상 계수보다는 큰 경우, 제3 복구부(33)는 제2 지역 픽셀 정보 즉, 손상 계수를 구한 영상 블록(IB)의 픽셀 블록(PB)의 전체 픽셀들의 평균값을 구하고 이를 토대로 에러 영역을 복구한다(S180).

또한 손상 계수가 제2 손상 계수보다도 작은 경우, 제4 복구부(34)는 제3 지역 픽셀 정보 즉, 에러가 발생한 픽셀들을 인접 픽셀들의 값을 토대로 각각 보상하여 에러 영역을 복구한다. 즉, 인접 픽셀들(NP)의 값을 토대로 양선형 보간법(bilinear interpolation)을 사용하여 에러가 발생된 픽셀을 보상한다. 예를 들어 에러가 발생된 픽셀과 주변픽셀들과의 거리를 구하고 구해진 거리를 토대로 보간하여 에러가 발생된 픽셀을 복구한다(S190).

이러한 실시 예에 따르면, 전송된 영상이 왜곡되었을 경우, 영상내에서 블록킹 현상이 발생한 에러 영역을 정확하게 찾아서 복원할 수 있다. 특히, 에러 영역을 정확하게 복원하기 위하여 영상 프레임을 다수의 블록들로 세분화하고 세분화된 블록들을 다시 세분화하는 다중 해상도 처리를 한 후, 임의 경계값을 비교 분석하 여 블록의 복잡도를 판단하고 비교 분석 후 세분화된 블록들 즉, 손상 블록(DIB), 영상 블록(IB), 픽셀 블록(PB)들을, 전역 픽셀 값과 지역 픽셀 값 그리고 경계 값(주변 픽셀들을 이용한 값)의 적용 분석으로 표준편차 값을 적용하여, 손상된 지역 즉, 에러 영역을 상하좌우로 나누어서 픽셀들의 평균값으로 복원할 수 있다.

따라서, 전송시에 패킷이 손실되어 기존 정보를 잃더라도 앤드단에서 현존하는 픽셀의 정보 즉, 칼라 정보를 이용하여 왜곡된 영상을 원 영상에 가깝게 복원할 수 있다. 이러한 본 발명의 실시 예는 실시간 IPTV 서비스의 다양한 에러에 적용가능하며, 예를 들어, 최대 30fps를 가지며, 해상도는 QCIF(Quater Common Intermediate Format)와 CIF(Common Intermediate Format) 사이즈를 기본으로 하는 모바일 IPTV에 적용이 가능하다.

본 발명의 실시 예는 이상에서 설명한 장치 및/또는 방법을 통해서만 구현이 되는 것은 아니며, 본 발명의 실시예의 구성에 대응하는 기능을 실현하기 위한 프로그램, 그 프로그램이 기록된 기록 매체 등을 통해 구현될 수도 있으며, 이러한 구현은 앞서 설명한 실시예의 기재로부터 본 발명이 속하는 기술분야의 전문가라면 쉽게 구현할 수 있는 것이다.

이상에서 본 발명의 실시 예에 대하여 상세하게 설명하였지만 본 발명의 권리범위는 이에 한정되는 것은 아니고 다음의 청구범위에서 정의하고 있는 본 발명의 기본 개념을 이용한 당업자의 여러 변형 및 개량 형태 또한 본 발명의 권리범위에 속하는 것이다.

도 2는 본 발명의 실시 예에 따른 영상을 다수의 블록으로 분류한 예를 나타낸 도이다.

도 3은 본 발명의 실시 예에 따른 전송 에러 복원 장치가 적용되는 통신 시스템 환경을 나타낸 예시도이다.

도 4는 전송되는 영상에 포함되는 에러들을 나타낸 예시도이다.

도 6은 도 5에 도시된 에러 영역 추출 과정을 나타낸 흐름도이다.

Claims

수신되는 영상에 포함된 전송 에러를 복원하는 방법에서,

상기 수신된 영상의 프레임을 다수의 블록으로 나누고, 각 블록들에 대하여 에러 영역을 찾는 단계;

각 블록들에 대하여, 해당 블록을 구성하는 픽셀들의 정보를 토대로 해당 블록의 텍스쳐의 복잡도를 판별하는 단계; 및

각 블록들에 대하여, 상기 판별된 복잡도에 따라 전역 픽셀 정보 및 지역 픽셀 정보 중 하나를 선택하고 이를 토대로 해당 블록에 포함되어 있는 에러 영역을 복구하는 단계

를 포함하는 영상 에러 복원 방법.
제1항에 있어서

상기 영상 프레임은 다수의 손상 블록들로 나뉘어지고, 각각의 손상 블록들은 영상 블록들로 나뉘어지며, 각각의 영상 블록은 픽셀 블록들로 나뉘어지는, 영상 에러 복원 방법.
제2항에 있어서

상기 판별하는 단계는,

각 영상 블록에 대하여 픽셀값들의 표준 편차를 구하는 단계;

상기 표준 편차와 소정 블록의 텍스쳐(texture)의 복잡도를 판별하기 위하여 설정한 설정값을 비교하는 단계;

상기 표준 편차가 상기 설정값보다 큰 경우에는 해당 블록의 복잡도가 큰 것으로 판별하는 단계; 및

상기 표준 편차가 상기 설정값보다 작은 경우에는 해당 블록의 복잡도가 작은 것으로 판별하는 단계

를 포함하는 영상 에러 복원 방법.
제3항에 있어서

상기 복구하는 단계는,

상기 복잡도가 큰 것으로 판별된 경우, 상기 전역 픽셀 정보--해당 영상 블록이 포함된 손상 블록의 전체 픽셀들의 평균값임--을 토대로, 상기 에러 영역을 복구하는, 영상 에러 복원 방법.
제3항에 있어서

상기 판별하는 단계는,

상기 복잡도가 작은 것으로 판별된 경우, 해당 영상 블록의 픽셀 블록에 포함된 전체 픽셀들의 개수와 상기 픽셀 블록에 포함된 에러가 발생된 픽셀들의 개수를 토대로 손상 계수를 산출하는 단계; 및

상기 손상 계수를 손상 정도를 판별하기 위하여 제1 및 제2 손상 계수와 비 교하는 단계

를 더 포함하는, 영상 에러 복원 방법.
제5항에 있어서

상기 복구하는 단계는

상기 손상 계수가 제1 손상 계수보다 큰 경우, 해당 영상 블록의 전체 픽셀들의 평균값인 제1 지역 픽셀 정보를 토대로 에러 영역을 복구하는 단계;

상기 손상 계수가 제1 손상 계수보다 작고 제2 손상 계수보다는 큰 경우, 해당 영상 블록의 픽셀 블록의 전체 픽셀들의 평균값인 제2 지역 픽셀 정보를 토대로 에러 영역을 복구하는 단계; 및

상기 손상 계수가 제2 손상 계수보다 작은 경우, 에러가 발생한 픽셀들을 인접 픽셀들의 값인 제3 지역 픽셀 정보를 토대로 에러 영역을 복구하는 단계

를 더 포함하는 영상 에러 복원 방법.
제6항에 있어서

상기 제3 지역 픽셀 정보를 토대로 에러 영역을 복구하는 단계는,

상기 인접 픽셀들의 값을 토대로 양선형 보간법(bilinear interpolation)을 사용하여 에러가 발생된 픽셀을 보상하여, 상기 에러 영역을 복구하는, 영상 에러 복원 방법.
제1항에 있어서

상기 에러 영역을 찾는 단계는

소정 블록에서 에지 픽셀들을 찾는 단계;

각 에지 픽셀들에 대하여 기울기를 산출하고, 산출된 기울기를 토대로 기울기의 방향을 구하는 단계;

상기 각 에지 픽셀들의 기울기 방향 중에서 설정 방향을 만족하는 에지 픽셀들을 블록 에지 픽셀로 정의하는 단계;

상기 각 에지 픽셀들에 대한 가중치를 산출하는 단계; 및

산출된 가중치들을 상기 블록 에지 픽셀들에 적용하여 에러 영역을 찾는 단계

를 포함하는, 영상 에러 복원 방법.
제8항에 있어서

상기 가중치를 산출하는 단계는,

임의 블록 에지 픽셀의 주변 픽셀들의 평균 밝기값을 구하는 단계;

상기 블록 에지 픽셀의 제1 방향에 위치한 주변 픽셀들의 평균 밝기값과, 제2 방향에 위치한 주변 픽셀들의 평균 밝기값을 각각 구하는 단계;

상기 전체 주변 픽셀들의 평균 밝기값과 제1 방향에 위치한 주변 픽셀들의 평균 밝기값과의 차이인 제1 차이값, 그리고 전체 주변 픽셀들의 평균 밝기값과 상기 제2 방향에 위치한 주변 픽셀들의 평균 밝기값과의 차이인 제2 차이값을 구하는 단계; 및

상기 제1 및 제2 차이값 중에서 큰 값을 선택하고 선택한 차이값을 정규화하여 가중치를 산출하는 단계

를 포함하는, 영상 에러 복원 방법.
제9항에 있어서

상기 에러 영역을 찾는 단계는,

각 블록 에지 픽셀들에 대하여 가중치를 적용하고 적용된 모든 가중치들을 합하여 에러가 발생한 영역으로 설정하는, 전송 에러 복원 방법.
제1항 내지 제10항 중 어느 한 항에 있어서

상기 전송 에러 복원 방법은 IP 미디어 서비스가 제공되는 통신 환경에서 전송되는 영상에 포함되어 있는 전송 에러를 복구하는, 전송 에러 복원 방법.
IP 미디어 서비스가 이루어지는 통신 환경에서 수신되는 영상에 포함된 전송 에러를 복원하는 장치에서,

상기 영상의 프레임을 다수의 손상 블록들로 나누고, 각각의 손상 블록들은 영상 블록들로 나누며, 각각의 영상 블록은 픽셀 블록들로 나누고, 각 손상 블록들에서 에러가 발생한 영역을 찾는 에러 영역 추출부;

각 손상 블록의 영상 블록들에 대하여 픽셀값들의 표준편차를 구하고 이를 토대로 해당 영상 블록의 복잡도를 판단하는 판별부;

각 영상 블록에 대하여 판별된 복잡도를 토대로, 해당 영상 블록에 포함되어 있는 에러 영역을 전체 픽셀 정보 및 지역 픽셀 정보 중 하나를 선택하고 이를 토대로 각 영상 블록에 포함된 에러 영역을 복구하는 에러 복구부

를 포함하는, 전송 에러 복원 장치.
제12항에 있어서

상기 판별부는

상기 표준 편차를 산출하는 표준 편차 산출부;

상기 표준 편차와 복잡도를 판별하기 위하여 설정한 설정값을 비교하고 그 결과에 따라 해당 영상 블록의 복잡도를 판별하는 제1 판별부; 및

상기 표준 편차가 상기 설정값보다 작은 경우, 해당 영상 블록의 손상 계수를 산출하고, 상기 손상 계수를 제1 및 제2 손상 계수와 비교하여 손상 정도를 판별하는 제2 판별부

를 포함하는, 전송 에러 복원 장치.
제13항에 있어서

상기 손상 계수는

소정 영상 블록의 픽셀 블록에 포함된 에러가 발생된 픽셀들의 개수를 상기 픽셀 블록에 포함된 전체 픽셀들의 개수로 나누어서 산출되는, 전송 에러 복원 장 치.
제13항 또는 제14항에 있어서

상기 에러 복구부는

상기 표준 편차가 상기 설정값보다 큰 것으로 판별된 경우, 상기 전역 픽셀 정보--해당 영상 블록이 포함된 손상 블록의 전체 픽셀들의 평균값임--을 토대로, 상기 에러 영역을 복구하는 제1 복구부;

상기 표준 편차가 상기 설정값보다 작고, 상기 손상 계수가 제1 손상 계수보다 큰 경우, 해당 영상 블록의 전체 픽셀들의 평균값인 지역 픽셀 정보를 토대로 상기 에러 영역을 복구하는 제2 복구부;

상기 표준 편차가 상기 설정값보다 작고, 상기 손상 계수가 제1 손상 계수보다 작고 제2 손상 계수보다는 큰 경우, 해당 영상 블록의 픽셀 블록의 전체 픽셀들의 평균값인 지역 픽셀 정보를 토대로 에러 영역을 복구하는 제3 복구부; 및

상기 표준 편차가 상기 설정값보다 작고, 상기 손상 계수가 제2 손상 계수보다 작은 경우, 에러가 발생한 픽셀들을 인접 픽셀들의 값인 지역 픽셀 정보를 토대로 에러 영역을 복구하는 제4 복구부

를 포함하는, 전송 에러 복원 장치.
제12항 내지 제14항 중 어느 한 항에 있어서

상기 에러 영역 추출부는

각 블럭별로 에지 픽셀들을 구하는 에지 픽셀 추출부;

각 블록의 에지 픽셀들에 대하여 기울기 방향을 구하고 구해진 기울기 방향을 토대로 블록 에지 픽셀을 구하는 블록 에지 측정부;

블록 에지 픽셀의 적어도 하나 이상의 주변 픽셀들의 평균 밝기를 산출하고 이를 토대로 가중치를 산출하는 가중치 산출부; 및

산출된 가중치를 블록 에지 픽셀에 부가하여 에러가 발생한 영역으로 정의하는 에러 추출부

를 포함하는, 전송 에러 복원 장치.