KR100925976B1 - Method for adjusting the video quality of video call using of mobile terminal and thereof mobile terminal - Google Patents
Method for adjusting the video quality of video call using of mobile terminal and thereof mobile terminal Download PDFInfo
- Publication number
- KR100925976B1 KR100925976B1 KR1020070105934A KR20070105934A KR100925976B1 KR 100925976 B1 KR100925976 B1 KR 100925976B1 KR 1020070105934 A KR1020070105934 A KR 1020070105934A KR 20070105934 A KR20070105934 A KR 20070105934A KR 100925976 B1 KR100925976 B1 KR 100925976B1
- Authority
- KR
- South Korea
- Prior art keywords
- image
- region
- interest
- roi
- quality control
- Prior art date
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/136—Segmentation; Edge detection involving thresholding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
- G06T7/248—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
본 발명은 영상 통화 중인 제1 이동통신 단말기와 제2 이동통신 단말기에 각각 디스플레이되는 상대방 영상에서 특정 영역의 화질을 조절하는 방법에 있어서, 제1 이동통신 단말기 사용자 영상이 디스플레이된 제2 이동통신 단말기에서 화질 조절 메뉴가 선택되면, 상기 디스플레이된 제1 이동통신 단말기 사용자 영상에 영상 분할선을 표시하고, 상기 표시된 영상 분할선에 의해 분할된 영상에서 관심 영역에 할당된 키가 선택되면, 상기 선택된 키 정보를 포함하는 화질 조절 요청 메시지를 생성하여 상기 제1 이동통신 단말기에 전송하고, 상기 제1 이동통신 단말기는 촬영된 영상을 상기 메시지에 포함된 영상 분할 정보에 따라 분할하고 상기 분할된 영상에서 상기 키 정보에 해당하는 관심 영역을 결정하고, 상기 결정된 관심 영역에 대하여 비관심 영역과 양자화 계수를 달리하여 화질을 조절하여 상기 제2 이동통신 단말기에 전송하는 것으로서, 영상 통화 중인 이동통신 단말기를 이용하여 출력되는 상대방 영상의 특정 부분을 고화질이 되도록 할 수 있다. The present invention provides a method of controlling the image quality of a specific area in a counterpart image displayed on a first mobile communication terminal and a second mobile communication terminal during a video call, the second mobile communication terminal displaying a user image of the first mobile communication terminal. When the image quality control menu is selected, the image segmentation line is displayed on the displayed first mobile communication terminal user image, and when the key assigned to the ROI is selected from the image divided by the displayed image segmentation line, the selected key Generate and transmit a picture quality control request message including information to the first mobile communication terminal, and the first mobile communication terminal divides the photographed image according to the image segmentation information included in the message, and in the divided image. Determine a region of interest corresponding to the key information, and receive an uninterested interest in the determined region of interest And by changing the quantization coefficient to adjust the image quality as of transmitting to the second mobile communication terminal, a specific part of the other image is output by using the mobile communication terminal in a video call may be such that the image quality.
영상통화, 이동통신단말기, 관심영역, 화질조절 Video call, mobile communication terminal, region of interest, image quality control
Description
본 발명은 영상 통화 중인 이동통신 단말기에 출력되는 상대방 영상의 특정 부분을 고화질이 되도록 하는 이동통신 단말기를 이용한 영상 통화 화질 조절 방법 및 그 단말기에 관한 것이다. The present invention relates to a video call quality control method using a mobile communication terminal to make a specific portion of the other party's image output to the mobile communication terminal during a video call, and the terminal.
영상 통화 기능을 구비하는 이동통신 단말기는 오디오 송수신과 함께 비디오 송수신을 수행하면서, 사용자의 비디오 데이터 즉, 영상 데이터를 송신하고 상대측의 비디오 데이터를 수신하여 디스플레이 하면서 통화를 수행한다.A mobile communication terminal having a video call function performs video call transmission and reception together with audio transmission and reception, transmitting video data of the user, that is, video data, and receiving and displaying video data of the other party.
즉, 영상 통화 서비스를 제공하는 방법을 살펴보면, 발신 단말기로부터 영상 호가 시도되면, 기지국/기지국 제어기를 통해 교환기로 호 시도 메시지가 전송되며, 교환기는 홈 위치 등록기를 통해 착신 단말기로의 라우팅 정보를 획득하여 착신측 교환기를 통해 착신 단말기와 세션 설정을 수행한다.That is, when a video call is attempted from an originating terminal, a call attempt message is transmitted to the exchange through the base station / base station controller, and the exchange acquires routing information to the called terminal through the home location register. Session with the called terminal through the called exchange.
이러한 과정에 따라 발신 단말기와 착신 단말기는 음성 및 영상 송수신을 통해 서로 상대방의 영상을 보면서 영상 통화를 수행할 수 있게 된다. According to this process, the calling terminal and the called terminal can perform a video call while watching each other's video through voice and video transmission and reception.
영상 통화를 함에 있어서, 서로 다른 단말기 성능과 네트워크 상황으로 인하여 영상 통화중인 이동통신 단말기가 동일한 인코딩 방식을 사용하여 압축한 후, 전송하는 것은 효율이 떨어진다.In making a video call, due to different terminal capabilities and network conditions, it is inefficient to transmit a mobile communication terminal in a video call after compressing using the same encoding scheme.
또한, 이동통신 단말기의 인코딩 및 디코딩 성능을 고려하지 않고 단일한 통신 속도에 맞게 비디오를 인코딩한다면 사용할 수 있는 자원을 최대한 활용하지 못하게 된다. In addition, if video is encoded at a single communication speed without considering the encoding and decoding performance of the mobile communication terminal, it is impossible to make the most of available resources.
이러한 문제를 극복하기 위해서 여러가지 최적화 방법이 제안되었지만, 이는 대부분 서버 인코딩을 중심으로 설계되어 있으며 영상 통화와 같은 일시적인 스트리밍 영상을 전송하는데는 최적의 성능을 내기 힘들다.In order to overcome this problem, various optimization methods have been proposed, but most of them are designed around server encoding, and it is difficult to achieve optimal performance for transmitting temporary streaming video such as a video call.
또한, 실시간 영상 통화 구현시 상대적으로 프로세싱 능력이 떨어지는 단말에서는 복잡도가 높은 인코더를 사용할 수 없고, 복잡도가 높아지면, 계산 시간과 단말 파워의 소모가 커서 상대적으로 화질이 원하는 만큼 나오지 않고 사용할 수 없는 네트워크 자원도 충분하지 않아 사용자가 화질을 만족하기가 어려운 단점이 있다. In addition, when a real-time video call is implemented, a terminal having a relatively low processing power cannot use an encoder with high complexity, and when the complexity increases, the computation time and terminal power are consumed so that the image quality does not come out as desired and the network cannot be used. There is a disadvantage that it is difficult for the user to satisfy the picture quality because of insufficient resources.
따라서, 본 발명의 목적은 영상 통화 중인 이동통신 단말기에 출력되는 상대방 영상의 특정 부분을 고화질이 되도록 하는 이동통신 단말기를 이용한 영상 통화 화질 조절 방법 및 그 단말기를 제공하는데 있다. Accordingly, an object of the present invention is to provide a video call quality control method using a mobile communication terminal and a terminal for making a specific portion of the counterpart image output to a mobile communication terminal in a video call high quality.
본 발명의 다른 목적은 영상 통화중인 이동통신 단말기에서 고화질로 보고 싶은 영역을 선택하면 상대방 단말기에 그 영역 정보가 전송되어, 상기 상대방 단말기가 상기 선택된 영역의 영상을 고화질이 되도록 하는 영상 통화 화질 조절 방법 및 그 단말기를 제공하는데 있다. Another object of the present invention is to select a region to be viewed in high-definition in the mobile communication terminal in the video call, the area information is transmitted to the counterpart terminal, the video call quality control method for the other terminal to make the image of the selected area in high quality And to provide the terminal.
본 발명의 또 다른 목적은 정해진 자원의 한계내에서 별도의 인코딩 시간의 소모없이 수신하는 입장에서 최적의 화질을 얻을 수 있는 영상 통화 화질 조절 방법 및 그 단말기를 제공하는데 있다. It is still another object of the present invention to provide a video call quality control method and a terminal capable of obtaining an optimum picture quality from the standpoint of receiving a separate encoding time without consuming a limited resource.
본 발명의 또 다른 목적은 영상 통화중일때, 수신자가 관심영역을 선택하고, 그 관심영역에 비트 할당을 더하여 수신자의 만족도를 높일 수 있는 영상 통화 화질 조절 방법 및 그 단말기를 제공하는데 있다. It is still another object of the present invention to provide a video call quality control method and a terminal capable of increasing a receiver's satisfaction by selecting a region of interest and adding a bit allocation to the region of interest during a video call.
상기 목적들을 달성하기 위하여 본 발명의 일 측면에 따르면, 영상 통화 중인 제1 이동통신 단말기와 제2 이동통신 단말기에 각각 디스플레이되는 상대방 영상에서 특정 영역의 화질을 조절하는 방법에 있어서, 제1 이동통신 단말기 사용자 영상이 디스플레이된 제2 이동통신 단말기에서 화질 조절 메뉴가 선택되면, 상기 디스플레이된 제1 이동통신 단말기 사용자 영상에 영상 분할선을 표시하는 단계, 상기 제2 이동통신 단말기에서 상기 표시된 영상 분할선에 의해 분할된 영상에서 관심 영역에 할당된 키가 선택되면, 상기 선택된 키 정보를 포함하는 화질 조절 요청 메시지를 생성하여 상기 제1 이동통신 단말기에 전송하는 단계, 상기 제1 이동통신 단말기에서 화질 조절 요청 메시지가 수신되면, 촬영된 영상을 상기 메시지에 포함된 영상 분할 정보에 따라 분할하고 상기 분할된 영상에서 상기 키 정보에 해당하는 관심 영역을 결정하는 단계 및 상기 제1 이동통신 단말기에서 상기 결정된 관심 영역에 대하여 비관심 영역과 양자화 계수를 달리하여 화질을 조절하여 상기 제2 이동통신 단말기에 전송하는 단계를 포함하는 것을 특징으로 하는 이동통신 단말기를 이용한 영상 통화 화질 조절 방법이 제공된다. According to an aspect of the present invention to achieve the above object, in the method for adjusting the image quality of a specific area in the counterpart image displayed on the first mobile communication terminal and the second mobile communication terminal during the video call, the first mobile communication If an image quality control menu is selected in the second mobile communication terminal on which the terminal user image is displayed, displaying an image segmentation line on the displayed first mobile communication terminal user image, and displaying the displayed video segmentation line in the second mobile communication terminal. If a key assigned to the region of interest is selected from the image divided by, generating a quality control request message including the selected key information and transmitting the generated image quality request message to the first mobile communication terminal, and adjusting the image quality in the first mobile communication terminal. When the request message is received, the image segmentation information included in the captured image to the message Determining the region of interest corresponding to the key information in the divided image, and adjusting the image quality by changing an uninterested region and a quantization coefficient with respect to the determined region of interest in the first mobile communication terminal. Provided are a video call quality control method using a mobile communication terminal, the method comprising transmitting to a mobile communication terminal.
상기 영상 분할선은 상기 제1 이동통신 단말기 사용자 영상에 반투명 형태로 표시되고, 상기 제1 이동통신 단말기 사용자 영상을 분할하는 것으로, 사용자에 의해 설정 또는 디폴트로 설정된 개수로 나누어지고, 상기 영상 분할선에 의해 나누어진 영역은 키와 맵핑되어 있다. The image segmentation line is displayed in a semi-transparent form on the first mobile communication terminal user image, and divides the first mobile communication terminal user image, and is divided into a number set or set by default by the user. The area divided by is mapped to a key.
상기 화질 조절 요청 메시지는 제2 이동통신 단말기 식별정보, 키 정보, 영상 분할 정보를 포함한다. The image quality control request message includes second mobile communication terminal identification information, key information, and image segmentation information.
본 발명의 다른 측면에 따르면, 영상 통화 중인 이동통신 단말기를 이용하여 관심 영역의 화질을 조절하는 방법에 있어서, (a)상대방 단말기로부터 키 정보 및 영상 분할 정보가 포함된 화질 조절 요청 메시지가 수신되면, 촬영된 영상을 상기 영상 분할 정보에 따라 분할하고 상기 분할된 영상에서 상기 키 정보에 해당하는 관심 영역을 결정하는 단계, (b)상기 결정된 관심 영역에 대하여 비관심 영역과 양자화 계수를 달리하여 화질을 조절한 후 상기 상대방 단말기에 전송하고, 촬영된 영상에 대해 관심 영역의 이동이 감지되는지를 판단하는 단계, (c)상기 (b)단계의 판단결과 관심 영역의 이동이 감지되면, 상기 관심 영역의 이동에 의한 모션 벡터를 예측하고, 상기 예측된 모션 벡터 값을 합하여 상기 관심 영역이 미리 정해진 임계치 이상 변화되었는지를 판단하는 단계 및 (d)상기 (c)단계의 판단결과 상기 관심 영역이 미리 정해진 임계치 이상 변화되지 않았으면, 상기 예측된 모션 벡터값에 따른 이동 정보를 기준으로 관심 영역을 결정한 후, 상기 (b)단계를 수행하는 단계를 포함하는 것을 특징으로 하는 이동통신 단말기를 이용한 영상 통화 화질 조절 방법이 제공된다.According to another aspect of the present invention, in the method for adjusting the image quality of the ROI using a mobile communication terminal in a video call, (a) receiving a quality control request message including key information and image segmentation information from a counterpart terminal; And dividing the photographed image according to the image segmentation information, and determining a region of interest corresponding to the key information in the segmented image. (B) by changing the uninterested region and the quantization coefficient with respect to the determined region of interest After controlling the transmission to the counterpart terminal, and determining whether the movement of the region of interest is detected with respect to the captured image, (c) If the movement of the region of interest is detected as a result of the determination of step (b), the region of interest Predicts a motion vector due to the movement of, and adds the predicted motion vector values to change the ROI over a predetermined threshold. And determining the region of interest based on the movement information according to the predicted motion vector value if the region of interest has not changed more than a predetermined threshold as a result of the determination of (d) and (d). Provided is a method for controlling video call quality using a mobile communication terminal, comprising performing step b).
상기 (c)단계의 판단결과 상기 관심 영역이 미리 정해진 임계치 이상 변화되었으면, 상기 촬영된 영상을 인코딩하여 상기 상대방 단말기에 전송하는 단계를 더 포함한다. The method may further include encoding and transmitting the captured image to the counterpart terminal when the region of interest has changed by more than a predetermined threshold as a result of the determination of step (c).
상기 (c) 단계는, 상기 결정된 관심 영역에 대하여 이전 프레임의 관심 영역과 비교하여 이동이 감지되면, 상기 관심 영역의 이동에 의한 모션 벡터를 예측하는 단계, 한 프레임에 대해서 각 매크로 블럭단위로 예측된 모션 벡터 값을 합하여 상기 관심 영역이 미리 정해진 임계치 이상 변화되었는지를 판단하는 단계를 포함한다. In step (c), when the movement is detected in comparison with the region of interest of the previous frame with respect to the determined region of interest, predicting a motion vector due to the movement of the region of interest, predicting each frame in units of macroblocks. And determining whether the ROI has changed by more than a predetermined threshold by adding the calculated motion vector values.
본 발명의 또 다른 측면에 따르면, 영상 통화 중인 이동통신 단말기를 이용 하여 관심 영역의 화질을 조절하는 방법에 있어서, (a)영상 통화 중 상대방 영상에서의 관심 영역에 대한 키 정보 및 영상 분할 정보를 포함하는 화질 조절 정보가 입력되면, 상기 화질 조절 정보를 저장하는 단계, (b)상대방 단말기로부터 전송된 상대방 영상에 대해 상기 저장된 화질 조절 정보에 따라 상기 키 정보와 맵핑된 관심 영역을 결정하는 단계, (c)상기 결정된 관심 영역을 이전 프레임의 관심 영역과 비교하여 이동되었는지를 판단하는 단계, (d)상기 (c)단계의 판단결과 관심 영역의 이동이 감지되면, 상기 관심 영역의 이동에 의한 모션 벡터를 예측하고, 상기 예측된 모션 벡터 값을 합하여 상기 관심 영역이 미리 정해진 임계치 이상 변화되었는지를 판단하는 단계, (e)상기 (d)단계의 판단결과 상기 관심 영역이 미리 정해진 임계치 이상 변화되었으면, 상기 상대방 영상에 영상 분할선을 표시하여, 관심 영역 재설정이 요청되는지를 판단하는 단계, (f)상기 (e)단계의 판단결과 관심 영역 재설정이 요청되지 않으면, 상기 표시된 영상 분할선이 삭제된 상대방 영상을 디스플레이하는 단계를 포함하는 것을 특징으로 하는 이동통신 단말기를 이용한 영상 통화 화질 조절 방법이 제공된다. According to another aspect of the present invention, a method for adjusting the image quality of a region of interest using a mobile communication terminal in a video call, the method comprising the steps of: When the image quality control information is input, storing the image quality control information, (b) determining a region of interest mapped to the key information according to the stored image quality control information with respect to a counterpart image transmitted from a counterpart terminal; (c) determining whether the determined ROI is moved by comparing with the ROI of the previous frame, and (d) if the movement of the ROI is detected as a result of the determination of step (c), motion by movement of the ROI Predicting a vector and adding the predicted motion vector values to determine whether the region of interest has changed by more than a predetermined threshold, (e) If the region of interest has changed by more than a predetermined threshold as a result of step (d), determining whether to reset the region of interest by displaying an image segmentation line on the counterpart image, and (f) If it is determined that the ROI is not requested, the method of controlling a video call quality using a mobile communication terminal is provided.
상기 화질 조절 정보는 키 정보, 영상 분할 정보, 화질 조절 비율 정보를 포함한다. The image quality control information includes key information, image segmentation information, and image quality control ratio information.
상기 (a)단계는, 영상 통화 중 화질 조절 메뉴가 선택되면, 디스플레이된 상대방 영상에 영상 분할선을 표시하는 단계, 상기 표시된 영상 분할선에 의해 분할된 영상에서 관심 영역에 할당된 키가 선택되면, 상기 선택된 키 정보 및 영상 분할 정보를 포함하는 화질 조절 정보를 입력받아 저장하는 단계를 포함한다. In the step (a), when the image quality control menu is selected during a video call, displaying a video segmentation line on the displayed counterpart image; when a key assigned to the region of interest is selected in the image divided by the displayed video segmentation line And receiving and storing image quality control information including the selected key information and image segmentation information.
상기 (d)단계는, 상기 결정된 관심 영역에 대하여 이전 프레임의 관심 영역과 비교하여 이동이 감지되면, 상기 관심 영역의 이동에 의한 모션 벡터를 예측하는 단계, 한 프레임에 대해서 각 매크로 블럭단위로 예측된 모션 벡터 값을 합하여 상기 관심 영역이 미리 정해진 임계치 이상 변화되었는지를 판단하는 단계를 포함한다. In step (d), when the movement is detected in comparison with the region of interest of the previous frame with respect to the determined region of interest, predicting a motion vector due to the movement of the region of interest, predicting each frame in units of macroblocks. And determining whether the ROI has changed by more than a predetermined threshold by adding the calculated motion vector values.
상기 (c)단계의 판단결과 관심 영역의 이동이 감지되지 않으면, 상기 관심 영역의 화질을 조절하여 디스플레이하는 단계를 포함한다. If the movement of the region of interest is not detected as a result of step (c), adjusting and displaying the image quality of the region of interest.
상기 (d)단계의 판단결과 상기 관심 영역이 미리 정해진 임계치 이상 변화되지 않았으면, 상기 예측된 모션 벡터값에 따른 이동 정보를 기준으로 관심 영역을 결정하고, 상기 결정된 관심 영역의 화질을 조절하여 디스플레이 하는 단계를 포함한다. If the region of interest does not change more than a predetermined threshold as a result of the determination in step (d), the region of interest is determined based on the movement information according to the predicted motion vector value, and the image quality of the region of interest is adjusted and displayed. It includes a step.
상기 (e)단계의 판단결과 관심 영역 재설정이 요청되면, 상기 (a)단계를 수행하는 단계를 포함한다. If it is determined in step (e) that the ROI is requested, the method includes performing step (a).
본 발명의 또 다른 측면에 따르면, 무선 송수신부, 입력부, 표시부 및 촬영부가 구비되어 영상 통화중인 상대방 단말기로부터 전송된 상대방 영상에서 관심 영역의 화질을 조절하는 이동통신 단말기에 있어서, 상기 상대방 단말기로부터 전송된 상대방 영상에서 관심 영역이 선택되면, 상기 선택된 관심 영역에 할당된 키 정보를 포함하는 화질 조절 정보를 저장 또는 상기 관심 영역에 대한 화질 조절 요청 메시지를 생성하는 관심 영역 설정 모듈, 상기 상대방 단말기 또는 상기 관심 영역 설정 모듈로부터 화질 조절 요청 메시지가 수신되면, 상기 수신된 메시지에 포함된 키 정보에 해당하는 관심 영역을 결정하고, 상기 결정된 관심 영역에 대한 화질을 조절하는 관심 영역 화질 조절 모듈을 포함하는 것을 특징으로 하는 영상 통화 화질 조절을 위한 이동통신 단말기가 제공된다. According to another aspect of the present invention, in the mobile communication terminal for controlling the quality of the region of interest in the other party image transmitted from the other terminal in the video call is provided with a wireless transceiver, input unit, display unit and the photographing unit, the transmission from the other party terminal A region of interest setting module for storing image quality control information including key information assigned to the selected region of interest or generating a quality control request message for the region of interest when the region of interest is selected from the other party's image; When the image quality control request message is received from the region of interest setting module, the region of interest corresponding to the key information included in the received message is determined, and includes a region of interest quality control module for adjusting the image quality of the determined region of interest. For video call quality control The same communication terminal is provided.
상기 관심 영역 설정 모듈은 화질 조절 메뉴가 선택되면, 상기 표시부에 디스플레이된 상대방 영상을 하나 이상의 영역으로 분할하는 반투명의 영상 분할선을 생성하여 상기 발신자 영상과 믹싱시켜 표시되도록 하는 영상 분할선 생성부, 상기 영상 분할선 생성부에 의해 표시된 영상 분할선에 의해 분할된 영상에서 관심 영역에 할당된 키가 선택되면, 상기 선택된 키 정보를 포함하는 화질 조절 정보를 저장하는 관심 영역 설정부, 상기 관심 영역 설정부로부터 화질 조절 정보가 수신되면, 상기 화질 조절 정보를 포함하는 화질 조절 요청 메시지를 생성하여 상대방 단말기에 전송하는 화질 조절 요청 메시지 생성부를 포함한다. When the image quality adjustment menu is selected, the ROI setting module generates a semi-transparent image segmentation line dividing the counterpart image displayed on the display into one or more regions, and mixes the image with the caller image to display the image segmentation line generation unit. A region of interest setter configured to store image quality control information including the selected key information when a key allocated to the region of interest is selected from the image divided by the image segmentation line displayed by the image segmentation line generator, the region of interest setting When the image quality control information is received from the unit, the image quality control request message including the image quality control information is generated and transmitted to the counterpart terminal.
상기 영상 분할선에 의해 분리된 각 영역은 상기 입력부의 임의의 키와 각각 맵핑되어 있다. Each region separated by the image segmentation line is mapped to an arbitrary key of the input unit, respectively.
상기 관심 영역 설정부는 관심 영역에 대한 화질 조절이 '상대방 단말기에서 설정'으로 되어 있으면, 상기 화질 조절 요청 메시지 생성부에 화질 조절 정보를 전송하고, 관심 영역에 대한 화질 조절이 '자신의 단말기에서 설정'으로 되어 있으면, 이후 상대방 단말기로부터 전송되는 영상에서 상기 선택된 관심 영역의 화질을 조절하도록 상기 관심 영역 화질 조절 모듈에 화질 조절 요청 메시지를 전송한다. The ROI setting unit transmits the image quality control information to the image quality control request message generation unit when the image quality control of the ROI is set to 'the other terminal', and the image quality control of the ROI is set on the own terminal. ', The image quality control request message is transmitted to the region of interest quality control module so as to adjust the image quality of the selected region of interest in the image transmitted from the other terminal.
상기 관심 영역 화질 조절 모듈은 상기 상대방 단말기 또는 관심 영역 설정 모듈로부터 화질 조절 요청 메시지가 수신되면, 상기 메시지에 포함된 영상 분할 정보에 따라 상대방 영상을 분할하고, 상기 분할된 영상에서 해당 키 정보와 맵핑된 영역을 관심 영역으로 결정하는 관심 영역 결정부, 상기 관심 영역 결정부에서 결정된 관심 영역과 비관심 영역에 대한 양자화 계수를 서로 달리하여 상기 관심 영역에 대한 화질을 조절하는 화질 조절부를 포함한다. When the image quality control request message is received from the counterpart terminal or the region of interest setting module, the ROI segmentation module divides the other party's image according to the video segmentation information included in the message and maps the corresponding key information to the corresponding key information. And a region of interest determiner configured to determine the region of interest as a region of interest, and an image quality controller configured to adjust an image quality of the region of interest by different quantization coefficients of the region of interest and the uninterested region determined by the region of interest determiner.
상기 관심 영역 화질 조절 모듈은 상기 관심 영역 결정부에서 결정된 관심 영역을 이전 프레임의 관심 영역과 비교하여 관심 영역이 이동되었으면, 모션 벡터 예측 요청 메시지를 생성하는 관심 영역 이동 감지부, 상기 관심 영역 이동 감지부로부터 모션 벡터 예측 요청 메시지가 수신되면, 상기 관심 영역의 이동에 의한 모션 벡터를 예측하고, 한 프레임에 대해서 각 매크로 블럭단위로 예측된 모션 벡터 값을 합하여 상기 관심 영역이 미리 정해진 임계치 이상 변화되었는지를 판단하고, 상기 판단결과 상기 관심 영역이 미리 정해진 임계치 이상 변화되었으면, 상기 영상 분할선 생성부에 영상 분할선 생성 요청 메시지를 전송하는 모션 벡터 예측부를 더 포함한다. The ROI image quality adjusting module is configured to generate a motion vector prediction request message when the ROI is moved by comparing the ROI determined by the ROI with the ROI of a previous frame, and detects the ROI movement. When the motion vector prediction request message is received from the unit, the motion vector predicted by the movement of the region of interest is added, and if the region of interest changes by more than a predetermined threshold by adding the predicted motion vector value in each macro block unit for one frame. The controller may further include a motion vector predictor configured to transmit an image segmentation line generation request message to the image segmentation line generator when the region of interest has changed by more than a predetermined threshold.
상기 모션 벡터 예측부는 상기 모션 벡터값이 임계값 이상 변화되지 않았으면, 상기 모션 벡터값에 따른 이동정보를 상기 관심 영역 결정부에 전송하여 이동 정보를 기준으로 관심 영역이 결정되도록 한다. If the motion vector value does not change by more than a threshold value, the motion vector predictor transmits motion information according to the motion vector value to the ROI determiner so that the ROI is determined based on the motion information.
따라서, 본 발명은 영상 통화 중인 이동통신 단말기를 이용하여 출력되는 상대방 영상의 특정 부분을 고화질이 되도록 할 수 있는 영상 통화 화질 조절 방법 및 그 단말기를 제공할 수 있다. Accordingly, the present invention can provide a video call quality control method and a terminal capable of making a specific portion of the counterpart image outputted by using a mobile communication terminal in a video call in high quality.
또한, 영상 통화중인 이동통신 단말기에서 고화질로 보고 싶은 영역을 선택하면 상대방 단말기에 그 영역 정보가 전송되어, 상기 상대방 단말기가 상기 선택된 영역의 영상을 고화질이 되도록 하므로 별도의 장치가 필요하지 않는 영상 통화 화질 조절 방법 및 그 단말기를 제공할 수 있다. In addition, when a mobile communication terminal in a video call selects an area to be viewed in high quality, the area information is transmitted to the other terminal, and the other terminal makes the video of the selected area high quality, so that a separate device is not required. An image quality adjusting method and a terminal thereof can be provided.
또한, 이동통신 단말기를 이용하여 관심 영역의 화질을 조절할 수 있으므로, 정해진 자원의 한계내에서 별도의 인코딩 시간의 소모없이 수신하는 입장에서 최적의 화질을 얻을 수 있는 영상 통화 화질 조절 방법 및 그 단말기를 제공할 수 있다. In addition, since the image quality of the region of interest can be adjusted using a mobile communication terminal, a video call image quality adjusting method and a terminal capable of obtaining an optimal image quality from the standpoint of receiving without using a separate encoding time within a limited resource limit are provided. Can provide.
또한, 영상 통화중일때, 수신자가 관심영역을 선택하고, 그 관심영역에 비트 할당을 더하여 수신자의 만족도를 높일 수 있는 영상 통화 화질 조절 방법 및 그 단말기를 제공할 수 있다. In addition, when the video call is in progress, the receiver selects a region of interest and adds a bit allocation to the region of interest, thereby providing a video call quality control method and a terminal for improving the receiver's satisfaction.
본 발명의 전술한 목적과 기술적 구성 및 그에 따른 작용 효과에 관한 자세한 사항은 본 발명의 명세서에 첨부된 도면에 의거한 이하 상세한 설명에 의해 보다 명확하게 이해될 것이다.Details of the above-described objects and technical configurations of the present invention and the effects thereof according to the present invention will be more clearly understood by the following detailed description based on the accompanying drawings.
도 1은 본 발명에 따른 영상 통화 중 이동통신 단말기를 이용한 화질 조절 시스템을 나타낸 도면, 도 2는 본 발명에 따른 상대방 영상의 특정 영역 화질 조절을 위한 이동통신 단말기의 구성을 개략적으로 나타낸 블럭도, 도 3은 도 2에 도시 된 관심 영역 설정 모듈의 구성을 나타낸 블럭도, 도 4는 도 2에 도시된 관심 영역 화질 조절 모듈의 구성을 나타낸 블럭도, 도 5는 본 발명에 따른 상대방 영상과 영상 분할선이 표시된 화면 예시도이다.1 is a view showing a quality control system using a mobile communication terminal during a video call according to the present invention, Figure 2 is a block diagram schematically showing the configuration of a mobile communication terminal for controlling the image quality of a specific area of the other party's image according to the present invention, FIG. 3 is a block diagram showing the configuration of the ROI setting module shown in FIG. 2, FIG. 4 is a block diagram showing the configuration of the ROI quality adjusting module shown in FIG. 2, and FIG. 5 is a counterpart image and an image according to the present invention. An example of a screen on which division lines are displayed.
도 1을 참조하면, 영상 통화 중 이동통신 단말기를 이용한 화질 조절 시스템은 이동통신 단말기(100a, 100b)와의 무선 구간 신호 송수신을 위한 기지국(110a, 110b), 영상 호 경로를 제공하는 교환기(120a, 120b), 가입자 위치 정보 및 부가 서비스 정보를 관리하는 홈 위치 등록기(130)를 포함한다.Referring to FIG. 1, the image quality control system using a mobile communication terminal during a video call includes a
이하에서는 착신 단말기 사용자가 발신자 영상에서 고화질로 보고자 하는 관심 영역을 선택한 경우를 예로 들어 설명하기로 한다. Hereinafter, a case in which the called terminal user selects an ROI to be viewed in high quality in the caller image will be described as an example.
상기 착신 단말기(100b)는 영상 통화중 디스플레이되는 발신자 영상에서 고화질을 원하는 관심 영역이 선택되면, 상기 선택된 관심 영역 정보를 포함하는 화질 조절 요청 메시지를 상기 발신 단말기(100a)에 전송한다.When the ROI is desired in the caller image displayed during the video call, the called
상기 발신 단말기(100a)는 상기 착신 단말기(100b)로부터 화질 조절 요청 메시지가 수신되면, 촬영된 영상에서 관심 영역을 확인하고, 상기 확인된 관심 영역에 해당하는 영상의 화질을 조절한다.When the
또한, 상기 착신 단말기(100b)는 영상 통화중 디스플레이되는 발신자 영상에서 고화질을 원하는 관심 영역이 선택되면, 상기 선택된 관심 영역에 대한 화질 조절 정보를 저장한다. 그러면, 상기 착신 단말기(100b)는 이후 수신되는 발신자 영상에 대해 상기 설정된 관심 영역의 화질을 조절하여 디스플레이시킨다.In addition, when a region of interest is desired in the caller image displayed during the video call, the called terminal 100b stores image quality control information for the selected region of interest. Then, the called terminal 100b adjusts and displays the image quality of the set ROI with respect to a caller image received thereafter.
상기와 같은 역할을 수행하는 이동통신 단말기에 대한 상세한 설명은 도 2를 참조하기로 한다.A detailed description of the mobile communication terminal performing the above role will be given with reference to FIG. 2.
도 2를 참조하면, 상대방 영상의 특정 영역 화질 조절을 위한 이동통신 단말기는 기지국과의 무선 신호 송수신을 위한 무선 송수신부(200), 사용자 명령을 입력 받는 입력부(210), 각종 데이터를 저장하는 저장부(220), 상기 입력부(210)에서 발생되는 키 데이터 및 각종 정보 신호를 입력 받아 표시하는 표시부(230), 음성신호를 출력하는 오디오부(240), 영상 통화 시 사용자 얼굴 영상 촬영을 위한 촬영부(250), 영상 통화를 위한 영상 호 처리 모듈(260), 관심 영역의 설정을 위한 관심 영역 설정 모듈(270), 선택된 관심 영역에 대한 화질을 조절하는 관심 영역 화질 조절 모듈(280)을 포함한다.Referring to FIG. 2, a mobile communication terminal for controlling a specific area image quality of a counterpart image includes a
상기 영상 호 처리 모듈(260)는 영상 통화 상대방 단말기와 영상 호 경로를 셋업하고, 음성과 영상을 포함하는 영상 통화 트래픽을 송수신하는 역할을 수행한다.The video
상기 관심 영역 설정 모듈(270)은 영상 통화중인 상대방 단말기로부터 전송된 상대방 영상에서 더 좋은 화질을 원하는 관심 영역이 선택되면, 상기 선택된 관심 영역에 대한 화질 조절 요청 메시지를 상기 상대방 단말기에 전송하는 역할을 수행한다.The
또한, 상기 관심 영역 설정 모듈(270)은 영상 통화 중인 상대방 단말기로부터 전송된 상대방 영상에서 더 좋은 화질을 원하는 관심 영역이 선택되면, 상기 선택된 관심 영역 정보를 포함하는 화질 조절 정보를 저장하여 이후에 수신되는 상대방 영상에 대해 상기 화질 조절 정보에 따라 해당 관심 영역의 화질이 조절되도록 한다.The
상기와 같은 역할을 수행하는 관심 영역 설정 모듈(270)에 대하여 도 3을 참조하면, 관심 영역 설정 모듈(270)은 영상 분할선 생성부(272), 관심 영역 설정부(274), 화질 조절 요청 메시지 생성부(276)를 포함한다.Referring to FIG. 3, the
상기 영상 분할선 생성부(272)는 사용자에 의해 화질 조절 메뉴가 선택되면, 상기 표시부(230)에 디스플레이된 상대방 영상을 하나 이상의 영역으로 분할하는 반투명의 영상 분할선을 생성하여 상기 상대방 영상과 믹싱시켜 도 5와 같이 출력되도록 한다.When the image quality adjustment menu is selected by the user, the image
도 5를 참조하면, 상대방 영상을 5개의 영역으로 분할하는 영상 분할선이 표시되어 있다. 상기 영상 분할선의 개수는 사용자에 의해 미리 설정된 개수 또는 디폴트로 설정된 개수일 수 있다. 그리고, 상기 영상 분할선에 의해 분리된 각 영역은 상기 입력부(210)의 임의의 키와 각각 맵핑되어 있다.Referring to FIG. 5, an image segmentation line for dividing a counterpart image into five regions is displayed. The number of image split lines may be a number preset by a user or a number set by default. Each region separated by the image segmentation line is mapped to an arbitrary key of the
상기 화질 조절 메뉴는 상기 입력부(210)에 의해 선택된 것으로서, 메뉴를 이용 또는 미리 할당된 단축키를 이용하여 입력할 수 있다.The image quality control menu is selected by the
상기 관심 영역 설정부(274)는 상기 영상 분할선 생성부(272)에 의해 생성된 영상 분할선에 의해 하나 이상의 영역으로 분할된 상대방 영상에서 사용자에 의해 관심 영역이 선택되면, 상기 선택된 관심 영역 정보를 저장한다. The
상기 영상 분할선에 의해 분리된 각 영역은 상기 입력부(210)의 키와 맵핑되어 있으므로, 상기 사용자는 해당 영역과 맵핑된 키를 선택하여 원하는 관심 영역을 선택할 수 있다.Each area separated by the image dividing line is mapped to a key of the
상기 관심 영역 설정부(274)는 관심 영역에 대한 화질 조절이 '상대방 단말기에서 설정'으로 되어 있으면, 상기 화질 조절 요청 메시지 생성부(276)에 화질 조절 정보를 전송한다.The
또한, 상기 관심 영역 설정부(274)는 관심 영역에 대한 화질 조절이 '자신의 단말기에서 설정'으로 되어 있으면, 이후 상대방 단말기로부터 전송되는 영상에서 상기 선택된 관심 영역의 화질을 조절하도록 상기 관심 영역 화질 조절 모듈(280)에 화질 조절 요청 메시지를 전송한다.In addition, when the image quality control for the ROI is set to 'the terminal', the
상기 화질 조절 요청 메시지 생성부(276)는 상기 관심 영역 설정부(274)로부터 화질 조절 정보가 수신되면, 상기 화질 조절 정보를 포함하는 화질 조절 요청 메시지를 생성하여 상대방 단말기에 전송한다. 상기 화질 조절 요청 메시지는 상대방 단말기 식별정보, 관심 영역 정보, 영상 분할 정보 등을 포함한다. 여기서, 상기 관심 영역 정보는 선택된 관심 영역과 맵핑된 키 정보, 상기 영상 분할 정보는 해당 상대방 영상을 분할한 개수를 말한다.When the image quality control information is received from the
또한, 상기 화질 조절 요청 메시지는 상대방 단말기 식별정보, 해당 영상에서 선택된 키에 할당된 위치 정보를 포함할 수도 있다.In addition, the image quality control request message may include counterpart terminal identification information and location information assigned to a key selected from the corresponding video.
상기 관심 영역 화질 조절 모듈(280)은 상대방 단말기 또는 상기 관심 영역 설정부(274)로부터 화질 조절 요청 메시지가 수신되면, 상기 수신된 메시지에 포함된 키 정보에 해당하는 관심 영역을 결정하고, 상기 결정된 관심 영역에 대한 화질을 조절하는 역할을 수행한다.When the image quality control request message is received from the counterpart terminal or the
상기와 같은 역할을 수행하는 관심 영역 화질 조절 모듈(280)에 대하여 도 4 를 참조하면, 관심 영역 화질 조절 모듈(280)은 관심 영역 결정부(282), 화질 조절부(284), 관심 영역 이동 감지부(286), 모션 벡터 예측부(288)를 포함한다. Referring to FIG. 4, the ROI image
상기 관심 영역 결정부(282)는 상대방 단말기 또는 관심 영역 설정부(274)로부터 화질 조절 요청 메시지가 수신되면, 상기 메시지에 포함된 영상 분할 정보에 따라 상대방 영상을 분할하고, 상기 분할된 영상에서 해당 키와 맵핑된 영역을 판단한다. 그러면, 상기 관심 영역 결정부(282)는 상기 판단된 영역을 관심 영역으로 결정한다. When the image quality control request message is received from the counterpart terminal or the region of
또한, 상기 관심 영역 결정부(282)는 해당 키에 할당된 위치 정보를 이용하여 해당 블럭의 시작 주소, 가로와 세로의 길이 등을 계산하여 관심 영역을 결정한다.In addition, the
상기 화질 조절부(284)는 상기 관심 영역 결정부(282)에서 결정된 관심 영역과 비관심 영역에 대한 양자화 계수를 서로 달리하여 인코딩을 수행한다.The
즉, 상기 화질 조절부(284)는 비관심 영역보다 관심 영역에 더 많은 비트량을 할당하는 원리를 이용하여 관심 영역에 대한 화질을 조절한다. 여기서, 양자화 계수가 크면 압축률은 높아지는 반면 화질은 떨어지게 되고, 양자화 계수가 작으면 압축률은 낮아지는 반면 화질을 좋아지는 특징이 있다.That is, the
상기 관심 영역 이동 감지부(286)는 상기 관심 영역 결정부(282)에서 결정된 관심 영역에 대하여 이전 프레임의 관심 영역과 비교하여 이동되었으면, 상기 모션 벡터 예측부(288)에 모션 벡터 예측 요청 메시지를 전송한다. The region of
상기 모션 벡터 예측부(288)는 모션 벡터 예측 요청 메시지가 수신되면, 상 기 관심 영역의 이동에 의한 모션 벡터를 예측하고, 한 프레임에 대해서 각 매크로 블럭단위로 예측된 모션 벡터 값을 합하여 상기 관심 영역이 미리 정해진 임계치 이상 변화되었는지를 판단한다. 상기 판단결과 상기 관심 영역이 미리 정해진 임계치 이상 변화되었으면, 상기 모션 벡터 예측부(288)는 상기 영상 분할선 생성부(272)에 영상 분할선 생성 요청 메시지를 전송한다. 그러면, 상기 영상 분할선 생성부(272)는 상기 표시부(230)에 디스플레이된 상대방 영상을 하나 이상의 영역으로 분할하는 반투명의 영상 분할선을 생성하여 상기 상대방 영상과 함께 디스플레이시킨다.When the motion vector prediction request message is received, the
만약, 상기 판단결과 상기 모션 벡터값이 임계값 이상 변화되지 않았으면, 상기 모션 벡터 예측부(288)는 모션 벡터값에 따른 이동정보를 상기 관심 영역 결정부(284)에 전송하여 이동 정보를 기준으로 관심 영역을 결정하도록 한다. If, as a result of the determination, the motion vector value does not change by more than a threshold value, the
도 6은 본 발명에 따른 발신 단말기가 착신자에 의해 선택된 관심 영역의 화질을 조절하는 방법을 나타낸 흐름도이다. 6 is a flowchart illustrating a method of adjusting, by the calling terminal, the image quality of the ROI selected by the called party according to the present invention.
도 6을 참조하면, 발신 단말기가 영상 호를 발신하면(S600), 발신 교환기는 발신자 정보 및 착신자 정보를 포함하는 착신 요청 메시지를 착신 교환기에 전송한다(S602).Referring to FIG. 6, when the calling terminal sends a video call (S600), the calling exchange transmits an incoming request message including caller information and called party information to the called exchange (S602).
즉, 발신 단말기가 영상 호를 발신하면, 발신 교환기는 홈 위치 등록기로 발신 및 착신 단말기의 가입자 정보(위치 정보 및 부가 서비스 정보)를 요청하고, 홈 위치 등록기는 착신 교환기에 착신 라우팅을 요청하여, 상기 착신 교환기로부터 착신 라우팅 정보를 수신하고, 상기 착신 교환기로부터 수신된 착신 라우팅 정보를 상기 발신 교환기에 전송한다. That is, when the calling terminal sends a video call, the calling exchange requests the subscriber location information (location information and additional service information) of the calling and destination terminals to the home location register, and the home location register requests the incoming routing to the destination exchange. Receive incoming routing information from the destination exchange, and transmit the incoming routing information received from the destination exchange to the originating exchange.
상기 발신 교환기는 상기 착신 라우팅 정보를 이용하여 상기 착신 교환기로 발신자 정보 및 착신자 정보를 포함하는 착신 요청 메시지를 전송한다.The originating exchange transmits an incoming request message including caller information and called party information to the destination exchange by using the incoming routing information.
그러면, 상기 착신 교환기는 착신 단말기를 페이징하여 착신을 요청하고, 상기 착신 단말기가 상기 착신 교환기로부터 전송된 착신 요청에 대하여 호를 수락하면(S604), 상기 발신 단말기, 발신 교환기, 착신 교환기, 착신 단말기간에 영상 호 경로의 셋업이 이루어진다(S606).Then, the destination exchange requests the incoming by paging the destination terminal, and when the destination terminal accepts the call for the incoming request transmitted from the destination exchange (S604), the originating terminal, the originating exchange, the destination exchange, and the destination terminal. Setup of the video call path is performed (S606).
상기와 같이 발신 단말기와 착신 단말기간에 영상 호 경로가 설정된 후, 상기 설정된 영상 호 경로를 통해 발신 단말기와 착신 단말기는 영상 통화를 수행하게 된다. After the video call path is set between the calling terminal and the called terminal as described above, the calling terminal and the called terminal perform a video call through the set video call path.
상기 발신 단말기는 상기 설정된 영상 호 경로를 이용하여 영상 통화 트래픽을 상기 착신 단말기에 전송하고(S608), 상기 착신 단말기는 상기 발신 단말기로부터 전송된 영상 통화 트래픽중 발신자 영상을 디스플레이한다(S610).The calling terminal transmits video call traffic to the called terminal using the set video call path (S608), and the called terminal displays the calling image of the video call traffic transmitted from the calling terminal (S610).
그런 다음 상기 착신 단말기는 사용자에 의해 화질 조절 메뉴가 선택되면(S612), 상기 디스플레이된 발신자 영상에 반투명한 영상 분할선을 표시한다(S614). 상기 영상 분할선은 착신자에 의해 설정 또는 디폴트로 설정된 개수로 나누어지고, 숫자 키와 맵핑되어 있다. Then, when the quality control menu is selected by the user (S612), the called terminal displays a semi-transparent image segmentation line on the displayed caller image (S614). The video dividing line is divided into a number set or defaulted by the called party and is mapped with a numeric key.
상기 착신자는 상기 표시된 영상 분할선과 상기 발신자 영상을 보고, 자신이 원하는 관심 영역이 존재하면, 상기 관심 영역에 할당된 키를 선택한다(S616).The called party looks at the displayed image segmentation line and the caller's image, and if a desired region of interest exists, selects a key assigned to the region of interest (S616).
그러면, 상기 착신 단말기는 상기 선택된 키 정보를 포함하는 화질 조절 요 청 메시지를 생성하여 상기 발신 단말기에 전송한다(S618). 여기서, 상기 화질 조절 요청 메시지는 관심 영역에 할당된 키 정보, 영상 분할 정보 등을 포함한다.Then, the called terminal generates a quality control request message including the selected key information and transmits it to the calling terminal (S618). The image quality control request message includes key information allocated to the ROI, image segmentation information, and the like.
상기 발신 단말기는 상기 착신 단말기로부터 화질 조절 요청 메시지가 수신되면, 촬영된 영상을 상기 메시지에 포함된 영상 분할 정보에 따라 분할하고 상기 키 정보에 해당하는 관심 영역을 결정한다(S620). When the image quality control request message is received from the called terminal, the calling terminal divides the photographed image according to the image segmentation information included in the message and determines a region of interest corresponding to the key information (S620).
즉, 상기 발신 단말기는 상기 화질 조절 요청 메시지에 포함된 영상 분할 정보에 따라 촬영된 발신자 영상을 분할하고, 상기 분할된 발신자 영상에서 상기 키 정보에 해당하는 영역을 관심 영역으로 결정한다. That is, the calling terminal divides the captured caller image according to the image segmentation information included in the picture quality control request message, and determines the region corresponding to the key information in the divided caller image as the region of interest.
예를 들어 영상 분할 정보가 4, 키 정보가 3이면, 상기 발신 단말기는 촬영된 발신자 영상을 4개로 분할하고, 분할된 4개의 영역중에서 3번 키에 해당하는 영역을 관심 영역으로 결정한다. For example, if the image segmentation information is 4 and the key information is 3, the calling terminal divides the photographed caller image into four, and determines an area corresponding to
상기 S620의 수행 후, 상기 발신 단말기는 상기 결정된 관심 영역에 대하여 비관심 영역과 양자화 계수를 달리하여 화질을 조절하고(S622), 상기 화질 조절된 영상을 포함하는 영상 통화 트래픽을 상기 착신 단말기에 전송한다(S624).After the execution of S620, the calling terminal adjusts image quality by changing the uninterested region and the quantization coefficient with respect to the determined region of interest (S622), and transmits video call traffic including the adjusted image to the called terminal. (S624).
즉, 상기 발신 단말기는 상기 관심 영역에 대하여 양자화 계수를 달리하여 화질을 조절하고, 상기 화질이 조절된 영상을 인코딩하여 상기 착신 단말기에 전송한다. That is, the calling terminal adjusts the image quality by changing the quantization coefficient with respect to the ROI, encodes the image whose quality is adjusted, and transmits the image to the called terminal.
그러면, 상기 착신 단말기는 상기 발신 단말기로부터 전송된 발신자 영상을 디스플레이한다(S626). 이때 디스플레이되는 발신자 영상은 상기 착신자에 의해 선택된 관심 영역의 화질이 조절된 영상이다. Then, the called terminal displays the caller image transmitted from the calling terminal (S626). In this case, the displayed caller image is an image in which the image quality of the ROI selected by the called party is adjusted.
즉, 상기 착신 단말기는 상기 발신 단말기로부터 영상 통화 트래픽이 수신되면, 상기 영상 통화 트래픽 중 발신자 영상을 디코딩하여 출력한다. 상기 출력된 발신자 영상은 관심 영역의 화질이 조절된 영상일 수 있다. That is, when the called terminal receives the video call traffic from the calling terminal, the called terminal decodes and outputs the caller image among the video call traffic. The output caller image may be an image in which the image quality of the ROI is adjusted.
도 7은 본 발명에 따른 이동통신 단말기가 상대방 단말기에 의해 선택된 관심 영역의 화질을 조절하는 방법을 나타낸 흐름도이다.7 is a flowchart illustrating a method in which a mobile communication terminal adjusts the image quality of an ROI selected by a counterpart terminal according to the present invention.
도 7을 참조하면, 발신 단말기는 영상 통화 수행중(S700), 착신 단말기로부터 화질 조절 요청 메시지가 수신되면(S702), 촬영된 영상을 상기 메시지에 포함된 영상 분할 정보에 따라 분할하고 상기 키 정보에 해당하는 관심 영역을 결정한다(S704).Referring to FIG. 7, when the calling terminal receives a video quality control request message from the called terminal (S702) during a video call (S700), the calling terminal divides the photographed image according to the video segmentation information included in the message and the key information. A region of interest corresponding to the determined is determined (S704).
그런 다음 상기 발신 단말기는 상기 결정된 관심 영역에 대하여 비관심 영역과 양자화 계수를 달리하여 화질을 조절하고(S706), 상기 화질 조절된 영상을 포함하는 영상 통화 트래픽을 상기 착신 단말기에 전송한다(S708).Then, the calling terminal adjusts image quality by changing the uninterested region and the quantization coefficient with respect to the determined region of interest (S706), and transmits video call traffic including the adjusted image to the called terminal (S708). .
여기서, 상기 발신 단말기는 상기 착신 단말기에 의해 요청된 관심 영역에 대한 화질 조절을 다음 영상 프레임에도 계속 적용하여 인코딩하게 된다. Here, the calling terminal encodes the picture quality control for the region of interest requested by the called terminal by applying the same to the next video frame.
상기 S708의 수행 후, 상기 발신 단말기는 관심 영역의 이동이 감지되는지를 판단한다(S710).After performing S708, the calling terminal determines whether the movement of the ROI is detected (S710).
상기 S710의 판단결과 관심 영역의 이동이 감지되면, 상기 발신 단말기는 관심 영역의 이동에 의한 모션 벡터를 예측하고(S412), 한 프레임에 대해서 각 매크로 블럭단위로 예측된 모션 벡터 값을 합하여 상기 관심 영역이 미리 정해진 임계치 이상 변화되었는지를 판단한다(S714).When the movement of the ROI is detected as a result of the determination of S710, the originating terminal predicts a motion vector due to the movement of the ROI (S412), and adds the motion vector value predicted in units of macroblocks for one frame to the ROI. It is determined whether the area has changed by more than a predetermined threshold (S714).
상기 S714의 판단결과 상기 관심 영역이 미리 정해진 임계치 이상 변화되었으면, 상기 발신 단말기는 단계를 종료한다.If the ROI is changed by more than a predetermined threshold as a result of the determination of S714, the calling terminal terminates the step.
만약, 상기 S714의 판단결과 상기 관심 영역이 미리 정해진 임계치 이상 변화되지 않았으면, 상기 발신 단말기는 상기 예측된 모션 벡터값에 따른 이동 정보를 기준으로 관심 영역을 결정하고(S716), 상기 S706을 수행한다.If the region of interest does not change more than a predetermined threshold as a result of the determination of S714, the calling terminal determines the region of interest based on the movement information according to the predicted motion vector value (S716), and performs S706. do.
도 8은 본 발명에 따른 착신 단말기가 발신자 영상에 대한 관심 영역의 화질을 조절하는 방법을 나타낸 흐름도이다. 8 is a flowchart illustrating a method in which a called terminal adjusts the image quality of an ROI with respect to a caller image according to the present invention.
도 8을 참조하면, 발신 단말기가 영상 호를 발신하면(S800), 발신 교환기는 발신자 정보 및 착신자 정보를 포함하는 착신 요청 메시지를 착신 교환기에 전송한다(S802).Referring to FIG. 8, when the calling terminal transmits a video call (S800), the calling exchange transmits an incoming request message including caller information and called party information to the called exchange (S802).
그러면, 상기 착신 교환기는 착신 단말기를 페이징하여 착신을 요청하고, 상기 착신 단말기가 상기 착신 교환기로부터 전송된 착신 요청에 대하여 호를 수락하면(S804), 상기 발신 단말기, 발신 교환기, 착신 교환기, 착신 단말기간에 영상 호 경로의 셋업이 이루어진다(S806).Then, the destination exchange requests the incoming by paging the destination terminal, and when the destination terminal accepts the call for the incoming request transmitted from the destination exchange (S804), the originating terminal, the originating exchange, the destination exchange, the destination terminal. Setup of the video call path is performed (S806).
상기와 같이 발신 단말기와 착신 단말기간에 영상 호 경로가 설정된 후, 상기 설정된 영상 호 경로를 통해 발신 단말기와 착신 단말기는 영상 통화를 수행하게 된다. After the video call path is set between the calling terminal and the called terminal as described above, the calling terminal and the called terminal perform a video call through the set video call path.
상기 발신 단말기는 상기 설정된 영상 호 경로를 이용하여 영상 통화 트래픽을 상기 착신 단말기에 전송하고(S808), 상기 착신 단말기는 상기 발신 단말기로부터 전송된 영상 통화 트래픽중 발신자 영상을 디스플레이한다(S810).The calling terminal transmits video call traffic to the called terminal using the set video call path (S808), and the called terminal displays the calling image of the video call traffic transmitted from the calling terminal (S810).
그런 다음 상기 착신 단말기는 사용자에 의해 화질 조절 메뉴가 선택되면(S812), 상기 디스플레이된 발신자 영상에 반투명한 영상 분할선을 표시한다(S814). 상기 영상 분할선은 착신자에 의해 설정 또는 디폴트로 설정된 개수로 나누어지고, 숫자 키와 맵핑되어 있다. Then, when the image quality control menu is selected by the user (S812), the called terminal displays a semi-transparent image segmentation line on the displayed caller image (S814). The video dividing line is divided into a number set or defaulted by the called party and is mapped with a numeric key.
상기 착신자는 상기 표시된 영상 분할선과 상기 발신자 영상을 보고, 자신이 원하는 관심 영역이 존재하면, 상기 관심 영역에 할당된 키를 선택하여 화질 조절 정보를 설정한다(S816).The called party looks at the displayed image segmentation line and the caller's image, and if a desired region of interest exists, selects a key assigned to the region of interest and sets image quality control information (S816).
그러면, 상기 착신 단말기는 이후에 수신되는 발신자 영상에 대해 상기 설정된 화질 조절 정보에 따라 관심 영역을 확인하고, 상기 확인된 관심 영역의 화질을 조절하여 디스플레이한다(S818).Then, the called terminal checks the region of interest according to the set image quality control information for the caller image received thereafter, and adjusts and displays the quality of the identified region of interest (S818).
즉, 상기 착신 단말기는 상기 발신자 영상에서 상기 화질 조절 정보에 포함된 관심 영역을 확인하고, 상기 화질 조절 정보에 포함된 화질 조절 비율에 따라 상기 확인된 관심 영역의 화질을 조절하여 디스플레이한다. That is, the called terminal identifies the ROI included in the image quality control information in the caller image, and adjusts and displays the image quality of the checked ROI according to the image quality ratio included in the image quality control information.
도 9는 본 발명에 따른 이동통신 단말기가 상대방 단말기로부터 전송된 영상에 대해 관심 영역의 화질을 조절하는 방법을 나타낸 흐름도이다. 9 is a flowchart illustrating a method of adjusting, by a mobile communication terminal, an image quality of a region of interest with respect to an image transmitted from a counterpart terminal according to the present invention.
도 9를 참조하면, 이동통신 단말기는 영상 통화 수행 중(S900), 사용자에 의해 관심 영역에 대한 화질 조절 정보가 입력되면, 화질 조절 정보를 설정한다(S902).Referring to FIG. 9, when the video communication call is input by the user during the video call (S900), the mobile communication terminal sets the quality control information (S902).
상기와 같이 화질 조절 정보가 설정되면, 상기 이동통신 단말기는 이후에 상대방 단말기로부터 전송된 영상의 관심 영역에 대해 화질 조절을 수행하게 된다. When the quality control information is set as described above, the mobile communication terminal subsequently performs quality control on the ROI of the image transmitted from the counterpart terminal.
상기 S902가 수행되면, 상기 이동통신 단말기는 수신되는 발신자 영상에서 관심 영역을 확인한다(S904). 즉, 상기 이동통신 단말기는 상대방 단말기로부터 상대방 영상이 수신되면, 상기 상대방 영상을 디코딩하고 상기 디코딩된 상대방 영상에서 상기 화질 조절 정보에 설정된 관심 영역을 확인한다. When S902 is performed, the mobile communication terminal checks the region of interest in the received caller image (S904). That is, when the counterpart image is received from the counterpart terminal, the mobile terminal decodes the counterpart image and identifies the ROI set in the quality control information in the decoded counterpart image.
상기 S904의 수행 후, 상기 이동통신 단말기는 상기 관심 영역을 이전 프레임의 관심 영역과 비교하여 이동되었는지를 판단한다(S906).After performing S904, the mobile communication terminal determines whether the region of interest is moved by comparing the region of interest with the region of interest of the previous frame (S906).
상기 S906의 판단결과 관심 영역의 이동이 감지되면, 상기 이동통신 단말기는 상기 관심 영역의 이동에 의한 모션 벡터를 예측하고(S908), 한 프레임에 대해서 각 매크로 블럭단위로 예측된 모션 벡터 값을 합하여 상기 관심 영역이 미리 정해진 임계치 이상 변화되었는지를 판단한다(S910).When the movement of the ROI is detected as a result of the determination of S906, the mobile communication terminal predicts a motion vector due to the movement of the ROI (S908), and adds the motion vector values predicted in units of macroblocks for one frame. It is determined whether the ROI is changed by more than a predetermined threshold (S910).
상기 S910의 판단결과 상기 관심 영역이 미리 정해진 임계치 이상 변화되었으면, 상기 이동통신 단말기는 상기 수신된 영상에 반투명한 영상 분할선을 표시하여(S912), 상기 사용자에 의해 관심 영역 재설정이 요청되는지를 판단한다(S914).As a result of the determination in S910, when the region of interest changes by more than a predetermined threshold, the mobile communication terminal displays a semi-transparent image segmentation line on the received image (S912) to determine whether the ROI is requested to be reset by the user. (S914).
상기 S914의 판단결과 관심 영역 재설정이 요청되면, 상기 이동통신 단말기는 상기 S902를 수행한다. As a result of the determination of S914, if the ROI is requested, the mobile terminal performs S902.
만약, 상기 S914의 판단결과 관심 영역 재설정이 요청되지 않으면, 상기 이동통신 단말기는 상기 표시된 영상 분할선이 삭제된 상대방 영상을 디스플레이한다(S916).If it is determined in S914 that the ROI is not requested, the mobile terminal displays the counterpart image from which the displayed image segmentation line is deleted (S916).
만약, 상기 S906의 판단결과 관심 영역의 이동이 감지되지 않으면, 상기 이동통신 단말기는 수신된 상대방 영상에서 관심영역의 화질을 조절하여 디스플레이 한다(S918).If the movement of the region of interest is not detected as a result of the determination of S906, the mobile communication terminal displays the adjusted region of the region of interest in the received counterpart image (S918).
만약, 상기 S910의 판단결과 상기 모션 벡터값이 임계값 이상 변화되지 않았으면, 상기 이동통신 단말기는 이동한 정보를 기준으로 관심 영역을 확인하고(S920), 상기 S918을 수행한다.If, as a result of the determination in S910, the motion vector value does not change more than a threshold value, the mobile communication terminal checks the region of interest based on the moved information (S920) and performs S918.
이와 같이, 본 발명이 속하는 기술분야의 당업자는 본 발명이 그 기술적 사상이나 필수적 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적인 것이 아닌 것으로서 이해해야만 한다. 본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 등가개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.As such, those skilled in the art will appreciate that the present invention can be implemented in other specific forms without changing the technical spirit or essential features thereof. Therefore, the above-described embodiments are to be understood as illustrative in all respects and not as restrictive. The scope of the present invention is shown by the following claims rather than the detailed description, and all changes or modifications derived from the meaning and scope of the claims and their equivalents should be construed as being included in the scope of the present invention. do.
본 발명에 따른 이동통신 단말기를 이용한 영상 통화 화질 조절 방법 및 그 단말기는 영상 통화의 화질을 개선하고자 하는 기술에 적용할 수 있다. The video call quality control method using the mobile communication terminal and the terminal according to the present invention can be applied to a technique for improving the quality of the video call.
도 1은 본 발명에 따른 영상 통화 중 이동통신 단말기를 이용한 화질 조절 시스템을 나타낸 도면.1 is a view showing a picture quality control system using a mobile communication terminal during a video call according to the present invention.
도 2는 본 발명에 따른 상대방 영상의 특정 영역 화질 조절을 위한 이동통신 단말기의 구성을 개략적으로 나타낸 블럭도.2 is a block diagram schematically illustrating a configuration of a mobile communication terminal for controlling image quality of a specific area of a counterpart image according to the present invention.
도 3은 도 2에 도시된 관심 영역 설정 모듈의 구성을 나타낸 블럭도.3 is a block diagram illustrating a configuration of an ROI setting module illustrated in FIG. 2.
도 4는 도 2에 도시된 관심 영역 화질 조절 모듈의 구성을 나타낸 블럭도.4 is a block diagram illustrating a configuration of a region of interest quality adjustment module illustrated in FIG. 2.
도 5는 본 발명에 따른 상대방 영상과 영상 분할선이 표시된 화면 예시도.5 is an exemplary view showing a counterpart image and an image segmentation line according to the present invention;
도 6은 본 발명에 따른 발신 단말기가 착신자에 의해 선택된 관심 영역의 화질을 조절하는 방법을 나타낸 흐름도.6 is a flowchart illustrating a method for adjusting, by the calling terminal, the image quality of the ROI selected by the called party according to the present invention;
도 7은 본 발명에 따른 이동통신 단말기가 상대방 단말기에 의해 선택된 관심 영역의 화질을 조절하는 방법을 나타낸 흐름도.7 is a flowchart illustrating a method of adjusting, by a mobile communication terminal, an image quality of a region of interest selected by a counterpart terminal according to the present invention.
도 8은 본 발명에 따른 착신 단말기가 발신자 영상에 대한 관심 영역의 화질을 조절하는 방법을 나타낸 흐름도. 8 is a flowchart illustrating a method in which a called terminal according to the present invention adjusts an image quality of a region of interest with respect to a caller image.
도 9는 본 발명에 따른 이동통신 단말기가 상대방 단말기로부터 전송된 영상에 대해 관심 영역의 화질을 조절하는 방법을 나타낸 흐름도. 9 is a flowchart illustrating a method of controlling, by a mobile communication terminal, image quality of a region of interest with respect to an image transmitted from a counterpart terminal according to the present invention.
<도면의 주요 부분에 대한 부호의 설명><Explanation of symbols for the main parts of the drawings>
100 : 이동통신 단말기 110 : 기지국100: mobile communication terminal 110: base station
120 : 교환기 130 : 홈 위치 등록기120: exchange 130: home location register
200 : 무선 송수신부 210 : 입력부200: wireless transceiver 210: input unit
220 : 저장부 230 : 표시부220: storage unit 230: display unit
240 : 오디오부 250 : 촬영부240: audio unit 250: recording unit
260 : 영상 호 처리 모듈 270 : 관심 영역 설정 모듈260: video call processing module 270: region of interest setting module
272 : 영상 분할선 생성부 274 : 관심 영역 설정부272: Image segmentation line generator 274: ROI setting unit
276 : 화질 조절 요청 메시지 생성부 280 : 관심 영역 화질 조절 모듈276: Image quality control request message generation unit 280: Region of interest quality control module
282 : 관심 영역 결정부 284 : 화질 조절부 282: region of interest determiner 284: image quality adjuster
286 : 관심 영역 이동 감지부 288 : 모션 벡터 예측부286: region of interest movement detection unit 288: motion vector prediction unit
Claims (24)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020070105934A KR100925976B1 (en) | 2007-10-22 | 2007-10-22 | Method for adjusting the video quality of video call using of mobile terminal and thereof mobile terminal |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020070105934A KR100925976B1 (en) | 2007-10-22 | 2007-10-22 | Method for adjusting the video quality of video call using of mobile terminal and thereof mobile terminal |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20090040533A KR20090040533A (en) | 2009-04-27 |
KR100925976B1 true KR100925976B1 (en) | 2009-11-10 |
Family
ID=40763862
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020070105934A KR100925976B1 (en) | 2007-10-22 | 2007-10-22 | Method for adjusting the video quality of video call using of mobile terminal and thereof mobile terminal |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR100925976B1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9929755B2 (en) | 2015-07-14 | 2018-03-27 | At&T Intellectual Property I, L.P. | Method and apparatus for coupling an antenna to a device |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102238374B (en) * | 2010-04-21 | 2016-08-24 | 腾讯科技(深圳)有限公司 | The method and apparatus that view data is compressed coding |
US8923880B2 (en) | 2012-09-28 | 2014-12-30 | Intel Corporation | Selective joinder of user equipment with wireless cell |
JP2021500764A (en) * | 2017-08-29 | 2021-01-07 | Line株式会社 | Improving video quality for video calls |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20000022822A (en) * | 1998-09-24 | 2000-04-25 | 구자홍 | Method of image data process for picturephone |
KR20050028168A (en) * | 2003-09-17 | 2005-03-22 | 엘지전자 주식회사 | Screen area choice method for mobile communication terminal |
-
2007
- 2007-10-22 KR KR1020070105934A patent/KR100925976B1/en not_active IP Right Cessation
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20000022822A (en) * | 1998-09-24 | 2000-04-25 | 구자홍 | Method of image data process for picturephone |
KR20050028168A (en) * | 2003-09-17 | 2005-03-22 | 엘지전자 주식회사 | Screen area choice method for mobile communication terminal |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9929755B2 (en) | 2015-07-14 | 2018-03-27 | At&T Intellectual Property I, L.P. | Method and apparatus for coupling an antenna to a device |
Also Published As
Publication number | Publication date |
---|---|
KR20090040533A (en) | 2009-04-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11722684B2 (en) | System and method for video coding | |
US20190075293A1 (en) | Methods and apparatuses for encoding and decoding video using signal dependent adaptive quantization | |
US11956434B2 (en) | Encoder, decoder, encoding method, and decoding method | |
US20190052883A1 (en) | Encoder, decoder, encoding method, and decoding method | |
KR100643454B1 (en) | Method for video data transmission control | |
US20210168357A1 (en) | Encoder which generates prediction image to be used to encode current block | |
US11722662B2 (en) | Encoder that encodes a current block based on a prediction image generated using an interpolation filter | |
US11425411B2 (en) | Encoder, decoder, encoding method, and decoding method | |
US20230412832A1 (en) | Encoder, decoder, encoding method, and decoding method | |
KR100925976B1 (en) | Method for adjusting the video quality of video call using of mobile terminal and thereof mobile terminal | |
US20210266590A1 (en) | Encoder, decoder, encoding method, and decoding method | |
JP2002152759A (en) | Image information converter and image information conversion method | |
KR100631714B1 (en) | Apparatus and method for improved video signal rate control of a mobile terminal | |
EP1494481B1 (en) | Motion picture receiving device, motion picture transmitting device, and program | |
US11368686B2 (en) | Encoder and decoder | |
EP3531700B1 (en) | Image coding method, transmission method and image coding device | |
US12075042B2 (en) | Encoder, decoder, encoding method, and decoding method | |
Usman et al. | Exploiting the spatio-temporal attributes of HD videos: A bandwidth efficient approach | |
JP4517453B2 (en) | Image information converting apparatus and method, and encoding apparatus and method | |
JP2002125227A (en) | Image information converter and image information converting method | |
US20070031050A1 (en) | Method and apparatus for bit rate control for image encoding | |
US6836513B2 (en) | Moving picture encoding method and apparatus | |
US12081749B2 (en) | Encoder that encodes a current block based on a prediction image generated using an interpolation filter | |
JP4517465B2 (en) | Image information converting apparatus and method, and encoding apparatus and method | |
US20240223793A1 (en) | Encoder, decoder, encoding method, and decoding method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant | ||
FPAY | Annual fee payment |
Payment date: 20121002 Year of fee payment: 4 |
|
FPAY | Annual fee payment |
Payment date: 20131101 Year of fee payment: 5 |
|
FPAY | Annual fee payment |
Payment date: 20141030 Year of fee payment: 6 |
|
FPAY | Annual fee payment |
Payment date: 20151030 Year of fee payment: 7 |
|
FPAY | Annual fee payment |
Payment date: 20161103 Year of fee payment: 8 |
|
FPAY | Annual fee payment |
Payment date: 20171102 Year of fee payment: 9 |
|
LAPS | Lapse due to unpaid annual fee |