KR20100060176A - Apparatus and method for compositing image using a face recognition of broadcasting program - Google Patents

Apparatus and method for compositing image using a face recognition of broadcasting program Download PDF

Info

Publication number
KR20100060176A
KR20100060176A KR1020080118672A KR20080118672A KR20100060176A KR 20100060176 A KR20100060176 A KR 20100060176A KR 1020080118672 A KR1020080118672 A KR 1020080118672A KR 20080118672 A KR20080118672 A KR 20080118672A KR 20100060176 A KR20100060176 A KR 20100060176A
Authority
KR
South Korea
Prior art keywords
face
image
recognized
frame
face recognition
Prior art date
Application number
KR1020080118672A
Other languages
Korean (ko)
Inventor
고명기
Original Assignee
주식회사 대우일렉트로닉스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 대우일렉트로닉스 filed Critical 주식회사 대우일렉트로닉스
Priority to KR1020080118672A priority Critical patent/KR20100060176A/en
Publication of KR20100060176A publication Critical patent/KR20100060176A/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

PURPOSE: An apparatus and a method for compositing an image using the face recognition of a broadcasting program are provided to automatically synthesize an image of a viewer in recognized face after an image of the broadcasting program or face recognition of a still image, thereby inducing interest of the viewer. CONSTITUTION: A face recognition unit(112) recognizes a face of individual in a frame of video data. The face recognition unit determines an area of recognized first face. The face recognition unit matches a recognized second face area in the recognized first face area after face recognition of inputted face image. A control unit(106) synthesizes the recognized face in the face image after removal of an image of the recognized first face area.

Description

방송 프로그램의 얼굴인식을 통한 이미지 합성 장치 및 방법{APPARATUS AND METHOD FOR COMPOSITING IMAGE USING A FACE RECOGNITION OF BROADCASTING PROGRAM}Apparatus and method for image synthesis through face recognition of broadcasting program {APPARATUS AND METHOD FOR COMPOSITING IMAGE USING A FACE RECOGNITION OF BROADCASTING PROGRAM}

본 발명은 영상 수신 및 출력장치를 이용한 이미지 보정 기술에 관한 것으로서, 특히 영상 수신 및 출력장치를 통해 녹화된 영상 또는 정지이미지에서 특정 배우의 얼굴이미지를 인식한 후, 인식된 배우 얼굴에 시청자의 얼굴이미지를 자동으로 합성을 수행하는데 적합한 방송 프로그램의 얼굴인식을 통한 이미지 합성 장치 및 방법에 관한 것이다.The present invention relates to an image correction technology using an image receiving and output apparatus. In particular, after recognizing a face image of a specific actor in a recorded image or a still image recorded through the image receiving and output apparatus, the viewer's face is recognized on the recognized actor's face. An apparatus and method for synthesizing an image through face recognition of a broadcast program suitable for automatically synthesizing an image are provided.

잘 알려진 바와 같이, 영상 수신 및 출력장치는 각 방송국에서 송출되는 방송 신호를 안테나 또는 케이블을 통해 수신하며, 수신한 신호에 대한 튜닝 및 디코딩을 통하여 사용자가 원하는 방송 채널을 디스플레이하게 된다.As is well known, the image receiving and outputting apparatus receives a broadcasting signal transmitted from each broadcasting station through an antenna or a cable, and displays a broadcasting channel desired by a user through tuning and decoding on the received signal.

이러한, 영상 수신 및 출력장치는 기본적인 방송 수신 및 출력 외에도 수신되는 방송의 예약 녹화 기능 또는 잠시 전 방송을 녹화하여 다시 돌려보기를 가능하게 하는 타임머신 기능, 인터넷 연결을 통해 IPTV 및 양방향 방송 서비스 기능, 그리고 MP3 파일의 재생 및 동영상 파일 재생 등과 같이 다양한 부가기능들도 함께 포함되고 있다. In addition to the basic broadcast reception and output, such a video receiving and output device has a scheduled recording function of a received broadcast or a time machine function that enables recording and replaying of a broadcast a while ago, an IPTV and two-way broadcasting service function through an Internet connection, and Various additional functions such as playing MP3 files and playing video files are also included.

이와 같이 영상 수신 및 출력장치는 종래의 단순한 방송 프로그램의 제공만이 아닌, 여러 가지 다양한 부가기능들을 제공함으로써, 사용자에게 방송 시청 외에도 여러 가지 기능을 토대로 즐거움을 선사하고 있다. As such, the image receiving and output device not only provides a conventional broadcast program but also provides various additional functions, thereby providing a user with pleasure based on various functions besides watching a broadcast.

상기한 바와 같이 동작하는 종래 기술에 의한 영상 수신 및 출력장치에 있어서는, 수신된 방송 프로그램을 디스플레이하거나, 녹화하여 저장할 수 있으나 방송 프로그램에 대한 자체 편집을 수행할 수는 없으므로, 방송 프로그램에서 등장하는 배우의 얼굴에 자신의 얼굴 또는 다른 사람의 얼굴을 합성하고자 하는 경우에는 녹화된 방송 프로그램 데이터를 컴퓨터로 옮겨와서 이에 대한 편집을 수행해야 하며, 이를 영상 수신 및 출력장치에서 구현하기 위한 별다른 방도가 없었다.In the conventional image receiving and output apparatus operating as described above, the received broadcast program can be displayed or recorded and stored, but since the self-editing of the broadcast program cannot be performed, the actors appearing in the broadcast program In order to synthesize one's face or another person's face on the face of the user, the recorded broadcast program data must be transferred to a computer and edited therein, and there is no special way to implement it in the image receiving and output device.

이에 본 발명은 영상 수신 및 출력장치를 통해 녹화된 영상 또는 정지이미지에서 특정 배우의 얼굴이미지를 인식한 후, 인식된 배우 얼굴에 시청자의 얼굴이미지를 자동으로 합성할 수 있는 방송 프로그램의 얼굴인식을 통한 이미지 합성 장치 및 방법을 제공한다. Accordingly, the present invention recognizes a face image of a specific actor in a recorded image or a still image recorded through an image receiving and output device, and then recognizes the face of a broadcast program that can automatically synthesize a viewer's face image on the recognized actor's face. Provided are an image synthesizing apparatus and method.

또한 본 발명은 영상 수신 및 출력장치를 통해 녹화된 영상 또는 정지이미지에서 특정 배우의 얼굴이미지를 인식한 후, 인식된 배우 얼굴에 카메라 모듈로부터 촬영된 시청자의 얼굴 이미지를 비교 매칭하여 시청자의 얼굴로 합성을 수행할 수 있는 방송 프로그램의 얼굴인식을 통한 이미지 합성 장치 및 방법을 제공한다.In addition, the present invention recognizes the face image of a particular actor in the recorded image or still image recorded through the image receiving and output device, and compares the matched face image of the viewer photographed from the camera module to the viewer's face An apparatus and method for synthesizing an image through face recognition of a broadcast program capable of compositing are provided.

본 발명의 일 실시예 장치는, 영상 데이터의 프레임에서 인물의 얼굴을 인식하고, 상기 프레임에서 인식된 얼굴의 영역을 판단하고, 입력된 얼굴 이미지에서 얼굴을 인식한 후, 상기 얼굴 이미지에서 인식된 얼굴 영역을 상기 프레임에서 인식된 얼굴 영역에 매칭 시키는 얼굴인식부와, 상기 프레임에서 인식된 얼굴 영역의 이미지를 제거한 후, 상기 얼굴 이미지에서 인식된 얼굴을 중첩시켜 합성하는 제어부를 포함한다.According to an embodiment of the present invention, a device recognizes a face of a person in a frame of image data, determines a region of a face recognized in the frame, recognizes a face in an input face image, and is recognized in the face image. And a face recognition unit for matching the face region to the face region recognized in the frame, and a controller for removing the image of the face region recognized in the frame, and then overlaying and synthesizing the face recognized in the face image.

본 발명의 일 실시예 방법은, 영상 데이터의 프레임에서 인물의 얼굴을 인식하여 얼굴 영역을 판단하는 과정과, 입력된 얼굴 이미지에서 얼굴을 인식한 후, 상기 이미지에서 인식된 얼굴 영역을 상기 프레임에서 인식된 얼굴 영역에 매칭 시키는 과정과, 얼굴 영역 간 매칭이 되는 경우, 상기 프레임에서 인식된 얼굴 영역의 이미지를 제거한 후, 상기 얼굴 이미지에서 인식된 얼굴을 중첩시켜 합성하는 과정을 포함한다.According to an embodiment of the present invention, a method of determining a face region by recognizing a face of a person in a frame of image data, recognizing a face in an input face image, and then recognizing a face region in the image in the frame Matching the recognized face region, and when matching between the face regions, removing the image of the face region recognized in the frame, and then overlapping and synthesizing the recognized faces in the face image.

본 발명에 있어서, 개시되는 발명 중 대표적인 것에 의하여 얻어지는 효과를 간단히 설명하면 다음과 같다.In the present invention, the effects obtained by the representative ones of the disclosed inventions will be briefly described as follows.

본 발명은, 방송 프로그램의 영상 또는 정지이미지의 얼굴인식을 수행한 후, 인식된 얼굴에 시청자의 이미지를 자동으로 합성시킴으로써, 시청자는 자신이 선호하는 프로의 배우가 될 수 있으므로 시청자에게 흥미를 유발 시킬 수 있는 효과가 있다.According to the present invention, after performing a face recognition of a video or a still image of a broadcast program, by automatically synthesizing the viewer's image on the recognized face, the viewer can be an actor of his favorite pro, thus causing interest to the viewer. It can be effected.

이하 첨부된 도면을 참조하여 본 발명의 동작 원리를 상세히 설명한다. 하기에서 본 발명을 설명함에 있어서 공지 기능 또는 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략할 것이다. 그리고 후술되는 용어들은 본 발명에서의 기능을 고려하여 정의된 용어들로서 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다. Hereinafter, the operating principle of the present invention will be described in detail with reference to the accompanying drawings. In the following description of the present invention, if it is determined that a detailed description of a known function or configuration may unnecessarily obscure the subject matter of the present invention, the detailed description thereof will be omitted. The following terms are defined in consideration of the functions of the present invention, and may be changed according to the intentions or customs of the user, the operator, and the like. Therefore, the definition should be made based on the contents throughout the specification.

본 발명은 영상 수신 및 출력장치를 통해 녹화된 영상 또는 정지이미지에서 특정 배우의 얼굴이미지를 인식한 후, 인식된 배우 얼굴에 시청자의 얼굴이미지를 자동으로 합성하는 것으로서, 시청자의 얼굴 이미지는 입력된 이미지를 이용하거나, 영상 수신 및 출력장치의 카메라를 통하여 촬영된 이미지를 이용하는 것이다.According to the present invention, after recognizing a face image of a specific actor in a recorded image or a still image recorded through an image receiving and output device, the face image of the viewer is automatically synthesized. By using an image, or using an image captured by the camera of the image receiving and output device.

도 1은 본 발명의 실시예에 따른 얼굴 인식을 통한 시청자 얼굴 합성장치의 구조를 도시한 블록도이다.1 is a block diagram illustrating a structure of a viewer face synthesizing apparatus through face recognition according to an embodiment of the present invention.

도 1을 참조하면, 얼굴 인식을 통한 시청자 얼굴 합성장치는 방송 수신부(102), 영상 처리부(104), 제어부(106), 메모리(108), 제어신호 입력부(110), 얼굴인식부(112)를 포함하며, 여기에 카메라 모듈(114)이 추가로 포함될 수 있다.Referring to FIG. 1, a viewer face synthesizing apparatus through face recognition includes a broadcast receiver 102, an image processor 104, a controller 106, a memory 108, a control signal input unit 110, and a face recognition unit 112. It includes, and the camera module 114 may be further included.

방송 수신부(102)는 각 방송국에서 송출되는 방송 신호를 안테나 또는 케이블을 통해 수신하며, 수신한 신호에 대한 튜닝을 수행한다. 즉, 무선 주파수(RF:Radio Frequency) 채널의 방송신호를 수신하고, 수신된 방송 신호의 복조를 수행하여 복조된 전송 스트림(TS)을 영상처리부(104)로 전달한다.The broadcast receiver 102 receives a broadcast signal transmitted from each broadcast station through an antenna or a cable, and performs tuning on the received signal. That is, a broadcast signal of a radio frequency (RF) channel is received, and the demodulated broadcast signal is demodulated, and the demodulated transport stream TS is transmitted to the image processor 104.

영상 처리부(104)에서는 통상적으로 방송 수신부(102)를 통해 복조된 TS를 비디오/오디오/부가/채널 정보로 역다중화하기 위한 역다중화부와, 역다중화부에서 역다중화된 프로그램 정보를 분석하는 파싱부와, 역다중화된 비디오 정보를 디코딩하는 디코딩부를 포함한다. 이후 이와 같이 디코딩된 신호를 화면상에 디스플레이 하게 된다.In the image processor 104, a demultiplexer for demultiplexing a demodulated TS into video / audio / additional / channel information through the broadcast receiver 102, and parsing for analyzing program information demultiplexed in the demultiplexer. And a decoding unit for decoding the demultiplexed video information. After that, the decoded signal is displayed on the screen.

제어부(106)는 각 기능 블록들을 제어하며, 영상처리부(104)로부터 디코딩된 방송 데이터를 메모리(108)로 전달하여 저장되도록 한다. 또한, 제어신호 입력부(110)를 통해 입력된 제어신호를 전달받아 제어신호에 해당하는 제어 기능을 수행한다. The controller 106 controls the respective functional blocks, and transmits the decoded broadcast data from the image processor 104 to the memory 108 to be stored. In addition, the control signal input through the control signal input unit 110 receives the control function corresponding to the control signal.

메모리(108)는 제어부(106)로부터 전달된 방송 데이터 및 시청자 이미지 데이터를 저장하며, 얼굴 인식을 위한 얼굴 인식 프로그램 및 이미지 합성 프로그램을 저장하여 제어부(106) 제어하에 얼굴인식부(112)에서 프로그램이 수행되도록 한다. The memory 108 stores broadcast data and viewer image data transmitted from the controller 106, and stores a face recognition program and an image composition program for face recognition, and stores the program in the face recognition unit 112 under the control of the controller 106. Let this be done.

제어신호 입력부(110)는 영상 수신 및 출력장치의 조작 패널 또는 리모콘 등으로부터 전송된 장치의 제어 또는 메뉴 인터페이스 제어를 위한 각종 조작에 대한 제어 신호(예컨대, 메뉴 조작, 채널 변경, 음량 제어 등)를 입력 받아 이를 제어부(106)로 전달한다. The control signal input unit 110 receives control signals (eg, menu operation, channel change, volume control, etc.) for various operations for controlling a device or menu interface control transmitted from an operation panel or a remote controller of an image receiving and output device. It receives an input and delivers it to the controller 106.

얼굴인식부(112)는 영상 처리부(104) 및 제어부(106)와 카메라 모듈(114) 중 어느 하나 이상으로부터 방송 이미지 또는 사진 이미지로부터 얼굴을 인식하게 되며, 인식된 얼굴에 대한 자르기, 다른 얼굴 이미지 합성하기 등을 수행하며, 영상의 경우에는 프레임별 얼굴 인식을 통하여 얼굴 인식 및 이미지 합성을 수행하게 된다.The face recognition unit 112 recognizes a face from a broadcast image or a photographic image from at least one of the image processor 104, the controller 106, and the camera module 114, and cuts or recognizes a face of the recognized face. In the case of an image, face recognition and image synthesis are performed through face recognition for each frame.

구체적으로, 얼굴인식부(112)는 전달된 영상 또는 이미지를 분석하여 얼굴 이미지를 인식하고, 인식된 얼굴에 대한 각도, 전체 면적 등의 정보를 확인한다. 이후, 인식된 얼굴에 합성하기 위한 다른 영상 또는 이미지 정보를 입력받은 경우, 이에 대한 분석을 통해 얼굴 이미지를 인식하고, 인식된 얼굴에 대한 각도, 전체 면적 등의 정보를 확인한다. 이에 처음 인식된 얼굴 정보에 합성할 얼굴 정보를 대비하여 합성할 얼굴 정보를 처음 인식된 얼굴 영역에 맞도록 축소 및 확대를 수행하여, 기 설정된 오차 범위 내에 합성할 얼굴이 처음 인식된 얼굴 영역에 매칭된다면, 처음 인식된 얼굴 영역에 합성할 얼굴을 삽입하게 된다. In detail, the face recognition unit 112 analyzes the transferred image or image to recognize the face image, and checks information such as an angle and an overall area of the recognized face. Then, when receiving other image or image information to be synthesized to the recognized face, by analyzing the recognition of the face image, and confirms the information, such as the angle, the total area of the recognized face. In response to the face information to be synthesized with the first recognized face information, face information to be synthesized is reduced and enlarged to fit the first recognized face area, and the face to be synthesized within a preset error range is matched to the first recognized face area. If so, the face to be synthesized is inserted into the first recognized face area.

다만, 기 설정된 오차 범위 내에 합성할 얼굴이 매칭되지 않는다면, 얼굴인식부(112)는 제어부(106)로 매칭 되지 않음을 전달하며, 이에 제어부(106)에서는 화면상에 다른 얼굴 데이터의 입력을 요청하거나, 합성 불과 메시지를 디스플레이 하게 된다. However, if the face to be synthesized does not match within the preset error range, the face recognition unit 112 transmits that the face is not matched to the control unit 106, and the control unit 106 requests input of other face data on the screen. Or display a composite fire message.

즉, 이를 통해 방송 프로그램에 나오는 특정 배우의 얼굴을 시청자가 입력한 얼굴 데이터로 합성하는 것을 가능하게 하는 것이다. That is, through this, it is possible to synthesize the face of a specific actor in the broadcast program into face data input by the viewer.

카메라 모듈(114)은 시청자의 얼굴 영상 또는 이미지 정보를 촬영하기 위한 것으로서, 먼저 화면상에 촬영할 시청자의 얼굴을 라이브 뷰를 통해 보여주고 있는 상태에서 방송 프로그램에서 인식된 얼굴 영역을 지운 후, 수평 뒤집기를 수행하여, 라이브 뷰 화면상에 시청자의 얼굴을 중첩하여 보여주게 된다. The camera module 114 is for capturing a viewer's face image or image information. First, the camera module 114 deletes the face area recognized by the broadcast program while showing the viewer's face to be captured on the screen through live view, and then horizontally flips it. By performing the above, the viewer's face is overlaid on the live view screen.

즉, 스티커 사진 촬영과 같이 방송 프로그램에서 인식된 얼굴 영역만 없는 상태이므로, 시청자는 얼굴 영역 부위에 자신의 얼굴을 이리저리 이동 시켜 맞춘 후, 촬영을 수행하게 되며, 촬영이 수행된 데이터를 제어부(106) 또는 얼굴인식부(112)로 전달하게 된다. That is, since only the face area recognized by the broadcast program is not in a state such as photographing a sticker, the viewer moves his or her face to and from the face area, and then takes a picture, and controls the photographed data. ) Or to the face recognition unit 112.

물론, 일반적으로 시청자의 사진 촬영 및 영상 촬영을 통하여 촬영된 데이터를 전달하는 것도 가능하다.Of course, in general, it is also possible to deliver the photographed data through photographing and image capturing of the viewer.

이에 대해서는 도 3을 통해 구체적으로 설명하도록 한다.This will be described in detail with reference to FIG. 3.

도 2는 본 발명의 실시예에 따른 얼굴 인식을 통한 시청자 얼굴의 합성 절차를 도시한 흐름도이다.2 is a flowchart illustrating a synthesis process of a viewer's face through face recognition according to an embodiment of the present invention.

도 2를 참조하면, 200단계에서 방송 수신부(102)를 통해 수신되어 영상 처리부(104)로부터 영상처리된 방송 데이터를 제어부(106)에서 전달받아 202단계를 통하여 메모리(108)에 저장하도록 한다.Referring to FIG. 2, in operation 200, broadcast data received through the broadcast receiving unit 102 and processed by the image processing unit 104 may be received by the controller 106 and stored in the memory 108 through operation 202.

이후, 204단계에서 제어부(106)에서는 제어신호의 제어하에 메모리(108)로부 터 저장된 방송 프로그램 중 특정 부분에 대한 영상 또는 이미지 데이터를 얼굴인식부(112)로 전달하게 되며, 이에 얼굴인식부(112)에서는 전달된 영상 또는 이미지 데이터에서 특정 배우의 얼굴을 인식하게 되며, 인식된 얼굴 영역을 확인하게 된다. In operation 204, the controller 106 transmits the image or image data of the specific part of the broadcast program stored from the memory 108 to the face recognition unit 112 under the control of the control signal. In 112, the face of a specific actor is recognized from the transferred image or image data, and the recognized face area is identified.

이후, 206단계에서는 얼굴인식부(112)로 입력된 시청자의 얼굴 이미지를 통해 얼굴 영역을 인식하고, 208단계에서 시청자의 얼굴 영역의 축소 및 확대, 세부적으로는 각각 상하/좌우에 대한 축소 및 확대를 통해 특정 배우의 얼굴 영역에 시청자의 얼굴 영역이 일치하도록 변환을 수행한다. In step 206, the face region is recognized through the face image of the viewer input to the face recognition unit 112. The conversion is performed so that the viewer's face area matches the face of the specific actor.

이후 210단계에서 특정 배우의 얼굴 영역에 시청자의 얼굴이 중첩되도록 합성을 수행하게 된다. 이에 212단계에서 합성이 완료된 경우에는 214단계로 진행하여 합성된 결과를 화면상에 디스플레이를 수행하게 된다. Thereafter, in step 210, the synthesis is performed such that the viewer's face overlaps the face of the specific actor. In step 212, when the synthesis is completed, the process proceeds to step 214 to display the synthesized result on the screen.

다만, 212단계에서 합성이 완료되지 않은 경우로서, 합성된 상태에 대해 시청자가 맘에 들지 않에 취소 제어 신호를 제어부(106)로 전달한 경우이거나, 얼굴인식부(112) 자체적으로 시청자의 얼굴변형을 수행하였으나, 오차 범위 내에 특정 배우의 얼굴 영역에 시청자의 얼굴이 일치하지 않을 경우에는 216단계로 진행하여 제어부(106)를 통해 시청자에게 다른 이미지를 요청하게 되며, 206단계로 복귀한다. However, when the synthesis is not completed in step 212, when the viewer does not like the synthesized state, the cancellation control signal is transmitted to the control unit 106, or the face recognition unit 112 itself transforms the viewer's face. If the viewer's face does not match the face of the specific actor within the error range, the controller proceeds to step 216 and requests the viewer another image through the control unit 106, and returns to step 206.

이에 206단계에서는 얼굴인식부(112)로 다른 얼굴 이미지가 전달된 경우, 이에 대한 얼굴 인식을 통하여 다시 특정 배우의 얼굴 영역에 인식된 얼굴 영역에 대한 매칭을 수행하게 된다. In step 206, when another face image is transferred to the face recognition unit 112, matching is performed on the face region recognized in the face region of the specific actor through face recognition.

도 3은 본 발명의 바람직한 실시예에 따른 영상 수신 및 출력 장치에서의 시청자 얼굴 촬영 절차를 도시한 흐름도이다.3 is a flowchart illustrating a viewer face photographing procedure in an image receiving and output device according to an exemplary embodiment of the present invention.

도 3을 참조하면, 300단계에서 카메라 모듈(114)에서는 제어부(106)의 제어하에 얼굴인식부(112)를 통해 얼굴 인식된 이미지에 대한 분석을 수행하여, 302단계에서 특정 배우의 얼굴이 인식된 이미지에 대한 수평 뒤집기를 수행한다. 즉, 시청자가 화면상에 보이는 모습을 토대로 카메라를 통해 촬영할 경우에는 좌우가 반대되게 보이기 때문에 카메라 모듈(114)에서 수평 뒤집기를 수행하여 특정 배우의 얼굴 영역에 시청자가 손쉽게 얼굴을 이동해가면, 촬영할 수 있도록 구현한다. Referring to FIG. 3, in operation 300, the camera module 114 analyzes a face recognized image through the face recognition unit 112 under the control of the controller 106, and recognizes the face of a specific actor in step 302. A horizontal flip on the drawn image. In other words, when the viewer shoots through the camera based on what the viewer sees on the screen, the left and right sides are reversed, so that the camera module 114 performs a horizontal flip so that the viewer can easily move the face to the face area of the specific actor. Implement so that

이에 304단계에서 수평 뒤집기 된 특정 배우의 이미지에서 얼굴 영역을 제거한 후, 사진 촬영 시 화면의 라이브뷰를 통해 입력되는 시청자의 얼굴이 특정 배우의 얼굴 영역에 나타나도록 보여주게 된다. 즉, 라이브뷰 화면상에 특정 배우의 얼굴 영역을 제외한 다른 영역을 라이브뷰 위헤 중첩되게 보여주도록 한다. Accordingly, after removing the face region from the image of the specific actor horizontally flipped in step 304, the viewer's face, which is input through the live view of the screen, is shown to appear in the face region of the specific actor. In other words, other regions except for the face of a specific actor are displayed on the live view.

이에 306단계에서 시청자의 얼굴 영역이 기 설정된 오차 범위내에 위치하는 경우, 308단계에서 자동으로 사진을 촬영할 수 있으며, 사용자가 리모콘 및 조작 패널을 통하여 입력한 제어신호를 토대로 사진 촬영을 수행할 수 있다. 이에 사진 촬영과 동시에 중첩되어 있는 특정 배우의 얼굴 영역에 시청자의 얼굴을 합성하게 된다. 그리고 합성된 결과는 310단계에서 화면상으로 시청자에게 디스플레이 된다. Accordingly, when the face region of the viewer is located within the preset error range in step 306, the user may automatically take a picture in step 308, and take a picture based on the control signal input by the user through the remote controller and the operation panel. . Accordingly, the viewer's face is synthesized in the face region of the specific actor which overlaps with the photographing. The synthesized result is displayed to the viewer on the screen in step 310.

다만, 306단계에서 매칭 결과 기 설정된 오차 범위 내에 들어 있지 않은 경우에는 312단계에서 화면 밝기 조절을 통해 아직 오차 범위가 아닌 경우, 어두운 밝기 상태에서 오차범위 내에 들어오는 경우 밝은 밝기 상태로 조절할 수 있으며, 색상 또한 전체적으로 채도 등을 어두운 상태에서 밝은 상태로 조절할 수 있다. 또한 음성안내를 통해 "좀 더 위치 이동을 수행해 주십시오", "정확합니다. 사진을 촬영하오니, 움직이지 마십시오."와 같은 안내 멘트를 제공할 수도 있다.However, if the matching result is not within the preset error range in step 306, the screen brightness is adjusted in step 312. If the error is not yet within the error range, if it is within the error range in the dark brightness state, the brightness may be adjusted. In addition, the overall saturation, etc. can be adjusted from dark to bright. You can also use voice guidance to provide announcements such as "Please move your location more", "Accurate. Take a picture, don't move."

이에 다시 306단계에서 매칭된 경우에는 308단계로 진행하여 이미지 합성을 수행하게 된다.If it is matched again at step 306, the process proceeds to step 308 to perform image composition.

이상 설명한 바와 같이, 본 발명은 영상 수신 및 출력장치를 통해 녹화된 영상 또는 정지이미지에서 특정 배우의 얼굴이미지를 인식한 후, 인식된 배우 얼굴에 시청자의 얼굴이미지를 자동으로 합성하는 것으로서, 시청자의 얼굴 이미지는 입력된 이미지를 이용하거나, 영상 수신 및 출력장치의 카메라를 통하여 촬영된 이미지를 이용한다.As described above, according to the present invention, after recognizing a face image of a specific actor in a recorded image or a still image through an image receiving and output device, the present invention automatically synthesizes the viewer's face image on the recognized actor's face. The face image uses an input image or an image captured by a camera of an image receiving and output device.

한편 본 발명의 상세한 설명에서는 구체적인 실시예에 관해 설명하였으나, 본 발명의 범위에서 벗어나지 않는 한도 내에서 여러 가지 변형이 가능함은 물론이다. 그러므로 본 발명의 범위는 설명된 실시예에 국한되지 않으며, 후술되는 특허청구의 범위뿐만 아니라 이 특허청구의 범위와 균등한 것들에 의해 정해져야 한다. While the present invention has been described in connection with what is presently considered to be the most practical and preferred embodiment, it is to be understood that the invention is not limited to the disclosed embodiments, but is capable of various modifications within the scope of the invention. Therefore, the scope of the present invention should not be limited to the described embodiments, but should be defined not only by the scope of the following claims, but also by those equivalent to the scope of the claims.

도 1은 본 발명의 실시예에 따른 얼굴 인식을 통한 시청자 얼굴 합성장치의 구조를 도시한 블록도,1 is a block diagram showing the structure of a viewer face synthesizing apparatus through face recognition according to an embodiment of the present invention;

도 2는 본 발명의 실시예에 따른 얼굴 인식을 통한 시청자 얼굴의 합성 절차를 도시한 흐름도,2 is a flowchart illustrating a synthesis process of a viewer's face through face recognition according to an embodiment of the present invention;

도 3은 본 발명의 바람직한 실시예에 따른 영상 수신 및 출력 장치에서의 시청자 얼굴 촬영 절차를 도시한 흐름도.3 is a flowchart illustrating a viewer face photographing procedure in an image receiving and output device according to a preferred embodiment of the present invention.

< 도면의 주요 부분에 대한 부호 설명 > <Explanation of Signs of Major Parts of Drawings>

102 : 방송 수신부 104 : 영상 처리부 102: broadcast receiving unit 104: image processing unit

106 : 제어부 108 : 메모리 106: control unit 108: memory

110 : 제어신호 입력부 112 : 얼굴인식부 110: control signal input unit 112: face recognition unit

114 : 카메라 모듈114: camera module

Claims (6)

영상 데이터의 프레임에서 인물의 얼굴을 인식하고, 상기 프레임에서 인식된 제1얼굴의 영역을 판단하고, 입력된 얼굴 이미지에서 얼굴을 인식한 후, 상기 얼굴 이미지에서 인식된 제2얼굴 영역을 상기 제1얼굴 영역에 매칭 시키는 얼굴인식부와,Recognizing a face of a person in a frame of image data, determining a region of a first face recognized in the frame, recognizing a face in an input face image, and then recognizing the second face region recognized in the face image. Face recognition unit to match 1 face area, 상기 프레임에서 인식된 제1얼굴 영역의 이미지를 제거한 후, 상기 얼굴 이미지에서 인식된 얼굴을 중첩시켜 합성하는 제어부A control unit which removes the image of the first face area recognized in the frame and then synthesizes the overlapped face in the face image 를 포함하는 방송 프로그램의 얼굴인식을 통한 이미지 합성 장치.Image synthesizing apparatus through face recognition of a broadcast program comprising a. 제 1항에 있어서, The method of claim 1, 상기 얼굴인식부는,The face recognition unit, 상기 얼굴 이미지에서 인식된 제2얼굴 영역의 축소 및 확대를 통하여 상기 프레임에서 인식된 제1얼굴 영역으로의 매칭을 수행하고, 기 설정된 오차 범위내로 매칭이 완료된 경우, 이를 상기 제어부로 전달하는 것을 특징으로 하는 방송 프로그램의 얼굴인식을 통한 이미지 합성 장치.Matching to the first face region recognized in the frame by reducing and enlarging the second face region recognized in the face image, and when matching is completed within a preset error range, it is transmitted to the controller. Image synthesizing apparatus through face recognition of a broadcast program. 제 1항에 있어서,The method of claim 1, 상기 이미지 합성 장치는,The image synthesizing apparatus, 상기 얼굴인식부로부터 전달된 프레임에서 인식된 이미지의 수평 뒤집기를 수행한 후, 수평 뒤집기된 이미지에서 인식된 제1얼굴 영역을 제거한 후, 촬영할 인물을 디스플레이하고, 촬영될 인물이 기 설정된 오차범위내로 상기 인식된 제1얼굴 영역에 위치하는 경우, 촬영을 수행하는 카메라 모듈을 포함하는 것을 특징으로 하는 방송 프로그램의 얼굴인식을 통한 이미지 합성 장치.After performing the horizontal flip of the image recognized in the frame transmitted from the face recognition unit, after removing the recognized first face area from the horizontal flipped image, the person to be photographed is displayed, and the person to be photographed is within a preset error range. When the camera is located in the recognized first face area, the image synthesizing apparatus through face recognition of a broadcast program, characterized in that it comprises a camera module for performing a shooting. 영상 데이터의 프레임에서 인물의 얼굴을 인식하여 제1얼굴 영역을 판단하는 과정과, Determining a first face area by recognizing a face of a person in a frame of image data; 입력된 얼굴 이미지에서 얼굴을 인식한 후, 상기 이미지에서 인식된 제2얼굴 영역을 상기 프레임에서 인식된 제1얼굴 영역에 매칭 시키는 과정과,Recognizing a face in the input face image, matching the second face region recognized in the image with the first face region recognized in the frame; 제1 및 제2 얼굴 영역 간 매칭이 되는 경우, 상기 프레임에서 인식된 제1얼굴 영역의 이미지를 제거한 후, 상기 얼굴 이미지에서 인식된 얼굴을 중첩시켜 합성하는 과정When matching between the first and second face regions, removing the image of the first face region recognized in the frame, and then overlapping the recognized face in the face image to synthesize 을 포함하는 방송 프로그램의 얼굴인식을 통한 이미지 합성 방법.Image synthesis method through the face recognition of a broadcast program comprising a. 제 4항에 있어서, The method of claim 4, wherein 상기 매칭 시키는 과정은,The matching process is, 상기 얼굴 이미지에서 인식된 제2얼굴 영역의 축소 및 확대를 통하여 상기 프레임에서 인식된 제1얼굴 영역으로의 매칭을 수행하는 과정과, Performing matching to the first facial region recognized in the frame by reducing and enlarging the second facial region recognized in the face image; 기 설정된 오차 범위내로 매칭이 가능한 경우, 이에 대한 합성을 수행하는 과정When matching is possible within a preset error range, a process of performing a synthesis 을 포함하는 것을 특징으로 하는 방송 프로그램의 얼굴인식을 통한 이미지 합성 방법.Image synthesis method through the face recognition of a broadcast program comprising a. 제 4항에 있어서,The method of claim 4, wherein 상기 입력된 얼굴 이미지는,The input face image is, 카메라 모듈에서 상기 프레임에서 인식된 이미지의 수평 뒤집기를 수행하는 과정과. Performing a horizontal flip of the image recognized in the frame by the camera module; 상기 뒤집기 된 이미지에서 인식된 제1얼굴 영역을 제거한 후, 촬영할 인물을 보여주는 과정과, Removing the recognized first face area from the flipped image and showing a person to be photographed; 촬영될 인물이 기 설정된 오차범위내로 상기 인식된 제1얼굴 영역에 위치하는 경우, 촬영을 수행하는 과정Performing photographing when the person to be photographed is located in the recognized first face area within a preset error range 을 통해 생성되는 이미지인 것을 특징으로 하는 방송 프로그램의 얼굴인식을 통한 이미지 합성 방법.Image synthesis method through the face recognition of a broadcast program, characterized in that the image generated through.
KR1020080118672A 2008-11-27 2008-11-27 Apparatus and method for compositing image using a face recognition of broadcasting program KR20100060176A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020080118672A KR20100060176A (en) 2008-11-27 2008-11-27 Apparatus and method for compositing image using a face recognition of broadcasting program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020080118672A KR20100060176A (en) 2008-11-27 2008-11-27 Apparatus and method for compositing image using a face recognition of broadcasting program

Publications (1)

Publication Number Publication Date
KR20100060176A true KR20100060176A (en) 2010-06-07

Family

ID=42361125

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020080118672A KR20100060176A (en) 2008-11-27 2008-11-27 Apparatus and method for compositing image using a face recognition of broadcasting program

Country Status (1)

Country Link
KR (1) KR20100060176A (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160012362A (en) * 2014-07-23 2016-02-03 서울특별시 Security system and the control method thereof
US9398251B2 (en) 2011-04-19 2016-07-19 Samsung Electronics Co., Ltd Apparatus and method for compositing image in a portable terminal
KR20210118428A (en) * 2019-01-18 2021-09-30 스냅 아이엔씨 Systems and methods for providing personalized video

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9398251B2 (en) 2011-04-19 2016-07-19 Samsung Electronics Co., Ltd Apparatus and method for compositing image in a portable terminal
US9792883B2 (en) 2011-04-19 2017-10-17 Samsung Electronics Co., Ltd Apparatus and method for compositing image in a portable terminal
US10482849B2 (en) 2011-04-19 2019-11-19 Samsung Electronics Co., Ltd Apparatus and method for compositing image in a portable terminal
KR20160012362A (en) * 2014-07-23 2016-02-03 서울특별시 Security system and the control method thereof
KR20210118428A (en) * 2019-01-18 2021-09-30 스냅 아이엔씨 Systems and methods for providing personalized video

Similar Documents

Publication Publication Date Title
KR100400167B1 (en) Portable terminal equipment having image capture function and implementation method thereof
US9836267B2 (en) Image/audio playback device of mobile communication terminal
KR101763887B1 (en) Contents synchronization apparatus and method for providing synchronized interaction
WO2018000227A1 (en) Video broadcast method and device
US11812100B2 (en) Apparatus, systems and methods for accessing information based on an image presented on a display
JP2006262484A (en) Method and apparatus for composing images during video communication
KR20130117032A (en) Device and method for controlling focus
CN112135155B (en) Audio and video connecting and converging method and device, electronic equipment and storage medium
KR20170090392A (en) Contents synchronization apparatus and method for providing synchronized interaction
US20130088561A1 (en) Television system and control method thereof
JP2010206265A (en) Device and method for controlling sound, data structure of stream, and stream generator
JP2007088959A (en) Image output apparatus and program
JP2009130816A (en) Portable terminal device, screen display switching method, program, and computer readable recording medium
KR20100060176A (en) Apparatus and method for compositing image using a face recognition of broadcasting program
KR20070076781A (en) Method and apparatus for data communication using settop-box
KR20070058896A (en) Method for generating a picture frame image using a screen capture function in digital multimedia broadcasting terminal
US11889125B2 (en) Omnidirectional media playback method and device and computer readable storage medium thereof
KR101306439B1 (en) Digital device having stereoscopic 3d contents projector and method of controlling the digital terminal device
JP2002010138A (en) Method for processing information and device therefor
KR20080017747A (en) A device having function editting of image and method thereof
JP2014107608A (en) Image display apparatus, image projection apparatus, image display system, and image display method
KR102255141B1 (en) Beam projector
US20230209102A1 (en) Electronic device and operating method therefor
KR100827142B1 (en) Apparatus and method for extracting video data in mobile terminal
KR101920640B1 (en) Video conference apparatus and method for operating the same

Legal Events

Date Code Title Description
WITN Application deemed withdrawn, e.g. because no request for examination was filed or no examination fee was paid