JP4569737B2 - Videophone device and videophone method - Google Patents

Videophone device and videophone method Download PDF

Info

Publication number
JP4569737B2
JP4569737B2 JP2003389368A JP2003389368A JP4569737B2 JP 4569737 B2 JP4569737 B2 JP 4569737B2 JP 2003389368 A JP2003389368 A JP 2003389368A JP 2003389368 A JP2003389368 A JP 2003389368A JP 4569737 B2 JP4569737 B2 JP 4569737B2
Authority
JP
Japan
Prior art keywords
face
face area
videophone
image
indicator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003389368A
Other languages
Japanese (ja)
Other versions
JP2005151430A (en
Inventor
寛泰 倉松
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2003389368A priority Critical patent/JP4569737B2/en
Publication of JP2005151430A publication Critical patent/JP2005151430A/en
Application granted granted Critical
Publication of JP4569737B2 publication Critical patent/JP4569737B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

本発明は、テレビ電話装置及びテレビ電話方法に関し、特に、携帯電話、携帯情報端末又はパーソナルコンピュータ等によって実現されるテレビ電話装置及びテレビ電話方法に関する。   The present invention relates to a videophone device and a videophone method, and more particularly to a videophone device and a videophone method realized by a mobile phone, a portable information terminal, a personal computer, or the like.

昨今、カメラ付き携帯電話が多く市場に出回っている。更に、ビデオ電話機能を備えた携帯電話も出ている。ビデオ電話は、相手の顔を見ながら、そして、自画像を相手に送りながら通話を楽しむことが出来る。   Nowadays, many mobile phones with camera are on the market. In addition, mobile phones with video phone functions are also available. Video calls allow you to enjoy a call while looking at the other person's face and sending a self-portrait to the other party.

なお、本願発明に関連する先行技術文献としては以下のものがある。
特開2002−010227号公報 特開2002−016896号公報 特開2003−018272号公報 特開平09−251534号公報
As prior art documents related to the invention of the present application, there are the following.
JP 2002-010227 A JP 2002-016896 A JP 2003-018272 A JP 09-251534 A

しかし、従来の技術には以下のような問題があった。   However, the conventional techniques have the following problems.

従来のビデオ携帯電話901は、相手画像951を表示するエリアに小さい自画像952を重ねて表示する方法(図1)や、相手画像951と自画像952を別エリアで表示する方法(図2)を用いている。従って、
(1)自画像が小さく見にくい。
The conventional video cellular phone 901 uses a method of displaying a small self-portrait 952 in an area for displaying the partner image 951 (FIG. 1) or a method of displaying the partner image 951 and the self-portrait 952 in different areas (FIG. 2). ing. Therefore,
(1) The self-portrait is small and difficult to see.

(2)相手画像に自画像が重なっている。   (2) The self-portrait overlaps the partner image.

(3)相手画像に視線をやると、自画像が見えなくなり、自分が画面に入らなくなる場合がある。   (3) If a line of sight is given to the other party's image, the self-portrait may not be seen and the user may not enter the screen.

(4)自画像に視線をやると、相手画像が見えない。
というような、問題があった。従って、ユーザは、相手画像と自画像とを交互に視線を動かす必要があった。
(4) When looking at the self-portrait, the partner image cannot be seen.
There was a problem. Therefore, the user has to move the line of sight alternately between the partner image and the self-portrait.

また、図3のように、相手画像を見るときには、視線は視線1のようになるが、自画像を見るときには、視線は視線2のように下方向に動く。これを相手から見ると下向き顔として映る。   Further, as shown in FIG. 3, when looking at the partner image, the line of sight looks like the line of sight 1, but when looking at the self-portrait, the line of sight moves downward like the line of sight 2. When viewed from the other party, it appears as a downward face.

そこで、本発明は、相手画像を見ながら自画像がカメラでどのように撮影されているかを確認することを可能とするテレビ電話装置およびテレビ電話方法を提供することを目的とする。   Therefore, an object of the present invention is to provide a videophone device and a videophone method that make it possible to check how a self-portrait is captured by a camera while looking at the partner image.

本発明の第1の観点によれば、カメラより入力した画像から該画像における通話者の領域を検出する顔領域検出手段と、表示部の上下左右に設けられたインジケータと、前記顔領域検出手段により検出された顔の領域がカメラアングルからはみ出ているか否かを判断し、はみ出している方向のインジケータの色をはみ出していない方向のインジケータの色と異ならせる手段と、を備えることを特徴とするテレビ電話装置が提供される。 According to a first aspect of the present invention, the face area detecting means from a more input image to the camera detects an area of the face of the caller in the image, and an indicator provided on the upper, lower, left and right display portions, said face Determining whether or not the face area detected by the area detecting means protrudes from the camera angle, and differentiating the color of the indicator in the protruding direction from the color of the indicator in the not protruding direction. A featured videophone device is provided.

本発明の第2の観点によれば、カメラにより入力した画像から該画像における通話者の顔の領域を検出する顔領域検出ステップと、表示部の上下左右に設けられたインジケータと、前記顔領域検出ステップにより検出された顔の領域がカメラアングルからはみ出ているか否かを判断し、はみ出している方向のインジケータの色をはみ出していない方向のインジケータの色と異ならせるステップと、を有することを特徴とするテレビ電話方法が提供される According to the second aspect of the present invention, a face area detecting step for detecting a face area of a caller in an image input by a camera, indicators provided on the top, bottom, left and right of the display unit, and the face area Determining whether or not the face area detected by the detection step protrudes from the camera angle, and differentiating the color of the indicator in the protruding direction from the color of the indicator in the protruding direction. A videophone method is provided .

本発明の効果は、相手画像に目位置印や顔輪郭表示を合成表示しなくても、つまり、制御部への負担をかけなくても顔位置を判断する表示をすることが可能なことである。 Effect of the present invention, even without combined and displayed eye position indicia or face contour displayed on the other party image, i.e., without applying load to the control unit that capable of the display to determine the face position is there.

その理由は、顔位置インジケータを相手画像の周囲に表示させることが可能となるからである。   This is because the face position indicator can be displayed around the partner image.

以下、図面を参照して本発明を実施するための最良の形態について詳細に説明する。   The best mode for carrying out the present invention will be described below in detail with reference to the drawings.

図4において、ビデオ機能付き携帯電話(以下、携帯電話)100を用いて、使用者が、ビデオ通話を行う際、画像入力部102から入力された画像(以下、自画像)から目の位置を検出し、通話相手から送られてくる画像(以下、相手画像)に、検出された目の位置を示す目位置印111を合成する。   In FIG. 4, when a user performs a video call using a mobile phone with video function (hereinafter referred to as a mobile phone) 100, the position of the eyes is detected from an image input from the image input unit 102 (hereinafter referred to as a self-portrait). Then, an eye position mark 111 indicating the position of the detected eye is synthesized with an image sent from the other party (hereinafter referred to as the other party image).

なお、図4には、折畳み型の携帯電話を示すが、この他リボルバー形の携帯電話、スライド形の携帯電話にも本発明を適用することができる。   FIG. 4 shows a foldable mobile phone, but the present invention can also be applied to a revolver type mobile phone and a slide type mobile phone.

図を参照しながら本発明の第1の実施形態について説明する。   A first embodiment of the present invention will be described with reference to the drawings.

図5に示すように本発明の携帯電話は、無線部201、カメラ等からなる画像入力部102、表示部103、制御部202、キースイッチ等からなる操作部104及びプログラムやデータを保存するメモリ部203を備える。主に本発明は、制御部202により行われる制御により実現される。   As shown in FIG. 5, the mobile phone of the present invention includes a wireless unit 201, an image input unit 102 including a camera, a display unit 103, a control unit 202, an operation unit 104 including a key switch, and a memory for storing programs and data. The unit 203 is provided. The present invention is mainly realized by the control performed by the control unit 202.

次に、図4、5及び6を参照して本実施形態の動作について詳細に説明する。ビデオ通話を楽しむ場合、符号化された相手画像はアンテナから無線部201へ入力され、復号化され制御部202へ入る。制御部202は、相手画像を表示部103に表示させる。一方、自画像は画像入力部102から取り込まれ、制御部202へ送られる。制御部202はそれを符号化し、無線部201を通して送信する。   Next, the operation of this embodiment will be described in detail with reference to FIGS. When enjoying a video call, the encoded partner image is input from the antenna to the wireless unit 201, decoded, and input to the control unit 202. The control unit 202 displays the partner image on the display unit 103. On the other hand, the self-portrait is taken from the image input unit 102 and sent to the control unit 202. The control unit 202 encodes it and transmits it through the wireless unit 201.

図6を参照すると、まず、自画像は画像入力部102から取り込まれる(ステップS601)。次に、特許文献4に記載の人物認証方法により顔領域を抽出する(ステップS602)。次に、抽出ができたな否かを判断し(ステップS603)、抽出できた場合には(ステップS603でNO)、目位置を検出する(ステップS604)。次に、検出された両目の中間の位置を示す「印」を相手画像に合成して表示する(ステップS605)。顔領域抽出ができなかった場合は(ステップS603でNO)、目位置印表示をオフにする(ステップS606)。この処理をビデオ通話中繰り返す。   Referring to FIG. 6, first, the self-portrait is captured from the image input unit 102 (step S601). Next, a face area is extracted by the person authentication method described in Patent Document 4 (step S602). Next, it is determined whether or not extraction is possible (step S603). If extraction is possible (NO in step S603), the eye position is detected (step S604). Next, a “mark” indicating the detected middle position between both eyes is combined with the partner image and displayed (step S605). If the face area cannot be extracted (NO in step S603), the eye position mark display is turned off (step S606). This process is repeated during a video call.

目位置印表示例を図4に示す。   An example of the eye position mark display is shown in FIG.

目位置印の形状は、○、□、+、☆等色々選択できる。ユーザが何れかの形状を選択できるようにしても良い。   Various shapes such as ◯, □, +, and ☆ can be selected for the shape of the eye position mark. The user may be able to select any shape.

また、顔領域を抽出できなかった場合は、目位置印をオフするのではなく、目位置印の色を変化させても良い。例えば、顔領域を抽出できたときには、目位置印を緑色で表示し、顔領域を抽出できなかったときには、目位置印を赤色で表示する。   If the face area cannot be extracted, the eye position mark may be changed instead of turning off the eye position mark. For example, when the face area can be extracted, the eye position mark is displayed in green, and when the face area cannot be extracted, the eye position mark is displayed in red.

更に、目位置印の大きさを、顔位置抽出で抽出した顔の面積に比例させたり、表示部103の大きさに比例させても良い。こうすることにより、携帯電話と顔と間の距離もユーザが視覚的に認識することが可能となる。   Further, the size of the eye position mark may be proportional to the face area extracted by the face position extraction or may be proportional to the size of the display unit 103. By doing so, the user can also visually recognize the distance between the mobile phone and the face.

次に、本発明の第2の実施形態について図7及び8を参照して説明する。第1の実施形態では、目位置の印を表示したが、その他にも、図6のように、顔位置抽出による「顔輪郭」を表示することも可能である。「顔輪郭」を表示する図形は、例えば、三角形、四角形、五角形、六角形、真円又は楕円等である。こうすることにより、ユーザは画面で自分の顔そのものを確認することはできないが、自分の顔がカメラアングルからはみ出ずに撮影され、相手に正しく送信され、相手が自分の顔の全部を見ているかどうかを確認することができる。   Next, a second embodiment of the present invention will be described with reference to FIGS. In the first embodiment, the mark of the eye position is displayed, but it is also possible to display a “face outline” by face position extraction as shown in FIG. The figure for displaying “face outline” is, for example, a triangle, a quadrangle, a pentagon, a hexagon, a perfect circle, or an ellipse. By doing this, the user cannot see his / her face on the screen, but his / her face is captured without being out of the camera angle, sent to the other party correctly, and the other party sees all of his / her face. You can check whether or not.

更に、図7のように、表示部103の輪郭部分の表示エリアを横棒インジータと縦棒インジケータで表すことも可能である。また、表示部の上下左右に枠の形状のインジケータを表示し、例えば、抽出された顔が右側にはみ出ている場合には、右枠のインジケータを赤色で表示し、他の枠のインジケータを緑色で表示するようにする。また、抽出された顔が右下にはみ出ている場合は、右枠のインジケータ及び下枠のインジケータを赤色で表示し、他の枠のインジケータを緑色で表示するようにする。このようにして、自分の顔がどの方向にはみ出ているかをユーザが認識できるようにしても良い。こうすることにより、ユーザは画面で自分の顔そのものを確認することはできないが、自分の顔がカメラアングルからはみ出ずに撮影され、相手に正しく送信され、相手が自分の顔の全部を見ているかを確認することができる。   Furthermore, as shown in FIG. 7, the display area of the contour portion of the display unit 103 can be represented by a horizontal bar indicator and a vertical bar indicator. Also, frame shape indicators are displayed on the top, bottom, left, and right of the display section.For example, when the extracted face protrudes to the right, the right frame indicator is displayed in red and the other frame indicators are green. To display. If the extracted face protrudes to the lower right, the right frame indicator and the lower frame indicator are displayed in red, and the other frame indicators are displayed in green. In this way, the user may be able to recognize in which direction his face protrudes. By doing this, the user cannot see his / her face on the screen, but his / her face is captured without being out of the camera angle, sent to the other party correctly, and the other party sees all of his / her face. Can be confirmed.

また、自分の視線位置を表す目位置印と自分の顔の輪郭を示す円又は枠の両者を画面に表示するようにしても良い。こうすることにより、ユーザは、自分の視線の位置と自分の顔の位置の両者を確認することができる。   Further, both an eye position mark indicating the position of the user's line of sight and a circle or a frame indicating the contour of the face of the user may be displayed on the screen. By doing so, the user can confirm both the position of his / her line of sight and the position of his / her face.

なお、上記の実施形態においては、携帯電話を用いたテレビ電話を例に取り説明したが、本発明は、カメラを備えたPDA(Personal Digital Assistant)等の携帯情報端末を用いたテレビ電話、カメラを装着したパーソナルコンピュータを用いたテレビ電話等にも適用することができる。   In the above embodiment, a videophone using a mobile phone has been described as an example. However, the present invention is not limited to a videophone or camera using a portable information terminal such as a PDA (Personal Digital Assistant) equipped with a camera. The present invention can also be applied to a videophone using a personal computer equipped with the.

本発明はテレビ電話に利用することができる。   The present invention can be used for a videophone.

従来例による携帯電話が表示する画面を示す第1の図である。It is a 1st figure which shows the screen which the mobile telephone by a prior art example displays. 従来例による携帯電話が表示する画面を示す第2の図である。It is a 2nd figure which shows the screen which the mobile telephone by a prior art example displays. 携帯電話のユーザの視線を説明するための図である。It is a figure for demonstrating the eyes | visual_axis of the user of a mobile telephone. 本発明の実施形態による携帯電話が表示する画面を示す第1の図である。It is a 1st figure which shows the screen which the mobile telephone by embodiment of this invention displays. 本発明の実施形態による携帯電話の構成を示すブロック図である。It is a block diagram which shows the structure of the mobile telephone by embodiment of this invention. 本発明の実施形態による携帯電話が行うテレビ電話方法を示すフローチャートである。4 is a flowchart illustrating a videophone method performed by the mobile phone according to the embodiment of the present invention. 本発明の実施形態による携帯電話が表示する画面を示す第2の図である。It is a 2nd figure which shows the screen which the mobile telephone by embodiment of this invention displays. 本発明の実施形態による携帯電話が表示する画面を示す第3の図である。It is the 3rd figure which shows the screen which the mobile telephone by embodiment of this invention displays.

符号の説明Explanation of symbols

101 携帯電話
102 画像入力部
103 表示部
104 操作部
201 無線部
202 制御部
203 メモリ部
DESCRIPTION OF SYMBOLS 101 Mobile phone 102 Image input part 103 Display part 104 Operation part 201 Radio | wireless part 202 Control part 203 Memory part

Claims (2)

カメラにより入力した画像から該画像における通話者の顔の領域を検出する顔領域検出手段と、Face area detection means for detecting a face area of a caller in the image from an image input by a camera;
表示部の上下左右に設けられたインジケータと、  Indicators provided on the top, bottom, left and right of the display unit,
前記顔領域検出手段により検出された顔の領域がカメラアングルからはみ出ているか否かを判断し、はみ出している方向のインジケータの色をはみ出していない方向のインジケータの色と異ならせる手段と、  Means for determining whether or not the face area detected by the face area detection means protrudes from the camera angle, and makes the color of the indicator in the protruding direction different from the color of the indicator in the direction not protruding;
を備えることを特徴とするテレビ電話装置。  A videophone device comprising:
カメラにより入力した画像から該画像における通話者の顔の領域を検出する顔領域検出ステップと、  A face area detecting step for detecting a face area of a caller in the image from an image input by a camera;
表示部の上下左右に設けられたインジケータと、  Indicators provided on the top, bottom, left and right of the display unit,
前記顔領域検出ステップにより検出された顔の領域がカメラアングルからはみ出ているか否かを判断し、はみ出している方向のインジケータの色をはみ出していない方向のインジケータの色と異ならせるステップと、  Determining whether or not the face area detected by the face area detection step protrudes from the camera angle, and making the color of the indicator in the protruding direction different from the color of the indicator in the direction not protruding;
を有することを特徴とするテレビ電話方法。  A videophone method characterized by comprising:
JP2003389368A 2003-11-19 2003-11-19 Videophone device and videophone method Expired - Fee Related JP4569737B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003389368A JP4569737B2 (en) 2003-11-19 2003-11-19 Videophone device and videophone method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003389368A JP4569737B2 (en) 2003-11-19 2003-11-19 Videophone device and videophone method

Publications (2)

Publication Number Publication Date
JP2005151430A JP2005151430A (en) 2005-06-09
JP4569737B2 true JP4569737B2 (en) 2010-10-27

Family

ID=34696142

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003389368A Expired - Fee Related JP4569737B2 (en) 2003-11-19 2003-11-19 Videophone device and videophone method

Country Status (1)

Country Link
JP (1) JP4569737B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010070820A1 (en) * 2008-12-17 2010-06-24 パナソニック株式会社 Image communication device and image communication method
JP2015119424A (en) * 2013-12-19 2015-06-25 カシオ計算機株式会社 Communication display device, communication display method and program
KR20170111010A (en) * 2016-03-25 2017-10-12 주식회사 비주얼캠프 System and method for video call using virtual image, and relaying server for executing the same

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0341885A (en) * 1989-07-10 1991-02-22 Nippon Telegr & Teleph Corp <Ntt> Portrait transmission system
JPH08251561A (en) * 1995-03-09 1996-09-27 Nec Corp User interface of image communication, terminal device
JP2000156849A (en) * 1998-06-29 2000-06-06 Toshiba Corp Portable information terminal equipment
JP2002051316A (en) * 2000-05-22 2002-02-15 Matsushita Electric Ind Co Ltd Image communication terminal

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0341885A (en) * 1989-07-10 1991-02-22 Nippon Telegr & Teleph Corp <Ntt> Portrait transmission system
JPH08251561A (en) * 1995-03-09 1996-09-27 Nec Corp User interface of image communication, terminal device
JP2000156849A (en) * 1998-06-29 2000-06-06 Toshiba Corp Portable information terminal equipment
JP2002051316A (en) * 2000-05-22 2002-02-15 Matsushita Electric Ind Co Ltd Image communication terminal

Also Published As

Publication number Publication date
JP2005151430A (en) 2005-06-09

Similar Documents

Publication Publication Date Title
US7085590B2 (en) Mobile terminal with ergonomic imaging functions
JP4691697B2 (en) Electronic device and program
US20100053212A1 (en) Portable device having image overlay function and method of overlaying image in portable device
KR100703364B1 (en) Method of displaying video call image
US8913990B2 (en) Mobile terminal and locked state cancelling method
US9531949B2 (en) Mobile terminal and ineffective region setting method
JP5598232B2 (en) Information processing apparatus, information processing system, and information processing method
JP2007124025A (en) Portable telephone
US7664531B2 (en) Communication method
CN113163052B (en) Emergency call method and electronic equipment
EP3118847B1 (en) Image displaying method, image displaying device, computer program and recording medium
JP3888667B2 (en) Multi-person communication device
JP4569737B2 (en) Videophone device and videophone method
JP2009005254A (en) Video transmission apparatus and video receiving apparatus
US20120184246A1 (en) Mobile communication device, display control method, and display control program
JP2011028263A (en) Electronic equipment and program
KR100815121B1 (en) Method for magnifying of selected area using screen division in portable communication terminal
JP6542451B2 (en) Electronics
JP5488677B2 (en) Electronic device and program
JP2007180914A (en) Mobile phone with image enlargement display function, image enlarging and display method, image enlargement display program and its recording medium
KR101378656B1 (en) Apparatus and method for automatically switching function of input and output depending on the direction of the mobile communication terminal
JP4061534B2 (en) System and method for responding to direction of human face by pressing direction key
KR101145681B1 (en) Handy terminal and driving method therefore
KR100628135B1 (en) Method for notifying missed call in mobile terminal
US8761837B2 (en) Communication device, communication history display method, and computer-readable recording medium recorded with communication history display program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061013

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20080423

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090729

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090803

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090914

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100128

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100714

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100727

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130820

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees