JP5272826B2 - Call determination apparatus, method thereof, and program - Google Patents

Call determination apparatus, method thereof, and program Download PDF

Info

Publication number
JP5272826B2
JP5272826B2 JP2009066403A JP2009066403A JP5272826B2 JP 5272826 B2 JP5272826 B2 JP 5272826B2 JP 2009066403 A JP2009066403 A JP 2009066403A JP 2009066403 A JP2009066403 A JP 2009066403A JP 5272826 B2 JP5272826 B2 JP 5272826B2
Authority
JP
Japan
Prior art keywords
call
mobile phone
face
call determination
hand
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009066403A
Other languages
Japanese (ja)
Other versions
JP2010218392A (en
Inventor
章吾 門川
信二 滋野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2009066403A priority Critical patent/JP5272826B2/en
Publication of JP2010218392A publication Critical patent/JP2010218392A/en
Application granted granted Critical
Publication of JP5272826B2 publication Critical patent/JP5272826B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide a phone call decision device and the like for determining whether an imaging subject person is talking on a mobile phone by analyzing image information of the imaging subject person. <P>SOLUTION: The device includes a face detection unit 320 which detects the face of an operator 101 from image information taken by a camera 120; a hand area specification unit 330 which specifies an image area of hand in a call state of mobile phone based on the detected face position; and a call decision unit 340 which determines whether the operator 101 is talking on the mobile phone 140 based on the change quantity of pixel value in the specified hand area. <P>COPYRIGHT: (C)2010,JPO&amp;INPIT

Description

本発明は、携帯電話の通話中を判定する通話判定装置に関する。   The present invention relates to a call determination device for determining whether a mobile phone is busy.

銀行のATMにおいて、携帯電話でATMの操作を誘導する振り込め詐欺が問題となっている。そこで、ATM付近で妨害電波を流し、携帯電話の使用を禁止したり、ATM付近での音声を検知し、犯人と会話する際に使用される複数のキーワードに基づいて警告を行う等の対策がなされている。   In bank ATMs, wire fraud, which guides ATM operations with mobile phones, is a problem. Therefore, measures such as sending jamming radio waves near ATMs, prohibiting the use of mobile phones, detecting voices near ATMs, and giving warnings based on multiple keywords used when talking to criminals. Has been made.

また、画像処理により人物の手の形状や操作の様子を解析する技術が開示されている(例えば、特許文献1又は2を参照)。   In addition, a technique for analyzing the shape of a person's hand and the state of operation by image processing is disclosed (for example, see Patent Document 1 or 2).

特許第3863809号公報Japanese Patent No. 3863809 特表2002−503856号公報Special Table 2002-503856 gazette

しかしながら、ATM付近で妨害電波を流して携帯電話を使用できなくすると、その周囲の携帯電話が一律に使用できなくなり、ATMの操作者以外の人は不都合を感じてしまう。また、受信待ちもできなくなるため、緊急の連絡等を着信することができなくなってしまうという問題がある。また、ATM付近での音声を検知し、犯人と会話する際に使用される複数のキーワードに基づいて警告すると、ATM操作者の発声である否かが不明であることや、プライバシー侵害になる可能性があるという問題がある。従って、ATMの操作者に限定して携帯電話の使用中の判定を行う必要がある。   However, if the mobile phone cannot be used by causing jamming radio waves in the vicinity of the ATM, the surrounding mobile phone cannot be used uniformly, and people other than the ATM operator will feel inconvenience. In addition, since it is impossible to wait for reception, there is a problem that it is impossible to receive an emergency contact or the like. Also, if the voice near the ATM is detected and a warning is made based on a plurality of keywords used when talking to the criminal, it may be unclear whether the voice is from the ATM operator or privacy infringement may occur. There is a problem of having sex. Therefore, it is necessary to determine whether the mobile phone is in use only for an ATM operator.

特許文献1に示す技術は、手の画像から肌色部を抽出するため、手袋をしている場合等には、手を認識することができないという課題を有する。また、入力画像に手が撮像されていることが前提であるため、ATM操作のように操作者を撮像した画像から手を検出するような機能を備えていないという課題を有する。   The technique shown in Patent Document 1 has a problem that a hand cannot be recognized when a glove is worn because a skin color portion is extracted from an image of a hand. Further, since it is assumed that a hand is captured in the input image, there is a problem that a function for detecting a hand from an image captured of the operator, such as an ATM operation, is not provided.

特許文献2に示す技術は、予め決められたパターンと比較して認識を行うため、想定されるパターンを事前に登録しなければならないという課題を有する。また、手の様子それだけ、又は手に持つべき物体(例えば、電話の受話器)と一緒に認識するが、電話を掛けているか否かまでは判定することができず、電話の受話器を手に持つだけで電話を掛けていると認識されてしまう可能性がある。   The technique shown in Patent Document 2 has a problem that an assumed pattern must be registered in advance in order to perform recognition in comparison with a predetermined pattern. In addition, it recognizes the state of the hand as it is or together with the object to be held in the hand (for example, a telephone handset), but it cannot be determined whether or not the telephone is on, and the handset of the telephone is held. It may be recognized that you are making a phone call.

なお、車の運転中における携帯電話の使用による事故も問題となっている。
そこで、本発明は上記課題を解決するためになされたものであり、撮像対象者の画像情報を解析して、携帯電話の通話中であるか否かを判定する通話判定装置等を提供することを目的とする。
An accident caused by the use of a mobile phone while driving a car is also a problem.
Accordingly, the present invention has been made to solve the above-described problems, and provides a call determination device that analyzes image information of a person to be imaged and determines whether or not a mobile phone call is in progress. With the goal.

本願に開示する通話判定装置は、カメラで撮像された撮像情報から撮像対象者の顔を検出する顔検出手段を備える。また、顔検出手段が検出した顔の位置に基づいて、携帯電話の通話状態における手の撮像領域を特定する手領域特定手段を備える。さらに、手領域特定手段が特定した撮像領域における画素値の変化量に基づいて、撮像対象者が携帯電話の通話中であるか否かを判定する通話判定手段を備える。   A call determination device disclosed in the present application includes a face detection unit that detects a face of a person to be imaged from image information captured by a camera. In addition, hand region specifying means for specifying an imaging region of a hand in a call state of the mobile phone based on the face position detected by the face detecting means is provided. Furthermore, a call determination unit that determines whether or not the person to be imaged is talking on a mobile phone based on the amount of change in the pixel value in the imaging region specified by the hand region specifying unit.

このように、本願に開示する通話判定装置においては、顔の位置に基づいて携帯電話の通話中における手の撮像領域を特定し、当該手の撮像領域の変化量に基づいて通話中を判定するため、通話中であることを正確に認識することができるという効果を奏する。   As described above, in the call determination device disclosed in the present application, the imaging region of the hand during a mobile phone call is specified based on the face position, and the call is determined based on the amount of change in the imaging region of the hand. Therefore, there is an effect that it is possible to accurately recognize that the call is in progress.

第1の実施形態に係る通話判定装置を用いた通話中検知システムのシステム構成図である。1 is a system configuration diagram of a busy detection system using a call determination device according to a first embodiment. 第1の実施形態に係る通話判定装置のハードウェア構成図である。It is a hardware block diagram of the telephone call determination apparatus which concerns on 1st Embodiment. 第1の実施形態に係る通話判定装置の機能ブロック図である。It is a functional block diagram of the call determination device according to the first embodiment. 第1の実施形態に係る通話判定装置の動作を示すフローチャートである。It is a flowchart which shows operation | movement of the telephone call determination apparatus which concerns on 1st Embodiment. 第1の実施形態に係る通話判定装置の顔検出処理を示すフローチャートである。It is a flowchart which shows the face detection process of the telephone call determination apparatus which concerns on 1st Embodiment. 第1の実施形態に係る通話判定装置の手の領域を特定する処理を示すフローチャートである。It is a flowchart which shows the process which pinpoints the area | region of the hand of the telephone call determination apparatus which concerns on 1st Embodiment. 第1の実施形態に係る通話判定装置において特定した手の領域を示す図である。It is a figure which shows the area | region of the hand specified in the telephone call determination apparatus which concerns on 1st Embodiment. 第1の実施形態に係る通話判定装置の携帯電話の通話中を判定する処理を示すフローチャートである。It is a flowchart which shows the process which determines during the call of the mobile telephone of the call determination apparatus which concerns on 1st Embodiment. 第1の実施形態に係る通話判定装置において曲線成分、線分の端点、平行成分、及び「C」形状を抽出した場合を示す図である。It is a figure which shows the case where the curve component, the end point of a line segment, a parallel component, and "C" shape are extracted in the telephone call determination apparatus which concerns on 1st Embodiment. 第1の実施形態に係る通話判定装置においてC形状の色調とC形状の中心の色調との差異を抽出した場合を示す図である。It is a figure which shows the case where the difference of the color tone of C shape and the color tone of the center of C shape is extracted in the telephone call determination apparatus which concerns on 1st Embodiment.

以下、本発明の実施の形態を説明する。本発明は多くの異なる形態で実施可能である。従って、本実施形態の記載内容のみで本発明を解釈すべきではない。また、本実施形態の全体を通して同じ要素には同じ符号を付けている。   Embodiments of the present invention will be described below. The present invention can be implemented in many different forms. Therefore, the present invention should not be construed based only on the description of the present embodiment. Also, the same reference numerals are given to the same elements throughout the present embodiment.

以下の実施の形態では、主に装置について説明するが、所謂当業者であれば明らかな通り、本発明は方法、及び、コンピュータを動作させるためのプログラムとしても実施できる。また、本発明はハードウェア、ソフトウェア、または、ハードウェア及びソフトウェアの実施形態で実施可能である。プログラムは、ハードディスク、CD−ROM、DVD−ROM、光記憶装置、または、磁気記憶装置等の任意のコンピュータ可読媒体に記録できる。さらに、プログラムはネットワークを介した他のコンピュータに記録することができる。   In the following embodiments, the apparatus will be mainly described. However, as is apparent to those skilled in the art, the present invention can also be implemented as a method and a program for operating a computer. In addition, the present invention can be implemented in hardware, software, or hardware and software embodiments. The program can be recorded on any computer-readable medium such as a hard disk, CD-ROM, DVD-ROM, optical storage device, or magnetic storage device. Furthermore, the program can be recorded on another computer via a network.

(本発明の第1の実施形態)
本実施形態に係る通話判定装置について図1ないし図10を用いて説明する。
(1.構成)
図1は、本実施形態に係る通話判定装置を用いた通話中検知システムのシステム構成図である。通話中検知システム100は、通話判定装置110とカメラ120とATM130とを備える。カメラ120は、操作者101がATM130を操作している様子を撮像する。撮像された撮像情報は、通話判定装置110に送信され画像解析される。画像解析の結果、操作者101が携帯電話140で通話中である場合は、ATM130や、図示しないが管理者102が使用する端末等にその旨が報知される。操作者101は、報知された情報に基づいて携帯電話140で継続して通話するか、即座に携帯電話140を切る。また、管理者102が操作者101に直接通話の中断を求めてもよい。
(First embodiment of the present invention)
A call determination device according to the present embodiment will be described with reference to FIGS.
(1. Configuration)
FIG. 1 is a system configuration diagram of a during-call detection system using the call determination device according to the present embodiment. The call detection system 100 includes a call determination device 110, a camera 120, and an ATM 130. The camera 120 captures an image of the operator 101 operating the ATM 130. The captured image information is transmitted to the call determination device 110 for image analysis. As a result of the image analysis, when the operator 101 is talking on the mobile phone 140, the fact is notified to the ATM 130 or a terminal used by the administrator 102 (not shown). Based on the notified information, the operator 101 continues a call with the mobile phone 140 or immediately hangs up the mobile phone 140. Further, the administrator 102 may request the operator 101 to interrupt the call directly.

図2は、本実施形態に係る通話判定装置のハードウェア構成図である。通話判定装置は、CPU210、RAM220、ROM230、ハードディスク(HDとする)240、通信I/F250、及び入出力I/F260を備える。ROM230やHD240には、オペレーティングシステム(OSとする)や各種プログラム等が格納されており、必要に応じてRAM220に読み出され、CPU210により各プログラムが実行される。通信I/F250は、他の装置(ここでは、カメラ120やATM130)と通信を行うためのインタフェースである。入出力I/F260は、キーボードやマウス等からの入力を受け付けたり、プリンタやディスプレイ、スピーカ等にデータを出力するためのインタフェースである。この入出力I/F260としてUSBやRS232C等が用いられる。また、必要に応じて、光磁気ディスク、フロッピーディスク(登録商標)、CD−R、DVD−R等のリムーバブルディスクに対応したドライブを接続することができる。   FIG. 2 is a hardware configuration diagram of the call determination device according to the present embodiment. The call determination device includes a CPU 210, a RAM 220, a ROM 230, a hard disk (HD) 240, a communication I / F 250, and an input / output I / F 260. The ROM 230 and the HD 240 store an operating system (referred to as an OS), various programs, and the like, which are read into the RAM 220 as necessary, and are executed by the CPU 210. The communication I / F 250 is an interface for communicating with other devices (here, the camera 120 and the ATM 130). The input / output I / F 260 is an interface for receiving input from a keyboard, a mouse, and the like, and outputting data to a printer, a display, a speaker, and the like. As this input / output I / F 260, USB, RS232C, or the like is used. Further, if necessary, a drive corresponding to a removable disk such as a magneto-optical disk, a floppy disk (registered trademark), a CD-R, or a DVD-R can be connected.

図3は、本実施形態に係る通話判定装置の機能ブロック図である。通話判定装置110は、撮像情報入力部310と顔検出部320と手領域特定部330と通話判定部340と通話中報知部350と撮像情報部360と判定条件情報部370とを備える。   FIG. 3 is a functional block diagram of the call determination device according to the present embodiment. The call determination device 110 includes an imaging information input unit 310, a face detection unit 320, a hand region specification unit 330, a call determination unit 340, a calling notification unit 350, an imaging information unit 360, and a determination condition information unit 370.

撮像情報入力部310は、カメラ120が撮像した撮像情報301を入力し、撮像情報部360に格納する処理を行う。顔検出部320は、撮像情報部360に格納された撮像情報に基づいて操作者101の顔領域、及び/又は顔部位を検出する。   The imaging information input unit 310 performs processing for inputting the imaging information 301 captured by the camera 120 and storing it in the imaging information unit 360. The face detection unit 320 detects the face area and / or face part of the operator 101 based on the imaging information stored in the imaging information unit 360.

検出された顔領域、及び/又は顔部位に基づいて、手領域特定部330が、操作者101が携帯電話140で通話している状態における手の領域を特定する。操作者101が携帯電話140で通話している場合、携帯電話140を手に持ち、受話口に耳をあて、送話口は下方(口の近く)に向けあてがう状態となる。つまり、操作者101の耳付近から口元にかけての領域が手の領域として特定される。   Based on the detected face area and / or face part, the hand area specifying unit 330 specifies the hand area when the operator 101 is talking on the mobile phone 140. When the operator 101 is talking on the mobile phone 140, the mobile phone 140 is held in his hand, his ear is placed on the earpiece, and the mouthpiece is placed downward (near the mouth). That is, the region from the vicinity of the ear of the operator 101 to the mouth is specified as the hand region.

通話判定部340は、判定条件情報部370にて設定されている判定条件に基づいて、特定された手の領域を画像解析して、操作者101が携帯電話140で通話中であるか否かを判定する。携帯電話140で通話している特徴として、手の領域において以下の特徴が考えられる。(1)所定の大きさ以上の領域で背景との変化が生じる。(2)携帯電話140を掴むための手の形状により多くの曲線成分、線分の端点、平行成分が存在する。(3)携帯電話を掴むことによる略円形状の「C」型成分が存在する。(4)「C」型の中心部に携帯電話140の色相が存在する。通話判定部340は、上記(1)ないし(4)の特徴を総合的に判断して、携帯電話140の通話中を判定する。   The call determination unit 340 analyzes the image of the identified hand region based on the determination condition set in the determination condition information unit 370 and determines whether or not the operator 101 is talking on the mobile phone 140. Determine. The following features can be considered in the hand area as features of the mobile phone 140. (1) A change from the background occurs in an area having a predetermined size or more. (2) There are many curve components, end points of line segments, and parallel components due to the shape of the hand for holding the mobile phone 140. (3) There is a substantially circular “C” -shaped component by gripping the mobile phone. (4) The hue of the mobile phone 140 exists in the center of the “C” type. The call determination unit 340 comprehensively determines the characteristics (1) to (4) above, and determines whether the mobile phone 140 is busy.

通話中報知部350は、通話判定部340にて操作者101が携帯電話140を用いて通話中であると判定した場合に、その旨、又は警告を報知する。報知は、ATM120の表示パネル302、及び/又はスピーカ303を通してなされる。   When the call determination unit 340 determines that the operator 101 is busy using the mobile phone 140 in the call determination unit 340, the call notification unit 350 notifies that fact or a warning. The notification is made through the display panel 302 and / or the speaker 303 of the ATM 120.

なお、操作者101が、例えばお年寄り等で報知の意図が把握できないような場合には、管理者102が操作者101に直接説明して、振り込め詐欺等を事前に防止するようにしてもよい。
また、振り込め詐欺の確率が高い場合には、ATM120の振込み機能を停止させてもよい。
In addition, when the operator 101 cannot grasp the intention of notification by, for example, an elderly person, the administrator 102 may directly explain to the operator 101 to prevent a transfer fraud or the like in advance. .
Moreover, when the probability of a transfer fraud is high, the transfer function of the ATM 120 may be stopped.

(2.動作)
図4は、本実施形態に係る通話判定装置の動作を示すフローチャートである。まず、ATM120に設置されたカメラ120で操作者101を撮像する(ステップS401)。撮像された撮像情報301を撮像情報入力部310が入力する(ステップS402)。入力された撮像情報に基づいて、顔検出部320が操作者101の顔領域、及び/又は顔部位を検出する(ステップS403)。
(2. Operation)
FIG. 4 is a flowchart showing the operation of the call determination device according to the present embodiment. First, the operator 101 is imaged with the camera 120 installed in ATM120 (step S401). The imaging information input unit 310 inputs the captured imaging information 301 (step S402). Based on the input imaging information, the face detection unit 320 detects the face area and / or face part of the operator 101 (step S403).

ここで、顔領域、及び/又は顔部位の検出について説明する。図5は、本実施形態に係る通話判定装置の顔検出処理を示すフローチャートである。まず、顔領域を検出する(ステップS501)。この顔領域を検出する処理は、既に開示されている技術(例えば、特許第4204336号公報、WO2006/087791号公報、WO2006/087789号公報を参照)を用いて行うことができ、ここでは詳細な説明を省略する。   Here, detection of a face region and / or a face part will be described. FIG. 5 is a flowchart showing face detection processing of the call determination device according to the present embodiment. First, a face area is detected (step S501). The process of detecting the face area can be performed using a technique that has already been disclosed (for example, refer to Japanese Patent No. 4204336, WO 2006/087771, and WO 2006/087789). Description is omitted.

顔領域が検出されると、鼻の位置を検出する(ステップS502)。この鼻の位置を検出する処理は、既に開示されている技術(例えば、特許第4204336号公報、WO2006/090449号公報を参照)を用いて行うことができ、ここでは詳細な説明を省略する。   When the face area is detected, the position of the nose is detected (step S502). The process of detecting the position of the nose can be performed using a technique that has already been disclosed (for example, refer to Japanese Patent No. 4204336 and WO 2006/090449), and detailed description thereof is omitted here.

次に、右眼、及び左眼を検出する(ステップS503)。この眼を検出する処理は、既に開示されている技術(例えば、特開2004−234494号公報を参照)を用いて行うことができ、ここでは詳細な説明を省略する。   Next, the right eye and the left eye are detected (step S503). This eye detection process can be performed using a technique that has already been disclosed (for example, see Japanese Patent Application Laid-Open No. 2004-234494), and detailed description thereof is omitted here.

そして、検出した顔領域、鼻、眼の位置関係に基づいて顔向き(角度)を算出する(ステップS504)。顔向きの算出では、左右の向き角度(Yaw角)、上下の向き角度(Pitch角)、傾き角度(Roll角)が算出される。この顔向きを算出する処理は、既に開示されている技術(例えば、特許第4204336号公報)を用いて行うことができ、ここでは詳細な説明を省略する。   Then, the face orientation (angle) is calculated based on the detected positional relationship between the face area, nose, and eyes (step S504). In the calculation of the face orientation, left and right orientation angles (Yaw angles), vertical orientation angles (Pitch angles), and tilt angles (Roll angles) are calculated. The process of calculating the face orientation can be performed using a technique that has already been disclosed (for example, Japanese Patent No. 4204336), and detailed description thereof is omitted here.

図4に戻って、ステップS403で顔領域、及び/又は顔部位を検出すると、操作者101が携帯電話140で通話中の状態における手の領域を手領域特定部330が特定する(ステップS404)。   Returning to FIG. 4, when a face area and / or a face part is detected in step S403, the hand area specifying unit 330 specifies the hand area when the operator 101 is talking on the mobile phone 140 (step S404). .

ここで、手の領域の特定について説明する。図6は、本実施形態に係る通話判定装置の手の領域を特定する処理を示すフローチャートである。まず、顔部位(眼、鼻等)が検出されたかどうかを判定する(ステップS601)。顔部位が検出されている場合は、顔部位、及び顔向き角度を用いて左手側の手の領域を特定し(ステップS602)、さらに右手側の手の領域を特定する(ステップS603)。顔部位が検出されていない場合は、顔領域を用いて左手側の手の領域を特定し(ステップS604)、さらに右手側の手の領域を特定して(ステップS605)、手の領域を特定する処理を終了する。   Here, the specification of the hand region will be described. FIG. 6 is a flowchart showing processing for specifying a hand region of the call determination device according to the present embodiment. First, it is determined whether or not a face part (eye, nose, etc.) has been detected (step S601). If a face part is detected, the hand part on the left hand side is specified using the face part and the face orientation angle (step S602), and the hand part on the right hand side is further specified (step S603). If the face part is not detected, the hand region on the left hand side is specified using the face region (step S604), the hand region on the right hand side is further specified (step S605), and the hand region is specified. To finish the processing.

図7は、本実施形態に係る通話判定装置において特定した手の領域を示す図である。図7(a)は、顔部位が検出されなかった場合の図であり、図7(b)は、顔部位が検出された場合の図である。図7(a)において、顔部位が検出されていないため、顔向き角度を算出することができない。従って、操作者101が正面を向いていると仮定して、顔領域の左右の所定領域(破線で示す領域)を手の領域として特定する。   FIG. 7 is a diagram illustrating the hand region specified in the call determination device according to the present embodiment. FIG. 7A is a diagram when the face part is not detected, and FIG. 7B is a diagram when the face part is detected. In FIG. 7A, since the face part is not detected, the face orientation angle cannot be calculated. Accordingly, assuming that the operator 101 is facing the front, the left and right predetermined areas (areas indicated by broken lines) of the face area are specified as the hand area.

図7(b)において、顔部位が検出されているため、顔向き角度を算出することができる。従って、顔向き角度に応じて、耳あたりから口元あたりにかけての所定領域(破線で示す領域)を手の領域として特定する。   In FIG. 7B, since the face part is detected, the face orientation angle can be calculated. Therefore, a predetermined area (area indicated by a broken line) from around the ear to the mouth is specified as the hand area according to the face orientation angle.

なお、特定する手の領域の大きさは、カメラ120の解像度に応じて予め設定した大きさの画素数であってもよいし、顔領域の大きさに基づいて決定されてもよい。例えば、顔領域が大きい場合は、特定する手の領域の大きさも大きく、顔領域が小さい場合は、特定する手の領域の大きさは小さくしてもよい。   The size of the hand region to be specified may be the number of pixels set in advance according to the resolution of the camera 120, or may be determined based on the size of the face region. For example, when the face area is large, the size of the specified hand area may be large, and when the face area is small, the size of the specified hand area may be small.

図4に戻って、ステップS404で手の領域が特定されると、通話判定部340が、操作者101が携帯電話を使用中であるか否かを判定する(ステップS405)。
ここで、携帯電話の使用中の判定について説明する。図8は、本実施形態に係る通話判定装置の携帯電話の通話中を判定する処理を示すフローチャートである。まず、ステップS404で特定された手の領域における画素値の変化量を抽出する(ステップS801)。画素値の変化量が所定の規定値を満たさない場合は、携帯電話の使用中を示す使用中フラグをOFFにして(ステップS809)、判定処理を終了する。
Returning to FIG. 4, when the hand region is specified in step S404, the call determination unit 340 determines whether or not the operator 101 is using the mobile phone (step S405).
Here, the determination during use of the mobile phone will be described. FIG. 8 is a flowchart showing a process of determining whether the mobile phone call is in progress in the call determination device according to the present embodiment. First, the change amount of the pixel value in the hand region specified in step S404 is extracted (step S801). If the change amount of the pixel value does not satisfy the predetermined specified value, the in-use flag indicating that the mobile phone is in use is turned off (step S809), and the determination process ends.

画素値の変化量が所定の規定値を満たす場合は、変化領域における曲線成分、及び線分の端点を抽出する(ステップS803)。又は、変化領域における平行成分、及び略円形の「C」形状を抽出し(ステップS804)、「C」形状が抽出された場合は、「C」形状の色調と「C」形状の中心の色調との差異を抽出する(ステップS805)。   When the change amount of the pixel value satisfies a predetermined specified value, the curve component and the end point of the line segment in the change region are extracted (step S803). Alternatively, the parallel component in the change region and the substantially circular “C” shape are extracted (step S804). If the “C” shape is extracted, the color tone of the “C” shape and the color tone of the center of the “C” shape are extracted. The difference is extracted (step S805).

なお、ステップS803で抽出した曲線成分、及び/又は線分の端点の度合いを示す値を度合Aとし、ステップS805で抽出した平行成分、及び/又は「C」形状の色調と「C」形状の中心の色調との差異の度合いを示す値を度合Bとする。   The curve component extracted in step S803 and / or the value indicating the degree of the end point of the line segment is defined as degree A, the parallel component extracted in step S805, and / or the color tone of “C” shape and “C” shape. A value indicating the degree of difference from the central color tone is defined as a degree B.

このステップS803からステップS805の処理について詳細に説明する。図9は、本実施形態に係る通話判定装置において曲線成分、線分の端点、平行成分、及び「C」形状を抽出した場合を示す図である。操作者101が携帯電話140を使って通話を行う場合に、手の撮像情報からいくつかの特徴が抽出される。   The processing from step S803 to step S805 will be described in detail. FIG. 9 is a diagram illustrating a case where a curve component, an end point of a line segment, a parallel component, and a “C” shape are extracted in the call determination device according to the present embodiment. When the operator 101 makes a call using the mobile phone 140, some features are extracted from the imaging information of the hand.

図9(a)及び(b)は、携帯電話140の通話中における手の形状から、曲線成分、及び線分の端点を抽出した場合を示す。図9(a)及び(b)の破線が抽出した曲線成分を示しており、点線が抽出した線分の端点を示している。図からわかるように、携帯電話140を通話中の手の形状には、曲線成分や線分の端点が多く抽出される。これら曲線成分や線分の端点の抽出情報に基づいて、操作者101が携帯電話140の通話中であるか否かを判定する。   FIGS. 9A and 9B show a case where a curve component and an end point of a line segment are extracted from the shape of the hand during a call of the mobile phone 140. The broken line in FIGS. 9A and 9B indicates the extracted curve component, and the dotted line indicates the end point of the extracted line segment. As can be seen from the figure, many curve components and end points of line segments are extracted from the shape of the hand talking to the mobile phone 140. Based on the extracted information of the curve components and the end points of the line segments, it is determined whether or not the operator 101 is talking on the mobile phone 140.

図9(c)は、携帯電話140の通話中における手の形状から、平行成分を抽出した場合を示す。図9(c)の一点鎖線が抽出した平行成分を示している。図からわかるように、携帯電話140を通話中の手の形状には、角度によって多くの平行成分が抽出される。   FIG. 9C shows a case where a parallel component is extracted from the shape of the hand during a call of the mobile phone 140. The dashed-dotted line in FIG. 9C shows the extracted parallel component. As can be seen from the figure, many parallel components are extracted depending on the angle in the shape of the hand that is talking on the mobile phone 140.

図9(d)は、携帯電話140の通話中における手の形状から、「C」形状を抽出した場合を示す。図からわかるように、携帯電話140を通話中の手の形状には、角度によって携帯電話140を掴んだときの「C」形状が同系色のかたまりで抽出される。   FIG. 9D shows a case where the “C” shape is extracted from the shape of the hand during a call of the mobile phone 140. As can be seen from the figure, the “C” shape when the mobile phone 140 is gripped according to the angle is extracted in a similar color cluster as the shape of the hand that is talking to the mobile phone 140.

図10は、本実施形態に係る通話判定装置においてC形状の色調とC形状の中心の色調との差異を抽出した場合を示す図である。図からわかるように、携帯電話140を掴んでいる場合には、「C」形状の中心部に携帯電話140自体の色調が抽出される場合が多い。これら平行成分や「C」形状や「C」形状の中心部との色調の差異等の抽出情報に基づいて、操作者101が携帯電話140の通話中であるか否かを判定する。   FIG. 10 is a diagram illustrating a case where a difference between the C-shaped tone and the C-shaped center tone is extracted in the call determination device according to the present embodiment. As can be seen from the figure, when the mobile phone 140 is held, the color tone of the mobile phone 140 itself is often extracted at the center of the “C” shape. Based on the extracted information such as the color difference between the parallel component, the “C” shape, and the center of the “C” shape, it is determined whether or not the operator 101 is talking on the mobile phone 140.

図8に戻って、手の特徴を示す各要素が抽出されると、その各要素が連続して抽出されたフレーム数を抽出する(ステップS806)。なお、フレーム数の連続性の度合いを示す値を度合Cとする。抽出された手の特徴を示す各要素、及びフレーム数の度合いに基づいて、判定条件情報部370の判定条件から通話中の判定を行う(ステップS807)。判定条件情報の一例を下記の表1に示す。   Returning to FIG. 8, when each element indicating the feature of the hand is extracted, the number of frames in which each element is continuously extracted is extracted (step S806). A value indicating the degree of continuity of the number of frames is defined as a degree C. Based on each element indicating the extracted feature of the hand and the degree of the number of frames, the determination during the call is performed from the determination condition of the determination condition information unit 370 (step S807). An example of the determination condition information is shown in Table 1 below.

Figure 0005272826
表1に示すように、上記抽出された手の特徴の度合いから、携帯電話140の使用中を判定する。例えば、度合A(曲線成分、及び/又は線分の端点の度合い)、度合B(平行成分、及び/又は「C」形状の中心部の色調の差異)、及び度合C(フレームの連続性の度合い)の全てが規定値を満たす場合は、携帯電話140を使用中であると判定する。また、度合Aと度合C、又は度合Bと度合Cを満たした場合も携帯電話140を使用中であると判定する。逆に、度合Aと度合Bを満たした場合や、度合A、又は度合Bのみを満たした場合や、すべて満たさなかった場合には、携帯電話140を未使用であると判定する。
なお、この判定基準はあくまで一例であり、管理者102が任意に設定できるものとする。
Figure 0005272826
As shown in Table 1, it is determined that the mobile phone 140 is in use from the degree of the extracted hand characteristic. For example, degree A (curve component and / or end point degree of line segment), degree B (parallel component and / or color difference in the center of the “C” shape), and degree C (frame continuity) When all of the degree) satisfy the specified value, it is determined that the mobile phone 140 is in use. Further, when the degree A and the degree C, or the degree B and the degree C are satisfied, it is determined that the mobile phone 140 is in use. On the contrary, when the degree A and the degree B are satisfied, only when the degree A or the degree B is satisfied, or when all the degrees A are not satisfied, the mobile phone 140 is determined to be unused.
Note that this determination criterion is merely an example, and the administrator 102 can arbitrarily set it.

ステップS807の判定の結果、携帯電話140を未使用であると判定された場合は、使用中フラグをOFFにして(ステップS809)、判定処理を終了する。携帯電話140を使用中であると判定された場合は、使用中フラグをONにして(ステップS808)、判定処理を終了する。   As a result of the determination in step S807, if it is determined that the mobile phone 140 is not used, the busy flag is turned off (step S809), and the determination process ends. If it is determined that the mobile phone 140 is in use, the in-use flag is set to ON (step S808), and the determination process ends.

なお、ここでは、ステップS803の判定、並びにステップS804、及びステップS805の処理を分けて行っているが、連続的に行ってもよい。   Here, the determination in step S803 and the processing in steps S804 and S805 are performed separately, but they may be performed continuously.

図4に戻って、ステップS405で携帯電話の使用中が判定された結果、ステップS406で使用中フラグがOFFの場合は、ステップS401に戻って、再び操作者101の撮像を行う。ステップS406で使用中フラグがONの場合は、通話中報知部350が携帯電話140の通話中である旨を報知する(ステップS407)。報知は、表示パネル302やスピーカ303を通して行われる。また、管理者102が使用する端末等を通して行われる。管理者102は、携帯電話140の通話中である旨を報知されると、通話行為の良し悪しを判断し(ステップS408)、良い場合はステップS401に戻って、再び操作者101の撮像を行う。良くない場合は、対応処理を行って(ステップS409)、処理を終了する。   Returning to FIG. 4, when it is determined in step S405 that the mobile phone is in use, if the in-use flag is OFF in step S406, the process returns to step S401 and the operator 101 is imaged again. If the in-use flag is ON in step S406, the busy notification unit 350 notifies that the mobile phone 140 is busy (step S407). The notification is performed through the display panel 302 and the speaker 303. Also, it is performed through a terminal used by the administrator 102. When the administrator 102 is notified that the mobile phone 140 is in a call, the administrator 102 determines whether the call action is good or bad (step S408), and if good, returns to step S401 to image the operator 101 again. . If not, a corresponding process is performed (step S409) and the process is terminated.

なお、対応処理とは、例えば管理者102が直接操作者101に対して注意を促してもよいし、ATM130の振込み機能を停止させてもよい。また、通話行為の良し悪しの判断は、通話中の音声を解析し、所定のキーワードが含まれている場合(例えば、「今、通帳を入れました」等の誘導がなされていると判断されるキーワードが含まれる場合)に良くない通話であると判断してもよい。   The handling process may be, for example, that the administrator 102 directly calls the operator 101 to pay attention, or may stop the transfer function of the ATM 130. In addition, it is judged that the call activity is good or bad by analyzing the voice during the call and when a predetermined keyword is included (for example, “You have entered your bankbook now”). It may be determined that the call is not good.

さらに、本実施形態においては、ATMにおける携帯電話の通話中の判定について説明したが、車の運転中における携帯電話の通話中の判定についても、本実施形態に係る通話判定装置を適用することができる。   Furthermore, in the present embodiment, the determination during the call of the mobile phone in the ATM has been described, but the call determination device according to the present embodiment can also be applied to the determination during the call of the mobile phone while driving the car. it can.

このように、本実施形態に係る通話判定装置によれば、顔の位置に基づいて携帯電話の通話中における手の撮像領域を特定するため、通話中であることを正確に認識することができる。また、手の肌色ではなく、手の撮像領域の変化量に基づいて通話中を判定するため、例えば、手袋を掛けているような場合であっても通話中であるか否かを判定することができる。   As described above, according to the call determination device according to the present embodiment, since the imaging region of the hand during the call of the mobile phone is specified based on the face position, it can be accurately recognized that the call is in progress. . In addition, since it is determined that the call is in progress based on the amount of change in the imaging area of the hand, not on the skin color of the hand, for example, it is determined whether or not the call is in progress even when wearing gloves. Can do.

さらに、曲線成分の数、平行成分の数、線分の端点の数、及び/又は略円形成分の検出の有無により、確実に携帯電話の通話中における手の特徴に基づく判定をすることができる。   Further, the determination based on the characteristics of the hand during the call of the mobile phone can be surely performed based on the number of curve components, the number of parallel components, the number of end points of the line segment, and / or the presence or absence of a substantially circular component. it can.

さらにまた、略円形成分の色相と当該略円形成分の中心部の色相との差異に基づいて、通話中を判定するため、手で携帯電話を掴んでいる状態を検出することで、通話中を確実に判定することができる。   Furthermore, in order to determine whether a call is in progress based on the difference between the hue of the substantially circular component and the hue at the center of the substantially circular component, the call is detected by detecting the state of holding the mobile phone by hand. The inside can be reliably determined.

さらにまた、通話中状態が所定のフレーム数以上連続した場合に通話中であると判定するため、一瞬の手の動きと通話中との違いを認識し、通話中の状態を正確に判定することができる。   Furthermore, since it is determined that the call is in progress when the call state continues for a predetermined number of frames or more, the difference between the instantaneous hand movement and the call is recognized, and the state during the call is accurately determined. Can do.

さらにまた、撮像対象者が携帯電話の通話中であると判定した場合に、その旨を報知するため、ATM等における振り込め詐欺の被害や車の運転中における携帯電話の使用による事故を未然に防止することができる。   Furthermore, when it is determined that the person to be imaged is talking on a mobile phone, to prevent this, damages due to bank transfer fraud at ATMs and accidents caused by using a mobile phone while driving a car are prevented. can do.

以上の前記実施形態により本発明を説明したが、本発明の技術的範囲は実施形態に記載の範囲には限定されず、この実施形態に多様な変更又は改良を加えることが可能である。そして、かような変更又は改良を加えた実施の形態も本発明の技術的範囲に含まれる。このことは、特許請求の範囲及び課題を解決する手段からも明らかなことである。
前記実施形態に関して次の付記を示す。
Although the present invention has been described with the above embodiment, the technical scope of the present invention is not limited to the scope described in the embodiment, and various modifications or improvements can be added to this embodiment. And embodiment which added such a change or improvement is also contained in the technical scope of the present invention. This is apparent from the claims and the means for solving the problems.
The following additional notes will be given regarding the embodiment.

(付記1)カメラで撮像された撮像情報から撮像対象者の顔を検出する顔検出手段と、当該顔検出手段が検出した顔の位置に基づいて、携帯電話の通話状態における手の撮像領域を特定する手領域特定手段と、当該手領域特定手段が特定した撮像領域における画素値の変化量に基づいて、撮像対象者が携帯電話の通話中であるか否かを判定する通話判定手段とを備える通話判定装置。   (Appendix 1) Face detection means for detecting the face of the person to be imaged from the imaging information captured by the camera, and the imaging area of the hand in the call state of the mobile phone based on the face position detected by the face detection means A hand region specifying means for specifying, and a call determining means for determining whether or not the person to be imaged is talking on a mobile phone based on a change amount of a pixel value in the imaging region specified by the hand region specifying means. A call determination device provided.

(付記2)付記1に記載の通話判定装置において、前記通話判定手段が、手領域特定手段にて特定された撮像領域における曲線成分の数、平行成分の数、線分の端点の数、及び/又は略円形成分の検出の有無に基づいて、前記撮像対象者が携帯電話の通話中であるか否かを判定する通話判定装置。   (Supplementary note 2) In the call determination device according to supplementary note 1, the call determination unit includes: the number of curve components, the number of parallel components, the number of end points of the line segment in the imaging region specified by the hand region specifying unit; A call determination device that determines whether or not the person to be imaged is talking on a mobile phone based on whether or not a substantially circular component is detected.

(付記3)付記2に記載の通話判定装置において、前記通話判定手段が略円形成分を検出した場合に、前記略円形成分の色相と前記略円形成分の中心部の色相との差異に基づいて、前記撮像対象者が携帯電話の通話中であるか否かを判定する通話判定装置。   (Supplementary note 3) In the call determination device according to supplementary note 2, when the call determination unit detects a substantially circular component, a difference between a hue of the substantially circular component and a hue of a central portion of the substantially circular component A call determination device that determines whether or not the person to be imaged is talking on a mobile phone based on the above.

(付記4)付記1ないし3のいずれかに記載の通話判定装置において、前記撮像対象者の通話中状態が所定のフレーム数以上連続した場合に、前記通話判定手段が、前記撮像対象者が携帯電話の通話中であると判定する通話判定装置。   (Supplementary note 4) In the call determination device according to any one of supplementary notes 1 to 3, the call determination unit may be configured to carry the imaging target person when the imaging target person is in a conversation state for a predetermined number of frames or more. A call determination device that determines that a telephone call is in progress.

(付記5)付記1ないし4のいずれかに記載の通話判定装置において、前記通話判定手段が、前記撮像対象者が携帯電話の通話中であると判定した場合に、その旨を報知する報知手段を備える通話判定装置。   (Supplementary Note 5) In the call determination device according to any one of Supplementary Notes 1 to 4, when the call determination unit determines that the person to be imaged is talking on a mobile phone, a notification unit that notifies that fact A call determination device comprising:

(付記6)コンピュータが、カメラで撮像された撮像情報から撮像対象者の顔を検出する顔検出ステップと、当該顔検出ステップが検出した顔の位置に基づいて、携帯電話の通話状態における手の撮像領域を特定する手領域特定ステップと、当該手領域特定ステップが特定した撮像領域における画素値の変化量に基づいて、撮像対象者が携帯電話の通話中であるか否かを判定する通話判定ステップとを実行する通話判定方法。   (Appendix 6) A face detection step in which the computer detects the face of the person to be imaged from the imaging information captured by the camera, and the hand in the call state of the mobile phone based on the position of the face detected by the face detection step Call area determination step for determining whether or not the person to be imaged is talking on a mobile phone based on a hand area specifying step for specifying an imaging area and a change amount of a pixel value in the imaging area specified by the hand area specifying step A call determination method for executing steps.

(付記7)付記6に記載の通話判定方法において、前記通話判定ステップが、手領域特定ステップにて特定された撮像領域における曲線成分の数、平行成分の数、線分の端点の数、及び/又は略円形成分の検出の有無に基づいて、前記撮像対象者が携帯電話の通話中であるか否かを判定する通話判定方法。   (Supplementary note 7) In the call determination method according to supplementary note 6, the call determination step includes the number of curve components, the number of parallel components, the number of end points of a line segment in the imaging region specified in the hand region specifying step, and A call determination method for determining whether or not the person to be imaged is talking on a mobile phone based on whether or not a substantially circular component is detected.

(付記8)付記7に記載の通話判定方法において、前記通話判定ステップが略円形成分を検出した場合に、前記略円形成分の色相と前記略円形成分の中心部の色相との差異に基づいて、前記撮像対象者が携帯電話の通話中であるか否かを判定する通話判定方法。   (Supplementary note 8) In the call determination method according to supplementary note 7, when the call determination step detects a substantially circular component, a difference between a hue of the substantially circular component and a hue of a central portion of the substantially circular component A call determination method for determining whether or not the person to be imaged is talking on a mobile phone based on the above.

(付記9)付記6ないし8のいずれかに記載の通話判定方法において、前記撮像対象者の通話中状態が所定のフレーム数以上連続した場合に、前記通話判定ステップが、前記撮像対象者が携帯電話の通話中であると判定する通話判定方法。   (Supplementary note 9) In the call determination method according to any one of supplementary notes 6 to 8, the call determination step is performed when the imaging target person carries the imaging target person when the imaging target person's busy state continues for a predetermined number of frames or more. A call determination method for determining that a telephone call is in progress.

(付記10)付記6ないし9のいずれかに記載の通話判定方法において、前記通話判定方法が、前記撮像対象者が携帯電話の通話中であると判定した場合に、その旨を報知する報知ステップを含む通話判定方法。   (Supplementary note 10) In the call determination method according to any one of supplementary notes 6 to 9, when the call determination method determines that the person to be imaged is busy on a mobile phone, a notification step of notifying that effect Call determination method including

(付記11)カメラで撮像された撮像情報から撮像対象者の顔を検出する顔検出手段、当該顔検出手段が検出した顔の位置に基づいて、携帯電話の通話状態における手の撮像領域を特定する手領域特定手段、当該手領域特定手段が特定した撮像領域における画素値の変化量に基づいて、撮像対象者が携帯電話の通話中であるか否かを判定する通話判定手段としてコンピュータを機能させる通話判定プログラム。   (Supplementary Note 11) Face detection means for detecting the face of the person to be imaged from the imaging information captured by the camera, and specifying the imaging area of the hand in the call state of the mobile phone based on the face position detected by the face detection means The computer functions as a call determination unit that determines whether the person to be imaged is talking on a mobile phone based on the amount of change in the pixel value in the imaging region specified by the hand region specification unit Call judgment program to make.

(付記12)付記11に記載の通話判定プログラムにおいて、前記通話判定手段が、手領域特定手段にて特定された撮像領域における曲線成分の数、平行成分の数、線分の端点の数、及び/又は略円形成分の検出の有無に基づいて、前記撮像対象者が携帯電話の通話中であるか否かを判定する通話判定プログラム。   (Additional remark 12) In the call determination program according to additional remark 11, the call determination means includes the number of curve components, the number of parallel components, the number of end points of the line segment in the imaging area specified by the hand area specifying means, and A call determination program that determines whether or not the person to be imaged is talking on a mobile phone based on whether or not a substantially circular component is detected.

(付記13)付記12に記載の通話判定プログラムにおいて、前記通話判定手段が略円形成分を検出した場合に、前記略円形成分の色相と前記略円形成分の中心部の色相との差異に基づいて、前記撮像対象者が携帯電話の通話中であるか否かを判定する通話判定プログラム。   (Supplementary note 13) In the call determination program according to supplementary note 12, when the call determination unit detects a substantially circular component, a difference between a hue of the substantially circular component and a hue of a central portion of the substantially circular component A call determination program for determining whether or not the person to be imaged is talking on a mobile phone based on the above.

(付記14)付記11ないし13のいずれかに記載の通話判定プログラムにおいて、前記撮像対象者の通話中状態が所定のフレーム数以上連続した場合に、前記通話判定手段が、前記撮像対象者が携帯電話の通話中であると判定する通話判定プログラム。   (Supplementary note 14) In the call determination program according to any one of supplementary notes 11 to 13, the call determination unit may be configured to carry the imaging target person when the imaging target person is in a telephone conversation state for a predetermined number of frames or more. A call determination program for determining that a telephone call is in progress.

(付記15)付記11ないし14のいずれかに記載の通話判定プログラムにおいて、前記通話判定手段が、前記撮像対象者が携帯電話の通話中であると判定した場合に、その旨を報知する報知手段としてコンピュータを機能させる通話判定プログラム。   (Supplementary Note 15) In the call determination program according to any one of Supplementary Notes 11 to 14, when the call determination unit determines that the person to be imaged is talking on a mobile phone, a notification unit that notifies that fact A call determination program that causes a computer to function as a computer.

100 通話中検知システム
101 操作者
102 管理者
110 通話判定装置
120 カメラ
130 ATM
140 携帯電話
210 CPU
220 RAM
230 ROM
240 HD
250 通信I/F
260 入出力I/F
301 撮像情報
302 表示パネル
303 スピーカ
310 撮像情報入力部
320 顔検出部
330 手領域特定部
340 通話判定部
350 通話中報知部
360 撮像情報部
370 判定条件情報部
DESCRIPTION OF SYMBOLS 100 In-call detection system 101 Operator 102 Administrator 110 Call determination apparatus 120 Camera 130 ATM
140 mobile phone 210 CPU
220 RAM
230 ROM
240 HD
250 Communication I / F
260 Input / output I / F
301 Imaging Information 302 Display Panel 303 Speaker 310 Imaging Information Input Unit 320 Face Detection Unit 330 Hand Area Identification Unit 340 Call Determination Unit 350 In-call Notification Unit 360 Imaging Information Unit 370 Determination Condition Information Unit

Claims (7)

カメラで撮像された撮像情報から撮像対象者の顔を検出する顔検出手段と、
当該顔検出手段が検出した顔の位置に基づいて、顔向き角度を検出する手段と、
当該顔向き角度を検出する手段が検出した顔向き角度に基づいて、携帯電話の通話状態における手の撮像領域を特定する手領域特定手段と、
当該手領域特定手段が特定した撮像領域における画素値の変化量に基づいて、撮像対象者が携帯電話の通話中であるか否かを判定する通話判定手段とを備える通話判定装置。
Face detection means for detecting the face of the person to be imaged from imaging information captured by the camera;
Means for detecting a face orientation angle based on the face position detected by the face detection means;
Based on the face orientation angle detected by the means for detecting the face orientation angle, hand region specifying means for specifying the imaging region of the hand in the call state of the mobile phone;
A call determination device comprising: call determination means for determining whether or not the person to be imaged is talking on a mobile phone based on a change amount of a pixel value in an imaging area specified by the hand area specifying means.
請求項1に記載の通話判定装置において、
前記通話判定手段が、手領域特定手段にて特定された撮像領域における曲線成分の数、平行成分の数、線分の端点の数、及び/又は略円形成分の検出の有無に基づいて、前記撮像対象者が携帯電話の通話中であるか否かを判定する通話判定装置。
The call determination device according to claim 1,
Based on the number of curve components, the number of parallel components, the number of end points of the line segment, and / or the presence or absence of detection of a substantially circular component in the imaging area specified by the hand area specifying means, A call determination device that determines whether or not the person to be imaged is talking on a mobile phone.
請求項2に記載の通話判定装置において、
前記通話判定手段が略円形成分を検出した場合に、前記略円形成分の色相と前記略円形成分の中心部の色相との差異に基づいて、前記撮像対象者が携帯電話の通話中であるか否かを判定する通話判定装置。
The call determination device according to claim 2, wherein
When the call determination unit detects a substantially circular component, the imaging subject is talking on the mobile phone based on the difference between the hue of the approximately circular component and the hue of the central portion of the approximately circular component. A call determination device that determines whether or not
請求項1ないし3のいずれかに記載の通話判定装置において、
前記撮像対象者の通話中状態が所定のフレーム数以上連続した場合に、前記通話判定手段が、前記撮像対象者が携帯電話の通話中であると判定する通話判定装置。
In the call determination device according to any one of claims 1 to 3,
A call determination device in which the call determination unit determines that the imaging target person is talking on a mobile phone when the imaging target person is in a call state for a predetermined number of frames or more.
請求項1ないし4のいずれかに記載の通話判定装置において、
前記通話判定手段が、前記撮像対象者が携帯電話の通話中であると判定した場合に、その旨を報知する報知手段を備える通話判定装置。
In the call determination device according to any one of claims 1 to 4,
When the call determination unit determines that the person to be imaged is in a call on a mobile phone, the call determination device includes a notification unit that notifies that fact.
コンピュータが、
カメラで撮像された撮像情報から撮像対象者の顔を検出する顔検出ステップと、
当該顔検出ステップが検出した顔の位置に基づいて、顔向き角度を検出するステップと、
当該顔向き角度を検出するステップが検出した顔向き角度に基づいて、携帯電話の通話状態における手の撮像領域を特定する手領域特定ステップと、
当該手領域特定ステップが特定した撮像領域における画素値の変化量に基づいて、撮像対象者が携帯電話の通話中であるか否かを判定する通話判定ステップとを実行する通話判定方法。
Computer
A face detection step for detecting the face of the person to be imaged from imaging information captured by the camera;
Detecting a face orientation angle based on the face position detected by the face detection step;
Based on the face orientation angle detected by the step of detecting the face orientation angle, a hand region specifying step for specifying an imaging region of a hand in a call state of the mobile phone;
A call determination method for executing a call determination step of determining whether or not the person to be imaged is talking on a mobile phone based on a change amount of a pixel value in an imaging region specified by the hand region specifying step.
カメラで撮像された撮像情報から撮像対象者の顔を検出する顔検出手段、
当該顔検出手段が検出した顔の位置に基づいて、顔向き角度を検出する手段、
当該顔向き角度を検出する手段が検出した顔向き角度に基づいて、携帯電話の通話状態における手の撮像領域を特定する手領域特定手段、
当該手領域特定手段が特定した撮像領域における画素値の変化量に基づいて、撮像対象者が携帯電話の通話中であるか否かを判定する通話判定手段としてコンピュータを機能させる通話判定プログラム。
Face detection means for detecting the face of the person to be imaged from imaging information captured by a camera;
Means for detecting a face orientation angle based on the face position detected by the face detection means;
Hand region specifying means for specifying an imaging region of a hand in a call state of the mobile phone based on the face orientation angle detected by the means for detecting the face orientation angle ;
A call determination program for causing a computer to function as a call determination unit for determining whether or not the person to be imaged is talking on a mobile phone based on a change amount of a pixel value in an imaging region specified by the hand region specifying unit.
JP2009066403A 2009-03-18 2009-03-18 Call determination apparatus, method thereof, and program Expired - Fee Related JP5272826B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009066403A JP5272826B2 (en) 2009-03-18 2009-03-18 Call determination apparatus, method thereof, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009066403A JP5272826B2 (en) 2009-03-18 2009-03-18 Call determination apparatus, method thereof, and program

Publications (2)

Publication Number Publication Date
JP2010218392A JP2010218392A (en) 2010-09-30
JP5272826B2 true JP5272826B2 (en) 2013-08-28

Family

ID=42977143

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009066403A Expired - Fee Related JP5272826B2 (en) 2009-03-18 2009-03-18 Call determination apparatus, method thereof, and program

Country Status (1)

Country Link
JP (1) JP5272826B2 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5482080B2 (en) * 2009-10-14 2014-04-23 富士通株式会社 Hand recognition device
JP2014106573A (en) * 2012-11-26 2014-06-09 Denso Corp Potable terminal control device
CN106682648B (en) * 2017-01-20 2019-11-22 博康智能信息技术有限公司北京海淀分公司 A kind of user takes mobile phone behavioral value method and apparatus
CN106815574B (en) * 2017-01-20 2020-10-02 博康智能信息技术有限公司北京海淀分公司 Method and device for establishing detection model and detecting behavior of connecting and calling mobile phone
US20240078699A1 (en) * 2021-01-19 2024-03-07 Nec Corporation Image processing apparatus, image processing method, and non-transitory storage medium

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4367624B2 (en) * 2004-01-20 2009-11-18 オムロン株式会社 Vehicle control device and method when using telephone while driving
JP4951364B2 (en) * 2007-02-14 2012-06-13 日立オムロンターミナルソリューションズ株式会社 Suspicious behavior monitoring method and apparatus
JP2008217046A (en) * 2007-02-28 2008-09-18 Oki Electric Ind Co Ltd Automatic transaction device, automatic transaction system
JP4942604B2 (en) * 2007-10-02 2012-05-30 本田技研工業株式会社 Vehicle telephone call determination device
JP5448468B2 (en) * 2009-01-21 2014-03-19 セコム株式会社 Transaction monitoring device

Also Published As

Publication number Publication date
JP2010218392A (en) 2010-09-30

Similar Documents

Publication Publication Date Title
JP5272826B2 (en) Call determination apparatus, method thereof, and program
CN108345819B (en) Method and device for sending alarm message
WO2020259073A1 (en) Image processing method and apparatus, electronic device, and storage medium
EP3200125B1 (en) Fingerprint template input method and device
US10044873B2 (en) Mute alert
US11348375B2 (en) Systems and methods for using focal stacks for image-based spoof detection
CN105095881B (en) Face recognition method, face recognition device and terminal
US10216976B2 (en) Method, device and medium for fingerprint identification
KR20210065178A (en) Biometric detection method and device, electronic device and storage medium
US10402619B2 (en) Method and apparatus for detecting pressure
JP2008197939A (en) Suspicious behavior monitoring method and device
CN112597886A (en) Ride fare evasion detection method and device, electronic equipment and storage medium
KR20140078983A (en) Method for controlling termination call based on gaze, and mobile communication terminal therefor
JP5482080B2 (en) Hand recognition device
KR20100041061A (en) Video telephony method magnifying the speaker&#39;s face and terminal using thereof
JP6957915B2 (en) Information processing equipment, alert methods, and programs
JP2013077925A (en) Electronic apparatus
JP2007049375A (en) Image processor, camera, communication equipment, and program for realizing image processor
JP6089866B2 (en) Information processing apparatus, information processing method, and information processing program
JP2010079749A (en) Transaction monitoring device
CN114222302A (en) Calling method and device for abnormal call, electronic equipment and storage medium
AU2019455810B2 (en) Method and apparatus for recognizing stacked objects, electronic device, and storage medium
US20110081944A1 (en) Mobile communication device and method for operating a mobile communication device
JP7067939B2 (en) Automatic teller machine
JP2010271922A (en) Busy person detection method, busy person detector, and busy person detection program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111107

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120910

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120918

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121116

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130416

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130429

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees