JP2014186560A - Crime prevention device, crime prevention method, and crime prevention program - Google Patents

Crime prevention device, crime prevention method, and crime prevention program Download PDF

Info

Publication number
JP2014186560A
JP2014186560A JP2013061084A JP2013061084A JP2014186560A JP 2014186560 A JP2014186560 A JP 2014186560A JP 2013061084 A JP2013061084 A JP 2013061084A JP 2013061084 A JP2013061084 A JP 2013061084A JP 2014186560 A JP2014186560 A JP 2014186560A
Authority
JP
Japan
Prior art keywords
signal
heart rate
waveform
frequency band
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013061084A
Other languages
Japanese (ja)
Other versions
JP6003752B2 (en
Inventor
Masato Sakata
雅人 阪田
Daisuke Uchida
大輔 内田
Akita Inomata
明大 猪又
Hidenori Sekiguchi
英紀 関口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2013061084A priority Critical patent/JP6003752B2/en
Publication of JP2014186560A publication Critical patent/JP2014186560A/en
Application granted granted Critical
Publication of JP6003752B2 publication Critical patent/JP6003752B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

PROBLEM TO BE SOLVED: To improve a crime prevention property.SOLUTION: An ATM 10 obtains an image picked up by an imaging device for imaging a user of a device who executes a transaction related to cash. The ATM 10 extracts a living body area included in the image. The ATM 10 detects wave forms of a signal whose ingredients of a specified frequency band other than a frequency band capable of obtaining pulse waves between wave length ingredients are cancelled each other, from a signal of a representative value of the wave length ingredients of each pixel included in the living body area. The ATM 10 determines whether the wave form detected from the living body area is abnormal or not, and executes notification when the wave form is abnormal.

Description

本発明は、防犯装置、防犯方法及び防犯プログラムに関する。   The present invention relates to a crime prevention device, a crime prevention method, and a crime prevention program.

振り込め詐欺などの犯罪による被害を抑制するために、各種の防犯の取り組みがなされている。かかる防犯に関する取り組みの一環として、振り込み等の取引を実行する装置、例えばATM(automatic teller machine)を利用する利用者の異常を検出する技術が提案されている。   Various crime prevention efforts have been made to reduce damage from crimes such as wire fraud. As part of such efforts related to crime prevention, a technique for detecting an abnormality of a user who uses a device that executes transactions such as money transfer, for example, an ATM (automatic teller machine) has been proposed.

一例としては、過去の取引履歴または振込指示操作から推定される判断力が異常判断条件に該当する場合に振込を中断させる異常取引検出装置が挙げられる。他の一例としては、ATM前の所定の領域への人間の進入があり、かつ携帯電話の発信電波が検出された場合に、振り込め詐欺発生に関する警告を行う携帯電話使用検出警報装置が挙げられる。他の一例としては、指挿入部に挿入された指から脈拍を測定することによって被識別者の心理状態が正常であるか否かを判定し、正常でない場合に取引ができないことを被識別者に報知する個人認識装置が挙げられる。   As an example, there is an abnormal transaction detection device that interrupts the transfer when the judgment power estimated from the past transaction history or the transfer instruction operation corresponds to the abnormality determination condition. As another example, there is a mobile phone use detection alarm device that issues a warning regarding the occurrence of wire fraud when a human enters a predetermined area before ATM and a radio wave transmitted from the mobile phone is detected. As another example, it is determined whether or not the psychological state of the identified person is normal by measuring the pulse from the finger inserted into the finger insertion unit. And a personal recognition device for informing the user.

特開2006−115865号公報JP 2006-115865 A 特開2010−194005号公報JP 2010-194005 A 特開2006−279796号公報JP 2006-279996 A

しかしながら、上記の技術は、余計なハードウェアなしには防犯性を向上させることができない。   However, the above technique cannot improve the crime prevention performance without extra hardware.

例えば、上記の異常取引検出装置では、振込を中断させるか否かが過去の取引履歴によって判断されるが、取引の内容と利用者の状態との間に因果関係はない。つまり、利用者が振り込め詐欺に遭遇していない場合に過去に実績のない取引がなされる場合もあれば、利用者が振り込め詐欺に遭遇している場合に過去に実績のある取引がなされる場合もある。また、上記の携帯電話使用検出警報装置では、ATM前の領域で携帯電話の発信電波が検出されなかった場合には警告はなされないが、振り込みを促す通話がATMの前でなされるとは限らず、振り込め詐欺を抑制できない場合がある。このように、異常取引検出装置および携帯電話使用検出警報装置では、犯罪の遭遇時に利用者の異常を特定できないケースが生じるので、防犯性の向上には自ずから限界がある。   For example, in the above-described abnormal transaction detection device, whether or not to interrupt the transfer is determined based on the past transaction history, but there is no causal relationship between the content of the transaction and the state of the user. In other words, if the user has not encountered a transfer scam, there may be a transaction with no past record, or if the user has encountered a transfer scam, a transaction with a past record will be made. There is also. Further, in the above-described mobile phone use detection alarm device, a warning is not given if the radio wave of the mobile phone is not detected in the area before the ATM, but a call for prompting the transfer is not always made before the ATM. Therefore, there are cases where wire fraud cannot be suppressed. As described above, in the abnormal transaction detection device and the mobile phone use detection alarm device, there is a case in which the user's abnormality cannot be specified at the time of encountering a crime.

また、上記の携帯電話使用検出装置や上記の個人認識装置を実装する場合には、ATMのブースごとに電界強度を検出するアンテナを設置したり、脈拍の測定装置を設置することになる。このように、携帯電話使用検出装置および個人認識装置は、アンテナや脈拍の測定装置を余計に設けずして利用者の異常を特定することはできない。   Further, when the above-described mobile phone use detection device or the above-described personal recognition device is mounted, an antenna for detecting electric field strength or a pulse measurement device is installed for each ATM booth. As described above, the mobile phone use detection device and the personal recognition device cannot identify an abnormality of the user without providing an additional antenna or pulse measurement device.

1つの側面では、防犯性を向上させることができる防犯装置、防犯方法及び防犯プログラムを提供することを目的とする。   An object of one aspect is to provide a crime prevention device, a crime prevention method, and a crime prevention program that can improve crime prevention.

一態様の防犯装置は、現金に関する取引を実行する装置の利用者を撮像する撮像装置によって撮像された画像を取得する取得部を有する。さらに、前記防犯装置は、前記画像に含まれる生体領域を抽出する抽出部を有する。さらに、前記防犯装置は、前記生体領域に含まれる各画素の波長成分別の代表値の信号から、各波長成分の間で脈波が採り得る周波数帯以外の特定周波数帯の成分が互いに相殺された信号の波形を検出する波形検出部を有する。さらに、前記防犯装置は、前記生体領域から検出された波形が異常であるか否かを判定する判定部と、前記波形が異常である場合に報知を実行する報知部とを有する。   The crime prevention device according to one aspect includes an acquisition unit that acquires an image captured by an imaging device that captures an image of a user of a device that executes a transaction relating to cash. Furthermore, the security device has an extraction unit that extracts a biological region included in the image. Furthermore, the crime prevention apparatus cancels out components in a specific frequency band other than the frequency band in which a pulse wave can be taken between the wavelength components from the representative value signal for each wavelength component of each pixel included in the living body region. A waveform detector for detecting the waveform of the received signal. Furthermore, the security device includes a determination unit that determines whether or not the waveform detected from the living body region is abnormal, and a notification unit that performs notification when the waveform is abnormal.

一実施形態によれば、防犯性を向上させることができる。   According to one embodiment, crime prevention can be improved.

図1は、実施例1に係る防犯装置の機能的構成を示すブロック図である。FIG. 1 is a block diagram illustrating a functional configuration of the crime prevention device according to the first embodiment. 図2は、画面の一例を示す図である。FIG. 2 is a diagram illustrating an example of a screen. 図3は、画面の一例を示す図である。FIG. 3 is a diagram illustrating an example of a screen. 図4は、G信号およびR信号の各信号のスペクトルの一例を示す図である。FIG. 4 is a diagram illustrating an example of the spectrum of each signal of the G signal and the R signal. 図5は、G成分および補正係数kが乗算されたR成分の各信号のスペクトルの一例を示す図である。FIG. 5 is a diagram illustrating an example of a spectrum of each signal of the R component multiplied by the G component and the correction coefficient k. 図6は、演算後のスペクトルの一例を示す図である。FIG. 6 is a diagram illustrating an example of a spectrum after calculation. 図7は、波形検出部の機能的構成を示すブロック図である。FIG. 7 is a block diagram illustrating a functional configuration of the waveform detection unit. 図8は、履歴情報の一例を示す図である。FIG. 8 is a diagram illustrating an example of history information. 図9は、心拍数の正規分布の一例を示す図である。FIG. 9 is a diagram illustrating an example of a normal distribution of heart rates. 図10は、画面の一例を示す図である。FIG. 10 is a diagram illustrating an example of a screen. 図11は、画面の一例を示す図である。FIG. 11 is a diagram illustrating an example of a screen. 図12は、実施例1に係る取引制御処理の手順を示すフローチャートである。FIG. 12 is a flowchart illustrating the procedure of the transaction control process according to the first embodiment. 図13は、実施例1に係る波形検出処理の手順を示すフローチャートである。FIG. 13 is a flowchart illustrating the procedure of the waveform detection process according to the first embodiment. 図14は、実施例1及び実施例2に係る防犯プログラムを実行するコンピュータの一例について説明するための図である。FIG. 14 is a schematic diagram illustrating an example of a computer that executes a crime prevention program according to the first and second embodiments.

以下に添付図面を参照して本願に係る防犯装置、防犯方法及び防犯プログラムについて説明する。なお、この実施例は開示の技術を限定するものではない。そして、各実施例は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。   Hereinafter, a crime prevention device, a crime prevention method, and a crime prevention program according to the present application will be described with reference to the accompanying drawings. Note that this embodiment does not limit the disclosed technology. Each embodiment can be appropriately combined within a range in which processing contents are not contradictory.

まず、本実施例に係る防犯装置の機能的構成について説明する。図1は、実施例1に係る防犯装置の機能的構成を示すブロック図である。図1に示すATM(automatic teller machine)10は、預金通帳やキャッシュカードなどを用いて、預け入れ、引き出し、振り込み及び残高照会などの取引を行う現金自動預け払い機である。   First, the functional configuration of the crime prevention device according to the present embodiment will be described. FIG. 1 is a block diagram illustrating a functional configuration of the crime prevention device according to the first embodiment. An ATM (automatic teller machine) 10 shown in FIG. 1 is an automatic teller machine that performs transactions such as deposit, withdrawal, transfer, and balance inquiry using a bankbook or cash card.

かかるATM10は、振り込め詐欺による被害を抑制する防犯対策の一環として、画像中の顔領域から検出される脈波、すなわち心臓の拍動に伴う血液の体積の変動を非接触で検出し、脈波が異常である場合に報知を実行する防犯機能を有する。   The ATM 10 detects, in a non-contact manner, a pulse wave detected from a face region in an image, that is, a change in blood volume associated with a heart beat, as a part of a security measure for suppressing damage caused by wire fraud. Has a crime prevention function to perform notification when the is abnormal.

一態様としては、防犯機能は、パッケージソフトウェアやオンラインソフトウェアとして提供される防犯プログラムをATMなどにインストールまたはプリインストールさせることによって実装できる。他の一態様としては、1つまたは複数のATMで取引を行う人物を撮影するカメラと接続される監視装置に上記の防犯プログラムをインストールまたはプリインストールさせることによってATMとは別体の監視システムとして実装することもできる。   As one aspect, the security function can be implemented by installing or preinstalling a security program provided as package software or online software in an ATM or the like. As another aspect, as a monitoring system separate from ATM, by installing or pre-installing the above-mentioned crime prevention program in a monitoring device connected to a camera that shoots a person who makes a transaction with one or more ATMs It can also be implemented.

図1に示すように、ATM10は、タッチパネル11aと、カードリーダ11bと、カメラ11cと、ATM処理部12とを有する。さらに、ATM10は、取得部13と、抽出部14と、波形検出部15と、心拍数算出部15aと、心拍変動算出部15bと、履歴記憶部16aと、判定部16と、報知部17とを有する。なお、ATM10は、図1に示した機能部以外にも既知のATMが有する各種の機能部を有することとしてもかまわない。例えば、ATMは、コインメックやビルバリユニットなどの貨幣処理部の他、タッチパネル11aとの間で相補的に操作入力が可能な物理キー、プリンタを有することとしてもよい。   As shown in FIG. 1, the ATM 10 includes a touch panel 11a, a card reader 11b, a camera 11c, and an ATM processing unit 12. Further, the ATM 10 includes an acquisition unit 13, an extraction unit 14, a waveform detection unit 15, a heart rate calculation unit 15a, a heart rate fluctuation calculation unit 15b, a history storage unit 16a, a determination unit 16, and a notification unit 17. Have Note that the ATM 10 may include various functional units included in a known ATM in addition to the functional units illustrated in FIG. For example, the ATM may have a physical key and a printer that can be complementarily operated with the touch panel 11a in addition to a coin processing unit such as a coin mech or a bill validator unit.

このうち、タッチパネル11aは、表示可能かつ入力可能なデバイスである。一態様としては、タッチパネル11aは、預け入れ、引き出し、振り込み及び残高照会などの各種の取引を含むメニュー画面を表示する。他の一態様としては、タッチパネル11aは、メニュー画面上で「振り込み」が選択された場合に、ATM10の利用者の脈波を検出し易い画像を入手できるように、撮影に関する案内や手引きなどのガイダンスを表示する。更なる一態様としては、タッチパネル11aは、ATM10の利用者の脈波に異常がある場合に、振り込め詐欺等の被害に遭っている可能性がある旨の警告などを含む報知画面を表示する。   Among these, the touch panel 11a is a displayable and inputable device. As an aspect, the touch panel 11a displays a menu screen including various transactions such as deposit, withdrawal, transfer, and balance inquiry. As another aspect, the touch panel 11a can provide guidance and guidance on shooting so that an image that can easily detect the pulse wave of the user of the ATM 10 can be obtained when “transfer” is selected on the menu screen. Display guidance. As a further aspect, the touch panel 11a displays a notification screen including a warning or the like indicating that there is a possibility of suffering damage such as wire fraud when there is an abnormality in the pulse wave of the ATM 10 user.

カードリーダ11bは、図示しないカード挿入口から挿入されたカードに記録された情報を読み取る読取装置である。一態様としては、カードリーダ11bは、カード挿入口へ挿入されたカードから当該カードに記録された利用者の口座番号などを読み取る。なお、カードリーダ11bは、磁気ストライプカードから情報を読み取るタイプのものでもよいし、IC(Integrated Circuit)カードから情報を読み取るタイプのものであってもよい。   The card reader 11b is a reading device that reads information recorded on a card inserted from a card insertion slot (not shown). As one aspect, the card reader 11b reads the account number of the user recorded on the card from the card inserted into the card insertion slot. The card reader 11b may be a type that reads information from a magnetic stripe card, or may be a type that reads information from an IC (Integrated Circuit) card.

カメラ11cは、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子を搭載する撮像装置である。かかるカメラ11cは、ATM10を利用する利用者の顔が撮像範囲に収まる位置であれば任意の位置に設置することができ、例えば、ATM10に内蔵することもできるし、ATM10の外部に付設することもできる。例えば、カメラ11cには、R(red)、G(green)、B(blue)など3種以上の受光素子を搭載することができる。なお、ここでは、ATM10がカメラ11cを有する場合を例示したが、ネットワークまたは記憶デバイスを経由して利用者の顔が映る画像を取得できる場合には、必ずしもATM10がカメラ11cを有さずともよい。   The camera 11c is an imaging device that includes an imaging element such as a charge coupled device (CCD) or a complementary metal oxide semiconductor (CMOS). The camera 11c can be installed at any position as long as the face of the user who uses the ATM 10 is within the imaging range. For example, the camera 11c can be built in the ATM 10 or attached outside the ATM 10. You can also. For example, three or more types of light receiving elements such as R (red), G (green), and B (blue) can be mounted on the camera 11c. Here, the case where the ATM 10 has the camera 11c has been illustrated, but the ATM 10 does not necessarily have the camera 11c when an image showing the user's face can be acquired via a network or a storage device. .

ATM処理部12は、預け入れ、引き出し、振り込み及び残高照会などの各種の取引を実行する処理部である。一態様としては、ATM処理部12は、図示しないカード挿入口を介してカードの挿入を受け付けると、カードリーダ11bを制御して、当該挿入を受け付けたカードから口座番号を読み取らせる。続いて、ATM処理部12は、タッチパネル11aを介して、メニュー画面に表示されたメニューの選択を受け付けた後に、当該メニューに関する取引の内容をさらに受け付ける。その後、ATM処理部12は、取引の実行指示を受け付けると、選択を受け付けたメニューの種別が「振込」であるか否かを判定する。   The ATM processing unit 12 is a processing unit that executes various transactions such as deposit, withdrawal, transfer, and balance inquiry. As an aspect, when accepting insertion of a card via a card insertion slot (not shown), the ATM processing unit 12 controls the card reader 11b to read the account number from the accepted card. Subsequently, after accepting selection of a menu displayed on the menu screen via the touch panel 11a, the ATM processing unit 12 further accepts the content of the transaction related to the menu. Thereafter, when receiving an instruction to execute a transaction, the ATM processing unit 12 determines whether or not the type of the menu that has received the selection is “transfer”.

このとき、ATM処理部12は、選択を受け付けたメニューの種別が「振込」ではない場合に、図示しない金融機関に設置されたサーバ装置との間で通信を行い、カードから読み取られた口座番号に対応する口座に対し、取引を実行する。例えば、ATM処理部12は、メニューの種別が「預入」である場合には、図示しないコインメックまたはビルバリユニットに貨幣投入口から投入された貨幣の金種および枚数を識別させる。その上で、ATM処理部12は、金種および枚数に対応する金額をカードから読み取られた口座番号に対応する口座の残高へ預け入れる依頼を金融機関のサーバ装置へ通知する。その後、ATM処理部12は、預け入れ後の残高をタッチパネル11aに表示させたり、図示しないプリンタによって印字出力させたりする。また、ATM処理部12は、メニューの種別が「引き出し」である場合には、カードから読み取られた口座番号に対応する口座の残高から先に取引の内容として指定された金額を引き落とす依頼を金融機関のサーバ装置へ通知する。その後、ATM処理部12は、金融機関のサーバ装置から引落しの完了が通知されると、当該引落しが完了した金額に対応する貨幣を払い出し、引き出し後の残高をタッチパネル11aに表示させたり、図示しないプリンタによって印字出力させたりする。また、ATM処理部12は、メニューの種別が「残高照会」である場合には、カードから読み取られた口座番号に対応する口座の残高を金融機関のサーバ装置へ照会する。その後、ATM処理部12は、金融機関のサーバ装置から応答された口座の残高をタッチパネル11aに表示させたり、図示しないプリンタによって印字出力させたりする。   At this time, the ATM processing unit 12 communicates with a server device installed in a financial institution (not shown) when the type of the menu that has received the selection is not “transfer”, and the account number read from the card Execute the transaction for the account corresponding to. For example, if the menu type is “deposit”, the ATM processing unit 12 identifies the denomination and the number of coins inserted from a coin slot into a coin mech or bill valid unit (not shown). Then, the ATM processing unit 12 notifies the server device of the financial institution of a request for depositing the amount corresponding to the denomination and the number of sheets into the account balance corresponding to the account number read from the card. Thereafter, the ATM processing unit 12 displays the balance after deposit on the touch panel 11a, or prints out the balance using a printer (not shown). In addition, when the type of menu is “withdrawal”, the ATM processing unit 12 finances a request to withdraw the amount specified as the content of the transaction first from the account balance corresponding to the account number read from the card. Notify the institution's server device. Thereafter, when the completion of the withdrawal is notified from the server device of the financial institution, the ATM processing unit 12 pays out the money corresponding to the amount of the withdrawal, and displays the balance after the withdrawal on the touch panel 11a, Printing is output by a printer (not shown). In addition, when the menu type is “balance inquiry”, the ATM processing unit 12 inquires the balance of the account corresponding to the account number read from the card to the server device of the financial institution. Thereafter, the ATM processing unit 12 displays the balance of the account responded from the server device of the financial institution on the touch panel 11a or prints it out by a printer (not shown).

一方、ATM処理部12は、選択を受け付けたメニューの種別が「振込」である場合には、ATM10で振り込みを行う利用者の脈波に異常がないか否かを判定させるために、後述の取得部13に画像の取得を開始させる。その後、ATM処理部12は、後述の判定部16によって利用者の脈波に異常がないと判定された場合に、取引の内容として指定された内容にしたがって振り込みを実行する。すなわち、ATM処理部12は、カードから読み取られた口座番号に対応する講座から振り込みが指示された金額を引き落とすとともに、当該振り込みが指示された金額を振込先の口座に払い込む振込み依頼を金融機関のサーバ装置へ通知する。そして、ATM処理部12は、金融機関のサーバ装置から振り込みの完了が通知されると、振り込み後の口座の残高、振込先や振り込みが行われた金額をタッチパネル11aに表示させたり、図示しないプリンタによって印字出力させたりする。   On the other hand, when the type of the menu for which the selection has been accepted is “transfer”, the ATM processing unit 12 determines whether there is no abnormality in the pulse wave of the user who performs the transfer at the ATM 10. The acquisition unit 13 starts image acquisition. Thereafter, the ATM processing unit 12 performs transfer according to the content specified as the content of the transaction when the determination unit 16 described later determines that there is no abnormality in the user's pulse wave. That is, the ATM processing unit 12 withdraws the amount instructed to be transferred from the course corresponding to the account number read from the card, and issues a transfer request for paying the amount instructed to the transfer to the account of the transfer destination. Notify the server device. Then, when the completion of the transfer is notified from the server device of the financial institution, the ATM processing unit 12 displays the balance of the account after the transfer, the transfer destination and the amount of money transferred on the touch panel 11a, or a printer (not shown) To print out.

取得部13は、画像を取得する処理部である。一態様としては、取得部13は、ATM処理部12から撮影の開始が指示された場合にカメラ11cに撮影を指示し、カメラ11cによって撮影される画像を取得する。このとき、取得部13は、ATM10の利用者の顔が撮像範囲に収まった状態で画像が撮像されるように、利用者の顔の位置をカメラ11cの撮像範囲内に誘導したり、撮影中は顔を静止するように警告したり、顔が衣服や頭髪によって遮られないように注意喚起したりすることもできる。図2は、画面の一例を示す図である。例えば、図2に示すように、カメラ11cによって撮影された画像を含む照準画面をタッチパネル11aに表示し、照準画面内に利用者の顔が映るようにガイダンスすることができる。他の一態様としては、取得部13は、利用者の顔が撮影された画像を蓄積するハードディスクや光ディスクなどの補助記憶装置またはメモリカードやUSB(Universal Serial Bus)メモリなどのリムーバブルメディアから画像を取得することもできる。更なる一態様としては、取得部13は、外部装置からネットワークを介して受信した画像を取得することもできる。なお、取得部13は、CCDやCMOSなどの撮像素子による出力から得られる2次元のビットマップデータやベクタデータなどの画像データを用いて処理を実行する場合を例示したが、1つのディテクタから出力される信号をそのまま取得して後段の処理を実行させることとしてもよい。   The acquisition unit 13 is a processing unit that acquires an image. As one aspect, the acquisition unit 13 instructs the camera 11c to take a picture when the ATM processing unit 12 gives an instruction to start taking a picture, and acquires an image taken by the camera 11c. At this time, the acquisition unit 13 guides the position of the user's face within the imaging range of the camera 11c so that an image is captured in a state where the user's face of the ATM 10 is within the imaging range, or during shooting. Can warn you to keep your face still, or alert you that your face is not blocked by clothes or hair. FIG. 2 is a diagram illustrating an example of a screen. For example, as shown in FIG. 2, an aiming screen including an image photographed by the camera 11c can be displayed on the touch panel 11a, and guidance can be provided so that the user's face is reflected in the aiming screen. As another aspect, the acquisition unit 13 acquires an image from an auxiliary storage device such as a hard disk or an optical disk or a removable medium such as a memory card or a USB (Universal Serial Bus) memory that stores an image of the user's face. It can also be acquired. As a further aspect, the acquisition unit 13 can also acquire an image received from an external device via a network. In addition, although the acquisition part 13 illustrated the case where a process is performed using image data, such as two-dimensional bitmap data obtained from the output by image pick-up elements, such as CCD and CMOS, and vector data, it outputs from one detector. It is also possible to acquire the processed signal as it is and execute the subsequent processing.

抽出部14は、取得部13によって取得された画像から脈波の検出対象とする領域を抽出する処理部である。一態様としては、抽出部14は、取得部13によって画像が取得される度に、当該画像にテンプレートマッチング等の画像処理を実行することによって所定の顔パーツ、例えば利用者の目、鼻、唇、頬や髪などを含む顔領域を抽出する。このとき、抽出部14は、脈波の検出中にATM10の利用者の顔がカメラ11cの撮像範囲から外れないように、注意喚起を促すこともできる。図3は、画面の一例を示す図である。例えば、図3に示すように、画像処理によって抽出された顔領域、例えば顔領域の頂点や重心などの動きが画像のフレーム間で所定のピクセル数を超えた場合に、照準画面から顔が外れないように注意喚起するメッセージをタッチパネル11aに表示させたり、図示しないスピーカから音声出力させたりすることができる。   The extraction unit 14 is a processing unit that extracts a region that is a pulse wave detection target from the image acquired by the acquisition unit 13. As one aspect, each time an image is acquired by the acquisition unit 13, the extraction unit 14 performs image processing such as template matching on the image to obtain a predetermined facial part such as a user's eyes, nose, and lips. Extract facial regions including cheeks and hair. At this time, the extraction unit 14 can also urge attention so that the face of the user of the ATM 10 does not deviate from the imaging range of the camera 11c during detection of the pulse wave. FIG. 3 is a diagram illustrating an example of a screen. For example, as shown in FIG. 3, when the movement of a face area extracted by image processing, for example, the vertex or the center of gravity of the face area exceeds a predetermined number of pixels between image frames, the face is removed from the aiming screen. It is possible to display a message for calling attention on the touch panel 11a or to output a voice from a speaker (not shown).

上記の顔領域の抽出後に、抽出部14は、顔領域に含まれる各画素が持つ画素値に所定の統計処理を実行する。例えば、抽出部14は、顔領域に含まれる各画素が持つ画素値を波長成分ごとに平均する。この他、平均値以外にも、中央値や最頻値を計算することとしてもよく、また、加重平均以外にも任意の平均処理、例えば加重平均や移動平均などを実行することもできる。これによって、顔領域に含まれる各画素が持つ画素値の平均値が当該顔領域を代表する代表値として波長成分ごとに算出される。   After extracting the face area, the extraction unit 14 performs a predetermined statistical process on the pixel value of each pixel included in the face area. For example, the extraction unit 14 averages the pixel values of each pixel included in the face area for each wavelength component. In addition to the average value, the median value and the mode value may be calculated. In addition to the weighted average, an arbitrary average process such as a weighted average or a moving average may be executed. As a result, an average value of pixel values of each pixel included in the face area is calculated for each wavelength component as a representative value representing the face area.

波形検出部15は、脈波の検出対象とする領域に含まれる各画素の波長成分別の代表値の信号から、各波長成分の間で脈波が採り得る脈波周波数帯以外の特定周波数帯の成分が互いに相殺された信号の波形を検出する処理部である。   The waveform detection unit 15 uses a specific frequency band other than the pulse wave frequency band in which the pulse wave can be taken between the respective wavelength components from the signal of the representative value for each wavelength component of each pixel included in the detection target region of the pulse wave. It is a processing part which detects the waveform of the signal from which these components were mutually canceled.

一態様としては、波形検出部15は、画像に含まれる3つの波長成分、すなわちR成分、G成分およびB成分のうち血液の吸光特定が異なるR成分とG成分の2つの波長成分の代表値の時系列データを用いて、波形を検出する。   As an aspect, the waveform detection unit 15 includes three wavelength components included in the image, that is, representative values of the two wavelength components of the R component and the G component, which have different blood absorption specifications among the R component, the G component, and the B component. The waveform is detected using the time series data.

これを説明すると、顔表面には、毛細血管が流れており、心拍により血管に流れる血流が変化すると、血流で吸収される光量も心拍に応じて変化するため、顔からの反射によって得られる輝度も心拍に伴って変化する。かかる輝度の変化量は小さいが、顔領域全体の平均輝度を求めると、輝度の時系列データには脈波成分が含まれる。ところが、輝度は、脈波以外に体動等によっても変化し、これが、脈波検出のノイズ成分、いわゆる体動アーチファクトとなる。そこで、血液の吸光特性の異なる2種類以上の波長、例えば吸光特性が高いG成分(525nm程度)、吸光特性が低いR成分(700nm程度)で脈波を検出する。心拍は、0.5Hz〜4Hz、1分あたりに換算すれば30bpm〜240bpmの範囲であるので、それ以外の成分はノイズ成分とみなすことができる。ノイズには、波長特性は無い、あるいはあっても極小であると仮定すると、G信号およびR信号の間で0.5Hz〜4Hz以外の成分は等しいはずであるが、カメラの感度差により大きさが異なる。それゆえ、0.5Hz〜4Hz以外の成分の感度差を補正して、G成分からR成分を減算すれば、ノイズ成分は除去されて脈波成分のみを取り出すことができる。   To explain this, there are capillaries on the face surface, and when the blood flow flowing through the blood vessels changes due to the heartbeat, the amount of light absorbed by the bloodstream also changes according to the heartbeat. The brightness that is produced also changes with the heartbeat. Although the amount of change in luminance is small, when the average luminance of the entire face region is obtained, the time-series data of luminance includes a pulse wave component. However, the luminance also changes due to body movement in addition to the pulse wave, and this becomes a noise component of pulse wave detection, so-called body movement artifact. Therefore, a pulse wave is detected with two or more wavelengths having different light absorption characteristics of blood, for example, a G component having a high light absorption characteristic (about 525 nm) and an R component having a low light absorption characteristic (about 700 nm). Since the heart rate is in the range of 30 bpm to 240 bpm when converted to 0.5 Hz to 4 Hz per minute, other components can be regarded as noise components. Assuming that noise does not have wavelength characteristics or is minimal even if it is present, components other than 0.5 Hz to 4 Hz should be equal between the G signal and the R signal. Is different. Therefore, by correcting the sensitivity difference between components other than 0.5 Hz to 4 Hz and subtracting the R component from the G component, the noise component can be removed and only the pulse wave component can be extracted.

例えば、G成分及びR成分は、下記の式(1)および下記の式(2)によって表すことができる。下記の式(1)における「Gs」は、G信号の脈波成分を指し、「Gn」は、G信号のノイズ成分を指し、また、下記の式(1)における「Rs」は、R信号の脈波成分を指し、「Rn」は、R信号のノイズ成分を指す。また、ノイズ成分は、G成分およびR成分の間で感度差があるので、感度差の補正係数kは、下記の式(3)によって表される。   For example, the G component and the R component can be represented by the following formula (1) and the following formula (2). “Gs” in the following equation (1) indicates the pulse wave component of the G signal, “Gn” indicates the noise component of the G signal, and “Rs” in the following equation (1) indicates the R signal. “Rn” indicates the noise component of the R signal. Further, since the noise component has a sensitivity difference between the G component and the R component, the correction coefficient k for the sensitivity difference is expressed by the following equation (3).

Ga=Gs+Gn・・・(1)
Ra=Rs+Rn・・・(2)
k=Gn/Rn・・・(3)
Ga = Gs + Gn (1)
Ra = Rs + Rn (2)
k = Gn / Rn (3)

感度差を補正してG成分からR成分を減算すると、脈波成分Sは、下記の式(4)となる。これを上記の式(1)及び上記の式(2)を用いて、Gs、Gn、Rs及びRnによって表される式へ変形すると、下記の式(5)となり、さらに、上記の式(3)を用いて、kを消し、式を整理すると下記の式(6)が導出される。   When the sensitivity difference is corrected and the R component is subtracted from the G component, the pulse wave component S is expressed by the following equation (4). When this is transformed into the formula represented by Gs, Gn, Rs and Rn using the above formula (1) and the above formula (2), the following formula (5) is obtained, and further, the above formula (3 ) To eliminate k and arrange the equations, the following equation (6) is derived.

S=Ga−kRa・・・(4)
S=Gs+Gn−k(Rs+Rn)・・・(5)
S=Gs−(Gn/Rn)Rs・・・(6)
S = Ga-kRa (4)
S = Gs + Gn−k (Rs + Rn) (5)
S = Gs− (Gn / Rn) Rs (6)

ここで、G信号およびR信号は、吸光特性が異なり、Gs>(Gn/Rn)Rsである。したがって、上記の式(6)によってノイズが除去された脈波成分Sを算出することができる。   Here, the G signal and the R signal have different light absorption characteristics, and Gs> (Gn / Rn) Rs. Therefore, the pulse wave component S from which noise is removed can be calculated by the above equation (6).

図4は、G信号およびR信号の各信号のスペクトルの一例を示す図である。図4に示すグラフの縦軸は、信号強度を指し、また、横軸は、周波数(bpm)を指す。図4に示すように、G成分およびR成分は、撮像素子の感度が異なるので、両者の信号強度はそれぞれ異なる。その一方、R成分およびG成分は、いずれにおいても30bpm〜240bpmの範囲外、特に3bpm以上20bpm未満の特定周波数帯でノイズが現れることには変わりはない。このため、図4に示すように、3bpm以上20bpm未満の特定周波数帯に含まれる指定の周波数Fnに対応する信号強度をGn及びRnとして抽出できる。これらGn及びRnによって感度差の補正係数kを導出できる。   FIG. 4 is a diagram illustrating an example of the spectrum of each signal of the G signal and the R signal. The vertical axis of the graph shown in FIG. 4 indicates the signal intensity, and the horizontal axis indicates the frequency (bpm). As shown in FIG. 4, since the sensitivity of the image sensor differs between the G component and the R component, the signal strengths of the two differ. On the other hand, in both the R component and the G component, there is no change in that noise appears outside the range of 30 bpm to 240 bpm, particularly in a specific frequency band of 3 bpm or more and less than 20 bpm. For this reason, as shown in FIG. 4, the signal intensity corresponding to the specified frequency Fn included in the specific frequency band of 3 bpm or more and less than 20 bpm can be extracted as Gn and Rn. The sensitivity difference correction coefficient k can be derived from these Gn and Rn.

図5は、G成分および補正係数kが乗算されたR成分の各信号のスペクトルの一例を示す図である。図5の例では、説明の便宜上、補正係数の絶対値を乗算した結果が図示されている。図5に示すグラフにおいても、縦軸は、信号強度を指し、また、横軸は、周波数(bpm)を指す。図5に示すように、G成分及びR成分の各信号のスペクトルに補正係数kが乗算された場合には、G成分およびR成分の各成分の間で感度が揃う。特に、特定周波数帯におけるスペクトルの信号強度は、大部分においてスペクトルの信号強度が略同一になっている。その一方で、実際に脈波が含まれる周波数の周辺領域400は、G成分およびR成分の各成分の間でスペクトルの信号強度が揃っていない。   FIG. 5 is a diagram illustrating an example of a spectrum of each signal of the R component multiplied by the G component and the correction coefficient k. In the example of FIG. 5, the result of multiplying the absolute value of the correction coefficient is shown for convenience of explanation. Also in the graph shown in FIG. 5, the vertical axis indicates the signal intensity, and the horizontal axis indicates the frequency (bpm). As shown in FIG. 5, when the spectrum of each signal of the G component and the R component is multiplied by the correction coefficient k, the sensitivity is uniform between the components of the G component and the R component. In particular, the spectrum signal intensity in a specific frequency band is almost the same in most spectrum signals. On the other hand, in the peripheral region 400 of the frequency where the pulse wave is actually included, the signal intensity of the spectrum is not uniform between the G component and the R component.

図6は、演算後のスペクトルの一例を示す図である。図6では、脈波が現れている周波数帯の視認性を上げる観点から縦軸である信号強度の尺度を大きくして図示している。図6に示すように、G信号のスペクトルから補正係数kの乗算後のR信号のスペクトルが差し引かれた場合には、G成分およびR成分の間での吸光特性の差によって脈波が現れる信号成分の強度が可及的に維持された状態でノイズ成分が低減されていることがわかる。このようにしてノイズ成分だけが除去された脈波波形を検出することができる。   FIG. 6 is a diagram illustrating an example of a spectrum after calculation. In FIG. 6, the scale of the signal intensity, which is the vertical axis, is enlarged from the viewpoint of improving the visibility of the frequency band in which the pulse wave appears. As shown in FIG. 6, when the spectrum of the R signal after the multiplication of the correction coefficient k is subtracted from the spectrum of the G signal, a signal in which a pulse wave appears due to a difference in light absorption characteristics between the G component and the R component. It can be seen that the noise component is reduced with the strength of the component maintained as much as possible. In this way, it is possible to detect a pulse wave waveform from which only noise components have been removed.

続いて、波形検出部15の機能的構成についてさらに具体的に説明する。図7は、波形検出部15の機能的構成を示すブロック図である。図7に示すように、波形検出部15は、BPF(Band-Pass Filter)152R及び152Gと、抽出部153R及び153Gと、LPF(Low-Pass Filter)154R及び154Gと、算出部155と、BPF156R及び156Gと、乗算部157と、演算部158とを有する。なお、図4〜図6の例では、周波数空間にて脈波を検出する例を説明したが、図7では、周波数成分への変換にかかる時間を削減する観点から、時系列空間にてノイズ成分をキャンセルして脈波を検出する場合の機能的構成を図示している。   Next, the functional configuration of the waveform detector 15 will be described more specifically. FIG. 7 is a block diagram showing a functional configuration of the waveform detector 15. As shown in FIG. 7, the waveform detection unit 15 includes BPFs (Band-Pass Filters) 152R and 152G, extraction units 153R and 153G, LPFs (Low-Pass Filters) 154R and 154G, a calculation unit 155, and a BPF 156R. 156G, a multiplication unit 157, and a calculation unit 158. In the example of FIGS. 4 to 6, the example in which the pulse wave is detected in the frequency space has been described. However, in FIG. 7, the noise in the time series space is reduced from the viewpoint of reducing the time required for the conversion to the frequency component. The functional structure in the case of detecting a pulse wave by canceling components is shown.

例えば、抽出部14から波形検出部15には、顔領域に含まれる各画素が持つR成分の画素値の代表値を信号値とするR信号の時系列データが入力されるとともに、顔領域に含まれる各画素が持つG成分画素値の代表値を信号値とするG信号の時系列データが入力される。このうち、顔領域のR信号は、波形検出部15内のBPF152R及びBPF156Rへ入力されるとともに、顔領域のG信号は、波形検出部15内のBPF152G及びBPF156Gへ入力される。   For example, the time-series data of the R signal using the representative value of the R component pixel value of each pixel included in the face region as the signal value is input from the extraction unit 14 to the waveform detection unit 15, and is also input to the face region. The time series data of the G signal having the representative value of the G component pixel value of each included pixel as the signal value is input. Among these, the R signal of the face area is input to the BPF 152R and the BPF 156R in the waveform detection unit 15, and the G signal of the face area is input to the BPF 152G and the BPF 156G in the waveform detection unit 15.

BPF152R、BPF152G、BPF156R及びBPF156Gは、いずれも所定の周波数帯の信号成分だけを通過させてそれ以外の周波数帯の信号成分を除去するバンドパスフィルタである。これらBPF152R、BPF152G、BPF156R及びBPF156Gは、ハードウェアによって実装されることとしてもよいし、ソフトウェアによって実装されることとしてもよい。   Each of BPF 152R, BPF 152G, BPF 156R, and BPF 156G is a band-pass filter that passes only signal components in a predetermined frequency band and removes signal components in other frequency bands. These BPF 152R, BPF 152G, BPF 156R, and BPF 156G may be implemented by hardware, or may be implemented by software.

これらBPFが通過させる周波数帯の違いについて説明する。BPF152R及びBPF152Gは、ノイズ成分が他の周波数帯よりも顕著に現れる特定周波数帯の信号成分を通過させる。   The difference in the frequency band that the BPF passes will be described. The BPF 152R and the BPF 152G pass a signal component in a specific frequency band in which a noise component appears more noticeably than other frequency bands.

かかる特定周波数帯は、脈波が採り得る周波数帯との間で比較することによって定めることができる。脈波が採り得る周波数帯の一例としては、0.5Hz以上4Hz以下である周波数帯、1分あたりに換算すれば30bpm以上240bpm以下である周波数帯が挙げられる。このことから、特定周波数帯の一例としては、脈波として計測され得ない0.5Hz未満及び4Hz超過の周波数帯を採用することができる。また、特定周波数帯は、脈波が採り得る周波数帯との間でその一部が重複することとしてもよい。例えば、脈波として計測されることが想定しづらい0.7Hz〜1Hzの区間で脈波が採り得る周波数帯と重複することを許容し、1Hz未満及び4Hz以上の周波数帯を特定周波数帯として採用することもできる。また、特定周波数帯は、1Hz未満及び4Hz以上の周波数帯を外縁とし、ノイズがより顕著に現れる周波数帯に絞ることもできる。例えば、ノイズは、脈波が採り得る周波数帯よりも高い高周波数帯に比べて、脈波が採り得る周波数帯よりも低い低周波数帯でより顕著に現れる。このため、1Hz未満の周波数帯に特定周波数帯を絞ることもできる。また、空間周波数がゼロである直流成分の近傍には、各成分の撮像素子の感度の差が多く含まれるので、3bpm以上60bpm未満の周波数帯に特定周波数帯を絞ることもできる。さらに、人の体の動き、例えば瞬きや体の揺れの他、環境光のチラツキなどのノイズが現れやすい3bpm以上20bpm未満の周波数帯に特定周波数帯を絞ることもできる。   Such a specific frequency band can be determined by comparing with a frequency band that can be taken by a pulse wave. An example of a frequency band that can be taken by a pulse wave is a frequency band of 0.5 Hz to 4 Hz, and a frequency band of 30 bpm to 240 bpm when converted per minute. From this, as an example of the specific frequency band, a frequency band of less than 0.5 Hz and more than 4 Hz that cannot be measured as a pulse wave can be employed. Further, the specific frequency band may partially overlap with the frequency band that can be taken by the pulse wave. For example, it is allowed to overlap with the frequency band that the pulse wave can take in the section of 0.7 Hz to 1 Hz that is difficult to be measured as a pulse wave, and the frequency band of less than 1 Hz and 4 Hz or more is adopted as the specific frequency band. You can also Further, the specific frequency band can be narrowed down to a frequency band in which noise is more noticeable with the frequency band of less than 1 Hz and 4 Hz or more as the outer edge. For example, noise appears more prominently in a lower frequency band than a frequency band in which a pulse wave can be taken, compared to a high frequency band in which the pulse wave can be taken. For this reason, a specific frequency band can also be narrowed down to a frequency band of less than 1 Hz. Further, since there are many differences in the sensitivity of the image sensor of each component in the vicinity of the direct current component where the spatial frequency is zero, the specific frequency band can be narrowed down to a frequency band of 3 bpm or more and less than 60 bpm. Further, the specific frequency band can be narrowed down to a frequency band of 3 bpm to less than 20 bpm in which noise such as flickering of ambient light other than human body movement, for example, blinking or shaking of the body, is likely to appear.

ここでは、一例として、BPF152R及びBPF152Gが特定周波数帯として0.05Hz〜以上0.3Hz以下の周波数帯の信号成分を通過させる場合を想定して以下の説明を行う。なお、ここでは、特定周波数帯の信号成分を抽出するために、バンドパスフィルタを用いる場合を例示したが、一定の周波数未満の周波数帯の信号成分を抽出する場合などには、ローパスフィルタを用いることもできる。   Here, as an example, the following description will be made assuming that the BPF 152R and the BPF 152G pass a signal component in a frequency band of 0.05 Hz to 0.3 Hz as a specific frequency band. Here, the case where a bandpass filter is used to extract a signal component in a specific frequency band is illustrated, but a low-pass filter is used when a signal component in a frequency band below a certain frequency is extracted. You can also.

一方、BPF156R及びBPF156Gは、脈波が採り得る周波数帯、例えば1Hz以上4Hz以下の周波数帯の信号成分を通過させる。なお、以下では、脈波が採り得る周波数帯のことを「脈波周波数帯」と記載する場合がある。   On the other hand, the BPF 156R and the BPF 156G pass signal components in a frequency band that can be taken by a pulse wave, for example, a frequency band of 1 Hz to 4 Hz. Hereinafter, a frequency band that can be taken by a pulse wave may be referred to as a “pulse wave frequency band”.

抽出部153Rは、R信号の特定周波数帯の信号成分の絶対強度値を抽出する。例えば、抽出部153Rは、R成分の特定周波数帯の信号成分をべき乗する乗算処理を実行することによって特定周波数帯の信号成分の絶対強度値を抽出する。また、抽出部153Gは、G信号の特定周波数帯の信号成分の絶対強度値を抽出する。例えば、抽出部153Gは、G成分の特定周波数帯の信号成分をべき乗する乗算処理を実行することによって特定周波数帯の信号成分の絶対強度値を抽出する。   The extraction unit 153R extracts the absolute intensity value of the signal component in the specific frequency band of the R signal. For example, the extraction unit 153R extracts the absolute intensity value of the signal component in the specific frequency band by executing a multiplication process that powers the signal component in the specific frequency band of the R component. Further, the extraction unit 153G extracts the absolute intensity value of the signal component in the specific frequency band of the G signal. For example, the extraction unit 153G extracts the absolute intensity value of the signal component in the specific frequency band by executing a multiplication process that powers the signal component in the specific frequency band of the G component.

LPF154R及びLPF154Gは、特定周波数帯の絶対強度値の時系列データに対し、時間変化に応答させる平滑化処理を実行するローパスフィルタである。これらLPF154R及びLPF154Gは、LPF154Rへ入力される信号がR信号であり、LPF154Gへ入力される信号がG信号である以外に違いはない。かかる平滑化処理によって、特定周波数帯の絶対値強度R´n及びG´nが得られる。   The LPF 154R and the LPF 154G are low-pass filters that perform a smoothing process that responds to time changes on time-series data of absolute intensity values in a specific frequency band. The LPF 154R and the LPF 154G are the same except that the signal input to the LPF 154R is an R signal and the signal input to the LPF 154G is a G signal. By such smoothing processing, absolute value intensities R′n and G′n in a specific frequency band are obtained.

算出部155は、LPF154Gによって出力されたG信号の特定周波数帯の絶対値強度G´nを、LPF154Rによって出力されたR信号の特定周波数帯の絶対値強度R´nで除する除算「G´n/R´n」を実行する。これによって、感度差の補正係数kを算出する。   The calculation unit 155 divides the absolute value strength G′n of the specific frequency band of the G signal output by the LPF 154G by the absolute value strength R′n of the specific frequency band of the R signal output by the LPF 154R. n / R'n "is executed. Thereby, a correction coefficient k for the sensitivity difference is calculated.

乗算部157は、BPF156Rによって出力されたR信号の脈波周波数帯の信号成分に算出部155によって算出された補正係数kを乗算する。   The multiplier 157 multiplies the signal component in the pulse wave frequency band of the R signal output from the BPF 156R by the correction coefficient k calculated by the calculator 155.

演算部158は、乗算部157によって補正係数kが乗算されたR信号の脈波周波数帯の信号成分から、BPF156Gによって出力されたG信号の脈波周波数帯の信号成分を差し引く演算「k*Rs−Gs」を実行する。かかる演算によって得られた信号の時系列データは、脈波の波形に相当する。このようにして顔領域から検出された脈波の波形が心拍数算出部15aおよび心拍変動算出部15bへ出力される。   The arithmetic unit 158 subtracts the signal component of the pulse wave frequency band of the G signal output by the BPF 156G from the signal component of the pulse wave frequency band of the R signal multiplied by the correction coefficient k by the multiplier 157 “k * Rs. -Gs "is executed. The time series data of the signal obtained by such calculation corresponds to the waveform of the pulse wave. The waveform of the pulse wave detected from the face region in this way is output to the heart rate calculation unit 15a and the heart rate fluctuation calculation unit 15b.

図1の説明に戻り、心拍数算出部15aは、波形検出部15によって検出される信号から心拍数を算出する処理部である。一態様としては、心拍数算出部15aは、波形検出部15によって信号が検出されている検出期間、例えば30秒間や1分間にわたって信号の波形のピーク、例えば極大点を検出する。これによって、一拍の心拍信号に含まれるR波やT波などを検出できる。その上で、心拍数算出部15aは、検出期間の間に検出されたピークの回数を計数した上でピークの回数を単位時間あたりのピークの回数に換算する。例えば、検出期間を30秒、単位時間を1分間としたとき、30秒間に検出されたピークの回数を検出期間である30秒で除し、その除算値に単位時間である60秒(=1分)を乗算することによって心拍数を算出する。なお、ここでは、検出期間におけるピークの回数を計数することによって心拍数を算出する場合を例示したが、信号の時系列データを周波数成分に変換し、1Hz以上4Hz以下の脈波周波数帯で信号の強度がピークの周波数を心拍数として算出することもできる。かかる周波数成分への変換には、離散フーリエ変換、いわゆるDFT(Discrete Fourier Transform)、フーリエ変換、高速フーリエ変換(FFT:Fast Fourier Transform)や離散コサイン変換(DCT:Discrete Cosine Transform)などを適用することができる。   Returning to the description of FIG. 1, the heart rate calculation unit 15 a is a processing unit that calculates a heart rate from a signal detected by the waveform detection unit 15. As one aspect, the heart rate calculation unit 15a detects a peak of a signal waveform, for example, a maximum point, over a detection period in which the signal is detected by the waveform detection unit 15, for example, 30 seconds or 1 minute. As a result, an R wave, a T wave, or the like included in a single heartbeat signal can be detected. After that, the heart rate calculation unit 15a counts the number of peaks detected during the detection period, and converts the number of peaks into the number of peaks per unit time. For example, when the detection period is 30 seconds and the unit time is 1 minute, the number of peaks detected in 30 seconds is divided by the detection period of 30 seconds, and the divided value is 60 seconds (= 1). Heart rate is calculated by multiplying by (min). In addition, although the case where the heart rate is calculated by counting the number of peaks in the detection period is illustrated here, the time series data of the signal is converted into a frequency component and the signal is transmitted in a pulse wave frequency band of 1 Hz to 4 Hz. It is also possible to calculate the frequency of the peak intensity as the heart rate. For such conversion to frequency components, discrete Fourier transform, so-called DFT (Discrete Fourier Transform), Fourier transform, Fast Fourier Transform (FFT), Discrete Cosine Transform (DCT), or the like is applied. Can do.

心拍変動算出部15bは、波形検出部15によって検出される信号から心拍変動を算出する処理部である。一態様としては、心拍変動算出部15bは、波形検出部15によって信号が検出されている検出期間、例えば30秒間や1分間にわたって信号の波形のピーク、例えば極大点を検出する。これによって、一拍の心拍信号に含まれるR波やT波などを検出できる。そして、心拍変動算出部15bは、ピーク間隔、いわゆるRRI(R-R Interval)を測定し、RRIの時間変動、すなわち心拍変動を周波数成分へ変換する。その上で、心拍変動算出部15bは、心拍変動のスペクトルから低周波成分LF及び高周波成分HFを算出する。そして、心拍変動算出部15bは、低周波成分LFと高周波成分HFの比、例えばLF/HFを算出する。なお、低周波成分LFの一例としては、0.05Hz〜0.2Hzの周波数帯の信号強度の代表値、例えば平均値や積分値を採用でき、また、高周波成分HFの一例としては、0.2Hz〜0.35Hzの周波数帯の信号強度の代表値を採用できる。   The heart rate variability calculation unit 15 b is a processing unit that calculates heart rate variability from the signal detected by the waveform detection unit 15. As one aspect, the heart rate variability calculation unit 15b detects a peak of a signal waveform, for example, a maximum point, over a detection period in which the signal is detected by the waveform detection unit 15, for example, 30 seconds or 1 minute. As a result, an R wave, a T wave, or the like included in a single heartbeat signal can be detected. The heart rate variability calculation unit 15b measures a peak interval, so-called RRI (R-R Interval), and converts the time variation of RRI, that is, heart rate variability, into frequency components. After that, the heartbeat fluctuation calculation unit 15b calculates a low frequency component LF and a high frequency component HF from the spectrum of the heartbeat fluctuation. Then, the heartbeat fluctuation calculation unit 15b calculates the ratio of the low frequency component LF to the high frequency component HF, for example, LF / HF. As an example of the low frequency component LF, a representative value of the signal intensity in the frequency band of 0.05 Hz to 0.2 Hz, for example, an average value or an integral value can be employed. As an example of the high frequency component HF, 0. A representative value of signal intensity in a frequency band of 2 Hz to 0.35 Hz can be adopted.

履歴記憶部16aは、金融機関に口座を持つ顧客に関する脈波の履歴を記憶する記憶部である。かかる履歴記憶部16aの一態様としては、顧客の口座番号ごとに当該顧客の心拍数の分布が対応付けられた情報を採用できる。図8は、履歴情報の一例を示す図である。図8には、一人の顧客について当該顧客の心拍数として過去に検出された履歴がヒストグラムによって図示されている。図8に示す例で言えば、顧客の心拍数がおおよそ70bpm以上100bpm未満の範囲に集中していることがわかる。なお、ここでは、個人ごとに心拍数の履歴を記憶する場合を例示したが、標準的な人物の心拍数の履歴を記憶することもできる。この場合には、年代や性別に分類して心拍数の履歴を記憶することができる。また、ここでは、顧客の心拍数の履歴を記憶する場合を例示したが、顧客ごとに心拍変動の履歴、例えば心拍変動やLF/HFの履歴を記憶することもできる。   The history storage unit 16a is a storage unit that stores a history of pulse waves related to a customer who has an account at a financial institution. As one aspect of the history storage unit 16a, information in which the customer's heart rate distribution is associated with each customer's account number can be employed. FIG. 8 is a diagram illustrating an example of history information. In FIG. 8, the history of one customer that has been detected in the past as the heart rate of the customer is illustrated by a histogram. In the example shown in FIG. 8, it can be seen that the customer's heart rate is concentrated in a range of approximately 70 bpm or more and less than 100 bpm. In addition, although the case where the heart rate history is stored for each individual is illustrated here, the heart rate history of a standard person can also be stored. In this case, the heart rate history can be stored by classification by age and gender. Further, here, the case of storing the history of the heart rate of the customer is illustrated, but the history of heart rate variability, for example, the history of heart rate variability and LF / HF can be stored for each customer.

判定部16は、波形検出部15によって検出される信号の波形に異常があるか否かを判定する処理部である。一態様としては、判定部16は、心拍数算出部15aによって算出された心拍数および心拍変動算出部15bによって算出されたLF/HFを用いて、次に説明する「異常スコア」を算出する。ここで言う「異常スコア」は、ATM10の利用者の脈波が異常である可能性が高いほど値が高く設定される指標であり、例えば、心拍数および心拍変動が標準値から乖離している度合いが高いほど高い値が算出される。なお、以下では、異常スコアを算出する場合を例示するが、脈波が正常である可能性が高いほど値が高くなる正常スコアを算出することとしてもかまわない。   The determination unit 16 is a processing unit that determines whether or not there is an abnormality in the waveform of the signal detected by the waveform detection unit 15. As one aspect, the determination unit 16 calculates an “abnormal score” described below using the heart rate calculated by the heart rate calculation unit 15 a and the LF / HF calculated by the heart rate fluctuation calculation unit 15 b. The “abnormal score” referred to here is an index whose value is set higher as the pulse wave of the ATM 10 user is more likely to be abnormal. For example, the heart rate and heart rate variability deviate from the standard values. A higher value is calculated as the degree is higher. In the following, a case where an abnormal score is calculated is exemplified, but a normal score that increases as the possibility that the pulse wave is normal may be calculated.

これを具体的に説明すると、判定部16は、カードから読み取られた口座番号と一致する脈波の履歴を履歴記憶部16aから検索する。このとき、判定部16は、カードから読み取られた口座番号と一致する脈波の履歴が履歴記憶部16aに存在する場合、すなわちATM10の利用者の履歴が存在する場合には、履歴記憶部16aからATM10の利用者の履歴を読み出す。一方、判定部16は、履歴記憶部16aにATM10の利用者の履歴が存在しない場合には、履歴記憶部16aから標準的な人物の履歴を読み出す。その後、判定部16は、履歴記憶部16aから読み出した脈波の履歴を用いて、心拍数の異常スコアと心拍変動の異常スコアを算出する。   More specifically, the determination unit 16 searches the history storage unit 16a for a history of pulse waves that matches the account number read from the card. At this time, if the history of the pulse wave that matches the account number read from the card exists in the history storage unit 16a, that is, if the history of the user of the ATM 10 exists, the determination unit 16 determines the history storage unit 16a. To read the history of the user of ATM10. On the other hand, when there is no ATM 10 user history in the history storage unit 16 a, the determination unit 16 reads a standard person history from the history storage unit 16 a. Thereafter, the determination unit 16 calculates a heart rate abnormality score and a heart rate variability abnormality score using the pulse wave history read from the history storage unit 16a.

例えば、判定部16は、心拍数の異常スコアを算出する場合には、心拍数の履歴の平均および分散を算出した上で心拍数の正規分布を算出する。図9は、心拍数の正規分布の一例を示す図である。図9には、図8に示した心拍数の履歴から算出された正規分布が図示されている。例えば、判定部16は、心拍数算出部15aによって算出された心拍数が心拍数の正規分布の所定の区間、例えば図9に示した塗りつぶしに対応する95%区間から乖離するほどスコアの値が高くなる異常スコアを算出する。一例としては、判定部16は、心拍数算出部15aによって算出された心拍数が上記の95%区間に含まれる場合には心拍数の異常スコアを「0」と算出する。一方、判定部16は、心拍数算出部15aによって算出された心拍数が上記の95%区間に含まれない場合には95%区間の下限値または上限値から乖離するほど高い値を心拍数の異常スコアとして算出する。これら下限値または上限値の閾値から乖離する度合いと異常スコアの上昇率は、線形であっても非線形であってもよい。ここで、ATM10の利用者が振り込め詐欺に遭っている場合には、緊張状態にある公算が高いので、心拍数が95%区間の下限値を下回る場合には、閾値からの乖離度合いが同一であっても、心拍数が95%区間の上限値を超える高い場合よりも低い異常スコアを導出することとしてもよく、また、心拍数が95%区間の下限値を下回る場合には、脈波の再測定を実行することとしてもよい。   For example, when calculating an abnormal score of heart rate, the determination unit 16 calculates a normal distribution of heart rates after calculating the average and variance of the heart rate history. FIG. 9 is a diagram illustrating an example of a normal distribution of heart rates. FIG. 9 shows a normal distribution calculated from the heart rate history shown in FIG. For example, the determination unit 16 increases the score value as the heart rate calculated by the heart rate calculation unit 15a deviates from a predetermined interval of the normal distribution of heart rates, for example, the 95% interval corresponding to the fill shown in FIG. Calculate a higher anomaly score. As an example, the determination unit 16 calculates the abnormal heart rate score as “0” when the heart rate calculated by the heart rate calculation unit 15a is included in the 95% section. On the other hand, when the heart rate calculated by the heart rate calculation unit 15a is not included in the 95% interval, the determination unit 16 increases the value of the heart rate so as to deviate from the lower limit value or the upper limit value of the 95% interval. Calculated as an abnormal score. The degree of deviation from the threshold value of the lower limit value or the upper limit value and the rate of increase of the abnormal score may be linear or non-linear. Here, when a user of ATM 10 encounters a transfer fraud, it is highly likely that the user is in a tense state. Therefore, when the heart rate falls below the lower limit of the 95% interval, the degree of deviation from the threshold is the same. Even if the heart rate is higher than the upper limit value of the 95% interval, a lower abnormal score may be derived. If the heart rate is lower than the lower limit value of the 95% interval, the pulse wave Remeasurement may be performed.

なお、ここでは、心拍数の異常スコアを算出する場合について説明したが、同様に、LF/HFの正規分布を算出した上で心拍変動算出部15bによって算出されたLF/HFと正規分布の95%区間とを比較することによって心拍変動の異常スコアを算出することができる。ここで、低周波成分LFは、交感神経と副交感神経の影響を受けること、高周波成分HFは、副交感神経を受けること、さらには、これらの比であるLF/HFが低い場合には、ストレスが高い状態であると推定できることが知られている。したがって、LF/HFが95%区間の下限値を下回る場合の異常スコアを、LF/HFが95%区間の上限値を超える場合の異常スコアよりも高く算出することもできる。   Here, the case where the abnormal score of the heart rate is calculated has been described. Similarly, after calculating the normal distribution of LF / HF, the LF / HF calculated by the heart rate variability calculation unit 15b and the normal distribution of 95 are calculated. An abnormal score of heart rate variability can be calculated by comparing the% interval. Here, the low frequency component LF is affected by the sympathetic nerve and the parasympathetic nerve, the high frequency component HF is subjected to the parasympathetic nerve, and furthermore, when the ratio LF / HF is low, the stress is low. It is known that it can be estimated that the state is high. Therefore, the abnormality score when LF / HF falls below the lower limit value of the 95% interval can be calculated higher than the abnormality score when LF / HF exceeds the upper limit value of the 95% interval.

このように、心拍数の異常スコアおよび心拍変動の異常スコアを算出した上で、判定部16は、総合の異常スコアを算出する。例えば、判定部16は、心拍数の異常スコアおよび心拍変動の異常スコアの総和を総合の異常スコアとして算出することもできるし、心拍数の異常スコアおよび心拍変動の異常スコアの平均を総合の異常スコアとして算出することもできる。また、判定部16は、心拍数の異常スコアおよび心拍変動の異常スコアに所定の重み付けを行った上で総和や平均を算出することによって総合の異常スコアを算出することもできる。かかる重み付けの一例としては、心拍数および心拍変動のうち検出精度が高いと期待できる方に大きい重みを付与し、検出精度が低い公算が高い方に小さい重みを付与することができる。なお、ここでは、心拍数および心拍変動の2つを用いて異常スコアを算出する場合を例示したが、いずれか一方に絞って異常スコアを算出することとしてもかまわない。   Thus, after calculating the abnormal score of heart rate and the abnormal score of heart rate variability, the determination unit 16 calculates the total abnormal score. For example, the determination unit 16 can also calculate the sum of the abnormal heart rate score and the abnormal heart rate fluctuation score as the total abnormal score, and the average of the abnormal heart rate score and the abnormal heart rate score can be calculated as the overall abnormal score. It can also be calculated as a score. The determination unit 16 can also calculate a total abnormality score by performing a predetermined weighting on the abnormality score of the heart rate and the abnormality score of the heart rate variability, and then calculating the sum and average. As an example of such weighting, a larger weight can be given to a heart rate and a heart rate variability that can be expected to have a higher detection accuracy, and a smaller weight can be given to a higher probability that the detection accuracy is lower. Although the case where the abnormal score is calculated using two of the heart rate and the heart rate variability is illustrated here, the abnormal score may be calculated by focusing on one of them.

ここで、判定部16は、総合の異常スコアが所定の閾値以下であるか否かを判定する。このとき、総合の異常スコアが閾値以下である場合には、ATM10の利用者に過度の緊張やストレスがない状態にあると推定できる。この場合には、ATM10の利用者が振り込め詐欺等の犯罪の被害に遭っている可能性が低いと判定できる。一方、総合の異常スコアが閾値を超える場合には、ATM10の利用者が過度の緊張やストレスを感じている状態であると推定できる。この場合には、ATM10の利用者が振り込め詐欺等の犯罪の被害に遭っているおそれがあると判定できる。   Here, the determination unit 16 determines whether or not the total abnormality score is equal to or less than a predetermined threshold. At this time, when the total abnormality score is equal to or less than the threshold value, it can be estimated that the user of the ATM 10 is in a state where there is no excessive tension or stress. In this case, it can be determined that there is a low possibility that the user of the ATM 10 is suffering from a crime such as a transfer fraud. On the other hand, when the total abnormality score exceeds the threshold, it can be estimated that the user of ATM 10 feels excessive tension or stress. In this case, it can be determined that there is a risk that the user of the ATM 10 is suffering from a crime such as a transfer fraud.

報知部17は、ATM10の利用者に報知を実行する処理部である。一態様としては、報知部17は、判定部16によって総合の異常スコアが閾値を超えると判定された場合に、脈波の検出のリトライ回数が所定の回数未満であるか否かを判定する。このとき、報知部17は、脈波の検出のリトライ回数が所定の回数未満である場合には、波形検出部15に脈波の検出をリトライさせる。   The alerting | reporting part 17 is a process part which alert | reports to the user of ATM10. As an aspect, when the determination unit 16 determines that the total abnormality score exceeds the threshold, the notification unit 17 determines whether the number of pulse wave detection retries is less than a predetermined number. At this time, when the number of pulse wave detection retries is less than a predetermined number, the notification unit 17 causes the waveform detection unit 15 to retry detection of the pulse wave.

このように、総合の異常スコアが閾値を超えたからといって直ちに異常を報知しないのは、心拍数の上昇や心拍変動のゆらぎの要因が振り込め詐欺等の犯罪であるとは限らないからである。すなわち、犯罪以外の要因、例えばATM10に至るまでに走ったり、階段や坂道を昇降したりなどの激しい運動がなされたことによって心拍数の上昇や心拍変動のゆらぎが起こった場合も想定されるからである。   As described above, the reason why the abnormality is not notified immediately because the total abnormality score exceeds the threshold value is because the cause of the fluctuation of the heart rate rise or heart rate fluctuation is not always a crime such as a transfer fraud. . In other words, factors other than crime, such as running up to ATM10, climbing up and down stairs and hills, etc., may cause heart rate fluctuations and heart rate fluctuation fluctuations. It is.

この場合には、報知部17は、図10に示す画面をタッチパネル11aに表示させる。図10は、画面の一例を示す図である。図10に示すように、タッチパネル11a上でATM10の利用者に待機が促された場合には、利用者は、次の報知がなされるまで待機する。このため、利用者が激しい運動等を行っていても、心拍数の上昇や心拍変動のゆらぎを運動前の状態に戻すことができる。なお、利用者が振り込め詐欺等の犯罪に遭っている場合に脈波の検出をリトライさせても、振り込みは依然として終了しておらず、心拍数の上昇や心拍変動の異常の原因が解消されたわけではないので、次回に算出された総合の異常スコアも閾値を超える可能性が高い。よって、防犯上の影響なく、時間をかせぐことができる。   In this case, the notification unit 17 displays the screen illustrated in FIG. 10 on the touch panel 11a. FIG. 10 is a diagram illustrating an example of a screen. As shown in FIG. 10, when the user of the ATM 10 is prompted to wait on the touch panel 11a, the user waits until the next notification is made. For this reason, even if the user is exercising vigorously, the heart rate rise and heart rate fluctuation fluctuations can be returned to the state before the exercise. In addition, even if the user encounters a crime such as wire fraud, even if the detection of the pulse wave is retried, the transfer is still not completed, and the cause of the heart rate rise and abnormal heart rate fluctuation has been resolved Therefore, the overall abnormality score calculated next time is also likely to exceed the threshold. Therefore, time can be gained without any crime prevention effect.

一方、報知部17は、脈波の検出のリトライ回数が所定の回数以上である場合には、異常を報知する。例えば、報知部17は、図11に示す画面をタッチパネル11aに表示させるとともに、ATM10のオペレータや金融機関の係員が使用する端末、例えばインカムや移動体端末などにATM10の利用者が振り込め詐欺等の犯罪に遭遇しているおそれがある旨を報知する。図11は、画面の一例を示す図である。例えば、図11に示すように、ATM10の利用者にオペレータを呼び出したことを報知する。その後、ATM10に到着したオペレータは、振り込め詐欺等の犯罪に遭っているおそれをATM10の利用者に説明することができる。これによって、ATM10の利用者は、振り込みの要否を適切に判断することができ、振り込め詐欺を抑制できる結果、防犯性を向上させることができる。   On the other hand, the notification unit 17 notifies the abnormality when the number of retries for detecting the pulse wave is equal to or greater than a predetermined number. For example, the notification unit 17 displays the screen shown in FIG. 11 on the touch panel 11a, and a user of the ATM 10 uses a transfer fraud or the like on a terminal used by an operator of the ATM 10 or a staff of a financial institution, such as an intercom or a mobile terminal. Notify you that you may have encountered a crime. FIG. 11 is a diagram illustrating an example of a screen. For example, as shown in FIG. 11, the user of ATM 10 is notified that the operator has been called. Thereafter, the operator who has arrived at the ATM 10 can explain to the user of the ATM 10 that he / she has encountered a crime such as a transfer fraud. Thereby, the user of ATM10 can judge the necessity of transfer appropriately, and, as a result of suppressing a transfer fraud, can improve crime prevention.

なお、上記のATM処理部12と、取得部13と、抽出部14と、波形検出部15と、心拍数算出部15aと、心拍変動算出部15bと、判定部16と、報知部17とは、CPU(Central Processing Unit)やMPU(Micro Processing Unit)などに防犯プログラムを実行させることによって実現できる。また、上記の各機能部は、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)などのハードワイヤードロジックによっても実現できる。   The ATM processing unit 12, the acquisition unit 13, the extraction unit 14, the waveform detection unit 15, the heart rate calculation unit 15a, the heart rate fluctuation calculation unit 15b, the determination unit 16, and the notification unit 17 are described above. It can be realized by causing a CPU (Central Processing Unit) or MPU (Micro Processing Unit) to execute a security program. Each functional unit described above can also be realized by a hard wired logic such as an application specific integrated circuit (ASIC) or a field programmable gate array (FPGA).

また、上記の履歴記憶部16aには、半導体メモリ素子や記憶装置を採用できる。例えば、半導体メモリ素子の一例としては、VRAM(Video Random Access Memory)、RAM(Random Access Memory)、ROM(Read Only Memory)やフラッシュメモリ(flash memory)などが挙げられる。また、記憶装置の一例としては、ハードディスク、光ディスクなどの記憶装置が挙げられる。   Further, a semiconductor memory element or a storage device can be adopted for the history storage unit 16a. For example, examples of the semiconductor memory device include a video random access memory (VRAM), a random access memory (RAM), a read only memory (ROM), and a flash memory. Further, examples of the storage device include storage devices such as a hard disk and an optical disk.

[処理の流れ]
次に、本実施例に係るATM10の処理の流れについて説明する。なお、ここでは、ATM10によって実行される(1)取引制御処理について説明した後に、取引制御処理のサブルーチンとして実行される(2)波形検出処理について説明することとする。
[Process flow]
Next, the flow of processing of the ATM 10 according to the present embodiment will be described. Here, after (1) transaction control processing executed by the ATM 10 is described, (2) waveform detection processing executed as a subroutine of the transaction control processing will be described.

(1)取引制御処理
図12は、実施例1に係る取引制御処理の手順を示すフローチャートである。この取引制御処理は、ATM10の利用者によってカード挿入口にカードが挿入された場合に、処理が起動される。
(1) Transaction Control Processing FIG. 12 is a flowchart illustrating a transaction control processing procedure according to the first embodiment. This transaction control process is started when a card is inserted into the card insertion slot by a user of the ATM 10.

図12に示すように、図示しないカード挿入口を介してカードの挿入を受け付けると、ATM処理部12は、カードリーダ11bを制御して、当該挿入を受け付けたカードから口座番号を読み取らせる(ステップS101)。   As shown in FIG. 12, when the insertion of the card is received through a card insertion slot (not shown), the ATM processing unit 12 controls the card reader 11b to read the account number from the card that has accepted the insertion (step S101).

続いて、ATM処理部12は、タッチパネル11aを介して、メニュー画面に表示されたメニューの選択を受け付けた後に、当該メニューに関する取引の内容をさらに受け付ける(ステップS102及びステップS103)。その後、ATM処理部12は、取引の実行指示を受け付けると(ステップS104)、ステップS102で選択を受け付けたメニューの種別が「振込」であるか否かを判定する(ステップS105)。   Subsequently, after accepting selection of the menu displayed on the menu screen via the touch panel 11a, the ATM processing unit 12 further accepts the content of the transaction related to the menu (Step S102 and Step S103). Thereafter, when receiving an instruction to execute a transaction (step S104), the ATM processing unit 12 determines whether or not the type of the menu that has been selected in step S102 is “transfer” (step S105).

このとき、メニューの種別が「振込」ではない場合(ステップS105No)には、ATM処理部12は、金融機関に設置されたサーバ装置との間で通信を行い、カードから読み取られた口座番号に対応する口座に対し、取引を実行し(ステップS106)、処理を終了する。   At this time, if the menu type is not “transfer” (No in step S105), the ATM processing unit 12 communicates with the server device installed in the financial institution and sets the account number read from the card. Transaction is executed for the corresponding account (step S106), and the process is terminated.

一方、メニューの種別が「振込」である場合(ステップS105Yes)には、画像中の顔領域に含まれる各画素の波長成分別の代表値の信号から、各波長成分の間で脈波周波数帯以外の特定周波数帯の成分が互いに相殺された信号の波形を検出する「波形検出処理」が実行される(ステップS107)。   On the other hand, when the menu type is “transfer” (Yes in step S105), a pulse wave frequency band between each wavelength component from a representative value signal for each wavelength component of each pixel included in the face area in the image. “Waveform detection processing” is executed to detect the waveform of the signal in which the components in the specific frequency band other than those are canceled out (step S107).

その後、心拍数算出部15aは、波形検出部15によって検出される信号から心拍数を算出するとともに、心拍変動算出部15bは、波形検出部15によって検出される信号から心拍変動を算出する(ステップS108)。続いて、判定部16は、カードから読み取られた口座番号と一致する脈波の履歴、すなわちATM10の利用者の履歴を履歴記憶部16aから検索する(ステップS109)。   Thereafter, the heart rate calculation unit 15a calculates the heart rate from the signal detected by the waveform detection unit 15, and the heart rate variation calculation unit 15b calculates the heart rate variation from the signal detected by the waveform detection unit 15 (step). S108). Subsequently, the determination unit 16 searches the history storage unit 16a for the pulse wave history that matches the account number read from the card, that is, the history of the user of the ATM 10 (step S109).

このとき、ATM10の利用者の履歴が存在する場合(ステップS109Yes)には、判定部16は、履歴記憶部16aからATM10の利用者の履歴を読み出す(ステップS110)。一方、ATM10の利用者の履歴が存在しない場合(ステップS109No)には、履歴記憶部16aから標準的な人物の履歴を読み出す(ステップS111)。   At this time, when the ATM 10 user history exists (step S109 Yes), the determination unit 16 reads the ATM 10 user history from the history storage unit 16a (step S110). On the other hand, when there is no ATM 10 user history (No in step S109), a standard person history is read from the history storage unit 16a (step S111).

その後、判定部16は、ステップS108で算出された心拍数および心拍変動と、ステップ110またはステップS111で読み出された脈波の履歴を用いて、心拍数および心拍変動の総合の異常スコアを算出する(ステップS112)。   Thereafter, the determination unit 16 calculates a total abnormality score of the heart rate and the heart rate variability using the heart rate and heart rate variability calculated in step S108 and the history of the pulse wave read in step 110 or step S111. (Step S112).

ここで、判定部16は、総合の異常スコアが所定の閾値以下であるか否かを判定する(ステップS113)。このとき、総合の異常スコアが閾値以下である場合(ステップS113Yes)には、ATM10の利用者が振り込め詐欺等の犯罪の被害に遭っている可能性が低いと判定できる。この場合には、ATM処理部12は、金融機関に設置されたサーバ装置との間で通信を行い、カードから読み取られた口座番号に対応する口座に対し、指定の振込先へ指定の金額を振り込む取引「振り込み」を実行し(ステップS106)、処理を終了する。   Here, the determination unit 16 determines whether or not the total abnormality score is equal to or less than a predetermined threshold (step S113). At this time, when the total abnormality score is equal to or less than the threshold (Yes in step S113), it can be determined that the user of the ATM 10 is unlikely to have suffered a crime such as a transfer fraud. In this case, the ATM processing unit 12 communicates with the server device installed in the financial institution, and sends the designated amount to the designated transfer destination for the account corresponding to the account number read from the card. The transaction “transfer” to be transferred is executed (step S106), and the process is terminated.

一方、総合の異常スコアが閾値を超える場合(ステップS113No)には、ATM10の利用者が過度の緊張やストレスを感じている状態であると推定できる。この場合には、ATM10の利用者が振り込め詐欺等の犯罪の被害に遭っているおそれがあると判定できる。この場合には、報知部17は、脈波の検出のリトライ回数が所定の回数未満であるか否かを判定する(ステップS114)。   On the other hand, when the total abnormality score exceeds the threshold (No in step S113), it can be estimated that the user of the ATM 10 feels excessive tension or stress. In this case, it can be determined that there is a risk that the user of the ATM 10 is suffering from a crime such as a transfer fraud. In this case, the notification unit 17 determines whether or not the number of pulse wave detection retries is less than a predetermined number (step S114).

このとき、脈波の検出のリトライ回数が所定の回数未満である場合(ステップS114Yes)には、報知部17は、脈波を再測定する旨をタッチパネル11aを介して報知し(ステップS115)、上記のステップS107〜ステップS113までの処理を繰り返し実行する。   At this time, when the number of retries for detecting the pulse wave is less than the predetermined number (step S114 Yes), the notification unit 17 notifies the user that the pulse wave is to be measured again via the touch panel 11a (step S115). The processes from step S107 to step S113 are repeated.

また、報知部17は、脈波の検出のリトライ回数が所定の回数以上である場合(ステップS114No)には、オペレータの呼出し中である旨を報知するとともに、オペレータが使用するインカムや移動体端末などにATM10の利用者が振り込め詐欺等の犯罪に遭遇しているおそれがある旨を報知し(ステップS116)、処理を終了する。   Further, when the number of pulse wave detection retries is equal to or greater than the predetermined number (No in step S114), the notification unit 17 notifies the operator that the operator is being called, and the income or mobile terminal used by the operator. In such a case, the fact that there is a possibility that the user of the ATM 10 has encountered a crime such as a transfer fraud is notified (step S116), and the process is terminated.

(2)波形検出処理
図13は、実施例1に係る波形検出処理の手順を示すフローチャートである。この処理は、図12に示したステップS107に対応する処理であり、メニューの種別が「振込」であった場合に処理が起動される。
(2) Waveform Detection Processing FIG. 13 is a flowchart illustrating a procedure of waveform detection processing according to the first embodiment. This process is a process corresponding to step S107 shown in FIG. 12, and is started when the menu type is “transfer”.

図13に示すように、取得部13は、カメラ11cによって撮影される画像を取得し(ステップS201)、ステップS201で取得された画像を含む顔の照準画面をタッチパネル11aに表示する(ステップS202)。   As illustrated in FIG. 13, the acquisition unit 13 acquires an image captured by the camera 11c (step S201), and displays a face aiming screen including the image acquired in step S201 on the touch panel 11a (step S202). .

続いて、抽出部14は、ステップS201で取得された画像にテンプレートマッチング等の画像処理を実行することによって所定の顔パーツ、例えば利用者の目、鼻、唇、頬や髪などを含む顔領域を抽出する(ステップS203)。   Subsequently, the extraction unit 14 performs image processing such as template matching on the image acquired in step S201 to thereby include a face area including predetermined face parts, for example, the user's eyes, nose, lips, cheeks and hair. Is extracted (step S203).

そして、抽出部14は、ステップS203で抽出された顔領域に含まれる各画素が持つ画素値の代表値をG成分およびR成分の波長成分ごとに算出する(ステップS204)。この結果、顔領域のR成分の代表値であるR信号がBPF152R及びBPF156Rへ出力されるとともに、顔領域のG成分の代表値であるG信号がBPF152G及びBPF156Gへ出力されることになる。   Then, the extraction unit 14 calculates the representative value of the pixel value of each pixel included in the face area extracted in step S203 for each wavelength component of the G component and the R component (step S204). As a result, an R signal that is a representative value of the R component of the face area is output to the BPF 152R and the BPF 156R, and a G signal that is a representative value of the G component of the face area is output to the BPF 152G and the BPF 156G.

続いて、BPF152Rは、R信号の特定周波数帯、例えば3bpm以上20bpm未満の周波数帯の信号成分を抽出するとともに、BPF152Gは、G信号の特定周波数帯の信号成分を抽出する(ステップS205A)。   Subsequently, the BPF 152R extracts a signal component of a specific frequency band of the R signal, for example, a frequency band of 3 bpm or more and less than 20 bpm, and the BPF 152G extracts a signal component of the specific frequency band of the G signal (Step S205A).

そして、抽出部153Rは、R信号の特定周波数帯の信号成分の絶対強度値を抽出するとともに、抽出部153Gは、G信号の特定周波数帯の信号成分の絶対強度値を抽出する(ステップS206)。   Then, the extraction unit 153R extracts the absolute intensity value of the signal component in the specific frequency band of the R signal, and the extraction unit 153G extracts the absolute intensity value of the signal component in the specific frequency band of the G signal (step S206). .

その後、LPF154Rは、R信号の特定周波数帯の絶対強度値の時系列データに対し、時間変化に応答させる平滑化処理を実行するとともに、LPF154Gは、G信号の特定周波数帯の絶対強度値の時系列データに対し、時間変化に応答させる平滑化処理を実行する(ステップS207)。   After that, the LPF 154R executes a smoothing process for responding to the time change on the time series data of the absolute intensity value of the specific frequency band of the R signal, and the LPF 154G is the time of the absolute intensity value of the specific frequency band of the G signal. A smoothing process for responding to time changes is executed on the series data (step S207).

続いて、算出部155は、LPF154Gによって出力されたG信号の特定周波数帯の絶対値強度G´nを、LPF154Rによって出力されたR信号の特定周波数帯の絶対値強度R´nで除する除算「G´n/R´n」を実行することによって補正係数kを算出する(ステップS208)。   Subsequently, the calculation unit 155 divides the absolute value strength G′n of the specific frequency band of the G signal output by the LPF 154G by the absolute value strength R′n of the specific frequency band of the R signal output by the LPF 154R. The correction coefficient k is calculated by executing “G′n / R′n” (step S208).

上記のステップS205Aの処理に並行して、BPF156Rは、R信号の脈波周波数帯、例えば42bpm以上240bpm未満の周波数帯の信号成分を抽出するとともに、BPF156Gは、G信号の脈波周波数帯の信号成分を抽出する(ステップS205B)。   In parallel with the processing in step S205A, the BPF 156R extracts a signal component in the pulse wave frequency band of the R signal, for example, a frequency band of 42 bpm or more and less than 240 bpm, and the BPF 156G is a signal in the pulse wave frequency band of the G signal. Components are extracted (step S205B).

その後、乗算部157は、ステップS205Bで抽出されたR信号の脈波周波数帯の信号成分にステップS208で算出された補正係数kを乗算する(ステップS209)。その上で、演算部158は、ステップS209で補正係数kが乗算されたR信号の脈波周波数帯の信号成分から、ステップS205Bで抽出されたG信号の脈波周波数帯の信号成分を差し引く演算「k*Rs−Gs」を実行する(ステップS210)。かかるステップS210の演算によって得られた信号の時系列データは、脈波の波形に相当する。   Thereafter, the multiplication unit 157 multiplies the signal component in the pulse wave frequency band of the R signal extracted in step S205B by the correction coefficient k calculated in step S208 (step S209). Then, the calculation unit 158 subtracts the signal component in the pulse wave frequency band of the G signal extracted in step S205B from the signal component in the pulse wave frequency band of the R signal multiplied by the correction coefficient k in step S209. “K * Rs−Gs” is executed (step S210). The time-series data of the signal obtained by the calculation in step S210 corresponds to the pulse wave waveform.

続いて、取得部13は、脈波の検出を開始してから所定の検出期間、例えば30秒間が経過したか否かを判定する(ステップS211)。このとき、検出期間が経過していない場合(ステップS211No)には、抽出部14は、画像のフレーム間で画像処理によって抽出された顔領域の動きが許容範囲内であるか否か、例えば顔領域の頂点や重心などの移動量が所定のピクセル数以内であるか否かを判定する(ステップS212)。   Subsequently, the acquisition unit 13 determines whether or not a predetermined detection period, for example, 30 seconds has elapsed since the start of pulse wave detection (step S211). At this time, if the detection period has not elapsed (No in step S211), the extraction unit 14 determines whether the movement of the face area extracted by image processing between image frames is within an allowable range, for example, a face It is determined whether or not the amount of movement such as the vertex or the center of gravity of the region is within a predetermined number of pixels (step S212).

そして、顔領域の動きが許容範囲外である場合(ステップS212No)には、抽出部14は、照準画面から顔が外れないように注意喚起するメッセージをタッチパネル11aに表示させたり、図示しないスピーカから音声出力させたりし(ステップS213)、ステップS201〜ステップS210までの処理を繰り返し実行する。   If the movement of the face area is outside the allowable range (No in step S212), the extraction unit 14 displays a message on the touch panel 11a so as not to remove the face from the aiming screen, or from a speaker (not shown). The voice is output (step S213), and the processing from step S201 to step S210 is repeatedly executed.

このように、脈波の検出を開始してから検出期間が経過するまで(ステップS211No)、ステップS201〜ステップS210までの処理が繰り返し実行され、脈波の検出を開始してから検出期間が経過すると(ステップS211Yes)、処理を終了する。   As described above, the processing from step S201 to step S210 is repeatedly executed until the detection period elapses after the detection of the pulse wave (No in step S211), and the detection period elapses after the detection of the pulse wave is started. Then (Yes in step S211), the process ends.

[実施例1の効果]
上述してきたように、本実施例に係るATM10は、振り込み等を行う利用者が撮像された画像に映る顔領域の代表値の信号から脈波成分以外のノイズが除去された信号を検出し、信号が異常である場合に報知を実行する。このため、本実施例に係るATM10では、画像から脈波を非接触で検出することができ、センサ等の設置および装着を不要化できる。さらに、本実施例に係るATM10では、利用者の緊張やストレスと密接な関係を有する脈波が異常であるか否かを判定するので、振り込め詐欺等の犯罪の遭遇時に利用者に現れる異常を特定できる。したがって、本実施例に係るATM10によれば、余計なハードウェアなしに防犯性を向上させることができる。
[Effect of Example 1]
As described above, the ATM 10 according to the present embodiment detects a signal in which noise other than the pulse wave component has been removed from the representative value signal of the face area reflected in the image captured by the user who performs the transfer, etc. Notification is executed when the signal is abnormal. For this reason, in ATM10 which concerns on a present Example, a pulse wave can be detected from an image non-contactingly, and installation and mounting | wearing of a sensor etc. can be made unnecessary. Furthermore, in ATM10 which concerns on a present Example, since it determines whether the pulse wave which has a close relationship with a user's tension | tensile_strength and stress is abnormal, abnormality which appears to a user at the time of encounter of crimes, such as a transfer fraud, is detected. Can be identified. Therefore, according to ATM10 which concerns on a present Example, crime prevention can be improved without extra hardware.

さて、これまで開示の装置に関する実施例について説明したが、本発明は上述した実施例以外にも、種々の異なる形態にて実施されてよいものである。そこで、以下では、本発明に含まれる他の実施例を説明する。   Although the embodiments related to the disclosed apparatus have been described above, the present invention may be implemented in various different forms other than the above-described embodiments. Therefore, another embodiment included in the present invention will be described below.

[応用例1]
上記の実施例1では、メニューの種別が「振込」である場合に脈波が異常であるか否かを判定する例を説明したが、過去の振り込みの傾向から逸脱する場合に絞って脈波の異常を判定するようにしてもかまわない。例えば、振り込みが指定された金額が所定の金額以上であったり、過去に振り込みがなされた金額の履歴を参照して金額の平均値、中央値または最大値を超える場合に脈波の異常を判定するようにしてもよい。
[Application Example 1]
In the first embodiment, the example in which it is determined whether or not the pulse wave is abnormal when the type of the menu is “transfer” has been described. It may be possible to determine the abnormality. For example, if the amount specified for the transfer is greater than or equal to the specified amount, or if the amount of money that has been transferred in the past is referred to and exceeds the average, median, or maximum value, the pulse wave is judged to be abnormal. You may make it do.

[応用例2]
上記の実施例1では、脈波が異常であるか否かによって報知を実行するか否かを制御する場合を例示したが、他の現象から報知を実行するか否かを制御してもかまわない。例えば、ATM10は、カメラ11cによって撮像される画像に角膜反射法などのアルゴリズムを適用し、眼球の瞳孔の中心位置から視線の方向が指す視点の位置、いわゆる注視点を検出する視線検出部をさらに実装することもできる。その上で、ATM10は、視点の位置が一定値以上の距離以上にわたって移動する頻度が所定の回数を超える場合に、報知を実行することもできる。また、ATM10は、視点の位置が利用者の後方に向いた回数、あるいは警備員の配置位置に向いた回数が所定の回数を超える場合に、報知を実行することもできる。なお、上記の視線の位置を用いる判定と、上記の実施例1で説明した心拍数または心拍変動を用いる判定を組み合わせて実装することもできる。この場合には、一例として、視線の異常スコアを算出した上で心拍数の異常スコアおよび/または心拍変動の異常スコアとの間で総合の異常スコアを求めることもできる。
[Application 2]
In the first embodiment, the case where the notification is executed based on whether the pulse wave is abnormal is exemplified. However, it may be controlled whether the notification is executed from another phenomenon. Absent. For example, the ATM 10 further applies an algorithm such as a corneal reflection method to an image captured by the camera 11c, and further includes a gaze detection unit that detects a position of the viewpoint pointed by the direction of the gaze from the center position of the pupil of the eyeball, that is, a so-called gaze point. It can also be implemented. In addition, the ATM 10 can also perform notification when the frequency at which the viewpoint position moves over a certain distance or more exceeds a predetermined number of times. Moreover, ATM10 can perform alerting | reporting, when the frequency | count that the position of the viewpoint turned to the back of a user, or the frequency | count which turned to the arrangement position of a guard exceeds a predetermined frequency | count. The determination using the position of the line of sight described above and the determination using the heart rate or heart rate variability described in the first embodiment may be implemented in combination. In this case, as an example, after calculating an abnormal score for the line of sight, a total abnormal score can be obtained between the abnormal score for heart rate and / or the abnormal score for heart rate variability.

[応用例3]
上記の実施例1では、総合の異常スコアが閾値を超える場合に報知を実行する例について説明したが、報知にとどまらず、他の犯罪対策を実行することもできる。例えば、ATM10は、総合の異常スコアが閾値を超える場合に、取引自体を中止することもできる。
[Application Example 3]
In the first embodiment described above, an example in which notification is executed when the total abnormality score exceeds the threshold value has been described. However, not only the notification but also other crime countermeasures can be executed. For example, the ATM 10 can stop the transaction itself when the total abnormal score exceeds a threshold value.

上記の実施例1では、異常スコアが閾値を超えるか否かによって報知を実行するか否かを制御する場合を例示したが、必ずしもスコア化せずに、脈波が履歴から算出される正規分布、例えば95%区間に含まれるか否かによって報知を実行するか否かを制御してもよい。また、上記の実施例1では、履歴を適正範囲としていたが、標準的な心拍数の範囲やLF/HFを適正範囲とし、心拍数が適正範囲を逸脱するか否か、あるいはLF/HFが適正範囲を逸脱するか否かによって報知を実行するか否かを制御してもよい。   In the first embodiment, the case where the notification is controlled based on whether the abnormal score exceeds the threshold is exemplified. However, the normal distribution in which the pulse wave is calculated from the history without necessarily being scored. For example, you may control whether alerting | reporting is performed by whether it is contained in a 95% area. In the first embodiment, the history is set as the appropriate range. However, the standard heart rate range or LF / HF is set as the appropriate range, and whether the heart rate deviates from the appropriate range or whether LF / HF is Whether or not the notification is executed may be controlled depending on whether or not the appropriate range is deviated.

[適用範囲]
上記の実施例1では、脈波を検出する場合に入力信号としてR信号およびG信号の二種類を用いる場合を例示したが、異なる複数の光波長成分を持つ信号であれば任意の種類の信号および任意の数の信号を入力信号とすることができる。例えば、R、G、B、IRおよびNIRなどの光波長成分が異なる信号のうち任意の組合せの信号を2つ用いることもできるし、また、3つ以上用いることもできる。
[Scope of application]
In the first embodiment, the case where two types of R signal and G signal are used as input signals when detecting a pulse wave is illustrated. However, any type of signal may be used as long as the signal has a plurality of different light wavelength components. And any number of signals can be input signals. For example, two signals of any combination among signals having different optical wavelength components such as R, G, B, IR, and NIR can be used, or three or more signals can be used.

[分散および統合]
また、図示した各装置の各構成要素は、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。例えば、取得部13、抽出部14、波形検出部15、心拍数算出部15a、心拍変動算出部15b、判定部16または報知部17をATM10の外部装置としてネットワーク経由で接続するようにしてもよい。また、取得部13、抽出部14、波形検出部15、心拍数算出部15a、心拍変動算出部15b、判定部16または報知部17を別の装置がそれぞれ有し、ネットワーク接続されて協働することで、上記のATM10の機能を実現するようにしてもよい。
[Distribution and integration]
In addition, each component of each illustrated apparatus does not necessarily need to be physically configured as illustrated. In other words, the specific form of distribution / integration of each device is not limited to that shown in the figure, and all or a part thereof may be functionally or physically distributed or arbitrarily distributed in arbitrary units according to various loads or usage conditions. Can be integrated and configured. For example, the acquisition unit 13, the extraction unit 14, the waveform detection unit 15, the heart rate calculation unit 15a, the heart rate fluctuation calculation unit 15b, the determination unit 16, or the notification unit 17 may be connected as an external device of the ATM 10 via a network. . Further, the acquisition unit 13, the extraction unit 14, the waveform detection unit 15, the heart rate calculation unit 15a, the heart rate variability calculation unit 15b, the determination unit 16 or the notification unit 17 are respectively provided in different devices and cooperated by being connected to a network. Thus, the function of the ATM 10 may be realized.

[防犯プログラム]
また、上記の実施例で説明した各種の処理は、予め用意されたプログラムをパーソナルコンピュータやワークステーションなどのコンピュータで実行することによって実現することができる。そこで、以下では、図14を用いて、上記の実施例と同様の機能を有する防犯プログラムを実行するコンピュータの一例について説明する。
[Security program]
The various processes described in the above embodiments can be realized by executing a prepared program on a computer such as a personal computer or a workstation. In the following, an example of a computer that executes a security program having the same function as that of the above embodiment will be described with reference to FIG.

図14は、実施例1及び実施例2に係る防犯プログラムを実行するコンピュータの一例について説明するための図である。図14に示すように、コンピュータ100は、操作部110aと、スピーカ110bと、カメラ110cと、ディスプレイ120と、通信部130とを有する。さらに、このコンピュータ100は、CPU150と、ROM160と、HDD170と、RAM180とを有する。これら110〜180の各部はバス140を介して接続される。   FIG. 14 is a schematic diagram illustrating an example of a computer that executes a crime prevention program according to the first and second embodiments. As illustrated in FIG. 14, the computer 100 includes an operation unit 110a, a speaker 110b, a camera 110c, a display 120, and a communication unit 130. Further, the computer 100 includes a CPU 150, a ROM 160, an HDD 170, and a RAM 180. These units 110 to 180 are connected via a bus 140.

HDD170には、図14に示すように、上記の実施例1で示した取得部13、抽出部14、波形検出部15、心拍数算出部15a、心拍変動算出部15b、判定部16及び報知部17と同様の機能を発揮する防犯プログラム170aが予め記憶される。この防犯プログラム170aについては、図1に示した各々の取得部13、抽出部14、波形検出部15、心拍数算出部15a、心拍変動算出部15b、判定部16及び報知部17の各構成要素と同様、適宜統合又は分離しても良い。すなわち、HDD170に格納される各データは、常に全てのデータがHDD170に格納される必要はなく、処理に必要なデータのみがHDD170に格納されれば良い。   As shown in FIG. 14, the HDD 170 includes an acquisition unit 13, an extraction unit 14, a waveform detection unit 15, a heart rate calculation unit 15 a, a heart rate fluctuation calculation unit 15 b, a determination unit 16, and a notification unit illustrated in the first embodiment. The crime prevention program 170a which exhibits the same function as 17 is stored in advance. About this security program 170a, each component of each acquisition unit 13, extraction unit 14, waveform detection unit 15, heart rate calculation unit 15a, heart rate fluctuation calculation unit 15b, determination unit 16 and notification unit 17 shown in FIG. Similarly to the above, they may be appropriately integrated or separated. In other words, all data stored in the HDD 170 need not always be stored in the HDD 170, and only data necessary for processing may be stored in the HDD 170.

そして、CPU150が、防犯プログラム170aをHDD170から読み出してRAM180に展開する。これによって、図14に示すように、防犯プログラム170aは、防犯プロセス180aとして機能する。この防犯プロセス180aは、HDD170から読み出した各種データを適宜RAM180上の自身に割り当てられた領域に展開し、この展開した各種データに基づいて各種処理を実行する。なお、防犯プロセス180aは、図1に示した取得部13、抽出部14、波形検出部15、心拍数算出部15a、心拍変動算出部15b、判定部16及び報知部17にて実行される処理、例えば図12〜図13に示す処理を含む。また、CPU150上で仮想的に実現される各処理部は、常に全ての処理部がCPU150上で動作する必要はなく、処理に必要な処理部のみが仮想的に実現されれば良い。   Then, the CPU 150 reads the crime prevention program 170 a from the HDD 170 and expands it in the RAM 180. Accordingly, as shown in FIG. 14, the crime prevention program 170a functions as a crime prevention process 180a. The security process 180a expands various data read from the HDD 170 in an area allocated to itself on the RAM 180, and executes various processes based on the expanded data. The security process 180a is performed by the acquisition unit 13, the extraction unit 14, the waveform detection unit 15, the heart rate calculation unit 15a, the heart rate fluctuation calculation unit 15b, the determination unit 16, and the notification unit 17 illustrated in FIG. For example, the processing shown in FIGS. 12 to 13 is included. In addition, each processing unit virtually realized on the CPU 150 does not always require that all processing units operate on the CPU 150, and only a processing unit necessary for the processing needs to be virtually realized.

なお、上記の防犯プログラム170aについては、必ずしも最初からHDD170やROM160に記憶させておく必要はない。例えば、コンピュータ100に挿入されるフレキシブルディスク、いわゆるFD、CD−ROM、DVDディスク、光磁気ディスク、ICカードなどの「可搬用の物理媒体」に各プログラムを記憶させる。そして、コンピュータ100がこれらの可搬用の物理媒体から各プログラムを取得して実行するようにしてもよい。また、公衆回線、インターネット、LAN、WANなどを介してコンピュータ100に接続される他のコンピュータまたはサーバ装置などに各プログラムを記憶させておき、コンピュータ100がこれらから各プログラムを取得して実行するようにしてもよい。   Note that the security program 170a is not necessarily stored in the HDD 170 or the ROM 160 from the beginning. For example, each program is stored in a “portable physical medium” such as a flexible disk inserted into the computer 100, so-called FD, CD-ROM, DVD disk, magneto-optical disk, or IC card. Then, the computer 100 may acquire and execute each program from these portable physical media. In addition, each program is stored in another computer or server device connected to the computer 100 via a public line, the Internet, a LAN, a WAN, etc., and the computer 100 acquires and executes each program from these. It may be.

10 ATM
11a タッチパネル
11b カードリーダ
11c カメラ
12 ATM処理部
13 取得部
14 抽出部
15 波形検出部
15a 心拍数算出部
15b 心拍変動算出部
16 判定部
16a 履歴記憶部
17 報知部
10 ATM
11a Touch panel 11b Card reader 11c Camera 12 ATM processing unit 13 Acquisition unit 14 Extraction unit 15 Waveform detection unit 15a Heart rate calculation unit 15b Heart rate variability calculation unit 16 Determination unit 16a History storage unit 17 Notification unit

Claims (7)

現金に関する取引を実行する装置の利用者を撮像する撮像装置によって撮像された画像を取得する取得部と、
前記画像に含まれる生体領域を抽出する抽出部と、
前記生体領域に含まれる各画素の波長成分別の代表値の信号から、各波長成分の間で脈波が採り得る周波数帯以外の特定周波数帯の成分が互いに相殺された信号の波形を検出する波形検出部と、
前記生体領域から検出された波形が異常であるか否かを判定する判定部と、
前記波形が異常である場合に報知を実行する報知部と
を有することを特徴とする防犯装置。
An acquisition unit that acquires an image captured by an imaging device that captures an image of a user of a device that executes transactions relating to cash;
An extraction unit for extracting a biological region included in the image;
From a representative value signal for each wavelength component of each pixel included in the living body region, a waveform of a signal in which components in a specific frequency band other than a frequency band in which a pulse wave can be taken between the wavelength components is canceled is detected. A waveform detector;
A determination unit for determining whether or not the waveform detected from the biological region is abnormal;
A crime prevention device comprising: a notification unit that performs notification when the waveform is abnormal.
前記波形検出部によって検出された波形から心拍数を算出する心拍数算出部をさらに有し、
前記判定部は、前記心拍数が所定の適正範囲を逸脱するか否かを判定することを特徴とする請求項1に記載の防犯装置。
A heart rate calculating unit that calculates a heart rate from the waveform detected by the waveform detecting unit;
The crime prevention device according to claim 1, wherein the determination unit determines whether or not the heart rate deviates from a predetermined appropriate range.
前記波形検出部によって検出された波形から心拍変動を算出する心拍変動算出部をさらに有し、
前記判定部は、前記心拍変動が所定の適正範囲を逸脱するか否かを判定することを特徴とする請求項1に記載の防犯装置。
A heart rate variability calculating unit that calculates heart rate variability from the waveform detected by the waveform detecting unit;
The crime prevention device according to claim 1, wherein the determination unit determines whether or not the heartbeat variability deviates from a predetermined appropriate range.
前記波形検出部によって検出された波形から心拍数を算出する心拍数算出部と、
前記波形検出部によって検出された波形から心拍変動を算出する心拍変動算出部と、
前記心拍数および前記心拍変動が所定の適正範囲から逸脱する度合いを表す指標を算出する算出部とをさらに有し、
前記判定部は、前記指標が所定の閾値を超えるか否かを判定することを特徴とする請求項1に記載の防犯装置。
A heart rate calculation unit that calculates a heart rate from the waveform detected by the waveform detection unit;
A heart rate variability calculation unit that calculates heart rate variability from the waveform detected by the waveform detection unit;
A calculation unit that calculates an index representing the degree of deviation of the heart rate and the heart rate variability from a predetermined appropriate range;
The crime prevention device according to claim 1, wherein the determination unit determines whether or not the index exceeds a predetermined threshold value.
前記波形検出部は、
前記波長成分ごとに前記特定周波数帯の成分を抽出し、
各波長成分の間で前記特定周波数帯の成分の大きさを比較することによって、各波長成分の間で前記代表値の信号の差が演算される場合に当該代表値の信号へ乗算される補正係数であって前記特定周波数帯の成分が演算後に最小化される補正係数を算出し、
各波長成分の代表値の信号のうち少なくとも一方の信号に前記補正係数を乗算し、
前記補正係数の乗算後に各波長成分の間で前記代表値の信号の差を算出することによって前記特定周波数帯の成分が互いに相殺された信号の波形を検出することを特徴とする請求項1〜4のいずれか1つに記載の防犯装置。
The waveform detector
Extract the component of the specific frequency band for each wavelength component,
Correction by which the signal of the representative value is multiplied when the difference of the signal of the representative value is calculated between the wavelength components by comparing the magnitude of the component of the specific frequency band between the wavelength components Calculating a correction coefficient that is a coefficient and is minimized after the component of the specific frequency band is calculated;
Multiplying at least one of the signals of representative values of each wavelength component by the correction coefficient,
The signal waveform in which the components of the specific frequency band are canceled each other is detected by calculating a difference in the signal of the representative value between the respective wavelength components after multiplication of the correction coefficient. The crime prevention device according to any one of 4.
コンピュータが、
現金に関する取引を実行する装置の利用者を撮像する撮像装置によって撮像された画像を取得し、
前記画像に含まれる生体領域を抽出し、
前記生体領域に含まれる各画素の波長成分別の代表値の信号から、各波長成分の間で脈波が採り得る周波数帯以外の特定周波数帯の成分が互いに相殺された信号の波形を検出し、
前記生体領域から検出された波形が異常であるか否かを判定し、
前記波形が異常である場合に報知を実行する
処理を実行することを特徴とする防犯方法。
Computer
Obtain an image captured by an imaging device that captures a user of a device that executes transactions related to cash,
Extracting a biological region included in the image;
From the signal of the representative value for each wavelength component of each pixel included in the living body region, a waveform of a signal in which components in a specific frequency band other than a frequency band in which a pulse wave can be taken between each wavelength component is canceled is detected. ,
Determining whether the waveform detected from the biological region is abnormal,
A crime prevention method, comprising: performing a notification when the waveform is abnormal.
コンピュータに、
現金に関する取引を実行する装置の利用者を撮像する撮像装置によって撮像された画像を取得し、
前記画像に含まれる生体領域を抽出し、
前記生体領域に含まれる各画素の波長成分別の代表値の信号から、各波長成分の間で脈波が採り得る周波数帯以外の特定周波数帯の成分が互いに相殺された信号の波形を検出し、
前記生体領域から検出された波形が異常であるか否かを判定し、
前記波形が異常である場合に報知を実行する
処理を実行させることを特徴とする防犯プログラム。
On the computer,
Obtain an image captured by an imaging device that captures a user of a device that executes transactions related to cash,
Extracting a biological region included in the image;
From the signal of the representative value for each wavelength component of each pixel included in the living body region, a waveform of a signal in which components in a specific frequency band other than a frequency band in which a pulse wave can be taken between each wavelength component is canceled is detected. ,
Determining whether the waveform detected from the biological region is abnormal,
A crime prevention program characterized by causing a process to execute notification when the waveform is abnormal.
JP2013061084A 2013-03-22 2013-03-22 Crime prevention device, crime prevention method and crime prevention program Active JP6003752B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013061084A JP6003752B2 (en) 2013-03-22 2013-03-22 Crime prevention device, crime prevention method and crime prevention program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013061084A JP6003752B2 (en) 2013-03-22 2013-03-22 Crime prevention device, crime prevention method and crime prevention program

Publications (2)

Publication Number Publication Date
JP2014186560A true JP2014186560A (en) 2014-10-02
JP6003752B2 JP6003752B2 (en) 2016-10-05

Family

ID=51834066

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013061084A Active JP6003752B2 (en) 2013-03-22 2013-03-22 Crime prevention device, crime prevention method and crime prevention program

Country Status (1)

Country Link
JP (1) JP6003752B2 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016220915A (en) * 2015-05-29 2016-12-28 株式会社リコー Pulse wave detection device, pulse wave detection method, pulse wave detection system, and program
JP2018068720A (en) * 2016-10-31 2018-05-10 三星電子株式会社Samsung Electronics Co.,Ltd. Pulse detector and pulse detection method
JP2018097854A (en) * 2016-12-13 2018-06-21 パナソニックIpマネジメント株式会社 Contract cancellation system, server and contract cancellation method
JP2019000474A (en) * 2017-06-16 2019-01-10 グローリー株式会社 Pulse period detection device, pulse period detection method, pulse period detection program, and pulse wave detection device
US11494579B2 (en) * 2016-01-29 2022-11-08 Nec Corporation Information processing apparatus, information processing method, and program

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS53122284A (en) * 1977-03-31 1978-10-25 Nozomi Hoshimiya Method of and device for detecting pulse using two wavelength lights
JPH11197126A (en) * 1998-01-19 1999-07-27 Nippon Soken Inc Pulse waveform detector
JP2007226469A (en) * 2006-02-22 2007-09-06 Quality Kk Service provision management system
JP2007289540A (en) * 2006-04-27 2007-11-08 Olympus Corp Stress sensor system
JP2009157592A (en) * 2007-12-26 2009-07-16 Canon It Solutions Inc Abnormal transaction detector
JP2012239661A (en) * 2011-05-20 2012-12-10 Fujitsu Ltd Heart rate/respiration rate detection apparatus, method and program
JP2012249884A (en) * 2011-06-03 2012-12-20 Tokyo Metropolitan Univ Non-contact stress evaluation system, non-contact stress evaluation method, and program for the same
JP5915757B2 (en) * 2012-09-07 2016-05-11 富士通株式会社 Pulse wave detection method, pulse wave detection device, and pulse wave detection program

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS53122284A (en) * 1977-03-31 1978-10-25 Nozomi Hoshimiya Method of and device for detecting pulse using two wavelength lights
JPH11197126A (en) * 1998-01-19 1999-07-27 Nippon Soken Inc Pulse waveform detector
JP2007226469A (en) * 2006-02-22 2007-09-06 Quality Kk Service provision management system
JP2007289540A (en) * 2006-04-27 2007-11-08 Olympus Corp Stress sensor system
JP2009157592A (en) * 2007-12-26 2009-07-16 Canon It Solutions Inc Abnormal transaction detector
JP2012239661A (en) * 2011-05-20 2012-12-10 Fujitsu Ltd Heart rate/respiration rate detection apparatus, method and program
JP2012249884A (en) * 2011-06-03 2012-12-20 Tokyo Metropolitan Univ Non-contact stress evaluation system, non-contact stress evaluation method, and program for the same
JP5915757B2 (en) * 2012-09-07 2016-05-11 富士通株式会社 Pulse wave detection method, pulse wave detection device, and pulse wave detection program

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016220915A (en) * 2015-05-29 2016-12-28 株式会社リコー Pulse wave detection device, pulse wave detection method, pulse wave detection system, and program
US11494579B2 (en) * 2016-01-29 2022-11-08 Nec Corporation Information processing apparatus, information processing method, and program
JP2018068720A (en) * 2016-10-31 2018-05-10 三星電子株式会社Samsung Electronics Co.,Ltd. Pulse detector and pulse detection method
JP2018097854A (en) * 2016-12-13 2018-06-21 パナソニックIpマネジメント株式会社 Contract cancellation system, server and contract cancellation method
JP2019000474A (en) * 2017-06-16 2019-01-10 グローリー株式会社 Pulse period detection device, pulse period detection method, pulse period detection program, and pulse wave detection device

Also Published As

Publication number Publication date
JP6003752B2 (en) 2016-10-05

Similar Documents

Publication Publication Date Title
JP6003752B2 (en) Crime prevention device, crime prevention method and crime prevention program
KR101806400B1 (en) A surveillance system for body heat by the dual camera using the black body
JP6098257B2 (en) Signal processing apparatus, signal processing method, and signal processing program
US9875393B2 (en) Information processing apparatus, information processing method, and program
WO2014155750A1 (en) Blood flow index calculation method, blood flow index calculation program and blood flow index calculation device
KR102322029B1 (en) Method and Apparatus for acquiring a biometric information
JP5915757B2 (en) Pulse wave detection method, pulse wave detection device, and pulse wave detection program
US9986923B2 (en) Selecting a region of interest for extracting physiological parameters from a video of a subject
KR102176001B1 (en) Apparatus for measuring Biometric Information and Method thereof
JP6115263B2 (en) Pulse wave detection device, pulse wave detection method, and pulse wave detection program
AU2016262654A1 (en) Device and method to detect diabetes in a person using pulse palpation signal
JPWO2006030781A1 (en) Method and apparatus for extracting biological information from fingertip
US9672339B2 (en) Electro-biometric authentication
JP2020092817A (en) Biological function evaluation device, biological function evaluation method, and program
JP2016131288A (en) Information processing apparatus and program
JP2021146061A (en) Biological information acquisition device, biological information acquisition method and program
CN105761378B (en) A kind of automatic identification merchandises and reduces the device and method of loss extremely
TWI671701B (en) System and method for detecting trading behavior
US20170278362A1 (en) Information processing device, information processing method, and program
WO2019187852A1 (en) Model setting device, contactless blood pressure measurement device, model setting method, model setting program, and recording medium
CN111311466A (en) Safety control method and device
JP6557446B2 (en) Automatic transaction apparatus, its processing method, and its processing program
KR20190117100A (en) Method and apparatus for measuring biometric information in electronic device
JP5339942B2 (en) Transaction monitoring device
JP2019017555A (en) Biological signal analysis device, biological signal analysis method and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151106

TRDD Decision of grant or rejection written
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160729

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160809

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160822

R150 Certificate of patent or registration of utility model

Ref document number: 6003752

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150