JP2017228868A - Imaging System - Google Patents

Imaging System Download PDF

Info

Publication number
JP2017228868A
JP2017228868A JP2016122333A JP2016122333A JP2017228868A JP 2017228868 A JP2017228868 A JP 2017228868A JP 2016122333 A JP2016122333 A JP 2016122333A JP 2016122333 A JP2016122333 A JP 2016122333A JP 2017228868 A JP2017228868 A JP 2017228868A
Authority
JP
Japan
Prior art keywords
unit
alignment mark
adjustment
imaging system
card
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016122333A
Other languages
Japanese (ja)
Other versions
JP6686726B2 (en
Inventor
礼子 岸
Reiko Kishi
礼子 岸
増田 誠
Makoto Masuda
誠 増田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Oki Electric Industry Co Ltd
Original Assignee
Oki Electric Industry Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Oki Electric Industry Co Ltd filed Critical Oki Electric Industry Co Ltd
Priority to JP2016122333A priority Critical patent/JP6686726B2/en
Priority to PCT/JP2017/014627 priority patent/WO2017221515A1/en
Publication of JP2017228868A publication Critical patent/JP2017228868A/en
Application granted granted Critical
Publication of JP6686726B2 publication Critical patent/JP6686726B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07DHANDLING OF COINS OR VALUABLE PAPERS, e.g. TESTING, SORTING BY DENOMINATIONS, COUNTING, DISPENSING, CHANGING OR DEPOSITING
    • G07D9/00Counting coins; Handling of coins not provided for in the other groups of this subclass
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)
  • Accessories Of Cameras (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Financial Or Insurance-Related Operations Such As Payment And Settlement (AREA)

Abstract

PROBLEM TO BE SOLVED: To improve the availability of an alignment mark.SOLUTION: An imaging system comprises an imaging apparatus; an information processing apparatus to be imaged by the imaging apparatus; a presentation unit which presents an alignment mark to be used to adjust an analysis region in a captured image; and a presentation control unit which controls the presentation unit to present the alignment mark in an adjustment mode being a mode to perform the adjustment.SELECTED DRAWING: Figure 2

Description

本発明は、撮像システムに関する。   The present invention relates to an imaging system.

近年、画像解析技術の発展に伴い、カメラ等によって撮像された画像が高精度に解析され、この解析結果が様々な用途に利用されている。例えば、解析結果が監視サービスに利用されることで、異常事態の発生が高精度に検知され得る。また、ロボットが、画像の解析結果を用いて人または物の状態を認識し、その状態に応じて適切に動作することも可能である。   In recent years, with the development of image analysis technology, an image captured by a camera or the like is analyzed with high accuracy, and the analysis result is used for various purposes. For example, by using the analysis result for the monitoring service, the occurrence of an abnormal situation can be detected with high accuracy. It is also possible for the robot to recognize the state of a person or an object using the image analysis result and to operate appropriately according to the state.

ここで、カメラ等の撮像領域または解析領域のずれは、画像解析の精度に大きな影響を与える。ゆえに、撮像領域または解析領域の調整については、様々な方法が研究開発されている。例えば、撮像されたマークの位置または大きさ等に基づいて撮像領域等の調整が行われる方法が提案されている。以下の特許文献1には、撮像画像中のマークを認識する技術が開示されている。特許文献2には、撮像対象が撮像領域から外れた場合に、撮像装置の移動すべき方向にマークが表示される技術が開示されている。特許文献3には、マークを用いて監視エリアを設定する技術が開示されている。   Here, a shift in the imaging area or analysis area of a camera or the like has a great influence on the accuracy of image analysis. Therefore, various methods have been researched and developed for adjusting the imaging region or the analysis region. For example, a method has been proposed in which an imaging region or the like is adjusted based on the position or size of a captured mark. The following Patent Document 1 discloses a technique for recognizing a mark in a captured image. Patent Document 2 discloses a technique in which a mark is displayed in a direction in which an imaging apparatus should move when an imaging target deviates from the imaging area. Patent Document 3 discloses a technique for setting a monitoring area using a mark.

特開2005−210666号公報Japanese Patent Laying-Open No. 2005-210666 特開2007−142866号公報JP 2007-142866 A 特開2001−145092号公報JP 2001-145092 A

ここで、従来の技術では、撮像領域または解析領域の調整に用いられるマーク(以降、アライメントマークと呼称する)の可用性が低いという問題があった。例えば、アライメントマークが悪意ある第三者によって不正に改変されたり、アライメントマークが破損したりすることによって、撮像画像中の解析領域の調整が困難になるという問題が発生していた。また、アライメントマークのデザインが良くない等の理由でアライメントマークを撮像対象に付与できない場合があった。   Here, the conventional technique has a problem that the availability of a mark (hereinafter referred to as an alignment mark) used for adjusting an imaging area or an analysis area is low. For example, there has been a problem that adjustment of the analysis region in the captured image becomes difficult because the alignment mark is illegally modified by a malicious third party or the alignment mark is damaged. In some cases, the alignment mark cannot be applied to the imaging target because the design of the alignment mark is not good.

そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、アライメントマークの可用性を向上させることが可能な、新規かつ改良された撮像システムを提供することにある。   Therefore, the present invention has been made in view of the above problems, and an object of the present invention is to provide a new and improved imaging system capable of improving the availability of alignment marks. is there.

上記課題を解決するために、本発明のある観点によれば、撮像装置と、前記撮像装置の撮像対象である情報処理装置と、撮像画像中の解析領域の調整に使用されるアライメントマークを提示する提示部と、前記調整が行われるモードである調整モード時に、前記提示部に前記アライメントマークを提示させる提示制御部を備えることを特徴とする、撮像システムが提供される。   In order to solve the above problems, according to an aspect of the present invention, an imaging apparatus, an information processing apparatus that is an imaging target of the imaging apparatus, and an alignment mark used for adjusting an analysis region in the captured image are presented. An imaging system is provided, comprising: a presentation unit that performs presentation, and a presentation control unit that causes the presentation unit to present the alignment mark in an adjustment mode in which the adjustment is performed.

前記提示部は、前記撮像装置の撮像領域に前記アライメントマークを提示してもよい。   The presenting unit may present the alignment mark in an imaging region of the imaging device.

前記提示部は、前記アライメントマークを複数箇所に提示してもよい。   The presenting unit may present the alignment mark at a plurality of locations.

前記提示部は、画像を表示する表示面であり、前記表示面は、前記アライメントマークを表示してもよい。   The presenting unit may be a display surface that displays an image, and the display surface may display the alignment mark.

前記表示面は、ユーザによって使用される情報処理のための表示面であってもよい。   The display surface may be a display surface for information processing used by a user.

前記提示部は、カードを挿入または排出するカード処理部であり、前記カード処理部は、挿入された前記アライメントマークが付された専用カードを用いて前記アライメントマークを提示してもよい。   The presenting unit may be a card processing unit that inserts or ejects a card, and the card processing unit may present the alignment mark using a dedicated card with the inserted alignment mark.

前記カード処理部は、前記専用カードの前記アライメントマークが付された部分をカード取扱口の外へ露出させることで前記アライメントマークを提示してもよい。   The card processing unit may present the alignment mark by exposing a portion of the dedicated card to which the alignment mark is attached to the outside of the card handling slot.

前記カード処理部は、ユーザによって使用される情報処理のためのカードを処理してもよい。   The card processing unit may process a card for information processing used by a user.

前記提示部は、前記情報処理装置の一部の動作または変形によって前記アライメントマークを提示してもよい。   The presenting unit may present the alignment mark by a partial operation or modification of the information processing apparatus.

前記調整モードと、前記提示部が前記アライメントマークを提示しない非調整モードとを切り替えるモード制御部をさらに備えてもよい。   You may further provide the mode control part which switches the said adjustment mode and the non-adjustment mode in which the said presentation part does not present the said alignment mark.

前記情報処理装置は、現金処理装置であり、前記現金処理装置は、専用カードがカード取扱口へ挿入されたことを検知するカード検知部をさらに備え、前記モード制御部は、前記カード検知部によって前記専用カードの挿入が検知された場合、前記調整モードへ切り替えてもよい。   The information processing apparatus is a cash processing apparatus, and the cash processing apparatus further includes a card detection unit that detects that a dedicated card has been inserted into a card handling port, and the mode control unit is configured by the card detection unit. When insertion of the dedicated card is detected, the mode may be switched to the adjustment mode.

前記撮像画像における前記アライメントマークと解析の対象領域との相対的な関係に関する情報と、撮像された前記アライメントマークに基づいて前記対象領域を特定し、前記対象領域を用いて前記調整を行う調整部をさらに備えてもよい。   An adjustment unit that specifies the target region based on information on the relative relationship between the alignment mark and the analysis target region in the captured image and the captured alignment mark, and performs the adjustment using the target region May be further provided.

前記調整部は、前記対象領域に前記解析領域を設定することによって前記調整を行ってもよい。   The adjustment unit may perform the adjustment by setting the analysis region in the target region.

前記調整部は、前記対象領域と前記解析領域との間にずれが生じている場合、前記調整を行うことによって前記ずれを解消してもよい。   The adjustment unit may eliminate the shift by performing the adjustment when a shift occurs between the target region and the analysis region.

前記調整部は、前記撮像装置を動かすことによって前記ずれを解消してもよい。   The adjustment unit may eliminate the shift by moving the imaging device.

前記調整部は、前記撮像画像を編集することによって前記ずれを解消してもよい。   The adjustment unit may eliminate the shift by editing the captured image.

前記解析領域が複数存在してもよい。   There may be a plurality of the analysis regions.

撮像された前記アライメントマークを解析し、前記情報処理装置の機種を特定する機種特定部をさらに備えてもよい。   You may further provide the model specific part which analyzes the imaged said alignment mark and specifies the model of the said information processing apparatus.

前記解析領域の解析結果と、前記解析領域における正常な動作または状態の学習結果を比較することによって、撮像された動作または状態が正常か否かを判断する画像解析部をさらに備えてもよい。   The image analysis unit may further include an image analysis unit configured to determine whether the imaged operation or state is normal by comparing the analysis result of the analysis region with a learning result of a normal operation or state in the analysis region.

以上説明したように本発明によれば、アライメントマークの可用性を向上させることが可能となる。   As described above, according to the present invention, the availability of alignment marks can be improved.

本発明の一実施形態における撮像システムの構成を示す図である。It is a figure which shows the structure of the imaging system in one Embodiment of this invention. 本発明の一実施形態におけるATMの構成を示す図である。It is a figure which shows the structure of ATM in one Embodiment of this invention. カメラによって撮像された撮像画像および解析領域を示す図である。It is a figure which shows the captured image and analysis area which were imaged with the camera. 撮像画像中のアライメントマークおよび解析領域を示す図である。It is a figure which shows the alignment mark and analysis area | region in a captured image. 解析領域の調整方法を示す図である。It is a figure which shows the adjustment method of an analysis area | region. 解析領域の調整方法を示す図である。It is a figure which shows the adjustment method of an analysis area | region. 解析領域の調整方法を示す図である。It is a figure which shows the adjustment method of an analysis area | region. 調整モード時のATMおよびカメラの動作を示すフローチャートである。It is a flowchart which shows operation | movement of ATM and a camera at the time of adjustment mode. テスト動作モード時のATMおよびカメラの動作を示すフローチャートである。It is a flowchart which shows operation | movement of ATM and a camera at the time of a test operation mode. テスト動作モード時において、表示部に表示されるメッセージを示す図である。It is a figure which shows the message displayed on a display part at the time of test operation mode. アライメントマークが付された専用カードを示す図である。It is a figure which shows the exclusive card | curd with which the alignment mark was attached | subjected. 専用カードによるアライメントマークの提示を示す図である。It is a figure which shows presentation of the alignment mark by a dedicated card. ATMの一部の動作または変形によるアライメントマークの提示を示す図である。It is a figure which shows presentation of the alignment mark by the one part operation | movement or deformation | transformation of ATM.

以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。   Exemplary embodiments of the present invention will be described below in detail with reference to the accompanying drawings. In addition, in this specification and drawing, about the component which has the substantially same function structure, the duplicate description is abbreviate | omitted by attaching | subjecting the same code | symbol.

なお、説明は以下の順序で行うものとする。
1.撮像システムの概要
2.ATMの構成
3.動作
4.変形例
The description will be made in the following order.
1. 1. Overview of imaging system Structure of ATM Operation 4. Modified example

<1.撮像システムの概要>
まず、図1を参照して、本発明の一実施形態に係る撮像システムの概要について説明する。図1は、本発明の一実施形態における撮像システムの構成を示す図である。
<1. Overview of imaging system>
First, an overview of an imaging system according to an embodiment of the present invention will be described with reference to FIG. FIG. 1 is a diagram illustrating a configuration of an imaging system according to an embodiment of the present invention.

図1に示すように、本発明の一実施形態に係る撮像システムは、金融機関等に設置されているATM100(Automated/Automatic Teller Machine)、当該ATM100を撮像するカメラ200およびATM100へ使用される専用カード300によって構成される。また、ATM100は、カード取扱口30と、通帳取扱口40と、紙幣取扱口50と、硬貨取扱口60と、表示面70と、受話器80と、を備える。カード取扱口30は、各種カードが挿入または排出される部分である。通帳取扱口40は、各種通帳が挿入または排出される部分である。紙幣取扱口50は、紙幣が投入または排出される部分である。硬貨取扱口60は、硬貨が投入または排出される部分である。表示面70は、操作画面等の各種画面を表示する部分である。受話器80は、通話のために、音声を電気信号へ、または、電気信号を音声へ変換する部分である。   As shown in FIG. 1, an imaging system according to an embodiment of the present invention includes an ATM 100 (Automated / Automatic Teller Machine) installed in a financial institution, a camera 200 that captures the ATM 100, and a dedicated camera used for the ATM 100. The card 300 is configured. The ATM 100 also includes a card handling port 30, a bankbook handling port 40, a banknote handling port 50, a coin handling port 60, a display surface 70, and a receiver 80. The card handling port 30 is a part into which various cards are inserted or ejected. The bankbook handling port 40 is a part where various bankbooks are inserted or discharged. The bill handling port 50 is a portion into which bills are inserted or discharged. The coin handling port 60 is a portion into which coins are inserted or discharged. The display surface 70 is a part that displays various screens such as an operation screen. The receiver 80 is a part that converts voice into an electrical signal or converts an electrical signal into voice for a call.

本実施形態におけるATM100は、金融機関または小売店等に設置される情報処理装置であり、現金処理装置とも呼ばれる。ユーザは、ATM100を用いて預貯金口座に対する現金の預け入れ、引き出し、残高照会、通帳記入または他口座への振込み等を行うことができる。本実施形態においては、ATM100を一例として説明するが、本発明はATM100以外にも適用され得る。例えば、本発明は、交通機関の券売機、自動販売機、コンビニエンスストアに設置されているオンライン取引端末等の任意の装置に適用されてもよい。   The ATM 100 in the present embodiment is an information processing apparatus installed in a financial institution or a retail store, and is also called a cash processing apparatus. The user can use the ATM 100 to deposit or withdraw cash from the savings account, make a balance inquiry, fill in a passbook, or transfer to another account. In the present embodiment, the ATM 100 is described as an example, but the present invention can be applied to other than the ATM 100. For example, the present invention may be applied to any device such as an online transaction terminal installed in a ticket vending machine, vending machine, or convenience store of a transportation facility.

ATM100は、カメラ200から提供される撮像画像を解析することで、異常な動作または状態を検知することができる。その後、ATM100は、検知された異常な動作に関する情報を監視センターへ通知する。   The ATM 100 can detect an abnormal operation or state by analyzing a captured image provided from the camera 200. Thereafter, the ATM 100 notifies the monitoring center of information regarding the detected abnormal operation.

本実施形態におけるカメラ200は、ATM100の上部に取り付けられ、ATM100の一部を撮像する。そして、カメラ200は、撮像画像のデータをATM100へ送信する。本実施形態においては、カメラ200の設置位置がATM100の上部である場合を一例として説明するが、カメラ200の設置位置は適宜変更され得る。例えば、カメラ200は、ATM100の横に設置されてもよいし、ATM100に接触するように設置されてもよい。また、カメラ200は複数個設置されてもよい。   The camera 200 in this embodiment is attached to the upper part of ATM100, and images a part of ATM100. Then, the camera 200 transmits captured image data to the ATM 100. In the present embodiment, the case where the installation position of the camera 200 is the upper part of the ATM 100 will be described as an example, but the installation position of the camera 200 can be changed as appropriate. For example, the camera 200 may be installed beside the ATM 100 or may be installed so as to contact the ATM 100. A plurality of cameras 200 may be installed.

本実施形態における専用カード300は、撮像システムを調整モードへ変更するために用いられるカードである。専用カード300がATM100に挿入されると、撮像システムのモードは、非調整モードから調整モードへ変更される。調整モードとは、撮像画像中の解析領域の調整等が行われるモードである。   The dedicated card 300 in this embodiment is a card used to change the imaging system to the adjustment mode. When the dedicated card 300 is inserted into the ATM 100, the mode of the imaging system is changed from the non-adjustment mode to the adjustment mode. The adjustment mode is a mode in which the analysis area in the captured image is adjusted.

(背景)
近年、ATMに対する不正行為が多発しており、不正行為の手口は多様化している。例えば、ATMのカード取扱口へスキミング機器を取り付けることで、ユーザのカード情報が不正に取得されたり、小型カメラでユーザの手の動きを撮像することで、ユーザによって入力されるカードの暗証番号が不正に取得されたりする事件も発生している。カード情報または暗証番号が抜き取られると、偽造カードの製造等に悪用される場合がある。
(background)
In recent years, fraudulent acts against ATMs have frequently occurred, and the methods of fraudulent acts are diversified. For example, by attaching a skimming device to an ATM card handling port, the user's card information is obtained illegally, or the movement of the user's hand is imaged with a small camera, so that the card PIN entered by the user is There have also been cases of illegal acquisition. If the card information or the password is extracted, it may be abused for manufacturing a counterfeit card.

また、不正行為以外にも様々な問題が発生している。例えば、ユーザ、特に老人または外国人等がATMの操作方法を理解できず、誤った操作をしてしまうことがある。また、ユーザがATMを利用した後に鞄等を置き忘れてしまうこともある。   There are also various problems other than fraud. For example, a user, particularly an elderly person or a foreigner, may not understand an ATM operation method and may perform an incorrect operation. In addition, the user may misplace the bag after using the ATM.

当該撮像システムは、カメラ200によって撮像された撮像画像を解析することによって上述の問題の発生を検知することができる。より具体的に説明すると、当該撮像システムは、正常な動作または状態が撮像された撮像画像を学習し、この学習結果と撮像画像の特徴量とを比較することによって、スキミング機器の取り付け等の異常な動作または状態を検知することができる。   The imaging system can detect the occurrence of the above problem by analyzing a captured image captured by the camera 200. More specifically, the imaging system learns a captured image in which a normal operation or state is captured, and compares the learning result with the feature amount of the captured image, thereby causing an abnormality such as attachment of a skimming device. Can detect any movement or condition.

ところで、画像解析において、撮像領域または解析領域のずれは解析の精度に大きな影響を及ぼすため、ずれが発生した場合は、調整作業によりずれを修正する必要がある。もちろん、ATMを設置する時にも、調整作業が必要である。この時、調整作業が複雑であると作業者の負担が大きくなってしまう。しかし、調整作業が簡単であると、悪意のある第三者によって不正な調整が行われる可能性がある。例えば、撮像領域が変更されることで、スキミング機器の取り付け等の不正行為が検知されない状態が発生し得る。   By the way, in the image analysis, since the shift of the imaging region or the analysis region has a great influence on the accuracy of the analysis, when the shift occurs, it is necessary to correct the shift by adjustment work. Of course, adjustment work is also required when installing the ATM. At this time, if the adjustment work is complicated, the burden on the operator increases. However, if the adjustment work is simple, there is a possibility that an unauthorized adjustment is performed by a malicious third party. For example, when the imaging area is changed, a state in which fraud such as attachment of a skimming device is not detected may occur.

当該撮像システムは、撮像画像中のアライメントマークの位置を解析することによって自動的に調整作業を行うことができる。また、専用カード300がATM100に挿入されない限り、調整作業が行われないため、第三者が不正な調整を行うことを防げる。   The imaging system can automatically perform adjustment work by analyzing the position of the alignment mark in the captured image. Moreover, since adjustment work is not performed unless the dedicated card 300 is inserted into the ATM 100, it is possible to prevent a third party from performing unauthorized adjustments.

<2.ATMの構成>
以上では、本実施形態における撮像システムの概要を説明した。続いて、図2を参照して、本実施形態におけるATM100の構成について説明する。図2は、本発明の一実施形態におけるATM100の構成を示す図である。
<2. Structure of ATM>
The outline of the imaging system in the present embodiment has been described above. Then, with reference to FIG. 2, the structure of ATM100 in this embodiment is demonstrated. FIG. 2 is a diagram showing a configuration of the ATM 100 in one embodiment of the present invention.

本実施形態におけるATM100は、通信部110と、制御部120と、カード処理部130と、通帳処理部140と、紙幣処理部150と、硬貨処理部160と、表示部170と、通話部180と、記憶部190と、を備える。また、制御部120は、画像解析部121と、アラーム部122と、モード制御部123と、提示制御部124と、調整部125と、機種特定部126と、を備える。   The ATM 100 in the present embodiment includes a communication unit 110, a control unit 120, a card processing unit 130, a passbook processing unit 140, a banknote processing unit 150, a coin processing unit 160, a display unit 170, and a call unit 180. And a storage unit 190. The control unit 120 includes an image analysis unit 121, an alarm unit 122, a mode control unit 123, a presentation control unit 124, an adjustment unit 125, and a model specifying unit 126.

(通信部)
通信部110は、カメラ200および監視センター(図示なし)へのインターフェースである。通信部110は、カメラ200から送信される撮像画像のデータを制御部120へ提供し、制御部120から提供されるカメラ200の制御に関する情報をカメラ200へ送信する。また、通信部110は、制御部120から提供される異常動作等の情報を監視センターへ送信する。通信部110は、有線または無線どちらの伝送路のインターフェースでもよい。
(Communication Department)
The communication unit 110 is an interface to the camera 200 and a monitoring center (not shown). The communication unit 110 provides captured image data transmitted from the camera 200 to the control unit 120, and transmits information related to the control of the camera 200 provided from the control unit 120 to the camera 200. In addition, the communication unit 110 transmits information such as abnormal operation provided from the control unit 120 to the monitoring center. The communication unit 110 may be a wired or wireless transmission path interface.

(画像解析部)
画像解析部121は、カメラ200によって撮像された撮像画像を解析する。ここで、図3を参照して、より具体的な説明を行う。図3は、カメラ200によって撮像された撮像画像および解析領域を示す図である。
(Image Analysis Department)
The image analysis unit 121 analyzes a captured image captured by the camera 200. Here, a more specific description will be given with reference to FIG. FIG. 3 is a diagram illustrating a captured image captured by the camera 200 and an analysis region.

図3に示すように、撮像画像には、カード取扱口30と、通帳取扱口40と、紙幣取扱口50と、硬貨取扱口60と、表示面70と、受話器80と、が含まれている。画像解析部121は、撮像される対象物の撮像画像を読み込み、学習しておく。そして、画像解析部121は、この学習結果と撮像画像の特徴量とを比較することで、その対象物が何であるかを特定する。画像解析部121は、後述するアライメントマーク10も同様の方法で特定する。画像解析部121は、撮像された対象物を特定することで、撮像領域のずれを検出することができる。   As shown in FIG. 3, the captured image includes a card handling port 30, a passbook handling port 40, a bill handling port 50, a coin handling port 60, a display surface 70, and a receiver 80. . The image analysis unit 121 reads and learns a captured image of an object to be imaged. And the image analysis part 121 specifies what the target object is by comparing this learning result with the feature-value of a captured image. The image analysis unit 121 also identifies an alignment mark 10 to be described later using the same method. The image analysis unit 121 can detect the shift of the imaging region by specifying the captured object.

また、画像解析部121は、解析領域20内において撮像された動作または状態をリアルタイムに解析する。より具体的に説明すると、画像解析部121は、解析領域20内における撮像画像の特徴量と正常時モデルとを比較する。ここで、正常時モデルとは、解析領域20内における正常な動作または状態の撮像画像から特徴量が抽出されることで構築された情報であり、正常時モデルに、動作名または状態名の情報が含まれてもよい。そして、画像解析部121は、解析領域20内における撮像画像の特徴量と正常時モデルとを比較し、正常な動作または状態か否かを判定する。   In addition, the image analysis unit 121 analyzes an action or state captured in the analysis region 20 in real time. More specifically, the image analysis unit 121 compares the feature amount of the captured image in the analysis region 20 with the normal model. Here, the normal model is information constructed by extracting a feature amount from a captured image of a normal operation or state in the analysis region 20, and the operation model or state name information is included in the normal model. May be included. Then, the image analysis unit 121 compares the feature amount of the captured image in the analysis region 20 with the normal model, and determines whether or not the operation is normal.

これにより、画像解析部121は、不正行為をリアルタイムに検知することができる。例えば、画像解析部121は、ATM100に不正な機器が取り付けられる動作、または、不正なカードが挿入される動作等を検知することができる。また、画像解析部121は、ユーザが正しくATM100の操作を行えていない状況を検知することができる。例えば、画像解析部121は、正常ではないユーザの手の動き、または、長時間にわたり操作が完了されていない状況等を検知することができる。また、画像解析部121は、忘れ物等の異物の存在を検知することができる。   Thereby, the image analysis unit 121 can detect the fraud in real time. For example, the image analysis unit 121 can detect an operation of attaching an unauthorized device to the ATM 100 or an operation of inserting an unauthorized card. In addition, the image analysis unit 121 can detect a situation where the user is not correctly operating the ATM 100. For example, the image analysis unit 121 can detect an abnormal movement of the user's hand or a situation where the operation has not been completed for a long time. In addition, the image analysis unit 121 can detect the presence of a foreign object such as a forgotten object.

詳細な解析の範囲が解析領域20に絞られることによって、撮像画像全体が解析される場合と比較して、解析の精度を向上させることができる。例えば、撮像画像全体が解析される場合、ATM100周辺を歩く人等、解析されるべきではない人または物まで解析されることで解析の精度が低下する恐れがある。詳細な解析の範囲が解析領域20に絞られることによって、このような問題を回避し、解析の精度を向上させることができる。図3においては、解析領域20はカード取扱口30の付近に設定されているが、これは一例であり、解析領域20の場所および個数は任意である。   By narrowing the detailed analysis range to the analysis region 20, the accuracy of the analysis can be improved as compared with the case where the entire captured image is analyzed. For example, when the entire captured image is analyzed, there is a possibility that the accuracy of the analysis may be reduced by analyzing a person or an object that should not be analyzed, such as a person walking around the ATM 100. By narrowing the range of detailed analysis to the analysis region 20, such problems can be avoided and the accuracy of analysis can be improved. In FIG. 3, the analysis area 20 is set in the vicinity of the card handling slot 30, but this is an example, and the location and number of the analysis areas 20 are arbitrary.

(アラーム部)
アラーム部122は、画像解析部121によって異常な動作または状態が検知された場合、通信部110を介して監視センター等へその旨を通知する。また、アラーム部122は、異常な動作または状態の内容、発生日時、発生場所等に関する情報を併せて通知してもよい。また、テスト動作モード時は、アラーム部122は上述の通知機能を停止する。テスト動作モードについては後述する。
(Alarm part)
When an abnormal operation or state is detected by the image analysis unit 121, the alarm unit 122 notifies the monitoring center or the like via the communication unit 110. In addition, the alarm unit 122 may also notify information regarding abnormal operation or state contents, occurrence date and time, occurrence location, and the like. In the test operation mode, the alarm unit 122 stops the above notification function. The test operation mode will be described later.

(モード制御部)
モード制御部123は、撮像システムのモードを、非調整モード、調整モードおよびテスト動作モードのいずれかに切り替える。より具体的に説明すると、モード制御部123は、ATM100のカード取扱口30に専用カード300が挿入された場合、ATM100のモードを非調整モードから調整モードへ切り替える。非調整モードとは、通常どおりユーザによってATM100が利用され、画像解析が行われるモードである。調整モードとは、解析領域20の調整が行われるモードである。モード制御部123は、調整が完了した後に調整モードからテスト動作モードへ切り替える。テスト動作モードとは、異常検知のテストが行われるモードである。モード制御部123は、異常検知のテストが完了した後にテスト動作モードから非調整モードへ切り替える。調整モードおよびテスト動作モード時の動作については後述する。
(Mode control unit)
The mode control unit 123 switches the imaging system mode to any one of the non-adjustment mode, the adjustment mode, and the test operation mode. More specifically, the mode control unit 123 switches the mode of the ATM 100 from the non-adjustment mode to the adjustment mode when the dedicated card 300 is inserted into the card handling port 30 of the ATM 100. The non-adjustment mode is a mode in which the ATM 100 is used by the user as usual and image analysis is performed. The adjustment mode is a mode in which the analysis region 20 is adjusted. The mode control unit 123 switches from the adjustment mode to the test operation mode after the adjustment is completed. The test operation mode is a mode in which an abnormality detection test is performed. The mode control unit 123 switches from the test operation mode to the non-adjustment mode after the abnormality detection test is completed. Operations in the adjustment mode and the test operation mode will be described later.

(提示制御部)
調整モード時において、提示制御部124は、アライメントマーク10をカメラ200によって撮像されるように表示部170に表示させる。ここで、図4を参照して、アライメントマーク10の表示方法について説明する。図4は、撮像画像中のアライメントマーク10および解析領域20を示す図である。図4に示すように、提示制御部124は、表示部170(撮像画像中の表示面70)に2個のアライメントマーク10を表示させている。しかし、これは一例であり、表示されるアライメントマーク10の形状および個数は任意である。
(Presentation control unit)
In the adjustment mode, the presentation control unit 124 causes the display unit 170 to display the alignment mark 10 so as to be captured by the camera 200. Here, a display method of the alignment mark 10 will be described with reference to FIG. FIG. 4 is a diagram showing the alignment mark 10 and the analysis region 20 in the captured image. As shown in FIG. 4, the presentation control unit 124 displays two alignment marks 10 on the display unit 170 (the display surface 70 in the captured image). However, this is only an example, and the shape and number of alignment marks 10 to be displayed are arbitrary.

この方法では、調整が行われない時にはアライメントマーク10が表示されないため、アライメントマーク10が常時表示される方法に比べて、よりシンプルな画面を提供することができる。また、アライメントマーク10が破損または劣化する可能性を下げることができる。   In this method, since the alignment mark 10 is not displayed when no adjustment is performed, a simpler screen can be provided as compared with the method in which the alignment mark 10 is always displayed. Further, the possibility that the alignment mark 10 is damaged or deteriorated can be reduced.

また、この方法により、アライメントマーク10を容易に変更することができる。例えば、アライメントマーク10がATM100に物理的に設置される場合、アライメントマーク10が変更されるためには、作業者が、各ATM100に対してアライメントマーク10を変更する作業を行わなければならない。また、ATM100の構造によっては、アライメントマーク10を変更できない場合も発生し得る。一方、アライメントマーク10が表示部170に表示される当該方法では、ネットワークを経由して遠隔で各ATM100のアライメントマーク10を一括変更することが可能である。   Moreover, the alignment mark 10 can be easily changed by this method. For example, when the alignment mark 10 is physically installed on the ATM 100, in order to change the alignment mark 10, an operator must perform an operation of changing the alignment mark 10 on each ATM 100. Further, depending on the structure of the ATM 100, the alignment mark 10 may not be changed. On the other hand, in the method in which the alignment mark 10 is displayed on the display unit 170, the alignment mark 10 of each ATM 100 can be collectively changed remotely via a network.

また、提示制御部124は、アライメントマーク10だけでなくATM100の機種が特定され得るマーク(以降、「機種マーク」と呼称する)を表示部170に表示させてもよい。このマークの形状は任意である。例えば、提示制御部124は、ATM100の機種別番号を表示部170に表示させてもよい。これにより、撮像画像の解析によってATM100の機種が特定され、調整部125は、機種に応じた調整を行うことができる。   The presentation control unit 124 may display not only the alignment mark 10 but also a mark (hereinafter referred to as “model mark”) by which the model of the ATM 100 can be specified on the display unit 170. The shape of this mark is arbitrary. For example, the presentation control unit 124 may display the model number of the ATM 100 on the display unit 170. Thereby, the model of ATM100 is specified by the analysis of a captured image, and the adjustment part 125 can perform adjustment according to a model.

(調整部)
調整部125は、調整モード時に、アライメントマーク10に基づいて解析領域20を調整する。ここで、図5〜図7を参照して、解析領域20の調整方法について説明する。図5〜図7は、解析領域20の調整方法を示す図である。
(Adjustment part)
The adjustment unit 125 adjusts the analysis region 20 based on the alignment mark 10 in the adjustment mode. Here, the adjustment method of the analysis region 20 will be described with reference to FIGS. 5 to 7 are diagrams illustrating a method for adjusting the analysis region 20.

図5は、調整部125が解析領域20を解析の対象領域21へ設定することで、ずれを修正する方法を示している。解析の対象領域21とは、正常時モデルを用いた解析が可能な領域である。図5の5Aに示すように、何らかの原因でカメラ200の撮像領域がずれ、解析領域20が解析の対象領域21からずれた場合、調整部125は、5Bに示すように、アライメントマーク10に基づいて解析領域20の位置を解析の対象領域21へ設定する。   FIG. 5 shows a method of correcting the shift by the adjustment unit 125 setting the analysis region 20 to the analysis target region 21. The analysis target region 21 is a region where analysis using a normal model is possible. As shown in 5A of FIG. 5, when the imaging region of the camera 200 is shifted for some reason and the analysis region 20 is shifted from the analysis target region 21, the adjustment unit 125 is based on the alignment mark 10 as shown in 5B. The position of the analysis region 20 is set to the analysis target region 21.

より具体的に説明すると、調整部125は、アライメントマーク10と解析の対象領域21の撮像画像中における相対的な位置関係を予め把握しておく。そして、調整部125は、この位置関係と、ずれた後の撮像画像中のアライメントマーク10の位置および大きさに基づいて解析領域20を設定する。この方法により、画像解析部121は、非調整モード時に、正しく画像解析を行うことができる。   More specifically, the adjustment unit 125 grasps in advance the relative positional relationship between the alignment mark 10 and the analysis target region 21 in the captured image. Then, the adjustment unit 125 sets the analysis region 20 based on this positional relationship and the position and size of the alignment mark 10 in the captured image after the shift. With this method, the image analysis unit 121 can correctly perform image analysis in the non-adjustment mode.

ここで、図5に示すように、複数のアライメントマーク10を用いて調整が行われることによって、調整の精度を向上させることができる。より具体的に説明すると、1個のアライメントマーク10を用いて調整が行われる場合、画像解析部121が特定したアライメントマーク10の位置が正しい位置からずれていると、調整の精度が低下する。一方、複数のアライメントマーク10を用いて調整が行われる場合は、特定された複数のアライメントマーク10の位置関係に基づいて、画像解析部121がアライメントマーク10の位置のずれを認識することができる。したがって、画像解析部121は、ずれの調整、または、アライメントマーク10の特定処理のやり直しを行うことができるため、調整の精度を向上させることができる。   Here, as shown in FIG. 5, adjustment is performed using a plurality of alignment marks 10, whereby the adjustment accuracy can be improved. More specifically, when adjustment is performed using one alignment mark 10, if the position of the alignment mark 10 specified by the image analysis unit 121 is deviated from the correct position, the accuracy of adjustment decreases. On the other hand, when the adjustment is performed using the plurality of alignment marks 10, the image analysis unit 121 can recognize the displacement of the position of the alignment marks 10 based on the specified positional relationship of the plurality of alignment marks 10. . Therefore, since the image analysis unit 121 can adjust the shift or redo the specific process of the alignment mark 10, it is possible to improve the accuracy of the adjustment.

図6は、調整部125がカメラ200の方向等を制御することにより、ずれを修正する方法を示している。図6の6Aに示すように、解析領域20が解析の対象領域21からずれた場合、調整部125は、6Bに示すように、カメラ200を物理的に動かし、カメラ200の方向等を調整することで解析領域20のずれを修正する。調整部125は、カメラ200の制御に関する情報を、通信部110を介してカメラ200へ提供することで、カメラ200を物理的に動かすことができる。この方法により、画像解析部121は、非調整モード時に、正しく画像解析を行うことができる。   FIG. 6 shows a method of correcting the shift by the adjustment unit 125 controlling the direction of the camera 200 and the like. 6A, when the analysis region 20 is shifted from the analysis target region 21, the adjustment unit 125 physically moves the camera 200 and adjusts the direction of the camera 200 and the like as illustrated in 6B. Thus, the deviation of the analysis region 20 is corrected. The adjustment unit 125 can physically move the camera 200 by providing information related to the control of the camera 200 to the camera 200 via the communication unit 110. With this method, the image analysis unit 121 can correctly perform image analysis in the non-adjustment mode.

図7は、調整部125が撮像画像を編集することにより、ずれを修正する方法を示している。図7の7Aに示すように、撮像画像が拡大されたことによって解析領域20が解析の対象領域21からずれた場合、調整部125は、7Bに示すように撮像画像を縮小することによって、解析領域20のずれを修正する。調整部125は、撮像画像の位置を適宜変更してもよい。また、撮像画像が縮小された場合(図示なし)には、調整部125は撮像画像を拡大することによって、解析領域20のずれを修正する。   FIG. 7 shows a method in which the adjustment unit 125 corrects the deviation by editing the captured image. As shown in 7A of FIG. 7, when the analysis region 20 is shifted from the analysis target region 21 due to enlargement of the captured image, the adjustment unit 125 performs analysis by reducing the captured image as illustrated in 7B. The shift of the region 20 is corrected. The adjustment unit 125 may appropriately change the position of the captured image. When the captured image is reduced (not shown), the adjustment unit 125 corrects the shift of the analysis region 20 by enlarging the captured image.

また、調整部125は、拡大または縮小以外にも各種の画像編集を行ってもよい。例えば、調整部125は、撮像画像の明るさ(露出)、色味(ホワイトバランス)、歪み、ピント等を修正するためにパラメータ値を変更してもよい。これにより、画像解析部121が、撮像された対象物を認識しやすくなる。また、画像解析部121がアライメントマーク10を認識しやすくなるため、ずれの修正精度を向上させることができる。   Further, the adjustment unit 125 may perform various types of image editing in addition to enlargement or reduction. For example, the adjustment unit 125 may change the parameter value in order to correct brightness (exposure), color (white balance), distortion, focus, and the like of the captured image. This makes it easier for the image analysis unit 121 to recognize the captured object. In addition, since the image analysis unit 121 can easily recognize the alignment mark 10, it is possible to improve deviation correction accuracy.

この方法においては、調整後に、撮像画像の編集内容が画像解析部121に提供される。そして、画像解析部121は、非調整モード時に、この編集内容と同様の編集を撮像画像に対して行うことで、正しく画像解析を行うことができる。   In this method, the edited content of the captured image is provided to the image analysis unit 121 after adjustment. Then, the image analysis unit 121 can correctly perform image analysis by performing the same editing as the editing content on the captured image in the non-adjustment mode.

また、調整部125は、機種特定部126によって特定されたATM100の機種に応じて調整方法を変えることができる。例えば、調整部125は、ATM100の機種に応じて、アライメントマーク10と解析の対象領域21の相対的な位置関係の情報を変えることができる。これにより、調整部125は、機種によってカード取扱口30等の位置または大きさが異なる場合でも、解析領域20を正しく設定することができる。また、調整部125は、機種に応じて、アライメントマーク10および解析領域20の形状または個数等を変えてもよい。また、調整部125は、機種に応じて、図5〜図7に示す解析領域20の調整方法を変えてもよい。   The adjustment unit 125 can change the adjustment method according to the model of the ATM 100 identified by the model identification unit 126. For example, the adjustment unit 125 can change information on the relative positional relationship between the alignment mark 10 and the analysis target region 21 in accordance with the ATM 100 model. Thereby, the adjustment part 125 can set the analysis area | region 20 correctly, even when the position or magnitude | size of the card handling port 30 etc. differ with models. Further, the adjustment unit 125 may change the shape or number of the alignment mark 10 and the analysis region 20 according to the model. Moreover, the adjustment part 125 may change the adjustment method of the analysis area | region 20 shown in FIGS. 5-7 according to a model.

(機種特定部)
機種特定部126は、撮像された機種マークに基づいてATM100の機種を特定する。また、機種特定部126は、撮像されたATM100の各部分の特徴に基づいてATM100の機種を特定してもよい。
(Model identification part)
The model identifying unit 126 identifies the model of the ATM 100 based on the captured model mark. The model specifying unit 126 may specify the model of the ATM 100 based on the characteristics of each part of the ATM 100 that has been imaged.

(カード処理部)
カード処理部130は、カード取扱口30へカードが挿入されたことを検知するカード検知部として機能する。また、カード処理部130は、カード取扱口30へ挿入されたカードを処理する。ここで、カードは、カードデータの読み込み、書き込み等の情報処理が行われるカードであれば、任意である。例えば、カードは、キャッシュカードまたはクレジットカード等でもよい。カード処理部130は、カードの取り込みまたは排出等も行う。
(Card processing department)
The card processing unit 130 functions as a card detection unit that detects that a card has been inserted into the card handling port 30. The card processing unit 130 processes a card inserted into the card handling slot 30. Here, the card is arbitrary if it is a card on which information processing such as reading and writing of card data is performed. For example, the card may be a cash card or a credit card. The card processing unit 130 also takes in or discharges a card.

(通帳処理部)
通帳処理部140は、通帳取扱口40へ挿入された通帳を処理する。通帳は、例えば、金融機関によって発行される各種通帳である。通帳処理部140は、通帳の読み込み、書き換え、通帳の取り込みまたは排出等を行う。
(Passbook Processing Department)
The passbook processing unit 140 processes the passbook inserted into the passbook handling port 40. The bankbook is, for example, various bankbooks issued by financial institutions. The passbook processing unit 140 reads and rewrites the passbook, takes in or discharges the passbook, and the like.

(紙幣処理部)
紙幣処理部150は、紙幣に関する各種処理を行う。例えば、紙幣処理部150は、紙幣取扱口50へ投入された紙幣の取り込み、または紙幣取扱口50への紙幣の排出等を行う。
(Bill Processing Department)
The banknote processing unit 150 performs various processes related to banknotes. For example, the banknote processing unit 150 takes in banknotes inserted into the banknote handling port 50 or discharges banknotes to the banknote handling port 50.

(硬貨処理部)
硬貨処理部160は、硬貨に関する各種処理を行う。例えば、硬貨処理部160は、硬貨取扱口60へ投入された硬貨の取り込み、または硬貨取扱口60への硬貨の排出等を行う。
(Coin processing department)
The coin processing unit 160 performs various processes related to coins. For example, the coin processing unit 160 takes in coins input into the coin handling port 60 or discharges coins to the coin handling port 60.

(表示部)
表示部170は、預貯金口座に対する預け入れ、引き出し等の情報処理に使用される画面を表示面70へ表示する。画面に表示される画像の内容は任意である。例えば、表示部170は、操作ボタンまたは操作結果に関する画像等を表示する。また、表示部170は、アライメントマーク10を表示することで提示部としても機能する。
(Display section)
The display unit 170 displays on the display surface 70 a screen used for information processing such as depositing and withdrawing from a deposit / saving account. The content of the image displayed on the screen is arbitrary. For example, the display unit 170 displays an operation button or an image related to the operation result. The display unit 170 also functions as a presentation unit by displaying the alignment mark 10.

(通話部)
通話部180は、ATM100を利用しているユーザが、受話器80を用いて問い合わせ窓口の担当者と通話するための機能を提供する。ユーザが受話器80をとり連絡ボタン等を押下すると、通話部180は担当者へ接続する。また、通話部180は、担当者からの着信を受信すること、および、受信音を発報することでユーザに受信を知らせることもできる。
(Calling part)
The call unit 180 provides a function for a user using the ATM 100 to make a call with a person in charge of an inquiry window using the receiver 80. When the user picks up the handset 80 and presses the contact button or the like, the call unit 180 connects to the person in charge. Further, the call unit 180 can notify the user of the reception by receiving an incoming call from the person in charge and issuing a reception sound.

(記憶部)
記憶部190は、制御部120の処理に関連する情報を記憶する。例えば、記憶部190は、正常時モデル、ATM100の構成部分の特徴量に関する情報、機種マークに対応する機種の情報、アライメントマーク10と解析領域20の相対的な位置関係の情報等を記憶する。また、記憶部190は、画像解析の結果または撮像画像を記憶してもよい。
(Memory part)
The storage unit 190 stores information related to the processing of the control unit 120. For example, the storage unit 190 stores a normal model, information on the feature values of the components of the ATM 100, information on the model corresponding to the model mark, information on the relative positional relationship between the alignment mark 10 and the analysis region 20, and the like. Further, the storage unit 190 may store a result of image analysis or a captured image.

<3.動作>
以上では、ATM100の構成について説明した。続いて、図8〜図10を参照して、撮像システムの動作について説明する。図8は、調整モード時のATM100およびカメラ200の動作を示すフローチャートである。
<3. Operation>
The configuration of the ATM 100 has been described above. Next, the operation of the imaging system will be described with reference to FIGS. FIG. 8 is a flowchart showing operations of the ATM 100 and the camera 200 in the adjustment mode.

まず、ステップS1000では、カード処理部130がカード取扱口30へ挿入された専用カード300を検知する。ステップS1004では、モード制御部123は、ATM100のモードを非調整モードから調整モードへ切り替える。ステップS1008では、提示制御部124は、アライメントマーク10を表示部170へ表示させる。   First, in step S1000, the card processing unit 130 detects the dedicated card 300 inserted into the card handling slot 30. In step S1004, the mode control unit 123 switches the mode of the ATM 100 from the non-adjustment mode to the adjustment mode. In step S1008, the presentation control unit 124 causes the display unit 170 to display the alignment mark 10.

ステップS1012では、画像解析部121は、通信部110を介してカメラ200から撮像画像を取得する。ステップS1016では、画像解析部121が撮像画像を解析し、アライメントマーク10を探索する。アライメントマーク10が検出された場合(ステップS1020/Yes)、ステップS1028にて、画像解析部121は、アライメントマーク10の位置および大きさを取得する。   In step S <b> 1012, the image analysis unit 121 acquires a captured image from the camera 200 via the communication unit 110. In step S1016, the image analysis unit 121 analyzes the captured image and searches for the alignment mark 10. If the alignment mark 10 is detected (step S1020 / Yes), the image analysis unit 121 acquires the position and size of the alignment mark 10 in step S1028.

アライメントマーク10が検出されなかった場合(ステップS1020/No)、ステップS1008の処理が行われる(ステップS1024)。ここで、提示制御部124は、アライメントマーク10が検出されるように、アライメントマーク10の表示位置を適宜変更してもよい。例えば、アライメントマーク10が撮像画像に写っていないことが原因で、アライメントマーク10が検出されなかった場合、提示制御部124は、撮像領域に含まれるようにアライメントマーク10の表示位置を変更してもよい。提示制御部124が自律的にアライメントマーク10の表示位置を修正することで、画像解析部121がアライメントマーク10を検出する可能性を向上させることができる。   When the alignment mark 10 is not detected (step S1020 / No), the process of step S1008 is performed (step S1024). Here, the presentation control unit 124 may appropriately change the display position of the alignment mark 10 so that the alignment mark 10 is detected. For example, when the alignment mark 10 is not detected because the alignment mark 10 is not shown in the captured image, the presentation control unit 124 changes the display position of the alignment mark 10 to be included in the imaging region. Also good. The possibility that the image analysis unit 121 detects the alignment mark 10 can be improved by the presentation control unit 124 autonomously correcting the display position of the alignment mark 10.

ステップS1032では、画像解析部121は、アライメントマークの位置および大きさに基づいて解析の対象領域21を特定する。この解析の対象領域21と解析領域20がずれている場合(または、ずれが所定の閾値より大きい場合)、ステップS1040にて、調整部125は、解析領域20の調整を行う。   In step S1032, the image analysis unit 121 specifies the analysis target region 21 based on the position and size of the alignment mark. When the analysis target region 21 and the analysis region 20 are shifted (or when the shift is larger than a predetermined threshold), the adjustment unit 125 adjusts the analysis region 20 in step S1040.

ステップS1044では、表示部170が撮像画像および解析領域20が重畳された画像を表示する。これにより作業者は、調整後の解析領域20を確認することができる。ステップS1048では、モード制御部123が、モードを調整モードからテスト動作モードへ切り替える。また、ステップS1036にて解析の対象領域21と解析領域20がずれていない場合(または、ずれが所定の閾値以下である場合)においても、ステップS1048と同一の処理が行われる。   In step S1044, the display unit 170 displays an image on which the captured image and the analysis region 20 are superimposed. Thereby, the operator can confirm the analysis area 20 after adjustment. In step S1048, the mode control unit 123 switches the mode from the adjustment mode to the test operation mode. Even when the analysis target region 21 and the analysis region 20 are not shifted in step S1036 (or when the shift is equal to or smaller than a predetermined threshold value), the same processing as step S1048 is performed.

続いて、図9および図10を参照して、テスト動作モードにおける撮像システムの動作について説明する。図9は、テスト動作モード時のATM100およびカメラ200の動作を示すフローチャートである。図10は、テスト動作モード時において、表示部170に表示されるメッセージを示す図である。   Subsequently, the operation of the imaging system in the test operation mode will be described with reference to FIGS. 9 and 10. FIG. 9 is a flowchart showing operations of the ATM 100 and the camera 200 in the test operation mode. FIG. 10 is a diagram illustrating a message displayed on the display unit 170 in the test operation mode.

テスト動作モード中は、図10の10Aに示されるように、表示部170は「テストモード作動中」というメッセージを表示する。ステップS1100では、アラーム部122が異常検知を通知する機能を停止する。ステップS1104では、作業者が、ATM100に対して異常動作または正常動作を行い、それらの動作が正しく検知されることを確認する。異常動作としては、例えば、カード取扱口30へスキミング機器が取り付けられる動作、不正なカードが挿入される動作等が挙げられる。   During the test operation mode, as shown in 10A of FIG. 10, the display unit 170 displays a message “Test mode in operation”. In step S1100, the alarm unit 122 stops the function of notifying abnormality detection. In step S1104, the worker performs an abnormal operation or a normal operation on the ATM 100, and confirms that these operations are correctly detected. Examples of the abnormal operation include an operation of attaching a skimming device to the card handling port 30, an operation of inserting an unauthorized card, and the like.

画像解析部121が異常を検知した場合(ステップS1108/Yes)、ステップS1112にて、表示部170は、図10の10Bに示すように「異常を検知しました」というメッセージを数秒間表示する。これにより、作業者は、異常動作が検知されたことを確認できる。画像解析部121が異常を検知しない場合(ステップS1108/No)、ステップS1116にて、表示部170は、正常である旨のメッセージを数秒間表示するか(図示なし)、図10の10Aのメッセージを表示し続けてもよい。   When the image analysis unit 121 detects an abnormality (step S1108 / Yes), in step S1112, the display unit 170 displays a message “abnormality has been detected” for several seconds as illustrated in 10B of FIG. Thereby, the operator can confirm that an abnormal operation is detected. If the image analysis unit 121 does not detect any abnormality (step S1108 / No), in step S1116, the display unit 170 displays a message indicating normality for a few seconds (not shown), or the message 10A in FIG. May continue to be displayed.

作業者がテストを終了する場合(ステップS1120/Yes)、カード処理部130は、専用カード300をカード取扱口30から排出する。テストの終了は、図10の10Aまたは10Bに示す終了ボタンが押下されることによって行われてもよい。作業者がテストを終了しない場合(ステップS1120/No)、ステップS1104の処理が行われる(ステップS1128)。   When the operator finishes the test (step S1120 / Yes), the card processing unit 130 discharges the dedicated card 300 from the card handling port 30. The test may be terminated by pressing an end button shown in 10A or 10B of FIG. When the worker does not finish the test (step S1120 / No), the process of step S1104 is performed (step S1128).

<4.変形例>
以上では、本実施形態における撮像システムの動作について説明した。続いて、アライメントマークの提示方法の変形例について説明する。
<4. Modification>
The operation of the imaging system in the present embodiment has been described above. Next, a modification of the alignment mark presentation method will be described.

(第1の変形例)
まず、図11、図12を参照して、第1の変形例について説明する。図11は、アライメントマーク11が付与された専用カード310を示す図である。図12は、専用カード310によるアライメントマーク11の提示を示す図である。
(First modification)
First, a first modification will be described with reference to FIGS. 11 and 12. FIG. 11 is a diagram showing the dedicated card 310 to which the alignment mark 11 is given. FIG. 12 is a diagram showing presentation of the alignment mark 11 by the dedicated card 310.

図11に示すように、第1の変形例においては、アライメントマーク11が専用カード310に付与される。図11の専用カード310には、アライメントマーク11が3個付与されており、アライメントマーク11の各々は異なった形状を有している。しかし、これは一例であり、アライメントマーク11の形状および個数は任意である。   As shown in FIG. 11, in the first modification, the alignment mark 11 is given to the dedicated card 310. The dedicated card 310 of FIG. 11 is provided with three alignment marks 11, and each of the alignment marks 11 has a different shape. However, this is an example, and the shape and the number of the alignment marks 11 are arbitrary.

第1の変形例では、カード処理部130が、アライメントマーク11の提示部として機能する。より具体的に説明すると、図8のステップS1008にて、提示制御部124はカード処理部130を制御することで、アライメントマーク11が付与された部分が露出するように、専用カード310をカード取扱口30から排出させる。画像解析部121がアライメントマーク11を検出するまで、カード処理部130は、専用カード310の位置を変更する。   In the first modification, the card processing unit 130 functions as a presentation unit for the alignment mark 11. More specifically, in step S1008 in FIG. 8, the presentation control unit 124 controls the card processing unit 130 to handle the dedicated card 310 so that the portion to which the alignment mark 11 is given is exposed. Drain from the mouth 30. Until the image analysis unit 121 detects the alignment mark 11, the card processing unit 130 changes the position of the dedicated card 310.

この方法では、調整が行われない時にはアライメントマーク11が提示されないため、アライメントマーク11が常時提示される方法に比べて、ATM100の外観をよりシンプルにすることができる。また、アライメントマーク11が破損または劣化する可能性を下げることができる。   In this method, since the alignment mark 11 is not presented when no adjustment is performed, the appearance of the ATM 100 can be made simpler than the method in which the alignment mark 11 is always presented. Further, the possibility that the alignment mark 11 is damaged or deteriorated can be reduced.

第1の変形例は、上述のアライメントマーク10が表示部170に表示される方法と併用され得る。これにより、表示部170の故障等により、アライメントマーク10が表示部170に表示されない場合にも専用カード310のアライメントマーク11を用いて調整作業を行うことができる。また、表示部170に表示されたアライメントマーク10を用いた調整の後に、専用カード310のアライメントマーク11を用いた微調整が行われても良い。   The first modification can be used in combination with a method in which the alignment mark 10 described above is displayed on the display unit 170. Thereby, even when the alignment mark 10 is not displayed on the display unit 170 due to a failure of the display unit 170 or the like, the adjustment work can be performed using the alignment mark 11 of the dedicated card 310. Further, fine adjustment using the alignment mark 11 of the dedicated card 310 may be performed after adjustment using the alignment mark 10 displayed on the display unit 170.

(第2の変形例)
続いて、図13を参照して、第2の変形例について説明する。図13は、ATM100の一部の動作または変形によるアライメントマーク12の提示を示す図である。第2の変形例では、提示部として機能するATM100の一部が、動作または変形することによりアライメントマーク12が提示される。アライメントマーク12の形状および個数は任意である。
(Second modification)
Next, a second modification will be described with reference to FIG. FIG. 13 is a view showing presentation of the alignment mark 12 by a part of the operation or deformation of the ATM 100. In the second modification, the alignment mark 12 is presented by a part of the ATM 100 that functions as a presentation unit operating or deforming. The shape and the number of alignment marks 12 are arbitrary.

例えば、図13に示すように、ATM100上に提示部90(図2に図示なし)が設けられる。提示部90は、蓋とアライメントマーク12を備えており、蓋が開けられるとアライメントマーク12が露出する。この構成は一例であり、提示部90は適宜変更され得る。   For example, as shown in FIG. 13, a presentation unit 90 (not shown in FIG. 2) is provided on the ATM 100. The presentation unit 90 includes a lid and an alignment mark 12, and the alignment mark 12 is exposed when the lid is opened. This configuration is an example, and the presentation unit 90 can be changed as appropriate.

第2の変形例では、提示制御部124は、図8のステップS1008にて、提示部90を制御することで蓋を開けさせ、アライメントマーク12を露出させる。この方法では、調整が行われない時にはアライメントマーク12が提示されないため、アライメントマーク12が常時提示される方法に比べて、ATM100の外観をよりシンプルにすることができる。また、アライメントマーク12が破損または劣化する可能性を下げることができる。   In the second modification, the presentation control unit 124 controls the presentation unit 90 to open the lid and expose the alignment mark 12 in step S1008 of FIG. In this method, since the alignment mark 12 is not presented when no adjustment is performed, the appearance of the ATM 100 can be made simpler than the method in which the alignment mark 12 is always presented. Further, the possibility that the alignment mark 12 is damaged or deteriorated can be reduced.

第2の変形例は、上述のアライメントマーク10が表示部170に表示される方法または第1の変形例と併用され得る。これにより、アライメントマーク10が表示部170に表示されない場合または第1の変形例による調整作業が不可能な場合にも、提示部90のアライメントマーク12を用いて調整作業を行うことができる。また、表示部170に表示されたアライメントマーク10を用いた調整の後に、提示部90のアライメントマーク12を用いた微調整が行われても良い。   The second modification can be used in combination with the above-described method in which the alignment mark 10 is displayed on the display unit 170 or the first modification. Thereby, even when the alignment mark 10 is not displayed on the display unit 170 or when the adjustment work according to the first modification is impossible, the adjustment work can be performed using the alignment mark 12 of the presentation unit 90. Further, fine adjustment using the alignment mark 12 of the presentation unit 90 may be performed after adjustment using the alignment mark 10 displayed on the display unit 170.

以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。   The preferred embodiments of the present invention have been described in detail above with reference to the accompanying drawings, but the present invention is not limited to such examples. It is obvious that a person having ordinary knowledge in the technical field to which the present invention pertains can come up with various changes or modifications within the scope of the technical idea described in the claims. Of course, it is understood that these also belong to the technical scope of the present invention.

例えば、ATM100の構成の一部は、外部に設けられ得る。例えば、画像解析部121、アラーム部122、調整部125、機種特定部126は外部の装置に含まれてもよい。   For example, a part of the configuration of the ATM 100 can be provided outside. For example, the image analysis unit 121, the alarm unit 122, the adjustment unit 125, and the model specifying unit 126 may be included in an external device.

さらに別の観点から、例えば、本明細書にて説明されたフローチャートにおける各ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はない。また、フローチャートの各ステップは適宜省略され得る。例えば、図8のフローチャートにて、テスト動作モードへの切り替え処理(ステップS1048)は省略され得る。   From another point of view, for example, each step in the flowchart described in the present specification does not necessarily have to be processed in time series in the order described in the flowchart. Also, each step of the flowchart can be omitted as appropriate. For example, in the flowchart of FIG. 8, the switching process to the test operation mode (step S1048) can be omitted.

また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本発明に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。   Further, the effects described in the present specification are merely illustrative or exemplary and are not limited. That is, the technology according to the present invention can exhibit other effects that are apparent to those skilled in the art from the description of the present specification in addition to or instead of the above effects.

10、11、12 アライメントマーク
20 解析領域
21 解析の対象領域
30 カード取扱口
40 通帳取扱口
50 紙幣取扱口
60 硬貨取扱口
70 表示面
80 受話器
90 提示部
100 ATM
110 通信部
120 制御部
130 カード処理部
140 通帳処理部
150 紙幣処理部
160 硬貨処理部
170 表示部
180 通話部
190 記憶部
200 カメラ
300、310 専用カード
10, 11, 12 Alignment mark 20 Analysis area 21 Analysis target area 30 Card handling slot 40 Passbook handling slot 50 Banknote handling slot 60 Coin handling slot 70 Display surface 80 Handset 90 Presentation unit 100 ATM
DESCRIPTION OF SYMBOLS 110 Communication part 120 Control part 130 Card processing part 140 Passbook processing part 150 Banknote processing part 160 Coin processing part 170 Display part 180 Calling part 190 Memory | storage part 200 Camera 300, 310 Dedicated card

Claims (19)

撮像装置と、
前記撮像装置の撮像対象である情報処理装置と、
撮像画像中の解析領域の調整に使用されるアライメントマークを提示する提示部と、
前記調整が行われるモードである調整モード時に、前記提示部に前記アライメントマークを提示させる提示制御部を備えることを特徴とする、撮像システム。
An imaging device;
An information processing apparatus that is an imaging target of the imaging apparatus;
A presentation unit that presents an alignment mark used to adjust the analysis region in the captured image;
An imaging system comprising: a presentation control unit that causes the presentation unit to present the alignment mark in an adjustment mode in which the adjustment is performed.
前記提示部は、前記撮像装置の撮像領域に前記アライメントマークを提示することを特徴とする、請求項1に記載の撮像システム。   The imaging system according to claim 1, wherein the presenting unit presents the alignment mark in an imaging region of the imaging device. 前記提示部は、前記アライメントマークを複数箇所に提示することを特徴とする、請求項1または2のいずれか1項に記載の撮像システム。   The imaging system according to claim 1, wherein the presenting unit presents the alignment mark at a plurality of locations. 前記提示部は、画像を表示する表示面であり、
前記表示面は、前記アライメントマークを表示することを特徴とする、請求項1から3のいずれか1項に記載の撮像システム。
The presenting unit is a display surface for displaying an image,
The imaging system according to any one of claims 1 to 3, wherein the display surface displays the alignment mark.
前記表示面は、ユーザによって使用される情報処理のための表示面であることを特徴とする、請求項4に記載の撮像システム。   The imaging system according to claim 4, wherein the display surface is a display surface for information processing used by a user. 前記提示部は、カードを挿入または排出するカード処理部であり、
前記カード処理部は、挿入された前記アライメントマークが付された専用カードを用いて前記アライメントマークを提示することを特徴とする、請求項1から3のいずれか1項に記載の撮像システム。
The presenting unit is a card processing unit that inserts or ejects a card,
The imaging system according to any one of claims 1 to 3, wherein the card processing unit presents the alignment mark using a dedicated card with the inserted alignment mark.
前記カード処理部は、前記専用カードの前記アライメントマークが付された部分をカード取扱口の外へ露出させることで前記アライメントマークを提示することを特徴とする、請求項6に記載の撮像システム。   The imaging system according to claim 6, wherein the card processing unit presents the alignment mark by exposing a portion of the dedicated card to which the alignment mark is attached to the outside of a card handling opening. 前記カード処理部は、ユーザによって使用される情報処理のためのカードを処理することを特徴とする、請求項6または7のいずれか1項に記載の撮像システム。   The imaging system according to claim 6, wherein the card processing unit processes a card for information processing used by a user. 前記提示部は、前記情報処理装置の一部の動作または変形によって前記アライメントマークを提示することを特徴とする、請求項1から3のいずれか1項に記載の撮像システム。   The imaging system according to any one of claims 1 to 3, wherein the presentation unit presents the alignment mark by a partial operation or modification of the information processing apparatus. 前記調整モードと、前記提示部が前記アライメントマークを提示しない非調整モードとを切り替えるモード制御部をさらに備えることを特徴とする、請求項1から9のいずれか1項に記載の撮像システム。   The imaging system according to claim 1, further comprising a mode control unit that switches between the adjustment mode and a non-adjustment mode in which the presentation unit does not present the alignment mark. 前記情報処理装置は、現金処理装置であり、
前記現金処理装置は、専用カードがカード取扱口へ挿入されたことを検知するカード検知部をさらに備え、
前記モード制御部は、前記カード検知部によって前記専用カードの挿入が検知された場合、前記調整モードへ切り替えることを特徴とする、請求項10に記載の撮像システム。
The information processing apparatus is a cash processing apparatus,
The cash processing apparatus further includes a card detection unit that detects that a dedicated card is inserted into the card handling port,
11. The imaging system according to claim 10, wherein the mode control unit switches to the adjustment mode when insertion of the dedicated card is detected by the card detection unit.
前記撮像画像における前記アライメントマークと解析の対象領域との相対的な関係に関する情報と、撮像された前記アライメントマークに基づいて前記対象領域を特定し、前記対象領域を用いて前記調整を行う調整部をさらに備えることを特徴とする、請求項1から11のいずれか1項に記載の撮像システム。   An adjustment unit that specifies the target region based on information on the relative relationship between the alignment mark and the analysis target region in the captured image and the captured alignment mark, and performs the adjustment using the target region The imaging system according to claim 1, further comprising: 前記調整部は、前記対象領域に前記解析領域を設定することによって前記調整を行うことを特徴とする、請求項12に記載の撮像システム。   The imaging system according to claim 12, wherein the adjustment unit performs the adjustment by setting the analysis region as the target region. 前記調整部は、前記対象領域と前記解析領域との間にずれが生じている場合、前記調整を行うことによって前記ずれを解消することを特徴とする、請求項12または13のいずれか1項に記載の撮像システム。   The said adjustment part eliminates the said shift | offset | difference by performing the said adjustment, when the shift | offset | difference has arisen between the said object area | region and the said analysis area | region, The any one of Claim 12 or 13 characterized by the above-mentioned. The imaging system described in 1. 前記調整部は、前記撮像装置を動かすことによって前記ずれを解消することを特徴とする、請求項12から14のいずれか1項に記載の撮像システム。   The imaging system according to claim 12, wherein the adjustment unit eliminates the shift by moving the imaging device. 前記調整部は、前記撮像画像を編集することによって前記ずれを解消することを特徴とする、請求項12から15のいずれか1項に記載の撮像システム。   The imaging system according to any one of claims 12 to 15, wherein the adjustment unit eliminates the shift by editing the captured image. 前記解析領域が複数存在することを特徴とする、請求項1から16のいずれか1項に記載の撮像システム。   The imaging system according to claim 1, wherein there are a plurality of analysis regions. 撮像された前記アライメントマークを解析し、前記情報処理装置の機種を特定する機種特定部をさらに備えることを特徴とする、請求項1から17のいずれか1項に記載の撮像システム。   The imaging system according to claim 1, further comprising a model specifying unit that analyzes the captured alignment mark and specifies a model of the information processing apparatus. 前記解析領域の解析結果と、前記解析領域における正常な動作または状態の学習結果を比較することによって、撮像された動作または状態が正常か否かを判断する画像解析部をさらに備えることを特徴とする、請求項1から18のいずれか1項に記載の撮像システム。
It further comprises an image analysis unit that determines whether the imaged operation or state is normal by comparing the analysis result of the analysis region and the learning result of the normal operation or state in the analysis region. The imaging system according to any one of claims 1 to 18.
JP2016122333A 2016-06-21 2016-06-21 Imaging system Active JP6686726B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016122333A JP6686726B2 (en) 2016-06-21 2016-06-21 Imaging system
PCT/JP2017/014627 WO2017221515A1 (en) 2016-06-21 2017-04-10 Image capturing system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016122333A JP6686726B2 (en) 2016-06-21 2016-06-21 Imaging system

Publications (2)

Publication Number Publication Date
JP2017228868A true JP2017228868A (en) 2017-12-28
JP6686726B2 JP6686726B2 (en) 2020-04-22

Family

ID=60784035

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016122333A Active JP6686726B2 (en) 2016-06-21 2016-06-21 Imaging system

Country Status (2)

Country Link
JP (1) JP6686726B2 (en)
WO (1) WO2017221515A1 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2024046874A (en) * 2022-09-26 2024-04-05 東芝テック株式会社 Sales data processor and payment device

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001169272A (en) * 1999-03-31 2001-06-22 Oki Electric Ind Co Ltd Photographing device and monitoring system using the photographing device
JP2013192189A (en) * 2012-03-15 2013-09-26 Casio Comput Co Ltd Image processing device, projection system, program and image processing method

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001169272A (en) * 1999-03-31 2001-06-22 Oki Electric Ind Co Ltd Photographing device and monitoring system using the photographing device
JP2013192189A (en) * 2012-03-15 2013-09-26 Casio Comput Co Ltd Image processing device, projection system, program and image processing method

Also Published As

Publication number Publication date
WO2017221515A1 (en) 2017-12-28
JP6686726B2 (en) 2020-04-22

Similar Documents

Publication Publication Date Title
KR101200342B1 (en) Valuable mediums processing unit, valuable mediums processing system and valuable mediums processing method
US20160234416A1 (en) Method, device, and self service equipment thereof for card processing in card reader
US20170372144A1 (en) Terminal surveillance device, automatic teller machine, decision method, and program on a storage medium
US20160140791A1 (en) Automated teller machine (&#34;atm&#34;) currency stamper
CN105096479A (en) Automatic transaction apparatus with two-dimension code recognition camera
WO2017221515A1 (en) Image capturing system
KR20110084150A (en) Fraud surveillance method and automatic teller machine having fraud surveillance function
EP1986147A1 (en) Electronic money paying-in system
US10540857B1 (en) Multifunction interface device for a self-service terminal
JP2011118716A (en) Automated teller machine
KR101812206B1 (en) Counterfeit discrimnation and tracking system and method performing thereof
JP2016157261A (en) Leaving-things prevention system, leaving-things prevention method, and customer use terminal
JP5853910B2 (en) Information processing device
JP2017208020A (en) Valuable medium processor, valuable medium processing system, and valuable medium processing method
JP2011145821A (en) Automatic transaction device
JP2009048336A (en) Automatic teller machine and automatic teller system
KR102490654B1 (en) Reference bill information localization system for bill discriminator and the control method thereof
JP5228470B2 (en) Automatic transaction equipment
JP6823402B2 (en) Valuable media processing equipment and valuable media processing method
JP2015111363A (en) Transaction device and transaction method
JP5581806B2 (en) Automatic transaction apparatus and automatic transaction system
JP4310876B2 (en) Automated trading system
JP2010079752A (en) Automatic transaction system
JP2006048602A (en) Automatic teller machine
JP2019049817A (en) Automatic transaction device and special fraud prevention method thereof

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190215

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190327

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190328

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200303

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200316

R150 Certificate of patent or registration of utility model

Ref document number: 6686726

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150