JP2019106703A - Information processing apparatus, control method of the same, and program - Google Patents

Information processing apparatus, control method of the same, and program Download PDF

Info

Publication number
JP2019106703A
JP2019106703A JP2018230084A JP2018230084A JP2019106703A JP 2019106703 A JP2019106703 A JP 2019106703A JP 2018230084 A JP2018230084 A JP 2018230084A JP 2018230084 A JP2018230084 A JP 2018230084A JP 2019106703 A JP2019106703 A JP 2019106703A
Authority
JP
Japan
Prior art keywords
vehicle
getting
people
specifying
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018230084A
Other languages
Japanese (ja)
Inventor
高志 羽部
Takashi Habe
高志 羽部
秀幸 阿南
Hideyuki Anan
秀幸 阿南
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Marketing Japan Inc
Original Assignee
Canon Marketing Japan Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Marketing Japan Inc filed Critical Canon Marketing Japan Inc
Publication of JP2019106703A publication Critical patent/JP2019106703A/en
Pending legal-status Critical Current

Links

Images

Abstract

To provide a mechanism that can easily identify existence of a left-behind person in a car.SOLUTION: A number of passengers is identified from image data acquired from a first imaging device. The number of passengers getting off is identified from image data acquired from a second imaging device. Then, notification is made on the condition that the number of passengers getting off is smaller than the number of passengers.SELECTED DRAWING: Figure 9

Description

本発明は、情報処理装置、情報処理装置の制御方法、およびプログラムに関し、特に、車内に置き去りにされた人物の存在を容易に特定可能な仕組みに関する。   The present invention relates to an information processing apparatus, a control method of the information processing apparatus, and a program, and more particularly to a mechanism capable of easily identifying the presence of a person left behind in a vehicle.

近年、炎天下で、駐車場に停めた車に子どもを置き去りにして、親が買い物をしていたことにより、熱中症で子どもが亡くなるという悲惨な事故が起きてしまっている。   In recent years, a catastrophe has occurred in which a child has died due to heat stroke due to having parents shopping for leaving a child in a car parked in a parking lot under the scorching sun.

特開2014−210477号公報JP, 2014-210477, A

こうした事故を防ぐための対策としては、警備員が駐車場を見回るか、駐車場に設置された監視カメラの映像を監視する等して、子どもが置き去りになっていないかを確認することが考えられる。   As a measure to prevent such an accident, it is thought that security personnel look around the parking lot or monitor the image of the surveillance camera installed in the parking lot to confirm whether the child is not left behind Be

しかしながら、大型のショッピングモールなどの駐車場が広い場所では、警備員が駐車場全体をくまなく見回るのは負荷が高く、また、監視カメラの映像を監視する場合、そもそも車内に子どもが残っているかまでは映像からは確認が困難であった。   However, where parking lots are large, such as large shopping malls, it is expensive for security guards to look around the entire parking lot, and if you are monitoring the video of a surveillance camera, do children still remain in the car? Until the video was difficult to confirm.

また、特許文献1のように車内を撮影するカメラが車に設置されていれば、当該カメラの映像を取得することで、置き去りを検知することは可能であるが、車内を撮影するカメラを設置している車はそれほど多くないため、置き去りを検知できない場合が多く発生する恐れがある。   In addition, if a camera for capturing the inside of a car is installed in a car as in Patent Document 1, it is possible to detect leaving by acquiring an image of the camera, but a camera for capturing the inside of a car is installed. Since there are not many cars, there are many cases in which it can not detect a left-behind.

本発明は、車内に置き去りにされた人物の存在を容易に特定可能な仕組みを提供することを目的とする。   An object of the present invention is to provide a mechanism capable of easily identifying the presence of a left-behind person in a car.

本発明は、撮像装置により車外から車両を撮像することで得られる画像データを取得する取得手段と、前記取得手段で取得した画像データを用いて、前記車両に人物が残っているかを判定する判定手段と、前記判定手段により、前記車両に人物が残っていると判定されることを条件に、前記車両を特定可能な情報を含む通知を行う通知手段とを備えることを特徴とする。   The present invention determines whether or not a person remains in the vehicle using acquisition means for acquiring image data obtained by imaging a vehicle from outside the vehicle by an imaging device, and the image data acquired by the acquisition means. It is characterized by comprising: means, and notification means for performing notification including information that can specify the vehicle, on condition that it is determined that a person remains in the vehicle by the determination means.

また、本発明は、第1の撮像装置と、第2の撮像装置から画像データを取得する取得手段と、前記取得手段により前記第1の撮像装置から取得した画像データから乗車人数を特定する乗車人数特定手段と、前記取得手段により前記第2の撮像装置から取得した画像データから降車人数を特定する降車人数特定手段と、前記乗車人数特定手段で特定した乗車人数より、前記降車人数特定手段で特定した降車人数が少ないことを条件に通知する通知手段とを備えることを特徴とする。   Further, according to the present invention, there is provided a passenger who specifies the number of passengers from image data acquired from the first imaging device by the first imaging device, acquisition means for acquiring image data from the second imaging device, and the acquisition means. According to the number of getting off people specifying means, the number of getting off people specifying means for specifying the number of getting off people from the image data acquired from the second imaging device by the obtaining means, and It is characterized by providing the notification means which notifies on condition that there is a small number of the alighting person who specified.

また、本発明は、撮像装置により車外から車両を撮像することで得られる画像データを取得する取得工程と、前記取得工程で取得した画像データを用いて、前記車両に人物が残っているかを判定する判定工程と、前記判定工程により、前記車両に人物が残っていると判定されることを条件に、前記車両を特定可能な情報を含む通知を行う通知工程とを備えることを特徴とする。   Further, according to the present invention, it is determined whether a person remains in the vehicle using an acquisition step of acquiring image data obtained by imaging a vehicle from outside the vehicle by an imaging device, and the image data acquired in the acquisition step. And a notification step of performing notification including information that can specify the vehicle on condition that it is determined that a person remains in the vehicle by the determination step.

また、本発明は、第1の撮像装置と、第2の撮像装置から画像データを取得する取得工程と、前記取得工程で、前記第1の撮像装置から取得した画像データから乗車人数を特定する乗車人数特定工程と、前記取得工程で、前記第2の撮像装置から取得した画像データから降車人数を特定する降車人数特定工程と、前記乗車人数特定工程で特定した乗車人数より、前記降車人数特定工程で特定した降車人数が少ないことを条件に通知する通知工程とを備えることを特徴とする。   Further, according to the present invention, the number of passengers is specified from the image data acquired from the first imaging device in the acquisition step of acquiring image data from the first imaging device, the second imaging device, and the acquisition step. The passenger number specification is performed based on the passenger number specification process, the getting-off people number specification process for specifying the getting-off people number from the image data acquired from the second imaging device in the acquisition process, and the boarding number specified in the passenger number specification process And a notification step of notifying on condition that the number of people getting off the vehicle specified in the step is small.

本発明によると、車内に置き去りにされた人物の存在を容易に特定することができる。
According to the present invention, the presence of a left-behind person can be easily identified.

本実施形態における、置き去り監視システム(情報処理システム)のシステム構成の一例を示す図。FIG. 1 is a diagram showing an example of a system configuration of a leaving monitoring system (information processing system) in the present embodiment. 本発明の実施形態におけるクライアントPC101、サーバ102に適用可能な情報処理装置のハードウェア構成の一例を示す図。FIG. 2 is a block diagram showing an example of the hardware arrangement of an information processing apparatus applicable to the client PC 101 and the server 102 according to the embodiment of the present invention. 本発明の実施形態におけるネットワークカメラ103、104のハードウェアの構成の一例を示す図。FIG. 2 is a diagram showing an example of a hardware configuration of the network cameras 103 and 104 in the embodiment of the present invention. 本発明の実施形態において、ネットワークカメラ103を駐車券発券機401付近に設置したイメージを示す図。The figure which shows the image which installed the network camera 103 in parking ticket issuing machine 401 vicinity in embodiment of this invention. 本発明の実施形態において、ネットワークカメラ104を駐車場に停車した車を撮影可能な位置に設置したイメージを示す図。The figure which shows the image which installed in the position which can image | photograph the vehicle which stopped the network camera 104 in the parking lot in embodiment of this invention. 本実施形態における、乗車人数特定処理の一例を示す図。The figure which shows an example of the boarding number identification process in this embodiment. 第1の実施形態における、降車人数特定処理、および通知処理の一例を示す図。The figure which shows an example of the getting-off people identification process and the notification process in 1st Embodiment. データテーブルの一例を示す図。The figure which shows an example of a data table. 本実施形態において、PC101のディスプレイ210に表示される報知画面の一例を示す図。FIG. 6 is a view showing an example of a notification screen displayed on a display 210 of the PC 101 in the present embodiment. 第2の実施形態における、降車人数特定処理、および通知処理の一例を示す図。The figure which shows an example of the getting-off people identification process and the notification process in 2nd Embodiment. 本実施形態における、報知基準の一例を示す図。The figure which shows an example of the alerting | reporting reference | standard in this embodiment. 本実施形態における、要注意一覧画面の一例を示す図。The figure which shows an example of a cautions list screen in this embodiment. 本実施形態における置き去り監視システムの機能構成の一例を示す機能構成図。FIG. 2 is a functional configuration diagram showing an example of a functional configuration of the leaving monitoring system in the present embodiment. 第3の実施形態における、通知処理の一例を示す図。A figure showing an example of notice processing in a 3rd embodiment. 本実施形態において、PC101のディスプレイ210に表示される報知画面の一例を示す図。FIG. 6 is a view showing an example of a notification screen displayed on a display 210 of the PC 101 in the present embodiment.

以下、図面を参照して、本発明の実施形態を詳細に説明する。なお、以下説明する実施形態は、本発明を具体的に実施した場合の一例を示すもので、特許請求の範囲に記載した構成の具体的な実施形態の1つである。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. The embodiment described below shows an example when the present invention is specifically implemented, and is one of the specific embodiments of the configuration described in the claims.

図1は、本発明における、置き去り監視システム(情報処理システム)のシステム構成の一例を示す図である。   FIG. 1 is a diagram showing an example of a system configuration of a leaving monitoring system (information processing system) according to the present invention.

置き去り監視システムは、PC101、サーバ102、ネットワークカメラ103、ネットワークカメラ104とが通信可能に接続された構成となっている。   The leaving surveillance system has a configuration in which the PC 101, the server 102, the network camera 103, and the network camera 104 are communicably connected.

ネットワークカメラ103は、駐車場に入ってきた車の車内を撮影するためのカメラであり、例えば、図4に示すとおり、駐車場の入り口に設置された駐車券発券機401の付近であって、運転席側から車内を撮影可能な位置に設定される。また、駐車券発券機401の前に停止した車のナンバーも撮影可能である。   The network camera 103 is a camera for photographing the inside of a car entering a parking lot, for example, as shown in FIG. 4, in the vicinity of a parking ticket issue machine 401 installed at the entrance of the parking lot The driver's seat side is set to a position where the inside of the vehicle can be photographed. In addition, it is possible to photograph the number of the car stopped in front of the parking ticket issuing machine 401.

ネットワークカメラ103は、はじめ、プリセットで、駐車場に入ってくる車のナンバーを撮影できるようにパン・チルト・ズームの調整を行っている。そして、ネットワークカメラ103は、車が駐車券発券機401の前に停車すると、同じくプリセットで、運転席側から車内を撮影できるように、パン・チルト・ズームの調整を行う。車が駐車券発券機401の前に停車したかは、駐車券発券機401の駐車券の発券ボタンが運転手により押されたときに、その旨の情報を駐車券発券機401から取得することで、駐車券発券機401の前に停車したと判定する方法や、ネットワークカメラ103で撮影した映像を解析することで、車が駐車券発券機401の前に停車したと判定する方法が考えられる。   The network camera 103 adjusts the pan, tilt and zoom so as to be able to capture the number of the car coming into the parking lot as a preset. Then, when the car stops in front of the parking ticket issuing machine 401, the network camera 103 adjusts pan / tilt / zoom so that the inside of the car can be photographed from the driver's seat side with the same preset. Whether the car has stopped in front of the parking ticket issuing machine 401 is to obtain information from the parking ticket issuing machine 401 when the ticketing button of the parking ticket of the parking ticket issuing machine 401 is pressed by the driver. In this case, it may be possible to determine that the car has stopped in front of the parking ticket issuing machine 401 by determining that the vehicle has stopped in front of the parking ticket issuing machine 401 or analyzing the video taken by the network camera 103 .

駐車券発券機401の付近にネットワークカメラ103を設ける理由は、駐車券を取るために運転手は必ず車の窓を開けるため、そのときに、車内を撮影することが可能だからである。なお、窓を開けてない状態で、車の側面側からネットワークカメラ103により車内を撮影することも考えられるが、窓に外から車内を見えないようにする加工がされている車も多いため、困難である。   The reason for providing the network camera 103 in the vicinity of the parking ticket issuing machine 401 is that the driver can always open the window of the car in order to take a parking ticket, so that it is possible to photograph the inside of the car at that time. In addition, it is conceivable to photograph the inside of the car from the side of the car with the network camera 103 without opening the window, but there are many cars that are processed so that the inside of the car can not be seen from the outside. Have difficulty.

なお、本実施形態では、駐車券発券機401付近にネットワークカメラ103を1台設置するとしたが、他の実施形態として、駐車券発券機401付近に、車を正面から撮影することで車内を撮影するネットワークカメラ103をもう1台設置して、2台のネットワークカメラで、乗車人数を特定すべく車内を撮影しても良い。   In the present embodiment, one network camera 103 is installed in the vicinity of the parking ticket issuing machine 401. However, as another embodiment, the inside of the vehicle is photographed by photographing the car from the front in the vicinity of the parking ticket issuing machine 401. Another network camera 103 may be installed, and two network cameras may be used to photograph the inside of the vehicle in order to identify the number of passengers.

ネットワークカメラ104は、例えば、図5に示すとおり、駐車場に停車した車を撮影可能な位置に設置され、車から降りてきた人物と、車のナンバーとを撮影する。   For example, as shown in FIG. 5, the network camera 104 is installed at a position where it is possible to shoot a car stopped at a parking lot, and shoots a person who got off the car and a car number.

サーバ102は、ネットワークカメラ103が撮影した映像(画像)を取得し、その映像から人の顔を検知することで、検知した顔の数から車内にいる人数を特定し、また、当該車のナンバーを撮影した映像から車のナンバーを特定する。   The server 102 acquires an image (image) captured by the network camera 103 and detects the face of a person from the image, thereby identifying the number of persons in the vehicle from the number of detected faces, and the number of the car. Identify the car number from the image taken

また、サーバ102は、ネットワークカメラ104が撮影した映像(画像)を取得し、その映像から人の顔を検知することで、検知した顔の数から降車した人数を特定し、また、当該映像から車のナンバーを特定する。   In addition, the server 102 acquires a video (image) captured by the network camera 104, detects the face of a person from the video, and identifies the number of people alighted from the number of detected faces, and also from the video. Identify the car number.

車内にいる人数の特定や降車した人数の特定には、既知の顔認識技術(例えば、特開2011−221906号公報に記載の技術)を利用する。車のナンバーの特定には、既知の車番認識技術(例えば、特開2007−293492号公報や、特開2013−251005号公報に記載の技術)を利用する。   Known face recognition technology (for example, the technology described in Japanese Patent Application Laid-Open No. 2011-221906) is used to specify the number of people in the vehicle and to specify the number of people who got off the vehicle. For identification of the car number, known car number recognition technology (for example, the technology described in JP-A-2007-293492 or JP-A-2013-251005) is used.

そして、サーバ102は、車のナンバーと、乗車人数と、降車人数とを図8に示すデータテーブルに紐づけて登録する。   Then, the server 102 links and registers the car number, the number of passengers, and the number of people getting off in the data table shown in FIG.

そして、サーバ102は、ネットワークカメラ103が撮影した映像から特定した乗車人数よりも、ネットワークカメラ104が撮影した映像から特定した降車人数のほうが少ない場合に、車内に置き去りにされた人物がいると判定し、駐車場の管理者(例えば、警備員等)に車内を確認させるべく、PC101に報知する。   Then, the server 102 determines that there is a person left behind in the vehicle when the number of getting-off persons specified from the video taken by the network camera 104 is smaller than the number of passengers specified from the video taken by the network camera 103. In order to make the manager of the parking lot (for example, a security guard etc.) check the inside of the car, the notification is sent to the PC 101.

PC101は、駐車場の管理者が使用する端末であり、車内に取り残された人物がいる場合にサーバ102から送信される報知画面を受信し、ディスプレイに表示する(図9)。PC101には、報知画面を表示するための所定の制御プログラムがインストールされている。   The PC 101 is a terminal used by a manager of a parking lot, and receives a notification screen transmitted from the server 102 when there is a person left behind in the car, and displays it on the display (FIG. 9). A predetermined control program for displaying a notification screen is installed in the PC 101.

以上で、図1の説明を終了する。   This is the end of the description of FIG.

次に、図2を用いて、図1に示したPC101、サーバ102に適用可能な情報処理装置のハードウェア構成について説明する。   Next, the hardware configuration of the information processing apparatus applicable to the PC 101 and the server 102 shown in FIG. 1 will be described with reference to FIG.

図2において、201はCPUで、システムバス204に接続される各デバイスやコントローラを統括的に制御する。また、ROM202あるいは外部メモリ211には、CPU201の制御プログラムであるBIOS(Basic Input / Output System)やオペレーティングシステムプログラム(以下、OS)や、PCの実行する機能を実現するために必要な後述する各種プログラム等が記憶されている。   In FIG. 2, reference numeral 201 denotes a CPU, which centrally controls devices and controllers connected to the system bus 204. Further, the ROM 202 or the external memory 211 may be a BIOS (Basic Input / Output System) which is a control program of the CPU 201, an operating system program (hereinafter referred to as an OS), and various kinds of functions described later. Programs and the like are stored.

203はRAMで、CPU201の主メモリ、ワークエリア等として機能する。CPU201は、処理の実行に際して必要なプログラム等をROM202あるいは外部メモリ211からRAM203にロードして、ロードしたプログラムを実行することで各種動作を実現するものである。   A RAM 203 functions as a main memory, a work area, and the like of the CPU 201. The CPU 201 loads programs necessary for execution of processing from the ROM 202 or the external memory 211 to the RAM 203, and implements various operations by executing the loaded programs.

また、205は入力コントローラで、キーボード(KB)209等のポインティングデバイス等からの入力を制御する。206はビデオコントローラで、ディスプレイ210(液晶、ブラウン管を問わない)等の表示器への表示を制御する。   An input controller 205 controls an input from a pointing device such as a keyboard (KB) 209 or the like. Reference numeral 206 denotes a video controller which controls display on a display such as a display 210 (whether liquid crystal or CRT).

207はメモリコントローラで、ブートプログラム、各種のアプリケーション、フォントデータ、ユーザファイル、編集ファイル、各種データ等を記憶する外部記憶装置(ハードディスク(HD))や、フレキシブルディスク(FD)、或いはPCMCIAカードスロットにアダプタを介して接続されるコンパクトフラッシュ(登録商標)メモリ等の外部メモリ211へのアクセスを制御する。   A memory controller 207 is an external storage device (hard disk (HD)) for storing a boot program, various applications, font data, user files, editing files, various data, etc., a flexible disk (FD), or a PCMCIA card slot. It controls access to external memory 211 such as Compact Flash (registered trademark) memory connected via an adapter.

208は通信I/Fコントローラで、ネットワークを介して外部機器と接続・通信するものであり、ネットワークでの通信制御処理を実行する。例えば、TCP/IPを用いた通信等が可能である。   A communication I / F controller 208 connects and communicates with an external device via a network, and executes communication control processing in the network. For example, communication using TCP / IP is possible.

なお、CPU201は、例えばRAM203内の表示情報用領域へアウトラインフォントの展開(ラスタライズ)処理を実行することにより、ディスプレイ210上での表示を可能としている。また、CPU201は、ディスプレイ210上の不図示のマウスカーソル等でのユーザ指示を可能とする。   Note that the CPU 201 enables display on the display 210 by executing, for example, outline font rasterization processing on a display information area in the RAM 203. In addition, the CPU 201 enables user instruction with a mouse cursor (not shown) or the like on the display 210.

本発明を実現するための後述する各種プログラムは、外部メモリ211に記録されており、必要に応じてRAM203にロードされることによりCPU201によって実行されるものである。さらに、上記プログラムの実行時に用いられる設定ファイル等も外部メモリ211に格納されており、これらについての詳細な説明も後述する。以上で、図2の説明を終了する。   Various programs to be described later for realizing the present invention are stored in the external memory 211, and are executed by the CPU 201 by being loaded into the RAM 203 as necessary. Furthermore, setting files and the like used at the time of execution of the program are also stored in the external memory 211, and a detailed description of these will be described later. This is the end of the description of FIG.

次に、図3を用いて、図1に示したネットワークカメラ103、ネットワークカメラ104のハードウェア構成の一例について説明する。   Next, an example of the hardware configuration of the network camera 103 and the network camera 104 shown in FIG. 1 will be described using FIG.

図3は、本発明の実施形態における、ネットワークカメラ103、ネットワークカメラ104のハードウェアの構成の一例を示す図である。   FIG. 3 is a diagram showing an example of a hardware configuration of the network camera 103 and the network camera 104 in the embodiment of the present invention.

CPU301は、システムバス304に接続される各デバイスやコントローラを統括的に制御する。また、ROM302あるいは外部メモリ305には、CPU301の制御プログラムであるBIOS(Basic Input / Output System)やオペレーティングシステムプログラム(以下、OS)や、画像処理サーバ108の実行する機能を実現するために必要な後述する各種プログラム等が記憶されている。RAM303は、CPU301の主メモリ、ワークエリア等として機能する。   The CPU 301 centrally controls the devices and controllers connected to the system bus 304. Further, the ROM 302 or the external memory 305 is required to realize a function that is executed by the image processing server 108 such as a BIOS (Basic Input / Output System) which is a control program of the CPU 301, an operating system program (OS). Various programs to be described later are stored. The RAM 303 functions as a main memory, a work area, and the like of the CPU 301.

CPU301は、処理の実行に際して必要なプログラム等をRAM303にロードして、プログラムを実行することで各種動作を実現するものである。   The CPU 301 loads various programs and the like necessary for execution of processing into the RAM 303 and executes various programs to realize various operations.

メモリコントローラ(MC)306は、ブートプログラム、各種のアプリケーション、フォントデータ、ユーザファイル、編集ファイル、各種データ、画像データ等を記憶するハードディスク(HD)やPCMCIAカードスロットにアダプタを介して接続されるCFメモリやスマートメディア(登録商標)等の外部メモリ305へのアクセスを制御する。   A memory controller (MC) 306 is a CF connected via an adapter to a hard disk (HD) that stores a boot program, various applications, font data, user files, editing files, various data, image data, etc. and a PCMCIA card slot. It controls access to the external memory 305 such as memory and smart media (registered trademark).

カメラ部307は、画像処理部308と接続されており、監視対象に対して向けられたレンズを透過して得られた光をCCDやCMOS等の受光セルによって光電変換を行った後、RGB信号や補色信号を画像処理部308に対して出力する。   The camera unit 307 is connected to the image processing unit 308, and photoelectrically converts light obtained by transmitting light through a lens directed to a monitoring target by a light receiving cell such as a CCD or CMOS, and then converts the light into an RGB signal. And a complementary color signal to the image processing unit 308.

画像処理部308は、RGB信号や捕色信号に基づいて、ホワイトバランス調整、ガンマ処理、シャープネス処理を行い、更に、YC信号処理を施して輝度信号Yとクロマ信号(以下、YC信号)を生成し、YC信号を所定の圧縮形式(例えばJPEGフォーマット、あるいはMotionJPEGフォーマット等)で圧縮し、この圧縮されたデータは、画像データとして外部メモリ305へ一時保管される。   The image processing unit 308 performs white balance adjustment, gamma processing, and sharpness processing based on the RGB signal and the color capture signal, and further performs YC signal processing to generate a luminance signal Y and a chroma signal (hereinafter, YC signal). The YC signal is compressed in a predetermined compression format (for example, JPEG format or Motion JPEG format etc.), and this compressed data is temporarily stored in the external memory 305 as image data.

通信I/Fコントローラ(通信I/FC)309は、ネットワークを介して、外部機器と接続・通信するものであり、ネットワークでの通信制御処理を実行しており、外部メモリ305に記憶された画像データは、通信I/Fコントローラ309によって外部機器へ送信される。以上で、図3の説明を終了する。   A communication I / F controller (communication I / FC) 309 is for connecting and communicating with an external device via a network, executes communication control processing in the network, and stores the image stored in the external memory 305. The data is transmitted by the communication I / F controller 309 to an external device. This is the end of the description of FIG.

次に図6、図7のフローチャート等を用いて、本発明で実行される処理の説明を行う。各フローチャートに示す処理は、サーバ102のCPU201が実行する。なお、他の実施形態として、PC101のCPU201が実行するとしても良い。   Next, the processing executed in the present invention will be described using the flowcharts of FIGS. The process shown in each flowchart is executed by the CPU 201 of the server 102. Note that, as another embodiment, the CPU 201 of the PC 101 may execute it.

まず、図6について、説明する。   First, FIG. 6 will be described.

図6は、本実施形態における、乗車人数特定処理の一例を示す図である。   FIG. 6 is a diagram showing an example of the boarding number identification process in the present embodiment.

ステップS601において、サーバ102は、ネットワークカメラ103から、車外から車内を撮影した画像(映像やフレーム画像とも称す)を順次取得する。   In step S601, the server 102 sequentially acquires, from the network camera 103, images (also referred to as video and frame images) obtained by photographing the inside of the vehicle from the outside of the vehicle.

ステップS601と、後述するステップS701と、後述するステップS1001は、本発明における、第1の撮像装置と、第2の撮像装置から画像データを取得する取得手段の一例である。   Step S601, step S701 to be described later, and step S1001 to be described later are an example of an acquisition unit for acquiring image data from the first imaging device and the second imaging device in the present invention.

ステップS602において、サーバ102は、ネットワークカメラ103から、車のナンバーを撮影した画像を順次取得する。なお、ステップS601とステップS602の処理の順番は逆でもよい。   In step S602, the server 102 sequentially acquires, from the network camera 103, images obtained by capturing a car number. The order of the processes in step S601 and step S602 may be reversed.

ステップS603において、サーバ102は、既知の顔認識技術(例えば、特開2011−221906号公報に記載の技術)を用いて、ステップS601で取得した画像から乗車している人数を示す乗車人数を特定する。   In step S603, the server 102 specifies the number of passengers indicating the number of passengers from the image acquired in step S601, using a known face recognition technology (for example, the technology described in JP-A-2011-221906). Do.

ステップS603は、本発明における、前記第1の撮像装置から取得した画像データから乗車人数を特定する乗車人数特定手段の一例である。   Step S603 is an example of the passenger number specifying means for specifying the number of passengers from the image data acquired from the first imaging device in the present invention.

ステップS604において、サーバ102は、既知の車番認識技術(例えば、特開2007−293492号公報や、特開2013−251005号公報に記載の技術)を用いて、ステップS602で取得した画像から車のナンバーを特定する。なお、ステップS603とステップS604の処理の順番は逆でもよい。   In step S604, the server 102 uses the known car number recognition technology (for example, the technology described in JP-A-2007-293492 or JP-A-2013-251005) to use the car acquired from the image acquired in step S602. Identify the number of The order of the processes in step S603 and step S604 may be reversed.

ステップS604において、サーバ102は、ステップS604で特定した乗車人数と、ステップS605で特定した車のナンバーとを対応付けてデータテーブル(図8)の乗車人数803と、ナンバー802とに登録する。   In step S604, the server 102 associates the number of passengers identified in step S604 with the number of the car identified in step S605, and registers them in the number 803 of passengers in the data table (FIG. 8) and the number 802.

ステップS604で特定した乗車人数と、ステップS605で特定した車のナンバーとの対応付けは、例えば、乗車人数を特定した画像が撮影された時間と、車のナンバーを特定した画像が撮影された時間が最も近いもの同士を対応付けることが考えられる。以上で、図6の説明を終了し、次に図7について説明する。   As for the correspondence between the number of passengers identified in step S604 and the car number identified in step S605, for example, the time when the image specifying the number of passengers was photographed and the time when the image specifying the number of vehicles was photographed It is conceivable to associate the closest ones with one another. This is the end of the description of FIG. 6, and next, FIG. 7 will be described.

図7は、第1の実施形態における、降車人数特定処理、および通知処理の一例を示す図である。   FIG. 7 is a diagram showing an example of the getting-off people identification process and the notification process in the first embodiment.

ステップS701において、サーバ102は、ネットワークカメラ104から、車外から車を撮影した画像を順次取得する。   In step S701, the server 102 sequentially acquires, from the network camera 104, images obtained by photographing a car from outside the car.

ステップS702において、サーバ102は、既知の車番認識技術(例えば、特開2007−293492号公報や、特開2013−251005号公報に記載の技術)を用いて、ステップS701で取得した画像から車のナンバーを特定する。   In step S702, the server 102 uses the known car number recognition technology (for example, the technology described in JP-A-2007-293492 or JP-A-2013-251005) from the image acquired in step S701. Identify the number of

ステップS703において、サーバ102は、既知の顔認識技術(例えば、特開2011−221906号公報に記載の技術)を用いて、ステップS701で取得した画像から、降車した人数を示す降車人数を特定する。なお、ステップS702とステップS703の処理の順番は逆でもよい。   In step S703, the server 102 specifies the alighting number of people indicating the number of people who got off from the image acquired in step S701, using a known face recognition technology (for example, the technology described in JP 2011-221906A). . Note that the order of the processes in step S702 and step S703 may be reversed.

ステップS703と、後述する図10のステップS1003は、本発明における、前記第2の撮像装置から取得した画像データから降車人数を特定する降車人数特定手段の一例である。   Step S703 and step S1003 in FIG. 10 described later are an example of the getting-off people specifying means for specifying the getting-off number from the image data acquired from the second imaging device in the present invention.

ステップS704において、サーバ102は、データテーブル(図8)中のナンバー802の列に記憶されているナンバーのうち、ステップS702で特定した車のナンバーと一致する行の降車人数804に、ステップS703で特定した降車人数を記憶する。   In step S704, of the numbers stored in the column of the number 802 in the data table (FIG. 8), the server 102 displays the number of people getting off in the row 804 that matches the car number identified in step S702 in step S703. Memorize the number of people who got off.

ステップS705において、サーバ102は、ステップS603で特定した乗車人数よりステップS703で特定した降車人数のほうが少ないかを判定する。より具体的には、データテーブル(図8)中の同一の行の乗車人数803と降車人数804の値を参照し、降車人数804の値が乗車人数803の値より小さい場合に、乗車人数より降車人数のほうが少ない(ステップS705:YES)と判定する。   In step S705, the server 102 determines whether or not the number of people a getting off identified in step S703 is smaller than the number of people identified in step S603. More specifically, referring to the values of the number of passengers 803 and the number of people disembarking 804 in the same row in the data table (FIG. 8), when the value of the number of people disembarking 804 is smaller than the value of the number of passengers 803, It is determined that the number of people getting off is smaller (step S 705: YES).

サーバ102は、ステップS705で、乗車人数より降車人数のほうが少ないと判定すると、ステップS706に処理を移行し、乗車人数と降車人数とが一致または、乗車人数より降車人数のほうが多いと判定すると、全員降車したと判断して、本処理を終了する。   If the server 102 determines in step S705 that the number of people getting off is smaller than the number of people in transit, the process proceeds to step S706, and if it is determined that the number of people in getting out agrees with the number of people in getting out or more. It is judged that all the members got off and this processing is ended.

なお、乗車人数より降車人数のほうが多い場合とは、例えば、ステップS603で正確に乗車人数を特定できなかった場合である。   Note that the case where the number of getting-off people is larger than the number of getting-in people is, for example, the case where the number of getting-in people can not be identified accurately in step S603.

ステップS706において、サーバ102は、車に置き去りにされて人物がいると判断し、PC101(管理者)に報知(通知)する。ステップS706でPC101に報知される画面は、例えば、図9に示す画面である。   In step S706, the server 102 determines that a person is left behind in the car and notifies (notifies) the PC 101 (administrator). The screen notified to the PC 101 in step S706 is, for example, the screen shown in FIG.

ステップS706と、後述する図10のステップS1007は、本発明における、前記乗車人数特定手段で特定した乗車人数より、前記降車人数特定手段で特定した降車人数が少ないことを条件に通知する通知手段の一例である。   Step S706 and step S1007 in FIG. 10, which will be described later, are notification means for notifying on the condition that the number of getting-off people identified by the getting-off people specifying means is smaller than the number of getting in people specified by the getting-in people specifying means. It is an example.

ここで、図9について説明する。図9は、本実施形態において、ステップS706でサーバ102からPC101に報知され、PC101のディスプレイ210に表示される報知画面の一例を示す図である。   Here, FIG. 9 will be described. FIG. 9 is a diagram showing an example of a notification screen notified from the server 102 to the PC 101 in step S706 and displayed on the display 210 of the PC 101 in the present embodiment.

901には、車に置き去りされている可能性があることを管理者に認識させるためのメッセージが表示される。   In 901, a message is displayed to make the administrator aware that there is a possibility of being left behind in the car.

902には、ネットワークカメラ104で撮影した報知対象の車(乗車人数より降車人数のほうが少ない車)の画像を表示する。   In 902, an image of a car to be notified (a car whose number of people getting off the board is smaller than the number of people on board) photographed by the network camera 104 is displayed.

903には、データテーブル(図8)の情報に基づき、報知対象の車に関する情報が表示される。図9の例では、報知対象の車のナンバー、入場日時、乗車人数、降車人数が表示されている。   In 903, based on the information in the data table (FIG. 8), information on the vehicle to be notified is displayed. In the example of FIG. 9, the car number of the notification target, the entry date and time, the number of passengers, and the number of people getting off are displayed.

902と903の情報を管理者に報知することにより、管理者は、該当の車のところまですぐに駆けつけることができ、車内に取り残された人物の救出作業等を行うことが可能となる。   By notifying the manager of the information of 902 and 903, the manager can rush to the relevant car immediately, and can perform the rescue work of the person left behind in the car.

問題なしボタン904は、当該ボタンが管理者により選択されると、問題ない旨の情報をデータテーブル(図8)の確認結果805に記憶する。管理者は、図9の報知画面を見た後に、実際に車を確認し、置き去りにされている人物がいないと確認できた場合や、エアコンが効いているため熱中症等の心配がないと判断した場合等に、問題なしボタン904を選択する。   The no problem button 904 stores information indicating that there is no problem in the confirmation result 805 of the data table (FIG. 8) when the button is selected by the administrator. After seeing the notification screen in FIG. 9, the administrator actually confirms the car and confirms that there is no one left behind, or because the air conditioner is working, there is no concern such as heat stroke etc. When the determination is made, the no problem button 904 is selected.

要注意ボタン905は、当該ボタンが管理者により選択されると、要注意である旨の情報をデータテーブル(図8)の確認結果805に記憶する。管理者は、図9の報知画面を見た後に、実際に車を確認し、置き去りにされている人物がいると確認できた場合等に、要注意ボタン905を選択する。要注意一覧ボタン906が選択されると、図12に示す要注意ボタン905が選択された車の一覧画面(要注意一覧画面)が表示される。図12の要注意一覧画面を表示することにより、管理者は、警戒しなければならない車を一目で確認できる。なお、要注意として選択した後に、問題ないと判断した車については、図12の要注意一覧画面で、チェックボックス1201にチェックを入れて削除ボタン1202を選択する操作を管理者から受け付けることで、問題ない車として変更することが可能である。   The caution button 905 stores information indicating the caution in the confirmation result 805 of the data table (FIG. 8) when the button is selected by the administrator. After the administrator looks at the notification screen of FIG. 9, the manager actually confirms the car, and selects the caution button 905 when it can be confirmed that there is a left behind person. When the cautions list button 906 is selected, a list screen (a cautions list screen) of cars for which the cautions button 905 shown in FIG. 12 is selected is displayed. By displaying the caution list screen shown in FIG. 12, the administrator can confirm at a glance the car that must be alert. In addition, for vehicles that have been determined to have no problems after being selected as a caution, by receiving an operation from the administrator to check the check box 1201 and select the delete button 1202 on the caution list screen of FIG. It is possible to change as a problem-free car.

907には、ネットワークカメラ103で撮影した報知対象の車の車内の画像を表示する。ネットワークカメラ103で撮影した報知対象の車の車内の画像を表示することで、管理者は運転手の顔を確認でき、運転者の捜索、および置き去りに関する注意を容易に行うことができる。   In 907, the in-vehicle image of the car of the notification target taken by the network camera 103 is displayed. By displaying the in-vehicle image of the notification target car photographed by the network camera 103, the manager can confirm the driver's face, and the driver's search and care for leaving can be easily performed.

以上で図9の説明を終了し、次に図10について説明する。   This is the end of the description of FIG. 9, and next, FIG. 10 will be described.

図10は、第2の実施形態における、降車人数特定処理、および通知処理の一例を示す図である。   FIG. 10 is a diagram showing an example of the getting-off people identification process and the notification process in the second embodiment.

図7の第1の実施形態では、乗車人数より降車人数のほうが少ない場合に直ちに通知するとしたが、第2の実施形態では、乗車人数より降車人数のほうが少ない場合であって、かつ報知基準を満たす場合に報知する。   In the first embodiment of FIG. 7, when the number of people getting off is smaller than the number of people getting in, it is notified immediately, but in the second embodiment, the number of people getting out of people is less than the number of people getting in and Notify when satisfied.

図10に示す処理は、サーバ102のCPU201が実行する。なお、他の実施形態として、PC101のCPU201が実行するとしても良い。   The process shown in FIG. 10 is executed by the CPU 201 of the server 102. Note that, as another embodiment, the CPU 201 of the PC 101 may execute it.

ステップS1001〜ステップS1005までの各処理は、図7のステップS701〜705の各処理と同じ処理であるため、説明を省略する。   Since each process to step S1001-step S1005 is the same process as each process of step S701-705 of FIG. 7, description is abbreviate | omitted.

ステップS1006において、サーバ102は、図11に示す報知基準(報知条件)を満たしているかを判定する(条件判定手段)。PC101は、報知基準を満たしていると判定した場合にステップS1007に処理を移行し、報知基準を満たしていない場合には、報知基準を満たすまで報知しない。   In step S1006, the server 102 determines whether the notification standard (notification condition) shown in FIG. 11 is satisfied (condition determination unit). If the PC 101 determines that the notification standard is satisfied, the process proceeds to step S1007. If the notification standard is not satisfied, the PC 101 does not notify until the notification standard is satisfied.

ここで、図11に示す報知基準について説明する。図11に示す報知基準は、サーバ102の外部メモリ211に記憶される。   Here, the notification standard shown in FIG. 11 will be described. The notification standard shown in FIG. 11 is stored in the external memory 211 of the server 102.

なお、図11では、報知基準1101と、報知基準1102の2つを示しているが、いずれの報知基準を用いるかは、管理者があらかじめ設定するものとする。   Although two notification criteria 1101 and 1102 are shown in FIG. 11, it is assumed that the administrator sets in advance which notification criteria to use.

報知基準1101は、ステップS1006の処理を行うときが7月〜9月であれば報知基準を満たすということを示し、ステップS1006の処理を行うときが10月〜6月であれば報知基準を満たさないということを示している。7月〜9月という基準は、この時期が熱中症の危険がある時期であるため、当該基準が決められている。逆に10月〜6月については、車内に子どもが取り残されたとしても熱中症等の可能性は低いため、報知しない。   The notification standard 1101 indicates that when the process of step S1006 is from July to September, the notification standard is satisfied, and when the process of step S1006 is from October to June, the information standard is satisfied. It shows that there is no. The standard of July to September is determined because this time is the time when there is a risk of heatstroke. Conversely, for October to June, even if a child is left behind in the car, the possibility of heatstroke etc. is low, so no notification is given.

なお、報知基準1101は、さらに粒度を細かくしても良い。例えば、気温が最も高くなる12:00〜15:00は報知基準を3分として、それ以外は10分とする等しても良い。   The notification standard 1101 may have a finer particle size. For example, the notification standard may be 3 minutes for 12:00 to 15:00 when the temperature is highest, and 10 minutes for others.

報知基準1102は、外気の温度が、23度以上である場合に、報知するということを示している。   The notification standard 1102 indicates that notification is performed when the temperature of the outside air is 23 degrees or more.

外気の温度は、駐車場に設置された温度計から取得しても良いし、気象庁から情報を温度の情報を取得しても良い。23度という基準は、日本生気象学会が発表している「日常生活に関する指針」において、熱中症に警戒すべき温度として定められている25度を超える前に報知するべく、当該基準が決められている。   The temperature of the outside air may be acquired from a thermometer installed in the parking lot, or information of the temperature may be acquired from the Meteorological Agency. The standard of 23 degrees is determined in order to be notified before the temperature exceeds 25 degrees, which is defined as the temperature that should be warned against heat stroke, in the "Guidelines on Daily Life" published by the Japan Society for Living Meteorology. ing.

なお、本実施形態では熱中症に関して考慮しているため上述した報知基準としているが、冬場の車内での低体温症を考慮し、11月〜2月の場合や、外気が10度以下である場合に報知基準を満たすとすることも可能である。   In addition, in this embodiment, since it considers regarding heat stroke, it is considered as the alerting | reporting reference | standard mentioned above, but in consideration of the hypothermia in the car in winter, the case of November-February and the open air are 10 degrees or less In some cases, it may be possible to meet the notification standard.

また、図11では、報知基準として、月や気温を基準としたが、エンジンがかかっていない場合に報知基準を満たすとしても良いし(エンジンがかかっていればエアコンが効いていると考えられるため)、車内に運転手が残っている場合には、置き去りではなく運転手が単に待機しているだけであるとして報知基準を満たさないとしても良い。   In addition, in FIG. 11, the month and the temperature are used as the notification standard, but the notification standard may be satisfied when the engine is not running (it is considered that the air conditioner works if the engine is running If the driver remains in the car, the notification standard may not be satisfied as the driver is merely standing by and not left behind.

エンジンがかかっているかは、ネットワークカメラ104に集音マイクを搭載させ、ステップS1005の処理を実行後に、当該集音マイクで、車のエンジン音を取得した場合にエンジンがかかっていると特定し、報知を行わない。車内に運転手が残っている場合には報知基準を満たさないとする場合、ネットワークカメラ104により車内をフロントガラス側から撮影し、運転席に人物がいる場合に、報知基準を満たさないとして、報知を行わない。   Whether the engine is running is specified by installing the sound collecting microphone on the network camera 104 and executing the process of step S1005, and then acquiring the engine sound of the car with the sound collecting microphone, the engine is running, Do not report. If the driver does not meet the notification standard when the driver remains in the vehicle, the inside of the vehicle is photographed from the windshield side by the network camera 104, and if there is a person in the driver's seat, the notification standard is not satisfied. Do not do.

以上で、図11の説明を終了し、図10の説明に戻る。   This is the end of the description of FIG. 11 and returns to the description of FIG.

ステップS1007において、サーバ102は、PC101(管理者)に報知(通知)する。ステップS1007でPC101に報知される画面は、例えば、図9に示す画面である。   In step S1007, the server 102 notifies (notifies) the PC 101 (administrator). The screen notified to the PC 101 in step S1007 is, for example, the screen shown in FIG.

以上で図10の説明を終了し、次に、図8のデータテーブルについて説明する。   This is the end of the description of FIG. 10, and next, the data table of FIG. 8 will be described.

図8は、サーバ102の外部メモリ211に記憶されるデータテーブルの一例を示す図である。データテーブルは、各データを識別するID801、図6のステップS604、図7のステップS702、図10のステップS1002で特定されるナンバー802、図6のステップS603で特定される乗車人数803、図7のステップS703、および図10のステップS1003で特定される降車人数804、図9の問題なしボタン904、または、要注意ボタン905が管理者により選択されることにより記憶される確認結果805、図6のステップS601でサーバ102が、ネットワークカメラ103から取得した映像が撮影されたときの時間を示す入場日時806で構成される。また、図8では図示していないが、車のナンバーを特定したときのネットワークカメラ103やネットワークカメラ104で撮影した画像のパスや、乗車人数を特定したときのネットワークカメラ103で撮影した画像のパスや、降車人数を特定したときのネットワークカメラ104で撮影した画像のパスも記憶される。   FIG. 8 is a diagram showing an example of a data table stored in the external memory 211 of the server 102. As shown in FIG. The data table includes an ID 801 for identifying each data, step S 604 in FIG. 6, step S 702 in FIG. 7, number 802 identified in step S 1002 in FIG. 10, number 803 of passengers identified in step S 603 in FIG. 9, the number of getting off people 804 identified in step S1003 in FIG. 10, the no problem button 904 in FIG. 9, or the confirmation result 805 stored by selecting the caution button 905 by the administrator. In step S601, the server 102 is configured with an entrance date 806 indicating the time when the video acquired from the network camera 103 is captured. Although not shown in FIG. 8, the path of the image taken by the network camera 103 or the network camera 104 when the car number is specified, and the path of the image taken by the network camera 103 when the number of passengers is specified Also, the path of the image taken by the network camera 104 when the number of people getting off is specified is also stored.

以上で図8の説明を終了し、次に図13について説明する。   This is the end of the description of FIG. 8, and next, FIG. 13 will be described.

図13は、本実施形態における置き去り監視システムの機能構成の一例を示す機能構成図である。   FIG. 13 is a functional configuration diagram showing an example of a functional configuration of the leaving monitoring system in the present embodiment.

置き去り監視システムは、取得部1301、乗車人数特定部1302、降車人数特定部1303、通知部1304の各機能を有する。   The leaving monitoring system has the functions of an acquisition unit 1301, a passenger number identification unit 1302, a getting-off person identification unit 1303, and a notification unit 1304.

取得部1301は、ネットワークカメラ103と、ネットワークカメラ104から画像を取得する
乗車人数特定部1302は、ネットワークカメラ103から取得した画像から乗車人数を特定する。
The acquiring unit 1301 acquires an image from the network camera 103 and the network camera 104. The boarding number specifying unit 1302 specifies the number of boarding persons from the image acquired from the network camera 103.

降車人数特定部1303は、ネットワークカメラ104から取得した画像から降車人数を特定する。   The getting-off people specifying unit 1303 specifies the getting-off people from the image acquired from the network camera 104.

通知部1304は、乗車人数特定部1302で特定した乗車人数より降車人数特定部1303で特定した降車人数が少ないことを条件にPC101に通知する。以上で図13の説明を終了する。   The notification unit 1304 notifies the PC 101 on the condition that the number of getting-off people identified by the getting-off person identifying unit 1303 is smaller than the number of people identified by the entering person identifying unit 1302. This is the end of the description of FIG.

次に、図14を用いて、本発明の第3の実施形態について説明する。図14は、本発明の第3の実施形態における、通知処理の一例を示す図である。   Next, a third embodiment of the present invention will be described using FIG. FIG. 14 is a diagram showing an example of notification processing in the third embodiment of the present invention.

図7の第1の実施形態、および図10の第2の実施形態では、乗車人数の特定や、降車人数の特定を行っていたが、本実施形態では、具体的な人数の特定を行わずとも、車内の置き去りを検知して、通知可能な仕組みについて説明する。   In the first embodiment of FIG. 7 and the second embodiment of FIG. 10, the identification of the number of passengers and the identification of the number of alighting are performed, but in the present embodiment, the identification of the specific number of people is not performed. Anyway, I will explain the mechanism that can be notified by detecting the left behind in the car.

図14のフローチャートに示す処理は、サーバ102のCPU201が実行する。なお、他の実施形態として、PC101のCPU201、またはネットワークカメラ104のCPU301が実行するとしても良い。   The process shown in the flowchart of FIG. 14 is executed by the CPU 201 of the server 102. As another embodiment, the CPU 201 of the PC 101 or the CPU 301 of the network camera 104 may execute.

ステップS1401において、サーバ102は、ネットワークカメラ104から、駐車場に駐車している車を撮影した画像を順次取得する。   In step S <b> 1401, the server 102 sequentially acquires, from the network camera 104, images obtained by photographing vehicles parked in a parking lot.

ステップS1402において、サーバ102は、既知の顔認識技術(例えば、特開2011−221906号公報に記載の技術)を用いて、ステップS1401で取得した画像から、車から人物が降車したかを判定する。より具体的には、まず、駐車場に駐車している車を検知し、その近傍に人物がいるかを検知する。   In step S1402, the server 102 determines whether a person has dismounted from the vehicle from the image acquired in step S1401 using a known face recognition technology (for example, the technology described in JP-A-2011-221906). . More specifically, first, a car parked in a parking lot is detected to detect whether there is a person in the vicinity.

なお、ステップS1402では、車から人物が降車したことを検出できればよい。そのため、顔認識技術に限らず、ディープラーニングにより人物を認識したり、背景差分法を用いて人物を認識したり、車のドアの開閉を検知したりすることで人物の降車を検出しても良い。   In step S1402, it may be detected that the person has got off the car. Therefore, the invention is not limited to face recognition technology, and it is possible to detect a person's getting off by recognizing a person by deep learning, recognizing a person by using a background subtraction method, or detecting opening and closing of a car door. good.

サーバ102は、ステップS1402で人物が降車したと判定した場合には、ステップS1403に処理を移行する。   If the server 102 determines in step S1402 that the person has got off, the process proceeds to step S1403.

ステップS1403において、サーバ102は、ステップS1402で人物の降車を特定してから所定時間が経過したかを判定する。サーバ102は、ステップS1403で人物が降車してから所定時間が経過したと判定した場合には、ステップS1404に処理を移行する。   In step S <b> 1403, the server 102 determines whether a predetermined time has elapsed since the determination of the getting-off of the person in step S <b> 1402. If the server 102 determines in step S1403 that the predetermined time has elapsed since the person got off, the process proceeds to step S1404.

より具体的には、まず、ステップS1402で、降車したと特定された人物の座標(例えば、当該人物の特徴点の座標)と、当該人物が降車した車の座標(例えば、当該車の特徴点の座標)が、所定以上離れたかを特定する。そして、所定以上(例えば、5m)離れたと特定した後に、所定時間(例えば、3分)経過しても当該車の近傍で人物を検出しない場合にステップS1404に処理を移行する。   More specifically, first, in step S1402, the coordinates of the person specified to be dismounted (for example, the coordinates of the feature points of the person) and the coordinates of the car on which the person is dismounted (for example, the feature points of the car Coordinates) specify whether they are separated by a predetermined amount or more. Then, after it is specified that a predetermined distance or more (for example, 5 m) has been left, the process proceeds to step S1404 if a person is not detected in the vicinity of the car even after a predetermined time (for example, 3 minutes) elapses.

ステップS1404において、サーバ102は、車内に置き去りが発生しているかを特定する。具体的には、例えば、次のいずれかの方法により置き去りを特定する。   In step S1404, the server 102 specifies whether leaving is occurring in the car. Specifically, for example, the left is identified by any of the following methods.

1つ目は、ネットワークカメラ104により車内をフロントガラス側から撮影し、撮影した画像から車内に人の顔を検出したら置き去りが発生していると特定する方法である。   The first method is to image the interior of the vehicle from the windshield side with the network camera 104, and if the face of a person is detected in the vehicle from the captured image, it is determined that leaving is occurring.

2つ目は、赤外線サーモグラフィカメラで車内を撮影することにより、熱放射する人物を特定する方法である。   The second is a method of identifying a person who radiates heat by photographing the inside of a car with an infrared thermography camera.

3つ目は、車の座席に設置された重量センサ(人物が座っていると重量を検知するセンサ)の情報を、サーバ102が取得することで、人物を特定する方法である。   The third is a method of specifying a person by the server 102 acquiring information of a weight sensor (a sensor that detects the weight when the person is sitting) installed in a seat of a car.

4つ目は、ネットワークカメラ104に集音マイクを搭載させ、当該集音マイクで、車内の音声(例えば、泣き声等)を拾うことで人物を特定する方法である。   The fourth method is a method of specifying a person by mounting a sound collection microphone on the network camera 104 and picking up a voice (for example, a cry) in the car with the sound collection microphone.

ステップS1405において、サーバ102は、ステップS1404の処理を実行した結果、置き去りが発生したかを判定する。   In step S1405, the server 102 determines whether leaving has occurred as a result of executing the process of step S1404.

サーバ102は、ステップS1405で置き去りが発生したと判定した場合には、ステップS1406に処理を移行し、置き去りが発生していないと判定した場合には、本処理を終了する。   If the server 102 determines that leaving has occurred in step S1405, the process proceeds to step S1406, and if it is determined that no leaving has occurred, the present process ends.

ステップS1406において、サーバ102は、既知の車番認識技術(例えば、特開2007−293492号公報や、特開2013−251005号公報に記載の技術)を用いて、ステップS1401で取得した画像から車のナンバーを特定する。   In step S1406, the server 102 uses the known car number recognition technology (for example, the technology described in JP-A-2007-293492 or JP-A-2013-251005) to use the car from the image acquired in step S1401. Identify the number of

ステップS1407において、サーバ102は、ステップS1406で特定した車のナンバーと、当該車に置き去りが発生していることを示す情報と、当該車の位置を紐づけてサーバ102の外部メモリ211に記憶されるデータテーブルに登録する。   In step S1407, the server 102 stores the car number identified in step S1406, information indicating that the car has been left behind, and the position of the car in the external memory 211 of the server 102. Registered in the data table.

車の位置は、ネットワークカメラ104の設置位置(座標)と、当該ネットワークカメラ104のパン・チルト・ズームの値とを用いて特定しても良いし、駐車場の各駐車スペースに番号がペイントされているのであれば、その番号をネットワークカメラ104で撮影した画像から認識することで特定しても良い。   The position of the car may be specified using the installation position (coordinates) of the network camera 104 and the pan, tilt and zoom values of the network camera 104, or a number is painted on each parking space of the parking lot. If so, the number may be identified by recognizing it from an image taken by the network camera 104.

ステップS1408において、サーバ102は、車に置き去りにされて人物がいると判断し、PC101(管理者)に報知(通知)する。ステップS1408でPC101に報知される画面は、例えば、図9、もしくは図15に示す画面である。以上で、図14の説明を終了する。   In step S1408, the server 102 determines that a person is left behind in the car and notifies (reports) the PC 101 (administrator). The screen notified to the PC 101 in step S1408 is, for example, the screen shown in FIG. 9 or FIG. This is the end of the description of FIG.

次に、図15を用いて、ステップS1408でPC101に報知される画面の一例について説明する。   Next, an example of a screen notified to the PC 101 in step S1408 will be described using FIG.

図9の報知画面では、ネットワークカメラ104で撮影した報知対象の車の画像を表示する例について説明したが、図15の報知画面では、駐車場のマップ上で、報知対象の車の位置を識別表示することで報知する。   In the notification screen of FIG. 9, an example of displaying an image of a notification target car captured by the network camera 104 has been described. However, in the notification screen of FIG. 15, the position of the notification target car is identified It informs by displaying.

マップ1500は、駐車場のマップである。番号1501は、各駐車スペースを識別するための番号である。識別情報1502は、報知対象の車の位置を示す情報である。メッセージ1503は、識別情報1502で識別された駐車スペースに報知対象の車が存在することを管理者に通知する。   Map 1500 is a map of a parking lot. The number 1501 is a number for identifying each parking space. The identification information 1502 is information indicating the position of a car to be notified. A message 1503 notifies the administrator that the car targeted for notification exists in the parking space identified by the identification information 1502.

識別情報1502と、メッセージ1503により、管理者は駐車場のどこに報知対象の車が存在するのかを一目で把握できるため、迅速に当該報知対象の車の場所まで駆けつけることが可能となる。以上で図15の説明を終了する。   Since the manager can grasp at a glance where in the parking lot the car to be notified exists based on the identification information 1502 and the message 1503, it is possible to rush to the place of the car to be notified. This is the end of the description of FIG.

なお、本発明の各実施形態では、人物の車内の置き去りの報知について説明したが、人物に限らず、動物の車内の置き去りについても放置するとしても良い。その場合、図14のフローチャートでは、ステップS1404において、ネットワークカメラ104で取得した鳴き声や画像などから車内に動物がいるかも特定する。そして、動物がいると特定された場合には、ステップS1408において、車に置き去りにされている動物がいることを管理者に報知する。   In each embodiment of the present invention, notification of leaving of the person in the car has been described. However, not only the person but leaving of the animal in the car may be left alone. In that case, in the flowchart of FIG. 14, it is specified in the step S 1404 whether or not there is an animal in the car from a cry, an image, etc. acquired by the network camera 104. Then, when it is specified that there is an animal, in step S1408, the administrator is notified that there is an animal left behind in the car.

以上、本発明によると、車内に置き去りにされた人物の存在を容易に特定することができる。   As described above, according to the present invention, the presence of a person left behind in a car can be easily identified.

本発明は、例えば、システム、装置、方法、プログラム若しくは記憶媒体等としての実施形態も可能であり、具体的には、複数の機器から構成されるシステムに適用してもよいし、また、1つの機器からなる装置に適用してもよい。   The present invention is also applicable to, for example, an embodiment as a system, an apparatus, a method, a program, a storage medium, etc. Specifically, the present invention may be applied to a system composed of a plurality of devices. The present invention may be applied to an apparatus consisting of two devices.

なお、本発明は、前述した実施形態の機能を実現するソフトウェアのプログラムを、システム或いは装置に直接、或いは遠隔から供給するものを含む。そして、そのシステム或いは装置のコンピュータが前記供給されたプログラムコードを読み出して実行することによっても達成される場合も本発明に含まれる。   Note that the present invention includes one that directly or remotely supplies a program of software that implements the functions of the above-described embodiments to a system or an apparatus. The present invention is also included in the present invention if the computer of the system or apparatus reads out and executes the supplied program code.

したがって、本発明の機能処理をコンピュータで実現するために、前記コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。   Therefore, the program code itself installed in the computer to realize the functional processing of the present invention by the computer also implements the present invention. That is, the present invention also includes a computer program itself for realizing the functional processing of the present invention.

その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等の形態であってもよい。   In that case, as long as it has the function of a program, it may be in the form of an object code, a program executed by an interpreter, script data supplied to an OS, or the like.

プログラムを供給するための記録媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、MO、CD−ROM、CD−R、CD−RWなどがある。また、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM,DVD−R)などもある。   Examples of recording media for supplying the program include a flexible disk, a hard disk, an optical disk, a magneto-optical disk, an MO, a CD-ROM, a CD-R, and a CD-RW. There are also magnetic tapes, non-volatile memory cards, ROMs, DVDs (DVD-ROMs, DVD-Rs) and the like.

その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続する。そして、前記ホームページから本発明のコンピュータプログラムそのもの、若しくは圧縮され自動インストール機能を含むファイルをハードディスク等の記録媒体にダウンロードすることによっても供給できる。   In addition, as a program supply method, a browser on a client computer is used to connect to an Internet home page. Then, the program can be supplied by downloading the computer program of the present invention itself or a compressed file including an automatic installation function from the home page to a recording medium such as a hard disk.

また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。   The present invention can also be realized by dividing the program code constituting the program of the present invention into a plurality of files and downloading each file from different home pages. That is, the present invention also includes a WWW server which allows a plurality of users to download program files for realizing the functional processing of the present invention by a computer.

また、本発明のプログラムを暗号化してCD−ROM等の記憶媒体に格納してユーザに配布し、所定の条件をクリアしたユーザに対し、インターネットを介してホームページから暗号化を解く鍵情報をダウンロードさせる。そして、ダウンロードした鍵情報を使用することにより暗号化されたプログラムを実行してコンピュータにインストールさせて実現することも可能である。   In addition, the program of the present invention is encrypted, stored in a storage medium such as a CD-ROM, and distributed to users, and the user who has cleared predetermined conditions downloads key information that decrypts encryption from the homepage via the Internet. Let Then, it is possible to execute the program encrypted by using the downloaded key information and install it on a computer.

また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される。その他、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどが、実際の処理の一部又は全部を行い、その処理によっても前述した実施形態の機能が実現され得る。   Also, the functions of the above-described embodiments are realized by the computer executing the read program. In addition, based on the instructions of the program, an OS or the like running on the computer performs part or all of the actual processing, and the functions of the above-described embodiment can be realized by the processing.

さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。その後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部又は全部を行い、その処理によっても前述した実施形態の機能が実現される。   Furthermore, the program read from the recording medium is written to a memory provided in a function expansion board inserted in the computer or a function expansion unit connected to the computer. Thereafter, based on the instruction of the program, a CPU or the like provided in the function expansion board or the function expansion unit performs part or all of the actual processing, and the function of the above-described embodiment is also realized by the processing.

なお、前述した実施形態は、本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。即ち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。   The embodiments described above merely show examples of implementation in practicing the present invention, and the technical scope of the present invention should not be interpreted in a limited manner by these. That is, the present invention can be implemented in various forms without departing from the technical concept or the main features thereof.

101 PC
102 サーバ
103 ネットワークカメラ
104 ネットワークカメラ
101 PC
102 Server 103 Network Camera 104 Network Camera

Claims (11)

撮像装置により車外から車両を撮像することで得られる画像データを取得する取得手段と、
前記取得手段で取得した画像データを用いて、前記車両に人物が残っているかを判定する判定手段と、
前記判定手段により、前記車両に人物が残っていると判定されることを条件に、前記車両を特定可能な情報を含む通知を行う通知手段と
を備えることを特徴とする情報処理装置。
Acquisition means for acquiring image data obtained by imaging a vehicle from outside the vehicle by an imaging device;
A determination unit that determines whether a person remains in the vehicle using the image data acquired by the acquisition unit;
An information processing apparatus comprising: notification means for performing notification including information that can specify the vehicle on condition that the determination means determines that a person remains in the vehicle.
前記取得手段で取得した画像データから前記車両のナンバーを特定するナンバー特定手段と、
前記取得手段で取得した画像データから前記車両から降車した人数を特定する降車人数特定手段と、
前記車両に乗車している人数を特定する乗車人数特定手段と、
前記降車人数特定手段で特定した降車人数と、前記乗車人数特定手段で特定した乗車人数とを、前記ナンバー特定手段で特定した前記車両のナンバーと対応付けて管理する管理手段と
を備えることを特徴とする請求項1に記載の情報処理装置。
Number identification means for identifying the number of the vehicle from the image data acquired by the acquisition means;
A getting-off people specifying means for specifying the number of people getting off the vehicle from the image data obtained by the obtaining means;
A passenger number specifying means for specifying the number of people who are in the vehicle
A management means for managing the alighting number of people specified by the affiliation number specifying means and the passenger number specified by the boarding number specifying means in association with the number of the vehicle specified by the number specifying means; The information processing apparatus according to claim 1, wherein
前記判定手段は、前記管理手段により、同一の車両ナンバーに対応付けて管理される前記降車人数と、前記乗車人数特定手段で特定した前記乗車人数とを比較し、前記降車人数が前記乗車人数より少ない場合に、前記車両に人物が残っていると判定することを特徴とする請求項2に記載の情報処理装置。   The determination means compares, by the management means, the number of getting-off persons managed in association with the same vehicle number with the number of getting-in persons specified by the number-of-persons specifying means; The information processing apparatus according to claim 2, wherein it is determined that a person remains in the vehicle when the number is small. 所定の報知条件を満たすかを判定する条件判定手段を備え、
前記通知手段は、前記条件判定手段により所定の報知条件を満たすと判定され、かつ前記判定手段により、前記車両に人物が残っていると判定されることを条件に通知することを特徴とする請求項1乃至3のいずれか1項に記載の情報処理装置。
A condition determination unit that determines whether a predetermined notification condition is satisfied;
The notification means is notified on the condition that the condition determination means determines that a predetermined notification condition is satisfied, and the determination means determines that a person remains in the vehicle. The information processing apparatus according to any one of Items 1 to 3.
前記条件判定手段は、前記取得により画像データを取得した月が所定の月である場合に報知条件を満たすと判定することを特徴とする請求項4に記載の情報処理装置。   5. The information processing apparatus according to claim 4, wherein the condition determining unit determines that the notification condition is satisfied when a month in which the image data is acquired by the acquisition is a predetermined month. 前記条件判定手段は、前記取得により画像データを取得したときの外気の温度が所定の気温である場合に報知条件を満たすと判定することを特徴とする請求項5に記載の情報処理装置。   6. The information processing apparatus according to claim 5, wherein the condition determining unit determines that the notification condition is satisfied when the temperature of the outside air at the time of acquiring the image data by the acquisition is a predetermined air temperature. 前記判定手段は、更に前記車両に動物が残っているかを判定し、
前記通知手段は、更に前記車両に動物が残っていると判定されることを条件に、前記車両を特定可能な情報を含む通知を行うことを特徴とする請求項1乃至6のいずれか1項に記載の情報処理装置。
The determination means further determines whether an animal remains in the vehicle;
The notification means further performs notification including information that can specify the vehicle, on the condition that it is determined that an animal remains in the vehicle. The information processing apparatus according to claim 1.
第1の撮像装置と、第2の撮像装置から画像データを取得する取得手段と、
前記取得手段により前記第1の撮像装置から取得した画像データから乗車人数を特定する乗車人数特定手段と、
前記取得手段により前記第2の撮像装置から取得した画像データから降車人数を特定する降車人数特定手段と、
前記乗車人数特定手段で特定した乗車人数より、前記降車人数特定手段で特定した降車人数が少ないことを条件に通知する通知手段と
を備えることを特徴とする情報処理装置。
A first imaging device, acquisition means for acquiring image data from the second imaging device,
A boarding number specifying means for specifying the number of boarding persons from the image data acquired from the first imaging device by the acquiring means;
A getting-off people specifying means for specifying the getting-off people from the image data obtained from the second imaging device by the obtaining means;
An information processing apparatus comprising: notification means for notifying on the condition that the number of getting-off people identified by the getting-off people specifying means is smaller than the number of people specified by the getting-in people specifying means.
撮像装置により車外から車両を撮像することで得られる画像データを取得する取得工程と、
前記取得工程で取得した画像データを用いて、前記車両に人物が残っているかを判定する判定工程と、
前記判定工程により、前記車両に人物が残っていると判定されることを条件に、前記車両を特定可能な情報を含む通知を行う通知工程と
を備えることを特徴とする情報処理装置の制御方法。
An acquisition step of acquiring image data obtained by imaging a vehicle from outside the vehicle by an imaging device;
A determination step of determining whether a person remains in the vehicle using the image data acquired in the acquisition step;
A control step of performing a notification including information capable of specifying the vehicle on condition that it is determined by the determination step that a person remains in the vehicle; .
第1の撮像装置と、第2の撮像装置から画像データを取得する取得工程と、
前記取得工程で、前記第1の撮像装置から取得した画像データから乗車人数を特定する乗車人数特定工程と、
前記取得工程で、前記第2の撮像装置から取得した画像データから降車人数を特定する降車人数特定工程と、
前記乗車人数特定工程で特定した乗車人数より、前記降車人数特定工程で特定した降車人数が少ないことを条件に通知する通知工程と
を備えることを特徴とする情報処理装置の制御方法。
An acquisition step of acquiring image data from the first imaging device and the second imaging device;
A boarding number identification step of specifying the number of passengers from the image data acquired from the first imaging device in the acquiring step;
In the acquisition step, an alighting person number specifying step for specifying the alighting person number from the image data acquired from the second imaging device;
A control method of an information processing apparatus, comprising: a notification step of notifying on the condition that the number of getting-off persons identified in the getting-off person identification step is smaller than the number of people identified in the getting-in person identification step.
コンピュータを請求項1乃至8のいずれか1項に記載の情報処理装置の各手段として機能させるためのプログラム。   A program for causing a computer to function as each means of the information processing apparatus according to any one of claims 1 to 8.
JP2018230084A 2017-12-08 2018-12-07 Information processing apparatus, control method of the same, and program Pending JP2019106703A (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017235735 2017-12-08
JP2017235735 2017-12-08

Publications (1)

Publication Number Publication Date
JP2019106703A true JP2019106703A (en) 2019-06-27

Family

ID=67062485

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018230084A Pending JP2019106703A (en) 2017-12-08 2018-12-07 Information processing apparatus, control method of the same, and program

Country Status (1)

Country Link
JP (1) JP2019106703A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7289165B1 (en) 2022-02-28 2023-06-09 株式会社ユピテル Information processing system and program, etc.

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008102752A (en) * 2006-10-19 2008-05-01 Sankyo Kk Monitoring system
JP2008160496A (en) * 2006-12-25 2008-07-10 Hitachi Ltd Monitoring system
JP2008310568A (en) * 2007-06-14 2008-12-25 Yugijo Jido Hokyu Sochi Kogyo Kumiai Method for managing parking lot of amusement center
JP2011141581A (en) * 2010-01-05 2011-07-21 Hitachi Solutions Ltd System for notification of in-vehicle abnormal condition

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008102752A (en) * 2006-10-19 2008-05-01 Sankyo Kk Monitoring system
JP2008160496A (en) * 2006-12-25 2008-07-10 Hitachi Ltd Monitoring system
JP2008310568A (en) * 2007-06-14 2008-12-25 Yugijo Jido Hokyu Sochi Kogyo Kumiai Method for managing parking lot of amusement center
JP2011141581A (en) * 2010-01-05 2011-07-21 Hitachi Solutions Ltd System for notification of in-vehicle abnormal condition

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7289165B1 (en) 2022-02-28 2023-06-09 株式会社ユピテル Information processing system and program, etc.

Similar Documents

Publication Publication Date Title
US9451062B2 (en) Mobile device edge view display insert
JP7229662B2 (en) How to issue alerts in a video surveillance system
KR102087073B1 (en) Image-processing Apparatus for Car and Method of Sharing Data Using The Same
EP1703437A2 (en) Monitoring system, monitoring device and method, recording medium, and program
CN104011734B (en) System, the method and apparatus of information are obtained from the object for being attached to vehicle
CN105359173A (en) Method and system for identifying damage caused to a vehicle
KR101729486B1 (en) Around view monitor system for detecting blind spot and method thereof
JP7108847B2 (en) Parking monitoring system, parking monitoring method and program
CN107730902B (en) Recording method of vehicle video, camera equipment and storage medium
KR102181355B1 (en) Vehicle search system based artificial intelligence
JP4618062B2 (en) Monitoring device, monitoring system, and monitoring method
KR101084914B1 (en) Indexing management system of vehicle-number and man-image
CN113971782A (en) Comprehensive monitoring information management method and system
JP2019106703A (en) Information processing apparatus, control method of the same, and program
JP2011154618A (en) Apparatus for detecting passenger for mobile body
CN111241918B (en) Vehicle tracking prevention method and system based on face recognition
KR101686851B1 (en) Integrated control system using cctv camera
KR102097316B1 (en) Vehicle blackbox with active transmission function for accident video
KR101572478B1 (en) intelligent black box systems for vehicle and providing method thereof
JP2020191585A (en) Information processing device, information processing method, and program
CN110826387A (en) Detection apparatus, control method thereof, and computer-readable recording medium
CN111862576A (en) Method for tracking suspected target, corresponding vehicle, server, system and medium
US11436836B2 (en) Vehicular access security system
JP7098508B2 (en) Object authentication system, object registration device, object authentication method and object authentication program
WO2016114378A1 (en) Information collection system, information collection device, information collection terminal, information collection method, and information collection program

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190109

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211207

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221206

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230606