JP6583831B2 - 滞在状況表示システムおよび滞在状況表示方法 - Google Patents

滞在状況表示システムおよび滞在状況表示方法 Download PDF

Info

Publication number
JP6583831B2
JP6583831B2 JP2017084136A JP2017084136A JP6583831B2 JP 6583831 B2 JP6583831 B2 JP 6583831B2 JP 2017084136 A JP2017084136 A JP 2017084136A JP 2017084136 A JP2017084136 A JP 2017084136A JP 6583831 B2 JP6583831 B2 JP 6583831B2
Authority
JP
Japan
Prior art keywords
person
area
stay
image
displayed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017084136A
Other languages
English (en)
Other versions
JP2018181225A (ja
Inventor
園子 平澤
園子 平澤
藤松 健
健 藤松
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2017084136A priority Critical patent/JP6583831B2/ja
Priority to US16/606,463 priority patent/US11212487B2/en
Priority to CN201880025251.1A priority patent/CN110520879A/zh
Priority to GB201914973A priority patent/GB2575210A/en
Priority to PCT/JP2018/013652 priority patent/WO2018193813A1/ja
Priority to DE112018001440.1T priority patent/DE112018001440T5/de
Publication of JP2018181225A publication Critical patent/JP2018181225A/ja
Application granted granted Critical
Publication of JP6583831B2 publication Critical patent/JP6583831B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Analysis (AREA)

Description

本発明は、施設に設置されたカメラにより撮影される映像に基づいて、対象エリアにおける人物の滞在状況に関する表示情報を生成する滞在状況表示システムおよび滞在状況表示方法に関するものである。
オフィスビルなどの施設においては、施設内を撮影するカメラを設置して、そのカメラの映像で施設内の状況を監視する監視システムが広く普及している。このようなカメラの映像を利用して、施設内での人物の滞在状況に関する情報を取得して、その情報をユーザに提示するようにすると、所用で面会したい人物が自席にいるかどうかなどを簡単に確認することができ、ユーザの利便性が向上する。
このような人物の滞在状況をユーザに提示する技術として、従来、カメラの映像に基づいて、人物の在席状況に関する情報、具体的には、在席・空席、会議中、電話中、面会拒否などに関する情報を取得して、その情報をユーザに提示し、また、在席率・空席率などの占有率、混雑度、混雑場所などに関する統計情報をユーザに提示する技術が知られている(特許文献1参照)。
特開2002−260110号公報
さて、オフィスのように多数の人物が滞在する場所では、視認性に優れた滞在情報をユーザに提示して、各人物の滞在状況をユーザが簡単に確認できるようにするとよい。そこで、対象エリアのレイアウトを表すエリアマップ上の各人物の座席(定位置)に、各人物の滞在状況を表す画像を重畳した滞在マップ(在席マップ)を表示することが考えられる。
一方、オフィスでは、組織変更などに伴って、机や椅子の位置や席割りがしばしば変更されることがある。このため、滞在マップの作成や更新が頻繁に必要になり、大変な手間がかかる。そこで、滞在マップの作成や更新の作業を効率よく行うことができる技術が望まれる。
しかしながら、従来の技術では、人物が特定の場所にいるか否かに関する滞在情報をユーザに提示するだけであり、視認性に優れた滞在マップをユーザに提示することに関してなんら考慮されておらず、滞在マップの作成や更新の作業を効率よく行うことができないという問題があった。
そこで、本発明は、多数の人物が滞在する場所を対象にして各人物の滞在状況を提示する場合の視認性に優れた滞在マップの作成や更新の作業を効率よく行うことができる滞在状況表示システムおよび滞在状況表示方法を提供することを主な目的とする。
本発明の滞在状況表示システムは、施設に設置されたカメラにより撮影される映像を取得して、対象エリアにおける人物の滞在状況を表す滞在マップを表示するとともに、オペレータの編集操作に応じて前記滞在マップを生成する処理をプロセッサにより実行する滞在状況表示システムであって、前記プロセッサは、前記対象エリアを表す各人物の定位置となる座席枠を有したエリア画像を表示するとともに、人物の滞在状況に応じて表示形態が変更されるように前記滞在マップに表示される人物画像を人物の所属により分類された状態で人物の名前と共に一覧表示し、前記人物画像を選択して前記座席枠に前記人物画像を移動させるオペレータの編集操作に応じて、前記エリア画像における各人物の定位置に前記人物画像が配置された前記滞在マップを生成し、さらに、前記人物画像の前記エリア画像への配置後に、前記人物画像に対するオペレータの所定操作に応じて、前記名前および前記所属を表す文字を吹き出し表示する構成とする。
また、本発明の滞在状況表示方法は、施設に設置されたカメラにより撮影される映像を取得して、対象エリアにおける人物の滞在状況を表す滞在マップを表示するとともに、オペレータの編集操作に応じて前記滞在マップを生成する処理をプロセッサにより実行する滞在状況表示方法であって、前記対象エリアを表す各人物の定位置となる座席枠を有したエリア画像を表示するとともに、人物の滞在状況に応じて表示形態が変更されるように前記滞在マップに表示される人物画像を人物の所属により分類された状態で人物の名前と共に一覧表示し、前記人物画像を選択して前記座席枠に前記人物画像を移動させるオペレータの編集操作に応じて、前記エリア画像における各人物の定位置に前記人物画像が配置された前記滞在マップを生成し、さらに、前記人物画像の前記エリア画像への配置後に、前記人物画像に対するオペレータの所定操作に応じて、前記名前および前記所属を表す文字を吹き出し表示する構成とする。
本発明によれば、人物画像の一覧からエリア画像上の座席枠に人物画像を移動させるオペレータの編集操作が行われた滞在マップにおいて、エリア画像への配置後に人物画像に誤りがないかをオペレータが確認することができ、滞在マップの作成や更新の作業を効率よく行うことができる。
第1実施形態に係る滞在状況表示システムの全体構成図 第1実施形態に係る施設内の各部屋のレイアウトおよびカメラ1の設置状況を示す説明図 第1実施形態に係るカメラ1の映像に対する検知エリアの設定状況を示す説明図 第1実施形態に係る施設管理装置3およびユーザ端末4の概略構成を示すブロック図 第1実施形態に係るカメラ設定情報の内容を示す説明図 第1実施形態に係る在席マップ画面を示す説明図 第1実施形態に係るエリア一覧画面を示す説明図 第2実施形態に係る施設管理装置3およびユーザ端末4の概略構成を示すブロック図 第2実施形態に係るエリア一覧画面を示す説明図 第2実施形態に係る在席マップ画面を示す説明図 第2実施形態に係る人物アイコンの変化状況を示す説明図 第2実施形態に係る在席マップ画面の要部を示す説明図 第3実施形態に係る施設管理装置3およびユーザ端末4の概略構成を示すブロック図 第3実施形態に係るエリア一覧画面を示す説明図 第3実施形態に係るエリア一覧画面の要部を示す説明図 第3実施形態に係るエリア一覧画面の変形例を示す説明図 第3実施形態に係る施設管理装置3の処理手順を示すフロー図 第3実施形態に係る施設管理装置3の処理手順の変形例を示すフロー図 第4実施形態に係る施設管理装置3およびユーザ端末4の概略構成を示すブロック図 第4実施形態に係る検知エリアの設定状況を示す説明図 第4実施形態に係る施設管理装置3の処理手順を示すフロー図 第4実施形態に係る施設管理装置3の処理手順の変形例を示すフロー図 第4実施形態に係る検知エリア編集画面を示す説明図 第5実施形態に係る施設管理装置3およびユーザ端末4の概略構成を示すブロック図 第5実施形態に係る在席マップ編集画面を示す説明図 第5実施形態に係る在席マップ編集画面の要部を示す説明図 第5実施形態に係るエリアマップ編集画面を示す説明図
前記課題を解決するためになされた第1の発明は、施設に設置されたカメラにより撮影される映像を取得して、対象エリアにおける人物の滞在状況を表す滞在マップを表示するとともに、オペレータの編集操作に応じて前記滞在マップを生成する処理をプロセッサにより実行する滞在状況表示システムであって、前記プロセッサは、前記対象エリアを表す各人物の定位置となる座席枠を有したエリア画像を表示するとともに、人物の滞在状況に応じて表示形態が変更されるように前記滞在マップに表示される人物画像を人物の所属により分類された状態で人物の名前と共に一覧表示し、前記人物画像を選択して前記座席枠に前記人物画像を移動させるオペレータの編集操作に応じて、前記エリア画像における各人物の定位置に前記人物画像が配置された前記滞在マップを生成し、さらに、前記人物画像の前記エリア画像への配置後に、前記人物画像に対するオペレータの所定操作に応じて、前記名前および前記所属を表す文字を吹き出し表示する構成とする。
これによると、人物画像の一覧からエリア画像上の座席枠に人物画像を移動させるオペレータの編集操作が行われた滞在マップにおいて、エリア画像への配置後に人物画像に誤りがないかをオペレータが確認することができ、滞在マップの作成や更新の作業を効率よく行うことができる。
また、第2の発明は、前記プロセッサは、予め登録された物体を前記映像から検出して、前記対象エリアにおける座席に対応した物体の位置情報を取得し、前記物体の位置情報に基づいて、前記座席枠が描画された前記エリア画像を生成する構成とする。
これによると、人物画像をエリア画像上の適切な位置に貼り付けることができる。
また、第3の発明は、前記プロセッサは、前記座席枠上にのみオペレータにより選択された前記人物画像の移動を許容する制御を行う構成とする。
これによると、滞在マップの作成する際のオペレータの編集操作を容易に行うことができる。
また、第4の発明は、前記プロセッサは、前記座席枠を前記映像上に表示し、前記座席枠に対して行われるオペレータの編集操作に応じて、前記座席枠が修正された前記エリア画像を生成する構成とする。
これによると、映像から座席を検出する際に誤検出が発生しても、適切なエリア画像を生成することができる。なお、座席枠の修正では、座席枠の位置およびサイズの変更(拡大や縮小)を行う他、余分な座席枠の削除や、必要な座席枠の追加を行うことができるようにするとよい。
また、第5の発明は、前記人物画像は、顔画像を含む構成とする。
これによると、人物画像に顔画像を含むものとすると、人物の名前がわからない場合でも、その人物の滞在状況を把握することができる。
また、第6の発明は、施設に設置されたカメラにより撮影される映像を取得して、対象エリアにおける人物の滞在状況を表す滞在マップを表示するとともに、オペレータの編集操作に応じて前記滞在マップを生成する処理をプロセッサにより実行する滞在状況表示方法であって、前記対象エリアを表す各人物の定位置となる座席枠を有したエリア画像を表示するとともに、人物の滞在状況に応じて表示形態が変更されるように前記滞在マップに表示される人物画像を人物の所属により分類された状態で人物の名前と共に一覧表示し、前記人物画像を選択して前記座席枠に前記人物画像を移動させるオペレータの編集操作に応じて、前記エリア画像における各人物の定位置に前記人物画像が配置された前記滞在マップを生成し、さらに、前記人物画像の前記エリア画像への配置後に、前記人物画像に対するオペレータの所定操作に応じて、前記名前および前記所属を表す文字を吹き出し表示する構成とする。
これによると、第1の発明と同様に、滞在マップの作成や更新の作業を効率よく行うことができる。
以下、本発明の実施の形態を、図面を参照しながら説明する。
(第1実施形態)
図1は、第1実施形態に係る滞在状況表示システムの全体構成図である。
この滞在状況表示システムは、施設内の各部屋(対象エリア)における人物の滞在状況に関する情報をユーザに提示するものであり、カメラ1と、レコーダ2と、施設管理装置3と、ユーザ端末4と、を備えている。カメラ1、レコーダ2、施設管理装置3、およびユーザ端末4は、ネットワークを介して接続されている。
カメラ1は、施設内の各部屋(対象エリア)に設置されており、各部屋に滞在する人物を撮影する。
レコーダ2は、カメラ1から送信される映像を蓄積する。
施設管理装置3は、カメラ1およびレコーダ2から送信される映像を受信して、その映像を解析することで、施設内の各部屋(対象エリア)における人物の滞在状況に関する表示情報を生成する。
ユーザ端末4は、ユーザが操作するPCやタブレット端末などである。このユーザ端末4は、施設管理装置3から送信される表示情報に基づいて、施設内の各部屋(対象エリア)における人物の滞在状況に関する画面を表示し、この画面をユーザが閲覧することで、施設内の各部屋における人物の滞在状況をユーザが確認することができる。
次に、第1実施形態に係る施設内の各部屋のレイアウトおよびカメラ1の設置状況について説明する。図2は、施設内の各部屋のレイアウトおよびカメラ1の設置状況を示す説明図である。
本実施形態では、施設に、図2(A)に示すオフィス(事務室)、図2(B)に示す会議室、および図2(C)に示す共用室が設けられている。
図2(A)に示すオフィスには、机および椅子が並べて配置されており、1対の机および椅子で構成される座席が各人物に割り当てられて、各人物は自分の座席に着席して業務を行う。図2(B)に示す会議室には、1つのテーブルの周囲に複数の椅子が配置されており、1つのグループが部屋全体を貸し切って利用する。図2(C)に示す共用室には、複数のテーブルが配置されるとともに、各テーブルの周囲に複数の椅子が配置されており、1つのテーブルとその周囲の複数の椅子とにより1つの区画(分割エリア)が形成され、この1つの区画を1つのグループが貸し切って利用する。
オフィス、会議室および共用室の各部屋の天井には、カメラ1が設置されており、各部屋に滞在する人物を撮影する。この場合、カメラ1には、魚眼レンズを用いて360度の範囲を撮影する全方位カメラを採用するとよいが、所定の画角の範囲を撮影するボックスカメラも可能である。
次に、第1実施形態に係るカメラ1の映像に対する検知エリアの設定状況について説明する。図3は、カメラ1の映像に対する検知エリアの設定状況を示す説明図である。
本実施形態では、図3(A),(B),(C)に示すように、カメラ1の映像上に検知エリア(点線の矩形エリア)が予め設定される。この検知エリアは、座席に着席した人物の身体が存在することが想定される位置に設定され、1つの検知エリアが1人の人物に対応するように、人物の身体の大きさを基準にして設定される。
また、本実施形態では、カメラ1の映像上に設定される検知エリアに基づいて在席検知の処理が行われる。この在席検知の処理では、映像上の検知エリアにおける人物の滞在を検知して、検知エリアごとの人物の滞在状況に関する滞在情報を取得する。
ここで、本実施形態では、各部屋(対象エリア)に予め設定された部屋属性(エリア属性)、具体的には、オフィス(事務室)、会議室および共用室の各々に応じた表示項目にしたがって滞在情報を反映させた表示情報を生成する。
図3(A)に示すように、オフィス(第1のエリア属性)の場合には、検知エリアの各々での人物の滞在状況、すなわち、座席ごとの在席状況が表示項目となり、滞在情報に基づいて、各座席に人物が在席するか否かに関する在席状況を表示する。
図3(B)に示すように、会議室(第2のエリア属性)の場合には、複数の検知エリアを集約した集約エリアの利用状況を表示項目として表示情報を生成する。特にここでは、1つの部屋(対象エリア)全体の利用状況が表示項目となり、各部屋が利用中か否かに関する利用状況を表示する。このとき、部屋(対象エリア)全体を1つの判定エリアとして、滞在情報に基づいて、各部屋が利用中か否かの判定を行う。なお、1つの部屋で1人以上の人物の滞在が検知されると、その部屋は利用中と判定すればよい。
図3(C)に示すように、共用室(第3のエリア属性)の場合には、会議室と同様に、複数の検知エリアを集約した集約エリアの利用状況を表示項目として表示情報を生成する。特にここでは、1つの部屋(対象エリア)の中に複数設定された各区画(分割エリア)の利用状況が表示項目となり、各区画が利用中か否かに関する利用状況を表示する。このとき、複数の検知エリアを含む1つの区画を1つの判定エリアとして、滞在情報に基づいて、各区画が利用中か否かの判定を行う。なお、1つの区画で1人以上の人物の滞在が検知されると、その区画は利用中と判定すればよい。
なお、検知エリアは、カメラ1の映像を表示した画面上で検知エリアの範囲をユーザが指定する操作を行うことで設定されるようにすればよいが、後述の第4実施形態と同様に、カメラ1の映像から物体(椅子および机)を検出して、その検出結果に基づいて検知エリアを設定するようにしてもよい。
次に、第1実施形態に係る施設管理装置3およびユーザ端末4の概略構成について説明する。図4は、施設管理装置3およびユーザ端末4の概略構成を示すブロック図である。
施設管理装置3は、通信部21と、プロセッサ22と、記憶部23と、モニタ24(表示装置)と、入力デバイス25と、を備えている。
通信部21は、カメラ1およびレコーダ2との間で通信を行い、カメラ1およびレコーダ2から送信される映像を受信する。
記憶部23は、通信部21で受信した映像や、検知エリアに関する設定情報やカメラに関する設定情報(図5参照)などの各種の設定情報や、プロセッサ22で実行されるプログラムなどを記憶する。
モニタ24では、検知エリアを入力する画面(図示せず)などが表示される。入力デバイス25では、オペレータが検知エリアを入力する操作などを行う。
プロセッサ22は、記憶部23に記憶されたプログラムを実行することで、各種の処理を行う。本実施形態では、在席検知、エリア判定、および画面制御の各処理を行う。
在席検知の処理では、カメラ1の映像に基づいて、映像上に予め設定された人物の滞在が想定される検知エリアにおける人物の滞在を一定時間ごとに検知して、各検知エリアにおける一定時間ごとの人物の滞在状況に関する滞在情報を取得する。
本実施形態では、人物が滞在すると映像に何らかの変化が生じることから、検知エリアにおける映像の変化状況に基づいて、座席に人物が在席しているか否かを検知する。具体的には、まず、所定のサンプリング周期(例えば1分間)をおいた各時刻の映像から、各時刻の検知エリアの映像を切り出す。そして、各時刻の検知エリアの映像について映像変化率を取得する。このとき、サンプリング周期をおいた直前の時刻の映像と比較して、その直前の時刻の映像に対する映像変化率を取得する。次に、各時刻の映像変化率に基づいて、検知エリアにおける人物の滞在の有無を判定する。そして、判定結果に基づいて、サンプリング周期をおいた各時刻での人物の滞在の有無を表す滞在情報を生成する。なお、在席検知処理において、ディープラーニングにより、在席状態と不在状態との2クラスを予め学習させた識別器を用いることができる。在席検知処理の際には、識別器により、検知エリアの画像に関して在席状態としての尤度(確からしさ)と不在状態としての尤度とを求めて、2つの尤度を比較することで、在席と不在とのいずれであるかを判定することができる。
エリア判定の処理では、滞在情報に基づいて、部屋属性(エリア属性)に応じて、複数の検知エリアを集約した集約エリアの利用状況を判定する。すなわち、会議室のように、部屋全体を1つのグループが独占的に利用する部屋では、部屋が利用中か否かに関する利用状況を判定する。また、共用室のように、対象エリア内に複数の区画が設定されている部屋では、各区画が利用中か否かに関する利用状況を判定する。
画面制御の処理では、ユーザ端末4に表示させる画面を制御する。本実施形態では、滞在状況提示画面(図6,図7参照)に関する表示情報を生成する。この滞在状況提示画面は、在席検知の検知結果(滞在情報)およびエリア判定の判定結果に応じて一定時間ごとに更新される。
なお、施設管理装置3では、カメラ1から取得した現在の映像を用いた処理を行うことで、現在の滞在状況をリアルタイムにユーザに提示することができる。また、レコーダ2から取得した過去の映像を用いた処理を行うことで、過去の滞在状況をユーザに提示することができる。これにより、管理者は、過去の各部屋の利用状況を把握して、部屋のレイアウトなどの検討を行うことができ、また、部屋のレイアウトなどを変更した際の改善状況を確認することができる。
ユーザ端末4は、通信部31と、プロセッサ32と、記憶部33と、モニタ34と、入力デバイス35と、を備えている。
通信部31は、施設管理装置3との間で通信を行う。記憶部33は、プロセッサ22で実行されるプログラムなどを記憶する。プロセッサ32は、ユーザ端末4の各部の動作を制御し、ユーザによる入力デバイス35の操作に応じて、滞在状況提示画面(図6,図7参照)の表示要求を通信部31から施設管理装置3に送信する。そして、施設管理装置3から送信される滞在状況提示画面に関する表示情報を通信部31で受信すると、その表示情報に基づいてモニタ34に滞在状況提示画面を表示する。
なお、ユーザ端末4がタブレット端末などである場合には、入力デバイス35はタッチパネルとなり、モニタ34となる表示パネルと組み合わされてタッチパネルディスプレイを構成する。
次に、第1実施形態に係る施設管理装置3の記憶部23に記憶されるカメラ設定情報について説明する。図5は、カメラ設定情報の内容を示す説明図である。
カメラ設定情報には、カメラID、カメラ名称、部屋番号、および部屋属性(エリア属性)が登録されている。このカメラ設定情報に基づいて、プロセッサ22において、各部屋の部屋属性を取得して、その部屋属性に応じた表示項目にしたがって表示情報を生成する。
なお、本実施形態では、1つの部屋を1つの対象エリアとして、部屋ごとに部屋属性(エリア属性)が設定されるようにしたが、1つの部屋を複数の分割エリアに分割して、その分割エリアごとにエリア属性が設定されるようにしてもよい。
次に、第1実施形態に係るユーザ端末4に表示される滞在状況提示画面について説明する。図6は、滞在状況提示画面としての在席マップ画面を示す説明図である。図7は、滞在状況提示画面としてのエリア一覧画面を示す説明図である。
本実施形態では、施設内の各部屋における人物の滞在状況を示す滞在状況提示画面が、ユーザ端末4に表示される。
図6に示す在席マップ画面および図7に示すエリア一覧画面には、各フロア(1F、2F、3F)のタブ41が設けられている。このタブ41を選択すると、選択されたフロアの画面が表示される。なお、オフィス(3F)の場合には、第2実施形態で示すエリア一覧画面(図9参照)と同様の画面で部屋を選択することで、図6に示す在席マップ画面に遷移する。
オフィス(事務室)では、座席ごとに設定された検知エリアの各々での人物の在席状況が表示項目となり、図6に示すように、オフィスにおける滞在状況提示画面としての在席マップ画面には、各人物の在席状況(滞在状況)を表す在席マップ42(滞在マップ)が表示される。この在席マップ42では、座席ごとの在席状況を表す座席アイコン43(定形画像)が、オフィス(対象エリア)のレイアウトを表わすエリアマップ44(地図画像)上に重畳されている。エリアマップ44には机の画像45が描画されている。
座席アイコン43には、在席状況(在席および不在)に応じて「在」または「不」の文字が表示される。また、座席アイコン43は、在席状況に応じて色が変化し、在席の場合には赤色で表示され、不在の場合には緑色で表示される。なお、オフィスでの座席アイコン43の表示態様は、これに限らず、在席状況(在席および不在)が識別できればよく、後述の人物アイコン等を用いることができる。
会議室では、会議室(対象エリア)全体の利用状況が表示項目となり、図7(A)に示すように、エリア一覧画面には、会議室ごとの利用状況を表すエリアアイコン46が表示される。このエリアアイコン46には、利用状況に応じて「使用中」または「利用可」の文字が表示される。また、エリアアイコン46は、利用状況に応じて色が変化し、使用中の場合には赤色で表示され、空き状態で利用可の場合には緑色で表示される。
共用室では、共用室(対象エリア)内に複数設定された各区画(分割エリア)の利用状況が表示項目となり、図7(B)に示すように、エリア一覧画面には、区画ごとの利用状況を表す区画アイコン47が表示される。この区画アイコン47には、利用状況に応じて「使用中」または「利用可」の文字が表示される。また、区画アイコン47は、利用状況に応じて色が変化し、使用中の場合には赤色で表示され、空き状態で利用可の場合には緑色で表示される。
なお、本実施形態では、図6に示すオフィスの滞在状況提示画面(在席マップ画面)で、オフィスのレイアウトを表わすエリアマップ44上に座席アイコン43を重畳するようにしたが、カメラ1の映像上に座席アイコン43を重畳するようにしてもよい。この場合、映像の歪みを補正する処理を行うようにするとよい。
(第2実施形態)
次に、第2実施形態について説明する。なお、ここで特に言及しない点は前記の実施形態と同様である。図8は、第2実施形態に係る施設管理装置3およびユーザ端末4の概略構成を示すブロック図である。
第1実施形態では、在席マップ(図6参照)を表示するようにしたが、この在席マップでは、オフィスでの人物の在席状況を確認できるが、各人物を簡単に識別することができない。そこで、本実施形態では、人物の顔画像を含む人物アイコンを在席マップに表示して、複数の人物の在席状況を一括して確認するとともに、各人物を簡単に識別できるようにする。
施設管理装置3は、第1実施形態と同様に、通信部21と、プロセッサ22と、記憶部23と、モニタ24と、入力デバイス25と、を備えている。
通信部21、記憶部23、モニタ24、および入力デバイス25は、第1実施形態と同様であるが、この他に、記憶部23は、各人物のスケジュール情報を記憶する。
プロセッサ22は、第1実施形態と同様に、在席検知、および画面制御の各処理を行うが、この他に、スケジュール連携、およびメール連携の各処理を行う。在席検知の処理は第1実施形態と同様である。
画面制御の処理では、エリア一覧画面(図9参照)および在席マップ画面(図10参照)に関する表示情報を生成する。
スケジュール連携の処理では、在席マップ画面(図10参照)でのユーザの操作に応じて、記憶部から人物のスケジュール情報を取得して、そのスケジュール情報を画面に表示させる。
メール連携の処理では、在席マップ画面(図10参照)でのユーザの操作に応じて、ユーザ端末4にインストールされたメールアプリケーションプログラムを起動させて、ユーザ端末4に電子メール作成画面を表示させる。
なお、本実施形態では、施設管理装置3が、各人物のスケジュール情報を記憶するようにしたが、このスケジュール情報は、スケジュール管理専用の装置から取得すればよい。また、施設管理装置3自体がスケジュール管理を行うものとしてもよい。
ユーザ端末4は、第1実施形態と同様に、通信部31と、プロセッサ32と、記憶部33と、モニタ34と、入力デバイス35と、を備えている。
通信部31は、施設管理装置3との間で通信を行う。記憶部33は、プロセッサ22で実行されるプログラムなどを記憶する。プロセッサ32は、ユーザ端末4の各部の動作を制御し、ユーザによる入力デバイス35の操作に応じて、エリア一覧画面(図9参照)や在席マップ画面(図10参照)の表示要求を通信部31から施設管理装置3に送信する。そして、施設管理装置3から送信されるエリア一覧画面や滞在状況提示画面に関する表示情報を通信部31で受信すると、その表示情報に基づいてモニタ34にエリア一覧画面や滞在状況提示画面を表示する。
また、プロセッサ32は、在席マップ画面(図10参照)でのユーザの操作に応じて、記憶部33に記憶されたメールアプリケーションプログラムを実行して、モニタ34に電子メール作成画面を表示させる。
次に、第2実施形態に係るユーザ端末4に表示されるエリア一覧画面について説明する。図9は、エリア一覧画面を示す説明図である。
このエリア一覧画面には、各フロア(1F、2F、3F)のタブ41が設けられており、このタブ41を選択すると、選択されたフロアのエリア一覧画面が表示される。ここで、オフィス(事務室)があるフロア(3F)のタブ41を選択すると、各オフィス(対象エリア)を表す複数のエリアアイコン51が並べて表示される。
このエリア一覧画面で、ユーザが在席状況を確認したい人物の座席がある部屋のエリアアイコン51を選択して画面を遷移させる操作を行うと、在席マップ画面(図10参照)に遷移し、この在席マップ画面に、選択した部屋における各人物の在席状況が表示される。
ここで、画面を遷移させる操作としては、例えば、入力デバイス35がマウスの場合には、スクロールの操作、すなわち、ポインタをエリアアイコン51上に重ねて、マウスのスクロールボタンを操作すると、エリアアイコン51が拡大されて、在席マップ画面に遷移する。また、入力デバイス35がタッチパネルの場合には、ピンチアウトやスワイプの操作を行うようにするとよい。
次に、第2実施形態に係るユーザ端末4に表示される在席マップ画面について説明する。図10は、在席マップ画面を示す説明図である。図11は、人物アイコン53の変化状況を示す説明図である。図12は、在席マップ画面の要部を示す説明図である。
図10に示すように、在席マップ画面には、各人物の在席状況(滞在状況)を表す在席マップ52(滞在マップ)が表示される。この在席マップ52では、対象となる部屋の中に座席を有する人物ごとの人物アイコン53(人物画像)が、オフィス(対象エリア)のレイアウトを表すエリアマップ44(地図画像)上に重畳されている。エリアマップ44には机の画像45が描画されている。
人物アイコン53は、各人物の座席に対応する位置、具体的には各人物が着座する椅子の位置に表示される。この人物アイコン53には、人物の顔画像(顔の撮影画像)が埋め込まれている。これにより、人物を容易に識別することができる。
なお、本実施形態では、エリア一覧画面(図9参照)で部屋(対象エリア)を選択することで在席マップ画面に遷移するようにしたが、組織構成を表す部署リストを表示して、その部署リストの中から1つの部署を選択することで、選択した部署がある部屋の在席マップ画面が表示されるようにしてもよい。
また、本実施形態では、各人物を識別するための人物画像として、顔画像が埋め込まれた人物アイコン53を、エリアマップ44上に配置するようにしたが、この人物画像は、人物の外観の特徴を模式的に描画した画像(似顔絵、アバター)であってもよく、また、個人を識別する文字、すなわち、人物の名前や、人物の属性(所属や肩書き)を表す文字が描画されたものであってもよい。
図11に示すように、人物アイコン53は、人物の在席状況に応じて表示形態が変化する。図11(A)に示す例では、在席の有無に応じて人物アイコン53の顔画像の色が変化する。具体的には、在席時には顔画像がカラーで表示され、不在時には顔画像がグレーで表示される。これにより、人物が在席しているか否かをユーザが即座に確認することができる。
また、人物アイコン53は、現在不在である場合に、不在時間に応じて表示形態が変化する。図11(B)に示す例では、在席の有無に応じて人物アイコン53の顔画像以外の部分の色が変化する。例えば、不在時間が短いと青色で表示され、不在時間が長いと赤色で表示され、不在時間が長くなるのに応じて青色から赤色に変化する。
ここで、不在時間には、過去の不在時間、すなわち、人物が退席した時点から現時点までの時間と、未来の不在時間(不在予想時間)、すなわち、現時点から人物が座席に戻る予定の時点までの時間と、があり、いずれの不在時間で人物アイコン53を表示させるかをユーザが指定することができる。なお、過去の不在時間は、在席検知で取得した滞在情報に基づいて算出することができる。また、未来の不在時間は、スケジュール情報から算出することができる。
なお、図10に示した在席マップ画面には、人物アイコン53の色で表現される不在時間の長さを示す凡例54が表示される。
また、この在席マップ画面では、人物アイコン53に対して所定の操作を行うと、スケジュール画面(図示せず)に遷移し、人物のスケジュールを確認することができる。図12(A)に示す例では、人物アイコン53上で左クリックの操作を行うことで表示されるポップアップメニュー55で「スケジュール」を選択すると、その人物のスケジュール画面に遷移する。これにより、ユーザが人物のスケジュールを確認することができる。
また、人物アイコン53に対して所定の操作を行うと、メール作成画面(図示せず)に遷移し、その人物を宛先とした電子メールを作成することができる。図12(A)に示す例では、ポップアップメニュー55で「電子メール」を選択すると、メール作成画面に遷移する。なお、メール作成画面では、宛先のアドレスが予め設定されるため、アドレスを入力する手間を省くことができる。
なお、エリアアイコン上で右クリックの操作を行うことで表示されるリストボックス(図示せず)で、「スケジュール」や「電子メール」を選択できるようにしてもよい。また、ユーザ端末4がタブレット端末である場合など、入力デバイス35がタッチパネルである場合には、タップ、ダブルタップ、ロングタップ(長押し)などの操作で、スケジュール画面やメール作成画面に遷移するようにすればよい。
また、人物アイコン53に対して所定の操作を行うと、人物の過去および未来の在席状況が表示される。図12(B)に示す例では、人物アイコン53上にポインタを重ねるマウスオーバーの操作で、吹き出し57が表示される。この吹き出し57には、過去の在席状況、すなわち、いつから不在であるかを表す情報(15:00から不在)と、未来の在席状況、すなわち、いつから在席するか(いつまで不在であるか)を表す情報(17:00から予定なし)と、が記載される。これにより、人物の過去および未来の在席状況をユーザが確認することができる。
ここで、人物の過去の在席状況は、在席検知の処理で取得した、各時刻における人物の滞在の有無を表す滞在情報から取得すればよい。また、人物の未来の在席状況は、スケジュール情報から取得すればよい。
なお、本実施形態では、左クリックの操作でポップアップメニュー55を表示させ、右クリックの操作でリストボックス(図示せず)を表示させ、マウスオーバーの操作で吹き出し57を表示させるようにしたが、このような操作に限定されるものではない。
(第3実施形態)
次に、第3実施形態について説明する。なお、ここで特に言及しない点は前記の実施形態と同様である。図13は、第3実施形態に係る施設管理装置3およびユーザ端末4の概略構成を示すブロック図である。
第1実施形態(図7(A)参照)では、会議室(対象エリア)の利用状況をユーザに提示するようにしたが、会議室が予約により利用できる場合には、会議室が現在利用されていない場合でも予約されている場合には、その会議室は利用することができない。そこで、本実施形態では、会議室の利用状況とともに予約状況もユーザに提示するようにする。
施設管理装置3は、第1実施形態と同様に、通信部21と、プロセッサ22と、記憶部23と、モニタ24と、入力デバイス25と、を備えている。
通信部21、記憶部23、モニタ24、および入力デバイス25は、第1実施形態と同様であるが、この他に、記憶部23は、会議室の利用予約に関するスケジュール情報を記憶する。
プロセッサ22は、在席検知、エリア判定、画面制御、予約管理、スケジュール連携、およびメール連携の各処理を行う。
在席検知の処理では、カメラ1の映像に基づいて、検知エリアにおける人物の滞在を一定時間ごとに検知して、会議室における一定時間ごとの人物の滞在状況に関する滞在情報を取得する。
エリア判定の処理では、滞在情報に基づいて、会議室における人物の滞在状況、すなわち、会議室が現在利用されているか否かに関する利用状況を、一定時間ごとに判定する。
画面制御の処理では、会議室(対象エリア)の利用状況および予約状況を表示するエリア一覧画面(図14参照)に関する表示情報を生成する。
予約管理の処理では、会議室の利用予約に関するスケジュールを管理する。具体的には、ユーザ端末4に予約画面(図示せず)を表示させて、会議室の利用予約の操作をユーザに行わせて、その操作に応じて会議室の利用予約を受け付ける処理を行う。また、ユーザ端末4にキャンセル画面(図示せず)を表示させて、利用予約を解除する操作をユーザに行わせて、その操作に応じて利用予約を解除して予約情報を更新する処理を行う。
また、予約管理の処理では、予約時にユーザが指定することで、利用予約の解除を不可とするキャンセル不可フラグが設定される。
また、予約管理の処理では、会議室が予約されているにも拘わらず会議室が利用されないまま放置されている場合に、その会議室の利用予約を解除する処理を定期的に行う。
スケジュール連携の処理では、エリア一覧画面(図14参照)でのユーザの操作に応じて、記憶部23から会議室の予約スケジュール情報を取得して、その予約スケジュール情報を画面に表示させる。
メール連携の処理では、エリア一覧画面(図14参照)でのユーザの操作に応じて、ユーザ端末4にインストールされたメールアプリケーションプログラムを起動させて、ユーザ端末4に電子メール作成画面を表示させる。
なお、本実施形態では、施設管理装置3が、会議室の利用予約に関するスケジュールを管理するようにしたが、予約管理専用の装置を別に設けるようにとしてもよい。この場合、予約管理専用の装置からスケジュール情報を取得し、利用予約の解除が必要な場合には、利用予約の解除を指示する通知を施設管理装置3から予約管理専用の装置に送信するようにすればよい。
ユーザ端末4は、第1実施形態と同様に、通信部31と、プロセッサ32と、記憶部33と、モニタ34と、入力デバイス35と、を備えている。
通信部31は、施設管理装置3との間で通信を行う。記憶部33は、プロセッサ22で実行されるプログラムなどを記憶する。プロセッサ32は、ユーザ端末4の各部の動作を制御し、ユーザによる入力デバイス35の操作に応じて、エリア一覧画面(図14参照)の表示要求を通信部31から施設管理装置3に送信する。そして、施設管理装置3から送信されるエリア一覧画面に関する表示情報を通信部31で受信すると、その表示情報に基づいてモニタ34にエリア一覧画面を表示する。
また、プロセッサ32は、エリア一覧画面(図14参照)でのユーザの操作に応じて、記憶部33に記憶されたメールアプリケーションプログラムを実行して、モニタ34に電子メール作成画面を表示させる。
次に、第3実施形態に係るエリア一覧画面について説明する。図14は、エリア一覧画面を示す説明図である。図15は、エリア一覧画面の要部を示す説明図である。
図14に示すように、エリア一覧画面(利用状況提示画面)には、各フロア(1F、2F、3F)のタブ41が設けられており、このタブ41を選択すると、選択されたフロアのエリア一覧画面が表示される。ここで、会議室があるフロア(1F)のタブ41を選択すると、各会議室(対象エリア)を表す複数のエリアアイコン61(定形画像)が並べて表示される。
エリアアイコン61は、会議室の現在の利用状況に応じて表示形態が変化する。例えば、利用中であれば赤色で表示され、利用中でなければ緑色で表示される。
また、このエリア一覧画面では、エリアアイコン61に対して所定の操作を行うと、スケジュール画面(図示せず)に遷移し、会議室の予約スケジュールを確認することができる。図15(A)に示す例では、エリアアイコン61上で左クリックの操作を行うことで表示されるポップアップメニュー65で「スケジュール」を選択すると、会議室の予約スケジュール画面に遷移する。
また、エリアアイコン61に対して所定の操作を行うと、メール作成画面(図示せず)に遷移し、選択した会議室(対象エリア)の現在の予約者を宛先とした電子メールを作成することができる。図15(A)に示す例では、ポップアップメニュー65で「電子メール」を選択すると、メール作成画面に遷移する。なお、メール作成画面では、宛先のアドレスが予め設定されるため、アドレスを入力する手間を省くことができる。
なお、エリアアイコン61上で右クリックの操作を行うことで表示されるリストボックス(図示せず)で、「スケジュール」や「電子メール」を選択できるようにしてもよい。また、ユーザ端末4がタブレット端末である場合など、入力デバイス35がタッチパネルである場合には、タップ、ダブルタップ、ロングタップ(長押し)などの操作で、予約スケジュール画面やメール作成画面に遷移するようにすればよい。
また、エリアアイコン61に対して所定の操作を行うと、会議室(対象エリア)の現在の予約状況が表示される。図15(B)に示す例では、エリアアイコン61上にポインタを重ねるマウスオーバーの操作で、吹き出し67が表示される。この吹き出し67には、会議室の現在の予約状況(予約なし)と、会議室の現在の利用状況(15:00から利用なし)と、が記載されている。
これにより、現在利用されていない会議室が予約されているか否かをユーザが簡単に確認することができる。さらに、利用されていない会議室がもともと予約されていないのか、あるいは、会議が予定より早く終了して会議室が空き状態になっているのかをユーザが簡単に確認することができる。
なお、本実施形態では、左クリックの操作でポップアップメニュー65を表示させ、右クリックの操作でリストボックス(図示せず)を表示させ、マウスオーバーの操作で吹き出し67を表示させるようにしたが、このような操作に限定されるものではない。
次に、第3実施形態に係るエリア一覧画面の変形例について説明する。図16は、エリア一覧画面の変形例を示す説明図である。
図14に示した例では、会議室の現在の利用状況に応じて各会議室(対象エリア)を表すエリアアイコン61の表示形態(色)を変更するようにしたが、本変形例では、予約が入っている会議室で、予約の解除を不可とするキャンセル不可フラグが設定されている場合に、エリアアイコン61を操作不能状態として、グレーアウトで表示するようにしている。
なお、キャンセル不可フラグが設定されている場合に、エリアアイコン61を非表示状態にしてもよい。
次に、第3実施形態に係る施設管理装置3の処理手順について説明する。図17は、施設管理装置3の処理手順を示すフロー図である。
本実施形態では、利用されないまま放置されている会議室の利用予約を解除する処理を定期的に行う。なお、以下に示す処理は各会議室を対象にして順次行われる。
具体的には、まず、プロセッサ22において、対象とする会議室に現在予約が入っているか否かを判定する(ST101)。ここで、対象とする会議室に現在予約が入っていない場合には(ST101でNo)、終了する。
一方、対象とする会議室に現在予約が入っている場合には(ST101でYes)、次に、予約にキャンセル不可フラグが設定されているか否かを判定する(ST102)。ここで、キャンセル不可フラグが設定されている場合には(ST102でYes)、終了する。
一方、キャンセル不可フラグが設定されていない場合には(ST102でNo)、次に、会議室が現在利用中か否かを判定する(ST103)。ここで、会議室が現在利用中である場合には(ST103でYes)、終了する。
一方、会議室が現在利用中でない場合には(ST103でNo)、次に、利用されないまま所定時間(例えば15分間)経過したか否かを判定する(ST104)。ここで、利用されないまま所定時間経過していない場合には(ST104でYes)、終了する。
一方、利用されないまま所定時間経過した場合には(ST104でNo)、予約者のユーザ端末4に、予約を解除する旨の通知(キャンセル通知)を電子メールなどで送信する(ST105)。そして、利用予約を解除して予約情報を更新する処理を行う(ST106)。
なお、会議室が予約されているのに利用されていない場合には、予約時間の最初から全く利用しなかった場合と、会議が予定より早く終了して会議室が空き状態になっている場合とがある。このため、所定時間の経過判定(ST104)では、予約時間の最初から全く利用しなかった場合には、予約した利用時間の開始時刻からの経過時間(放置時間)で判定すればよい。また、予約した利用時間の途中から空き状態になっている場合には、空き状態になった以降の経過時間で判定すればよい。
このようにして予約が解除されて予約情報が更新されると、更新された予約情報が、会議室の利用状況を表示するエリア一覧画面(図14参照)に反映され、マウスオーバーの操作で表示される吹き出し67(図15(B)参照)に、予約が解除されたことが表示される。
次に、第3実施形態に係る施設管理装置3の処理手順の変形例について説明する。図18は、施設管理装置3の処理手順の変形例を示すフロー図である。
図17に示した例では、利用されないまま放置されている会議室の利用予約を解除する処理を定期的に行うようにしたが、本変形例では、会議室の利用状況を表示するエリア一覧画面(図14参照)においてユーザが会議室を選択する操作をトリガとして、会議室の利用予約を解除する処理を開始するようにする。
具体的には、まず、プロセッサ22において、エリア一覧画面(図14参照)において会議室(対象エリア)を選択する操作、具体的にはエリアアイコン61に対するクリックやマウスオーバーの操作が行われたことを検知すると(ST111でYes)、対象とする会議室に現在予約が入っているか否かを判定する(ST101)。ここで、対象とする会議室に現在予約が入っていない場合には(ST101でNo)、終了する。
一方、対象とする会議室に現在予約が入っている場合には(ST101でYes)、次に、予約にキャンセル不可フラグが設定されているか否かを判定する(ST102)。ここで、キャンセル不可フラグが設定されている場合には(ST102でYes)、終了する。
一方、キャンセル不可フラグが設定されていない場合には(ST102でNo)、次に、会議室が現在利用中か否かを判定する(ST103)。ここで、会議室が現在利用中である場合には(ST103でYes)、終了する。
一方、会議室が現在利用中でない場合には(ST103でNo)、予約者のユーザ端末4に、予約を解除する旨の通知(キャンセル通知)を電子メールなどで送信する(ST105)。そして、予約の解除を承諾する旨の返信があるか否かを判定する(ST112)。ここで、予約の解除を承諾する旨の返信があった場合には(ST112でYes)、利用予約を解除して予約情報を更新する処理を行う(ST106)。
一方、利用予約の解除を承諾する旨の返信がない場合には(ST112でNo)、次に、利用状況が利用中に変化したか否かを判定する(ST113)。ここで、利用状況が利用中に変化している場合には(ST113でYes)、終了する。
一方、利用状況が利用中に変化していない場合には(ST113でNo)、次に、キャンセル通知を送信してから所定時間経過したか否かを判定する(ST114)。ここで、キャンセル通知を送信してから所定時間経過していない場合には(ST114でNo)、予約の解除を承諾する旨の返信があるか否かの判定(ST112)に戻る。
一方、キャンセル通知を送信してから所定時間経過した場合には(ST114でYes)、予約を解除して予約情報を更新する(ST1016)。
このように本変形例では、会議室を利用したいユーザが、エリア一覧画面(図14参照、利用状況提示画面)を閲覧して、会議室の利用状況を確認し、さらに、利用したい会議室の予約状況を確認したタイミングで、会議室の利用予約を解除する処理を開始する。これにより、ユーザはキャンセル待ちとなり、利用されないまま放置されている会議室の利用予約が迅速に解除されて、早期に会議室を利用することができる。なお、複数のユーザから会議室の利用状況の確認があり、キャンセル待ちが競合することがある。この場合は、最初にアクセスしたユーザのみをキャンセル待ちユーザとして受け付け、2番目以降のユーザに対しては会議室の利用不可(キャンセル待ち登録あり)とする旨の表示(図示せず)を吹き出し67に表示させるようにするとよい。
特に、本変形例では、利用予約を解除する旨の通知(キャンセル通知)に対して、利用予約の解除を承諾する旨の返信があった場合に、利用予約を解除して予約情報を更新する。また、利用予約を解除する旨の通知を送信してから、利用予約の解除を承諾する旨の返信がなく、かつ、会議室の利用状況が利用中に変化しないまま、所定時間経過した場合に、利用予約を強制的に解除して予約情報を更新する。これにより、利用しない会議室や、利用される可能性の低い会議室の利用予約を迅速に解除して、会議室の有効利用を図ることができる。
なお、会議室の利用予約が解除されると、エリア一覧画面(図14参照、利用状況提示画面)を表示してユーザが画面操作を行ったユーザ端末4に、利用予約が解除された旨の通知を電子メールなどにより送信するようにしてもよい。これにより、会議室の利用予約が解除されたことをユーザが迅速に把握することができるため、早期に会議室を利用することができる。
また、本実施形態では、会議室を対象エリアとした例について説明したが、対象エリアはこれに限定されるものではなく、会議以外の用途で利用される部屋でもよい。また、共用室のように、対象エリアとなる1つの部屋の中に複数設定された区画ごとに予約が必要な場合でも同様である。
(第4実施形態)
次に、第4実施形態について説明する。なお、ここで特に言及しない点は前記の実施形態と同様である。図19は、第4実施形態に係る施設管理装置3およびユーザ端末4の概略構成を示すブロック図である。
飲食店などの店舗では、フリーレイアウト、すなわち、営業時間内に顧客や店員が椅子およびテーブルを自由に移動させることができる場合がある。この場合、人物の在席を検知するために映像上に設定される検知エリアが、実際の座席の位置からずれた状態となるため、在席検知の精度が低下する。
そこで、本実施形態では、店舗に設置されて人物の滞在位置を規定する定形物体、具体的にはテーブルおよび椅子の位置を検出して、その検出結果に基づいて検知エリアを設定する。この処理を定期的に行うことで、検知エリアが随時更新され、顧客や店員が椅子およびテーブルを移動させた場合でも、在席検知の精度低下を避けることができる。
施設管理装置3は、第1実施形態と同様に、通信部21と、プロセッサ22と、記憶部23と、モニタ24(表示装置)と、入力デバイス25と、を備えている。
通信部21、記憶部23、モニタ24、および入力デバイス25は、第1実施形態と同様である。
プロセッサ22は、人物検出、物体検出、検知エリア設定、および検知エリア修正の各処理を行う。この他、プロセッサは、第1実施形態と同様に、在席検知、および画面制御の各処理を行う。
人物検出の処理では、カメラ1から取得した映像から人物を検出する。映像内に人物が存在すると、物体検出の処理において椅子およびテーブルの検出精度が低下するため、映像から人物が検出された場合には、以降の物体検出および検知エリア設定の処理は行わない。
物体検出の処理では、カメラ1から取得した映像から椅子およびテーブルを検出して、椅子およびテーブルの位置情報を取得する。なお、物体検出の処理に先だって、店舗に設置される椅子およびテーブル(定形物体)を識別器に予め学習させて物体検出を行うようにするとよく、この定形物体の学習により、物体検出の検出精度を向上させることができる。
検知エリア設定の処理では、物体検出の処理で取得した椅子およびテーブルの位置情報に基づいて、人物が在席するか否かの在席検知の対象となる検知エリアを設定する。このとき、カメラ1から離れた位置にある椅子およびテーブルは映像に小さく映るため、カメラ1からの距離に応じて検知エリアの大きさを補正する。
検知エリア修正の処理では、検知エリア設定の処理で設定された検知エリアに誤りがある場合に、検知エリア編集画面(図23参照)をモニタ24に表示して、この検知エリア編集画面上でのオペレータの操作に応じて、検知エリアの位置やサイズを修正する。
なお、本実施形態では、第1実施形態と同様に、在席検知により人物の滞在状況に関する滞在情報を取得して、その滞在情報に基づいて表示情報を生成するが、この表示情報として、第1実施形態と同様に、滞在マップ(在席マップ)を生成するようにしてもよい。これにより、大規模な店舗において、顧客の滞在状況を一目で把握することができる。
また、滞在情報に基づいて、顧客の座席占有時間、在席率、および平均滞在時間など、店舗の運営状況に関する統計情報を生成して、その統計情報に関する表示情報を生成するようにしてもよい。
次に、第4実施形態に係る検知エリアの設定状況について説明する。図20は、検知エリアの設定状況を示す説明図である。
カメラ1の映像には、店舗内に設置されたテーブルおよび椅子が映っており、この映像に対する物体検出によりテーブルおよび椅子が検出され、その検出結果に基づいて、映像上に検知エリアが設定される。
次に、第4実施形態に係る施設管理装置3の処理手順について説明する。図21は、施設管理装置3の処理手順を示すフロー図である。
本実施形態では、店舗に設置されて人物の滞在位置を規定する定形物体、具体的にはテーブルおよび椅子の位置を検出して、その検出結果に基づいて検知エリアを設定する。この処理を一定時間(例えば15分間や30分間)ごとに定期的に行うことで、検知エリアが随時更新される。
具体的には、まず、プロセッサ22において、カメラ1の映像を取得して、その映像から人物を検出する処理を行う(ST201)。そして、人物検出の処理で人物が検出されたか否かを判定する(ST202)。
ここで、人物が検出されない場合には(ST202でNo)、次に、カメラ1の映像から物体(椅子およびテーブル)を検出する処理を行う(ST203)。そして、検出された物体の位置と、記憶部23のエリア設定情報に登録された物体の位置とを比較して、物体の位置に変更があるか否かを判定する(ST204)。
ここで、物体の位置に変更がある場合には(ST204でYes)、検出された物体の位置情報に基づいて検知エリアを設定してエリア設定情報を更新する(ST205)。すなわち、検出された物体の位置に基づいて新たに設定された検知エリアの位置情報をエリア設定情報に登録する。
一方、人物が検出された場合や(ST202でYes)、物体の位置に変更がない場合には(ST204でNo)、物体検出やエリア設定の処理は行わない。
なお、本実施形態では、物体検出に先だって人物検出を行うようにしたが、人物検出を行わないようにしてよい。また、ユーザ設定で人物検出を行うか否かをユーザが選択できるようにしてよい。
次に、第4実施形態に係る施設管理装置3の処理手順の変形例について説明する。図22は、施設管理装置3の処理手順の変形例を示すフロー図である。
図21に示した例では、人物が検出されないタイミングで、物体検出およびエリア設定の処理を行うようにしたが、本変形例では、人物が検出されない場所を対象にして、物体検出およびエリア設定の処理を行うようにする。すなわち、対象エリアを複数の分割エリアに分割して、人物が検出されない分割エリアを対象にして、物体検出およびエリア設定の処理を行う。分割エリアは、例えば、対象エリアを均一な大きさで分割したセルとすればよい。
具体的には、まず、プロセッサ22において、最初の分割エリアを対象にしてカメラ1の映像から人物を検出する処理を行う(ST211)。そして、人物検出の処理で人物が検出されたか否かを判定する(ST212)。
ここで、人物が検出されない場合には(ST21でNo)、次に、分割エリアを対象にして映像から物体を検出する処理を行う(ST213)。そして、検出された物体の位置と、記憶部23のエリア設定情報に登録された物体の位置とを比較して、物体の位置に変更があるか否かを判定する(ST214)。
ここで、物体の位置に変更がある場合には(ST214でYes)、検出された物体の位置情報に基づいて検知エリアを設定してエリア設定情報を更新する(ST215)。すなわち、検出された物体の位置に基づいて新たに設定された検知エリアの位置情報をエリア設定情報に登録する。
次に、全ての分割エリアが終了したか否かを判定する(ST216)。ここで、全ての分割エリアが終了していない場合には(ST216でNo)、次の分割エリアの処理に進む。
一方、人物検出の処理で人物が検出された場合(ST212でYes)や、物体の位置に変更がない場合には(ST214でNo)、分割エリアを対象にした物体検出やエリア設定の処理は行わず、分割エリアの終了判定(ST216)に進む。
次に、第4実施形態に係る検知エリア編集画面について説明する。図23は、検知エリア編集画面を示す説明図である。
本実施形態では、映像に対する物体検出により椅子およびテーブルの位置情報を取得して、その位置情報に基づいて検知エリアを設定するが、物体検出の処理では、例えば、荷物を椅子やテーブルと誤検出する場合があり、この場合、検知エリアの位置やサイズが不適切なものとなる。そこで、本実施形態では、図23に示す検知エリア編集画面で、検知エリアの位置およびサイズを修正することができるようにする。
この検知エリア編集画面には、エリア設定の処理で取得した検知エリアの位置情報に基づいて、検知エリアの範囲を表す枠線71(検知エリア画像)がカメラ1の映像72上に表示され、検知エリアの位置およびサイズが実際と異なるか否かを確認することができる。ここで、検知エリアの位置やサイズが実際と異なる場合には、その検知エリアの枠線71を選択して、移動やサイズ変更の操作を行うことで、検知エリアの位置やサイズを修正することができる。
例えば、左クリックで検知エリアの枠線71を選択状態とすることで修正操作が可能になり、ドラッグ&ドロップ操作により、検知エリアの枠線71を正しい位置に移動させることができる。また、検知エリアの枠線71の選択状態で、その検知エリアの枠線71上にポインタを重ねると、ポインタが両方向の矢印に変化して、検知エリアの枠線71のサイズを修正することができる。
また、検知エリア修正画面には、「追加」のボタン75と、「削除」のボタン76と、が設けられている。「追加」のボタン75を操作すると、新規の検知エリアの枠線71が映像72上に出現し、検知エリアの枠線71の移動やサイズ変更の操作を行うことで、検知エリアの枠線71を適切な位置およびサイズに設定することができる。また、「削除」のボタン76を操作すると、選択状態の検知エリアの枠線71を削除することができる。
なお、本実施形態では、検知エリアの枠線71をカメラ1の映像72上に表示するようにしたが、このとき、全方位カメラの映像に現れる歪みを補正する画像処理を行うようにするとよい。
(第5実施形態)
次に、第5実施形態について説明する。なお、ここで特に言及しない点は前記の実施形態と同様である。図24は、第5実施形態に係る施設管理装置3およびユーザ端末4の概略構成を示すブロック図である。
第2実施形態では、人物ごとの在席状況を表す在席マップ52(図10参照)をユーザ端末4に表示するようにしたが、本実施形態では、施設管理装置3においてオペレータの編集操作で在席マップ52を作成する。
なお、本実施形態では、在席マップ52の作成を施設管理装置3で行うようにしたが、管理者が操作するユーザ端末4に、在席マップ編集用のアプリケーションプログラムをインストールして、そのユーザ端末4で在席マップ52の作成を行うようにしてもよい。
施設管理装置3は、第1実施形態と同様に、通信部21と、プロセッサ22と、記憶部23と、モニタ24(表示装置)と、入力デバイス25と、を備えている。
通信部21、記憶部23、モニタ24、および入力デバイス25は、第1実施形態と同様であるが、この他に、記憶部23は、各人物の所属情報および顔画像を記憶する。
プロセッサ22は、人物リスト生成、人物アイコン生成、物体検出、エリアマップ生成、エリアマップ修正、および在席マップ生成の各処理を行う。この他、プロセッサ22は、第1実施形態と同様に、在席検知および画面制御の各処理を行う。
人物リスト生成の処理では、記憶部23から取得した各人物の所属情報に基づいて、在席マップ編集画面に表示させる人物リスト81(図25参照)を生成する。
人物アイコン生成の処理では、記憶部23から取得した各人物の顔画像が埋め込まれた人物アイコン53(図25参照)を生成する。
物体検出の処理では、カメラ1の映像から物体を検出して、オフィス(対象エリア)における物体の位置情報を取得する。本実施形態では、映像から椅子および机を検出して、椅子および机の位置情報を取得する。
エリアマップ生成の処理では、椅子および机の位置情報に基づいて、オフィス(対象エリア)のレイアウトを表すエリアマップ44(図25参照)を生成する。
在席マップ生成の処理では、在席マップ編集画面(図25参照)をモニタ24に表示して、在席マップ編集画面上でのオペレータの操作に応じて、エリアマップ44上の各人物の座席の位置に人物アイコン53が配置された在席マップ52を生成する。
エリアマップ修正の処理では、エリアマップ生成の処理で生成したエリアマップ44に誤りがある場合に、エリアマップ編集画面(図27参照)をモニタ24に表示して、このエリアマップ編集画面上でのオペレータの操作に応じて、エリアマップ44を修正する。
なお、本実施形態では、施設管理装置3が、各人物の所属情報および顔画像を記憶するようにしたが、この所属情報および顔画像は、組織管理専用の装置から取得すればよい。また、施設管理装置3自体が組織管理を行うものとしてもよい。
次に、第5実施形態に係るモニタ24に表示される在席マップ編集画面について説明する。図25は、在席マップ編集画面を示す説明図である。図26は、在席マップ編集画面の要部を示す説明図である。
施設管理装置3では、図25に示す在席マップ編集画面をモニタ24に表示させて、オペレータが編集操作を行うことで、在席マップ52が作成される。この在席マップの編集は、システム導入時に実施される。また、オフィス(対象エリア)のレイアウトが変更されたときや、人物に異動があったときに実施される。
在席マップ編集画面には、各フロア(1F、2F、3F)のタブ41が設けられている。このタブ41を選択すると、選択されたフロアの画面が表示される。このとき、第2実施形態で示したエリア一覧画面(図9参照)と同様の画面が表示され、編集対象となる部屋を選択することで、図25に示す在席マップ編集画面に遷移する。
また、在席マップ編集画面には、人物リスト81が表示される。この人物リスト81には、人物が所属する組織の構成に基づいて分類された状態で人物の名前および人物アイコン53(人物画像)が一覧表示される。具体的には、グループの名称、各グループを構成するチームの名称、各チームに所属する人物の名前および人物アイコン53が並べて表示される。人物アイコン53には人物の顔画像が埋め込まれている。
また、在席マップ編集画面には、対象となる部屋を表すエリアマップ44(エリア画像)が表示される。このエリアマップ44には、座席(椅子)の位置(各人物の定位置)に、人物アイコン53が配置される座席枠83(物体画像)が描画され、机の位置に机の画像45(物体画像)が描画されている。
人物リスト81に表示された人物アイコン53は、オペレータが所定の操作、例えばドラッグ&ドロップの操作により、エリアマップ44上に移動させて、エリアマップ44の座席枠83上に貼り付けることができる。この人物アイコン53のエリアマップ44への貼り付けの操作を、各人物について順次行うことで、各人物の座席の位置に各人物の人物アイコン53が配置された在席マップが完成する。
このとき、エリアマップ44の座席枠83上にのみ人物アイコン53が貼り付けられるように制御すると、人物アイコン53をエリアマップ44上に貼り付けるオペレータの編集操作が容易になる。
なお、本実施形態では、対象エリアを表すエリア画像として、座席枠83や机の画像45が描画されたエリアマップ44上に人物アイコン53を配置するようにしたが、カメラ1の映像上に人物アイコン53を配置するようにしてもよい。この場合、映像の歪みを補正する画像処理を行うようにするとよい。
また、図26に示すように、エリアマップ44の座席枠83に貼り付けられた人物アイコン53に対して所定の操作、例えばマウスオーバーの操作を行うと、その人物アイコン53に対応する人物の名前および所属(グループ、チーム)が記載された吹き出し85が表示される。これにより、エリアマップ44に配置された人物アイコン53に誤りがないかをオペレータが確認することができる。
なお、本実施形態では、マウスオーバーの操作で吹き出し85を表示させるようにしたが、このような操作に限定されるものではない。
次に、第5実施形態に係るエリアマップ編集画面について説明する。図27は、エリアマップ編集画面を示す説明図である。
本実施形態では、映像に対する物体検出により椅子および机の位置情報を取得して、その位置情報に基づいて、座席枠83や机の画像45が描画されたエリアマップ44を生成するが、物体検出で誤検出が発生すると、エリアマップ44上の座席枠83や机の画像45の位置やサイズが実際と異なるものとなる。そこで、本実施形態では、図27に示すエリアマップ編集画面で、エリアマップ上の座席枠83や机の画像45の位置およびサイズを修正することができるようにする。
このエリアマップ編集画面には、エリアマップ生成の処理で生成したエリアマップ44がカメラ1の映像86上に表示され、座席枠83や机の画像45の位置およびサイズが実際と異なるか否かを確認することができる。ここで、座席枠83や机の画像45の位置およびサイズが実際と異なる場合には、その座席枠83や机の画像45を選択して、移動やサイズ変更の操作を行うことで、座席枠83や机の画像45の位置やサイズを修正することができる。
例えば、左クリックで座席枠83を選択状態とすることで修正操作が可能になり、ドラッグ&ドロップ操作により、座席枠83を正しい位置に移動させることができる。また、座席枠83の選択状態で、その座席枠83の枠線上にポインタを重ねると、ポインタが両方向の矢印に変化して、座席枠83のサイズを修正することができる。なお、机の画像45も、座席枠83と同様の要領で位置やサイズを修正することができる。
また、このエリアマップ編集画面には、「追加」のボタン87と、「削除」のボタン88と、が設けられている。「追加」のボタン87を操作すると、エリアマップ44上に新規の座席枠83や机の画像45が出現し、座席枠83や机の画像45の移動やサイズ変更の操作を行うことで、座席枠83や机の画像45を適切な位置およびサイズに設定することができる。また、「削除」のボタン88を操作すると、選択状態の座席枠83や机の画像45を削除することができる。
なお、本実施形態では、エリアマップ44をカメラ1の映像86上に表示するようにしたが、このとき、全方位カメラの映像に現れる歪みを補正する画像処理を行うようにするとよい。
以上のように、本出願において開示する技術の例示として、実施形態を説明した。しかしながら、本開示における技術は、これに限定されず、変更、置き換え、付加、省略などを行った実施形態にも適用できる。また、上記の実施形態で説明した各構成要素を組み合わせて、新たな実施形態とすることも可能である。
本発明に係る滞在状況表示システムおよび滞在状況表示方法は、多数の人物が滞在する場所を対象にして各人物の滞在状況を提示する場合の視認性に優れた滞在マップの作成や更新の作業を効率よく行うことができる効果を有し、施設に設置されたカメラにより撮影される映像に基づいて、対象エリアにおける人物の滞在状況に関する表示情報を生成する滞在状況表示システムおよび滞在状況表示方法などとして有用である。
1 カメラ
2 レコーダ
3 施設管理装置
4 ユーザ端末
22 プロセッサ
44 エリアマップ(エリア画像)
52 在席マップ(滞在マップ)
53 人物アイコン(人物画像)
81 人物リスト
83 座席枠
85 吹き出し
86 映像

Claims (6)

  1. 施設に設置されたカメラにより撮影される映像を取得して、対象エリアにおける人物の滞在状況を表す滞在マップを表示するとともに、オペレータの編集操作に応じて前記滞在マップを生成する処理をプロセッサにより実行する滞在状況表示システムであって、
    前記プロセッサは、
    前記対象エリアを表す各人物の定位置となる座席枠を有したエリア画像を表示するとともに、人物の滞在状況に応じて表示形態が変更されるように前記滞在マップに表示される人物画像を人物の所属により分類された状態で人物の名前と共に一覧表示し、
    前記人物画像を選択して前記座席枠に前記人物画像を移動させるオペレータの編集操作に応じて、前記エリア画像における各人物の定位置に前記人物画像が配置された前記滞在マップを生成し、
    さらに、前記人物画像の前記エリア画像への配置後に、前記人物画像に対するオペレータの所定操作に応じて、前記名前および前記所属を表す文字を吹き出し表示することを特徴とする滞在状況表示システム。
  2. 前記プロセッサは、
    予め登録された物体を前記映像から検出して、前記対象エリアにおける座席に対応した物体の位置情報を取得し、
    前記物体の位置情報に基づいて、前記座席枠が描画された前記エリア画像を生成することを特徴とする請求項1に記載の滞在状況表示システム。
  3. 前記プロセッサは、
    前記座席枠上にのみオペレータにより選択された前記人物画像の移動を許容する制御を行うことを特徴とする請求項1に記載の滞在状況表示システム。
  4. 前記プロセッサは、
    前記座席枠を前記映像上に表示し、
    前記座席枠に対して行われるオペレータの編集操作に応じて、前記座席枠が修正された前記エリア画像を生成することを特徴とする請求項2に記載の滞在状況表示システム。
  5. 前記人物画像は、顔画像を含むことを特徴とする請求項1から請求項4のいずれかに記載の滞在状況表示システム。
  6. 施設に設置されたカメラにより撮影される映像を取得して、対象エリアにおける人物の滞在状況を表す滞在マップを表示するとともに、オペレータの編集操作に応じて前記滞在マップを生成する処理をプロセッサにより実行する滞在状況表示方法であって、
    前記対象エリアを表す各人物の定位置となる座席枠を有したエリア画像を表示するとともに、人物の滞在状況に応じて表示形態が変更されるように前記滞在マップに表示される人物画像を人物の所属により分類された状態で人物の名前と共に一覧表示し、
    前記人物画像を選択して前記座席枠に前記人物画像を移動させるオペレータの編集操作に応じて、前記エリア画像における各人物の定位置に前記人物画像が配置された前記滞在マップを生成し、
    さらに、前記人物画像の前記エリア画像への配置後に、前記人物画像に対するオペレータの所定操作に応じて、前記名前および前記所属を表す文字を吹き出し表示することを特徴とする滞在状況表示方法。
JP2017084136A 2017-04-21 2017-04-21 滞在状況表示システムおよび滞在状況表示方法 Active JP6583831B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2017084136A JP6583831B2 (ja) 2017-04-21 2017-04-21 滞在状況表示システムおよび滞在状況表示方法
US16/606,463 US11212487B2 (en) 2017-04-21 2018-03-30 Staying state display system and staying state display method
CN201880025251.1A CN110520879A (zh) 2017-04-21 2018-03-30 停留状况显示系统和停留状况显示方法
GB201914973A GB2575210A (en) 2017-04-21 2018-03-30 Staying state display system and staying state display method
PCT/JP2018/013652 WO2018193813A1 (ja) 2017-04-21 2018-03-30 滞在状況表示システムおよび滞在状況表示方法
DE112018001440.1T DE112018001440T5 (de) 2017-04-21 2018-03-30 Aufenthaltszustandsanzeigesystem und Aufenthaltszustandsanzeigeverfahren

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017084136A JP6583831B2 (ja) 2017-04-21 2017-04-21 滞在状況表示システムおよび滞在状況表示方法

Publications (2)

Publication Number Publication Date
JP2018181225A JP2018181225A (ja) 2018-11-15
JP6583831B2 true JP6583831B2 (ja) 2019-10-02

Family

ID=64275593

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017084136A Active JP6583831B2 (ja) 2017-04-21 2017-04-21 滞在状況表示システムおよび滞在状況表示方法

Country Status (1)

Country Link
JP (1) JP6583831B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020087354A (ja) * 2018-11-30 2020-06-04 株式会社リコー 資産管理装置、資産管理システム、資産管理方法及びプログラム
JP2020095485A (ja) * 2018-12-12 2020-06-18 三菱電機株式会社 情報処理装置、機器レイアウト表示システム、機器レイアウト表示方法およびプログラム
JP7363080B2 (ja) * 2019-04-16 2023-10-18 三菱電機株式会社 制御システム
JP7457982B2 (ja) 2020-03-19 2024-03-29 パナソニックIpマネジメント株式会社 着席位置管理システムおよび着席位置管理方法
JP7504667B2 (ja) 2020-05-29 2024-06-24 株式会社イトーキ 共用部管理装置及びプログラム

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0991354A (ja) * 1995-09-26 1997-04-04 Matsushita Electric Works Ltd 部屋の予約管理システム
JPH11134349A (ja) * 1997-10-28 1999-05-21 Fujitsu Ltd 環境適応型情報呈示装置及び実世界データベース
JP2007026016A (ja) * 2005-07-15 2007-02-01 Hitachi Ltd グループコミュニケーション支援装置
JP4793819B2 (ja) * 2006-02-17 2011-10-12 株式会社リコー 情報管理システム、情報管理方法及び情報管理プログラム
WO2009107618A1 (ja) * 2008-02-25 2009-09-03 日本電気株式会社 空間情報管理システムおよび方法ならびにプログラム
JPWO2011125288A1 (ja) * 2010-04-08 2013-07-08 日本電気株式会社 通信システム、通信装置、通信制御方法および通信用プログラム
JP5873236B2 (ja) * 2010-08-11 2016-03-01 Kddi株式会社 出席管理方法およびシステム
JP5979415B2 (ja) * 2012-04-09 2016-08-24 パナソニックIpマネジメント株式会社 監視システムおよび電話システム
JP5813572B2 (ja) * 2012-05-10 2015-11-17 株式会社東芝 電力管理支援装置、電力管理支援方法、電力管理支援プログラム
JP2016095560A (ja) * 2014-11-12 2016-05-26 セイコーソリューションズ株式会社 電子機器、オーダーエントリーシステム、及びプログラム

Also Published As

Publication number Publication date
JP2018181225A (ja) 2018-11-15

Similar Documents

Publication Publication Date Title
JP6583831B2 (ja) 滞在状況表示システムおよび滞在状況表示方法
WO2018193813A1 (ja) 滞在状況表示システムおよび滞在状況表示方法
US12001976B1 (en) Method and system for facilitating collaboration sessions
US20200226501A1 (en) Device, method, and graphical user interface for meeting space management and interaction
US10311383B2 (en) Device, method, and graphical user interface for meeting space management and interaction
JP6489383B2 (ja) 滞在状況表示システムおよび滞在状況表示方法
JP4692364B2 (ja) 電子会議支援プログラム、電子会議支援方法、電子会議システムにおける情報端末装置
JP6017583B2 (ja) 投射型映像表示装置
US20200118045A1 (en) System and method for automatic reservation of meeting rooms
JP4033182B2 (ja) 資料配付システム、資料配付方法、およびコンピュータプログラム
JP2007026016A (ja) グループコミュニケーション支援装置
JPH10269121A (ja) 情報処理装置及びその方法
JP6489385B2 (ja) 滞在状況表示システムおよび滞在状況表示方法
WO2019163543A1 (ja) 執務席提示システムおよび執務席提示方法
JP6489384B2 (ja) 滞在状況表示システムおよび滞在状況表示方法
JP2022024318A (ja) プログラム、リソース予約システム、端末装置、電子データ保存方法
JP2019192041A (ja) レイアウトの決定を支援するためにコンピュータで実行される方法、当該方法をコンピュータに実行させるプログラム、および、情報管理装置
JP6489386B2 (ja) 滞在状況表示システムおよび滞在状況表示方法
US20210012249A1 (en) Resource management system and processing method
US20210011704A1 (en) Progress management system, progress management method, and information processing apparatus
WO2022202036A1 (ja) 業務支援システムおよび業務支援方法
JP6798715B2 (ja) 開催プログラム編成装置、開催プログラム編成方法及び開催プログラム編成プログラム
JPH06332906A (ja) 会議スケジュール調整方法
US20230289670A1 (en) System integration in a distributed computing environment
US20230419260A1 (en) Information processing system, non-transitory recording medium, and attribute setting method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180307

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180626

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180823

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190115

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190314

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190820

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190826

R151 Written notification of patent or utility model registration

Ref document number: 6583831

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151