以下、本発明に係るエレベータの利用者サポートシステム(以下、単に利用者サポートシステムという)について説明する。利用者サポートシステムは、かご内の撮像画像に基づき利用者の状況を把握し、この状況に応じて利用者をサポートするシステムである。
利用者サポートシステムは、図1に示すように、エレベータ2に配置される制御マイコン20と、エレベータ2のかご21内を経時的に撮像するカメラ(撮像装置)210と、カメラ210による撮像画像を処理する処理部23と、撮像画像との比較の対象となるモデルデータを記憶する記憶部221と、エレベータ2の利用者の状況に応じた所定の動作を実行する実行部10と、を備える。
本実施形態の利用者サポートシステム1では、カメラ210に画像認識装置22が接続されている。記憶部221は、画像認識装置22に備えられている。また、処理部23は、画像認識装置22に備えられた画像認識処理部220と、制御マイコン20に備えられたマイコン処理部200とを含む。
例えば、エレベータ2は、昇降路を昇降するかご21、エレベータ2の動作状況に関する情報を出力する制御マイコン20、及び、制御マイコン20とカメラ210との間に接続された画像認識装置22に加えて、制御マイコン20にそれぞれ接続された音声認識装置24と音声案内装置25と表示案内装置26と駆動装置27とを有する。
かご21は、カメラ210に加えて、例えば、それぞれかご21内に配置され、且つ、音声認識装置24に接続され且つかご21内の音声を集音するマイク(集音器)211、音声案内装置25に接続され且つかご21内に音声を出力するスピーカー212、及び、表示案内装置26に接続され且つかご21内に文字情報等を表示するディスプレイ(表示部)213と、開閉するドア214と、ドア214を開閉する開閉装置215と、天井と壁と床とを含むかご枠と、階床釦等を含む操作盤と、を含む。
本実施形態の利用者サポートシステム1は、制御マイコン20に接続された監視端末3と、監視端末3に接続された第一サーバー(通信部)4と、第一サーバー4に接続された第二サーバー5とを備える。また、本実施形態の利用者サポートシステム1は、第一サーバー4にそれぞれ接続可能な管理者端末6と技術員端末7とを備える。
例えば、実行部10は、スピーカー(報知装置)212と、ディスプレイ(報知装置)213と、制御マイコン20に接続された第一サーバー(通信部)4と、開閉装置215と、かご21を昇降駆動する駆動装置27とを含む。
尚、図1では一台のエレベータ2が示されているが、本実施形態の利用者サポートシステム1は、複数のエレベータを備える。また、図1では一台の管理者端末6及び技術員端末7が示されているが、本実施形態の利用者サポートシステム1は、複数の管理者端末6及び複数の技術員端末7を備える。
カメラ210は、例えば、かご21内の天井に配置され、かご21内を経時的に撮像する。また、カメラ210は、かご21内の撮像画像(複数の撮像画像)を画像認識装置22に出力可能である。かご21内には、例えば、かご21内を監視するために一台の監視カメラが設けられており、本実施形態の利用者サポートシステム1では、カメラ210として、この監視カメラが用いられる。
具体的に、カメラ210は、断続的に(所定時間毎(例えば、1秒毎)に)かご21内の撮影を繰り返し行う。尚、カメラ210は、連続的にかご21内の撮影を行ってもよい。また、本実施形態の利用者サポートシステム1では、カメラ210が、かご出入口から見える乗り場を撮影可能な位置に設置されている。このため、カメラ210で撮影される撮像画像は、この乗り場も含む場合(ドアの戸開時等)がある。
画像認識装置22、音声認識装置24、音声案内装置25、及び、表示案内装置26は、例えば、かご21の外側に設けられたマイコンである。具体的に、音声認識装置24は、マイク211で集音された音声を解析して、制御マイコン20を介して監視端末3に出力可能である。音声案内装置25は、制御マイコン20を介して監視端末3から入力された情報に基づき、スピーカー212から音声を出力可能である。表示案内装置26は、制御マイコン20を介して監視端末3から入力された情報に基づき、ディスプレイ213から、例えば、文字情報を出力可能である。
制御マイコン20は、監視端末3に通信系統R1を介して接続されている。通信系統R1は、例えば、制御マイコン20から公衆回線(電話回線)を介して監視端末3に通信可能であり、且つ、監視端末3から公衆回線(電話回線)を介して制御マイコン20に通信可能な通信系統である。
本実施形態の利用者サポートシステム1では、画像認識装置22は、撮像画像から人を検知する処理を行うと共に人の状況を把握し且つこの状況に応じた所定の動作を実行部10に実行させる画像認識処理部220と、撮像画像との比較の対象となるモデルデータとして、少なくとも一つの人のモデルパターンを記憶している記憶部221とを含む。
本実施形態の利用者サポートシステム1では、記憶部221は、かご21の内部構造のモデルパターン、及び、複数の人のモデルパターンを記憶している。また、記憶部221は、かご21の内部構造及び人のモデルパターンとして、それぞれ、かご21及び人の輪郭(エッジ)を記憶している。人のモデルパターンは、例えば、各エレベータに共通したモデルパターンとして設定されている。かごの内部構造のモデルパターンは、例えば、各エレベータに個別に設定されている。
例えば、記憶部221は、人のモデルパターンとして、シルエットが異なる人のモデルパターンを記憶している。具体的には、記憶部221は、一般的なシルエット(一般的な服装)の人のモデルパターン、帽子を着用した人のモデルパターン、着物を着用した人のモデルパターン等を記憶している。より具体的に、記憶部221に記憶されている一般的な人のモデルパターンは、図2に示すように、人における頭部、両耳、胴部、両腕、及び両脚を簡略化したものの輪郭を結ぶ線(ワイヤーフレーム)で構成される。
本実施形態の利用者サポートシステム1では、記憶部221は、第一サーバー4より出力されたかご21の内部構造のモデルパターンを記憶している。より具体的に、記憶部221に記憶されているかご21の内部構造のモデルパターンは、図3に示すように、開閉するドア214の輪郭を結ぶ線、天井と壁と床とを含むかご枠216の輪郭を結ぶ線、及び、階床釦等を含む操作盤217の輪郭を結ぶ線で構成される。
また、本実施形態の利用者サポートシステム1では、記憶部221は、かご21内の人の状況(かご21内での人為的トラブル)に関連付けて、この状況に応じた所定の動作を記憶している。尚、人為的なトラブルとは、かご21の揺れにつながる人の挙動(飛び跳ね、屈伸、足踏み、喧嘩、及び、暴れ等)、人倒れ、昇降釦の操作が無い状況、人がゆっくりとかご21への乗り降りを行っている状況、及び、人によるドア214の押さえ等である。
より具体的に、記憶部221は、人の飛び跳ね等によりかご21が揺れている状況と、スピーカー212によるアナウンス、ディスプレイ213による情報の表示、及びかごの走行速度の制限といった動作とを関連付けて記憶すると共に、かご21内で人が倒れている状況と、スピーカー212によるアナウンス及び第一サーバー4による通報とを関連付けて記憶している。また、記憶部221は、かご21内が有人であり且つ一定時間昇降釦が操作されていない状況と、スピーカー212によるアナウンス及びディスプレイ213による情報の表示とを関連付けて記憶する。さらに、記憶部221は、人がゆっくりとかご21への乗り降りを行っている状況と、ドア214の戸開状態での維持とを関連付けて記憶すると共に、人がかご21のドアを押さえている状況と、スピーカー212によるアナウンス及びドア214の戸開状態での維持とを関連付けて記憶している。尚、記憶部221は、かご21内の人の状況を判定するための条件も記憶している。この具体的な条件については、処理部23による処理と共に後述する。
さらに、本実施形態の利用者サポートシステム1では、記憶部221は、かごが運転休止対象となるかご内の人為的なトラブルも記憶している。かごの運転休止とは、かごが複数あるエレベータについて、運転休止対象となったかごを呼び当て対象のかご(エレベータの乗り場における呼び出し釦が押されたとき、呼び出し階に向かう対象のかご)から除外することである。運転休止対象となるかご内の人為的なトラブルは、例えば、かご内での人の暴れである。
処理部23は、かご21内に人を検出すると、かご21内での人為的トラブルの有無を判定し、このトラブルの内容に応じた所定の動作を実行部10に実行させるという一連の処理を繰り返す。例えば、処理部23は、一定期間カメラ210が経時的に撮像したかご21内の撮像画像(複数の撮像画像)を取得し、この撮像画像から人が検出された場合に、かご21内の人の状況を把握し(かご21内での人為的トラブルの有無を判定し)、この状況(トラブル)に応じて所定の動作を実行部10に実行させるという一連の処理を繰り返す。この処理(第一、第二、第三処理)について、以下、詳細に説明する。
まず、画像認識処理部220は、取得した複数の撮像画像のうち少なくとも二つの画像から、それぞれエッジを抽出する第一処理を行う。具体的に、画像認識処理部220は、取得した複数の画像の各々に対して、濃度の補正、歪みの補正、及び、ノイズの除去等の前処理を行った後、各画像において輝度が急激に変わる境界をエッジとして抽出する。
画像認識処理部220は、先ほどの少なくとも二つの画像(本実施形態の利用者サポートシステム1では、取得した複数の画像)から抽出されたエッジのうちの人に対する像のエッジに、それぞれ人のモデルパターンを当てはめる第二処理を行う。尚、画像認識処理部220は、抽出されたエッジに、各モデルパターン(かごの内部構造のモデルパターン、及び、人のモデルパターン)のサイズとカメラ210の視野(カメラ210の座標)とを整合させて当てはめることで、撮像画像から抽出されたエッジに対して各モデルパターンを当てはめる。
具体的に、画像認識処理部220は、第二処理において、取得した複数の画像のうちの一つの画像(以下、第一の画像と言う)から抽出されたエッジにおけるかご21の内部構造に対する像のエッジに、かご21の内部構造のモデルパターンを当てはめる第一ステップを行う。次に、画像認識処理部220は、第二処理において、この一つの画像から抽出されたエッジのうちのかご21の内部構造のモデルパターンに重なるエッジ以外のエッジのうち人に対する像のエッジに、人のモデルパターンを当てはめる第二ステップを行う。
その後、画像認識処理部220は、第二処理において、先ほどの少なくとも二つの画像(本実施形態の利用者サポートシステム1では、取得した複数の画像)のうちの第二ステップで人のモデルパターンを当てはめた画像以外の画像(先ほどの少なくとも二つの画像(本実施形態の利用者サポートシステム1では、取得した複数の画像)のうちの第一の画像以外の画像)から抽出されたエッジにおけるかご21の内部構造のモデルパターンに重なるエッジ以外のエッジに、第二ステップにおいて当てはめた人のモデルパターンを当てはめる第三ステップを行う。
以下、上述した第二処理における第一ステップから第三ステップについて、より詳細に説明する。画像認識処理部220は、第一ステップにおいて、第一の画像から抽出されたエッジに、かごの内部構造のモデルパターンを重ねて、この重なった部分(かごの内部構造のモデルパターンに重なるエッジ)を取り除き、人体特徴があるか否か(例えば、人の頭部に重なる円形状のエッジがあるか否か、胴体に重なる筒状のエッジがあるか否か、及び、四肢に重なる形状のエッジがあるか否か)を判定する。
画像認識処理部220は、円形状のエッジ等があると判定した場合、かご21内が有人である(かご21内に人を検出した)として、第二ステップにおいて、この円形状のエッジと、人のモデルパターンの頭部に対応する箇所が重なるよう、人のモデルパターンのサイズとカメラ210の視野とを整合させて、第一の画像から抽出されたエッジに人のモデルパターンを当てはめる。また、画像認識処理部220は、第二ステップにおいて、第一の画像における当てはめた人のモデルパターンの接地位置(具体的には、人のモデルパターンとかご21の床面との接地位置)に基づいて、空間における人の存在位置と、人の占有する空間とを認識する。尚、画像認識処理部220は、第一の画像における当てはめた人のモデルパターンの接地位置が確認できない場合には、推定した接地位置に基づいて、人の存在位置と人の占有する空間とを認識する。次に、画像認識処理部220は、第一の画像から抽出されたエッジに当てはめた人のモデルパターンから、各ポイントの座標を算出する。人のモデルパターンの座標は、例えば、図2のP1で示すように、頭部頂点、両耳、両肩、両肘、両手の先、両腰、両膝、両踵、両脚の爪先等の座標である。
画像認識処理部220は、第三ステップにおいて、先ほどの少なくとも二つの画像のうち第一の画像以外の画像に対して、第二ステップで当てはめた人のモデルパターンを当てはめる。より具体的に、画像認識処理部220が、第三ステップにおいて、取得した複数の画像のうちの第一の画像以外の画像から抽出されたエッジから、第一の画像のかご21の内部構造のモデルパターンに重なったエッジを除き、このエッジに第二ステップにおいて当てはめた人のモデルパターンを当てはめる。その後、画像認識処理部220は、この第一の画像以外の画像に当てはめた人のモデルパターンから各ポイントの座標を算出する。
尚、画像認識処理部220は、各画像から抽出したエッジに円形状のエッジ等が無いと判定した場合、かご21内が無人であるとして、各画像から抽出したエッジに対する人のモデルパターンの当てはめの処理を終了する。
以下、第一処理及び第二処理の後に行う第三処理及び第四処理について説明する。
画像認識処理部220は、先ほどの少なくとも二つの画像(本実施形態の利用者サポートシステム1では、取得した複数の画像)に対して第二処理で当てはめた人のモデルパターンに基づき、かご21内の人の状況を把握する第三処理を行う。具体的に、画像認識処理部220は、第二処理において人のモデルパターンを当てはめた撮像画像における前後の撮像画像での人のモデルパターンの座標が一定の期間において特定の位置にあるか否か、及び、第二処理において人のモデルパターンを当てはめた撮像画像における前後の撮像画像での人のモデルパターンの座標の変化が特定の挙動を示しているか否かにより、かご21内の人の状況を把握する。
尚、第二処理において人のモデルパターンを当てはめた撮像画像における前後の撮像画像は、第二処理で人のモデルパターンを当てはめた撮像画像のうち、その撮像時刻が前後する撮像画像である。また、第二処理において人のモデルパターンを当てはめた撮像画像における前後の撮像画像が三枚以上ある場合、「第二処理で当てはめた人のモデルパターンの座標が特定の座標にあるとき」は、人のモデルパターンの座標が特定の座標と重なるときに加えて、人のモデルパターンの座標が移動により到達すると予測される座標(動線予測による座標)が特定の座標と重なるときも含む。第二処理において人のモデルパターンを当てはめた撮像画像における前後の撮像画像が三枚以上ある場合、「人のモデルパターンの座標の変化が特定の挙動を示しているとき」は、同様に、人のモデルパターンの座標の変化が特定の挙動を示すときに加えて、人のモデルパターンの座標が移動により到達すると予測される座標(動線予測による座標)の変化が特定の挙動を示しているときも含む。
より具体的に、画像認識処理部220は、第二処理において人のモデルパターンを当てはめた撮像画像における前後の撮像画像での人のモデルパターンの座標が、上下方向又は水平方向の往復動するように変化している場合、人の飛び跳ね等によりかご21が揺れている状況であると判定し、この人のモデルパターンの両肩や両肘等の座標が、ある一定の期間、かご21の床と接触している場合、かご21内で人が倒れている状況であると判定する。また、画像認識処理部220は、かご21内に人を検知し且つ一定期間において昇降釦の操作が制御マイコン20に入力されていない場合、かご21内が有人であり且つ昇降釦の操作が無い状況であると判定する。
画像認識処理部220は、第二処理において人のモデルパターンを当てはめた撮像画像における前後の撮像画像(乗り場を含む画像)での人のモデルパターンの座標が、ドア214が開いた状態でかご出入口を通るようにゆっくりと変化する場合、人のかご21に対する乗り降りがゆっくりと行われていると判断する。さらに、画像認識処理部220は、第二処理において人のモデルパターンを当てはめた撮像画像における前後の撮像画像での人のモデルパターンの両手の先の座標のうち少なくとも一方がある一定の期間ドア214と重なっており、且つ、ドア214が一定時間において戸開状態で維持されている場合、人がかご21のドア214を押さえている状況であると判定する。これらの判定条件は、上述のように、記憶部221に記憶されている。
このように、かご21内での人の検知の直後に、カメラ210による撮像画像から抽出したエッジに、人のモデルパターンを当てはめることで、かご21内の人の状況を判定することができる。そのため、本実施形態の利用者サポートシステム1では、人の状況をリアルタイムで把握することができる。
画像認識処理部220は、第三処理による判定結果(人為的なトラブル)をマイコン処理部200に出力する。尚、本実施形態の利用者サポートシステム1では、画像認識処理部220は、この判定結果(人為的なトラブル)を第一サーバー4にも出力する。これにより、制御マイコン20は、後述のように、人為的なトラブルの内容に対応した所定の動作を実行部10に実行させることができる。
マイコン処理部200は、画像認識処理部220から人為的なトラブルがある旨入力されると、この入力されたかご21内の人の状況(かご21内の人為的なトラブル)に応じて、記憶部221に記憶されている所定の動作のうち少なくとも一つを実行部10に実行させる第四処理を行う。具体的に、マイコン処理部200は、スピーカー212及びディスプレイ213に、所定の動作として把握した人の状況に応じた情報を報知させることができる。マイコン処理部200は、第一サーバー4に所定の動作として把握した人の状況についての情報を送信させることができる。また、マイコン処理部200は、開閉装置215に所定の動作として、把握した人の乗り降りに応じてドア214を開閉させることができる。さらに、マイコン処理部200は、駆動装置27に所定の動作として、把握した人の挙動に応じたかご21の運転を行わせることができる。
より具体的に、マイコン処理部200は、人の飛び跳ね等によりかご21が揺れている場合に、スピーカー212に「かごが揺れて危険ですので、飛び跳ねを止めてください」とのアナウンスを流すよう音声案内装置25に指示信号を出力し、且つ、ディスプレイ213が「かごが揺れて危険ですので、飛び跳ねを止めてください」と表示するよう表示案内装置26に指示信号を出力すると共に、駆動装置27がかご21の速度を制限するよう駆動装置27に指示信号を出力する。
また、マイコン処理部200は、かご21内で人が倒れている場合に、スピーカー212に「かご内で人が倒れていると検知しましたが大丈夫ですか。大丈夫であれば返事をしてください。」とのアナウンスを流すよう音声案内装置25に指示信号を出力し、さらに、このアナウンスから一定時間が経過してもマイク211及び音声認識装置24を介して音声情報が入力されない場合には、第一サーバー4が管理者端末6及び技術員端末7に通報するよう第一サーバー4に指示信号を出力する。
さらに、マイコン処理部200は、かご21内が有人であり且つ一定時間において昇降釦が操作されていない場合に、スピーカー212に「階床釦を押してください」とのアナウンスを流すよう音声案内装置25に指示信号を出力すると共に、ディスプレイ213が「階床釦を押してください」と表示するよう表示案内装置26に指示信号を出力する。マイコン処理部200は、人がかご21のドアを押さえている場合に、スピーカー212に「ドアから離れてください」とのアナウンスを流すよう音声案内装置25に指示信号を出力すると共に、ドア214を戸開状態で維持するよう開閉装置215に指示信号を出力する。
本実施形態の利用者サポートシステム1では、マイコン処理部200は、記憶部221に記憶されている情報に基づき、画像認識処理部220から入力されたかご21内の人の状況(かご21内の人為的なトラブル)が運転休止対象か否かを判断し、このトラブルが運転休止対象である場合にかご21を運転休止とし、このトラブルが運転休止対象でない場合にかご21を正常運転のままとする。
例えば、マイコン処理部200は、かご21内の人為的なトラブルが運転休止対象である場合、最寄りの階にかご21を停止させて、ドア214を戸開状態で維持するよう開閉装置215に指示信号を出力する。
監視端末3は、例えば、複数の地域に設置された多数のエレベータの監視を行う。また、監視端末3は、対象となるエレベータと離れた建物である監視センター等に設置されている。本実施形態の監視センターには、監視員(オペレータ)が常駐している。
第二サーバー5は、例えば、有線回線により第一サーバー4に接続され、例えば、P2P(Peer to Peer)により接続されている。また、第二サーバー5は、データベース50を有する。データベース50は、各エレベータにおけるかごの設計値等の情報を記憶している。具体的に、データベース50は、かごの設計値として、かごにおけるかご枠のサイズ(かご内の寸法)、かごにおけるドアの位置、及びかごにおける制御盤の位置等を、エレベータの識別番号(例えば、エレベータの機番)に関連付けて記憶している。データベース50は、書き換え可能である。データベース50には、例えば、新たなエレベータの設置時に該エレベータにおけるかごの設計値等の情報を追加することができる。
本実施形態の利用者サポートシステム1では、データベース50は、各エレベータにそれぞれ対応する管理者端末6及び技術員端末7に関する情報(管理者の連絡先及び技術員の連絡先)を記憶している。例えば、データベース50は、第一サーバー4からインターネットを介して管理者端末6及び技術員端末7に出力するため、管理者端末6及び技術員端末7に関する情報として、管理者端末6のIPアドレス及び技術員端末7のIPアドレスを記憶している。尚、データベース50は、これらの情報を、人や物の挙動と関連付けて記憶していてもよい。
第一サーバー4は、例えば、インターネットを介して監視端末3に接続されている。また、第一サーバー4は、インターネットと監視端末3と通信系統R1とを介して、制御マイコン20に接続されている。
第一サーバー4は、通信系統R2を介して、管理者端末6に接続可能である。通信系統R2は、例えば、第一サーバー4からインターネットを介して管理者端末6に通信可能であり、且つ、管理者端末6からインターネットを介して第一サーバー4に通信可能な通信系統である。また、第一サーバー4は、通信系統R3を介して、技術員端末7に接続可能である。通信系統R3は、例えば、第一サーバー4からインターネットを介して技術員端末7に通信可能であり、且つ、技術員端末7からインターネットを介して第一サーバー4に通信可能な通信系統である。通信系統R2、R3は、一部(インターネット)で共通している。
第一サーバー4は、かごの内部構造のモデルパターンを作成するサーバー処理部40を含む。例えば、サーバー処理部40は、処理部23による最初の処理前(上述の第一処理から第四処理の一連の処理を最初に行う前)、又は、かごの仕様の変更時に、データベース50に記憶されたかごの設計値等の情報に基づいて、かごの内部構造のモデルパターンを作成し、作成したモデルパターンを画像認識装置22に出力する。
具体的に、サーバー処理部40は、データベース50からかご21の設計値等の情報を取得すると共に、カメラ210から画像認識装置22等を介して無人の状態(空かご状態)のかご21内の撮像画像を取得する。サーバー処理部40は、例えば、無人の状態のかご21内の撮像画像を一枚取得する。
サーバー処理部40は、取得した無人の状態のかご21内の撮像画像に対してノイズの除去等の前処理を行い、前処理後の撮像画像からエッジを抽出する。サーバー処理部40は、かご21の設計値等から得られるかご21の壁、ドア、床、及び天井の形状特徴に基づいて、撮像画像から抽出したエッジから、かご21の壁、ドア、床、及び天井の位置関係の認識を行う。また、サーバー処理部40は、撮像画像から認識したかご21の壁等の位置関係等に基づいて、かご21内におけるカメラの位置を特定する。さらに、サーバー処理部40は、特定したカメラの位置に基づき、かごの壁等の位置関係等を再認識し、かご枠の輪郭とドアの輪郭に重なる箇所を判断し、カメラ視点の座標(図3におけるPC)を算出すると共に、かごの内部構造のモデルパターンを作成する(例えば、床の四隅、天井の四隅、ドア、及び操作盤それぞれの座標(図3におけるP2)を算出してこれらの座標を結ぶ線で構成されるモデルパターンを作成する)。
サーバー処理部40は、かご内におけるカメラの視野として、例えば、カメラ視点の座標を画像認識装置22に送信すると共に、かごの内部構造のモデルパターンとして、例えば、かご内における、床の四隅、天井の四隅、ドア、及び操作盤それぞれの座標を画像認識装置22に出力する。
サーバー処理部40は、第三処理における画像認識処理部220による判定結果(人がかご21のドアに接触しているか否か、又は、人がかご21を揺らすような動作を行っているか否かの判定結果)を、マイコン処理部200から通信系統R1と監視端末3とインターネットとを介して入力されると、データベース50から、通知元(エレベータ2)に応じた管理者端末6及び技術員端末7に関する情報(管理者の連絡先及び技術員の連絡先)を取得し、例えば、この判定結果をそれぞれ文字情報として、管理者端末6に出力すると共に技術員端末7に出力する。出力される判定結果は、例えば、「人がかご内で飛び跳ねています。エレベータ2自体に問題はありません。」といったメッセージである。
管理者端末6及び技術員端末7は、それぞれ、例えば、PDA(Personal Digital Assistant)、ノートパソコン等の持ち運び可能な端末や、据え置き型のパソコン等の端末である。管理者端末6及び技術員端末7は、それぞれ、例えば、入力された情報を出力する出力部を有する。出力部は、出力する情報が画像情報や文字情報である場合にはディスプレイであり、出力する情報が音声情報である場合にはスピーカーである。本実施形態の利用者サポートシステム1では、管理者端末6及び技術員端末7の出力部はディスプレイであり、このディスプレイはサーバー処理部40から入力された報知内容を出力する。
管理者端末6及び技術員端末7は、それぞれ、上述のように、第一サーバー4を介して通信系統R1に接続されているため、第一サーバー4を介して公衆回線(電話回線)に接続されていることになる。
管理者端末6は、例えば、エレベータ2を管理する管理者により所持される。技術員端末7は、例えば、出向の要請を受けると、エレベータ2のトラブルに対応するためにエレベータ2に出向する技術員により所持される。
以下、図4のフローチャート図を用いて、サーバー処理部40によるかごの内部構造のモデルパターンの作成に関する処理の流れを説明する。
サーバー処理部40は、処理部23による最初の処理前(上述の第一処理から第四処理の一連の処理を最初に行う前)、又は、かご21の仕様の変更時に、データベース50からかごの設計値を取得する(S01)。また、サーバー処理部40は、カメラ210から画像認識装置22等を介してかご21内の撮像画像(無人の状態(空かご状態)のかご内の撮像画像)を取得する(S02)。サーバー処理部40は、取得した撮像画像からかごの内部構造のエッジを抽出する(S03)。
サーバー処理部40は、撮像画像から抽出したエッジと、データベース50から取得したかごの設計値に基づいて、かご内におけるカメラ210の位置を特定すると共に、かごの内部構造のモデルパターンを作成する(S04)。
その後、サーバー処理部40は、かご21内におけるカメラ210の位置に関する情報、及び、かごの内部構造のモデルパターンに関する情報を、画像認識装置22(画像認識処理部220)に出力する(S05)。具体的に、サーバー処理部40は、カメラ視点の座標を画像認識装置22に送信すると共に、かごの内部構造のモデルパターンとして、例えば、かご内における、床の四隅、天井の四隅、ドア、及び操作盤それぞれの輪郭を結ぶ線(ワイヤーフレーム)で構成されたモデルパターンを画像認識装置22に出力する。記憶部221は、出力されたカメラ210の位置に関する情報、及び、かごの内部構造のモデルパターンに関する情報を記憶する。
次に、図5のフローチャート図を用いて、処理部23による一連の処理を説明する。尚、処理部23は、このフローチャート図で示される一連の処理を常時繰り返している。
画像認識処理部220は、かご21内に人を検出すると(S10においてYes)、かご21内での人為的トラブルの有無を判定する(S11)。
例えば、画像認識処理部220は、カメラ210により経時的に撮像されたかご21内の撮像画像(複数の撮像画像)を取得し、取得した複数の撮像画像のうち少なくとも二つの画像(本実施形態の利用者サポートシステム1では、取得した複数の画像)から、それぞれエッジを抽出する第一処理を行う。さらに、画像認識処理部220は、第一処理でエッジを抽出した複数の画像から抽出されたエッジに、人のモデルパターンを当てはめる。
具体的に、画像認識処理部220は、取得した複数の画像のうちの第一の画像から抽出されたエッジにおけるかご21の内部構造に対する像のエッジに、かご21の内部構造のモデルパターンを当てはめ(第一ステップ)、この一つの画像から抽出されたエッジのうちのかご21の内部構造のモデルパターンに重なるエッジ以外のエッジに、人のモデルパターンを当てはめた(第二ステップ)後、取得した複数の画像のうちの第一の画像以外の画像から抽出されたエッジにおけるかご21の内部構造のモデルパターンに重なるエッジ以外のエッジに、第二ステップにおいて当てはめた人のモデルパターンを当てはめる(第三ステップ)。
このように、画像認識処理部220は、取得した複数の画像に人のモデルパターンを当てはめることができた場合に、かご21内に人を検出したものとする。具体的に、処理部23は、取得した複数の画像から抽出したエッジのうち、かごの内部構造のモデルパターンに重なるエッジ以外のエッジに人体特徴がある場合に、かご21内に人を検出したものとする。
さらに、画像認識処理部220は、取得した複数の画像から抽出されたエッジに当てはめた人のモデルパターンから、人のモデルパターンにおける各ポイントの座標を算出し、この座標に基づき、かご21内での人為的トラブルの有無を判定する。例えば、画像認識処理部220は、第二処理において人のモデルパターンを当てはめた撮像画像における前後の撮像画像での人のモデルパターンの座標が一定の期間において特定の位置にあるか否か、及び、第二処理において人のモデルパターンを当てはめた撮像画像における前後の撮像画像での人のモデルパターンの座標の変化が特定の挙動を示しているか否かにより、かご21内の人為的トラブルの有無を判定する(かご21内の人の状況を把握する)。
画像認識処理部220は、かご21内に人為的トラブルがあると判定した場合(S12においてYes)、第一サーバー4及び制御マイコン20にトラブル(S11における判定結果)に関する情報を出力する(S13)。
マイコン処理部200は、トラブルに関する情報が入力されると、このトラブルに応じた所定の動作を記憶部221から抽出し(S14)、実行部10(本実施形態の利用者サポートシステム1では、制御マイコン20、駆動装置27、スピーカー212、ディスプレイ213、開閉装置215、及び、サーバー処理部40のうち少なくとも一つ)に、所定の動作を実行させるような指示信号を出力する。これにより実行部10は、指示信号に基づき所定の動作を実行する(S15)。
さらに、本実施形態の利用者サポートシステム1では、マイコン処理部200は、記憶部221に記憶されている情報に基づき、トラブルが運転休止対象か否かを判断する(S16)。マイコン処理部200は、トラブルが運転休止対象であると判断した場合(S17においてYes)、このかご21を運転休止対象とし(S18)、かご内の人の検出処理を行う(S10に戻る)。
マイコン処理部200は、トラブルが運転休止対象でないと判断した場合(S17においてNo)、及び、かご21内に人為的トラブルが無いと判定した場合(S12においてNo)、運転休止対象とするような指示信号を出力せず、かご21を正常運転とし(S19)、かご内の人の検出処理を行う(S10に戻る)。
尚、画像認識処理部220は、かご21内に人を検出しなかった場合(S10においてNo)、処理を終了する。
以上の利用者サポートシステム1では、処理部23が、人のモデルパターンを用いた画像認識によって、かご21内の人の状況がリアルタイムで適正に認識できる。処理部23は、記憶部221からこの認識(利用者の状況)に基づいて所定の動作を抽出し、この所定の動作に関する指示信号を実行部10に出力する。その結果、実行部10が、所定の動作(利用者の状況に応じたサポート)を行う。これにより、利用者サポートシステム1では、利用者を状況に応じたサポートが行われる。
また、利用者サポートシステム1では、処理部23は、撮像画像から抽出されたエッジのうちかご21の内部構造のモデルパターンに重なるエッジ以外のエッジに対して、人のモデルパターンを当てはめることで、より適正に人のモデルパターンを当てはめることができる。これにより、かご21内の利用者の状況がさらに適正に認識できるため、エレベータ2の利用者の状況に応じたサポートがより適正に行われる。
さらに、利用者サポートシステム1では、報知装置(本実施形態の利用者サポートシステム1では、スピーカー212及びディスプレイ213の少なくとも一方)が、かご内の利用者の状況に応じた情報を報知するため、利用者の状況に応じた情報(利用者にとって必要な情報)を提供できる。
利用者サポートシステム1では、処理部23が、かご21内の利用者の状況についての情報を通信部(本実施形態の利用者サポートシステム1では、サーバー処理部40)によって外部(公衆回線)に送信させるため、例えば、公衆回線に接続された外部のセンター等の利用者サポートシステム1外の端末等を利用して、利用者の状況に応じた対応を行わせることができる。
また、利用者サポートシステム1では、開閉装置215が、人の乗り降りに応じてドア214を開閉するため、例えば、人がかご21へ乗り降りしている最中にドア214が人の乗り降りを妨げることを防止し、人のかご21への乗り降りのタイミングに応じてドア214を開閉することができる。
さらに、利用者サポートシステム1では、かご21の揺れにつながる人の挙動が把握されると、この挙動に応じたかご21の運転が行われる、例えば、かご21が揺れている場合に、駆動装置27がかご21の速度を抑えることで、かご21の揺れによるかご21内への利用者の閉じ込めが抑制され、その結果、利用者をより適正にサポートすることができる。
本実施形態の利用者サポートシステム1では、処理部23が人のモデルパターンとして簡略化したモデルパターンを用いているため、処理部23が扱うモデルパターンのデータ容量が、詳細なモデルパターンを用いる場合と比べて小さい。そのため、エレベータ2の制御に用いられる処理速度のあまり大きくないマイコン(制御マイコン20)によっても処理が可能である、即ち、別途処理速度の大きなマイコンを設置しなくても、既存の制御マイコン20を用いて処理を行うことができる。
また、本実施形態の利用者サポートシステム1では、画像認識処理部220は、ある一定の期間、人のモデルパターンの座標が、かご21の床やドア214にあるかを判断するため、例えば、人が一時的に床やドア214と接触した場合等に、かご21内に人為的なトラブルが生じていると判断されることを防ぐことができる。このように、処理部23が、人の状況をさらに適正に判断することができる。
さらに、本実施形態の利用者サポートシステム1では、画像認識処理部220は、第二処理において人のモデルパターンを当てはめた撮像画像における前後の画像として、三枚以上の複数の画像についての人のモデルパターンの座標や、この座標の変化を判定するため、より正確な人の状況を把握することができる。
本実施形態の利用者サポートシステム1では、サーバー処理部40が必要に応じて画像認識処理部220による判定結果(かご21内の人為的トラブルの内容)を管理者端末6等に出力することにより、例えば、技術員が現場(エレベータ2)から遠い場所に滞在している場合であっても、管理者がトラブルに迅速に対応することができる。また、この場合に、このトラブルに起因するさらなる事故やトラブル等が起きることを未然に防ぐことができ、
また、本実施形態の利用者サポートシステム1では、マイコン処理部200が必要に応じてかご21を運転休止させたりすることにより、このトラブルに起因するさらなる事故やトラブル等が起きることを未然に防ぐことができる。
尚、本発明の利用者サポートシステム1は、上記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々変更を加え得ることは勿論である。例えば、ある実施形態の構成に他の実施形態の構成を追加することができ、また、ある実施形態の構成の一部を他の実施形態の構成に置き換えることができる。さらに、ある実施形態の構成の一部を削除することができる。
例えば、画像認識処理部220は、第二処理において、撮像画像のうち少なくとも二つの画像のうちの一つの画像から抽出されたエッジにかごの内部構造のモデルパターンを当てはめてから人のモデルパターンを当てはめ(第一ステップ及び第二ステップ)、撮像画像のうち少なくとも二つの画像のうちの一つの画像以外の画像から抽出されたエッジにはかごの内部構造のモデルパターンを当てはめずに人のモデルパターンを当てはめていたが(第三ステップ)、撮像画像のうち少なくとも二つの画像のうちの一つの画像以外の画像から抽出されたエッジにも、かごの内部構造のモデルパターンを当てはめてから人のモデルパターンを当てはめてもよい。即ち、撮像画像のうち少なくとも二つの画像から抽出されたエッジに人のモデルパターンを当てはめる際、毎回、かごの内部構造のモデルパターンを当てはめてから人のモデルパターンを当てはめてもよい。
上記実施形態の利用者サポートシステム1では、画像認識処理部220は、第二処理において、撮像画像のうち少なくとも二つの画像から抽出されたエッジのうちのかごの内部構造のモデルパターンに重なるエッジ以外のエッジに、人のモデルパターンを当てはめていたが、かごの内部構造のモデルパターンを用いずに、この少なくとも二つの画像から抽出されたエッジに、人のモデルパターンを当てはめてもよい。
例えば、画像認識処理部220は、カメラ210から取得した複数の画像のうち少なくとも二つの画像と無人のかご21内の撮像画像との差分、及び、これらの画像の変化から、何らかの物体がかご21内にある、又は、何らかの物体がかご21内に乗り降りすると予測されることを検出し、この物体が人体特徴を有している場合に、かご21内に人がいたり人がかご21内に乗り降りしたりしていると把握してもよい。
この場合、画像認識処理部220は、かごの内部構造のモデルパターンを作成する代わりに、カメラ210から取得した無人のかご21内の撮像画像からエッジを抽出し、記憶部221は、モデルデータに加えて、無人のかご21内の撮像画像から抽出したエッジを記憶していてもよい。尚、この場合、記憶部221は、かご21の内部構造のモデルパターンを記憶していなくてもよい。
また、この場合、画像認識処理部220は、第一の画像から抽出されたエッジと無人のかご内の撮像画像から抽出されるエッジとの差分に人のモデルパターンを当てはめれば、人のモデルパターンによって人の状況を適正に把握できるため、人の状況に応じた所定の動作を実行部10に実行させることができる。
処理部23は、人の飛び跳ね等によりかご21が揺れていると判断した場合、駆動装置27がかご21の走行速度を制限するよう指示信号を出力していたが、走行速度の制限の代わりに、例えば、異なるかご21の運転(かご21を最寄り階で停止させる等)を行ってもよい。
処理部23は、人のモデルパターンとして、各エレベータに共通して設定されたモデルパターンを用いていたが、各エレベータに個別に設定されたモデルパターンを用いてもよい。例えば、各エレベータが設置されている建物内での利用者のシルエットに応じて、個別の人のモデルパターンを追加してもよい。
人のモデルパターンは、人のパーツ(頭部及び胴部等)を簡略化したものの輪郭を結ぶ線(ワイヤーフレーム)で構成されるモデルパターンであったが、人のパーツをある程度詳細に描いたものの輪郭を結ぶ線(ワイヤーフレーム)で構成されるモデルパターンであってもよい。詳細な人のモデルパターンを用いることで、人の位置や挙動をより詳細に把握することができる。例えば、詳細な人のモデルパターンが、人の瞳、鼻、及び口などの輪郭を結ぶ線を含む場合、撮像画像から抽出されたエッジに対して、人のモデルパターンのうち人の瞳、鼻、及び口に対応する部分をそれぞれ当てはめることで、かご21内が有人であるか否かをより確実に判断することができる。
上記実施形態の利用者サポートシステム1では、記憶部221は、モデルデータとして、かごの内部構造のモデルパターン及び人のモデルパターンを記憶していたが、さらに、物(人の運んでいる荷物や所持品、及び、動物等)のモデルパターンを記憶していてもよい。例えば、記憶部221が刃物等のモデルパターンを記憶していれば、処理部23は、かご21内に滞在している人が刃物等を所持していると判断した場合、サーバー処理部40が管理者端末6にこの旨を通報するようサーバー処理部40に指示信号を出力する、及び、開閉装置215にドア214を開けた状態で維持させる等の動作を実行させることができる。また、この場合、かご21内に報知装置として非常ベルが設けられていれば、サーバー処理部40は、かご21内の非常ベルを鳴らす等の動作を実行させることができる。
モデルデータ(かごの内部構造のモデルパターン及び人のモデルパターン等)は、画像認識装置22の記憶部221以外、例えば、エレベータ2とは異なる場所(エレベータ2とは離れた場所)に設置されたサーバー等に記憶されていてもよい。
サーバー処理部40は、マイコン処理部200からの指示信号を受けて、画像認識処理部220による判定結果を文字情報として管理者端末6及び技術員端末7に出力していたが、サーバー処理部40は、画像認識装置220からの判定結果の入力を受けた時点で、画像認識処理部220による判定結果を、文字情報として管理者端末6及び技術員端末7に出力してもよい。
また、サーバー処理部40は、画像認識処理部220による判定結果を、文字情報として管理者端末6及び技術員端末7に出力していたが、音声情報として出力してもよい。また、サーバー処理部40は、画像認識処理部220による判定結果を、管理者端末6及び技術員端末7の一方に出力してもよい。例えば、かご21内での人の飛び跳ね等の悪戯の可能性について管理者端末6のみに送信することで、管理者への注意喚起を行うと共に、他のエレベータに対応している技術員の作業の中断を抑制できる。
マイコン処理部200は、かご21内で人が倒れている場合に、スピーカー212からのアナウンスに対する返答に応じて(このアナウンスに対して返事が無かった場合に)、第一サーバー4が管理者端末6及び技術員端末7に通報するよう第一サーバー4に指示信号を出力していたが、この代わりに、スピーカー212に「人が倒れていると検知しましたのでビル管理者に通報します」とアナウンスさせ、第一サーバー4が管理者端末6に通報するよう第一サーバー4に指示信号を出力してもよい。
また、かご21内で人が倒れている場合における第一サーバー4からの通報は、管理者端末6及び技術員端末7以外に、監視端末3に対して行ってもよい。この場合、監視センターに滞在している監視員が、かご21内で倒れている人に呼びかける等の対応を行うことができる。
さらに、利用者サポートシステム1は、第一サーバー4に接続された客先端末を備えていてもよい。客先端末は、例えば、病院や養護老人施設等に設置される。この場合、マイコン処理部200は、第一サーバー4が判定結果を客先端末に通報するよう第一サーバー4に指示信号を出力してもよい。例えば、人倒れについての情報を、病院や養護老人施設等に設置された客先端末に送信することで、看護師や介護士等が人倒れに対して適切に対応することができる。尚、このような送信を行うために、データベース50は、各エレベータに対応する客先端末に関する情報を人や物の挙動と関連付けて記憶していてもよい(例えば、各エレベータの最寄りの病院の連絡先と人倒れについての情報とを関連付けて記憶していてもよい)。
処理部23は、画像認識装置22に備えられた画像認識処理部220と、制御マイコン20に備えられたマイコン処理部200とを含んでいたが、これに限らず、処理部23の全てが、制御マイコン20に設けられてもよいし、画像認識装置22に設けられてもよい。また、処理部23の少なくとも一部が、エレベータ2以外の構成(例えば、第一サーバー4や、エレベータ2とは異なる場所(エレベータ2とは離れた場所)に設置されたサーバー)に含まれていてもよい。
例えば、処理部23は、詳細な人のモデルパターンを用いる場合、簡略化した人のモデルパターンを用いる場合と比べて、高い処理能力が必要であるため、処理部23や記憶部221をエレベータ2とは異なる場所(エレベータ2とは離れた場所)に設置されたサーバーに設けてもよい。
また、処理部23は、撮像画像に基づいて把握した人の状況に応じて、上述した所定の動作以外の動作を行ってもよい。
例えば、処理部23は、階床釦の操作に応じた階にかご21が停止し且つドア214が一旦戸開閉後に所定時間閉じた状態で停止しているにもかかわらず、かご21内から人が検知され続けている場合、スピーカー212に「戸開釦を押して、開いたドアからエレベータを降りるか、階床釦を押してください」とのアナウンスを流すよう音声案内装置25に指示信号を出力すると共に、ディスプレイ213が「戸開釦を押して、開いたドアからエレベータを降りるか、階床釦を押してください」と表示するよう表示案内装置26に指示信号を出力してもよい。
また、処理部23は、階床釦の操作に応じた階にかご21が停止し且つ人がドア214に背を向けた状態でドア214の近くに滞在している場合、スピーカー212に「背面側のドアが開きます」とのアナウンスを流すよう音声案内装置25に指示信号を出力してもよい。
さらに、処理部23は、人がドア214を抉じ開けようとしている場合「ドアに近づかないようにしてください」とのアナウンスを流したり、人がドア214を押さえている場合「ドア開閉の障害に気を付けてください」とのアナウンスを流したり、人がドアにぶつかっている場合「ドアへのぶつかりに気をつけてください」とのアナウンスを流したりするよう、音声案内装置25に指示信号を出力してもよい。
カメラ210は、かご21内に複数設けられていてもよい。また、カメラ210として、監視カメラを用いる代わりに、監視カメラ以外の別のカメラを用いてもよい。このようなカメラとしては、例えば、周囲全体を同時に撮影可能な360°カメラを用いてもよい。
上記実施形態の利用者サポートシステム1では、エレベータ2のかご21内に配置される報知装置として、スピーカー212及びディスプレイ213が用いられていたが、これらの一方のみが用いられてもよい。また、報知装置は、乗り場に配置された非常ベル等を含んでもよい。
また、上記実施形態の利用者サポートシステム1では、公衆回線に接続される通信部として、第一サーバー4が用いられていたが、例えば、監視端末3等が通信部として用いられてもよい。
上記実施形態の利用者サポートシステム1は、複数台のエレベータを備えていたが、一台のエレベータを備えていてもよい。また、利用者サポートシステム1は、複数台の管理者端末6及び複数台の技術員端末7を備えていたが、一台の管理者端末6及び複数台の技術員端末7を備えていてもよいし、複数台の管理者端末6及び一台の技術員端末7を備えていてもよい。
通信系統R1は、電話回線を含んでいたが、図6に示すように、電話回線の代わりにインターネットを含んでいてもよい。通信系統R1は、例えば、制御マイコン20から順にインターネットを介して監視端末3に通信可能であり、且つ、監視端末3からインターネットを介して制御マイコン20に通信可能な通信系統である。この場合、通信系統R1,R2,R3は、一部(インターネット)で共通している。