JP2022130177A - 電子機器、電子機器の制御方法、及びプログラム - Google Patents

電子機器、電子機器の制御方法、及びプログラム Download PDF

Info

Publication number
JP2022130177A
JP2022130177A JP2021029204A JP2021029204A JP2022130177A JP 2022130177 A JP2022130177 A JP 2022130177A JP 2021029204 A JP2021029204 A JP 2021029204A JP 2021029204 A JP2021029204 A JP 2021029204A JP 2022130177 A JP2022130177 A JP 2022130177A
Authority
JP
Japan
Prior art keywords
electronic device
information
sensor
wave
transmission
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021029204A
Other languages
English (en)
Inventor
健宏 馬渕
Takehiro Mabuchi
智子 浅野
Tomoko Asano
裕 香島
Yu Kashima
永勲 高
Younghun Ko
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyocera Corp
Original Assignee
Kyocera Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyocera Corp filed Critical Kyocera Corp
Priority to JP2021029204A priority Critical patent/JP2022130177A/ja
Publication of JP2022130177A publication Critical patent/JP2022130177A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Radar Systems Or Details Thereof (AREA)

Abstract

【課題】被監視対象の監視に有益な電子機器、電子機器の制御方法、及びプログラムを提供する。【解決手段】電子機器は、送信波として送信される送信信号、及び送信波が反射された反射波として受信される受信信号に基づいて、送信波を反射する物体をセンサが検出することにより得られる点群の情報と、物体を撮像部が撮像することにより得られる画像の情報とを用いて、物体における所定の部位を機械学習する。【選択図】図1

Description

本開示は、電子機器、電子機器の制御方法、及びプログラムに関する。
例えば介護施設のような現場において、要看護者又は要介護者などのような被監視者の行動を監視する装置が提案されている。例えば、特許文献1は、撮像装置で得られた画像に基づいて、被監視者における所定の行動を検知する監視システムを開示している。また、特許文献2は、無線信号を利用して、生体の位置及び姿勢の推定を行うことができるセンサなどを開示している。また、特許文献3は、無線電波の受信レベルの変動に基づいて、ターゲットが就寝姿勢から上体を起こした姿勢に姿勢変化させたことを検出する処理装置を開示している。
特開2017-91552号公報 特開2018-8021号公報 特開2019-220140号公報
ところで、出願人は、デジタルビデオカメラのような撮像部によって撮像された画像を用いて被監視対象を監視する電子機器などについての研究を重ね、既に複数件の特許出願を行った(例えば、特願2020-145012など)。そこで、例えばレーダのように送信波の反射波に基づいて物体を検出した結果に基づいて、例えば被監視対象の頭部の位置又は脚部の位置などのような身体の部位などを推定することができれば、被監視対象の監視に有益である。
本開示の目的は、被監視対象の監視に有益な電子機器、電子機器の制御方法、及びプログラムを提供することにある。
一実施形態に係る電子機器は、
送信波として送信される送信信号、及び前記送信波が反射された反射波として受信される受信信号に基づいて、前記送信波を反射する物体をセンサが検出することにより得られる点群の情報と、
前記物体を撮像部が撮像することにより得られる画像の情報とを用いて、
前記物体における所定の部位を機械学習する。
また、一実施形態に係る電子機器は、
送信波として送信される送信信号、及び前記送信波が反射された反射波として受信される受信信号に基づいて、前記送信波を反射する物体を検出することにより得られる点群の情報を用いて、前記物体における所定の部位を機械学習して、
送信波として送信される送信信号、及び前記送信波が反射された反射波として受信される受信信号に基づいて、前記送信波を反射する被監視対象をセンサが検出することにより得られる点群の情報を用いて、
前記被監視対象における所定の部位を推定する。
一実施形態に係る電子機器の制御方法は、
送信波として送信される送信信号、及び前記送信波が反射された反射波として受信される受信信号に基づいて、前記送信波を反射する物体をセンサによって検出することにより点群の情報を取得するステップと、
前記物体を撮像部によって撮像することにより画像の情報を取得するステップと、
前記物体における所定の部位を機械学習するステップと、
を含む。
また、一実施形態に係る電子機器の制御方法は、
送信波として送信される送信信号、及び前記送信波が反射された反射波として受信される受信信号に基づいて、前記送信波を反射する物体を検出することにより得られる点群の情報を用いて、前記物体における所定の部位を機械学習するステップと、
送信波として送信される送信信号、及び前記送信波が反射された反射波として受信される受信信号に基づいて、前記送信波を反射する被監視対象をセンサが検出することにより得られる点群の情報を用いて、前記被監視対象における所定の部位を推定するステップと、
を含む。
一実施形態に係るプログラムは、
電子機器に、
送信波として送信される送信信号、及び前記送信波が反射された反射波として受信される受信信号に基づいて、前記送信波を反射する物体をセンサによって検出することにより点群の情報を取得するステップと、
前記物体を撮像部によって撮像することにより画像の情報を取得するステップと、
前記物体における所定の部位を機械学習するステップと、
を実行させる。
また、一実施形態に係るプログラムは、
電子機器に、
送信波として送信される送信信号、及び前記送信波が反射された反射波として受信される受信信号に基づいて、前記送信波を反射する物体を検出することにより得られる点群の情報を用いて、前記物体における所定の部位を機械学習するステップと、
送信波として送信される送信信号、及び前記送信波が反射された反射波として受信される受信信号に基づいて、前記送信波を反射する被監視対象をセンサが検出することにより得られる点群の情報を用いて、前記被監視対象における所定の部位を推定するステップと、
を実行させる。
一実施形態によれば、被監視対象の監視に有益な電子機器、電子機器の制御方法、及びプログラムを提供することができる。
一実施形態に係る電子機器の機能的な構成を示すブロック図である。 一実施形態に係るセンサの機能的な構成を示すブロック図である。 一実施形態に係るセンサによって送信される送信信号の例を示す図である。 一実施形態に係る電子機器の動作を説明するフローチャートである。 一実施形態に係る電子機器が抽出する所定の部位の座標について説明する図である。 図4に示す動作の一部をより詳細に説明するフローチャートである。 一実施形態に係る電子機器による処理の例を説明する図である。 一実施形態に係る電子機器による処理の例を説明する図である。 一実施形態に係る電子機器による処理の例を説明する図である。 一実施形態に係る電子機器による処理の例を説明する図である。 一実施形態に係る電子機器による処理の例を説明する図である。 一実施形態に係る電子機器によって処理された点群の情報の例を説明する図である。 一実施形態に係る電子機器によって処理された点群の情報の例を説明する図である。 一実施形態に係る電子機器に機械学習のための情報を供給する検出機器の構成の例を示す図である。 一実施形態に係る電子機器に機械学習のための情報を供給する検出機器の構成の例を示す図である。 一実施形態に係る電子機器による機械学習の例を説明する図である。 一実施形態に係る電子機器による所定の部位の指定及び画像認識の例を説明する図である。 一実施形態に係る電子機器による所定の部位の推定の例を説明する図である。
本開示において、「電子機器」とは、電力により駆動する機器としてよい。また、「システム」とは、電力により駆動する機器を含むものとしてよい。また、「ユーザ」とは、一実施形態に係るシステム及び/又は電子機器を使用する者(典型的には人間)としてよい。ユーザは、一実施形態に係るシステム及び/又は電子機器を用いることで、被監視対象の監視を行う者を含んでもよい。また、「被監視対象」とは、一実施形態に係るシステム及び/又は電子機器によって監視される対象となる者(例えば人間又は動物)としてよい。さらに、ユーザは、被監視対象を含んでもよい。
一実施形態に係る電子機器が利用される場面として想定されるのは、例えば、会社、病院、老人ホーム、学校、スポーツジム、及び介護施設などのような、社会活動を行う者が使用する特定の施設などとしてよい。例えば、会社であれば従業員などの健康状態の把握及び/又は管理は、極めて重要である。同様に、病院であれば患者及び医療従事者など、また老人ホームであれば入居者及びスタッフなどの健康状態の把握及び/又は管理は、極めて重要である。一実施形態に係る電子機器が利用される場面は、上述の、会社、病院、及び老人ホームなどの施設に限定されず、被監視対象の健康状態の把握及び/又は管理などが望まれる任意の施設としてよい。任意の施設は、例えば、ユーザの自宅などの非商業施設も含んでもよい。また、一実施形態に係る電子機器が利用される場面は、例えば、電車、バス、及び飛行機などの移動体内、並びに、駅及び乗り場などとしてもよい。
一実施形態に係る電子機器は、例えば、介護施設などにおいて、要看護者又は要介護者などのような被監視対象の行動を監視する用途で用いられてよい。一実施形態に係る電子機器は、例えば要看護者又は要介護者などのような被監視対象が着座している椅子からずり落ちる動作を監視することができる。ここで、被監視対象が着座している椅子からずり落ちる動作とは、例えば、被監視対象が椅子の座面に着座している場合に当該座面の上で身体を部分的に滑らせるようにして当該椅子から落下する動作などとしてよい。
特に、一実施形態に係る電子機器は、例えば要看護者又は要介護者などのような被監視者が椅子などに着座している場合に、椅子からずり落ちる動作が終了する前、例えば床面などに落下する前に、所定の警告を発することができる。したがって、一実施形態に係る電子機器によれば、例えば介護施設などのスタッフは、例えば要看護者又は要介護者などのような被監視者が椅子からずり落ちる前に、被監視者が椅子からずり落ちようとしていることを認識し得る。
また、一実施形態に係る電子機器は、例えば要看護者又は要介護者などのような被監視対象が立っている状態から転倒する動作などを監視することもできる。特に、一実施形態に係る電子機器は、例えば要看護者又は要介護者などのような被監視者が立っている場合に、転倒する動作が終了する前、例えば床面などに倒れ込む前に、所定の警告を発することができる。したがって、一実施形態に係る電子機器によれば、例えば介護施設などのスタッフは、例えば要看護者又は要介護者などのような被監視者が転倒する前に、被監視者が転倒しようとしていることを認識し得る。
また、一実施形態に係る電子機器は、例えば要看護者又は要介護者などのような被監視対象が種々の危険な状態に陥ることを監視することもできる。特に、一実施形態に係る電子機器は、例えば要看護者又は要介護者などのような被監視者が実際に危険な状態に陥る前に、所定の警告を発することができる。一実施形態に係る電子機器によれば、例えば介護施設などのスタッフは、例えば要看護者又は要介護者などのような被監視対象に及び得る様々な危険を、より早い段階で認識することができる。
以下説明する一実施形態に係る電子機器は、例えばミリ波レーダのような技術に基づくセンサによって検出される3次元空間における点群の情報から、言わば画像のような2次元的に処理可能な点群の情報を生成する。一実施形態に係る電子機器は、例えば画像認識のような技術を採用することにより、2次元的に処理可能な点群の情報に基づいて、例えば被監視対象の身体の部位を認識することができる。このようにして認識された被監視対象の身体の部位の動きを例えば随時監視することにより、一実施形態に係る電子機器は、被監視対象が種々の危険な状態に陥るか否か判定することができる。以下、一実施形態に係る電子機器について、図面を参照して詳細に説明する。
図1は、一実施形態に係る電子機器1の構成を概略的に示す機能ブロック図である。図1に示すように、一実施形態に係る電子機器1は、コントローラ10を備える。一実施形態において、電子機器1は、例えば、記憶部20、通信部30、表示部40、及び報知部50などの少なくともいずれかを、適宜備えてもよい。上述したコントローラ10、記憶部20、通信部30、表示部40、及び報知部50などは、電子機器1における任意の箇所に配置又は内蔵してよい。また、上述したコントローラ10、記憶部20、通信部30、表示部40、及び報知部50などの少なくともいずれかは、電子機器1の外部に配置してもよい。一実施形態に係る電子機器1は、図1に示した機能部の少なくても一部を省略してもよいし、図1に示した機能部以外の他の機能部を適宜備えてもよい。
一実施形態に係る電子機器1は、各種の機器としてよい。例えば、一実施形態に係る電子機器は、専用に設計された端末の他、汎用のスマートフォン、タブレット、ファブレット、ノートパソコン(ノートPC)、コンピュータ、又はサーバなどのように、任意の機器としてよい。また、一実施形態に係る電子機器は、例えば携帯電話又はスマートフォンのように、他の電子機器と通信を行う機能を有してもよい。ここで、上述の「他の電子機器」とは、例えば携帯電話又はスマートフォンのような電子機器としてもよいし、例えば基地局、サーバ、専用端末、又はコンピュータのように、任意の機器としてもよい。「他の電子機器」とは、例えば後述のセンサ100及び/又は撮像部300などとしてもよい。また、本開示における「他の電子機器」も、電力によって駆動される機器又は装置などとしてよい。一実施形態に係る電子機器が、他の電子機器と通信を行う際には、有線及び/又は無線による通信を行うものとしてよい。
図1に示すように、一実施形態に係る電子機器1は、センサ100に、有線及び/又は無線によって接続されてよい。このような接続により、一実施形態に係る電子機器1は、センサ100によって検出された結果の情報を取得することができる。また、一実施形態に係る電子機器1は、撮像部300に、有線及び/又は無線によって接続されてよい。このような接続により、一実施形態に係る電子機器1は、撮像部300によって撮像された画像の情報を取得することができる。センサ100及び撮像部300については、さらに後述する。
コントローラ10は、電子機器1を構成する各機能部をはじめとして、電子機器1の全体を制御及び/又は管理する。コントローラ10は、種々の機能を実行するための制御及び処理能力を提供するために、例えばCPU(Central Processing Unit)又はDSP(Digital Signal Processor)のような、少なくとも1つのプロセッサを含んでよい。コントローラ10は、まとめて1つのプロセッサで実現してもよいし、いくつかのプロセッサで実現してもよいし、それぞれ個別のプロセッサで実現してもよい。プロセッサは、単一の集積回路として実現されてよい。集積回路は、IC(Integrated Circuit)ともいう。プロセッサは、複数の通信可能に接続された集積回路及びディスクリート回路として実現されてよい。プロセッサは、他の種々の既知の技術に基づいて実現されてよい。
一実施形態において、コントローラ10は、例えばCPU又はDSP及び当該CPU又はDSPで実行されるプログラムとして構成されてよい。コントローラ10において実行されるプログラム、及び、コントローラ10において実行された処理の結果などは、例えば記憶部20に記憶されてよい。コントローラ10は、コントローラ10の動作に必要なメモリを適宜含んでもよい。
一実施形態に係る電子機器1において、コントローラ10は、例えばセンサ100による検出の結果として出力される情報について、種々の処理を行うことができる。このため、電子機器1において、コントローラ10は、センサ100と有線及び/又は無線によって接続されてよい。また、一実施形態に係る電子機器1において、コントローラ10は、例えば撮像部300による撮像の結果として出力される情報(画像)について、種々の処理を行うことができる。このため、電子機器1において、コントローラ10は、撮像部300と有線及び/又は無線によって接続されてよい。一実施形態に係る電子機器1のコントローラ10の動作については、さらに後述する。
記憶部20は、各種の情報を記憶するメモリとしての機能を有してよい。記憶部20は、例えばコントローラ10において実行されるプログラム、及び、コントローラ10において実行された処理の結果などを記憶してよい。記憶部20は、センサ100による検出結果、及び/又は、撮像部300によって撮像された画像などを記憶又は蓄積してもよい。また、記憶部20は、コントローラ10のワークメモリとして機能してよい。記憶部20は、例えば半導体メモリ等により構成することができるが、これに限定されず、任意の記憶装置とすることができる。例えば、記憶部20は、一実施形態に係る電子機器1に挿入されたメモリカードのような記憶媒体としてもよい。また、記憶部20は、例えば、ハードディスクドライブ(Hard Disk Drive,HDD)及び/又はソリッドステートドライブ(Solid State Drive,SSD)などを含んで構成されてもよい。また、記憶部20は、後述のコントローラ10として用いられるCPUの内部メモリであってもよいし、コントローラ10に別体として接続されるものとしてもよい。
記憶部20は、例えば機械学習データを記憶してもよい。ここで、機械学習データは、機械学習によって生成されるデータとしてよい。また、機械学習とは、特定のタスクをトレーニングによって実行可能になるAI(Artificial Intelligence)の技術に基づくものとしてよい。より具体的には、機械学習とは、コンピュータのような情報処理装置が多くのデータを学習し、分類及び/又は予測などのタスクを遂行するアルゴリズム又はモデルを自動的に構築する技術としてよい。本明細書において、AI(Artificial Intelligence)の一部には、機械学習が含まれるとしてもよい。
本明細書において、機械学習には、正解データをもとに入力データの特徴又はルールを学習する教師あり学習が含まれるものとしてよい。また、機械学習には、正解データがない状態で入力データの特徴又はルールを学習する教師なし学習が含まれるものとしてもよい。さらに、機械学習には、報酬又は罰などを与えて入力データの特徴又はルールを学習する強化学習などが含まれるものとしてもよい。また、本明細書において、機械学習は、教師あり学習、教師なし学習、及び強化学習を任意に組み合わせたものとしてもよい。本実施形態の機械学習データの概念は、入力データに対して学習されたアルゴリズムを用いて所定の推論(推定)結果を出力するアルゴリズムを含むとしてもよい。本実施形態は、このアルゴリズムとして、例えば、従属変数と独立変数との関係を予測する線形回帰、人の脳神経系ニューロンを数理モデル化したニューラルネットワーク(NN)、誤差を二乗して算出する最小二乗法、問題解決を木構造にする決定木、及びデータを所定の方法で変形する正則化などその他適宜なアルゴリズムを用いることができる。本実施形態は、ニューラルネットワークの一種であるディープラーニングを利用するものとしてよい。ディープラーニングは、ニューラルネットワークの一種であり、ネットワークの階層が深いニューラルネットワークがディープラーニングと呼ばれている。
本開示の技術において、被監視対象の身体の動作aと、この動作aから発生する被監視対象の動作結果Aとの間には、一般的に一定の関係が存在するものとしてよい。なお、ここでの動作結果には、被監視対象の動作、被監視対象の動作開始時点、被監視対象の動作から発生する事故及び事件その他の出来事などを含むとしてよい。例えば、被監視対象の身体の動作aが行われ、この動作aから被監視対象の動作結果Aが発生したとする。また、被監視対象の身体の動作bが行われ、この動作bから被監視対象の動作結果Bが発生したとする。本開示の技術は、上記動作aと動作結果A、動作bと動作結果Bその他の動作と動作結果の関係を、機械学習データとして(例えば記憶部20に)蓄積する。そして、本開示の技術は、動作xが抽出された場合に、上記機械学習データを用いて、動作xに関係する動作結果Xを推定するとしてよい。
特に、一実施形態において、機械学習データは、被監視対象が所定の動作をする際の特徴点の動きを機械学習したデータとしてよい。また、機械学習データは、被監視対象として特定の人物(例えば特定の要介護者など)が所定の動作をする際の特徴点の動きを機械学習したデータとしてもよい。
通信部30は、有線又は無線により通信するためのインタフェースの機能を有する。一実施形態の通信部30によって行われる通信方式は無線通信規格としてよい。例えば、無線通信規格は2G、3G、4G、及び5G等のセルラーフォンの通信規格を含む。例えばセルラーフォンの通信規格は、LTE(Long Term Evolution)、W-CDMA(Wideband Code Division Multiple Access)、CDMA2000、PDC(Personal Digital Cellular)、GSM(登録商標)(Global System for Mobile communications)、及びPHS(Personal Handy-phone System)等を含む。例えば、無線通信規格は、WiMAX(Worldwide Interoperability for Microwave Access)、IEEE802.11、WiFi、Bluetooth(登録商標)、IrDA(Infrared Data Association)、及びNFC(Near Field Communication)等を含む。通信部30は、例えばITU-T(International Telecommunication Union Telecommunication Standardization Sector)において通信方式が標準化されたモデムを含んでよい。通信部30は、上記の通信規格の1つ又は複数をサポートすることができる。
通信部30は、例えば電波を送受信するアンテナ及び適当なRF部などを含めて構成してよい。通信部30は、例えばアンテナを介して、例えば他の電子機器の通信部と無線通信してもよい。また、通信部30は、外部に有線接続するためのコネクタなどのようなインタフェースとして構成してもよい。通信部30は、無線通信を行うための既知の技術により構成することができるため、より詳細なハードウェアなどの説明は省略する。
通信部30が受信する各種の情報は、例えば記憶部20及び/又はコントローラ10に供給されてよい。通信部30が受信する各種の情報は、例えばコントローラ10に内蔵されたメモリに記憶してもよい。また、通信部30は、例えばコントローラ10による処理結果、及び/又は、記憶部20に記憶された情報などを外部に送信してもよい。
表示部40は、例えば、液晶ディスプレイ(Liquid Crystal Display:LCD)、有機ELディスプレイ(Organic Electro-Luminescence panel)、又は無機ELディスプレイ(Inorganic Electro-Luminescence panel)等の任意の表示デバイスとしてよい。表示部40は、文字、図形、又は記号等の各種の情報を表示してよい。また、表示部40は、例えばユーザに電子機器1の操作を促すために、種々のGUIを構成するオブジェクト、及びアイコン画像などを表示してもよい。表示部40において表示を行うために必要な各種データは、例えばコントローラ10又は記憶部20などから供給されてよい。また、表示部40は、例えばLCDなどを含む場合、適宜、バックライトなどを含んで構成されてもよい。一実施形態において、表示部40は、例えばセンサ100による検出の結果に基づく情報を表示してもよい。また、一実施形態において、表示部40は、例えば撮像部300による撮像の結果に基づく情報を表示してもよい。
報知部50は、コントローラ10から出力される所定の信号に基づいて、電子機器1のユーザなどに注意を促すための所定の警告を報知してよい。報知部50は、所定の警告として、例えば音、音声、光、文字、映像、及び振動など、ユーザの聴覚、視覚、触覚の少なくともいずれかを刺激する任意の機能部としてよい。具体的には、報知部50は、例えばブザー又はスピーカのような音声出力部、LEDのような発光部、LCDのような表示部、及びバイブレータのような触感呈示部などの少なくともいずれかとしてよい。このように、報知部50は、コントローラ10から出力される所定の信号に基づいて、所定の警告を報知してよい。一実施形態において、報知部50は、所定の警報を、聴覚、視覚、及び触覚の少なくともいずれかに作用する情報として報知してもよい。
一実施形態において、報知部50は、例えば被監視対象が着座していた椅子からずり落ちる動作を開始する前に、被監視対象が椅子からずり落ちるリスクがある旨の警告を報知してよい。また、一実施形態において、報知部50は、被監視対象が着座していた椅子からずり落ちる動作を終了する前に、被監視対象が椅子からずり落ちるリスクがある旨の警告を報知してもよい。例えば、一実施形態において、視覚情報を出力する報知部50は、被監視対象が椅子からずり落ちるリスクがある旨が検出されると、その旨を発光又は所定の表示などによってユーザに警告してよい。また、一実施形態において、聴覚情報を出力する報知部50は、被監視対象が椅子からずり落ちるリスクがある旨が検出されると、その旨を所定の音又は音声などによってユーザに警告してよい。本実施形態では、上記警告は、発光又は所定の表示、及び所定の音又は音声を組み合わせてもよい。
図1に示す電子機器1は、報知部50を内蔵している。しかしながら、一実施形態において、報知部50は、電子機器1の外部に設けられてもよい。この場合、報知部50と電子機器1とは、有線若しくは無線、又は有線及び無線の組合せにより接続されてよい。
図1に示すような、一実施形態に係る電子機器1を構成する各機能部の少なくとも一部は、ソフトウェアとハードウェア資源とが協働した具体的手段によって構成されてもよい。
図1に示すセンサ100は、例えば被監視対象のような人体などを、3次元空間における点群の情報として検出するように構成される。以下、一実施形態に係るセンサ100について、より詳細に説明する。
図2は、一実施形態に係るセンサ100の構成を概略的に示す機能ブロック図である。図2に示すセンサ100は、一例として、ミリ波レーダ(RADAR(Radio Detecting and Ranging))の技術に基づくもの(ミリ波レーダセンサ)とする。しかしながら、一実施形態に係るセンサ100は、ミリ波レーダセンサに限定されない。一実施形態に係るセンサ100は、例えば、準ミリ波レーダセンサとしてよい。また、一実施形態に係るセンサ100は、ミリ波レーダセンサ又は準ミリ波レーダセンサに限定されず、電波を送受信する各種のレーダセンサとしてよい。また、一実施形態に係るセンサ100は、例えば、マイクロ波センサ、超音波センサ、又はLIDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)のような技術に基づくセンサとしてもよい。
ミリ波方式のレーダによって距離などを測定する際、周波数変調連続波レーダ(以下、FMCWレーダ(Frequency Modulated Continuous Wave radar)と記す)が用いられることがある。FMCWレーダは、送信する電波の周波数を掃引して送信信号が生成される。したがって、例えば79GHzの周波数帯の電波を用いるミリ波方式のFMCWレーダにおいて、使用する電波の周波数は、例えば77GHz~81GHzのように、4GHzの周波数帯域幅を持つものとなる。79GHzの周波数帯のレーダは、例えば24GHz、60GHz、76GHzの周波数帯などの他のミリ波/準ミリ波レーダよりも、使用可能な周波数帯域幅が広いという特徴がある。以下、例として、このようなFMCWレーダを採用する場合について説明する。本開示で利用されるFMCWレーダの方式は、通常より短い周期でチャープ信号を送信するFCM方式(Fast-Chirp Modulation)を含むとしてもよい。センサ100が生成する信号はFMCW方式の信号に限定されない。センサ100が生成する信号はFMCW方式以外の各種の方式の信号としてもよい。送信される信号として記憶される送信信号列は、これら各種の方式によって異なるものとしてよい。例えば、上述のFMCW方式のレーダ信号の場合、時間サンプルごとに周波数が増加する信号及び減少する信号を使用してよい。上述の各種の方式は、公知の技術を適宜適用することができるため、より詳細な説明は、適宜省略する。
図2に示すように、一実施形態に係るセンサ100は、レーダ制御部110、送信部120、及び受信部130を含んで構成されてよい。上述したレーダ制御部110、送信部120、及び受信部130などは、センサ100における任意の箇所に配置又は内蔵してよい。また、上述したレーダ制御部110、送信部120、及び受信部130などの少なくともいずれかは、センサ100の外部に配置してもよい。一実施形態に係るセンサ100は、図2に示した機能部の少なくても一部を省略してもよいし、図2に示した機能部以外の他の機能部を適宜備えてもよい。
レーダ制御部110は、センサ100を構成する各機能部をはじめとして、センサ100の全体を制御及び/又は管理する。レーダ制御部110は、種々の機能を実行するための制御及び処理能力を提供するために、例えばCPU(Central Processing Unit)又はDSP(Digital Signal Processor)のような、少なくとも1つのプロセッサを含んでよい。レーダ制御部110は、まとめて1つのプロセッサで実現してもよいし、いくつかのプロセッサで実現してもよいし、それぞれ個別のプロセッサで実現してもよい。プロセッサは、単一の集積回路として実現されてよい。集積回路は、IC(Integrated Circuit)ともいう。プロセッサは、複数の通信可能に接続された集積回路及びディスクリート回路として実現されてよい。プロセッサは、他の種々の既知の技術に基づいて実現されてよい。
一実施形態において、レーダ制御部110は、例えばCPU又はDSP及び当該CPU又はDSPで実行されるプログラムとして構成されてよい。レーダ制御部110において実行されるプログラム、及び、レーダ制御部110において実行された処理の結果などは、例えばレーダ制御部110に内蔵される任意の記憶部に記憶されてよい。レーダ制御部110は、レーダ制御部110の動作に必要なメモリを適宜含んでもよい。
一実施形態に係るセンサ100において、レーダ制御部110は、距離FFT(Fast Fourier Transform)処理、速度FFT処理、到来角推定処理、及びクラスタリング処理などの各種の処理を、適宜行ってよい。これらのようなレーダ制御部110が行う各処理は、一般的なレーダ技術として既知であるため、より詳細な説明は省略する。
図2に示すように、送信部120は、信号生成部121、シンセサイザ122、位相制御部123、増幅器124、及び送信アンテナ125を備えてよい。一実施形態に係るセンサ100は、送信アンテナ125を複数含んでもよい。この場合、センサ100は、複数の送信アンテナ125のそれぞれに対応する位相制御部123及び増幅器124も複数含んでも良い。
受信部130は、図2に示すように、受信アンテナ131、LNA132、ミキサ133、IF部134、及びAD変換部135を備えてよい。一実施形態に係るセンサ100は、複数の送信アンテナ125のそれぞれに対応して、受信部130を複数含んでもよい。
一実施形態に係るセンサ100において、レーダ制御部110は、送信部120及び受信部130の少なくとも一方を制御することができる。この場合、レーダ制御部110は、任意の記憶部に記憶された各種情報に基づいて、送信部120及び受信部130の少なくとも一方を制御してよい。例えば、レーダ制御部110に内蔵された任意の記憶部は、送信アンテナ125から送信する送信波及び受信アンテナ131から受信する反射波によって物体を検出する範囲を設定するための各種パラメータを記憶してよい。また、一実施形態に係るセンサ100において、レーダ制御部110は、信号生成部121に信号の生成を指示したり、信号生成部121が信号を生成するように制御したりしてもよい。
信号生成部121は、レーダ制御部110の制御により、送信アンテナ125から送信波として送信される信号(送信信号)を生成する。信号生成部121は、送信信号を生成する際に、例えばレーダ制御部110による制御に基づいて、送信信号の周波数を割り当ててよい。具体的には、信号生成部121は、例えばレーダ制御部110によって設定されたパラメータにしたがって、送信信号の周波数を割り当ててよい。例えば、信号生成部121は、レーダ制御部110又は任意の記憶部から周波数情報を受け取ることにより、例えば77~81GHzのような周波数帯域の所定の周波数の信号を生成する。信号生成部121は、例えば電圧制御発振器(VCO)のような機能部を含んで構成してよい。
信号生成部121は、当該機能を有するハードウェアとして構成してもよいし、例えばマイコンなどで構成してもよいし、例えばCPU又はDSPのようなプロセッサ及び当該プロセッサで実行されるプログラムなどとして構成してもよい。以下説明する各機能部も、当該機能を有するハードウェアとして構成してもよいし、可能な場合には、例えばマイコンなどで構成してもよいし、例えばCPU又はDSPのようなプロセッサ及び当該プロセッサで実行されるプログラムなどとして構成してもよい。
一実施形態に係るセンサ100において、信号生成部121は、例えばチャープ信号のような送信信号(送信チャープ信号)を生成してよい。特に、信号生成部121は、周波数が周期的に線形に変化する信号(線形チャープ信号)を生成してもよい。例えば、信号生成部121は、周波数が時間の経過に伴って77GHzから81GHzまで周期的に線形に増大するチャープ信号としてもよい。また、例えば、信号生成部121は、周波数が時間の経過に伴って77GHzから81GHzまで線形の増大(アップチャープ)及び減少(ダウンチャープ)を周期的に繰り返す信号を生成してもよい。信号生成部121が生成する信号は、例えばレーダ制御部110において予め設定されていてもよい。また、信号生成部121が生成する信号は、例えば任意の記憶部などに予め記憶されていてもよい。レーダのような技術分野で用いられるチャープ信号は既知であるため、より詳細な説明は、適宜、簡略化又は省略する。信号生成部121によって生成された信号は、シンセサイザ122に供給される。
図3は、信号生成部121が生成するチャープ信号の例を説明する図である。
図3において、横軸は経過する時間を表し、縦軸は周波数を表す。図3に示す例において、信号生成部121は、周波数が周期的に線形に変化する線形チャープ信号を生成する。図3においては、各チャープ信号を、c1,c2,…,c8のように示してある。図3に示すように、それぞれのチャープ信号において、時間の経過に伴って周波数が線形に増大する。
図3に示す例において、c1,c2,…,c8のように8つのチャープ信号を含めて、1つのサブフレームとしている。すなわち、図3に示すサブフレーム1及びサブフレーム2などは、それぞれc1,c2,…,c8のように8つのチャープ信号を含んで構成されている。また、図3に示す例において、サブフレーム1~サブフレーム16のように16のサブフレームを含めて、1つのフレームとしている。すなわち、図3に示すフレーム1及びフレーム2などは、それぞれ16のサブフレームを含んで構成されている。また、図3に示すように、フレーム同士の間には、所定の長さのフレームインターバルを含めてもよい。図3に示す1つのフレームは、例えば30ミリ秒から50ミリ秒程度の長さとしてよい。
図3において、フレーム2以降も同様の構成としてよい。また、図3において、フレーム3以降も同様の構成としてよい。一実施形態に係るセンサ100において、信号生成部121は、任意の数のフレームとして送信信号を生成してよい。また、図3においては、一部のチャープ信号は省略して示している。このように、信号生成部121が生成する送信信号の時間と周波数との関係は、例えば任意の記憶部などに記憶しておいてよい。
このように、一実施形態に係るセンサ100は、複数のチャープ信号を含むサブフレームから構成される送信信号を送信してよい。また、一実施形態に係るセンサ100は、サブフレームを所定数含むフレームから構成される送信信号を送信してよい。
以下、センサ100は、図3に示すようなフレーム構造の送信信号を送信するものとして説明する。しかしながら、図3に示すようなフレーム構造は一例であり、例えば1つのサブフレームに含まれるチャープ信号は8つに限定されない。一実施形態において、信号生成部121は、任意の数(例えば任意の複数)のチャープ信号を含むサブフレームを生成してよい。また、図3に示すようなサブフレーム構造も一例であり、例えば1つのフレームに含まれるサブフレームは16に限定されない。一実施形態において、信号生成部121は、任意の数(例えば任意の複数)のサブフレームを含むフレームを生成してよい。信号生成部121は、異なる周波数の信号を生成してよい。信号生成部121は、周波数fがそれぞれ異なる帯域幅の複数の離散的な信号を生成してもよい。
図2に戻り、シンセサイザ122は、信号生成部121が生成した信号の周波数を、所定の周波数帯の周波数まで上昇させる。シンセサイザ122は、送信アンテナ125から送信する送信波の周波数として選択された周波数まで、信号生成部121が生成した信号の周波数を上昇させてよい。送信アンテナ125から送信する送信波の周波数として選択される周波数は、例えばレーダ制御部110によって設定されてもよい。また、送信アンテナ125から送信する送信波の周波数として選択される周波数は、例えば任意の記憶部に記憶されていてもよい。シンセサイザ122によって周波数が上昇された信号は、位相制御部123及びミキサ133に供給される。位相制御部123が複数の場合、シンセサイザ122によって周波数が上昇された信号は、複数の位相制御部123のそれぞれに供給されてよい。また、受信部130が複数の場合、シンセサイザ122によって周波数が上昇された信号は、複数の受信部130におけるそれぞれのミキサ133に供給されてよい。
位相制御部123は、シンセサイザ122から供給された送信信号の位相を制御する。具体的には、位相制御部123は、例えばレーダ制御部110による制御に基づいて、シンセサイザ122から供給された信号の位相を適宜早めたり遅らせたりすることにより、送信信号の位相を調整してよい。この場合、位相制御部123は、複数の送信アンテナ125から送信されるそれぞれの送信波の経路差に基づいて、それぞれの送信信号の位相を調整してもよい。位相制御部123がそれぞれの送信信号の位相を適宜調整することにより、複数の送信アンテナ125から送信される送信波は、所定の方向において強め合ってビームを形成する(ビームフォーミング)。この場合、ビームフォーミングの方向と、複数の送信アンテナ125がそれぞれ送信する送信信号の制御すべき位相量との相関関係は、例えば任意の記憶部に記憶しておいてよい。位相制御部123によって位相制御された送信信号は、増幅器124に供給される。
増幅器124は、位相制御部123から供給された送信信号のパワー(電力)を、例えばレーダ制御部110による制御に基づいて増幅させる。センサ100が複数の送信アンテナ125を備える場合、複数の増幅器124は、複数の位相制御部123のうちそれぞれ対応するものから供給された送信信号のパワー(電力)を、例えばレーダ制御部110による制御に基づいてそれぞれ増幅させてよい。送信信号のパワーを増幅させる技術自体は既に知られているため、より詳細な説明は省略する。増幅器124は、送信アンテナ125に接続される。
送信アンテナ125は、増幅器124によって増幅された送信信号を、送信波として出力(送信)する。センサ100が複数の送信アンテナ125を備える場合、複数の送信アンテナ125は、複数の増幅器124のうちそれぞれ対応するものによって増幅された送信信号を、それぞれ送信波として出力(送信)してよい。送信アンテナ125は、既知のレーダ技術に用いられる送信アンテナと同様に構成することができるため、より詳細な説明は省略する。
このようにして、一実施形態に係るセンサ100は、送信アンテナ125を備え、送信アンテナ125から送信波として送信信号(例えば送信チャープ信号)を送信することができる。ここで、センサ100を構成する各機能部のうちの少なくとも1つは、1つの筐体に収められてもよい。また、この場合、当該1つの筐体は、容易に開けることができない構造としてもよい。例えば送信アンテナ125、受信アンテナ131、増幅器124が1つの筐体に収められ、かつ、この筐体が容易に開けられない構造となっているとよい。さらに、
図2に示すセンサ100は、送信アンテナ125を1つ備える例を示している。しかしながら、一実施形態において、センサ100は、任意の数の送信アンテナ125を備えてもよい。一方、一実施形態において、センサ100は、送信アンテナ125から送信される送信波が所定方向にビームを形成するようにする場合、複数の送信アンテナ125を備えてよい。一実施形態において、センサ100は、任意の複数の送信アンテナ125を備えてもよい。この場合、センサ100は、複数の送信アンテナ125に対応させて、位相制御部123及び増幅器124もそれぞれ複数備えてよい。そして、複数の位相制御部123は、シンセサイザ122から供給されて複数の送信アンテナ125から送信される複数の送信波の位相を、それぞれ制御してよい。また、複数の増幅器124は、複数の送信アンテナ125から送信される複数の送信信号のパワーを、それぞれ増幅してよい。また、この場合、センサ100は、複数の送信アンテナを含んで構成してよい。このように、センサ100は、複数の送信アンテナ125を備える場合、当該複数の送信アンテナ125から送信波を送信するのに必要な機能部も、それぞれ複数含んで構成してよい。
受信アンテナ131は、反射波を受信する。反射波は、送信波が所定の物体200に反射したものとしてよい。受信アンテナ131は、複数のアンテナを含んで構成してもよい。受信アンテナ131は、既知のレーダ技術に用いられる受信アンテナと同様に構成することができるため、より詳細な説明は省略する。受信アンテナ131は、LNA132に接続される。受信アンテナ131によって受信された反射波に基づく受信信号は、LNA132に供給される。
一実施形態に係るセンサ100は、複数の受信アンテナ131から、例えばチャープ信号のような送信信号(送信チャープ信号)として送信された送信波が所定の物体200によって反射された反射波を受信することができる。このように、送信波として送信チャープ信号を送信する場合、受信した反射波に基づく受信信号は、受信チャープ信号と記す。すなわち、センサ100は、受信アンテナ131から反射波として受信信号(例えば受信チャープ信号)を受信する。
LNA132は、受信アンテナ131によって受信された反射波に基づく受信信号を低ノイズで増幅する。LNA132は、低雑音増幅器(Low Noise Amplifier)としてよく、受信アンテナ131から供給された受信信号を低雑音で増幅する。LNA132によって増幅された受信信号は、ミキサ133に供給される。
ミキサ133は、LNA132から供給されるRF周波数の受信信号を、シンセサイザ122から供給される送信信号に混合する(掛け合わせる)ことにより、ビート信号を生成する。ミキサ133によって混合されたビート信号は、IF部134に供給される。
IF部134は、ミキサ133から供給されるビート信号に周波数変換を行うことにより、ビート信号の周波数を中間周波数(IF(Intermediate Frequency)周波数)まで低下させる。IF部134によって周波数を低下させたビート信号は、AD変換部135に供給される。
AD変換部135は、IF部134から供給されたアナログのビート信号をデジタル化する。AD変換部135は、任意のアナログ-デジタル変換回路(Analog to Digital Converter(ADC))で構成してよい。AD変換部135によってデジタル化されたビート信号は、レーダ制御部110に供給される。受信部130が複数の場合、複数のAD変換部135によってデジタル化されたそれぞれのビート信号は、レーダ制御部110に供給されてよい。
レーダ制御部110は、AD変換部135によってデジタル化されたビート信号に対してFFT処理(以下、適宜「距離FFT処理」と記す)を行ってよい。例えば、レーダ制御部110は、AD変換部135から供給された複素信号にFFT処理を行ってよい。AD変換部135によってデジタル化されたビート信号は、信号強度(電力)の時間変化として表すことができる。レーダ制御部110は、このようなビート信号にFFT処理を行うことにより、各周波数に対応する信号強度(電力)として表すことができる。レーダ制御部110において距離FFT処理を行うことにより、AD変換部135によってデジタル化されたビート信号に基づいて、距離に対応する複素信号を得ることができる。
レーダ制御部110は、距離FFT処理によって得られた結果においてピークが所定の閾値以上である場合、そのピークに対応する距離に、所定の物体200があると判断してもよい。例えば、一定誤警報確率(CFAR(Constant False Alarm Rate))による検出処理のように、外乱信号の平均電力又は振幅から閾値以上のピーク値が検出された場合、送信波を反射する物体(反射物体)が存在するものと判断する方法が知られている。
このように、一実施形態に係るセンサ100は、送信波として送信される送信信号、及び、反射波として受信される受信信号に基づいて、送信波を反射する物体200をターゲットとして検出することができる。
レーダ制御部110は、1つのチャープ信号(例えば図3に示すc1)に基づいて、所定の物体との間の距離を推定することができる。すなわち、センサ100は、距離FFT処理を行うことにより、センサ100と所定の物体200との間の距離を測定(推定)することができる。ビート信号にFFT処理を行うことにより、所定の物体との間の距離を測定(推定)する技術自体は公知のため、より詳細な説明は、適宜、簡略化又は省略する。
また、レーダ制御部110は、距離FFT処理が行われたビート信号に対してさらにFFT処理を(以下、適宜「速度FFT処理」と記す)行ってよい。例えば、レーダ制御部110は、距離FFT処理された複素信号にFFT処理を行ってよい。レーダ制御部110は、チャープ信号のサブフレーム(例えば図3に示すサブフレーム1)に基づいて、所定の物体との相対速度を推定することができる。レーダ制御部110において複数のチャープ信号について速度FFT処理を行うことにより、距離FFT処理によって得られる距離に対応する複素信号に基づいて、相対速度に対応する複素信号が得られる。
上述のようにビート信号に距離FFT処理を行うと、複数のベクトルを生成することができる。これら複数のベクトルに対して速度FFT処理を行った結果におけるピークの位相を求めることにより、所定の物体との相対速度を推定することができる。すなわち、電子機器1は、速度FFT処理を行うことにより、センサ100と所定の物体200との相対速度を測定(推定)することができる。距離FFT処理を行った結果に対して速度FFT処理を行うことにより、所定の物体との相対速度を測定(推定)する技術自体は公知のため、より詳細な説明は、適宜、簡略化又は省略する。
一般的なFMCWレーダの技術においては、受信信号からビート周波数を抽出したものに高速フーリエ変換処理を行うなどした結果に基づいて、ターゲットが存在するか否かを判定することができる。ここで、受信信号からビート周波数を抽出して高速フーリエ変換処理を行うなどした結果には、クラッタ(不要反射成分)などによる雑音(ノイズ)の成分も含まれる。したがって、受信信号を処理した結果から雑音成分を取り除き、ターゲットの信号のみを抽出するための処理を実行してもよい。
また、レーダ制御部110は、ターゲットが存在するか否かの判定に基づいて、所定の物体200から反射波が到来する方向(到来角)を推定してもよい。レーダ制御部110は、ターゲットが存在すると判定された点について、到来角の推定を行ってよい。センサ100は、複数の受信アンテナ131から反射波を受信することで、反射波が到来する方向を推定することができる。例えば、複数の受信アンテナ131は、所定の間隔で配置されているものとする。この場合、送信アンテナ125から送信された送信波が所定の物体200に反射されて反射波となり、所定の間隔で配置された複数の受信アンテナ131はそれぞれ反射波Rを受信する。そして、レーダ制御部110は、複数の受信アンテナ131がそれぞれ受信した反射波の位相、及びそれぞれの反射波の経路差に基づいて、反射波が受信アンテナ131に到来する方向を推定することができる。すなわち、センサ100は、速度FFT処理が行われた結果に基づいて、ターゲットによって反射された反射波が到来する方向を示す到来角θを測定(推定)することができる。
速度FFT処理が行われた結果に基づいて、反射波Rが到来する方向を推定する技術は各種提案されている。例えば、既知の到来方向推定のアルゴリズムとしては、MUSIC(MUltiple SIgnal Classification)、及びESPRIT(Estimation of Signal Parameters via Rotational Invariance Technique)などが知られている。したがって、公知の技術についてのより詳細な説明は、適宜、簡略化又は省略する。
レーダ制御部110は、距離FFT処理、速度FFT処理、及び到来角推定の少なくともいずれかに基づいて、送信波が送信された範囲に存在する物体を検出する。レーダ制御部110は、供給された距離の情報、速度の情報、及び角度情報に基づいて例えばクラスタリング処理を行うことにより、物体検出を行ってもよい。データをクラスタリングする際に用いるアルゴリズムとして、例えばDBSCAN(Density-based spatial clustering of applications with noise)などが知られている。クラスタリング処理においては、例えば検出される物体を構成するポイントの平均電力を算出してもよい。
上述のようにして、センサ100は、3次元空間において、送信波を反射する物体を、点群の情報として検出することができる。すなわち、一実施形態において、センサ100から出力される検出結果に基づいて、3次元空間のある座標において、送信波を反射する物体が存在するか否かを判定(検出)することができる。また、一実施形態において、センサ100は、3次元空間における各点の信号強度及び速度を検出することができる。以上説明したように、一実施形態に係るセンサ100は、送信波として送信される送信信号、及び送信波が反射された反射波として受信される受信信号に基づいて、送信波を反射する物体を、3次元空間における点群の情報として検出してよい。
また、図1に示すように、一実施形態に係る電子機器1は、撮像部300を含んで構成されてよい。電子機器1と撮像部300とは、有線若しくは無線、又は有線及び無線の組合せにより接続されてよい。
撮像部300は、例えばデジタルカメラのような、電子的に画像を撮像するイメージセンサを含んで構成されてよい。撮像部300は、CCD(Charge Coupled Device Image Sensor)又はCMOS(Complementary Metal Oxide Semiconductor)センサ等のように、光電変換を行う撮像素子を含んで構成されてよい。撮像部300は、例えば被監視対象たる物体を撮像してよい。ここで、被監視対象は、例えば人間としてよい。撮像部300は、撮像した画像を信号に変換して、電子機器1に送信してよい。例えば、撮像部300は、撮像した画像に基づく信号を、電子機器1の抽出部11、記憶部20、及び/又は、コントローラ10などに送信してよい。撮像部300は、被監視対象を撮像するものであれば、デジタルカメラのような撮像デバイスに限定されず、任意のデバイスとしてよい。
一実施形態において、撮像部300は、例えば被監視対象を所定時間ごと(例えば秒間15フレーム)の静止画として撮像してもよい。また、一実施形態において、撮像部300は、例えば被監視対象を連続した動画として撮像してもよい。
次に、一実施形態に係る電子機器1の動作について説明する。
一実施形態に係る電子機器1の動作は、典型的には、「学習フェーズ」と「推定フェーズ」とに分けることができる。学習フェーズにおいては、例えば被監視対象のような人間が所定の動作を行う場合に、当該動作における身体の各部の位置(座標)と、当該動作のタイミングとの関係を機械学習する動作を行ってよい。また、推定フェーズにおいては、学習フェーズにおいて機械学習した結果に基づいて、被監視対象が所定の動作を行う場合における身体の各部の位置(座標)から、当該動作の開始を推定する動作を行ってよい。さらに、推定フェーズにおいては、例えば上述の動作が開始するなどして、所定以上のリスクが存在すると判定された場合、所定の警報などが出力されるようにしてよい。
また、一実施形態に係る電子機器1の動作は、「学習フェーズ」と「推定フェーズ」とに分けずに、所定のアルゴリズムに従ってリスクの有無を判定してもよい。例えば、一実施形態に係る電子機器1において、被監視対象に及び得るリスクの要因を予めアルゴリズムとして規定しておいてもよい。この場合、一実施形態に係る電子機器1は、所定のアルゴリズムに従ってリスクが所定以上になると判定された場合、所定の警報などを出力してもよい。
図4は、一実施形態に係る電子機器1が行う動作の一例を示すフローチャートである。図4に示す動作は、例えば、一実施形態に係る電子機器1が被監視対象を監視する動作を行う際に開始してよい。以下、電子機器1が監視する被監視対象は人間である場合を想定して説明する。しかしながら、電子機器1が監視する被監視対象は人間に限定されず、人間以外の動物などとしてもよい。また、被監視対象は人間又は動物にも限定されず、例えば作業用ロボットのような機械としてもよい。図4に示す動作は、電子機器1のコントローラ10によって実行される処理に基づくものとしてよい。すなわち、以下の説明において、「電子機器1」が行う動作及び/又は処理は、例えば電子機器1のコントローラ10が実行する動作及び/又は処理としてよい。
図4に示す動作が開始すると、電子機器1は、センサ100によって出力される点群の情報を取得する(ステップS1)。ここで、センサ100によって出力される点群の情報とは、センサ100によって検出される情報としてよい。すなわち、センサ100によって検出される情報とは、送信波として送信される送信信号、及び送信波が反射された反射波として受信される受信信号に基づいて、送信波を反射する物体が3次元空間における点群の情報として検出される情報としてよい。
ステップS1において点群の情報が取得されたら、電子機器1は、取得された点群の情報の前処理を実行する(ステップS2)。ステップS2において行われる点群の情報の前処理とは、3次元空間における点群の情報から、2次元的に処理可能な点群の情報を生成することとしてよい。すなわち、ステップS2において点群の情報の前処理が行われると、点群の情報は2次元的に処理可能な情報になり、例えば画像認識を行うなど画像データと同じように処理することができる。ステップS2において行う点群の情報の前処理については、さらに後述する。
ステップS2において点群の情報の前処理が実行されたら、電子機器1は、2次元的に処理可能な点群の情報に基づいて、例えば被監視対象の身体の部位を認識する(ステップS3)。ステップS3において、電子機器1は、例えば画像認識のような技術を採用することにより、2次元的に処理可能な点群の情報に基づいて、被監視対象の身体の部位を認識してよい。また、ステップS3において、電子機器1は、例えば画像認識した所定部位の座標を抽出してもよい。上述のように、ステップS2における処理が行われることにより、3次元空間における点群の情報は、2次元的に処理可能な点群の情報になる。このため、ステップS3において、電子機器1は、あたかも画像を扱うようにして、点群の情報を処理することができる。ステップS3において、電子機器1は、2次元的に処理可能な点群の各点を、画像における画素(ピクセル)に対応させてもよい。ステップS3において、電子機器1は、2次元的に処理可能な点群の情報に基づいて、例えば被監視対象の頭部、首、肩、腕、手、胴体、又は脚などの各部位を、画像認識により判定してよい。
ステップS3において身体の部位が認識されたら、電子機器1は、当該部位の座標を正規化する(ステップS4)。ステップS4において部位の座標を正規化することにより、電子機器1は、2次元的に処理可能な点群の情報を、例えば画角などによる差によらずに処理することができる。ステップS4において部位の座標が正規化されることにより、被監視対象の行動を予測するためのデータを生成することができる(ステップS5)。
ここで、上述のステップS4において行う部位の座標の正規化について説明する。ステップS3において抽出される所定部位の座標は、例えば被監視対象の身体のサイズなどに起因してばらつくことが想定される。また、ステップS3において抽出される所定部位の座標は、例えばセンサ100と被監視対象との距離、及び、センサ100から被監視対象に向く方向などにも起因してばらつくことが想定される。したがって、一実施形態において、ステップS3において抽出された座標のX方向成分及びY方向成分をそれぞれ正規化することにより、抽出された座標を汎用的に機械学習に用いることができる。
この場合、例えば1秒間の15フレームにおいて抽出されたX,Y座標のそれぞれの最大値及び最小値に基づいて、抽出されるX,Y座標を正規化してもよい。ここで、ステップS3において抽出されたX座標の最大値をXmaxとし、ステップS3において抽出されたX座標の最小値をXminとする。また、正規化後のX座標の最大値をX’maxとする。この場合、以下の式(1)を用いて、正規化前のX座標(X)を、正規化後のX座標(X’)に変換することができる。
X’=((X-Xmin)/(Xmax-Xmin))・X’max (1)
同様に、ステップS3において抽出されたY座標の最大値をYmaxとし、ステップS3において抽出されたY座標の最小値をYminとする。また、正規化後のY座標の最大値をY’maxとする。この場合、以下の式(2)を用いて、正規化前のY座標(Y)を、正規化後のY座標(Y’)に変換することができる。
Y’=((Y-Ymin)/(Ymax-Ymin))・Y’max (2)
上記の式(1)及び式(2)に従って、抽出された座標のX方向成分及びY方向成分を正規化することにより、被監視対象の個体差、及びセンサ100がと被監視対象を撮像した環境などが機械学習に与える影響を低減することが期待できる。
このように、一実施形態において、コントローラ10は、2次元的に抽出された被監視対象の身体における所定数の関節点の座標の各方向成分を、当該各方向成分の最大値及び最小値に基づいて正規化してもよい。
ステップS4における座標の正規化により、図5に示す各座標(X,Y)は、それぞれ座標(X’,Y’)に正規化される。
次に、ステップS5におけるデータ生成について、さらに説明する。上述のように、ステップS5におけるデータ生成とは、被監視対象の行動を予測するためのデータを生成することとしてよい。センサ100が秒間所定数のフレームの各画像を撮像する場合、コントローラ10は、秒間所定数のフレームにおいて被監視対象の身体における所定部位として抽出してよい。また、コントローラ10が秒間所定数のフレームの画像を取得する場合も、コントローラ10は、秒間所定数のフレームにおいて被監視対象の身体における所定部位として抽出してよい。一例として、コントローラ10は、被監視対象の身体における所定部位を、秒間15フレームにおいて抽出してよい。
図5は、例えば1秒間の15フレームにおいて、被監視対象の身体において抽出された所定部位の座標をまとめて示す図である。図5に示すように、ステップS5において、コントローラ10は、被監視対象の身体において抽出された所定部位の座標を、各フレームごとに並べて配置してもよい。図5に示すように、コントローラ10は、各フレームごとに、被監視対象の身体において2次元的に(X,Y座標として)所定部位の座標を抽出してよい。図5に示す表において、各行は、各フレームにおいて、被監視対象の身体の所定部位が、X,Y座標として抽出された様子を模式的に示してある。また、図5に示す表において、各フレームを示す行は、時間の経過に従って上から下に示してある。図5に示す15フレームの座標は、例えば画像(又は動画)における1秒間の座標をトラッキングしたものとしてよい。また、図5に示す15フレームの後も、順次、被監視対象の身体において所定部位の座標が抽出されるものとしてよい。
このように、一実施形態において、コントローラ10は、センサ100によって撮像された秒間所定数のフレームの各画像ごとに、被監視対象の身体における所定数の関節点の座標を2次元的に抽出してもよい。
ステップS5においてデータが生成されたら、電子機器1は、被監視対象の行動を予測する(ステップS6)。ステップS6において被監視対象の行動を予測する手法は、例えば機械学習によるもの、又は機械学習によらずに単にアルゴリズムによるものなど、種々想定することができる。本開示において、被監視対象の行動を予測する手法は、主たる特徴ではないため、より詳細な説明は省略する。
ステップS5において被監視対象の行動が予測されたら、電子機器1は、被監視対象の行動について所定以上のリスクが存在するか否か判定する(ステップS7)。ステップS7の処理を行うに際し、電子機器1は、被監視対象の種々の行動について、リスクの基準を設定しておいてよい。そして、電子機器1は、被監視対象が行っている行動が当該リスクの基準を超えるか否か(つまり所定以上のリスクがあるか否か)を判定してよい。
ステップS7において所定以上のリスクが存在しない場合、電子機器1は、リスクの報知は必要ないものと判断して、図4に示す動作を終了してよい。一方、ステップS7において所定以上のリスクが存在する場合、電子機器1は、報知部50から所定の警報を報知する(ステップS8)。
このようにして、一実施形態に係る電子機器1は、被監視対象が種々の危険な状態に陥ることを監視することができる。特に、一実施形態に係る電子機器1は、被監視者が実際に危険な状態に陥る前に、所定の警告を発することができる。一実施形態に係る電子機器1によれば、被監視対象に及び得る様々な危険を、より早い段階で認識することができる。
次に、図4のステップS2において実行する点群の情報の前処理について、さらに説明する。
図6は、図4のステップS2において電子機器1が行う点群の情報の前処理を、より詳細に示すフローチャートである。図6に示す動作は、電子機器1のコントローラ10によって実行される処理に基づくものとしてよい。すなわち、以下の説明において、「電子機器1」が行う動作及び/又は処理は、例えば電子機器1のコントローラ10が実行する動作及び/又は処理としてよい。
図6に示す動作が開始すると、電子機器1は、点群の情報を低次元化する(ステップS11)。より具体的には、ステップS11において、電子機器1は、センサ100によって出力される3次元空間における点群の情報から、2次元的に処理可能な点群の情報を生成する。
図7は、センサ100によって出力される3次元空間における点群の情報について説明する図である。図7は、ある場所に立っている被監視対象Tmを、原点Oに設置されたセンサ100によって3次元的に検出する状況の一例を示す図である。
図7に示すように、センサ100が設置された位置を基準(原点O)として、被監視対象Tmに近づく方向をX軸正方向とし、被監視対象Tmから遠ざかる方向をX軸負方向とする。また、図7に示すように、センサ100が設置された位置を基準(原点O)として、センサ100の右側をY軸正方向とし、センサ100の左側をY軸負方向とする。また、図7に示すように、センサ100が設置された位置を基準(原点O)として、センサ100の上側をZ軸正方向とし、センサ100の下側をZ軸負方向とする。すなわち、図7において、lxは奥行方向の距離を示し、lyは水平方向の距離を示し、lzは垂直(高さ)方向の距離を示す。図7に示すような状況において、センサ100の出力は、ある瞬間において、3次元空間における位置(X,Y,Z)のデータ要素(信号強度及び速度)の4チャンネルのデータとしてよい。図7に示すステップS11において、電子機器1は、このような3次元空間において検出した情報を、2次元の情報に変換する。
図8は、センサ100によって出力される3次元空間における点群の情報から、2次元的に処理可能な点群の情報を生成する例を説明する図である。図8は、ある場所に立っている被監視対象Tmを、原点Oに設置されたセンサ100によって3次元的(空間的)に検出したものを、電子機器1において2次元的(平面的)に変換した一例を示す図である。
図8に示すように、原点Oの位置を基準として、原点Oの右側をX軸正方向とし、原点Oの下側をY軸正方向とする。すなわち、図8において、pxは水平方向の座標を示し、pyは垂直方向の座標を示す。図8に示すような状況において、センサ100の出力は、ある瞬間において、上述した4チャンネルのデータから、2次元平面における位置(X,Y)のデータ要素(信号強度及び速度)の3チャンネルのデータに変換されている。このように、図7に示すステップS11において、電子機器1は、3次元空間において検出した情報を、2次元平面の情報に変換する。
上述のように3次元空間において検出した情報を、2次元平面の情報に変換する際には、2次元平面の座標を、例えば以下の式(3)及び式(4)に基づいて算出してよい。
Figure 2022130177000002
Figure 2022130177000003
上述の式(3)及び式(4)において、lx,ly,lzは、センサ100による検出の結果に基づく出力、すなわち3次元空間における点群の情報を示す。特に、lxは、センサ100によって検出されるi番目の情報のx方向の距離を示す。また、lyは、センサ100によって検出されるi番目の情報のy方向の距離を示す。また、lzは、センサ100によって検出されるi番目の情報のz方向の距離を示す。
また、上述の式(3)及び式(4)において、px,pyは、電子機器1によって2次元平面の情報に変換された点群の座標を示す。特に、pxは、センサ100によって検出されるi番目の情報のx座標を示す。また、pyは、センサ100によって検出されるi番目の情報のy座標を示す。
さらに、上述の式(3)において、Mは、2次元平面の画像を想定した場合における水平方向の画素数を示し、αxは、2次元平面の画像を想定した場合における水平方向の画角を示す。また、上述の式(4)において、Nは、2次元平面の画像を想定した場合における垂直方向の画素数を示し、αyは、2次元平面の画像を想定した場合における垂直方向の画角を示す。
上述の式(3)及び式(4)において、px,pyは座標の値として機能するように、小数点第一位を四捨五入して整数化してもよい。また、上述の式(3)及び式(4)において、px,pyは2次元平面に変換した後の画像のサイズに収まるように、例えば0≦px≦M又は0≦py≦Nを満たさないデータは破棄してもよい。
このように、一実施形態に係る電子機器1は、センサ100の出力から、2次元的に処理可能な点群の情報を生成する。特に、一実施形態に係る電子機器1は、センサ100によって検出される点群の情報を、2次元的な画像における所定の画素数及び所定の画角の少なくとも一方に基づいて、2次元的に処理可能な点群の情報に変換してもよい。一実施形態に係る電子機器1は、センサ100の出力から、2次元的に処理可能な点群の情報を生成する際に、上述の式(3)及び式(4)以外の変換式に基づいてもよい。
一実施形態に係る電子機器1によれば、ステップS11における点群の情報の低次元化を行うため、計算量を相当に削減することができる。したがって、一実施形態に係る電子機器1によれば、例えばコントローラ10の処理負荷を軽減することができる。
ステップS11において点群の情報の低次元化が行われたら、電子機器1は、フレームの情報を重畳する(ステップS12)。ステップS12において、電子機器1は、例えば図3に示したようなフレームを複数回ぶん重ねる処理を実行してもよい。
図9は、ステップS12において行うフレームの情報の重畳を説明する図である。図9に示すように、電子機器1は、例えば50フレームにおいて発生する点群のデータを重畳してよい。ここで、電子機器1は、例えば50フレームにおいて発生する点群のデータの値を単純に加算してもよい。一方、電子機器1は、例えば50フレームにおいて発生する点群のデータの値を、50フレームにおいて発生する回数に応じて平均化してもよい。例えば、電子機器1は、ある点における情報が50フレーム中の5フレームにおいて検出された場合、当該5フレームにおいて検出された値を平均化してもよい。
このように、一実施形態に係る電子機器1は、センサ100の出力を複数のフレームごとにまとめて、2次元的に処理可能な点群の情報を生成してもよい。また、一実施形態に係る電子機器1は、センサ100によって検出される点群の情報を、複数のフレームごとにおける検出回数に応じて平均化して、2次元的に処理可能な点群の情報を生成してもよい。
一実施形態に係る電子機器1によれば、ステップS12においてフレームの情報を重畳するため、例えば点群の情報が2次元的に密になり易くなる。したがって、一実施形態に係る電子機器1によれば、例えば図4のステップS3において行われる身体の部位の認識率が向上し得る。
ステップ12においてフレームの情報が重畳されたら、電子機器1は、点群の情報における点を拡大する(ステップS13)。ステップS13において、電子機器1は、ステップ12において重畳されたフレームの各点を拡大してよい。また、ステップS13において各点を拡大する場合、電子機器1は、各点を所定方向に任意の大きさで拡大してよい。
図10は、ステップS13において行う、点群の情報における点の拡大を説明する図である。図10の左側に示すように、例えばステップS11及びステップS12を経て、2次元的に処理可能な点群の情報において、塗りつぶされたドットで示す1点が検出されたとする。この場合、電子機器1は、図10の右側に示すように、例えば左右方向に1ドット(1画素)ずつ、また上下方向に2ドット(2画素)ずつ、点を拡大する処理を実行してよい。ここで、電子機器1は、例えば左右方向に2ドット(2画素)ずつ、また上下方向に1ドット(1画素)ずつ、点を拡大する処理を実行してもよい。このように、電子機器1は、左右方向及び/又は上下方向に任意のドット(画素)ずつ、点を拡大する処理を実行してもよい。
このように、一実施形態に係る電子機器1は、2次元的に処理可能な点群の情報において、点群を構成する各点の所定方向のサイズを拡大してもよい。
一実施形態に係る電子機器1によれば、点群の情報における点を拡大するため、例えば点群の情報が2次元的に密になり易くなる。したがって、一実施形態に係る電子機器1によれば、例えば図4のステップS3において行われる身体の部位の認識率が向上し得る。
上述した実施形態において、電子機器1は、ステップS11において低次元化された点群の情報について、各点を拡大するものとして説明した。しかしながら、一実施形態において、このような処理の順番に限定されるものではない。例えば、一実施形態において、電子機器1は、ステップS11において低次元化される前の点群の情報について各点を拡大した上で、ステップS11における点群の情報の低次元化を行ってもよい。このように、一実施形態に係る電子機器1は、センサ100によって検出される点群の情報において、点群を構成する各点の所定方向のサイズを拡大して、2次元的に処理可能な点群の情報を生成してもよい。
ステップS13において点群の情報における各点を拡大したら、電子機器1は、点群の情報における各点に重み付けを行う(ステップS14)。ステップS14において、電子機器1は、例えば所定のフレーム数における検出頻度に応じて、所定の頻度以上の情報を採用したり、所定の頻度以下の情報を除外したりしてよい。
図11は、ステップS14において行う、点群の情報における各点の重み付けを説明する図である。図11において、左側に示すDrは点群として検出された距離の情報を示し、Diは点群として検出された強度の情報を示すものとする。このように、図11の左側には、検出された距離及び強度の2チャンネルの情報を示すものとする。また、図11において、上段に示すHMは、例えばヒートマップのように、検出された点群の検出頻度を各画素ごとに示す情報(以下、「検出頻度情報」とも記す)としてよい。図11において、右側に示すDr’は、左側に示した距離の情報Drに検出頻度情報HMを積算したものを示す。また、図11において、右側に示すDi’は、左側に示した強度の情報Diに検出頻度情報HMを積算したものを示す。このように、図11の右側には、検出された距離及び強度の2チャンネルの情報に、検出頻度情報HMを積算したものを示すものとする。
図11の右側に示すように、検出された距離及び強度の情報に検出頻度情報HMを積算したものに基づいて、電子機器1は、所定の頻度以上の情報を採用したり、所定の頻度以下の情報を除外したりしてよい。例えば、電子機器1は、50フレームにおいて検出された頻度が10フレーム以上である距離及び強度の情報のみを採用するようにしてよい。また、例えば、電子機器1は、50フレームにおいて検出された頻度が5フレーム以下である距離及び強度の情報を除外してもよい。
このように、一実施形態に係る電子機器1は、2次元的に処理可能な点群の情報において、点群を構成する各点を複数のフレームごとにおける検出頻度に応じて重み付けしてもよい。特に、一実施形態に係る電子機器1は、2次元的に処理可能な点群の情報において、点群を構成する各点のうち複数のフレームごとにおける検出頻度が所定以下のものを除外してもよい。
例えばミリ波レーダのようなセンサ100によって物体を検出すると、その検出結果にはノイズが含まれる。図12は、図6のステップS21からステップS23までの処理を経た点群の情報の一例を示す図である。図12は、センサ100の出力に基づく点群の情報に、撮像部300によって撮像された画像を重ねたものを示している。図12に示すように、センサ100の出力に基づく点群の情報の多くは、撮像部300によって撮像された画像における被監視対象Tmに重なっている。一方、センサ100の出力に基づく点群の情報のうち、撮像部300によって撮像された画像における被監視対象Tmに重なっていないものもある。このように、センサ100を例えばミリ波レーダのようなものとする場合、センサ100によって物体を検出すると、その検出結果にはノイズが含まれる。
図13は、図6のステップS24の処理を経た点群の情報の一例を示す図である。図13に示すように、センサ100の出力に基づく点群の情報は、ステップS24の処理を経ることにより、撮像部300によって撮像された画像における被監視対象Tmにほぼ重なるようになる。すなわち、ステップS24の処理を経ることにより、センサ100の出力に基づく点群の情報にいて、ノイズの影響は相当程度低減される。
以上説明したように、一実施形態に係る電子機器1によれば、例えばミリ波レーダのように送信波の反射波に基づいて物体を検出した結果を、撮像部によって撮像された画像のように処理する(前処理を施す)ことができるようになる。したがって、一実施形態に係る電子機器1によれば、被監視対象の監視に有益になり得る。
図6に示したステップS21からステップ24までの処理によって、図4に示したステップS2の処理、すなわち点群データの前処理を行うことができる。図4のステップS2に示した点群データの前処理によって、2次元的に処理可能な点群の情報が生成される。したがって、この後、電子機器1は、図4に示したステップS3以降の処理として、2次元的に処理可能な点群の情報において画像認識などの処理を行ってもよい。すなわち、電子機器1は、2次元的に処理可能な点群の情報において、被監視対象Tmを2次元的なオブジェクトとして認識してもよい。このため、電子機器1は、ステップS2における点群データの前処理によって、2次元的なオブジェクトとして認識可能な点群の情報を生成してよい。すなわち、一実施形態に係る電子機器1は、センサ100の出力から、2次元的なオブジェクトとして認識可能な点群の情報を生成してもよい。
上述したように、図4に示したステップS3の処理において、2次元的に処理可能な点群の情報から、被監視対象Tmの身体の部位が画像認識される。したがって、電子機器1は、ステップS2における点群データの前処理によって、被監視対象Tmの身体の部位を認識可能な点群の情報を生成してよい。このように、一実施形態に係る電子機器1は、センサ100の出力から、物体として検出される被監視対象の身体の部位を認識可能な点群の情報を生成してもよい。
また、図13に示すように、電子機器1は、2次元的に処理可能な点群の情報を、撮像部300によって撮像された物体の2次元的な画像の情報に重ね合わせたものを出力してもよい。図13に示すような、撮像部300によって撮像された物体の2次元的な画像の情報に重ね合わせた点群の情報は、被監視対象Tmの行動を監視する際には必須ではない。しかしながら、例えば、画像認識又は人間によって被監視対象Tmの身体の部位を認識する際には、図13に示すような、撮像部300によって撮像された物体の2次元的な画像の情報に重ね合わせた点群の情報があると便利である。したがって、一実施形態に係る電子機器1は、2次元的に処理可能な点群の情報を、撮像部300によって撮像された物体の2次元的な画像の情報に重ね合わせてもよい。
次に、一実施形態に係る電子機器1において、図4のステップS3に示した被監視対象Tmの身体の部位の認識(又は推定)を、機械学習によって行う態様について、さらに説明する。一実施形態に係る電子機器1は、被監視対象Tmの身体の部位の認識を機械学習によって行うことにより、センサ100の出力から、例えば図5に示すように、被監視対象Tmの身体の部位を推定することができる。
まず、一実施形態に係る電子機器1において、機械学習によって被監視対象Tmの身体の部位の認識(推定)を行うための検出機器について説明する。図14及び図15は、一実施形態に係る電子機器1に機械学習のための情報を供給する検出機器の構成の例を示す図である。図14は、一実施形態に係る検出機器を前方から正面視した例を示す正面図である。また、図15は、一実施形態に係る検出機器を側方(左方)から側面視した例を示す側面図である。
図14及び図15に示すように、一実施形態に係る検出機器3は、センサ100及び撮像部300を備えている。また、図14及び図15に示すように、一実施形態に係る検出機器3は、スタンド部5及び接地部7の少なくとも一方などを、適宜備えてもよい。
図14及び図15に示すセンサ100は、図1及び/又は図2において説明したセンサ100としてよい。図14及び図15に示すように、センサ100は、送信波が物体によって反射された反射波を受信する電波入力部101を備えるものとしてよい。図15に示すように、電波入力部101は、センサ100の光軸Raを向くものとしてよい。ここで、センサ100の光軸とは、例えば、センサ100の送信アンテナ125及び受信アンテナ131の少なくとも一方が設置された面に垂直な方向としてよい。また、センサ100の光軸とは、送信アンテナ125及び受信アンテナ131の少なくとも一方が複数含まれる場合、当該複数のアンテナの少なくともいずれかが設置された面に垂直な方向としてもよい。このような構成により、センサ100は、光軸Raを中心として、送信波を送信及び/又は反射波を受信することができる。すなわち、センサ100は、光軸Raを中心とした範囲で物体を点群として検出することができる。
また、図14及び図15に示す撮像部300は、図1において説明した撮像部300としてよい。図14及び図15に示すように、撮像部300は、物体によって反射された光を受信する光入力部301を備えるものとしてよい。図15に示すように、光入力部301は、撮像部300の光軸Laを向くものとしてよい。また、光入力部301は、撮像部300においてレンズが配置される位置としてもよい。ここで、撮像部300の光軸とは、例えば、撮像部300において撮像に用いられる受光素子(又は撮像素子)が設置された面に垂直な方向としてよい。このような構成により、撮像部300は、光軸Laを中心とした画像を撮像することができる。
図14及び図15に示すように、スタンド部5は、検出機器3において、センサ100及び撮像部300を接地点から所定の高さに維持する。スタンド部5は、例えばセンサ100が被監視対象などの物体を検出し易い高さにセンサ100を維持してよい。また、スタンド部5は、例えば撮像部300が被監視対象などの物体を撮像し易い高さにセンサ100を維持してよい。スタンド部5は、検出機器3において、センサ100及び撮像部300を例えば高さ方向などに調節可能な機構を備えてもよい。
図14及び図15に示すように、接地部7は、検出機器3において、センサ100及び撮像部300を接地面に対して固定する。接地部7は、センサ100及び撮像部300を備える検出機器3を安定させるために、例えば台座のような形状にするなど、種々の構成を想定することができる。
図14及び図15に示すように、一実施形態に係る検出機器3において、センサ100と撮像部300とは、互いの近傍に隣接させて配置されてよい。図14及び図15に示す例において、センサ100と撮像部300とは、互いに上下方向に隣接して配置されている。一実施形態に係る検出機器3において、センサ100と撮像部300とは、例えば、互いに左右方向に又は斜め方向に隣接して配置されてもよい。
また、図15に示すように、一実施形態に係る検出機器3において、センサ100と撮像部300とは、それぞれの光軸Raと光軸Laとが平行になるように配置されてよい。すなわち、一実施形態に係る電子機器1において、撮像部300の光軸Laがセンサ100の光軸Raに平行になるように設置された状態で、センサ100による点群の情報と撮像部300による画像の情報とが用いられるようにしてもよい。
また、図15に示すように、一実施形態に係る検出機器3において、センサ100と撮像部300とは、それぞれの光軸Raと光軸Laとの間が距離Gに保たれるように配置されてもよい。このように配置することにより、センサ100による点群の情報と、撮像部300による画像の情報とは、互いに距離Gだけずれた情報となる。例えば、図15に示す配置構成において、撮像部300による画像の情報は、センサ100による点群の情報よりも距離Gだけ上側にずれた情報になる。また、図15に示す配置構成において、センサ100による点群の情報は、撮像部300による画像の情報よりも距離Gだけ下側にずれた情報になる。
したがって、図15に示す配置構成において、例えば、センサ100による点群の情報を距離Gだけ上側にずらすように補正することにより、センサ100による点群の情報の位置を撮像部300による画像の情報の位置に対応させることができる。また、図15に示す配置構成において、例えば、撮像部300による画像の情報を距離Gだけ下側にずらすように補正することにより、撮像部300による画像の情報の位置をセンサ100による点群の情報の位置に対応させることができる。このように、電子機器1は、センサ100による点群の情報及び撮像部300による画像の情報の少なくとも一方を補正することより、センサ100による点群の情報及び撮像部300による画像の情報が互いに位置的に対応するようにしてもよい。
すなわち、一実施形態に係る電子機器1において、センサ100が物体(被監視対象)を検出することにより得られる点群の情報及び撮像部300が当該物体を撮像することにより得られる画像の情報の少なくとも一方を補正してもよい。一実施形態に係る電子機器1は、センサ100による点群の情報と撮像部300による画像の情報とを補正により整合させた情報を用いてもよい。
また、センサ100による点群の検出範囲(角度)と、撮像部300による画像の撮像範囲(角度又は画角)とは、同じにならないことも想定される。このような場合、電子機器1は、センサ100による点群の情報及び撮像部300による画像の情報が互いに位置的に対応するように、両者のうち広い方の範囲(角度)を狭い方の範囲(角度)に合わせてもよい。すなわち、電子機器1は、撮像部300の撮像可能範囲と、センサ100の検出可能範囲との重複する範囲のみの情報を用いて、重複しない範囲の情報は削除又は無視してもよい。
以上のように、一実施形態に係る電子機器1において、撮像部300が物体(被監視対象)を撮像することにより得られる画像の情報として、センサ100が当該物体(被監視対象)を検出することにより得られる点群の情報に位置的に対応した情報を用いてもよい。
以下、一実施形態に係る電子機器1において、図4のステップS3に示した被監視対象Tmの身体の部位の認識(又は推定)を、検出機器3を用いて機械学習によって行う際の動作について、さらに説明する。
一実施形態に係る電子機器1が、センサ100から出力される点群の情報を用いて、例えば被監視対象のような物体における所定の部位(例えば身体の部位)を機械学習する。ここで、一実施形態に係る電子機器1は、物体(被監視対象)を撮像部300が撮像することにより得られる画像の情報を用いて、物体における所定の部位を機械学習してよい。以下、このような一実施形態に係る電子機器1による機械学習の局面を、単に「学習フェーズ」と記すことがある。一実施形態に係る電子機器1は、上述のようにして機械学習を経た後においては、センサ100から出力される点群の情報を用いて、例えば被監視対象のような物体における所定の部位(例えば身体の部位)を推定することができる。以下、このような一実施形態に係る電子機器1による部位の推定の局面を、単に「推定フェーズ」と記すことがある。このようにして被監視対象のような物体における所定の部位(例えば身体の部位)が推定(認識)されたら、一実施形態に係る電子機器1は、当該推定(認識)された部位の情報に基づいて、図4に示すステップS4以降の処理を行うことができる。
(学習フェーズ)
まず、学習フェーズについて説明する。一実施形態に係る電子機器1は、センサ100の出力を用いて、物体(被監視対象)における所定の部位(例えば身体の部位)を機械学習する。
図16は、一実施形態に係る電子機器1による機械学習の例を説明する図である。一実施形態に係る電子機器1は、例えば図16の左側に示すようなセンサ100の出力に基づく点群データを用いて、センサ100によって検出された物体(例えば被監視対象)における所定の部位(例えば身体の部位)について、機械学習を行う。この時、電子機器1は、例えば図16の上側に示すような撮像部300が撮像する画像に基づく被監視対象の部位の座標を用いることにより、機械学習を行ってよい。図16は、一実施形態に係る電子機器1が、センサ100の出力に基づく点群データと、撮像部300が撮像する画像に基づく部位の座標とに基づいて、機械学習を行う態様を、概念的に示している。
図16に示すような機械学習を行うに際し、一実施形態に係る電子機器1は、撮像部300が撮像する画像に基づく各部位の座標を示す情報として、それぞれ正解を示唆するデータ(以下、「正解データ」と記すことがある)を用いてもよい。すなわち、図16の上側に示すような撮像部300が撮像する画像に基づく被監視対象の部位の座標は、当該被監視対象の身体の各部位の座標を示す正解データとしてよい。このような正解データは、予め人員によって指定されていてもよいし、電子機器1などのような情報処理装置によって画像認識されてもよい。
図17は、一実施形態に係る電子機器1による所定の部位の指定及び画像認識の例を説明する図である。図17の左側に示すように、例えば撮像部300が撮像する被監視対象の画像について、人員による指定又は画像認識を行うことにより、図17の右側に示すように、被監視対象の各部位の座標を得ることができる。
例えば、電子機器1は、撮像部300が撮像する被監視対象の画像において、各部位に対応する位置が、所定の人員などの人手によって指定されるようにしてもよい。例えば、一実施形態に係る電子機器1は、撮像部300が撮像する被監視対象の画像において「首」の部位を指定するように、電子機器1のユーザなどの人員に求めてもよい。この場合、電子機器1のユーザなどの人員は、電子機器1による求めに応じて、撮像部300によって撮像された被監視対象の画像において首の部位を指定する操作をしてよい。例えば、電子機器1のユーザなどの人員は、図17の左側に示すように表示部などに表示された被監視対象の画像において、首の部位をポインタで指定するようにしてもよい。また、例えば、電子機器1のユーザなどの人員は、図17の左側に示すように表示部などに表示された被監視対象の画像において、首の部位を指又はスタイラスなどによってタッチして指定するようにしてもよい。
このようにして首の部位が指摘されると、電子機器1は、図17の右側に示すように、撮像部300によって撮像された被監視対象の画像において当該部位に対応する位置の座標を特定してよい。以下同様に、電子機器1は、撮像部300が撮像する被監視対象の画像において「右肩」の部位、続いて「左肩」の部位などを指定するように、電子機器1のユーザなどの人員に求めてもよい。
このように、一実施形態に係る電子機器1において、撮像部300が物体(被監視対象)を撮像することにより得られる画像の情報として、当該物体における所定の部位が予め(例えば人員の手によって)指定された画像の情報を用いてもよい。
また、例えば、電子機器1は、撮像部300が撮像する被監視対象の画像において、各部位に対応する位置が、例えば(所定の人員などの人手によらず)画像認識されるようにしてもよい。例えば、一実施形態に係る電子機器1は、撮像部300が撮像する被監視対象の画像において「首」の部位を画像認識することにより、当該部位の座標を特定してもよい。この場合、電子機器1は、例えば上述のようにして所定の人員などの人出によって予め指定された各部位の正解データを用いて、機械学習した情報を用いてもよい。また、この場合、電子機器1は、撮像部300が撮像する多数の被監視対象の画像において、各部位に対応する位置を機械学習することにより、各部位の画像認識の精度を向上させることができる。
このようにして首の部位が画像認識されると、電子機器1は、図17の右側に示すように、撮像部300によって撮像された被監視対象の画像において当該部位に対応する位置の座標を特定してよい。以下同様に、電子機器1は、撮像部300が撮像する被監視対象の画像において「右肩」の部位、続いて「左肩」の部位などを画像認識してもよい。
このように、一実施形態に係る電子機器1において、撮像部300が物体(被監視対象)を撮像することにより得られる画像の情報として、当該物体における所定の部位が画像認識された情報を用いてもよい。
図17の右側は、例えば被監視対象のような物体において特定された所定の部位として、当該所定の部位の位置、すなわち当該所定の部位の位置の座標が示されることを表している。
以上説明したように、一実施形態に係る電子機器1は、センサ100の出力及び撮像部300の出力を用いて、物体(被監視対象)における所定の部位(身体の部位)を機械学習してよい。ここで、センサ100の出力とは、送信波として送信される送信信号、及び送信波が反射された反射波として受信される受信信号に基づいて、送信波を反射する物体(被監視対象)をセンサ100が検出することにより得られる点群の情報としてよい。また、撮像部300の出力とは、物体(被監視対象)を撮像部300が撮像することにより得られる画像の情報としてよい。また、一実施形態に係る電子機器1は、物体(被監視対象)における所定の部位の位置を機械学習してもよい。さらに、一実施形態に係る電子機器1は、物体(被監視対象)における所定の部位の位置の座標を機械学習してもよい。
(推定フェーズ)
次に、推定フェーズについて説明する。一実施形態に係る電子機器1は、上述のように機械学習を行うと、センサ100から出力される点群の情報を用いて、例えば被監視対象のような物体における所定の部位(例えば身体の部位)を推定することができる。
図18は、一実施形態に係る電子機器1による所定の部位の推定の例を説明する図である。一実施形態に係る電子機器1は、図18の左側に示すセンサ100の出力に基づく点群データを用いて、図18の中央に示す機械学習を介して、図18の右側に示すように例えば被監視対象のような物体における所定の部位(例えば身体の部位)を推定することができる。図18の右側は、例えば被監視対象のような物体における所定の部位として、当該所定の部位の位置、すなわち当該所定の部位の位置の座標が示されることを表している。
このように、一実施形態に係る電子機器1は、例えばセンサ100などによって物体を検出することにより得られる点群の情報を用いて、当該物体における所定の部位を機械学習してよい。このような機械学習を行うことにより、一実施形態に係る電子機器1は、センサ100などによって被監視対象を検出することにより得られる点群の情報を用いて、当該被監視対象における所定の部位を推定することができる。
一実施形態に係る電子機器1によれば、例えばミリ波レーダセンサのようなセンサ300から出力される点群データに基づいて、被監視対象のような所定の物体の各部位を認識することができる。したがって、一実施形態に係る電子機器1によれば、仮に被監視対象のような所定の物体が複雑な動作を行っていたとしても、当該物体の各部位を認識し得る。また、一実施形態に係る電子機器1によれば、所定の機械学習の後には、例えばミリ波レーダセンサのようなセンサ300から出力される点群データに基づいて、被監視対象のような所定の物体の各部位を認識することができる。したがって、一実施形態に係る電子機器1によれば、例えば被監視対象の画像を用いなくても、各部位を認識することができる。このため、被監視対象のプライバシーに配慮したユースケースを想定することができる。
本開示に係る実施形態について、諸図面及び実施例に基づき説明してきたが、当業者であれば本開示に基づき種々の変形又は修正を行うことが容易であることに注意されたい。従って、これらの変形又は修正は本開示の範囲に含まれることに留意されたい。例えば、各構成部又は各ステップなどに含まれる機能などは論理的に矛盾しないように再配置可能であり、複数の構成部又はステップなどを1つに組み合わせたり、或いは分割したりすることが可能である。本開示に係る実施形態について装置を中心に説明してきたが、本開示に係る実施形態は装置の各構成部が実行するステップを含む方法としても実現し得るものである。本開示に係る実施形態は装置が備えるプロセッサにより実行される方法、プログラム、又はプログラムを記録した記憶媒体としても実現し得るものである。本開示の範囲にはこれらも包含されるものと理解されたい。
上述した実施形態は、電子機器1としての実施のみに限定されるものではない。例えば、上述した実施形態は、電子機器1に含まれる電子機器1として実施してもよい。また、上述した実施形態は、例えば、電子機器1のような機器による監視方法として実施してもよい。さらに、上述した実施形態は、例えば、電子機器1のような機器又は情報処理装置(例えばコンピュータ)が実行するプログラムとして実施してもよい。
1 電子機器
3 検出機器
5 スタンド部
7 接地部
10 コントローラ
20 記憶部
30 通信部
40 表示部
50 報知部
100 センサ
101 電波入力部
110 レーダ制御部
120 送信部
121 信号生成部
122 シンセサイザ
123 位相制御部
124 増幅器
125 送信アンテナ
130 受信部
131 受信アンテナ
132 LNA
133 ミキサ
134 IF部
135 AD変換部
300 撮像部
301 光入力部

Claims (13)

  1. 送信波として送信される送信信号、及び前記送信波が反射された反射波として受信される受信信号に基づいて、前記送信波を反射する物体をセンサが検出することにより得られる点群の情報と、
    前記物体を撮像部が撮像することにより得られる画像の情報とを用いて、
    前記物体における所定の部位を機械学習する、電子機器。
  2. 前記物体における所定の部位の位置を機械学習する、請求項1に記載の電子機器。
  3. 前記物体における所定の部位の位置の座標を機械学習する、請求項2に記載の電子機器。
  4. 前記撮像部が前記物体を撮像することにより得られる画像の情報として、前記センサが前記物体を検出することにより得られる点群の情報に位置的に対応した情報を用いて、前記物体における所定の部位を機械学習する、請求項1から3のいずれかに記載の電子機器。
  5. 前記撮像部の光軸が前記センサの光軸に平行になるように設置された状態で、前記センサが前記物体を検出することにより得られる点群の情報と前記撮像部が前記物体を撮像することにより得られる画像の情報とを用いて、前記物体における所定の部位を機械学習する、請求項4に記載の電子機器。
  6. 前記センサが前記物体を検出することにより得られる点群の情報及び前記撮像部が前記物体を撮像することにより得られる画像の情報の少なくとも一方を補正することにより双方を整合させた情報を用いて、前記物体における所定の部位を機械学習する、請求項1から5のいずれかに記載の電子機器。
  7. 前記撮像部が前記物体を撮像することにより得られる画像の情報として、前記物体における所定の部位が予め指定された画像の情報を用いて、前記物体における所定の部位を機械学習する、請求項1から6のいずれかに記載の電子機器。
  8. 前記撮像部が前記物体を撮像することにより得られる画像の情報として、前記物体における所定の部位が画像認識された情報を用いて、前記物体における所定の部位を機械学習する、請求項1から6のいずれかに記載の電子機器。
  9. 送信波として送信される送信信号、及び前記送信波が反射された反射波として受信される受信信号に基づいて、前記送信波を反射する物体を検出することにより得られる点群の情報を用いて、前記物体における所定の部位を機械学習して、
    送信波として送信される送信信号、及び前記送信波が反射された反射波として受信される受信信号に基づいて、前記送信波を反射する被監視対象をセンサが検出することにより得られる点群の情報を用いて、
    前記被監視対象における所定の部位を推定する、電子機器。
  10. 送信波として送信される送信信号、及び前記送信波が反射された反射波として受信される受信信号に基づいて、前記送信波を反射する物体をセンサによって検出することにより点群の情報を取得するステップと、
    前記物体を撮像部によって撮像することにより画像の情報を取得するステップと、
    前記物体における所定の部位を機械学習するステップと、
    を含む、電子機器の制御方法。
  11. 送信波として送信される送信信号、及び前記送信波が反射された反射波として受信される受信信号に基づいて、前記送信波を反射する物体を検出することにより得られる点群の情報を用いて、前記物体における所定の部位を機械学習するステップと、
    送信波として送信される送信信号、及び前記送信波が反射された反射波として受信される受信信号に基づいて、前記送信波を反射する被監視対象をセンサが検出することにより得られる点群の情報を用いて、前記被監視対象における所定の部位を推定するステップと、
    を含む、電子機器の制御方法。
  12. 電子機器に、
    送信波として送信される送信信号、及び前記送信波が反射された反射波として受信される受信信号に基づいて、前記送信波を反射する物体をセンサによって検出することにより点群の情報を取得するステップと、
    前記物体を撮像部によって撮像することにより画像の情報を取得するステップと、
    前記物体における所定の部位を機械学習するステップと、
    を実行させる、プログラム。
  13. 電子機器に、
    送信波として送信される送信信号、及び前記送信波が反射された反射波として受信される受信信号に基づいて、前記送信波を反射する物体を検出することにより得られる点群の情報を用いて、前記物体における所定の部位を機械学習するステップと、
    送信波として送信される送信信号、及び前記送信波が反射された反射波として受信される受信信号に基づいて、前記送信波を反射する被監視対象をセンサが検出することにより得られる点群の情報を用いて、前記被監視対象における所定の部位を推定するステップと、
    を実行させる、プログラム。
JP2021029204A 2021-02-25 2021-02-25 電子機器、電子機器の制御方法、及びプログラム Pending JP2022130177A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021029204A JP2022130177A (ja) 2021-02-25 2021-02-25 電子機器、電子機器の制御方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021029204A JP2022130177A (ja) 2021-02-25 2021-02-25 電子機器、電子機器の制御方法、及びプログラム

Publications (1)

Publication Number Publication Date
JP2022130177A true JP2022130177A (ja) 2022-09-06

Family

ID=83150785

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021029204A Pending JP2022130177A (ja) 2021-02-25 2021-02-25 電子機器、電子機器の制御方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP2022130177A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024096081A1 (ja) * 2022-11-02 2024-05-10 京セラ株式会社 電子機器、電子機器の制御方法、及びプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024096081A1 (ja) * 2022-11-02 2024-05-10 京セラ株式会社 電子機器、電子機器の制御方法、及びプログラム

Similar Documents

Publication Publication Date Title
Yu et al. Noninvasive human activity recognition using millimeter-wave radar
Tan et al. Exploiting WiFi channel state information for residential healthcare informatics
CN110115823A (zh) 跑步机和跑步机上的非接触式感测方法
FI130097B (en) Providing imaging units to monitor vital parameters
US20140320307A1 (en) Electronic apparatus and communication control method
Cui et al. Device-free single-user activity recognition using diversified deep ensemble learning
US20220373646A1 (en) Joint estimation of respiratory and heart rates using ultra-wideband radar
CN116106855B (zh) 摔倒检测方法及摔倒检测装置
Shi et al. mPose: Environment-and subject-agnostic 3D skeleton posture reconstruction leveraging a single mmWave device
Cardillo et al. Empowering blind people mobility: A millimeter-wave radar cane
Borhani et al. A non-stationary channel model for the development of non-wearable radio fall detection systems
Chen et al. Respiration and activity detection based on passive radio sensing in home environments
CN111712730A (zh) 通过多信道雷达监测生活设施
Gupta et al. Automatic contact-less monitoring of breathing rate and heart rate utilizing the fusion of mmWave radar and camera steering system
JP2022130177A (ja) 電子機器、電子機器の制御方法、及びプログラム
Muaaz et al. WiHAR: From Wi-Fi channel state information to unobtrusive human activity recognition
Chen et al. Radio sensing using 5G signals: Concepts, state of the art, and challenges
US11129539B2 (en) Pulse measuring device and control method thereof
JP2022130176A (ja) 電子機器、電子機器の制御方法、及びプログラム
EP3485818B1 (en) Ultrasound diagnosis apparatus and method of controlling the same
US11832933B2 (en) System and method for wireless detection and measurement of a subject rising from rest
Waqar et al. Direction-independent human activity recognition using a distributed MIMO radar system and deep learning
CN115770017A (zh) 睡眠状态确定方法、系统、装置及电子设备
TWI835842B (zh) 無線通訊方法和設備,以及電子設備
WO2024096081A1 (ja) 電子機器、電子機器の制御方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230915

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240528

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240611