JP7327837B2 - カメラモジュール及び無線通信装置を活用して事象の感知を行うウェアラブル機器 - Google Patents

カメラモジュール及び無線通信装置を活用して事象の感知を行うウェアラブル機器 Download PDF

Info

Publication number
JP7327837B2
JP7327837B2 JP2021565144A JP2021565144A JP7327837B2 JP 7327837 B2 JP7327837 B2 JP 7327837B2 JP 2021565144 A JP2021565144 A JP 2021565144A JP 2021565144 A JP2021565144 A JP 2021565144A JP 7327837 B2 JP7327837 B2 JP 7327837B2
Authority
JP
Japan
Prior art keywords
wearable device
ambient light
user
wireless communication
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021565144A
Other languages
English (en)
Other versions
JP2022530569A (ja
Inventor
ウォン イ、フィ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Inhandplus Inc
Original Assignee
Inhandplus Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Inhandplus Inc filed Critical Inhandplus Inc
Publication of JP2022530569A publication Critical patent/JP2022530569A/ja
Application granted granted Critical
Publication of JP7327837B2 publication Critical patent/JP7327837B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/188Capturing isolated or intermittent images triggered by the occurrence of a predetermined event, e.g. an object reaching a predetermined position
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • AHUMAN NECESSITIES
    • A44HABERDASHERY; JEWELLERY
    • A44CPERSONAL ADORNMENTS, e.g. JEWELLERY; COINS
    • A44C5/00Bracelets; Wrist-watch straps; Fastenings for bracelets or wrist-watch straps
    • A44C5/0007Bracelets specially adapted for other functions or with means for attaching other articles
    • GPHYSICS
    • G04HOROLOGY
    • G04BMECHANICALLY-DRIVEN CLOCKS OR WATCHES; MECHANICAL PARTS OF CLOCKS OR WATCHES IN GENERAL; TIME PIECES USING THE POSITION OF THE SUN, MOON OR STARS
    • G04B47/00Time-pieces combined with other articles which do not interfere with the running or the time-keeping of the time-piece
    • GPHYSICS
    • G04HOROLOGY
    • G04GELECTRONIC TIME-PIECES
    • G04G21/00Input or output devices integrated in time-pieces
    • G04G21/02Detectors of external physical values, e.g. temperature
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B1/00Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission
    • H04B1/38Transceivers, i.e. devices in which transmitter and receiver form a structural unit and in which at least one part is used for functions of transmitting and receiving
    • H04B1/3827Portable transceivers
    • H04B1/385Transceivers carried on the body, e.g. in helmets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/27Server based end-user applications
    • H04N21/274Storing end-user multimedia data in response to end-user request, e.g. network recorder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/414Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance
    • H04N21/41407Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance embedded in a portable device, e.g. video client on a mobile phone, PDA, laptop
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/433Content storage operation, e.g. storage operation in response to a pause request, caching operations
    • H04N21/4334Recording operations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/65Transmission of management data between client and server
    • H04N21/658Transmission by the client directed to the server
    • H04N21/6582Data stored in the client, e.g. viewing habits, hardware capabilities, credit card number
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/57Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • H04N7/185Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source from a mobile camera, e.g. for remote control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/80Services using short range communication, e.g. near-field communication [NFC], radio-frequency identification [RFID] or low energy communication

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Human Computer Interaction (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • User Interface Of Digital Computer (AREA)
  • Image Analysis (AREA)
  • Medical Treatment And Welfare Office Work (AREA)
  • Alarm Systems (AREA)

Description

本発明の様々な実施形態は、ユーザーが着用できるウェアラブル機器に組み込まれているカメラモジュール及び無線通信技術を活用してさらに手軽にオブジェクトの事象を感知する技術に関する。
日常生活を営む中で、ユーザーは、自分が知らず知らずのうちに数多くの身体活動を行うことを余儀なくされる。特に、このような身体活動は、特定のオブジェクトを動かす事象をかなり伴うことになるが、ユーザーの習慣的なパターンと無意識的な領域において生じる事象をユーザーが一々覚えることは決して容易ではない。
しばしば、このようなオブジェクトの動きを伴うユーザーの身体活動は、色々な領域において大切な事象として決められたりもする。例えば、ヘルスケアなどといった分野においては、ユーザーがいつ、どのような薬をどれくらい飲んだかが大切な要素であることもあり、特定の疾病の場合には、薬をうっかり飲み忘れないことが非常に肝要な治療上のイシューとして取り上げられることもある。
問題は、このような非常に肝要な事象をうっかり抜かしたときに、ユーザーは、日常生活を営む中でこれに気付かない場合がほとんどであり、たとえ後でこれに気付いたとしても、事象の発生に間に合わなかったことに伴うロスないしリスクを遡及させることができないという限界点がある。
近年、カメラなどを用いてユーザーの活動を分析する技術が登場したとはいえ、固設型カメラにとどまる場合がほとんどであり、日常生活に当てはめることは困難であるという不都合がある。
本発明の様々な実施形態は、ウェアラブル機器とその構成を通して日常生活を営む中でわりと簡単に特定のオブジェクトを捉えて予め定められた事象が生じるか否かを判断し、事象の発生時間を記して多種多様なサービスを提供するところにその目的がある。
本発明において解決しようとする技術的課題は、上述した技術的課題に何ら制限されるものではなく、未言及の他の技術的課題は、次の記載から通常の技術者にとって明らかに理解できる筈である。
上述した技術的課題を解決するための本発明の様々な実施形態の一つに係るウェアラブル機器は、ユーザーの身体に着用可能なウェアラブル機器であって、ユーザーの身体と所定の領域内に位置しているオブジェクトを捉える近距離通信モジュールと、前記ウェアラブル機器と隣り合う領域を撮影して、ユーザーの身体の動きまたは前記オブジェクトのうちの少なくとも一方と関わる画像または動画を生成するカメラモジュールと、前記近距離通信モジュールを用いて寄せ集められたオブジェクト情報に基づいて、カメラモジュールの活性化有無を決める制御部と、前記近距離通信モジュールを用いて捉えたオブジェクトに関する情報及び前記カメラモジュールを用いて生成された画像または動画を管理サーバーに送る通信モジュールと、を備え、前記近距離通信モジュールは、前記オブジェクトに取り付けられた無線通信装置において生じる信号を受信し、前記制御部は、前記近距離通信モジュールが前記無線通信装置から受信する信号を解析して特定の条件(第2の所定の条件)が満たされたか否かを判断し、これを基にカメラモジュールの活性化有無を決めることを特徴としてもよい。
前記ウェアラブル機器は、ユーザーの手首に着用されるスマートウォッチまたはスマートバンドであることを特徴とし、前記カメラモジュールは、前記スマートウォッチのバンドの部分または前記スマートバンドの一部分に組み込まれ、前記カメラモジュールの少なくとも一部は、前記スマートウォッチのバンドまたはスマートバンドのうちのサイド面を介して露出されることを特徴としてもよい。
前記無線通信装置は、スリープモードにて運用されていて、特定の条件(第1の所定の条件)が満たされたときに活性化されて無線信号を送出することを特徴としてもよい。
前記無線通信装置は、活性化された状態で無線信号を送出し続け、特定の条件が満たされる場合に、送出する無線信号に特定の条件の充足と関わる情報を埋め込むことを特徴としてもよい。
前記制御部が、前記近距離通信モジュールが前記無線通信装置から受信する信号を解析して特定の条件(第2の所定の条件)が満たされたか否かを判断する過程は、前記近距離通信モジュールが前記オブジェクトを捉えるときの信号の強さ、照度センサーの測定値またはモーションセンサーの測定値のうちの少なくともいずれか一つ以上に基づいて行われることを特徴としてもよい。
前記制御部は、既に設定された任意の時間区間内においてしか前記近距離通信モジュールが作動しないように制御してもよい。
前記通信モジュールは、通信網に接続できていない状況下で感知された無線信号情報及び前記カメラモジュールにより生成された画像または動画を一時的に格納し、今後の通信網へに接続の際に前記管理サーバーに送ってもよい。
前記制御部は、複数枚の基準画像または動画から特定のオブジェクトまたは動作と関わるフィーチャー値を設定し、設定されたフィーチャー値に基づいて、前記カメラモジュールにより生成された画像または動画からフィーチャー値を取り出して特定のオブジェクトの捕捉確率または特定の動作の発生確率を計算してもよい。
上述した技術的課題を解決するための本発明の様々な実施形態の一つに係る管理サーバーは、ユーザーの身体に着用可能なウェアラブル機器との通信を用いて情報を取得し、取得した情報を管理する管理サーバーであって、前記ウェアラブル機器の近距離通信モジュールを用いて自動的に寄せ集められたオブジェクトの情報を受信し、前記ウェアラブル機器を用いて生成された画像または動画を受信する通信部と、前記オブジェクトの情報に基づいて、前記画像または動画上において前記オブジェクトまたは前記ユーザーの身体と関わる予め設定された動作が感知されるか否かをマシンラーニングまたは人工知能に基づいて判断する動作判断部と、を備えていてもよい。
前記管理サーバーの動作判断部は、前記画像または動画上において前記オブジェクトまたは前記ユーザーの身体と関わる予め設定された動作が感知されるか否かを判断するに当たって、複数枚の基準画像または動画から特定のオブジェクトまたは動作と関わるフィーチャー値を設定し、前記画像または動画上から取り出されたフィーチャー値に基づいて、特定のオブジェクトの捕捉確率または特定の動作の発生確率を計算することを特徴としてもよい。
本発明の実施形態により、ウェアラブル機器により特定の事象の発生有無と発生時間が記されることにより、ヘルスケアなどといった日常生活の分野において抜かし易いユーザーの事象を感知してより効率よいガイドシステムを提供することができ、ユーザーのパターンなどを学習してデータの解析が行えるシステムを実現することができる。
本発明の効果は、上述した効果に何ら制限されるものではなく、未言及の他の効果は、次の記載から通常の技術者にとって明らかに理解できる筈である。
本発明の一実施形態に係る事象感知システムの概略図である。 本発明の一実施形態に係るウェアラブル機器のブロック構成図である。 本発明の一実施形態に係る管理サーバーのブロック構成図である。 本発明の一実施形態に係るウェアラブル機器において、オブジェクトを感知し、画像または動画を生成する動作の手順図である。 本発明の一実施形態に係る管理サーバーにおいて、ウェアラブル機器から受信される情報を管理し、これを通して最終的に特定の事象が生じたか否かを判断する動作に対する手順図である。 本発明の他の実施形態に係るウェアラブル機器において、オブジェクトの事象を感知する動作の手順図である。 本発明の他の実施形態に係るウェアラブル機器において、オブジェクトの事象を感知する動作の手順図である。 本発明の一実施形態に係るウェアラブル機器の構造を説明するための図である。 本発明の一実施形態に係るウェアラブル機器がスマートウォッチのタイプに構成される場合を示す図である。 本発明の一実施形態に係るウェアラブル機器がスマートウォッチのタイプに構成される場合を示す図である。 本発明の一実施形態に係るウェアラブル機器がスマートウォッチのタイプに構成される場合を示す図である。
この明細書において用いられる用語は、実施形態を説明するためのものであり、本発明を制限しようとするものではない。この明細書において、単数型の言い回しは、別に断りのない限り、複数型の意味を含んでもよい。この明細書において用いられる「備える」、「含む」などの用語は、言及された構成要素の他に一つ以上の他の構成要素の存在または追加を排除しない。明細書の全般に亘って、同一の図面符号は同一の構成要素を指し示し、「及び/又は」は、言及された構成要素のそれぞれ及び一つ以上のあらゆる組み合わせを含む。たとえ「第1の」、「第2の」などの言い回しは、様々な構成要素を説明するうえで使用可能であるが、これらの構成要素は、これらの言い回しによって何等限定されないということはいうまでもない。これらの言い回しは、単にある構成要素を他の構成要素から区別する目的でしか使えない。したがって、以下において言及される第1の構成要素は、本発明の技術的思想内において第2の構成要素であってもよいということはいうまでもない。
この明細書において言及される「事象」は、オブジェクトがユーザーの身体と関わって特定の領域に位置したり動いたりする動作の意味合いであってもよい。例えば、事象は、薬や食べ物を食べる行為などを網羅してもよいが、これに何ら限定されるものではない。
図1は、本発明の一実施形態に係る事象感知システム10の概略図である。このような事象感知システム10は、ウェアラブル機器200がオブジェクトに取り付けられた無線通信装置100から送られてくる信号を認識し、オブジェクトを撮影することにより、所定の有効事象が生じるか否かを感知して時間情報を記す機能を行う。
一実施形態によれば、事象感知システム10は、無線通信装置100と、ウェアラブル機器200と、管理サーバー300及びユーザー端末400を備えていてもよい。
無線通信装置100は、オブジェクトに取り付けられたり、オブジェクトと隣り合う領域に位置したりして、ウェアラブル機器200により認識されることにより、ウェアラブル機器200にオブジェクトを捉えさせる機能を行う。このような無線通信装置100としては、例えば、セルラー通信モジュール、近距離無線通信モジュール、汎地球測位航法衛星システム(GNSS:global navigation satellite system)通信モジュールなどが挙げられる。近距離無線通信モジュールとしては、例えば、ビーコン、ブルーテゥース、WIFIダイレクト、ジグビー、RFモジュール、NFC(近距離無線通信)などが挙げられるが、これらに何ら限定されるものではない。
一実施形態によれば、無線通信装置100は、無線信号(例えば、ブルーテゥース信号)を送ってもよく、特定の状況の下でのみ信号を送って無線通信装置のバッテリー電力の消耗を抑えることができる。
様々な実施形態によれば、無線通信装置100は、スリープ状態にて運用されていて無線信号を送出できない非活性の状態であり特定の条件(第1の所定の条件)が満たされれば、活性化された状態に変更して無線信号を送出してもよい。この場合、第1の所定の条件は、照度センサーの測定値またはモーションセンサーの測定値のうちの少なくとも一方が特定の数値に達することであってもよく、各測定値または計算値の変化率が特定の数値に達することであってもよい。これにより、バッテリーの電力が余計に消耗されてしまうことを防ぐことができる。
他の実施形態によれば、無線通信装置100は、リアルタイムにて無線信号を送出してもよく、特定の条件が満たされる事象が生じると、当該特定の条件が満たされたという旨の情報を無線信号に埋め込んで送出してもよい。この場合であっても、特定の条件は、照度センサーの測定値またはモーションセンサーの測定値のうちの少なくとも一方の関わっていてもよい。このように、無線通信装置100がスリープモードにて運用されず、常に作動しながらリアルタイムにて無線信号を送出すれば、特定の条件が生じた場合、無線通信装置100がスリープモードにて活性化されるのにかかる時間が不要になり、無線通信装置100がウェアラブル機器200と常に無線にて通信することにより、特定の条件が生じた場合、ウェアラブル機器200上のカメラモジュールが反応するのにかかる時間が短縮されることが可能になる。
無線通信装置100は、様々な全地球測位システム(GPS)センサー、ジェスチャーセンサー、ジャイロセンサー、9軸センサー、照度センサー、モーションセンサーなどの様々なセンサーモジュールのうちの少なくとも一種以上を備えていてもよい。例えば、無線通信装置100は、ビーコン、近距離無線通信装置、遠距離無線通信装置のうちの少なくとも一種を備えていてもよい。無線通信装置100の動作方式の一つは、9軸センサーを活用して無線通信装置100付きオブジェクトの動きを感知し、これにより無線信号を生成することであってもよい。一実施形態に係る9軸センサーは、3軸が加速度センサー、3軸がジャイロセンサー、3軸が磁界センサーから構成されてもよく、それにより、センサー付きオブジェクトの動きが計測されることが可能になる。無線通信装置100は、オブジェクトに取り付けられてオブジェクトの動きをこのようなセンサーを用いて感知し、第1の所定の条件が満たされる場合にのみ無線通信装置信号を生じさせてもよい。前述したように、第1の所定の条件が生じた場合、無線通信装置100がスリープ状態から活性化された状態に変更して無線信号を送出してもよく、これとは異なり、リアルタイムにて無線信号を送出していた無線通信装置100が特定の条件が生じたという旨の情報を無線信号にさらに埋め込んで送出してもよい。
本発明の実施形態において、無線信号がウェアラブル機器200の近距離通信モジュールにより認識される場合、ウェアラブル機器200は、無線通信装置100を用いて寄せ集められた無線信号情報から第2の所定の条件に基づいて、カメラモジュールの活性化有無を決めてもよい。詳しくは、ウェアラブル機器200が第1の所定の条件を満たしたときに送出される無線信号情報を受信する場合、第2の所定の条件に基づいてカメラモジュールが活性化されることが可能になる。
ウェアラブル機器200は、ユーザーの身体の少なくとも一部(例えば、手首など)に着用可能な電子装置であって、例えば、スマートウォッチ、スマート眼鏡、スマートヘルメットなどにより実現されてもよいが、これらに何ら限定されるものではない。本発明の実施形態において、ウェアラブル機器200は、近距離通信モジュール、カメラモジュールまたはセンサーモジュールを用いてオブジェクトを捉え、ウェアラブル機器200と隣り合う領域を撮影して管理サーバー300に送る役割を果たす。このようなウェアラブル機器200の具体的な構成については、図2に基づいて後述する。
本発明の一実施形態によれば、ウェアラブル機器200は、ユーザーの手首に着用可能なスマートウォッチから構成されてもよく、この場合、ウェアラブル機器200に組み込まれるカメラモジュールまたはセンサーモジュールは、スマートウォッチのケースにつながるバンドの上に位置してもよい。例えば、スマートウォッチのケースが手の甲につながる手首のところに位置する場合に、カメラモジュールまたはセンサーモジュールは、手のひらにつながる手首のところに位置するバンドに位置付けされてもよい。このような構成を通して、ウェアラブル機器200は、カメラモジュールまたはセンサーモジュールを用いて、ユーザーの手のひらの側において行われる動作または事象を感知したり撮影したりすることができ、ユーザーの手のひらの近くに位置していたり、ユーザーの手により掴まれたりする物体を感知したり撮影したりすることができる。
ウェアラブル機器200に組み込まれるカメラモジュールは、スマートウォッチのバンド内において一体型に形成されてもよい。この詳しい構成については後述する。
管理サーバー300は、ネットワークを介してユーザーのウェアラブル機器200と結ばれてウェアラブル機器200において寄せ集められる情報を与えられて、これを解析して特定の事象が生じたか否かを判断する機能を行う。また、管理サーバー300は、寄せ集められたまたは加工された情報をネットワークを介してユーザー端末400の上に受け渡しても良い。このような管理サーバー300は、少なくとも一つのプロセッサーを有する制御部、通信モジュール、格納部(例えば、メモリー)などのようなハードウェア情報またはアルゴリズム演算のためのソフトウェア情報を含んでいてもよい。
ユーザー端末400は、ウェアラブル機器200と接続されてウェアラブル機器200の初期の設定値の生成、設定値の変更などの役割を果たしてもよく、このような動作は、ユーザーがユーザー端末400上において行う操作に従って行われることが可能である。ユーザーは、ユーザー端末400を介して管理サーバー300に接続して自分が管理するウェアラブル機器200から管理サーバー300へと送られてきた情報と、このような情報を用いて管理サーバー300において加工された情報と、を確かめることができる。
本発明の一実施形態に係るユーザー端末400は、携帯電話、スマートフォン、携帯情報端末(PDA:Personal Digital Assistant)、ポータブルマルチメディアプレイヤー(PMP:Portable Multimedia Player)、タブレットPCなどといったようにネットワークを介してウェブサーバーと接続可能なあらゆる種類のハンドヘルド(Hand held)ベースの無線通信装置を網羅し、パソコン(例えば、デスクトップパソコン、ノート型パソコンなど)、ワークステーション、PDA、ウェブパッドなどといったようにメモリー手段を備え、マイクロプロセッサ―を搭載して演算能力を備えたデジタル機器のうちの一つであってもよい。
外部サーバーは、ネットワークを介して管理サーバー300に必要な情報(例えば、無線信号に関する識別情報、無線信号に対応するオブジェクトの画像情報など)を送受信する装置またはプログラムである。
図2は、本発明の一実施形態に係るウェアラブル機器200のブロック構成図である。このようなウェアラブル機器200は、通信モジュール210と、制御部220と、無線信号受信部221と、オブジェクト認識部223と、事象感知部225と、格納部230及びカメラモジュール240を備えていてもよい。
通信モジュール210は、ウェアラブル機器200において無線通信装置100から発せられる無線信号を受信し、管理サーバー300と、ユーザー端末400または外部サーバーと通信してウェアラブル機器200の動作に必要な情報を送受信する機能を行う。このような通信モジュール210は、ブルーテゥース、ジグビー、赤外線通信モジュール、NFC、RFモジュール、QRコード(登録商標)モジュールまたはWIFIモジュールといった近距離通信モジュールにより実現されることが可能であるが、ネットワーク通信モジュール、基地局通信モジュールなどの遠距離方式によっても実現可能である。
制御部220は、ウェアラブル機器200の電源供給の制御などといった全般的な動作及びウェアラブル機器200の内部構成要素間の信号の流れを制御し、データを処理するデータ処理機能を行ってもよい。制御部220は、少なくとも一つのプロセッサーまたはマイコン(MCU)を備えていてもよい。
制御部220は、カメラモジュール240の活性化有無を決め、それにより、カメラモジュール240の動作を制御してもよい。また、制御部220は、近距離通信モジュールの動作を制御してもよいが、一実施形態によれば、制御部220は、既に設定された任意の時間区間内においてしか近距離通信モジュールが作動しないように制御してもよい。
一実施形態によれば、制御部220は、後述する管理サーバー300の機能をいずれも含むような形態に実現されてもよい。この場合、ウェアラブル機器200の制御部220は、管理サーバー300の役割を自体的に果たすので、別途の管理サーバー300なしにも動作することができる。
無線信号受信部221は、オブジェクトに取り付けられた無線通信装置100において生じる信号を寄せ集めてもよい。無線信号受信部221の無線信号の寄せ集め方式は、前述した通信モジュール210の通信方式と略同じであってもよい。なお、このような無線信号受信部221の少なくとも一部の構成要素は、通信モジュール210に組み込まれてもよい。
格納部230は、制御部220と、無線通信装置100と、ウェアラブル機器200と、管理サーバー300と、ユーザー端末400または事象感知システム10の他の構成要素から受信されたり生成されたりしたデータを格納してもよい。このような格納部230としては、例えば、メモリー(memory)、キャッシュ(cash)、バッファー(buffer)などが挙げられ、ソフトウェア、フォームウェア、ハードウェアまたはこれらのうちの少なくとも二つ以上の組み合わせから構成されてもよい。
カメラモジュール240は、ウェアラブル機器200と隣り合う領域を撮影してユーザーの身体の動きまたはオブジェクトのうちの少なくとも一方と関わる画像または動画を生成する。このようなカメラモジュール240は、2Dまたは3Dカメラ装置を備えていてもよく、カメラのレンズを回動させたり動かしたりする駆動手段(例えば、アクチュエーター)を備えていてもよい。
一実施形態によれば、カメラモジュール240は、通信モジュール210を用いてウェアラブル機器200がオブジェクトを捉えた場合に活性化されてもよく、ウェアラブル機器200のセンサーモジュールを用いてユーザーの特定の行為が感知されたり、無線通信装置100から受信した信号から特定の条件が満たされたという旨の情報を取得したりした場合に活性化されてもよいが、これに何ら限定されるものではなく、他の特殊の条件(例えば、ユーザーが任意に活性化機能を選択)により活性化されることもまた可能である。ウェアラブル機器200がユーザーの特定の行為を感知する過程において、ウェアラブル機器200は、近距離通信モジュールがオブジェクトを捉えるときの信号の強さを感知してもよい。ウェアラブル機器200が無線通信装置100において生じる信号を用いてオブジェクトを捉える場合を例にとると、ウェアラブル機器200と無線通信装置100との間の距離に応じて信号の強さが異なってくる場合があるため、信号の強さに基づいてウェアラブル機器200とオブジェクトとの間の距離を計算してもよい。信号の強さは、 受信信号強度インジケータ(RSSI)を用いて計算されてもよい。
このために、図2には示されていないが、ウェアラブル機器200は、前述したように、ユーザーの特定の行為を認識できるセンサーモジュールをさらに備えていてもよい。センサーモジュールは、物理量を計測したり、ウェアラブル機器200の作動状態を感知したりして、計測もしくは感知された情報を電気信号に変換し得る少なくとも一つのセンサーを備えていてもよい。このようなセンサーモジュールとしては、例えば、GPSセンサー、ジェスチャーセンサー、ジャイロセンサー、気圧センサー、マグネチックセンサー、加速度センサー、近接センサー、生体センサー(例えば、虹彩センサー、指紋センサーなど)、赤外線センサー、紫外線センサー、9軸センサーまたは照度センサーのうちの少なくとも一種が挙げられる。
前述した図2において、ウェアラブル機器200内においてそれぞれの役割を果たす主体を~部または~モジュールの形式で示しているが、それぞれの部分は、ウェアラブル機器200内において動作するサブプログラムモジュールまたは制御部220を機能的に分類した構成要素であってもよい。このようなプログラムモジュールは、各動作を行ったり、特定の抽象データの類型を起動したりするルーチン、サブルーチン、プログラム、オブジェクト、コンポーネント、データ構造などを網羅する概念であるが、これらに何ら制限されない。
図3は、本発明の一実施形態に係る管理サーバー300のブロック構成図である。このような管理サーバー300は、通信部310と、制御部320と、動作判断部330と、事象発生判断部340及び格納部350を備えていてもよい。
通信部310は、管理サーバー300がウェアラブル機器200と、ユーザー端末400または外部サーバーと通信して管理サーバー300の動作に必要な情報を送受信する機能を行う。
通信部310は、ウェアラブル機器200が近距離通信モジュールを用いて寄せ集めたオブジェクトの情報と、カメラモジュール240を用いて生成した画像または動画をウェアラブル機器200から受信してもよい。
また、通信部310は、事象発生判断部340により判断された事象の発生有無に関する情報をユーザー端末400に送ってもよい。
本発明の一実施形態によれば、通信部310は、管理サーバー300がウェアラブル機器200とのリアルタイム通信を用いてウェアラブル機器200の動作を制御してもよい。
制御部320は、管理サーバー300の電源供給の制御などといった全般的な動作及びウェアラブル機器200の内部構成要素間の信号の流れを制御し、データを処理するデータ処理機能を行ってもよい。制御部320は、少なくとも一つのプロセッサーまたはMCUを備えていてもよい。
動作判断部330は、通信部310により受信されたオブジェクト情報と、画像または動画に基づいて予め設定された動作が感知されるか否かを判断してもよい。詳しく述べると、動作判断部330は、オブジェクト情報に基づいて、当該オブジェクトまたはユーザーの身体と関わる予め設定された動作が感知されるか否かを判断してもよく、このような判断は、マシンラーニングまたは人工知能に基づいて行われてもよい。
動作判断部330は、ウェアラブル機器200から受信した画像または動画上から予め設定されたオブジェクトまたは動作と関わるフィーチャー値を取り出してもよく、このようなフィーチャー値の取り出しは、複数のオブジェクトまたは動作に対して行われてもよい。
動作判断部330は、特定のオブジェクトまたは動作に対して予め備えられた複数枚の画像または動画からフィーチャー値を設定し、この値に基づいて、ウェアラブル機器200から受信した画像または動画内からフィーチャー値を取り出してもよい。この後、動作判断部330は、取り出されたフィーチャー値に基づいて、特定のオブジェクトの捕捉確率または特定の動作の発生確率を計算してもよい。
本発明の一実施形態によれば、特定のあるオブジェクトまたはユーザーの身体と関わる予め設定された動作は、オブジェクトごとに異なるように設定されてもよい。例えば、第1のオブジェクトが捉えられた場合には、第1の動作及び第2の動作がユーザーの身体と関わって予め設定された動作になってもよく、第2のオブジェクトが捉えられた場合には第3の動作及び第4の動作がユーザーの身体と関わって予め設定された動作になってもよい。
本発明の一実施形態によれば、本発明において無線信号を用いて捉えられるオブジェクトは、医薬品に関わるオブジェクトであってもよく、予め設定された動作は、医薬品または医薬品の摂取行為と関わる状況であってもよい。例えば、無線通信装置100において生じる信号を用いて捉えられるオブジェクトは、医薬品を収めている容器であってもよく、この場合、予め設定された動作は、医薬品の露出、容器が開かれる状況、医薬品がユーザーの手に取られる状況、医薬品がユーザーの口に近づく状況などを含んでいてもよい。
事象発生判断部340は、特定の事象の発生有無を判断する機能を行ってもよい。事象発生判断部340は、特定の事象の発生有無をフィーチャー値に基づいて計算された確率に基づいて判断するに当たって、動作判断部330により感知された予め設定された動作のそれぞれに対して設定された重み付け値をまとめて特定の事象の発生有無を判断してもよい。
例えば、動作判断部330が捉えられた特定のオブジェクトに対して予め設定された動作である第1の動作、第2の動作及び第3の動作が感知されたと判断する場合、事象発生判断部340は、第1の動作、第2の動作及び第3の動作に予め設定されている重み付け値を適用して最終的な演算を用いて特定の事象の発生有無を判断してもよい。
格納部350は、制御部320と、ウェアラブル機器200と、ユーザー端末400または事象感知システム10の他の構成要素から受信されたり生成されたりしたデータを格納してもよい。このような格納部350としては、例えば、メモリー(memory)、キャッシュ(cash)、バッファー(buffer)などが挙げられ、ソフトウェア、フォームウェア、ハードウェアまたはこれらのうちの少なくとも二つ以上の組み合わせから構成されてもよい。
格納部350は、動作判断部330が用いるマシンラーニングまたは人工知能に関わるデータを格納してもよく、事象発生判断部340が生成した特定の事象の発生有無に関わるデータもまた格納してもよい。なお、格納部350は、ウェアラブル機器200とユーザー端末400の情報を格納し、特定のウェアラブル機器200がどのようなユーザー端末400と関連している機器であるかを格納してもよい。
一実施形態によれば、格納部350は、管理サーバー300に組み込まれている格納部ではなく、オンライン上のサーバー(例えば、クラウドサーバー)に置き換えられてもよい。この場合、管理サーバー300は、オンライン上のサーバーの上に各種の情報を格納しておいて用いることができる。
以下の図4から図5においては、前記図1及び図2のような構成を通して、ウェアラブル機器200においてオブジェクトを感知してカメラモジュールで画像または動画を生成すれば、管理サーバー300において情報を受信して事象の発生有無を判断する動作について具体的に説明する。図4から図5の各ステップのうちの少なくとも一部は、省略されたり、互いに順番が変わったりしてもよい。
図4は、本発明の一実施形態に係るウェアラブル機器200においてオブジェクトを感知し、画像または動画を生成する動作の手順図である。
ユーザーがオブジェクトと隣り合うと、ウェアラブル機器200が無線通信装置100において生じる無線信号を受信してもよく(S410)、ウェアラブル機器200が受信する無線信号には、第2の所定の条件(例えば、照度センサーの測定値、モーションセンサーの測定値など)を判定するための情報が埋め込まれてもよい。
ウェアラブル機器200の制御部220は、次いで、受信された無線信号に埋め込まれた情報に基づいて、カメラモジュール240の活性化有無を決めてもよい(S420)。例えば、制御部220は、無線通信装置100において生じる無線信号が寄せ集められた時刻、照度センサーの測定値、モーションセンサーの測定値、RSSI値などに基づいてカメラモジュール240の活性化有無を決めてもよい。特に、照度センサーの測定値、モーションセンサーの測定値、RSSI値のそれぞれが第2の所定の条件を満たすか否かに基づいてカメラを活性化させるか否かを判断してもよい。
制御部220がカメラモジュール240を活性化させないと決めると、ウェアラブル機器200は、無線信号の認識または特定の行為の感知を行う状態に戻ることができる。
これとは異なり、制御部220がカメラモジュール240を活性化させると決める場合、制御部220は、カメラモジュール240を活性化させて撮影を通して画像または動画が生成されるようにしてもよい(S430)。
次いで、制御部220は、既に定められた一定の時間が経ったか否かを判断してもよく(S440)、一定の時間が経った場合には、カメラモジュール240を非活性化状態に制御してもよい(S450)。本発明の一実施形態によれば、このような一定の時間は、カメラモジュール240が活性化される時刻から測定されてもよく、カメラモジュール240が活性化された状態でウェアラブル機器200が無線信号を認識したり、ユーザーの特定の行為をさらに感知したりすると、測定されていた時間がリセットされてカメラモジュール240が活性化される時間が延びても良い。
カメラモジュール240が非活性化されてからは、ウェアラブル機器200は、カメラモジュール240により生成された画像または動画を管理サーバー300に送ってもよい(S460)。また、ウェアラブル機器200は、カメラモジュール240により生成された画像または動画を管理サーバー300に送る過程で、どのような条件に従って画像または動画が生成されたか(例えば、照度センサーの測定値、モーションセンサーの測定値、RSSI値など)に関する情報を一緒に管理サーバー300に送ってもよい。
本発明の一実施形態によれば、ウェアラブル機器200が通信網に接続できていない状況では、寄せ集められたオブジェクトの情報、感知された無線信号情報(特定の条件充足情報及びセンサー情報など)及びカメラモジュール240により生成された画像または動画は、一時的にウェアラブル機器200内の格納部230に格納されてもよく、次いで、ウェアラブル機器200が無線通信網に接続されれば、前記並べられた各種のデータが管理サーバー300に送られてもよい。
図5は、本発明の一実施形態に係る管理サーバー300においてウェアラブル機器200から受信される情報を管理し、これを通して最終的に特定の事象が生じたか否かを判断する動作に関する手順図である。図5もまた、図4の内容と同様に、少なくとも一部のステップが省略されたり互いに順番が変わったりしてもよい。
管理サーバー300は、図4のステップS460において、ウェアラブル機器200がオブジェクト情報及びユーザーの特定の行為とともに、これと関わって生成された画像または動画を送れば、これを受信することができる(S510)。
次いで、管理サーバー300は、受信した画像または動画上から予め設定されたオブジェクトまたは動作と関わるフィーチャー値を取り出してもよい(S520)。このようなフィーチャー値の取り出しは、複数のオブジェクトまたは動作に対して行われてもよく、管理サーバー300は、人工知能技術に基づいて、オブジェクトまたは動作に対するフィーチャー値の取り出しを行ってもよい。一実施形態によれば、ディープラーニング技術に基づいて、管理サーバー300のデータの解析が行われることにより、データ内におけるフィーチャー値の取り出しが自動的に行われてもよく、フィーチャー値の取り出しと関わる能力が継続して向上することもできる。
管理サーバー300は、ステップS520の結果として導き出されたフィーチャー値をまとめて、特定の動作の発生確率または特定のオブジェクトの捕捉確率を計算してもよく(S530)、この値に基づいて、特定の動作が起きたり特定のオブジェクトが捕捉されたりしたと判断される場合、この値に基づいて、特定の事象の発生有無を判断してもよい(S540)。管理サーバー300は、特定の事象が生じたと判断した場合に、ユーザー端末400に生じた事象に関する情報を送ってもよい(S560)。
以下の図6から図7においては、前記図1及び図2のような構成を通して管理サーバー300上においてオブジェクトの事象を感知する動作について具体的に説明する。図6から図7に基づいて説明される実施形態においては、動作及び事象の検出と判断が管理サーバー300において行われると説明されるが、本発明の他の実施形態においては、動作及び事象の検出と判断が管理サーバー300ではなく、ウェアラブル機器200上において行われてもよい。
図6から図7の各ステップのうちの少なくとも一部は、省略されたり互いに順番が変わったりしてもよい。
図6は、本発明の一実施形態に係る管理サーバー300においてオブジェクトの事象を感知する動作の手順図である。
ユーザーがオブジェクトと隣り合うと、ウェアラブル機器200が無線信号を認識して(S610)、ウェアラブル機器200のカメラモジュール240を介してオブジェクトの画像イメージが寄せ集められてもよい。このようなステップS610は、管理サーバー300ではなく、ウェアラブル機器200上において行われてもよい。
例えば、特定の薬(medicine)包装紙に無線通信装置100が取り付けられており、ユーザーがウェアラブル機器200を手首に取り付けたままで薬の包装紙を手に取ると、薬の包装紙の動きに伴って薬の包装紙に取り付けられた無線通信装置100から信号が生じ、ウェアラブル機器200の通信モジュールが無線信号をスキャンして「薬」というオブジェクトを捉えることになる。これにより、ウェアラブル機器200のカメラモジュール240が活性化されて周りの画像イメージを寄せ集めることができる。ウェアラブル機器200のカメラモジュール240により寄せ集められる画像イメージとしては、医薬品の露出、医薬品容器の開放、医薬品がユーザーの手に取られる状況、医薬品がユーザーの口に近づく状況などに関する画像が挙げられる。ウェアラブル機器200のカメラモジュール240は、複数枚の画像イメージを撮影することができ、画像イメージの撮影は、一定の時間間の任意の時間ごとに行われてもよい。
このように、ウェアラブル機器200のカメラモジュール240により複数枚の画像イメージが生成されれば、管理サーバー300は、ウェアラブル機器200から画像イメージを受信して寄せ集めてもよい(S620)。
しかる後、管理サーバー300は、ローカルの格納部350またはオンラインのクラウドサーバーなどを用いて前記スキャンされたオブジェクト(例えば、薬)に対応するコンテンツ(例えば、当該薬の画像)を確かめることができ、確かめられたコンテンツとともに前記撮影または撮像を通して寄せ集められた画像を人口知能に基づいて比較して寄せ集められた画像イメージが服薬行為といった特定の行為または特定の薬を収めた容器などと関わる確率が基準値以上であるか否かを判断する(S630)。
一実施形態によれば、このようなステップS630の判断動作は、画像類似度の判別技術を用いた第1の判別アルゴリズムにより行われてもよい。例えば、制御部320は、撮影を通して寄せ集められた画像とスキャンを通して確かめられた画像の色合いとテキスチャーなどの領域を分割し、位置情報と色合いテーブルまたはオブジェクトの類似性に基づくマッチング作業などを通して画像の類似度を判断することができる。このような第1の判別アルゴリズムは、様々な画像類似判断技術を含むことができ、特定の技術を限定するものではない。なお、このような第1の判別アルゴリズムは、人工知能が適用されたものであってもよい。すなわち、管理サーバー300は、人工知能技術を活用して画像類似度の判別を行ってもよく、これにより、ディープラーニングなどのマシンラーニングを通して第1の判別アルゴリズムが導き出され且つ発展されることが可能になる。
また、マッチングされるか否かを判断する方法としては、前記類似度作業を通して導き出された類似度の数値が所定のしきい値以上であるか否かで判断する方法が挙げられる。このような類似度数値は、前記画像類似度の判別過程において導き出されてもよい。類似度数値が所定のしきい値以上であれば、制御部320は、撮影された画像と無線信号の受信に伴い確かめられた画像とがマッチングされると判断することができ、このときの時間情報を第1の時間情報として記してもよい(S640)。このような画像のマッチングは、複数枚の撮影された画像の解析により行われてもよい。制御部320は、複数枚の画像イメージを用いて特定の事象が生じた確率を計算してもよい。ステップS640の第1の時間情報は、特定のオブジェクトが事象の発生をモニターリングするためのオブジェクトであるか否かを確かめた時刻情報であってもよい。
本発明の管理サーバー300により行われる類似度の判断による画像のマッチングは、特定の事象または画像を一対一の方式でのマッチングではなく、人工知能技術を用いた総合的な解析により行われるマッチングであってもよい。例えば、薬瓶という物体を判別する過程において、管理サーバー300は、薬瓶という物体に対する複数枚の基準画像の共通点を捕捉してフィーチャー値を設定し、ウェアラブル機器200を用いて寄せ集められた画像が当該フィーチャー値との関係において有する類似度を計算するような方式で類似度の判断を行ってもよい。
一実施形態によれば、第1の時間情報は、例えば、事象の発生のデータの解析のためのメタデータとして使われてもよく、ユーザーのパターンを解析する情報として用いられてもよい。非制限的な例によれば、前記第1の時間情報と後述する第2の時間情報との時間差が所定の値以上に出る場合には、場合によって、第2の時間情報をエラーデータとして判別してもよい。例えば、ユーザーが薬を触ったものの、数時間が経ってから当該薬を口に持っていくと認識されたのであれば、前記認識された薬を飲んだと判断するにはエラーが生じる虞があるためである。但し、このような第1の時間情報の記録は省略されてもよい。
また、制御部320は、前記類似度数値を第1の判別アルゴリズムの確率情報として算出してもよい。このような第1の判別アルゴリズムの確率情報は、後述する有効な事象であるか否かを確率的に判断して累積されたデータに対する信頼度を確保する上で利用可能である。
一方、ステップS630におけるマッチング条件が満たされなければ、図3の動作は終了されてもよく、新たなオブジェクトに取り付けられた無線通信装置から発せられる信号を認識するように遊休状態で待ってもよい。
次いで、制御部320は、さらに前記オブジェクトに対する画像を寄せ集め、寄せ集められた画像が事象条件を満たすか否かを判断してもよい(S650)。一実施形態によれば、事象条件は、前記オブジェクトに対してユーザーの身体と関わる予め設定された動作が感知されるか否かを確かめる条件であってもよい。例えば、制御部320は、ユーザーが取り出した薬がユーザーの身体のうちの一部である口に入るか否かを確かめてもよい。このような確認動作は、マシンラーニングまたはアルゴリズムに基づく第2の判別アルゴリズムを適用して導き出されてもよい。例えば、制御部320は、公知の人工知能技術を用いた画像解析技術などを用いてもよく、寄せ集められた画像から取り出されるフィーチャー値を他の画像から取り出されたフィーチャー値と比較して「服薬」といった行為が行われた確率を計算してもよい。他の画像は、画像の解析の基準となる画像であってもよく、服薬画像または非服薬画像から構成されてもよい。
このような人工知能を活用した第1の判別アルゴリズム及び第2の判別アルゴリズムは、画像が累積され、それによる判別結果が更新されることにより、判別の正確度及び速度が向上することが可能になる。
寄せ集められた画像が事象条件を満たすと、制御部320は、前記画像が寄せ集められた時点を第2の時間情報として記してもよい(S660)。例えば、制御部320は、前記薬がユーザーの口に入る時点またはこれと所定の誤差範囲内の時点を第2の時間情報として記してもよい。このような第2の時間情報は、直ちにオブジェクトの事象の発生時刻として決められてもよいが、特定の条件を満たすか否かを先に判断した後、有効な事象であるか否かをもって決められてもよい。有効な事象とは、ユーザーが当該オブジェクトにおいて生じた事象のうち、時間情報として記すために任意に選ばれた事象のことを意味してもよい。
また、制御部320は、上記のような第2の判別アルゴリズムを用いて前記ユーザーの身体と関わる予め設定された動作が感知されたか否かを数値化された値として導き出してもよく、これを第2の判別アルゴリズムの確率情報として算出してもよい。このような第2の判別アルゴリズムの確率情報もまた、前述した第1の判別アルゴリズムの確率情報と同様に、当該オブジェクトにおいて生じた事象が有効な事象であるか否かを確率的に判断する上で利用可能である。
次いで、制御部320は、確率情報に基づいて、有効な事象であるか否かを最終的に決めてもよい(S670)。具体的に、制御部320は、第1の判別アルゴリズムの確率情報と第2の判別アルゴリズムの確率情報とを合算して、所定の値以上になる場合に有効な事象が生じたと判断し、前記第2の時間情報を有効な事象の発生時間として決めてもよい。例えば、制御部320は、当該オブジェクトがモニターリングの対象となるオブジェクト(例えば、薬)であるか否かを数値的に換算し、当該オブジェクトが所定の事象(例えば、口)に近づく行為が起こるか否かを数値的に換算して、これらを合算した値が所定の値以上である場合にのみ、これを有効な事象であると判断してもよい。
この場合、制御部320は、第2の判別アルゴリズムの確率情報に第1の判別アルゴリズムの判別情報よりもさらに高い重み付け値を与えてもよい。これは、事象の発生条件において、実際のオブジェクトであるか否かよりは、当該オブジェクトにどのような動きが生じたかがさらに重要な要素であってもよく、事象条件を満たすか否かを確かめる過程において当該オブジェクトに対する認識過程が伴われることもあるからである。但し、上記のようなステップS670は省略されて、単に前記第2の時間情報を有効な事象の発生時間として決めてもよい。
図7は、本発明の他の実施形態に係る管理サーバー300においてオブジェクトの事象を感知する動作の手順図である。このような図7の内容のうち、図6の内容と重複する内容は省略または簡略化されたもよい。図7もまた、図6の内容と同様に、少なくとも一部のステップが省略されたり互いに順番が変わったりしてもよい。
図7においては、一部の実施形態に従って、前述した図6のステップS610の代わりに、ユーザーの特定の行為を認識することを条件としてウェアラブル機器200のカメラモジュール240が活性化されてもよい。このために、管理サーバー300の制御部320は、ウェアラブル機器200のセンサーモジュール、カメラモジュール240または通信モジュール210を用いてユーザーの特定の行為を感知してもよい(S710)。ユーザーの特定の行為は、ユーザーの身体ならではの動きを含み、例えば、食べ物を食べるとき、ウェアラブル機器200が着用された手が食べ物を口に持っていく動作などを感知してもよい。この場合、管理サーバー300の制御部320は、センサーモジュールを用いてユーザーの特定の行為を認識できるように予め定められた値に相当するセンサー値が寄せ集められたり、寄せ集められたセンサー値を解析して特定のパターンに相当する場合に認識されると設定したりしてもよいが、これに何ら限定されるものではない。
上記のように、ユーザーの特定の行為が感知されれば、管理サーバー300の制御部320は、ウェアラブル機器200のカメラモジュール240を活性化させて画像イメージを寄せ集め、これらをウェアラブル機器200から受信してもよい(S720)。次いで、管理サーバー300は、図6の内容と同様または類似に、特定の行為またはオブジェクトと関わる確率値の判断作業(S730)と事象条件の充足作業(S740)を経て時間情報を記してもよい(S750)。図6に示すように、時間情報を第1の時間情報と第2の時間情報とに分ける機能と、確率情報に基づいて有効な事象を決める機能は、図7において省略されてもよいが、これとは異なり、図6において上述した内容が同様に行われてもよい。
図6及び図7において管理サーバー300により行われると説明された各ステップは、ウェアラブル機器200により行われてもよく、この場合、ウェアラブル機器200は、前述した管理サーバー300の機能をいずれも含めて管理サーバー300の役割を自体的に果たしてもよい。
前述した図1から図7の実施形態を通して、ウェアラブル機器200により特定の事象の発生有無と発生時間が記されることにより、ヘルスケアなどの分野において抜かし易いユーザーの事象を感知してさらに効率よいガイドシステムを提供することが可能になり、ユーザーのパターンなどを学習してデータが解析可能なシステムを実現することができる。
図8は、本発明の一実施形態に係るウェアラブル機器200の構造を説明するための図である。
図8の(a)を参照すると、ウェアラブル機器200は、ユーザーの手首に着用可能なスマートウォッチから構成されてもよく、ウェアラブル機器200に組み込まれるカメラモジュール240は、スマートウォッチのバンド内に組み込まれて一体型に形成されてもよい。
カメラモジュール240がスマートウォッチのバンド内に組み込まれる場合、カメラモジュール240のうち、バンドの外部に露出されるべきレンズの部分は、バンドのサイド面に位置してもよい。このように、カメラモジュール240のレンズの部分がスマートウォッチのバンドのサイド面に露出されることにより、カメラモジュール240が撮影する領域は、ユーザーがスマートウォッチを着用したときの手のひらの方向に設定されることが可能になる。
図8の(b)を参照すると、ウェアラブル機器200は、ユーザーの手首に着用可能なスマートウォッチから構成されてもよく、ウェアラブル機器200に組み込まれるカメラモジュール240は、スマートウォッチのバンドに近づいて形成される別途のハウジング内に組み込まれてもよい。この場合にも、カメラモジュール240が撮影する領域は、ユーザーがスマートウォッチを着用したときの手のひらの方向に設定されるようにカメラモジュール240の位置が定められてもよい。
図9から図11は、本発明の一実施形態に係るウェアラブル機器200がスマートウォッチのタイプに構成される場合を示す図である。
図9から図11を参照すると、スマートウォッチ内において、カメラモジュール240は、スマートウォッチのバンド内に組み込まれるタイプに形成されてもよい。
図9の(a)及び(b)はそれぞれ、スマートウォッチの斜視図及び正面図であり、図10の(a)、(b)及び(c)はそれぞれ、スマートウォッチの背面図、平面図及び底面図であり、図11の(a)及び(b)はそれぞれ、スマートウォッチの左面図及び右面図である。
本発明において開示されるウェアラブル機器200は、図面に例示されているように、スマートウォッチのタイプに構成されてもよいが、これとは異なり、カメラモジュール付きスマートバンドのタイプに構成されてもよい。
本発明の実施形態と結び付けて説明された方法またはアルゴリズムのステップは、ハードウェアにより直接的に実現されてもよく、ハードウェアにより起動されるソフトウェアモジュールにより実現されてもよく、あるいは、これらの組み合わせにより実現されてもよい。ソフトウェアモジュールは、RAM(Random Access Memory)、ROM(Read Only Memory)、EPROM(Erasable Programmable ROM)、EEPROM(Electrically Erasable Programmable ROM)、フラッシュメモリー(Flash Memory)、ハードディスク、着脱式ディスク、CD-ROM、または本発明が属する技術分野においてよく知られている任意の形態のコンピューターにて読み取り可能な記録媒体に常駐してもよい。
以上、添付図面に基づいて、本発明の実施形態について説明したが、本発明の属する技術分野における通常の知識を有する者は、本発明の技術的な思想や必須的な特徴を変更することなく、他の具体的な形態へと容易に変形できることが理解できる筈である。よって、上述した実施形態は、あらゆる面において例示的なものに過ぎず、限定的ではないものと理解すべきである。

Claims (10)

  1. 医薬品を収めているオブジェクトに取り付けられるように構成され、モーションセンサーと、周辺光センサーと、第1の制御部とを備える、無線通信装置と、
    ユーザーが着用するように構成され、カメラ及び第2の制御部を備える、ウェアラブル機器と、
    を備え、
    前記無線通信装置がスリープ状態で動作している間、前記モーションセンサーから動きデータを取得し、前記周辺光センサーから周辺光データを取得し、前記スリープ状態は、無線信号を送信できない状態であり、
    前記動きデータまたは前記周辺光データの少なくとも一方が第1の所定の条件を満たす場合、前記スリープ状態が活性化された状態に変更されることにより、前記ウェアラブル機器の前記カメラの活性化に関連する無線信号を前記ウェアラブル機器に送信し、
    前記活性化された状態は、前記無線信号が送信可能な状態であり、前記無線信号は、前記動きデータおよび前記周辺光データを含み、
    前記動きデータが前記オブジェクトの動きに対応し、前記周辺光データは、前記オブジェクトの周囲環境内の周辺光に対応し、
    前記無線通信装置のバッテリの電力消費量は、前記活性化された状態におけるよりも前記スリープ状態において少なく、
    前記第2の制御部は、
    前記無線通信装置により供給される前記無線信号を受信し、
    前記動きデータ、前記周辺光データ、および前記無線通信装置と前記ウェアラブル機器との間の距離を示す無線信号のRSSIのそれぞれが第2の所定の条件を満たすか否かを特定したことに基づいて、前記カメラを活性化させるか否かを判断し、
    前記無線信号に基づいて前記カメラを活性化させるか否かを判断し、
    前記カメラを活性化させると判断する場合に前記カメラを用いて画像または動画を生成する、
    ように構成される、
    モニタリングシステム。
  2. 前記動きデータが動き測定値を含み、
    前記動きデータは、前記動き測定値が第1の特定の値に達する場合に前記第1の所定の条件を満たし、
    前記周辺光データが周辺光測定値を含み、
    前記周辺光データは、前記周辺光測定値が第2の特定の値に達する場合に前記第2の所定の条件を満たす、
    請求項1に記載のモニタリングシステム。
  3. 前記動きデータが動き測定値を含み、
    前記動きデータは、前記動き測定値の変化率が第1の特定の値に達する場合に前記第1の所定の条件を満たし、
    前記周辺光データが周辺光測定値を含み、
    前記周辺光データは、前記周辺光測定値が第2の特定の値に達する場合に前記第2の所定の条件を満たす、
    請求項1に記載のモニタリングシステム。
  4. 前記第2の制御部は、信号の強さに基づいて前記カメラを活性化させるか否かを判断するようにさらに構成され、
    前記信号の強さは、前記ウェアラブル機器と前記無線通信装置との間の距離にしたがって変化する、
    請求項1に記載のモニタリングシステム。
  5. 前記無線通信装置が第1の送受信機をさらに備え、前記第1の制御部は、前記第1の送受信機を用いて前記無線信号を供給し、
    前記ウェアラブル機器が第2の送受信機をさらに備え、前記第2の制御部は、前記第2の送受信機を用いて前記無線通信装置から前記無線信号を取得する、
    請求項1に記載のモニタリングシステム。
  6. 前記ウェアラブル機器は、ユーザーの手首に着用できるスマートウォッチであり、
    前記カメラは、前記スマートウォッチのバンドの一部に組み込まれ、前記カメラの少なくとも一部は、前記スマートウォッチの前記バンドのサイド面を介して露出される、
    請求項1に記載のモニタリングシステム。
  7. 前記ウェアラブル機器は、ユーザーの手首に着用できるバンドを含み、前記バンドは、上面、下面、及び、サイド面を含み、
    前記カメラが前記バンドの前記上面に取り付けられ、
    前記カメラのレンズの光軸が前記バンドの前記上面と平行でない、
    請求項1に記載のモニタリングシステム。
  8. 前記モニタリングシステムがサーバーをさらに備え、
    前記ウェアラブル機器の前記第2の制御部は、画像または動画を前記サーバーに送るように構成され、
    前記サーバーは、前記画像または動画に基づいてユーザーの服薬遵守を確かめるように構成される、
    請求項1に記載のモニタリングシステム。
  9. 前記サーバーは、前記オブジェクトまたは前記ユーザーと関連する特定の動作が感知されるかどうかを判断するようにさらに構成され、
    前記特定の動作は、前記オブジェクトのカバーを開放すること、医薬品の露出、前記医薬品をユーザーの手に取ること、及び、前記医薬品をユーザーの口に近づけることを含む、
    請求項8に記載のモニタリングシステム。
  10. 前記ウェアラブル機器は、前記ウェアラブル機器が通信網に接続できていない状況下で前記カメラにより生成された画像または動画を一時的に格納するとともに、前記ウェアラブル機器が前記通信網にうまく接続する際に前記一時的に格納された画像または動画を前記サーバーに送る、請求項8に記載のモニタリングシステム。
JP2021565144A 2019-05-07 2020-05-07 カメラモジュール及び無線通信装置を活用して事象の感知を行うウェアラブル機器 Active JP7327837B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
KR20190053276 2019-05-07
KR10-2019-0053276 2019-05-07
PCT/KR2020/006008 WO2020226431A1 (ko) 2019-05-07 2020-05-07 카메라 모듈 및 무선통신 장치를 활용하여 이벤트 감지를 수행하는 웨어러블 기기

Publications (2)

Publication Number Publication Date
JP2022530569A JP2022530569A (ja) 2022-06-29
JP7327837B2 true JP7327837B2 (ja) 2023-08-16

Family

ID=73050532

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021565144A Active JP7327837B2 (ja) 2019-05-07 2020-05-07 カメラモジュール及び無線通信装置を活用して事象の感知を行うウェアラブル機器

Country Status (6)

Country Link
US (1) US11647167B2 (ja)
EP (1) EP3941032A4 (ja)
JP (1) JP7327837B2 (ja)
KR (1) KR102391656B1 (ja)
CN (1) CN113785558B (ja)
WO (1) WO2020226431A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102336545B1 (ko) * 2021-05-18 2021-12-07 황규성 무선 통신 시스템에서 배달 라이더를 이용하여 사고 영상 데이터를 획득하기 위한 방법 및 장치
US11895368B2 (en) * 2022-03-04 2024-02-06 Humane, Inc. Generating, storing, and presenting content based on a memory metric
CN115225815B (zh) * 2022-06-20 2023-07-25 南方科技大学 目标智能追踪拍摄方法、服务器、拍摄系统、设备及介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015033052A (ja) 2013-08-05 2015-02-16 カシオ計算機株式会社 トレーニング支援システム、サーバー、端末、カメラ、方法並びにプログラム
US20160055316A1 (en) 2014-08-22 2016-02-25 Roozbeh Jafari Wearable medication adherence monitoring
US20160306932A1 (en) 2015-04-20 2016-10-20 Kali Care, Inc. Wearable system for healthcare management
US20160354283A1 (en) 2015-06-03 2016-12-08 Nuvizen Sensor-based medication systems
JP2018506404A (ja) 2015-01-29 2018-03-08 カーリー ケア, インコーポレイテッドKali Care, Inc. センサーを使用した投薬計画に対する遵守の監視

Family Cites Families (45)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004280376A (ja) 2003-03-14 2004-10-07 Japan Science & Technology Agency 被写体の行動認識方法及び装置
US9907473B2 (en) 2015-04-03 2018-03-06 Koninklijke Philips N.V. Personal monitoring system
US10006896B2 (en) * 2011-11-14 2018-06-26 University of Pittsburgh—of the Commonwealth System of Higher Education Method, apparatus and system for food intake and physical activity assessment
US9022080B2 (en) * 2012-02-08 2015-05-05 Honda Motor Co., Ltd. Communication device activated by fuel door
EP2770783B1 (en) * 2013-02-21 2018-06-20 Apple Inc. A wearable information system having at least one camera
US9860517B1 (en) * 2013-09-24 2018-01-02 Amazon Technologies, Inc. Power saving approaches to object detection
JP6096654B2 (ja) 2013-12-27 2017-03-15 レノボ・シンガポール・プライベート・リミテッド 画像の記録方法、電子機器およびコンピュータ・プログラム
KR102135586B1 (ko) * 2014-01-24 2020-07-20 엘지전자 주식회사 이동 단말기 및 이의 제어방법
US10231622B2 (en) 2014-02-05 2019-03-19 Self Care Catalysts Inc. Systems, devices, and methods for analyzing and enhancing patient health
JP2015197803A (ja) 2014-04-01 2015-11-09 キヤノン株式会社 行動記録装置、行動記録方法及びプログラム
KR101659027B1 (ko) * 2014-05-15 2016-09-23 엘지전자 주식회사 이동 단말기 및 차량 제어 장치
US9679113B2 (en) 2014-06-11 2017-06-13 Aic Innovations Group, Inc. Medication adherence monitoring system and method
WO2016002130A1 (ja) * 2014-06-30 2016-01-07 パナソニックIpマネジメント株式会社 撮影方法、撮影システム、端末装置およびサーバ
KR101661555B1 (ko) * 2014-07-14 2016-10-04 넥시스 주식회사 비콘을 이용한 글라스형 웨어러블 디바이스의 카메라 기능 제한방법 및 프로그램
US9390610B2 (en) * 2014-07-23 2016-07-12 Ncr Corporation Techniques for determining movement of a device away from a preferred location
US10013874B2 (en) 2014-09-29 2018-07-03 Philips Lighting Holding B.V. Interaction detection wearable control device
US20160125217A1 (en) * 2014-11-05 2016-05-05 Hand Held Products, Inc. Barcode scanning system using wearable device with embedded camera
US9912901B2 (en) * 2014-12-18 2018-03-06 S4 Worldwide, Llc Body camera
US10395764B2 (en) * 2015-01-06 2019-08-27 Aic Innovations Group, Inc. Method and apparatus for recognition of patient activity
CA2913568C (en) * 2015-01-29 2024-01-02 Panasonic Intellectual Property Management Co., Ltd. Wearable camera system, and video recording control method for wearable camera system
KR102304693B1 (ko) * 2015-02-12 2021-09-28 삼성전자주식회사 카메라 시스템의 제어 방법, 전자 장치 및 저장 매체
SG11201706569RA (en) * 2015-02-16 2017-09-28 Nexsys Co Ltd Wearable device for generating image signal, and system for controlling same
US10025908B1 (en) 2015-02-25 2018-07-17 Leonardo Y. Orellano Medication adherence systems and methods
KR20160104288A (ko) * 2015-02-26 2016-09-05 엘지전자 주식회사 모바일 디바이스와 연동하여 식사 여부를 판단하는 웨어러블 디바이스 및 그 제어 방법
KR102318887B1 (ko) * 2015-03-06 2021-10-29 삼성전자주식회사 웨어러블 전자 장치 및 그 제어 방법
KR102304744B1 (ko) 2015-04-07 2021-09-24 엘지전자 주식회사 웨어러블 단말기 및 이와 무선 통신하는 디스플레이 장치
KR20160131790A (ko) * 2015-05-08 2016-11-16 지현구 스마트 약통을 이용한 직접 복약 관리 시스템 및 방법
US20170004283A1 (en) 2015-07-01 2017-01-05 Casey LEWIS Methods and Systems for Medication Compliance Monitoring and Notification
KR102423830B1 (ko) 2015-11-10 2022-07-22 삼성전자주식회사 웨어러블 장치 및 그 제어 방법
KR101765722B1 (ko) * 2016-01-12 2017-08-08 소프트온넷(주) 인지형 차량 및 인상착의 객체 및 이벤트 인식, 추적, 검색, 예측을 위한 나레이티브 보고서 작성 시스템 및 방법
JP2017169732A (ja) 2016-03-23 2017-09-28 セイコーエプソン株式会社 情報処理装置、情報処理方法及びプログラム
KR101971695B1 (ko) 2016-04-01 2019-04-25 한국전자통신연구원 복약 모니터링 장치 및 방법
GB201611454D0 (en) * 2016-06-30 2016-08-17 Pinnacle Response Ltd A wearable device, associated system and method of use
KR101798890B1 (ko) * 2016-07-14 2017-11-17 네이버 주식회사 일상 생활 습관의 행동 요소를 활용한 웨어러블 디바이스 사용자 인증 방법 및 그 시스템
JP2018042229A (ja) * 2016-09-01 2018-03-15 パナソニックIpマネジメント株式会社 ウェアラブルカメラ、ウェアラブルカメラシステム及び録画制御方法
KR20180028701A (ko) 2016-09-09 2018-03-19 엘지전자 주식회사 휴대용 카메라 및 그 제어방법
EP3321844B1 (en) 2016-11-14 2021-04-14 Axis AB Action recognition in a video sequence
US10524726B2 (en) 2016-11-17 2020-01-07 Biointellisense, Inc. Medication adherence and/or counterfeit detection wearable electronic device
KR101986002B1 (ko) 2017-01-17 2019-06-04 경북대학교 산학협력단 행동-인식 연결 학습 기반 의도 이해 장치, 방법 및 그 방법을 수행하기 위한 기록 매체
US11687800B2 (en) 2017-08-30 2023-06-27 P Tech, Llc Artificial intelligence and/or virtual reality for activity optimization/personalization
KR102053537B1 (ko) 2017-12-07 2019-12-10 주식회사 라이너스 복약 관리 방법 및 장치
KR102112757B1 (ko) 2018-04-27 2020-05-20 주식회사 라이너스 환자 관리 방법 및 시스템
WO2019212122A1 (ko) 2018-04-30 2019-11-07 Lee Hwiwon 웨어러블 기기를 이용한 객체의 이벤트 감지 방법 및 이를 운용하는 관리 서버
KR101949102B1 (ko) 2018-10-08 2019-02-18 박기준 복약 보조 시스템 및 이를 이용한 복약 보조 방법
KR20200080047A (ko) 2018-12-26 2020-07-06 삼성전자주식회사 진정 사용자의 손을 식별하는 방법 및 이를 위한 웨어러블 기기

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015033052A (ja) 2013-08-05 2015-02-16 カシオ計算機株式会社 トレーニング支援システム、サーバー、端末、カメラ、方法並びにプログラム
US20160055316A1 (en) 2014-08-22 2016-02-25 Roozbeh Jafari Wearable medication adherence monitoring
JP2018506404A (ja) 2015-01-29 2018-03-08 カーリー ケア, インコーポレイテッドKali Care, Inc. センサーを使用した投薬計画に対する遵守の監視
US20160306932A1 (en) 2015-04-20 2016-10-20 Kali Care, Inc. Wearable system for healthcare management
US20160354283A1 (en) 2015-06-03 2016-12-08 Nuvizen Sensor-based medication systems

Also Published As

Publication number Publication date
WO2020226431A1 (ko) 2020-11-12
KR20200130234A (ko) 2020-11-18
US20220060666A1 (en) 2022-02-24
JP2022530569A (ja) 2022-06-29
US11647167B2 (en) 2023-05-09
CN113785558B (zh) 2024-01-05
KR102391656B1 (ko) 2022-04-28
CN113785558A (zh) 2021-12-10
EP3941032A1 (en) 2022-01-19
EP3941032A4 (en) 2022-12-14

Similar Documents

Publication Publication Date Title
KR102544391B1 (ko) 웨어러블 기기를 이용하여 객체의 이벤트를 자동으로 감지하는 방법 및 이를 운용하는 관리 서버
JP7327837B2 (ja) カメラモジュール及び無線通信装置を活用して事象の感知を行うウェアラブル機器
US10354127B2 (en) System, method, and computer program product for alerting a supervising user of adverse behavior of others within an environment by providing warning signals to alert the supervising user that a predicted behavior of a monitored user represents an adverse behavior
Parate et al. Risq: Recognizing smoking gestures with inertial sensors on a wristband
Wang et al. Toward a wearable RFID system for real-time activity recognition using radio patterns
Fishkin et al. I sense a disturbance in the force: Unobtrusive detection of interactions with RFID-tagged objects
TW200844871A (en) Controlling resource access based on user gesturing in a 3D captured image stream of the user
KR102413893B1 (ko) 스켈레톤 벡터 기반 비대면 비접촉 낙상탐지 시스템 및 방법
CN105373787A (zh) 幼儿园接送管理系统及幼儿园接送管理方法
CN112911204A (zh) 监控方法、装置、存储介质和电子设备
CN106725507A (zh) 一种可穿戴人体绊倒检测系统及检测方法
CN108133160B (zh) 基于rfid的游泳安全监控系统
Sun et al. Actdetector: Detecting daily activities using smartwatches
CN104808773A (zh) 检测头戴式智能设备持续附着在人体上的装置和方法
CN205302322U (zh) 幼儿园接送管理系统
KR102540146B1 (ko) 격리대상자 관리 시스템
Bauer et al. User independent, multi-modal spotting of subtle arm actions with minimal training data
CN114895472A (zh) 一种眼动跟踪交互的智能眼镜及其方法
JP2020513384A (ja) タグ情報を用いた物品管理システム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211202

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211102

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221213

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20230308

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20230512

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230613

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230627

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230727

R150 Certificate of patent or registration of utility model

Ref document number: 7327837

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150