JP7167421B2 - 複数の作業台を管理するためのプログラム、方法、装置及びシステム - Google Patents

複数の作業台を管理するためのプログラム、方法、装置及びシステム Download PDF

Info

Publication number
JP7167421B2
JP7167421B2 JP2017178976A JP2017178976A JP7167421B2 JP 7167421 B2 JP7167421 B2 JP 7167421B2 JP 2017178976 A JP2017178976 A JP 2017178976A JP 2017178976 A JP2017178976 A JP 2017178976A JP 7167421 B2 JP7167421 B2 JP 7167421B2
Authority
JP
Japan
Prior art keywords
workbenches
sensor data
activities
wearable
activity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017178976A
Other languages
English (en)
Other versions
JP2018195284A (ja
Inventor
クラッツ スベン
パテル ミタッシュクマー
ダニエル アブラハミ
佑介 山浦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd, Fujifilm Business Innovation Corp filed Critical Fuji Xerox Co Ltd
Publication of JP2018195284A publication Critical patent/JP2018195284A/ja
Application granted granted Critical
Publication of JP7167421B2 publication Critical patent/JP7167421B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/04Inference or reasoning models
    • G06N5/046Forward inferencing; Production systems
    • G06N5/047Pattern matching networks; Rete networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G08SIGNALLING
    • G08CTRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C17/00Arrangements for transmitting signals characterised by the use of a wireless electrical link
    • G08C17/02Arrangements for transmitting signals characterised by the use of a wireless electrical link using a radio link
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04QSELECTING
    • H04Q9/00Arrangements in telecontrol or telemetry systems for selectively calling a substation from a main station, in which substation desired apparatus is selected for applying a control signal thereto or for obtaining measured values therefrom
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/04Inference or reasoning models
    • GPHYSICS
    • G08SIGNALLING
    • G08CTRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C2201/00Transmission systems of control signals via wireless link
    • G08C2201/30User interface
    • GPHYSICS
    • G08SIGNALLING
    • G08CTRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C2201/00Transmission systems of control signals via wireless link
    • G08C2201/50Receiving or transmitting feedback, e.g. replies, status updates, acknowledgements, from the controlled devices
    • GPHYSICS
    • G08SIGNALLING
    • G08CTRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C2201/00Transmission systems of control signals via wireless link
    • G08C2201/90Additional features
    • G08C2201/91Remote control based on location and proximity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04QSELECTING
    • H04Q2209/00Arrangements in telecontrol or telemetry systems
    • H04Q2209/40Arrangements in telecontrol or telemetry systems using a wireless architecture

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Medical Informatics (AREA)
  • Computational Linguistics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、複数の作業台を管理するためのプログラム、方法、装置及びシステムに関する。
デスクまたはカウンタ上で実施されているユーザの活動の認識は、多くの用途に使用することができる。たとえば、オフィスワークおよび小売りの環境においては、活動の認識により、作業プロセスおよび生産性の理解、可用性の予測、休憩の推奨、環境の増強などを促すことができる。デスク上の活動の認識に関して提案された多くの関連技術の解決策は、カメラに依存している。しかし、カメラに基づく解決策は、しばしば、プライバシの懸念を生じる。さらに、多くのカメラに基づく解決策は、照明および閉塞の変化に敏感であり、作業者がカメラの視野内にあることをも必要とする場合がある。
カメラと他のセンサ(たとえば、ウェアラブルセンサ)とを組み合わせる関連技術の解決策では、プライバシの懸念は依然として生じる場合がある。さらに、ウェアラブルセンサ(たとえば、スマートウォッチまたはブレスレットの形態の、装着された慣性測定装置(Inertial Measurement Unit、IMU))にのみ依存する解決策は、いくつかの問題に直面し得る。たとえば、ウェアラブルセンサは、動いている手足(たとえば、ユーザの手首)を追跡することができるが、ウェアラブルセンサは、存在しており活動に関連する他の対象を検出するようには構成されていない。
多くの活動では、対象が動作の一部であることを知ることは、活動認識(たとえば、店の販売員などのユーザがボトルをバッグ内に置いているのを分類すること)のためには重要である場合がある。さらに、IMUに基づく解決策は、活動が生じている場所を判定するように構成されていない場合がある。たとえば、作業台が店舗のカウンタである場合、IMUに基づく解決策は、動作が、カウンタのレジ係側で行われているか、カウンタの客側で行われているか、判定するように構成されてはいない場合がある。
ZHANG,CHENYANG; TIAN, YINGLI 「RGB-D CAMERA-BASED DAILY LIVING ACTIVITY RECOGNITION」、JOURNAL OF COMPUTER VISION AND IMAGE PROCESSING、2(4)、2012年12月、全7頁 YEO,HUI-SHYONG、FLAMICH,GERGELY、SCHREMPF,PATRICK、HARRIS-BIRTILL,DAVID、QUIGLEY,AARON 「RADARCAT:RADAR CATEGORIZATION FOR INPUT&INTERACTION」、PROCEEDINGS OF UIST2016、2016年、第833-841頁 WILSON,ROBERT、「REFLECTION AND TRANSMISSION LOSSES THROUGH COMMON BUILDING MATERIALS. 2.4GHz VS 5GHz」、MAGIS NETWORKS,INC. E10589、2002年8月、全49頁 ANDREAS BULLING、ULF BLANKE、BEMT SHIELE「A TUTORIAL ON HUMAN ACTIVITY RECOGNITION USING BODY-WORN INERTIAL SENSORS」、ACM COMPUT.SURV.46、3、ARTICLE 33、2014年1月 CHO,YONGWON、YUNYOUNG NAM、YOO-JOO CHOI、WE-DUKE CHO 「SMARTBUCKLE:HUMAN ACTIVITY RECOGNITION USING A 3-AXIS ACCELEROMETER AND A WEARABLE CAMERA」、PROCEEDINGS OF THE 2ND INTERNATIONAL WORKSHOP ON SYSTEMS AND NETWORKING SUPPORT FOR HEALTH CARE AND ASSISTED LIVING ENVIRONMENTS、第7頁、ACM、2008年 WILSON,ANDREW D., BENKO,HRVOJE 「CROSSMOTION:FUSING DEVICE AND IMAGE MOTION FOR USER IDENTIFICATION, TRACKING AND DEVICE ASSOCIATION」、PROCEEDINGS OF THE 16TH INTERNATIONAL CONFERENCE ON MULTIMODAL INTERACTION、第216-223頁、ACM、2014年 PHILIPOSE,MATTHAI、FISHKIN,KENNETH P.、MIKE PERKOWITZ、DONALD J. PATTERSON、DIETER FOX、HENRY KAUTZ、DIRK HAHNEL 「INFERRING ACTIVITIES FROM INTERACTIONS WITH OBJECTS」IEEE PERVASIVE COMPUTING 3、NO.4、2004年、第50-57頁 ADIB,FADEL、HSU,CHEN-YU、MAO,HONGZI、KATABI,DINA、DURAND,FREDO 「CAPTURING THE HUMAN FIGURE THROUGH A WALL」SIGGRAPH ASIA 2015 TECHNICAL PAPER、2015年11月2日-5日、ACM978-4503-3931-5/15/11、全13頁 ALSHEIKH,MOHAMMAD ABU、SELIM,AHMED、NIYATO,DUSIT、DOYLE,LINDA、LIN,SHAOWEI、TAN,HWEE-PINK 「DEEP ACTIVITY RECOGNITION MODELS WITH TRIAXIAL ACCELERAMETERS」、THE WORKSHOS OF THE THIRTIETH AAAI CONFERENCE ON ARTIFICIAL INTELLIGENCE、ASSOCIATION FOR THE ADVANCEMENT OF ARTIFICIAL INTELLIGENCE、1511.04664V2[CS.LG]、2016年10月25日 DAMEN,DIMA、GEE,ANDREW、MAYOL-CUEVAS,WALTERIO、CALWAY,ANDREW 「EGOCENTRIC REAL-TIME WOKSPACE MONITORING USING AN RGB-D CAMERA」、INTELLIGENT ROBOTS AND SYSTEMS(IROS)、2012 IEEE/RSJ INTERNATIONAL CONFERENCE ON、第1029-1036頁、IEEE、2012年 LARA,OSCAR D.、LABRADOR,MIGUEL A. 「A SURVEY ON HUMAN ACTIVITY RECOGNITION USING WEARABLE SENSORS」、IEEE COMMUNICATIONS SURVEYS&TUTORIALS、VOL.15、NO.3、THIRD QUARTER 2013、1553-877X/13、2013年 LIEN,JAIME、GILLIAN,NICHOLAS、KARAGOZLER,M.EMRE、AMIHOOD,PATRICK、SHWESIG,CARSTEN、OLSON,ERIC、RAJA,HAKIM、POUPYREV,IVAN 「SOLI:UBIQUITOUS GESTURE SENSING WITH MILLIMETER WAVE RADAR」GOOGLE ATAP、ISBN:978-1-4503-4279-7/16/17、SIGGRAPH 2016、2016年7月、ACM TRANS. GRAPH.、VOL.35、NO.4、ARTICLE 142 LIU,LIANG、POPESCU,MIHAIL、SKUBIC,MARJORIE、RANTZ,MARILYN、YARDIBI,TARIK、CUDDIHY,PAUL 「AUTOMATIC FALL DETECTION BASED ON DOPPLER RADAR MOTION SIGNATURE」2011 5TH INTERNATIONAL CONFERENCE ON PERVASIVE COMPUTING TECHNOLOGIES FOR HEALTHCARE AND WORKSHOPS、第222-225頁、IEEE、2011年 PEDREGOSA,FABIAN、VAROQUAUX,GAEL、GRAMFORT,ALEXANDRE、MICHEL,VINCENT、THIRION,BERTRAND 「SCIKIT-LEARN:MACHINE LEARNING IN PYTHON」2011年、全6頁 POPPE,RONALD 「A SURVEY ON VISION-BASED HUMAN ACTION RECOGNITION」、2009年、ELSEVIER B.V.0262-8856、2009年、全15頁 WANG,GUOCHAO、GU,CHANGZHAN、INOUE,TAKAO、LI,CHANGZHI 「A HYBRID FMCW-INTERFEROMETRY RADAR FOR INDOOR PRECISE POSITIONING AND VERSATILE LIFE ACTIVITY MONITORING」、IEEE TRANSACTIONS ON MICROWAVE THEORY AND TECHNIQUES、VOL.62、NO.11、2014年11月、0018-9480 DANIEL WEINLAND、REMI RONFARD、EDMOND BOYER 「A SURVEY OF VISION-BASED METHODS FOR ACTION REPRESENTATION,SEGMENTATION AND RECOGNITION」[RESEARCH REPORT]RR-7212、INRIA.、全58頁、第54頁、2010年2月24日 WIESE,JASON、SAPONAS,T.SCOTT、BRUSH,A.J.BERNHEIM 「PHONEPRIOCEPTION:ENABLING MOBILE PHONES TO INFER WHERE THEY ARE KEPT」、CHI2013、2013年4月27日-5月2日、ACM978-1-4503-1899-0/13/04
本発明は、カメラのみを利用して作業者の活動認識を行う場合と比較して、作業者の動作と作業台上の物体とを認識する際に、人に対して過度に活動認識していることを感じさせずに、活動認識を実現することを目的とする。
本発明の第一の態様は、コンピュータに、複数の作業台の各々に関連付けられた1つまたは複数の無線周波数(RF)センサを監視することと、前記複数の作業台のうちの1つの作業台に関連付けられた前記1つまたは複数のRFセンサに関して、RFセンサのデータを提供することと、前記複数の作業台のうちの前記1つの作業台に関連付けられた認識アルゴリズムを適用して、前記RFセンサのデータから、前記RFセンサのデータに対応する前記複数の作業台のうちの前記1つの作業台に関連付けられた活動の組から1つの活動を判定することと、を実行させ、前記認識アルゴリズムが、機械学習から生成される、複数の作業台を管理するためのプログラムである。
本発明の第二の態様は、第一の態様のプログラムであって、コンピュータに、前記複数の作業台のうちの前記1つの作業台に関する1つまたは複数のウェアラブルデバイスを監視することと、前記複数の作業台のうちの前記1つの作業台に関する前記1つまたは複数のウェアラブルデバイスに関し、ウェアラブルセンサのデータを提供するとともに、前記複数の作業台のうちの前記1つの作業台の前記1つまたは複数のRFセンサに関し、RFセンサのデータを提供することと、前記複数の作業台のうちの前記1つの作業台に関連付けられた前記認識アルゴリズムを適用して、前記RFセンサのデータおよび前記ウェアラブルセンサのデータから、前記RFセンサのデータおよび前記ウェアラブルセンサのデータに対応する前記複数の作業台のうちの前記1つの作業台に関連付けられた前記活動の組から別の活動を判定することと、をさらに実行させる。
本発明の第三の態様は、第一の態様のプログラムであって、コンピュータに、前記複数の作業台の各々に関する前記認識アルゴリズムを生成することをさらに実行させ、前記複数の作業台の各々に関する前記認識アルゴリズムを生成することは、前記複数の作業台の各々に関して、ラベルが付されたトレーニングのセットであって、前記複数の作業台の各々に関連付けられた前記活動の組のうちの1つまたは複数の活動に関連付けられた複数のRFセンサの読取り値を含む、前記ラベルが付されたトレーニングのセットに対して機械学習を適用することと、前記ラベルが付されたトレーニングのセットに対する機械学習の前記適用から、前記複数の作業台の各々に関する前記認識アルゴリズムを生成することと、を含む。
本発明の第四の態様は、第三の態様のプログラムであって、前記ラベルが付されたトレーニングのセットが、前記複数の作業台の各々に関する前記活動の組のうちの1つまたは複数の活動に関連付けられた、ウェアラブルセンサのデータおよびRFセンサの読取り値をさらに含んでいる。
本発明の第五の態様は、第一の態様のプログラムであって、コンピュータに、前記複数の作業台から検出された活動から処理を検出することをさらに実行させ、前記処理が、前記複数の作業台から検出された、順番に行われた複数の活動を含んでいる。
本発明の第六の態様は、第一の態様のプログラムであって、前記作業台に関連付けられた前記活動の組が、RFセンサのデータのみに基づいて検出された1つまたは複数の活動と、RFセンサのデータおよびウェアラブルセンサのデータに基づいて検出された1つまたは複数の活動とを含んでいる。
本発明の第七の態様は、コンピュータによって、複数の作業台の各々に関連付けられた1つまたは複数の無線周波数(RF)センサを監視することと、前記複数の作業台のうちの1つの作業台に関連付けられた前記1つまたは複数のRFセンサに関して、RFセンサのデータを提供することと、前記複数の作業台のうちの前記1つの作業台に関連付けられた認識アルゴリズムを適用して、前記RFセンサのデータから、前記RFセンサのデータに対応する前記複数の作業台のうちの前記1つの作業台に関連付けられた活動の組から1つの活動を判定することと、を含み、前記認識アルゴリズムが機械学習から生成される、複数の作業台を管理するための方法である。
本発明の第八の態様は、第七の態様の方法であって、前記複数の作業台のうちの前記1つの作業台に関する1つまたは複数のウェアラブルデバイスを監視することと、前記複数の作業台のうちの前記1つの作業台に関する前記1つまたは複数のウェアラブルデバイスに関し、ウェアラブルセンサのデータを提供するとともに、前記複数の作業台のうちの前記1つの作業台の前記1つまたは複数のRFセンサに関し、RFセンサのデータを提供することと、前記複数の作業台のうちの前記1つの作業台に関連付けられた前記認識アルゴリズムを適用して、前記RFセンサのデータおよび前記ウェアラブルセンサのデータから、前記RFセンサのデータおよび前記ウェアラブルセンサのデータに対応する前記複数の作業台のうちの前記1つの作業台に関連付けられた前記活動の組から別の活動を判定することと、を含む。
本発明の第九の態様は、第七の態様の方法であって、前記複数の作業台の各々に関する前記認識アルゴリズムを生成することをさらに含み、前記複数の作業台の各々に関する前記認識アルゴリズムを生成することは、前記複数の作業台の各々に関して、ラベルが付されたトレーニングのセットであって、前記複数の作業台の各々に関連付けられた前記活動の組のうちの1つまたは複数の活動に関連付けられた複数のRFセンサの読取り値を含む、前記ラベルが付されたトレーニングのセットに対して機械学習を適用することと、前記ラベルが付されたトレーニングのセットに対する機械学習の前記適用から、前記複数の作業台の各々に関する前記認識アルゴリズムを生成することと、を含む。
本発明の第十の態様は、第九の態様の方法であって、前記ラベルが付されたトレーニングのセットが、前記複数の作業台の各々に関する前記活動の組のうちの1つまたは複数の活動に関連付けられた、ウェアラブルセンサのデータおよびRFセンサの読取り値をさらに含んでいる。
本発明の第十一の態様は、第七の態様の方法であって、前記複数の作業台から検出された活動から処理を検出することをさらに含み、前記処理が、前記複数の作業台から検出された、順番に行われた複数の活動を含んでいる。
本発明の第十二の態様は、第七の態様の方法であって、前記作業台に関連付けられた前記活動の組が、RFセンサのデータのみに基づいて検出された1つまたは複数の活動と、RFセンサのデータおよびウェアラブルセンサのデータに基づいて検出された1つまたは複数の活動とを含んでいる。
本発明の第十三の態様は、複数の作業台に通信可能に結合された装置であって、前記複数の作業台の各々に関連付けられた活動の組を管理するように構成されたメモリと、前記複数の作業台の各々に関連付けられた1つまたは複数の無線周波数(RF)センサを監視することと、前記複数の作業台のうちの1つの作業台に関連付けられた前記1つまたは複数のRFセンサに関して、RFセンサのデータを提供することと、前記複数の作業台のうちの前記1つの作業台に関連付けられた認識アルゴリズムを適用して、前記RFセンサのデータから、前記RFセンサのデータに対応する前記複数の作業台のうちの前記1つの作業台に関連付けられた前記活動の組から1つの活動を判定することと、を行うように構成されたプロセッサと、を備え、前記認識アルゴリズムが、機械学習から生成される、複数の作業台を管理するための装置である。
本発明の第十四の態様は、第十三の態様の装置であって、前記プロセッサが、前記複数の作業台のうちの前記1つの作業台に関する1つまたは複数のウェアラブルデバイスを監視することと、前記複数の作業台のうちの前記1つの作業台に関する前記1つまたは複数のウェアラブルデバイスに関し、ウェアラブルセンサのデータを提供するとともに、前記複数の作業台のうちの前記1つの作業台の前記1つまたは複数のRFセンサに関し、RFセンサのデータを提供することと、前記複数の作業台のうちの前記1つの作業台に関連付けられた前記認識アルゴリズムを適用して、前記RFセンサのデータおよび前記ウェアラブルセンサのデータから、前記RFセンサのデータおよび前記ウェアラブルセンサのデータに対応する前記複数の作業台のうちの前記1つの作業台に関連付けられた前記活動の組から別の活動を判定することと、を行うように構成されている。
本発明の第十五の態様は、第十三の態様の装置であって、前記プロセッサが、前記複数の作業台の各々に関して、ラベルが付されたトレーニングのセットであって、前記複数の作業台の各々に関連付けられた前記活動の組のうちの1つまたは複数の活動に関連付けられた複数のRFセンサの読取り値を含む、前記ラベルが付されたトレーニングのセットに対して機械学習を適用することと、前記ラベルが付されたトレーニングのセットに対する機械学習の前記適用から、前記複数の作業台の各々に関する前記認識アルゴリズムを生成することと、により、前記複数の作業台の各々に関する前記認識アルゴリズムを生成するようにさらに構成されている。
本発明の第十六の態様は、第十五の態様の装置であって、前記ラベルが付されたトレーニングのセットが、前記複数の作業台の各々に関する前記活動の組のうちの1つまたは複数の活動に関連付けられた、ウェアラブルセンサのデータおよびRFセンサの読取り値をさらに含んでいる。
本発明の第十七の態様は、第十三の態様の装置であって、前記プロセッサが、前記複数の作業台から検出された活動から処理を検出するように構成され、前記処理が、前記複数の作業台から検出された、順番に行われた複数の活動を含んでいる。
本発明の第十八の態様は、第十三の態様の装置であって、前記作業台に関連付けられた前記活動の組が、RFセンサのデータのみに基づいて検出された1つまたは複数の活動と、RFセンサのデータおよびウェアラブルセンサのデータに基づいて検出された1つまたは複数の活動とを含んでいる。
本発明の第十九の態様は、複数の作業台の各々に関連付けられた1つまたは複数の無線周波数(RF)センサを監視する監視手段と、複数の作業台のうちの1つの作業台に関連付けられた1つまたは複数のRFセンサに関して、RFセンサのデータを提供する提供手段と、複数の作業台のうちの1つの作業台に関連付けられた認識アルゴリズムを適用して、RFセンサのデータから、RFセンサのデータに対応する複数の作業台のうちの1つの作業台に関連付けられた活動の組から1つの活動を判定する判定手段と、を備えてもよく、認識アルゴリズムが、機械学習から生成される。
請求項1、7、13及び19に記載の発明によれば、作業台及びその周辺における活動認識において、無線周波数(RF)センサを利用することにより、カメラを利用する場合と比較して、作業空間の照明等に影響されにくく、RFセンサが作業者の視野内にない場合であっても活動認識が可能である。
請求項2、8及び14に記載の発明によれば、ウェアラブルセンサとRFセンサとの組合せにより、作業者の動作と作業台上の物体とを認識し、より正確な活動認識を実現することができる。
例示的実施態様によって利用される例示的センサ要素を示す図である。 例示的実施態様が適用され得る例示的アーキテクチャを示す図である。 例示的実施態様に係る、ユーザ起動型のラベル付けシステムの例を示す図である。 例示的実施態様に係る、特徴生成技術に関する例示的フローチャートを示す図である。 例示的実施態様に係る、使用され得る質問の例示的階層を示す図である。 例示的実施態様に係る、本システムの例示的フロー図である。 作業台の例示的実施態様を示す図である。 活動の組に関連付けられた作業台に関する機械学習アルゴリズムを作成するための例示的フロー図である。 古典的な機械学習アルゴリズムとDNN機械学習アルゴリズムとを使用した「知識労働者」の場合に関するモデルの妥当性確認(validation)の最初の結果を示す図である。 例示的実施態様に係る、作業台情報に関する管理表の例を示す図である。 例示的実施態様に係る、処理情報に関する管理表の例を示す図である。 例示的実施態様に係る、作業台のシステムの管理のための例示的フロー図を示す図である。 いくつかの例示的実施態様における使用に適切な例示的コンピュータデバイスの例示的コンピュータ環境を示す図である。
以下の詳細な説明は、本出願の図および例示的実施態様をさらに詳細に示している。各図間における重複する要素の参照符号および記載は、明確化のために省略している。本記載を通して使用される用語は、例として提供されるものであり、限定を意図するものではない。たとえば、「自動(automatic)」との用語の使用は、本出願の実施態様を実行する当業者の所望の実施態様に応じて、完全に自動であるか、実施態様の特定の態様に対するユーザまたは管理者の制御を伴う半自動である実施態様を伴ってもよい。選択は、ユーザインターフェースまたは他の入力手段を通してユーザによって行われ得るか、所望のアルゴリズムを通して実施され得る。本明細書に記載の例示的実施態様は、単一で、または、組み合わせて利用することができ、また、例示的実施態様の機能は、所望の実施態様に係る任意の手段により、実施され得る。
例示的実施態様は、テーブル、カウンタ上面、または、作業エリアで使用される不透明であるか透明である任意の表面などの作業台を通してユーザの活動を認識するためのシステムおよび方法を含む。本明細書に記載の例示的実施態様は、ある周波数領域(たとえば、3.3GHz~10.3GHzの間)で動作する無線周波数(RF)センサから集められるデータに基づいている。このような周波数領域により、センサが、木または乾式壁などの光を通さない材料を通して「見る」ことが可能になる。こうして、RFセンサは、たとえば知識労働者の活動を追跡するために、デスクの下に、または、店の販売時点情報管理(POS)の活動の追跡のために、カウンタ上面の下に、目立たないように配置され得る。RFセンサは、必ずしも、監視されるユーザの視野内にある必要はない。
例示的実施態様により、作業台の下に配置されたRFセンサを介してのユーザの活動の追跡が可能となる。たとえば、作業台は、知識労働者のデスク、又はコンビニエンスストアのPOSのカウンタ上面であってよい。
例示的実施態様はまた、ウェアラブルセンサのデータを利用してRFセンサの活動認識を支持する場合がある。そのような例示的実施態様では、システムは、RFセンサを使用して、作業台上または作業台付近における活動の物理的位置を判断する。例示的実施態様では、多くの目的のために、ウェアラブルセンサとRFセンサとの組合せを利用する。たとえば、2人以上の人が存在する場合、例示的実施態様により、観察される人々と、ウェアラブルセンサのデータとの間を識別することができる。さらに、それにより、例示的実施態様は、ウェアラブルセンサのデータの認識の正確さを向上させることができる。例示的実施態様はまた、(ウェアラブルセンサとRFセンサとの両方を使用して)実施される動作に加え、システムが(RFセンサを使用して)作業台上の対象を認識することを促進する。
図1(a)から図1(c)は、例示的実施態様によって利用される例示的センサ要素を示す図である。
図1(a)は、デスクまたはPOSカウンタなどの作業台の下のRFセンサの配置の例を示している。図1(a)の例では、RFセンサは、3Dプリントされたハウジングなどのハウジング内でユーザのデスクの下に取り付けられているが、所望の実施態様に応じて、デスク上のどこにでも取り付けることができる。図1(b)は、図1(a)のユーザ作業エリアの上から見た、おおよそのセンサ配置位置を示している。「×」は、センサのおおよその配置を示している。例示的実施態様では、作業台は、RF信号透過性である。しかし、一般的な建築材料の多く(たとえば、合板、パーティクルボード、繊維ガラス)は、GHz周波数におけるRF信号に対してかなり高い透過性を有している。RFセンサは、ユーザの直接の入力(すなわち、ジェスチャ)から、「コンピュータ作業」または「文書作業」などの、より長期の活動まで、広範囲の活動を追跡するのに使用することができる。所望の実施態様に応じて、デスク以外の他の作業台を利用してもよく、本開示は、任意の特定の作業台には限定されない。他の作業台には、所望の実施態様に応じて、たとえば、テーブル、いす、店のカウンタ、ブースなどを含めることができる。
例示的実施態様では、RFセンサからのセンサのデータは、ウェアラブルデバイスからのセンサのデータで増強されてもよい。図1(c)は、例示的なウェアラブルデバイスを示している。活動が認識されることになる各ユーザには、センサを装備してもよい。たとえば、各ユーザは、IMUデータなどのセンサのデータを取り込むスマートウォッチを装着することができる。そのような例示的実施態様では、RFセンサ(複数の場合もある)およびウェアラブルセンサからのデータは、処理のために統合することができる。RFセンサは、1つまたは複数のワイヤレス・リレー・デバイスを必要とし得る。活動の認識がリアルタイムで検出されることになる場合、センサからのデータは、スマートフォンなどのさらなる通信デバイスを介して伝送される必要がある場合がある。
図2は、例示的実施態様が適用され得る例示的アーキテクチャを示す図である。図2の例示的実施態様では、ラベルが付されたデータ200が、活動認識のためのモデルをトレーニングするために利用され得る。デスク上の活動認識のケース(すなわち、知識労働者の場合)では、例示的実施態様は、ラベルが付された活動データを得るために、ユーザ起動型のラベル付けシステムを伴い得る。RFセンサ201によって記録されたすべてのデータは、データを取り込んだセンサの時間スタンプおよび識別子(ID)と関連付けることができるデータベース202に保存される。
例示的実施態様では、ラベルが付されたデータ200は、ブラウザ203を通してのユーザによる入力から提供され得る。ブラウザ203は、ウェブサーバ205によって提供される質問票204を読み込むように構成されている。質問票の例に関するさらなる詳細は、図3および図5に関して与えられている。
図3は、例示的実施態様に係る、ユーザ起動型のラベル付けシステムの例を示す図である。図3の例示的スクリーンショットでは、直近の活動に関する質問を提供する質問票のポップアップを定期的に示すウェブブラウザの拡張を介して、データラベルがユーザによって生成され得る。ユーザの答え、時間スタンプ、および関連するセンサIDは、次いで、データベースに保存される。機械学習のためのトレーニングデータを得るために、ユーザのラベルは、時間スタンプおよびセンサIDを介して調整されて(reconciled)、トレーニングサンプルを得る。たとえば、ユーザによる質問票のデータの提出の前のセンサのデータの、時間ウインドウ(たとえば、所望の実施態様に応じて、最後の15分など)を割り当てる。これにより、例示的実施態様は、質問票の応答を介して、ユーザの活動のセンサのデータにおける表示、および、このデータのラベルを得ることができる。ラベル付けのための他の方法(たとえば、ユーザが活動を行っているため、ターミナルを介してユーザからのリアルタイムの入力を介する)も、所望の実施態様に応じて利用される場合があり、本開示は質問票に限定されない。
深層神経回路網(Deep Neural Network、DNN)に基づくモデルは、画像センサ、加速度およびジャイロセンサ、奥行き画像センサなどの様々なセンサを使用する、様々な人間活動認識システムに首尾良く利用されてきた。DNNフレームワークは、従来の活動認識システムに行われていた手作業による特徴の生成の必要性を除去するなど、従来の機械学習技術に対する様々な利点を提供することができる。さらに、DNNフレームワークの深さを操作することにより、より高い精度を達成することができる。例示的実施態様では、RFセンサを使用して活動を取り込む(capture)ことができ、また、DNNの自己特徴学習能力を利用して、様々な活動を分類することができるが、本開示はそれらに限定されず、他の機械学習技術を、所望の実施態様に応じて利用してもよい。
さらに、古典的な機械学習およびDNNアルゴリズムを最適にトレーニングおよびテストするために、大きいデータセットが必要である場合がある。例示的実施態様では、少量のサンプル(たとえば、数百の範囲)を利用することができ、異なるデータ合成技術を使用して、より大きいデータセットを生成することができる。たとえば、カーネル密度推定技術(非パラメータ生成モデル)を利用することができ、これにより、効率的に新たなサンプルを既存のサンプルから抽出/生成し得る。そのような例示的実施態様を通して、オリジナルのデータサンプルのおよそ数倍の合成データを生成することができる。
図4は、例示的実施態様に係る、特徴生成技術に関する例示的フローチャートを示す図である。
「知識労働者」の場合の活動認識を含む例示的実施態様では、トレーニングのための活動に関するラベルが付されたデータを得るために、ユーザ(たとえば、研究施設のすべての知識労働者)は、RFセンサを装備することができる。例示的実施態様では、センサは、ユーザのデスクの縁部からわずかに離れた距離などの、各ユーザのデスク上の作業エリアの中心線に配置される。RFセンサは、センサの読取り値をデータベースに(たとえば、無線通信、ローカル・エリア・ネットワークなどを介して)伝送するように構成された組み込み機器に接続されている。センサのデータは、毎秒の所望のフレームレートに応じて取り込まれる。センサの出力は、極座標フレームにおける測定強度を示す、レーダからの応答のグレースケールの「画像」(たとえば、19×70の画像)である。
ユーザによる活動のラベル付けを可能にするために、例示的実施態様は、図3に示すように、ユーザの活動の質問票を含む、ユーザに対するポップアップを定期的に提供するウェブブラウザに関する拡張を含み得る。例示的実施態様は、ポップアップが気付かれることを確実にするために、ブラウザに限らず、ユーザのウインドウマネージャの最前面においてポップアップを提供することを含むことができる。この最前面の配置は、ユーザの応答により、質問票が提出されるまで、(たとえば10秒毎に)更新することができる。これにより、著しく遅れることなくユーザによって処理され得ることを確実にする。
図4に示すように、400において、第1に、ラベルが付された画像シークエンスが受信され、次いで、401において平坦化された画像シークエンス(flattened image sequence)に変換される。平坦化された画像シークエンスは、402において、カーネル密度推定器をトレーニングするのに利用され、その間、カーネルバンド幅のグリッドサーチが実施され得る。403において、さらなる特徴が、カーネル密度推定器からサンプリングされたランダムな置換と合成されて、機械学習アルゴリズムをトレーニングするのに利用される、合成された特徴を生成してもよい。したがって、図4のフローの実施を通して、所与の作業台に関してRFセンサのデータを活動と関連付けるように構成された機械学習アルゴリズムを生成することができる。
図5は、例示的実施態様に係る、使用され得る質問の例示的階層を示す図である。質問票は、ユーザの特定の応答のみに基づいて示された、階層的な質問のセットを示すように構成することができる。たとえば、ユーザが最初の記述(たとえば、「最後の15分間、自分のオフィスにいた」)で「no」と応答した場合、それに続く質問がその場合に無意味であることから、質問票の残りがスキップされる。ラベルの階層は、最初に最も一般的な状態(たとえば、ユーザがオフィスにいる)を分類することを試み、その場合のみ、より詳細な活動を分類することを試みることができる、階層的な分類システムの構成をも可能とし得る。このような例示的実施態様は、より正確な活動の分類に繋がり得る。
図5の例では、500で提供された質問により、問題のユーザがオフィスにいる(たとえば、所望の作業台と相互作用しているか、近くにいる)か否かを確定する。いない場合は、質問票を終了させることができ、そうでなければ、質問票は501に進行して、階層の次の質問(たとえば、ユーザがデスクにいたか)を判定する。ユーザが作業台にいたか、作業台の近くにいた場合、フローは502に進行して、作業台でユーザが何の動作を行っていたか(たとえば、作業をしていた、座っていた、飲食をしていた)を判定する。この例では、検出が望まれる活動は飲食であり、そのため、フローは503に進行して、ユーザがデスクの近くで飲食をしていたかを判定する。
例示的実施態様では、Node.jsなどのウェブサーバが、ポップアップのための質問票を出すために実装されてもよい。この例示的実施態様により、ウェブブラウザの拡張とは独立した質問票の内容の変更を可能とすることができる。ラベルが付されたトレーニングデータを得るために、時間スタンプおよびセンサIDは、センサのデータベースからのデータと調整されてもよい。ユーザが質問票を記入する動作自体を除くために、センサのデータから、時間ウインドウ内の最新のデータのセットが、質問票の応答の提出時間の前に得られる。時間スタンプおよびセンサIDを、センサのデータに関するデータベースのキーとして規定すると、そのような例示的実施態様は、明らかに効率的であり、多くの(たとえば、数十万)のデータポイントを含むデータベース内で数秒の間に実行することができる。
例示的実施態様では、RFセンサによって最後の時間ウインドウに亘って取り込まれたデータポイントの正確な数は、待ち時間および伝送速度が変化する状況における、記録されたデータのデータベースへの伝送に起因して、変化し得るものであり、決定的ではない。さらなる問題は、データの次元数が非常に大きく(たとえば、Kを約870として、サンプル毎に19×70×Kのおおよその値である)、したがって、有効な機械学習モデルを構築するために、低減する必要がある。
例示的実施態様では、前処理の方策が、よりシンプルな分類のために、サンプルの次元を修正するのに利用され得る。1つの例示的な前処理の方策では、サンプルは、n個の等しいスライスに分割され、次いで、各スライスに関して中央値が計算される。中央値は、特徴ベクトルを形成するために連結される(concatenated)。これにより、特徴ベクトルは、19×70×nの次元数で得られる。
別の例示的な前処理の方策では、主成分分析(Principle Component Analysis、PCA)が、19×70×Kの値のオリジナルの入力サンプルの次元数を、以下のようにn×nの次元数の特徴ベクトルに低減するのに利用され得る。最初に、すべての入力画像がそのシークエンスで「平坦化」される(flattened)。すなわち、データを、19×70×Kのフォーマットから1330×Kの行列に変換する。次いで、PCAを行列の行に実行して、1330×nの行列を得る。その後に、PCAを、結果として得られた行列の列(すなわち、前の結果の転置行列)に実行して、n×nの行列を得る。
RFセンサを伴う例示的実施態様の使用を通して、RFセンサが、監視されるユーザの視野にある必要がないことから、ユーザに視認できない位置に別々に取り付けられ得るRFセンサで活動を追跡することができる。関連技術のカメラの画像、および、カメラに基づくシステムとは異なり、RFシステムによって提供される粗い画像は、取り込まれたセンサの情報が、通常、人間によって直接分析することが不可能であることから、プライバシの懸念に繋がるとは考えにくい。
さらに、関連技術のカメラに基づくシステムとは対照的に、RFセンサは、材料の異なる透過性/反射特性に起因して、異なる材料の存在を直接検知することができる。関連技術のソフトウェアに基づく活動の追跡とは対照的に、RFセンサは、ユーザの存在を検出するとともに、ユーザが自身のコンピュータと相互作用していない場合には、ユーザの活動を追跡することができる。本明細書に記載の活動追跡方法の例示的実施態様は、いかなる特殊な、かつ潜在的にセキュリティ上危険なソフトウェア(たとえば、キーボードおよびマウスの自動記録ソフトウェア)をユーザのコンピュータにインストールする必要はない。代わりに、RFセンサがユーザの通常の作業エリアの下に配置されている場合に、キーボードおよびマウスの動きが間接的に取り込まれ得る。
さらなる例示的実施態様では、ウェアラブルデバイスが、本開示のRFセンサシステムの検出を増強させるのに利用され得る。例示的実施態様は、作業台の下または上に取り付けられた1つまたは複数のRFセンサ、および、ユーザに装着されているセンサ(たとえば、スマートウォッチまたはブレスレットの形態)のデータの組合せを介したユーザ活動の追跡を可能とするように構成されたシステムをさらに含むことができる。たとえば、店舗に設置する場合、1つまたは複数のRFセンサを、カウンタの下に取り付けることができ、店舗の従業員が、動作データを集めるスマートウォッチを装着する。
図6は、例示的実施態様に係る、本システムの例示的フロー図である。具体的には、図6は、様々なデータ源からのデータの集約および調整のための例示的フローを示しており、ユーザの活動と位置情報とを相互に関係付けることができる。フローは、たとえば、図2または図7に示すアーキテクチャによって実施することができる。図6の例では、RFセンサのデータが601で提供され、所望の実施態様に応じて、ウェアラブルセンサのデータも、600で提供され得る。602では、RFセンサのデータは、作業台に関連付けられた材料または対象を判定するのに利用される。
603では、RFデータおよびウェアラブルセンサのデータが相互に関係付けられ(correlated)てもよい。ウェアラブルセンサのデータを利用する例示的実施態様では、RFセンサからのデータをウェアラブルIMUセンサから来るデータと相互に関係付けることを、いくつかの目的のために実施することができる。たとえば、RFセンサおよびウェアラブルセンサからのデータが(たとえば、位置および/または時間に関して)相互に関係付けられている場合、この相互関係が、作業台上のどこで、どのユーザによって活動が行われているかを判定するのに使用され得る入力を提供し得る。RFセンサからのデータおよびウェアラブルセンサのデータが(たとえば、位置および/または時間に関して)相互に関係付けられていない場合、この相互関係の欠落(non-correlation)が、RFセンサから見られる活動が、ウェアラブルセンサを装着しているユーザのうちの一人からから来ていないことを示し、かつ/または、ウェアラブルセンサから見られる活動が作業台上で行われていないことを示す。
例示的実施態様では、以下のことを含み得るが、それらに限定されない、RFセンサおよびウェアラブルセンサからのデータを相互に関係付けるための様々なアプローチが存在する。一例示的実施態様では、相互関係は、データを相互に関係付けるための分類に基づくアプローチを通して実施され得る。このアプローチでは、モデルは、ラベルが付された相互関係データに対して様々な機械学習技術を使用してトレーニングされ、また、トレーニングされたモデルを利用して、ウェアラブルセンサおよびRFセンサからのデータの流れが相互に関係付けられているかどうかを分類することができる。
別の例示的実施態様では、データの相互の関係付けは、類似性スコアの計算結果に基づいて実施され得る。そのようなアプローチでは、RFセンサのデータおよびIMUセンサのデータが、共通の特徴空間(たとえば、動きベクトル)において投影されて、潜在ベクトルが生成される。各センサの生成された潜在ベクトルは、所望の実施態様に応じて、ヤコビ行列などの異なる類似性行列やコサイン類似度などを使用して2つのベクトル間の類似性スコアを計算することにより、相互の関係付けのためにさらに使用され得る。
別の例示的実施態様では、データの相互の関係付けは、共通のジェスチャを行うことによって実施され得る。そのようなアプローチでは、ユーザ(たとえば、センサの装着者)は、両方のセンサによって確実に検出される、作業台上での特定の(ペアリング)ジェスチャ(たとえば、空中に8の数字を描く)を行う必要がある。ジェスチャが両方のセンサで検出されると、作業台の関連する領域からのデータとウェアラブルセンサからのデータとが、相互に関係付けられていると見なされる。たとえば、ウェアラブルデバイスに示されるフィードバック表示が、作業台がユーザのIDを追跡し、ユーザにIDが割り当てられていることを示す。
RFセンサとウェアラブルセンサとからのデータが相互に関係付けられていると見なされる場合、システムは、センサを装着しているユーザの識別情報を、両方のセンサによって検出された活動に結び付けることができる。システムは、RFセンサからのデータの作業台表面上の位置をウェアラブルセンサからのデータに結び付けることもできる。さらに、システムは、(両方のセンサからの)データの両方の組を活動認識手順に供給する。
組合せによる活動認識(joint activity recognition)605は、ウェアラブルセンサとRFセンサとから実施され得る。例示的実施態様では、ウェアラブルデバイスからのセンサのデータとRFセンサからのセンサのデータとは、組み合わせることができ、活動の判定に相互関係を利用することができる。機械学習技術には、特徴の抽出が必要である。一般に、特徴ベクトルが各センサのデータの各々から別々に抽出され、モデルのトレーニングの前に組み合わせられる。これら特徴に加え、各特徴ベクトルの要素間の相関関係または共起関係が、新たな特徴として加えられ得る。この新たな特徴は、ユーザの動作と位置との間の関係を示している。
さらに、602において検出される対象の材料は、活動認識606または組合せによる活動認識605に含まれ得る。例示的実施態様では、作業台上の対象の知識を、認識を向上させるために利用することができる。システムが、レジ係が特定の製品をスキャンし、次いで、それら製品を適切な順番でバッグの中に置いていることを認識しようと試みている場合を検討する。ウェアラブルセンサのみの使用により、レジ係が対象をある程度の正確性でバッグの中に置いていることを検出することが可能になる場合があるが、そのような実施態様は、バッグ内に置かれる製品の知識と、その順番を提供しない。しかし、RFセンサを使用して、作業台上に置かれた対象の材料の構成を認識し、活動認識を補助することができる。周波数走査を使用した材料の認識は、所望の実施態様に応じて利用することができる。
例示的実施態様では、RFセンサ(複数の場合もある)から得られた、対象の材料の識別情報は、ウェアラブルセンサと、RFセンサで検出された動作との両方から得られた、対象の操作を示すデータと組み合わせることができる。
図6に示すように、ユーザおよび対象の位置の推定604は、活動認識606で利用され得る。例示的実施態様は、人および対象の、作業台上および作業台周りの位置の推定を適用して、認識を向上させることができる。2つの活動が同様の身体的動作を包含する場合に、装着されたウェアラブルセンサのみに基づくシステムでは区別されない(たとえば、バッグから物を取り出すことと、バッグ内に物を置くこと)。活動がカウンタ上の特定の位置で行われたとの情報は、2つの活動間の曖昧さをなくす助けになる場合がある。
図7は、作業台の例示的実施態様を示す図である。図7の例では、作業台は、スーパーマーケットの会計カウンタの形態であるが、他の作業台も利用可能であり、本開示はそれに限定されない。図7に示すように、作業台は、作業台の様々な領域に、その機能に基づいて、1つまたは複数のラベルが割り当てられることを可能にするように、分割され得る。たとえば、カウンタは、「レジ係側」と「買い物客側」とのラベルが付された各領域を有することができる。レジ係側は、「スキャンエリア」700と、「袋詰めエリア」701と、顧客に面している特定の「表示エリア」702とにさらに分割することができる。
小売りの環境において、窃盗の防止または他の目的のために、多くの物品に無線周波数識別(RFID)タグが付けされていることから、別の例示的実施態様は、1つまたは複数の物品を現在の活動に一義的に関連付けるために、RFセンサと並行してRFIDリーダの利用を含む場合がある。
さらに、例示的実施態様は、作業台で生じる動きから、作業台から離れて生じる動きまで追跡を可能とする。ウェアラブルセンサとRFセンサとの組合せにより、行われる活動が作業台上で開始され得るが、作業台から離れて続けられる(またはその逆の)実施態様を可能とする。そのような活動には、たとえば、カウンタの上のバッグを持ち上げ、カウンタの外に移動することが含まれ得る。例示的実施態様では、RFセンサからはもはや可視ではなくなった後に、ウェアラブルセンサを使用して、活動の追跡を継続することができる。活動がウェアラブルセンサによってのみ見られる場合、認識される活動に対してより低い信頼性を適用することも可能である。この場合の、ウェアラブルセンサを使用することのさらなる利点は、カウンタ間、たとえば、重さを量る台とレジのカウンタとの間で対象の移動を追跡する能力に対するものである。ユーザIDは、ウェアラブルセンサを介して識別することができ、物品の材料の構成の識別情報は、RFセンサの使用を通して識別する。
図8は、活動の組に関連付けられた作業台に関する機械学習アルゴリズムを作成するための例示的フロー図である。800では、ラベルが付されたトレーニングのセットが、作業台で生じる活動に対する作業台のために提供される。データは、RFデータ、および/または、RFデータとウェアラブルセンサのデータとの組合せを含み得る。801では、所望の機械学習アルゴリズムがトレーニングのセットに適用されて、認識アルゴリズムを生成する。認識アルゴリズムは、適用される機械学習アルゴリズムおよび所望の実施態様に応じて、神経回路網、または、他のアルゴリズムとすることができる。802では、生成された認識アルゴリズムは、作業台上または作業台付近で行われる活動を検知するために、作業台に対して利用される。
図9は、古典的な機械学習アルゴリズムとDNN機械学習アルゴリズムとを使用した「知識労働者」の場合に関するモデルの妥当性確認の最初の結果を示す図である。具体的には、図9は、例示的実施態様に係る古典的な機械学習と、深層学習アルゴリズムとを通して得られた例示的な結果の組を示している。合成データを生成し、各分類ラベルに関するトレーニングデータのサンプルのバランスをとって、様々なクラスにわたるデータの一様性を確実にするために上述の技術を使用して、決定木(Decision Tree)、ランダムフォレスト(Random Forest)、エクストラ木(Extra Tree)、サポートベクトルマシン(Support Vector Machine)、ロジスティック回帰(Logisitic Regression)、および、LeNetアーキテクチャ(LeNet Architecture)の分類を使用したDNNを使用して、ラベルが付されたデータに対して様々なモデルがトレーニングされた。図9は、活動/状態のタイプおよびモデルのタイプでグループ分けされた、最初の結果の妥当性確認の組の正確さ(validation set accuracy)を示している。
図10は、例示的実施態様に係る、作業台情報1000に関する管理表の例を示す図である。例示的実施態様では、各作業台は、作業台に予期される活動の組に関連付けられており、作業台に関する活動の組の各活動は、対応する、予期されるRFセンサのデータの署名および/またはウェアラブルセンサのデータの署名を有している。例示的実施態様では、機械学習アルゴリズムから生成された認識プロセスにより、受信したデータ(たとえば、ウェアラブルセンサのデータを伴う/伴わないRFセンサのデータ)と、RFセンサのデータの署名および/またはウェアラブルセンサのデータの署名との比較が行われ、どの活動が行われているかを判定する。認識プロセスが、活動が検出されたと判定した場合、認識プロセスは検出された活動をシステムに提供する。さらに、図10に示されているように、活動の組の各活動は、関連するRFセンサのデータの署名を有してもよく、また、活動および所望の実施態様に応じて、関連付けられたウェアラブルセンサのデータの署名を有するか、有していなくてもよい。たとえば、作業台W1および関連付けられた活動A2に関し、活動は、RFセンサのデータの署名RF2の検出に基づいているが、ウェアラブルセンサのデータの署名は有していない(NULL)。
例示的実施態様では、検出され得る活動の例には、限定ではないが、従業員または知識労働者の場合に、所望の実施態様に応じて、従業員が部屋内にいるかを検出すること、従業員がデスクにいるかを検出すること、デスク上で行われている作業のタイプ、デスクにおいて飲食物を消費していること(たとえば、プレートまたはカップの検出を含む、プレートまたはカップの仕様)、書類の記入または作業を行っていること、コンピュータでのテキスト入力、ウェブの閲覧、コンピュータゲームを行っていることなどを含み得る。作業台としてレジ係のカウンタを含む例示的実施態様では、検出され得る活動の例には、限定ではないが、所望の実施態様に応じて、販売員の存在の検出、販売員の位置の検出、販売員が何もしていないかどうかの検出、顧客の存在の検出、顧客の位置の検出、支払いの処理、物品のスキャン、物品の袋詰め、座っているか立っているか、および、製品のタイプ(たとえば、食品、飲料、紙など)が含まれ得る。
図11は、例示的実施態様に係る、処理情報(transaction information)1100に関する管理表の例を示す図である。例示的実施態様では、特定の処理も検出されるとともに観察され得る。各処理は1組の活動を伴ってもよく、所望の処理に応じて、この組の順番で実施されてもよいし、組の順番で実施されなくてもよい。たとえば、マッピングされる所望の処理には、物品のスキャン、金額の決定、現金のやりとり、および物品の袋詰めの活動を含んでもよい、レジ係の処理を含み得る。例示的実施態様のシステムは、処理が行われたかを判定することができ、所望の実施態様に応じて、各活動に関して行われた時間をマッピングすることができ、ユーザは、どこで処理が非効率になっているかを判定することができる。さらに、処理は、所望の実施態様に応じて、複数の作業台にわたって行われる活動を含んでもよい。
図12は、例示的実施態様に係る、作業台のシステムの管理のための例示的フロー図を示す図である。1200では、RFセンサのデータが、複数の作業台のうちの1つの作業台から受信される。1201では、RFセンサのデータを提供する1つの作業台に対応する認識プロセスがRFセンサのデータに実行される。ウェアラブルセンサのデータも検出された場合、認識プロセスは、RFセンサのデータとウェアラブルセンサのデータとに実行される。1202では、認識プロセスが、作業台に関連付けられた活動の組から、RFセンサのデータ、または、RFセンサのデータとウェアラブルセンサのデータとの組合せに対応する1つの活動を判定する。
図13は、いくつかの例示的実施態様における使用に適切な、複数の作業台の管理を促進するための装置などの、例示的コンピュータデバイスの例示的コンピュータ環境を示す図である。複数の作業台の各々は、1つまたは複数の無線周波数(RF)センサに関連付けられており、複数の作業台の各々が、活動の組に関連付けられている。例示的実施態様では、作業台は、所望の実施態様に応じて、作業デスク、レジ係のカウンタ、テーブル、皿またはプレートを含む棚などの、RFセンサを取付けることができ、ユーザからの相互作用に利用される任意の表面を含むことができる。
コンピュータ環境1300におけるコンピュータデバイス1305は、1つまたは複数の処理ユニット、コア、またはプロセッサ1310、メモリ1315(たとえば、RAM、ROMなど)、内部ストレージ1320(たとえば、磁気ストレージ、光学ストレージ、固体ストレージ、および/もしくは有機ストレージ)、ならびに/またはI/Oインターフェース1325を含むことができる。これらのうちの任意のものは、情報通信のために通信機構またはバス1330上に結合するか、コンピュータデバイス1305に組み込むことができる。
コンピュータデバイス1305は、通信するように入力/ユーザインターフェース1335および出力デバイス/インターフェース1340に結合することができる。入力/ユーザインターフェース1335と出力デバイス/インターフェース1340とのいずれか一方または両方は、有線または無線インターフェースとすることができるか、取外し可能とすることができる。入力/ユーザインターフェース1335は、入力を提供するのに使用することができる任意のデバイス、構成要素、センサ、または、物理もしくは仮想インターフェース(たとえば、ボタン、タッチスクリーンインターフェース、キーボード、ポインティング/カーソルコントロール、マイク、カメラ、点字、モーションセンサ、光学リーダなど)を含んでもよい。出力デバイス/インターフェース1340は、ディスプレイ、テレビ、モニタ、プリンタ、スピーカ、点字などを含んでもよい。いくつかの例示的実施態様では、入力/ユーザインターフェース1335および出力デバイス/インターフェース1340は、コンピュータデバイス1305に組み込むことができるか、物理的に結合することができる。他の例示的実施態様では、他のコンピュータデバイスが、コンピュータデバイス1305に関して、入力/ユーザインターフェース1335および出力デバイス/インターフェース1340として機能するか、入力/ユーザインターフェース1335および出力デバイス/インターフェース1340の機能を提供してもよい。
コンピュータデバイス1305の例には、限定ではないが、高度に移動性のデバイス(たとえば、スマートフォン、自動車および他の機械のデバイス、人間または動物に運ばれるデバイスなど)、移動デバイス(たとえば、タブレット、ノート、ラップトップ、パーソナルコンピュータ、ポータブルテレビ、ラジオなど)、ならびに、移動用には設計されていないデバイス(たとえば、デスクトップコンピュータ、他のコンピュータ、情報キオスク、1つまたは複数のプロセッサが内部に埋め込まれ、かつ/または結合されたテレビ、ラジオなど)が含まれ得る。
コンピュータデバイス1305は、同じまたは異なる構成の1つまたは複数のコンピュータデバイスを含む、ネットワーク化された任意の数の構成要素、デバイス、およびシステムと通信するために、外部ストレージ1345およびネットワーク1350に(たとえばI/Oインターフェース1325を介して)通信するように結合することができる。コンピュータデバイス1305または任意の接続されたコンピュータデバイスは、サーバ、クライアント、シンサーバ(thin server)、汎用機械、特定用途の機械、またはその他の装置として機能するか、サービスを提供するか、または呼ばれる場合がある。
I/Oインターフェース1325は、限定ではないが、少なくとも、コンピュータ環境1300において接続された構成要素、デバイス、およびネットワークすべてに情報を通信し、かつ/またはこれらから情報を通信するための、任意の通信もしくはI/Oプロトコル、または規格(たとえば、イーサネット(登録商標)、802.11x、ユニバーサル・システム・バス、WiMax、モデム、セルラ・ネットワーク・プロトコルなど)を使用する有線および/または無線インターフェースを含み得る。ネットワーク1350は、任意のネットワークまたはネットワークの組合せ(たとえば、インターネット、ローカル・エリア・ネットワーク、ワイド・エリア・ネットワーク、電話ネットワーク、セルラネットワーク、衛星ネットワークなど)であってよい。
コンピュータデバイス1305は、一時的媒体および非一時的媒体を含み、コンピュータで使用可能であるか、コンピュータで読取り可能な媒体を使用し、かつ/または使用して通信することができる。一時的媒体には、伝送媒体(たとえば、金属ケーブル、光ファイバ)、信号、搬送波などが含まれる。非一時的媒体には、磁気媒体(たとえば、ディスクおよびテープ)、光学媒体(たとえば、CD ROM、デジタル・ビデオ・ディスク、ブルーレイディスク)、固形媒体(たとえば、RAM、ROM、フラッシュメモリ、固体ストレージ)、ならびに、他の不揮発性ストレージまたはメモリが含まれる。
コンピュータデバイス1305は、いくつかの例示的なコンピュータ環境において、技術、方法、アプリケーション、プロセス、またはコンピュータで実行可能な命令を実施するのに使用することができる。コンピュータで実行可能な命令には、一時的媒体から検索することができるか、非一時的媒体に記録するか、検索することができる。実行可能な命令は、任意のプログラミング言語、スクリプト言語、および機械言語(たとえば、C、C++、C#、Java(登録商標)、Visual Basic、Python、Perl、JavaScript(登録商標)など)の1つまたは複数を元にすることができる。
プロセッサ(複数の場合もある)1310は、ネイティブであるか、仮想の環境で、任意のオペレーティングシステム(OS)(図示せず)の下で実行することができる。論理ユニット1360、アプリケーション・プログラミング・インターフェース(API)ユニット1365、入力ユニット1370、出力ユニット1375、ならびに、様々なユニットが互いと、OSと、および他のアプリケーション(図示せず)と通信するためのユニット間通信機構1395を含み、1つまたは複数のアプリケーションを展開することができる。記載のユニットおよび要素は、設計、機能、構成、または実施態様を変更することができ、提供された記載には限定されない。
いくつかの例示的実施態様では、情報または実施命令がAPIユニット1365によって受信されると、APIユニット1365は、1つまたは複数の他のユニット(たとえば、論理ユニット1360、入力ユニット1370、出力ユニット1375)に通信する場合がある。いくつかの例では、論理ユニット1360は、上述のいくつかの例示的実施態様において、各ユニット間で情報フローを制御し、APIユニット1365、入力ユニット1370、出力ユニット1375によって提供されるサービスを向けるように構成され得る。たとえば、1つまたは複数のプロセスまたは実施態様のフローは、論理ユニット1360単独か、APIユニット1365との組合せによって制御される場合がある。入力ユニット1370は、例示的実施態様に記載の計算のための入力を得るように構成される場合があり、また、出力ユニット1375は、例示的実施態様に記載の計算に基づく出力を提供するように構成され得る。
メモリ1315は、図10および図11に示すように、管理情報を記憶して、複数の作業空間からの管理される作業空間の各々に関する活動を検出するための実施を促進するように構成され得る。図10に示すように、作業台に関連付けられた活動の組は、RFセンサのデータのみに基づいて検出された1つまたは複数の活動と、RFセンサのデータおよびウェアラブルセンサのデータに基づいて検出された1つまたは複数の活動とを含むことができる。
プロセッサ(複数の場合もある)1310は、複数の作業台の各々に関する1つまたは複数のRFセンサを監視するように構成することができる。RFセンサのデータを提供する複数の作業台のうちの1つの作業台の1つまたは複数のRFセンサに関し、プロセッサ(複数の場合もある)1310は、複数の作業台のうちの1つの作業台に関連付けられた認識アルゴリズムを適用して、RFセンサのデータから、RFセンサのデータに対応する複数の作業台のうちの1つの作業台に関連付けられた活動の組から活動を判定することを行うように構成することができる。
プロセッサ(複数の場合もある)1310は、図8に示すように、機械学習から認識アルゴリズムを生成するように構成することができる。たとえば、プロセッサ(複数の場合もある)1310は、複数の作業台の各々に関してラベルが付されたトレーニングのセットに機械学習を適用することであって、ラベルが付されたトレーニングのセットが、複数の作業台の各々に関連付けられた活動の組からの活動に関連付けられた複数のRFセンサの読取り値を含んでいる、適用することと、ラベルが付されたトレーニングのセットに対する機械学習の適用から、複数の作業台の各々に関する認識アルゴリズムを生成することと、により、複数の作業台の各々に関して、認識アルゴリズムを生成するように構成することができる。ラベルが付されたトレーニングのセットは、図3から図5に示すように、複数の作業台の各々に関する活動の組からの1つまたは複数の活動に関連付けられた、ウェアラブルセンサのデータおよびRFセンサの読取り値を含むことができる。
たとえば、ウェアラブルデバイスまたはIMUをも含む例示的実施態様に関し、プロセッサ(複数の場合もある)1310は、複数の作業台のうちの1つの作業台に関する1つまたは複数のウェアラブルデバイスを監視するようにも構成され得る。ウェアラブルセンサのデータを提供する複数の作業台のうちの1つの作業台に関する1つまたは複数のウェアラブルデバイスに関し、かつ、RFセンサのデータを提供する複数の作業台のうちの1つの作業台の1つまたは複数のRFセンサに関し、プロセッサ(複数の場合もある)1310は、複数の作業台のうちの1つの作業台に関連付けられた認識アルゴリズムを適用して、RFセンサのデータおよびウェアラブルセンサのデータから、メモリ1315に記憶された管理情報、ならびに、RFセンサのデータの署名およびウェアラブルセンサのデータの署名に基づき、RFセンサのデータおよびウェアラブルセンサのデータに対応する複数の作業台のうちの1つの作業台に関連付けられた活動の組からの別の活動を判定することを行うように構成することができる。
プロセッサ(複数の場合もある)1310は、図11に示すように、複数の作業台から検出された活動から処理を検出するようにさらに構成することができ、この処理は、複数の作業台から検出された、順番に行われた複数の活動を伴っている。
詳細な説明のいくつかの部分は、コンピュータ内のオペレーションのアルゴリズムおよび象徴的な表示に関して与えられている。これらアルゴリズムの記載および象徴的表示は、データ処理の当業者により、それらの革新の本質を他の当業者に伝えるために使用される手段である。アルゴリズムは、所望の最終状態または結果に繋がる、規定の一連のステップである。例示的実施態様では、実施されるステップは、実質的な結果を得るための実質的な量の物理的操作を必要としている。
特に別様に述べられていない限り、記載から明確であるように、本記載を通して、「処理(processing)」、「計算(computing)」、「計算(calculating)」、「判定(determining)」、「表示(displaying)」などの用語を利用する議論は、コンピュータシステムのレジスタおよびメモリ内の物理的(電子的)量として表示されるデータを、コンピュータシステムのメモリもしくはレジスタ、または、他の情報記録、伝送、もしくは表示デバイス内の物理的量として同様に表示される他のデータに操作および変換する、コンピュータシステムまたは他の情報処理デバイスの動作および処理を含み得ることを理解されたい。
例示的実施態様は、本明細書の操作を実施するための装置にも関する場合がある。この装置は、所望の目的のために特別に構成され得るか、またはこの装置は、選択的に起動されるか、1つまたは複数のコンピュータプログラムによって再構成される、1つまたは複数の多目的コンピュータを含み得る。コンピュータプログラムは、コンピュータ可読記録媒体またはコンピュータ可読信号媒体などの、コンピュータ可読媒体に記録され得る。コンピュータ可読記録媒体は、限定ではないが、光学ディスク、磁気ディスク、リード・オンリ・メモリ、ランダム・アクセス・メモリ、固形デバイスおよびドライブなどの有形媒体、または、電子情報を記録するのに適切である、任意の他のタイプの有形もしくは無形媒体をともなってもよい。コンピュータ可読信号媒体は、搬送波などの媒体を含んでもよい。本明細書に提供されるアルゴリズムおよびディスプレイは、固有に、特定のコンピュータまたは他の装置に関連していない。コンピュータプログラムは、所望の実施態様の操作を実行する命令を含む、純粋なソフトウェアの実施態様を含むことができる。
様々な多目的システムが、本明細書の例に係るプログラムおよびモジュールとともに使用され得るか、より特定の装置を構成して、所望の方法のステップを実施するのに好都合であることがわかる場合がある。さらに、例示的実施態様は、いずれの特定のプログラム言語を参照しても記載されていない。様々なプログラミング言語が、本明細書に記載の例示的実施態様の教示を実施するのに使用され得ることを理解されたい。プログラミング言語(複数の場合もある)の命令は、1つまたは複数の処理デバイス、たとえば、中央処理装置(CPU)、プロセッサ、またはコントローラによって実施され得る。
当業者には既知であるように、上述の操作は、ハードウェア、ソフトウェア、または、ソフトウェアとハードウェアとのいくつかの組合せによって実施され得る。例示的実施態様の様々な態様が、回路および論理デバイス(ハードウェア)を使用して実施され得るが、他の態様は、プロセッサによって実施される場合、プロセッサに、本出願の実施態様を行うための方法を実行させる、機械読取り可能媒体(ソフトウェア)に記録された命令を使用して実施され得る。さらに、本出願のいくつかの例示的実施態様は、ハードウェアのみによって実施され得るが、他の例示的実施態様は、ソフトウェアのみによって実施され得る。さらに、記載の様々な機能は、単一のユニット内で実行され得るか、任意の数の方法で、複数の構成要素にわたって広げられ得る。ソフトウェアによって実施される場合、本方法は、コンピュータ可読媒体に記憶された命令に基づき、多目的コンピュータなどのプロセッサによって実行され得る。所望である場合、命令は、圧縮および/または暗号化されたフォーマットで媒体に記憶することができる。
さらに、本出願の他の実施態様は、本出願の教示の詳細および実行を考慮することから、当業者には明らかになるであろう。記載の例示的実施態様の様々な態様および/または構成要素は、単一で、または任意の組合せで使用してもよい。詳細および例示的実施態様は、例としてのみ考慮されることが意図されており、本出願の真の範囲および精神は、添付の特許請求の範囲によって示されている。

Claims (13)

  1. コンピュータに、
    複数の作業台の各々に関連付けられた1つまたは複数の無線周波数(RF)センサを監視することと、
    前記複数の作業台のうちの1つの作業台に関連付けられた前記1つまたは複数のRFセンサに関して、RFセンサのデータを提供することと、
    前記複数の作業台のうちの前記1つの作業台に関する1つまたは複数のウェアラブルデバイスを監視することと、
    前記複数の作業台のうちの前記1つの作業台に関する前記1つまたは複数のウェアラブルデバイスに関し、ウェアラブルセンサのデータを提供するとともに、前記複数の作業台のうちの前記1つの作業台の前記1つまたは複数のRFセンサに関し、RFセンサのデータを提供することと、
    前記複数の作業台のうちの前記1つの作業台に関連付けられた前記RFセンサのデータから、対象の材料を検出し、前記複数の作業台のうちの前記1つの作業台に関連付けられた認識アルゴリズムを適用して、前記RFセンサのデータから検出された前記対象の材料および前記ウェアラブルセンサのデータから、前記複数の作業台のうちの前記1つの作業台に関連付けられた活動の組から1つの活動、さらに別の活動を判定することにより、順番に行われた複数の活動を検出することと、
    を実行させ、
    前記認識アルゴリズムが、機械学習から生成される、複数の作業台を管理するためのプログラム。
  2. コンピュータに、
    前記複数の作業台の各々に関する前記認識アルゴリズムを生成することをさらに実行させ、
    前記複数の作業台の各々に関する前記認識アルゴリズムを生成することは、
    前記複数の作業台の各々に関して、ラベルが付されたトレーニングのセットであって、前記複数の作業台の各々に関連付けられた前記活動の組のうちの1つまたは複数の活動に関連付けられた複数のRFセンサの読取り値を含む、前記ラベルが付されたトレーニングのセットに対して機械学習を適用することと、
    前記ラベルが付されたトレーニングのセットに対する機械学習の前記適用から、前記複数の作業台の各々に関する前記認識アルゴリズムを生成することと、を含む、請求項1に記載のプログラム。
  3. 前記ラベルが付されたトレーニングのセットが、前記複数の作業台の各々に関する前記活動の組のうちの1つまたは複数の活動に関連付けられた、ウェアラブルセンサのデータおよびRFセンサの読取り値をさらに含んでいる、請求項2に記載のプログラム。
  4. 前記作業台に関連付けられた前記活動の組が、RFセンサのデータのみに基づいて検出された1つまたは複数の活動と、RFセンサのデータおよびウェアラブルセンサのデータに基づいて検出された1つまたは複数の活動とを含んでいる、請求項1に記載のプログラム。
  5. コンピュータによって、
    複数の作業台の各々に関連付けられた1つまたは複数の無線周波数(RF)センサを監視することと、
    前記複数の作業台のうちの1つの作業台に関連付けられた前記1つまたは複数のRFセンサに関して、RFセンサのデータを提供することと、
    前記複数の作業台のうちの前記1つの作業台に関する1つまたは複数のウェアラブルデバイスを監視することと、
    前記複数の作業台のうちの前記1つの作業台に関する前記1つまたは複数のウェアラブルデバイスに関し、ウェアラブルセンサのデータを提供するとともに、前記複数の作業台のうちの前記1つの作業台の前記1つまたは複数のRFセンサに関し、RFセンサのデータを提供することと、
    前記複数の作業台のうちの前記1つの作業台に関連付けられた前記RFセンサのデータから、対象の材料を検出し、前記複数の作業台のうちの前記1つの作業台に関連付けられた認識アルゴリズムを適用して、前記RFセンサのデータから検出された前記対象の材料および前記ウェアラブルセンサのデータから、前記RFセンサのデータに対応する前記複数の作業台のうちの前記1つの作業台に関連付けられた活動の組から1つの活動、さらに別の活動を判定することにより、順番に行われた複数の活動を検出することと、を含み、
    前記認識アルゴリズムが機械学習から生成される、複数の作業台を管理するための方法。
  6. 前記複数の作業台の各々に関する前記認識アルゴリズムを生成することをさらに含み、前記複数の作業台の各々に関する前記認識アルゴリズムを生成することは、
    前記複数の作業台の各々に関して、ラベルが付されたトレーニングのセットであって、前記複数の作業台の各々に関連付けられた前記活動の組のうちの1つまたは複数の活動に関連付けられた複数のRFセンサの読取り値を含む、前記ラベルが付されたトレーニングのセットに対して機械学習を適用することと、
    前記ラベルが付されたトレーニングのセットに対する機械学習の前記適用から、前記複数の作業台の各々に関する前記認識アルゴリズムを生成することと、を含む、請求項5に記載の方法。
  7. 前記ラベルが付されたトレーニングのセットが、前記複数の作業台の各々に関する前記活動の組のうちの1つまたは複数の活動に関連付けられた、ウェアラブルセンサのデータおよびRFセンサの読取り値をさらに含んでいる、請求項6に記載の方法。
  8. 前記作業台に関連付けられた前記活動の組が、RFセンサのデータのみに基づいて検出された1つまたは複数の活動と、RFセンサのデータおよびウェアラブルセンサのデータに基づいて検出された1つまたは複数の活動とを含んでいる、請求項5に記載の方法。
  9. 複数の作業台に通信可能に結合された装置であって、
    前記複数の作業台の各々に関連付けられた活動の組を管理するように構成されたメモリと、
    前記複数の作業台の各々に関連付けられた1つまたは複数の無線周波数(RF)センサを監視することと、
    前記複数の作業台のうちの1つの作業台に関連付けられた前記1つまたは複数のRFセンサに関して、RFセンサのデータを提供することと、
    前記複数の作業台のうちの前記1つの作業台に関する1つまたは複数のウェアラブルデバイスを監視することと、
    前記複数の作業台のうちの前記1つの作業台に関する前記1つまたは複数のウェアラブルデバイスに関し、ウェアラブルセンサのデータを提供するとともに、前記複数の作業台のうちの前記1つの作業台の前記1つまたは複数のRFセンサに関し、RFセンサのデータを提供することと、
    前記複数の作業台のうちの前記1つの作業台に関連付けられた前記RFセンサのデータから、対象の材料を検出し、前記複数の作業台のうちの前記1つの作業台に関連付けられた認識アルゴリズムを適用して、前記RFセンサのデータから検出された前記対象の材料および前記ウェアラブルセンサのデータから、前記RFセンサのデータに対応する前記複数の作業台のうちの前記1つの作業台に関連付けられた前記活動の組から1つの活動、さらに別の活動を判定することにより、順番に行われた複数の活動を検出することと、を行うように構成されたプロセッサと、を備え、
    前記認識アルゴリズムが、機械学習から生成される、複数の作業台を管理するための装置。
  10. 前記プロセッサが、
    前記複数の作業台の各々に関して、ラベルが付されたトレーニングのセットであって、前記複数の作業台の各々に関連付けられた前記活動の組のうちの1つまたは複数の活動に関連付けられた複数のRFセンサの読取り値を含む、前記ラベルが付されたトレーニングのセットに対して機械学習を適用することと、
    前記ラベルが付されたトレーニングのセットに対する機械学習の前記適用から、前記複数の作業台の各々に関する前記認識アルゴリズムを生成することと、
    により、前記複数の作業台の各々に関する前記認識アルゴリズムを生成するようにさらに構成されている、請求項9に記載の装置。
  11. 前記ラベルが付されたトレーニングのセットが、前記複数の作業台の各々に関する前記活動の組のうちの1つまたは複数の活動に関連付けられた、ウェアラブルセンサのデータおよびRFセンサの読取り値をさらに含んでいる、請求項10に記載の装置。
  12. 前記作業台に関連付けられた前記活動の組が、RFセンサのデータのみに基づいて検出された1つまたは複数の活動と、RFセンサのデータおよびウェアラブルセンサのデータに基づいて検出された1つまたは複数の活動とを含んでいる、請求項9に記載の装置。
  13. 複数の作業台の各々に関連付けられた1つまたは複数の無線周波数(RF)センサを監視する第1監視手段と、
    前記複数の作業台のうちの1つの作業台に関連付けられた前記1つまたは複数のRFセンサに関して、RFセンサのデータを提供する第1提供手段と、
    前記複数の作業台のうちの前記1つの作業台に関する1つまたは複数のウェアラブルデバイスを監視する第2監視手段と、
    前記複数の作業台のうちの前記1つの作業台に関する前記1つまたは複数のウェアラブルデバイスに関し、ウェアラブルセンサのデータを提供するとともに、前記複数の作業台のうちの前記1つの作業台の前記1つまたは複数のRFセンサに関し、RFセンサのデータを提供する第2提供手段と、
    前記複数の作業台のうちの前記1つの作業台に関連付けられた前記RFセンサのデータから、対象の材料を検出し、前記複数の作業台のうちの前記1つの作業台に関連付けられた認識アルゴリズムを適用して、前記RFセンサのデータから検出された前記対象の材料および前記ウェアラブルセンサのデータから、前記RFセンサのデータに対応する前記複数の作業台のうちの前記1つの作業台に関連付けられた活動の組から1つの活動、さらに別の活動を判定することにより、順番に行われた複数の活動を検出する判定手段と、を備え、
    前記認識アルゴリズムが、機械学習から生成される、複数の作業台を管理するためのシステム。
JP2017178976A 2017-05-12 2017-09-19 複数の作業台を管理するためのプログラム、方法、装置及びシステム Active JP7167421B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US15/594,528 US11030540B2 (en) 2017-05-12 2017-05-12 User activity recognition through work surfaces using radio-frequency sensors
US15/594,528 2017-05-12

Publications (2)

Publication Number Publication Date
JP2018195284A JP2018195284A (ja) 2018-12-06
JP7167421B2 true JP7167421B2 (ja) 2022-11-09

Family

ID=64096754

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017178976A Active JP7167421B2 (ja) 2017-05-12 2017-09-19 複数の作業台を管理するためのプログラム、方法、装置及びシステム

Country Status (2)

Country Link
US (1) US11030540B2 (ja)
JP (1) JP7167421B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11475793B2 (en) 2019-02-24 2022-10-18 Eurica Califorrniaa Method and device for reading, writing, and communication by deafblind users
US11380181B2 (en) * 2020-12-09 2022-07-05 MS Technologies Doppler radar system with machine learning applications for fall prediction and detection
DE202022104349U1 (de) 2022-08-01 2022-08-08 Sidhartha Sekhar Dash Kostengünstiges System für die Personalverwaltung mit Mitarbeiterüberwachung

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104133920A (zh) 2014-07-18 2014-11-05 百度在线网络技术(北京)有限公司 一种用户行为采集方法及装置
JP5796228B2 (ja) 2014-02-06 2015-10-21 パナソニックIpマネジメント株式会社 会計業務支援装置、会計業務支援システムおよび会計業務支援方法
WO2016170011A1 (en) 2015-04-20 2016-10-27 Resmed Sensor Technologies Limited Gesture recognition with sensors

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5796228B2 (ja) 2014-02-06 2015-10-21 パナソニックIpマネジメント株式会社 会計業務支援装置、会計業務支援システムおよび会計業務支援方法
CN104133920A (zh) 2014-07-18 2014-11-05 百度在线网络技术(北京)有限公司 一种用户行为采集方法及装置
WO2016170011A1 (en) 2015-04-20 2016-10-27 Resmed Sensor Technologies Limited Gesture recognition with sensors

Also Published As

Publication number Publication date
JP2018195284A (ja) 2018-12-06
US11030540B2 (en) 2021-06-08
US20180330254A1 (en) 2018-11-15

Similar Documents

Publication Publication Date Title
Avrahami et al. Below the surface: Unobtrusive activity recognition for work surfaces using RF-radar sensing
US10467674B2 (en) Visual search in a controlled shopping environment
CN106164959A (zh) 行为事件测量系统和相关方法
US20180247361A1 (en) Information processing apparatus, information processing method, wearable terminal, and program
JP7167421B2 (ja) 複数の作業台を管理するためのプログラム、方法、装置及びシステム
CN102122346A (zh) 基于视频分析的实体店面顾客兴趣点采集方法
US20140019201A1 (en) Automatically evaluating customer satisfaction
US10839452B1 (en) Compressed network for product recognition
WO2018120425A1 (zh) 个人财产状态评估方法、装置、设备和存储介质
US11948166B2 (en) In store upselling
WO2018035164A1 (en) Description information generation and presentation systems, methods, and devices
WO2019137485A1 (zh) 一种业务分值的确定方法、装置及存储介质
US11741112B2 (en) Identification of intent and non-intent query portions
US20160306870A1 (en) System and method for capture, classification and dimensioning of micro-expression temporal dynamic data into personal expression-relevant profile
CN108197980B (zh) 个性化购物者的肖像生成方法/系统、存储介质及终端
CN113326816A (zh) 一种线下顾客行为识别方法、系统、存储介质及终端
WO2018170407A1 (en) In store upselling
Avrahami et al. Unobtrusive activity recognition and position estimation for work surfaces using RF-radar sensing
KR20160025117A (ko) 스마트 와치, 이의 제어 방법, 컴퓨터 프로그램이 기록된 기록 매체 및 고객 서비스 제공 시스템
US10726378B2 (en) Interaction analysis
TW201942836A (zh) 店面系統、物品搭配方法、裝置及電子設備
Konstantinidis et al. A deep network for automatic video-based food bite detection
WO2022170011A1 (en) Product image classification
KR101589957B1 (ko) 컨텐츠가 연계된 상거래 방법 및 프로그램
CN113129112A (zh) 物品推荐方法、装置及电子设备

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200831

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210625

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210629

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210825

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220125

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220318

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220802

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220914

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220927

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221010

R150 Certificate of patent or registration of utility model

Ref document number: 7167421

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150