JPWO2013171940A1 - 作業支援システム、作業支援方法及びプログラム - Google Patents

作業支援システム、作業支援方法及びプログラム Download PDF

Info

Publication number
JPWO2013171940A1
JPWO2013171940A1 JP2014515461A JP2014515461A JPWO2013171940A1 JP WO2013171940 A1 JPWO2013171940 A1 JP WO2013171940A1 JP 2014515461 A JP2014515461 A JP 2014515461A JP 2014515461 A JP2014515461 A JP 2014515461A JP WO2013171940 A1 JPWO2013171940 A1 JP WO2013171940A1
Authority
JP
Japan
Prior art keywords
detection
hand
setting
work support
detection surface
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014515461A
Other languages
English (en)
Other versions
JP5952396B2 (ja
Inventor
原田 大生
大生 原田
克幸 永井
克幸 永井
賢一 金子
賢一 金子
哲平 高杉
哲平 高杉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
NEC Solution Innovators Ltd
Original Assignee
NEC Corp
NEC Solution Innovators Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=49583373&utm_source=google_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=JPWO2013171940(A1) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Application filed by NEC Corp, NEC Solution Innovators Ltd filed Critical NEC Corp
Publication of JPWO2013171940A1 publication Critical patent/JPWO2013171940A1/ja
Application granted granted Critical
Publication of JP5952396B2 publication Critical patent/JP5952396B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/28Recognition of hand or arm movements, e.g. recognition of deaf sign language
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30241Trajectory

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

複数の物品が陳列可能な陳列手段(300)の第1の面側に検知面(F)を設定し、検知面(F)上に位置する手の位置情報又は手とは異なる物体の位置情報を算出する位置検出部(101)と、位置検出部(101)が算出した手の位置情報又は物体の位置情報を利用して、検知面(F)上に複数の検知領域(An)を設定する領域設定部(102)と、領域設定部(102)が複数の検知領域(An)を設定後、位置検出部(101)が算出した手の位置情報を利用して、第1の面側から陳列手段(300)にのばされた手が、複数の検知領域(An)のいずれを通過したか判断する通過領域判断部(104)と、を有する作業支援システム。

Description

本発明は、作業支援システム、作業支援方法及びプログラムに関する。
棚に陳列された物品に手を伸ばしたことを検出する技術として、特許文献1、2に記載の技術がある。特許文献1に記載の技術は、レーザを用いて手の位置座標を算出し、この算出結果に基づいて、手がアクセスした棚を特定するものである。特許文献2に記載の技術は、複数の棚それぞれに距離センサを設け、これら距離センサの測定結果を利用して手がアクセスした物品を特定するものである。
特開2007−323471号公報 特開2009−126660号公報
本発明者は、特許文献1、2に記載の技術では、手以外の物が棚に近づいた場合、その物を手と誤検知する可能性があると考えた。そこで、本発明者は、以下のような技術を新たに発明した。
まず、棚の手前を撮像する撮像装置、及び、棚の手前に位置する物体の位置を第1の座標系の位置座標で特定する位置特定装置を用いて、棚の手前に手が存在することを検知するとともに、検知した手の第1の座標系における位置座標を特定する。
また、予め、棚が有する複数の配置領域各々を第1の座標系の位置座標で特定した情報を保持しておく。例えば、複数の配置領域各々の開口面(物品を取り出すために手が挿入される開口の面)を第1の座標系の位置座標で特定した情報を保持しておく。
そして、第1の座標系における手の位置座標及び複数の配置領域各々を特定した位置座標を用いて、手が棚のどの配置領域に伸ばされたかを判断する。
本発明者は、このような発明を用いた技術において、以下のような課題を新たに見出した。
手が棚のどの配置領域に伸ばされたかを判断するためには、上述の通り、棚が有する複数の配置領域各々を第1の座標系の位置座標で特定した情報を保持しておく必要がある。しかし、このような情報を簡易に形成する手段がない。
そこで、本発明では、手が伸ばされたか否かを検知する複数の領域各々を、手の位置座標を算出可能な座標系で特定する情報を簡易に形成する技術を提供することを課題とする。
本発明によれば、
複数の物品が陳列可能な陳列手段の第1の面側に検知面を設定し、前記検知面上に位置する手の位置情報又は手とは異なる物体の位置情報を算出する位置検出手段と、
前記位置検出手段が算出した前記手の位置情報又は前記物体の位置情報を利用して、前記検知面上に複数の検知領域を設定する領域設定手段と、
前記領域設定手段が複数の前記検知領域を設定後、前記位置検出手段が算出した前記手の位置情報を利用して、前記第1の面側から前記陳列手段にのばされた手が、複数の前記検知領域のいずれを通過したか判断する通過領域判断手段と、
を有する作業支援システムが提供される。
また、本発明によれば、
複数の物品が陳列可能な陳列手段の第1の面側に検知面を設定し、前記検知面上に位置する手の位置情報又は手とは異なる物体の位置情報を算出する位置検出ステップと、
前記位置検出ステップで算出した前記手の位置情報又は前記物体の位置情報を利用して、前記検知面上に複数の検知領域を設定する領域設定ステップと、
前記領域設定ステップで複数の前記検知領域を設定後、前記位置検出ステップで算出した前記手の位置情報を利用して、前記第1の面側から前記陳列手段にのばされた手が、複数の前記検知領域のいずれを通過したか判断する通過領域判断ステップと、
をコンピュータが実行する作業支援方法が提供される。
また、本発明によれば、
コンピュータを、
複数の物品が陳列可能な陳列手段の第1の面側に検知面を設定し、前記検知面上に位置する手の位置情報又は手とは異なる物体の位置情報を算出する位置検出手段、
前記位置検出手段が算出した前記手の位置情報又は前記物体の位置情報を利用して、前記検知面上に複数の検知領域を設定する領域設定手段、
前記領域設定手段が複数の前記検知領域を設定後、前記位置検出手段が算出した前記手の位置情報を利用して、前記第1の面側から前記陳列手段にのばされた手が、複数の前記検知領域のいずれを通過したか判断する通過領域判断手段、
として機能させるためのプログラムが提供される。
本発明によれば、手が伸ばされたか否かを検知する複数の領域各々を、手の位置座標を算出可能な座標系で特定する情報を簡易に形成することが可能となる。
上述した目的、および、その他の目的、特徴および利点は、以下に述べる好適な実施の形態、および、それに付随する以下の図面によって、さらに明らかになる。
本実施形態に係る作業支援システムの使用環境の一例を示す図である。 本実施形態に係る作業支援システムの使用環境の一例を示す図である。 本実施形態の作業支援装置の機能ブロック図の一例を示す図である。 本実施形態の作業支援装置が検出領域を設定する処理の一例を説明するための図である。 本実施形態の検知領域情報記憶部が保持する情報の一例を模式的に示した図である。 本実施形態の結果記憶部が保持する情報の一例を模式的に示した図である。 本実施形態の作業支援装置の機能ブロック図の一例を示す図である。 本実施形態の作業支援装置が検出領域を設定する処理の一例を説明するための図である。 本実施形態の作業支援装置が検出領域を設定する処理の一例を説明するための図である。 本実施形態の作業支援装置が検出領域を設定する処理の一例を説明するための図である。 本実施形態の作業支援装置が検出領域を設定する処理の一例を説明するための図である。 本実施形態の作業支援装置が検出領域を設定する処理の一例を説明するための図である。 本実施形態の作業支援装置が検出領域を設定する処理の一例を説明するための図である。 本実施形態の検知面Fの一例を説明するための図である。 本実施形態の検知面Fの一例を説明するための図である。 本実施形態の作業支援装置が検出領域を設定する処理の一例を説明するための図である。
以下、本発明の実施の形態について図面を用いて説明する。
なお、本実施形態のシステム及び装置は、任意のコンピュータのCPU、メモリ、メモリにロードされたプログラム(あらかじめ装置を出荷する段階からメモリ内に格納されているプログラムのほか、CD等の記憶媒体やインターネット上のサーバ等からダウンロードされたプログラムも含む)、そのプログラムを格納するハードディスク等の記憶ユニット、ネットワーク接続用インタフェイスを中心にハードウェアとソフトウェアの任意の組合せによって実現される。そして、その実現方法、装置にはいろいろな変形例があることは、当業者には理解されるところである。
また、本実施形態の説明において利用する機能ブロック図は、ハードウェア単位の構成ではなく、機能単位のブロックを示している。これらの図においては、各装置は1つの機器により実現されるよう記載されているが、その実現手段はこれに限定されない。すなわち、物理的に分かれた構成であっても、論理的に分かれた構成であっても構わない。
<第1の実施形態>
図1及び図2は、本実施形態に係る作業支援システム10の使用環境の一例を示す図である。作業支援システム10は、陳列部300と共に使用される。図1は陳列部300を正面から見た図であり、図2は陳列部300を横から見た図である。
陳列部300は、複数の配置領域310を有し、複数の物品が陳列できるようになっている。陳列部300は、例えば複数段の棚であり、箱状の配置領域310を高さ方向(図1のY軸方向)及び幅方向(図1のX軸方向)それぞれに積み重ねた形状を有している。ただし、横方向に隣り合う配置領域310の境には、仕切りがなくてもよい。
なお、陳列部300は、複数の収容容器を並べた構造であっても良い。この場合、配置領域310は収容容器になる。収容容器は、トレイや水槽であってもよい。また陳列部300は、一段の陳列棚であっても良い。この場合、隣り合う配置領域310の間には、仕切りが無くてもよい。
陳列部300は、前方(第1の面側)から、配置領域310に配置された複数の物品各々を取り出されるように構成されている。図1の場合、紙面に対して手前側が前方(第1の面側)であり、図2の場合、図中右側が前方(第1の面側)である。図2に示す例の場合、配置領域310の前方(第1の面側)は開放されており、この開放されている領域(以下、「開口面」)から配置領域310の中に手を伸ばすことにより、配置領域310内に配置された物品を取り出すことができる。
次に、本実施形態に係る作業支援システム10について説明する。まず、概要を説明する。
作業支援システム10は、陳列部300の前方(第1の面側)に位置する手の位置情報を算出する。手の位置情報は、所定の座標系における位置座標として算出される。例えば、図1に示すように、陳列部300の幅方向をX軸方向とし、陳列部300の高さ方向をY軸方向とした2次元座標系(原点の位置は設計的事項)における手の位置座標を算出する。
そして、作業支援システム10は、算出した手の位置情報を利用して、当該座標系において複数の配置領域310各々を特定するための位置情報を算出する。例えば、陳列部300の前方(第1の面側)に位置するユーザ(例:当該システムの管理者)が、手を使って、複数の配置領域310毎に、開口面の外周をなぞるジェスチャーを行う。作業支援システム10は、このようなジェスチャーから得られた手の位置情報を利用して、複数の配置領域310各々の開口面を上記座標系で特定した位置情報を算出する。
その後、作業支援システム10は、算出した複数の配置領域310各々の位置情報と、その後算出したユーザ(例:顧客)の手の位置情報とを利用して、手がどの配置領域310に伸ばされたか(どの配置領域310を通過したか)を判断する。
以下、このような作業支援システム10の構成について詳細に説明する。
作業支援システム10は、図1に示すように、撮像部210、距離測定部220、及び作業支援装置100を備えている。撮像部210及び距離測定部220は、陳列部300の前方(第1の面側)をセンシングするように取り付けられる。作業支援装置100は、撮像部210及び距離測定部220から撮像データ及び測定データを取得する。作業支援装置100は、例えば陳列部300から離れた場所(例えば事務室)に設置されてもよい。
図2に示す例では、撮像部210及び距離測定部220は、陳列部300の上方に取り付けられている。この場合、撮像部210及び距離測定部220によって人の動きが妨げられることを抑制できる。ただし撮像部210及び距離測定部220は、陳列部300の前方(第1の面側)をセンシングできる位置であればその他の位置に取り付けられてもよく、例えば、陳列部300の側方や下方に取り付けられても良い。
撮像部210は、陳列部300の前方(第1の面側)を撮像する。すなわち、陳列部300の前方(第1の面側)に位置する物体を撮像できるように取り付けられる。
距離測定部220は、距離測定部220から、配置部300の前方(第1の面側)に位置する物体(手等)までの距離を算出する。例えば、距離測定部220は、距離測定部220から物体(手等)までのY軸方向(図1参照)の距離を算出する。距離測定部220は、例えば赤外線を用いた距離センサであるが、超音波を用いた距離センサであっても良い。
撮像部210によって生成された画像データ、及び、距離測定部220が算出した距離は、作業支援装置100に出力される。
次に、作業支援装置100について説明する。図3に、作業支援装置100の機能ブロック図の一例を示す。図3に示すように、作業支援装置100は、位置検出部101、領域設定部102、検知領域情報記憶部103、通過領域判断部104、及び、結果記憶部105を有する。
なお、検知領域情報記憶部103、及び、結果記憶部10の少なくとも一方は、作業支援装置100と異なる別の装置に備えさせてもよい。そして、作業支援装置100は、当該別の装置が有する検知領域情報記憶部103、及び、結果記憶部10の少なくとも一方にアクセスし、データを取出し、また、データを記憶させることができるように構成してもよい。
位置検出部101は、撮像部210によって生成された画像データ、及び、距離測定部220が算出した距離を用いて、陳列部300の前方(第1の面側)に位置する手の位置情報を算出する。
具体的には、まず、位置検出部101は、撮像部210が撮像した画像データを解析し、例えば周知の画像認識技術を用いて、撮像された物体の中から手を抽出する。
次いで、位置検出部101は、陳列部300の前方(第1の面側)に検知面を設定し、検知面上における手の位置情報を算出する。
検知面は、例えば、図2に示すように、撮像部210及び距離測定部220の鉛直下方に位置する面とすることができる(図2のF)。図2に示す検知面Fは、陳列部300に対して平行な面である。撮像部210及び距離測定部220は、検知面Fが陳列部300に十分近づくように取り付けるのが好ましい。図2に示す例では、検知面Fと陳列部300の第1の面との間に隙間があるが、これらの面が面一となっていてもよい。
なお、検知面Fは、少なくとも陳列部300の第1の面の大きさを有し、平面視(図1中、紙面に対して垂直な方向からの観察)で陳列部300の第1の面の全体を覆うように設定されるのが好ましい。また、検知面Fは、第1の面に平行になるように設定されるのが好ましい。また、検知面Fは、陳列部300の第1の面の近くに、例えば第1の面と面一となるように設定されるのが好ましい。
ここで、図14及び15を用いて、検知面Fのその他の例を説明する。図14及び15は、陳列部300を上方から観察した図である。図14に示す例の場合、陳列部300の第1の面が曲面を有する。かかる場合、検知面Fは曲面を有するように設定することができる。図15に示す例の場合、陳列部300の第1の面は不連続な複数の面を有する。かかる場合、検知面Fは、不連続な複数の面で構成されるように設定することができる。
位置検出部101は、例えばこのような検知面Fに座標系を定め、検知面F上における手の位置情報として、当該座標系における位置座標を算出する。例えば、位置検出部101は、図1に示すように、陳列部300の幅方向をX軸方向とし、陳列部300の高さ方向をY軸方向とした2次元座標系(原点の位置は設計的事項)を定め、当該座標系における手の位置座標を算出する。以下、当該座標系を検知面座標系という。
検知面座標系における手の位置座標を算出する手段としては、例えば以下のようなものであってもよい。
位置検出部101は、例えば撮像部210が撮像した画像データ内における手の位置(X軸方向の位置)、及び、距離測定部220が算出した距離(例:距離測定部220から手までのY軸方向の距離)等を利用して、撮像部210と検知面F上の手とを実空間で結ぶ直線の角度(例:当該直線とY軸方向に伸びる直線とがなす角度)を算出する。例えば画像データの中心がこの角度の原点(0点)として設定されてもよい。かかる場合、画像データの中心(原点)に手が存在する場合の角度が0°となる。当然、他の点が原点として設定されてもよい。
そして、位置検出部101は、距離測定部220が算出した距離(例:距離測定部220から手までのY軸方向の距離)と、上記算出した角度と、検知面座標系の設定(原点位置、当該座標系における距離測定部220の位置座標等)とを用いて、検知面座標系における手の位置座標を算出する。
このようにして、位置検出部101は、陳列部300の前方(第1の面側)に位置する手を検出するとともに、検出した手の検知面F上における位置情報(検知面座標系における位置座標)を算出する。
領域設定部102は、位置検出部101が算出した手の位置情報を利用して、検知面F上に複数の領域を設定する。複数の領域は、例えば、複数の配置領域310各々の開口面に対応するよう設定される。開口面に対応するとは、X軸方向及びY軸方向の位置及び長さが一致または略一致することをいう。
例えば、ユーザ(例:当該システムの管理者)は作業支援システム10を操作して、検知面F上に複数の領域を設定するための領域設定モードを起動する。そして、当該モードを起動した状態で、ユーザは陳列部300の前方(第1の面側)で、手を用いて、例えば複数の配置領域310各々の開口面の外周をなぞるジェスチャーを行う。撮像部210及び距離測定部220はこのようなジェスチャーが行われている間、上述した画像データの生成、及び、上述した距離の算出を継続し、これらのデータを作業支援装置100に出力する。そして、位置検出部101は、これらのデータを利用して、陳列部300の前方(第1の面側)に位置する手を検出するとともに、検出した手の検知面F上における位置情報を算出する。領域設定部102はこのようにして得られた手の位置情報を利用して、検知面F上に複数の領域を設定する。
領域設定部102は、例えば、位置検出部101が算出した手の位置情報を利用して検知面F上における手の移動軌跡を特定する。そして、特定した検知面F上における手の移動軌跡を用いて、検知面F上に複数の検知領域を設定する。
例えば、領域設定部102は、図4に示すような検知面F上における手の移動軌跡を特定したとする。なお、紙面が検知面Fに相当し、矢印線が手の移動軌跡である(当該前提は、図8乃至13も同様)。領域設定部102は、図4に示すように検知面F上における手の移動軌跡を特定後、手の移動軌跡の中から、設定開始位置Sn及び設定終了位置Enを特定する。そして、設定開始位置Snから設定終了位置Enまでの検知面F上における手の移動軌跡で囲まれる領域を、検知領域Anに設定する。
図4に示す例の場合、領域設定部102は、手の移動軌跡の中から交点を検出し、当該交点を、設定開始位置S1、S2、及び、設定終了位置E1、E2として特定している。なお、図4に示す例のように、一連の手の移動軌跡の中で複数の設定開始位置Sn及び設定終了位置Enが特定される場合、領域設定部102は、移動軌跡(移動順も含む概念)の中で、設定開始位置Snからその直後に現れる設定終了位置Enまでの手の移動軌跡で囲まれる領域を、1つの検知領域Anに設定することができる。
その後、領域設定部102は、このようにして設定した検知領域Anを、検知面座標系で特定する。そして、検知面座標系で検知領域An各々を特定した情報を、図3に示す検知領域情報記憶部103に記憶する。
ここで、図5に、検知領域情報記憶部103が有する情報の一例を模式的に示す。図5に示す例の場合、複数の検知領域An各々を識別する情報(検知領域識別情報)に、各検知領域Anを検知面座標系で特定する情報として当該座標系におけるX座標及びY座標を関連付けている。すなわち、かかる例の場合、各検知領域Anは、四角形で規定されている。例えば、検知領域識別情報「0001」の検知領域Anは、(X,Y)=(0,0)、(0,10)、(10,0)、(10、10)の4点を結ぶ四角形である。なお、検知領域Anが四角形以外の形状となる場合を想定し、図示する例と異なる手法で、検知領域Anを検知面座標系で特定してもよい。例えば、検知領域Anは円であり、中心座標と半径で特定してもよい。なお、検知領域Anの形状は四角形及び円形に限定されず、その他の多角形、楕円形など、あらゆる形状とすることができる。
図3に戻り、通過領域判断部104は、領域設定部102が複数の検知領域Anを設定後(例えば、当該システムの管理者が作業支援システム10を操作し、顧客趣向調査モードを起動後)、位置検出部101が算出した手(例:顧客の手)の位置情報を利用して、前方(第1の面側)から陳列部300に伸ばされた手(例:顧客の手)が、複数の検知領域Anのいずれを通過したか判断する。そして、例えば、検知領域An毎に手(例:顧客の手)が通過した回数をカウントしていく。例えば、結果記憶部105がこのようなカウント情報を保持しておく(図6参照)。
上述の通り、複数の検知領域Anは、陳列部300が有する複数の配置領域310と1対1に結びつけられる。このため、前方(第1の面側)から陳列部300に伸ばされた手が、複数の検知領域Anのいずれを通過したか判断することで、手がどの配置領域310に伸ばされたかを判断することができる。
以上説明したように、本実施形態によれば、手が伸ばされたか否かを検知する複数の領域(検知領域An)各々を、手の位置座標を算出可能な座標系(検知面座標系)で特定する情報を簡易に形成することが可能となる。
なお、本実施形態では、顧客等の手の動作を検出するために陳列部300の近傍に設置された撮像部210及び距離測定部220を用いて、検知領域Anを設定するための手(例:当該システムの管理者の手)の動作を検出している。このため、検知領域Anを設定する目的で算出される手(例:当該システムの管理者の手)の位置情報は、顧客等の手の動作を検出するために算出される手の位置情報と同じ座標系で示される。このため、検知領域Anを特定する位置情報を、顧客等の手の動作を検出するために算出される手の位置情報と同じ座標系に変換する処理等が不要となり好ましい。
また、本実施形態では、最初に陳列手段300の第1の面に基づいて検知面Fを設定し、その後、当該検知面F上における手の位置情報に基づいて複数の検知領域Anを設定するので、陳列手段300の第1の面が曲面を有したり、また、複数の不連続な面を有するような場合であっても、容易に検知領域Anを設定することができる。
<第2の実施形態>
本実施形態の作業支援システム10は、作業支援装置100の構成が第1の実施形態と異なる。陳列部300の構成は、第1の実施形態と同じである。
図7に、本実施形態の作業支援装置100の機能ブロック図の一例を示す。図示するように、作業支援装置100は、位置検出部101、領域設定部102、検知領域情報記憶部103、通過領域判断部104、結果記憶部105、及び、タイミング受付部106を有する。位置検出部101、検知領域情報記憶部103、通過領域判断部104、及び、結果記憶部105の構成は第1の実施形態と同様である。以下、タイミング受付部106と領域設定部102の構成について説明する。
タイミング受付部106は、検知面F上における手の移動軌跡の中において設定開始位置Sn及び/又は設定終了位置Enを特定する情報の入力をユーザから受付ける。
例えば、タイミング受付部106は、陳列部300の近傍に設けられたマイクを介した音声入力により、設定開始位置Sn及び/又は設定終了位置Enを特定する情報の入力を受付ける。入力される情報の詳細は設計的事項であるが、例えば、タイミング受付部106は、設定開始位置Snを特定する情報として「開始」の音声入力を、設定終了位置Enを特定する情報として「終了」の音声入力を受付けてもよい。
ユーザ(例:当該システムの管理者)は、陳列部300の前方(第1の面側)で、手を用いて検知領域Anを設定するためのジェスチャーを行いながら、手が検知面F上で設定開始位置Snに位置する際に、例えば「開始」と発声する。また、当該ユーザは、その後、検知面F上で配置領域310の開口面の外周に沿って手を移動させ、手が検知面F上で設定終了位置Enに位置すると、例えば「終了」と発声する。
タイミング受付部106が入力を受付けるデータと、撮像部201が撮像したデータ及び距離測定部220がセンシングしたデータとは、タイミングが同期されている。このため、検知面F上における手の移動軌跡の中において、タイミング受付部106が設定開始位置Sn及び/又は設定終了位置Enを特定する情報の入力を受付けたタイミング(位置)を特定することができる。
領域設定部102は、検知面F上における手の移動軌跡の中のタイミング受付部106が設定開始位置Snを特定する情報の入力を受付けた時の位置を、設定開始位置Snとして特定する。同様に、領域設定部102は、検知面F上における手の移動軌跡の中のタイミング受付部106が設定終了位置Enを特定する情報の入力を受付けた時の位置を、設定終了位置Enとして特定する。
なお、タイミング受付部106は、音声入力以外の手段で、設定開始位置Sn及び設定終了位置Enを特定する情報の入力を受付けてもよい。
このような手段によっても、領域設定部102は、図4に示す例のように、検知面F上における手の移動軌跡の中から、設定開始位置Sn及び設定終了位置Enを特定し、設定開始位置Snから設定終了位置Enまでの検知面F上における手の移動軌跡で囲まれる領域を、検知領域Anに設定することができる。
なお、かかる手段の場合、図8(A)に示すように、設定開始位置S1、及び、設定終了位置S2の検知面F上における位置が一致しない場合が発生し得る。かかる場合、領域設定部102は、図8(B)に示すように、一致していない設定開始位置S1、及び、設定終了位置S2を直線または曲線で結んだ線(図中、点線で示す線)と、当該設定開始位置S1から当該設定終了位置S1までの手の移動軌跡とで囲まれる領域を、検知領域A1に設定することができる。一致していない設定開始位置S1、及び、設定終了位置S2を結ぶ直線又は曲線をどのような線にするかは設計的事項であるが、例えば、最短の直線で結んでもよい。当然、これらの線は、設定開始位置S1から設定終了位置S1までの手の移動軌跡と完全に一致しない線とする必要がある。
その他、タイミング受付部106は、設定開始位置Snを特定する情報のみ、入力を受付けるようにしてもよい。かかる場合、領域設定部102は、例えば以下のようにして設定終了位置Enを特定してもよい。
まず、領域設定部102は、タイミング受付部106が受付けた設定開始位置Snを特定する情報の入力に基づいて、手の移動軌跡の中において設定開始位置Snを特定すると、図9に示すように、検知面F上に設定開始位置S1を中心とする円を設定する。円の半径は設計的事項である。そして、当該円の中心を出発した手の移動軌跡(当該設定開始位置S1を通過直後の手の移動軌跡)が当該円外に移動した後に当該円内に戻ってきた時の位置を、設定終了位置E1としてもよい。または、当該円内に戻ってきた手の移動軌跡が、その後、設定開始位置S1(円の中心)に最近接した位置を、設定終了位置E1としてもよい。
本実施形態においても、第1の実施形態と同様の作用効果を実現することができる。
<第3の実施形態>
本実施形態の作業支援システム10は、作業支援装置100の領域設定部102の構成が第1及び第2の実施形態と異なる。作業支援装置100のその他の構成は、第1又は第2の実施形態と同じである。なお、本実施形態の作業支援システム10の陳列部300の構成は、第1及び第2の実施形態と同じである。
図1及び2に示すように、配置領域310の開口面の外周は、直線を含む場合が多い。かかる場合、検知面F上に設定される検知領域Anは、直線で規定されるのが好ましい。例えば、配置領域310の開口面の外周形状が四角形である場合、検知領域Anは四角形として規定されるのが好ましい。しかし、図4等に示すように、手の移動軌跡は直線になり難く、曲線になる場合が多い。
そこで、本実施形態の領域設定部102は、検知面F上における手の移動軌跡を、部分的に、陳列部300の高さ方向(図1のY軸方向)への移動、または、幅方向(図1のX軸方向)への移動のいずれかに変換した変換移動軌跡を算出し、検知面F上における手の移動軌跡の代わりに変換移動軌跡を用いて、検知面F上に複数の検知領域Anを設定する。
例えば、領域設定部102は、図10(A)に示すように、検知面F上に陳列部300の高さ方向(図1のY軸方向)及び幅方向(図1のX軸方向)に延伸する複数のグリッド線を設定する。複数のグリッド線は、均等な間隔(設計的事項)で配列されている。そして、領域設定部102は、検知面F上における手の移動軌跡(図10(A)参照)を、グリッド線に沿った線に変換(図10(B)参照)することで、変換移動軌跡を算出してもよい。
変換アルゴリズムは特段制限されないが、例えば、1本のグリッド線(縦方向グリッド線または横方向グリッド線)と手の移動軌跡との交点を、縦方向グリッド線と横方向グリッド線の交点のうち最も近い交点に変換する。そして、このようにして得られた複数の交点を、縦方向グリッド線及び横方向グリッド線を用いて一続きの線で繋いだ線を、変換移動軌跡としてもよい。
ちなみに、図10(B)に示す例の場合、領域設定部102は、変換移動軌跡の中から交点を検出し、当該交点を、設定開始位置S1、設定終了位置E1として特定している。そして、設定開始位置S1から設定終了位置E1までの検知面F上における手の変換移動軌跡で囲まれる領域を、検知領域A1に設定している。なお、当該処理の代わりに、第2の実施形態で説明した手法を採用することもできる。
その他、第2の実施形態の構成を採用し、以下のようにして変換移動軌跡を算出することもできる。
まず、タイミング受付部106(図7参照)は、例えば陳列部300の前方(第1の面側)で複数の配置領域310各々を特定するジェスチャーを行っているユーザ(例:当該システムの管理者)から、「手の移動軌跡を陳列部300の高さ方向(図1のY軸方向)への移動から幅方向(図1のX軸方向)への移動に切り替えるタイミング」、及び、「幅方向(図1のX軸方向)への移動から高さ方向(図1のY軸方向)への移動に切り替えるタイミング」(以下、まとめて切替タイミング)を特定する情報の入力を受付ける。
そして、領域設定部102は、タイミング受付部106が入力を受付けた情報を利用して、図11(A)に示すように、手の移動軌跡の中に、設定開始位置Sn(図のS1)、及び、切替タイミングの位置Tn(図のT1乃至T3)を特定する。各々の座標を、S1=(x1,y1)、T1=(x2,y2)、T2=(x3,y3)、T3=(x4,y4)とする。
その後、領域設定部102は、S1及びT1を結ぶ手の移動軌跡を、S1からスタートした幅方向(図1のX軸方向)への直線的な軌跡に変換する。例えば、領域設定部102は、S1及びT1を結ぶ直線の傾きが、幅方向(X軸方向)及び高さ方向(Y軸方向)いずれの直線の傾きに近いか判断し、近い方に変換してもよい。図11(B)に示す例の場合、T1を変換した後の点であるT1´の座標は、T1´=(x2,y1)となる。すなわち、x座標はT1から引き継ぎ、y座標はS1から引き継いでいる。
その後、領域設定部102は、T1からT2までの手の移動軌跡を高さ方向(Y軸方向)への直線的な軌跡に変換する。図11(B)に示す例の場合、T2を変換した後の点であるT2´の座標は、T2´=(x2,y3)となる。すなわち、x座標はT1´から引き継ぎ、y座標はT2から引き継いでいる。
その後、領域設定部102は、T2からT3までの手の移動軌跡を幅方向(X軸方向)への直線的な軌跡に変換する。図11(B)に示す例の場合、T3を変換した後の点であるT3´の座標は、T3´=(x4,y3)となる。すなわち、x座標はT3から引き継ぎ、y座標はT2´から引き継いでいる。
その後、領域設定部102は、T3からの手の移動軌跡を高さ方向(Y軸方向)への直線的な軌跡に変換する。
ちなみに、図11(B)に示す例の場合、領域設定部102は、変換移動軌跡の中から交点を検出し、当該交点を、設定終了位置E1として特定している。そして、設定開始位置S1から設定終了位置E1までの検知面F上における手の変換移動軌跡で囲まれる領域を、検知領域A1に設定している。なお、当該処理の代わりに、第2の実施形態で説明した手法を採用することもできる。
本実施形態においても、第1及び第2の実施形態と同様の作用効果を実現することができる。
<第4の実施形態>
本実施形態の作業支援システム10は、作業支援装置100の領域設定部102の構成が第1乃至第3の実施形態と異なる。作業支援装置100のその他の構成は、第1、第2又は第3の実施形態と同じである。なお、本実施形態の作業支援システム10の陳列部300の構成は、第1乃至第3の実施形態と同じである。
第1乃至第3の実施形態では、検知面F上におけるユーザの手の移動軌跡を利用し、設定開始位置Snから設定終了位置Enまでの検知面F上における手の移動軌跡で囲まれる領域を検知領域Anと設定したが、本実施形態では、これとは異なる手法で検知領域Anを設定する。
まず、ユーザ(例:当該システムの管理者)は作業支援システム10を操作して、検知面F上に複数の検知領域Anを設定するための領域設定モードを起動する。そして、当該ユーザは、1つの検知領域Anの設定を開始する入力を行った後、所定のタイミングからの所定時間(例:30秒)の間、陳列部300の前方(第1の面側)から1つの配置領域310に手を伸ばし、そこから引き出す動作を繰り返し行う。すなわち、所定時間の間、1つの配置領域310に対して手を抜き差しする動作を繰り返し行う。
領域設定部102は、当該所定の時間内に検知面Fを通過した手の検知面F上における複数の通過位置を特定する(図12の×)。そして、特定した複数の通過位置(図12の×)のすべてを含む領域を、1つの検知領域Anとして設定する。
なお、領域設定部102は、図13に示すように、当該所定の時間内に検知面Fを通過した手の検知面F上における複数の通過位置(図13の×)、及び、検知面F上における手の移動軌跡(図13の矢印線)を特定し、特定した複数の通過位置(図13の×)及び移動軌跡(図13の矢印線)のすべてを含む領域を、1つの検知領域Anとして設定してもよい。
複数の通過位置(図12の×)のすべてを含む領域を含む領域を設定する手段は特段制限されない。例えば、領域設定部102は、手の通過位置のすべてを含む領域の内、面積が最小となる領域を検知領域Anとしてもよい。または、領域設定部102は、予め検知領域Anの形状(例:四角、丸)を示す情報を保持しておき、手の通過位置のすべてを含む当該形状の領域の内、面積が最小となる領域を検知領域Anとしてもよい。または、領域設定部102は、予め検知領域Anの雛型形状(例:四角、丸)を保持しておき、手の通過位置のすべてを含む領域であって、当該雛型形状の相似形である領域の内、面積が最小となる領域を、検知領域Anと設定してもよい。なお、複数の通過位置(図13の×)及び移動軌跡(図13の矢印線)のすべてを含む領域を設定する手段も、同様にして実現することができる。
本実施形態においても、第1乃至第3の実施形態と同様の作用効果を実現することができる。
<第5の実施形態>
本実施形態の作業支援システム10は、作業支援装置100の領域設定部102の構成が第1乃至第4の実施形態と異なる。作業支援装置100のその他の構成は、第1、第2、第3又は第4の実施形態と同じである。なお、本実施形態の作業支援システム10の陳列部300の構成は、第1乃至第4の実施形態と同じである。
本実施形態の領域設定部102は、設定した複数の検知領域Anの中に、検知面F上で互いに重なっているものを検出する構成を有する。当該処理は、複数の検知領域An各々を検知面座標系で特定する情報を用いて実現できる。
領域設定部102は、互いに重なる検知領域Anが存在した場合、これらの検知領域Anを検知面座標系で特定する情報を修正し、互いに重ならないようにする。そして、修正後の情報を検知領域情報記憶部103に記憶する。通過領域判断部104は、この修正後の情報を利用して、第1の面側から陳列部300に伸ばされた手が、複数の検知領域Anのいずれを通過したか判断する。修正アルゴリズムは特段制限されず、例えば、互いに重なっている領域を均等に2等分するよう修正してもよい。
本実施形態においても、第1乃至第4の実施形態と同様の作用効果を実現することができる。
また、互いに重ならないように複数の検知領域Anを設定できるので、その後に行われる通過領域判断部104の処理でエラーが生じる不都合を回避することができる。
<第6の実施形態>
本実施形態では、ユーザ(例:当該システムの管理者)は手の代わりに所定の物体(例:指示棒)を用いて、複数の検知領域Anを特定するジェスチャーを行う。そして、作業支援システム10は、当該所定の物体の位置情報を算出し、算出した結果を用いて、複数の検知領域Anを設定する。
このような本実施形態の作業支援システム10は、作業支援装置100の位置検出部101及び領域設定部102の構成が第1乃至第5の実施形態と異なる。作業支援装置100のその他の構成は、第1乃至第5の実施形態のいずれかと同じである。なお、本実施形態の作業支援システム10の陳列部300の構成は、第1乃至第5の実施形態と同じである。
位置検出部101は、撮像部210によって生成された画像データ、及び、距離測定部220が算出した距離を用いて、陳列部300の前方(第1の面側)に位置する所定の物体の位置情報を算出する。
具体的には、位置検出部101は、所定の物体の特徴を示す情報(形状、大きさ、色等)を予め保持しておく。所定の物体は、上述の通り、複数の検知領域Anを設定するためにユーザ(例:当該システムの管理者)が用いる物である。所定の物体はどのような物でも良いが、例えば、円筒状の指示棒であってもよい。そして、位置検出部101は、撮像部210が撮像した画像データを解析し、例えば周知の画像認識技術、及び、所定の物体の特徴を示す情報を用いて、画像データの中から所定の物体を抽出する。その後、検知面座標系における当該所定の物体の位置情報を算出する。位置情報の算出は、第1の実施形態で説明したので、ここでの説明は省略する。
領域設定部102は、位置検出部101が算出した所定の物体の位置情報を利用して、検知面F上に複数の検知領域Anを設定する。領域設定部102は、第1乃至第5の実施形態で説明した手の位置情報を利用して検知面F上に複数の検知領域Anを設定する技術を用い、手の位置情報の代わりに所定の物体の位置情報を利用して、検知面F上に複数の検知領域Anを設定する。
本実施形態においても、第1乃至第5の実施形態と同様の作用効果を実現することができる。
なお、第1乃至第5の実施形態の場合、位置検出部101が算出した手の位置情報の中には、(1)検知領域Anを設定するための手の位置情報、及び、(2)設定した検知領域Anのいずれを通過したか判断する対象となる手の位置情報、の2つが含まれる。このため、位置検出部101が算出した手の位置情報が上記(1)及び(2)のいずれであるかを領域設定部102が判断できる手段を備える必要がある。例えば、作業支援装置100は領域設定モード、及び、顧客趣向調査モードを有し、ユーザが作業支援装置100を操作してこれらのモードを切り替え可能に構成しておく。そして、領域設定部102は、領域設定モード時に位置検出部101が算出した手の位置情報を(1)の情報と判断し、顧客趣向調査モード時に位置検出部101が算出した手の位置情報を(2)の情報と判断する。
これに対し、本実施形態の場合、位置検出部101が算出した手の位置情報の中には、(2)設定した検知領域Anのいずれを通過したか判断する対象となる手の位置情報しか含まれない。また、領域設定部102は、(位置検出部101が算出した所定の物体の位置情報)=(検知領域Anを設定するための情報)と判断することができる。このため、手の位置情報が上記(1)及び(2)のいずれであるかを領域設定部102が判断できる手段を備える必要がない。また、ユーザが作業支援装置100を操作して複数のモードを切り替える作業などを行う必要がないため、作業性が向上する。
<第7の実施形態>
本実施形態の作業支援システム10は、作業支援装置100の領域設定部102の構成が第1乃至第6の実施形態と異なる。作業支援装置100のその他の構成は、第1乃至第6の実施形態のいずれかと同じである。
本実施形態の陳列部300は、図16に示すように、複数の引き出しを有する。そして、複数の引き出し各々が、各配置領域300になる。
ユーザ(例:当該システムの管理者)は作業支援システム10を操作して、検知面F上に複数の検知領域Anを設定するための領域設定モードを起動する。そして、当該ユーザは、1つの検知領域Anの設定を開始する入力を行った後、1つの引き出しを抜き出し、検知面Fを通過させる。
位置検出部101は、1つの検知領域Anの設定を開始する入力を行った後に前記検知面Fを通過した物体の位置情報を算出する。そして、領域設定部102は、位置検出部101が算出した位置情報に基づき、当該物体が通過した領域を1つの検知領域Anとして設定する。
本実施形態においても、第1乃至第6の実施形態と同様の作用効果を実現することができる。
<<付記>>
上記第1乃至第7の実施形態によれば、以下の発明の説明もなされている。
<発明1>
複数の物品が陳列可能な陳列手段の第1の面側に検知面を設定し、前記検知面上に位置する手の位置情報又は手とは異なる物体の位置情報を算出する位置検出ステップと、
前記位置検出ステップで算出した前記手の位置情報又は前記物体の位置情報を利用して、前記検知面上に複数の検知領域を設定する領域設定ステップと、
前記領域設定ステップで複数の前記検知領域を設定後、前記位置検出ステップで算出した前記手の位置情報を利用して、前記第1の面側から前記陳列手段にのばされた手が、複数の前記検知領域のいずれを通過したか判断する通過領域判断ステップと、
をコンピュータが実行する作業支援方法。
<発明2>
発明1に記載の作業支援方法において、
前記領域設定ステップでは、前記位置検出ステップで算出した前記手の位置情報又は前記物体の位置情報を利用して前記検知面上における手又は前記物体の移動軌跡を特定するとともに、特定した前記検知面上における手又は前記物体の移動軌跡を用いて、前記検知面上に複数の検知領域を設定する作業支援方法。
<発明3>
発明2に記載の作業支援方法において、
前記領域設定ステップでは、
特定した前記検知面上における手又は前記物体の移動軌跡の中から、設定開始位置及び設定終了位置を特定し、前記設定開始位置から前記設定終了位置までの前記検知面上における手又は前記物体の移動軌跡で囲まれる領域を、前記検知領域に設定する作業支援方法。
<発明4>
発明3に記載の作業支援方法において、
ユーザから、設定開始位置を特定する情報の入力を受付ける開始タイミング受付ステップをさらに有し、
前記領域設定ステップでは、前記検知面上における手又は前記物体の移動軌跡の中の前記開始タイミング受付ステップにおいて前記設定開始位置を特定する情報の入力を受付けた時の位置を、前記設定開始位置として特定する作業支援方法。
<発明5>
発明4に記載の作業支援方法において、
前記開始タイミング受付ステップでは、音声で前記設定開始位置を特定する情報の入力を受付ける作業支援方法。
<発明6>
発明3から5のいずれか1つに記載の作業支援方法において、
ユーザから、設定終了位置を特定する情報の入力を受付ける終了タイミング受付ステップをさらに有し、
前記領域設定ステップでは、前記検知面上における手又は前記物体の移動軌跡の中の前記終了タイミング受付ステップにおいて前記設定終了位置を特定する情報の入力を受付けた時の位置を、前記設定終了位置として特定する作業支援方法。
<発明7>
発明6に記載の作業支援方法において、
前記終了タイミング受付ステップでは、音声で前記設定終了位置を特定する情報の入力を受付ける作業支援方法。
<発明8>
発明3から5のいずれか1つに記載の作業支援方法において、
前記領域設定ステップでは、前記設定終了位置を特定する際、前記検知面上に前記設定開始位置を中心とする円を設定し、当該設定開始位置を通過直後の前記検知面上における手又は前記物体の移動軌跡が当該円外に移動した後に当該円内に戻ってきた時の位置を、前記設定終了位置として特定する作業支援方法。
<発明9>
発明3から8のいずれか1つに記載の作業支援方法において、
前記領域設定ステップでは、前記設定開始位置、及び、前記設定終了位置の前記検知面上における位置が一致しない場合、これらを直線または曲線で結んだ線と、当該設定開始位置から当該設定終了位置までの前記検知面上における手又は前記物体の移動軌跡とで囲まれる領域を、前記検知領域に設定する作業支援方法。
<発明10>
発明3に記載の作業支援方法において、
前記領域設定ステップでは、
前記検知面上における手又は前記物体の移動軌跡の交点を、前記設定開始位置、及び、前記設定終了位置として特定する作業支援方法。
<発明11>
発明2から10のいずれか1つに記載の作業支援方法において、
前記領域設定ステップでは、前記検知面上における手又は前記物体の移動軌跡を、部分的に、前記陳列手段の高さ方向への移動、または、幅方向への移動のいずれかに変換した変換移動軌跡を算出し、前記検知面上における手又は前記物体の移動軌跡の代わりに前記変換移動軌跡を用いて前記検知面上に複数の検知領域を設定する作業支援方法。
<発明12>
発明11に記載の作業支援方法において、
ユーザから、前記陳列手段の高さ方向への移動から幅方向への移動に切り替えるタイミング、及び、幅方向への移動から高さ方向への移動に切り替えるタイミングを特定する情報の入力を受付ける切替タイミング受付ステップをさらに有し、
前記領域設定ステップでは、前記検知面上における手又は前記物体の移動軌跡から前記変換移動軌跡を算出する際、前記検知面上における手又は前記物体の移動軌跡の中の前記切替タイミング受付ステップにおいて前記切り替えるタイミングを特定する情報の入力を受付けた時の位置を境に、高さ方向への移動から幅方向への移動、または、幅方向への移動から高さ方向への移動に切り替える作業支援方法。
<発明13>
発明12に記載の作業支援方法において、
前記切替タイミング受付ステップでは、音声で前記切り替えるタイミングを特定する情報の入力を受付ける作業支援方法。
<発明14>
発明11に記載の作業支援方法において、
前記領域設定ステップでは、前記検知面上における手又は前記物体の移動軌跡から前記変換移動軌跡を算出する際、前記検知面上に前記陳列手段の高さ方向及び幅方向に延伸する複数のグリッド線を設定し、前記検知面上における手又は前記物体の移動軌跡を、前記グリッド線に沿った線に変換することで、前記変換移動軌跡を算出する作業支援方法。
<発明15>
発明1に記載の作業支援方法において、
前記領域設定ステップでは、所定の時間内に前記検知面を通過した手又は前記物体の前記検知面上における通過位置を特定し、特定した前記通過位置を含む領域を、前記検知領域として設定する作業支援方法。
<発明16>
発明1に記載の作業支援方法において、
前記領域設定ステップでは、所定の時間内に前記検知面を通過した手又は前記物体の前記検知面上における通過位置、及び、前記検知面内を移動した手又は前記物体の移動軌跡を特定し、特定した前記通過位置、及び、前記移動軌跡を含む領域を、前記検知領域として設定する作業支援方法。
<発明17>
発明1から16のいずれか1つに記載の作業支援方法において、
前記領域設定ステップでは、設定した複数の前記検知領域の中に、他の検知領域と重なるものが存在する場合、重ならないように前記検知領域を修正する作業支援方法。
<発明18>
コンピュータを、
複数の物品が陳列可能な陳列手段の第1の面側に検知面を設定し、前記検知面上に位置する手の位置情報又は手とは異なる物体の位置情報を算出する位置検出手段、
前記位置検出手段が算出した前記手の位置情報又は前記物体の位置情報を利用して、前記検知面上に複数の検知領域を設定する領域設定手段、
前記領域設定手段が複数の前記検知領域を設定後、前記位置検出手段が算出した前記手の位置情報を利用して、前記第1の面側から前記陳列手段にのばされた手が、複数の前記検知領域のいずれを通過したか判断する通過領域判断手段、
として機能させるためのプログラム。
<発明19>
発明18に記載のプログラムにおいて、
前記領域設定手段に、前記位置検出手段が算出した前記手の位置情報又は前記物体の位置情報を利用して前記検知面上における手又は前記物体の移動軌跡を特定するとともに、特定した前記検知面上における手又は前記物体の移動軌跡を用いて、前記検知面上に複数の検知領域を設定させるプログラム。
<発明20>
発明19に記載のプログラムにおいて、
前記領域設定手段に、
特定した前記検知面上における手又は前記物体の移動軌跡の中から、設定開始位置及び設定終了位置を特定し、前記設定開始位置から前記設定終了位置までの前記検知面上における手又は前記物体の移動軌跡で囲まれる領域を、前記検知領域に設定させるプログラム。
<発明21>
発明20に記載のプログラムにおいて、
コンピュータを、ユーザから、設定開始位置を特定する情報の入力を受付ける開始タイミング受付手段としてさらに機能させ、
前記領域設定手段に、前記検知面上における手又は前記物体の移動軌跡の中の前記開始タイミング受付手段が前記設定開始位置を特定する情報の入力を受付けた時の位置を、前記設定開始位置として特定させるプログラム。
<発明22>
発明21に記載のプログラムにおいて、
前記開始タイミング受付手段に、音声で前記設定開始位置を特定する情報の入力を受付けさせるプログラム。
<発明23>
発明20から22のいずれか1つに記載のプログラムにおいて、
コンピュータを、ユーザから、設定終了位置を特定する情報の入力を受付ける終了タイミング受付手段としてさらに機能させ、
前記領域設定手段に、前記検知面上における手又は前記物体の移動軌跡の中の前記終了タイミング受付手段が前記設定終了位置を特定する情報の入力を受付けた時の位置を、前記設定終了位置として特定させるプログラム。
<発明24>
発明23に記載のプログラムにおいて、
前記終了タイミング受付手段に、音声で前記設定終了位置を特定する情報の入力を受付けさせるプログラム。
<発明25>
発明20から22のいずれか1つに記載のプログラムにおいて、
前記領域設定手段に、前記設定終了位置を特定する際、前記検知面上に前記設定開始位置を中心とする円を設定し、当該設定開始位置を通過直後の前記検知面上における手又は前記物体の移動軌跡が当該円外に移動した後に当該円内に戻ってきた時の位置を、前記設定終了位置として特定させるプログラム。
<発明26>
発明20から25のいずれか1つに記載のプログラムにおいて、
前記領域設定手段に、前記設定開始位置、及び、前記設定終了位置の前記検知面上における位置が一致しない場合、これらを直線または曲線で結んだ線と、当該設定開始位置から当該設定終了位置までの前記検知面上における手又は前記物体の移動軌跡とで囲まれる領域を、前記検知領域と設定させるプログラム。
<発明27>
発明20に記載のプログラムにおいて、
前記領域設定手段に、
前記検知面上における手又は前記物体の移動軌跡の交点を、前記設定開始位置、及び、前記設定終了位置として特定させるプログラム。
<発明28>
発明19から27のいずれか1つに記載のプログラムにおいて、
前記領域設定手段に、前記検知面上における手又は前記物体の移動軌跡を、部分的に、前記陳列手段の高さ方向への移動、または、幅方向への移動のいずれかに変換した変換移動軌跡を算出し、前記検知面上における手又は前記物体の移動軌跡の代わりに前記変換移動軌跡を用いて前記検知面上に複数の検知領域を設定させるプログラム。
<発明29>
発明28に記載のプログラムにおいて、
コンピュータを、ユーザから、前記陳列手段の高さ方向への移動から幅方向への移動に切り替えるタイミング、及び、幅方向への移動から高さ方向への移動に切り替えるタイミングを特定する情報の入力を受付ける切替タイミング受付手段としてさらに機能させ、
前記領域設定手段に、前記検知面上における手又は前記物体の移動軌跡から前記変換移動軌跡を算出する際、前記検知面上における手又は前記物体の移動軌跡の中の前記切替タイミング受付手段が前記切り替えるタイミングを特定する情報の入力を受付けた時の位置を境に、高さ方向への移動から幅方向への移動、または、幅方向への移動から高さ方向への移動に切り替えさせるプログラム。
<発明30>
発明29に記載のプログラムにおいて、
前記切替タイミング受付手段に、音声で前記切り替えるタイミングを特定する情報の入力を受付けさせるプログラム。
<発明31>
発明28に記載のプログラムにおいて、
前記領域設定手段に、前記検知面上における手又は前記物体の移動軌跡から前記変換移動軌跡を算出する際、前記検知面上に前記陳列手段の高さ方向及び幅方向に延伸する複数のグリッド線を設定し、前記検知面上における手又は前記物体の移動軌跡を、前記グリッド線に沿った線に変換することで、前記変換移動軌跡を算出させるプログラム。
<発明32>
発明18に記載のプログラムにおいて、
前記領域設定手段に、所定の時間内に前記検知面を通過した手又は前記物体の前記検知面上における通過位置を特定し、特定した前記通過位置を含む領域を、前記検知領域として設定させるプログラム。
<発明33>
発明18に記載のプログラムにおいて、
前記領域設定手段に、所定の時間内に前記検知面を通過した手又は前記物体の前記検知面上における通過位置、及び、前記検知面内を移動した手又は前記物体の移動軌跡を特定し、特定した前記通過位置、及び、前記移動軌跡を含む領域を、前記検知領域として設定させるプログラム。
<発明34>
発明18から33のいずれか1つに記載のプログラムにおいて、
前記領域設定手段に、設定した複数の前記検知領域の中に、他の検知領域と重なるものが存在する場合、重ならないように前記検知領域を修正させるプログラム。
この出願は、2012年5月17日に出願された日本特許出願特願2012−113410号を基礎とする優先権を主張し、その開示の全てをここに取り込む。

Claims (19)

  1. 複数の物品が陳列可能な陳列手段の第1の面側に検知面を設定し、前記検知面上に位置する手の位置情報又は手とは異なる物体の位置情報を算出する位置検出手段と、
    前記位置検出手段が算出した前記手の位置情報又は前記物体の位置情報を利用して、前記検知面上に複数の検知領域を設定する領域設定手段と、
    前記領域設定手段が複数の前記検知領域を設定後、前記位置検出手段が算出した前記手の位置情報を利用して、前記第1の面側から前記陳列手段にのばされた手が、複数の前記検知領域のいずれを通過したか判断する通過領域判断手段と、
    を有する作業支援システム。
  2. 請求項1に記載の作業支援システムにおいて、
    前記領域設定手段は、前記位置検出手段が算出した前記手の位置情報又は前記物体の位置情報を利用して前記検知面上における手又は前記物体の移動軌跡を特定するとともに、特定した前記検知面上における手又は前記物体の移動軌跡を用いて、前記検知面上に複数の検知領域を設定する作業支援システム。
  3. 請求項2に記載の作業支援システムにおいて、
    前記領域設定手段は、
    特定した前記検知面上における手又は前記物体の移動軌跡の中から、設定開始位置及び設定終了位置を特定し、前記設定開始位置から前記設定終了位置までの前記検知面上における手又は前記物体の移動軌跡で囲まれる領域を、前記検知領域に設定する作業支援システム。
  4. 請求項3に記載の作業支援システムにおいて、
    ユーザから、設定開始位置を特定する情報の入力を受付ける開始タイミング受付手段をさらに有し、
    前記領域設定手段は、前記検知面上における手又は前記物体の移動軌跡の中の前記開始タイミング受付手段が前記設定開始位置を特定する情報の入力を受付けた時の位置を、前記設定開始位置として特定する作業支援システム。
  5. 請求項4に記載の作業支援システムにおいて、
    前記開始タイミング受付手段は、音声で前記設定開始位置を特定する情報の入力を受付ける作業支援システム。
  6. 請求項3から5のいずれか1項に記載の作業支援システムにおいて、
    ユーザから、設定終了位置を特定する情報の入力を受付ける終了タイミング受付手段をさらに有し、
    前記領域設定手段は、前記検知面上における手又は前記物体の移動軌跡の中の前記終了タイミング受付手段が前記設定終了位置を特定する情報の入力を受付けた時の位置を、前記設定終了位置として特定する作業支援システム。
  7. 請求項6に記載の作業支援システムにおいて、
    前記終了タイミング受付手段は、音声で前記設定終了位置を特定する情報の入力を受付ける作業支援システム。
  8. 請求項3から5のいずれか1項に記載の作業支援システムにおいて、
    前記領域設定手段は、前記設定終了位置を特定する際、前記検知面上に前記設定開始位置を中心とする円を設定し、当該設定開始位置を通過直後の前記検知面上における手又は前記物体の移動軌跡が当該円外に移動した後に当該円内に戻ってきた時の位置を、前記設定終了位置として特定する作業支援システム。
  9. 請求項3から8のいずれか1項に記載の作業支援システムにおいて、
    前記領域設定手段は、前記設定開始位置、及び、前記設定終了位置の前記検知面上における位置が一致しない場合、これらを直線または曲線で結んだ線と、当該設定開始位置から当該設定終了位置までの前記検知面上における手又は前記物体の移動軌跡とで囲まれる領域を、前記検知領域に設定する作業支援システム。
  10. 請求項3に記載の作業支援システムにおいて、
    前記領域設定手段は、
    前記検知面上における手又は前記物体の移動軌跡の交点を、前記設定開始位置、及び、前記設定終了位置として特定する作業支援システム。
  11. 請求項2から10のいずれか1項に記載の作業支援システムにおいて、
    前記領域設定手段は、前記検知面上における手又は前記物体の移動軌跡を、部分的に、前記陳列手段の高さ方向への移動、または、幅方向への移動のいずれかに変換した変換移動軌跡を算出し、前記検知面上における手又は前記物体の移動軌跡の代わりに前記変換移動軌跡を用いて前記検知面上に複数の検知領域を設定する作業支援システム。
  12. 請求項11に記載の作業支援システムにおいて、
    ユーザから、前記陳列手段の高さ方向への移動から幅方向への移動に切り替えるタイミング、及び、幅方向への移動から高さ方向への移動に切り替えるタイミングを特定する情報の入力を受付ける切替タイミング受付手段をさらに有し、
    前記領域設定手段は、前記検知面上における手又は前記物体の移動軌跡から前記変換移動軌跡を算出する際、前記検知面上における手又は前記物体の移動軌跡の中の前記切替タイミング受付手段が前記切り替えるタイミングを特定する情報の入力を受付けた時の位置を境に、高さ方向への移動から幅方向への移動、または、幅方向への移動から高さ方向への移動に切り替える作業支援システム。
  13. 請求項12に記載の作業支援システムにおいて、
    前記切替タイミング受付手段は、音声で前記切り替えるタイミングを特定する情報の入力を受付ける作業支援システム。
  14. 請求項11に記載の作業支援システムにおいて、
    前記領域設定手段は、前記検知面上における手又は前記物体の移動軌跡から前記変換移動軌跡を算出する際、前記検知面上に前記陳列手段の高さ方向及び幅方向に延伸する複数のグリッド線を設定し、前記検知面上における手又は前記物体の移動軌跡を、前記グリッド線に沿った線に変換することで、前記変換移動軌跡を算出する作業支援システム。
  15. 請求項1に記載の作業支援システムにおいて、
    前記領域設定手段は、所定の時間内に前記検知面を通過した手又は前記物体の前記検知面上における通過位置を特定し、特定した前記通過位置を含む領域を、前記検知領域として設定する作業支援システム。
  16. 請求項1に記載の作業支援システムにおいて、
    前記領域設定手段は、所定の時間内に前記検知面を通過した手又は前記物体の前記検知面上における通過位置、及び、前記検知面内を移動した手又は前記物体の移動軌跡を特定し、特定した前記通過位置、及び、前記移動軌跡を含む領域を、前記検知領域として設定する作業支援システム。
  17. 請求項1から16のいずれか1項に記載の作業支援システムにおいて、
    前記領域設定手段は、設定した複数の前記検知領域の中に、他の検知領域と重なるものが存在する場合、重ならないように前記検知領域を修正する作業支援システム。
  18. 複数の物品が陳列可能な陳列手段の第1の面側に検知面を設定し、前記検知面上に位置する手の位置情報又は手とは異なる物体の位置情報を算出する位置検出ステップと、
    前記位置検出ステップで算出した前記手の位置情報又は前記物体の位置情報を利用して、前記検知面上に複数の検知領域を設定する領域設定ステップと、
    前記領域設定ステップで複数の前記検知領域を設定後、前記位置検出ステップで算出した前記手の位置情報を利用して、前記第1の面側から前記陳列手段にのばされた手が、複数の前記検知領域のいずれを通過したか判断する通過領域判断ステップと、
    をコンピュータが実行する作業支援方法。
  19. コンピュータを、
    複数の物品が陳列可能な陳列手段の第1の面側に検知面を設定し、前記検知面上に位置する手の位置情報又は手とは異なる物体の位置情報を算出する位置検出手段、
    前記位置検出手段が算出した前記手の位置情報又は前記物体の位置情報を利用して、前記検知面上に複数の検知領域を設定する領域設定手段、
    前記領域設定手段が複数の前記検知領域を設定後、前記位置検出手段が算出した前記手の位置情報を利用して、前記第1の面側から前記陳列手段にのばされた手が、複数の前記検知領域のいずれを通過したか判断する通過領域判断手段、
    として機能させるためのプログラム。
JP2014515461A 2012-05-17 2013-02-28 作業支援システム、作業支援方法及びプログラム Active JP5952396B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012113410 2012-05-17
JP2012113410 2012-05-17
PCT/JP2013/001227 WO2013171940A1 (ja) 2012-05-17 2013-02-28 作業支援システム、作業支援方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2013171940A1 true JPWO2013171940A1 (ja) 2016-01-07
JP5952396B2 JP5952396B2 (ja) 2016-07-13

Family

ID=49583373

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014515461A Active JP5952396B2 (ja) 2012-05-17 2013-02-28 作業支援システム、作業支援方法及びプログラム

Country Status (3)

Country Link
US (1) US9690983B2 (ja)
JP (1) JP5952396B2 (ja)
WO (1) WO2013171940A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9824328B2 (en) 2014-06-10 2017-11-21 Amazon Technologies, Inc. Arm-detecting overhead sensor for inventory system
US9580245B2 (en) * 2014-06-10 2017-02-28 Amazon Technologies, Inc. Item-detecting overhead sensor for inventory system
JP7552468B2 (ja) 2021-03-23 2024-09-18 富士通株式会社 位置測定装置、位置測定方法、位置測定プログラム及び物流システム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001128814A (ja) * 1999-11-01 2001-05-15 Atr Media Integration & Communications Res Lab 物品の出し入れ検出装置
JP2005141542A (ja) * 2003-11-07 2005-06-02 Hitachi Ltd 非接触入力インターフェース装置
JP2007323471A (ja) * 2006-06-02 2007-12-13 Hitachi Information & Communication Engineering Ltd 物品アクセス管理システム
JP2009126660A (ja) * 2007-11-27 2009-06-11 Toshiba Tec Corp 物品管理システム及び情報処理装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6611738B2 (en) * 1999-07-12 2003-08-26 Bryan J. Ruffner Multifunctional mobile appliance
WO2003014867A2 (en) * 2001-08-03 2003-02-20 John Allen Ananian Personalized interactive digital catalog profiling
US8860760B2 (en) * 2010-09-25 2014-10-14 Teledyne Scientific & Imaging, Llc Augmented reality (AR) system and method for tracking parts and visually cueing a user to identify and locate parts in a scene

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001128814A (ja) * 1999-11-01 2001-05-15 Atr Media Integration & Communications Res Lab 物品の出し入れ検出装置
JP2005141542A (ja) * 2003-11-07 2005-06-02 Hitachi Ltd 非接触入力インターフェース装置
JP2007323471A (ja) * 2006-06-02 2007-12-13 Hitachi Information & Communication Engineering Ltd 物品アクセス管理システム
JP2009126660A (ja) * 2007-11-27 2009-06-11 Toshiba Tec Corp 物品管理システム及び情報処理装置

Also Published As

Publication number Publication date
WO2013171940A1 (ja) 2013-11-21
US9690983B2 (en) 2017-06-27
JP5952396B2 (ja) 2016-07-13
US20150139489A1 (en) 2015-05-21

Similar Documents

Publication Publication Date Title
US9600892B2 (en) Non-parametric method of and system for estimating dimensions of objects of arbitrary shape
US10324563B2 (en) Identifying a target touch region of a touch-sensitive surface based on an image
JP2017050701A5 (ja)
WO2016063484A1 (ja) 画像処理装置、表示制御装置、画像処理方法、および、記録媒体
US10268277B2 (en) Gesture based manipulation of three-dimensional images
US9916043B2 (en) Information processing apparatus for recognizing user operation based on an image
US20190114034A1 (en) Displaying an object indicator
JP5952396B2 (ja) 作業支援システム、作業支援方法及びプログラム
JP6517726B2 (ja) ピックアップ装置
KR20120058996A (ko) 객체 제어 장치 및 방법
US10664090B2 (en) Touch region projection onto touch-sensitive surface
RU2009144933A (ru) Устройство обработки изображения и способ отображения изображения
JP2015520896A (ja) 保管場所にある所望のアイテムを見つける際に支援をする方法
KR100929162B1 (ko) 제스쳐를 이용한 인터렉티브 홀로그램 정보 서비스 장치 및 방법
JP2014106597A (ja) 自律移動体、物体情報取得装置、および物体情報取得方法
JP2011253255A5 (ja)
US9261974B2 (en) Apparatus and method for processing sensory effect of image data
WO2013114512A1 (ja) 作業支援システム、作業支援装置、作業支援方法、及びプログラム
JP2012234126A5 (ja)
KR101860138B1 (ko) 오브젝트 생성 및 오브젝트의 변환이 가능한 동작 인식 센서를 이용한 3차원 입력 장치
EP2975503A2 (en) Touch device and corresponding touch method
JP2011221822A5 (ja)
TW202004619A (zh) 自助結帳系統、方法與裝置
JP2008131515A5 (ja)
JP6303918B2 (ja) ジェスチャ管理システム、ジェスチャ管理プログラム、ジェスチャ管理方法および指さし認識装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151217

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160517

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160609

R150 Certificate of patent or registration of utility model

Ref document number: 5952396

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150