JP6705926B1 - ウェアラブルデバイスおよび制御方法 - Google Patents

ウェアラブルデバイスおよび制御方法 Download PDF

Info

Publication number
JP6705926B1
JP6705926B1 JP2019046024A JP2019046024A JP6705926B1 JP 6705926 B1 JP6705926 B1 JP 6705926B1 JP 2019046024 A JP2019046024 A JP 2019046024A JP 2019046024 A JP2019046024 A JP 2019046024A JP 6705926 B1 JP6705926 B1 JP 6705926B1
Authority
JP
Japan
Prior art keywords
image
light
projection
detection
control device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019046024A
Other languages
English (en)
Other versions
JP2020150400A (ja
Inventor
藤男 奥村
藤男 奥村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Platforms Ltd
Original Assignee
NEC Platforms Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Platforms Ltd filed Critical NEC Platforms Ltd
Priority to JP2019046024A priority Critical patent/JP6705926B1/ja
Priority to PCT/JP2020/006427 priority patent/WO2020184100A1/ja
Application granted granted Critical
Publication of JP6705926B1 publication Critical patent/JP6705926B1/ja
Publication of JP2020150400A publication Critical patent/JP2020150400A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B21/00Projectors or projection-type viewers; Accessories therefor
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/74Projection arrangements for image reproduction, e.g. using eidophor

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Projection Apparatus (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】作業性を低下することなく、高精度の作業支援を実現するウェアラブルデバイスを提供する。【解決手段】画像データを生成する撮像装置と、画像データに基づいて投射条件を設定する制御装置と、投射条件に応じた光を投射する投射装置と、を備えるウェアラブルデバイスとする。制御装置は、所定の模様を形成する検出光を投射するための第1投射条件を設定し、検出光が照射されていないときに撮像された第1画像と、検出光が照射されているときに撮像された第2画像とを取得し、第2画像から検出される所定の模様の状態に基づいて第1領域を設定し、少なくとも第1領域を第1画像から除いた検出用画像を生成し、検出用画像から抽出される特徴に基づいて指示光照射位置を設定し、指示光照射位置に指示光を投射するための第2投射条件を設定する。【選択図】 図2

Description

本発明は、作業者の作業を支援するウェアラブルデバイスおよび制御方法に関する。
特許文献1には、各種情報を出力するレンズと作業現場を撮像するカメラとを備えるウェアラブルデバイスと、実際の作業現場を画像として再現可能に画像処理したマッピング情報を蓄積するサーバとを備える作業管理システムについて開示されている。ウェアラブルデバイスは、サーバから送信されたマッピング情報に基づいて実際の作業現場を情報空間内に形成するとともに、情報空間内に形成した作業現場をレンズ越しの実際の視野に重ねるように投影する。サーバは、カメラによって撮像された撮像情報に基づいて作業者の挙動に関する情報を得て、情報空間内における作業者の挙動に関する情報を監視する。特許文献1のシステムによれば、ウェアラブルデバイスのカメラで作業者の動きを監視・管理したり、作業者への指示をレンズに表示させたりすることができる。
特許文献2には、作業現場に設置されたカメラによって作業対象物に貼付された宛先ラベルを撮影し、宛先ラベルに基づいた仕分け先に関する情報をその作業対象物に投影することで仕分け作業を支援する情報処理装置について開示されている。特許文献2によれば、実世界の作業現場に設置されたカメラに撮影された宛先ラベルに基づいて、実世界の作業現場にある作業対象物に投影された仕分け先を示す情報を作業者が視認することができる。
特許文献3には、有効表示情報を操作領域に形成させる投射部と、操作領域上での操作内容を取得する撮像部と、を備える情報入力装置について開示されている。特許文献3の装置の投射部は、複数の表示領域に区分けされる表示手段を有する空間変調素子と、複数の表示領域のそれぞれに対応付けられた複数の発光部を含む光源とを有する。特許文献3の装置の投射部は、空間変調素子の表示部に照射された光を基に形成される表示情報を操作領域に投射する構成を有し、投影部を小型化かつ低電力化できるため、ウェアラブルデバイスに好適である。
特許文献4には、ジェスチャーによる操作入力を可能とする操作入力装置について開示されている。特許文献4の装置は、撮像画像中の手領域を検出し、検出された手領域以外の領域で構成される背景領域内の各部分について、当該部分の輝度や色彩に基づいて、光源が存在する可能性を示す指標としての光源存在度を設定する。特許文献4の装置は、光源存在度に基づいて、光源の影響を受けたと推定された領域と手領域とが予め定められた距離以内にあると判断された場合に、検出された手領域の形状に基づいて撮像画像中の手領域に欠損が生じているか判断する。特許文献4の装置は、撮像画像中の手領域の欠損の判断結果と、検出された手領域を表す情報とに基づいて、手の動作を判断する。
特許文献5には、ターゲットの範囲内に投影するコンテンツをトリミングする方法について開示されている。特許文献5の方法では、Kinect(登録商標)などの可視光カメラと深度カメラを用いて、オブジェクトまでの距離を決定するための深度マップが作成される。特許文献5の方法では、深度マップ内の背景から投影ターゲットをセグメント化することによってオブジェクトの形状を決定する。
特開2016−184303号公報 国際公開第2015/145982号 国際公開第2016/199415号 国際公開第2015/037273号 特表2017−503198号公報
特許文献1〜3の手法を組み合わせれば、作業者の作業を支援するための情報をその作業者の視界に投射することで、作業者に対して作業支援を行う小型のウェアラブルデバイスを実現することができる。しかしながら、実際の作業現場においては、作業者の手と背景との相対的な位置関係が刻一刻と変わるため、作業者の手と背景とを分離できず、適格な作業支援を行うことができない。例えば、背景にある作業対象物に対して何らかの表示情報を表示させる場合、その作業対象物から特徴点を捕らえる必要がある。しかし、手の動きによって不要な特徴点が発生すると、その不要な特徴点がノイズとなり、背景から抽出したい特徴点を正確に抽出できないことがある。また、例えば、手の平に何らかの表示情報を表示させる場合、その手の平から特徴点を抽出する必要がある。しかし、背景が不要な特徴点を作ってしまうと、その不要な特徴点がノイズとなり、手の平から抽出したい特徴量を正確に抽出できないことがある。
特許文献4の手法では、輝度や色彩に基づいて背景と手との差分を取ることによって、背景と手とを分離する。そのため、特許文献4の手法を用いれば、手を含まない背景から特徴を抽出することができるため、背景の特徴が手の特徴によって検出されにくくなることがない。しかしながら、特許文献4の手法では、輝度や色彩に基づいて背景と手とを分離するため、背景に手の色と同じような輝度や色彩がある場合、背景と手とを精度よく分離できない場合がある。
特許文献5の手法では、深度カメラを用いて作成された深度マップ内の背景から投影ターゲットをセグメント化することによってオブジェクトの形状を決定する。そのため、特許文献5の手法を用いれば、輝度や色彩では判別の難しい領域を区別することができる。しかしながら、ウェアラブルデバイスに深度カメラを搭載すると装置が大型化してしまい、携帯性が低下する。
本発明の目的は、上述した課題を解決し、大掛かりな装置を用いずに、作業支援のための情報を表示させる位置を確実に抽出し、適切な作業支援を実現するウェアラブルデバイスを提供することにある。
本発明の一態様のウェアラブルデバイスは、画像データを生成する撮像装置と、画像データを撮像装置から取得し、取得した画像データに基づいて投射条件を設定する制御装置と、制御装置から投射条件を取得し、取得した投射条件に応じた光を投射する投射装置と、を備え、制御装置は、所定の模様を形成する検出光を投射するための第1投射条件を設定し、検出光が照射されていないときに撮像された第1画像と、検出光が照射されているときに撮像された第2画像とを取得し、第2画像から検出される所定の模様の状態に基づいて第1領域を設定し、少なくとも第1領域を第1画像から除いた検出用画像を生成し、検出用画像から抽出される特徴に基づいて指示光照射位置を設定し、指示光照射位置に指示光を投射するための第2投射条件を設定する。
本発明の一態様の制御方法は、画像データを生成する撮像装置と、画像データに基づいて投射条件を設定する制御装置と、投射条件に応じた光を投射する投射装置と、を備えるウェアラブルデバイスの制御方法であって、制御装置が、検出光が照射されていないときに撮像された第1画像と、検出光が照射されているときに撮像された第2画像とを取得し、第2画像から検出される所定の模様の状態に基づいて第1領域を設定し、少なくとも第1領域を第1画像から除いた検出用画像を生成し、検出用画像から抽出される特徴に基づいて指示光照射位置を設定し、指示光照射位置に指示光を投射するための第2投射条件を設定する。
本発明によれば、大掛かりな装置を用いずに、作業支援のための情報を表示させる位置を確実に抽出し、適切な作業支援を実現するウェアラブルデバイスを提供することが可能になる。
本発明の第1の実施形態に係るウェアラブルデバイスの構成の一例を示すブロック図である。 本発明の第1の実施形態に係るウェアラブルデバイスの適用例を示す概念図である。 本発明の第1の実施形態に係るウェアラブルデバイスの適用例を示す概念図である。 本発明の第1の実施形態に係るウェアラブルデバイスの別の適用例を示す概念図である。 本発明の第1の実施形態に係るウェアラブルデバイスが作業対象領域を検出する際に用いる検出用画像の一例を示す概念図である。 本発明の第1の実施形態に係るウェアラブルデバイスによる手の検出処理から輪郭抽出処理までの流れについて説明するための概念図である。 本発明の第1の実施形態に係るウェアラブルデバイスによる輪郭抽出処理から指示光照射処理までの流れについて説明するための概念図である。 本発明の第1の実施形態に係るウェアラブルデバイスの動作について説明するための概念図である。 本発明の第1の実施形態に係るウェアラブルデバイスが備える撮像装置の構成の一例を示すブロック図である。 本発明の第1の実施形態に係るウェアラブルデバイスが備える投射装置の構成の一例を示すブロック図である。 本発明の第1の実施形態に係るウェアラブルデバイスが備える投射装置の投射光学系の構成の一例を示す概念図である。 本発明の第1の実施形態に係るウェアラブルデバイスが備える投射装置の投射光学系の構成の別の一例を示す概念図である。 本発明の第1の実施形態に係るウェアラブルデバイスが備える制御装置の構成の一例を示すブロック図である。 本発明の第1の実施形態に係るウェアラブルデバイスの動作の概要について説明するためのフローチャートである。 本発明の第1の実施形態に係るウェアラブルデバイスによる指示光投射条件設定処理について説明するためのフローチャートである。 本発明の第2の実施形態に係るウェアラブルデバイスが備える制御装置の構成の一例を示すブロック図である。 本発明の第2の実施形態に係るウェアラブルデバイスによる手の検出から輪郭抽出までの処理について説明するための概念図である。 本発明の第2の実施形態に係るウェアラブルデバイスによる輪郭抽出から指示光の照射までの処理について説明するための概念図である。 本発明の第2の実施形態に係るウェアラブルデバイスによる指示光投射条件設定処理について説明するためのフローチャートである。 本発明の第3の実施形態に係るウェアラブルデバイスが備える制御装置の構成の一例を示すブロック図である。 本発明の第3の実施形態に係るウェアラブルデバイスが投射する検出光について説明するための概念図である。 本発明の第3の実施形態に係るウェアラブルデバイスの動作の概要について説明するためのフローチャートである。 本発明の第3の実施形態に係るウェアラブルデバイスによる指示光投射条件設定処理について説明するためのフローチャートである。 本発明の第3の実施形態に係るウェアラブルデバイスによる検出光投射条件設定処理について説明するためのフローチャートである。 本発明の第4の実施形態に係るウェアラブルデバイスが備える制御装置の構成の一例を示すブロック図である。 本発明の第4の実施形態に係るウェアラブルデバイスによる投射装置および撮像装置の制御例に説明するための概念図である。 本発明の第5の実施形態に係るウェアラブルデバイスの構成の一例を示すブロック図である。 本発明の各実施形態に係るウェアラブルデバイスが備える制御装置を実現するハードウェア構成の一例を示すブロック図である。
以下に、本発明を実施するための形態について図面を用いて説明する。ただし、以下に述べる実施形態には、本発明を実施するために技術的に好ましい限定がされているが、発明の範囲を以下に限定するものではない。なお、以下の実施形態の説明に用いる全図においては、特に理由がない限り、同様箇所には同一符号を付す。また、以下の実施形態において、同様の構成・動作に関しては繰り返しの説明を省略する場合がある。
(第1の実施形態)
まず、本発明の第1の実施形態に係るウェアラブルデバイスについて図面を参照しながら説明する。本実施形態のウェアラブルデバイスは、作業対象を撮影した画像に基づいて、作業者が行う作業を支援するための指示光を投射するウェアラブルデバイスである。作業者は、投射された指示光を視認することによって次の作業を認識できる。
(構成)
図1は、本実施形態に係るウェアラブルデバイス1の構成の概要を示すブロック図である。ウェアラブルデバイス1は、撮像装置11、投射装置12、および制御装置13を備える。制御装置13は、撮像装置11および投射装置12に接続される。撮像装置11は、撮像機能を有するカメラである。投射装置12は、投射機能を有するプロジェクタである。制御装置13(コントローラとも呼ぶ)は、撮像装置11および投射装置12を制御する装置である。
撮像装置11は、制御装置13の制御に応じて、作業対象を含む範囲を撮像する。撮像装置11は、作業対象を含む範囲を撮像することで生成される画像データを制御装置13に出力する。例えば、撮像装置11は、撮影速度の速い高速カメラによって実現される。
投射装置12は、制御装置13の制御に応じて投射光を投射する。投射装置12は、作業者の手や腕などの作業体を検出するための検出光を投射する。また、投射装置12は、作業者が次に作業を行う予定の作業対象箇所にその位置や指示を示す指示光を投射する。投射装置12は、制御装置による制御に応じて検出光や指示光を投射する。例えば、投射装置12は、空間光変調素子を用いたプロジェクタによって実現される。
制御装置13は、撮像装置11および投射装置12を制御する。制御装置13は、所定の模様を形成する検出光を投射するための投射条件(第1投射条件とも呼ぶ)を生成し、生成した第1投射条件を投射装置12に出力する。制御装置13は、撮像装置11を制御し、作業対象を含む範囲を撮像させる。制御装置13は、撮像装置11を制御し、検出光が表示されていない画像データ(第1画像)と、検出光が表示された画像データ(第2画像)とを連続したタイミングで撮像させる。制御装置13は、撮像装置11から第1画像および第2画像を取得し、取得した第2画像から作業者の手や腕を検出する。制御装置13は、作業者の手や腕を第2画像から検出すると、作業者の手や腕の範囲を第1画像から削除することによって検出用画像を生成する。制御装置13は、検出用画像から作業対象箇所を検出する。制御装置13は、検出した作業対象箇所に指示光を投射するための投射条件(第2投射条件とも呼ぶ)を生成し、生成した第2投射条件を投射装置12に出力する。例えば、制御装置13は、プロセッサやメモリを有するマイクロコンピュータによって実現される。
図2〜図4は、本実施形態のウェアラブルデバイス1の適用例を示す概念図である。図2および図3は、作業者の被るヘルメットにウェアラブルデバイス1を配置する例である。図4は、作業者の胸元にウェアラブルデバイス1を配置する例である。
ウェアラブルデバイス1は、作業対象100を撮像した画像データに作業者の体の一部が写っているか否かを検証する。本実施形態においては、作業者の手や腕を検出対象とする。ウェアラブルデバイス1は、手や腕を検出するための検出光151を作業対象100に向けて投射する(図2)。ウェアラブルデバイス1は、作業者に視認されないように、短パルス化した検出光151を投射する。図2の例では、検出光151は、ストライプ状の模様で表示される。なお、検出光151の模様は、作業対象100の上方に位置する物体を検出できさえすれば、ストライプ状に限定されない。また、ストライプ状の模様の検出光151を照射する場合、ストライプの間隔は、作業者の手や腕が検出されるまでは粗くし、作業者の手や腕が検出されてからは細かくするように設定するとエネルギー消費を低減できる。なお、検出光151の視認性は、環境光に依存する。例えば、検出光151と背景とのコントラストや、背景の明るさを調整することによって検出光151の視認性を制御できる。本実施形態においては、検出光151が視認されない方が好ましいため、検出光151が視認されにくいように、検出光151と背景とのコントラストや、背景の明るさを調整することが好ましい。
ウェアラブルデバイス1は、作業者に視認できない条件で表示される検出光151を撮像できる高速カメラを備える。ウェアラブルデバイス1は、検出光151が表示されていないタイミングおいて作業対象100を撮像する。このとき、ウェアラブルデバイス1は、検出光151が照射されていない作業対象100の画像データ(第1画像とも呼ぶ)を生成する。また、ウェアラブルデバイス1は、検出光151が表示されるタイミングにおいて作業対象100を撮像する。このとき、ウェアラブルデバイス1は、検出光151が照射されている作業対象100の画像データ(第2画像とも呼ぶ)を生成する。
ウェアラブルデバイス1は、検出光151が表示された画像データ(第2画像)から、検出光151が不連続になった箇所(切断点とも呼ぶ)を検出する。ウェアラブルデバイス1は、切断点を検出すると、切断点を結んだ領域を第1領域に設定する。ウェアラブルデバイス1は、検出された作業者の手や腕を確実にくり抜くために、第1領域を拡大して第2領域を設定する。ウェアラブルデバイス1は、検出光151が表示されていない画像データ(第1画像)から第2領域を削除し、第2領域を含まない画像データ(検出用画像とも呼ぶ)を生成する。ウェアラブルデバイス1は、検出用画像から、作業者が次に行う作業を行うことになる作業対象箇所105を検出する(図3)。
ウェアラブルデバイス1は、作業対象箇所105を検出すると、検出した作業対象箇所105に指示光155を投射する(図3)。作業者は、作業対象箇所105に投射された指示光155を視認することによって次に行う作業の位置や内容を認識できる。例えば、作業者の次の作業内容がコネクタにケーブルを接続することであれば、ウェアラブルデバイス1は、コネクタの位置を作業対象箇所105に設定し、その位置に指示光155を照射する。作業者は、指示光155の位置を視認することによって、次の作業内容を認識できる。
図5は、ウェアラブルデバイス1が作業対象箇所105を検出する際に用いる検出用画像165の一例を示す概念図である。検出用画像165には、作業者の手や腕が含まれないため、作業者の手や腕によって形成される特徴点が含まれず、作業対象箇所105の特徴点が検出されやすくなる。
本実施形態では、作業対象箇所105を含む背景を追跡し続けるために、作業者の手や腕によって形成される特徴点を除去することによって、背景の特徴点に対するノイズ除去を行う。本実施形態では、手や腕が検出された後の段階において、背景から特徴点を抽出する例を挙げる。例えば、実際の作業現場においては、作業者の手や腕が作業対象箇所105の位置を塞いでしまうこともある。ウェアラブルデバイス1は、起動時において、手や腕によって作業対象箇所105が隠されていた場合、その作業対象箇所105を検出できない。しかしながら、作業者の手や腕が動けば、手や腕によって長時間隠されていた作業対象箇所105であっても、ウェアラブルデバイス1によってやがて検出される。このように検出される作業対象箇所105から特徴点を抽出してゆけば、背景のほとんどの特徴的な箇所から特徴点を抽出することができる。特徴点は、少しでも多く抽出されることが望ましいので、手や腕によって隠されていた作業対象箇所105が検出することは重要である。また、作業対象箇所105が長時間隠されてしまう場合を想定し、作業対象箇所105が長時間検出されなかった際に警告を示す表示を作業対象100の表面に表示させるように構成してもよい。実際の作業現場では、手や腕が検出される前の段階で背景の特徴点を抽出しておき、手や腕が動いても背景の特徴点を把握し続けることが好ましい。
〔作業対象箇所の検出〕
ここで、制御装置13が、画像データから手や腕を検出し、作業対象箇所105を検出するまでの手順について図面を参照しながら説明する。
図6は、制御装置13が、画像データから手や腕を検出し、第1領域を設定するまでの手順を示す概念図である。
制御装置13は、検出光151が照射されていない作業対象100の画像データ(第1画像161)を撮像装置11から取得する(A)。また、制御装置13は、検出光151が照射された作業対象100の画像データ(第2画像162)を撮像装置11から取得する(B)。第2画像162には、検出光151の模様が写っている。このときに制御装置13が取得する第1画像161および第2画像162は、連続したタイミングにおいて撮像されたものである。なお、第1画像161と第2画像162の撮像順番は入れ替わってもよい。
制御装置13は、第2画像162を取得すると(B)、検出光151の切断点170を抽出する(C)。図6のように、第2画像162に手や腕が写っていると、背景と比べて手や腕の方が撮像装置11に近いため、手や腕に照射された検出光151の模様がずれる。その結果、作業対象100の表面に照射された検出光151の模様には切断点170が表れる。制御装置13は、抽出された複数の切断点170を結んで第1領域171を設定する(D)。
図7は、制御装置13が、第1領域を抽出し、作業対象箇所105を検出するまでの手順を示す概念図である。
制御装置13は、第1領域171を設定すると(D)、第1領域171を拡大して第2領域172を設定する(E)。制御装置13は、第1画像161から第2領域172の内部を削除し、第1画像161から第2領域172の内部が削除された画像データ(検出用画像165)を生成する(F)。第1領域171は、手や腕の輪郭上の点を結んだ領域になるため、第1画像161から第1領域171の内部を削除すると、手や腕の一部が画像データに残存してしまい、背景の作業対象100から特徴を抽出しにくくなる可能性がある。そのため、制御装置13は、第1領域171を拡大した第2領域172を設定し、第1画像161から第2領域172の内部を削除する。
そして、制御装置13は、検出用画像165から作業対象箇所105を検出する(G)。制御装置13は、作業対象箇所105を検出すると、その作業対象箇所105に指示光155を投射するための投射条件を生成し、生成した投射条件を投射装置12に出力する。例えば、作業対象箇所105に表示される模様は、作業対象箇所105を示す図形や、作業内容を示す記号や文字など、作業状況に応じて任意に設定できる。
なお、作業対象箇所105を検出できる程度であれば、検出用画像165に手や腕の一部が残存していてもよい。そのため、第1画像161から第1領域171の内部を削除した画像データを検出用画像165に設定し、その検出用画像165を用いて背景の作業対象100から特徴を抽出するように構成してもよい。この場合、背景の作業対象100から特徴を抽出できなかった場合には、第1領域171を拡大して第2領域を設定し、第1画像161から第2領域の内部を削除した画像データを検出用画像165に設定すればよい。また、第1画像161から第2領域の内部を削除した検出用画像165を用いても、背景の作業対象100から特徴を抽出できない場合も想定される。そのような場合は、第2領域172をさらに拡大し、拡大した第2領域を第1画像161から削除すればよい。
〔動作タイミング〕
ここで、ウェアラブルデバイス1の撮像装置11、投射装置12、および制御装置13の動作タイミングについて図面を参照しながら説明する。図8は、撮像装置11、投射装置12、および制御装置13の動作タイミングの一例について説明するための概念図である。
図8のタイミングT0において、制御装置13は、撮像装置11から画像データを取得する。タイミングT0において撮像装置11から取得される画像データ(第1画像)には検出光151が写っていない。
タイミングT1において、制御装置13は、投射装置12を制御し、作業対象100に向けて検出光151を投射させる。また、制御装置13は、撮像装置11から画像データを取得する。タイミングT1において撮像装置11から取得される画像データ(第2画像)には検出光151が写っている。
タイミングT2において、制御装置13は、第2画像に手や腕が含まれるか否かを検証する。図8の例では、タイミングT2においては、第2画像から手や腕が検出されなかったものとする。なお、図8においては、タイミングT2において、撮像装置11が撮像するものとしているが、撮像を停止するように構成してもよい。
タイミングT3において、制御装置13は、撮像装置11から画像データを取得する。タイミングT3において撮像装置11から取得される画像データ(第1画像)には検出光151が写っていない。
タイミングT4において、制御装置13は、作業対象100に検出光151を投射するための投射条件に基づいて投射装置12を制御し、作業対象100に向けて検出光151を投射させる。また、制御装置13は、撮像装置11から画像データを取得する。タイミングT4において撮像装置11から取得される画像データ(第2画像)には検出光151が写っている。
タイミングT5において、制御装置13は、第2画像に手や腕が含まれるか否かを検証する。図8の例では、タイミングT5において、第2画像から手や腕が検出されたものとする。なお、図8においては、タイミングT5において、撮像装置11が撮像するものとしているが、撮像を停止するように構成してもよい。
タイミングT6において、制御装置13は、第2画像を用いて検出用画像165を生成する。制御装置13は、生成した検出用画像165から作業対象箇所105を検出する。制御装置13は、作業対象箇所105に指示光155を投射するための投射条件を生成する。
タイミングT7において、制御装置13は、作業対象箇所105に指示光155を投射するための投射条件に基づいて投射装置12を制御し、作業対象箇所105に向けて指示光155を投射させる。また、制御装置13は、撮像装置11から画像データを取得する。タイミングT7において撮像装置11から取得される画像データには、指示光155が写っている。
タイミングT8において、制御装置13は、作業対象箇所105に指示光155を投射するための投射条件に基づいて投射装置12を制御し、投射光150を投射させる。また、制御装置13は、撮像装置11から画像データを取得する。タイミングT8において撮像装置11から取得される画像データには、指示光155が写っている。
タイミングT9において、制御装置13は、作業対象100に検出光151を投射するための投射条件に基づいて投射装置12を制御し、作業対象100に向けて検出光151を投射させる。また、タイミングT9において、制御装置13は、作業対象箇所105に指示光155を投射するための投射条件に基づいて投射装置12を制御し、作業対象箇所105に向けて指示光155を投射させる。また、制御装置13は、撮像装置11から画像データを取得する。タイミングT8において撮像装置11から取得される画像データには、検出光151と指示光155が写っている。
タイミングT10以降において、制御装置13は、手や腕の検出状況に応じて、タイミングT0〜T9に示す処理を繰り返す。例えば、制御装置13は、手や腕が検出されない場合にはタイミングT0〜T2の処理を繰り返し、手や腕が検出された場合にはタイミングT3〜T9の処理を繰り返すことになる。
以上が、ウェアラブルデバイス1の構成の概要についての説明である。なお、図1〜図8は一例であって、本実施形態のウェアラブルデバイス1の構成や利用シーン、処理などをそのままの形態や手順に限定するものではない。
〔撮像装置〕
次に、ウェアラブルデバイス1の撮像装置11について図面を参照しながら説明する。図9は、撮像装置11の構成を示すブロック図である。撮像装置11は、撮像素子111、画像処理プロセッサ113、内部メモリ115、およびデータ出力回路117を有する。撮像装置11は、一般的なデジタルカメラの機能を含み、高速撮影の可能なカメラである。
撮像素子111は、撮像装置11の撮影範囲を撮像し、その撮影範囲の撮像データを取得するための素子である。本実施形態においては、作業対象100を含む範囲が撮影範囲に設定される。撮像素子111は、半導体部品が集積回路化された光電変換素子である。撮像素子111は、例えば、CCD(Charge-Coupled Device)やCMOS(Complementary Metal-Oxide-Semiconductor)などの固体撮像素子によって実現できる。通常、撮像素子111は、可視領域の光を撮像する素子によって構成するが、赤外線や紫外線、X線、ガンマ線、電波、マイクロ波などの電磁波を撮像・検波できる素子によって構成してもよい。
画像処理プロセッサ113は、撮像素子111によって撮像された撮像データに対して、暗電流補正や補間演算、色空間変換、ガンマ補正、収差の補正、ノイズリダクション、画像圧縮などの画像処理を実行して画像データに変換する集積回路である。なお、画像情報を加工せずに出力する場合は、画像処理プロセッサ113を省略してもよい。
内部メモリ115は、画像処理プロセッサ113が一度に処理しきれない画像情報や、処理済みの画像情報を一時的に格納する記憶素子である。なお、撮像素子111によって撮像された画像情報を内部メモリ115に一時的に記憶するように構成してもよい。内部メモリ115は、一般的なメモリによって構成すればよい。
データ出力回路117は、画像処理プロセッサ113によって処理された画像データを制御装置13に出力する。
〔投射装置〕
次に、投射装置12について図面を参照しながら説明する。図10は、ウェアラブルデバイス1の投射装置12の構成を示すブロック図である。図11は、投射装置12の構成例を示す概念図である。
図10のように、投射装置12は、照射部121、光源駆動電源125、空間光変調素子126、変調素子駆動部127、および投射光学系129を備える。なお、図10は概念的なものであり、各構成要素間の位置関係や、光の照射方向などを正確に表したものではない。
照射部121は、特定波長のコヒーレントな光120を出射する。図11のように、照射部121は、光源122とコリメートレンズ123を含む。図11のように、照射部121が出射した光110は、コリメートレンズ123を通過してコヒーレントな光120となり、空間光変調素子126の表示部に入射される。例えば、照射部121は、照射部121としてレーザ光源を含む。通常、照射部121は、可視領域の光を出射するように構成する。なお、照射部121は、赤外領域や紫外領域などの可視領域以外の光を出射するように構成してもよい。また、照射部121は、発光ダイオードや白熱電球、放電管などのレーザ光源以外で構成してもよい。
照射部121は、パルス状の光を出射する。検出光151を照射する際には、照射部121は、視認されにくいパルス幅で光を出射する。また、指示光155を照射する際には、照射部121は、視認されやすいパルス幅で光を出射する。
光源駆動電源125は、制御装置13の制御に応じて照射部121の光源122を駆動させて、照射部121から光を出射させる電源である。
空間光変調素子126は、変調素子駆動部127の制御に応じて、検出光151や指示光155を生成するためのパターン(画像の位相分布)を自身の表示部に表示する。本実施形態においては、空間光変調素子126の表示部に所定のパターンが表示された状態で、その表示部に光120を照射する。空間光変調素子126は、入射される光120の反射光(変調光130)を投射光学系129に向けて出射する。
図11のように、本実施形態においては、空間光変調素子126の表示部に対して光120の入射角を非垂直にする。すなわち、本実施形態においては、照射部121からの光120の出射軸を空間光変調素子126の表示部に対して斜めにし、ビームスプリッタを用いずに空間光変調素子126の表示部に光120を入射させる。そのため、図11の構成では、光120がビームスプリッタを通過することによって減衰することがないため、光120の利用効率を向上させることができる。
空間光変調素子126は、位相がそろったコヒーレントな光120の入射を受け、入射された光120の位相を変調する位相変調型の空間光変調素子によって実現できる。位相変調型の空間光変調素子126を用いた投射光学系129からの出射光は、フォーカスフリーであるため、複数の投射距離に光を投射することになっても投射距離ごとに焦点を変える必要がない。なお、空間光変調素子126は、表示部が複数の表示領域に分割され、各表示領域に表示情報を表示できるのであれば、位相変調型とは異なる方式の素子であってもよい。
位相変調型の空間光変調素子126の表示部には、作業対象100の表面に表示させる検出光151や指示光155の位相分布が表示される。位相分布が表示された空間光変調素子126の表示部で反射された変調光130は、一種の回折格子が集合体を形成したような画像になり、回折格子で回折された光が集まるように像が形成される。
空間光変調素子126は、例えば、強誘電性液晶やホモジーニアス液晶、垂直配向液晶などを用いた空間光変調素子によって実現される。空間光変調素子126は、具体的には、LCOS(Liquid Crystal on Silicon)によって実現できる。また、例えば、空間光変調素子126は、MEMS(Micro Electro Mechanical System)によって実現できる。
位相変調型の空間光変調素子126では、投射光を投射する箇所を順次切り替えるように動作させることによってエネルギーを像の部分に集中することができる。そのため、位相変調型の空間光変調素子126を用いれば、光源の出力が同じであれば、その他の方式のものよりも表示情報を明るく表示させることができる。
変調素子駆動部127は、制御装置13の制御に応じて、作業対象100の表面に表示させる像を生成するためのパターンを空間光変調素子126の表示部に表示させる。変調素子駆動部127は、空間光変調素子126の表示部に照射される光110の位相と、表示部で反射される変調光130の位相との差分を決定づけるパラメータが変化するように空間光変調素子126を駆動する。
位相変調型の空間光変調素子126の表示部に照射される光120の位相と、表示部で反射される変調光130の位相との差分を決定づけるパラメータは、例えば、屈折率や光路長などの光学的特性に関するパラメータである。例えば、変調素子駆動部127は、空間光変調素子126の表示部に印可する電圧を変化させることによって、表示部の屈折率を変化させる。表示部に照射された光120は、表示部の各部の屈折率に基づいて適宜回折される。すなわち、位相変調型の空間光変調素子126に照射された光120の位相分布は、表示部の光学的特性に応じて変調される。なお、変調素子駆動部127による空間光変調素子126の駆動方法はここで挙げた限りではない。
投射光学系129は、空間光変調素子126で変調された変調光130を投射光150として投射する。図11のように、投射光学系129は、フーリエ変換レンズ191、アパーチャ192.および投射レンズ193を含む。空間光変調素子126で変調された変調光130は、投射光学系129によって投射光150として照射される。なお、作業対象100の表面に像を形成できさえすれば、投射光学系129の構成要素のうちいずれかを省略してもよい。
フーリエ変換レンズ191は、空間光変調素子126の表示部で反射された変調光130を無限遠に投射した際に形成される像を、近傍の焦点に結像させるための光学レンズである。図11では、アパーチャ192の位置に焦点が形成されている。
アパーチャ192は、フーリエ変換レンズ191によって集束された光に含まれる高次光を遮蔽し、投射光150が表示される範囲を特定する。アパーチャ192の開口部は、アパーチャ192の位置における表示領域の最外周よりも小さく開口され、アパーチャ192の位置における表示情報の周辺領域を遮るように設置される。例えば、アパーチャ192の開口部は、矩形状や円形状に形成される。アパーチャ192は、フーリエ変換レンズ191の焦点位置に設置されることが好ましいが、高次光を消去する機能を発揮できれば焦点位置からずれていても構わない。
投射レンズ193は、フーリエ変換レンズ191によって集束された光を拡大して投射する光学レンズである。投射レンズ193は、空間光変調素子126の表示部に表示された位相分布に対応する画像が投射範囲内に投影されるように投射光150を投射する。
単純な記号などの線画を投射する用途にウェアラブルデバイス1を用いる場合、投射光学系129から投射された投射光150は、各表示領域に均一に投射されるのではなく、表示情報を構成する文字や記号、枠などの部分に集中的に投射される。そのような場合、ウェアラブルデバイス1によれば、光120の出射量を実質的に減らせるため、全体的な光出力を抑えることができる。すなわち、ウェアラブルデバイス1は、小型かつ低電力な照射部121で構成できるため、その照射部121を駆動する光源駆動電源125を低出力にでき、全体的な消費電力を低減できる。
複数の波長の光を出射するように照射部121を構成すれば、照射部121から出射する光の波長を変えることによって、指示光155の色を変更することができる。また、異なる波長の光を同時に出射する照射部121を用いれば、複数の色によって構成される指示光155を表示させることができる。
図12は、複数色の投射を実現する投射装置12−2の構成例を示す概念図である。図12の投射装置12−2は、複数の色の光を出射する照射部121−2を備える。照射部121−2は、光源122−1、コリメートレンズ123−1、ミラー124−1、光源122−2、コリメートレンズ123−2、およびダイクロイックミラー124−2を有する。なお、図12には、2つの光源(光源122−1、光源122−2)を用いて2色の光を出射する例を示すが、3つ以上の光源を用いて3色以上の光を出射するように構成してもよい。
光源122−1は、第1の波長の光110−1を発する。光源122−1から発せられた光110−1は、コリメートレンズ123−1を通過してコヒーレントな光になる。コリメートレンズ123−1を通過した光は、ミラー124−1の反射面で反射され、ダイクロイックミラー124−2を通過する。ダイクロイックミラー124−2を通過した光120は、空間光変調素子126の表示部に向けて進行する。
また、光源122−2は、第2の波長の光110−2を発する。光源122−2から発せられた光110−2は、コリメートレンズ123−2を通過してコヒーレントな光になる。コリメートレンズ123−2を通過した光は、ダイクロイックミラー124−2の反射面で反射される。ダイクロイックミラー124−2の反射面で反射された光120は、空間光変調素子126の表示部に向けて進行する。
照射部121−2は、光源122−1および光源122−2の少なくともいずれかから発せられる光120を空間光変調素子126の表示部に向けて出射する。例えば、照射部121−2は、制御装置13の制御に応じて、光源122−1からの第1の波長の光と、光源122−2からの第2の波長の光とを切り替えて照射する。なお、照射部121−2は、光源122−1からの第1の波長の光と、光源122−2からの第2の波長の光とを同時に照射してもよい。
図12の構成によれば、異なる色の像を表示させることができる。例えば、指示光155に応じて作業者が行った作業が正しい場合には緑色の光を照射し、間違っている場合には赤色の光を照射すれば、作業状況の正誤を色の違いで作業者に認識させることもできる。また、例えば、緑色の光が視認されにくい箇所に指示光155を表示させると、作業者がその指示光155を認識しにくい場合がある。そのような場合は、指示光155の色を作業者に視認されやすい色に切り替えればよい。また、例えば、手や腕を検出する際に、緑色の光が撮像装置11に検出されにくい箇所に検出光151を照射させると、撮像装置11がその検出光151を検出しにくい場合がある。そのような場合は、検出光151の色を撮像装置11によって検出されやすい色に切り替えればよい。
〔制御装置〕
次に、制御装置13について図面を参照しながら説明する。図13は、ウェアラブルデバイス1の制御装置13の構成を示すブロック図である。図13のように、制御装置13は、撮像制御部131、検出部133、投射条件設定部136、投射条件記憶部137、および投射制御部139を有する。
撮像制御部131は、作業対象100を含む範囲を撮像装置11に撮像させ、撮像装置11が撮像した画像データを取得する。撮像制御部131は、取得した画像データを検出部133に出力する。
検出部133は、撮像制御部131から画像データを取得する。検出部133は、検出光151が照射されていない作業対象100の画像データ(第1画像161)と、検出光151が照射されている作業対象100の画像データ(第2画像162)とを取得する。
検出部133は、取得した画像データから手や腕、検出光151、作業対象箇所105、指示光155などを検出する。検出部133は、画像データに含まれる特徴に基づいて、投射範囲内に進入した人体の一部(手や腕)や、作業対象箇所105を検出する。例えば、検出部133は、取得した画像データに含まれる形状や色などの特徴に基づいて、人体の一部や作業対象箇所105を検出する。また、検出部133は、取得した画像データにそれまでは写っていなかった特徴が検出された際に、その特徴が人体に起因するとみなして検出してもよい。本実施形態においては、検出部133は、第2画像162に写っている検出光151のパターンの変化に基づいて手や腕を検出する例を挙げる。
検出部133は、手や腕が写っている第2画像162を取得すると、その第2画像162から検出光151の切断点170を抽出する。検出部133は、切断点170を結んで第1領域171を設定する。また、検出部133は、第1領域171を拡大して第2領域172を設定する。検出部133は、第1画像161から第2領域172の内部を削除した画像データ(検出用画像165)を生成する。
検出部133は、検出用画像165から、作業者が次に作業を行う予定の作業対象箇所105を検出する。検出部133は、検出用画像165から作業対象箇所105を検出すると、その作業対象箇所105の位置座標を抽出する。検出部133は、抽出した作業対象箇所105の位置座標を投射条件設定部136に出力する。
指示光155を投射中であっても、検出光の投射から作業対象箇所105の検出までの一連の処理を継続すれば、指示光155の照射位置は正しい位置に補正される。また、指示光155の照射位置の精度をより向上させるために、指示光155が照射された画像データを検出部133が取得した際に、指示光155が表示されている位置と、作業対象100との位置とが一致するか否かを検証するように構成してもよい。指示光155が表示されている位置と、作業対象100との位置とのずれが検出された場合、そのずれの程度に応じて指示光155の照射位置を補正するように構成すれば、指示光155の照射位置の精度が向上する。
投射条件設定部136は、検出光151や指示光155を投射するための投射条件を設定する。投射条件設定部136が設定する投射条件には、後述の光源制御条件および変調素子制御条件が含まれる。投射条件設定部136は、設定した投射条件を投射制御部139に出力する。
投射条件設定部136は、作業対象100の表面に表示させる像に対応するパターンを投射条件記憶部137から取得する。例えば、投射装置12が位相変調型の空間光変調素子126を含む場合、作業対象100の表面に表示させる情報に対応するパターンは位相分布である。以下においては、位相変調型の空間光変調素子126を用いる例について説明する。
投射条件設定部136は、投射装置12から光を出射させるタイミングや、出射させる光の出力を制御するための光源制御条件を設定する。光源制御条件は、投射装置12に含まれる照射部121が光120を出射するタイミングを制御するための条件である。例えば、光源制御条件は、投射条件記憶部137に記憶させておけばよい。
また、投射条件設定部136は、作業対象100の表面に表示させる像を制御するための変調素子制御条件を設定する。変調素子制御条件は、作業対象100の表面に表示させる像に対応するパターンを空間光変調素子126の表示部に表示させる条件に相当する。例えば、変調素子制御条件は、投射条件記憶部137に予め記憶させておく。
空間光変調素子126の表示部にパターンが表示させた状態で、照射部121からの光120がその表示部に照射されると、そのパターンに対応する像を表示させるための投射光150が投射される。
投射条件設定部136は、検出光151を照射するタイミングにおいて、検出光151のパターンを表示させるための位相分布を投射条件記憶部137から取得する。投射条件設定部136は、取得した位相分布と、検出光151の照射位置と、投射タイミングとを含む投射条件を投射制御部139に出力する。なお、検出光151の投射時間は、作業者が視認できない程度の短い時間に設定されることが好ましい。
また、投射条件設定部136は、作業対象箇所105の位置座標を取得すると、作業対象箇所105に指示光155を表示させるための位相分布を投射条件記憶部137から取得する。投射条件設定部136は、取得した位相分布と、指示光155の照射位置と、投射タイミングとを含む投射条件を投射制御部139に出力する。指示光155の投射時間は、作業者が視認できる時間に設定される。
投射条件記憶部137には、検出光151に対応するパターンと、指示光155に対応するパターンとが記憶される。本実施形態の場合、投射条件記憶部137には、検出光151に対応する位相分布と、指示光155に対応する位相分布とが記憶される。また、投射条件記憶部137には、図形や記号、数字、文字等の情報を作業対象100の表面に表示させるためのパターンを記憶させておいてもよい。また、投射条件記憶部137には、投射条件に含まれる光源制御条件や変調素子制御条件が記憶される。また、投射条件記憶部137には、作業対象100に対して行われる作業の順序や、指示光155を表示させる位置が記憶される。
投射制御部139は、投射条件設定部136から投射条件を取得する。投射制御部139は、投射条件設定部136が設定した投射条件に応じて、作業対象100の表面に投射光150を投射するように投射装置12を制御する。投射制御部139は、表示させる像に対応するパターンを空間光変調素子126の表示部に表示させるタイミングと、投射装置12の照射部121から照射される光の照射タイミングとを同期させる。その結果、作業対象100の表面には、空間光変調素子126の表示部に表示されたパターンに対応する像が表示される。
以上が、ウェアラブルデバイス1の構成の詳細についての説明である。なお、図9〜図13の構成は一例であって、本実施形態のウェアラブルデバイス1の構成をそのままの形態に限定するものではない。
(動作)
次に、本実施形態のウェアラブルデバイス1の動作について図面をしながら説明する。以下においては、ウェアラブルデバイス1の動作の概略(図14)を説明した後に、制御装置13による指示光投射条件設定処理(図15)について説明する。
図14は、ウェアラブルデバイス1の動作の概略について説明するためのフローチャートである。図14のフローチャートに沿った説明においては、ウェアラブルデバイス1を動作の主体として説明する。
図14において、まず、ウェアラブルデバイス1は、検出光151を照射せずに作業対象100を撮像する(ステップS11)。このとき、ウェアラブルデバイス1は、検出光151が照射されていない作業対象100の画像(第1画像)を生成する。
次に、ウェアラブルデバイス1は、検出光151を照射して作業対象100を撮像する(ステップS12)。このとき、ウェアラブルデバイス1は、検出光151が照射された作業対象100の画像(第2画像)を生成する。
ここで、ウェアラブルデバイス1は、第2画像に手や腕が含まれるか検証する(ステップS13)。例えば、ウェアラブルデバイス1は、検出光151に変化が見られた際に、第2画像に手や腕が含まれると判断する。
第2画像において手や腕が検出された場合(ステップS13でYes)、ウェアラブルデバイス1は、指示光投射条件設定処理を実行する(ステップS14)。指示光投射条件設定処理は、第2画像から検出された手や腕の領域を第1画像から削除した検出用画像を生成し、その検出用画像から作業対象箇所を検出して指示光の投射条件を設定する処理である。指示光投射条件設定処理の詳細については、図15のフローチャートに沿って後で説明する。一方、第2画像において手や腕が検出されなかった場合(ステップS13でNo)、ステップS11に戻る。
指示光投射条件設定処理(ステップS14)の次に、ウェアラブルデバイス1は、検出された作業対象箇所に指示光155を投射する(ステップS15)。
そして、処理を継続する場合(ステップS16でYes)、ステップS11に戻る。一方、処理を継続しない場合(ステップS16でNo)、図14のフローチャートに沿った処理を終了とする。
以上が、ウェアラブルデバイス1の動作の概略についての説明である。なお、図14のフローチャートは一例であって、ウェアラブルデバイス1の動作の概略をそのままの手順に限定するものではない。
〔指示光投射条件設定処理〕
図15は、制御装置13による指示光投射条件設定処理について説明するためのフローチャートである。図15のフローチャートに沿った説明においては、制御装置13を動作の主体として説明する。
図15において、まず、制御装置13は、第2画像162から検出光151の切断点170を抽出する(ステップS151)。
次に、制御装置13は、切断点170を結んで第1領域171を設定する(ステップS152)。
次に、制御装置13は、第1領域171を拡大して第2領域172を設定する(ステップS153)。
次に、制御装置13は、第1画像161から第2領域172の内部を削除し、検出用画像165を生成する(ステップS154)。
次に、制御装置13は、検出用画像165から作業対象箇所105を検出する(ステップS155)。
次に、制御装置13は、投射装置12に指示光を投射させるための投射条件を生成する(ステップS156)。
そして、制御装置13は、生成した投射条件を投射装置12に出力する(ステップS157)。
以上が、制御装置13による指示光投射条件設定処理についての説明である。なお、図15のフローチャートは一例であって、制御装置13による指示光投射条件設定処理をそのままの手順に限定するものではない。
以上のように、本実施形態のウェアラブルデバイスは、撮像装置、制御装置、および投射装置を備える。撮像装置は、画像データを生成する。制御装置は、画像データを撮像装置から取得し、取得した作業領域の画像データに基づいて投射条件を設定する。投射装置は、制御装置から投射条件を取得し、取得した投射条件に応じた光を投射する。制御装置は、所定の模様を形成する検出光を投射するための第1投射条件を設定する。制御装置は、検出光が照射されていないときに撮像された第1画像と、検出光が照射されているときに撮像された第2画像とを取得する。制御装置は、第2画像から検出される所定の模様の状態に基づいて第1領域を設定し、少なくとも第1領域を第1画像から除いた検出用画像を生成する。制御装置は、検出用画像から抽出される特徴に基づいて指示光照射位置を設定し、指示光照射位置に指示光を投射するための第2投射条件を設定する。
本実施形態の一態様において、制御装置は、所定の模様として縞状の模様を形成する検出光を投射するための第1投射条件を設定する。制御装置は、第1投射条件に応じて検出光が照射されているときに撮像された第2画像を取得し、取得した第2画像から検出される縞状の模様の不連続箇所を結ぶことによって第1領域を設定する。
本実施形態の一態様において、制御装置は、第2画像において検出される所定の模様の不連続箇所を結ぶことによって第1領域を設定し、少なくとも第1領域の内部を第1画像から除くことによって検出用画像を生成する。また、本実施形態の一態様において、制御装置は、第1領域を拡大した第2領域を設定し、第2領域の内部を第1画像から削除することによって検出用画像を生成する。
本実施形態のウェアラブルデバイスにおいては、作業対象に対して作業を行う作業体を除いた画像データから指示光照射位置を検出するので、手や腕などの作業体が生成する特徴によって指示光照射位置の特徴が検出されにくくなることがない。そのため、本実施形態のウェアラブルデバイスによれば、指示光照射位置の検出精度が向上する。すなわち、本実施形態のウェアラブルデバイスによれば、大掛かりな装置を用いずに、作業支援のための情報を表示させる位置を確実に抽出し、適切な作業支援を実現することができる。
(第2の実施形態)
次に、本発明の第2の実施形態に係るウェアラブルデバイスについて図面を参照しながら説明する。本実施形態のウェアラブルデバイスは、検出光の照射によって検出された手のひらに指示光を表示させる点において第1の実施形態とは異なる。
(構成)
図16は、本実施形態のウェアラブルデバイス2の構成の一例を示すブロック図である。ウェアラブルデバイス2は、撮像装置21、投射装置22、および制御装置23を備える。制御装置23は、撮像装置21および投射装置22に接続される。撮像装置21および投射装置22の構成は第1の実施形態と同様であるので、以下においては制御装置23の構成について説明する。
〔制御装置〕
図16のように、制御装置23は、撮像制御部231、検出部233、投射条件設定部236、投射条件記憶部237、および投射制御部239を有する。
撮像制御部231は、作業対象を含む範囲を撮像装置21に撮像させ、撮像装置21が撮像した画像データを取得する。撮像制御部231は、取得した画像データを検出部233に出力する。
検出部233は、撮像制御部231から画像データを取得する。検出部233は、検出光が照射されていない画像データ(第1画像)と、検出光が照射されている画像データ(第2画像)とを取得する。
検出部233は、取得した画像データから手や腕、手のひら、作業対象箇所、検出光、指示光などを検出する。検出部233は、画像データに含まれる特徴に基づいて、投射範囲内に進入した人体の一部(手や腕)や、作業対象箇所を検出する。例えば、検出部233は、取得した画像データに含まれる形状や色などの特徴に基づいて、人体の一部や作業対象箇所を検出する。また、検出部233は、取得した画像データにそれまでは写っていなかった特徴が検出された際に、その特徴が人体に起因するとみなして検出してもよい。本実施形態においては、検出部233は、第2画像に写っている検出光の模様の変化に基づいて手や腕を検出する例を挙げる。
検出部233は、手や腕が写っている第2画像を取得すると、その第2画像から検出光の切断点を抽出する。検出部233は、切断点を結んで第1領域を設定する。また、検出部233は、第1領域を拡大して第2領域を設定する。検出部233は、第1画像から第2領域の外部を削除した画像データ(検出用画像)を生成する。
検出部233は、検出用画像から、作業者の手のひらを検出する。検出部233は、検出用画像から手のひらを検出すると、その手のひらの位置座標を抽出する。検出部133は、抽出した手のひらの位置座標を投射条件設定部236に出力する。例えば、検出部133は、手の輪郭や指の形状、しわなどの特徴に基づいて手のひらを検出する。
投射条件設定部236は、検出光や指示光を投射するための投射条件を設定する。投射条件設定部236が設定する投射条件には、光源制御条件および変調素子制御条件が含まれる。投射条件設定部236は、設定した投射条件を投射制御部239に出力する。
投射条件設定部236は、作業対象の表面に表示させる像に対応するパターンを投射条件記憶部237から取得する。例えば、投射装置22が位相変調型の空間光変調素子を含む場合、作業対象の表面に表示させる情報に対応するパターンは位相分布である。以下においては、位相変調型の空間光変調素子を用いる例について説明する。
投射条件設定部236は、投射装置22から光を出射させるタイミングや、出射させる光の出力を制御するための光源制御条件を設定する。光源制御条件は、投射装置22に含まれる照射部(図示しない)が光を出射するタイミングを制御するための条件である。例えば、光源制御条件は、投射条件記憶部237に記憶させておけばよい。
また、投射条件設定部236は、作業対象の表面や手のひらに表示させる像を制御するための変調素子制御条件を設定する。変調素子制御条件は、作業対象の表面や手のひらに表示させる像に対応するパターンを空間光変調素子の表示部に表示させる条件に相当する。例えば、変調素子制御条件は、投射条件記憶部237に記憶させておけばよい。空間光変調素子の表示部にパターンが表示させた状態で、その表示部に光が照射されると、そのパターンに対応する像を作業対象の表面や手のひらに表示させるための投射光が投射される。
投射条件設定部236は、検出光を照射するタイミングにおいて、検出光のパターンを表示させるための位相分布を投射条件記憶部237から取得する。投射条件設定部236は、取得した位相分布と、検出光の照射位置と、投射タイミングとを含む投射条件を投射制御部239に出力する。なお、検出光の投射時間は、作業者が視認できない程度の短い時間に設定されることが好ましい。
また、投射条件設定部236は、手のひらの位置座標を取得すると、手のひらに指示光を表示させるための位相分布を投射条件記憶部237から取得する。投射条件設定部236は、取得した位相分布と、指示光の照射位置と、投射タイミングとを含む投射条件を投射制御部239に出力する。指示光は、作業者が視認できる時間に設定される。
投射条件記憶部237には、検出光に対応するパターンと、指示光に対応するパターンとが記憶される。本実施形態の場合、投射条件記憶部237には、検出光に対応する位相分布と、指示光に対応する位相分布とが記憶される。また、投射条件記憶部237には、図形や記号、数字、文字等の情報を手のひらに表示させるためのパターンを記憶させておいてもよい。また、投射条件記憶部237には、投射条件に含まれる光源制御条件や変調素子制御条件が記憶される。
投射制御部239は、投射条件設定部236から投射条件を取得する。投射制御部239は、投射条件設定部236が設定した投射条件に応じて、手のひらに投射光を投射するように投射装置22を制御する。投射制御部239は、表示させる像に対応するパターンを空間光変調素子の表示部に表示させるタイミングと、投射装置22の照射部(図示しない)から照射される光の照射タイミングとを同期させる。その結果、手のひらには、空間光変調素子の表示部に表示されたパターンに対応する像が表示される。
以上が、制御装置23の構成の詳細についての説明である。なお、図16は一例であって、本実施形態の制御装置23の構成をそのままの形態や手順に限定するものではない。
〔作業対象箇所の検出〕
ここで、制御装置23が、画像データから手を検出し、手のひらを検出するまでの手順について図面を参照しながら説明する。
図17は、制御装置23が、画像データから手を検出し、第1領域を設定するまでの手順を示す概念図である。
制御装置23は、検出光251が照射されていない画像データ(第1画像261)を撮像装置21から取得する(A)。また、制御装置23は、検出光251が照射された画像データ(第2画像262)を撮像装置21から取得する(B)。第2画像262には、検出光251の模様(縦縞のストライプ)が写っている。このときに制御装置23が取得する第1画像261および第2画像262は、連続したタイミングにおいて撮像されたものである。なお、第1画像261と第2画像262の撮像順番は入れ替わってもよい。
制御装置23は、第2画像262を取得すると(B)、検出光251の切断点270を抽出する(C)。図17のように、第2画像262に手が写っていると、背景と比べて手や腕の方が撮像装置21に近いため、手や腕に照射された検出光251の模様がずれる。その結果、背景に照射された検出光251の縦縞のストライプには切断点270が表れる。図17のように、第2画像262に手が写っていると、複数の切断点270が表れる。制御装置23は、抽出された複数の切断点270を結んで第1領域271を設定する(D)。
図18は、制御装置23が、手の輪郭を抽出し、指示光照射領域205として手のひらを検出するまでの手順を示す概念図である。
制御装置23は、第1領域271を設定すると(D)、第1領域271を拡大して第2領域272を設定する(E)。制御装置23は、第1画像261から第2領域272の外部を削除し、第1画像261から第2領域272の外部が削除された画像データ(検出用画像265)を生成する(F)。第1領域271は、手の輪郭上の点を結んだ領域になるため、第1画像261から第1領域271の外部を削除すると、手の一部が画像データから削除されてしまい、手の輪郭から特徴を抽出しにくくなる。そのため、第1領域271を拡大した第2領域272を設定し、第1画像261から第2領域272の外部を削除する。なお、検出用画像265は、指示光照射領域205を検出できる程度であれば、手の一部が削除されていてもよい。
そして、制御装置23は、検出用画像265から指示光照射領域205を検出する(G)。制御装置23は、指示光照射領域205を検出すると、その指示光照射領域205に指示光を投射するための投射条件を生成し、生成した投射条件を投射装置22に出力する。例えば、指示光照射領域205に表示されるパターンは、作業指示を示す図形や、記号、文字など、作業状況に応じて任意に設定できる。
以上が、ウェアラブルデバイス2の構成についての説明である。なお、図16〜図18は一例であって、本実施形態のウェアラブルデバイス1の構成や処理などをそのままの形態や手順に限定するものではない。
(動作)
次に、本実施形態のウェアラブルデバイス2の動作について図面をしながら説明する。以下においては、ウェアラブルデバイス2の動作の概略については省略し、制御装置23による指示光投射条件設定処理(図19)について説明する。なお、以下においては、指示光の照射対象を作業対象箇所と手のひらとで切り替え可能な例について説明する。例えば、作業者が手のひらを下に向けているときには作業対象箇所に指示光を照射し、作業者が手のひらを上に向けているときには手のひらに指示光を照射するように切り替える。
〔指示光投射条件設定処理〕
図19は、制御装置23による指示光投射条件設定処理について説明するためのフローチャートである。図19のフローチャートに沿った説明においては、制御装置23を動作の主体として説明する。
図19において、まず、制御装置23は、第2画像262から検出光251の切断点270を抽出する(ステップS251)。
次に、制御装置23は、切断点270を結んで第1領域271を設定する(ステップS252)。
次に、制御装置23は、第1領域271を拡大して第2領域272を設定する(ステップS253)。
ここで、照射対象が手の場合(ステップS254でYes)、制御装置23は、第2領域272の外部を削除することで検出用画像265を生成する(ステップS255)。例えば、制御装置23は、手の平が上を向いていることを検出した際には、照射対象が手であると判定してステップS255の処理を行う。
一方、照射対象が背景(作業対象箇所)である場合(ステップS254でNo)、制御装置23は、第2領域の内部を削除することで検出用画像265を生成する(ステップS256)。例えば、制御装置23は、手の平が下を向いていることを検出した際には、照射対象が作業対象箇所であると判定してステップS256の処理を行う。
次に、制御装置23は、検出用画像265から指示光照射領域205を検出する(ステップS257)。照射対象が手のひらの場合(ステップS254でNo)、指示光照射領域205は手のひらに設定される。一方、照射対象が作業対象箇所である場合(ステップS254でNo)、指示光照射領域205は背景(作業対象箇所)に設定される。
そして、制御装置23は、投射装置22に指示光を投射させるための投射条件を生成し、生成した投射条件を投射装置22に出力する(ステップS258)。
以上が、制御装置23による指示光投射条件設定処理についての説明である。なお、図19のフローチャートは一例であって、指示光投射条件設定処理をそのままの手順に限定するものではない。
以上のように、本実施形態のウェアラブルデバイスは、第2画像において検出される所定の模様の不連続箇所を結ぶことによって第1領域を形成し、少なくとも第1領域の外部を第1画像から除くことによって検出用画像を生成する。より好ましくは、第1領域を拡大させて第2領域を設定し、第2領域の外部を第1画像から除くことによって検出用画像を生成する。本実施形態のウェアラブルデバイスは、検出用画像から抽出された手や腕などの作業体を指示光照射位置に設定し、その指示光照射位置に向けて指示光を照射する。
本実施形態のウェアラブルデバイスによれば、作業対象を撮像した画像データから背景を除くことによって、作業体から特徴を抽出しやすくなる。そのため、本実施形態のウェアラブルデバイスによれば、指示光照射位置の検出精度が向上する。すなわち、本実施形態のウェアラブルデバイスによれば、大掛かりな装置を用いずに、作業支援のための情報を表示させる位置を確実に抽出し、適切な作業支援を実現することができる。
(第3の実施形態)
次に、本発明の第3の実施形態に係るウェアラブルデバイスについて図面を参照しながら説明する。本実施形態のウェアラブルデバイスは、作業者の手や腕が検出されるまでは低密度の検出光を照射し、手や腕が検出された時点で照射範囲を絞って高密度の検出光を照射する点において第1の実施形態とは異なる。
(構成)
図20は、本実施形態のウェアラブルデバイス3の構成の一例を示すブロック図である。ウェアラブルデバイス3は、撮像装置31、投射装置32、および制御装置33を備える。撮像装置31および投射装置32の構成は第1の実施形態と同様であるので、以下においては制御装置33の構成について説明する。
〔制御装置〕
図20のように、制御装置33は、撮像制御部331、検出部333、推定部334、位相分布変換部335、投射条件設定部336、投射条件記憶部337、および投射制御部339を有する。
撮像制御部331は、作業対象を含む範囲を撮像装置31に撮像させ、撮像装置31が撮像した画像データを取得する。撮像制御部331は、取得した画像データを検出部333に出力する。
検出部333は、撮像制御部331から画像データを取得する。検出部333は、検出光が照射されていない画像データ(第1画像)と、検出光が照射されている画像データ(第2画像)とを取得する。
検出部333は、取得した画像データから手や腕、作業対象箇所、検出光、指示光などを検出する。検出部333は、画像データに含まれる特徴に基づいて、投射範囲内に進入した人体の一部(手や腕)や、作業対象箇所を検出する。例えば、検出部333は、取得した画像データに含まれる形状や色などの特徴に基づいて、人体の一部や作業対象箇所を検出する。また、検出部333は、取得した画像データにそれまでは写っていなかった特徴が検出された際に、その特徴が人体に起因するとみなして検出してもよい。本実施形態においては、検出部333は、第2画像に写っている検出光の模様の変化に基づいて手や腕を検出する例を挙げる。
検出部333は、手や腕が写っている第2画像を取得すると、その第2画像から検出光の切断点を抽出する。検出部333は、切断点を結んで第1領域を設定する。また、検出部333は、第1領域を拡大して第2領域を設定する。検出部333は、第1画像から第2領域の内部を削除した画像データ(検出用画像)を生成する。
また、検出部333は、手や腕が写っている第2画像を取得すると、手や腕の動きを推定するための情報(推定補助情報とも呼ぶ)を推定部334に出力する。例えば、検出部333は、抽出した切断点を撮像時間に関連付けて推定部334に出力する。
検出部333は、検出用画像から、作業者が次に作業を行う予定の作業対象箇所を検出する。検出部333は、検出用画像から作業対象箇所を検出すると、その作業対象箇所の位置座標を抽出する。検出部333は、抽出した作業対象箇所の位置座標を投射条件設定部336に出力する。
推定部334は、手の動きを推定するための推定補助情報を検出部333から取得する。推定部334は、取得した推定補助情報に基づいて作業者の手の動きを推定し、次回に投射する検出光の照射範囲を設定する。推定部334は、設定した検出光の照射範囲を位相分布変換部335に出力する。
例えば、推定部334は、撮像時間に関連付けられた切断点の座標を推定補助情報として検出部333から取得する。推定部334は、今回の検出光の投射タイミングまでの期間に撮像された第2画像から抽出された複数の切断点の移動状況を比較する。そして、推定部334は、切断点の移動状況に基づいて次回の検出光の投射タイミングにおける照射範囲を設定する。
推定部334は、一例として、今回の検出光の投射タイミングまでの期間に抽出された複数の切断点のそれぞれの移動速度や位置に基づいて、次回の検出光の投射タイミングにおける手の位置を推定する。推定部334は、一例として、今回の検出光の投射タイミングまでの期間に抽出された複数の切断点を結んだ第1領域の重心などの特徴的な箇所の移動速度や位置に基づいて、次回の検出光の投射タイミングにおける手の位置を推定する。なお、推定部334による手の動きの推定方法は、次回の検出光の投射タイミングにおける手の位置を推定できさえすれば、ここで挙げた方法に限定されない。
位相分布変換部335は、検出光の照射範囲を推定部334から取得する。また、位相分布変換部335は、高密度の模様(密な検出光)を投射するための位相分布を投射条件記憶部337から取得する。位相分布変換部335は、投射条件記憶部337から取得した位相分布を、推定部334から取得した検出光の照射範囲に高密度の模様が表示されるための位相分布に変換する。位相分布変換部335は、変換後の位相分布を投射条件設定部336に出力する。
投射条件設定部336は、検出光や指示光を投射するための投射条件を設定する。投射条件設定部336が設定する投射条件には、光源制御条件および変調素子制御条件が含まれる。投射条件設定部336は、設定した投射条件を投射制御部339に出力する。
投射条件設定部336は、作業対象の表面に表示させる像に対応するパターンを投射条件記憶部337から取得する。例えば、投射装置32が位相変調型の空間光変調素子を含む場合、作業対象の表面に表示させる情報に対応するパターンは位相分布である。以下においては、位相変調型の空間光変調素子を用いる例について説明する。
投射条件設定部336は、投射装置32から光を出射させるタイミングや、出射させる光の出力を制御するための光源制御条件を設定する。光源制御条件は、投射装置32に含まれる照射部(図示しない)が光を出射するタイミングを制御するための条件である。例えば、光源制御条件は、投射条件記憶部337に予め記憶させておく。
また、投射条件設定部336は、作業対象表面に表示させる像を制御するための変調素子制御条件を設定する。変調素子制御条件は、作業対象の表面に表示させる像に対応する位相分布を空間光変調素子(図示しない)の表示部に表示させる条件に相当する。例えば、変調素子制御条件は、投射条件記憶部337に予め記憶させておく。空間光変調素子の表示部に位相分布が表示させた状態で、その表示部に光が照射されると、その位相分布に対応する画像を作業対象の表面に表示させるための投射光が投射される。
投射条件設定部336は、検出光を照射するタイミングにおいて、検出光の模様を表示させるための位相分布を投射条件記憶部337から取得する。手や腕が検出されていない段階において、投射条件設定部336は、低密度の模様(疎な検出光)を投射するための位相分布を投射条件記憶部337から取得する。一方、手や腕が検出されると、投射条件設定部336は、推定部334によって設定された照射範囲に高密度の模様(密な検出光)を投射するための位相分布を位相分布変換部335から取得する。
投射条件設定部336は、取得した位相分布と、検出光の照射位置と、投射タイミングとを含む投射条件を投射制御部339に出力する。なお、検出光の投射時間は、作業者が視認できない程度の短い時間に設定されることが好ましい。
また、投射条件設定部336は、作業対象箇所の位置座標を取得すると、作業対象箇所に指示光を表示させるための位相分布を投射条件記憶部337から取得する。投射条件設定部336は、取得した位相分布と、指示光の照射位置と、投射タイミングとを含む投射条件を投射制御部339に出力する。指示光は、作業者が視認できる以上の時間表示させることが好ましい。
投射条件記憶部337には、検出光に対応するパターンと、指示光に対応するパターンとが記憶される。検出光に対応するパターンには、疎な検出光(粗い模様)に対応するパターンと、密な検出光(細かい模様)に対応するパターンが含まれる。本実施形態の場合、投射条件記憶部337には、疎な検出光(粗い模様)に対応する位相分布と、密な検出光(細かい模様)に対応する位相分布と、指示光に対応する位相分布とが記憶される。また、投射条件記憶部337には、図形や記号、数字、文字等の情報を作業対象の表面に表示させるためのパターンを記憶させておいてもよい。また、投射条件記憶部337には、投射条件に含まれる光源制御条件や変調素子制御条件が記憶される。
投射制御部339は、投射条件設定部336から投射条件を取得する。投射制御部339は、投射条件設定部336が設定した投射条件に応じて、作業対象の表面に投射光を投射するように投射装置32を制御する。投射制御部339は、表示させる像に対応するパターンを空間光変調素子の表示部に表示させるタイミングと、投射装置32の照射部(図示しない)から照射される光の照射タイミングとを同期させる。
図21は、検出光の照射範囲を設定する例について説明するための概念図である。1回目の検出光の投射タイミングにおいて、投射装置32は、全領域に向けて、疎な検出光351−1を照射する。このとき、全領域に粗い検出光351−1が表示された第2画像362−1が取得される(A)。1回目の検出光の投射タイミングにおいて手が検出されると、2回目以降の検出光の投射タイミングにおいて、投射装置32は、照射範囲353が設定された密な検出光351−2を照射する。このとき、照射範囲353の内部に密な検出光351−2が表示された第2画像362−2が取得される(B)。2回目以降の検出光の投射タイミングにおいて、手の動きに追従できない状況になった場合は、全領域に向けて検出光351−1を照射しなおせばよい。
以上が、制御装置33の構成の詳細についての説明である。なお、図20および図21は一例であって、本実施形態の制御装置33の構成をそのままの形態や手順に限定するものではない。
(動作)
次に、本実施形態のウェアラブルデバイス3の動作について図面をしながら説明する。以下においては、ウェアラブルデバイス3の動作の概略(図22)を説明した後に、制御装置33による指示光投射条件設定処理(図23)と検出光投射条件設定処理(図24)について説明する。
図22は、ウェアラブルデバイス3の動作の概略について説明するためのフローチャートである。図22のフローチャートに沿った説明においては、ウェアラブルデバイス3を動作の主体として説明する。
図22において、まず、ウェアラブルデバイス3は、疎な検出光を照射して作業対象を撮像する(ステップS31)。このとき、ウェアラブルデバイス3は、疎な検出光が照射された作業対象の画像(第2画像)を生成する。
ここで、ウェアラブルデバイス3は、第2画像に手や腕が含まれるか検証する(ステップS32)。例えば、ウェアラブルデバイス3は、検出光に変化が見られた際に、第2画像に手や腕が含まれると判断する。
第2画像において手や腕が検出された場合(ステップS32でYes)、密な検出光を照射して作業対象を撮像する(ステップS33)。このとき、ウェアラブルデバイス3は、密な検出光が照射された作業対象の画像(第2画像)を生成する。一方、第2画像において手や腕が検出されなかった場合(ステップS32でNo)、ステップS31に戻る。
次に、ウェアラブルデバイス3は、検出光を照射せずに作業対象を撮像する(ステップS34)。このとき、ウェアラブルデバイス3は、検出光が照射されていない作業対象の画像(第1画像)を生成する。
次に、ウェアラブルデバイス3は、指示光投射条件設定処理を実行する(ステップS35)。指示光投射条件設定処理は、第2画像から検出された手や腕の領域を第1画像から削除した検出用画像を生成し、その検出用画像から作業対象箇所を検出して指示光の投射条件を設定する処理である。指示光投射条件設定処理の詳細については、図23のフローチャートに沿って後で説明する。
指示光投射条件設定処理(ステップS35)の次に、ウェアラブルデバイス3は、検出された作業対象箇所に指示光を投射する(ステップS36)。
次に、ウェアラブルデバイス3は、検出光投射条件設定処理を実行する(ステップS37)。検出光投射条件設定処理は、検出された手や腕の動きに合わせて検出光の照射範囲を設定する処理を含む。
そして、処理を継続する場合(ステップS38でYes)、ステップS33に戻る。一方、処理を継続しない場合(ステップS38でNo)、図22のフローチャートに沿った処理を終了とする。
以上が、ウェアラブルデバイス1の動作の概略についての説明である。なお、図22のフローチャートは一例であって、ウェアラブルデバイス3の動作の概略をそのままの手順に限定するものではない。
〔指示光投射条件設定処理〕
図23は、制御装置33による指示光投射条件設定処理について説明するためのフローチャートである。図23のフローチャートに沿った説明においては、制御装置33を動作の主体として説明する。
図23において、まず、制御装置33は、第2画像から検出光の切断点を抽出する(ステップS351)。
次に、制御装置33は、切断点を結んで第1領域を設定する(ステップS352)。
次に、制御装置33は、第1領域を拡大して第2領域を設定する(ステップS353)。
次に、制御装置33は、第2領域の内部を削除することで検出用画像を生成する(ステップS354)。
次に、制御装置33は、検出用画像から作業対象領域を検出する(ステップS355)。
次に、制御装置33は、投射装置32に指示光を投射させるための投射条件を生成する(ステップS356)。
そして、制御装置33は、生成した投射条件を投射装置32に出力する(ステップS357)。
以上が、制御装置33による指示光投射条件設定処理についての説明である。なお、図23のフローチャートは一例であって、制御装置33による指示光投射条件設定処理をそのままの手順に限定するものではない。
〔検出光投射条件設定処理〕
図24は、制御装置33による検出光投射条件設定処理について説明するためのフローチャートである。図24のフローチャートに沿った説明においては、制御装置33を動作の主体として説明する。
図24において、まず、制御装置33は、検出された手や腕の動きを推定する(ステップS371)。例えば、制御装置33は、切断点の移動速度や位置変化に基づいて手や腕の動きを推定する。
ここで、手や腕の動きを推定できた場合(ステップS372でYes)、制御装置33は、検出光の照射範囲を設定する(ステップS373)。
次に、制御装置33は、検出光の位相分布を、照射範囲が設定された検出光の位相分布に変換する(ステップS374)。
次に、制御装置33は、照射範囲が設定された検出光の投射条件を生成する(ステップS375)。
一方、手や腕の動きを推定できなかった場合(ステップS372でNo)、制御装置33は、照射範囲を設定せずに検出光の投射条件を生成する(ステップS376)。
そして、制御装置33は、設定された投射条件を投射装置32に出力する(ステップS377)。
以上が、制御装置33による検出光投射条件設定処理についての説明である。なお、図24のフローチャートは一例であって、検出光投射条件設定処理をそのままの手順に限定するものではない。
以上のように、本実施形態のウェアラブルデバイスは、第2画像から検出される特徴に基づいて作業体の動きを推定し、作業体の動きに合わせて検出光の照射範囲を設定し、設定した検出光の照射範囲を第1投射条件に追加する制御装置を備える。また、制御装置は、作業体を検出するまでは疎な検出光を投射するように投射装置を制御し、作業体を検出中の期間においては密な検出光を投射するように投射装置を制御する。
本実施形態のウェアラブルデバイスによれば、作業体の動きに合わせて検出光の照射範囲を設定することによって投射光の投射範囲を絞ることができるので、消費電力を低減できる。また、本実施形態のウェアラブルデバイスによれば、作業体を検出するまでは疎な検出光を投射し、作業体を検出中の期間においては密な検出光を投射するように投射装置を制御することによって、作業体を検出するまでの消費電力をさらに低減できる。
(第4の実施形態)
次に、本発明の第4の実施形態に係るウェアラブルデバイスについて図面を参照しながら説明する。本実施形態のウェアラブルデバイスは、検出光を投射する際に、投射光のパルス幅を小さくして出力を増大する点において第1の実施形態とは異なる。
(構成)
図25は、本実施形態のウェアラブルデバイス4の構成の一例を示すブロック図である。ウェアラブルデバイス4は、撮像装置41、投射装置42、および制御装置43を備える。撮像装置41および投射装置42の構成は第1の実施形態と同様であるので、以下においては制御装置43の構成について説明する。
〔制御装置〕
図25のように、制御装置43は、撮像制御部431、検出部433、投射条件設定部436、投射条件記憶部437、および投射制御部439を有する。
撮像制御部431は、作業対象を含む範囲を撮像装置41に撮像させ、撮像装置41が撮像した画像データを取得する。撮像制御部431は、取得した画像データを検出部433に出力する。
検出部433は、撮像制御部431から画像データを取得する。検出部433は、検出光が照射されていない画像データ(第1画像)と、検出光が照射されている画像データ(第2画像)とを取得する。
検出部433は、取得した画像データから腕や手、検出光、作業対象箇所、指示光などを検出する。検出部433は、画像データに含まれる特徴に基づいて、投射範囲内に進入した人体の一部(手や腕)や、作業対象箇所を検出する。例えば、検出部433は、取得した画像データに含まれる形状や色などの特徴に基づいて、人体の一部や作業対象箇所を検出する。また、検出部433は、取得した画像データにそれまでは写っていなかった特徴が検出された際に、その特徴が人体に起因するとみなして検出してもよい。本実施形態においては、検出部433は、第2画像に写っている検出光の模様の変化に基づいて手や腕を検出する例を挙げる。
検出部433は、手や腕が写っている第2画像を取得すると、その第2画像から検出光の切断点を抽出する。検出部433は、切断点を結んで第1領域を設定する。また、検出部433は、第1領域を拡大して第2領域を設定する。検出部433は、第1画像から第2領域の内部を削除し、第2領域の内部が削除された画像データ(検出用画像)を生成する。
検出部433は、検出用画像から、作業者が次に作業を行う予定の作業対象箇所を検出する。検出部433は、検出用画像から作業対象箇所を検出すると、その作業対象箇所の位置座標を抽出する。検出部433は、抽出した作業対象箇所の位置座標を投射条件設定部436に出力する。
投射条件設定部436は、検出光や指示光を投射するための投射条件を設定する。投射条件設定部436が設定する投射条件には、光源制御条件および変調素子制御条件が含まれる。投射条件設定部436は、設定した投射条件を投射制御部439に出力する。
投射条件設定部436は、作業対象の表面に表示させる像に対応するパターンを投射条件記憶部437から取得する。例えば、投射装置42が位相変調型の空間光変調素子を含む場合、作業対象の表面に表示させる情報に対応するパターンは位相分布である。以下においては、位相変調型の空間光変調素子を用いる例について説明する。
投射条件設定部436は、投射装置42から光を出射させるタイミングや、出射させる光の出力を制御するための光源制御条件を設定する。光源制御条件は、投射装置42に含まれる照射部(図示しない)が光を出射するタイミングを制御するための条件である。例えば、光源制御条件は、投射条件記憶部437に記憶させておけばよい。
また、投射条件設定部436は、作業対象表面に表示させる像を制御するための変調素子制御条件を設定する。変調素子制御条件は、作業対象の表面に表示させる像に対応するパターンを空間光変調素子(図示しない)の表示部に表示させる条件に相当する。例えば、変調素子制御条件は、投射条件記憶部437に記憶させておけばよい。
空間光変調素子の表示部にパターンが表示させた状態で、照射部からの光がその表示部に照射されると、そのパターンに対応する情報を作業対象の表面に表示させるための投射光が投射される。
投射条件設定部436は、検出光を照射するタイミングにおいて、作業対象に検出光のパターンを表示させるための位相分布を投射条件記憶部437から取得する。投射条件設定部436は、取得した位相分布と、検出光の照射位置と、投射タイミングとを含む投射条件を投射制御部439に出力する。投射条件設定部436は、検出光の投射条件を設定する際には、投射装置42から光を出射させる時間を短くするとともに、出射させる光の出力を大きくするような光源制御条件を設定する。なお、検出光の投射時間は、作業者が視認できない程度の短い時間に設定されることが好ましい。
また、投射条件設定部436は、作業対象箇所の位置座標を取得すると、作業対象箇所に指示光を表示させるための位相分布を投射条件記憶部437から取得する。投射条件設定部436は、取得した位相分布と、指示光の照射位置と、投射タイミングとを含む投射条件を投射制御部439に出力する。指示光は、作業者が視認できる以上の時間表示させることが好ましい。
投射条件記憶部437には、検出光に対応するパターンと、指示光に対応するパターンとが記憶される。本実施形態の場合、投射条件記憶部437には、検出光に対応する位相分布と、指示光に対応する位相分布とが記憶される。また、投射条件記憶部437には、図形や記号、数字、文字等の情報を作業対象の表面に表示させるためのパターンを記憶させておいてもよい。また、投射条件記憶部437には、投射条件に含まれる光源制御条件や変調素子制御条件が記憶される。
投射制御部439は、投射条件設定部436から投射条件を取得する。投射制御部439は、投射条件設定部436が設定した投射条件に応じて、作業対象の表面に投射光を投射するように投射装置42を制御する。投射制御部439は、表示させる像に対応するパターンを空間光変調素子の表示部に表示させるタイミングと、投射装置42の照射部(図示しない)から照射される光の照射タイミングとを同期させる。なお、撮像制御部431と投射制御部439とを接続し、投射装置42から検出光を投射させる際に、撮像装置41のシャッターが開いている時間を大きくする指示を撮像制御部431から撮像装置41に出力するように構成してもよい。
図26は、撮像装置41の撮像タイミングと、投射装置42の検出光の投射タイミングとの関係について説明するための概念図である。図26の上段(A)は、第1の実施形態に係るウェアラブルデバイス1の撮像装置11の撮像タイミングと、投射装置12の検出光の投射タイミングとの関係の一例である。図26の中段(B)は、本実施形態に係るウェアラブルデバイス4の撮像タイミングと、投射装置42の検出光の投射タイミングとの関係の一例である。図26の下段(C)は、本実施形態に係るウェアラブルデバイス4の撮像タイミングと、投射装置42の検出光の投射タイミングとの関係の別の一例である。
図26の中段(B)の例では、第1の実施形態と比べて、投射装置42からの検出光の投射タイミングにおいて、投射装置42からの投射光のパルス幅を短くするとともに、単位時間当たりの出力を大きくする。検出光の出射時間を短くし、出力を大きくすれば、検出光のコントラストが向上し、手の検出率が向上する。
図26の下段(C)の例では、中段(B)の例と比べて、投射装置42からの検出光の投射タイミングにおいて、撮像装置41のシャッター開放時間を短くする。検出光の出射時間を短くし、出力を大きくすれば、検出光のコントラストが向上し、手の検出率が向上すれば、撮像装置41のシャッター開放時間を短くすることができる。
以上が、制御装置43の構成の詳細についての説明である。なお、図25および図26は一例であって、本実施形態の制御装置43の構成をそのままの形態や手順に限定するものではない。
以上のように、本実施形態の制御装置は、検出光のパルス幅を短くするとともに、単位時間当たりの出力を大きくする条件を第1投射条件に追加する。本実施形態によれば、単位時間当たりの出力を大きくすることによって検出光の検出精度を向上することができるので、所定の模様の不連続箇所をより高精度に抽出できる。そのため、本実施形態によれば、手や腕などの検出体を検出用画像から高精度で除くことができるので、第1の実施形態よりも高精度の作業精度を実現できる。
(第5の実施形態)
次に、本発明の第5の実施形態に係るウェアラブルデバイスについて図面を参照しながら説明する。本実施形態のウェアラブルデバイスは、外部システムに接続可能な通信装置を備える点において第1の実施形態とは異なる。
(構成)
図27は、本実施形態のウェアラブルデバイス5の構成の一例を示すブロック図である。ウェアラブルデバイス5は、撮像装置51、投射装置52、制御装置53、および通信装置55を備える。制御装置53は、投射装置52、制御装置53、および通信装置55に接続される。
撮像装置51は、制御装置53の制御に応じて、作業対象を含む範囲を撮像する。撮像装置51は、作業対象を含む範囲を撮像することで生成される画像データを制御装置53に出力する。
投射装置52は、制御装置53の制御に応じて、投射光を投射する。投射装置52は、作業者の手や腕を検出するための検出光を投射する。また、投射装置52は、作業者が次に作業を行う予定の作業対象箇所にその位置や指示を示す指示光を投射する。
制御装置53は、撮像装置51および投射装置52を制御する。また、制御装置53は、通信装置55を介して、図示しない外部システムに接続される。
制御装置53は、所定のタイミングで検出光を投射するための投射条件(第1投射条件とも呼ぶ)を生成し、生成した第1投射条件を投射装置52に出力する。制御装置53は、撮像装置51を制御し、作業対象を含む範囲を撮像させる。制御装置53は、撮像装置51を制御し、検出光が表示されていない画像データ(第1画像)と、検出光が表示された画像データ(第2画像)とを連続したタイミングで撮像させる。制御装置53は、撮像装置51から第1画像および第2画像を取得し、取得した第2画像から作業者の手や腕を検出する。制御装置53は、作業者の手や腕を第2画像から検出すると、作業者の手や腕の範囲を第1画像から削除することによって検出用画像を生成する。制御装置53は、検出用画像から作業対象箇所を検出する。制御装置53は、検出した作業対象箇所に指示光を投射するための投射条件(第2投射条件とも呼ぶ)を生成し、生成した第2投射条件を投射装置52に出力する。
通信装置55は、有線通信や無線通信によって、外部システムと通信する機能を有する。例えば、通信装置55は、有線通信や無線通信によって、図示しない情報処理装置や携帯端末、表示装置などとの接続を可能とする入出力インターフェースや通信インターフェースによって実現される。
例えば、制御装置53は、外部システムからの指示に応じて、撮像装置51や投射装置52を制御する。また、例えば、制御装置53は、撮像装置51から取得する画像データを外部システムに出力する。例えば、第1画像や第2画像、検出用画像を外部システムにおいて確認できるように構成すれば、作業者の作業を遠隔で監視したり、作業者に対して遠隔で指示を行なったりすることが可能になる。
以上のように、本実施形態のウェアラブルデバイスは、外部システムと制御装置とを通信可能に接続する通信装置を備える。本実施形態のウェアラブルデバイスによれば、外部システムと連携した作業支援が可能になる。例えば、本実施形態によれば、外部のコンピュータやサーバに構築された管理システムを通じて、作業者の作業を遠隔で監視したり、指示を与えたりすることが可能になる。また、例えば、本実施形態によれば、作業対象が設置された場所とは異なる位置から、外部システムを介して、作業対象が設置された場所に配置された作業用ロボットを制御し、作業用ロボットを用いて作業を行うことが可能になる。
(ハードウェア)
ここで、本発明の各実施形態に係る制御装置の処理を実行するハードウェア構成について、図28の情報処理装置90を一例として挙げて説明する。なお、図28の情報処理装置90は、各実施形態の制御装置の処理を実行するための構成例であって、本発明の範囲を限定するものではない。
図28のように、情報処理装置90は、プロセッサ91、主記憶装置92、補助記憶装置93、入出力インターフェース95および通信インターフェース96を備える。図28においては、インターフェースをI/F(Interface)と略して表記する。プロセッサ91、主記憶装置92、補助記憶装置93、入出力インターフェース95および通信インターフェース96は、バス99を介して互いにデータ通信可能に接続される。また、プロセッサ91、主記憶装置92、補助記憶装置93および入出力インターフェース95は、通信インターフェース96を介して、インターネットやイントラネットなどのネットワークに接続される。
プロセッサ91は、補助記憶装置93等に格納されたプログラムを主記憶装置92に展開し、展開されたプログラムを実行する。本実施形態においては、情報処理装置90にインストールされたソフトウェアプログラムを用いる構成とすればよい。プロセッサ91は、本実施形態に係る制御装置による処理を実行する。
主記憶装置92は、プログラムが展開される領域を有する。主記憶装置92は、例えばDRAM(Dynamic Random Access Memory)などの揮発性メモリとすればよい。また、MRAM(Magnetoresistive Random Access Memory)などの不揮発性メモリを主記憶装置92として構成・追加してもよい。
補助記憶装置93は、種々のデータを記憶する。補助記憶装置93は、ハードディスクやフラッシュメモリなどのローカルディスクによって構成される。なお、種々のデータを主記憶装置92に記憶させる構成とし、補助記憶装置93を省略することも可能である。
入出力インターフェース95は、情報処理装置90と周辺機器とを接続するためのインターフェースである。通信インターフェース96は、規格や仕様に基づいて、インターネットやイントラネットなどのネットワークを通じて、外部のシステムや装置に接続するためのインターフェースである。入出力インターフェース95および通信インターフェース96は、外部機器と接続するインターフェースとして共通化してもよい。
情報処理装置90には、必要に応じて、キーボードやマウス、タッチパネルなどの入力機器を接続するように構成してもよい。それらの入力機器は、情報や設定の入力に使用される。なお、タッチパネルを入力機器として用いる場合は、表示機器の表示画面が入力機器のインターフェースを兼ねる構成とすればよい。プロセッサ91と入力機器との間のデータ通信は、入出力インターフェース95に仲介させればよい。
また、情報処理装置90には、情報を表示するための表示機器を備え付けてもよい。表示機器を備え付ける場合、情報処理装置90には、表示機器の表示を制御するための表示制御装置(図示しない)が備えられていることが好ましい。表示機器は、入出力インターフェース95を介して情報処理装置90に接続すればよい。
また、情報処理装置90には、必要に応じて、ディスクドライブを備え付けてもよい。ディスクドライブは、バス99に接続される。ディスクドライブは、プロセッサ91と図示しない記録媒体(プログラム記録媒体)との間で、記録媒体からのデータ・プログラムの読み出し、情報処理装置90の処理結果の記録媒体への書き込みなどを仲介する。記録媒体は、例えば、CD(Compact Disc)やDVD(Digital Versatile Disc)などの光学記録媒体で実現できる。また、記録媒体は、USB(Universal Serial Bus)メモリやSD(Secure Digital)カードなどの半導体記録媒体や、フレキシブルディスクなどの磁気記録媒体、その他の記録媒体によって実現してもよい。
以上が、本発明の各実施形態に係る制御装置を可能とするためのハードウェア構成の一例である。なお、図28のハードウェア構成は、各実施形態に係る制御装置の演算処理を実行するためのハードウェア構成の一例であって、本発明の範囲を限定するものではない。また、各実施形態に係る制御装置に関する処理をコンピュータに実行させるプログラムも本発明の範囲に含まれる。さらに、各実施形態に係るプログラムを記録したプログラム記録媒体も本発明の範囲に含まれる。
各実施形態の制御装置の構成要素は、任意に組み合わせることができる。また、各実施形態の制御装置の構成要素は、ソフトウェアによって実現してもよいし、回路によって実現してもよい。
以上、実施形態を参照して本発明を説明してきたが、本発明は上記実施形態に限定されるものではない。本発明の構成や詳細には、本発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
1、2、3、4、5 ウェアラブルデバイス
11、21、31、41、51 撮像装置
12、22、32、42、52 投射装置
13、23、33、43、53 制御装置
55 通信装置
111 撮像素子
113 画像処理プロセッサ
115 内部メモリ
117 データ出力回路
121 照射部
122 光源
123 コリメートレンズ
125 光源駆動電源
126 空間光変調素子
127 変調素子駆動部
129 投射光学系
131、231、431 撮像制御部
133、233、433 検出部
136、236、436 投射条件設定部
137、237、437 投射条件記憶部
139、239、439 投射制御部
191 フーリエ変換レンズ
192 アパーチャ
193 投射レンズ
331 撮像制御部
333 検出部
334 推定部
335 位相分布変換部
336 投射条件設定部
337 投射条件記憶部
339 投射制御部

Claims (10)

  1. 画像データを生成する撮像装置と、
    前記画像データを前記撮像装置から取得し、取得した前記画像データに基づいて投射条件を設定する制御装置と、
    前記制御装置から前記投射条件を取得し、取得した前記投射条件に応じた光を投射する投射装置と、を備え、
    前記制御装置は、
    所定の模様を形成する検出光を投射するための第1投射条件を設定し、
    前記検出光が照射されていないときに撮像された第1画像と、前記検出光が照射されているときに撮像された第2画像とを取得し、
    前記第2画像から検出される前記所定の模様の状態に基づいて第1領域を設定し、
    少なくとも前記第1領域を前記第1画像から除いた検出用画像を生成し、
    前記検出用画像から抽出される特徴に基づいて指示光照射位置を設定し、
    前記指示光照射位置に指示光を投射するための第2投射条件を設定するウェアラブルデバイス。
  2. 前記制御装置は、
    前記第2画像において検出される前記所定の模様の不連続箇所を結ぶことによって前記第1領域を設定し、少なくとも前記第1領域の内部を前記第1画像から除くことによって前記検出用画像を生成する請求項1に記載のウェアラブルデバイス。
  3. 前記制御装置は、
    前記第1領域を拡大した第2領域を設定し、前記第2領域の内部を前記第1画像から削除することによって前記検出用画像を生成する請求項2に記載のウェアラブルデバイス。
  4. 前記制御装置は、
    前記第2画像において検出される前記所定の模様の不連続箇所を結ぶことによって前記第1領域を形成し、少なくとも前記第1領域の外部を前記第1画像から除くことによって前記検出用画像を生成する請求項1に記載のウェアラブルデバイス。
  5. 前記制御装置は、
    前記第2画像から検出される特徴に基づいて作業体の動きを推定し、前記作業体の動きに合わせて前記検出光の照射範囲を設定し、設定した前記検出光の照射範囲を前記第1投射条件に追加する請求項1乃至4のいずれか一項に記載のウェアラブルデバイス。
  6. 前記制御装置は、
    前記作業体を検出するまでは疎な前記検出光を投射するように前記投射装置を制御し、
    前記作業体を検出中の期間においては密な前記検出光を投射するように前記投射装置を制御する請求項5に記載のウェアラブルデバイス。
  7. 前記制御装置は、
    前記所定の模様として縞状の模様を形成する前記検出光を投射するための前記第1投射条件を設定し、
    前記第1投射条件に応じて前記検出光が照射されているときに撮像された前記第2画像を取得し、
    取得した前記第2画像から検出される前記縞状の模様の不連続箇所を結ぶことによって前記第1領域を設定する請求項1乃至6のいずれか一項に記載のウェアラブルデバイス。
  8. 前記制御装置は、
    前記検出光のパルス幅を短くするとともに、単位時間当たりの出力を大きくする条件を前記第1投射条件に追加する請求項1乃至7のいずれか一項に記載のウェアラブルデバイス。
  9. 外部システムと前記制御装置とを通信可能に接続する通信装置を備える請求項1乃至8のいずれか一項に記載のウェアラブルデバイス。
  10. 画像データを生成する撮像装置と、前記画像データに基づいて投射条件を設定する制御装置と、前記投射条件に応じた光を投射する投射装置と、を備えるウェアラブルデバイスの制御方法であって、
    前記制御装置が、
    所定の模様を形成する検出光を投射するための第1投射条件を設定し、
    前記検出光が照射されていないときに撮像された第1画像と、前記検出光が照射されているときに撮像された第2画像とを取得し、
    前記第2画像から検出される前記所定の模様の状態に基づいて第1領域を設定し、
    少なくとも前記第1領域を前記第1画像から除いた検出用画像を生成し、
    前記検出用画像から抽出される特徴に基づいて指示光照射位置を設定し、
    前記指示光照射位置に指示光を投射するための第2投射条件を設定する制御方法。
JP2019046024A 2019-03-13 2019-03-13 ウェアラブルデバイスおよび制御方法 Active JP6705926B1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019046024A JP6705926B1 (ja) 2019-03-13 2019-03-13 ウェアラブルデバイスおよび制御方法
PCT/JP2020/006427 WO2020184100A1 (ja) 2019-03-13 2020-02-19 ウェアラブルデバイスおよび制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019046024A JP6705926B1 (ja) 2019-03-13 2019-03-13 ウェアラブルデバイスおよび制御方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020078773A Division JP2020150547A (ja) 2020-04-28 2020-04-28 ウェアラブルデバイスおよび制御方法

Publications (2)

Publication Number Publication Date
JP6705926B1 true JP6705926B1 (ja) 2020-06-03
JP2020150400A JP2020150400A (ja) 2020-09-17

Family

ID=70858273

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019046024A Active JP6705926B1 (ja) 2019-03-13 2019-03-13 ウェアラブルデバイスおよび制御方法

Country Status (2)

Country Link
JP (1) JP6705926B1 (ja)
WO (1) WO2020184100A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022052820A (ja) * 2020-09-24 2022-04-05 Necプラットフォームズ株式会社 制御装置、制御方法、およびプログラム
JP7328409B2 (ja) * 2020-09-24 2023-08-16 Necプラットフォームズ株式会社 制御装置、制御方法、情報入力システムおよびプログラム
JP7023022B1 (ja) 2021-02-04 2022-02-21 Fairy Devices株式会社 首掛け型装置及び遠隔作業支援システム
JP7361438B2 (ja) 2021-10-18 2023-10-16 Fairy Devices株式会社 情報処理システム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011036618A2 (en) * 2009-09-22 2011-03-31 Pebblestech Ltd. Remote control of computer devices
WO2016098281A1 (ja) * 2014-12-18 2016-06-23 日本電気株式会社 投射装置およびインターフェース装置
JP6763368B2 (ja) * 2015-03-25 2020-09-30 日本電気株式会社 制御装置、制御方法及びプログラム
US10955971B2 (en) * 2016-10-27 2021-03-23 Nec Corporation Information input device and information input method

Also Published As

Publication number Publication date
JP2020150400A (ja) 2020-09-17
WO2020184100A1 (ja) 2020-09-17

Similar Documents

Publication Publication Date Title
JP6705926B1 (ja) ウェアラブルデバイスおよび制御方法
JP6784295B2 (ja) 距離測定システム、距離測定方法およびプログラム
US10580134B2 (en) Method for measuring a dental object
JP6665949B2 (ja) 投射装置、投射方法およびプログラム
JP2015056143A (ja) 情報処理装置および情報処理方法
JPWO2017013863A1 (ja) 照射システム、照射方法および照射プログラム
US11385742B2 (en) Position detection method, position detection device, and position detection system
JP2016063248A (ja) 画像処理装置および画像処理方法
JP2021118413A (ja) プロジェクターの制御方法、プロジェクター、及び表示システム
JP2021128660A (ja) 操作検出方法、操作検出装置及び表示システム
JP2021128659A (ja) 位置検出方法、位置検出装置及び表示装置
WO2018056195A1 (ja) 投射システム、投射方法およびプログラム記録媒体
JP2020150547A (ja) ウェアラブルデバイスおよび制御方法
JP2019033339A (ja) 情報処理装置、投影装置、情報処理方法、及び、プログラム
JP2015053675A (ja) 画像投影装置
JP6645588B2 (ja) 表示システム
JP2021128661A (ja) 操作検出方法、操作検出装置及び表示システム
JP6763368B2 (ja) 制御装置、制御方法及びプログラム
JP6335809B2 (ja) 縞パタン画像取得装置、縞パタン画像取得方法、三次元位置特定装置、三次元位置特定方法、およびプログラム
JP6206008B2 (ja) プロジェクタシステム、プロジェクタ装置、プロジェクタ制御方法及びプロジェクタ制御プログラム
JP6604528B2 (ja) 画像処理装置及び画像処理システム
JP2017138472A (ja) 画像供給装置、プログラム、投影システムおよび画像供給方法
JP2019220872A (ja) 電子機器、推奨位置報知方法、推奨位置報知プログラム
CN112578613B (zh) 投影仪以及投影仪的控制方法
WO2023167162A1 (ja) ドットパターン生成方法及び3次元計測装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190313

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200421

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200514

R150 Certificate of patent or registration of utility model

Ref document number: 6705926

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150