JP6935404B2 - 接続方法、視覚化システムおよびコンピュータプログラム製品 - Google Patents

接続方法、視覚化システムおよびコンピュータプログラム製品 Download PDF

Info

Publication number
JP6935404B2
JP6935404B2 JP2018532508A JP2018532508A JP6935404B2 JP 6935404 B2 JP6935404 B2 JP 6935404B2 JP 2018532508 A JP2018532508 A JP 2018532508A JP 2018532508 A JP2018532508 A JP 2018532508A JP 6935404 B2 JP6935404 B2 JP 6935404B2
Authority
JP
Japan
Prior art keywords
marker
connection
setup
components
component
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018532508A
Other languages
English (en)
Other versions
JP2018533147A (ja
Inventor
マッジョーレ,フランク
シュラック,ステファン
Original Assignee
ザトーリウス ステディム ビオテーク ゲーエムベーハー
ザトーリウス ステディム ビオテーク ゲーエムベーハー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ザトーリウス ステディム ビオテーク ゲーエムベーハー, ザトーリウス ステディム ビオテーク ゲーエムベーハー filed Critical ザトーリウス ステディム ビオテーク ゲーエムベーハー
Publication of JP2018533147A publication Critical patent/JP2018533147A/ja
Application granted granted Critical
Publication of JP6935404B2 publication Critical patent/JP6935404B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482Interaction with lists of selectable items, e.g. menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04845Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04847Interaction techniques to control parameter settings, e.g. interaction with sliders or dials
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/20Indexing scheme for editing of 3D models
    • G06T2219/2008Assembling, disassembling

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • Human Computer Interaction (AREA)
  • Architecture (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)
  • Length Measuring Devices With Unspecified Measuring Means (AREA)

Description

本発明は、測定または製造セットアップを組み立てるための改良、特にセットアップの2以上のコンポーネントをリンクする接続に関する。
当技術分野では、複数のコンポーネントから手動で測定または製造セットアップを組み立てることが知られている。この目的のために、組み立てられる異なる部品の組み立ておよび正しい接続が、視覚的におよび/または手動で検査される。コンポーネントの組立てを動作させる前に、オペレータは、すべての接続をチェックしなければならず、技術データシートを参照して、所定の仕様に従ってセットアップを組み立てるために、実行可能なコンポーネントを選択する。
測定または製造セットアップの複雑さが増すにつれて、複数のコンポーネントならびにそれらの間の接続の設計および構成がますます困難になる。この問題は、例えば、使い捨て容器が、流体の入出力のための複数の接続を有し、電力を受け取り、センサまたは他の要素と通信するための複数の接続を有し、そして容器が、複数のコンポーネントおよび接続を含む他の装置にさらに接続され、単一のユニット動作を実行するように構成された複雑な構成を形成するバイオ医薬品産業内の使い捨て機器にとって特に重要である。
文献US8749396B2は、2つのコンポーネント間の接続が正しく確立されるか否かを決定するためにセットアップコンポーネントに関連する可変マーカを使用する拡張現実システムを開示する。文献WO2011/154072A1は、2つのコンポーネントが適合するか否かを決定するためにセットアップコンポーネントに関連するマーカを利用する拡張現実システムを開示する。
US8749396 B2 WO2011/154072 A1
本発明の目的は、オペレータがその接続およびコンポーネントを効率的に構成することによって測定または製造セットアップを設計および最適化することを可能にする方法、視覚化システムおよびコンピュータプログラム製品を提案することである。
概要
一態様によれば、測定または製造セットアップのための接続方法が提供される。方法は、以下のステップ:
‐視覚化システムに、処理装置、出力装置、および少なくとも1つのキャプチャモジュールを提供するステップであって、これにより、少なくとも1つのキャプチャモジュールは、作業空間に属する識別データを取り込むことができる、前記ステップ;
‐作業空間に少なくとも1つの第1のマーカを有する第1のセットアップコンポーネントを提供するステップ;
‐作業空間に少なくとも1つの第2のマーカを有する第2のセットアップコンポーネントを提供するステップであって、第2のセットアップコンポーネントは少なくとも1つの接続を介して第1のセットアップコンポーネントに接続可能である、前記ステップ;
‐少なくとも1つのキャプチャモジュールによって第1のマーカおよび第2のマーカに関する識別データを取り込むステップ;
‐第1および第2のマーカを識別するステップであって、それにより、処理装置は、識別された第1のマーカおよび第2のマーカに割り当てられたそれぞれのデジタル情報をデータベースから検索し、処理装置は、検索されたデジタル情報およびキャプチャされた識別データに基づいて、第1のセットアップコンポーネントと第2のセットアップコンポーネントとの少なくとも1つの接続を決定する、前記ステップ;
‐決定にしたがって、第1のセットアップコンポーネントと第2のセットアップコンポーネントとの間の少なくとも1つの接続の視覚的表現を出力するステップを含む。
別の態様によれば、測定または製造セットアップにおける接続用の視覚化システムが提供される。該視覚化システムは、
‐作業空間に属する識別データをキャプチャすることができる少なくとも1つのキャプチャモジュール、
‐少なくとも1つのキャプチャモジュールに通信可能に接続された処理装置であって、
−−少なくとも1つのキャプチャモジュールによってキャプチャされた識別データの第1のセットアップコンポーネントの第1のマーカおよび第2のセットアップコンポーネントの第2のマーカの存在を検出するステップであって、第2のセットアップコンポーネントは、少なくとも1つの接続を介して第1のセットアップコンポーネントに接続可能である、前記ステップと、
−−第1および第2のマーカを識別するステップと、
−−識別された第1および第2のマーカに割り当てられたデジタル情報をデータベースから検索するステップと、
−−検索されたデジタル情報およびキャプチャされた識別データに基づいて、第1のセットアップコンポーネントと第2のセットアップコンポーネントとの少なくとも1つの接続に関する決定を行うステップを実行可能な、前記処理装置、
−処理装置の決定に従って第1のセットアップコンポーネントと第2のセットアップコンポーネントとの間の少なくとも1つの接続の視覚的表現を出力するための出力装置を含む。
さらなる態様によれば、測定または製造セットアップにおけるコンピュータ支援接続のための信号および/またはデータストリームとして特にコンピュータ可読記憶媒体上に具体化されたコンピュータプログラム製品が提供され、コンピュータプログラムは、適切なシステム上で実行されると、第1の態様による方法を実行することができる。
例示的な実施形態の詳細を、例示的な図面を参照して以下に説明する。他の特徴は、説明、図面、および請求項から明らかになるであろう。
図1は、物理的なマーカ追跡を利用する複数のコンポーネント間の構成可能な接続の一例を示す。 図2は、仮想マーカ追跡を利用する複数のコンポーネント間の構成可能な接続の一例を示す。 図3は、複数の仮想コンポーネント間の流体接続を含む設定可能なセットアップの一例を示す。 図4は、図3のセットアップを構成する例を示す。 図5は、複数のコンポーネントおよびそれらの間の接続を含むセットアップの最適構成を決定するために利用される仮想シミュレーションの例を示す。
図6は、複数のコンポーネントおよびそれらの間の接続を含むセットアップの最適な価格設定を決定するために利用される仮想シミュレーションの例を示す。 図7は、マーカー装置とその使用例を示す。 図8は、図7に示すような複数のマーカ装置を利用する複数の仮想コンポーネント間の構成可能な接続の一例を示す。 図9は、距離の手動測定のための外部測定ツールの例を示す。
以下の文章では、図面を参照して実施例の詳細な説明を行う。実施例に対する様々な変更を行うことができることを理解されたい。特に、1つの例の1つまたは複数の要素を組み合わせて、新しい例を形成するために他の例で使用することができる。
本発明は、視覚化システムを介した、物理的な、拡張された、または仮想のセットアップコンポーネント間の仮想または拡張された接続の構成および表示に関する。
セットアップコンポーネントは、測定または製造セットアップの機器に属する、装置および/またはシステムなどの任意のオブジェクトであってもよい。
測定または製造のためのセットアップは、フィルタ装置の完全性および/またはフィルタ能力および/または濾過性を試験するためのセットアップ、容器および/または使い捨てバッグの漏れ気密性を試験するためのセットアップ、バイオリアクターを充電、制御および/または排出するためのセットアップ、使い捨てバイオリアクター容器、ポンプ、深層濾過装置(細胞および細胞デブリ除去用)、および使い捨て貯蔵バッグによるバイオリアクター濾過ユニット操作のためのセットアップなどのさまざまな実験室セットアップまたは工業用セットアップを含む。
例示的には、コンポーネントは、ポンプ、バルブ、フィルタ装置、ホース接続、フラスコ、リアクタ、容器、冷却器、ヒータ、電源端子、制御装置、センサ装置(例えば、温度センサ、圧力センサ、光センサ)、およびこれらの組み合わせであり得る。一例では、コンポーネントは、使い捨てのコンポーネントであってもよい。
コンポーネントは互いに接続可能であり、接続は、流体接続、電気接続および/または機械的接続を含むことができる。コンポーネント間の接続は、セットアップのすべての移動、電力、データおよび材料の入出力を行うことができる。典型的には、接続は、パイプ、チューブ、ホース、ケーブル、コンベヤベルト、およびそれらの組み合わせであってもよい。いくつかの例では、接続は、移動接続、すなわち、2つの端の少なくとも1つが固定されていない接続を含むことができる。移動接続は、例えば、それに沿ってケーブルの端部が接続を維持しながらスライドすることができるトラック(track)、および/またはそれが接続しなければならないポイントを自動的に発見する移動ロボットアームである。
接続方法は、コンピュータ支援型であってもよい。視覚化システムを使用する接続方法は、複数の接続で接続された複数の機器コンポーネントの構成および設計を支援する一方で、複雑なシステムの誤った構成の可能性を低減する。コンポーネントおよびそれらの接続の間隔およびセットアップ構成の変更により、セットアップの最適化を達成することができる。
視覚化システムは、拡張現実、仮想現実、または複合現実システムであってもよい。拡張現実は、オブジェクトおよび/または情報を含むことができるコンピュータ生成入力によって要素が拡張された、物理的な現実世界環境の改良バージョンである。バーチャルリアリティは、人間が例えば特別な電子機器を使用することによって、一見リアルにまたは物理的なやり方で相互作用することができる3次元環境のコンピュータ生成シミュレーションである。複合現実は、現実と仮想のオブジェクトと情報とを組み合わせた環境を指す。
視覚化システムによって出力された接続は、既存のセットアップ間または拡張バージョンの既存の物理的接続間の拡張現実的な接続など、仮想環境内の仮想接続または拡張された接続であってもよい。同様に、視覚化システムで視覚化されるコンポーネントは、現実世界に存在する物理コンポーネントに対応するという点で、物理コンポーネントであってもよい。あるいは、コンポーネントは、現実世界のコンポーネントに基づいて拡張されたコンポーネントであってもよく、余分な要素または重畳された情報などの補足的な機能を備えていてもよい。最後に、コンポーネントは、視覚化システム内にのみ存在する完全に仮想のコンポーネントであってもよい。
物理的な、拡張された、または仮想的なコンポーネントは、セットアップ全体またはセットアップの一部を含むことができる作業空間に配置されてもよい。作業空間には、物理および仮想コンポーネントの任意の組み合わせが含まれる場合がある。例えば、作業空間は、実験室、工場、殺菌室などであってもよい。仮想コンポーネントのみが使用される場合、作業空間は、視覚化システムにおいて生成される仮想空間であってもよい。仮想現実セットアップは、物理的作業空間内に存在し、深度カメラ、レーザレンジファインダ、LIDAR、エコーロケーション、および/または他の室内走査技術システムを用いて室内を走査することによって生成することができる。
コンポーネントは、作業空間に少なくとも1つのマーカを有することができる。一例によれば、マーカは、それぞれのマーカから一意的な識別を読み取るため、および/またはそれぞれのマーカーをローカライズするために、装置、製品、部品、アイテムまたは消耗品またはそれらの組み合わせに埋め込まれたおよび/またはマウントされた物理的な種類のものであってもよい。マーカは、コンポーネント自体の形状であってもよい。マーカは、バーコード、カラーコード、絵文字、アイテムの形状、英数字などの光学マーカ、または、無線識別(RFID)タグ、金属ストライプ、オーディオマーカ、磁気マーカなどの電磁マーカ、または他のマーカ種類を含むことができる。
マーカは、視覚化システムにデータを能動的に通信し、その周囲に関する情報を収集することができるマーカ装置を含むことができる。マーカ装置は、限定するものではないが、カメラ、高速カメラ、電荷結合装置(CCD)、RFID装置、近距離通信(NFC)装置、マイク、フォトダイオード、赤外線感知装置、動き追跡装置、視標追跡装置、光感知装置、光スペクトル感知装置、および特定の作業タスクを完了するための他の特殊なセンサ装置などの感知装置;
デジタルディスプレイ、電子インクディスプレイ、液晶ディスプレイ(LCD)、発光ダイオード(LED)ディスプレイ、有機発光ダイオード(OLED)ディスプレイ、プラズマディスプレイ、ヘッドアップディスプレイ(HUD)、ウェアラブルディスプレイ、プロジェクションディスプレイ、超高速プロジェクションディスプレイ、蛍光ディスプレイ、メカニカルディスプレイ、触覚ディスプレイ、オーディオディスプレイ、超音波ディスプレイ、または特定の作業タスクを完了するための他の特殊ディスプレイ装置などのディスプレイ装置;
ユニバーサルシリアルバス(USB)接続、シリアル接続、RS−232接続、イーサネット(登録商標)接続、電話接続、DSL接続、光ファイバ接続、ケーブル接続、BNC接続、または他の有線接続ポートなどの有線接続などの通信装置、WiFi接続、セルラー接続、アクティブRFID接続、NFC接続、無線接続、ビジュアル接続または他の無線ソースなどの無線通信装置;および、バッテリ、電源コードまたは他の有線接続、動力通信ポート(USB)、太陽電池、機械的電源、電気機械的電源(ハンドクランクなど)、またはワイヤレス電源などの電力装置;を含む、複数の装置を含むことができる。
別の例によれば、マーカは、視覚化システムの出力装置上に表示される仮想地理空間位置を含むシミュレートされた仮想マーカであってもよい。仮想マーカは、キャプチャモジュールから取得され、処理装置によって処理される作業空間内の位置を使用して、出力装置上に配置されてもよい。仮想マーカは、少なくとも1つの入力装置を使用して作業空間内の位置に仮想的に移動させることができる。少なくとも1つの入力装置は、タッチスクリーン装置、ハンド追跡装置、ジェスチャ追跡装置、身体追跡装置、視標追跡装置、視線追跡装置、筋電図(EMG)追跡装置、脳または人間によって制御されるインターフェース、およびキーボード、マウス、スタイラスおよびグローブセンサーなどの他の外部接続された周辺機器の任意の1つであることができる。
マーカは、可変マーカ、すなわち、それぞれのセットアップコンポーネントが別のセットアップコンポーネントから切断されたときに第1のマーカ状態にあり、それぞれのセットアップコンポーネントが別のセットアップコンポーネントに接続され、コンポーネントが接続されると、可変マーカが第1のマーカ状態から第2のマーカ状態に変わる第2のマーカ状態にあるマーカであってもよい。
視覚化システムは、処理装置と、出力装置と、少なくとも1つのキャプチャモジュールとを含むことができる。
処理装置は、少なくとも1つのキャプチャモジュールからデータを受信し、データを出力装置に送信するように構成された、マイクロコントローラ、マイクロプロセッサ、および/または集積回路を含むことができる。処理装置は、パーソナルコンピュータ、モバイルコンピューティング装置、ウェアラブルコンピューティング装置、または通信装置を介してクラウドコンピューティング装置にリンクされた装置などのコンピューティングシステムの一部とすることができる。
出力装置は、モニタ、視覚的タッチスクリーン、プロジェクタ、モバイル装置スクリーン、ノートブックまたは卓上コンピュータスクリーン、ヘッドアップディスプレイ、ヘッドマウントディスプレイ(例えば、組み込み型ディスプレイを有する眼鏡)、
ウェアラブルディスプレイ、プリンタ、触覚装置、有線または無線のオーディオ/ビジュアル/知覚装置、またはそのような装置の組み合わせなどのディスプレイ装置の任意の1つを含むことができる。
ディスプレイ装置は、第1および/または第2のマーカおよび/またはそれぞれの第1および/または第2のコンポーネントとのマージされたまたは新たな表示として、拡張現実、仮想現実および/または複合現実画像をオペレータに表示するように構成されてもよい。
出力装置は、それぞれのマーカを物理的に感知するためのマージされた表示または出力として拡張または仮想画像を出力するための触覚装置を含むことができる。拡張または仮想画像は、ユーザによるそれぞれのマーカの選択的な位置決めに従って調整および/または表示することができる。拡張または仮想画像の表示は、マーカの位置および向きに従ってリアルタイムにマージされた表示を示すように変更されてもよい。
少なくとも1つのキャプチャモジュールは、カメラ装置、ビデオカメラ、RFIDスキャナ装置、全地球測位システム(GPS)装置、バーコードスキャナ装置、マイクロホン、レーザリーダ装置、電子信号の検出器、医療用スキャナ、工業用および/または研究室および/または製薬機器からの電子または視覚入力感知装置、動き検出システム、視覚検出システム、音声検出システム、感覚検出システム、(赤外線)深度走査装置、レーザ走査装置、LIDARシステム、レーダーシステム、エコーロケーションシステム、テープ測定、定規、差金、水準器またはそのような装置の組み合わせの任意のものを含むことができる。
一例では、キャプチャモジュールは、マーカの外観および/またはリアルタイム位置などのマーカに関する識別データをキャプチャするために使用されてもよい。別の例では、少なくとも1つのキャプチャモジュールは、例えば、深度走査装置またはレーダーシステムを使用することによって、コンポーネントのマーカレス追跡のために使用されてもよい。マーカレス追跡は、空間内の物理座標を生成し、物理的なコンポーネントを必要としない。マーカレス追跡は、例えば、部屋を走査し、オペレータによって、またはルームレイアウトに基づいてソフトウェアによって選択された位置に、コンポーネントを配置するための深度走査装置を使用してもよい。
キャプチャモジュールは、キャプチャモジュールによる測定のためにコンポーネント上またはコンポーネントに配置することができる測定マーカを含むことができる。測定マーカは、視覚マーカ、電磁マーカ、RFID、金属ストライプ、磁気マーカ、オーディオマーカ、または他のマーカ種類から構成されてもよい。
少なくとも1つのキャプチャモジュールは、識別データを有線または無線通信システムを介して処理装置および/または出力装置に提供することができる。少なくとも1つのキャプチャモジュールは、電源コード、電源データケーブル(USB)、バッテリ、および/または無線電源によって電力供給されてもよい。
少なくとも1つのキャプチャモジュールは、加工、鉱業、石油化学、エネルギー、自動車、航空宇宙、建設、水浄化、水処理、医薬品およびバイオ医薬品の分野の産業製造および/または実験室の領域に配置することができる。
少なくとも1つのキャプチャモジュールは、単一の、複数の、リモートの、またはネットワーク化された装置としてセットアップされてもよい。単一のキャプチャモジュールは、作業空間の内部または外部の固定位置または可動位置に配置され、有線または無線接続を介して処理装置および/または出力装置に直接接続することができる。複数のキャプチャモジュールは、作業空間の内部および/または外部の固定位置および/または可動位置に配置され、有線または無線接続を介して処理装置および/または出力装置または他のキャプチャモジュールに直接接続することができる。
リモートキャプチャモジュールは、作業空間ユニットから離れて配置することができるが、ホース、チューブおよび/または配管ラインによって接続された遠隔作業空間内に配置することができる。ネットワーク化されたキャプチャモジュールは、作業空間の内部および/または外部の固定位置および/または可動位置に配置することができ、他のキャプチャモジュールに接続、または複数の場所および複数のシステムを取り巻くことができる接続ハブを介して接続することができる。これらのネットワーク化されたハブは、有線または無線接続を介して単一の処理装置および/または複数の処理装置および単一のディスプレイ装置および/または複数のディスプレイ装置に接続することができる。
キャプチャモジュールに応じて、識別データは、カメラによって作業空間で取り込まれた画像データ、バーコードおよび/またはRFID/NFCタグから読み出されたデータ、オーディオデータ、ビデオデータ、測定データなどを含むことができる。
少なくとも1つのキャプチャモジュールおよび/または出力装置は、モバイル装置の一部であってもよい。言い換えれば、モバイル装置は、ディスプレイまたはタッチスクリーンなどの出力装置および/または少なくとも1つのキャプチャモジュールを含むことができ、モバイル装置の一部ではないさらなるキャプチャモジュールは、有線接続または無線接続を介してモバイル装置、特に出力装置に接続され得る。換言すれば、視覚化システムは、スマートフォン、ウェアラブル装置またはモバイルコンピュータのようなモバイル装置として設計されてもよい。
マーカに関する識別データが少なくとも1つのキャプチャ装置によって取得されると、処理装置はマーカを識別することができる。マーカの識別は、そのようなマーカの認識、および固有のコンポーネントまたは同一のコンポーネントの種類への識別されたマーカの割り当てまたは関連付けを含むことができる。マーカとコンポーネントまたはコンポーネントの種類との間の割り当ては、データベースに格納することができる割り当てリストに従って実行することができる。さらなるデジタル情報は、データベース内の識別されたマーカに割り当てられてもよい。
追加のデジタル情報には、限定されず、データシート、指示書、認証、使用方法、検証ガイド、交換部品リスト、組立図;シリアル、モデル、およびロット/バッチ番号;注文情報、価格情報、またはオペレータに提供するその他の有益な情報が含まれる。
例えば、データシートおよび/または構成パラメータがデータベースに含まれていてもよく、データベースはローカルデータベースまたはリモートデータベースであってもよい。データベースは、それぞれが異なる種類の情報を含むことができる複数のローカルおよび/またはリモートデータベースに分割することができる。コンポーネントに関する情報は、マーカそのものに格納することもできる。例えば、2次元バーコードまたはRFIDタグは、各マーカーがマウントされているコンポーネントについての特定のデータを格納するために、ある量の情報記憶容量、例えば、数百または数千バイトを含む。
最近の品目または製品のための最新のデータシートおよび更新された構成パラメータは、リモートデータベースを介して、それぞれの品目または製品の製造元または販売担当者によって提供されてもよい。リモートデータベースは、インターネット接続、無線接続、シリアル接続または電話回線を介して利用可能にすることができる。
したがって、視覚化システムは、検索されたデジタル情報およびキャプチャされた識別データに基づいて、複数の物理、拡張または仮想コンポーネントの性質および関係を検出し、続いてコンポーネント間の接続を決定することができる。例示的には、キャプチャモジュールは、現実であろうと仮想であろうと、作業空間の寸法およびコンポーネント間の距離を測定することができる。
決定するステップは、処理装置によって、例えば、それらの性質、それらの距離、作業空間の全体的な寸法および接続の緩みの度合いに基づいて、コンポーネントに対する適切な接続を選択することを含むことができる。
適切な接続は、例示的にデータベースから検索されてもよい。別の例では、接続の決定は、利用可能なデータに基づいてコンポーネントに対する適切な接続の処理装置による計算に対応することができる。
その後、視覚化システムは、処理装置の決定に従って、コンポーネント間の構成可能な仮想接続をオペレータに提供することができる。デジタル情報および識別データの少なくとも一部は、出力装置に通信されてもよい。処理装置を介して、コンポーネントおよびそれらの仮想接続の視覚モデルが出力され得る。視覚的モデル表現は、コンポーネントのサイズ、接続部(例えば配管またはチューブ)の直径、利用される材料などのような、調整可能な構成パラメータを含むことができる。
構成パラメータは、入力装置を介して手動で変更することも、自動的に最適化してプロセスセットアップの最適な構成を決定することもできる。例示的には、コンポーネントおよび/またはそれらのそれぞれのマーカが、オペレータによって作業空間内で移動される場合、視覚化システムは更新された識別データをキャプチャし、コンポーネント間の仮想接続をコンポーネント間の新しい分離距離に調整する。
上記で説明したように、セットアップコンポーネントは、物理、拡張または仮想コンポーネントであってもよい。さらに、マーカは、物理マーカまたは仮想マーカであってもよい。接続方法は、コンポーネントとマーカの任意の組み合わせに適用できる。
図1は、物理的なマーカ追跡を利用する複数のコンポーネント間の構成可能な接続の一例を示す。この例によれば、第1のコンポーネント10、第2のコンポーネント12および第3のコンポーネント14は、それぞれのマーカ20、22および24を有する作業空間に設けられてもよい。マーカ20、22および24は、現実世界に存在し、コンポーネント10、12および14は仮想コンポーネントであってもよい。
視覚化システムの少なくとも1つのキャプチャモジュールは、マーカ20、22および24に関する識別データをキャプチャすることができ、識別データは、例示的に、作業空間内の物理マーカ20、22および24の配置を含む。処理装置は、物理的マーカを利用してスケーリングおよび配置されることで、出力装置を介してオペレータに表示される、仮想コンポーネント10、12および14を構成することができる。
図1のビュー「A」は、3つの仮想コンポーネント10、12および14の上面図である。一例では、コンポーネント10、12および14は、バイオリアクター、濾過スキッド、貯蔵タンクなどの個々の処理機器を表してもよい。別の例では、コンポーネント10、12および14は、代替的に、使い捨てバッグ、フィルタ、および容器などの使い捨て製品を表すことができる。典型的には、物理的マーカ20、22および24は、視覚的バーコード付きマーカ20、視覚的画像ベースのマーカ22、およびマーカ装置24であってもよく、これらは図7を参照してより詳細に説明する。
処理装置は、物理的マーカ20、22および24を識別し、それぞれのデジタル情報、例えばコンポーネントの性質について検索することができる。次いで、処理装置は、キャプチャされたデジタル情報とキャプチャされた識別データとに基づいて、コンポーネント間の接続を決定することができる。視覚化システムは、ビュー「A」に示すように、決定にしたがってコンポーネント10、12および14の間の接続16および18の視覚的表現を出力することができる。例えば、コンポーネント10と12との間の接続16は仮想接続であり、コンポーネント12と14との間の接続18は拡張または仮想接続であってもよい。これらの接続には、配管、チューブ、流体接続、ケーブル接続、コンベアベルトなどが含まれるが、これらに限定されない。
図1のビュー「B」は、3つの仮想コンポーネント10、12および14の上面図であり、物理的マーカ20、22および24の位置が移動されている。結果として、視覚化システムは、コンポーネントの仮想配置を変更し、コンポーネント間の接続に関するその決定を再評価し(例えば、接続の再計算)、変更された接続16’および18’を出力することができる。ビュー「A」に関して、第1のコンポーネント10は後退され、第2のコンポーネント12は前進され、第3のコンポーネント14は後ろに移動され、右に移動された。
これらの仮想コンポーネント間の視覚化された接続16’および18’は、物理的マーカ20、22および24の動きに基づいて、処理装置によって位置および長さが自動的に調整される。物理的マーカ20、22および24の動きは、少なくとも1つのキャプチャ装置によって検出され、対応する仮想コンポーネント10、12および14は、処理装置によって再配置され、したがって、出力装置によってオペレータに表示され得る。
図1のビュー「C」は、3つの仮想コンポーネント10、12および14の上面図であり、物理的マーカ20、22および24の位置が別の例に従って移動されている。第1のコンポーネント10は左に移動され、第2のコンポーネント12は右に移動し、角度をつけられ、第3のコンポーネント14は前方に移動され、角度をつけられている。これらの仮想コンポーネント間の接続16”および18”は、物理的マーカ20、22および24の動きに基づいて自動的に調整される。
仮想コンポーネント10、12および14に加えて、タンクなどの物理的コンポーネント26が同じ作業空間内に存在し、仮想接続28が仮想コンポーネントと物理コンポーネントとの間に構成されてもよい。例えば、物理的コンポーネント26は、第1のコンポーネント10との仮想接続28を有することができる。物理的コンポーネント26は、視覚化システムによる検出および位置決めのために物理的コンポーネント上に配置された物理的マーカを有することができるため、物理的コンポーネント26と、物理的マーカ20、22および24にリンクされた仮想コンポーネント10、12および14との間の仮想接続28を決定して出力することができる。
図2は、仮想マーカ追跡を利用する複数のコンポーネント間の構成可能な接続の例を示す。ビュー「A」は、仮想空間として作業空間に提供される第1のコンポーネント30、第2のコンポーネント32および第3のコンポーネント34を示す。一例によれば、キャプチャ装置は、処理装置によって精緻化され、出力装置によって表示され得る作業空間のレイアウトを決定するための測定を実行することができる。次いで、オペレータは、仮想マーカ追跡を使用して、出力装置における作業空間内のコンポーネント30、32および34をスケールして位置決めすることができる。
仮想マーカ追跡は、仮想マーカ、エッジベース(edge-based)の追跡、テクスチャ追跡、深度走査、GPS位置追跡、SLAM追跡、地形マッピング、および仮想変数マーカ追跡を含むことができるが、これらに限定されない。例えば、オペレータは、タッチスクリーン、手の追跡、身体の動き、凝視追跡、またはそれらの組み合わせなどの入力装置および/または方法を利用して、仮想コンポーネントの位置および/または寸法を入力し、その後変更することができる。
視覚化システムの少なくとも1つのキャプチャモジュールは、仮想マーカに関する識別データをキャプチャし、処理装置は、仮想マーカを識別し、対応するデジタル情報を検索することができる。次に、処理装置は、コンポーネント間の接続を決定することができ、視覚化システムは、ビュー「A」に示すように、決定に従ってコンポーネント30、32および34間の接続36および38の視覚的表現を出力することができる。例えば、コンポーネント30と32との間の接続36は仮想接続であってもよく、コンポーネント32と34との間の接続38は、拡張または仮想接続であってもよい。
図2のビュー「B」は、3つの仮想コンポーネント30、32および34の上面図であり、仮想マーカの位置が入力装置を介して変更されている。結果として、視覚化システムは、コンポーネントの仮想配置を修正し、コンポーネント間の接続に関するその決定を再評価し(例えば、接続の再計算)、変更された接続36’および38’を出力することができる。ビュー「A」に関して、第1のコンポーネント30は後退され、第2のコンポーネント32は前進され、第3のコンポーネント34は後ろに移動され、右に移動された。これらの仮想コンポーネント間の視覚化された接続36’および38’は、視覚的マーカの変位に基づいて処理装置によって自動的に位置および長さが調整される。
図2の「C」は、3つの仮想コンポーネント30、32および34の上面図であり、仮想マーカの位置が、別の例による入力装置を介して変更されている。第1のコンポーネント30は左に移動され、第2のコンポーネント32は右に移動され、角度をつけられ、第3のコンポーネント34は前方に移動され、角度がつけられている。これらの仮想コンポーネント間の接続36”および38”は、仮想マーカの変位に基づいて自動的に調整される。仮想コンポーネント30、32および34に加えて、タンクなどの物理コンポーネント40が同じ作業空間内に存在し、仮想コンポーネントと物理コンポーネントとの間に仮想接続42が構成されてもよい。
例えば、物理的コンポーネント40は、第1のコンポーネント10との仮想接続42を有することができる。物理的コンポーネント40は、視覚化システムによる検出および位置決めのために物理的コンポーネント上に配置される物理的マーカを有することができるため、物理的コンポーネント40と、仮想マーカにリンクされた仮想コンポーネント30、32、34との間の仮想的接続42を決定して出力するようにしてもよい。
上述したように、物理的マーカおよび/または仮想マーカに追加的にまたは代替的に、視覚化システムによってマーカレス追跡を利用して作業空間内のコンポーネントを位置決めし、かかるコンポーネントを識別することができる。キャプチャモジュールは、マーカを必要とせずに、コンポーネントに関する識別データを直接キャプチャすることができ、キャプチャされた識別データに基づいて処理装置によってコンポーネントに関するデジタル情報を検索することができる。
視覚化システムは、マーカまたはマーカレス追跡のいずれか、またはその2つの組み合わせを問わず、作業空間内のコンポーネントを配置し、それらの間の接続を有するコンポーネントの視覚的表現を出力する。コンポーネント、それらの間の接続およびコンポーネントおよび/または接続のパラメータは、視覚化システムを介して、または視覚化システムにリンクされた外部入力装置を介してオペレータによって変更されてもよい。
オペレータは、作業空間内の物理マーカを移動させるか、仮想マーカの位置を出力装置を介して動かして、コンポーネントの位置を変更することができる。結果として、視覚化システムの出力装置によって表示された作業空間内の接続および関連するコンポーネントの仮想長さの位置決めおよび測定を修正することができる。
図3は、複数の仮想コンポーネント間の流体接続を含む設定可能なセットアップの一例を示す。この例では、コンポーネントは、流体体積を保持することができる2つの容器である。容器は、マーカおよび/またはマーカレス追跡によって直接表されてもよく、またはバイオリアクターおよび貯蔵タンクのような、追跡が関連する機器の内部コンポーネントであってもよい。容器150は、流体152を含む供給容器であってもよく、容器162は、処理された流体166を保持する貯蔵容器であってもよい。
視覚化システムの処理装置は、キャプチャモジュールがコンテナ150および162に関する識別データをキャプチャした後に、作業空間内のコンテナ150および162の位置決めを処理することができる。処理装置は、その後、コンテナ150および162の間の接続を決定し、出力装置を介して接続の仮想表現を出力する。この例における仮想接続は、流体152を運ぶためのチューブ156の長さ、流体152を移動させる流体ポンプ158、および/または流体152を処理するためのフィルタ160を含む要素を含むことができるが、これに限定されない。容器150および162は、通気フィルタ154および164をそれぞれ含むことができる。
オペレータおよび/またはコンピュータプログラムは、セットアップ仕様のニーズに適合し、および/またはセットアップを最適化するために、コンポーネントおよびそれらの接続のパラメータを変更することができる。図3のセットアップのパラメータは、限定されず、供給容器150のサイズおよび容積;容器150内の流体152の流体の種類、容積および粘度;ドレーン速度に影響を及ぼす、供給容器150の上部のベントフィルタ154のサイズ;供給容器150上の出口ポートのサイズ、直径、および種類;流速および圧力限界に影響を及ぼすチューブ156の種類、長さ、および直径;チューブ156の長さに沿って流体152を移動させるためのポンプ158の種類、サイズ、および速度;流体152を処理するために利用されるフィルタ160および/またはフィルタトレインの種類、サイズ、および差圧;貯蔵容器162上の入口ポートのサイズ、直径、および種類;貯蔵容器162のサイズおよび容積;充填率に影響を及ぼす貯蔵容器162の頂部の通気フィルタ164のサイズを含むことができる。
追加的または代替的に、データベースにアクセスして、濾過性データベースなどの既知の、テストされた、または最適化されたコンポーネントの組み合わせを決定するためにアクセスすることができ、それは、栄養培地のような特定の流体を用いた特定の種類のフィルタの容積、速度、詰まり速度、および差圧等級のプロファイルを有する。
説明したように、オペレータおよび/またはコンピュータプログラムは、セットアップに関連する複数のコンポーネント間のパラメータ、サイジング、および/または距離を変更することによって、最適化されたセットアップを仮想的に構成することができる。 図4は、図3のセットアップを構成する例を示す。この例では、オペレータは、視覚化システムの出力装置および/または外部入力装置を介して、入力装置を利用して手動でセットアップを構成することができる。オペレータは、例えば、各製品種類に対して一連の選択カルーセルを使用してコンポーネントを手動で選択することができる。供給容器カルーセル170は、供給コンテナ150の容積、サイズ、種類、フィルム材料、材料適合性、およびポートを選択するために利用されてもよい。
オペレータは、必要なコンポーネントを選択するために、内部および/または外部動作追跡装置を使用して、カルーセルホイール上で手をスワイプすることができる。オペレータは、供給コンテナ150のための機器カルーセル171までさらにドリルダウンすることができ、混合種類および他の仕様のオプションが提供される。媒体カルーセル172は、容器150を満たす流体152の媒体種類、処理フォーマット(粉末、液体、または袋)、容積、および粘度を選択するために利用されてもよい。センサカルーセル173は、供給容器150を監視するために使用されるセンサポート151のセンサ監視種類(例えば、使い捨てセンサ、pH、溶存酸素、温度、生存率など)を選択するために利用されてもよい。
通気フィルタカルーセル174は、容器150の適切な排液のための通気フィルタ154の種類、材料、サイズ、濾過面積、接続、および滅菌方法を選択するために利用されてもよい。チューブカルーセル176は、必要な時間枠内で流体152材料を移動させるために、チューブ156の種類、直径、長さ、最大圧力、耐薬品性、材料、接続および切断方法、滅菌方法および関連部品(マニホールド、スプリッタ、「Y」コネクタおよび「T」コネクタなど)を選択するために利用されてもよい。ポンプカルーセル178は、チューブ156を通って流体152を移動させるために、ポンプ158の種類、サイズ、電力、ヘッド、接続種類、および圧力比を選択するために利用されてもよい。
フィルタカルーセル180は、容器150からの流体152の適切な処理のための化学的適合性、材料の種類、サイズ、濾過面積、接続、滅菌方法、圧力降下、および濾過性特性に基づいて、フィルタ160または流体152の処理のためのフィルタ列を選択するために利用することができる。貯蔵容器カルーセル182は、貯蔵容器162の容積、サイズ、種類、フィルム材料、材料適合性、およびポートを選択するために利用されてもよい。通気フィルタカルーセル184は、容器162の適切な充填のためのベントフィルタ164の種類、材料、サイズ、濾過面積、接続、および滅菌方法を選択するために利用されてもよい。オペレータは、メニュー選択ボタン168を利用して追加の機能にアクセスすることができる。
視覚化システムのユーザインターフェース設計に組み込まれ、入力装置を使用して選択される、これらのメニュー選択ボタン168を介して、オペレータは、データベースにアクセスして、フィルムの種類と媒体材料または濾過性データベースとの化学的適合性などのコンポーネントの事前に試験された組み合わせの情報を取得し、この特定の媒体種類の閉塞プロファイルを流体処理フィルタで決定することができる。オペレータは、付加的または代替的に、現在利用可能なデータベースおよびその顧客または同様の材料と製品の組み合わせを使用した他の顧客の選択履歴に基づいて、ユニット操作の特定のコンポーネントを最適化するか、またはユニット操作の全てのコンポーネントを最適化するために、処理装置を選択することもできる。
視覚化システムの処理装置は、構成されたセットアップの機能のシミュレーションを実行するようにさらに構成することができる。シミュレーションは、第1および第2のセットアップコンポーネントのサイズ、コンポーネント間の接続の寸法、およびオペレータによって設定される必要なパラメータを含む計算に基づいてもよい。セットアップの機能をシミュレートすることにより、視覚化システムは、ボトルネック、制限、不完全な経路、行き止まり、欠落したコンポーネント、間違った接続、および/または他の無意味な構成を自動的に識別することができる。
シミュレーションを実行するために、処理装置は、セットアップコンポーネント、寸法、およびアクセサリコンポーネントのコンフィギュレータデータベースを利用することができる。一例によれば、コンフィギュレータデータベースは、シミュレーションに基づいて、要求されたパラメータに対するセットアップの機能を自動的に最適化するために使用されてもよい。別の例によれば、シミュレートされた機能は、入力装置を利用してコンフィギュレータデータベースからコンポーネント、寸法、およびアクセサリコンポーネントを選択することによって、部分的または完全に手動で最適化することができる。
処理時間、コスト、消耗品、安全性、および他の要因に対する影響を決定するために、個々のコンポーネントのそれぞれに加えられた変更に基づいてシミュレーションを実行するために、視覚化システムを追加的または代替的に使用することができる。シミュレーションを実行することは、セットアップの複雑さが増したり、コンポーネントを注文する前に容易に追跡できない数百の接続が発生しやすい複数のセットアップが接続されたりしている場合に特に便利である。
図3および図4に示されるような例示的な構成を考慮して、シミュレーションおよびパラメータのセットに基づく対応する計算を行って、必要な流量、排出速度、または処理セットアップを介した流体の通気率を決定する。例えば、流体接続のシミュレーションは、流量を取得するために、チューブの寸法(長さ、直径、材料の種類)、アクセサリコンポーネントの寸法(通気フィルタサイジング、ポンプサイズなど)とともに第1および第2の容器の容積を計算することを含むことができ、その後、視覚化システムの出力装置を介してオペレータに提供される。
流体接続のシミュレーションはまた、オペレータが仮想流体接続を介して第1の容器から第2の容器に移動する仮想流体材料を視覚化することを可能にすることができる。セットアップ中に欠落しているコンポーネントは、例えば、オペレータによる構成を完了する必要性を強調するために、不足しているコンポーネントの代わりに仮想流体が漏出することを表示することによって、示すことができる。
視覚化システムは、出力が測定され、下流の処理装置への入力速度であると決定された1つまたは複数の供給業者の既存の物理的セットアップとの仮想接続を有することができる。バッチを複数のラインに分割する、または保持タンクまたは貯蔵タンクにバッチ処理を加えるなど、追加の計算を行うことができる。
図5は、複数のコンポーネントおよびそれらの間の接続を含むセットアップの最適構成を決定するために利用される仮想シミュレーションの例を示す。この例では、オペレータは、視覚化システムを介して入力装置を利用するセットアップのための仮想コンポーネントを手動で構成することができる。オペレータは、仮想接続のすべてが適切に行われたかどうか、および、パラメータ、コンポーネント、および/または仕様の任意の変更が行われた場合の流体の流れに対する影響をテストできる。
このセットアップは、典型的には、排液のためにベントフィルタ204を使用する流体202で満たされた使い捨て供給バッグ200と、出口ポートに接続されたある長さのチューブ206と、チューブ206を通して流体202を移動させるためのポンプ208と、供給流体202を複数の容器に分割するためのマニホールド210と、処理フィルタ212および214と、充填用通気フィルタを含む3つの貯蔵容器220,222および224とを含む、仮想コンポーネントを含むことができる。
オペレータは、仮想ポンプ208が始動し、流体202の既知のパラメータおよび挙動に基づいてコンポーネントを通って仮想流体202を移動させる流体シミュレーションを開始することができる。一例では、セットアップの手動構成の間に、マニホールド210と貯蔵容器224との間の接続を不注意に忘れてしまうことがある。シミュレーションを実行する視覚化システムは、欠如した接続216をオペレータに通知することができ、接続の欠如のために漏れた仮想流体を視覚化することによって、通知を強化することができる。
セットアップの機能のシミュレーションに加えて、またはその代替として、コスト分析シミュレーションを視覚化システムによって実行することができる。コスト分析シミュレーションは、任意のコスト節約の計算、割引、顧客個別価格設定、またはセットアップからの他の販売インセンティブに沿ったセットアップ上の価格見積りを提供し、コスト情報を出力装置上に表示することができる。さらに、視覚化システムは、オペレータが入力装置を利用して出力装置を介して提供された価格見積りを受け入れることを可能にすることができる。注文は自動的に発注され、最適化されたセットアップのコンポーネントを購入するために処理される。
図6は、複数のコンポーネントおよびそれらの間の接続を含むセットアップの最適な価格設定を決定するために利用される仮想シミュレーションの例を示す。
この例では、図3の例と同様に、セットアップは、供給容器150、供給流体152、通気フィルタ154、チューブ156、ポンプ158、フィルタ160、貯蔵容器162、および通気フィルタ164を含むことができる。オペレータは、構成された設計からすべてのコンポーネントのためのオペレータ会社への価格を計算し、資本設備のコスト、消耗品のコスト、単一バッチ運転のコスト、競合他社を利用する現在のプロセスのコスト削減、実行されたバッチの数に基づく消耗品の年間コスト、および総所有コストを決定することができる、コスト分析シミュレーション230を実行することができる。
計算されたコストには、機器、アクセサリー、消耗品、サービス、交換部品、消費電力、処分費用、および購買意思決定プロセスのその他の関連要因が含まれるが、これらに限定されない。個々のおよび/またはペアのコンポーネントの価格設定は、事業者固有のものでもよく、購入期間内の任意の制度的割引、優先価格設定、および/または任意の販売を組み込むことができる。オペレータは、視覚化システムのユーザインターフェース設計に組み込まれ、入力装置を使用して選択され得るメニュー選択ボタン232を介して追加の機能性を選択することができる。
オペレータは、メニュー選択ボタン232を利用して、構成され、設計されたセットアップの正式な見積もりおよび関連するドキュメンテーションおよびダイアグラムを得ることができる。オペレータは、メニュー選択ボタン232を利用して、構成または設計されたセットアップについて、セットアップまたは価格に関する質問、または専門家の推奨事項(図示せず)に対する訓練されたアプリケーションスペシャリストとローカル販売代理人と話をすることができる。オペレータは、メニュー選択ボタン232を利用して、構成され設計されたセットアップのコンポーネントを直接注文したり、1年を通してコンポーネントの予定された供給のための一括購入注文をセットアップすることができる。システムは、必要な配達スケジュールを満たすために利用可能な関連するリードタイム、遅延および代替コンポーネントについてオペレータに通知することができる。
図1と2は、物理マーカまたは仮想マーカを使用した構成可能な接続の例を示している。図1の物理的マーカの1つは、マーカ装置の形態であった。上述したように、マーカ装置は、とりわけ、作業空間を走査し、その中の距離を測定するために使用され得る感知装置を含むことができる。一例では、1つまたは複数のコンポーネントに関連付けられた1つまたは複数のマーカ装置の感知装置が、視覚化システムのキャプチャ装置と通信することができる。別の例では、1つまたは複数のコンポーネントに関連付けられた1つまたは複数のマーカ装置の感知装置が、視覚化システムのキャプチャ装置として機能し、処理装置および出力装置と通信することができる。マーカ装置は、それ自体のマーカであってもよく、および/または、例えば、ビジュアルマーカおよび/または関連するコンポーネントに関する情報をマーカ装置に表示するためのディスプレイ装置を備えていてもよい。
図7は、マーカ装置とその使用例を示す。ビュー「A」は、作業空間内で測定を行うことができる感知装置54を含むマーカ装置50の平面図である。感知装置54は、空間内の距離を走査して測定することによって、マーカ装置50が作業空間などの空間内に位置する場所に関する位置情報を収集することができる。一例では、感知装置54は、オペレータの位置、1つ以上の仮想または物理的コンポーネントに関連する1つまたは複数の他のマーカ、および/または空間内の他のオブジェクトをさらに測定することができる。したがって、感知装置54は、マーカ装置50と空間内の他の要素間、および/または他の要素間の距離を測定することができる。
検知装置54は、深度走査装置(赤外線、RGB−Dなど)、レーザ測距装置、LIDAR装置、レーダ装置、オーディオ装置(エコーロケーションまたは装置ポジショニングなど)、超音波装置、GPS装置、局所測位システム、部屋ベースの位置システム、運動感知装置、測定テープまたは他の測定装置、または作業空間の境界ならびに作業空間の内部の装置および人々を走査して測定することができる他の装置を含んでもよい。
マーカ装置50は、ディスプレイ装置52を含むことができる。ディスプレイ装置52は、視覚的に通信するための手段であってもよい。一例では、ディスプレイ装置52は、オペレータに可変マーカおよび/または情報(マーカ装置50に関連するコンポーネントに関するデータ、指示など)などの視覚的マーカを表示することができる。追加的または代替的に、ディスプレイ装置は、変位装置52自体を介して、またはディスプレイ装置52と通信する複数の中間コンピュータを介して、視覚化システムに視覚的に通信する方法としての役割を果たすことができる。マーカ装置50は、マーカ装置50によって提示された情報を入力または変更するための入力装置として利用され得るボタン58を含む。
マーカ装置50は、作業空間内の光のレベルを検出することができる光感知装置64を含むことができる。一例によれば、光感知装置64を使用して、例えば、オペレータによる最適な視聴、および/または他の装置との最適な通信のために、ディスプレイ装置52の画面の明るさを自動的に調節することもできる。追加的または代替的に、光感知装置64を利用して、例えば、オペレータまたは装置の間の仮想通信経路、およびマーカ装置50が障害物によってブロックされると、障害物が解消されるまで視覚通信シーケンスを停止することを決定してもよい。
マーカ装置50は、情報を他の装置に視覚的に伝達するために利用することができ、かつ/または一次感知装置54に加えて、または一次感知装置54と協働して感知装置として利用することができる、1以上のカメラ60を含むことができる。可変マーカ装置50は、感知装置54がオーディオ放射装置、超音波装置、または他のオーディオスペクトル装置である場合、主感知装置54と共に使用するための1つまたは複数のマイクロホンおよび/またはリスニング装置62を含むことができる。情報を提供する、ディスプレイを変更する、またはマーカ装置50の設定を変更するために、オペレータからの音声命令を受信するために、マイクロホンを追加的または代替的に使用することができる。マイクロホンおよびリスニング装置62と関連して、オペレータにオーディオ情報を提供するために、マーカ装置50上にスピーカ(図示せず)を利用することができる。
マーカ装置50は、処理装置68と、フラッシュメモリなどの記憶装置70と、無線通信装置などの通信装置74(例えば、WiFiまたはBluetooth(登録商標))と、バッテリまたは誘導充電または太陽電池を含む有線または無線電源などの電力装置72とを含む内部処理および通信アセンブリ66を含むことができる。
マーカ装置50は、マーカ装置50との間でデータを転送するための有線/無線通信ポートとして、および/または、マーカ装置50の内部の電源装置72の有線/無線充電のために利用され得る、USBポートなどの接続ポート56を含むことができる。
マーカ装置50は、吸引カップ、磁石、ベルクロ(登録商標)、または他の取り付け装置のような、固定または取り外し可能な取り付け装置(図示せず)をさらに含むことができ、マーカ装置50を作業空間内に、または作業空間内の既存の設備の特定の部分に配置することができる。さらなる実施形態では、位置および他のマーカに基づく情報をディスプレイ装置52に伝達するために、マーカ装置50と共にRFIDまたは他の形態の電子通信を利用することができる。
図7の「B」のビューは、マーカ装置50の上面図であり、周囲の作業空間76を走査して測定するために感知装置54を利用している。感知装置54によって収集された情報は、作業空間に対する、他のマーカ装置に対する、および/またはオペレータに対する、仮想的および/または物理的なオブジェクトを配置するために利用されてもよい。位置情報を有する感知された作業空間76をディスプレイ装置52に表示することができる。この位置情報は、仮想および/または物理的コンポーネント間の測定された距離を決定し、リアルタイム測定を提供し、仮想および/または物理コンポーネント間の仮想接続の測定および位置を提供するために、利用されてもよい。
図7のビュー「C」は、複数のマーカ装置を含む作業空間78の上面図であり、マーカ装置が関連付けられた仮想コンポーネント82、84、86、88のビュー、および視覚化システム出力装置を介してそれらの間の仮想接続をオペレータ90に提供する。作業空間78は、部屋の中に存在するタンクなどの物理的コンポーネント80と、作業空間78内の位置決めのためにマーカ装置を利用する仮想コンポーネント82、84、86、88とを含むことができる。コンポーネント82、84、86および88のマーカ装置は、それらの感知装置を使用して作業空間78を走査し、作業空間、相互間の距離、物理タンク80のような作業空間78内の物理的コンポーネントまでの距離、オペレータ90の距離を測定し、物理的および仮想的オブジェクトのそれぞれの間の接続のための測定を提供することができる。
マーカ装置は、無線通信方法および/または視覚通信方法によって、それらの位置および測定データを視覚化システムに直接伝達することができる。マーカ装置は、追加的または代替的に、位置および測定データを、作業空間78の中または近くに位置するコンピュータに、クラウドコンピューティングリソースのようなリモートコンピュータシステムに、または、内部および/または外部の複数の装置間のネットワークまたは分散コンピューティングネットワークを介して作業空間78に通信してもよい。
図8は、図7に示すような複数のマーカ装置を利用する複数の仮想コンポーネント間の構成可能な接続の一例を示す図である。図8は、出力装置を含む視覚化システムと組み合わせて使用される3つのマーカ装置100、104、108の上面図である。マーカ装置100、104および108は、作業空間内に配置され、仮想コンポーネント102、106および110のそれぞれの位置決めおよびスケーリングを提供する。オペレータは、視覚化システムの出力装置上の仮想コンポーネント102、106および110を見る。仮想コンポーネント102、106および110は、仮想接続112および114を介して、視覚化システムによって接続されてもよい。
これらの仮想接続112および114は、仮想コンポーネント102、106および110の各々のサイジングに一致するようにスケーリングすることができる。マーカ装置100、104および108の間の距離は、マーカ装置100、104および108自体の感知装置によって走査されてもよい。追加的に、または代替的に、マーカ装置100、104および108は、互いに通信してお互いに測定値を提供することができる。マーカ装置100、104および108の間のこの通信は、別のマーカ装置の感知装置によって、視覚通信のためにカメラおよび表示画面を介して、または各装置のオーディオ装置およびマイクロホンを介して発せられた信号を検出することによって、Bluetooth(登録商標)、WiFi、または他の電子通信方法などの通信装置を通して起こってもよい。
一例によれば、マーカ装置100は、マーカ装置104の範囲内にあり、マーカ装置104によって検出され得る信号116を感知装置から放射することができる。信号116は、信号強度、方向、位置、および距離のために測定されるだけでなく、別の装置からのものであると識別される。マーカ装置104および108は、マーカ装置104および108自体の範囲内にはないが、マーカ装置104および108の感知装置検出限界の範囲内にある信号118および120を発することができる。
放出された信号118および120におけるこの重複122は、マーカ装置104および108の感知装置による検出範囲内にある。したがって、放出された信号118および120は依然として検出されてもよい。放出された信号118および120のこの検出は、信号強度、方向、位置、距離、および可変マーカ装置104および108を区別する任意の固有の識別子を測定するために利用され得る。
上述したように、キャプチャモジュールは、作業空間およびコンポーネントに関する多くの異なる種類のデータ取得を実行することができ、その1つは距離の測定である。また、図7および図8を参照して説明したマーカ装置の感知装置は、距離を測定するように構成されている。代替的または追加的に、距離を測定するために外部測定ツールを使用することができる。いくつかの例によれば、外部測定ツールは、キャプチャモジュールおよび/またはマーカ装置と一体化することができる。外部測定ツールは、測定のためにコンポーネントにまたは上に配置することができる測定マーカを含むことができる。測定マーカは、視覚マーカ、電磁マーカ、RFID、金属ストライプ、磁気マーカ、オーディオマーカ、または他のマーカ種類から構成されてもよい。
図9に距離測定のための外部測定ツールの例を示す。この例では、測定テープを使用して、物体間の距離を手動で測定する。この例では測定テープが示されているが、定規、差金、水準器、または他のツールは同じ方法を利用することができる。ビュー「A」は、ロック機構302と、スプールされたテープ304と、測定テープのストッパー上の視覚識別マーカ306と、スライド式視覚識別マーカ308とを有する測定テープ300の側面図である。
摺動する視覚識別マーカ308は、測定テープのストップ上の視覚識別マーカ306と測定テープ300の本体との間でスプールされたテープ304に沿って摺動することができる。視覚的マーカが既知の大きさである場合、カメラまたは他の検出装置は、2つの視覚的マーカの位置間の距離を正確に測定することができる。測定テープのストッパ上の視覚識別マーカ306と滑りビジュアル識別マーカ308との間のサイズ測定値は、視覚化システムの出力装置上の入力装置を利用して、または外部入力装置を介して記録されてもよい。
図9のビュー「B」は、ロック機構312、スプール付きテープ314、測定用テープ止め部上の磁気マーカ316、およびスライド式磁気マーカ318を有する測定テープ310の側面図である。摺動磁気マーカ318は、測定テープのストップ上の磁気マーカ31と測定テープ310の本体との間でスプールされたテープ314に沿って摺動することができる。磁場を検出することができる感知装置は、磁気マーカが既知のサイズおよび極性である場合、磁力計を利用して2つの磁気マーカの位置間の距離を正確に測定することができる。測定テープのストッパ上の磁気マーカ316とスライディング磁気マーカ318との間のサイズ測定値は、視覚化システムの出力装置上の入力装置または外部入力装置を使用して記録することができる。
図9のビュー「C」は、ロック機構322と、スプールされたテープ324と、テープ324上に配置された感知装置326と、カメラと、測定テープ320の設計に組み込まれたおよび/または外部から取り付けられているマーカ装置328とを有する測定テープ320の側面図である。測定テープがスプールされると、感知装置は、数字、バーコードまたは他のコード化システム、または赤外線などの不可視コードを読み取ることによって、テープの長さに沿った測定値を検出することができる。感知装置は、測定テープ320の本体の外部または内部に配置することができる。
例えば、図示されるように、感知装置326は、ロック機構322の設計に組み込まれてもよい。別の例では、感知装置は、測定された位置を記録する前に測定テープが分配され、引っ込められるときに回転数を正確に決定し得る回転ホイールまたは他の機構であってもよい。マーカ装置328は、有線および/または無線接続を介して感知装置326に接続されてもよい。可変マーカ装置328は、感知装置326から測定値を受信し、視覚通信、電子通信、または他の通信方法を利用して、それらを視覚化システムに伝達することができる。可変マーカ装置328上のボタンは、視覚化システムへの通信のための測定値を記録することができる。
測定の送信が完了した後、視覚化システムは、データが受信されたことをマーカ装置328に返信することができる。次に、測定値は、拡張されたおよび/または仮想のコンテンツに組み入れられて、作業空間内の物理および/または仮想コンポーネントとコンポーネント間の仮想接続との間の距離をオペレータに提供することができる。

Claims (20)

  1. 測定または製造セットアップにおいて接続を決定するための方法であって、以下のステップ:
    ‐視覚化システムに、処理装置、出力装置、および少なくとも1つのキャプチャモジュールを提供するステップであって、これにより、少なくとも1つのキャプチャモジュールは、作業空間に属する識別データを取り込むことができる、前記ステップ;
    ‐作業空間に少なくとも1つの第1のマーカを有する第1のセットアップコンポーネントを提供するステップ;
    ‐作業空間に少なくとも1つの第2のマーカを有する第2のセットアップコンポーネントを提供するステップであって、第2のセットアップコンポーネントは少なくとも1つの接続を介して前記第1のセットアップコンポーネントに接続されるものである、前記ステップ;
    ‐少なくとも1つのキャプチャモジュールによって第1のマーカおよび第2のマーカに関する識別データを取り込むステップ;
    ‐作業空間の寸法の少なくとも1つ、および少なくとも1つの第1のマーカと少なくとも1つの第2のマーカとの間の距離を含む、空間的な情報を測定するステップ;
    ‐第1および第2のマーカを識別するステップであって、それにより、処理装置は、識別された第1のマーカおよび第2のマーカに割り当てられたそれぞれのデジタル情報をデータベースから検索し、処理装置は、検索されたデジタル情報、キャプチャされた識別データ、および測定された空間的な情報に基づいて、第1のセットアップコンポーネントと第2のセットアップコンポーネントとの少なくとも1つの適切な接続を選択する、前記ステップ;
    選択結果に従って、第1のセットアップコンポーネントと第2のセットアップコンポーネントとの間の少なくとも1つの構成可能な接続の視覚的表現を出力するステップを含む、前記方法。
  2. 視覚化システムが、拡張現実システム、仮想現実システムおよび複合現実システムのうちの少なくとも1つである、請求項1に記載の方法。
  3. キャプチャされた識別データが、第1のマーカおよび第2のマーカの位置を含み、方法が、第1および第2のマーカの少なくとも1つの位置が変更されたときに、少なくとも1つの選択した続を変更することをさらに含む、請求項1または2に記載の方法。
  4. 第1のセットアップコンポーネントと第2のセットアップコンポーネントとの間の少なくとも1つの接続が、流体接続、データ接続、移動接続、電力接続、入力接続、および出力接続のうちの少なくとも1つを含む、請求項1〜3のいずれか一項に記載の方法。
  5. 少なくとも1つのキャプチャモジュールが、作業空間の寸法および少なくとも1つの第1のマーカと少なくとも1つの第2のマーカとの間の距離の少なくとも1つを含む空間情報を測定し、少なくとも1つのキャプチャモジュールが、空間情報を出力装置に通信する、請求項1〜4のいずれか一項に記載の方法。
  6. 少なくとも1つのキャプチャモジュールが、測定マーカを含む、請求項5に記載の方法。
  7. 少なくとも1つのキャプチャモジュールが、カメラ、ビデオカメラ、深度走査、レーザ走査、LIDAR、レーダ、信号走査、音声走査、および、エコーロケーション装置、テープ測度、定規、差金および水準器のうちの少なくとも1つを含む、請求項1〜6のいずれか一項に記載の方法。
  8. 第1および第2のセットアップコンポーネントのうちの少なくとも1つが、使い捨てコンポーネントである、請求項1〜7のいずれか一項に記載の方法。
  9. セットアップコンポーネントの第1および第2のマーカの少なくとも1つが、少なくとも2つの異なる状態を有する可変マーカからなる、請求項1〜8のいずれか一項に記載の方法。
  10. セットアップコンポーネントの第1および第2のマーカの少なくとも1つが、少なくとも1つのキャプチャモジュールから作業空間内の位置を使用して出力装置上に配置され、処理装置によって処理される、少なくとも1つの仮想マーカからなる、請求項1〜9のいずれか一項に記載の方法。
  11. 少なくとも1つの仮想マーカが、少なくとも1つの入力装置を使用して仮想的に作業空間内の位置に移動される、請求項10に記載の方法。
  12. 少なくとも1つの入力装置が、タッチスクリーン装置、ハンド追跡装置、ジェスチャ追跡装置、身体追跡装置、視標追跡装置、視線追跡装置、筋電図(EMG)追跡装置、人間制御インターフェース、および、キーボード、マウス、スタイラス、グローブセンサーなどの外部接続された他の周辺機器の少なくとも1つである、請求項11に記載の方法。
  13. 第1および第2のセットアップコンポーネントおよびそれらの間の少なくとも1つの接続を含むセットアップの機能のシミュレーションを実行するステップをさらに含む、請求項1〜12のいずれか一項に記載の方法。
  14. シミュレーションが、第1および第2セットアップコンポーネントのサイズ、コンポーネント間の少なくとも1つの接続の寸法、およびオペレータによって設定された少なくとも1つのパラメータに基づく、請求項13に記載の方法。
  15. シミュレーションが、少なくとも1つの設定されたパラメータに基づいて、セットアップコンポーネント、寸法、およびアクセサリコンポーネントのコンフィグレータデータベースを利用する処理装置によって自動的に最適化される、請求項14に記載の方法。
  16. シミュレーションが、入力装置を利用してコンフィギュレータデータベースからコンポーネント、寸法、およびアクセサリコンポーネントを選択することによって、少なくとも部分的に手動で最適化される、請求項14に記載の方法。
  17. 測定または製造セットアップにおける接続のための視覚化システムであって、
    −作業空間に属する識別データをキャプチャすることができる少なくとも1つのキャプチャモジュール、
    −少なくとも1つのキャプチャモジュールに通信可能に接続された処理装置であって、
    −−少なくとも1つのキャプチャモジュールによってキャプチャされた識別データの第1のセットアップコンポーネントの第1のマーカおよび第2のセットアップコンポーネントの第2のマーカの存在を検出するステップであって、第2のセットアップコンポーネントは、少なくとも1つの接続を介して第1のセットアップコンポーネントに接続されていなければならない、前記ステップと、
    −−第1および第2のマーカを識別するステップと、
    −−識別された第1および第2のマーカに割り当てられたデジタル情報をデータベースから検索するステップと、
    −−作業空間の少なくとも1つの寸法、および少なくとも1つの第1のマーカと少なくとも1つの第2のマーカとの間の距離を含む、空間的な情報を測定するステップと、
    −−検索されたデジタル情報、キャプチャされた識別データ、および測定された空間的な情報に基づいて、第1のセットアップコンポーネントと第2のセットアップコンポーネントとの少なくとも1つの接続に関する選択を行うステップを実行可能な、前記処理装置、
    −処理装置の選択結果に従って第1のセットアップコンポーネントと第2のセットアップコンポーネントとの間の少なくとも1つの接続の視覚的表現を出力するための出力装置
    を含む、前記視覚化システム。
  18. 視覚化システムが、拡張現実システム、仮想現実システムおよび複合現実システムの少なくとも1つである、請求項17に記載の視覚化システム。
  19. キャプチャされた識別データが、第1のマーカおよび第2のマーカの位置を含み、処理装置が、第1および第2のマーカの少なくとも1つの位置が変更されたときに、少なくとも1つの接続に関する判定をさらに変更することができる、請求項17または18に記載の視覚化システム。
  20. 適切なシステムにロードされて実行されると請求項1〜16のいずれか一項に記載の方法を実行することができるコードセグメントを含む、測定または生産セットアップにおけるコンピュータ支援接続のためのコンピュータプログラム。
JP2018532508A 2015-09-15 2016-08-31 接続方法、視覚化システムおよびコンピュータプログラム製品 Active JP6935404B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US14/854,446 2015-09-15
US14/854,446 US9947140B2 (en) 2015-09-15 2015-09-15 Connection method, visualization system and computer program product
PCT/EP2016/001474 WO2017045746A1 (en) 2015-09-15 2016-08-31 Connection method, visualization system and computer program product

Publications (2)

Publication Number Publication Date
JP2018533147A JP2018533147A (ja) 2018-11-08
JP6935404B2 true JP6935404B2 (ja) 2021-09-15

Family

ID=56985577

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018532508A Active JP6935404B2 (ja) 2015-09-15 2016-08-31 接続方法、視覚化システムおよびコンピュータプログラム製品

Country Status (6)

Country Link
US (1) US9947140B2 (ja)
EP (1) EP3350777B1 (ja)
JP (1) JP6935404B2 (ja)
KR (1) KR102119040B1 (ja)
CN (1) CN108027986B (ja)
WO (1) WO2017045746A1 (ja)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9967924B2 (en) * 2014-02-25 2018-05-08 James Heczko Package for storing consumable product, induction heating apparatus for heating package and system including same
US10783284B2 (en) 2014-10-15 2020-09-22 Dirtt Environmental Solutions, Ltd. Virtual reality immersion with an architectural design software application
EP3165979B1 (en) * 2015-11-05 2020-12-30 Rohde & Schwarz GmbH & Co. KG Providing mounting information
WO2017214576A1 (en) * 2016-06-10 2017-12-14 Dirtt Environmental Solutions, Inc. Mixed-reality and cad architectural design environment
DE102017010190A1 (de) 2017-10-30 2019-05-02 Sartorius Stedim Biotech Gmbh Verfahren zum virtuellen Konfigurieren einer Einrichtung, Computerprogrammprodukt und entsprechendes Augmented Reality System
EP3673462B1 (en) * 2018-05-02 2021-09-22 SZ DJI Technology Co., Ltd. Optically supported object navigation
GB201808801D0 (en) 2018-05-30 2018-07-11 Ge Healthcare Bioprocess system and method providing automated configuration detection
EP3579127A1 (en) * 2018-06-07 2019-12-11 Hexagon Technology Center GmbH Method of generation of an enhanced plant model
US10942577B2 (en) 2018-09-26 2021-03-09 Rockwell Automation Technologies, Inc. Augmented reality interaction techniques
CN110289630A (zh) * 2018-10-25 2019-09-27 国网天津市电力公司客户服务中心 基于无人营业厅中混合现实场景的分布式能源仿真控制系统及其操作方法
US10719993B1 (en) * 2019-08-03 2020-07-21 VIRNECT inc. Augmented reality system and method with space and object recognition
US11170576B2 (en) 2019-09-20 2021-11-09 Facebook Technologies, Llc Progressive display of virtual objects
CN113821203A (zh) * 2020-06-20 2021-12-21 华为技术有限公司 App开发平台、app开发方法及电子设备
US11227445B1 (en) * 2020-08-31 2022-01-18 Facebook Technologies, Llc Artificial reality augments and surfaces
US11176755B1 (en) 2020-08-31 2021-11-16 Facebook Technologies, Llc Artificial reality augments and surfaces
US11113893B1 (en) 2020-11-17 2021-09-07 Facebook Technologies, Llc Artificial reality environment with glints displayed by an extra reality device
US11409405B1 (en) 2020-12-22 2022-08-09 Facebook Technologies, Llc Augment orchestration in an artificial reality environment
US11762952B2 (en) 2021-06-28 2023-09-19 Meta Platforms Technologies, Llc Artificial reality application lifecycle
US11798247B2 (en) 2021-10-27 2023-10-24 Meta Platforms Technologies, Llc Virtual object structures and interrelationships
US11748944B2 (en) 2021-10-27 2023-09-05 Meta Platforms Technologies, Llc Virtual object structures and interrelationships
US20230260233A1 (en) * 2022-02-14 2023-08-17 Meta Platforms Technologies, Llc Coordination of Interactions of Virtual Objects
US11947862B1 (en) 2022-12-30 2024-04-02 Meta Platforms Technologies, Llc Streaming native application content to artificial reality devices
KR102573934B1 (ko) * 2023-01-11 2023-09-04 주식회사 투와이 실내 공간 측정 방법 및 장치

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6289299B1 (en) * 1999-02-17 2001-09-11 Westinghouse Savannah River Company Systems and methods for interactive virtual reality process control and simulation
KR100327120B1 (ko) * 1999-12-13 2002-03-13 오길록 증강현실 기반의 3차원 트래커와 컴퓨터 비젼을 이용한영상 정합 방법
US9983559B2 (en) * 2002-10-22 2018-05-29 Fisher-Rosemount Systems, Inc. Updating and utilizing dynamic process simulation in an operating process environment
US8374829B2 (en) * 2007-03-16 2013-02-12 Lego A/S Automatic generation of building instructions for building element models
US7979251B2 (en) * 2007-03-16 2011-07-12 Lego A/S Automatic generation of building instructions for building element models
US8191005B2 (en) * 2007-09-27 2012-05-29 Rockwell Automation Technologies, Inc. Dynamically generating visualizations in industrial automation environment as a function of context and state information
US8982156B2 (en) * 2010-06-10 2015-03-17 Sartorius Stedim Biotech Gmbh Assembling method, operating method, augmented reality system and computer program product
CN103329120A (zh) * 2010-07-29 2013-09-25 英派尔科技开发有限公司 用于增强现实的基准标记
CN102486715B (zh) * 2010-12-06 2014-12-31 联想(北京)有限公司 一种对象处理方法及对象处理装置、电子设备
PL2714223T3 (pl) * 2011-05-23 2015-10-30 Lego As Generowanie instrukcji budowania dla modeli z konstrukcyjnych elementów
US8749396B2 (en) 2011-08-25 2014-06-10 Satorius Stedim Biotech Gmbh Assembling method, monitoring method, communication method, augmented reality system and computer program product
US10139623B2 (en) * 2013-06-18 2018-11-27 Microsoft Technology Licensing, Llc Virtual object orientation and visualization

Also Published As

Publication number Publication date
US9947140B2 (en) 2018-04-17
US20170076500A1 (en) 2017-03-16
WO2017045746A1 (en) 2017-03-23
JP2018533147A (ja) 2018-11-08
CN108027986A (zh) 2018-05-11
EP3350777A1 (en) 2018-07-25
KR20180039718A (ko) 2018-04-18
KR102119040B1 (ko) 2020-06-05
EP3350777B1 (en) 2021-08-18
CN108027986B (zh) 2021-06-15

Similar Documents

Publication Publication Date Title
JP6935404B2 (ja) 接続方法、視覚化システムおよびコンピュータプログラム製品
US11783553B2 (en) Systems and methods for facilitating creation of a map of a real-world, process control environment
US8749396B2 (en) Assembling method, monitoring method, communication method, augmented reality system and computer program product
Rejeb et al. Potentials and challenges of augmented reality smart glasses in logistics and supply chain management: a systematic literature review
EP1709519B1 (en) A virtual control panel
CN111295631B (zh) 用于虚拟配置设备的方法、计算机程序产品和相应的增强现实系统
US9008371B2 (en) Method and system for ascertaining the position and orientation of a camera relative to a real object
CN111149133A (zh) 过程控制环境中的虚拟x射线视觉
US20150356520A1 (en) System and method for providing an interactive asset management interface
WO2020132535A1 (en) Warehouse management method and system
KR20160022086A (ko) 3d 프린팅을 지원하는 단말기 및 방법, 그 방법을 수행하기 위한 컴퓨터 프로그램
US10664879B2 (en) Electronic device, apparatus and system
Etonam et al. Augmented reality (AR) application in manufacturing encompassing quality control and maintenance
KR20190104282A (ko) 영상 기반으로 정보를 제공하는 방법 및 이를 위한 이동 단말
Runji et al. Switchable glass enabled contextualization for a cyber-physical safe and interactive spatial augmented reality PCBA manufacturing inspection system
KR20150138958A (ko) Nfc 기반 플랜트 관리 시스템
JP7036559B2 (ja) 杭位置検査装置及び杭位置検査方法
Hou et al. A blind area information perception and AR assembly guidance method based on RGBD data for dynamic environments and user study
Wang et al. An eye gaze-aided virtual tape measure for smart construction
US20220164802A1 (en) Communication method and device
US20240037563A1 (en) Communication method and device
WANG An Integrated Augmented Reality Method to Assembly Simulation and Guidance
Gans Digitalisation of Predetermined Motion Time Systems: An Investigation Towards Automated Time Setting Processes
GB2606650A (en) Drift correction for industrial augmented reality applications

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190722

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200910

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200915

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201215

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210312

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210712

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20210712

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20210720

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20210721

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210810

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210825

R150 Certificate of patent or registration of utility model

Ref document number: 6935404

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150