JP2023539010A - コンピュータによって実現されるヒューマンマシーンインタラクション方法及びユーザインタフェース - Google Patents

コンピュータによって実現されるヒューマンマシーンインタラクション方法及びユーザインタフェース Download PDF

Info

Publication number
JP2023539010A
JP2023539010A JP2023503181A JP2023503181A JP2023539010A JP 2023539010 A JP2023539010 A JP 2023539010A JP 2023503181 A JP2023503181 A JP 2023503181A JP 2023503181 A JP2023503181 A JP 2023503181A JP 2023539010 A JP2023539010 A JP 2023539010A
Authority
JP
Japan
Prior art keywords
block
child
user
sys
workspace
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2023503181A
Other languages
English (en)
Inventor
マキシミリアン リーガー
グレガー ホーマン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Galactify GmbH
Original Assignee
Galactify GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Galactify GmbH filed Critical Galactify GmbH
Publication of JP2023539010A publication Critical patent/JP2023539010A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/003Navigation within 3D models or images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/904Browsing; Visualisation therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/024Multi-user, collaborative environment

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • Data Mining & Analysis (AREA)
  • User Interface Of Digital Computer (AREA)
  • Digital Computer Display Output (AREA)

Abstract

データベースDB(5)に格納される階層システムモデル(SYS-MOD)の関連するブロックBによって表される複数のシステムコンポーネントCを有する複合システム(SYS)の少なくとも1つのコントローラ又はアクチュエータに接続されるヒューマンマシーンインタラクションHMIユーザインタフェース(1)であって、ユーザ入力コマンドを受信するよう適応される入力部(2)と、各ブロックB1に関連し、前記ブロックB1のロードされた3次元ワークスペースWSB1内において3次元座標系に配置されるバーチャルカメラVCB1によって、前記複合システム(SYS)の対応するシステムコンポーネントCを表す選択可能なブロックB1に関連する3次元ワークスペースWSB1内においてシーンを表示するよう適応される画面を有する表示部(3)であって、前記バーチャルカメラVCB1は、各ブロックB1に対してズーム操作を実行し、それのコンテンツエリアCAを明示又は隠匿するため、前記ユーザインタフェース(1)の前記入力部(2)に入力されるユーザ入力コマンドに応答して、前記関連するブロックB1の3次元ワークスペースWSB1において自動的に移動可能である、表示部(3)と、を含み、ズームされたブロックB1のコンテンツエリアCAは、各ブロックB1のネスト化されたチャイルドブロックB1_1,B1_2を含む、ユーザインタフェース(1)。

Description

本発明は、ユーザが複合システムに関する情報を抽出し、各複合システムのコンポーネントを計画、モニタリング及び制御するのを支援するのに利用されるコンピュータによって実現されるヒューマンマシーンインタラクション方法及びユーザインタフェースに関する。
製造設備や車両などの技術システムは、ますます複雑になっている。システムは、相互に関連する複数のハードウェア又はソフトウェアコンポーネントを備えることができる。システムの各コンポーネントは、それ自体、下位の階層レベルにおいて他のコンポーネントを含むことができる。システムの複雑さが増すにつれて、階層レベルの数も増加する。技術システム、特に設備などの技術システムの計画のため、システムは、各サブシステム及びコンポーネントがモデルの対応するデータオブジェクトによって表されることができる階層システムモデルによって表されることができる。それぞれのシステムの階層システムモデルは、システムを計画及び操作するために使用することができる。技術システムの動作は、システムの動作中にシステムコンポーネントを制御することを含む。さらに、システムコンポーネントは、複合技術システムの動作寿命の間、メンテナンス又は修理を必要とし得る。大部分の技術設備は、ユーザがシステムとやりとりし、その動作中に技術システムの機能を制御したり、又は、観察された危機的状況の際に修理又はメンテナンス手順をトリガすることなどの技術的作業を行うことを可能にするヒューマンマシーンインタフェースHMIを有する。従来のヒューマンマシーンインタラクションユーザインタフェースは、ユーザ入力コマンドを受信するための入力部と、監視される技術システムの動作中に検出された障害などの情報をユーザに表示するための画面を有する表示部とを備える。しかしながら、ユーザインタフェースの表示部の画面は、そのサイズが制限されている。特に、ラップトップ又はタブレットのような携帯型制御デバイスの画面は、ユーザに情報データを出力するための限定的な画面領域しか含まない。画面の限られた領域における情報は、技術システム又は設備の階層システムモデル内の限られた数の階層レベルのみを同時に表示することを可能にするだけである。階層システムモデルは、ほとんどの場合、グラフの各ノードが対応する複合システムのサブシステム又はコンポーネントを表す、相互に関連するノードを有するダイアグラム又はグラフで表すことができる。システムの複雑さ及び階層レベルの数のため、複雑なダイアグラムは、技術システムの複数の階層レベルに同時に影響を及ぼすシステムの誤動作などの複雑な状況に関して透明な概略を提供しない。
技術指向のUML、SYSML又はBPMNのようないくつかの言語は、複合システムの内部の特徴的なコンポーネントと、システムのインタフェースのような境界を介した技術システム外の他のコンポーネントとのやりとりを開発及び記述するためのデファクトスタンダードとして確立されている。システムを視覚化することを可能にする異なるツール、特に、プロセス図、タイムライン図、オルガン図又はオントロジーなどの階層図とともに、システムのコンポーネントのCADモデルなどの基本的な技術モデルを作成することを可能にする図形化ツールがある。
ツールのさらなるグループが、回路図、データ構造又はワークフローを作成及び表示するため使用することができる。このモデリングソフトウェアツールのグループは、エキスパートツールと呼ぶこともできる。これらのツールは、ドメインエキスパートがそれぞれの技術システムの管理供給サイクル及び変形例を含む複雑なデータ構造を作成するのに役立つ。
一方、多くの一般的なモデリングソフトウェアツールは、特定のドメイン又は特定の技術タスクのためのデータモデルの表現に着目している。しかしながら、領域のモデルがこれらの領域間で交換されるとき、問題が発生し得る。新しい技術的又はプロセス的な解決手段を作成する際、異なるモデル間のやりとりはかなり一般的である。他方、学習しやすく、異なるドメインで使用できるダイアグラムツールを使用することは、ソフトウェア及びハードウェア製品の開発の複雑さに対処することができない。これは、高度に熟練した専門家が、スクリーンショットを使用して、又は異なる互換性のないソース及びデータモデルを用いて互いに協働する満足できない状況につながる。比喩的に言えば、今日の技術及びシステムは、時代遅れの技術を用いて開発されることが多い。
従来のソフトウェアツールは、視覚的に異なるデータモデルの接続をサポートしておらず、これは、観察及び制御された技術システムの動作に悪影響を及ぼすエラーにつながる可能性がある完全な技術システムに対する不十分な概略のため、ユーザが相関関係を理解することを妨げる可能性がある。
従来のソフトウェアツールは、特に、限られたズーム及びネスト化能力しか有していない。いくつかの階層レベルをズームするとき、表示されるサブシステム及びコンポーネントは、画面の限定的なサイズと画面の限定的な解像度のため、表示部の画面上でますます小さくなる。低い階層レベルでは、モデルにおいて表される様々なコンポーネント又はオブジェクトは、特に、技術システム内のコントローラのような制御コンポーネントなどを表す表示されたデータオブジェクトの制御エリアが、そのような従来のヒューマンマシーンインタフェースを介してユーザによってもはや観察及び操作できないように、区別不能になる。低い階層レベルにおける関心対象のオブジェクト上の従来のソフトウェアツールを用いてズームするとき、関心対象のオブジェクトに関する情報は、観察された技術設備における危険事象などの重大な状況にユーザが反応することができないように、最終的には識別不可になる。さらに、大部分のソフトウェアツールは、視覚的ネスト化を1つ又は2つの階層レベルのみに制限する。より深い階層レベルには、異なるタブ、ドキュメント又はモデルを介して間接的にしかアクセスできない。これは、その後、システム全体の不十分な理解につながる。従来のヒューマンマシーンインタフェースのさらなる欠点は、より下位の階層レベルにおける関心対象のデータオブジェクトに直接的にジャンプすることができないことにある。
従って、本発明の課題は、複合技術システムを制御する際の信頼性を高めるため、特に、複合技術システムのコンポーネントを表す記憶されたデータモデル内の関心対象のオブジェクトへのズームを容易にするため、より効率的なヒューマンマシーンインタラクションを可能にする方法及び装置を提供することである。
この課題は、本発明の第1の態様によると、請求項1の特徴を含むコンピュータにより実現されるヒューマンマシーンインタラクション方法によって達成される。
第1の態様による発明は、ユーザがデータベースDBに格納される階層システムモデルSYS-MODによって表現され、ユーザインタフェースの表示部上に対応するネスト化構造として表示される複合システムSYSに関する情報を抽出及び作成することを支援するのに利用されるコンピュータによって実現され、階層システムモデルは、複合システムSYSを計画、監視及び/又は制御するため処理され、コンピュータにより実現されるヒューマンマシーンインタラクション方法は、以下のステップ、
第1のステップS1において、複合システムSYSのコンポーネントを表す関連する一意的なURLを利用して、ブロックB1に関連する3次元ワークスペースWSB1をロードすることであって、ブロックB1のロードされる3次元ワークスペースWSB1は、データベースDBに格納される階層的システムモデルSYS-MODにおいてブロックB1の下位として規定され、ブロックB1のロードされる3次元ワークスペースWSB1に配置されるブロックB1のチャイルドブロックのシーンを含む、ロードすることと、
第2のステップS2において、ブロックB1の3次元ワークスペースWSB1内の3次元座標系に配置され、ブロックB1に関連するバーチャルカメラVCB1によって、表示部の画面上にブロックB1のチャイルドブロックB1_xのシーンを投影することによって、3次元ワークスペースWSB1を表示することと、
第3のステップS3において、各チャイルドブロックのサイズ、表示部の画面の画面サイズ、及び、ブロックB1に関連するバーチャルカメラVCB1と、ブロックB1の各チャイルドブロックとの間の距離dに基づいて計算される明示/隠匿基準に依存して、ブロックB1の可視的な表示されたチャイルドブロックのコンテンツエリアCAを明示又は隠匿することと、
第4のステップS4において、チャイルドブロックB1_1のチャイルドエリアタイプのコンテンツエリアCAが明示される場合、チャイルドブロックB1_1上へのチャイルドブロックB1_1のチャイルドブロックのシーンの中間的な仮想的投影を介し、表示部の画面上にブロックB1の各チャイルドブロックB1_1のチャイルドブロックのシーンを投影することによって、データベースDBに格納される階層システムモデルSYS-MODの下位の階層レベルに対応するより深いネスト化されたチャイルドブロックを表示することと、
全てのチャイルドブロックと関連するコンテンツエリアCAとが、第3のステップと第4のステップとにおいて利用される明示/隠匿基準に従って表示されるまで、第3のステップS3と第4のステップS4とを繰り返すことと、
を繰り返し実行するヒューマンマシーンインタラクション方法を提供する。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法は、複合システムSYSの階層システムモデルSYS-MODの無限数の階層レベルにわたってズームイン又はズームアウトすることを可能にする。これは、複合システムを計画する際の効率性を増加させ、関連する複合システムの信頼できる監視及び制御を提供する。
複合システムSYSの監視及び制御は、システムコンポーネントCの現在の動作状態に対する原因であるサブシステムが、例えば、システム全体に対する概略を失うことなく、システムコンポーネントCの重大な動作状態に対する根本原因を効率的に探索するため、即座にズーム処理可能であるという追加的な利点を提供するそれのグラフィカルな表示されたシステムモデルを介し実行可能である。
さらなる利点は、関連するブロックBを利用したシステムコンポーネントCの制御及び監視中、異なるブロックBの間の関係Rがまた、複合システムSYS全体内の何れかの影響を受けたシステムコンポーネントCの技術的コンテクストを同時に示す可視的なものであるということである。
これは、技術コンポーネントCの瞬間的な動作状態の監視を可能にし、関連するブロックBに対してユーザコマンドによりトリガされた操作を実行する際、技術コンポーネントCの制御をよりエラーが少ないものにし、従って、制御される技術システムSYSの安全性及び性能を増大させる。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法の可能な実施例では、バーチャルカメラVCB1は、ユーザインタフェースの入力部へのユーザコマンド入力に応答して、又は、コントローラから、特に対応する複合技術システムのコントローラから制御インタフェースを介し受信されるコマンドに応答して、関連するブロックB1の3次元ワークスペースWSB1において配置及び移動される。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、所定のスイッチオーバ基準が充足される場合、ブロックB1に関連する現在の3次元ワークスペースWSB1とバーチャルカメラVCB1とから、ブロックB1のチャイルドブロックB1_1に関連する他の3次元ワークスペースWSB1_1とバーチャルカメラVCB1_1とへの切替が、自動的又は手動でシームレスに実行され、ブロックB1に関連するURLからチャイルドブロックB1_1に関連するURLへのURLの自動変更を伴う。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、所定のスイッチオーバ基準が充足される場合、チャイルドブロックB1_1に関連する現在の3次元ワークスペースWSB1_1とバーチャルカメラVCB1_1とから、ブロックB1_1のペアレントブロックB1に関連する他の3次元ワークスペースWSB1とバーチャルカメラVCB1への切替が、自動的又は手動でシームレスに実行され、ブロックB1_1に関連するURLからペアレントブロックB1に関連するURLへのURLの自動変更を伴う。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、階層システムモデルの下位階層レベルHLにおける他のブロックB1_1と親子関係によって接続されるデータベースDBに格納される階層システムモデルの階層レベルHLにおけるブロックB1は、上位の階層レベルHLにおけるペアレントブロックB1のチャイルドブロックを次に形成する下位の階層システムレベルにおける他のブロックB1_1に関してペアレントブロックを形成する。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、各ブロックは、コンテンツエリアCAが行及び列に配置され、コンテンツエリアが明示及び/又は隠匿基準に従って明示可能又は隠匿可能である、異なるコンテンツエリアタイプの複数のコンテンツエリアCAを含む。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、コンテンツエリアCAの明示/隠匿基準は、ユーザインタフェースの表示部の画面上に表示される最適な情報量などのさらなる所定のファクタに基づく。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、データベースDBに格納される階層システムモデルのブロックBのコンテンツエリアCAのコンテンツエリアタイプCATは、
各ブロックのより深いネスト化されたチャイルドブロックを示すよう適応される第1のコンテンツエリアタイプCAT1(チャイルド-エリア)と、
コンテンツデータ、特にテキストコンテンツデータと画像コンテンツデータなどのコンテンツを含む第2のコンテンツエリアタイプCAT2(データ-エリア)と、
APIを介し第三者サービスによって提供されるダイナミックデータを含む第3のコンテンツエリアタイプCAT3(ダイナミック-エリア)と、
ユーザ入力感知エリアがユーザ選択コマンドに応答して選択される場合、制御信号を自動生成するよう適応されるユーザ入力感知コンテンツエリアを提供する第4のコンテンツエリアタイプCAT4(ユーザ制御入力-エリア)と、
を含む。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、より深い階層レベルの重要かつ重大な情報は、より高い階層レベルのブロックに視覚的にわたすことが可能である。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、データベースDBに格納される階層システムモデルの各ブロックBは、データベースDBに格納される階層システムモデルの階層構造を反映する一意的なブロック識別子又は名称と関連するURL(Uniform Resource Locator)とを含みうる。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、各ブロックBは、ユーザが各ブロックBに関連するURLを介しブロックBに関連するワークスペースWSへのリード又はライトアクセスR/Wを他のユーザに提供可能なユーザにより規定された権限管理を含む。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、ユーザにより規定された権限管理の設定は、他の何れのユーザにより規定された権限管理の設定もブロックのチャイルドブロック又はより深いチャイルドブロックに適用されない限り、ブロックBの直接のチャイルドブロックとより深いネスト化されたチャイルドブロックとに自動的にわたされる。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、データベースDBに格納される階層システムモデルのブロックB1に関連するバーチャルカメラVCB1は、3次元ワークスペースWSB1内のバーチャルカメラVCB1とチャイルドブロックB1_1との間の距離dを縮小させ、各チャイルドブロックB1_1とそれのコンテンツエリアCAとにズームインするため、ブロックB1のチャイルドブロックB1_1に向かって、3次元ワークスペースWS内のユーザインタフェースの入力部へのズームユーザコマンド入力に応答して移動される。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、データベースDBに格納される階層システムモデルのブロックB1に関連するバーチャルカメラVCB1は、ブロックB1のチャイルドブロックにパラレルな3次元ワークスペースWSB1におけるユーザインタフェースの入力部へのパンユーザコマンド入力に応答して移動される。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、データベースDBに格納される階層システムモデルのブロックB1に関連するバーチャルカメラVCB1は、関連するバーチャルカメラVCB1の現在のカメラ位置の周囲の3次元ワークスペースWSB1におけるユーザインタフェースの入力部への回転ユーザコマンド入力に応答して自動的に回転される。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、データベースDBに格納される階層システムモデルSYS-MOD内のブロックBは、各関係Rを記述するための関連する関係ラベルを含む関係Rを介し相互リンク可能である。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、データベースDBに格納される階層システムモデルSYS-MOD内のブロックBは、異なるパーツ上のブロック、すなわち、データベースDBに格納される階層システムモデルSYS-MODの階層レベルHLでないブロックにリンク可能である。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、スイッチオーバ基準は、3次元ワークスペースWSにおける設定可能な距離閾値THに基づき、ブロックB1に関連する3次元ワークスペースWSB1内で移動可能なバーチャルカメラVCB1と、ブロックB1のチャイルドブロックB1_1との間の計算された距離dが設定可能な距離閾値THより小さくなる場合、ブロックB1のチャイルドブロックB1_1に関連するバーチャルカメラVCB1_1への切替が自動的に実行される。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、距離閾値THは、バーチャルカメラVCが各チャイルドブロックに対して移動される方向、各チャイルドブロックのサイズ及びユーザインタフェースの表示部の画面の画面サイズを含むさらなる基準に基づく。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、ブロックB1の新たなチャイルドブロックB1_xは、ユーザがブロックB1へのライトアクセスを有する場合、ブロックB1に関連するワークスペースWSB1内においてユーザによって作成可能である。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、背景カラー、境界カラー及び境界半径を含むブロックB1のチャイルドブロックのスタイルは、ユーザが各ブロックB1へのライトアクセスを有する場合、ブロックB1に関連するワークスペースWSB1内においてユーザによって編集可能である。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、ブロックB1のチャイルドブロックのサイズは、ユーザUが各ブロックB1へのライトアクセスを有する場合、ブロックB1に関連するワークスペースWSB1内においてユーザUによって変更可能である。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、ブロックB1のチャイルドブロックの位置は、ユーザUが各ブロックB1へのライトアクセスを有する場合、ブロックB1に関連するワークスペースWSB1内においてユーザUによって位置を直接ドラッグ又は入力することを介し変更可能である。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、ブロックB1のチャイルドブロックの階層位置は、ユーザUがブロックB1とチャイルドブロックが移動される新たなペアレントブロックとへのライトアクセスを有する場合、ブロックB1に関連するワークスペースWSB1内においてユーザUによってドラッグ又はドロップ操作を介し変更可能である。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、ブロックB1のチャイルドブロックのための新たなコンテンツエリアCAは、ユーザUが各ブロックB1へのライトアクセスを有する場合、ブロックB1に関連するワークスペースWSB1内においてユーザUによって作成可能である。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、ブロックB1のチャイルドブロックの第2のコンテンツエリアタイプCAT2のコンテンツエリアCAのコンテンツは、ユーザが各ブロックB1へのライトアクセスを有する場合、ブロックB1に関連するワークスペースWSB1内において各コンテンツエリアCAに対するユーザ選択コマンドに応答して、ユーザUによって編集可能である。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、ブロックB1のチャイルドブロックの第3のコンテンツエリアタイプCAT3のコンテンツエリアCAのコンテンツは、関連するAPIが変更されるデータを提供する場合、自動的に更新される。その反対に、ユーザが各ブロックB1へのライトアクセスを有し、各コンテンツエリアCAのデータを変更する場合、更新イベントが関連するAPIに送信される。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、ブロックB1のワークスペースWSB1におけるユーザインタフェースを介した作業のためのユーザの編集アクションは、異なるユーザによるワークスペースWSB1の共同編集がサポートされるように、数分の1秒の短時間内で同じワークスペースWSB1を閲覧する他のユーザに自動的にミラーリングされる。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、データベースDBに格納される階層システムモデルSYS-MODは、UML(Unified Modeling Language)又はSysML(Systems Modeling Language)に基づいてユーザインタフェースの表示部の画面上に対応するネスト化構造として表示され、UML又はSysMLデータ構造としてインポート及びエクスポート可能であり、UML又はSysMLにおける構造は、ネスト化構造として3次元ワークスペース及び階層関係において表示される。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、構造、動作、要件及びパラメトリックを含むSysMLの異なるピラーが、単一のワークスペースWSにおいて合成可能である。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、ブロックBに関連する3次元ワークスペースWSを表示するための計算は、3次元の計算に対して最適化されるGPU(Graphics Processing Unit)上で実行される。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、ブロックBの第4のコンテンツエリアタイプCAT4のコンテンツエリアCAが、ユーザインタフェースの入力部を介したユーザ選択コマンド入力に応答して選択される場合、少なくとも1つの制御信号CRTLの生成が自動的にトリガされ、生成される少なくとも1つの制御信号は、データベースDBに格納される階層システムモデルSYS-MODによって表される複合技術システムSYSのコンポーネントを形成するコントローラ又はアクチュエータに提供される。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法のさらなる可能な実施例では、データベースDBに格納される階層システムモデルSYS-MODにおける各ブロックBは、複合技術システムのハードウェアコンポーネント又はソフトウェアコンポーネントを表し、ブロックB1の各チャイルドブロックB1_xは、各チャイルドブロックB1_xのペアレントブロックを形成するブロックB1によって表されるサブコンポーネントを表す。
本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法は、ユーザ装置又はユーザ端末に一体化されるユーザインタフェースの処理部の少なくとも1つのプロセッサ上で実行されるソフトウェアツールによって実行可能である。
本発明はさらに、さらなる態様によると、請求項14の特徴を含むヒューマンマシーンインタラクションユーザインタフェースを提供する。
本発明は、第2の態様によると、データベースDBに格納される階層システムモデルのブロックBによって各々が表されるシステムコンポーネントCを有する複合システムのコントローラ又はアクチュエータに接続されるヒューマンマシーンインタラクションユーザインタフェースであって、ユーザ入力コマンドを受信するよう適応される入力部と、各ブロックB1に関連し、ブロックB1の3次元ワークスペースWSB1内においてデカルト座標系に配置されるバーチャルカメラVCB1によって、複合システムのコンポーネントを表すブロックB1に関連する3次元ワークスペースWSB1内においてシーンを表示するよう適応される画面を有する表示部であって、バーチャルカメラVCB1は、各ブロックB1とそれのコンテンツエリアCAとに対してズーム操作を実行するため、ユーザインタフェースの入力部へのユーザ入力コマンド入力に応答して、関連するブロックB1の3次元ワークスペースWSB1において自動的に移動可能である、表示部と、を含むヒューマンマシーンインタラクションユーザインタフェースを提供する。
本発明の第2の態様によるヒューマンマシーンインタラクションユーザインタフェースの可能な実施例では、ブロックB1は、ブロックB1によって表される複合技術システムのシステムコンポーネントC、又は、データベースDBに格納される階層システムモデルにおいてブロックB1と関係を有する他のブロックB’によって表される複合技術システムの他のシステムコンポーネントCに供給される制御信号の生成をトリガするためのユーザ入力感知コンテンツエリアに適用されるユーザ起動コマンドに応答して、制御信号CRTLを自動生成するよう適応される第4のコンテンツエリアタイプCAT4のユーザ入力感知コンテンツエリアCAを含む。
ヒューマンマシーンインタラクションユーザインタフェースの可能な実施例では、ユーザインタフェースの処理部、特にGPUが、以下のステップ、
複合技術システムSYSのシステムコンポーネントCを表すブロックB1に関連する3次元ワークスペースWSB1をデータメモリにロードするステップであって、ロードされる3次元ワークスペースWSB1は、データベースDBに格納される階層システムモデルにおいてブロックB1の下位として規定され、ブロックB1のロードされる3次元ワークスペースWSB1に配置されるブロックB1のチャイルドブロックのシーンを含む、ロードするステップ(S1)と、
ブロックB1のロードされる3次元ワークスペースWSB1に配置されるブロックB1に関連するバーチャルカメラVCB1によって、ヒューマンマシーンインタラクションユーザインタフェースの表示部の画面上にブロックB1のチャイルドブロックB_xのシーンを投影することによって、ロードされる3次元ワークスペースWSB1を表示するステップ(S2)と、
ブロックB1に関連するバーチャルカメラVCB1と、ブロックB1の現在表示されているチャイルドブロックB1_xとの間の一時的な計算された距離dに依存して、ブロックB1の可視的なチャイルドブロックB1_xのコンテンツエリアCAを明示又は隠匿するステップ(S3)と、
チャイルドブロックB1_1のチャイルドコンテンツエリアタイプCAT1のコンテンツエリアCAが明示される場合、チャイルドブロックB1_1上へのチャイルドブロックB1_1のチャイルドブロックのシーンの中間的な仮想的投影を介し、表示部の画面上にブロックB1のチャイルドブロックB1_1のチャイルドブロックのシーンを投影することによって、データベースDBに格納される階層システムモデルの下位の階層レベルに対応するより深いネスト化されたチャイルドブロックを表示するステップ(S4)と、
を実行するよう繰り返し実行されるプログラムを実行するのに利用される。
以下において、本発明の異なる態様が、包含された図面を参照してより詳細に説明される。
本発明の態様による複合システムを制御するのに利用されるヒューマンマシーンインタフェースの可能な例示的な実施例を示すブロック図を示す。 本発明の更なる態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法の可能な例示的な実施例を示すフローチャートを示す。 ブロックと、データモデルのエンティティの間の関係との具体例を示す。 複数のチャイルドブロックを有するペアレントブロックB1の具体例を示す。 複数のチャイルドブロックを有するペアレントブロックB1の具体例を示す。 複数のチャイルドブロックを有するペアレントブロックB1の具体例を示す。 複数のチャイルドブロックを有するペアレントブロックB1の具体例を示す。 複合システムと対応するネスト化構造とを表す一例となる階層システムモデルを示す。 複合システムと対応するネスト化構造とを表す一例となる階層システムモデルを示す。 本発明によるユーザインタフェースの表示部の画面上へのブロックB1のチャイルドブロックB1_xのシーンの投影とともに、ブロックB1の関連するバーチャルカメラVCB1とブロックB1のデカルト座標系と一緒にブロックB1のシーンを含むブロックB1の3次元ワークスペースを示す。 異なるタイプのコンテンツエリアを示すための具体例を示す。 本発明によるヒューマンマシーンインタフェースによって実行されるズーム操作を示すための具体例を示す。 本発明による方法の処理を示すため、中間的な仮想的投影を介し画面上へのより深いネスト化されたチャイルドブロックの投影の具体例を示す。 本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法の可能な一例となる実施例を示すためのさらなるフローチャートを示す。 本発明によるコンピュータにより実現される方法によって利用される異なるタイプのブロックを示す。 本発明によるコンピュータにより実現される方法によって利用される異なるタイプのブロックを示す。 本発明によるコンピュータにより実現される方法によって利用される異なるタイプのブロックを示す。
図1は、3つの主要なユニットを有する本発明の態様によるヒューマンマシーンインタフェース(HMI)1の実施例を概略的に示している。図1の実施例に示されるヒューマンマシーンインタラクションユーザインタフェース1は、ユーザ入力コマンドを受信するように適合された入力部2と、3次元ワークスペースWS内にシーンを表示するように適合された画面を有する表示部3とを備える。ヒューマンマシーンインタフェース1はさらに、入力部2に接続され、表示部3に接続された処理部4を備える。処理部4は、図1に示されるように、ローカル又はリモートデータベース5へのアクセスを有する。
入力部2は、タッチ感知画面を備えることができる。入力部2はまた、コンピュータマウス、トラックパッド、ジェスチャベースの制御デバイス、又は、他の何れかのタイプの手動操作入力エンティティを含むことができる。
表示部3は、コンピュータモニタ、スマートフォン又はタブレット画面、VR(Virtual Reality)ディスプレイデバイス又はAR(Augmented Reality)デバイスを含むことができる。
処理部4は、コンピュータ、スマートフォン又はタブレットに存在しうる。それは、好ましくはGPUと組み合わされ、図2のフローチャートに示されるように、コンピュータにより実現されるヒューマンマシーンインタラクション方法を実行する。GPUは、3Dシーンのレンダリングやレイトレーシングなどのグラフィック計算用に最適化されている。
ヒューマンマシーンインタフェース1の処理部4は、複合技術システム内のコントローラ又はアクチュエータなどの少なくとも1つのシステムコンポーネントCに接続することができる。図示された複合技術システムSYSは、例えば、相互通信する複数のマシーンを備える製品を製造するための設備又は製造工場であってもよい。図1に示すシステムコンポーネントCは、何れかのタイプのシステムコンポーネントC、特に複合システムSYS内のサブシステム又は回路とすることができる。複合システムSYSは、データベース5に格納された階層システムモデルSYS-MODで表される。このような階層システムモデルSYS-MODの具体例が図5Aに示される。複合システムSYSは、例えば、物理、論理又は機能ベースで相互にやりとりする複数の相互関連したシステムコンポーネントCを含むことができる。物理複合システムSYSの各システムコンポーネントCは、図3、図4及び図5に示されるように、階層システムモデルSYS-MODにおけるブロックBによって図示又は表される対応するデータオブジェクト又はデータ構造によって表されうる。システムコンポーネントCは、複合システム内のアクチュエータなどの他のシステムコンポーネントCを順に制御するように適合されたコントローラを形成することができる。また、ヒューマンマシーンインタフェース1の処理部4は、複合システムSYS内のセンサコンポーネントなどのシステムコンポーネントCのいくつかからフィードバック情報を受信し、システムコンポーネントCの瞬間的な状態に関する状態情報を表示部3のスクリーン上にユーザに表示することもできる。
本発明によるヒューマンマシーンインタフェース1によって、複合システムSYSのシステムコンポーネントCを表すブロックBが、同一又は異なる階層レベルHLにおける表示部3の画面上に表示される。ユーザUは、複合システムSYSにおける回路又はマシーンなどの関連する物理システムコンポーネントCを表すブロックBに対して直接処理を実行することができる。可能な実施形態では、表示部3のタッチ感知画面上に表示されたブロックBの感知コンテンツエリアは、物理複合システムSYSに統合されたそれぞれのシステムコンポーネントCに対して制御処理を実行するためユーザの指によって押下可能である。複合システムSYSにおける故障を示すユーザ入力感知コンテンツエリアCAは、タッチ感知画面上の感知エリアを押下することによって操作され、故障を処理するため複合システムSYSにおける対応する物理システムコンポーネントCを自動的に非アクティブ化することができる。従って、ユーザUは、複合システムSYSにおいて制御アクションをトリガするため、データベース5からロードされた複合システムSYSを表すマルチレベル階層システムモデルSYS-MOD上で直接作業可能である。さらに、本発明によるヒューマンマシーンインタフェース1及び対応するヒューマンマシーンインタラクション方法は、ユーザUが複合システムSYS内の関心対象のシステムコンポーネントCを表す関連ブロックBをズームして、当該システムコンポーネントC及びそのサブコンポーネントに関する情報をより低い階層レベルで検索することを可能にする。
ヒューマンマシーンインタフェース1の表示部3は、ブロックBの3次元ワークスペースWS内に配置され、ブロックBに関連するバーチャルカメラVCによって、複合システムSYSにおけるコンポーネントCを表すブロックBに関連する3次元ワークスペースWS内のシーンを表示するための画面を含み、バーチャルカメラVCは、ブロックBとそれのコンテンツエリアCAとに対してズームするため、ユーザインタフェース1の入力部2へのユーザ入力命令入力に応答して、関連するブロックBの3次元ワークスペースWSにおいて移動可能である。
ワークスペースWSは、図9にも見られるように、各ブロックBが3つの座標x、y、zを含むため、真に3次元である。ワークスペースWSの座標系におけるブロックBの位置は、各ブロックBの表示フレームの中心点の位置である。
図2は、本発明の第2の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法の可能な例示的な実施例のフローチャートを示す。コンピュータにより実現されるヒューマンマシーンインタラクション方法は、データベース5に記憶された階層システムモデルSYS-MODによって表される、図1に示されるような複合システムSYSに関する情報データを検索し、場合によっては作成するためユーザを支援するのに使用される。階層システムモデルSYS-MODは、図5A及び5Bにも示されるように、対応するネスト化構造として表示部3の画面上に表示することができる。データベース5からロードされた階層システムモデルSYS-MODは、ヒューマンマシーンインタフェース1の処理部4によって処理され、複合システムSYSのシステムコンポーネントCを計画、監視及び/又は制御する。
図2の図示された実施例では、コンピュータにより実現されるヒューマンマシーンインタラクション方法は、繰り返し実行される4つの主要なステップを含む。
第1のステップS1では、ブロックB1に関連する3次元ワークスペースWSB1が、ブロックB1の関連する一意的なURLを使用してロードされる。ブロックB1は、複合システムSYS内のシステムコンポーネントCを表す。各ブロックB1のロードされる三次元ワークスペースWSB1は、図6にも示されるように、各ブロックB1のチャイルドブロックのシーンを含む。ブロックB1のチャイルドブロックB1_1,B1_2は、データベース5に格納された複合システムSYSの階層システムモデルSYS-MODにおける各ブロックB1の下位として規定され、各ブロックB1のロードされる三次元ワークスペースWSB1に配置される。
さらなる第2のステップS2では、3次元ワークスペースWSB1は、ブロックB1の3次元ワークスペースWSB1内の3次元デカルト座標系に配置されるブロックB1に関連するバーチャルカメラVCB1によって、表示部3の画面上にブロックB1のチャイルドブロックB1_1、B1_2のシーンを投影することによって表示される。
さらなるステップS3では、各ブロックB1の可視的な表示されたチャイルドブロックのコンテンツエリアCAは、特に各チャイルドブロックのサイズ、表示部3の画面の画面サイズ、及び、各ブロックB1とブロックB1の各チャイルドブロックB1_1、B1_2とに関連するバーチャルカメラVCB1の距離dに基づいて、処理部4の少なくとも1つのマイクロプロセッサによって計算される、明示/隠匿基準に応じて自動的に明示又は隠匿される。
さらなるステップS4では、データベース5に格納される階層システムモデルの下位の階層レベルに対応するより深いネスト化されたチャイルドブロックが、チャイルドブロックB1_1のチャイルドタイプエリアCAT1のコンテンツエリアCAが明示される場合、図9の具体例にも示されるように、チャイルドブロックB1_1上へのブロックB1_1のチャイルドブロックB1_1_1,B1_1_2のシーンの中間的な仮想投影を介して、表示部3お画面上へのブロックB1のチャイルドブロックB1_1のチャイルドブロックB1_1_1,B1_1_2のシーンを投影することによって、表示部3の画面上に表示される。
第3のステップS3及び第4のステップS4は、全てのチャイルドブロックと関連するコンテンツエリアCAとが、対応するステップで使用される明示/隠匿基準に従って表示部3の画面上に表示されるまで繰り返される。
図3は、ブロックBとブロックを接続する接続または関係とを含むモデルの具体例を示す。ブロックBは、コンテンツエリアCAを作成することができるデータオブジェクト(ビルディングブロック)の主要なコンポーネントである。ブロックBは、異なるユースケースに使用することができ、例えば、図11に示されるようにカスタマイズすることができる。ブロックBは、ワークスペースWSの三次元において変化可能な幾何学的形状として視覚的に表示される。ブロックBは、それのカラー、境界又は形状に関してスタイル化することもできる。技術的な観点から、ブロックBは、コンテンツのためのデータポイント及びコンテナを形成する。各ブロックB内において、情報又はデータは、コンテンツエリアCAにおいて編成することができる。コンテンツエリアCAは、異なるタイプの情報又はデータが記憶可能であり、表示部3の画面を介して表示することができるセクションにブロックBを分割する。コンテンツエリアCAの分割は、図7にも示されるように、行及び列によって行われることが好ましい。各ブロックBは、関連する3次元ワークスペースWSを含む。各ブロックBは、可能な実施形態では、複合システムSYSのシステムコンポーネントCを表す。複合システムSYSは、互いにやりとりしうる多くのコンポーネントから構成される。複合システムSYSは、それらのパーツ又はコンポーネントの間及び/又は及び/又は所与のシステムとそれの環境との間の依存性、競合、関係及び他のタイプのインタラクションのためモデル化することが本来的に困難である動作を有するシステムである。何れのケースでも、ノードがコンポーネントCを表し、リンクがコンポーネントC間のインタラクションを表すネットワークとして、そのようなシステムSYSを表すことができる。
複合システムSYSは、データベース5に格納された階層システムモデルSYS-MODによって表される。階層システムモデルは、下位の階層レベルが連続する上位の階層レベルの単位の階層に分類されるモデルである。3次元ワークスペースWSは、各ブロックBのチャイルドブロック(シーン)がヒューマンマシーンインタフェース1を介しユーザによって作成及び修正可能なブロックBに関連付けされる。ワークスペースWSは、対応するブロックBにそれぞれ関連するシーン、座標系及びバーチャルカメラVCを含む。
ブロックBは、ペアレントブロック及び/又は同時に少なくとも1つの他のブロックのチャイルドブロックでありうる。ペアレントブロックは、検討中のブロックの上位の1つの階層レベルHLになるブロックである。ペアレントブロックとチャイルドブロックとは、親子関係Rに沿って相互接続される。チャイルドブロックは、検討中のブロックの下位の1つの階層レベルにあるブロックである。コンテンツエリアCAは、異なるタイプの情報が格納及び表示可能であるセクションにブロックBを分割する。ブロックBに関連する3次元ワークスペースWS内の全てのチャイルドブロックは、いわゆる、シーンを形成する。各ブロックBは、関連するバーチャルカメラVCを有する。ブロックBに関連するバーチャルカメラVCは、ブロックBの3次元ワークスペースWSに配置される。バーチャルカメラVCによると、ブロックBのワークスペースWSのシーンが、表示部3の画面上又はブロックB自体に投影することができる。
各ブロックBは、異なるコンテンツエリアタイプCATを有することができる所定数のコンテンツエリアCAを含む。これらのコンテンツエリアCAは、行及び列に配置され、コンテンツエリアは、所定の明示/隠匿基準に従って、公開可能又は非公開可能である。この明示/隠匿基準は、各チャイルドブロックのサイズ、画面の画面サイズ、及び/又は、ブロックBに関連するバーチャルカメラVCとブロックBのチャイルドブロックとの間の瞬間的な距離dに基づいて、ヒューマンマシーンインタフェース1の処理部4のマイクロプロセッサによってリアルタイムで計算することができる。距離dは、バーチャルカメラVCの位置とブロックBのフレームの中心におけるブロックBの中心点の位置との間のユークリッド距離として、処理部4のプロセッサによって計算することができる。
可能な実施例では、データベース5に格納された階層システムモデルSYS-MOD内のブロックBの一部を形成することができるコンテンツエリアCAの4つの主要な異なるコンテンツエリアタイプCATがある。
第1のコンテンツエリアタイプ(チャイルドエリアタイプ)CAT1は、各ブロックBのより深いネスト化されたチャイルドブロックを示すよう適合される。
第2のコンテンツエリアタイプ(データ-エリアタイプ)CAT2は、テキストコンテンツデータ又は画像コンテンツデータなどのコンテンツデータを含む。このタイプのコンテンツエリアは、複合システムSYSに関する情報を提供する何れかのタイプのコンテンツを表示するのに利用可能である。
コンテンツエリアの第3のコンテンツエリアタイプCAT3は、APIを介し第三者サービスによって提供されるダイナミックデータを含まない。この第3のコンテンツエリアタイプはまた、ダイナミックエリアコンテンツタイプとして参照されうる。それは、関連するAPIによって提供されるデータの変更を反映し、変更されたデータをAPIに送り返すことができる。
ユーザ制御入力エリアタイプとも参照されうるさらなる第4のコンテンツエリアタイプCAT4は、ユーザの入力を感知するコンテンツエリアを形成し、ユーザ入力感知エリアが、ヒューマンマシーンインタフェース1のタッチ感知画面によって表示されたユーザ入力感知コンテンツエリアへのタッチなどのユーザ選択コマンドに応答して選択される場合、少なくとも1つの制御信号CRTLを自動的に生成するように適合される。これにより、各コンテンツエリアCAは、異なるタイプのデータを保持することができる。
タイプCAT2のコンテンツエリアは、とりわけ、例えば、図7に表示されるようなテキスト又は画像エリアを含む。タイプCAT3のコンテンツエリアは、例えば、APIを介して第三者サービスによって提供されるユーザにより規定された値又はデータを表示するデータエリアを形成する。特殊なタイプのコンテンツエリアは、ネスト化又は入れ子構造を示すのに使用されるタイプCAT1のコンテンツエリアである。
接続又は関係Rは、異なるブロックB間のリンクである。視覚的には、図3に示されるように、接続は表示部3の画面上にラインとして表示されうる。異なる矢印の先頭は、異なるモデル構築基準をサポートするためそれらの端部に表示することができる。さらに、ラベルは、2つのブロック間のそれぞれの接続又は関係Rを記述するため、手動で追加又は自動的に割り当てることができる。技術的な観点から、接続は、これら2つのブロックB間の様々なタイプの関係Rを表す。2つのブロックB間の関係Rは、システムモデルSYS-MODにおいて、双方のブロックへのアクセス権を有するユーザUによって割り当てることができる。関係Rは、同じ階層レベルにおけるレベル内関係と、異なる階層レベル間、特に隣接する階層レベル間のレベル間関係とを含むことができる。
本発明によるコンピュータにより実現される方法は、ワークスペースWSの3次元内でのダイアグラムの作成をサポートするように適合される。例えば、ワークスペースWS内のブロックBの位置は、デカルト座標系におけるデカルト座標x、y、zを用いて設定することができる。コンピュータにより実現される方法は、ブロックB間の関係又は接続をそれらの位置に従って配置することができ、3次元ワークスペースWS内においてz軸に沿って自動的にz変位を考慮に入れることができる。
ブロックBのバーチャルカメラVCは、ユーザインタフェース1の入力部2に入力されたユーザ命令又はジェスチャに応答して、関連するブロックBの三次元ワークスペースWSにおいて配置及び移動することができる。バーチャルカメラVCは、複合システムSYSの物理コンポーネントCを形成し、階層システムモデルSYS-MODにおける関連ブロックBによって表される制御部からのコマンドに応答して、関連ブロックBの3次元ワークスペースWSにおいて移動されることも可能である。
図6及び図9は、選択されたブロックB1に関連するバーチャルカメラVCB1のズーム動作を示す。図6及び図9のバーチャルカメラVCB1は、関連するブロックB1の座標系又はワークスペースWSB1内で全方向に移動することができる。ブロックB1の三次元ワークスペースWSB1は、ブロックB1のシーンを含む。さらに、ブロックB1の三次元ワークスペースWSB1はまた、ブロックB1のバーチャルカメラVCB1を含む。バーチャルカメラVCB1が、ブロックB1のチャイルドブロックB1_1、B1_2のシーンの投影に対して垂直なワークスペースWSB1の座標系のz方向に移動される場合、中間的な仮想投影を介した画面上へのより深いネスト化されたチャイルドブロックB1_1_1、B1_1_2、B1_2_1の投影は、図9に示されるように実行される。
ズーム動作中、関連するブロックに属するバーチャルカメラVCB1は、入力部2に入力されたズームユーザコマンドに応答して、各ブロックB1のワークスペースWSB1に移動可能である。これは、例えば、トラックパッド上又はマウスホイール操作を介して操作される2本指パンコマンドなどのスクロールジェスチャによって実行されうる。バーチャルカメラVCのバーチャルカメラの動きはまた、ドラッグジェスチャ又はコマンドによって制御可能である。ワークスペースWSにおけるバーチャルカメラVCを制御するための最も一般的に使用されるカメラ制御コマンドは、マップ制御と呼ぶこともでき、バーチャルカメラVCのビュー方向が常に回転することなくワーク面に垂直に向けられることを意味する。
バーチャルカメラVCに加えて、各ブロックBは、チャイルドブロックを含むことができる。各チャイルドブロックは、チャイルドブロックがそれぞれのペアレントブロックに対して視覚的に正しく表されるように、自らのバーチャルカメラVCを有する。チャイルドブロックはブロックそのものであるため、他のチャイルドブロックを含むこともできる。これにより、ブロックを無限にネスト化又は入れ子にすることができる。これはまた、図9にも示されている。図示された具体例では、ブロックB1は、2つのチャイルドブロックB1_1及びB1_2を備える。2つのチャイルドブロックB1_1、B1_2の各々は、それ自体のチャイルドブロックを含む。チャイルドブロックB1_1は、チャイルドブロック(グランドチャイルド)ブロックB1_1_1と、ブロックB1_1_2とを含む。また、ブロックB1のチャイルドブロックB1_2は、1つのチャイルドブロック(グランドチャイルド)B1_2_1を有する。ブロックB1は、関連するバーチャルカメラVCB1を有するルートブロックを形成する。図9に示すように、ブロックB1のシーンの表示部3の画面上への投影が実行される。ブロックB1のチャイルドブロック(B1_1及びB1_2)は、バーチャルカメラVCB1を介して画面上に投影される。より深くネスト化されたチャイルドブロック(グランドチャイルド)は、最初にそれぞれのペアレントブロックに投影される必要がある。この投影は、主要なシーン上のより深いネスト化されたチャイルドブロックの結果として生じるより小さいサイズ及び相対位置を計算するため仮想的に実行される。この技術は、中間的投影と呼ばれる。このアプローチの利点は、性能に基づくものである。チャイルドブロックの中間的な仮想投影は、第1のレンダリング中に1回だけ計算される必要がある。メインカメラの変化は再計算を必要としない。
ブロックB1の仮想カメラVCB1、すなわち、メインカメラは、依然としてメインシーンにフォーカスされ、チャイルドブロックは仮想的に投影されるに過ぎず、過度に深いズーム動作は、従来の方法では、バーチャルカメラVCにメインシーンの平面を貫通させ、ブロックはもはや見えなくなる。従って、コンピュータにより実現されるヒューマンマシーンインタラクション方法では、所定の切替基準が満たされる場合、ブロックB1に関連する現在の三次元ワークスペースWSB1及びバーチャルカメラVCB1から、ブロックB1のチャイルドブロックB1_1に関連する別の三次元ワークスペースWSB1_1及びバーチャルカメラVCB1_1への切替が、自動的かつシームレスに実行される。図9に示される具体例では、例えば、ブロックB1のワークスペースWSB1内のバーチャルカメラVCB1と投影されたチャイルドブロックB1_1との間の距離dが、所定の距離閾値THよりも低くなるまで減少する場合、バーチャルカメラVCB1からバーチャルカメラVCB1_1への切替が、ワークスペースにおいて自動的に実行される。これは、ブロックB1に関連するURL上のURLをチャイルドブロックB1_1に関連するURLに自動変更することを伴う。データベース5に記憶される階層システムモデルSYS-MODにおける各ブロックBは、好ましい実施例において、データベース5に記憶された階層システムモデルSYS-MODの階層構造を反映する一意的なブロック識別子及びURL(Uniform Resource Locator)を含む。各ブロックBは、ブロックBを作成し、ブロックBがユーザによって更新されたときのタイムスタンプまたは排他的なアクセスライト権限を有するユーザのユーザIDなどの追加情報を含むことができる。
図9の具体例では、所定の切替基準が満たされた場合、ブロックB1_1に関連する現在の三次元ワークスペースWSB1_1及びバーチャルカメラVCB1_1から、チャイルドブロックB1_1のペアレントブロックB1に関連する別の三次元ワークスペースWSB1及びバーチャルカメラVCB1への切替は、自動的又は半自動的に実行可能である。これは、チャイルドブロックB1_1に関連するURLからブロックB1に関連するURLへのURLの結果としての変更(ズームアウト)を伴いうる。その結果、コンピュータにより実現される方法は、ユーザインタフェース1の入力部2に入力されるズームユーザコマンドに応答して、効果的なズームイン動作とズームアウト動作との双方を提供する。階層システムモデルSYS-MODにおけるブロックB1に関連するバーチャルカメラVCB1が、ブロックB1のチャイルドブロックB1_1に対するズームユーザコマンドに応答して、3次元ワークスペース内のバーチャルカメラVCB1とチャイルドブロックB1_1との間の距離dを小さくするよう移動される場合、図9に示されるように、投影が実行される。階層システムモデルSYS-MODにおけるブロックB1に関連するバーチャルカメラVCB1は、可能な実施例では、三次元ワークスペースWSB1におけるユーザインタフェースの入力部に入力されたパンユーザコマンドに応答して移動可能である。各ブロックBは、図9にも示されるように、ワークスペースWSにおける実際の3次元位置、すなわち、デカルト座標系における3つの座標x、y、zを含む。例えば、第1のチャイルドブロックB1_1は3D位置(x=-10; y=0; z=0)を有し、ブロックB1の他のチャイルドブロックB1_2は位置(x=10; y=0; z=20)を有する。
また、階層システムモデルSYS-MODにおけるブロックB1に関連するバーチャルカメラVCB1はまた、可能な実施例では、バーチャルカメラVCB1の現在のカメラ位置を中心としたブロックB1の3次元ワークスペースWSB1におけるユーザインタフェース1に入力された回転ユーザ命令に応答して、回転可能である。
第1のブロックB1に関連する第1のバーチャルカメラVCB1から別のブロックB2に関連する別のバーチャルカメラVCB2へのスイッチオーバはまた、可能な実施例では、各ブロックのユニフォームリソースロケータURLを使用して、すなわち、システムモデルにおける第2のブロックB2のURLを選択して、自動的に実行可能である。本発明によるコンピュータにより実現される方法は、階層システムモデルにおける異なるブロックB間の直接的なブロックナビゲーションも可能にする。階層構造は、各ブロックBのユニフォームリソースロケータURLによって反映されうる。これは、ブロック構造のより深いレベルが、ズーム操作を介して到達可能であるだけでなく、各ブロックBのURLを選択することによって、あるタイプのジャンプ操作において直接到達可能であることを意味する。ブロックURLが直接アクセスされる場合、対応するブロックBが入力可能である。これは、入力されたブロックBの下方の階層レベルHLにあるブロックのみが表示されることを意味する。URL構造と組み合わせることにより、これは、特定レベルのブロック構造を他の参加ユーザと共有することを可能にする。
図4Aは、ネスト化されたブロックB、特に、いくつかのチャイルドブロックB1_1、B1_2、B1_3、B1_4を備えるペアレントブロックB1を示す。ペアレントブロックB1に対してズームすると、チャイルドブロック内のネスト化されたブロックが可視化される。これは、図4Bにも示されている。第1のタイプCAT1のチャイルドエリアは、図4Aに示されるように、ブロックが互いに入れ子にされ、従って、それらの間に親子関係Rを生成することを可能にする。ペアレントブロックに対してズームインすることによって、より深いネスト化されたチャイルドブロックが、図4Bに示されるように明らかになる。対照的に、ズームアウトすることによって、より深くネスト化されたチャイルドブロックが隠され、ペアレント構造が表示される。ブロックBは、異なるスタイル又は形状、例えば、図11Aに関連して説明されるような丸いブロックフレームを有するブロックBを示すことができる。
階層ブロック構造は、図4Cに示すように、ウェブブラウザURLによって反映することができる。例えば、ブロックB142は、URL:/block1/block14/block142を介して直接的に到達可能である。従って、URLは、データベース5に格納された階層システムモデルSYS-MODの階層構造を反映する。ブロックBのURLを選択することによって、各ブロックB7及びそれのバーチャルカメラVCへの直接的なジャンプを自動的に達成することができる。
可能な実施例では、各ブロックBは、ユーザUが各ブロックBに関連するURLを用いて、ブロックBに関連するワークスペースWSに対する他の参加ユーザUのリード又はライトアクセスを与えることができるユーザにより規定される権限管理を備える。ユーザにより規定される権限管理設定は、他のユーザにより規定される権限管理設定がブロックBのチャイルドブロック又はより深いネスト化されたチャイルドブロックに適用されない限り、各ブロックBの直接のチャイルドブロック及びより深いネスト化されたチャイルドブロックにわたすことができる。
可能な実施例では、階層システムモデルSYS-MODの異なる部分に存在する2つのブロック(B5及びB9)は、図4Cに示すように、接続又は関係Rによって接続することができる。この場合、Rは階層システムモデルSYS-MODの複数の階層レベル又は分岐をブリッジする。Rの両端部を観察可能にするため、B9のペアレントブロックの関連セクションにビューを開くポータルを作成することができる。
ユーザUがブロックBへのライトアクセスを有する場合、ユーザUは、それのアクセス権に従って異なる操作を実行してもよい。例えば、ブロックBの新しいチャイルドブロックは、ユーザUがブロックBに対するライトアクセスを受信している場合、ブロックBに関連するワークスペースWS内においてユーザによって作成することができる。さらに、ブロックに適用されるライトアクセスを有するユーザは、ブロックBに関連するワークスペースWS内においてユーザUによって編集可能な背景カラー、境界カラー及び/又は境界半径を含むブロックBのチャイルドブロックのスタイルを変更することができる。さらに、ブロックBのチャイルドブロックのサイズは、このユーザUがブロックBへのライトアクセスを有する場合、ブロックBに関連するワークスペースWS内においてユーザUによって変更可能である。さらに、ブロックBのチャイルドブロックの位置は、ユーザUが各ブロックBへの必要なライトアクセス権を有する場合、ブロックBに関連するワークスペースWS内においてユーザUによって直接位置を入力するか、又はドラッグ操作を介して変更可能である。ブロックBのチャイルドブロックの階層位置はまた、ユーザUが各ブロックBと、チャイルドブロックが移動される新たなペアレントブロックとに対するライトアクセス権を有する場合、ブロックBに関連するワークスペースWS内においてユーザUによるドラッグ及びドロップ操作を介し自動的に変更可能である。システムモデルSYS-MODの階層構造においてシフトされるブロックの階層URLは、ブロックBの新たな位置に自動的に適合される。さらに、ブロックBのチャイルドブロックの新たなコンテンツエリアCAは、ユーザUが各ブロックBに対する必要なライトアクセス権を有する場合、ブロックBに関連するワークスペースWS内においてユーザUによって作成することができる。ブロックBのチャイルドブロックのタイプ「データ-エリア」CAT2内のコンテンツエリアCAは、ユーザUがブロックBへの必要なライトアクセス権を有する場合、ブロックBに関連するワークスペースWS内のコンテンツエリアCA上のユーザ選択コマンドに応答して、ユーザによって編集可能である。ブロックBのワークスペースWSにおいて作業するユーザUの編集アクションは、可能な実施例では、リアルタイムでのワークスペースWSの共同編集が本発明によるコンピュータによって実現される方法によって可能となるように、他のユーザUが同じワークスペースWSを数秒で閲覧することに対してミラーリングすることができる
データベース5に格納された階層システムモデルSYS-MODは、表示部3の画面上に対応するネスト化構造として表示することができる。階層システムモデルSYS-MODは、例えば、UML(Unified Modeling Language)又はSysML(Systems Modeling Language)に基づくことができる。従って、階層システムモデルSYS-MODはまた、データーインタフェースを介してインポート及びエクスポートすることもできる。UML又はSysMLモデルの構造は、3次元ワークスペースWS及び階層関係においてネスト化構造として表示することができる。
本発明によるコンピュータによって実現されるヒューマンマシーンインタラクション方法とヒューマンマシーンインタフェース1との好適な実施例では、処理部4は、GPU(Graphics Processing Unit)を有する。ブロックBに関連する3次元ワークスペースWSを表示するための計算は、3次元シーンの計算に対して最適化され、高い計算性能を提供するGPU上で実行可能である。この結果、ユーザUによって実行される操作、特に物理複合システムSTSのシステムコンポーネントCに対する制御信号の生成がまた、リアルタイムに実行可能である。
ブロックBのユーザ制御入力エリアタイプCAT4のコンテンツエリアCAがユーザ選択コマンドに応答して選択される場合、少なくとも1つの制御信号CRTLの生成がトリガ可能であり、トリガされた制御信号CRTLは、ヒューマンマシーンインタフェース1の処理部4によって、システムコンポーネントCとして複合システムSYSに統合されたコントローラ、又は複合技術システムSYSの別のタイプのコンポーネントCを形成するアクチュエータに供給することができる。
可能な実施例では、ブロックBはまた、ブロックテンプレートを使用して作成することもできる。このようなブロックテンプレートは、コンテンツエリア構造の外観と、当該テンプレートを使用して作成されたブロックBの可能な挙動とを規定する。ブロックテンプレートの変更は、当該ブロックテンプレートで作成された全てのブロックBの自動更新をもたらしうる。ブロックテンプレートは、標準的なブロック(例えば、UMLブロック)と、特定のユースケースのためのカスタマイズされたブロックとをユーザに提供するため使用することができる。ブロックテンプレートは、ユーザU自身によって作成することができ、及び/又はインターネットなどのデータネットワークを介してあるタイプのブロック市場において他のユーザU’と交換することができる。ブロックテンプレートはまた、必要に応じてデータベース5からロードすることもできる。ユーザUは、ブロックテンプレート選択コマンドを入力して、データベース5からブロックテンプレートを取り出すことができる。ロードされたブロックテンプレートに基づいて、ユーザUは、ブロックBをユースケース用にカスタマイズできる。生成されたブロックBは、モデルSYS-MODにおける他のブロックに割り当てられた関係Rを有する階層システムモデルSYS-MODに挿入することができる。挿入された新しいブロックBの対応する階層URLは、自動的に生成することができる。
表示されるブロックは、好適な実施例では、ズーム感知的である。従って、ブロックBは、例えば、図8に示されるように、それらのコンテンツエリアCAをより多く又はより少なく表示することによって、それらの関連するバーチャルカメラVCの現在のカメラ位置からの距離dの変化に対応することができる。画面上でブロックB1に対してズームをすると、ブロックB1は画面上でより大きく表示され、コンテンツを表示するために利用可能なより大きなスペース又はエリアが存在する。他方、ズームアウトすると、ブロックB1は画面上でより小さく表示され、コンテンツはそれに応じて隠される。図7及び図8の図示される具体例では、複合システムSYSの技術コンポーネントCは、複数のサブシステム及びコンポーネントからなる衛星である。技術コンポーネントに関する重要な情報が、関連するブロックB1上に表示される。大部分の場合、これはブロックBの一意的な名称である。図7の具体例では、ブロックの名称は「衛星」である。図8に示されるようにブロックB1をズームすることによって、関連するコンポーネントである衛星に関するより多くの情報、例えば、それの現在の速度、すなわち、100mphなどが可視的になる。表示される情報は、所与の例において軌道内の衛星の現在の相対速度を示すリアルタイムセンサデータを含むことができる。このデータは、サービスプロバイダによって、及び/又は、システムコンポーネントC自身のセンサによって提供することができる。
図7は、そのようなブロックB1内のコンテンツエリアCAの異なるコンテンツエリアタイプCATを示す。図示された具体例では、ブロックB1は、それぞれのブロックB(チャイルド-エリア)(すなわち、コンテンツエリアタイプ(CAT1))のより深いネスト化されたチャイルドブロックを示すよう適合されたコンテンツエリアCA3を有する。図7の図示されたブロックB1では、テキストなどのコンテンツデータ、特に対応する物理コンポーネント「衛星」の名前を含む第2のコンテンツエリアタイプCAT2のコンテンツエリアCA1をさらに含む。図示された具体例では、ブロックB1はさらに、コンテンツデータ、この例では、対応する物理コンポーネント「衛星」のピクチャ又は画像も含む、さらなるコンテンツエリアCA2を備える。図7に示されるようなブロックB1は、他のコンテンツエリアタイプCATのさらなるコンテンツエリアCA、特に、APIを介してサードパーティサービスによって、又は監視される技術システムSYSのセンサコンポーネントCから提供されるダイナミックデータを含む第3のタイプCAT3のダイナミックコンテンツエリアを含んでもよい。さらに、図7の具体例に示されるブロックB1は、ユーザUがタッチ感知コンテンツエリアタイプCAT4の表示されたコンテンツエリアCAにタッチするなど、ユーザ選択コマンドによって入力感知コンテンツエリアを選択する場合、少なくとも1つの制御信号CRTLを自動的に生成するように適合されたユーザの入力感知コンテンツエリアを提供する第4のコンテンツエリアタイプCAT4を備えることができる。例えば、図7に示されるブロックB1は、100mphから105mphまでの軌道速度を増加させるため、感知エリア上をスライドすることによって軌道内の衛星の相対速度を制御することを可能にするユーザ感知コンテンツエリアCA4を備える。この値の変更は、ユーザインタフェース1の処理部4からデータネットワークを介して衛星基地局に供給される制御信号CRTLを自動的にトリガし、基地局は、制御信号CRTLを物理軌道衛星に転送して衛星の速度を変更する。従って、衛星を表すブロック図B1は、衛星の現在状態に関する情報を提供するだけでなく、軌道における衛星の物理性能パラメータ及び挙動を制御することを可能にする。さらに、軌道における衛星の表示された現在の相対速度がクリティカルになり、95mphなどの所定の閾値の以下に低下する場合、アラームが、物理的な衛星のセンサによって又は衛星基地局によって自動的にトリガされ、ヒューマンマシーンインタフェース1の処理部4に供給され、衛星を表すブロックB1の第3のタイプCAT3のダイナミックデータコンテンツエリア上に警告信号を表示することができる。地上制御のユーザ又はオペレータは、衛星の速度に影響を及ぼすシステムコンポーネントCを示す衛星のサブシステムを表すブロックB1のチャイルドブロックにズームインすることができる。オペレータは、これらのサブシステムをズームして、衛星の速度問題を処理することができる。
図11は、異なるタイプのブロックBについての異なる具体例を示す。異なるブロックBは、図11Aの円、図11B及び図11Cの矩形などの異なる形状を含むことができる。図11Aに示されるブロックBは、何れのコンテンツも含まない。図11Bに示されるブロックは、テキストコンテンツを形成するコンテンツ“Hello universe”を有するコンテンツエリアを有する。図11Cに示されるブロックBは、第1のコンテンツ領域CA1はテキストコンテンツ“My picture”を含み、第2のコンテンツエリアCA2は画像を含む。
図10は、本発明の第1の態様によるコンピュータにより実現されるヒューマンマシーンインタラクション方法を説明するためのさらなるフローチャートを示す。図10は、ステップS1、S2、S3、S4が反復的に実行されることを示す。コンピュータにより実現されるヒューマンマシーンインタラクション方法の図示された実施例では、第1のステップS1において、ブロックB1に関連する3次元ワークスペースWSB1は、ブロックB1の関連する一意的なURLを使用してロードされる。ブロックB1のワークスペースWSB1は、ステップS2において、ブロックB1の関連するバーチャルカメラVCB1に表示される。
さらなるステップS3において、ブロックB1のコンテンツエリアCAは、可能な実施例では、表示部3の画面の画面サイズと、ブロックB1に関連するバーチャルカメラVCB1とブロックB1のチャイルドブロックとの間の現在の計算された距離dとに応じて、ヒューマンマシーンインタフェース1の処理部4のマイクロプロセッサによって計算された明示/隠匿基準に応じて明示又は隠匿される。
さらなるステップS4では、より深いネスト化されたチャイルドブロックが表示される。
さらなるステップS5では、ブロックB1のバーチャルカメラVCB1がブロックB1のワークスペースWSB1内に再配置されたか確認される。
さらなるステップS6において、所定のスイッチオーバ基準が満たされているかがチェックされる。そうでない場合、ルーチンはステップS1に戻る。一方、スイッチオーバ基準が満たされている場合、ステップS7において、他のワークスペースWS及びバーチャルカメラVCへの自動切替が実行される。
本発明によるヒューマンマシーンインタラクションユーザインタフェース1では、処理部4は、好適な実施例において、実際の3次元シーンを計算するように最適化されたGPUを含む。可能な実施例では、3Dエンジンが利用可能である。これは、3Dオブジェクト(CADデータなど)をレンダリングし、仮想空間(拡張現実/仮想現実)におけるシーンをレンダリングすることを可能にする。
本発明によるコンピュータにより実現される方法では、階層レベルは、それらのペアレントブロック上にそれらを投影することによって表示される。本発明による方法では、デカルト座標系における三次元のオブジェクトを三次元位置(x、y、z)に位置決めすることができる。他の座標系を使用することもできる。本発明によるコンピュータにより実現される方法では、チャイルドブロックは、ペアレントブロックのフレーム内に視覚的に表示される。このようにして、チャイルドブロックとペアレントブロックとの間の関係が明らかになる。
本発明による方法によると、データネットワークを介し共有サーバに接続された異なるユーザ端末デバイスを用いて、複数のユーザが同一のワークスペースWSにおいて同時に操作することが可能になる。ユーザ端末の各々は、本発明によるヒューマンマシーンインタラクションユーザインタフェース1を含むことができる。あるユーザによって実行された操作の変更は、他の何れかの参加ユーザにもすぐに見ることができる。これは、リアルタイムで共通の複合技術システムSYS上での共同作業を可能にする。
ユーザUは、ブロックテンプレートを利用して作成したシステムモデルSYS-MOD内のブロックBのグループにたいしる排他的又は非排他的なライトアクセス権を有する利害関係者とすることができる。
本発明によるコンピュータにより実現される方法は、表示部3の画面の限られた実エリア上での情報の表現を可能にする。画面は、例えば、タブレット、ラップトップ、コンピュータ又はスマートフォンの画面を含むことができる。ワークスペースWSにおける仮想的なz軸は、特定のシステムコンポーネントCと関連するメタ情報データとを指定する詳細情報を表示部3の画面上に表示するのに利用可能である。ヒューマンマシーンインタフェース1の入力部2は、例えば、スクロールホイール又はタッチパッドを有するマウスを含んでもよい。ユーザUは、仮想的なz軸に沿って3次元ワークスペースWSにおけるブロックBに関連するバーチャルカメラVCの位置を変更することができる。さらに、デカルト座標のワークスペースWS内のx軸及びy軸における表示部3の画面上に表示されるカメラ位置は、ユーザによって同時に変更可能である。これにより、ユーザUは、入力されたユーザコマンドに応じてズームイン又はズームアウトすることができる。従って、ヒューマンマシーンインタフェース1は、車両、衛星、マシーン又は設備などの何れかのタイプの技術システムSYSを制御及び監視するための効率性を向上させるコンポーネントベースのダイアグラムのためのズーム表示又は非表示三次元インタフェースを提供する。その制御は、各システムの階層構造モデルに従って物理システムSYSを表すダイアグラムを直接用いることで行うことができる。
コンテンツエリアCAの明示/隠匿基準は、表示部3の画面上に表示される情報データの最適量などのさらなる要因に基づくことができる。可能な実施例では、データベース5に記憶された階層システムモデルSYS-MODはまた、データベース5に記憶された階層システムモデルSYS-MODの異なる部分(階層レベルでない)上でブロックBにリンク可能である。データベース5に記憶された階層システムモデルSYS-MODにおける各ブロックBは、複合技術システムSYSの電子回路又はソフトウェアコンポーネントなどのハードウェアコンポーネントを表すことができ、そのようなブロックBの各チャイルドブロックは、各チャイルドブロックのペアレントブロックを形成するブロックによって表されるサブコンポーネントを表すことができる。
本発明によるコンピュータにより実現される方法は、分散システムを計画、監視及び制御するため適用可能である。
本発明によるコンピュータにより実現される方法は、例えば、他のユーザU’による複合技術システムの共通の理解を作成するため、要件及び論理構造などの異なるドメイン間の関係を可視化し、ユーザUに理解可能にするか、又はユーザUによって利用させるモデルベースシステムエンジニアリングの複合技術システムが適用された方法を設計するのに利用可能である。
本発明によるコンピュータによって実現される方法は、例えば、モデルベース事業の方法をサポートする組織におけるプロセス及びワークフローを計画及び監視するのに利用可能である。

Claims (15)

  1. ユーザ(U)がデータベースDB(5)に格納される階層システムモデル(SYS-MOD)によって表現され、ユーザインタフェース(1)の表示部(3)上に対応するネスト化構造として表示される複合システム(SYS)に関する情報を抽出及び作成することを支援するのに利用されるコンピュータによって実現されるヒューマンマシーンインタラクション方法であって、
    前記階層システムモデル(SYS-MOD)は、前記複合システム(SYS)を計画、監視及び制御するため処理され、前記コンピュータにより実現されるヒューマンマシーンインタラクション方法は、以下のステップ、
    第1のステップ(S1)において、前記複合システム(SYS)のシステムコンポーネントCを表す関連する一意的なURLを利用して、選択されたブロックB1に関連する3次元ワークスペースWSB1をロードすることであって、前記ブロックB1の前記ロードされる3次元ワークスペースWSB1は、前記データベースDB(5)に格納される前記階層的システムモデル(SYS-MOD)において前記ブロックB1の下位として規定され、前記ブロックB1の前記ロードされる3次元ワークスペースWSB1に配置される前記ブロックB1のチャイルドブロックのシーンを含む、ロードすることと、
    第2のステップ(S2)において、前記ブロックB1の前記ロードされる3次元ワークスペースWSB1内の3次元座標系に配置される前記ブロックB1に関連するバーチャルカメラVCB1によって、前記表示部(3)の画面上に前記ブロックB1の前記チャイルドブロックのシーンを投影することによって、前記3次元ワークスペースWSB1を表示することと、
    第3のステップ(S3)において、各チャイルドブロックのサイズ、前記表示部(3)の画面の画面サイズ、及び、前記ブロックB1に関連する前記バーチャルカメラVCB1と、前記ブロックB1の各チャイルドブロックとの間の距離dに基づいて計算される明示/隠匿基準に依存して、前記ブロックB1の可視的な表示されたチャイルドブロックのコンテンツエリア(CA)を明示又は隠匿することと、
    第4のステップ(S4)において、チャイルドブロックB1_1のチャイルドエリアタイプCAT1のコンテンツエリア(CA)が明示される場合、前記チャイルドブロックB1_1上へのチャイルドブロックB1_1のチャイルドブロックのシーンの中間的な仮想的投影を介し、前記表示部(3)の画面上に前記ブロックB1の各チャイルドブロックB1_1のチャイルドブロックのシーンを投影することによって、前記データベースDB(5)に格納される前記階層システムモデル(SYS-MOD)の下位の階層レベルに対応するより深いネスト化されたチャイルドブロックを表示することと、
    全てのチャイルドブロックと関連するコンテンツエリア(CA)とが、前記第3のステップ(S3)と前記第4のステップ(S4)とにおいて利用される明示/隠匿基準に従って表示されるまで、前記第3のステップ(S3)と前記第4のステップ(S4)とを繰り返すことと、
    を繰り返し実行する方法。
  2. 前記バーチャルカメラVCB1は、前記ユーザインタフェース(1)の入力部に入力されるユーザコマンドに応答して、又は、外部コントローラから、特に複合技術システム(SYS)のシステムコンポーネントCを形成するコントローラから、又は前記複合技術システム(SYS)のセンサコンポーネントから受信されるコマンドに応答して、前記関連するブロックB1の3次元ワークスペースWSB1において自動的に配置及び移動される、請求項1に記載のコンピュータにより実現されるヒューマンマシーンインタラクション方法。
  3. 所定のスイッチオーバ基準が充足される場合、前記ブロックB1に関連する現在の3次元ワークスペースWSB1と前記バーチャルカメラVCB1とから、前記ブロックB1のチャイルドブロックB1_1に関連する他の3次元ワークスペースWSB1_1と前記バーチャルカメラVCB1_1とへの切替が、自動的、半自動的又は手動でシームレスに実行され、前記ブロックB1に関連するURLから前記チャイルドブロックB1_1に関連するURLへのURLの自動変更を伴う、請求項1又は2に記載のコンピュータにより実現されるヒューマンマシーンインタラクション方法。
  4. 所定のスイッチオーバ基準が充足される場合、前記ブロックB1_1に関連する現在の3次元ワークスペースWSB1_1と前記バーチャルカメラVCB1_1とから、前記ブロックB1_1のペアレントブロックB1に関連する他の3次元ワークスペースWSB1と前記バーチャルカメラVCB1とへの切替が、自動的、半自動的又は手動でシームレスに実行され、前記ブロックB1_1に関連するURLから前記ペアレントブロックB1に関連するURLへのURLの変更を伴う、請求項1又は2に記載のコンピュータにより実現されるヒューマンマシーンインタラクション方法。
  5. 前記階層システムモデル(SYS-MOD)の下位階層レベルHLにおける他のブロックと親子関係によって接続される前記データベースDB(5)に格納される前記階層システムモデルの階層レベルHLにおけるブロックBは、上位の階層レベルにおける前記ペアレントブロックのチャイルドブロックを次に形成する下位の階層システムレベルにおける他のブロックに関してペアレントブロックを形成する、請求項1から4の何れかの一項に記載のコンピュータにより実現されるヒューマンマシーンインタラクション方法。
  6. 各ブロックBは、前記コンテンツエリア(CA)が行及び列に配置され、前記コンテンツエリア(CA)が明示/隠匿基準に従って明示可能又は隠匿可能である、異なるコンテンツエリアタイプの複数のコンテンツエリア(CA)を含み、
    前記データベースに格納される前記階層システムモデル(SYS-MOD)のブロックBのコンテンツエリアタイプCATは、
    -各ブロックのより深いネスト化されたチャイルドブロックを示すよう適応される第1のコンテンツエリアタイプCAT1(チャイルド-エリア)と、
    -コンテンツデータ、特に(限定することなく)、テキストコンテンツデータと画像コンテンツデータとを含む第2のコンテンツエリアタイプCAT2(データ-エリア)と、
    -APIを介し第三者サービスによって提供されるダイナミックデータを含む第3のコンテンツエリアタイプCAT3(ダイナミック-エリア)と、
    -ユーザ入力感知エリアがユーザ選択コマンドに応答して選択される場合、制御信号を自動生成するよう適応されるユーザ入力感知コンテンツエリアを提供する第4のコンテンツエリアタイプ(ユーザ制御入力-エリア)と、
    を含む、請求項1から5の何れか一項に記載のコンピュータにより実現されるヒューマンマシーンインタラクション方法。
  7. 前記データベースDB(5)に格納される前記階層システムモデルの各ブロックBは、前記データベースDB(5)に格納される前記階層システムモデルの階層構造を反映する一意的なブロック識別子とURL(Uniform Resource Locator)とを含み、
    各ブロックBは、前記ユーザ(U)が各ブロックBに関連するURLを介しブロックBに関連するワークスペースWSへのリード又はライトアクセスを他のユーザに提供可能なユーザにより規定された権限管理を含み、
    前記ユーザにより規定された権限管理の設定は、他の何れのユーザにより規定された権限管理の設定も前記ブロックBのチャイルドブロック又はより深いチャイルドブロックに適用されない限り、ブロックBの直接のチャイルドブロックとより深いネスト化されたチャイルドブロックとにわたされる、請求項1から6の何れか一項に記載のコンピュータにより実現されるヒューマンマシーンインタラクション方法。
  8. 前記データベースDB(5)に格納される前記階層システムモデル(SYS-MOD)のブロックB1に関連する前記バーチャルカメラVCB1は、前記3次元ワークスペースWSB1内の前記バーチャルカメラVCB1とチャイルドブロックB1_1との間の距離dを縮小させ、各チャイルドブロックB1_1とそれのコンテンツエリアCAとにズームインするため、前記ブロックBのチャイルドブロックB1に向かって、前記3次元ワークスペースWSにおける前記ユーザインタフェース(1)の入力部(2)に入力されるズームユーザコマンドに応答して移動され、
    前記データベースDB(5)に格納される前記階層システムモデル(SYS-MOD)のブロックB1に関連する前記バーチャルカメラVCB1は、前記ブロックB1のチャイルドブロックにパラレルな前記3次元ワークスペースWSB1における前記ユーザインタフェース(1)の前記入力部(2)に入力されるパンユーザコマンドに応答して自動的に移動され、
    前記データベースDB(5)に格納される前記階層システムモデル(SYS-MOD)のブロックB1に関連する前記バーチャルカメラVCB1は、現在のカメラ位置の周囲の前記3次元ワークスペースWSにおける前記ユーザインタフェース(1)の前記入力部(2)に入力される回転ユーザコマンドに応答して回転される、請求項1から7の何れか一項に記載のコンピュータにより実現されるヒューマンマシーンインタラクション方法。
  9. 前記データベースDB(5)に格納される前記階層システムモデル内のブロックBは、各関係を記述するための関連する関係ラベルを含む関係を介し相互リンク可能である、請求項1から8の何れか一項に記載のコンピュータにより実現されるヒューマンマシーンインタラクション方法。
  10. 前記スイッチオーバ基準は、前記3次元ワークスペースWSB1における設定可能な距離閾値THに基づき、
    前記ブロックB1に関連する前記3次元ワークスペースWSB1内で移動可能なバーチャルカメラVCB1と、ブロックB1のチャイルドブロックB1_1との間の計算された距離dが前記設定可能な距離閾値THより小さくなる場合、前記ブロックB1のチャイルドブロックB1_1に関連する前記バーチャルカメラVCB1_1への切替が自動的に実行される、請求項3から9の何れか一項に記載のコンピュータにより実現されるヒューマンマシーンインタラクション方法。
  11. 前記ブロックB1の新たなチャイルドブロックは、前記ユーザ(U)が各ブロックB1へのライトアクセスを有する場合、前記ブロックB1に関連するワークスペースWSB1内において前記ユーザ(U)によって作成可能であり、
    背景カラー、境界カラー及び境界半径を含む前記ブロックB1のチャイルドブロックのスタイルは、前記ユーザ(U)が各ブロックB1へのライトアクセスを有する場合、ブロックB1に関連する前記ワークスペースWSB1内において前記ユーザ(U)によって編集可能であり、
    前記ブロックB1のチャイルドブロックのサイズは、前記ユーザ(U)が各ブロックB1へのライトアクセスを有する場合、ブロックB1に関連する前記ワークスペースWSB1内において前記ユーザ(U)によって変更可能であり、
    前記ブロックB1のチャイルドブロックの位置は、前記ユーザ(U)が各ブロックB1へのライトアクセスを有する場合、ブロックB1に関連する前記ワークスペースWSB1内において前記ユーザ(U)によって前記位置を直接ドラッグ又は入力することを介し変更可能であり、
    前記ブロックB1のチャイルドブロックの階層位置は、前記ユーザ(U)が前記ブロックB1と前記チャイルドブロックが移動される新たなペアレントブロックとへのライトアクセスを有する場合、ブロックB1に関連する前記ワークスペースWSB1内において前記ユーザ(U)によってドラッグ又はドロップを介し変更可能であり、
    前記ブロックB1のチャイルドブロックのための新たなコンテンツエリア(CA)は、前記ユーザ(U)が各ブロックB1へのライトアクセスを有する場合、前記ブロックB1に関連する前記ワークスペースWSB1内において前記ユーザ(U)によって作成可能であり、
    前記ブロックB1のチャイルドブロックのためのタイプ“データ-エリア”CAT2によるコンテンツエリア(CA)のコンテンツは、前記ユーザ(U)が各ブロックB1へのライトアクセスを有する場合、前記ブロックB1に関連するワークスペースWSB1内において各コンテンツエリアCAを選択するためのユーザ選択コマンドに応答して、前記ユーザ(U)によって編集可能である、請求項1から10の何れか一項に記載のコンピュータにより実現されるヒューマンマシーンインタラクション方法。
  12. 選択可能なブロックBに関連する3次元ワークスペースWSを表示するための計算は、3次元シーンの計算に対して最適化され、高性能を提供するGPU(Graphics Processing Unit)上で実行される、請求項1から11の何れか一項に記載のコンピュータにより実現されるヒューマンマシーンインタラクション方法。
  13. ブロックBのタイプ入力エリアCAT4のコンテンツエリア(CA)が、前記ユーザインタフェース(1)の前記入力部(2)を介して入力されるユーザ選択コマンドに応答して選択される場合、制御信号CRTLの生成がトリガされ、
    前記生成される制御信号は、前記データベースDB(5)に格納される階層システムモデル(SYS-MOD)における対応するブロックBによって表される複合技術システム(SYS)のシステムコンポーネントCを形成するコントローラ又はアクチュエータに提供される、請求項1から12の何れか一項に記載のコンピュータにより実現されるヒューマンマシーンインタラクション方法。
  14. データベースDB(5)に格納される階層システムモデル(SYS-MOD)の関連するブロックBによって表される複数のシステムコンポーネントCを有する複合システム(SYS)の少なくとも1つのコントローラ又はアクチュエータに接続されるヒューマンマシーンインタラクションHMIユーザインタフェース(1)であって、
    ユーザ入力コマンドを受信するよう適応される入力部(2)と、
    各ブロックB1に関連し、前記ブロックB1のロードされた3次元ワークスペースWSB1内において3次元座標系に配置されるバーチャルカメラVCB1によって、前記複合システム(SYS)の対応するシステムコンポーネントCを表す選択可能なブロックB1に関連する3次元ワークスペースWSB1内においてシーンを表示するよう適応される画面を有する表示部(3)であって、前記バーチャルカメラVCB1は、各ブロックB1に対してズーム操作を実行し、それのコンテンツエリアCAを明示または隠匿するため、前記ユーザインタフェース(1)の前記入力部(2)に入力されるユーザ入力コマンドに応答して、前記関連するブロックB1の3次元ワークスペースWSB1において自動的に移動可能である、表示部(3)と、
    を含み、
    ズームされたブロックB1のコンテンツエリアCAは、各ブロックB1のネスト化されたチャイルドブロックB1_1,B1_2を含む、ユーザインタフェース(1)。
  15. 前記選択されるブロックB1は、前記選択されるブロックB1によって表される複合技術システム(SYS)のシステムコンポーネントC、又は、前記データベースDB(5)に格納される階層システムモデル(SYS-MOD)において前記選択されるブロックB1と関係を有する他のブロックB’によって表される前記複合技術システム(SYS)のシステムコンポーネントCに供給される前記制御信号CRTLの生成をトリガするための前記入力部(2)に入力されるユーザ起動コマンドに応答して、少なくとも1つの制御信号CRTLを自動生成するよう適応されるユーザ入力感知コンテンツエリアタイプCAT4のコンテンツエリア(CA)を含む、請求項14に記載のヒューマンマシーンインタラクションユーザインタフェース。
JP2023503181A 2020-07-23 2021-07-22 コンピュータによって実現されるヒューマンマシーンインタラクション方法及びユーザインタフェース Pending JP2023539010A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP20187414.6A EP3944062A1 (en) 2020-07-23 2020-07-23 Computer-implemented human-machine interaction method and user interface
EP20187414.6 2020-07-23
PCT/EP2021/070614 WO2022018233A1 (en) 2020-07-23 2021-07-22 Computer-implemented human-machine interaction method and user interface

Publications (1)

Publication Number Publication Date
JP2023539010A true JP2023539010A (ja) 2023-09-13

Family

ID=71842508

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023503181A Pending JP2023539010A (ja) 2020-07-23 2021-07-22 コンピュータによって実現されるヒューマンマシーンインタラクション方法及びユーザインタフェース

Country Status (4)

Country Link
US (1) US20230237743A1 (ja)
EP (2) EP3944062A1 (ja)
JP (1) JP2023539010A (ja)
WO (1) WO2022018233A1 (ja)

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6081271A (en) * 1997-05-23 2000-06-27 International Business Machines Corporation Determining view point on objects automatically in three-dimensional workspace from other environmental objects in a three-dimensional workspace

Also Published As

Publication number Publication date
EP3944062A1 (en) 2022-01-26
EP4185968B1 (en) 2024-05-01
WO2022018233A1 (en) 2022-01-27
EP4185968A1 (en) 2023-05-31
US20230237743A1 (en) 2023-07-27

Similar Documents

Publication Publication Date Title
US11816309B2 (en) User interface logical and execution view navigation and shifting
Dangelmaier et al. Virtual and augmented reality support for discrete manufacturing system simulation
CN102269989B (zh) 基于过程控制标签间关系的用于数据驱动界面的方法及装置
CN112579050B (zh) 工业应用开发系统、工业自动化项目开发方法和介质
Shiratuddin et al. Utilizing a 3D game engine to develop a virtual design review system
US7661071B2 (en) Creation of three-dimensional user interface
JP5953382B2 (ja) 3dモデル用注釈付け方法、およびコンピュータにより読取可能な非一時的なプログラム記憶媒体
US9046995B2 (en) Editing of two dimensional software consumables within a complex three dimensional spatial application and method
EP3881171B1 (en) Computer system and method for navigating building information model views
JP2008502031A (ja) プロセス環境におけるスクリプト化グラフィックス
US11775142B2 (en) Preferential automation view curation
CN109191590B (zh) 一种用于制作虚拟现实应用的处理系统及处理方法
US20240028991A1 (en) Flexible Work Breakdown Structure
Dörner et al. Content creation and authoring challenges for virtual environments: from user interfaces to autonomous virtual characters
Schumann et al. Evaluation of augmented reality supported approaches for product design and production processes
Murray et al. A virtual environment for the design and simulated construction of prefabricated buildings
US10726621B2 (en) Traversal selection of components for a geometric model
JP2023539010A (ja) コンピュータによって実現されるヒューマンマシーンインタラクション方法及びユーザインタフェース
WO2018183179A1 (en) Method and apparatus for in-situ querying support for industrial environments
Kelsick et al. The VR factory: discrete event simulation implemented in a virtual environment
Murray et al. A virtual environment for building construction
Trindade et al. LVRL: Reducing the gap between immersive VR and desktop graphical applications
Krekhov et al. MorphableUI: a hypergraph-based approach to distributed multimodal interaction for rapid prototyping and changing environments
US20240176596A1 (en) Virtual-reality-based software development
Lalioti Animation for validation of business system specifications

Legal Events

Date Code Title Description
A529 Written submission of copy of amendment under article 34 pct

Free format text: JAPANESE INTERMEDIATE CODE: A529

Effective date: 20230315

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230315

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240327

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240409