JP2020087440A5 - - Google Patents

Download PDF

Info

Publication number
JP2020087440A5
JP2020087440A5 JP2019192525A JP2019192525A JP2020087440A5 JP 2020087440 A5 JP2020087440 A5 JP 2020087440A5 JP 2019192525 A JP2019192525 A JP 2019192525A JP 2019192525 A JP2019192525 A JP 2019192525A JP 2020087440 A5 JP2020087440 A5 JP 2020087440A5
Authority
JP
Japan
Prior art keywords
physical
camera
physical object
image
computer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019192525A
Other languages
English (en)
Other versions
JP2020087440A (ja
JP7488435B2 (ja
Filing date
Publication date
Priority claimed from US16/192,634 external-priority patent/US10854006B2/en
Application filed filed Critical
Publication of JP2020087440A publication Critical patent/JP2020087440A/ja
Publication of JP2020087440A5 publication Critical patent/JP2020087440A5/ja
Application granted granted Critical
Publication of JP7488435B2 publication Critical patent/JP7488435B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Claims (20)

  1. 画像検出人工知能(AI)エンジンを訓練するための訓練データの効率的な収集を容易にするためのコンピュータ実装方法であって、
    シーン内に配置された物理的物体の3次元(3D)モデルを取得することと、
    前記3Dモデルに基づいて、前記物理的物体に対応する仮想物体を生成することと、
    拡張現実(AR)カメラを構成することであって、
    前記ARカメラの視野内で、前記物理的物体の上に前記仮想物体を自動的に重ね合わせ、
    前記シーン内の前記物理的物体を含む物理的画像、及び前記物理的物体上に重ね合わせられた前記仮想物体を含む対応するAR画像を捕捉し、
    前記AR画像に基づいて前記物理的画像のアノテーションを自動的に作成する
    ように前記ARカメラを構成することと、を含む、コンピュータ実装方法。
  2. 前記物理的画像の前記アノテーションを作成することが、前記物理的画像の画素レベルのラベルを作成することを含む、請求項1に記載のコンピュータ実装方法。
  3. 前記物理的画像の前記アノテーションが、前記AR画像内の画素のラベルを前記物理的画像内の画素にリンクさせる画素マスクを含み、前記AR画像内の前記画素の前記ラベルが、前記3Dモデルに基づいて作成される、請求項2に記載のコンピュータ実装方法。
  4. 前記3Dモデルが、
    前記物理的物体と関連付けられたコンピュータ支援設計(CAD)モデル、又は
    3Dスキャン技術を使用して生成された前記物理的物体の3Dモデルを含む、請求項1に記載のコンピュータ実装方法。
  5. 前記ARカメラが、前記ARカメラの前記視野内で、前記仮想物体を前記物理的物体に自動的に位置合わせするように、特徴分析技術を適用することで、前記仮想物体を前記物理的物体上に自動的に重ね合わせるように構成される、請求項1に記載のコンピュータ実装方法。
  6. 撮像条件を変更して、更新されたARカメラ視野を作成することと、
    前記更新されたARカメラ視野内で、前記仮想物体を前記物理的物体に再位置合わせすることと、
    追加の物理的画像及び追加の対応するAR画像を捕捉することと、
    前記AR画像に基づいて前記追加の物理的画像にアノテーションすることと、を更に含む、請求項1に記載のコンピュータ実装方法。
  7. 前記仮想物体を前記物理的物体に再位置合わせすることが、
    前記ARカメラの姿勢を追跡することと、
    前記ARカメラの前記追跡された姿勢に基づいて、前記更新されたカメラ視野内の前記物理的物体の姿勢を計算することと、
    前記更新されたカメラ視野内の前記物理的物体の前記計算された姿勢に基づいて前記仮想物体の姿勢を調整することと、を含む、請求項6に記載のコンピュータ実装方法。
  8. 前記撮像条件を変更することが、
    前記カメラと前記物理的物体との間の距離を変更することと、
    前記カメラの角度を変更することと、
    照明条件を変更することと、
    前記シーン内の背景を変更することと、
    前記物理的物体の表面的外観を変更することと、
    前記物理的物体の姿勢を変更することと、
    前記物理的物体内の2つの構成要素間の相対位置を変更することと、
    閉塞物体を追加又は除去することと、のうちの1つ以上を含む、請求項6に記載のコンピュータ実装方法。
  9. 訓練データ集に、前記物理的画像及び前記対応するアノテーションを記憶することと、
    前記訓練データ集に基づいて、前記物理的物体を識別するように畳み込みニューラルネットワークを訓練することと、を更に含む、請求項1に記載のコンピュータ実装方法。
  10. 前記ARカメラが、スマートグラスの一部である、請求項1に記載のコンピュータ実装方法。
  11. 画像検出人工知能(AI)エンジンを訓練するための訓練データの効率的な収集を容易にするためのコンピュータシステムであって、
    プロセッサと、
    前記プロセッサによって実行されると、前記プロセッサに方法を実行させる命令を記憶する記憶デバイスと、を含み、前記方法が、
    シーン内に配置された物理的物体の3次元(3D)モデルを取得することと、
    前記3Dモデルに基づいて、前記物理的物体に対応する仮想物体を生成することと、
    拡張現実(AR)カメラを構成することであって、
    前記ARカメラの視野内で、前記物理的物体の上に前記仮想物体を自動的に重ね合わせ、
    前記シーン内の前記物理的物体を含む物理的画像、及び前記物理的物体上に重ね合わせられた前記仮想物体を含む対応するAR画像を捕捉し、
    前記AR画像に基づいて前記物理的画像のアノテーションを自動的に作成する
    ように前記ARカメラを構成することと、を含む、コンピュータシステム。
  12. 前記物理的画像の前記アノテーションを作成することが、前記物理的画像の画素レベルのラベルを作成することを含む、請求項11に記載のコンピュータシステム。
  13. 前記物理的画像の前記アノテーションが、前記AR画像内の画素のラベルを前記物理的画像内の画素にリンクさせる画素マスクを含み、前記AR画像内の前記画素の前記ラベルが、前記3Dモデルに基づいて作成される、請求項12に記載のコンピュータシステム。
  14. 前記3Dモデルが、
    前記物理的物体と関連付けられたコンピュータ支援設計(CAD)モデル、又は
    3Dスキャン技術を使用して生成された前記物理的物体の3Dモデルを含む、請求項1に記載のコンピュータ実装方法。
  15. 前記ARカメラが、前記ARカメラの前記視野内で、前記仮想物体を前記物理的物体に自動的に位置合わせするように、特徴分析技術を適用することで、前記仮想物体を前記物理的物体上に自動的に重ね合わせるように構成される、請求項11に記載のコンピュータシステム。
  16. 前記方法が、
    撮像条件を変更して、更新されたARカメラ視野を作成することと、
    前記更新されたARカメラ視野内で、前記仮想物体を前記物理的物体に再位置合わせすることと、
    追加の物理的画像及び追加の対応するAR画像を捕捉することと、
    前記AR画像に基づいて前記追加の物理的画像にアノテーションすることと、を更に含む、請求項11に記載のコンピュータシステム。
  17. 前記仮想物体を前記物理的物体に再位置合わせすることが、
    前記ARカメラの姿勢を追跡することと、
    前記ARカメラの前記追跡された姿勢に基づいて、前記更新されたカメラ視野内の前記物理的物体の姿勢を計算することと、
    前記更新されたカメラ視野内の前記物理的物体の前記計算された姿勢に基づいて前記仮想物体の姿勢を調整することと、を含む、請求項16に記載のコンピュータシステム。
  18. 前記撮像条件を変更することが、
    前記カメラと前記物理的物体との間の距離を変更することと、
    前記カメラの角度を変更することと、
    照明条件を変更することと、
    前記シーン内の背景を変更することと、
    前記物理的物体の表面的外観を変更することと、
    前記物理的物体の姿勢を変更することと、
    前記物理的物体内の2つの構成要素間の相対位置を変更することと、
    閉塞物体を追加又は除去することと、のうちの1つ以上を含む、請求項16に記載のコンピュータシステム。
  19. 前記方法が、
    訓練データ集に、前記物理的画像及び前記対応するアノテーションを記憶することと、
    前記訓練データ集に基づいて、前記物理的物体を識別するように畳み込みニューラルネットワークを訓練することと、を更に含む、請求項11に記載のコンピュータシステム。
  20. 前記ARカメラが、スマートグラスの一部である、請求項11に記載のコンピュータシステム。
JP2019192525A 2018-11-15 2019-10-23 位置合わせされたcadモデルを使用するar対応ラベル付け Active JP7488435B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/192,634 2018-11-15
US16/192,634 US10854006B2 (en) 2018-11-15 2018-11-15 AR-enabled labeling using aligned CAD models

Publications (3)

Publication Number Publication Date
JP2020087440A JP2020087440A (ja) 2020-06-04
JP2020087440A5 true JP2020087440A5 (ja) 2022-10-27
JP7488435B2 JP7488435B2 (ja) 2024-05-22

Family

ID=68470291

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019192525A Active JP7488435B2 (ja) 2018-11-15 2019-10-23 位置合わせされたcadモデルを使用するar対応ラベル付け

Country Status (3)

Country Link
US (1) US10854006B2 (ja)
EP (1) EP3678101A3 (ja)
JP (1) JP7488435B2 (ja)

Families Citing this family (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019081350A1 (en) * 2017-10-23 2019-05-02 Koninklijke Philips N.V. SERVICE INSTRUCTION LIBRARY BASED ON SELF-EXPANSION ENHANCED REALITY
US11448850B2 (en) * 2018-01-25 2022-09-20 Tdk Taiwan Corp. Optical member driving mechanism
EP3827359B1 (en) 2018-07-24 2024-04-03 Magic Leap, Inc. Application sharing using scenegraphs
US11151782B1 (en) * 2018-12-18 2021-10-19 B+T Group Holdings, Inc. System and process of generating digital images of a site having a structure with superimposed intersecting grid lines and annotations
US10950104B2 (en) * 2019-01-16 2021-03-16 PANASONIC l-PRO SENSING SOLUTIONS CO., LTD. Monitoring camera and detection method
US10699124B1 (en) * 2019-09-09 2020-06-30 Ar, Llc Augmented reality content selection and display based on printed objects having security features
US11961294B2 (en) 2019-09-09 2024-04-16 Techinvest Company Limited Augmented, virtual and mixed-reality content selection and display
WO2021163224A1 (en) * 2020-02-10 2021-08-19 Magic Leap, Inc. Dynamic colocation of virtual content
WO2021163626A1 (en) 2020-02-14 2021-08-19 Magic Leap, Inc. Session manager
JP2023513747A (ja) 2020-02-14 2023-04-03 マジック リープ, インコーポレイテッド 3dオブジェクト注釈
CN118276683A (zh) 2020-02-14 2024-07-02 奇跃公司 工具桥
US20220005273A1 (en) * 2020-07-01 2022-01-06 Wacom Co., Ltd. Dynamic three-dimensional surface sketching
WO2022036261A1 (en) * 2020-08-13 2022-02-17 Opsis Health, Inc. Object-recognition training
CN112509153B (zh) * 2020-12-22 2023-11-10 上海影谱科技有限公司 基于移动设备定位的ar模型显示处理方法及装置
US11514648B2 (en) * 2020-12-23 2022-11-29 Microsoft Technology Licensing, Llc Aligning input image data with model input data to generate image annotations
CN113516778A (zh) * 2021-04-14 2021-10-19 武汉联影智融医疗科技有限公司 模型训练数据获取方法、装置、计算机设备和存储介质
US12002265B2 (en) 2021-06-24 2024-06-04 Xerox Corporation Characterizing liquid reflective surfaces in 3D liquid metal printing
US11958112B2 (en) * 2021-06-24 2024-04-16 Xerox Corporation Characterizing liquid reflective surfaces in 3D liquid metal printing
DE102021207086A1 (de) * 2021-07-06 2023-01-12 Kuka Deutschland Gmbh Verfahren und System zum Durchführen einer Industrie-, insbesondere Roboterapplikation
US11783551B2 (en) * 2021-10-28 2023-10-10 Ncr Corporation Augmented reality (AR) device support
US11947336B2 (en) 2022-03-08 2024-04-02 Proto Labs, Inc. Apparatus and methods for superimposing two-dimensional prints onto three-dimensional models of a part for manufacture
US20230343042A1 (en) * 2022-04-20 2023-10-26 The United States Of America, As Represented By The Secretary Of The Navy Methods and systems using mixed-reality for the creation of insitu cad models
EP4280157A1 (en) * 2022-05-17 2023-11-22 Holo-Light GmbH Extended reality (xr) object alignment method and xr projection system
CN115294488B (zh) * 2022-10-10 2023-01-24 江西财经大学 一种ar快速实物匹配显示方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9031317B2 (en) * 2012-09-18 2015-05-12 Seiko Epson Corporation Method and apparatus for improved training of object detecting system
JP7002536B2 (ja) * 2016-08-22 2022-01-20 マジック リープ, インコーポレイテッド 深層学習センサを有する拡張現実ディスプレイデバイス
CA3056884A1 (en) * 2017-03-17 2018-09-20 Neurala, Inc. Online, incremental real-time learning for tagging and labeling data streams for deep neural networks and neural network applications
CN109584295B (zh) * 2017-09-29 2022-08-26 阿里巴巴集团控股有限公司 对图像内目标物体进行自动标注的方法、装置及系统

Similar Documents

Publication Publication Date Title
JP2020087440A5 (ja)
JP6644833B2 (ja) アルベドモデルにより拡張現実コンテンツをレンダリングするシステムおよび方法
US11610331B2 (en) Method and apparatus for generating data for estimating three-dimensional (3D) pose of object included in input image, and prediction model for estimating 3D pose of object
JP7250709B2 (ja) 畳み込み画像変換を使用して同時位置特定およびマッピングを実施する方法およびシステム
KR102647351B1 (ko) 3차원의 포인트 클라우드를 이용한 모델링 방법 및 모델링 장치
JP7128708B2 (ja) 機械学習用の訓練データの効率的な収集のための拡張現実を使用したシステム及び方法
Zhao et al. Combining marker-based mocap and rgb-d camera for acquiring high-fidelity hand motion data
Stoll et al. Fast articulated motion tracking using a sums of gaussians body model
Cao et al. 3D shape regression for real-time facial animation
JP7015152B2 (ja) キーポイントデータに関する加工装置、方法及びプログラム
US11928778B2 (en) Method for human body model reconstruction and reconstruction system
EP3602494A1 (en) Robust mesh tracking and fusion by using part-based key frames and priori model
Tong et al. Research on skeleton animation motion data based on Kinect
US10885708B2 (en) Automated costume augmentation using shape estimation
EP4302273A1 (en) Modeling objects from monocular camera outputs
WO2000004508A1 (en) Automated 3d scene scanning from motion images
Kanis et al. Improvements in 3D hand pose estimation using synthetic data
Liang et al. Hand pose estimation by combining fingertip tracking and articulated ICP
Pan et al. Modeling for deformable body and motion analysis: A review
Liu et al. Human performance capture using multiple handheld kinects
Jian et al. Realistic face animation generation from videos
US20190377935A1 (en) Method and apparatus for tracking features
WO2023132261A1 (ja) 情報処理システム、情報処理方法および情報処理プログラム
Afzal et al. Incremental reconstruction of moving object trajectory
KR102658219B1 (ko) 인공지능 기술을 이용한 참여형 컨텐츠를 생성하는 시스템 및 방법