JP7337104B2 - 拡張現実によるモデル動画多平面インタラクション方法、装置、デバイス及び記憶媒体 - Google Patents
拡張現実によるモデル動画多平面インタラクション方法、装置、デバイス及び記憶媒体 Download PDFInfo
- Publication number
- JP7337104B2 JP7337104B2 JP2020571801A JP2020571801A JP7337104B2 JP 7337104 B2 JP7337104 B2 JP 7337104B2 JP 2020571801 A JP2020571801 A JP 2020571801A JP 2020571801 A JP2020571801 A JP 2020571801A JP 7337104 B2 JP7337104 B2 JP 7337104B2
- Authority
- JP
- Japan
- Prior art keywords
- virtual object
- plane
- coordinate system
- animation
- orientation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T13/00—Animation
- G06T13/20—3D [Three Dimensional] animation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/579—Depth or shape recovery from multiple images from motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
- G06V10/462—Salient features, e.g. scale invariant feature transforms [SIFT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30244—Camera pose
Landscapes
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Software Systems (AREA)
- Multimedia (AREA)
- Computer Hardware Design (AREA)
- Computer Graphics (AREA)
- General Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Processing Or Creating Images (AREA)
- Image Analysis (AREA)
Description
本開示は、2018年8月9日に提出された、名称が「拡張現実によるモデル動画多平面インタラクション方法、装置、デバイス及び記憶媒体」、出願番号が201810900487.7の中国特許出願を援用し、その内容の全てが参照によって本願に組み込まれる。
世界座標系での平面姿勢と仮想対象の認識された平面の平面座標系に対する姿勢によって、仮想対象の世界座標系に対する姿勢を算出するステップと、
世界座標系でのカメラ姿勢によって変化行列Hを算出して、仮想対象の世界座標系に対する姿勢を仮想対象のカメラ座標系に対する姿勢に変換することに用いるステップと、
認識された複数の現実平面のデータにより、仮想対象の動画軌跡データを生成するステップと、
動画軌跡データにより対応する3次元図形を描いて、複数の仮想図形フレームを生成して仮想対象の動画軌跡を形成するステップと、を更に含む。
世界座標系での平面姿勢と仮想対象の認識された平面の平面座標系に対する姿勢によって、仮想対象の世界座標系に対する姿勢を算出するステップと、
世界座標系でのカメラ姿勢によって変化行列Hを算出して、仮想対象の世界座標系に対する姿勢を仮想対象のカメラ座標系に対する姿勢に変換することに用いるステップと、
認識された複数の現実平面のデータにより仮想対象の動画軌跡データを生成するステップと、
動画軌跡データにより対応する3次元図形を描いて、複数の仮想図形フレームを生成して仮想対象の動画軌跡を形成するステップと、を更に含む。
Claims (9)
- 現実環境の映像画像を取得するステップと、
この映像画像に計算処理を行って、現実環境における複数の現実平面を認識するステップと、
モデルに対応する仮想対象を前記複数の現実平面のうちの一つの平面に付加するステップと、
認識された前記複数の現実平面のデータと計算された仮想対象の姿勢により仮想対象の動画軌跡データを生成し、前記仮想対象の動画軌跡データにより対応する3次元図形を描き、仮想図形フレームを生成し、前記仮想対象の前記複数の現実平面の間での動画軌跡を生成するステップと、を含み、
前記計算された仮想対象の姿勢は、仮想対象の世界座標系に対する姿勢を算出し、かつ前記仮想対象の世界座標系に対する姿勢を仮想対象のカメラ座標系に対する姿勢に変換することにより獲得するものであり、
前記仮想対象の前記複数の現実平面の間での動画軌跡を生成するステップは、
世界座標系での平面姿勢と仮想対象の認識された平面の平面座標系に対する姿勢によって、仮想対象の世界座標系に対する姿勢を算出するステップと、
世界座標系でのカメラ姿勢によって変化行列Hを算出して、仮想対象の世界座標系に対する姿勢を仮想対象のカメラ座標系に対する姿勢に変換することに用いるステップと、を更に含むことを特徴とする拡張現実によるモデル動画多平面インタラクション方法。 - この映像画像に計算処理を行って、現実環境における複数の現実平面を認識するステップには、
前記映像画像における全ての平面を一回で認識するステップ、又は
映像画像における平面を順に認識するステップ、又は
仮想対象の動画の需要に応じて、必要とされる平面を認識するステップを含む請求項1に記載の拡張現実によるモデル動画多平面インタラクション方法。 - この映像画像に計算処理を行って、現実環境における複数の現実平面を認識するステップには、SLAMアルゴリズムによって世界座標系での平面姿勢とカメラ姿勢を検出するステップを含む請求項1に記載の拡張現実によるモデル動画多平面インタラクション方法。
- 前記仮想対象の前記複数の現実平面の間での動画軌跡を生成するステップは、
認識された前記複数の現実平面のデータにより、仮想対象の動画軌跡データを生成するステップと、
仮想対象の動画軌跡データにより対応する3次元図形を描いて、複数の仮想図形フレームを生成して仮想対象の動画軌跡を形成するステップと、を更に含む請求項1に記載の拡張現実によるモデル動画多平面インタラクション方法。 - 前記仮想対象の動画軌跡データはカメラ座標系での座標位置、動画曲線及びジャンプ関係を含む請求項4に記載の拡張現実によるモデル動画多平面インタラクション方法。
- 認識された前記現実平面の姿勢及び前記ジャンプ関係により、前記仮想対象の動画キーポイントを生成するステップと、
前記動画キーポイントをパラメータとして、ベジェ曲線を使って配置して前記仮想対象の前記動画軌跡を生成するステップと、を更に含む請求項5に記載の拡張現実によるモデル動画多平面インタラクション方法。 - 現実環境の映像画像を取得するための取得モジュールと、
この映像画像に計算処理を行って、現実環境における現実平面を認識するための認識モジュールと、
モデルに対応する仮想対象を複数の現実平面のうちの一つの平面に付加するための付加モジュールと、
認識された前記複数の現実平面のデータと計算された仮想対象の姿勢により仮想対象の動画軌跡データを生成し、前記仮想対象の動画軌跡データにより対応する3次元図形を描き、仮想図形フレームを生成し、前記仮想対象の前記複数の現実平面の間での動画軌跡を生成する生成モジュールと、を含み、
前記計算された仮想対象の姿勢は、仮想対象の世界座標系に対する姿勢を算出し、かつ前記仮想対象の世界座標系に対する姿勢を仮想対象のカメラ座標系に対する姿勢に変換することにより獲得するものであり、
前記生成モジュールは、世界座標系での平面姿勢と仮想対象の認識された平面の平面座標系に対する姿勢によって、仮想対象の世界座標系に対する姿勢を算出するステップと、世界座標系でのカメラ姿勢によって変化行列Hを算出して、仮想対象の世界座標系に対する姿勢を仮想対象のカメラ座標系に対する姿勢に変換することに用いるステップと、を更に実施する、拡張現実によるモデル動画多平面インタラクション装置。 - コンピュータ可読コマンドを記憶するメモリと、前記コンピュータ可読コマンドを実行して請求項1-6のいずれか一項に記載の拡張現実によるモデル動画多平面インタラクション方法を実現するプロセッサと、を含む拡張現実によるモデル動画多平面インタラクションデバイス。
- コンピュータ可読コマンドを記憶するためのコンピュータ可読記憶媒体であって、前記コンピュータ可読コマンドがコンピュータにより実行されると、前記コンピュータが請求項1-6のいずれか一項に記載の拡張現実によるモデル動画多平面インタラクション方法を実現するコンピュータ可読記憶媒体。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810900487.7 | 2018-08-09 | ||
CN201810900487.7A CN110827376A (zh) | 2018-08-09 | 2018-08-09 | 增强现实多平面模型动画交互方法、装置、设备及存储介质 |
PCT/CN2019/073078 WO2020029554A1 (zh) | 2018-08-09 | 2019-01-25 | 增强现实多平面模型动画交互方法、装置、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021532447A JP2021532447A (ja) | 2021-11-25 |
JP7337104B2 true JP7337104B2 (ja) | 2023-09-01 |
Family
ID=69413908
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020571801A Active JP7337104B2 (ja) | 2018-08-09 | 2019-01-25 | 拡張現実によるモデル動画多平面インタラクション方法、装置、デバイス及び記憶媒体 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20210035346A1 (ja) |
JP (1) | JP7337104B2 (ja) |
CN (1) | CN110827376A (ja) |
GB (1) | GB2590212B (ja) |
WO (1) | WO2020029554A1 (ja) |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110515452B (zh) * | 2018-05-22 | 2022-02-22 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、存储介质和计算机设备 |
CN111522439B (zh) * | 2020-04-02 | 2024-04-12 | 上海电气集团股份有限公司 | 一种虚拟样机的修订方法、装置、设备及计算机存储介质 |
CN111626183B (zh) * | 2020-05-25 | 2024-07-16 | 深圳市商汤科技有限公司 | 一种目标对象展示方法及装置、电子设备和存储介质 |
CN111583421A (zh) * | 2020-06-03 | 2020-08-25 | 浙江商汤科技开发有限公司 | 确定展示动画的方法、装置、电子设备及存储介质 |
CN111862273A (zh) * | 2020-07-16 | 2020-10-30 | 北京字节跳动网络技术有限公司 | 动画处理方法、装置、电子设备及存储介质 |
CN113476835B (zh) * | 2020-10-22 | 2024-06-07 | 海信集团控股股份有限公司 | 一种画面显示的方法及装置 |
US11741676B2 (en) | 2021-01-21 | 2023-08-29 | Samsung Electronics Co., Ltd. | System and method for target plane detection and space estimation |
CN113034651B (zh) * | 2021-03-18 | 2023-05-23 | 腾讯科技(深圳)有限公司 | 互动动画的播放方法、装置、设备及存储介质 |
CN113160308A (zh) * | 2021-04-08 | 2021-07-23 | 北京鼎联网络科技有限公司 | 一种图像处理方法和装置、电子设备及存储介质 |
KR102594258B1 (ko) * | 2021-04-26 | 2023-10-26 | 한국전자통신연구원 | 증강현실에서 실제 객체를 가상으로 이동하는 방법 및 장치 |
CN113888724B (zh) * | 2021-09-30 | 2024-07-23 | 北京字节跳动网络技术有限公司 | 一种动画显示方法、装置及设备 |
CN114445541A (zh) * | 2022-01-28 | 2022-05-06 | 北京百度网讯科技有限公司 | 处理视频的方法、装置、电子设备及存储介质 |
CN114584704A (zh) * | 2022-02-08 | 2022-06-03 | 维沃移动通信有限公司 | 拍摄方法、装置和电子设备 |
CN115937299B (zh) * | 2022-03-25 | 2024-01-30 | 北京字跳网络技术有限公司 | 在视频中放置虚拟对象的方法及相关设备 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013164697A (ja) | 2012-02-10 | 2013-08-22 | Sony Corp | 画像処理装置、画像処理方法、プログラム及び画像処理システム |
JP2014071035A (ja) | 2012-09-28 | 2014-04-21 | Kddi Corp | 画像処理装置及び方法 |
JP2015108621A (ja) | 2013-12-04 | 2015-06-11 | 三菱電機株式会社 | 3d点群センサーデータから平面を抽出する方法 |
JP2016504611A (ja) | 2012-11-02 | 2016-02-12 | クアルコム,インコーポレイテッド | 地図作成と自己位置推定とのための複数のセンサの使用 |
CN108111832A (zh) | 2017-12-25 | 2018-06-01 | 北京麒麟合盛网络技术有限公司 | 增强现实ar视频的异步交互方法及系统 |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8970690B2 (en) * | 2009-02-13 | 2015-03-03 | Metaio Gmbh | Methods and systems for determining the pose of a camera with respect to at least one object of a real environment |
US20130215230A1 (en) * | 2012-02-22 | 2013-08-22 | Matt Miesnieks | Augmented Reality System Using a Portable Device |
US20130215109A1 (en) * | 2012-02-22 | 2013-08-22 | Silka Miesnieks | Designating Real World Locations for Virtual World Control |
GB2501929B (en) * | 2012-05-11 | 2015-06-24 | Sony Comp Entertainment Europe | Apparatus and method for augmented reality |
JP2014178794A (ja) * | 2013-03-14 | 2014-09-25 | Hitachi Ltd | 搬入経路計画システム |
US9972131B2 (en) * | 2014-06-03 | 2018-05-15 | Intel Corporation | Projecting a virtual image at a physical surface |
CN104050475A (zh) * | 2014-06-19 | 2014-09-17 | 樊晓东 | 基于图像特征匹配的增强现实的系统和方法 |
US9754416B2 (en) * | 2014-12-23 | 2017-09-05 | Intel Corporation | Systems and methods for contextually augmented video creation and sharing |
US10845188B2 (en) * | 2016-01-05 | 2020-11-24 | Microsoft Technology Licensing, Llc | Motion capture from a mobile self-tracking device |
JP6763154B2 (ja) * | 2016-03-09 | 2020-09-30 | 富士通株式会社 | 画像処理プログラム、画像処理装置、画像処理システム、及び画像処理方法 |
CN107358609B (zh) * | 2016-04-29 | 2020-08-04 | 成都理想境界科技有限公司 | 一种用于增强现实的图像叠加方法及装置 |
CN107665508B (zh) * | 2016-07-29 | 2021-06-01 | 成都理想境界科技有限公司 | 实现增强现实的方法及系统 |
CN107665506B (zh) * | 2016-07-29 | 2021-06-01 | 成都理想境界科技有限公司 | 实现增强现实的方法及系统 |
CN106548519A (zh) * | 2016-11-04 | 2017-03-29 | 上海玄彩美科网络科技有限公司 | 基于orb‑slam和深度相机的真实感的增强现实方法 |
CN107371009B (zh) * | 2017-06-07 | 2019-03-29 | 东南大学 | 一种人体动作增强可视化方法及人体动作增强现实系统 |
-
2018
- 2018-08-09 CN CN201810900487.7A patent/CN110827376A/zh active Pending
-
2019
- 2019-01-25 US US16/967,950 patent/US20210035346A1/en not_active Abandoned
- 2019-01-25 JP JP2020571801A patent/JP7337104B2/ja active Active
- 2019-01-25 GB GB2100236.5A patent/GB2590212B/en active Active
- 2019-01-25 WO PCT/CN2019/073078 patent/WO2020029554A1/zh active Application Filing
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013164697A (ja) | 2012-02-10 | 2013-08-22 | Sony Corp | 画像処理装置、画像処理方法、プログラム及び画像処理システム |
JP2014071035A (ja) | 2012-09-28 | 2014-04-21 | Kddi Corp | 画像処理装置及び方法 |
JP2016504611A (ja) | 2012-11-02 | 2016-02-12 | クアルコム,インコーポレイテッド | 地図作成と自己位置推定とのための複数のセンサの使用 |
JP2015108621A (ja) | 2013-12-04 | 2015-06-11 | 三菱電機株式会社 | 3d点群センサーデータから平面を抽出する方法 |
CN108111832A (zh) | 2017-12-25 | 2018-06-01 | 北京麒麟合盛网络技术有限公司 | 增强现实ar视频的异步交互方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
JP2021532447A (ja) | 2021-11-25 |
US20210035346A1 (en) | 2021-02-04 |
CN110827376A (zh) | 2020-02-21 |
GB2590212A9 (en) | 2023-03-29 |
GB2590212A (en) | 2021-06-23 |
GB202100236D0 (en) | 2021-02-24 |
GB2590212B (en) | 2023-05-24 |
WO2020029554A1 (zh) | 2020-02-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7337104B2 (ja) | 拡張現実によるモデル動画多平面インタラクション方法、装置、デバイス及び記憶媒体 | |
US10074217B2 (en) | Position identification method and system | |
KR101135186B1 (ko) | 상호작용형 실시간 증강현실 시스템과 그 방법, 및 상기 방법을 구현하는 프로그램이 기록된 기록매체 | |
KR101410273B1 (ko) | 증강현실 응용을 위한 환경 모델링 방법 및 장치 | |
CN106875431B (zh) | 具有移动预测的图像追踪方法及扩增实境实现方法 | |
JP6500355B2 (ja) | 表示装置、表示プログラム、および表示方法 | |
WO2011075082A1 (en) | Method and system for single view image 3 d face synthesis | |
CN113034652A (zh) | 虚拟形象驱动方法、装置、设备及存储介质 | |
US11477432B2 (en) | Information processing apparatus, information processing method and storage medium | |
CN104360729A (zh) | 基于Kinect和Unity3D的多交互方法与装置 | |
CN113934297B (zh) | 一种基于增强现实的交互方法、装置、电子设备及介质 | |
CN113129362B (zh) | 一种三维坐标数据的获取方法及装置 | |
US20230267664A1 (en) | Animation processing method and apparatus, electronic device and storage medium | |
CN110827411B (zh) | 自适应环境的增强现实模型显示方法、装置、设备及存储介质 | |
Liu et al. | COMTIS: Customizable touchless interaction system for large screen visualization | |
KR20140078083A (ko) | 증강 현실이 구현된 만화책 | |
McClean | An Augmented Reality System for Urban Environments using a Planar Building Fa cade Model | |
Asiminidis | Augmented and Virtual Reality: Extensive Review | |
Jung et al. | Model Reconstruction of Real-World 3D Objects: An Application with Microsoft HoloLens | |
Afzal et al. | Incremental reconstruction of moving object trajectory | |
WO2024124480A1 (zh) | 一种用户界面显示系统、方法、计算机设备和存储介质 | |
US20240029379A1 (en) | Image processing apparatus, image processing method, and computer-readable recording medium | |
Piechaczek et al. | Popular strategies and methods for using augmented reality | |
CN112464696A (zh) | 图像处理方法、装置、设备及存储介质 | |
CN115797602A (zh) | 一种基于物体定位添加ar讲解的方法及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201223 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220208 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220509 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220927 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221221 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230418 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230713 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230727 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230822 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7337104 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |