JP7262973B2 - 情報処理装置、情報処理方法及びプログラム - Google Patents
情報処理装置、情報処理方法及びプログラム Download PDFInfo
- Publication number
- JP7262973B2 JP7262973B2 JP2018205859A JP2018205859A JP7262973B2 JP 7262973 B2 JP7262973 B2 JP 7262973B2 JP 2018205859 A JP2018205859 A JP 2018205859A JP 2018205859 A JP2018205859 A JP 2018205859A JP 7262973 B2 JP7262973 B2 JP 7262973B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- information processing
- orientation
- time
- display
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/56—Extraction of image or video features relating to colour
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/64—Three-dimensional objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/64—Three-dimensional objects
- G06V20/653—Three-dimensional objects by matching three-dimensional models, e.g. conformal mapping of Riemann surfaces
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/107—Static hand or arm
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/107—Static hand or arm
- G06V40/11—Hand-related biometrics; Hand pose recognition
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/15—Processing image signals for colour aspects of image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/275—Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/332—Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2219/00—Indexing scheme for manipulating 3D models or images for computer graphics
- G06T2219/20—Indexing scheme for editing of 3D models
- G06T2219/2016—Rotation, translation, scaling
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N2013/0074—Stereoscopic image analysis
- H04N2013/0085—Motion estimation from stereoscopic image signals
Description
以下、添付図面を参照して、本発明を適用した好適な実施形態に従って詳細に説明する。
第1の実施形態では、動体モデル推定部1460が、動体モデル取得部1400で検出した手の3次元頂点を、予測移動ベクトルを加算し、平行移動させることで予測形状を生成した。
第1の実施形態では、動体110の予測形状を生成し、予測した撮像画像と合成して提示したが、撮像画像に映る動体110の画像はそのまま提示される。図13の(A)のように、予測された動体の3次元モデル111と動体110の2つがHMD装着者に提示されるため、動体110を認識するHMD装着者が混乱する可能性がある。
第1の実施形態では、複合現実感を提示するHMDを用いて説明した。しかし、本発明は、仮想現実感を提示するHMDに対しても適用可能である。仮想現実感を提示するHMDは、複合現実感を提示するHMDと比べて、撮像装置を備えず、すべての映像をCG映像で表現する点が異なる。なお、仮想現実システムの場合、図1及び図2の黒塗り領域にも仮想現実の画像を表示できる。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100 情報処理装置
200 ヘッドマウントディスプレイ
Claims (11)
- 現実空間を撮像した第1画像を取得する撮像手段と、前記第1画像を用いて生成された第2画像を表示する表示手段とを備える画像表示装置に、前記第2画像を供給する情報処理装置であって、
前記画像表示装置の位置または姿勢を計測した結果を取得する取得手段と、
前記第1画像に含まれる特定の物体の前記撮像から表示までの処理における少なくとも一部の処理時間の経過後の位置を推定した結果に基づいて、前記第1画像中の前記推定結果に基づく位置に前記物体を描写した画像と前記第1画像とを合成した前記第2画像を生成する画像生成手段と、
前記取得手段で取得した前記計測結果から、前記処理時間における、前記画像表示装置の位置または姿勢の変化量を求めて、前記表示手段に供給する前記第2画像を表示する位置を前記変化量に基づいてシフトする制御手段と、を有することを特徴とする情報処理装置。 - 前記処理時間は、撮像装置によって撮像を行う第1の時刻と、前記画像表示装置の位置または姿勢を計測する第2の時刻との差分であることを特徴とする請求項1に記載の情報処理装置。
- 前記画像生成手段は、前記第1画像から前記物体を抽出した領域を、前記推定結果に基づく位置に描写した画像を生成することを特徴とする請求項1または2に記載の情報処理装置。
- 前記物体は手であって、
前記画像生成手段は、前記第1画像における肌色領域から抽出された前記手を前記推定結果に基づく位置に描写した画像を生成することを特徴とする請求項3に記載の情報処理装置。 - 前記第1画像は、ステレオ画像であって、
前記画像生成手段は、前記第1画像から抽出された前記物体の3次元の形状に基づいて、前記推定結果に基づく位置に前記物体を描写した画像を生成することを特徴とする請求項4に記載の情報処理装置。 - 前記第1画像はステレオ画像であって、
前記画像生成手段は、前記第1画像から前記物体の3次元の形状を取得し、前記推定結果に基づく位置に前記物体を3次元で描写した画像を生成することを特徴とする請求項4に記載の情報処理装置。 - 前記撮像手段によって撮像された過去の画像に基づいて前記物体の動きを推定する推定手段をさらに有し、
前記画像生成手段は、前記推定手段の推定結果を用いて前記物体を前記処理時間の経過後における前記物体の位置に描写した画像を生成することを特徴とする請求項1乃至6のいずれか1項に記載の情報処理装置。 - 前記物体は手であって、
前記推定手段は、さらに前記手の指の関節角度を推定し、
前記画像生成手段は、前記推定手段の推定結果に基づいて前記手の指を変化させた画像を生成することを特徴とする請求項7に記載の情報処理装置。 - 前記画像表示装置は、ヘッドマウントディスプレイであることを特徴とする請求項1乃至8のいずれか1項に記載の情報処理装置。
- コンピュータを、請求項1乃至9のいずれか1項に記載の情報処理装置の各手段として機能させるためのプログラム。
- 現実空間を撮像した第1画像を取得する撮像手段と、前記第1画像を用いて生成された第2画像を表示する表示手段とを備える画像表示装置に、前記第2画像を供給する情報処理方法であって、
前記画像表示装置の位置または姿勢を計測した結果を取得する取得工程と、
前記第1画像に含まれる特定の物体の前記撮像から表示までの処理における少なくとも一部の処理時間の経過後の位置を推定した結果に基づいて、前記第1画像中の前記推定結果に基づく位置に前記物体を描写した画像と前記第1画像とを合成した前記第2画像を生成する画像生成工程と、
前記取得工程で取得した前記計測結果から、前記処理時間における、前記画像表示装置の位置または姿勢の変化量を求めて、前記表示手段に供給する前記第2画像を表示する位置を前記変化量に基づいてシフトする制御工程と、を有することを特徴とする情報処理方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018205859A JP7262973B2 (ja) | 2018-10-31 | 2018-10-31 | 情報処理装置、情報処理方法及びプログラム |
US16/666,150 US11275434B2 (en) | 2018-10-31 | 2019-10-28 | Information processing apparatus, information processing method, and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018205859A JP7262973B2 (ja) | 2018-10-31 | 2018-10-31 | 情報処理装置、情報処理方法及びプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2020071718A JP2020071718A (ja) | 2020-05-07 |
JP2020071718A5 JP2020071718A5 (ja) | 2021-12-09 |
JP7262973B2 true JP7262973B2 (ja) | 2023-04-24 |
Family
ID=70326899
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018205859A Active JP7262973B2 (ja) | 2018-10-31 | 2018-10-31 | 情報処理装置、情報処理方法及びプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US11275434B2 (ja) |
JP (1) | JP7262973B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019117994A (ja) * | 2017-12-27 | 2019-07-18 | ソニー株式会社 | 情報処理装置、情報処理方法および情報処理システム |
WO2024034336A1 (ja) * | 2022-08-09 | 2024-02-15 | ソニーグループ株式会社 | 情報処理装置、情報処理方法およびプログラム |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014141479A1 (ja) | 2013-03-15 | 2014-09-18 | 株式会社日立製作所 | 遠隔操作システム |
JP2015231106A (ja) | 2014-06-04 | 2015-12-21 | 三菱電機株式会社 | ヘッドマウントディスプレイ装置及びヘッドマウントディスプレイシステム |
JP6342038B1 (ja) | 2017-05-26 | 2018-06-13 | 株式会社コロプラ | 仮想空間を提供するためのプログラム、当該プログラムを実行するための情報処理装置、および仮想空間を提供するための方法 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004109994A (ja) | 2002-08-30 | 2004-04-08 | Olympus Corp | 頭部装着型画像表示システム装置及びその画像処理方法 |
JP4933406B2 (ja) * | 2007-11-15 | 2012-05-16 | キヤノン株式会社 | 画像処理装置、画像処理方法 |
JP5047090B2 (ja) * | 2008-07-31 | 2012-10-10 | キヤノン株式会社 | システム |
JP5414380B2 (ja) * | 2009-06-23 | 2014-02-12 | キヤノン株式会社 | 画像処理方法及び画像処理装置 |
JP5499762B2 (ja) * | 2010-02-24 | 2014-05-21 | ソニー株式会社 | 画像処理装置、画像処理方法、プログラム及び画像処理システム |
US9754415B2 (en) * | 2014-03-27 | 2017-09-05 | Microsoft Technology Licensing, Llc | Display relative motion compensation |
US10310675B2 (en) * | 2014-08-25 | 2019-06-04 | Canon Kabushiki Kaisha | User interface apparatus and control method |
KR102232517B1 (ko) * | 2014-09-15 | 2021-03-26 | 삼성전자주식회사 | 이미지 촬영 방법 및 이미지 촬영 장치 |
JP2016082462A (ja) * | 2014-10-20 | 2016-05-16 | セイコーエプソン株式会社 | 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム |
JP6723720B2 (ja) * | 2015-10-20 | 2020-07-15 | キヤノン株式会社 | 表示システム、情報処理方法及びプログラム |
JP7013128B2 (ja) | 2017-01-27 | 2022-01-31 | キヤノン株式会社 | 画像表示装置、画像表示方法及びプログラム |
-
2018
- 2018-10-31 JP JP2018205859A patent/JP7262973B2/ja active Active
-
2019
- 2019-10-28 US US16/666,150 patent/US11275434B2/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014141479A1 (ja) | 2013-03-15 | 2014-09-18 | 株式会社日立製作所 | 遠隔操作システム |
JP2015231106A (ja) | 2014-06-04 | 2015-12-21 | 三菱電機株式会社 | ヘッドマウントディスプレイ装置及びヘッドマウントディスプレイシステム |
JP6342038B1 (ja) | 2017-05-26 | 2018-06-13 | 株式会社コロプラ | 仮想空間を提供するためのプログラム、当該プログラムを実行するための情報処理装置、および仮想空間を提供するための方法 |
Also Published As
Publication number | Publication date |
---|---|
US11275434B2 (en) | 2022-03-15 |
JP2020071718A (ja) | 2020-05-07 |
US20200133388A1 (en) | 2020-04-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11796309B2 (en) | Information processing apparatus, information processing method, and recording medium | |
RU2638776C1 (ru) | Устройство генерирования изображения и способ | |
KR102136241B1 (ko) | 표정 검출 성능을 갖는 머리-장착형 디스플레이 | |
JP6860488B2 (ja) | 複合現実システム | |
JP2019506015A (ja) | ピクセル速度を用いた電子ディスプレイ安定化 | |
CN110413105A (zh) | 虚拟环境内的虚拟对象的有形可视化 | |
JP7317024B2 (ja) | 画像生成装置および画像生成方法 | |
TWI701941B (zh) | 圖像處理方法及裝置、電子設備及儲存介質 | |
WO2017213070A1 (ja) | 情報処理装置および方法、並びに記録媒体 | |
JP2023501079A (ja) | 共有人工現実環境における同じ場所での姿勢推定 | |
JP7262973B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP5731462B2 (ja) | 映像コミュニケーションシステム及び映像コミュニケーション方法 | |
KR20230072757A (ko) | 웨어러블 전자 장치 및 웨어러블 전자 장치의 동작 방법 | |
JP6775669B2 (ja) | 情報処理装置 | |
JP2018063567A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP5759439B2 (ja) | 映像コミュニケーションシステム及び映像コミュニケーション方法 | |
JP2023093170A (ja) | 携帯端末装置、および、そのプログラム | |
WO2018173205A1 (ja) | 情報処理システム、その制御方法、及びプログラム | |
JP7175715B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP7020115B2 (ja) | Vr空間における自撮り装置、方法、およびプログラム | |
WO2020036114A1 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
WO2023120217A1 (ja) | 情報処理装置、情報処理方法およびプログラム | |
JP7465133B2 (ja) | 情報処理装置、情報処理方法 | |
JP7044846B2 (ja) | 情報処理装置 | |
JP6890524B2 (ja) | 姿勢制御システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211029 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211029 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220802 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220913 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221109 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230314 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230412 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7262973 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |