NL1035303C2 - Interactieve virtuele reality eenheid. - Google Patents

Interactieve virtuele reality eenheid. Download PDF

Info

Publication number
NL1035303C2
NL1035303C2 NL1035303A NL1035303A NL1035303C2 NL 1035303 C2 NL1035303 C2 NL 1035303C2 NL 1035303 A NL1035303 A NL 1035303A NL 1035303 A NL1035303 A NL 1035303A NL 1035303 C2 NL1035303 C2 NL 1035303C2
Authority
NL
Netherlands
Prior art keywords
representation
virtual reality
user
interactive virtual
unit
Prior art date
Application number
NL1035303A
Other languages
English (en)
Inventor
Jacqueline Francisca Gerarda Maria Schooleman
Gino Johannes Apolonia Van Den Bergen
Original Assignee
Virtual Proteins B V
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Virtual Proteins B V filed Critical Virtual Proteins B V
Priority to NL1035303A priority Critical patent/NL1035303C2/nl
Priority to CA2721107A priority patent/CA2721107A1/en
Priority to US12/937,648 priority patent/US20110029903A1/en
Priority to CN200980119203XA priority patent/CN102047199A/zh
Priority to JP2011504472A priority patent/JP2011521318A/ja
Priority to EP09733237A priority patent/EP2286316A1/en
Priority to PCT/EP2009/054553 priority patent/WO2009127701A1/en
Application granted granted Critical
Publication of NL1035303C2 publication Critical patent/NL1035303C2/nl
Priority to IL208649A priority patent/IL208649A0/en

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40131Virtual reality control, programming of manipulator

Description

Interactieve virtuele reality eenheid.
De uitvinding heeft betrekking op een interactieve virtuele reality eenheid voor gebruik in een fysieke werkruimte voor het door een gebruiker 5 manipuleren van een in een geheugen beschikbare virtuele representatie van een voorwerp.
In het geheugen kan bijvoorbeeld een virtuele verzameling van tweedimensionale (2D) afbeeldingen of filmpjes aanwezig zijn, maar evenzeer driedimensionale (3D) of vierdimensionale (4D, een 3D model dat verandert in de 10 tijd) afbeeldingen, ofwel een combinatie er van.
In virtuele reality wordt een omgeving zichtbaar gemaakt die een nabootsing van de werkelijkheid is. Een dergelijke nabootsing is in veel gevallen een model van die werkelijkheid, die doorgaans wordt gemaakt met behulp van een geheugen in een computer.
15 Een virtuele reality omgeving is zichtbaar op een scherm, maar er wordt ook gebruik gemaakt van speciale stereoscopische brillen.
Een gebruiker heeft interactie met de omgeving in de virtuele reality, bijvoorbeeld met een keyboard of met speciale randapparatuur zoals een headmounted display of een speciale ruimtemuis. De gesimuleerde omgeving lijkt 20 op een omgeving uit de werkelijkheid en wordt op veel terreinen toegepast zoals bij trainingen, demonstraties, amusement, spelletjes, maar evenzeer bij het manipuleren van virtueel DNA of biologische moleculen zoals eiwitten en dergelijke. Door bijvoorbeeld gebruik te maken van de 'oneindige' ruimte van de virtuele wereld is het mogelijk grote hoeveelheden gegevens tegelijkertijd te visualiseren en op 25 verschillende niveaus te onderzoeken. Onderlinge relaties worden door de applicatie gezocht en gevisualiseerd.
Bij diverse toepassingen is het van belang dat een gebruiker de virtuele realiteit kan manipuleren, bijvoorbeeld met behulp van een computermuis of met andere eveneens in 3D zichtbaar gemaakte attributen. In de gepubliceerde 30 octrooiaanvrage WO 2006/081198 wordt een augmented virtueel reality systeem beschreven, dat is uitgerust met software en middelen waarmee voor een gebruiker een stereoscopisch beeld zichtbaar wordt, dat door die gebruiker manipuleerbaar is. Het systeem is opgenomen in een speciale kast waarin een beeldscherm en een semi-transparante spiegel zijn opgenomen. De spiegel en het scherm maken een 1035303 2 hoek met elkaar zodat de gebruiker zowel het scherm als de instrumenten in de werkruimte kan zien en de 3D representatie van een voorwerp kan manipuleren. De gebruiker heeft bij zijn werkzaamheden een speciale stereoscopische bril nodig.
Teneinde een goede stereoscopische weergave te bereiken bevat 5 het systeem voorts een speciaal computer interface waarmee de beweging van het hoofd van de gebruiker wordt gevolgd. Een grafische omgeving is zichtbaar op het beeldscherm. De semi-transparante spiegel maakt het de gebruiker mogelijk om zowel de virtuele reality representatie als zijn handen te zien, die de haptische middelen beroeren in de werkruimte gelegen onder de spiegel. Deze bekende 10 inrichting heeft flinke afmetingen door het gebruik van een grote semi-spiegelende plaat boven de werkruimte en een beeldscherm boven de semi-transparante spiegelende plaat. Voor het verkrijgen van een efficiënte manipulatie van een driedimensionale representatie zijn speciale sensoren voor het volgen van het hoofd van de gebruiker en heeft de gebruiker ook een speciale bril nodig voor het manipuleren 15 van een driedimensionale representatie.
In de gepubliceerde octrooiaanvrage US 2003/0179218 A1 wordt een virtueel reality systeem beschreven dat met behulp van een camera een virtuele 3D omgeving genereert van een door de camera opgenomen scene van de werkelijkheid. Door toepassing van een geschikt computerprogramma kan een 20 gebruiker bepaalde virtuele objecten toevoegen of verwijderen. Het systeem bevat echter geen voorzieningen om een virtuele representatie te manipuleren met instrumenten, zoals boven beschreven.
De uitvinding heeft tot onder meer tot doel een interactieve virtuele reality eenheid te verschaffen die compact en gebruikersvriendelijk is en waarbij op 25 eenvoudige wijze manipulatie van een meerdimensionale representatie mogelijk is.
Een interactieve virtuele reality eenheid volgens de uitvinding heeft daartoe het kenmerk, dat de eenheid is voorzien van tenminste twee op afstand van elkaar gelegen beeldopname-organen, waarbij elk der beeldopname-organen is ingericht voor het verschaffen van een voor elk oog van de gebruiker bestemd 30 beeld, welke eenheid voorts beeldweergavemiddelen omvat voor het aan de ogen van de gebruiker verschaffen van voor elk oog bestemde afbeeldingen, waarbij de beeldweergavemiddelen tevens zijn ingericht voor het ontvangen van stereoscopische afbeeldingen van de representatie en het samenvoegen van de stereoscopische afbeeldingen met de voor elk oog bestemde beelden van de 3 werkruimte voor het verschaffen van zowel een driedimensionale weergave van de representatie als van de werkruimte.
Een interactieve virtuele reality eenheid volgens de uitvinding is compact en gemakkelijk door een gebruiker te bedienen. Een eenheid volgens de 5 uitvinding kan door een gebruiker eenvoudig worden gehanteerd en bijvoorbeeld op een tafel worden geplaatst. De gebruiker richt de beeldopnameorganen in de eenheid op een werkruimte op of nabij het oppervlak van de tafel en maakt een verbinding tussen de eenheid en een computer (eventueel voorzien van een beeldscherm) voor het ontvangen van de afbeeldingen van de representatie.
10 Een voorkeursuitvoeringsvorm heeft het kenmerk dat de optische assen van de beeldopname-organen ten opzichte van elkaar en ten opzichte van de positie van de beeldweergavemiddelen instelbaar zijn.
De beeldopname-organen kunnen dan door een gebruiker zodanig op de 'werkelijke wereld’ in de werkruimte worden gericht, dat de stereoinstellingen 15 kunnen worden gekalibreerd op de vorm en afmetingen van bij voorkeur een 3D representatie. De gebruiker stelt op deze wijze als het ware een conversie in tussen de werkelijke wereld en de representatie in de virtuele wereld. Deze wordt bepaald door de afstand tussen de twee beeldopname-organen en de praktische ervaring van de gebruiker. Het bedieningsgemak wordt verder verhoogd in een 20 uitvoeringsvorm, waarbij de genoemde optische assen instelbaar zijn ten opzichte van de zich voor de beeldweergavemiddelen bevindende positie van de ogen van een gebruiker. De virtuele werkruimte is dan voor een gebruiker als driedimensionale uitvoering realistisch en van hoge kwaliteit.
Het geheugen van de virtuele representatie (bijvoorbeeld 3D) van 25 het voorwerp kan zich zowel binnen als buiten de interactieve virtuele reality eenheid bevinden. Bij voorkeur bevat de eenheid aansluitorganen voor een geheugen in een verwerkingseenheid, zoals een computer. Een dergelijke verwerkingseenheid is bij voorkeur ingericht op het verschaffen van stereoscopische virtuele afbeeldingen.
Voorbeelden van de uitvinding zullen nader worden toegelicht aan 30 de hand van een tekening. In de tekening toont:
Figuur 1 schematisch een uitvoeringsvorm van een interactieve virtuele reality eenheid volgens de uitvinding,
Figuur 2 een interactieve virtuele reality eenheid volgens de uitvinding in perspectief, en 4
Figuur 3 eveneens in perspectief, een uitvoeringsvorm van een manipulator voor gebruik met een interactieve virtuele reality eenheid volgens de uitvinding.
De interactieve virtuele reality eenheid volgens figuur 1 is voorzien 5 van een huis 1 dat met behulp van een langwerpig bevestigingsorgaan 21 op een voet 22 is bevestigd (zie fig. 2). De voet 22 staat in de gebruikstoestand op een tafel 26 waarvan het voor en boven de voet gelegen gedeelte dient als werkruimte 2 van een gebruiker 27.
In de werkruimte 2 worden middelen opgesteld voor het door een 10 gebruiker manipuleren van een in een geheugen 3 van een computer beschikbare virtuele driedimensionale representatie 4 van een voorwerp. De naar de werkruimte 2 gerichte zijde van het huis 1 is voorzien van twee naast elkaar gelegen beeldopnameorganen (camera’s) 5 en 6, die zijn voorzien van een objectieflens.
Het huis is aan de andere zijde voorzien van twee beeldweergave-15 middelen (displays) 7 en 8 voor het aan de ogen 9 en 10 van de gebruiker verschaffen van voor het respectievelijke oog bestemde afbeeldingen afkomstig van de werkruimte 2. Deze beeldweergavemiddelen 7 en 8 zijn tevens ingericht voor het ontvangen van signalen van stereoscopische afbeeldingen 11 en 12 van de virtuele representatie 4. Deze stereoscopische afbeeldingen voor elk display worden 20 uitgesplitst met behulp van een computer. De verbinding van camera 5 met display 7 is schematisch weergegeven door stippellijn 5a en die van camera 6 naar display 8 met stippellijn 6a.
De stereoscopische afbeeldingen met de voor elk oog bestemde beelden van de werkruimte (‘de werkelijkheid') en die afkomstig van de 25 driedimensionale weergave van de representatie worden dus samengevoegd. Elke camera (5, 6) is ingericht voor het verschaffen van een voor elk oog van de gebruiker bestemd beeld. Het beeld van de representatie wordt daartoe in de computer gesplitst in een beeld respectievelijk bestemd voor display 7 en display 8. Deze uitsplitsing is schematisch voorgesteld met 11 en 12.
30 Bij het samenvoegen van de beelden van de virtuele representatie en de beelden afkomstig van de werkruimte wordt een ‘desk top interactief virtual reality systeem’ gevormd, waarbij een gebruiker in de beeldweergaveorganen een driedimensionaal virtueel beeld 28 (zie fig. 2) van een representatie ziet, waarmee de gebruiker middels het eveneeens weergegeven beeld van tastorganen in de 5 werkruimte 2 gemakkelijk kan manipuleren.
De optische assen van de objectieflens van elke camera zijn weergegeven met respectievelijk 13 en 14. De camera’s zijn ten opzichte van elkaar en ten opzichte van de positie van de beeldweergavemiddelen instelbaar. De 5 camera’s zijn te beschouwen als de twee ogen van het huis die zijn gericht op de werkelijkheid van de werkruimte. Met behulp van een computer wordt de virtuele 3D representatie gepositioneerd in de werkruimte via een perspectiefprojectie en een relatieve positie en oriëntatie ten opzichte van de camera’s 5 en 6. Perspectiefprojectie en relatieve positie en oriëntatie worden in het geheugen gerepresenteerd 10 als een coördinatensysteem verbonden met een manipulator 30 (zie ook fig. 3). Er vindt daarbij een kalibratie plaats, waarbij het perspectief (16, 17) van de objectief lenzen van de camera's overeenkomt met het perspectief van de 3D representatie. Een gebruiker kan dan op eenvoudige wijze de afmetingen van de representatie en het manipuleerinstrumentarium in de werkruimte op elkaar afstemmen.
15 In figuur 2 is het bovendeel van het huis van de eenheid aangegeven met 20. Aan de voorzijde van het huis zijn de door een gebruiker 27 op de werkruimte te richten camera’s 5 en 6 (elk voorzien van een objectieflens) opgenomen. Aan de andere, naar de ogen van de gebruiker gerichte zijde van het huis zijn displays 7 en 8 aanwezig (niet zichtbaar in fig. 2). Het huis 20 is met een 20 langwerpig bevestigingsorgaan 21 bevestigd aan een voet 22. Voorts is een elektrische verbindingskabel 25 tussen het huis 21 en de voet 22 aanwezig Deze voet wordt door de gebruiker op een tafel geplaatst. De hoogte van het huis ten opzichte van de voet is instelbaar met behulp van de organen 23 en 24. Op deze wijze wordt een ‘desktop interactief virtual reality systeem’ verkregen. De gebruiker 25 beschikt voorts over een manipulator 30.
In figuur 3a is de manipulator 30 in perspectief weergegeven. Het apparaat heeft ongeveer de afmetingen van een menselijke hand. De manipulator is voorzien van een orientatie-herkenningsorgaan 31 (voor toepassing in de X-Y-Z ruimte, tevens in alle richtingen draaibaar), dat tijdens gebruik samenwerkt met de 30 virtuele 3D representatie. Herkenningsorgaan 31 is virtueel in de werkruimte op de manipulator gepositioneerd. Op het genoemde herkenningsorgaan 31 wordt computer 3D cursor 33 (zie fig. 3b) geprojecteerd voor het verkrijgen van een bepaalde functionaliteit (bijvoorbeeld voor het selecteren, als meetinstrument, of als virtuele lichtbron). Op de manipulator worden dus voor verschillende functies 6 verschillende 3D representaties van een 3D cursor geprojecteerd. Hierdoor lijkt het in de virtuele wereld alsof de manipulator en het 3D representatie één geheel 34 zijn als er een 3D cursor op geplaatst is (zie fig. 3c).
De manipulator 30 is voorts voorzien van bedieningsorganen 32 (zie 5 fig. 3a) waarmee de gebruiker met de 3D representatie speciale acties kan uitvoeren, zoals het aanpakken of wegduwen van de representatie (zie fig. 3a) of het aansturen van separate instrumenten, zoals een navigator of virtuele haptische organen. De gebruiker kan ook een aparte navigator (35, zie fig. 2) inzetten. Met de navigator 35 kan een virtuele 3D representatie van een voorwerp worden verplaatst, 10 geroteerd en geschaald. De interactie wordt geïnterpreteerd vanuit het gezichtsveld van de gebruiker. De manipulaties die door de gebruiker met de navigator 35 worden uitgevoerd beïnvloeden de positie van het virtuele voorwerp ten opzichte van het matrixorgaan van de manipulator. Het is dus mogelijk om tegelijkertijd zowel via de manipulator als via de navigator de stand en positie van een virtueel 3D voorwerp 15 te beïnvloeden.
20 1035303

Claims (7)

1. Interactieve virtuele reality eenheid voor gebruik in een fysieke werkruimte voor het door een gebruiker manipuleren van een in een geheugen 5 beschikbare virtuele representatie van een voorwerp, met het kenmerk, dat de eenheid is voorzien van tenminste twee op afstand van elkaar gelegen beeldopname-organen, waarbij elk der beeldopname-organen is ingericht voor het verschaffen van een voor elk oog van de gebruiker bestemd beeld, welke eenheid voorts beeldweergavemiddelen omvat voor het aan de ogen van de gebruiker 10 verschaffen van voor elk oog bestemde afbeeldingen, waarbij de beeldweergavemiddelen tevens zijn ingericht voor het ontvangen van stereoscopische afbeeldingen van de representatie en het samenvoegen van de stereoscopische afbeeldingen met de voor elk oog bestemde beelden van de werkruimte voor het verschaffen van een driedimensionale weergave van de 15 representatie en de werkruimte.
2. Interactieve virtuele reality eenheid volgens conclusie 1, met het kenmerk, dat de optische assen van de beeldopnameorganen ten opzichte van elkaar en ten opzichte van de positie van de beeldweergavemiddelen instelbaar zijn.
3. Interactieve virtuele reality eenheid volgens conclusie 2, met het 20 kenmerk, dat de optische assen van de beeldopnameorganen instelbaar zijn ten opzichte van de zich voor de beeldweergavemiddelen bevindende positie van de ogen van een gebruiker.
4. Interactieve virtuele reality eenheid volgens conclusie 1, 2 of 3, met het kenmerk, dat deze is voorzien van aansluitorganen voor een geheugen in een 25 verwerkingseenheid.
5. Interactieve virtuele reality eenheid volgens conclusie 4, met het kenmerk, dat het de verwerkingseenheid is ingericht op het verschaffen van stereoscopische afbeeldingen.
6. Interactieve virtuele reality eenheid volgens een of meer der 30 bovengenoemde conclusies, met het kenmerk, dat de eenheid is voorzien van een in de werkruimte plaatsbare manipulator voor het in de driedimensionale weergave manipuleren van de representatie.
7. Interactieve virtuele reality eenheid volgens conclusie 6, met het kenmerk, dat de manipulator merktekens bevat voor het aangeven aan de 1035303 verwerkingseenheid van de locatie in de representatie, welke manipulator een of meer bedieningsorganen bevat voor het aansturen van separate instrumenten, zoals een navigator of haptische organen. 5 1035303
NL1035303A 2008-04-16 2008-04-16 Interactieve virtuele reality eenheid. NL1035303C2 (nl)

Priority Applications (8)

Application Number Priority Date Filing Date Title
NL1035303A NL1035303C2 (nl) 2008-04-16 2008-04-16 Interactieve virtuele reality eenheid.
CA2721107A CA2721107A1 (en) 2008-04-16 2009-04-16 Interactive virtual reality image generating system
US12/937,648 US20110029903A1 (en) 2008-04-16 2009-04-16 Interactive virtual reality image generating system
CN200980119203XA CN102047199A (zh) 2008-04-16 2009-04-16 交互式虚拟现实图像生成系统
JP2011504472A JP2011521318A (ja) 2008-04-16 2009-04-16 インタラクティブな仮想現実画像生成システム
EP09733237A EP2286316A1 (en) 2008-04-16 2009-04-16 Interactive virtual reality image generating system
PCT/EP2009/054553 WO2009127701A1 (en) 2008-04-16 2009-04-16 Interactive virtual reality image generating system
IL208649A IL208649A0 (en) 2008-04-16 2010-10-12 Interactive virtual reality image generating system

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
NL1035303 2008-04-16
NL1035303A NL1035303C2 (nl) 2008-04-16 2008-04-16 Interactieve virtuele reality eenheid.

Publications (1)

Publication Number Publication Date
NL1035303C2 true NL1035303C2 (nl) 2009-10-19

Family

ID=39865298

Family Applications (1)

Application Number Title Priority Date Filing Date
NL1035303A NL1035303C2 (nl) 2008-04-16 2008-04-16 Interactieve virtuele reality eenheid.

Country Status (8)

Country Link
US (1) US20110029903A1 (nl)
EP (1) EP2286316A1 (nl)
JP (1) JP2011521318A (nl)
CN (1) CN102047199A (nl)
CA (1) CA2721107A1 (nl)
IL (1) IL208649A0 (nl)
NL (1) NL1035303C2 (nl)
WO (1) WO2009127701A1 (nl)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113129358A (zh) * 2019-12-30 2021-07-16 北京外号信息技术有限公司 用于呈现虚拟对象的方法和系统

Families Citing this family (92)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011016029A2 (en) * 2009-08-02 2011-02-10 Tel Hashomer Medical Research Infrastructure And Services Ltd System and method for objective chromatic perimetry analysis using pupillometer
US8311791B1 (en) * 2009-10-19 2012-11-13 Surgical Theater LLC Method and system for simulating surgical procedures
US8593512B2 (en) * 2010-02-05 2013-11-26 Creative Technology Ltd Device and method for scanning an object on a working surface
US8947455B2 (en) * 2010-02-22 2015-02-03 Nike, Inc. Augmented reality design system
US8384770B2 (en) 2010-06-02 2013-02-26 Nintendo Co., Ltd. Image display system, image display apparatus, and image display method
EP2395769B1 (en) * 2010-06-11 2015-03-04 Nintendo Co., Ltd. Image display program, image display system, and image display method
JP5548038B2 (ja) * 2010-06-14 2014-07-16 任天堂株式会社 立体画像表示プログラム、立体画像表示装置、立体画像表示システム、および、立体画像表示方法
JP5739674B2 (ja) 2010-09-27 2015-06-24 任天堂株式会社 情報処理プログラム、情報処理装置、情報処理システム、および、情報処理方法
US8854356B2 (en) 2010-09-28 2014-10-07 Nintendo Co., Ltd. Storage medium having stored therein image processing program, image processing apparatus, image processing system, and image processing method
JP5738569B2 (ja) 2010-10-15 2015-06-24 任天堂株式会社 画像処理プログラム、装置、システムおよび方法
WO2012101286A1 (en) 2011-01-28 2012-08-02 Virtual Proteins B.V. Insertion procedures in augmented reality
JP2012155655A (ja) * 2011-01-28 2012-08-16 Sony Corp 情報処理装置、報知方法及びプログラム
US8643703B1 (en) 2011-03-30 2014-02-04 Amazon Technologies, Inc. Viewer tracking image display
EP3462286A1 (en) * 2011-05-06 2019-04-03 Magic Leap, Inc. Massive simultaneous remote digital presence world
CN102221832A (zh) * 2011-05-10 2011-10-19 江苏和光天地科技有限公司 一种煤矿无人工作面开发系统
JP5670255B2 (ja) 2011-05-27 2015-02-18 京セラ株式会社 表示機器
US10796494B2 (en) 2011-06-06 2020-10-06 Microsoft Technology Licensing, Llc Adding attributes to virtual representations of real-world objects
JP5864144B2 (ja) 2011-06-28 2016-02-17 京セラ株式会社 表示機器
US20150153172A1 (en) * 2011-10-31 2015-06-04 Google Inc. Photography Pose Generation and Floorplan Creation
US9852135B1 (en) 2011-11-29 2017-12-26 Amazon Technologies, Inc. Context-aware caching
US20130137076A1 (en) * 2011-11-30 2013-05-30 Kathryn Stone Perez Head-mounted display based education and instruction
CN103258338A (zh) * 2012-02-16 2013-08-21 克利特股份有限公司 利用真实数据来驱动仿真的虚拟环境的方法和系统
CN103258339A (zh) * 2012-02-16 2013-08-21 克利特股份有限公司 基于实况记录和基于计算机图形的媒体流的实时合成
US9355585B2 (en) * 2012-04-03 2016-05-31 Apple Inc. Electronic devices with adaptive frame rate displays
US9135735B2 (en) 2012-06-26 2015-09-15 Qualcomm Incorporated Transitioning 3D space information to screen aligned information for video see through augmented reality
US8532675B1 (en) 2012-06-27 2013-09-10 Blackberry Limited Mobile communication device user interface for manipulation of data items in a physical space
US9741145B2 (en) * 2012-06-29 2017-08-22 Disney Enterprises, Inc. Augmented reality simulation continuum
JP6159069B2 (ja) * 2012-09-27 2017-07-05 京セラ株式会社 表示装置
CN103873840B (zh) * 2012-12-12 2018-08-31 联想(北京)有限公司 显示方法及显示设备
US9412201B2 (en) 2013-01-22 2016-08-09 Microsoft Technology Licensing, Llc Mixed reality filtering
US9142063B2 (en) * 2013-02-15 2015-09-22 Caterpillar Inc. Positioning system utilizing enhanced perception-based localization
CN105074617B (zh) * 2013-03-11 2018-03-02 日本电气方案创新株式会社 三维用户界面装置和三维操作处理方法
BR112015025869A2 (pt) 2013-04-16 2017-07-25 Sony Corp aparelhos de processamento de informação e de exibição, métodos para processamento de informação e para exibição, e, sistema de processamento de informação
JP6138566B2 (ja) * 2013-04-24 2017-05-31 川崎重工業株式会社 部品取付作業支援システムおよび部品取付方法
JP6415553B2 (ja) * 2013-07-29 2018-10-31 バイオプティジェン, インコーポレイテッドBioptigen, Inc. 外科手術用手技光干渉断層計及び関連するシステム及びその方法
US9269012B2 (en) 2013-08-22 2016-02-23 Amazon Technologies, Inc. Multi-tracker object tracking
KR102077105B1 (ko) * 2013-09-03 2020-02-13 한국전자통신연구원 사용자 인터랙션을 위한 디스플레이를 설계하는 장치 및 방법
JP6314394B2 (ja) 2013-09-13 2018-04-25 富士通株式会社 情報処理装置、設定方法、設定プログラム、システムおよび管理装置
CN103785169A (zh) * 2013-12-18 2014-05-14 微软公司 混合现实的竞技场
US20150199106A1 (en) * 2014-01-14 2015-07-16 Caterpillar Inc. Augmented Reality Display System
CN106463001B (zh) * 2014-06-13 2018-06-12 三菱电机株式会社 信息重叠图像显示装置
US10229543B2 (en) 2014-06-13 2019-03-12 Mitsubishi Electric Corporation Information processing device, information superimposed image display device, non-transitory computer readable medium recorded with marker display program, non-transitory computer readable medium recorded with information superimposed image display program, marker display method, and information-superimposed image display method
US9857869B1 (en) 2014-06-17 2018-01-02 Amazon Technologies, Inc. Data optimization
GB2527503A (en) * 2014-06-17 2015-12-30 Next Logic Pty Ltd Generating a sequence of stereoscopic images for a head-mounted display
US9710711B2 (en) * 2014-06-26 2017-07-18 Adidas Ag Athletic activity heads up display systems and methods
US10451875B2 (en) 2014-07-25 2019-10-22 Microsoft Technology Licensing, Llc Smart transparency for virtual objects
US9865089B2 (en) 2014-07-25 2018-01-09 Microsoft Technology Licensing, Llc Virtual reality environment with real world objects
US9766460B2 (en) 2014-07-25 2017-09-19 Microsoft Technology Licensing, Llc Ground plane adjustment in a virtual reality environment
US10311638B2 (en) 2014-07-25 2019-06-04 Microsoft Technology Licensing, Llc Anti-trip when immersed in a virtual reality environment
US9904055B2 (en) 2014-07-25 2018-02-27 Microsoft Technology Licensing, Llc Smart placement of virtual objects to stay in the field of view of a head mounted display
US10416760B2 (en) 2014-07-25 2019-09-17 Microsoft Technology Licensing, Llc Gaze-based object placement within a virtual reality environment
US9858720B2 (en) 2014-07-25 2018-01-02 Microsoft Technology Licensing, Llc Three-dimensional mixed-reality viewport
US10191637B2 (en) * 2014-08-04 2019-01-29 Hewlett-Packard Development Company, L.P. Workspace metadata management
JP2015109092A (ja) * 2014-12-17 2015-06-11 京セラ株式会社 表示機器
US10235807B2 (en) * 2015-01-20 2019-03-19 Microsoft Technology Licensing, Llc Building holographic content using holographic tools
US20170061700A1 (en) * 2015-02-13 2017-03-02 Julian Michael Urbach Intercommunication between a head mounted display and a real world object
JP6336930B2 (ja) * 2015-02-16 2018-06-06 富士フイルム株式会社 仮想オブジェクト表示装置、方法、プログラムおよびシステム
JP6336929B2 (ja) * 2015-02-16 2018-06-06 富士フイルム株式会社 仮想オブジェクト表示装置、方法、プログラムおよびシステム
CA2882968C (en) * 2015-02-23 2023-04-25 Sulfur Heron Cognitive Systems Inc. Facilitating generation of autonomous control information
JP6328579B2 (ja) * 2015-03-13 2018-05-23 富士フイルム株式会社 仮想オブジェクト表示システムおよびその表示制御方法並びに表示制御プログラム
JP6742701B2 (ja) * 2015-07-06 2020-08-19 キヤノン株式会社 情報処理装置、その制御方法及びプログラム
CN105160942A (zh) * 2015-08-17 2015-12-16 武汉理工大学 面向船舶可视导航的通航环境可视化表示方法
KR20170025656A (ko) * 2015-08-31 2017-03-08 엘지전자 주식회사 가상 현실 기기 및 그의 렌더링 방법
CN105869214A (zh) * 2015-11-26 2016-08-17 乐视致新电子科技(天津)有限公司 一种基于虚拟现实设备的视锥体裁剪方法及装置
US10176641B2 (en) * 2016-03-21 2019-01-08 Microsoft Technology Licensing, Llc Displaying three-dimensional virtual objects based on field of view
US10019131B2 (en) * 2016-05-10 2018-07-10 Google Llc Two-handed object manipulations in virtual reality
EP3455700A1 (en) 2016-05-12 2019-03-20 Google LLC System and method relating to movement in a virtual reality environment
US10198874B2 (en) * 2016-05-13 2019-02-05 Google Llc Methods and apparatus to align components in virtual reality environments
CN105957000A (zh) * 2016-06-16 2016-09-21 北京银河宇科技股份有限公司 用于实现艺术品虚拟展示的设备以及方法
US10169918B2 (en) * 2016-06-24 2019-01-01 Microsoft Technology Licensing, Llc Relational rendering of holographic objects
CN106249875A (zh) * 2016-07-15 2016-12-21 深圳奥比中光科技有限公司 体感交互方法以及设备
US20190243461A1 (en) * 2016-07-26 2019-08-08 Mitsubishi Electric Corporation Cable movable region display device, cable movable region display method, and cable movable region display program
US10345925B2 (en) * 2016-08-03 2019-07-09 Google Llc Methods and systems for determining positional data for three-dimensional interactions inside virtual reality environments
AU2017314940B2 (en) * 2016-08-26 2021-09-23 Magic Leap, Inc. Continuous time warp and binocular time warp for virtual and augmented reality display systems and methods
US10525355B2 (en) * 2016-11-01 2020-01-07 Htc Corporation Method, device, and non-transitory computer readable storage medium for interaction to event in virtual space
CN106406543A (zh) * 2016-11-23 2017-02-15 长春中国光学科学技术馆 人眼控制vr场景变换装置
CN108614636A (zh) * 2016-12-21 2018-10-02 北京灵境世界科技有限公司 一种3d实景vr制作方法
US11132840B2 (en) 2017-01-16 2021-09-28 Samsung Electronics Co., Ltd Method and device for obtaining real time status and controlling of transmitting devices
WO2018187171A1 (en) * 2017-04-04 2018-10-11 Usens, Inc. Methods and systems for hand tracking
EP3595850A1 (en) * 2017-04-17 2020-01-22 Siemens Aktiengesellschaft Mixed reality assisted spatial programming of robotic systems
US9959905B1 (en) 2017-05-05 2018-05-01 Torus Media Labs Inc. Methods and systems for 360-degree video post-production
US10713485B2 (en) 2017-06-30 2020-07-14 International Business Machines Corporation Object storage and retrieval based upon context
TWI643094B (zh) * 2017-07-03 2018-12-01 拓集科技股份有限公司 可變內容之虛擬實境方法及系統,及其相關電腦程式產品
US20190057180A1 (en) * 2017-08-18 2019-02-21 International Business Machines Corporation System and method for design optimization using augmented reality
US10751877B2 (en) * 2017-12-31 2020-08-25 Abb Schweiz Ag Industrial robot training using mixed reality
CN110119194A (zh) * 2018-02-06 2019-08-13 广东虚拟现实科技有限公司 虚拟场景处理方法、装置、交互系统、头戴显示装置、视觉交互装置及计算机可读介质
CN108492657B (zh) * 2018-03-20 2019-09-20 天津工业大学 一种用于颞骨手术术前培训的混合现实模拟系统
US11741845B2 (en) * 2018-04-06 2023-08-29 David Merwin Immersive language learning system and method
CN111223187A (zh) * 2018-11-23 2020-06-02 广东虚拟现实科技有限公司 虚拟内容的显示方法、装置及系统
CN110634048A (zh) * 2019-09-05 2019-12-31 北京无限光场科技有限公司 一种信息显示方法、装置、终端设备及介质
CN111317490A (zh) * 2020-02-25 2020-06-23 京东方科技集团股份有限公司 一种远程操作控制系统及远程操作控制方法
CN111887990B (zh) * 2020-08-06 2021-08-13 杭州湖西云百生科技有限公司 基于5g技术的远程手术导航云桌面系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0633549A2 (en) * 1993-07-02 1995-01-11 Matsushita Electric Industrial Co., Ltd. Simulator for producing various living environments mainly for visual perception
US20020075286A1 (en) * 2000-11-17 2002-06-20 Hiroki Yonezawa Image generating system and method and storage medium
WO2003010977A1 (en) * 2001-07-23 2003-02-06 Ck Management Ab Method and device for image display
US20060256036A1 (en) * 2005-05-11 2006-11-16 Yasuo Katano Image processing method and image processing apparatus

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06143161A (ja) * 1992-10-29 1994-05-24 Kobe Steel Ltd マニピュレータの制御方法及びその装置
US5803738A (en) * 1994-06-24 1998-09-08 Cgsd Corporation Apparatus for robotic force simulation
US6421048B1 (en) * 1998-07-17 2002-07-16 Sensable Technologies, Inc. Systems and methods for interacting with virtual objects in a haptic virtual reality environment
US6972734B1 (en) * 1999-06-11 2005-12-06 Canon Kabushiki Kaisha Mixed reality apparatus and mixed reality presentation method
US20020133264A1 (en) * 2001-01-26 2002-09-19 New Jersey Institute Of Technology Virtual reality system for creation of design models and generation of numerically controlled machining trajectories
US7190331B2 (en) * 2002-06-06 2007-03-13 Siemens Corporate Research, Inc. System and method for measuring the registration accuracy of an augmented reality system
JP2005339377A (ja) * 2004-05-28 2005-12-08 Canon Inc 画像処理方法、画像処理装置
JP2006150567A (ja) * 2004-12-01 2006-06-15 Toyota Motor Corp ロボットの安定化制御装置
BRPI0615283A2 (pt) * 2005-08-29 2011-05-17 Evryx Technologies Inc interatividade por meio de reconhecimento de imagem móvel
US8157651B2 (en) * 2005-09-12 2012-04-17 Nintendo Co., Ltd. Information processing program
JP4777182B2 (ja) * 2006-08-01 2011-09-21 キヤノン株式会社 複合現実感提示装置及びその制御方法、プログラム
JP4883774B2 (ja) * 2006-08-07 2012-02-22 キヤノン株式会社 情報処理装置及びその制御方法、プログラム
US8248462B2 (en) * 2006-12-15 2012-08-21 The Board Of Trustees Of The University Of Illinois Dynamic parallax barrier autosteroscopic display system and method
US20090305204A1 (en) * 2008-06-06 2009-12-10 Informa Systems Inc relatively low-cost virtual reality system, method, and program product to perform training

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0633549A2 (en) * 1993-07-02 1995-01-11 Matsushita Electric Industrial Co., Ltd. Simulator for producing various living environments mainly for visual perception
US20020075286A1 (en) * 2000-11-17 2002-06-20 Hiroki Yonezawa Image generating system and method and storage medium
WO2003010977A1 (en) * 2001-07-23 2003-02-06 Ck Management Ab Method and device for image display
US20060256036A1 (en) * 2005-05-11 2006-11-16 Yasuo Katano Image processing method and image processing apparatus

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113129358A (zh) * 2019-12-30 2021-07-16 北京外号信息技术有限公司 用于呈现虚拟对象的方法和系统

Also Published As

Publication number Publication date
IL208649A0 (en) 2010-12-30
EP2286316A1 (en) 2011-02-23
US20110029903A1 (en) 2011-02-03
CA2721107A1 (en) 2009-10-22
CN102047199A (zh) 2011-05-04
WO2009127701A1 (en) 2009-10-22
JP2011521318A (ja) 2011-07-21

Similar Documents

Publication Publication Date Title
NL1035303C2 (nl) Interactieve virtuele reality eenheid.
Collins et al. Visual coherence in mixed reality: A systematic enquiry
Kumar et al. Mujoco haptix: A virtual reality system for hand manipulation
JP4871270B2 (ja) 仮想3次元空間内で動作するシステム及び方法と視覚化システムを介してオペレーションを選択するシステム
EP2946264B1 (en) Virtual interaction with image projection
US9230368B2 (en) Hologram anchoring and dynamic positioning
Stavness et al. pCubee: a perspective-corrected handheld cubic display
US11562598B2 (en) Spatially consistent representation of hand motion
CN108604121A (zh) 虚拟现实中的双手对象操纵
Tomioka et al. Approximated user-perspective rendering in tablet-based augmented reality
US20200311396A1 (en) Spatially consistent representation of hand motion
EP2126665A2 (en) Systems and methods for updating dynamic three-dimensional display with user input
Luciano et al. Design of the immersivetouch: a high-performance haptic augmented virtual reality system
KR101710000B1 (ko) 모션 추적 기반 3차원 인터페이스 장치 및 그 방법
WO2021243103A1 (en) Determining angular acceleration
CN107209567A (zh) 带有视觉反馈的注视致动的用户界面
Tseng Development of a low-cost 3D interactive VR system using SBS 3D display, VR headset and finger posture motion tracking
Miller et al. Overcoming limitations of the HoloLens for use in product assembly
Czesak et al. Fusion of pose and head tracking data for immersive mixed-reality application development
TWI836680B (zh) 立體影像互動模擬系統與運作方法
KR20150014127A (ko) 수술 시뮬레이팅 장치
Ismail et al. Implementation of natural hand gestures in holograms for 3D object manipulation
CN115953557A (zh) 一种基于虚拟现实技术的产品展示方法
JPWO2021030328A5 (nl)
Beier The integration of a neurosurgical microscope as an interface to a medical training simulator

Legal Events

Date Code Title Description
PD2B A search report has been drawn up
SEIZ Seizure

Effective date: 20130918

V1 Lapsed because of non-payment of the annual fee

Effective date: 20131101