CN113811782A - 与mri扫描仪兼容的虚拟现实系统 - Google Patents
与mri扫描仪兼容的虚拟现实系统 Download PDFInfo
- Publication number
- CN113811782A CN113811782A CN202080031488.8A CN202080031488A CN113811782A CN 113811782 A CN113811782 A CN 113811782A CN 202080031488 A CN202080031488 A CN 202080031488A CN 113811782 A CN113811782 A CN 113811782A
- Authority
- CN
- China
- Prior art keywords
- subject
- scanner
- user device
- mri
- virtual environment
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000033001 locomotion Effects 0.000 claims abstract description 68
- 230000004424 eye movement Effects 0.000 claims abstract description 21
- 230000003993 interaction Effects 0.000 claims abstract description 21
- 210000003128 head Anatomy 0.000 claims description 50
- 230000000007 visual effect Effects 0.000 claims description 38
- 210000001747 pupil Anatomy 0.000 claims description 12
- 230000004886 head movement Effects 0.000 claims description 8
- 230000002452 interceptive effect Effects 0.000 claims description 8
- 230000008859 change Effects 0.000 claims description 6
- 239000000463 material Substances 0.000 claims description 6
- 230000003287 optical effect Effects 0.000 claims description 4
- 238000012545 processing Methods 0.000 claims description 4
- 238000006073 displacement reaction Methods 0.000 claims description 3
- 230000010354 integration Effects 0.000 claims description 3
- 230000008685 targeting Effects 0.000 claims 1
- 238000000034 method Methods 0.000 abstract description 23
- 230000036407 pain Effects 0.000 abstract description 3
- 206010048909 Boredom Diseases 0.000 abstract description 2
- 230000003292 diminished effect Effects 0.000 abstract 1
- 238000002595 magnetic resonance imaging Methods 0.000 description 116
- 238000003384 imaging method Methods 0.000 description 18
- 208000019901 Anxiety disease Diseases 0.000 description 7
- 230000036506 anxiety Effects 0.000 description 7
- 238000002599 functional magnetic resonance imaging Methods 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 6
- 238000012552 review Methods 0.000 description 6
- 230000007246 mechanism Effects 0.000 description 5
- 206010009244 Claustrophobia Diseases 0.000 description 4
- 239000011521 glass Substances 0.000 description 4
- 238000007654 immersion Methods 0.000 description 4
- 238000012544 monitoring process Methods 0.000 description 4
- 208000019899 phobic disease Diseases 0.000 description 4
- 230000035807 sensation Effects 0.000 description 4
- 238000012937 correction Methods 0.000 description 3
- 230000000875 corresponding effect Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000005043 peripheral vision Effects 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000003068 static effect Effects 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 206010012289 Dementia Diseases 0.000 description 2
- 230000009471 action Effects 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 2
- 230000004888 barrier function Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 210000004556 brain Anatomy 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 230000001066 destructive effect Effects 0.000 description 2
- 230000008846 dynamic interplay Effects 0.000 description 2
- 210000003414 extremity Anatomy 0.000 description 2
- 239000003193 general anesthetic agent Substances 0.000 description 2
- 229940005494 general anesthetics Drugs 0.000 description 2
- 238000002347 injection Methods 0.000 description 2
- 239000007924 injection Substances 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000002360 preparation method Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000001953 sensory effect Effects 0.000 description 2
- 239000013598 vector Substances 0.000 description 2
- LQIAZOCLNBBZQK-UHFFFAOYSA-N 1-(1,2-Diphosphanylethyl)pyrrolidin-2-one Chemical compound PCC(P)N1CCCC1=O LQIAZOCLNBBZQK-UHFFFAOYSA-N 0.000 description 1
- 206010002091 Anaesthesia Diseases 0.000 description 1
- 238000012307 MRI technique Methods 0.000 description 1
- NIXOWILDQLNWCW-UHFFFAOYSA-N acrylic acid group Chemical group C(C=C)(=O)O NIXOWILDQLNWCW-UHFFFAOYSA-N 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 230000037005 anaesthesia Effects 0.000 description 1
- 210000003484 anatomy Anatomy 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000000747 cardiac effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000001010 compromised effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000009792 diffusion process Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 230000004438 eyesight Effects 0.000 description 1
- 230000005057 finger movement Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 210000003141 lower extremity Anatomy 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000000116 mitigating effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000035790 physiological processes and functions Effects 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 229940125723 sedative agent Drugs 0.000 description 1
- 239000000932 sedative agent Substances 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 238000010998 test method Methods 0.000 description 1
- 238000002560 therapeutic procedure Methods 0.000 description 1
- 238000011282 treatment Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
- 230000001755 vocal effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01R—MEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
- G01R33/00—Arrangements or instruments for measuring magnetic variables
- G01R33/20—Arrangements or instruments for measuring magnetic variables involving magnetic resonance
- G01R33/28—Details of apparatus provided for in groups G01R33/44 - G01R33/64
- G01R33/283—Intercom or optical viewing arrangements, structurally associated with NMR apparatus
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/20—Input arrangements for video game devices
- A63F13/21—Input arrangements for video game devices characterised by their sensors, purposes or types
- A63F13/213—Input arrangements for video game devices characterised by their sensors, purposes or types comprising photodetecting means, e.g. cameras, photodiodes or infrared cells
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/25—Output arrangements for video game devices
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/90—Constructional details or arrangements of video game devices not provided for in groups A63F13/20 or A63F13/25, e.g. housing, wiring, connections or cabinets
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01R—MEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
- G01R33/00—Arrangements or instruments for measuring magnetic variables
- G01R33/20—Arrangements or instruments for measuring magnetic variables involving magnetic resonance
- G01R33/44—Arrangements or instruments for measuring magnetic variables involving magnetic resonance using nuclear magnetic resonance [NMR]
- G01R33/48—NMR imaging systems
- G01R33/54—Signal processing systems, e.g. using pulse sequences ; Generation or control of pulse sequences; Operator console
- G01R33/56—Image enhancement or correction, e.g. subtraction or averaging techniques, e.g. improvement of signal-to-noise ratio and resolution
- G01R33/565—Correction of image distortions, e.g. due to magnetic field inhomogeneities
- G01R33/56509—Correction of image distortions, e.g. due to magnetic field inhomogeneities due to motion, displacement or flow, e.g. gradient moment nulling
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Condensed Matter Physics & Semiconductors (AREA)
- Magnetic Resonance Imaging Apparatus (AREA)
Abstract
方面和实施例提供与MRI扫描仪兼容的虚拟现实系统,所述系统包括:位于MRI扫描仪的孔内的用户设备,所述用户设备配置为向受试者提供沉浸式虚拟环境;所述系统还包括:至少一个传感器,其配置为跟踪所述受试者的眼部运动;其中所述受试者与所述沉浸式虚拟环境的交互由眼部运动跟踪控制。本方面和实施例可以实施这样的设置,所述设置认识到通常依赖于VR对象的动态运动的VR技术可用于帮助维持待放置在MRI扫描仪的孔内的对象的最小运动。可以实施本实施方式,使得受试者的平静程度可以增加,并且他们对物理环境的意识减弱,从而允许更为成功的MRI图像采集,同时寻求最小化所研究的受试者经历的痛苦、无聊和/或沮丧。
Description
技术领域
本发明涉及与核磁共振成像(MRI)扫描仪兼容的虚拟现实(VR)系统,更具体而言,本发明涉及一种虚拟现实系统,该系统有助于成功地进行与受试者相关的图像采集,这些受试者在其它方面被发现使用MRI扫描仪以及对进行MRI扫描仪的受试者施加限制具有挑战或困难。
背景技术
核磁共振成像(MRI)是一种临床成像技术,其允许捕获发生在例如人体内部的解剖和生理过程的图像。MRI扫描仪使用强磁场、磁场梯度和射频磁场来生成身体内发生的解剖和过程的图像。
典型的MRI扫描仪具有相对较小且较窄的扫描仪的孔。扫描仪的孔是产生强磁场以研究放置在MRI扫描仪中的受试者的区域。
被放置在MRI扫描仪中的受试者可能会产生焦虑。就成年人而言,这种焦虑可能源于例如幽闭恐惧症和/或精神错乱或痴呆症。儿童在扫描前和扫描期间也可能会感到焦虑。
为了从放置在MRI扫描仪内的受试者获得清晰有用的图像,受试者必须在扫描过程中保持基本静止。使用全身麻醉剂对幼儿进行扫描的情况并不少见。
希望提供一种用于MRI扫描仪中的系统,其可以帮助减轻或缓解上面提出的一些问题。
发明内容
因此,第一方面提供:与MRI扫描仪兼容的虚拟现实系统,所述系统包括:位于MRI扫描仪的线圈内的用户设备,所述用户设备配置为向受试者提供沉浸式虚拟环境;所述系统还包括:至少一个传感器,其配置为跟踪受试者的眼部运动;其中受试者与沉浸式虚拟环境的交互由跟踪的眼部运动控制。
在一些实施例中,所述系统配置为向受试者提供沉浸式虚拟环境,该沉浸式虚拟环境包括选择为减少、最小化和/或防止受试者通过粗略的物理运动与虚拟环境的交互的视觉和音频输入。
在一些实施例中,所述系统配置为向受试者提供沉浸式虚拟环境,该沉浸式虚拟环境包括选择为鼓励受试者仅通过眼部运动与虚拟环境的交互的视觉和音频输入。
在一些实施例中,用户设备的元件由不影响MRI扫描仪的线圈内的磁场的材料构成。
在一些实施例中,磁干扰或电干扰的VR系统的元件位于扫描仪的线圈外部。在一些实施方式中,VR系统的演示元件与定位在扫描仪的孔内的受试者一起存在。演示元件与受试者一起移动,以允许系统创建的沉浸式VR体验从扫描仪外部开始并在检查的所有元件中不受干扰地继续,直到受试者从核磁扫描仪中离开。
在一些实施例中,提供沉浸式虚拟环境的视觉输入通过包括投影仪和一个或多个反射镜的光学系统从扫描仪的线圈外部传送到受试者。
在一些实施例中,配置为跟踪受试者的眼部运动的至少一个传感器包括形成用户设备的一部分的至少一个摄像机,并且其中摄像机位于用户设备上,与放置在用户设备中的受试者相距一定距离,该距离选择为减少通过使用扫描仪的线圈捕获的MRI图像中的电磁干扰。
在一些实施例中,创建虚拟现实环境所需的处理设备位于扫描仪的线圈或扫描仪的孔的外部。
在一些实施例中,用户设备的尺寸适于在扫描仪的线圈或扫描仪的孔内。
在一些实施例中,虚拟现实系统的一个或多个元件与MRI扫描仪可拆卸地分离。
在一些实施例中,受试者与沉浸式虚拟环境的交互主要由眼部运动跟踪控制。
在一些实施例中,用户设备包括位于用户设备内的一个或多个限制器,用于限制受试者的头部运动。
在一些实施例中,眼部运动跟踪包括:通过瞳孔跟踪实现的视线估计(gazeestimation)。
在一些实施例中,眼部运动跟踪包括:可变形眼睛形状跟踪。
在一些实施例中,眼部运动跟踪包括:包括头部姿态补偿的瞳孔跟踪。
在一些实施例中,眼部运动跟踪包括根据由传感器获得的图像确定受试者头部运动,并且其中所述系统配置为使用所确定的头部运动来校正或补偿由MRI扫描仪获得的MRI图像。
在一些实施例中,基于从传感器捕获的受试者的眼部的一幅或多幅图像确定的眼角位移,估计受试者头部姿势的变化,并且其中所述变化用于提供运动补偿。
在一些实施例中,所述系统配置为向受试者提供交互式注视目标,从而提供受试者反馈并改善与目标的整体结合。
在一些实施例中,交互式注视目标包括:在受试者的视线确定为与注视目标保持接触时改变或演变的图标。
在一些实施例中,沉浸式虚拟环境与受试者所体验的物理环境一致。
在一些实施例中,用户设备包括声音传感器,所述声音传感器配置为向系统提供输入的声音传感器,使得形成虚拟环境的一部分的听觉景观(aural landscape)包括扫描仪的线圈内的听觉景观的主要元素。
在一些实施例中,用户设备包括一个或多个运动传感器,所述运动传感器配置为向系统提供输入,使得形成虚拟环境的一部分的视觉景观与扫描仪的线圈内的受试者所经历的运动一致。
在一些实施例中,所述系统包括声音和图像传感器,其配置为向系统提供关于位于扫描仪的线圈外部的一方的信息,并且将该方的图像添加到虚拟环境中以与受试者交互。
应当理解,本发明的另一方面涉及使用第一方面的设备的方法。具体在于:提供与MRI扫描仪的兼容虚拟现实系统:通过将用户设备定位在MRI扫描仪的线圈内,所述用户设备配置为向受试者提供沉浸式虚拟环境;所述方法还包括:配置至少一个传感器来跟踪所述受试者的眼部运动;并且提供一种设置,其中受试者与沉浸式虚拟环境的交互由受试者的眼部运动跟踪控制。
可以提供与第一方面描述的设备特征相对应的方法步骤。
在所附的独立权利要求和从属权利要求中阐述了进一步的特定方面和优选方面。从属权利要求的特征可以适当地与独立权利要求的特征组合,也可以与权利要求中明确列出的特征以外的特征进行组合。
在设备特征描述为可操作以提供功能的情况下,应当理解这包括提供该功能或适配于该功能或配置为提供该功能的设备特征。
附图说明
现将结合附图对本发明的实施例作进一步说明,其中:
图1示出了设计为用于一种可能的设置的光学投影系统;
图2示出了构成VR系统的一部分的用户设备,该用户设备定位在扫描仪的孔内;
图3示意性地示出了注视跟踪的校准过程的主要组成部分;
图4示出了典型的眼部图像,其中叠加了关键标志和校准数据;
图5示出了一个受试者被放置在MRI扫描仪的孔中;
图6示出了根据一种设置提供给MRI扫描仪的孔中的受试者的虚拟环境的视觉元素的屏幕截图;
图7示出了构成VR系统的一部分的替代的用户设备,其形式为位于MRI扫描仪的孔内的头部设备;以及
图8是形成如图7所示的用户设备内部结构的一些主要组件的等轴测图。
具体实施方式
如上所述,许多成年人发现被放置在MRI扫描仪中进行扫描的过程是一个令人焦虑的事件。如果成人患有幽闭恐惧症或患有精神错乱或痴呆症,这一点尤其值得注意。许多儿童在MRI扫描之前和扫描期间也会感到焦虑,因此使用全身麻醉剂或镇静剂以扫描受试者的情况并不少见。应当理解,麻醉的使用具有相关的风险和成本。解决这些挑战的常规方法因年龄而异:直到两岁左右,在自然睡眠期间扫描儿童是可行的。随着婴儿年龄的增长,因此成像必须向夜间移动,最终在深夜进行扫描以扩展自然睡眠成像的年龄范围。一旦孩子年龄太大,自然睡眠无法成为成功进行MRI成像的可靠机制,那么选择就会受到限制,直到孩子足够成熟以允许再次进行扩展的扫描。从5岁左右开始,可以放映电影或其他分散注意力的节目,以达到合理的检查时间,尽管这只能获得部分的成功。
类似地,系统是已知的,根据这些系统,为了安抚和帮助受试者以最小化受试者在MRI扫描仪内的移动,显示成人在扫描仪的孔内时保持平静的图像。这样的系统通常不会去除周边视觉线索,并且这些治疗可能提醒受试者他们身处何处,这可能导致痛苦。
可以实施这样的设置,所述设置可以向MRI扫描仪的孔内的受试者提供完全与MRI兼容的、完全沉浸式的虚拟现实系统。这样的系统可以包括各种组件和特征,例如包括:MR安全视觉显示系统;眼部跟踪,其允许受试者与虚拟环境进行交互而无需完全移动头部,从而使在扫描仪的孔内的受试者保持一定程度的静止,并且消除对有限空间的扫描仪的孔内的头部移动的需要。可以实施这样的设置,其中来自受试者的持续注视用于校准和控制VR环境内的选项的选择,并且可以通过眼部跟踪和适当的眼部跟踪算法提供使用眼部运动直接控制游戏和执行其他任务的能力。还应该意识到,眼部跟踪可提供有用的神经科学/临床评估工具,并且可用于为MRI运动校正提供对受试者头部的预测性跟踪。这些附加特征在下面更详细地描述。一些设置可以提供直接的视频注入能力(video injectioncapability),其中如同在提供给该受试者的沉浸式虚拟环境内,位于MRI套件外部的第二当事方可以与扫描仪中的受试者交互。类似地,一些设置可以提供双向音频通信,以允许受试者与第二方和/或与MRI扫描仪的操作者通信。一些设置可以提供可选的手部跟踪,从而允许向VR世界提供运动输入,允许增强受试者沉浸在虚拟环境中的感觉,并且可能允许出于神经科学和/或临床实验的目的执行运动较小的任务。可以实施提供完全沉浸式的与MRI兼容的VR系统的设置,在进入MRI扫描仪或扫描仪的孔之前,可以将受试者放入所述系统中。可以实施这样的设置,当受试者位于MRI扫描仪的孔内时,在提供给受试者的虚拟环境中,所述设置使得第二当事方(例如,父母)作为加入虚拟环境中的对象。
一般而言,可以实施这样的设置,所述设置认识到通常依赖于VR对象的动态运动的VR技术可用于帮助维持待放置在MRI扫描仪的孔内的受试者的最小运动。实施方式可以为:MRI扫描仪的孔内的受试者的平静程度可以增加,并且对他们的物理环境(在较小的扫描仪的孔内)的意识减弱,从而允许更为成功的图像采集,同时寻求最小化受试者遭受的痛苦、无聊和/或沮丧。
可以实施这样的设置,所述设置通过提供与MRI兼容的VR系统,为受试者提供完全的沉浸式和交互式体验。设置可以提供通过眼部运动的控制,可以提供引入第三当事方化身(avatar)的能力,并且可以实施该设置,使得待扫描的受试者可以在进入扫描仪的孔之前使用该系统,从而使他们分心于为图像采集所做的任何准备工作。
在更详细地描述具体特征之前,本文提供方法和可能设置的一般概述。
实现VR系统与MRI扫描仪的兼容性具有挑战性。对于fMRI等应用,非常需要避免静态磁场的局部失真。设置配置为可以开发一种非侵入式、与MR兼容的VR系统,所述系统避免干扰扫描仪的孔内的磁环境,并使用眼部跟踪作为扫描受试者与VR环境的主要接口。方法能够将VR世界带入MRI系统,包括基于注视与VR内容的动态交互。
MRI扫描仪环境中的VR
虚拟现实(VR)技术可以提供一种身临其境的交互式模拟环境,该环境能够例如在可能持续一个小时或更长时间的扫描过程中减少被扫描的受试者所经历的焦虑。虽然VR游戏行业正在蓬勃发展,但用于临床环境的设备仍然相对不成熟。
在MRI扫描仪环境中使用VR技术会出现各种挑战。这些挑战包括,例如,将电子设备置于强磁场中,而要确保设备和成像不受损害。实现与MRI扫描仪的兼容性具有挑战性,并且对于fMRI等应用,非常需要避免静态磁场的局部失真。与提供给受试者的VR环境交互的愿望也带来了进一步的挑战。在许多VR系统中,沉浸感依赖于受试者的运动,例如,头部运动和头部运动跟踪,从而由受试者对所呈现的视觉场景来创建主动控制。鼓励受试者在较小的扫描仪的孔内移动对于MRI应用来说显然是不可取的:所得图像将会缺乏清晰度,并且受试者在孔内进行较大的物理移动根本不可能。虽然VR系统的眼部控制在有限的运动场景中似乎是一种可行的替代方案,但实现稳定的眼部控制的一个挑战是需要纠正头部运动,这通常是通过获得受试者全脸的无障碍视图来实现的。在标准的MRI扫描仪的头部接收器线圈内获得这样的视图通常是不可行的。
设置寻求提供一种非侵入式的兼容于MR的VR系统,所述系统避免干扰扫描仪内的磁环境,并使用眼部追踪作为主要接口以最小化受试者的移动,同时允许控制VR环境。
设置向受试者提供VR系统,其中受试者不使用头部或身体运动来控制提供给受试者的VR环境。虽然可以使用眼部运动和眼部追踪的市售游戏系统,但这些眼部运动通常用于确定对象面向的方向,而不是确定粗略运动或与VR环境的粗略交互。换句话说,大多数VR系统跟踪粗略运动的动作,例如手的挥动、头部跟踪、姿势等,从而驱动对象与虚拟环境的主要交互,而眼部跟踪则用于改进这种交互,而不是用作主要交互或只是作为交互方式。设置可以提供VR系统,其中仅使用眼部运动/眼部追踪来控制受试者与虚拟环境的交互。因此,在受试者身体的物理运动受到约束的情况下,例如,因为受试者已放置在MRI扫描仪的孔中,设置提供了一种控制VR环境并与VR环境交互的机制。
MRI扫描仪兼容性
为了大体上避免对MRI扫描仪内的成像场产生干扰,可以采用各种技术。例如,位于扫描仪的孔内的VR系统元件可以如下选择:不包括磁性或电气破坏性的材料,和/或可能具有磁性或电气破坏性的材料可以在孔内屏蔽或配置以最小化磁性或电气破坏性。特别地:不在孔内提供有源显示装置,例如LCD屏幕,而是可以通过投影和反射镜提供给受试者的视觉输入。类似地,用于跟踪眼部运动的一个或多个传感器,例如摄像机,可以位于距受试者足够远的位置,以减少要捕获的MRI图像中的电磁干扰。这种摄像机还可以包括被屏蔽以避免电磁干扰的MRI兼容摄像机。
创建和维护虚拟现实环境所需的处理设备(计算机和类似设备)可位于扫描仪的孔外。为受试者提供体验所必需的系统元件的尺寸适于在扫描仪的孔内。为受试者提供体验所需的系统元件可以与MRI扫描仪分离,使得受试者在扫描仪的孔外时可以放置在扫描仪台上并沉浸在VR环境中。在一些实施例中,用户设备的尺寸适于在扫描仪的头部线圈、RF线圈或扫描仪的孔内或周围。可以实施这样的设置,使得用另一个线圈(例如,用于心脏检查的线圈)扫描系统。设置可以允许用户设备在受试者放置在MRI扫描仪内的任何地方提供沉浸式视野。也就是说,无论头部或受试者身体的其他部位是否正在由MRI扫描仪成像,都可以提供沉浸式环境。关于头部扫描,设置实施为使得用户设备和其他组件不干扰成像。也就是说,提供它们使得VR系统不会干扰用于成像的磁场。对于使用扫描仪内的磁场对受试者远离头部的身体部位(例如,躯干或下肢)进行成像的情况,确保在受试者的头部设置的VR系统不会干扰对成像来说必不可少的磁场可能比对头部成像的情况更为简单。
图1示出了设计为用于一种可能的设置的光学投影系统。台式计算机和数字投影仪(在所示示例中,Aaxa Technologies,HD Pico)位于装有MRI扫描仪的房间外。这种设置允许在不引起电气干扰的情况下对刺激呈现(stimulus presentation)进行快速原型设计。标准投影仪镜头已被柯达Ektapro Select 87-200mm变焦镜头替代,其布置为通过开放式波导进行投影。安装在非磁性支架上的两个前面的镀银反射镜配置为将投影仪光束引导到MRI扫描仪的孔中。3D打印的塑料设备配置为与飞利浦32通道(Philips 32channel)头部线圈精确匹配,并设置成包括用于散射屏的支架和透明的丙烯酸反射器,在透射中可以看到该散射屏。在所示的设置中,可以使用来自安装在可调节支架上的两个板载MRC 12M-IIR-LED摄像机的实时视频来实现眼睛跟踪。可以对来自实时视频的图像进行评估,并且可以从实时视频中推导出受试者的注视方向。VR系统处理器可以配置为将注视数据转换为用于受试者与虚拟环境交互的控制信号。图1中所示的系统是使用Unity游戏引擎开发的,所述设置提供了基于OpenCV和深度学习库(Dlib和Tensorflow)的跟踪系统。
图1中的系统在3T飞利浦Achieva系统(3T Philips Achieva system)上测试了MRI兼容性,测试方法是使用场回波平面成像(EPI)对球形模和正常志愿者进行成像,其参数取自典型fMRI协议,并检查SNR和几何失真的变化。在没有和有图1所示的完整系统的情况下,SNR或几何失真都没有可检测到的变化。
图2示出了构成VR系统的一部分的用户设备200,该用户设备定位在扫描仪的孔内。如图2所示,用户设备200可以放置在典型的MRI扫描仪的头部线圈上。可以提供这样的设置,其中用户设备200可以与MRI扫描仪的头部设备一体形成。用户设备200可以与MRI扫描仪的其余部分可拆卸地分离,以允许在进入MRI扫描仪之前向受试者提供VR环境。
眼部跟踪
为了为位于扫描仪的孔内的受试者提供与虚拟环境交互的机制,同时避免粗略运动,可以实施允许视线控制的眼部扫描技术,使得眼部扫描可以充当主要输入对象。应当理解,设置可以提供摄像机作为可定位在扫描仪的孔内的用户设备的一部分。那些摄像机可定位成使得它们的整个视场基本上由受试者的眼部图像占据。摄像机可以位于扫描仪的头部线圈外部,并且放置成不会损害成像性能。应当理解,通常十分靠近成像对象放置的诸如透镜之类的物理对象会导致fMRI和扩散成像中的信号丢失和/或失真。
由于在MRI扫描仪的头部线圈中,受试者的头部运动相对受限,根据设置的眼部和视线扫描技术主要关注眼部运动,而不需要考虑或纠正受试者头部的粗略运动。一些设置可以使得受试者的眼部图像可用于确定头部运动。然后,可以使用该头部运动来校正或补偿获得的MRI图像。
一些设置可以提供手动操作按钮等元件,通过添加到主要眼部跟踪的手段来增加对虚拟环境的控制和与虚拟环境的交互。这样的控制器可以例如包括:按钮、操纵杆和/或小手势跟踪。
图3示意性地示出了注视跟踪的校准过程的主要组成。根据一些设置,视线估计是通过瞳孔跟踪结合可变形眼睛形状跟踪来实现的,可变形眼睛形状跟踪基于每只眼睛的6个标志形状(6-landmark shape)描述符来实现头部姿势补偿[1]。图3中列出的标志用于指导基于自适应密度的瞳孔跟踪算法的应用。在屏幕空间校准程序之后,瞳孔眼角特征向量(Pupil-eye-corner feature vectors)回归到屏幕上的注视点上。头部姿势的变化可以从眼角的位移中估计出来,并用于提供运动补偿。一些设置提供了交互式注视目标,从而提供受试者反馈并改善与目标的整体结合。例如,交互式注视目标包括:在受试者的视线与目标保持接触时改变或演变的图标。这种基于一致注视模式向受试者提供连续且即时的明显反馈的设置有助于VR系统的使用,该VR系统中视线控制是受试者与虚拟环境交互的主要输入。
图3示出了典型的眼部图像,其中叠加了关键标志和校准数据;单个受试者的视线准确度和精确度数据如图2所示。沉浸式内容是通过集成校准程序和随后使用视线控制生成的,并已在志愿者身上进行了测试。所述系统提供了一种可以由受试者交互控制的强烈沉浸式视觉体验。
已经发现图3的设置具有与“典型”参考系统相当的性能,并且随着时间的推移,偏离性能衡量标准的程度更小。具体地,具有符合图3概述的视线控制的VR系统在成人和儿童身上进行了性能测试,并且使用Tobii[2]设置的指标将所实现的视线测量与Tobii 4C游戏眼动仪系统进行了比较。两个系统均使用相匹配的校准和测试条件。为了校准,受试者注视屏幕目标并记录相应的瞳孔位置。精确度和准确度测试包括受试者将其视线固定在连续的8个目标标记上,并对检测到的每个目标的注视位置进行10秒的记录。延迟2分钟后重复此测试,以检查性能是否有任何偏差。
表1
表1包括根据关于图3和图4阐述的方法操作的视线跟踪器的性能比较,并且其根据诸如图2所示的用户设备实现。特别地,摄像机和眼部跟踪与放置在MRI头部线圈中的受试者联系在一起。使用Tobii提出的指标将性能与Tobii 4C商业游戏系统进行比较。请注意,所有距离都表示为屏幕上目标圆周半径的小部分,以消除屏幕尺寸差异带来的任何影响。
沉浸性
设置配置为提供给受试者沉浸式虚拟环境可能是有益的。换句话说,受试者的一种或多种感官可能会被诱骗以相信虚拟环境可以替代受试者周围的物理环境(即,MRI扫描仪)。在这方面,可以通过提供给受试者的虚拟环境内的适当配置来解决各种感官问题。MRI扫描仪应用中的主要感官是:视觉、听觉和触觉。可以提供各种方法来确保受试者在虚拟环境和真实物理环境中任何可能对受试者而言是显而易见的方面之间的体验一致性。
在一些设置中,研究中的受试者可以沉浸在虚拟环境中,同时物理上远离扫描仪,因此他们无需面对令人焦虑的幽闭恐惧症威胁。
在一些设置中,受试者的整个视觉体验由虚拟环境提供。也就是说,对象的整个视野都可以由虚拟环境提供。任何不属于虚拟环境的区域都被遮蔽或阻挡,使得受试者无法看到他们周围的物理环境。例如,可以提供包括虚拟场景的头部设备,但是任何不属于所创建的虚拟场景的区域都会被屏幕或其他障碍物阻挡,从而确保受试者看不到实际的物理环境。在一些设置中,由系统提供完整的视觉刺激,包括确保受试者的周边视觉不允许受试者交互于和看到他们所在的实际物理环境。也就是说,设置可以提供受试者的周边视觉的阻挡,和/或将周边视觉信息设置为受试者创建的虚拟环境的一部分。
传感器,例如可以是陀螺仪和/或加速度计式传感器的运动传感器,可以设置在头部设备上,或设置在可定位受试者的桌子上,使得受试者在他们周围的物理环境中所经历的任何物理运动都可以与虚拟环境中明显的运动相适应并相一致。例如,受试者进入扫描仪的孔的移动可以被检测到,并且虚拟环境可以寻求向虚拟环境内的受试者提供类似的“移动/滑入”视觉体验。
可以提供噪声传感器,例如麦克风,使得任何存在于受试者周围的物理环境中的噪音都可以通过创建的虚拟环境中的因素来适应和“解释”。例如,MRI扫描仪的噪声可能很大并且可能干扰受试者。为虚拟环境内的MRI扫描仪的噪声提供“解释”可以帮助受试者忘记他们的真实物理环境。例如,MRI扫描仪的噪声可能由虚拟环境中的聒噪事件(loudevent)“提供”,例如使用风钻、在建筑工地工作、交通的隆隆声等。
根据一些设置,“真实”环境和虚拟环境之间的一致性是通过创建对应于外部感知的“真实”声音环境的视觉特征来实现的。尽管MRI受试者通常佩戴耳罩,但通常不可能完全消除外部声音。因此,设置可以设法使提供给受试者的虚拟环境具有可识别的视觉特征,用于使感知到的声音变得可解释。例如,可以将带有风钻的虚拟道路挖掘机加入虚拟环境中,以“解释”MRI扫描仪在运行时发出的噪音。
一些设置提供这样的机制,通过该机制提供对受试者所经历的完整视觉和听觉场景的控制,并且连同传感器一起提供关于受试者如何与系统提供的虚拟环境交互的信息(对其注视位置或其他生理传感器进行主动控制和被动观察)。这种设置在提供用于fMRI(功能性MRI)研究的特殊信息方面具有特别的用途和应用。例如,该系统可以配置为将受试者暴露于复杂场景,并且可以通过眼部跟踪知道受试者关注复杂场景的哪个部分以及何时出现该关注,并将该信息与获取的图像相关联。
受试者安心感
设置认识到,处于MRI扫描仪的孔内可能对受试者产生挑战,而通过提供具有更少的空间限制和/或更少的恐怖感的替代现实来分散注意力,这可以帮助获取清晰和有用的MRI图像。一些设置配置为通过在虚拟环境中提供已知的“第三人”来进一步提高受试者的舒适度和安心感。例如,一些设置允许在提供给受试者的虚拟环境内出现第三人(例如,护理人员或父母)的化身图像或视频图像。该人可以在视觉上和听觉上提供给受试者。根据本设置的VR系统可以包括摄像机、麦克风和扫描仪的孔外的“绿屏”,使得可以在虚拟环境内提供第三人的真实图像。第三人能够看到提供给受试者的虚拟环境,并且能够通过虚拟环境与扫描仪的孔内的受试者进行对话互动。因此,由于虚拟环境中父母在视觉和听觉上的存在,孩子可以感到安心。由于虚拟环境中的护理人员的存在,年长的或无行为能力的人也可以类似地感到安心。
讨论
所描述的设置展示了将沉浸式VR世界成功引入MRI系统的能力。设置可以提供与基于视线的VR内容的动态交互。根据本设置的视线跟踪可以具有与当前最好的商业游戏的眼动仪竞争的性能。位于扫描仪的孔内的用户设备的非侵入性和非接触式设计使得在扫描之前都不需要任何的准备工作(例如将标记粘贴到受试者的脸上),从而允许受试者控制与虚拟环境的交互,和/或允许根据眼角的运动推断来计算受试者头部的任何运动。本设置在以下两个临床领域都有应用:与觉得MRI压力大的受试者(例如,患有幽闭恐惧症的受试者或儿童)相关的临床领域,以及与神经科学研究相关的临床领域,神经科学研究能够提供与收集的图像数据相关的运动校正[3]。
尽管本文已经参照附图详细公开了本发明的说明性实施例,但是应当理解,本发明不受限于精确的实施例,并且在不脱离由所附权利要求及其等同物限定的本发明的范围的情况下,本领域技术人员可以在其中进行各种改变和修改。
VR系统使用
图5示出了一个受试者被放置在MRI扫描仪的孔中;当受试者在包含MRI扫描仪的房间外时,一些设置允许受试者进入到VR系统中和MRI扫描仪台上。因此,VR系统的沉浸性可用于减轻受试者在进入由MRI扫描仪的孔提供的较小物理空间时可能经历的任何焦虑或不适。
图6示出了根据一种设置提供给MRI扫描仪的孔中的受试者的虚拟环境的视觉元素的屏幕截图。在所示的示例中,向受试者显示了一些元素,受试者可以通过适当的眼部运动与这些元素进行交互。
关于MRI扫描仪环境中的VR的进一步评述
如上所述,本方面认识到在MRI扫描仪环境中使用VR技术会出现各种挑战。具体地,本设置寻求向受试者提供VR系统,其中受试者不使用明显的头部或身体运动来控制所提供的VR环境。此外,通过提供与受试者从现实世界接收到的一种或多种感觉或刺激相一致的视觉和听觉刺激,本设置寻求限制受试者想要进行大幅度移动的想法的程度。这种刺激包括例如与视觉、身体运动和声音有关的感觉。
一些设置认识到将受试者放置在MRI台上可能需要他们处于仰卧位。例如,当受试者躺在台上时,仰卧的感觉对受试者来说是显而易见的,并且向受试者提供考虑到该仰卧位的初始视觉VR输入可以让受试者放松并感觉更舒适。类似地,当所述台移动到扫描仪的孔中时,很可能从他们身体接收到的刺激中明显看出他们正在移动。向受试者提供考虑由MRI扫描仪产生的运动和/或振动的视觉VR输入,这可以让受试者放松并感觉更舒适,并且开始产生完全沉浸在虚拟环境中的感觉。
在这种情况下,运动传感器可以安装在受试者的支架上,运动传感器向VR系统提供一个或多个信号,使得虚拟环境中的视觉刺激可以与真实世界中受试者正在经历的MRI扫描仪组件的总体运动相匹配。在一些设置中,可以使用对MRI扫描仪的房间内或扫描仪的孔内的受试者的实时视频流的分析来提供受试者正在经历的可能刺激的指示。
类似地,提供给受试者的虚拟环境中的音频可以考虑在受试者周围的真实环境中发生的音频刺激。因此,VR系统可以包括一个或多个音频传感器或麦克风,其提供为捕获受试者由于周围环境而体验到的音频信号。VR系统可以配置为匹配音频和/或视觉信号以通过VR输出提供给对象,VR输出考虑了真实世界的运动和/或声音。
所述系统配置为向受试者提供虚拟环境,该虚拟环境促使受试者保持基本静止,从而在捕获MRI图像时防止或减少受试者的移动。防止受试者的一个或多个肢体的粗略身体运动有助于从MRI扫描仪捕获有用的图像。所述系统可以配置为提供虚拟环境,在虚拟环境中,受试者自然地移动他们的眼睛而不是整个头部或身体,从而与虚拟环境交互。
关于MRI扫描仪兼容性的进一步评述
如上所述,为了最大程度地确保扫描仪的孔内的场不被破坏,根据本设置的系统可以包括各种减轻特征和方法。例如,位于扫描仪的孔内的VR系统元件可以如下选择:不包括磁性或电气破坏性的材料,和/或可能具有磁性或电气破坏性的材料可以在孔内屏蔽或配置以最小化磁性或电气破坏性。具体地,可与患者头部设备搭配使用屏蔽式主动显示装置,例如液晶屏,因此,有可能在准备进入MRI扫描仪的同时将受试者放置在虚拟环境中,并使用该系统来伪装或掩饰受试者进入MRI扫描仪中的窄孔的情境。特别地,关于靠近受试者头部放置的VR系统的组件,所述系统的光学器件可以被布置、定位或配置为不能太靠近受试者头部。因此,可以防止对通过MRI技术头部成像的破坏和失真。如上所述,用于跟踪眼部运动的一个或多个传感器,例如摄像机,可以位于距受试者足够远的位置,以减少要捕获的MRI图像中的电磁干扰。这种摄像机还可以包括被屏蔽的MRI兼容摄像机以避免电磁干扰。固定或提供VR系统的元件使得它们在受试者周围保持基本静止可以允许受试者不被干扰地沉浸在虚拟环境中。
当然,创建和维护虚拟现实环境所需的处理设备(计算机和类似设备)可依然位于扫描仪的孔外。为受试者提供体验所必需的系统元件的尺寸适于在扫描仪的孔内。
关于功能性MRI的进一步评述
如前所述,受试者的头部运动在MRI扫描仪的头部线圈中时相对受限。事实上,限制头部运动是必要的,从而确保从系统获得的图像清晰有用。监测受试者的眼瞳或其他可识别眼睛特征(例如眼框位置)的运动可以允许系统计算受试者头部可能的粗略运动,然后将计算出的运动推断提供给MRI图像捕获系统,以便可以在得到的捕获的MRI图像中进行适当的校正。
在任何情况下,在VR系统内,监控受试者眼部的运动允许在使用系统时调整提供给受试者的视觉材料。此外,受试者眼部的运动可以用作受试者与VR环境交互的主要模式。因此,受试者在VR环境中所做的选择会受到受试者眼部的运动的影响。本设置可以提供关于虚拟环境和VR系统的信息,例如,关于受试者做出的选项或选择的信息可以提供给MRI系统。因此,可以促进对受试者大脑内功能性系统的研究。
此外,由于VR系统可以配置为允许受试者另外通过语言控制和/或通过较小的手部移动(例如,按下按钮或通过跟踪手或手指的移动)与系统交互。应该认识到,VR环境中的受试者所做的选择可能会受到言语交互或手动交互的影响,因此,一些设置可以向MRI系统提供关于虚拟环境和VR系统的信息,以及例如关于受试者做出的选项或选择的信息。因此,可以促进对受试者大脑内的功能性系统的研究,例如,那些由做出选择的需要、或发出声音或移动肢体的需要而触发的功能性系统。
关于眼部跟踪的进一步评述
如前所述,实施方式为位于扫描仪的孔内的受试者与虚拟环境交互提供了一种机制,同时不鼓励粗略运动动作。根据实施方式的眼部扫描技术允许进行对象视线控制,使得视线充当主要输入对象。实施方式可以允许视觉传播跟踪(optical flow tracking)。该系统可以配置为实现对象视线的渐进、自适应校准。因此,一些实施方式操作为,当受试者使用视线控制做出选择和/或向VR系统提供输入时,检测到的瞳孔和/或头部位置与已知的“目标”位置相关,已知的“目标”位置即与受试者交互的虚拟环境中的特征。检测到的瞳孔位置与目标之间的相关性可用于系统校准步骤,允许系统更新用于将受试者的瞳孔位置转换为注视点的眼部跟踪模型。眼睛、瞳孔和/或头部位置的监测以及与目标位置的相关性可以在受试者与VR环境的整个交互过程中重复进行。这种持续校准有助于实现鲁棒且稳定的视线跟踪系统。
虚拟环境的沉浸性和配置
设置配置为提供给受试者沉浸式虚拟环境可能是有益的。换句话说,受试者的一种或多种感官可能会被诱骗以相信虚拟环境可以替代受试者周围的物理环境(即,MRI扫描仪)。在这方面,该系统可以在设置中允许通过提供给受试者的虚拟环境内的适当配置来解决各种感官问题。MRI扫描仪应用中的主要感官是:视觉、听觉和触觉。可以提供各种方法来确保受试者在虚拟环境和真实物理环境中任何可能对受试者而言是显而易见的方面之间的体验一致性。
视觉输入
在一些设置中,受试者的整个视觉体验由虚拟环境提供。也就是说,受试者的整个视野都可以由虚拟环境提供。任何不属于虚拟环境的区域都被遮蔽或阻挡,使得受试者无法看到他们周围的物理环境。在这方面,系统可以减少或防止无意中暴露于周边视觉线索,其可能使得受试者察觉到周围的真实世界环境。
本设置认识到在向位于MRI扫描仪的孔内的受试者提供合适的VR环境时可能会出现各种物理困难。特别是,典型的VR头戴设备非常靠近用户的头部,并且围绕用户的头部。许多系统,即使是将手机用作屏幕的系统,也可以直接安装到用户的头部或身体上,因此可以使用头部设备或手机中的传感器(例如,加速度计等传感器)轻松跟踪用户的移动。将屏幕放置在靠近用户眼睛的位置可以确保向用户提供合适的三维VR图像,并且基本上可以控制和考虑提供给用户的整个视觉环境。在电影院或家庭影院的场景中,向用户提供3D图像的屏幕通常位于距用户一定距离的位置。电影院和家庭用户通常佩戴特定的眼镜,例如主动式快门眼镜或具有彩色镜片的眼镜,以允许用户成功处理三维成像。因为这些物品可能对磁场造成局部干扰和/或可能对进行长时间扫描的受试者造成干扰或不舒适,所以在MRI扫描仪的孔内,用户无法直接使用这两个选项:不希望像VR头部设备那样将屏幕靠近受试者的眼睛,也不能提供合适的眼镜。
一些设置配置为向可定位在MRI内的受试者提供立体图像。该系统可以包括立体彩色滤光片,其定位成允许受试者查看由视觉显示装置提供给受试者的立体图像。立体滤光片与扫描仪中受试者的眼睛间隔开,以确保不会对局部静磁场造成干扰,并使系统对受试者的干扰最小。
音频输入
可以提供一个或多个麦克风以检测用户正在体验的声音。该系统可以配置为识别MRI环境内通常经历的噪声并在虚拟环境内提供与MRI扫描仪内经历的声音相一致的响应。该系统可以包括一个或多个扬声器,其可以增加受试者的声音体验。因此,系统可以配置成向现实世界环境中发生的声音提供虚拟环境“覆盖”声音。在一些设置中,麦克风和扬声器设置可以使得真实世界的噪声消除可以在虚拟环境内发生。
运动
传感器,例如可以是陀螺仪和/或加速度计式传感器的运动传感器,可以设置在头部设备上,或设置在可定位受试者的桌子上,使得受试者在其周围的物理环境中所经历的任何物理运动都可以与提供给受试者的音频和视频材料相适应并相一致。例如,受试者在现实世界中经历的振动可能导致在虚拟环境中提供给受试者的视觉和/或音频材料的失真或“振动”。
关于受试者安心感的进一步评述
该系统可以配置为向MRI扫描仪的孔外的用户或观众提供MRI扫描仪的孔内的受试者正在经历的虚拟环境的指示或复制。向例如位于扫描仪外部的护理人员、监督者、MRI扫描仪操作者或父母提供虚拟环境可以允许在此人和位于扫描仪的孔内的受试者之间进行虚拟环境的音频交互。这种音频交互可以帮助让扫描仪内的受试者感到安心。
头部设备适配
图7示出了形成VR系统的一部分的用户设备700,该用户设备形成头部设备的一部分,或者可改装到现有的MRI扫描仪的头部设备,并且尺寸设计为可位于MRI扫描仪的孔内。用户设备可以由与MRI扫描兼容并且最小化对MRI场的干扰的组件构成。如图7所示,用户设备700可以定位在典型的MRI扫描仪的头部线圈上。可以提供这样的设置,其中用户设备700可以与MRI扫描仪的头部设备一体形成。用户设备700可以与MRI扫描仪的其余部分可拆卸地分离,以允许在进入MRI扫描仪之前(例如,准备进入时)向受试者提供VR环境。
图8是形成如图7所示的用户设备内部结构的一些主要组件的等轴测图。用户设备800位于MRI扫描仪的头部设备860上。用户设备位于受试者眼睛开口850上方,从而可以控制提供给受试者的视觉输入。在所示示例中,VR系统配置为通过散射屏810向观察镜820投射图像,观察镜820将光导向位于头部设备870内的受试者。用户设备800包括屏障870,其阻挡位于头部设备860内的受试者的每只眼睛的视角,并且允许控制从系统到受试者的每只眼睛的视觉输入。当使用视差立体技术(anaglyph techniques)时,这种逐眼视觉控制可能特别有用,因为可以将适合每只眼睛的滤光器和/或镜片放置在支架830中。用户设备800包括支架840,其中可以放置摄像机或其他传感器以使得能够通过眼睛开口850监测受试者的眼部运动。
参考文献
[1]Kazemi,Vahid,and Josephine Sullivan."One millisecond facealignment with an ensemble of regression trees."Proceedings of the IEEEConference on Computer Vision and Pattern Recognition.2014.
[2]Tobii Technology(2015),"Tobii Accuracy and Precision Test Methodfor Remote Eye Trackers,"https://stemedhub.org/resources/3310.
[3]Bohil,Corey J.,Bradly Alicea,and Frank A.Biocca."Virtual realityin neuroscience research and therapy."Nature reviews neuroscience 12.12(2011):752.
Claims (21)
1.与MRI扫描仪兼容的虚拟现实系统,所述系统包括:
位于MRI扫描仪的孔内的用户设备,所述用户设备配置为向受试者提供沉浸式虚拟环境;
所述系统还包括:
至少一个传感器,其配置为跟踪所述受试者的眼部运动;
其中所述受试者与所述沉浸式虚拟环境的交互由跟踪的眼部运动控制。
2.根据权利要求1所述的系统,其中所述用户设备的元件由不影响MRI扫描仪的孔内的磁场的材料构成。
3.根据权利要求1或2所述的系统,其中磁性或电气破坏性的所述虚拟现实系统的元件位于扫描仪的孔外。
4.根据前述权利要求中任一项所述的系统,其中通过包括投影仪和一个或多个反射镜的光学系统,用于提供沉浸式虚拟环境的视觉输入从扫描仪的孔外传送到所述受试者。
5.根据前述权利要求中任一项所述的系统,其中配置为跟踪受试者的眼部运动的至少一个传感器包括形成所述用户设备的一部分的至少一个摄像机,并且其中所述摄像机位于所述用户设备上,与放置在所述用户设备中的受试者相距一距离,该距离选择为减少通过使用扫描仪的孔捕获的MRI图像中的电磁干扰。
6.根据前述权利要求中任一项所述的系统,其中创建所述虚拟现实环境所需的处理设备位于扫描仪的孔外。
7.根据前述权利要求中任一项所述的系统,其中所述用户设备的尺寸适于在扫描仪的孔内。
8.根据前述权利要求中任一项所述的系统,其中所述虚拟现实系统的一个或多个元件与MRI扫描仪可拆卸地分离。
9.根据前述权利要求中任一项所述的系统,其中所述受试者与所述沉浸式虚拟环境的交互主要由跟踪的眼部运动控制。
10.根据前述权利要求中任一项所述的系统,其中所述用户设备包括位于用户设备内的一个或多个限制器,用于限制受试者的头部运动。
11.根据前述权利要求中任一项所述的系统,其中所述跟踪的眼部运动包括通过瞳孔跟踪实现的视线估计。
12.根据前述权利要求中任一项所述的系统,其中所述跟踪的眼部运动包括可变形眼睛形状跟踪。
13.根据前述权利要求中任一项所述的系统,其中所述跟踪的眼部运动包括具有头部姿态补偿的瞳孔跟踪。
14.根据前述权利要求中任一项所述的系统,其中所述跟踪的眼部运动包括根据由传感器获得的图像确定受试者的头部运动,并且其中所述系统配置为使用所确定的头部运动来校正或补偿由MRI扫描仪获得的MRI图像。
15.根据前述权利要求中任一项所述的系统,其中基于从传感器捕获的受试者的眼部的一幅或多幅图像确定的眼角位移,估计受试者头部姿势的变化,并且其中所述变化用于提供运动补偿。
16.根据前述权利要求中任一项所述的系统,其中所述系统配置为向受试者提供交互式注视目标,从而提供受试者反馈并改善与目标的整体结合。
17.根据权利要求16所述的系统,其中所述交互式注视目标包括在受试者的视线确定为与注视目标保持接触时改变或演变的图标。
18.根据前述权利要求中任一项所述的系统,其中所述沉浸式虚拟环境与受试者所体验的物理环境一致。
19.根据前述权利要求中任一项所述的系统,其中所述用户设备包括声音传感器,所述声音传感器配置为向系统提供输入,使得形成虚拟环境的一部分的听觉景观包括扫描仪的孔内的听觉景观的主要元素。
20.根据前述权利要求中任一项所述的系统,其中所述用户设备包括一个或多个运动传感器,所述运动传感器配置为向系统提供输入,使得形成虚拟环境的一部分的视觉景观与扫描仪的孔内的受试者所经历的运动一致。
21.根据前述权利要求中任一项所述的系统,其中所述系统包括声音和图像传感器,其配置为向系统提供关于位于扫描仪的孔外的当事方的信息,并且将所述当事方添加到虚拟环境中以与受试者交互。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
GBGB1905847.8A GB201905847D0 (en) | 2019-04-26 | 2019-04-26 | MRI scanner-compatible virtual reality system |
GB1905847.8 | 2019-04-26 | ||
PCT/GB2020/051021 WO2020217068A1 (en) | 2019-04-26 | 2020-04-24 | Mri scanner-compatible virtual reality system |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113811782A true CN113811782A (zh) | 2021-12-17 |
Family
ID=66809248
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202080031488.8A Pending CN113811782A (zh) | 2019-04-26 | 2020-04-24 | 与mri扫描仪兼容的虚拟现实系统 |
Country Status (6)
Country | Link |
---|---|
US (1) | US12000912B2 (zh) |
EP (1) | EP3959528A1 (zh) |
JP (1) | JP2022529730A (zh) |
CN (1) | CN113811782A (zh) |
GB (1) | GB201905847D0 (zh) |
WO (1) | WO2020217068A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114795181A (zh) * | 2022-06-23 | 2022-07-29 | 深圳市铱硙医疗科技有限公司 | 辅助儿童适应核磁共振检查的方法及装置 |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022146510A1 (en) * | 2020-12-28 | 2022-07-07 | The Regents Of The University Of California | Display systems and methods for a surface lying person |
EP4114042A1 (en) * | 2021-06-29 | 2023-01-04 | Koninklijke Philips N.V. | Immersive audio in medical imaging and interventions |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20090010510A1 (en) * | 2007-07-04 | 2009-01-08 | Siemens Aktiengesellschaft | MR-compatible video system |
CN101950200A (zh) * | 2010-09-21 | 2011-01-19 | 浙江大学 | 基于摄像头的眼球控制游戏地图和角色移动的方法和装置 |
CN102805638A (zh) * | 2011-06-01 | 2012-12-05 | 西门子公司 | 控制医疗设备的方法、具有医疗设备的装置和数据载体 |
CN103596494A (zh) * | 2011-06-10 | 2014-02-19 | 皇家飞利浦有限公司 | 具有运动检测的医学成像系统 |
WO2014178091A1 (en) * | 2013-05-03 | 2014-11-06 | I.R.C.C.S. Fondazione Santa Lucia, Istituto Di Ricovero E Cura A Carattere Scientifico | Integrated unit for audio-visual stimulation and eye movement recording for functional magnetic resonance imaging |
CN104391567A (zh) * | 2014-09-30 | 2015-03-04 | 深圳市亿思达科技集团有限公司 | 一种基于人眼跟踪的三维全息虚拟物体显示控制方法 |
CN106990843A (zh) * | 2017-04-01 | 2017-07-28 | 维沃移动通信有限公司 | 一种眼睛跟踪系统的参数校准方法及电子设备 |
WO2017182596A1 (en) * | 2016-04-22 | 2017-10-26 | Carl Zeiss Meditec, Inc. | System and method for visual field testing |
US20170326333A1 (en) * | 2014-03-06 | 2017-11-16 | Virtual Reality Medical Applications, Inc. | Virtual Reality Medical Application System |
CN207516642U (zh) * | 2017-11-20 | 2018-06-19 | 李安晖 | 一种智能vr头盔 |
CN108874157A (zh) * | 2018-09-07 | 2018-11-23 | 广州医科大学附属肿瘤医院 | 一种适用于mri的vr设备及其虚拟现实交互方法 |
CN109426336A (zh) * | 2017-08-27 | 2019-03-05 | 南京乐朋电子科技有限公司 | 一种虚拟现实辅助选型设备 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060209257A1 (en) * | 2005-03-17 | 2006-09-21 | Paul Bullwinkel | Integral viewing and eye imaging system for visual projection systems |
US9545217B2 (en) | 2008-04-17 | 2017-01-17 | The United States Of America, As Represented By The Secretary, Department Of Health And Human Services | Movement correction in MRI using a camera |
US20100234722A1 (en) | 2009-03-13 | 2010-09-16 | Milan Trcka | Interactive mri system |
RU2621633C2 (ru) | 2011-10-28 | 2017-06-06 | Мэджик Лип, Инк. | Система и способ для дополненной и виртуальной реальности |
US9787750B2 (en) * | 2011-12-31 | 2017-10-10 | Resonance Technology, Inc. | Universal interface system for MRI applications |
CN109008972A (zh) | 2013-02-01 | 2018-12-18 | 凯内蒂科尔股份有限公司 | 生物医学成像中的实时适应性运动补偿的运动追踪系统 |
US9829547B2 (en) | 2014-05-08 | 2017-11-28 | Resonance Technology, Inc. | Head-up display with eye-tracker for MRI applications |
US9563805B2 (en) * | 2014-09-02 | 2017-02-07 | Hong Kong Baptist University | Method and apparatus for eye gaze tracking |
-
2019
- 2019-04-26 GB GBGB1905847.8A patent/GB201905847D0/en not_active Ceased
-
2020
- 2020-04-24 CN CN202080031488.8A patent/CN113811782A/zh active Pending
- 2020-04-24 US US17/606,519 patent/US12000912B2/en active Active
- 2020-04-24 EP EP20723500.3A patent/EP3959528A1/en active Pending
- 2020-04-24 WO PCT/GB2020/051021 patent/WO2020217068A1/en unknown
- 2020-04-24 JP JP2021562923A patent/JP2022529730A/ja active Pending
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20090010510A1 (en) * | 2007-07-04 | 2009-01-08 | Siemens Aktiengesellschaft | MR-compatible video system |
CN101950200A (zh) * | 2010-09-21 | 2011-01-19 | 浙江大学 | 基于摄像头的眼球控制游戏地图和角色移动的方法和装置 |
CN102805638A (zh) * | 2011-06-01 | 2012-12-05 | 西门子公司 | 控制医疗设备的方法、具有医疗设备的装置和数据载体 |
CN103596494A (zh) * | 2011-06-10 | 2014-02-19 | 皇家飞利浦有限公司 | 具有运动检测的医学成像系统 |
WO2014178091A1 (en) * | 2013-05-03 | 2014-11-06 | I.R.C.C.S. Fondazione Santa Lucia, Istituto Di Ricovero E Cura A Carattere Scientifico | Integrated unit for audio-visual stimulation and eye movement recording for functional magnetic resonance imaging |
US20170326333A1 (en) * | 2014-03-06 | 2017-11-16 | Virtual Reality Medical Applications, Inc. | Virtual Reality Medical Application System |
CN104391567A (zh) * | 2014-09-30 | 2015-03-04 | 深圳市亿思达科技集团有限公司 | 一种基于人眼跟踪的三维全息虚拟物体显示控制方法 |
WO2017182596A1 (en) * | 2016-04-22 | 2017-10-26 | Carl Zeiss Meditec, Inc. | System and method for visual field testing |
CN106990843A (zh) * | 2017-04-01 | 2017-07-28 | 维沃移动通信有限公司 | 一种眼睛跟踪系统的参数校准方法及电子设备 |
CN109426336A (zh) * | 2017-08-27 | 2019-03-05 | 南京乐朋电子科技有限公司 | 一种虚拟现实辅助选型设备 |
CN207516642U (zh) * | 2017-11-20 | 2018-06-19 | 李安晖 | 一种智能vr头盔 |
CN108874157A (zh) * | 2018-09-07 | 2018-11-23 | 广州医科大学附属肿瘤医院 | 一种适用于mri的vr设备及其虚拟现实交互方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114795181A (zh) * | 2022-06-23 | 2022-07-29 | 深圳市铱硙医疗科技有限公司 | 辅助儿童适应核磁共振检查的方法及装置 |
CN114795181B (zh) * | 2022-06-23 | 2023-02-10 | 深圳市铱硙医疗科技有限公司 | 辅助儿童适应核磁共振检查的方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
WO2020217068A1 (en) | 2020-10-29 |
EP3959528A1 (en) | 2022-03-02 |
US20220349963A1 (en) | 2022-11-03 |
JP2022529730A (ja) | 2022-06-23 |
GB201905847D0 (en) | 2019-06-12 |
US12000912B2 (en) | 2024-06-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7283506B2 (ja) | 情報処理装置、情報処理方法、及び情報処理プログラム | |
US20230029639A1 (en) | Medical device system for remote monitoring and inspection | |
CN106796344B (zh) | 锁定在感兴趣对象上的放大图像的系统、布置和方法 | |
US20190333480A1 (en) | Improved Accuracy of Displayed Virtual Data with Optical Head Mount Displays for Mixed Reality | |
CN104603673B (zh) | 头戴式系统以及使用头戴式系统计算和渲染数字图像流的方法 | |
KR101988110B1 (ko) | 생체신호연동 가상현실 교육 시스템 및 방법 | |
CN113811782A (zh) | 与mri扫描仪兼容的虚拟现实系统 | |
WO2012160741A1 (ja) | 視覚疲労度測定装置、その方法、視覚疲労度測定システムおよび3次元メガネ | |
Hennessey et al. | Noncontact binocular eye-gaze tracking for point-of-gaze estimation in three dimensions | |
US11372479B2 (en) | Multi-modal vision enhancement system | |
KR20180045278A (ko) | 생체신호연동 가상현실 인지재활 시스템 | |
CN112313969A (zh) | 基于监视到的针对音频内容的响应定制头部相关传递函数 | |
US11523240B2 (en) | Selecting spatial locations for audio personalization | |
JPWO2012081194A1 (ja) | 医療支援装置、医療支援方法および医療支援システム | |
CN117043714A (zh) | 用于腕带系统的分体式结构及相关的设备和方法 | |
US11570426B2 (en) | Computer-readable non-transitory storage medium, web server, and calibration method for interpupillary distance | |
US20180261146A1 (en) | Video glasses | |
US20170127942A1 (en) | Ophthalmic examination system | |
JP2011212430A (ja) | 視覚認知検査システム、訓練システムおよび支援システム | |
JP2017134558A (ja) | 情報処理装置、情報処理方法、およびプログラムを記録したコンピュータ読み取り可能な記録媒体 | |
CN112506336A (zh) | 具有触觉输出的头戴式显示器 | |
JP2017191546A (ja) | 医療用ヘッドマウントディスプレイ、医療用ヘッドマウントディスプレイのプログラムおよび医療用ヘッドマウントディスプレイの制御方法 | |
Cox Jr | An initial investigation of the auditory egocenter: evidence for a" cyclopean ear" | |
Wu et al. | Launching your VR neuroscience laboratory | |
WO2022091832A1 (ja) | 情報処理装置、情報処理システム、情報処理方法、および情報処理端末 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |