CN108279781A - 在再现环境下控制对用户的影响 - Google Patents

在再现环境下控制对用户的影响 Download PDF

Info

Publication number
CN108279781A
CN108279781A CN201810179039.2A CN201810179039A CN108279781A CN 108279781 A CN108279781 A CN 108279781A CN 201810179039 A CN201810179039 A CN 201810179039A CN 108279781 A CN108279781 A CN 108279781A
Authority
CN
China
Prior art keywords
user
feedback
report
emotional state
signal data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810179039.2A
Other languages
English (en)
Other versions
CN108279781B (zh
Inventor
D.布罗肯
T.J.W.蒂斯
J.H.詹森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips Electronics NV filed Critical Koninklijke Philips Electronics NV
Publication of CN108279781A publication Critical patent/CN108279781A/zh
Application granted granted Critical
Publication of CN108279781B publication Critical patent/CN108279781B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/015Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/01Indexing scheme relating to G06F3/01
    • G06F2203/011Emotion or mood input determined on the basis of sensed human body parameters such as pulse, heart rate or beat, temperature of skin, facial expressions, iris, voice pitch, brain activity patterns

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Dermatology (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Neurology (AREA)
  • Neurosurgery (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • User Interface Of Digital Computer (AREA)
  • Feedback Control In General (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)

Abstract

一种在再现环境下控制对用户(14)的影响的方法包括:响应于再现环境的系统反馈(13)造成的影响而获得代表用户(14)的一个或多个生理条件的信号数据(16);获得与用户希望的情绪状态(19,20;32‑36)相应的数据,所述数据基于用户的自我报告和代表伴随的信号数据(16)的数据,所述伴随的信号数据代表用户(14)在伴随的自我报告之前的最后时段内的一个或多个生理条件;‑ 确定是否达到希望的情绪状态(19,20;32‑36);以及如果没有达到该状态(19,20;32‑36),则相应地适应性调节再现环境提供的系统反馈(16)。

Description

在再现环境下控制对用户的影响
技术领域
本发明涉及一种在再现环境下控制对用户的影响的方法。本发明还涉及一种用于控制情绪自适应系统的装置。
本发明还涉及一种计算机程序。
背景技术
Saari, T. et al., “Emotional regulation system for emotionallyadapted games”, Proceedings of FuturePlay 2005 conference, 13.-15.10. 2005,Michigan State University, USA涉及一种基于用户控制的情绪调控系统建立情绪适应游戏的方法。它公开了用于在游戏引擎中包括情绪调控的系统设计。该引擎连续地监控用户的输入。该输入数据然后经过处理并且传输到处理游戏的内部逻辑状态的层。所提出的情绪调控可以实现为与实际游戏引擎并行运行的中间件系统。游戏引擎的输入处理层可以接收捕获的和预处理的生物反馈传感器数据的数据流。实时信号处理可以包括对生物反馈信号的不同形式的放大、滤波和特征选择。该数据流可以直接影响游戏世界的状态,或者它可以由情绪反馈引擎的情绪调控子模块使用。该模块包括用于不同参与者简档类型的情绪平衡规则以及通过“情绪旋钮”控制的游戏相关显式设置的偏好。然后,情绪调控引擎的输出可以应用到各种不同水平的游戏引擎动作:
i)可以重新定向世界的逻辑状态,
ii)可以控制合成代理(synthetic agent)的动作,
iii)可以改变游戏的动力学,以及
iv)可以改变游戏世界的再现。前两个选项与游戏的高水平的且故事相关的结构更加相关,而后两个选项与虚拟环境内对象呈现的选择更直接相关。
该已知系统的一个问题在于,基于生理学和性能相关参数假定参与者的情绪响应太简单,因为每个参与者是不同的并且参与者随着时间在技能、偏好和情绪响应方面各异。
发明内容
希望的是提供一种用于实现情绪自适应系统的方法、装置和计算机程序,所述情绪自适应系统使系统反馈的水平适应各个用户以便将用户带入希望的精神状态。
这是通过依照本发明的方法来实现的,该方法包括:
- 响应于再现环境的系统反馈造成的影响而获得代表用户的一个或多个生理条件的信号数据;
- 获得与用户希望的情绪状态相应的数据,所述步骤可以例如包括获得用户的自我报告和代表伴随的信号数据的数据,所述伴随的信号数据代表用户在伴随的自我报告之前的最后时段内的一个或多个生理条件;
- 确定是否达到希望的情绪状态;以及
- 如果没有达到该状态,则相应地适应性调节再现环境提供的系统反馈。
该方法基于以下见识:不同用户通过系统反馈的特定方面的特定水平带入不同的精神状态,该关系也是依赖于时间的,并且特定精神状态可以针对不同用户且随着时间通过代表用户的一个或多个生理条件的不同信号(以下称为情绪信号)表征。通过获得用户的自我报告以及代表在伴随的自我报告之前的最后时段内的伴随的情绪信号的数据,该方法获得了将精神状态与情绪信号值相联系的数据。因此,可以实现使用情绪信号作为输入的控制环以控制用户的情绪状态。相比之下,现有的方法仅仅控制情绪信号本身,由此用户可以设置(静态)极限。在游戏领域,本方法认识到基于游戏中的(性能相关)数据适应性调节游戏的工作以便最优化参与者的享受是太简单的。这是因为存在许多不同类型的参与者:成功者、探险者、社交者和杀手。不同的参与者在参与游戏时具有不同的技能、偏好和情绪响应。不是每一个参与者都享受最佳的性能/挑战水平。因此,本方法认识到需要测量参与者的情绪响应,并且参与者对于数据的解释对于成功是需要的。这样做时,本方法允许人们考虑情绪性的多个维度,一个常见的模型基于维度效价和觉醒(valence and arousal)。效价信息由用户的自我报告提供,而觉醒信息包含在情绪信号中。由信号数据确定的一个或多个维度以及由用户的自我报告确定的一个或多个维度的可替换选择是可能的。
在本文中,情绪信号是允许对用户的生理状态做出推断的信号,其独立于性能相关参数(在游戏环境的情况下)或者通常独立于提供给实现再现环境的系统的显式用户输入信息。情绪状态包括代表压力和高工作负荷的精神状态。
在所述方法的一个实施例中,与用户希望的情绪状态相应的数据包括与用户在情绪状态之间切换所在的切换点相应的阈值。
效果在于,情绪状态相对于反馈水平的程度和位置通过数据表示。基于这样的数据的闭环控制更加稳定,因为需要更少的调节以保持在通过数据建立的“用户模型”所代表的状态内。该方法考虑了以下事实:一些用户可能相对不受反馈特定方面的水平变化的影响。如果情况如此,那么需要较不频繁地对该方面的反馈水平进行调节。尤其是在其中实现该方法的装置响应于例如用户反馈而切换状态的实施例中,如果反馈水平保持在与希望的情绪状态相应的范围的中部,则可以减少切换的数量。建立阈值允许人们找到该范围的中部。当实际上希望状态的变化时,那么具有系统反馈的每个方面的阈值允许人们选择要改变的适当方面,例如其至少一个阈值最接近当前水平的方面。
在一个实施例中,至少在校准模式下,获得用户的自我报告和代表伴随的信号数据的数据并且不断地改变系统反馈的至少一个维度的水平,所述伴随的信号数据代表用户在伴随的自我报告之前的最后时段内的一个或多个生理条件。
因此,在该模式下,通过经历一定范围的反馈水平,而不是停留在与希望的情绪状态相应的第一水平处,能够找到情绪状态的边界。
在该实施例的一个变型中,系统反馈的至少一个维度的下一水平选自扫描序列数据库。
效果在于,在确定与情绪状态相应的反馈水平值的范围时避免值的重复。可以基于代表适当且高效的搜索策略的序列相对快速地发现所述范围。
在一个实施例中,将用户的自我报告以及代表伴随的信号数据的数据存储到数据库中,所述伴随的信号数据代表用户在伴随的自我报告之前的最后时段内的一个或多个生理条件。
这允许人们做出用户的精确模型,而且如果必要的话基于多个数据点重做该模型。
在一个实施例中,在校准模式下获得用户的自我报告以及代表伴随的信号数据的数据,所述伴随的信号数据代表用户在伴随的自我报告之前的最后时段内的一个或多个生理条件,其中它们用来训练至少一个分类器,所述分类器用于根据代表用户的一个或多个生理条件的至少一个信号预测用户的情绪状态。
效果在于,不必获得大量的自我报告和伴随的信号部分。可以测量信号水平并且即使先前没有遇到测量的特定水平,也推断出情绪状态。
在一个实施例中,在校准模式下获得用户的自我报告以及代表伴随的信号数据的数据,所述伴随的信号数据代表用户在伴随的自我报告之前的最后时段内的一个或多个生理条件,并且实现到自适应模式的切换,其中连续地执行步骤:确定是否达到希望的情绪状态,并且如果没有达到该状态,那么相应地适应性调节由再现环境提供的系统反馈。
效果在于,在自适应模式下不向用户提示自我报告,从而再现环境中系统反馈的体验不受中断。
该实施例的一个变型包括只要没有提供新的用户报告,则保持在自适应模式。
因此,只要系统能够保持用户处于希望的情绪状态,那么再现环境的用户体验就不受中断。系统反馈的水平不再正确的来自用户的指示触发到校准模式的切换,其中重新建立与希望的情绪状态相应的系统反馈水平范围。该方法考虑了以下事实:游戏环境的用户可以随着时间学习,并且再现环境的用户通常可能习惯于特定的反馈水平或者甚至因特定的反馈水平而厌烦。用户能够表示这点,由此适应性调节环境。
依照本发明的另一方面,提供了一种用于控制情绪自适应系统的装置,该装置包括:
- 输入/输出单元,其用于响应于再现环境的系统反馈造成的影响,获得代表用户的一个或多个生理条件的信号数据;
- 处理器,其用于实现算法;以及
- 存储器,其用于数据库,该算法使得所述装置能够:
- 获得与用户希望的情绪状态相应的数据,所述数据可选地可以基于用户的自我报告和代表伴随的信号数据的数据,所述伴随的信号数据代表用户在伴随的自我报告之前的最后时段内的一个或多个生理条件;
- 确定是否达到希望的情绪状态;以及
- 如果没有达到该状态,则相应地适应性调节再现环境提供的系统反馈。
该装置可以被配置成执行依照本发明的方法。
依照本发明的另一方面,提供了一种情绪自适应系统,其包括用于再现反馈效果的产品以及依照本发明的装置。
依照本发明的另一方面,提供了一种包含一组指令的计算机程序,当结合到机器可读介质中时,其能够使得具有信息处理能力的系统执行依照本发明的方法。
附图说明
下面将参照附图进一步详细地解释本发明,在附图中:
图1为包括用于再现反馈效果的产品的系统以及用于控制该系统的装置的示意性框图;
图2为具有情绪适应环的系统的概念图;
图3为示出用户-产品交互模型的示意图;
图4为一种在再现环境下控制对用户的影响的方法的流程图;
图5为示出游戏速度与时间关系形式的用户-系统交互模型的实例的示图;
图6为与图5示图相应的、但是在更长的时间段上的示图;
图7为示出使用图4的方法获得的用户报告和反馈水平随着时间的演变的示图;以及
图8为示出针对气氛创建产品的典型的用户交互模型的另一实例的示图。
具体实施方式
图1概括地示出了包括一个或多个再现产品和控制装置的通用情绪自适应系统1。该系统包括处理器2、主存储器3、用于接纳一个或多个数据库的另一存储器单元4、至少一个输入单元5、至少一个用户输入设备6、显示设备7以及用于响应于情绪自适应系统1提供的再现环境的系统反馈造成的影响而获得代表用户的一个或多个生理条件的情绪信号数据的输入/输出单元8。系统1还包括到外部再现设备10-12的接口9。
所提出的系统架构和功能可以应用到大范围的情绪自适应产品,例如:
- 计算机游戏系统;
- 家庭影院系统(用于电影和电视节目);
- 气氛创建产品:例如,对于飞利浦生活色产品而言,可以例如通过将传感器集成到(起居)室的家具中并且借助于无线设备(例如测量心率和皮肤电导的手镯)收集情绪信号;
- 相框;以及
- 音乐播放器。
处理器2可以是公知的中央处理单元(CPU),其适当地设置成实现情绪自适应系统1并且如这里所解释的允许实现设备的操作。
主存储器3可以是已知的RAM(随机存取存储器)存储器模块。处理器2可以被设置成从主存储器3中读取允许设备1起作用的至少一个指令。
处理器2耦合到用于通过记录媒体内容、接收媒体内容等等而获得媒体内容的输入单元5。取决于实现方式,输入单元5将包括用于拍摄图片的照片相机、用于拍摄电影的视频相机、个人视频录像机(PVR)、TV调谐器、配备了用于将计算机连接到数据网络的网卡的计算机或者适合于获得媒体内容的任何其他设备。在一个实施例中,例如,输入单元5例如使用数字视频广播(DVB)规范、视频点播系统、因特网无线电系统等等以已知的方式从视频内容广播器接收视频数据。
用户输入设备6通常至少包括键盘(例如公知的QWERTY计算机键盘)和指向设备以及可能地包括遥控单元。例如,指向设备以各种不同的形式可获得,例如计算机(无线)鼠标、光笔、触摸垫、操纵杆、光笔、跟踪球等等。
显示设备7可以是用于向用户呈现视频信息的任何常规装置,例如CRT(阴极射线管)、LCD(液晶显示器)、LCOS(硅上液晶)背投影技术、DLP(数字光处理)电视/投影仪、等离子体屏幕显示设备等等。
情绪自适应系统1处理的媒体内容/内容项/文档包括视觉信息(例如视频图像、照片或图形)、音频信息、文本信息和诸如依照MPEG-7标准的元数据之类的其他数字数据中的至少一个或者其任意组合。这样的元数据可以用来借助于采样以及通过使用词汇搜索项描述和搜索数字化材料。媒体内容可以以任何格式,例如MPEG(运动图像专家组)、MIDI(乐器数字接口)、冲击波、QuickTime、WAV(波形音频)等等存储在不同的数据载体上,例如音频或视频带,光学存储盘,如CD-ROM盘(光盘只读存储器)或者DVD盘(数字多功能盘),软盘和硬盘驱动器磁盘等等。
处理器被配置成执行软件程序,该软件程序允许执行本文概括的方法的步骤。在一个实施例中,该软件独立于其在何处运行地启动情绪自适应系统1中包含的装置。为了启动该装置,处理器2可以使得该软件程序传输到其他(外部)设备10-12。这些外部设备10-12使用诸如蓝牙、IEEE 802.11[a-g]等等之类的现有技术通过接口9连接到处理器2。在一个实施例中,处理器2依照UPnP(通用即插即用)标准与外部设备交互。
理想地,娱乐产品连续地使其工作适应当前用户。由于情绪在用户-产品交互中起着重要的作用,因而娱乐产品应当变成情绪自适应的,即连续地调节其工作以适应用户的情绪状态/响应,以便最优化其体验。作为到个人化体验的第一步,现今的许多制造商使得其产品是可定制的(例如,其键盘颜色可以容易地由用户改变的移动电话)。合乎逻辑的下一步将是产品适应性。
代替用户在使用之前或使用之后(即离线地)改变产品的行为(工作、外观等等)的是,产品将在使用期间(即在线地)连续地改变其自身的行为,如图2所示。在图2中,情绪自适应系统1向用户14提供各个不同设备的形成再现环境的设置形式的系统反馈13。该反馈带来用户的体验、行为和情绪状态的变化15。变化15自身表现为可测量参数的变化,在这里也称为情绪数据16,其作为输入提供给系统1。情绪自适应系统1收集和分析数据(步骤17)并且采取调节产品的设置形式的适当动作(步骤18)以便提供系统反馈13。
关于系统反馈,可以适应性调节若干产品特征,例如听觉、视觉和触觉效应。关于情绪数据,大量情绪测量技术是可能的。
在本文概括的方法中,我们区分了情绪信号(其被连续地测量,例如心率、皮肤导电水平和键盘压力)和用户报告(不时地由用户提供)。情绪信号被动地测量,因为它们无需来自用户的认知努力。用户报告主动地提供,因为它们需要来自用户的认知努力以及主动输入。
情绪自适应系统1的一个特定实现方式基于与情绪有关的信号的选择以及应用特定模型。
依照一个实施例的情绪信号包括代表生理学响应的信号。测量的参数包括血容量脉冲水平、血容量脉冲振幅、心率、心率变异性、呼吸水平(即相对胸腔容量)、呼吸速率、呼吸-心率一致性、皮肤导电水平、皮肤导电响应量(每单位时间)以及(例如皱眉肌或颧大肌的)肌肉活性或振幅中的一个或多个。对于大多数人而言,心率变异性与情绪响应非常密切相关。依照另一个实施例的情绪信号附加地或者可替换地包括代表触觉响应的参数。要测量的适当参数是键盘压力。在又一个实施例中,情绪信号附加地或者可替换地例如通过视频分析测量行为响应,以便表征运动,尤其是与系统反馈或者再现的内容之后的逻辑无关的无意识运动。可以例如量化用户烦躁的程度。
情绪信号的选择归结为给定当前应用的上下文,如何测量用户的情绪状态的问题。情绪状态和响应取决于应用。不同的应用行为引起不同的情绪响应。应当针对正在开发的应用评估不同情绪信号的有用性。例如,在计算机游戏中,键盘压力可能是有用的,但是对于家庭娱乐环境,则不能使用键盘压力。因此,作为第一准备步骤,应当在给定目标应用上下文的情况下研究最有希望的情绪信号。此外,应当研究用户如何可以容易地向系统提供用户报告(这些用户报告在下面进一步加以解释)。
情绪自适应系统1的实现方式的另一方面涉及系统反馈的类型:
系统1应当如何响应用户情绪状态(的变化)
许多用户-产品交互方案预期具有如图3中所显示的通用形式。虚线代表个人希望的情绪状态(最佳产品体验)的边界。作为一个实例,在图3中,在这里也称为系统反馈维度的两个反馈特征F1、F2用于适应性调节。两个最佳反馈设置(区域19、20)被示出。然而,理论上,可以存在适应性调节的任何数量的系统反馈维度,并且可以存在与最佳反馈设置相应的不同数量的区域。
作为下一个实现步骤,有必要根据该通用用户-系统交互模型(图3)创建应用特定交互模型。为了创建应用特定模型,需要决定系统反馈的类型。例如,在家庭影院环境中,我们可以考虑最优化环境光(Ambilight)效应的容量或强度。在游戏实例中,游戏速度可以用作要适应性调节的反馈参数。
当采取了准备步骤时,可以将适当的情绪信号和应用特定模型集成到系统架构中。所提出的系统如以下参照图4的流程图所述而工作。
在产品使用期间,连续地测量用户的情绪信号。
起初,系统1处于校准模式(步骤21),在该校准模式期间,系统反馈的水平不断地变化,例如反馈增大或减小。可替换地,系统可以提供离散的反馈水平,以离散的(例如10、30、60、30、10),潜在地随机的(例如10、100、20、30、95)步长经过各水平。
这些变化可以通过系统接收的用户报告(步骤22)进行控制。任何单个反馈维度(例如如图3中提及的两种效应)可以独立于另一个地变化。对于每个维度,这通过两种“显式”用户报告类型来进行:可能接收“我发现这个太多”和“我发现这个不够”。第三状态“这是可行的”从所述两个用户报告导出;我们假设位于太多与太少报告之间的时刻期间存在该状态,因为用户很可能喜欢所述系统反馈水平。否则,他(她)将这样报告。可替换地,可以向用户提供仅仅一个(“体验可行”或者“体验不行”)反馈控制或者许多反馈控制。事实上,可以实现任意数量的反馈控制(一个或更多),尽管较少的数量对于可用性将是优选的。
在每个用户报告之后,将该用户报告加上伴随的情绪信号存储(步骤23)到数据库24中(例如存储该用户报告之前的最后数秒内的心率和键盘压力的均值)。此外,改变系统反馈的方向(作为工作于校准模式的步骤21的一部分),例如从增大反馈强度到减小反馈强度(图7中提供了这点的图示,其在下面更详细地加以讨论)。可替换地,尤其对于上面提到的“非连续的反馈可替换方案”而言,可以随机地选择或者从包含已知“扫描”序列的数据库中选择下一个系统反馈水平。潜在地,下一个系统反馈设置可以选择成避免重复非常相似的设置或者已经提供的设置。
在包括存储数据的步骤23之后,至少一个分类算法基于最近的情绪信号以及先前输入到数据库24中的数据尝试分类,即预测(步骤25)步骤22的最近的用户报告。该分类器可以基于本领域技术人员已知的神经网络原理或者可替换的机器学习技术。
接下来(步骤26),系统检查分类器的最近的预测,例如最近五个预测。如果分类器具有满足最小阈值的精度(例如最后五个预测中四个正确),那么下一个系统模式将是自适应模式(步骤27)。不然,系统保持校准模式。应当强调的是,该检查可以以若干方式来实现:
- 当先前的X次尝试表明Y次成功(Y小于X)时,如上面所建议的;
- 在特定数量的时间或交互事件之后自动切换到自适应模式;
- 可替换地,系统可以以周期的、预设的或者随机选择的时间周期性地在校准模式与自适应模式之间切换。
在自适应模式下,系统反馈连续地适应用户的当前情绪信号。只要用户不提供新的用户报告,系统保持自适应模式。如果新的用户报告输入到系统中,那么再次采取所有上面的步骤22、23、25、26以便了解系统是否仍然具有足够的预测能力。可选地,可以在自适应模式下接收到用户反馈时清空存储的分类预测成功集合,因为这表明适应显然未成功(由于用户偏好的变化或者其他原因)。
下面将描述将图4的方法应用到两个实施例。
实施例1:家庭影院系统
在该实施例中,设想包括环境光和触觉反馈(通过用户椅子中的若干小振动电机)的家庭影院系统。环境光是允许情绪自适应系统1尤其是依照同时再现的视听内容的分析结果改变环境照明条件的照明技术。因此,在该实施例中,外部设备10、11、12包括上面所述种类的照明设备和触觉反馈设备。
在该应用的上下文中,预期用户坐在电视前的椅子中。因此,可以将用于捕获情绪数据的设备8集成到椅子中(例如测量用户的姿势、皮肤温度和呼吸型式(pattern))和电视中(例如捕获用户的脸部表情和瞳孔直径的相机)。两个用户报告“这是太多的系统反馈”和“这是太少的系统反馈”可以通过家庭影院系统的遥控器上的或者可替换地椅子扶手之一中的两个按钮来实现。
环境光和触觉效应的水平用作要适应性调节的系统反馈参数。这些被分组成不同的型式(即电影中事件的环境光效应和触觉效应)。
系统开始于校准模式。这事先传送到用户约翰。约翰被告知系统反馈水平将开始于最小水平并且将在他观看的整个电影期间增大,直到他指示反馈的当前水平变得太高。从该点向前,系统反馈水平将减小,直到它达到他指示系统反馈水平已经变得太低的点,等等。
图7中示出了一个系统反馈维度的水平F。第一时间间隔M1与家庭影院系统上再现的第一电影相应。第二时间间隔M2与家庭影院系统上再现的第二电影相应。
约翰观看的第一电影是包括若干通过环境光和触觉系统反馈增强的可怕场景的恐怖电影。第一“增强”场景伴随有水平1的系统反馈型式(即几乎没有任何反馈,因为1=最低强度且100=最高强度)。如果约翰按压他的遥控器上的“太多”按钮,那么这意味着他发现最小系统反馈水平已经“太多”。在这种情况下,要求约翰确认系统反馈功能的关闭。然而,约翰几乎不会注意到水平1的系统反馈并且因而不按压按钮。一些场景过后,系统反馈水平增大到水平15。约翰开始注意到系统反馈,但是发现它仍然不够。在60分钟之后,系统反馈水平处于水平65。约翰想,“哇,这是很棒的素材!”。
然而,电影80分钟时,反馈增大到水平76。他发现这个反馈量有点太不可抗拒(使人心烦意乱)并且因而按压“太多”按钮。将该“太多”报告加上约翰的时段79.50-80.00(即10秒)中的平均情绪信号存储到数据库中。下面的场景伴随水平减小的系统反馈。然而,30分钟之后,系统反馈处于水平50,约翰发现该水平不够,因而他按压“太少”按钮。将该“太少”报告加上他的时段109.50-110.00中的情绪信号添加到数据库24(图4)。除此之外,将正好处于他的两个最近的报告之间的时段(即时段94.50-95.00)中的情绪数据作为“这是可行的”而存储到数据库24中。由于约翰此处不按压按钮,因而假定他喜欢该点处的系统反馈。之后,系统反馈水平开始再次增大。
电影结束之后,系统估计精确分类所需的额外数据点数量。进度条显示当前的数据量与所需数据量的估计的关系。几天(以及几场电影)过后,系统获得用于正确分类的足够数据。从该点向前,系统应用与约翰的当前情绪信号值匹配的反馈水平。即:
- 当情绪信号与约翰的典型“太多”报告的情绪信号相似时,下面的增强电影场景将伴随水平减小的系统反馈;
- 当约翰的情绪信号与他的“太少”的型式匹配时,接下来的场景将具有更高水平的反馈;
- 当他的情绪信号与“这是可行的”型式匹配时,系统反馈的量将保持不变。
实施例2:计算机游戏
申请人详细地建立和测试了下面描述的实施例。计算机游戏《吃豆人》(Pac-Man)用作实例实施例。
参与者(称他为杰克)坐在个人计算机监视器形状的显示设备7之前的椅子上,并且使用输入设备5(键盘)参与《吃豆人》。因此,可以使用许多情绪信号,例如姿势、皮肤温度、脸部表情、瞳孔直径、鼠标压力和键盘压力,等等。两个用户报告“这是太多的系统反馈”和“这是太少的系统反馈”可以通过实际游戏中未使用的(键盘的)任何按键配对来实现。在该实例中,使用键区的[向上]和[向下]按键。
如图5和图6所示,游戏的速度S(即运动的所有对象的速度)用作要适应性调节的系统反馈参数。在《吃豆人》中,游戏速度S是水平在1(最慢)和100(最快)之间的变量。
杰克以友好的方式被告知游戏将开始于校准模式。在游戏开始之前,杰克被告知系统反馈水平S(游戏速度)将开始于低水平并且将在整个游戏期间增大。游戏一变得太快,他就可以按压[向下]按键,并且一认为游戏太慢,杰克就按压[向上]按键以便加速。
游戏开始于速度水平15,杰克发现这是太慢的并且因而按压[向上]按键以加速游戏。在7.30分钟时,游戏达到速度水平85,杰克发现该速度水平太快(“我喜欢挑战性游戏,但是这对于我太快”)。因此,他按压[向下]按键。将“减速”用户报告加上7.20-7.30分钟内的伴随的情绪信号存储到数据库24中。现在,游戏开始逐渐地减速。在10.30分钟时,游戏减速到水平55。杰克发现这挑战性不够(“这对于我有点无聊”)并且因而按压[向上]按键,这再次让游戏的速度水平逐渐地增大。再一次地,将“加速”报告加上10.20-10.30分钟内的情绪信号存储到数据库24中。除此之外,将“这是可行的”报告与最后的“减速”和“加速”时刻之间的时段内(即8.50-9.00分钟内)的情绪信号一起存储。该校准持续一段时间。在19.10分钟时,杰克按压[向上]按键。该用户报告和先前的三个报告通过游戏精确地分类(预测)。因此,游戏进入自适应模式。在该模式下,游戏的速度水平适应杰克的情绪信号:
- 当情绪信号与杰克的典型“太快”报告的情绪信号相似时,游戏的速度水平将逐渐减小;
- 当杰克的情绪信号与他的“太慢”的型式匹配时,游戏速度将逐渐增大;
- 当杰克的情绪信号与“这是可行的”型式匹配时,游戏速度将保持不变。
在自适应模式下参与了五分钟之后,杰克注意到他有一段时间没有改变游戏速度。“然而”,杰克得出结论,“也没有必要改变速度水平,因为我就是喜欢它像这样”。在30分钟之后,杰克决定保存并且退出游戏。他仍然有些工作要做。然而,在一天结束时,他继续游戏,这将直接开始于自适应模式。
图5和图6演示了情绪自适应系统1为什么通过能够工作于所述两种模式而能够提供更适当的系统反馈水平。下面的虚线28代表希望的情绪状态的下阈值,而上面的虚线29代表希望的情绪状态的上阈值。连续线30代表实际的游戏速度S随时间的演变。由图可见,与希望的情绪状态相应的游戏速度边界随着时间而演变,因为用户习惯于特定的游戏速度并且变得更加熟练。图6示出了从长远看如何建立或多或少恒定的水平。由于系统1至少在校准模式下不断地改变系统反馈的至少一个维度的水平,因而边界的演变被跟踪。系统因此能够力求达到上阈值29与下阈值28之间的范围的中部,使得自适应模式持续更长。在更长的时间段内,要求更少返回到校准模式,因为阈值28、29更少经受变化。
图8示出了环境照明系统实例的系统反馈的不同维度的相互关联性。在这种情况下,一个反馈参数F为颜色,其可以范围从蓝色(水平B)经由绿色(水平G)和红色(水平R)到黄色(水平Y)。在所示的实例中,情绪信号数据包括心率值S1。较宽的区域31与不希望的情绪状态相应。较小的区域32-36与希望的情绪状态相应。阈值以虚线表示。因此,用于希望的情绪状态的阈值依照颜色而变化。系统1可以适应性调节强度以保持在希望的情绪状态的边界内。为了发现这些边界,系统1将在校准模式下彼此独立地改变颜色和强度。与系统1只是设法把心率参数S1的特定值作为目标的情况相比,使用自我报告和情绪信号数据以训练预测用户的反应的分类器造成更加自适应的系统。
应当指出的是,上述实施例说明了而不是限制了本发明,并且本领域技术人员在不脱离所附权利要求书的范围的情况下应当能够设计出许多可替换的实施例。在权利要求书中,置于括号之间的任何附图标记都不应当被视为限制了权利要求。措词“包括/包含”并没有排除存在权利要求中未列出的元件或步骤。元件之前的措词“一”或“一个”并没有排除存在多个这样的元件。在相互不同的从属权利要求中陈述了特定的技术措施这一事实并不意味着这些技术措施的组合不可以加以利用。
在一个实施例中,依照本发明的系统在单个设备中实现。在另一个实施例中,它包括服务提供商和客户端。可替换地,系统可以包括分布的且彼此远程地定位的设备。
这些设备可以是任何不同的消费电子设备,例如具有电缆、卫星或其他链接的电视机(TV机)、录像带或者硬盘录像机、家庭影院系统、便携式CD播放器、遥控设备(例如iPronto遥控器)、手机等等。
在一个实施例中,数据库24在第一次使用之前填充了设备特定的用户通用数据。因此,在校准阶段期间,为不同用户或者假设的不同用户建立的数据逐渐地被基于来自情绪自适应系统1的实际当前用户的自我报告和情绪数据16的数据替换。

Claims (8)

1.一种通过再现环境系统控制对一个用户或多个用户的影响的方法,所述环境系统包括处理器和存储器,所述方法重复使用处理器,直到达到用户的希望的情绪状态,其中处理器被编程来执行以下步骤:
(A) 校正所述处理器,包括步骤:
(i) 使用不同水平的反馈在再现环境下影响用户;
(ii) 响应于由不同水平的反馈造成的影响,获得代表该用户的一个或多个生理条件的信号数据;
(iii) 从用户的希望的情绪状态对应的用户获得用户报告;
(iv) 将处理器获得的信号数据和用户报告保存到存储器中;以及
(v) 进一步影响用户并且预测所希望的情绪状态是否达到,并将预测结果和保存在存储器中的用户报告相比较;
其中当处理器正确地预测了用户报告中获得的用户的希望的情绪状态最少阈值次数,校正所述处理器完成;
(B) 控制该再现环境的具有可配置设置的多个设备以再现用于自动提供系统反馈的环境;
(C) 响应于预定时段期间的系统反馈以及将信号数据存储到存储器中,由处理器获得包括用户的一个或多个生理条件的信号数据;以及
(D) 生成用户的希望的情绪状态的预测,以及基于该预测,根据所获得的情绪数据适应性调节所述多个设备的可配置设置以提供系统反馈;以及
(E) 使用来自所述生成步骤的可配置设置在再现环境下影响该用户。
2.依照权利要求1的方法,进一步包括在存储在存储器中的数据库中保存在步骤(C)中获得的信号数据的步骤。
3.依照权利要求1的方法,其中当在校正步骤中处理器预测了用户报告中获得的用户的希望的情绪状态小于最少阈值次数,不断地改变反馈的至少一个维度的水平。
4.依照权利要求3的方法,其中反馈的至少一个维度的不断改变的水平选自扫描序列数据库。
5.一种通过再现环境控制对一个用户或多个用户的影响的情绪自适应系统,所述系统包括:
至少一个反馈设备,其被配置为使用不同水平的反馈来影响用户;
输入/输出设备,其被配置为响应于由不同水平的反馈造成的影响,获得代表该用户的一个或多个生理条件的信号数据;
用户输入设备,其被配置为从用户的希望的情绪状态对应的用户获得用户报告;以及
存储器单元,其被配置为存储该信号数据和该用户报告;
处理器,其被配置为:
(A) 执行所述情绪自适应系统的校正,包括
(i) 利用所述至少一个反馈设备,使用不同水平的反馈在再现环境下影响用户;
(ii) 利用所述输入/输出设备,响应于由不同水平的反馈造成的影响,获得代表该用户的一个或多个生理条件的信号数据;
(iii) 利用所述用户输入设备,从用户的希望的情绪状态对应的用户获得用户报告;
(iv) 将处理器获得的信号数据和用户报告保存到存储器单元中;以及
(v) 进一步影响用户并且预测所希望的情绪状态是否达到,并将预测结果和保存在存储器单元中的用户报告相比较;
其中当处理器正确地预测了用户报告中获得的用户的希望的情绪状态最少阈值次数,校正所述处理器完成;
(B) 通过调节可配置设置控制所述至少一个反馈设备,以再现用于自动提供系统反馈的环境;
(C) 响应于预定时段期间的系统反馈以及将信号数据存储到存储器单元中,由所述输入/输出设备获得包括用户的一个或多个生理条件的信号数据;
(D) 生成用户的希望的情绪状态的预测,以及基于该预测,根据所获得的情绪数据适应性调节所述多个设备的可配置设置以提供系统反馈;以及
(E) 使用来自所述生成步骤的可配置设置在再现环境下影响该用户。
6.依照权利要求5的装置,其中反馈的至少一个维度的不断改变的水平选自扫描序列数据库。
7.一种情绪自适应系统,包括依照权利要求5至6中的一项的装置。
8.一种或多种其上存储计算机可执行指令的机器可读介质,所述指令当由计算设备执行时,使得所述计算设备实现如权利要求1-4中的任一个所述的方法。
CN201810179039.2A 2008-10-20 2009-10-19 在再现环境下控制对用户的影响 Active CN108279781B (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
EP08167040.8 2008-10-20
EP08167040 2008-10-20
EP09154104.5 2009-03-02
EP09154104 2009-03-02
CN2009801416276A CN102187299A (zh) 2008-10-20 2009-10-19 在再现环境下控制对用户的影响

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
CN2009801416276A Division CN102187299A (zh) 2008-10-20 2009-10-19 在再现环境下控制对用户的影响

Publications (2)

Publication Number Publication Date
CN108279781A true CN108279781A (zh) 2018-07-13
CN108279781B CN108279781B (zh) 2022-01-14

Family

ID=41698520

Family Applications (2)

Application Number Title Priority Date Filing Date
CN2009801416276A Pending CN102187299A (zh) 2008-10-20 2009-10-19 在再现环境下控制对用户的影响
CN201810179039.2A Active CN108279781B (zh) 2008-10-20 2009-10-19 在再现环境下控制对用户的影响

Family Applications Before (1)

Application Number Title Priority Date Filing Date
CN2009801416276A Pending CN102187299A (zh) 2008-10-20 2009-10-19 在再现环境下控制对用户的影响

Country Status (6)

Country Link
US (1) US9612654B2 (zh)
EP (1) EP2340473B1 (zh)
JP (1) JP5766119B2 (zh)
KR (1) KR101604602B1 (zh)
CN (2) CN102187299A (zh)
WO (1) WO2010046834A2 (zh)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2122610B1 (en) * 2007-01-31 2018-12-26 Telecom Italia S.p.A. Customizable method and system for emotional recognition
JP5899111B2 (ja) * 2009-04-15 2016-04-06 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. ユーザ環境を適応させるための方法及びシステム
KR101299220B1 (ko) * 2010-01-08 2013-08-22 한국전자통신연구원 감성 신호 감지 장치와 감성 서비스 제공 장치 간의 감성 통신 방법
US10843078B2 (en) * 2010-06-07 2020-11-24 Affectiva, Inc. Affect usage within a gaming context
US9099019B2 (en) * 2010-08-12 2015-08-04 Lg Electronics Inc. Image display device, image display system, and method for analyzing the emotional state of a user
US9750447B2 (en) 2011-10-28 2017-09-05 Koninklijke Philips N.V. Lighting system with monitoring function
US9202352B2 (en) * 2013-03-11 2015-12-01 Immersion Corporation Automatic haptic effect adjustment system
JP2014183559A (ja) * 2013-03-21 2014-09-29 Casio Comput Co Ltd 報知制御装置、報知制御方法及びプログラム
KR20150021842A (ko) * 2013-08-21 2015-03-03 삼성전자주식회사 시스템 사용성 증진 장치, 방법 및 휴대 기기
TWI557563B (zh) * 2014-06-04 2016-11-11 國立成功大學 情緒調控系統及其調控方法
TWI559252B (zh) * 2014-12-19 2016-11-21 Real-time identification of emotional environment control devices, systems, methods and computer program products
US10768704B2 (en) 2015-03-17 2020-09-08 Whirlwind VR, Inc. System and method for modulating a peripheral device based on an unscripted feed using computer vision
AU2017300636A1 (en) 2016-07-21 2019-01-31 Magic Leap, Inc. Technique for controlling virtual image generation system using emotional states of user
US10074368B2 (en) * 2016-08-17 2018-09-11 International Business Machines Corporation Personalized situation awareness using human emotions and incident properties
US10152118B2 (en) * 2017-04-26 2018-12-11 The Virtual Reality Company Emotion-based experience freedback
CN108875047A (zh) * 2018-06-28 2018-11-23 清华大学 一种信息处理方法及系统
US11354973B2 (en) * 2018-08-02 2022-06-07 Igt Gaming system and method providing player feedback loop for automatically controlled audio adjustments
US11023687B2 (en) * 2018-10-08 2021-06-01 Verint Americas Inc. System and method for sentiment analysis of chat ghost typing
KR102569000B1 (ko) * 2019-01-16 2023-08-23 한국전자통신연구원 감성 적응형 UI(User Interface)를 제공하는 방법 및 장치
US10788890B1 (en) 2019-03-26 2020-09-29 X Development Llc Closed-loop system for influencing mental/emotional state with immersive sensory surroundings
CN114514563A (zh) * 2019-09-27 2022-05-17 苹果公司 在电子设备上创建最佳工作、学习和休息环境
WO2022123667A1 (ja) * 2020-12-09 2022-06-16 日本電信電話株式会社 触覚システム
EP4202610A1 (en) * 2021-12-27 2023-06-28 Koninklijke KPN N.V. Affect-based rendering of content data

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001282847A (ja) * 2000-04-03 2001-10-12 Nec Corp 感性適応型情報提示装置及びプログラムを記録した機械読み取り可能な記録媒体
CN1575745A (zh) * 2003-06-30 2005-02-09 索尼株式会社 控制设备和控制方法
US20060224046A1 (en) * 2005-04-01 2006-10-05 Motorola, Inc. Method and system for enhancing a user experience using a user's physiological state
CN1942970A (zh) * 2004-04-15 2007-04-04 皇家飞利浦电子股份有限公司 生成对用户具有特定情绪影响的内容项的方法

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4412288A (en) * 1980-04-01 1983-10-25 Michael Herman Experiment-machine
US4683891A (en) * 1982-04-26 1987-08-04 Vincent Cornellier Biomonitoring stress management method and device
US4571682A (en) * 1983-08-22 1986-02-18 Computerized Sports Equipment, Inc. System and method for skill enhancement and behavior modification
US5209494A (en) * 1992-02-24 1993-05-11 Donald Spector Biofeedback game
JP3048299B2 (ja) * 1993-11-29 2000-06-05 パイオニア株式会社 情報再生装置
US5676138A (en) * 1996-03-15 1997-10-14 Zawilinski; Kenneth Michael Emotional response analyzer system with multimedia display
US6496724B1 (en) * 1998-12-31 2002-12-17 Advanced Brain Monitoring, Inc. Method for the quantification of human alertness
IL130818A (en) * 1999-07-06 2005-07-25 Intercure Ltd Interventive-diagnostic device
EP1130570B1 (en) * 2000-01-11 2007-10-10 Yamaha Corporation Apparatus and method for detecting performer's motion to interactively control performance of music or the like
US20020143241A1 (en) * 2000-06-28 2002-10-03 Lars-Hakan Thorell Method and device for wireless transmission and processing of psychophysiological data
US6595929B2 (en) * 2001-03-30 2003-07-22 Bodymedia, Inc. System for monitoring health, wellness and fitness having a method and apparatus for improved measurement of heat flow
KR100580618B1 (ko) * 2002-01-23 2006-05-16 삼성전자주식회사 생리 신호의 단시간 모니터링을 통한 사용자 정서 인식장치 및 방법
DE10210799B4 (de) 2002-03-12 2006-04-27 Siemens Ag Anpassung einer Mensch-Maschine-Schnittstelle in Abhängigkeit eines Psychoprofils und einer momentanen Befindlichkeit eines Anwenders
US20030195040A1 (en) * 2002-04-10 2003-10-16 Breving Joel S. Video game system and game controller
US7654901B2 (en) * 2002-04-10 2010-02-02 Breving Joel S Video game system using bio-feedback devices
US20070100666A1 (en) * 2002-08-22 2007-05-03 Stivoric John M Devices and systems for contextual and physiological-based detection, monitoring, reporting, entertainment, and control of other devices
IL155955A0 (en) * 2003-05-15 2003-12-23 Widemed Ltd Adaptive prediction of changes of physiological/pathological states using processing of biomedical signal
US20080177197A1 (en) * 2007-01-22 2008-07-24 Lee Koohyoung Method and apparatus for quantitatively evaluating mental states based on brain wave signal processing system
WO2005081185A1 (ja) * 2004-02-25 2005-09-01 Brother Kogyo Kabushiki Kaisha 推論情報作成装置、推論情報管理システム、推論情報作成システム、推論情報作成プログラム、推論情報作成プログラムをコンピュータに読取可能に記録した記録媒体、及び推論情報の作成方法
EP1582965A1 (en) 2004-04-01 2005-10-05 Sony Deutschland Gmbh Emotion controlled system for processing multimedia data
EP1871219A4 (en) * 2005-02-22 2011-06-01 Health Smart Ltd METHODS AND SYSTEMS FOR PSYCHOPHYSIOLOGICAL AND PHYSIOLOGICAL CONTROL AND USES THEREOF
TWI311067B (en) * 2005-12-27 2009-06-21 Ind Tech Res Inst Method and apparatus of interactive gaming with emotion perception ability
US7806777B2 (en) 2006-04-18 2010-10-05 World Golf Tour, Inc. Automatically adapting virtual equipment model
US8062129B2 (en) * 2006-09-29 2011-11-22 Pope Alan T Physiological user interface for a multi-user virtual environment
US20100056276A1 (en) * 2006-12-22 2010-03-04 Neuroinsight Pty. Ltd. Assessment of computer games
EP1975783A1 (en) 2007-03-31 2008-10-01 Sony Deutschland Gmbh Method and system for adapting a user interface of a device
WO2008137581A1 (en) * 2007-05-01 2008-11-13 Neurofocus, Inc. Neuro-feedback based stimulus compression device
US20090069707A1 (en) * 2007-09-06 2009-03-12 Sandford Joseph A Method to improve neurofeedback training using a reinforcement system of computerized game-like cognitive or entertainment-based training activities
US20100069780A1 (en) * 2008-03-19 2010-03-18 Ocz Technology Group, Inc. Method and apparatus for using biopotentials for simultaneous multiple control functions in computer systems

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001282847A (ja) * 2000-04-03 2001-10-12 Nec Corp 感性適応型情報提示装置及びプログラムを記録した機械読み取り可能な記録媒体
CN1575745A (zh) * 2003-06-30 2005-02-09 索尼株式会社 控制设备和控制方法
CN1942970A (zh) * 2004-04-15 2007-04-04 皇家飞利浦电子股份有限公司 生成对用户具有特定情绪影响的内容项的方法
US20060224046A1 (en) * 2005-04-01 2006-10-05 Motorola, Inc. Method and system for enhancing a user experience using a user's physiological state

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
TIM TIJS ET.AL: "Creating an Emotionally Adaptive Game", 《IFIP INTERNATIONAL FEDERATION FOR INFORMATION PROCESSING 2008》 *

Also Published As

Publication number Publication date
EP2340473A2 (en) 2011-07-06
KR20110086068A (ko) 2011-07-27
EP2340473B1 (en) 2017-07-12
WO2010046834A2 (en) 2010-04-29
CN102187299A (zh) 2011-09-14
WO2010046834A3 (en) 2010-09-16
JP5766119B2 (ja) 2015-08-19
JP2012506085A (ja) 2012-03-08
US20110207100A1 (en) 2011-08-25
KR101604602B1 (ko) 2016-03-18
CN108279781B (zh) 2022-01-14
US9612654B2 (en) 2017-04-04

Similar Documents

Publication Publication Date Title
CN108279781A (zh) 在再现环境下控制对用户的影响
US11731026B2 (en) Reflective video display apparatus for interactive training and demonstration and methods of using same
US11497980B2 (en) Reflective video display apparatus for interactive training and demonstration and methods of using same
TWM443348U (en) Situation command system

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant