CN111414076B - 音频-触觉信号发生器 - Google Patents

音频-触觉信号发生器 Download PDF

Info

Publication number
CN111414076B
CN111414076B CN202010016460.9A CN202010016460A CN111414076B CN 111414076 B CN111414076 B CN 111414076B CN 202010016460 A CN202010016460 A CN 202010016460A CN 111414076 B CN111414076 B CN 111414076B
Authority
CN
China
Prior art keywords
haptic
audio
signal
amplifier
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010016460.9A
Other languages
English (en)
Other versions
CN111414076A (zh
Inventor
克里斯托弗·马克·马库斯
泰穆金·高塔马
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Top Top Technology Hongkong Co ltd
Original Assignee
Top Top Technology Hongkong Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Top Top Technology Hongkong Co ltd filed Critical Top Top Technology Hongkong Co ltd
Priority to CN202410175174.5A priority Critical patent/CN118034496A/zh
Priority to CN202410175172.6A priority patent/CN118034495A/zh
Publication of CN111414076A publication Critical patent/CN111414076A/zh
Application granted granted Critical
Publication of CN111414076B publication Critical patent/CN111414076B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016Input arrangements with force or tactile feedback as computer generated output to the user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03FAMPLIFIERS
    • H03F1/00Details of amplifiers with only discharge tubes, only semiconductor devices or only unspecified devices as amplifying elements
    • H03F1/30Modifications of amplifiers to reduce influence of variations of temperature or supply voltage or other physical parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00Circuits for transducers, loudspeakers or microphones
    • H04R3/04Circuits for transducers, loudspeakers or microphones for correcting frequency response
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R9/00Transducers of moving-coil, moving-strip, or moving-wire type
    • H04R9/02Details
    • H04R9/022Cooling arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R9/00Transducers of moving-coil, moving-strip, or moving-wire type
    • H04R9/06Loudspeakers
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03FAMPLIFIERS
    • H03F2200/00Indexing scheme relating to amplifiers
    • H03F2200/03Indexing scheme relating to amplifiers the amplifier being designed for audio applications
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03GCONTROL OF AMPLIFICATION
    • H03G3/00Gain control in amplifiers or frequency changers
    • H03G3/20Automatic control
    • H03G3/30Automatic control in amplifiers having semiconductor devices
    • H03G3/3005Automatic control in amplifiers having semiconductor devices in amplifiers suitable for low-frequencies, e.g. audio amplifiers

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Power Engineering (AREA)
  • Circuit For Audible Band Transducer (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

描述了一种用于触觉系统的音频‑触觉信号发生器,所述触觉系统包括放大器,所述放大器联接到触觉致动器。所述音频‑触觉信号发生器包括:音频输入,所述音频输入被配置成接收音频信号;触觉输入,所述触觉输入被配置成接收触觉信号;以及控制器,所述控制器被配置成接收所述触觉信号、放大器状态和触觉致动器状态中的至少一个。混频器联接到所述音频输入和所述触觉输入。所述混频器具有被配置成联接到触觉致动器的输出。所述控制器控制所述混频器取决于所述触觉信号的特性、放大器状态和触觉致动器状态中的至少一个处理所述音频信号。所述混频器被配置成对所述触觉信号和经处理音频信号进行混频,并且输出经过混频的触觉信号和经处理音频信号。

Description

音频-触觉信号发生器
技术领域
本公开涉及音频-触觉信号发生器和产生音频-触觉信号的方法。
背景技术
人机交互(HMI)越来越依赖于跨模态用户交互,其中涉及多种感官模态。特别是,跨模态听觉和触感反馈可用于强化触摸接口。典型的例子为“虚拟按钮”,其中按钮按压通过触摸传感器检测,并且用户反馈通过震动或触觉反馈以及通常通过声音提供。合适的触感和听觉反馈设计使得模拟真实的物理按钮成为可能。触感和听觉反馈的组合可以被称为音频-触觉。这种虚拟按钮可用在一些商业智能手机上。物理按钮由于例如灰尘和水的进入而存在可靠性问题,这种问题随着时间恶化,并且给装置的设计增加了物理限制。在另一方面,虚拟按钮更为可靠且易于集成,并且其功能较多且可重新编程。
发明内容
在所附权利要求中限定了本公开的各个方面。在第一方面,提供了一种用于触觉系统的音频-触觉信号发生器,所述触觉系统包括联接到触觉致动器的放大器,所述音频-触觉信号发生器包括:音频输入,所述音频输入被配置成接收音频信号;触觉输入,所述触觉输入被配置成接收触觉信号;控制器,所述控制器被配置成接收所述触觉信号、放大器状态和触觉致动器状态中的至少一个;混频器,所述混频器联接到所述音频输入和所述触觉输入并且具有混频器输出,所述混频器输出被配置成联接到触觉致动器;其中,所述控制器被配置成控制所述混频器取决于所述触觉信号的特性、放大器状态和触觉致动器状态中的至少一个处理所述音频信号;并且其中所述混频器被配置成对所述触觉信号和经处理音频信号进行混频,并且输出经过混频的音频-触觉信号。
在一个或多个实施例中,所述控制器可以被另外配置成控制所述混频器取决于所述音频信号的特性处理音频信号。
在一个或多个实施例中,所述控制器可以另外包括放大器传感器输入,所述放大器传感器输入被配置成联接到所述放大器,其中所述控制器被另外配置成根据在所述放大器传感器输入上接收到的传感器信号确定放大器状态,并且控制所述混频器取决于所述放大器状态处理所述音频信号。
所述放大器状态可以包括以下中的至少一个:放大器升压电压、放大器电压限幅电平、放大器电流限幅电平、放大器负载电流和放大器管芯温度。
在一个或多个实施例中,所述控制器可以另外包括触觉致动器传感器输入,所述触觉致动器传感器输入被配置成联接到触觉致动器,其中所述控制器被另外配置成根据在所述触觉致动器传感器输入上接收到的触觉致动器传感器信号确定触觉致动器状态,并且控制所述混频器取决于所述触觉致动器状态处理所述音频信号。
所述触觉致动器状态可以包括以下中的至少一个:触觉致动器谐振频率、触觉致动器偏移、触觉致动器速度、触觉致动器加速度和触觉致动器音圈温度估计。
在一个或多个实施例中,所述混频器可以被配置成通过以中的至少一个处理所述音频信号:相对于所述触觉信号对所述音频信号进行时移、向所述音频信号施加增益、向所述音频信号施加与频率相关的增益、向所述音频信号施加与频率相关的相移和对所述音频信号进行高通滤波。
在一个或多个实施例中,所述混频器可以包括音频处理器,所述音频处理器联接到加法器,其中音频处理器输入联接到所述音频输入,音频处理器输出联接到所述加法器的第一输入,并且触觉信号输入联接到所述加法器的第二输入。
在一个或多个实施例中,所述音频处理器可以包括延迟调节器、增益调节器和相位调节器中的至少一个。
在一个或多个实施例中,所述音频处理器可以包括联接在所述音频处理器输入与所述音频处理器输出之间的延迟调节器、增益调节器和相位调节器中的至少两个的串联布置。
在一个或多个实施例中,所述控制器可以包括:状态参数计算器,所述状态参数计算器联接到放大器传感器输入和触觉传感器输入并且具有状态参数计算器输出,其中所述状态参数计算器被配置成根据在所述放大器传感器输入上接收到的放大器传感器信号确定放大器状态,并且根据在所述触觉传感器输入上接收到的触觉传感器信号确定触觉状态;
振幅-频率检测器,所述振幅-频率检测器联接到所述音频输入和所述触觉输入并且具有振幅-频率检测器输出;延迟控制器、增益控制器和相位控制器中的至少一个;其中所述延迟控制器包括第一延迟控制器输入、第二延迟控制器输入和延迟控制器输出,所述第一延迟控制器输入联接到所述状态参数计算器输出,所述第二延迟控制器输入联接到所述振幅-频率检测器输出,所述延迟控制器输出联接到所述延迟调节器;所述增益控制器包括第一增益控制器输入、第二增益控制器输入和增益控制器输出,所述第一增益控制器输入联接到所述状态参数计算器输出,所述第二增益控制器输入联接到所述振幅-频率检测器输出,所述增益控制器输出联接到所述增益调节器;并且所述相位控制器包括第一相位控制器输入、第二相位控制器输入和相位控制器输出,所述第一相位控制器输入联接到所述状态参数计算器输出,所述第二相位控制器输入联接到所述振幅-频率检测器输出,所述相位控制器输出联接到所述延迟调节器。
所述音频-触觉信号发生器的实施例可以包括在触觉系统中,所述触觉系统包括放大器,所述放大器具有联接到所述混频器的所述输出的输入和被配置成联接到触觉致动器的输出。
所述音频-触觉信号发生器的实施例可以包括在人机接口(例如,触摸板或触摸屏)中。
在第二方面,提供了一种为触觉系统产生音频-触觉信号的方法,所述触觉系统包括放大器,所述放大器驱动触觉致动器,所述方法包括:接收音频信号;接收触觉信号;取决于所述触觉信号的特性、放大器状态和触觉致动器状态中的至少一个处理所述音频信号;以及对经处理音频信号和所述触觉信号进行混频。
在一个或多个实施例中,所述方法可以包括取决于所述音频信号的特性处理所述音频信号。
在第三方面,提供了一种音频-触觉信号发生器,所述音频-触觉信号发生器包括:音频输入,所述音频输入被配置成接收音频信号;触觉输入,所述触觉输入被配置成接收触觉信号;控制器,所述控制器具有第一控制器输入,所述第一控制器输入联接到所述触觉输入;音频处理器,所述音频处理器联接到所述音频输入和控制器输出;加法器,所述加法器联接到所述音频处理器的输出和所述触觉输入并且被配置成将所述触觉信号和经处理音频信号组合;其中所述控制器被配置成控制所述音频处理器取决于所述触觉信号的特性处理所述音频信号;并且所述音频-触觉信号发生器被配置成输出经过组合的触觉信号和经处理音频信号。
在一个或多个实施例中,所述控制器可以另外包括放大器传感器输入和状态参数计算器,所述放大器传感器输入被配置成联接到所述放大器,所述状态参数计算器联接到所述放大器传感器输入,其中所述控制器被另外配置成确定放大器状态,并且所述音频处理器被配置成取决于所述放大器状态处理所述音频信号。
在一个或多个实施例中,所述控制器可以另外包括触觉致动器传感器输入和状态参数计算器,所述触觉致动器传感器输入被配置成联接到所述触觉致动器,所述状态参数计算器联接到所述触觉致动器传感器输入,其中所述控制器被另外配置成确定放大器状态,并且所述音频处理器被配置成取决于所述放大器状态处理所述音频信号。
在一个或多个实施例中,所述控制器可以包括第二控制器输入,所述第二控制器输入联接到所述音频输入,并且其中所述控制器可以被另外配置成控制所述音频处理器取决于所述音频信号的特性处理所述音频信号。
在一个或多个实施例中,所述音频处理器可以包括延迟调节器、增益调节器和相位调节器中的至少一个。
附图说明
在附图和说明书中,相似的附图标记指代相似的特征。现在仅通过举例详细描述通过附图示出的实施例,在附图中:
图1示出了根据实施例的音频-触觉信号发生器。
图2示出了提供示例虚拟按钮效果的音频信号和触觉信号的频率响应。
图3A示出了曲线图,所述曲线图示出了图2的示例触觉信号和音频信号,所述示例触觉信号和音频信号组合提供虚拟按钮效果。
图3B示出了组合的触觉致动器信号和所述音频信号。
图3C示出了示例组合的触觉致动器信号和延迟的音频信号。
图4示出了根据实施例的音频-触觉信号发生器。
图5示出了根据实施例的另一个音频-触觉信号发生器。
图6示出了根据实施例的音频-触觉信号发生器。
图7示出了根据实施例的控制触觉致动器的方法。
具体实施方式
图1示出了根据实施例的音频-触觉信号发生器100。音频-触觉信号发生器100包括控制器110和混频器120。可以将音频信号输入102连接到混频器120的第一输入。可以将触觉信号输入104连接到混频器120的第二输入。可以将触觉信号输入104连接到控制器110的输入。控制器110可以具有放大器传感器输入112和触觉致动器传感器输入114。控制器110可以具有控制输出106,所述控制输出106连接到混频器120的控制输入。
在操作中可以将混频器输出108连接到放大器130,所述放大器130可以为例如D类音频放大器、A类放大器或AB类放大器。可以将放大器输出116连接到触觉致动器140,所述触觉致动器140可以为例如电动致动器(如线性谐振致动器(LRA))或压电致动器。可以将触觉信号输入112连接到放大器130。可以将触觉致动器140连接到触觉致动器传感器输入114。
为了获得音频-触觉效果,可以将音频信号接收在音频信号输入102上,并且可以将触觉信号接收在触觉信号输入104上。在此上下文中,音频信号可以被视为旨在主要在驱动触觉致动器时产生旨在被用户听到的特定可听声音的听觉信号。所述音频信号通常可以被设计成避免产生可以对由所述触觉信号引起的预期振动进行干扰的振动。
所述触觉信号是主要旨在当用于驱动触觉致动器时产生特定的触感或触觉反馈的信号。不存在期望的可听效果。
在操作中,控制器110可以接收所述音频信号、所述触觉信号、放大器传感器信号和/或触觉致动器传感器信号。
所述放大器传感器信号可以例如直接指示放大器状态或用于确定放大器状态。所述放大器状态可以包括以下中的一个或多个:放大器升压电压、电压限幅电平、电流限幅电平、对于便携式装置来说可以指示电池电流的电流消耗值,和放大器集成电路管芯温度。
所述触觉致动器传感器信号可以例如直接指示触觉致动器状态或用于确定触觉致动器状态。对于LRA,触觉致动器状态可以包括以下中的一个或多个:谐振频率、LRA偏移、LRA速度或LRA加速度值或LRA音圈温度值。所述触觉致动器传感器信号可以例如为表示正流入所述触觉致动器中的电流的信号。
控制器110可以取决于所述触觉致动器状态、所述放大器状态和所述触觉信号的特性中的一个或多个向混频器120施加控制信号,以使所述混频器产生的输出不超过系统限制。控制器110控制可以取决于所述控制信号处理所述音频信号的混频器120。
示例系统限制可以包括所述放大器输出电压不超过放大器限幅电平、电流消耗不超过电池电流极限的限制。另外的限制可以包括:限制LRA偏移,使得其不超过预先限定的极限,从而防止机械损伤和可听到的机械伪差(artefact)中的一种或多种;以及限制LRA音圈温度以减轻热损伤。
音频信号或触觉信号的特性可以包括例如以下中的一个或多个:瞬时信号值、时变振幅、频谱或峰值。所述音频信号的处理可以包括相对于所述触觉信号向所述音频信号施加延迟。所述音频信号的处理可以包括向所述音频信号施加时变增益。所述音频信号的处理可以包括向所述音频信号施加与频率相关的振幅变化。所述音频信号的处理可以包括向所述音频信号施加与频率相关的相位变化。混频器120可以通过施加与频率相关的增益和相移来对所述信号进行处理以向所述音频信号施加高通滤波。混频器120可以将经调整的或经处理的音频信号与触觉信号组合,并可以在混频器输出108上输出经过混频的经调整音频和触觉信号输出。放大器130也可以被称为触觉驱动器,所述触觉驱动器可以将所述经过混频的经调整音频和触觉信号放大,并可以使用组合的信号驱动触觉致动器140。
应当理解,在一些例子中,控制器110可以控制混频器120处理仅根据所述触觉信号的特性确定的所述音频信号。在这些例子中,可以省去放大器传感器输入112和触觉致动器传感器输入114。在其它例子中,控制器110可以调整仅根据放大器状态或触觉致动器状态中的一个确定的所述音频信号。在这些例子中,可以省去从触觉信号输入104到控制器110以及到放大器传感器输入112和触觉致动器传感器输入114中的一个输入的连接。
音频-触觉信号发生器100可以以硬件或硬件和软件的组合实施,例如通过可在微控制器或数字信号处理器上执行的软件。在一些例子中,放大器130和音频-触觉信号发生器100可被包括在同一装置上。
本发明的诸位发明人已经认识到,通常仅设计用于产生触觉效果的触觉致动器(如LRA)可以通过音频-触觉信号发生器100控制以例如为获得音频触觉效果在不过度驱动所述LRA同时不降低触觉性能的情况下同时输出组合的音频和触觉信号。这可以避免需要另外的扬声器或使用昂贵的多功能传感器。本发明的诸位发明人还认识到,通过对所述音频信号进行调整或处理,触觉致动器(如LRA)的所述触觉性能可以不受另外的音频信号影响。本公开的诸位发明人已经另外认识到,与音频-触觉反馈信号的触觉信号分量相比,用户对音频-触觉反馈信号的听觉信号分量进行的信号修正的体验可能更稳健。
参考图2、3A、3B和3C可以另外理解用于虚拟点击音频触觉信号的音频触觉信号发生器100的示例操作。图2示出了用于典型的虚拟按钮效果的触觉信号152和音频信号154的示例频谱150。x轴以对数尺度表示从50 Hz到20 kHz的频率。y轴表示以dB为单位的振幅。触觉信号152集中于低于1 kHz特别是低于300 Hz的低频上。音频信号154集中于典型地高于2kHz的较高频率。
图3A示出了音频和触觉虚拟点击信号160的曲线。触觉信号以线162示出。音频信号以线164示出。y轴表示介于-1和+1之间的归一化振幅。在所述例子中,对于超出此范围的样本值,发生了放大器电压限幅。x轴表示在0秒与50毫秒之间变化的时间。
图3B示出了音频-触觉信号170。线172表示通过简单混频产生的组合的音频信号162和触觉信号164。这导致了放大器限幅,如区域174和区域176所示。
图3C示出了音频-触觉信号180。线182表示通过音频-触觉信号发生器100混频产生的组合的音频信号162和触觉信号164。触觉信号发生器100可以根据检测到的所述触觉信号的振幅确定:如果所述音频信号被同时混频,则可能发生放大器限幅,并且因此在混频之前将所述音频信号延迟(在所述例子中延迟6毫秒)。其结果是放大器限幅得以避免,并且由于延迟相对较小,可能对用户来说并没有可察觉的差异。
图4示出了根据实施例的音频-触觉信号发生器200。音频-触觉信号发生器200包括控制器210和混频器230。混频器230包括音频处理器220和加法器234。音频处理器220可以包括延迟调节器222,所述延迟调节器222的具有连接到音频信号输入202的输入。延迟控制器222可以具有输出224,所述输出224连接到增益调节器226。控制器226可以具有输出228,所述输出228连接到相位调节器232。相位调节器232可以具有输出208,所述输出208连接到加法器234的第一输入。可以将加法器234的第二输入连接到触觉信号输入204。控制器210可以具有输出206,所述输出206连接到延迟调节器222、增益调节器226和相位调节器232。控制器210可以具有第一输入,所述第一输入连接到音频信号输入202。控制器210可以具有第二输入,所述第二输入连接到触觉信号输入204。可以将加法器234的输出连接到混频器输出212。可以将混频器输出212连接到可以驱动触觉致动器(如线性谐振致动器)(未示出)的放大器(未示出)。
控制器210控制音频处理器220取决于触觉信号的特性和音频信号的特性中的至少一个调整音频信号。触觉信号和音频信号的特性可以包括例如以下中的一个或多个:瞬时信号值、时变振幅、频谱或峰值。
音频处理器220可以通过使用延迟调节器222相对于所述触觉信号向所述音频信号施加延迟来处理所述音频信号。延迟调节器222可以被实施为硬件中的延迟线路元件或与硬件结合的软件中的延迟线路元件。在一些例子中,所述延迟调节器可以延迟所述音频信号,直至触觉信号振幅低于预定阈值。
音频处理器220可以通过使用增益调节器226向所述音频信号施加时变增益或向所述音频信号施加与频率相关的振幅变化来处理所述音频信号。在一些例子中,增益调节器226可以施加平滑的基于样本的增益控制,所述增益控制通常实施在动态范围控制器或限制器中。可替换的是,或另外,在一些例子中,增益调节器226可以包括:第一级,所述第一级具有使用分析滤波器组或快速傅立叶变换(FFT)实施的可变增益或每个子带具有可变增益的滤波器组,然后是第二级,所述第二级包括可变增益级;以及第三级,所述第三级包括合成滤波器组或快速傅立叶逆变换(iFFT)或类似技术。
音频处理器220可以通过使用相位调节器232向所述音频信号施加与频率相关的相位变化来处理所述音频信号。在一些例子中,相位调节器232可以包括用于调整所述音频信号的全通滤波器,使得当所述触觉信号单独的效果接近系统限制之一时所述音频信号相对于所述触觉信号异相。
混频器234可以将来自音频处理器220的经处理音频信号输出与所述触觉信号组合,并可以在混频器输出212上输出经过混频的经处理音频和触觉信号。所述放大器(未示出)也可以被称为触觉驱动器,所述触觉驱动器可以将所述经过混频的经调整音频和触觉信号放大,并使用组合的信号驱动所述触觉致动器(未示出)。
音频-触觉信号发生器200可以以硬件或硬件和软件的组合实施,例如可在微控制器或数字信号处理器上执行的软件。
音频-触觉信号发生器200可以使得组合的音频和触觉信号同时输出,例如以在不过度驱动通常仅设计用于触觉输出的触觉致动器(如LRA)同时保持所述触觉性能的情况下产生音频-触觉效果。另外,通过对所述音频信号进行调整,触觉致动器(如LRA)的所述触觉性能可以不受另外的音频信号影响。音频-触觉信号发生器200可以取决于所述音频信号特性和所述触觉信号特性二者来处理所述音频信号。这可以使得控制器210比仅通过使用触觉信号更准确地调节所述音频信号的延迟、增益和相位。
图5示出了根据实施例的音频-触觉信号发生器300。音频-触觉信号发生器300包括控制器310和混频器330。混频器330包括音频处理器320和加法器334。可以将音频输入302连接到音频处理器320的输入。可以将音频处理器320的输出308连接到加法器334的第一输入。可以将触觉信号输入304连接到加法器334的第二输入。可以将加法器334的输出连接到混频器输出312。可以将触觉信号输入304连接到控制器310的第一输入。可以将音频信号输入302连接到控制器310的第二输入。控制器310可以具有放大器传感器输入314和触觉致动器传感器输入316。控制器310可以具有控制信号输出306,所述控制信号输出306连接到音频处理器320的控制输入。
在操作中,可以将混频器输出312可以连接到放大器340,所述放大器340可以为例如D类音频放大器。可以将放大器输出322可以连接到触觉致动器350,所述触觉致动器350可以为例如线性谐振致动器(LRA)。可以将触觉信号输入314连接到放大器340。可以将触觉致动器350连接到触觉致动器传感器输入316。
为了获得音频-触觉效果,可以在音频信号输入302上接收音频信号,并且可以在触觉信号输入304上接收触觉信号。所述音频信号是主要旨在产生来自所述触觉致动器的听觉输出的可听信号。所述触觉信号主要旨在产生来自所述触觉致动器的触感或触觉反馈。
在操作中控制器310可以接收所述触觉信号、所述音频信号、放大器传感器信号和触觉致动器传感器信号。
所述放大器传感器信号可以例如直接指示放大器状态或用于确定放大器状态。所述触觉致动器传感器信号可以例如直接指示触觉致动器状态或用于确定触觉致动器状态。
控制器310可以取决于所述触觉致动器状态、所述放大器状态和所述触觉信号和所述音频信号的特性中的一个或多个向音频处理器320施加控制信号,以使混频器330产生的输出不超过所述系统限制。
音频处理器320对所述音频信号的处理可以包括相对于所述触觉信号向所述音频信号施加延迟。音频处理器320对所述音频信号的处理可以包括将向所述音频信号施加时变增益。音频处理器320对所述音频信号的处理可以包括向所述音频信号施加与频率相关的振幅变化。音频处理器320对所述音频信号的处理可以包括向所述音频信号施加与频率相关的相位变化。加法器334可以将经处理的音频信号与触觉信号组合,并可以在混频器输出312上输出经过混频的经处理音频和触觉信号。放大器340也可以被称为触觉驱动器,所述触觉驱动器可以将所述经过混频的经调整音频和触觉信号放大,并可以使用组合的信号驱动触觉致动器350。
音频-触觉信号发生器300可以使得在不过度驱动所述系统或降低触觉性能的情况下对音频触觉信号进行混频。音频-触觉信号发生器300可以使得原本仅针对触觉输出设计的触觉致动器(如LRA)与音频-触觉信号一起使用。另外,由于控制器310基于音频信号和触觉信号的特性、放大器特性和触觉致动器状态控制音频处理器320,当保持在所述放大器和所述触觉致动器的系统限制以内时,所述音频信号的控制可以更为精确。
图6示出了根据实施例的音频-触觉信号发生器400。音频-触觉信号发生器400包括控制器410和混频器430。混频器430包括音频处理器420和加法器434。
音频处理器420可以包括延迟调节器422,所述延迟调节器422的具有连接到音频信号输入402的输入。延迟控制器422可以具有输出424,所述输出424连接到增益调节器426。控制器426可以具有输出428,所述输出428连接到相位调节器432。相位调节器432可以具有连接到音频处理器输出408的输出。可以将音频处理器输出408连接到混频模块434的第一输入。可以将加法器434的第二输入连接到触觉信号输入404。
控制器410可以具有振幅和频率检测器440,所述振幅和频率检测器440连接到音频信号输入402和触觉信号输入404。可以将振幅和频率检测器输出448连接到延迟控制器442。可以将延迟控制器442的输出连接到延迟控制输出406。可以将振幅和频率检测器输出448连接到增益控制器444。可以将增益控制器444的输出连接到增益控制输出406'。可以将振幅和频率检测器输出448连接到相位控制器446。可以将相位控制器446的输出连接到相位控制输出406"。
可以将延迟控制输出406连接到延迟调节器422。可以将增益控制输出406'连接到增益调节器426。可以将相位控制输出406"连接到相位调节器432。
控制器410可以具有放大器传感器输入414和触觉致动器传感器输入416,所述放大器传感器输入414和触觉致动器传感器输入416连接到状态参数计算器450。状态参数计算器450可以具有输出456,所述输出456连接到延迟控制器442、增益控制器444和相位控制器446。
在操作中,可以将混频器输出412连接到放大器(未示出),所述放大器连接到触觉致动器(如线性谐振致动器)。为了获得音频-触觉效果,可以将音频信号接收在音频信号输入402上,并且可以将触觉信号接收在触觉信号输入404上。振幅和频率检测器440可以确定音频信号的特性和触觉信号的特性。所述特性可以包括瞬时信号值、时变振幅、峰值振幅和频谱。振幅和频率检测器440可以将所述音频信号的特性和所述触觉信号的特性输出到延迟控制器442、增益控制器444和相位控制器446。
状态参数计算器450可以在放大器传感器输入414上从所述放大器(未示出)接收放大器传感器信号。状态参数计算器450可以在触觉致动器传感器输入416上从所述触觉致动器(未示出)接收触觉传感器信号。
状态参数计算器450可以根据相应的放大器传感器值和触觉致动器传感器值确定放大器状态值和触觉致动器状态值。在一些例子中,状态参数计算器450可以根据触觉致动器电流值确定LRA偏移和音圈温度的估计。在其它例子中,状态参数计算器450可以根据放大器电流值以及放大器行为模型确定LRA偏移和音圈温度的估计。状态参数计算器450可以将触觉状态值和放大器状态值提供给延迟控制器442、增益控制器444和相位控制器446。
延迟控制器442可以在延迟控制输出406上产生根据振幅和频率检测器440提供的所述音频信号特性和触觉信号特性以及根据状态参数计算器450提供的所述触觉致动器状态和放大器状态确定的延迟控制输出值。例如,当所述音频信号的瞬时信号值与所述触觉信号的瞬时信号值之和超过放大器电压限幅电平时,延迟控制器442可以控制延迟调节器422向所述音频信号施加延迟,以使得所述音频信号的峰值可以及时偏移。
增益控制器444可以在增益控制输出406'上产生根据所述音频信号特性、所述触觉信号特性、所述触觉致动器状态和所述放大器状态确定的增益控制输出值。增益调节器426可以取决于所述增益控制输出值调节所述音频信号的增益。
例如,当所述音频信号的瞬时信号值与所述触觉信号的瞬时信号值之和超过所述放大器电压限幅电平时,延迟控制器444可以控制增益调节器426施加与小于0 dB的增益值相对应的衰减。
相位控制器446可以在相位控制输出406"上产生根据所述音频信号特性、所述触觉信号特性、所述触觉致动器状态和所述放大器状态确定的相位控制输出值。相位调节器432可以取决于所述相位控制输出值调节所述音频信号的相位。
例如,当所述音频信号的瞬时信号值与所述触觉信号的瞬时信号值之和超过所述放大器电压限幅电平时,相位控制器446可以控制相位调节器432向所述音频信号施加全通滤波,以使得所述音频信号的峰值可以及时偏移。
加法器434可以将来自音频处理器420的所述经处理音频信号输出与所述触觉信号组合,并可以在混频器输出412上输出经过混频的经处理音频和触觉信号输出。所述放大器(未示出)也可以被称为触觉驱动器,所述触觉驱动器可以将所述经过混频的经调整音频和触觉信号放大,并使用组合的信号驱动所述触觉致动器(未示出)。
音频-触觉信号发生器400可以以硬件或硬件和软件的组合实施,例如可在微控制器或数字信号处理器上执行的软件。
音频-触觉信号发生器400可以使得组合的音频和触觉信号同时输出,例如以在不过度驱动通常仅设计用于触觉输出的触觉致动器(如LRA)同时保持所述触觉性能的情况下产生音频-触觉效果。另外,通过对所述音频信号进行调整,触觉致动器(如LRA)的所述触觉性能可以不受另外的音频信号影响。音频-触觉信号发生器400可以取决于所述音频信号特性和所述触觉信号特性以及所述放大器状态和所述触觉致动器状态二者处理所述音频信号。这可以使得控制器410比仅通过使用所述触觉信号、所述放大器状态或所述触觉致动器状态能更准确地调节所述音频信号的延迟、增益和相位。
在一些例子中,延迟调节器422、增益调节器426和相位调节器432中的一个或两个可以与对应的延迟控制器442、增益控制器444和相位控制器446一起被省去。在一些例子中,延迟调节器422、增益调节器426和相位调节器432可以以不同的顺序布置在音频输入402和音频处理器输出408之间。
图7示出了根据实施例的为包括放大器和触觉致动器的触觉系统产生音频触觉信号500的方法。在步骤502,接收音频信号。在步骤504,接收触觉信号。在步骤506,取决于音频信号的特性、触觉信号的特性、放大器状态和触觉致动器状态中的至少一个处理所述音频信号。在步骤508,对所述经处理的音频信号与所述触觉信号进行混频。方法500可以使得音频信号和触觉信号被组合并由放大器使用,以在不过度驱动所述系统或降低所述触觉性能的情况下驱动旨在仅用于触觉信号的触觉致动器。这可以避免需要用于听觉触觉效果的单独的扬声器。在一些例子中,方法500可以实时应用。在一些例子中,方法500可以应用于产生所述音频-触觉信号以供后用。
描述了一种用于触觉系统的音频-触觉信号发生器,所述触觉系统包括放大器,所述放大器联接到触觉致动器。所述音频-触觉信号发生器包括:音频输入,所述音频输入被配置成接收音频信号;触觉输入,所述触觉输入被配置成接收触觉信号;以及控制器,所述控制器被配置成接收所述触觉信号、放大器状态和触觉致动器状态中的至少一个。混频器联接到所述音频输入和所述触觉输入。所述混频器具有被配置成联接到触觉致动器的输出。所述控制器控制所述混频器取决于所述触觉信号的特性、放大器状态和触觉致动器状态中的至少一个处理所述音频信号。所述混频器被配置成对所述触觉信号和经处理音频信号进行混频,并且输出经过混频的触觉信号和经处理音频信号。
线性谐振致动器控制器的实施例和控制线性谐振致动器的方法的实施例可以被包括在如智能电话、智能手表、便携式医疗装置、可穿戴装置、笔记本电脑、平板电脑等的移动装置中。实施例可以被包括在使用具有触觉和音频反馈的HMI的任何装置中。例如,所述装置可以为用于工业控制、汽车控制或家庭控制系统的控制板。
本文所述的音频-触觉信号发生器可以例如被实施在使用单一触觉致动器的触摸板中,以用于许多应用领域,如汽车和物联网(IoT),其中物理按钮可以由虚拟按钮替代。
尽管所附权利要求针对特定特征组合,但是应当理解的是,本发明的公开范围还包括在本文中明确或隐含公开的任何新颖特征或任何新颖特征组合或其任何概括形式,而不论其是否涉及与任一权利要求中当前要求保护的发明相同的发明,并且无论其是否与本发明那样减轻了相同技术问题中的任何或所有问题。
在单独实施例的上下文中描述的特征还可以在单个实施例中组合提供。相反,在单个实施例的上下文中为简洁起见描述的各种特征也可以单独提供或以任何合适的子组合提供。
在一些示例实施例中,上述指令集/方法步骤被实施为被具体化为可执行指令集的功能和软件指令,所述功能和软件指令在由所述可执行指令编程和控制的计算机或机器上实现。此类指令被加载以供在处理器(如一个或多个CPU)上执行。术语处理器包括微处理器、微控制器、处理器模块或子系统(包括一个或多个微处理器或微控制器),或其它控制或计算装置。处理器可以指代单个组件或多个组件。
申请人特此声明,在本申请或由其衍生的任一另外的申请的诉讼期间,可以针对这种特征和/或这种特征的组合形成新的权利要求。
为了完整起见,还指出,术语“包括”不排除其它元件或步骤,术语“一个或一种(a或an)”不排除多个,单个处理器或其它单元可以实现权利要求中所述的若干装置的功能,并且权利要求中的附图标记不应被解释为限制权利要求的范围。

Claims (8)

1.一种用于触觉系统的音频-触觉信号发生器,其特征在于,所述触觉系统包括联接到触觉致动器的放大器,所述音频-触觉信号发生器包括:
音频输入,所述音频输入被配置成接收音频信号;
触觉输入,所述触觉输入被配置成接收触觉信号;
控制器,所述控制器被配置成接收所述触觉信号、所述音频信号、放大器状态和触觉致动器状态;
混频器,所述混频器联接到所述音频输入和所述触觉输入并且具有混频器输出,所述混频器输出被配置成联接到所述放大器;其中
所述控制器被另外配置成控制所述混频器取决于所述触觉信号的特性、所述音频信号的特性、所述放大器状态和所述触觉致动器状态处理所述音频信号;并且
其中所述混频器被配置成对所述触觉信号和经处理音频信号进行混频,并且输出经过混频的音频-触觉信号。
2.根据权利要求1所述的音频-触觉信号发生器,其特征在于,所述控制器另外包括放大器传感器输入,所述放大器传感器输入被配置成联接到所述放大器,其中所述控制器被另外配置成根据在所述放大器传感器输入上接收到的传感器信号确定放大器状态,并且控制所述混频器取决于所述放大器状态处理所述音频信号。
3.根据权利要求1所述的音频-触觉信号发生器,其特征在于,所述控制器另外包括触觉致动器传感器输入,所述触觉致动器传感器输入被配置成联接到触觉致动器,其中所述控制器被另外配置成根据在所述触觉致动器传感器输入上接收到的触觉致动器传感器信号确定触觉致动器状态,并且控制所述混频器取决于所述触觉致动器状态处理所述音频信号。
4.根据权利要求1所述的音频-触觉信号发生器,其特征在于,所述混频器被配置成通过以下中的至少一个处理所述音频信号:相对于所述触觉信号对所述音频信号进行时移、向所述音频信号施加增益、向所述音频信号施加与频率相关的增益、向所述音频信号施加与频率相关的相移和对所述音频信号进行高通滤波。
5.根据权利要求1至4中任一项所述的音频-触觉信号发生器,其特征在于,所述混频器包括音频处理器和加法器,所述音频处理器联接到所述加法器,并且其中音频处理器输入联接到所述音频输入,音频处理器输出联接到所述加法器的第一输入,并且触觉信号输入联接到所述加法器的第二输入,并且所述加法器的输出联接到所述混频器输出。
6.一种触觉系统,其特征在于,包括权利要求1至5中任一项所述的音频-触觉信号发生器和放大器,所述放大器具有联接到所述混频器的所述输出的输入和被配置成联接到触觉致动器的输出。
7.一种人机接口,其特征在于,包括根据权利要求6所述的触觉系统。
8.一种为触觉系统产生音频-触觉信号的方法,其特征在于,所述触觉系统包括权利要求6所述的触觉系统,所述方法包括:
接收音频信号;
接收触觉信号;
取决于所述触觉信号的特性、所述音频信号的特性、放大器状态和触觉致动器状态处理所述音频信号;以及
对经处理音频信号和所述触觉信号进行混频。
CN202010016460.9A 2019-01-07 2020-01-07 音频-触觉信号发生器 Active CN111414076B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202410175174.5A CN118034496A (zh) 2019-01-07 2020-01-07 音频-触觉信号发生器
CN202410175172.6A CN118034495A (zh) 2019-01-07 2020-01-07 音频-触觉信号发生器

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP19150625.2 2019-01-07
EP19150625.2A EP3677996B1 (en) 2019-01-07 2019-01-07 Audio-haptic signal generator

Related Child Applications (2)

Application Number Title Priority Date Filing Date
CN202410175172.6A Division CN118034495A (zh) 2019-01-07 2020-01-07 音频-触觉信号发生器
CN202410175174.5A Division CN118034496A (zh) 2019-01-07 2020-01-07 音频-触觉信号发生器

Publications (2)

Publication Number Publication Date
CN111414076A CN111414076A (zh) 2020-07-14
CN111414076B true CN111414076B (zh) 2024-02-02

Family

ID=65009641

Family Applications (3)

Application Number Title Priority Date Filing Date
CN202410175174.5A Pending CN118034496A (zh) 2019-01-07 2020-01-07 音频-触觉信号发生器
CN202410175172.6A Pending CN118034495A (zh) 2019-01-07 2020-01-07 音频-触觉信号发生器
CN202010016460.9A Active CN111414076B (zh) 2019-01-07 2020-01-07 音频-触觉信号发生器

Family Applications Before (2)

Application Number Title Priority Date Filing Date
CN202410175174.5A Pending CN118034496A (zh) 2019-01-07 2020-01-07 音频-触觉信号发生器
CN202410175172.6A Pending CN118034495A (zh) 2019-01-07 2020-01-07 音频-触觉信号发生器

Country Status (3)

Country Link
US (2) US11320907B2 (zh)
EP (1) EP3677996B1 (zh)
CN (3) CN118034496A (zh)

Families Citing this family (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10732714B2 (en) 2017-05-08 2020-08-04 Cirrus Logic, Inc. Integrated haptic system
US10620704B2 (en) * 2018-01-19 2020-04-14 Cirrus Logic, Inc. Haptic output systems
US11139767B2 (en) 2018-03-22 2021-10-05 Cirrus Logic, Inc. Methods and apparatus for driving a transducer
US11269415B2 (en) 2018-08-14 2022-03-08 Cirrus Logic, Inc. Haptic output systems
GB201817495D0 (en) 2018-10-26 2018-12-12 Cirrus Logic Int Semiconductor Ltd A force sensing system and method
EP3677996B1 (en) * 2019-01-07 2022-03-23 Goodix Technology (HK) Company Limited Audio-haptic signal generator
US10828672B2 (en) 2019-03-29 2020-11-10 Cirrus Logic, Inc. Driver circuitry
US10992297B2 (en) 2019-03-29 2021-04-27 Cirrus Logic, Inc. Device comprising force sensors
US20200313529A1 (en) 2019-03-29 2020-10-01 Cirrus Logic International Semiconductor Ltd. Methods and systems for estimating transducer parameters
US11644370B2 (en) 2019-03-29 2023-05-09 Cirrus Logic, Inc. Force sensing with an electromagnetic load
US10955955B2 (en) 2019-03-29 2021-03-23 Cirrus Logic, Inc. Controller for use in a device comprising force sensors
US10726683B1 (en) 2019-03-29 2020-07-28 Cirrus Logic, Inc. Identifying mechanical impedance of an electromagnetic load using a two-tone stimulus
US11509292B2 (en) 2019-03-29 2022-11-22 Cirrus Logic, Inc. Identifying mechanical impedance of an electromagnetic load using least-mean-squares filter
US11150733B2 (en) 2019-06-07 2021-10-19 Cirrus Logic, Inc. Methods and apparatuses for providing a haptic output signal to a haptic actuator
US10976825B2 (en) 2019-06-07 2021-04-13 Cirrus Logic, Inc. Methods and apparatuses for controlling operation of a vibrational output system and/or operation of an input sensor system
KR20220024091A (ko) 2019-06-21 2022-03-03 시러스 로직 인터내셔널 세미컨덕터 리미티드 디바이스 상에 복수의 가상 버튼을 구성하기 위한 방법 및 장치
US11408787B2 (en) 2019-10-15 2022-08-09 Cirrus Logic, Inc. Control methods for a force sensor system
US11380175B2 (en) 2019-10-24 2022-07-05 Cirrus Logic, Inc. Reproducibility of haptic waveform
US11545951B2 (en) 2019-12-06 2023-01-03 Cirrus Logic, Inc. Methods and systems for detecting and managing amplifier instability
US11662821B2 (en) 2020-04-16 2023-05-30 Cirrus Logic, Inc. In-situ monitoring, calibration, and testing of a haptic actuator
US11933822B2 (en) 2021-06-16 2024-03-19 Cirrus Logic Inc. Methods and systems for in-system estimation of actuator parameters
US11765499B2 (en) 2021-06-22 2023-09-19 Cirrus Logic Inc. Methods and systems for managing mixed mode electromechanical actuator drive
US11908310B2 (en) 2021-06-22 2024-02-20 Cirrus Logic Inc. Methods and systems for detecting and managing unexpected spectral content in an amplifier system
US11552649B1 (en) 2021-12-03 2023-01-10 Cirrus Logic, Inc. Analog-to-digital converter-embedded fixed-phase variable gain amplifier stages for dual monitoring paths

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106878874A (zh) * 2015-12-10 2017-06-20 恩智浦有限公司 触觉反馈控制器
CN108076419A (zh) * 2016-11-14 2018-05-25 恩智浦有限公司 线性谐振致动器控制器

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012022537A (ja) * 2010-07-15 2012-02-02 Hitachi Ltd 圧電アクチュエータ駆動装置
FR2964761B1 (fr) * 2010-09-14 2012-08-31 Thales Sa Dispositif d'interaction haptique et procede de generation d'effets haptiques et sonores
WO2014132104A1 (en) * 2013-03-01 2014-09-04 Nokia Corporation Control apparatus for a tactile audio display
CN106575230A (zh) * 2014-09-02 2017-04-19 苹果公司 用于可变触觉输出的语义框架
US9891714B2 (en) * 2014-12-24 2018-02-13 Immersion Corporation Audio enhanced simulation of high bandwidth haptic effects
US9843874B2 (en) * 2016-03-28 2017-12-12 Ubdevice Corp. Equalized hearing aid system
US20180304310A1 (en) * 2017-04-24 2018-10-25 Ultrahaptics Ip Ltd Interference Reduction Techniques in Haptic Systems
US10732714B2 (en) * 2017-05-08 2020-08-04 Cirrus Logic, Inc. Integrated haptic system
EP3677996B1 (en) * 2019-01-07 2022-03-23 Goodix Technology (HK) Company Limited Audio-haptic signal generator

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106878874A (zh) * 2015-12-10 2017-06-20 恩智浦有限公司 触觉反馈控制器
CN108076419A (zh) * 2016-11-14 2018-05-25 恩智浦有限公司 线性谐振致动器控制器

Also Published As

Publication number Publication date
EP3677996B1 (en) 2022-03-23
EP3677996A1 (en) 2020-07-08
US11320907B2 (en) 2022-05-03
CN118034495A (zh) 2024-05-14
CN111414076A (zh) 2020-07-14
CN118034496A (zh) 2024-05-14
US11768541B2 (en) 2023-09-26
US20220221937A1 (en) 2022-07-14
US20200218352A1 (en) 2020-07-09

Similar Documents

Publication Publication Date Title
CN111414076B (zh) 音频-触觉信号发生器
CN108989952B (zh) 声处理器、移动装置以及声处理方法
CN106970772B (zh) 用于触觉反馈元件的控制器
US10109161B2 (en) Haptic driver with attenuation
CN106878874B (zh) 触觉反馈控制器
US9213408B2 (en) Generating haptic effects while minimizing cascading
CN108196683B (zh) 利用波形的声音到触觉效应转换系统
CN114341959A (zh) 最小化换能器稳定时间
JP2020501178A (ja) コヒーレンスベースの動的安定性制御システム
EP3110169B1 (en) Acoustic processing device, acoustic processing method, and acoustic processing program
CN111955016B (zh) 改变麦克风处的机械振动的方法和系统
JP6746588B2 (ja) 増幅器のパワー制限のためにボリューム利得を適合させるための方法、および増幅器
CN104378484A (zh) 一种音量控制的方法及电子设备
US7969287B2 (en) Haptic effect control system
CN111078043B (zh) 一种低频振感补偿方法、装置及电子设备
US11043200B2 (en) Sound control device for vehicle
CN113940095A (zh) 峰值电流限流器
EP3748474B1 (en) Audio-haptic processor, method, system and computer program product
TWI554942B (zh) 用於修改控制信號的系統,處理器設備和方法
JP7344058B2 (ja) 制御装置、制御方法、及びプログラム
CN111381764A (zh) 触觉效果信号处理
WO2019223856A1 (en) Electronic device with force sensitive display

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant