CN104750245A - 用于记录和重放具有触觉内容的视点视频的系统和方法 - Google Patents

用于记录和重放具有触觉内容的视点视频的系统和方法 Download PDF

Info

Publication number
CN104750245A
CN104750245A CN201410838641.4A CN201410838641A CN104750245A CN 104750245 A CN104750245 A CN 104750245A CN 201410838641 A CN201410838641 A CN 201410838641A CN 104750245 A CN104750245 A CN 104750245A
Authority
CN
China
Prior art keywords
vibration
video
user
output devices
sensor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201410838641.4A
Other languages
English (en)
Inventor
V·利维斯克
J·萨布尼
D·M·伯恩鲍姆
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Immersion Corp
Original Assignee
Immersion Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Immersion Corp filed Critical Immersion Corp
Publication of CN104750245A publication Critical patent/CN104750245A/zh
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • H04N5/93Regeneration of the television signal or of selected parts thereof
    • H04N5/9305Regeneration of the television signal or of selected parts thereof involving the mixing of the reproduced video signal with a non-recorded signal, e.g. a text signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/27Server based end-user applications
    • H04N21/274Storing end-user multimedia data in response to end-user request, e.g. network recorder
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/014Hand-worn input/output arrangements, e.g. data gloves
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016Input arrangements with force or tactile feedback as computer generated output to the user
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B6/00Tactile signalling systems, e.g. personal calling systems
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B5/00Electrically-operated educational appliances
    • G09B5/02Electrically-operated educational appliances with visual presentation of the material to be studied, e.g. using film strip
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/23614Multiplexing of additional data and video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/432Content retrieval operation from a local storage medium, e.g. hard-disk
    • H04N21/4325Content retrieval operation from a local storage medium, e.g. hard-disk by playing back content from the storage medium
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/74Projection arrangements for image reproduction, e.g. using eidophor
    • H04N5/7475Constructional details of television projection apparatus
    • H04N5/7491Constructional details of television projection apparatus of head mounted projectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42201Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS] biosensors, e.g. heat sensor for presence detection, EEG sensors or any limb activity sensors worn by the user
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/433Content storage operation, e.g. storage operation in response to a pause request, caching operations
    • H04N21/4334Recording operations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • H04N7/185Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source from a mobile camera, e.g. for remote control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/188Capturing isolated or intermittent images triggered by the occurrence of a predetermined event, e.g. an object reaching a predetermined position

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Optics & Photonics (AREA)
  • Educational Technology (AREA)
  • Business, Economics & Management (AREA)
  • Educational Administration (AREA)
  • Databases & Information Systems (AREA)
  • User Interface Of Digital Computer (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

本发明涉及用于记录和重放具有触觉内容的视点视频的系统和方法。一种系统,包括配置为记录事件的视点视频的视频记录器、配置为感测与事件关联的振动的传感器、配置为同步所记录的视点视频和感测到的振动的处理器,以及包括显示器和触觉输出设备的重放设备。重放设备配置为重放同步的视点视频和振动,并且触觉输出设备配置为基于振动生成触觉效果。

Description

用于记录和重放具有触觉内容的视点视频的系统和方法
对相关申请的交叉引用
本申请要求于2013年12月31日提交的美国临时专利申请序列No.61/922,648的优先权利益,其全部内容通过引用被结合于此。
技术领域
本发明针对用于记录和重放具有触觉内容的视点视频的系统和方法。
背景技术
电子设备允许用户记录可以捕捉事件的视觉和听觉这两方面的视频。电子设备还可以被编程为在用户观看在电子设备上播放的视频时提供触觉感觉。触觉感觉通常是预先编程的,使得当视频被播放时用户可以连同视频一起经历触觉效果,以便为用户提供更沉浸式的体验。现有的设备只允许在视频被记录之后才确定触觉效果。目前,创建触觉效果和感觉是非实时进行的劳动密集型过程。
形式为头戴式显示器,诸如Google眼镜,的新一代电子设备允许佩戴者从他/她的视点记录事件的视觉和听觉方面并且重放所谓的“视点”视频。视频可以发送到其他人,使得观看者可以在他/她自己的电子设备上重放该视频并且就好像他/她在经历该事件一样重新体验该经历。
发明内容
期望能够在记录事件的其它实时方面的同时记录事件的视点视频,使得事件的实时方面可以作为触觉感觉与视频一起重放,以便为观看该视点视频并感觉到触觉感觉重放的观看者提供甚至更现实和沉浸式的体验。
根据本发明的一方面,提供了一种系统,所述系统包括:配置为记录事件的视点视频的视频记录器,配置为感测与事件关联的振动的传感器,配置为同步所记录的视点视频和感测到的振动的处理器,以及包括显示器和触觉输出设备的重放设备。重放设备配置为重放同步的视点视频和振动,并且触觉输出设备配置为基于振动生成触觉效果。
在实施例中,视频记录器和传感器是第一电子设备的部分。在实施例中,第一电子设备是头戴式显示设备。在实施例中,处理器和重放设备也是头戴式显示设备的部分。在实施例中,重放设备是与第一电子设备分离并且与其无线通信的第二电子设备。在实施例中,第二电子设备是头戴式显示设备。
在实施例中,视点视频包括训练视频。
根据本发明的一方面,提供了一种方法,所述方法包括:利用视频记录器记录事件的视点视频,在记录视点视频的同时利用传感器感测与事件关联的振动,同步所记录的视点视频和感测到的振动,以及利用包括显示器和触觉输出设备的重放设备重放合成的视点视频和振动,其中触觉输出设备基于振动生成触觉效果。
在实施例中,所述方法还包括把同步的视点视频和振动传送到重放设备。在实施例中,传送是无线地完成的。在实施例中,传送是至少部分地经互联网完成的。
根据本发明的一方面,提供了一种系统,所述系统包括:配置为感测与由所述系统的用户经历的事件关联的振动的传感器,以及配置为基于振动生成触觉效果并且在用户经历所述事件的时候向用户输出触觉效果的触觉输出设备。
根据本发明的一方面,提供了一种方法,所述方法包括:利用由经历事件的用户携带的传感器感测与事件关联的振动,利用触觉输出设备基于振动生成触觉效果,以及在用户经历所述事件的时候向用户输出触觉效果。
当参考附图考虑以下描述和所附权利要求时,本发明的这些与其它方面、特征和特性,以及操作方法与结构和部件组合的相关元件的功能及制造的经济性,都将变得更加显然,其中附图、以下描述和权利要求都构成本说明书的一部分。但是,应当明确地理解,附图仅仅是为了说明和描述的目的而不是要作为本发明限制的定义。如在说明书和权利要求中所使用的,除非上下文清楚地另外指出,否则单数形式“一”、“一个”和“该”也包括复数的所指对象。
附图说明
说明以下附图的组成部分是为了强调本公开内容的一般原理而不一定是按比例绘制的。为了一致性和清晰,指示对应组成部分的标号贯穿附图在必要的时候重复。
图1说明了根据本发明实施例的系统;
图2说明了根据本发明实施例的方法;
图3说明了根据本发明实施例的图1系统的实现;
图4说明了根据本发明实施例的图1系统的实现;
图5A和5B说明了根据本发明实施例的图1系统的实现;
图6说明了根据本发明实施例的图1系统的实现;
图7说明了根据本发明实施例的图1系统的实现;
图8说明了根据本发明实施例的图1系统的实现;以及
图9说明了根据本发明实施例的图1系统的实现。
具体实施方式
图1说明了根据本发明实施例的系统100。如所说明的,系统100包括一个或多个传感器102,其中传感器配置为感测由记录事件的用户或者是事件主题的对象所经历的振动,并且把感测到的振动转换为传感器数据。系统100还包括配置为捕捉和记录事件的图像的视频记录器104,以及配置为捕捉和记录与事件关联的声音的音频记录器106。在实施例中,传感器102、视频记录器104和音频记录器106可以是同一电子设备140的部分。在实施例中,视频记录器104和音频记录器106可以是同一电子设备的部分,而传感器102可以与包括视频记录器104和音频记录器106的电子设备分离。在其中视频记录器104和音频记录器106是同一电子设备的部分的实施例中,该电子设备可以是头戴式设备,诸如像Google眼镜。在实施例中,传感器102、视频记录器104和音频记录器106可以是单独的独立设备,或者是单独的独立设备的部分。
处理器110配置为处理由传感器102、视频记录器104和音频记录器106输出的信号和数据,如以下更详细讨论的。系统100还包括输入变换器112、可以是处理器110的部分的输出变换器114、以及也可以是处理器110的部分的解码器116。输入变换器112、输出变换器114和解码器116的各方面在以下更详细地讨论。
如图1中所说明的,系统100还包括配置为向系统的用户输出触觉效果的触觉输出设备118、配置为显示诸如由视频记录器104捕捉的图像的图像的显示器120、以及配置为输出可以是由音频记录器106捕捉的声音的声音的扬声器122。触觉输出设备118、显示器120和扬声器122可以是电子重放设备130的部分,如以下更详细讨论的。在实施例中,触觉输出设备118、显示器120和/或扬声器122可以是可佩带设备,诸如头戴式显示器,的部分。在实施例中,触觉输出设备118、显示器120和扬声器122可以是配置为通过例如无线连接彼此通信的单独设备。在实施例中,触觉输出设备118可以是可佩带设备的部分,显示器120可以是电视机的部分,而扬声器122可以是与显示器120分离的无线扬声器。
触觉输出设备118可以包括致动器,例如,诸如其中偏心质块被电动机移动的偏心旋转质块(“ERM”)的电磁致动器、其中附连到弹簧的质块被前后驱动的线性共振致动器(“LRA”),或者诸如压电材料、电活性聚合物或形状记忆合金的“智能材料”、宏观复合纤维致动器、静电致动器、电触感致动器,和/或提供诸如触觉(例如,振动触感)反馈的物理反馈的其它类型致动器。触觉输出设备118可以包括非机械或者非振动设备,诸如使用静电摩擦(ESF)、超声表面摩擦(USF)的设备,或者利用超声触觉换能器感应出声辐射压力的设备,或者使用触觉衬底和弹性或可变形表面的设备,或者提供突出的触觉输出的设备,诸如利用空气喷嘴的一股空气,等等。
电子存储器124可以用来存储由传感器102感测的数据,电子存储器126可以用来存储由视频记录器104记录的数据,而电子存储器128可以用来存储由音频记录器106记录的数据。存储器124、126、128可以包括一个或多个内部固定存储单元、可拆卸存储单元、和/或可远程访问的存储单元。各个存储单元可以包括易失性存储器和非易失性存储器的任意组合。存储单元可以配置为存储信息、数据、指令、软件代码等的任意组合。在其中传感器102、视频记录器104和音频记录器106是同一电子设备140的部分的实施例中,存储器124、126、128可以共处一处。在其中视频记录器104和音频记录器106是同一电子设备的部分的实施例中,存储器126、128可以共处一处。
在实施例中,用户可以利用视频记录器104和/或音频记录器106记录场景或事件的视频和/或音频。在实施例中,视频记录器104和音频记录器106可以是同一记录设备的部分,其中记录设备诸如视频摄录一体机、智能电话、头戴式记录设备等。被记录的视频和音频可以存储在电子存储器126、128中,如以上所讨论的。在实施例中,传感器102可以放在感兴趣的对象上,诸如放在记录事件的用户身上或者放在当用户记录事件时用户与之接触的物品上。在实施例中,传感器102可以放在事件中远离记录该事件的用户的感兴趣的对象上。
如以上所讨论的,由传感器102生成的数据可以存储在电子存储器124中。此外,由传感器102生成的数据可以在存储在电子存储器124中之前由输入变换器112变换,如图1中所说明的。传感器数据的变换被认为是可选步骤并且是否需要变换可以依赖于所使用的传感器的本质。传感器102的实施例的细节在以下更详细地讨论。
可以是配置为重放视频,即媒体文件,的媒体播放器的部分的解码器116配置为从电子存储器124读取由传感器102生成的数据,并且把该数据临时与记录并存储在电子存储器126、128中的音频数据和视频数据关联。在媒体重放期间,解码器116可以使传感器数据通过配置为把传感器数据变换成触觉输出信号的输出变换器114,以生成一个或多个触觉效果或触觉感官命令,包括但不限于振动、表面摩擦调制、皮肤收缩、皮肤挤压等。解码器116可以配置为同步从传感器数据变换出的触觉输出信号与视频数据和音频数据,使得在重放期间触觉效果与视频和音频同步。在实施例中,同步可以通过在重放期间确保视频数据、音频数据和触觉效果中的时间相同来完成。
处理器110可以是用于管理或控制系统100的操作和功能的通用或专用处理器或微控制器。例如,处理器110可以专门设计作为控制到触觉输出设备118的输出信号以提供触觉效果的专用集成电路(“ASIC”)。处理器110可以配置为基于预定义的因素决定要生成什么触觉效果、触觉效果生成的次序,以及触觉效果的量级、频率、持续时间和/或其它参数。处理器110还可以配置为提供可以用来驱动触觉输出设备118以便提供特定触觉效果的流化命令。在有些实施例中,处理器110实际上可以是多个处理器,每个处理器配置为执行系统100中的某些功能。处理器110还可以包括具有一个或多个存储设备的存储器,这些存储设备可以包括触觉效果简档、用于触觉输出设备118如何被驱动的指令,和/或用于生成触觉效果的其它信息。在其中图1中所说明的整个系统100是单个电子设备的部分的实施例中,存储器124、126、128可以是处理器110的部分。
然后,触觉输出信号可以从处理器110,例如从处理器110的解码器116,发送到触觉输出设备118,使得通过包括触觉输出设备118的电子重放设备130经历该媒体的人可以更完全地经历被重放的事件。电子重放设备130可以是任何设备,诸如电子手持式设备,诸如移动电话(即,智能电话)、游戏设备、个人数字助理(“PDA”)、便携式电子邮件设备、便携式互联网接入设备、平板电脑等。电子重放设备130可以包括但不限于具有显示媒体的显示器120的手持式设备或者可佩带设备,其中显示器可以是高清晰显示器,以及能够产生触觉感觉或效果的手持式对象,或者附连到用户身体、倾靠到用户身体上或者以别的方式能够向用户发送触感感觉和触觉效果的对象。
在实施例中,处理器110和触觉输出设备118可以是电子手持式设备或可佩带设备的部分,其中电子手持式设备可以是电话或平板电脑,而可佩带设备诸如智能手表、手镯、项链、束头带、眼镜、头戴式显示器等,并且电子手持式设备可以配置为向单独的显示器120输出视频数据,其中显示器120可以是电视机。在这种实施例中,重放事件的用户可以在电视机上观看该事件并且在电子手持式设备上感觉到与该事件关联的振动。
在实施例中,传感器102、视频记录器104、音频记录器106、输入变换器112以及关联的存储器设备124、126和128可以是同一电子设备140的部分。在实施例中,电子设备140可以是头戴式显示设备。在实施例中,电子重放设备130可以是与包括传感器102、视频记录器104和音频记录器106的电子设备140相同的设备。在实施例中,电子重放设备130和电子设备140可以配置为通过例如无线连接彼此通信。在实施例中,图1中所说明的整个系统100可以是同一电子设备的部分,其中该电子设备可以是头戴式显示设备。
在实施例中,系统100可以包括具有陀螺仪、指南针和用于传感器102的三轴加速计传感器以及用作视频记录器104的内置照相机的移动电话或可佩带紧凑式电子设备。在这种情况下,图1中所说明的所有部件,包括数据记录传感器102、视频记录器104、音频记录器106、包括解码器116和输出变换器114的处理器110、触觉输出设备118、显示器120、扬声器122、输入变换器112以及电子存储器124、126可以是自足的,并且整个系统100可以附连到人或者执行感兴趣的行为的一台设备。
在实施例中,第一人称视角视频照相机可以安装到头盔或者执行感兴趣的行为的一台设备,并且视频照相机可以结合多个数据传感器102,诸如加速计、全球定位系统(“GPS”)和陀螺仪,如果需要的话还有输入变换器112,电子存储器124,视频记录器104,音频记录器106,以及电子存储器126。系统100的剩余部分,诸如包括解码器116和输出变换器114的处理器110、触觉输出设备118、显示器120和扬声器122可以位于单独的重放设备中,诸如以上讨论的电子重放设备130。
在实施例中,可以包括一个或多个数据传感器,诸如加速计、激光振动计、GPS等,的传感器102可以或者附连到人或者附连到执行感兴趣的行为的设备。传感器102可以包含在传感器盒子中,或者配置为保护传感器102的某个其它容器中。传感器盒子可以具有内置的数据记录装置,诸如输入变换器112和电子存储器124,或者可以依赖于到辅助设备(诸如移动设备)的数据连接在所述行为期间记录数据。
在实施例中,由操作视频记录器104的人经历的振动可以利用形式为直接或间接连接到视频记录器104的加速计的传感器102记录。加速计可以例如集成在视频记录器104中或者安装在用户的设备上,诸如像自行车,或者安装在可佩带物品上,诸如像手镯。在实施例中,传感器102可以是在经历振动的人身上或者别的地方提供的激光振动计的形式。在实施例中,振动还可以从视频图像的运动或者从由音频记录器106记录的声音连同视频一起来推断。振动的强度可以例如从所记录的视频的摇晃来推断。声音可以类似地被分析,以检测与振动相关的噪声,或者诸如碰撞声的离散事件。在实施例中,振动可以通过有时候用于音频输出的骨导换能器记录。
在实施例中,智能过滤或变换可以被处理器110用来从振动记录除去噪声。例如,如果测量在头戴式记录设备的框架上取得,则由在头戴式记录设备上输入的触摸造成的振动可能需要被建模并从记录中除去。视频可以从不同的视点取得,例如,包括来自头戴式记录设备的前面、后面或侧面的视图,来自手持式照相机诸如智能电话的照相机的视图,来自机器人诸如远程呈现机器人的视图,和/或来自遥控车的视图。
在实施例中,记录会话可以被启动,其中传感器数据的流连同视频和音频数据一起记录。视频记录器104和/或音频记录器106可以被记录事件的人佩戴或以别的方式携带。包含振动、视频和音频数据在内的所有数据流的同步可以由记录软件管理,该记录软件可以驻留在图1中所说明的系统100的处理器110中。
在实施例中,可以使用允许在单个文件容器中除视频和音频之外其它数据的存储的灵活容器格式,诸如MPEG-4。在这种实施例中,特定的编码器集合可以用来在记录期间把传感器数据放到MPEG-4文件中。在实施例中,可以写特殊的软件,以便在单独的文件中存储非音频和视频(A/V)的传感器数据,但是在传感器数据中具有特殊的标记,以允许在重放时正确同步。在这种实施例中,除整形传感器数据以遵守所设计的记录格式的限制之外,可以需要应用非常少的输入变换。确切的格式可以由实现者确定。一旦记录事件的人已经完成他或她的行为,记录就可以停止。MPEG-4文件可以被关闭,并且所有传感器数据可以驻留在MPEG-4文件中。
在实施例中,重放设备可以是图1的电子重放设备130,并且可以是具有显示器120、扬声器122和作为触觉输出设备118的振动设备以便提供触觉效果的移动电话或平板电脑的形式。在实施例中,重放设备可以是连接到具有显示器120和扬声器122的电视机并且还连接到包括触觉输出设备118以便提供触觉效果的游戏外围设备(诸如游戏手柄)的游戏控制台。
或者在以后的时间,或者与行为被执行同时,一个或多个观看者会对经历该行为感兴趣。为了重放该行为,观看者可以在他们的重放设备上启动适当的重放软件,其目标是从执行者的视点经历执行者的行为。在实施例中,重放软件可以包括结合由解码器116执行的传感器解码方案的播放器软件应用,以及可以由输出变换器114运行的输出变换软件,以便把传感器数据变换成适于重放设备130中的触觉输出设备118的触觉输出信号。在实施例中,播放器软件应用可以结合传感器解码方案。播放器软件可以依赖于驻留在或者以别的方式预先安装在重放设备上的输出变换软件,并且这种输出变换软件可以把传感器数据变换成适于重放设备中的触觉输出设备118的触觉输出信号。换句话说,输出变换器114和/或解码器116可以位于重放设备130上。
在实施例中,播放器软件应用可以依赖于重放设备的操作系统软件来执行媒体重放,该操作系统软件结合传感器解码方案。操作系统软件可以依赖于驻留在或者以别的方式预先安装在重放设备上的输出变换软件,并且这种输出变换软件可以把传感器数据变换成适于重放设备中的触觉输出设备118的触觉输出信号。于是,观看者可以经历与表演观看关联的触觉感觉,这种触觉感觉由输出变换软件产生。
然后,视频和传感器数据流可以被同步、合并并发送到重放设备130。同步可以例如通过在每个视频帧和传感器测量上包括时间戳、牢记捕捉可以在通过有线或无线网络通信的独立设备上发生来进行。因此,记录设备会需要例如从GPS系统获得共享的时间参考。或者,同步可以通过执行在视频和传感器数据流中都可检测的具体动作诸如上下跳跃三次来执行。
结果产生的数据可以作为结合振动和视频的单个数据流或者作为具有同步信息的两个数据流来发送。数据流可以逐步发送到重放设备,或者存储在文件中用于以后重放。在实施例中,触觉反馈可以利用编辑工具离线产生并且在后期制作中添加到视点视频。
视点视频可以在以后重放或者实时地流化,在这两种情况下都是通过一个或多个接收方。视频可以在几个设备上重放,但不限于:智能眼镜(例如,Google眼镜)、智能电话或平板电脑、计算机、家庭影院系统,等等。
在实施例中,触觉反馈可以立即向记录的人重放,或者为了监视反馈的质量或者为了放大触觉体验。触觉反馈可以类似地利用位于智能电话或平板电脑、可佩带设备上的不同触觉输出设备产生,其中可佩带设备诸如头戴式显示设备、智能手表、护腕、戒指或手套,或者家具,诸如椅子或桌子。
重放设备应当能够解码视频和振动流,并且维持视频和振动之间的同步。重放设备130中的单个微控制器可以例如基于视频和振动流控制视频显示器120和触觉输出设备118。
图2说明了根据本发明实施例的方法200。在210,视频被记录设备诸如上述视频记录器104记录。在220,振动被传感器诸如上述传感器102感测。在230,视频和振动利用处理器诸如上述处理器110同步。在240,同步的视频和振动利用电子重放设备诸如上述包括显示器120和触觉输出设备118的电子重放设备130重放。
图3-9说明了上述系统100的实施例的各种示例性实现。这些实现和实施例不是要以任何方式进行限制。
图3说明了上述系统100的实施例300,其中用户在带着包括视频记录器和至少一个振动传感器的头戴式显示设备310滑滑雪板时记录特技的视点视频。用户随后可以把具有嵌入的触觉轨迹的视频在互联网上发布,使得他/她的朋友可以在他们的电子重放设备320诸如平板电脑上观看该视频,其中每个重放设备都配备显示器322和至少一个触觉输出设备324,使得由触觉输出设备324生成并且代表由用户记录的振动V的触觉效果HE可以被该用户的朋友感觉到,就好像他们和该用户在那里一样。用户佩戴的振动传感器允许用户的朋友感觉到用户在特技期间感觉到的所有振动,尤其是他/她在跳跃之后硬着陆时的碰撞。
图4说明了上述系统100的实施例400,其中用户在他/她带着头戴式显示设备410在山上骑自行车时记录特定崎岖行程(ride)的视点视频。用户还通过由安装在用户背上或头戴式显示设备410上的触觉输出设备420生成的触觉效果HE记录自动车的振动V并感觉在他/她的背上放大的振动。作为触觉效果HE产生的放大的振动会使得该行程对用户来说更惊心动魄。
图5A和5B说明了上述系统100的实施例500,该系统由用户利用头戴式显示器510从用户的角度用来记录高尔夫的视点训练视频,使得用户可以与他/她的学生共享该视频。图5A是佩戴头戴式显示器510并且持有高尔夫球杆GC的用户手臂A张开的示意性透视图。与利用高尔夫球杆GC击打高尔夫球GB关联的振动V也被记录。在重放时,学生可以从他/她的角度看到用户的提示,如图5B中所说明的,并且“感觉到”高尔夫球杆GC与高尔夫球GB的撞击。当在他们自己的头戴式显示设备上重放该视频时,学生可以在他们练习他们自己的挥杆时观看该视频。
图6说明了上述系统100的实施例600,其中用户具有关于工业设计的博客,在该博客中,他/她经常讨论他/她发现的新材料M。用户可以使用头戴式显示器和具有传感器的特殊手套610,以允许用户记录纹理T并且共享他/她感觉新材料M时他/她的经历。这允许该博客的观众的成员在他们的智能电话上或者在有些情况下利用他们自己的手套感觉新材料M的纹理T,假定智能电话或手套包括可以重放所记录的纹理T的触觉输出设备,诸如通过静电摩擦或超声波表面摩擦触觉效果的生成。
图7说明了上述系统100的实施例700,其中用户通过头戴式显示设备710与遥控汽车RC交互,其中设备710包括视频显示器和触觉输出设备,诸如上述视频显示器120和触觉输出设备118。视点视频记录器和振动传感器可以安装在汽车RC中并且信号可以从视频记录器和振动传感器发送到头戴式显示设备710。这可以允许用户从汽车RC的角度看并且感觉作为由触觉输出设备产生的触觉效果HE的汽车RC的振动V,就好像他/她在汽车RC内一样。
图8说明了上述系统100的实施例800,其中用户使用他/她的配备照相机和振动传感器的智能电话810来看他/她正在修理的工业机器的内部。图8中所绘出的实施例800包括可以被用户佩戴并且配置为显示由智能电话810的照相机拍摄的图像的头戴式显示设备820。头戴式显示设备820还包括触觉输出设备,诸如上述触觉输出设备118。这允许用户从智能电话810的照相机的视点看并且经触觉输出设备提供的触觉效果HE感觉当智能电话810针对机器重击(bang)或刷(brush)时在机器中产生的振动V。
图9说明了上述系统100的实施例900,该系统允许用户在头戴式显示设备上观看学习如何修理机器的指导视频。当教师在视点视频中显示如何转动旋钮KN直到它变紧时,用户可以感觉他/她应当尝试经由位于头戴式显示设备中的触觉输出设备产生的触觉效果HE再现的感觉。
本发明实施例的上述实现不是要以任何方式进行限制。例如,虽然上述实现可以涉及振动的感测,但是可以使用可以作为对触觉效果的生成的基础或者起作用的因素使用的其它信号。例如,基于用户或者感兴趣的对象(例如,在呼吸时扩张和收缩的人的胸部)的运动、用户或感兴趣的对象的垂直运动或高度、用户或感兴趣的对象的朝向(例如,滑雪者按曲线左右倾的倾角)、与地面的接触或者离地面的距离(例如,在滑雪或骑自行车时的跳跃)、用户对感兴趣的对象施加的压力(例如,对自行车的座位或把手的压力)、感兴趣的对象的部件的位移(例如,山地自行车的卡盘(chuck))、诸如温度、风速等环境条件的信号。所生成的触觉效果可以基于这些其它信号,并且任何类型的触觉反馈都可以用来代表这种信号,包括但不限于运动、力、变形、挤压、温度变化等。
在本发明实施例的有些实现中,感测可以直接映射到输出。例如,感测到的滑雪者的倾斜可以利用运动平台复制。在本发明实施例的有些实现中,系统可以变换输入,以便被触觉输出设备输出。例如,对自行车把手的压力可以映射成振动。
在本发明实施例的有些实现中,视频可以利用被系统的用户持有的视频记录器记录,但是代替从用户的视点记录事件,视频记录器可以指向不同的方向。例如,头戴式显示器上的照相机可以指向除用户正在看的之外的其它不同方向。例如,潜水者可以具有从他/她的头部径直向上指的照相机,使得在潜水的时候照相机指向水。换句话说,视点不一定与用户的眼睛一致,但是可以代替地与用户身体的主要(leading)部分等一致。
本文所述的实施例代表多种可能实现和例子并且不一定把本公开内容限制到任何具体的实施例。相反,如本领域普通技术人员将理解的,可以对这些实施例进行各种修改。任何这些修改都要包括在本公开内容的主旨和范围内并且受以下权利要求的保护。

Claims (14)

1.一种系统,包括:
视频记录器,配置为记录事件的视点视频;
传感器,配置为感测与事件关联的振动;
处理器,配置为同步所记录的视点视频和感测到的振动;以及
包括显示器和触觉输出设备的重放设备,所述重放设备配置为重放同步的视点视频和振动,并且触觉输出设备配置为基于振动生成触觉效果。
2.如权利要求1所述的系统,其中视频记录器和传感器是第一电子设备的部分。
3.如权利要求2所述的系统,其中第一电子设备是头戴式显示设备。
4.如权利要求3所述的系统,其中处理器和重放设备也是头戴式显示设备的部分。
5.如权利要求2所述的系统,其中重放设备是与第一电子设备分离并且与其无线通信的第二电子设备。
6.如权利要求5所述的系统,其中第二电子设备是头戴式显示设备。
7.如权利要求1所述的系统,其中视点视频包括训练视频。
8.一种方法,包括:
利用视频记录器记录事件的视点视频;
在记录视点视频的同时利用传感器感测与事件关联的振动;
同步所记录的视点视频和感测到的振动;以及
利用包括显示器和触觉输出设备的重放设备重放同步的视点视频和振动,其中触觉输出设备基于振动生成触觉效果。
9.如权利要求8所述的方法,其中视点视频包括训练视频。
10.如权利要求8所述的方法,还包括把同步的视点视频和振动传送到重放设备。
11.如权利要求10所述的方法,其中传送是无线地完成的。
12.如权利要求10所述的方法,其中传送是至少部分地经互联网完成的。
13.一种系统,包括:
传感器,配置为感测与由所述系统的用户经历的事件关联的振动;以及
触觉输出设备,配置为基于振动生成触觉效果并且在用户经历所述事件的时候向用户输出触觉效果。
14.一种方法,包括:
利用由经历事件的用户携带的传感器感测与事件关联的振动;
利用触觉输出设备基于振动生成触觉效果;以及
在用户经历所述事件的时候向用户输出触觉效果。
CN201410838641.4A 2013-12-31 2014-12-30 用于记录和重放具有触觉内容的视点视频的系统和方法 Pending CN104750245A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201361922648P 2013-12-31 2013-12-31
US61/922,648 2013-12-31

Publications (1)

Publication Number Publication Date
CN104750245A true CN104750245A (zh) 2015-07-01

Family

ID=52272969

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410838641.4A Pending CN104750245A (zh) 2013-12-31 2014-12-30 用于记录和重放具有触觉内容的视点视频的系统和方法

Country Status (5)

Country Link
US (1) US20150189223A1 (zh)
EP (1) EP2889728A3 (zh)
JP (1) JP6664069B2 (zh)
KR (1) KR20150080435A (zh)
CN (1) CN104750245A (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105653029A (zh) * 2015-12-25 2016-06-08 乐视致新电子科技(天津)有限公司 在虚拟现实系统中获得沉浸感的方法、系统及智能手套
CN105975053A (zh) * 2016-05-11 2016-09-28 乐视控股(北京)有限公司 虚拟头盔控制方法、装置及虚拟头盔
CN107924235A (zh) * 2015-09-25 2018-04-17 意美森公司 触觉效果设计系统
CN112673334A (zh) * 2018-09-11 2021-04-16 索尼公司 信息处理装置、信息处理方法和记录介质
WO2023029759A1 (zh) * 2021-08-31 2023-03-09 华为技术有限公司 一种数据传输方法以及相关设备
US11656683B2 (en) 2018-08-10 2023-05-23 Sony Corporation Signal generation device, signal generation method, and reproduction device

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10007341B2 (en) * 2011-06-21 2018-06-26 Northwestern University Touch interface device and method for applying lateral forces on a human appendage
US9939900B2 (en) 2013-04-26 2018-04-10 Immersion Corporation System and method for a haptically-enabled deformable surface
US9965034B2 (en) 2013-12-30 2018-05-08 Immersion Corporation Systems and methods for a haptically-enabled projected user interface
JP2015130168A (ja) * 2013-12-31 2015-07-16 イマージョン コーポレーションImmersion Corporation 摩擦拡張制御、及び、タッチコントロールパネルのボタンを摩擦拡張制御部へと変換する方法
JP2017531930A (ja) * 2014-07-07 2017-10-26 イマージョン コーポレーションImmersion Corporation セカンドスクリーン触覚
US9690381B2 (en) 2014-08-21 2017-06-27 Immersion Corporation Systems and methods for shape input and output for a haptically-enabled deformable surface
US9535550B2 (en) 2014-11-25 2017-01-03 Immersion Corporation Systems and methods for deformation-based haptic effects
KR102512840B1 (ko) * 2015-10-15 2023-03-22 삼성전자주식회사 실행 화면 레코딩 방법 및 그 방법을 처리하는 전자 장치
US10770113B2 (en) * 2016-07-22 2020-09-08 Zeality Inc. Methods and system for customizing immersive media content
US10222958B2 (en) 2016-07-22 2019-03-05 Zeality Inc. Customizing immersive media content with embedded discoverable elements
KR101864685B1 (ko) * 2016-10-05 2018-06-05 씨제이포디플렉스 주식회사 가상현실 4d 컨텐츠 상영 시스템 및 그 방법
US10102723B2 (en) * 2016-10-31 2018-10-16 Immersion Corporation Dynamic haptic generation based on detected video events
WO2018137040A1 (en) * 2017-01-26 2018-08-02 D-Box Technologies Inc. Capturing and synchronizing motion with recorded audio/video
CN108235099B (zh) * 2018-01-12 2021-06-15 瑞声科技(新加坡)有限公司 一种媒体与振动的同步播放方法及其装置
WO2020158596A1 (ja) * 2019-02-01 2020-08-06 ソニー株式会社 復号装置、復号方法、及びプログラム
ES1249864Y (es) * 2020-05-25 2020-10-16 Corts Francesc Xavier Vila Sistema de animación para eventos
KR20210114059A (ko) * 2020-06-30 2021-09-17 바이두 온라인 네트웍 테크놀러지 (베이징) 캄파니 리미티드 비디오 처리 방법, 장치, 전자 기기 및 저장 매체
JP7298921B2 (ja) * 2020-08-12 2023-06-27 株式会社赤外線高精度技術利用機構 赤外線調査解析診断装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050062841A1 (en) * 2003-09-18 2005-03-24 Rivera-Cintron Carlos A. System and method for multi-media record, distribution and playback using wireless communication
US20060038818A1 (en) * 2002-10-22 2006-02-23 Steele Robert C Multimedia racing experience system and corresponding experience based displays
US20070097073A1 (en) * 2005-10-28 2007-05-03 Sony Corporation Electronic apparatus
US20090128306A1 (en) * 2007-11-21 2009-05-21 The Guitammer Company Capture and remote reproduction of haptic events in synchronous association with the video and audio capture and reproduction of those events
CN102099766A (zh) * 2008-07-15 2011-06-15 伊梅森公司 用于在无源和有源模式之间变换触觉反馈功能的系统和方法
CN102227694A (zh) * 2008-10-10 2011-10-26 因特网服务有限责任公司 供触觉编码的媒体使用的触觉输出装置
CN102246120A (zh) * 2008-12-12 2011-11-16 英默森公司 使用多个传感器来提供触觉监视系统的方法和设备

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10124178A (ja) * 1996-10-15 1998-05-15 Olympus Optical Co Ltd 電子メール端末、電子メール端末の処理方法、媒体
JP3733075B2 (ja) * 2002-02-07 2006-01-11 株式会社国際電気通信基礎技術研究所 インタラクション・メディアシステム
JP2003299013A (ja) * 2002-03-29 2003-10-17 Fuji Photo Film Co Ltd 体験情報再現装置
JP4741500B2 (ja) * 2004-09-14 2011-08-03 パナソニック株式会社 機器制御装置、機器、機器制御装置の制御方法、プログラムおよび機器制御システム
JP4926799B2 (ja) * 2006-10-23 2012-05-09 キヤノン株式会社 情報処理装置、情報処理方法
US9400555B2 (en) * 2008-10-10 2016-07-26 Internet Services, Llc System and method for synchronization of haptic data and media data
US20130198625A1 (en) * 2012-01-26 2013-08-01 Thomas G Anderson System For Generating Haptic Feedback and Receiving User Inputs
JP2013178639A (ja) * 2012-02-28 2013-09-09 Seiko Epson Corp 頭部装着型表示装置および画像表示システム

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060038818A1 (en) * 2002-10-22 2006-02-23 Steele Robert C Multimedia racing experience system and corresponding experience based displays
US20050062841A1 (en) * 2003-09-18 2005-03-24 Rivera-Cintron Carlos A. System and method for multi-media record, distribution and playback using wireless communication
US20070097073A1 (en) * 2005-10-28 2007-05-03 Sony Corporation Electronic apparatus
US20090128306A1 (en) * 2007-11-21 2009-05-21 The Guitammer Company Capture and remote reproduction of haptic events in synchronous association with the video and audio capture and reproduction of those events
CN102099766A (zh) * 2008-07-15 2011-06-15 伊梅森公司 用于在无源和有源模式之间变换触觉反馈功能的系统和方法
CN102227694A (zh) * 2008-10-10 2011-10-26 因特网服务有限责任公司 供触觉编码的媒体使用的触觉输出装置
CN102246120A (zh) * 2008-12-12 2011-11-16 英默森公司 使用多个传感器来提供触觉监视系统的方法和设备

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107924235A (zh) * 2015-09-25 2018-04-17 意美森公司 触觉效果设计系统
CN105653029A (zh) * 2015-12-25 2016-06-08 乐视致新电子科技(天津)有限公司 在虚拟现实系统中获得沉浸感的方法、系统及智能手套
CN105975053A (zh) * 2016-05-11 2016-09-28 乐视控股(北京)有限公司 虚拟头盔控制方法、装置及虚拟头盔
US11656683B2 (en) 2018-08-10 2023-05-23 Sony Corporation Signal generation device, signal generation method, and reproduction device
CN112673334A (zh) * 2018-09-11 2021-04-16 索尼公司 信息处理装置、信息处理方法和记录介质
WO2023029759A1 (zh) * 2021-08-31 2023-03-09 华为技术有限公司 一种数据传输方法以及相关设备

Also Published As

Publication number Publication date
JP6664069B2 (ja) 2020-03-13
US20150189223A1 (en) 2015-07-02
KR20150080435A (ko) 2015-07-09
EP2889728A2 (en) 2015-07-01
JP2015130169A (ja) 2015-07-16
EP2889728A3 (en) 2015-08-05

Similar Documents

Publication Publication Date Title
CN104750245A (zh) 用于记录和重放具有触觉内容的视点视频的系统和方法
JP6664137B2 (ja) 触感記録および再生
US10650859B2 (en) Systems and methods for recording haptic data for use with multi-media data
US10645338B2 (en) Virtual encounters
JP6585358B2 (ja) 感覚データを触覚効果に変換するシステム及び方法
US20170206794A1 (en) Method and Apparatus for Providing Personalised Audio-Visual Instruction
KR20150022694A (ko) 스포츠 이벤트를 햅틱으로 이용할 수 있는 시청
CN106774817A (zh) 触觉激活的柔性装置
CN104460955A (zh) 一种信息处理方法及穿戴式电子设备
US20050131580A1 (en) Virtual encounters
US9971398B2 (en) Virtual encounters
US11656683B2 (en) Signal generation device, signal generation method, and reproduction device

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20150701