CN113971892B - 一种站点的播报方法、装置、多媒体设备和存储介质 - Google Patents
一种站点的播报方法、装置、多媒体设备和存储介质 Download PDFInfo
- Publication number
- CN113971892B CN113971892B CN202111221664.7A CN202111221664A CN113971892B CN 113971892 B CN113971892 B CN 113971892B CN 202111221664 A CN202111221664 A CN 202111221664A CN 113971892 B CN113971892 B CN 113971892B
- Authority
- CN
- China
- Prior art keywords
- data
- prompt
- bus
- multimedia
- original
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/123—Traffic control systems for road vehicles indicating the position of vehicles, e.g. scheduled vehicles; Managing passenger vehicles circulating according to a fixed timetable, e.g. buses, trains, trams
- G08G1/133—Traffic control systems for road vehicles indicating the position of vehicles, e.g. scheduled vehicles; Managing passenger vehicles circulating according to a fixed timetable, e.g. buses, trains, trams within the vehicle ; Indicators inside the vehicles or at stops
Landscapes
- Engineering & Computer Science (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- User Interface Of Digital Computer (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明实施例提供了一种站点的播报方法、装置、多媒体设备和存储介质,该方法包括:查询公交车沿指定的路线行驶时、下一个停靠的站点,在路线上对站点设置的提示点,预测公交车到达提示点时,在多媒体设备中播放的原始多媒体数据,生成用于提示即将到达站点的提示图像数据、提示文本数据,分别将提示图像数据嵌入原始视频数据中、以语音的方式将提示文本数据嵌入原始音频数据中,获得目标多媒体数据,当公交车到达提示点时,在多媒体设备中播放目标多媒体数据,以在维持播放多媒体数据的条件下提示公交车即将到达站点,协调播放多媒体数据与站点信息,用户的注意力多集中在多媒体数据时,留意到站点信息,从而保证用户正常下车,按照计划出行。
Description
技术领域
本发明实施例涉及公共交通的技术领域,尤其涉及一种站点的播报方法、装置、多媒体设备和存储介质。
背景技术
公交车是用户出行的公共交通工具之一,在公交车上通常部署有多媒体设备,为用户提供广告数据、天气数据、路况数据、新闻数据、综艺节目数据等多种多媒体数据的播放服务。
当公交车到站时,会额外播报站点信息,此时,多媒体设备可能正在播放多媒体数据,多媒体数据较为吸引乘客,使得乘客的注意力集中在多媒体数据时,容易遗漏站点信息,导致没有正常下车,打乱出行计划。
发明内容
本发明实施例提出了一种站点的播报方法、装置、多媒体设备和存储介质,以解决在公交车上如何协调播报站点信息与播放多媒体数据的问题。
第一方面,本发明实施例提供了一种站点的播报方法,应用于部署在公交车的多媒体设备,所述方法包括:
查询公交车沿指定的路线行驶时、下一个停靠的站点;
在所述路线上对所述站点设置的提示点;
预测所述公交车到达所述提示点时,在所述多媒体设备中播放的原始多媒体数据,所述原始多媒体数据具有相互同步的原始视频数据、原始音频数据;
生成用于提示即将到达所述站点的提示图像数据、提示文本数据;
分别将所述提示图像数据嵌入所述原始视频数据中、以语音的方式将所述提示文本数据嵌入所述原始音频数据中,获得目标多媒体数据;
当所述公交车到达所述提示点时,在所述多媒体设备中播放所述目标多媒体数据,以在维持播放所述多媒体数据的条件下提示所述公交车即将到达所述站点。
可选地,所述在所述路线上对所述站点设置的提示点,包括:
以所述站点为圆心生成指定半径的圆形,作为提示范围;
将所述路线上与所述提示范围相交、且位于所述站点之前的位置,设置为提示点。
可选地,所述预测所述公交车到达所述提示点时,在所述多媒体设备中播放的原始多媒体数据,包括:
查询所述公交车历史上从当前位置沿所述路线行驶至所述提示点时的速度,作为第一历史速度;
查询所述公交车从当前位置沿所述路线行驶至所述提示点经过的第一路程;
计算所述第一路程与所述第一历史速度之间的比值,作为第一预测行驶时长;
检测等待在所述多媒体设备中播放的多媒体数据;
在时间轴上按照顺序依次对所述多媒体数据的播放时长进行排列;
确定所述第一预测行驶时长截止时所属播放时长对应的所述多媒体数据,在所述公交车到达所述提示点时播放的原始多媒体数据。
可选地,所述生成用于提示即将到达所述站点的提示图像数据、提示文本数据,包括:
查询所述公交车历史上从所述提示点沿所述路线行驶至所述站点时的速度,作为第二历史速度;
查询所述公交车从所述提示点沿所述路线行驶至所述站点经过的第二路程;
计算所述第二路程与所述第二历史速度之间的比值,作为第二预测行驶时长;
查询所述站点的名称、所述第二路程的路况信息;
将所述站点的名称、所述第二路程的路况信息、所述第二预测行驶时长生成符合自然语言的提示文本数据,以提示即将到达所述站点;
将所述站点的名称、所述第二路程的路况信息、所述第二预测行驶时长写入预设的模板图像数据中,获得用于提示即将到达所述站点的提示图像数据。
可选地,所述原始视频数据中具有多帧原始图像数据;
所述分别将所述提示图像数据嵌入所述原始视频数据中、以语音的方式将所述提示文本数据嵌入所述原始音频数据中,获得目标多媒体数据,包括:
将所述提示文本数据转换为提示语音信号;
在所述原始音频数据中检测表示无语音信号的原始音频信号;
若所述原始音频信号的时长大于或等于所述提示语音信号的时长,则对与所述原始音频信号同步的所述原始图像数据中进行人脸检测;
若在所述原始图像数据中检测到人脸数据,则将所述提示图像数据嵌入所述原始图像数据中,将所述提示语音信号与所述原始音频信号进行混音处理,获得目标多媒体数据。
可选地,所述将所述提示文本数据转换为提示语音信号,包括:
确定语音转换模型;
以所述原始音频数据为样本、为所述多媒体数据配置的文案信息为标签,更新所述语音转换模型,以使所述语音转换模型用于合成与所述原始音频数据音色相同的语音信号;
在限定所述音色的条件下,将所述提示文本数据输入更新之后的所述语音转换模型中进行处理,获得音色与所述原始音频数据相同的提示语音信号。
可选地,所述将所述提示图像数据嵌入所述原始图像数据中,包括:
在所述原始图像数据中,检测所述人脸数据的朝向、所述人脸数据中嘴唇数据所在的区域;
沿所述朝向将所述提示图像数据写入所述原始图像数据中;
在所述原始图像数据与所述区域之间添加表示说话的指示图标。
第二方面,本发明实施例还提供了一种站点的播报装置,应用于部署在公交车的多媒体设备,所述装置包括:
站点查询模块,用于查询公交车沿指定的路线行驶时、下一个停靠的站点;
提示点设置模块,用于在所述路线上对所述站点设置的提示点;
多媒体数据预测模块,用于预测所述公交车到达所述提示点时,在所述多媒体设备中播放的原始多媒体数据,所述原始多媒体数据具有相互同步的原始视频数据、原始音频数据;
站点信息生成模块,用于生成用于提示即将到达所述站点的提示图像数据、提示文本数据;
站点信息嵌入模块,用于分别将所述提示图像数据嵌入所述原始视频数据中、以语音的方式将所述提示文本数据嵌入所述原始音频数据中,获得目标多媒体数据;
多媒体数据播放模块,用于当所述公交车到达所述提示点时,在所述多媒体设备中播放所述目标多媒体数据,以在维持播放所述多媒体数据的条件下提示所述公交车即将到达所述站点。
可选地,所述提示点设置模块还用于:
以所述站点为圆心生成指定半径的圆形,作为提示范围;
将所述路线上与所述提示范围相交、且位于所述站点之前的位置,设置为提示点。
可选地,所述多媒体数据预测模块还用于:
查询所述公交车历史上从当前位置沿所述路线行驶至所述提示点时的速度,作为第一历史速度;
查询所述公交车从当前位置沿所述路线行驶至所述提示点经过的第一路程;
计算所述第一路程与所述第一历史速度之间的比值,作为第一预测行驶时长;
检测等待在所述多媒体设备中播放的多媒体数据;
在时间轴上按照顺序依次对所述多媒体数据的播放时长进行排列;
确定所述第一预测行驶时长截止时所属播放时长对应的所述多媒体数据,在所述公交车到达所述提示点时播放的原始多媒体数据。
可选地,所述站点信息生成模块还用于:
查询所述公交车历史上从所述提示点沿所述路线行驶至所述站点时的速度,作为第二历史速度;
查询所述公交车从所述提示点沿所述路线行驶至所述站点经过的第二路程;
计算所述第二路程与所述第二历史速度之间的比值,作为第二预测行驶时长;
查询所述站点的名称、所述第二路程的路况信息;
将所述站点的名称、所述第二路程的路况信息、所述第二预测行驶时长生成符合自然语言的提示文本数据,以提示即将到达所述站点;
将所述站点的名称、所述第二路程的路况信息、所述第二预测行驶时长写入预设的模板图像数据中,获得用于提示即将到达所述站点的提示图像数据。
可选地,所述原始视频数据中具有多帧原始图像数据;所述站点信息嵌入模块还用于:
将所述提示文本数据转换为提示语音信号;
在所述原始音频数据中检测表示无语音信号的原始音频信号;
若所述原始音频信号的时长大于或等于所述提示语音信号的时长,则对与所述原始音频信号同步的所述原始图像数据中进行人脸检测;
若在所述原始图像数据中检测到人脸数据,则将所述提示图像数据嵌入所述原始图像数据中,将所述提示语音信号与所述原始音频信号进行混音处理,获得目标多媒体数据。
可选地,所述站点信息嵌入模块还用于:
确定语音转换模型;
以所述原始音频数据为样本、为所述多媒体数据配置的文案信息为标签,更新所述语音转换模型,以使所述语音转换模型用于合成与所述原始音频数据音色相同的语音信号;
在限定所述音色的条件下,将所述提示文本数据输入更新之后的所述语音转换模型中进行处理,获得音色与所述原始音频数据相同的提示语音信号。
可选地,所述站点信息嵌入模块还用于:
在所述原始图像数据中,检测所述人脸数据的朝向、所述人脸数据中嘴唇数据所在的区域;
沿所述朝向将所述提示图像数据写入所述原始图像数据中;
在所述原始图像数据与所述区域之间添加表示说话的指示图标。
第三方面,本发明实施例还提供了一种多媒体设备,所述多媒体设备包括:
一个或多个处理器;
存储器,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如第一方面所述的站点的播报方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质上存储计算机程序,所述计算机程序被处理器执行时实现如第一方面所述的站点的播报方法。
在本实施例中,查询公交车沿指定的路线行驶时、下一个停靠的站点,在路线上对站点设置的提示点,预测公交车到达提示点时,在多媒体设备中播放的原始多媒体数据,原始多媒体数据具有相互同步的原始视频数据、原始音频数据,生成用于提示即将到达站点的提示图像数据、提示文本数据,分别将提示图像数据嵌入原始视频数据中、以语音的方式将提示文本数据嵌入原始音频数据中,获得目标多媒体数据,当公交车到达提示点时,在多媒体设备中播放目标多媒体数据,以在维持播放多媒体数据的条件下提示公交车即将到达站点,将提示图像数据、提示文本数据作为站点信息融入多媒体数据中进行播放,无需打断多媒体数据的播放,使得维持多媒体数据的正常播放的情况下、播放站点信息,协调播放多媒体数据与站点信息,用户的注意力多集中在多媒体数据时,通常可以留意到站点信息,从而保证用户正常下车,按照计划出行。
附图说明
图1为本发明实施例一提供的一种站点的播报方法的流程图;
图2为本发明实施例二提供的一种站点的播报装置的结构示意图;
图3为本发明实施例三提供的一种多媒体设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
实施例一
图1为本发明实施例一提供的一种站点的播报方法的流程图,本实施例可适用于在公交车上兼容播放多媒体数据与播报站点信息的情况,该方法可以由站点的播报装置来执行,该站点的播报装置可以由软件和/或硬件实现,可应用于部署在公交车的多媒体设备,该多媒体设备具有屏幕、扬声器、麦克风、摄像头、移动通信芯片、定位芯片等组件,具体包括如下步骤:
步骤101、查询公交车沿指定的路线行驶时、下一个停靠的站点。
公交车(Bus,又称巴士、公车等),指在城市道路上循固定路线,该路线上设置有多个站点,有或者无固定班次时刻,有专属路号(如960号、195A号、35号等),在站点停靠让乘客上下车、承载乘客出行的机动车辆。一般外形为方型,有窗,设置座位。
在城区,公交车的时速一般在25-50公里/小时,在郊区,公交车的时速可达80公里/小时。
在本实施例中,公交车定有一个或多个路号,而多媒体设备(以编号等标识表示)安装在公交车之后一般并不移动,因此,可以在服务器中建立多媒体设备(以编号等标识表示)与路号之间的关系,公交车在启动行驶之后,启动多媒体设备,多媒体设备可向服务器查询当前应用的路号,从而查询该路号对应的路线,作为公交车正在行驶的路线。
多媒体设备中安装的定位芯片可以包括GPS(Global Positioning System,全球定位系统)、北斗卫星导航系统,等等,调用定位芯片可以实时定位公交车所处的位置,当公交车所处的位置与站点的位置小于预设的误差时,可以确定公交车到达该站点,从而在公交车正在行驶的路线上查询位于最近到达的站点之后的站点,作为下一个停靠的站点。
步骤102、在路线上对站点设置的提示点。
在具体实现中,可以在临近下一个站点的位置设置提示点,用于播报下一个站点的站点信息。
示例性地,可以以站点为圆心生成指定半径(如200米)的圆形,作为提示范围,将路线上与提示范围相交、且位于下一个站点之前的位置,设置为提示点。
进一步地,如果路线存在大幅度拐弯等情况,路线上与提示范围相交、且位于下一个站点之前的位置的数量为多个,此时,可以选择最近接下一个站点的位置为提示点。
该提示点可以在公交车沿指定的路线行驶时实时计算,该提示点可以预先离线计算,并作为路线的配置参数进行存储,在公交车沿指定的路线行驶时,从配置参数提取各个站点对应的提示点,本实施例对此不加以限制。
步骤103、预测公交车到达提示点时,在多媒体设备中播放的原始多媒体数据。
在本实施例中,公交车在先在该路线行驶时,会记录与行驶、乘客相关的数据,形成历史路线数据,例如,行驶的速度、行驶的耗时、乘客的数量、乘客上车的时间、乘客下车的时间,等等。
进一步地,由于不用司机的驾驶技巧有所不同,因此,可以以司机(以用户ID等数据标识)区分不同的历史路线数据。
此时,司机可以以人脸数据、指纹数据等生物信息或工作卡进行身份认证,在身份认证通过时,读取该司机对应的历史路线数据。
通过对这些历史路线数据进行分析,可以较为准确地预测公交车沿路线行驶、到达提示点时,在多媒体设备中播放的多媒体数据,为便于区分,该多媒体数据记为原始多媒体数据。
在具体实现中,可以从历史路线数据中查询公交车历史上从当前位置沿路线行驶至提示点时的速度,作为第一历史速度,该第一历史速度一般为平均速度。
一般情况下,公交车行驶的路线是固定的,因此,可从该路线中查询公交车从当前位置沿路线行驶至提示点经过的第一路程。
计算第一路程与第一历史速度之间的比值(即第一路程除以第一历史速度的商),作为第一预测行驶时长。
在本实施例中,多媒体设备提供一定的存储空间,用于在公交车行驶的过程中缓存多媒体数据,多媒体数据具有属性信息,包括名称、厂商、类型(如广告数据、天气数据、路况数据、新闻数据、综艺节目数据等)、大小、下载时间、时间长度、状态(已删除、已播放、正在播放、未播放)、文案信息,等等。
多媒体数据的属性信息可以记录在一张表格Map中,在待播报站点信息之前,多媒体设备可以从该表格Map中查询当前状态为未播放的多媒体数据,从而实现检测等待在多媒体设备中播放的多媒体数据。
在时间轴上按照顺序依次对多媒体数据的播放时长进行排列,默认多媒体数据之间的播放并不间断,在时间轴上从当前时间开始计时,在计时的过程中确定第一预测行驶时长截止时所属播放时长对应的多媒体数据,在公交车到达提示点时播放的原始多媒体数据。
步骤104、生成用于提示即将到达站点的提示图像数据、提示文本数据。
在本实施例中,可以在视觉、听觉上生成相应的站点信息,分别为:在视觉上生成提示即将到达站点的提示图像数据,在听觉上生成提示即将到达站点的提示文本数据。
在具体实现中,可以从历史道路数据中查询公交车历史上从提示点沿路线行驶至站点时的速度,作为第二历史速度,该第二历史速度一般为平均速度,并从路线上查询公交车从提示点沿路线行驶至站点经过的第二路程,从而计算第二路程与第二历史速度之间的比值(即第二路程除以第二历史速度的商),作为第二预测行驶时长。
从服务器中查询下一个站点的名称、第二路程的路况信息(如道路是否顺畅、拥堵、发生交通事故等)。
将站点的名称、第二路程的路况信息、第二预测行驶时长生成符合自然语言的提示文本数据,以提示即将到达下一个站点。
示例性地,可以预先生成模板文本数据,该模板文本数据符合自然语言,为站点的名称、第二路程的路况信息、第二预测行驶时长留有空缺,将站点的名称、第二路程的路况信息、第二预测行驶时长填入模板文本数据即可生成提示文本数据。
例如,模板文本数据为“各位乘客好!前面站点为(站点的名称),当前路况(第二路程的路况信息),预计(第二预测行驶时长)之后到达,请下车的乘客做好准备。”,站点的名称为“大学城站”,第二路程的路况信息为“较为顺畅”、“大学城立交上进大学城方向行车较为缓慢”,第二预测行驶时长为“8分钟”,则生成的模板文本数据为“各位乘客好!前面站点为大学城站,当前路况较为顺畅、大学城立交上进大学城方向行车较为缓慢,预计8分钟之后到达,请下车的乘客做好准备。”。
此外,将站点的名称、第二路程的路况信息、第二预测行驶时长写入预设的模板图像数据中,获得用于提示即将到达下一个站点的提示图像数据。
其中,模板图像数据为预先设计、用于播报站点信息的图像数据,为站点的名称、第二路程的路况信息、第二预测行驶时长留有空缺,并标记站点的名称、第二路程的路况信息、第二预测行驶时长的区域,将站点的名称、第二路程的路况信息、第二预测行驶时长分别写入相应的区域,即可生成用于提示即将到达下一个站点的提示图像数据。
当然,上述生成提示图像数据、提示文本数据的方式只是作为示例,在实施本发明实施例时,可以根据实际情况设置其它生成提示图像数据、提示文本数据的方式,本发明实施例对此不加以限制。另外,除了上述生成提示图像数据、提示文本数据的方式外,本领域技术人员还可以根据实际需要采用其它生成提示图像数据、提示文本数据的方式,本发明实施例对此也不加以限制。
步骤105、分别将提示图像数据嵌入原始视频数据中、以语音的方式将提示文本数据嵌入原始音频数据中,获得目标多媒体数据。
原始多媒体数据具有相互同步的原始视频数据、原始音频数据,一方面,可以将提示图像数据嵌入原始视频数据中,另一方面,以语音的方式将提示文本数据嵌入原始音频数据中,使得提示图像数据、提示文本数据成为多媒体数据的一部分,为便于区分,嵌入提示图像数据、提示文本数据之后的多媒体数据记为多媒体数据。
进一步地,提示图像数据与提示文本数据是同步嵌入原始视频数据、原始音频数据中,使得提示图像数据与提示文本数据可同步播放。
在本发明的一个实施例中,步骤105可以包括如下步骤:
步骤1051、将提示文本数据转换为提示语音信号。
在本实施例中,可以对提示文本数据进行从文本到语音(TextToSpeech)的操作,输出为语音信号,记为提示语音信号。
进一步地,可以预先训练语音转换模型,该语音转换模型用于将文本数据转换为语音信号,部分语音转换模型可以使用少量的话语(如,数秒持续时间的句子)中学习说话者的特征,即,部分语音转换模型具有语音复制(voice cloning)的功能,如DurIAN,DeepVoice等。
在这些语音转换模型中,通常聚焦于两种基本的方法,以解决语音复制的问题:说话者适应(speaker adaptation)和说话者编码(speaker encoding),这两种技术都可以通过说话者嵌入向量应用于一个多说话者生成语音转换模型,而不会降低语音质量。关于语音的自然性以及它和原始说话者的相似性,这两种方法都可以获得很好的性能,即使只有少量的复制音频。
那么,可以以原始音频数据为样本、为多媒体数据配置的文案信息为标签,更新语音转换模型,以使语音转换模型用于合成与原始音频数据音色相同的语音信号,此时,该语音转换模型具备复制原始音频数据的说话者(音色)的功能。
在限定音色的条件下,将提示文本数据输入更新之后的语音转换模型中进行处理,获得音色与原始音频数据相同的提示语音信号,使得在播放多媒体数据音色相同,可以保证播放提示语音信号的自然性、真实性。
步骤1052、在原始音频数据中检测表示无语音信号的原始音频信号。
对原始音频数据进行语音活动检测(Voice Activity Detection,VAD),从而在原始音频数据中检测到并不存在用户说话(语音信号)的原始音频信号,原始音频信号虽然并不存在语音信号,但可能存在作为背景的音频信号,如纯音乐等。
对于多媒体数据,用户说话(语音信号)是比较重要的信息,排除用户说话(语音信号)的场景嵌入提示语音信号,减少对多媒体数据的影响。
步骤1053、若原始音频信号的时长大于或等于提示语音信号的时长,则对与原始音频信号同步的原始图像数据中进行人脸检测。
分别对提示语音信号统计时长、对原始音频信号统计时长,并将原始音频信号的时长与提示语音信号的时长进行比较。
如果原始音频信号的时长小于提示语音信号的时长,表示该段原始音频信号并不足以容纳提示语音信号。
如果原始音频信号的时长大于或等于提示语音信号的时长,表示该段原始音频信号足以容纳提示语音信号,此时,考虑到原始视频数据中具有多帧原始图像数据,则可以进一步对在时间轴上与原始音频信号同步的多帧原始图像数据中进行人脸检测。
其中,人脸检测也称为人脸关键点检测、定位或者人脸对齐,是指给定人脸数据,定位出人脸面部的关键区域位置,包括眉毛、眼睛、鼻子、嘴巴、脸部轮廓等等。
在本实施例中,可以通过如下至少一种方式对原始图像数据进行人脸检测:
1、利用人工提取特征,如haar特征,使用特征训练分类器,使用分类器进行人脸检测。
2、从通用的目标检测算法中继承人脸检测,例如,利用Faster R-CNN来检测人脸。
3、使用级联结构的卷积神经网络,例如,Cascade CNN(级联卷积神经网络),MTCNN(Multi-task Cascaded Convolutional Networks,多任务卷积神经网络)。
在具体实现中,这些实现人脸检测的方法可以集成在某个应用的模块中,应用可直接调用该模块检测原始图像数据中的人脸数据,这些实现人脸检测的方法也可以集成在SDK(Software Development Kit,软件开发工具包),该SDK作为某个应用的组装数据,应用可请求SDK对图像数据进行人脸检测,SDK检测到图像数据中的人人脸数据,并返回人脸数据。
需要说明的是,人脸数据中人脸关键点的数量,可以根据实际情况设置,对于静态的图像处理,实时性要求较低,可以检测较为稠密的人脸关键点,如1000个,除了能定位人脸重要特征点之外,还能准确的描述出五官的轮廓;对于多媒体数据等,实时性要求较高,可以检测较为稀疏的人脸关键点,如68、81、106个,定位人脸上比较明显且重要的特征点(如眼睛关键点、眉毛关键点、鼻子关键点、嘴巴关键点、轮廓关键点等),以降低处理量、减少处理时间,等等,本发明实施例对此不加以限制。
步骤1054、若在原始图像数据中检测到人脸数据,则将提示图像数据嵌入原始图像数据中,将提示语音信号与原始音频信号进行混音处理,获得目标多媒体数据。
如果在多帧原始图像数据中检测到人脸数据,则可以将提示图像数据嵌入多帧原始图像数据中,表示由原始图像数据中的人物播报站点信息,嵌入的区域可选为纯色的区域,这些区域一般为背景,嵌入提示图像数据时可减少对原始图像数据的影响,此时,可适度对提示图像数据进行放大、缩小等操作,以适应嵌入的区域。
在原始图像数据中、检测人脸数据的朝向(朝左、朝右)、人脸数据中嘴唇数据所在的区域,沿朝向将提示图像数据写入原始图像数据中,即人脸数据朝左,则将提示图像数据嵌入人脸数据的左侧,人脸数据朝右,则将提示图像数据嵌入人脸数据的右侧。
在原始图像数据与区域之间添加表示说话的指示图标,如气泡、连线等,表示由原始图像数据中的人物播报站点信息。
此外,将提示语音信号与具有人脸数据的原始图像数据所对应的原始音频信号进行混音处理,从而获得目标多媒体数据。
步骤106、当公交车到达提示点时,在多媒体设备中播放目标多媒体数据,以在维持播放多媒体数据的条件下提示公交车即将到达站点。
在具体实现中,多媒体设备可调用定位芯片可以实时定位公交车所处的位置,当公交车所处的位置与提示点之间的距离小于预设的误差时,可以确定公交车到达提示点,此时,在多媒体设备中播放目标多媒体数据,由于目标多媒体数据中包含提示图像数据、提示文本数据,使得在维持播放多媒体数据的条件下可播下一个站点的报站点信息,从而提示公交车即将到达下一个站点。
需要说明的是,对于方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明实施例并不受所描述的动作顺序的限制,因为依据本发明实施例,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作并不一定是本发明实施例所必须的。
实施例二
图2为本发明实施例二提供的一种站点的播报装置的结构框图,应用于部署在公交车的多媒体设备,所述装置具体可以包括如下模块:
站点查询模块201,用于查询公交车沿指定的路线行驶时、下一个停靠的站点;
提示点设置模块202,用于在所述路线上对所述站点设置的提示点;
多媒体数据预测模块203,用于预测所述公交车到达所述提示点时,在所述多媒体设备中播放的原始多媒体数据,所述原始多媒体数据具有相互同步的原始视频数据、原始音频数据;
站点信息生成模块204,用于生成用于提示即将到达所述站点的提示图像数据、提示文本数据;
站点信息嵌入模块205,用于分别将所述提示图像数据嵌入所述原始视频数据中、以语音的方式将所述提示文本数据嵌入所述原始音频数据中,获得目标多媒体数据;
多媒体数据播放模块206,用于当所述公交车到达所述提示点时,在所述多媒体设备中播放所述目标多媒体数据,以在维持播放所述多媒体数据的条件下提示所述公交车即将到达所述站点。
在本发明的一个实施例中,所述提示点设置模块202还用于:
以所述站点为圆心生成指定半径的圆形,作为提示范围;
将所述路线上与所述提示范围相交、且位于所述站点之前的位置,设置为提示点。
在本发明的一个实施例中,所述多媒体数据预测模块203还用于:
查询所述公交车历史上从当前位置沿所述路线行驶至所述提示点时的速度,作为第一历史速度;
查询所述公交车从当前位置沿所述路线行驶至所述提示点经过的第一路程;
计算所述第一路程与所述第一历史速度之间的比值,作为第一预测行驶时长;
检测等待在所述多媒体设备中播放的多媒体数据;
在时间轴上按照顺序依次对所述多媒体数据的播放时长进行排列;
确定所述第一预测行驶时长截止时所属播放时长对应的所述多媒体数据,在所述公交车到达所述提示点时播放的原始多媒体数据。
在本发明的一个实施例中,所述站点信息生成模块204还用于:
查询所述公交车历史上从所述提示点沿所述路线行驶至所述站点时的速度,作为第二历史速度;
查询所述公交车从所述提示点沿所述路线行驶至所述站点经过的第二路程;
计算所述第二路程与所述第二历史速度之间的比值,作为第二预测行驶时长;
查询所述站点的名称、所述第二路程的路况信息;
将所述站点的名称、所述第二路程的路况信息、所述第二预测行驶时长生成符合自然语言的提示文本数据,以提示即将到达所述站点;
将所述站点的名称、所述第二路程的路况信息、所述第二预测行驶时长写入预设的模板图像数据中,获得用于提示即将到达所述站点的提示图像数据。
在本发明的一个实施例中,所述原始视频数据中具有多帧原始图像数据;所述站点信息嵌入模块205还用于:
将所述提示文本数据转换为提示语音信号;
在所述原始音频数据中检测表示无语音信号的原始音频信号;
若所述原始音频信号的时长大于或等于所述提示语音信号的时长,则对与所述原始音频信号同步的所述原始图像数据中进行人脸检测;
若在所述原始图像数据中检测到人脸数据,则将所述提示图像数据嵌入所述原始图像数据中,将所述提示语音信号与所述原始音频信号进行混音处理,获得目标多媒体数据。
在本发明的一个实施例中,所述站点信息嵌入模块205还用于:
确定语音转换模型;
以所述原始音频数据为样本、为所述多媒体数据配置的文案信息为标签,更新所述语音转换模型,以使所述语音转换模型用于合成与所述原始音频数据音色相同的语音信号;
在限定所述音色的条件下,将所述提示文本数据输入更新之后的所述语音转换模型中进行处理,获得音色与所述原始音频数据相同的提示语音信号。
在本发明的一个实施例中,所述站点信息嵌入模块205还用于:
在所述原始图像数据中,检测所述人脸数据的朝向、所述人脸数据中嘴唇数据所在的区域;
沿所述朝向将所述提示图像数据写入所述原始图像数据中;
在所述原始图像数据与所述区域之间添加表示说话的指示图标。
本发明实施例所提供的站点的播报装置可执行本发明任意实施例所提供的站点的播报方法,具备执行方法相应的功能模块和有益效果。
实施例三
图3为本发明实施例三提供的一种多媒体设备的结构示意图。图3示出了适于用来实现本发明实施方式的示例性多媒体设备12的框图。图3显示的多媒体设备12仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图3所示,多媒体设备12以通用计算设备的形式表现。多媒体设备12的组件可以包括但不限于:一个或者多个处理器或者处理单元16,系统存储器28,连接不同系统组件(包括系统存储器28和处理单元16)的总线18。
总线18表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(ISA)总线,微通道体系结构(MAC)总线,增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
多媒体设备12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被多媒体设备12访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
系统存储器28可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(RAM)30和/或高速缓存存储器32。多媒体设备12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统34可以用于读写不可移动的、非易失性磁介质(图3未显示,通常称为“硬盘驱动器”)。尽管图3中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线18相连。存储器28可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块42的程序/实用工具40,可以存储在例如存储器28中,这样的程序模块42包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。
多媒体设备12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信,还可与一个或者多个使得用户能与该多媒体设备12交互的设备通信,和/或与使得该多媒体设备12能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且,多媒体设备12还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器20通过总线18与多媒体设备12的其它模块通信。应当明白,尽管图中未示出,可以结合多媒体设备12使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理单元16通过运行存储在系统存储器28中的程序,从而执行各种功能应用以及数据处理,例如实现本发明实施例所提供的站点的播报方法。
实施例四
本发明实施例四还提供一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,该计算机程序被处理器执行时实现上述站点的播报方法的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
其中,计算机可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。
Claims (9)
1.一种站点的播报方法,其特征在于,应用于部署在公交车的多媒体设备,所述方法包括:
查询公交车沿指定的路线行驶时、下一个停靠的站点;
在所述路线上对所述站点设置的提示点;
查询所述公交车历史上从当前位置沿所述路线行驶至所述提示点时的速度,作为第一历史速度;
查询所述公交车从当前位置沿所述路线行驶至所述提示点经过的第一路程;
计算所述第一路程与所述第一历史速度之间的比值,作为第一预测行驶时长;
检测等待在所述多媒体设备中播放的多媒体数据;
在时间轴上按照顺序依次对所述多媒体数据的播放时长进行排列;
确定所述第一预测行驶时长截止时所属播放时长对应的所述多媒体数据,在所述公交车到达所述提示点时播放的原始多媒体数据,所述原始多媒体数据具有相互同步的原始视频数据、原始音频数据;
生成用于提示即将到达所述站点的提示图像数据、提示文本数据;
分别将所述提示图像数据嵌入所述原始视频数据中、以语音的方式将所述提示文本数据嵌入所述原始音频数据中,获得目标多媒体数据;
当所述公交车到达所述提示点时,在所述多媒体设备中播放所述目标多媒体数据,以在维持播放所述多媒体数据的条件下提示所述公交车即将到达所述站点。
2.根据权利要求1所述的方法,其特征在于,所述在所述路线上对所述站点设置的提示点,包括:
以所述站点为圆心生成指定半径的圆形,作为提示范围;
将所述路线上与所述提示范围相交、且位于所述站点之前的位置,设置为提示点。
3.根据权利要求1所述的方法,其特征在于,所述生成用于提示即将到达所述站点的提示图像数据、提示文本数据,包括:
查询所述公交车历史上从所述提示点沿所述路线行驶至所述站点时的速度,作为第二历史速度;
查询所述公交车从所述提示点沿所述路线行驶至所述站点经过的第二路程;
计算所述第二路程与所述第二历史速度之间的比值,作为第二预测行驶时长;
查询所述站点的名称、所述第二路程的路况信息;
将所述站点的名称、所述第二路程的路况信息、所述第二预测行驶时长生成符合自然语言的提示文本数据,以提示即将到达所述站点;
将所述站点的名称、所述第二路程的路况信息、所述第二预测行驶时长写入预设的模板图像数据中,获得用于提示即将到达所述站点的提示图像数据。
4.根据权利要求1-3中任一项所述的方法,其特征在于,所述原始视频数据中具有多帧原始图像数据;
所述分别将所述提示图像数据嵌入所述原始视频数据中、以语音的方式将所述提示文本数据嵌入所述原始音频数据中,获得目标多媒体数据,包括:
将所述提示文本数据转换为提示语音信号;
在所述原始音频数据中检测表示无语音信号的原始音频信号;
若所述原始音频信号的时长大于或等于所述提示语音信号的时长,则对与所述原始音频信号同步的所述原始图像数据中进行人脸检测;
若在所述原始图像数据中检测到人脸数据,则将所述提示图像数据嵌入所述原始图像数据中,将所述提示语音信号与所述原始音频信号进行混音处理,获得目标多媒体数据。
5.根据权利要求4所述的方法,其特征在于,所述将所述提示文本数据转换为提示语音信号,包括:
确定语音转换模型;
以所述原始音频数据为样本、为所述多媒体数据配置的文案信息为标签,更新所述语音转换模型,以使所述语音转换模型用于合成与所述原始音频数据音色相同的语音信号;
在限定所述音色的条件下,将所述提示文本数据输入更新之后的所述语音转换模型中进行处理,获得音色与所述原始音频数据相同的提示语音信号。
6.根据权利要求4所述的方法,其特征在于,所述将所述提示图像数据嵌入所述原始图像数据中,包括:
在所述原始图像数据中,检测所述人脸数据的朝向、所述人脸数据中嘴唇数据所在的区域;
沿所述朝向将所述提示图像数据写入所述原始图像数据中;
在所述原始图像数据与所述区域之间添加表示说话的指示图标。
7.一种站点的播报装置,其特征在于,应用于部署在公交车的多媒体设备,所述装置包括:
站点查询模块,用于查询公交车沿指定的路线行驶时、下一个停靠的站点;
提示点设置模块,用于在所述路线上对所述站点设置的提示点;
多媒体数据预测模块,用于查询所述公交车历史上从当前位置沿所述路线行驶至所述提示点时的速度,作为第一历史速度;查询所述公交车从当前位置沿所述路线行驶至所述提示点经过的第一路程;计算所述第一路程与所述第一历史速度之间的比值,作为第一预测行驶时长;检测等待在所述多媒体设备中播放的多媒体数据;在时间轴上按照顺序依次对所述多媒体数据的播放时长进行排列;确定所述第一预测行驶时长截止时所属播放时长对应的所述多媒体数据,在所述公交车到达所述提示点时播放的原始多媒体数据,所述原始多媒体数据具有相互同步的原始视频数据、原始音频数据;
站点信息生成模块,用于生成用于提示即将到达所述站点的提示图像数据、提示文本数据;
站点信息嵌入模块,用于分别将所述提示图像数据嵌入所述原始视频数据中、以语音的方式将所述提示文本数据嵌入所述原始音频数据中,获得目标多媒体数据;
多媒体数据播放模块,用于当所述公交车到达所述提示点时,在所述多媒体设备中播放所述目标多媒体数据,以在维持播放所述多媒体数据的条件下提示所述公交车即将到达所述站点。
8.一种多媒体设备,其特征在于,所述多媒体设备包括:
一个或多个处理器;
存储器,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-6中任一项所述的站点的播报方法。
9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储计算机程序,所述计算机程序被处理器执行时实现如权利要求1-6中任一项所述的站点的播报方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111221664.7A CN113971892B (zh) | 2021-10-20 | 2021-10-20 | 一种站点的播报方法、装置、多媒体设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111221664.7A CN113971892B (zh) | 2021-10-20 | 2021-10-20 | 一种站点的播报方法、装置、多媒体设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113971892A CN113971892A (zh) | 2022-01-25 |
CN113971892B true CN113971892B (zh) | 2022-12-27 |
Family
ID=79587927
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111221664.7A Active CN113971892B (zh) | 2021-10-20 | 2021-10-20 | 一种站点的播报方法、装置、多媒体设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113971892B (zh) |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2003024006A2 (en) * | 2001-09-04 | 2003-03-20 | The Rail Network, Inc. | Transit vehicle multimedia broadcast system |
CN200956618Y (zh) * | 2006-04-29 | 2007-10-03 | 南京地下铁道有限责任公司 | 地铁车载资讯播放系统 |
WO2007142462A1 (en) * | 2006-06-08 | 2007-12-13 | Lg Electronics Inc. | Method and apparatus for providing and using public transportation information |
KR20150125118A (ko) * | 2014-04-29 | 2015-11-09 | 한국항공대학교산학협력단 | 이동 단말에서 광고 선택 방법 및 장치 |
CN107195260A (zh) * | 2017-06-22 | 2017-09-22 | 蚌埠市麦沃特信息科技有限公司 | 一种应用于公共交通工具的广告方法 |
CN109367557A (zh) * | 2018-10-18 | 2019-02-22 | 上海工程技术大学 | 一种车辆到站信息综合提示系统 |
CN110556007A (zh) * | 2019-09-24 | 2019-12-10 | 合肥金誉堂文化传媒有限责任公司 | 一种智慧城市广告牌控制系统 |
CN110738854A (zh) * | 2019-10-28 | 2020-01-31 | 广州南翼信息科技有限公司 | 一种基于信息发布与语音播报的公交信息展示播报系统 |
CN111210650A (zh) * | 2020-03-13 | 2020-05-29 | 广州通达汽车电气股份有限公司 | 一种公交报站系统、方法、装置及存储介质 |
CN112019901A (zh) * | 2020-07-31 | 2020-12-01 | 苏州华启智能科技有限公司 | 一种动态地图添加视频播放的方法 |
CN112396864A (zh) * | 2020-11-06 | 2021-02-23 | 杭州图软科技有限公司 | 一种公交全车一体式多媒体系统 |
-
2021
- 2021-10-20 CN CN202111221664.7A patent/CN113971892B/zh active Active
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2003024006A2 (en) * | 2001-09-04 | 2003-03-20 | The Rail Network, Inc. | Transit vehicle multimedia broadcast system |
CN200956618Y (zh) * | 2006-04-29 | 2007-10-03 | 南京地下铁道有限责任公司 | 地铁车载资讯播放系统 |
WO2007142462A1 (en) * | 2006-06-08 | 2007-12-13 | Lg Electronics Inc. | Method and apparatus for providing and using public transportation information |
KR20150125118A (ko) * | 2014-04-29 | 2015-11-09 | 한국항공대학교산학협력단 | 이동 단말에서 광고 선택 방법 및 장치 |
CN107195260A (zh) * | 2017-06-22 | 2017-09-22 | 蚌埠市麦沃特信息科技有限公司 | 一种应用于公共交通工具的广告方法 |
CN109367557A (zh) * | 2018-10-18 | 2019-02-22 | 上海工程技术大学 | 一种车辆到站信息综合提示系统 |
CN110556007A (zh) * | 2019-09-24 | 2019-12-10 | 合肥金誉堂文化传媒有限责任公司 | 一种智慧城市广告牌控制系统 |
CN110738854A (zh) * | 2019-10-28 | 2020-01-31 | 广州南翼信息科技有限公司 | 一种基于信息发布与语音播报的公交信息展示播报系统 |
CN111210650A (zh) * | 2020-03-13 | 2020-05-29 | 广州通达汽车电气股份有限公司 | 一种公交报站系统、方法、装置及存储介质 |
CN112019901A (zh) * | 2020-07-31 | 2020-12-01 | 苏州华启智能科技有限公司 | 一种动态地图添加视频播放的方法 |
CN112396864A (zh) * | 2020-11-06 | 2021-02-23 | 杭州图软科技有限公司 | 一种公交全车一体式多媒体系统 |
Non-Patent Citations (2)
Title |
---|
公交自动语音报站及文字信息同步显示系统设计;魏银库;《计算机应用》;20090630;全文 * |
公交车到站电子预报系统;李鸿强等;《电子技术》;20050312(第03期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN113971892A (zh) | 2022-01-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10875525B2 (en) | Ability enhancement | |
US20190120649A1 (en) | Dialogue system, vehicle including the dialogue system, and accident information processing method | |
US11200892B1 (en) | Speech-enabled augmented reality user interface | |
JP3322140B2 (ja) | 車両用音声案内装置 | |
US20220365991A1 (en) | Method and apparatus for enhancing a geolocation database | |
JP2017090615A (ja) | 音声認識制御システム | |
JP2011179917A (ja) | 情報記録装置、情報記録方法、情報記録プログラムおよび記録媒体 | |
JP2016090681A (ja) | 車両用音声対話装置 | |
CN104183144A (zh) | 一种实时路况信息生成方法和系统 | |
WO2021115232A1 (zh) | 到站提醒方法、装置、终端及存储介质 | |
CN113299272B (zh) | 语音合成模型训练和语音合成方法、设备及存储介质 | |
CN103020232B (zh) | 一种导航系统中单字录入方法 | |
Kawaguchi et al. | Multimedia data collection of in-car speech communication | |
CN114118582A (zh) | 目的地预测方法、装置、电子终端及存储介质 | |
CN113971892B (zh) | 一种站点的播报方法、装置、多媒体设备和存储介质 | |
CN111578965A (zh) | 导航播报信息处理方法、装置、电子设备和存储介质 | |
KR20180009304A (ko) | 현지 언어 기반의 여행용 외국어 안내 프로그램을 저장하는 컴퓨터로 판독 가능한 기록매체 | |
US20210080281A1 (en) | Vehicle virtual assistant systems and methods for storing and utilizing data associated with vehicle stops | |
CN116580713A (zh) | 一种车载语音识别方法、装置、设备和存储介质 | |
US11922538B2 (en) | Apparatus for generating emojis, vehicle, and method for generating emojis | |
CN109712606A (zh) | 一种信息获取方法、装置、设备及存储介质 | |
US11542744B2 (en) | Agent device, agent device control method, and storage medium | |
US20200301654A1 (en) | On-vehicle device, method of controlling on-vehicle device, and storage medium | |
JP2022103675A (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP2000193479A (ja) | ナビゲ―ション装置及び記憶媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |