WO2022012299A1 - 显示设备及人物识别展示的方法 - Google Patents

显示设备及人物识别展示的方法 Download PDF

Info

Publication number
WO2022012299A1
WO2022012299A1 PCT/CN2021/102287 CN2021102287W WO2022012299A1 WO 2022012299 A1 WO2022012299 A1 WO 2022012299A1 CN 2021102287 W CN2021102287 W CN 2021102287W WO 2022012299 A1 WO2022012299 A1 WO 2022012299A1
Authority
WO
WIPO (PCT)
Prior art keywords
display
information
feature information
face feature
display device
Prior art date
Application number
PCT/CN2021/102287
Other languages
English (en)
French (fr)
Inventor
付延松
孟亚州
卢可敬
穆聪聪
Original Assignee
海信视像科技股份有限公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from CN202010673447.0A external-priority patent/CN111818378B/zh
Priority claimed from CN202011461720.XA external-priority patent/CN112601117B/zh
Priority claimed from CN202011459807.3A external-priority patent/CN112580625A/zh
Application filed by 海信视像科技股份有限公司 filed Critical 海信视像科技股份有限公司
Publication of WO2022012299A1 publication Critical patent/WO2022012299A1/zh
Priority to US17/950,747 priority Critical patent/US20230018502A1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44213Monitoring of end-user related data
    • H04N21/44218Detecting physical presence or behaviour of the user, e.g. using sensors to detect if the user is leaving the room or changes his face expression during a TV program
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/4104Peripherals receiving signals from specially adapted client devices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/53Querying
    • G06F16/535Filtering based on additional data, e.g. user or group profiles
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5854Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using shape and object relationship
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/5866Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using information manually generated, e.g. tags, keywords, comments, manually generated location and time information
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/22Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
    • G06V10/235Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition based on user input or interaction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/23418Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/41Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items

Abstract

本申请实施例提供了显示设备及人物识别展示的方法。显示设备包括:显示器和与所述显示器通信连接的控制器,所述控制器被配置为:响应于用户指令,获取显示器显示的显示界面关联信息并生成场景图像;获取所述场景图像中的待识别人脸特征信息;在数据库中的预存人脸特征信息与所述待识别人脸特征信息的匹配置信度不超过预设置信度时,获取相似人脸特征信息;获取素人识别数据;生成与所述待识别人脸特征信息唯一匹配的分享控件,所述分享控件用于将所述素人识别数据进行分享;控制所述显示器在显示界面上展示出所述素人识别数据和所述分享控件。

Description

显示设备及人物识别展示的方法
相关申请的交叉引用
本申请要求在2020年7月14日提交、申请号为202010673447.0、申请名称为“显示设备及人物识别展示的方法”的中国专利申请;在2020年7月14日提交、申请号为202010673819.X、申请名称为“显示设备及录屏分享方法”的中国专利申请;在2020年12月11日提交、申请号为202011459807.3、申请名称为“显示设备和图像内容识别方法”的中国专利申请;在2020年12月11日提交、申请号为202011461720.X、申请名称为“显示设备和内容展示方法”的中国专利申请的优先权,上述申请的全部内容通过引用结合在本申请中。
技术领域
本申请涉及显示技术领域,尤其涉及一种显示设备及人物识别展示的方法。
背景技术
智能电视是一种可实现双向人机交互功能,集影音、娱乐、数据等多种功能于一体的电视产品。为满足用户多样化的需求,运营商致力于开发便于用户使用的各种便捷功能,以提升对智能电视的使用体验感受。
目前,用户通过智能电视浏览影片时,可通过遥控器对当前显示界面进行截图,或者通过其他方式将当前显示界面的相关信息发送到服务器。服务器对显示界面中的人物、商品或地点等场景相关信息进行识别,并向智能电视发送相关的场景信息,以便智能电视将这些相关的场景信息显示出来,供用户查看或选择等。
发明内容
本申请一些实施例中,公开了一种显示设备,所述显示设备包括:显示器和控制器,所述控制器与所述显示器通信连接,所述控制器被配置为:响应于用户指令,获取显示器显示的显示界面关联信息并生成待识别的场景图像;获取所述场景图像中的待识别人脸特征信息;在数据库中的预存人脸特征信息与所述待识别人脸特征信息的匹配置信度不超过预设置信度时,获取相似人脸特征信息,其中,所述相似人脸特征信息是指与所述待识别人脸特征信息的匹配置信度满足条件的预存人脸特征信息,所述数据库是指服务器中若干预存人脸特征信息的集合;获取素人识别数据,其中,所述素人识别数据是指与所述场景图像中识别出的人物所对应的展示数据,所述素人识别数据包含与所述待识别人脸特征信息对应的展示数据,及与所述相似人脸特征信息对应的展示数据;生成与所述待识别人脸特征信息唯一匹配的分享控件,所述分享控件用于将所述素人识别数据进行分享;控制所述显示器在显示界面上展示出所述素人识别数据和所述分享控件。
本申请一些实施例中,公开了一种人物识别展示的方法,所述方法包括:响应于用户指令,获取显示器显示的显示界面关联信息并生成待识别的场景图像;获取所述场景图像中的待识别人脸特征信息;在数据库中的预存人脸特征信息与所述待识别人脸特征信息的匹配置信度不超过预设置信度时,获取相似人脸特征信息,其中,所述相似人脸特征信息是指与所述待识别人脸特征信息的匹配置信度满足条件的预存人脸特征信息,所述数据库 是指服务器中若干预存人脸特征信息的集合;获取素人识别数据,其中,所述素人识别数据是指与所述场景图像中识别出的人物所对应的展示数据,所述素人识别数据包含与所述待识别人脸特征信息对应的展示数据,及与所述相似人脸特征信息对应的展示数据;生成与所述待识别人脸特征信息唯一匹配的分享控件,所述分享控件用于将所述素人识别数据进行分享;控制所述显示器在显示界面上展示出所述素人识别数据和所述分享控件。
附图说明
图1中示例性示出了根据一些实施例的显示设备与控制装置之间操作场景的示意图;
图2中示例性示出了根据一些实施例的显示设备200的硬件配置框图;
图3中示例性示出了根据一些实施例的控制设备100的硬件配置框图;
图4中示例性示出了根据一些实施例的显示设备200中软件配置示意图;
图5中示例性示出了根据一些实施例的显示设备200中应用程序的图标控件界面显示示意图;
图6中示例性示出了根据一些实施例的人物识别展示的方法的流程示意图;
图7中示例性示出了根据一些实施例的获取素人识别数据的方法的流程示意图;
图8中示例性示出了根据一些实施例的素人识别数据的展示界面图;
图9中示例性示出了根据一些实施例的素人识别数据的展示界面图;
图10中示例性示出了根据一些实施例的移动终端的素人识别数据的展示界面图;
图11中示例性示出了根据一些实施例的相似明星详情页的展示界面图;
图12中示例性示出了根据一些实施例的录屏分享方法的流程示意图;
图13中示例性示出了根据一些实施例的生成录屏文件方法的流程示意图;
图14中示例性示出了根据一些实施例的生成录屏文件的显示界面图;
图15示例性示出了根据一些实施例的另一生成录屏文件的显示界面图;
图16示例性示出了根据一些实施例的另一生成录屏文件的显示界面图;
图17中示例性示出了根据一些实施例的显示器弹出浮层的显示界面图;
图18示出了根据一些实施例的显示设备200中应用程序的图标控件界面显示图;
图19示出了一些实施例的网络架构图;
图20A至图20J为本申请实施例中局部识别框的显示效果示意图;
图21A至图21C为本申请实施例提中内容信息的显示效果示意图;
图21D为本申请实施例中图层结构示意图;
图22为本申请实施例提供的一种图像内容识别方法的流程示意图;
图23示出了一些实施例的截图图像显示效果示意图;
图24A至24F示出了一些实施例的推荐内容显示效果示意图;
图25示出了另一些实施例的推荐内容显示效果示意图;
图26示出了一些实施例中内容展示方法的流程示意图。
具体实施方式
为使本申请的目的、实施方式和优点更加清楚,下面将结合本申请示例性实施例中的附图,对本申请示例性实施方式进行清楚、完整地描述,显然,所描述的示例性实施例仅 是本申请一部分实施例,而不是全部的实施例。
需要说明的是,本申请中对于术语的简要说明,仅是为了方便理解接下来描述的实施方式,而不是意图限定本申请的实施方式。除非另有说明,这些术语应当按照其普通和通常的含义理解。
本申请中说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”等是用于区别类似或同类的对象或实体,而不必然意味着限定特定的顺序或先后次序,除非另外注明(Unless otherwise indicated)。应该理解这样使用的用语在适当情况下可以互换,例如能够根据本申请实施例图示或描述中给出那些以外的顺序实施。
本申请中使用的术语“遥控器”,是指电子设备(如本申请中公开的显示设备)的一个组件,通常可在较短的距离范围内无线控制电子设备。一般使用红外线和/或射频(RF)信号和/或蓝牙与电子设备连接,也可以包括WiFi、无线USB、蓝牙、动作传感器等功能模块。例如:手持式触摸遥控器,是以触摸屏中用户界面取代一般遥控装置中的大部分物理内置硬键。
图1中示例性示出了根据实施例中显示设备与控制装置之间操作场景的示意图。如图1中示出,用户可通过移动终端300和控制装置100操作显示设备200。
在一些实施例中,控制装置100可以是遥控器,遥控器和显示设备的通信包括红外协议通信或蓝牙协议通信,及其他短距离通信方式等,通过无线或其他有线方式来控制显示设备200。
在一些实施例中,也可以使用移动终端、平板电脑、计算机、笔记本电脑、和其他智能设备以控制显示设备200。
在一些实施例中,移动终端300可与显示设备200安装软件应用,通过网络通信协议实现连接通信,实现一对一控制操作的和数据通信的目的。如图1中还示出,显示设备200还与服务器400通过多种通信方式进行数据通信。显示设备200,可以液晶显示器、OLED显示器、投影显示设备。
显示设备200除了提供广播接收电视功能之外,还可以附加提供计算机支持功能的智能网络电视功能,包括但不限于,网络电视、智能电视、互联网协议电视(IPTV)等。
图2中示例性示出了根据示例性实施例中显示设备200的硬件配置框图。
在一些实施例中,显示设备200中包括控制器250、调谐解调器210、通信器220、检测器230、输入/输出接口255、显示器275,音频输出接口285、存储器260、供电电源290、用户接口265、外部装置接口240中的至少一种。
在一些实施例中,显示器275,用于接收源自第一处理器输出的图像信号,进行显示视频内容和图像以及菜单操控界面的组件。
在一些实施例中,根据显示器275类型不同,还包括用于驱动显示的驱动组件。
在一些实施例中,显示器275为一种投影显示器,还可以包括一种投影装置和投影屏幕。
在一些实施例中,通信器220是用于根据各种通信协议类型与外部设备或外部服务器进行通信的组件。显示设备200可以通过通信器220与外部控制设备100或内容提供设备之间建立控制信号和数据信号发送和接收。用户接口265,可用于接收控制装置100(如:红外遥控器等)红外控制信号。检测器230是显示设备200用于采集外部环境或与外部交互的信号。
在一些实施例中,检测器230还可以包括图像采集器,如相机、摄像头等,可以用于采集外部环境场景,以及用于采集用户的属性或与用户交互手势,可以自适应变化显示参数,也可以识别用户手势,以实现与用户之间互动的功能。
检测器230还可以包括温度传感器等,如通过感测环境温度。
检测器230还可以包括声音采集器等,如麦克风,可以用于接收用户的声音。示例性的,包括用户控制显示设备200的控制指令的语音信号,或采集环境声音,用于识别环境场景类型,使得显示设备200可以自适应环境噪声。
在一些实施例中,如图2所示,输入/输出接口255被配置为,可进行控制器250与外部其他设备或其他控制器250之间的数据传输。如接收外部设备的视频信号数据和音频信号数据、或命令指令数据等。
在一些实施例中,控制器250,通过存储在存储器上中各种软件控制程序,来控制显示设备的工作和响应用户的操作。控制器250可以控制显示设备200的整体操作。例如:响应于接收到用于选择在显示器275上显示UI对象的用户命令,控制器250便可以执行与由用户命令选择的对象有关的操作。
在一些实施例中,所述对象可以是可选对象中的任何一个,例如超链接或图标。与所选择的对象有关操作,例如:显示连接到超链接页面、文档、图像等操作,或者执行与所述图标相对应程序的操作。用于选择UI对象用户命令,可以是通过连接到显示设备200的各种输入装置(例如,鼠标、键盘、触摸板等)输入命令或者与由用户说出语音相对应的语音命令。
如图2所示,控制器250包括随机存取存储器251(Random Access Memory,RAM)、只读存储器252(Read-Only Memory,ROM)、视频处理器270、音频处理器280、其他处理器253(例如:图形处理器(Graphics Processing Unit,GPU)、中央处理器254(Central Processing Unit,CPU)、通信接口(Communication Interface),以及通信总线256(Bus)中的至少一种。其中,通信总线连接各个部件。
在一些实施例中,在收到开机信号时,显示设备200电源开始启动,CPU运行ROM 252中系统启动指令,将存储在存储器的操作系统的临时数据拷贝至RAM 251中,以便于启动或运行操作系统。当操作系统启动完成后,CPU再将存储器中各种应用程序的临时数据拷贝至RAM 251中,然后,以便于启动或运行各种应用程序。
在一些实施例中,CPU处理器254,用于执行存储在存储器中操作系统和应用程序指令。以及根据接收外部输入的各种交互指令,来执行各种应用程序、数据和内容,以便最终显示和播放各种音视频内容。
在一些实施例中,图形处理器253,用于产生各种图形对象,如:图标、操作菜单、以及用户输入指令显示图形等。包括运算器,通过接收用户输入各种交互指令进行运算,根据显示属性显示各种对象。以及包括渲染器,对基于运算器得到的各种对象,进行渲染,上述渲染后的对象用于显示在显示器上。
在一些实施例中,视频处理器270被配置为将接收外部视频信号,根据输入信号的标准编解码协议进行处理,可得到直接可显示设备200上显示或播放的信号。
在一些实施例中,视频处理器270,包括解复用模块、视频解码模块、图像合成模块、帧率转换模块、显示格式化模块等。
在一些实施例中,图形处理器253可以和视频处理器可以集成设置,也可以分开设置, 集成设置的时候可以执行输出给显示器的图形信号的处理,分离设置的时候可以分别执行不同的功能。
在一些实施例中,音频处理器280,用于接收外部的音频信号,根据输入信号的标准编解码协议,进行解压缩和解码等,得到可以在扬声器中播放的声音信号。
在一些实施例中,视频处理器270可以包括一颗或多颗芯片组成。音频处理器,也可以包括一颗或多颗芯片组成。
在一些实施例中,视频处理器270和音频处理器280,可以单独的芯片,也可以于控制器一起集成在一颗或多颗芯片中。
在一些实施例中,音频输出,在控制器250的控制下接收音频处理器280输出的声音信号,如:扬声器286,以及除了显示设备200自身携带的扬声器之外,可以输出至外接设备的发生装置的外接音响输出端子,如:外接音响接口或耳机接口等,还可以包括通信接口中的近距离通信模块,例如:用于进行蓝牙扬声器声音输出的蓝牙模块。
供电电源290,在控制器250控制下,将外部电源输入的电力为显示设备200提供电源供电支持。供电电源290可以包括安装显示设备200内部的内置电源电路,也可以是安装在显示设备200外部电源,在显示设备200中提供外接电源的电源接口。
用户接口265,用于接收用户的输入信号,然后,将接收用户输入信号发送给控制器250。用户输入信号可以是通过红外接收器接收的遥控器信号,可以通过网络通信模块接收各种用户控制信号。
在一些实施例中,用户通过控制装置100或移动终端300输入用户命令,用户输入接口则根据用户的输入,显示设备200则通过控制器250响应用户的输入。
在一些实施例中,用户可在显示器275上显示的图形用户界面(GUI)输入用户命令,则用户输入接口通过图形用户界面(GUI)接收用户输入命令。或者,用户可通过输入特定的声音或手势进行输入用户命令,则用户输入接口通过传感器识别出声音或手势,来接收用户输入命令。
在一些实施例中,“用户界面”,是应用程序或操作系统与用户之间进行交互和信息交换的介质接口,它实现信息的内部形式与用户可以接受形式之间的转换。用户界面常用的表现形式是图形用户界面(Graphic User Interface,GUI),是指采用图形方式显示的与计算机操作相关的用户界面。它可以是在电子设备的显示屏中显示的一个图标、窗口、控件等界面元素,其中控件可以包括图标、按钮、菜单、选项卡、文本框、对话框、状态栏、导航栏、Widget等可视的界面元素。
存储器260,包括存储用于驱动显示设备200的各种软件模块。如:第一存储器中存储的各种软件模块,包括:基础模块、检测模块、通信模块、显示控制模块、浏览器模块、和各种服务模块等中的至少一种。
基础模块用于显示设备200中各个硬件之间信号通信、并向上层模块发送处理和控制信号的底层软件模块。检测模块用于从各种传感器或用户输入接口中收集各种信息,并进行数模转换以及分析管理的管理模块。
例如,语音识别模块中包括语音解析模块和语音指令数据库模块。显示控制模块用于控制显示器进行显示图像内容的模块,可以用于播放多媒体图像内容和UI界面等信息。通信模块,用于与外部设备之间进行控制和数据通信的模块。浏览器模块,用于执行浏览服务器之间数据通信的模块。服务模块,用于提供各种服务以及各类应用程序在内的模块。 同时,存储器260还用存储接收外部数据和用户数据、各种用户界面中各个项目的图像以及焦点对象的视觉效果图等。
图3示例性示出了根据示例性实施例中控制设备100的配置框图。如图3所示,控制设备100包括控制器110、通信接口130、用户输入/输出接口、存储器、供电电源。
控制设备100被配置为控制显示设备200,以及可接收用户的输入操作指令,且将操作指令转换为显示设备200可识别和响应的指令,起到用户与显示设备200之间交互中介作用。如:用户通过操作控制设备100上频道加减键,显示设备200响应频道加减的操作。
在一些实施例中,控制设备100可是一种智能设备。如:控制设备100可根据用户需求安装控制显示设备200的各种应用。
在一些实施例中,如图1所示,移动终端300或其他智能电子设备,可在安装操控显示设备200的应用之后,可以起到控制设备100类似功能。如:用户可以通过安装应用,在移动终端300或其他智能电子设备上可提供的图形用户界面的各种功能键或虚拟按钮,以实现控制设备100实体按键的功能。
控制器110包括处理器112和RAM 113和ROM 114、通信接口130以及通信总线。控制器用于控制控制设备100的运行和操作,以及内部各部件之间通信协作以及外部和内部的数据处理功能。
通信接口130在控制器110的控制下,实现与显示设备200之间控制信号和数据信号的通信。如:将接收到的用户输入信号发送至显示设备200上。通信接口130可包括WiFi芯片131、蓝牙模块132、NFC模块133等其他近场通信模块中至少之一种。
用户输入/输出接口140,其中,输入接口包括麦克风141、触摸板142、传感器143、按键144等其他输入接口中至少一者。
输出接口包括将接收的用户指令发送至显示设备200的接口。在一些实施例中,可以红外接口,也可以是射频接口。
在一些实施例中,控制设备100包括通信接口130和输入输出接口140中至少一者。控制设备100中配置通信接口130,可将用户输入指令根据WiFi协议、或蓝牙协议、或NFC协议编码,发送至显示设备200。
存储器190,用于在控制器的控制下存储驱动和控制控制设备200的各种运行程序、数据和应用。存储器190,可以存储用户输入的各类控制信号指令。
供电电源180,用于在控制器的控制下为控制设备100各元件提供运行电力支持。可以电池及相关控制电路。
参见图4,在一些实施例中,将系统分为四层,从上至下分别为应用程序(Applications)层(简称“应用层”),应用程序框架(Application Framework)层(简称“框架层”),安卓运行时(Android runtime)和系统库层(简称“系统运行库层”),以及内核层。
如图4所示,本申请实施例中应用程序框架层包括管理器(Managers),内容提供者(Content Provider)等,其中管理器包括以下模块中的至少一个:活动管理器(Activity Manager)用与和系统中正在运行的所有活动进行交互;位置管理器(Location Manager)用于给系统服务或应用提供了系统位置服务的访问;文件包管理器(Package Manager)用于检索当前安装在设备上的应用程序包相关的各种信息;通知管理器(Notification Manager)用于控制通知消息的显示和清除;窗口管理器(Window Manager)用于管理用户界面上的图标、窗口、工具栏、壁纸和桌面部件。
在一些实施例中,内核层是硬件和软件之间的层。如图4所示,内核层至少包含以下驱动中的至少一种:音频驱动、显示驱动、蓝牙驱动、摄像头驱动、WIFI驱动、USB驱动、HDMI驱动、传感器驱动(如指纹传感器,温度传感器,触摸传感器、压力传感器等)等。
在一些实施例中,内核层还包括用于进行电源管理的电源驱动模块。
在一些实施例中,图4中的软件架构对应的软件程序和/或模块存储在图2或图3所示的第一存储器或第二存储器中。
在一些实施例中,以魔镜应用(拍照应用)为例,当遥控接收装置接收到遥控器输入操作,相应的硬件中断被发给内核层。内核层将输入操作加工成原始输入事件(包括输入操作的值,输入操作的时间戳等信息)。原始输入事件被存储在内核层。应用程序框架层从内核层获取原始输入事件,根据焦点当前的位置识别该输入事件所对应的控件以及以该输入操作是确认操作,该确认操作所对应的控件为魔镜应用图标的控件,魔镜应用调用应用框架层的接口,启动魔镜应用,进而通过调用内核层启动摄像头驱动,实现通过摄像头捕获静态图像或视频。
在一些实施例中,对于具备触控功能的显示设备,以分屏操作为例,显示设备接收用户作用于显示屏上的输入操作(如分屏操作),内核层可以根据输入操作产生相应的输入事件,并向应用程序框架层上报该事件。由应用程序框架层的活动管理器设置与该输入操作对应的窗口模式(如多窗口模式)以及窗口位置和大小等。应用程序框架层的窗口管理根据活动管理器的设置绘制窗口,然后将绘制的窗口数据发送给内核层的显示驱动,由显示驱动在显示屏的不同显示区域显示与之对应的应用界面。
在一些实施例中,如图5中所示,应用程序层包含至少一个应用程序可以在显示器中显示对应的图标控件,如:直播电视应用程序图标控件、视频点播应用程序图标控件、媒体中心应用程序图标控件、应用程序中心图标控件、游戏应用图标控件等。
在一些实施例中,直播电视应用程序,可以通过不同的信号源提供直播电视。例如,直播电视应用程可以使用来自有线电视、无线广播、卫星服务或其他类型的直播电视服务的输入提供电视信号。以及,直播电视应用程序可在显示设备200上显示直播电视信号的视频。
在一些实施例中,视频点播应用程序,可以提供来自不同存储源的视频。不同于直播电视应用程序,视频点播提供来自某些存储源的视频显示。例如,视频点播可以来自云存储的服务器端、来自包含已存视频节目的本地硬盘储存器。
在一些实施例中,媒体中心应用程序,可以提供各种多媒体内容播放的应用程序。例如,媒体中心,可以为不同于直播电视或视频点播,用户可通过媒体中心应用程序访问各种图像或音频所提供服务。
在一些实施例中,应用程序中心,可以提供储存各种应用程序。应用程序可以是一种游戏、应用程序,或某些和计算机系统或其他设备相关但可以在智能电视中运行的其他应用程序。应用程序中心可从不同来源获得这些应用程序,将它们储存在本地储存器中,然后在显示设备200上可运行。
为了提升用户对智能电视的使用体验,智能电视通常具有识别显示场景并识别场景图像中人物或物品的功能。在一些实施例中,场景图像可以是显示界面对应的截图。在另外一些实施例中,场景图像可以是通过时间戳信息或其他标签信息的标识的场景相关的信息。下面的实施例中,以截图为场景图像进行说明。目前的智能电视只能获取到显示界面对应 的场景图像中人物的相关演职人员信息,也就是说,只有场景图像中的人物是演员时,才能够获取到相关信息进行展示。随着社交电视的引入和推广,特别是摄像头在智能电视中的增加,用户既可以通过摄像头直接观看自己当前的画面,同时在社交场景中(如视频通话中)与亲友聊天时看到除演员之外的更多面孔,即更多的素人面孔。对于截图中的素人,智能电视也没有相关数据进行展示。为了丰富智能电视的内容识别范围,本申请实施例提供一种显示设备及人物识别展示方法。需要说明的是,本申请中的显示设备不仅指的是智能电视,还可以指的是计算机、平板电脑等。
本申请实施例中的显示设备200能够增加内容识别,通过截图获取更多可展示的数据,显示设备200中的控制器250与显示器275通信连接,并被配置为执行人物识别展示的过程。下面结合附图来介绍本申请实施例提供的人物识别展示的过程。
图6中示例性示出了根据一些实施例的人物识别展示的方法的流程示意图。结合图6,所述方法包括以下步骤:
S310:响应于用户指令,获取显示器显示的显示界面关联信息并生成待识别的场景图像。
本申请实施例中,用户在观看显示设备200所展示的媒资时,若想要进一步了解当前显示界面中的人物信息,便可对显示设备200发送指令,例如识别指令。也就是说,显示设备200中的控制器250在接收到识别指令后,即可根据识别指令得知用户想要了解显示器中当前显示界面中人物的信息。
在一种实现方式中,用户可以利用遥控器上设置的“截图”按键,或者,遥控器中绑定截图功能的某一特定按键发送识别指令,例如,绑定截图功能的喜爱键或者直播键绑定截图功能。用户在观看媒资时,若是想要进行截图,则通过遥控器上的“截图”按键,或者绑定截图功能的特定按键发出识别指令。
在另一种实现方式中,用户可通过语音输入发出识别指令。例如,用户长按遥控器上的语音输入键,并说出“这个人是谁”。控制器250在接收到用户的语音输入之后,首先将用户的语音输入信息上传至服务器400。服务器400对语音输入信息进行解析,在语音输入信息解析为用户想要了解当前显示界面中人物的信息时,就向显示设备200发送截图指令,显示设备200根据操截图指令对显示器275当前显示界面进行截图。
本申请实施例中,控制器接收用户通过遥控器截图按键或者语音输入发出的识别指令,并根据识别指令对显示器显示的显示界面截图并生成截屏图像,或以其他方式获取显示界面对应的场景图像,进而通过后续步骤获取截屏图像中的识别数据以使显示器275进行展示。需要说明的是,本申请中的截屏图像可以截取于影视节目、综艺节目、新闻节目等,还可以截取于视频通话、用户自制录像等等。
S320:获取所述场景图像中的待识别人脸特征信息。
本申请实施例中,显示设备200在获取到场景图像,例如截屏图像后,将截屏图像发送给服务器400,服务器400接收该截屏图像,并基于图像内容识别技术提取出截屏图像中的待识别人脸特征信息,其中,待识别人脸特征信息包括额头、眉毛、眼睛、鼻子、嘴巴及下巴等人脸特征的提取。本申请在提取待识别人脸特征信息时,还能够标记出各个人脸特征的位置信息。
需要说明的是,本申请中的显示设备200与服务器400也可以同一个设备,即显示设备200与服务器400所能实现的功能均可以由同一个设备实现,具体过程在此就不再赘述。
S330:在数据库中的预存人脸特征信息与所述待识别人脸特征信息的匹配置信度不超过预设置信度时,获取相似人脸特征信息。
本申请实施例中,服务器400中设置有数据库,该数据库中存储有若干预存人脸特征信息,该数据库可视为服务器中若干预存人脸特征信息的集合。其中,若干预存人脸特征信息是指名人的人脸特征信息,顾名思义,名人泛指各行各业中能力崇高而备受景仰的人物,如演员、歌手、艺术家等,名人能够被大多数人所熟知。服务器400在提取到截屏图像中的待识别人脸特征信息后,会将待识别人脸特征信息与数据库中多个预存人脸特征信息进行逐一比对,分别得出多个匹配置信度。
在一些实施例中,服务器400中设置有预设置信度,当获取的多个匹配置信度均不超过预设置信度时,则可认定待识别人脸特征信息与数据库中各个名人的预存人脸特征信息匹配置信度较小,故该待识别人脸特征信息可认为是素人相对应的人脸特征信息,其中,素人即为生活中的普通人,素人可理解为除了亲戚朋友之外,不被其他人所了解的人。例如,将预设置信度设置为98%,若是待识别人脸特征信息与预存人脸特征信息中不存在匹配置信度为98%以上的预存人脸特征信息,则可认定待识别人脸特征信息提取自素人面孔。此时,服务器400从数据库中获取与所述待识别人脸特征信息的匹配置信度满足条件的预存人脸特征信息作为相似人脸特征信息。例如,服务器400可将多个匹配置信度进行降序排序,并选取相似人脸特征信息,服务器400可将相似人脸特征信息反馈至显示设备200,控制器250获取到相似人脸特征信息,其中,相似人脸特征信息是指与所述待识别人脸特征信息的匹配置信度排列前N的预存人脸特征信息,N大于等于1,也就是说,在获取相似人脸特征信息时,从排列好的匹配置信度中选取至少前1个,将该匹配置信度所对应的预存人脸特征信息作为相似人脸特征信息。
在一些实施例中,在数据库中的任一预存人脸特征信息与所述待识别人脸特征信息的匹配置信度超过预设置信度时,获取标准人脸特征信息,其中,所述标准人脸特征信息是指与所述待识别人脸特征信息的匹配置信度最高的预存人脸特征信息。也就是说,当获取的多个匹配置信度中任意一个超过预设置信度时,则可认定待识别人脸特征信息与数据库中某个名人的预存人脸特征信息匹配置信度较高,故该待识别人脸特征信息可认为是名人相对应的人脸特征信息,此时,服务器400可选取具有最高匹配置信度的预存人脸特征信息作为标准人脸特征信息,服务器400可将标准人脸特征信息反馈至显示设备200,控制器250获取到标准人脸特征信息。例如,将预设置信度设置为98%,若是待识别人脸特征信息与预存人脸特征信息中存在匹配置信度为98%以上的预存人脸特征信息,则可认定待识别人脸特征信息提取自名人面孔,其中具有98%以上的匹配置信度的预存人脸特征信息所对应的名人,即为截屏图像中所识别出的名人。
需要说明的是,预设置信度可根据算法的准确性进行设置,只有当待识别人脸特征信息和预存人脸信息是来自同一人物时,两者的匹配置信度才能够达到预设置信度以上,最高可达100%。若是素人的待识别人脸特征信息与数据库中预存人脸特征信息相匹配的话,匹配置信度可能低于50%。
在一些实施例中,在选取到标准人脸特征信息之后,服务器400能够根据标准人脸特征信息得知该标准人脸特征信息是提取自哪个名人人物,并根据该名人人物搜寻与所述标准人脸特征信息相对应的简介信息及相关媒资。服务器400在搜寻到相应的简介信息及相关媒资之后,将数据反馈至显示设备200,由控制器250进行获取。例如,从截屏图像中获 取到待识别人脸特征数据后,该待识别人脸特征数据与数据库中提取自张三的预存人脸特征信息相吻合,则可认定截屏图像中的该人物是张三,随后获取张三的简介信息,如张三,1983年7月17日出生于上海,中国内地流行乐男歌手、影视演员、音乐制作人,毕业于格里昂酒店管理学院。2005年,因参加选秀节目《WXWX》而正式出道。2006年,发行首张专辑,随后凭借歌曲《RZDX》获得广泛关注等等。同时获取张三所参演的相关媒资,如《HXQBJ》、《TZZLM2》等等。另外,还可以张三的新闻八卦等等。
以上说明了当截屏图像中仅包含一个人物时的识别过程,当然,在截屏图像中包含多个人物时,本申请实施例所提供的显示设备中,控制器被配置为:
分别获取多个人物的待识别人脸特征信息,并分别获取每一人物的匹配置信度结果,其中,匹配置信度结果包含数据库中的每一个预存人脸特征信息与所述待识别人脸特征信息的匹配置信度。对于截屏图像中的每一个人物来说,对比其匹配置信度结果与预设置信度的大小。在匹配置信度结果为存在超过预设置信度的预存人脸特征信息时,获取相应的标准人脸特征信息;或者,在匹配置信度结果为不存在超过预设置信度的预存人脸特征信息时,获取相应的所述相似人脸特征信息。需要说明的是,对于截屏图像中的多个人物来说,有可能全部属于素人面孔,有可能全部属于名人面孔,还有可能一部分属于素人面孔,另一部分数据名人面孔,无论是名人面孔还是素人面孔,只要对应获取相似人脸特征信息或者标准人脸特征信息即可,基于相似人脸特征信息和/或标准人脸特征信息进一步获取相应的展示数据。
S340:获取素人识别数据。
本申请实施例中,控制器250在获取到相似人脸特征信息后,进一步获取素人识别数据。其中,所述素人识别数据是指与所述截屏图像中识别出的人物所对应的展示数据,所述素人识别数据包含与所述待识别人脸特征信息对应的展示数据,及与所述相似人脸特征信息对应的展示数据。
下面结合附图说明一下获取素人识别数据的方法流程图。
图7中示例性示出了根据一些实施例的获取素人识别数据的方法的流程示意图。结合图7,步骤S410至步骤S440对该过程进行了说明:
S410:根据人脸特征的位置信息,获取从所述场景图像中截取的人物头像缩略图。
本申请实施例中,在提取待识别人脸特征信息时,同时标记了额头、眉毛、眼睛、鼻子、嘴巴及下巴等人脸特征的位置信息,通过人脸特征的位置信息能够在整个截屏图像中得知人物的位置信息,控制器250能够从截屏图像中截取出人物头像缩略图,即基于人物的位置信息进行抠图,得到人物头像缩略图。
S420:获取所述待识别人脸特征信息与人脸特征模板比对后所生成的颜值数据。
本申请实施例中,基于待识别人脸特征信息能够获取相对应人物的颜值数据。基于大众审美来说,能够获得大众所认可的标准人脸特征,例如,对于鼻子来说,通常会认为高鼻梁比矮鼻梁漂亮,对于眼睛来说,通常会认为双眼皮比单眼皮漂亮。服务器400能够基于提取的待识别人脸特征信息与预设的人脸特征模板进行比对,得到相应的颜值打分、颜值排名及年龄估计等等。对于不同的服务器来说,所得到的颜值数据可能不同。服务器400将获得的颜值数据反馈至显示设备200中。
在一些实施例中,基于待识别人脸特征信息能够获取相对应人物的面相数据,例如,面部五官小众,气质独特、美好,仪表堂堂等等。
S430:根据所述颜值数据,为所述人物头像缩略图添加相应的人物标识。
本申请实施例中,基于待识别人脸特征信息能够获取相对应人物的颜值数据,如颜值打分、颜值排名及年龄估计等等。服务器400根据颜值数据为相应的人物头像缩略图添加相应的人物标识。例如,对于一个年龄45岁左右男性来说,可以将其人物标识名为“帅哥”,对于一个年龄70岁左右的女性来说,可以将其人物标识名为“老奶奶”等等。服务器400在获取到相应的人物标识后,可跟随颜值数据一同反馈至显示设备200。
S440:通过所述相似人脸特征信息确定出相似明星,获取与所述相似明星相对应的简介信息及相关媒资。
本申请实施例中,基于相似人脸特征信息能够确定出相似明星,由于相似人脸特征信息是从预存人脸特征信息中提取的,故每一相似人脸特征信息均能够有对应的名人人物,该名人人物即为相似明星。服务器400根据相似明星搜寻到相应的简介信息及相关媒资,将数据反馈至显示设备200,由控制器250进行获取。
以上,素人识别数据包括人物头像缩略图、颜值数据、人物标识、相似明星以及相应的简介信息和相关媒资等等,上述数据中,有些数据是显示设备200中控制器250直接获取的,有些数据是控制器250通过服务器400间接获取的。
S350:生成与所述待识别人脸特征信息唯一匹配的分享控件。
本申请实施例中,控制器250根据所述人物标识,并结合生成所述截屏图像的时间戳、服务器域名以及显示设备标识生成字符串,其中,服务器是指提取所述截屏图像中人脸特征信息的服务器,根据所述字符串生成二维码。该二维码作为分享控件,用于将所述素人识别数据进行分享。用户想要从显示设备200中获取到素人识别数据时,可通过手机、iPad及笔记本等带有摄像头的移动终端扫描二维码,服务器400基于移动终端的请求,获取到相应的素人识别数据并反馈至移动终端,实现素人识别数据的分享。移动终端若想获取到素人识别数据,则需要通过生成截屏图像的时间戳获取截图的时间点,通过服务器域名获取要去哪台服务器访问,通过显示设备标识明确具体是哪台显示设备所生成的截屏图像,当移动终端想要获取素人识别数据时,通过扫描二维码向服务器请求即可。
S360:控制所述显示器在显示界面上展示出所述素人识别数据和所述分享控件。
本申请实施例中,控制器250在获取到素人识别数据之后,控制所述显示器275在当前显示界面上弹出信息浮层,所述信息浮层包括人物区域、相似区域、颜值区域及分享区域,其中,所述人物区域包含一个或多个人物控件,所述人物控件包含所述人物头像缩略图。图8中示例性示出了根据一些实施例的素人识别数据的展示界面图,图9中示例性示出了根据一些实施例的素人识别数据的展示界面图。结合图8和图9,在显示器275的当前显示界面的右侧,弹出了“内容识别”信息浮层,在“内容识别”信息浮层中依次设置有人物区域、相似区域、颜值区域、面相区域及分享区域。在人物区域中,显示有人物头像缩略图,该人物头像缩略图即为人物控件,在人物头像缩略图下方对应有该人物头像缩略图的人物标识,如图8中的“帅哥”。在人物区域中,通过遥控器中左/右的方向按键将焦点移动至不同的人物控件上时,控制器250控制下方相似区域、颜值区域、面相区域及分享区域展示截屏图像中识别出的不同人物的素人识别数据和分享控件。用户通过遥控器中上/下的方向按键将焦点移动至相似区域、颜值区域、面相区域及分享区域。在所述相似区域中展示有所述相似明星,如图8中的张三、李四及王二,并且在相似明星的下方展示有截屏图像中素人与各个相似明星的相似度。所述颜值区域用于展示所述颜值数据,如图8中,该截屏 图像中素人的颜值打分为87,颜值排名为83%,年龄估计为46。面相区域中展示有面相评价。在所述分享区域中,展示有分享控件,并设置有“手机扫码获取识别结果”的文字提示。
图10中示例性示出了根据一些实施例的移动终端的素人识别数据的展示界面图。在图10中,当用户通过移动终端扫描了分享区域中的分享控件后,移动终端的显示屏上相应的展示出图10所示的展示界面。
本申请实施例中,图8中信息浮层中的相似区域包含多个明星控件,多个所述明星控件分别对应多个相似明星。在所述相似区域获取焦点并接受选中后,控制器250控制所述信息浮层跳转至相似明星详情页,其中,所述相似明星详情页包括所述相似区域、简介区域以及媒资区域,所述简介区域用于展示简介信息,所述媒资区域用于展示相关媒资。参见图11,图11中示例性示出了根据一些实施例的相似明星详情页的展示界面图,如图11中所示,通过“相似明星”的浮层展示出相似明星详情页,在相似明星详情页中,依次设置有相似区域、简介区域以及媒资区域。在相似区域中,在焦点移动至不同的所述明星控件上时,控制器250控制在简介区域以及媒资区域展示不同相似明星的简介信息及相关媒资。也就是将焦点移动至不同的明星头像时,下方简介区域和媒资区域中展示相应明星的简介信息和相关媒资。图11中仅展示出了3个相似明星,根据选取的相似人脸特征的数量,此处可以设置多个相似明星,在相似区域中,通过遥控器上的左/右的方向按键将焦点移动至不同的明星控件上。另外,还可以在相似明星详情页设置有娱乐区域,在娱乐区域中展示有相对应明星的八卦新闻。
本申请中,显示设备能够基于截屏图像获取到素人识别数据,在显示界面的浮层上展示出素人识别数据,以便提高用户的体验感受。另外,控制器250还能够生成与所述待识别人脸特征信息唯一匹配的分享控件,分享控件也显示于显示界面的浮层上,通过分享控件,用户可以利用移动终端将素人识别数据进行分享。本申请极大的丰富了截屏图像中人物的识别范围,并且,通过增加识别数据的分享功能,为用户增添了趣味性。
本申请实施例还提供了一种人物识别展示的方法,所述方法包括:控制器250接收指令,所述指令用于对显示器275显示的显示界面截图并生成截屏图像。控制器250获取所述截屏图像中的待识别人脸特征信息,并将待识别人脸特征信息与数据库中预存人脸信息进行逐一对比。在数据库中的预存人脸特征信息与所述待识别人脸特征信息的匹配置信度不超过预设置信度时,控制器250获取相似人脸特征信息,其中,所述相似人脸特征信息是指与所述待识别人脸特征信息的匹配置信度满足条件的预存人脸特征信息,所述数据库是指服务器中若干预存人脸特征信息的集合。控制器250获取素人识别数据,其中,所述素人识别数据是指与所述截屏图像中识别出的人物所对应的展示数据,所述素人识别数据包含与所述待识别人脸特征信息对应的展示数据,及与所述相似人脸特征信息对应的展示数据。控制器250生成与所述待识别人脸特征信息唯一匹配的分享控件,所述分享控件用于将所述素人识别数据进行分享,并控制所述显示器275在显示界面上展示出所述素人识别数据和所述分享控件。
在一些实施例中,控制器250将待识别人脸特征信息与数据库中预存人脸信息进行逐一对比时,在数据库中的任一预存人脸特征信息与所述待识别人脸特征信息的匹配置信度超过预设置信度时,获取标准人脸特征信息,其中,所述标准人脸特征信息是指与所述待识别人脸特征信息的匹配置信度最高的预存人脸特征信息。控制器250获取与所述标准人 脸特征信息相对应的简介信息及相关媒资。
目前的智能电视能够通过特定的截图按键或场景识别按键获取到静态画面。随着社交电视的引入和推广,特别是摄像头在智能电视中的增加,智能电视除了能够播放影片,还能够播放摄像头所采集并展示的录像,或者与亲友通过视频通话进行聊天等。由于目前没有能够录制动态画面的方式,所以使得用户无法录制并分享所观看视频中一些有意义的视频片段或者通过社交电视视频时想要记录的视频片段等。为了增加用户的体验感受,本申请实施例提供一种显示设备及录屏分享方法。
本申请实施例中的显示设备200能够增加录屏功能,用户通过录屏获取所观看视频中一些有意义的视频片段或者通过社交电视视频时想要记录的视频片段等,显示设备200中的控制器250与显示器275通信连接,并被配置为执行录屏分享的过程。下面结合附图来介绍本申请实施例提供的录屏分享的过程。
图12中示例性示出了根据一些实施例的录屏分享方法的流程示意图。结合图12,所述方法包括以下步骤:
S610:接收用户通过按压遥控器上的截图按键发出的启动指令。
本申请实施例中,遥控器上设置有截图按键,或者,遥控器中某一特定按键绑定截图功能,例如,将喜爱键或者直播键绑定截图功能。在显示设备200正常开机状态时,用户可随时通过按压截图按键或场景识别发出指令,例如启动指令,控制器250在接收到该启动指令之后,相应的进行截图或录屏。
S620:在所述截图按键的按压时长超过预设启动时长时,根据所述启动指令录制显示器所显示的显示界面并生成录屏文件。
本申请实施例中,在显示设备200中设置有预设启动时长,通过截图按键的按压时长与预设启动时长做比较,来确定下一步是根据启动指令进行截图还是根据启动指令进行录屏,其中,截图按键的按压时长指的是用户将截图按键按下直至松开截图按键之间时长。
在一些实施例中,在所述截图按键的按压时长未超过预设启动时长时,根据所述启动指令对显示器所显示的显示界面截图并生成截屏图像。例如,将预设启动时长设置为300毫秒,当用户通过显示器275正在观看视频时,若是想要保存当前显示器275所展示的内容,即可通过遥控器按下截图按键。当用户开始按压截图按键时,就已经向显示设备200发送了启动指令,控制器250在判断其按压时长没有超过300毫秒时,也就是用户按下截图按键,并于300毫秒内松开了截图按键,则可认为用户仅是想要保留显示器275的当前显示界面,此时,控制器250根据启动指令对显示器275所显示的显示界面截图并生成截屏图像。
在一些实施例中,在所述截图按键的按压时长超过预设启动时长时,根据所述启动指令录制显示器所显示的显示界面并生成录屏文件。例如,将预设启动时长设置为300毫秒,当用户通过显示器275正在观看视频时,若是想要录制当前播放的内容,则可以按下截图按键,并进行持续性按压。当用户开始按压截图按键时,就已经向显示设备200发送了启动指令,控制器250在接收到启动指令后,首先对显示器275所显示的显示界面截图并生成截屏图像,若是控制器250在判断其按压时长超过300毫秒时,则可认为用户是想要进行录屏,此时,控制器250录制显示器275所显示的显示界面并生成录屏文件。
本申请实施例中,控制器250还被配置为获取所述截屏图像中的人物识别结果,控制所述显示器在显示界面的浮层上展示出所述人物识别结果。本申请中,无论是否进行录屏,显示设备200均可以先生成截屏图像,若是录屏的话,就在截屏图像的基础上继续录制显 示界面,从而生成录屏文件。显示设备200在接收到用户输入的启动指令后,需要向用户反馈一部分数据,通过显示器275进行展示,以使用户得知显示设备200进行截屏或者录屏。控制器250在获取到截屏图像后,将截屏图像上传至服务器400,服务器400响应于控制器250上传的截屏图像,并基于图像识别技术对截屏图像进行人物识别。服务器400基于截屏图像获取到图像中人物的头像缩略图及对应的人物标识。例如,对于截图中存在的影视明星的名人人物,其人物标识就是该人物的名字,如WK、GJF等。对于用户自己录制的视频来说,截图中存在的普通人,其人物标识可以是对应的帅哥、美女、老奶奶、小学生等等。服务器400将获取的人物识别结果,即人物的头像缩略图及对应的人物标识,反馈至显示设备200中,控制器250控制显示器275在显示界面的浮层上展示出相应的人物识别结果。
下面结合附图对生成录屏文件的过程进行说明。
图13中示例性示出了根据一些实施例的生成录屏文件方法的流程示意图。结合图13,通过步骤S710至步骤S730对生成录屏文件进行了说明:
S710:在所述截图按键的按压时长超过预设启动时长时,以控制器接收到启动指令的起始时刻为起始点开始录制所述显示界面。
本申请实施例中,用户通过按压截图按键即向显示设备200发送了启动指令,控制器250首先根据启动指令对显示器当前显示的显示界面进行截图,生成截屏图像。控制器250在进行截图操作的同时,还开始进行计时,判断用户按压截图按键的时长。当截图按键的按压时长超过预设启动时长时,控制器250以接收到启动指令的起始时刻为起始点开始录制所述显示界面,也就是说,控制器250以截屏图像为起始帧开始录制所述显示界面。
S720:控制所述显示界面上展示出录屏控件,所述录屏控件用于指示录屏时长,或者用于指示正在录屏中。
本申请实施例中,当控制器250以接收到启动指令的起始时刻为起始点开始录制所述显示界面时,并控制在显示界面上展示出录屏控件。在一种实现方式中,通过录屏控件向用户提示录制的时长是多久。图14中示例性示出了根据一些实施例的生成录屏文件的显示界面图。由图14所示,左上角展示出“录屏中00:05”,其意义即为录屏文件已经录制了5秒。在另一种实现方式中,通过录屏控件向用户提示显示设备200现在正在录屏中。图15示例性示出了根据一些实施例的另一生成录屏文件的显示界面图,图16示例性示出了根据一些实施例的另一生成录屏文件的显示界面图。图15和图16中录屏控件的差别在于,一个左上角展示出的录屏控件为“录屏”,另一个左上角展示出录屏控件为“·录屏”,通过两个状态下的录屏控件的交替出现,也就是说,通过录屏控件闪烁交替的两种状态,来提示用户显示设备200现在正在录屏中。
S730:在接收用户通过松开所述截图按键发出的停止指令时,或者在所述按压时长超过预设上限时长时,停止录制所述显示界面并生成录屏文件。
本申请实施例中,用户通过持续性按压遥控器上截图按键,用来进行录屏,当录制过程中,用户发现已经将自己所想录制的片段录制完成,则可通过松开截图按键停止录屏,也就是说,用户松开截图按键相当于向控制器250发送了停止指令,控制器250在接收到停止指令之后,停止对显示器275当前显示界面的录制,并生成录屏文件。
在另一些实施例中,用户通过持续性按压遥控器上截图按键,用来进行录屏,在录制过程中,控制器250一直进行计时,当截图按键的按压时长,也就是录屏文件的录制时长超过预设上限时长时,控制器250停止录制显示器275的当前显示界面,并生成录屏文件。 其中,预设上限时长可以设置为60秒,其可以根据显示设备存储空间的大小进行设置,在此不做限定。
本申请实施例中,当控制器250以接收到启动指令的起始时刻为起始点开始录制所述显示界面之后,根据控制器250的计时,在所述按压时长未超过预设下限时长时,停止录制所述显示界面并生成不合格录屏文件,所述不合格录屏文件是指未超过预设下限时长的按压时长内所生成的录屏文件。也就是说,当用户按下遥控器的截图按键后,按压时长超过了预设启动时长,控制器250开始录制文件,但是用户随后就松开了截图按键,从按压截图按键到松开截图按键之间的时长还未达到预设下限时长,导致录屏文件所录制的时间较短,那么控制器250在停止录制显示界面之后生成不合格录屏文件。例如,用户按下截图按键超过300毫秒,控制器250开始录屏文件的录制,当按压时长到达2秒后,用户松开了截图按键,此时控制器停止录屏文件的录制,并将生成的录屏文件视为不合格录屏文件。
生成不合格录屏文件之后,控制器控制所述显示界面展示第一提示框,所述第一提示框用于指示录屏文件不合格。第一提示框中可以设置有“录屏时间太短无法播放,需要重新录制”的文字提醒。由于不合格录屏文件无法进行播放,也没有保留价值,控制器250可以删除所述不合格录屏文件,以免其占用存储空间。
以上,通过预设下限时长能够避免用户原本是想要进行截图,结果按压时长稍微超过了预设启动时长进行误录制的情况。另外,还能够避免即使是用户原本想要录屏,但在后期播放录制文件时,由于录屏时间较短,录屏文件一闪而过,使得用户误以为显示设备出现播放故障的情况。
本申请实施例中,为了防止生成录屏文件之后,显示设备200中没有足够的存储空间来存储录屏文件,在开始录屏前,控制器250被配置为需要先查看一下存储空间余量。显示设备200中存储有预设余量,该预设余量大于等于在预设上限时长下所生成的录屏文件的大小。控制器250查看磁盘中的存储空间余量后,判断存储空间余量与预设余量的大小。在存储空间余量超过预设余量时,也就是说,存储空间余量还能够存储至少一个在预设上限时长下所生成的录屏文件,此时,根据所述启动指令录制所述显示界面并生成录屏文件。
在一些实施例中,控制器250查看磁盘中的存储空间余量后,判断存储空间余量与预设余量的大小。在存储空间余量未超过预设余量时,若所述存储空间内存储有历史录屏文件,则删除所述历史录屏文件,并根据所述启动指令录制所述显示界面并生成录屏文件。也就是说,当控制器250查看到存储空间余量不能够存储一个在预设上限时长下所生成的录屏文件时,控制器250需要进一步查看存储空间中所存储的文件,对于之前生成过的历史录屏文件来说,用户可能已经进行了分享,继续存储历史录屏文件的意义不大,所以,控制器250可以将历史录屏文件删除,以使磁盘中的存储空间足以存储新的录屏文件。需要说明的是,在删除历史录屏文件时,可以按照时间先后进行文件的删除,例如,先删除录制时间最早的历史录屏文件。
在另一些实施例中,控制器250查看磁盘中的存储空间余量后,判断存储空间余量与预设余量的大小。在存储空间余量未超过预设余量时,若所述存储空间内未存储有历史录屏文件,则弹出第二提示框,所述第二提示框用于提示用户存储空间已满无法录屏。也就是说,当控制器250查看到存储空间余量不能够存储一个在预设上限时长下所生成的录屏文件时,控制器250需要进一步查看存储空间中所存储的文件,若是存储空间中并没有历史录屏文件,则显示设备200中无法继续存储新生成的录屏文件,那么此时控制器250需要 通过第二提示框提示用户存储空间已满无法录屏。
S630:在保存所述录屏文件后,根据所述录屏文件的保存路径生成分享控件,其中,所述分享控件用于将所述录屏文件进行分享。
在一些实施例中,控制器250在根据启动指令生成录屏文件之后,将所述录屏文件保存至本地存储空间,也就是本地磁盘中。根据录屏文件的保存路径和显示设备的域名,控制器250生成字符串,并进一步根据字符串生成二维码。该二维码作为分享控件,将录屏文件进行分享。用户想要从显示设备200中获取到该录屏文件时,可通过手机、iPad及笔记本等带有摄像头的移动终端扫描二维码,控制器250通过判断显示设备200和移动终端是否位于同一局域网内,若是显示设备200和移动终端在同一局域网内,那么控制器250直接通过MQTT(Message Queuing Telemetry Transpor、消息队列遥测传输)、蓝牙等通信方式,将录屏文件传输给移动终端。若是显示设备200和移动终端不在同一局域网内,则控制器250通过显示器275弹出第三提示框,用于提示用户需要将移动终端连接至显示设备200所在的局域网内,然后再进行录屏文件的获取。以上分享方式属于局域网内录屏文件分享,可以理解为移动终端与显示设备200通过一根网线连接,移动终端若想获取到存储在显示设备200上的录屏文件,则需要通过二维码知道显示设备当前的域名以及录屏文件的保存路径,当移动终端想要读取文件时,只需在同一局域网内将录屏文件进行传输即可。
在另一些实施例中,控制器250在根据启动指令生成录屏文件之后,将所述录屏文件上传至服务器400,以使所述服务器400将所述录屏文件保存至数据库。服务器400在存储完所述录屏文件之后,将录屏文件的存储地址反馈至显示设备200。控制器250基于生成截屏图像的时间戳、服务器域名、显示设备标识以及所述存储地址提取出字符串,并根据字符串生成二维码。该二维码作为分享控件,将录屏文件进行分享。用户想要从显示设备200中获取到该录屏文件时,可通过手机、iPad及笔记本等带有摄像头的移动终端扫描二维码,服务器400基于移动终端的请求,获取到相应的录屏文件并反馈至移动终端,实现录屏文件的分享。以上分享方式属于非局域网内录屏文件分享,移动终端若想获取到存储在服务器400上的录屏文件,则需要通过生成截屏图像的时间戳获取刚开始录屏文件生成的时间点,通过服务器域名获取要去哪台服务器访问,通过显示设备标识明确具体是哪台显示设备所生成的录屏文件,通过存储地址获取具体的录屏文件,当移动终端想要读取文件时,通过扫描二维码向服务器请求录屏文件即可。
S640:控制所述显示器在显示界面的浮层上展示出所述分享控件。
本申请实施例中,显示设备200生成的录屏文件,能够支持显示设备200的本地播放,还能够通过移动终端扫描分享控件进行分享,当移动终端获取到录屏文件之后,还能够在好友之间互相分享。由于显示设备200在生成截屏图像或者录屏文件时,均不会干扰到显示设备200内容的播放,并且不会干扰到用户对显示设备200的其他操作。用户对显示设备200进行操作时,可以通过语音控制显示设备200。
图17中示例性示出了根据一些实施例的显示器弹出浮层的显示界面图。由图17所示,显示设备200在播放内容的过程中,若是分享控件已经生成,则控制所述显示器275在当前显示界面上弹出浮层,在该浮层中设置有分享区域,分享区域中展示有二维码,图17中分享区域的背景可采用截屏图像,将二维码浮于截屏图像上方。另外,在二维码旁边设置有“扫码获取录屏文件”的文字提示,并且设置有“‘OK’放大截图”的文字提示,当用户想要将分享区域中的截屏图像进行放大时,可通过遥控器上的“OK”按键实现。
在一些实施例中,所述浮层还包括内容识别区域,通过所述内容识别区域展示所述人物识别结果。如图17中所示,通过内容识别区域展示出人物的头像缩略图及对应的人物标识。当用户通过“OK”按键放大截屏图像后,能够便于得知人物识别结果是从哪个截图中获得的,并且能够仔细看清头像缩略图所对应的人物。
本申请中,无论显示器显示的内容是静态画面还是动态画面,控制器250均能够基于用户所发出的识别指令进行录屏,并且录屏文件不仅能够在显示设备上进行本地播放,还能够通过分享控件分享至其他设备中,大大增加了用户对显示设备的使用体验感受。
本申请实施例还提供了录屏分享方法,所述方法包括:显示设备200中的控制器250接收用户通过按压遥控器上的截图按键发出的启动指令。控制器250判断用户对截图按键的按压时长与预设启动时长的大小,在所述截图按键的按压时长超过预设启动时长时,根据所述启动指令录制显示器所显示的显示界面并生成录屏文件。控制器250将所述录屏文件进行保存,并在保存所述录屏文件后,根据所述录屏文件的保存路径生成分享控件,其中,所述分享控件用于将所述录屏文件进行分享。控制器250控制所述显示器275在显示界面的浮层上展示出所述分享控件,以便用户通过移动设备获取录屏文件进行分享。
在一些实施例中,显示设备启动后可以直接进入预置的视频点播程序的界面,视频点播程序的界面可以如图18中所示,至少包括导航栏510和位于导航栏510下方的内容显示区,内容显示区中显示的内容会随导航栏中被选中控件的变化而变化。应用程序层中的程序可以被集成在视频点播程序中通过导航栏的一个控件进行展示,也可以在导航栏中的应用控件被选中后进行进一步显示。
在一些实施例中,显示设备启动后可以直接进入上次选择的信号源的显示界面,或者信号源选择界面,其中信号源可以是预置的视频点播程序,还可以是HDMI接口,直播电视接口等中的至少一种,用户选择不同的信号源后,显示器可以显示从不同信号源获得的内容。
为清楚说明本申请的实施例,下面结合图19对本申请实施例提供的一种网络架构进行描述。
参见图19,图19为本申请实施例提供的一种网络架构示意图。图19中,智能设备用于接收输入的信息以及输出对该信息的处理结果;语音识别服务设备为部署有语音识别服务的电子设备,语义服务设备为部署有语义服务的电子设备,业务服务设备为部署有业务服务的电子设备。这里的电子设备可包括服务器、计算机等,这里的语音识别服务、语义服务(也可称为语义引擎)和业务服务为可部署在电子设备上的web服务,其中,语音识别服务用于将音频识别为文本,语义服务用于对文本进行语义解析,业务服务用于提供具体的服务如墨迹天气的天气查询服务、QQ音乐的音乐查询服务等。在一个实施例中,图19所示架构中可存在部署有不同业务服务的多个业务服务设备。如无特殊说明,业务服务设备即为本申请实施例中的各类服务器。
下面对基于图19所示架构处理输入智能设备的信息的过程进行举例描述,以输入智能设备的信息为通过语音输入的查询语句为例,上述过程可包括如下三个阶段:
1、语音识别阶段
智能设备可在接收到通过语音输入的查询语句后,将该查询语句的音频上传至语音识别服务设备,以由语音识别服务设备通过语音识别服务将该音频识别为文本后返回至智能设备。
在一个实施例中,将查询语句的音频上传至语音识别服务设备前,智能设备可对查询语句的音频进行去噪处理,这里的去噪处理可包括去除回声和环境噪声等步骤。
2、语义理解阶段
智能设备将语音识别服务识别出的查询语句的文本上传至语义服务设备,以由语义服务设备通过语义服务对该文本进行语义解析,得到文本的业务领域、意图等。
3、响应阶段
语义服务设备根据对查询语句的文本的语义解析结果,向相应的业务服务设备下发查询指令以获取业务服务给出的查询结果。智能设备可从语义服务设备获取该查询结果并输出,例如无线、红外等形式将查询结果输出至显示设备。作为一个实施例,语义服务设备还可将对查询语句的语义解析结果发送至智能设备,以由智能设备输出该语义解析结果中的反馈语句。语义服务设备也可将对查询语句的语义解析结果发送至显示设备,以由智能设备输出该语义解析结果中的反馈语句。
需要说明的是,图19所示架构只是一种示例,并非对本申请保护范围的限定。本申请实施例中,也可采用其他架构来实现类似功能,在此不做赘述。
本申请实施例中的显示设备200能够实现用户可以根据自身需要选择目标显示界面中的任意区域进行内容识别,识别效果较好,显示设备200中的控制器250与显示器275通信连接,并被配置为执行图像内容识别的过程。如果无特殊说明,以下实施例中显示设备所执行的步骤均可以理解为由所述控制器250执行或者由所述控制器250或所述控制器250与所述显示设备200的其他组成部分配合执行。
下面结合附图来介绍本申请实施例提供的图像内容识别的过程。
用户可以向直接向显示设备发送局部识别指令,或者也可以由通过其他设备向显示设备发送局部识别指令。
控制器250可以接收用户发送的识别指令,控制器250可以直接通过显示设备200的用户输入/输出接口接受用户所输入的识别指令,也可以接受用户通过其他设备(例如手机或遥控器)发送的识别指令。
本申请不对控制器250获取识别指令的方式或途径进行限定。例如,用户可以通过按压遥控器指定的按键,由遥控器向显示设备发送相应的识别指令;或者,用户可以向显示设备输出语音识别指令,例如,用户可以向显示设备输出语音“这个人是谁?”“这件衣服从哪里买?”“画面中有什么?”等。
在接收到所述识别指令后,控制器250响应于接收到的局部识别指令,控制所述显示器275在其所显示的目标显示界面中显示局部识别框。
所述目标显示界面可以是显示器275当前正在显示的界面,例如用户菜单界面、影音播放界面、资讯展示界面等,对此本申请不做限定。所述局部识别框601可以是一个也可以为多个,多个局部识别框的大小或形状可以相同也可以不同;不同局部识别框之间可以互不重合,也可以全部或部分重合。本申请不对局部识别框在所述显示器275进行显示的位置进行限定,也不对局部识别框的形状、大小、数量、显示方式等进行限定。所述目标界面可以如图20A的示例所示。
所述局部识别框可以以线框的方式显示,或者也可以特定显示效果(例如相对高亮度显示、三维效果等)的方式显示或体现。为便于表述,本申请实施例中仅仅以线框的为例进行说明,并不代表对本申请方案的限定,线框形式的局部识别框的显示效果可以如图20B 及图20C的示例所示。
在一些实施例中,所述显示器275除了在目标显示界面中显示局部识别框之外,还可以显示其他信息。例如,还可以显示与局部识别框相应的提示信息框及提示信息,所述提示信息可以用于提示用户可以进行的下一步操作,或者也可以用于对局部识别框可以实现的功能进行说明。提示信息可以显示在提示信息框602中,提示信息框602可以显示在预订位置,也可以显示在基于局部识别框确定的位置,其显示效果可以如图20D的示例所示。需要说明的是,所述局部识别框与所述提示信息可以显示在同一个图层,也可以显示在不同的图层。
在另一些实施例中,所述提示信息框602中可以显示“重新截取”按钮或“原图识别”按钮。用户可以通过操作遥控器方向键移动焦点至“重新截取”按钮,通过点击该“重新截取”按钮可以返回至图20A所示的状态。或者,用户可以通过操作遥控器方向键移动焦点至“原图识别”按钮,通过点击该“原图识别”将目标显示界面的全图发送给内容识别服务器进行识别,控制器250在收到所述确认指令后,将目标显示界面的全图发送至内容识别服务器。采用该实施例所提供的方式,用户可以方便的在全屏图像识别和局部图像识别功能之间做选择。
在目标显示界面中显示局部识别框后,用户还可以发送调整指令,所述调整指令可以用于对局部识别框的形状、大小、位置、数量进行调整。所述控制器250在接收到所述调整指令后,基于调整指令的内容调整所述局部识别框的大小、形状、位置、数量等,并控制显示器275显示调整后的局部识别框。
在一些实施例中,所述局部识别框的位置、大小等可以根据目标显示界面中的焦点所在位置确定,并随着焦点位置的变化而变化,即,所述局部选择框所选择的区域始终是焦点所在的区域。例如,当焦点位于目标显示界面中某个内容显示窗口时,所述局部识别框选定的区域可以与内容显示窗口重合或包含该内容显示窗口,其效果可以如图20D所示。当所述焦点的位置发生变化,从一个内容显示窗口转移到另一个内容显示窗口时,所述局部识别框的位置和大小也随之发生变化,其效果可以例如图20E所示。采用此方式,用户可以通过对焦点的位置调整,实现对局部识别框的位置调整,便于用户使用。
在另一些实施例中,所述局部识别框可以以初始大小显示在目标显示界面中的初始位置,而控制器250可以响应于调整指令,调整所述局部识别框的位置或大小。例如,在接收到用户的识别指令之后,显示器275可以在目标显示界面的默认位置(例如目标显示界面边缘处或正中央)显示局部识别框,其效果可以例如入图20F所示。如果局部识别框的位置不符合用户的需要,那么用户可以发送局部识别框的位置或大小调整指令,控制器250则响应于调整指令,调整局部识框的位置和大小,从而使局部识别框选定用户想要进行搜索的图像内容,其效果可以例如入图20G所示。
在又一些实施例中,所述局部识别框的位置和大小可以根据目标显示界面所包含的界面元素而确定,其中,所述界面元素可以是内容视图、窗口、菜单、图片、文本框等。当所述目标显示界面中显示有多个界面元素时,可以针对一个或多个界面元素显示一个局部识别框,其效果可以如图20H所示。每一个局部识别框对应一个界面元素,局部识别框所选定的区域即为相应界面元素所在的区域。进一步,控制器250可以响应于用户发送的调整指令,增加或减少所述局部识别框的数量,从而通过局部选择框选定用户想要进行搜索的图像内容。
在又一些实施例中,所述局部识别框的位置和大小可以根据目标显示界面所显示的内容而确定。例如,控制器250可以预先对目标界面进行才初步识别,然后根据控制器250从目标显示界面中识别出来的目标物(例如初步识别出的人物头像、动物图像或物品图像)而定。当所述目标显示界面中显示有多个目标物时,可以针对每一个目标物显示一个局部识别框,例如图20I所示。每一个局部识别框对应一个目标物,局部识别框所选定的区域即为目标物所在的区域。同样的,控制器250可以响应于用户发送的调整指令,增加或减少所述局部识别框的数量、调整所述局部识别框的形状或位置,从而通过局部选择框选定想要进行搜索的图像内容,例如图20J所示。
用户在通过局部识别框选择了要进行搜索的选定图像后,可以向控制器250发送确认指令。控制器250在收到所述确认指令后,将选定图像发送至内容识别服务器。
其中,所述选定图像是指所述目标显示界面中由所述局部识别框所选定区域的图像,所述确认指令,可以由用户直接发送或通过其他设备(例如遥控器)间接发送,所述确认指令可以是单独的一条指令可以是多条指令的组合。用户可以通过按压遥控器指定的按键或操作移动终端,实现通过遥控器或移动终端向显示设备发送确认指令;或者,用户也可以向显示设备输出语音确认指令,例如,用户可以向显示设备发送“识别这个区域”“确认”等语音指令。本申请不对确认指令的具体形式和获取途径进行限定。
例如,在图20D所示的状态下,用户通过操作遥控器方向键将局部识别框左移至图20E所示位置,用户可以通过点击遥控器确认按键,向显示设备发出局部识别指令。显示设备可以根据接收到的局部识别指令,截取选定图像中局部识别框所包围的显示有文字和图形的选定图像,并发送至内容识别服务器。
在一些实施例中,所述局部识别框只有一个。在此情况下,控制器250在接收到确认指令后,可以将目标显示界面中该局部识别框所选定区域的图像发送给内容识别服务器。例如,当局部识别框如图20E所示时,控制器250如果接收到用户按压遥控器“OK”键时,遥控器所发送的遥控信号,那么就可以将选定图像发送给内容识别服务器。
在另一些实施例中,所述局部识别框可能有多个。在此情况下,控制器250在接收到确认指令后,可以根据确认指令的内容,从所有局部识别框中选出至少一个作为选定局部识别框,然后将选定局部识别框所选定区域的图像发送给内容识别服务器。例如,当局部识别框如图20I所示时,控制器250每接收到用户短按遥控器“OK”键时遥控器所发送的遥控信号,那么就可以将当前焦点所在的一个选定图像发送给内容识别服务器;如果接收到用户长按遥控器“OK”键时遥控器所发送的遥控信号,那么就可以将所有选定图像发送给内容识别服务器。
根据应用场景或预先设置不同,所述内容识别服务器也可以同时存在多个,所述多个内容识别服务器可以是多种不同类型,不同类型的内容识别服务器可以分别用于识别不同的目标对象,所反馈的识别结果各不相同。例如,所述内容识别服务器可以是人物识服务器、图像识别服务器、多媒体服务器、媒资服务器、搜索引擎服务器等多种类型中的一个或几个。所述内容识别服务器可以用于对所述选定图像中的文字、图像、物品、人物等不同类型的识别目标进行识别,反馈相应的识别结果,为便于表述,以下分别用第一内容识别服务器与第二内容识别服务器分别指代不同类型的内容识别服务器。
所述选定图像可以仅发送给一个内容识别服务器,也可以同时发送给两个或两个以上的内容识别服务器;当所述选定图像为多个时,多个选定图像可以发送给同一个内容识别 服务器,也可以分别发送给不同的内容识别服务器,例如将第一选定图像发送给第一内容服务器,将第二选定图像发送给第二内容服务器。在将选定图像发送给内容识别服务器时,既可以同时发送给多个内容识别服务器,也可以在接收到第一内容识别服务器反馈的识别结果后,再根据识别结果将,确定第二内容识别服务器,并选定图像发送给第二内容识别服务器。例如,控制器250可以先将选定图像发送给人物识服务器,如果人物识服务器所反馈的识别结果中未包含有效的内容(例如未包人物信息),那么可以再将该选定图像发送给图像识别服务器。
内容识别服务器在接收到所述选定图像后,可以对所述选定图像进行识别或其他相应处理,进而生成识别结果,然后将所述识别结果发送给控制器250,所述控制器250则相应接收所述内容识别服务器返回的识别结果。其中,所述识别结果除可以包括从所述选定图像中识别出的信息之外,还可以包括基于所述识别出的信息进行进一步处理或搜索所得的信息,例如包括基于从所述选定图像中识别出的文字进行检索所得的检索结果,或,基于从所述选定图像中识别出的演员进行确定额推荐媒资。
同一个目标对象则可以对应多组结果信息。例如,当内容识别服务器从所述选定图像中识别出两个人物时,所述识别结果中可以包含两组人物信息,每一组人物信息与其中的一个人物相对应;当内容识别服务器从所述选定图像中识别出一个人物与一个物品时,所述识别结果中则可以包含一组人物信息、一组物品简介信息及一组物品购买链接信息,所述人物信息与所述人物相对应,所述物品信息及所述物品购买链接信息则与所述物品相对应。
在一些实施例中,所述识别结果可以包括至少一组人物信息,其中每一组人物信息与所述选定图像中的一个人脸图像对应,每一组人物信息可以包含用于选定图像中人脸图像所在区域的信息(例如坐标、人脸图像所在区域的高度H、人脸图像所在区域的宽度W等)以及识别出的人物的身份信息,还可以包括基于所述身份信息所获取到的媒资信息等其他信息。如图20A所示,为一种识别出的人脸区域的示意图。在图20A中,人脸所在区域为一个包围人脸的矩形区域,该人脸图像所在区域的左上角在显示器275坐标系中的坐标(X0,Y0);该人脸所在区域的高度H0;该人脸所在区域的宽度W0。显示设备可以根据该坐标(X0,Y0)、高度H0、宽度W0确定内容信息的展示位置。
在另一些实施例中,所述识别结果可以包括至少一组物品信息,其中,每一组物品信息与所述选定图像中的一个物品对应,每一组物品信息可以包含选定图像中物品名称信息,还可以包括该物品或与该物品相似的其他物品的商品简介或购买链接信息。类似的,还可以包括用于选定图像中物品图像所在区域的坐标信息。
在再一些实施例中,所述识别结果可以包括至少一组媒资推荐信息,其中,每一组媒资推荐信息与一个选定图像相对应,每一组媒资推荐信息用于推荐至少一组基于所述选定图像推荐媒资。例如,基于所述选定图像中所包含演员的信息确定的推荐媒资,或者根据所述选定图像中所包含的人物服饰或场景确定的推荐媒资。
在收到所述识别结果之后,所述控制器250则可以控制显示器275显示与所述识别结果对应的内容信息。所述内容信息的显示位置、显示方式、显示时长等与内容信息显示相关的参数都可以预先设定,也可以根据所述选定图像的类型、所述识别结果所包含的内容等确定。
在一些实施例中,当所述识别结果中包括前述实施例中所述的人物信息时,可以根据 人脸所在区域的坐标、人脸所在区域的高度H或人脸所在区域的宽度W等信息,在选定图像上显示人脸识别框,并在人脸识别框的附近显示识别出的人物的身份信息等。如图21A所示,为一种在选定图像上显示人脸识别框701,并在人脸识别框的附近显示识别出的人物的身份信息的示意图。在图21A中,选定图像中显示了一个人脸识别框,并在该人脸识别框的附近显示了识别出的人物的身份信息“张三”。在图21B中,则分别显示了“张三”“李四”这两个身份信息。
在另一些实施例中,当所述识别结果包括至少一组物品信息时,可以根据物品图像所在区域的坐标信息显示物品识别框,并在预先设定的区域显示该物品的商品简介或购买链接信息。具体显示方式在此就不再赘述。
在一些实施例中,如果所述识别结果中包含多组结果信息,那么控制器250则可以控制显示器275按照预设规则或显示方式同时显示各组结果信息;也可以控制显示器275按照预设规则或显示方式显示其中一组或几组结果信息,进而还可以自动切换显示或根据用户发送的切换指令切换显示其他组的结果信息,或者切换其他服务器所反馈的识别结果中结果信息。
例如,当所述识别结果中包含“张三”“李四”两组人物信息,每一组人物信息与一个人物相对应时,控制器250则可以控制显示器275显示其中一组人物信息,其显示方式可以如图21A的示例所示;或者,可以控制显示器275仅显示“张三”的人物信息,其显示方式可以如图21B的示例所示,当接收到切换指令后再显示“李四”的人物信息,而不再显示“张三”的人物信息,其显示方式可以如图21C的示例所示。
又如,当所述识别结果中则与同一个物品对应的一组物品简介信息及一组物品购买链接信息时,控制器250则可以控制显示器275按照预设规则或显示方式显示由图像识别服务器所反馈的识别结果中所包含的物品简介信息;而在收到用户发送的切换指令后,控制器250则可以控制显示器275按照预设规则或显示方式显示购物搜索引擎所反馈的识别结果中。
需要说明的是,所述局部识别框、内容信息及其他信息的显示均可以通过增加新的图层实现,例如图21D所示,用于显示目标显示界面的图层为图层B,而用于显示局部识别框的图层为图层M,所述图层M层叠显示与图层B之上,用于显示内容信息的图层T则可以层叠于图层M之上。以Android系统定义的坐标系规则为例,所述图层M的Z轴坐标值大于图层B的Z轴坐标值,所述图层T的Z轴坐标值大于图层M的Z轴坐标值。通过对图层M或图层T的显示参数进行调整,可以达到不同的显示效果。例如,可以将图层M中除所述局部识别框所在的区域之外的其他区域均设置为半透明,从而实现局部识别框的突出实现。
例如,目标显示界面所在的图形可以为图层B,局部识别框位于图层M,内容信息则位于图层T。局部识别框大小为产品定义的固定大小或可根据后台下发的尺寸大小;当在局部识别选择状态,用户通过方向键移动局部识别框时,当前自定义View通过固定的步长在onDraw()方法中重绘刷新显示局部识别框,以达到局部识别框实时跟随用户按键操作移动的效果。图层M和图层T均可以为局部镂空四周半透明样式遮罩控件所在的图层,通过自定义View,中间镂空位置与局部识别框的区域保持一致,颜色为透明;其他位置通过半透明的颜色填充。图层P可以为按钮及提示文字所在的图层,该图层位于所有图层的最上层,根据预先设计定义,可以在指定位置区域填充相应的文字、颜色、图案实现,其他位置保持透明状态。
在另一些实施例中,也可以将图层M由显示局部识别框改变成显示所述内容信息,从而无需再显示图层T;或者还可以在图层T之上再层叠显示用于实现其他功能或效果的图层P。采用此方式,可以在不改变目标显示界面所显示的内容的情况下显示,局部识别框、内容信息及其他信息,降低局部识别框等信息的显示复杂度。
本发明实施例提供的一种显示设备,可以从显示设备所显示的图像截取部分图像作为选定图像,也就是说,对所述显示器显示的显示界面截图并生成截图图像之后,通过遥控器或语音指令,通过在截图缩略图上点击确认进入全屏展示界面;然后,响应于局部识别指令,在全屏展示的截图图像界面中显示至少一个局部识别框,并利用内容识别服务器对局部识别框所选定区域的图像进行内容识别,获得识别结果,进而显示与识别结果对应的内容信息。即用户可以根据自身需要选择选定图像中的任意区域进行内容识别,识别效果较好。而且,利用局部识别框选择想要进行内容识别的局部区域,相对于使用整张图像进行内容识别的方式,缩小了识别区域,提高了识别的成功率和准确率,也增加了趣味性。进一步的,由于缩小了识别区域,在利用内容识别服务器进行内容识别时,可以降低数据传输量和降低带宽压力,提高内容识别结果的返回速度。
与前述显示设备的实施例相对应,本申请还提供了一种显示方法的实施例。下面结合附图对本申请显示方法的实施例进行说明。
参见图22,为本申请提供的一种图像内容识别方法的流程图。如图22所示,包括以下步骤:
步骤901,响应于局部识别指令,在所述显示器所显示的目标显示界面中显示局部识别框。
显示设备可以接收用户发送的识别指令,当所述识别指令是局部识别指令时,在所述显示器所显示的目标显示界面中显示局部识别框。所述局部识别指令的接收方式,可以参见前述实施例,在此就不再赘述。
所述局部识别框的显示方式有多种,可以在所述目标显示界面所包含的内容中添加至少一个局部识别框,或者可以在所述显示器所显示的目标显示界面上叠加显示一个具有局部识别框的图层,对此本申请不做限定。
所述局部识别框在显示器中的显示位置可以根据应用场景的不同而不同。例如,所述局部识别框可以显示在预先设定的位置;或者显示在基于所述目标界面中所包含的界面元素确定的位置;或者显示在基于所述控制器从所述目标显示界面中识别出的目标物所在的位置所确定的位置,对此本申请也不做限定。
在显示出所述局部识别框之后,还可以接收局部识别框调整指令,所述局部识别框调整指令用于调整所述局部识别框的显示位置、大小或显示方式等。调整后的局部识别框的显示方式、实现局部识别框调整的方式等均可以参见前述实施例,在此也不再赘述。
步骤902,响应于确认指令,将至少一个选定图像发送至内容识别服务器。
在接收倒确认指令之后,显示设备可以响应于确认指令,将至少一个选定图像发送至内容识别服务器。
本申请对选定图像的数量和内容识别服务器的数量都不做限定,可以是一个也可以是多个,不同选定图像所包含的内容可以相互独立,也可以有重叠。所述识别服务器也可以是一个或多个,不同识别服务器可以也用于从图像中识别不同类型的内容或用于提供不同个信息。
步骤903,接收所述内容识别服务器返回的识别结果。
所述识别结果既可以包括一个识别服务器返回的一个识别结果,也可以包括一个识别服务器同时或先后返回的多个识别结果,还可以包括多个识别服务器同时或先后返回的多个识别结果。每一个所述识别结果中可以包含多组结果信息,每一组信息与从所述选定图像中识别出的一个目标对象相对应,与同一个目标对象对应的结果信息则可以为多组。
步骤904,控制所述显示器显示与所述识别结果对应的内容信息。
所述内容信息可以是所述结果信息所包含的内容,即,可以仅显示结果信息本身所包含的内容。例如,所述内容信息可以所述内容信息中包含的文本、图形、图像等内容。或者,所述内容信息也可以是基于所述结果信息进一步生成或获取到的信息。例如,所述内容信息可以是基于所述结果信息所包含的参数生成的图形、图像,或者是基于所述结果信息所包含的链接获取到的页面内容。对此本申请也不做限定。
由于所述识别结果所包含的内容可能较多,在接收到所述识别结果后,可以通过内容信息一次性将所述识别结果所包含的结果信息全部都显示出来;也可以先显示一部分识别结果所包含的结果信息,再显示另一部分识别结果所包含的结果信息;或者也可以先显示识别结果所包含的一部分结果信息,再显示识别结果所包含的另一部分结果信息。
在一些实施例中,可以先显示与所述多个内容识别服务器中第一内容识别服务器识别结果对应的内容信息;在接收用户输入的切换指令后,响应于切换指令,显示与所述多个内容识别服务器中第二内容识别服务器识别结果对应的内容信息。
在另一些实施例中,可以先显示与所述多个内容识别服务器中第一内容识别服务器识别结果对应的内容信息;在接收到用户输入的切换指令后,响应于切换指令,显示与所述多个内容识别服务器中第二内容识别服务器识别结果对应的内容信息。
本申请中的显示设备200的控制器可以接收各种形式的截图指令。在接收到所述截图指令后,响应于接收到的截图指令,对显示器275当前显示界面进行截图操作,获得截图图像。在获取到所述截图图像之后,所述显示设备可以显示所述截图图像或所述截图图像的缩略图,例如如图23所示,以层叠显示方式在显示屏275的左上角显示截图图像的缩略图,或者也可以不显示,对此本申请不做限定。
其中,所述截图指令可以由用户直接向显示设备200发送,例如通过语音的方式向显示设备200直接发出“这个人是谁”“这件衣服从哪里买”“画面中有什么”等语音形式的截图指令,也可以由用户通过操作手机、遥控器等设备的指定按键或功能按钮,向显示设备200发送截图指令。本申请不对截图指令的形式或显示设备200获取截图指令的方式进行限定。
根据应用场景不同,所述截图图像可以包含当前显示界面所显示的全部内容,也可以仅包含当前显示界面所显示的部分内容。为减少数据传输量,并降低图像识别过程中的数据处理量,所述截图图像可以仅包含当前显示界面中部分区域所显示的内容,例如,可以仅包含当前显示界面中视频播放窗口所显示的内容,而不包含视频播放窗口之外的内容。
由于受到用户操作时延或显示设备200数据处理时延的影响,截图图像中可能并不包含目标对象,其中,目标对象是指用户可能感兴趣的对象。例如,从用户观看到显示器275所显示的画面,到用户发出截图指令,再到显示设备200实际进行截图操作,可能会存在一个较长的时延。该处时延的存在也可能会导致最终得到的截图图像与用户想要截取的显示画面并不一致,也可能会导致截图图像中目标对象的图像不清楚甚至不包含目标对象的 情况。服务器400对这样的截图图像进行内容识别,可能无法从中目标对象,进而导致无法为用户提供用户可能感兴趣的信息。
为避免此类情况发生,在显示设备200在获取截图图像时,还可以获取与所述截图图像对应的场景信息,然后将所述场景信息发送给服务器400。所述服务器400则可以基于所述场景信息生成推荐内容或完成图像识别,进而生成相应的响应信息,通过响应信息为用户提供用户可能感兴趣的信息。这样无论截图图像的内容或质量如何,也无论服务器400是否能从截图图像中识别出目标对象,服务器400都可以反馈可能感兴趣的推荐内容或识别结果给显示设备200,以供显示设备200进行显示。
下面就结合一些实施例,对本申请的实施方式进行进一步的说明。
在本申请一些实施例中,所述场景信息是服务器400提供推荐内容的依据,服务器400在获取到所述场景信息后,可以提供与所述场景信息对应的推荐内容或识别结果等。即,服务器400在获取到所述场景信息后,可以根据场景信息的内容不同,向显示设备200提供不同的推荐内容或识别结果。所述场景信息可以是指除所述截图图像之外的任何信息,通常情况下,所述场景信息可以包括与所述视频相关联的信息、与所述截图图像相关联的信息、或者所述显示设备200的运行状态信息等。
例如,所述场景信息可以包括显示设备200正在播放视频的视频ID、所述视频名称、所述视频播放进度、或者所述视频是否为本地视频等一个或多个与所述视频相关联的信息;也可以包括显示设备200接收到所述截图指令的时间、截图图像的分辨率、用于实现所述视频播放的APP名称等一个或多个与截图图像相关联的信息;或者也可以包括显示设备200正在运行的APP的信息、显示设备200的已持续运行的时间等一个或多个与运行状态相关的信息。
除通过信息获取请求将所述场景信息发送给服务器400之外,所述显示设备200还可以通过信息获取请求将截图图像等其他信息发送至服务器400,以便于所述服务器400对所述截图图像进行内容识别,进而向显示设备200反馈识别结果或反馈基于识别结果所确定的推荐内容。为提升截图图像的识别效果,除将截图图像发送至服务器400之外,还可以将用于辅助服务器400对所述截图图像进行内容识别的辅助信息发送至服务器400。所述辅助信息也可以有多种类型,例如,可以包括与所述截图图像相关的图像(例如所述视频中与所述截图图像最近的关键帧、所述截图图像临近的图像帧、包含所述截图图像的视频片段等),或者也可以包括所述视频的视频ID、名称、来源等与所述视频相关的信息。
显示设备200发送信息获取请求方式可以有多种,通常情况下,显示设备200可以在获取到所述截图图像之后,向服务器400发送包含有所述场景信息的信息获取请求,从而通过信息获取请求将场景信息发送给所述服务器400。除包含有所述场景信息之外,所述信息获取请求中还可以同时包含有所述截图图像或辅助信息等其他信息。所述信息获取请求中也可以只包含截图图像及辅助信息而不包含场景信息,对此本申请不做限定。
在一些实施例中,显示设备200可以仅在符合预定条件时,才向服务器400发送信息获取请求。例如,显示设备200可以仅在所述截图图像包括播放视频所产生的画面时,向服务器400发送信息获取请求,如果所述截图图像中不包含播放视频所产生的画面,则可以按照通常方式,将截图图像发送给内容识别服务器进行内容识别。
在另一些实施例中,显示设备200也可以仅在接收到用户发送的确认指令后,才向服务器400发送信息获取请求;如果未接收到用户的确认指令,则可以在获取到截图图像后 按照通常方式,仅将截图图像以信息获取请求之外的形式发送给内容识别服务器进行内容识别,而不发送信息获取请求;或者也可以既不发送信息获取请求,也不发送截图图像给服务器400。对此本申请不做限定。
在本申请各个实施例中,所述视频可以是预先已经保存在所述显示设备200中的视频,也可以是显示设备200即时生成(例如游戏画面)或即时采集的视频(例如通过摄像头拍摄到的图像),或者可以是流媒体、直播信号或电视信号对应的视频,本申请不对所述视频的类型进行限定。述显示设备200本地所保存的视频、也可以是所述显示设备200所播放流媒体视频、所述显示设备200所显示电视直播画面、所述显示设备200的本地摄像头所采集到的视频图像等各类视频。
确定所述截图图像中是否包括播放视频所产生的画面的确定的方式可以有多种,所述显示设备200可以根据显示设备200的工作状态、正在运行的程序或已经接收到的指令等确定所述截图图像中是否包括播放视频所产生的画面。例如,当所述显示设备200处于视频播放状态(即正在播放某个视频时),即可确定所述截图图像中包含播放视频所产生的画面;或者,当所述当前显示画面包含视频播放窗口,即可确定所述截图图像中包含播放视频所产生的画面;或者,还可以由显示设备200通过图像识别来确定所述截图图像中是否包含播放视频所产生的画面。各种,确定方式的具体实现过程在此就不再赘述。
本申请不对服务器400的类型和数量进行限定,在不同的应用场景下,所述服务器400的数量和类型也可以各不相同。所述服务器400可以独立与所述显示设备200之外,也可以是所述显示设备200的一部分。所述服务器400可以是一个也可以是多个,多个服务器400可以分别用于实现不同的功能或提供不同的信息,同一个服务器400也可以用于实现多个功能或提供个多种不同的信息。显示设备200可以将所述信息获取请求发送给全部服务器400,也可以仅发送给部分服务器400。
根据所述信息获取请求中所包含的内容不同,或者所述服务器400的具体类型不同,所述服务器400对信息获取请求的处理方式也各不相同。本申请不对服务器400所能实现的功能及功能的实现过程进行限定。相应的,所述信息获取请求中所包含的内容,及所述响应信息中所包含的内容也可以也可以有所不同。
下面结合一些具体的实施例,对本申请的实施方式进行进一步说明。
在一些实施例中,所述信息获取请求中包含截图图像,所述响应信息中可以包含从所述截图图像中识别得到目标对象的识别结果;相应的所述服务器400则可以包括内容识别服务器。
在该实施例中,所述内容识别服务器用于对截图图像进行内容识别,并生成响应信息。所述内容识别服务器可以为多个,每一个所述内容识别服务器可以仅用于对一个特定类型的目标对象进行识别,例如可以仅对文字、人物、物品等一类目标对象进行识别。显示设备200可以根据截图指令的内容、确认指令的内容等信息,选择一个或多个内容识别服务器作为选定服务器,然后将信息获取请求发送给选定服务器。例如,将截图指令是“这个演员是谁”的语音指令时,可以从多个服务器400中选定用于人物识别的人物识别服务器400,将所述信息获取请求发送至人物识别服务器400。进一步,所述响应信息中还可以包括内容推荐服务器则根据所述识别结果确定推荐内容,然后由内容识别服务器或内容推荐服务器将所述响应信息发送给显示设备200,所述响应信息中则可以包含所述识别结果和/或所述推荐内容。
采用该实施例中的实施方式,可以选择使用符合用户信息获取意图的服务器400对截图图像进行识别,从而可以使得识别得到的结果更符合用户的预期。
在另一些实施例中,所述信息获取请求中包含视频ID及视频的播放进度等场景信息,所述响应信息中可以包含目标对象的识别结果,所述服务器400则可以包括内容识别服务器。
用户在进行在线视频播放时,受制于流量或带宽等限制性条件,可能会选择清晰度较低(即分辨率较低或码率较低)的版本进行播放,而不选择清晰度最高(即分辨率最高或码率最高)的版本进行播放。在此情况下,截图图像清晰度相应也会比较差,导致图像识别难度增加或图像识别的准确率下降。在此情况下,所述内容识别服务器在接收到信息获取请求后,可以根据所述视频的视频ID的找到所述视频的最高清晰度版本,然后根据所述视频的播放进度,从所述视频的最高清晰度版本中获取所述截图图像的最高清晰度版本,进而对所述截图图像的最高清晰度版本进行内容识别,得到相应的识别结果。进一步,所述响应信息中也可以包括内容推荐服务器则根据所述识别结果确定推荐内容。
采用该实施例中的实施方式,所述服务器400可以无需直接从显示设备200获取截图图像,显示设备200可以仅发送视频的视频ID及所述视频的播放进度,就可以实现截图图像的内容识别,从而可以减少数据传输量,节省所述显示设备200在无线网络场景下流量消耗。
在另一些实施例中,所述信息获取请求中包含视频的视频ID及视频描述信息等场景信息,所述响应信息中可以包含从所述截图图像中识别得到目标对象的识别结果,所述服务器400则可以包括内容识别服务器。
由于同一个目标对象在不同的场景中可能有不同的含义,如果仅仅通过对截图图像进行内容识别,所得的识别结果可能非常简单或有限。例如,同一个演员在不同的剧集中会扮演不同的角色,如果仅仅通过对截图图像进行内容识别,那么通常只能识别出该演员是谁,但是并不能确定截图图像来自哪部剧集,以及该演员在该剧集中扮演的角色是谁。在此情况下,显示设备200可以将所述视频的视频ID、名称、来源等描述信息作为辅助信息。当信息获取请求中包含所述描述信息时,服务器400就可以先对截图图像进行识别,生成初步结果,然后再基于所述辅助信息对所述初步结果进行扩充或处理,得到识别结果。例如,服务器400就可以先对截图图像进行识别,得到截图图像中演员是“张三”的初步识别结果,然后通过所述描述信息确定所述截图图像所对应的剧集,进而根据所述剧集,确定该演员在剧集中所扮演的角色为“李四”,这样,最终得到的识别结果可以为“截图图像中演员是张三,他在该剧中扮演的角色是李四”。进一步,所述响应信息中还可以包括内容推荐服务器则根据所述识别结果确定推荐内容,例如将具有与“李四”相同或同类角色的剧集作为推荐内容,然后由内容识别服务器或内容推荐服务器将所述响应信息发送给显示设备200,所述响应信息中则可以包含所述识别结果和/或所述推荐内容,从而丰富识别结果所包含的内容。
在另一些实施例中,所述信息获取请求中包含截图图像及至少一个关键帧等辅助信息,所述响应信息中可以包含目标对象的识别结果,所述服务器400则可以包括内容识别服务器。
根据编码方式的不同,所述视频中可能会包含关键帧和过渡帧,如截图图像是过渡帧对应的图像,那么可能会出现截图图像中目标对象的不清晰的情况,从而导致目标对象的 识别成功率较低。在此情况下,在接收到所述信息获取请求后,所述内容识别服务器可以不对截图图像进行识别,而直接对关键帧逐一进行内容识别;或者也可以在未从截图图像中识别出目标对象时,再对所述关键帧进行内容识别。如果从所述关键帧中识别到目标对象,则可以生成包含关键帧中目标对象的识别结果的响应信息。
进一步,所述服务器400还可以包括内容识别服务器,所述响应信息中则还可以包含基于所述识别结果确定的推荐内容。所述内容推荐服务器则可以根据所述识别结果确定推荐内容,然后由内容识别服务器或内容推荐服务器将所述响应信息发送给显示设备200。需要说明的是,在该实施例中,所述关键帧也可以被替换为所述截图图像所对应帧的相邻帧,具体过程在此就不再赘述。在该实施例中,当截图图像是过渡帧对应的图像时,可以将所述过渡帧最近的关键帧或相邻帧作为辅助信息,从而使得服务器400在对截图图像进行内容识别之外,还可以对关键帧进行内容识别,从而提升目标对象的识别成功率,避免因为用户截图操作时机不佳等原因导致无法得到识别结果。
在另一些实施例中,所述信息获取请求中包含所述视频的播放进度等场景信息,所述响应信息中则可以包含基于所述视频的播放进度确定的推荐内容,所述服务器400则可以包括内容推荐服务器。
在该实施例中,所述内容推荐服务器可以预先保存有与所述视频不同的播放进度区间相关联的预设内容。所述播放进度区间可以是一个时间段可以是一个时间点,不同的播放进度区间之间可以不连续也可以相互重合,不同播放进度区间关联的预设内容类型可以相同也可以不同,各个播放进度区间关联的预设内容可以随着用户操作和时间变化而变化。
例如,所述视频的第一进度区间(例如视频的第0分钟~第15分钟)可以关联一些推荐视频作为推荐内容、第二进度区间(例如视频的第5分钟~第20分钟)则可以关联一些商品推荐信息或购买连链接作为推荐内容,第三进度区间(例如视频的第25分钟~第30分钟)则可以关联一些关键词,该关键词可以用来确定推荐内容。所述视频的播放进度可以以视频ID加播放时长的形式表示。在获取到所述信息获取请求后,所述内容推荐服务器首先根据视频ID和播放时长确定所述视频的播放进度落入哪个播放进度区间,然后将其所落入的播放进度区间相关联的预设内容作为推荐内容。例如,如果所述播放进度落入第一进度区间,则可以将所述推荐视频作为推荐内容;如果所述播放进度落入第二进度区间,则可以将所述商品推荐信息或购买连链接作为推荐内容;如果所述播放进度落入第三进度区间,则可以使用所述关键词进行内容搜索,然后将搜索结果作为所述推荐内容。
又如,可以为视频中的特定视频段关联一组预设内容,所述预设内容可以包括该视频段中出现的演员及相应角色信息,还可以包括基于该视频段中界面内容确定的媒资推荐信息、商品购买链接等。如果所述播放进度对应的视频段是所述特定视频段,则可以将所述预设内容作为推荐内容。
采用该实施例的实施方式,可以将截图图像识别与内容推荐功能相分离,使得即便是不对截图图像进行识别,或者采用本申请实施例之外的其他方式对截图图像进行识别,也可以实现与截图图像进行识别相同或类似的效果。
需要说明的是,以上实施例仅仅是本申请部分实施例,并不代表本申请的全部实施方式,不同实施例中的方案或步骤可以相互结合,从而形成新的实施方式,对此本申请不做限定,也不再一一赘述。
显示设备200在接收到所述响应信息后,还可以通过显示器275显示所述响应信息所包 含的推荐内容等内容。除显示所述响应信息中包含的所述推荐内容等内容之外,所述显示设备200还可以显示所述截图图像或所述截图图像的缩略图,或者显示设备200已经生成或获取的其他信息。
根据应用场景或内容推荐服务器不同,所述推荐内容的类型也可以有多种,所述响应信息中可以包含多个类型不同的推荐内容。例如,所述推荐内容可以包含媒资推荐信息、商品购买链接、旅游推介信息等。根据推荐内容的类型不同,所述推荐内容的展示方式也可以有所不同。
在一些实施例中,所述显示设备200可以通过内容推荐界面用于显示所述推荐内容。所述内容推荐界面中可以有至少一个显示区域用于显示所述推荐内容,当所述推荐内容较多或有多种不同类型时,可以分别使用不同的显示区域显示不同类型的推荐内容,例如如图24A所示,或者也可以使用同一显示区域循环显示不同的推荐内容,例如如图24B至图24C所示;除显示所述推荐内容的显示区域之外,所述内容推荐界面还可以有至少一个显示区域,用于显示所述截图图像的缩略图等其他信息,例如图24D所示。所述内容推荐界面中还包含一个用于显示截图图像的缩略图的显示区域,以及一个用于显示操作按钮及提示信息的显示区域,例如图24E所示。
所述内容推荐界面的显示方式也可以有多种,以下仅以一些示例进行说明。
在一些实施例中,所述内容推荐界面可以以图层的形式叠加显示在其他界面上。所述图层可以是半透明、不透明或部分区域透明的图层,例如图24F所示。当所述内容推荐界面叠加显示在其他界面上时,其他界面所显示的内容或内容显示方式可以保持不变,或者也可以暂停发生变化直至不再显示所述内容推荐界面。例如,如果内容推荐界面叠加在视频播放界面上,所述视频播放界面可以仍然保持视频的播放状态(即不暂停或退出视频播放),或者也可以不暂停或退出视频播放;如果内容推荐界面叠加在菜单界面上,所述菜单界面仍可以保持窗口内容或控件内容的周期性切换,或者也可以冻结菜单界面的内容,使菜单界面不再发生变化。
在另一些实施例中,所述内容推荐界面可以以弹出窗口的形式显示,即,或者所述内容推荐界面可以只占据所述显示屏的部分区域,例如图25所示。当内容推荐界面以弹出窗口的形式显示时,所述弹出窗口也可以叠加显示在其他界面上。同样的,在显示所述弹出窗口时,其他界面所显示的内容或内容显示方式可以保持不变。
在另一些实施例中,所述内容推荐界面可以是一个特定的显示界面,显示设备200可以从当前所显示的界面跳转至内容推荐界面,在界面跳转过程中,显示设备200还可以显示相应的过渡效果或过渡动画。在此就不再详细说明。
与前述实施例中的显示设备相对应,本申请还提供了一种内容展示方法。如图26所示,内容展示方法包括以下步骤:
步骤1001、接收截图指令。
显示设备接收截图指令的方式可以参见前述,在此就不再赘述。
步骤1002、响应于所述截图指令,对所述显示器所显示当前显示画面进行截图操作。
在接收到截图指令之后,显示设备可以对显示器所显示当前显示画面进行截图操作,获得截图图像。截图操作的具体实现方式和截图图像的获取方式,本申请不做限定,在此也不做赘述。
步骤1003,向服务器发送信息获取请求。
显示设备可以在符合预定条件时,向服务器发送信息获取请求。所述预定条件可以包括所述截图图像中包含视频播放所产生的图形、接收到了用户的确认操作等。所述信息获取请求中可以包含与所述截图图像对应的场景信息,还可以包括所述截图图像及辅助信息等信息。
步骤1004、接收所述服务器响应于所述信息获取请求发送的响应信息。
所述响应信息可以仅为一个也可以为多个,当所述相应信息为多个时,不同的响应信息可以由不同的服务器发送。所述服务器的数量可以为多个,类型可以为多种。所述响应信息中可以包含与所述场景信息对应的推荐内容,也可以包含所述截图图像的识别结果,例如截图图像中的待识别人脸特征信息,或者可以包含其他信息。相关之处参见前述实施例即可,在此就不再赘述。
步骤1005、显示所述响应信息所包含的内容。
显示设备在接收到所述响应信息后,可以显示所述响应信息所包含的全部或部分内容。例如,可以显示所述响应信息所包含的推荐内容或识别结果等内容。
显示所述响应信息所包含的内容,可以是指显示所述响应信息所包含的内容本身,也可以是显示对所述响应信息所包含的内容进一步进行处理后得到的处理结果,或者也可以是显示基于所述响应信息所包含的内容进行进一步检索所得的内容,对此本申请不做限定。
采用申请所提供的内容展示方法,可以避免基于截图图像的识别结果进行内容显示所带来的可显示内容过于单一的问题,使识别的内容更加丰富。
由于以上实施方式均是在其他方式之上引用结合进行说明,不同实施例之间均具有相同的部分,本说明书中各个实施例之间相同、相似的部分互相参见即可。在此不再详细阐述。

Claims (20)

  1. 一种显示设备,其特征在于,所述显示设备包括:
    显示器,
    控制器,所述控制器与所述显示器通信连接,所述控制器被配置为:
    响应于用户指令,获取显示器显示的显示界面关联信息并生成待识别的场景图像;
    获取所述场景图像中的待识别人脸特征信息;
    在数据库中的预存人脸特征信息与所述待识别人脸特征信息的匹配置信度不超过预设置信度时,获取相似人脸特征信息,其中,所述相似人脸特征信息是指与所述待识别人脸特征信息的匹配置信度满足条件的预存人脸特征信息,所述数据库是指服务器中若干预存人脸特征信息的集合;
    获取素人识别数据,其中,所述素人识别数据是指与所述场景图像中识别出的人物所对应的展示数据,所述素人识别数据包含与所述待识别人脸特征信息对应的展示数据,及与所述相似人脸特征信息对应的展示数据;
    生成与所述待识别人脸特征信息唯一匹配的分享控件,所述分享控件用于将所述素人识别数据进行分享;
    控制所述显示器在显示界面上展示出所述素人识别数据和所述分享控件。
  2. 根据权利要求1所述的显示设备,其特征在于,所述控制器还被配置为:
    在数据库中的任一预存人脸特征信息与所述待识别人脸特征信息的匹配置信度超过预设置信度时,获取标准人脸特征信息,其中,所述标准人脸特征信息是指与所述待识别人脸特征信息的匹配置信度最高的预存人脸特征信息;
    获取与所述标准人脸特征信息相对应的简介信息及相关媒资。
  3. 根据权利要求1所述的显示设备,其特征在于,所述待识别人脸特征信息包含人脸特征的位置信息,所述控制器被配置为通过下述获取素人识别数据:
    根据人脸特征的位置信息,获取从所述场景图像中截取的人物头像缩略图;
    获取所述待识别人脸特征信息与人脸特征模板比对后所生成的颜值数据;
    根据所述颜值数据,为所述人物头像缩略图添加相应的人物标识;
    通过所述相似人脸特征信息确定出相似明星,获取与所述相似明星相对应的简介信息及相关媒资。
  4. 根据权利要求3所述的显示设备,其特征在于,所述控制器被配置为通过下述控制所述显示器在显示界面上展示出所述素人识别数据和所述分享控件:
    控制所述显示器在当前显示界面上弹出信息浮层,所述信息浮层包括人物区域、相似区域、颜值区域及分享区域,其中,所述人物区域包含一个或多个人物控件,所述人物控件包含所述人物头像缩略图;
    在焦点移动至不同的所述人物控件上时,控制展示场景图像中识别出的不同人物的素人识别数据;
    所述相似区域用户展示所述相似明星;
    所述颜值区域用于展示所述颜值数据;
    所述分享区域用于展示所述分享控件。
  5. 根据权利要求4所述的显示设备,其特征在于,所述相似区域包含多个明星控件, 多个所述明星控件分别对应多个相似明星,所述控制器还被配置为:
    在所述相似区域获取焦点并接受选中后,控制所述信息浮层跳转至相似明星详情页,其中,所述相似明星详情页包括所述相似区域、简介区域以及媒资区域,所述简介区域用于展示简介信息,所述媒资区域用于展示相关媒资;
    在焦点移动至不同的所述明星控件上时,控制展示不同相似明星的简介信息及相关媒资。
  6. 根据权利要求3所述的显示设备,其特征在于,所述控制器被配置为通过下述生成与所述待识别人脸特征信息唯一匹配的分享控件:
    根据所述人物标识,并结合生成所述场景图像的时间戳、服务器域名以及显示设备标识生成字符串,其中,服务器是指提取所述场景图像中人脸特征信息的服务器;
    根据所述字符串生成二维码。
  7. 根据权利要求1所述的显示设备,其特征在于,所述控制器还被配置为:
    在所述场景图像包含多个人物的待识别人脸特征信息时,分别获取每一人物的匹配置信度结果,其中,匹配置信度结果包含数据库中的每一个预存人脸特征信息与所述待识别人脸特征信息的匹配置信度;
    在匹配置信度结果为存在超过预设置信度的预存人脸特征信息时,获取标准人脸特征信息;或者,在匹配置信度结果为不存在超过预设置信度的预存人脸特征信息时,获取所述相似人脸特征信息。
  8. 根据权利要求1所述的显示设备,其特征在于,所述用户指令包括:
    用户通过按压遥控器上的截图按键发出的识别指令;
    或,
    用户通过语音输入所发出的识别指令。
  9. 根据权利要求1所述的显示设备,其特征在于,所述控制器被进一步配置为:
    生成所述场景图像之后,响应于局部识别指令,在显示所述场景图像的界面中显示至少一个局部识别框;
    响应于确认指令,将至少一个选定图像发送至服务器,所述选定图像是指所述目标显示界面中由所述局部识别框所选定区域的图像;
    接收所述服务器在收到所述选定图像后返回的识别结果,所述识别结果包含所述待识别人脸特征信息。
  10. 根据权利要求1所述的显示设备,其特征在于,所述控制器被配置为:
    生成所述场景图像之后,当所述场景图像中包含播放视频所产生的画面时,向服务器发送信息获取请求,所述信息获取请求中包含与所述场景图像对应的场景信息;
    接收所述服务器响应于所述信息获取请求发送的响应信息,所述响应信息中包含与所述场景信息对应的待识别人脸特征信息。
  11. 根据权利要求1所述的显示设备,其特征在于,所述控制器配置为通过下述响应于用户指令,获取所述显示器显示的显示界面关联信息并生成待识别的场景图像,具体为:
    响应于用户通过按压遥控器上的截图按键发出的指令,当所述截图按键的按压时长未超过预设启动时长时,对所述显示器所显示的显示界面截图并生成截图图像。
  12. 根据权利要求11所述的显示设备,其特征在于,所述控制器还被配置为:响应于用户通过按压遥控器上的截图按键发出的指令,当所述截图按键的按压时长超过预设启动 时长时,录制所述显示器所显示的显示界面并生成录屏文件。
  13. 根据权利要求12所述的显示设备,其特征在于,所述控制器被配置为通过下述执行响应于用户通过按压遥控器上的截图按键发出的指令,当所述截图按键的按压时长超过预设启动时长时,录制所述显示器所显示的显示界面并生成录屏文件,具体为:
    在所述截图按键的按压时长超过预设启动时长时,以控制器接收到指令的起始时刻为起始点开始录制所述显示界面;
    控制所述显示界面上展示出录屏控件,所述录屏控件用于指示录屏时长,或者用于指示正在录屏中;
    在接收用户通过松开所述截图按键发出的停止指令时,或者在所述按压时长超过预设上限时长时,停止录制所述显示界面并生成录屏文件。
  14. 一种人物识别展示的方法,其特征在于,所述方法包括:
    响应于用户指令,获取显示器显示的显示界面关联信息并生成待识别的场景图像;
    获取所述场景图像中的待识别人脸特征信息;
    在数据库中的预存人脸特征信息与所述待识别人脸特征信息的匹配置信度均不超过预设置信度时,获取相似人脸特征信息,其中,所述相似人脸特征信息是指与所述待识别人脸特征信息的匹配置信度满足条件的预存人脸特征信息,所述数据库是指服务器中若干预存人脸特征信息的集合;
    获取素人识别数据,其中,所述素人识别数据是指与所述场景图像中识别出的人物所对应的展示数据,所述素人识别数据包含与所述待识别人脸特征信息对应的展示数据,及与所述相似人脸特征信息对应的展示数据;
    生成与所述待识别人脸特征信息唯一匹配的分享控件,所述分享控件用于将所述素人识别数据进行分享;
    控制所述显示器在显示界面上展示出所述素人识别数据和所述分享控件。
  15. 根据权利要求14所述的人物识别展示的方法,其特征在于,所述方法还包括:
    在数据库中的任一预存人脸特征信息与所述待识别人脸特征信息的匹配置信度超过预设置信度时,获取标准人脸特征信息,其中,所述标准人脸特征信息是指与所述待识别人脸特征信息的匹配置信度最高的预存人脸特征信息;
    获取与所述标准人脸特征信息相对应的简介信息及相关媒资。
  16. 根据权利要求14所述的人物识别展示的方法,其特征在于,所述响应于用户指令,获取所述显示器显示的显示界面关联信息并生成待识别的场景图像之后,所述方法还包括:
    响应于局部识别指令,在显示所述场景图像的界面中显示至少一个局部识别框;
    响应于确认指令,将至少一个选定图像发送至服务器,所述选定图像是指所述目标显示界面中由所述局部识别框所选定区域的图像;
    接收所述服务器在收到所述选定图像后返回的识别结果,所述识别结果包含所述待识别人脸特征信息。
  17. 根据权利要求14所述的人物识别展示的方法,其特征在于,生成所述场景图像之后,所述方法还包括:
    当所述场景图像中包含播放视频所产生的画面时,向服务器发送信息获取请求,所述信息获取请求中包含与所述场景图像对应的场景信息;
    接收所述服务器响应于所述信息获取请求发送的响应信息,所述响应信息中包含与所述场景信息对应的待识别人脸特征信息。
  18. 根据权利要求14所述的人物识别展示的方法,其特征在于,所述生成待识别的场景图像,包括:
    响应于用户通过按压遥控器上的截图按键发出的指令,当所述截图按键的按压时长未超过预设启动时长时,对所述显示器所显示的显示界面截图并生成截图图像。
  19. 根据权利要求18所述的人物识别展示的方法,其特征在于,所述方法还包括:响应于用户通过按压遥控器上的截图按键发出的指令,当所述截图按键的按压时长超过预设启动时长时,录制所述显示器所显示的显示界面并生成录屏文件。
  20. 根据权利要求19所述的人物识别展示的方法,其特征在于,所述响应于用户通过按压遥控器上的截图按键发出的指令,当所述截图按键的按压时长超过预设启动时长时,录制所述显示器所显示的显示界面并生成录屏文件,包括:
    在所述截图按键的按压时长超过预设启动时长时,以控制器接收到指令的起始时刻为起始点开始录制所述显示界面;
    控制所述显示界面上展示出录屏控件,所述录屏控件用于指示录屏时长,或者用于指示正在录屏中;
    在接收用户通过松开所述截图按键发出的停止指令时,或者在所述按压时长超过预设上限时长时,停止录制所述显示界面并生成录屏文件。
PCT/CN2021/102287 2020-07-14 2021-06-25 显示设备及人物识别展示的方法 WO2022012299A1 (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US17/950,747 US20230018502A1 (en) 2020-07-14 2022-09-22 Display apparatus and method for person recognition and presentation

Applications Claiming Priority (8)

Application Number Priority Date Filing Date Title
CN202010673447.0A CN111818378B (zh) 2020-07-14 2020-07-14 显示设备及人物识别展示的方法
CN202010673819.X 2020-07-14
CN202010673819 2020-07-14
CN202010673447.0 2020-07-14
CN202011461720.XA CN112601117B (zh) 2020-12-11 2020-12-11 显示设备和内容展示方法
CN202011459807.3A CN112580625A (zh) 2020-12-11 2020-12-11 一种显示设备和图像内容识别方法
CN202011459807.3 2020-12-11
CN202011461720.X 2020-12-11

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US17/950,747 Continuation US20230018502A1 (en) 2020-07-14 2022-09-22 Display apparatus and method for person recognition and presentation

Publications (1)

Publication Number Publication Date
WO2022012299A1 true WO2022012299A1 (zh) 2022-01-20

Family

ID=79555024

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/CN2021/102287 WO2022012299A1 (zh) 2020-07-14 2021-06-25 显示设备及人物识别展示的方法

Country Status (2)

Country Link
US (1) US20230018502A1 (zh)
WO (1) WO2022012299A1 (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116795316B (zh) * 2023-08-24 2023-11-03 南京维赛客网络科技有限公司 投屏时小窗口播放场景内画面的方法、系统及存储介质
CN117785995A (zh) * 2024-02-28 2024-03-29 江西方兴科技股份有限公司 一种基于物联网屏的数据展示方法及系统

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005078590A (ja) * 2003-09-03 2005-03-24 Nec Corp 顔照合システム
CN104463177A (zh) * 2014-12-23 2015-03-25 北京奇虎科技有限公司 相似人脸图片获取方法和装置
CN106649710A (zh) * 2016-12-20 2017-05-10 北京奇虎科技有限公司 图片推选方法、装置和移动终端
CN107563336A (zh) * 2017-09-07 2018-01-09 廖海斌 用于名人匹配游戏的人脸相似度分析方法、装置和系统
CN107563897A (zh) * 2017-09-08 2018-01-09 廖海斌 基于人脸匹配的名人励志推荐和社交网络建立方法与系统
CN108259973A (zh) * 2017-12-20 2018-07-06 青岛海信电器股份有限公司 智能电视及电视画面截图的图形用户界面的显示方法
CN108848419A (zh) * 2018-06-07 2018-11-20 康佳集团股份有限公司 基于生物特征识别的电视互动方法、智能电视及存储介质
CN109151502A (zh) * 2018-10-11 2019-01-04 百度在线网络技术(北京)有限公司 识别违规视频方法、装置、终端和计算机可读存储介质
CN109771936A (zh) * 2019-01-23 2019-05-21 努比亚技术有限公司 游戏控制方法、终端及计算机可读存储介质
CN109922363A (zh) * 2019-03-15 2019-06-21 青岛海信电器股份有限公司 一种显示画面截图的图形用户界面方法及显示设备
CN111818378A (zh) * 2020-07-14 2020-10-23 海信视像科技股份有限公司 显示设备及人物识别展示的方法
CN112580625A (zh) * 2020-12-11 2021-03-30 海信视像科技股份有限公司 一种显示设备和图像内容识别方法
CN112601117A (zh) * 2020-12-11 2021-04-02 海信视像科技股份有限公司 显示设备和内容展示方法

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005078590A (ja) * 2003-09-03 2005-03-24 Nec Corp 顔照合システム
CN104463177A (zh) * 2014-12-23 2015-03-25 北京奇虎科技有限公司 相似人脸图片获取方法和装置
CN106649710A (zh) * 2016-12-20 2017-05-10 北京奇虎科技有限公司 图片推选方法、装置和移动终端
CN107563336A (zh) * 2017-09-07 2018-01-09 廖海斌 用于名人匹配游戏的人脸相似度分析方法、装置和系统
CN107563897A (zh) * 2017-09-08 2018-01-09 廖海斌 基于人脸匹配的名人励志推荐和社交网络建立方法与系统
CN108259973A (zh) * 2017-12-20 2018-07-06 青岛海信电器股份有限公司 智能电视及电视画面截图的图形用户界面的显示方法
CN108848419A (zh) * 2018-06-07 2018-11-20 康佳集团股份有限公司 基于生物特征识别的电视互动方法、智能电视及存储介质
CN109151502A (zh) * 2018-10-11 2019-01-04 百度在线网络技术(北京)有限公司 识别违规视频方法、装置、终端和计算机可读存储介质
CN109771936A (zh) * 2019-01-23 2019-05-21 努比亚技术有限公司 游戏控制方法、终端及计算机可读存储介质
CN109922363A (zh) * 2019-03-15 2019-06-21 青岛海信电器股份有限公司 一种显示画面截图的图形用户界面方法及显示设备
CN111818378A (zh) * 2020-07-14 2020-10-23 海信视像科技股份有限公司 显示设备及人物识别展示的方法
CN112580625A (zh) * 2020-12-11 2021-03-30 海信视像科技股份有限公司 一种显示设备和图像内容识别方法
CN112601117A (zh) * 2020-12-11 2021-04-02 海信视像科技股份有限公司 显示设备和内容展示方法

Also Published As

Publication number Publication date
US20230018502A1 (en) 2023-01-19

Similar Documents

Publication Publication Date Title
WO2021103398A1 (zh) 一种智能电视以及服务器
US20230018502A1 (en) Display apparatus and method for person recognition and presentation
CN112000820A (zh) 一种媒资推荐方法及显示设备
CN111818378B (zh) 显示设备及人物识别展示的方法
CN111343512B (zh) 信息获取方法、显示设备及服务器
CN111770370A (zh) 显示设备、服务器及媒资推荐的方法
CN111625716A (zh) 媒资推荐方法、服务器及显示设备
CN111556350B (zh) 一种智能终端及人机交互方法
WO2022078172A1 (zh) 一种显示设备和内容展示方法
WO2022012271A1 (zh) 显示设备和服务器
CN113132776A (zh) 一种显示设备
CN112601117B (zh) 显示设备和内容展示方法
WO2021139045A1 (zh) 播放媒体项目的方法及显示设备
CN113163228B (zh) 媒资播放类型标记方法及服务器
CN112580625A (zh) 一种显示设备和图像内容识别方法
US11863829B2 (en) Display apparatus and method for displaying image recognition result
CN114390329B (zh) 显示设备及图像识别方法
CN113542900B (zh) 媒资信息展示方法及显示设备
CN113722542A (zh) 视频推荐方法及显示设备
CN113038217A (zh) 一种显示设备、服务器及应答语生成方法
WO2023000950A1 (zh) 显示设备及媒资内容推荐方法
CN115086771B (zh) 一种视频推荐媒资的展示方法及显示设备、服务器
CN115150673B (zh) 显示设备及媒资展示方法
WO2021139186A1 (zh) 一种显示设备
CN115866292A (zh) 服务器、显示设备及截图识别方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21842380

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21842380

Country of ref document: EP

Kind code of ref document: A1