CN113825001B - 全景图片浏览方法及显示设备 - Google Patents

全景图片浏览方法及显示设备 Download PDF

Info

Publication number
CN113825001B
CN113825001B CN202010559804.0A CN202010559804A CN113825001B CN 113825001 B CN113825001 B CN 113825001B CN 202010559804 A CN202010559804 A CN 202010559804A CN 113825001 B CN113825001 B CN 113825001B
Authority
CN
China
Prior art keywords
angle
display device
panoramic picture
initial
current
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010559804.0A
Other languages
English (en)
Other versions
CN113825001A (zh
Inventor
王大勇
于颜梅
杨鲁明
王卫明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hisense Visual Technology Co Ltd
Original Assignee
Hisense Visual Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hisense Visual Technology Co Ltd filed Critical Hisense Visual Technology Co Ltd
Priority to CN202010559804.0A priority Critical patent/CN113825001B/zh
Priority to PCT/CN2021/081562 priority patent/WO2021218473A1/zh
Publication of CN113825001A publication Critical patent/CN113825001A/zh
Application granted granted Critical
Publication of CN113825001B publication Critical patent/CN113825001B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44213Monitoring of end-user related data
    • H04N21/44218Detecting physical presence or behaviour of the user, e.g. using sensors to detect if the user is leaving the room or changes his face expression during a TV program
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42202Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS] environmental sensors, e.g. for detecting temperature, luminosity, pressure, earthquakes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42204User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Social Psychology (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Human Computer Interaction (AREA)
  • Business, Economics & Management (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Ecology (AREA)
  • Emergency Management (AREA)
  • Environmental & Geological Engineering (AREA)
  • Environmental Sciences (AREA)
  • Remote Sensing (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本申请提供的全景图片浏览方法及显示设备,在显示设备显示全景图片时,可以识别出显示设备前的目标人物,再分别获取目标人物的初始脸部角度以及预设时长后的当前脸部角度,利用初始脸部角度和当前脸部角度计算出显示设备上的全景图片需要移动的偏移距离,最后根据偏移距离调整全景图片,使得全景图片之前未显示的内容显示在显示设备上。本申请的方案能够通过显示设备前目标人物的脸部角度变化实现对全景图片的浏览,并且全景图片的偏移距离可以通过目标人物脸部转动的角度大小确定,进而操作者可以根据自己的需求自行浏览全景图片,无需再按照固定的移动步长对全景图片进行调整。

Description

全景图片浏览方法及显示设备
技术领域
本申请涉及智能家居技术领域,尤其涉及一种全景图片浏览方法及显示设备。
背景技术
全景图片是一种通过广角的表现手段展示的图片,全景图片可以表现更多周围环境的图像。通常全景图片不能完整地显示在显示设备上,当需要浏览该全景图片当前显示内容以外的内容时,需要对全景图片进行调整,以便将全景图片的其他内容调整到显示设备的显示区域。
目前,在显示设备上浏览全景图片时,通常需要使用遥控器对全景图片的显示内容进行调整,例如按下遥控器上的方向键,可以将全景图片向显示设备屏幕的对应方向上移动,进而显示出相反方向上之前并未显示的内容;或者采集操作者的手势,然后根据手势的方向对显示的全景图片内容进行调整,例如操作者的手指在显示设备屏幕上向右滑动,那么全景图片会在屏幕向右移动,进而显示出之前全景图片左侧并没有显示的内容。
然而,无论是遥控器调整还是手势调整,所有全景图片都是按照显示设备中预先设置的固定步长进行移动,当操作者只想细微地调整某一全景图片的内容时,如果固定步长过大,那么全景图片在显示设备屏幕上移动的距离就会过大,进而难以满足操作者对于全景图片细微调整的要求。
发明内容
本申请提供了一种全景图片浏览方法及显示设备,以解决当前在显示设备上浏览全景图片时难以满足操作者对于全景图片的不同调整要求的问题。
第一方面,本申请提供了一种全景图片浏览方法,包括:
在显示设备显示全景图片的情况下,识别显示设备前的目标人物,所述目标人物用于表示在显示设备前浏览全景图片的操作者;
获取所述目标人物在第一预设时长前后的初始脸部角度和当前脸部角度;
利用所述初始脸部角度和所述当前脸部角度获得所述全景图片的偏移距离;
按照所述偏移距离,调整所述全景图片在显示设备上的显示内容。
一些实施例中,识别显示设备前的目标人物的步骤包括:
检测显示设备前是否存在预设人物,所述预设人物用于表示显示设备中预先存储的浏览全景图片的操作者;
如果存在,则确定显示设备前的预设人物为目标人物。
一些实施例中,识别显示设备前的目标人物的步骤还包括:
在显示设备前同时存在多个人物并且不存在预设人物的情况下,分别计算出每个人物的人脸对应的像素面积;
选择像素面积最大的人脸对应的人物作为目标人物。
一些实施例中,获取所述目标人物在第一预设时长前后的初始脸部角度和当前脸部角度的步骤包括:
获取显示设备前目标人物脸部的初始翻滚角度、初始俯仰角度和初始偏航角度;
在第一预设时长过后,获取显示设备前目标人物脸部的当前翻滚角度、当前俯仰角度和当前偏航角度。
一些实施例中,利用所述初始脸部角度和所述当前脸部角度获得所述全景图片的偏移距离的步骤包括:
利用初始翻滚角度、当前翻滚角度、初始偏航角度和当前偏航角度计算所述全景图片的水平偏移距离;
利用初始俯仰角度、当前俯仰角度、初始翻滚角度和当前翻滚角度计算所述全景图片的垂直偏移距离。
一些实施例中,利用如下公式计算所述全景图片的水平偏移距离:
Figure BDA0002545865140000021
其中,OffsetX表示所述全景图片的水平偏移距离,Roll1和Roll2分别表示初始翻滚角度和当前翻滚角度,Yaw1和Yaw2分别表示初始偏航角度和当前偏航角度,A1表示矫正系数,deltaX表示水平方向最小调整角度值,Time表示最小调整偏移时间。
一些实施例中,利用如下公式计算所述全景图片的垂直偏移距离:
Figure BDA0002545865140000022
其中,OffsetY表示所述全景图片的垂直偏移距离,Roll1和Roll2分别表示初始翻滚角度和当前翻滚角度,Pitch1和Pitch2分别表示初始俯仰角度和当前俯仰角度,A2表示矫正系数,deltaY表示垂直方向最小调整角度值,Time表示最小调整偏移时间。
一些实施例中,识别显示设备前的目标人物之后,还包括:
如果在预设时长之后没有识别出显示设备前的目标人物,则重新计算显示设备前当前存在的每个人脸对应的像素面积;
选择像素面积最大的人脸对应的人物作为目标人物;
获取所述目标人物的初始脸部角度;
在第二预设时长之后,获取所述目标人物的当前脸部角度。
一些实施例中,所述目标人物的人脸显示在所述显示设备的显示器屏幕上。
第二方面,本申请还提供了一种显示设备,包括:
显示器;
检测器,用于采集显示设备前的图像;
控制器,被配置为:
在显示设备显示全景图片的情况下,识别显示设备前的目标人物,所述目标人物用于表示在显示设备前浏览全景图片的操作者;
获取所述目标人物在第一预设时长前后的初始脸部角度和当前脸部角度;
利用所述初始脸部角度和所述当前脸部角度获得所述全景图片的偏移距离;
按照所述偏移距离,调整所述全景图片在显示设备上的显示内容。
由上述内容可知,本申请技术方案中的全景图片浏览方法及显示设备,在显示设备显示全景图片时,可以识别出显示设备前的目标人物,再分别获取目标人物的初始脸部角度以及预设时长后的当前脸部角度,利用初始脸部角度和当前脸部角度计算出显示设备上的全景图片需要移动的偏移距离,最后根据偏移距离调整全景图片,使得全景图片之前未显示的内容显示在显示设备上。本申请的方案能够通过显示设备前目标人物的脸部角度变化实现对全景图片的浏览,并且全景图片的偏移距离可以通过目标人物脸部转动的角度大小确定,进而操作者可以根据自己的需求自行浏览全景图片,无需再按照固定的移动步长对全景图片进行调整。
附图说明
为了更清楚地说明本申请的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1中示例性示出了根据一些实施例的显示设备与控制装置之间操作场景的示意图;
图2中示例性示出了根据一些实施例的显示设备200的硬件配置框图;
图3中示例性示出了根据一些实施例的控制设备100的硬件配置框图;
图4中示例性示出了根据一些实施例的显示设备200中软件配置示意图;
图5中示例性示出了根据一些实施例的显示设备200中应用程序的图标控件界面显示示意图;
图6为本申请实施例示出的一种显示设备200与操作者之间的交互示意图;
图7为本申请实施例示出的一种全景图片浏览方法的流程图;
图8为本申请实施例示出的一种检测器230采集图像的示意图;
图9为本申请实施例示出的飞行器角度示意图;
图10为本申请实施例示出的另一种显示设备200与操作者之间的交互示意图;
图11为本申请实施例示出的控制器110获得的目标人物初始脸部角度的示意图;
图12为本申请实施例示出的控制器110获得的目标人物当前脸部角度的示意图。
具体实施方式
为使本申请的目的、实施方式和优点更加清楚,下面将结合本申请示例性实施例中的附图,对本申请示例性实施方式进行清楚、完整地描述,显然,所描述的示例性实施例仅是本申请一部分实施例,而不是全部的实施例。
基于本申请描述的示例性实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请所附权利要求保护的范围。此外,虽然本申请中公开内容按照示范性一个或几个实例来介绍,但应理解,可以就这些公开内容的各个方面也可以单独构成一个完整实施方式。
需要说明的是,本申请中对于术语的简要说明,仅是为了方便理解接下来描述的实施方式,而不是意图限定本申请的实施方式。除非另有说明,这些术语应当按照其普通和通常的含义理解。
本申请中说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”等是用于区别类似或同类的对象或实体,而不必然意味着限定特定的顺序或先后次序,除非另外注明(Unless otherwise indicated)。应该理解这样使用的用语在适当情况下可以互换,例如能够根据本申请实施例图示或描述中给出那些以外的顺序实施。
此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖但不排他的包含,例如,包含了一系列组件的产品或设备不必限于清楚地列出的那些组件,而是可包括没有清楚地列出的或对于这些产品或设备固有的其它组件。
本申请中使用的术语“模块”,是指任何已知或后来开发的硬件、软件、固件、人工智能、模糊逻辑或硬件或/和软件代码的组合,能够执行与该元件相关的功能。
本申请中使用的术语“遥控器”,是指电子设备(如本申请中公开的显示设备)的一个组件,通常可在较短的距离范围内无线控制电子设备。一般使用红外线和/或射频(RF)信号和/或蓝牙与电子设备连接,也可以包括WiFi、无线USB、蓝牙、动作传感器等功能模块。例如:手持式触摸遥控器,是以触摸屏中用户界面取代一般遥控装置中的大部分物理内置硬键。
本申请中使用的术语“手势”,是指用户通过一种手型的变化或手部运动等动作,用于表达预期想法、动作、目的/或结果的用户行为。
图1中示例性示出了根据实施例中显示设备与控制装置之间操作场景的示意图。如图1中示出,用户可通过移动终端300和控制装置100操作显示设备200。
在一些实施例中,控制装置100可以是遥控器,遥控器和显示设备的通信包括红外协议通信或蓝牙协议通信,及其他短距离通信方式等,通过无线或其他有线方式来控制显示设备200。用户可以通过遥控器上按键,语音输入、控制面板输入等输入用户指令,来控制显示设备200。如:用户可以通过遥控器上音量加减键、频道控制键、上/下/左/右的移动按键、语音输入按键、菜单键、开关机按键等输入相应控制指令,来实现控制显示设备200的功能。
在一些实施例中,也可以使用移动终端、平板电脑、计算机、笔记本电脑、和其他智能设备以控制显示设备200。例如,使用在智能设备上运行的应用程序控制显示设备200。该应用程序通过配置可以在与智能设备关联的屏幕上,在直观的用户界面(UI)中为用户提供各种控制。
在一些实施例中,移动终端300可与显示设备200安装软件应用,通过网络通信协议实现连接通信,实现一对一控制操作的和数据通信的目的。如:可以实现用移动终端300与显示设备200建立控制指令协议,将遥控控制键盘同步到移动终端300上,通过控制移动终端300上用户界面,实现控制显示设备200的功能。也可以将移动终端300上显示音视频内容传输到显示设备200上,实现同步显示功能。
如图1中还示出,显示设备200还与服务器400通过多种通信方式进行数据通信。可允许显示设备200通过局域网(LAN)、无线局域网(WLAN)和其他网络进行通信连接。服务器400可以向显示设备200提供各种内容和互动。示例的,显示设备200通过发送和接收信息,以及电子节目指南(EPG)互动,接收软件程序更新,或访问远程储存的数字媒体库。服务器400可以是一个集群,也可以是多个集群,可以包括一类或多类服务器。通过服务器400提供视频点播和广告服务等其他网络服务内容。
显示设备200,可以液晶显示器、OLED显示器、投影显示设备。具体显示设备类型,尺寸大小和分辨率等不作限定,本领技术人员可以理解的是,显示设备200可以根据需要做性能和配置上一些改变。
显示设备200除了提供广播接收电视功能之外,还可以附加提供计算机支持功能的智能网络电视功能,包括但不限于,网络电视、智能电视、互联网协议电视(IPTV)等。
图2中示例性示出了根据示例性实施例中显示设备200的硬件配置框图。
在一些实施例中,显示设备200中包括控制器250、调谐解调器210、通信器220、检测器230、输入/输出接口255、显示器275,音频输出接口285、存储器260、供电电源290、用户接口265、外部装置接口240中的至少一种。
在一些实施例中,显示器275,用于接收源自第一处理器输出的图像信号,进行显示视频内容和图像以及菜单操控界面的组件。
在一些实施例中,显示器275,包括用于呈现画面的显示屏组件,以及驱动图像显示的驱动组件。
在一些实施例中,显示视频内容,可以来自广播电视内容,也可以是说,可通过有线或无线通信协议接收的各种广播信号。或者,可显示来自网络通信协议接收来自网络服务器端发送的各种图像内容。
在一些实施例中,显示器275用于呈现显示设备200中产生且用于控制显示设备200的用户操控UI界面。
在一些实施例中,根据显示器275类型不同,还包括用于驱动显示的驱动组件。
在一些实施例中,显示器275为一种投影显示器,还可以包括一种投影装置和投影屏幕。
在一些实施例中,通信器220是用于根据各种通信协议类型与外部设备或外部服务器进行通信的组件。例如:通信器可以包括Wifi芯片,蓝牙通信协议芯片,有线以太网通信协议芯片等其他网络通信协议芯片或近场通信协议芯片,以及红外接收器中的至少一种。
在一些实施例中,显示设备200可以通过通信器220与外部控制设备100或内容提供设备之间建立控制信号和数据信号发送和接收。
在一些实施例中,用户接口265,可用于接收控制装置100(如:红外遥控器等)红外控制信号。
在一些实施例中,检测器230是显示设备200用于采集外部环境或与外部交互的信号。
在一些实施例中,检测器230包括光接收器,用于采集环境光线强度的传感器,可以通过采集环境光可以自适应性显示参数变化等。
在一些实施例中,检测器230还可以包括图像采集器,如相机、摄像头等,可以用于采集外部环境场景,以及用于采集用户的属性或与用户交互手势,可以自适应变化显示参数,也可以识别用户手势,以实现与用户之间互动的功能。
在一些实施例中,检测器230还可以包括温度传感器等,如通过感测环境温度。
在一些实施例中,显示设备200可自适应调整图像的显示色温。如当温度偏高的环境时,可调整显示设备200显示图像色温偏冷色调,或当温度偏低的环境时,可以调整显示设备200显示图像偏暖色调。
在一些实施例中,检测器230还可声音采集器等,如麦克风,可以用于接收用户的声音。示例性的,包括用户控制显示设备200的控制指令的语音信号,或采集环境声音,用于识别环境场景类型,使得显示设备200可以自适应适应环境噪声。
在一些实施例中,如图2所示,输入/输出接口255被配置为,可进行控制器250与外部其他设备或其他控制器250之间的数据传输。如接收外部设备的视频信号数据和音频信号数据、或命令指令数据等。
在一些实施例中,外部装置接口240可以包括,但不限于如下:可以高清多媒体接口HDMI接口、模拟或数据高清分量输入接口、复合视频输入接口、USB输入接口、RGB端口等任一个或多个接口。也可以是上述多个接口形成复合性的输入/输出接口。
在一些实施例中,如图2所示,调谐解调器210被配置为,通过有线或无线接收方式接收广播电视信号,可以进行放大、混频和谐振等调制解调处理,从多个无线或有线广播电视信号中解调出音视频信号,该音视频信号可以包括用户所选择电视频道频率中所携带的电视音视频信号,以及EPG数据信号。
在一些实施例中,调谐解调器210解调的频点受到控制器250的控制,控制器250可根据用户选择发出控制信号,以使的调制解调器响应用户选择的电视信号频率以及调制解调该频率所携带的电视信号。
在一些实施例中,广播电视信号可根据电视信号广播制式不同区分为地面广播信号、有线广播信号、卫星广播信号或互联网广播信号等。或者根据调制类型不同可以区分为数字调制信号,模拟调制信号等。或者根据信号种类不同区分为数字信号、模拟信号等。
在一些实施例中,控制器250和调谐解调器210可以位于不同的分体设备中,即调谐解调器210也可在控制器250所在的主体设备的外置设备中,如外置机顶盒等。这样,机顶盒将接收到的广播电视信号调制解调后的电视音视频信号输出给主体设备,主体设备经过第一输入/输出接口接收音视频信号。
在一些实施例中,控制器250,通过存储在存储器上中各种软件控制程序,来控制显示设备的工作和响应用户的操作。控制器250可以控制显示设备200的整体操作。例如:响应于接收到用于选择在显示器275上显示UI对象的用户命令,控制器250便可以执行与由用户命令选择的对象有关的操作。
在一些实施例中,所述对象可以是可选对象中的任何一个,例如超链接或图标。与所选择的对象有关操作,例如:显示连接到超链接页面、文档、图像等操作,或者执行与所述图标相对应程序的操作。用于选择UI对象用户命令,可以是通过连接到显示设备200的各种输入装置(例如,鼠标、键盘、触摸板等)输入命令或者与由用户说出语音相对应的语音命令。
如图2所示,控制器250包括随机存取存储器251(Random Access Memory,RAM)、只读存储器252(Read-Only Memory,ROM)、视频处理器270、音频处理器280、其他处理器253(例如:图形处理器(Graphics Processing Unit,GPU)、中央处理器254(CentralProcessing Unit,CPU)、通信接口(Communication Interface),以及通信总线256(Bus)中的至少一种。其中,通信总线连接各个部件。
在一些实施例中,RAM 251用于存储操作系统或其他正在运行中的程序的临时数据
在一些实施例中,ROM 252用于存储各种系统启动的指令。
在一些实施例中,ROM 252用于存储一个基本输入输出系统,称为基本输入输出系统(Basic Input Output System,BIOS)。用于完成对系统的加电自检、系统中各功能模块的初始化、系统的基本输入/输出的驱动程序及引导操作系统。
在一些实施例中,在收到开机信号时,显示设备200电源开始启动,CPU运行ROM252中系统启动指令,将存储在存储器的操作系统的临时数据拷贝至RAM 251中,以便于启动或运行操作系统。当操作系统启动完成后,CPU再将存储器中各种应用程序的临时数据拷贝至RAM 251中,然后,以便于启动或运行各种应用程序。
在一些实施例中,CPU处理器254,用于执行存储在存储器中操作系统和应用程序指令。以及根据接收外部输入的各种交互指令,来执行各种应用程序、数据和内容,以便最终显示和播放各种音视频内容。
在一些示例性实施例中,CPU处理器254,可以包括多个处理器。多个处理器可包括一个主处理器以及一个或多个子处理器。主处理器,用于在预加电模式中执行显示设备200一些操作,和/或在正常模式下显示画面的操作。一个或多个子处理器,用于在待机模式等状态下一种操作。
在一些实施例中,图形处理器253,用于产生各种图形对象,如:图标、操作菜单、以及用户输入指令显示图形等。包括运算器,通过接收用户输入各种交互指令进行运算,根据显示属性显示各种对象。以及包括渲染器,对基于运算器得到的各种对象,进行渲染,上述渲染后的对象用于显示在显示器上。
在一些实施例中,视频处理器270被配置为将接收外部视频信号,根据输入信号的标准编解码协议,进行解压缩、解码、缩放、降噪、帧率转换、分辨率转换、图像合成等等视频处理,可得到直接可显示设备200上显示或播放的信号。
在一些实施例中,视频处理器270,包括解复用模块、视频解码模块、图像合成模块、帧率转换模块、显示格式化模块等。
其中,解复用模块,用于对输入音视频数据流进行解复用处理,如输入MPEG-2,则解复用模块进行解复用成视频信号和音频信号等。
视频解码模块,则用于对解复用后的视频信号进行处理,包括解码和缩放处理等。
图像合成模块,如图像合成器,其用于将图形生成器根据用户输入或自身生成的GUI信号,与缩放处理后视频图像进行叠加混合处理,以生成可供显示的图像信号。
帧率转换模块,用于对转换输入视频帧率,如将60Hz帧率转换为120Hz帧率或240Hz帧率,通常的格式采用如插帧方式实现。
显示格式化模块,则用于将接收帧率转换后视频输出信号,改变信号以符合显示格式的信号,如输出RGB数据信号。
在一些实施例中,图形处理器253可以和视频处理器可以集成设置,也可以分开设置,集成设置的时候可以执行输出给显示器的图形信号的处理,分离设置的时候可以分别执行不同的功能,例如GPU+FRC(Frame Rate Conversion))架构。
在一些实施例中,音频处理器280,用于接收外部的音频信号,根据输入信号的标准编解码协议,进行解压缩和解码,以及降噪、数模转换、和放大处理等处理,得到可以在扬声器中播放的声音信号。
在一些实施例中,视频处理器270可以包括一颗或多颗芯片组成。音频处理器,也可以包括一颗或多颗芯片组成。
在一些实施例中,视频处理器270和音频处理器280,可以单独的芯片,也可以于控制器一起集成在一颗或多颗芯片中。
在一些实施例中,音频输出,在控制器250的控制下接收音频处理器280输出的声音信号,如:扬声器286,以及除了显示设备200自身携带的扬声器之外,可以输出至外接设备的发生装置的外接音响输出端子,如:外接音响接口或耳机接口等,还可以包括通信接口中的近距离通信模块,例如:用于进行蓝牙扬声器声音输出的蓝牙模块。
供电电源290,在控制器250控制下,将外部电源输入的电力为显示设备200提供电源供电支持。供电电源290可以包括安装显示设备200内部的内置电源电路,也可以是安装在显示设备200外部电源,在显示设备200中提供外接电源的电源接口。
用户接口265,用于接收用户的输入信号,然后,将接收用户输入信号发送给控制器250。用户输入信号可以是通过红外接收器接收的遥控器信号,可以通过网络通信模块接收各种用户控制信号。
在一些实施例中,用户通过控制装置100或移动终端300输入用户命令,用户输入接口则根据用户的输入,显示设备200则通过控制器250响应用户的输入。
在一些实施例中,用户可在显示器275上显示的图形用户界面(GUI)输入用户命令,则用户输入接口通过图形用户界面(GUI)接收用户输入命令。或者,用户可通过输入特定的声音或手势进行输入用户命令,则用户输入接口通过传感器识别出声音或手势,来接收用户输入命令。
在一些实施例中,“用户界面”,是应用程序或操作系统与用户之间进行交互和信息交换的介质接口,它实现信息的内部形式与用户可以接受形式之间的转换。用户界面常用的表现形式是图形用户界面(Graphic User Interface,GUI),是指采用图形方式显示的与计算机操作相关的用户界面。它可以是在电子设备的显示屏中显示的一个图标、窗口、控件等界面元素,其中控件可以包括图标、按钮、菜单、选项卡、文本框、对话框、状态栏、导航栏、Widget等可视的界面元素。
存储器260,包括存储用于驱动显示设备200的各种软件模块。如:第一存储器中存储的各种软件模块,包括:基础模块、检测模块、通信模块、显示控制模块、浏览器模块、和各种服务模块等中的至少一种。
基础模块用于显示设备200中各个硬件之间信号通信、并向上层模块发送处理和控制信号的底层软件模块。检测模块用于从各种传感器或用户输入接口中收集各种信息,并进行数模转换以及分析管理的管理模块。
例如,语音识别模块中包括语音解析模块和语音指令数据库模块。显示控制模块用于控制显示器进行显示图像内容的模块,可以用于播放多媒体图像内容和UI界面等信息。通信模块,用于与外部设备之间进行控制和数据通信的模块。浏览器模块,用于执行浏览服务器之间数据通信的模块。服务模块,用于提供各种服务以及各类应用程序在内的模块。同时,存储器260还用存储接收外部数据和用户数据、各种用户界面中各个项目的图像以及焦点对象的视觉效果图等。
图3示例性示出了根据示例性实施例中控制设备100的配置框图。如图3所示,控制设备100包括控制器110、通信接口130、用户输入/输出接口、存储器、供电电源。
控制设备100被配置为控制显示设备200,以及可接收用户的输入操作指令,且将操作指令转换为显示设备200可识别和响应的指令,起用用户与显示设备200之间交互中介作用。如:用户通过操作控制设备100上频道加减键,显示设备200响应频道加减的操作。
在一些实施例中,控制设备100可是一种智能设备。如:控制设备100可根据用户需求安装控制显示设备200的各种应用。
在一些实施例中,如图1所示,移动终端300或其他智能电子设备,可在安装操控显示设备200的应用之后,可以起到控制设备100类似功能。如:用户可以通过安装应用,在移动终端300或其他智能电子设备上可提供的图形用户界面的各种功能键或虚拟按钮,以实现控制设备100实体按键的功能。
控制器110包括处理器112和RAM 113和ROM 114、通信接口130以及通信总线。控制器用于控制控制设备100的运行和操作,以及内部各部件之间通信协作以及外部和内部的数据处理功能。
通信接口130在控制器110的控制下,实现与显示设备200之间控制信号和数据信号的通信。如:将接收到的用户输入信号发送至显示设备200上。通信接口130可包括WiFi芯片131、蓝牙模块132、NFC模块133等其他近场通信模块中至少之一种。
用户输入/输出接口140,其中,输入接口包括麦克风141、触摸板142、传感器143、按键144等其他输入接口中至少一者。如:用户可以通过语音、触摸、手势、按压等动作实现用户指令输入功能,输入接口通过将接收的模拟信号转换为数字信号,以及数字信号转换为相应指令信号,发送至显示设备200。
输出接口包括将接收的用户指令发送至显示设备200的接口。在一些实施例中,可以红外接口,也可以是射频接口。如:红外信号接口时,需要将用户输入指令按照红外控制协议转化为红外控制信号,经红外发送模块进行发送至显示设备200。再如:射频信号接口时,需将用户输入指令转化为数字信号,然后按照射频控制信号调制协议进行调制后,由射频发送端子发送至显示设备200。
在一些实施例中,控制设备100包括通信接口130和输入输出接口140中至少一者。控制设备100中配置通信接口130,如:WiFi、蓝牙、NFC等模块,可将用户输入指令通过WiFi协议、或蓝牙协议、或NFC协议编码,发送至显示设备200。
存储器190,用于在控制器的控制下存储驱动和控制控制设备200的各种运行程序、数据和应用。存储器190,可以存储用户输入的各类控制信号指令。
供电电源180,用于在控制器的控制下为控制设备100各元件提供运行电力支持。可以电池及相关控制电路。
在一些实施例中,系统可以包括内核(Kernel)、命令解析器(shell)、文件系统和应用程序。内核、shell和文件系统一起组成了基本的操作系统结构,它们让用户可以管理文件、运行程序并使用系统。上电后,内核启动,激活内核空间,抽象硬件、初始化硬件参数等,运行并维护虚拟内存、调度器、信号及进程间通信(IPC)。内核启动后,再加载Shell和用户应用程序。应用程序在启动后被编译成机器码,形成一个进程。
参见图4,在一些实施例中,将系统分为四层,从上至下分别为应用程序(Applications)层(简称“应用层”),应用程序框架(Application Framework)层(简称“框架层”),安卓运行时(Android runtime)和系统库层(简称“系统运行库层”),以及内核层。
在一些实施例中,应用程序层中运行有至少一个应用程序,这些应用程序可以是操作系统自带的窗口(Window)程序、系统设置程序、时钟程序、相机应用等;也可以是第三方开发者所开发的应用程序,比如嗨见程序、K歌程序、魔镜程序等。在具体实施时,应用程序层中的应用程序包不限于以上举例,实际还可以包括其它应用程序包,本申请实施例对此不做限制。
框架层为应用程序层的应用程序提供应用编程接口(application programminginterface,API)和编程框架。应用程序框架层包括一些预先定义的函数。应用程序框架层相当于一个处理中心,这个中心决定让应用层中的应用程序做出动作。应用程序通过API接口,可在执行中访问系统中的资源和取得系统的服务。
如图4所示,本申请实施例中应用程序框架层包括管理器(Managers),内容提供者(Content Provider)等,其中管理器包括以下模块中的至少一个:活动管理器(ActivityManager)用于和系统中正在运行的所有活动进行交互;位置管理器(Location Manager)用于给系统服务或应用提供了系统位置服务的访问;文件包管理器(Package Manager)用于检索当前安装在设备上的应用程序包相关的各种信息;通知管理器(NotificationManager)用于控制通知消息的显示和清除;窗口管理器(Window Manager)用于管理用户界面上的括图标、窗口、工具栏、壁纸和桌面部件。
在一些实施例中,活动管理器用于:管理各个应用程序的生命周期以及通常的导航回退功能,比如控制应用程序的退出(包括将显示窗口中当前显示的用户界面切换到系统桌面)、打开、后退(包括将显示窗口中当前显示的用户界面切换到当前显示的用户界面的上一级用户界面)等。
在一些实施例中,窗口管理器用于管理所有的窗口程序,比如获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕,控制显示窗口变化(例如将显示窗口缩小显示、抖动显示、扭曲变形显示等)等。
在一些实施例中,系统运行库层为上层即框架层提供支撑,当框架层被使用时,安卓操作系统会运行系统运行库层中包含的C/C++库以实现框架层要实现的功能。
在一些实施例中,内核层是硬件和软件之间的层。如图4所示,内核层至少包含以下驱动中的至少一种:音频驱动、显示驱动、蓝牙驱动、摄像头驱动、WIFI驱动、USB驱动、HDMI驱动、传感器驱动(如指纹传感器,温度传感器,触摸传感器、压力传感器等)等。
在一些实施例中,内核层还包括用于进行电源管理的电源驱动模块。
在一些实施例中,图4中的软件架构对应的软件程序和/或模块存储在图2或图3所示的第一存储器或第二存储器中。
在一些实施例中,以魔镜应用(拍照应用)为例,当遥控接收装置接收到遥控器输入操作,相应的硬件中断被发给内核层。内核层将输入操作加工成原始输入事件(包括输入操作的值,输入操作的时间戳等信息)。原始输入事件被存储在内核层。应用程序框架层从内核层获取原始输入事件,根据焦点当前的位置识别该输入事件所对应的控件以及以该输入操作是确认操作,该确认操作所对应的控件为魔镜应用图标的控件,魔镜应用调用应用框架层的接口,启动魔镜应用,进而通过调用内核层启动摄像头驱动,实现通过摄像头捕获静态图像或视频。
在一些实施例中,对于具备触控功能的显示设备,以分屏操作为例,显示设备接收用户作用于显示屏上的输入操作(如分屏操作),内核层可以根据输入操作产生相应的输入事件,并向应用程序框架层上报该事件。由应用程序框架层的活动管理器设置与该输入操作对应的窗口模式(如多窗口模式)以及窗口位置和大小等。应用程序框架层的窗口管理根据活动管理器的设置绘制窗口,然后将绘制的窗口数据发送给内核层的显示驱动,由显示驱动在显示屏的不同显示区域显示与之对应的应用界面。
在一些实施例中,如图5中所示,应用程序层包含至少一个应用程序可以在显示器中显示对应的图标控件,如:直播电视应用程序图标控件、视频点播应用程序图标控件、媒体中心应用程序图标控件、应用程序中心图标控件、游戏应用图标控件等。
在一些实施例中,直播电视应用程序,可以通过不同的信号源提供直播电视。例如,直播电视应用程可以使用来自有线电视、无线广播、卫星服务或其他类型的直播电视服务的输入提供电视信号。以及,直播电视应用程序可在显示设备200上显示直播电视信号的视频。
在一些实施例中,视频点播应用程序,可以提供来自不同存储源的视频。不同于直播电视应用程序,视频点播提供来自某些存储源的视频显示。例如,视频点播可以来自云存储的服务器端、来自包含已存视频节目的本地硬盘储存器。
在一些实施例中,媒体中心应用程序,可以提供各种多媒体内容播放的应用程序。例如,媒体中心,可以为不同于直播电视或视频点播,用户可通过媒体中心应用程序访问各种图像或音频所提供服务。
在一些实施例中,应用程序中心,可以提供储存各种应用程序。应用程序可以是一种游戏、应用程序,或某些和计算机系统或其他设备相关但可以在智能电视中运行的其他应用程序。应用程序中心可从不同来源获得这些应用程序,将它们储存在本地储存器中,然后在显示设备200上可运行。
显示设备200上不仅可以显示一些普通图片,还可以显示全景图片。全景图片是一种通过广角的表现手段展示的图片,全景图片可以表现更多周围环境的图像。通常全景图片不能完整地显示在显示设备200上,当需要浏览该全景图片当前显示内容以外的内容时,需要对全景图片进行调整,以便将全景图片的其他内容调整到显示设备200的显示区域。
目前,在显示设备200上浏览全景图片时,操作者通常需要使用遥控器对全景图片的显示内容进行调整,例如操作者按下遥控器上的方向键,可以将全景图片向显示设备200屏幕的对应方向上移动,进而显示出相反方向上之前并未显示的内容;或者显示设备200采集操作者的手势,然后根据手势的方向对显示的全景图片内容进行调整,例如操作者的手指在显示设备200屏幕上向右滑动,那么全景图片会在屏幕向右移动,进而显示出之前全景图片左侧并没有显示的内容。
然而,无论是上述的遥控器调整还是手势调整,所有全景图片都是按照显示设备200中预先设置的固定步长进行移动,当操作者只想细微地调整某一全景图片的内容时,如果固定步长过大,那么全景图片在显示设备200屏幕上移动的距离就会过大,进而难以满足操作者对于全景图片细微调整的要求。
针对上述内容,本申请提供了一种全景图片浏览方法及显示设备,可以通过操作者在显示设备200前的脸部角度变化,控制全景图片在显示设备200上的移动方向和距离,进而将操作者需要看到的全景图片的内容调整到显示设备200的屏幕上。
在显示设备200中,显示器275可以用来显示全景图片,检测器230可用来采集显示设备200前的人物图像,控制器110可以用来根据检测器230采集的图像识别出目标人物,并且识别出目标人物在显示设备200前的脸部角度信息,还可以计算全景图片的偏移距离并控制全景图片的移动。
图6为本申请实施例示出的一种显示设备200与操作者之间的交互示意图。如图6所示,在采用本申请实施例提供的全景图片浏览方法浏览全景图片时,操作者需要站在显示设备200的前方,操作者通过转动自己的头来控制全景图片在显示设备200上的移动,进而显示出自己想要看的内容。
图7为本申请实施例示出的一种全景图片浏览方法的流程图。如图7所示,该全景图片浏览方法具体包括如下步骤:
步骤S101,在显示设备200显示全景图片的情况下,识别显示设备200前的目标人物,所述目标人物用于表示在显示设备200前浏览全景图片的操作者。
本实施例中所说的目标人物具体指实际操作者,比如显示设备200前有多个人在同时浏览全景图片,为了避免多人共同控制造成的混乱现象,显示设备200只能接收一个人的操作,那么这个人可以作为目标人物。本实施例中,通常都是先利用人脸识别的方式识别出显示设备前的人物,再具体判断该人物是否是目标人物。选择目标人物的方式并不唯一,比如可以选择距离显示设备200最近的人作为目标人物,此时需要对比显示设备200前每个人脸的像素面积,通常距离显示设备200越近,人脸的像素面积越大;或者选择特定的某个人作为目标人物,此时需要对比显示设备200前的人脸中是否有某个特定的人脸。
所以,在一些实施例中,识别显示设备200前的目标人物的步骤具体可以包括:
步骤S201,检测显示设备200前是否存在预设人物,所述预设人物用于表示显示设备中预先存储的浏览全景图片的操作者。
这里所说的预设人物可以代表上述所指的特定人物,通常,每个显示设备200中都会保存一个预设人物。这个预设人物可以是初始化的时候设置好的,在显示设备200第一次浏览全景图片时可以识别显示设备200前有没有这个预设人物;另外,预设人物也可以是前一次全景图片浏览时最后保存的目标人物,在显示设备200当前再次浏览全景图片时,可以前一次保存的目标人物作为预设人物使用,识别出显示设备200前是否存在这个预设人物。
步骤S202,如果存在,则确定显示设备200前的预设人物为目标人物。
当然,在一些情况下,浏览全景图片的操作者不一定是预设人物,这时需要重新确定一个目标人物,以便对全景图片进行操作。因此,在一些实施例中,识别显示设备200前的目标人物的步骤还可以包括:
步骤S301,在显示设备200前同时存在多个人物并且不存在预设人物的情况下,分别计算出每个人物的人脸对应的像素面积。
本实施例中,在多个人物中确定目标人物时,选择距离显示设备200最近的人物。通常人物与显示设备200的距离远近是通过人物的人脸像素面积进行判断的,人物距离显示设备200越近,其人脸像素面积越大。在显示设备200中,在检测器230采集到显示设备200前的图像时,控制器110可以识别出属于人物的人脸图像,再进一步计算出每个人脸图像对应的像素面积。
步骤S302,选择像素面积最大的人脸对应的人物作为目标人物。
图8为本申请实施例示出的一种检测器230采集图像的示意图。在图8中,检测器230采集的显示设备200前的图像中一共有两个人物,控制器110可以识别出站在最前面的人物的人脸像素面积最大,进而确定该人物为目标人物。图8中的虚线框为控制器110识别出的目标人物的人脸范围。
值得说明的是,如果显示设备200前只有一个人,那么可以认为就是这个人在进行全景图片的浏览,此时无论这个人是不是特定的人,控制器110都可以将这个人作为目标人物,进而对全景图片的移动进行控制。
步骤S102,获取所述目标人物在第一预设时长前后的初始脸部角度和当前脸部角度。
本实施例中,需要根据目标人物脸部角度的变化对全景图片进行调整,脸部的角度具有一定的变化时间,这个时间就是第一预设时长。
控制器110可以在识别出目标人物之后,获取到目标人物在显示设备200前的脸部转动角度。这个角度可以参照航天航空领域的三个角度,图9为本申请实施例示出的飞行器角度示意图,如图9所示,在航天航空领域,对飞机等飞行器进行控制,通常基于翻滚角、俯仰角和偏航角实现。本实施例中也采用翻滚角、俯仰角和偏航角的概念对目标人物的脸部角度进行定义,其中,翻滚角就是指脸部旋转的角度,俯仰角是指脸部抬起或者伏下的角度,偏航角是指脸部在水平方向上转动的角度。
如果目标人物需要浏览全景图片,那么第一预设时长前后的初始脸部角度和当前脸部角度一般是不相同的。初始脸部角度中具体包括脸部的三个角度,分别是初始翻滚角度、初始俯仰角度和初始偏航角度;当前脸部角度中也具体包括脸部的三个角度,分别是当前翻滚角度、当前俯仰角度和当前偏航角度。
那么,在一些实施例中,识别出目标人物之后,则需要获取显示设备200前的目标人物的初始翻滚角度、初始俯仰角度和初始偏航角度,然后在经过第一预设时长之后,再次获取目标人物的当前翻滚角度、当前俯仰角度和当前偏航角度。
步骤S103,利用所述初始脸部角度和所述当前脸部角度获得所述全景图片的偏移距离。
通常,操作者在需要操作全景图片时,在第一预设时长之后,脸部的角度会发生变化,当前脸部角度相对于初始脸部角度会产生的一定的偏移,本实施例中就是利用这个偏移来获得全景图片对应的偏移距离。
图10为本申请实施例示出的另一种显示设备200与操作者之间的交互示意图,如图10所示,显示设备200在显示全景图片时,只能显示出与显示器275屏幕一样大的内容,操作者如果想浏览屏幕上未显示的全景图片右侧的内容,可以面对显示设备200并向右转动脸部,显示设备200会根据操作者转动脸部的角度计算出全景图片向左偏移的距离,再控制全景图片向左偏移,进而在显示设备200上显示出更多的右侧的内容。
在实际操作场景中,操作者转动脸部的操作并不是绝对的向右或者向左,其向下或者向下均会有一定的偏移。再有,全景图片在显示器275上的移动也并不是绝对的向左右或者向上下移动,操作者也可以根据自己的浏览需求,向特定方向转动脸部以浏览特定方向的内容,例如,操作者向右上方向转动脸部,全景图片向左下反向移动进而显示出右上方向的内容。所以本实施例中需要对脸部转动的三个角度进行检测和计算,才能获得更加准确的全景图片偏移距离。
步骤S104,按照所述偏移距离,调整所述全景图片在显示设备200上的显示内容。
通常,在显示设备200上显示的全景图片时一个二维图片,该二维图片移动的方向包括水平和垂直两个方向。因此,计算出的偏移距离包括全景图片在水平方向上的偏移距离和在垂直方向上的偏移距离。具体的调整方式也不仅仅限于全景图片移动的方向与操作者脸部转动的方向相反,使得全景图片移动的方向与操作者脸部转动的方向相同也可以实现本实施例中浏览全景图片的目的。
另外,在上述步骤中识别出的目标人物的人脸可以显示在显示器275的屏幕上,这样,目标人物可以时刻观察自己的脸部角度,进而结合全景图片移动的幅度适度地对转动角度做出调整,以实现全景图片的适度调整,具体的显示位置可以设置在屏幕右上角等。对于显示设备200前另外一些人物而言,观察到屏幕上的目标人物之后,他们也会知道谁是实际操作者,这样也不会距离显示设备200太近,以免影响全景图片的浏览。
由上述内容可知,本申请实施例中的全景图片浏览方法能够通过显示设备前目标人物的脸部角度变化实现对全景图片的浏览,并且全景图片的偏移距离可以通过目标人物脸部转动的角度大小确定,进而操作者可以根据自己的需求自行浏览全景图片,无需再按照固定的移动步长对全景图片进行调整。
在一些实施例中,利用所述初始脸部角度和所述当前脸部角度获得所述全景图片的偏移距离的步骤包括:
步骤S401,利用初始翻滚角度、当前翻滚角度、初始偏航角度和当前偏航角度计算所述全景图片的水平偏移距离。
在一些实施例中,可以利用如下公式计算所述全景图片的水平偏移距离:
Figure BDA0002545865140000151
其中,OffsetX表示所述全景图片的水平偏移距离,Roll1和Roll2分别表示初始翻滚角度和当前翻滚角度,Yaw1和Yaw2分别表示初始偏航角度和当前偏航角度,A1表示矫正系数,deltaX表示水平方向最小调整角度值,Time表示最小调整偏移时间。
步骤S402,利用初始俯仰角度、当前俯仰角度、初始翻滚角度和当前翻滚角度计算所述全景图片的垂直偏移距离。
在一些实施例中,可以利用如下公式计算所述全景图片的垂直偏移距离:
Figure BDA0002545865140000152
其中,OffsetY表示所述全景图片的垂直偏移距离,Roll1和Roll2分别表示初始翻滚角度和当前翻滚角度,Pitch1和Pitch2分别表示初始俯仰角度和当前俯仰角度,A2表示矫正系数,deltaY表示垂直方向最小调整角度值,Time表示最小调整偏移时间。
本实施例中,deltaX和deltaY需要根据全景图片的分辨率大小而确定,通常全景图片的分辨率越大,deltaX和deltaY的角度越大;Time需要根据第一预设时长而确定,通常第一预设时长越长,Time越长。A1和A2的取值通常小于0.5。
图11为本申请实施例示出的控制器110获得的目标人物初始脸部角度的示意图,图12为本申请实施例示出的控制器110获得的目标人物当前脸部角度的示意图,在图11和图12中,虚线框中的内容表示控制器110识别出的目标人物的脸部范围。图11中,目标人物脸部的初始翻滚角度Roll1为-3.2°,初始偏航角度Yaw1为4.2°,初始俯仰角度Pitch1为-20.9°;图12中,目标人物脸部的当前翻滚角度Roll2为-0.4°,当前偏航角度Yaw2为20.5°,当前俯仰角度Pitch2为-2.0°。以deltaX和deltaY分别取值0.5°、Time取值2S,A1和A2分别取值0.25和0.15为例,控制器110可以分别计算出全景图片的水平偏移距离为:
Figure BDA0002545865140000161
再计算出全景图片的垂直偏移距离为:
Figure BDA0002545865140000162
可见,当目标人物的人脸角度从(-3.2°,4.2°,-20.9°)变化到(-0.4°,20.5°,-2.0°)时,该全景图片的偏移距离为(1.71875,1.40875),控制器110最终可以控制全景图片在水平方向上和垂直方向上移动相应的距离,进而显示出全景图片的更多内容。
另外,为了能够明确全景图片的移动方向和距离,在一些实施例中,控制器110还可以预先确定好显示器275屏幕上的坐标系,可以以屏幕四个顶点为坐标原点建立二维直角坐标系,也可以以屏幕正中心为坐标原点建立二维直角坐标系,再以建立好的坐标系为基础,对全景图片进行移动。
在一些实施例中,识别显示设备200前的目标人物之后,还包括以下步骤:
步骤S501,如果在预设时长之后没有识别出显示设备200前的目标人物,则重新计算显示设备200前当前存在的每个人脸对应的像素面积。
在一些情况下,可能最初操作全景图片浏览的操作者中途退出操作,但是其他操作者仍需要继续浏览。此时,检测器230无法再次识别到最初的目标人物,需要重新确定新的目标人物。确定新的目标人物的方式如前述内容所述,也可以通过对显示设备200前所有人物的人脸像素面积进行判断,进而选择距离显示设备200最近的人物作为目标人物。
步骤S502,选择像素面积最大的人脸对应的人物作为目标人物。
通常情况下,人物距离显示设备200越近,其人脸像素面积越大。在显示设备200中,在检测器230采集到显示设备200前的图像时,控制器110可以识别出属于人物的人脸图像,再进一步计算出每个人脸图像对应的像素面积。
步骤S503,获取所述目标人物的初始脸部角度。
步骤S504,在第二预设时长之后,获取所述目标人物的当前脸部角度。
本实施例中的第二预设时长与第一预设时长相比,本质上都是一种预设的时长,但是第二预设时长的时间范围要比第一预设时长的时间范围大,比如,第一预设时长为T1,那么第二预设时长可以为2T1。在实际场景中,通常将第一预设时长T1设置为0.3秒。
在一些实施例中,获得了全景图片的偏移距离之后,为了保证操作者的操作体验以及保证全景图片的调整效果,还可以在等待一定的时长之后再对全景图片进行调整。这个时长既需要保证全景图片调整的效率,也需要保证全景图片的调整效果,通常设置为2秒。
在一些实施例中,全景图片的浏览方法不仅需要对目标人物进行识别、对目标人物是否发生改变进行判断,还要对当前浏览的全景图片是否改变进行判断,如果在按照偏移距离,调整全景图片在显示设备200上的显示内容之后,控制器110检测到显示器275当前显示的全景图片不是之前的那一副,那么需要针对当前新的全景图片重新进行上述实施例中的目标人物识别等过程,进而对新的全景图片进行调整;如果在按照偏移距离,调整全景图片在显示设备200上的显示内容之后,控制器110检测到显示器275当前显示的全景图片仍为之前的图片,那么控制器110则可以直接识别显示设备200前的目标人物的脸部角度变化,以实现下一次全景图片的调整。
由以上技术方案可知,本申请实施例提供了一种全景图片浏览方法,在显示设备200显示全景图片时,可以识别出显示设备200前的目标人物,再分别获取目标人物的初始脸部角度以及预设时长后的当前脸部角度,利用初始脸部角度和当前脸部角度计算出显示设备200上的全景图片需要移动的偏移距离,最后根据偏移距离调整全景图片,使得全景图片之前未显示的内容显示在显示设备200上。本申请的方案能够通过显示设备200前目标人物的脸部角度变化实现对全景图片的浏览,并且全景图片的偏移距离可以通过目标人物脸部转动的角度大小确定,进而操作者可以根据自己的需求自行浏览全景图片,无需再按照固定的移动步长对全景图片进行调整。
本申请还提供了一种显示设备200,包括:显示器275;检测器230,用于采集显示设备200前的图像;控制器110,被配置为:在显示设备200显示全景图片的情况下,识别显示设备200前的目标人物,所述目标人物用于表示在显示设备200前浏览全景图片的操作者;获取所述目标人物在第一预设时长前后的初始脸部角度和当前脸部角度;利用所述初始脸部角度和所述当前脸部角度获得所述全景图片的偏移距离;按照所述偏移距离,调整所述全景图片在显示设备200上的显示内容。
在一些实施例中,控制器110,还被配置为:检测显示设备200前是否存在预设人物,所述预设人物用于表示显示设备200中预先存储的浏览全景图片的操作者;如果存在,则确定显示设备200前的预设人物为目标人物。
在一些实施例中,控制器110,还被配置为:在显示设备200前同时存在多个人物并且不存在预设人物的情况下,分别计算出每个人物的人脸对应的像素面积;选择像素面积最大的人脸对应的人物作为目标人物。
在一些实施例中,控制器110,还被配置为:获取显示设备200前目标人物脸部的初始翻滚角度、初始俯仰角度和初始偏航角度;在第一预设时长过后,获取显示设备200前目标人物脸部的当前翻滚角度、当前俯仰角度和当前偏航角度。
在一些实施例中,控制器110,还被配置为:利用初始翻滚角度、当前翻滚角度、初始偏航角度和当前偏航角度计算所述全景图片的水平偏移距离;利用初始俯仰角度、当前俯仰角度、初始翻滚角度和当前翻滚角度计算所述全景图片的垂直偏移距离。
在一些实施例中,控制器110,还被配置为:利用如下公式计算所述全景图片的水平偏移距离:
Figure BDA0002545865140000171
其中,OffsetX表示所述全景图片的水平偏移距离,Roll1和Roll2分别表示初始翻滚角度和当前翻滚角度,Yaw1和Yaw2分别表示初始偏航角度和当前偏航角度,A1表示矫正系数,deltaX表示水平方向最小调整角度值,Time表示最小调整偏移时间。
在一些实施例中,控制器110,还被配置为:利用如下公式计算所述全景图片的垂直偏移距离:
Figure BDA0002545865140000181
其中,OffsetY表示所述全景图片的垂直偏移距离,Roll1和Roll2分别表示初始翻滚角度和当前翻滚角度,Pitch1和Pitch2分别表示初始俯仰角度和当前俯仰角度,A2表示矫正系数,deltaY表示垂直方向最小调整角度值,Time表示最小调整偏移时间。
在一些实施例中,控制器110,还被配置为:如果在预设时长之后没有识别出显示设备200前的目标人物,则重新计算显示设备200前当前存在的每个人脸对应的像素面积;选择像素面积最大的人脸对应的人物作为目标人物;获取所述目标人物的初始脸部角度;在第二预设时长之后,获取所述目标人物的当前脸部角度。
最后应说明的是:以上各实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述各实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的范围。
为了方便解释,已经结合具体的实施方式进行了上述说明。但是,上述示例性的讨论不是意图穷尽或者将实施方式限定到上述公开的具体形式。根据上述的教导,可以得到多种修改和变形。上述实施方式的选择和描述是为了更好的解释原理以及实际的应用,从而使得本领域技术人员更好的使用所述实施方式以及适于具体使用考虑的各种不同的变形的实施方式。

Claims (8)

1.一种全景图片浏览方法,其特征在于,包括:
在显示设备显示全景图片的情况下,识别显示设备前的目标人物,所述目标人物用于表示在显示设备前浏览全景图片的操作者;
获取所述目标人物在第一预设时长前后的初始脸部角度和当前脸部角度;所述初始脸部角度包括初始翻滚角度、初始偏航角度和初始俯仰角度,所述当前脸部角度包括当前翻滚角度、当前偏航角度和当前俯仰角度;
利用所述初始脸部角度和所述当前脸部角度获得所述全景图片的偏移距离;所述全景图片的偏移距离包括水平偏移距离和垂直偏移距离;
利用如下公式计算所述水平偏移距离和所述垂直偏移距离:
Figure FDA0003883954530000011
Figure FDA0003883954530000012
其中,OffsetX表示所述全景图片的水平偏移距离,Roll1和Roll2分别表示初始翻滚角度和当前翻滚角度,Yaw1和Yaw2分别表示初始偏航角度和当前偏航角度,A1表示矫正系数,deltaX表示水平方向最小调整角度值,OffsetY表示所述全景图片的垂直偏移距离,Pitch1和Pitch2分别表示初始俯仰角度和当前俯仰角度,A2表示矫正系数,deltaY表示垂直方向最小调整角度值,Time表示最小调整偏移时间;
按照所述偏移距离,调整所述全景图片在显示设备上的显示内容。
2.根据权利要求1所述的方法,其特征在于,识别显示设备前的目标人物的步骤包括:
检测显示设备前是否存在预设人物,所述预设人物用于表示显示设备中预先存储的浏览全景图片的操作者;
如果存在,则确定显示设备前的预设人物为目标人物。
3.根据权利要求2所述的方法,其特征在于,识别显示设备前的目标人物的步骤还包括:
在显示设备前同时存在多个人物并且不存在预设人物的情况下,分别计算出每个人物的人脸对应的像素面积;
选择像素面积最大的人脸对应的人物作为目标人物。
4.根据权利要求1所述的方法,其特征在于,获取所述目标人物在第一预设时长前后的初始脸部角度和当前脸部角度的步骤包括:
获取显示设备前目标人物脸部的初始翻滚角度、初始俯仰角度和初始偏航角度;
在第一预设时长过后,获取显示设备前目标人物脸部的当前翻滚角度、当前俯仰角度和当前偏航角度。
5.根据权利要求4所述的方法,其特征在于,利用所述初始脸部角度和所述当前脸部角度获得所述全景图片的偏移距离的步骤包括:
利用初始翻滚角度、当前翻滚角度、初始偏航角度和当前偏航角度计算所述全景图片的水平偏移距离;
利用初始俯仰角度、当前俯仰角度、初始翻滚角度和当前翻滚角度计算所述全景图片的垂直偏移距离。
6.根据权利要求1所述的方法,其特征在于,识别显示设备前的目标人物之后,还包括:
如果在预设时长之后没有识别出显示设备前的目标人物,则重新计算显示设备前当前存在的每个人脸对应的像素面积;
选择像素面积最大的人脸对应的人物作为目标人物;
获取所述目标人物的初始脸部角度;
在第二预设时长之后,获取所述目标人物的当前脸部角度。
7.根据权利要求1-6任一项所述的方法,其特征在于,所述目标人物的人脸显示在所述显示设备的显示器屏幕上。
8.一种显示设备,其特征在于,包括:
显示器;
检测器,用于采集显示设备前的图像;
控制器,被配置为:
在显示设备显示全景图片的情况下,识别显示设备前的目标人物,所述目标人物用于表示在显示设备前浏览全景图片的操作者;
获取所述目标人物在第一预设时长前后的初始脸部角度和当前脸部角度;所述初始脸部角度包括初始翻滚角度、初始偏航角度和初始俯仰角度,所述当前脸部角度包括当前翻滚角度、当前偏航角度和当前俯仰角度;
利用所述初始脸部角度和所述当前脸部角度获得所述全景图片的偏移距离;所述全景图片的偏移距离包括水平偏移距离和垂直偏移距离;
利用如下公式计算所述水平偏移距离和所述垂直偏移距离:
Figure FDA0003883954530000021
Figure FDA0003883954530000022
其中,OffsetX表示所述全景图片的水平偏移距离,Roll1和Roll2分别表示初始翻滚角度和当前翻滚角度,Yaw1和Yaw2分别表示初始偏航角度和当前偏航角度,A1表示矫正系数,deltaX表示水平方向最小调整角度值,OffsetY表示所述全景图片的垂直偏移距离,Pitch1和Pitch2分别表示初始俯仰角度和当前俯仰角度,A2表示矫正系数,deltaY表示垂直方向最小调整角度值,Time表示最小调整偏移时间;
按照所述偏移距离,调整所述全景图片在显示设备上的显示内容。
CN202010559804.0A 2020-04-27 2020-06-18 全景图片浏览方法及显示设备 Active CN113825001B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202010559804.0A CN113825001B (zh) 2020-06-18 2020-06-18 全景图片浏览方法及显示设备
PCT/CN2021/081562 WO2021218473A1 (zh) 2020-04-27 2021-03-18 一种显示方法及显示设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010559804.0A CN113825001B (zh) 2020-06-18 2020-06-18 全景图片浏览方法及显示设备

Publications (2)

Publication Number Publication Date
CN113825001A CN113825001A (zh) 2021-12-21
CN113825001B true CN113825001B (zh) 2022-11-29

Family

ID=78911817

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010559804.0A Active CN113825001B (zh) 2020-04-27 2020-06-18 全景图片浏览方法及显示设备

Country Status (1)

Country Link
CN (1) CN113825001B (zh)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100985217B1 (ko) * 2009-04-21 2010-10-12 안진우 디스플레이 시스템
CN105988578A (zh) * 2015-03-04 2016-10-05 华为技术有限公司 一种交互式视频显示的方法、设备及系统
CN106303029A (zh) * 2016-08-15 2017-01-04 广东欧珀移动通信有限公司 一种画面的旋转控制方法、装置及移动终端
CN107111371A (zh) * 2015-09-30 2017-08-29 华为技术有限公司 一种展示全景视觉内容的方法、装置及终端

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100985217B1 (ko) * 2009-04-21 2010-10-12 안진우 디스플레이 시스템
CN105988578A (zh) * 2015-03-04 2016-10-05 华为技术有限公司 一种交互式视频显示的方法、设备及系统
CN107111371A (zh) * 2015-09-30 2017-08-29 华为技术有限公司 一种展示全景视觉内容的方法、装置及终端
CN106303029A (zh) * 2016-08-15 2017-01-04 广东欧珀移动通信有限公司 一种画面的旋转控制方法、装置及移动终端

Also Published As

Publication number Publication date
CN113825001A (zh) 2021-12-21

Similar Documents

Publication Publication Date Title
CN111752518A (zh) 一种显示设备投屏方法及显示设备
CN112055240B (zh) 一种显示设备及其与遥控器配对的操作提示展示方法
CN112291599B (zh) 显示设备及调整摄像头角度的方法
CN111970548B (zh) 显示设备及调整摄像头角度的方法
US11960674B2 (en) Display method and display apparatus for operation prompt information of input control
CN112243141B (zh) 投屏功能的显示方法及显示设备
CN111970549A (zh) 菜单显示方法和显示设备
CN111954059A (zh) 屏保的展示方法及显示设备
CN111984167B (zh) 一种快捷命名的方法及显示设备
CN111939561A (zh) 显示设备及交互方法
CN112218145A (zh) 智能电视、vr显示设备以及相关方法
CN111669662A (zh) 显示设备、视频通话方法及服务器
CN111078926A (zh) 一种人像缩略图像的确定方法及显示设备
WO2021218473A1 (zh) 一种显示方法及显示设备
CN111918056B (zh) 一种摄像头状态检测方法及显示设备
CN113825001B (zh) 全景图片浏览方法及显示设备
CN113824870A (zh) 显示设备及摄像头角度调整方法
CN113438528A (zh) 一种组合按键的实现方法及显示设备
CN111931692A (zh) 显示设备及图像识别方法
CN114417035A (zh) 一种图片浏览方法和显示设备
CN111988649A (zh) 一种控件分离放大方法及显示设备
CN113436564B (zh) 一种epos的展示方法及显示设备
CN112153443B (zh) Pts获取方法和显示设备
CN113438553B (zh) 一种显示设备被唤醒方法及显示设备
CN111935519B (zh) 通道切换方法和显示设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant