WO2018076172A1 - 一种图像显示方法及终端 - Google Patents
一种图像显示方法及终端 Download PDFInfo
- Publication number
- WO2018076172A1 WO2018076172A1 PCT/CN2016/103223 CN2016103223W WO2018076172A1 WO 2018076172 A1 WO2018076172 A1 WO 2018076172A1 CN 2016103223 W CN2016103223 W CN 2016103223W WO 2018076172 A1 WO2018076172 A1 WO 2018076172A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- image
- user
- terminal
- sensitivity
- terminal screen
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 74
- 230000035945 sensitivity Effects 0.000 claims abstract description 218
- 230000008569 process Effects 0.000 claims abstract description 11
- 230000008447 perception Effects 0.000 claims abstract description 4
- 230000008859 change Effects 0.000 claims description 53
- 230000001133 acceleration Effects 0.000 claims description 28
- 210000003128 head Anatomy 0.000 claims description 22
- 238000012545 processing Methods 0.000 claims description 10
- 230000001815 facial effect Effects 0.000 claims description 3
- 230000000694 effects Effects 0.000 abstract description 20
- 230000000007 visual effect Effects 0.000 abstract description 13
- 230000015654 memory Effects 0.000 description 20
- 238000010586 diagram Methods 0.000 description 11
- 238000005516 engineering process Methods 0.000 description 7
- 230000005484 gravity Effects 0.000 description 6
- 210000001747 pupil Anatomy 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 230000009286 beneficial effect Effects 0.000 description 4
- 230000003044 adaptive effect Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 208000004350 Strabismus Diseases 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000010079 rubber tapping Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 241000894007 species Species 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
- G06T3/4053—Super resolution, i.e. output image resolution higher than sensor resolution
Abstract
一种图像显示方法及终端,其中,图像显示方法包括:确定一个敏感程度,所述敏感程度用于表征用户对终端屏幕中显示图像的画质精细度的感知能力;选择与该敏感程度对应的目标超分辨率算法,其中,该敏感程度越高则该敏感程度对应的目标超分辨率算法得到的图像画质精细度越优;使用目标超分辨率算法对输入的原始图像进行处理得到目标图像,将目标图像显示到终端屏幕。可以根据用户对终端屏幕显示图像的画质精细度的敏感程度调整屏幕显示效果,可以在用户视觉体验与终端功耗间进行平衡,从而可以在一定程度上降低终端的功耗。
Description
本发明涉及图像显示技术领域,尤其涉及一种图像显示方法及终端。
随着人们对于终端上高质量、高清晰的图像信息要求的逐渐提高,终端的屏幕分辨率越来越高,出现了2K(2560×1440),甚至4K(3840×2160)的屏幕。为了适应高分辨率屏幕内容的输出,可以在终端中存储高分辨率图像,然后通过对存储的高分辨率图像进行处理,最后输出至屏幕显示,但是同时也增加了终端的功耗。
因此,为了减少终端的功耗同时也可以适应高分辨率图像内容的输出,目前主要通过采用超分辨率(Super Resolution,SR)技术从低分辨率(Low Resolution,LR)图像或者视频生成高分辨率(High Resolution,HR)图像或视频,因此,在终端中存储的所有内容可以是低分辨率(720p或1080p等),然后通过超分辨率技术将这些低分辨率的内容放大到2K或者4K来适应屏幕显示,这样就能减少终端的功耗,同时又可以保证高分辨率屏幕的显示,但是在使用过程中发现,由于超分辨率算法种类众多,不同的超分辨率算法得到的图像画质精细度、需要的计算量以及带来的终端功耗也各不相同,因此,采用何种超分辨率算法,在既能保证高分辨率屏幕显示并且满足用户对画质精细度要求的同时,又可以降低终端的功耗,是业界亟需解决的难题。
发明内容
本发明实施例提供了一种图像显示方法及终端,可以根据用户对终端屏幕显示图像的画质精细度的敏感程度调整屏幕显示效果,可以在用户视觉体验与终端功耗间进行平衡,从而可以在一定程度上降低终端的功耗。
本发明实施例第一方面公开了一种图像显示方法,包括:确定一个敏感程度,所述敏感程度用于表征用户对终端屏幕中显示图像的画质精细度的感知能力;选择与所述敏感程度对应的目标超分辨率算法,所述敏感程度越高则所述敏感程度对应的目标超分辨率算法得到的图像画质精细度越优;使用所述目标
超分辨率算法对输入的原始图像进行处理得到目标图像,将所述目标图像显示到所述终端屏幕。
在该实施方式中,根据用户对终端屏幕显示图像的画质精细度的敏感程度调整屏幕显示效果,可以在用户视觉体验与终端功耗间进行平衡,从而可以在一定程度上降低终端的功耗。
作为一种可选的实施方式,所述确定一个敏感程度包括:获取用户眼睛与摄像头之间的距离、获取摄像头与用户眼睛的相对稳定性以及获取所述终端所处的环境光强度值与所述终端屏幕的亮度值之间的差值;根据所述距离确定用户对所述终端屏幕中显示图像的画质精细度的第一敏感程度值、根据所述相对稳定性确定用户对所述终端屏幕中显示图像的画质精细度的第二敏感程度值以及根据所述差值确定用户对所述终端屏幕中显示图像的画质精细度的第三敏感程度值;将所述第一敏感程度值、所述第二敏感程度值以及所述第三敏感程度值与对应的权系数乘积的和作为目标敏感程度值。
在该实施方式中,通过采集用户的状态信息或者终端所处的环境状态信息可以确定用户对终端屏幕中显示图像的画质精细度的敏感程度。
作为一种可选的实施方式,所述获取摄像头与用户眼睛的相对稳定性包括:获取所述用户眼睛与所述摄像头之间的距离和/或获取所述用户眼睛与所述摄像头之间的角度;计算第一预设时间内所述用户眼睛与所述摄像头之间的距离的第一变化量和/或计算第二预设时间内所述用户眼睛与所述摄像头之间的角度的第二变化量;根据所述第一变化量和/或所述第二变化量确定所述摄像头与所述用户眼睛的相对稳定性,所述第一变化量越大和/或所述第二变化量越大,则所述相对稳定性越低。
在该实施方式中,通过用户眼睛与摄像头之间的距离和/或角度的变化量可以确定摄像头与用户眼睛的相对稳定性。
作为一种可选的实施方式,所述获取摄像头与用户眼睛的相对稳定性包括:获取所述终端的加速度;计算第三预设时间内所述加速度的第三变化量;根据所述第三变化量确定所述摄像头与所述用户眼睛的相对稳定性,所述第三变化量越大,则所述相对稳定性越低。
在该实施方式中,通过终端的加速度的变化量可以确定摄像头与用户眼睛
的相对稳定性。
作为一种可选的实施方式,在所述确定一个敏感程度之前,所述方法还包括:检测所述终端中的虚拟现实应用程序是否处于启动状态;若处于启动状态,则确定用户对所述终端屏幕中显示图像的画质精细度的敏感程度最高;若不是处于启动状态,则执行所述确定一个敏感程度。
该实施方式的有益效果为,通过检测终端中的虚拟现实应用程序是否处于启动状态,确定用户对终端屏幕中显示图像的画质精细度的敏感程度。
作为一种可选的实施方式,在所述检测所述终端中的虚拟现实应用程序是否处于启动状态之后,以及在所述确定一个敏感程度之前,所述方法还包括:若不是处于启动状态,则获取所述摄像头的视场范围内的目标图像;识别所述目标图像中是否包含人脸图像;所述确定一个敏感程度包括:若不包含人脸图像,则确定用户对所述终端屏幕中显示图像的画质精细度的敏感程度最低;若包含人脸图像,则确定所述人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度。
该实施方式的有益效果为,检测是否有潜在用户处在终端前置摄像头的视场范围内,即是否有潜在用户处在可观看终端屏幕的范围内。
作为一种可选的实施方式,在所述识别所述目标图像中是否包含人脸图像之后,以及,在所述确定所述人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度之前,所述方法还包括:
若包含人脸图像,则获取所述目标图像中包含的各人脸图像对应的用户的头部朝向与所述终端屏幕的夹角;计算所述夹角大于预设角度阈值的用户数量N;所述确定所述人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度包括:若所述用户数量N为零,则确定用户对所述终端屏幕中显示图像的画质精细度的敏感程度最低;若所述用户数量N大于零,则确定所述夹角大于所述预设角度阈值的人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度。
该实施方式的有益效果为,通过用户的头部朝向与终端屏幕的夹角,确定用户是否有可能在注视终端屏幕。
作为一种可选的实施方式,在所述识别所述目标图像中是否包含人脸图像
之后,以及,在所述确定所述人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度之前,所述方法还包括:
若包含人脸图像,则获取所述目标图像中包含的各人脸图像对应的用户的视线方向;计算所述视线方向没有偏离所述终端屏幕的显示区域的用户数量M;所述确定所述人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度包括:若所述用户数量M为零,则确定用户对所述终端屏幕中显示图像的画质精细度的敏感程度最低;若所述用户数量M大于零,则确定所述视线方向没有偏离所述终端屏幕的显示区域的人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度。
该实施方式的有益效果为,通过用户眼睛相对于终端屏幕的相对位置以及用户视线方向,确定用户是否有可能在注视终端屏幕。
作为一种可选的实施方式,在所述选择与所述敏感程度对应的目标超分辨率算法之前,所述方法还包括:获取多个用户对所述终端屏幕中显示图像的画质精细度的敏感程度中的最大敏感程度值;所述选择与所述敏感程度对应的目标超分辨率算法包括:选择与所述最大敏感程度值对应的目标超分辨率算法。
该实施方式的有益效果为,在多个用户注视终端屏幕时,确定各用户对终端屏幕显示图像的画质精细度的最大敏感程度对应的目标超分辨率算法。
本发明实施例第二方面公开了一种终端,其特征在于,包括:处理器和存储器,其中,所述存储器存储有可执行程序代码、原始图像以及对所述原始图像进行处理后得到的目标图像;所述处理器用于执行以下操作:确定一个敏感程度,所述敏感程度用于表征用户对终端屏幕中显示图像的画质精细度的感知能力;选择与所述敏感程度对应的目标超分辨率算法,所述敏感程度越高则所述敏感程度对应的目标超分辨率算法得到的图像画质精细度越优;使用所述目标超分辨率算法对输入的原始图像进行处理得到目标图像,将所述目标图像显示到所述终端屏幕。
作为一种可选的实施方式,所述处理器确定一个敏感程度包括:获取用户眼睛与摄像头之间的距离、获取摄像头与用户眼睛的相对稳定性以及获取所述终端所处的环境光强度值与所述终端屏幕的亮度值之间的差值;根据所述距离
确定用户对所述终端屏幕中显示图像的画质精细度的第一敏感程度值、根据所述相对稳定性确定用户对所述终端屏幕中显示图像的画质精细度的第二敏感程度值以及根据所述差值确定用户对所述终端屏幕中显示图像的画质精细度的第三敏感程度值;将所述第一敏感程度值、所述第二敏感程度值以及所述第三敏感程度值与对应的权系数乘积的和作为目标敏感程度值。
作为一种可选的实施方式,所述处理器获取摄像头与用户眼睛的相对稳定性,具体用于执行以下操作:获取所述用户眼睛与所述摄像头之间的距离和/或获取所述用户眼睛与所述摄像头之间的角度;计算第一预设时间内所述用户眼睛与所述摄像头之间的距离的第一变化量和/或计算第二预设时间内所述用户眼睛与所述摄像头之间的角度的第二变化量;根据所述第一变化量和/或所述第二变化量确定所述摄像头与所述用户眼睛的相对稳定性,所述第一变化量越大和/或所述第二变化量越大,则所述相对稳定性越低。
作为一种可选的实施方式,所述处理器获取摄像头与用户眼睛的相对稳定性,具体用于执行以下操作:获取所述终端的加速度;计算第三预设时间内所述加速度的第三变化量;根据所述第三变化量确定所述摄像头与所述用户眼睛的相对稳定性,所述第三变化量越大,则所述相对稳定性越低。
作为一种可选的实施方式,所述处理器在所述确定一个敏感程度之前,还用于执行以下操作:检测所述终端中的虚拟现实应用程序是否处于启动状态;若处于启动状态,则确定用户对所述终端屏幕中显示图像的画质精细度的敏感程度最高;若不是处于启动状态,则执行所述确定一个敏感程度。
作为一种可选的实施方式,所述处理器在所述检测所述终端中的虚拟现实应用程序是否处于启动状态之后,以及在所述确定一个敏感程度之前,还用于执行以下操作:若所述虚拟现实应用程序不是处于启动状态,则获取所述摄像头的视场范围内的目标图像;识别所述目标图像中是否包含人脸图像;所述处理器确定一个敏感程度包括:若不包含人脸图像,则确定用户对所述终端屏幕中显示图像的画质精细度的敏感程度最低;若包含人脸图像,则确定所述人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度。
作为一种可选的实施方式,所述处理器在所述识别所述目标图像中是否包含人脸图像之后,以及,在所述确定所述人脸图像对应的用户对所述终端屏幕
中显示图像的画质精细度的敏感程度之前,还用于执行以下操作:若包含人脸图像,则获取所述目标图像中包含的各人脸图像对应的用户的头部朝向与所述终端屏幕的夹角;计算所述夹角大于预设角度阈值的用户数量N;所述处理器确定所述人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度包括:若所述用户数量N为零,则确定用户对所述终端屏幕中显示图像的画质精细度的敏感程度最低;若所述用户数量N大于零,则确定所述夹角大于所述预设角度阈值的人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度。
作为一种可选的实施方式,所述处理器在所述识别所述目标图像中是否包含人脸图像之后,以及,在所述确定所述人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度之前,还用于执行以下操作:若包含人脸图像,则获取所述目标图像中包含的各人脸图像对应的用户的视线方向;计算所述视线方向没有偏离所述终端屏幕的显示区域的用户数量M;所述处理器确定所述人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度包括:若所述用户数量M为零,则确定用户对所述终端屏幕中显示图像的画质精细度的敏感程度最低;若所述用户数量M大于零,则确定所述视线方向没有偏离所述终端屏幕的显示区域的人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度。
作为一种可选的实施方式,所述处理器在所述选择与所述敏感程度对应的目标超分辨率算法之前,还用于执行以下操作:获取多个用户对所述终端屏幕中显示图像的画质精细度的敏感程度中的最大敏感程度值;所述处理器选择与所述敏感程度对应的目标超分辨率算法包括:选择与所述最大敏感程度值对应的目标超分辨率算法。
本发明实施例第三方面公开了一种终端,包括:第一确定单元,用于确定一个敏感程度,所述敏感程度用于表征用户对终端屏幕中显示图像的画质精细度的感知能力;选择单元,用于选择与所述敏感程度对应的目标超分辨率算法,所述敏感程度越高则所述敏感程度对应的目标超分辨率算法得到的图像画质精细度越优;图像处理单元,用于使用所述目标超分辨率算法对输入的原始图
像进行处理得到目标图像;显示单元,用于将所述目标图像显示到所述终端屏幕。
作为一种可选的实施方式,所述第一确定单元包括:第一获取单元,用于获取用户眼睛与摄像头之间的距离;第二获取单元,用于获取摄像头与用户眼睛的相对稳定性;第三获取单元,用于获取所述终端所处的环境光强度值与所述终端屏幕的亮度值之间的差值;第一确定子单元,用于根据所述距离确定用户对所述终端屏幕中显示图像的画质精细度的第一敏感程度值、根据所述相对稳定性确定用户对所述终端屏幕中显示图像的画质精细度的第二敏感程度值以及根据所述差值确定用户对所述终端屏幕中显示图像的画质精细度的第三敏感程度值;所述第一确定子单元,还用于将所述第一敏感程度值、所述第二敏感程度值以及所述第三敏感程度值与对应的权系数乘积的和作为目标敏感程度值。
作为一种可选的实施方式,所述第二获取单元包括:第二获取子单元,用于获取所述用户眼睛与所述摄像头之间的距离和/或获取所述用户眼睛与所述摄像头之间的角度;第一计算单元,用于计算第一预设时间内所述用户眼睛与所述摄像头之间的距离的第一变化量和/或计算第二预设时间内所述用户眼睛与所述摄像头之间的角度的第二变化量;第二确定子单元,用于根据所述第一变化量和/或所述第二变化量确定所述摄像头与所述用户眼睛的相对稳定性,所述第一变化量越大和/或所述第二变化量越大,则所述相对稳定性越低。
作为一种可选的实施方式,所述第二获取单元包括:第二获取子单元,用于获取所述终端的加速度;第一计算单元,用于计算第三预设时间内所述加速度的第三变化量;第二确定单元,用于根据所述第三变化量确定所述摄像头与所述用户眼睛的相对稳定性,所述第三变化量越大,则所述相对稳定性越低。
作为一种可选的实施方式,所述终端还包括:检测单元,用于检测所述终端中的虚拟现实应用程序是否处于启动状态;所述第一确定单元,还用于在处于启动状态时,确定用户对所述终端屏幕中显示图像的画质精细度的敏感程度最高;在不是处于启动状态时,执行所述确定一个敏感程度。
作为一种可选的实施方式,所述终端还包括:第四获取单元,用于在所述虚拟现实应用程序不是处于启动状态时,获取所述摄像头的视场范围内的目标
图像;人脸识别单元,用于识别所述目标图像中是否包含人脸图像;所述第一确定单元,还用于在不包含人脸图像时,确定用户对所述终端屏幕中显示图像的画质精细度的敏感程度最低;在包含人脸图像时,确定所述人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度。
作为一种可选的实施方式,所述终端还包括:第五获取单元,用于在包含人脸图像时,获取所述目标图像中包含的各人脸图像对应的用户的头部朝向与所述终端屏幕的夹角;第二计算单元,用于计算所述夹角大于预设角度阈值的用户数量N;所述第一确定单元,还用于在所述用户数量N为零时,确定用户对所述终端屏幕中显示图像的画质精细度的敏感程度最低;在所述用户数量N大于零时,确定所述夹角大于所述预设角度阈值的人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度。
作为一种可选的实施方式,所述终端还包括:第六获取单元,用于在包含人脸图像时,获取所述目标图像中包含的各人脸图像对应的用户的视线方向;第三计算单元,用于计算所述视线方向没有偏离所述终端屏幕的显示区域的用户数量M;所述第一确定单元,还用于在所述用户数量M为零时,确定用户对所述终端屏幕中显示图像的画质精细度的敏感程度最低;在所述用户数量M大于零时,确定所述视线方向没有偏离所述终端屏幕的显示区域的人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度。
作为一种可选的实施方式,所述终端还包括:第七获取单元,用于获取多个用户对所述终端屏幕中显示图像的画质精细度的敏感程度中的最大敏感程度值;所述选择单元,具体用于选择与所述最大敏感程度值对应的目标超分辨率算法。
本发明实施例第四方面公开了一种计算机存储介质,用于储存为上述第一方面所述计算机软件指令,其包含用于执行上述方面所设计的程序。
应理解,本发明实施例第二至四方面与本发明实施例第一方面的技术方案一致,所取得的有益效果相似,不再赘述。
相较于现有技术,本发明实施例的方案中,通过确定用户对终端屏幕中显
示图像的画质精细度的敏感程度,选择与上述敏感程度对应的目标超分辨率算法,上述敏感程度越高该敏感程度对应的目标超分辨率算法得到的图像画质精细度越优,然后使用上述目标超分辨率算法对输入的原始图像进行处理得到目标图像,将上述目标图像显示到终端屏幕。从而可以根据用户对终端屏幕显示图像的画质精细度的敏感程度调整屏幕显示效果,可以在用户视觉体验与终端功耗间进行平衡,从而可以在一定程度上降低终端的功耗。
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例公开的一个示例性的实施场景;
图2为本发明实施例公开的一种图像显示方法的流程示意图;
图3为本发明实施例公开的另一种图像显示方法的流程示意图;
图4为本发明实施例公开的另一种图像显示方法的流程示意图;
图5为本发明实施例公开的另一种图像显示方法的流程示意图;
图6为本发明实施例公开的一种终端的结构示意图;
图7为本发明实施例公开的另一种终端的结构示意图。
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别不同的对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤
或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法或设备固有的其他步骤或单元。
本发明实施例公开了一种图像显示方法及终端,可以根据用户对终端屏幕显示图像的画质精细度的敏感程度调整屏幕显示效果,可以在用户视觉体验与终端功耗间进行平衡,从而可以在一定程度上降低终端的功耗。请参阅图1,图1示例性地展示了本发明的一个用户使用场景,当用户关注终端屏幕时,如左图所示,即用户对终端屏幕显示图像的画质精细度的敏感程度高时,选择显示图像画质精细度相对较高的超分辨率算法,生成显示图像,反之,当用户关注度下降时,如右图所示,即用户对终端屏幕显示图像的画质精细度的敏感程度低时,选择显示图像画质精细度相对较低的超分辨率算法,生成显示图像。以下分别进行详细说明。
请参阅图2,图2是本发明实施例公开的一种图像显示方法的流程示意图。其中,图2所示的图像显示方法可以包括以下步骤:
101:确定一个敏感程度,所述敏感程度用于表征用户对终端屏幕中显示图像的画质精细度的感知能力;
本发明实施例中,终端可以包括智能手机、平板电脑、个人数字助理(Personal Digital Assistant,PDA)以及移动互联网设备(Mobile Internet Devices,MID)等终端,本发明实施例后续不作复述。其中,终端可以包括至少一个处理器,终端可以在这至少一个处理器的控制下工作。
作为一种可选的实施方式,上述步骤101中,确定一个敏感程度,所述敏感程度用于表征用户对终端屏幕中显示图像的画质精细度的感知能力,即用户对终端屏幕中显示图像的画质精细度的敏感程度,可以包括以下操作:
获取用户眼睛与摄像头之间的距离、获取摄像头与用户眼睛的相对稳定性以及获取终端所处的环境光强度值与终端屏幕的亮度值之间的差值;
根据上述距离确定用户对所述终端屏幕中显示图像的画质精细度的第一敏感程度值、根据上述相对稳定性确定用户对所述终端屏幕中显示图像的画质精细度的第二敏感程度值以及根据上述差值确定用户对所述终端屏幕中显示
图像的画质精细度的第三敏感程度值;
将第一敏感程度值、第二敏感程度值以及第三敏感程度值与对应的权系数乘积的和作为目标敏感程度值。
其中,可以通过终端中的红外传感器、景深摄像头或者距离传感器等距离测量组件获取用户眼睛与摄像头之间的距离,还可以通过双前置摄像头根据人眼分别与两个摄像头之间的角度以及两个摄像头之间的距离计算出用户眼睛与摄像头之间的距离,还可以通过单前置摄像头拍摄的人脸图像根据瞳孔的瞳距进行用户眼睛与摄像头之间距离的估算,还可以通过人脸图像大小对用户眼睛与摄像头之间的距离进行估算,基于用户眼睛与摄像头之间的距离确定用户对终端屏幕中显示图像的画质精细度的第一敏感程度值,可以设定不同的距离范围,每个距离范围对应一个敏感程度值,还可以通过试验标定建立距离与敏感程度值之间的函数关系等,其中,用户眼睛与摄像头之间的距离越大,第一敏感程度值越低。
可选地,获取摄像头与用户眼睛的相对稳定性可以包括以下方式:
获取用户眼睛与摄像头之间的距离和/或获取用户眼睛与摄像头之间的角度;
计算第一预设时间内用户眼睛与摄像头之间的距离的第一变化量和/或计算第二预设时间内用户眼睛与摄像头之间的角度的第二变化量;
根据上述第一变化量和/或上述第二变化量确定摄像头与用户眼睛的相对稳定性,上述第一变化量越大和/或上述第二变化量越大,则该相对稳定性越低。
其中,由于终端上摄像头和终端屏幕之间的空间位置是固定的,确定摄像头与用户眼睛的相对稳定性也可以表示用户眼睛与终端屏幕的相对稳定性。
其中,在本发明实施例中,用户在观看终端屏幕时,主要是正面面向终端屏幕,因此,需要获取前置摄像头与用户眼睛之间的相对稳定性。
其中,可以通过前置摄像头获取的图像中用户眼睛所在的图像区域相对于整幅图像中心点的偏离量,计算出用户眼睛与摄像头之间的角度,其中用户眼睛与摄像头之间的角度具体为眼睛到摄像头的直线与摄像头中心轴线(该中心轴线垂直于终端屏幕)之间的角度,具体表示与摄像头中心轴线在水平方向的
角度以及与摄像头中心轴线在垂直方向的角度。
其中,第一预设时间与第二预设时间可以由试验进行确定或者由经验值进行确定。
其中,获取摄像头与用户眼睛的相对稳定性可以根据用户眼睛与摄像头之间的距离的变化量确定,也可以根据用户眼睛与摄像头之间的角度的变化量进行确定,还可以根据距离与角度的变化量同时进行确定,具体采用何种方式本发明实施例不作唯一性限定,基于摄像头与用户眼睛的相对稳定性可以确定用户对终端屏幕中显示图像的画质精细度的第二敏感程度值,可以设定不同的相对稳定性范围,每个范围对应一个敏感程度值,还可以通过试验标定建立相对稳定性与敏感程度值之间的函数关系等,其中,相对稳定性越低,则第二敏感程度值越低。
可选地,获取摄像头与用户眼睛的相对稳定性还可以包括以下方式:
获取终端的加速度;
计算第三预设时间内上述加速度的第三变化量;
根据上述第三变化量确定摄像头与用户眼睛的相对稳定性,上述第三变化量越大,则该相对稳定性越低。
其中,可以通过终端中的加速度传感器、重力传感器、陀螺仪等与终端位置相关的传感器获取的数值的变化量来确定终端的加速度,例如,将传感器获取的的数值根据时间求导数,若在匀加速情况下,则加速度方向为固定方向,加速度值为固定值的情况下,用户可以保持摄像头与用户眼睛之间的相对稳定,而当加速度的方向或者加速度的数值变化较大时,则摄像头与用户眼睛之间的相对稳定性会随之降低。还可以通过加速度传感器、陀螺仪获取的终端的X方向、Y方向、Z方向三个分量的加速度的和来确定摄像头与用户眼睛之间的相对稳定性,例如,若上述三个分量的加速度的和小于某一个阈值,则可以表示终端处于匀速或者固定的状态,此时摄像头与用户眼睛之间可以保持相对稳定的状态,若上述三个分量的加速度的和的变化量较大,则表示摄像头与用户眼睛之间的相对稳定性较低。
其中,可以通过终端中的感光芯片、摄像头或者光传感器等感光部件获取终端所处的环境光强度值、获取终端屏幕的亮度值,若环境光强度值大于终端
屏幕的亮度值,则获取终端所处的环境光强度值与终端屏幕的亮度值之间的差值,当差值越大时,用户对终端屏幕中显示的图像的画质精细度的敏感程度会随之降低。基于终端所处的环境光强度值与终端屏幕的亮度值之间的差值可以确定用户对终端屏幕中显示图像的画质精细度的第三敏感程度值,可以设定不同的差值的区间范围,每个范围对应一个敏感程度值,还可以通过试验标定建立光强度差值与敏感程度值之间的函数关系等,其中,上述差值越大,则第三敏感程度值越低。
作为一种可选的实施方式,可以为每一种获取敏感程度的方式确定一个权值,最后的敏感程度值为各个方式获取的敏感程度值与对应的权值相乘之后再相加的结果。
102:选择与上述敏感程度对应的目标超分辨率算法,上述敏感程度越高则上述敏感程度对应的目标超分辨率算法得到的图像画质精细度越优;
其中,敏感程度越高表示用户对终端屏幕显示图像的细节注意力越高,则需要目标超分辨率算法得到的图像画质精细度越优。
其中,目标超分辨率算法越优表示由该超分辨率算法得到的图像画质精细度越优,也即输出的图像显示的细节越精细,且清晰度越高。
例如,目前常用的超分辨率算法一般分为基于插值的算法和基于学习的超分辨率算法。基于插值的SR中,最简单的方法是基于图像像素值的空间平均值和卷积来插值,例如双线性插值、双三次插值以及多相位插值;这类插值算法只需少数的乘加操作,资源面积很少(10万逻辑门左右),相应的功耗也会很低。这类算法效果也较差,容易出现边缘锯齿,图像模糊等现象,因此采用该类超分辨率算法得到的图像的显示效果较差。
基于插值的SR中,还有一些基于内容自适应的方法,例如NEDI(New Edge-Directed interpolation)、SAI(Soft-DecisionAdaptive Interpolation)、Double Interpolation等,这些算法会根据图像内容自适应的插值,图像边缘的锯齿以及图像清晰度相比之前提到的简单差值算法会有一些的改善,但是这类算法容易出现副作用(如黑白边、振铃现象等),同时细节很难进一步提升。这类算法的计算操作相对较复杂,资源面积也会较大(50万逻辑门左右),相应的功耗会大一些,然而采用该类超分辨率算法得到的图像的显示效果相对与第一种
效果较好。
基于学习类的SR算法,一般会使用一个图像训练集来产生一个学习模型,运用该模型为输入的低分辨率图像创建更多高频信息。因此,该类算法能恢复更多高频细节信息,同时图像清新度较好,能提供接近真正高清晰图像的效果。但是由于该类算法需要一个较大规模的存储数据库(对应图像的字典库或者权重库等),并且对数据库的操作比较频繁,资源面积相对于前两类大(150~200万逻辑门左右),功耗也会比较大,然而采用该类超分辨率算法得到的图像的显示效果相对于第二种效果较好。
从上述分析可知,基于学习类的SR算法得到的图像画质精细度优于基于插值的SR算法中的基于内容自适应的算法,基于插值的SR算法中的基于内容自适应的算法得到的图像画质精细度优于基于插值的SR中基于图像像素值的空间平均值和卷积来插值的算法。
需要说明的是,上述仅表示各超分辨率算法之间的区别的一种举例,本发明实施例中所使用的超分辨率算法不局限于上述基于学习类的SR算法、基于插值的SR算法。
103:使用上述目标超分辨率算法对输入的原始图像进行处理得到目标图像,将上述目标图像显示到终端屏幕。
本发明实施例中,通过目标超分辨率算法对输入的原始图像进行处理之后,将经过处理得到的目标图像显示到终端屏幕中,可以根据用户对终端屏幕显示图像的画质精细度的敏感程度调整屏幕显示效果,可以在用户视觉体验与终端功耗间进行平衡。
由此可见,利用图2所描述的图像显示方法,可以根据用户对终端屏幕显示图像的画质精细度的敏感程度调整屏幕显示效果,可以在用户视觉体验与终端功耗间进行平衡,从而可以在一定程度上降低终端的功耗。
请参阅图3,图3是本发明实施例公开的另一种图像显示方法的流程示意图。在图3所描述的图像显示方法中,可以包括以下步骤:
200:检测终端中的虚拟现实应用程序是否处于启动状态;
201:若处于启动状态,则确定用户对终端屏幕中显示图像的画质精细度的敏感程度最高,并执行步骤210-步骤211;
其中,若终端正在运行虚拟现实应用程序,此时终端与用户之间的距离很小,并且在用户进行虚拟现实体验时即使不规则的移动头部,仍然可以保持终端与头部的相对位置,因此在虚拟现实模式下,确定敏感程度最高。
202:若不是处于启动状态,则获取摄像头的视场范围内的目标图像;
其中,该摄像头具体是终端中的前置摄像头。
203:识别该目标图像中是否包含人脸图像;
本发明实施例中,可以采用人脸识别的方式判断目标图像中是否包含人脸图像,即检测是否有潜在用户处在可观看终端屏幕的范围内。目前的终端大多存在前置摄像头,因此可以根据前置摄像头拍摄的图像进行人脸识别。
作为一种可选的实施方式,采用的人脸识别技术可以包括但不限于以下几种:
参考模板法,即预先设计一个或多个标准人脸的模板,然后计算前置摄像头拍摄的图片与标准人脸的模板之间的匹配程度,如果匹配程度超过预设阈值,则确定识别出人脸。
人脸规则法,即利用人脸的结构分布特征生成相应的规则,将前置摄像头拍摄的图片与该规则进行匹配以进行人脸识别。
样品学习法,即采用人工神经网络的方法,通过对面像样品集和非面像样品集进行学习并训练分类器,将前置摄像头拍摄的图片输入分类器得到该图片是否包含人脸的分类结果。
肤色模型法,即依据面部肤色在色彩空间中相对集中的规律来检测前置摄像头拍摄的图片是否包含人脸。
特征子脸法,即将所有面像集合视为一个面像子空间,基于前置摄像头拍摄的图片与在面像子空间的投影之间的距离判断前置摄像头拍摄的图片是否包含人脸。
鉴于人脸识别技术为现有较成熟的技术,在此不做具体描述。
204:若不包含人脸图像,则确定用户对终端屏幕中显示图像的画质精细
度的敏感程度最低,并执行步骤210~步骤211;
本发明实施例中,若前置摄像头拍摄的目标图像中不包含人脸图像,则表示没有用户在注视终端屏幕,则为了节省终端功耗,确定用户对终端屏幕中显示图像的画质精细度的敏感程度最低,同时选择敏感程度最低时对应的目标超分辨率算法,采用该目标超分辨率算法得到的图像的画质精细度最低。
205:若包含人脸图像,则获取目标图像中包含的各人脸图像对应的用户的头部朝向与终端屏幕的夹角;
本发明实施例中,用户的头部朝向与终端屏幕的夹角只有在一个合适的范围内时,用户才能够看见终端屏幕上面所显示的内容。获取用户的头部朝向与终端屏幕的夹角可以采用统计学分类器(如支持向量机、人工神经网络、隐形马尔科夫模型等)的方法,采用已知图像训练不同头部朝向图像对应的一系列分类器,根据训练完成的一系列分类器对终端前置摄像头当前拍摄的的用户头部图像进行分类,得出最高信任值的分类器对应的头部朝向角度即为用户的头部朝向与终端屏幕的夹角。
206:计算夹角大于预设角度阈值的用户数量N;
本发明实施例中,用户头部朝向与终端屏幕之间的夹角大于某一角度阈值时,用户才能够看见终端屏幕上面所显示的内容,例如,当用户头部正对终端屏幕时,夹角为90度,该角度阈值可以通过试验进行确定。
207:若用户数量N为零,则确定用户对终端屏幕中显示图像的画质精细度的敏感程度最低,并执行步骤210~步骤211;
其中,若用户数量N为零,则表示没有用户正在注视终端屏幕中显示的内容,为了节省终端功耗,确定用户对终端屏幕中显示图像的画质精细度的敏感程度最低,同时选择敏感程度最低时对应的目标超分辨率算法,采用该目标超分辨率算法得到的图像的画质精细度最低。
208:若用户数量N大于零,则确定夹角大于预设角度阈值的人脸图像对应的用户对终端屏幕中显示图像的画质精细度的敏感程度;
其中,确定夹角大于预设角度阈值的人脸图像对应的用户对终端屏幕中显示图像的画质精细度的敏感程度可以参照方法实施例1中步骤101的描述,本发明实施例将不做复述。
209:获取多个用户对终端屏幕中显示图像的画质精细度的敏感程度中的最大敏感程度值;
210:选择与最大敏感程度值对应的目标超分辨率算法;
本发明实施例中,若用户数量N大于零,则表示存在能够看见终端屏幕显示内容的用户,因此可以获取目标图像中所有头部朝向与终端屏幕之间的夹角大于预设角度阈值的人脸图像对应的用户对终端屏幕中显示图像的画质精细度的敏感程度。
作为一种可选的实施方式,可以将通过步骤208确定的敏感程度中的最大敏感程度值作为选取目标超分辨率算法的依据,从而可以满足所有用户对终端屏幕显示图像的画质精细度的要求。
211:使用上述目标超分辨率算法对输入的原始图像进行处理得到目标图像,将上述目标图像显示到终端屏幕。
由此可见,利用图3所描述的图像显示方法,在终端中的虚拟现实应用程序不是处于启动状态时,通过对终端前置摄像头拍摄的目标图像进行识别确定能够看见终端屏幕显示内容的各个用户对终端屏幕显示图像的画质精细度的敏感程度,选取与上述敏感程度中最大敏感程度值对应的目标超分辨率算法来调整屏幕显示效果,可以在用户视觉体验与终端功耗间进行平衡,从而可以在一定程度上降低终端的功耗。
请参阅图4,图4是本发明实施例公开的另一种图像显示方法的流程示意图。在图4所描述的图像显示方法中,可以包括以下步骤:
300:检测终端中的虚拟现实应用程序是否处于启动状态;
301:若处于启动状态,则确定用户对终端屏幕中显示图像的画质精细度的敏感程度最高,并执行步骤310-步骤311;
302:若不是处于启动状态,则获取摄像头的视场范围内的目标图像;
其中,该摄像头具体是终端中的前置摄像头。
303:识别该目标图像中是否包含人脸图像;
本发明实施例中,可以采用人脸识别的方式判断目标图像中是否包含人脸
图像,即检测是否有潜在用户处在可观看终端屏幕的范围内。目前的终端大多存在前置摄像头,因此可以根据前置摄像头拍摄的图像进行人脸识别。
作为一种可选的实施方式,采用的人脸识别技术可以参考步骤203的实施方式,在此不做赘述。
304:若不包含人脸图像,则确定用户对终端屏幕中显示图像的画质精细度的敏感程度最低,并执行步骤310~步骤311;
本发明实施例中,若前置摄像头拍摄的目标图像中不包含人脸图像,则表示没有用户在注视终端屏幕,则为了节省终端功耗,确定用户对终端屏幕中显示图像的画质精细度的敏感程度最低,同时选择敏感程度最低时对应的目标超分辨率算法,采用该目标超分辨率算法得到的图像的画质精细度最低。
305:若包含人脸图像,则获取目标图像中包含的各人脸图像对应的用户的视线方向;
本发明实施例中,若用户的视线方向偏离终端屏幕的显示区域时,用户将不能够看见终端屏幕上面所显示的内容。
作为一种可选的实施方式,可以采用以下方式确定用户视线是否偏离终端屏幕的显示区域:获取瞳孔中心与眼睛中心的水平距离以及获取瞳孔中心与眼睛中心的竖直距离,其中水平距离表示斜视,竖直距离表示俯仰视,若水平距离超过水平距离阈值或者竖直距离超过竖直距离阈值,则可以确定用户的视线方向偏离终端屏幕的显示区域。
其中,可以通过拍摄的人脸图像通过图像处理确定出人眼图像,通过对分割出的眼睛窗口采用分区动态阈值法重新进行二值化,用矩形框匹配法确定眼睛的中心位置,再用模板匹配法或山峰算法确定瞳孔中心位置,进而可以计算出瞳孔中心与眼睛中心的水平距离以及瞳孔中心与眼睛中心的竖直距离。
作为一种可选的实施方式,还可以采用以下方式确定用户视线是否偏离终端屏幕的显示区域:建立三维坐标系,首先通过眼睛与前置摄像头的角度以及眼睛与前置摄像头的距离找到眼睛相对于前置摄像头的相对空间位置,再使用瞳孔中心与眼睛中心的水平和竖直距离来计算视线覆盖的大致视场范围,然后计算该视场范围在屏幕所在平面上的映射区域是否与屏幕区域重合,若有重合区域,则代表用户在观看终端屏幕,否则用户没有观看终端屏幕。
其中,眼睛与前置摄像头之间的角度可以通过以下方式获得:建立参考坐标系,将前置摄像头所处的位置设置为原点,终端屏幕所确定的平面为XY平面,将前置摄像头所确定的视场范围中的视场中线设置为Z轴,从摄像头沿Z轴视线观察到的目标点即为前置摄像头获取的图像的中心点。对前置摄像头获取的图像进行人眼识别确定出人眼区域,从而计算出眼睛位置与前置摄像头获取的图像的中心点的距离,即确定出眼睛相对于图像中心点的横纵偏移量(ΔX,ΔY),进而可以通过以下公式计算出眼睛位置偏离前置摄像头视场中线的角度:
其中,αx、αy分别表示眼睛偏离视场中线的水平角度和竖直角度,αL、αH分别表示终端前置摄像头视场范围的水平最大角度以及竖直最大角度,L、H表示终端前置摄像头获取的图像的水平像素和竖直像素。
其中,眼睛与前置摄像头的距离可以通过前置摄像头获取的图像中的眼睛大小进行估算,也可以近似于面部与前置摄像头之间的距离。
306:计算上述视线方向没有偏离终端屏幕的显示区域的用户数量M;
307:若用户数量M为零,则确定用户对终端屏幕中显示图像的画质精细度的敏感程度最低,并执行步骤310~步骤311;
其中,若用户数量M为零,则表示没有用户正在观看终端屏幕中显示的内容,为了节省终端功耗,确定用户对终端屏幕中显示图像的画质精细度的敏感程度最低,同时选择敏感程度最低时对应的目标超分辨率算法,采用该目标超分辨率算法得到的图像的画质精细度最低。
308:若用户数量M大于零,则确定上述视线方向没有偏离终端屏幕的显示区域的人脸图像对应的用户对终端屏幕中显示图像的画质精细度的敏感程度;
其中,确定视线方向没有偏离终端屏幕的显示区域的人脸图像对应的用户对终端屏幕中显示图像的画质精细度的敏感程度可以参照方法实施例1中步
骤101的描述,本发明实施例将不做复述。
309:获取多个用户对终端屏幕中显示图像的画质精细度的敏感程度中的最大敏感程度值;
310:选择与最大敏感程度值对应的目标超分辨率算法;
本发明实施例中,若用户数量M大于零,则表示存在能够看见终端屏幕显示内容的用户,因此可以获取目标图像中所有视线方向没有偏离终端屏幕的显示区域的人脸图像对应的用户对终端屏幕中显示图像的画质精细度的敏感程度。
作为一种可选的实施方式,可以将通过步骤308确定的敏感程度中的最大敏感程度值作为选取目标超分辨率算法的依据,从而可以满足所有用户对终端屏幕显示图像的画质精细度的要求。
311:使用上述目标超分辨率算法对输入的原始图像进行处理得到目标图像,将上述目标图像显示到终端屏幕。
由此可见,利用图4所描述的图像显示方法,在终端中的虚拟现实应用程序不是处于启动状态时,通过对终端前置摄像头拍摄的目标图像进行识别确定能够看见终端屏幕显示内容的各个用户对终端屏幕显示图像的画质精细度的敏感程度,选取与上述敏感程度中最大敏感程度值对应的目标超分辨率算法来调整屏幕显示效果,可以在用户视觉体验与终端功耗间进行平衡,从而可以在一定程度上降低终端的功耗。
请参阅图5,图5是本发明实施例公开的另一种图像显示方法的流程示意图。在图5所描述的图像显示方法中,可以包括以下步骤:
400:检测终端中的虚拟现实应用程序是否处于启动状态;
401:若处于启动状态,则确定用户对终端屏幕中显示图像的画质精细度的敏感程度最高,并执行步骤413-步骤414;
402:若不是处于启动状态,则获取摄像头的视场范围内的目标图像;
其中,该摄像头具体是终端中的前置摄像头。
403:识别该目标图像中是否包含人脸图像;
404:若不包含人脸图像,则确定用户对终端屏幕中显示图像的画质精细度的敏感程度最低,并执行步骤413~步骤414;
405:若包含人脸图像,则获取目标图像中包含的各人脸图像对应的用户的头部朝向与终端屏幕的夹角;
406:计算夹角大于预设角度阈值的用户数量N;
407:若用户数量N为零,则确定用户对终端屏幕中显示图像的画质精细度的敏感程度最低,并执行步骤413~步骤414;
408:若用户数量N大于零,则确定夹角大于预设角度阈值的人脸图像对应的用户的视线方向;
409:计算上述视线方向没有偏离终端屏幕的显示区域的用户数量M;
410:若用户数量M为零,则确定用户对终端屏幕中显示图像的画质精细度的敏感程度最低,并执行步骤413~步骤414;
411:若用户数量M大于零,则确定上述视线方向没有偏离终端屏幕的显示区域的人脸图像对应的用户对终端屏幕中显示图像的画质精细度的敏感程度;
本发明实施例中,在用户的头部朝向与终端屏幕的夹角大于预设角度阈值时,表示用户可以看到终端屏幕中显示的内容,由于用户可能侧着脸在看屏幕,也可能用户面部朝着屏幕,但是眼睛在看其他方向,因此只根据头部朝向无法确认用户是否在观看屏幕,可以将头部朝向与用户视线进行结合可以更加精确的确定用户是否在观看屏幕。
本发明实施例中,确定视线方向没有偏离终端屏幕的显示区域的人脸图像对应的用户对终端屏幕中显示图像的画质精细度的敏感程度的具体实现方式可以参照实施例1中步骤101中的描述,本发明实施例将不做复述。
412:获取多个用户对终端屏幕中显示图像的画质精细度的敏感程度中的最大敏感程度值;
413:选择与最大敏感程度值对应的目标超分辨率算法;
414:使用上述目标超分辨率算法对输入的原始图像进行处理得到目标图像,将上述目标图像显示到终端屏幕。
由此可见,利用图5所描述的图像显示方法,在终端中的虚拟现实应用程
序不是处于启动状态时,通过对终端前置摄像头拍摄的目标图像进行识别确定能够看见终端屏幕显示内容的各个用户对终端屏幕显示图像的画质精细度的敏感程度,选取与上述敏感程度中最大敏感程度值对应的目标超分辨率算法来调整屏幕显示效果,可以在用户视觉体验与终端功耗间进行平衡,从而可以在一定程度上降低终端的功耗。
请参阅图6,图6是本发明实施例公开的一种终端的结构示意图。如图6所示,该终端包括:至少一个处理器501、存储器502、摄像头503、传感器504、输入输出模块505以及用户接口506;在本发明的一些实施例中,这些部件可通过总线或者其它方式连接。
处理器501可以是通用处理器,例如中央处理器(Central Processing Unit,CPU),还可以是数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC),或者是被配置成实施本发明实施例的一个或多个集成电路。处理器501可处理通过摄像头503以及传感器504接收到的数据。处理器501还可以将处理的最结果通过输入输出模块505进行显示。
摄像头503可以包括前置摄像头或者后置摄像头,摄像头503可以作为拍摄图像使用,其中,摄像头503由镜头、图像传感器、数字信号处理芯片、感光元件等组成,图像传感器包括感光像素阵列以及设置于所述感光像素阵列上的滤光片。图像传感器可以是电荷耦合器件(Charged Coupled Device,CCD)图像传感器、互补金属氧化物半导体(Complementary Metal Oxide Semiconductor,CMOS)传感器。
传感器504可以包括光传感器、运动传感器以及其他传感器。具体地,光传感器可包括环境光传感器及接近传感器,其中,环境光传感器可以获取终端所处环境的光强度值。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,可用于识别终端姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;重力传感器作为运动传感器的一种,也可以用来检测终端的加速度,例如,重力传感器用于感应终端在摇动过程中产生的重力;并通过终端中的处理器
501对重力传感器感应到的重力转换成带有方向的加速度值;至于终端还可配置的陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。
总线可以是工业标准体系结构(Industry Standard Architecture,ISA)总线、外部设备互连(Peripheral Component Interconnect,PCI)总线或扩展标准体系结构(Extended Industry Standard Architecture,EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。
存储器502,用于存储程序代码、原始图像以及对该原始图像进行处理后得到的目标图像,存储器502将存储的程序代码传输给CPU。存储器502可以包括易失性存储器(Volatile Memory),例如随机存取存储器(Random Access Memory,RAM);存储器502也可以包括非易失性存储器(Non-Volatile Memory),例如只读存储器(Read-Only Memory,ROM)、快闪存储器(Flash Memory)、硬盘(Hard Disk Drive,HDD)或固态硬盘(Solid-State Drive,SSD);存储器502还可以包括上述种类的存储器的组合。存储器502通过总线与处理器501相连接。
输入输出模块505主要用于实现终端和用户/外部环境之间的交互功能,主要包括音频输入输出模块、按键输入模块以及显示器等。具体实现中,输入输出模块505还可包括:摄像头、触摸屏以及传感器等等。其中,输入输出模块505通过用户接口506与处理器501进行通信。
在本发明实施例中,处理器501通过调用存储于存储器502中的程序代码,用于执行以下操作:
确定一个敏感程度,所述敏感程度用于表征用户对终端屏幕中显示图像的画质精细度的感知能力;
选择与上述敏感程度对应的目标超分辨率算法,该敏感程度越高则该敏感程度对应的目标超分辨率算法得到的图像画质精细度越优;
使用上述目标超分辨率算法对输入的原始图像进行处理得到目标图像,将上述目标图像显示到终端屏幕。
利用图6所描述的终端,可以根据用户对终端屏幕显示图像的分辨率的敏感程度调整屏幕显示效果,可以在用户视觉体验与终端功耗间进行平衡,从而
可以在一定程度上降低终端的功耗。
请参阅图7,图7是本发明实施例公开的另一种终端的结构示意图。如图7所示,该终端可以包括:
第一确定单元601,用于确定一个敏感程度,所述敏感程度用于表征用户对终端屏幕中显示图像的画质精细度的感知能力;
选择单元602,用于选择与上述敏感程度对应的目标超分辨率算法,该敏感程度越高则该敏感程度对应的目标超分辨率算法得到的图像画质精细度越优;
图像处理单元603,用于使用上述目标超分辨率算法对输入的原始图像进行处理得到目标图像;
显示单元604,用于将上述目标图像显示到终端屏幕。
在本发明实施例中,终端是以功能单元的形式来呈现。这里的“单元”可以指ASIC电路,执行一个或多个软件或固件程序的处理器和存储器,和/或其他可以提供上述功能的器件。终端可以采用图6所示的形式。例如,确定单元601可以通过图6中的处理器501、摄像头503以及传感器504实现,选择单元602以及图像处理单元603可以通过图6的处理器501来实现,显示单元604可以通过图6的输入输出模块505来实现。
需要说明的是,上述实施例中所描述的终端中各功能单元的功能可根据上述图2、图3、图4及图5所示方法实施例中的方法具体实现,此处不再赘述。
通过运行上述单元,可以根据用户对终端屏幕显示图像的画质精细度的敏感程度调整屏幕显示效果,可以在用户视觉体验与终端功耗间进行平衡,从而可以在一定程度上降低终端的功耗。
综上所述,实施本发明实施例,可以根据用户对终端屏幕显示图像的画质精细度的敏感程度调整屏幕显示效果,可以在用户视觉体验与终端功耗间进行平衡,从而可以在一定程度上降低终端的功耗。
值得注意的是,上述终端只是按照功能逻辑进行划分的,但并不局限于上述的划分,只要能够实现相应的功能即可;另外,各功能单元的具体名称也只是为了便于相互区分,并不用于限制本发明的保护范围。
另外,本领域普通技术人员可以理解实现上述各方法实施例中的全部或部分步骤是可以通过程序来指令相关的硬件完成,相应的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上仅为本发明较佳的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明实施例揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应该以权利要求的保护范围为准。
Claims (18)
- 一种图像显示方法,其特征在于,包括:确定一个敏感程度,所述敏感程度用于表征用户对终端屏幕中显示图像的画质精细度的感知能力;选择与所述敏感程度对应的目标超分辨率算法,所述敏感程度越高则所述敏感程度对应的目标超分辨率算法得到的图像画质精细度越优;使用所述目标超分辨率算法对输入的原始图像进行处理得到目标图像,将所述目标图像显示到所述终端屏幕。
- 根据权利要求1所述方法,其特征在于,所述确定一个敏感程度,包括:获取用户眼睛与摄像头之间的距离、获取摄像头与用户眼睛的相对稳定性以及获取所述终端所处的环境光强度值与所述终端屏幕的亮度值之间的差值;根据所述距离确定用户对所述终端屏幕中显示图像的画质精细度的第一敏感程度值、根据所述相对稳定性确定用户对所述终端屏幕中显示图像的画质精细度的第二敏感程度值以及根据所述差值确定用户对所述终端屏幕中显示图像的画质精细度的第三敏感程度值;将所述第一敏感程度值、所述第二敏感程度值以及所述第三敏感程度值与对应的权系数乘积的和作为目标敏感程度值。
- 根据权利要求2所述方法,其特征在于,所述获取摄像头与用户眼睛的相对稳定性包括:获取所述用户眼睛与所述摄像头之间的距离和/或获取所述用户眼睛与所述摄像头之间的角度;计算第一预设时间内所述用户眼睛与所述摄像头之间的距离的第一变化量和/或计算第二预设时间内所述用户眼睛与所述摄像头之间的角度的第二变化量;根据所述第一变化量和/或所述第二变化量确定所述摄像头与所述用户眼睛的相对稳定性,所述第一变化量越大和/或所述第二变化量越大,则所述相对稳定性越低。
- 根据权利要求2所述方法,其特征在于,所述获取摄像头与用户眼睛 的相对稳定性包括:获取所述终端的加速度;计算第三预设时间内所述加速度的第三变化量;根据所述第三变化量确定所述摄像头与所述用户眼睛的相对稳定性,所述第三变化量越大,则所述相对稳定性越低。
- 根据权利要求1至4任意一项所述方法,其特征在于,在所述确定一个敏感程度之前,所述方法还包括:检测所述终端中的虚拟现实应用程序是否处于启动状态;若处于启动状态,则确定用户对所述终端屏幕中显示图像的画质精细度的敏感程度最高;若不是处于启动状态,则执行所述确定一个敏感程度。
- 根据权利要求5所述方法,其特征在于,在所述检测所述终端中的虚拟现实应用程序是否处于启动状态之后,以及在所述确定一个敏感程度之前,所述方法还包括:若所述虚拟现实应用程序不是处于启动状态,则获取所述摄像头的视场范围内的目标图像;识别所述目标图像中是否包含人脸图像;所述确定一个敏感程度,包括:若不包含人脸图像,则确定用户对所述终端屏幕中显示图像的画质精细度的敏感程度最低;若包含人脸图像,则确定所述人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度。
- 根据权利要求6所述方法,其特征在于,在所述识别所述目标图像中是否包含人脸图像之后,以及,在所述确定所述人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度之前,所述方法还包括:若包含人脸图像,则获取所述目标图像中包含的各人脸图像对应的用户的头部朝向与所述终端屏幕的夹角;计算所述夹角大于预设角度阈值的用户数量N;所述确定所述人脸图像对应的用户对所述终端屏幕中显示图像的画质精 细度的敏感程度包括:若所述用户数量N为零,则确定用户对所述终端屏幕中显示图像的画质精细度的敏感程度最低;若所述用户数量N大于零,则确定所述夹角大于所述预设角度阈值的人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度。
- 根据权利要求6所述方法,其特征在于,在所述识别所述目标图像中是否包含人脸图像之后,以及,在所述确定所述人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度之前,所述方法还包括:若包含人脸图像,则获取所述目标图像中包含的各人脸图像对应的用户的视线方向;计算所述视线方向没有偏离所述终端屏幕的显示区域的用户数量M;所述确定所述人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度包括:若所述用户数量M为零,则确定用户对所述终端屏幕中显示图像的画质精细度的敏感程度最低;若所述用户数量M大于零,则确定所述视线方向没有偏离所述终端屏幕的显示区域的人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度。
- 根据权利要求7或8所述方法,其特征在于,在所述选择与所述敏感程度对应的目标超分辨率算法之前,所述方法还包括:获取多个用户对所述终端屏幕中显示图像的画质精细度的敏感程度中的最大敏感程度值;所述选择与所述敏感程度对应的目标超分辨率算法包括:选择与所述最大敏感程度值对应的目标超分辨率算法。
- 一种终端,其特征在于,包括:第一确定单元,用于确定一个敏感程度,所述敏感程度用于表征用户对终端屏幕中显示图像的画质精细度的感知能力;选择单元,用于选择与所述敏感程度对应的目标超分辨率算法,所述敏感程度越高则所述敏感程度对应的目标超分辨率算法得到的图像画质精细度越 优;图像处理单元,用于使用所述目标超分辨率算法对输入的原始图像进行处理得到目标图像;显示单元,用于将所述目标图像显示到所述终端屏幕。
- 根据权利要求10所述的终端,其特征在于,所述第一确定单元包括:第一获取单元,用于获取用户眼睛与摄像头之间的距离;第二获取单元,用于获取摄像头与用户眼睛的相对稳定性;第三获取单元,用于获取所述终端所处的环境光强度值与所述终端屏幕的亮度值之间的差值;第一确定子单元,用于根据所述距离确定用户对所述终端屏幕中显示图像的画质精细度的第一敏感程度值、根据所述相对稳定性确定用户对所述终端屏幕中显示图像的画质精细度的第二敏感程度值以及根据所述差值确定用户对所述终端屏幕中显示图像的画质精细度的第三敏感程度值;所述第一确定子单元,还用于将所述第一敏感程度值、所述第二敏感程度值以及所述第三敏感程度值与对应的权系数乘积的和作为目标敏感程度值。
- 根据权利要求11所述的终端,其特征在于,所述第二获取单元包括:第二获取子单元,用于获取所述用户眼睛与所述摄像头之间的距离和/或获取所述用户眼睛与所述摄像头之间的角度;第一计算单元,用于计算第一预设时间内所述用户眼睛与所述摄像头之间的距离的第一变化量和/或计算第二预设时间内所述用户眼睛与所述摄像头之间的角度的第二变化量;第二确定单元,用于根据所述第一变化量和/或所述第二变化量确定所述摄像头与所述用户眼睛的相对稳定性,所述第一变化量越大和/或所述第二变化量越大,则所述相对稳定性越低。
- 根据权利要求11所述的终端,其特征在于,所述第二获取单元包括:第二获取子单元,用于获取所述终端的加速度;第一计算单元,用于计算第三预设时间内所述加速度的第三变化量;第二确定单元,用于根据所述第三变化量确定所述摄像头与所述用户眼睛的相对稳定性,所述第三变化量越大,则所述相对稳定性越低。
- 根据权利要求10至13任意一项所述的终端,其特征在于,所述终端还包括:检测单元,用于检测所述终端中的虚拟现实应用程序是否处于启动状态;所述第一确定单元,还用于在处于启动状态时,确定用户对所述终端屏幕中显示图像的画质精细度的敏感程度最高;在不是处于启动状态时,执行所述确定一个敏感程度。
- 根据权利要求14所述的终端,其特征在于,所述终端还包括:第四获取单元,用于在所述虚拟现实应用程序不是处于启动状态时,获取所述摄像头的视场范围内的目标图像;人脸识别单元,用于识别所述目标图像中是否包含人脸图像;所述第一确定单元,还用于在不包含人脸图像时,确定用户对所述终端屏幕中显示图像的画质精细度的敏感程度最低;在包含人脸图像时,确定所述人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度。
- 根据权利要求15所述的终端,其特征在于,所述终端还包括:第五获取单元,用于在包含人脸图像时,获取所述目标图像中包含的各人脸图像对应的用户的头部朝向与所述终端屏幕的夹角;第二计算单元,用于计算所述夹角大于预设角度阈值的用户数量N;所述第一确定单元,还用于在所述用户数量N为零时,确定用户对所述终端屏幕中显示图像的画质精细度的敏感程度最低;在所述用户数量N大于零时,确定所述夹角大于所述预设角度阈值的人脸图像对应的用户对所述终端屏幕中显示图像的画质精细度的敏感程度。
- 根据权利要求15所述的终端,其特征在于,所述终端还包括:第六获取单元,用于在包含人脸图像时,获取所述目标图像中包含的各人脸图像对应的用户的视线方向;第三计算单元,用于计算所述视线方向没有偏离所述终端屏幕的显示区域的用户数量M;所述第一确定单元,还用于在所述用户数量M为零时,确定用户对所述终端屏幕中显示图像的画质精细度的敏感程度最低;在所述用户数量M大于零时,确定所述视线方向没有偏离所述终端屏幕的显示区域的人脸图像对应的 用户对所述终端屏幕中显示图像的画质精细度的敏感程度。
- 根据权利要求16或17任意一项所述的终端,其特征在于,所述终端还包括:第七获取单元,用于获取多个用户对所述终端屏幕中显示图像的画质精细度的敏感程度中的最大敏感程度值;所述选择单元,具体用于选择与所述最大敏感程度值对应的目标超分辨率算法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/CN2016/103223 WO2018076172A1 (zh) | 2016-10-25 | 2016-10-25 | 一种图像显示方法及终端 |
CN201680086444.9A CN109313797B (zh) | 2016-10-25 | 2016-10-25 | 一种图像显示方法及终端 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/CN2016/103223 WO2018076172A1 (zh) | 2016-10-25 | 2016-10-25 | 一种图像显示方法及终端 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2018076172A1 true WO2018076172A1 (zh) | 2018-05-03 |
Family
ID=62024222
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/CN2016/103223 WO2018076172A1 (zh) | 2016-10-25 | 2016-10-25 | 一种图像显示方法及终端 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN109313797B (zh) |
WO (1) | WO2018076172A1 (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111126568A (zh) * | 2019-12-09 | 2020-05-08 | Oppo广东移动通信有限公司 | 图像处理方法及装置、电子设备及计算机可读存储介质 |
CN111246116A (zh) * | 2020-03-20 | 2020-06-05 | 谌春亮 | 一种用于屏幕上智能取景显示的方法及移动终端 |
CN112188289A (zh) * | 2020-09-04 | 2021-01-05 | 青岛海尔科技有限公司 | 用于控制电视的方法及装置、设备 |
CN112732497A (zh) * | 2020-12-29 | 2021-04-30 | 深圳微步信息股份有限公司 | 一种终端设备和基于终端设备的检测方法 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112379803A (zh) * | 2020-11-12 | 2021-02-19 | 深圳市沃特沃德股份有限公司 | 屏幕亮度的调整方法、装置、计算机设备及存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102722875A (zh) * | 2012-05-29 | 2012-10-10 | 杭州电子科技大学 | 一种基于视觉注意和质量可变的图像超分辨率重建方法 |
CN103544687A (zh) * | 2012-07-11 | 2014-01-29 | 刘书 | 图像超分辨率重建高效方法 |
US20150093015A1 (en) * | 2013-09-26 | 2015-04-02 | Hong Kong Applied Science & Technology Research Institute Company Limited | Visual-Experience-Optimized Super-Resolution Frame Generator |
CN105653032A (zh) * | 2015-12-29 | 2016-06-08 | 小米科技有限责任公司 | 显示调整方法及装置 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102119530B (zh) * | 2008-08-22 | 2013-08-21 | 索尼公司 | 图像显示设备、控制方法 |
CN104021036B (zh) * | 2013-03-01 | 2018-12-14 | 联想(北京)有限公司 | 一种电子设备及电子设备状态切换方法 |
KR102305578B1 (ko) * | 2013-08-23 | 2021-09-27 | 삼성전자 주식회사 | 단말의 모드 변경 방법 및 장치 |
-
2016
- 2016-10-25 CN CN201680086444.9A patent/CN109313797B/zh active Active
- 2016-10-25 WO PCT/CN2016/103223 patent/WO2018076172A1/zh active Application Filing
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102722875A (zh) * | 2012-05-29 | 2012-10-10 | 杭州电子科技大学 | 一种基于视觉注意和质量可变的图像超分辨率重建方法 |
CN103544687A (zh) * | 2012-07-11 | 2014-01-29 | 刘书 | 图像超分辨率重建高效方法 |
US20150093015A1 (en) * | 2013-09-26 | 2015-04-02 | Hong Kong Applied Science & Technology Research Institute Company Limited | Visual-Experience-Optimized Super-Resolution Frame Generator |
CN105653032A (zh) * | 2015-12-29 | 2016-06-08 | 小米科技有限责任公司 | 显示调整方法及装置 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111126568A (zh) * | 2019-12-09 | 2020-05-08 | Oppo广东移动通信有限公司 | 图像处理方法及装置、电子设备及计算机可读存储介质 |
CN111126568B (zh) * | 2019-12-09 | 2023-08-08 | Oppo广东移动通信有限公司 | 图像处理方法及装置、电子设备及计算机可读存储介质 |
CN111246116A (zh) * | 2020-03-20 | 2020-06-05 | 谌春亮 | 一种用于屏幕上智能取景显示的方法及移动终端 |
CN112188289A (zh) * | 2020-09-04 | 2021-01-05 | 青岛海尔科技有限公司 | 用于控制电视的方法及装置、设备 |
CN112732497A (zh) * | 2020-12-29 | 2021-04-30 | 深圳微步信息股份有限公司 | 一种终端设备和基于终端设备的检测方法 |
CN112732497B (zh) * | 2020-12-29 | 2023-02-10 | 深圳微步信息股份有限公司 | 一种终端设备和基于终端设备的检测方法 |
Also Published As
Publication number | Publication date |
---|---|
CN109313797A (zh) | 2019-02-05 |
CN109313797B (zh) | 2022-04-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3454250B1 (en) | Facial image processing method and apparatus and storage medium | |
WO2018076172A1 (zh) | 一种图像显示方法及终端 | |
WO2019137038A1 (zh) | 注视点确定方法、对比度调节方法及对比度调节装置、虚拟现实设备及存储介质 | |
US10304164B2 (en) | Image processing apparatus, image processing method, and storage medium for performing lighting processing for image data | |
US11176355B2 (en) | Facial image processing method and apparatus, electronic device and computer readable storage medium | |
KR102383129B1 (ko) | 이미지에 포함된 오브젝트의 카테고리 및 인식률에 기반하여 이미지를 보정하는 방법 및 이를 구현한 전자 장치 | |
US9613404B2 (en) | Image processing method, image processing apparatus and electronic device | |
WO2021093534A1 (zh) | 主体检测方法和装置、电子设备、计算机可读存储介质 | |
CN110706283B (zh) | 用于视线追踪的标定方法、装置、移动终端及存储介质 | |
CN110858316A (zh) | 对时间序列图像数据进行分类 | |
US20210174062A1 (en) | Image processing device, image processing method, and recording medium | |
US11682183B2 (en) | Augmented reality system and anchor display method thereof | |
CN112183200B (zh) | 一种基于视频图像的眼动追踪方法和系统 | |
JP2012068948A (ja) | 顔属性推定装置およびその方法 | |
CN114390186B (zh) | 视频拍摄方法及电子设备 | |
US9536133B2 (en) | Display apparatus and control method for adjusting the eyes of a photographed user | |
US9323981B2 (en) | Face component extraction apparatus, face component extraction method and recording medium in which program for face component extraction method is stored | |
WO2024055531A1 (zh) | 照度计数值识别方法、电子设备及存储介质 | |
JP2019102941A (ja) | 画像処理装置、画像処理装置の制御方法 | |
US20220360707A1 (en) | Photographing method, photographing device, storage medium and electronic device | |
CN111353929A (zh) | 图像处理方法、装置和电子设备 | |
JP6717769B2 (ja) | 情報処理装置及びプログラム | |
US11380071B2 (en) | Augmented reality system and display method for anchoring virtual object thereof | |
CN113703161B (zh) | 扩增实境系统与其锚定显示方法 | |
KR102605451B1 (ko) | 이미지 내에 포함된 복수의 외부 객체들 각각에 대응하는 복수의 서비스들을 제공하는 전자 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 16920195 Country of ref document: EP Kind code of ref document: A1 |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 16920195 Country of ref document: EP Kind code of ref document: A1 |