CN114911551A - 显示方法及电子设备 - Google Patents

显示方法及电子设备 Download PDF

Info

Publication number
CN114911551A
CN114911551A CN202110188234.3A CN202110188234A CN114911551A CN 114911551 A CN114911551 A CN 114911551A CN 202110188234 A CN202110188234 A CN 202110188234A CN 114911551 A CN114911551 A CN 114911551A
Authority
CN
China
Prior art keywords
image
color
initial
target image
screen
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110188234.3A
Other languages
English (en)
Inventor
张文杰
张恩
束磊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Petal Cloud Technology Co Ltd
Original Assignee
Petal Cloud Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Petal Cloud Technology Co Ltd filed Critical Petal Cloud Technology Co Ltd
Priority to CN202110188234.3A priority Critical patent/CN114911551A/zh
Publication of CN114911551A publication Critical patent/CN114911551A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/451Execution arrangements for user interfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/147Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/04Context-preserving transformations, e.g. by using an importance map

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Human Computer Interaction (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本申请实施例公开了一种电子设备的壁纸显示方法。其中,在接收到用户触发显示壁纸的指令后,电子设备获得电子设备屏幕的分辨率和初始图像。在屏幕的宽高比与初始图像的宽高比不同的情况下,裁剪初始图像以得到用作壁纸的目标图像。其中,目标图像的分辨率与电子设备屏幕的分辨率相同,目标图像包含初始图像的显著图,并且显著图在目标图像中的宽高比和在初始图像中的宽高比相同。可见,采用本申请实施例获得的壁纸,不仅包含该壁纸对应的图像中显著图,且具有较好的构图美感,而且显示时不存在变形的情况。

Description

显示方法及电子设备
技术领域
本申请实施例涉及终端领域,尤其涉及一种显示方法及电子设备。
背景技术
用户为了美观以及个性化等需求,会为电子设备设置壁纸。目前,电子设备和壁纸均种类繁多,经常出现电子设备屏幕的宽高比与用户所选择壁纸的宽高比不匹配的情况。
在壁纸的宽高比与屏幕的宽高比不匹配的场景中,为了使壁纸适配电子设备的屏幕,电子设备通常采用如下几种方法对壁纸进行处理:方法一,参见图1A示意的显示界面,电子设备按照屏幕的宽高比对壁纸等比缩放,对于缩放之后的图像无法覆盖的区域,用黑色、灰色或者其他颜色填充。这样,在显示时,屏幕无法完全被图像覆盖,用户观感体验不好。方法二,参见图1B示意的显示界面,电子设备按照屏幕的宽高对壁纸拉伸缩放,使拉伸后的图像能够铺满屏幕。这样,显示的内容存在变形等现象,显示效果不佳。方法三,如图1C所示,电子设备按照屏幕的宽高比居中裁剪壁纸,将裁剪得到的部分作为显示的壁纸。而这样会破坏初始图像中的显著图,并且可能会使得壁纸的构图美感较差。
发明内容
本申请实施例提供了一种显示方法及电子设备,能够解决现有方法显示效果差的问题。
第一方面,本申请实施例提供了一种显示方法,包括:获得电子设备屏幕的分辨率和初始图像;根据所述电子设备屏幕的分辨率获取屏幕的宽高比;若所述屏幕的宽高比与所述初始图像的宽高比不同,裁剪所述初始图像以得到目标图像,其中,所述目标图像的分辨率与所述电子设备屏幕的分辨率相同,所述目标图像包含所述初始图像的显著图,所述显著图在所述目标图像中的宽高比和在所述初始图像中的宽高比相同;将所述目标图像设置为所述电子设备的壁纸。
该方法可以由电子设备执行,也可以由电子设备的部件(例如芯片、芯片系统、或处理器等)执行,该方法还可以由云服务器执行,也可以由云服务器的部件(例如芯片、芯片系统、或处理器等)执行。该方法中涉及的显著图是指一幅图像中提供较大视觉刺激的图像。该方法中涉及的构图美感是指图像的构图结构、对比度和视觉亮点等的搭配合理所带来的协调、舒适的视觉效果。以该方法由电子设备执行为例,电子设备接收到用户触发的将初始图像用作壁纸的指示之后,获得初始图像的分辨率和各像素颜色等信息。在初始图像的宽高比与电子设备屏幕的宽高比不同时,电子设备裁剪初始图像,并最终将与电子设备屏幕的分辨率相同的目标图像设置为壁纸。该目标图像包含初始图像中的显著图,构图美感较好,且显著图在目标图像中的宽高比和该显著图在初始图像中宽高比相同,可见,目标图像作为壁纸显示时不存在变形的情况。
在一种可能的设计中,还包括:若所述屏幕的宽高比与所述初始图像的宽高比相同,所述屏幕的分辨率与所述初始图像的分辨率不同,按照所述屏幕的分辨率等比缩放所述初始图像以得到所述目标图像。该方法中,若屏幕的宽高比与初始图像的宽高比相同,但屏幕的分辨率与初始图像的分辨率不同,可以通过按照屏幕的分辨率等比缩放初始图像得到目标图像。这样能够得到包含初始图像中的显著图,构图美感较好且显示时不变形的壁纸。
在一种可能的设计中,在所述获得电子设备屏幕的分辨率和初始图像之前还包括:接收用户输入的第一指示指令,所述第一指示指令用于指示用户选择的壁纸是所述初始图像,或者,指示用户选择的主题相关的图像是所述初始图像。该方法中,用户可以通过主题应用程序(application,APP)、图库APP或者照片APP等指示电子设备用作壁纸的初始图像。
在一种可能的设计中,所述裁剪所述初始图像以得到目标图像包括:根据所述屏幕的宽高比裁剪所述初始图像,以得到至少一幅第一裁剪图像,所述至少一幅第一裁剪图像中包含所述初始图像的显著图;分别获得所述至少一幅第一裁剪图像的美学评分,所述美学评分用于评价图像构图美;根据所述美学评分获取第二裁剪图像;若所述第二裁剪图像的分辨率与所述屏幕的分辨率不同,按照所述屏幕的分辨率等比缩放所述第二裁剪图像以得到所述目标图像。当得到一幅裁剪图像时,若该裁剪图像的分辨率与屏幕的分辨率不同,按照屏幕的分辨率等比缩放该裁剪图像,得到目标图像。当得到至少两幅裁剪图像时,电子设备可以获得该至少两幅裁剪图像中美学评分最大的裁剪图像,进而基于该美学评分最大的裁剪图像获得目标图像,这样能够获得构图美感最佳的目标图像。
在一种可能的设计中,所述根据所述屏幕的宽高比裁剪所述初始图像,以得到至少一幅裁剪图像包括:根据所述宽高比确定至少一个尺寸的第一裁剪区域;移动部分或全部所述第一裁剪区域的位置,获得所述至少一幅裁剪图像。该方法可以根据屏幕的宽高比确定至少一个尺寸的第一裁剪区域,进而,根据任一第一裁剪区域可以获得至少一幅图像,从而获得多幅不同宽高比的裁剪图像,增加目标图像的选择范围。
在一种可能的设计中,所述裁剪所述初始图像以得到目标图像包括:根据所述屏幕的分辨率获取第二裁剪区域;根据所述显著图的位置将所述裁剪区域的位置移动至少一次,以裁剪得到所述至少一幅第三裁剪图像,其中,所述第三裁剪图像的分辨率与初始图像的分辨率相同;根据所述美学评分从所述至少一幅第三裁剪图像中获得所述目标图像。该方法还可以根据屏幕的分辨率确定一个尺寸的第二裁剪区域,进而,结合显著图的位置通过多次移动该裁剪区域的位置,获得至少一幅裁剪图像。这样能够得到至少一幅与屏幕的分辨率相同的裁剪图像。
在一种可能的设计中,所述目标图像包括至少两幅,所述将所述目标图像设置为所述电子设备的壁纸,包括:将所述至少两幅目标图像分别设置为所述电子设备的不同分屏的壁纸。一些实现方式中,初始图像可以裁剪得到至少两幅用作壁纸的目标图像,而电子也可以包括多个分屏界面。这样,该至少两幅目标图像可以分别设置为电子设备不同分屏的壁纸,从而能够丰富用户的视觉效果,提高用户的观感体验。
在一种可能的设计中,所述根据所述初始图像获得目标图像之后,还包括:根据所述目标图像的颜色获得待显示字符的颜色。这样能够提高用户的观感体验。
在一种可能的设计中,所述根据所述目标图像的颜色获得待显示字符的颜色包括:获得所述目标图像中每个像素的颜色所占比例的数值;判断第一数值是否大于第一阈值,所述第一数值是所述目标图像中最大比例的颜色的比例值;若所述第一数值小于或者等于所述第一阈值,确定待显示字符的颜色为第一颜色或者第二颜色;若所述第一数值大于所述第一阈值,确定所述目标图像的主色,根据所述目标图像的主色确定待显示字符的颜色。该方法根据目标图像的颜色确定字符的颜色,使得字符颜色能够与目标图像的颜色相融合,从而提高用户的观感体验。字符的颜色与壁纸的颜色相融合可以是字符的颜色与壁纸的颜色属于相同色系,但是字符的颜色与壁纸的颜色的灰度或者亮度不同等。
在一种可能的设计中,所述确定所述目标图像的主色包括:判断第二数值是否大于所述第一阈值,所述第二数值是所述目标图像中次大比例的颜色的比例值;若所述第二数值大于所述第一阈值,确定所述目标图像的主色的色调是所述第一数值对应的颜色和所述第二数值对应的颜色;若所述第二数值不大于所述第一阈值,确定所述目标图像的主色的色调是所述第一数值对应的颜色。该方法根据目标图像的颜色确定字符的颜色,使得字符颜色能够与目标图像的颜色相融合,从而提高用户的观感体验。
在一种可能的设计中,根据所述目标图像的主色确定待显示字符的颜色,包括:根据所述目标图像的主色获得至少两种备选颜色;将所述至少两种备选颜色中的至少一种颜色作为所述待显示字符的颜色。该方法根据目标图像的颜色确定字符的颜色,使得字符颜色能够与目标图像的颜色相融合,从而提高用户的观感体验。
在一种可能的设计中,所述裁剪所述初始图像以得到目标图像,包括:使用预设的裁剪模型裁剪所述初始图像以得到目标图像;所述根据所述初始图像获得目标图像之前,还包括:向第一初始裁剪模型中输入参考图像和初始裁剪区域,所述初始裁剪区域的宽高比是预设宽高比;所述第一初始裁剪模型通过移动所述初始裁剪区域的位置裁剪所述参考图像;所述第一初始裁剪模型将裁剪后的图像信息输入美学评分模块及观测回报模块,通过所述美学评分模块获得美学评分,通过所述观测回报模块获取损失loss值;若所述loss值大于预设值,所述第一初始裁剪模型调整参数,获得第二初始裁剪模型,所述第二初始裁剪模型裁剪所述参考图像的操作;若所述loss值小于或者等于所述预设值,将所述第一初始裁剪模型作为所述裁剪模型。该方法涉及的FCRNet通过卷积层获得裁剪区域,在训练过程中大量尺寸的裁剪区域作为训练数据,训练成本相对较低。另外,FCRNet的训练模型将美学评分作为参数之一,使得训练得到的FCRNet模型裁剪得到的裁剪图像在包含显著图的基础上,能够具备一定的构图美感。
在一种可能的设计中,loss值满足loss=lossrslosssalossa,其中,lossr是指为回归损失函数值,表征所述至少两个目标裁剪区域与预输入的理想裁剪区域的差异,losss是指分离损失函数值,表征所述至少两个目标裁剪区域两两之间的差异,lossa是指美学损失函数值,表征所述至少两个目标裁剪区域的美学评分与预输入的理想裁剪区域的美学评分的差异,λs是指分离损失函数的权重,λa是指美学评分损失函数的权重。
第二方面,本申请实施例提供了一种电子设备,该电子设备具有实现上述方法的功能。所述功能可以通过硬件实现,也可以通过硬件执行相应的软件实现。所述硬件或软件包括一个或多个与上述功能相对应的模块。在一个可能的设计中,上述电子设备的结构中包括处理器、收发器和显示器,所述处理器被配置为处理该电子设备执行上述方法中相应的功能。所述收发器用于实现该电子设备与云服务器之间信息的收发。所述显示器用于实现壁纸等的显示。所述电子设备还可以包括存储器,所述存储器用于与处理器耦合,其保存该电子设备必要的程序指令和数据。
第三方面,本申请实施例提供了一种计算机存储介质,该计算机存储介质中存储有指令,当所述指令在计算机上运行时,使得计算机执行第一方面及第一方面各种可能的实现方式中的显示方法的部分或全部步骤。
第四方面,本申请实施例提供了一种计算机程序产品,该计算机程序产品在计算机上运行时,使得计算机执行第一方面及第一方面各种可能的实现方式中的显示方法的部分或全部步骤。
附图说明
为了更清楚地说明本申请的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1A为本申请实施例提供的现有显示界面第一种示例性界面示意图;
图1B为本申请实施例提供的现有显示界面第二种示例性界面示意图;
图1C为本申请实施例提供的居中裁剪的一种示例性界面示意图;
图1D为本申请实施例提供的显著图的一种示例性界面示意图;
图2为本申请实施例提供的电子设备100的示例性结构示意图;
图3A为本申请实施例提供的显示方法10的示例性方法流程图;
图3B为本申请实施例提供的裁剪场景的一种示例性场景示意图;
图3C为本申请实施例提供的裁剪场景的另一种示例性场景示意图;
图4A为本申请实施例提供的训练FCRNet模型的数据流向示意图;
图4B为本申请实施例提供的CriticNet的示例性数据流向示意图;
图5A为本申请实施例提供的主题主界面的示例性显示界面示意图;
图5B为本申请实施例提供的主题图像的一种示例性示意图;
图5C为本申请实施例提供的预览界面的示例性显示界面示意图;
图5D为本申请实施例提供的图5C中一个预览界面的显示界面示意图;
图5E为本申请实施例提供的应用界面的示例性显示界面示意图;
图5F为本申请实施例提供的预览界面的另一种示例性显示界面示意图;
图5G为本申请实施例提供的图5B对应的预览界面的第三种示例性显示界面示意图;
图5H为本申请实施例提供的主题图像的示例性示意图;
图5I为本申请实施例提供的图5H相关的预览界面的示例性显示界面示意图;
图5J为本申请实施例提供的主题APP中壁纸主界面的示例性显示界面示意图;
图5K为本申请实施例提供的壁纸界面的示例性显示界面示意图;
图6A为本申请实施例提供的图像处理方法20的示例性方法流程图;
图6B为本申请实施例提供的图像21的示例性示意图;
图6C为本申请实施例提供的基于图像21的示例性裁剪场景的示例性界面示意图;
图6D为本申请实施例提供的字符颜色配置方法30的示例性方法流程图;
图6E为本申请实施例提供的显示方法40的示例性方法流程图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例的技术方案进行描述。
本申请以下实施例中所使用的术语是为了描述示例性实施例,不构成对本申请技术方案的限制。如在本申请的说明书和所附权利要求书中所使用的那样,单数表达形式“一个”、“一种”、“所述”、“上述”、“该”和“这一”旨在也包括复数表达形式。还应当理解,尽管在以下实施例中可能采用术语第一、第二等来描述某一类对象,但所述对象不应限于这些术语。这些术语仅用来将该类对象的具体对象进行区分。例如,以下实施例中可能采用术语第一、第二等来描述阈值,但阈值不应限于这些术语。以下实施例中可能采用术语第一、第二等来描述的其他类对象同理,此处不再赘述。
本申请实施例提供了一种显示方法,若初始图像的宽高比与电子设备屏幕的宽高比不同,基于电子设备屏幕的分辨率采用预先训练的裁剪模型裁剪初始图像,以得到包含初始图像中的显著图,构图美感较好,且分辨率与电子设备屏幕的分辨率相同的部分图像,进而,将相应裁剪后的图像作为壁纸并显示,其中,前述显著图在壁纸中的宽高比和该显著图在初始图像中宽高比相同,从而提升用户的观感体验。
本申请实施例涉及的“宽高比”是指水平方向的长度与竖直方向的长度的比。本申请实施例涉及的“分辨率”又称解析度或者解像度,可以表达为水平像素(pixel,p)*垂直p。例如分辨率128p*160p是指,水平方向包含128个像素,垂直方向包含160个像素。根据分辨率能够得到宽高比。
本申请实施例涉及的“显著图”是指一幅图像中提供较大视觉刺激的图像。显著图中每个像素的灰阶相对于该幅图像的其他区域可以较高,使得显著图在该幅图像中的显著性较高,从而能够提供较大的视觉刺激。例如图1C中的人像11即为图1C中的显著图。再如,图1D中的星球12即为图1D中的显著图。其他一些实施方式中,图像中显著图的内容还可以是动物(例如狗、猫、天鹅等),植物(例如一棵树、一朵花、一片花海等)、风景(例如云朵、湖面、浪花等),建筑(例如桥、宫殿等),物品(例如咖啡杯、书签等)等等,本申请实施例不做限制。
本申请实施例涉及的“构图美感”是指图像的构图结构符合中心对称、三分法或者黄金比例等之一,且图像的对比度和视觉亮点等的颜色搭配合理所带来的协调、舒适的视觉效果。以图1C为例,图1C示意的初始图像中,人像(显著图)11所占的面积与图像中的其他部分面积例如符合三分法,使得画面布局较为均衡,能够给用户协调和舒适的视觉效果,具备构图美感。
以下介绍电子设备、用于这样的电子设备的用户界面(user interface,UI)、以及用于使用这样的电子设备的实施例。
本申请实施例涉及的电子设备可以是包含显示功能的电子设备,诸如手机、平板电脑、车载设备、增强现实(augmented reality,AR)、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本、个人数字助理(personal digitalassistant,PDA)、智能家居设备(例如,智能电视等)等电子设备。可以理解的是,本申请实施例对电子设备的具体类型不作任何限制。电子设备可以是搭载
Figure BDA0002938867960000051
Figure BDA0002938867960000052
或者其它操作系统的设备。
图2示出了一种电子设备100的硬件结构示意图。电子设备100可以包括处理器110,内部存储器120,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriberidentification module,SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
可以理解的是,本申请实施例示意的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,存储器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。在一些实施例中,电子设备100也可以包括一个或多个处理器110。
其中,控制器可以是电子设备100的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成检测指令等的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了电子设备100的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
I2C接口是一种双向同步串行总线,包括一根串行数据线(serial data line,SDA)和一根串行时钟线(derail clock line,SCL)。在一些实施例中,处理器110可以包含多组I2C总线。处理器110可以通过不同的I2C总线接口分别耦合触摸传感器180K,充电器,闪光灯,摄像头193等。例如:处理器110可以通过I2C接口耦合触摸传感器180K,使处理器110与触摸传感器180K通过I2C总线接口通信,实现电子设备100的触摸功能。
I2S接口可以用于音频通信。在一些实施例中,处理器110可以包含多组I2S总线。处理器110可以通过I2S总线与音频模块170耦合,实现处理器110与音频模块170之间的通信。在一些实施例中,音频模块170可以通过I2S接口向无线通信模块160传递音频信号,实现通过蓝牙耳机听声音的功能。
PCM接口也可以用于音频通信,将模拟信号抽样,量化和编码。在一些实施例中,音频模块170与无线通信模块160可以通过PCM总线接口耦合。在一些实施例中,音频模块170也可以通过PCM接口向无线通信模块160传递音频信号,实现通过蓝牙耳机听声音的功能。所述I2S接口和所述PCM接口都可以用于音频通信。
UART接口是一种通用串行数据总线,用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。在一些实施例中,UART接口通常被用于连接处理器110与无线通信模块160。例如:处理器110通过UART接口与无线通信模块160中的蓝牙模块通信,实现蓝牙功能。在一些实施例中,音频模块170可以通过UART接口向无线通信模块160传递音频信号,实现通过蓝牙耳机播放音乐的功能。
MIPI接口可以被用于连接处理器110与显示屏194,摄像头193等外围器件。MIPI接口包括摄像头串行接口(camera serial interface,CSI),显示屏串行接口(displayserial interface,DSI)等。在一些实施例中,处理器110和摄像头193通过CSI接口通信,实现电子设备100的拍摄功能。处理器110和显示屏194通过DSI接口通信,实现电子设备100的显示功能。
GPIO接口可以通过软件配置。GPIO接口可以被配置为控制信号,也可被配置为数据信号。在一些实施例中,GPIO接口可以用于连接处理器110与摄像头193,显示屏194,无线通信模块160,音频模块170,传感器模块180等。GPIO接口还可以被配置为I2C接口,I2S接口,UART接口,MIPI接口等。
USB接口130是符合USB标准规范的接口,具体可以是Mini USB接口,Micro USB接口,USB Type C接口等。USB接口130可以用于连接充电器为电子设备100充电,也可以用于电子设备100与外围设备之间传输数据。也可以用于连接耳机,通过耳机播放音频。该接口还可以用于连接其他电子设备。
可以理解的是,本申请实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对电子设备100的结构限定。在另一些实施例中,电子设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块140可以通过USB接口130接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块140可以通过电子设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为电子设备100供电。
电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器120,外部存储器,显示屏194,摄像头193,和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量,电池循环次数,电池健康状态(漏电,阻抗)等参数。在其他一些实施例中,电源管理模块141也可以设置于处理器110中。在另一些实施例中,电源管理模块141和充电管理模块140也可以设置于同一个器件中。
电子设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信模块150可以提供应用在电子设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170A,受话器170B等)输出声音信号,或通过显示屏194显示APP的操作界面。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器110,与移动通信模块150或其他功能模块设置在同一个器件中。
无线通信模块160可以提供应用在电子设备100上的包括无线局域网(wirelesslocal area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
在一些实施例中,电子设备100的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得电子设备100可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(global system for mobile communications,GSM),通用分组无线服务(general packet radio service,GPRS),码分多址接入(code division multiple access,CDMA),宽带码分多址(wideband code divisionmultiple access,WCDMA),时分码分多址(time-division code division multipleaccess,TD-SCDMA),长期演进(long term evolution,LTE),BT,GNSS,WLAN,NFC,FM,和/或IR技术等。所述GNSS可以包括全球卫星定位系统(global positioning system,GPS),全球导航卫星系统(global navigation satellite system,GLONASS),北斗卫星导航系统(beidou navigation satellite system,BDS),准天顶卫星系统(quasi-zenithsatellite system,QZSS)和/或星基增强系统(satellite based augmentation systems,SBAS)。
在一些实施例中,无线通信模块160提供的WLAN无线通信的解决方案也可使得电子设备100可以与网络中的设备(如云服务器)通信,以使电子设备100接收来自于云服务器的目标图像,实现与目标图像相关的显示功能。
电子设备100通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以获得电子设备100的以目标图像为壁纸的界面显示效果。在本申请实施例中,显示屏194中可包括显示器和触控器件。显示器用于向用户输出显示内容,例如以目标图像为壁纸的显示显示界面,以及APP的各类操作界面等。触控器件用于接收用户在显示屏194上输入的操作指令(如图5A和图5B所示)。
显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystaldisplay,LCD),有机发光二极管(organic light-emitting diode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrix organic light emitting diode的,AMOLED),柔性发光二极管(flex light-emitting diode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dot light emitting diodes,QLED)等。
在本申请的一些实施例中,当显示面板采用OLED、AMOLED、FLED等材料时,显示屏194可以被弯折。这里,显示屏194可以被弯折是指显示屏可以在任意部位被弯折到任意角度,并可以在该角度保持,例如,显示屏194可以从中部左右对折。也可以从中部上下对折。
本申请实施例涉及的UI通过显示屏194呈现。UI是应用程序或操作系统与用户之间进行交互和信息交换的介质接口,它实现信息的内部形式与用户可以接受形式之间的转换。应用程序的用户界面是通过java、可扩展标记语言(extensible markup language,XML)等特定计算机语言编写的源代码,界面源代码在终端设备上经过解析,渲染,最终呈现为用户可以识别的内容,比如视频、图片、文字、按钮等控件。控件(control)也称为部件(widget),是用户界面的基本元素,典型的控件有工具栏(toolbar)、菜单栏(menu bar)、文本框(text box)、按钮(button)、滚动条(scrollbar)、图片和文本。界面中的控件的属性和内容是通过标签或者节点来定义的,比如XML通过<Textview>、<ImgView>、<VideoView>等节点来规定界面所包含的控件。一个节点对应界面中一个控件或属性,节点经过解析和渲染之后呈现为用户可视的内容。此外,很多应用程序,比如混合应用(hybrid application)的界面中通常还包含有网页。网页,也称为页面,可以理解为内嵌在应用程序界面中的一个特殊的控件,网页是通过特定计算机语言编写的源代码,例如超文本标记语言(hyper textmarkup language,HTML),层叠样式表(cascading style sheets,CSS),java脚本(JavaScript,JS)等,网页源代码可以由浏览器或与浏览器功能类似的网页显示组件加载和显示为用户可识别的内容。网页所包含的具体内容也是通过网页源代码中的标签或者节点来定义的,比如HTML通过<p>、<img>、<video>、<canvas>来定义网页的元素和属性。
用户界面常用的表现形式是图形用户界面(graphic user interface,GUI),是指采用图形方式显示的与计算机操作相关的用户界面。它可以是在电子设备的显示屏中显示的一个图标、窗口、控件等界面元素,其中控件可以包括图标、按钮、菜单、选项卡、文本框、对话框、状态栏、导航栏、Widget等可视的界面元素。
电子设备100可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现拍摄功能。
ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度,肤色进行算法优化。ISP还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像头193中。
摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。
数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)-1,MPEG-2,MPEG-3,MPEG-4等。
NPU为神经网络(neural-network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现电子设备100的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
内部存储器120可以用于存储一个或多个计算机程序,该一个或多个计算机程序包括指令。处理器110可以通过运行存储在内部存储器120的上述指令,使得电子设备100执行本申请一些实施例中所提供的显示方法,以及各种功能应用以及数据处理等。内部存储器120可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统;该存储程序区还可以存储一个或多个应用程序(比如邮箱、图库、联系人等)等。存储数据区可存储电子设备100执行本申请实施例所述的显示方法过程中所使用的数据(比如初始图像、显示屏194的分辨率、裁剪模型等)。此外,内部存储器120可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universalflash storage,UFS)等。
电子设备100可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音等。
音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中,音频模块170可以设置于处理器110中,或将音频模块170的部分功能模块设置于处理器110中。
扬声器170A,也称“喇叭”,用于将音频电信号转换为声音信号。电子设备100可以通过扬声器170A收听音乐,或收听免提通话。
受话器170B,也称“听筒”,用于将音频电信号转换成声音信号。当电子设备100接听电话或语音信息时,可以通过将受话器170B靠近人耳接听语音。
麦克风170C,也称“话筒”,“传声器”,用于将声音信号转换为电信号。当拨打电话或发送语音信息时,用户可以通过人嘴靠近麦克风170C发声,将声音信号输入到麦克风170C。电子设备100可以设置至少一个麦克风170C。在另一些实施例中,电子设备100可以设置两个麦克风170C,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,电子设备100还可以设置三个,四个或更多麦克风170C,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。
耳机接口170D用于连接有线耳机。耳机接口170D可以是USB接口130,也可以是3.5mm的开放移动电子设备平台(open mobile terminal platform,OMTP)标准接口,美国蜂窝电信工业协会(cellular telecommunications industry association of the USA,CTIA)标准接口。
压力传感器180A用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器180A可以设置于显示屏194。压力传感器180A的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180A,电极之间的电容改变。电子设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194,电子设备100根据压力传感器180A检测所述触摸操作强度。电子设备100也可以根据压力传感器180A的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。
陀螺仪传感器180B可以用于确定电子设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B确定电子设备100围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器180B检测电子设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消电子设备100的抖动,实现防抖。陀螺仪传感器180B还可以用于导航,体感游戏场景。
气压传感器180C用于测量气压。在一些实施例中,电子设备100通过气压传感器180C测得的气压值计算海拔高度,辅助定位和导航。
磁传感器180D包括霍尔传感器。电子设备100可以利用磁传感器180D检测电子设备100显示屏194的朝向。在一些实施例中,当电子设备100是柔性屏设备时,电子设备100可以根据磁传感器180D检测屏幕的折叠和展开状态。
加速度传感器180E可检测电子设备100在各个方向上(一般为三轴)加速度的大小。当电子设备100静止时可检测出重力的大小及方向。还可以用于识别电子设备100的姿态,应用于横竖屏切换,计步器等应用。
距离传感器180F,用于测量距离。电子设备100可以通过红外或激光测量距离。在一些实施例中,拍摄场景,电子设备100可以利用距离传感器180F测距以实现快速对焦。
接近光传感器180G可以包括例如发光二极管(LED)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。电子设备100通过发光二极管向外发射红外光。电子设备100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时,可以确定电子设备100附近有物体。当检测到不充分的反射光时,电子设备100可以确定电子设备100附近没有物体。电子设备100可以利用接近光传感器180G检测用户手持电子设备100贴近耳朵通话,以便自动熄灭屏幕达到省电的目的。接近光传感器180G也可用于皮套模式,口袋模式自动解锁与锁屏。
环境光传感器180L用于感知环境光亮度。电子设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合,检测电子设备100是否在口袋里,以防误触。
指纹传感器180H用于采集指纹。电子设备100可以利用采集的指纹特性实现指纹解锁,访问应用锁,指纹拍照,指纹接听来电等。
温度传感器180J用于检测温度。在一些实施例中,电子设备100利用温度传感器180J检测的温度,执行温度处理策略。
触摸传感器180K,也可称触控面板或触敏表面。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于电子设备100的表面,与显示屏194所处的位置不同。
骨传导传感器180M可以获取振动信号。在一些实施例中,骨传导传感器180M可以获取人体声部振动骨块的振动信号。骨传导传感器180M也可以接触人体脉搏,接收血压跳动信号。在一些实施例中,骨传导传感器180M也可以设置于耳机中,结合成骨传导耳机。音频模块170可以基于所述骨传导传感器180M获取的声部振动骨块的振动信号,解析出语音信号,实现语音功能。应用处理器可以基于所述骨传导传感器180M获取的血压跳动信号解析心率信息,实现心率检测功能。
按键190包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。电子设备100可以接收按键输入,产生与电子设备100的用户设置以及功能控制有关的键信号输入。
马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。例如,作用于不同应用(例如拍照,音频播放等)的触摸操作,可以对应不同的振动反馈效果。作用于显示屏194不同区域的触摸操作,马达191也可对应不同的振动反馈效果。不同的应用场景(例如:时间提醒,接收信息,闹钟,游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。
指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
SIM卡接口195用于连接SIM卡。SIM卡可以通过插入SIM卡接口195,或从SIM卡接口195拔出,实现和电子设备100的接触和分离。电子设备100可以支持1个或N个SIM卡接口,N为大于1的正整数。SIM卡接口195可以支持Nano SIM卡,Micro SIM卡,SIM卡等。同一个SIM卡接口195可以同时插入多张卡。所述多张卡的类型可以相同,也可以不同。SIM卡接口195也可以兼容不同类型的SIM卡。SIM卡接口195也可以兼容外部存储卡。电子设备100通过SIM卡和网络交互,实现通话以及数据通信等功能。在一些实施例中,电子设备100采用eSIM,即:嵌入式SIM卡。eSIM卡可以嵌在电子设备100中,不能和电子设备100分离。
另一些实施例中,本申请实施例还可以包括云服务器,云服务器也称为云主机,是大量服务器实体虚拟得到的超级计算机。云服务器中可以存储大量数据和程序,以及执行相应程序需要调用的资源。一些实施例中,云服务器存储的数据可以包括本申请实施例涉及的裁剪模型和美学评价模型等。云服务器可以调用所存储的程序执行初始图像裁剪、字符颜色修改等操作。其中,该云服务器所承载的程序可以是通过特定计算机程序语言编写的源代码,例如超文本标记语言(hyper text markup language,HTML),超文本预处理器(hypertext preprocessor,PHP),java脚本(JavaScript,JS)等。此外,该云服务器还包括通信模块,该通信模块用于与电子设备100进行数据传输,例如实现该云服务器接收来自于电子设备100的屏幕分辨率的功能,再如实现该云服务器想电子设备100发送壁纸的功能。其中,云服务器可以将上述数据和程序分布式存储在上述大量服务器实体中,并且,云服务器可以调用上述大量服务器实体中任意服务器实体的资源执行程序。该云服务器可以通过应用程序编程接口(application programming interface,API)对上述大量服务器实体的资源进行调配和调用。
本申请实施例提供了一种显示方法。如图3A所示,本申请实施例提供的显示方法10(以下简称方法10)包括:获得电子设备屏幕的分辨率和初始图像的分辨率(S101)。判断电子设备屏幕的分辨率与初始图像的分辨率是否相同(S102)。若电子设备屏幕的分辨率与初始图像的分辨率相同,将初始图像作为目标图像,以及将目标图像作为壁纸显示(S103)。若电子设备屏幕的分辨率与初始图像的分辨率不相同,判断电子设备屏幕的宽高比与初始图像的宽高比是否相同(S104)。电子设备屏幕的宽高比可以根据电子设备屏幕的分辨率得到,初始图像的宽高比可以根据初始图像的分辨率得到。若电子设备屏幕的宽高比与初始图像的宽高比相同,对初始图像按照电子设备屏幕的分辨率等比缩放(S105),将缩放之后的图像作为目标图像,以及执行步骤S103。若电子设备屏幕的宽高比与初始图像的宽高比不相同,使用裁剪模型裁剪初始图像得到至少一幅裁剪图像,以及使用美学评价模型获得美学评分值最大的裁剪图像(S106)。对美学评分值最大的裁剪图像按照电子设备屏幕的分辨率等比缩放(S105),将缩放之后的图像作为目标图像,以及执行步骤S103。
其中,该目标图像中包含初始图像中的显著图,且显著图在目标图像中的宽高比和在初始图像中的宽高比相同。可见,目标图像作为壁纸显示时不存在内容变形的情况,用户观感较好。
前述至少一幅裁剪图像可以均包含初始图像的显著图,该至少一幅裁剪图像的美学评分均大于预设阈值,且该至少两幅裁剪图像的宽高比均与电子设备屏幕的宽高比相同。
美学评分用于表征图像构图美感的优劣,美学评分的值越大,表征图像的构图美感越好,美学评分的值越小,表征图像的构图美感越差。美学评分大于预设阈值指示目标图像的构图结构符合中心对称、三分法或者黄金比例,表征目标图像具备一定的构图美感。
一些实施方式中,电子设备可以确定至少一个尺寸的裁剪区域,该至少一个尺寸的裁剪区域的宽高比均与电子设备屏幕的宽高比相同。电子设备对应该至少一个尺寸的裁剪区域分别获得至少一幅裁剪图像。如图3B所示,本示例中例如包括裁剪区域31、裁剪区域32和裁剪区域33,裁剪区域31例如对应裁剪图像310,裁剪区域32例如对应裁剪图像320,裁剪区域33例如对应裁剪图像330。
另一些实施方式中,电子设备可以确定一个裁剪区域,该裁剪区域的分辨率与屏幕的分辨率相同。进而,电子设备可以根据显著图的位置通过多次移动该裁剪区域的位置,获得至少一幅裁剪图像。其中,裁剪区域移动的次数、每次移动的方向及移动的距离可以预先配置,裁剪区域每次移动的方向和移动的距离与另一次移动的方向和移动的距离不相同。例如,如图3C所示,裁剪区域34的分辨率与电子设备屏幕的分辨率相同,向左上移动裁剪区域34得到裁剪图像341,向右上移动裁剪区域34得到裁剪图像342。
一种可选的实现方式中,前述裁剪模型例如是全卷积回归网络(fullyconvolutional regression network,FCRNet)模型,美学评价模型例如是美学评分网络(critic network,CriticNet)模型。关于裁剪模型和美学评价模型的描述,详见下文。
可选的,目标图像所包含的显著图可以是初始图像中显著图的完整图,也可以是初始图像中显著图的部分图。例如,初始图像中显著图是人像,目标图像可以包含完整的人像,也可以包含人像的上半身图像。
另一些实施方式中,在获得目标图像之后,还可以根据目标图像的颜色确定电子设备显示时字符的颜色,以使字符的颜色与目标图像的颜色相融合,从而提高用户的观感体验。字符的颜色与壁纸的颜色相融合是指字符的颜色与壁纸的颜色属于相同色系,但是字符的颜色与壁纸的颜色的灰度或者亮度不同等。
实际实现时,一些实施方式中,裁剪模型和美学评价模型设置在电子设备中,那么由电子设备执行方法10。本实施方式中,在获得目标图像之后,电子设备可以根据目标图像的颜色确定字符的颜色,并且电子设备可以将该目标图像作为壁纸显示。另一些实施方式中,裁剪模型和美学评价模型设置在云服务器中,那么由云服务器执行方法10。本实施方式中,在执行方法10之前,云服务器可以从电子设备获得电子设备屏幕的分辨率和初始图像信息。在获得目标图像之后,云服务器可以根据目标图像的颜色确定字符的颜色,并且将该目标图像和字符颜色指示给电子设备。一种可选的设计中,云服务器未维护初始图像,初始图像信息指示初始图像的分辨率和像素等信息。另一种可选的设计中,云服务器维护初始图像,初始图像信息指示该初始图像的标识或者索引信息。
采用本申请实施例的技术方案,在初始图像的宽高比与电子设备屏幕的宽高比不同时,能够根据屏幕的宽高比裁剪初始图像,以得到包括初始图像中的显著图,且具备一定构图美感的裁剪图像作为电子设备的壁纸显示。在显示时,壁纸完全覆盖电子设备的屏幕,且显著图在相应裁剪图像中的宽高比与该显著图在初始图像中的宽高比相同,从而能够提升用户的观感体验。
为了便于理解,本申请以下实施例将以具有图2所示结构的手机为例,结合附图对本申请实施例提供的显示方法进行具体阐述。
结合上述实施例的描述,本申请实施例可以将实际实施过程划分为:训练算法模型阶段和基于算法模型执行显示的阶段,以下结合该两个阶段对显示方法的实施方式进行介绍。
训练裁剪模型的一种可能的实现方式:
本申请实施例涉及的算法模型包括裁剪模型和美学评价模型,其中,裁剪模型需要预先训练。
以下以裁剪模型实现为FCRNet模型为例,对裁剪模型的训练过程进行介绍。
图4A示意了FCRNet的训练模型的数据流向示意图。如图4A所示,FCRNet模型训练框架包括初始化模块41、智能体(Agent)42、美学评分模块43和观测回报模块44几部分。其中,初始化模块41也称为环境(environment,Envs)。本实施例中,Agent41包括FCRNet,美学评分模块43也可以称为“构图评分模块”,用于量化图像的构图美感。美学评分模块43可以包括至少一个美学评分网络(CriticNet)该至少一个CriticNet分别是基于不同的公开美学数据集训练得到,例如AVA、GAIC和CPC等美学数据集。该FCRNet模型训练框架用于不断优化FCRNet的相关参数,以使FCRNet裁剪得到的图像不仅能够的包含初始图像中的显著图,并且能够确保裁剪得到的图像具备一定的构图美感。
可以理解的是,图4A仅是示意性描述,不构成对本申请实施例的限制。其他一些实施例中,美学评分模块43也可以包含在智能体42之内。
其中,Envs41接收图像之后,在图像中随机确定一个初始裁剪区域,进而,将图像和初始裁剪区域输入到FCRNet。FCRNet可以对图像进行处理,得到N个目标裁剪区域,N是正整数。然后,将该N个目标裁剪区域的信息分别输入美学评分模块43和观测回报模块44。该N个目标裁剪区域各不相同。示例性的,FCRNet可以包括若干个卷积层,该若干个卷积层以初始裁剪区域为参考,在图像上获得新的裁剪区域,以得到一个目标裁剪区域。美学评分模块43获得该N个目标裁剪区域的美学评分之后,将该N个目标裁剪区域的美学评分输入观测回报模块44。观测回报模块44获得该N个目标裁剪区域的损失函数(loss)值,并将该loss值输入FCRNet,以使FCRNet根据loss值和Envs观察的特征调整参数。在调整参数之后,FCRNet获得新一组目标裁剪区域,进而,再次进入上述处理流程。这样不断迭代优化FCRNet的参数,以最终获得性能较好的FCRNet模型。
一种可选的实施方式中,当loss值小于或者等于预设值时,认为FCRNet模型的性能达到可用状态,那么,可以停止迭代。该预设值可以根据需求灵活设置,可选的,该预设值例如是0.003。
以下以一个迭代过程为例,对FCRNet模型的训练过程进行介绍。
在第一个迭代过程中,Envs41接收图像40,基于图像40确定初始裁剪区域,之后,将图像40和初始裁剪区域的锚点(初始裁剪区域的左上角坐标和右下角坐标即为初始裁剪区域的锚点)传输到FCRNet。以下将初始裁剪区域的锚点称为参考锚点。
其中,Envs41确定的初始裁剪区域可以是指定宽高比。指定宽高比可以是常用的手机的屏幕宽高比中的一个。
FCRNet执行卷积回归操作(Action)可以得到N个目标裁剪区域的锚点421,该N个目标裁剪区域的锚点421在图像40中可以分别获得N个目标裁剪区域422。示例性的,FCRNet在Action过程中可以按照预设的规则移动参考锚点,从而得到N个目标裁剪区域的锚点421。N例如是3。该3个目标裁剪区域可以是FCRNet分别在图像40内向上移动参考锚点、向左下移动参考锚点、以及向右上移动参考锚点得到的裁剪区域。FCRNet移动锚点的距离可以预设。本实施例中,在获得N个目标裁剪区域422之后,FCRNet可以获得该N个目标裁剪区域中每个裁剪区域的状态(state,S)值,该状态值可以实现为裁剪区域是期望区域的置信度。进一步的,FCRNet将该N个目标裁剪区域422的图像信息分别输入美学评分模块43和Envs41,以及将该N个目标裁剪区域的状态值输入观测回报模块44。
美学评分模块43用于分别计算该N个目标裁剪区域422的美学评分,进而,将该N个目标裁剪区域422的美学评分输入观测回报模块44。示例性的,若美学评分模块43包含一个CriticNet,每个目标裁剪区域的美学评分是该CriticNet计算到的分数。若美学评分模块包含至少两个CriticNet,每个目标裁剪区域的美学评分即该至少两个CriticNet计算到的分数的平均值。CriticNet计算美学评分的实施例,详见下文描述。
观测回报模块44例如采用算法loss=lossrslosssalossa计算得到loss值,之后,将loss值输入FCRNet,以使FCRNet基于loss值调整参数,进而,输出新一组N个目标裁剪区域,触发下一个迭代过程。如此迭代,不断优化FCRNet的参数,直到获得性能较好的FCRNet模型。
其中,lossr是指为回归损失函数值,指示该N个目标裁剪区域与理想裁剪区域的差异,理想裁剪区域是相关技术人员输入的。lossr的值越大,表征目标裁剪区域与理想裁剪区域的差异越大。losss是指分离损失函数值,表征该N个目标裁剪区域两两之间的差异,losss的值越大,表征裁剪效果越好。lossa是指美学损失函数值,表征该N个目标裁剪区域的美学评分与理想裁剪区域的美学评分的差异,lossa的值越大,说明该N个目标裁剪区域的构图美感与理想裁剪区域的构图美感差异越大。λs是指分离损失函数的权重,λa是指美学评分损失函数的权重。
其中,lossr可以满足:
Figure BDA0002938867960000161
其中,α是指用于作为一个裁剪区域的锚点的两个坐标(例如左上角的坐标和右下角的坐标)。Cα是指理想裁剪区域的锚点。
Figure BDA0002938867960000162
是指该N个目标裁剪区域中第i个目标裁剪区域的锚点。i是小于或者等于N的正整数。该N个目标裁剪区域中任一目标裁剪区域的锚点
Figure BDA0002938867960000163
可以根据以下算法得到:
Figure BDA0002938867960000164
Figure BDA0002938867960000165
其中,C(a)是指参考描点,Pα(a)是指
Figure BDA0002938867960000166
相关的目标裁剪区域的状态值,同样也是
Figure BDA0002938867960000167
相关的目标裁剪区域的锚点的权重。Oα(a)是指
Figure BDA0002938867960000168
相对于C(a)的移动偏移量。sml1(x)是指度量差异化函数,sml1(x)满足:
Figure BDA0002938867960000169
losss可以满足:
Figure BDA00029388679600001610
其中,dij满足:dij=IoUij-T。其中,IoUij是指该N个目标裁剪区域中第i个目标裁剪区域与第j个目标裁剪区域的交并比,IoUij的值越大,表征第i个目标裁剪区域与第j个目标裁剪区域差异越小,IoUij的值越小,表征第i个目标裁剪区域与第j个目标裁剪区域差异越大。T是指预设的差异阈值。
lossa可以满足:
Figure BDA00029388679600001611
其中,
Figure BDA00029388679600001612
是指该N个目标裁剪区域中第i个目标裁剪区域的美学评分,
Figure BDA00029388679600001613
相关的算法模型详见下文描述。f(I)是指图像40的美学评分。lrank是指美学评分差异化度量函数,可以表达为:lrank(x,y)=max{0,θ+y-x},θ是指预设常数。
Envs41接收到N个目标裁剪区域422之后,可以触发FCRNet进入下一轮迭代运算。
图4B示意了美学评分模块中任一CriticNet的数据流向图,该CriticNet可以基于前述任一公开美学数据集训练得到。该CriticNet例如包括改良的MobileNet v2(modifield MobileNetv2)模块、联结(concat)模块、感兴趣区域校准(ROLAlighn)模块和全连接层。modifield MobileNetv2对输入的图像41顺次执行第一次卷积运算(convs)、第一次归一化运算(N-L)、第二次convs和第二次N-L。进而,该CriticNet对第二次N-L之后的数据执行下采样和第三次convs,并将下采样得到的数据输入concat模块。进而,该CriticNet对第三次convs得到的数据执行上采样和第四次convs,并将上采样得到的数据和第四次convs得到的数据输入concat模块。concat模块将输入的数据联结形成一个数据序列,该数据序列表征与图像41关联的完整图像F。之后,ROLAlighn模块对该数据序列执行感兴趣区域提取,得到图像F的感兴趣区域的数据。进而,全连接层对感兴趣区域的数据进行运算,得到图像41的美学分数score。
若图4A中的美学评分模块包含一个CriticNet,该CriticNet对第i个目标裁剪区域进行运算得到的score即为上述
Figure BDA0002938867960000171
若图4A中的美学评分模块包含至少两个CriticNet,该至少两个CriticNet对第i个目标裁剪区域运算分别得到一个score,上述
Figure BDA0002938867960000172
即为CriticNet得到的全部score的平均值。
可以理解的是,图4A示意的训练模型、图4B示意的CriticNet以及上述各算法公式,仅是示意性描述,不构成对本申请实施例的限制。其他一些实施例中,FCRNet的训练模型以及相关的算法可以是其他,此处不限制。
可见,本申请实施例涉及的FCRNet通过卷积层获得裁剪区域,在训练过程中大量尺寸的裁剪区域作为训练数据,训练成本相对较低。另外,FCRNet的训练模型将美学评分作为参数之一,使得训练得到的FCRNet模型裁剪得到的裁剪图像在包含显著图的基础上,能够具备一定的构图美感。
响应用户操作进行显示的可能的实现方式:
以下以具有图2所示结构的手机为例,结合附图对本申请实施例提供的显示方法进行阐述。
示例性的,该手机例如安装主题APP、图库APP或者照片APP等支持壁纸设置功能的APP。以下以主题APP为例,对本申请实施例涉及的示例性显示界面进行描述。
在将目标图像相关的图像作为壁纸显示之前,手机例如接收用户点击输入的操作指令运行主题APP。如图5A所示,图5A示意的GUI51是主题主界面的示例性显示界面。GUI51包括第一导航栏511、复合窗口512、第二导航栏513以及主题显示区域514等界面元素。其中,第一导航栏511包括精选选项、主题选项5111、壁纸选项5112和动态壁纸等选项。本实施例中,主题选项5111例如处于选中状态,精选选项、壁纸选项5112和动态壁纸选项处于未选中状态。复合窗口512内可以动态显示至少两幅图像,该至少两幅图像可以以一定的时间间隔在复合窗口512中显示,示例性的,一幅图像显示1秒(s)之后,自动切换为另一幅图像。第二导航栏513包括主题APP的一些功能入口,例如包括排行、新品速递等功能的入口。主题显示区域514例如包括至少一个主题的图样和该至少一个主题对应的名称。图样是指图片样板。该至少一个主题的图样例如可以排列显示。该至少一个主题的图样对应相应主题中的一幅图像。以图样5140为例,在接收到用户点击图样5140的操作指令之后,手机显示图样5140相关主题的信息界面。
一些实施方式中,图样5140相关的主题图像如图5B所示的图像52,其中,图像52的显著图是图520。
一些实施方式中,手机接收到用户点击图样5140的操作指令之后,对图像52执行方法10以及生成将图像52的裁剪图像用作手机各界面壁纸的预览图。相应的,图5A示意的GUI51更新为图5C示意的GUI。
如图5C所示,图5C示意的GUI是预览界面的一种示例性显示界面。GUI包括图像521和图像522,图像52的信息523,功能按钮524等。本示例中,图像521和图像522分别是手机不同显示界面的预览图,例如,图像521是手机锁屏界面的预览图,图像522是手机主界面的预览图。如图5C所示的预览图,用作壁纸的图像包括图像52的显著图图520,且图520居中显示,使得壁纸具备一定的构图美感。进一步的,以图像522为例,在接收到用户点击图像522的操作指令之后,手机可以放大显示图像522对应的预览界面,相应的,图5C示意的GUI更新为图5D示意的GUI。图像52的信息523包括图像52的名称、图像52占用内存的大小、评分、主题内容的风格等信息。一种可能的实现方式中,功能按钮524例如可以是应用按钮。接收到用户点击应用按钮524的操作指令,手机将图像52作为手机各界面的壁纸显示。另一种可能的实现方式中,功能按钮524还可以是下载按钮。接收到用户点击下载按钮的操作指令,手机可以从服务器将图像52下载到手机。
另一些实施方式中,手机接收到用户点击图样5140的操作指令之后,图5A示意的GUI51更新为图5E示意的GUI。图5E示意的GUI是图像52的应用示例界面图。GUI包括图像531和图像532,图像52的信息,功能按钮等。其中,图像52的信息和功能按钮详见图5C示意的实施例所述,此处不详述。需要指出的是,图像531和图像532是将图像52用作壁纸的图例,并不表征将图像52用作本手机壁纸的预览效果。示例性的,图像531和图像532示意的壁纸中,图520位于手机屏幕的右侧的位置,并不具备构图美感。本示例中,当接收到用户点击图像532的操作指令之后,手机对图像52执行方法10以及生成将图像52的裁剪图像用作手机壁纸的预览图。相应的,图5E示意的GUI更新为图5F示意的GUI。
参见图5F示意的GUI中的壁纸,该壁纸包括图像52的显著图520,且图520居中显示,具备一定的构图美感。
需要指出的是,手机可以包括多个分屏界面,而对应图5B示意的图像52,例如可以裁剪得到一幅用作壁纸的图像。基于此,本示例中,手机的每个分屏界面的壁纸相同,均是裁剪得到的图像。例如,将图5F例如作为手机第一分屏的界面,将图5G作为手机第二分屏的界面,图5F中壁纸中的显著图和图5G中壁纸中的显著图均是图520。
此外,另一些实施方式中,主题图像可以裁剪得到至少两幅用作壁纸的图像,那么,手机不同分屏界面的壁纸可以不同。
示例性的,主题图像如图5H所示的图像54,图像54的显著图例如是图541和图542。相应的,手机裁剪图像54可以得到图片543和图片544,图片543包括图541,图541在图片543中居中显示,图片544包括图542,图542在图片544中居中显示。相对应的,本示例中,手机第一分屏的界面例如将图片543作为壁纸,手机第一分屏的界面例如参见图5F所示。手机第二分屏的界面例如将图片544作为壁纸,手机第二分屏的界面如图5I所示。
图5A至图5I示意的GUI是以主题为例的显示界面。另一些实施方式中,图库APP或者照片APP中包含的图像,也可以响应用户的操作指令作为手机的壁纸显示。另外,主题APP也可以为手机提供壁纸功能。手机接收到将图库APP、照片APP或者主题APP的壁纸功能中的任一图像用作壁纸的操作指令后,对相应图像执行方法10涉及的过程,以及获得相应显示界面。
示例性的,以下以主题APP的壁纸功能为例,结合显示界面对壁纸相关的示例进行介绍。
结合图5A示意的GUI51,在接收到用户点击壁纸选项5112的操作指令之后,图5A示意的GUI51切换为图5J示意的GUI55。图5J示意的GUI55是壁纸主界面的示例性显示界面。GUI55包括第一导航栏、复合窗口、第二导航栏、壁纸类型选项区域551以及壁纸显示区域552等界面元素。其中,第一导航栏、复合窗口和第二导航栏的相关描述,详见图5A对应的实施例所述。壁纸类型选项区域551包括全部、平铺壁纸、编辑心选和插画等壁纸类型入口。壁纸显示区域552例如包括至少一个壁纸的图样。在接收到用户点击任意图样的操作指令之后,手机显示图样相关的壁纸图像的界面,图5J示意的GUI55更新为图5K示意的GUI56。
如图5K所示,图5K示意的GUI是壁纸图像的一种示例性显示界面。图5K可以包括图像561和应用按钮562。在接收到用户点击应用按钮562的操作指令之后,手机执行方法10,将图像561相关的图像作为手机各界面的壁纸显示。显示界面可以如图5C至图5H中任一实施方式所示。
可见,采用本申请实施例的显示方法获得的壁纸,不仅包含该壁纸对应的图像中显著图,且具有较好的构图美感,而且显示时不存在变形的情况。
另一些实施方式中,手机主界面涉及的字符的颜色与壁纸的颜色相融合。可见,采用本申请实施例的显示方法获得的显示界面,字符颜色能够与壁纸颜色相融合,从而提高用户的观感体验。
可以理解的是,图5A至图5K是示意性描述,对本申请实施例不构成限制。在另一些实施方式中,上述各场景下的显示界面可以根据电子设备所搭载的系统、设备品牌、设备型号、系统版本、APP版本等的不同而不同。本申请实施例对此不限制。
手机使用FCRNet模型获得目标图像的可能的实现方式:
以下以上述预配置的模型设置在手机的场景为例,对上述生成主题520的预览图像涉及的图像处理过程进行描述。以下示例中,以裁剪模型是FCRNet模型,美学评价模型是CriticNet模型为例。关于CriticNet模型的功能,可参考图4A中美学评分模块的功能。
参见图6A,图6A示意了一种图像处理方法20(以下简称方法20)的示例性方法流程图。方法20包括:接收用户输入的将初始图像用作壁纸的操作指令,在确定屏幕的宽高比与初始图像的宽高比不同后,手机将手机的屏幕分辨率和初始图像输入FCRNet模型。FCRNet模型裁剪初始图像,以得到至少两幅裁剪图像。该至少两幅裁剪图像的分辨率均与手机的屏幕分辨率相同,且该至少两幅裁剪图像均完全包含显著图。然后,CriticNet模型分别计算该至少两幅裁剪图像的美学评分。手机将最大的美学评分对应的裁剪图像作为目标图像,显著图在目标图像中的宽高比和在初始图像中的宽高比相同。
如图6B所示,方法20涉及的初始图像例如是图像21,图像21中的图210是图像21的显著图。如图6C所示,FCRNet模型确定裁剪区域60,裁剪区域60的分辨率例如与屏幕分辨率相同。然后,FCRNet模型例如以图6C中裁剪区域60的位置为参考位置按照预配置的算法,分别向左上、右、和右下的方向移动裁剪区域60,获得移动裁剪区域60之后对应的裁剪图像,例如得到N=3幅裁剪图像。
可见,由于裁剪区域60的分辨率与屏幕分辨率相同,所以,FCRNet模型获得的3幅裁剪图像的分辨率均与屏幕分辨率相同。进一步的,手机无需对用作目标图像的裁剪图像在任一方向上拉伸,所以,显著图在目标图像中的宽高比和在初始图像中的宽高比相同,即目标图像显示时,不存在变形的情况。
FCRNet模型将该N幅裁剪图像输入CriticNet模型,CriticNet模型分别计算该N幅裁剪图像的美学评分,以输出美学评分的值最大的裁剪图像作为目标图像。本示例中,CriticNet模型例如包括三个CriticNet,该三个CriticNet例如分别基于公开美学数据集AVA、GAIC和CPC训练得到。对应N幅裁剪图像中的每一幅裁剪图像,该三个CriticNet分别得到一个分数,该裁剪图像的三个分数的平均值即为CriticNet模型计算得到的该裁剪图像的美学评分。
在FCRNet模型和CriticNet模型预配置在云服务器的场景中,在接收到用户输入的将初始图像用作壁纸的操作指令后,手机向云服务器发送手机的屏幕分辨率和初始图像的信息。进而,云服务器使用FCRNet模型和CriticNet模型获得目标图像。云服务器的示例性实施方式,可以参考方法20的描述,此处不再赘述。
可以理解的是,上述FCRNet模型和CriticNet模型相关的实施过程,仅是示意性描述,不构成对本申请实施例的限制。在另一些实施方式中,FCRNet模型可以根据更多裁剪区域对图像21进行裁剪。另外,FCRNet模型可以获得更多或者更少的裁剪图像。在其他一些实施方式中,CriticNet模型可以包含更多或者更少的CriticNet。此处不赘述。
可见,本申请实施例的图像处理方法,结合电子设备的屏幕分辨率和初始图像的显著图进行裁剪,从而能够确保裁剪图像中的保留初始图像的显著图,并且能够确保在显示时显著图不变形。另外,使用CriticNet模型从多个裁剪图像中选择美学评分最大的裁剪图像作为目标图像,能够确保目标图像具备一定的构图美感。
手机根据目标图像的颜色配置字符颜色的可能的实现方式:
一些实施方式中,在获得目标图像之后,可以根据目标图像的颜色配置字符的颜色,以使字符颜色与目标图像的颜色相融合,提高用户的观感体验。
如图6D所示,图6D示意了一种字符颜色配置方法30(以下简称方法30)的示例性方法流程图。方法30包括:获得目标图像中每个像素的颜色所占比例的数值。判断第一数值是否大于第一阈值。第一数值是目标图像中最大比例的颜色的比例值。若第一数值小于或者等于第一阈值,确定待显示字符的颜色为第一颜色或者第二颜色。若第一数值大于第一阈值,确定目标图像的主色,根据目标图像的主色确定字符颜色。可选的,例如可以通过颜色直方图统计的方式获得目标图像中每种颜色的占比。
其中,第一阈值可以根据需求灵活设置。示例性的,第一阈值例如是0.4。
若第一数值小于或者等于第一阈值,可以认为目标图像无主色,无主色在色调饱和度明度(hue,saturation,value,HSV)空间可以表达为(0,0,0),(0,0,0)是指H为0,S为0,V为0。一种可选的实现方式中,V也可以表达为亮度(brightness,B)。第一颜色例如是HSV空间的(0,0,0),第二颜色例如是HSV空间的(0,0,100)。
若第一数值大于第一阈值,可以认为目标图像有主色,进而可以确定目标图像的主色的色调。主色的色调例如可以是单色或者多色。其中,单色可以包括单彩(例如单一的黄色或者单一的蓝色等)和黑色、白色、或者灰色(例如将黑色、白色、或者灰色作为一种颜色类型)两种类型。
一些实施方式中,确定目标图像主色的色调可以包括:判断第二数值是否大于第一阈值。第二数值是目标图像中次大比例的颜色的比例值。若第二数值大于第一阈值,确定主色的色调是第一数值对应的颜色和第二数值对应的颜色,即主色是多色。若第二数值不大于第一阈值,确定主色的色调是第一数值对应的颜色,即主色是单色。另一些实施方式中,确定目标图像主色的色调可以包括:判断第一数值与第二数值的差值是否大于第二阈值,若第一数值与第二数值的差值不大于第二阈值,确定主色的色调是第一数值对应的颜色和第二数值对应的颜色,即主色是多色。若第一数值与第二数值的差值大于第二阈值,确定主色的色调是第一数值对应的颜色,即主色是单色。
其中,第二阈值可以根据需求灵活设置。示例性的,第一阈值例如是0.2。
在主色是单色时,例如从红绿蓝(red,green,blue,RGB)空间确定主色的颜色。当主色在RGB空间的R值、G值和B值相等,确定主色的颜色是黑色、白色或者灰色。当主色在RGB空间的R值、G值和B值中至少一个的值与其他值不相等时,确定主色的颜色是单彩。
字符颜色可以根据主色衍生得到。示例性的,主色与每种主色衍生得到字符颜色的规则的对应关系可以用表格表示,如表1所示。手机可以将主色衍生得到的任意一种或者多种作为字符颜色。
表1
Figure BDA0002938867960000211
Figure BDA0002938867960000221
表1中从HSV空间表达颜色,例如(H1,0,B1)是指色调(H)是H1,饱和度(S)是0,亮度(B)是B1的颜色。表1中其他颜色的含义同理,在此不赘述。表1中例如示意了主色的色调分别是无主色、黑/白/灰、单彩和多色场景中的获得字符颜色的衍生规则。无主色例如表达为主色是(0,0,0),多色场景中例如以两个颜色为例。例如,当目标图像的主色色调是多色时,获得第一数值对应的颜色(H3,S3,B3),第二数值对应的颜色(H4,S4,B4),并将颜色(H3,S3,B3)作为主色。该场景中,例如可以从第一颜色(H3,(S3+30),30),第二颜色(H3,(S3-30),100),第三颜色(H4,S4,B4),第四颜色(H4,(S4+30),30),第五颜色(H4,(S4-30),100)中选择一个或者多个颜色作为字符颜色。当目标图像的主色色调是其他色调时,可以参照表1中相应色调确定字符颜色,在此不再赘述。
可以理解,表1仅是示意性描述,不构成对本申请实施例的限制。在其他一些实施方式中,各主色色调对应的确定字符颜色的规则还可以是其他。
衍生色与目标图像的主色色调不同,且能够很好的与主色色调搭配,因此,采用本实现方式,使得字符颜色能够与作为壁纸的目标图像相融合,从而提高用户的观感体验。
在获得字符颜色之后,手机可以按照预配置的排版规则对界面元素排版,及生成以目标图像为壁纸的显示界面,进而,显示相应界面。
界面元素可以包括图标和字符,图标可以各个APP的图示,字符可以包括日期、时间、各个APP的名称等。字符颜色是方法30确定的颜色。
图6E示意了本申请的另一种显示方法40(以下简称方法40),方法40包括:获得电子设备的屏幕分辨率、初始图像、待显示图标和待显示字符,根据屏幕的分辨率获得屏幕的宽高比,根据初始图像的分辨率获得初始图像的宽高比。若屏幕的宽高比和初始图像的宽高比不同,基于预配置的FCRNet模型获得初始图像的至少一幅裁剪图像,并基于CriticNet模型从至少一幅裁剪图像中确定用作壁纸的目标图像。根据目标图像相关的颜色确定待显示字符的颜色。按照排版规则对待显示图标和待显示字符排版。显示以目标图像或者目标图像的缩放图像为壁纸的预览界面。
图6E中每个步骤的具体实施方式,可参考前述实施例的描述,在此不再赘述。
可以理解的是,图6A至图6E仅是示意性描述,对本申请实施例不构成限制。在另一些实施方式中,上述显示方法的示例,同样适用于手机其他与壁纸相关的APP,例如,图库APP,此处不再一一描述。另外,上述各场景下的GUI可以根据手机型号,所搭载的系统的版本等的不同而不同。此处不再详述。
另外,上述实施例仅是以手机为例进行的说明,对本申请实施例不构成限制。在另一些实施例中,本申请实施例涉及的电子设备还可以实现为折叠屏设备、平板电脑等等。此处不限制。
综上,本申请实施例的显示方法,预先训练裁剪模型,以确保使用裁剪模型裁剪得到的裁剪图像包含显著图的基础上,能够具备一定的构图美感。然后,在初始图像的宽高比与电子设备屏幕的宽高比不同时,使用预先训练的裁剪模型裁剪初始图像,以得到包含初始图像中的显著图且构图美感较好的裁剪图像用作电子设备的壁纸,在显示时,确保所显示的壁纸的分辨率与电子设备屏幕的分辨率相同,且显著图在壁纸中的宽高比和该显著图在初始图像中宽高比相同,从而能够提升用户的观感体验。
具体实现中,对应前述电子设备,本申请实施例还提供一种计算机存储介质,其中,设置在电子设备中的计算机存储介质可存储有程序,该程序执行时,可实施包括图3A至图6E提供的显示方法的各实施例中的部分或全部步骤。电子设备中的存储介质均可为磁碟、光盘、只读存储记忆体(read-only memory,ROM)或随机存储记忆体(random accessmemory,RAM)等。
本领域技术任何还可以了解到本申请实施例列出的各种说明性逻辑块(illustrative logical block)和步骤(step)可以通过电子硬件、电脑软件,或两者的结合进行实现。这样的功能是通过硬件还是软件来实现取决于特定的应用和整个系统的设计要求。本领域技术人员可以对于每种特定的应用,可以使用各种方法实现所述的功能,但这种实现不应被理解为超出本申请实施例保护的范围。
本申请实施例中所描述的各种说明性的逻辑单元和电路可以通过通用处理器,数字信号处理器,专用集成电路(ASIC),现场可编程门阵列(FPGA)或其它可编程逻辑装置,离散门或晶体管逻辑,离散硬件部件,或上述任何组合的设计来实现或操作所描述的功能。通用处理器可以为微处理器,可选地,该通用处理器也可以为任何传统的处理器、控制器、微控制器或状态机。处理器也可以通过计算装置的组合来实现,例如数字信号处理器和微处理器,多个微处理器,一个或多个微处理器联合一个数字信号处理器核,或任何其它类似的配置来实现。
本申请实施例中所描述的方法或算法的步骤可以直接嵌入硬件、处理器执行的软件单元、或者这两者的结合。软件单元可以存储于RAM存储器、闪存、ROM存储器、EPROM存储器、EEPROM存储器、寄存器、硬盘、可移动磁盘、CD-ROM或本领域中其它任意形式的存储媒介中。示例性地,存储媒介可以与处理器连接,以使得处理器可以从存储媒介中读取信息,并可以向存储媒介存写信息。可选地,存储媒介还可以集成到处理器中。处理器和存储媒介可以设置于ASIC中,ASIC可以设置于电子设备中。可选地,处理器和存储媒介也可以设置于电子设备中的不同的部件中。
应理解,在本申请的各种实施例中,各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对实施例的实施过程构成任何限定。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本申请所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或报文中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或报文中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、报文中心等报文存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘(solidstate disk,SSD))等。
本说明书的各个部分均采用递进的方式进行描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点介绍的都是与其他实施例不同之处。尤其,对于装置和系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例部分的说明即可。
尽管已描述了本申请的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例作出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本申请范围的所有变更和修改。
显然,本领域的技术人员可以对本申请进行各种改动和变型而不脱离本申请的精神和范围。这样,倘若本申请的这些修改和变型属于本申请权利要求及其等同技术的范围之内,则本申请也意图包含这些改动和变型在内。

Claims (16)

1.一种显示方法,其特征在于,包括:
获得电子设备屏幕的分辨率和初始图像;
根据所述电子设备屏幕的分辨率获取屏幕的宽高比;
若所述屏幕的宽高比与所述初始图像的宽高比不同,裁剪所述初始图像以得到目标图像,其中,所述目标图像的分辨率与所述电子设备屏幕的分辨率相同,所述目标图像包含所述初始图像的显著图,所述显著图在所述目标图像中的宽高比和在所述初始图像中的宽高比相同;
将所述目标图像设置为所述电子设备的壁纸。
2.如权利要求1所述的方法,其特征在于,还包括:
若所述屏幕的宽高比与所述初始图像的宽高比相同,所述屏幕的分辨率与所述初始图像的分辨率不同,按照所述屏幕的分辨率等比缩放所述初始图像以得到所述目标图像。
3.如权利要求1所述的方法,其特征在于,在所述获得电子设备屏幕的分辨率和初始图像之前还包括:
接收用户输入的第一指示指令,所述第一指示指令用于指示用户选择的壁纸是所述初始图像,或者,指示用户选择的主题相关的图像是所述初始图像。
4.如权利要求1所述的方法,其特征在于,所述裁剪所述初始图像以得到目标图像包括:
根据所述屏幕的宽高比裁剪所述初始图像,以得到至少一幅第一裁剪图像,所述至少一幅第一裁剪图像中包含所述初始图像的显著图;
分别获得所述至少一幅第一裁剪图像的美学评分,所述美学评分用于评价图像构图美;
根据所述美学评分获取第二裁剪图像;
若所述第二裁剪图像的分辨率与所述屏幕的分辨率不同,按照所述屏幕的分辨率等比缩放所述第二裁剪图像以得到所述目标图像。
5.如权利要求4所述的方法,其特征在于,所述根据所述屏幕的宽高比裁剪所述初始图像,以得到至少一幅裁剪图像包括:
根据所述宽高比确定至少一个尺寸的第一裁剪区域;
移动部分或全部所述第一裁剪区域的位置,获得所述至少一幅裁剪图像。
6.如权利要求1所述的方法,其特征在于,所述裁剪所述初始图像以得到目标图像包括:
根据所述屏幕的分辨率获取第二裁剪区域;
根据所述显著图的位置将所述裁剪区域的位置移动至少一次,以裁剪得到所述至少一幅第三裁剪图像,其中,所述第三裁剪图像的分辨率与初始图像的分辨率相同;
根据所述美学评分从所述至少一幅第三裁剪图像中获得所述目标图像。
7.如权利要求1-6中任一项所述的方法,其特征在于,所述目标图像包括至少两幅,所述将所述目标图像设置为所述电子设备的壁纸,包括:
将所述至少两幅目标图像分别设置为所述电子设备的不同分屏的壁纸。
8.如权利要求1-6中任一项所述的方法,其特征在于,所述根据所述初始图像获得目标图像之后,还包括:
根据所述目标图像的颜色获得待显示字符的颜色。
9.如权利要求8所述的方法,其特征在于,所述根据所述目标图像的颜色获得待显示字符的颜色包括:
获得所述目标图像中每个像素的颜色所占比例的数值;
判断第一数值是否大于第一阈值,所述第一数值是所述目标图像中最大比例的颜色的比例值;
若所述第一数值小于或者等于所述第一阈值,确定待显示字符的颜色为第一颜色或者第二颜色;
若所述第一数值大于所述第一阈值,确定所述目标图像的主色,根据所述目标图像的主色确定待显示字符的颜色。
10.如权利要求9所述的方法,其特征在于,所述确定所述目标图像的主色包括:
判断第二数值是否大于所述第一阈值,所述第二数值是所述目标图像中次大比例的颜色的比例值;
若所述第二数值大于所述第一阈值,确定所述目标图像的主色的色调是所述第一数值对应的颜色和所述第二数值对应的颜色;
若所述第二数值不大于所述第一阈值,确定所述目标图像的主色的色调是所述第一数值对应的颜色。
11.如权利要求8-10中任一项所述的方法,其特征在于,根据所述目标图像的主色确定待显示字符的颜色,包括:
根据所述目标图像的主色获得至少两种备选颜色;
将所述至少两种备选颜色中的至少一种颜色作为所述待显示字符的颜色。
12.如权利要求1-6中任一项所述的方法,其特征在于,
所述裁剪所述初始图像以得到目标图像,包括:使用预设的裁剪模型裁剪所述初始图像以得到目标图像;
所述根据所述初始图像获得目标图像之前,还包括:
向第一初始裁剪模型中输入参考图像和初始裁剪区域,所述初始裁剪区域的宽高比是预设宽高比;
所述第一初始裁剪模型通过移动所述初始裁剪区域的位置裁剪所述参考图像;
所述第一初始裁剪模型将裁剪后的图像信息输入美学评分模块及观测回报模块,通过所述美学评分模块获得美学评分,通过所述观测回报模块获取损失loss值;
若所述loss值大于预设值,所述第一初始裁剪模型调整参数,获得第二初始裁剪模型,所述第二初始裁剪模型裁剪所述参考图像的操作;
若所述loss值小于或者等于所述预设值,将所述第一初始裁剪模型作为所述裁剪模型。
13.如权利要求12所述的方法,其特征在于,loss值满足loss=lossrslosssalossa,其中,lossr是指为回归损失函数值,表征所述至少两个目标裁剪区域与预输入的理想裁剪区域的差异,losss是指分离损失函数值,表征所述至少两个目标裁剪区域两两之间的差异,lossa是指美学损失函数值,表征所述至少两个目标裁剪区域的美学评分与预输入的理想裁剪区域的美学评分的差异,λs是指分离损失函数的权重,λa是指美学评分损失函数的权重。
14.一种电子设备,其特征在于,所述电子设备包括:存储器和至少一个处理器;
所述存储器,用于存储指令;
所述至少一个处理器,用于执行所述存储器中的所述指令,执行权利要求1-13任意一项所述的方法。
15.一种计算机可读存储介质,其特征在于,包括计算机程序,当所述计算机程序在计算机上运行时,使得所述计算机执行如权利要求1-13中任一项所述的方法。
16.一种计算机程序产品,其特征在于,包括指令,当所述指令在计算机上运行时,使得所述计算机执行如权利要求1-13中任一项所述的方法。
CN202110188234.3A 2021-02-08 2021-02-08 显示方法及电子设备 Pending CN114911551A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110188234.3A CN114911551A (zh) 2021-02-08 2021-02-08 显示方法及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110188234.3A CN114911551A (zh) 2021-02-08 2021-02-08 显示方法及电子设备

Publications (1)

Publication Number Publication Date
CN114911551A true CN114911551A (zh) 2022-08-16

Family

ID=82761601

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110188234.3A Pending CN114911551A (zh) 2021-02-08 2021-02-08 显示方法及电子设备

Country Status (1)

Country Link
CN (1) CN114911551A (zh)

Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1630367A (zh) * 2003-11-14 2005-06-22 微软公司 受控不成比例缩放显示
CN1858843A (zh) * 2005-08-12 2006-11-08 深圳华为移动通信技术有限公司 移动终端中图像自适应缩放的系统及其方法
CN101521004A (zh) * 2008-02-29 2009-09-02 鹏智科技(深圳)有限公司 具有图片处理功能的电子装置及其图片处理方法
CN102063258A (zh) * 2010-12-31 2011-05-18 山东大学 一种针对不同尺寸显示终端的图像自适应显示方法
CN104517262A (zh) * 2015-01-12 2015-04-15 广西大学 基于dct域视觉显著性检测的自适应图像缩放方法
CN104679466A (zh) * 2013-11-29 2015-06-03 腾讯科技(深圳)有限公司 一种图像显示方法、装置及电子设备
CN104835114A (zh) * 2015-05-06 2015-08-12 山东大学 一种图像自适应显示方法
CN106855797A (zh) * 2015-12-09 2017-06-16 阿里巴巴集团控股有限公司 一种界面元素颜色的设置方法及装置
CN107146198A (zh) * 2017-04-19 2017-09-08 中国电子科技集团公司电子科学研究院 一种照片智能裁剪方法及装置
CN108363604A (zh) * 2018-02-06 2018-08-03 四川虹美智能科技有限公司 一种分辨率适配方法、装置及业务系统
CN108665413A (zh) * 2018-04-28 2018-10-16 中国科学院上海高等研究院 一种图像自适应放大方法、可读存储介质及终端
CN109146892A (zh) * 2018-07-23 2019-01-04 北京邮电大学 一种基于美学的图像裁剪方法及装置
CN109729423A (zh) * 2018-12-27 2019-05-07 麒麟合盛网络技术股份有限公司 一种桌面壁纸设置方法及装置
CN111290810A (zh) * 2020-01-19 2020-06-16 维沃移动通信有限公司 一种图像显示方法及电子设备
CN111857511A (zh) * 2020-07-17 2020-10-30 维沃移动通信有限公司 壁纸显示控制方法、装置和电子设备

Patent Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1630367A (zh) * 2003-11-14 2005-06-22 微软公司 受控不成比例缩放显示
CN1858843A (zh) * 2005-08-12 2006-11-08 深圳华为移动通信技术有限公司 移动终端中图像自适应缩放的系统及其方法
CN101521004A (zh) * 2008-02-29 2009-09-02 鹏智科技(深圳)有限公司 具有图片处理功能的电子装置及其图片处理方法
CN102063258A (zh) * 2010-12-31 2011-05-18 山东大学 一种针对不同尺寸显示终端的图像自适应显示方法
CN104679466A (zh) * 2013-11-29 2015-06-03 腾讯科技(深圳)有限公司 一种图像显示方法、装置及电子设备
CN104517262A (zh) * 2015-01-12 2015-04-15 广西大学 基于dct域视觉显著性检测的自适应图像缩放方法
CN104835114A (zh) * 2015-05-06 2015-08-12 山东大学 一种图像自适应显示方法
CN106855797A (zh) * 2015-12-09 2017-06-16 阿里巴巴集团控股有限公司 一种界面元素颜色的设置方法及装置
CN107146198A (zh) * 2017-04-19 2017-09-08 中国电子科技集团公司电子科学研究院 一种照片智能裁剪方法及装置
CN108363604A (zh) * 2018-02-06 2018-08-03 四川虹美智能科技有限公司 一种分辨率适配方法、装置及业务系统
CN108665413A (zh) * 2018-04-28 2018-10-16 中国科学院上海高等研究院 一种图像自适应放大方法、可读存储介质及终端
CN109146892A (zh) * 2018-07-23 2019-01-04 北京邮电大学 一种基于美学的图像裁剪方法及装置
CN109729423A (zh) * 2018-12-27 2019-05-07 麒麟合盛网络技术股份有限公司 一种桌面壁纸设置方法及装置
CN111290810A (zh) * 2020-01-19 2020-06-16 维沃移动通信有限公司 一种图像显示方法及电子设备
CN111857511A (zh) * 2020-07-17 2020-10-30 维沃移动通信有限公司 壁纸显示控制方法、装置和电子设备

Similar Documents

Publication Publication Date Title
CN109495688B (zh) 电子设备的拍照预览方法、图形用户界面及电子设备
CN109814766B (zh) 一种应用显示方法及电子设备
CN112130742B (zh) 一种移动终端的全屏显示方法及设备
CN111669459B (zh) 键盘显示方法、电子设备和计算机可读存储介质
CN111443884A (zh) 投屏方法、装置和电子设备
WO2021104485A1 (zh) 一种拍摄方法及电子设备
WO2021169394A1 (zh) 基于深度的人体图像美化方法及电子设备
WO2021244457A1 (zh) 一种视频生成方法及相关装置
CN110471606B (zh) 输入方法及电子设备
CN110377204B (zh) 一种生成用户头像的方法及电子设备
CN115866122A (zh) 应用界面交互方法、电子设备和计算机可读存储介质
WO2022001258A1 (zh) 多屏显示方法、装置、终端设备及存储介质
WO2022012418A1 (zh) 拍照方法及电子设备
WO2023241209A1 (zh) 桌面壁纸配置方法、装置、电子设备及可读存储介质
CN114995715B (zh) 悬浮球的控制方法和相关装置
CN115115679A (zh) 一种图像配准方法及相关设备
CN116048243A (zh) 一种显示方法和电子设备
CN114283195B (zh) 生成动态图像的方法、电子设备及可读存储介质
WO2022078116A1 (zh) 笔刷效果图生成方法、图像编辑方法、设备和存储介质
WO2022062985A1 (zh) 视频特效添加方法、装置及终端设备
CN115641867A (zh) 语音处理方法和终端设备
CN114911551A (zh) 显示方法及电子设备
CN115291779A (zh) 一种窗口控制方法及其设备
CN114527903A (zh) 一种按键映射方法、电子设备及系统
CN114579900A (zh) 跨设备的页面切换方法、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination