图像呈现控制方法和装置
技术领域
本公开涉及信息处理领域,特别涉及一种图像呈现控制方法和装置。
背景技术
互联网不仅提供了一种人与人沟通的新渠道,同时还为各种手机应用(APP)提供了发展的空间。在许多手机APP的功能板块中,都会涉及将图像上传并作为公开信息进行展示。
例如,用户希望将自己拍摄的照片发送到指定的社交平台上,以便能够和亲朋好友或其他网友进行分享。该用户将自己拍摄的照片上传到该社交平台的服务器上,服务器对用户上传照片的格式、分辨率和/或大小进行检测,若用户上传照片的格式、分辨率和大小满足预设要求,则会将该照片呈现在社交平台上,以便亲朋好友或其他网友能够欣赏该照片。
发明内容
发明人通过研究发现,在相关技术中,在呈现图像前的检测过程中,通常是对图像的格式、分辨率和大小进行检测。在这个过程中并不会对图像内容进行检测,因此会导致社交平台上会出现一些涉及色情、暴力和恐怖等内容的违规图像。
为此本公开提供一种根据当前业务场景对用户上传的图像内容进行检测的方案,以确保所呈现的图像内容能够满足当前业务场景的要求,有效避免呈现违规图像的情况发生。
根据本公开实施例的第一方面,提供一种图像呈现控制方法,包括:识别当前业务场景的类型;若所述当前业务场景为预定业务场景,则对用户上传的图像进行检测,以确定所述图像是否满足所述预定业务场景的要求;若所述图像满足所述预定业务场景的要求,则在相关联的应用中呈现所述图像。
在一些实施例中,若所述当前业务场景为预定业务场景,还包括:从所述图像中提取出匹配标识;检测所述匹配标识是否与所述当前业务场景相匹配;若所述匹配标识与所述当前业务场景相匹配,则对所述图像进行检测。
在一些实施例中,所述匹配标识包括所述图像的对应场景标识、所述用户的标识和地址中的至少一项。
在一些实施例中,若所述当前业务场景不是预定业务场景,则根据预设规则判断是否能够直接呈现所述图像;若根据所述预设规则判断能够直接呈现所述图像,则直接在相关联的应用中呈现所述图像。
在一些实施例中,若根据所述预设规则判断不能直接呈现所述图像,则将所述图像存储到待处理空间,并在预定时刻对所述图像进行检测;若检测结果指示所述图像满足所述当前业务场景的要求,则在相关联的应用中呈现所述图像。
在一些实施例中,若检测结果指示所述图像需要进行人工审核,则将所述图像提供给指定人员进行审核;在所述图像通过指定人员的审核后,在相关联的应用中呈现与所述图像相关联的安全图片。
在一些实施例中,在接收到所述用户发送的呈现指示后,利用所述图像替换所述安全图片。
根据本公开实施例的第二方面,提供一种图像呈现控制装置,包括:识别模块,被配置为识别当前业务场景的类型;检测模块,被配置为若所述当前业务场景为预定业务场景,则对用户上传的图像进行检测,以确定所述图像是否满足所述预定业务场景的要求;呈现模块,被配置为若所述图像满足所述预定业务场景的要求,则在相关联的应用中呈现所述图像。
根据本公开实施例的第三方面,提供一种图像呈现控制装置,包括:存储器,被配置为存储指令;处理器,耦合到存储器,处理器被配置为基于存储器存储的指令执行实现如上述任一实施例涉及的方法。
根据本公开实施例的第四方面,提供一种计算机可读存储介质,其中,计算机可读存储介质存储有计算机指令,指令被处理器执行时实现如上述任一实施例涉及的方法。
通过以下参照附图对本公开的示例性实施例的详细描述,本公开的其它特征及其优点将会变得清楚。
附图说明
为了更清楚地说明本公开实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本公开一个实施例的图像呈现控制方法的流程示意图;
图2为本公开另一个实施例的图像呈现控制方法的流程示意图;
图3为本公开一个实施例的图像呈现控制装置的结构示意图;
图4为本公开另一个实施例的图像呈现控制装置的结构示意图。
具体实施方式
下面将结合本公开实施例中的附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本公开及其应用或使用的任何限制。基于本公开中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本公开保护的范围。
除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。
同时,应当明白,为了便于描述,附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为授权说明书的一部分。
在这里示出和讨论的所有示例中,任何具体值应被解释为仅仅是示例性的,而不是作为限制。因此,示例性实施例的其它示例可以具有不同的值。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。
图1为本公开一个实施例的图像呈现控制方法的流程示意图。在一些实施例中,下列的图像呈现控制方法步骤由图像呈现控制装置执行。
在步骤101,识别当前业务场景的类型。
在一些实施例中,可通过当前业务场景标识以确定当前业务场景是敏感场景还是非敏感场景。
在步骤102,若当前业务场景为预定业务场景,则对用户上传的图像进行检测,以确定图像是否满足预定业务场景的要求。
在一些实施例中,通过提取图像的特征信息,将所提取的特征信息输入经过训练的深度学习模型,以便深度学习模型判断图像的特征信息中是否包括预定的特征信息。该预定的特征信息包括非法特征信息、与预定业务场景相抵触的特征信息。若图像的特征信息中不包括预定的特征信息,则确定图像满足预定业务场景的要求。
例如,预定业务场景要求所呈现的图像不能涉及色情、暴力、恐怖等违法信息。
例如,深度学习模型为CNN(Convolutional Neural Network,卷积神经网络)或其它合适的神经网络模型。
在一些实施例中,若当前业务场景为预定业务场景,还包括从图像中提取出匹配标识,并检测匹配标识是否与当前业务场景相匹配。若匹配标识与当前业务场景相匹配,则对图像进行检测。若匹配标识与当前业务场景不相匹配,则表明该图像与该预定业务场景并不匹配,即表明上传该图像的用户并不希望其所上传的图像呈现在这样的预定业务场景中。在这种情况下拒绝呈现该图像。
也就是说,用户通过为上传图像设置匹配标识,能够确定上传图像能够在怎样的业务场景进行呈现。即在图像呈现过程中,上传图像的用户也有话语权,由此可进一步提升用户的体验。
在一些实施例中,匹配标识包括图像的对应场景标识、用户的标识和地址中的至少一项。
在步骤103,若图像满足预定业务场景的要求,则在相关联的应用中呈现图像。
在一些实施例中,若图像不满足预定业务场景的要求,则拒绝呈现该图像。
在本公开上述实施例提供的图像呈现控制方法中,根据当前业务场景对用户上传的图像进行检测,以确保用户上传的图像满足当前业务场景的要求,从而有效避免了违规情况的发生。
图2为本公开另一个实施例的图像呈现控制方法的流程示意图。在一些实施例中,下列的图像呈现控制方法步骤由图像呈现控制装置执行。
在步骤201,接收用户上传的图像。
在步骤202,识别当前业务场景的类型。
在一些实施例中,可通过当前业务场景标识以确定当前业务场景是敏感场景还是非敏感场景。
在步骤203,判断当前业务场景是否为预定业务场景。
例如,预定业务场景为敏感场景,而除预定业务场景之外的其它业务场景为非敏感场景。
若当前业务场景为预定业务场景,则执行步骤204。若当前业务场景不为预定业务场景,则执行步骤208。
在步骤204,对图像进行检测。即对图像进行在线检测。
在一些实施例中,提取图像的特征信息,将所提取的特征信息输入经过训练的深度学习模型,以便深度学习模型判断图像的特征信息中是否包括预定的特征信息。该预定的特征信息包括非法特征信息、与预定业务场景相抵触的特征信息。若图像的特征信息中不包括预定的特征信息,则确定图像满足预定业务场景的要求。
例如,深度学习模型为CNN或其它合适的神经网络模型。
在一些实施例中,若当前业务场景为预定业务场景,还包括从图像中提取出匹配标识,并检测匹配标识是否与当前业务场景相匹配。若匹配标识与当前业务场景相匹配,则对图像进行检测。若匹配标识与当前业务场景不相匹配,则表明该图像与该预定业务场景并不匹配,即表明上传该图像的用户并不希望其所上传的图像呈现在这样的预定业务场景中。在这种情况下拒绝呈现该图像。
也就是说,用户通过为上传图像设置匹配标识,能够确定上传图像能够在怎样的业务场景进行呈现。即在图像呈现过程中,上传图像的用户也有话语权,由此可进一步提升用户的体验。
例如,匹配标识包括图像的对应场景标识、用户的标识和地址中的至少一项。
在步骤205,根据图像检测结果判断图像是否满足预定业务场景的要求。
例如,预定业务场景要求所呈现的图像不能涉及色情、暴力、恐怖等违法信息。
若图像满足预定业务场景的要求,则执行步骤206;若图像不满足预定业务场景的要求,则执行步骤207。
在步骤206,在相关联的应用中呈现图像。
在步骤207,拒绝呈现图像。
在步骤208,根据预设规则判断是否能够直接呈现图像。
若根据预设规则判断能够直接呈现图像,则执行步骤209;若根据预设规则判断不能直接呈现图像,则执行步骤210。
在步骤209,直接在相关联的应用中呈现图像。
在步骤210,将图像存储到待处理空间,并在预定时刻对图像进行检测。即对图像进行离线检测。由于离线检测会有效节省资源,因此可有效保证在线检测的顺利进行。
在一些实施例中,利用经过训练的深度学习模型对图像进行检测。
在步骤211,根据检测结果判断图像是否满足当前业务场景的要求。
若检测结果指示图像不满足当前业务场景的要求,则执行步骤212;若检测结果指示图像满足当前业务场景的要求,则执行步骤213;若检测结果指示图像需要进行人工审核,则执行步骤214。
在步骤212,拒绝呈现图像。
在步骤213,在相关联的应用中呈现图像。
在步骤214,将图像提供给指定人员进行审核。
在步骤215,在图像通过指定人员的审核后,在相关联的应用中呈现与图像相关联的安全图片。
这里需要说明的是,由于指定人员在审核过程中,通常关注的是该图像中是否具有色情、暴力、恐怖等内容,而对用户隐私信息不会进行审核。这样会导致包括用户身份证、信用卡等涉及用户隐私信息的内容被公开,从而导致用户隐私信息的泄露。
为了避免这一问题,本公开提出用户上传图像帧经过指定人员审核后,在相关联的应用中仅呈现出预设的安全图片。其它用户通过该预设的安全图片并不会了解待该用户的隐私信息。
在步骤216中,在接收到用户发送的呈现指示后,利用该图像替换安全图片。
这里还需要说明的是,若用户认为所上传的图像并不会涉及隐私信息的泄露,则可授权图像呈现控制装置呈现其所上传的图像。图像呈现控制装置在接收到用户发送的呈现指示后,就会将安全图片替换为其所上传的图像。由此在实现图像呈现的同时,还能有效保护用户的隐私信息。
图3为本公开一个实施例的图像呈现控制装置的结构示意图。如图3所示,图像呈现控制装置包括识别模块31、检测模块32和呈现模块33。
识别模块31被配置为识别当前业务场景的类型。
在一些实施例中,可通过当前业务场景标识以确定当前业务场景是敏感场景还是非敏感场景。
检测模块32被配置为若当前业务场景为预定业务场景,则对用户上传的图像进行检测,以确定图像是否满足预定业务场景的要求。
在一些实施例中,通过提取图像的特征信息,将所提取的特征信息输入经过训练的深度学习模型,以便深度学习模型判断图像的特征信息中是否包括预定的特征信息。该预定的特征信息包括非法特征信息、与预定业务场景相抵触的特征信息。若图像的特征信息中不包括预定的特征信息,则确定图像满足预定业务场景的要求。
例如,预定业务场景要求所呈现的图像不能涉及色情、暴力、恐怖等违法信息。
例如,深度学习模型为CNN或其它合适的神经网络模型。
在一些实施例中,若当前业务场景为预定业务场景,还包括从图像中提取出匹配标识,并检测匹配标识是否与当前业务场景相匹配。若匹配标识与当前业务场景相匹配,则对图像进行检测。若匹配标识与当前业务场景不相匹配,则表明该图像与该预定业务场景并不匹配,即表明上传该图像的用户并不希望其所上传的图像呈现在这样的预定业务场景中。在这种情况下拒绝呈现该图像。
也就是说,用户通过为上传图像设置匹配标识,能够确定上传图像能够在怎样的业务场景进行呈现。即在图像呈现过程中,上传图像的用户也有话语权,由此可进一步提升用户的体验。
例如,匹配标识包括图像的对应场景标识、用户的标识和地址中的至少一项。
呈现模块33被配置为若图像满足预定业务场景的要求,则在相关联的应用中呈现图像。
在一些实施例中,呈现模块33还被配置为若图像不满足预定业务场景的要求,则拒绝呈现该图像。
在一些实施例中,检测模块32还被配置为若当前业务场景不是预定业务场景,则根据预设规则判断是否能够直接呈现图像。若根据预设规则判断能够直接呈现图像,则直接在相关联的应用中呈现该图像。
检测模块32还被配置为若根据预设规则判断不能直接呈现该图像,则将该图像存储到待处理空间,并在预定时刻对该图像进行检测。即对图像进行离线检测。由于离线检测会有效节省资源,因此可有效保证在线检测的顺利进行。
在一些实施例中,利用经过训练的深度学习模型对图像进行检测。若检测结果指示该图像满足当前业务场景的要求,则在相关联的应用中呈现该图像。
检测模块32还被配置为若检测结果指示该图像需要进行人工审核,则将该图像提供给指定人员进行审核。在该图像通过指定人员的审核后,在相关联的应用中呈现与该图像相关联的安全图片。在接收到用户发送的呈现指示后,利用该图像替换安全图片。
这里需要说明的是,由于指定人员在审核过程中,通常关注的是该图像中是否具有色情、暴力、恐怖等内容,而对用户隐私信息不会进行审核。这样会导致包括用户身份证、信用卡等涉及用户隐私信息的内容被公开,从而导致用户隐私信息的泄露。
为了避免这一问题,本公开提出用户上传图像帧经过指定人员审核后,在相关联的应用中仅呈现出预设的安全图片。其它用户通过该预设的安全图片并不会了解待该用户的隐私信息。
若用户认为所上传的图像并不会涉及隐私信息的泄露,则可授权图像呈现控制装置呈现其所上传的图像。图像呈现控制装置在接收到用户发送的呈现指示后,就会将安全图片替换为其所上传的图像。由此在实现图像呈现的同时,还能有效保护用户的隐私信息。
图4为本公开另一个实施例的图像呈现控制装置的结构示意图。如图4所示,图像呈现控制装置包括存储器41和处理器42。
存储器41用于存储指令,处理器42耦合到存储器41,处理器42被配置为基于存储器存储的指令执行实现如图1和图2中任一实施例涉及的方法。
如图4所示,该装置还包括通信接口43,用于与其它设备进行信息交互。同时,该装置还包括总线44,处理器42、通信接口43、以及存储器41通过总线44完成相互间的通信。
存储器41可以包含高速RAM存储器,也可还包括非易失性存储器(non-volatilememory),例如至少一个磁盘存储器。存储器41也可以是存储器阵列。存储器41还可能被分块,并且块可按一定的规则组合成虚拟卷。
此外,处理器42可以是一个中央处理器CPU,或者可以是专用集成电路ASIC,或是被配置成实施本公开实施例的一个或多个集成电路。
本公开同时还涉及一种计算机可读存储介质,其中计算机可读存储介质存储有计算机指令,指令被处理器执行时实现如图1和图2中任一实施例涉及的方法。
在一些实施例中,在上面所描述的功能单元模块可以实现为用于执行本公开所描述功能的通用处理器、可编程逻辑控制器(Programmable Logic Controller,简称:PLC)、数字信号处理器(Digital Signal Processor,简称:DSP)、专用集成电路(ApplicationSpecific Integrated Circuit,简称:ASIC)、现场可编程门阵列(Field-ProgrammableGate Array,简称:FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件或者其任意适当组合。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
本公开的描述是为了示例和描述起见而给出的,而并不是无遗漏的或者将本公开限于所公开的形式。很多修改和变化对于本领域的普通技术人员而言是显然的。选择和描述实施例是为了更好说明本公开的原理和实际应用,并且使本领域的普通技术人员能够理解本公开从而设计适于特定用途的带有各种修改的各种实施例。