CN113328923A - 呈现方法、服务端、客户端、电子设备和计算机可读介质 - Google Patents

Abstract

本发明实施例提供了一种呈现方法、服务端、客户端、电子设备和计算机可读介质。所述呈现方法包括：获取第一账号针对所述第一账号与至少一个第二账号进行的即时通信会话设定的安全级别；根据所述安全级别，确定接收到的所述第二账号向所述即时通信会话发送的目标消息是否为非安全消息，如果为非安全消息，则以安全方式发送所述目标消息，以便在所述即时通信会话中进行呈现。由于在消息为非安全消息时，能够以安全方式进行呈现，从而高效地实现了即时通信会话的安全管理。

Description

呈现方法、服务端、客户端、电子设备和计算机可读介质

技术领域

本发明实施例涉及互联网技术领域，尤其涉及一种呈现方法、服务端、客户端、电子设备和计算机可读介质。

背景技术

社交网络给人们带来了极大的便利的同时，也带来了负面的影响。比如，广告信息数量急速增大，也不排除有虚假信息甚至违法信息充斥在网络中。聊天群作为一种极为有效的互动手段，使群成员之间的分享更有效率，但同时也同样存在着上述问题。

当聊天群成员数量较多时，会有个别群成员出于牟利等原因分享不利于其他成员的信息，因此当前的社交网络开发出一种功能，给予群管理员较大的权限，当有群成员违规发送消息时，管理员可以将其踢出聊天群。但是管理员难以时刻关注每个成员发送的消息，对于非聊天群形式的聊天会话更是无法进行管理。可见，现有的这种方式一方面管理比较费时费力，效率低下；另一方面也无法实现有效管理。

发明内容

有鉴于此，本发明实施例提供一种呈现方法、服务端、客户端、电子设备和计算机可读介质，能够解决或缓解上述问题。

根据本发明实施例的第一方面，提供了一种呈现方法，包括：获取第一账号针对所述第一账号与至少一个第二账号进行的即时通信会话设定的安全级别；根据所述安全级别，确定接收到的所述第二账号向所述即时通信会话发送的目标消息是否为非安全消息，如果为非安全消息，则以安全方式发送所述目标消息，以便在所述即时通信会话中进行呈现。

根据本发明实施例的第二方面，提供了一种服务端，包括：获取模块、确定模块和发送模块；其中：获取模块，用于获取第一账号针对所述第一账号与至少一个第二账号进行的即时通信会话设定的安全级别；确定模块，用于根据所述安全级别，确定接收到的所述第二账号向所述即时通信会话发送的目标消息是否为非安全消息，如果为非安全消息，则通过所述发送模块以安全方式进行发送所述目标消息，以便在所述即时通信会话中进行呈现。

根据本发明实施例的第三方面，提供了一种呈现方法，包括：呈现第一账号登录的与至少一个第二账号进行即时通信会话的会话界面，所述会话界面包括安全级别设置区域；获取所述安全级别设置区域中设置的所述第一账号的安全级别；将所述安全级别发送至服务端，以便接收所述服务端基于所述安全级别以安全方式发送的所述第二账号发送的目标消息；在所述会话界面中呈现所述目标消息。

根据本发明实施例的第四方面，提供了一种客户端，包括：第一呈现模块，呈现第一账号登录的与至少一个第二账号进行即时通信会话的会话界面，所述会话界面包括安全级别设置区域；获取模块，获取所述安全级别设置区域中设置的所述第一账号的安全级别；收发模块，将所述安全级别发送至服务端，以便接收所述服务端基于所述安全级别以安全方式发送的所述第二账号发送的目标消息；第二呈现模块，在所述会话界面中呈现所述目标消息。

根据本发明实施例的第五方面，提供了一种电子设备，包括：一个或多个处理器；计算机可读介质，配置为存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如第一方面或第三方面所述的呈现方法。

根据本发明实施例的第六方面，提供了一种计算机可读介质，其上存储有计算机程序，该程序被处理器执行时实现如第一方面或第三方面所述的呈现方法。

根据本发明实施例提供的方案，获取第一账号针对第一账号与至少一个第二账号进行的会话设定的安全级别；根据安全级别，确定接收到的第二账号向会话发送的目标消息是否为非安全消息，如果为非安全消息，则以安全方式进行呈现。由于在消息为非安全消息时，能够以安全方式进行发送并呈现，从而高效地实现了即时通信会话的安全管理。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明实施例中记载的一些实施例，对于本领域普通技术人员来讲，还可以根据这些附图获得其他的附图。

图1A为本发明实施例一的呈现方法的网络架构的示意图；

图1B为本发明实施例一的呈现方法的示意性流程图；

图1C为本发明实施例一的另一实现方式的服务端的数据处理的示意图；

图1D为本发明实施例一的一个实现场景的示意图；

图2为本发明实施例二的服务端的示意性框图；

图3A为本发明实施例三的呈现方法的示意性流程图；

图3B为本发明实施例三的一个实施方式的会话界面的示意图；

图3C为本发明实施例三的另一实施方式的会话界面的示意图；

图3D为本发明实施例三的另一实施方式的会话界面的示意图；

图3E为本发明实施例三的另一实施方式的会话界面的示意图；

图4为本发明实施例四的客户端的示意性框图；

图5为本发明实施例五的电子设备的示意性结构图；

图6为本发明实施例六的电子设备的示意性结构图。

具体实施方式

为了使本领域的人员更好地理解本发明实施例中的技术方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅是本发明实施例一部分实施例，而不是全部的实施例。基于本发明实施例中的实施例，本领域普通技术人员所获得的所有其他实施例，都应当属于本发明实施例保护的范围。

下面结合本发明实施例附图进一步说明本发明实施例具体实现。

图1A为本发明实施例一的呈现方法的网络架构的示意图。网络架构100包括通过网络110彼此连接的用户101、客户端系统120、社交网络服务端160、及第三方服务器140。尽管图1示出了用户101、客户端系统120、社交网络服务端160、第三方服务器140以及网络110的具体布置，但是本发明实施例考虑了用户101、客户端系统120、社交网络服务端160、第三方服务器140以及网络110的任何合适的布置。作为实例但并不作为限制，客户端系统120、社交网络服务端160以及第三方服务器140中的两个或更多可绕开网络110直接彼此连接。作为另一实例，客户端系统120、社交网络服务端160以及第三方服务器140中的两个或更多可物理地或逻辑地整体或部分共同位于同一位置。此外，尽管图1示出了用户101、客户端系统120、社交网络服务端160、第三方服务器140以及网络110的具体数量，但是本发明实施例考虑用户101、客户端系统120、社交网络服务端160、第三方服务器140以及网络110的任何合适的数量。作为实例但并不作为限制，网络架构100可包括多个用户101、客户端系统120、社交网络服务端160、第三方服务器140以及网络110。

在具体实现方式中，用户101可以是与社交网络服务端160或通过社交网络服务端160交互或者通信的个体(个人用户)、实体(例如，企业、商家或第三方应用)或者(例如，个体的或者实体的)群体。在具体实施方式中，社交网络服务端160可以是承载在线社交网络的网络可寻址计算机系统。社交网络服务端160可生成、存储、接收、以及发送社交网络数据，例如，用户配置文件数据、概念资料数据、社交图谱信息、或者与在线社交网络有关的其他合适数据。社交网络服务端160可由网络架构100的其他组件直接或者经由网络110访问。在具体实施方式中，社交网络服务端160可包括授权服务器(或其他合适的组件)，其允许用户101诸如，通过设定适当的隐私设置，选择启用还是不启用使他们的动作被社交网络服务端160记录或者与其他系统(例如，第三方服务器140)共享。用户的隐私设置可以确定可以记录与用户相关的什么信息，可以如何记录与用户相关的信息，何时可以记录与用户相关的信息，谁可以记录与用户相关的信息，与用户相关的信息可以与谁共享，以及记录或分享与用户相关的信息的目的是什么。在具体实施方式中，第三方服务器140可以是承载网站和应用程序的网络可寻址计算机系统。第三方服务器140可生成、存储、接收、以及发送第三方服务器数据，例如但不限于，网页、文本、图像、视频、音频、或应用程序。第三方服务器140可由网络架构100的其他组件直接或者经由网络110访问。在具体实施方式中，一个或多个用户101可使用一个或多个客户端系统120访问数据、将数据发送至社交网络服务端160或第三方服务器140、以及从社交网络服务端160或第三方服务器140接收数据。客户端系统120可直接、经由网络110或经由第三方服务器访问社交网络服务端160或第三方服务器140。作为实例但并不作为限制，客户端系统120可通过社交网络服务端160访问第三方服务器140。客户端系统120可以是任意合适的计算设备，诸如，个人计算机、便携式计算机、蜂窝电话、智能电话或平板计算机。在具体实施方式中，客户端系统120可以是各种用户设备，诸如器具、汽车、自行车或任何物联网设备。

本发明实施例内容考虑任意合适的网络110。作为实例但并不作为限制，网络110的一个或多个部分可以包括自组织网络、内联网、外联网、虚拟专用网络(VPN)、局域网(LAN)、无线局域网(WLAN)、广域网(WAN)、无线广域网(WWAN)、城域网(MAN)、因特网的一部分、公共交换电话网(PSTN)的一部分、蜂窝电话网络、或它们的两个或更多个的组合。网络110可以包括一个或多个网络110。

网络通信150可将客户端系统120、社交网络服务端160以及第三方服务器140连接到通信网络110或者彼此连接。本发明实施例内容考虑任意合适的网络通信150。在具体实施方式中，一个或多个网络通信150包括一个或多个有线线路(诸如，数字用户线路(DSL)或者有线电缆数据服务发送规范(DOCSIS))、无线网络通信(诸如，Wi-Fi或者802.11、微波存取全球互通(WiMAX)、或者经由TV空白符的无线通信)、或者光学网络通信(诸如，同步光学网络(SONET)或者同步数字体系(SDH))。在具体实施方式中，一个或多个网络通信150各自包括自组织网络、内联网、外联网、VPN、LAN(例如，以太网)、WLAN、WAN、WWAN、MAN、互联网的一部分、PSTN的一部分、以蜂窝技术为基础的网络(例如，GSM、GPRS、UMTS、或者LTE)、以卫星通信技术为基础的网络、另一个网络通信150或者两个或者更多个此类网络通信150的组合。在整个网络架构100中网络通信150不必相同。就一方面或者多方面而言，一个或多个第一网络通信150可不同于一个或多个第二网络通信150。

图1B为本发明实施例一的呈现方法的示意性流程图。图1的呈现方法，包括：

180：获取第一账号针对第一账号与至少一个第二账号进行的即时通信会话设定的安全级别；

190：根据安全级别，确定接收到的第二账号向会话发送的目标消息是否为非安全消息，如果为非安全消息，则以安全方式发送所述目标消息，以便在所述即时通信会话中进行呈现。

一般地，第一账号与至少第二账号进行的即时通信(IM,Instant Messaging)会话为任何形式的即时通信会话，包括但不限于包含B2B或B2C在内的任何电子商务、社交网络等场景。即时通信会话包括但不限于被呈现为诸如会话窗口的会话界面。即时通信会话用于用户之间进行诸如语音、文字、图片或视频的即时会话。即时通信不同于电子邮件，用户之间的交谈是即时的。通常，即时通信服务显示联络人名单，呈现联络人是否在线上与能否与联络人交谈的功能。但应理解，即时通信不意味着只是即时的查看，还包括即时的发送、联络或留言。

具体地，第一账号和第二账号可以为应用程序的登录账号，例如，可以是移动终端的应用程序，也可以是个人电脑等任何用户设备，本发明实施例对此不作限定。第一账号和第二账号可以为注册的用户账号。例如，第一账号在第二账号的通信录中，或者，第二账号在第一账号的通信录中，或者，第一账号和第二账号在彼此的通信录中。例如，第一账号和第二账号在同一个群会话的通信录中。

具体地，图1D为本发明实施例一的一个实现场景的示意图，服务端与多个终端交互，终端中安装有应用程序，本发明实施例的呈现方法可以由服务端执行。第一账号和第二账号为不同账号，例如，在应用程序中注册的不同账号。此外，本发明实施例的第一账号和第二账号不必然地在同一台终端上登录，不同的账号的信息保存在服务端中，用户采用同一账号在不同设备上登录时，可以获得历史的设置，即，设置可以对应于该账号保存。另一方面，用户对会话的设置也可以不对应于账号保存，而是对应于设备和账号两者保存，也就是说，可以在同一设备采用同一账号登录时，呈现保存的设置。在图1D的实施例中，第一账号的用户首先设定其与第二账号(即，另一账号)的用户之间的会话的安全级别，服务器根据安全级别和第二账号发送的目标消息来确定该消息是否安全，如果为是，则客户端可以直接呈现消息，如果为否，则可以指示客户端以安全方式(例如图中的屏蔽处理)呈现消息。可见消息为安全或不安全的条件下，所呈现的内容不同。

应理解，对于第一账号与至少第二账号进行的会话，第一账号可以与第二账号进行一对一的单独对话，对于其他账号而言是私密的；第一账号可以与第二账号处于同一个群会话中，任何一个账号发布的消息对于其他群成员时可见的。通常，对于非私密会话的场景，都是由会话管理员进行管理，例如通过手动发布会话群的规定，其执行效果欠佳，随着信息分享与交流的频次越来越多，本发明实施例实现了在非私密会话的场景下对安全级别的设定。

还应理解，上述会话可以以任何通信方式实现，例如，以客户端的方式实现，也可以也网页的方式实现。

还应理解，安全级别可以表示安全程度的高低。例如，安全级别可以为一个级别，也可以为多个级别。例如，对于一个安全级别，可以设置为安全开关，包括但不限于诸如防黄暴开关的非安全消息屏蔽开关、防骚扰开关、防广告开关、防诈骗开关等用户安全因素；对于多个安全级别，可以设置为安全选项，选项可以为对每一类安全因素的程度的要求，也可以是对安全因素的种类的要求，例如，可以为上述任何一类因素或多个因素的组合。

还应理解，安全级别可以表示安全的类别，换言之，基于不同的类别可以对目标用户接收到的信息或向目标用户发送的信息做筛选。例如，安全级别包括涉黄、诈骗、账户风险、涉政、广告中的任一者。例如，用户接收到各种类别的消息。例如，向目标用户发送的信息包括第一信息、第二信息和第三信息。例如，在涉黄安全级别下，第一信息被列为不安全信息、第二信息和第三信息被列为安全信息。例如，在涉政安全级别先，第二信息被列表不安全信息，而第一信息和第三信息被列为安全信息。例如，在广告安全级别下，第一信息和第二信息被列为不安全信息，第三信息被列为安全信息。

还应理解，上述的涉黄、诈骗、账户风险、涉政、广告中的任一者可以在服务端建立专门的数据库。例如，基于特定的预设时间更新数据库中的信息。例如，

还应理解，上述的涉黄、诈骗、账户风险、涉政、广告中的任一者可以基于用户建立个性化数据。例如，根据用户的对于上述的涉黄、诈骗、账户风险、涉政、广告中的任一者的屏蔽操作的历史数据，为用户建立个性化数据。例如，在服务端为用户建立采集历史屏蔽操作的方法类。例如，针对上述的涉黄、诈骗、账户风险、涉政、广告中的任一者，可以建立不同对象的类。方法类调用上述的针对不同对象的类。也可以建立一个安全级别类型的方法类。例如，关于上述的涉黄、诈骗、账户风险、涉政、广告中的任一者的类继承于该方法类。应理解，本发明实施例的方案可以包括上述的任意组合，对此不作限定。

还应理解，还可以对建立的通信的操作(例如，加好友行为)进行认证。例如，采用认证服务器可以用于通过阻拦、数据散列、匿名化、或其他适用技术强制执行社交网络服务端的用户的一个或多个的隐私设置。

应理解，目标消息可以为任何可以发送的消息，包括但不限于文字消息、视频消息、图片消息和音频消息中的至少一者。

本发明实施例的方案由于在消息为非安全消息时，能够以安全方式进行发送并呈现，从而高效地实现了即时通信会话的安全管理。

另外，本发明实施例的方案由于在不同的安全级别下，信息安全与否会不同，当信息不安全时，能够以安全方式进行呈现，从而提高了会话的安全个性化。

另外，本发明的实施例与传统的作为游客登录的场景有本质的不同，通过采用个性化的对安全级别的设置，提供了更加用户友好的界面。

本发明的实施例与传统的诸如敏感词屏蔽的方式不同，因为统一的敏感词屏蔽是公共舆论环境的需求，但是对于安全的感受却因人而异，本发明实施例提供了个人对安全级别的选择。

本发明实施例与后台管理员人工排查的方式相比，采用了适当的安全呈现方式，减小了人工的工作量。

本发明实施例适用的场景与传统电子邮箱等安全性较高的办公应用场景相比不同，本发明实施例应用的即使通讯场景鼓励在会话中的参与行为，或者诸如交易等互动行为，并且在保证了这种互动性的前提下提高了安全性。

在本发明的另一个实现方式中，对于根据安全级别确定接收到的第二账号向会话发送的目标消息是否为非安全消息，可以根据安全级别来判断第二账号是否安全，也可以根据安全级别来判断目标消息是否安全。

对于根据安全级别来判断第二账号是否安全，可以根据该第二账号被历史标记的情况(例如，次数)、被举报的情况(例如，次数)、或者其发布的信息被屏蔽的情况。

对于根据安全级别来判断目标消息是否安全，可以采用不同的判定基准，例如，该判定基准与安全级别相关联。例如，可以识别接收到的第二账号向会话发送的目标消息的内容来判断。

在本发明的另一个实现方式中，根据所述安全级别，确定接收到的第二账号向即时通信会话发送的目标消息是否为非安全消息，包括：识别接收到的所述第二账号向即时通信会话发送的目标消息的内容；判断所述内容与预先存储的风险主题信息的相关度；根据所述相关度确定所述目标消息是否为非安全消息。

在本发明的另一个实现方式中，第一账号和第二账号为目标应用的注册账号，其中，判断所述内容与预先存储的风险主题信息的相关度，包括：将目标消息的内容进行主题信息提取，得到主题信息特征；将主题信息特征与预先存储的风险主题信息作为预先训练的深度学习模型的输入，得到深度学习模型的输出为相关度，其中，预先存储的风险主题信息通过目标应用的多个注册账号中的每个注册账号发送的消息的内容以及所述消息被举报的次数和关键词而得到。

在本发明的另一个实现方式中，所述风险主题信息基于第一账号的历史数据来确定，例如，基于第一账号对第二账号的屏蔽行为或举报行为的特征信息或者次数确定特征主题，并且将特征主题确定所述风险信息主题。

例如，可以通过采用人工智能判断内容与预先存储的风险主题信息的相关度，还可以识别目标信息中是否包括预定设定的关键词。例如，根据相关度确定目标消息是否为非安全消息，例如，当与风险主题信息的相关度高于预设阈值时被判定为非安全消息。

应理解，风险主题信息和关键词可以预先存储在服务端中，或者通过关键词采集部件获得，或者通过机器学习判定后被标记，或者通过大规模的数据采集而被划为，或者为后台工作人员设定，本发明实施例对此不作限定。

还应理解，上述的关键词或风险主题信息可以与设定的安全级别相关联，或者相关度可以与安全级别相关联，不同的相关度优选与不同的安全级别关联，或者可以通过数据统计，相适应地将判定基准与安全级别相关联。

在本发明的另一实现方式中，对于以安全方式进行呈现，可以发送所述目标消息并指示在会话中对目标消息进行屏蔽处理。也可以在会话中呈现目标消息，同时呈现该目标消息的风险程度的标记或信息，例如，疑似骚扰，疑似敏感内容等。

在本发明的另一实现方式中，所述方法还包括：根据安全级别确定风险主题信息。例如，当存在多个安全级别时，针对不同的安全级别对应的风险主题信息，进而判断目标消息是否为非安全消息。例如，安全级别与风险主题信息的对应关系可以由人工设定，或者通过诸如有监督学习的深度学习进行判定，例如将风险主题信息设定为多个等级，不同的等级基于用户的历史举报情况和大数据整体进行确定，例如，通过将两者设定不同的权重来确定最终的风险主题信息的等级。

在本发明的另一实现方式中，以安全方式发送目标消息，包括：发送所述目标消息并指示在会话中对目标消息进行屏蔽处理；或者，发送所述目标消息并指示在会话中对目标消息进行再次确认的提示；或者，在会话中对目标消息进行屏蔽处理，并且在会话中提示对目标消息进行再次确认的提示。由于对消息进行了屏蔽，并且提示了再次确认的提示，因此，在保证第一账号和第二账号互动性的同时兼顾了安全性，从而使用户安全地享受即时通信的乐趣。

在本发明的另一实现方式中，所述方法还包括：如果确定接收到的第二账号向会话发送的目标消息为安全消息，则向会话发送目标消息，以便直接呈现。应理解，即使设定了安全级别，但对于安全的消息，也会向第一账号照常呈现，使用户不会察觉，保证了即时通信用户体验。例如，基于第一账号和第二账号之间的互动频次来估算第二账号的信用度，对于较高信用度判定为具有较高的安全指数，对于目标消息是否为非安全消息的判定基于目标消息的内容和第二账号的信用度两者来判定。例如，在群会话中，第二账号的信用度也可以通过活跃指数或者第二账号在与不同账号的不同会话中的历史统计互动性和被举报的频次来确定第二账号的信用度。

在本发明的另一实现方式中，所述方法还包括：在会话中获取第一账号的请求；响应请求，对目标消息设定干扰级别。例如，在干扰级别下，被判定为安全的消息仍然会被标记为属于干扰，干扰的消息会影响互动性，因此，本实施例除了考虑到消息的安全性，还兼顾了用户的喜好，进而提高了即使通信的互动性。干扰级别用于表征用户认定目标消息对其产生干扰的程度，可以用于表征一种情感倾向，应理解，对于不同的干扰级别，对同一消息判定为是否属于干扰的结果可以不同。一般地，干扰级别越高，被判定为属于干扰的消息越多。

图1C为本发明实施例一的另一实现方式的服务端的数据处理的示意图，例如，如图1C所示，账号A和账号B都为文中第二账号的实例，虚线左边为服务端对全局所有账号都使用的判定标准，账号A对应于风险主题信息A、B、C、D，账号B对应于风险主题信息A和B，可见账号A的安全级别更高。此外，虚线右侧的为服务端针对每个账号建立的干扰主题标准，在该实例中，账号B具有更高的干扰级别。应理解，对于所有账号采用的全局标准和对特定账号采用个性的标准只是一种实现方式。对于风险主题信息和干扰主题信息都可以采用共用标准和个性标准中的任一者，本发明实施例对此不作限定。

在本发明的另一实现方式中，在会话中获取第一账号的请求，包括：监测会话的会话界面中设置的诸如举报按钮的干扰通知组件的触发事件，其中，响应请求，对目标消息设定干扰级别，包括：响应举报按钮的触发事件，将目标消息列为属于干扰。

在本发明的另一实现方式中，在会话中获取第一账号的请求，包括：监测会话的会话界面中设置的干扰级别设置区域中的干扰级别选项的触发事件，其中，响应请求，对目标消息设定干扰级别，包括：响应干扰级别选项的触发事件，将目标消息列为属于干扰级别选项指示的干扰级别下列为属于干扰。

在本发明的另一实现方式中，还包括：对第二账号进行权限限制处理，权限限制处理用于限制账号在会话中发送消息的时间段。

在本发明的另一实现方式中，对第二账号进行标记处理，标记处理用于对第二账号在会话的会话界面中的头像处进行标记。例如，对第二账号的头像进行图像处理，诸如灰度处理，变色处理等。或者，在第二账号的头像周边设定标记。或者，优选地，在权限限制处理期间，对头像进行上述处理。由于在诸如即时通信的社交网络中，头像作为社交场景下身份识别的要素，因此，对头像进行标记有利用用户之间(即，不同账号之间)进行即刻的安全识别，为更多的用户避免了社交安全隐患。也为被标记的账号形成了监督，即，形成了一种对发送非安全消息的有效惩罚机制。

本实施例的呈现方法可以由任意适当的具有数据处理能力的设备执行，包括但不限于：摄像头、终端、移动终端、PC机、服务端、车载设备、娱乐设备、广告设备、个人数码助理(PDA)、平板电脑、笔记本电脑、掌上游戏机、智能眼镜、智能手表、可穿戴设备、虚拟显示设备或显示增强设备等。其中，服务端包括但不限于云端、服务器等。

图2为本发明实施例二的服务端的示意性框图。图2的服务端包括：发送模块210、获取模块220和确定模块230。

其中：

获取模块220，用于获取第一账号针对所述第一账号与至少第二账号进行的即时通信会话设定的安全级别；

确定模块230，用于根据所述安全级别，确定接收到的所述第二账号向所述即时通信会话发送的目标消息是否为非安全消息，如果为非安全消息，则以安全方式发送所述目标消息，以便在所述即时通信会话中进行呈现。

本发明实施例的方案由于在消息为非安全消息时，能够以安全方式进行发送并呈现，从而高效地实现了即时通信会话的安全管理。

在本发明的一个实施方式中，所述确定模块具体用于：识别接收到的所述第二账号向所述即时通信会话发送的目标消息的内容；判断所述内容与预先存储的风险主题信息的相关度；根据所述相关度确定所述目标消息是否为非安全消息。

在本发明的一个实施方式中，所述确定模块具体用于：将所述目标消息的内容进行主题信息提取，得到主题信息特征；将所述主题信息特征与预先存储的风险主题信息作为预先训练的深度学习模型的输入，得到所述深度学习模型的输出为所述相关度，其中，预先存储的风险主题信息通过所述目标应用的多个注册账号中的每个注册账号发送的消息的内容以及该消息被举报的数目和关键词而得到。

在本发明的一个实施方式中，所述确定模块还根据所述安全级别确定所述风险主题信息。

在本发明的一个实施方式中，发送模块具体用于至少以下之一：发送所述目标消息并指示在所述即时通信会话中对所述目标消息进行屏蔽处理：发送所述目标消息并指示在所述即时通信会话中提示对所述目标消息进行再次确认的提示。

在本发明的一个实施方式中，确定模块还用于：如果确定接收到的所述第二账号向所述即时通信会话发送的目标消息为安全消息，则通过发送模块发送所述目标消息，以便在所述即时通信会话中直接呈现。

在本发明的一个实施方式中，获取模块还用于：在所述即时通信会话中获取所述第一账号的请求；服务端还包括响应模块，用于响应所述请求，对所述目标消息设定干扰级别。

在本发明的一个实施方式中，获取模块具体用于：监测所述即时通信会话的会话界面中设置的举报按钮的触发事件，响应模块还用于：响应所述举报按钮的触发事件，将所述目标消息列为属于干扰。

在本发明的一个实施方式中，获取模块具体用于：监测所述即时通信会话的会话界面中设置的干扰级别设置区域中的干扰级别选项的触发事件，

其中，响应模块具体用于：响应所述干扰级别选项的触发事件，将所述目标消息列为所述干扰别选项指示的干扰级别下的干扰。

在本发明的一个实施方式中，服务端还包括处理模块，对所述第二账号进行权限限制处理，所述权限限制处理限制所述账号在所述即时通信会话中发送消息的时间段。

在本发明的一个实施方式中，服务端还包括标记模块，对所述第二账号进行标记处理，所述标记处理用于对所述第二账号在所述即时通信会话的会话界面中的头像处进行标记。

在本发明的一个实施方式中，所述目标消息为文字消息、视频消息、图片消息和音频消息中的至少一者。

在具体应用中，服务端可以实现为云端或服务器。

图3A为本发明实施例三的呈现方法的示意性流程图。图3A的呈现方法包括：

310：呈现第一账号登录的与至少第二账号进行即时通信会话的会话界面，会话界面包括安全级别设置区域；

320：获取安全级别设置区域中设置的第一账号的安全级别；

330：将安全级别发送至服务端，以便接收所述服务端基于所述安全级别以安全方式发送的所述第二账号发送的目标消息；

340：在会话界面中呈现所述目标消息。

应理解，本发明实施例的呈现方法例如应用于客户端应用程序。在本发明的应用场景中，客户端包括通讯录应用程序、消息应用程序、即时通信应用程序、社交应用程序等。通信录应用程序中包括与第一账号的具有社交关系的多个账号，如图3B所示。通过获取多个账号中的特定账号区域的触发操作，例如，对第二账号的触发操作，进入会话界面，如图3C所示。通过获取消息页面中的多个会话指示区域中的任一者，进入会话界面，所述即时通信会话指示区域包括单独会话指示区域、群会话指示区域等，在从群会话指示区域进入的情况下，如图3D所示，进入群会话的一个示例如图3E所示。

还应理解，所示触发操作包括但不限于鼠标触发、键盘触发、手势触发、三维姿态触发等。

还应理解，可以采用多个场景实现本发明实施例，例如，当第一账号与第二账号进行单独即时通信时，如图3C所示，安全级别设置区域呈现为非安全消息屏蔽开关。例如，当第一账号和第二账号处于群会话时，如图3E所示，安全级别设置区域呈现有多个安全级别选项，所述选项的子区域可以设置成点击选中，或者被设置成滑动选中等。对于利用非安全消息屏蔽开关设定安全级别，可以通过多次触发该开关，例如，当一共有低、中和高三级安全级别时，点击一次可以进入中级安全级别，点击两次可以进入高级安全级别。对于利用安全级别设置区域设定安全级别，可以直接点击该区域，或者，通过用户移动滑块在三个子区域中的特定位置，即可获得对应于特定位置的安全级别。应理解，上述实施例仅是示例性的，本发明对数量以及形式均不作限定。

还应理解，可以获取用户对目标消息的特定触发操作，呈现干扰级别设置区域，如图3E所示的干扰开关，干扰级别设置区域包括举报、屏蔽等功能，优选地，在一个实施例中，安全级别设定针对会话，而干扰级别针对消息。

还应理解，安全级别可以包括涉黄、诈骗、账户风险、涉政、广告中的任一者。例如，可以针对上述的不同类别以不同的颜色进行区分，设置在触发组件(例如，触发开关)的位置。

还应理解，用户对客户端应用程序的个性化界面中可以对是否显示上述的触发组件进行设置。例如，会话界面中可以包括滑动触发组件，用于设置上述的触发组件的显示触发，即，是否显示安全级别触发组件。例如，当监测到用户的当前设置存在风险时，可以向用户提示设置上述的用于显示触发的组件。例如，将上述的涉黄、诈骗、账户风险、涉政、广告中的不同类别采用特定的特征图形来标识。例如，当同时为用户显示多种类别的选择时，可以成列或成排显示上述的各自的特征图标。例如，当同时为用户显示多种类别的选择时，可以成列或成排显示上述的各自的颜色。

还应理解，例如，安全级别触发组件为第一显示元素。例如，用于选择是否显示安全级别触发组件的选择触发组件为第二显示元素。例如，可以将上述的第一显示元素和第二显示元素结合。例如，将不同的安全级别触发组件显示为滚动触发组件。例如，所述滚动触发组件具有多个滚动面。例如，多个滚动面分别对应显示上述的涉黄、诈骗、账户风险、涉政、广告中的至少一个类别以及指示“不显示”的滚动面。例如，当用户选择“不显示”滚动面时，则响应该操作，不显示滚动触发组件，换言之，呈现空白区域。例如，当用户触发给空白区域时，显示该滚动触发组件。

应理解，除了上述的滚动触发组件之外，本发明实施例的其他触发组件均可以已不显示的方式设置。由于本发明实施例对不安全消息进行了不同方式的呈现，而对组件可以采用不显示的方式设置，使得用户界面极大地简化。另外，基于用户对于会话界面的使用习惯，很方便记忆特定区域的组件的功能。另外，不显示触发组件自身的设计有利于用户记忆触发组件的位置和功能。另外，不显示触发组件的设置方式有利于激发用户的探索意识，从而增加了趣味性。

以上所述的所有触发操作都包括但不限于基于按压时间的长按和短按等、基于点击次数的双击和单击、基于点击连续性的滑动操作等等。

本发明实施例的方案由于接收服务端基于设置的安全级别以安全方式发送的消息，并且呈现该消息，从而高效地实现了即时通信会话的安全管理。

在本发明的另一实现方式中，安全级别设置区域被显示为非安全消息屏蔽开关。

在本发明的另一实现方式中，如果第二账号发送的目标消息在安全级别下为非安全消息，在会话界面中呈现所述目标消息，包括：在会话界面中，以目标消息的内容不可见状态进行呈现。

在本发明的另一实现方式中，所述方法还包括：获取在会话界面上对内容不可见状态的目标消息的打开请求；响应打开请求，呈现至少一次确认打开提示。

本实施例的呈现方法可以由任意适当的具有数据处理能力的设备执行，包括但不限于：摄像头、终端、移动终端、PC机、服务端、车载设备、娱乐设备、广告设备、个人数码助理(PDA)、平板电脑、笔记本电脑、掌上游戏机、智能眼镜、智能手表、可穿戴设备、虚拟显示设备或显示增强设备等。

图4为本发明实施例四的客户端的示意性框图。图4的客户端包括：

第一呈现模块410，呈现第一账号登录的与至少第二账号进行会话的会话界面，会话界面包括安全级别设置区域；

获取模块420，获取安全级别设置区域中设置的第一账号的安全级别；

收发模块430，将安全级别发送至服务端，以便接收所述服务端基于所述安全级别以安全方式发送的所述第二账号发送的目标消息；

第二呈现模块440，在会话界面中呈现所述目标消息。

在本发明的另一实现方式中，安全级别设置区域被显示为非安全消息屏蔽开关。例如，被显示为黄暴开关。

在本发明的另一实现方式中，第二账号发送的目标消息在安全级别下为非安全消息，第一呈现模块410还用于：在会话界面中，以目标消息的内容不可见状态进行呈现。

在本发明的另一实现方式中，获取模块420还用于：获取在会话界面上对内容不可见状态的目标消息的打开请求。所述客户端还包括响应模块，响应打开请求，呈现至少一次确认打开提示。

本发明实施例的方案由于接收服务端基于设置的安全级别以安全方式发送的消息，并且呈现该消息，从而高效地实现了即时通信会话的安全管理。

图5为本申请实施例五中电子设备的结构示意图；该电子设备可以包括：

一个或多个处理器501；

计算机可读介质502，可以配置为存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如上述实施例一或实施例三所述的呈现方法。

图6为本申请实施例六中电子设备的硬件结构；如图6所示，该电子设备的硬件结构可以包括：处理器601，通信接口602，计算机可读介质603和通信总线604；

其中处理器601、通信接口602、计算机可读介质603通过通信总线604完成相互间的通信；

可选地，通信接口602可以为通信模块的接口，如GSM模块的接口；

其中，处理器601具体可以配置为：获取第一账号针对所述第一账号与至少一个第二账号进行的即时通信会话设定的安全级别；根据所述安全级别，确定接收到的所述第二账号向所述即时通信会话发送的目标消息是否为非安全消息，如果为非安全消息，则以安全方式发送所述目标消息，以便在所述即时通信会话中进行呈现，或者，

处理器601具体可以配置为：呈现第一账号登录的与至少第二账号进行即时通信会话的会话界面，会话界面包括安全级别设置区域；获取安全级别设置区域中设置的第一账号的安全级别；将安全级别发送至服务端，以便接收所述服务端基于所述安全级别以安全方式发送的所述第二账号发送的目标消息；在会话界面中呈现所述目标消息。

处理器601可以是通用处理器，包括中央处理器(Central Processing Unit，简称CPU)、网络处理器(Network Processor，简称NP)等；还可以是数字信号处理器(DSP)、专用集成电路(ASIC)、现成可编程门阵列(FPGA)或者其它可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

计算机可读介质603可以是，但不限于，随机存取存储介质(Random AccessMemory，RAM)，只读存储介质(Read Only Memory，ROM)，可编程只读存储介质(Programmable Read-Only Memory，PROM)，可擦除只读存储介质(Erasable ProgrammableRead-Only Memory，EPROM)，电可擦除只读存储介质(Electric Erasable ProgrammableRead-Only Memory，EEPROM)等。

特别地，根据本发明实施例的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本发明实施例的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含配置为执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分从网络上被下载和安装，和/或从可拆卸介质被安装。在该计算机程序被中央处理单元(CPU)执行时，执行本申请的方法中限定的上述功能。需要说明的是，本申请所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读介质例如可以但不限于是电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储介质(RAM)、只读存储介质(ROM)、可擦式可编程只读存储介质(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储介质(CD-ROM)、光存储介质件、磁存储介质件、或者上述的任意合适的组合。在本申请中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输配置为由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写配置为执行本申请的操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如”C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务端上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络：包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个配置为实现规定的逻辑功能的可执行指令。上述具体实施例中有特定先后关系，但这些先后关系只是示例性的，在具体实现的时候，这些步骤可能会更少、更多或执行顺序有调整。即在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本申请实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中。

作为另一方面，本申请还提供了一种计算机可读介质，其上存储有计算机程序，该程序被处理器执行时实现如上述实施例一或实施例三所描述的呈现方法。

作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的装置中所包含的；也可以是单独存在，而未装配入该装置中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该装置执行时，使得该装置：获取第一账号针对所述第一账号与至少一个第二账号进行的即时通信会话设定的安全级别；根据所述安全级别，确定接收到的所述第二账号向所述即时通信会话发送的目标消息是否为非安全消息，如果为非安全消息，则以安全方式发送所述目标消息，以便在所述即时通信会话中进行呈现、或者，

使得该装置：呈现第一账号登录的与至少一个第二账号进行即时通信会话的会话界面，所述会话界面包括安全级别设置区域；获取所述安全级别设置区域中设置的所述第一账号的安全级别；将所述安全级别发送至服务端，以便接收所述服务端基于所述安全级别以安全方式发送的所述第二账号发送的目标消息；在所述会话界面中呈现所述目标消息。

在本发明实施例的各种实施方式中所使用的表述“第一”、“第二”、“所述第一”或“所述第二”可修饰各种部件而与顺序和/或重要性无关，但是这些表述不限制相应部件。以上表述仅配置为将元件与其它元件区分开的目的。例如，第一用户设备和第二用户设备表示不同的用户设备，虽然两者均是用户设备。例如，在不背离本发明实施例的范围的前提下，第一元件可称作第二元件，类似地，第二元件可称作第一元件。

当一个元件(例如，第一元件)称为与另一元件(例如，第二元件)“(可操作地或可通信地)联接”或“(可操作地或可通信地)联接至”另一元件(例如，第二元件)或“连接至”另一元件(例如，第二元件)时，应理解为该一个元件直接连接至该另一元件或者该一个元件经由又一个元件(例如，第三元件)间接连接至该另一个元件。相反，可理解，当元件(例如，第一元件)称为“直接连接”或“直接联接”至另一元件(第二元件)时，则没有元件(例如，第三元件)插入在这两者之间。

以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本申请中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (22)

1.一种呈现方法，包括：

获取第一账号针对所述第一账号与至少一个第二账号进行的即时通信会话设定的安全级别；

根据所述安全级别，确定接收到的所述第二账号向所述即时通信会话发送的目标消息是否为非安全消息，如果为非安全消息，则以安全方式发送所述目标消息，以便在所述即时通信会话中进行呈现。

2.根据权利要求1所述的呈现方法，其中，所述根据所述安全级别，确定接收到的所述第二账号向所述即时通信会话发送的目标消息是否为非安全消息，包括：

识别接收到的所述第二账号向所述即时通信会话发送的目标消息的内容；

判断所述内容与预先存储的风险主题信息的相关度；

根据所述相关度确定所述目标消息是否为非安全消息。

3.根据权利要求2所述的呈现方法，其中，所述第一账号和所述第二账号为目标应用的注册账号，其中，所述判断所述内容与预先存储的风险主题信息的相关度，包括：

将所述目标消息的内容进行主题信息提取，得到主题信息特征；

将所述主题信息特征与预先存储的风险主题信息作为预先训练的深度学习模型的输入，得到所述深度学习模型的输出为所述相关度，

其中，预先存储的风险主题信息通过所述目标应用的多个注册账号中的每个注册账号发送的消息的内容以及所述消息被举报的次数和关键词而得到。

4.根据权利要求2所述的呈现方法，其中，还包括：

根据所述安全级别确定所述风险主题信息。

5.根据权利要求1所述的呈现方法，其中，所述以安全方式发送所述目标消息，包括以下至少之一：

发送所述目标消息并指示在所述即时通信会话中对所述目标消息进行屏蔽处理；

发送所述目标消息并指示在所述即时通信会话中对所述目标消息进行再次确认的提示。

6.根据权利要求1所述的呈现方法，其中，还包括：如果确定接收到的所述第二账号向所述即时通信会话发送的所述目标消息为安全消息，则发送所述目标消息，以便在所述即时通信会话中直接呈现。

7.根据权利要求6所述的呈现方法，其中，还包括：

在所述即时通信会话中获取所述第一账号的请求；

响应所述请求，对所述目标消息设定干扰级别。

8.根据权利要求7所述的呈现方法，其中，所述在所述即时通信会话中获取所述第一账号的请求，包括：

监测所述即时通信会话的会话界面中设置的干扰通知组件的触发事件，

其中，响应所述请求，对所述目标消息设定干扰级别，包括：

响应所述干扰通知组件的触发事件，将所述目标消息列为属于干扰。

9.根据权利要求7所述的呈现方法，其中，所述在所述即时通信会话中获取所述第一账号的请求，包括：

监测所述即时通信会话的会话界面中设置的干扰级别设置区域中的干扰级别选项的触发事件，

其中，响应所述请求，对所述目标消息设定干扰级别，包括：

响应所述干扰级别选项的触发事件，将所述目标消息在所述干扰别选项指示的干扰级别下列为属于干扰。

10.根据权利要求7所述的呈现方法，其中，还包括：

对所述第二账号进行权限限制处理，所述权限限制处理用于限制所述第二账号在所述即时通信会话中发送消息的时间段。

11.根据权利要求7所述的呈现方法，其中，还包括：

对所述第二账号进行标记处理，所述标记处理用于对所述第二账号在所述即时通信会话的会话界面中的头像处进行标记。

12.根据权利要求2所述的呈现方法，其中，所述目标消息为文字消息、视频消息、图片消息和音频消息中的至少一者。

13.根据权利要求1所述的呈现方法，其中，所述安全级别包括涉黄、诈骗、账户风险、涉政、广告中的任一者。

14.一种服务端，包括：获取模块、确定模块和发送模块；

其中：获取模块，用于获取第一账号针对所述第一账号与至少一个第二账号进行的即时通信会话设定的安全级别；

确定模块，用于根据所述安全级别，确定接收到的所述第二账号向所述即时通信会话发送的目标消息是否为非安全消息，如果为非安全消息，则通过所述发送模块以安全方式进行发送所述目标消息，以便在所述即时通信会话中进行呈现。

15.一种呈现方法，包括：

呈现第一账号登录的与至少一个第二账号进行即时通信会话的会话界面，所述会话界面包括安全级别设置区域；

获取所述安全级别设置区域中设置的所述第一账号的安全级别；

将所述安全级别发送至服务端，以便接收所述服务端基于所述安全级别以安全方式发送的所述第二账号发送的目标消息；

在所述会话界面中呈现所述目标消息。

16.根据权利要求15所述的呈现方法，其中，所述安全级别设置区域被显示为非安全消息屏蔽开关。

17.根据权利要求15所述的呈现方法，其中，所述安全级别包括涉黄、诈骗、账户风险、涉政、广告中的任一者。

18.根据权利要求15所述的呈现方法，其中，若所述第二账号发送的目标消息在所述安全级别下为非安全消息，其中，所述在所述会话界面中呈现所述目标消息，包括：

在所述会话界面中，以所述目标消息的内容不可见状态进行呈现。

19.根据权利要求18所述的呈现方法，其中，还包括：

获取在所述会话界面上对内容不可见状态的所述目标消息的打开请求，

响应所述打开请求，呈现至少一次确认打开提示。

20.一种客户端，包括：

第一呈现模块，呈现第一账号登录的与至少一个第二账号进行即时通信会话的会话界面，所述会话界面包括安全级别设置区域；

获取模块，获取所述安全级别设置区域中设置的所述第一账号的安全级别；

收发模块，将所述安全级别发送至服务端，以便接收所述服务端基于所述安全级别以安全方式发送的所述第二账号发送的目标消息；

第二呈现模块，在所述会话界面中呈现所述目标消息。

21.一种电子设备，包括：

一个或多个处理器；

计算机可读介质，配置为存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-13中任意一项权利要求所述的呈现方法，或者，实现如权利要求15-19中任意一项权利要求所述的呈现方法。

22.一种计算机可读介质，其上存储有计算机程序，该程序被处理器执行时实现如权利要求1-13任意一项权利要求所述的呈现方法，或者，实现如权利要求15-19中任意一项权利要求所述的呈现方法。

Images