CN112148983A

CN112148983A - 一种用于税务行业的内容更新推荐方法

Info

Publication number: CN112148983A
Application number: CN202011058105.4A
Authority: CN
Inventors: 张汉同; 刘鹏程; 张子良; 李明
Original assignee: Synthesis Electronic Technology Co Ltd
Current assignee: Synthesis Electronic Technology Co Ltd
Priority date: 2020-09-30
Filing date: 2020-09-30
Publication date: 2020-12-29
Anticipated expiration: 2040-09-30
Also published as: CN112148983B

Abstract

本发明公开一种用于税务行业的内容更新推荐方法，本方法集合了人工智能的多项成果，主要有用户日志分离及提取、税务推荐内容模型生成、用户特征及推荐内容特征比对和相关性计算及上下文计算，答案生成及结果表决。具有较高的容错性和鲁棒性，各个部分根据流程控制整合，实现本发明的完整功能。与仅依靠语音识别、语义理解的智能问答系统相比增加了更多的用户属性，形成的用户画像更加完整，推荐的内容更加贴合用户实际需求和抓住用户的痛点；与传统的推荐系统相比较，当前发明结合多项人工智能技术，对税务行业用户画像和内容推荐做了进一步整合，推荐内容更合理，交互流程更切合实际。

Description

一种用于税务行业的内容更新推荐方法

技术领域

本发明涉及人机交互智能领域，尤其是用于税务行业的多轮交互以及智能内容推荐部分，具体是一种用于税务行业的内容更新推荐方法。

背景技术

近年来，面向税务行业的智能问答或智能推荐系统主要体现在自然语言处理和AIML技术之上构建的智能系统，虽然在技术上不断改建，但是由于税务行业是一个十分复杂的，专业性较强的领域，特别是面向的税务用户整体素质较高，需要访问和涉及的知识非常专业，因此提供推荐的内容需要具有较强的可读性和条理性，力争做到个性化和定制化是目前税务人群面临的较为突出的难题，先前各类推荐系统或智能问答系统普遍是基于检索或基于深度学习方法生成一个答案模型，对用户问题生成相应的答案，方法思路简单，缺点是答案质量不高，有待提高。

发明内容

为了应对税务行业用户对该领域的智能问答系统具有较强专业性和精准性的诉求，以及个体诉求的差异化即定制化内容，本发明提供一种用于税务行业的内容更新推荐方法，基于用户特征提取、深度学习以及推荐算法相结合，可以推荐并生成如多轮对话场景、新关键税务词条变更，具有用户特征的税务文章推荐，具备专业性、可读性、定制性等特点。

为了解决所述技术问题，本发明采用的技术方案是：一种用于税务行业的内容更新推荐方法，本方法包括用户画像提取和税务知识推荐两部分；

用户画像提取包括以下步骤：

S01)、基于用户日志提取用户特征值，所述用户日志包括人脸后台日志、对话日志、点击日志和展示日志，提取的用户特征值包括用户属性、问题集、人机交互集和文章检索集；

S02）、日志理解模块对步骤S01提取的用户特征值进行归并汇集，并通过深度学习网络对用户日志结果做进一步训练，重新提取用户当前的反馈行为；

S03）、税务答案生成模块根据日志理解模块给出的返回行为和日志统计情况，生成符合用户反馈的正向性税务内容；

税务知识推荐包括以下步骤：

S04）、通过并发进程实时接收客户接入数据，所述客户接入数据包括来自客户的对话数据、点击事件、搜索内容和人脸识别记录，通过客户接入数据提取用户特征并将其向量化，然后输出用户和显示的内容的原始特征；

S05）、计算客户接入数据的用户与当前显示或提供的内容的相容评分，并形成用户和内容的评分矩阵；

S06）、根据用户和内容特征以及评分矩阵，计算用户和当前显示或提供的内容的相似度的关系，并输出用户和词条内容的耦合特征；

S07）、相关性计算以及上下文计算，根据用户的本轮交互上下文和此用户历史交互上下文及历史推荐税务词条，通过PersonalRank游走算法做相关性计算以及上下文计算，并同基于业务目标的监督学习内容一块计算输出用户候选集和内容的相似的内容集，为接下来推荐的数据内容作为参考；基于业务目标的监督学习以用户画像提取部分输出的模型样本作为输入；

S08）、基于税务目标的Rank Model，通过DMR模型对用户和候选目标做匹配和排序，然后根据用户属性行为的权重进行softmax，得到每个行为的最终权重，形成基于用户特征的税务模型做推荐准备工作；

S09）、将前述步骤的用户和内容的耦合特征、基于税务目标的模型推荐数据、用户候选集和税务相似内容候选集导入到结果表决器中，计算并表决现有的推荐模型及内容，通过综合计算筛选处推荐的内容。

进一步的，税务答案生成模块生成的内容包括四类，分别为：基本QA结果；多轮对话，即根据时间和内容的上下文信息统计历史记录形成客户独有的多轮对话样本；通过展示日志收集到的相似推荐内容的计算生成基于关键词的税务文档；带时间戳的税务词条变更记录。

进一步的，用户和内容的原始特征根据用户的行为画像形成用户的原始特征表，根据税务内容关键数据，将数据结构化，形成内容特征表，然后归结用户的内容的特征值，形成原始特征，从而给后续的用户和内容的关系提供可计算的数据流。

进一步的，基于邻域的协同过滤算法计算用户和推荐的内容相似度，通过ItemCF角度得到内容之间的相似度之后，使用的cosine度量方法计算用户对当前内容的兴趣，根据兴趣值确定是否将当前用户特征和税务内容做数据耦合。

进一步的，将当前用户特征和税务内容做数据耦合的方式为：将用户行为特征以及基本数据元素与税务关键词特征数据做相容性数据耦合集合，得到最终的特征，并采用这些特征和训练特征集合里面的特征进行匹配，得到的结果可以直接参与相关性邻域计算或参与最终结果表决。

进一步的，相关性计算和上下文计算时，通过graph-based 模型，将用户和内容的数据特征数据集合中的数据形成二元组，设定用户为U，税务关键词为V，每个二元组表示用户U对关键词V产生过行为，通过PersonalRank游走算法计算各个顶点之间的相关性并输出结果。

进一步的，基于用户日志提取用户特征值后，基于用户进入时间和推出时间，按时间顺序做域内信息排序收集。

本发明的有益效果：本发明集合了人工智能的多项成果，主要有用户日志分离及提取、税务推荐内容模型生成、用户特征及推荐内容特征比对和相关性计算及上下文计算，答案生成及结果表决。具有较高的容错性和鲁棒性，各个部分根据流程控制整合，实现本发明的完整功能。

与仅依靠语音识别、语义理解的智能问答系统相比增加了更多的用户属性，形成的用户画像更加完整，推荐的内容更加贴合用户实际需求和抓住用户的痛点；与传统的推荐系统相比较，当前发明结合多项人工智能技术，对税务行业用户画像和内容推荐做了进一步整合，推荐内容更合理，交互流程更切合实际。综上所述，本发明优化和改善了税务行业内容更新和推荐方法，具有商业实用价值。

附图说明

图1为用户画像提取的流程图；

图2为税务知识推荐的流程图；

图3为输出结果效果图1；

图4为输出结果效果图2；

图5为输出结果效果图3；

图6为输出结果效果图4。

具体实施方式

这里将详细的对示例性实施例进行说明。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本发明的一些方面相一致的方法的例子。

实施例1

本实施例公开一种用于税务行业的内容更新推荐方法，本方法包括用户画像提取和税务知识推荐两部分，用户画像提取部分提取用户特征，提取的用户特征反馈至税务知识推荐部分，用于调整税务知识推荐的内容。

如图1所示，用户画像提取包括以下步骤：

S01）、用户属性日志提取

根据服务后台实时变更人脸日志信息以及之前注册的用户属性，综合提取用户的特征属性，例如用户年龄、性别、受教育程度、专业领域、所在地点、访问时间、退出时间、访问频率等。通过利用用户的注册信息和其他行为数据参与统计并作特征推荐。

S02）、用户对话日志提取

本步骤利用自然语言处理（NLP）技术充分分析和理解当前用户的问句，提取用户的时间上下文信息，并将问题收集到的上下文问题和关键词收录到问题集里面，以便用来统计用户的兴趣变化以及动态调整推荐内容的生命周期。

具体的，对话日志提取包含问题分析、问题识别、问题集生成三个模块，问题分析和识别主要利用Ansj工具对用户的对话日志做处理，Ansj是一个基于n-Gram+CRF+HMM的中文分词技术，可以实现中文分词、姓名识别、用户定义词典、关键词提取、关键词标记功能。将问题进行分词和关键词识别后，将Ansj处理后的问题与问题模板进行匹配识别，问题模板主要有包含四个要素用户、地点、时间、实体。例如用户日志是“我想了解契税税率”，根据问题模板返回的标准问题映射是“房产契税税率+是什么”，根据返回的标准问题映射构建问题集。

S03）、人机交互日志（点击日志）提取

点击日志主要收集的是用户在会话过程中对感兴趣的话题或关键词做二次点击跳转的动作响应。用户对咨询问答给出的超链接或关键词，或在浏览税务页面或推送的热点话题时对其中的带有超链接性质的话题或关键词想要继续了解的行为，我们将这些行为单独收集并于认知模型库进行比对，提取出用户的兴趣爱好，对用户做进一步的认知。

通过收集用户的页面的点击和访问情况，其中记录了查询和返回结果，如果用户点击了某个结果，则这个点击信息会被服务器截取并存在在点击日志中，此操作主要收集的是用户与内容感知相关的内容，通过内容感知算法，最终生成用户的认知模型。

认知模型库主要有以下五点：用户行为的操作权重、关键词对应的内容的热度权重、标签权重、用户活跃度和行为时长。例如用户多次点击“房产契税”且停留较长时间，综合得出用户当前的会话主体时房产契税相关的。

S04）、展示日志提取

展示日志是基于用户检索需求返回的税务相关的文章日志记录，相对于对话日志和点击日志，展示日志目的性非常强，表明用户有较大意愿的查询需求，因此提供的文章结构性也非常强，流程是根据用户检索的日志，使用Ansj分词技术获取用户关键词（话题），然后与LDA模型中关于税务的六要素结构化话题做后验分布统计。例如doc表示文章，topic表示主体，通过现有的税务文章模型对用户关键词文本预测topic,取topic概率带到阈值（假定0.3）且topN个topic，则doc1：topic1:0.4, topic1:0.6，如果用户浏览当前doc1,则说明用户对topic1和topic2是感兴趣的，据此可以保存这两个税务关键词条分析的结果，以供后续推荐。

该模块通过集成的搜索税务词条引擎和税务文章投送服务收集用户调用日志，通过将税务文章或词条的内容信息（关键词）形成的向量空间模型，统计用户的行为和推荐内容的关系，通过LDA模型生成需要进一步给用户推荐的相似内容。

S05）、日志理解

通过一个并行程序做周期性的归并汇集用户属性、对话日志、点击日志、展示日志，将这些日志归并和处理，并通过深度学习于历史日志结果做进一步训练，重新提取用户当前的反馈行为。

上面描述的四种日志在单次会话日志中可能仅收集到一种，因此根据统计的本次会话的持续时间和会话的层级数，根据用户的使用时长和深度，形成本次日志交互对有效性，只有大于0.6的才进入下一轮。

本实施例中，通过人脸后台日志、对话日志、点击日志和展示日志，提取用户特征值，以及用户进入时间和退出时间按时间顺序做域内信息排序收集。如当前用户所在地点,访问时间，退出时间，访问频率，受教育程度，专业领域，对话上下文，点击过的关键词，检索过的文章等,将取得的数据进行必要的数据筛选和处理,然后通过趋势分析、对比分析、交叉分析方法对现有数据根据特定的指标分为简单的QA、多轮对话上下文、带有个人特色关键词属性的查询文档、个人浏览过的按时间戳排序的税务词条记录。

S06）、税务答案生成

根据日志理解模块给出的返回行为和日志统计情况，生成符合用户反馈的正向性税务内容，包含四类输出结果：基本QA结果；多轮对话库，根据时间和内容的上下文信息统计历史记录形成客户独有的多轮对话样本；通过展示日志收集到的相似推荐内容的计算生成基于关键词的税务文档；带时间戳的税务词条变更记录等。

本实施例中，通过日志理解模块收集到的本轮交互数据和用户的历史数据集，生成本轮对话后的税务效果数据集，对于效果集建立的具体实施有：一，基础数据库准备，利用网络爬虫对12333和12366里面的数据爬取收集50K条，通过深度学习抽取四元组共20K，然后通过多层神经网络的深度学习模型，作为Encode部分多层神经网络，设定隐层数L位5。对每个问题进行模板匹配，根据基础数据库生成四元组（上下文，信息，标签，问题答案）输出训练样本，将上面日志收集到的内容作为输入，输入到深度学习模型中，进行训练，根据输入日志类型和日志理解环节权重的不同，最终输出表格化的用户行为条目，其中有userid(行为用户的ID)、itemid（行为对象的ID）、behaviortype（行为种类，例如对话，点击，展示，搜索等）、context（产生行为的上下文，如时间、地点等）、behaviorweight（行为的权重，如对话时长、点击后浏览时长、搜搜索推荐的后的评价分数）、behaviorcontent（行为的内容，如果是咨询行为，则为上下文，如果是点击，则是标签，如果是搜索则是主体关键词）。

本实施例中，基本QA结果为Q&A类型简单知识问答，例如Q：契税税率是什么A：契税是指不动产（土地、房屋）产权发生转移变动时，就当事人所订契约按产价的一定比例向新业主（产权承受人）征收的一次性税收。

多轮对话数据举例：例如Q：我要缴纳契税税率A：请问你是个人还是公司房产 Q：个人。A：请问是住宅还是非住宅 Q：非住宅。A：个人非住宅房产的契税税率为3%，例如图5。

整理并输出带有用户历史查询记录关键词的税务文档，通过文章摘要比对和整理，相同类型的文章（例如文章的六要素是一致的）赋予时间戳。

如图2所示，税务知识推荐部分即用户正常交互过程本方法推荐的数据流程包括以下步骤：

S07）、接收客户接入数据

启动一个并发进程实时接收来自客户的对话数据、点击事件、搜索内容和人脸识别记录，通过四个方面收集用户的各种属性数据，如点击时间收集用户认知信息，人脸识别获取用户的注册信息和行为特征，对话收集用户时间上下文，搜索收集用户和税务内容相似推荐度等。

S08）、用户特征提取和向量化。

根据用户基本注册信息以及用户的行为形成相关上下文信息的显性或隐形反馈数据集，将这些数据集信息进行向量化，形成相对完整的用户画像。

S09）、用户及内容原始特征。

根据用户的行为画像形成用户的原始特征表，根据税务内容关键数据，将数据结构化，形成内容特征表，然后归结用户和内容的特征值，形成原始特征，以便给后续的用户和内容的关系提供可计算的数据流。

S09）、计算用户和当前内容的评分。

计算用户画像和当前的税务内容相关性评分，如果是新用户则切换为历史税务推荐性最高内容板块给到用户再次做该用户

S10）、用户和内容的评分矩阵。基于内容的协同过滤算法，形成用户和内容之间的评分矩阵，适用于用户有新行为时形成的矩阵结果实时性。

S11）、用户和内容的关系计算。

基于邻域的协同过滤算法计算用户和推荐的内容相似度，通过ItemCF角度得到内容之间的相似度之后，使用的cosine度量方法计算用户对当前内容的兴趣，根据兴趣值确定是否将当前用户特征和税务内容做数据耦合。

例如用户属性为税务财会人员，兴趣为契税方面，当前默认画面主体为个税查询的相关内容，方法显示的交互关系值为0.8，即相关性处于正常范围，如果用户对本词条不感兴趣，下面紧接的内容会提供0.9以上的契税相关的文章。

S12）、用户和内容的耦合特征。

将用户行为特征以及基本数据元素与税务关键词特征数据做相容性数据耦合集合，得到最终的特征，并采用这些特征和训练特征集合里面的特征进行匹配，得到的结果可以直接参与相关性邻域计算或参与最终结果表决。

S13）、相关性计算和上下文计算。

通过graph-based 模型，将用户和内容的数据特征数据集合中的数据形成二元组，设定用户为U，税务关键词为V，每个二元组表示用户U对关键词V产生过行为，通过PersonalRank游走算法计算各个顶点之间的相关性并输出结果。

S13）、用户候选集和内容候选集。

根据相关性计算结果和用户与税务关键词的耦合特征集合，生成用户候选集和内容候选集。

S14）、对用户图像提取部分输出的四种样本模型进行基于业务目标的监督学习，通过深度学习技术将带有内容标注的源域数据对样本模型做域迁移对模型进行微调，最后通过伪标记方法获取的数据对模型做进一步的微调。

所述四种样本模型为：QA类型、多轮对话模型、带关键词条的税务文档和带时间戳的税务词条记录。

S15）、基于税务目标的Rank Model。通过DMR模型对用户和候选目标做匹配和排序。然后根据用户属性行为的权重进行softmax，得到每个行为的最终权重，最终形成基于用户特征的税务知识模型。

S16）、量化评估并表决计算结果。

将前面准备好的用户和内容的耦合特征、基于税务目标的模型推荐数据、用户候选集和税务相似内容内容候选集等数据导入到结果表决器中，计算并表决现有的推荐模型及内容，主要依据参数有PV点击率、UV点击率、曝光点击率、UV转换率、人均点击次数，内容留存率、内容停留时间、播放完成率。通过综合计算筛选出推荐的内容，参考图3、4、5、6。

以上描述的仅是本发明的基本原理和优选实施例，本领域技术人员根据本发明做出的改进和替换，属于本发明的保护范围。

Claims

1.一种用于税务行业的内容更新推荐方法，其特征在于：本方法包括用户画像提取和税务知识推荐两部分；

用户画像提取包括以下步骤：

税务知识推荐包括以下步骤：

2.根据权利要求1所述的用于税务行业的内容更新推荐方法，其特征在于：税务答案生成模块生成的内容包括四类，分别为：基本QA结果；多轮对话，即根据时间和内容的上下文信息统计历史记录形成客户独有的多轮对话样本；通过展示日志收集到的相似推荐内容的计算生成基于关键词的税务文档；带时间戳的税务词条变更记录。

3.根据权利要求1所述的用于税务行业的内容更新推荐方法，其特征在于：用户和内容的原始特征根据用户的行为画像形成用户的原始特征表，根据税务内容关键数据，将数据结构化，形成内容特征表，然后归结用户的内容的特征值，形成原始特征，从而给后续的用户和内容的关系提供可计算的数据流。

4.根据权利要求1所述的用于税务行业的内容更新推荐方法，其特征在于：基于邻域的协同过滤算法计算用户和推荐的内容相似度，通过ItemCF角度得到内容之间的相似度之后，使用的cosine度量方法计算用户对当前内容的兴趣，根据兴趣值确定是否将当前用户特征和税务内容做数据耦合。

5.根据权利要求4所述的用于税务行业的内容更新推荐方法，其特征在于：将当前用户特征和税务内容做数据耦合的方式为：将用户行为特征以及基本数据元素与税务关键词特征数据做相容性数据耦合集合，得到最终的特征，并采用这些特征和训练特征集合里面的特征进行匹配，得到的结果可以直接参与相关性邻域计算或参与最终结果表决。

6.根据权利要求1所述的用于税务行业的内容更新推荐方法，其特征在于：相关性计算和上下文计算时，通过graph-based 模型，将用户和内容的数据特征数据集合中的数据形成二元组，设定用户为U，税务关键词为V，每个二元组表示用户U对关键词V产生过行为，通过PersonalRank游走算法计算各个顶点之间的相关性并输出结果。

7.根据权利要求1所述的用于税务行业的内容更新推荐方法，其特征在于：基于用户日志提取用户特征值后，基于用户进入时间和推出时间，按时间顺序做域内信息排序收集。