CN109508441A - 数据分析方法、装置及电子设备 - Google Patents

数据分析方法、装置及电子设备 Download PDF

Info

Publication number
CN109508441A
CN109508441A CN201810956076.XA CN201810956076A CN109508441A CN 109508441 A CN109508441 A CN 109508441A CN 201810956076 A CN201810956076 A CN 201810956076A CN 109508441 A CN109508441 A CN 109508441A
Authority
CN
China
Prior art keywords
data
intention
target
data analysis
word slot
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810956076.XA
Other languages
English (en)
Other versions
CN109508441B (zh
Inventor
崔耿
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Jiangsu Sai Rui Information Polytron Technologies Inc
Original Assignee
Jiangsu Sai Rui Information Polytron Technologies Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Jiangsu Sai Rui Information Polytron Technologies Inc filed Critical Jiangsu Sai Rui Information Polytron Technologies Inc
Priority to CN201810956076.XA priority Critical patent/CN109508441B/zh
Publication of CN109508441A publication Critical patent/CN109508441A/zh
Application granted granted Critical
Publication of CN109508441B publication Critical patent/CN109508441B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/18Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Operations Research (AREA)
  • Probability & Statistics with Applications (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Algebra (AREA)
  • Evolutionary Biology (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Machine Translation (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本发明实施例提供一种数据分析方法、装置及电子设备。所述数据分析方法,包括:获取数据分析指令;对所述数据分析指令进行识别,与预存的意图库进行匹配得到所述数据分析指令对应的目标意图;根据所述目标意图生成统计程序;以及执行所述统计程序得到所述数据分析指令对应的数据分析结果。

Description

数据分析方法、装置及电子设备
技术领域
本发明涉及数据处理领域,具体而言,涉及一种数据分析方法、装置及电子设备。
背景技术
对于数据的统计分析,也就是就各类数据进行计算分析得到不同类型的数据分布,当前主流的数据分析工具实现数据统计分析的主要方法是:通过键盘和鼠标对数据表字段的“拖拉拽”的方式定义图表,实现数据的统计分析。
发明内容
有鉴于此,本发明实施例的目的在于提供一种数据分析方法、装置及电子设备。
第一方面,本发明实施例提供的一种数据分析方法,包括:
获取数据分析指令;
对所述数据分析指令进行识别,与预存的意图库进行匹配得到所述数据分析指令对应的目标意图;
根据所述目标意图生成统计程序;以及
执行所述统计程序得到所述数据分析指令对应的数据分析结果。
作为一种可选的实施方式,所述获取数据分析指令的步骤之前,所述方法还包括:
根据对数据统计分析表达方式的抽象,定义词典;
其中,所述词典包括三组数据,分别为:词典分类、每个词典分类对应一类或多类词典名称、每个词典名称对应一类或多类标准词条。
作为一种可选的实施方式,所述获取数据分析指令的步骤之前,所述方法还包括:
根据对数据统计分析展现形式,定义用于展示待展示数据的技能;
其中,定义的技能包括技能名称和该名称对应的技能描述。
作为一种可选的实施方式,所述获取数据分析指令的步骤之前,所述方法还包括:
对历史统计数据的统计分析场景进行分析,定义用户自然语言表达的目的对应的所述意图库;
所述意图库包括意图名称、定义用户自然语言表达样例、执行的技能。
作为一种可选的实施方式,所述获取数据分析指令的步骤之前,所述方法还包括:
预先定义多个词槽模板,每个词槽模板用于表示用户自然语言表达的关键信息;
其中,每个词槽模板包括多个元素:词槽名称、对应词典名称、词条数量。
作为一种可选的实施方式,所述意图库中每个意图,对应有词槽模板,所述词槽模板包括对应意图所需的词条类型、词条数量及词条;所述对所述数据分析指令进行识别,与预存的意图库进行匹配得到所述数据分析指令对应的目标意图的步骤,包括:
对所述数据分析指令对应的文字信息进行分词,得到所述文字信息中多个目标词条;
将所述多个目标词条与所述意图库中的意图对应的词槽模板进行匹配,得到目标意图。
作为一种可选的实施方式,所述将所述多个目标词条与所述意图库中的意图对应的词槽模板进行匹配,得到目标意图的步骤之前,所述方法还包括:
将所述多个目标词条分别预存的词典中的词组进行匹配,将所述多个目标词条转化成多个目标标准词条;
所述将所述多个目标词条与所述意图库中的意图对应的词槽模板进行匹配,得到目标意图的步骤,包括:
将所述多个目标标准词条与所述意图库中的意图对应的词槽模板进行匹配,得到目标意图。
作为一种可选的实施方式,所述根据所述目标意图生成统计程序的步骤,包括:
将所述多个目标词条填充至所述目标意图对应的词槽模板,形成目标词槽;
根据所述目标词槽生成统计程序。
作为一种可选的实施方式,所述根据所述目标词槽生成统计程序的步骤,包括:
根据所述目标词槽从预存的多个技能选择目标技能,所述技能包括:簇状条形图、簇状柱形图、柱形图-折线图、多线图、饼图、方形指标图、汇总表、雷达图;
根据所述目标词槽中的目标词条及所述目标词条及目标技能形成统计要素;
将所述统计要素转化成统计程序,所述统计要素作为所述统计程序的限定参数。
作为一种可选的实施方式,所述获取数据分析指令的步骤,包括:
采集音频数据,所述音频数据作为数据分析指令;
所述对所述数据分析指令进行识别,与预存的意图库进行匹配得到所述数据分析指令对应的目标意图的步骤,包括:
对所述数据分析指令进行识别,转换为文本数据;
对所述文本数据进行识别,与预存的意图库进行匹配得到所述文本数据对应的目标意图。
作为一种可选的实施方式,所述采集音频数据的步骤,包括:
在播放第一询问音频数据后,采集根据所述第一询问音频数据产生的分析类型音频数据;
在播放第二询问音频数据后,采集根据所述第二询问语音产生的指标类型音频数据,所述指标类型语音书中包括指标类型,所述指标类型包括:用户数、订单数中的至少一种;
在播放第三询问音频数据后,采集根据所述第三询问语音产生的维度音频数据,所述维度音频数据包括限定的维度,所述维度包括地区。
作为一种可选的实施方式,所述获取数据分析指令的步骤,包括:
获取在指定输入框输入的文字数据,所述文字数据作为数据分析指令。
第二方面,本发明实施例还提供一种数据分析装置,包括:
获取模块,用于获取数据分析指令;
识别模块,用于对所述数据分析指令进行识别,与预存的意图库进行匹配得到所述数据分析指令对应的目标意图;
生成模块,用于根据所述目标意图生成统计程序;以及
执行模块,用于执行所述统计程序得到所述数据分析指令对应的数据分析结果。
第三方面,本发明实施例还提供一种电子设备,包括存储器以及处理器,所述存储器用于存储支持处理器执行上述方法的程序,所述处理器被配置为用于执行所述存储器中存储的程序。
与现有技术相比,本发明实施例的数据分析方法、装置及电子设备,通过先获取所述数据分析指令,再对所述获取数据分析指令进行识别可以得到目标意图,再根据目标意图得到执统计程序,通过执行程序就可以得到数据分析结果,减少用户在分析数据执行一些复杂的操作,可以实现快速数据分析。
为使本发明的上述目的、特征和优点能更明显易懂,下文特举实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为本发明实施例提供的电子设备的方框示意图。
图2为本发明实施例提供的数据分析方法的流程图。
图3为本发明实施例提供的数据分析方法的步骤S202的详细流程图。
图4为本发明实施例提供的数据分析装置的功能模块示意图。
具体实施方式
下面将结合本发明实施例中附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围,而是仅仅表示本发明的选定实施例。基于本发明的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。同时,在本发明的描述中,术语“第一”、“第二”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
如图1所示,是电子设备100的方框示意图。所述电子设备100包括数据分析装置110、存储器111、存储控制器112、处理器113、外设接口114、输入输出单元115、显示单元116。本领域普通技术人员可以理解,图1所示的结构仅为示意,其并不对电子设备100的结构造成限定。例如,电子设备100还可包括比图1中所示更多或者更少的组件,或者具有与图1所示不同的配置。
本实施例中,所述电子设备100可以是个人电脑(personal computer,PC)、平板电脑、智能手机、个人数字助理(personal digital assistant,PDA)等。
所述存储器111、存储控制器112、处理器113、外设接口114、输入输出单元115及显示单元116各元件相互之间直接或间接地电性连接,以实现数据的传输或交互。例如,这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。所述数据分析装置110包括至少一个可以软件或固件(Firmware)的形式存储于所述存储器111中或固化在所述电子设备100的操作系统(Operating System,OS)中的软件功能模块。所述处理器113用于执行存储器中存储的可执行模块,例如所述数据分析装置110包括的软件功能模块或计算机程序。
其中,所述存储器111可以是,但不限于,随机存取存储器(Random AccessMemory,RAM),只读存储器(Read Only Memory,ROM),可编程只读存储器(ProgrammableRead-Only Memory,PROM),可擦除只读存储器(Erasable Programmable Read-OnlyMemory,EPROM),电可擦除只读存储器(Electric Erasable Programmable Read-OnlyMemory,EEPROM)等。其中,存储器111用于存储程序,所述处理器113在接收到执行指令后,执行所述程序,本发明实施例任一实施例揭示的过程定义的电子设备100所执行的方法可以应用于处理器113中,或者由处理器113实现。
本实施例中,所述电子设备100中安装安卓(Android)、IOS、Windows phone、yunos等操作系统。所述Android操作系统存储在所述存储器111中。其中操作系统可包括各种用于管理系统任务(例如内存管理、存储设备控制、电源管理等)的软件组件和/或驱动。
所述处理器113可能是一种集成电路芯片,具有信号的处理能力。上述的处理器113可以是通用处理器,包括中央处理器(Central Processing Unit,简称CPU)、网络处理器(Network Processor,简称NP)等;还可以是数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述外设接口114将各种输入/输入装置耦合至处理器113以及存储器111。在一些实施例中,外设接口114,处理器113以及存储控制器112可以在单个芯片中实现。在其他一些实例中,他们可以分别由独立的芯片实现。
所述输入输出单元115用于提供给用户输入数据。所述输入输出单元115可以是,但不限于,鼠标和键盘等。
所述显示单元116在所述电子设备100与用户之间提供一个交互界面(例如用户操作界面)或用于显示图像数据给用户参考。在本实施例中,所述显示单元可以是液晶显示器或触控显示器。若为触控显示器,其可为支持单点和多点触控操作的电容式触控屏或电阻式触控屏等。支持单点和多点触控操作是指触控显示器能感应到来自该触控显示器上一个或多个位置处同时产生的触控操作,并将该感应到的触控操作交由处理器进行计算和处理。
本实施例中,可以在使用数据分析方法中的步骤S201至S204中的步骤之前可以对词典、技能、意图库、词槽模板,以使数据分析方法中的步骤S201至S204使用。
本实施例中,所述预先定义查询数据所用的词典:词典定义了用户表达的关键词汇/词条的合集,是根据对数据统计分析表达方式的抽象。
本实施例中,可以根据对数据统计分析表达方式的抽象,定义词典;
其中,所述预存的词典包括三组数据,分别为:词典分类、每个词典分类对应一类或多类词典名称、每个词典名称对应一类或多类标准词条;
在一种实施方式中,所述词典分类包括:业务要素、筛选条件、分析类型、图标类型、关键字。
所述业务要素对应的词典名称包括:指标名称、维度名称、排序字段名称;
所述筛选条件对应的词典名称包括:时间简称、时间点筛选条件、时间段筛选条件、枚举筛选条件、逻辑表达式筛选条件、排序筛选条件、通用筛选条件;
所述分析类型对应的词典名称包括:趋势分析、构成分析、对比分析、排名分析、占比分析、同比分析、环比分析、均值分析;
所述图标类型对应的词典名称包括:条形图、柱图、柱线图、线图、饼图、指标图、汇总图;
所述关键字对应的词典名称包括:排序、变更图形、删除指标、修改指标、增加维度、删除维度、修改维度。
进一步地,每个词典名称还可以对应有多个标准词汇。
定义的词典包括但不仅限于以下表1所示的标准词条:
表1
其中,上表中的各个词典分类、词典名称和标准词条可以包括更多,本实施例中不再一一赘述,本领域技术人员可以在表1的基础上扩展更多的词典内容。
本实施例中,可以先对历史统计数据的统计分析场景进行分析,定义用户自然语言表达的目的对应的所述意图库;
所述意图库包括意图名称、定义用户自然语言表达样例、执行的技能。
本实施例中,所述电子设备中可以预先存储有意图分析数据。所述意图分析数据可以是表格的形式。
参见表2所示的意图分析表的一种形式,本申请实施例的各个技能并不限定为表格形式,也可以是其它数据格式。
表2
可以将所述数据分析指令作为表2中的“用户自然语言表达样例”在表2中进行匹配可以得到所述目标意图。所述目标意图可以包括目标意图名称以及对应的技能。
上述表所示的意图库中仅是示意性的,并不以上表中的举例为限,本领域技术人员可以在表2的基础上扩展更多的意图库中的意图内容。
在一种实施方式中,可以预先定义词槽模板的组成,所述词槽模板可以包括词槽名称、对应词典名称、词条数量。
例如,“对比分析意图”的词槽模板定义如下:
其中,词条数量定义了用户自然语言表达中该词槽可以填充的词条数量,如“筛选条件词槽”的词条数量为0-n,表示用户在表述数据分析意图时,表达的内容中可以没有筛选条件词汇也可以有多个筛选条件词汇,例如“各地区用户和订单量对比”(没有筛选条件词汇)、“昨日各地区用户和订单量对比”(1个筛选条件词汇“昨日”)、“昨日江苏省各地区用户和订单量对比”(2个筛选条件词汇“昨日”、“江苏省”)。
词条数量种类包括但不仅限于以下:
词条数量 说明
1 有且只有1个
1-n 至少有1个
1-2 1个或2个
2 2个
2-n 2个及以上
0-n 任意数量
0-1 0个或者1个
通过将所述文本数据进行分词得到词条,再将词条与词槽模板进行匹配可以更好地匹配模板意图,使最后得到的数据分析结果能够更好地满足用户需求。
本实施例中,可以预先定义多个技能,用于对不同的数据进行展示。
根据对数据统计分析展现形式,定义的需要展示数据的技能;
其中,定义的技能包括技能名称和该名称对应的技能描述;
举例说明,技能名称包括:单维度多指标的簇状条形图,对应的技能描述为:展示单维度多指标簇状条形图。关于更多的例子可以参考表3中的内容。
例如,如表3所示,技能可以包括如下表所示的内容:
表3
可以知道的是上述表3所示的技能仅仅是示意性的,本实施例中还可以包括更多的技能,本领域技术人员可以在表3的基础上扩展更多的技能。
请参阅图2,是本发明实施例提供的应用于图1所示的电子设备的数据分析方法的流程图。下面将对图2所示的具体流程进行详细阐述。
步骤S201,获取数据分析指令。
所述数据分析指令可是音频数据、视频数据或字符串数据。
在一种实施方式中,所述步骤S201可以是通过麦克风采集用户的音频数据。例如,用户需要对哪些数据进行分析时,可以说出想要分析的内容,如“昨日江苏省各地区用户和订单量对比”等。
所述电子设备可以预先存储有询问音频数据,在播放询问音频数据后,采集音频数据作为所述数据分析指令。所述询问音频数据可以是根据所述数据分析指令的组成结构进行分类。所述数据分析指令可以包括:分析类型、指标名称、维度名称。例如时间、地点、查询对象、查询特征;则所述询问音频数据可以包括询问时间、询问地点、询问查询对象、询问查询特征对应的音频。
所述询问音频数据可以包括第一询问音频数据、第二询问语音和第三询问语音。所述第一询问音频数据包括询问分析类型的语音。所述第二询问语音包括询问指标名称的语音。所述第三询问语音包括询问维度名称的语音。其中,所述分析类型可以包括对比分析、环比分析、排名分析等。
所述获取数据分析指令的步骤可包括:
在播放第一询问音频数据后,采集根据所述第一询问音频数据产生的分析类型音频数据;
在播放第二询问音频数据后,采集根据所述第二询问语音产生的指标名称音频数据,所述指标名称包括:用户数、订单数中的至少一种;
在播放第三询问音频数据后,采集根据所述第三询问语音产生的维度名称音频数据,所述维度名称包括地区名称。
其中,第一询问音频数据、第二询问音频数据和第三询问音频数据可以为一条音频数据,在采集用户的回答的语音之前播放。第一询问音频数据中可以包括一个或多个问题。第二询问音频数据中也可以包括一个或多个问题。第三询问音频数据中也可以包括一个或多个问题。
在一种实施方式中,用户直接说出指令,电子设备采集用户说出的数据分析指令对应的音频数据。例如:“各分行申请金额构成”。
在另一种实施方式中,可以通过采用与用户对话方式,分别获取分析方法、分析的指标和分析维度的音频数据。例如:
1)系统播放询问音频数据:“你可以这样问我:查询指标、趋势分析、构成分析、对比分析、排名分析”;
2)用户回答:“构成分析”,系统可以接收用户发成的声音;
3)系统播放询问音频数据:“你想分析哪个指标:1.余额2.申请金额3.审批金额......”
4)用户回答:“申请金额”;
5)系统播放询问音频数据:“你想按哪个维度分析:1.客户2.分行3.支行......”
6)用户回答:“分行”。
通过上述过程可以采集到作为数据分析指令的音频数据。
在另一种实施方式中,所述电子设备的接收输入的字符串作为所述数据分析指令。在一个实例中,所述电子设备的显示界面中有显示有输入框,所述输入框用于接收所述字符串。所述获取数据分析指令的步骤通过获取在指定输入框输入的文字数据,所述文字数据作为数据分析指令实现。
通过采用语音或者文本的交互方式,所有图表生成都是系统自动完成,可以实现“即问即现”,秒级相应,无需等待,极大提高了统计分析效率,降低时间成本。
步骤S202,对所述数据分析指令进行识别,与预存的意图库进行匹配得到所述数据分析指令对应的目标意图。
本实施例中,若所述数据分析指令是音频数据时,对所述数据分析指令进行语音识别转换为文本数据,对所述文本数据进行识别,与预存的意图库进行匹配得到所述文本数据对应的目标意图。如,识别出的文本数据可以是“昨日各地区用户数和订单量对比”。
以所述数据分析指令对应的文字信息为“昨日各地区用户和新增订单量对比”为例,所述目标意图定义主要内容可以包括:
1)意图名称:“对比分析意图”。
2)用户自然语言表达:用户自然语言表达定义用户在表述意图时的表达内容形式,如“昨日各地区用户和订单量对比”。
3)技能:展示簇状柱形图(单维多指标)。
步骤S203,根据所述目标意图生成统计程序。
在一个实例中,根据解析后的所述目标意图中的各个分析要素,查询预先存储的数据表定义元数据信息,将用户统计分析自然语言表达转化成统计程序(如:SQL语句、JAVA程序),以SQL语句为例:
步骤S204,执行所述统计程序得到所述数据分析指令对应的数据分析结果。
执行所述统计程序可以实现查询满足所述统计程序中的条件的数据。
执行所述统计程序可以按照所述目标意图对应的技能对应的方式展示图表:将查询结果数据绘制到簇状柱形图中,展示用户期望的结果。
本发明实施例的数据分析方法,通过先获取所述数据分析指令,再对所述获取数据分析指令进行识别可以得到目标意图,再根据目标意图得到执统计程序,通过执行程序就可以得到数据分析结果,减少用户在分析数据执行一些复杂的操作,可以实现快速数据分析。直接使用输入的自然语言方式进行数据统计分析,使用人员只需要了解业务即可,无需熟悉数据模型和数据分析工具的使用,对使用人员没有任何技术要求,大大降低使用门槛。
本实施例中,所述意图库中每个意图,对应有词槽模板,所述词槽模板包括对应意图所需的词条类型、词条数量及词条。
如图3所示,所述步骤202可以包括:
步骤2021,对所述数据分析指令对应的文字信息进行分词,得到所述文字信息中多个目标词条;
步骤2022,将所述多个目标词条与所述意图库中的意图对应的词槽模板进行匹配,得到目标意图。
分词方法可分为三大类:基于字符串匹配的分词方法、基于理解的分词方法和基于统计的分词方法。
所述基于字符串匹配的分词方法又称机械分词方法,它是按照一定的策略将待分析的汉字串与一个“充分大的”机器词典中的词条进行配,若在词典中找到某个字符串,则匹配成功,也就是识别出一个词。
按照扫描方向的不同,所述基于字符串匹配的分词方法可以分为正向匹配和逆向匹配;按照不同长度优先匹配的情况,所述基于字符串匹配的分词方法可以分为最长匹配和最短匹配;按照是否与词性标注过程相结合,可以分为单纯分词方法和分词与词性标注相结合的一体化方法。常用的字符串匹配的分词方法有如下几种:
(1)正向最大匹配法(从左到右的方向);
(2)逆向最大匹配法(从右到左的方向);
(3)最小切分(每一句中切出的词数最小);
(4)双向最大匹配(进行从左到右、从右到左两次扫描)
这类算法的优点是速度快,时间复杂度可以保持在O(n),实现简单。
所述基于理解的分词方法是通过让计算机模拟人对句子的理解,达到识别词的效果。其基本思想就是在分词的同时进行句法、语义分析,利用句法信息和语义信息来处理歧义现象。它通常包括三个部分:分词子系统、句法语义子系统、总控部分。在总控部分的协调下,分词子系统可以获得有关词、句子等的句法和语义信息来对分词歧义进行判断,即它模拟了人对句子的理解过程。
所述基于统计的分词方法是在给定大量已经分词的文本的前提下,利用统计机器学习模型学习词语切分的规律,从而实现对未知文本的切分。例如最大概率分词方法和最大熵分词方法等。随着大规模语料库的建立,统计机器学习方法的研究和发展,基于统计的中文分词方法渐渐成为了主流方法
主要的统计模型有:N元文法模型(N-gram),隐马尔可夫模型(Hidden MarkovModel,HMM),最大熵模型(ME),条件随机场模型(Conditional Random Fields,CRF)等。
在实际的应用中,基于统计的分词系统都需要使用分词词典来进行字符串匹配分词,同时使用统计方法识别一些新词,即将字符串频率统计和字符串匹配结合起来,既发挥匹配分词切分速度快、效率高的特点,又利用了无词典分词结合上下文识别生词、自动消除歧义的优点。
本实施例中,用户自然语言表达的形式通过词槽来定义。词槽描述了用户自然语言表达中需要包含的关键信息,这些信息对应某个已定义的词典,如:筛选条件、分析维度、指标、分析类型等。
如果用户自然语言表达中词汇/词条符合意图中定义的词槽,则可以确定用户期望执行该意图。并且将这些关键信息填充到对应词槽中,可以作为技能的输入信息,供技能使用。
本实施例中,所述将所述多个目标词条与所述意图库中的意图对应的词槽模板进行匹配,得到目标意图的步骤之前,所述方法还包括:
将所述多个目标词条分别预存的词典中的词组进行匹配,将所述多个目标词条转化成多个目标标准词条。
所述将所述多个目标词条与所述意图库中的意图对应的词槽模板进行匹配,得到目标意图的步骤,包括:将所述多个目标标准词条与所述意图库中的意图对应的词槽模板进行匹配,得到目标意图。
本实施例中,每组意图可以对应一词槽模板,可以将所述目标标准词条中的各个词条与意图库中的意图定义的词槽模板进行匹配,确定所述数据分析指令的最优匹配意图。在一种实施方式中,可以采用意图匹配度评分算法,确定用户自然语言表达的最优匹配意图。所述意图匹配度评分算法通过意图匹配与所述意图库中的所有意图对应的词槽模板的匹配情况进行打分,然后选取打分最高的作为该用户表达的目标意图。打分的关键要素包括:必填词槽的满足程度、用户表达的词条可用程度、词槽的满足程度以及意图上下文匹配情况。
通过将所述多个目标词条分别预存的词典中的词组进行匹配,可以使需要与意图库中的意图对应的词槽模板进行匹配时的准确率更高。
本实施例中,所述步骤S203可以包括:
将所述多个目标词条填充至所述目标意图对应的词槽模板,形成目标词槽;
根据所述目标词槽生成统计程序。
本实施例中,所述方法还包括:预先定义多个词槽模板,每个词槽模板用于表示用户自然语言表达的关键信息;其中,每个词槽模板包括多个元素:词槽名称、对应词典名称、词条数量。
在一个实例中,所述多个目标词条形成的目标自然语句可以是“昨日苏州用户数对比分析”;则将所述目标自然语句填充至所述目标意图对应的词槽模板可以得到:
词槽名称 对应词典名称 填充的词条
筛选条件词槽 通用筛选条件 “昨日”
分析维度词槽 维度名称 “地区”
分析指标词槽 指标名称 “用户数”
对比分析词槽 对比分析 “对比”
根据所述目标词槽统计得到的各个统计要素可以生成统计程序,具体描述如下。
所述根据所述目标词槽生成统计程序的步骤可以包括:根据所述目标词槽从预存的多个技能中选择目标技能;根据所述目标词槽中的目标词条及所述目标词条及目标技能形成统计要素;将所述统计要素转化成统计程序,所述统计要素作为所述统计程序的限定参数。
在上述实例中,例如,今天是2018年2月2日,所述“昨日”可以转换成统计要素“2018年2月1日”。
本实施例中,所述技能包括:簇状条形图、簇状柱形图、柱形图-折线图、多线图、饼图、方形指标图、汇总表、雷达图。
进一步地,可以按照展示数据的不同可以设置更多的技能,例如,还可以是值数值对比图、颜色深度图等。
请参阅图4,是本发明实施例提供的图1所示的数据分析装置的功能模块示意图。本实施例中的数据分析装置110中的各个模块用于执行上述方法实施例中的各个步骤。所述数据分析装置110包括:获取模块1101、识别模块1102、生成模块1103及执行模块1104。
所述获取模块1101,用于获取数据分析指令。
所述识别模块1102,用于对所述数据分析指令进行识别,与预存的意图库进行匹配得到所述数据分析指令对应的目标意图。
所述生成模块1103,用于根据所述目标意图生成统计程序。
所述执行模块1104,用于执行所述统计程序得到所述数据分析指令对应的数据分析结果。
本实施例中,所述意图库中每个意图,对应有词槽模板,所述词槽模板包括对应意图所需的词槽名称、对应词典名称、词条数量;所述识别模块1102还用于:
对所述数据分析指令对应的文字信息进行分词,得到所述文字信息中多个目标词条;
将所述多个目标词条与所述意图库中的意图对应的词槽模板进行匹配,得到目标意图。
本实施例中,所述数据分析装置110还包括:
分词模块,用于将所述多个目标词条分别预存的词典中的词组进行匹配,将所述多个目标词条转化成多个目标标准词条;
所述识别模块1102还用于:
将所述多个目标标准词条与所述意图库中的意图对应的词槽模板进行匹配,得到目标意图。
本实施例中,所述生成模块1103还用于:
将所述多个目标词条填充至所述目标意图对应的词槽模板,形成目标词槽;
根据所述目标词槽生成统计程序。
本实施例中,所述生成模块1103还用于:
根据所述目标词槽从预存的多个技能选择目标技能,所述技能包括:簇状条形图、簇状柱形图、柱形图-折线图、多线图、饼图、方形指标图、汇总表、雷达图;
根据所述目标词槽中的目标词条及所述目标词条及目标技能形成统计要素;
将所述统计要素转化成统计程序,所述统计要素作为所述统计程序的限定参数。
本实施例中,所述获取模块1101还用于:
采集音频数据,所述音频数据作为数据分析指令;
所述识别模块1102还用于:
对所述数据分析指令进行识别,转换为文本数据;
对所述文本数据进行识别,与预存的意图库进行匹配得到所述文本数据对应的目标意图。
本实施例中,所述获取模块1101还用于:
在播放第一询问音频数据后,采集根据所述第一询问音频数据产生的分析类型音频数据;
在播放第二询问音频数据后,采集根据所述第二询问语音产生的指标名称音频数据,所述指标名称包括:用户数、订单数中的至少一种;
在播放第三询问音频数据后,采集根据所述第三询问语音产生的维度名称,音频数据,所述维度名称可以包括地区名称。
本实施例中,所述获取模块1101还用于:
获取在指定输入框输入的文字数据,所述文字数据作为数据分析指令。
关于本实施例的其它细节可以进一步地参考上述方法实施例中的描述,在此不再赘述。
本发明实施例的数据分析装置,通过先获取所述数据分析指令,再对所述获取数据分析指令进行识别可以得到目标意图,再根据目标意图得到执统计程序,通过执行程序就可以得到数据分析结果,减少用户在分析数据执行一些复杂的操作,可以实现快速数据分析。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,附图中的流程图和框图显示了根据本发明的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现方式中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
另外,在本发明各个实施例中的各功能模块可以集成在一起形成一个独立的部分,也可以是各个模块单独存在,也可以两个或两个以上模块集成形成一个独立的部分。
所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。

Claims (14)

1.一种数据分析方法,其特征在于,包括:
获取数据分析指令;
对所述数据分析指令进行识别,与预存的意图库进行匹配得到所述数据分析指令对应的目标意图;
根据所述目标意图生成统计程序;以及
执行所述统计程序得到所述数据分析指令对应的数据分析结果。
2.如权利要求1所述的数据分析方法,其特征在于,所述获取数据分析指令的步骤之前,所述方法还包括:
根据对数据统计分析表达方式的抽象,定义词典;
其中,所述词典包括三组数据,分别为:词典分类、每个词典分类对应一类或多类词典名称、每个词典名称对应一类或多类标准词条。
3.如权利要求2所述的数据分析方法,其特征在于,所述获取数据分析指令的步骤之前,所述方法还包括:
根据对数据统计分析展现形式,定义用于展示待展示数据的技能;
其中,定义的技能包括技能名称和该名称对应的技能描述。
4.如权利要求3所述的数据分析方法,其特征在于,所述获取数据分析指令的步骤之前,所述方法还包括:
对历史统计数据的统计分析场景进行分析,定义用户自然语言表达的目的对应的所述意图库;
所述意图库包括意图名称、定义用户自然语言表达样例、执行的技能。
5.如权利要求4所述的数据分析方法,其特征在于,所述获取数据分析指令的步骤之前,所述方法还包括:
预先定义多个词槽模板,每个词槽模板用于表示用户自然语言表达的关键信息;
其中,每个词槽模板包括多个元素:词槽名称、对应词典名称、词条数量。
6.如权利要求1-5任意一项所述的数据分析方法,其特征在于,所述意图库中每个意图,对应有词槽模板,所述词槽模板包括对应意图所需的词条类型、词条数量及词条;所述对所述数据分析指令进行识别,与预存的意图库进行匹配得到所述数据分析指令对应的目标意图的步骤,包括:
对所述数据分析指令对应的文字信息进行分词,得到所述文字信息中多个目标词条;
将所述多个目标词条与所述意图库中的意图对应的词槽模板进行匹配,得到目标意图。
7.如权利要求6所述的数据分析方法,其特征在于,所述将所述多个目标词条与所述意图库中的意图对应的词槽模板进行匹配,得到目标意图的步骤之前,所述方法还包括:
将所述多个目标词条分别预存的词典中的词组进行匹配,将所述多个目标词条转化成多个目标标准词条;
所述将所述多个目标词条与所述意图库中的意图对应的词槽模板进行匹配,得到目标意图的步骤,包括:
将所述多个目标标准词条与所述意图库中的意图对应的词槽模板进行匹配,得到目标意图。
8.如权利要求6所述的数据分析方法,其特征在于,所述根据所述目标意图生成统计程序的步骤,包括:
将所述多个目标词条填充至所述目标意图对应的词槽模板,形成目标词槽;
根据所述目标词槽生成统计程序。
9.如权利要求8所述的数据分析方法,其特征在于,所述根据所述目标词槽生成统计程序的步骤,包括:
根据所述目标词槽从预存的多个技能中选择目标技能,所述技能包括:簇状条形图、簇状柱形图、柱形图-折线图、多线图、饼图、方形指标图、汇总表、雷达图;
根据所述目标词槽中的目标词条及所述目标词条及目标技能形成统计要素;
将所述统计要素转化成统计程序,所述统计要素作为所述统计程序的限定参数。
10.如权利要求1-5任意一项所述的数据分析方法,其特征在于,所述获取数据分析指令的步骤,包括:
采集音频数据,所述音频数据作为数据分析指令;
所述对所述数据分析指令进行识别,与预存的意图库进行匹配得到所述数据分析指令对应的目标意图的步骤,包括:
对所述数据分析指令进行识别,转换为文本数据;
对所述文本数据进行识别,与预存的意图库进行匹配得到所述文本数据对应的目标意图。
11.如权利要求10所述的数据分析方法,其特征在于,所述采集音频数据的步骤,包括:
在播放第一询问音频数据后,采集根据所述第一询问音频数据产生的分析类型音频数据;
在播放第二询问音频数据后,采集根据所述第二询问语音产生的指标类型音频数据,所述指标类型语音书中包括指标类型,所述指标类型包括:用户数、订单数中的至少一种;
在播放第三询问音频数据后,采集根据所述第三询问语音产生的维度音频数据,所述维度音频数据包括限定的维度,所述维度包括地区。
12.如权利要求1-5任意一项所述的数据分析方法,其特征在于,所述获取数据分析指令的步骤,包括:
获取在指定输入框输入的文字数据,所述文字数据作为数据分析指令。
13.一种数据分析装置,其特征在于,包括:
获取模块,用于获取数据分析指令;
识别模块,用于对所述数据分析指令进行识别,与预存的意图库进行匹配得到所述数据分析指令对应的目标意图;
生成模块,用于根据所述目标意图生成统计程序;以及
执行模块,用于执行所述统计程序得到所述数据分析指令对应的数据分析结果。
14.一种电子设备,其特征在于,包括存储器以及处理器,所述存储器用于存储支持处理器执行权利要求1~12任一项所述方法的程序,所述处理器被配置为用于执行所述存储器中存储的程序。
CN201810956076.XA 2018-08-21 2018-08-21 通过自然语言实现数据统计分析的方法、装置及电子设备 Active CN109508441B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810956076.XA CN109508441B (zh) 2018-08-21 2018-08-21 通过自然语言实现数据统计分析的方法、装置及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810956076.XA CN109508441B (zh) 2018-08-21 2018-08-21 通过自然语言实现数据统计分析的方法、装置及电子设备

Publications (2)

Publication Number Publication Date
CN109508441A true CN109508441A (zh) 2019-03-22
CN109508441B CN109508441B (zh) 2023-12-08

Family

ID=65745570

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810956076.XA Active CN109508441B (zh) 2018-08-21 2018-08-21 通过自然语言实现数据统计分析的方法、装置及电子设备

Country Status (1)

Country Link
CN (1) CN109508441B (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110366107A (zh) * 2019-07-09 2019-10-22 三星电子(中国)研发中心 车辆通信方法及使用该方法的装置
CN111292186A (zh) * 2020-01-17 2020-06-16 中国建设银行股份有限公司 一种数据分析方法和数据分析装置
CN111813903A (zh) * 2020-05-25 2020-10-23 车智互联(北京)科技有限公司 一种问句匹配方法和计算设备
CN112667666A (zh) * 2020-12-31 2021-04-16 民生科技有限责任公司 一种基于N-gram的SQL运行时间预测方法及系统
CN114238634A (zh) * 2021-12-13 2022-03-25 北京智齿众服技术咨询有限公司 正则表达式的生成方法及应用、装置、设备和存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106326482A (zh) * 2016-08-31 2017-01-11 江苏中威科技软件系统有限公司 一种大数据可视化采集分析及文件转换系统和方法
CN107193948A (zh) * 2017-05-22 2017-09-22 邢加和 人机对话数据分析方法及装置
CN107315737A (zh) * 2017-07-04 2017-11-03 北京奇艺世纪科技有限公司 一种语义逻辑处理方法及系统
CN107818148A (zh) * 2017-10-23 2018-03-20 南京南瑞集团公司 基于自然语言处理的自助式查询统计分析方法
CN108108426A (zh) * 2017-12-15 2018-06-01 杭州网蛙科技有限公司 自然语言提问的理解方法、装置及电子设备
CN108415838A (zh) * 2018-03-01 2018-08-17 吉旗(成都)科技有限公司 一种基于自然语言处理技术的自动化测试方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106326482A (zh) * 2016-08-31 2017-01-11 江苏中威科技软件系统有限公司 一种大数据可视化采集分析及文件转换系统和方法
CN107193948A (zh) * 2017-05-22 2017-09-22 邢加和 人机对话数据分析方法及装置
CN107315737A (zh) * 2017-07-04 2017-11-03 北京奇艺世纪科技有限公司 一种语义逻辑处理方法及系统
CN107818148A (zh) * 2017-10-23 2018-03-20 南京南瑞集团公司 基于自然语言处理的自助式查询统计分析方法
CN108108426A (zh) * 2017-12-15 2018-06-01 杭州网蛙科技有限公司 自然语言提问的理解方法、装置及电子设备
CN108415838A (zh) * 2018-03-01 2018-08-17 吉旗(成都)科技有限公司 一种基于自然语言处理技术的自动化测试方法

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110366107A (zh) * 2019-07-09 2019-10-22 三星电子(中国)研发中心 车辆通信方法及使用该方法的装置
CN111292186A (zh) * 2020-01-17 2020-06-16 中国建设银行股份有限公司 一种数据分析方法和数据分析装置
CN111292186B (zh) * 2020-01-17 2023-08-29 中国建设银行股份有限公司 一种数据分析方法和数据分析装置
CN111813903A (zh) * 2020-05-25 2020-10-23 车智互联(北京)科技有限公司 一种问句匹配方法和计算设备
CN111813903B (zh) * 2020-05-25 2023-10-20 车智互联(北京)科技有限公司 一种问句匹配方法和计算设备
CN112667666A (zh) * 2020-12-31 2021-04-16 民生科技有限责任公司 一种基于N-gram的SQL运行时间预测方法及系统
CN114238634A (zh) * 2021-12-13 2022-03-25 北京智齿众服技术咨询有限公司 正则表达式的生成方法及应用、装置、设备和存储介质
CN114238634B (zh) * 2021-12-13 2022-08-02 北京智齿众服技术咨询有限公司 正则表达式的生成方法及应用、装置、设备和存储介质

Also Published As

Publication number Publication date
CN109508441B (zh) 2023-12-08

Similar Documents

Publication Publication Date Title
US11868386B2 (en) Method and system for sentiment analysis of information
CN109508441A (zh) 数据分析方法、装置及电子设备
US20190272269A1 (en) Method and system of classification in a natural language user interface
CN108304375B (zh) 一种信息识别方法及其设备、存储介质、终端
CN109408622B (zh) 语句处理方法及其装置、设备和存储介质
KR102288249B1 (ko) 정보 처리 방법, 단말기, 및 컴퓨터 저장 매체
US9529898B2 (en) Clustering classes in language modeling
CN103870001B (zh) 一种生成输入法候选项的方法及电子装置
CN110020422A (zh) 特征词的确定方法、装置和服务器
CN110019149A (zh) 一种客服知识库的建立方法、装置及设备
KR20160121382A (ko) 텍스트 마이닝 시스템 및 툴
WO2015009586A2 (en) Performing an operation relative to tabular data based upon voice input
US10073828B2 (en) Updating language databases using crowd-sourced input
CN110297880A (zh) 语料产品的推荐方法、装置、设备及存储介质
EP3961426A2 (en) Method and apparatus for recommending document, electronic device and medium
CN110246496A (zh) 语音识别方法、系统、计算机设备及储存介质
CN111079029A (zh) 敏感账号的检测方法、存储介质和计算机设备
CN113806588A (zh) 搜索视频的方法和装置
CN111538815A (zh) 一种文本查询方法、装置、设备及存储介质
JP2004021445A (ja) テキストデータ分析システム、テキストデータ分析方法およびコンピュータプログラム
CN109298796A (zh) 一种词联想方法及装置
KR20220095654A (ko) 소셜 데이터 수집 분석 시스템
CN107391674B (zh) 一种新类挖掘方法及装置
CN112989011B (zh) 数据查询方法、数据查询装置和电子设备
CN111949781B (zh) 一种基于自然语句句法分析的智能交互方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant