CN111782839B - 图像问答方法、装置、计算机设备和介质 - Google Patents

图像问答方法、装置、计算机设备和介质 Download PDF

Info

Publication number
CN111782839B
CN111782839B CN202010616417.6A CN202010616417A CN111782839B CN 111782839 B CN111782839 B CN 111782839B CN 202010616417 A CN202010616417 A CN 202010616417A CN 111782839 B CN111782839 B CN 111782839B
Authority
CN
China
Prior art keywords
feature
information
text region
question
input image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010616417.6A
Other languages
English (en)
Other versions
CN111782839A (zh
Inventor
吕鹏原
张晓强
刘珊珊
章成全
彭启明
吴思瑾
路华
陈永锋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202010616417.6A priority Critical patent/CN111782839B/zh
Publication of CN111782839A publication Critical patent/CN111782839A/zh
Priority to EP21155165.0A priority patent/EP3816818A3/en
Priority to US17/169,112 priority patent/US11854283B2/en
Priority to KR1020210026494A priority patent/KR20220002066A/ko
Priority to JP2021035338A priority patent/JP7206309B2/ja
Application granted granted Critical
Publication of CN111782839B publication Critical patent/CN111782839B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/53—Querying
    • G06F16/532—Query formulation, e.g. graphical querying
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10—Character recognition
    • G06V30/26—Techniques for post-processing, e.g. correcting the recognition result
    • G06V30/262—Techniques for post-processing, e.g. correcting the recognition result using context analysis, e.g. lexical, syntactic or semantic context
    • G06V30/274—Syntactic or semantic context, e.g. balancing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/3331—Query processing
    • G06F16/334—Query execution
    • G06F16/3344—Query execution using natural language analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5846—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using extracted text
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis
    • G06F40/35—Discourse or dialogue representation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/04—Inference or reasoning models
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/04—Inference or reasoning models
    • G06N5/045—Explanation of inference; Explainable artificial intelligence [XAI]; Interpretable artificial intelligence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/60—Type of objects
    • G06V20/62—Text, e.g. of license plates, overlay texts or captions on TV images
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10—Character recognition
    • G06V30/19—Recognition using electronic means
    • G06V30/191—Design or setup of recognition systems or techniques; Extraction of features in feature space; Clustering techniques; Blind source separation
    • G06V30/19173—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40—Document-oriented image-based pattern recognition
    • G06V30/41—Analysis of document content
    • G06V30/413—Classification of content, e.g. text, photographs or tables
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40—Document-oriented image-based pattern recognition
    • G06V30/41—Analysis of document content
    • G06V30/416—Extracting the logical structure, e.g. chapters, sections or page numbers; Identifying elements of the document, e.g. authors
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30176—Document

Abstract

本公开提供了一种图像问答方法。涉及计算机视觉、自然语言处理领域。该方法包括：获取输入图像和输入问题；检测输入图像中的至少一个文本区域各自的视觉信息和位置信息；基于上述视觉信息和位置信息，确定上述至少一个文本区域各自的语义信息和属性信息；基于上述视觉信息、位置信息、语义信息和属性信息，确定输入图像的全局特征；基于输入问题，确定问题特征；并且，基于全局特征和问题特征，生成针对输入图像和输入问题的预测答案。本公开还提供了图像问答装置、计算机设备和介质。

Description

图像问答方法、装置、计算机设备和介质
技术领域
本公开涉及计算机视觉、自然语言处理领域，更具体地，涉及一种图像问答方法、装置、计算机设备和介质。
背景技术
图像问答(Visual Question Answering，VQA)是一项很有挑战性的任务，其目标是将计算机视觉和自然语言处理联系起来。在图像问答任务中，例如给定一张图像和一个相关的问题，要求机器能根据图像内容，结合一些常识来推理得到问题的答案。为完成该图像问答任务，机器必须具有跨模态(Cross-Modal)的理解能力，以针对视觉和语言这两种不同模态(Modality)下的数据实现综合理解。故图像问答任务相比于其他单一模态下的任务(例如图像识别、文档分类等)具有更高的要求。
发明内容
有鉴于此，本公开提供了一种图像问答方法、装置、计算机设备和介质。
本公开的一个方面提供了一种图像问答方法，包括：获取输入图像和输入问题；检测输入图像中的至少一个文本区域各自的视觉信息和位置信息；基于上述视觉信息和位置信息，确定上述至少一个文本区域各自的语义信息和属性信息；基于上述视觉信息、位置信息、语义信息和属性信息，确定输入图像的全局特征；基于输入问题，确定问题特征；并且，基于全局特征和问题特征，生成针对输入图像和输入问题的预测答案。
根据本公开的实施例，上述检测输入图像中的至少一个文本区域各自的视觉信息和位置信息包括：利用文字检测模型对输入图像进行检测，以在输入图像中生成至少一个文本区域各自的检测框。其中，上述至少一个文本区域中每个文本区域的检测框内的图像信息用于表征每个文本区域的视觉信息，每个文本区域的检测框的位置信息用于表征每个文本区域的位置信息。
根据本公开的实施例，上述基于视觉信息和位置信息，确定至少一个文本区域各自的语义信息和属性信息包括：针对至少一个文本区域中的每个文本区域，利用文字识别模型对每个文本区域的视觉信息进行识别，以得到每个文本区域的语义信息。
根据本公开的实施例，属性信息包括：表格属性信息。上述基于视觉信息和位置信息，确定至少一个文本区域各自的语义信息和属性信息还包括：利用表格检测工具，检测输入图像中的至少一个表格区域的位置信息；以及，基于每个文本区域的位置信息和至少一个表格区域的位置信息，确定每个文本区域的表格属性信息，表格属性信息用于表征每个文本区域是否位于至少一个表格区域内。
根据本公开的实施例，上述基于每个文本区域的位置信息和至少一个表格区域的位置信息，确定每个文本区域的表格属性信息包括：根据每个文本区域的位置信息和至少一个表格区域中的每个表格区域的位置信息，计算每个文本区域和所述每个表格区域之间的交集和并集；计算所述交集和并集的比值。在上述比值大于预定阈值的情况下，确定所述每个文本区域关于每个表格区域的表格属性信息为1。在上述比值小于等于预定阈值的情况下，确定每个文本区域关于每个表格区域的表格属性信息为0。
根据本公开的实施例，属性信息包括：文字属性信息。上述基于视觉信息和位置信息，确定至少一个文本区域各自的语义信息和属性信息还包括：利用手写文字识别模型对每个文本区域的视觉信息进行识别，以确定每个文本区域的文字属性信息，文字属性信息用于表征文本区域是否包含手写文字。
根据本公开的实施例，上述基于视觉信息、位置信息、语义信息和属性信息，确定输入图像的全局特征包括：针对至少一个文本区域中的每个文本区域，将每个文本区域的视觉信息、位置信息、语义信息和属性信息分别转换为第一特征、第二特征、第三特征和第四特征，并将第一特征、第二特征、第三特征和第四特征合并为每个文本区域的特征；根据至少一个文本区域各自的位置信息，确定至少一个文本区域的排列顺序；以及，按照排列顺序，利用预定编码模型依次对所述至少一个文本区域的特征进行编码处理，以得到输入图像的全局特征。
根据本公开的实施例，上述将第一特征、第二特征、第三特征和第四特征合并为每个文本区域的特征包括：对第一特征、第二特征、第三特征和第四特征进行连接合并，以得到每个文本区域的特征。或者，对第一特征、第二特征、第三特征和第四特征进行向量相加，以得到以得到所述每个文本区域的特征。
根据本公开的实施例，上述基于所述输入问题，确定问题特征包括：利用词编码算法和特征编码算法依次对输入问题进行编码处理，以得到所述问题特征。
根据本公开的实施例，上述基于全局特征和问题特征，生成针对输入图像和输入问题的预测答案包括：对全局特征和问题特征进行合并，以得到融合特征；以及，利用第一预测模型对融合特征进行处理，以得到针对融合特征的预测答案。第一预测模型基于样本图像、样本问题和第一标签训练得到，第一标签用于表征针对样本图像和样本问题的真实答案。
根据本公开的实施例，上述基于全局特征和问题特征，生成针对输入图像和输入问题的预测答案包括：对全局特征和问题特征进行合并，以得到融合特征；利用第二预测模型对融合特征进行处理，以得到针对融合特征的答案起始位置信息。第二预测模型基于样本图像、样本问题和第二标签训练得到，第二标签用于表征针对样本图像和样本问题的真实答案在样本图像中的起始位置信息。利用第三预测模型对融合特征进行处理，以得到针对融合特征的答案终止位置信息。第三预测模型基于样本图像、样本问题和第三标签训练得到，第三标签用于表征针对样本图像和样本问题的真实答案在样本图像中的终止位置信息；以及，基于答案起始位置信息、答案终止位置信息和输入图像，确定针对输入图像和输入问题的预测答案。
根据本公开的实施例，上述方法还包括：在生成针对所述输入图像和所述输入问题的M个预测答案的情况下，M为大于2的整数，计算所述M个预测答案中的每个预测答案分别与所述M个预测答案中除所述每个预测答案之外的其他M-1个预测答案之间的编辑距离；对编辑距离进行求和，以得到每个预测答案的评估。选择M个预测答案中评估最高的预测答案，作为优选预测答案。
本公开的另一方面提供了一种图像问答装置，包括：获取模块，用于获取输入图像和输入问题。检测模块，用于检测输入图像中的至少一个文本区域各自的视觉信息和位置信息。确定模块，用于基于视觉信息和位置信息，确定至少一个文本区域各自的语义信息和属性信息。编码模块，用于基于视觉信息、位置信息、语义信息和属性信息，确定输入图像的全局特征。问题特征提取模块，用于基于输入问题，确定问题特征。以及，预测模块，用于基于全局特征和问题特征，生成针对输入图像和输入问题的预测答案。
根据本公开的实施例，检测模块用于利用文字检测模型对输入图像进行检测，以在输入图像中生成至少一个文本区域各自的检测框。其中，上述至少一个文本区域中每个文本区域的检测框内的图像信息用于表征每个文本区域的视觉信息，每个文本区域的检测框的位置信息用于表征每个文本区域的位置信息。
根据本公开的实施例，确定模块包括第一确定子模块，用于针对至少一个文本区域中的每个文本区域，利用文字识别模型对每个文本区域的视觉信息进行识别，以得到每个文本区域的语义信息。
根据本公开的实施例，属性信息包括：表格属性信息。确定模块还包括第二确定子模块，用于利用表格检测工具，检测输入图像中的至少一个表格区域的位置信息；以及，基于每个文本区域的位置信息和至少一个表格区域的位置信息，确定每个文本区域的表格属性信息，表格属性信息用于表征每个文本区域是否位于至少一个表格区域内。
根据本公开的实施例，第二确定子模块具体用于根据每个文本区域的位置信息和至少一个表格区域中的每个表格区域的位置信息，计算每个文本区域和所述每个表格区域之间的交集和并集；计算所述交集和并集的比值。在上述比值大于预定阈值的情况下，确定所述每个文本区域关于每个表格区域的表格属性信息为1。在上述比值小于等于预定阈值的情况下，确定每个文本区域关于每个表格区域的表格属性信息为0。
根据本公开的实施例，属性信息包括：文字属性信息。确定模块还包括第三确定子模块，用于利用手写文字识别模型对每个文本区域的视觉信息进行识别，以确定每个文本区域的文字属性信息，文字属性信息用于表征文本区域是否包含手写文字。
根据本公开的实施例，编码模块用于针对至少一个文本区域中的每个文本区域，将每个文本区域的视觉信息、位置信息、语义信息和属性信息分别转换为第一特征、第二特征、第三特征和第四特征，并将第一特征、第二特征、第三特征和第四特征合并为每个文本区域的特征；根据至少一个文本区域各自的位置信息，确定至少一个文本区域的排列顺序；以及，按照排列顺序，利用预定编码模型依次对所述至少一个文本区域的特征进行编码处理，以得到输入图像的全局特征。
根据本公开的实施例，编码模块将第一特征、第二特征、第三特征和第四特征合并为每个文本区域的特征包括：编码模块用于对第一特征、第二特征、第三特征和第四特征进行连接合并，以得到每个文本区域的特征。或者，对第一特征、第二特征、第三特征和第四特征进行向量相加，以得到以得到所述每个文本区域的特征。
根据本公开的实施例，问题特征提取模块用于利用词编码算法和特征编码算法依次对输入问题进行编码处理，以得到所述问题特征。
根据本公开的实施例，预测模块包括第一预测子模块，用于对全局特征和问题特征进行合并，以得到融合特征；以及，利用第一预测模型对融合特征进行处理，以得到针对融合特征的预测答案。第一预测模型基于样本图像、样本问题和第一标签训练得到，第一标签用于表征针对样本图像和样本问题的真实答案。
根据本公开的实施例，预测模块包括第二预测子模块，用于对全局特征和问题特征进行合并，以得到融合特征；利用第二预测模型对融合特征进行处理，以得到针对融合特征的答案起始位置信息。第二预测模型基于样本图像、样本问题和第二标签训练得到，第二标签用于表征针对样本图像和样本问题的真实答案在样本图像中的起始位置信息。利用第三预测模型对融合特征进行处理，以得到针对融合特征的答案终止位置信息。第三预测模型基于样本图像、样本问题和第三标签训练得到，第三标签用于表征针对样本图像和样本问题的真实答案在样本图像中的终止位置信息；以及，基于答案起始位置信息、答案终止位置信息和输入图像，确定针对输入图像和输入问题的预测答案。
根据本公开的实施例，上述装置还包括多答案融合模块，用于在生成针对所述输入图像和所述输入问题的M个预测答案的情况下，M为大于2的整数，计算所述M个预测答案中的每个预测答案分别与所述M个预测答案中除所述每个预测答案之外的其他M-1个预测答案之间的编辑距离；对编辑距离进行求和，以得到每个预测答案的评估。选择M个预测答案中评估最高的预测答案，作为优选预测答案。
本公开的另一方面提供了一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如上所述的方法。
本公开的另一方面提供了一种计算机可读存储介质，存储有计算机可执行指令，所述指令在被执行时用于实现如上所述的方法。
本公开的另一方面提供了一种计算机程序，所述计算机程序包括计算机可执行指令，所述指令在被执行时用于实现如上所述的方法。
本公开的另一方面提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现如上所述的方法。
根据本公开实施例的图像问答方法在获得输入图像和输入问题后，不仅检测出输入图像中各个文本区域的视觉信息和位置信息，还基于视觉信息和位置信息，确定出各个文本区域的语义信息和属性信息。基于上述视觉信息、位置信息、语义信息和属性信息对输入图像进行编码，能够得到输入图像的全局特征，以更加全面地关注并学习输入图像的特征信息。在此基础上，基于输入图像的全局特征和输入问题的问题特征，可以进行最终答案的预测。由于前期针对输入图像的特征表示的丰富和优化，有效地增强图像问答过程对于包含复杂文档的输入图像的推理能力，使得根据本公开实施例的图像问答过程更具有可解释性，适用于更广泛的文档分析处理场景。
附图说明
通过以下参照附图对本公开实施例的描述，本公开的上述以及其他目的、特征和优点将更为清楚，在附图中：
图1示意性示出了根据本公开实施例的应用图像问答方法和装置的示例性系统架构；
图2示意性示出了根据本公开实施例的图像问答方法的流程图；
图3A～图3B示意性示出了根据本公开实施例的输入图像的示例示意图；
图4A示意性示出了根据本公开实施例的图像问答过程的示例示意图；
图4B示意性示出了根据本公开实施例的编码过程的示例示意图；
图5A～图5B示意性示出了根据本公开另一实施例的图像问答方法的流程图；
图6示意性示出了根据本公开实施例的图像问答装置的框图；以及
图7示意性示出了根据本公开实施例的计算机设备的框图。
具体实施方式
以下，将参照附图来描述本公开的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本公开的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本公开实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
本公开的实施例提供了一种图像问答方法、装置、计算机设备和介质。图像问答方法可以包括获取过程、检测过程、确定过程、编码过程、问题特征提取过程和预测过程。在获取过程中获取输入图像和输入问题。在检测过程中检测输入图像中的至少一个文本区域各自的视觉信息和位置信息。然后进行确定过程，基于上述视觉信息和位置信息，确定上述至少一个文本区域各自的语义信息和属性信息。接着，基于上述视觉信息、位置信息、语义信息和属性信息进行编码过程，以确定输入图像的全局特征。在问题特征提取过程，基于输入问题，确定问题特征。基于全局特征和问题特征可进行预测过程，以生成针对输入图像和输入问题的预测答案。
图像问答是一项很有挑战性的任务，其目标是将计算机视觉和自然语言处理联系起来。在图像问答任务中，例如给定一张图像和一个相关的问题，要求机器能根据图像内容，结合一些常识来推理得到问题的答案。为完成该图像问答任务，机器必须具有跨模态的理解能力，以针对视觉和语言这两种不同模态下的数据实现综合理解。故图像问答任务相比于其他单一模态下的任务(例如图像识别、文档分类等)具有更高的要求。
图1示意性示出了根据本公开实施例的可以应用图像问答方法和装置的示例性系统架构100。需要注意的是，图1所示仅为可以应用本公开实施例的系统架构的示例，以帮助本领域技术人员理解本公开的技术内容，但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示，根据该实施例的系统架构100可以包括多个终端设备110、网络120和服务器130。其中，终端设备110可以是各种终端设备，例如台式机、便携式计算机、智能手机、平板电脑等，在此不做限制。服务器130可以是各种具有一定计算能力的电子设备，例如可以是服务器或服务器集群，在此不做限制。终端设备110中可以装载有各种功能的软件客户端，以通过软件客户端与服务器130进行交互。
可以理解，在一实施例中，根据本公开实施例的图像问答方法可以由终端设备110实施，相应地，图像问答装置可以部署于终端设备110中。在另一实施例中，根据本公开实施例的图像问答方法可以由服务器130实施，相应地，图像问答装置可以部署于服务器130中。在又一实施例中，根据本公开实施例的图像问答方法可以由能够与终端设备110和/或服务器130相互通信的其它设备实施，相应地，图像问答装置可以部署于该其它设备中。
如今，图像问答系统在学术界和产业界均被广泛研究，该类图像问答系统的目标在于设计合理的模型，使得图像问答系统针对任意自然语言描述的问题和给定的图像，在进行充分理解和推理后，使用自然语言进行准确地回答。但是，目前的图像问答系统还存在一些难题没有解决。例如，在基于文档图像(Document Image)的文档图像问答(DocumentVisual Question Answering，DocVQA)场景中，大部分方案仅依赖输入图像中的文字语义进行建模，而未考虑到图像中文档的结构化信息。故而只能处理比较简单的文档图像，而对复杂的文档图像，例如包含表格、图形、分栏等结构的文档图像，处理效果比较差，答案预测准确度差。
根据本公开实施例，提供了一种图像问答方法，可应用于DocVQA场景中。下面通过图例对该方法进行示例性说明。应注意，以下方法中各个操作的序号仅作为该操作的表示以便描述，而不应被看作表示该各个操作的执行顺序。除非明确指出，否则该方法不需要完全按照所示顺序来执行。
图2示意性示出了根据本公开实施例的图像问答方法的流程图。
如图2所示，该方法可以包括操作S201～操作S206。
在操作S201，获取输入图像和输入问题。
示例性地，本操作S201所获取的输入图像为文档图像。例如可以是针对待处理文档进行扫描、拍摄等操作后所得到的文档图像。图3A～图3B示意性示出了根据本公开实施例的输入图像的示例示意图。在图3A和图3B中，分别展示了两个例子中的输入图像301。文档图像中的文本语言可以根据实际需要进行设置，例如也可以其他语言，在此不做限制。
在操作S202，检测输入图像中的至少一个文本区域各自的视觉信息(VisualInformation)和位置信息。
示例性地，输入图像中的每个文本区域例如可以对应于输入图像中的一行或多行文本所占的区域。当同一行文本中存在较大空隙，例如同一行文本可能处于一个表格的不同单元格中，也可以将每个单元格中的文本所占的区域作为输入图像中的一个文本区域。文本区域的检测范围可以根据实际需要进行调整，原则上每个文本区域包含分布较为紧凑的多个文字。在图3B所示的例子中，以输入图像中的一个文本区域302为例进行展示，虚线框中的图像信息可以作为该文本区域302的视觉信息，虚线框相对于输入图像的位置可以作为该文本区域302的位置信息。
在操作S203，基于上述视觉信息和位置信息，确定上述至少一个文本区域各自的语义信息(Semantic Information)和属性信息。
示例性地，每个文本区域的语义信息可以用于表征针对该文本区域浅层和深层的语义理解。每个文本区域的属性信息可以从一个或多个维度来描述该文本区域在输入图像中的一种或多种属性特征，例如可以包括文档的各种结构化属性信息，如段落信息、表格信息、手写信息等。
在操作S204，基于上述视觉信息、位置信息、语义信息和属性信息，确定输入图像的全局特征。
示例性地，本操作S204在对输入图像进行特征编码的过程中综合考虑了输入图像中各个文本区域的视觉信息、位置信息、语义信息和属性信息。由于以上几类信息从不同角度描述输入图像中的文本区域的特征，增加了针对输入图像进行编码的感受野(ReceptiveField)，故能够获得输入图像的全局特征。
在操作S205，基于输入问题，确定问题特征。
在操作S206，基于全局特征和问题特征，生成针对输入图像和输入问题的预测答案。
本领域技术人员可以理解，根据本公开实施例的图像问答方法在获得输入图像和输入问题后，不仅检测出输入图像中各个文本区域的视觉信息和位置信息，还基于视觉信息和位置信息，确定出各个文本区域的语义信息和属性信息。基于上述视觉信息、位置信息、语义信息和属性信息对输入图像进行编码，能够得到输入图像的全局特征，以更加全面地关注并学习输入图像的特征信息。在此基础上，基于输入图像的全局特征和输入问题的问题特征，可以进行最终答案的预测。由于前期针对输入图像的特征表示的丰富和优化，有效地增强图像问答过程对于包含复杂文档的输入图像的推理能力，使得根据本公开实施例的图像问答过程更具有可解释性，适用于更广泛的文档分析处理场景。
图4A示意性示出了根据本公开实施例的图像问答过程的示例示意图。
如图4A所示，可以预先构建网络模型400，该网络模型300可以包括文字检测识别模块410、文档结构分析模块420、编码模块430和解码模块440。根据本公开的实施例，需要通过训练上述网络模型400中的各个模块，以使得该网络模型400具有执行如图2所示的图像问答任务的能力。训练过程中，在一实施例下，可以对网络模型400作为整体进行训练，将样本图像和样本问题输入至上述网络模型400，根据网络模型400的输出与样本标签之间的差异对网络模型400的参数进行优化，直至网络模型400的目标函数实现收敛。其中，样本标签为针对样本图像和样本问题的真实答案。在另一实施例下，可以分别针对网络模型400中的每个模块进行单独训练，以使各个模块具备本公开实施例所期望的处理能力。根据本公开实施例的图像问答方法可以利用该训练完成的网络模型400实施。下面对实施过程进行示例性说明。
根据本公开的实施例，如图4A所示，文字检测识别模块410可以包括文字检测模型411。上述操作S202检测输入图像中的至少一个文本区域各自的视觉信息和位置信息的过程可以按照如下方式实施。利用文字检测模型411对输入图像401进行检测。文字检测模型411将输入图像401中的文本区域作为目标对象进行检测，以在输入图像401中生成至少一个文本区域各自的检测框(Bounding Box)，如图4A所示的虚线框可看作一个文本区域的检测框。其中，上述至少一个文本区域中每个文本区域的检测框内的图像信息402(例如检测框内的图片)用于表征该文本区域的视觉信息，每个文本区域的检测框的位置信息403(例如检测框的高度值、宽度值以及中心点的坐标值)用于表征该文本区域的位置信息。本实施例所使用的文字检测模型411可以为直接获取的预训练文字检测模型，或者可以通过构建目标检测模型(例如Faster RCNN(Faster Region Convolutional Neural Network，更快速区域卷积神经网络)等)并基于样本文档图像和预定标签进行训练得到。
进一步地，为获得输入图像中每个文本区域的语义信息，根据本公开的实施例，如图4A所示，文字检测识别模块410还可以包括文字识别模型412。上述操作S203基于视觉信息和位置信息，确定至少一个文本区域各自的语义信息的过程可以按照如下方式实施。针对至少一个文本区域中的每个文本区域，利用文字识别模型412对每个文本区域的视觉信息402进行识别，以得到每个文本区域的语义信息404。每个文本区域的语义信息例如可以表示为该文本区域所包含的文本内容。本实施例所使用的文字识别模型412可以为直接获取的预训练文字识别模型，或者可以通过构建识别模型并基于样本文档图像和预定标签进行训练得到。文字识别模型412例如可以使用OCR(Optical Character Recognition，光学字符识别)技术进行上述识别过程。
示例性地，文字检测识别模块410例如可以基于EAST(Efficient and AccurateScene Text)检测架构训练得到。
文字检测识别模块410将各个文本区域的视觉信息和位置信息输出至文档结构分析模块420，由文档结构分析模块420分析输入图像所包含的文档的一种或多种属性信息。
在本公开的一个实施例中，输入图像中每个文本区域的属性信息可以包括表格属性信息，表格属性信息用于表征文本区域是否位于至少一个表格区域内。上述操作S203基于视觉信息和位置信息，确定至少一个文本区域各自属性信息的过程可以按照如下方式实施。如图4A所示，文档结构分析模块420包括表格检测工具421，利用表格检测工具421检测输入图像401中的至少一个表格区域的位置信息。表格检测模型411将输入图像401中的表格区域作为目标对象进行检测，以在输入图像401中生成至少一个表格区域各自的表格检测框。可以基于表格检测框的位置信息来确定相应表格区域的位置信息。接着，文档结构分析模块420基于每个文本区域的位置信息和至少一个表格区域的位置信息，确定每个文本区域的表格属性信息405。
示例性地，针对检测出的每个文本区域A，可以根据该文本区域A和检测出的任一表格区域T之间的位置关系，来确定该文本区域A是否位于该表格区域T中，从而确定该文本区域A关于表格区域T的表格属性信息。例如，当该文本区域位于表格区域内，则可以将文本区域A关于表格区域T的表格属性信息表示为“is_table＝1”，反之将文本区域A关于表格区域T的表格属性信息表示为“is_table＝0”。
例如，可以通过该文本区域A和表格区域T的位置区域之间的交并比(Intersection-over-Union，IoU)来确定二者之间的位置关系。可以按照如下方式实施。计算文本区域A的检测框和表格区域T的表格检测框之间的交集面积为X1，计算文本区域A的检测框和表格区域T的表格检测框之间的并集面积为X2。当X1/X2大于第一预定阈值时，表示文本区域A与表格区域T相重叠，即文本区域A位于表格区域T中。反之则表示文本区域A不位于表格区域T中。
又例如，可以通过如下方式来确定二者之间的位置关系。计算文本区域A的检测框和表格区域T的表格检测框之间的交集面积为X1，文本区域A的检测框的面积为X3。当X1/X3大于第二预定阈值时，表示文本区域A与表格区域T相重叠，即文本区域A位于表格区域T中。反之则表示文本区域A不位于表格区域T中。
在本公开的一个实施例中，输入图像中每个文本区域的属性信息可以包括：文字属性信息，文字属性信息用于表征文本区域是否包含手写文字。上述操作S203基于视觉信息和位置信息，确定至少一个文本区域各自的属性信息的过程可以按照如下方式实施。如图4A所示，文档结构分析模块420还可以包括手写文字识别模型422，利用手写文字识别模型422对每个文本区域的视觉信息进行识别，以确定每个文本区域的文字属性信息406，输出表征每个文本区域所包含的文本是否为手写体的分类结果。本例中，手写文字识别模型422可以是预先构建的针对文本是否为手写体进行分类识别的二分类模型。
例如，针对检测出的每个文本区域A，当手写文字识别模型422输出表征该文本区域A所包含的文字为手写体的分类结果1时，则可以将文本区域A的文字属性信息表示为“is_handwriting＝1”，反之将文本区域A的文字属性信息表示为“is_handwriting＝0”。
在图4A所示的例子中，一个文本区域(例如输入图像401中被虚线框所标示的文本区域)的位置信息403表示为：“[x1，y1，x0，y0]”，表征该文本区域的检测框的高x1和宽y1以及中心点的坐标值(x0，y0)。该文本区域的语义信息404表示为：“姓名张三……”。该文本区域的表格属性信息405表示为：“is_table＝1”。该文本区域的文字属性信息406表示为：“is_handwriting＝1”。
根据本公开的实施例，在获取到输入图像中各个文本区域的视觉信息、位置信息、语义信息和属性信息之后，针对至少一个文本区域中的每个文本区域，对该文本区域的视觉信息进行视觉编码(Visual Embedding)，得到表示该视觉信息的第一特征。对该文本区域的位置信息进行位置编码(Position Embedding)，得到表示该位置信息的第二特征。对该文本区域的语义信息进行词编码(Token Embedding)，得到表示该语义信息的第三特征。对该文本区域的属性信息进行属性编码(Attribute Embedding)，得到表示该属性信息的第四特征。以上第一特征、第二特征、第三特征和第四特征均可以以向量形式进行表示。当属性信息包括表格属性信息和文字属性信息时，第四特征可以包括两个特征向量。
针对输入图像中的每个文本区域，可以将该文本区域的第一特征、第二特征、第三特征和第四特征合并为该文本区域的特征。例如，可以将上述第一特征、第二特征、第三特征和第四特征进行连接(Concatenate)合并，以得到该文本区域的特征。或者，也可以通过对第一特征、第二特征、第三特征和第四特征进行向量相加，以得到以得到该文本区域的特征。
继续参考图4A，可以将输入图像中各个文本区域的特征输入至编码模块430进行编码处理，以得到输入图像的全局特征。例如各个文本区域的特征的输入方式可如图4B所示。
图4B示意性示出了根据本公开实施例的编码过程的示例示意图。
如图4B所示，该编码模块430可以包括预定编码模型431，该预定编码模型431例如可以为长短期记忆(Long Short-Term Memory，LSTM)模型、图卷积网络(GraphConvolutional Network，GCN)、Transformer解码器(Transformer Encoder)等。可以根据输入图像中至少一个文本区域各自的位置信息，确定至少一个文本区域的排列顺序。例如当输入图像中包括4个文本区域时，可以结合用户的阅读顺序，按照在输入图像中每一行文本左至右、行之间从上至下的顺序，确定该4个文本区域的排列顺序为：{A1，A3，A2，A4}。以此排列顺序作为输入顺序，将文本区域A1的特征4071、文本区域A3的特征4073、文本区域A2的特征4072和文本区域A4的特征4074依次输入至预定编码模型431。利用预定编码模型431依次对上述4个文本区域的特征进行编码处理，以得到输入图像的全局特征。其中，每个文本区域的特征均是由相应的第一特征、第二特征、第三特征和第四特征合并而成。
继续参考图4A，解码模块440一方面获取输入图像的全局特征，另一方面获取输入问题408的问题特征。本公开实施例可以利用词编码(Word Embedding)算法和特征编码算法依次对输入问题408进行编码处理，以得到问题特征q。本例中，采用了Glove词编码算法和Bi-GRU特征编码算法得到整个问题的特征表示q。解码模块440基于全局特征和问题特征，生成针对输入图像和输入问题的预测答案409。下面参考图5A和图5B对生成预测答案的过程进行示例性说明。
图5A示意性示出了根据本公开另一实施例的图像问答方法的流程图，用于示例性说明上述操作S206基于全局特征和问题特征，生成针对输入图像和输入问题的预测答案的一种实施方式。
如图5A所示，该方法可以包括操作S2061～操作S2062。
在操作S2061，对全局特征和问题特征进行合并，以得到融合特征。
示例性地，本操作S2061中可以通过连接合并或向量相加合并的方式对全局特征和问题特征进行合并。
在操作S2062，利用第一预测模型对融合特征进行处理，以得到针对融合特征的预测答案。
示例性地，第一预测模型基于样本图像、样本问题和第一标签训练得到，第一标签用于表征针对样本图像和样本问题的真实答案。
可以理解，图5A所示的答案预测过程可以称为生成答案的方式。该方式将上述得到的全局特征向量和问题特征向量输入至例如训练完成的循环神经网络(RecurrentNeural Network，RNN)中，由RNN输出相应答案。该RNN相当于针对多个预定答案类别的一个多分类器。该方案生成的答案比较灵活，所生成的预测答案可以为输入图像所不包含的文字。
图5B示意性示出了根据本公开另一实施例的图像问答方法的流程图，用于示例性说明上述操作S206基于全局特征和问题特征，生成针对输入图像和输入问题的预测答案的另一种实施方式。
如图5B所示，该方法可以包括操作S2061’～操作S2064’。
在操作S2061’，对全局特征和问题特征进行合并，以得到融合特征。本操作过程与上文中操作S2061相同，在此不再赘述。
在操作S2062’，利用第二预测模型对融合特征进行处理，以得到针对融合特征的答案起始位置信息。
示例性地，第二预测模型基于样本图像、样本问题和第二标签训练得到，第二标签用于表征针对样本图像和样本问题的真实答案在样本图像中的起始位置信息。
在操作S2063’，利用第三预测模型对融合特征进行处理，以得到针对融合特征的答案终止位置信息。
示例性地，第三预测模型基于样本图像、样本问题和第三标签训练得到，第三标签用于表征针对样本图像和样本问题的真实答案在样本图像中的终止位置信息。
在操作S2064’，基于答案起始位置信息、答案终止位置信息和输入图像，确定针对输入图像和输入问题的预测答案。
示例性地，本操作S2064’将输入图像中位于答案起始位置和答案终止位置之间的文本内容作为预测答案。
可以理解，通常情况下，由于输入图像与输入问题之间的关联关系，针对输入问题的预测答案往往为输入图像中的文本内容。基于此特性，图5B所示的答案预测过程可以称为预测答案在输入图像中位置的方式。可以训练第二预测模型和第三预测模型，第二预测模型用于判断输入图像中所包含的每个词是否对应于答案的起始位置，第三预测模型用于判断输入图像中所包含的每个词是否对应于答案的终止位置。该两个模型均可以为分类模型。将上述得到的全局特征编码和问题特征向量输入至第二预测模型中，由第二预测模型输出答案的起始位置信息。将上述得到的全局特征编码和问题特征向量输入至第三预测模型中，由第三预测模型输出答案的终止位置信息。将输入图像中位于答案起始位置和答案终止位置之间的文本内容作为答案。
进一步地，基于上述各实施例，上述用到的多个模型中，如果其中一个或多个的模型结构或参数发生变化，或者训练样本发生变化，即可以得到一个不同的图像问答系统。不同的问答问答系统针对同一图像和问题有可能输出不同的预测答案。在此情况下，根据本公开实施例的图像问答方法还可以包括：在生成针对输入图像和输入问题的M个预测答案的情况下，M为大于2的整数，计算M个预测答案中的每个预测答案分别与M个预测答案中除本预测答案之外的其他M-1个预测答案之间的编辑距离，并对编辑距离进行求和，以得到每个预测答案的评估。选择M个预测答案中评估最高的预测答案，作为优选预测答案。
图6示意性示出了根据本公开实施例的图像问答装置的框图。
如图6所示，图像问答装置600可以包括：获取模块610、检测模块620、确定模块630、编码模块640、问题特征提取模块650和预测模块660。
获取模块610用于获取输入图像和输入问题。
检测模块620用于检测输入图像中的至少一个文本区域各自的视觉信息和位置信息。
确定模块630用于基于视觉信息和位置信息，确定至少一个文本区域各自的语义信息和属性信息。
编码模块640用于基于视觉信息、位置信息、语义信息和属性信息，确定输入图像的全局特征。
问题特征650提取模块用于基于输入问题，确定问题特征。
预测模块660用于基于全局特征和问题特征，生成针对输入图像和输入问题的预测答案。
需要说明的是，装置部分实施例中各模块/单元/子单元等的实施方式、解决的技术问题、实现的功能、以及达到的技术效果分别与方法部分实施例中各对应的步骤的实施方式、解决的技术问题、实现的功能、以及达到的技术效果相同或类似，在此不再赘述。
根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。
例如，获取模块610、检测模块620、确定模块630、编码模块640、问题特征提取模块650和预测模块660中的任意多个可以合并在一个模块中实现，或者其中的任意一个模块可以被拆分成多个模块。或者，这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合，并在一个模块中实现。根据本公开的实施例，获取模块610、检测模块620、确定模块630、编码模块640、问题特征提取模块650和预测模块660中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，获取模块610、检测模块620、确定模块630、编码模块640、问题特征提取模块650和预测模块660中的至少一个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。
图7示意性示出了根据本公开实施例的适于实现上文描述的方法的计算机设备的框图。图7示出的计算机设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图7所示，根据本公开实施例的计算机设备700包括处理器701，其可以根据存储在只读存储器(ROM)702中的程序或者从存储部分708加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。处理器701例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如，专用集成电路(ASIC))，等等。处理器701还可以包括用于缓存用途的板载存储器。处理器701可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 703中，存储有设备700操作所需的各种程序和数据。处理器701、ROM 702以及RAM 703通过总线704彼此相连。处理器701通过执行ROM 702和/或RAM 703中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意，所述程序也可以存储在除ROM 702和RAM 703以外的一个或多个存储器中。处理器701也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例，设备700还可以包括输入/输出(I/O)接口705，输入/输出(I/O)接口705也连接至总线704。设备700还可以包括连接至I/O接口705的以下部件中的一项或多项：包括键盘、鼠标等的输入部分706；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分707；包括硬盘等的存储部分708；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分709。通信部分709经由诸如因特网的网络执行通信处理。驱动器710也根据需要连接至I/O接口705。可拆卸介质711，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器710上，以便于从其上读出的计算机程序根据需要被安装入存储部分708。
本公开还提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现如上所述的方法。根据本公开的实施例，根据本公开实施例的方法流程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读存储介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分709从网络上被下载和安装，和/或从可拆卸介质711被安装。在该计算机程序被处理器701执行时，执行本公开实施例的系统中限定的上述功能。根据本公开的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的；也可以是单独存在，而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本公开实施例的方法。
根据本公开的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质，例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如，根据本公开的实施例，计算机可读存储介质可以包括上文描述的ROM 702和/或RAM 703和/或ROM 702和RAM 703以外的一个或多个存储器。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合，即使这样的组合或结合没有明确记载于本公开中。特别地，在不脱离本公开精神和教导的情况下，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本公开的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本公开的范围之内。

Claims (15)

1.一种图像问答方法，包括：
获取输入图像和输入问题；
检测所述输入图像中的至少一个文本区域各自的视觉信息和位置信息；
基于所述视觉信息和所述位置信息，确定所述至少一个文本区域各自的语义信息和属性信息；
基于所述视觉信息、所述位置信息、所述语义信息和所述属性信息，确定所述输入图像的全局特征；
基于所述输入问题，确定问题特征；以及
基于所述全局特征和所述问题特征，生成针对所述输入图像和所述输入问题的预测答案；
其中，所述属性信息包括表格属性信息；所述基于所述全局特征和所述问题特征，生成针对所述输入图像和所述输入问题的预测答案包括：
对所述全局特征和所述问题特征进行合并，以得到融合特征；
利用第二预测模型对所述融合特征进行处理，以得到针对所述融合特征的答案起始位置信息；
利用第三预测模型对所述融合特征进行处理，以得到针对所述融合特征的答案终止位置信息；以及
基于所述答案起始位置信息、所述答案终止位置信息和所述输入图像，确定针对所述输入图像和所述输入问题的预测答案。
2.根据权利要求1所述的方法，其中，所述检测所述输入图像中的至少一个文本区域各自的视觉信息和位置信息包括：
利用文字检测模型对所述输入图像进行检测，以在所述输入图像中生成所述至少一个文本区域各自的检测框，
其中，所述至少一个文本区域中每个文本区域的检测框内的图像信息用于表征所述每个文本区域的视觉信息，所述每个文本区域的检测框的位置信息用于表征所述每个文本区域的位置信息。
3.根据权利要求1所述的方法，其中，所述基于所述视觉信息和所述位置信息，确定所述至少一个文本区域各自的语义信息和属性信息包括：
针对所述至少一个文本区域中的每个文本区域，利用文字识别模型对所述每个文本区域的视觉信息进行识别，以得到所述每个文本区域的语义信息。
4. 根据权利要求3所述的方法，其中，所述基于所述视觉信息和所述位置信息，确定所述至少一个文本区域各自的语义信息和属性信息还包括：
利用表格检测工具，检测所述输入图像中的至少一个表格区域的位置信息；以及
基于所述每个文本区域的位置信息和至少一个表格区域的位置信息，确定所述每个文本区域的表格属性信息，所述表格属性信息用于表征所述每个文本区域是否位于所述至少一个表格区域内。
5.根据权利要求4所述的方法，其中，所述基于所述每个文本区域的位置信息和至少一个表格区域的位置信息，确定所述每个文本区域的表格属性信息包括：
根据所述每个文本区域的位置信息和至少一个表格区域中的每个表格区域的位置信息，计算所述每个文本区域和所述每个表格区域之间的交集和并集；
计算所述交集和并集的比值；
在所述比值大于预定阈值的情况下，确定所述每个文本区域关于所述每个表格区域的表格属性信息为1；以及
在所述比值小于等于预定阈值的情况下，确定所述每个文本区域关于所述每个表格区域的表格属性信息为0。
6.根据权利要求3所述的方法，其中，所述属性信息包括：文字属性信息；
所述基于所述视觉信息和所述位置信息，确定所述至少一个文本区域各自的语义信息和属性信息还包括：利用手写文字识别模型对所述每个文本区域的视觉信息进行识别，以确定所述每个文本区域的文字属性信息，所述文字属性信息用于表征所述文本区域是否包含手写文字。
7.根据权利要求1所述的方法，其中，所述基于所述视觉信息、所述位置信息、所述语义信息和所述属性信息，确定所述输入图像的全局特征包括：
针对所述至少一个文本区域中的每个文本区域，将所述每个文本区域的所述视觉信息、所述位置信息、所述语义信息和所述属性信息分别转换为第一特征、第二特征、第三特征和第四特征，并将所述第一特征、所述第二特征、所述第三特征和所述第四特征合并为所述每个文本区域的特征；
根据所述至少一个文本区域各自的位置信息，确定所述至少一个文本区域的排列顺序；以及
按照所述排列顺序，利用预定编码模型依次对所述至少一个文本区域的特征进行编码处理，以得到所述输入图像的全局特征。
8. 根据权利要求7所述的方法，其中，所述将所述第一特征、所述第二特征、所述第三特征和所述第四特征合并为所述每个文本区域的特征包括：
对所述第一特征、所述第二特征、所述第三特征和所述第四特征进行连接合并，以得到所述每个文本区域的特征；或者
对所述第一特征、所述第二特征、所述第三特征和所述第四特征进行向量相加，以得到以得到所述每个文本区域的特征。
9.根据权利要求1所述的方法，其中，所述基于所述输入问题，确定问题特征包括：
利用词编码算法和特征编码算法依次对所述输入问题进行编码处理，以得到所述问题特征。
10. 根据权利要求1所述的方法，其中，所述基于所述全局特征和所述问题特征，生成针对所述输入图像和所述输入问题的预测答案包括：
对所述全局特征和所述问题特征进行合并，以得到融合特征；以及
利用第一预测模型对所述融合特征进行处理，以得到针对所述融合特征的预测答案，所述第一预测模型基于样本图像、样本问题和第一标签训练得到，所述第一标签用于表征针对所述样本图像和所述样本问题的真实答案。
11.根据权利要求1所述的方法，其中：
所述第二预测模型基于样本图像、样本问题和第二标签训练得到，所述第二标签用于表征针对所述样本图像和所述样本问题的真实答案在所述样本图像中的起始位置信息；
所述第三预测模型基于所述样本图像、所述样本问题和第三标签训练得到，所述第三标签用于表征针对所述样本图像和所述样本问题的真实答案在所述样本图像中的终止位置信息。
12.根据权利要求1所述的方法，还包括：
在生成针对所述输入图像和所述输入问题的M个预测答案的情况下，M为大于2的整数，
计算所述M个预测答案中的每个预测答案分别与所述M个预测答案中除所述每个预测答案之外的其他M-1个预测答案之间的编辑距离；
对所述编辑距离进行求和，以得到所述每个预测答案的评估；以及
选择所述M个预测答案中评估最高的预测答案，作为优选预测答案。
13.一种图像问答装置，包括：
获取模块，用于获取输入图像和输入问题；
检测模块，用于检测所述输入图像中的至少一个文本区域各自的视觉信息和位置信息；
确定模块，用于基于所述视觉信息和所述位置信息，确定所述至少一个文本区域各自的语义信息和属性信息；
编码模块，用于基于所述视觉信息、所述位置信息、所述语义信息和所述属性信息，确定所述输入图像的全局特征；
问题特征提取模块，用于基于所述输入问题，确定问题特征；以及
预测模块，用于基于所述全局特征和所述问题特征，生成针对所述输入图像和所述输入问题的预测答案；
其中，所述属性信息包括表格属性信息；所述预测模块包括第一预测子模块，用于：
对所述全局特征和所述问题特征进行合并，以得到融合特征；
利用第二预测模型对所述融合特征进行处理，以得到针对所述融合特征的答案起始位置信息；
利用第三预测模型对所述融合特征进行处理，以得到针对所述融合特征的答案终止位置信息；以及
基于所述答案起始位置信息、所述答案终止位置信息和所述输入图像，确定针对所述输入图像和所述输入问题的预测答案。
14. 一种计算机设备，包括：
存储器，其上存储有计算机指令；以及
至少一个处理器；
其中，所述处理器执行所述计算机指令时实现根据权利要求1~12中任一项所述的方法。
15.一种计算机可读存储介质，其上存储有计算机指令，所述计算机指令被处理器执行时实现根据权利要求1~12中任一项所述的方法。
CN202010616417.6A 2020-06-30 2020-06-30 图像问答方法、装置、计算机设备和介质 Active CN111782839B (zh)

Priority Applications (5)

Application Number Priority Date Filing Date Title
CN202010616417.6A CN111782839B (zh) 2020-06-30 2020-06-30 图像问答方法、装置、计算机设备和介质
EP21155165.0A EP3816818A3 (en) 2020-06-30 2021-02-04 Method and apparatus for visual question answering, computer device and medium
US17/169,112 US11854283B2 (en) 2020-06-30 2021-02-05 Method and apparatus for visual question answering, computer device and medium
KR1020210026494A KR20220002066A (ko) 2020-06-30 2021-02-26 이미지 문답 방법, 장치, 컴퓨터 장비, 컴퓨터 판독가능 저장 매체 및 컴퓨터 프로그램
JP2021035338A JP7206309B2 (ja) 2020-06-30 2021-03-05 画像質問応答方法、装置、コンピュータ装置、媒体及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010616417.6A CN111782839B (zh) 2020-06-30 2020-06-30 图像问答方法、装置、计算机设备和介质

Publications (2)

Publication Number Publication Date
CN111782839A CN111782839A (zh) 2020-10-16
CN111782839B true CN111782839B (zh) 2023-08-22

Family

ID=72761471

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010616417.6A Active CN111782839B (zh) 2020-06-30 2020-06-30 图像问答方法、装置、计算机设备和介质

Country Status (5)

Country Link
US (1) US11854283B2 (zh)
EP (1) EP3816818A3 (zh)
JP (1) JP7206309B2 (zh)
KR (1) KR20220002066A (zh)
CN (1) CN111782839B (zh)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112800191B (zh) * 2020-12-31 2023-01-17 科大讯飞股份有限公司 一种基于图片的问答方法、设备及计算机可读存储介质
CN113177929B (zh) * 2021-05-18 2022-08-09 中国石油大学(华东) 一种基于全卷积网络的海面溢油检测方法及其系统和应用
CN113392253B (zh) * 2021-06-28 2023-09-29 北京百度网讯科技有限公司 视觉问答模型训练及视觉问答方法、装置、设备及介质
CN113869349B (zh) * 2021-08-04 2022-10-14 西南交通大学 基于层次多任务学习的示意图问答方法
CN113657274B (zh) * 2021-08-17 2022-09-20 北京百度网讯科技有限公司 表格生成方法、装置、电子设备及存储介质
CN113780370B (zh) * 2021-08-23 2024-05-07 咪咕文化科技有限公司 视觉问答方法、装置、设备及存储介质
CN113780486B (zh) * 2021-11-15 2022-02-11 湖南师范大学 一种视觉问答的方法、装置及介质
CN114092949A (zh) * 2021-11-23 2022-02-25 支付宝(杭州)信息技术有限公司 类别预测模型的训练、界面元素类别的识别方法及装置
CN114495130B (zh) * 2021-12-27 2023-03-24 北京百度网讯科技有限公司 基于跨模态信息的文档阅读理解模型训练方法及装置
CN114780645B (zh) * 2022-03-29 2022-10-25 广东科能工程管理有限公司 基于人工智能的数据分类处理方法、系统及云平台
CN114707017B (zh) * 2022-04-20 2023-05-23 北京百度网讯科技有限公司 视觉问答方法、装置、电子设备和存储介质
CN114842368B (zh) * 2022-05-07 2023-10-03 中国电信股份有限公司 基于场景的视觉辅助信息确定方法、系统、设备及存储介质
CN114840656B (zh) * 2022-05-18 2024-03-01 北京百度网讯科技有限公司 一种视觉问答方法、装置、设备及存储介质
CN115270987B (zh) * 2022-08-08 2023-11-07 中国电信股份有限公司 视觉问答网络模型的训练方法、装置、设备以及存储介质
CN115129848B (zh) * 2022-09-02 2023-02-28 苏州浪潮智能科技有限公司 一种视觉问答任务的处理方法、装置、设备和介质
CN115587160B (zh) * 2022-09-14 2023-05-12 山东财经大学 一种基于自注意力机制的短语级文本图像生成方法及系统
CN115497113B (zh) * 2022-09-30 2023-11-14 北京百度网讯科技有限公司 信息生成方法、装置、电子设备以及存储介质
CN115688083B (zh) * 2022-12-29 2023-03-28 广东工业大学 图文型验证码的识别方法、装置、设备及存储介质
CN116758402B (zh) * 2023-08-16 2023-11-28 中国科学技术大学 图像人物关系识别方法、系统、设备及存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105095272A (zh) * 2014-05-12 2015-11-25 阿里巴巴集团控股有限公司 基于图像识别的问答处理方法、装置及系统
CN107609056A (zh) * 2017-08-25 2018-01-19 百度在线网络技术（北京）有限公司 一种基于图片识别的问答处理方法与设备
CN108345692A (zh) * 2018-03-16 2018-07-31 北京京东尚科信息技术有限公司 一种自动问答方法和系统
CN109670065A (zh) * 2018-09-25 2019-04-23 平安科技（深圳）有限公司 基于图像识别的问答处理方法、装置、设备和存储介质
CN110390269A (zh) * 2019-06-26 2019-10-29 平安科技（深圳）有限公司 Pdf文档表格提取方法、装置、设备及计算机可读存储介质
CN110569846A (zh) * 2019-09-16 2019-12-13 北京百度网讯科技有限公司 图像文字识别方法、装置、设备及存储介质
CN111062259A (zh) * 2019-11-25 2020-04-24 泰康保险集团股份有限公司 表格识别方法和装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9430557B2 (en) * 2014-09-17 2016-08-30 International Business Machines Corporation Automatic data interpretation and answering analytical questions with tables and charts
JP6780380B2 (ja) * 2016-08-30 2020-11-04 コニカミノルタ株式会社 画像処理装置及びプログラム
JP6947971B2 (ja) 2016-11-17 2021-10-13 キヤノンマーケティングジャパン株式会社 情報処理装置、制御方法、プログラム
JP7027043B2 (ja) 2017-04-14 2022-03-01 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
US10754851B2 (en) * 2017-12-22 2020-08-25 Adobe Inc. Question answering for data visualizations
CN108416279B (zh) * 2018-02-26 2022-04-19 北京阿博茨科技有限公司 文档图像中的表格解析方法及装置
US10909401B2 (en) * 2018-05-29 2021-02-02 Sri International Attention-based explanations for artificial intelligence behavior
CN110796031A (zh) * 2019-10-11 2020-02-14 腾讯科技（深圳）有限公司 基于人工智能的表格识别方法、装置及电子设备

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105095272A (zh) * 2014-05-12 2015-11-25 阿里巴巴集团控股有限公司 基于图像识别的问答处理方法、装置及系统
CN107609056A (zh) * 2017-08-25 2018-01-19 百度在线网络技术（北京）有限公司 一种基于图片识别的问答处理方法与设备
CN108345692A (zh) * 2018-03-16 2018-07-31 北京京东尚科信息技术有限公司 一种自动问答方法和系统
CN109670065A (zh) * 2018-09-25 2019-04-23 平安科技（深圳）有限公司 基于图像识别的问答处理方法、装置、设备和存储介质
CN110390269A (zh) * 2019-06-26 2019-10-29 平安科技（深圳）有限公司 Pdf文档表格提取方法、装置、设备及计算机可读存储介质
CN110569846A (zh) * 2019-09-16 2019-12-13 北京百度网讯科技有限公司 图像文字识别方法、装置、设备及存储介质
CN111062259A (zh) * 2019-11-25 2020-04-24 泰康保险集团股份有限公司 表格识别方法和装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Anand Mishra.OCR-VQA: Visual Question Answering by Reading Text in Images. 2019 International Conference on Document Analysis and Recognition (ICDAR).2019,947-952. *

Also Published As

Publication number Publication date
KR20220002066A (ko) 2022-01-06
JP7206309B2 (ja) 2023-01-17
US11854283B2 (en) 2023-12-26
EP3816818A2 (en) 2021-05-05
JP2022013643A (ja) 2022-01-18
US20210406619A1 (en) 2021-12-30
CN111782839A (zh) 2020-10-16
EP3816818A3 (en) 2021-09-01

Similar Documents

Publication Publication Date Title
CN111782839B (zh) 图像问答方法、装置、计算机设备和介质
JP6893233B2 (ja) 画像に基づくデータ処理方法、装置、電子機器、コンピュータ可読記憶媒体およびコンピュータプログラム
CN111782838B (zh) 图像问答方法、装置、计算机设备和介质
CN111563502A (zh) 图像的文本识别方法、装置、电子设备及计算机存储介质
EP3859560A2 (en) Method and apparatus for visual question answering, computer device and medium
US11417129B2 (en) Object identification image device, method, and computer program product
JP2023073231A (ja) イメージ処理方法及び装置
CN115526259A (zh) 一种多模态预训练模型的训练方法和装置
CN112149663A (zh) 结合rpa和ai的图像文字的提取方法、装置及电子设备
CN113569840A (zh) 基于自注意力机制的表单识别方法、装置及存储介质
CN112541332A (zh) 表单信息抽取方法、装置、电子设备及存储介质
JP2022185143A (ja) テキスト検出方法、テキスト認識方法及び装置
CN111709338B (zh) 一种用于表格检测的方法、装置及检测模型的训练方法
CN113537187A (zh) 文本识别方法、装置、电子设备及可读存储介质
CN114937277B (zh) 基于图像的文本获取方法、装置、电子设备及存储介质
KR20230071052A (ko) 이미지 처리 방법 및 장치
CN114494678A (zh) 文字识别方法和电子设备
Zhang et al. Using visual cropping to enhance fine-detail question answering of blip-family models
CN116612466B (zh) 基于人工智能的内容识别方法、装置、设备及介质
Chen et al. Monocular 3D Object Detection Utilizing Auxiliary Learning With Deformable Convolution
Yang et al. Learning Collaborative Reinforcement Attention for 3D Face Reconstruction and Dense Alignment
Suzuki et al. Important Region Estimation Using Image Captioning
CN114663650A (zh) 图像描述生成方法及装置、电子设备、可读存储介质
CN117218636A (zh) 一种基于多层语义融合的船牌检测识别方法及装置
CN116071760A (zh) 模型的训练、字符识别方法、装置、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant