JP2018513480A - 情報抽出方法及び装置 - Google Patents

情報抽出方法及び装置 Download PDF

Info

Publication number
JP2018513480A
JP2018513480A JP2017552070A JP2017552070A JP2018513480A JP 2018513480 A JP2018513480 A JP 2018513480A JP 2017552070 A JP2017552070 A JP 2017552070A JP 2017552070 A JP2017552070 A JP 2017552070A JP 2018513480 A JP2018513480 A JP 2018513480A
Authority
JP
Japan
Prior art keywords
paragraph
web page
block
node
tag
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017552070A
Other languages
English (en)
Other versions
JP6653334B2 (ja
Inventor
チン,ショウコー
ハン,ヨウ
チェン,チーヤン
マー,フェイチャオ
シュイ,ペイチー
Original Assignee
バイドゥ オンライン ネットワーク テクノロジー (ベイジン) カンパニー リミテッド
バイドゥ オンライン ネットワーク テクノロジー (ベイジン) カンパニー リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by バイドゥ オンライン ネットワーク テクノロジー (ベイジン) カンパニー リミテッド, バイドゥ オンライン ネットワーク テクノロジー (ベイジン) カンパニー リミテッド filed Critical バイドゥ オンライン ネットワーク テクノロジー (ベイジン) カンパニー リミテッド
Publication of JP2018513480A publication Critical patent/JP2018513480A/ja
Application granted granted Critical
Publication of JP6653334B2 publication Critical patent/JP6653334B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/10Text processing
    • G06F40/12Use of codes for handling textual entities
    • G06F40/14Tree-structured documents
    • G06F40/143Markup, e.g. Standard Generalized Markup Language [SGML] or Document Type Definition [DTD]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/957Browsing optimisation, e.g. caching or content distillation
    • G06F16/9577Optimising the visualization of content, e.g. distillation of HTML documents
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/22Indexing; Data structures therefor; Storage structures
    • G06F16/2228Indexing structures
    • G06F16/2246Trees, e.g. B+trees
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/35Clustering; Classification
    • G06F16/353Clustering; Classification into predefined classes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/951Indexing; Web crawling techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/958Organisation or management of web site content, e.g. publishing, maintaining pages or automatic linking
    • G06F16/986Document structures and storage, e.g. HTML extensions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/10Text processing
    • G06F40/103Formatting, i.e. changing of presentation of documents
    • G06F40/117Tagging; Marking up; Designating a block; Setting of attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/10Text processing
    • G06F40/12Use of codes for handling textual entities
    • G06F40/151Transformation
    • G06F40/154Tree transformation for tree-structured or markup documents, e.g. XSLT, XSL-FO or stylesheets
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition
    • G06V30/41Analysis of document content
    • G06V30/414Extracting the geometrical structure, e.g. layout tree; Block segmentation, e.g. bounding boxes for graphics or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition
    • G06V30/41Analysis of document content
    • G06V30/416Extracting the logical structure, e.g. chapters, sections or page numbers; Identifying elements of the document, e.g. authors

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Information Transfer Between Computers (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Machine Translation (AREA)
  • Document Processing Apparatus (AREA)

Abstract

本願は情報抽出方法及び装置を開示する。前記方法の一具体的な実施形態は、予め取得されたウェブページファイルをタグツリー構造として解析し、前記タグツリーのノードから前記ウェブページファイルにおけるウェブページ本文が所在する少なくとも1つの本文ノードを認識するステップと、前記少なくとも1つの本文ノードに含まれるコンテンツに対して段落分割を行い、各段落ブロックを生成し、各段落ブロックに関連するタグの属性に基づいて、各段落ブロックに対してタグ属性を設定するステップと、各段落ブロックのタグ属性に基づいて各段落ブロックに含まれるテキストコンテンツを分類するステップと、分類結果に基づいて段落ブロックに含まれるテキストコンテンツから問題と解答を含む情報を抽出するステップと、を含む。当該実施形態は、情報を自動的且つ正確に抽出することを実現する。【選択図】図2

Description

本願は2015年12月30日に提出した、出願番号が201511022937.Xである中国特許出願に基づく優先権を主張し、当該出願の全文を引用により本願に組み込む。
本願はコンピュータ技術分野に関し、具体的に情報技術分野に関し、特に情報抽出方法及び装置に関する。
インターネット技術が盛んに発展されていることに伴って、インターネットにおける情報リソースはますます豊かになる。一方、検索エンジンは、ネットワークユーザのためにインターネットにおいて求められた情報を迅速に検索することに大きな利便性をもたらす。さらに、インターネットにおけるリソースの増加、及び検索エンジンにおけるユーザ行動データの蓄積に伴って、検索エンジンは自動問答を提供する能力を有するようになる。従来の検索エンジンに比べて、自動問答システムの検索結果は、順序付けられたウェブページリストではなく、関連ウェブページから直接抽出された解答になり、ユーザは、時間をかけてウェブページから解答を探す必要がなくなるため、ユーザの時間を節約する。
自動問答システムインデックスのコンテンツがウェブページ全体のコンテンツではなく、ウェブページコンテンツにおける問答を含む1つの段落又は複数の文であり、且つインターネットにおいて既存の問題及び問題の解答のリソースが少なく、従って、ウェブページコンテンツから問題及び問題の解答の情報を抽出する必要がある。
本願は、上記背景技術に言及された技術問題を解決するために、改良された情報抽出方法及び装置を提供することを特徴とする。
本発明の第一態様によれば、情報抽出方法を提供し、この方法は、
予め取得されたウェブページファイルをタグツリー構造として解析し、前記タグツリーのノードから前記ウェブページファイルにおけるウェブページ本文が所在する少なくとも1つの本文ノードを認識するステップと、
前記少なくとも1つの本文ノードに含まれるコンテンツに対して段落分割を行い、各段落ブロックを生成し、各段落ブロックに関連するタグの属性に基づいて、各段落ブロックに対してタグ属性を設定するステップと、
各段落ブロックのタグ属性に基づいて各段落ブロックに含まれるテキストコンテンツを分類するステップと、
分類結果に基づいて段落ブロックに含まれるテキストコンテンツから問題と解答を含む情報を抽出するステップと、を含む。
いくつかの実施例において、前記の前記少なくとも1つの本文ノードに含まれるコンテンツに対して段落分割を行い、各段落ブロックを生成するステップには、
前記少なくとも1つの本文ノードに含まれるコンテンツから前記ウェブページファイルのウェブページコンテンツのタイトルを認識するステップと、
前記少なくとも1つの本文ノードに含まれるコンテンツにおける、前記タイトル以外のコンテンツに対して段落分割を行い、各段落ブロックを生成するステップと、を含む。
いくつかの実施例において、前記の予め取得されたウェブページファイルをタグツリー構造として解析し、前記タグツリーのノードから前記ウェブページファイルにおけるウェブページ本文が所在する少なくとも1つの本文ノードを認識するステップには、
予め取得されたウェブページファイルに対して標準化処理を行い、前記ウェブページファイルをHTML仕様に合致させるステップと、
標準化されたウェブページファイルに対してドキュメントオブジェクトモデルツリー解析を行い、タグツリーを生成するステップと、
前記タグツリーの各ノードにアクセスし、各ノードに含まれるコンテンツに基づいて本文ノードを決定するステップと、を含む
いくつかの実施例において、前記の前記少なくとも1つのテキスト本文に含まれるコンテンツから前記ウェブページファイルのウェブページコンテンツのタイトルを認識するステップには、
前記少なくとも1つのテキスト本文に含まれるコンテンツの前記ウェブページコンテンツでの位置に基づいて、前記少なくとも1つのテキスト本文から少なくとも1つの候補タイトルノードを選択するステップと、
各候補タイトルノード内のテキストと、前記ウェブページファイルのタイトルタグに対応するテキストとの編集距離、及び各候補タイトルノード内のテキストと、アンカータグに対応するテキストとの編集距離を計算するステップと、
各候補タイトルノード内のタグ情報及び計算された編集距離に基づいて各候補タイトルノードを順序付けるステップと、
順序付けの結果に基づいて前記少なくとも1つの候補タイトルノードから1つのテキストタイトルノードを決定し、前記テキストタイトルノード内のテキストをウェブページコンテンツのタイトルとして決定するステップと、を含む。
いくつかの実施例において、前記の前記少なくとも1つのテキスト本文に含まれるコンテンツに対して段落分割を行い、各段落ブロックを生成し、各段落ブロックに関連するタグの属性に基づいて、各段落ブロックに対してタグ属性を設定するステップには、
各テキスト本文における少なくとも1つのブロック要素を認識するステップと、
ブロック要素がサブブロック要素を含む場合、サブブロック要素と改行タグでテキスト本文に含まれるテキストに対して段落分割を行い、少なくとも1つの段落ブロックを取得して、ブロック要素がサブブロック要素を含まない場合、改行タグでテキスト本文に含まれるテキストに対して段落分割を行い、少なくとも1つの段落ブロックを取得するステップと、
ブロック要素及びサブブロック要素に関連するタグの属性に基づいて各段落ブロックに対してタグ属性を設定するステップと、を含む。
いくつかの実施例において、前記の各段落ブロックのタグ属性に基づいて各段落ブロックに含まれるテキストコンテンツを分類するステップには、
タグ属性が同じである段落ブロックを同じ段落ブロック集合に分割するステップと、
各段落ブロック集合における各段落ブロックに含まれる文字数及び各段落ブロックの間の行間隔に基づいて各サブブロック集合における短タイトル構造を認識するステップと、
含まれるテキストに基づいて、各段落ブロック集合における非短タイトル構造の段落ブロックを分類するステップと、を含む。
いくつかの実施例において、前記の分類結果に基づいて段落ブロックに含まれるテキストコンテンツから問題と解答を含む情報を抽出するステップには、
認識された短タイトル構造に基づいてウェブページファイルに対応するウェブページ本文コンテンツに対してロジックブロック分割を行うステップと、
正規表現で各短タイトル構造が問題であるか否かを判断し、問題である場合、当該短タイトルを候補問題として設定するステップと、
候補問題の前記ウェブページコンテンツでの位置及びウェブページコンテンツのロジックブロック分割結果に基づいて候補問題に対応する候補解答を抽出するステップと、
候補問題と候補解答との間の間隔行数、候補解答における数字番号が連続的であるか否か、解答のエントリー数、解答のうち問題として判定されたエントリー数のうちの少なくとも1つに基づいて、問題と解答を含む情報を抽出するステップと、を含む。
本発明の第二態様によれば、情報抽出装置を提供し、この装置は、
予め取得されたウェブページファイルをタグツリー構造として解析し、前記タグツリーのノードから前記ウェブページファイルにおけるウェブページ本文が所在する少なくとも1つのテキスト本文を認識するように配置される解析ユニットと、
前記少なくとも1つのテキスト本文に含まれるコンテンツに対して段落分割を行い、各段落ブロックを生成し、各段落ブロックに関連するタグの属性に基づいて、各段落ブロックに対してタグ属性を設定するように配置される分割ユニットと、
各段落ブロックのタグ属性に基づいて各段落ブロックに含まれるテキストコンテンツを分類するように配置される分類ユニットと、
分類結果に基づいて段落ブロックに含まれるテキストコンテンツから問題と解答を含む情報を抽出するように配置される抽出ユニットと、を備える。
いくつかの実施例において、前記分割ユニットは、
前記少なくとも1つのテキスト本文に含まれるコンテンツから前記ウェブページファイルのウェブページコンテンツのタイトルを認識するように配置される認識サブユニットと、
前記少なくとも1つのテキスト本文に含まれるコンテンツにおける、前記タイトル以外のコンテンツに対して段落分割を行い、各段落ブロックを生成するように配置される分割サブユニットと、を備える。
いくつかの実施例において、前記解析ユニットは、更に、
予め取得されたウェブページファイルに対して標準化処理を行い、前記ウェブページファイルをHTML仕様に合致させ、
標準化されたウェブページファイルに対してドキュメントオブジェクトモデルツリー解析を行い、タグツリーを生成し、
前記タグツリーの各ノードにアクセスし、各ノードに含まれるコンテンツに基づいてテキスト本文を決定するように配置される。
いくつかの実施例において、前記認識サブユニットは、更に、
前記少なくとも1つのテキスト本文に含まれるコンテンツの前記ウェブページコンテンツでの位置に基づいて、前記少なくとも1つのテキスト本文から少なくとも1つの候補タイトルノードを選択し、
各候補タイトルノード内のテキストと、前記ウェブページファイルのタイトルタグに対応するテキストとの編集距離、及び各候補タイトルノード内のテキストと、アンカータグに対応するテキストとの編集距離を計算し、
各候補タイトルノード内のタグ情報及び計算された編集距離に基づいて各候補タイトルノードを順序付け、
順序付けの結果に基づいて前記少なくとも1つの候補タイトルノードから1つのテキストタイトルノードを決定し、前記テキストタイトルノード内のテキストをウェブページコンテンツのタイトルとして決定するように配置される。
いくつかの実施例において、前記分割ユニットは、更に、
各テキスト本文における少なくとも1つのブロック要素を認識し、
ブロック要素がサブブロック要素を含む場合、サブブロック要素と改行タグでテキスト本文に含まれるテキストに対して段落分割を行い、少なくとも1つの段落ブロックを取得して、ブロック要素がサブブロック要素を含まない場合、改行タグでテキスト本文に含まれるテキストに対して段落分割を行い、少なくとも1つの段落ブロックを取得して、
ブロック要素及びサブブロック要素に関連するタグの属性に基づいて各段落ブロックに対してタグ属性を設定するように配置される。
いくつかの実施例において、前記分類ユニットは、更に、
タグ属性が同じである段落ブロックを同じ段落ブロック集合に分割し、
各段落ブロック集合における各段落ブロックに含まれる文字数及び各段落ブロックの間の行間隔に基づいて各サブブロック集合における短タイトル構造を認識し、
含まれるテキストに基づいて、各段落ブロック集合における非短タイトル構造の段落ブロックを分類するように配置される。
いくつかの実施例において、前記抽出ユニットは、更に、
認識された短タイトル構造に基づいてウェブページファイルに対応するウェブページ本文コンテンツに対してロジックブロック分割を行い、
正規表現で各短タイトル構造が問題であるか否かを判断し、問題である場合、当該短タイトルを候補問題として設定し、
候補問題の前記ウェブページコンテンツでの位置及びウェブページコンテンツのロジックブロック分割結果に基づいて候補問題に対応する候補解答を抽出し、
候補問題と候補解答との間の間隔行数、候補解答における数字番号が連続的であるか否か、解答のエントリー数、解答のうち問題として判定されたエントリー数のうちの少なくとも1つに基づいて、問題と解答を含む情報を抽出するように配置される。
本願に係る情報抽出方法及び装置は、ウェブページファイルをタグツリー構造として解析し、次に本文ノードに含まれるコンテンツに対して段落分割を行って段落ブロックを生成し、最後に段落ブロックに含まれるテキストコンテンツを分類し、分類結果に基づいて段落ブロックに含まれるテキストコンテンツから問題と解答を含む情報を抽出することで、情報を自動的且つ正確に抽出することを実現する。
以下の図面を参照しながら行った非限定的な実施例についての詳細な説明に基づいて、本願の他の特徴、目的や利点はより明瞭になる。
本願を適用できる例示的なシステムアーキテクチャー図である。 本願に係る情報抽出方法の一実施例のフローチャートである。 本願に係る情報抽出方法の一応用シナリオの模式図である。 本願に係る情報抽出方法の別の実施例のフローチャートである。 本願に係る情報抽出装置の一実施例の構造模式図である。 本願の実施例を実現するための端末装置又はサーバに適用されるコンピュータシステムの構造模式図である。
以下、図面及び実施例を参照しながら本発明をより詳細に説明する。ここで説明する具体的な実施例は、かかる発明を説明するものに過ぎず、当該発明を限定するものではないと理解すべきである。ただし、説明の便宜上、図面に発明に関連する部分のみが示されている。
なお、衝突しない場合、本願の実施例及び実施例の特徴を相互に組み合せてもよい。以下、図面及び実施例を参照しながら本願を詳細に説明する。
図1は本願の情報抽出方法又は情報抽出装置を適用できる実施例の例示的なシステムアーキテクチャー100を示す。
図1に示されるように、システムアーキテクチャー100は、端末装置101、102、103、ネットワーク104及びサーバ105を備えてもい。ネットワーク104は端末装置101、102、103とサーバ105の間に通信リンクを提供する媒体に用いられている。ネットワーク104は様々な接続タイプ、例えば有線、無線通信リンク又は光ファイバーケーブル等を含んでもよい。
ユーザは端末装置101、102、103を用いてネットワーク104を介してサーバ105とインタラクションして、それによりメッセージなどを送受信することができる。端末装置101、102、103に、様々な通信クライアントアプリケーション、例えばウェブブラウザアプリケーション、検索アプリケーション、ニュースアプリケーション、インスタントメッセージングツール、メールボックスクライアント、ソーシャルソフトウェアプラットフォームソフトウェア等がインストールされてもよい。
端末装置101、102、103は情報処理をサポートする各種の電子機器であってもよく、スマートフォン、タブレットPC、e−Bookリーダー、MP3プレーヤー (Moving Picture Experts Group Audio Layer III、ムービング・ピクチャー・エクスパーツ・グループオーディオレイヤーIII)、MP4プレーヤー(Moving Picture Experts Group Audio LayerIV、ムービング・ピクチャー・エクスパーツ・グループオーディオレイヤーIV)、ラップトップ型コンピュータ及びデスクトップコンピュータなどを含むが、それらに限定されるものではない。
サーバ105は各種のサービスを提供するサーバ、例えば端末装置101、102、103にウェブページファイル情報を提供するバックグラウンドウェブページサーバであってもよい。バックグラウンドウェブページサーバはインターネットにおけるウェブページファイルを端末装置に送信することができ、インターネットにおけるウェブページファイルに情報分析、抽出などの処理を行った後に処理結果を端末装置に送信することもできる。
なお、本願の実施例で提供される情報抽出方法はサーバ105により単独で実行されてもよく、端末装置101、102、103とサーバ105とにより共同で実行されてもよく、端末装置101、102、103により単独で実行されてもよい。相応に、情報抽出装置は端末101、102、103に設置されてもよく、情報抽出装置はサーバ105に設置されてもよく、情報抽出装置の一部のユニットはサーバ105に設置されてもよい。
なお、図1における端末装置、ネットワーク及びサーバの数は例示的なものに過ぎない。必要に応じて、端末装置、ネットワーク及びサーバの数が任意であってもよい。
続いて、本願に係る情報抽出方法の一実施例のフロー200を示す図2を参照する。前記情報抽出方法は、ステップ200〜ステップ204を含む。
ステップ201:予め取得されたウェブページファイルをタグツリー構造として解析し、タグツリーのノードからウェブページファイルにおけるウェブページ本文が所在する少なくとも1つの本文ノードを認識する。
本実施例では、情報抽出方法を実行する電子機器は、予めローカル又は遠隔でウェブページファイルを取得することができ、例えば、上記電子機器がウェブページサーバである場合、ローカルでウェブページファイルを取得し、上記電子機器が移動端末である場合、有線接続方式又は無線接続方式によってウェブページサーバからウェブページファイルを取得することができる。上記ウェブページファイルは、各種のフォーマットのファイル、例えば、htmlフォーマット、xhtmlフォーマット、dhtmlフォーマット、aspフォーマット、phpフォーマット、jspフォーマット、shtmlフォーマット、nspフォーマット、xmlフォーマットであってもよい。上記電子機器は、上記ウェブページファイルをタグツリー構造として解析し、つまり、ウェブページファイルにおけるタグをネスト関係に従って整理して1つのツリー構造にすることができる。上記電子機器はさらに、解析して取得されたタグツリーに対してフィルタリング処理を行い、ウェブページ本文に無関係の情報が所在するノードを除去することができ、ウェブページ本文に無関係の情報がナビゲーション情報、著作権声明情報、広告情報等を含んでもよいが、これらに制限されない。上記電子機器はさらに、各ノードに含まれるコンテンツに基づいて、更にタグツリーのノードからウェブページ本文が所在する少なくとも1つの本文ノードを認識することができ、例えば、含まれるテキストの字数が設定数量より大きく、含まれるリンク文字が設定数量より少ないノードを本文ノードとして認識することができる。なお、上記無線接続方式は、3G/4G接続、WiFi接続、ブルートゥース(登録商標)接続、WiMAX接続、Zigbee接続、UWB(ultra wideband)接続、ほかの既知又は将来開発する無線接続方式を含んでもよいが、これらに制限されない。
本実施例のいくつかの選択可能な実施形態では、上記電子機器は、まず予め取得したウェブページファイルに対して標準化処理を行い、上記ウェブページファイルをHTML仕様に一致させることができ、例えば、<title>タグがあるが対応する</title>タグがないウェブページファイルに</title>を補足し、また、例えば<li>、<hr>等の終了タグを補足し、次に、標準化したウェブページファイルに対してドキュメントオブジェクトモデル(DOM、Document Object Model)ツリー解析を行い、タグツリーを生成し、最後に、生成したタグツリーの各ノードに順にアクセスし、各ノードに含まれるコンテンツに基づいて本文ノードを決定する。例えば、タグツリーの各ノードに含まれるテキスト字数、リンクテキスト字数、段落数、含まれるリーフノードにおけるテキスト数の分散等の統計量をそれぞれ統計し、統計量と予め設定された閾値とを比較し、条件を満たすノードを本文ノードとして選択し、例えばテキスト字数が多く、リンクテキスト字数が少なく、段落数が多く、含まれるリーフノードにおけるテキスト数の分散が大きいノードを本文ノードとして認識する。
ステップ202:少なくとも1つの本文ノードに含まれるコンテンツに対して段落分割を行い、各段落ブロックを生成し、各段落ブロックに関連するタグの属性に基づいて、各段落ブロックに対してタグ属性を設定する。
本実施例では、上記電子機器は、上記少なくとも1つの本文ノードに含まれるテキストコンテンツに対して段落分割を行い、それぞれの段落ブロックを生成し、各段落ブロックが上記ウェブページファイルに対応するウェブページ本文の段落に対応し、同時に、各段落ブロックに関連するタグの属性(例えばカラー、太字、リンク、数字リスト、非数字リスト等)に基づいて各段落ブロックに対してタグ属性を設定する。
本実施例のいくつかの選択可能な実施形態では、上記電子機器は、まず少なくとも1つの本文ノードに含まれるコンテンツからウェブページファイルのウェブページコンテンツのタイトルを認識することができ、例えば、上記電子機器は、各ノードに含まれるコンテンツの上記ウェブページファイルに対応するウェブページ本文での位置、各ノードに含まれるテキストコンテンツに基づいて、ステップ201で取得された少なくとも1つの本文ノードから上記ウェブページファイルのウェブページコンテンツのタイトルを認識し、次に上記少なくとも1つの本文ノードに含まれるコンテンツにおける、当該タイトル以外のコンテンツに対して段落分割を行い、各段落ブロックを生成することができる。
オプションとして、上記電子機器は、まず少なくとも1つの本文ノードに含まれるコンテンツの上記ウェブページコンテンツでの位置に基づいて、上記少なくとも1つの本文ノードから少なくとも1つの候補タイトルノードを選択することができ、例えば、上記電子機器は、ウェブページコンテンツの上端の設定範囲内のテキストコンテンツに対応するノードを見つけて、見つけられたノードを候補タイトルノードとし、次に、各候補タイトルノード内のテキストと、上記ウェブページファイルのタイトル(title)タグに対応するテキストとの編集距離、及び各候補タイトルノード内のテキストと、アンカー(anchor)タグに対応するテキストとの編集距離を計算し、次に、各候補タイトルノード内のタグ情報及び計算した編集距離に基づいて各候補タイトルノードを順序付け、例えば編集距離の昇順で順序付け、最後に、順序付けの結果に基づいて上記少なくとも1つの候補タイトルノードから1つのテキストタイトルノードを決定し、上記テキストタイトルノード内のテキストをウェブページコンテンツのタイトルとして決定することができる。オプションとして、上記電子機器はさらに、順序付けの結果と各候補タイトルノードに関連するタグに基づいて、上記少なくとも1つの候補タイトルノードから1つのテキストタイトルノードを決定することができ、例えば、タイトルタグ(Hタグ)、太字(strong)タグ等の、タイトルによく現れるタグを含み、且つ編集距離が設定値より小さい候補タイトルノードをテキストタイトルノードとして選択する。
本実施例のいくつかの選択可能な実施形態では、上記電子機器は、まず各本文ノードにおける少なくとも1つのブロック要素を認識し、ブロック要素がサブブロック要素を含む場合、サブブロック要素と改行(br)タグで本文ノードに含まれるテキストに対して段落分割を行い、少なくとも1つの段落ブロックを取得して、ブロック要素がサブブロック要素を含まない場合、改行タグで本文ノードに含まれるテキストに対して段落分割を行い、少なくとも1つの段落ブロックを取得して、次に、ブロック要素及びサブブロック要素に関連するタグの属性(例えばカラー、太字、リンク、数字リスト、非数字リスト等)に基づいて各段落ブロックに対してタグ属性を設定する。
ステップ203:各段落ブロックのタグ属性に基づいて各段落ブロックに含まれるテキストコンテンツを分類する。
本実施例では、上記電子機器は、ステップ202で取得された各段落ブロック及び各段落ブロックのタグ属性に基づいて、各段落ブロックに含まれるテキストコンテンツを分類することができる。例えば、タグ属性が同じである段落ブロックを同じクラスに分割することができる。
ステップ204:分類結果に基づいて段落ブロックに含まれるテキストコンテンツから問題と解答を含む情報を抽出する。
本実施例では、上記電子機器は、従来の自然言語処理分析技術を用いてステップ203で取得された分類結果に対して分析処理を行い、各段落ブロックに含まれるテキストコンテンツから問題を抽出することができ、例えば、各段落ブロックに含まれるテキストコンテンツに対して単語分割、セマンティクス分析等の一連の処理を行い、各段落ブロックに含まれるテキストコンテンツから疑問文を抽出する。上記電子機器は、問題を抽出した後に、抽出した問題の上記ウェブページコンテンツでの位置及び各段落ブロックに含まれるテキストコンテンツに基づいて当該問題に対応する解答を抽出することができる。
続いて、本実施例に係る情報抽出方法の応用シナリオの一模式図である図3を参照する。図3の応用シナリオでは、ユーザは、Webブラウジングを行う端末装置で、解答を検索しようとする問題「前立腺炎の症状」を入力し、図3に示すように、ウェブページサーバは、予め記憶された複数の問題と解答の情報から、問題「前立腺炎の症状」に関連する問題と解答を検索し、検索した問題と解答をユーザにプッシュする。予め記憶された複数の問題と解答の情報は、まず、予め取得したウェブページファイルをタグツリー構造として解析し、タグツリーから当該ウェブページファイルのウェブページ本文が所在する少なくとも1つの本文ノードを認識し、次に、テキストコンテンツに対して段落分割を行って段落ブロックを取得して、各段落ブロックのタグ属性を設定し、最後に、各段落ブロックに含まれるテキストコンテンツを分類し、分類結果に基づいてテキストコンテンツからウェブページコンテンツに含まれる問題と解答を抽出する方式によって、取得される。
本願の上記実施例に係る方法は、ウェブページファイルをタグツリーとして解析し、認識した本文ノードに含まれるコンテンツに対して段落分割を行い、タグ属性を設定し、最終的にウェブページ本文における問題と解答を含む情報を抽出することで、情報を自動的且つ正確に抽出することを実現する。
更に、情報抽出方法の別の実施例のフロー400を示す図4を参照する。当該情報抽出方法のフロー400は、ステップ401〜ステップ406を含む。
ステップ401:予め取得したウェブページファイルをタグツリー構造として解析し、タグツリーのノードからウェブページファイルにおけるウェブページ本文が所在する少なくとも1つの本文ノードを認識する。
本実施例では、情報抽出方法を実行する電子機器は、予めローカル又は遠隔でウェブページファイルを取得し、上記ウェブページファイルをタグツリー構造として解析することができる。次に、上記電子機器はさらに、各ノードに含まれるコンテンツに基づいて更にタグツリーのノードからウェブページ本文が所在する少なくとも1つの本文ノードを認識することができる。
ステップ402:少なくとも1つの本文ノードに含まれるコンテンツに対して段落分割を行い、各段落ブロックを生成し、各段落ブロックに関連するタグの属性に基づいて、各段落ブロックに対してタグ属性を設定する。
本実施例では、上記電子機器は、上記少なくとも1つの本文ノードに含まれるテキストコンテンツに対して段落分割を行い、各段落ブロックを生成し、同時に、各段落ブロックに関連するタグの属性に基づいて各段落ブロックに対してタグ属性を設定することができる。
ステップ403:タグ属性が同じである段落ブロックを同じ段落ブロック集合に分割する。
本実施例では、上記電子機器は、ステップ402で取得された段落ブロックのうちのタグ属性が同じである段落ブロックを同じ段落ブロック集合に分割することができる。
ステップ404:各段落ブロック集合における各段落ブロックに含まれる文字数及び各段落ブロックの間の行間隔に基づいて各サブブロック集合における短タイトル構造を認識する。
本実施例では、上記電子機器は、各段落ブロック集合内の各段落ブロックの間の平均行間隔、最大連続行間隔数、平均文字数、最大文字数等を計算して閾値を設定し、所定の行間隔を有し、文字長さが均一であり且つあまり大きくない段落ブロックを短タイトル構造として認識することができる。
ステップ405:各段落ブロック集合における非短タイトル構造の段落ブロックを含まれるテキストに基づいて分類する。
本実施例では、上記電子機器は、各段落ブロック集合における非短タイトル構造の段落ブロックを含まれるテキストに基づいて分類することができ、例えば、段落ブロック内のテキストに数字が含んでいるか否か、段落の開始部分に強調構文があるか否かに基づいて、段落ブロックを、番号キー値型段落、キー値型段落、番号型段落及び普通型段落等のカテゴリーに分割し、番号キー値型段落とは、番号を有し且つキー値型構造である段落(例えば1、中心思想を抽出する方法:現象を通して本質をつかむこと)を意味する。
ステップ406:分類結果に基づいて段落ブロックに含まれるテキストコンテンツから問題と解答を含む情報を抽出する。
本実施例では、上記電子機器は、ステップ405で取得された分類結果に基づいて、各段落ブロックに含まれるテキストコンテンツから問題と当該問題に対応する解答を抽出することができる。
本実施例のいくつかの選択可能な実施形態では、上記電子機器は、まずステップ404で認識した短タイトル構造に基づいてウェブページファイルに対応するウェブページ本文コンテンツに対してロジックブロック分割を行うことができ、例えば、認識した短タイトル構造、及び、当該短タイトル構造と次の短タイトル構造との間の一部を1つのロジックブロックに分割し、次に、正規表現で各短タイトル構造が問題であるか否かを判断し、問題である場合、当該短タイトルを候補問題として設定し、次に、候補問題の上記ウェブページコンテンツでの位置及びウェブページコンテンツのロジックブロック分割結果に基づいて、候補問題に対応する候補解答を抽出し、最後に、候補問題と候補解答との間の間隔行数、候補解答における数字番号が連続的であるか否か、解答のエントリー数、解答のうち問題として判定されたエントリー数のうちの少なくとも1つに基づいて、問題と解答を含む情報を抽出することができ、例えば候補問題と最初の候補解答のコンテンツとの間の行数が所定の閾値を超える場合、当該候補問題と候補解答を除去し、候補解答が数字番号を有する複数のコンテンツを含み且つ番号が連続的ではない場合、当該候補解答及び当該候補解答に対応する候補問題を除去し、候補解答に含まれる解答のエントリー数が設定閾値より小さい場合、当該候補解答及び当該候補解答に対応する候補問題を除去し、候補解答に含まれた解答エントリーのうちの複数が問題と判断された(例えば複数が疑問句と判断される)場合、当該候補解答及び当該候補解答に対応する候補問題を除去し、ここで、解答のエントリー数は、解答に含まれるエントリーの数量を意味し、各エントリーは、1つの段落を意味してもよく、1つの文を意味してもよい。
図4からわかるように、図2に対応する実施例に比べて、本実施例における情報抽出方法のフロー400は、各段落ブロックに対する分割及び各サブブロック集合における短タイトル構造の認識を強調する。そのため、本実施例で説明された形態は、ウェブページコンテンツにおける問題をより正確に認識して、情報を正確に抽出することができる。
更に図5に示すように、上記各図に示す方法の実施形態として、本願は、情報抽出装置の一実施例を提供し、当該装置の実施例は図2に示す方法実施例に対応し、当該装置は具体的に各種の電子機器に適用することができる。
図5に示すように、本実施例の前記情報抽出装置500は、解析ユニット501、分割ユニット502、分類ユニット503及び抽出ユニット504を備える。解析ユニット501は、予め取得したウェブページファイルをタグツリー構造として解析し、上記タグツリーのノードから上記ウェブページファイルにおけるウェブページ本文が所在する少なくとも1つの本文ノードを認識するように配置され、分割ユニット502は、上記少なくとも1つの本文ノードに含まれるコンテンツに対して段落分割を行い、各段落ブロックを生成し、各段落ブロックに関連するタグの属性に基づいて、各段落ブロックに対してタグ属性を設定するように配置され、分類ユニット503は、各段落ブロックのタグ属性に基づいて各段落ブロックに含まれるテキストコンテンツを分類するように配置され、抽出ユニット504は、分類結果に基づいて段落ブロックに含まれるテキストコンテンツから問題と解答を含む情報を抽出するように配置される。
本実施例では、情報抽出装置500の解析ユニット501は、予め取得したウェブページファイルをタグツリー構造として解析し、上記タグツリーのノードから上記ウェブページファイルにおけるウェブページ本文が所在する少なくとも1つの本文ノードを認識することができる。
本実施例では、上記分割ユニット502は、上記少なくとも1つの本文ノードに含まれるコンテンツに対して段落分割を行い、各段落ブロックを生成し、各段落ブロックに関連するタグの属性に基づいて、各段落ブロックに対してタグ属性を設定することができる。
本実施例では、上記分類ユニット503は、上記分割ユニット502で取得された各段落ブロックのタグ属性に基づいて各段落ブロックに含まれるテキストコンテンツを分類することができる。
本実施例では、上記抽出ユニット504は、上記分類ユニット503で取得された分類結果に基づいて段落ブロックに含まれるテキストコンテンツから問題と解答を含む情報を抽出することができる。
当業者であれば、上記情報抽出装置500はさらに、いくつかのその他の周知構造、例えばプロセッサ、記憶装置等を備え、本開示の実施例を不明瞭にしないように、これらの周知の構造が図5に示されていないことを理解することができる。
本願の実施例を実現するための端末装置又はサーバに適用されるコンピュータシステム600の構造模式図を示す図6を参照する。
図6に示すように、コンピュータシステム600は、読み出し専用メモリ(ROM)602に記憶されているプログラム又は記憶部608からランダムアクセスメモリ(RAM)603にロードされたプログラムに基づいて様々な適切な動作及び処理を実行することができる中央処理装置(CPU)601を備える。RAM603には、システム600の操作に必要な様々なプログラム及びデータがさらに記憶されている。CPU601、ROM602及びRAM603は、バス604を介して互いに接続されている。入力/出力(I/O)インターフェース605もバス604に接続されている。
キーボード、マウスなどを含む入力部606、陰極線管(CRT)、液晶ディスプレイ(LCD)など、及びスピーカなどを含む出力部607、ハードディスクなどを含む記憶部608、及びLANカード、モデムなどを含むネットワークインターフェースカードの通信部609は、I/Oインターフェース605に接続されている。通信部609は、例えばインターネットのようなネットワークを介して通信処理を実行する。ドライバ610は、必要に応じてI/Oインターフェース605に接続される。リムーバブルメディア611は、例えば、マグネチックディスク、光ディスク、光磁気ディスク、半導体メモリなどのようなものであり、必要に応じてドライバ610に取り付けられ、したがって、ドライバ610から読み出されたコンピュータプログラムが必要に応じて記憶部608にインストールされる。
特に、本発明の実施例によれば、上記フローチャートを参照しながら記載されたプロセスは、コンピュータのソフトウェアプログラムとして実現されてもよい。例えば、本発明の実施例は、コンピュータプログラム製品を含み、当該コンピュータプログラム製品は、機械可読媒体に有形に具現化されるコンピュータプログラムを含み、前記コンピュータプログラムは、フローチャートで示される方法を実行するためのプログラムコードを含む。このような実施例では、当該コンピュータプログラムは、通信部609を介してネットワークからダウンロードされてインストールされてもよく、及び/又はリムーバブルメディア611からインストールされてもよい。
図面におけるフローチャート及びブロック図は、本発明の各実施例に係るシステム、方法及びコンピュータプログラム製品により実現可能なアーキテクチャ、機能及び操作を示す。ここで、フローチャート又はブロック図における各枠は、1つのモジュール、プログラムセグメント、又はコードの一部を代表してもよく、前記モジュール、プログラムセグメント、又はコードの一部は、規定された論理機能を実現するための1つ以上の実行可能な命令を含む。なお、いくつかの代替実施態様として、枠に示された機能は、図面に示された順番と異なる順番で実行されてもよい。例えば、連続して示された2つの枠は、関連する機能に応じて、実際にほぼ並行に実行されてもよく、逆の順番で実行されてもよい。なお、ブロック図及び/又はフローチャートにおける各枠と、ブロック図及び/又はフローチャートにおける枠の組合せは、規定された機能又は操作を実行する、ハードウェアに基づく専用システムで実現されてもよく、あるいは、専用ハードウェアとコンピュータの命令との組合せで実行されてもよい。
本発明の実施例に記載されたユニットは、ソフトウェアで実現されてもよく、ハードウェアで実現されてもよい。記載されたユニットは、プロセッサに設定されてもよく、例えば、「解析ユニット、分割ユニット、分類ユニット、及び抽出ユニットを備えるプロセッサ」として記載されてもよい。その中でも、これらのユニットの名称は、ある場合において当該ユニットその自体を限定するものではなく、例えば、解析ユニットは、「予め取得されたウェブページファイルをタグツリー構造として解析し、前記タグツリーのノードから前記ウェブページファイルにおけるウェブページテキストが所在する少なくとも1つのテキストノードを認識するユニット」として記載されてもよい。
一方、本発明は、不揮発性コンピュータ記憶媒体をさらに提供し、当該不揮発性コンピュータ記憶媒体は、上記実施例の前記装置に含まれる不揮発性コンピュータ記憶媒体であってもよく、独立に存在して端末に組み立てられていない不揮発性コンピュータ記憶媒体であってもよい。前記不揮発性コンピュータ記憶媒体は、1つ以上のプログラムが記憶され、前記1つ以上のプログラムが1つの機器により実行された場合、上記機器に、予め取得されたウェブページファイルをタグツリー構造として解析し、前記タグツリーのノードから前記ウェブページファイルにおけるウェブページ本文が所在する少なくとも1つの本文ノードを認識し、前記少なくとも1つの本文ノードに含まれるコンテンツに対して段落分割を行い、各段落ブロックを生成し、各段落ブロックに関連するタグの属性に基づいて、各段落ブロックに対してタグ属性を設定し、各段落ブロックのタグ属性に基づいて各段落ブロックに含まれるテキストコンテンツを分類し、分類結果に基づいて段落ブロックに含まれるテキストコンテンツから問題と解答を含む情報を抽出するようにさせる。
以上の記載は、本発明の好ましい実施例、及び使用された技術的原理の説明に過ぎない。本発明に係る特許請求の範囲が、上記技術的特徴の特定な組合せからなる技術案に限定されることではなく、本発明の趣旨を逸脱しない範囲で、上記技術的特徴又は同等の特徴の任意の組合せからなる他の技術案も含むべきであることを、当業者は理解すべきである。例えば、上記特徴と、本発明に開示された類似の機能を持っている技術的特徴(これらに限定されていない)とを互いに置き換えてなる技術案が挙げられる。

Claims (16)

  1. 予め取得されたウェブページファイルをタグツリー構造として解析し、前記タグツリーのノードから前記ウェブページファイルにおけるウェブページ本文が所在する少なくとも1つの本文ノードを認識するステップと、
    前記少なくとも1つの本文ノードに含まれるコンテンツに対して段落分割を行い、各段落ブロックを生成し、各段落ブロックに関連するタグの属性に基づいて、各段落ブロックに対してタグ属性を設定するステップと、
    各段落ブロックのタグ属性に基づいて各段落ブロックに含まれるテキストコンテンツを分類するステップと、
    分類結果に基づいて段落ブロックに含まれるテキストコンテンツから問題と解答を含む情報を抽出するステップと、を含む
    ことを特徴とする情報抽出方法。
  2. 前記の前記少なくとも1つの本文ノードに含まれるコンテンツに対して段落分割を行い、各段落ブロックを生成するステップには、
    前記少なくとも1つの本文ノードに含まれるコンテンツから前記ウェブページファイルのウェブページコンテンツのタイトルを認識するステップと、
    前記少なくとも1つの本文ノードに含まれるコンテンツにおける、前記タイトル以外のコンテンツに対して段落分割を行い、各段落ブロックを生成するステップと、を含む
    ことを特徴とする請求項1に記載の方法。
  3. 前記の予め取得されたウェブページファイルをタグツリー構造として解析し、前記タグツリーのノードから前記ウェブページファイルにおけるウェブページ本文が所在する少なくとも1つの本文ノードを認識するステップには、
    予め取得されたウェブページファイルに対して標準化処理を行い、前記ウェブページファイルをHTML仕様に合致させるステップと、
    標準化されたウェブページファイルに対してドキュメントオブジェクトモデルツリー解析を行い、タグツリーを生成するステップと、
    前記タグツリーの各ノードにアクセスし、各ノードに含まれるコンテンツに基づいて本文ノードを決定するステップと、を含む
    ことを特徴とする請求項1に記載の方法。
  4. 前記の前記少なくとも1つの本文ノードに含まれるコンテンツから前記ウェブページファイルのウェブページコンテンツのタイトルを認識するステップには、
    前記少なくとも1つの本文ノードに含まれるコンテンツの前記ウェブページコンテンツでの位置に基づいて、前記少なくとも1つの本文ノードから少なくとも1つの候補タイトルノードを選択するステップと、
    各候補タイトルノード内のテキストと、前記ウェブページファイルのタイトルタグに対応するテキストとの編集距離、及び各候補タイトルノード内のテキストと、アンカータグに対応するテキストとの編集距離を計算するステップと、
    各候補タイトルノード内のタグ情報及び計算された編集距離に基づいて各候補タイトルノードを順序付けるステップと、
    順序付けの結果に基づいて前記少なくとも1つの候補タイトルノードから1つのテキストタイトルノードを決定し、前記テキストタイトルノード内のテキストをウェブページコンテンツのタイトルとして決定するステップと、を含む
    ことを特徴とする請求項2に記載の方法。
  5. 前記の前記少なくとも1つの本文ノードに含まれるコンテンツに対して段落分割を行い、各段落ブロックを生成し、各段落ブロックに関連するタグの属性に基づいて、各段落ブロックに対してタグ属性を設定するステップには、
    各本文ノードにおける少なくとも1つのブロック要素を認識するステップと、
    ブロック要素がサブブロック要素を含む場合、サブブロック要素と改行タグで本文ノードに含まれるテキストに対して段落分割を行い、少なくとも1つの段落ブロックを取得して、ブロック要素がサブブロック要素を含まない場合、改行タグで本文ノードに含まれるテキストに対して段落分割を行い、少なくとも1つの段落ブロックを取得するステップと、
    ブロック要素及びサブブロック要素に関連するタグの属性に基づいて各段落ブロックに対してタグ属性を設定するステップと、を含む
    ことを特徴とする請求項1に記載の方法。
  6. 前記の各段落ブロックのタグ属性に基づいて各段落ブロックに含まれるテキストコンテンツを分類するステップには、
    タグ属性が同じである段落ブロックを同じ段落ブロック集合に分割するステップと、
    各段落ブロック集合における各段落ブロックに含まれる文字数及び各段落ブロックの間の行間隔に基づいて各サブブロック集合における短タイトル構造を認識するステップと、
    含まれるテキストに基づいて、各段落ブロック集合における非短タイトル構造の段落ブロックを分類するステップと、を含む
    ことを特徴とする請求項1に記載の方法。
  7. 前記の分類結果に基づいて段落ブロックに含まれるテキストコンテンツから問題と解答を含む情報を抽出するステップには、
    認識された短タイトル構造に基づいてウェブページファイルに対応するウェブページ本文コンテンツに対してロジックブロック分割を行うステップと、
    正規表現で各短タイトル構造が問題であるか否かを判断し、問題である場合、当該短タイトルを候補問題として設定するステップと、
    候補問題の前記ウェブページコンテンツでの位置及びウェブページコンテンツのロジックブロック分割結果に基づいて候補問題に対応する候補解答を抽出するステップと、
    候補問題と候補解答との間の間隔行数、候補解答における数字番号が連続的であるか否か、解答のエントリー数、解答のうち問題として判定されたエントリー数のうちの少なくとも1つに基づいて、問題と解答を含む情報を抽出するステップと、を含む
    ことを特徴とする請求項6に記載の方法。
  8. 予め取得されたウェブページファイルをタグツリー構造として解析し、前記タグツリーのノードから前記ウェブページファイルにおけるウェブページ本文が所在する少なくとも1つの本文ノードを認識するように配置される解析ユニットと、
    前記少なくとも1つの本文ノードに含まれるコンテンツに対して段落分割を行い、各段落ブロックを生成し、各段落ブロックに関連するタグの属性に基づいて、各段落ブロックに対してタグ属性を設定するように配置される分割ユニットと、
    各段落ブロックのタグ属性に基づいて各段落ブロックに含まれるテキストコンテンツを分類するように配置される分類ユニットと、
    分類結果に基づいて段落ブロックに含まれるテキストコンテンツから問題と解答を含む情報を抽出するように配置される抽出ユニットと、を備える
    ことを特徴とする情報抽出装置。
  9. 前記分割ユニットは、
    前記少なくとも1つの本文ノードに含まれるコンテンツから前記ウェブページファイルのウェブページコンテンツのタイトルを認識するように配置される認識サブユニットと、
    前記少なくとも1つの本文ノードに含まれるコンテンツにおける、前記タイトル以外のコンテンツに対して段落分割を行い、各段落ブロックを生成するように配置される分割サブユニットと、を備える
    ことを特徴とする請求項8に記載の装置。
  10. 前記解析ユニットは、更に、
    予め取得されたウェブページファイルに対して標準化処理を行い、前記ウェブページファイルをHTML仕様に合致させ、
    標準化されたウェブページファイルに対してドキュメントオブジェクトモデルツリー解析を行い、タグツリーを生成し、
    前記タグツリーの各ノードにアクセスし、各ノードに含まれるコンテンツに基づいて本文ノードを決定するように配置される
    ことを特徴とする請求項8に記載の装置。
  11. 前記認識サブユニットは、更に、
    前記少なくとも1つの本文ノードに含まれるコンテンツの前記ウェブページコンテンツでの位置に基づいて、前記少なくとも1つの本文ノードから少なくとも1つの候補タイトルノードを選択し、
    各候補タイトルノード内のテキストと、前記ウェブページファイルのタイトルタグに対応するテキストとの編集距離、及び各候補タイトルノード内のテキストと、アンカータグに対応するテキストとの編集距離を計算し、
    各候補タイトルノード内のタグ情報及び計算された編集距離に基づいて各候補タイトルノードを順序付け、
    順序付けの結果に基づいて前記少なくとも1つの候補タイトルノードから1つのテキストタイトルノードを決定し、前記テキストタイトルノード内のテキストをウェブページコンテンツのタイトルとして決定するように配置される
    ことを特徴とする請求項9に記載の装置。
  12. 前記分割ユニットは、更に、
    各本文ノードにおける少なくとも1つのブロック要素を認識し、
    ブロック要素がサブブロック要素を含む場合、サブブロック要素と改行タグで本文ノードに含まれるテキストに対して段落分割を行い、少なくとも1つの段落ブロックを取得して、ブロック要素がサブブロック要素を含まない場合、改行タグで本文ノードに含まれるテキストに対して段落分割を行い、少なくとも1つの段落ブロックを取得して、
    ブロック要素及びサブブロック要素に関連するタグの属性に基づいて各段落ブロックに対してタグ属性を設定するように配置される
    ことを特徴とする請求項8に記載の装置。
  13. 前記分類ユニットは、更に、
    タグ属性が同じである段落ブロックを同じ段落ブロック集合に分割し、
    各段落ブロック集合における各段落ブロックに含まれる文字数及び各段落ブロックの間の行間隔に基づいて各サブブロック集合における短タイトル構造を認識し、
    含まれるテキストに基づいて、各段落ブロック集合における非短タイトル構造の段落ブロックを分類するように配置される
    ことを特徴とする請求項8に記載の装置。
  14. 前記抽出ユニットは、更に、
    認識された短タイトル構造に基づいてウェブページファイルに対応するウェブページ本文コンテンツに対してロジックブロック分割を行い、
    正規表現で各短タイトル構造が問題であるか否かを判断し、問題である場合、当該短タイトルを候補問題として設定し、
    候補問題の前記ウェブページコンテンツでの位置及びウェブページコンテンツのロジックブロック分割結果に基づいて候補問題に対応する候補解答を抽出し、
    候補問題と候補解答との間の間隔行数、候補解答における数字番号が連続的であるか否か、解答のエントリー数、解答のうち問題として判定されたエントリー数のうちの少なくとも1つに基づいて、問題と解答を含む情報を抽出するように配置される
    ことを特徴とする請求項13に記載の装置。
  15. プロセッサと、
    メモリと、を備えており、
    前記メモリに前記プロセッサにより実行可能なコンピュータ可読命令が記憶され、前記コンピュータ可読命令が実行される場合、前記プロセッサが情報抽出方法を実行し、前記方法は、
    予め取得されたウェブページファイルをタグツリー構造として解析し、前記タグツリーのノードから前記ウェブページファイルにおけるウェブページ本文が所在する少なくとも1つの本文ノードを認識するステップと、
    前記少なくとも1つの本文ノードに含まれるコンテンツに対して段落分割を行い、各段落ブロックを生成し、各段落ブロックに関連するタグの属性に基づいて、各段落ブロックに対してタグ属性を設定するステップと、
    各段落ブロックのタグ属性に基づいて各段落ブロックに含まれるテキストコンテンツを分類するステップと、
    分類結果に基づいて段落ブロックに含まれるテキストコンテンツから問題と解答を含む情報を抽出するステップと、を含む
    ことを特徴とする装置。
  16. 不揮発性コンピュータ記憶媒体であって、
    プロセッサにより実行可能なコンピュータ可読命令が記憶され、前記コンピュータ可読命令がプロセッサに実行される場合、前記プロセッサが情報抽出方法を実行し、前記方法は、
    予め取得されたウェブページファイルをタグツリー構造として解析し、前記タグツリーのノードから前記ウェブページファイルにおけるウェブページ本文が所在する少なくとも1つの本文ノードを認識するステップと、
    前記少なくとも1つの本文ノードに含まれるコンテンツに対して段落分割を行い、各段落ブロックを生成し、各段落ブロックに関連するタグの属性に基づいて、各段落ブロックに対してタグ属性を設定するステップと、
    各段落ブロックのタグ属性に基づいて各段落ブロックに含まれるテキストコンテンツを分類するステップと、
    分類結果に基づいて段落ブロックに含まれるテキストコンテンツから問題と解答を含む情報を抽出するステップと、を含む
    ことを特徴とする不揮発性コンピュータ記憶媒体。
JP2017552070A 2015-12-30 2016-06-17 情報抽出方法及び装置 Active JP6653334B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201511022937.X 2015-12-30
CN201511022937.XA CN105677764B (zh) 2015-12-30 2015-12-30 信息提取方法和装置
PCT/CN2016/086213 WO2017113645A1 (zh) 2015-12-30 2016-06-17 信息提取方法和装置

Publications (2)

Publication Number Publication Date
JP2018513480A true JP2018513480A (ja) 2018-05-24
JP6653334B2 JP6653334B2 (ja) 2020-02-26

Family

ID=56298057

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017552070A Active JP6653334B2 (ja) 2015-12-30 2016-06-17 情報抽出方法及び装置

Country Status (6)

Country Link
US (1) US10679051B2 (ja)
EP (1) EP3267332A4 (ja)
JP (1) JP6653334B2 (ja)
KR (1) KR20170123331A (ja)
CN (1) CN105677764B (ja)
WO (1) WO2017113645A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020177360A (ja) * 2019-04-16 2020-10-29 株式会社リコー Q&a抽出装置、方法、プログラム、および応答システム

Families Citing this family (46)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105677764B (zh) * 2015-12-30 2020-05-08 百度在线网络技术(北京)有限公司 信息提取方法和装置
CN106446072B (zh) * 2016-09-07 2019-10-18 百度在线网络技术(北京)有限公司 网页内容的处理方法和装置
CN108062291A (zh) * 2016-11-09 2018-05-22 上海颐为网络科技有限公司 多媒体内容智能转换为词条结构的方法和系统
CN108090104B (zh) * 2016-11-23 2023-05-02 百度在线网络技术(北京)有限公司 用于获取网页信息的方法和装置
CN106649760A (zh) * 2016-12-27 2017-05-10 北京百度网讯科技有限公司 基于深度问答的提问型搜索词搜索方法及装置
KR101904486B1 (ko) * 2017-01-13 2018-10-05 (주)엠더블유스토리 트리 구조를 비교하여 웹 페이지의 변경을 감지하는 모니터링 시스템 및 그 방법
CN106951505B (zh) * 2017-03-16 2021-02-02 北京搜狐新媒体信息技术有限公司 网页信息获得方法及系统
CN108664522A (zh) * 2017-04-01 2018-10-16 优信互联(北京)信息技术有限公司 网页处理方法及装置
CN108509469A (zh) * 2017-05-17 2018-09-07 苏州纯青智能科技有限公司 一种基于分块的网页正文信息提取方法
CN107766328B (zh) * 2017-10-24 2020-06-12 平安科技(深圳)有限公司 结构化文本的文本信息提取方法、存储介质和服务器
CN107943838B (zh) * 2017-10-30 2021-09-07 北京大数元科技发展有限公司 一种自动获取xpath生成爬虫脚本的方法及系统
CN110020302A (zh) * 2017-11-16 2019-07-16 富士通株式会社 提取网页内容的方法和网页内容提取装置
CN110209906A (zh) * 2018-02-07 2019-09-06 北京京东尚科信息技术有限公司 用于提取网页信息的方法和装置
CN108334481B (zh) * 2018-03-01 2021-08-27 四川语言桥信息技术有限公司 文档处理方法以及装置
US10922366B2 (en) * 2018-03-27 2021-02-16 International Business Machines Corporation Self-adaptive web crawling and text extraction
CN108491536A (zh) * 2018-03-30 2018-09-04 北京智慧正安科技有限公司 法律条文提取方法、装置及计算机可读存储介质
CN109276886B (zh) * 2018-08-16 2022-09-23 深圳木狼科技有限公司 一种文本生成方法、系统以及终端设备
CN110889280B (zh) * 2018-09-06 2023-09-26 上海智臻智能网络科技股份有限公司 基于文档拆分的知识库建设方法及装置
US10713329B2 (en) 2018-10-30 2020-07-14 Longsand Limited Deriving links to online resources based on implicit references
CN109740130B (zh) * 2018-11-22 2022-12-09 厦门市美亚柏科信息股份有限公司 用于生成文件的方法和装置
CN109635103B (zh) * 2018-12-17 2022-05-20 北京百度网讯科技有限公司 摘要生成方法和装置
CN110175233B (zh) * 2019-03-07 2022-03-11 平安科技(深圳)有限公司 目标主体画像分析的方法、装置、计算机装置及存储介质
CN110046355B (zh) * 2019-04-25 2023-02-24 讯飞智元信息科技有限公司 一种标题段落检测方法及装置
CN110298028B (zh) * 2019-05-21 2023-08-18 杭州未名信科科技有限公司 一种文本段落的关键句提取方法和装置
CN110222319A (zh) * 2019-06-19 2019-09-10 北京百度网讯科技有限公司 用于挖掘数据的方法和装置
CN110427488B (zh) * 2019-07-30 2022-09-23 北京明略软件系统有限公司 文档的处理方法及装置
CN110704573B (zh) * 2019-09-04 2023-12-22 平安科技(深圳)有限公司 目录存储方法、装置、计算机设备及存储介质
CN110569361B (zh) * 2019-09-06 2021-10-19 腾讯科技(深圳)有限公司 一种文本识别方法及设备
CN110717044A (zh) * 2019-10-08 2020-01-21 创新奇智(南京)科技有限公司 一种研报正文的文本分类方法
CN111177301B (zh) * 2019-11-26 2023-05-26 云南电网有限责任公司昆明供电局 一种关键信息识别提取方法及系统
CN110956019B (zh) * 2019-11-27 2021-10-26 北大方正集团有限公司 列表处理系统、方法、装置、计算机可读存储介质
CN111061860A (zh) 2019-12-12 2020-04-24 北京百度网讯科技有限公司 摘要生成方法和装置
CN113051390B (zh) * 2019-12-26 2023-09-26 百度在线网络技术(北京)有限公司 知识库构建方法、装置、电子设备和介质
CN111274239B (zh) * 2019-12-30 2023-07-14 安徽知学科技有限公司 试卷结构化处理方法、装置和设备
CN111784505A (zh) * 2020-06-30 2020-10-16 鼎富智能科技有限公司 一种借贷纠纷判决书提取方法及装置
CN112001183B (zh) * 2020-07-26 2021-11-19 湖南省侍禾教育科技有限公司 一种基于段落语义的中小学试题分割提取方法及系统
CN114070576B (zh) * 2020-08-07 2024-03-08 腾讯科技(深圳)有限公司 内容显示方法、内容生成方法、装置、设备及存储介质
CN112172375B (zh) * 2020-09-03 2021-11-30 安徽理工大学 一种大学生创新创业计划评价分析系统
CN113312884B (zh) * 2020-09-14 2022-02-08 苏州七星天专利运营管理有限责任公司 一种文档辅助编辑的方法和系统
CN112487138A (zh) * 2020-11-19 2021-03-12 华为技术有限公司 带格式文本的信息抽取方法和装置
CN112541359B (zh) * 2020-11-27 2024-02-02 北京百度网讯科技有限公司 文档内容识别方法、装置、电子设备及介质
CN113407890B (zh) * 2021-07-19 2024-01-12 北京百度网讯科技有限公司 信息提取方法、装置、电子设备和介质
CN113591657B (zh) * 2021-07-23 2024-04-09 京东科技控股股份有限公司 Ocr版面识别的方法、装置、电子设备及介质
CN114610985B (zh) * 2022-05-10 2022-08-19 北京百炼智能科技有限公司 信息提取方法、装置、电子设备及存储介质
CN115757823B (zh) * 2022-11-10 2024-03-05 魔方医药科技(苏州)有限公司 数据处理方法、装置、电子设备和存储介质
CN117236314B (zh) * 2023-11-06 2024-03-01 杭州同花顺数据开发有限公司 支持超长答案的信息抽取方法、系统、装置和存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH113335A (ja) * 1997-06-13 1999-01-06 Fuji Xerox Co Ltd 質問回答管理装置
JP2006244102A (ja) * 2005-03-03 2006-09-14 Univ Of Tsukuba 質問応答システム
US20090177959A1 (en) * 2008-01-08 2009-07-09 Deepayan Chakrabarti Automatic visual segmentation of webpages
CN102631002A (zh) * 2012-05-15 2012-08-15 安徽燕之坊食品有限公司 一种功能性饮料冲剂
CN104268192A (zh) * 2014-09-20 2015-01-07 广州金山网络科技有限公司 一种网页信息提取方法、装置及终端

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6711585B1 (en) * 1999-06-15 2004-03-23 Kanisa Inc. System and method for implementing a knowledge management system
ATE522036T1 (de) 2000-01-12 2011-09-15 Jupiter Media Metrix Inc System und verfahren zur schätzung der verbreitung digitalem inhalts im world-wide-web
CN100432996C (zh) * 2004-12-07 2008-11-12 国际商业机器公司 基于网页页面布局提取网页核心内容的系统、方法
US7805289B2 (en) * 2006-07-10 2010-09-28 Microsoft Corporation Aligning hierarchal and sequential document trees to identify parallel data
TW200836075A (en) * 2007-02-16 2008-09-01 Esobi Inc Method of converting hypertext markup language web page into pure text and system thereof
US20090119374A1 (en) * 2007-11-05 2009-05-07 International Business Machines Corporation Adaptive instant messaging awareness
WO2010085773A1 (en) 2009-01-24 2010-07-29 Kontera Technologies, Inc. Hybrid contextual advertising and related content analysis and display techniques
JP2011003182A (ja) * 2009-05-19 2011-01-06 Studio Ousia Inc キーワード表示方法およびそのシステム
US9798800B2 (en) * 2010-09-24 2017-10-24 International Business Machines Corporation Providing question and answers with deferred type evaluation using text with limited structure
US20130304730A1 (en) * 2011-01-18 2013-11-14 Google Inc. Automated answers to online questions
CN102651002B (zh) * 2011-02-28 2017-08-11 深圳市世纪光速信息技术有限公司 一种网页信息抽取方法及其系统
US20150067476A1 (en) * 2013-08-29 2015-03-05 Microsoft Corporation Title and body extraction from web page
WO2015100321A1 (en) * 2013-12-23 2015-07-02 Ctext Technology Llc Method and system for correlating conversations in a messaging environment
CN103853834B (zh) * 2014-03-12 2017-02-08 华东师范大学 基于文本结构分析的Web文档摘要的生成方法
CN104462532B (zh) 2014-12-23 2017-07-07 北京奇虎科技有限公司 网页正文提取的方法和装置
US9875296B2 (en) * 2015-03-25 2018-01-23 Google Llc Information extraction from question and answer websites
US20170063776A1 (en) * 2015-08-27 2017-03-02 International Business Machines Coporation FAQs UPDATER AND GENERATOR FOR MULTI-COMMUNICATION CHANNELS
CN105677764B (zh) * 2015-12-30 2020-05-08 百度在线网络技术(北京)有限公司 信息提取方法和装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH113335A (ja) * 1997-06-13 1999-01-06 Fuji Xerox Co Ltd 質問回答管理装置
JP2006244102A (ja) * 2005-03-03 2006-09-14 Univ Of Tsukuba 質問応答システム
US20090177959A1 (en) * 2008-01-08 2009-07-09 Deepayan Chakrabarti Automatic visual segmentation of webpages
CN102631002A (zh) * 2012-05-15 2012-08-15 安徽燕之坊食品有限公司 一种功能性饮料冲剂
CN104268192A (zh) * 2014-09-20 2015-01-07 广州金山网络科技有限公司 一种网页信息提取方法、装置及终端

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
池上 敬明、外1名: "Web上のQAデータの構造の抽出と利用", 言語処理学会第11回年次大会発表論文集, JPN6018039519, 15 March 2005 (2005-03-15), JP, pages p.440−443 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020177360A (ja) * 2019-04-16 2020-10-29 株式会社リコー Q&a抽出装置、方法、プログラム、および応答システム
JP7099397B2 (ja) 2019-04-16 2022-07-12 株式会社リコー Q&a抽出装置、方法、プログラム、および応答システム

Also Published As

Publication number Publication date
US10679051B2 (en) 2020-06-09
EP3267332A4 (en) 2018-01-24
WO2017113645A1 (zh) 2017-07-06
KR20170123331A (ko) 2017-11-07
CN105677764B (zh) 2020-05-08
JP6653334B2 (ja) 2020-02-26
CN105677764A (zh) 2016-06-15
US20180322341A1 (en) 2018-11-08
EP3267332A1 (en) 2018-01-10

Similar Documents

Publication Publication Date Title
JP6653334B2 (ja) 情報抽出方法及び装置
US9411790B2 (en) Systems, methods, and media for generating structured documents
US11769072B2 (en) Document structure extraction using machine learning
US20190163742A1 (en) Method and apparatus for generating information
CN104933028A (zh) 信息推送方法和装置
US10579655B2 (en) Method and apparatus for compressing topic model
US20150067476A1 (en) Title and body extraction from web page
JP2020507861A (ja) 検索結果を提供する方法及び装置
KR20200019824A (ko) 엔티티 관계 데이터 생성 방법, 장치, 기기 및 저장 매체
CN103166981A (zh) 一种无线网页转码方法及装置
KR101607468B1 (ko) 콘텐츠에 대한 키워드 태깅 방법 및 시스템
CN115982376B (zh) 基于文本、多模数据和知识训练模型的方法和装置
CN110020312B (zh) 提取网页正文的方法和装置
CN109325197B (zh) 用于提取信息的方法和装置
CN107590288B (zh) 用于抽取网页图文块的方法和装置
US20140289213A1 (en) Search Engine With Term Cloud
CN111143642A (zh) 网页分类方法、装置、电子设备及计算机可读存储介质
CN109033082B (zh) 语义模型的学习训练方法、装置及计算机可读存储介质
CN111492364B (zh) 数据标注方法、装置及存储介质
CN112541109A (zh) 答案摘要抽取方法及装置、电子设备、可读介质、产品
CN111199151A (zh) 数据处理方法、及数据处理装置
RU2711123C2 (ru) Способ и система компьютерной обработки одной или нескольких цитат в цифровых текстах для определения их автора
CN106959945B (zh) 基于人工智能的为新闻生成短标题的方法和装置
CN114625658A (zh) App稳定性测试方法、装置、设备和计算机可读存储介质
WO2014049310A2 (en) Method and apparatuses for interactive searching of electronic documents

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171003

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180921

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181009

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190108

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190625

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191024

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20191101

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200127

R150 Certificate of patent or registration of utility model

Ref document number: 6653334

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250