JP6727097B2 - 情報処理装置、情報処理方法、およびプログラム - Google Patents

情報処理装置、情報処理方法、およびプログラム Download PDF

Info

Publication number
JP6727097B2
JP6727097B2 JP2016207685A JP2016207685A JP6727097B2 JP 6727097 B2 JP6727097 B2 JP 6727097B2 JP 2016207685 A JP2016207685 A JP 2016207685A JP 2016207685 A JP2016207685 A JP 2016207685A JP 6727097 B2 JP6727097 B2 JP 6727097B2
Authority
JP
Japan
Prior art keywords
data
entity
image data
unit
extraction unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016207685A
Other languages
English (en)
Other versions
JP2018072873A (ja
Inventor
翔悟 湯浅
翔悟 湯浅
直彦 横田
直彦 横田
マナサ プリヤ コデュリ
マナサ プリヤ コデュリ
モヒト アガルワル
モヒト アガルワル
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yahoo Japan Corp
Original Assignee
Yahoo Japan Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yahoo Japan Corp filed Critical Yahoo Japan Corp
Priority to JP2016207685A priority Critical patent/JP6727097B2/ja
Publication of JP2018072873A publication Critical patent/JP2018072873A/ja
Application granted granted Critical
Publication of JP6727097B2 publication Critical patent/JP6727097B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、情報処理装置、情報処理方法、およびプログラムに関する。
従来、ウェブからデータ(文書や画像など)を収集し、収集したデータを自動的にデータベース化するクローラが知られている(特許文献1参照)。クローラは、ウェブページ中のリンクを辿って、様々なIPアドレスのウェブページからデータを収集する。クローラによって収集されたデータは、ウェブ情報データベースに蓄積される。
一方、検索エンジンは、ユーザによって入力された検索ワードを受信すると、受信した検索ワードに関連するウェブページの情報をウェブ情報データベースから取得する。また、検索エンジンは、取得したウェブページの情報の一覧を検索結果として出力する。
特開2012−69171号公報
ユーザ満足度を向上させるため、検索エンジンは、ユーザによって入力された検索ワードに関連する画像を、検索結果とともに出力することが考えられる。このためには、ウェブから収集した画像と、この画像に関連するワードを示すエンティティとを関連付けたデータベースを予め準備する必要がある。
しかしながら、特許文献1に開示されたクローラは、ウェブから収集した画像に関連するエンティティを、自動的に判別することができなかった。このため、特許文献1に開示されたクローラは、ウェブから収集した画像と、この画像に関連するエンティティとを関連付けたデータベースを自動的に生成することができなかった。
本発明は、このような事情を考慮してなされたものであり、ウェブから収集した画像と、この画像に関連するエンティティとを関連付けたデータベースを自動的に生成することができる情報処理装置、情報処理方法、およびプログラムを提供することを目的の一つとする。
本発明の一態様は、画像データおよびテキストデータを含むページデータを収集する収集部と、前記ページデータに含まれる前記テキストデータから、前記ページデータに含まれる前記画像データに関連するエンティティを抽出するエンティティ抽出部と、前記ページデータに含まれる前記画像データから、データ収集対象となり得る所定の特徴を抽出する特徴抽出部と、前記特徴抽出部によって前記所定の特徴が抽出された場合、前記エンティティに前記画像データの所在情報が関連付けられたナレッジデータを生成する生成部と、を備える情報処理装置である。
本発明の一態様によれば、ウェブから収集した画像と、この画像に関連するエンティティとを関連付けたデータベースを自動的に生成することができる。
第1の実施形態に係るナレッジデータサーバ100の使用環境を示す図である。 第1の実施形態に係る端末装置200の表示部210に表示される検索結果ページの一例を示す図である。 第1の実施形態に係るナレッジデータ生成部120の詳細な構成を示すブロック図である。 第1の実施形態に係るカテゴリーデータD1の一例を示す図である。 第1の実施形態に係るナレッジデータD2の一例を示す図である。 第1の実施形態に係るエンティティEに関連付けられる画像の候補の一例を示す図である。 第1の実施形態に係るエンティティEに関連付けられた画像の一例を示す図である。 第1の実施形態に係るナレッジデータ生成処理を示すフローチャートである。 第2の実施形態に係るエンティティEに関連付けられる画像の候補の一例を示す図である。 第2の実施形態に係るベクトルデータの分布の一例を示す図である。 実施形態に係るナレッジデータサーバ100のハードウェア構成の一例を示す図である。
以下、図面を参照して、情報処理装置、情報処理方法、およびプログラムの実施形態について説明する。本実施形態においては、情報処理装置の一例として、ナレッジデータサーバについて説明する。ナレッジデータサーバは、例えば、画像データおよびテキストデータを含むページデータを収集し、収集したデータに基づいてナレッジデータを生成するサーバである。ナレッジデータは、エンティティと、このエンティティに関連する画像データの所在情報とが関連付けられたデータである。エンティティとは、ウェブから収集した画像データに関連するワードを示すデータである。所在情報とは、例えば、ウェブ上の位置を特定するためのURL(Uniform Resource Locator)である。以下、実施形態について詳細に説明する。
<1.第1の実施形態>
<1−1.ナレッジデータサーバの使用環境>
図1は、第1の実施形態に係るナレッジデータサーバ100の使用環境を示す図である。ナレッジデータサーバ100は、収集部110と、ナレッジデータ生成部120と、第1記憶部130と、第2記憶部140と、所在情報取得部150とを備える。
収集部110、ナレッジデータ生成部120、および所在情報取得部150は、例えば、ナレッジデータサーバ100のプロセッサがプログラムを実行することで実現されてもよいし、LSI(Large Scale Integration)、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)などのハードウェアによって実現されてもよいし、ソフトウェアとハードウェアが協働することで実現されてもよい。
第1記憶部130および第2記憶部140は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、HDD(Hard Disk Drive)、フラッシュメモリ、またはこれらのうち複数が組み合わされたハイブリッド型記憶装置などにより実現される。また、第1記憶部130および第2記憶部140の一部または全部は、NAS(Network Attached Storage)や外部のストレージサーバなど、ナレッジデータサーバ100がアクセス可能な外部装置であってもよい。
収集部110は、画像データおよびHTML(HyperText Markup Language)データを含むページデータをウェブWから収集するクローラである。ここで、ページデータは、ウェブW上にあり、ブラウザで閲覧可能なページ単位のデータである。なお、ページデータは、ブラウザに限らず、アプリケーションプログラムによって再生されるデータであってもよい。ウェブWは、ワールドワイドウェブ(World Wide Web)を意味し、インターネットやイントラネットで標準的に用いられるHTML文書などを利用したシステムである。HTMLデータは、HTMLのソースを示すテキストデータである。
収集部110は、収集したページデータに含まれるHTMLデータからリンク先のURL(所在情報)を取得し、取得したURLにアクセスして更にページデータを収集する。この処理を繰り返すことにより、収集部110は、ページデータを収集する対象のIPアドレスを広げることができる。収集部110は、収集したページデータをナレッジデータ生成部120に出力する。
ナレッジデータ生成部120は、収集部110から入力されたページデータに含まれるHTMLデータから、ページデータに含まれる画像データに関連するエンティティを抽出する。エンティティとは、画像データに関連するワードを示す情報である。また、ナレッジデータ生成部120は、抽出したエンティティに画像データのURLが関連付けられたナレッジデータを生成し、生成したナレッジデータを第2記憶部140に記憶する。これによって、ナレッジデータ生成部120は、収集部110によって収集されたページデータを用いて、ナレッジデータを自動的に生成することができる。
詳細は後述するが、ナレッジデータ生成部120は、抽出したエンティティに対応するカテゴリーデータを第1記憶部130から読み出し、読み出したカテゴリーデータに基づいて、ナレッジデータを生成するか否かを判定する。また、ナレッジデータ生成部120は、IPアドレスごとのエンティティの数に基づき、ページデータを収集するIPアドレスの優先順位を決定する。その後、ナレッジデータ生成部120は、決定した優先順位を示すフィードバックデータを収集部110に出力する。
収集部110は、ナレッジデータ生成部120から入力されたフィードバックデータによって示される優先順位に従って、ウェブWからページデータを収集する。これによって、多くのエンティティが含まれるIPアドレスから優先的にページデータが収集されるため、エンティティを効率的に抽出することができる。
一方、端末装置200とウェブサーバ300は、ネットワークを介して通信可能に接続されており、ナレッジデータサーバ100とウェブサーバ300は、ネットワークを介して通信可能に接続されている。端末装置200は、ユーザによって使用される装置であり、例えば、タブレット型コンピュータ、ノート型コンピュータ、デスクトップ型コンピュータ、またはスマートフォンである。ウェブサーバ300は、検索エンジンを用いて検索結果を表示するための検索結果ページ情報を生成するサーバである。
ユーザは、端末装置200を用いて、端末装置200の表示部に表示された検索ページに検索クエリを入力する。検索クエリとは、一つの検索ワードまたは複数の検索ワードの組み合わせである。端末装置200は、ユーザによって入力された検索クエリをウェブサーバ300に送信する。
ウェブサーバ300は、端末装置200から受信した検索クエリに基づいて、検索エンジンを用いて検索結果ページデータを生成する。このとき、ウェブサーバ300は、検索結果だけでなく、検索クエリに含まれるエンティティに関連する画像を検索結果ページデータに含める。
<1−2.検索結果ページ>
図2は、第1の実施形態に係る端末装置200の表示部210に表示される検索結果ページの一例を示す図である。図2に示されるように、表示部210には、検索クエリ入力領域211と、ナレッジパネル220と、検索結果230とが含まれる検索結果ページが表示される。ナレッジパネル220には、検索クエリに含まれるエンティティ221と、エンティティ221に関連する画像222と、エンティティ221に関連する情報223とが含まれる。
図2に示される例においては、検索クエリとして「女優A」が入力され、ナレッジパネル220には「女優A」に関連する画像や様々な情報が表示されている。このように、検索結果230だけでなく、ナレッジパネル220を表示部210に表示することで、検索結果に対するユーザ満足度を向上させることができる。
検索結果ページにナレッジパネル220を表示するため、ウェブサーバ300は、検索クエリに含まれるエンティティに関連する画像を取得する必要がある。このため、ウェブサーバ300は、検索クエリに含まれるエンティティを、ナレッジデータサーバ100に送信する。
前述したように、ナレッジデータサーバ100の第2記憶部140には、エンティティに画像データのURLが関連付けられたナレッジデータが記憶されている。所在情報取得部150は、第2記憶部140に記憶されたナレッジデータを参照して、ウェブサーバ300から受信したエンティティに対応する画像データのURLを取得する。その後、所在情報取得部150は、取得した画像データのURLをウェブサーバ300に送信する。
このように、所在情報取得部150は、ウェブサーバ300からエンティティを受信した場合、受信したエンティティに関連付けられた画像データのURLを第2記憶部140から取得し、取得した画像データのURLをウェブサーバ300に送信する。これによって、ウェブサーバ300は、検索クエリに含まれるエンティティに関連する画像のURLを取得することができる。
ウェブサーバ300は、所在情報取得部150から受信した画像データのURLと、検索エンジンを用いて生成した検索結果とを用いて、検索結果ページデータを生成する。ウェブサーバ300は、生成した検索結果ページデータを端末装置200に送信する。端末装置200は、ウェブサーバ300から検索結果ページデータを受信すると、受信した検索結果ページデータを用いて検索結果ページ(図2)を表示部210に表示する。
<1−3.ナレッジデータ生成部の処理>
図3は、第1の実施形態に係るナレッジデータ生成部120の詳細な構成を示すブロック図である。以下、図3を用いて、ナレッジデータ生成部120の具体的な処理について説明する。前述したように、画像データおよびHTMLデータを含むページデータが、ナレッジデータ生成部120に入力される。ナレッジデータ生成部120は、エンティティ抽出部121と、特徴抽出部122と、生成部123と、優先順位決定部124とを備える。
エンティティ抽出部121は、ページデータに含まれるHTMLデータから、画像データに関連するエンティティを抽出する。例えば、エンティティ抽出部121は、ページデータにおける画像データが埋め込まれた位置の周辺のテキストをHTMLデータから取得し、取得したテキストからエンティティを抽出する。エンティティ抽出部121は、抽出したエンティティおよびHTMLデータを生成部123に出力する。
なお、エンティティ抽出部121は、画像データが埋め込まれた位置の周辺のテキストからエンティティを抽出することとしたが、これに限られない。例えば、エンティティ抽出部121は、HTMLデータのタグに記載されているデータから、エンティティを抽出してもよい。
具体的には、エンティティ抽出部121は、imgタグのalt属性に記載されているデータからエンティティを抽出してもよい。imgタグの一例を、以下に示す。
<img src=“actress-a.jpg” alt=“映画のヒロイン役に抜擢された女優A” />
この場合、エンティティ抽出部121は、ファイル名が“actress-a.jpg”の画像に関連するエンティティとして、alt属性に記載されているデータから「女優A」を抽出する。
また、エンティティ抽出部121は、OGP(Open Graph Protocol)のメタタグに記載されているデータからエンティティを抽出してもよい。OGPのメタタグの一例を、以下に示す。
<meta property=“og:title” content=“映画のヒロイン役に抜擢された女優A” />
<meta property=“og:image” content=“actress-a.jpg” />
この場合、エンティティ抽出部121は、プロパティが“og:image”のメタタグに記載されているファイル名が“actress-a.jpg”の画像に関連するエンティティとして、プロパティが“og:title”のメタタグに記載されているデータから「女優A」を抽出する。
特徴抽出部122は、ページデータに含まれる画像データから特徴を抽出する。そして、特徴抽出部122は、抽出した特徴を示す特徴データを生成部123に出力する。例えば、画像データに人物像が含まれる場合、特徴抽出部122は、Viola−Jones法などの顔検出アルゴリズムを用いて、画像データから人の顔を抽出する。そして、特徴抽出部122は、人の顔を抽出したことを示すデータや、抽出した顔の数を示すデータを、特徴データとして生成部123に出力する。
図4は、第1の実施形態に係るカテゴリーデータD1の一例を示す図である。カテゴリーデータD1は、第1記憶部130に記憶されている。図4に示されるように、カテゴリーデータD1は、エンティティとカテゴリーとが関連付けられたデータである。例えば、エンティティ1が人物名である場合、エンティティ1は「人物」のカテゴリーに関連付けられる。エンティティ2が映画のタイトルである場合、エンティティ2は「映画」のカテゴリーに関連付けられる。エンティティnがドラマのタイトルである場合、エンティティnは「ドラマ」のカテゴリーに関連付けられる。なお、カテゴリーデータD1は、エンティティの種類に関連するカテゴリーに限らず、生成部123によって使用されるエンティティに関連する情報を含んでもよい。
生成部123は、第1記憶部130に記憶されたカテゴリーデータD1を参照し、エンティティ抽出部121によって抽出されたエンティティに関連付けられたカテゴリーを取得する。また、生成部123は、画像データのURLをHTMLデータのタグ(imgタグまたはメタタグ)から取得する。
第1記憶部130から取得されたカテゴリーに関連する特徴が特徴抽出部122によって抽出された場合、生成部123は、エンティティ抽出部121によって抽出されたエンティティに画像データのURLを関連付けることで、ナレッジデータD2を生成する。生成部123は、生成したナレッジデータD2を第2記憶部140に記憶する。
図5は、第1の実施形態に係るナレッジデータD2の一例を示す図である。図5に示されるように、ナレッジデータD2は、エンティティと画像データのURLとが関連付けられたデータである。ナレッジデータD2において、1つのエンティティに複数の画像データのURLが関連付けられていてもよく、1つの画像データのURLに複数のエンティティが関連付けられていてもよい。生成部123は、ナレッジデータD2を生成する度に、生成したナレッジデータD2を第2記憶部に蓄積していく。
例えば、エンティティ抽出部121によって抽出されたエンティティが人名であり、特徴抽出部122によって画像データから人の顔が一つだけ抽出された場合、生成部123は、特徴抽出部122によってエンティティに関連する特徴が抽出されたと判断する。この場合、生成部123は、エンティティ抽出部121によって抽出されたエンティティに、HTMLデータのタグ(imgタグまたはメタタグ)に記載されている画像データのURLを関連付けることで、ナレッジデータD2を生成する。
なお、生成部123は、エンティティと、画像データのURLとを関連付けることによって、ナレッジデータD2を生成することとしたが、これに限られない。例えば、ナレッジデータ生成部120は、収集部110によって収集されたページデータに含まれる画像データを、第2記憶部140に記憶してもよい。この場合、生成部123は、エンティティと、第2記憶部140における画像データのアドレスとを関連付けることによって、ナレッジデータD2を生成してもよい。
図6は、第1の実施形態に係るエンティティEに関連付けられる画像の候補の一例を示す図である。図6に示されるように、画像IMG1は女優Aの画像であり、画像IMG2は女優Aおよび他の女性の画像であり、画像IMG3は女優Aの所有する車の画像である。このように、HTMLデータに含まれるテキストによっては、様々な種類の画像がエンティティEに関連付けられる候補の画像として取得される。
図6に示される例において、エンティティEは人名であるため、生成部123は、特徴抽出部122によって人の顔が一つだけ抽出された画像を、エンティティEに関連付ける。具体的には、生成部123は、画像IMG1のURLをエンティティEに関連付ける。また、IMG2からは人の顔が2つ検出されるため、生成部123は、画像IMG2のURLをエンティティEに関連付けない。また、IMG3からは人の顔が検出されないため、生成部123は、画像IMG3のURLをエンティティEに関連付けない。
図7は、第1の実施形態に係るエンティティEに関連付けられた画像の一例を示す図である。図7に示されるように、エンティティEには、複数の画像IMG4からIMG6が関連付けられている。この場合、検索結果ページのナレッジパネル220(図2参照)に、どの画像を優先に表示するのかを決定する必要がある。
このため、生成部123は、画像の解像度、種類、アスペクト比、ユーザによってクリックされた回数、またはこれらの組み合わせなどに基づいて、複数の画像IMG4からIMG6をランク付けしてもよい。また、最も高いランクが付与された画像を、検索結果ページのナレッジパネル220(図2参照)に表示してもよい。
一方、生成部123は、エンティティ抽出部121によって抽出されたエンティティの数を、画像データのIPアドレスごとに算出する。生成部123は、算出したIPアドレスごとのエンティティの数を、優先順位決定部124に出力する。優先順位決定部124は、生成部123から入力されたIPアドレスごとのエンティティの数に基づいて、収集部110がデータを収集するIPアドレスの優先順位を決定する。
例えば、優先順位決定部124は、エンティティ抽出部121によって抽出されたエンティティの数が多いIPアドレスほど、優先順位を高くする。優先順位決定部124は、決定した優先順位を示すフィードバックデータを、収集部110に出力する。
収集部110は、優先順位決定部124から入力されたフィードバックデータによって示される優先順位に従って、ウェブWからページデータを収集する。具体的には、収集部110は、優先順位の高いIPアドレスから順に、ページデータを収集する。これによって、多くのエンティティが含まれるIPアドレスから優先的にページデータが収集されるため、エンティティを効率的に抽出することができる。
<1−4.ナレッジデータ生成処理のフローチャート>
図8は、第1の実施形態に係るナレッジデータ生成処理を示すフローチャートである。本フローチャートによる処理は、ナレッジデータサーバ100によって実行される。
まず、収集部110は、ウェブWからページデータを収集する(S10)。ページデータには、HTMLデータおよび画像データが含まれる。エンティティ抽出部121は、収集部110によって収集されたページデータに含まれるHTMLデータから、画像データに関連するエンティティを抽出する(S11)。
特徴抽出部122は、画像データから特徴(例えば、人の顔)を抽出する(S12)。生成部123は、エンティティ抽出部121によって抽出されたエンティティに対応する特徴が抽出されたか否かを判定する(S13)。生成部123は、エンティティ抽出部121によって抽出されたエンティティに対応する特徴が抽出されていないと判定した場合、後述するS15に処理を進める。
一方、生成部123は、エンティティ抽出部121によって抽出されたエンティティに対応する特徴が抽出されたと判定した場合、エンティティ抽出部121によって抽出されたエンティティに画像データのURLが関連付けられたナレッジデータを生成する(S14)。
その後、生成部123は、収集部110によってページデータが収集された全IPアドレスに対してナレッジデータの生成が完了したか否かを判定する(S15)。生成部123は、全IPアドレスに対してナレッジデータの生成が完了していないと判定した場合、前述のS11に処理を戻す。
一方、生成部123は、全IPアドレスに対してナレッジデータの生成が完了したと判定した場合、エンティティ抽出部121によって抽出されたエンティティの数を、画像データのIPアドレスごとに算出する。その後、優先順位決定部124は、生成部123によって算出されたIPアドレスごとのエンティティの数に基づき、収集部110がデータを収集するIPアドレスの優先順位を決定し(S16)、本フローチャートによる処理を終了する。
以上説明したように、収集部110は、画像データおよびHTMLデータを含むページデータを収集する。エンティティ抽出部121は、ページデータに含まれるHTMLデータから、ページデータに含まれる画像データに関連するエンティティを抽出する。特徴抽出部122は、ページデータに含まれる画像データから、データ収集対象となり得る所定の特徴を抽出する。特徴抽出部122によって所定の特徴が抽出された場合、生成部123は、エンティティに画像データのURLが関連付けられたナレッジデータD2を生成する。これによって、ウェブから収集した画像と、この画像に関連するエンティティとを関連付けたデータベースを自動的に生成することができる。
また、生成部123は、特徴抽出部122によって抽出された特徴(例えば、人の顔)に基づいてナレッジデータD2を生成するため、特徴抽出部122が画像データから特徴を抽出しない場合よりも、高精度にナレッジデータD2を生成することができる。
また、優先順位決定部124は、エンティティ抽出部121によって抽出された、画像データの属するIPアドレスごとのエンティティの数に基づいて、収集部110がデータを収集するIPアドレスの優先順位を決定する。これによって、多くのエンティティが含まれるIPアドレスから優先的にページデータが収集されるため、エンティティを効率的に抽出することができる。
なお、優先順位決定部124は、画像データの属するIPアドレスごとのエンティティの数のみに基づいてIPアドレスの優先順位を決定することとしたが、これに限られない。例えば、優先順位決定部124は、画像データに関連するエンティティの数に加えて、ページの信頼性を考慮して優先順位を決定してもよい。
<2.第2の実施形態>
<2−1.ナレッジデータサーバの使用環境>
第1の実施形態においては、特徴抽出部122は、収集部110から入力された画像データに対して画像処理(例えば、Viola−Jones法などの顔検出処理)を行うことにより、特徴を抽出することとした。これに対し、第2の実施形態において、特徴抽出部122は、収集部110から入力された画像データを特徴量表現に変換することとする。本実施形態においては、特徴量表現の一例としてベクトルデータを使用する。画像データから変換された特徴量表現を用いることで、例えば、人名のエンティティに、同姓同名の他人の画像が関連付けられることを防止することができる。以下、第2の実施形態について詳細に説明する。
図9は、第2の実施形態に係るエンティティEに関連付けられる画像の候補の一例を示す図である。図9に示されるように、画像IMG7は女優Aの画像であり、画像IMG8も女優Aの画像であり、画像IMG9は女優Aと同姓同名のBさんの画像である。このように、女優Aとは異なるBさんの画像が、女優Aを示すエンティティEに関連付けられる候補の画像として取得される場合がある。このため、Bさんの画像IMG9を、女優Aを示すエンティティEに関連付けないようにする必要がある。
そこで、特徴抽出部122は、収集部110から入力された画像データを、Auto−Encoder等の変換器を用いて多次元のベクトルデータ(特徴量表現)に変換する。特徴抽出部122は、変換したベクトルデータを生成部123に出力する。
図10は、第2の実施形態に係るベクトルデータの分布の一例を示す図である。ここでは、説明を容易にするために、各画像データが2次元のベクトルデータ(x,y)に変換された例について説明する。図10において、横軸はベクトルデータのxの値を示し、縦軸はベクトルデータのyの値を示す。
生成部123は、特徴抽出部122から入力されたベクトルデータを、複数のクラスタC1またはC2に分類する。図10に示される例においては、クラスタC1に分類されたベクトルデータの方が、クラスタC2に分類されたベクトルデータよりも多い。女優Aの方がBさんよりも有名であるため、ウェブW上の画像の数は、女優Aの方がBさんよりも多いと考えられる。このため、クラスタC1に属するベクトルデータが、女優Aの画像データに対応するベクトルデータであると考えられる。
このため、生成部123は、最もデータ数の多いクラスタC1に属するベクトルデータに対応する画像データのURLをエンティティEに関連付けることで、ナレッジデータD2を生成する。一方、生成部123は、クラスタC2に属するベクトルデータに対応する画像データのURLを、エンティティEに関連付けない。
以上説明したように、特徴抽出部122は、ページデータに含まれる画像データをベクトルデータに変換する。生成部123は、特徴抽出部122によって変換されたベクトルデータを複数のクラスタC1またはC2に分類する。生成部123は、最もデータ数の多いクラスタに属するベクトルデータに対応する画像データのURLをエンティティEに関連付けることで、ナレッジデータD2を生成する。これによって、エンティティEに対して強い関連性のある画像データのURLを、画像データに関連付けることができる。例えば、本実施形態によれば、人名のエンティティに、同姓同名の他人の画像が関連付けられることを防止することができる。
また、生成部123は、特徴抽出部122によって生成された特徴量表現(ベクトルデータ)に基づいてナレッジデータD2を生成するため、特徴抽出部122が特徴量表現(ベクトルデータ)を生成しない場合よりも、高精度にナレッジデータD2を生成することができる。
なお、生成部123は、最もデータ数の多いクラスタC1に属するベクトルデータに対応する画像データのURLをエンティティEに関連付けることとしたが、これに限られない。例えば、生成部123は、各クラスタに属するベクトルデータごとにHTMLデータに含まれるワードを抽出し、抽出したワードに基づいて画像データのURLをエンティティEに関連付けるか否かを判別してもよい。例えば、クラスタC1に属するベクトルデータに対応するHMTLデータから「女優」や「映画」などのワードが多く抽出された場合、生成部123は、クラスタC1に属するベクトルデータが、女優Aの画像データに対応するベクトルデータであると判定し、クラスタC1に属するベクトルデータに対応する画像データのURLをエンティティEに関連付けてもよい。
また、本実施形態において、特徴抽出部122は、画像データをベクトルデータに変換することとしたが、他の特徴量表現に変換してもよい。
<3.ハードウェア構成>
図11は、実施形態に係るナレッジデータサーバ100のハードウェア構成の一例を示す図である。ナレッジデータサーバ100は、例えば、CPU160、RAM161、ROM162、フラッシュメモリやHDDなどの二次記憶装置163、NIC(Network Interface Card)164、ドライブ装置165、キーボード166、およびマウス167が、内部バスあるいは専用通信線によって相互に接続された構成となっている。ドライブ装置165には、光ディスクなどの可搬型記憶媒体が装着される。二次記憶装置163、またはドライブ装置165に装着された可搬型記憶媒体に記憶されたプログラムがDMA(Direct Memory Access)コントローラ(不図示)などによってRAM161に展開され、CPU160によって実行されることで、ナレッジデータサーバ100の機能部が実現される。
以上説明したように、実施形態のナレッジデータサーバ100は、収集部110と、エンティティ抽出部121と、特徴抽出部122と、生成部123とを備える。収集部110は、画像データおよびHTMLデータを含むページデータを収集する。エンティティ抽出部121は、ページデータに含まれるHTMLデータから、ページデータに含まれる画像データに関連するエンティティを抽出する。特徴抽出部122は、ページデータに含まれる画像データから、データ収集対象となり得る所定の特徴を抽出する。特徴抽出部122によって所定の特徴が抽出された場合、生成部123は、エンティティに画像データのURLが関連付けられたナレッジデータD2を生成する。これによって、ウェブから収集した画像と、この画像に関連するエンティティとを関連付けたデータベースを自動的に生成することができる。
また、実施形態のナレッジデータサーバ100は、優先順位決定部124を更に備える。優先順位決定部124は、エンティティ抽出部121によって抽出された、画像データの属するIPアドレスごとのエンティティの数に基づいて、収集部110がデータを収集するIPアドレスの優先順位を決定する。これによって、多くのエンティティが含まれるIPアドレスから優先的にページデータが収集されるため、エンティティを効率的に抽出することができる。
以上、本発明を実施するための形態について実施形態を用いて説明したが、本発明はこうした実施形態に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
100…ナレッジデータサーバ
110…収集部(クローラ)
120…ナレッジデータ生成部
121…エンティティ抽出部
122…特徴抽出部
123…生成部
124…優先順位決定部
130…第1記憶部
140…第2記憶部
150…所在情報取得部
200…端末装置
300…ウェブサーバ

Claims (14)

  1. 画像データおよびテキストデータを含むページデータを収集する収集部と、
    前記ページデータに含まれる前記テキストデータから、前記ページデータに含まれる前記画像データに関連するエンティティを抽出するエンティティ抽出部と、
    前記ページデータに含まれる前記画像データから、データ収集対象となり得る所定の特徴を抽出する特徴抽出部と、
    前記特徴抽出部によって前記所定の特徴が抽出された場合、前記エンティティに前記画像データの所在情報が関連付けられたナレッジデータを生成する生成部と、
    前記エンティティ抽出部によって抽出された、前記画像データの属するIPアドレスごとの前記エンティティの数に基づいて、前記収集部がデータを収集するIPアドレスの優先順位を決定する優先順位決定部と、
    を備える情報処理装置。
  2. 前記生成部によって生成された前記ナレッジデータを記憶する記憶部と、
    前記記憶部に記憶された前記ナレッジデータを参照して、前記画像データの所在情報を取得する所在情報取得部と、を更に備える
    請求項1記載の情報処理装置。
  3. 前記所在情報取得部は、外部装置からエンティティを受信した場合、受信した前記エンティティに関連付けられた画像データの所在情報を前記記憶部から取得し、取得した前記画像データの所在情報を前記外部装置に送信する
    請求項2記載の情報処理装置。
  4. 前記エンティティ抽出部は、前記ページデータにおける前記画像データが埋め込まれた位置の周辺のテキストを前記テキストデータから取得し、取得した前記テキストから前記エンティティを抽出する
    請求項1から3の何れか一項に記載の情報処理装置。
  5. 前記テキストデータは、HTMLのソースを示すHTMLデータであり、
    前記エンティティ抽出部は、前記HTMLデータのタグに記載されているデータから、前記エンティティを抽出する
    請求項1から3の何れか一項に記載の情報処理装置。
  6. 前記生成部は、前記エンティティ抽出部によって抽出された前記エンティティに、前記HTMLデータのタグに記載されている画像データの所在情報を関連付けることで、前記ナレッジデータを生成する
    請求項5記載の情報処理装置。
  7. 前記生成部は、前記エンティティ抽出部によって抽出された前記エンティティが人名であり、前記特徴抽出部によって画像データから人の顔が一つだけ抽出された場合、前記エンティティに前記画像データの所在情報が関連付けられた前記ナレッジデータを生成する 請求項1記載の情報処理装置。
  8. 前記特徴抽出部は、前記ページデータに含まれる前記画像データを特徴量表現に変換し、
    前記生成部は、前記特徴抽出部によって変換された前記特徴量表現を複数のクラスタに分類し、最もデータ数の多いクラスタに属する特徴量表現に対応する画像データの所在情報を前記エンティティに関連付けることで、前記ナレッジデータを生成する
    請求項1記載の情報処理装置。
  9. 前記優先順位決定部は、前記エンティティ抽出部によって抽出された前記エンティティの数が多いIPアドレスほど、前記優先順位を高くする
    請求項1から8の何れか一項に記載の情報処理装置。
  10. 画像データおよびテキストデータを含むページデータを収集する収集部と、
    前記ページデータに含まれる前記テキストデータから、前記画像データに関連するエンティティを抽出するエンティティ抽出部と、
    前記エンティティ抽出部によって抽出された、前記画像データの属するIPアドレスごとの前記エンティティの数に基づいて、前記収集部がデータを収集するIPアドレスの優先順位を決定する優先順位決定部と、
    を備える情報処理装置。
  11. コンピュータが、
    画像データおよびテキストデータを含むページデータを収集する収集工程と、
    前記ページデータに含まれる前記テキストデータから、前記画像データに関連するエンティティを抽出するエンティティ抽出工程と、
    前記ページデータに含まれる前記画像データから特徴を抽出する特徴抽出工程と、
    前記特徴抽出工程において前記エンティティに関連する特徴が抽出された場合、前記エンティティに前記画像データの所在情報が関連付けられたナレッジデータを生成する生成工程と、
    を実行する情報処理方法であって、
    前記エンティティ抽出工程において抽出された、前記画像データの属するIPアドレスごとの前記エンティティの数に基づいて、前記収集工程においてデータを収集するIPアドレスの優先順位を決定する、
    情報処理方法。
  12. コンピュータが、
    画像データおよびテキストデータを含むページデータを収集する収集工程と、
    前記ページデータに含まれる前記テキストデータから、前記画像データに関連するエンティティを抽出するエンティティ抽出工程と、
    前記エンティティ抽出工程において抽出された、前記画像データの属するIPアドレスごとの前記エンティティの数に基づいて、前記収集工程においてデータを収集するIPアドレスの優先順位を決定する優先順位決定工程と、
    実行する情報処理方法。
  13. コンピュータを、
    画像データおよびテキストデータを含むページデータを収集する収集部、
    前記ページデータに含まれる前記テキストデータから、前記画像データに関連するエンティティを抽出するエンティティ抽出部、
    前記ページデータに含まれる前記画像データから特徴を抽出する特徴抽出部、
    前記特徴抽出部によって前記エンティティに関連する特徴が抽出された場合、前記エンティティに前記画像データの所在情報が関連付けられたナレッジデータを生成する生成部、
    前記エンティティ抽出部によって抽出された、前記画像データの属するIPアドレスごとの前記エンティティの数に基づいて、前記収集部がデータを収集するIPアドレスの優先順位を決定する優先順位決定部、
    として機能させるためのプログラム。
  14. コンピュータを、
    画像データおよびテキストデータを含むページデータを収集する収集部、
    前記ページデータに含まれる前記テキストデータから、前記画像データに関連するエンティティを抽出するエンティティ抽出部、
    前記エンティティ抽出部によって抽出された、前記画像データの属するIPアドレスごとの前記エンティティの数に基づいて、前記収集部がデータを収集するIPアドレスの優先順位を決定する優先順位決定部、
    として機能させるためのプログラム。
JP2016207685A 2016-10-24 2016-10-24 情報処理装置、情報処理方法、およびプログラム Active JP6727097B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016207685A JP6727097B2 (ja) 2016-10-24 2016-10-24 情報処理装置、情報処理方法、およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016207685A JP6727097B2 (ja) 2016-10-24 2016-10-24 情報処理装置、情報処理方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2018072873A JP2018072873A (ja) 2018-05-10
JP6727097B2 true JP6727097B2 (ja) 2020-07-22

Family

ID=62115437

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016207685A Active JP6727097B2 (ja) 2016-10-24 2016-10-24 情報処理装置、情報処理方法、およびプログラム

Country Status (1)

Country Link
JP (1) JP6727097B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110245197B (zh) * 2019-05-20 2022-01-28 北京百度网讯科技有限公司 一种全网实体关联方法及系统
CN113806552B (zh) * 2021-08-30 2022-06-14 北京百度网讯科技有限公司 信息提取方法、装置、电子设备和存储介质

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11224256A (ja) * 1998-02-05 1999-08-17 Nippon Telegr & Teleph Corp <Ntt> 情報検索方法および情報検索プログラムを記録した記録媒体
US7774782B1 (en) * 2003-12-18 2010-08-10 Google Inc. Limiting requests by web crawlers to a web host
JP4313738B2 (ja) * 2004-08-18 2009-08-12 日本電信電話株式会社 画像検索装置および方法、そのプログラム及び記録媒体
US8085995B2 (en) * 2006-12-01 2011-12-27 Google Inc. Identifying images using face recognition
US7899807B2 (en) * 2007-12-20 2011-03-01 Yahoo! Inc. System and method for crawl ordering by search impact
JP4825261B2 (ja) * 2008-12-17 2011-11-30 ヤフー株式会社 画像情報収集装置、その方法およびそのプログラム
US9323861B2 (en) * 2010-11-18 2016-04-26 Daniel W. Shepherd Method and apparatus for enhanced web browsing

Also Published As

Publication number Publication date
JP2018072873A (ja) 2018-05-10

Similar Documents

Publication Publication Date Title
JP6423845B2 (ja) 検索クエリに応答してコンテンツとマッチングしようとする画像を動的にランキングする方法及びシステム
KR101721338B1 (ko) 검색 엔진 및 그의 구현 방법
JP5336391B2 (ja) 構造化された地理的なデータの検索
JP6167493B2 (ja) 情報を管理するための方法、コンピュータプログラム、記憶媒体及びシステム
JP2017157192A (ja) キーワードに基づいて画像とコンテンツアイテムをマッチングする方法
JP5856139B2 (ja) 仮想ドキュメントを用いたインデックス付与と検索
US20120054166A1 (en) System for displaying search engine results with images
JP6363682B2 (ja) 画像とコンテンツのメタデータに基づいてコンテンツとマッチングする画像を選択する方法
KR102361112B1 (ko) 유사 그룹 요소 추출
US20090187516A1 (en) Search summary result evaluation model methods and systems
US10275472B2 (en) Method for categorizing images to be associated with content items based on keywords of search queries
US20090083266A1 (en) Techniques for tokenizing urls
JP5103051B2 (ja) 情報処理システム及び情報処理方法
CN107704620B (zh) 一种档案管理的方法、装置、设备和存储介质
JP7290391B2 (ja) 情報処理装置及びプログラム
JP6727097B2 (ja) 情報処理装置、情報処理方法、およびプログラム
JP4750628B2 (ja) 情報ランキング方法及び装置及びプログラム及びコンピュータ読み取り可能な記録媒体
JP5321258B2 (ja) 情報収集システムおよび情報収集方法ならびにそのプログラム
JP5234836B2 (ja) コンテンツ管理装置,情報関連度算出方法および情報関連度算出プログラム
WO2017074710A1 (en) Search system
CN107622125B (zh) 一种信息爬取方法和装置、电子设备
Shen et al. A Catalogue Service for Internet GIS ervices Supporting Active Service Evaluation and Real‐Time Quality Monitoring
KR101592670B1 (ko) 인덱스를 이용하는 데이터 검색 장치 및 이를 이용하는 방법
JP5610215B2 (ja) 検索装置、検索システム、検索方法及び検索プログラム
JP6777445B2 (ja) 引用マップ生成装置、引用マップ生成方法およびコンピュータプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190325

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20191101

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20191108

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200324

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200515

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200602

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200630

R150 Certificate of patent or registration of utility model

Ref document number: 6727097

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350