JP2010092163A - 情報フィルタ装置 - Google Patents

Abstract

【課題】Ｗｅｂサイト内のＷｅｂページに含まれる情報ごとに閲覧を規制し、有害情報を含むＷｅｂサイトであっても規制する必要がない情報については閲覧を可能にするフィルタ装置を提供する。
【解決手段】
テキスト及び画像の少なくとも一方を表すコンテンツ、コンテンツを表示するためのタグを含む表示データを取得する信号送受信部、表示データからコンテンツだけを抽出する情報抽出部１０３、抽出されたコンテンツと有害情報とを照合し、コンテンツと有害情報との一致、不一致を判断する情報照合部１０４、照合の結果、有害情報と一致すると判断されたコンテンツを有害情報では無い他の情報に置換する情報置換部１０６を備え、置換されたコンテンツデータを表示データに統合し、コンテンツのうち有害情報だけが他の情報に置換された表示データを生成する。
【選択図】 図１

Description

本発明は、情報フィルタ装置に係り、特にＷｅｂページの有害な情報の表示を規制する情報フィルタ装置に関する。

現在、携帯電話やコンピュータにおいて、未成年等に対して特定のＷｅｂページの閲覧を禁止するサービスが行われている。このようなサービスの処理を、有害情報のフィルタリング（以下、単にフィルタリングと記す）という。このフィルタリングには、ホワイトリスト方式、ブラックリスト方式の２種類が知られている。
ホワイトリスト方式は、閲覧可能なＷｅｂサイトのリストを挙げ、リストに挙がったＷｅｂサイトに含まれるページに対して一律に閲覧を許可するものである。ブラックリスト方式は、閲覧が禁止されるＷｅｂサイトのリストを挙げ、リストに挙がったＷｅｂサイトに含まれるページに対して一律に閲覧を規制するものである。
「ブラックリスト？ホワイトリスト？「ケータイフィルタリング原則化」に備える基礎知識」、日経トレンディネット、２００７年、１２月２６日、[平成２０年９月２６日検索]、インターネット、＜URL:http://trendy.nikkeibp.co.jp/article/special/20071226/1005687/＞

しかしながら、上記のホワイトリスト方式、ブラックリスト方式では、ＷｅｂサイトのＷｅｂページの一部が有害情報を含むだけでＷｅｂサイト全体の閲覧が規制される。このため、ユーザは、一部に有害情報を含むＷｅｂサイト内にあって、かつ閲覧を規制する必要がない情報を得ることができなくなる。
また、Ｗｅｂサイトの運営者にとっては、閲覧者の減少や、自己のＷｅｂサイトにおける有害情報の監視にコストがかかる点が問題となる。
本発明は、上記した点に鑑みてなされたものであって、Ｗｅｂサイト内のＷｅｂページに含まれる情報ごとに閲覧を規制し、有害情報を含むＷｅｂサイトであっても規制する必要がない情報については閲覧を可能にするフィルタ装置を提供することを目的とする。

以上の課題を解決するため、本発明の請求項１の情報フィルタ装置は、テキスト及び画像の少なくとも一方を表すコンテンツデータと、当該コンテンツデータを表示するための制御情報とを含む表示データを取得する表示データ取得手段と、前記表示データからコンテンツデータだけを抽出するコンテンツ抽出手段と、前記コンテンツ抽出手段によって抽出されたコンテンツデータと、予め設定されている有害情報とを照合し、コンテンツデータと有害情報との一致、不一致を判断する有害情報照合手段と、前記有害情報照合手段による照合の結果、有害情報と一致すると判断されたコンテンツデータを、有害情報では無い他の情報に置換するコンテンツ置換手段と、を備え、前記コンテンツ置換手段によって置換されたコンテンツデータを前記表示データに統合し、前記表示データに含まれるコンテンツデータのうち有害情報だけが有害情報では無い他の情報に置換された表示データを生成することを特徴とする。このような発明によれば、Ｗｅｂページに含まれるコンテンツのうち、有害情報の表示だけを規制し、同じＷｅｂページに含まれる有害情報にはあたらないコンテンツを表示することができる。このため、ユーザは、一部に有害情報を含むＷｅｂページであっても閲覧を規制する必要がない情報については得ることができる。また、Ｗｅｂページの一部に有害情報が書き込まれる等した場合であっても、Ｗｅｂサイト全体の閲覧が規制されることがなくなるので、Ｗｅｂサイトの運営者にかかる有害情報の監視の負荷を軽減することができる。

また、請求項２に記載の情報フィルタ装置は、請求項１に記載の発明において、前記コンテンツ抽出手段が、抽出されたコンテンツデータを、テキストまたは画像の属性ごとに分類し、前記有害情報照合手段は、分類されたコンテンツデータを、属性が一致する有害情報とのみ照合することを特徴とする。このような発明によれば、コンテンツデータと一致する可能性が高い有害情報だけを照合の対象とすることができるので、照合にかかる時間や処理の負荷を軽減することができる。

また、請求項３に記載の情報フィルタ装置は、請求項２に記載の発明において、画像を表すコンテンツデータに対し、コンテンツデータにおいて線が占める割合を検出する輪郭線検出手段をさらに備え、前記輪郭線検出手段によって検出された、コンテンツデータにおいて線が占める割合が所定のしきい値より大きい場合、当該コンテンツデータと有害情報とを照合する処理を省くことを特徴とする。このような発明によれば、線が多く、識別し難いコンテンツデータを有害情報との照合を行う処理の対象から省くことができるので、有害情報の閲覧を阻止しながらも照合にかかる時間や処理の負荷を軽減することができる。

以下、図を参照して本発明に係るフィルタ装置の一実施形態を説明する。
(装置構成）
図１は、本実施形態のフィルタ装置を説明するための機能ブロック図である。本実施形態では、フィルタ装置を移動機装置１０２のフィルタ処理部１０９として構成した。図示したフィルタ処理部１０９は、移動機装置１０２に搭載され、ＮＷ（Net Work）装置１０１と通信している。図示したＮＷ装置１０１は、Ｗｅｂページが格納されているサーバを含むＮＷに関連する装置全体を指す。移動機装置１０２は、携帯電話等、移動可能な通信端末装置である。

移動機装置１０２は、ＮＷ装置１０１からデータを受信する信号送受信部１１０を備えている。信号送受信部１１０は、ＮＷ装置１０１からダウンロード（以降、ＤＬと記す）されたＨＴＭＬ（Hyper Text Markup Language：Webページを表示させるための記述言語）データ（本実施形態でいう表示データ）をも受信する。また、移動機装置１０２は、ＤＬされたデータを表示する表示装置部１１１及び、表示装置部１１１に表示される情報を規制するためのフィルタ処理部１０９を備えている。

フィルタ処理部１０９は、信号送受信部１１０によって受信されたＨＴＭＬデータからコンテンツデータ（以降、コンテンツと記す）を抽出する情報抽出部１０３、有害であると規定される情報（以降、有害情報と記す）を格納しておくための情報記憶部１０７、抽出されたコンテンツと情報記憶部１０７に記憶されている有害情報とを照合してコンテンツから有害情報を検出する情報照合部１０４、抽出された有害情報部を有害情報では無い別の情報に置換する情報置換部１０６、有害情報を置換した情報（以降、置換情報と記す）を含むコンテンツを受信されたＨＴＭＬデータに埋め込み、表示される表示データを作成する情報統合部１０５を備えている。情報統合部１０５によって作成された表示データは、表示装置部１１１に送られて表示される。

以上の構成において、情報抽出部１０３は、ＨＴＭＬデータをＨＴＭＬタグ部とコンテンツとに分ける。ＨＴＭＬタグ部とは、Ｗｅｂブラウザ等の表示ソフトに対して文書構造や書式、文字飾り等を指示する、あるいは画像や他の文書へのリンクを埋め込むことができる制御情報である。
また、移動機装置１０２は、ＮＷ装置１０１から予め有害情報のデータベース（ＤＢ）をＤＬしておき、信号送受信部１１０によって受信する。受信された有害情報のＤＢは、情報記憶部１０７に格納される。

本明細書では、「コンテンツ」の語句を、画像を表す画像データまたはテキストを表すテキストデータであって、データの所定の１単位を指すものとする。テキストを表すコンテンツは、さらに単語データ、文書データに分類される。画像データ、単語データ、文書データの種別を、本実施形態では、以降「属性」とも記す。
所定の１単位とは、例えば、単語データにあっては１単語、文書データにあっては複数の文書からなる段落、画像データにあっては１画像のように設定できる。
なお、本実施形態はコンテンツをこのような単位に限定するものではなく、任意に設定することができることは言うまでもない。

（有害情報ＤＢ）
図２は、情報記憶部１０７が有害情報のＤＢを格納する具体的な方法を説明するための図である。図示されているように、有害情報は、単語データ、文書データ、画像データの属性にしたがって分類され、管理番号が付されて格納される。
情報照合部１０４は、情報抽出部１０３によって抽出されたコンテンツのみを情報記憶部１０７に記憶されている有害情報と照合する。この結果、有害情報と一致すると判断されたコンテンツを表示装置部１１１において表示できないコンテンツであると判断する。また、情報照合部１０４は、有害情報と一致しないと判断されたコンテンツを表示装置部１１１において表示できるコンテンツであると判断する。

また、後述するように、情報照合部１０４は、画像のコンテンツにおいて線が占める割合を検出する機能をも有している。
以上述べた構成のうち、信号送受信部１１０が表示データ取得手段として機能する。また、情報抽出部１０３がコンテンツ抽出手段として機能し、情報照合部１０４が有害情報照合手段及び輪郭線検出手段、情報置換部１０６がコンテンツ置換手段にそれぞれ機能する。

（コンテンツと有害情報との照合）
図３は、図１に示した情報照合部１０４におけるコンテンツと有害情報との照合の方法を説明するための図である。以下、コンテンツの単語データ、文書データ、画像データのカテゴリごとにコンテンツと有害情報との照合の方法を具体的に説明する。
・単語データ、文書データ
単語データや文書データの照合処理としては、抽出された単語データや文書データのコンテンツを、単語データや文書データの有害情報と１文字ずつ比較する。比較の結果、情報照合部１０４は、コンテンツと有害情報との文字の全てが完全に一致する場合のみでなく、コンテンツが有害情報の特徴的な文字を含んでいる場合にもコンテンツが有害情報であると判断する。

すなわち、例えば、図３（ａ）のように、単語データの有害情報が「ＡＢＣＤＥ」であるとする。また、有害情報と照合されるコンテンツを、図３（ｂ）に示すコンテンツ１「ＡＢＣＤＥ」、図３（ｃ）に示すコンテンツ２「Ａ○Ｂ×Ｃ△Ｄ□Ｅ」、図３（ｄ）に示すコンテンツ３「ＡＣＤＡ」とする。
このような場合、コンテンツ１やコンテンツ２のように、有害情報の全てと共に他の情報を含むコンテンツは有害情報であると判断される。また、コンテンツ３のように、有害情報を構成する文字の一部が含まれていないコンテンツは有害情報であると判断されない。

また、画像データのコンテンツの場合、パターンマッチングによって情報記憶部１０７に記憶されている画像データの有害情報と照合される。パターンマッチングでは、例えば、両者の画像の相関をとり、相関の高さを予め設定されているしきい値と比較し、相関性がしきい値を超えている場合にコンテンツが有害情報と一致すると判断される。このようなパターンマッチングの方法は、例えば、特許庁ホームページ、画像認識技術、平成２０年９月２６日検索、インターネット、
＜URL:http://www.jpo.go.jp/shiryou/s_sonota/tokumapf.htm＞
にも記載されているように、公知であるからこれ以上の説明を行わない。なお、本実施形態は、以上のようにしてコンテンツが有害情報であるか否か判断するものに限定されるものでなく、どのような方法によって判断するものであってもよい。

また、本実施形態では、コンテンツを属性にしたがって分類すると共に、図２に示したように、有害情報が単語データ、文書データ、画像データの属性ごとに分類されて格納されている。このため、コンテンツの照合をする場合、コンテンツの属性と一致する有害情報だけを照合の対象とすることができ、照合の処理にかかる時間を短縮することが可能になる。

また、本実施形態は、コンテンツと有害情報とを縮小化してからパターンマッチングすることにより、パターンマッチングにかかる時間を短縮することが可能である。なお、このような方法は、例えば、中島浩嗣、「ＦＰＧＡを用いたパターンマッチングの高速化手法」、平成２０年９月２６日検索、インターネット、
＜URL:http://www.hfl.hiroshima-u.ac.jp/COE/programs/pdf/nakano.pdf＞にも記載されているように、公知であるからこれ以上の説明を行わない。
さらに、本実施形態では、パターンマッチングに先立って、情報照合部１０４が、画像データのコンテンツに占める線の割合を検出するようにしてもよい。このようにすれば、線の割合がしきい値を超えた場合、識別困難なコンテンツであるとしてパターンマッチングを省いて処理時間を短縮することができる。

以上のようにして有害情報と照合されたコンテンツは、表示できるコンテンツ、表示できないコンテンツの両方が、情報置換部１０６に送られる。つまり、情報照合部１０４において有害情報であると判断されたコンテンツも、有害情報ではないと判断されたコンテンツも情報置換部１０６へ入力される。情報置換部１０６は、有害情報であると判断されたコンテンツのみを有害情報では無い別の情報に置換する。別の情報が例えば「表示できません」といった文字列である場合、有害情報であると判断されたコンテンツの部分に「表示できません」の文字列が表示されるように設定される。また、別の情報がいわゆる「塗りつぶし」である場合、有害情報であると判断されたコンテンツの部分は黒く表示されるように設定される。

情報統合部１０５は、信号送受信部１１０によって受信されたＨＴＭＬデータと、情報置換部１０６において置換された、または置換されなかったコンテンツとを使って統合処理を行う。統合処理は、置換されたコンテンツをＨＴＭＬデータ中の置換前のコンテンツと置き換え、ＨＴＭＬデータに埋め込む。そして、置換後のコンテンツが埋め込まれたＨＴＭＬデータを再度再生する。再生されたＨＴＭＬデータは、表示装置部１１１に入力されて表示される。この結果、表示装置部１１１には、有害情報の部分だけが閲覧禁止の状態のＨＴＭＬデータが表示される。

（動作）
次に、以上述べた構成の本実施形態のフィルタ装置の動作を説明する。
図４は、ＮＷ装置１０１と移動機装置１０２との間で行われる、Ｗｅｂページを閲覧する際の通信の手順を説明するためのタイミングチャートである。移動機装置１０２において、Ｗｅｂページの閲覧開始や終了は、閲覧制御部４０１によって実行される。また、Ｗｅｂページの閲覧開始や終了は、閲覧制御部４０１からフィルタ処理部１０９に伝えられる。

移動機装置１０２の信号送受信部１１０は、ＮＷ装置１０１に対してＷｅｂページへのアクセスを要求する（Ｓ１）。このとき、図４に示した例では、移動機装置１０２がＮＷ装置１０１から随時有害情報のＤＢをＤＬしている（Ｓ２、Ｓ３）。このような例では、移動機装置１０２がＮＷ装置１０１よりＷｅｂページをＤＬするたびに、有害情報等の最新ＤＢをＤＬする。受信された有害情報等は一時的に移動機装置１０２内の情報記憶部１０７に格納される（Ｓ４）。
ＮＷ装置１０１よりＷｅｂページがＤＬされると（Ｓ５）、移動機装置１０２においてＷｅｂページの閲覧が開始される（Ｓ６）。Ｗｅｂページの閲覧終了と共に（Ｓ８）、Ｗｅｂページと情報記憶部１０７に格納されている有害情報等が解放される（Ｓ７、Ｓ９）。

なお、有害情報のＤＢのＤＬは、このような例に限定されるものでなく、フィルタ処理の以前にＤＬするものであれば、どのようなタイミングで行ってもよい。そして、ＤＬされた有害情報を情報記憶部１０７部に不揮発的に格納してもよい。このような場合、移動機装置１０２の出荷時に情報記憶部１０７に一定の有害情報等を格納する。その後、有害情報のＤＢがＮＷ装置１０１においてアップデートされるたびに、ＡＤＬ（エア・ダウン・ロード：無線インタフェースによるソフトウェア等のアップデート方法）等を用いて情報記憶部１０７を更新するものでもよい。
Ｗｅｂページへのアクセス要求を受けたＮＷ装置１０１は、移動機装置１０２へ要求されたＷｅｂページをＤＬする（Ｓ５）。移動機装置１０２において、ＤＬされたＷｅｂページのデータは、ＨＴＭＬのデータ形式で取り扱われる。

図５は、本発明の一実施形態のフィルタ処理部１０９においてＤＬされたＷｅｂページに対して行われる処理を説明するためのフローチャートである。信号送受信部１１０でＨＴＭＬデータを受信すると（ステップＳ５０1）、フィルタ処理部１０９では、図１に示した情報抽出部１０３がＨＴＭＬデータからコンテンツだけを抽出する。すなわち、ＨＴＭＬデータは、コンテンツとＨＴＭＬタグ部を含んでいる。フィルタ処理部１０９では、ＨＴＭＬデータをコンテンツとＨＴＭＬタグ部とを分けてコンテンツだけを抽出する（ステップＳ５０２）。そして、抽出されたコンテンツを属性ごとに分類する。

次に、フィルタ処理部１０９では、図１に示した情報照合部１０４が分類されたコンテンツと情報記憶部１０７部に格納されている有害情報とを照合し、コンテンツが有害情報であるか否か判断する（ステップＳ５０３）。判断の結果、コンテンツが有害情報である場合（ステップＳ５０３：有害情報である）、図１に示した情報置換部１０６が、有害情報であると判断されたコンテンツを「表示できません」等のテキストに置換する（ステップＳ５０４）。図１に示した情報統合部１０５は、置換後のコンテンツをＨＴＭＬデータ中の置換前のコンテンツと置き換えて埋め込み、統合する（ステップＳ５０５）。

また、ステップＳ５０３において、コンテンツが有害情報ではないと判断された場合（ステップＳ５０３：有害情報ではない）、コンテンツの置換を行うことなくコンテンツとＨＴＭＬデータとの統合が行われる。統合後のデータは、表示データとして表示装置部１１１に入力される（ステップＳ５０６）。図１に示した表示装置部１１１は、表示データを図示しないディスプレイ画面に表示させる。
表示データの閲覧が終了すると、ユーザは、Ｗｅｂページを閉じて解放する。解放を示す情報は、信号送受信部１１０へ送られて（Ｓ８）、移動機装置１０２からはＷｅｂページの解放要求がＮＷ装置１０１に対して行われる（Ｓ９）。なお、解放を示す情報は、図１に示したフィルタ処理部１０９にも伝えられる（Ｓ７）。

（システム）
図６は、本実施形態のフィルタ装置が適用される移動機装置１０２とＮＷ装置１０１によって構築されるシステムを説明するための図である。図６のシステムでは、移動機装置１０２にフィルタ処理部１０９が備えてあって、移動機装置１０２からユーザがＮＷ装置１０１に対してＷｅｂサイトの閲覧を要求すると（図中：Web page request）、ＮＷ装置１０１が移動機装置１０２に対して要求されたＷｅｂサイトのＷｅｂページをダウンロードする（図中：Web page DL）。

移動機装置１０２は、前記したように、ＤＬされたＷｅｂページのＨＴＭＬデータからコンテンツを抽出し、情報記憶部１０７に予め格納されている有害情報と抽出されたコンテンツとを照合し、両者が一致したか否か判断する。そして、有害情報と一致するコンテンツだけを「表示できません」等の有害情報では無い別のデータに置換する。この結果、表示装置部１１１には、ＨＴＭＬデータのうち、有害情報と一致すると判断された単語や文書、あるいは画像だけが表示されない状態のＷｅｂページが表示される。

（他のシステムの例）
図７は、本実施形態のシステムの他の例を説明するための図である。図７に示したシステムでは、フィルタ処理部１０９をＮＷ装置１０１に備えている。このような場合、移動機装置１０２がＮＷ装置１０１にＷｅｂページの閲覧を要求するたびに、ＮＷ装置１０１において閲覧を要求されたＷｅｂページがフィルタ処理部１０９に取得されてフィルタ処理され、有害情報が排除されたＷｅｂページが移動機装置１０２へ送信される。
なお、図７に示した構成の場合、フィルタ処理部１０９は図１に示した信号送受信部１１０ではなく、ＮＷ装置１０１から情報抽出部１０３が直接ＷｅｂページのＨＴＭＬデータを取得する。このため、図７の構成で表示データ取得手段は情報抽出部１０３となる。

さらに、本実施形態は、テキスト及び画像の少なくとも一方を表すコンテンツと、このコンテンツを表示するための制御情報とを含む表示データを取得する表示データ取得機能と、表示データからコンテンツだけを抽出するコンテンツ抽出機能と、抽出されたコンテンツ機能と有害情報とを照合し、コンテンツと有害情報との一致、不一致を判断する有害情報照合機能と、照合の結果、有害情報と一致すると判断されたコンテンツを、有害情報では無い他の情報に置換するコンテンツ置換機能とをコンピュータに実行させるプログラムを汎用的なコンピュータにＤＬすることにより、以上述べた実施形態と同様の構成を実現することができる。ＤＬされたプログラムの使用に際しては、パスワード等の認証を用いることで、特定のユーザのみが設定及び解除の権限を持つようにすることも可能である。さらに、上記のプログラムをＵＩＭ（User Interface Module）カードと関連させることにより、同一の端末でもＵＩＭにより設定及び解除の区別が可能である。
このようなシステムによれば、通信端末装置、ネットワーク装置のいずれにおいてもフィルタ処理を実行することができる。このため、システムの用途や適用の対象に応じて好ましい側でフィルタ処理を実行することができる。

本発明の一実施形態のフィルタ装置を説明するための機能ブロック図である。 図１に示した情報記憶部が有害情報のＤＢを格納する具体的な方法を説明するための図である。 図２に示した情報照合部におけるコンテンツと有害情報との照合の方法を説明するための図である。 本発明の一実施形態のＮＷ装置と移動機装置との間で行われる通信の手順を説明するためのタイミングチャートである。 本発明の一実施形態のフィルタ処理部においてＤＬされたＷｅｂページに対して行われる処理を説明するためのフローチャートである。 本発明の一実施形態のフィルタ装置が適用される移動機装置とＮＷ装置によって構築されるシステムを説明するための図である。 本発明の一実施形態のシステムの他の例を説明するための図である。

符号の説明

１０１ ＮＷ装置
１０２ 移動機装置
１０３ 情報抽出部
１０４ 情報照合部
１０５ 情報統合部
１０６ 情報置換部
１０７ 情報記憶部
１０９ フィルタ処理部
１１０ 信号送受信部
１１１ 表示装置部
４０１ 閲覧制御部

Claims (3)

1. テキスト及び画像の少なくとも一方を表すコンテンツデータと、当該コンテンツデータを表示するための制御情報とを含む表示データを取得する表示データ取得手段と、
   前記表示データからコンテンツデータだけを抽出するコンテンツ抽出手段と、
   前記コンテンツ抽出手段によって抽出されたコンテンツデータと、予め設定されている有害情報とを照合し、コンテンツデータと有害情報との一致、不一致を判断する有害情報照合手段と、
   前記有害情報照合手段による照合の結果、有害情報と一致すると判断されたコンテンツデータを、有害情報では無い他の情報に置換するコンテンツ置換手段と、を備え、
   前記コンテンツ置換手段によって置換されたコンテンツデータを前記表示データに統合し、前記表示データに含まれるコンテンツデータのうち有害情報だけが有害情報では無い他の情報に置換された表示データを生成することを特徴とする情報フィルタ装置。
2. 前記コンテンツ抽出手段は、抽出されたコンテンツデータを、テキストまたは画像の属性ごとに分類し、
   前記有害情報照合手段は、分類されたコンテンツデータを、属性が一致する有害情報とのみ照合することを特徴とする請求項１に記載の情報フィルタ装置。
3. 画像を表すコンテンツデータに対し、コンテンツデータにおいて線が占める割合を検出する輪郭線検出手段をさらに備え、
   前記輪郭線検出手段によって検出された、コンテンツデータにおいて線が占める割合が所定のしきい値より大きい場合、当該コンテンツデータと有害情報とを照合する処理を省くことを特徴とする請求項２に記載の情報フィルタ装置。

Images