JPWO2009050877A1 - 不適切コンテンツ検出方法および装置、そのコンピュータプログラム、ならびにコンテンツ公開システム - Google Patents

Abstract

不適切コンテンツ検出装置１００は、投稿されたコンテンツの入力を受け付けるコンテンツ入力受付部１１０と、複数の投稿されたコンテンツの相互の類似度を算出し、類似度に基づき、相互に類似するコンテンツ群を検出する類似コンテンツ検出部１３４と、検出された類似するコンテンツ群に基づき、著作権的に不適切なコンテンツを判定する不正判定部１３６と、を備える。

Description

本発明は、投稿サイトにおける不適切コンテンツ検出方法、不適切コンテンツ検出装置、そのコンピュータプログラム、およびコンテンツ公開システムに関する。

インターネットなどにて展開されるサービスの一つに、掲示板サービスあるいは動画または静止画投稿サービスがある。掲示板等のこれらのサービスでは、不特定多数の利用者が、画像、音声、テキスト等のデータ（コンテンツ）をアップロードしたり、他人のアップロードしたコンテンツを自由に閲覧したりすることができる。

このような掲示板等への投稿を、投稿する利用者の自由に任せると、他人の著作権物をコピーまたは模造したいわゆる不正コンテンツや不法コンテンツが大量に出回ってしまう危険性がある。現在不正コンテンツは、サービス提供者が定期的に監視を行うか、または著作権者がサービス提供者にクレームして該コンテンツを削除するといった枠組みで運用されているが、掲載されるコンテンツが大量になった場合、そのすべてを人手でチェックすることは困難である。

投稿されたコンテンツの中から不適切なデータを検出するシステムの一例が特許文献１に記載されている。同文献に記載されたシステムは、予め不適切なコンテンツ（画像、音声、テキスト等）をみつけるためのベースとなるコンテンツのサンプルを蓄えておき、新規にコンテンツ（画像、音声、テキスト等）が投稿されるたびに、前記蓄えられた不適切なコンテンツをみつけるためのベースとなるサンプルとの類似性を評価し、類似していると評価された場合に不適切なコンテンツであるとして抽出する。
特開２００６−２９３４５５号公報 特開平８−１８０１７６号公報 特開２０００−２５９８３２号公報 特開２０００−３３９４７４号公報

しかしながら、上記特許文献１に記載されている方法は、不適切なコンテンツをみつけるためのベースとなるコンテンツのサンプルとの類似度に基づくものであり、不適切コンテンツを抽出するために、不適切コンテンツをみつけるためのベースとなるコンテンツをサンプルとして用意する必要がある点で改善の余地を有していた。

特に、掲示板などのサービスで不特定多数の利用者が投稿する、画像、音声、テキスト等のデータ（コンテンツ）に対して、他人の著作権物をコピーまたは模造したいわゆる不正コンテンツまたは不法コンテンツを検出するために、予め不正画像データをサンプルとして用意し、日々掲示板などインターネットにアップされるすべての不正画像データに対応することは困難であった。

日々、多種多様なコンテンツが生成、流通する中で、著作権的に保護すべきコンテンツをすべて、予め不適切コンテンツのベースとなるコンテンツのサンプルとして用意しておくのはきわめて困難である。掲示板などのサービス母体が、コンテンツを作成していることは少ないため、事前に保護すべきコンテンツを入手することは困難であることに加え、掲示板などに投稿されるコンテンツの範囲は非常に多岐にわたっており、すべての投稿に対してもれなく不適切コンテンツをみつけるためのベースとなるサンプルとして用意することは非常に困難であるといえる。

本発明の目的は、上述した課題である、不正コンテンツサンプルや辞書データを予め用意する困難さを解決する不適切コンテンツ検出方法、不適切コンテンツ検出装置、そのコンピュータプログラム、およびコンテンツ公開システムを提供することにある。

本発明の第１の不適切コンテンツ検出方法は、複数の投稿されたコンテンツの相互の類似度を算出し、
前記相互の類似度に基づき、前記投稿されたコンテンツが著作権的に適切であるか否かの判定を行う。

本発明の第２の不適切コンテンツ検出方法は、投稿された複数のコンテンツの相互の類似度に基づき、複数の投稿されたコンテンツが相互に類似しているか否かを判定し、類似していた場合に、相互に類似しているコンテンツ群を著作権的に不適切なコンテンツとして検出する。

本発明の不適切コンテンツ検出装置は、投稿されたコンテンツの入力を受け付けるコンテンツ受付手段と、
複数の前記投稿されたコンテンツの相互の類似度を算出し、前記類似度に基づき、相互に類似するコンテンツ群を検出する類似コンテンツ検出手段と、
検出された前記類似するコンテンツ群に基づき、著作権的に不適切なコンテンツを判定する不正判定手段と、を備える。

本発明のコンピュータプログラムは、コンピュータに、投稿されたコンテンツから著作権的に不適切なコンテンツを検出する不適切コンテンツ検出装置を実現させるためのコンピュータプログラムであって、
前記コンピュータに、
投稿されたコンテンツの入力を受け付ける手順と、
複数の前記投稿されたコンテンツの相互の類似度を算出し、前記類似度に基づき、相互に類似するコンテンツ群を検出する手順、
検出された前記類似するコンテンツ群に基づき、著作権的に不適切なコンテンツを判定する手順、を実行させる。

本発明の第１のコンテンツ公開システムは、投稿されたコンテンツを利用者が閲覧できるように公開するコンテンツ公開システムであって、
上記不適切コンテンツ検出装置によって検出された前記不適切なコンテンツをシステム管理者に提示する提示手段と、
前記システム管理者が確認した後、前記システム管理者から削除指示を受け付ける受付手段と、
前記削除指示に従い、前記不適切なコンテンツの削除を行う削除手段と、を備える。

本発明の第２のコンテンツ公開システムは、投稿されたコンテンツを利用者が閲覧できるように公開するコンテンツ公開システムであって、
上記不適切コンテンツ検出装置によって相互に類似していると判定されたコンテンツ数が、所定数より多いか否かを判定する判定手段と、
相互に類似していると判定されたコンテンツ数が所定数より多い場合に、当該コンテンツへの利用者のアクセスを自動的に停止する制御手段と、を備える。

なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システム、記録媒体、コンピュータプログラムなどの間で変換したものもまた、本発明の態様として有効である。

また、本発明の各種の構成要素は、必ずしも個々に独立した存在である必要はなく、複数の構成要素が一個の部材として形成されていること、一つの構成要素が複数の部材で形成されていること、ある構成要素が他の構成要素の一部であること、ある構成要素の一部と他の構成要素の一部とが重複していること、等でもよい。

また、本発明の不適切コンテンツ検出方法およびコンピュータプログラムには複数の手順を順番に記載してあるが、その記載の順番は複数の手順を実行する順番を限定するものではない。このため、本発明の不適切コンテンツ検出方法およびコンピュータプログラムを実施するときには、その複数の手順の順番は内容的に支障しない範囲で変更することができる。

さらに、本発明の不適切コンテンツ検出方法およびコンピュータプログラムの複数の手順は個々に相違するタイミングで実行されることに限定されない。このため、ある手順の実行中に他の手順が発生すること、ある手順の実行タイミングと他の手順の実行タイミングとの一部ないし全部が重複していること、等でもよい。

本発明によれば、不正コンテンツサンプルや辞書データを予め用意することなく、投稿されるコンテンツの中から不適切なコンテンツを効率よく検出できる不適切コンテンツ検出方法、不適切コンテンツ検出装置、そのコンピュータプログラム、およびコンテンツ公開システムが提供される。

上述した目的、およびその他の目的、特徴および利点は、以下に述べる好適な実施の形態、およびそれに付随する以下の図面によってさらに明らかになる。

本発明の実施の形態に係る不適切コンテンツ検出装置の構成を示すブロック図である。 本発明の実施の形態における不適切コンテンツ検出の手順の一例を示すフローチャートである。 本発明の実施の形態に係る不適切コンテンツ検出装置の構成を示すブロック図である。 本発明の実施の形態における不適切コンテンツ検出の手順の一例を示すフローチャートである。 本発明の実施の形態に係る不適切コンテンツ検出装置の構成を示すブロック図である。 本発明の実施の形態における不適切コンテンツ検出の手順の一例を示すフローチャートである。 本発明の実施の形態に係る確認サーバの構成を示すブロック図である。 本発明の実施の形態に係るコンテンツ公開システムの構成を示す図である。 本発明の不適切コンテンツ検出方法の実施例を模式的に示した図である。 図９で投稿されたコンテンツの類似の状況を模式的に示した図である。 動画の類似例を模式的に示した図である。 静止画の類似例を模式的に示した図である。

以下、本発明の実施の形態について、図面を用いて説明する。なお、すべての図面において、同様な構成要素には同様の符号を付し、適宜説明を省略する。

（第一の実施の形態）
図１は、本発明の実施の形態に係る不適切コンテンツ検出装置１００の構成を示す機能ブロック図である。本実施形態の不適切コンテンツ検出装置１００は、複数の投稿されたコンテンツの相互の類似度を算出し、相互の類似度に基づき、投稿されたコンテンツが著作権的に適切であるか否かの判定を行うものである。また、本実施形態において、不適切コンテンツ検出装置１００は、投稿された複数のコンテンツの相互の類似度に基づき、複数の投稿されたコンテンツが相互に類似しているか否かを判定し、類似していた場合に、相互に類似しているコンテンツ群を著作権的に不適切なコンテンツとして検出する。

ここで、類似度とは、少なくとも二つのコンテンツ間が相互に類似しているか否かを示す尺度であり、たとえば、特許文献１の段落００１０および００１１、または特許文献４に記載されているような公知の技術により算出できる。

本実施形態の不適切コンテンツ検出装置１００は、投稿されたコンテンツの入力を受け付けるコンテンツ入力受付部１１０と、複数の投稿されたコンテンツの相互の類似度を算出し、類似度に基づき、相互に類似するコンテンツ群を検出する類似コンテンツ検出部１３４と、検出された類似するコンテンツ群に基づき、著作権的に不適切なコンテンツを判定する不正判定部１３６と、を備える。

また、本実施形態の不適切コンテンツ検出装置１００は、投稿されたコンテンツからその特徴量を抽出する特徴量抽出部１３２をさらに備え、類似コンテンツ検出部１３４は、複数の投稿されたコンテンツの特徴量を相互に照合して、特徴量の相互の類似度を算出し、相互に類似するコンテンツ群を検出する。

より詳細には、不適切コンテンツ検出装置１００は、コンテンツ入力受付部１１０と、コンテンツ記憶部１２０と、特徴量抽出部１３２と、類似コンテンツ検出部１３４と、不正判定部１３６と、不適切コンテンツ出力部１４０と、を備えている。

なお、以下の各図において、本発明の本質に関わらない部分の構成については省略してある。
また、不適切コンテンツ検出装置１００の各構成要素は、任意のコンピュータのＣＰＵ、メモリ、メモリにロードされた本図の構成要素を実現するプログラム、そのプログラムを格納するハードディスクなどの記憶ユニット、ネットワーク接続用インタフェースを中心にハードウエアとソフトウエアの任意の組合せによって実現される。そして、その実現方法、装置にはいろいろな変形例があることは、当業者には理解されるところである。以下説明する各図は、ハードウエア単位の構成ではなく、機能単位のブロックを示している。

コンテンツ入力受付部１１０は、個々の利用者から次々に投稿されるコンテンツの入力を受け付ける。一例として、コンテンツ入力受付部１１０は、インターネット経由で利用者より投稿されたメッセージをキャプチャして、コンテンツ部分を切り出すプログラムを搭載したＣＰＵ（Central Processing Unit）である。入力されるコンテンツとは、たとえば、掲示板などに投稿された、画像（動画像、静止画）、音声（音響、音楽）、テキストデータなどであり、著作権的に保護すべきコンテンツである。

入力されるコンテンツは、利用者からの投稿を直接キャプチャする形で実現されてもよいし、一度外部のサーバ（不図示）等に蓄えられた後に逐次または一括して入力するような形であってもよい。投稿の形態は、ＷＷＷブラウザを使ってアップロードする形態であってもよいし、ｅ−ｍａｉｌ等にコンテンツを添付して送付するような形態であってもよい。また特定のＦＴＰサイトに登録するような形態であってもかまわない。

コンテンツ記憶部１２０は、コンテンツ入力受付部１１０が受け付けたコンテンツを蓄積する。一例として、コンテンツ記憶部１２０は、ハードディスク、フラッシュメモリなどの記憶装置であり、専用の蓄積装置であっても、他の蓄積装置との兼用であってもよい。

特徴量抽出部１３２は、コンテンツ間の一致の検出、または類似度を効果的に算出するための特徴量を、コンテンツ入力受付部１１０が受け付けた各コンテンツから抽出する。一例として、特徴量抽出部１３２は、予め定められたルールにて動作するプログラムを搭載したＣＰＵである。たとえば、コンテンツが映像情報の場合、映像中の各フレームで観測される色情報のヒストグラムを抽出するように動作してもよいし、音楽情報の場合、各時刻における周波数成分を抽出するように動作してもよい。

一例として、特徴量抽出部１３２は、上記特許文献２に記載された画像インデックス生成や、上記特許文献３に記載された、代表レイアウト特徴量抽出のような手順で特徴量の抽出を行う。特徴量抽出に関しては、画像や映像または音響情報などのコンテンツの相互の類似度または一致度が算出できれば、特許文献２や特許文献３に記載された特徴量でなくてもかまわない。
また、特徴量抽出部１３２で抽出された特徴量は、特徴量蓄積部（不図示）に蓄積してもよいし、類似度算出毎にコンテンツ記憶部１２０に記憶されているコンテンツから抽出してもよい。

類似コンテンツ検出部１３４は、コンテンツ間の類似度判定または一致検出を行うために、特徴量抽出部１３２により抽出された特徴量の相互の類似度を算出し、予め定められた特定閾値以上の類似度を持つコンテンツ群を検出する。検出した結果は類似コンテンツ情報として一時記憶部（不図示）に記憶し、後述する不正判定部１３６に出力する。一例として、類似コンテンツ検出部１３４は、予め定められたルールにて動作するプログラムを搭載したＣＰＵである。専用のＣＰＵであってもよいし、他のＣＰＵとの兼用であってもよい。

類似するコンテンツの検出方法として、たとえば、特許文献３に記載された、代表レイアウト特徴量に基づく類似コンテンツ検出を用いる。コンテンツの一致に際しては、映像中の一部または全部のフレームの一致または類似や、静止画像の一部または全体の一致または類似、音響の一部または全体の一致または類似を検出できれば、特許文献３以外の方法で検出を行ってもよい。

すなわち、本実施形態の不適切コンテンツ検出装置１００において、類似コンテンツ検出部１３４は、投稿されたコンテンツが映像であった際に、映像に含まれる一部または全部のフレーム群が相互に類似しているときに、コンテンツ間の類似度が閾値より高いとすることができる。また、類似コンテンツ検出部１３４は、投稿されたコンテンツが静止画像であった際に、静止画像の一部または全体が類似しているときに、コンテンツ間の類似度が閾値より高いとすることができる。さらに、類似コンテンツ検出部１３４は、投稿されたコンテンツが音響または音楽を含む際に、音響または音楽の一部または全体のフレーズが類似しているときに、コンテンツ間の類似度が閾値より高いとすることができる。

不正判定部１３６は、類似コンテンツ検出部１３４にて検出された類似コンテンツ情報に基づいて、コンテンツの不正を判定する。一例として、不正判定部１３６は、予め定められたルールにて動作するプログラムを搭載したＣＰＵである。専用のＣＰＵであってもよいし、他のＣＰＵとの兼用であってもよい。

不適切コンテンツ出力部１４０は、不正判定部１３６における不正判定結果をうけて、不適切なコンテンツを出力する。一例として、不適切コンテンツ出力部１４０は、予め定められたルールにて動作するプログラムを搭載したＣＰＵである。専用のＣＰＵであってもよいし、他のＣＰＵとの兼用であってもよい。例として、不適切コンテンツ出力部１４０は、不正判定部１３６で不適切なコンテンツと判定された不適切なコンテンツをリストアップした不適切コンテンツリストを作成し、出力するリスト作成部（不図示）を含むこともできる。

上記不適切コンテンツ検出装置１００の各種ユニット（コンテンツ入力受付部１１０〜不適切コンテンツ出力部１４０）を各種機能として実現させるためのコンピュータプログラムは、上述のＣＰＵが利用するメモリ（不図示）に記憶され、ＣＰＵにより実行される。

本実施形態のコンピュータプログラムは、コンピュータに、投稿されたコンテンツから著作権的に不適切なコンテンツを検出する不適切コンテンツ検出装置１００を実現させるためのコンピュータプログラムであって、コンピュータに、投稿されたコンテンツの入力を受け付ける手順と、投稿されたコンテンツからその特徴量を抽出する手順、複数の投稿されたコンテンツの特徴量を相互に照合して、特徴量の相互の類似度を算出する手順、算出された類似度に基づいて、相互に類似するコンテンツ群を検出する手順、検出された類似するコンテンツ群に基づき、著作権的に不適切なコンテンツを判定する手順、を実行させるように記述されている。

コンピュータプログラムは、たとえば、コンピュータ（ＣＰＵ）が読取可能な記録媒体（メモリ）に格納される。例として、記録媒体は、ＰＲＯＭ（Programmable Read Only Memory）、ハードディスク、ＤＶＤ−ＲＯＭ、ＣＤ−ＲＯＭ、ＦＤなどである。

このように構成された本実施形態の不適切コンテンツ検出装置１００の動作について、以下に説明する。図２は、本実施形態の不適切コンテンツ検出装置１００の動作の一例を示すフローチャートである。以下、図１および図２を用いて説明する。

はじめに、コンテンツ入力受付部１１０により利用者により投稿された複数のコンテンツの入力が受け付けられる（Ｓ１１）。コンテンツは、逐次入力されてもよいし、複数まとめて入力されてもよい。受け付けられたコンテンツがコンテンツ記憶部１２０に記憶され（Ｓ１３）、特徴量抽出部１３２が、コンテンツ入力受付部１１０が受け付けた各コンテンツから類似度算出のための特徴量を抽出する（Ｓ１５）。

そして、類似コンテンツ検出部１３４が、受け付けたコンテンツの中から順次コンテンツ対を選択し、（Ｓ１７）、選択されたコンテンツ対の類似度を算出し（Ｓ１９）、類似度が予め定めた閾値以上であかる否かを判定する（Ｓ２１）。類似度が予め定めた閾値以上であった場合に（Ｓ２１のＹｅｓ）、類似コンテンツとして検出し、検出されたコンテンツ対を相互類似コンテンツ情報として一時記憶部に記憶する（Ｓ２３）。

ステップＳ１７からステップＳ２３までを、入力コンテンツのすべての組合せに対して行い（Ｓ２５）、それぞれ相互に類似するコンテンツを検出する。

そして、すべての組み合わせについて類似コンテンツの検出が終了したとき（Ｓ２５のＹｅｓ）、不正判定部１３６により、ステップＳ２３で記憶した相互類似コンテンツ情報に基づいて不正判定が行われる（Ｓ２７）。一例として、特定の相互に類似するコンテンツが予め定められた件数以上検出された場合、それらの類似するコンテンツ群に対して不正と判定する。一例として、予め定められた件数が２件の場合、ステップＳ２３にて記憶されたコンテンツはすべて、不適切コンテンツと判定される。予め定められた件数がＮ件の場合、ステップＳ２１で検出されたコンテンツ対の接続関係に基づき、Ｎ件以上の相互接続を検出して検出されたコンテンツを不適切コンテンツと判定する。

そして、不適切コンテンツ出力部１４０により、不正と判定されたコンテンツの出力が行われる（Ｓ２９）。

以上説明したように、本実施形態の不適切コンテンツ検出装置１００によれば、不適切なコンテンツをみつけるためのベースとなるサンプルコンテンツ（辞書データ）を用意することなく、著作権的に不適切なコンテンツを効率よく自動的に検出するという、発明の目的を達成することができる。
また、著作権的な適切度の判定を効率よく行うことができる。そして、掲示板などに不適切なコンテンツが公開されるのを防ぐことが可能となる。

権利侵害をしている不適切コンテンツでは、テレビ録画、雑誌、ＣＤ、ＤＶＤなどのオリジナルコンテンツが存在し、オリジナルコンテンツを一部またはそのまま投稿したり、他者が投稿したコンテンツをダウンロードしてそのまま転用したりするという特性をもつため重複が多い。投稿されたコンテンツ間で類似度評価を行い、投稿された動画、静止画、音響の一致または重複を検知し、重複の多いコンテンツを著作権的に不適切なコンテンツとして検出することにより、不適切コンテンツのサンプルを予め用意することなく、著作権的な適切度の判定および不適切なコンテンツの検出ができるようになり、本発明の目的を達成することができる。

（第二の実施の形態）
図３は、本発明の実施の形態に係る不適切コンテンツ検出装置２００の構成を示す機能ブロック図である。本実施形態の不適切コンテンツ検出装置２００は、上記実施形態の不適切コンテンツ検出装置１００とは、コンテンツを所定の条件で選択し、選択されたコンテンツについて類似度評価を行う点で相違する。

本実施形態の不適切コンテンツ検出装置２００において、類似コンテンツ検出部２３４は、所定の期間内に投稿されたコンテンツのうち、所定数以上の投稿されたコンテンツ間で相互に類似度が閾値より高いコンテンツを相互に類似するコンテンツ群として検出し、不正判定部２３６は、検出された類似するコンテンツ群を不適切なコンテンツと判定する。

また、本実施形態の不適切コンテンツ検出装置２００において、類似コンテンツ検出部２３４は、複数の投稿されたコンテンツから、所定の基準でコンテンツを選択した後に、選択されたコンテンツ間で相互に類似度を算出し、所定数以上のコンテンツ間で、相互に類似度が閾値より高いコンテンツ群を検出し、不正判定部２３６は、検出された前記コンテンツ群を、不適切なコンテンツと判定する。本実施形態の不適切コンテンツ検出装置２００は、たとえば、所定期間に投稿されたコンテンツについて類似度評価を行う。

ここで、所定の基準とは、コンテンツが投稿された日時、コンテンツを投稿した投稿者の国籍、投稿されたコンテンツのサイズなどを含む。これらの情報は、コンテンツ投稿記録などに記録されており、コンテンツ投稿記録、すなわち、投稿時刻、投稿者の国籍、コンテンツのサイズなどに基づいてコンテンツを選択し、選択されたコンテンツ間で類似度を算出し、不適切コンテンツを検出することができる。

本実施形態の不適切コンテンツ検出装置２００は、特徴量抽出部２３２によって抽出された特徴量を記憶する特徴量蓄積部２５２と、特徴量蓄積部２５２から、所定の基準で選択されたコンテンツの特徴量を取得する蓄積特徴量選択部２５４と、を備え、類似コンテンツ検出部２３４は、蓄積特徴量選択部２５４によって選択されたコンテンツの特徴量の相互の類似度を算出し、相互に類似するコンテンツを検出する。

さらに、本実施形態の不適切コンテンツ検出装置２００において、特徴量蓄積部２５２は、投稿毎に投稿されたコンテンツの特徴量を蓄積しておき、類似コンテンツ検出部２３４は、新たに投稿された新規コンテンツと複数の蓄積されたコンテンツの特徴量に基づいて、複数の蓄積されたコンテンツ毎に、新規コンテンツとの類似度を算出し、新規コンテンツとの類似度が閾値より高いコンテンツが存在した場合に、新規コンテンツおよび、新規コンテンツとの類似度が閾値より高いコンテンツのコンテンツ群を検出し、不正判定部２３６は、検出されたコンテンツ群を不適切なコンテンツと判定する。

詳細には、本実施形態の不適切コンテンツ検出装置２００は、上記実施形態の不適切コンテンツ検出装置１００と同じコンテンツ入力受付部１１０と、コンテンツ記憶部１２０と、不適切コンテンツ出力部１４０と、に加え、特徴量抽出部２３２と、類似コンテンツ検出部２３４と、不正判定部２３６と、特徴量蓄積部２５２と、蓄積特徴量選択部２５４と、を備えている。

特徴量抽出部２３２は、コンテンツ間の一致または類似度を効果的に算出するための特徴量をコンテンツから抽出する。抽出された特徴量は特徴量蓄積部２５２に蓄積される。特徴量抽出部２３２は、たとえば、コンテンツが映像情報の場合、映像中の各フレームで観測される色情報のヒストグラムを抽出するように動作してもよいし、音楽情報の場合、各時刻における周波数成分を抽出するように動作してもよい。

一例として、特徴量抽出部２３２は、上記実施形態で記載した特許文献２に記載された画像インデックス生成や、特許文献３に記載された、代表レイアウト特徴量抽出のような手順で特徴量の抽出を行う。特徴量抽出に関しては、画像や映像または音響情報などのコンテンツの相互の類似度または一致度が算出できれば、特許文献２や特許文献３に記載された特徴量でなくてもかまわない。

特徴量蓄積部２５２は、特徴量抽出部２３２にて抽出された特徴量を蓄積する。一例として、ハードディスクやフラッシュメモリなどの記憶装置があり、専用の蓄積装置であっても、他の蓄積装置との兼用であってもよい。

蓄積特徴量選択部２５４は、特徴量蓄積部２５２から類似度を算出すべき特徴量を選択する。一例として、予め定められたルールにて動作するプログラムを搭載したＣＰＵである。専用のＣＰＵであってもよいし、他のＣＰＵとの兼用であってもよい。一例として、蓄積特徴量選択部２５４は、特徴量蓄積部２５２に蓄積された特徴量のうち、予め定められた期間に投稿されたコンテンツの特徴量を、投稿記録の投稿日時に基づき選択する。このほか、投稿記録に記録されているコンテンツの投稿者や投稿者の国籍、投稿されたコンテンツのサイズなどに応じて、類似度評価するコンテンツを選択してもかまわない。

類似コンテンツ検出部２３４は、受け付けたコンテンツの特徴量または蓄積されたコンテンツの特徴量を相互に照合することで、相互の類似度を算出し、類似度に基づいて類似コンテンツを検出する。一例として、予め定められたルールにて動作するプログラムを搭載したＣＰＵである。専用のＣＰＵであってもよいし、他のＣＰＵとの兼用であってもよい。類似コンテンツグループ（コンテンツ群）検出に際しては、上記実施形態で述べたようにすべての特徴量対の類似度を総当り的にもとめる方法（図２のステップＳ１７〜Ｓ２５）を用いてもよいし、まず、第一に、新規に投稿された入力コンテンツの特徴量と、蓄積された特徴量との類似度の算出を行い、類似コンテンツが検出されたときのみ、相互に類似度算出を行うという方法を用いてもよい。

すなわち、本実施形態の不適切コンテンツ検出装置２００において、特徴量蓄積部２５２は、これまでに投稿されたコンテンツの特徴量を蓄積しておき、類似コンテンツ検出部２３４は、新たに投稿された新規コンテンツと複数の蓄積されたコンテンツの特徴量に基づいて、複数の蓄積されたコンテンツ毎に、新規コンテンツとの類似度を算出し、新規コンテンツとの類似度が閾値より高いコンテンツが存在した場合に、蓄積されたコンテンツに新規コンテンツを加えて、相互の類似度を算出し、所定数以上のコンテンツ間で相互に類似度が閾値より高いコンテンツ群を検出してもよい。
すなわち、新規コンテンツとの類似度が閾値より高いコンテンツが存在しない場合は、コンテンツ群の検出を行わなくてよい。

また、このとき、類似コンテンツ検出部２３４は、新規コンテンツと比較する蓄積されたコンテンツとして、所定期間に投稿されたコンテンツのみを用いてもよい。

不正判定部２３６は、類似コンテンツ検出部２３４にて検出された類似コンテンツ情報をもとにコンテンツの不正を判定する。本実施形態において、不正判定部２３６は、類似コンテンツ検出部２３４にて検出された類似コンテンツグループが予め定めた数以上であった場合、検出された類似コンテンツグループを不適切なコンテンツと判定する。一例として、不正判定部２３６は、予め定められたルールにて動作するプログラムを搭載したＣＰＵである。専用のＣＰＵであってもよいし、他のＣＰＵとの兼用であってもよい。

上記不適切コンテンツ検出装置２００の各種ユニット（コンテンツ入力受付部１１０〜不適切コンテンツ出力部１４０、特徴量抽出部２３２〜蓄積特徴量選択部２５４）を各種機能として実現させるためのコンピュータプログラムは、上述のＣＰＵが利用するメモリ（不図示）に記憶され、ＣＰＵにより実行される。

本実施形態のコンピュータプログラムは、上記実施形態のコンピュータプログラムの手順に加え、コンピュータに、所定の期間内に投稿されたコンテンツのうち、所定数以上の投稿されたコンテンツ間で相互に類似度が閾値より高いコンテンツを相互に類似するコンテンツ群として検出する手順をさらに実行させるように記述されている。

このように構成された本実施形態の不適切コンテンツ検出装置２００の動作について以下に説明する。図４は、本実施形態の不適切コンテンツ検出装置２００の動作の一例を示すフローチャートである。以下、図３および図４を用いて説明する。

なお、本実施形態の不適切コンテンツ検出装置２００の動作において、図２のフローチャートのステップＳ１１、Ｓ１３、およびＳ２９は同じであるので、説明は省略する。

特徴量抽出部２３２により、ステップＳ１１で入力された各コンテンツから類似度算出のための特徴量が抽出される（Ｓ３１）。抽出された特徴量は、特徴量蓄積部２５２に蓄積される。そして、蓄積特徴量選択部２５４により、予め特徴量蓄積部２５２に記憶された特徴量から相互類似度評価用に利用すべき参照コンテンツの特徴量が選択される（Ｓ３３）。たとえば、上述したように投稿記録に基づき、所定期間に投稿されたコンテンツの特徴量を選択する。

そして、類似コンテンツ検出部２３４により、ステップＳ３３で選択された特徴量に、新規に入力されたコンテンツの特徴量を加えた特徴量間で相互に類似度を算出して、類似コンテンツグループの検出を行う（Ｓ３５）。

ステップＳ３５にて検出された類似コンテンツグループが予め定めた数以上であった場合、不正判定部２３６により、検出された類似コンテンツグループが不正コンテンツと判定され（Ｓ３７）、不適切コンテンツ出力部１４０により不正と判定したコンテンツが出力される（Ｓ２９）。

以上説明したように、本実施形態の不適切コンテンツ検出装置２００によれば、特定期間内に数多く重複して投稿された、オリジナルコンテンツの存在する、コピーとおぼしき投稿を検出することができ、不適切なコンテンツをみつけるためのベースとなるサンプルコンテンツ（辞書データ）を用意することなく、著作権的に不適切なコンテンツを自動的に検出するという、発明の目的を達成することができる。

（第三の実施の形態）
図５は、本発明の実施の形態に係る不適切コンテンツ検出装置３００の構成を示す機能ブロック図である。本実施形態の不適切コンテンツ検出装置３００は、上記実施形態の不適切コンテンツ検出装置１００および不適切コンテンツ検出装置２００とは、検出された不適切なコンテンツを辞書として登録し、辞書との照合を行うことで不適切なコンテンツの検出を行う点、および不適切なコンテンツが検出された場合、管理者などにアラーム提示する点で相違する。

本実施形態の不適切コンテンツ検出装置３００は、不正判定部２３６で不適切と判定された不適切なコンテンツまたは該不適切なコンテンツの特徴量を不適切コンテンツ辞書データとして不適切コンテンツ特徴量蓄積部３１２に記憶する不適切コンテンツ特徴量登録部３１４と、新規に投稿されたコンテンツに対して、不適切コンテンツ辞書データと照合を行うことにより不適切なコンテンツの検出を行う類似コンテンツ検出部３３４と、をさらに備える。

詳細には、本実施形態の不適切コンテンツ検出装置３００は、上記実施形態の不適切コンテンツ検出装置１００と同じコンテンツ入力受付部１１０と、コンテンツ記憶部１２０と、不適切コンテンツ出力部１４０と、ならびに、上記実施形態の不適切コンテンツ検出装置２００と同じ特徴量抽出部２３２と、不正判定部２３６と、特徴量蓄積部２５２と、に加え、類似コンテンツ検出部３３４と、不適切コンテンツ特徴量蓄積部３１２と、不適切コンテンツ特徴量登録部３１４と、アラーム提示部３２０と、を備えている。

不適切コンテンツ特徴量蓄積部３１２は、既に不適切なコンテンツであると判定されたコンテンツの特徴量を蓄積する。一例として、ハードディスクやフラッシュメモリなどの記憶装置があり、専用の蓄積装置であっても、他の蓄積装置との兼用であってもよい。

不適切コンテンツ特徴量登録部３１４は、不適切なコンテンツであると判定されたコンテンツの特徴量を不適切コンテンツ特徴量蓄積部３１２に登録する。一例として予め定められたルールにて動作するプログラムを搭載したＣＰＵである。たとえば、不正コンテンツと判定されたコンテンツの特徴量を特徴量蓄積部２５２から、不適切コンテンツ特徴量蓄積部３１２に変更するという動作を行う。また、放送局などから提供された著作物コンテンツの特徴量を新たに登録するように動作してもよい。

類似コンテンツ検出部３３４は、入力されたコンテンツの特徴量または蓄積されたコンテンツの特徴量の相互の類似度を算出し、類似コンテンツを検出する。一例として、予め定められたルールにて動作するプログラムを搭載したＣＰＵである。専用のＣＰＵであってもよいし、他のＣＰＵとの兼用であってもよい。特徴量間の類似度の算出方法として、たとえば上記実施形態にて記述した特許文献３に記載された、代表レイアウト特徴量に基づく類似コンテンツ検出を用いる。コンテンツの一致に際しては、映像中の一部または全部のフレームの一致または類似や、静止画像の一部または全体の一致または類似、音響の一部または全体の一致または類似を検出できれば、特許文献３以外の方法で検出を行ってもよい。

アラーム提示部３２０は、不適切なコンテンツが検出された際にコンテンツ管理者などに対してアラームを提示する。一例として、アラーム用のテキストまたは映像を提示するためのモニタ、音響を出力するためのスピーカなどが上げられる。

上記不適切コンテンツ検出装置３００の各種ユニット（コンテンツ入力受付部１１０〜不適切コンテンツ出力部１４０、特徴量抽出部２３２〜特徴量蓄積部２５２、不適切コンテンツ特徴量蓄積部３１２〜類似コンテンツ検出部３３４）を各種機能として実現させるためのコンピュータプログラムは、上述のＣＰＵが利用するメモリ（不図示）に記憶され、ＣＰＵにより実行される。

本実施形態のコンピュータプログラムは、上記実施形態のコンピュータプログラムの手順に加え、コンピュータに、不適切なコンテンツを判定する手順で不適切と判定された不適切なコンテンツまたは該不適切なコンテンツの特徴量を不適切コンテンツ辞書データとして不適切コンテンツ特徴量蓄積部３１２に記憶する手順、新規に投稿されたコンテンツに対して、不適切コンテンツ辞書データと照合を行うことにより不適切なコンテンツの検出を行う手順、をさらに実行させるように記述されている。

このように構成された本実施形態の不適切コンテンツ検出装置３００の動作について、以下に説明する。図６は、本実施形態の不適切コンテンツ検出装置３００の動作の一例を示すフローチャートである。以下、図５および図６を用いて説明する。

なお、本実施形態の不適切コンテンツ検出装置３００の動作において、図２のフローチャートのステップＳ１１およびＳ１３は同じであるので、説明は省略する。

特徴量抽出部２３２により、ステップＳ１１で入力された各コンテンツから類似度算出のための特徴量が抽出される（Ｓ４１）。抽出された特徴量は、特徴量蓄積部２５２に蓄積される。そして、類似コンテンツ検出部３３４により、入力コンテンツの特徴量と、不適切コンテンツ特徴量蓄積部３１２に蓄積された各コンテンツの特徴量との間の類似度が算出される（Ｓ４３）。

ステップＳ４３にて算出された類似度が予め定めた閾値以上であった場合（Ｓ４５のＹｅｓ）、不正判定部２３６により、類似度が閾値以上の特徴量の入力コンテンツが不適切なコンテンツと判定され（Ｓ５１）、不適切コンテンツ出力部１４０により不正と判定したコンテンツが出力される（Ｓ５３）。そして、アラーム提示部３２０が、情報管理者に不適切コンテンツ検出のアラームをあげる（Ｓ５５）。そして、不適切コンテンツ特徴量登録部３１４により、新たに不適切コンテンツと判定されたコンテンツの特徴量が不適切コンテンツ特徴量蓄積部３１２に登録される（Ｓ５７）。

ステップＳ４３にて算出されたコンテンツが、不適切コンテンツ特徴量蓄積部３１２に蓄積されたすべてのコンテンツに対して予め定めた閾値未満であった場合（Ｓ４５のＮｏ）は、類似コンテンツ検出部３３４により、入力されたコンテンツの特徴量ならびに、特徴量蓄積部２５２に蓄積された特徴量で特徴量対が選択され（Ｓ６１）、選択された特徴量間の類似度が算出される（Ｓ６３）。そして、類似コンテンツ検出部３３４により、類似度が予め定めた閾値以上か否かが判定される（Ｓ６５）。類似度が予め定めた閾値以上であった場合（Ｓ６５のＹｅｓ）に、類似コンテンツ検出部３３４により類似特徴量対として検出され、類似情報として一時記憶部に記憶する（Ｓ６７）。これを入力コンテンツからの特徴量と、特徴量蓄積部２５２に蓄積された特徴量をあわせたすべての特徴量の組合せに対して行い（Ｓ６９）、それぞれ相互に類似するコンテンツの特徴量を抽出する。

そして、すべての組み合わせについて類似判定が終了したとき（Ｓ６９のＹｅｓ）、不正判定部２３６により、特徴量の間の類似情報から不正判定が行われる（Ｓ７１）。一例として、特定の相互に類似するコンテンツの特徴量が、入力コンテンツの特徴量が加わることにより、予め定められた件数以上検出された場合、入力コンテンツならびに、入力コンテンツと相互に類似する特徴量蓄積部２５２に蓄積された特徴量に対応するコンテンツ記憶部１２０に蓄積されたコンテンツを不正と判定する。一例として、予め定められた件数が２件の場合、ステップＳ６５にて新たに検出された入力コンテンツを含むコンテンツはすべて、不適切コンテンツと判定される。予め定められた件数がＮ件の場合、ステップＳ６５で検出されたコンテンツの特徴量対の接続関係に基づき、Ｎ件以上の相互接続を検出して検出された特徴量に対応するコンテンツが不適切コンテンツと判定される。

そして、不適切コンテンツ出力部１４０により、不正と判定されたコンテンツの出力が行われる（Ｓ７３）。さらに、アラーム提示部３２０が、情報管理者に不適切コンテンツ検出のアラームをあげる（Ｓ７５）。そして、不適切コンテンツ特徴量登録部３１４により、新たに不適切コンテンツと判定されたコンテンツの特徴量が、特徴量蓄積部２５２から消去され、入力コンテンツの特徴量ならびに新たに不適切コンテンツと判定したコンテンツの特徴量が不適切コンテンツ特徴量蓄積部３１２に登録される（Ｓ７７）。

なお、不適切コンテンツ検出装置３００において、所定期間または所定の利用者または所定のコンテンツに対する相互の類似度の算出により不適切コンテンツ辞書データを生成する生成部（類似コンテンツ検出部３３４、不正判定部２３６）をさらに備えてもよい。これにより、所定期間または所定の利用者など、特定のグループ毎に辞書データを生成することができる。
また、この生成部は、相互の類似度の算出による不適切コンテンツ検出を定期的に行い、不適切コンテンツ辞書データの生成または更新を行ってもよい。

また、特徴量蓄積部２５２に蓄積する特徴量を、特定期間において投稿されたコンテンツの特徴量に制限するようにすることにより、特定期間内に投稿されたコンテンツの相互類似度を算出するようにすることもできる。また、不適切コンテンツ特徴量蓄積部３１２に、既に不適切コンテンツとして検出対象である、著作権保護コンテンツの特徴量を合わせて登録してもよい。

また、不適切コンテンツ特徴量登録部３１４は、特徴量蓄積部２５２からの消去や不適切コンテンツ特徴量蓄積部３１２への登録を自動的に行う代わりに、コンテンツ管理者等が確認をしてから登録を行うように変更してもよい。

すなわち、上記不適切コンテンツ検出装置３００において、不適切コンテンツ特徴量登録部３１４によって生成された不適切コンテンツ辞書データを情報管理者に提示し、該情報管理者が不適切コンテンツ辞書データを確認し、保持する不適切コンテンツ辞書データの指示を受け付け、指示された不適切コンテンツ辞書データのみを不適切コンテンツ特徴量蓄積部３１２に記憶してもよい。

相互類似性を判定する類似度の閾値や類似コンテンツは判定する場合の件数、または使用する特徴量をジャンルや時期、投稿者などの状況に応じて適応的に変更したり、情報管理者が手動で調整したりできるような機構があってもかまわない。

また、不適切コンテンツ検出装置３００は、所定の利用者または所定のコンテンツを予め登録する登録部（不図示）を備えてもよい。このとき、不正判定部２３６は、所定の利用者により投稿されたコンテンツまたは所定のコンテンツは不適切なコンテンツと判定しなくてもよい。

以上説明したように、本実施形態の不適切コンテンツ検出装置３００によれば、所定の期間内に投稿されたコンテンツ内で、類似度の高いコンテンツが所定数以上検出されたときにそれらのコンテンツ群を不適切コンテンツとするので、特定期間内に数多く重複して投稿された、オリジナルコンテンツの存在する、コピーとおぼしき投稿を検出することができ、不適切なコンテンツをみつけるためのベースとなるサンプルコンテンツ（辞書データ）を用意することなく、著作権的に不適切なコンテンツを自動的に効率よく検出するという、発明の目的を達成することができる。

権利侵害をしている不適切コンテンツでは、テレビ録画、雑誌、ＣＤ、ＤＶＤなどのオリジナルコンテンツが存在し、オリジナルコンテンツを一部またはそのまま投稿したり、他者が投稿したコンテンツをダウンロードしてそのまま転用したり、短期間に連続的に投稿されるという特性をもつため短期間での重複が多い。本実施形態によれば、予め定めた特定期間に投稿されたコンテンツ間で類似度評価を行い、投稿された動画、静止画、音響の一致または重複を検知し、予め定めた数以上の重複の多いコンテンツを著作権的に不適切なコンテンツとして検出することにより、不適切コンテンツのサンプルを予め用意することなく、不適切なコンテンツを検出できるようになり、本発明の目的を達成することができる。

なお、本実施形態では、不適切コンテンツ特徴量蓄積部３１２に不適切なコンテンツの特徴量のみを蓄積し、辞書データとして準備するので、辞書データとして不正コンテンツのサンプルを用意する場合に比べて、その容量は非常に小さくて済む。

さらに、本実施形態の不適切コンテンツ検出装置３００によれば、不適切なコンテンツが検出されたとき、アラームをあげることで情報管理者の確認を促すことができ、これにより不適切なコンテンツが公開されることを防ぐことができる。

（第四の実施の形態）
図７は、本発明の実施の形態に係る確認サーバ４００の構成を示す機能ブロック図である。
本実施形態の確認サーバ４００は、通信部４１０と、アラーム提示部４２０と、管理者確認および登録部４３０と、蓄積部４４０と、制御部４５０と、を備えている。

通信部４１０は、ネットワーク４０２を通じて端末（不図示）や他の管理装置（不図示）とコンテンツや伝達情報のやり取りを行う。通信部４１０は、一例として、ネットワーク４０２を介した通信を行う専用ボードなどがあげられる。

アラーム提示部４２０は、コンテンツ管理者に不適切コンテンツ検出のアラーム情報を提示する。アラーム提示部４２０は、一例として、アラーム用のテキストまたは映像を提示するためのモニタ、音情報を出力するためのスピーカなどがあげられる。あるいは、アラーム情報をリストアップしたリストを作成し、印字出力するプリンタなどでもよい。

管理者確認および登録部４３０は、管理者が、不適切コンテンツ検出結果を確認したり、不適切コンテンツを新たに登録するためのものである。管理者確認および登録部４３０は、一例として結果を表示するモニタとキーボード、タッチパネルなどの入力機器の組合せがあげられる。あるいは、不適切コンテンツ検出結果をリストアップしたリストを作成し、印字出力するプリンタなどでもよい。

蓄積部４４０は、コンテンツや抽出した特徴量、不適切コンテンツの特徴量などを蓄積する。蓄積部４４０は、一例として、ハードディスクやフラッシュメモリなどの記憶装置があり、専用の蓄積装置であっても、他の蓄積装置との兼用であってもかまわない。

制御部４５０は、確認サーバ４００の各要素および装置全体を制御するとともに、コンテンツ特徴量の抽出や照合など、不適切コンテンツの抽出を行う。制御部４５０は、一例として、プログラムを搭載したＣＰＵである。

上記通信部４１０、アラーム提示部４２０、管理者確認および登録部４３０、蓄積部４４０、制御部４５０をあわせて、通信機能、蓄積機能、モニタ機能、入力機能を備えたコンピュータにて構築可能である。

制御部４５０は、通信部４１０からコンテンツをうけとり入力するコンテンツ入力受付部４５２と、不適切コンテンツ検出結果を出力する不適切コンテンツ出力部４５４と、不適切コンテンツであると判定されたコンテンツの特徴量を不適切コンテンツ特徴量蓄積部４４４に登録する不適切コンテンツ特徴量登録部４５６と、蓄積部４４０に格納されているコンテンツ、特徴量、不適切コンテンツ特徴量を管理する蓄積管理部４６０と、コンテンツの特徴量をコンテンツから抽出する特徴量抽出部４６２と、特徴量間の類似度算出により類似コンテンツを抽出する類似コンテンツ検出部４６４と、類似コンテンツ検出部４６４の検出結果を基に不適切なコンテンツを判定する不正判定部４６６を含む。

蓄積部４４０は、入力されたコンテンツを蓄積するコンテンツ記憶部４４２と、抽出されたコンテンツ特徴量を蓄積する特徴量蓄積部４４４と、不適切コンテンツと判定されたコンテンツの特徴量を蓄積する不適切コンテンツ特徴量蓄積部４４６と、を含む。

このように構成された本実施形態の確認サーバ４００の動作については、上記実施形態の不適切コンテンツ検出装置３００と同様であるので説明は省略する。

本実施形態の確認サーバ４００によれば、上記実施形態の不適切コンテンツ検出装置３００と同様な効果を奏する。

（第五の実施の形態）
図８は、本発明の実施の形態に係るコンテンツ公開システム５００の構成を示す図である。
本実施形態のコンテンツ公開システム５００は、映像公開サービスを提供するシステムであり、ネットワーク５０２と、ネットワーク５０２上に接続された複数の端末装置５１０と、不適切なコンテンツの検出および確認を行う確認サーバ５２０と、利用者により投稿された公開データを記憶する公開データ記憶部５３０と、公開データを公開するための公開サーバ５４０と、確認サーバ５２０が不適切なコンテンツを検出した際に、公開データ記憶部５３０から公開データを削除する公開データ削除部５５０と、を備える。

端末装置５１０は、ネットワーク５０２へのアクセス機能を有する端末装置であり、汎用のコンピュータで実現可能である。
ネットワーク５０２は、データの送受信が可能なインターネット等の通信網である。

確認サーバ５２０は、ネットワーク５０２を解して端末装置５１０から送信された投稿データを受け付けて、公開データ記憶部５３０に格納する機能を有するとともに、公開データ記憶部５３０に記憶された投稿データのうちで、不適切なものを検出して、削除する機能を有するサーバコンピュータである。確認サーバ５２０は、図７の上記実施形態で述べた確認サーバ４００により実現可能である。不適切コンテンツ出力部５２２は、図７における確認サーバ４００の不適切コンテンツ出力部４５４と同様な構成により実現可能である。

公開サーバ５４０は、公開データ記憶部５３０に記憶されているデータを、ネットワーク５０２を通じて公開する機能を有するサーバコンピュータであり、通常のＷＷＷサーバとしての機能を有するコンピュータにより実現可能である。

公開データ削除部５５０は、確認サーバ５２０の検出結果を受けて、公開データ記憶部５３０中の公開データを削除する。一例として、予め定められたルールにて動作するプログラムを搭載したＣＰＵである。専用のＣＰＵであってもよいし、他のＣＰＵとの兼用であってもよい。

以上説明したように本実施形態のコンテンツ公開システム５００によれば、不適切コンテンツが検出された際に、公開データを削除する機構が実現できるため、ネットワーク５０２を介してアクセスしてきた閲覧者は、不適切なデータが削除された公開データ記憶部５３０に格納されたデータのみ入手可能になるので、不適切なデータが一般に公開されることはない。したがって、本実施形態のコンテンツ公開システム５００によれば、特定期間内に数多く重複して投稿された、オリジナルコンテンツの存在する、コピーとおぼしき投稿を検出することができ、不適切なコンテンツをみつけるためのベースとなるサンプルコンテンツ（辞書データ）を用意することなく、著作権的に不適切なコンテンツを自動的に検出するという、発明の目的を達成することができる。

また、本実施形態のコンテンツ公開システム５００によれば、不適切なコンテンツが検出されたとき、アップロードされたコンテンツを削除することにより、不適切なコンテンツが公開されることを防ぐことができる。

以上、図面を参照して本発明の実施形態について述べたが、これらは本発明の例示であり、上記以外の様々な構成を採用することもできる。

たとえば、上記実施形態のコンテンツ公開システム５００は、投稿されたコンテンツを利用者が閲覧できるように公開するコンテンツ公開システムであって、上記実施形態の不適切コンテンツ検出装置（１００〜３００）によって検出された不適切なコンテンツをシステム管理者に提示する提示部（不図示）と、システム管理者が確認した後、システム管理者から削除指示を受け付ける受付部（不図示）と、削除指示に従い、不適切なコンテンツの削除を行う削除部（不図示）と、を有してもよい。

また、上記実施形態のコンテンツ公開システム５００は、投稿されたコンテンツを利用者が閲覧できるように公開するコンテンツ公開システムであって、上記実施形態の不適切コンテンツ検出装置（１００〜３００）によって相互に類似していると判定されたコンテンツ数が、所定数より多いか否かを判定する判定部（不図示）と、相互に類似していると判定されたコンテンツ数が所定数より多い場合に、当該コンテンツへの利用者のアクセスを自動的に停止する制御部（不図示）と、を有することもできる。

次に、具体的な実施例を用いて本発明を実施するための最良の形態の動作の例を説明する。
図９は、本発明の不適切コンテンツ検出装置の利用のおおまかなイメージを模式的に示した図である。図９において、放送局６１０は、番組１の放送を行う。ユーザＡ、Ｂ、Ｃ、Ｄ、Ｅはそれぞれテレビ放送を端末装置６２０で受信して、番組１を視聴する（ステップＳ１０１、Ｓ１１１、Ｓ１２１、Ｓ１３１、Ｓ１４１）。ユーザＡ、Ｂ、Ｅは番組を録画して、一部を切り出し、動画Ｖ１、Ｖ２、Ｖ５をそれぞれ投稿サイトにアップロードしたとする（ステップＳ１０３、Ｓ１１３、Ｓ１４３）。ユーザＣ、Ｄは利用者所有のハンディカム等で撮影した独自コンテンツ（動画Ｖ３、Ｖ４）をそれぞれ投稿サイトに投稿したとする（ステップＳ１２３、Ｓ１３３）。投稿された動画はそれぞれネットワーク６０２を介して確認サーバ６３０が受け付ける。確認サーバ６３０で投稿された動画はそれぞれ不正判定が行われ、適切なコンテンツのみが公開サーバ６４０にて公開されることとなる。

図９で、動画Ｖ１、動画Ｖ２、動画Ｖ５は同一のオリジナルコンテンツの一部を切り出したものであり、その中で同一フレームを含む場合、類似映像として検知可能である。一方、動画Ｖ３および動画Ｖ４はまったくの独自コンテンツであるため、他のどの動画とも類似しない（図中、動画Ｖ３と他の動画との非類似関係を点線の矢印で示し、動画Ｖ４の非類似関係については図示していない。）。この結果、図１０のようになり、相互類似が確認された、動画Ｖ１、Ｖ２、Ｖ５（図中、実線の矢印で類似関係を示す。）は、不正コンテンツ候補として判定される。

図１１は代表的な類似のパタンをいくつか示している。
図１１ではオリジナル動画Ｖｏの特定の部分を切り出している。図１１中横軸は、時間軸を示しており、動画Ｖａ、Ｖｂ、Ｖｃ、Ｖｄはオリジナルコンテンツの部分フレームを切り出した形（クリップ）になっている。

たとえば、動画ＶａのＶａ１と動画ＶｂのＶｂ１は同一フレームを含み、動画ＶｂのＶｂ２と動画ＶｃのＶｃ１は同一フレームを含み、動画ＶｃのＶｃ２と動画ＶｄのＶｄ１は同一フレームを含む。このように同一フレームを含むため、動画ＶａとＶｂ、ＶｂとＶｃ、ＶｃとＶｄは相互に類似しているといえる。動画ＶａとＶｄは同一フレームが含まれておらず相互に類似しているとはいえないが、動画Ｖａ、Ｖｂ、Ｖｃ、Ｖｄの相互の接続関係から、動画ＶａとＶｂとＶｃとＶｄで相互に類似していると判定可能である。

図１２は静止画の場合の例である。たとえば、オリジナル書籍７０２などをスキャナ等で取り込んだ後に投稿した場合（ステップＳ２０２）、図１２のように多少は異なるが相互に類似したコンテンツ（画像７１０、７２０、７３０）が多数投稿される。なお、一致する画像もかなり含まれる。たとえば、画像７１０はオリジナル書籍７０２の画像７１２が傾いて含まれている。また、画像７２０はオリジナル書籍７０２の画像７２２の周囲にのりしろ７２４が含まれている。さらに、画像７３０は、オリジナル書籍７０２の画像の一部が切り取られた画像７３２が含まれている。

これらのような画像も、特許文献２、特許文献３を初めとする各類似度照合エンジンにより、相互の類似コンテンツとして検出することは可能であるため、このような不正コンテンツを削除することが可能になる。音楽データほかでも同様である。

この出願は、２００７年１０月１９日に出願された日本出願特願２００７−２７２９６８号を基礎とする優先権を主張し、その開示の全てをここに取り込む。

以上、実施形態および実施例を参照して本願発明を説明したが、本願発明は上記実施形態および実施例に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。

【０００３】
［０００９］
本発明の第１の不適切コンテンツ検出方法は、個々の利用者から投稿されたコンテンツを受け付け、
受け付けた複数の前記投稿されたコンテンツを用いて、複数の前記投稿されたコンテンツの相互の類似度を算出し、
前記相互の類似度に基づき、前記投稿されたコンテンツが著作権的に適切であるか否かの判定を行う。
［００１０］
本発明の第２の不適切コンテンツ検出方法は、個々の利用者から投稿されたコンテンツを受け付け、
受け付けた複数の前記投稿されたコンテンツを用いて、複数の前記投稿されたコンテンツ間で算出された相互の類似度に基づき、複数の前記投稿されたコンテンツが相互に類似しているか否かを判定し、類似していた場合に、相互に類似しているコンテンツ群を著作権的に不適切なコンテンツとして検出する。
［００１１］
本発明の不適切コンテンツ検出装置は、個々の利用者から投稿されたコンテンツの入力を受け付けるコンテンツ受付手段と、
受け付けた複数の前記投稿されたコンテンツを用いて、複数の前記投稿されたコンテンツの相互の類似度を算出し、前記類似度に基づき、相互に類似するコンテンツ群を検出する類似コンテンツ検出手段と、
検出された前記類似するコンテンツ群に基づき、著作権的に不適切なコンテンツを判定する不正判定手段と、を備える。
［００１２］
本発明のコンピュータプログラムは、コンピュータに、個々の利用者から投稿されたコンテンツから著作権的に不適切なコンテンツを検出する不適切コンテンツ検出装置を実現させるためのコンピュータプログラムであって、
前記コンピュータに、
個々の利用者から投稿されたコンテンツの入力を受け付ける手順と、
受け付けた複数の前記投稿されたコンテンツを用いて、複数の前記投稿されたコンテンツの相互の類似度を算出し、前記類似度に基づき、相互に類似するコンテンツ群を検出する手順、
検出された前記類似するコンテンツ群に基づき、著作権的に不適切なコンテンツを判定する手順、を実行させる。
［００１３］
本発明の第１のコンテンツ公開システムは、投稿されたコンテンツを利用者が閲覧できるように公開するコンテンツ公開システムであって、
上記不適切コンテンツ検出装置によって検出された前記不適切なコンテンツをシステム管理者に提示する提示手段と、

Claims (38)

1. 複数の投稿されたコンテンツの相互の類似度を算出し、
   前記相互の類似度に基づき、前記投稿されたコンテンツが著作権的に適切であるか否かの判定を行う不適切コンテンツ検出方法。
2. 投稿された複数のコンテンツの相互の類似度に基づき、複数の投稿されたコンテンツが相互に類似しているか否かを判定し、類似していた場合に、相互に類似しているコンテンツ群を著作権的に不適切なコンテンツとして検出する不適切コンテンツ検出方法。
3. 請求の範囲第１項または第２項に記載の不適切コンテンツ検出方法において、
   所定の期間内に投稿されたコンテンツのうち、所定数以上の前記投稿されたコンテンツ間で相互に前記類似度が閾値より高いと判定されたコンテンツ群を、前記不適切なコンテンツとして検出する不適切コンテンツ検出方法。
4. 請求の範囲第１項乃至第３項いずれかに記載の不適切コンテンツ検出方法において、
   複数の前記投稿されたコンテンツから、所定の基準でコンテンツを選択した後に、前記選択されたコンテンツ間で相互に類似度を算出し、所定数以上のコンテンツ間で、相互に類似度が閾値より高いと判定されたコンテンツ群を、前記不適切なコンテンツとして検出する不適切コンテンツ検出方法。
5. 請求の範囲第１項乃至第４項いずれかに記載の不適切コンテンツ検出方法において、
   前記投稿されたコンテンツから特徴量を抽出し、
   前記投稿されたコンテンツの前記特徴量を、相互に照合することでコンテンツ相互の類似度を算出する不適切コンテンツ検出方法。
6. 請求の範囲第１項乃至第５項いずれかに記載の不適切コンテンツ検出方法において、
   前記投稿されたコンテンツが映像であった際に、映像に含まれる一部または全部のフレーム群が相互に類似しているときに、コンテンツ間の類似度が閾値より高いとする不適切コンテンツ検出方法。
7. 請求の範囲第１項乃至第６項いずれかに記載の不適切コンテンツ検出方法において、
   前記投稿されたコンテンツが静止画像であった際に、静止画像の一部または全体が類似しているときに、コンテンツ間の類似度が閾値より高いとする不適切コンテンツ検出方法。
8. 請求の範囲第１項乃至第７項いずれかに記載の不適切コンテンツ検出方法において、
   前記投稿されたコンテンツが音響または音楽を含む際に、音響または音楽の一部または全体のフレーズが類似しているときに、コンテンツ間の類似度が閾値より高いとする不適切コンテンツ検出方法。
9. 請求の範囲第１項乃至第８項いずれかに記載の不適切コンテンツ検出方法において、
   投稿毎に前記投稿されたコンテンツの特徴量を抽出して蓄積しておき、新たに投稿された新規コンテンツと複数の前記蓄積されたコンテンツの前記特徴量に基づいて、複数の前記蓄積されたコンテンツ毎に、前記新規コンテンツとの類似度を算出し、前記新規コンテンツとの前記類似度が閾値より高いコンテンツが存在した場合に、前記新規コンテンツおよび、前記新規コンテンツとの前記類似度が閾値より高いと判定されたコンテンツのコンテンツ群を前記不適切なコンテンツと判定する不適切コンテンツ検出方法。
10. 請求の範囲第１項乃至第８項いずれかに記載の不適切コンテンツ検出方法において、
    これまでに投稿されたコンテンツの特徴量を抽出して蓄積しておき、新たに投稿された新規コンテンツと複数の前記蓄積されたコンテンツの前記特徴量に基づいて、複数の前記蓄積されたコンテンツ毎に、前記新規コンテンツとの類似度を算出し、前記新規コンテンツとの前記類似度が閾値より高いコンテンツが存在した場合に、前記蓄積されたコンテンツに前記新規コンテンツを加えて、相互の前記類似度を算出し、所定数以上のコンテンツ間で相互に前記類似度が閾値より高いと判定されたコンテンツ群を、前記不適切なコンテンツとして検出する不適切コンテンツ検出方法。
11. 請求の範囲第１０項に記載の不適切コンテンツ検出方法において、
    前記新規コンテンツと比較する前記蓄積されたコンテンツとして、所定期間に投稿されたコンテンツのみを用いる不適切コンテンツ検出方法。
12. 請求の範囲第１項乃至第１１項いずれかに記載の不適切コンテンツ検出方法において、
    前記不適切と判定された投稿コンテンツまたは該コンテンツの特徴量を不適切コンテンツ辞書データとして記憶し、新規に投稿されたコンテンツに対して、前記記憶された不適切コンテンツ辞書データと照合を行うことにより前記不適切なコンテンツの検出を行う不適切コンテンツ検出方法。
13. 請求の範囲第１２項に記載の不適切コンテンツ検出方法において、
    所定期間または利用者またはコンテンツに対する相互の類似度の算出により前記不適切コンテンツ辞書データを生成する不適切コンテンツ検出方法。
14. 請求の範囲第１２項または第１３項に記載の不適切コンテンツ検出方法において、
    前記相互の類似度算出による不適切コンテンツ検出を定期的に行い前記不適切コンテンツ辞書データの生成または更新を行う不適切コンテンツ検出方法。
15. 請求の範囲第１２項乃至第１４項いずれかに記載の不適切コンテンツ検出方法において、
    前記不適切コンテンツ辞書データを情報管理者が確認し、前記情報管理者が指示した不適切コンテンツのみを保持するよう修正する不適切コンテンツ検出方法。
16. 請求の範囲第１項乃至第１５項いずれかに記載の不適切コンテンツ検出方法において、
    所定の利用者または所定のコンテンツを予め登録しておき、前記所定の利用者により投稿されたコンテンツまたは前記所定のコンテンツは前記不適切コンテンツとして検出しない不適切コンテンツ検出方法。
17. 投稿されたコンテンツの入力を受け付けるコンテンツ受付手段と、
    複数の前記投稿されたコンテンツの相互の類似度を算出し、前記類似度に基づき、相互に類似するコンテンツ群を検出する類似コンテンツ検出手段と、
    検出された前記類似するコンテンツ群に基づき、著作権的に不適切なコンテンツを判定する不正判定手段と、を備える不適切コンテンツ検出装置。
18. 請求の範囲第１７項に記載の不適切コンテンツ検出装置において、
    前記類似コンテンツ検出手段は、所定の期間内に投稿されたコンテンツのうち、所定数以上の前記投稿されたコンテンツ間で相互に前記類似度が閾値より高いコンテンツを前記相互に類似するコンテンツ群として検出し、
    前記不正判定手段は、検出された前記類似するコンテンツ群を前記不適切なコンテンツと判定する不適切コンテンツ検出装置。
19. 請求の範囲第１７項または第１８項に記載の不適切コンテンツ検出装置において、
    前記類似コンテンツ検出手段は、複数の前記投稿されたコンテンツから、所定の基準でコンテンツを選択した後に、前記選択されたコンテンツ間で相互に類似度を算出し、所定数以上のコンテンツ間で、相互に類似度が閾値より高いコンテンツ群を検出し、
    前記不正判定手段は、検出された前記コンテンツ群を、前記不適切なコンテンツと判定する不適切コンテンツ検出装置。
20. 請求の範囲第１７項乃至第１９項いずれかに記載の不適切コンテンツ検出装置において、
    前記投稿されたコンテンツからその特徴量を抽出する特徴量抽出手段を備え、
    前記類似コンテンツ検出手段は、複数の前記投稿されたコンテンツの前記特徴量を相互に照合して、前記特徴量の相互の類似度を算出し、前記類似度に基づいて、相互に類似するコンテンツ群を検出する不適切コンテンツ検出装置。
21. 請求の範囲第２０項に記載の不適切コンテンツ検出装置において、
    前記特徴量抽出手段によって抽出された前記特徴量を記憶する特徴量蓄積手段と、
    前記特徴量記憶手段から、所定の基準で選択されたコンテンツの特徴量を取得する蓄積特徴量選択手段と、を備え、
    前記類似コンテンツ検出手段は、前記蓄積特徴量選択手段によって選択されたコンテンツの前記特徴量の相互の類似度を算出し、相互に類似するコンテンツを検出する不適切コンテンツ検出装置。
22. 請求の範囲第１７項乃至第２１項いずれかに記載の不適切コンテンツ検出装置において、
    前記類似コンテンツ検出手段は、前記投稿されたコンテンツが映像であった際に、映像に含まれる一部または全部のフレーム群が相互に類似しているときに、コンテンツ間の類似度が閾値より高いとする不適切コンテンツ検出装置。
23. 請求の範囲第１７項乃至第２２項いずれかに記載の不適切コンテンツ検出装置において、
    前記類似コンテンツ検出手段は、前記投稿されたコンテンツが静止画像であった際に、静止画像の一部または全体が類似しているときに、コンテンツ間の類似度が閾値より高いとする不適切コンテンツ検出装置。
24. 請求の範囲第１７項乃至第２３項いずれかに記載の不適切コンテンツ検出装置において、
    前記類似コンテンツ検出手段は、前記投稿されたコンテンツが音響または音楽を含む際に、音響または音楽の一部または全体のフレーズが類似しているときに、コンテンツ間の類似度が閾値より高いとする不適切コンテンツ検出装置。
25. 請求の範囲第２１項に記載の不適切コンテンツ検出装置において、
    前記特徴量蓄積手段は、投稿毎に前記投稿されたコンテンツの前記特徴量を蓄積しておき、
    前記類似コンテンツ検出手段は、新たに投稿された新規コンテンツと複数の前記蓄積されたコンテンツの前記特徴量に基づいて、複数の前記蓄積されたコンテンツ毎に、前記新規コンテンツとの類似度を算出し、前記新規コンテンツとの前記類似度が閾値より高いコンテンツが存在した場合に、前記新規コンテンツおよび、前記新規コンテンツとの前記類似度が閾値より高いコンテンツのコンテンツ群を検出し、
    前記不正判定手段は、検出された前記コンテンツ群を前記不適切なコンテンツと判定する不適切コンテンツ検出装置。
26. 請求の範囲第２１項に記載の不適切コンテンツ検出装置において、
    前記特徴量蓄積手段は、これまでに投稿されたコンテンツの前記特徴量を蓄積しておき、
    前記類似コンテンツ検出手段は、新たに投稿された新規コンテンツと複数の前記蓄積されたコンテンツの前記特徴量に基づいて、複数の前記蓄積されたコンテンツ毎に、前記新規コンテンツとの類似度を算出し、前記新規コンテンツとの前記類似度が閾値より高いコンテンツが存在した場合に、前記蓄積されたコンテンツに前記新規コンテンツを加えて、相互の前記類似度を算出し、所定数以上のコンテンツ間で相互に前記類似度が閾値より高いコンテンツ群を検出し、
    前記不正判定手段は、検出された前記コンテンツ群を前記不適切なコンテンツと判定する不適切コンテンツ検出装置。
27. 請求の範囲第２６項に記載の不適切コンテンツ検出装置において、
    前記類似コンテンツ検出手段は、前記新規コンテンツと比較する前記蓄積されたコンテンツとして、所定期間に投稿されたコンテンツのみを用いる不適切コンテンツ検出装置。
28. 請求の範囲第１７項乃至第２７項いずれかに記載の不適切コンテンツ検出装置において、
    前記不正判定手段で不適切と判定された前記不適切なコンテンツまたは該不適切なコンテンツの特徴量を不適切コンテンツ辞書データとして記憶する辞書記憶手段と、
    新規に投稿されたコンテンツに対して、前記不適切コンテンツ辞書データと照合を行うことにより前記不適切なコンテンツの検出を行う不適切コンテンツ検出手段と、をさらに備える不適切コンテンツ検出装置。
29. 請求の範囲第２８項に記載の不適切コンテンツ検出装置において、
    所定期間または所定の利用者または所定のコンテンツに対する相互の類似度の算出により前記不適切コンテンツ辞書データを生成する生成手段をさらに備える不適切コンテンツ検出装置。
30. 請求の範囲第２８項または第２９項に記載の不適切コンテンツ検出装置において、
    前記生成手段は、前記相互の類似度の算出による不適切コンテンツ検出を定期的に行い、前記不適切コンテンツ辞書データの生成または更新を行う不適切コンテンツ検出装置。
31. 請求の範囲第２８項乃至第３０項いずれかに記載の不適切コンテンツ検出装置において、
    前記不適切コンテンツ辞書データを情報管理者に提示し、該情報管理者が前記不適切コンテンツ辞書データを確認し、保持する不適切コンテンツ辞書データの指示を受け付け、指示された不適切コンテンツ辞書データのみを前記辞書データ記憶手段に記憶する不適切コンテンツ検出装置。
32. 請求の範囲第１７項乃至第３１項いずれかに記載の不適切コンテンツ検出装置において、
    所定の利用者または所定のコンテンツを予め登録する登録手段を備え、
    前記不正判定手段は、前記所定の利用者により投稿されたコンテンツまたは前記所定のコンテンツは前記不適切なコンテンツと判定しない不適切コンテンツ検出装置。
33. コンピュータに、投稿されたコンテンツから著作権的に不適切なコンテンツを検出する不適切コンテンツ検出装置を実現させるためのコンピュータプログラムであって、
    前記コンピュータに、
    投稿されたコンテンツの入力を受け付ける手順と、
    複数の前記投稿されたコンテンツの相互の類似度を算出し、前記類似度に基づき、相互に類似するコンテンツ群を検出する手順、
    検出された前記類似するコンテンツ群に基づき、著作権的に不適切なコンテンツを判定する手順、を実行させるためのコンピュータプログラム。
34. 請求の範囲第３３項に記載のコンピュータプログラムにおいて、
    前記コンピュータに、
    所定の期間内に投稿されたコンテンツのうち、所定数以上の前記投稿されたコンテンツ間で相互に前記類似度が閾値より高いコンテンツを前記相互に類似するコンテンツ群として検出する手順をさらに実行させるためのコンピュータプログラム。
35. 請求の範囲第３３項または第３４項に記載のコンピュータプログラムにおいて、
    前記コンピュータに、
    前記投稿されたコンテンツからその特徴量を抽出する手順、
    複数の前記投稿されたコンテンツの前記特徴量を相互に照合して、前記特徴量の相互の類似度を算出する手順、
    算出された前記類似度に基づいて、前記相互に類似するコンテンツ群を検出する手順、をさらに実行させるためのコンピュータプログラム。
36. 請求の範囲第３３項乃至第３５項いずれかに記載のコンピュータプログラムにおいて、
    前記コンピュータは、不適切コンテンツ辞書データを記憶する辞書記憶装置を備え、
    前記コンピュータに、
    前記不適切なコンテンツを判定する手順で不適切と判定された前記不適切なコンテンツまたは該不適切なコンテンツの特徴量を前記不適切コンテンツ辞書データとして前記辞書記憶装置に記憶する手順、
    新規に投稿されたコンテンツに対して、前記不適切コンテンツ辞書データと照合を行うことにより前記不適切なコンテンツの検出を行う手順、をさらに実行させるためのコンピュータプログラム。
37. 投稿されたコンテンツを利用者が閲覧できるように公開するコンテンツ公開システムであって、
    請求の範囲第１７項乃至第３２項いずれかに記載の不適切コンテンツ検出装置によって検出された前記不適切なコンテンツをシステム管理者に提示する提示手段と、
    前記システム管理者が確認した後、前記システム管理者から削除指示を受け付ける受付手段と、
    前記削除指示に従い、前記不適切なコンテンツの削除を行う削除手段と、を備えるコンテンツ公開システム。
38. 投稿されたコンテンツを利用者が閲覧できるように公開するコンテンツ公開システムであって、
    請求の範囲第１７項乃至第３２項いずれかに記載の不適切コンテンツ検出装置によって相互に類似していると判定されたコンテンツ数が、所定数より多いか否かを判定する判定手段と、
    相互に類似していると判定されたコンテンツ数が所定数より多い場合に、当該コンテンツへの利用者のアクセスを自動的に停止する制御手段と、を備えるコンテンツ公開システム。

Images