JP2013178706A - 不適切投稿の管理システム - Google Patents

Abstract

【課題】単一のファイル配信システムだけでなく複数のファイル配信システムおいても不適切投稿に係る情報を一元的に管理することができる不適切投稿の管理システムを提供する。
【解決手段】不適切投稿の管理システムは、利用者に関する禁止情報の統計を格納した禁止情報統計データベース１２７を有し、動画配信サーバ１０１における不適切投稿に係る通報を管理する通報管理サーバ１０２を備える。通報管理サーバ１０２は、動画配信サーバ１０１から投稿ファイルが不適切投稿であると通報した通報者に係る調査要求を受信したとき、禁止情報統計データベース１２７を用いて通報者の信頼度に係る調査を行い、この調査に基づいて通報の拒絶、許可または保留の通知を動画配信サーバ１０１へ送信する。
【選択図】 図１

Description

本発明は、画像等のファイルを配信するファイル配信システムにおける不適切なファイルの投稿を管理する不適切投稿の管理システムに関する。

インターネットではユーザーが自由にファイルの投稿を行うことができるサービス（以下「投稿サイト」という）がある。インターネット上の投稿サイトには、一般ユーザーが自由に投稿でき、その投稿を第三者が自由に閲覧することができる。そのため一般ユーザーにとって利便性が高く、多種多様な投稿がなされている。

しかしながら一般ユーザーが自由にファイルを投稿できるというシステム上、他者の著作権を侵害した画像、音楽、ソフトウェア、動画、他者の個人情報、誹謗中傷、風説、わいせつな画像、違法な商品の売買情報など、投稿サイトの管理者（以下「管理者」という）が規約で禁止しているファイル（以下「不適切投稿」という）が投稿されていることがある。これらの不適切投稿を配信し続けた場合、管理者が責任を問われる可能性がある。そのため、管理者は、これらの不適切投稿を排除する必要がある。

しかしながらこのような不適切投稿の排除を管理者が手作業で行うのは非効率的である。そのため、不適切投稿に関する情報を一般ユーザーから収集し、その情報をデータベース化し、不適切投稿を自動的に排除する技術が、例えば特許文献１で提案されている。

特開２００８−９７２３０号公報

特許文献１のものでは、データベースがシステムに内蔵されており、複数のシステムから不適切投稿に係る情報を収集したり、あるいは複数のシステムで不適切投稿に係る情報を共有したりすることが行いにくいという問題があった。

本発明の目的は、上記課題に鑑み、単一のファイル配信システムだけでなく複数のファイル配信システムおいても不適切投稿に係る情報を一元的に管理することができる不適切投稿の管理システムを提供することにある。

本発明は、上記目的を達成するために、以下の不適切投稿の管理システムを提供するものである。
（１）ファイルを投稿する利用者が使用する利用者端末と、投稿ファイルの配信を行うファイル配信システムと、投稿ファイルを閲覧する利用者が使用する利用者端末と、前記ファイル配信システムの管理者が使用する管理者端末とに通信ネットワークを介して接続される、投稿ファイルの不適切投稿を管理する不適切投稿の管理システムであって、
前記ファイル配信システムの利用者に関する禁止情報の統計を格納した禁止情報統計データベースを有し、前記禁止情報統計データベースを用いて前記ファイル配信システムにおける不適切投稿に係る通報を管理する通報管理サーバを備え、
前記通報管理サーバは、投稿ファイルが不適切投稿であると通報した利用者（以下「通報者」という）に係る調査要求を前記ファイル配信システムから受信したとき、前記禁止情報統計データベースを用いて前記通報者の信頼度に係る調査を行い、この調査に基づいて前記通報の拒絶、許可または保留の通知を前記ファイル配信システムへ送信することを特徴とする不適切投稿の管理システム。
（２）前記通報管理サーバは、ファイルの投稿を希望する利用者（以下「投稿者」という）に係る調査要求を前記ファイル配信システムから受信したとき、前記禁止情報統計データベースを用いて前記投稿者の信頼度に係る調査を行い、この調査に基づいて前記投稿者のファイルの配信の許可または不許可の通知を前記ファイル配信システムへ送信することを特徴とする上記（１）に記載の不適切投稿の管理システム。
（３）前記通報管理サーバは、複数のファイル配信システムを管理するものであることを特徴とする上記（１）または（２）に記載の不適切投稿の管理システム。
（４）前記通報管理サーバは、前記ファイル配信システムの通報しきい値を格納するサイトデータベースを有し、前記通報者の信頼度が前記通報しきい値を用いて決められることを特徴とする上記（１）〜（３）のいずれかに記載の不適切投稿の管理システム。
（５）前記通報管理サーバは、前記ファイル配信システムの投稿しきい値を格納するサイトデータベースを有し、前記投稿者の信頼度が前記投稿しきい値を用いて決められることを特徴とする上記（２）に記載の不適切投稿の管理システム。
（６）前記通報管理サーバの禁止情報統計データベースは、通報者の過去の履歴に基づいて前記通報者の信頼度の判定を行うための情報を格納していることを特徴とする上記（１）から（５）のいずれかに記載の不適切投稿の管理システム。
（７）前記通報管理サーバは、前記複数のファイル配信システムを利用している同一の通報者の過去の履歴に基づいて前記通報者の信頼度の判定を行うことを特徴とする上記（３）に記載の不適切投稿の管理システム。
（８）前記通報管理サーバの禁止情報統計データベースは、投稿者の過去の履歴に基づいて前記投稿者の信頼度の判定を行うための情報を格納していることを特徴とする上記（２）または（５）に記載の不適切投稿の管理システム。
（９）前記通報管理サーバは、複数のファイル配信システムを管理するものであり、前記複数のファイル配信システムを利用している同一の投稿者の過去の履歴に基づいて前記投稿者の信頼度の判定を行うことを特徴とする（２）、（５）または（８）に記載の不適切投稿の管理システム。

本発明によれば、単一のファイル配信システムだけでなく複数のファイル配信システムおいても不適切投稿に係る情報を一元的に管理することができる。すなわち、本発明では、各ファイル配信システムにおける利用者から不適切投稿に係る情報を収集し、共有できるので、多数の利用者間で行われる多種多様なファイル投稿に対する不適切投稿の管理業務を迅速かつ効率的に行うことができる。

本発明に係る不適切投稿の管理システムの全体構成例を示す図である。 動画データ投稿時の各端末およびサーバ間の動作シーケンスの一例を示す図である。 不適切投稿の通報時の各端末およびサーバ間の動作シーケンスの一例を示す図である。 データベースの構成例を示す図である。 データベースの構成例を示す図である。 データベースの構成例を示す図である。 データベースの構成例を示す図である。 データベースの構成例を示す図である。 データベースの構成例を示す図である。 通知情報の例を示す図である。 通知情報の例を示す図である。 通知情報の例を示す図である。

以下、図面を参照しながら、本発明の不適切投稿の管理システムの実施の形態を詳細に説明する。本例ではファイル配信システムを動画配信サーバとして説明するが、これに限定されるものではない。また、本例ではファイル配信システムとして単一の動画配信サーバを示しているが、これに限定されず同種または異種の複数のファイル配信システムが接続され得る。ファイル配信システムとしては、例えばＷｅｂサーバ、ブログ、掲示板、コメント欄、画像配信サーバ、音楽配信サーバ、オンライン商取引システム、ソーシャルネットワーク、質問サイト、ソフトウェア配信、オンラインゲームなどが挙げられるが、これに限定されない。なお、「ファイル」とは、例えば、動画配信サーバの場合は動画データであり、掲示板の場合は文字や画像データであり、音楽配信サーバの場合は音楽データである。

図１は、本発明に係る不適切投稿の管理システムの全体構成例を示す図である。本実施形態では、投稿者が動画データを投稿し、その動画データを不特定多数の閲覧者に対して閲覧可能とする動画配信サーバ（オンライン動画配信システム）における不適切投稿の管理業務を行う不適切投稿の管理システムについて説明する。
図１に示すように、動画データの不適切投稿を管理する不適切投稿の管理システム１００は、動画データを投稿する利用者が使用する利用者端末Ａ１０４と、動画データの配信を行う動画配信サーバ１０１と、動画データを閲覧する利用者が使用する利用者端末Ｂ１０５と、動画配信サーバ１０１の管理者が使用する管理者端末１０３とに通信ネットワーク（公衆通信回線網）１０６を介して接続される。

不適切投稿の管理システム１００は、動画配信サーバ１０１の利用者に関する禁止情報の統計を格納した禁止情報統計データベース１２７等を有し、禁止情報統計データベース１２７を用いて動画配信サーバ１０１における不適切投稿に係る通報を管理する通報管理サーバ１０２を備える。

通報管理サーバ１０２は、動画データの投稿を希望する利用者（投稿者）に係る調査要求を動画配信サーバ１０１から受信したとき、禁止情報統計データベース１２７を用いて投稿者の信頼度に係る調査を行い、この調査に基づいて投稿者のファイルの配信の許可または不許可の通知を動画配信サーバ１０１へ送信する。また、通報管理サーバ１０２は、動画データが不適切投稿であると通報した利用者（通報者）に係る調査要求を動画配信サーバ１０１から受信したとき、禁止情報統計データベース１２７を用いて通報者の信頼度に係る調査を行い、この調査に基づいて通報の拒絶、許可または保留の通知を動画配信サーバ１０１へ送信する。

ここで、通報管理サーバ１０２は、動画配信サーバ１０１の管理者が管理する構成も考えられるが、本例では動画配信サーバの管理者とは別の事業者が管理する構成とする。また通報管理サーバ１０２の配下には動画配信サーバ１０１だけでなく、図示しない複数の配信サービスのサーバが接続されているものとする。以下、詳述する。

動画配信サーバ１０１には、動画データとその情報が格納されている動画データベース１１６、利用者情報が格納されている顧客データベース１１７が内蔵されている。また動画データの投稿を制御する投稿制御部１１２、動画データの配信を制御する配信制御部１１３、利用者から不適切投稿に係る通報を受け付ける通報制御部１１４、動画データなどの電子データの送受信を行う送受信制御部１１５、それらの機能を管理する管理部１１１が内蔵されている。

通報管理サーバ１０２には、複数のサイトの利用者情報が格納されている顧客データベース１２４、通報管理サーバ１０２が不適切投稿に係る通報を管理しているサイトの一覧表であるサイトデータベース１２５、通報管理サーバ１０２が受信した不適切投稿に係る通報の履歴である通報データベース１２６、利用者ごとの通報の統計が保存されている禁止情報データベース１２７が内蔵されている。また動画配信サーバ１０１などの配下サイトからの不適切投稿に係る通報を受け付ける通報制御部１２２、通知情報の送受信を行う送受信制御部１２３、それらの機能を管理する管理部１２１が内蔵されている。

図２は、動画データ投稿時の各端末およびサーバ間の動作シーケンスの一例を示す図である。すなわち本図は、動画データの投稿があったときの、動画データの投稿者が使用する利用者端末Ａ２０１、違反動画の通報者が使用する利用者端末Ｂ２０２、動画配信サーバ２０３、通報管理サーバ２０４、および動画配信システムの管理者が使用する管理者端末２０５間のやりとりを図示したものである。
まず利用者端末Ａ２０１が動画データの投稿を開始する場合、利用者端末Ａ２０１から動画データ投稿要求２５１が送信される（ステップ２１１）。
動画配信サーバ２０３は動画データ投稿要求２５１を受信すると、通報管理サーバ２０４に対し投稿者調査要求２５２を送信する（ステップ２１２）。

通報管理サーバ２０４は、投稿者調査要求２５２を受信すると、投稿者調査要求２５２、顧客データベース１２４、サイトデータベース１２５、通報データベース１２６、禁止情報統計データベース１２７を用いて、投稿者の過去の履歴に基づき、投稿者の信頼度の調査を行う（ステップ２１３）。
調査の結果、投稿者が信頼できる（信頼度が高い）ときはステップ２１４へ進む。投稿者が信頼できない（信頼度が低い）ときはステップ２１６へ進む。

ステップ２１４は投稿者が信頼できるときの処理である。その場合は、通報管理サーバ２０４は許可通知２５３を動画配信サーバ２０３に対し送信する。動画配信サーバ２０３は許可通知２５３を受信すると、投稿許可通知２５４を利用者端末Ａ２０１に対し送信する（ステップ２１５）。その後、動画データ投稿開始へ進む（ステップ２２０）。
ステップ２１６は投稿者が信頼できないときの処理である。その場合は、通報管理サーバ２０４は、顧客データベース１２４、サイトデータベース１２５、通報データベース１２６、禁止情報統計データベース１２７の更新を行う（ステップ２１７）。
そして不許可通知２５５を動画配信サーバ２０３に対し送信する。動画配信サーバ２０３は不許可通知２５５を受信すると、投稿不許可通知２５６、２５７を利用者端末Ａ２０１、管理者端末２０５に対し送信し（ステップ２１８）、顧客データベース１１７を更新する（ステップ２１９）。そのようにして動画データ投稿要求２５１が却下される。

ステップ２２０は実際の動画データの送信である。動画データ２５８を動画配信サーバ２０３に対し送信する。
動画配信サーバ２０３は動画データ２５８を受信し終えると、投稿完了通知２５９、２６０を利用者端末Ａ２０１と管理者端末２０５に対し送信する（ステップ２２１）。
その後、動画配信サーバ２０３は動画データベース１１６を更新する（ステップ２２２）。そして、通報管理サーバ２０４に結果通知２６１を送信する。通報管理サーバ２０４は顧客データベース１２４、サイトデータベース１２５、通報データベース１２６、禁止情報統計データベース１２７の更新を行う（ステップ２２３）。
その後、動画配信サーバ２０３は動画配信を開始する（ステップ２２４）。

図３は、不適切投稿の通報時の各端末およびサーバ間の動作シーケンスの一例を示す図である。すなわち本図は、不適切投稿の通報があったときの、動画データの投稿者が使用する利用者端末Ａ３０１、違反動画の通報者が使用する利用者端末Ｂ３０２、動画配信サーバ３０３、通報管理サーバ３０４、および動画配信システムの管理者が使用する管理者端末３０５間のやりとりを図示したものである。

まず利用者端末Ｂ３０２の閲覧者が、動画データの閲覧を行う場合（ステップ３１１）、動画配信サーバ３０３に対し、閲覧要求３５１を出す。すると動画配信サーバ３０３は利用者端末Ｂ３０２に対し、動画データ３５２を送信する。そのようにして閲覧が行われる（ステップ３１３）。
このとき閲覧者が動画データ３５２に問題がある（不適切投稿）と判断したとする。その場合、動画データの閲覧者は動画配信サーバ３０３に対し、通報情報３５３を送信し、不適切投稿の通報が行われる（ステップ３１４）。
通報情報３５３を受信した動画配信サーバ３０３は、通報管理サーバ３０４に対し、通報者調査要求３５４を送信する（ステップ３１５）。通報管理サーバ３０４は通報者調査要求３５４を受信すると、通報者の信頼度の調査を行う（ステップ３１６）。

通報管理サーバ３０４は、顧客データベース１２４、サイトデータベース１２５、通報データベース１２６、禁止情報統計データベース１２７を使用して、通報者の過去の履歴を判断し、その後の処理を変化させる。評価（信頼度）が低いときはステップ３１７へ進む。評価（信頼度）が高いときはステップ３２１へ進む。過去の履歴が保存されていないなど、通報者の評価ができない（信頼度不明の）ときはステップ３２５へ進む。

ステップ３１７は通報者が信頼できない（信頼度が低い）ときの処理である。通報者が信頼できないときは通報を拒絶する。その場合は、通報管理サーバ３０４は、顧客データベース１２４、サイトデータベース１２５、通報データベース１２６、禁止情報統計データベース１２７を更新する（ステップ３１８）。その後、動画配信サーバ３０３に対して、拒絶通知３５５を送信する。
動画配信サーバ３０３は、動画配信を継続させ、通報拒絶通知３５６、３５７、３５８を利用者端末Ａ３０１、利用者端末Ｂ３０２、管理者端末３０５に送信する（ステップ３１９）。その後、動画配信サーバ３０３の動画データベース１１６、顧客データベース１１７を更新する（ステップ３２０）。

ステップ３２１は通報者が信頼できる（信頼度が高い）ときの処理である。通報者が信頼できるときは通報を受諾する。その場合は、通報管理サーバ３０４は、顧客データベース１２４、サイトデータベース１２５、通報データベース１２６、禁止情報統計データベース１２７を更新する（ステップ３２２）。その後、動画配信サーバ３０３に対して、許可通知３５９を送信する。
動画配信サーバ３０３は、動画配信を終了させ、配信終了通知３６０、３６１、３６２を利用者端末Ａ３０１、利用者端末Ｂ３０２、管理者端末３０５に送信する（ステップ３２３）。その後、動画配信サーバ３０３の動画データベース１１６、顧客データベース１１７を更新する（ステップ３２４）。

ステップ３２５は通報者が信頼できるかどうか判断できない（信頼度不明の）ときの処理である。通報管理サーバ３０４に過去の履歴がないとき、過去の履歴から信頼できる通報と信頼できない通報の両方を行っていたときなどである。その場合は、通報管理サーバ３０４は、動画配信サーバ３０３に対して、保留通知３６３を送信する。また通報管理サーバ３０４は、顧客データベース１２４、サイトデータベース１２５、通報データベース１２６、禁止情報統計データベース１２７を更新する。

動画配信サーバ３０３は、管理者に判断をゆだねるとともに、管理者が判断するまでの間に、違反動画が配信され続けないように、動画配信を一時的に停止させ、通報受信通知３６４、３６５、３６６を利用者端末Ａ３０１、利用者端末Ｂ３０２、管理者端末３０５に送信する。また通報者から受信した通報情報３５３を、通報情報３６７として管理者端末３０５に送信する（ステップ３２６）。その後、動画配信サーバ３０３の動画データベース１１６、顧客データベース１１７を更新する（ステップ３２７）。
ステップ３２８は通報管理サーバ３０４が通報の真偽を判断できなかった場合に、管理者端末３０５が行う通報の真偽判定である。通報が信頼できない（信頼度が低い）と判断した場合は３２９へ進む。通報が信頼できる（信頼度が高い）と判断した場合は３３３へ進む。

ステップ３２９は通報者が信頼できないときの処理である。通報者が信頼できないときは通報を拒絶する。その場合は、管理者端末３０５は、動画配信サーバ３０３に対して、拒絶通知３６８を送信する。
動画配信サーバ３０３は、動画配信を再開させ、通報拒絶通知３６９、３７０、３７１を利用者端末Ａ３０１、利用者端末Ｂ３０２、管理者端末３０５に送信する（ステップ３３０）。そして、通報管理サーバ３０４に結果通知３７２を送信する。通報管理サーバ３０４は顧客データベース１２４、サイトデータベース１２５、通報データベース１２６、禁止情報統計データベース１２７の更新を行う（ステップ３３１）。その後、動画配信サーバ３０３の動画データベース１１６、顧客データベース１１７を更新する（ステップ３３２）。

ステップ３３３は通報者が信頼できるときの処理である。通報者が信頼できるときは通報を受諾する。その場合は、管理者端末３０５は、動画配信サーバ３０３に対して、許可通知３７３を送信する。
動画配信サーバ３０３は、動画配信を終了させ、配信終了通知３７４、３７５、３７６を利用者端末Ａ３０１、利用者端末Ｂ３０２、管理者端末３０５に送信する（ステップ３３４）。そして、通報管理サーバ３０４に結果通知３７７を送信する。通報管理サーバ３０４は顧客データベース１２４、サイトデータベース１２５、通報データベース１２６、禁止情報統計データベース１２７の更新を行う（ステップ３３５）。その後、動画配信サーバ３０３の動画データベース１１６、顧客データベース１１７を更新する（ステップ３３６）。

図４Ａ−Ｆは、各データベースの構成例を示す図である。
図４Ａは、動画配信サーバ１０１内の顧客データベース１１７である。動画サイトでの顧客の名簿（顧客台帳）である。顧客番号（主キー）４１１、メールアドレス４１２、ログイン名４１３、ログインパスワード４１４などが含まれる。実施例には記載していないが、実際には住所、氏名、電話番号などの情報も含まれる。

図４Ｂは、動画配信サーバ１０１内の動画データベース１１６である。動画サイトでの動画の情報、動画そのものが含まれているデータベースである。動画番号（主キー）４２１、顧客番号（外部キー）４２２が含まれる。顧客番号（外部キー）４２２は動画の投稿者の管理番号である。顧客データベース図４Ａの顧客番号４１１と連結している。動画データ４２３は動画ファイルである。本実施例ではデータベース内にバイナリ型で直接格納している。別の実施方法では、別サーバなどに動画ファイルを格納し、ファイルの格納位置を示すパス名のみを記述する実装方法でもかまわない。動画説明文４２４は動画データ４２３の説明文である。配信許可フラグ４２５は、動画の閲覧要求があったときに、動画を配信するかどうかを判定するための判定基準である。本実施例では「許可」「不許可」「保留」の３段階としている。動画配信サーバ３０３に閲覧要求３５１が届いた後、配信許可フラグ４２５が「許可」の場合は、動画配信サーバ３０３は動画データ３５２を送信する。配信許可フラグ４２５が「不許可」「保留」の場合は、動画データ３５２を送信しない。配信許可フラグ４２５の更新は、動画データの投稿完了後のデータベース更新２２２、通報判定後のデータベース更新３２０、３２４、３２７、３３２、３３６で行う。

図４Ｃは、通報管理サーバ１０２内の顧客データベース１２４である。動画配信サーバ１０１内の顧客データベース図４Ａと異なり、複数のサイトの顧客情報が網羅されている。顧客番号（主キー）４３１、メールアドレス４３２、ログイン名４３３、サイト番号４３４，禁止情報統計番号４３５などが含まれている。原則として個々の顧客の識別はサイト番号４３４とログイン名４３３の組み合わせで行う。しかしながら同一の顧客が複数のサイトに登録している例もあり得る。その場合はその他の情報から同一人物と認識する。今回の場合は顧客番号４３１が３の顧客と４の顧客はログイン名４３３が一致しているため同一人物の可能性が高いと判断できる。実施例には記載していないが、実際には住所、氏名、電話番号、年齢、性別などの情報も含まれる。

図４Ｄは、通報管理サーバ１０２内のサイトデータベース１２５である。通報管理サーバ１０２が通報情報を共有しているサイトの情報と、サイトごとの設定が含まれている。サイト番号（主キー）４４１、サイト名４４２、サイトサーバー名４４３が含まれる。サイトサーバー名４４３はサイトの情報である。サイトサーバー名４４３は通知情報の送り先として使われる。投稿しきい値（評価低）４４４、投稿しきい値（評価高）４４５、投稿得点しきい値（投稿者）４４６、投稿得点しきい値（管理者）４４７、通報しきい値（評価低）４４８、通報しきい値（評価高）４４９、通報得点しきい値（通報者）４５０、通報得点しきい値（管理者）４５１は、サイトごとに用意されている投稿者、通報者の信頼度の評価を行うための評価関数である。これらの値を管理者が設定することにより、管理基準を変更することができる。自動判定の比率を上げ、管理者の作業量を減らしたり、逆に手動判定の比率を上げ、判定の精度を上げるといった方法である。

図４Ｅは、通報管理サーバ１０２内の通報データベース１２６である。通報管理サーバ３０４が通報者調査要求３５４を受信すると、通報の履歴が保存される。本データベースは通報番号（主キー）４６１を含む。顧客番号４６２は通報者の顧客番号である。顧客データベース図４Ｃの顧客番号４３１と連結している。通報対象番号４６３は通報対象の識別番号である。今回の場合は動画データベース図４Ｂの動画番号４２１と同一である。通報情報３５３と通報者調査要求３５４に含まれている。通報日時４６４は通報管理サーバ３０４が通報者調査要求３５４を受信した時刻である。通報種別４６５は通報の種別である。通報情報３５３と通報者調査要求３５４に含まれている。

通報説明文４６６は通報の内容を記述した文章である。通報情報３５３と通報者調査要求３５４に含まれている。管理者判定４６７は通報の状態が保存される。「自動受諾」「自動拒絶」「通報受諾」「通報拒絶」「判定中」の５段階としている。「自動受諾」は通報管理サーバ３０４が通報者を信頼できると判断した状態、「自動拒絶」は通報管理サーバ３０４が通報者を信頼できないと判断した状態、「通報受諾」は管理者が通報者を信頼できると判断した状態、「通報拒絶」は管理者が通報者を信頼できないと判断した状態、「判定中」は通報管理サーバ３０４が管理者に判定を依頼し、管理者の判定を待っている状態である。判定日時４６８は通報の判定を行った時刻である。「自動受諾」「自動拒絶」した時刻、もしくは結果通知３７２、３７７を受信した時刻である。なお通報データベース図４Ｅの更新は３１８、３２２、３２５、３３１、３３５で行う。実施例には記載していないが、通報者のＩＰアドレス、接続元ホスト名、通報者使用ブラウザ情報、通報者の使用ＯＳ情報などの、通報受付時の接続情報も含まれる。通報者の識別に使用する。

図４Ｆは、通報管理サーバ１０２内の禁止情報統計データベース１２７である。顧客ごとの投稿回数、通報回数、信頼度が統計情報として保存されている。禁止情報統計番号（主キー）４７１は禁止情報統計の管理番号である。顧客データベース図４Ｃの禁止情報統計番号４３５と連結している。投稿回数４７２は顧客ごとの投稿回数である。２１７と２２３で更新される。投稿評価値４７３は投稿者としての評価値である。投稿得点しきい値（投稿者）４４６、投稿得点しきい値（管理者）４４７に基づいて計算される。投稿評価ランク４７４は投稿者の信頼度である。投稿者の調査２１３に使用する。「Ａ（優）」「Ｂ（可）」「Ｃ（不可）」の３段階としている。投稿しきい値（評価低）４４４、投稿しきい値（評価高）４４５、投稿評価値４７３を使用して計算する。「Ｃ（不可）」は投稿評価値４７３が投稿しきい値（評価低）４４４以下の場合、「Ｂ（可）」は投稿しきい値（評価低）４４４より大きく、投稿しきい値（評価高）４４５未満の場合、「Ａ（優）」は投稿しきい値（評価高）４４５以上の場合である。

通報回数４７５は顧客ごとの通報回数である。３１８、３２２、３３１、３３５で更新される。通報評価値４７６は通報者としての評価値である。通報者の通報の判定結果によって自動的に変化する。通報得点しきい値（通報者）４５０、通報得点しきい値（管理者）４５１に基づいて計算され、通報者の通報が信頼できない場合は減算し、通報者の通報が信頼できる場合は加算する。管理者が関知することなく通報の判定を行った場合３１８、３２２は、通報得点しきい値（通報者）４５０だけ変化させる。管理者が通報の判定を行った場合３３１、３３５は、通報得点しきい値（管理者）４５１だけ変化させる。通報評価ランク４７７は通報者の信頼度である。通報者の調査３１６に使用する。「Ａ（優）」「Ｂ（可）」「Ｃ（不可）」の３段階としている。通報しきい値（評価低）４４８、通報しきい値（評価高）４４９、通報評価値４７６を使用して計算する。「Ｃ（不可）」は通報評価値４７６が通報しきい値（評価低）４４８以下の場合、「Ｂ（可）」は通報しきい値（評価低）４４８より大きく、通報しきい値（評価高）４４９未満の場合、「Ａ（優）」は通報しきい値（評価高）４４９以上の場合である。

図５Ａ−Ｃは、通知情報の例を示す図である。すなわち本図は、動画データの投稿者が使用する利用者端末Ａ２０１、違反動画の通報者が使用する利用者端末Ｂ２０２、動画配信サーバ２０３、通報管理サーバ２０４、動画配信システムの管理者が使用する管理者端末２０５間の通信内容を表にしたものである。それぞれの通知情報の送信元と送信先が記述されている。
５０１は動画データ投稿要求である。投稿者が動画データを投稿したい場合の要求である。投稿者の識別のために、顧客データベース図４Ａのログイン名４１３とログインパスワード４１４を含む。図２の動画データ投稿要求２５１である。

５０２は投稿者調査要求である。投稿者の信頼度の調査を通報管理サーバ２０４に依頼する。複数のサイトに同一のログイン名の顧客がいる可能性があるので、サイト番号を含んでいる。また顧客の認証は動画配信サーバ２０３が行っているので、投稿者のログインパスワードは通報管理サーバ２０４には送信されない。図２の投稿者調査要求２５２と同じである。
５０３は許可通知である。結果コードを含む。図２の許可通知２５３である。
５０４は投稿許可通知である。結果コードを含む。図２の投稿許可通知２５４である。
５０５は不許可通知である。結果コードを含む。図２の不許可通知２５５である。
５０６、５０７は投稿不許可通知である。結果コードを含む。図２の投稿不許可通知２５６、２５７である。

５０８は動画データである。動画データとともに、動画の説明文と、投稿者の識別のために、顧客データベース図４Ａのログイン名４１３とログインパスワード４１４を含む。図２の動画データ２５８である。
５０９、５１０は投稿完了通知である。結果コードと動画番号を含む。図２の投稿完了通知２５９、２６０である。
５１１は結果通知である。利用者端末Ａ２０１と動画配信サーバ２０３の間で動画の投稿が完了したあとの、通報管理サーバ２０４への通知である。結果コードを含む。その後、通報管理サーバ２０４は投稿回数４７２、投稿評価値４７３、投稿評価ランク４７４を更新する。図２の結果通知２６１である。

５１２は閲覧要求である。動画を閲覧するときの要求である。図３の閲覧要求３５１である。
５１３は動画データである。動画データとともに、動画の説明文と、顧客データベース図４Ａのログイン名４１３を含む。図３の動画データ３５２である。
５１４は通報情報である。閲覧者が違反動画を管理者に通報するときの情報である。通報者の識別のために、顧客データベース図４Ａのログイン名４１３とログインパスワード４１４を含む。また通報すべき違反動画の動画番号を含んでいる。また通報の種別と通報の説明を含んでいる。図３の通報情報３５３である。

５１５は通報者調査要求である。動画配信サーバ３０３は通報管理サーバ３０４に通報情報５１４をほぼそのまま転送する。ただし通報管理サーバ３０４が管理するサイトは複数あるため、動画配信サーバ３０３はサイト番号を含む。また顧客の認証は動画配信サーバ３０３が行っているので、投稿者のログインパスワードは通報管理サーバ３０４には送信されない。図３の通報者調査要求３５４である。
５１６は拒絶通知である。通報管理サーバ３０４は動画を判断しているわけではなく、通報者の過去の履歴に基づいて拒絶する。そのため通報を拒絶する対象のログイン名を通知している。図３の拒絶通知３５５である。

５１７、５１８、５１９は通報拒絶通知である。動画に対する通報であるため、動画番号を通知している。図３の通報拒絶通知３５６、３５７、３５８である。
５２０から５２３は、通報を受諾した場合の通知である。結果コードが変わっているのを除けば、５１６から５１９と同じ内容である。図３の通知３５９から３６２と同じである。
５２４から５２７は、通報管理サーバ３０４が通報の判断を保留した場合の通知である。結果コードが変わっているのを除けば、５１６から５１９とほぼ同じ内容である。ただし後ほど通報管理サーバ３０４に管理者の判定結果を通知するために通報番号が追加される。図３の通知３６３から３６６と同じである。

５２８は通報情報である。管理者により通報を判定するために、管理者端末３０５に送信される。５１４とほぼ同じ内容である。ただし顧客の認証は動画配信サーバ３０３が行っているので、投稿者のログインパスワードは管理者端末３０５には送信されない。またどの通報に対して通報を行ったのかわかるように通報番号を含んでいる。図３の通報情報３６７である。
５２９は管理者が通報を拒絶した場合の通知である。管理者は通報管理サーバ３０４とことなり、動画に対して判定を行う。そのため、動画番号が含まれている。またどの通報に対して通報を行ったのかわかるように通報番号を含んでいる。図３の拒絶通知３６８である。

５３０から５３２は通報拒絶通知である。５１７から５１９と同じ内容である。図３の通報拒絶通知３６９から３７１と同じである。
５３３と５３８は結果通知である。管理者による判定結果を通報管理サーバ３０４に通知する。図３の結果通知３７２と３７７と同じである。
５３４は管理者が通報を受諾した場合の通知である。結果コード以外は５２９と同じ内容である。図３の許可通知３７３である。
５３５から５３７は配信終了通知である。５２１から５２３と同じ内容である。図３の配信終了通知３７４から３７６と同じである。

以上のように、本発明は、単一システムだけでなく複数のシステムでの多種多様な配信情報の不適切投稿に対する情報を一元的に管理するデータベースを作成し、禁止判定情報に基づいた通報評価を行い、自動的に投稿サイトにおける利用の投稿禁止、配信停止、再配信、抹消の判定を運用形態（オンライン、オフラインにかかわらず）実現できる不適切投稿の管理システムである。

本発明の不適切投稿の管理システムは、構内通信網もしくは広域通信網等の通信ネットワークを通じて接続された、サーバと利用者端末間、もしくは利用者端末間での、ファイルの配信を可能とするものであり、以下のように構成される。
ファイル配信システムは、配信に使用するファイルと、そのファイルに関する情報を格納するファイルデータベースと、利用者の情報を格納した顧客データベースと、利用者端末から投稿を受け付ける投稿制御部と、ファイルまたは利用者に関連するファイルの配信を行う配信制御部と、利用者端末および管理者端末および通報管理サーバと、配信されているファイルのうち、本システム利用を禁止されるべき不適切投稿および本システム利用を禁止されるべき利用者に関連する通報を送受信する通報制御部と、利用者端末および管理者端末および通報管理サーバへ通報、情報、ファイルを送受信する送受信制御部を備える。

通報管理サーバは、自身が管理しているファイル配信システムの利用者情報を格納した顧客データベースと、自身が管理しているファイル配信システムの情報と、管理用の設定を格納したサイトデータベースと、自身が管理しているファイル配信システムから送信された、本システム利用を禁止されるべき不適切投稿、および本システム利用を禁止されるべき利用者に関する通報の履歴を格納した通報データベースと、ファイル配信システムの利用を禁止されるべき不適切投稿、およびファイル配信システムの利用を禁止されるべき利用者に関する通報の統計を格納した禁止情報統計データベースと、自身が管理しているファイル配信システムでの、配信されているファイルのうち、ファイル配信システムの利用を禁止されるべき不適切投稿、およびファイル配信システムの利用を禁止されるべき利用者に関連する通報を、送受信する通報制御部と、利用者端末および管理者端末およびファイル配信システムへ通報、情報、ファイルを送受信する送受信制御部を備える。

前記ファイル配信システムの投稿制御部は、投稿受付時に前記通報管理サーバの禁止情報統計データベース、もしくは通報データベースに基づいて、利用者端末からの投稿を拒絶する。前記ファイル配信システムの配信制御部は、配信要求受付時に前記通報管理サーバの禁止情報統計データベース、もしくは通報データベースに基づいて、利用者端末に配信を行わない。前記ファイル配信システムの通報制御部は、前記通報管理サーバに対して、調査要求を行う。前記ファイル配信システムの通報制御部は、前記通報管理サーバの禁止情報統計データベース、もしくは通報データベースに基づいて、通報の真偽の判定が困難な場合に、管理者に対して通報する。前記ファイル配信システムの配信制御部は、管理者の通報判定中に、一時的に配信を停止する。前記ファイル配信システムの通報制御部は、前記通報管理サーバの禁止情報統計データベース、もしくは通報データベースに基づいて、通報の真偽を判定し、ファイルを削除する。前記ファイル配信システムの配信制御部は、管理者からの指示に基づき、一時的に配信を停止したファイルを再配信する。前記ファイル配信システムの通報制御部は、管理者からの判定結果を、前記通報管理サーバに送信する。

前記通報管理サーバは、単一もしくは複数のファイル配信システムから通報を収集する。前記通報管理サーバの顧客データベース、サイトデータベース、通報データベース、禁止情報統計データベースは、単一もしくは複数のファイル配信システムの情報を格納している。前記通報管理サーバは、ファイル配信システムごとに通報の基準を格納している。前記通報管理サーバは、通報者の過去の履歴に基づいて、通報の判定を行う。前記通報管理サーバは、異なるファイル配信システムを利用している、同一の通報者の過去の履歴に基づいて、通報の判定を行う。

以上、本発明の不適切投稿の管理システムについて、具体的な実施の形態を示して説明したが、本発明はこれらに限定されるものではない。本発明の不適切投稿の管理システムは、Ｗｅｂサーバ、ブログ、掲示板、コメント欄、画像配信サーバ、音楽配信サーバ、オンライン商取引システム、ソーシャルネットワーク、質問サイトなどに、応用することが可能である。また当業者であれば、本発明の要旨を逸脱しない範囲内において、上記実施形態における通報管理サーバ、動画配信サーバなどの構成および機能に様々な変更、改良を加えることが可能である。

１０１ 動画配信サーバ
１０２ 通報管理サーバ
１０３ 管理者端末
１０４ 利用者端末Ａ（投稿）
１０５ 利用者端末Ｂ（閲覧と通報）
１０６ 公衆通信回線網

Claims (9)

1. ファイルを投稿する利用者が使用する利用者端末と、投稿ファイルの配信を行うファイル配信システムと、投稿ファイルを閲覧する利用者が使用する利用者端末と、前記ファイル配信システムの管理者が使用する管理者端末とに通信ネットワークを介して接続される、投稿ファイルの不適切投稿を管理する不適切投稿の管理システムであって、
   前記ファイル配信システムの利用者に関する禁止情報の統計を格納した禁止情報統計データベースを有し、前記禁止情報統計データベースを用いて前記ファイル配信システムにおける不適切投稿に係る通報を管理する通報管理サーバを備え、
   前記通報管理サーバは、投稿ファイルが不適切投稿であると通報した利用者（以下「通報者」という）に係る調査要求を前記ファイル配信システムから受信したとき、前記禁止情報統計データベースを用いて前記通報者の信頼度に係る調査を行い、この調査に基づいて前記通報の拒絶、許可または保留の通知を前記ファイル配信システムへ送信することを特徴とする不適切投稿の管理システム。
2. 前記通報管理サーバは、ファイルの投稿を希望する利用者（以下「投稿者」という）に係る調査要求を前記ファイル配信システムから受信したとき、前記禁止情報統計データベースを用いて前記投稿者の信頼度に係る調査を行い、この調査に基づいて前記投稿者のファイルの配信の許可または不許可の通知を前記ファイル配信システムへ送信することを特徴とする請求項１に記載の不適切投稿の管理システム。
3. 前記通報管理サーバは、複数のファイル配信システムを管理するものであることを特徴とする請求項１または２に記載の不適切投稿の管理システム。
4. 前記通報管理サーバは、前記ファイル配信システムの通報しきい値を格納するサイトデータベースを有し、前記通報者の信頼度が前記通報しきい値を用いて決められることを特徴とする請求項１〜３のいずれかに記載の不適切投稿の管理システム。
5. 前記通報管理サーバは、前記ファイル配信システムの投稿しきい値を格納するサイトデータベースを有し、前記投稿者の信頼度が前記投稿しきい値を用いて決められることを特徴とする請求項２に記載の不適切投稿の管理システム。
6. 前記通報管理サーバの禁止情報統計データベースは、通報者の過去の履歴に基づいて前記通報者の信頼度の判定を行うための情報を格納していることを特徴とする請求項１から５のいずれかに記載の不適切投稿の管理システム。
7. 前記通報管理サーバは、前記複数のファイル配信システムを利用している同一の通報者の過去の履歴に基づいて前記通報者の信頼度の判定を行うことを特徴とする請求項３に記載の不適切投稿の管理システム。
8. 前記通報管理サーバの禁止情報統計データベースは、投稿者の過去の履歴に基づいて前記投稿者の信頼度の判定を行うための情報を格納していることを特徴とする請求項２または５に記載の不適切投稿の管理システム。
9. 前記通報管理サーバは、複数のファイル配信システムを管理するものであり、前記複数のファイル配信システムを利用している同一の投稿者の過去の履歴に基づいて前記投稿者の信頼度の判定を行うことを特徴とする請求項２、５または８に記載の不適切投稿の管理システム。

Images