JP2009223802A - 不適切コンテンツ判別装置、コンテンツ提供システム、不適切コンテンツ判別方法、およびコンピュータプログラム - Google Patents

Abstract

【課題】地名または伏字が文字列に含まれている場合であっても従来よりも確実に不適切な内容の書込みを見つけることができるようにする。
【解決手段】ＳＮＳシステム１に、複数の不適切なコンテンツがアップロードされた際に見られる傾向のパターンである不適切アップロードパターンを記憶する不適切疑義パターン記憶部１３４と、複数のコンテンツがアップロードされたときに不適切疑義パターン記憶部１３４に記憶されている不適切アップロードパターンが表れたか否かをチェックすることによって、これらのコンテンツが不適切であるか否かを判別する書込パターン評価部１２３および総合評価部１２４と、を設ける。
【選択図】図３

Description

本発明は、ＳＮＳのようなコミュニケーション手段にアップロードされるなどしたコンテンツを取り扱うシステムおよび方法などに関する。

近年、低コストでかつ容易にパーソナルコンピュータをインターネットなどのネットワークに接続させることができるようになった。さらに、携帯電話端末の性能が向上しかつアプリケーションが充実し、携帯電話端末をインターネットに接続させることが容易になった。

これにより、多数のユーザ同士がインターネットなどのネットワークを介してコミュニケーションを取ることができるようになった。コミュニケーションのためのサービスとして、電子掲示板が広く知られている。最近は、ＳＮＳ（Social Networking Service）が知られるようになった。

これらのサービスには、ユーザ同士が意見の交換を自由に行うことができる、というメリットがある。しかし、その反面、他のユーザを誹謗中傷する内容、他のユーザに不快を与える内容、個人のプライベートに関する内容（いわゆる個人情報）、またはテーマとは無関係な内容の書込み（発言、投稿）を容易に行うことができる、というデメリットがある。これらの書込みは、コミュニケーションの秩序を乱してしまい、サービスの低下を招くおそれがある。管理人が書込みの内容を逐一検査するのは、非常に膨大な手間および時間が掛かり、人件費が嵩んでしまう。

特許文献１には、このような問題点を解決するための方法が開示されている。この方法によると、書込みの内容を、用語解析およびフレーズ解析による言語解析処理により分析し、不適格な内容を排除する。
特開２００２−１１７１３５号公報

しかし、言語解析には、次のような問題点がある。地名を検知することができたとしても、それが個人のプライベートな情報（例えば、個人の住所）であるのか、公然知られた情報（例えば、店舗や公共施設の住所）であるのかを判別することが、言語解析では困難である。文字列の一部が伏せられていると（つまり、伏字が含まれていると）、上手く解析することができないことがある。

本発明は、このような問題点に鑑み、地名または伏字が文字列に含まれている場合であっても従来よりも確実に不適切な内容の書込みを見つけることができるようにすることを、目的とする。

本発明の一実施形態に係る不適切コンテンツ判別装置は、複数の不適切なコンテンツがアップロードされた際に見られる傾向のパターンである不適切アップロードパターンを記憶する不適切アップロードパターン記憶手段と、複数のコンテンツがアップロードされたときに前記不適切アップロードパターン記憶手段に記憶されている前記不適切アップロードパターンが表れたか否かをチェックすることによって、当該複数のコンテンツが不適切であるか否かを判別する不適切判別手段と、を有する。

このような構成によれば、書き込みの方法によってコンテンツが不適切であるかどうかの判定を行うことができ、書き込み内容の言語解析の精度に関わらず判定を行なうことができる。

本発明の他の実施形態に係る不適切コンテンツ判別装置は、不適切なコンテンツをアップロードする人に見られる傾向のパターンである不適切人物パターンを記憶する不適切人物パターン記憶手段と、前記不適切人物パターン記憶手段に記憶されている前記不適切人物パターンにユーザが該当するか否かをチェックすることによって、当該ユーザがアップロードしたコンテンツが不適切であるか否かを判別する、不適切判別手段と、を有する。

このような構成によれば、書き込みを行なう会員の人物パターンによってコンテンツが不適切であるかどうかの判定を行うことができ、書き込み内容の言語解析の精度に関わらず判定を行なうことができる。

本発明の一実施形態に係るコンテンツ提供システムは、第一のユーザがネットワークを介してアップロードしたコンテンツである第一のコンテンツを第二のユーザにネットワークを介して提供するためのシステムである。本コンテンツ提供システムは、複数の不適切なコンテンツがアップロードされた際に見られる傾向のパターンである不適切アップロードパターンを記憶する不適切アップロードパターン記憶手段と、複数の前記第一のコンテンツがアップロードされたときに前記不適切アップロードパターン記憶手段に記憶されている前記不適切アップロードパターンが表れた場合に、当該複数の第一のコンテンツに対して、不適切である可能性の高さを表わす点数である不適切性点数を所定の点数だけ付与する、不適切性点数付与手段と、前記第一のコンテンツの前記不適切性点数が所定の点数を下回る場合は、当該第一のコンテンツを前記第二のユーザに提供し、上回る場合は、当該第一のコンテンツを前記第二のユーザに提供しない、コンテンツ提供手段と、を有する。このような構成によれば、不適切性点数を調整することにより、同一の行動パターンを持つアップロードであっても会員の利用状況やイベント・祝日等の会員のアップロードパターンの変化に対しての重み付けを変えることができ、判定精度を高めることができる。

好ましくは、前記不適切アップロードパターンは、同一人が所定の時間以下のインターバルで所定の個数以上のコンテンツをアップロードする、というパターンである。または、前記不適切アップロードパターンは、同一人が２つ以上の同一のまたは類似するコンテンツを続けてアップロードする、というパターンである。
このような構成によれば、不適切なコンテンツの代表例である連続書き込みを効率的に判定することができる。

本発明の他の実施形態に係るコンテンツ提供システムは、不適切なコンテンツをアップロードする人に見られる傾向のパターンである不適切人物パターンを記憶する不適切人物パターン記憶手段と、前記不適切人物パターン記憶手段に記憶されている前記不適切人物パターンに前記第一のユーザが該当する場合に、前記第一のコンテンツに対して、不適切である可能性の高さを表わす点数である不適切性点数を所定の点数だけ付与する、不適切性点数付与手段と、前記第一のコンテンツの前記不適切性点数が所定の点数を下回る場合は、当該第一のコンテンツを前記第二のユーザに提供し、上回る場合は、当該第一のコンテンツを前記第二のユーザに提供しない、コンテンツ提供手段と、を有する。
このような構成によれば、不適切性点数を調整することより、同一の人物パターンを持つ会員に対しても、利用状況や身元確認状況等により重み付けを変えることができ、判定精度を高めることができる。

好ましくは、前記不適切人物パターンは、プロフィールのすべての項目に対する登録しているプロフィールの項目の割合、友達である前記第二のユーザの人数、および使用する電子メールアドレスの発行元のタイプ、および当該コンテンツ提供システムを使用し始めてから経過した時間、のうちの少なくとも２つの事項に関するパターンである。

不適切なコンテンツ書き込みを行なうとされている典型的な人物パターンと照合を行なうことにより、効率的に判定を行なうことができる。

なお、本願に開示する不適切コンテンツ判別装置及びコンテンツ提供システムの構成要素または構成要素の任意の組合せを、方法、装置、回路、システム、コンピュータプログラム、記録媒体、データ構造などに適用したものも、他の態様として有効である。

本発明によると、地名または伏字が文字列に含まれている場合であっても従来よりも確実に不適切な内容の書込みを見つけることができる。

図１はＳＮＳシステム１および端末装置２を含むネットワークシステムの例を示す図、図２はＳＮＳシステム１のハードウェア構成の例を示す図、図３はＳＮＳシステム１の機能的構成の例を示す図である。

図１において、ＳＮＳシステム１は、事業者がＳＮＳ（Social Networking Service）のサービス、例えば、メッセージ、日記、コミュニティ、および友達などのサービスをユーザに提供するためのシステムである。

ＳＮＳシステム１と各端末装置２とは、インターネットなどのネットワークを介して互いに接続可能である。

ＳＮＳシステム１は、図２に示すように、ＣＰＵ１０ａ、ＲＡＭ１０ｂ、ＲＯＭ１０ｃ、ハードディスク１０ｄ、ＮＩＣ１０ｅ、そのほか種々のハードウェアによって構成される。

ＲＯＭ１０ｃまたはハードディスク１０ｄには、図３に示すサービス提供処理部１００、会員特性更新部１２１、プロファイリング評価部１２２、書込パターン評価部１２３、総合評価部１２４、記事処分処理部１２５、会員特性記憶部１３１、記事ログ記憶部１３２、プロファイリングパターン記憶部１３３、不適切疑義パターン記憶部１３４、および会員別評価点記憶部１３５などの機能を実現するためのプログラムおよびデータが格納されている。これらのプログラムおよびデータは必要に応じてＲＡＭ１０ｂにロードされ、ＣＰＵ１０ａによってプログラムが実行される。

ＳＮＳシステム１として、ワークステーションまたはいわゆるサーバ機などが用いられる。図３の各部が複数台の装置に分散されるようにＳＮＳシステム１を構成してもよい。

端末装置２は、ユーザがＳＮＳを利用するためのクライアントである。端末装置２には、インターネットに接続する機能、Ｗｅｂブラウザ、およびメーラが備わっている。端末装置２として、パーソナルコンピュータまたは携帯電話端末などが用いられる。

本サービスの会員であるユーザ（以下、単に「会員」と記載する。）には１人ずつ１つの会員ＩＤが与えられている。

次に、ＳＮＳシステム１の各部の機能を、サービスの提供のための全般的な処理および不適切と思われる記事の非公開のための処理に大別して説明する。

〔サービスの提供のための全般的な処理〕
図４は書込ログデータＲＢの例を示す図である。

サービス提供処理部１００は、主に会員マスタ記憶部１０１、記事データ記憶部１０２、画面表示処理部１０３、プロフィール等受付部１０４、および書込要求受付部１０５によって構成され、ＳＮＳのサービスを基本的に従来通りに提供するための処理を行う。

画面表示処理部１０３は、入会の手続を行うための画面のほか、会員が自分のプロフィールを記入しまたは修正するための画面、コミュニティを開設しまたは管理するための画面、自分の日記を管理するための画面、自分または他の会員の日記に記事を書き込むための画面、メッセージを書いて他の会員に送るための画面、コミュニティに記事を投稿するための画面、他の会員を友達に加えるための画面、他の会員を友達から外すための画面、自分宛てのメッセージを閲覧しまたは管理するための画面、自分または他の会員の日記の記事を閲覧するための画面、およびコミュニティの記事を閲覧するための画面などを、端末装置２に表示させるための処理を行う。具体的には、端末装置２からの要求に応じて、各画面を表示するための画面データ（例えば、ＨＴＭＬファイルおよびＧＩＦファイルなど）をその端末装置２に送信する。この際に、後述する会員マスタデータＤＴＫおよび記事原本データＤＴＡが適宜用いられる。

以下、メッセージ、コミュニティの記事、および日記の記事を「記事」と総称する。また、メッセージ（記事）を書いて他の会員に送ること、コミュニティに記事を投稿すること、および日記に記事を書き込むことを、「記事の書込み」または「記事を書き込むなどと総称する。なお、記事の書込みは、記事のテキストデータまたは画像データなどを端末装置２からＳＮＳシステム１にアップロードすることによって、行われる。

ただし、従来とは異なり、画面表示処理部１０３は、後述する書込ログデータＲＢの「レベル」フィールドが「保留レベル」または「削除レベル」のいずれかである記事を除外して画面を表示させる。つまり、このような書込ログデータＲＢを有する記事は、非公開の取扱いを受ける。書込ログデータＲＢについては、後に順次説明する。

会員マスタ記憶部１０１には、会員ごとの会員マスタデータＤＴＫが記憶（登録）されている。会員マスタデータＤＴＫには、その会員の会員ＩＤ、氏名、ニックネーム、年齢、入会した日（入会年月日）、電子メールアドレス、プロフィール、および友達である他の会員ごとの会員ＩＤなどが示される。プロフィールには、性別、住所、勤務地、誕生日、血液型、および趣味などの項目の情報が含まれる。

プロフィール等受付部１０４は、従来と同様に、端末装置２から送信されてきた、会員が記入しまたは修正したプロフィールまたは指定しまたは修正した友達関係の情報を、受け付ける。そして、この情報に基づいてその会員の会員マスタデータＤＴＫの内容を更新する。

書込要求受付部１０５は、従来と同様に、端末装置２から送信されてきた、会員が書き込むように要求した記事の内容およびその書込先を示すデータを、受け付ける。そして、ユニークな記事ＩＤをその記事に対して発行し、その記事の内容および発行した記事ＩＤを示す記事原本データＤＴＡを生成し、記事データ記憶部１０２の中の書込先に対応する領域（例えば、ディレクトリ）に記憶させる。これにより、記事の書込み（アップロード）が完了する。

さらに、このような従来の処理に加えて、書込要求受付部１０５は、記事の書込みが完了するごとに、その記事の記事ＩＤ、書込みを要求した（つまり、書込みを行った）会員の会員ＩＤ、書込先、書込みの日付および時刻（書込日時）、行数、および内容（書込内容）などを示す書込ログデータＲＢを生成し、記事ログ記憶部１３２に記憶させる。このようにして、記事ログ記憶部１３２には、図４に示すように、書込ログデータＲＢが蓄積される。そのほか、書込ログデータＲＢは、第二の評価点、評価スコア、およびレベルの各フィールドを有する。これらの初期値は「Ｎｕｌｌ」である。第二の評価点などの意味については、後に説明する。

〔不適切と思われる記事の非公開のための処理〕
図５はプロファイリングパターンデータ４Ａの例を示す図、図６は会員特性データＲＡの例を示す図、図７は会員別評価点記憶部１３５における第一の評価点ＨＡの記憶の形態の例を示す図、図８は記事パターン評価処理の流れの例を説明するフローチャート、図９は検索された書込ログデータＲＢの例を示す図、図１０は総合処理の流れの例を説明するフローチャートである。

ＳＮＳシステム１は、記事が不適切である可能性の高さを表す「評価スコアＨＳ」という点数を算出する。評価スコアＨＳが高いほど、記事が不適切である可能性が高いことを意味する。

そして、ＳＮＳシステム１は、評価スコアＨＳが閾値ＴＨ１（例えば、「３０」）以上でありかつ閾値ＴＨ２（例えば、「５０」）未満である記事については、公開を一時的に停止（保留）して管理者が検査すべきレベルの不適切さであると、判別する。以下、このレベルを「保留レベル」と記載する。評価スコアＨＳが閾値ＴＨ２以上である記事については、管理者の検査を経ることなく直ちに非公開にし、削除すべきレベルの不適切さであると、判別する。以下、このレベルを「削除レベル」と記載する。

ところで、一般に、不適切な記事を書き込む会員には、一定のパターン（規則性）が見られることが多い。このパターンは、過去に不適切な記事を書き込んだ会員をプロファイリング（分析）することによって導き出すことができる。または、予測することができる。

図３のプロファイリングパターン記憶部１３３には、不適切な記事を書き込む傾向がどのようなパターンの特性を有する会員に高く見られまたは予測されるのかを示すデータが、記憶されている。

具体的には、図５のように、年齢、入会した日から経過した月数（入会後経過月）、友達の人数、プロフィールの全項目に対する登録している（つまり、空欄でない）項目の割合（プロフィール項目登録率）、および本サービスで会員が使用する電子メールアドレスの発行元のタイプ（メールアドレス発行元）の事項のうちの１つの事項または複数の事項の組合せのパターンごとに、不適切な記事を書き込む可能性（傾向）の高さを表す点数（プロファイリング評価点）を示すプロファイリングパターンデータ４Ａが記憶されている。

また、一般に、内容が同一でありまたは類似する記事が複数書き込まれることがある。これらの記事の内容は、他の記事の場合よりも、会規に違反している傾向が高い。例えば、違法な商品の販売のための宣伝の記事であったり、公序良俗に反するＷｅｂサイトに案内する記事であったり、事実とは異なることを風説する記事であったりする傾向が高い。また、類似性が一定以上である場合に、その傾向が大きい。また、このような記事は同一人が短時間に何回も書き込むことが多い。

不適切疑義パターン記憶部１３４には、複数の記事の類似性がどれくらい以上であればそれらの記事が不適切である可能性の高いか、つまり、不適切である可能性が高いと考えられる類似性の高さの基準の値を、記憶している。以下、この値を「類似性閾値ＴＲ」と記載する。

さらに、不適切疑義パターン記憶部１３４には、同一人が所定の時間Ｔ１以上のインターバルを置かずに記事の書込みを何回以上行った場合にそれらの記事が不適切である可能性が高いか、つまり、不適切である可能性が高いと考えられる書込みの連続回数の基準の値を、記憶している。以下、この値を「連続性閾値ＴＣ」と記載する。

会員特性記憶部１３１には、図６のように、会員ごとの、年齢、入会後経過月、友達の人数（友達人数）、プロフィール項目登録率、およびメール発行アドレス元などの特性を示す会員特性データＲＡが記憶されている。

新たな会員が入会するごとにその会員の会員特性データＲＡが生成され会員特性記憶部１３１に記憶される。ただし、この時点では、その会員特性データＲＡには、会員ＩＤ（その会員自身の会員ＩＤ）、メールアドレス発行元、および入会後経過月（ここでは、「０ヶ月」）以外は何も示されない。なお、メールアドレス発行元は、その会員が入会の手続の際に指定した電子メールアドレスのドメイン名に基づいて判別することができる。

その後、その会員が年齢またはプロフィールを入力したり修正したり友達を増やしたり減らしたりすると、すなわち、会員マスタ記憶部１０１に記憶されているその会員の会員マスタデータＤＴＫが更新されると、それに伴ってその会員の会員特性データＲＡが更新される。会員特性データＲＡの更新の処理は、会員特性更新部１２１によって次のように行われる。

会員特性更新部１２１は、会員マスタデータＤＴＫの内容の更新を、常時監視している。ある会員の会員マスタデータＤＴＫが更新されたことを検知すると、その会員マスタデータＤＴＫを呼び出する。

呼び出した会員マスタデータＤＴＫに示される年齢を、その会員の会員特性データＲＡ（つまり、その会員マスタデータＤＴＫに示される会員ＩＤと同一の会員ＩＤを示す会員特性データＲＡ）の「年齢」フィールドに書き込む。その会員マスタデータＤＴＫに示される友達の会員ＩＤの個数を計数し、その個数をその会員特性データＲＡの「友達人数」フィールドに書き込む。その会員マスタデータＤＴＫに示されるプロフィールの項目のうち、登録がなされている項目の個数を計数する。そして、プロフィールの全項目に対するその個数の割合を算出し、その会員特性データＲＡの「プロフィール項目登録率」フィールドに書き込む。これにより、その会員特性データＲＡの更新が完了する。

会員特性更新部１２１は、会員マスタデータＤＴＫの内容が更新されたことを検知するごとに、それに対応する会員特性データＲＡを更新する。

さらに、会員特性更新部１２１は、毎日所定の時刻（例えば、午前０時）に、会員特性データＲＡの「入会後経過月」を必要に応じて更新する。具体的には、会員マスタデータＤＴＫの入会年月日を参照し、入会してから経過した月数を算出し直す。そして、以前よりも月数が増えている場合は、算出し直した月数を「入会後経過月」に上書きする。この更新の処理は、すべての会員特性データＲＡについて行う。

記事ログ記憶部１３２には、前に図４で説明したように、書き込まれた記事ごとの書込ログデータＲＢが記憶される。

プロファイリング評価部１２２は、会員特性記憶部１３１に記憶されている会員特性データＲＡが更新されるごとに、その会員特性データＲＡに示される会員の、不適切な記事を書き込む可能性の高さ表す点数（以下、「第一の評価点ＨＡ」と記載する。）を、次のような方法で求める。

その会員特性データＲＡに示される年齢、入会後経過月、友達人数、プロフィール項目登録率、およびメールアドレス発行元のすべてが、プロファイリングパターン記憶部１３３に記憶されているいずれかのプロファイリングパターンデータ４Ａ（図５参照）に示される年齢、入会後経過月、友達人数、プロフィール項目登録率、およびメールアドレス発行元に該当するか否かをチェックする。

ただし、プロファイリングパターンデータ４Ａに空欄の事項がある場合は、その事項については、チェックの対象から除外する。例えば、書込ログデータＲＢに示される内容が「パターン１」のプロファイリングパターンデータ４Ａに示される内容に該当するか否かをチェックする場合は、年齢および友達人数の事項についてのみ、チェックする。

そして、いずれかのプロファイリングパターンデータ４Ａのそれらに該当する場合は、そのプロファイリングパターンデータ４Ａに示されるプロファイリング評価点を、その会員の第一の評価点ＨＡとする。なお、複数のプロファイリングパターンデータ４Ａのそれらに該当する場合は、それぞれに示されるプロファイリング評価点の合計を第一の評価点ＨＡとしてもよいし、最も高いプロファイリング評価点を第一の評価点ＨＡとしてもよい。

各会員の第一の評価点ＨＡは、図７に示すように、会員別評価点記憶部１３５に、各会員の会員ＩＤと対応付けられて記憶されている。プロファイリング評価部１２２によって会員の第一の評価点ＨＡが求められるごとに、会員別評価点記憶部１３５に記憶されている、その会員の第一の評価点ＨＡが更新される。

書込パターン評価部１２３は、書き込まれた記事の、不適切である可能性の高さを、前または後ろの記事とのパターンに基づいて算出（評価）する。ここで、書込パターン評価部１２３による処理の手順を、図８のフローチャートなどを参照して説明する。

書込パターン評価部１２３は、同一の会員が書き込んだ記事の書込ログデータＲＢ、つまり、同一の会員ＩＤを示す書込ログデータＲＢを、記事ログ記憶部１３２の中から検索する（図８の＃３０１）。例えば、「Ｕ００１」という会員ＩＤを示す書込ログデータＲＢを検索すると、図７に示すような検索結果が得られる。

その会員の書き込んだ記事ごとに、カウンタＫＡを１つずつ与える（＃３０２）。各カウンタＫＡの初期値は「０」である。

その会員の書き込んだ記事の連続性についての判別を、次のように行う（＃３０３）。時間的に隣り合う２つの記事の書込日時の時間差（インターバル）を算出する。インターバルが所定の時間Ｔ１以上である記事と記事との間を区切りとして、１つまたは複数の記事をグループ化する。

例えば、所定の時間Ｔ１が「１０分」である場合は、記事ＩＤが「Ａ１０００７」である記事と「Ａ１００１０」である記事との間を区切りとして、「Ａ１０００１」、「Ａ１０００３」、「Ａ１０００４」、「Ａ１０００５」、および「Ａ１０００７」の５つの記事を１つのグループにグループ化し、「Ａ１００１０」の記事を他の１つのグループにグループ化する。つまり、書込パターン評価部１２３は、前者の５つの記事を、連続的に書き込まれたものであると、みなす。

グループのメンバ（記事）の個数つまり書込みの連続回数が連続性閾値ＴＣ以上である場合は（＃３０４でＹｅｓ）、そのグループの各記事のカウンタＫＡに、所定の値である不適切疑義点数Ｖ１（例えば、「２０」）を加算する（＃３０５）。例えば、連続性閾値ＴＣが「３」であれば、上述の５つの記事それぞれのカウンタＫＡに「２０」ずつ加算する。

時間的に隣り合う２つの記事の内容の類似度（近似度、類似性の高さ）を算出する（＃３０６）。類似度の算出は、公知の方法によって行うことができる。例えば、下記の公知文献１に記載される、レーベンシュタイン距離を用いた方法によって行うことができる。または、下記の公知文献２、３に記載される、飯箸法によって行ってもよい。
〔公知文献１〕 特開２００７−３１０７４６号公報
〔公知文献２〕 ”「テキスト類似度・飯箸法」がアピール、第１６回次世代大学教育研究会「知の発掘」（東京）−−感性的研究生活（２５）”，２００８年３月５日インターネット検索，ＵＲＬ：http://shyosei.cocolog-nifty.com/shyoseilog/2007/08/1625#2f2e.html
〔公知文献３〕 ”文字の出現確率に基づく第２類の文字列類似度”，飯箸泰宏 著，２００８年３月５日インターネット検索，ＵＲＬ：http://www.sciencehouse.jp/etc/research/20070807.pdf
これら以外の公知文献に記載される方法を用いてもよい。

書込パターン評価部１２３は、前または後ろの記事との類似度が類似性閾値ＴＲ（例えば、「８０％」）以上である記事のカウンタＫＡに、所定の値である不適切疑義点数Ｖ２（例えば、「５０」）を加算する（＃３０７でＹｅｓ、＃３０８）。

この時点の各カウンタＫＡが示す点数が、各記事の、不適切である可能性の高さを表している。以下、このようにして求められた点数を「第二の評価点ＨＢ」と記載する。書込パターン評価部１２３は、各記事の第二の評価点ＨＢを、記事ログ記憶部１３２に記憶されている各記事の書込ログデータＲＢの「第二の評価点」フィールドに書き込む（＃３０９）。

図３に戻って、総合評価部１２４は、書き込まれた記事の、不適切である可能性の高さの総合的な評価を、図１０のフローチャートに示すような方法で行う。

評価の対象である記事を書き込んだ会員の第一の評価点ＨＡ（図７参照）を会員別評価点記憶部１３５から検索する（図１０の＃３２１）。その記事の書込ログデータＲＢに示される第二の評価点ＨＢと検索した第一の評価点ＨＡとを加算することによって、評価スコアＨＳを算出する（＃３２２）。

その評価スコアＨＳが閾値ＴＨ２以上である場合は（＃３２３でＹｅｓ）、その記事を削除レベルであると評価する（＃３２５）。閾値ＴＨ１以上でありかつ閾値ＴＨ２未満である場合は（＃３２３でＮｏ、＃３２４でＹｅｓ）、その記事を保留レベルであると評価する（＃３２６）。

そして、算出した評価スコアＨＳおよび評価したレベルを、その書込ログデータＲＢの「評価スコア」および「レベル」の各フィールドに書き込んでおく（＃３２７）。保留レベルおよび削除レベルのいずれの評価をも下さなかった場合は、「レベル」のフィールドには、不適切ではないことを意味する「通常」を書き込んでおく。

なお、上述の通り、保留レベルまたは削除レベルと評価（判別）された記事は、公開されない。

図３に戻って、記事処分処理部１２５は、総合評価部１２４によって保留レベルまたは削除レベルと判別された記事のデータを、次のように処分する。

記事処分処理部１２５は、削除レベルと判別された記事の記事原本データＤＴＡを記事データ記憶部１０２から削除するとともに、その記事の書込ログデータＲＢを記事ログ記憶部１３２から削除する。削除するタイミングは、総合評価部１２４による評価後すぐであってもよいし、所定の時刻（例えば、毎時０分）になったときであってもよい。

一方、記事処分処理部１２５は、保留レベルと判別された記事を削除してもよいか否かを、管理者に対して電子メールなどによって問い合せる。この際に、記事の内容を示すデータを管理者に送信する。管理者は、その記事を検査し、削除するか否かを決め、電子メールなどによって回答する。

そして、記事処分処理部１２５は、削除する旨の回答を受信した場合は、その記事の記事原本データＤＴＡを記事データ記憶部１０２から削除するとともに、その記事の書込ログデータＲＢを記事ログ記憶部１３２から削除する。削除しない旨の回答を受信した場合は、その記事の書込ログデータＲＢの「レベル」を「通常」に更新する。

なお、「レベル」が「通常」である書込ログデータＲＢは、評価後、速やかに記事ログ記憶部１３２から削除される。または、所定の時刻になったときに削除される。

図１１はＳＮＳシステム１の全体的な処理の流れの例を説明するフローチャートである。

次に、ＳＮＳシステム１における、特に不適切な記事の非表示のための全体的な処理の流れを、図１１のフローチャートを参照して説明する。

ＳＮＳシステム１は、イベントが発生するごとに、そのイベントに応じて次のような処理を実行する。

ＳＮＳシステム１は、新規の会員の登録の手続のデータを受信すると（＃１１でＹｅｓ）、その会員の会員マスタデータＤＴＫを生成し記憶するとともに（＃１２）、その会員の会員特性データＲＡ（図６参照）を生成し記憶する（＃１３）。

または、会員のプロフィールまたは友達関係の変更のデータを受信すると（＃１４でＹｅｓ）、そのデータに従ってその会員の会員マスタデータＤＴＫを更新する（＃１５）。さらに、その会員マスタデータＤＴＫの更新に伴って、その会員の会員特性データＲＡを更新する（＃１６）。さらに、その会員特性データＲＡの更新に伴って、その会員の第一の評価点ＨＡの算出（または算出のやり直し）を行う（＃１７）。月日の経過に伴って会員の入会後経過月が増えた場合も同様に、その会員の会員特性データＲＡを更新し（＃１６）、その会員の第一の評価点ＨＡを算出し直す（＃１７）。

または、新たな記事の内容および書込先のデータを受信すると（＃１８でＹｅｓ）、その記事の記事原本データＤＴＡを生成し記憶するとともに（＃１９）、その記事の書込ログデータＲＢを生成し記憶する（＃２０）。

または、記事の評価を行うべきタイミングが訪れたら（＃２１でＹｅｓ）、それぞれの会員が書き込んだ記事について、書込みのパターンに基づく評価を行う（＃２２）。この評価の方法は、前に図８で説明した通りである。さらに、書込みを行った会員自身の評価を加えるなどして、総合的な評価を行う（＃２３）。総合的な評価の方法は、前に図１０で説明した通りである。そして、削除レベルの評価を下した記事のデータを、適当なタイミングで削除する（＃２４）。保留レベルの評価を下した記事については、取扱い方を管理者に問い合せる。そして、削除すべき旨の回答を得た場合は、その記事の評価を削除レベルに変更し、その記事のデータを削除する。削除すべきでない旨の回答を得た場合は、不適切でない（つまり、通常の）記事として取り扱う。

または、記事の閲覧の要求を端末装置２から受信したら（＃２５でＹｅｓ）、その記事のレベルが削除レベルおよび保留レベルのいずれでもない場合は（＃２６でＮｏ）、その記事をその端末装置２に表示させる（＃２７）。削除レベルまたは保留レベルである場合は（＃２６でＹｅｓ）、その要求を拒否するなどして、その記事を端末装置２に表示しないようにする（＃２８）。

本実施形態によると、書込みが禁止されている語句（禁止語）を有無に依らず不適切な記事の評価を行う。よって、従来よりも確実に不適切な内容の書込みを見つけることができる。

図１２はＳＮＳシステム１の機能的構成の変形例を示す図、図１３は補正点定義記憶部１４１における評価補正点の記憶の形態の例を示す図、図１４は各会員の評価補正点ＨＴの遷移の例を示す図、図１５は評価スコアＨＳの補正の例を示す図である。

本実施形態では、２つの記事の類似度を、両記事の内容を表す文字列つまりテキストデータ同士を比較するなどして算出したが、両記事に画像が含まれている場合は、画像同士を比較することによって算出してもよい。

本実施形態では、記事の不適切性の高さを、書込みのパターンによる評価結果およびその記事を書き込んだ会員のプロフィールなどの特性とプロファイリングのパターンとのマッチングによる評価結果に基づいて評価スコアＨＳを算出したが、それ以外の情報に基づいてこの評価スコアＨＳの補正を行ってもよい。例えば、会員について起こった様々な事柄に応じて、その会員の記事の評価スコアＨＳを加減する補正を行ってもよい。この場合は、ＳＮＳシステム１を次のように構成すればよい。

図１２に示すように、ＳＮＳシステム１に、さらに、補正点定義記憶部１４１、会員別補正点決定部１４２、会員別補正点記憶部１４３、および評価補正部１４４を設ける。

補正点定義記憶部１４１には、図１３に示すように、どのような事柄が会員に起こりまたはどのような行動を会員が取ったときに評価スコアＨＳを何点補正すべきか、つまり、事柄または行動ごとの補正の点数（以下、「評価補正点」と記載する。）を、記憶しておく。所定の期間中に一定の数の記事を書き込んだり、同一でない書込先に連続して記事を書き込んだりするなど、優良な会員によく見られるパターンの事柄または行動には、マイナスの値の評価補正点を定義しておく。不適切な記事を書き込むなど、不適切な会員によく見られるパターンの事柄または行動には、プラスの値の評価補正点を定義しておく。

会員別補正点決定部１４２は、補正点定義記憶部１４１に示されるいずれかの事柄が会員に起こったか否かおよびいずれかの行動を会員が取ったか否かを監視する。そして、事柄が起こりまたは行動が取られた場合に、それに対応する評価補正点を、その事柄が起こりまたは行動を取った会員の評価補正点ＨＴに決定する。決定した評価補正点ＨＴは、その会員の会員ＩＤと対応付けられて会員別補正点記憶部１４３に記憶される。

その後、別の事柄が起こりまたは行動が取られた場合は、会員別補正点決定部１４２は、評価補正点ＨＴを決定し直す。そして、会員別補正点記憶部１４３は、その会員の古いほうの評価補正点ＨＴを消去し、決定し直された評価補正点ＨＴをその会員の会員ＩＤと対応付けて記憶し直す。このように、各会員の評価補正点ＨＴは、図１４に示すように、適宜、変移する。

評価補正部１４４は、記事の評価スコアＨＳを、その記事を書き込んだ会員の評価補正点ＨＴに基づいて補正する。そして、補正後の評価スコアＨＳに基づいて、その記事の総合的な評価をやり直す。

具体的には、評価スコアＨＳに評価補正点ＨＴを加算することによって、評価スコアＨＳを補正する。もちろん、評価補正点ＨＴがマイナスの値である場合は、評価スコアＨＳは減少する。そして、補正後の評価スコアＨＳが閾値ＴＨ１以上でありかつ閾値ＴＨ２未満であれば、保留レベルであると評価する。閾値ＴＨ２以上であれば、削除レベルであると評価する。その結果、例えば会員ＩＤが「Ｕ００１」である会員の記事の評価スコアＨＳは、図１５のように補正される。

または、書込みを禁止する語句を辞書データベースに登録しておき、それらの語句のうちのいずれかが記事に含まれていないかどうかをチェックし、含まれている場合にその記事の評価スコアＨＳに所定の点数を加算する補正を行ってもよい。

本実施形態では、種々の事項についての特徴の組合せのパターンに基づいて、会員の、不適切な記事の書込みを行う可能性の高さを算出した。しかし、一般に、１つ１つの事項だけに着目しても、不適切な記事の書込みを行う可能性の高低の傾向が表れていることがある。

例えば、年齢だけに着目しても、ある一定の年齢の会員が他の年齢の会員よりも頻繁に不適切な記事の書込みを行っている、という傾向が、見られることがある。または、入会してから所定の時間を経過していない会員が頻繁に不適切な記事の書込みを行っている、という傾向が、見られることがある。または、友達の人数が所定の人数未満である会員が頻繁に不適切な記事の書込みを行っている、という傾向が、見られることがある。または、プロフィール項目登録率が所定の値未満である会員が頻繁に不適切な記事の書込みを行っている、という傾向が、見られることがある。または、いわゆるフリーメールの電子メールアドレスを使用する会員が頻繁に不適切な記事の書込みを行っている、という傾向が、見られることがある。

そこで、個々の項目ごとに、不適切な記事の書込みを行う可能性の高さを算出し、それらを合計することによって、会員の、不適切な記事の書込みを行う可能性の高さを算出してもよい。

本発明は、ＳＮＳにおける各サービスの記事の不適正さを評価するだけでなく、電子掲示板の記事および電子メールなどの不適正さを評価するためにも、適用することができる。

その他、ＳＮＳシステム１の全体または各部の構成、処理内容、処理順序、データの構成などは、本発明の趣旨に沿って適宜変更することができる。

上に述べた実施例には、以下に述べるような付記も開示されている。
（付記１）複数の不適切なコンテンツがアップロードされた際に見られる傾向のパターンである不適切アップロードパターンを記憶する不適切アップロードパターン記憶手段と、
複数のコンテンツがアップロードされたときに前記不適切アップロードパターン記憶手段に記憶されている前記不適切アップロードパターンが表れたか否かをチェックすることによって、当該複数のコンテンツが不適切であるか否かを判別する、不適切判別手段と、
を有することを特徴とする不適切コンテンツ判別装置。
（付記２）不適切なコンテンツをアップロードする人に見られる傾向のパターンである不適切人物パターンを記憶する不適切人物パターン記憶手段と、
前記不適切人物パターン記憶手段に記憶されている前記不適切人物パターンにユーザが該当するか否かをチェックすることによって、当該ユーザがアップロードしたコンテンツが不適切であるか否かを判別する、不適切判別手段と、
を有することを特徴とする不適切コンテンツ判別装置。
（付記３）第一のユーザがネットワークを介してアップロードしたコンテンツである第一のコンテンツを第二のユーザにネットワークを介して提供するためのコンテンツ提供システムにおいて、
複数の不適切なコンテンツがアップロードされた際に見られる傾向のパターンである不適切アップロードパターンを記憶する不適切アップロードパターン記憶手段と、
複数の前記第一のコンテンツがアップロードされたときに前記不適切アップロードパターン記憶手段に記憶されている前記不適切アップロードパターンが表れた場合に、当該複数の第一のコンテンツに対して、不適切である可能性の高さを表わす点数である不適切性点数を所定の点数だけ付与する、不適切性点数付与手段と、
前記第一のコンテンツの前記不適切性点数が所定の点数を下回る場合は、当該第一のコンテンツを前記第二のユーザに提供し、上回る場合は、当該第一のコンテンツを前記第二のユーザに提供しない、コンテンツ提供手段と、
を有することを特徴とするコンテンツ提供システム。
（付記４）前記不適切アップロードパターンは、同一人が所定の時間以下のインターバルで所定の個数以上のコンテンツをアップロードする、というパターンである、
付記３記載のコンテンツ提供システム。
（付記５）前記不適切アップロードパターンは、同一人が２つ以上の同一のまたは類似するコンテンツを続けてアップロードする、というパターンである、
付記３記載のコンテンツ提供システム。
（付記６）第一のユーザがネットワークを介してアップロードしたコンテンツである第一のコンテンツを第二のユーザにネットワークを介して提供するためのコンテンツ提供システムにおいて、
不適切なコンテンツをアップロードする人に見られる傾向のパターンである不適切人物パターンを記憶する不適切人物パターン記憶手段と、
前記不適切人物パターン記憶手段に記憶されている前記不適切人物パターンに前記第一のユーザが該当する場合に、前記第一のコンテンツに対して、不適切である可能性の高さを表わす点数である不適切性点数を所定の点数だけ付与する、不適切性点数付与手段と、
前記第一のコンテンツの前記不適切性点数が所定の点数を下回る場合は、当該第一のコンテンツを前記第二のユーザに提供し、上回る場合は、当該第一のコンテンツを前記第二のユーザに提供しない、コンテンツ提供手段と、
を有することを特徴とするコンテンツ提供システム。
（付記７）前記不適切人物パターンは、プロフィールのすべての項目に対する登録しているプロフィールの項目の割合、友達である前記第二のユーザの人数、および使用する電子メールアドレスの発行元のタイプ、および当該コンテンツ提供システムを使用し始めてから経過した時間、のうちの少なくとも２つの事項に関するパターンである、
付記６記載のコンテンツ提供システム。
（付記８）第一のユーザがネットワークを介してアップロードしたコンテンツである第一のコンテンツを第二のユーザにネットワークを介して提供するためのコンテンツ提供システムにおいて、
不適切なコンテンツをアップロードする人に見られる傾向のパターンである不適切人物パターンを記憶する不適切人物パターン記憶手段と、
複数の不適切なコンテンツがアップロードされた際に見られる傾向のパターンである不適切アップロードパターンを記憶する不適切アップロードパターン記憶手段と、
前記不適切人物パターン記憶手段に記憶されている前記不適切人物パターンに前記第一のユーザが該当する場合に、前記第一のコンテンツに対して、不適切である可能性の高さを表わす点数である第一の不適切性点数を所定の点数だけ付与する、第一の不適切性点数付与手段と、
複数の前記第一のコンテンツがアップロードされたときに前記不適切アップロードパターン記憶手段に記憶されている前記不適切アップロードパターンが表れた場合に、当該複数の第一のコンテンツに対して、不適切である可能性の高さを表わす点数である第二の不適切性点数を所定の点数だけ付与する、第二の不適切性点数付与手段と、
前記第一のコンテンツの前記第一の不適切性点数と前記第二の不適切性点数との合計値である合計点数を算出する合計算出手段と、
前記第一のコンテンツの、前記合計算出手段によって算出された前記合計点数が所定の点数を下回る場合は、当該第一のコンテンツを前記第二のユーザに提供し、上回る場合は、当該第一のコンテンツを前記第二のユーザに提供しない、コンテンツ提供手段と、
を有することを特徴とするコンテンツ提供システム。
（付記９）前記第一のユーザが不適切なコンテンツをアップロードした場合に、正の値である第一の補正点数を前記第一のコンテンツに対して付与し、前記第一のユーザが優良な行動を行った場合に、負の値である第二の補正点数を前記第一のコンテンツに対して付与する、補正点数付与手段、を有し、
前記合計算出手段は、前記合計点数として、前記第一の不適切性点数と前記第二の不適切性点数との合計値の代わりに、前記第一の不適切性点数と前記第二の不適切性点数と前記補正点数付与手段によって付与された前記第一の補正点数または前記第二の補正点数との合計値を算出する、
付記８記載のコンテンツ提供システム。
（付記１０）複数の不適切なコンテンツがアップロードされた際に見られる傾向のパターンである不適切アップロードパターンを不適切アップロードパターン記憶手段に記憶させておき、
コンピュータに、複数のコンテンツがアップロードされたときに前記不適切アップロードパターン記憶手段に記憶されている前記不適切アップロードパターンが表れたか否かをチェックさせることによって、当該複数のコンテンツが不適切であるか否かを判別する、
ことを特徴とする不適切コンテンツ判別方法。
（付記１１）不適切なコンテンツをアップロードする人に見られる傾向のパターンである不適切人物パターンを不適切人物パターン記憶手段に記憶させておき、
コンピュータに、前記不適切人物パターン記憶手段に記憶されている前記不適切人物パターンにユーザが該当するか否かをチェックさせることによって、当該ユーザがアップロードしたコンテンツが不適切であるか否かを判別する、
ことを特徴とする不適切コンテンツ判別方法。
（付記１２）第一のユーザがネットワークを介してアップロードしたコンテンツである第一のコンテンツを第二のユーザにネットワークを介して提供するコンテンツ提供方法において、
複数の不適切なコンテンツがアップロードされた際に見られる傾向のパターンである不適切アップロードパターンを不適切アップロードパターン記憶手段に記憶させておき、
コンピュータに、
複数の前記第一のコンテンツがアップロードされたときに前記不適切アップロードパターン記憶手段に記憶されている前記不適切アップロードパターンが表れた場合に、当該複数の第一のコンテンツに対して、不適切である可能性の高さを表わす点数である不適切性点数を所定の点数だけ付与する処理を実行させ、
前記第一のコンテンツの前記不適切性点数が所定の点数を下回る場合は、当該第一のコンテンツを前記第二のユーザに提供する処理を実行させ、上回る場合は、当該第一のコンテンツを前記第二のユーザに提供させない、
ことを特徴とするコンテンツ提供方法。
（付記１３）第一のユーザがネットワークを介してアップロードしたコンテンツである第一のコンテンツを第二のユーザにネットワークを介して提供するコンテンツ提供方法において、
不適切なコンテンツをアップロードする人に見られる傾向のパターンである不適切人物パターンを不適切人物パターン記憶手段に記憶させておき、
コンピュータに、
前記不適切人物パターン記憶手段に記憶されている前記不適切人物パターンに前記第一のユーザが該当する場合に、前記第一のコンテンツに対して、不適切である可能性の高さを表わす点数である不適切性点数を所定の点数だけ付与する処理を実行させ、
前記第一のコンテンツの前記不適切性点数が所定の点数を下回る場合は、当該第一のコンテンツを前記第二のユーザに提供する処理を実行させ、上回る場合は、当該第一のコンテンツを前記第二のユーザに提供させない、
ことを特徴とするコンテンツ提供方法。
（付記１４）第一のユーザがネットワークを介してアップロードしたコンテンツである第一のコンテンツを第二のユーザにネットワークを介して提供しかつ複数の不適切なコンテンツがアップロードされた際に見られる傾向のパターンである不適切アップロードパターンを記憶する不適切アップロードパターン記憶手段にアクセス可能であるコンピュータのために用いられるコンピュータプログラムにおいて、
前記コンピュータに、
複数の前記第一のコンテンツがアップロードされたときに前記不適切アップロードパターン記憶手段に記憶されている前記不適切アップロードパターンが表れた場合に、当該複数の第一のコンテンツに対して、不適切である可能性の高さを表わす点数である不適切性点数を所定の点数だけ付与する処理を実行させ、
前記第一のコンテンツの前記不適切性点数が所定の点数を下回る場合は、当該第一のコンテンツを前記第二のユーザに提供する処理を実行させ、上回る場合は、当該第一のコンテンツを前記第二のユーザに提供することを拒否させる、
ことを特徴とするコンピュータプログラム。

ＳＮＳシステムおよび端末装置を含むネットワークシステムの例を示す図である。 ＳＮＳシステムのハードウェア構成の例を示す図である。 ＳＮＳシステムの機能的構成の例を示す図である。 書込ログデータの例を示す図である。である。 プロファイリングパターンデータの例を示す図である。 会員特性データの例を示す図である。 会員別評価点記憶部における第一の評価点の記憶の形態の例を示す図である。 記事パターン評価処理の流れの例を説明するフローチャートである。 検索された書込ログデータの例を示す図である。 総合処理の流れの例を説明するフローチャートである。 ＳＮＳシステムの全体的な処理の流れの例を説明するフローチャートである。 ＳＮＳシステムの機能的構成の変形例を示す図である。 補正点定義記憶部における評価補正点の記憶の形態の例を示す図である。 各会員の評価補正点の遷移の例を示す図である。 評価スコアの補正の例を示す図である。

符号の説明

１ ＳＮＳシステム（不適切コンテンツ判別装置、コンテンツ提供システム）
１０３ 画面表示処理部（コンテンツ提供手段）
１２３ 書込パターン評価部（不適切判別手段、不適切性点数付与手段）
１２４ 総合評価部（不適切判別手段、不適切性点数付与手段）
１３３ プロファイリングパターン記憶部（不適切人物パターン記憶手段）
１３４ 不適切疑義パターン記憶部（不適切アップロードパターン記憶手段）

Claims (10)

1. 複数の不適切なコンテンツがアップロードされた際に見られる傾向のパターンである不適切アップロードパターンを記憶する不適切アップロードパターン記憶手段と、
   複数のコンテンツがアップロードされたときに前記不適切アップロードパターン記憶手段に記憶されている前記不適切アップロードパターンが表れたか否かをチェックすることによって、当該複数のコンテンツが不適切であるか否かを判別する、不適切判別手段と、
   を有する不適切コンテンツ判別装置。
2. 不適切なコンテンツをアップロードする人に見られる傾向のパターンである不適切人物パターンを記憶する不適切人物パターン記憶手段と、
   前記不適切人物パターン記憶手段に記憶されている前記不適切人物パターンにユーザが該当するか否かをチェックすることによって、当該ユーザがアップロードしたコンテンツが不適切であるか否かを判別する、不適切判別手段と、
   を有する不適切コンテンツ判別装置。
3. 第一のユーザがネットワークを介してアップロードしたコンテンツである第一のコンテンツを第二のユーザにネットワークを介して提供するためのコンテンツ提供システムにおいて、
   複数の不適切なコンテンツがアップロードされた際に見られる傾向のパターンである不適切アップロードパターンを記憶する不適切アップロードパターン記憶手段と、
   複数の前記第一のコンテンツがアップロードされたときに前記不適切アップロードパターン記憶手段に記憶されている前記不適切アップロードパターンが表れた場合に、当該複数の第一のコンテンツに対して、不適切である可能性の高さを表わす点数である不適切性点数を所定の点数だけ付与する、不適切性点数付与手段と、
   前記第一のコンテンツの前記不適切性点数が所定の点数を下回る場合は、当該第一のコンテンツを前記第二のユーザに提供し、上回る場合は、当該第一のコンテンツを前記第二のユーザに提供しない、コンテンツ提供手段と、
   を有するコンテンツ提供システム。
4. 前記不適切アップロードパターンは、同一人が所定の時間以下のインターバルで所定の個数以上のコンテンツをアップロードする、というパターンである、
   請求項３記載のコンテンツ提供システム。
5. 前記不適切アップロードパターンは、同一人が２つ以上の同一のまたは類似するコンテンツを続けてアップロードする、というパターンである、
   請求項３記載のコンテンツ提供システム。
6. 第一のユーザがネットワークを介してアップロードしたコンテンツである第一のコンテンツを第二のユーザにネットワークを介して提供するためのコンテンツ提供システムにおいて、
   不適切なコンテンツをアップロードする人に見られる傾向のパターンである不適切人物パターンを記憶する不適切人物パターン記憶手段と、
   前記不適切人物パターン記憶手段に記憶されている前記不適切人物パターンに前記第一のユーザが該当する場合に、前記第一のコンテンツに対して、不適切である可能性の高さを表わす点数である不適切性点数を所定の点数だけ付与する、不適切性点数付与手段と、
   前記第一のコンテンツの前記不適切性点数が所定の点数を下回る場合は、当該第一のコンテンツを前記第二のユーザに提供し、上回る場合は、当該第一のコンテンツを前記第二のユーザに提供しない、コンテンツ提供手段と、
   を有するコンテンツ提供システム。
7. 前記不適切人物パターンは、プロフィールのすべての項目に対する登録しているプロフィールの項目の割合、友達である前記第二のユーザの人数、および使用する電子メールアドレスの発行元のタイプ、および当該コンテンツ提供システムを使用し始めてから経過した時間、のうちの少なくとも２つの事項に関するパターンである、
   請求項６記載のコンテンツ提供システム。
8. 複数の不適切なコンテンツがアップロードされた際に見られる傾向のパターンである不適切アップロードパターンを不適切アップロードパターン記憶手段に記憶させておき、
   コンピュータに、複数のコンテンツがアップロードされたときに前記不適切アップロードパターン記憶手段に記憶されている前記不適切アップロードパターンが表れたか否かをチェックさせることによって、当該複数のコンテンツが不適切であるか否かを判別する、
   不適切コンテンツ判別方法。
9. 不適切なコンテンツをアップロードする人に見られる傾向のパターンである不適切人物パターンを不適切人物パターン記憶手段に記憶させておき、
   コンピュータに、前記不適切人物パターン記憶手段に記憶されている前記不適切人物パターンにユーザが該当するか否かをチェックさせることによって、当該ユーザがアップロードしたコンテンツが不適切であるか否かを判別する、
   不適切コンテンツ判別方法。
10. 第一のユーザがネットワークを介してアップロードしたコンテンツである第一のコンテンツを第二のユーザにネットワークを介して提供しかつ複数の不適切なコンテンツがアップロードされた際に見られる傾向のパターンである不適切アップロードパターンを記憶する不適切アップロードパターン記憶手段にアクセス可能であるコンピュータのために用いられるコンピュータプログラムにおいて、
    前記コンピュータに、
    複数の前記第一のコンテンツがアップロードされたときに前記不適切アップロードパターン記憶手段に記憶されている前記不適切アップロードパターンが表れた場合に、当該複数の第一のコンテンツに対して、不適切である可能性の高さを表わす点数である不適切性点数を所定の点数だけ付与する処理を実行させ、
    前記第一のコンテンツの前記不適切性点数が所定の点数を下回る場合は、当該第一のコンテンツを前記第二のユーザに提供する処理を実行させ、上回る場合は、当該第一のコンテンツを前記第二のユーザに提供することを拒否させる、
    コンピュータプログラム。
    

Images