JP2006268303A - 投稿データ評価装置 - Google Patents

Abstract

【課題】 投稿データが電子掲載に適するかを好適に判定する。
【解決手段】 クライアント端末通信部１２２は、評価対象となるべき投稿データをクライアント端末３００から受信する。投稿データ評価部１３２は、投稿データが電子掲載に適する度合いを適合評価値として指標化し、投稿データのランクを算出された適合評価値によって特定する。掲載制御部１３４は、投稿データ評価部１３２による判定結果に応じて投稿データの電子掲載を行う。副判定部１３８は、電子掲載の適否が評価者によって判定されるべきランクである要判定ランクとして投稿データのランクが特定されたときには、評価者からの指示入力に応じて投稿データの電子掲載の適否を判定する。
【選択図】 図２

Description

この発明は、投稿データの掲載可否を評価するための技術、に関する。

近年、コンピュータの普及とネットワーク技術の進展に伴い、ネットワークを介した電子情報の交換が盛んになっている。そのような一例として、電子掲示板システムを挙げることができる。電子掲示板システムの投稿者は、ネットワークを介して接続されたサーバに対して投稿データを送信する。サーバは投稿データを電子掲載する。電子掲示板システムのユーザは、電子掲載された投稿データをクライアント端末にて確認できる。電子掲示板システムは、複数者間における情報共有に有効なツールとして、広く利用されている。

しかし、投稿データの内容が電子掲載に不適切な内容である場合には、電子掲示板システムの公共性が損なわれてしまう。たとえば、他人を誹謗中傷するような内容、掲示板の趣旨に沿わない内容、広告的な内容などである。

従来においては、たとえば、電子掲示板システムの管理者が投稿データの内容をチェックしていた。管理者は、投稿データの内容が電子掲載に不適切な内容であれば、その投稿データをサーバから手動で削除していた。
あるいは、投稿データがあらかじめ定義された不適切なキーワードを含むときには、不適切な投稿データであるとみなして電子掲載を拒否するシステムも考案されている（例えば、特許文献１、特許文献２参照）。
以下、電子掲載に不適切な内容とされる投稿データのことを、特に、「不良投稿データ」とよぶ。また、電子掲載に適切な内容とされる投稿データのことを、特に、「適合投稿データ」とよぶこととする。
特開２００４−３３４４５８号公報 特開２００４−２４６７６０号公報

電子掲載されている投稿データの適否について管理者が責任を持たなければならないとすれば、その電子掲示板システムの管理負担は大きなものになる。
そもそも、投稿データの適否は電子掲示板システムが対象とするサブジェクトや対象ユーザ層などによって判断されるべきものである。投稿データが不適切なキーワードを含んでいても、その投稿データが不良投稿データであると判断するのは早計である。同様に、投稿データが不適切なキーワードを含んでいなくても、その投稿データが適合投稿データであるともいえない。

本発明はこのような状況に鑑みてなされたものであり、その主たる目的は、投稿データの掲載可否を好適に評価するための技術を提供することにある。

本発明のある態様は、投稿データ評価装置である。
この装置は、評価対象となるべき投稿データが電子掲載に適する度合いを適合評価値として指標化し、適合評価値に応じてランク付けして、そのランクに応じて電子掲載の可否を判定する。
電子掲載の適否が評価者によって判定されるべきランクとされたときには、評価者からの指示入力に応じて電子掲載の適否が判定される。

この態様によると、投稿データが電子掲載に適する度合いを示す適合評価値が算出される。そして、適合評価値により振り分けられたランクに応じて電子掲載の可否が判定される。そのため、各ランクと適合評価値の対応関係を柔軟に設定しやすい。また、必要に応じて評価者が電子掲載の適否を判定する機会が担保される。そのため、管理者のチェック負担を軽減しつつも、投稿データの内容についてより精緻に判定されやすくなる。

なお、以上の構成要素の任意の組合せ、本発明を方法、装置、システム、記録媒体、コンピュータプログラムにより表現したものもまた、本発明の態様として有効である。

本発明によれば、投稿データの掲載可否を好適に評価するための技術を提供することができる。

図１は、電子掲示板システムのハードウェア構成図である。
電子掲示板サーバ１００は、インターネット１２を介して接続されたクライアント端末３００ａやクライアント端末３００ｂなどの複数の端末（以下、単に「クライアント端末３００」という）に、サービスを提供する。また、電子掲示板サーバ１００は、外部評価装置２００ともインターネット１２を介して接続される。電子掲示板サーバ１００と外部評価装置２００は専用回線にて接続されてもよい。

電子掲示板サーバ１００は、各クライアント端末３００から受信した投稿データを電子掲載する。クライアント端末３００は、電子掲載された投稿データの内容を閲覧できる。このようにして、複数のクライアント端末３００間で投稿データの情報が共有される。電子掲示板サーバ１００は、受信した投稿データの内容が電子掲載に適する内容であるか判定する機能を持つ。電子掲示板サーバ１００は、投稿データの内容が電子掲載に適する内容であるかを外部評価装置２００に判定させてもよい。この場合には、電子掲示板サーバ１００は、投稿データを外部評価装置２００に一旦送信し、外部評価装置２００からその判定結果を示す評価情報を受信する。外部評価装置２００は、中立的な評価機関であってもよい。外部評価装置２００は、ソフトウェアにより投稿データが電子掲載に適合するかについて機械的に判定してもよい。あるいは、外部評価装置２００のユーザが投稿データの内容を目視確認して掲載に適する度合いを判定してもよい。このようにして、電子掲示板サーバ１００は、適合投稿データだけを電子掲載する。
本発明の主たる目的は、投稿データの掲載可否を好適に評価するための技術を提供することにある。以下、本実施例における電子掲示板サーバ１００について、その掲載可否判定方法を中心として説明する。

図２は、電子掲示板サーバの機能ブロック図である。
ここに示す各ブロックは、ハードウェア的には、コンピュータのＣＰＵをはじめとする素子や機械装置で実現でき、ソフトウェア的にはコンピュータプログラム等によって実現されるが、ここでは、それらの連携によって実現される機能ブロックを描いている。したがって、これらの機能ブロックはハードウェア、ソフトウェアの組合せによっていろいろなかたちで実現できることは、当業者には理解されるところである。後に示す図３や図９の機能ブロック図についても同様である。
ここでは、主として各機能ブロックの発揮すべき機能について述べ、その具体的な作用については、図６等に関連して説明する。

電子掲示板サーバ１００は、ユーザインタフェース処理部１１０、通信処理部１２０、データ処理部１３０およびデータ記憶部１５０を含む。
ユーザインタフェース処理部１１０は、ユーザからの入力処理やユーザに対する情報表示のようなユーザインタフェース全般に関する処理を担当する。通信処理部１２０は、外部評価装置２００やクライアント端末３００との通信処理を担当する。

データ処理部１３０は、ユーザインタフェース処理部１１０や通信処理部１２０から取得されたデータを元にして各種のデータ処理を実行する。データ処理部１３０は、ユーザインタフェース処理部１１０、通信処理部１２０およびデータ記憶部１５０の間のインタフェースの役割も果たす。
データ記憶部１５０は、あらかじめ用意された各種の設定データや、データ処理部１３０から受け取ったデータを格納する。

ユーザインタフェース処理部１１０は、入力部１１２と表示部１１４を含む。入力部１１２は、ユーザからの入力操作を受け付ける。表示部１１４は、ユーザに対して各種情報を表示する。
通信処理部１２０は、クライアント端末通信部１２２と外部評価装置通信部１２４を含む。クライアント端末通信部１２２は、各クライアント端末３００との通信処理を担当する。外部評価装置通信部１２４は、外部評価装置２００との通信処理を担当する。

データ記憶部１５０は、投稿データ記憶部１５２、評価設定データ記憶部１５４および掲載ステータス記憶部１５６を含む。
投稿データ記憶部１５２は、クライアント端末通信部１２２がクライアント端末３００から受信した投稿データを記憶する。この投稿データ記憶部１５２が一旦記憶した投稿データについて、データ処理部１３０により電子掲載可否が判定されることになる。評価設定データ記憶部１５４は、投稿データの掲載可否を判定するための条件を示す判定設定情報を記憶する。評価設定データ記憶部１５４のデータ構造については、図５に関連して詳述する。掲載ステータス記憶部１５６は、評価中であるか、掲載中であるかといった投稿データごとの処理状態を示す掲載ステータス情報を記憶する。掲載ステータス記憶部１５６のデータ構造については、図４に関連して詳述する。

データ処理部１３０は、投稿データ評価部１３２、掲載制御部１３４、評価手段選択部１３６、副判定部１３８、外部評価装置指示部１４０および設定変更部１４２を含む。
設定変更部１４２は、評価設定データ記憶部１５４の判定設定情報を変更する。電子掲示板サーバ１００のユーザは入力部１１２を介して設定変更入力する。設定変更部１４２は、その入力内容にしたがって評価設定データ記憶部１５４の内容を変更する。投稿データ評価部１３２は、投稿データが電子掲載に適するかを判定する。投稿データ評価部１３２については、図３に関連して更に詳述する。外部評価装置指示部１４０は、投稿データの電子掲載適否を外部評価装置２００に評価させるための制御を担当する。外部評価装置指示部１４０については、図９に関連して詳述する。以下、投稿データ評価部１３２による電子掲載可否判定のことを「内部判定」、外部評価装置指示部１４０による電子掲載可否判定のことを「外部判定」とよぶ。

評価手段選択部１３６は、ユーザの設定に応じて内部判定または外部判定のいずれかを選択する。評価手段選択部１３６は、選択先に応じて投稿データの掲載適否判定を投稿データ評価部１３２か外部評価装置指示部１４０に指示する。評価手段選択部１３６は、投稿データ評価部１３２の処理負荷に応じて、内部判定か外部判定かを選択してもよい。あるいは、評価手段選択部１３６は、投稿データの種類や送信元のクライアント端末３００などのあらかじめ定められた選択条件によって、内部判定か外部判定かを選択してもよい。なお、評価手段選択部１３６は、投稿データ評価部１３２、外部評価装置指示部１４０および副判定部１３８のインタフェースの役割も果たす。

副判定部１３８は、内部判定や外部判定によって電子掲載可否が確定されなかったときに、ユーザからの指示入力によって電子掲載可否を決定する。以下、副判定部１３８による判定と区別するために、内部判定と外部判定のことをまとめて「主判定」、副判定部１３８による判定のことを「副判定」ともよぶことにする。掲載制御部１３４は主判定や副判定により、電子掲載が許可された投稿データを投稿データ記憶部１５２から読み出して電子掲載させる。一方、許可されない場合には、その不良投稿データを投稿データ記憶部１５２から削除する。主判定、または、副判定により電子掲載可否が最終的に決定されたときには、クライアント端末通信部１２２はその投稿データの送信元であるクライアント端末３００に対して、電子掲載開始または拒否の旨を示す情報を送信する。また、投稿データ評価部１３２、副判定部１３８、外部評価装置指示部１４０、掲載制御部１３４は、投稿データの掲載ステータスが変化させたとき、適宜、掲載ステータス記憶部１５６の掲載ステータス情報を更新する。
以下、内部判定を中心として説明した後に、外部判定についても説明する。

図３は、投稿データ評価部の機能ブロック図である。
投稿データ評価部１３２は、第１ランク特定部１６０、第１主判定部１６２、評価値算出部１６４およびリンク情報取得部１６６を含む。投稿データ評価部１３２は、内部判定を実行する。
評価値算出部１６４は、投稿データ記憶部１５２から評価対象となる投稿データを取得して、適合評価値を算出する。適合評価値は、０〜１００の範囲で投稿データが電子掲載に適する度合いを指標化したものである。適合評価値が大きいほど、適合投稿データである可能性が高い。適合評価値の算出方法については、後述する。

投稿データのなかにはＵＲＬ（Uniform Resource Locator）が含まれている場合もある。このような他のサーバに存在する文書ファイルの位置を示すリンク情報が投稿データに含まれているとき、リンク情報取得部１６６は通信処理部１２０を介してリンク先の文書ファイルを取得する。評価値算出部１６４は、投稿データの内容だけでなく、リンク先の文書ファイルの内容も評価対象として、適合評価値を計算する。
投稿データのなかには、広告目的で特定サイトに閲覧者を誘導させるためのリンク情報が含まれることも多い。このような方法によれば、電子掲載の直接的な対象となる投稿データだけでなく、実質的に電子掲載の対象となる文書ファイルについても評価の対象とすることができる。そのため、電子掲載の適否をより有効に判定しやすくなる。
データ処理部１３０は、過去に電子掲載拒否された投稿データに含まれていたリンク情報を不正リンク先情報として蓄積しておいてもよい。投稿データに含まれるリンク情報が不正リンク先情報に該当すれば、評価値算出部１６４は適合評価値を０点としてもよい。このような態様によれば、電子掲載に不適当なウェブサイトに対するリンク情報が掲載されるのを防ぎやすくなる。

第１ランク特定部１６０は、評価値算出部１６４により算出された適合評価値に応じて、投稿データをランク分けする。ランクは、電子掲載が許可されるべきランクである許可ランク、禁止されるべきランクである禁止ランクおよび電子掲示板サーバ１００の管理者としてのユーザが電子掲載可否を判定すべきランクである要判定ランクの３種類である。ランクは、評価設定データ記憶部１５４の判定設定情報に定義されている。たとえば、判定設定情報においては、適合評価値が７０点以上であるときには許可ランクに分類されるというようにランクと適合評価値の関係が定義されている。第１ランク特定部１６０は、適合評価値に基づいて判定設定情報から投稿データのランクを特定する。

第１主判定部１６２は、特定されたランクに応じて各機能ブロックに制御命令を送る。
ａ）許可ランクの場合
第１主判定部１６２は掲載制御部１３４に投稿データの電子掲載を指示する。掲載制御部１３４は、投稿データ記憶部１５２から該当する投稿データを読み出して電子掲載する。掲載制御部１３４は、掲載ステータス記憶部１５６の掲載ステータス情報を更新する。クライアント端末通信部１２２は、投稿データの送信元に対して電子掲載された旨を通知する。
ｂ）禁止ランクの場合
第１主判定部１６２は掲載制御部１３４に投稿データの不掲載を指示する。掲載制御部１３４は、投稿データ記憶部１５２のうち該当する投稿データを削除する。掲載制御部１３４は、掲載ステータス記憶部１５６の掲載ステータス情報を更新する。クライアント端末通信部１２２は、投稿データの送信元に対して電子掲載が拒否された旨を通知する。
ｃ）要判定ランクの場合
第１主判定部１６２は評価手段選択部１３６を介して副判定部１３８に副判定の実行を指示する。表示部１１４は、管理者に対して投稿データを表示して電子掲載可否を判定するように促す画面を表示する。副判定部１３８は、管理者による判定が肯定的であれば、ａ）に示したように掲載制御部１３４に電子掲載を指示する。電子掲載に伴うその他の処理は基本的に同様である。管理者による判定が否定的であれば、ｂ）に示したように掲載制御部１３４に不掲載を指示する。電子掲載拒否に伴うその他の処理も基本的に同様である。

次に、適合評価値の算出原理について説明する。評価値算出部１６４は、いわゆる自然言語処理によって、投稿データの内容が電子掲載に適する度合いを評価する。自然言語処理としてはさまざまな方法が提案されているが、そのなかでも代表的と思われる単語重み法とベイジアンフィルタ法の原理を簡単に説明しておく。
ここでは、「青少年の健全な育成のためテレビドラマでのパチンコや万馬券の当たるシーンは避けたいという意見に対しパチンコ愛好家は反対している。」という被検査文章を例として説明する。被検査文章は、「青少年／の／健全な／育成／の／ため／テレビドラマ／での／パチンコ／や／万馬券／の／当たる／シーン／は／避けたい／という／意見／に／対し／パチンコ／愛好家／は／反対／している。」という２５単語に分解される。

１．単語重み法
単語ごとにスコアを定義したスコア設定テーブルを参照して、文章に含まれる単語ごとのスコアから、文章全体としてのスコアを算出する手法である。
スコア設定テーブルには、「パチンコ：２点」、「オッズ：１点」、「万馬券：４点」のように、単語ごとにスコアが定義されている。このスコアは、電子掲載に不適合な度合いを示すスコアである。このスコア設定テーブルでは、ギャンブル用語を電子掲載に不適合な単語として定義している。「万馬券」という単語は「パチンコ」や「オッズ」という単語に比べてより不適切であるとして高いスコア設定となっている。スコアは、電子掲示板システム１０の管理者によりあらかじめ設定されればよい。

被検査文章の単語としては、「パチンコ」が２個、「万馬券」が１個含まれている。２点×２＋４点×１により総スコアは８点である。総スコア÷総単語数を計算すると、８÷２５により０．３２という指標値が算出される。この０．３２という指標値は、いわば、電子掲載に不適切な度合いを示す数値である。この指標値をｘとおく。ｘを電子掲載に適切な度合いを示す数値として０〜１００点の範囲で正規化することにより適合評価値を算出する。一例として、ｘが０〜１０の範囲の数値であれば、
適合評価値＝（１０−ｘ）×１０
とすることにより、０〜１００の範囲で適合評価値を算出できる。

ギャンブル関連用語のほかにも、暴力的用語やアルコール関連用語のように、カテゴリに応じてスコア設定テーブルが用意されてもよい。このように、各評価軸からみて電子掲載に適合する度合いを指標化した数値のことを特定評価値とよぶ。投稿データ全体としての適合評価値は、これらの特定評価値を変数として所定の評価関数による演算を実行することにより算出されてもよい。このような態様によれば、複数の評価軸からみて、電子掲載可否判定を実行できる。これは、次に示すベイジアンフィルタ法についても同様である。なお、ここでいう評価関数については、図５に関連しても説明する。

２．ベイジアンフィルタ法
注目するカテゴリに属する文例と属さない文例を多数用意し、それぞれの文例における単語の出現頻度に応じて、被検査文章に含まれる単語を評価することにより文章全体としてのスコアを算出する手法である。

たとえば、ギャンブル性という評価軸について、ギャンブルに関連している文例と関連していない文例を多数用意する。前者のような評価軸に合った文例を「適合文例」、後者のような評価軸に合わない文例を「非適合文例」とよぶ。仮に適合文例と非適合文例がそれぞれ１００件ずつであったとき、「パチンコ」という単語が適合文例では９８回、非適合文例では２回現れたとする。このとき、「パチンコ」という単語を含む文章は、９８％の確率でギャンブル的な文章であり、２％の確率で非ギャンブル的な文章であると推定される。

このように、さまざまな単語についてその単語を含む文章がギャンブル的な文章である
確率を計算する。仮に、「パチンコ：９８％」、「オッズ：９５％」、「万馬券：９０％」、「青少年：２０％」、「健全：１％」、「育成：２％」とする。先に例示した被検査文章では、「パチンコ」、「万馬券」、「青少年」、「健全」、「育成」の５つの単語が含まれている。
合成確率は、（０．９８×０．９０×０．２０×０．０１×０．０２） ÷｛（０．９８×０．９０×０．２０×０．０１×０．０２）＋（１−０．９８）×（１−０．９０）×（１−０．２０）×（１−０．０１）×（１−０．０２）｝≒２．２％となる。この２．２％という合成確率も、いわば、電子掲載に不適切な度合いを示す数値である。この合成確率をｙとおく。ｙを電子掲載に適切な度合いを示す数値として０〜１００点の範囲で正規化することにより適合評価値を算出する。一例として、
適合評価値＝１００−ｙ
とすることにより、０〜１００の範囲で適合評価値を算出できる。なお、ここでは、被検査文章における単語の出現回数は考慮しないとして説明している。

ここでは、ギャンブル関連の文例により適合評価値を算出する場合を示した。このほかにも、暴力的用語やアルコール関連用語のように、カテゴリに応じて適合文例と非適合文例の文例集が用意されてもよい。そして、これら文例について計算された特定評価値から適合評価値を算出してもよい。

単語重み法は、不適切な単語のスコアを加算する方法である。ベイジアンフィルタ法は、不適切な単語でなく適切な単語についてもスコア計算の対象としている。評価値算出部１６４は、このような単語重み法やベイジアンフィルタ法に代表される自然言語処理により、適合評価値を算出する。評価値算出部１６４は、単語重み法とベイジアンフィルタ法の両方で適合評価値を算出し、それらに基づいて所定の演算を実行することにより最終的な適合評価値を算出してもよい。たとえば、単語重み法とベイジアンフィルタ法の両方により算出された適合評価値を加重平均して、最終的な適合評価値としてもよい。

図４は、掲載ステータス記憶部のデータ構造図である。
掲載ステータス記憶部１５６は、投稿データの処理状況を示す掲載ステータス情報を記憶する。投稿者ＩＤ欄１７０は、各投稿者を識別するための投稿者ＩＤを示す。投稿者ＩＤは、投稿者のハンドルネームであってもよいし、投稿者が利用するクライアント端末３００のＩＰアドレスにて代用してもよい。投稿日時欄１７２は、投稿データの受信日時を示す。投稿データＩＤ欄１７４は、各投稿データを識別するための投稿データＩＤを示す。投稿データＩＤは、クライアント端末通信部１２２が投稿データを受信したときに一意に割り振るＩＤである。掲載ステータス欄１７６は、各投稿データの処理状況を示す。

同図において、たとえば、投稿データＩＤ「０００１」の投稿データ（以下、単に「投稿データ（０００１）」とよぶ）は、掲載ステータス欄１７６によれば、電子掲載中である。また、投稿データ（０００２）は、投稿データ評価部１３２による内部判定の結果として電子掲載が拒否されている。掲載制御部１３４は、この投稿データ（０００２）を電子掲載することなく投稿データ記憶部１５２から削除している。また、クライアント端末通信部１２２は、投稿データ（０００２）の送信元であるクライアント端末３００に対して、掲載が拒否された旨を示す情報を送信している。

投稿データ（０００３）は、外部評価装置指示部１４０による外部判定の結果として電子掲載が拒否されている。掲載制御部１３４は、この投稿データ（０００３）を電子掲載することなく投稿データ記憶部１５２から削除している。クライアント端末通信部１２２は、投稿データ（０００３）の送信元であるクライアント端末３００に対して掲載が拒否された旨を示す情報を送信している。
投稿データ（０００５）は、副判定部１３８による副判定の結果として電子掲載が拒否されている。

投稿データ（０００６）や投稿データ（０００７）、投稿データ（０００８）の投稿データは電子掲載可否についてそれぞれ判定中である。クライアント端末通信部１２２は、投稿データが受信されたときには、その送信元のクライアント端末３００に対して掲載可否が判定中である旨を示す待機情報を送信する。

クライアント端末通信部１２２は、待機中にあるクライアント端末３００からは新たに投稿データを受信しないとしてもよい。これにより、特定のクライアント端末３００から連続的に大量の投稿データが送られても、電子掲示板サーバ１００の処理負荷が過度に高くならないようにできる。
また、不良投稿データ（０００２）を送信した投稿者ＩＤ「００２」の投稿者からは、クライアント端末通信部１２２は不掲載の旨が判定されてから所定の不受理期間が経過するまで新たに投稿データを受信しないとしてもよい。このような態様によれば、不良投稿データを送ってきたクライアント端末３００から連続的に不良投稿データが送信されることにより電子掲示板サーバ１００の処理負荷が増大するのを防ぐことができる。また、投稿者にとっても、電子掲示板サーバ１００に電子掲載が拒否されるような投稿データを送信した場合に、このような不受理期間というペナルティが課せられるため、適合投稿データを送信しようというインセンティブとすることができる。

図５は、評価設定データ記憶部のデータ構造図である。
評価設定データ記憶部１５４は、適合評価値の算出方法や、ランク分けの方法についての判定設定情報を記憶する。評価設定データ記憶部１５４は、複数種類の判定設定情報を記憶する。ユーザは、入力部１１２から設定変更部１４２を介して判定設定情報を登録したり、変更することができる。

設定欄１８０は、判定設定情報を識別するための設定ＩＤを示す。新たに判定設定情報が登録されるとき、設定変更部１４２はその判定設定情報に対して一意に設定ＩＤを割り振る。ランクＡ欄１８２は、許可ランク（以下、「ランクＡ」とよぶ）における適合評価値の範囲を示す。ランクＢ欄１８４は、要判定ランク（以下、「ランクＢ」とよぶ）における適合評価値の範囲を示す。ランクＣ欄１８６は、禁止ランク（以下、「ランクＣ」とよぶ）における適合評価値の範囲を示す。要素欄１８８は、適合評価値の算出のために考慮すべき評価変数を示す。評価関数欄１９０は、適合評価値の算出式を示す。ユーザは、これら複数の設定のなかからいずれかを選択できる。

同図において設定ＩＤ「０１」の判定設定情報においては、適合評価値が６０〜１００の範囲にあれば、投稿データ評価部１３２の第１ランク特定部１６０は投稿データをランクＡと判定する。また、適合評価値が３０〜５９の範囲にあれば投稿データはランクＢと判定され、０〜２９の範囲にあればランクＣと判定される。要素欄１８８や評価関数欄１９０によれば、適合評価値は暴力的、誹謗中傷的およびギャンブル的な表現であるかという複数の評価軸から適合評価値を算出している。たとえば、ベイジアンフィルタ法により、暴力的な表現であるか、他人を誹謗中傷するような表現であるか、ギャンブルを示唆するような表現であるかといった３つの評価軸から、それぞれ特定評価値Ａ、Ｂ、Ｃが算出される。そして、評価関数欄１９０に示す評価関数によれば、
適合評価値＝Ａ×０．１＋Ｂ×０．６＋Ｃ×０．３
として適合評価値が算出されることになる。

設定ＩＤ「０２」の判定設定情報においては、アダルト的表現または広告宣伝的な表現であるかという２つの評価軸から、特定評価値Ａ、Ｂが算出される。そして、評価関数欄１９０に示す評価関数によれば、特定評価値Ａ、Ｂのいずれか大きい方の値がそのまま適合評価値となる。
また、設定ＩＤ「０３」の判定設定情報においては、アダルト的表現についての特定評価値がそのまま適合評価値となる。

このほかにも、電子掲示板の趣旨に沿った投稿データか否かにより適合評価値を算出してもよい。たとえば、電子掲示板システム１０において子供服に関する情報交換がなされているときに、その趣旨に合わない投稿データが受信されたときには、不良投稿データとして判定してもよい。あるいは、投稿データの文章構造、たとえば主語、述語関係のような文法チェックすることにより、情報伝達性が高い投稿データだけを電子掲載対象としてもよい。
このように、さまざまな評価軸から特定評価値や適合評価値を算出できる。

ここでは、ランクはＡ〜Ｃの３段階であるとして説明しているが、ランク数は３段階に限られるものではない。たとえば、ランクＡを要判定ランク、ランクＢを禁止ランクとする２段階のランク設定であってもよい。あるいは、ランクＡを許可ランク、ランクＢを要判定ランクとする２段階のランク設定であってもよい。

また、内部判定、外部判定、副判定のすべてによって電子掲載可否を判定してもよい。たとえば、内部判定を実行してランクＡ〜ランクＣのいずれかに分類する。ランクＡは許可ランクであり、ランクＣは禁止ランクである。ランクＢは、外部判定を実行すべきランクである。外部判定の結果、ランクＢはランクＢ１、ランクＢ２およびランクＢ３に細分化される。ランクＢ１は電子掲載許可、ランクＢ３は電子掲載拒否に対応するランクであり、ランクＢ２は副判定を実行すべきランクである。このように、複数の判定手法を多段階化させることにより、より客観的に投稿データの内容チェックが可能となる。

電子掲示板サーバ１００のユーザは、評価設定データ記憶部１５４のうちのいずれかの判定設定情報を有効化させる。データ処理部１３０は、その有効化された判定設定情報に基づいて、各投稿データの電子掲載可否を判定する。あるいは、投稿者ごとに利用すべき判定設定情報が変更されてもよい。たとえば、不良投稿データを頻繁に送信する投稿者については厳しい判定設定情報を適用するとしてもよい。
本実施例における電子掲示板サーバ１００によれば、投稿データの電子掲載適否を適合評価値という度合いとして算出できるので、投稿データの掲載可否設定を柔軟に変更できる。また、ユーザは適合評価値の算出式も定義できるため、電子掲示板システム１０の運用に応じた評価方法を実現できる。

図６は、内部判定を前提とした電子掲載可否判定についての処理過程を示すフローチャートである。
まず、クライアント端末通信部１２２はクライアント端末３００から投稿データを受信する（Ｓ１０）。クライアント端末通信部１２２は、待機情報を送信元のクライアント端末３００に送信する（Ｓ１２）。このあと、クライアント端末通信部１２２は電子掲載可否が確定するまでは、そのクライアント端末３００から新たな投稿データを受信しない。評価手段選択部１３６は、投稿データ評価部１３２に指示して内部判定を実行させる（Ｓ１４）。Ｓ１４において投稿データ評価部１３２は、投稿データのランクを特定する。Ｓ１４の処理の詳細については、図７に関連して詳述する。

ランクＡであれば（Ｓ１６のＹ）、掲載制御部１３４は投稿データを電子掲載する（Ｓ１８）。クライアント端末通信部１２２は、投稿データの送信元であるクライアント端末３００に対して投稿データが電子掲載された旨を通知する（Ｓ２０）。以後、クライアント端末通信部１２２は、このクライアント端末３００から新たな投稿データを受信可能となる。

ランクＢであれば（Ｓ２２のＹ）、第１主判定部１６２は評価手段選択部１３６を介して副判定部１３８に副判定の実行を指示する。副判定処理については図８に関連して詳述する。掲載制御部１３４は、副判定の結果に応じて投稿データを電子掲載してもよい。あるいは、掲載制御部１３４は、一旦ランクＢの投稿データを電子掲載した後、副判定の結果に応じて電子掲載を中止させてもよい。ランクＢでなければ、すなわち、ランクＣであれば（Ｓ２２のＮ）、クライアント端末通信部１２２は電子掲載が拒否された旨をクライアント端末３００に送信する（Ｓ２６）。掲載制御部１３４は、その投稿データを投稿データ記憶部１５２から削除する。電子掲載が拒否されたクライアント端末３００に対しては不受理期間が設定され、その期間が経過するまでは新たな投稿データが受信されないとしてもよい。

図７は、図６のＳ１４の内部判定処理を詳細に示すフローチャートである。
まず、評価値算出部１６４は、投稿データにリンク情報が含まれるか判定する（Ｓ５０）。含まれていれば（Ｓ５０のＹ）、リンク情報取得部１６６はリンク先の文書ファイルを取得する（Ｓ５２）。評価値算出部１６４は、評価設定データ記憶部１５４の判定設定情報にしたがって、投稿データ、または、投稿データとリンク先の文書ファイルについて適合評価値を算出する（Ｓ５４）。第１ランク特定部１６０は、適合評価値に応じてランクを特定する（Ｓ５６）。

図８は、副判定処理の処理過程を示すフローチャートである。
ランクＢに分類されたときには、表示部１１４は、管理者としてのユーザに対して、判定を催促する旨を画面表示する。ユーザは、ランクＢとして分類された投稿データを閲覧して、電子掲載の適否を入力する（Ｓ３０）。掲載可として入力されたときには（Ｓ３２のＹ）、副判定部１３８は掲載制御部１３４に指示して投稿データを掲載させる。掲載制御部１３４は、投稿データを電子掲載する（Ｓ３４）。クライアント端末通信部１２２は、電子掲載された旨を投稿データの送信元であるクライアント端末３００に通知する（Ｓ３６）。一方、Ｓ３２において掲載不可の旨が入力されたときには（Ｓ３２のＮ）、クライアント端末通信部１２２は掲載が拒否された旨をクライアント端末３００に通知する（Ｓ３８）。
変形例として、ランクＢに分類されたときには、第１主判定部１６２は掲載制御部１３４に電子掲載を実行させてもよい。第１主判定部１６２は同時に副判定部１３８に対して同図に示した副判定処理を実行させてもよい。そして、Ｓ３２において掲載不可として入力されたときには、副判定部１３８は掲載制御部１３４に指示して掲載を中止させてもよい。
次に外部判定を中心として電子掲示板サーバ１００を説明する。

図９は、外部評価装置指示部の機能ブロック図である。
外部評価装置指示部１４０は、評価値取得部２０２、転送指示部２０４、第２ランク特定部２０６、第２主判定部２０８および時間管理部２１０を含む。
外部判定に際しては、転送指示部２０４は外部評価装置通信部１２４に指示して投稿データを外部評価装置２００に送信させる。このとき、時間管理部２１０は外部評価装置２００に投稿データが送信されてからの経過時間を計測する。外部評価装置２００は、送信された投稿データについて適合評価値を算出する。外部評価装置２００からは、適合評価値を含む評価情報が返信される。評価値取得部２０２は、外部評価装置通信部１２４を介してこの適合評価値を取得する。

第２ランク特定部２０６は、評価値取得部２０２が取得した適合評価値に応じて、投稿データのランクを特定する。図５においては内部判定についての判定設定情報として評価設定データ記憶部１５４のデータ構造を示したが、これは外部判定についても同様である。第２ランク特定部２０６は、選択されている判定設定情報に基づいて適合評価値に応じたランクを判定する。転送指示部２０４は、外部評価装置２００に対して、評価設定データ記憶部１５４の要素欄１８８や評価関数欄１９０として示した評価軸や評価関数についての情報を送信してもよい。そして、外部評価装置２００は、これらの評価軸や評価関数についての情報に基づいて、適合評価値を算出してもよい。あるいは、外部評価装置２００は独自の評価方法によって適合評価値を算出してもよい。この場合には、外部判定については要素欄１８８や評価関数欄１９０の欄に示す情報は必要とされなくなる。

時間管理部２１０が計測する経過時間が所定の時間（以下、「外部待機時間」とよぶ）を超えたときには、第２ランク特定部２０６は投稿データが所定のランクに分類されたものとみなす。本実施例においては、外部待機時間が経過しても評価情報が受信されなかった場合には、ランクＢへ分類された扱いとなる。
第２主判定部２０８は、第２ランク特定部２０６により特定されたランクに応じて、評価手段選択部１３６を介して掲載制御部１３４や副判定部１３８に対して掲載処理や副判定処理の実行を指示する。

図１０は、外部判定を前提とした電子掲載可否判定についての処理過程を示すフローチャートである。
クライアント端末通信部１２２は、クライアント端末３００から投稿データを受信する（Ｓ１０）。なお、先述したように不受理期間中であれば、クライアント端末通信部１２２は投稿データをそのまま判定対象とすることなく破棄してもよい。クライアント端末通信部１２２は、投稿データを受理するときには、待機情報をクライアント端末３００に送信する（Ｓ１２）。

転送指示部２０４は、評価手段選択部１３６から外部判定の実行を指示されると、外部評価装置通信部１２４に指示して投稿データを外部評価装置２００に送信させる（Ｓ４０）。時間管理部２１０は、このとき転送後の経過時間を計測する（Ｓ４２）。外部待機時間内に評価情報が受信されたときには、第２ランク特定部２０６は適合評価値に応じて投稿データのランクを特定する（Ｓ４５）。ランクＡであれば（Ｓ４６のＹ）、第２主判定部２０８は掲載制御部１３４に指示して電子掲載を実行させる。掲載制御部１３４は投稿データを電子掲載する（Ｓ４８）。クライアント端末通信部１２２はクライアント端末３００に対して投稿データが電子掲載された旨を通知する（Ｓ５０）。

ランクＣである場合（Ｓ４６のＮ、Ｓ５２のＮ）、第２主判定部２０８は掲載制御部１３４に不掲載を指示する。クライアント端末通信部１２２は、クライアント端末３００に対して電子掲載が拒否された旨を通知する（Ｓ５４）。掲載制御部１３４は、投稿データを投稿データ記憶部１５２から削除する。ランクＢである場合（Ｓ５２のＹ）、または、外部待機時間内に評価情報が受信されなかった場合には（Ｓ４４のＮ）、第２主判定部２０８は副判定部１３８に副判定の実行を指示する（Ｓ５６）。副判定処理については、図８に関連して説明した内容と同様である。

本実施例に示した電子掲示板サーバ１００によれば、主判定によっても掲載可否を判断しきれない投稿データについて副判定を実行する。そのため、電子掲示板サーバ１００の管理者は、すべての投稿データをチェックする必要がない。また、主判定によって電子掲載可否を２値的に決定するのではなく、必要に応じて管理者によるチェックとして副判定がなされるため、投稿データの内容についてより柔軟にチェックできる。いわば、主判定による評価処理の迅速化を達成しつつも、判定が難しい内容の投稿データについては管理者による判定機会を担保できるため、評価の正確性と迅速性の両方に鑑みた電子掲示板システム１０を提供できる。
また、適合評価値に応じてランクを決定することにより、電子掲示板サーバ１００側で電子掲載適否の判定条件を柔軟に設定変更できる。これにより、電子掲示板サーバ１００の利便性を高めることができる。

内部判定においては、単語重み法やベイジアンフィルタ法として示したような自然言語処理によって投稿データの内容をより精緻に判定できる。このとき、投稿データのリンク情報まで考慮して内部判定を実行するため、電子掲載にふさわしくない情報が提供されるのを更に防ぎやすくなる。
また、電子掲示板サーバ１００は、複数の評価軸から投稿データの電子掲載適否を判定するため、電子掲示板システム１０のサブジェクトに応じて柔軟に判定条件を設定できる。

外部判定の場合には、電子掲示板サーバ１００の主判定に要する処理負荷を低減できるというメリットがある。評価手段選択部１３６は、内部判定処理の負荷が高い場合には、外部判定を選択してもよい。この場合、電子掲示板サーバ１００の主判定に要する処理負荷を電子掲示板サーバ１００と外部評価装置２００の間で好適に分散することができる。また、主判定を外部判定としてのみ実行するとすれば、電子掲示板サーバ１００の構成を簡単にできるというメリットがある。

本実施例においては、外部評価装置２００が適合評価値を電子掲示板サーバ１００に送信する態様を示したが、外部評価装置２００はランクそのものを評価情報として送信してもよい。このような場合には、電子掲示板サーバ１００の処理負荷は更に軽減される。また、外部判定においては、外部評価装置２００からの評価情報が外部待機時間内に受信されなかったときには、所定のランクに自動的に分類される。そのため、投稿データの外部判定に時間がかかっても、主判定処理としては過度に滞らないよう処置できる。

投稿データを送信したクライアント端末３００に対しては、その投稿データの評価が終了するまでは、新たな投稿データを受信しないとしてもよい。これにより、機械的に投稿データを連続的に送信するクライアント端末３００があっても、その被害を未然に防ぐことができる。また、不受理期間を設けることにより、不正投稿者を効果的に排除できる。

本実施例においては、電子掲示板システム１０における電子掲示板サーバ１００の機能について説明した。しかし、本発明の応用範囲は、電子掲示板システム１０に限られるものではない。たとえば、ブログシステム（Blog System）やメーリングリスト、ニュースシステム、リンク情報を登録するためのページを管理するシステム、オークションの出品を管理するシステムなど、ネットワークを介した情報共有システムに広く応用可能である。

以上、実施の形態をもとに本発明を説明した。なお本発明はこの実施の形態に限定されることなく、そのさまざまな変形例もまた、本発明の態様として有効である。

請求項に記載の各構成要件が果たすべき機能は、本実施例において示された各機能ブロックの単体もしくはそれらの連係によって実現されることも当業者には理解されるところである。

なお、上記各実施例およびその変形例から把握することのできる技術思想としては、以下のものがある。
Ａ−１．評価対象となるべき投稿データを外部の投稿装置から受信する投稿データ受信部と、
投稿データが電子掲載に適する度合いを評価するための外部の評価装置に対して、前記投稿データを転送する投稿データ転送部と、
前記投稿データに対する評価結果を示す評価情報を前記評価装置から受信する評価情報受信部と、
前記評価情報に示される評価結果に応じて前記投稿データの電子掲載の適否を判定する主判定部と、
前記評価情報において電子掲載の適否を評価者によって判定すべき旨の評価結果が示されるとき、前記投稿データについて電子掲載の適否を指示するための評価者からの指示入力に応じて前記投稿データの電子掲載の適否を判定する副判定部と、
を備えることを特徴とする投稿データ評価装置。

Ａ−２．前記評価情報受信部は、投稿データが電子掲載に適する度合いを指標化した適合評価値を前記投稿データに対する評価結果として示す評価情報を受信し、
前記主判定部は、適合評価値の取りうる範囲が複数のランクに分類されたランクテーブルを参照して、前記投稿データのランクをその適合評価値によって特定することにより、前記投稿データの電子掲載の適否を判定し、
前記副判定部は、電子掲載の適否が評価者によって判定されるべきランクである要判定ランクとして前記投稿データのランクが特定されたときには、前記投稿データについて電子掲載の適否を指示するための評価者からの指示入力に応じて前記投稿データの電子掲載の適否を判定することを特徴とするＡ−１に記載の投稿データ評価装置。

Ａ−３．前記主判定部は、前記投稿データが前記評価装置に転送されてから所定時間が経過しても前記投稿データに対する評価情報が受信されなかったときには、前記投稿データの電子掲載の適否について所定の評価結果を示す評価情報が受信されたときと同様の判定結果とすることを特徴とするＡ−１またはＡ−２に記載の投稿データ評価装置。

Ａ−４．前記主判定部は、前記所定の評価結果として電子掲載の適否を評価者によって判定すべき旨の評価結果とすることを特徴とするＡ−３に記載の投稿データ評価装置。

Ａ−５．前記投稿データが前記評価装置に転送されたとき、前記投稿データの送信元である外部装置に対して前記投稿データの評価中である旨を示す待機情報を送信する待機情報送信部を更に備えることを特徴とするＡ−１からＡ−４のいずれかに記載の投稿データ評価装置。

Ａ−６．前記投稿データ転送部は、少なくとも前記主判定部により前記投稿データについて電子掲載の適否が判定されるまでは、前記投稿データの送信元である外部装置から新たに送信される投稿データを前記評価装置に転送しないことを特徴とするＡ−１からＡ−５のいずれかに記載の投稿データ評価装置。

Ａ−７．前記投稿データ転送部は、前記投稿データが電子掲載に適合しないと判定されてから所定の不受理期間が経過するまでは、その不適合とされた投稿データの送信元である外部装置から新たに送信される投稿データを前記評価装置に転送しないことを特徴とするＡ−１からＡ−６のいずれかに記載の投稿データ評価装置。

Ａ−８．前記副判定部は、前記評価情報において電子掲載の適否を評価者によって判定すべき旨の評価結果が示されるときには、前記投稿データの電子掲載を許可した後に、前記評価者からの指示入力に応じて投稿データの電子掲載を中止するか否かを判定することを特徴とするＡ−１からＡ−８のいずれかに記載の投稿データ評価装置。

Ａ−９．評価対象となるべき投稿データを外部の投稿装置から受信するステップと、
投稿データが電子掲載に適する度合いを評価するための外部の評価装置に対して、前記投稿データを転送するステップと、
前記投稿データに対する評価結果を示す評価情報を前記評価装置から受信するステップと、
前記評価情報に示される評価結果に応じて前記投稿データの電子掲載の適否を判定するステップと、
前記評価情報において電子掲載の適否を評価者によって判定すべき旨の評価結果が示されるとき、前記投稿データを画面表示させるステップと、
前記画面表示された投稿データについて電子掲載の適否を指示するための評価者からの指示入力を検出するステップと、
前記検出された指示入力に応じて前記受信された投稿データの電子掲載の適否を判定するステップと、
を備えることを特徴とする投稿データ評価方法。

Ａ−１０．評価対象となるべき投稿データを外部の投稿装置から受信する機能と、
投稿データが電子掲載に適する度合いを評価するための外部の評価装置に対して、前記投稿データを転送する機能と、
前記投稿データに対する評価結果を示す評価情報を前記評価装置から受信する機能と、
前記評価情報に示される評価結果に応じて前記投稿データの電子掲載の適否を判定する機能と、
前記評価情報において電子掲載の適否を評価者によって判定すべき旨の評価結果が示されるとき、前記投稿データを画面表示させる機能と、
前記画面表示された投稿データについて電子掲載の適否を指示するための評価者からの指示入力を検出する機能と、
前記検出された指示入力に応じて前記受信された投稿データの電子掲載の適否を判定する機能と、
をコンピュータに発揮させることを特徴とする投稿データ評価プログラム。

電子掲示板システムのハードウェア構成図である。 電子掲示板サーバの機能ブロック図である。 投稿データ評価部の機能ブロック図である。 掲載ステータス記憶部のデータ構造図である。 評価設定データ記憶部のデータ構造図である。 内部判定を前提とした電子掲載可否判定についての処理過程を示すフローチャートである。 図６のＳ１４の内部判定処理を詳細に示すフローチャートである。 副判定処理の処理過程を示すフローチャートである。 外部評価装置指示部の機能ブロック図である。 外部判定を前提とした電子掲載可否判定についての処理過程を示すフローチャートである。

符号の説明

１０ 電子掲示板システム、 １００ 電子掲示板サーバ、 １１０ ユーザインタフェース処理部、 １１２ 入力部、 １１４ 表示部、 １２０ 通信処理部、 １２２ クライアント端末通信部、 １２４ 外部評価装置通信部、 １３０ データ処理部、 １３２ 投稿データ評価部、 １３４ 掲載制御部、 １３６ 評価手段選択部、 １３８ 副判定部、 １４０ 外部評価装置指示部、 １４２ 設定変更部、 １５０ データ記憶部、 １５２ 投稿データ記憶部、 １５４ 評価設定データ記憶部、 １５６ 掲載ステータス記憶部、 １６０ 第１ランク特定部、 １６２ 第１主判定部、 １６４ 評価値算出部、 １６６ リンク情報取得部、 ２００ 外部評価装置、 ２０２ 評価値取得部、 ２０４ 転送指示部、 ２０６ 第２ランク特定部、 ２０８ 第２主判定部、 ２１０ 時間管理部、 ３００ クライアント端末。

Claims (8)

1. 評価対象となるべき投稿データを外部装置から受信する投稿データ受信部と、
   投稿データが電子掲載に適する度合いを適合評価値として指標化するための評価関数により、前記受信された投稿データの適合評価値を算出する評価値算出部と、
   適合評価値の取りうる範囲が複数のランクに分類されたランクテーブルを参照して、前記受信された投稿データのランクを前記算出された適合評価値によって特定するランク特定部と、
   前記特定されたランクに応じて前記受信された投稿データの電子掲載の適否を判定する主判定部と、
   電子掲載の適否が評価者によって判定されるべきランクである要判定ランクとして前記受信された投稿データのランクが特定されたときには、前記受信された投稿データについて電子掲載の適否を指示するための評価者からの指示入力に応じて前記受信された投稿データの電子掲載の適否を判定する副判定部と、
   を備えることを特徴とする投稿データ評価装置。
2. 前記評価値算出部は、複数の単語について電子掲載に不適切な度合いを単語適合値として指標化した単語適合値テーブルを参照し、投稿データの内容情報として含まれる複数の単語についての単語適合値から投稿データの適合評価値を算出する評価関数によって、前記受信された投稿データの適合評価値を算出することを特徴とする請求項１に記載の投稿データ評価装置。
3. 前記評価値算出部は、ベイジアンフィルタ法（Bayesian Filtering）によって投稿データが電子掲載に適する度合いを適合評価値として指標化するための評価関数により、前記受信された投稿データの適合評価値を算出することを特徴とする請求項１に記載の投稿データ評価装置。
4. 前記評価値算出部は、前記受信された投稿データに他の文書データの所在を示す位置情報であるリンク情報が含まれているときには、その文書データの内容情報も含めて前記受信された投稿データの適合評価値を算出することを特徴とする請求項１から３のいずれかに記載の投稿データ評価装置。
5. 前記副判定部は、要判定ランクとして前記受信された投稿データのランクが特定されたときには、前記受信された投稿データの電子掲載を許可した後に、前記評価者からの指示入力に応じて投稿データの電子掲載を中止するか否かを判定することを特徴とする請求項１から４のいずれかに記載の投稿データ評価装置。
6. 前記ランク特定部は、電子掲載を許可すべき許可ランク、電子掲載を禁止すべき禁止ランクおよび要判定ランクの少なくとも３段階のランクを定義したランクテーブルを参照して、前記受信された投稿データのランクを特定することを特徴とする請求項１から５のいずれかに記載の投稿データ評価装置。
7. 前記評価値算出部は、投稿データが電子掲載に適する度合いを複数の評価基準についての複数種類の特定評価値として指標化するための評価関数により、前記受信された投稿データについて複数種類の特定評価値を算出し、これら算出された複数種類の特定評価値を変数としてあらかじめ定められた演算を実行したときの生成値を前記受信された投稿データについての適合評価値とすることを特徴とする請求項１から６のいずれかに記載の投稿データ評価装置。
8. 前記ランクテーブルにおいて適合評価値の取りうる範囲に対するランクの設定を変更するための設定入力を設定者から受け付ける設定入力部と、
   前記設定入力に応じて前記ランクテーブルにおけるランクと適合評価値の関係を設定変更する設定変更部と、
   を更に備えることを特徴とする請求項１から７のいずれかに記載の投稿データ評価装置。

Images