JP2023065723A - 投稿情報管理システム、投稿情報管理プログラム及び投稿情報管理方法 - Google Patents

Abstract

【課題】不適切な表現が含まれている可能性のある投稿が他のユーザに閲覧される機会を低減しつつ、ユーザの投稿への意欲の低下を抑制する。【解決手段】投稿情報管理システム１のサーバ２は、ユーザが用いるユーザ装置４から送信された投稿情報を他のユーザが用いるユーザ装置４に送信し、ユーザ装置４から送信された投稿内容が不適切であることを示す投稿評価情報を取得し、投稿評価情報に基づいて、投稿情報を送信したユーザを評価したユーザ評価情報を更新し、ユーザ評価情報が投稿制限条件を満たす第１ユーザの投稿を、第１ユーザが用いるユーザ装置４に出力させ、第１ユーザの投稿を第１ユーザ以外の第２ユーザが用いるユーザ装置４に出力させない。【選択図】図１

Description

本発明は、投稿情報管理システム、投稿情報管理プログラム及び投稿情報管理方法に関する。

電子掲示板、ホームページ、及びＳＮＳ（ソーシャルネットワーキングサービス）等においては、ユーザが投稿した内容を不特定多数のユーザが視認することが可能である。近年においては、個人情報の開示、他のユーザを不快にさせるような発言等、不適切な表現を含む投稿が問題となっている。

この問題に対し、ユーザの発言が適切であるか否かを判定するシステムが知られている（例えば、特許文献１参照）。このシステムは、未成年のユーザが情報端末から発言データを受信し、言語解析手段とＮＧ発言データベースとを用いて、発言データをＮＧフィルタにかける。その結果、ユーザの発言がＮＧであれば、ＮＧ報告データを未成年の法的責任者である他のユーザに送信する。

特開２０１１－２０４１７８号公報

しかし、投稿を管理するシステムが、不適切な表現を検出し、その発言について他のユーザに通知したり、発言を自動的に削除したりする制限を課す場合、制限を受けたユーザは投稿に対して消極的になる。投稿に対して消極的であるユーザが増えると、活発に投稿が行われなくなるばかりか、サービスの利用者数が減少するおそれがある。よって、不適切な表現が含まれている可能性がある投稿が他のユーザに閲覧される機会を低減しつつ、ユーザの投稿への意欲の低下を抑制することを両立するシステムが要請されている。

上記課題を解決する投稿情報管理システムは、ユーザが用いるユーザ装置から投稿情報を受信する投稿受信部と、受信した前記投稿情報を他のユーザが用いるユーザ装置に送信する投稿送信部と、前記ユーザ装置から送信された投稿内容が不適切であることを示す投稿評価情報を取得する評価情報取得部と、前記投稿評価情報に基づいて、前記投稿情報を送信した前記ユーザを評価したユーザ評価情報を更新するユーザ評価部と、前記ユーザ評価情報が投稿制限条件を満たす第１ユーザの投稿を、前記第１ユーザが用いるユーザ装置に出力させ、前記第１ユーザの投稿を前記第１ユーザ以外の第２ユーザが用いるユーザ装置に出力させない投稿制限部と、を備える。

上記課題を解決する投稿情報管理プログラムは、１又は複数のコンピュータに、ユーザが用いるユーザ装置から投稿情報を受信するステップと、受信した前記投稿情報を他のユーザが用いるユーザ装置に送信するステップと、前記ユーザ装置から送信された投稿内容が不適切であることを示す投稿評価情報を取得するステップと、前記投稿評価情報に基づいて、前記投稿情報を送信した前記ユーザを評価したユーザ評価情報を更新するステップと、前記ユーザ評価情報が投稿制限条件を満たす第１ユーザの投稿を、前記第１ユーザが用いるユーザ装置に出力させ、前記第１ユーザの投稿を前記第１ユーザ以外の第２ユーザが用いるユーザ装置に出力させないステップと、を実行させる。

上記課題を解決する投稿情報管理方法は、１又は複数のコンピュータが、ユーザが用いるユーザ装置から投稿情報を受信するステップと、受信した前記投稿情報を他のユーザが用いるユーザ装置に送信するステップと、前記ユーザ装置から送信された投稿内容が不適切であることを示す投稿評価情報を取得するステップと、前記投稿評価情報に基づいて、前記投稿情報を送信した前記ユーザを評価したユーザ評価情報を更新するステップと、前記ユーザ評価情報が投稿制限条件を満たす第１ユーザの投稿を、前記第１ユーザが用いるユーザ装置に出力させ、前記第１ユーザの投稿を前記第１ユーザ以外の第２ユーザが用いるユーザ装置に出力させないステップと、を実行する。

かかる構成によれば、第１ユーザのユーザ評価情報が投稿制限条件を満たす場合であっても、第１ユーザの投稿は第１ユーザが用いるユーザ装置の画面に表示される。このため、投稿が強制的に削除されることに起因する第１ユーザの意欲の低下を抑制することができる。一方で、第１ユーザの投稿は、他のユーザである第２ユーザの迷惑になる可能性もあるため、第２ユーザが用いるユーザ装置の画面に第１ユーザの投稿を表示しない。このため、第１ユーザの不適切な表現が含まれている可能性がある投稿が第２ユーザに閲覧される機会を少なくすることができる。このため、不適切な表現を含む投稿を閲覧することに起因する第２ユーザの意欲の低下を抑制することができる。

上記投稿情報管理システムについて、前記ユーザ装置から投稿情報を受信した場合、前記投稿情報を送信したユーザに関連付けられた前記ユーザ評価情報が注意喚起条件を満たすか否かを判断し、前記ユーザ評価情報が前記注意喚起条件を満たす場合に、当該ユーザが用いるユーザ装置に注意喚起情報を出力させる注意喚起部をさらに備えることが好ましい。

かかる構成によれば、ユーザ評価情報が注意喚起条件を満たすユーザが投稿を行った場合に注意喚起情報を出力するので、不適切な表現を含む投稿を抑制することができる。
上記投稿情報管理システムについて、不適切な表現となる可能性を有する文字列を予め記憶した記憶部をさらに備え、前記ユーザ評価部は、前記ユーザの投稿内容に前記記憶部に記憶された前記不適切な表現となる可能性を有する文字列が含まれるか否かに基づいて、前記ユーザに関連付けられた前記ユーザ評価情報を更新することが好ましい。

かかる構成によれば、不適切な表現が投稿内容に含まれるか否かを判定した判定結果に基づいてユーザ評価情報を更新するので、ユーザの投稿内容の適否の傾向をユーザ毎に表すことができる。

上記投稿情報管理システムについて、前記ユーザ評価情報は、前記文字列が含まれる投稿の回数である不適切投稿回数を含み、前記投稿制限部は、前記不適切投稿回数が所定数以上である場合に前記ユーザ評価情報が前記投稿制限条件を満たすと判断することが好ましい。

かかる構成によれば、不適切投稿数に関する閾値である所定数を適切に設定することで、不適切な投稿を行う傾向のあるユーザを特定し、そのユーザの投稿を制限することができる。

上記投稿情報管理システムについて、前記ユーザ評価部は、前記ユーザの投稿内容に対して他のユーザ又は管理者から不適切であるとして通報された数に基づき、前記ユーザに関連付けられた前記ユーザ評価情報を更新することが好ましい。

かかる構成によれば、他のユーザからみた客観的な情報に基づいてユーザの投稿についての評価を行うことができる。
上記投稿情報管理システムについて、前記投稿制限部は、前記ユーザ評価情報に含まれる前記通報された数が所定数以上である場合に前記ユーザ評価情報が前記投稿制限条件を満たすと判断することが好ましい。

かかる構成によれば、投稿に対して通報された数が所定数以上である場合に投稿制限条件が満たされると判断するため、所定数を適切に設定することで、不適切な投稿を行う傾向のあるユーザを特定し、そのユーザの投稿を制限することができる。

上記投稿情報管理システムについて、前記投稿制限条件を、前記ユーザ毎に設定された属性に応じて変更する条件変更部をさらに備えることが好ましい。
かかる構成によれば、ユーザ毎に設定された属性に応じて投稿制限条件を変更するため、投稿内容自体の判定だけでなく、投稿内容に不適切な表現が含まれる可能性を、多様な観点から判定することができる。

上記投稿情報管理システムについて、前記属性は、前記ユーザが属するグループであることが好ましい。
かかる構成によれば、ユーザが属するグループに基づいて投稿制限条件が設定されるため、投稿内容に不適切な表現が含まれる可能性を、多様な観点から判定することができる。

上記投稿情報管理システムについて、前記注意喚起情報は、前記ユーザが入力した投稿内容を修正して投稿する第１選択部を前記ユーザ装置に表示させるための情報を含むことが好ましい。

かかる構成によれば、注意喚起に対して第１選択部を選択することにより投稿内容を修正することができる。ユーザは、注意喚起の度に投稿内容を修正することによって、ユーザの投稿に対する制限を回避することが可能である。

上記投稿情報管理システムについて、前記注意喚起情報は、前記ユーザが入力した投稿内容を修正せずに投稿する第２選択部を前記ユーザ装置に表示させるための情報を含むことが好ましい。

かかる構成によれば、明らかに不適切な表現が含まれない投稿に対して注意喚起がなされた場合に、投稿を継続することができる。
上記投稿情報管理システムについて、前記ユーザに対する質問を前記ユーザ装置に出力させる質問提示部と、前記質問に関連付けて不適切な表現となる可能性を有する文字列を予め記憶した記憶部とをさらに備え、前記ユーザ評価部は、前記ユーザの投稿内容に前記記憶部に記憶された前記不適切な表現となる可能性を有する文字列が含まれるか否かに基づいて、前記ユーザに関連付けられた前記ユーザ評価情報を更新することが好ましい。

かかる構成によれば、質問毎に不適切な表現となる可能性を有する文字列を用いて、投稿について適切であるか否かを判定するため、的確な判定を行うことができる。

本発明によれば、不適切な表現が含まれている可能性のある投稿が他のユーザに閲覧される機会を低減しつつ、ユーザの投稿への意欲の低下を抑制することができる。

第１実施形態の投稿情報管理システムの概略構成を示す図である。 同実施形態のモニター調査の工程を示す図である。 同実施形態のサーバの概略構成を示す図である。 同実施形態のユーザ装置の概略構成を示す図である。 同実施形態のユーザ管理情報のデータ構造を示す模式図である。 同実施形態の調査依頼情報のデータ構造を示す模式図である。 同実施形態の投稿ログ情報のデータ構造を示す模式図である。 同実施形態のサーバの機能を示す図である。 同実施形態の投稿情報管理方法の手順を示す図である。 同実施形態の投稿情報管理方法の手順を示す図である。 同実施形態の注意喚起画面を示す図である。 同実施形態の投稿表示画面を示す図である。

（第１実施形態）
投稿情報管理システム、投稿情報管理プログラム及び投稿情報管理方法の第１実施形態について説明する。

＜投稿情報管理システム＞
図１に示すように、投稿情報管理システム１は、サーバ２、依頼者装置３、及びユーザ装置４を備える。サーバ２、依頼者装置３及びユーザ装置４は、インターネット等のネットワーク５を介してデータを送受信可能に接続されている。サーバ２は、複数のユーザからの意見を収集するモニター調査サービスを提供するサービス提供者が管理するものであり、１又は複数の装置から構成される。依頼者装置３は、モニター調査をサービス提供者に依頼する依頼者の装置である。ユーザ装置４は、モニター調査に参加するユーザが用いる装置である。

図２は、投稿情報管理システム１を用いて提供されるモニター調査サービスの流れの一例を示す。依頼者装置３は、依頼者の入力操作を受け付けて、モニター調査を依頼する依頼情報をサーバ２に送信する（依頼工程：Ｓ１）。また、モニター調査に参加するユーザが用いるユーザ装置４は、ユーザの入力操作を受け付けて登録情報をサーバ２に送信する（登録工程：Ｓ２）。ユーザの登録は、調査サービスが開始される前に行われてもよいし、調査サービスが進行している間に行われてもよい。調査サービスが開始されると、ユーザ装置４の要求に応じて、サーバ２は、調査サービスの質問に関する情報をユーザ装置４に送信する（質問工程Ｓ３）。ユーザ装置４は、質問に関する情報を表示する。また、ユーザは、質問に対するコメントをユーザ装置４に入力する。そしてユーザ装置４は、ユーザに入力されたコメントをサーバ２に送信することにより投稿を行う（投稿工程Ｓ４）。ユーザが投稿したコメントは、他のユーザのユーザ装置４により閲覧することができる。サーバ２は、複数のユーザ装置４からコメントを収集する。さらにサーバ２は、収集したコメントを統計した統計情報を依頼者装置３に送信する（統計送信工程Ｓ５）。これにより、依頼者は、質問に対するユーザのコメントを統計した情報を確認することができる。統計情報は、例えば、年齢別、性別等のユーザの属性情報に分けてコメントを統計したものである。

図３，図４を参照して、サーバ２、及びユーザ装置４の構成について説明する。依頼者装置３については、ユーザ装置４と同様な構成であるため説明を省略する。
（サーバ）
図３に示すように、サーバ２は、制御部１０、通信部１１、及び記憶部１２を備えている。制御部１０は、システムバス１８を介して、通信部１１及び記憶部１２との間で各種のデータを取得又は出力する。制御部１０は、演算装置及びメモリ（記憶媒体）を含む。演算装置は、記憶部１２又はそれ以外のストレージからオペレーティングシステムや、投稿情報管理プログラム等の各種プログラムをメモリにロードし、メモリから取り出した命令を実行する。演算装置は、１つ又は複数の回路（circuitry）であり、例えばＣＰＵ等である。通信部１１は、ハードウェア、ソフトウェア、又はこれらの組み合わせとして実装され、ネットワーク５を介してデータを送受信する。記憶部１２は、補助記憶装置（記憶媒体）であって、投稿を管理するための各種情報を記憶する。なお、サーバ２は、サービス提供者等が入力操作を行うための操作部、表示部を備えていてもよい。記憶部１２には、ユーザ管理情報１３、調査依頼情報１４、投稿ログ情報１５、ＮＧワードデータベース（ＤＢ）１６、統計情報１７が記憶されている。

（ユーザ装置）
図４に示すように、ユーザ装置４は、スマートフォン（多機能電話端末）、タブレット端末、パーソナルコンピュータ、ウェアラブルコンピュータ、又はこれらの装置以外の画像を表示可能な情報処理装置である。ユーザ装置４は、制御部２０、通信部２１、記憶部２２、入力操作部２３、及び表示部２４を備えている。制御部２０は、システムバス２６を介して、通信部２１、記憶部２２、入力操作部２３、及び表示部２４との間で各種のデータを取得又は出力する。制御部２０及び通信部２１は、サーバ２と同様な構成である。記憶部２２には、ウェブブラウザプログラム２５が記憶されている。入力操作部２３は、表示部２４と一体化されたタッチパネルや、ユーザ装置４の筐体等に設けられた操作ボタン、キーボード、マウス、コントローラ等である。表示部２４は、制御部２０の出力指示に応じて、各種画像を出力する。本実施形態では、ユーザ装置４は、質問工程における依頼者からの質問の表示や、投稿工程における投稿を、ウェブブラウザプログラム２５を用いて行う。サーバ２は、ユーザ装置４との間でＷｅｂＳｏｃｋｅｔ等のプロトコルを用いた通信を行うようにしてもよい。

ユーザ装置４は、質問やコメントを入力するためのウェブデータをサーバ２から受信する。ウェブデータは、マークアップ言語で記述されたファイル、そのファイルに埋め込まれる画像データ、ＪａｖａＳｃｒｉｐｔ（登録商標）プログラム等を含む。他にも、ウェブデータは、音声データを含んでいてもよい。マークアップ言語は、要素をタグで囲んだ言語であり、例えば、ＨＴＭＬ（HyperText Markup Language）、ＸＭＬ（Extensible Markup Language）、ＸＨＴＭＬ（Extensible HyperText Markup Language）又はその他の言語であってもよい。マークアップ言語で記述されたデータは、テキストデータであってもよく、バイナリデータであってもよい。このようなウェブデータには、ＵＲＬ（Uniform Resource Locator）、ＵＲＩ（Uniform Resource Identifier）等のリソースを特定するための識別情報が設定されている。

（データ構成）
次に、図５～図７を参照して、サーバ２の記憶部１２に記憶されたユーザ管理情報１３、調査依頼情報１４、投稿ログ情報１５の構成について説明する。

図５に示すように、ユーザ管理情報１３は、ユーザ識別情報、性別、生年月日、住所、電子メールアドレス、通報情報、不適切投稿回数、ポイント数、グループを含む。ユーザ管理情報１３は、ユーザ毎に記憶されている。ユーザ識別情報は、モニター調査に参加可能なユーザ毎に割り振られた識別情報である。性別、生年月日、住所はユーザに関する情報であって、ユーザがモニター調査に参加した場合に統計に用いられる。電子メールアドレスは、ユーザに対して通知を行うためのアドレスである。

通報情報は、ユーザの投稿に対して行われた通報に関する情報である。投稿情報管理システム１では、ユーザは、他のユーザの投稿に対して通報を行うことができる。なお、サーバ２は、１つのコメントに対して、一人のユーザから１回だけ通報を受け付ける。又は、サーバ２は、１つのコメントに対して、一人のユーザから複数回通報を受け付けるようにしてもよい。通報情報は、通報対象である投稿の識別情報である投稿番号、通報数、及び総通報数を含む。通報数は、１つの投稿に対して通報された回数を示す。総通報数は、投稿毎の通報数の合計数を示す。

不適切投稿回数は、不適切な表現となる可能性を有する表現が含まれる投稿を行った回数を示す。サーバ２は、ユーザ装置４から送信された投稿内容に不適切な表現が含まれている場合には、まず注意喚起情報をユーザ装置４に送信する。ユーザは、注意喚起情報に対し、投稿内容を修正するか又はその投稿内容を修正しないで投稿することができる。投稿回数は、ユーザが注意喚起を無視して投稿を行った回数を示す。

ポイント数は、ユーザが取得したポイント数を示す。ポイント数は、モニター調査に参加することにより得ることができる。また、ポイント数は、商品やサービスを利用したり購入したりすることで得ることができるものであってもよい。

グループは、ユーザ毎に設定された属性であって、ユーザが属するグループを示す。例えば、グループは、過去のモニター調査に参加した実績に基づき作成されたランクである。ランクは、モニター調査への参加回数、モニター調査の参加時に不適切なコメントを投稿していないこと等により決定される。例えば「優良ランク」には、参加回数が多く、モニター調査の参加時に不適切なコメントを投稿していないユーザが属する。又は、グループは、ユーザ管理情報１３に含まれるポイント数に応じて設定されていてもよい。具体的には、ポイント数に応じて階層化されたグループであってもよい。その他、グループには、モニター調査の参加時に不適切なコメントを投稿しないと想定されるグループとそれ以外のグループが設定されていてもよい。

図６を参照して、調査依頼情報１４について説明する。調査依頼情報は、依頼者が依頼したモニター調査の内容を示す。調査依頼情報１４は、調査識別情報、動画識別情報、調査期間、質問情報を含む。調査識別情報は、モニター調査の依頼毎に割り振られた番号である。動画識別情報は、動画ファイルを識別するための情報であり、モニター調査が、ユーザが動画を視聴するタイプの調査である場合に記憶される。また、調査期間はモニター調査が行われる期間を示す。質問情報は、ユーザへの質問に関する情報である。質問は、モニター調査案件毎に複数設定することができる。質問情報は、質問毎に作成されている。質問情報は、質問番号、質問内容、回答の受付期間を含む。

図７を参照して、投稿ログ情報１５について説明する。投稿ログ情報１５は、ユーザの投稿毎に記憶されている。投稿ログ情報１５は、調査識別情報、質問番号、投稿番号、入力日時、ユーザ識別情報、投稿内容、通報ユーザ情報、通報数を含む。調査識別情報及び質問番号は、コメントが投稿されたモニター調査案件の識別情報、質問番号を示す。これらは、調査依頼情報１４の調査識別情報及び質問番号に紐づけられている。投稿番号は、投稿毎に割り振られた番号である。入力日時は、コメントがユーザ装置４に入力された日時を示す。又はサーバ２がコメントを受信した日時を入力日時としてもよい。ユーザ識別情報は、投稿を行ったユーザを示し、ユーザ管理情報のユーザ識別情報に紐づけられている。投稿内容は、ユーザが入力した投稿内容を示す。通報ユーザ情報は、投稿に対して通報を行ったユーザの識別情報を含む。通報数は、この投稿に対して行われた通報数であり、ユーザ管理情報１３に含まれる通報数に紐づけられている。

ＮＧワードＤＢ１６は、ＤＢＭＳ（Database Management System）等であり、データベースを管理するプログラムを含む。またＮＧワードＤＢ１６は、個人情報に関する表現、他者を不快にさせる表現、社会風紀に反する表現の集合データを含む。また、ＮＧワードＤＢ１６は、質問毎に、不適切な表現となる可能性を有する文字列を含む。例えば、一方の質問に対するコメントとしては適切である表現が、他方の質問に対するコメントとしては、質問と関係が無く不自然である場合がある。このため、質問毎に不適切な表現となる可能性を有する文字列を予め登録しておくことによって、不適切な表現を含む投稿を的確に判定することが可能となる。

（サーバの処理）
次に図８を参照して、サーバ２が処理を実行することにより発揮される機能について説明する。サーバ２は、投稿情報管理プログラムを読み出して実行することにより、質問提示部３０、投稿受信部３１、投稿送信部３２、判定部３３、注意喚起部３４、評価情報取得部３５、ユーザ評価部３６、投稿制限部３７として機能する。

（質問提示部）
質問提示部３０は、ユーザに対する質問をユーザ装置４に出力させる。具体的には、ユーザ装置４は、ユーザの操作に従ってウェブブラウザプログラム２５を起動して、参加するモニター調査案件のＵＲＬを指定してウェブページをリクエストする。サーバ２は、指定されたＵＲＬのウェブページである投稿表示情報をユーザ装置４に送信する。質問提示部３０は、調査依頼情報１４に含まれる調査期間の開始時間に到達すると、調査依頼情報１４に含まれる質問内容を投稿表示情報に含めて、モニター調査に参加するユーザのユーザ装置４に送信する。このとき、質問提示部３０は、質問内容とともに少なくとも質問番号を送信する。また、調査依頼情報１４に複数の質問情報が含まれている場合には、質問番号に従って順番に質問内容を送信する。

ユーザ装置４は、質問内容を含む投稿表示情報を受信すると、表示部２４に質問内容を表示する。また、投稿表示情報に基づき表示された画面には、質問に対してコメントを入力するための入力フォーム及び送信ボタンが表示されている。ユーザは、入力フォームにコメントを入力して送信ボタンを操作する。ユーザ装置４は、送信ボタンが操作されると、コメントを投稿情報としてサーバ２に送信する。

（投稿受信部）
投稿受信部３１は、ユーザ装置４から投稿情報を受信する。投稿情報は、ユーザ装置４に出力した質問に対応する質問番号、入力日時、ユーザ識別情報、質問に対する投稿内容を含む。投稿受信部３１は、投稿情報を受信すると、投稿番号を生成する。そして、生成した投稿情報に投稿番号を関連付けて、投稿ログ情報１５として記憶部１２に記憶する。なお、投稿番号は、投稿を行ったユーザ装置４が生成してもよい。この場合、ユーザ装置４は、ユーザ識別情報などを用いて固有の投稿番号を生成し、生成した投稿番号を投稿情報に含めて送信する。

（投稿送信部）
投稿送信部３２は、投稿受信部３１が受信した投稿情報を、モニター調査に参加している他のユーザが用いるユーザ装置４に送信する。具体的には、投稿送信部３２は、質問番号、入力日時、投稿番号、投稿内容を含む投稿表示情報を生成する。そして生成した投稿表示情報を、投稿を行ったユーザ装置４及びそれ以外のユーザ装置４に送信する。ユーザ装置４は、受信した投稿表示情報を表示部２４に出力する。

（判定部）
判定部３３は、質問に対してユーザ装置４から送信された投稿情報について、不適切な表現となる可能性を有する文字列を記憶したＮＧワードＤＢ１６を用いて、不適切な表現を検出する。具体的には、判定部３３は、テキストデータである投稿内容を単語や文節で区切ることにより解析対象の文字列を作成する。そして、解析対象の文字列とＮＧワードＤＢ１６に含まれる文字列とを参照して、解析対象の文字列がＮＧワードＤＢ１６に記憶された文字列に合致又は類似するか否かを判断する。判定部３３は、少なくとも一つの解析対象の文字列がＮＧワードＤＢ１６に記憶された文字列に合致又は類似すると判断した場合、投稿が適切でないと判定する。また、判定部３３は、ＮＧワードＤＢ１６に記憶された文字列に合致又は類似する解析対象の文字列が無いと判断した場合、投稿が適切であると判定する。

（注意喚起部）
注意喚起部３４は、ユーザに関連付けられたユーザ評価情報が注意喚起条件を満たす場合に注意喚起情報をユーザ装置４に出力させる。具体的には、注意喚起条件は、判定部３３が投稿内容に不適切な表現を含むと判定したこと、及びユーザに関連付けられた総通報数が所定数以上であることである。前者を第１注意喚起条件、後者を第２注意喚起条件という。

第１注意喚起条件について説明する。上述したように判定部３３は、ユーザ装置４から投稿情報を受信すると、ＮＧワードＤＢ１６を用いて、投稿内容に不適切な表現が含まれるか否かを判定する。注意喚起部３４は、判定部３３が投稿内容に不適切な表現が含まれると判定した場合には、注意喚起情報をユーザ装置４に送信する。ユーザ装置４は、サーバ２から受信した注意喚起情報を表示部２４に出力する。なお、注意喚起が行われたときにユーザが投稿内容を修正した場合は、ユーザ管理情報１３の不適切投稿回数は増加しない。

第２注意喚起条件について説明する。注意喚起部３４は、ユーザ装置４から受信した投稿情報に基づいて、投稿内容に不適切な表現が含まれないと判断した場合に、その投稿を行ったユーザのユーザ管理情報１３を参照する。また、注意喚起部３４は、総通報数が所定数以上であるか否かを判断する。そして、注意喚起部３４は、総通報数が所定数以上であると判断すると、注意喚起情報をユーザ装置４に送信する。ユーザ装置４は、サーバ２から受信した注意喚起情報を表示部２４に出力する。

（評価情報取得部）
評価情報取得部３５は、ユーザ装置４から送信された投稿内容が不適切であることを示す投稿評価情報を取得する。本実施形態では、投稿評価情報は、不適切な投稿内容が投稿されたとの判定結果、及びユーザ装置４から受信した投稿に対する通報情報である。前者の投稿評価情報を第１投稿評価情報といい、後者の投稿評価情報を第２投稿評価情報という。

第１投稿評価情報について説明する。判定部３３は、ユーザに注意喚起を行ったにも関わらず不適切な表現を含む投稿内容が投稿されたと判定した場合に、その判定結果を第１投稿評価情報として評価情報取得部３５に出力する。

第２投稿評価情報について説明する。評価情報取得部３５は、投稿に対する通報情報を第２投稿評価情報としてユーザ装置４から受信する。ユーザ装置４から受信した通報情報には、投稿番号、通報を行ったユーザの識別情報を含む。

（ユーザ評価部）
ユーザ評価部３６は、投稿評価情報に基づいて、投稿情報を送信したユーザを評価したユーザ評価情報を更新する。ユーザ評価部３６は、第１投稿評価情報に基づいて、ユーザ管理情報１３の不適切投稿回数をユーザ評価情報として更新する。具体的には、ユーザ評価部３６は、判定部３３から不適切な表現を含む投稿が完了したとの判定結果を取得すると、投稿情報に含まれるユーザ識別情報等に基づいて、その投稿を行ったユーザを特定する。そして、特定したユーザに対応するユーザ管理情報１３の不適切投稿回数をインクリメントする。

また、ユーザ評価部３６は、第２投稿評価情報に基づいて、ユーザ管理情報１３の通報情報を更新する。具体的には、ユーザ評価部３６は、ユーザ装置４から受信した通報情報に含まれる投稿番号に基づいて、通報された投稿を特定する。さらに投稿ログ情報１５を参照して、特定した投稿番号に基づき、その投稿を行ったユーザを特定する。そして、特定したユーザに対応するユーザ管理情報１３の通報情報を更新する。つまり、ユーザ評価部３６は、ユーザ装置４から受信した投稿番号が既に記憶されている場合には、通報数及び総通報数をインクリメントする。また、通報情報に、受信した通報番号が記憶されていない場合には、通報番号を通報情報に新たに登録し、通報数を「１回」にするとともに、総通報数をインクリメントする。

（投稿制限部）
投稿制限部３７は、ユーザ評価情報が投稿制限条件を満たす第１ユーザの投稿を、第１ユーザが用いるユーザ装置４に出力させ、第１ユーザの投稿を第１ユーザ以外の第２ユーザが用いるユーザ装置４に出力させない。ユーザ評価情報が投稿制限条件を満たすユーザは第１ユーザであり、第１ユーザ以外のユーザは第２ユーザである。本実施形態では、２つの投稿制限条件が設定されている。第１投稿制限条件は、注意喚起を無視して投稿した不適切投稿回数が所定回数以上であることである。第２投稿制限条件は、投稿毎の通報数が所定数以上且つ総通報数が所定数以上であることである。

投稿制限部３７は、第１投稿制限条件又は第２投稿制限条件が満たされると判断した場合には、第１ユーザのユーザ装置４に送信するウェブページと、第２ユーザのユーザ装置４に送信するウェブページとを異ならせる。具体的には、投稿制限部３７は、第１ユーザの投稿を含むウェブページを第１ユーザ６Ａのユーザ装置４Ａに送信する。このとき、投稿制限部３７は、ユーザ装置４から送信された投稿情報を質問ごとに統合する。また、投稿制限部３７は、第１ユーザの投稿を含まず第２ユーザの投稿を含むウェブページを第２ユーザ６Ｂのユーザ装置４Ｂに送信する。なお、投稿制限部３７は、投稿内容の入力日時等に基づいて投稿内容の表示範囲を決定するが、表示範囲の中にユーザ評価情報が投稿制限条件を満たさないと判定されたときよりも前に受信した過去の第１ユーザの投稿内容が含まれる場合には、その第１ユーザの投稿内容はウェブページに含めるものとする。

投稿制限部３７は、第１投稿制限条件及び第２投稿制限条件の両方が満たされないと判断した場合には、第１ユーザの投稿及び第２ユーザの投稿を含むウェブページを、第１ユーザのユーザ装置４及び第２ユーザのユーザ装置４に送信する。

また、投稿制限部３７は、第１投稿制限条件と第２投稿制限条件との両方を用いる。第１投稿制限条件は、ＮＧワードＤＢ１６を用いた判定結果を用いるものであり、第２投稿制限条件は人間の判断を用いるものである。このように、異なる観点から投稿の傾向を判断することにより、投稿の適切性をより的確に判断することができる。

（投稿情報管理システムの動作）
次に図９を参照して、投稿情報管理システム１の動作について、サーバ２が実行する処理を中心に説明する。前提として、図２に示す依頼工程Ｓ１、登録工程Ｓ２、質問工程Ｓ３は実行されているものとする。

投稿受信部３１は、投稿の受付期間が開始されると、投稿情報をユーザ装置４から受信する（ステップＳ１０）。また、投稿受信部３１は、受信した投稿情報を投稿ログ情報１５として記憶部１２に記憶する（ステップＳ１１）。このとき、投稿受信部３１は、投稿番号を生成する。また、投稿受信部３１は、投稿情報に関連付けて調査識別情報及び生成した投稿番号を記憶する。

判定部３３は、ＮＧワードＤＢ１６を用いて、投稿内容に含まれる不適切な表現を検出する判定処理を行う（ステップＳ１２）。そして、判定部３３は、判定結果に基づき、投稿内容に不適切な表現が含まれるか否かを判定する（ステップＳ１３）。判定部３３は、不適切な表現が含まれないと判定した場合には（ステップＳ１３：ＮＯ）、投稿内容を受け付けたものとする。また、判定部３３は、判定結果を評価情報取得部３５に出力する。評価情報取得部３５は、後述する通報判定処理を行う（ステップＳ１５）。

判定部３３は、不適切な表現が含まれると判定した場合（ステップＳ１３：ＹＥＳ）、不適切な表現が含まれるとの情報を注意喚起部３４に出力する。注意喚起部３４は、不適切な表現を含む投稿を行ったユーザに対して注意喚起を行う（ステップＳ１４）。このとき、注意喚起部３４は、投稿情報に含まれるユーザ識別情報等から、この投稿を行ったユーザ又はこのユーザが用いるユーザ装置４を特定する。そして、このユーザが用いるユーザ装置４に注意喚起情報を送信する。例えば注意喚起情報は、注意喚起の対象の投稿内容に割り振られた投稿番号を含む。

次いで判定部３３は、注意喚起の対象となったユーザが投稿内容を修正したか否かを判断する（ステップＳ１６）。判定部３３は、注意喚起を行ったユーザのユーザ装置４から、同じ投稿番号が割り振られた投稿内容を受信した場合には、ユーザが投稿内容を修正したと判断する（ステップＳ１６：ＹＥＳ）。そして、判定部３３は、投稿ログ情報１５の投稿内容を更新するか、又は修正された投稿内容を新たに追加する。この場合、判定部３３は、ステップＳ１２に戻り、修正した内容に不適切な表現があるか否かを再度判定する。なお、サーバ２は、投稿内容の修正と判定処理とを繰り返す間に質問の受付期間が終了した場合には処理を終了する。

一方、判定部３３は、投稿内容を修正せずに投稿する指示をユーザ装置４から受信した場合、投稿内容の修正が無いと判断する（ステップＳ１６：ＮＯ）。判定部３３は、不適切な表現を含む投稿が行われたものとして受け付ける。そして、判定部３３は、判定結果を評価情報取得部３５に出力する。評価情報取得部３５は、判定結果を第１投稿評価情報として取得する。また、ユーザ評価部３６は、評価情報取得部３５が取得した第１投稿評価情報に基づいて、その投稿を行ったユーザに関連付けられたユーザ管理情報１３のうち、不適切投稿回数を更新する。

そして、投稿制限部３７は、ユーザの不適切投稿回数が所定回数以上であるか否かを判断する（ステップＳ１７）。投稿制限部３７は、不適切投稿回数が所定回数以上であると判断すると（ステップＳ１７：ＹＥＳ）、その投稿を行ったユーザを第１ユーザとみなして投稿制限処理を行う（ステップＳ１８）。上述したように、投稿制限部３７は、第１ユーザが用いるユーザ装置４に、第１ユーザの投稿内容を含む投稿表示画面を表示するための投稿表示情報を送信する。一方、投稿制限部３７は、第１ユーザ以外の第２ユーザが用いるユーザ装置４に対し、第１ユーザの投稿内容を含まない投稿表示情報を送信する。これにより、第１ユーザが用いるユーザ装置４では第１ユーザの投稿内容が表示される。また、第２ユーザが用いるユーザ装置４では、第１ユーザの投稿内容が表示されない。

投稿制限部３７が第１ユーザの投稿内容を含まない投稿表示情報を生成する方法は特に限定されないが、例えば第１ユーザが投稿した投稿ログ情報に対して設定された非表示フラグをオンにしてもよい。投稿送信部３２は、いずれかのユーザ装置４から投稿情報を受信したタイミングで投稿表示情報を更新してユーザ装置４に送信するが、このとき非表示フラグがオンである投稿ログ情報１５の投稿内容を含めずに投稿表示情報を生成してもよい。

一方、ステップＳ１７において、投稿制限部３７が、不適切投稿回数が所定回数未満であると判断すると（ステップＳ１７：ＮＯ）、制限が無い投稿出力処理を行う（ステップＳ１９）。このとき投稿制限部３７は、判定部３３により不適切な表現を含むと判定された投稿内容を有する投稿表示情報を生成する。そして、生成した投稿表示情報を第１ユーザが用いるユーザ装置４及び第２ユーザが用いるユーザ装置４に送信する。

不適切な表現を含むと判定された投稿内容を、投稿者以外のユーザのユーザ装置４に送信する場合、その投稿をユーザが閲覧することになる。しかし、不適切な投稿が特定のユーザにより繰り返されるとき、そのユーザに関連付けられた不適切投稿回数が所定回数に到達した時点で、そのユーザから新たに送信された投稿が他のユーザには閲覧されなくなる。よって、特定のユーザからの不適切な投稿が、他のユーザのユーザ装置４に繰り返し表示されることを抑制することができる。

投稿制限部３７は、投稿制限処理（ステップＳ１８）又は制限の無い投稿処理（ステップＳ１９）を行うと、回答の受付期間が終了したか否かを判断する（ステップＳ２０）。投稿制限部３７は、受付期間が終了していないと判断すると（ステップＳ２０：ＮＯ）、ステップＳ１０に戻り、投稿受信部３１が新たな投稿情報を受け付ける。また、サーバ２は、受付期間が終了したと判断すると（ステップＳ２０：ＹＥＳ）、処理を終了する。

図１０を参照して、サーバ２が、不適切な表現が含まれないと判定した後に実行される通報判定処理について説明する。評価情報取得部３５は、投稿情報を受信し、受信した投稿情報をユーザ装置４に送信する処理と並行して、投稿に対する通報情報をユーザ装置４から受信する処理を行っている。ユーザ評価部３６は、第２投稿評価情報として通報情報を受信し、通報情報に基づいて、投稿ログ情報１５の通報ユーザ情報及び通報数を更新する。また、評価情報取得部３５は、ユーザ管理情報１３のうち、通報情報に含まれる投稿番号に関連付けられた通報数、及び総通報数を更新する。

判定部３３が投稿内容に不適切な表現が含まれないと判定した場合（ステップＳ１３：ＮＯ）、投稿制限部３７は、投稿情報に含まれるユーザ識別情報に対応するユーザ管理情報１３のうち、通報情報を取得する（ステップＳ２１）。このとき、投稿制限部３７は、投稿毎の通報数及び総通報数を取得すればよい。

投稿制限部３７は、総通報数が所定数以上であるか否かを判断する（ステップＳ２２）。ここでは、ユーザが不適切な表現を含む投稿を行った実績に基づき、不適切な表現の投稿を行う可能性が高いか否かを推定する。例えば、過去に１回のみ投稿を行ったユーザであっても、その１回の投稿内容に対して例えば「２０」等の多くの通報が行われた場合には総通報数は多くなる。また、投稿毎の通報数が少ない場合であっても、通報が行われた投稿の数が多いと、総通報数は多くなる。例えば、２回以上の通報を受けた投稿を１０回以上行っている場合には、総通報数は「２０」以上になる。

投稿制限部３７は、総通報数が所定数未満であると判断した場合には（ステップＳ２２：ＮＯ）、ステップＳ１９と同様に制限のない投稿処理を実行する（ステップＳ２７）。一方、サーバ２は、総通報数が所定数以上であると判断した場合には（ステップＳ２２：ＹＥＳ）、通報情報に含まれる投稿毎の通報数が所定数以上のものがあるか否かを判断する（ステップＳ２３）。

ステップＳ２３において、投稿制限部３７が、通報数が所定数以上のものが無いと判断した場合、すなわち投稿毎の通報がいずれも所定数未満であると判断した場合（ステップＳ２３：ＮＯ）、ステップＳ１４と同様に、総通報数が所定数以上のユーザに対して注意喚起を行う（ステップ２６）。また、投稿制限部３７は、ステップＳ１９と同様に制限のない投稿処理を実行する（ステップＳ２７）。つまり、総通報数が所定数以上且つ投稿毎の通報数がいずれも所定数未満である場合に、悪意のある通報がなされた可能性があるとして、制限を課さないようにすることができる。例えば、通報機能は、判定部３３の誤判定に基づく投稿制限を抑制することができるといった利点を有するものの、悪意のあるユーザが、不適切な表現を含まない投稿であるにも関わらず通報を行う可能性も想定される。しかし、悪意のあるユーザは、１つの投稿に多くの通報を行うことはできない。したがって、総通報数が高いユーザであっても、１回の投稿に対する通報数が少ない場合には、不適切な表現を含む投稿を行うユーザであることの確実性が疑われるため、このユーザに対しては投稿の制限を課さない。

一方、ステップＳ２３において、投稿制限部３７が、所定数以上の通報がなされた投稿があると判断した場合（ステップＳ２３：ＹＥＳ）、その投稿を行ったユーザを第１ユーザとみなして、ステップＳ１８と同様に投稿制限処理を行う（ステップＳ２４）。つまり、所定数以上の通報を受けた投稿を行ったことがあり、且つ総通報数が所定以上である第１ユーザの投稿内容は、不適切な表現を含まなくても他のユーザは閲覧しない。

投稿制限部３７が、制限のない投稿処理を実行する（ステップＳ２７）又は投稿制限処理（ステップＳ２４）を行うと、回答の受付期間が終了したか否かを判断する（ステップＳ２０）。

なお、ステップＳ１４において注意喚起を行い、その後、不適切な表現を含まない投稿が継続された場合には、不適切投稿回数を初期値にリセット又は減少するようにしてもよい。又は、ステップＳ２６において注意喚起を行い、その後、通報がない投稿が継続された場合には、注意喚起情報の通報数及び総通報数を初期値にリセット又は減少するようにしてもよい。このとき、投稿制限部３７は、不適切投稿回数、又は通報数を更新してからの経過期間を判断する。不適切投稿回数又は通報数が更新されない期間が、所定期間に到達した場合には不適切投稿回数又は通報数をリセット又は減少する。或いは、サーバ２は、ユーザからの投稿情報を受信する度に、不適切な表現を含まない投稿内容の投稿回数、通報の無い投稿内容の投稿回数をカウントする。そして、サーバ２は、それらの投稿回数が所定回数に到達した場合には不適切投稿回数又は通報数をリセット又は減少する。

サーバ２は、投稿の受付期間が終了すると、投稿ログ情報１５を用いて統計を行う。このとき、サーバ２は、第１ユーザの投稿を除いてモニター調査の統計を行ってもよい。この場合には、不要なデータを除外することとなるため、依頼者は精度が高められた調査結果を得ることができる。

（ユーザ装置の画面）
図１１及び図１２を参照して、ユーザ装置４の表示部２４に表示される画面について説明する。表示部２４に表示される画面は、サーバ２から受信した投稿表示情報をウェブブラウザプログラム２５が読み込むことにより表示される。

図１１は、注意喚起画面４０である。注意喚起画面４０は、サーバ２の注意喚起部３４によって送信された注意喚起情報に基づく画面である。注意喚起画面４０は、注意喚起表示部４１を含む。注意喚起部３４には、投稿内容に不適切な表現が含まれている可能性があることが表示されている。また、注意喚起部３４は、第１選択部である確認ボタン４１Ａ、及び第２選択部である投稿ボタン４１Ｂを含む。ユーザが確認ボタン４１Ａを選択すると、入力フォームが表示される。このとき、ユーザは、表示された投稿内容を修正することができる。ユーザは投稿内容を修正すると、ユーザ装置４は、修正した投稿内容を含む投稿情報をサーバ２に送信する。修正により投稿内容に不適切な表現が含まれなくなった場合には、ユーザ評価部３６は不適切投稿回数を更新しない。ユーザが投稿ボタン４１Ｂを選択すると、ユーザ装置４は、修正しない投稿内容を含む投稿情報をサーバ２に送信される。

図１２を参照して、投稿制限を受けた第１ユーザ６Ａのユーザ装置４Ａに表示される第１投稿表示画面５０Ａ、及び第２ユーザ６Ｂのユーザ装置４Ｂに表示される第２投稿表示画面５０Ｂの一例について説明する。なお、第１投稿表示画面５０Ａ及び第２投稿表示画面５０Ｂを区別しないで説明する場合には、単に投稿表示画面５０とする。また、第１ユーザ６Ａ及び第２ユーザ６Ｂ、ユーザ装置４Ａ，４Ｂをそれぞれ区別しないで説明する場合には、単にユーザ６、ユーザ装置４とする。

まず投稿表示画面５０の基本的な構成について説明する。投稿表示画面５０は、質問表示部５１、投稿内容表示領域５２、入力フォーム５３を含む。質問表示部５１には、調査依頼情報１４の質問内容が表示される。投稿内容表示領域５２には、ユーザ装置４から送信された投稿内容を質問ごとに統合した情報が表示される。投稿内容表示領域５２は、投稿内容５５、投稿者識別情報５６、及び入力日時５７を含む。投稿内容５５は、質問に対するユーザの回答であって、投稿ログ情報１５に含まれる投稿内容である。投稿者識別情報５６は、サーバ２がモニター調査に参加するユーザに一時的に割り振った識別情報であり、例えば番号である。ここでは、投稿者識別情報５６はユーザ識別情報とは異なる情報であるが、ユーザ識別情報を投稿者識別情報５６として表示してもよい。

投稿内容５５は投稿内容表示領域５２に時系列的に並んでいる。投稿内容表示領域５２はスクロール操作により過去の投稿内容５５を閲覧可能に構成されていてもよい。投稿内容表示領域５２には、例えば、入力日時５７が相対的に早い投稿内容５５が、入力日時５７が相対的に遅い投稿内容５５よりも投稿内容表示領域５２の上方に表示される。また、投稿内容表示領域５２に投稿内容５５が表示しきれない場合には、最も早い入力日時５７が関連付けられた投稿内容５５が投稿内容表示領域５２から非表示とされてもよい。また、ユーザ６自身が投稿した投稿内容５５と他のユーザ６が投稿した投稿内容５５とは識別可能に表示してもよい。例えば、ユーザ６自身が投稿した投稿内容５５は、投稿内容表示領域５２のうち右寄りに位置し、他のユーザ６が投稿した投稿内容５５は左寄りに位置してもよい。また、ユーザ６自身が投稿した投稿内容５５の色が、他の投稿内容５５のオブジェクトの色と異なっていてもよい。また、入力フォーム５３は、投稿内容を入力する領域である。ユーザ６が内容送信部５４を選択すると、ユーザ装置４は、入力フォームに入力された投稿内容を含めた投稿情報を生成して、投稿情報をサーバ２に送信する。

また、投稿表示画面５０を視認するユーザ６は、投稿内容５５の選択を含む所定の操作を行うことにより通報を行うことができる。ユーザ装置４は、ユーザ６の操作によって通報が指示されると、投稿内容５５に関連付けられた投稿番号、通報を行ったユーザ６の識別情報を含む通報情報をサーバ２に送信する。サーバ２の評価情報取得部３５は、通報情報を受信すると、通報情報に含まれる投稿番号を有する投稿ログ情報１５を検索する。そして、ユーザ評価部３６は、検出された投稿ログ情報１５の通報ユーザ情報及び通報数を更新する。また、ユーザ評価部３６は、ユーザ管理情報１３の通報情報を更新する。

次に、第１投稿表示画面５０Ａと第２投稿表示画面５０Ｂとの違いについて説明する。第１投稿表示画面５０Ａには、第１ユーザ６Ａの投稿内容５５Ａ及び第２ユーザ６Ｂの投稿内容５５が含まれる。このため、第１ユーザ６Ａは、投稿制限を受けていることに気が付きにくい。よって、投稿制限を受けることに起因する第１ユーザ６Ａの意欲の低下を抑制することができる。一方、第２投稿表示画面５０Ｂには、投稿制限を受けた第１ユーザ６Ａの投稿内容５５Ａが含まれない。このため、第２ユーザ６Ｂは、不適切な表現を含む投稿又は不適切な表現を含みうる投稿内容５５を閲覧しない。よって、第２ユーザ６Ｂが他のユーザの投稿内容を不快に感じることを抑制することができるため、質問への回答に集中することができる。

第１実施形態の効果について説明する。
（１－１）第１ユーザ６Ａのユーザ評価情報が投稿制限条件を満たす場合であっても、第１ユーザ６Ａの投稿は第１ユーザ６Ａが用いるユーザ装置４Ａの画面に表示される。このため、投稿が強制的に削除されることに起因する第１ユーザ６Ａの意欲の低下を抑制することができる。一方、第１ユーザ６Ａの投稿は、第２ユーザ６Ｂの迷惑になる可能性もあるため、第２ユーザ６Ｂが用いるユーザ装置４Ｂの画面に第１ユーザ６Ａの投稿を表示しない。このため、第１ユーザ６Ａの不適切な表現が含まれている可能性のある投稿が第２ユーザ６Ｂに閲覧される機会を少なくすることができる。したがって、第１ユーザ６Ａだけでなく、不適切な表現が含まれている可能性のある投稿を閲覧することに起因する第２ユーザ６Ｂの意欲の低下を抑制することで、モニター調査サービスの利用者が低減することを抑制することができる。

（１－２）注意喚起部３４は、ユーザ評価情報が注意喚起条件を満たすユーザが投稿を行った場合に注意喚起情報をユーザ装置４に出力するので、不適切な表現を含む内容が投稿されることを抑制することができる。

（１－３）ユーザ評価部３６は、不適切な表現が投稿内容に含まれるか否かを判定した判定部３３による判定結果に基づいてユーザ評価情報を更新するので、ユーザの投稿内容の適否の傾向をユーザ毎に表すことができる。

（１－４）投稿制限部３７は、不適切投稿回数が所定数以上である場合に投稿制限条件が満たされると判断するため、所定数を適切に設定することで、不適切な投稿を行う傾向のあるユーザ６を特定し、そのユーザの投稿を制限することができる。

（１－５）ユーザ評価部３６は、ユーザ６の投稿内容に対して他のユーザ６から不適切であると判定された通報数に基づき、ユーザに関連付けられたユーザ評価情報を更新する。このため、他のユーザからみた客観的な情報に基づいてユーザ６の投稿についての評価を行うことができる。

（１－６）投稿制限部３７は、投稿に対して他のユーザから通報された数が所定数以上である場合に投稿制限条件が満たされると判断するため、所定数を適切に設定することで、不適切な投稿を行う傾向のあるユーザを特定し、そのユーザの投稿を制限することができる。

（１－７）ユーザは、注意喚起画面４０において第１選択部である投稿ボタン４１Ｂを選択することにより、サーバ２に一旦送信された投稿内容を修正することができる。このため、ユーザは、注意喚起の度に投稿内容を修正することによって、投稿に対する制限を回避することが可能である。

（１－８）ユーザは、注意喚起画面４０において第２選択部である投稿ボタン４１Ｂを選択することにより、投稿内容を修正せずに投稿することができる。このため、明らかに不適切な表現が含まれない投稿に対してサーバ２が注意喚起をした場合、これを無視して投稿を継続することができる。

（１－９）ユーザに提示した質問に対する投稿情報を統合するモニター調査において、第２ユーザ６Ｂは、不適切な表現を含んでいる可能性のある投稿を閲覧しないので、第２ユーザ６Ｂは質問に対する投稿に集中することができる。第１ユーザ６Ａは、第１ユーザ自身が送信した投稿が表示されるため、質問に対する投稿に対する意欲の低下が抑制される。よって投稿情報管理システム１によって提供されるモニター調査が円滑に進行する。

（１－１０）投稿内容が不適切であるか否かは質問によって異なる。サーバ２は、質問毎に、不適切な可能性を有する単語が記憶されたＮＧワードＤＢ１６を用いて、投稿について適切であるか否かを判定する。このため、サーバ２は、不適切な表現を含む投稿について的確な判定を行うことができる。

（第２実施形態）
投稿情報管理システム、投稿情報管理方法及びプログラムの第２実施形態について説明する。第２実施形態では、投稿制限条件を、ユーザに応じて変更する点で第１実施形態と相違する。

サーバ２の制御部１０は、投稿情報管理プログラムを読み出して実行することにより、さらに条件変更部として機能する。条件変更部は便宜上図示を省略する。
条件変更部は、投稿制限条件を、ユーザ毎に設定された属性に応じて変更する。具体的には、条件変更部は、ユーザ管理情報１３に含まれるグループを参照して、ユーザが所定のグループに属するか否かを判断する。所定のグループは、不適切な表現を含む投稿をする傾向が低いユーザが属するグループである。

例えば、所定のグループは、「優良ランク」のグループである。条件変更部は、ユーザが優良ランクのグループに属すると判断した場合には、不適切投稿回数が所定回数以上であるとの第１投稿制限条件（ステップＳ１７）のうち、上限値である所定回数を増加させる。例えば、不適切投稿回数の初期値が「２回」である場合には、優良ランクに属するユーザに関連付けられた不適切投稿回数を「５回」とする。優良ランクに属するユーザが投稿制限条件に容易に達しにくくすることで、不適切な表現を含まない投稿を行っているにも関わらず誤って投稿制限を課してしまうことを抑制することができる。

上記の条件変更に代えて若しくは加えて、条件変更部は、ユーザが優良ランクに属すると判断した場合には、総通報数が所定数以上であり、且つ投稿毎の通報数が所定数以上であるとの第２投稿制限条件（ステップＳ２２、ステップＳ２３）のうち、少なくとも一方の所定数を増加させる。例えば、総通報数に対して設定された所定数の初期値が「３回」である場合には、優良ランクに属するユーザに対して設定される所定数を「５回」とする。例えば、投稿毎の通報数に対して設定された所定数の初期値が「３回」である場合には、優良ランクに属するユーザに対して設定される所定数を「６回」とする。これにより、優良ランクに属するユーザが投稿制限条件に容易に達しにくくする。

このようにすると、優良ランクのグループに属するユーザに対しては、投稿を制限しにくくなる。このため、不適切な表現が含まれていないにも関わらず、不適切な表現を含む投稿であると誤って判定することを抑制することができる。

第２実施形態では、第１実施形態の（１－１）～（１－１０）に記載の効果に加え、以下の効果を得ることができる。
（２－１）ユーザ毎に設定されたグループに応じて投稿制限条件を変更するため、投稿内容自体の判定だけでなく、投稿内容に不適切な表現が含まれる可能性を多様な観点から判定することができる。

上記各実施形態は、以下のように変更して実施することができる。上記各実施形態及び以下の変更例は、技術的に矛盾しない範囲で互いに組み合わせて実施することができる。
（通報判定処理）
・上記各実施形態では、モニター調査に参加するユーザが、投稿に対する通報を行うようにした。これに代えて若しくは加えて、モニター調査に参加するユーザ以外の管理者が通報を行うようにしてもよい。この場合の管理者は、投稿管理サービスを提供するサービス提供者、及び調査依頼を行った依頼者の少なくとも一方を含む。このようにすると、悪意を持って通報を行うことが無くなるため、通報情報の信頼性を高めることができる。

・上記各実施形態では、投稿毎の通報数が所定数以上且つ総通報数が所定数以上であるとの第２投稿制限条件を満たす場合に投稿制限を行った。これに代えて、投稿毎の通報数が所定数以上であること、総通報数が所定数以上であることのいずれか一方を満たす場合に投稿制限を行うようにしてもよい。いずれか一方のみを判断する場合であっても、ユーザが、不適切な投稿を行う傾向があるか否かを判断することができる。

（判定部）
・上記各実施形態では、判定部３３は、投稿内容に不適切な表現が含まれるか否かを判定した。これに代えて若しくは加えて、不適切な表現以外の表現又は投稿状況を評価するようにしてもよい。例えば、判定部３３は、文字数が多い場合には投稿内容に対し高い評価値を算出する。又は、不適切な表現を含まない場合には投稿内容に対し高い評価値を算出する。或いは、質問内容に沿った表現を含むか又は質問内容に沿った表現を多く含む場合には投稿内容に対し高い評価値を算出する。この場合、評価情報取得部は、投稿評価情報として、これらの評価値が反映された情報を取得する。ユーザ評価部は、この投稿評価情報に基づきユーザ評価情報を更新する。投稿制限部３７は、第１投稿制限条件及び第２投稿制限条件の一部に代えて若しくは加えて、これらの評価値が低い場合に投稿限条件を満たすと判断しても良い。

（注意喚起部）
上記各実施形態では、判定部３３が投稿内容に不適切な内容が含まれると判定した場合に、注意喚起部３４が注意喚起情報をユーザ装置４に送信するようにした。ユーザ装置４は、注意喚起情報を受信すると、注意喚起画面４０を表示部２４に出力する。これに代えて、判定部３３が投稿内容に不適切な内容が含まれると判定した場合に、注意喚起を行う処理（ステップＳ１４）及びユーザが投稿内容を修正したか否かを判断する処理（ステップＳ１６）を省略して、投稿制限部３７が、ユーザの不適切投稿回数が所定回数以上であるか否かを判断するようにしてもよい（ステップＳ１７）。

（ユーザ評価部）
・上記各実施形態では、ユーザ評価部３６は、不適切投稿回数や通報数に基づきユーザ評価情報を更新した。これらの一部に代えて若しくは加えて、適切な投稿を行った回数や、投稿状況を評価するようにしても良い。例えば、ユーザ評価部３６は、質問に対する投稿回数が過少又は過多ではない場合にユーザに対する評価値を高く設定するようにしてもよい。投稿制限部３７は、第１投稿制限条件及び第２投稿制限条件の一部に代えて若しくは加えて、ユーザの評価値が低い場合に投稿限条件を満たすと判断しても良い。

（投稿制限部）
・上記各実施形態では、不適切投稿回数が所定回数以上であるとの第１投稿制限条件、又は投稿毎の通報数が所定数以上且つ総通報数が所定数以上であるとの第２投稿制限条件が満たされる場合に、投稿制限を行うようにした。これに代えて、第１投稿制限条件を満たすユーザの投稿のみに対し投稿制限処理を行ってもよい。つまり、ユーザによる通報が行われないようにしてもよい。又は、第２投稿制限条件を満たすユーザの投稿のみに対し投稿制限処理を行ってもよい。つまり、判定部３３によるＮＧワードＤＢ１６を用いた判定処理を省略するようにしてもよい。このようにすると、サーバ２にかかる負荷を軽減することができる。

（投稿表示画面）
・上記各実施形態では、第１ユーザ６Ａが視認する第１投稿表示画面５０Ａでは、自身が投稿した投稿内容５５について、不適切な表現を含むと判定された投稿内容と不適切な表現を含まないと判定された投稿内容とが同一の表示態様で表示される。これに代えて、第１投稿表示画面５０Ａは、自身が投稿した投稿内容５５を表示する一方で、不適切な表現を含むと判定された投稿内容と不適切な表現を含まないと判定された投稿内容の表示態様とを異ならせてもよい。このようにすると、第１ユーザ６Ａの意欲の低下を抑制しつつ、投稿を行った後も第１ユーザ６Ａに対する注意喚起を行うことができる。

・上記各実施形態では、第２ユーザ６Ｂが視認する第２投稿表示画面５０Ｂは、第１ユーザ６Ａが投稿した投稿内容５５を含まない。これに代えて、第２投稿表示画面５０Ｂは、第１ユーザ６Ａの投稿内容を含まず且つ投稿イベントが生じたことを示す表示部を有していてもよい。この表示部は、例えば「不適切な表現を含む可能性があります」、又は「投稿が削除されました」等のメッセージを含み、第１ユーザ６Ａが投稿した投稿内容を含まなくてもよい。

・第１ユーザの投稿が投稿制限条件を満たすことによって投稿制限処理が行われた後、不適切投稿回数や通報数がリセットされた場合、投稿制限部３７は第１ユーザの投稿が投稿制限条件を満たすか否かを再び判断する。そして、投稿制限部３７が、第１ユーザの投稿が投稿制限条件を満たさないと判断した場合、投稿制限処理が実行されていた間の第１ユーザの過去の投稿は非表示の状態を継続する。又は、第１ユーザの投稿が投稿制限条件を満たさなくなった場合、投稿制限処理が実行されていた間の第１ユーザの投稿を非表示の状態から表示される状態にしてもよい。なお、投稿内容５５を時系列的に表示する投稿内容表示領域５２に投稿内容５５が表示しきれなくなった場合、第１ユーザの投稿が投稿制限条件を満たすか否かに関わらず、投稿内容５５が非表示とする。

・上記各実施形態では、ユーザ毎に、不適切投稿回数や通報数をカウントするようにした。これに代えて、投稿制限部３７は、調査サービスの質問の各々について生成されるチャットルーム毎に、ユーザの不適切投稿回数や通報数等のパラメータを設定するようにしてもよい。つまり、一人のユーザが、異なるタイミングで複数のチャットルームに対して投稿を行う場合、当該ユーザには、第１のチャットルームでの不適切投稿回数や通報数と、第２のチャットルームでの不適切投稿回数や通報数とが設定されてもよい。

（ユーザ属性）
・第２実施形態では、投稿制限条件を変更するためのユーザ毎に設定された属性として、ユーザが属するグループを用いた。これに代えて若しくは加えて、ユーザの各々を評価した数値を用いるようにしてもよい。例えば、過去に投稿情報管理システム１に投稿した回数、案件毎の投稿回数の平均、不適切投稿回数、投稿毎の通報数、総通報数の他、モニター調査を依頼した依頼者からの評価、過去の投稿内容の評価値等のうち少なくとも一つを用いて数値を算出するようにしてもよい。

（投稿情報管理システム）
・上記各実施形態では、投稿情報管理システム１によって実現される投稿サービスを、モニター調査サービスに例示して説明した。これに代えて、投稿情報管理システム１を、複数のユーザが対話形式で投稿を行うグループチャット、複数のユーザが投稿内容を表示する掲示板等の他の投稿サービスを提供するシステムとしてもよい。この場合においても、第２ユーザが不適切な表現を含む投稿を閲覧して不快になったり、第１ユーザの投稿への意欲の低下を抑制したりすることができる。

・上記各実施形態では、ユーザ装置４は、ウェブブラウザプログラム２５を用いてモニター調査に参加するようにした。これに代えて、ユーザ装置４は、端末用の投稿情報管理プログラムを記憶部２２に格納するようにしてもよい。投稿情報管理プログラムは、いわゆるネイティブアプリケーションプログラムである。この場合、ユーザ装置４の制御部２０は、投稿内容に不適切な表現が含まれるか否かの判定処理や、ユーザ評価情報が投稿制限条件を満たすか否かの判断を行うようにしてもよい。また、ユーザ装置４は、ユーザの投稿内容を含む投稿ログ情報１５又はそれと同様なデータを記憶部２２に記憶するようにしてもよい。また、ユーザ装置４は、他のユーザが投稿を行う度に投稿情報をサーバ２から受信して投稿表示画面を更新する。このときユーザ装置４は、他のユーザである第１ユーザのユーザ評価情報が投稿制限条件を満たす場合、サーバ２から第１ユーザの投稿を非表示とする指令を受信してもよい。そして、投稿制限を受けた第１ユーザ６Ａの投稿内容５５Ａが含まれない第２投稿表示画面５０Ｂを生成してもよい。つまり、ユーザ装置４は、プログラムを実行することにより、投稿受信部３１、投稿送信部３２、判定部３３、注意喚起部３４、評価情報取得部３５、ユーザ評価部３６、及び投稿制限部３７の少なくとも一つとして機能する。なお、ユーザ装置４は、質問提示部３０として機能してもよい。

又は、ユーザ装置４は、ネイティブ部による処理とウェブアプリケーション部による処理とを実行可能なハイブリッドアプリケーションであってもよい。この場合、例えばネイティブ部は、ユーザ評価情報が投稿制限条件を満たすか否かの判断を行うようにしてもよい。また、ウェブアプリケーション部は、ＷｅｂＶｉｅｗ等によってサーバ２から送信されたウェブデータを解釈して投稿内容を表示するようにしてもよい。この場合、ユーザ装置４は、質問提示部３０、投稿受信部３１、投稿送信部３２、判定部３３、注意喚起部３４、評価情報取得部３５、ユーザ評価部３６、及び投稿制限部３７の少なくとも一つとして機能する。

このように、上記各実施形態の態様に限られず、質問提示部３０、投稿受信部３１、投稿送信部３２、判定部３３、注意喚起部３４、評価情報取得部３５、ユーザ評価部３６、及び投稿制限部３７は、ユーザ装置４及びサーバ２のいずれかが具備するようにしてもよい。

１…投稿情報管理システム、２…サーバ、３…依頼者端末、４…ユーザ装置。

Claims (13)

1. ユーザが用いるユーザ装置から投稿情報を受信する投稿受信部と、
   受信した前記投稿情報を他のユーザが用いるユーザ装置に送信する投稿送信部と、
   前記ユーザ装置から送信された投稿内容が不適切であることを示す投稿評価情報を取得する評価情報取得部と、
   前記投稿評価情報に基づいて、前記投稿情報を送信した前記ユーザを評価したユーザ評価情報を更新するユーザ評価部と、
   前記ユーザ評価情報が投稿制限条件を満たす第１ユーザの投稿を、前記第１ユーザが用いるユーザ装置に出力させ、前記第１ユーザの投稿を前記第１ユーザ以外の第２ユーザが用いるユーザ装置に出力させない投稿制限部と、を備える投稿情報管理システム。
2. 前記ユーザ装置から投稿情報を受信した場合、前記投稿情報を送信したユーザに関連付けられた前記ユーザ評価情報が注意喚起条件を満たすか否かを判断し、前記ユーザ評価情報が前記注意喚起条件を満たす場合に、当該ユーザが用いるユーザ装置に注意喚起情報を出力させる注意喚起部をさらに備える
   請求項１に記載の投稿情報管理システム。
3. 不適切な表現となる可能性を有する文字列を予め記憶した記憶部をさらに備え、
   前記ユーザ評価部は、前記ユーザの投稿内容に前記記憶部に記憶された前記不適切な表現となる可能性を有する文字列が含まれるか否かに基づいて、前記ユーザに関連付けられた前記ユーザ評価情報を更新する
   請求項１又は２に記載の投稿情報管理システム。
4. 前記ユーザ評価情報は、前記文字列が含まれる投稿の回数である不適切投稿回数を含み、
   前記投稿制限部は、前記不適切投稿回数が所定数以上である場合に前記ユーザ評価情報が前記投稿制限条件を満たすと判断する
   請求項３に記載の投稿情報管理システム。
5. 前記ユーザ評価部は、前記ユーザの投稿内容に対して他のユーザ又は管理者から不適切であるとして通報された数に基づき、前記ユーザに関連付けられた前記ユーザ評価情報を更新する
   請求項１～４のいずれか１項に記載の投稿情報管理システム。
6. 前記投稿制限部は、前記ユーザ評価情報に含まれる前記通報された数が所定数以上である場合に前記ユーザ評価情報が前記投稿制限条件を満たすと判断する
   請求項５に記載の投稿情報管理システム。
7. 前記投稿制限条件を、前記ユーザ毎に設定された属性に応じて変更する条件変更部をさらに備える
   請求項１～６のいずれか１項に記載の投稿情報管理システム。
8. 前記属性は、前記ユーザが属するグループである
   請求項７に記載の投稿情報管理システム。
9. 前記注意喚起情報は、前記ユーザが入力した投稿内容を修正して投稿する第１選択部を前記ユーザ装置に表示させるための情報を含む
   請求項２に記載の投稿情報管理システム。
10. 前記注意喚起情報は、前記ユーザが入力した投稿内容を修正せずに投稿する第２選択部を前記ユーザ装置に表示させるための情報を含む
    請求項２又は９に記載の投稿情報管理システム。
11. 前記ユーザに対する質問を前記ユーザ装置に出力させる質問提示部と、
    前記質問に関連付けて不適切な表現となる可能性を有する文字列を予め記憶した記憶部とをさらに備え、
    前記ユーザ評価部は、前記ユーザの投稿内容に前記記憶部に記憶された前記不適切な表現となる可能性を有する文字列が含まれるか否かに基づいて、前記ユーザに関連付けられた前記ユーザ評価情報を更新する
    請求項１～１０のいずれか１項に記載の投稿情報管理システム。
12. １又は複数のコンピュータに、
    ユーザが用いるユーザ装置から投稿情報を受信するステップと、
    受信した前記投稿情報を他のユーザが用いるユーザ装置に送信するステップと、
    前記ユーザ装置から送信された投稿内容が不適切であることを示す投稿評価情報を取得するステップと、
    前記投稿評価情報に基づいて、前記投稿情報を送信した前記ユーザを評価したユーザ評価情報を更新するステップと、
    前記ユーザ評価情報が投稿制限条件を満たす第１ユーザの投稿を、前記第１ユーザが用いるユーザ装置に出力させ、前記第１ユーザの投稿を前記第１ユーザ以外の第２ユーザが用いるユーザ装置に出力させないステップと、を実行させる投稿情報管理プログラム。
13. １又は複数のコンピュータが、
    ユーザが用いるユーザ装置から投稿情報を受信するステップと、
    受信した前記投稿情報を他のユーザが用いるユーザ装置に送信するステップと、
    前記ユーザ装置から送信された投稿内容が不適切であることを示す投稿評価情報を取得するステップと、
    前記投稿評価情報に基づいて、前記投稿情報を送信した前記ユーザを評価したユーザ評価情報を更新するステップと、
    前記ユーザ評価情報が投稿制限条件を満たす第１ユーザの投稿を、前記第１ユーザが用いるユーザ装置に出力させ、前記第１ユーザの投稿を前記第１ユーザ以外の第２ユーザが用いるユーザ装置に出力させないステップと、を実行する投稿情報管理方法。

Images