JP7436540B2 - 情報処理装置、情報処理方法、及び情報処理プログラム - Google Patents

Description

本発明の実施形態は、情報処理装置、情報処理方法、及び情報処理プログラムに関する。

多くの児童や生徒がスマホやタブレット等の携帯端末を保有しており、ＳＮＳやチャット機能を有するアプリケーション等を利用して活発にコミュニケーションが行われているが、学校生活においてスマホ等のネットワークツールを介して悪質ないじめが発生する場合がある。

従来では、ＳＮＳ上への不適切な書き込みを分析して、悪質な書き込みが投稿された場合には投稿を防止することでいじめを防止する技術が開示されている。

特開２００８－２５０９８３号公報

ＳＮＳやチャットツール等で送信される言葉を解析して、不適切な言葉の場合にはその投稿を防止する方法では、その不適切な言葉が相手に送信されることを未然に防ぐことはできるものの、どの学生達の間でいじめが発生しているのかを把握することが難しいという課題がある。

本発明はこのような事情を考慮してなされたもので、いじめの発生リスクを迅速に検出することができる情報処理装置、情報処理方法、及び情報処理プログラムを提供することを目的とする。

本発明の実施形態に係る情報処理装置は、カテゴリに分類された評価情報を登録する評価情報登録部と、ユーザのユーザ端末から送信される会話データにおいて、前記カテゴリに分類された前記評価情報の発生を検出する評価情報検出部と、前記会話データ内に前記評価情報が含まれる場合に、前記会話データを送受信するユーザ端末間において、前記評価情報が送信された時間に基づき前記評価情報の発生頻度を検出する発生頻度検出部と、前記会話データ内に前記評価情報が含まれる場合に、当該会話データを送受信する前記ユーザに対応するユーザ端末の位置情報が所定の基準以内に存在するか否かに基づいて前記ユーザ端末間の接触頻度を検出する接触頻度検出部と、発生した前記評価情報のカテゴリ、前記発生頻度、及び前記接触頻度に基づいてリスクを判定する判定部と、を備えることを特徴とする。

本発明の実施形態により、いじめの発生リスクを迅速に検出することができる情報処理装置、情報処理方法、及び情報処理プログラムが提供される。

本実施形態に係る情報処理装置の構成の一例を示す構成図。 会話データ記録部に記録される、ユーザ端末間での会話データの一例を示す図。 （Ａ）評価情報の分類例を示す図、（Ｂ）評価情報の発生頻度の分類例を示す図。 （Ａ）ユーザ端末間の接触頻度の分類例を示す図、（Ｂ）検出された評価情報、発生頻度、及び接触頻度のカテゴリに応じて設定される、いじめ発生のリスクを示す図。 いじめ発生のリスクを判定する場合の判定方法を説明する説明図。 本実施形態に係る情報処理方法の一例を示すフローチャート。

（本実施形態）
以下、本発明の実施形態を添付図面に基づいて説明する。
図１は、本実施形態に係る情報処理装置１０の構成の一例を示す図である。

本実施形態にかかる情報処理装置１０は、複数のユーザそれぞれのユーザ端末２０間において送受信される会話データを受け付けて、カテゴリに分類された評価情報の発生、及び評価情報の発生頻度を検出し、発生した評価情報のカテゴリ及び発生頻度に基づいて学校の生徒等の間で起こるいじめの発生リスクを判定するものである。

会話データとは、テキスト、画像などを含む端末間の会話にかかる情報を意味する。会話データは、ユーザ端末２０にインストールされたアプリケーションを利用して、情報処理装置１０を介して送受信されてもよい。また、ユーザ端末２０が情報処理装置１０にアクセスして、ブラウザを介して端末間で会話データを送受信するものであってもよい。

なお、ここでは、情報処理装置１０を介してユーザ端末２０の会話データを送受信する場合について説明するが、会話データは、情報処理装置１０とは異なるサーバにおいて送受信されて、当該サーバから会話データが情報処理装置１０に送信される構成であってもよい。

ユーザ端末２０は、例えば学校、専門学校等の組織に属するユーザの端末である。ユーザ端末２０のそれぞれは、ネットワーク（例えばインターネット）を介して会話データを送受信可能に接続されている。なお、ユーザ端末２０は、ＰＣ、スマートフォン、タブレット端末が例示される。なお、一人のユーザが複数のユーザ端末２０を利用する場合には、ユーザＩＤ等の識別情報により当該ユーザは一意に特定される。

複数のユーザ端末２０のそれぞれは、学校内などの組織内部のネットワークに存在してもよい、一部が外部のネットワーク上に存在してもよいし、全ての端末が外部ネットワーク上に存在してもよい。

管理者端末３０は、ユーザ端末２０のユーザが属する管理者（例えば教師等）の端末である。管理者端末３０は、情報処理装置１０にアクセスする権限を有する端末であり、いじめの発生リスクを検知した場合には、情報処理装置１０から通知を受け付ける。

なお、図１では、ユーザＡ、Ｂ、Ｃ、Ｄのそれぞれが保有するユーザ端末２０ａ、２０ｂ、２０ｃ、２０ｄの４つで記載され、それぞれが情報処理装置１０にデータを送受信可能に接続されているが、この構成に限定されるものではない。

本実施形態に係る情報処理装置１０の具体的な構成について説明する。
情報処理装置１０は、データ処理部１１と、会話データ記録部１２と、評価情報登録部１３、評価情報検出部１４と、発生頻度検出部１５、接触頻度検出部１６と、判定部１７と、通知部１８と、を備えている。

なお、情報処理装置１０を構成する各ユニットの機能は、所定のプログラムコードを、プロセッサを用いて実行することによって実現しても良く、このようなソフトウェア処理に限らず、例えば、ＡＳＩＣ等を用いたハードウェア処理で実現してもよいし、ソフトウェア処理とハードウェア処理とを組み合わせて実現してもよい。

データ処理部１１は、ユーザ端末２０から送信される会話データを受け付ける。データ処理部１１は、受け付けた会話データを送信先に送信してもよい。

会話データ記録部１２は、ユーザ端末２０から送信された会話データを記録する。ユーザ端末２０から送信される内容（テキストデータ、画像、ＵＲＬ情報等）が会話データとして記録され、この会話データに関連付けて、送信者、会話データが送信された送信時間、受信者、ユーザ端末２０の位置情報等の情報が記録される。送信者及び受信者は、例えばユーザＩＤやメールアドレス等、それぞれのユーザを識別する情報が記録される。ユーザ端末２０の位置情報は、端末の位置を特定できる情報であればよく、例えばＧＰＳによる位置情報を意味する。

図２は、会話データ記録部１２に記録される、端末間での会話データの一例を示す図である。
例えば、ユーザＡからユーザＢに会話データが送信された場合、送信内容とともに、送信者（ユーザＡ）、受信者（ユーザＢ）、送信時間、ユーザＡ、Ｂそれぞれの位置情報が記録される。

また、ユーザＡから複数人に送信された場合、例えばユーザＢ、Ｃに会話データが送信された場合には、送信内容とともに、送信者（ユーザＡ）、受信者（ユーザＢ、ユーザＣ）、送信時間、ユーザＡ、Ｂ、Ｃそれぞれの位置情報が記録される。会話データ記録部１２は、ユーザ端末２０から送信される会話データのそれぞれについて記録する。

なお、ユーザの位置情報については、ユーザ端末２０の位置情報を一定期間ごとに随時取得してもよいし、会話データ内に予め登録した評価情報が含まれることを検出した場合に、検出以後、当該会話データを送受信したユーザの位置情報を随時取得する構成にしてもよい。

評価情報登録部１３は、カテゴリに分類された評価情報を登録する。具体的には、例えば相手に対して不快感を与える不適切なワードを、その度合いごとに分類して評価情報として登録する。例えば、いじめに関連するような不適切なワードを１つのカテゴリで登録し、友人間でやりとりするような不適切度が低いワードを別のカテゴリで登録する。ワードをカテゴリに分類することで、ユーザ間でやりとりされる会話データの不適切度のレベルやユーザ間での会話内容の変化を把握することができる。また、不適切な画像、動画、ＵＲＬ情報をカテゴリに分類して評価情報として登録してもよい。

評価情報登録部１３は、情報処理装置１０の管理者により設定されるものであり、その登録内容は随時変更可能である。不適切なワードは、例えば実際のやりとりの内容から機械学習したワードを登録してもよいし、学校内で使われている隠語等を登録してもよい。過去に生徒間でやりとりされた、あるいは仮想的に作成された不適切な画像データや動画データを教師データとして機械学習して判定モデルを生成しておき、ユーザ端末２０により送信された画像や動画を当該判定モデルを用いて分類した分類結果を評価情報としてもよい。

図３（Ａ）は、評価情報の分類例を示す図である。図３（Ａ）では、ワードが３つのカテゴリに分類されて評価情報として登録されている。不適切な度合いが高く、いじめとの関連性が高いワードが、カテゴリ１の評価情報として登録されており、不適切な度合いに応じてカテゴリ２、カテゴリ３に分けて評価情報が登録されている。

評価情報検出部１４は、ユーザから送信される会話データにおいて、カテゴリに分類された評価情報の発生を検出する。具体的には、ユーザから送信される会話データについて、登録された評価情報が含まれているか否かを判定し、含まれる場合には、当該評価情報、そのカテゴリとともに検出する。評価情報検出部１４は、会話データ記録部１２に記録される会話データのすべてについて判定を行う。

発生頻度検出部１５は、会話データ内に評価情報が含まれる場合に、当該会話データを送受信するユーザ間において、その評価情報が送信された時間に基づき評価情報の発生頻度を検出する。

具体的には、発生頻度検出部１５は、発生頻度の基準（例えば２４時間以内に５回以上発生等）を予め設定しておき、会話データ内に評価情報が含まれる場合に、当該会話データを送受信するユーザ間において、評価情報の発生頻度を検出する。なお、発生頻度検出部１５は、評価情報を含む会話データが検出された場合に、その送信者、受信者を含むすべての会話データにおいて、評価情報の有無を判定して、評価情報の発生頻度を検出してもよい。

また、発生頻度検出部１５は、会話データ内で発生した評価情報のカテゴリが異なる場合には、カテゴリごとに発生頻度を検出してもよい。発生頻度検出部１５は、発生頻度の基準を複数設けて、カテゴリに分けて検出してもよい。

図３（Ｂ）は、評価情報の発生頻度の分類例を示す図である。
図３（Ｂ）では、評価情報の発生頻度を３つのカテゴリに分けて設定しており、評価情報が２４時間以内に５回以上発生する高い頻度の基準をカテゴリ１として設定されて、頻度に応じてカテゴリ２、カテゴリ３の２つの基準が設定されている。発生頻度のカテゴリは、情報処理装置１０の管理者により設定される。

接触頻度検出部１６は、会話データ内に評価情報が含まれる場合に、会話データにかかるユーザ端末２０の位置情報に基づいて会話データにかかるユーザ間の接触頻度を検出する。

具体的には、接触頻度検出部１６は、端末間の距離について所定の基準（例えば３ｍ以内）を設定しておき、同一時刻における端末の位置情報に基づいてこの基準以内に端末が存在する場合には端末のユーザは接触していると判定して、会話データにかかるユーザの接触頻度を検出する。なお、ここで、接触を評価するための、端末間の距離の基準については、実際に対面で会っていることが想定される距離が設定される。なお、接触頻度について、ユーザが属する学校外での接触についてのみ検出するようにしてもよい。

接触頻度検出部１６は、会話データ内で発生した評価情報のカテゴリが異なる場合には、カテゴリごとに接触頻度を検出してもよい。接触頻度検出部１６は、接触頻度の基準を複数設けて、カテゴリに分けて検出してもよい。

図４（Ａ）は、ユーザ間の接触頻度の分類例を示す図である。
図４（Ａ）では、ユーザ間の接触頻度を３つのカテゴリに分けて設定しており、ユーザ間が２４時間以内に５回以上接触するような高い頻度の基準をカテゴリ１として設定し、接触頻度に応じてカテゴリ２、カテゴリ３の２つの基準が設定されている。接触頻度のカテゴリは、情報処理装置１０の管理者により設定される。

図１に戻って説明を続ける。
判定部１７は、発生した評価情報のカテゴリ及び発生頻度に基づいてリスクを判定する。

具体的には、判定部１７は、評価情報のカテゴリ及び発生頻度に応じていじめが発生するリスクを予め設定しておき、実際に検出された評価情報のカテゴリ及び発生頻度に基づいてリスクを判定する。なお、実際に検出された評価情報のカテゴリが複数存在する場合には、いじめとの関連性がより高い評価情報のカテゴリを基準にして、その発生頻度に基づいてリスクを判定してもよい。

また、判定部１７は、評価情報のカテゴリ、評価情報の発生頻度、ユーザの接触頻度に応じていじめが発生しているリスクを設定しておき、実際に検出された評価情報のカテゴリ、発生頻度、ユーザの接触頻度に基づいてリスクの有無を判定してもよい。

図４（Ｂ）は、検出された評価情報、発生頻度、接触頻度のカテゴリに応じて設定される、いじめ発生のリスクを示す図である。

図４（Ｂ）に示すように、検出された評価情報、発生頻度、接触頻度の検出結果に応じていじめ発生のリスクの有無が設定されている。例えば評価情報、発生頻度、接触頻度の検出カテゴリが１となった場合には、リスク有りに設定されている。このように、実際に検出された各カテゴリの結果に応じてリスクの有無を細かく設定することができる。
なお、いじめ発生のリスクは、情報処理装置１０の管理者により設定される。

通知部１８は、リスク有りとして判定した場合に、評価情報を含む会話データを送受信したユーザ端末２０のすべてを抽出し、当該ユーザ端末２０に対応して予め登録された通知先に通知する。予め登録する通知先として、管理者（例えばユーザの教師等）のメールアドレスが登録される。また、通知部１８は、ユーザのそれぞれに対応して保護者等のメールアドレスを通知先に設定しておき、リスク有りと判定した場合に、保護者に通知する構成にしてもよい。

さらに、通知部１８は、リスクの発生を判定した場合に、会話データにかかるユーザの位置情報に基づきユーザの接触を検知し、当該ユーザに対応して予め登録された通知先に通知してもよい。予め登録する通知先として、管理者（例えばユーザの教師）やユーザの保護者のメールアドレスを登録してもよい。

また、通知部１８は、リスク有りと判定された場合に、会話データを送受信したユーザ端末２０を抽出するとともに、端末の位置情報の履歴に基づいて当該ユーザ端末２０との接触について他の端末についても検出して、接触した位置及び時間が一致する端末を別に抽出してもよい。

会話データのカテゴリによる判定では検出できなかったものの、いじめの発生に関係するユーザが存在する場合がある（例えば直接会話データのやり取りはないがいじめに関わっているユーザ）。このような場合であっても、いじめ発生のリスク有りと判定されたユーザ端末２０と接触の位置及び時間が一致する端末を検出することで、いじめに関係している可能性のあるユーザを広く抽出することができる。

また、判定部１７は、会話データ記録部１２において記録された会話データに基づいて、会話データをやり取りする頻度の高いユーザのグループを検出してもよい。具体的には、所定の基準（例えば一日に会話データのやりとりが１０回以上発生する）を設けておき、この基準を超えて会話データのやりとりが発生したユーザのグループを検出する。また、一定の期間内において会話データが発生していないユーザやユーザのグループを検出してもよく、会話データをやり取りが発生するグループに入っているにも関わらず会話データの送信がないユーザ（発言の無いユーザ）を検出してもよい。

また、判定部１７は、ユーザに紐づけて呼称やあだ名等を予め登録しておき、会話データに含まれるワードを分析して、会話データに含まれる特定のユーザを検出してもよい。ユーザ間で話題にされている特定のユーザを検出することができる。

また、判定部１７は、会話データに含まれるワードを分析して、一定の期間内において複数回やりとりされるような高頻度のトピック（話題）、複数回送信されるＵＲＬ情報（高頻度で閲覧されるＷｅｂサイト）等の送信情報を検出してもよい。

なお、判定部１７が検出した情報は、情報処理装置１０にアクセスした管理者端末３０において表示可能に構成される。

判定部１７が、会話データに基づいて、会話の頻度が高い（または低い）ユーザのグループ、話題に上がる特定のユーザ、あるいは会話内で頻出する話題、ＵＲＬ情報等の送信情報を検出することで、いじめ発生のリスクを検出した場合において、ユーザの会話状況を詳細に把握することができる。

図５は、いじめ発生のリスクを判定する場合の判定方法を説明する説明図である。ここでは、図４に示すように、検出された評価情報、発生頻度、接触頻度のカテゴリに応じていじめ発生のリスクの有無が設定されているものとする。

ユーザＡ、ユーザＢ間での会話データについて、カテゴリ１の評価情報が含まれており、評価情報の発生頻度がカテゴリ１となり、ユーザ間の接触頻度がカテゴリ１となる場合に、いじめ発生のリスクの有りと判定する。そして会話データを送受信したユーザ端末２０ａ、２０ｂを抽出して、ユーザ端末２０ａ、２０ｂの通知先として登録されている管理者に通知する。これにより、いじめ発生のリスクがある場合には、迅速に検知されて通知先に通知される。

続いて、本実施形態に係る情報処理装置１０の動作について説明する。
図６は、本実施形態に係る情報処理方法のフローチャートである（適宜、図１参照）。

会話データ記録部１２は、ユーザ端末２０から送信された会話データを記録する（Ｓ１０）。

評価情報検出部１４は、ユーザ端末２０から送信される会話データにおいて、カテゴリに分類された評価情報の発生を検出する（Ｓ１１）。

発生頻度検出部１５は、会話データ内に評価情報が含まれる場合に、会話データを送受信するユーザ端末間において、その評価情報が送信された時間に基づき評価情報の発生頻度を検出する（Ｓ１２）。

接触頻度検出部１６は、会話データ内に評価情報が含まれる場合に、会話データにかかるユーザ端末２０の位置情報に基づいてユーザ間の接触頻度を検出する（Ｓ１３）。

判定部１７は、発生した評価情報のカテゴリ、発生頻度、及び接触頻度に基づいてリスクを判定する（Ｓ１４）。

リスク有りと判定される場合には、通知先として登録された管理者の管理者端末３０に通知する（Ｓ１５：ＹＥＳ、Ｓ１６）。一方、リスクが無いと判定される場合には、終了する（Ｓ１５：ＮＯ、終了）。

このように、本実施形態に係る情報処理装置１０は、評価情報のカテゴリ及び発生頻度、接触頻度に応じていじめが発生しているリスクを設定することで、複数の基準に基づき評価することができるため、いじめの発生リスクを迅速かつ正確に検出できる。

以上述べた各実施形態の情報処理装置によれば、複数のユーザそれぞれのユーザ端末間において送受信される会話データを受け付けて、カテゴリに分類された評価情報の発生、及び評価情報の発生頻度を検出して、発生した評価情報のカテゴリ及び発生頻度に基づいてリスクを判定することで、いじめの発生リスクを迅速に検出できる。

なお、情報処理装置１０で実行されるプログラムは、ＲＯＭ等の記憶回路に予め組み込んで提供される。もしくは、このプログラムは、インストール可能な形式または実行可能な形式のファイルでＣＤ－ＲＯＭ、ＣＤ－Ｒ、メモリカード、ＤＶＤ、フレキシブルディスク等のコンピュータで読み取り可能な記憶媒体に記憶されて提供するようにしてもよい。また、情報処理装置１０で実行されるプログラムは、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせて提供するようにしてもよい。

本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。

１０…情報処理装置、１１…データ処理部、１２…会話データ登録部、１３…評価情報登録部、１４…評価情報検出部、１５…発生頻度検出部、１６…接触頻度検出部、１７…判定部、１８…通知部、２０（２０ａ，２０ｂ，２０ｃ，２０ｄ）…ユーザ端末、３０…管理者端末。

Claims (6)

1. カテゴリに分類された評価情報を登録する評価情報登録部と、
   ユーザのユーザ端末から送信される会話データにおいて、前記カテゴリに分類された前記評価情報の発生を検出する評価情報検出部と、
   前記会話データ内に前記評価情報が含まれる場合に、前記会話データを送受信するユーザ端末間において、前記評価情報が送信された時間に基づき前記評価情報の発生頻度を検出する発生頻度検出部と、
   前記会話データ内に前記評価情報が含まれる場合に、当該会話データを送受信する前記ユーザに対応するユーザ端末の位置情報が所定の基準以内に存在するか否かに基づいて前記ユーザ端末間の接触頻度を検出する接触頻度検出部と、
   発生した前記評価情報のカテゴリ、前記発生頻度、及び前記接触頻度に基づいてリスクを判定する判定部と、
   を備えることを特徴とする情報処理装置。
2. リスクの発生を判定した場合に、前記会話データを送受信したユーザ端末を抽出して、当該ユーザ端末に対応して予め登録された通知先に通知する、
   ことを特徴とする請求項１に記載の情報処理装置。
3. カテゴリに分類された評価情報を登録する評価情報登録部と、
   ユーザのユーザ端末から送信される会話データにおいて、前記カテゴリに分類された前記評価情報の発生を検出する評価情報検出部と、
   前記会話データ内に前記評価情報が含まれる場合に、前記会話データを送受信するユーザ端末間において、前記評価情報が送信された時間に基づき前記評価情報の発生頻度を検出する発生頻度検出部と、
   発生した前記評価情報のカテゴリ及び前記発生頻度に基づいてリスクを判定する判定部と、を備えて、
   リスクの発生を判定した場合に、会話データを送受信する前記ユーザに対応するユーザ端末の位置情報が所定の基準以内に存在するか否かに基づいてユーザの接触を検知して、当該ユーザ端末に対応して予め登録された通知先に通知する、
   ことを特徴とする情報処理装置。
4. 前記判定部は、発生した前記評価情報のカテゴリ、前記発生頻度、及び前記接触頻度に基づいてリスクの発生を判断したときに、
   送受信された前記会話データを分析して、会話データのやり取りの頻度が所定の基準を満たすユーザ、会話内で出現する特定のユーザ名、または会話内で複数回発生する送信情報を検出して、ユーザ間の会話状況を分析する、
   ことを特徴とする請求項１に記載の情報処理装置。
5. 情報処理装置において、カテゴリされた評価情報を登録するステップと、
   前記情報処理装置において、ユーザのユーザ端末から送信される会話データにおいて、前記カテゴリに分類された前記評価情報の発生を検出するステップと、
   前記情報処理装置において、前記会話データ内に前記評価情報が含まれる場合に、前記会話データを送受信するユーザ端末間において、前記評価情報が送信された時間に基づき前記評価情報の発生頻度を検出するステップと、
   前記情報処理装置において、前記会話データ内に前記評価情報が含まれる場合に、当該会話データを送受信する前記ユーザに対応するユーザ端末の位置情報が所定の基準以内に存在するか否かに基づいて前記ユーザ端末間の接触頻度を検出するステップと、
   前記情報処理装置において、発生した前記評価情報のカテゴリ、前記発生頻度、及び前記接触頻度に基づいてリスクを判定するステップと、
   を含むことを特徴とする情報処理方法。
6. コンピュータに、
   カテゴリされた評価情報を登録する機能、
   ユーザのユーザ端末から送信される会話データにおいて、前記カテゴリに分類された前記評価情報の発生を検出する機能、
   前記会話データ内に前記評価情報が含まれる場合に、前記会話データを送受信するユーザ端末間において、前記評価情報が送信された時間に基づき前記評価情報の発生頻度を検出する機能、
   発生した前記評価情報のカテゴリ及び前記発生頻度に基づいてリスクを判定する機能、
   前記会話データ内に前記評価情報が含まれる場合に、当該会話データを送受信する前記ユーザに対応するユーザ端末の位置情報が所定の基準以内に存在するか否かに基づいて前記ユーザ端末間の接触頻度を検出する機能、
   発生した前記評価情報のカテゴリ、前記発生頻度、及び前記接触頻度に基づいてリスクを判定する機能、
   を実行させる情報処理プログラム。

Images