JP6555108B2 - 表示制御プログラム、表示制御方法および情報処理装置 - Google Patents

Description

本発明は、表示制御プログラム、表示制御方法および情報処理装置に関する。

インターネットをはじめとするＩＴ（Information Technology）環境の浸透により、社会にさまざまな情報が流通している。また、ビジネスから個人の趣味、趣向の活動に至るまで、あらゆるシーンにてＩＴを使った情報流通が進んでいる。流通する情報は自由度が高く、形式、内容は様々である。

情報の中には、その存在の漏洩が問題となるもの、流通先の相手に攻撃や不快などの悪影響を与えるものなど、様々な危険性を持つものがある。このような情報が、ＩＴを通じ見えない形で常に流通している。また、知らず知らずのうちに問題となる行為が行われてしまう可能性があり、気が付かないうちに大きな問題や犯罪に発展してしまうケースもある。また、一度、社会に出してしまった情報は取り返すことができない。このように、情報の流通は、個人、企業の信頼性を損なう可能性がある。

企業等において、情報流通に使われる技術として電子メール（以降、メールと記載する場合がある）が挙げられる。近年では、相手に影響を与えるキーワードや出現頻度の高いキーワードを予め登録しておき、キーワードを含む電子メールを抽出することが行われている。

特開２００５−２８４４５４号公報 特開２００７−２４９５８４号公報 特開２０００−１３２５５３号公報

しかしながら、上記技術では、ユーザごとに抽出状況を管理することが難しい結果、適切な対応が取れず、コンプライアンス違反が増加する。

例えば、単に抽出条件を更新しただけでは、どのユーザがどのようなコンプライアンス違反を行っているのか、パワハラを受けている社員がどのくらいいるのかなどを把握することができない。このため、違反者を取り締まることができず、コンプライアンス違反が増加する。

１つの側面では、コンプライアンス違反の電子メールの送信状況を把握することができる表示制御プログラム、表示制御方法および情報処理装置を提供することを目的とする。

第１の案では、表示制御プログラムは、コンピュータに、不適切メールの抽出条件に合致したメールの送信元のメールアドレスのリストを、メールアドレスごとの前記抽出条件に合致したメールの送信状況に応じて区分されたレベルに分類して表示する処理を実行させる。表示制御プログラムは、コンピュータに、表示された前記リストからメールアドレスのいずれかが選択されたことに応じて、選択された前記メールアドレスについての前記抽出条件に合致したメールの送信状況の推移を表示する処理を実行させる。

一実施形態によれば、コンプライアンス違反の電子メールの送信状況を把握することができる。

図１は、実施例１にかかるシステムの全体構成例を示す図である。 図２は、実施例１にかかるメールサーバの機能構成を示す機能ブロック図である。 図３は、カテゴリＤＢに記憶される情報の例を示す図である。 図４は、共起確率による分類キーワードの抽出例を説明する図である。 図５は、クラスタ処理による分類キーワードの抽出例を説明する図である。 図６は、キーワードの自動追加例を説明する図である。 図７は、キーワードの自動削除例を説明する図である。 図８は、メール分類処理の流れを示すフローチャートである。 図９は、キーワード追加処理の流れを示すフローチャートである。 図１０は、キーワード削除処理の流れを示すフローチャートである。 図１１は、実施例２にかかるメールサーバの機能構成を示す機能ブロック図である。 図１２は、危険度判定の基準例を説明する図である。 図１３は、危険度判定処理の流れを示すフローチャートである。 図１４は、メール判定結果の表示例を説明する図である。 図１５は、危険度状況の表示例を説明する図である。 図１６は、危険度毎の表示例を説明する図である。 図１７は、警告メールの作成例を説明する図である。 図１８は、グラフからキーワードの出現状況を表示させる例を説明する図である。 図１９は、抽出条件の更新前後の抽出推移を表示させる例を説明する図である。 図２０は、ハードウェアの構成例を説明する図である。

以下に、本願の開示する表示制御プログラム、表示制御方法および情報処理装置の実施例を図面に基づいて詳細に説明する。なお、この実施例によりこの発明が限定されるものではない。なお、各実施例は、矛盾のない範囲内で適宜組み合わせることができる。

［全体構成］
図１は、実施例１にかかるシステムの全体構成例を示す図である。図１に示すように、このシステムは、社内の社員１が送信する電子メールをメールサーバ１０で分析して、セキュリティ管理者５（以下、管理者と記載する場合がある。）に通知する社内電子メールシステムである。

社員１は、携帯電話やパーソナルコンピュータなどの電子機器を用いてメールサーバ１０にアクセスして、社内の他の社員や外部の人間と電子メールを送受信する。管理者５は、メールサーバ１０を用いて、社員１が送信する電子メールや社員１が受信する電子メールを分析して、メール分析レポートを生成する。

メールサーバ１０は、社員１に対して電子メールの作成、送信、受信など電子メールに関する各種処理を提供するサーバ装置である。また、メールサーバ１０は、社員１が送信する送信対象の電子メールの中から、宛先の相手に攻撃や不快などの悪影響を与える電子メールを抽出する。

例えば、メールサーバ１０は、送信対象の電子メールを、情報漏洩、誹謗中傷、パワハラ、セクハラのカテゴリに分類できるか否かを判定する。そして、メールサーバ１０は、いずれかのカテゴリに分類できる電子メールについては、問題のある電子メールと判断して送信を抑制し、作成者に対して警告等を通知する。一方、メールサーバ１０は、いずれかのカテゴリに分類されない電子メールについては、問題のない電子メールと判断して、宛先に送信する。

また、メールサーバ１０は、メールアドレスごとに電子メールの送信状況を分析し、分析結果を生成する。例えば、メールサーバ１０は、各メールアドレスについて、情報漏洩、誹謗中傷、パワハラ、セクハラの各カテゴリに分類される電子メールをいくつ送信したかを集計する。そして、メールサーバ１０は、集計結果をディスプレイなどの表示部に表示したり、レポートとして出力したりする。

なお、本実施例では、分類カテゴリの例として情報漏洩、誹謗中傷、パワハラ、セクハラを例示するが、これに限定されるものではなく、任意に追加、修正することができる。また、本実施例では、送信メールを対象として説明するが、これに限定されるものではなく、受信メールを対象としたり、送信メールと受信メールの両方を対象としたりすることもできる。

［機能構成］
図２は、実施例１にかかるメールサーバ１０の機能構成を示す機能ブロック図である。図２に示すように、メールサーバ１０は、通信部１１、記憶部１２、制御部２０を有する。

通信部１１は、他の装置との通信を制御する処理部である。例えば、通信部１１は、社員１が使用する電子機器から、送信対象の電子メールを受け付ける。また、通信部１１は、送信対象の電子メールを宛先に送信する。また、通信部１１は、管理者５が使用する管理者端末から解析結果の指示を受付け、解析結果を管理者端末に送信する。

記憶部１２は、制御部２０が実行するプログラムや各処理に使用されるデータを記憶する記憶装置であり、例えばメモリやハードディスクなどである。この記憶部１２は、辞書ＤＢ（DataBase）１３、カテゴリＤＢ１４、分類結果ＤＢ１５を記憶する。

辞書ＤＢ１３は、電子メールを分類する場合に、電子メールの内容から抽出する単語に関する情報を記憶するデータベースである。例えば、辞書ＤＢ１３は、品詞ごとの単語、形態素解析などに使用される分類辞書、一般的に使用される造語などを記憶する。

カテゴリＤＢ１４は、電子メールが分類されるカテゴリに関する情報を記憶するデータベースである。図３は、カテゴリＤＢ１４に記憶される情報の例を示す図である。図３に示すように、カテゴリＤＢ１４は、「カテゴリ、該当ＫＷ、除外ＫＷ、ＮＧ−ＫＷ」を対応付けて記憶する。

ここで記憶される「カテゴリ」は、分類先のカテゴリを特定する情報である。「該当ＫＷ」は、カテゴリに属すると判定される単語などのキーワード（以降、ＫＷと記載する場合がある）であり、該当カテゴリでの利用頻度が比較的高いと判断されるキーワードである。「除外ＫＷ」は、該当カテゴリでの利用頻度の高いキーワードであるが、どのカテゴリにも属さない通常メールでの頻度も高いキーワードである。「ＮＧ−ＫＷ」は、カテゴリを決定づけるキーワードであり、このＮＧ−ＫＷを含むメールは、他のキーワードの存在状況に関わらず、該当キーワードと判定される。なお、「該当ＫＷ」および「除外ＫＷ」は、後述する学習処理の対象であり、「ＮＧ−ＫＷ」は、管理者５等によって設定される。

図３の例では、「取引先、機密」などのキーワードを含む電子メールは、「情報漏洩」に該当するメールで使用される可能性が高く、「営業秘密」などのキーワードを含む電子メールは、「情報漏洩」に分類されることを示す。また、「見積もり」などのキーワードを含む電子メールは、「情報漏洩」に該当するメールで使用される可能性が高いが、通常メールと判断されることを示す。

また、各キーワードに対して、管理者５等によって手動で設定されたキーワードか、後述する学習処理において学習されたキーワードかを特定する情報を対応付けて管理することもできる。例えば、カテゴリＤＢ１４は、各ＫＷと「初期設定」とを対応付けて記憶することもできる。管理者５によって設定されたキーワードである場合は、「初期設定」に「Ｙｅｓ」が設定される。

分類結果ＤＢ１５は、判定対象である送信対象の電子メールの分類結果を記憶するデータベースである。例えば、分類結果ＤＢ１５は、電子メールと分類結果とを対応付けて記憶する。また、分類結果ＤＢ１５は、送信メールアドレスや受信メールアドレスごとに分類結果を記憶することもでき、送信メールアドレスと受信メールアドレスの組ごとに分類結果を記憶することもできる。

制御部２０は、メールサーバ１０全体の処理を司る処理部であり、例えばプロセッサなどである。この制御部２０は、受付部２１、分類判定部２２、送信処理部２３、学習部２４を有する。なお、受付部２１、分類判定部２２、送信処理部２３、学習部２４は、プロセッサなどの電子回路の一例やプロセッサなどが実行するプロセスの一例である。

受付部２１は、電子メールを受け付ける処理部である。具体的には、受付部２１は、社員１が使用する電子機器から宛先に送信される送信対象の電子メールを受信して、分類判定部２２に出力する。

分類判定部２２は、受付部２１によって受け付けられた電子メールを、カテゴリＤＢ１４に記憶される情報にしたがって分類する処理部である。具体的には、分類判定部２２は、電子メールが情報漏洩、誹謗中傷、パワハラ、セクハラ、通常メールのいずれに分類されるかを判定し、判定結果を分類結果ＤＢ１５に格納する。

また、分類判定部２２は、キーワード分類やカテゴリ分類などで利用される様々な分類手法を採用することができる。ここでは、分類手法の一例を説明する。例えば、分類判定部２２は、受け付けられた電子メールの件名に記述される文書と本文に記述される文書とを抽出し、辞書ＤＢ１３を参照して形態素解析などを実行して、単語を抽出する。そして、分類判定部２２は、抽出した単語がカテゴリＤＢのどのＫＷに該当するかによって、電子メールを分類する。なお、分類判定部２２は、いずれのカテゴリにも分類されない場合は、通常メールに分類し、通常メールのコピーと分類結果を分類結果ＤＢ１５に格納する。

例えば、分類判定部２２は、抽出された単語の中に、「営業秘密」が含まれている場合は、他の単語の状況に関わらず、当該電子メールを「情報漏洩」に分類する。同様に、分類判定部２２は、抽出された単語の中に、「給料泥棒」が含まれている場合は、他の単語の状況に関わらず、当該電子メールを「パワハラ」に分類する。

また、分類判定部２２は、情報漏洩の該当ＫＷに属する単語が「３個」、誹謗中傷の該当ＫＷに属する単語が「１０個」、パワハラの該当ＫＷに属する単語が「２個」、セクハラの該当ＫＷに属する単語が「４個」の場合、最も数が多い「誹謗中傷」を選択して、当該電子メールを「誹謗中傷」に分類する。

また、分類判定部２２は、情報漏洩の該当ＫＷに属する単語が「３個」、誹謗中傷の該当ＫＷに属する単語が「１０個」、パワハラの該当ＫＷに属する単語が「２個」、セクハラの該当ＫＷに属する単語が「７個」の場合、閾値（例えば５個）以上の「誹謗中傷」と「セクハラ」を選択して、当該電子メールを「誹謗中傷」と「セクハラ」に分類する。

また、分類判定部２２は、閾値以上のカテゴリが複数抽出された場合には、除外ＫＷの抽出数を用いることもできる。例えば、分類判定部２２は、情報漏洩の該当ＫＷに属する単語が「３個」、誹謗中傷の該当ＫＷに属する単語が「１０個」、パワハラの該当ＫＷに属する単語が「２個」、セクハラの該当ＫＷに属する単語が「７個」の場合、閾値（例えば５個）以上の「誹謗中傷」と「セクハラ」を選択する。

続いて、分類判定部２２は、「誹謗中傷」の除外ＫＷが「３個」、「セクハラ」の除外ＫＷが「０個」抽出されていることを特定する。すると、分類判定部２２は、当該電子メールには「誹謗中傷」に該当する単語が多く使用されているが、通常メールで使用されている単語も多いことから、除外ＫＷが少ない「セクハラ」に分類する。

また、分類判定部２２は、該当ＫＷと除外ＫＷの抽出割合を用いて分類することもできる。例えば、分類判定部２２は、抽出された全単語のうち、該当ＫＷの割合が所定値（閾値Ａ）以上かつ除外ＫＷの割合が所定値（閾値Ｂ）以下のカテゴリを特定し、当該電子メールを分類することもできる。

送信処理部２３は、受け付けられた電子メールを宛先に送信する処理部である。例えば、送信処理部２３は、通常メールと判定された電子メールを宛先に送信する。また、送信処理部２３は、カテゴリＤＢ１４のいずれかのカテゴリに分類された危険な電子メールについては、例えば送信者に対して警告を送信したり、当該電子メールとともに「管理者に相談して下さい」などのメッセージを付加して宛先に送信したりする。

学習部２４は、キーワード抽出部２５、登録部２６、削除部２７を有し、これらを用いて、カテゴリＤＢ１４に記憶される各種ＫＷを学習する処理部である。なお、学習処理のタイミングは、定期的に実行することもでき、任意のタイミングで実行することもできる。また、学習部２４は、分類結果ＤＢ１５に記憶される電子メール、すなわちいずれかのカテゴリに分類された電子メールに対して学習処理を実行する。

キーワード抽出部２５は、分類済みの電子メールからキーワードを抽出する処理部である。具体的には、キーワード抽出部２５は、分類結果ＤＢ１５が分類済みの電子メールと分類されたカテゴリとを読み出し、読み出した電子メールの件名や本文から、共起確率、クラスタ処理などの公知の手法を用いて、キーワードを抽出する。そして、キーワード抽出部２５は、抽出結果を登録部２６に出力する。

ここで、キーワード抽出の具体例を説明する。図４は、共起確率による分類キーワードの抽出例を説明する図である。図４に示すように、ここでは、「誹謗中傷」に分類されたメール１からメール２０の２０通の電子メールを例にして説明する。図４に示すように、キーワード抽出部２５は、辞書ＤＢ１３等を参照して、２０通のメールからキーワードを抽出する。ここでは、キーワード抽出部２５は、２０通のメールのうち、「アホ」や「バカ」などのように、すでにカテゴリ「誹謗中傷」の「該当ＫＷ」に登録されているキーワードは対象外とし、「バナナ」、「みかん」、「リンゴ」を登録候補とする。

図４の例は、キーワード抽出部２５は、２０通の電子メールにおいて「バナナ」を含む電子メールの数が「１０通」であることから、発生率を「１０／２０×１００＝５０％」と算出する。また、キーワード抽出部２５は、２０通の電子メールにおいて「みかん」を含む電子メールの数が「９通」であることから、発生率を「９／２０×１００＝４５％」と算出する。また、キーワード抽出部２５は、２０通の電子メールにおいて「リンゴ」を含む電子メールの数が「７通」であることから、発生率を「７／２０×１００＝３５％」と算出する。

この結果、キーワード抽出部２５は、閾値（５０％）以上の発生率を有する「バナナ」を、登録対象のキーワードとして抽出する。

次に、クラスタ処理による分類キーワードの抽出例を説明する。図５は、クラスタ処理による分類キーワードの抽出例を説明する図である。図５に示すように、カテゴリ「誹謗中傷」には、キーワード「バカ、アホ、ゴミ、阿保、死ね」が登録されているものとする。このような状態において、キーワード抽出部２５は、辞書ＤＢ１３等を参照して、「誹謗中傷」に分類された全メールからキーワード「バカ、アホ、ゴミ、バナナ、阿保、死ね、リンゴ」を抽出する。

続いて、キーワード抽出部２５は、抽出されたキーワード「バカ、アホ、ゴミ、バナナ、阿保、死ね、リンゴ」に対して、類似語やかかりうけなどでクラスタリングする学習アルゴリズムを用いて、クラスタリングを実行する。そして、キーワード抽出部２５は、クラスタＡに「バカ、アホ、ゴミ、バナナ」を分類し、クラスタＢに「阿保、死ね、リンゴ」を分類する。

この結果、キーワード抽出部２５は、メール中に出現しないキーワードが最も少ない部分集合、つまり分類されたキーワードが多いクラスタＡを選択する。そして、キーワード抽出部２５は、クラスタＡの「バカ、アホ、ゴミ、バナナ」のうち、未登録である「バナナ」を登録対象のキーワードとして抽出する。

なお、キーワード抽出部２５は、共起確率による抽出処理とクラスタ処理による抽出処理のいずれかを実行してもよく、両方を実行してもよい。例えば、キーワード抽出部２５は、共起確率かクラスタ処理のいずれかによって抽出されたキーワードを登録対象と判定することもでき、共起確率とクラスタ処理の両方で抽出されたキーワードを登録対象と判定することもできる。

登録部２６は、カテゴリＤＢ１４に新たなキーワードを登録する処理部である。具体的には、登録部２６は、キーワード抽出部２５から登録先の「カテゴリ」と登録対象の「キーワード」を取得し、当該カテゴリの該当ＫＷに当該キーワードを登録する。例えば、登録部２６は、「誹謗中傷」と「バナナ」とをキーワード抽出部２５から取得すると、カテゴリＤＢ１４のカテゴリ「誹謗中傷」の該当ＫＷに「バナナ」を登録する。このとき、登録部２６は、「バナナ」がカテゴリ「誹謗中傷」の既存の除外ＫＷに該当する場合は、登録を抑制する。

図６は、キーワードの自動追加例を説明する図である。図６に示すように、キーワード抽出部２５が、誹謗中傷に該当するメールから、キーワードとして「死ね」と「お前」を抽出する。そして、登録部２６は、「死ね」がすでに登録済みであることから、未登録の「お前」をカテゴリ「誹謗中傷」の「該当ＫＷ」に登録する。

また、登録部２６は、除外ＫＷを抽出して新規登録することもできる。例えば、登録部２６は、通常メールに分類された電子メールを分類結果ＤＢ１５から読み出し、各電子メールからキーワードを抽出する。そして、登録部２６は、通常メールの閾値（例えば７０％）に含まれるキーワードを特定して、カテゴリＤＢ１４の各カテゴリの除外ＫＷに格納する。

また、登録部２６は、キーワード抽出部２５によって抽出された登録対象のキーワードについても、除外ＫＷに該当するか否かを判定し、該当する場合には除外ＫＷに登録することもできる。上記例で説明すると、登録部２６は、キーワード抽出部２５から取得した登録対象のキーワード「バナナ」が通常メールのどのくらいに含まれるかを判定する。ここで、登録部２６は、登録対象のキーワード「バナナ」が含まれる割合が閾値（例えば５０％）未満であれば、カテゴリＤＢ１４のカテゴリ「誹謗中傷」の該当ＫＷに「バナナ」を登録し、閾値以上であれば、カテゴリＤＢ１４のカテゴリ「誹謗中傷」の除外ＫＷに「バナナ」を登録する。

削除部２７は、カテゴリＤＢ１４に記憶される該当ＫＷのうち、使用頻度の少ないキーワードを削除する処理部である。具体的には、削除部２７は、上記学習処理が実行されるたびに、各カテゴリに該当ＫＷに登録される各ＫＷの出現回数を計数する。そして、削除部２７は、所定回数連続して出現回数が閾値を下回るＫＷや出現回数が閾値を下回るＫＷなどのような予め指定した削除条件に一致するＫＷを、該当ＫＷから削除する。

また、削除部２７は、削除対象の該当ＫＷが管理者によって初期設定されたＫＷである場合には、削除を抑制し、学習処理によって過去に学習されたＫＷである場合には、削除する。なお、削除部２７は、除外ＫＷについても、同様の手法により通常メールにおける使用頻度の少ないキーワードを削除することもできる。

図７は、キーワードの自動削除例を説明する図である。図７に示すように、誹謗中傷の該当ＫＷ「お前」の抽出回数が「２０回」、該当ＫＷ「死ね」の抽出回数が「３５回」、該当ＫＷ「バカ」の抽出回数が「９回」、該当ＫＷ「アホ」の抽出回数が「２回」、該当ＫＷ「ゴミ」の抽出回数が「１６回」であるとする。この場合、削除部２７は、抽出回数が閾値（１０）未満である「バカ」と「アホ」を削除対象と判定するが、「バカ」については「初期設定＝Ｙｅｓ」となっていることから、削除対象から除外する。この結果、削除部２７は、誹謗中傷の該当ＫＷから「アホ」を削除する。

［処理の流れ］
次に、メールサーバ１０における各種処理の流れについて説明する。ここでは、分類処理、追加処理、削除処理について説明する。

（分類処理の流れ）
図８は、メール分類処理の流れを示すフローチャートである。図８に示すように、分類判定部２２は、受付部２１によってメールが受け付けられると（Ｓ１０１：Ｙｅｓ）、辞書ＤＢ１３を参照して、メールからキーワードを抽出する（Ｓ１０２）。

続いて、分類判定部２２は、抽出されたキーワードとカテゴリＤＢ１４に記憶されるカテゴリに関する情報とを比較してメールを分類する（Ｓ１０３）。そして、分類判定部２２は、メールが分類されると（Ｓ１０４：Ｙｅｓ）、メールおよび分類結果を分類結果ＤＢ１５に格納する（Ｓ１０５）。

一方、送信処理部２３は、分類判定部２２によってメールが分類されない場合（Ｓ１０４：Ｎｏ）、通常メールと判定して、宛先にメールを送信する（Ｓ１０６）。なお、分類判定部２２は、通常メールについても、メールのコピーおよび分類結果を分類結果ＤＢ１５に格納する。

（追加処理の流れ）
図９は、キーワード追加処理の流れを示すフローチャートである。図９に示すように、キーワード抽出部２５は、処理開始のタイミングになると（Ｓ２０１：Ｙｅｓ）、カテゴリを１つ選択し（Ｓ２０２）、分類結果ＤＢ１５に記憶されるメールのうち、選択されたカテゴリに分類されたメールを取得して、共起確率による登録候補（候補１）を抽出する（Ｓ２０３）。

続いて、キーワード抽出部２５は、選択されたカテゴリに分類されたメールから、クラスタリングによる登録候補（候補２）を抽出する（Ｓ２０４）。その後、登録部２６は、通常メール等を用いて、分類の対象外とするキーワード、すなわち登録対象外とするキーワードを抽出する（Ｓ２０５）。

そして、登録部２６は、分類の対象外とするキーワードを除外キーワードに格納する（Ｓ２０６）。また、登録部２６は、候補１と候補２の中から、除外キーワードを除外した登録候補（候補３）を特定する（Ｓ２０７）。

そして、登録部２６は、候補３のキーワードを選択中のカテゴリの該当ＫＷに登録する（Ｓ２０８）。その後、未処理のカテゴリが存在する場合（Ｓ２０９：Ｙｅｓ）、Ｓ２０２以降の処理が実行される。一方、未処理のカテゴリが存在しない場合（Ｓ２０９：Ｎｏ）、追加処理が終了される。

（削除処理の流れ）
図１０は、キーワード削除処理の流れを示すフローチャートである。図１０に示すように、削除部２７は、処理開始のタイミングになると（Ｓ３０１：Ｙｅｓ）、カテゴリを１つ選択し（Ｓ３０２）、分類結果ＤＢ１５に記憶されるメールのうち、選択されたカテゴリに分類されたメールからキーワードを抽出する（Ｓ３０３）。

続いて、削除部２７は、該当メールから抽出したキーワードを用いて、カテゴリＤＢ１４の「カテゴリ」に登録されるキーワードの出現回数を算出する（Ｓ３０４）。そして、削除部２７は、出現回数が閾値未満のキーワードを特定する（Ｓ３０５）。

その後、削除部２７は、特定した閾値未満のキーワードのうち、削除可能なキーワードがある場合（Ｓ３０６：Ｙｅｓ）、該当キーワードをカテゴリＤＢ１４の該当ＫＷから削除する（Ｓ３０７）。つまり、削除部２７は、特定した閾値未満のキーワードのうち、初期設定ではないキーワードを削除する。

一方、削除可能なキーワードがない場合（Ｓ３０６：Ｎｏ）、Ｓ３０８が実行される。そして、未処理のカテゴリが存在する場合（Ｓ３０８：Ｙｅｓ）、Ｓ３０２以降の処理が実行される。一方、未処理のカテゴリが存在しない場合（Ｓ３０８：Ｎｏ）、削除処理が終了される。

［効果］
実施例１にかかるメールサーバ１０は、各カテゴリに使用されるＫＷを定期的に学習することができるので、時代の変化や流行等により日々変化に追従することができる。この結果、同じ抽出条件を使い続けることにより、抽出回数が減少していくことが考えられるが、定期的に抽出条件を更新することで、抽出件数の改善が期待できる。この結果、悪影響を及ぼす、コンプライアンス違反の電子メールの抽出精度を維持することができる。

また、メールサーバ１０は、時間の経過を意識し、移り変りを捉え、キーワードの価値（重み付け）を常時変化させることができ、抽出条件の最新性や最適性を保持し、キーワードの更新、削除を実施することができる。

また、メールサーバ１０は、一般的なキーワードでは対象とならない、独自な評価または固有な評価を得ることができ、利用者の目的にあった結果が得られる。また、メールサーバ１０は、キーワードとして利用者に適した学習をすることにより、利用者に合ったキーワードを学習することができ、抽出精度の向上を図れる。

［全体構成］
上記メールサーバ１０は、実施例１で説明した処理に加えて、社員１のメール送信状況を分析することができる。そこで、実施例２では、メールサーバ１０が、各メールアドレスについて、どのくらい危険なメールを送信しているかなどを分析する例について説明する。なお、全体構成は、実施例１と同様なので説明を省略する。

［機能構成］
図１１は、実施例２にかかるメールサーバ１０の機能構成を示す機能ブロック図である。図１１に示すように、メールサーバ１０は、通信部１１、記憶部１２、制御部２０を有する。実施例１と異なる点は、危険度ＤＢ１６と危険度判定部３０と表示制御部３１を有する点である。したがって、実施例２では、危険度ＤＢ１６と危険度判定部３０と表示制御部３１について説明する。なお、記憶部１２は、送信対象の電子メール、すなわち受付部２１によって受け付けられた全メールを記憶する。

危険度ＤＢ１６は、メールアドレスごとに、判定された危険度を記憶するデータベースである。具体的には、危険度ＤＢ１６は、送信メールアドレス、宛先メールアドレス、送信メールアドレスと宛先メールアドレスの組ごとに、後述する処理で判定された危険度を記憶する。つまり、危険度ＤＢ１６は、情報漏洩、誹謗中傷、パワハラ、セクハラなどのメールを送信するユーザを特定できる情報を記憶する。

危険度判定部３０は、メールアドレスごとに、悪質なメールを送信する危険性の高いユーザを判定する処理部である。具体的には、危険度判定部３０は、送信メールアドレス、宛先メールアドレス、送信メールアドレスと宛先メールアドレスの組ごとに、予め定めた判定基準にしたがって危険度を判定し、判定結果を危険度ＤＢ１６に格納する。

例えば、危険度判定部３０は、各カテゴリに分類されたメールの数をポイント化する。例を挙げると、危険度判定部３０は、２つのメールが情報漏洩に分類された場合、２ポイントとなり、２つのメールが情報漏洩とセクハラに分類された場合も、２ポイントとなる。また、危険度判定部３０は、水曜日に危険度判定を行ったら、その日を含む「月、火、水曜日」の３日間で１週間（１Ｗｅｅｋ）目の判定を行う。

なお、危険度判定部３０は、ポイント数ではなく率（ポイント／率）で判定する。例えば、月、火、水曜日の３日間で２ポイントであった場合は、「２／３＝０．６６６６≒０．６７」と算出する。

ここで、危険度判定の基準例を説明する。図１２は、危険度判定の基準例を説明する図である。図１２に示すように、各危険度には判定基準が設定されている。なお、ここでは、危険度５が最も危険度が高いものとする。また、各危険度には複数の判定条件が設定されているが、これらの条件はＯＲ条件であってもよく、ＡＮＤ条件であってもよく、任意に設定することができる。ここでは、ＯＲ条件である例で説明する。

図１２に示すように、危険度判定部３０は、「判定週のポイント率≧１．５」、または、「４週間前のポイント率≧１．４、かつ３週間前のポイント率≧１．４、かつ、２週間前のポイント率≧１．４、かつ、１週間前のポイント率≧１．４」に該当するメールアドレスを、危険度５と判定する。

また、危険度判定部３０は、「４週間前のポイント率＋３週間前のポイント率＋２週間前のポイント率＋１週間前のポイント率≧４．２」に該当するメールアドレスを、危険度４と判定する。同様に、危険度判定部３０は、「４週間前のポイント率＋３週間前のポイント率＋２週間前のポイント率＋１週間前のポイント率≧３．６」かつ「４週間のうちに２つ以上のカテゴリに分類された」に該当するメールアドレスを、危険度４と判定する。同様に、危険度判定部３０は、「判定週のポイント率≧１．０」に該当するメールアドレスを、危険度４と判定する。同様に、危険度判定部３０は、「４週間前のポイント率≧０．８、かつ３週間前のポイント率≧０．８、かつ、２週間前のポイント率≧０．８、かつ、１週間前のポイント率≧０．８」に該当するメールアドレスを、危険度４と判定する。

また、危険度判定部３０は、「４週間前のポイント率＋３週間前のポイント率＋２週間前のポイント率＋１週間前のポイント率≧２．４」に該当するメールアドレスを、危険度３と判定する。同様に、危険度判定部３０は、「４週間前のポイント率＋３週間前のポイント率＋２週間前のポイント率＋１週間前のポイント率≧１．８」かつ「４週間のうちに２つ以上のカテゴリに分類された」に該当するメールアドレスを、危険度３と判定する。同様に、危険度判定部３０は、「判定週のポイント率≧０．５」に該当するメールアドレスを、危険度３と判定する。

また、危険度判定部３０は、「４週間前のポイント率＋３週間前のポイント率＋２週間前のポイント率＋１週間前のポイント率≧１．２」に該当するメールアドレスを、危険度２と判定する。同様に、危険度判定部３０は、「判定週のポイント率≧０．３」に該当するメールアドレスを、危険度２と判定する。

また、危険度判定部３０は、「４週間前のポイント率＋３週間前のポイント率＋２週間前のポイント率＋１週間前のポイント率≧０．１」に該当するメールアドレスを、危険度１と判定する。同様に、危険度判定部３０は、「判定週のポイント率＞０．０」に該当するメールアドレスを、危険度１と判定する。

また、危険度判定部３０は、上記いずれの判定基準にも該当しないメールアドレスについては、危険度０すなわち通常メールと判定する。

表示制御部３１は、各種情報を表示する処理部であり、管理者５等のユーザ操作に応じた表示制御を実行する。具体的には、表示制御部３１は、危険度ごとにメールアドレスの表示、メールアドレスごとのメール送信状況の推移、カテゴリ学習前後のメール分類の推移などをディスプレイに表示したり、管理者端末に送信したりする。

また、表示制御部３１は、実施例１で説明した学習時に学習結果や学習までに実行した各種処理の結果を学習部２４から取得し、取得した情報を表示することもできる。例えば、表示制御部３１は、メールアドレスごとに、各カテゴリの該当ＫＷごとの抽出回数を集計し、集計結果を表示することもできる。なお、集計結果は、学習部２４が実行することもでき、学習処理における各種処理結果から表示制御部３１が集計することもできる。

［危険度判定処理の流れ］
図１３は、危険度判定処理の流れを示すフローチャートである。図１３に示すように、危険度判定部３０は、処理開始のタイミングに到達すると（Ｓ４０１：Ｙｅｓ）、分類結果ＤＢ１５に記憶されるメールアドレスを１つ選択する（Ｓ４０２）。

続いて、危険度判定部３０は、選択したメールアドレスについて、分類結果ＤＢ１５を参照して、直近１週間のポイント率を算出し（Ｓ４０３）、過去４週のポイント率の合計を算出する（Ｓ４０４）。このとき、危険度判定部３０は、判定週における該当カテゴリ数や過去４週における該当カテゴリ数なども算出する。

そして、危険度判定部３０は、ポイント率やカテゴリ数が危険度５の判定条件を満たす場合（Ｓ４０５：Ｙｅｓ）、選択中のメールアドレスを危険度５と判定し（Ｓ４０６）、Ｓ４１６以降を実行する。

一方、危険度判定部３０は、ポイント率やカテゴリ数が危険度５の判定条件を満たさず（Ｓ４０５：Ｎｏ）、危険度４の判定条件を満たす場合（Ｓ４０７：Ｙｅｓ）、選択中のメールアドレスを危険度４と判定し（Ｓ４０８）、Ｓ４１６以降を実行する。

一方、危険度判定部３０は、ポイント率やカテゴリ数が危険度４の判定条件を満たさず（Ｓ４０７：Ｎｏ）、危険度３の判定条件を満たす場合（Ｓ４０９：Ｙｅｓ）、選択中のメールアドレスを危険度３と判定し（Ｓ４１０）、Ｓ４１６以降を実行する。

さらに、危険度判定部３０は、ポイント率やカテゴリ数が危険度３の判定条件を満たさず（Ｓ４０９：Ｎｏ）、危険度２の判定条件を満たす場合（Ｓ４１１：Ｙｅｓ）、選択中のメールアドレスを危険度２と判定し（Ｓ４１２）、Ｓ４１６以降を実行する。

さらに、危険度判定部３０は、ポイント率やカテゴリ数が危険度２の判定条件を満たさず（Ｓ４１１：Ｎｏ）、危険度１の判定条件を満たす場合（Ｓ４１３：Ｙｅｓ）、選択中のメールアドレスを危険度１と判定し（Ｓ４１４）、Ｓ４１６以降を実行する。

さらに、危険度判定部３０は、ポイント率やカテゴリ数が危険度１の判定条件を満たさない場合（Ｓ４１３：Ｎｏ）、選択中のメールアドレスを危険度なしと判定する（Ｓ４１５）。その後、危険度判定部３０は、未選択のメールアドレスがある場合は（Ｓ４１６：Ｙｅｓ）、Ｓ４０２以降を実行し、未選択のメールアドレスがない場合は（Ｓ４１６：Ｎｏ）、処理を終了する。

［表示制御の具体例］
次に、図１４から図１９を用いて表示制御部３１が表示する表示例を説明する。なお、表示制御部３１は、危険度判定部３０や学習部２４から、危険度判定結果が学習結果を毎回取得して記憶部１２等に格納しておくことができる。

（メール判定結果）
図１４は、メール判定結果の表示例を説明する図である。図１４に示すように、表示制御部３１は、メールの判定結果の表示指示を受付けると、ユーザによって指定された期間の危険度判定結果や学習結果などを集計して表示することができる。

例えば、図１４に示すように、表示制御部３１は、指定期間「2015/11/10−2015/12/11」における、カテゴリごとの抽出キーワード（該当ＫＷ、除外ＫＷ、ＮＧ−ＫＷ）それぞれの抽出回数を表示する（図１４のＡ参照）。また、表示制御部３１は、指定期間「2015/11/10−2015/12/11」における各抽出キーワードの抽出回数を集計することで、各カテゴリの抽出キーワードの総抽出件数を算出し、カテゴリごとに折れ線グラフで表示することで、抽出件数の状況遷移を表示することができる（図１４のＢ参照）。また、表示制御部３１は、折れ線グラフの内容を円グラフに表示することもできる（図１４のＣ参照）。

（危険度状況）
図１５は、危険度状況の表示例を説明する図である。図１５に示すように、表示制御部３１は、危険度状況の表示指示を受付けると、最新の危険度判定結果を表示することができる。なお、最新の危険度判定結果に限らず、指定された過去の判定結果を表示することもでき、判定結果の推移を表示することもできる。

例えば、表示制御部３１は、最新の判定日時（2015/12/12）の判定結果として、「危険度、送信元メールアドレス、判定推移」を対応付けた危険度状況を表示することができる（図１５のＤ参照）。なお、判定推移は、前回と比較して危険度が上がっているか否かを示す情報であり、前回から危険度が上がっている場合は上向きの矢印を表示し、前回から危険度が下がっている場合は下向きの矢印を表示し、前回と危険度が変わらない場合は横向きの矢印を表示する。

さらに、表示制御部３１は、危険度状況で表示されるメールアドレスの選択を抽出すると、判定日時（2015/12/12）で判定対象とされた期間（2015/11/10−2015/12/11）におけるカテゴリ分類結果（カテゴリ分類数）の推移を示す折れ線グラフを表示することもできる（図１５のＥ参照）。なお、表示制御部３１は、カテゴリ分類結果ではなくメール本文そのものを表示することもできる。また、ここでは、送信元メールアドレスを例にして説明したが、受信メールアドレスや送信元メールアドレスと受信メールアドレスの組に対しても同様に処理することができる。

（危険度表示）
図１６は、危険度毎の表示例を説明する図である。図１６に示すように、表示制御部３１は、危険度表示の指示を受付けると、最新の危険度判定結果にしたがって、危険度毎に該当メールアドレスの一覧を表示することができる。なお、最新の危険度判定結果に限らず、指定された過去の判定結果を表示することもできる。

図１６の例では、表示制御部３１は、危険度５のタブが選択された状態の画面であり、危険度５に該当する送信元メールアドレス一覧、宛先メールアドレス一覧、送信元−宛先一覧を表示する。表示制御部３１は、タブの切替を受け付けることで、各危険度に該当するアドレス一覧に表示を切り替える。

そして、表示制御部３１は、この状態からメールアドレスが選択された場合、警告メールを自動で作成、送信することもできる。図１７は、警告メールの作成例を説明する図である。図１７に示すように、表示制御部３１は、危険度５と判定された送信元メールアドレス「aaaaaaa@bbb.com」が選択された場合、「aaaaaaa@bbb.com」を宛先とする警告メールを自動で生成する。

ここで、作成される警告メールの本文は、危険度、メールアドレス、分類状況によって自動で変更することができる。例えば、表示制御部３１は、危険度が高いほど、法に触れる可能性が高いことから、より警告度の強い内容を作成する。例を挙げると、表示制御部３１は、危険度５に対しては法的措置をとることや面談等の対応を行うことを示す内容を作成し、危険度１に対しては言葉の使用注意を促す内容を作成する。

また、表示制御部３１は、送信元メールアドレスに対しては、上記警告メッセージを作成し、宛先メールアドレスに対しては、管理者５や相談窓口の連絡先を記載した相談を促すメッセージを作成し、アドレスの組み合わせに対しては、双方に対して第三者を交えた話し合いの機会を設けるなどのメッセージを作成する。

また、表示制御部３１は、選択されたメールアドレスに対するカテゴリ分類数が最も多いカテゴリに対する各種メッセージを作成することもできる。さらに、表示制御部３１は、選択されたメールアドレスに対するカテゴリ分類数が閾値を超える各カテゴリに対して警告メールを作成することもできる。なお、表示制御部３１は、図１５に示した危険度状況（図１５のＥ参照）で表示されるメールアドレスが選択された場合にも、警告メールを作成することができる。

（出現状況）
図１８は、グラフからキーワードの出現状況を表示させる例を説明する図である。図１８に示すように、表示制御部３１は、カテゴリごとの抽出件数の状況遷移を示す折れ線グラフ（図１４のＢ参照）からいずれかの折れ線グラフが選択された場合、カテゴリごとの抽出キーワードそれぞれの抽出回数を表示することができる。

図１８の例では、表示制御部３１は、誹謗中傷のグラフが選択されたことを抽出すると、カテゴリ「誹謗中傷」の各ＫＷの抽出回数を表示する。同様に、表示制御部３１は、情報漏洩のグラフが選択されたことを抽出すると、カテゴリ「情報漏洩」の各ＫＷの抽出回数を表示する。なお、ここで表示される抽出回数は、状況変化のグラフで表示されている指定期間内で抽出された回数である。

（学習前後の抽出遷移）
図１９は、抽出条件の更新前後の抽出推移を表示させる例を説明する図である。図１９に示すように、表示制御部３１は、カテゴリごとの抽出件数の状況遷移を示す折れ線グラフ（図１４のＢ参照）に、実施例１で説明した学習処理によって抽出条件である該当ＫＷ等が更新された日付を図示する。

図１９の例では、5/10と9/10に抽出条件が更新されたことが表示されている。このような表示を行うことで、抽出条件の前後において、抽出件数の遷移を把握することができる。例えば、図１９の例では、いずれのカテゴリも抽出条件の更新前では、抽出件数が減少しているが、抽出条件の更新後においては抽出件数が増加している。これは、各カテゴリに使用されるＫＷが、時代の変化や流行等により日々変化し、違反者も日々学習することから、同じ抽出条件を使い続けることにより、抽出回数が減少していく。したがって、定期的に抽出条件を更新することで、違反者等の学習に追従することができ、抽出件数の改善が期待できる。

なお、表示制御部３１は、抽出条件の更新前の期間が選択された場合は、更新前の抽出条件を表示し、抽出条件の更新後の期間が選択された場合は、更新後の抽出条件を表示することができる。また、表示制御部３１は、更新後の抽出条件において、削除されたＫＷや追加されたＫＷなどを表示することもできる。

［効果］
実施例２にかかるメールサーバ１０は、学習結果や危険度などを表示することができるので、コンプライアンス違反の電子メールの送信状況を把握することができ、管理者が視覚的に危険度や危険なユーザを把握することができる。また、メールサーバ１０は、様々な観点のインタフェースを提供することができるので、利便性が向上する。

また、メールサーバ１０は、定期的な抽出条件の更新時期と分類推移を合わせて表示することができるので、違反者等の学習に追従しているかどうかを判断する指標を提供できる。この結果、管理者５は、学習時期の見直し、学習方法の見直しなどを検討することができ、危険なメール送信の事前予防の対策を行うことができる。

また、メールサーバ１０は、分類結果などをメールアドレスごとにフィードバックすることができるので、社員モラルの向上や社員士気の評価を行うことができる。

さて、これまで本発明の実施例について説明したが、本発明は上述した実施例以外にも、種々の異なる形態にて実施されてよいものである。

［数値、分類］
上記実施例で説明したカテゴリの分類数、カテゴリ名、危険度の区分数、危険度の判定条件などは、任意に設定変更することができる。また、実施例２では、折れ線グラフや円グラフを例示したが、これに限定されるものではなく、棒グラフなど他のグラフ形式を採用することもできる。除外ＫＷやＮＧ−ＫＷは、各カテゴリで共通に設定することもできる。

［システム］
また、図２や図１１に示した各装置の各構成は、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、任意の単位で分散または統合して構成することができる。例えば、学習部２４と危険度判定部３０を統合することができる。さらに、各装置にて行なわれる各処理機能は、その全部または任意の一部が、ＣＰＵ（Central Processing Unit）および当該ＣＰＵにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。

また、本実施例において説明した各処理のうち、自動的におこなわれるものとして説明した処理の全部または一部を手動的におこなうこともできる。あるいは、手動的におこなわれるものとして説明した処理の全部または一部を公知の方法で自動的におこなうこともできる。この他、上記文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。

［ハードウェア］
上記メールサーバ１０は、例えば、次のようなハードウェア構成を有するコンピュータにより実現することができる。図２０は、ハードウェアの構成例を説明する図である。図２０に示すように、メールサーバ１０は、通信インタフェース１０ａ、ＨＤＤ（Hard Disk Drive）１０ｂ、メモリ１０ｃ、プロセッサ１０ｄを有する。

通信インタフェース１０ａの一例としては、ネットワークインタフェースカードなどである。ＨＤＤ１０ｂは、図２等に示した各種ＤＢを記憶する記憶装置である。

メモリ１０ｃの一例としては、ＳＤＲＡＭ（Synchronous Dynamic Random Access Memory）等のＲＡＭ（Random Access Memory）、ＲＯＭ（Read Only Memory）、フラッシュメモリ等が挙げられる。プロセッサ１０ｄの一例としては、ＣＰＵ、ＤＳＰ（Digital Signal Processor）、ＦＰＧＡ（Field Programmable Gate Array）、ＰＬＤ（Programmable Logic Device）等が挙げられる。

また、メールサーバ１０は、プログラムを読み出して実行することで学習方法を実行する情報処理装置として動作する。つまり、メールサーバ１０は、受付部２１、分類判定部２２、送信処理部２３、学習部２４、危険度判定部３０、表示制御部３１と同様の機能を実行するプログラムを実行する。この結果、メールサーバ１０は、受付部２１、分類判定部２２、送信処理部２３、学習部２４、危険度判定部３０、表示制御部３１と同様の機能を実行するプロセスを実行することができる。なお、この他の実施例でいうプログラムは、メールサーバ１０によって実行されることに限定されるものではない。例えば、他のコンピュータまたはサーバがプログラムを実行する場合や、これらが協働してプログラムを実行するような場合にも、本発明を同様に適用することができる。

このプログラムは、インターネットなどのネットワークを介して配布することができる。また、このプログラムは、ハードディスク、フレキシブルディスク（ＦＤ）、ＣＤ−ＲＯＭ、ＭＯ（Magneto−Optical disk）、ＤＶＤ（Digital Versatile Disc）などのコンピュータで読み取り可能な記録媒体に記録され、コンピュータによって記録媒体から読み出されることによって実行することができる。

１０ メールサーバ
１１ 通信部
１２ 記憶部
１３ 辞書ＤＢ
１４ カテゴリＤＢ
１５ 分類結果ＤＢ
１６ 危険度ＤＢ
２０ 制御部
２１ 受付部
２２ 分類判定部
２３ 送信処理部
２４ 学習部
２５ キーワード抽出部
２６ 登録部
２７ 削除部
３０ 危険度判定部
３１ 表示制御部

Claims (7)

1. コンピュータに、
   不適切メールの抽出条件に合致したメールの送信元のメールアドレスのリストを、メールアドレスごとの前記抽出条件に合致したメールの送信状況に応じて区分されたレベルに分類して表示し、
   表示された前記リストからメールアドレスのいずれかが選択されたことに応じて、選択された前記メールアドレスについての前記抽出条件に合致したメールの送信状況の推移を表示する、
   処理を実行させることを特徴とする表示制御プログラム。
2. 前記表示する処理は、前記不適切メールの抽出条件に合致したメールの受信メールアドレスのリスト、または、送信元メールアドレスと受信メールアドレスとの組のリストを、前記区分されたレベルごとに分類してさらに表示することを特徴とする請求項１に記載の表示制御プログラム。
3. 前記表示する処理は、前記リストに表示される前記送信元のメールアドレスが選択された場合、前記抽出条件または前記抽出条件に合致した不適切メールのメール本文を表示することを特徴とする請求項１に記載の表示制御プログラム。
4. 前記表示する処理は、前記リストに表示される前記送信元のメールアドレスが選択された場合、選択された前記送信元のメールアドレスを宛先とする送信メールを生成することを特徴とする請求項１に記載の表示制御プログラム。
5. 前記表示する処理は、前記抽出条件に合致したメールの送信状況の推移を示すグラフを表示し、前記抽出条件が更新されたことを示す更新タイミングを前記グラフ内に表示させることを特徴とする請求項１に記載の表示制御プログラム。
6. コンピュータが、
   不適切メールの抽出条件に合致したメールの送信元のメールアドレスのリストを、メールアドレスごとの前記抽出条件に合致したメールの送信状況に応じて区分されたレベルに分類して表示し、
   表示された前記リストからメールアドレスのいずれかが選択されたことに応じて、選択された前記メールアドレスについての前記抽出条件に合致したメールの送信状況の推移を表示する、
   処理をすることを特徴とする表示制御方法。
7. 不適切メールの抽出条件に合致したメールの送信元のメールアドレスのリストを、メールアドレスごとの前記抽出条件に合致したメールの送信状況に応じて区分されたレベルに分類して表示する第１表示部と、
   表示された前記リストからメールアドレスのいずれかが選択されたことに応じて、選択された前記メールアドレスについての前記抽出条件に合致したメールの送信状況の推移を表示する第２表示部と、
   を有することを特徴とする情報処理装置。

Images