JP6992146B1 - 情報処理システム、情報処理方法及びプログラム - Google Patents

Abstract

【課題】特殊詐欺犯であるか否かの判断とその制御の精度を向上していくシステムを提供する。【解決手段】第一の端末からの接続要求に応じて第二の端末に接続して通話を行う情報処理システムは、第一の端末に紐づけられた固有ＩＤを取得する固有ＩＤ取得モジュール１１１と、取得した固有ＩＤを固有ＩＤデータベース１３１と照合し、固有ＩＤ危険値を取得する固有ＩＤ照合モジュール１２１と、第一の端末が発信する音声から声紋情報を取得する声紋取得モジュール１１２と、取得した声紋情報を声紋データベース１３２と照合し、声紋危険値を取得する声紋照合モジュール１２２と、固有ＩＤ危険値と声紋危険値とが共に危険と判断する危険値であった場合に接続を解除し、固有ＩＤ危険値と声紋危険値とが共に安全と判断する安全値であった場合に前記接続を継続し、それ以外の場合に接続を継続すると共に危険判断第二フローを起動する処理モジュール１２３とを備える。【選択図】図２

Description

本発明は、各種電話による通話に対する情報処理システム、情報処理方法及びプログラムに関する。

現在、振り込め詐欺等の特殊詐欺が社会的な問題になっている。これに対して下記のような技術が知られている（特許文献１）。

国際公開番号２０２０／０５４１８９

上記特許では、特殊詐欺犯である可能性がある通話者の音声信号（声紋等）から特徴情報を抽出して、この特徴情報を照合し、特殊詐欺犯であると判断した場合は、通話を自動的に遮断する等の制御を行うことが開示されている。

しかしながら、上記の特許では、特殊詐欺犯であるか否かの判断が必ずしも適切ではない場合がある。例えば、通話相手が特殊詐欺犯ではないのに、特殊詐欺犯と認識して通話の遮断をしてしまったり（偽陽性による制御）、特殊詐欺犯であるのに、特殊詐欺犯ではないと認識して通話を継続させてしまったり（偽陰性による制御）、といった場合が生じ得る。そのため、このような偽陽性、偽陰性による誤った判断と制御を可能な限り減らし、更に、特殊詐欺犯であるか否かの判断とその制御の精度を向上するシステムや方法が求められている。

これらの課題に応えるために、本発明者は、携帯電話や固定電話のキャリア側のシステムで、端末に紐づけられた固有のＩＤを取得して利用することで、判断と制御を向上することができることに着目した。すなわち、端末に紐づけられた固有ＩＤを取得して固有ＩＤ危険値を判断し、音声から取得した声紋情報の特徴から声紋危険値を判断し、これらの危険値を組み合わせて、通話を継続するか、切断するか、更に詳細な危険度判断を行うか、を制御することで精度の向上が可能である。

本発明は、誤った判断と制御を可能な限り減らして特殊詐欺犯の判断を行い、特殊詐欺犯であると判断した場合は通話を自動的に遮断し、更に、特殊詐欺犯であるか否かの判断とその制御の精度を向上していくシステムを提供することを目的とする。

本発明では、以下のような解決手段を提供する。

第１の特徴に係る発明は、
第一の端末からの接続要求に応じて第二の端末に接続して音声による通話を行う情報処理システムであって、
前記第一の端末に紐づけられた固有ＩＤを取得する固有ＩＤ取得部と、
取得した前記固有ＩＤを固有ＩＤデータベースと照合し、固有ＩＤ危険値を取得する固有ＩＤ照合部と、
前記第一の端末が発信する音声から声紋情報を取得する声紋取得部と、
取得した前記声紋情報を声紋データベースと照合し、声紋危険値を取得する声紋照合部と、
前記固有ＩＤ危険値と前記声紋危険値とが共に危険と判断する所定の危険値であった場合又は前記第二の端末のユーザから通話切断の入力を受け付けた場合に前記接続を切断し、前記固有ＩＤ危険値と前記声紋危険値とが共に安全と判断する所定の安全値であった場合に前記接続を継続し、それ以外の場合に前記接続を継続すると共に通話の継続か切断の判定を行う危険判断第二フローを起動する処理部と、
を有し、
前記通話終了後、次回の危険判断精度を向上させるための危険判断第三フローを起動し、
前記接続の継続と切断の判断が、前記情報処理システムと、前記第二の端末のユーザとで異なっていた場合に、
前記第二の端末のユーザが前記情報処理システムの判断と異なる判断であった回数又は頻度が、閾値以上であるかに応じて、
前記第二の端末の固有ＩＤ危険値、声紋危険値の少なくとも一方を上げる、
ことを特徴とする情報処理システムを提供する。

第１の特徴に係る発明によれば、第一の端末からの接続要求に応じて第二の端末に接続して音声による通話を行う情報処理システムにおいて、前記第一の端末に紐づけられた固有ＩＤを取得する固有ＩＤ取得部と、取得した前記固有ＩＤを固有ＩＤデータベースと照合し、固有ＩＤ危険値を取得する固有ＩＤ照合部と、前記第一の端末が発信する音声から声紋情報を取得する声紋取得部と、取得した前記声紋情報を声紋データベースと照合し、声紋危険値を取得する声紋照合部と、前記固有ＩＤ危険値と前記声紋危険値とが共に危険と判断する所定の危険値であった場合又は前記第二の端末のユーザから通話切断の入力を受け付けた場合に前記接続を切断し、前記固有ＩＤ危険値と前記声紋危険値とが共に安全と判断する所定の安全値であった場合に前記接続を継続し、それ以外の場合に前記接続を継続すると共に通話の継続か切断の判定を行う危険判断第二フローを起動する処理部と、を有し、前記通話終了後、次回の危険判断精度を向上させるための危険判断第三フローを起動し、前記接続の継続と切断の判断が、前記情報処理システムと、前記第二の端末のユーザとで異なっていた場合に、前記第二の端末のユーザが前記情報処理システムの判断と異なる判断であった回数又は頻度が、閾値以上であるかに応じて、前記第二の端末の固有ＩＤ危険値、声紋危険値の少なくとも一方を上げる。

第１の特徴に係る発明は、情報処理システムのカテゴリであるが、情報処理方法、及びプログラムであっても同様の作用、効果を奏する。

第２の特徴に係る発明は、第１の特徴に係る発明である情報処理システムであって、
前記第二の端末のユーザが前記情報処理システムの判断と異なる判断であった回数又は頻度が、閾値以上であるとは、前記第二の端末のユーザが前記情報処理システムから通話を切断したにもかかわらず、前記第一の端末からの発信を危険でないと判断した回数又は頻度が、閾値以上であることを特徴とする情報処理システムを提供する。

第２の特徴に係る発明によれば、第１の特徴に係る発明である情報処理システムにおいて、「前記第二の端末のユーザが前記情報処理システムの判断と異なる判断であった回数又は頻度が、閾値以上である」とは、「前記第二の端末のユーザが前記情報処理システムから通話を切断したにもかかわらず、前記第一の端末からの発信を危険でないと判断した回数又は頻度が、閾値以上である」ことである。

第３の特徴に係る発明は、第１の特徴に係る発明である情報処理システムにおいて、前記第二の端末のユーザが前記情報処理システムの判断と異なる判断であった回数又は頻度が、閾値以上であるとは、前記第二の端末のユーザが前記情報処理システムから通話継続したにもかかわらず、前記第一の端末からの発信を危険であると判断した回数又は頻度が、閾値以上であることを特徴とする情報処理システムを提供する。

第３の特徴に係る発明によれば、第１の特徴に係る発明である情報処理システムにおいて、「前記第二の端末のユーザが前記情報処理システムの判断と異なる判断であった回数又は頻度が、閾値以上である」とは、「前記第二の端末のユーザが前記情報処理システムから通話継続したにもかかわらず、前記第一の端末からの発信を危険であると判断した回数又は頻度が、閾値以上である」ことである。

第４の特徴に係る発明は、第１の特徴に係る発明である情報処理システムであって、
前記固有ＩＤは電話番号であることを特徴とする情報処理システムを提供する。

第４の特徴に係る発明によれば、第１の特徴に係る発明である情報処理システムにおいて、前記固有ＩＤは電話番号である。

第５の特徴に係る発明は、第１の特徴に係る発明である情報処理システムであって、
前記固有ＩＤデータベースは、複数のユーザからの通報情報に基づいて算出した固有ＩＤ危険値よりなり、
前記声紋データベースは、複数のユーザからの通報情報に基づいて算出した声紋危険値よりなることを特徴とする情報処理システムを提供する。

第５の特徴に係る発明によれば、第１の特徴に係る発明である情報処理システムにおいて、前記固有ＩＤデータベースは、複数のユーザからの通報情報に基づいて算出した固有ＩＤ危険値よりなり、前記声紋データベースは、複数のユーザからの通報情報に基づいて算出した声紋危険値よりなる。

第６の特徴に係る発明は、第１の特徴に係る発明である情報処理システムであって、
前記危険判断第二フローは、前記第一の端末の通話履歴の照会、前記音声による通話内容分析、所定の働きかけに応じた前記第一の端末のユーザ応答、の少なくとも一つから通話の継続の判定を行うことを特徴とする情報処理システムを提供する。

第６の特徴に係る発明によれば、第１の特徴に係る発明である情報処理システムにおいて、前記危険判断第二フローは、前記第一の端末の通話履歴の照会、前記音声による通話内容分析、所定の働きかけに応じた前記第一の端末のユーザ応答、の少なくとも一つから通話の継続の判定を行う。

第７の特徴に係る発明は、第６の特徴に係る発明である情報処理システムであって、
前記通話履歴は、所定の期間内に多数の接続要求を発信している履歴を含むことを特徴とする情報処理システムを提供する。

第７の特徴に係る発明によれば、第６の特徴に係る発明である情報処理システムにおいて、前記通話履歴は、所定の期間内に多数の接続要求を発信している履歴を含む。

第８の特徴に係る発明は、第６の特徴に係る発明である情報処理システムであって、
前記通話内容分析は、通話の中にあらかじめ定められたキーワードが含まれているかどうかを判定する分析を含むことを特徴とする情報処理システムを提供する。

第８の特徴に係る発明によれば、第６の特徴に係る発明である情報処理システムにおいて、前記通話内容分析は、通話の中にあらかじめ定められたキーワードが含まれているかどうかを判定する分析を含む。

第９の特徴に係る発明は、第６の特徴に係る発明である情報処理システムであって、
前記働きかけは、あらかじめ定められた音声メッセージを少なくとも前記第一の端末に流すことを含み、
前記第一の端末のユーザ応答は、前記第一の端末による通話切断であることを特徴とする情報処理システムを提供する。

第９の特徴に係る発明によれば、第６の特徴に係る発明である情報処理システムにおいて、前記働きかけは、あらかじめ定められた音声メッセージを少なくとも前記第一の端末に流すことを含み、前記第一の端末のユーザ応答は、前記第一の端末による通話切断である。

第１０の特徴に係る発明は、第６の特徴に係る発明である情報処理システムであって、
前記危険判断第二フローが危険と判断する危険値となった場合、通話を切断することを特徴とする情報処理システムを提供する。

第１０の特徴に係る発明によれば、第６の特徴に係る発明である情報処理システムにおいて、前記危険判断第二フローが危険と判断する危険値となった場合、通話を切断する。

第１１の特徴に係る発明は、第１の特徴に係る発明である情報処理システムであって、
前記危険判断第二フローによって危険判断がなされた場合、
前記第一の端末の前記固有ＩＤと、前記第一の端末から取得した声紋情報の少なくとも一方に紐づけて、対応する前記固有ＩＤデータベースと前記声紋データベースの少なくとも一方に対し、通報情報を送信することを特徴とする情報処理システムを提供する。

第１１の特徴に係る発明によれば、第１の特徴に係る発明である情報処理システムにおいて、前記危険判断第二フローによって危険判断がなされた場合、前記第一の端末の前記固有ＩＤと、前記第一の端末から取得した声紋情報の少なくとも一方に紐づけて、対応する前記固有ＩＤデータベースと前記声紋データベースの少なくとも一方に対し、通報情報を送信する。

第１２の特徴に係る発明は、第１の特徴に係る発明である情報処理システムであって、
前記通話中に、前記第二の端末のユーザが危険と判断した場合に通報情報を前記第二の端末から受信する通報情報受信手段を有し、前記通報情報の受信に応じて通話を切断すると共に、前記第一の端末に紐づけられた前記固有ＩＤと、前記第一の端末から取得した声紋情報の少なくとも一方を、対応する前記固有ＩＤデータベースと前記声紋データベースの少なくとも一方に対し、前記通報情報を送信することを特徴とする情報処理システムを提供する。

第１２の特徴に係る発明によれば、第１の特徴に係る発明である情報処理システムにおいて、前記通話中に、前記第二の端末のユーザが危険と判断した場合に通報情報を前記第二の端末から受信する通報情報受信手段を有し、前記通報情報の受信に応じて通話を切断すると共に、前記第一の端末に紐づけられた前記固有ＩＤと、前記第一の端末から取得した声紋情報の少なくとも一方を、対応する前記固有ＩＤデータベースと前記声紋データベースの少なくとも一方に対し、前記通報情報を送信する。

第１３の特徴に係る発明は、
第一の端末からの接続要求に応じて第二の端末に接続して音声による通話を行うコンピュータが実行する情報処理方法であって、
前記第一の端末に紐づけられた固有ＩＤを取得するステップと、
取得した前記固有ＩＤを固有ＩＤデータベースと照合し、固有ＩＤ危険値を取得するステップと、
前記第一の端末が発信する音声から声紋情報を取得するステップと、
取得した前記声紋情報を声紋データベースと照合し、声紋危険値を取得するステップと、
前記固有ＩＤ危険値と前記声紋危険値とが共に危険と判断する所定の危険値であった場合又は前記第二の端末のユーザから通話切断の入力を受け付けた場合に前記接続を切断し、前記固有ＩＤ危険値と前記声紋危険値とが共に安全と判断する所定の安全値であった場合に前記接続を継続し、それ以外の場合に前記接続を継続すると共に通話の継続か切断の判定を行う危険判断第二フローを起動するステップと、
前記通話終了後、次回の危険判断精度を向上させるための危険判断第三フローを起動し、
前記接続の継続と切断の判断が、前記コンピュータと、前記第二の端末のユーザとで異なっていた場合に、
前記第二の端末のユーザが前記コンピュータの判断と異なる判断であった回数又は頻度が、閾値以上であるかに応じて、前記第二の端末の固有ＩＤ危険値、声紋危険値の少なくとも一方を上げるステップと、を有することを特徴とする情報処理方法を提供する。

第１４の特徴に係る発明は、
第一の端末からの接続要求に応じて第二の端末に接続して音声による通話を行うコンピュータに、
前記第一の端末に紐づけられた固有ＩＤを取得するステップ、
取得した前記固有ＩＤを固有ＩＤデータベースと照合し、固有ＩＤ危険値を取得するステップ、
前記第一の端末が発信する音声から声紋情報を取得するステップ、
取得した前記声紋情報を声紋データベースと照合し、声紋危険値を取得するステップ、
前記固有ＩＤ危険値と前記声紋危険値とが共に危険と判断する所定の危険値であった場合又は前記第二の端末のユーザから通話切断の入力を受け付けた場合に前記接続を切断し、前記固有ＩＤ危険値と前記声紋危険値とが共に安全と判断する所定の安全値であった場合に前記接続を継続し、それ以外の場合に前記接続を継続すると共に通話の継続か切断の判定を行う危険判断第二フローを起動するステップ、
前記通話終了後、次回の危険判断精度を向上させるための危険判断第三フローを起動し、
前記接続の継続と切断の判断が、前記コンピュータと、前記第二の端末のユーザとで異なっていた場合に、
前記第二の端末のユーザが前記コンピュータの判断と異なる判断であった回数又は頻度が、閾値以上であるかに応じて、前記第二の端末の固有ＩＤ危険値、声紋危険値の少なくとも一方を上げるステップ、を実行させるためのコンピュータ読み取り可能なプログラムを提供する。

本発明によれば、誤った判断と制御を可能な限り減らして特殊詐欺犯の判断を行い、特殊詐欺犯であると判断した場合は通話を自動的に遮断し、更に、特殊詐欺犯であるか否かの判断とその制御の精度を向上していくシステムを提供することが可能となる。

図１は、情報処理システム１０の概要を示す図である。 図２は、情報処理システム１０の構成図である。 図３は、情報処理システム１０が実行する偽陰性・偽陽性チェック処理の危険判断第一フローのフローチャートを示す図である。 図４は、情報処理システム１０が実行する偽陰性・偽陽性チェック処理の危険判断第二フローのフローチャートを示す図である。 図５は、情報処理システム１０が実行する偽陰性・偽陽性チェック処理の危険判断第三フローのフローチャートを示す図である。 図６は、通話中に第二の端末２のユーザ２に判断のために表示する画面の一例である。 図７は、第三の端末３のユーザ３に判断のために表示する画面の一例である。 図８は、自動切断後に第二の端末２のユーザ２に表示する画面の一例である。 図９は、固有ＩＤデータベース１３１のデータ構造の一例である。 図１０は、声紋データベース１３２のデータ構造の一例である。

以下、本発明を実施するための最良の形態について図を参照しながら説明する。なお、これはあくまでも例であって、本発明の技術的範囲はこれに限られるものではない。

［情報処理システム１０の概要］
本発明の好適な実施形態の概要について、図１に基づいて説明する。図１は、本発明の好適な実施形態である情報処理システム１０の概要を説明するための図である。情報処理システム１０は、ユーザ１が使用する第一の端末１からの接続要求に応じて本システムの防衛対象であるユーザ２が使用する第二の端末２に接続して音声による通話を行うコンピュータシステムである。第一の端末１はユーザ１の所持する端末、第二の端末２はユーザ２の所持する端末とし、情報処理システム１０は、これらの端末間の通話を実現する。情報処理システム１０は、例えば携帯電話や固定電話のキャリア側のシステムである場合、端末に紐づけられた固有のＩＤである電話番号に代表される固有ＩＤを取得可能である。以下では、電話キャリアのシステムを中心に説明するが、例えばＳｋｙｐｅやＺｏｏｍといったインターネットで通話を実現するシステムでも実施可能であり、そのような場合は情報処理システム１０はＶｏＩＰサーバなどのサーバであってよく、また固有ＩＤは音声通話アプリケーションのユーザＩＤやメールアドレスといった汎用的なＩＤを固有ＩＤとして使用する場合もある。また、情報処理システム１０は、端末間の音声信号（声紋）を取得し、その声紋から特徴情報を抽出可能とする。また、情報処理システム１０は、取得した固有ＩＤと声紋の情報を管理する固有ＩＤデータベース１３１と声紋データベース１３２とを備える。

図１では、特殊詐欺犯の可能性が有るユーザ１側が、接続要求してきた場合を想定するものとする。情報処理システム１０は、まず、第一の端末１からの接続要求の際に特定された第二の端末２の固有ＩＤに基づいて第二の端末２を特定し接続要求を行う（ステップＳ０１）。ここで、第一の端末１と第二の端末２は、固定電話、携帯電話、スマートフォン、タブレット端末等の携帯端末、スマートグラスやスマートウォッチといったウェアラブル端末、ノートパソコンやデスクトップパソコン等である。音声通話の種類は特に限定せず、固有ＩＤを利用する既存のシステムであってよい。

第一の端末１から第二の端末２への接続要求後、情報処理システム１０は、第一の端末１に紐づけられた固有ＩＤを取得する（ステップＳ０２）。この際、情報処理システム１０は第一の端末１の固有ＩＤを取得し、非通知設定がされていない場合には第二の端末２の表示画面に固有ＩＤを表示させるとともに第二の端末２の呼び出しを行わせるとともに、第二の端末２に対し、内蔵されたアドレス帳データとの照合結果を要求する。第二の端末２のアドレスデータに当該固有ＩＤが事前に登録されており安全な相手であるとの信号を受信した場合には、以下に述べる危険判断フローを起動しない。

情報処理システム１０は、第二の端末２のユーザ２による通話開始の指示に基づき、音声通話処理を開始する（ステップＳ０３）。

次に、情報処理システム１０は、第二の端末２から安全な相手であるとの信号を受信しない場合に、危険判断第一フローを開始する。まず、ステップＳ０２で取得した固有ＩＤを固有ＩＤデータベース１３１と照合し、固有ＩＤ危険値を取得する（ステップＳ０４）。固有ＩＤデータベース１３１には、固有ＩＤ毎の固有ＩＤ危険値が保持されている。固有ＩＤ危険値は、通報件数、通話履歴の怪しさレベル、通話内容の怪しさレベル、安全登録件数等から判定する数値データであり、例えば、１０段階の数値で危険を表し、危険値１が最も危険が低いこと、危険値１０が最も危険が高いことを表す。固有ＩＤ危険値の詳細については、後述する。情報処理システム１０は、第一の端末１の固有ＩＤとデータベース１３１のデータを照合し、その結果呼び出し処理が継続している間に、危険値が例えば１０の最も危険であるというデータであった場合や、当該固有ＩＤが別途ブラックリストに掲載されていることが判明した場合は、ユーザ１をユーザ２と接続するのにふさわしくない相手であると判定し、呼び出し処理を停止し、第二の端末２の表示画面に、「危険な相手であると判断し、通話を終了しました。」「相手の電話番号は090-****-****です。」といった旨の表示を行わせる。また、情報処理システム１０は、第一の端末１の固有ＩＤと固有ＩＤデータベース１３１のデータの照合結果が、危険値が例えば１のまったく危険がないというデータであった場合や、当該固有ＩＤが別途ホワイトリストに掲載されていることが判明した場合、ユーザ１をユーザ２にとって安全な相手であると判定し、呼び出し処理を継続し、以下に述べる処理をすべてスキップし、危険判断第一フローを終了する。ここでは、ステップＳ０３の通話開始後に、固有ＩＤ危険値を取得して照合するフローを記載したが、通話開始前に、固有ＩＤ危険値の取得と照合を行ってもよい。ホワイトリストとは、自治体や病院、消防署等の、あらかじめ安全と認定された番号や、携帯端末に登録された番号のリストであるものとする。ホワイトリストに掲載されている場合には、危険判断第一フローを終了することで、通話相手が特殊詐欺犯ではないのに、特殊詐欺犯と認識して通話の遮断をしてしまうという偽陽性による制御を、確実に防ぐことが可能となる。

第二の端末２が呼び出しに応じ、音声通話が開始されると、情報処理システム１０は、第一の端末１が発信する音声から声紋情報を取得する（ステップＳ０５）。ここで声紋とは、音声を周波数分析装置等によって分析して周波数等の特徴情報を抽出したもので、個人によって異なるものである。声紋情報の取得は、通話開始後であればいつ開始してもよく、前記ステップＳ０４の固有ＩＤ危険値の取得と照合の処理と並行して行ってもよい。

次に、情報処理システム１０は、ステップＳ０５で取得した声紋情報を声紋データベース１３２と照合し、声紋危険値を取得する（ステップＳ０６）。声紋データベース１３２には、声紋毎の声紋危険値を保持するものとする。声紋危険値は、通報件数、通話履歴の怪しさレベル、通話内容の怪しさレベル、安全登録件数等から判定する数値データであり、例えば、１０段階の数値で危険を表し、危険値１が最も危険が低いこと、危険値１０が最も危険が高いことを表す。声紋危険値の詳細については、後述する。

情報処理システムは、固有ＩＤ危険値と声紋危険値を基に、処理の分岐を行う（ステップＳ０７）。情報処理システム１０は、声紋危険値が例えば１０の最も危険であるという声紋データとユーザ１から取得した声紋データが完全一致した場合には、ユーザ１をユーザ２と通話を継続するのにふさわしくない相手であると判定し、ステップＳ０８へと進んで接続（音声通話）を解除する。また、ユーザ１の声紋危険値が例えば１のまったく危険がないというデータに完全一致した場合や事前に登録されているユーザ２の家族や友人のものと完全一致した場合には、ステップＳ０９へと進んで接続を継続し、危険判断第一フローを終了する。情報処理システム１０は、固有ＩＤ危険値と声紋危険値とが共にかなり危険と判断する例えば危険値８以上１０未満の所定の危険値範囲であった場合、すなわち固有ＩＤ単独や声紋単独では危険とは判定しきれないものの、二つのデータがともにかなり危険と判断する範囲にある場合には、ステップＳ０８へと進んで接続（音声通話）を解除する。同様に、固有ＩＤ危険値と声紋危険値とが共に安全と判断する例えば２以下の所定の安全値範囲であった場合には、ステップＳ０９へと進んで接続を継続する。そして、それ以外の場合、すなわち二つの危険値を用いても危険とも安全とも判定できない場合には、ステップＳ１０へと進んで接続を継続したまま危険判断第二フローを起動する。また、例えば、固有ＩＤ危険値と声紋危険値をそれぞれ１０段階の数値で表し、所定の危険値をそれぞれ８以上、所定の安全値をそれぞれ２以下としたとする。「固有ＩＤ危険値９、声紋危険値８」の場合、共に所定の危険値以上であるため、ステップＳ０７の判定結果、ステップＳ０８へと進んで接続を解除する。「固有ＩＤ危険値１、声紋危険値２」の場合、共に所定の安全値以下であるため、ステップＳ０７の判定結果、ステップＳ０９へと進んで接続を継続する。「固有ＩＤ危険値３、声紋危険値６」の場合、それ以外であるため、ステップＳ０７の判定結果、ステップＳ１０へと進んで接続を継続したまま、危険判断第二フローを起動する。図１では、ステップＳ０７の判定を、「共に危険値（ステップＳ０８へ）、共に安全値（ステップＳ０９へ）、それ以外（ステップＳ１０へ）」としたが、例えば「片方が危険値（ステップＳ０８へ）、共に安全値、又は、どちらかが安全値でもう片方が危険値でない（ステップＳ０９へ）、それ以外（ステップＳ１０へ）」等と判定の条件を変更することも可能である。

ステップＳ１０での危険判断第二フロー起動後、最後に情報処理システム１０は危険判断第二フローを実行する（ステップＳ１１）。危険判断第二フローは、第一の端末の通話履歴の照会、音声による通話内容分析、所定の働きかけに応じた第一の端末のユーザ応答、の少なくとも一つから通話の継続の判定を行うこととする。危険判断第二フローの詳細については、後述する。

上記のように、前述した課題に対して、情報処理システム１０であれば、固有ＩＤ危険値と声紋危険値という二つの指標から、接続を解除（音声通話を切断）するか、接続を継続（音声通話を継続）するかを判断し、更に、判断が確実でない場合には、危険判断第二フローにおいて、第一の端末の通話履歴の照会、音声による通話内容分析、所定の働きかけに応じた第一の端末のユーザ応答等の情報を用いて通話の継続の判定を行うことで、偽陽性、偽陰性による誤った判断と制御を可能な限り減らすことのできるシステムを提供することが可能となる。

以上が、情報処理システム１０が実行する処理の概要である。

［情報処理システム１０のシステム構成］
図２に基づいて、本発明の好適な実施形態である情報処理システム１０のシステム構成について説明する。図２は、本発明の好適な実施形態である情報処理システム１０のシステム構成を示す図である。図２において、情報処理システム１０は、通信部１１０、制御部１２０、記憶部１３０、入力部１４０、出力部１５０とから構成されるコンピュータシステムである。情報処理システム１０は、端末装置やサーバやクラウドコンピュータ等で実行されてよい。１台の装置で実現されてもよいし、クラウドコンピュータのように、複数の仮想的な装置で実現されてもよい。

情報処理システム１０は、第一の端末１からの接続要求に応じて第二の端末２に接続して音声による通話を行う。第一の端末１はユーザ１の所持する端末、第二の端末２はユーザ２の所持する端末とし、情報処理システム１０は、これらの端末間の通話を実現する。情報処理システム１０は、携帯電話や固定電話のキャリア側のシステムであることを想定し、端末に紐づけられた固有のＩＤである固有ＩＤを取得可能とする。また、情報処理システム１０は、端末間の音声信号（声紋）を取得し、その声紋から特徴情報を抽出可能とする。

情報処理システム１０は、通信部１１０として、他の端末と通信可能にするためのデバイス、例えば、Ｗｉ―Ｆｉ（Ｗｉｒｅｌｅｓｓ―Ｆｉｄｅｌｉｔｙ）対応デバイス等を備える。有線方式のデバイスであってもよい。通信部１１０は、制御部１２０、記憶部１３０と協働して、固有ＩＤ取得モジュール１１１、声紋取得モジュール１１２を実現する。

情報処理システム１０は、制御部１２０として、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）、ＧＰＵ（Ｇｒａｐｈｉｃｓ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）等を備える。制御部１２０は、記憶部１３０と協働して、固有ＩＤ照合モジュール１２１、声紋照合モジュール１２２を実現する。また、制御部１２０は、通信部１１０、記憶部１３０と協働して、処理モジュール１２３を実現する。

情報処理システム１０は、記憶部１３０として、ハードディスクや半導体メモリ、記録媒体、メモリカード等によるデータのストレージを備え、固有ＩＤデータベース１３１と声紋データベース１３２を備える。データの保存先は、クラウドサービス等であってもよい。固有ＩＤデータベース１３１は、固有ＩＤそれぞれについて、「固有ＩＤ危険値」、「通報件数」、「通話履歴怪しさレベル」、「通話内容怪しさレベル」、「安全登録件数」、等の情報を保持する。声紋データベース１３２は、声紋それぞれについて、「声紋危険値」、「通報件数」、「通話履歴怪しさレベル」、「通話内容怪しさレベル」、「安全登録件数」、等の情報を保持する。

情報処理システム１０は、入力部１４０として、情報処理システム１０の管理者が情報処理システム１０を利用するために必要な機能を備えるものとする。入力を実現するための例として、タッチパネル機能を実現する液晶ディスプレイ、キーボード、マウス、ペンタブレット、装置上のハードウェアボタン、音声認識を行うためのマイク等を備えることが可能である。入力方法により、本発明は特に機能を限定されるものではない。

情報処理システム１０は、出力部１５０として、情報処理システム１０の管理者が情報処理システム１０を利用するために必要な機能を備えるものとする。出力を実現するための例として、液晶ディスプレイ、ＰＣのディスプレイ、プロジェクターへの投影等の表示と音声出力等の形態が考えられる。出力方法により、本発明は特に機能を限定されるものではない。

［偽陰性・偽陽性チェック処理］
図３、図４、図５に基づいて、情報処理システム１０が実行する偽陰性・偽陽性チェック処理について説明する。図３は、情報処理システム１０が実行する偽陰性・偽陽性チェック処理の危険判断第一フローのフローチャートを示す図である。図４は、情報処理システム１０が実行する偽陰性・偽陽性チェック処理の危険判断第二フローのフローチャートを示す図である。図５は、情報処理システム１０が実行する偽陰性・偽陽性チェック処理の危険判断第三フローのフローチャートを示す図である。上述した各モジュールが実行する処理について、本処理に併せて説明する。

まず、図３を用いて危険判断第一フローについて説明する。ここでは、特殊詐欺犯の可能性が有るユーザ１側が、コールしてきた場合を想定するものとする。情報処理システム１０は、まず、第一の端末１からの接続要求の際に特定された第二の端末２の固有ＩＤに基づいて第二の端末２を特定し接続要求を行う（ステップＳ３０１）。ここで、第一の端末１と第二の端末２は、固定電話、携帯電話、スマートフォン、タブレット端末等の携帯端末、スマートグラスやスマートウォッチといったウェアラブル端末、ノートパソコンやデスクトップパソコン等である。音声通話の種類は特に限定せず、固有ＩＤを利用する既存のシステムであってよい。

第一の端末１から第二の端末２への接続要求後、情報処理システム１０は、第一の端末１に紐づけられた固有ＩＤを取得する（ステップＳ３０２）。この際、情報処理システム１０は第一の端末１の固有ＩＤを取得し、非通知設定がされていない場合には第二の端末２の表示画面に固有ＩＤを表示させるとともに第二の端末２の呼び出しを行わせるとともに、第二の端末２に対し、内蔵されたアドレス帳データとの照合結果を要求する。第二の端末２のアドレスデータに当該固有ＩＤが事前に登録されており安全な相手であるとの信号を受信した場合には、以下に述べる危険判断フローを起動しない。

情報処理システム１０は、第二の端末２のユーザ２による通話開始の指示に基づき、音声通話処理を開始する（ステップＳ３０３）。

次に、情報処理システム１０は、第二の端末２から安全な相手であるとの信号を受信しない場合に、危険判断第一フローを開始する。まず、ステップＳ３０２で取得した固有ＩＤを固有ＩＤデータベース１３１と照合し、固有ＩＤ危険値を取得する（ステップＳ３０４）。固有ＩＤデータベース１３１には、固有ＩＤ毎の固有ＩＤ危険値が保持されている。固有ＩＤ危険値は、通報件数、通話履歴の怪しさレベル、通話内容の怪しさレベル、安全登録件数等から判定する数値データであり、例えば、１０段階の数値で危険を表し、危険値１が最も危険が低いこと、危険値１０が最も危険が高いことを表す。固有ＩＤ危険値の詳細については、後述する。情報処理システム１０は、第一の端末１の固有ＩＤとデータベース１３１のデータを照合し、その結果呼び出し処理が継続している間に、危険値が例えば１０の最も危険であるというデータであった場合や、当該固有ＩＤが別途ブラックリストに掲載されていることが判明した場合は、ユーザ１をユーザ２と接続するのにふさわしくない相手であると判定し、呼び出し処理を停止し、第二の端末２の表示画面に、「危険な相手であると判断し、通話を終了しました。」「相手の電話番号は090-****-****です。」といった旨の表示を行わせる。また、情報処理システム１０は、第一の端末１の固有ＩＤと固有ＩＤデータベース１３１のデータの照合結果が、危険値が例えば１のまったく危険がないというデータであった場合や、当該固有ＩＤが別途ホワイトリストに掲載されていることが判明した場合、ユーザ１をユーザ２にとって安全な相手であると判定し、呼び出し処理を継続し、以下に述べる処理をすべてスキップし、危険判断第一フローを終了する。

ステップＳ３０４で、固有ＩＤ危険値が安全である場合には、固有ＩＤ照合モジュール１２１は、ステップＳ３０５へと進んで固有ＩＤ安全フラグを付与する。固有ＩＤ危険値が安全である場合とは、例えば、所定の安全値を満たす場合や、取得した固有ＩＤがシステムが設定したホワイトリストに登録されている場合や、取得した固有ＩＤが第二の端末２の電話帳に登録されている場合等である。

ステップＳ３０４で、固有ＩＤ危険値が危険である場合には、ステップＳ３０６へと進む。固有ＩＤ危険値が危険である場合とは、例えば、所定の安全値を満たさない場合や、固有ＩＤの通報件数が０でない場合等である。固有ＩＤ照合モジュール１２１は、ステップＳ３０６では、更に閾値の判定を行う。所定の危険値以上である場合や所定の通報件数異常である場合には、固有ＩＤ照合モジュール１２１は、ステップＳ３０７へと進んで固有ＩＤ危険フラグを付与する。所定の危険値未満である場合や所定の通報件数未満である場合には、固有ＩＤ照合モジュール１２１は、ステップＳ３０８へと進んで固有ＩＤ注意フラグを付与する。

固有ＩＤの照合は、音声通話が開始される前から実行が可能であり、独立したデータベースとの照合のみであるため、システムの負荷が比較的軽い。したがって、固有ＩＤの照合だけで危険・安全が判定できれば、システムの負荷を大きく減少させることができる。特にユーザ端末２のアドレスデータの照合は、従来から呼び出しの際に通話相手を画面表示するために行っているので、その一致の有無のフィードバックを得るだけであるので、システムの負荷はほとんどなく、また、通常の通話の大半はこのケースに該当するため、真に必要な場合にだけ危険判断フローを起動すればよいので、システムの負荷を大きく減少させることができる。

ステップＳ３０４で、固有ＩＤが固有ＩＤデータベース１３１に存在しない場合には、初めて通話を行う固有ＩＤであると考えられるため、そのままステップＳ３０９へと進む。

第二の端末２が呼び出しに応じ、音声通話が開始されると、情報処理システム１０の声紋取得モジュール１１２は、第一の端末１が発信する音声から声紋情報を取得する（ステップＳ３０９）。ここで声紋とは、音声を周波数分析装置等によって分析して周波数等の特徴情報を抽出したもので、個人によって異なるものである。

次に、情報処理システム１０の声紋照合モジュール１２２は、ステップＳ３０９で取得した声紋情報を声紋データベース１３２と照合し、声紋危険値を取得して判定を行う（ステップＳ３１０）。声紋データベース１３２は２段構造となっており、前段はユーザ２が事前に登録している家族や友人の声紋が登録されている。後段は声紋データベース１３２の本体であり、本システムを利用する多くのユーザやシステム運営主体が別途登録した声紋のデータベースである。声紋データベース１３２の後段には、声紋毎の声紋危険値を保持するものとする。声紋危険値は、通報件数、通話履歴の怪しさレベル、通話内容の怪しさレベル、安全登録件数等から判定するものとする。例えば、１０段階の数値で危険を表し、危険値１が最も危険が低いこと、危険値１０が最も危険が高いことを表すものとする。声紋危険値の詳細については、後述する。

ステップＳ３１０で、通話中のユーザ１の声紋をまず声紋データベース前段と照合し、事前登録したユーザ２の家族や友人の声紋と完全一致した場合には、安全と判定し、通話を継続する。声紋データベース前段で完全一致しなかった場合には、続けて声紋データベース後段と照合する。その結果、声紋危険値が安全である場合には、声紋照合モジュール１２２は、ステップＳ３１１へと進んで声紋安全フラグを付与する。声紋危険値が安全である場合とは、例えば、所定の安全値を満たす場合や、取得した声紋と情報処理システム１０が安全として登録した声紋とが確実に適合した場合等である。声紋情報の照合は、通話における会話の内容には依存しないので、通話開始直後に直ちに開始できる。しかし、声紋の特徴点データは固有ＩＤに比較すると大きく、固有ＩＤの照合に比べるとシステム負荷が大きい。声紋データベース前段は、ユーザ２が事前に登録している少人数の声紋データから構成されているので、照合に要するシステムの負荷は大きくない。また、通常の通話の大半はこのケースに該当するため、真に必要な場合にだけ、大きな声紋データベース後段との照合を行えばよいので、システムの負荷を大きく減少させることができる。なお、声紋データベース前段は容量も大きくなく、ユーザ端末２に保存することも可能であるので、情報処理システム１０がユーザ１の声紋データを採取し、その特徴点だけをユーザ端末２に送信し、ユーザ端末のＣＰＵを活用して照合してもよい。また、声紋情報の採取とその特徴点抽出もユーザ端末２で行わせてもよい。この場合は声紋情報の採取、特徴点抽出、声紋データベース前段との照合までをユーザ端末２で担うことが可能であり、声紋データベース前段と一致しなかった場合だけ、ユーザ１の声紋データを送信すればよいので、システムの負荷を大きく削減することができる。

ステップＳ３１０で、声紋危険値が危険である場合には、ステップＳ３１２へと進む。声紋危険値が危険である場合とは、例えば、所定の安全値を満たさない場合や、声紋の通報件数が０でない場合や、声紋の適合度合いが確実でない場合等である。声紋照合モジュール１２２は、更に閾値の判定を行う（ステップＳ３１２）。所定の危険値以上である場合や所定の通報件数異常である場合には、声紋照合モジュール１２２は、ステップＳ３１３へと進んで声紋危険フラグを付与する。所定の危険値未満である場合や所定の通報件数未満である場合には、声紋照合モジュール１２２は、ステップＳ３１４へと進んで声紋注意フラグを付与する。

ステップＳ３１０で、声紋が声紋ＩＤ１３２データベースに存在しない場合には、初めて通話を行う声紋であると考えられるため、そのままステップＳ３１５へと進む。

次に、情報処理システム１０の処理モジュール１２３は、固有ＩＤと声紋による複合危険判断を行う（ステップＳ３１５）。固有ＩＤ危険フラグと声紋危険フラグとが共に付与されている場合には、ステップＳ３１６へと進んで接続（音声通話）を解除してシステム切断フラグを付与し、固有ＩＤ安全フラグと声紋安全フラグとが共に付与されている場合には、ステップＳ３１７へと進み、それ以外の場合には、ステップＳ３２１へと進んで接続を継続したまま危険判断第二フローを起動する（ステップＳ３２２）。図３では、ステップＳ３１５の危険判断を、「固有ＩＤ危険フラグと声紋危険フラグとが共に付与（ステップＳ３１６へ）、固有ＩＤ安全フラグと声紋安全フラグとが共に付与（ステップＳ３１７へ）、それ以外（ステップＳ３２１へ）」としたが、例えば「固有ＩＤと声紋でどちらかが危険フラグでもう片方が注意フラグ（ステップＳ３１６へ）、固有ＩＤ安全フラグと声紋安全フラグとが共に付与、又は、両方フラグなし、又は、固有ＩＤと声紋でどちらかが注意フラグでもう片方がフラグなし、又は、固有ＩＤ注意フラグと声紋注意フラグとが共に付与（ステップＳ３１７へ）、それ以外（ステップＳ３２１へ）」等と判定の条件を変更することも可能である。これらの判定の条件を変更することにより、危険判断の精度を向上させることもできる。

ステップＳ３１５で、固有ＩＤ危険フラグと声紋危険フラグとが共に付与されている場合には、処理モジュール１２３は、接続（音声通話）を解除してシステム切断フラグを付与する（ステップＳ３１６）。

ステップＳ３１５で、固有ＩＤ安全フラグと声紋安全フラグとが共に付与されている場合には、処理モジュール１２３は、通話を継続するかどうか、第二の端末２のユーザ２の判断を仰ぐ（ステップＳ３１７）。

図６は、通話中に第二の端末２のユーザ２に判断のために表示する画面の一例である。例えば、固有ＩＤ安全フラグが付与されていても、その第一の端末１の固有ＩＤ（電話番号）に対して「怪しい」という通報があった場合には、第二の端末２のユーザ２に対して注意喚起の意味でも、通話を継続するかどうかの確認を行うほうが親切である。その場合、まず「その相手は大丈夫ですか？表示画面をご覧ください。」といった音声ガイドやアラート音をユーザ２だけに鳴らし、さらに図６に例示したような「通話中の番号に対して１か月で２件の通報がありました。通話の様子はいかがですか？」というメッセージ６０１をユーザ端末２の画面に表示して、ユーザ２に「怪しい（通話切断）」ボタン６０２か、「普通（通話継続）」ボタン６０３の選択を促すようにするとよい。ここで、「怪しい（通話切断）」ボタン６０２を選択した場合には、処理モジュール１２３はステップＳ３１８に進んで接続（音声通話）を解除してユーザ切断フラグを付与し、「普通（通話継続）」ボタン６０３を選択した場合には、処理モジュール１２３はステップＳ３１９に進んで接続を継続する。接続を継続した場合には、その後、定期的に通話が終了したかどうかの確認を行う（ステップＳ３２０）。ここで、「怪しい（通話切断）」ボタン６０２を選択した場合には、固有ＩＤデータベース１３１と声紋データベース１３２の第一の端末１の固有ＩＤと声紋ＩＤの対応する情報について、少なくとも一方の通報件数をインクリメントする。両方の通報件数をインクリメントしてもよい。

ステップＳ３２１での危険判断第二フロー起動後、処理モジュール１２３は危険判断第二フローを実行する（ステップＳ３２２）。危険判断第二フローは、第一の端末の通話履歴の照会、音声による通話内容分析、所定の働きかけに応じた第一の端末のユーザ応答、の少なくとも一つから通話の継続の判定を行う。危険判断第二フローの詳細については、後述する。その後、定期的に通話が終了したかどうかの確認を行う（ステップＳ３２３）。

接続の切断や通話終了等で、第一の端末１と第二の端末２の接続が解除された後、処理モジュール１２３は危険判断第三フローを実行する（ステップＳ３２４）。危険判断第三フローの詳細については、後述する

次に、図４を用いて危険判断第二フローについて説明する。危険判断第二フローは図３のステップＳ３２２に相当する。危険判断第二フローに入るのは、固有ＩＤ危険値と声紋危険値のみでは陰性（特殊詐欺犯ではないと判断して接続を継続）・陽性（特殊詐欺犯と認識して接続を解除）の判断が曖昧である場合である。危険判断第二フローでは、まず、処理モジュール１２３は、第一の端末１の通話履歴を参照し（ステップＳ４０１）、通話履歴のパターン認識を行う（ステップＳ４０２）。

処理モジュール１２３は、ステップＳ４０２の通話履歴パターン認識の結果に基づき、陽性・陰性の判定を行う（ステップＳ４０３）。陽性の判定は、所定の期間内に接続要求件数の上限閾値以上の回数接続要求を行うか、又は、一定時間を下回る通話の件数が閾値の上限を超えるかである。陰性の判定は、所定の期間内に接続要求件数の下限閾値以下の回数接続要求を行うことである。特殊詐欺犯は、多数のターゲット候補に対し片端から電話をかけ、その多くは相手に見破られて未遂に終わるため、短時間の通話が多くなる傾向がある。特に、本システムの保護対象であるユーザ２は典型的には高齢者であり、特殊詐欺犯のターゲット候補となりやすい。したがって、本システムにおいて保護対象者の通話履歴を照合すると、同じ電話番号から複数の保護対象者に通話が試みられているといった事象が発見されることになる

ステップＳ４０３の判定が陽性である場合は、処理モジュール１２３は、通話履歴に基づき第一の端末１のユーザ１は特殊詐欺犯と認識したため、ステップＳ４０４へと進み、接続を解除してシステム切断フラグを付与する。

ステップＳ４０３の判定が陰性、又は、陽性と陰性以外である場合は、処理モジュール１２３は、通話履歴に基づき第一の端末１のユーザ１は特殊詐欺犯ではない、又は、まだ判断できないと認識したため、ステップＳ４０５へと進む。

次に、処理モジュール１２３は、第一の端末１と第二の端末２の通話内容のパターン認識を行う（ステップＳ４０５）。具体的には、通話内容をテキスト化して、通話内容の単語や文章を認識してパターン化する。

処理モジュール１２３は、ステップＳ４０５の通話内容パターン認識の結果に基づき、陽性・陰性の判定を行う（ステップＳ４０６）。陽性の判定は、あらかじめ定められたキーワード（特殊詐欺と関連する単語や文章）を上限閾値以上認識することである。陰性の判定は、あらかじめ定められたキーワード（特殊詐欺と関連する単語や文章）を下限閾値以下認識することである。キーワードはシステム運営で典型的なキーワードを事前に登録しておく。特殊詐欺の手法は日々新しいものが生み出されているので、必ずしも最新のキーワードが網羅されているとは限らないが、例えば２０２０年前半であれば「コロナ給付金」といったような流行する手法があり、ステップＳ４０５が全国で発動し、特定のキーワードが頻繁に検出されるようになるといった特徴的な動向の変化点が観察されることになる。このような検出キーワードの急激な変化を測定することで、システム運営に対し、新しいキーワード登録を促すことが可能である。

ステップＳ４０６の判定が陽性である場合は、処理モジュール１２３は、通話内容に基づき第一の端末１のユーザ１は特殊詐欺犯と認識したため、ステップＳ４０４へと進み、接続を解除してシステム切断フラグを付与する。

ステップＳ４０３の判定が陰性である場合は、処理モジュール１２３は、通話内容に基づき第一の端末１のユーザ１は特殊詐欺犯ではないと認識したため、ステップＳ４０９へと進み、接続を継続したままシステム継続フラグを付与する。

ステップＳ４０３の判定が陽性でも陰性でもない場合は、処理モジュール１２３は、ステップＳ４０７へと進み、通話履歴と通話内容に矛盾がないかの判定を行う。具体的には、ユーザ２の息子と名乗るユーザ１が、事故にあったと称しながら、短時間に多数の相手に電話をかけている、といった事象が例示される。

ステップＳ４０６の判定で矛盾がある場合は、処理モジュール１２３は、第一の端末１のユーザ１は特殊詐欺犯と認識したため、ステップＳ４０８へと進み、接続を解除してシステム切断フラグを付与する。

ステップＳ４０７の判定で矛盾がない場合は、処理モジュール１２３は、ステップＳ４０９へと進み、接続を継続したままシステム継続フラグを付与する。

次に、処理モジュール１２３は、第一の端末１に対して所定の働きかけを行う（ステップＳ４１０）。所定の働きかけとは、ここでは、あらかじめ定められた音声メッセージを流すことである。具体的には、「この通話は録音されています。犯罪の捜査等において音声情報を利用することがございますので、あらかじめご了承ください。」等の警戒を示す音声メッセージを、第一の端末１に対して送信する。

ステップＳ４１０の所定の働きかけの後、一定時間内に第一の端末側から通話が切断されたかどうかを判断する（ステップＳ４１１）。一定時間内に切断された場合には、第一の端末１のユーザ１は特殊詐欺犯であるため、慌てて通話を終了させたとみなし、ステップＳ４０４へと進み、システム切断フラグを付与する。一定時間内に第一の端末側から通話が切断されなかった場合、処理モジュール１２３は、第二の端末２のユーザ２に対して、第三の端末３が登録されているかどうかを確認する（ステップＳ４１２）。第三の端末３は、例えば、第二の端末２のユーザ２の家族等であり、特殊詐欺等が疑われる怪しい電話があった場合に、第二の端末２のユーザ２に代わって確認を行う端末である。第三の端末３の登録があった場合には、ステップＳ４１３へと進んで、通話を継続するかどうか第三の端末３のユーザ３の判断を仰ぎ、登録がなかった場合には、ステップＳ４１４へと進んで、通話を継続するかどうか第二の端末２のユーザ２の判断を仰ぐ。

図７は、第三の端末３のユーザ３に判断のために表示する画面の一例である。ステップＳ４１３に該当する。図７では、「「実家」宛に怪しい電話「090-****-****」から電話です。［ＯＯ分前から通話中］どうしますか？」というメッセージ７０１を表示して、対応方法をボタン７０２からボタン７０６で選択させる例を示している。なお、第三の端末３のアドレスデータに第一の端末１の固有ＩＤ（電話番号）が登録されている場合は、その内容も表示してもよい。ここで、「「実家」の通話をすぐに切断」ボタン７０２を選択した場合には、処理モジュール１２３はステップＳ４１５に進んで接続（音声通話）を解除してユーザ切断フラグを付与し、「通話先は安全」ボタン７０６を選択した場合には、処理モジュール１２３はステップＳ４１６へと進む。ここで、「「実家」の通話をすぐに切断」ボタン７０２を選択した場合には、固有ＩＤデータベース１３１と声紋データベース１３２の第一の端末１の固有ＩＤと声紋ＩＤの対応する情報について、少なくとも一方の通報件数をインクリメントする。両方の通報件数をインクリメントしてもよい。また、それ以外の「通話内容を音声で確認」ボタン７０３、「通話内容を文字で確認」ボタン７０４、「「090-****-****」を検索」ボタン７０５を選択した場合には、それぞれのボタンに対応する動作を行った後で、通話を切断する（怪しい）か、通話を継続する（怪しくない）か、を第三の端末３に判断させる。第三の端末３で通話を切断することを選択した場合には、第二の端末２の通話を終了させ、固有ＩＤデータベース１３１と声紋データベース１３２の第一の端末１の固有ＩＤと声紋ＩＤの対応する情報について、少なくとも一方の通報件数をインクリメントする。両方の通報件数をインクリメントしてもよい。

図６は、通話中に第二の端末２のユーザ２に判断のために表示する画面の一例である。ステップＳ４１４に該当する。図６では、「通話中の番号に対して１か月で２件の通報がありました。通話の様子はいかがですか？」というメッセージ６０１を表示して、「怪しい（通話切断）」ボタン６０２か、「普通（通話継続）」ボタン６０３を選択させる例を示している。ここで、「怪しい（通話切断）」ボタン６０２を選択した場合には、処理モジュール１２３はステップＳ４１５に進んで接続（音声通話）を解除してユーザ切断フラグを付与し、「普通（通話継続）」ボタン６０３を選択した場合には、処理モジュール１２３はステップＳ４１６に進んで接続を継続する。ここで、「怪しい（通話切断）」ボタン６０２を選択した場合には、固有ＩＤデータベース１３１と声紋データベース１３２の第一の端末１の固有ＩＤと声紋ＩＤの対応する情報について、少なくとも一方の通報件数をインクリメントする。両方の通報件数をインクリメントしてもよい。

以上が、危険判断第二フローである。

次に、図５を用いて危険判断第三フローについて説明する。危険判断第三フローは図３のステップＳ３２４に相当する。危険判断第三フローは、固有ＩＤデータベース１３１と声紋データベース１３２を更新して、次回の危険判断時に精度を向上させるためのものである。まず、処理モジュール１２３は、システム切断フラグがあるかどうかの判定を行う（ステップＳ５０１）。システム切断フラグがある場合、ステップＳ５０２へと進み、システム切断フラグがない場合、ステップＳ５０６へと進む。

システム切断フラグがあった場合、処理モジュール１２３は、通話を継続するかどうか、第二の端末２のユーザ２の判断を仰ぐ（ステップＳ５０２）。

図８は、自動切断後に第二の端末２のユーザ２に表示する画面の一例である。ステップＳ５０２に該当する。図８では、「通話の声の主に対して１か月で１０件の通報があったため自動切断しました。通話の様子はいかがでしたか？」というメッセージ８０１を表示して、「怪しかった」ボタン８０２、「普通だった」ボタン８０３、「評価せずに終了」ボタン８０４を選択させる例を示している。ここで、「怪しかった」ボタン８０２、又は、「評価せずに終了」ボタン８０４を選択した場合には、処理モジュール１２３はステップＳ５０３に進み、「普通だった」ボタン８０３を選択した場合には、処理モジュール１２３はステップＳ５０４に進む。

第二の端末のユーザ２の判断が、「怪しかった」ボタン８０２すなわち「怪しい」、又は、「評価せずに終了」ボタン８０４すなわち「無回答」であった場合、固有ＩＤデータベース１３１及び声紋データベース１３２の第一の端末１の固有ＩＤ危険値、声紋危険値、通話履歴怪しさレベル、通話内容怪しさレベル、等を上げる（ステップＳ５０３）。これは、第一の端末１のユーザ１が特殊詐欺犯である可能性が高くなったためである。

第二の端末のユーザ２の判断が、「普通だった」すなわち「怪しくない」という判断であった場合、第二の端末２のユーザ２が「怪しくない」という評価をどの程度頻繁に行っているのか確認する（ステップＳ５０４）。評価の頻度が閾値以上であった場合にはステップＳ５０５へと進む。閾値未満であった場合にはステップＳ５０３へと進み、固有ＩＤデータベース１３１及び声紋データベース１３２の第一の端末１の固有ＩＤ危険値、声紋危険値、通話履歴怪しさレベル、通話内容怪しさレベル、等を上げる。

ステップＳ５０４の「怪しくない」という評価の頻度が閾値以上である、つまり、あまりにも頻繁であった場合には、第２の端末２のユーザ２の評価があてにならない、又は、第２の端末２のユーザ２自身が特殊詐欺犯であるという懸念がある。その場合、固有ＩＤデータベース１３１及び声紋データベース１３２の第二の端末２の固有ＩＤ危険値、声紋危険値、通話履歴怪しさレベル、通話内容怪しさレベル、等を上げる（ステップＳ５０５）。その後、ステップＳ５０３へと進み、固有ＩＤデータベース１３１及び声紋データベース１３２の第一の端末１の固有ＩＤ危険値、声紋危険値、通話履歴怪しさレベル、通話内容怪しさレベル、等を上げる。

システム切断フラグがなかった場合、処理モジュール１２３は、ユーザ切断フラグがあるかどうかの判定を行う（ステップＳ５０６）。ユーザ切断フラグがある場合、ステップＳ５０７へと進み、ユーザ切断フラグがない場合、ステップＳ５１０へと進む。

ユーザ切断フラグがあった場合、第二の端末２のユーザ２が「怪しい」という評価をどの程度頻繁に行っているのか確認する（ステップＳ５０７）。評価の頻度が閾値以上であった場合にはステップＳ５０８へと進む。閾値未満であった場合にはステップＳ５０３へと進み、固有ＩＤデータベース１３１及び声紋データベース１３２の第一の端末１の固有ＩＤ危険値、声紋危険値、通話履歴怪しさレベル、通話内容怪しさレベル、等を上げる。

ステップＳ５０７の「怪しい」という評価の頻度が閾値以上である、つまり、あまりにも頻繁であった場合には、第２の端末２のユーザ２の評価があてにならないという懸念がある。その場合、これまでの、第二の端末２のユーザ２の評価による危険値アップと怪しさレベルアップのリセットを行い（ステップＳ５０８）、更に、固有ＩＤデータベース１３１及び声紋データベース１３２の第二の端末２の固有ＩＤ危険値、声紋危険値、通話履歴怪しさレベル、通話内容怪しさレベル、等を上げる（ステップＳ５０９）。

ユーザ切断フラグがなかった場合、処理モジュール１２３は、システム継続フラグがあるかどうかの判定を行う（ステップＳ５１０）。システム継続フラグがある場合、ステップＳ５１１へと進み、システムフラグがない場合、危険判断第三フローを終了する。

システム継続フラグがあった場合、第一の端末１のユーザ１は、特殊詐欺犯ではない可能性が高いため、固有ＩＤデータベース１３１及び声紋データベース１３２の第一の端末１の固有ＩＤ危険値、声紋危険値、通話履歴怪しさレベル、通話内容怪しさレベル、等を下げる（ステップＳ５１１）。

以上が、危険判断第三フローである。

上記のように、前述した課題に対して、情報処理システム１０であれば、固有ＩＤ危険値と声紋危険値という二つの指標から、接続を解除（音声通話を切断）するか、接続を継続（音声通話を継続）するかを判断し、更に、判断が確実でない場合には、危険判断第二フローにより、第一の端末の通話履歴の照会、音声による通話内容分析、所定の働きかけに応じた第一の端末のユーザ応答等の情報を用いて通話の継続の判定を行うことで、偽陽性、偽陰性による誤った判断と制御を可能な限り減らすことができる。また、危険判断第三フローにより、固有ＩＤデータベース１３１と声紋データベース１３２を更新することで、継続的に危険判断時に精度を向上していくシステムを提供することが可能となる。

以上が、情報処理システム１０が実行する偽陰性・偽陽性チェック処理である。

［固有ＩＤデータベース］
図９は、固有ＩＤデータベース１３１のデータ構造の一例である。端末に紐づけられた固有のＩＤである固有ＩＤそれぞれについて、「固有ＩＤ危険値」、「通報件数」、「通話履歴怪しさレベル」、「通話内容怪しさレベル」、「安全登録件数」、等の情報を保持する。「固有ＩＤ」とは、端末に紐づけられた固有のＩＤであり、固定電話の番号、携帯電話の番号、音声通話アプリケーションのユーザＩＤ等である。図９では、携帯電話の番号である例を図示している。「固有ＩＤ危険値」とは、通報件数、通話履歴の怪しさレベル、通話内容の怪しさレベル、安全登録件数等から判定するものとする。例えば、１０段階の数値で危険を表し、危険値１が最も危険が低いこと、危険値１０が最も危険が高いことを表すものとする。固有ＩＤ危険値は、通報件数をそのまま使用してもよいし、所定の係数等を用いて、通報件数、通話履歴の怪しさレベル、通話内容の怪しさレベルが高い場合には固有ＩＤ危険値を高く、安全登録件数が高い場合には固有ＩＤ危険値を低くするような式で算出するようにしてもよい。「通報件数」とは、複数のユーザからの通報情報をカウントした数値である。第二の端末２のユーザ２、又は、第三の端末３のユーザ３が、第一の端末のユーザ１に対して、「怪しい」と判断した、又は、「通話切断」を行った場合に、「通報件数」をインクリメントする。「通話履歴怪しさレベル」とは、通話履歴パターンから算出した怪しさレベルである。例えば、５段階の数値で怪しさレベルを表し、１が最も怪しさレベルが低いこと、５が最も怪しさレベルが高いことを表すものとする。「通話内容怪しさレベル」とは、通話内容パターンから算出した怪しさレベルである。例えば、５段階の数値で怪しさレベルを表し、１が最も怪しさレベルが低いこと、５が最も怪しさレベルが高いことを表すものとする。「安全登録件数」とは、固有ＩＤが安全であると登録しているユーザの件数である。固有ＩＤが、システムが設定したホワイトリストに登録されている場合や、第二の端末２の電話帳に登録されている場合等に件数をカウントする。

［声紋データベース］
図１０は、声紋データベース１３２のデータ構造の一例である。声紋データそれぞれについて、「声紋番号」、「声紋危険値」、「通報件数」、「通話履歴怪しさレベル」、「通話内容怪しさレベル」、「安全登録件数」、等の情報を保持する。「声紋番号」とは、声紋データそれぞれに対応する番号である。図１０では、１から順番に連番を振った場合を図示している。「声紋危険値」とは、通報件数、通話履歴の怪しさレベル、通話内容の怪しさレベル、安全登録件数等から判定するものとする。例えば、１０段階の数値で危険を表し、危険値１が最も危険が低いこと、危険値１０が最も危険が高いことを表すものとする。声紋危険値は、通報件数をそのまま使用してもよいし、所定の係数等を用いて、通報件数、通話履歴の怪しさレベル、通話内容の怪しさレベルが高い場合には声紋危険値を高く、安全登録件数が高い場合には声紋危険値を低くするような式で算出するようにしてもよい。「通報件数」とは、複数のユーザからの通報情報をカウントした数値である。第二の端末２のユーザ２、又は、第三の端末３のユーザ３が、第一の端末のユーザ１に対して、「怪しい」と判断した、又は、「通話切断」を行った場合に、「通報件数」をインクリメントする。「通話履歴怪しさレベル」とは、通話履歴パターンから算出した怪しさレベルである。例えば、５段階の数値で怪しさレベルを表し、１が最も怪しさレベルが低いこと、５が最も怪しさレベルが高いことを表すものとする。「通話内容怪しさレベル」とは、通話内容パターンから算出した怪しさレベルである。例えば、５段階の数値で怪しさレベルを表し、１が最も怪しさレベルが低いこと、５が最も怪しさレベルが高いことを表すものとする。「安全登録件数」とは、固有ＩＤが安全であると登録しているユーザの件数である。該当する声紋が、システムが設定したホワイトリストに登録されている場合や、第二の端末２の電話帳に登録されている場合等に件数をカウントする。

上記では、固有ＩＤ危険値と声紋危険値という二つの指標から、接続を解除するか、接続を継続するか、更に詳細な危険判断第二フローを起動するか、を判定する実施例について記載したが、固有ＩＤ危険値のみ、又は、声紋危険値のみで、判定を行うシステムとしてもよい。

［ボイスメールへの切り替え処理］
固有ＩＤ危険値と声紋危険値という二つの指標から、危険である場合に接続を解除する処理について上述したが、接続を解除する代わりに、第一の端末のユーザ１側の通話をボイスメールへと切り替える処理を行ってもよい。その際、第二の端末のユーザ２側の通話は、接続を解除する。タイミングとして具体的には、図１のフローチャートのステップＳ０８、及び、図３のフローチャートのステップＳ３１６の接続を解除する処理の代わりに行う。ここでのボイスメールとは、第一の端末のユーザ１側の音声を録音しておき、後で第二の端末のユーザ２が録音内容を聞くことができる、又は、録音内容を文字に変換したものをユーザ２がメールやウェブサービス等で確認することができるものとする。このボイスメールへの切り替え処理は、万が一、ユーザ１が特殊詐欺犯ではなかった場合に、通話を自動切断してしまい、クレームが発生することを避けるための機能としても有効である。ユーザ１が特殊詐欺犯ではなかった場合、ユーザ１側としては、ユーザ２との直接の会話はできなくても、メッセージが残すことができる。そのため、情報処理システム１０に対する「電話したのにつながらなかったため、用件が伝えられなかった」というユーザ１からのクレームを回避することができる。また、ユーザ１が実際に特殊詐欺犯であった場合でも、「詐欺犯はメッセージを残したがらない」、「仮にメッセージを残しても、通話でリアルタイムに直接畳みかけて判断力を奪う場合と比較して、ユーザ２は騙されにくい」という点から、特殊詐欺を抑止するための効果が得られることは明らかである。更に、本発明では前述の通りに、ユーザ２から通話（この場合はボイスメールの内容）が怪しかったかどうかの評価を利用して、特殊詐欺犯であるか否かの判断とその制御の精度を向上していくため、ユーザ１が特殊詐欺犯ではないのに、特殊詐欺犯であると判定されてしまう頻度を継続的に縮小することが可能である。

上記のように、固有ＩＤ危険値と声紋危険値という二つの指標から、ボイスメールへと切り替えるか、音声通話を継続するかを判断し、更に、判断が確実でない場合には、危険判断第二フローにより、第一の端末の通話履歴の照会、音声による通話内容分析、所定の働きかけに応じた第一の端末のユーザ応答等の情報を用いて通話の継続の判定を行うことで、偽陽性、偽陰性による誤った判断と制御を可能な限り減らすとともに、誤った判断を行ってしまった場合にも、ユーザの不利益を低減させることにより、クレームを回避することができる。また、危険判断第三フローにより、継続的に危険判断時に精度を向上していくシステムを提供することが可能となる。

上述した手段、機能は、コンピュータ（ＣＰＵ、情報処理装置、各種端末を含む）が、所定のプログラムを読み込んで、実行することによって実現される。プログラムは、例えば、単数又は複数のコンピュータからネットワーク経由で提供される（クラウドサービス、ＳａａＳ：ソフトウェア・アズ・ア・サービス）形態で提供される。また、プログラムは、例えば、コンピュータ読取可能な記録媒体に記録された形態で提供される。この場合、コンピュータはその記録媒体からプログラムを読み取って内部記録装置又は外部記録装置に転送し記録して実行する。また、そのプログラムを、例えば、磁気ディスク、光ディスク、光磁気ディスク等の記録装置（記録媒体）に予め記録しておき、その記録装置から通信回線を介してコンピュータに提供するようにしてもよい。

以上、本発明の実施形態について説明したが、本発明は上述したこれらの実施形態に限るものではない。また、本発明の実施形態に記載された効果は、本発明から生じる最も好適な効果を列挙したに過ぎず、本発明による効果は、本発明の実施形態に記載されたものに限定されるものではない。

１０ 情報処理システム、１ 第一の端末、２ 第二の端末、３ 第三の端末

Claims (14)

1. 第一の端末からの接続要求に応じて第二の端末に接続して音声による通話を行う情報処理システムであって、
   前記第一の端末に紐づけられた固有ＩＤを取得する固有ＩＤ取得部と、
   取得した前記固有ＩＤを固有ＩＤデータベースと照合し、固有ＩＤ危険値を取得する固有ＩＤ照合部と、
   前記第一の端末が発信する音声から声紋情報を取得する声紋取得部と、
   取得した前記声紋情報を声紋データベースと照合し、声紋危険値を取得する声紋照合部と、
   前記固有ＩＤ危険値と前記声紋危険値とが共に危険と判断する所定の危険値であった場合又は前記第二の端末のユーザから通話切断の入力を受け付けた場合に前記接続を切断し、前記固有ＩＤ危険値と前記声紋危険値とが共に安全と判断する所定の安全値であった場合に前記接続を継続し、それ以外の場合に前記接続を継続すると共に通話の継続か切断の判定を行う危険判断第二フローを起動する処理部と、
   を有し、
   前記通話終了後、次回の危険判断精度を向上させるための危険判断第三フローを起動し、
   前記接続の継続と切断の判断が、前記情報処理システムと、前記第二の端末のユーザとで異なっていた場合に、
   前記第二の端末のユーザが前記情報処理システムの判断と異なる判断であった回数又は頻度が、閾値以上であるかに応じて、前記第二の端末の固有ＩＤ危険値、声紋危険値の少なくとも一方を上げることを特徴とする情報処理システム。
2. 前記第二の端末のユーザが前記情報処理システムの判断と異なる判断であった回数又は頻度が、閾値以上であるとは、前記第二の端末のユーザが前記情報処理システムから通話を切断したにもかかわらず、前記第一の端末からの発信を危険でないと判断した回数又は頻度が、閾値以上であることを特徴とする請求項１に記載の情報処理システム。
3. 前記第二の端末のユーザが前記情報処理システムの判断と異なる判断であった回数又は頻度が、閾値以上であるとは、前記第二の端末のユーザが前記情報処理システムから通話継続したにもかかわらず、前記第一の端末からの発信を危険であると判断した回数又は頻度が、閾値以上であることを特徴とする請求項１に記載の情報処理システム。
4. 前記固有ＩＤは電話番号であることを特徴とする請求項１に記載の情報処理システム。
5. 前記固有ＩＤデータベースは、複数のユーザからの通報情報に基づいて算出した固有ＩＤ危険値よりなり、
   前記声紋データベースは、複数のユーザからの通報情報に基づいて算出した声紋危険値よりなることを特徴とする請求項１に記載の情報処理システム。
6. 前記危険判断第二フローは、前記第一の端末の通話履歴の照会、前記音声による通話内容分析、所定の働きかけに応じた前記第一の端末のユーザ応答、の少なくとも一つから通話の継続の判定を行うことを特徴とする請求項１に記載の情報処理システム。
7. 前記通話履歴は、所定の期間内に多数の接続要求を発信している履歴を含むことを特徴とする請求項６に記載の情報処理システム。
8. 前記通話内容分析は、通話の中にあらかじめ定められたキーワードが含まれているかどうかを判定する分析を含むことを特徴とする請求項６に記載の情報処理システム。
9. 前記働きかけは、あらかじめ定められた音声メッセージを少なくとも前記第一の端末に流すことを含み、
   前記第一の端末のユーザ応答は、前記第一の端末による通話切断であることを特徴とする請求項６に記載の情報処理システム
10. 前記危険判断第二フローが危険と判断する危険値となった場合、通話を切断することを特徴とする請求項６に記載の情報処理システム。
11. 前記危険判断第二フローによって危険判断がなされた場合、
    前記第一の端末の前記固有ＩＤと、前記第一の端末から取得した声紋情報の少なくとも一方に紐づけて、対応する前記固有ＩＤデータベースと前記声紋データベースの少なくとも一方に対し、通報情報を送信することを特徴とする請求項１に記載の情報処理システム。
12. 前記通話中に、前記第二の端末のユーザが危険と判断した場合に通報情報を前記第二の端末から受信する通報情報受信手段を有し、前記通報情報の受信に応じて通話を切断すると共に、前記第一の端末に紐づけられた前記固有ＩＤと、前記第一の端末から取得した声紋情報の少なくとも一方を、対応する前記固有ＩＤデータベースと前記声紋データベースの少なくとも一方に対し、前記通報情報を送信することを特徴とする請求項１に記載の情報処理システム。
13. 第一の端末からの接続要求に応じて第二の端末に接続して音声による通話を行うコンピュータが実行する情報処理方法であって、
    前記第一の端末に紐づけられた固有ＩＤを取得するステップと、
    取得した前記固有ＩＤを固有ＩＤデータベースと照合し、固有ＩＤ危険値を取得するステップと、
    前記第一の端末が発信する音声から声紋情報を取得するステップと、
    取得した前記声紋情報を声紋データベースと照合し、声紋危険値を取得するステップと、
    前記固有ＩＤ危険値と前記声紋危険値とが共に危険と判断する所定の危険値であった場合又は前記第二の端末のユーザから通話切断の入力を受け付けた場合に前記接続を切断し、前記固有ＩＤ危険値と前記声紋危険値とが共に安全と判断する所定の安全値であった場合に前記接続を継続し、それ以外の場合に前記接続を継続すると共に通話の継続か切断の判定を行う危険判断第二フローを起動するステップと、
    前記通話終了後、次回の危険判断精度を向上させるための危険判断第三フローを起動し、
    前記接続の継続と切断の判断が、前記コンピュータと、前記第二の端末のユーザとで異なっていた場合に、
    前記第二の端末のユーザが前記コンピュータの判断と異なる判断であった回数又は頻度が、閾値以上であるかに応じて、前記第二の端末の固有ＩＤ危険値、声紋危険値の少なくとも一方を上げるステップと、を有することを特徴とする情報処理方法。
14. 第一の端末からの接続要求に応じて第二の端末に接続して音声による通話を行うコンピュータに、
    前記第一の端末に紐づけられた固有ＩＤを取得するステップ、
    取得した前記固有ＩＤを固有ＩＤデータベースと照合し、固有ＩＤ危険値を取得するステップ、
    前記第一の端末が発信する音声から声紋情報を取得するステップ、
    取得した前記声紋情報を声紋データベースと照合し、声紋危険値を取得するステップ、
    前記固有ＩＤ危険値と前記声紋危険値とが共に危険と判断する所定の危険値であった場合又は前記第二の端末のユーザから通話切断の入力を受け付けた場合に前記接続を切断し、前記固有ＩＤ危険値と前記声紋危険値とが共に安全と判断する所定の安全値であった場合に前記接続を継続し、それ以外の場合に前記接続を継続すると共に通話の継続か切断の判定を行う危険判断第二フローを起動するステップ、
    前記通話終了後、次回の危険判断精度を向上させるための危険判断第三フローを起動し、
    前記接続の継続と切断の判断が、前記コンピュータと、前記第二の端末のユーザとで異なっていた場合に、
    前記第二の端末のユーザが前記コンピュータの判断と異なる判断であった回数又は頻度が、閾値以上であるかに応じて、前記第二の端末の固有ＩＤ危険値、声紋危険値の少なくとも一方を上げるステップ、を実行させるためのコンピュータ読み取り可能なプログラム。

Images