JPWO2016021160A1 - Danger detection device, danger detection method, and danger detection program - Google Patents
Danger detection device, danger detection method, and danger detection program Download PDFInfo
- Publication number
- JPWO2016021160A1 JPWO2016021160A1 JP2016539837A JP2016539837A JPWO2016021160A1 JP WO2016021160 A1 JPWO2016021160 A1 JP WO2016021160A1 JP 2016539837 A JP2016539837 A JP 2016539837A JP 2016539837 A JP2016539837 A JP 2016539837A JP WO2016021160 A1 JPWO2016021160 A1 JP WO2016021160A1
- Authority
- JP
- Japan
- Prior art keywords
- danger
- record
- risk
- term
- specified
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 57
- 238000004458 analytical method Methods 0.000 claims description 8
- 238000000605 extraction Methods 0.000 claims description 4
- 230000000877 morphologic effect Effects 0.000 claims description 4
- 239000000284 extract Substances 0.000 claims description 3
- 230000006870 function Effects 0.000 description 10
- 238000004891 communication Methods 0.000 description 7
- 238000010191 image analysis Methods 0.000 description 3
- 239000008186 active pharmaceutical agent Substances 0.000 description 2
- 238000003287 bathing Methods 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 206010011906 Death Diseases 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000010485 coping Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 229940079593 drug Drugs 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000000034 method Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003449 preventive effect Effects 0.000 description 1
- 238000010079 rubber tapping Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/01—Social networking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M3/00—Automatic or semi-automatic exchanges
- H04M3/42—Systems providing special services or facilities to subscribers
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Tourism & Hospitality (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Strategic Management (AREA)
- Primary Health Care (AREA)
- Marketing (AREA)
- Human Resources & Organizations (AREA)
- General Business, Economics & Management (AREA)
- Economics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Signal Processing (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Artificial Intelligence (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- Information Transfer Between Computers (AREA)
- Operations Research (AREA)
Abstract
子供等へのインターネット利用を許容しつつ、インターネット利用に伴い危険に晒されることを抑制することのできる危険検出装置、危険検出方法及び危険検出プログラムを提供すること。危険検出装置(200)は、保護者により登録された子供等の予め登録された登録者のインターネット上での危険を検出するための装置であり、危険を示す用語を記憶した危険用語辞書(201)に含まれる危険用語をキーとして、登録者の生活に伴い発生する電子データである生活データをレコードごとに記憶した生活データ・データベース(DB)(202)内のレコードが識別される場合に、当該レコードを特定する特定部(210)と、特定された生活データ・データベース(202)内のレコードを代替する代替情報を判定する判定部(220)と、判定された代替情報を通知する通知部(230)とを備える。To provide a danger detection device, a danger detection method, and a danger detection program capable of suppressing exposure to danger associated with the use of the Internet while allowing the use of the Internet to children and the like. The danger detection device (200) is a device for detecting danger on the Internet of a registrant registered in advance, such as a child registered by a guardian, and a danger term dictionary (201) storing terms indicating danger. ) In the life data database (DB) (202) in which life data, which is electronic data generated along with the life of the registrant, is stored for each record using the dangerous term included in A specifying unit (210) that specifies the record, a determination unit (220) that determines alternative information that replaces the record in the specified life data database (202), and a notification unit that notifies the determined alternative information (230).
Description
本発明は、危険検出装置、危険検出方法、及び危険検出プログラムに関し、より詳細には、登録者のインターネット上での危険を検出するための危険検出装置、危険検出方法、及び危険検出プログラムに関する。 The present invention relates to a danger detection apparatus, a danger detection method, and a danger detection program, and more particularly to a danger detection apparatus, a danger detection method, and a danger detection program for detecting a registrant's danger on the Internet.
近年、モバイル端末などの情報機器の普及が情報通信網の発展とともに急速に進み、インターネットの利用が大幅に広がっている。このような状況の中、インターネットの利用は、子供にも広く普及している。 In recent years, the spread of information devices such as mobile terminals has rapidly progressed along with the development of information communication networks, and the use of the Internet has greatly expanded. Under such circumstances, the use of the Internet is widely spread to children.
他方で、情報リテラシーの高くない人々、特に若年の子供が、インターネット上でトラブルに巻き込まれる事例も目立つようになり、子供が用いる情報機器に対し、フィルタリング、アクセス制限等の機能制限を課す家庭も少なくない。トラブルの例としては、たとえば、掲示板への誹謗中傷等の書き込み、出会い系サイトにおける被害等が挙げられる。 On the other hand, cases where people with low information literacy, especially young children, are getting involved in trouble on the Internet, and some households impose functional restrictions such as filtering and access restrictions on information devices used by children. Not a few. Examples of troubles include writing slander on a bulletin board, damage at a dating site, and the like.
特許文献1は、アクセス制限の例であり、子供にも通信端末を使用することは認めたいが、それにより有害なコンテンツが子供の目に触れるようなことは防ぎたいという要望を背景に発明された、ネットワーク上のリソースに対するアクセスを簡易な構成で適切に規制することのできる携帯電話機が記載されている。 Patent Document 1 is an example of access restriction, which was invented against the desire to allow children to use communication terminals, but to prevent harmful content from being exposed to children. In addition, a mobile phone that can appropriately regulate access to resources on a network with a simple configuration is described.
図1を参照して説明すると、携帯電話機40は、移動パケット通信網30およびインターネット20を介してコンテンツサーバ10A、10Bとパケット通信を行う機能を有しており、さらに、ペアレントロック機能を有する。ペアレントロック機能は、インターネット20上のコンテンツサーバ10A、10B等が提供するサイトに対する携帯電話機40のアクセスを制限する機能であって、携帯電話機40の使用者が未成年者・子供等である場合に、親等の保護者が予め携帯電話機40のメモリに登録しておいたサイトにしか携帯電話機40がアクセスできないようにする機能である。
Referring to FIG. 1, the mobile phone 40 has a function of performing packet communication with the
しかしながら、現在、子供にとっても、インターネットの利用は社会生活を営む上で必須とも言えるものになりつつあり、機能制限を課すことは、長期的には現実的な解ではない。今後、インターネット利用が進む傾向が逆行することも考えにくいため、仮に、ある家庭において子供のインターネット利用を制限しても、その子供の周囲での利用までも制限できるものではなく、掲示板への悪意のある書き込み、いじめ等のトラブルに巻き込まれるおそれが依然としてある。 However, at present, the use of the Internet is becoming essential for children to operate social life, and imposing functional restrictions is not a realistic solution in the long run. In the future, it is unlikely that the tendency to use the Internet will go backwards, so if you restrict the use of a child's Internet in a certain home, you can not restrict the use around the child, and malicious There is still the possibility of getting involved in troubles such as writing and bullying.
たとえば、いじめは、その対象となってしまった子供は親に言うことができず、親の知らないところで苦しんでいる場合も少なくなく、早期の発見が重要である。 For example, bullying cannot be told to a parent who has been the subject of the bullying, and there are many cases where the child is suffering without the parent's knowledge, and early detection is important.
本発明は、このような問題点に鑑みてなされたものであり、その目的は、子供等へのインターネット利用を許容しつつ、インターネット利用に伴い危険に晒されることを抑制することのできる危険検出装置、危険検出方法及び危険検出プログラムを提供することにある。 The present invention has been made in view of such problems, and its object is to detect danger that allows the use of the Internet to children and the like while suppressing exposure to danger associated with the use of the Internet. An object is to provide a device, a danger detection method, and a danger detection program.
ここで、本明細書において「危険」とは、危害または損失が生じるおそれがある状況を意味し、危害または損失が現に生じている状況も、さらなる危害または損失が生じるおそれがある状況にあるという意味で、「危険」に包含される。 Here, “danger” in this specification means a situation where there is a risk of harm or loss, and a situation where harm or loss is actually occurring is also a situation where there is a risk of further harm or loss. In meaning, it is included in “danger”.
このような目的を達成するために、本発明の第1の態様は、登録者のインターネット上での危険を検出するための危険検出装置であって、危険を示す用語を記憶した危険用語辞書に含まれる危険用語に基づいて、前記登録者の生活に伴い発生する電子データである生活データをレコードごとに記憶した生活データ・データベース内のレコードを特定する特定部と、前記特定部により特定されたレコードの内容を代替する代替情報を判定する判定部と、判定された前記代替情報を通知する通知部とを含むことを特徴とする。 In order to achieve such an object, a first aspect of the present invention is a risk detection device for detecting a registrant's risk on the Internet, in a risk term dictionary storing a term indicating a risk. Based on the dangerous terms included, a specifying unit for specifying a record in a life data database storing life data for each record, which is electronic data generated with the life of the registrant, and specified by the specifying unit It includes a determination unit that determines alternative information that replaces the contents of a record, and a notification unit that notifies the determined alternative information.
また、本発明の第2の態様は、第1の態様において、前記通知は、特定された前記レコードの内容をそのまま通知することなく行うことを特徴とする。 According to a second aspect of the present invention, in the first aspect, the notification is performed without notifying the contents of the specified record as it is.
また、本発明の第3の態様は、第1又は第2の態様において、前記特定部は、前記生活データ・データベース内のレコードの1又は複数の形態素をキーとして、前記危険用語辞書に含まれる危険用語が識別される場合に、前記レコードを特定することを特徴とする。 In addition, according to a third aspect of the present invention, in the first or second aspect, the specifying unit is included in the risk term dictionary using one or more morphemes of records in the life data database as a key. When a dangerous term is identified, the record is specified.
また、本発明の第4の態様は、第1又は第2の態様において、前記特定部は、前記危険用語辞書に含まれる1又は複数の危険用語をキーとして、前記生活データ・データベースに含まれるレコードが識別される場合に、前記レコードを特定することを特徴とする。 According to a fourth aspect of the present invention, in the first or second aspect, the specifying unit is included in the life data database with one or more risk terms included in the risk term dictionary as a key. When the record is identified, the record is specified.
また、本発明の第5の態様は、第3又は第4の態様において、前記危険用語辞書は、各危険用語の危険度を表すスコアを含むことを特徴とする。 According to a fifth aspect of the present invention, in the third or fourth aspect, the risk term dictionary includes a score representing a risk level of each risk term.
また、本発明の第6の態様は、第5の態様において、前記特定部は、前記生活データ・データベース内のレコードに含まれる1又は複数の危険用語のそれぞれが有するスコアの合計値が所定値以上である場合に、前記レコードを特定することを特徴とする。 According to a sixth aspect of the present invention, in the fifth aspect, the specifying unit is configured such that a total value of scores of each of one or more risk terms included in the record in the life data database is a predetermined value. In this case, the record is specified.
また、本発明の第7の態様は、第1から第6のいずれかの態様において、前記登録者は子供であることを特徴とする。 According to a seventh aspect of the present invention, in any one of the first to sixth aspects, the registrant is a child.
また、本発明の第8の態様は、第7の態様において、前記通知は、前記登録者の保護者に対して通知することを含むことを特徴とする。 According to an eighth aspect of the present invention, in the seventh aspect, the notification includes notifying a guardian of the registrant.
また、本発明の第9の態様は、第1から第8のいずれかの態様において、前記生活データは、SNSへの投稿、掲示板への書き込み、及びダイレクトメッセージのいずれかであることを特徴とする。 Further, a ninth aspect of the present invention is characterized in that, in any one of the first to eighth aspects, the life data is any one of posting to an SNS, writing on a bulletin board, and direct message. To do.
また、本発明の第10の態様は、第1から第9の態様において、前記代替情報は、特定された前記レコードの内容に対応する、前記レコードが表す可能性のある危険の区分であるカテゴリーを含むことを特徴とする。 The tenth aspect of the present invention is the category according to any one of the first to ninth aspects, wherein the alternative information is a category of danger that the record may represent, corresponding to the content of the specified record. It is characterized by including.
また、本発明の第11の態様は、第10の態様において、前記危険用語辞書は、各危険用語がカテゴリー毎に分類されており、前記判定部は、特定された前記レコードに含まれる危険用語のカテゴリーを前記代替情報として割り当てることを特徴とする。 According to an eleventh aspect of the present invention, in the tenth aspect, the risk term dictionary is such that each risk term is classified for each category, and the determination unit includes the risk term included in the specified record. Are assigned as the alternative information.
また、本発明の第12の態様は、第10の態様において、前記危険用語辞書は、各危険用語が複数のカテゴリーに分類されており、かつ、カテゴリーに応じてスコアが与えられており、前記判定部は、特定された前記レコードに含まれる1又は複数の危険用語のそれぞれが有するスコアの合計値が大きい方のカテゴリーを前記代替情報として割り当てることを特徴とする。 Further, a twelfth aspect of the present invention is the risk term dictionary according to the tenth aspect, wherein each risk term is classified into a plurality of categories, and a score is given according to the category, The determination unit assigns a category having a larger total score value of each of one or more dangerous terms included in the identified record as the substitute information.
また、本発明の第13の態様は、第10の態様において、前記判定部は、特定された前記レコードから、主体、客体、及び行為を抽出し、抽出された前記主体、前記客体、及び前記行為に基づいて、前記レコードに対応する前記カテゴリーを前記代替情報として割り当てることを特徴とする。 The thirteenth aspect of the present invention is that, in the tenth aspect, the determination unit extracts a subject, an object, and an action from the identified record, and the extracted subject, the object, and the Based on the action, the category corresponding to the record is assigned as the alternative information.
また、本発明の第14の態様は、第13の態様において、前記割り当ては、主体、客体及び行為を入力、カテゴリーを出力とする、予め定義された割当関数により行うことを特徴とする。 A fourteenth aspect of the present invention is characterized in that, in the thirteenth aspect, the assignment is performed by a predefined assignment function in which a subject, an object, and an action are input and a category is output.
また、本発明の第15の態様は、第13又は第14の態様において、前記抽出は、形態素解析により行うことを特徴とする。 According to a fifteenth aspect of the present invention, in the thirteenth or fourteenth aspect, the extraction is performed by morphological analysis.
また、本発明の第16の態様は、第1から第15のいずれかの態様において、前記代替情報は、特定された前記レコードに含まれる危険用語を含む例文を含むことを特徴とする。 According to a sixteenth aspect of the present invention, in any one of the first to fifteenth aspects, the alternative information includes an example sentence including a dangerous term included in the identified record.
また、本発明の第17の態様は、第16の態様において、前記特定部は、特定された前記レコードに含まれる1又は複数の危険用語を前記判定部に提供し、前記判定部は、前記1又は複数の危険用語のそれぞれが有するスコアの合計値に基づいて、複数用意された例文のうちの1つの例文を選択することを特徴とする。 According to a seventeenth aspect of the present invention, in the sixteenth aspect, the specifying unit provides the determination unit with one or more risk terms included in the specified record, and the determination unit One example sentence is selected from a plurality of prepared example sentences based on a total score value of each of one or more dangerous terms.
また、本発明の第18の態様は、第16の態様において、前記危険用語辞書は、各危険用語が複数のカテゴリーに分類されており、かつ、カテゴリーに応じてスコアが与えられており、前記特定部は、特定された前記レコードに含まれる1又は複数の危険用語を前記判定部に提供し、前記判定部は、前記1又は複数の危険用語のそれぞれが有するスコアの合計値のうち大きい方の合計値に基づいて、複数用意された例文のうちの1つの例文を選択することを特徴とする。 In addition, an eighteenth aspect of the present invention is the risk word dictionary according to the sixteenth aspect, wherein each risk term is classified into a plurality of categories, and a score is given according to the category, The specifying unit provides one or more risk terms included in the specified record to the determination unit, and the determination unit is the larger of the total score values of the one or more risk terms. One example sentence is selected from a plurality of prepared example sentences based on the total value.
また、本発明の第19の態様は、第16から第18のいずれかの態様において、前記代替情報は、特定された前記レコードに含まれる危険用語に関連づけられた参考事例を含むことを特徴とする。 Further, a nineteenth aspect of the present invention is characterized in that, in any one of the sixteenth to eighteenth aspects, the substitute information includes a reference case associated with a dangerous term included in the specified record. To do.
また、本発明の第20の態様は、第1から第19のいずれかの態様において、前記通知は、前記代替情報に加えて、特定された前記レコードに含まれる危険用語、生活データの取得元、及び生活データが発生した日時のうちの少なくとも1つを通知することを特徴とする。 In addition, according to a twentieth aspect of the present invention, in any one of the first to nineteenth aspects, the notification is obtained in addition to the substitute information, the risk term included in the identified record, and the source of life data And at least one of the date and time when the life data is generated.
また、本発明の第21の態様は、第1から第20のいずれかの態様において、前記レコードは、ダイレクトメッセージであり、前記通知は、前記ダイレクトメッセージの相手方を通知することを特徴とする。 In addition, according to a twenty-first aspect of the present invention, in any one of the first to twentieth aspects, the record is a direct message, and the notification notifies a counterpart of the direct message.
また、本発明の第22の態様は、第1から第21のいずれかの態様において、危険用語のスコアに応じて、前記代替情報の表示態様を変更することを特徴とする。 According to a twenty-second aspect of the present invention, in any one of the first to twenty-first aspects, the display mode of the alternative information is changed according to the score of the dangerous term.
また、本発明の第23の態様は、第1から第22のいずれかの態様において、前記登録者は、前記代替情報の通知を受けることができることを特徴とする。 According to a twenty-third aspect of the present invention, in any one of the first to twenty-second aspects, the registrant can receive notification of the alternative information.
また、本発明の第24の態様は、登録者のインターネット上での危険を検出するための危険検出方法であって、危険を示す用語を記憶した危険用語辞書に含まれる危険用語に基づいて、前記登録者の生活に伴い発生する電子データである生活データをレコードごとに記憶した生活データ・データベース内のレコードを特定するステップと、前記特定部により特定されたレコードの内容を代替する代替情報を判定するステップと、判定された前記代替情報を通知するステップとを含むことを特徴とする。 According to a twenty-fourth aspect of the present invention, there is provided a risk detection method for detecting a registrant's risk on the Internet, based on a risk term included in a risk term dictionary storing a term indicating a risk, Identifying a record in a life data database in which life data, which is electronic data generated with the life of the registrant, is stored for each record, and alternative information for substituting the content of the record specified by the specifying unit Determining, and notifying the determined alternative information.
また、本発明の第25の態様は、コンピュータに、登録者のインターネット上での危険を検出するための危険検出方法を実行させるための危険検出プログラムであって、前記危険検出方法は、危険を示す用語を記憶した危険用語辞書に含まれる危険用語に基づいて、前記登録者の生活に伴い発生する電子データである生活データをレコードごとに記憶した生活データ・データベース内のレコードを特定するステップと、前記特定部により特定されたレコードの内容を代替する代替情報を判定するステップと、判定された前記代替情報を通知するステップとを含むことを特徴とする。 According to a twenty-fifth aspect of the present invention, there is provided a danger detection program for causing a computer to execute a danger detection method for detecting a danger of a registrant on the Internet. Identifying a record in the life data database that stores life data, which is electronic data generated along with the life of the registrant, for each record, based on a risk term included in a risk term dictionary storing a term to indicate; And determining alternative information that substitutes the content of the record specified by the specifying unit, and notifying the determined alternative information.
本発明によれば、登録者のインターネット上での危険を検出するための危険検出装置において、危険を示す用語を記憶した危険用語辞書に含まれる危険用語に基づいて生活データのレコードを特定し、特定されたレコードの内容を代替する代替情報によって、登録者に関する危険の存在を通知することによって、登録者のプライバシーに配慮し、登録者の抵抗感を大幅に下げつつ、早期に危険検出を行うことができる。 According to the present invention, in a danger detection device for detecting a danger on the Internet of a registrant, a life data record is specified based on a danger term included in a danger term dictionary storing a term indicating danger, By detecting the existence of dangers related to registrants using alternative information that replaces the contents of the specified records, risk detection is performed at an early stage while considering the privacy of registrants and greatly reducing registrants' resistance. be able to.
以下、図面を参照して本発明の実施形態を詳細に説明する。 Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.
(第1の実施形態)
図2に、本発明の第1の実施形態にかかる危険検出装置を示す。危険検出装置200は、保護者により登録された子供等の予め登録された登録者のインターネット上での危険を検出するための装置であり、危険を示す用語を記憶した危険用語辞書201に含まれる危険用語をキーとして、登録者の生活に伴い発生する電子データである生活データをレコードごとに記憶した生活データ・データベース(DB)202に含まれるレコードを識別して特定する特定部210と、特定された生活データ・データベース202内のレコードの内容を代替する代替情報を判定する判定部220と、判定された代替情報を通知する通知部230とを備える。(First embodiment)
FIG. 2 shows a danger detection apparatus according to the first embodiment of the present invention. The
登録者の登録は、たとえば、危険検出装置200上で動作するウェブサイトにインターネットを介してアクセスして、行うことができる。
For example, the registrant can be registered by accessing a website operating on the
危険用語辞書201は、危険の区分であるカテゴリー毎に分類することができる。カテゴリーとしては、いじめ、青少年系犯罪(あるいは少年の福祉を害する犯罪(福祉犯))等が挙げられる。いじめカテゴリーには、暴力・悪口・不当な要求・無視・いやがらせ等のサブカテゴリーを作成してもよい。また、青少年系犯罪には、出会い系・薬物・わいせつ・未成年禁止行為・犯罪行為等のサブカテゴリーを作成してもよい。各用語には、当該用語が表す危険の危険度を示すパラメータ(スコア)を与えてもよく、このスコアは、同一用語であっても、その用語が属するカテゴリーないしサブカテゴリーに応じて異なっていてもよい。
The
生活データは「ライフログ」とも呼ぶことができる。生活データDB202は、たとえば、SNSから提供されているAPIを用いて、当該SNSへの投稿、当該SNS上でのダイレクトメッセージ等を生活データとして取得し、それぞれを1レコードとして格納することができる。生活データは、SNSに限らず、たとえばゲームプラットフォームから取得してもよい。さらに、生活データは、インターネット上の掲示板への書き込み、登録者が用いるモバイル端末等の情報機器上でローカルに存在する電子メール等のメッセージ等を含むことができる。インターネット上への書き込みは、登録者に関連する情報(名前、所属、位置情報、他サービスのアカウント名、特定キーワード等)、登録者に関連する人物(SNS、ウェブサービス上等で交流のある人物)の情報等を手掛かりに、掲示板上から該当する投稿データを探していくことができる。また、生活データは、スマートフォン等のOSが提供するAPIを用いて、スマホアプリがOSに通知するテキスト、画像、数値データ等を取得してもよい。OSに通知されるテキスト等の具体例としては、1対多、多対多のLINE(登録商標)等のチャットアプリにおけるグループメッセージが挙げられる。
Life data can also be called a “life log”. The
生活データとしては、文字データのほか、ビジュアル・データ、オーディオ・データを含むことができる。ビジュアル・データには、動画及び画像が含まれる。 The life data can include visual data and audio data in addition to character data. Visual data includes moving images and images.
本実施形態にかかる危険検出装置は、特定されたレコードの内容をそのまま当該装置の利用者に通知してしまうのではなく、代替情報に代替して通知することによって、登録者のプライバシーに配慮し、登録者の抵抗感を大幅に下げることができる。子供を登録者、親等の保護者を利用者として考えた場合、子供の生活に伴い危険が生じている可能性があることを検出することができても、それに関連する投稿、会話、写真等を直接保護者に見せてしまうことは、子供のプライバシーを著しく損なう可能性がある。そこで、子供にも安心して保護者による本装置の利用を許容してもらうために、代替情報によって危険を示す。 The risk detection device according to the present embodiment considers the privacy of the registrant by notifying the user of the device of the specified record as it is, but instead of the alternative information. , Can greatly reduce the resistance of registrants. Considering a child as a registrant or a parent or guardian as a user, even if it is possible to detect that there may be a danger associated with the child's life, related posts, conversations, photos, etc. Directly showing parents to parents can significantly impair children's privacy. Therefore, in order to allow children to use the device by parents without any worries, danger is indicated by alternative information.
また、一方的な保護者からの監視は、子供の反発を招くため、保護者だけが危険の検出結果を参照するのではなく、子供もまったく同じ情報を得ることを可能にしてもよい。このようにすることで、子供の納得感を高めることができる。 Moreover, since monitoring from a one-sided guardian causes a rebound of the child, it is possible that the child can obtain exactly the same information instead of only the guardian referring to the detection result of the danger. By doing in this way, a child's satisfaction can be improved.
なお、特定部210は、危険用語辞書201に含まれる危険用語をキーとして識別を行うほか、生活データDB202内のレコードの1又は複数の形態素をキーとして、危険用語辞書201に含まれる危険用語が識別される場合に、当該レコードを特定することもでき、これらの態様のように、危険用語に基づいて、レコードを特定すればよい。
The
また、特定部210は、生活データDB202内のレコードに含まれる1又は複数の危険用語のそれぞれが有するスコアの合計値が所定値以上である場合に、当該レコードを特定してもよい。
Further, the specifying
判定部の詳細
判定部220は、特定部210において特定されたレコードが表す可能性のある危険の区分であるカテゴリーを、代替情報として判定することができる。 The
危険用語辞書201が、カテゴリー毎に分類されている場合には、判定部220は、特定されたレコードに含まれる危険用語が属するカテゴリー又はサブカテゴリーを代替情報として割り当てることができる。
When the
各危険用語が複数のカテゴリーに分類されており、また、カテゴリーに応じてスコアが与えられている場合には、判定部220は、特定されたレコードに含まれる1又は複数の危険用語のそれぞれが有するスコアの合計値が大きい方のカテゴリーを代替情報として割り当てることができる。
When each danger term is classified into a plurality of categories and a score is given according to the category, the
あるいは、判定部220は、特定されたレコードから、主体、客体、及び行為を抽出し、抽出された主体、客体、及び行為に基づいて、当該レコードに対応するカテゴリーを代替情報として割り当てるができる。より具体的には、抽出された主体、客体、及び行為とその関係性から、文が表現する事象を要約し、あらかじめ構築されたカテゴリー情報を付与した要約文リストと比較することで、当該レコードに対応するカテゴリーを代替情報として割り当てるができる。この際、主体、客体、及び行為の抽出に関しては形態素解析を行い、関係性については係り受け分析を行うことができる。文章が長い場合などで、主体、客体、及び行為の要素が複数となる場合は危険用語辞書と比較し、係り受けの関係性を踏まえた上で注目すべき要素を優先して抽出することができる。主体等の抽出は、形態素解析により行うことができる。
Alternatively, the
生活データが画像データの場合には、危険用語辞書201を用いるのではなく、たとえば以下のように代替情報の判定を行うことができる。
When the life data is image data, instead of using the
まず、画像データに付与されているメタ情報(投稿ユーザ/タイトル/コメント/付加された位置情報等)から推定されるシチュエーション(集合写真/海水浴/自室等)を特定する。 First, the situation (group photo / sea bathing / own room, etc.) estimated from the meta information (posted user / title / comment / added location information, etc.) given to the image data is specified.
また、顔認識処理を実施し、画像内の人物が分析対象の本人か否かを判断し、タグ情報として追加する。 Further, face recognition processing is performed, it is determined whether or not the person in the image is the person to be analyzed, and added as tag information.
次に、シチュエーションごとにカスタマイズされた分析ロジックにより、画像に含まれる要素((若い)女性、水着、浜辺、夕方等)を特定し、当該要素の普通名詞等をタグ情報として追加する。 Next, elements ((young) women, swimsuits, beaches, evenings, etc.) included in the image are specified by analysis logic customized for each situation, and common nouns of the elements are added as tag information.
ここで、シチュエーションごとのカスタマイズとは、たとえば、海水浴であれば青、肌色、白等に強い重み付けを与えることなど、ロジックの判定に使用する値、場合によってはロジックそのものをカスタマイズすることをいう。 Here, customization for each situation refers to customization of values used for logic determination, or in some cases, logic itself, such as giving a strong weight to blue, skin color, white, etc. in the case of sea bathing.
最後に、事前に危険状況を示す文章(「若い女性が浜辺で水着を着て自画撮りをしている」等)と、その文章に対して危険度の基準スコアを用意しておき、追加されたタグ情報と、当該危険状況を示す文章の一致度で、画像の示す可能性のある危険状況を判断する。たとえば、危険状況を示す文章に含まれる形態素とタグ情報との一致の数に基づいて、一致度を算定してもよい。その際、危険度の基準スコアを利用し、危険度の高低を判断する。文字データと同様に、危険度が所定値以上である場合に通知をしてもよいし、危険状況を示す文章が複数用意されている場合には危険度の高い方の文章を代替情報としてもよい。 Lastly, a sentence indicating the danger situation ("Young woman is wearing a swimsuit on the beach and taking a self-portrait") and a reference score for the degree of danger for that sentence are prepared and added in advance. Based on the tag information and the degree of coincidence between the sentences indicating the danger situation, the danger situation that the image may indicate is determined. For example, the degree of coincidence may be calculated based on the number of matches between the morpheme included in the sentence indicating the dangerous situation and the tag information. At that time, the risk level is determined using the risk reference score. As with text data, you may be notified when the degree of danger is greater than or equal to a predetermined value, and if multiple sentences showing danger situations are prepared, the sentence with the higher degree of danger may be used as alternative information. Good.
動画解析の場合は、動画中の音声データに関し、既存のテキスト化技術を利用してテキスト化して前記メタ情報に加えることができる。動画に対し、画像分析を連続して行うことで動画分析を実現することができる。 In the case of moving image analysis, audio data in a moving image can be converted into text using existing text conversion technology and added to the meta information. Moving image analysis can be realized by continuously performing image analysis on moving images.
通知部の詳細
通知部230は、代替情報を本装置の利用者に通知するが、たとえば、利用者が本装置上或は本装置に関連して動作するウェブサイトにアクセスした際に、ウェブブラウザに表示することにより通知を行うことができる。 The
図3に、本実施形態にかかるウェブブラウザへの表示の一例を示す。ウェブブラウザ300には、アラートリストとして、検出された危険を一覧表示することができる。注目単語として、レコードに含まれる危険単語、カテゴリーとして、判定した代替情報、日時として、生活データの発生日時、やりとり対象として、生活データがダイレクトメッセージ、チャットアプリのグループメッセージなどである場合には相手方等を表示することができる。Twitter(登録商標)、Facebook(登録商標)等の生活データの取得元も表示することができる。
FIG. 3 shows an example of display on the web browser according to the present embodiment. The
交通機関系カードの利用データも取得しておくことで、危険が発生した際の付加情報として、たとえば生活データの発生日時に最も近い日時における利用データに基づいて、利用交通手段で移動経路、場所等を通知することもできる。 By acquiring the usage data of the transportation system card, as the additional information when the danger occurs, for example, based on the usage data at the date and time closest to the date and time of occurrence of the life data, the travel route and place by the used transportation means Etc. can also be notified.
危険用語辞書201内の用語に危険度を示すスコアが与えられている場合には、危険度に応じて、各アラート(レコード)の表示態様を変更することもできる。
When the score in the
(第2の実施形態)
本発明の第2の実施形態は、判定部220において判定される代替情報を除いて、第1の実施形態と同一である。(Second Embodiment)
The second embodiment of the present invention is the same as the first embodiment except for alternative information determined by the
本実施形態では、判定部220において、特定部210にて特定されたレコードに含まれる危険用語を含む例文を代替情報として判定する。子供には子供の感性があり、親にはなかなか理解できない点で思い悩むことも少なくない。そこで、本実施形態では、危険を表す可能性のあるキーワード(単語)を含む、具体的な危険性を想起させるような例文を提示する。このようにすることにより、保護者に対し、早期に、かつ、子供の抵抗感を下げつつ危険の存在を通知するとともに、その危険の内容を確実に伝えることができる。
In the present embodiment, the
特定部210は、特定されたレコードに含まれる1又は複数の危険用語を判定部220に提供し、判定部220は、当該1又は複数の危険用語のそれぞれが有するスコアの合計値に基づいて、複数用意された例文のうちの1つの例文を選択することができる。
The identifying
たとえば、危険用語「バカ」及び「消える」が、特定レコードに含まれる場合、「お前みたいなバカは今すぐこの世から消えろ。」(例文1)、「バカだ!今すぐ消えたい(^▽^;)」(例文2)等の複数の例文を予め用意しておき、スコアが所定値以上であれば、より高い危険を示す例文1、所定の値未満であれば、軽度の危険を示す例文2を示すようにすることができる。 For example, if the dangerous terms “stupid” and “disappear” are included in a specific record, “A fool like you will disappear from the world right now.” (Example sentence 1), “I ’m stupid! I want to disappear right away (^ ▽ ^ ;) ”(Example sentence 2) and the like are prepared in advance. If the score is equal to or higher than a predetermined value, the example sentence 1 indicates a higher risk, and if the score is lower than the predetermined value, the example sentence indicates a mild danger. 2 can be shown.
例文は、すべての危険用語に対して用意しても、所定値以上のスコアを有する危険用語に対してのみ用意してもよい。上記の例では、「バカ」及び「消える」に対して例文が複数用意されており、レコードに含まれる「バカ」及び「消える」以外の危険用語の有無及びスコアの値に応じて、スコアの合計値が変動し、選択される例文が例文1となるか、例文2となるかが決定される。 Example sentences may be prepared for all dangerous terms or only for dangerous terms having a score of a predetermined value or more. In the above example, multiple example sentences are prepared for “stupid” and “disappear”, and depending on the presence of dangerous terms other than “stupid” and “disappear” included in the record and the score value, The total value fluctuates, and it is determined whether the selected example sentence is the example sentence 1 or the example sentence 2.
特定部210における識別の際には、レコードに含まれる「消えろ」、「消えたい」は、終止形に変換してから比較を行うことができ、このようにすれば、危険用語辞書201には「消える」のみを記憶しておけばよい。
At the time of identification in the specifying
また、危険用語辞書201において、各危険用語が複数のカテゴリーに分類されており、かつ、カテゴリーに応じてスコアが与えられている場合には、判定部220は、特定部210から提供された1又は複数の危険用語のそれぞれが有するスコアの合計値のうち大きい方の合計値に基づいて、複数用意された例文のうちの1つの例文を選択してもよい合計値が同一の値のときは、デフォルトで決めてもよいし、危険用語数の多い方としてもよい。
Further, in the
さらに、当該キーワードに関連づけられた過去の参考事例、対処方法の例等の追加情報をあわせて表示することによって、一層確実な内容伝達が可能となる。たとえば、危険検出装置200を提供する会社の自社コンテンツ(ブログなど)の提示、ネット上の関連コンテンツ(ニュース記事、動画、他社ブログ等)のリンクの提示等を行うことができる。
Further, by displaying together additional information such as past reference cases and examples of coping methods associated with the keyword, it is possible to transmit contents more reliably. For example, it is possible to present in-house content (such as a blog) of a company that provides the
(第3の実施形態)
本発明の第3の実施形態は、判定部220における判定対象となるレコードが複数の危険用語を含む場合の判定処理の詳細に関する。(Third embodiment)
The third embodiment of the present invention relates to details of determination processing when a record to be determined by the
本実施形態では、判定部220において、特定部210にて特定されたレコードに含まれる複数の危険用語に基づいてカテゴリーを判定する。この場合、危険用語辞書201は、各組の危険用語が、レコードが表す可能性のある危険の区分であるカテゴリー毎に分類されることになる。たとえば、「学校」及び「来る」が特定されたレコードに含まれる場合、必ずしもこのレコードが表す危険は分からないが、さらに「迷惑」が含まれていると、「迷惑だから学校くるな!」といったいじめの危険性を精度良く判定することが可能となる。
In the present embodiment, the
レコードがチャットアプリなどにおける対話形式のメッセージの場合、1メッセージのみでは十分な情報が得られないこともある。こうした対話は短いやりとりが続く傾向にあり、一連のメッセージをみないと文脈が分からないのである。そこで、数分間等、所定の期間内の複数のメッセージを1つの話題、一連の会話(以下「トークセット」ともいう。)として扱うことによって、判定精度を高めることができる。 When the record is an interactive message in a chat application or the like, sufficient information may not be obtained with only one message. These dialogues tend to be short conversations, and the context cannot be understood without looking at a series of messages. Therefore, by treating a plurality of messages within a predetermined period such as several minutes as one topic and a series of conversations (hereinafter also referred to as “talk set”), the determination accuracy can be improved.
危険用語辞書201に記憶される各組の危険用語には、複数の危険用語を含むメッセージ(以下「サンプルメッセージ」ともいう。)、トークセット(以下「サンプルトークセット」ともいう。)などを事前に分析して、対応するカテゴリーを割り当てておけばよい。トークセットについては、その中に含まれる危険用語に加えて、その会話構造の特徴も記憶しておくことができる。たとえば、「A 学校来ないで。」「B なんで?」「A 迷惑だから。」という会話構造の特徴も「学校」、「来る」(終止形)、「迷惑」に加えて記憶しておくことができる。判定対象のレコードとサンプルメッセージ又はサンプルトークとの一致度を一致する危険用語の数、会話構造等に依拠して決定し、一致度の高いものに与えられたカテゴリーを代替情報とすることができる。
Each set of risk terms stored in the
画像や動画の投稿も1つのメッセージのまとまりとして扱い、一連の会話と画像・動画を組み合わせて分析を行うこともできる。 Posting images and videos can also be handled as a single message, and analysis can be performed by combining a series of conversations with images and videos.
(第4の実施形態)
第1乃至第3の実施形態では日本語を例に説明してきたが、本発明は、レコードの内容がその他の言語によって記述されていても適用可能である。その際、文字データの記載内容、画像データのメタ情報の記載内容等に基づいて言語を推測して、危険用語辞書201を、日本語等の第1の言語用のものからその他の第2の言語用のものに切り換えることができる。言語の推測は、スマートフォン、タブレットなどのユーザー端末の表示言語設定、キーボード・音声等の入力言語設定、画像のEXIF情報等のメタ情報から判断される位置情報等を用いて行うこともできる。(Fourth embodiment)
In the first to third embodiments, Japanese has been described as an example. However, the present invention is applicable even if the contents of a record are described in other languages. At that time, the language is estimated based on the description content of the character data, the description content of the meta information of the image data, etc., and the
同様に、同一言語内の方言に応じた切り換えも行うことができる。各方言の特徴を表す用語を記憶した方言辞書を設け、当該方言辞書に含まれる危険用語に基づいて方言を推測して、危険用語辞書201を、日本語の標準語等の第1の方言用のものから大阪弁等の第2の方言用のものに切り換えることができる。たとえば「アホ」の意味合いが関東と関西では異なることが知られており、同一のスコアリングを用いることは必ずしも適切ではない。
Similarly, switching according to dialects in the same language can be performed. A dialect dictionary storing terms representing the characteristics of each dialect is provided, the dialect is estimated based on the dangerous terms included in the dialect dictionary, and the
(第5の実施形態)
子供を抱える学校は、生徒のスマートフォン、SNSなどの利用実態を把握することを望んでいる。本実施形態にかかる危険検出装置200は、判定部220の一部として、あるいは別の機能として登録部(図示せず)を有し、判定された代替情報を生活データDB202に対応するレコードと関連づけて登録する。このようにして蓄積された分析済みの生活データは、さまざまな学校向けのレポーティングに活用することが可能である。(Fifth embodiment)
Schools with children want to know the actual usage of students' smartphones, SNSs, and so on. The
たとえば、各生徒を危険検出装置200に登録しておき、複数の生徒の利用実態を匿名化して、分析済みの生活データからサマリーデータを生成することができる。カテゴリー毎の発生件数、学年別の発生件数、学期・年度等の期間別の発生件数等のデータを生成することができる。
For example, it is possible to register each student in the
カテゴリー(サブカテゴリー)別の発生件数は、たとえば図4に示すようにレーダーチャートとしてユーザー端末のウェブブラウザなどに表示させることができる。レーダーチャートには、他校のデータ、特定の地域の平均データなどもあわせて表示することができる。発生件数は、図示のように3段階、5段階等に段階的に頻度を表してもよい。 The number of occurrences by category (subcategory) can be displayed on a web browser of the user terminal as a radar chart as shown in FIG. 4, for example. The radar chart can also display data from other schools and average data for a specific area. The number of occurrences may be expressed in three stages, five stages, etc. as shown in the figure.
レーダ―チャート上の各カテゴリーはクリッカブルとすることができ、ユーザーがクリック又はタップしたことに応じて、各カテゴリーに関連づけられた過去の参考事例、対処方法の例等の追加情報を表示することができる。たとえば、炎上については、「弁護士に連絡して予防策、対策を打ちましょう。」といった助言を表示し、また、相談可能な連絡先を提示することが挙げられる。 Each category on the radar chart can be clickable, and depending on the user clicking or tapping, additional information such as past reference cases, examples of countermeasures, etc. associated with each category can be displayed. it can. For example, with regard to flames, it is possible to display advice such as “Let's contact a lawyer and take preventive measures and countermeasures”, and provide contact information that can be consulted.
また、時間的な推移を知るために、時系列データとして表示させることも可能である。このようにすることで、従来の単発のアンケートとは異なり、利用実態を継続的に把握することが容易になる。 Further, in order to know the temporal transition, it is also possible to display it as time series data. In this way, unlike the conventional single questionnaire, it becomes easy to keep track of the actual usage.
その他のデータとしては、各生徒の1日のメッセージング回数、1日のアクティブ回数、SNSの友達数等も生活データ内のレコードを分析することが算出が可能であり、あわせて表示することができる。 As other data, it is possible to calculate the number of messaging of each student per day, the number of active times of the day, the number of friends of SNS, etc. by analyzing the records in the life data, which can be displayed together. .
ここでは、学校向けのレポーティングについて説明したが、スマートフォンの利用実態をマーケティングに活用したい事業会社向けに行う場合にも同様である。 Here, the reporting for schools has been described, but the same applies to the case of business companies that want to use the actual usage of smartphones for marketing.
(第6の実施形態)
主に生活データをレコードごとに記憶した生活データDB202を用いる例で説明をするが、SNS、ゲームプラットフォーム、掲示板サイトなどの生活データを受け取る事業者自体のコンピュータを危険検出装置として機能させることもできる。この場合には、受け取った生活データを一度生活データDB202に格納して、そこからレコードを特定部210によって特定してもよいが、生活データを危険検出装置が受信部(図示せず)により受け取ることをもって判定対象のレコードの内容を決定することもできる。(Sixth embodiment)
Although an example using the
SNSを提供するサーバに、危険検出方法を実行させるためのプログラムを追加して危険検出を行う場合には、ユーザー間のコミュニケーション・ツール上のダイレクトメッセージ又はグループメッセージをレコードとして分析を行い、対応するカテゴリーを付与する。ここで、言うまでもないが、サーバは、複数の分散されたサーバとしてもよく、危険検出を行うためのプログラムも、複数のプログラムにより構成されたものとしてもよいことを付言する。付与されたカテゴリーは、判定部220の一部あるいは別の機能である登録部(図示せず)によりレコードに関連づけて登録を行う。このようにして蓄積された分析済みの生活データは、SNSの提供会社が当該SNSの利用実態を把握し、必要に応じてその改善を図るためのアクションを可能とする。提供会社としては、サービスの想定される利用実態と現実の利用実態が乖離しないよう、モニタリングをできることが望ましい。
When adding a program for executing the danger detection method to the server that provides the SNS and performing danger detection, analyze the direct message or group message on the communication tool between users as a record, and respond accordingly Assign a category. Here, it goes without saying that the server may be a plurality of distributed servers, and a program for detecting danger may be configured by a plurality of programs. The assigned category is registered in association with the record by a registration unit (not shown) which is a part of the
たとえば、第5の実施形態にて説明したサマリーデータの表示のほか、発生日時、カテゴリー及びユーザーIDの一覧を表示させることができる。さらに、各レコードへのリンクを一覧に含め、提供会社が問題のある可能性があるレコードの内容を直接目視で確認することができる。レコードの内容をそのまま通知することとなるが、提供会社の管理用途であるため許容される。さらに、当該カテゴリーが付与されたレコードの同一ユーザーIDによる発生回数又は発生インターバル、メッセージの相手方のユーザーID、メッセージに関連づけられたグループID、コミュニケーション・ツール名等のデータも一覧データに含ませることが可能である。カテゴリーが付与されたレコードの内容、発生回数等に基づいて、当該レコードのメッセージを送信したユーザーのユーザーIDを自動的に又指定を受けて利用停止又は削除することもできる。 For example, in addition to the display of summary data described in the fifth embodiment, a list of occurrence date / time, category, and user ID can be displayed. Furthermore, a link to each record can be included in the list, and the contents of the record that the provider may have a problem can be directly visually confirmed. The contents of the record will be notified as it is, but it is acceptable because it is used by the provider. Furthermore, the list data may include data such as the number of occurrences or occurrence intervals of records with the same user ID, the user ID of the message partner, the group ID associated with the message, and the name of the communication tool. Is possible. Based on the content of the record to which the category is assigned, the number of occurrences, etc., the user ID of the user who sent the message of the record can be automatically stopped or deleted upon receiving the designation.
本実施形態にかかる危険検出装置は、SNS以外のコミュニケーション・サービスについても当然適用ができるところ、各サービスによって、検出が必要となる危険の区分であるカテゴリーが異なってくることがある。そのような場合には、危険用語辞書201内で用いるカテゴリーをサービス毎に変更することができる。ユーザー端末からサービス名を取得して、危険用語辞書201を、第1のサービス用のものからその他の第2のサービス用のものに自動切り替え可能としてもよい。また、危険用語辞書201自体を切り換えるのではなく、危険用語辞書201内で用いられるカテゴリーを各サービスに適したカテゴリーにマッピングするマッピングテーブルを参照して、各サービスに適したカテゴリーを判定していくようにしてもよい。
The risk detection apparatus according to the present embodiment can naturally be applied to communication services other than SNS. However, depending on each service, a category that is a risk category that needs to be detected may differ. In such a case, the category used in the
200 危険検出装置
201 危険用語辞書
202 生活データ・データベース
210 特定部
220 判定部
230 通知部DESCRIPTION OF
Claims (25)
危険を示す用語を記憶した危険用語辞書に含まれる危険用語に基づいて、前記登録者の生活に伴い発生する電子データである生活データをレコードごとに記憶した生活データ・データベース内のレコードを特定する特定部と、
前記特定部により特定されたレコードの内容を代替する代替情報を判定する判定部と、
判定された前記代替情報を通知する通知部と
を含むことを特徴とする危険検出装置。A danger detection device for detecting a danger on the Internet of a registrant,
Based on the risk terms included in the risk term dictionary storing the terms indicating danger, the records in the life data database storing the life data, which is electronic data generated with the life of the registrant, for each record are specified. A specific part,
A determination unit that determines alternative information that replaces the content of the record specified by the specifying unit;
And a notification unit for notifying the determined alternative information.
前記判定部は、特定された前記レコードに含まれる危険用語のカテゴリーを前記代替情報として割り当てることを特徴とする請求項10に記載の危険検出装置。In the danger term dictionary, each danger term is classified into categories,
The risk detection apparatus according to claim 10, wherein the determination unit assigns a category of a risk term included in the specified record as the substitute information.
前記判定部は、特定された前記レコードに含まれる1又は複数の危険用語のそれぞれが有するスコアの合計値が大きい方のカテゴリーを前記代替情報として割り当てることを特徴とする請求項10に記載の危険検出装置。In the danger term dictionary, each danger term is classified into a plurality of categories, and a score is given according to the category,
The risk according to claim 10, wherein the determination unit assigns a category having a larger total score of each of one or more risk terms included in the identified record as the substitute information. Detection device.
特定された前記レコードから、主体、客体、及び行為を抽出し、
抽出された前記主体、前記客体、及び前記行為に基づいて、前記レコードに対応する前記カテゴリーを前記代替情報として割り当てることを特徴とする請求項10に記載の危険検出装置。The determination unit
Extract the subject, object, and action from the identified record,
The risk detection apparatus according to claim 10, wherein the category corresponding to the record is assigned as the alternative information based on the extracted subject, the object, and the action.
前記判定部は、前記1又は複数の危険用語のそれぞれが有するスコアの合計値に基づいて、複数用意された例文のうちの1つの例文を選択することを特徴とする請求項16に記載の危険検出装置。The specifying unit provides the determination unit with one or more risk terms included in the specified record,
The danger according to claim 16, wherein the determination unit selects one example sentence from a plurality of prepared example sentences based on a total value of scores of each of the one or more danger terms. Detection device.
前記特定部は、特定された前記レコードに含まれる1又は複数の危険用語を前記判定部に提供し、
前記判定部は、前記1又は複数の危険用語のそれぞれが有するスコアの合計値のうち大きい方の合計値に基づいて、複数用意された例文のうちの1つの例文を選択することを特徴とする請求項16に記載の危険検出装置。In the danger term dictionary, each danger term is classified into a plurality of categories, and a score is given according to the category,
The specifying unit provides the determination unit with one or more risk terms included in the specified record,
The determination unit selects one example sentence from a plurality of prepared example sentences based on a larger total value among the total values of scores of the one or more risk terms. The danger detection device according to claim 16.
前記通知は、前記ダイレクトメッセージ又は前記グループメッセージの相手方を通知することを特徴とする請求項1から20のいずれかに記載の危険検出装置。The record is a direct message or a chat application group message,
21. The danger detection device according to claim 1, wherein the notification notifies a counterpart of the direct message or the group message.
前記判定は、前記特定部により特定されたレコードに含まれる1組の危険用語に対応するカテゴリーを前記代替情報として判定することを特徴とする請求項1から4のいずれかに記載の危険検出装置。The record is a talk set in a chat application,
The risk detection apparatus according to claim 1, wherein in the determination, a category corresponding to a set of risk terms included in a record specified by the specifying unit is determined as the alternative information. .
危険を示す用語を記憶した危険用語辞書に含まれる危険用語に基づいて、前記登録者の生活に伴い発生する電子データである生活データをレコードごとに記憶した生活データ・データベース内のレコードを特定するステップと、
前記特定部により特定されたレコードの内容を代替する代替情報を判定するステップと、
判定された前記代替情報を通知するステップと
を含むことを特徴とする危険検出方法。A risk detection method for detecting a registrant's risk on the Internet,
Based on the risk terms included in the risk term dictionary storing the terms indicating danger, the records in the life data database storing the life data, which is electronic data generated with the life of the registrant, for each record are specified. Steps,
Determining alternative information for substituting the content of the record specified by the specifying unit;
And a step of notifying the determined alternative information.
危険を示す用語を記憶した危険用語辞書に含まれる危険用語に基づいて、前記登録者の生活に伴い発生する電子データである生活データをレコードごとに記憶した生活データ・データベース内のレコードを特定するステップと、
前記特定部により特定されたレコードの内容を代替する代替情報を判定するステップと、
判定された前記代替情報を通知するステップと
を含むことを特徴とする危険検出プログラム。A danger detection program for causing a computer to execute a danger detection method for detecting a danger on the Internet of a registrant, the danger detection method comprising:
Based on the risk terms included in the risk term dictionary storing the terms indicating danger, the records in the life data database storing the life data, which is electronic data generated with the life of the registrant, for each record are specified. Steps,
Determining alternative information for substituting the content of the record specified by the specifying unit;
And a step of notifying the determined alternative information.
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014159020 | 2014-08-04 | ||
JP2014159020 | 2014-08-04 | ||
PCT/JP2015/003842 WO2016021160A1 (en) | 2014-08-04 | 2015-07-30 | Risk detection device, risk detection method, and risk detection program |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2016021160A1 true JPWO2016021160A1 (en) | 2017-07-13 |
JP6572218B2 JP6572218B2 (en) | 2019-09-04 |
Family
ID=55263456
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016539837A Active JP6572218B2 (en) | 2014-08-04 | 2015-07-30 | Danger detection device, danger detection method, and danger detection program |
Country Status (3)
Country | Link |
---|---|
JP (1) | JP6572218B2 (en) |
KR (1) | KR102480293B1 (en) |
WO (1) | WO2016021160A1 (en) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11620987B2 (en) | 2019-12-31 | 2023-04-04 | Beijing Didi Infinity Technology And Development Co., Ltd. | Generation of training data for verbal harassment detection |
US11670286B2 (en) * | 2019-12-31 | 2023-06-06 | Beijing Didi Infinity Technology And Development Co., Ltd. | Training mechanism of verbal harassment detection systems |
US11664043B2 (en) | 2019-12-31 | 2023-05-30 | Beijing Didi Infinity Technology And Development Co., Ltd. | Real-time verbal harassment detection system |
CN116709339B (en) * | 2022-10-09 | 2024-07-12 | 荣耀终端有限公司 | Detection method of application notification message and electronic equipment |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003067304A (en) * | 2001-08-27 | 2003-03-07 | Kddi Corp | Electronic mail filtering system, electronic mail filtering method, electronic mail filtering program and recording medium recording it |
JP2003186842A (en) | 2001-12-13 | 2003-07-04 | Ntt Docomo Inc | Communication terminal, communication system and communication control method |
JP2007139864A (en) * | 2005-11-15 | 2007-06-07 | Nec Corp | Apparatus and method for detecting suspicious conversation, and communication device using the same |
KR100764174B1 (en) * | 2006-03-03 | 2007-10-08 | 삼성전자주식회사 | Apparatus for providing voice dialogue service and method for operating the apparatus |
KR20100067200A (en) * | 2008-12-11 | 2010-06-21 | 주식회사 리코시스 | Method for monitoring message and device performing the same |
KR20120047632A (en) * | 2010-11-04 | 2012-05-14 | 한국전자통신연구원 | Context-aware apparatus and method thereof |
-
2015
- 2015-07-30 JP JP2016539837A patent/JP6572218B2/en active Active
- 2015-07-30 KR KR1020167035775A patent/KR102480293B1/en active IP Right Grant
- 2015-07-30 WO PCT/JP2015/003842 patent/WO2016021160A1/en active Application Filing
Also Published As
Publication number | Publication date |
---|---|
JP6572218B2 (en) | 2019-09-04 |
KR102480293B1 (en) | 2022-12-23 |
KR20170058885A (en) | 2017-05-29 |
WO2016021160A1 (en) | 2016-02-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Hinds et al. | What demographic attributes do our digital footprints reveal? A systematic review | |
Rubin et al. | Deception detection for news: three types of fakes | |
Calvin et al. | # bully: Uses of hashtags in posts about bullying on Twitter | |
US20180212918A1 (en) | Methods and apparatus for inserting content into conversations in on-line and digital environments | |
US9195777B2 (en) | System, method and computer program product for normalizing data obtained from a plurality of social networks | |
EP2753024B1 (en) | System and method for continuously monitoring and searching social networking media | |
US10621181B2 (en) | System and method for screening social media content | |
US20120016661A1 (en) | System, method and device for intelligent textual conversation system | |
JP6572218B2 (en) | Danger detection device, danger detection method, and danger detection program | |
CN110287405B (en) | Emotion analysis method, emotion analysis device and storage medium | |
Zhang et al. | Cyberbullying definitions and measurements in children and adolescents: summarizing 20 years of global efforts | |
US10803247B2 (en) | Intelligent content detection | |
JP5316310B2 (en) | Problem or dissatisfaction data processing apparatus and method | |
Kelling et al. | Analysing community reaction to refugees through text analysis of social media data | |
Hope | Unsocial media: school surveillance of student internet use | |
Hale et al. | Analyzing misinformation claims during the 2022 Brazilian general election on WhatsApp, Twitter, and Kwai | |
Vizcaíno-Cuenca et al. | Making visible the myths about cyber-sexual violence against women: an analysis of social reactions toward victims on Twitter | |
US10560498B2 (en) | Contextual based communication method and user interface | |
Clarke | Linguistic variation across Twitter and Twitter trolling | |
Gómez-Camacho et al. | “Not all motherfuckers are MENA, but most MENA are motherfuckers” Hate speech on Twitter against unaccompanied foreign minors | |
Batool et al. | Expanding Concepts of Non-Consensual Image-Disclosure Abuse: A Study of NCIDA in Pakistan | |
AT&T | Pannus: Towards Enabling Users to Protect their Privacy on Online Social Networks | |
Pandey et al. | Bibliometric Review of Research on Misinformation: Reflective Analysis on the Future of Communication | |
Guice | Predators, decoys, and teens: A corpus analysis of online language | |
Zubiaga et al. | D2. 1 development of an annotation scheme for social media rumours |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20170203 |
|
AA64 | Notification of invalidation of claim of internal priority (with term) |
Free format text: JAPANESE INTERMEDIATE CODE: A241764 Effective date: 20170410 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170427 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180723 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180726 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190603 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190705 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190801 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190809 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6572218 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |