JP6572218B2 - 危険検出装置、危険検出方法、及び危険検出プログラム - Google Patents
危険検出装置、危険検出方法、及び危険検出プログラム Download PDFInfo
- Publication number
- JP6572218B2 JP6572218B2 JP2016539837A JP2016539837A JP6572218B2 JP 6572218 B2 JP6572218 B2 JP 6572218B2 JP 2016539837 A JP2016539837 A JP 2016539837A JP 2016539837 A JP2016539837 A JP 2016539837A JP 6572218 B2 JP6572218 B2 JP 6572218B2
- Authority
- JP
- Japan
- Prior art keywords
- danger
- risk
- record
- term
- category
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000001514 detection method Methods 0.000 title claims description 33
- 238000000034 method Methods 0.000 claims description 2
- 230000006870 function Effects 0.000 description 10
- 238000004458 analytical method Methods 0.000 description 7
- 238000004891 communication Methods 0.000 description 7
- 238000000605 extraction Methods 0.000 description 3
- 238000010191 image analysis Methods 0.000 description 3
- 230000000877 morphologic effect Effects 0.000 description 3
- 239000008186 active pharmaceutical agent Substances 0.000 description 2
- 238000003287 bathing Methods 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 206010011906 Death Diseases 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000010485 coping Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 229940079593 drug Drugs 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003449 preventive effect Effects 0.000 description 1
- 238000010079 rubber tapping Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/01—Social networking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M3/00—Automatic or semi-automatic exchanges
- H04M3/42—Systems providing special services or facilities to subscribers
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Tourism & Hospitality (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Strategic Management (AREA)
- Primary Health Care (AREA)
- Marketing (AREA)
- Human Resources & Organizations (AREA)
- General Business, Economics & Management (AREA)
- Economics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Signal Processing (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Artificial Intelligence (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- Operations Research (AREA)
- Information Transfer Between Computers (AREA)
Description
図2に、本発明の第1の実施形態にかかる危険検出装置を示す。危険検出装置200は、保護者により登録された子供等の予め登録された登録者のインターネット上での危険を検出するための装置であり、危険を示す用語を記憶した危険用語辞書201に含まれる危険用語をキーとして、登録者の生活に伴い発生する電子データである生活データをレコードごとに記憶した生活データ・データベース(DB)202に含まれるレコードを識別して特定する特定部210と、特定された生活データ・データベース202内のレコードの内容を代替する代替情報を判定する判定部220と、判定された代替情報を通知する通知部230とを備える。
判定部220は、特定部210において特定されたレコードが表す可能性のある危険の区分であるカテゴリーを、代替情報として判定することができる。
通知部230は、代替情報を本装置の利用者に通知するが、たとえば、利用者が本装置上或は本装置に関連して動作するウェブサイトにアクセスした際に、ウェブブラウザに表示することにより通知を行うことができる。
本発明の第2の実施形態は、判定部220において判定される代替情報を除いて、第1の実施形態と同一である。
本発明の第3の実施形態は、判定部220における判定対象となるレコードが複数の危険用語を含む場合の判定処理の詳細に関する。
第1乃至第3の実施形態では日本語を例に説明してきたが、本発明は、レコードの内容がその他の言語によって記述されていても適用可能である。その際、文字データの記載内容、画像データのメタ情報の記載内容等に基づいて言語を推測して、危険用語辞書201を、日本語等の第1の言語用のものからその他の第2の言語用のものに切り換えることができる。言語の推測は、スマートフォン、タブレットなどのユーザー端末の表示言語設定、キーボード・音声等の入力言語設定、画像のEXIF情報等のメタ情報から判断される位置情報等を用いて行うこともできる。
子供を抱える学校は、生徒のスマートフォン、SNSなどの利用実態を把握することを望んでいる。本実施形態にかかる危険検出装置200は、判定部220の一部として、あるいは別の機能として登録部(図示せず)を有し、判定された代替情報を生活データDB202に対応するレコードと関連づけて登録する。このようにして蓄積された分析済みの生活データは、さまざまな学校向けのレポーティングに活用することが可能である。
主に生活データをレコードごとに記憶した生活データDB202を用いる例で説明をするが、SNS、ゲームプラットフォーム、掲示板サイトなどの生活データを受け取る事業者自体のコンピュータを危険検出装置として機能させることもできる。この場合には、受け取った生活データを一度生活データDB202に格納して、そこからレコードを特定部210によって特定してもよいが、生活データを危険検出装置が受信部(図示せず)により受け取ることをもって判定対象のレコードの内容を決定することもできる。
201 危険用語辞書
202 生活データ・データベース
210 特定部
220 判定部
230 通知部
Claims (4)
- 登録者のインターネット上での危険を検出するための危険検出装置であって、
危険を示す用語を記憶した危険用語辞書に含まれる危険用語に基づいて、前記登録者の生活に伴い発生する電子データである生活データをレコードごとに記憶した生活データ・データベース内のレコードを特定する特定部と、
前記特定部により特定されたレコードの内容を代替する代替情報を判定する判定部と、
判定された前記代替情報を通知する通知部と
を含み、
前記危険用語辞書は、各危険用語が1又は複数のカテゴリーに分類されており、
前記判定部は、特定された前記レコードに含まれる危険用語のカテゴリーを前記代替情報として割り当てることを特徴とする危険検出装置。 - 前記危険用語辞書は、各危険用語が複数のカテゴリーに分類されており、かつ、カテゴリーに応じてスコアが与えられており、
前記判定部は、特定された前記レコードに含まれる1又は複数の危険用語のそれぞれが有するスコアの合計値が大きい方のカテゴリーを前記代替情報として割り当てることを特徴とする請求項1に記載の危険検出装置。 - 登録者のインターネット上での危険を検出するための危険検出方法であって、
危険を示す用語を記憶した危険用語辞書に含まれる危険用語に基づいて、前記登録者の生活に伴い発生する電子データである生活データをレコードごとに記憶した生活データ・データベース内のレコードを特定するステップと、
特定されたレコードの内容を代替する代替情報を判定するステップと、
判定された前記代替情報を通知するステップと
を含み、
前記危険用語辞書は、各危険用語が1又は複数のカテゴリーに分類されており、
前記判定部は、特定された前記レコードに含まれる危険用語のカテゴリーを前記代替情報として割り当てることを特徴とする危険検出方法。 - コンピュータに、登録者のインターネット上での危険を検出するための危険検出方法を実行させるための危険検出プログラムであって、前記危険検出方法は、
危険を示す用語を記憶した危険用語辞書に含まれる危険用語に基づいて、前記登録者の生活に伴い発生する電子データである生活データをレコードごとに記憶した生活データ・データベース内のレコードを特定するステップと、
特定されたレコードの内容を代替する代替情報を判定するステップと、
判定された前記代替情報を通知するステップと
を含み、
前記危険用語辞書は、各危険用語が1又は複数のカテゴリーに分類されており、
前記判定部は、特定された前記レコードに含まれる危険用語のカテゴリーを前記代替情報として割り当てることを特徴とする危険検出プログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014159020 | 2014-08-04 | ||
JP2014159020 | 2014-08-04 | ||
PCT/JP2015/003842 WO2016021160A1 (ja) | 2014-08-04 | 2015-07-30 | 危険検出装置、危険検出方法、及び危険検出プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2016021160A1 JPWO2016021160A1 (ja) | 2017-07-13 |
JP6572218B2 true JP6572218B2 (ja) | 2019-09-04 |
Family
ID=55263456
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016539837A Active JP6572218B2 (ja) | 2014-08-04 | 2015-07-30 | 危険検出装置、危険検出方法、及び危険検出プログラム |
Country Status (3)
Country | Link |
---|---|
JP (1) | JP6572218B2 (ja) |
KR (1) | KR102480293B1 (ja) |
WO (1) | WO2016021160A1 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11670286B2 (en) * | 2019-12-31 | 2023-06-06 | Beijing Didi Infinity Technology And Development Co., Ltd. | Training mechanism of verbal harassment detection systems |
US11620987B2 (en) | 2019-12-31 | 2023-04-04 | Beijing Didi Infinity Technology And Development Co., Ltd. | Generation of training data for verbal harassment detection |
US11664043B2 (en) | 2019-12-31 | 2023-05-30 | Beijing Didi Infinity Technology And Development Co., Ltd. | Real-time verbal harassment detection system |
CN116709339B (zh) * | 2022-10-09 | 2024-07-12 | 荣耀终端有限公司 | 一种应用通知消息的检测方法及电子设备 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003067304A (ja) * | 2001-08-27 | 2003-03-07 | Kddi Corp | 電子メールフィルタリングシステム、電子メールフィルタリング方法、電子メールフィルタリングプログラム及びそれを記録した記録媒体 |
JP2003186842A (ja) | 2001-12-13 | 2003-07-04 | Ntt Docomo Inc | 通信端末、通信システムおよび通信制御方法 |
JP2007139864A (ja) * | 2005-11-15 | 2007-06-07 | Nec Corp | 不審会話検出装置、方法及びそれを用いた通信装置 |
KR100764174B1 (ko) * | 2006-03-03 | 2007-10-08 | 삼성전자주식회사 | 음성 대화 서비스 장치 및 방법 |
KR20100067200A (ko) * | 2008-12-11 | 2010-06-21 | 주식회사 리코시스 | 메시지 모니터링 방법 및 이를 수행하는 장치 |
KR20120047632A (ko) * | 2010-11-04 | 2012-05-14 | 한국전자통신연구원 | 상황 인지 장치 및 방법 |
-
2015
- 2015-07-30 KR KR1020167035775A patent/KR102480293B1/ko active IP Right Grant
- 2015-07-30 WO PCT/JP2015/003842 patent/WO2016021160A1/ja active Application Filing
- 2015-07-30 JP JP2016539837A patent/JP6572218B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JPWO2016021160A1 (ja) | 2017-07-13 |
KR20170058885A (ko) | 2017-05-29 |
WO2016021160A1 (ja) | 2016-02-11 |
KR102480293B1 (ko) | 2022-12-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Rubin et al. | Deception detection for news: three types of fakes | |
Chiang et al. | Deceptive identity performance: Offender moves and multiple identities in online child abuse conversations | |
Calvin et al. | # bully: Uses of hashtags in posts about bullying on Twitter | |
US9195777B2 (en) | System, method and computer program product for normalizing data obtained from a plurality of social networks | |
EP2753024B1 (en) | System and method for continuously monitoring and searching social networking media | |
US11501068B2 (en) | Message sentiment analyzer and feedback | |
US10621181B2 (en) | System and method for screening social media content | |
JP6572218B2 (ja) | 危険検出装置、危険検出方法、及び危険検出プログラム | |
CN110287405B (zh) | 情感分析的方法、装置和存储介质 | |
Zhang et al. | Cyberbullying definitions and measurements in children and adolescents: summarizing 20 years of global efforts | |
Smith et al. | The Instagram/Facebook ban on graphic self‐harm imagery: A sentiment analysis and topic modeling approach | |
Guidry et al. | Pinning despair and distress–Suicide-related content on visual social media platform Pinterest | |
JP5316310B2 (ja) | 問題又は不満データ処理装置及び方法 | |
Rogers | Parents who wait: Acknowledging the support needs and vulnerabilities of approved adopters during their wait to become adoptive parents | |
Kelling et al. | Analysing community reaction to refugees through text analysis of social media data | |
Singhal et al. | Factorization of fact-checks for low resource indian languages | |
US10803247B2 (en) | Intelligent content detection | |
Vizcaíno-Cuenca et al. | Making visible the myths about cyber-sexual violence against women: an analysis of social reactions toward victims on Twitter | |
Hope | Unsocial media: school surveillance of student internet use | |
LaPoe et al. | Politics, power and a pandemic: Searching for information and accountability during a Twitter infodemic | |
Clarke | Linguistic variation across Twitter and Twitter trolling | |
Nigatu et al. | “I Searched for a Religious Song in Amharic and Got Sexual Content Instead’’: Investigating Online Harm in Low-Resourced Languages on YouTube. | |
AT&T | Pannus: Towards Enabling Users to Protect their Privacy on Online Social Networks | |
Batool et al. | Expanding Concepts of Non-Consensual Image-Disclosure Abuse: A Study of NCIDA in Pakistan | |
Yusuf | Gender-Sensitive Reporting Principles: A Content Analysis of Violence Against Women and Girls in Indonesian Mainstream Newspaper Coverage |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20170203 |
|
AA64 | Notification of invalidation of claim of internal priority (with term) |
Free format text: JAPANESE INTERMEDIATE CODE: A241764 Effective date: 20170410 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170427 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180723 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180726 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190603 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190705 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190801 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190809 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6572218 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |