JP7231682B2 - 情報処理装置、情報処理方法、およびプログラム - Google Patents
情報処理装置、情報処理方法、およびプログラム Download PDFInfo
- Publication number
- JP7231682B2 JP7231682B2 JP2021140147A JP2021140147A JP7231682B2 JP 7231682 B2 JP7231682 B2 JP 7231682B2 JP 2021140147 A JP2021140147 A JP 2021140147A JP 2021140147 A JP2021140147 A JP 2021140147A JP 7231682 B2 JP7231682 B2 JP 7231682B2
- Authority
- JP
- Japan
- Prior art keywords
- content
- inappropriate
- comment
- determination
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000010365 information processing Effects 0.000 title claims description 20
- 238000003672 processing method Methods 0.000 title claims description 6
- 230000014509 gene expression Effects 0.000 claims description 19
- 238000012545 processing Methods 0.000 description 29
- 238000000034 method Methods 0.000 description 18
- 230000008569 process Effects 0.000 description 15
- 239000013598 vector Substances 0.000 description 14
- 238000010586 diagram Methods 0.000 description 10
- 239000000284 extract Substances 0.000 description 8
- 238000004891 communication Methods 0.000 description 6
- 238000002372 labelling Methods 0.000 description 5
- 238000011156 evaluation Methods 0.000 description 4
- 238000010801 machine learning Methods 0.000 description 4
- 230000004044 response Effects 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 230000003203 everyday effect Effects 0.000 description 2
- 238000003825 pressing Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 239000003795 chemical substances by application Substances 0.000 description 1
- 230000002354 daily effect Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
サービス提供装置1は、例えば、通信部10(受付部)と、コンテンツ取得部12と、順位決定部14と、ページ生成部16と、報告情報処理部18(受付部)、第1判定部20と、ラベル付与部22と、学習部24と、第2判定部25と、コンテンツ情報記憶部26と、報告情報記憶部28と、ユーザ情報記憶部30と、モデル記憶部32とを備える。サービス提供装置1に含まれる各機能部は、複数の装置に分散されてもよい。例えば、第1判定部20、ラベル付与部22、および学習部24と、他の機能部とは別体の装置によって実現されてもよい。また、例えば、第1判定部20と、学習部24とは別体の装置によって実現されてもよい。
以下、サービス提供装置1の処理について説明する。まず、サービス提供装置1により実施される不適切コメントの報告情報の取得処理について説明する。図3は、サービス提供装置1により生成され、端末装置Tに表示されるニュースページP1の一例を示す図である。ニュースページP1は、例えば、ニュース記事が表示される記事領域R1と、この記事に対して投稿された第1のコメントが表示される第1コメント領域R2と、第2のコメントが表示される第2コメント領域R3とを含む。尚、ニュースページP1は、3つ以上のコメントを表示するための領域が設定されてもよい。
以下、サービス提供装置1により実施される不適切コメントの判定処理の一例について説明する。図6は、サービス提供装置1による不適切コメントの判定処理の第1例である第1判定処理の流れを示すフローチャートである。この第1判定処理は、例えば、日ごと、週ごと等の所定のタイミングで実施されるバッチ処理により実施されてよい。
以下、サービス提供装置1により実施される不適切コメントの判定処理の他の例について説明する。図11は、サービス提供装置1による不適切コメントの判定処理の第2例である第2判定処理の流れを示すフローチャートである。この第2判定処理は、例えば、日ごと、週ごと等の所定のタイミングで実施されるバッチ処理により実施されてよい。
以下、サービス提供装置1により実施されるニュースページの生成処理の一例について説明する。図12は、サービス提供装置1によるニュースページの生成処理の流れを示すフローチャートである。このニュースページの生成処理は、端末装置Tからのニュースページのリクエストを受信するたびに実施される。
以下、サービス提供装置1により実施される新たに投稿されたコメントの不適切判定処理の一例について説明する。サービス提供装置1は、例えば、ユーザによる端末装置Tの操作に基づいてニュースサイトのページのコメント入力欄に対して新たなコメントが投稿され、この新たなコメントを投稿するリクエストを受信した場合、モデル記憶部32に記憶された判定モデル32Aを用いて、この新たなコメントが不適切であるか否かを判定する。このような判定により、新たに投稿されたコメントが不適切であるか否かをリアルタイムで判定し、不適切であると判定されたコメントの掲載順位を下位に設定するか、あるいは掲載対象から除外するように制御することができる。
Claims (4)
- 第1コンテンツに対して投稿されたコメントである第2コンテンツを閲覧したユーザによる、前記第2コンテンツが不適切であることを示し且つ前記第2コンテンツ内における不適切な表現の前記ユーザによる指定を含む報告を受け付ける受付部と、
前記受付部により受け付けられた前記報告に基づいて、前記第2コンテンツが不適切であるか否かを判定する第1判定部と、
前記第2コンテンツと、前記第1判定部による前記第2コンテンツが不適切であるか否かを示す判定結果を示すラベルと、の関係を学習して、判定モデルを生成する学習部と、
前記学習部により生成された前記判定モデルを用いて、前記第2コンテンツが不適切であるか否かを判定する第2判定部と、
を備え、
前記第1判定部は、前記受付部により受け付けられた前記報告の件数が閾値以上であり且つ前記ユーザの属性の分布に偏りがある場合、前記第2コンテンツが不適切であると判定する、
情報処理装置。 - 前記第1判定部により前記第2コンテンツが不適切であると判定された場合、前記第2コンテンツの掲載順位を下げるまたは掲載対象から除外するように、前記第2コンテンツの掲載順位を決定する順位決定部と、
前記順位決定部により決定された掲載順位に基づいて、前記第1コンテンツと前記第2コンテンツとを含むウェブページを生成するページ生成部と、
を備える、請求項1に記載の情報処理装置。 - コンピュータが、
第1コンテンツに対して投稿されたコメントである第2コンテンツを閲覧したユーザによる、前記第2コンテンツが不適切であることを示し且つ前記第2コンテンツ内における不適切な表現の前記ユーザによる指定を含む報告を受け付け、
受け付けられた前記報告に基づいて、前記第2コンテンツが不適切であるか否かを判定する第1判定を行い、
前記第2コンテンツと、前記第1判定による前記第2コンテンツが不適切であるか否かを示す判定結果を示すラベルと、の関係を学習して、判定モデルを生成し、
生成された前記判定モデルを用いて、前記第2コンテンツが不適切であるか否かを判定する第2判定を行う、
情報処理方法であって、
前記第1判定は、受け付けられた前記報告の件数が閾値以上であり且つ前記ユーザの属性の分布に偏りがある場合、前記第2コンテンツが不適切であると判定する、
情報処理方法。 - コンピュータに、
第1コンテンツに対して投稿されたコメントである第2コンテンツを閲覧したユーザによる、前記第2コンテンツが不適切であることを示し且つ前記第2コンテンツ内における不適切な表現の前記ユーザによる指定を含む報告を受け付けさせ、
受け付けられた前記報告に基づいて、前記第2コンテンツが不適切であるか否かを判定する第1判定を行わせ、
前記第2コンテンツと、前記第1判定による前記第2コンテンツが不適切であるか否かを示す判定結果を示すラベルと、の関係を学習させて、判定モデルを生成させ、
生成された前記判定モデルを用いて、前記第2コンテンツが不適切であるか否かを判定する第2判定を行わせる、
プログラムであって、
前記第1判定は、受け付けられた前記報告の件数が閾値以上であり且つ前記ユーザの属性の分布に偏りがある場合、前記第2コンテンツが不適切であると判定する、
プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021140147A JP7231682B2 (ja) | 2018-02-19 | 2021-08-30 | 情報処理装置、情報処理方法、およびプログラム |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018026741A JP6937707B2 (ja) | 2018-02-19 | 2018-02-19 | 情報処理装置、情報処理方法、およびプログラム |
JP2021140147A JP7231682B2 (ja) | 2018-02-19 | 2021-08-30 | 情報処理装置、情報処理方法、およびプログラム |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018026741A Division JP6937707B2 (ja) | 2018-02-19 | 2018-02-19 | 情報処理装置、情報処理方法、およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021193582A JP2021193582A (ja) | 2021-12-23 |
JP7231682B2 true JP7231682B2 (ja) | 2023-03-01 |
Family
ID=67773800
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018026741A Active JP6937707B2 (ja) | 2018-02-19 | 2018-02-19 | 情報処理装置、情報処理方法、およびプログラム |
JP2021140147A Active JP7231682B2 (ja) | 2018-02-19 | 2021-08-30 | 情報処理装置、情報処理方法、およびプログラム |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018026741A Active JP6937707B2 (ja) | 2018-02-19 | 2018-02-19 | 情報処理装置、情報処理方法、およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (2) | JP6937707B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7431926B1 (ja) | 2022-11-13 | 2024-02-15 | 倉内 馨子 | インターネットを使用した炎上防止システム |
JP7284336B1 (ja) * | 2022-12-27 | 2023-05-30 | ヤフー株式会社 | コンテンツ提供装置、コンテンツ提供方法、およびプログラム |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130151609A1 (en) | 2011-12-09 | 2013-06-13 | Yigal Dan Rubinstein | Content Report Management in a Social Networking System |
US20140172989A1 (en) | 2012-12-14 | 2014-06-19 | Yigal Dan Rubinstein | Spam detection and prevention in a social networking system |
US20150088897A1 (en) | 2013-09-24 | 2015-03-26 | Yahali Sherman | Automatic removal of inappropriate content |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8856165B1 (en) * | 2010-03-26 | 2014-10-07 | Google Inc. | Ranking of users who report abuse |
JP6209335B2 (ja) * | 2013-02-13 | 2017-10-04 | ソニーネットワークコミュニケーションズ株式会社 | 情報処理装置および情報処理方法 |
JP6415183B2 (ja) * | 2014-08-25 | 2018-10-31 | キヤノン株式会社 | サーバ装置、その制御方法及びプログラム |
JP2016071569A (ja) * | 2014-09-29 | 2016-05-09 | グリー株式会社 | プログラム、制御方法及び情報処理装置 |
-
2018
- 2018-02-19 JP JP2018026741A patent/JP6937707B2/ja active Active
-
2021
- 2021-08-30 JP JP2021140147A patent/JP7231682B2/ja active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130151609A1 (en) | 2011-12-09 | 2013-06-13 | Yigal Dan Rubinstein | Content Report Management in a Social Networking System |
US20140172989A1 (en) | 2012-12-14 | 2014-06-19 | Yigal Dan Rubinstein | Spam detection and prevention in a social networking system |
US20150088897A1 (en) | 2013-09-24 | 2015-03-26 | Yahali Sherman | Automatic removal of inappropriate content |
Non-Patent Citations (1)
Title |
---|
小田桐 優理,コンテンツプラットホームにおける機械学習、データセット公開・モデル公開による産学の発展,電子情報通信学会誌,一般社団法人電子情報通信学会,2017年01月01日,第100巻 第1号,pp.25~31 |
Also Published As
Publication number | Publication date |
---|---|
JP2019144722A (ja) | 2019-08-29 |
JP6937707B2 (ja) | 2021-09-22 |
JP2021193582A (ja) | 2021-12-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110046299B (zh) | 用于自动地执行隐式消息搜索的计算机化系统和方法 | |
US11438294B2 (en) | System and method for auto-formatting messages based on learned message templates | |
JP6367289B2 (ja) | オンライン・ソーシャル・ネットワークにおけるネットワーク指向の製品ロールアウト | |
US20190342415A1 (en) | Event information push method, event information push apparatus, and storage medium | |
JP6145576B2 (ja) | オンライン・ソーシャル・ネットワークにおける大規模ページ推薦 | |
AU2011202431B2 (en) | Methods, Apparatus, and Articles of Manufacture to Rank Users in an Online Social Network | |
JP7231682B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
US20150033141A1 (en) | System and method for providing an interactive message inbox | |
CN109889430A (zh) | 消息推送方法、装置、计算机设备及存储介质 | |
EP2382761A1 (en) | Predictive engine for interactive voice response system | |
US9596205B2 (en) | System and method for mailing list identification and representation | |
US20190036862A1 (en) | System and method for triaging in a message system on send flow | |
TW201205307A (en) | Method, apparatus and computer program product for efficiently sharing information | |
US10621680B2 (en) | System and method for alerting users to digital content objects of potential interest | |
WO2016169411A1 (zh) | 一种信息处理方法及其设备 | |
CN112241327A (zh) | 分享信息处理方法、装置、存储介质与电子设备 | |
US20230325947A1 (en) | Automatic analysis of digital messaging content method and apparatus | |
US10719217B2 (en) | Efficiently sharing user selected information with a set of determined recipients | |
CN105453081A (zh) | 回答人员相关问题 | |
US10560408B2 (en) | Computerized system and method for selectively communicating HTML content to a user's inbox as a native message | |
Mubin et al. | HCI research in the Middle East and North Africa: a bibliometric and socioeconomic overview | |
CN116955817A (zh) | 内容推荐方法、装置、电子设备以及存储介质 | |
US10645053B2 (en) | Generating a new user base using attractive e-mail addresses | |
CN103365858B (zh) | 基于一查询序列由多个源设备获取搜索结果的方法与设备 | |
KR20050112882A (ko) | 신뢰성 있는 컨텐츠를 제공하는 컨텐츠 검색 시스템 및 그방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210916 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220624 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220726 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220920 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230117 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230216 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7231682 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |