JP7012679B2 - 情報処理装置、コンテンツ配信装置、情報処理方法、およびプログラム - Google Patents
情報処理装置、コンテンツ配信装置、情報処理方法、およびプログラム Download PDFInfo
- Publication number
- JP7012679B2 JP7012679B2 JP2019050601A JP2019050601A JP7012679B2 JP 7012679 B2 JP7012679 B2 JP 7012679B2 JP 2019050601 A JP2019050601 A JP 2019050601A JP 2019050601 A JP2019050601 A JP 2019050601A JP 7012679 B2 JP7012679 B2 JP 7012679B2
- Authority
- JP
- Japan
- Prior art keywords
- index
- content
- ranking
- prediction
- contents
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000010365 information processing Effects 0.000 title claims description 29
- 238000003672 processing method Methods 0.000 title claims description 5
- 238000012545 processing Methods 0.000 claims description 45
- 238000009795 derivation Methods 0.000 claims description 35
- 238000012937 correction Methods 0.000 claims description 21
- 238000010801 machine learning Methods 0.000 claims description 5
- 238000010586 diagram Methods 0.000 description 10
- 238000000034 method Methods 0.000 description 10
- 230000008569 process Effects 0.000 description 7
- 238000002474 experimental method Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 238000007477 logistic regression Methods 0.000 description 3
- 230000000052 comparative effect Effects 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000003795 chemical substances by application Substances 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 235000019640 taste Nutrition 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Landscapes
- Information Transfer Between Computers (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Description
情報処理装置は、一以上のプロセッサにより実現される。情報処理装置は、利用者の端末装置に提供されるコンテンツの候補となる複数のコンテンツのそれぞれについて、コンテンツに関する指標を予測した予測指標を導出し、端末装置に提供されるコンテンツを選択するための情報として出力する装置である。情報を出力する先は、自装置の他モジュールであってもよいし、他装置であってもよい。
図1は、実施形態の情報処理装置を利用したコンテンツ配信装置100の構成および使用環境の一例を示す図である。コンテンツ配信装置100は、ネットワークNWを介して利用者の端末装置10およびサービスサーバ20と通信する。ネットワークNWは、例えば、インターネット、WAN(Wide Area Network)、LAN(Local Area Network)、プロバイダ端末、無線通信網、無線基地局、専用回線などを含む。
以下、ランキングに伴うバイアスについて説明する。予測CTRなどの予測指標は、将来の事象を予測したものであるため、所定の確率分布に従って導出されるものである。このため、ランクが高い広告コンテンツには、確率分布の中で、偶然に高い値が出たに過ぎないものが含まれることになる。図4は、予測指標の順位(ランク)ごとに確率分布が偏在する様子を示す図である。本図は、全ての広告コンテンツのCTRは0.10として、広告をn回インプレッションしたときのクリック数はn×0.10を期待値とする二項分布に従っていることを前提としている。ここでは、予測CTR=クリック数/nと定義する。図中、Dallは、ランキングされる前の各広告コンテンツの予測CTRの確率分布を示し、D1はランクが1(最も高い)となった広告コンテンツの予測CTRの条件付き確率分布を示し、D2はランクが2(1の次に高い)となった広告コンテンツの予測CTRの条件付き確率分布を示し、D3はランクが3(2の次に高い)となった広告コンテンツの予測CTRの条件付き確率分布を示している。図示するように、ランキングされた後の予測CTRの条件付き確率分布は、ランクが高くなるほど、ランキングされる前の確率分布から正方向にバイアスしている。これは、予測CTRが高い順にランク付けを考える場合、予測CTRが偶然に過大評価されたものほど高ランクに選ばれやすいという選択バイアスが生じていることを示している。
予測指標補正部130は、ランキング内となった広告コンテンツのそれぞれについて、予測指標導出部110と同じ種類の入力データを予測モデル164に入力することで、補正された予測CTR(以下、補正後予測CTR)または予測CTRの補正値を取得する。図7は、予測指標補正部130による処理の内容を模式的に示す図である。以下の説明では、予測モデル164は補正後予測CTRを出力するものとする。但し、予測指標補正部130は、予測指標導出部110とは異なり、着目する広告コンテンツよりもランキング指標が一つ下位の広告コンテンツのランキング指標v-と、着目する広告コンテンツよりもランキング指標が一つ上位の広告コンテンツのランキング指標v+とを予測モデル164に入力する。なお、ランキング指標v-、v+に代えて、着目する広告コンテンツに対する相対的なランキング指標の差分が入力されてもよい。
以下、予測モデル164を学習する段階の処理について説明する。予測モデル学習部140は、例えば、学習データ162を用いた機械学習(例えばロジスティックス回帰)によって、予測モデル164を学習する。
上記のように、予測モデル164は、実際に配信された広告コンテンツ、すなわちランキング内となった広告コンテンツに関する配信実績等に基づいて生成されるものである。このため、通常の機械学習の手法では、ランキング外となった広告コンテンツを含む母集団全体についてネガティブバイアスを排除するのは困難であった。この点、実施形態の手法では、一回目のランキング処理の前に、予測モデル164にパラメータv-=-∞、v+=+∞を入力して予測CTRを求めている。配信実績の無い広告コンテンツについてv+=+∞という状況は実際には生じないものであるが、ロジスティック回帰によって、配信実績の無い広告コンテンツについての予測CTRを、v+=+∞という前提で特徴ベクトルの近い配信実績を用いて類推することができる。この結果、予測指標導出部110が導出する予測CTRは、ネガティブバイアスの影響を低減したものとなる。
本出願の発明者は、実施形態の予測モデル164と、比較例の予測モデルとを用いて数値実験を行った。比較例の予測モデルとは、パラメータv-、v+を入力データとして用いないモデルである。数値実験において、五日分のログデータを用いて予測モデルを学習し、翌日一日分を評価データとした。これを三回に分けて実施した。図12は、数値実験の結果を示す図である。図中の英数字は、真のCTRと予測CTRとの一致度合いを示すキャリブレーションの値であり、広告コンテンツの母集団全体について評価した値である。図示するように、実施形態の予測モデル164は、キャリブレーションが大きく改善しており、真のCTRに近い値を予測することができることが分かった。
情報処理装置は、ネガティブバイアスの影響を低減するために、上記説明した予測モデル164を用いた手法と、広告コンテンツのインプレッション確率の逆数でサンプルを重みづけする手法とを混合して予測CTRを導出してもよい。
110 予測指標導出部
120 ランキング処理部
130 予測指標補正部
140 予測モデル学習部
150 コンテンツ提供部
160 記憶部
162 学習データ
164 予測モデル
Claims (8)
- 端末装置に提供されるコンテンツの候補となる複数のコンテンツのそれぞれについて、前記コンテンツに関する指標を予測した予測指標を導出する予測指標導出部と、
前記予測指標導出部により導出された予測指標に基づくランキング指標に基づいて、前記複数のコンテンツのランキングを行うランキング処理部と、
前記ランキングに伴うバイアスを低減するように前記予測指標を補正する予測指標補正部と、
を備え、
前記予測指標補正部は、前記ランキングの結果において着目するコンテンツよりも下位となったコンテンツのランキング指標と、前記着目するコンテンツよりも上位となったコンテンツのランキング指標とを含む入力データを予測モデルに入力することで、補正後の予測指標を導出する、
情報処理装置。 - 前記予測指標導出部は、前記着目するコンテンツよりも下位となったコンテンツのランキング指標を-∞、前記着目するコンテンツよりも上位となったコンテンツのランキング指標を+∞とした入力データを前記予測モデルに入力することで、前記予測指標を導出する、
請求項1記載の情報処理装置。 - 前記予測モデルは、コンテンツの配信実績と、配信時に前記予測指標導出部により導出されていた、前記ランキング結果において前記着目するコンテンツよりも下位となったコンテンツのランキング指標と、前記着目するコンテンツよりも上位となったコンテンツのランキング指標とを入力データとし、配信後にクリックされたか否かをラベルとした機械学習によって学習されたモデルである、
請求項1または2記載の情報処理装置。 - 前記予測モデルは、ロジスティックス回帰によって生成されるモデルである、
請求項3記載の情報処理装置。 - 前記コンテンツの配信実績と、配信時に前記予測指標導出部により導出されていた、前記ランキング結果において前記着目するコンテンツよりも下位となったコンテンツのランキング指標と、前記着目するコンテンツよりも上位となったコンテンツのランキング指標とを入力データとし、配信後にクリックされたか否かをラベルとした機械学習を行うことで前記モデルを生成する予測モデル学習部を更に備える、
請求項3または4記載の情報処理装置。 - 請求項1から5のうちいずれか1項記載の情報処理装置と、
前記ランキング処理部の処理結果に基づいて前記端末装置にコンテンツを提供するコンテンツ提供部と、
を備えるコンテンツ配信装置。 - コンピュータが、
端末装置に提供されるコンテンツの候補となる複数のコンテンツのそれぞれについて、前記コンテンツに関する指標を予測した予測指標を導出し、
前記導出された予測指標に基づくランキング指標に基づいて、前記複数のコンテンツのランキングを行い、
前記ランキングに伴うバイアスを低減するように前記予測指標を補正し、
前記予測指標を補正する際に、前記ランキングの結果において着目するコンテンツよりも下位となったコンテンツのランキング指標と、前記着目するコンテンツよりも上位となったコンテンツのランキング指標とを含む入力データを予測モデルに入力することで、補正後の予測指標を導出する、
情報処理方法。 - コンピュータに、
端末装置に提供されるコンテンツの候補となる複数のコンテンツのそれぞれについて、前記コンテンツに関する指標を予測した予測指標を導出させ、
前記導出された予測指標に基づくランキング指標に基づいて、前記複数のコンテンツのランキングを行わせ、
前記ランキングに伴うバイアスを低減するように前記予測指標を補正させ、
前記予測指標を補正させる際に、前記ランキングの結果において着目するコンテンツよりも下位となったコンテンツのランキング指標と、前記着目するコンテンツよりも上位となったコンテンツのランキング指標とを含む入力データを予測モデルに入力することで、補正後の予測指標を導出させる、
プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019050601A JP7012679B2 (ja) | 2019-03-19 | 2019-03-19 | 情報処理装置、コンテンツ配信装置、情報処理方法、およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019050601A JP7012679B2 (ja) | 2019-03-19 | 2019-03-19 | 情報処理装置、コンテンツ配信装置、情報処理方法、およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020154488A JP2020154488A (ja) | 2020-09-24 |
JP7012679B2 true JP7012679B2 (ja) | 2022-01-28 |
Family
ID=72559035
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019050601A Active JP7012679B2 (ja) | 2019-03-19 | 2019-03-19 | 情報処理装置、コンテンツ配信装置、情報処理方法、およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7012679B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7527063B1 (ja) | 2023-12-08 | 2024-08-02 | 株式会社Bonnou | 管理装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009048634A (ja) | 2007-08-14 | 2009-03-05 | Nhn Corp | Ctrを補正する方法およびシステム |
JP2009277231A (ja) | 2008-05-16 | 2009-11-26 | Nhn Corp | デジタル放送サービスにおける広告コンテンツ提供方法およびシステム、または広告コンテンツ露出方法およびシステム |
JP2015005024A (ja) | 2013-06-19 | 2015-01-08 | ヤフー株式会社 | 広告配信管理装置、広告配信システム、広告配信管理方法および広告情報管理プログラム |
JP2017107319A (ja) | 2015-12-08 | 2017-06-15 | ヤフー株式会社 | 広告抽出装置、広告抽出方法および広告抽出プログラム |
-
2019
- 2019-03-19 JP JP2019050601A patent/JP7012679B2/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009048634A (ja) | 2007-08-14 | 2009-03-05 | Nhn Corp | Ctrを補正する方法およびシステム |
JP2009277231A (ja) | 2008-05-16 | 2009-11-26 | Nhn Corp | デジタル放送サービスにおける広告コンテンツ提供方法およびシステム、または広告コンテンツ露出方法およびシステム |
JP2015005024A (ja) | 2013-06-19 | 2015-01-08 | ヤフー株式会社 | 広告配信管理装置、広告配信システム、広告配信管理方法および広告情報管理プログラム |
JP2017107319A (ja) | 2015-12-08 | 2017-06-15 | ヤフー株式会社 | 広告抽出装置、広告抽出方法および広告抽出プログラム |
Non-Patent Citations (1)
Title |
---|
佃 洸摂,Songrium派生要因分析,第9回データ工学と情報マネジメントに関するフォーラム (第15回日本データベース学会年次大会) [online] ,日本,電子情報通信学会データ工学研究専門委員会 日本データベース学会 情報処理学会データベースシステム研究会 |
Also Published As
Publication number | Publication date |
---|---|
JP2020154488A (ja) | 2020-09-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220114231A1 (en) | Using visitor context and web page features to select web pages for display | |
US20210035207A1 (en) | Adjust ads auction using predicted user response to an in-ad survey | |
US9980011B2 (en) | Sequential delivery of advertising content across media devices | |
US9460451B2 (en) | Quality scoring system for advertisements and content in an online system | |
US20160210658A1 (en) | Determining touchpoint attributions in a segmented media campaign | |
US8788338B1 (en) | Unified marketplace for advertisements and content in an online system | |
US20160210656A1 (en) | System for marketing touchpoint attribution bias correction | |
JP6911603B2 (ja) | ユーザによって訪問される施設のカテゴリの予測モデルを生成する方法、プログラム、サーバ装置、及び処理装置 | |
US9910898B2 (en) | Smart exploration methods for mitigating item cold-start problem in collaborative filtering recommendation systems | |
US20130132437A1 (en) | Optimizing internet campaigns | |
WO2013155092A1 (en) | Method and apparatus for intent modeling and prediction | |
US20100257022A1 (en) | Finding Similar Campaigns for Internet Advertisement Targeting | |
CA2892169A1 (en) | Ad-words optimization based on performance across multiple channels | |
US20100217668A1 (en) | Optimizing Delivery of Online Advertisements | |
US20210192549A1 (en) | Generating analytics tools using a personalized market share | |
JP6986906B2 (ja) | 決定装置、決定方法及び決定プログラム | |
US20140344060A1 (en) | System and method for targeting user interests based on mobile call logs | |
JP6968033B2 (ja) | 情報処理装置、コンテンツ配信装置、情報処理方法、およびプログラム | |
JP7012679B2 (ja) | 情報処理装置、コンテンツ配信装置、情報処理方法、およびプログラム | |
JP2019036173A (ja) | 算出装置、算出方法、算出プログラム及び第2モデル | |
JP6810184B2 (ja) | 算出装置、算出方法及び算出プログラム | |
JP6761068B2 (ja) | 決定装置、決定方法及び決定プログラム | |
US9786014B2 (en) | Earnings alerts | |
JP7010870B2 (ja) | 決定装置、決定方法及び決定プログラム | |
De Reyck et al. | Vungle Inc. improves monetization using big data analytics |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20191101 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20191108 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201211 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20211028 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20211102 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211215 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211221 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220118 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7012679 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |