JP3389948B2

JP3389948B2 - 表示広告選択システム

Info

Publication number: JP3389948B2
Application number: JP33764998A
Authority: JP
Inventors: 篤祥中村; 直樹安倍
Original assignee: NEC Corp
Current assignee: NEC Corp
Priority date: 1998-11-27
Filing date: 1998-11-27
Publication date: 2003-03-24
Anticipated expiration: 2018-11-27
Also published as: US6591248B1; JP2000163477A

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、情報フィルタリン
グ技術に関し、特にＷＷＷ（World Wide Web）の各Ｗｅ
ｂページに表示するのに適したバナー広告を選択する表
示広告選択システムに関する。

【０００２】

【従来の技術】ワールドワイドウェブ（World Wide We
b）は、相互に関連付けたハイパーテキスト構造をもつ
インターネット上の情報発信システムおよびそのサーバ
システムをいい、その実体は、インターネット上のハイ
パーテキストで書かれたページの集合体であり、単にウ
ェブ（Ｗｅｂ）と呼ぶ場合も多い。このウェブでは、当
初はテキスト情報のみであったが、最近は画像や音声、
動画といったマルチメディアデータを扱えるようになっ
いる。ウェブでは、ＨＴＭＬで記述されたウェブサイト
のデータがサーバに蓄えられており、これらのデータの
アクセスにhttpというプロトコルが使われ、世界中に散
らばるウェブサイトを閲覧するため、ウェブブラウザと
いうソフトウェアが使用されている。

【０００３】このウェブのページに表示するバナー（Ba
nner：標識、マーク）広告の選択は、ホームページ等の
ページ閲覧要求またはキーワード検索時に送信されてく
る情報（検索キーワード、ユーザドメイン名、ユーザＩ
Ｄ、日時等）や、閲覧ページの情報（ページの内容、キ
ーワード、カテゴリ等）、ユーザ情報（過去の閲覧ペー
ジ、好みの分野等）を利用して行われている。

【０００４】このような情報を利用したバナー広告の絞
り込みの方法としては、規則を直接指定する方法、ユー
ザの過去の履歴から好みを学習して、好きと予想される
バナー広告を選択する方法がとられてきた(AdForce社の
AdForce、AdKnowledge社のAdKnowledge、Double Click
社のDART、Aptex社のSelect Cast for Ad Servers等)。

【０００５】また、言葉や属性のクラスタリングの方法
としては、様々な方法が存在する。例えば、記述長最小
原理を用いた言葉のクラスタリングの方法としては、
李、安倍による方法（特願平09-306966号「単語自動分
類装置及び単語自動分類方法」に記載）がある。しか
しながら、これまでバナー広告の配信において、過去の
クリック実績データを基に、検索キーワードやページ属
性をクラスタし、それを将来の広告の選択に活かす有効
な方法は知られていなかった。

【０００６】さらに、バナー広告を選択する際に、成功
確率未知の選択肢が複数ある場合に、過去の試行におい
て観測された成功数と失敗数に基づいて、次にとるべき
最適な選択肢を特徴づけるGittins Indexなる概念が、
ベイズ統計学の文脈で知られているが（J.C. Gittinsに
よる著書「Multi-armed bandit allocation indices」
（John Wiley and Sons, 1988)に詳細に記載）、様々な
制約条件のもとでクリック率が最大になるように、バナ
ー広告を選択する方式において、この概念を活かす有効
な方法は知られていなかった。

【０００７】

【発明が解決しようとする課題】上述したように、従来
の技術では、個々のページやユーザに適したバナー広告
を表示することは出来るが、バナー広告の表示回数とク
リック回数を監視しながら、バランスよく計算効率的に
バナー広告を選択する能力に欠けていた。

【０００８】また、検索キーワードや閲覧中のページ等
の属性に連動して、表示広告を選択するにあたって、過
去のクリック実績が類似する属性値をクラスタ化し、学
習パラメータを減らすことにより学習の速度を高める機
能に欠けていた。

【０００９】さらに、属性を条件とした条件付きクリッ
ク率を学習するにあたって、クリック率の推定精度を高
めるために様々な広告を選択する要請と、クリック推定
値の高い広告を選択する要請との間のトレードオフを、
最適に解決する機能に欠けていた。

【００１０】本発明の目的は、バナー広告の表示回数と
クリック回数のデータを使って、契約表示回数や契約ク
リック回数等の制約を満たしながら、全体のクリック率
が大きくなるように、表示すべきバナー広告を選択する
表示広告選択システムにおいて、上記の諸問題を克服
し、少ないデータから高いクリック率を達成する計算効
率的な表示広告選択システムを提供することである。

【００１１】

【課題を解決するための手段】前記目的を達成するため
本発明は、ＷＷＷ（World Wide Web）を介して閲覧され
るページに表示されるバナー広告を、ページ閲覧要求時
に送信されてくる情報、閲覧ページの情報、ユーザ情報
等から得られる属性リストにより選択する方式をとり、
しかも入力属性分布、クリック実績から推定される各属
性の入力確率と各属性に対する各広告のクリック率を使
って、広告の目標表示回数等の条件を満たしながら全体
のクリック率が最大になるように各属性に対して各広告
の表示確率を求める表示確率表作成手段を特徴とする学
習手段と、その確率に従って表示すべき広告を選択する
広告選択手段を備えた方式において、上記の表示確率表
作成手段において解く制約付きの目的関数最大化問題
を、輸送問題の解法を適用することにより解く目的関数
最大化手段を有することを特徴とする。

【００１２】また、本発明は、上記の学習手段において
表示確率表作成手段の前処理として、クリック実績の類
似している属性のクラスタリングを行うクラスタ表作成
手段を備え、上記の広告選択手段において入力属性に対
しその属性が属するクラスタを求めてからそのクラスタ
に対する各広告の表示確率に従って表示すべき広告を選
択することを特徴とする。

【００１３】また、本発明は、第二の発明のクラスタ表
作成手段において、属性のクラスタリングを、属性によ
り条件づけられた条件付きクリック率を各属性に対する
過去のクリック率実績から推定する問題として捉え、属
性を束ねることにより推定パラメータを減らして推定精
度を高める手段として、記述長最小原理を用いた欲張り
戦略によって逐次的に最大もしくは準最大の総記述長減
少をもたらす属性の結合を繰り返すことにより行うこと
を特徴とする。

【００１４】また、上記表示広告選択システムのクラス
タ表作成手段において、属性のクラスタリングを、属性
により条件づけられた条件付きクリック率を各属性に対
する過去のクリック率実績から推定する問題として捉
え、属性を束ねることにより推定パラメータを減らして
推定精度を高める手段として、赤池情報量規準を用いた
欲張り戦略によって逐次的に最大もしくは準最大の情報
量減少をもたらす属性の結合を繰り返すことにより行う
ことを特徴とする。

【００１５】また、上記表示広告選択システムにおい
て、属性に対する広告の表示回数が少ないほど最低表示
確率として大きな値を確保する最低表示確率確保手段を
備えたことを特徴とする。

【００１６】また、上記表示広告選択システムにおい
て、各々の属性ｉ、広告ｊに対するクリック率推定値ｃ
を、表示回数とクリック回数から計算する方式におい
て、広告ｊの属性に類似している属性をもつ過去の広告
ｊ’の属性ｉに対するクリック率推定値μを求め、属性
ｉの広告ｊに対する表示回数に１を加え、クリック回数
にμを加えた値からｃを計算することを特徴とする。

【００１７】また、上記表示広告選択システムにおい
て、最大化する目的関数を構成するクリック率推定値の
代わりにGittins Index またはLaplace推定により補正
された「補正 Gittins Index」を用いることを特徴とす
る。

【００１８】また、上記表示広告選択システムにおい
て、複数属性の入力に対し、１属性を無作為に選択し、
その属性にたいする各広告の表示確率に従って表示すべ
き広告を選択することを特徴とする。

【００１９】また、上記広告選択手段を備えている表示
広告選択システムにおいて、上記学習手段において、ク
リック実績の類似している属性のクラスタリングを行う
クラスタ表作成手段を有し、属性に対する広告の表示回
数が少ないほど最低表示確率として大きな値を確保する
最低表示確率確保手段を備え、広告のクリック率を類似
している属性をもつ過去の広告から推定されるクリック
率をクリック回数に加えて、それに対するGittins Inde
xで推定する目的関数係数決定手段を有し、解くべき制
約付きの目的関数最大化問題を輸送問題の形式に変形
し、輸送問題の解法を適用する目的関数最大化手段を有
することを特徴とする。

【００２０】また、上記広告選択手段において、複数入
力属性に対し１属性を無作為に選択しその属性が属する
クラスタを求めてからそのクラスタに対する各広告の表
示確率に従って表示すべき広告を選択することを特徴と
する。

【００２１】

【発明の実施の形態】次に、本発明の実施形態について
図面を参照して詳細に説明する。

【００２２】［第１の実施形態］本発明の第１の実施形
態について、図１を参照しつつ説明する。図１におい
て、１１はワールドワイドウェブ（ＷＷＷ）としてのイ
ンターネット網に接続されている一ユーザであり、各ユ
ーザは各種のホームページの閲覧やキーワード検索を行
う。ホームページやキーワード検索サービスで情報を提
供している情報提供会社１３は、バナー広告を掲載する
ことで広告収入を得ている。掲載広告の管理は煩雑であ
るため、自社または広告管理専門の会社の広告サーバで
行なわれている。バナー広告をクリックすると広告提供
者１６のより詳細な広告情報にアクセスするようになっ
ているため、バナー広告のクリック回数が多いほど広告
提供者にとって広告の宣伝効果がある。

【００２３】また、１２はウェブ閲覧ソフトであり、ペ
ージ単位にテキスト、画像、音声のマルチメディアを表
示できる。ホームページの閲覧やキーワード検索の要求
を行うとそのサービスを提供している情報提供会社１３
から、要求されたコンテンツがウェブ閲覧ソフトに送信
されてくる。そのページがバナー広告掲載ページである
場合には、広告サーバ１４に存在する広告呼出ＣＧＩ
（Common Gateway Interface）プログラムのＵＲＬ（Un
iform Resource Locator）がコンテンツに埋め込まれて
おり、それによりウェブ閲覧ソフトは広告サーバにバナ
ー広告の選択とその画像データの送信を要求する。ここ
で、ＵＲＬはインターネット上に存在する様々なデータ
のありかをそこまでのアクセス経路で記述するための書
式であり、通常、プロトコル、サーバ名、ファイル名の
順序で記述される。例えば、http://www.aabbcc.co.jp/
index.htmlのように記述される。広告サーバから送信
されてきたバナー広告をクリックすると、広告サーバ１
４でクリック実績が記録された後、広告提供者１６のも
つ詳細な広告情報のホームページが表示される。

【００２４】また、１３は情報提供会社であり、インタ
ーネット上にコンテンツ１２１を提供しており、広告提
供者１６と契約して広告提供者のバナー広告をコンテン
ツ１２１のページに掲載するサービスも行っている。し
かし、複数のバナー広告を複数のページに表示する契約
を行うため、柔軟性を持たせるために、バナー広告をそ
のまま載せるのではなく、広告サーバに広告の選択と画
像データの送信を行ってもらうために、その作業を行う
ＣＧＩのプログラムのＵＲＬをコンテンツ１２１に埋め
込んでウェブ閲覧ソフトに送信する。

【００２５】また、１４は情報提供会社１３または広告
管理専門の会社が備える広告サーバであり、広告サーバ
１４は、バナー広告を選択しその画像データを送信する
バナー広告表示手段１４１と、クリックされた時にクリ
ック実績を記録し広告提供者の詳細な広告ページを表示
させる広告ページ表示手段１４３の他、広告選択を行う
ときに使われる表示確率関数を学習させるために入力属
性分布１４５とクリック実績１４６と広告情報１４７を
学習エンジンに提供する学習情報提供手段１４２と、広
告の契約情報等を管理する広告管理手段１４４から構成
される。

【００２６】また、１５は学習エンジンであり、学習エ
ンジン１５内には、広告選択手段１５１と、広告選択手
段１５１が参照する予測表示確率関数を記憶する表示確
率関数記憶部１５３と、表示確率関数記憶部１５３に記
録する学習手段１５２と、学習手段１５２が参照・更新
するデータ記憶部１５４とから構成されている。

【００２７】図１を参照すると、本発明の実施形態によ
る学習エンジン１５は、バナー広告表示手段１４１から
属性リストを入力として、表示確率関数記憶部１５３に
格納されている予測表示確率関数を使って、適した広告
ＩＤを選択してバナー広告表示手段１４１に出力する広
告選択手段１５１と、入力属性分布１４５、クリック実
績１４６、広告情報１４７を入力として、データ記憶部
１５４に格納されている過去のクリック実績１４６と広
告属性を参照・更新し、表示確率関数記憶部１５３に格
納されている表示確率関数を更新する学習手段１５２と
を含んでいる。

【００２８】つぎに、図２〜図８を参照して、発明の実
施形態の動作について詳細に説明する。

【００２９】図２は、発明の実施形態における学習手段
１５２の流れ図である。学習手段１５２の入力は、入力
属性分布１４５、クリック実績１４６、広告情報１４７
の３つであり、広告サーバ１４の学習情報提供手段１４
２から提供される。入力属性分布１４５は、ある期間内
に閲覧・検索された広告掲載ページの属性の出現頻度の
情報であり、属性１と入力回数１、属性２と入力回数
２、属性ｎと入力回数ｎとが対となって学習手段１５２
に入力される。

【００３０】また、クリック実績１４６は、各属性、各
広告に対し、その属性をもつページにその広告を表示し
た表示回数と、その内クリックされたクリック回数の情
報であり、それぞれが対となって学習手段１５２に入力
される。広告情報１４７は、スケジューリング対象の広
告の情報であり、各広告に対し、ある期間内の目標表示
回数、レンタル属性（その属性のページにはある割合以
上で広告を表示する契約）と、レンタル割合、抑制属性
（その属性のページにはできる限り広告を表示しない契
約）、及び広告属性（その広告を表すキーワード）を含
んで学習手段１５２に入力される。

【００３１】学習手段１５２は、クラスタ表作成手段２
１と表示確率表作成手段２２とからなる。クラスタ表作
成手段２１は、入力情報を基に、属性のクラスタリング
を行う。結果は表示確率関数記憶部１５３内にクラスタ
表２３として出力する。例えば、属性ｉ（１）として属
性１と属性４，属性６…とが同一クラスとして記録され
る。

【００３２】また、表示確率表作成手段２２は最低表示
確率確保手段２２１、目的関数係数決定手段２２２、目
的関数最大化手段２２３からなり、表示確率関数記憶部
１５３内に表示確率表２４を出力する。表示確率表２４
は、クラスタリング後の各属性ｉ（ｘ）に対する各広告
ｊの表示確率ｄ（ｘ，ｊ）の表である。例えば、属性ｉ
（１）に対し、広告１の表示確率ｄ（１，１）は表示確
率１１，広告２の表示確率ｄ（１，２）は表示確率１２
…という表示確率表２４が作成される。

【００３３】ここで、入力属性分布１４５とクラスタ表
２３から求まるクラスタリング後の各属性ｉ（ｘ）の全
体に対する入力割合をｋ（ｘ）とする。このとき、ｋ
（ｘ）・ｄ（ｘ，ｊ）は属性ｉ（ｘ）のページが閲覧・
検索され、しかも広告ｊが表示される割合を表す。各属
性ｉ（ｘ）、各広告ｊ毎に係数ｃ（ｘ，ｊ）を考え、目
的関数を、全ての属性ｉ（ｘ）、全ての広告ｊに関する
ｃ（ｘ，ｊ）・ｋ（ｘ）・ｄ（ｘ，ｊ）の和とする。表
示確率表作成手段２２では、この目的関数がｄ（ｘ，
ｊ）に関する制約式を満たす範囲内で最大になるよう
に、表示確率ｄ（ｘ，ｊ）を求める。

【００３４】また、最低表示確率確保手段２２１では、
広告情報１４７に書かれたレンタル属性、抑制属性、及
び現時点までの表示回数から、表示確率ｄ（ｘ，ｊ）に
関する制約式ｄ（ｘ，ｊ）≧Ｂ（ｘ，ｊ）（ｘ＝1,2,…s，ｊ＝1,…,m） …（１）を求める。但し、ｓはクラスタリング後の属性数、ｍは
全公告数とする。

【００３５】つぎに、目的関数係数決定手段２２２は、
目的関数の係数ｃ（ｘ，ｊ）を決定する。目的関数最大
化手段２２３は、式（１）の制約式の他、広告情報１４
７に書かれている目標表示回数から計算される目標表示
割合ｈ（ｊ）に関する制約式

【００３６】

【数１】及び表示確率ｄ（ｘ，ｊ）が、各属性ｉ（ｘ）に対し、
全ての広告ｊに対する和が１になるという制約式

【００３７】

【数２】の３つの式を考え、制約式（１）（２）（３）を満たし
ながら、目的関数

【００３８】

【数３】を最大化する線形計画問題を解く。ここで、ｐ（ｘ，ｊ）＝ｋ（ｘ）・ｄ（ｘ，ｊ）とおけば、この線形計画問題は制約式

【００３９】

【数４】を満たしながら目的関数

【００４０】

【数５】を最大化するヒッチコック型の輸送問題と呼ばれる特殊
な型の線形計画問題に変換される。本発明では、式
（８）に示す目的関数を有することを「輸送問題」と定
義し、いわば線形計画問題に対する変形線形計画問題で
あるといえる。

【００４１】また、本発明では、輸送問題に使われるシ
ンプレックス法の特殊な解法（古林、「線形計画法入
門」第８章輸送問題第８．５節シンプレックス法、産
業図書、１９８０、pp.163-164）を利用する。ここで、
輸送計画問題とは、例えば、何カ所かの工場で生産され
た製品（例えば、ビール）を、小売店に最も安上がりな
方法で輸送する問題を解く最適化設計計画方法のひとつ
である。この場合、各工場での一製品の生産量と、小売
店の販売量と、各工場から各小売店への輸送コストが与
えられて、全体の輸送コストが最小になるように各工場
から各小売店への輸送量を決めるという問題になる。こ
の点に関し、本バナー広告選択問題では、属性クラスタ
ｘの入力割合ｋ（ｘ）が工場ｘにおける生産量、広告ｊ
の目標表示割合ｈ（ｊ）が小売店ｊの販売量、係数ｃ
（ｘ、ｊ）が工場から小売店ｊへの輸送コストに対応す
る。但し、本バナー広告選択問題では、工場ｘから小売
店ｊへの輸送量に対応するｄ（ｘ、ｊ）を、総輸送コス
トに対応する値が最大になるように決める。

【００４２】つぎに、図３を参照して、クラスタ表作成
手段２１の動作について詳細に説明する。

【００４３】図３において、Ｐを属性集合の分割［Ｐ＝
｛ｃ₁，ｃ₂，…，ｃ_s｝］とし、Ｐ中のクラスタｃ_iに属
する属性が入力された時、広告ｊのバナーを表示すると
確率ｃ^P（ｉ，ｊ）でクリックされるという条件付き確
率分布のモデルを考える。このとき、クラスタｃ_iに属
する属性が入力された時に、広告ｊのバナーが表示され
た頻度をＤ^P（ｉ，ｊ）、その内クリックされた頻度を
Ｃ^P（ｉ，ｊ）とするとｃ^P（ｉ，ｊ）の最尤推定量はＣ
^P（ｉ，ｊ）／Ｄ^P（ｉ，ｊ）である。ただし、ここで、
Ｄ^P（ｉ，ｊ）、Ｃ^P（ｉ，ｊ）は分割Ｐに依存する量な
ので、上付き添字Ｐを用いたが、以降分割Ｐは文脈から
明らかなので省略する。

【００４４】本発明のクラスタリング法は、情報量規準
に基づいており、次の２つ値の和Ｉ（Ｐ）＝ＤＤ（Ｐ）
＋ＭＤ（Ｐ）で分割Ｐを評価し、最も小さくなる分割を
最良のものとする。

【００４５】ここで、情報量規準の一方のＤＤ（Ｐ）は
モデルの最大対数尤度（またはモデルによるデータ記述
長とも呼ばれる）を表しており、以下の式によって定義
される。

【００４６】

【数６】また、情報量規準の他方のＭＤ（Ｐ）はモデルの複雑さ
を表しており、情報量規準として、何を用いるかによっ
て定義が異なるが、ここでは、赤池情報量規準（ＡＩ
Ｃ：Akaike Information Criterion）もしくは記述長
最小原理（ＭＤＬ：Minimum Description Length）を用
いる。赤池情報量規準については、数理科学 No.153 19
76年3月号掲載の赤池弘次による解説文「情報量規準AIC
とは何か」に、また記述長最小原理については、Automa
tica誌 Vo. 14 1978年、465頁--471頁掲載のJ. Rissane
nによる論文「Modeling by shortest data descriptio
n」に詳細に記載されている。

【００４７】赤池情報量規準を用いた場合は、情報量規
準によるモデルの難しさＭＤ（Ｐ）は、自由パラメータ
数となり、以下の式で与えられる。

【００４８】

【数７】この数式により、赤池情報量規準は定義される。

【００４９】また、記述長最小原理（ＭＤＬ：Minimum
Description Length）を用いた場合は、ＭＤ（Ｐ）はモ
デル記述長となり、以下の式で与えられる。

【００５０】

【数８】この数式により、記述長最小原理による情報量規準の他
方を定義できる。

【００５１】これは、それぞれのパラメータｃ（ｉ，
ｊ）を

【００５２】

【数９】のビットで記述した時の記述長である。直観的には、推
定値の分散がＯ（１／Ｄ（ｉ，ｊ））と考えられるた
め、誤差を考えるとそれ以上の記述の必要はないことに
よる。なお、赤池情報量規準を用いた場合はＩ（Ｐ）を
情報量と呼び、記述長最小原理を用いた場合はＩ（Ｐ）
を記述長と呼ぶ。

【００５３】さて、Ｉ（Ｐ）が最小となる分割Ｐを求め
るにあたって、全ての分割Ｐを枚挙する方法をとると、
計算量が膨大になってしまうので、本発明の方式は欲張
りヒューリスティックに基づく計算量削減の最大情報量
減少対方式である。即ち、この方式では、最初は１属性
ずつ別々のクラスタに入るモデルを考え、最も情報量の
値が減るような２つのクラスタの結合を繰り返すという
方法である。

【００５４】図３に示すのは、この方式の流れ図であ
る。クラスタ表作成手段２１は、初期化手段２１１、最
大情報量減少対の発見手段２１２、停止条件試験手段２
１３、最大情報量減少対の結合手段２１４、そして出力
・終了手段２１５とからなる。

【００５５】初期化手段２１１では、分割集合Ｐを全て
の属性が一個属する集合の族として初期化される。ま
た、全ての属性ｉと広告ｊに対して、Ｄ（｛ｉ｝，ｊ）
とＣ（｛ｉ｝，ｊ）がそれぞれＤ（ｉ，ｊ）とＣ（ｉ，
ｊ）として初期化される。

【００５６】最大情報量減少対の発見手段２１２では、
全ての属性クラスタの対ｐ１、ｐ２に対して、それらを
結合した時にもたらされる情報量の減少量を計算し、そ
の量を最大にする対を発見し、これをｐ１^*、ｐ２^*とし
て格納する。

【００５７】停止条件試験手段２１３では、上記最大情
報量減少対の発見手段２１２で発見された最大情報量減
少対の情報量減少量が０以下か否かを計算し、もしそう
であるならば、出力・終了手段２１５に進み、出力・終
了手段２１５においてその時点の分割Ｐの値を出力して
終了する。そうでないならば、最大情報量減少対の結合
手段２１４に進み、Ｐの分割において、ｐ１^*、ｐ２^*を
結合したものを新たな分割Ｐとして格納し、結合された
新しいクラスタｐ１^*Ｕｐ２^*に対して、クリック実績お
よび表示回数実績を、それぞれのクラスタｐ１、ｐ２の
クリック実績および表示回数実績の和として更新し、最
大情報量減少対の発見手段２１２に戻る。

【００５８】なお、上記の最大情報量減少対の発見手段
２１２において、全ての属性クラスタの対ｐ１、ｐ２に
対して、それらを合併した時にもたらされる情報量の減
少量を計算する代わりに、無作為に選ばれた複数の対ｐ
１、ｐ２に対して、合併した時にもたらされる情報量の
減少量を計算し、その量を最大にする対を発見し、ｐ１
^*、ｐ２^*として格納することにより、計算効率性の向上
を図ることも可能である。

【００５９】次に、図４〜図７を参照して、表示確率表
作成手段２２の動作について詳細に説明する。

【００６０】図４は表示確率表作成手段２２の最低表示
確率確保手段２２１の流れ図である。最低表示確率確保
手段２２１は個別情報からの制約式作成のステップ４１
と、全体からみた調整ステップ４２からなる。個別情報
からの制約式作成のステップ４１では、クラスタリング
後の各属性ｉ（ｘ）、各広告ｊに対する制約式ｄ（ｘ，
ｊ）≧Ｂ（ｘ，ｊ）を作成するために、Ｂ（ｘ，ｊ）の
決定を行う。

【００６１】先ず、属性ｘ（ｉ）が広告ｊの抑制属性の
場合（ステップ４１１）には、Ｂ（ｘ，ｊ）は、Ｂ（ｘ，ｊ）＝０（９）とする。属性ｉ（ｘ）が広告ｊの割合ｒ（ｉ（ｘ），
ｊ）のレンタル属性の場合（ステップ４１２）には、Ｂ
（ｘ，ｊ）は、Ｂ（ｘ，ｊ）＝ｒ（ｉ（ｘ），ｊ）（１０）とする。属性ｉ（ｘ）が広告ｊの抑制属性でもレンタル
属性でもない場合（ステップ４１３）には、表示回数Ｄ
（ｘ，ｊ）が少ない場合の表示確率がある程度高くなる
ように、Ｂ（ｘ，ｊ）を、

【００６２】

【数１０】とする。全体からみた調整ステップ４２では、ステップ
４１で作成された制約式による確保部分の合計が大きす
ぎないかチェックし調整する。ステップ４２１では、各
属性ｉ（ｘ）に関し、全ての広告ｊに対する表示確率確
保部分Ｂ（ｘ，ｊ）の合計が１を越えているか、また各
広告ｊに関し、全ての属性ｉ（ｘ）によって、表示され
る確率ｋ（ｘ）・Ｂ（ｘ，ｊ）の合計が、目標表示割合
ｈ（ｊ）を越えているかをチェックし、越えている場合
はステップ４２２にて式

【００６３】

【数１１】により調節する。

【００６４】また、図５〜図７を参照して、目的関数決
定手段２２２の動作について詳細に説明する。

【００６５】図５は目的関数係数決定手段２２２の流れ
図である。目的関数係数決定手段２２２では、クラスタ
リング後の各属性ｉ（ｘ）、各広告ｊに対し、最大化す
る目的関数の係数ｃ（ｘ，ｊ）を決定する。先ず広告情
報１４７により、属性ｉ（ｘ）が広告ｊの抑制属性であ
るかをチェックする（ステップ５１）。抑制属性である
場合（ステップ５４）にはｃ（ｘ，ｊ）＝−１とする。
抑制属性でない場合は、広告情報１４７に書かれた広告
属性から、データ記憶部１５４に格納されている過去の
広告で最も似ているものを探し、そのクリック実績から
広告ｊのクリック率μ（ｘ，ｊ）を推定する（ステップ
５２）。

【００６６】ここで、広告間の類似度に関する情報が欠
如している場合、もしくは、それを利用しない場合に
は、μ（ｘ，ｊ）＝１／２とすることも可能である。抑
制属性でない場合のクリック率ｃ（ｘ，ｊ）は、クリッ
ク実績１４６からわかる属性ｉ（ｘ）のページに広告ｊ
が表示された回数Ｄ（ｘ，ｊ）に１を加えた値と、Ｄ
（ｘ，ｊ）回の内クリックされた回数Ｃ（ｘ，ｊ）にク
リック率推定値μ（ｘ，ｊ）を加えた値からクリック率
を推定する推定関数Ｃｏｅｆによって求める（ステップ
５３）。ステップ５３の推定関数Ｃｏｅｆには、様々な
クリック率の推定法を用いることが可能であるが、通常
は

【００６７】

【数１２】とする。上記の推定関数Ｃｏｅｆの計算で、いわゆるGi
ttins IndexまたはLaplace推定により補正された「補正
Gittins Index」を用いて補正を行うことも可能であ
り、後に図７を用いて説明するように、本発明の提示広
告選択方式ではこれを用いる。なお、Laplace推定量に
ついては、竹内啓編統計学辞典(東洋経済新報社)の77
頁--78頁に「Laplaceの継起の法則」として詳細に記載
されており、また、Gittins Indexについては、前述の
J. C. Gittinsによる著書「Multi-armedbandit allocat
ion indices」(John wiley and Sons, 1988)に詳細に記
載されている。「補正Gittins Index」は本発明におい
て導入された概念である。

【００６８】つぎに、図６は、図５の広告属性からのク
リック率μ（ｘ，ｊ）の推定（ステップ５２）の動作の
流れ図である。先ず、クリック実績１４６と広告情報１
４７に出現する全ての属性と広告に関する情報を広告属
性データベース６４とクリック実績データベース６５に
反映する（ステップ６１）。

【００６９】次に、広告情報１４７内の各広告ｊに対
し、広告ｊの広告属性集合ｖ（ｊ）と最も似ている広告
属性集合ｖ（ｙ（ｊ））をもつ広告ｙ（ｊ）を広告属性
データベース６４内で探す。広告属性データベース６４
には、過去の広告の広告属性集合が格納されている。広
告属性集合ｖ（ｊ）とｖ（ｊ’）の間の類似度Ｓｉｍ
（ｖ（ｊ），ｖ（ｊ’））は、ｖ（ｊ）とｖ（ｊ’）を
ベクトルとみた場合の成す角の余弦（ｃｏｓ）で測り、
次の式で計算される。

【００７０】

【数１３】但し、"｜ｖ（ｊ）｜"、"｜ｖ（ｊ’）｜"などは集合ｖ
（ｊ）、ｖ（ｊ’）などの要素数を表し、"・"は内積演
算を表す。最後に、クラスタ表２３内の全ての属性ｉ
（ｘ）、広告情報１４７内の全ての広告ｊに対し、ステ
ップ６２で求めた最も似ている広告ｙ（ｊ）のクリック
実績をクリック実績データベース６５で調べ、それから
クリック率の推定値μ（ｘ，ｊ）を求める（ステップ６
３）。

【００７１】つぎに、クリック実績データベースには、
過去の広告の各属性に対する表示回数と、クリック回数
が格納されており、そのデータを使って属性ｉ（ｘ）の
クラスタにまとめられた属性のページに広告ｙ（ｊ）が
表示された回数Ｄ（ｘ，ｙ（ｊ））と、その内クリック
された回数Ｃ（ｘ，ｙ（ｊ））を求める。

【００７２】図６に示すように、先ず、Ｄ（ｘ，ｙ
（ｊ））が０か否かを調べる（ステップ６３１）。Ｄ
（ｘ，ｙ（ｊ））が０の場合には、クリック実績データ
ベース６５内の平均クリック率をμ（ｘ，ｊ）とする
（ステップ６３２）。Ｄ（ｘ，ｙ（ｊ））が０でない場
合には、Ｃ（ｘ，ｙ（ｊ））をＤ（ｘ，ｙ（ｊ））で割
ったクリック割合をμ（ｘ，ｊ）とする（ステップ６３
３）。

【００７３】次に、図５のステップ５３の関数Ｃｏｅｆ
のGittins IndexおよびLaplace推定により補正された
「補正 Gittins Index」を使った計算法について、図７
を用いて詳細に説明する。

【００７４】特定の属性値に対してどの広告を選択する
かを考えた時に、Gittins Indexが最大のものを選択す
る方法は、遠い将来ほど割り引いて考えた場合の期待ク
リック回数を最大するという意味において、最適な方法
である。なお、厳密には、ここでいう期待成功回数と
は、ｔ_i＝０，１をｉ回目の試行で成功するか（１）、
失敗するか（０）、を表す確率変数として、

【００７５】

【数１４】である。ただし、ｇは未来をどの程度軽く見るかを定め
る定数（０＜ｇ＜１）である。Gittins Indexは観測さ
れたクリックの割合が同じでも、提示数が少ないほど大
きな値となるため、Gittins Index最大化戦略は、試行
回数が少ないところを優先的に選択することによる知識
の獲得と、推定クリック率が高いところを選択しやすい
ことによる知識の利用の両方を程よく行うのである。

【００７６】ここでは、線形計画法による制約付き広告
選択方式における目的関数の計算に、この考え方を導入
することにより、制約充足と知識獲得と利用のトレード
オフを同時に解決する方式を提供する。

【００７７】今、（ａ＋ｂ）回提示され、クリック回数
がａ回、クリックされない回数がｂ回の広告があったと
する。このときのこの広告のGittins Index Ｉ（ａ，
ｂ）は、他にもう一つ、クリック率既知ｐの広告があっ
たときに、どちらを選択しても（将来を割り引いた）期
待成功回数が同じになるようなｐである。式で書くと次
のようになる。成功回数がａ、失敗回数がｂの広告と、
成功確率がｐの広告がある場合の期待成功回数をＲ
（ａ，ｂ，ｐ）とおくと、これは再帰的に

【００７８】

【数１５】と書ける。Gittins Index Ｉ（ａ，ｂ）は

【００７９】

【数１６】を満たす値ｐである。

【００８０】実際の計算では、ｐをある精度で変えなが
ら式（１５）の左右の値が最も近くなる値を求めること
になる。また、永遠に再帰させることもできないので、
ａ＋ｂがある値Ｚの場合には

【００８１】

【数１７】で計算し、それ以上再帰しないことにする。

【００８２】図７に示すのは、上記のステップ５３の推
定関数ＣｏｅｆのGittins Indexを使った計算手段の流
れ図である。この計算手段は、初期化手段５３１、変数
更新手段５３２、臨界条件判定手段５３３、再帰計算手
段５３４、更新条件判定手段５３５、更新手段５３６、
臨界ステップ５３７、終了条件判定手段５３８、出力／
終了手段５３９からなる。

【００８３】先ず、初期化手段５３１において、誤差パ
ラメータＤ、確率ｐ、再帰終了パラメータＺ、再帰パラ
メータｄ等を初期化する。次に、変数更新手段５３２に
おいて、これらのパラメータｐ，ｄおよび成功数ａおよ
び、失敗数ｂのパラメータを更新する。次に、臨界条件
判定手段５３３において、臨界条件を計算し、これが満
たされるならば、臨界ステップ５３７に進み、そうでな
いならば再帰計算手段５３４に進む。臨界ステップ５
３７では、Ｒ（ａ，ｂ，ｐ）とＩ（ａ，ｂ）の値を再帰
することなく、近似式により計算する。ここで、通常の
Gittins Indexの計算では、

【００８４】

【数１８】と計算する。図７では、Laplace推定による補正Gittins
Indexを計算する場合の計算式を書いた。

【００８５】即ち、図７によれば、臨界ステップ５３７
の数式中、成功率はａ／（ａ＋ｂ）で表せるが、Laplac
e推定により成功率は（ａ＋０．５）／（ａ＋ｂ＋１）
と表せ、これを期待成功回数Ｒ（ａ，ｂ，ｐ）とGittin
s Index Ｉ（ａ，ｂ）に適用したことが特徴となる。ま
た、再起計算手段５４３のＲＨＳの数式内の失敗率であ
る（ｂ＋０．５）／（ａ＋ｂ＋１）も、Laplace推定で
表したものである。従って、補正Gittins Indexは、臨
界ステップ５３７及び再起計算手段５４３によって計算
された計算手段で表されたものであるといえる。

【００８６】この場合、通常のGittins Indexでは、成
功数が０の選択肢の価値は０になってしまうので、最初
の何回かの試行で運悪く成功がない選択肢が後に選ばれ
なくなるという問題があったが、Laplace推定による補
正を加えることにより、この問題が解決される。

【００８７】さらに、図５の目的関数決定手段２２２の
動作の説明において記述されたように、類似広告を用い
てこれを補正することも可能であり、この場合には、臨
界ステップ５３７の計算式は

【００８８】

【数１９】となる。臨界条件判定手段５３３または臨界ステップ５
３７の次は、再帰計算手段５３４に進む。再帰計算手段
５３４では、ＬＨＳとＲＨＳを計算式に従って計算し、
ｍａｘ（ＬＨＳ，ＲＨＳ）の値をＲ（ａ，ｂ，ｐ）に格
納する。ここで、ＲＨＳの計算に用いられるＲ（ａ＋
１，ｂ，ｐ）およびＲ（ａ，ｂ＋１，ｐ）は、再帰パラ
メータの更新順序により、既に計算されていることが保
証されている。

【００８９】次に、更新条件判定手段５３５によって、
再帰計算手段５３４で計算されたＬＨＳとＲＨＳの値の
差が、Ｄ（ａ，ｂ）より小さいかが試験され、その場合
には更新手段５３６において、Ｉ（ａ，ｂ）およびＤ
（ａ，ｂ）の値が更新される。

【００９０】次に、停止条件判定手段５３８において、
ｄ＝０か否かが計算され、その場合はＩの値を出力し、
手続きを出力／終了手段５３９で終了し、そうでない場
合は、変数更新手段５３２に戻る。

【００９１】図８は広告選択手段１５１の流れ図であ
る。広告選択手段１５１は次のような動作により、入力
された属性リスト８４に適した１つの広告ＩＤ８５を選
択する。

【００９２】先ず、属性リスト内から１つの属性ｉを無
作為抽出する（ステップ８１）。次に、表示確率関数記
憶部１５３に格納されているクラスタ表２３を使って、
属性ｉが属するクラスタの代表属性ｉ’を求める（ステ
ップ８２）。最後に、表示確率関数記憶部１５３に格納
されている表示確率表２４を使って、属性ｉ’の各広告
の表示確率に基づき、広告ＩＤをランダムに選択する
（ステップ８３）。

【００９３】

【発明の効果】以上説明したように、本発明の表示広告
選択方式によれば、各属性の各バナー広告に対する少な
い表示回数から得られるクリック実績データから、全体
の推定クリック率が最も高くなるような入力属性に対す
る各広告の表示確率を高速に計算することができ、その
表示確率によって広告を選択することにより、全体のク
リック回数が実際に増すことが期待できる。

【図面の簡単な説明】

【図１】本発明の実施形態の構成を示すブロック図であ
る。

【図２】本発明の実施形態の学習手段を示す流れ図であ
る。

【図３】本発明の実施形態のクラスタ表更新手段を示す
流れ図である。

【図４】本発明の実施形態の最低表示確率確保手段を示
す流れ図である。

【図５】本発明の実施形態の目的関数係数決定手段を示
す流れ図である。

【図６】本発明の実施形態のステップ５２の詳細を示す
流れ図である。

【図７】本発明の実施形態のステップ５３の詳細を示す
流れ図である。

【図８】本発明の実施形態の広告選択手段を示す流れ図
である。

【符号の説明】

１１ユーザ１２ウェブ閲覧ソフト１３情報提供会社１４広告サーバ１５学習エンジン２１クラスタ表示作成手段２２表示確率表作成手段２３クラスタ表２４表示確率表４１制約式作成のステップ４２調整ステップ１４１バナー広告表示手段１４２学習情報提供手段１４３広告ページ表示手段１４４広告情報管理手段１４５入力属性分布記録手段１４６クリック実績記録手段１４７広告情報記録手段１５１広告選択手段１５２学習手段１５３表示確率関数記憶部１５４データ記憶部

フロントページの続き (56)参考文献特開2000−148675（ＪＰ，Ａ) 米国特許5948061（ＵＳ，Ａ) Ｗｅｂサイトにおけるユーザーのふるまいに関する分析手法，情報処理学会第 54回（平成９年前期）全国大会講演論文集（４），社団法人情報処理学会，1997 年３月14日，ｐｐ．４−325，326 誘導型オンライン広告の効果的な掲出方式の提案，情報処理学会第55回（平成９年後期）全国大会講演論文集（４）, 社団法人情報処理学会，1997年９月26 日，ｐｐ．４−360，361 インターネットビジネスの方程式，ｉｎｔｅｒｎｅｔＡＳＣＩＩ98，株式会社アスキー，1998年３月１日，Ｖｏｌ. ３，Ｎｏ．３，ｐｐ．169−176 Ｗｅｂで商売するためのページデザイン考察，ホームページデザイン，エーアイ出版株式会社，1998年２月25日，Ｎｏ．５，ｐｐ．89−96 テレパークにおける新広告システム, ＦＵＪＩＴＳＵ，富士通株式会社，1998 年９月10日，Ｖｏｌ．49，Ｎｏ．５，ｐｐ．378−382 インターネット広告，ＣＹＢｉＺ，株式会社サイビズ，1997年９月１日，Ｖｏｌ．２，Ｎｏ．10，ｐｐ．136−137 ソニーやニフティも参戦“必ず届く" 電子メール広告、日経マルチメディア, 日経ＢＰ社，1998年７月15日，Ｎｏ. 37，ｐｐ．88−93 (58)調査した分野(Int.Cl.⁷，ＤＢ名) G06F 17/60 G06F 19/00 G06F 13/00 ＩＮＳＰＥＣ（ＤＩＡＬＯＧ) ＪＩＣＳＴファイル（ＪＯＩＳ)

Claims

(57)【特許請求の範囲】

【請求項１】ＷＷＷ（World Wide Web）を介して閲覧
されるページに表示されるバナー広告を、ページ閲覧要
求時に送信されてくる情報、閲覧ページの情報、ユーザ
情報等から得られる属性リストにより選択する表示広告
選択システムであって、前記バナー広告の入力属性分
布、前記バナー広告をクリックするクリック実績から各
属性の入力確率と前記各属性に対する各広告のクリック
率を推定して、前記バナー広告の目標表示回数等の条件
を満たしながら全体のクリック率が最大になるように前
記各属性に対して前記各バナー広告の表示確率を求める
表示確率表作成手段を持つ学習手段と、前記表示確率に
従って表示すべき前記バナー広告を選択する広告選択手
段とを備える表示広告選択システムにおいて、前記表示確率表作成手段によって求める制約付きの目的
関数最大化問題を、輸送問題の解法を適用することによ
り解く目的関数最大化手段を備えることを特徴とする表
示広告選択システム。
【請求項２】請求項１記載の表示広告選択システムに
おいて、前記学習手段に含まれる前記表示確率表作成手
段の前処理として、前記クリック実績の類似している属
性のクラスタリングを行うクラスタ表作成手段を備え、
前記広告選択手段によって前記入力属性に対しその属性
が属するクラスタを求めてからそのクラスタに対する前
記各バナー広告の表示確率に従って表示すべき前記バナ
ー広告を選択することを特徴とする表示広告選択システ
ム。
【請求項３】請求項２記載の表示広告選択システムに
おいて、前記クラスタ表作成手段は、前記属性のクラス
タリングを、前記属性により条件づけられた条件付きク
リック率を前記各属性に対する過去のクリック率実績か
ら推定する問題として捉え、前記属性を束ねることによ
り推定パラメータを減らして推定精度を高める手段とし
て、記述長最小原理を用いた欲張り戦略によって逐次的
に最大もしくは準最大の総記述長減少をもたらす属性の
結合を繰り返すことにより行うことを特徴とする表示広
告選択システム。
【請求項４】請求項２記載の表示広告選択システムに
おいて、前記クラスタ表作成手段は、前記属性のクラス
タリングを、前記属性により条件づけられた条件付きク
リック率を前記各属性に対する過去のクリック率実績か
ら推定する問題として捉え、前記属性を束ねることによ
り推定パラメータを減らして推定精度を高める手段とし
て、赤池情報量規準を用いた最大情報量減少対方式によ
って逐次的に最大もしくは準最大の情報量減少をもたら
す属性の結合を繰り返すことにより行うことを特徴とす
る表示広告選択システム。
【請求項５】請求項１記載の表示広告選択システムに
おいて、前記属性に対する前記バナー広告の表示回数が
少ないほど最低表示確率として大きな値を確保する最低
表示確率確保手段を備えることを特徴とする表示広告選
択システム。
【請求項６】請求項１記載の表示広告選択システムに
おいて、各々の前記属性ｉ、前記バナー広告ｊに対する
前記クリック率の推定値ｃを、表示回数とクリック回数
から計算し、前記バナー広告ｊの前記属性ｉに類似している属性をも
つ過去のバナー広告ｊ’の前記属性ｉに対する前記クリ
ック率の推定値μを求め、前記属性ｉの前記バナー広告
ｊに対する表示回数に１を加え、クリック回数にμを加
えた値から前記クリック率の推定値ｃを計算する手段を
備えることを特徴とする表示広告選択システム。
【請求項７】請求項１記載の表示広告選択システムに
おいて、前記最大化する目的関数を構成する前記クリッ
ク率推定値の代わりに、Gittins Index またはLaplace
推定により補正された「補正Gittins Index」を用いる
ことを特徴とする表示広告選択システム。
【請求項８】請求項１記載の表示広告選択システムに
おいて、複数属性の前記バナー広告に対するクリック入
力に対し、１属性を無作為に選択し、その属性にたいす
る各バナー広告の表示確率に従って表示すべき前記バナ
ー広告を選択する広告選択手段を備えることを特徴とす
る表示広告選択システム。