JP2022534721A - データトラフィックを処理及び分配する予測モデリング及び分析 - Google Patents

データトラフィックを処理及び分配する予測モデリング及び分析 Download PDF

Info

Publication number
JP2022534721A
JP2022534721A JP2021570277A JP2021570277A JP2022534721A JP 2022534721 A JP2022534721 A JP 2022534721A JP 2021570277 A JP2021570277 A JP 2021570277A JP 2021570277 A JP2021570277 A JP 2021570277A JP 2022534721 A JP2022534721 A JP 2022534721A
Authority
JP
Japan
Prior art keywords
machine learning
learning model
incoming data
likelihood
destination
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021570277A
Other languages
English (en)
Other versions
JP7295976B2 (ja
Inventor
コトリヤン アレクサンドル
Original Assignee
デジタル ライオン,リミティド ライアビリティ カンパニー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by デジタル ライオン,リミティド ライアビリティ カンパニー filed Critical デジタル ライオン,リミティド ライアビリティ カンパニー
Publication of JP2022534721A publication Critical patent/JP2022534721A/ja
Application granted granted Critical
Publication of JP7295976B2 publication Critical patent/JP7295976B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N7/00Computing arrangements based on specific mathematical models
    • G06N7/01Probabilistic graphical models, e.g. probabilistic networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/18Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482Interaction with lists of selectable items, e.g. menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • G06N20/20Ensemble learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Algebra (AREA)
  • Probability & Statistics with Applications (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Human Computer Interaction (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Operations Research (AREA)
  • Databases & Information Systems (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

リアルタイム環境用の機械学習モデルを生成及び配備するシステム及び方法である。ユーザー選択された係数及びトレーニングデータがグラフィカルユーザーインターフェイスを介して受け取られている。受け取られたデータに基づいて第1機械学習モデルを生成するべく、第1機械学習アルゴリズムが起動されている。第1モデルによる予測精度が試験され、且つ、第1モデルの予測の精度が閾値未満であるという判定が実施されている。このような判定に応答して、特定の基準が評価されている。基準が充足されているという判定に応答して、受け取られたデータに基づいて第2機械学習モデルを生成するべく第2機械学習アルゴリズムが起動されている。到来データに基づいてリアルタイム予測を実施するべく、このモデルが第1モデルの代わりに配備されている。【選択図】図1

Description

本発明は、通信管理の分野に関し、且つ、更に詳しくは、予測モデリング及び分析を介して選択された宛先に対するデータトラフィックの処理及びポスティングに関する。
例えば、ビジネスリードなどのデータトラフィックの処理は、しばしば、特定の製品又はサービスに関心を持ちうる顧客を識別するステップと、このような消費者に関する情報を製品又はサービスの潜在的な供給者(以下においては、「サービスプロバイダ」又は「供給者」)に提供するステップと、を伴っている。特定の製品又はサービスに対する関心を表明した消費者に関する情報は、「リード」と呼称されうる。
オンラインリードを収集する標準的な方法は、ウェブサイト上において消費者にフォームに記入してもらうことによるものである。フォームは、顧客に関する情報及び消費者が所望している製品又はサービスに関する情報を提供するべく、消費者によって使用されている。リード分配システムは、消費者によって提供された情報を分析することができると共に、リードをポスティングするための1つ又は複数のサービスプロバイダを選択することができる。例えば、ローンを求めている消費者は、ローン申し込みウェブサイトのローン要求フォームに記入することができる。その結果、ローン要求フォーム内において提供された情報は、1つ又は複数の銀行又はその他の金融機関に、その機関に対するリードとして送信することができる。
従って、所望されているのは、リアルタイム環境においてリードの成功の尤度を演算するシステム及び方法であり、この場合に、リードトラフィックは、このような演算に基づいて、最適な結果を生成するものと予測されるサービスプロバイダに導かれている。
この「背景技術」の節において開示されている以上の情報は、本発明の背景の理解の改善を目的としたものに過ぎず、且つ、従って、これは、当業者に既知である従来技術を形成してはいない情報をも含みうる。
本開示の実施形態は、リアルタイム環境用の機械学習モデルを生成及び配備する方法を対象としている。プロセッサは、グラフィカルユーザーインターフェイスを介してユーザー選択された係数及びトレーニングデータを受け取り、且つ、受け取られた係数及びトレーニングデータに基づいて第1機械学習モデルを生成するべく第1機械学習アルゴリズムを起動している。プロセッサは、第1機械学習モデルによる予測の精度を試験し、且つ、第1機械学習モデルの予測の精度が閾値未満であると判定している。予測の精度が閾値未満であるという判定に応答して、プロセッサは、特定の基準を評価している。特定の基準が充足されていることに応答して、受け取られた係数及びトレーニングデータに基づいて第2機械学習モデルを生成するべく第2機械学習アルゴリズムが起動されている。到来データに基づいてリアルタイム予測を実施するべく、第2機械学習モデルが第1機械学習モデルの代わりに配備されている。一実施形態において、到来データは、複数のソースから受け取られており、且つ、第2機械学習モデルは、複数のソースの特定のソースからの到来データと関連する成功の尤度を予測するべく起動されている。特定のソースからの到来データは、成功の尤度の判定に応答して宛先に送信されている。
一実施形態によれば、宛先は、複数の宛先から選択されており、且つ、方法は、複数の宛先用の値を算出するステップと、算出された値に基づいて複数の宛先を動的にランク付けするステップと、ランク付けに基づいて宛先を選択するステップと、を更に含む。
一実施形態によれば、値のそれぞれは、複数の宛先のそれぞれに送信されている特定のソースからの到来信号から結果的に得られる成功の尤度の予測に基づいて算出されている。
一実施形態によれば、信号は、到来データの送信に応答して宛先から受け取られている。信号の受け取りに応答して、複数の宛先の第2の宛先がランク付けに基づいて識別され、且つ、到来データが第2宛先に送信されている。
一実施形態によれば、第1機械学習モデルは、第1リンク関数と関連する一般化線形モデル(GLM)である。
一実施形態によれば、第2機械学習モデルは、主成分回帰又はベイズGLMの少なくとも1つである。
一実施形態によれば、基準は、トレーニングデータのサイズであり、この場合に、基準は、トレーニングデータのサイズが閾値未満であるという判定に応答して充足されている。
一実施形態によれば、成功の尤度は、到来データを宛先に販売する尤度を含む。
一実施形態によれば、複数のソースの第2のソースからの到来データと関連する成功の尤度を予測するべく、第1機械学習モデルが起動されている。成功の尤度が閾値量未満であるという判定が実施されている。成功の尤度が閾値量未満であるという判定に応答して、第2ソースからの到来データがフィルタリングによって除去されている。
一実施形態によれば、第2ソースからの到来データは、フィルタリングによる除去に応答して宛先への送信が抑制されている。
また、本開示の実施形態は、リアルタイム環境用の機械学習モデルを生成及び配備するシステムをも対象としている。システムは、プロセッサと、メモリと、を有し、メモリは、プロセッサによって実行された際に、プロセッサが、グラフィカルユーザーインターフェイスを介して、ユーザー選択された係数及びトレーニングデータを受け取り、受け取られた係数及びトレーニングデータに基づいて第1機械学習モデルを生成するべく第1機械学習アルゴリズムを起動し、第1機械学習モデルによる予測の精度を試験し、第1機械学習モデルの予測の精度が閾値未満であると判定し、予測の精度が閾値未満であるという判定に応答して、特定の基準を評価し、特定の基準が充足されていることに応答して、受け取られた係数及びトレーニングデータに基づいて第2機械学習モデルを生成するべく第2機械学習アルゴリズムを起動し、到来データに基づいてリアルタイム予測を実施するべく第1機械学習モデルの代わりに第2機械学習モデルを配備し、複数のソースから到来データを受け取り、複数のソースの特定のソースからの到来データと関連する成功の尤度を予測するべく第2機械学習モデルを起動し、且つ、成功の尤度の判定に応答して特定のソースからの到来データを宛先に送信するようにする命令を保存している。
本開示の実施形態のこれらの且つその他の特徴、態様、及び利点については、以下の詳細な説明、添付の請求項、及び添付の図面との関係において参照された際に更に十分に理解することができよう。当然のことながら、本発明の実際の範囲は、添付の請求項によって定義されている。
本実施形態の非限定的な且つすべてを網羅してはいない実施形態が以下の図を参照して記述されているが、この場合に、同一の参照符号は、そうではない旨が規定されていない限り、様々な図の全体を通じて同一の部分を参照している。
例示用の一実施形態によるリードトラフィックを処理及び分配するシステムである。 例示用の一実施形態によるリードに関するリアルタイム予測を実施するためのモデルを構築するべくモデル構築モジュールによって利用されているプロセスのフロー図である。 例示用の一実施形態による例示用の応答変数の概念的なレイアウト図である。 例示用の一実施形態による特定のリンク関数を選択するグラフィカルユーザーインターフェイスである。 例示用の一実施形態による統計言語Rを使用した受信動作特性(ROC)グラフである。 例示用の一実施形態による例示用のスコア分布グラフである。 例示用の一実施形態による、管理者が、ポスティングされることになるリードの最小及び最大スコアを選択することを許容している例示用のグラフィカルユーザーインターフェイスである。 例示用の一実施形態によるモデル構築アプリケーションによって提供されるグラフィカルユーザーインターフェイスの例である。 例示用の一実施形態によるモデル構築アプリケーションによって提供されるグラフィカルユーザーインターフェイスの例である。 例示用の一実施形態による到来リードについて実施されるリアルタイム予測に基づいて供給者にリードをポスティングするべく採点/ランク付けモジュールによって利用されているプロセスのフロー図である。
以下の詳細な説明においては、本発明の特定の例示用の実施形態が、例示を目的としてのみ、図示及び記述されている。当業者は、本発明は、多くの異なる形態において実施されうると共に、本明細書において記述されている実施形態に限定されるものとして解釈されてはならないことを認識するであろう。それぞれの例示用の実施形態における特徴又は態様の記述は、通常、その他の例示用の実施形態におけるその他の類似の特徴又は態様についても利用可能であるものと見なすことを要する。同一の参照符号は、本明細書の全体を通じて同一の要素を表記している。
リード処理システムは、所与の時点においてサービスプロバイダにポスティング(送信)されるべき、数千でない場合に、数百のリードを識別することができる。ポスティングする際に、リード処理システムは、通常、サービスプロバイダによって受け入れられる(即ち、サービスプロバイダに販売又は変換される)それぞれのリードごとに支払を受け取っている。最適な結果を生成すると予測されているエンティティにリードを選択及びポスティングすることが望ましい。最適な結果は、例えば、リード処理システムの利益を極大化するリードの販売であってよい。
最適な結果を有するリードのポスティングは、リード処理システムのみならず、エンドユーザー及びサービスプロバイダにも利益を供与する。エンドユーザーとの関連において、ユーザーは、リードを受け入れ且つ処理することを所望しているサービスプロバイダに対するマッチングを見出すべく待機していることから、エンドユーザー用のリードがサービスプロバイダによって早期に受け入れられれば受け入れられるほど、エンドユーザーによる拡張を必要とする演算リソースが少なくなる。
サービスプロバイダとの関連においては、このようなプロバイダは、しばしば、リードが受け入れられない場合にも、自身にポスティングされたリードのそれぞれを処理する必要がある。サービスプロバイダは、リードを受け入れる又は受け入れないためのその独自のアルゴリズムを有することができる。リードの処理は、一般に、資金の観点においてのみならず、リードの処理に利用することを要する演算リソースの観点においても費用を所要する。例えば、ローンに関係するリードを処理する金融機関には、必然的に料金が発生する場合があり、且つ、更には、ローンを要求しているエンドユーザーの背景チェック(例えば、信用度チェック)を実施するべく演算パワー及び電気通信リソースの利用を要する場合もある。
一般的に、本発明の実施形態は、リアルタイムでターゲットパラメータ(例えば、変換、販売、デフォルト、など)の成功の尤度を演算するための予測モデリングの利用を対象としている。リードが(仮にそうである場合にも)ポスティングされるべきかどうかに関する決定を成功の確率に基づいてリアルタイムで実施することができる。一実施形態において、リードは、販売及び予想利益の最高の確率を提供している供給者に対してサービスするべくポスティングされている。
本発明の実施形態は、リアルタイム環境において予測分析を供給するための従来技術における欠点に対処している。様々なモデリング方式を適用するための時間の自由度が存在しているオフラインデータの分析に基づいたレポートの供給とは異なり、リアルタイム環境においては、通常、決定を下すために一秒未満しか存在していない。一実施形態において、この問題は、ターゲット変数に関する予測を提供する機械学習モデルとして一般化線形モデル(GLM)を使用することにより、対処されている。一般的に、GLMは、応答変数が非正常であるエラー分布を有するケースにおいて線形モデルの使用を可能にしている。GLMは、線形モデルが「リンク関数」を介して応答変数に関係付けられることを許容することにより、且つ、それぞれの計測の変動の大きさがその予測値の関数となることを許容することにより、線形回帰を一般化している。
別の欠点は、小さなデータセットにおいてトレーニングされた機械学習モデルの低い予測パワーと関連している。従来の機会学習方式は、しばしば、トレーニングデータが小さい際の十分な予測パワーの実現において困難を有している。一実施形態において、この問題は、次のサンプルを演算するべく先の仮定を内蔵しているベイズ方法を利用することにより、対処されている。
図1は、例示用の一実施形態によるリードトラフィックを処理及び分配するシステムである。システムは、データ通信ネットワーク16上において消費者装置12a~12c(集合的に12)を介して様々な消費者に結合された且つ供給者装置14a~14c(集合的に14)を介して様々な供給者に結合されたリード処理サーバ10を含む。データ通信ネットワークは、例えば、インターネットなどの当技術分野において従来から存在している任意のプライベート又はパブリックワイドエリアネットワークであってよい。
リード処理サーバ10は、参加している消費者又は供給者に様々なサービスを提供するべく1つ又は複数のソフトウェアモジュールを含む。このようなソフトウェアモジュールは、モデル構築モジュール10a、予測モジュール10b、及び採点/ランク付けモジュール10cを含むことができる。1つ又は複数のモジュール10a~10cが別個の機能ユニットになるものと仮定されているが、当業者は、モジュールの機能は、本発明の概念の精神及び範囲を逸脱することなしに、単一のモジュールとして組み合わせられてもよく又は統合されてもよく、或いは、更なるサブモジュールに更にサブ分割されてもよいことを認識するであろう。
一実施形態によれば、消費者及び/又は供給者装置12、14は、電話接続、衛星接続、ケーブル接続、高周波通信、又は当技術分野において既知の任意の有線又は無線データ通信メカニズムを使用してデータ通信ネットワーク16に接続することができる。これを目的として、装置12、14は、パーソナルコンピュータ(PC)、ラップトップ、スマートフォン、又は当技術分野において既知の任意の消費者電子装置の形態を有することができる。
一実施形態によれば、モデル構築モジュール10aは、異なるターゲットパラメータ用の回帰モデルを構築するように構成されている。一実施形態において、モデル構築モジュール10aは、回帰モデルを構築するべく従来の一般化線形モデル(GLM)又はそのベイズ版を使用している。例示用のターゲットパラメータは、リードが特定のサービスプロバイダに受け入れられる又は販売される尤度を予測するべく使用される「販売」パラメータであってよい。また、当然のことながら、例えば、変換、デフォルト、及び/又はこれらに類似したものなどのその他のターゲットパラメータを予測することもできる。一実施形態において、モデル構築モジュール10aは、ターゲットパラメータの確率を解釈するべく頻度論的統計及びベイズ法の両方を利用するように構成されている。
一実施形態によれば、予測モジュール10bは、消費者装置12から受け取られたリードデータに基づいて予測を実施するべく構築されたモデルの1つ又は複数を起動するように構成されている。この観点において、予測モデル10bは、リードデータを受け取り、モデルに入力されるべく特徴を抽出し、且つ、抽出された特徴に基づいて予測を実行している。抽出された特徴は、モデルの応答変数に対応するものであってよい。モデルによって出力される予測は、特定のターゲットパラメータ(例えば、サービス供給者に対する販売)に関係する成功の尤度であってよい。一実施形態において、予測は、適切な供給者にリードをポスティングするべく採点/ランク付けモジュール10cに提供されている。
一実施形態において、採点/ランク付けモジュール10cは、予測モジュール10bから予測を受け取り、且つ、リードを供給者装置14にポスティングする前にリードをフィルタリングしている。フィルタリングは、リードに割り当てられたスコアに基づいて実行することができる。一実施形態において、スコアは、変位値に基づいて確率をインターバル(例えば、10インターバル)に分割することにより、割り当てられている。それぞれのインターバルには、スコアが割り当てられている。一実施形態において、採点/ランク付けモジュール10cは、特定のスコア(例えば、確率分布における下部30%を反映している1のスコア)と関連するリードをフィルタリングによって除去している。フィルタリングによって除去されたリードは、いずれの供給者装置にもポスティングされなくてよい。
一実施形態において、採点/ランク付けモジュール10cは、フィルタリングによって除去されなかったリードがポスティングされるべき様々なサービスプロバイダのチャネルのランク付けを動的に判定するように構成されている。チャネルの動的なランク付けは、動的なピングツリー(ping tree)と呼称されうる。供給者チャネルのランク付けが静的である従来のシステムとは異なり、本発明の実施形態は、最適な結果を生成するものと予想される特定のリード用のチャネルを選択するべく、リアルタイムでランク付けを算出している。最適な結果は、特定のリードを特定の供給者チャネルに送信することによって導出されると予想される最適な利益でありうるであろう。
図2は、例示用の一実施形態によるリードに関するリアルタイム予測を実施するためのモデルを構築するべくモデル構築モジュール10aによって利用されているプロセスのフロー図である。プロセスのステップのシーケンスは、固定されてはおらず、且つ、当業者によって認識されるように、任意の望ましいシーケンスに変更されうることを理解されたい。
動作20において、モジュール10aは、モデルの構築に使用されるべきデータを識別し、且つ、データを試験データとトレーニングデータに分離している。一実施形態においては、データの80%がトレーニングのために使用されており、且つ、データの20%が試験のために使用されているが、その他の割合も可能である。
モデルは、選択されたリンク関数により、従来のGLMを使用して生成することができる。この観点において、動作22において、モデル構築モジュール10aは、様々なリンク関数のそれぞれごとに異なるモデルを構築している。リンク関数は、例えば、Logitリンク、Probitリンク、及びCauchitリンク、並びに/或いはCloglogリンクであってよい。
モデルの構築は、モデルについて選択された応答変数の係数値を判定するステップを含む。図3Aの例において示されているように、貸し手によるローン申し込みリードの受け入れを予測するべく使用されうる応答変数は、要求されているローンの金額(the amount of the loan requested)、要求者が自身の住所において生活している長さ(length the requester has lived at his address)、要求者の住居が賃貸か又は持ち家か(whether the requester rents or owns)、並びに、これらに類似したものを含みうる。図3Bの例は、Probitリンク関数の使用を想定しており、この場合に、成功の確率は、次式によって定義され、
Figure 2022534721000002
この場合に、pは、販売の確率であり、Xβは、係数×変数の合計である。
動作24において、構築されたモデルのそれぞれが、動作20において取り置きされた試験データによって試験されている。
動作26において、モデル構築モジュール10aは、最も高精度の予測を結果的にもたらすリンク関数を有するモデルを選択している。予測の精度の判定は、例えば、偽陽性レートに対する真陽性レートをチェックするステップと、スコアの分布を分析するステップと、を伴いうる。精度をチェックするべく、統計言語Rを使用した受信動作特性(ROC)グラフ(ROCR曲線)を生成することができる。図4は、例示用のROCR曲線である。例えば、確率の下部30%内における販売を極小化する際に、リードの下部30%(即ち、成功の確率の下部30%を有するリード)が5%超の実際の販売を含んでいる場合には、モデルは、無視され、且つ、生成(production)のために検討されない。一実施形態において、実際の販売レートは、トラフィックの30%、50%、などを除去することにより、販売又は任意のその他のターゲットパラメータに対する最小限の影響を有するべく極小化されている。
動作28において、試験されたリンク関数に基づいて実現されうる最高の精度が、設定された閾値を充足しているかどうかに関する判定が実施されている。答えが「はい」である場合には、選択されたモデルが動作30において配備されている。この観点において、モデルは、開発者モード(developer mode)において配備されてもよく、この場合に、試験の第2状態が現実世界データに基づいて実行されている。この観点において、開発者モードにおいて稼働するモデルは、生成モード(production mode)にある別のモデルと同時に稼働し、且つ、両方のモデルは、現実世界データに基づいて予測を出力している。一実施形態において、生成モードにおいて稼働しているモデルの予測の精度は、開発者モードにおいて稼働しているモデルに照らして比較されている。開発者モードにおいて稼働しているモデルが、生成モードにおけるモデルよりも良好に稼働している場合には、開発者モードにおいて稼働しているモデルが、生成モードにおいて使用されるべくアップグレードされている。
試験されたリンク関数に基づいて実現されうる最高精度が、設定された閾値を充足していない場合には、動作32において、従来のGLM方法の代わりに、その他の機械学習アルゴリズムが起動されうるかどうかに関する判定が実施されている。一実施形態において、このようなその他のアルゴリズムは、主成分回帰、ベイズGLM、及び/又はこれらに類似したものであってよい。
一実施形態において、ベイズGLMは、特定の基準が充足されている場合に、その他の機械学習アルゴリズムとして起動されている。このような基準は、例えば、トレーニングデータのサイズ、リードがポスティングされるべきサービスプロバイダの重要性、及び/又はこれらに類似したものであってよい。一実施形態において、ベイズGLMは、例えば、500未満のデータサイズ及び5%未満の成功レートなどのように、トレーニングデータのサイズが十分に小さい場合に起動されている。ベイズGLMがモデルを構築するべく使用されている際には、事後MAP(Maximum a posteriori)及び事後分布を取得するべく、事前パラメータ(例えば、平均年齢、平均収入、標準偏差、など)を使用することができる。
動作34において、選択されたその他の機械学習アルゴリズムが、モデルを構築するべく起動されており、且つ、モデルが、動作36において試験データによって試験されている。次いで、プロセスは、予測の精度を判定するべく動作28に戻っている。
一実施形態において、配備されるべきモデルを選択するステップは、推奨エンジン(図示されてはいない)を介して自動的に実行されている。この観点において、推奨エンジンは、様々なリンク関数のそれぞれに基づいてモデルを構築するように構成することができる。また、推奨エンジンは、試験データを使用してリンク関数のそれぞれのものの予測パワーを自動的に試験するように構成することもできる。この結果、最も正確な予測を有するリンク関数を推奨リンク関数として出力することができる。
いくつかの実施形態において、推奨エンジンは、試験されたリンク関数によって実施された予測が閾値の充足に失敗した場合にはその他の機械学習アルゴリズムを利用するように構成することができる。この観点において、推奨エンジンは、特定の基準(例えば、試験サンプルサイズ)がその他の機械学習アルゴリズムを起動するべく充足されているかどうかを判定するように構成することができる。基準が充足されている場合には、使用するべきモデルを構築及び配備するべく、代替アルゴリズムが起動されている。
モデルが配備されたら、到来リードの成功の尤度に関する予測を実施するべく、且つ、1つ又は複数の供給者装置に最高の成功の尤度を有するリードをポスティングするべく、モデルを使用することができる。一実施形態において、採点/ランク付けモジュール10cは、予測モジュール10bから確率を受け取り、且つ、受け取られた確率を、例えば、1~10の範囲などの、特定の範囲内のスコアにスケーリングしている。一例において、最低の確率を有するリードは、1のスコアに割り当てられており、且つ、最高の確率を有するリードは、10のスコアに割り当てられている。スケーリングは、例えば、変位値を通じて実行されてもよく、この場合に、確率の下部30%には、1のスコアが割り当てられており、これには、表1において列挙されているカットオフが後続している。
Figure 2022534721000003
一実施形態において、採点/ランク付けモジュール10cは、供給者に特定のスコアの範囲をポスティングすることにより、トラフィック品質を制御している。上述の例において、採点/ランク付けモジュール10cが、スコア1~3をフィルタリングによって除去するように且つスコア4~10を有するトラフィックのみをポスティングするように構成されている場合には、低い確率と関連するトラフィックの60%がフィルタリングによって除去されている。
図5は、実行された実験に基づいた例示用のスコア分布グラフであり、この場合に、購入者の合計数は338であり、ポスティングされたリードの合計は3748であり、販売された合計は76であり、且つ、受け入れレートは2.02%である。ライン500は、販売されなかったリードを描いている。実験は、1のスコアを有するリードを除去することにより、1124個のリードが除去され、これにより、なんらの販売の損失をも伴うことなしに、2624である新しいポスティングされたリードの合計(トラフィックの約30%)が残されていることを示している。販売された合計は、依然として、76に留まっているが、受け入れレートが2.9%に増大している。スコア1及び2のリードが除去された際には、50%だけ少ないトラフィックがポスティングされることになり、且つ、受け入れレートは、74/1872=3.95%に増大することになろう。
図6は、一実施形態による、管理者が、ポスティングされることになるリードスコア(LEAD SCORE)の最小(MIN)及び最大(MAX)を選択することを許容している例示用のグラフィカルユーザーインターフェイスである。この範囲の外側のスコアを有するリードは、フィルタリングによって除去することができる。
例示用のリードは、応答変数に対応する以下の抽出された特徴を有することができる。
要求:$500
状態:TX
住所における長さ:36か月
電子メール:.comで終了する
不動産を所有
連絡時刻:朝
年齢:48
月収:$2500
支払:2週間ごと
振込制度を有する
最低価格:$2
我々は、この人物に7日間において11回にわたって遭遇している。
午前8時において適用されている
円形変数sinHR 0.866025
円形変数comHR-0.5
上述のリードにProbitリンク関数を適用することにより、以下のものが出力される。
Figure 2022534721000004
0.0912の確率を出力するべく-無限大から-1.333133までexp(-0.5*x^2)を積分する。
0.0912の確率は、カットオフである0.08369を上回っていることから、リードには、9のスコアが割り当てられる。
一実施形態において、予測モジュール10bの機能は、モデルをローカルに構築及びトレーニングするべく供給者装置14(或いは、任意のその他の第三者装置)上にインストール/ダウンロードされうるモデル構築アプリケーションを介して提供されている。アプリケーションは、統計ソフトウェアR及びShinyを通じてコーディングすることができる。
一実施形態において、予測モジュール10bは、高度な統計及びプログラミングスキルを有していない人々がリアルタイム環境においてモデルを構築及び適用することを許容するグラフィカルユーザーインターフェイスを提供している。この観点において、ユーザーは、トレーニング/試験のために使用されるべくデータをアップロードし、説明及び応答変数を選択し、且つ、バックグラウンドRコードがモデルを生成している。
図7A~図7Bは、例示用の一実施形態によるモデル構築アプリケーションによって提供されるグラフィカルユーザーインターフェイスの例である。一実施形態において、グラフィカルユーザーインターフェイスは、ユーザーが、モデルを構築するべく使用するためのリンク関数(例えば、Logitリンク関数)を選択すること(Select Link)を許容している。次いで、ユーザーは、独立/説明変数(例えば、リード状態)並びに1つ又は複数の応答変数を選択すること(Select Independent Var or Select other Var)ができる。選択された変数に基づいてモデルを構築するための選択に応答して、予測モジュール10bは、アップロードされたトレーニングデータに基づいてモデルを構築するべく進捗することができる。次いで、選択された特徴の係数値600をグラフィカルユーザーインターフェイスを介して出力することができる。また、係数の重要性602も、グラフィカルユーザーインターフェイスによって出力されている。重要性情報は、ユーザーが設定された閾値よりも低い重要性を有する係数を除去することを許容している。従って、グラフィカルユーザーインターフェイスを介して、ユーザーは、構築されるべきモデルの種類を判定するために、様々な係数/変数を操作することができる。
一実施形態において、ユーザーは、モデルを構築するために使用するべく異なるリンク関数を選択することができる。次いで、様々なリンク関数を使用して構築されたモデルの予測精度を試験することができる。一実施形態において、アップロードされた試験データを使用してモデルを自動的に構築及び試験するべく、利用可能なリンク関数を使用することができると共に、最高精度を有するモデルを推奨することができる。
図8は、例示用の一実施形態による到来リードについて実施されたリアルタイム予測に基づいて供給者にリードをポスティングするべく採点/ランク付けモジュール10cによって利用されているプロセスのフロー図である。記述されているフローは、単一のリードを処理するためのものであるが、当業者であれば理解するように、同一の処理は、特定の時点において、数千でない場合にも、数百のその他のリードに対してサーバによって同時に実行されている。
動作100において、採点/ランク付けモジュール10cは、リードとの関係における成功の尤度を算出するべく予測モジュール10bを起動している。
動作102において、採点/ランク付けモジュール10cは、リードがポスティングされうる候補チャネルを識別している。特定の供給者は、リードがポスティングされうる複数のチャネルを有することができると共に、それぞれのチャネルは、例えば、チャネルを介して利用可能であるサービスのタイプに基づいて定義することができる。チャネルは、「ピングツリー」と呼称されうる。例えば、供給者が貸し手である場合に、貸し手は、住宅ローン用のチャネルA、ビジネスローン用のチャネルB、カーローン用のチャネルC、及びこれらに類似したものを有することができる。リードに関する情報及び様々な貸し手の様々なチャネルに関する情報を比較することにより、適用可能なチャネルが識別されている。
動作104において、採点/ランク付けモジュール10cは、リアルタイムで候補チャネルのそれぞれごとに予想利益を算出するべく進捗している。リード(A)の予想利益(E)の式は、次式のとおりであってよい。
E(A)=P(Sale A)*Money Made+(1-P(Sale A))*(-Money Spent)
別の実施形態において、予想利益は、次式のように演算することができる。
E(A)=(Money Made-Money Spent)*P(Sale A)
上述の例において、予測モジュール10bによって演算される成功の確率は、供給者に対するリードAの販売の確率である。
動作106において、候補チャネルが、算出された予想利益に従って動的にランク付けされている。
動作108において、リードは、最高の予想利益を有するチャネルにポスティングされている。
動作110において、リードが、ポスティングされたチャネルによって受け入れられたかどうかに関する判定が実施されている。これに関連し、チャネルは、リードの受け入れを通知する第1メッセージ又は信号又はリードの拒絶を通知する第2メッセージ又は信号を送信することができる。
チャネルがリードの受け入れを通知する第1メッセージ又は信号を送信した場合に、プロセスは終了する。但し、チャネルがリードの拒絶を通知する第2メッセージ又は信号を送信した場合には、動作112において、次の最高のランク付けされたチャネルが識別されている。
動作114における判定に従って、次の最高のランク付けされたチャネルの予想利益が0超である場合には、リードは、動作116において識別されたチャネルにポスティングされる。次いで、プロセスは、リードが、ポスティングされたチャネルによって受け入れられるかどうかを判定するべく、動作110に戻っている。
当業者であれば理解するように、リードをチャネルに動的にランク付け及びポスティングすることの技術的利益は、例えば、貸し手がリダイレクトレートを増大させるべく、貸し手のランディングページにリダイレクトされる前の消費者の待ち時間を短縮することを含む。静的なピングツリー内における相対的に長い「フォール」(即ち、1つのチャネルから次のチャネルに移動すること)に起因して、リダイレクトに結び付くことにならない消費者によるウェブブラウザの閉鎖及びセッションの終了が発生する可能性が相対的に高い。一実施形態においては、動的なピングツリーにより、フォールが短く、これにより、相対的に高いリダイレクトレートに結び付いている。
本明細書において記述されている様々なサーバは、それぞれ、コンピュータプログラム命令を実行する且つ本明細書において記述されている様々な機能を実行するその他のシステムコンポーネントとやり取りする1つ又は複数のプロセッサを含むことができる。コンピュータプログラム命令は、例えば、ランダムアクセスメモリ(RAM)などの標準的なメモリ装置を使用して実装されたメモリ内において保存されている。また、コンピュータプログラム命令は、例えば、CD-ROM、フラッシュドライブ、又はこれらに類似したものなどのその他の一時的ではないコンピュータ可読媒体内において保存することもできる。また、サーバのそれぞれのものの機能は、特定のサーバによって提供されるものとして記述されているが、当業者は、様々なサーバの機能は、本発明の実施形態の範囲を逸脱することなしに、単一サーバ内に組み合わせられてもよく又は統合されてもよく、或いは、特定のサーバの機能は、1つ又は複数のその他のサーバに跨って分散されてもよいことを認識するであろう。
当業者によって理解されるように、様々な実施形態によるシステム及び方法は、リードトラフィックの処理及び分配に対する技術的改善を提供している。リードを受け入れることにならないサービスプロバイダにリードをポスティングするために、例えば、演算リソース、電気通信帯域幅、及びこれらに類似したものを浪費する代わりに、成功を結果的にもたらすことになるサービスプロバイダを予測及び選択するべく、機械学習が利用されている。また、現時点の文脈が付与された場合に最良であると考えられるコンピュータモデルの生成に起因して、技術的改善も提供されている。コンピュータモデルが正確であるほど、成功の予測も相対的に正確になる。
上述の図中の様々なサーバ、コントローラ、エンジン、及び/又はモジュール(集合的にサーバと呼称されている)のそれぞれは、コンピュータプログラミング命令を実行する且つ本明細書において記述されている様々な機能を実行するべくその他のシステムコンポーネントとやり取りする1つ又は複数の演算装置内の1つ又は複数のプロセッサ上において稼働しているプロセス又はスレッドであってよい。コンピュータプログラム命令は、例えば、ランダムアクセスメモリ(RAM)などの標準的なメモリ装置を使用して演算装置内において実装されうるメモリ内において保存されている。また、コンピュータプログラム命令は、例えば、CD-ROM、フラッシュドライブ、又はこれらに類似したものなどのその他の一時的ではないコンピュータ可読媒体内において保存することもできる。また、当業者は、演算装置がファームウェア(例えば、用途固有の集積回路)を介して、ハードウェアを介して、或いは、ソフトウェア、ファームウェア、及びハードウェアの組合せを介して実装されうることを認識するであろう。また、当業者は、本発明の例示用の実施形態の範囲を逸脱することなしに、様々な演算装置の機能は、単一演算装置内に組み合わせられてもよく又は統合されてもよく、或いは、特定の演算装置の機能は、1つ又は複数のその他の演算装置に跨って分散されてもよいことを認識するであろう。サーバは、ソフトウェアモジュールであってもよく、これも単にモジュールと呼称されうる。コンタクトセンタ内のモジュールの組は、サーバ及びその他のモジュールを含むことができる。
以上、本発明は、特定の例示用の実施形態との関連において記述されているが、本発明は、開示されている実施形態に限定されるものではなく、且つ、逆に、添付の請求項及びその均等物の精神及び範囲に含まれる様々な変更及び等価な構成をカバーするべく意図されていることを理解されたい。
本明細書において使用されている用語は、特定の実施形態を記述することを目的としており、且つ、発明概念の限定を意図したものではない。本明細書において使用されている「1つの(a)」及び「1つの(an)」という単数形は、文脈がそうではない旨を明瞭に通知していない限り、複数形をも同様に含むべく意図されている。「含む(include)」、「含む(including)」、「有する(comprises)」、及び/又は「有する(comprising)」という用語は、本明細書において使用されている際には、記述されている特徴、完全体、ステップ、動作、要素、及び/又はコンポーネントの存在を規定しているが、1つ又は複数のその他の特徴、完全体、ステップ、動作、要素、コンポーネント、及び/又はこれらのグループの存在又は追加を排除してはいないことを更に理解されたい。本明細書において使用されている「及び/又は(and/or)」という用語は、関連する列挙された項目の1つ又は複数のものの任意の且つすべての組合せを含む。「~の少なくとも1つ(at least one of)」などの表現は、要素のリストに先行している際には、要素のリスト全体を修飾しており、且つ、リストの個々の要素を修飾しではいない。更には、「~してもよい(may)」の使用は、発明概念の実施形態を記述している際には、「発明概念の1つ又は複数の実施形態」を意味している。また、「例示を目的とした(exemplary)」という用語は、例又は例示を意味するべく意図されている。
本明細書において使用されている「使用(use)」、「使用(using)」、及び「使用された(used)」という用語は、それぞれ、「利用(utilize)」、「利用(utilizing)」、及び「利用された(utilized)」という用語の同義語と見なすことができる。
以上、本発明は、その例示用の実施形態を具体的に参照して詳細に記述されているが、本明細書において記述されている実施形態は、すべてを網羅することを意図したものではなく、或いは、開示されている形態そのままに本発明の範囲を限定することを意図したものでもない。本発明が属する技術分野及び技術における当業者は、添付の請求項及びその均等物において記述されている本発明の原理、精神、及び範囲を有意に逸脱することなしに、組立及び動作の記述されている構造及び方法における変更及び変形が実施されうることを理解するであろう。

Claims (20)

  1. リアルタイム環境用の機械学習モデルを生成及び配備する方法であって、
    グラフィカルユーザーインターフェイスを介して、ユーザー選択された係数及びトレーニングデータを受け取るステップと、
    前記受け取られた係数及びトレーニングデータに基づいて第1機械学習モデルを生成する第1機械学習アルゴリズムを起動するステップと、
    前記第1機械学習モデルによる予測の精度を試験するステップと、
    前記第1機械学習モデルの前記予測の精度が閾値未満であると判定するステップと、
    前記予測の精度が前記閾値未満であるという判定に応答して、特定の基準を評価するステップと、
    前記特定の基準が充足されていることに応答して、前記受け取られた係数及びトレーニングデータに基づいて第2機械学習モデルを生成する第2機械学習アルゴリズムを起動するステップと、
    到来データに基づいてリアルタイム予測を実施するべく前記第1機械学習モデルの代わりに前記第2機械学習モデルを配備するステップと、
    複数のソースから前記到来データを受け取るステップと、
    前記複数のソースの特定のソースからの前記到来データと関連する成功の尤度を予測するべく前記第2機械学習モデルを起動するステップと、
    前記成功の尤度の判定に応答して、前記特定のソースからの前記到来データを宛先に送信するステップと、
    を有する方法。
  2. 前記宛先は、複数の宛先から選択されており、前記方法は、
    前記複数の宛先用の値を算出するステップと、
    前記算出された値に基づいて前記複数の宛先を動的にランク付けするステップと、
    前記ランク付けに基づいて前記宛先を選択するステップと、
    を更に有する請求項1に記載の方法。
  3. 前記値のそれぞれは、前記複数の宛先のそれぞれに送信されている前記特定のソースからの前記到来データから結果的に得られる成功の尤度の予測に基づいて算出されている請求項2に記載の方法。
  4. 前記到来データの送信に応答して前記宛先から信号を受け取るステップと、
    前記信号の受け取りに応答して、前記ランク付けに基づいて前記複数の宛先の第2の宛先を識別するステップと、
    前記到来データを前記第2の宛先に送信するステップと、
    を更に有する請求項2に記載の方法。
  5. 前記第1機械学習モデルは、第1リンク関数と関連する一般化線形モデル(GLM)である請求項1に記載の方法。
  6. 前記第2機械学習モデルは、主成分回帰又はベイズGLMの少なくとも1つである請求項5に記載の方法。
  7. 前記基準は、前記トレーニングデータのサイズであり、前記基準は、前記トレーニングデータの前記サイズが閾値サイズ未満であるという判定に応答して充足されている請求項6に記載の方法。
  8. 前記成功の尤度は、前記宛先に前記到来データを販売する尤度を含む請求項1に記載の方法。
  9. 前記複数のソースの第2ソースからの前記到来データと関連する成功の尤度を予測するべく第2機械学習モデルを起動するステップと、
    前記成功の尤度が閾値量未満であると判定するステップと、
    前記成功の尤度が前記閾値未満であるという判定に応答して、前記第2ソースから前記到来データをフィルタリングによって除去するステップと、
    を更に有する請求項1に記載の方法。
  10. 前記フィルタリングによる除去に応答して、前記第2ソースからの前記到来データを前記宛先に送信することを抑制するステップを更に有する請求項9に記載の方法。
  11. リアルタイム環境用の機械学習モデルを生成及び配備するシステムであって、
    プロセッサと、
    メモリと、
    を有し、前記メモリは、前記プロセッサによって実行された際に、前記プロセッサが、
    グラフィカルユーザーインターフェイスを介して、ユーザー選択された係数及びトレーニングデータを受け取り、
    前記受け取られた係数及びトレーニングデータに基づいて第1機械学習モデルを生成するべく第1機械学習アルゴリズムを起動し、
    前記第1機械学習モデルによる予測の精度を試験し、
    前記第1機械学習モデルの前記予測の精度が閾値未満であると判定し、
    前記予測の精度が前記閾値未満であるという判定に応答して、特定の基準を評価し、
    前記特定の基準が充足されることに応答して、前記受け取られた係数及びトレーニングデータに基づいて第2機械学習モデルを生成するべく第2機械学習アルゴリズムを起動し、
    到来データに基づいてリアルタイム予測を実施するべく前記第1機械学習モデルの代わりに前記第2機械学習モデルを配備し、
    複数のソースから前記到来データを受け取り、
    前記複数のソースの特定のソースからの前記到来データと関連する成功の尤度を予測するべく前記第2機械学習モデルを起動し、且つ、
    前記成功の尤度の判定に応答して、前記特定のソースからの前記到来データを宛先に送信する、
    ようにする命令を保存している、システム。
  12. 前記宛先は、複数の宛先から選択されており、前記命令は、前記プロセッサが、
    前記複数の宛先用の値を算出し、
    前記算出された値に基づいて前記複数の宛先を動的にランク付けし、且つ、
    前記ランク付けに基づいて前記宛先を選択する、
    ように更にしている請求項1に記載のシステム。
  13. 前記値のそれぞれは、前記複数の宛先のそれぞれに送信されている前記特定のソースからの前記到来データから結果的に得られる成功の尤度の予測に基づいて算出されている請求項12に記載のシステム。
  14. 前記命令は、前記プロセッサが、
    前記到来データの送信に応答して、前記宛先から信号を受け取り、
    前記信号の受け取りに応答して、前記ランク付けに基づいて前記複数の宛先の第2の宛先を識別し、且つ、
    前記第2の宛先に前記到来データを送信する、
    ように更にしている請求項12に記載のシステム。
  15. 前記第1機械学習モデルは、第1リンク関数と関連する一般化線形モデル(GLM)である請求項11に記載のシステム。
  16. 前記第2機械学習モデルは、主成分回帰又はベイズGLMの少なくとも1つである請求項15に記載のシステム。
  17. 前記基準は、前記トレーニングデータのサイズであり、前記基準は、前記トレーニングデータの前記サイズが閾値未満であるという判定に応答して充足されている請求項16に記載のシステム。
  18. 前記成功の尤度は、前記宛先に前記到来データを販売する尤度を含む請求項11に記載のシステム。
  19. 前記命令は、前記プロセッサが、
    前記複数のソースの第2ソースからの前記到来データと関連する成功の尤度を予測するべく前記第2機械学習モデルを起動し、
    前記成功の尤度が閾値量未満であると判定し、且つ、
    前記成功の尤度が前記閾値量未満であるという判定に応答して、前記第2ソースから前記到来データをフィルタリングによって除去する、
    ように更にしている請求項11に記載のシステム。
  20. 前記命令は、前記プロセッサが、前記フィルタリングによる除去に応答して、前記宛先に前記第2ソースからの前記到来データを送信することを抑制するように更にしている請求項19に記載のシステム。
JP2021570277A 2019-05-24 2020-05-22 データトラフィックを処理及び分配する予測モデリング及び分析 Active JP7295976B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201962852916P 2019-05-24 2019-05-24
US62/852,916 2019-05-24
US16/838,817 2020-04-02
US16/838,817 US11507869B2 (en) 2019-05-24 2020-04-02 Predictive modeling and analytics for processing and distributing data traffic
PCT/US2020/034402 WO2020243013A1 (en) 2019-05-24 2020-05-22 Predictive modeling and analytics for processing and distributing data traffic

Publications (2)

Publication Number Publication Date
JP2022534721A true JP2022534721A (ja) 2022-08-03
JP7295976B2 JP7295976B2 (ja) 2023-06-21

Family

ID=73456885

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021570277A Active JP7295976B2 (ja) 2019-05-24 2020-05-22 データトラフィックを処理及び分配する予測モデリング及び分析

Country Status (5)

Country Link
US (1) US11507869B2 (ja)
EP (1) EP3977368A4 (ja)
JP (1) JP7295976B2 (ja)
SG (1) SG11202113063UA (ja)
WO (1) WO2020243013A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11397899B2 (en) * 2019-03-26 2022-07-26 Microsoft Technology Licensing, Llc Filtering content using generalized linear mixed models
US11093229B2 (en) * 2020-01-22 2021-08-17 International Business Machines Corporation Deployment scheduling using failure rate prediction

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003500751A (ja) * 1999-05-21 2003-01-07 マーケットソフト ソフトウェア コーポレイション 顧客リードマネジメントシステム
US20080201184A1 (en) * 2007-01-09 2008-08-21 Autobytel Inc. Systems and methods relating to a lead distribution engine that accommodates internal and imported destination exclusion rules
US20160071118A1 (en) * 2014-09-09 2016-03-10 Fliptop Inc. System and method for lead prioritization based on results from multiple modeling methods
US20180268287A1 (en) * 2017-03-15 2018-09-20 Salesforce.Com, Inc. Probability-Based Guider
JP2019057286A (ja) * 2013-03-13 2019-04-11 セールスフォース ドット コム インコーポレイティッド データアップロード、処理及び予測クエリapi公開を実施するシステム、方法及び装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9043219B2 (en) 2010-09-10 2015-05-26 Ricoh Co., Ltd. Automatic and semi-automatic selection of service or processing providers
WO2016061283A1 (en) 2014-10-14 2016-04-21 Skytree, Inc. Configurable machine learning method selection and parameter optimization system and method
US20170330099A1 (en) 2016-05-11 2017-11-16 Misys International Banking Systems Limited Systems and methods for automated data input error detection
US10599977B2 (en) 2016-08-23 2020-03-24 International Business Machines Corporation Cascaded neural networks using test ouput from the first neural network to train the second neural network
US20200151591A1 (en) * 2017-01-31 2020-05-14 Mocsy Inc. Information extraction from documents
US10614143B2 (en) 2017-08-28 2020-04-07 Facebook, Inc. Systems and methods for automated page category recommendation
US10599719B2 (en) * 2018-06-13 2020-03-24 Stardog Union System and method for providing prediction-model-based generation of a graph data model
US20200034665A1 (en) * 2018-07-30 2020-01-30 DataRobot, Inc. Determining validity of machine learning algorithms for datasets

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003500751A (ja) * 1999-05-21 2003-01-07 マーケットソフト ソフトウェア コーポレイション 顧客リードマネジメントシステム
US20080201184A1 (en) * 2007-01-09 2008-08-21 Autobytel Inc. Systems and methods relating to a lead distribution engine that accommodates internal and imported destination exclusion rules
JP2019057286A (ja) * 2013-03-13 2019-04-11 セールスフォース ドット コム インコーポレイティッド データアップロード、処理及び予測クエリapi公開を実施するシステム、方法及び装置
US20160071118A1 (en) * 2014-09-09 2016-03-10 Fliptop Inc. System and method for lead prioritization based on results from multiple modeling methods
US20180268287A1 (en) * 2017-03-15 2018-09-20 Salesforce.Com, Inc. Probability-Based Guider

Also Published As

Publication number Publication date
EP3977368A1 (en) 2022-04-06
EP3977368A4 (en) 2023-05-24
US20200372386A1 (en) 2020-11-26
JP7295976B2 (ja) 2023-06-21
WO2020243013A1 (en) 2020-12-03
SG11202113063UA (en) 2021-12-30
US11507869B2 (en) 2022-11-22

Similar Documents

Publication Publication Date Title
US20220051282A1 (en) Method and system for using machine learning techniques to identify and recommend relevant offers
US10621597B2 (en) Method and system for updating analytics models that are used to dynamically and adaptively provide personalized user experiences in a software system
US11176495B1 (en) Machine learning model ensemble for computing likelihood of an entity failing to meet a target parameter
US20170178199A1 (en) Method and system for adaptively providing personalized marketing experiences to potential customers and users of a tax return preparation system
US11227217B1 (en) Entity transaction attribute determination method and apparatus
US20040236734A1 (en) Rating system and method for identifying desirable customers
US11934971B2 (en) Systems and methods for automatically building a machine learning model
CN111340244B (zh) 预测方法、训练方法、装置、服务器及介质
US20190342184A1 (en) Systems and Methods for Context Aware Adaptation of Services and Resources in a Distributed Computing System
JP7295976B2 (ja) データトラフィックを処理及び分配する予測モデリング及び分析
US11716422B1 (en) Call center load balancing and routing management
US11811708B2 (en) Systems and methods for generating dynamic conversational responses using cluster-level collaborative filtering matrices
US20190362354A1 (en) Real-time updating of predictive analytics engine
US11790183B2 (en) Systems and methods for generating dynamic conversational responses based on historical and dynamically updated information
US20230153845A1 (en) System and method for generating custom data models for predictive forecasting
CN114581249B (zh) 基于投资风险承受能力评估的金融产品推荐方法及系统
US20190244131A1 (en) Method and system for applying machine learning approach to routing webpage traffic based on visitor attributes
CN111291957A (zh) 生成客服调度信息的方法及装置、电子设备、存储介质
US20210398172A1 (en) Methods and systems for generating recommendations for contacting users through the use of a contextual multi-armed bandit framework
CN113780610A (zh) 一种客服画像构建方法和装置
CN115115449B (zh) 一种面向金融供应链的优化数据推荐的方法及系统
CN112115365B (zh) 模型协同优化的方法、装置、介质和电子设备
US20240152992A1 (en) Data intelligence platform
CN117390540A (zh) 目标操作的执行方法和装置、存储介质及电子设备
CN114781480A (zh) 目标对象的评价方法、评价模型训练方法及装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230131

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230428

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230516

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230609

R150 Certificate of patent or registration of utility model

Ref document number: 7295976

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150