JP2023108590A - 関心トピックに基づいた個人化推薦のための方法、システム、およびコンピュータプログラム - Google Patents

Abstract

【課題】 関心トピックに基づいた個人化推薦のための方法、システム、およびコンピュータプログラムを提供する。【解決手段】インターネット上で使用されるキーワードに対して、言語モデル（ｌａｎｇｕａｇｅ ｍｏｄｅｌ）を利用して前記キーワードのトピックを生成して前記キーワードと前記トピックの間に関係を構築し、前記キーワードと前記トピックの関係を利用してインターネット上のユーザの活動に対応する少なくとも１つの関心トピックを選定し、前記関心トピックに基づいて前記ユーザに個人化された推薦情報を提供する。【選択図】図４

Description

新規性喪失の例外適用申請有り

以下の説明は、個人化推薦技術に関する。

インターネットでの商品推薦は、個人の購入履歴に基づいて個人に最適な商品を選別して推薦することが一般的である。

商品推薦のために使用される主な方法としては、商品を推薦しようとする対象ユーザと似たような購入履歴をもつユーザを選別し、このユーザが購入した商品のうちで推薦対象ユーザが購入したことのない商品を推薦する協調フィルタリング（Ｃｏｌｌａｂｏｒａｔｉｖｅ Ｆｉｌｔｅｒｉｎｇ）や、多数のユーザの購入記録を利用し、同時購入の可能性または同時クリックの可能性が高い商品を推薦する相関ルールマイニング（Ａｓｓｏｃｉａｔｉｏｎ Ｒｕｌｅ Ｍｉｎｉｎｇ）のようなアルゴリズムが挙げられる。

例えば、特許文献１（登録日２００９年２月２日）には、ユーザ端末機にインストールされた情報推薦エージェントが認識した商品の商品コード、商品名、またはモデルなどを利用して商品に対する商品情報を自動推薦する技術が開示されている。

韓国登録特許第１０－０８８２７１６号公報

言語モデル（ｌａｎｇｕａｇｅ ｍｏｄｅｌ）を利用して、キーワードとトピックの間の意味論的関係（ｓｅｍａｎｔｉｃ ｒｅｌａｔｉｏｎ）を示す新たな概念の関心事データを生成することができる。

キーワードとトピックの関係を利用して、インターネット上のユーザの行動を明示的な単語で表現することが可能な関心トピックに要約することができる。

ユーザの関心トピックという明示的な理由に基づいて、ユーザに個人化された推薦を提供することができる。

コンピュータシステムで実行される方法であって、前記コンピュータシステムは、メモリに含まれるコンピュータ読み取り可能な命令を実行するように構成された少なくとも１つのプロセッサを含み、前記方法は、前記少なくとも１つのプロセッサにより、インターネット上で使用されるキーワードに対して、言語モデル（ｌａｎｇｕａｇｅ ｍｏｄｅｌ）を利用して前記キーワードのトピックを生成して前記キーワードと前記トピックの間に関係を構築する段階、および前記少なくとも１つのプロセッサにより、前記キーワードと前記トピックの関係を利用してインターネット上のユーザの活動に対応する少なくとも１つの関心トピックを選定する段階、および前記少なくとも１つのプロセッサにより、前記関心トピックに基づいて前記ユーザに個人化された推薦情報を提供する段階を含む方法を提供する。

一側面によると、前記キーワードと前記トピックの間に関係を構築する段階は、キーワードサンプルと当該キーワードのトピックからなるサンプルデータを利用してターゲットキーワードに対するプロンプト（ｐｒｏｍｐｔ）を構成する段階、および前記プロンプトを前記言語モデルの入力とし、前記サンプルデータのパターンによって前記ターゲットキーワードのトピックを生成する段階を含んでよい。

他の側面によると、前記キーワードと前記トピックの間に関係を構築する段階は、インターネット上の情報検索または情報分類に使用されるキーワードに対して、当該キーワードを使用するユーザの関心事として表現するためのトピックを生成する段階を含んでよい。

また他の側面によると、前記キーワードと前記トピックの間に関係を構築する段階は、前記言語モデルで生成されたトピック間の類似度に基づいてトピックグループを生成する段階、および前記トピックグループに対して、前記トピック間の関係に基づいた埋め込み学習によって前記キーワードに対する少なくとも１つの代表トピックを選定する段階を含んでよい。

また他の側面によると、前記トピックグループを生成する段階は、検索記録に含まれた複数の検索語に対して、各検索語をトピックに置き換えた後、置き換えられたトピックを連結して文章（ｓｅｎｔｅｎｃｅ）で表現し、前記検索語それぞれを単語（ｗｏｒｄ）で表現して埋め込み学習を実行することにより、類似関係にあるトピックをグルーピングする段階を含んでよい。

また他の側面によると、前記トピックグループを生成する段階は、前記キーワードに対して前記言語モデルで生成された候補トピックを連結して文章で表現し、前記候補トピックそれぞれを単語で表現して埋め込み学習を実行することにより、類似関係にあるトピックをグルーピングする段階を含んでよい。

また他の側面によると、前記トピックグループを生成する段階は、前記キーワードと前記言語モデルで生成された候補トピックに対して行列分解（ＭＦ：ｍａｔｒｉｘ ｆａｃｔｏｒｉｚａｔｉｏｎ）を実行することにより、類似関係にあるトピックをグルーピングする段階を含んでよい。

また他の側面によると、前記キーワードに対して少なくとも１つの代表トピックを選定する段階は、前記トピック間の包含関係と同等関係のうちの少なくとも１つの関係を把握してグラフ埋め込み（ｇｒａｐｈ ｅｍｂｅｄｄｉｎｇ）を実行する段階、および前記グラフ埋め込みを利用した前記キーワードと前記トピックの間の確率に基づいて前記代表トピックを選定する段階を含んでよい。

また他の側面によると、前記関心トピックを選定する段階は、前記ユーザが入力した検索語と前記ユーザがクリックした商品のタグのうちの少なくとも１つの活動キーワードと関係が設定されたトピックを前記関心トピックとして選定してよい。

また他の側面によると、前記ユーザに個人化された推薦情報を提供する段階は、前記関心トピックと関係が設定されたキーワードのうちで前記ユーザの活動と関連する少なくとも１つのキーワードを関連キーワードとして推薦する段階を含んでよい。

また他の側面によると、前記ユーザに個人化された推薦情報を提供する段階は、前記関心トピックと関係が設定されたキーワードのうちで前記ユーザの活動と関連する少なくとも１つのキーワードを関連キーワードとして選定する段階、およびインターネット上のアイテムのうちで前記関連キーワードと関連するアイテムを推薦する段階を含んでよい。

さらに他の側面によると、前記関連キーワードと関連するアイテムを推薦する段階は、前記ユーザのプロフィール情報と前記関心トピックのうちの少なくとも１つを利用して推薦アイテムを選定する段階を含んでよい。

前記方法を前記コンピュータシステムに実行させるためのコンピュータプログラムを提供する。

コンピュータシステムであって、メモリに含まれるコンピュータ読み取り可能な命令を実行するように構成された少なくとも１つのプロセッサを含み、前記少なくとも１つのプロセッサは、インターネット上で使用されるキーワードに対して、言語モデルを利用して前記キーワードのトピックを生成して前記キーワードと前記トピックの間に関係を構築し、前記キーワードと前記トピックの関係を利用してインターネット上のユーザの活動に対応する少なくとも１つの関心トピックを選定し、前記関心トピックに基づいて前記ユーザに個人化された推薦情報を提供することを特徴とする、コンピュータシステムを提供する。

本発明の実施形態によると、大規模言語モデルを利用することで、キーワードとトピックの間の意味論的関係を示す、新たな概念の関心事データを生成することができる。

本発明の実施形態によると、キーワードとトピックの関係を利用することで、インターネット上のユーザの行動を明示的な単語で表現することが可能な関心トピックに要約することができる。

本発明の実施形態によると、ユーザの関心トピックという明示的な理由に基づいて、当該ユーザに個人化された推薦を提供することができる。

本発明の一実施形態における、ネットワーク環境の例を示した図である。 本発明の一実施形態における、コンピュータシステムの例を示したブロック図である。 本発明の一実施形態における、コンピュータシステムのプロセッサが含むことができる構成要素の例を示した図である。 本発明の一実施形態における、コンピュータシステムが実行することができる方法の一例を示したフローチャートである。 本発明の一実施形態における、プロンプトを利用したデータ生成過程の一例を説明するためのフローチャートである。 本発明の一実施形態における、データ生成の一例を示した図である。 本発明の一実施形態における、データ生成の一例を示した図である。 本発明の一実施形態における、トピック選定過程の一例を示した図である。 本発明の一実施形態における、トピック選定過程の一例を示した図である。 本発明の一実施形態における、トピック選定過程の一例を示した図である。 本発明の一実施形態における、トピック選定過程の一例を示した図である。 本発明の一実施形態における、個人化推薦過程の一例を示した図である。 本発明の一実施形態における、個人化推薦過程の一例を示した図である。 本発明の一実施形態における、個人化推薦過程の一例を示した図である。

以下、本発明の実施形態について、添付の図面を参照しながら詳しく説明する。

本発明の実施形態は、個人化推薦技術に関する。

本明細書で具体的に開示される事項を含む実施形態は、インターネット上のユーザの行動を明示的な単語（すなわち、関心トピック）に要約することができ、ユーザの関心トピックを利用してインターネット上のアイテムを個人化して推薦することができる。

本発明の実施形態に係る個人化推薦システムは、少なくとも１つのコンピュータシステムによって実現されてよく、本発明の実施形態に係る個人化推薦方法は、個人化推薦システムに含まれる少なくとも１つのコンピュータシステムによって実行されてよい。このとき、コンピュータシステムにおいては、本発明の一実施形態に係るコンピュータプログラムがインストールされて実行されてよく、コンピュータシステムは、実行されたコンピュータプログラムの制御にしたがって本発明の実施形態に係る個人化推薦方法を実行してよい。上述したコンピュータプログラムは、コンピュータシステムと結合して個人化推薦方法をコンピュータに実行させるためにコンピュータ読み取り可能な記録媒体に記録されてよい。

図１は、本発明の一実施形態における、ネットワーク環境の例を示した図である。図１のネットワーク環境は、複数の電子機器１１０、１２０、１３０、１４０、複数のサーバ１５０、１６０、およびネットワーク１７０を含む例を示している。このような図１は、発明の説明のための一例に過ぎず、電子機器の数やサーバの数が図１のように限定されることはない。また、図１のネットワーク環境は、本実施形態に適用可能な環境のうちの一例を説明したものに過ぎず、本実施形態に適用可能な環境が図１のネットワーク環境に限定されることはない。

複数の電子機器１１０、１２０、１３０、１４０は、コンピュータ装置によって実現される固定端末や移動端末であってよい。複数の電子機器１１０、１２０、１３０、１４０の例としては、スマートフォン、携帯電話、ナビゲーション、ＰＣ（ｐｅｒｓｏｎａｌ ｃｏｍｐｕｔｅｒ）、ノート型ＰＣ、デジタル放送用端末、ＰＤＡ（Ｐｅｒｓｏｎａｌ Ｄｉｇｉｔａｌ Ａｓｓｉｓｔａｎｔ）、ＰＭＰ（Ｐｏｒｔａｂｌｅ Ｍｕｌｔｉｍｅｄｉａ Ｐｌａｙｅｒ）、タブレット、ゲームコンソール、ウェアラブルデバイス、ＩｏＴ（Ｉｎｔｅｒｎｅｔ ｏｆ Ｔｈｉｎｇｓ）デバイス、ＶＲ（Ｖｉｒｔｕａｌ Ｒｅａｌｉｔｙ）デバイス、ＡＲ（Ａｕｇｍｅｎｔｅｄ Ｒｅａｌｉｔｙ）デバイスなどがある。一例として、図１では、電子機器１１０の例としてスマートフォンを示しているが、本発明の実施形態において、電子機器１１０は、実質的に無線または有線通信方式を利用し、ネットワーク１７０を介して他の電子機器１２０、１３０、１４０および／またはサーバ１５０、１６０と通信することのできる多様な物理的なコンピュータシステムのうちの１つを意味してよい。

通信方式が限定されることはなく、ネットワーク１７０が含むことのできる通信網（一例として、移動通信網、有線インターネット、無線インターネット、放送網）を利用する通信方式だけではなく、機器間の近距離無線通信が含まれてもよい。例えば、ネットワーク１７０は、ＰＡＮ（ｐｅｒｓｏｎａｌ ａｒｅａ ｎｅｔｗｏｒｋ）、ＬＡＮ（ｌｏｃａｌ ａｒｅａ ｎｅｔｗｏｒｋ）、ＣＡＮ（ｃａｍｐｕｓ ａｒｅａ ｎｅｔｗｏｒｋ）、ＭＡＮ（ｍｅｔｒｏｐｏｌｉｔａｎ ａｒｅａ ｎｅｔｗｏｒｋ）、ＷＡＮ（ｗｉｄｅ ａｒｅａ ｎｅｔｗｏｒｋ）、ＢＢＮ（ｂｒｏａｄｂａｎｄ ｎｅｔｗｏｒｋ）、インターネットなどのネットワークのうちの１つ以上の任意のネットワークを含んでよい。さらに、ネットワーク１７０は、バスネットワーク、スターネットワーク、リングネットワーク、メッシュネットワーク、スター－バスネットワーク、ツリーまたは階層的ネットワークなどを含むネットワークトポロジのうちの任意の１つ以上を含んでもよいが、これらに限定されることはない。

サーバ１５０、１６０それぞれは、複数の電子機器１１０、１２０、１３０、１４０とネットワーク１７０を介して通信して命令、コード、ファイル、コンテンツ、サービスなどを提供する１つ以上のコンピュータ装置によって実現されてよい。例えば、サーバ１５０は、ネットワーク１７０を介して接続した複数の電子機器１１０、１２０、１３０、１４０に第１サービスを提供するシステムであってよく、サーバ１６０も、ネットワーク１７０を介して接続した複数の電子機器１１０、１２０、１３０、１４０に第２サービスを提供するシステムであってよい。より具体的な例として、サーバ１５０は、複数の電子機器１１０、１２０、１３０、１４０においてインストールされて実行されるコンピュータプログラムであるアプリケーションを通じて、該当のアプリケーションが目的とするサービス（一例として、個人化推薦サービスなど）を第１サービスとして複数の電子機器１１０、１２０、１３０、１４０に提供してよい。他の例として、サーバ１６０は、上述したアプリケーションのインストールおよび実行のためのファイルを複数の電子機器１１０、１２０、１３０、１４０に配布するサービスを第２サービスとして提供してよい。

図２は、本発明の一実施形態における、コンピュータシステムの例を示したブロック図である。上述した複数の電子機器１１０、１２０、１３０、１４０それぞれやサーバ１５０、１６０それぞれは、図２に示したコンピュータシステム２００によって実現されてよい。

このようなコンピュータシステム２００は、図２に示すように、メモリ２１０、プロセッサ２２０、通信インタフェース２３０、および入力／出力インタフェース２４０を含んでよい。

メモリ２１０は、コンピュータ読み取り可能な記録媒体であって、ＲＡＭ（ｒａｎｄｏｍ ａｃｃｅｓｓ ｍｅｍｏｒｙ）、ＲＯＭ（ｒｅａｄ ｏｎｌｙ ｍｅｍｏｒｙ）、およびディスクドライブのような永続的大容量記録装置を含んでよい。ここで、ＲＯＭやディスクドライブのような永続的大容量記録装置は、メモリ２１０とは区分される別の永続的記録装置としてコンピュータシステム２００に含まれてもよい。また、メモリ２１０には、オペレーティングシステムと、少なくとも１つのプログラムコードが記録されてよい。このようなソフトウェア構成要素は、メモリ２１０とは別のコンピュータ読み取り可能な記録媒体からメモリ２１０にロードされてよい。このような別のコンピュータ読み取り可能な記録媒体は、フロッピー（登録商標）ドライブ、ディスク、テープ、ＤＶＤ／ＣＤ－ＲＯＭドライブ、メモリカードなどのコンピュータ読み取り可能な記録媒体を含んでよい。他の実施形態において、ソフトウェア構成要素は、コンピュータ読み取り可能な記録媒体ではない通信インタフェース２３０を通じてメモリ２１０にロードされてもよい。例えば、ソフトウェア構成要素は、ネットワーク１７０を介して受信されるファイルによってインストールされるコンピュータプログラムに基づいてコンピュータシステム２００のメモリ２１０にロードされてよい。

プロセッサ２２０は、基本的な算術、ロジック、および入出力演算を実行することにより、コンピュータプログラムの命令を処理するように構成されてよい。命令は、メモリ２１０または通信インタフェース２３０によって、プロセッサ２２０に提供されてよい。例えば、プロセッサ２２０は、メモリ２１０のような記録装置に記録されたプログラムコードにしたがって受信される命令を実行するように構成されてよい。

通信インタフェース２３０は、ネットワーク１７０を介してコンピュータシステム２００が他の装置（一例として、上述した記録装置）と互いに通信するための機能を提供してよい。一例として、コンピュータシステム２００のプロセッサ２２０がメモリ２１０のような記録装置に記録されたプログラムコードにしたがって生成した要求や命令、データ、ファイルなどが、通信インタフェース２３０の制御にしたがってネットワーク１７０を介して他の装置に伝達されてよい。これとは逆に、他の装置からの信号や命令、データ、ファイルなどが、ネットワーク１７０を経てコンピュータシステム２００の通信インタフェース２３０を通じてコンピュータシステム２００に受信されてよい。通信インタフェース２３０を通じて受信された信号や命令、データなどは、プロセッサ２２０やメモリ２１０に伝達されてよく、ファイルなどは、コンピュータシステム２００がさらに含むことのできる記録媒体（上述した永続的記録装置）に記録されてよい。

入力／出力インタフェース２４０は、入力／出力装置２５０とのインタフェースのための手段であってよい。例えば、入力装置は、マイク、キーボード、またはマウスなどの装置を、出力装置は、ディスプレイ、スピーカのような装置を含んでよい。他の例として、入力／出力インタフェース２４０は、タッチスクリーンのように入力と出力のための機能が１つに統合された装置とのインタフェースのための手段であってもよい。入力／出力装置２５０は、コンピュータシステム２００と１つの装置で構成されてもよい。

また、他の実施形態において、コンピュータシステム２００は、図２の構成要素よりも少ないか多くの構成要素を含んでもよい。しかし、大部分の従来技術的構成要素を明確に図に示す必要はない。例えば、コンピュータシステム２００は、上述した入力／出力装置２５０のうちの少なくとも一部を含むように実現されてもよいし、トランシーバ、データベースなどのような他の構成要素をさらに含んでもよい。

以下では、関心トピックに基づいた個人化推薦のための方法およびシステムの具体的な実施形態について説明する。

図３は、本発明の一実施形態における、コンピュータシステムのプロセッサが含むことができる構成要素の例を示したブロック図であり、図４は、本発明の一実施形態における、コンピュータシステムが実行することができる個人化推薦方法の一例を示したフローチャートである。

本実施形態に係るコンピュータシステム２００は、クライアントを対象に、クライアント上にインストールされた専用アプリケーションやコンピュータシステム２００と関連するウェブ／モバイルサイトへの接続によって個人化推薦サービスを提供してよい。

コンピュータシステム２００のプロセッサ２２０は、以下で説明する個人化推薦方法を実行するための構成要素として、図３に示すように、データ生成部３１０、関心トピック選定部３２０、および個人化推薦部３３０を含んでよい。実施形態によって、プロセッサ２２０の構成要素は、選択的にプロセッサ２２０に含まれても除外されてもよい。また、実施形態によって、プロセッサ２２０の構成要素は、プロセッサ２２０の機能の表現のために分離されても併合されてもよい。

このようなプロセッサ２２０およびプロセッサ２２０の構成要素は、以下で説明する個人化推薦方法に含まれる段階を実行するようにコンピュータシステム２００を制御してよい。例えば、プロセッサ２２０およびプロセッサ２２０の構成要素は、メモリ２１０が含むオペレーティングシステムのコードと、少なくとも１つのプログラムのコードとによる命令（ｉｎｓｔｒｕｃｔｉｏｎ）を実行するように実現されてよい。

ここで、プロセッサ２２０の構成要素は、コンピュータシステム２００に記録されたプログラムコードが提供する命令にしたがってプロセッサ２２０によって実行される、互いに異なる機能（ｄｉｆｆｅｒｅｎｔ ｆｕｎｃｔｉｏｎｓ）の表現であってよい。例えば、コンピュータシステム２００がキーワードとトピックの関係を現す関心事データを生成するように上述した命令にしたがってコンピュータシステム２００を制御するプロセッサ２２０の機能的表現として、データ生成部３１０が利用されてよい。

プロセッサ２２０は、コンピュータシステム２００の制御と関連する命令がロードされたメモリ２１０から必要な命令を読み取ってよい。この場合、前記読み取られた命令は、プロセッサ２２０が以下で説明する個人化推薦方法を実行するように制御するための命令を含んでよい。

以下で説明する個人化推薦方法に含まれる段階は、図に示したものとは異なる順序で実行されてもよいし、段階のうちの一部が省略されたり追加の過程がさらに含まれたりしてもよい。

図４を参照すると、段階４１０で、データ生成部３１０は、キーワードとトピックの間の意味論的関係を現す、新たな概念の関心事データを生成してよい。データ生成部３１０は、インターネット上で使用されるキーワードそれぞれに対して、当該キーワードに相応しいトピックを生成してよい。このとき、キーワードとは、検索時に使用されるキーワードである検索語、ある情報のメタデータとして付与されたキーワード、分類を示すタグなどのように、インターネット上の情報検索や情報分類に使用されるすべてのキーワードを包括したものを意味してよい。例えば、データ生成部３１０は、購入したい商品を検索するための目的で使用されるショッピング性検索語、ショッピング推薦に使用されるショッピング性タグなどに対して関心事データを生成してよい。キーワード「糸こんにゃく」とトピック「ダイエット」の間に関係が構築されていると仮定すれば、ユーザＡが検索語「糸こんにゃく」を利用して商品を検索したり、タグ「糸こんにゃく」が付与された商品をクリックしたりするとき、ユーザＡの行動から読み取れる関心事を明示的な単語「ダイエット」に要約することができる。一例として、データ生成部３１０は、検索語やタグなどに使用されるキーワードに対して、当該キーワードを使用するユーザの関心事として表現することができるトピックを言語モデルで生成することにより、キーワードとトピックの関係を現す関心事データを生成してよい。データ生成部３１０は、言語モデルの入力文となるプロンプト（ｐｒｏｍｐｔ）で与えられたキーワードに相応しいトピックを生成してキーワードとトピックの関係を構築してよい。キーワードとトピックの関係データは、一定の周期単位でアップデートされてよい。

段階４２０で、関心トピック選定部３２０は、キーワードとトピックの関係を利用して、インターネット上のユーザの活動に対応する少なくとも１つのトピックをユーザの関心トピックとして選定してよい。関心トピック選定部３２０は、ユーザ活動キーワード（リアルタイム入力される検索語、またはここ最近の一定期間内の検索語やクリック商品のタグなど）を基準に、当該キーワードと関係が設定されたトピックをユーザの関心トピックとして選定してよい。

段階４３０で、個人化推薦部３３０は、ユーザの関心トピックに基づいて個人化された推薦を提供してよい。個人化推薦部３３０は、ユーザの関心トピックと関係が設定されたキーワードを利用して個人化推薦情報を提供してよい。一例として、個人化推薦部３３０は、ユーザの関心トピックに属するキーワード（検索語、タグなど）のうちの少なくとも１つのキーワードを関連キーワードとして推薦してよい。このとき、個人化推薦部３３０は、埋め込み方法論（例えば、ｗｏｒｄ２ｖｅｃ、ＦａｓｔＴｅｘｔなど）に基づいてキーワード間の類似度を測定してよく、ユーザの関心トピックに属するキーワードのうちでユーザ活動キーワードと類似のキーワードを関連キーワードとして選定してよい。また、個人化推薦部３３０は、行列分解（ＭＦ：ｍａｔｒｉｘ ｆａｃｔｏｒｉｚａｔｉｏｎ）モデルを利用して、ユーザの関心トピックに属するキーワードのうちでユーザが選好するキーワードを関連キーワードとして選定してよい。ユーザをＵとし、ユーザ活動キーワードをＩとするとき、Ｕ×Ｉサイズのインタラクションデータに対して行列分解を実行することにより、各キーワードのユーザ選好度を求めてよい。ユーザの関心トピックに属するキーワードに対して選好度を求めた後、選好度が一定レベル以上となるキーワードをユーザ活動キーワードの関連キーワードとして推薦してよい。ユーザ活動キーワードが一定レベル以上となるユーザに対しては行列分解モデルを利用して関連キーワードを推薦してよく、ユーザ活動キーワードが一定レベル未満のユーザに対しては埋め込み方法論を利用して関連キーワードを推薦してよい。他の例として、個人化推薦部３３０は、ユーザの関心トピックに応じて、関連キーワードに基づいてインターネット上のアイテムを推薦してよい。例えば、個人化推薦部３３０は、関連キーワードと関連するアイテムとして、多数のユーザが関連キーワードを検索語として入力して実際にクリックした商品の一部を推薦商品として提供してよい。このとき、クリック商品のうちでもここ最近のクリック商品に加重値をおいて優先的に推薦されるように適用してよい。また、クリック商品のうち、ユーザのプロフィール情報（例えば、性別、年齢、位置など）とマッチングする他のユーザまたはユーザと関心トピックが等しい他のユーザがクリックした商品を、当該ユーザの推薦商品として選定してよい。

ユーザの関心トピックに基づいて推薦されるアイテムとしてショッピング商品を例に挙げて説明したが、これに限定されてはならない。例えば、カフェ、ブログ、ニュース、動画などのような多様なプラットフォームやチャンネルなどのコンテンツが推薦アイテムとして活用されてよい。

図５は、本発明の一実施形態における、プロンプトを利用したデータ生成過程の一例を説明するためのフローチャートである。

図５を参照すると、段階５０１で、プロセッサ２２０は、サンプルデータセットを利用して言語モデルの入力プロンプトを構成してよい。プロセッサ２２０は、事前に定められたキーワードと当該キーワードのトピックを正解が定められたサンプルデータとして利用してよい。予め定められたサンプルデータペアの他に個別のデータセットが存在してもよく、実施形態によっては、データセット内でキーワードと当該キーワードのトピックからなるサンプルデータペアを選定して利用してよい。プロセッサ２２０は、与えられたＮＬＰ問題の特性が適切に反映された専用プロンプトテンプレートを製作してよく、このとき、プロンプトテンプレートにはタスクの定義やメタ情報が含まれてよい。言い換えれば、プロセッサ２２０は、データセットから選択されたサンプルデータを利用して自然語形態のプロンプトを構成することができる。このとき、プロンプトは、言語モデルが理解可能な形式で製作され、言語モデルの入力として与えられる。プロセッサ２２０は、サンプルデータがラベルのあるデータの場合、ラベル情報とともに入力文が生成されるようにプロンプトを設計してよい。プロンプトの形式自体は多様に構成されてよく、一例として、プロンプトは、キーワードサンプルと当該キーワードのトピックがサンプルとして構成されてよい。本実施形態において、プロンプトは、少なくとも１つ以上のキーワードと当該キーワードのトピックからなるサンプルデータペアと、ターゲットキーワードで構成されてよい。プロンプト構成の詳細な方法については、図６を参照しながら説明する。

段階５０２で、プロセッサ２２０は、段階５０１で構成されたプロンプトを言語モデルに入力し、言語モデルから与えられたターゲットキーワードのトピックを理解してよい。プロセッサ２２０は、プロンプト入力文を言語モデルに入力した後、言語モデルの生成あるいは完成機能による言語生成結果としてターゲットキーワードのトピックを取得してよい。プロセッサ２２０は、プロンプトを言語モデルに入力し、言語モデルでプロンプトに含まれたサンプルの自然語パターンを分析することにより、当該パターンを有する新たな結果を得ることができる。

図６～７は、本発明の一実施形態における、データ生成の一例を示した図である。

図６を参照すると、プロセッサ２２０は、サンプルデータとして選定されたキーワードサンプルと当該キーワードに対する関心事として表現することができるトピックからなるサンプルデータペアを利用して、言語モデルの入力文となるプロンプト６１０を構成してよい。

プロセッサ２２０は、少なくとも１つのサンプルデータペアとターゲットキーワードで構成されたプロンプト６１０を言語モデルの入力とし、言語モデルがターゲットキーワードに対するトピックを生成するようにしてよい。すなわち、言語モデルの完成機能によってターゲットキーワードの内容に該当するトピックを生成してよい。

プロセッサ２２０は、［キーワード＋トピック］形態のサンプルデータペアと［ターゲットキーワード］で構成されたプロンプト６１０を利用し、プロンプトに含まれたサンプルデータのパターンにしたがってターゲットキーワードに対するトピックを生成してよい。

言い換えれば、プロセッサ２２０は、キーワードと当該キーワードのトピックをサンプルとして提供し、サンプルのパターンにしたがってターゲットキーワードに該当するトピックを生成することができる。

図７を参照すると、プロセッサ２２０は、与えられたキーワード７０１に対して、言語モデル７００を利用して当該キーワード７０１に相応しい候補トピック７０２を生成してよい。例えば、言語モデル７００は、キーワード「糸こんにゃく」が与えられれば、当該キーワードのトピックとしてダイエット、ダイエット食事、ダイエット飲み物、サラダチキンブランド、体脂肪管理、インボディ、デトックスダイエットなどを生成してよい。

言語モデル７００で生成される候補トピック７０２は、言語モデル７００の特性（多様性、偶然性など）上、ワーディングは異なるが同じ意味の単語、範疇が互いに異なる単語などのように一貫性のない単語を生成するという問題がある。

プロセッサ２２０は、キーワード７０１との関係を構築するために、言語モデル７００で生成された候補トピック７０２をグルーピングして代表トピックを選定する必要がある。

図８～１１は、本発明の一実施形態における、トピック選定過程の一例を示した図である。

先ず、プロセッサ２２０は、キーワードに対して生成された候補トピックに対して、トピック間の類似度に基づいて類似関係にあるトピックを選別してよい。

一例として、図８を参照すると、プロセッサ２２０は、行列分解（ＭＦ）に基づいてキーワードと言語モデルで生成された候補トピックをモデリングする方法により、類似関係にあるトピックをグルーピングしてよい。

他の例として、図９を参照すると、プロセッサ２２０は、キーワードに対して生成された候補トピックをすべて連結して（ｃｏｎｃａｔｅｎａｔｅ）文章（ｓｅｎｔｅｎｃｅ）で表現し、各候補トピックを個別の単語で表現して埋め込み学習を実行することにより、類似関係にあるトピックをグルーピングしてよい。

また他の例として、プロセッサ２２０は、ユーザが検索した記録を関心事を表現したトピックに置き換えた後、埋め込み学習を実行してよい。図１０を参照すると、ユーザ検索記録が＜糸こんにゃく、プロテイン、シッサス、ひよこ豆スナック、こんにゃくゼリー＞などであるとき、それぞれの検索語をトピックに該当する単語に置き換えた後、置き換えられたトピックをすべて連結して文章で表現し、検索語それぞれを個別の単語で表現して埋め込み学習を実行することにより、類似関係にあるトピックをグルーピングしてよい。

次に、プロセッサ２２０は、類似関係にあるトピックグループから代表トピックを選定してよい。プロセッサ２２０は、トピック同士の類似度に基づいて、グルーピングされたトピックグループを対象にしてトピックとの関係を把握することにより、代表となるトピックを選定してよい。

一例として、プロセッサ２２０は、インターネット上でキーワードを分類するカテゴリ（例えば、検索語カテゴリなど）を利用してトピックとの関係を構築してよい。例えば、図１１に示すように、検索語＜タンパク質シェイクボトル、ＱＵＥＳＴプロテインバー、ナイキクルー、フィラパフォーマンスパンツ、ゼクシィミックスジョガー、アディダスＴシャツ、ダンベル、バーピーテストマット、バーベル５ｋｇ、ケトルベル、バーンマシン＞はすべてカテゴリ「自宅トレーニング」に該当し、このうち、＜ナイキクルー、フィラパフォーマンスパント、ゼクシィミックスジョガー、アディダスＴシャツ＞はカテゴリ「スポーツウエア」に該当し、＜ダンベル、バーピーテストマット、バーベル５ｋｇ、ケトルベル、バーンマシン＞はカテゴリ「運動器具」に該当すると仮定する。言語モデルによってトピック「自宅トレーニング」、「スポーツウエア」、「運動器具」が生成されるとするとき、「スポーツウエア」に属する検索語が「自宅トレーニング」に含まれるため、トピック「自宅トレーニング」と「スポーツウエア」の間に関係を構築することができ、「運動器具」に属する検索語が「自宅トレーニング」に含まれるため、トピック「自宅トレーニング」と「運動器具」の間に関係を構築することができる。

他の例として、プロセッサ２２０は、単語の包含関係と同等関係を利用してトピックとの関係を構築してよい。先ず、プロセッサ２２０は、類似関係にあるトピックグループから包含関係にあるトピックを探索する。例えば、トピックＡ「ダイエット」はトピックＢ「ダイエットメニュー」に完全に含まれる単語であるため、トピックＢはトピックＡに属する（包含関係）と仮定する。また、トピックＡにａ１、ａ２、ａ３という単語が含まれ、トピックＢにａ１、ａ２、ａ３、ｂ１、ｂ２という単語が含まれる場合、トピックＢはトピックＡを完全に含んでいるため、トピックＡはトピックＢに属する（包含関係）と仮定する。次に、プロセッサ２２０は、包含関係にあるトピックを除いた残りのトピックのうちから同等関係にあるトピックを探索する。例えば、キーワードＣに対してトピックＣ１、Ｃ２、Ｃ３が生成された場合、トピックＣ１、Ｃ２、Ｃ３は同等な関係であると仮定する。プロセッサ２２０は、トピック間の包含関係と同等関係を利用してグラフ埋め込み（例えば、Ｋｎｏｗｌｅｄｇｅ Ｇｒａｐｈ Ｅｍｂｅｄｄｉｎｇなど）を実行してよい。言い換えれば、グラフ埋め込みで使用される関係として包含関係と同等関係を適用してよい。トピック間の関係を表現したグラフ埋め込み後に各キーワードがどのトピックに属するかを確率的に求め、確率基準で代表トピックを決定してよい。確率の他にも、トピック間の関係に基づいた階層構造で一定のデブス（ｄｅｐｔｈ）のトピックを代表トピックとして選定してもよい。

ここで、プロセッサ２２０は、代表トピックを選定するための基準をチューニングしてよい。例えば、トピック間で単語がどのくらい重なるかを把握したり、トピック間の類似度を比較したりするなど、定量的かつ定性的な品質チューニングを行ってよい。

また、プロセッサ２２０は、トピック間の関係に基づいて広範囲のトピックを除去する後処理ロジックを実行してよい。一例として、プロセッサ２２０は、トピック間の関係に基づいた階層構造において、下位階層のトピックが閾値上に多いトピックを代表トピックの選定対象から除外してよい。

プロセッサ２２０は、各キーワードに対して多様なトピックが生成される場合、トピック間の関係に基づいた埋め込み学習により、代表となり得る少なくとも１つのトピックを最終的に選定して当該キーワードとの関係を構築してよい。

図１２～１４は、本発明の一実施形態における、個人化推薦過程の一例を示した図である。

図１２を参照すると、プロセッサ２２０は、ユーザが検索サービス画面１２００上に検索語１２０１を入力する場合、検索語１２０１に対応する検索結果に個人化推薦情報１２１０を含んで提供してよい。

一例として、プロセッサ２２０は、検索語１２０１に該当するキーワードと関係が設定されたトピックをユーザの関心トピック１２１１として選定した後、関心トピック１２１１に属するキーワードのうちで検索語１２０１と類似するかユーザが選好するキーワードである関連キーワード１２１２を個人化推薦情報１２１０として提供してよい。

他の例として、プロセッサ２２０は、検索語１２０１に対して関連キーワード１２１２と関連するアイテム１２１３を個人化推薦情報１２１０として提供してよい。例えば、アイテム１２１３は、関連キーワード１２１２がタグとして登録された商品、他のユーザが関連キーワード１２１２で検索してクリックした商品、またはユーザとプロフィール（性別や年齢など）が類似する他のユーザがクリックした商品などが選定されてよい。

図１３を参照すると、プロセッサ２２０は、ユーザが個人化推薦領域１３１０を含んだサービス画面１３００に接続する場合、ここ最近の一定期間内のユーザ活動に基づいて当該ユーザの関心トピック１３１１を提供してよい。このとき、プロセッサ２２０は、ユーザ活動キーワード（ここ最近の一定期間内の検索語やクリック商品のタグなど）と関係が設定されたトピックを当該ユーザの関心トピック１３１１として選定して個人化推薦領域１３１０に表示してよい。

プロセッサ２２０は、個人化推薦領域１３１０に表示された関心トピック１３１１のうちから特定のトピックが選択される場合、図１４に示すように、選択トピック１４１１に属するキーワードのうちでユーザ活動キーワードと類似するかユーザが選好するキーワードである関連キーワード１４１２を個人化推薦領域１３１０で提供してよい。

プロセッサ２２０は、関連キーワード１４１２とともに、関連キーワード１４１２と関連するアイテム１４１３を個人化推薦領域１３１０に表示してよい。例えば、アイテム１４１３は、関連キーワード１４１２がタグとして登録された商品、他のユーザが関連キーワード１４１２で検索してクリックした商品、またはユーザとプロフィールまたは関心トピック１３１１が類似する他のユーザがクリックした商品などが選定されてよい。

このように、本発明の実施形態によると、大規模言語モデルを利用してキーワードとトピックの間の意味論的関係を現す新たな概念のデータを生成することができ、キーワードとトピックの関係データに基づいてインターネット上のユーザの行動を明示的な単語（関心トピック）に要約し、これに基づいてユーザに個人化された推薦を提供することができる。

上述した装置は、ハードウェア構成要素、ソフトウェア構成要素、および／またはハードウェア構成要素とソフトウェア構成要素との組み合わせによって実現されてよい。例えば、実施形態で説明された装置および構成要素は、プロセッサ、コントローラ、ＡＬＵ（ａｒｉｔｈｍｅｔｉｃ ｌｏｇｉｃ ｕｎｉｔ）、デジタル信号プロセッサ、マイクロコンピュータ、ＦＰＧＡ（ｆｉｅｌｄ ｐｒｏｇｒａｍｍａｂｌｅ ｇａｔｅ ａｒｒａｙ）、ＰＬＵ（ｐｒｏｇｒａｍｍａｂｌｅ ｌｏｇｉｃ ｕｎｉｔ）、マイクロプロセッサ、または命令を実行して応答することができる様々な装置のように、１つ以上の汎用コンピュータまたは特殊目的コンピュータを利用して実現されてよい。処理装置は、オペレーティングシステム（ＯＳ）およびＯＳ上で実行される１つ以上のソフトウェアアプリケーションを実行してよい。また、処理装置は、ソフトウェアの実行に応答し、データにアクセスし、データを記録、操作、処理、および生成してもよい。理解の便宜のために、１つの処理装置が使用されるとして説明される場合もあるが、当業者であれば、処理装置が複数個の処理要素および／または複数種類の処理要素を含んでもよいことが理解できるであろう。例えば、処理装置は、複数個のプロセッサまたは１つのプロセッサおよび１つのコントローラを含んでよい。また、並列プロセッサのような、他の処理構成も可能である。

ソフトウェアは、コンピュータプログラム、コード、命令、またはこれらのうちの１つ以上の組み合わせを含んでもよく、思うままに動作するように処理装置を構成したり、独立的または集合的に処理装置に命令したりしてよい。ソフトウェアおよび／またはデータは、処理装置に基づいて解釈されたり、処理装置に命令またはデータを提供したりするために、いかなる種類の機械、コンポーネント、物理装置、コンピュータ記録媒体または装置に具現化されてよい。ソフトウェアは、ネットワークによって接続されたコンピュータシステム上に分散され、分散された状態で記録されても実行されてもよい。ソフトウェアおよびデータは、１つ以上のコンピュータ読み取り可能な記録媒体に記録されてよい。

実施形態に係る方法は、多様なコンピュータ手段によって実行可能なプログラム命令の形態で実現されてコンピュータ読み取り可能な媒体に記録されてよい。ここで、媒体は、コンピュータ実行可能なプログラムを継続して記録するものであっても、実行またはダウンロードのために一時記録するものであってもよい。また、媒体は、単一または複数のハードウェアが結合した形態の多様な記録手段または格納手段であってよく、あるコンピュータシステムに直接接続する媒体に限定されることはなく、ネットワーク上に分散して存在するものであってもよい。媒体の例としては、ハードディスク、フロッピー（登録商標）ディスク、および磁気テープのような磁気媒体、ＣＤ－ＲＯＭおよびＤＶＤのような光媒体、フロプティカルディスク（ｆｌｏｐｔｉｃａｌ ｄｉｓｋ）のような光磁気媒体、およびＲＯＭ、ＲＡＭ、フラッシュメモリなどを含み、プログラム命令が記録されるように構成されたものであってよい。また、媒体の他の例として、アプリケーションを配布するアプリケーションストアやその他の多様なソフトウェアを供給または配布するサイト、サーバなどで管理する記録媒体または格納媒体が挙げられる。

以上のように、実施形態を、限定された実施形態および図面に基づいて説明したが、当業者であれば、上述した記載から多様な修正および変形が可能であろう。例えば、説明された技術が、説明された方法とは異なる順序で実行されたり、かつ／あるいは、説明されたシステム、構造、装置、回路などの構成要素が、説明された方法とは異なる形態で結合されたりまたは組み合わされたり、他の構成要素または均等物によって対置されたり置換されたとしても、適切な結果を達成することができる。

したがって、異なる実施形態であっても、特許請求の範囲と均等なものであれば、添付される特許請求の範囲に属する。

２２０：プロセッサ
３１０：データ生成部
３２０：関心トピック選定部
３３０：個人化推薦部

Claims (20)

1. コンピュータシステムで実行される方法であって、
   前記コンピュータシステムは、メモリに含まれるコンピュータ読み取り可能な命令を実行するように構成された少なくとも１つのプロセッサを含み、
   前記方法は、
   前記少なくとも１つのプロセッサにより、インターネット上で使用されるキーワードに対して、言語モデル（ｌａｎｇｕａｇｅ ｍｏｄｅｌ）を利用して前記キーワードのトピックを生成して前記キーワードと前記トピックとの間に関係を構築する段階、および
   前記少なくとも１つのプロセッサにより、前記キーワードと前記トピックの関係を利用して、インターネット上のユーザの活動に対応する少なくとも１つの関心トピックを選定する段階、および
   前記少なくとも１つのプロセッサにより、前記関心トピックに基づいて前記ユーザに個人化された推薦情報を提供する段階
   を含む、方法。
2. 前記キーワードと前記トピックの間に関係を構築する段階は、
   キーワードサンプルと当該キーワードのトピックからなるサンプルデータを利用してターゲットキーワードに対するプロンプト（ｐｒｏｍｐｔ）を構成する段階、および
   前記プロンプトを前記言語モデルの入力とし、前記サンプルデータのパターンによって前記ターゲットキーワードのトピックを生成する段階
   を含む、請求項１に記載の方法。
3. 前記キーワードと前記トピックの間に関係を構築する段階は、
   インターネット上の情報検索または情報分類に使用されるキーワードに対して、当該キーワードを使用するユーザの関心事として表現するためのトピックを生成する段階
   を含む、請求項１に記載の方法。
4. 前記キーワードと前記トピックの間に関係を構築する段階は、
   前記言語モデルで生成されたトピック間の類似度に基づいてトピックグループを生成する段階、および
   前記トピックグループに対して、前記トピック間の関係に基づいた埋め込み学習によって前記キーワードに対して少なくとも１つの代表トピックを選定する段階
   を含む、請求項１に記載の方法。
5. 前記トピックグループを生成する段階は、
   検索記録に含まれた複数の検索語に対して各検索語をトピックに置き換えた後、置き換えられたトピックを連結して文章（ｓｅｎｔｅｎｃｅ）で表現し、前記検索語それぞれを単語（ｗｏｒｄ）で表現して埋め込み学習を実行することにより、類似関係にあるトピックをグルーピングする段階
   を含む、請求項４に記載の方法。
6. 前記トピックグループを生成する段階は、
   前記キーワードに対して前記言語モデルで生成された候補トピックを連結して文章で表現し、前記候補トピックそれぞれを単語で表現して埋め込み学習を実行することにより、類似関係にあるトピックをグルーピングする段階
   を含む、請求項４に記載の方法。
7. 前記トピックグループを生成する段階は、
   前記キーワードと前記言語モデルで生成された候補トピックに対して行列分解（ＭＦ：ｍａｔｒｉｘ ｆａｃｔｏｒｉｚａｔｉｏｎ）を実行することにより、類似関係にあるトピックをグルーピングする段階
   を含む、請求項４に記載の方法。
8. 前記キーワードに対して少なくとも１つの代表トピックを選定する段階は、
   前記トピック間の包含関係と同等関係のうちの少なくとも１つの関係を把握してグラフ埋め込み（ｇｒａｐｈ ｅｍｂｅｄｄｉｎｇ）を実行する段階、および
   前記グラフ埋め込みを利用した前記キーワードと前記トピックの間の確率に基づいて前記代表トピックを選定する段階
   を含む、請求項４に記載の方法。
9. 前記関心トピックを選定する段階は、
   前記ユーザが入力した検索語と前記ユーザがクリックした商品のタグのうちの少なくとも１つの活動キーワードと関係が設定されたトピックを前記関心トピックとして選定すること
   を特徴とする、請求項１に記載の方法。
10. 前記ユーザに個人化された推薦情報を提供する段階は、
    前記関心トピックと関係が設定されたキーワードのうちで前記ユーザの活動と関連する少なくとも１つのキーワードを関連キーワードとして推薦する段階
    を含む、請求項１に記載の方法。
11. 前記ユーザに個人化された推薦情報を提供する段階は、
    前記関心トピックと関係が設定されたキーワードのうちで前記ユーザの活動と関連する少なくとも１つのキーワードを関連キーワードとして選定する段階、および
    インターネット上のアイテムのうちで前記関連キーワードと関連するアイテムを推薦する段階
    を含む、請求項１に記載の方法。
12. 前記関連キーワードと関連するアイテムを推薦する段階は、
    前記ユーザのプロフィール情報と前記関心トピックのうちの少なくとも１つを利用して推薦アイテムを選定する段階
    を含む、請求項１１に記載の方法。
13. 請求項１～１２のうちのいずれか一項に記載の方法を前記コンピュータシステムに実行させるためのコンピュータプログラム。
14. コンピュータシステムであって、
    メモリに含まれるコンピュータ読み取り可能な命令を実行するように構成された少なくとも１つのプロセッサ
    を含み、
    前記少なくとも１つのプロセッサは、
    インターネット上で使用されるキーワードに対して、言語モデルを利用して前記キーワードのトピックを生成して前記キーワードと前記トピックの間に関係を構築し、
    前記キーワードと前記トピックの関係を利用してインターネット上のユーザの活動に対応する少なくとも１つの関心トピックを選定し、
    前記関心トピックに基づいて前記ユーザに個人化された推薦情報を提供すること
    を特徴とする、コンピュータシステム。
15. 前記少なくとも１つのプロセッサは、
    キーワードサンプルと当該キーワードのトピックからなるサンプルデータを利用してターゲットキーワードに対するプロンプトを構成し、
    前記プロンプトを前記言語モデルの入力とし、前記サンプルデータのパターンによって前記ターゲットキーワードのトピックを生成すること
    を特徴とする、請求項１４に記載のコンピュータシステム。
16. 前記少なくとも１つのプロセッサは、
    インターネット上の情報検索または情報分類に使用されるキーワードに対して、当該キーワードを使用するユーザの関心事として表現するためのトピックを生成すること
    を特徴とする、請求項１４に記載のコンピュータシステム。
17. 前記少なくとも１つのプロセッサは、
    前記言語モデルで生成されたトピック間の類似度に基づいてトピックグループを生成し、
    前記トピックグループに対して、前記トピック間の関係に基づいた埋め込み学習によって前記キーワードに対して少なくとも１つの代表トピックを選定すること
    を特徴とする、請求項１４に記載のコンピュータシステム。
18. 前記少なくとも１つのプロセッサは、
    検索記録に含まれた複数の検索語に対して各検索語をトピックに置き換えた後、置き換えられたトピックを連結して文章で表現し、前記検索語それぞれを単語で表現して埋め込み学習を実行することにより、類似関係にあるトピックをグルーピングすること
    を特徴とする、請求項１７に記載のコンピュータシステム。
19. 前記少なくとも１つのプロセッサは、
    前記トピック間の包含関係と同等関係のうちの少なくとも１つの関係を把握してグラフ埋め込みを実行し、
    前記グラフ埋め込みを利用した前記キーワードと前記トピックの間の確率に基づいて前記代表トピックを選定すること
    を特徴とする、請求項１７に記載のコンピュータシステム。
20. 前記少なくとも１つのプロセッサは、
    前記関心トピックと関係が設定されたキーワードのうちで前記ユーザの活動と関連する少なくとも１つのキーワードを関連キーワードとして推薦するか、または前記インターネット上のアイテムのうちで前記関連キーワードと関連するアイテムを推薦すること
    を特徴とする、請求項１４に記載のコンピュータシステム。