JP6327682B1 - 情報処理システム、情報処理装置、情報処理方法、及びプログラム - Google Patents

情報処理システム、情報処理装置、情報処理方法、及びプログラム Download PDF

Info

Publication number
JP6327682B1
JP6327682B1 JP2017014666A JP2017014666A JP6327682B1 JP 6327682 B1 JP6327682 B1 JP 6327682B1 JP 2017014666 A JP2017014666 A JP 2017014666A JP 2017014666 A JP2017014666 A JP 2017014666A JP 6327682 B1 JP6327682 B1 JP 6327682B1
Authority
JP
Japan
Prior art keywords
information
image
recipe
posting
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017014666A
Other languages
English (en)
Other versions
JP2018124672A (ja
Inventor
亮 勝間
亮 勝間
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Cookpad Inc
Original Assignee
Cookpad Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Cookpad Inc filed Critical Cookpad Inc
Priority to JP2017014666A priority Critical patent/JP6327682B1/ja
Application granted granted Critical
Publication of JP6327682B1 publication Critical patent/JP6327682B1/ja
Publication of JP2018124672A publication Critical patent/JP2018124672A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Transfer Between Computers (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

【課題】画像の用途を推定すること。【解決手段】情報処理システムは、撮像された画像に関する画像情報を取得する画像取得部と、前記画像情報とユーザのネットワーク上の行動履歴を示す行動履歴情報とに基づいて、前記画像の用途を推定する推定部と、を備える。【選択図】図2

Description

本発明は、情報処理システム、情報処理装置、情報処理方法、及びプログラムに関する。
共通の目的や趣味を持つユーザが情報を交換し合うウェブサイトがある。例えば、特許文献1には、ユーザ嗜好の音楽データに基づいてコミュニティを検索することができるコミュニティサイトサーバが開示されている。
特開2007−213401号公報
上記のようなウェブサイトには、ユーザが投稿した記事を掲載したり、その記事を見た別のユーザによるレポートを掲載したりするものがある。ウェブサイトを活性化するには、記事の投稿数やレポートの投稿数を増やすことが望ましい。
ところで、記事やレポートには、見栄えやデザインの観点から、画像が含まれることが多い。しかしながら、ユーザが画像を投稿しようと思い立った場合、普段から撮りためているものの中から投稿する画像を選択することが困難な場合がある。例えば画像を撮影した時点から時間が経過してしまっている場合や、画像が大量に保存されている場合には、いずれの写真が記事やレポートの投稿に適しているのかを判断しにくい可能性がある。そのため、画像用途の判別を容易にすることが望まれている。
本発明のいくつかの態様は、画像の用途を推定することができる情報処理システム、情報処理装置、情報処理方法、プログラムを提供することを目的の一つとする。
また、本発明の他の態様は、後述する実施形態に記載した作用効果を奏することを可能にする情報処理システム、情報処理装置、情報処理方法、プログラムを提供することを目的の一つとする。
上述した課題を解決するために、本発明の一態様は、撮像された画像に関する画像情報を取得する画像取得部と、前記画像情報とユーザのネットワーク上の行動履歴を示す行動履歴情報とに基づいて、前記画像の用途を推定する推定部と、を備える情報処理システムである。
本発明の一態様によれば、画像の用途を推定することができる。
本発明の実施形態に係る情報処理システムにおける表示画面の遷移を示す第1図である。 同実施形態に係る情報処理システムにおける表示画面の遷移を示す第2図である。 同実施形態に係る情報処理システムの構成を示すブロック図である。 同実施形態に係る献立データのデータ構成を示す図である。 同実施形態に係る献立属性データのデータ構成を示す図である。 同実施形態に係るレシピデータのデータ構成を示す図である。 同実施形態に係るレシピ属性データのデータ構成を示す図である。 同実施形態に係る食材データのデータ構成を示す図である。 同実施形態に係る料理データのデータ構成を示す図である。 同実施形態に係るレポートデータのデータ構成を示す図である。 同実施形態に係る行動履歴データのデータ構成を示す図である。 同実施形態に係る画像データのデータ構成を示す図である。 同実施形態に係るユーザデータのデータ構成を示す図である。 同実施形態に係るコンピュータシステムの構成を示すブロック図である。 同実施形態に係る端末装置の構成を示すブロック図である。 同実施形態に係るレシピ管理装置の構成を示すブロック図である。 同実施形態に係るユーザ管理装置の構成を示すブロック図である。 同実施形態に係る情報処理システムによる推定処理の流れを示すシーケンスチャートである。 同実施形態に係るレシピ管理装置による推定処理の流れを示すフローチャートである。 同実施形態に係る端末装置の表示画面の第1例を示す図である。 同実施形態に係る端末装置の表示画面の第2例を示す図である。 同実施形態に係る行動推定の一例を示す図である。
以下、本発明の実施形態について、図面を参照して説明する。
〔情報処理システム1の概要〕
本発明における第1の実施形態の情報処理システム1の概要について説明する。本実施形態に係る情報処理システム1は、ユーザにより投稿された情報を他のユーザに公開して、ユーザ間で情報を共有可能にするウェブサービスを提供する。以下では、一例として、レシピを共有可能にするウェブサービスの場合について説明する。
情報処理システム1が提供するウェブサービスについて説明する。
図1、図2は、本実施形態に係るウェブサービスのアプリケーションの表示画面を示す図である。情報処理システム1は、レシピ投稿機能とレポート投稿機能との2つの投稿(記録)機能を提供する。この2つの投稿機能により投稿された情報は、ウェブサイト上で公開され、他のユーザからも参照可能になる。
レシピ投稿機能とは、ユーザが新規に作成したレシピを投稿する機能である。この機能では、料理のタイトル、材料とその分量、調理方法、調理結果の料理画像等を投稿することができる。以下では、レシピ投稿機能で投稿される画像をレシピ用画像と称する。
レポート投稿機能とは、レポートを投稿する機能である。ここで、レポートとは、レシピ投稿機能で投稿されたレシピに対する感想等を示すものである。この機能では、調理方法に記載された内容や料理そのものに対するコメント、調理結果の料理画像等を投稿することができる。以下では、レポート投稿機能で投稿される画像をレポート用画像と称する。つまり、画像には、レシピ投稿用とレポート投稿用との少なくとも2つの用途がある。
図1の表示画面G1−1は、ユーザが調理した料理の投稿を行う場合に操作の基本となる画面である。表示画面G1−2は、表示画面G1−1において、「料理のきろく」と記された選択ボタンG1−3が選択された場合に表示される画面である。選択ボタンG1−3が選択されると、情報処理システム1は、ユーザが撮像した料理画像の中から、ウェブサイトに投稿する画像の候補を抽出し、抽出した画像のそれぞれに対して、その用途を推定する。
図2の表示画面G2−1は、図1の表示画面G1−2において、料理画像P1が選択された場合に表示される画面である。この例では、料理画像P1は、レポート投稿用と推定されている。そのため、情報処理システム1は、表示画面G2−1として、レポートを作成するための入力画像が示される。図2の例では、表示画面G2−1には、料理画像P1、調理の契機となったレシピ(以下、対象レシピと称する。)の候補表示G2−12、およびレポートを作成するための選択ボタンG2−11が表示される。なお、ユーザは、選択ボタンG2−13を選択することにより、表示された対象レシピの候補とは異なるレシピを対象レシピとすることができる。また、ユーザは、選択ボタンG2−14を選択することにより、料理画像P1について、情報処理システム1が推定したレポート用とは異なる用途を選択することができる。
表示画面G2−2は、表示画面G2−1において対象レシピが選択され、選択ボタンG2−11が選択された場合に表示される画面を示す。表示画面G2−2には、レポート投稿を行うための選択ボタンG2−21が設けられている。表示画面G2−2において、ユーザは、レポート記載欄G2−22に料理の感想などを入力し、選択ボタンG2−21を選択することにより、レポートを投稿することができる。これにより、ウェブサイト上で、レポートが公開される。
表示画面G2−3は、表示画面G1−2において、料理画像P2が選択された場合に表示される画面である。料理画像P2は、レシピ投稿用と推定されていることから、表示画面G2−3として、レシピを投稿するための入力画像が示される。表示画面G2−3には、料理画像P2、レシピのタイトルを入力する入力場面G2−32、およびレシピを投稿するための選択ボタンG2−31が表示される。なお、ユーザは、選択ボタンG2−33を選択することにより、料理画像P2について、情報処理システム1が推定した用途とは異なる用途を選択することができる。
表示画面G2−4は、表示画面G2−3の選択ボタンG2−31が選択された場合に表示される画面である。表示画面G2−4には、レシピ投稿を行うための選択ボタンG2−41が設けられている。表示画面G2−4において、ユーザは、必要に応じて作り方を追加する、およびキャッチコピーやレシピの生い立ちを入力する等、レシピを投稿するために必要な事項を入力し、選択ボタンG2−41を選択することにより、レシピを投稿することができる。これにより、レシピがウェブサイト上で公開される。
表示画面G2−5は、ユーザが調理した料理の記録を表示する画面の一例である。表示画面G2−5には、調理の日時と調理されたレシピとが並べて表示される。ここで表示されるレシピには、レシピ投稿されたレシピと、レポート投稿されたレシピも含まれる。例えば、料理画像P1が、選択ボタンG2−21の操作により、レポート投稿された場合、料理画像P1に示される料理のレシピが表示される。また、例えば、料理画像P2が、選択ボタンG2−41の操作により、レシピ投稿された場合、料理画像P2に示される料理のレシピが表示される。表示画面G2−5には、レシピ投稿やレポート投稿はされていなくても、調理したと推定された料理も、記録の候補として表示されるようにしてもよい。
次に、画像の用途の推定について説明する。
情報処理システム1は、例えば、機械学習を用いて推定を行う。例えば、情報処理システム1は、不特定多数のユーザによるレシピの閲覧履歴と、当該不特定多数のユーザのそれぞれがウェブサイト上のレシピに基づいて調理行動を行ったか否かを質問したアンケート結果等の情報を取得する。そして、情報処理システム1は、閲覧履歴とアンケート結果とを教示データとして機械学習を実行し、学習結果として、閲覧履歴と調理行動との関係を示す情報(確率モデル)を生成する。
そして、情報処理システム1は、生成した確率モデルに、対象ユーザの閲覧履歴を入力させることにより、当該対象ユーザがウェブサイト上のレシピに基づいて調理行動を行ったか否かを推定する。ここで、情報処理システム1は、料理画像が撮像された時間帯においてウェブサイト上のレシピに基づく調理行動が行われていると推定した場合には、当該料理画像をレポート投稿用と推定する。また、料理画像が撮像された時間帯においてウェブサイト上のレシピに基づく調理行動が行われていないと推定した場合には、当該料理画像をレシピ投稿と推定する。
このように、情報処理システム1は、機械学習により学習した学習結果と、掲載情報を掲載するウェブサイトにおける対象ユーザの行動履歴に基づいて、当該対象ユーザが掲載情報に基づく行動を行ったか否かを推定する。また、情報処理システム1は、ネットワーク上の行動履歴に基づいて、画像の用途を推定することができる。これにより、ユーザは、画像の用途を自身で判断する必要がないため、レシピ投稿やレポート投稿が行いやすくなる。よって、情報処理システム1は、ウェブサイトへの投稿を活発化し、情報処理システム1が提供するウェブサービスを充実させることができる。
ここで、本実施形態で用いる用語について概説する。「掲載情報」とは、ウェブサイトにおいてユーザが参照可能な情報である。「ウェブ行動履歴」とは、ユーザが、ウェブサイトにおいて掲載情報を参照した履歴である。「ウェブ行動履歴」には、当該ウェブサイトにおいて参照した掲載情報の他、参照したユーザに関する情報、参照を開始した時刻、参照を終了した時刻、参照に要した時間が含まれる。また、本実施形態において「行動履歴」は、「ウェブ行動履歴」と同義である。「行動情報」は、掲載情報に基づく行動を行うか否かを示す情報である。換言すれば、「行動情報」は、ユーザが、掲載情報を参照し、参照した内容を実際に実行したか否かを示す情報である。「実績情報」とは、掲載情報(例えばレシピ)を参照したユーザが、参照後に「掲載情報に基づく行動」を行ったか否かの実績を示す情報である。「実績情報」には、実績を客観的に示すものだけでなく、行動を行ったか否かについてユーザに対して聞き取り調査した結果など実績を主観的に示すものが含まれる。「掲載情報に基づく行動」とは、掲載情報を参照したユーザが、その掲載情報に示される内容に従って行動することをいう。ここでの「行動すること」には、実際に料理を作ったり、旅行したりする行動だけでなく、お気に入りに登録するような興味を示す行動が含まれる。ここでの「興味」には、ポジティブなものだけでなく、ネガティブなものも含む。例えば、お気に入りに登録されない、あるいは聞き取り調査において、興味がないと回答された場合、「掲載情報に基づく行動」として、ネガティブな行動が示されたものと判断することができる。「掲載情報に基づく行動」には、掲載情報に示す内容の全部だけでなく、掲載情報に示す内容の一部に従って行動したものが含まれる。
以上が、情報処理システム1の概要についての説明である。
〔情報処理システム1の構成〕
次に、情報処理システム1の構成について説明する。
図3は、情報処理システム1の構成を示すブロック図である。
情報処理システム1は、1以上の端末装置10−1、10−2、…、10−N(Nは、自然数)と、レシピ管理装置30と、ユーザ管理装置50と、を備える。以下では、端末装置10−1、10−2、…、10−Nを、端末装置10と総称する。端末装置10と、レシピ管理装置30と、ユーザ管理装置50とは、無線又は有線のネットワークNWに接続し、互いに通信を行うことができる。
端末装置10は、コンピュータシステム100を備える電子機器である。例えば、端末装置10は、パーソナルコンピュータ、タブレット端末、スマートフォン、携帯電話、PHS(Personarl Handyphone System)端末、ゲーム機等であってよい。端末装置10は、ユーザインタフェースを提供し、ユーザから文字列の入力を受け付けたり、ユーザに検索結果等の各種情報を提示したりする。
レシピ管理装置30は、コンピュータシステム100を備える電子機器である。例えば、レシピ管理装置30は、サーバ装置である。レシピ管理装置30は、献立データ、献立属性データ、レシピデータ、レシピ属性データ、食材データ、料理データ、レポートデータ等の検索結果を提示するために必要な各種データを管理する。また、レシピ管理装置30は、行動履歴データを管理する。
ユーザ管理装置50は、コンピュータシステム100を備える電子機器である。例えば、ユーザ管理装置50は、サーバ装置である。ユーザ管理装置50は、ユーザデータを管理する。
以上が、情報処理システム1の構成についての説明である。
〔データ構成〕
次に、情報処理システム1が処理する各種データの構成について説明する。
まず、献立データについて説明する。献立データとは、献立の内容に関する情報を記述したデータである。
図4は、献立データのデータ構成を示す図である。
献立データとは、献立ID(IDentifier)に対して、1以上の構成料理情報を対応付けたデータである。
献立IDとは、献立を一意に識別するための情報である。
構成料理情報とは、献立を構成する料理を示す情報である。
構成料理情報には、構成料理レシピ情報と構成料理カテゴリ情報とが記述される。
構成料理レシピ情報とは、献立を構成する料理のレシピを特定するための情報である。構成料理レシピ情報には、例えばレシピIDが記述される。
レシピIDとは、料理のレシピを一意に識別するための情報である。
構成料理カテゴリ情報とは、献立における料理の位置付け(種別)を示す情報である。構成料理カテゴリ情報には、例えば主菜、副菜、汁物、デザート等の種別が記述されてよい。
このような献立データを参照することにより、端末装置10やレシピ管理装置30は、献立を構成する料理とその種別を特定し、ユーザに提示することができる。
以上が、献立データの構成についての説明である。
次に、献立属性データについて説明する。献立属性情報とは、献立の属性情報を記述したデータである。
図5は、献立属性データのデータ構成を示す図である。
献立属性データとは、献立IDに対して、献立名情報と、献立投稿者情報と、献立登録日時情報と、献立画像情報と、投稿者コメント情報と、段取りコメント情報と、献立調理時間情報と、献立カテゴリ情報と、会員許諾情報と、献立レポート数情報と、を対応付けたデータである。
献立名情報とは、献立の名称を示す情報である。献立の名称には、献立を構成する料理の名称や食材の名称が含まれる。
献立投稿者情報とは、献立の投稿者(作成者)を示す情報である。献立投稿者情報には、例えばユーザIDが記述される。
献立登録日時情報とは、献立が投稿、登録された日時を示す情報である。
献立画像情報とは、献立の撮像画像を示す情報である。
投稿者コメント情報とは、投稿者が献立に対して付したコメント(例えば概要、背景)を示す情報である。
段取りコメント情報とは、献立に沿って調理する場合の注意事項等を示すコメントを示す情報である。
献立調理時間情報とは、献立の調理に要する大凡の時間を示す情報である。なお、献立調理時間情報は、献立を構成する各料理の調理時間の総和を示してもよいし、別途算出、設定される時間を示してもよい。例えば、複数の料理の調理を同時進行できる場合、献立の調理時間は、各料理の調理時間の総和より短くなる場合がある。
献立カテゴリ情報とは、献立の種別(例えば、コンセプト、カロリー、費用、殿堂入りや受賞歴等の表彰、目的、用途)を示す情報である。
会員許諾情報とは、会員設定に応じた情報開示の許諾を示す情報である。
献立レポート数情報とは、献立に対して閲覧者から投稿されたレポートの数を表す情報である。
このような献立属性データを参照することにより、端末装置10やレシピ管理装置30は、献立の各種属性を特定し、ユーザに提示することができる。また、会員許諾情報を参照することにより、会員設定に応じて献立の情報の開示を制御することが可能になる。
次に、レシピデータについて説明する。レシピデータとは、レシピの内容に関する情報を記述したデータである。
図6は、レシピデータのデータ構成を示す図である。
レシピデータとは、レシピIDに対して、1以上のレシピ食材情報と、1以上の調理工程情報と、を対応付けたデータである。
レシピ食材情報とは、レシピに用いる食材に関する情報である。レシピ食材情報には、利用食材情報と、分量情報と、食材カテゴリ情報と、が記述される。
利用食材情報とは、レシピに用いる食材を特定するための情報である。利用食材情報には、例えば食材IDが記述される。
食材IDとは、食材を一意に識別する情報である。
分量情報とは、レシピに用いる食材の分量を示す情報である。食材カテゴリ情報とは、レシピにおける食材のグループを示す情報である。例えば食材カテゴリ情報には、ある調理工程で用いられる食材のグループと、別の調理工程で用いられる食材のグループとを区別可能にするために、各グループの識別情報が記述されてよい。
調理工程情報とは、調理における作業を段階的に示す情報である。調理工程情報には、調理画像情報と、工程コメント情報と、工程時間情報と、調理法情報と、が記述される。
調理画像情報とは、調理工程の様子を写した撮像画像を示す情報である。
工程コメント情報とは、調理工程の説明文を示す情報である。
工程時間情報とは、調理工程に要する時間を示す情報である。
調理法情報とは、調理工程における調理方法の種別を示す情報である。調理方法には、例えば切る、煮る、焼く、蒸らす、沸かす、揚げる、混ぜる等の種別がある。
このようにレシピデータを参照することにより、端末装置10やレシピ管理装置30は、料理の調理方法を示すレシピの各種情報を特定し、ユーザに提示することができる。
以上が、レシピデータの構成についての説明である。
次に、レシピ属性データについて説明する。レシピ属性データとは、レシピの属性情報を記述したデータである。
図7は、レシピ属性データのデータ構成を示す図である。
レシピ属性データとは、レシピIDに対して、料理IDと、レシピ名情報と、対象人数情報と、レシピ投稿者情報と、レシピ登録日時情報と、料理画像情報と、投稿者コメント情報と、調理時間情報と、レシピカテゴリ情報と、会員許諾情報と、レシピレポート数情報と、を対応付けたデータである。
料理IDとは、料理を一意に識別する情報である。
レシピ名情報とは、レシピの名称を示す情報である。レシピの名称には、レシピに基づいて作成可能な料理の名称やレシピに用いられる食材の名称が含まれる。
対象人数情報とは、レシピが示す料理の分量を示す情報である。対象人数情報には、例えば、1人前、2−3人前等の情報が記述される。
レシピ投稿者情報とは、レシピの投稿者(作成者)を示す情報である。レシピ投稿者情報には、例えばユーザIDが記述される。
レシピ登録日時情報とは、レシピが投稿、登録された日時を示す情報である。
料理画像情報とは、料理の撮像画像を示す情報である。
投稿者コメント情報とは、投稿者がレシピに対して付したコメント(例えば概要、背景)を示す情報である。
調理時間情報とは、調理に要する大凡の時間を示す情報である。なお、調理時間情報は、各調理工程に要する時間の総和を示してもよいし、別途算出、設定される時間を示してもよい。例えば、調理時間は、各調理工程に要する時間に加え、下拵え、盛り付け等に要する時間を含んでもよい。
レシピカテゴリ情報とは、レシピの種別(例えば、コンセプト、カロリー、費用、殿堂入りや受賞歴等の表彰、目的、用途)を示す情報である。
レシピレポート数情報とは、レシピに対して閲覧者から投稿されたレポートの数を表す情報である。
このようなレシピ属性データを参照することにより、端末装置10やレシピ管理装置30は、レシピの各種属性を特定し、ユーザに提示することができる。また、会員許諾情報を参照することにより、会員設定に応じてレシピの情報の開示を制御することが可能になる。
以上が、レシピ属性データについての説明である。
次に、食材データについて説明する。食材データとは、食材に関する情報を記述したデータである。
図8は、食材データのデータ構成を示す図である。
食材データとは、食材IDに対して、食材名情報と、栄養素情報と、カロリー情報と、所属食材情報と、同種食材情報と、を対応付けたデータである。
食材名情報とは、食材の名称を示す情報である。
栄養素情報とは、食材に含まれる栄養素とその量とを示す情報である。
カロリー情報とは、食材の単位量当たりのカロリーを示す情報である。
所属食材情報とは、所属食材を示す情報である。「所属食材」とは、ある食材に概念的に包含される別の食材を示す情報である。例えば、「魚」には、「鯖」や「秋刀魚」が包含される。また、「鯖」には、「生鯖」や「鯖の缶詰」が包含される。つまり、所属食材とは、ある食材の下位概念に属する食材である。所属食材情報には、所属食材の食材IDが記述されてよい。
同種食材情報とは、同種食材を示す情報である。「同種食材」とは、ある食材と同種の関係にある別の食材を示す情報である。
このような食材データを参照することで、端末装置10やレシピ管理装置30は、献立や料理に含まれる栄養素やカロリーを特定し、ユーザに提示することができる。また、端末装置10やレシピ管理装置30は、2以上の食材間の関係性を特定することができる。例えば端末装置10やレシピ管理装置30は、入力キーワードの食材の所属食材や同種食材を特定することができる。従って、端末装置10やレシピ管理装置30は、入力キーワードが示す食材から直接的に抽出可能な献立やレシピだけでなく、所属食材や同種食材についても献立やレシピを抽出し、ユーザに提示することができる。
以上が、食材データについての説明である。
次に、料理データについて説明する。料理データとは、料理に関する情報を記述したデータである。
図9は、料理データのデータ構成を示す図である。
料理データとは、料理IDに対して、料理名情報と、所属料理情報と、同種料理情報と、を対応付けたデータである。
料理名情報とは、料理の名称を示す情報である。
所属料理情報とは、所属料理を示す情報である。「所属料理」とは、ある料理に概念的に包含される別の料理を示す情報である。例えば、「煮物」には、「煮しめ」や「筑前煮」が包含される。つまり、所属料理とは、ある料理の下位概念に属する料理である。所属料理情報には、所属料理の料理IDが記述されてよい。
同種料理情報とは、同種料理を示す情報である。「同種料理」とは、ある料理と同種の関係にある別の料理を示す情報である。
このような料理データを参照することで、端末装置10やレシピ管理装置30は、2以上の料理間の関係性を特定することができる。
以上が、料理データについての説明である。
次に、レポートデータについて説明する。レポートデータとは、献立又はレシピに対するレポート情報を記述したデータである。レポートとは、献立やレシピを閲覧して調理を行ったユーザが、献立やレシピに関する意見や感想等を公開するものである。
図10は、レポートデータのデータ構成を示す図である。
レポートデータとは、レポートIDに対して、レポート対象情報と、レポート投稿者情報と、レポート画像情報と、レポートコメント情報と、対応コメント情報と、を対応付けたデータである。
レポートIDとは、レポートを一意に識別する情報である。
レポート対象情報とは、レポートの対象を示す情報である。レポート情報には、例えば献立IDやレシピIDが記述される。
レポート投稿者情報とは、レポートの投稿者(作成者)を示す情報である。レポート投稿者情報には、例えばユーザIDが記述される。
レポート画像情報とは、レポートの投稿者による調理結果(献立、料理)や調理の様子を写した画像を示す情報である。
レポートコメント情報とは、レポートの説明文を示す情報である。
対応コメント情報とは、レポートに対する献立やレシピの投稿者(作成者)からの反応コメントを示す情報である。
このようなレポートデータを参照することで、端末装置10やレシピ管理装置30は、献立やレシピを評価することができる。例えば、レポートが多い献立やレシピは、多数のユーザの調理に利用されたことになる。従って、端末装置10やレシピ管理装置30は、人気のある献立やレシピを特定することができる。
以上が、レポートデータについての説明である。
次に、行動履歴データについて説明する。行動履歴データとは、ユーザのウェブサイト上での行動履歴を記述したデータである。ここでは、一例として、行動履歴として、検索や閲覧の履歴を用いる場合について説明する。
図11は、行動履歴データのデータ構成を示す図である。
行動履歴データとは、行動履歴IDに対して、行動ユーザ情報と、プラットフォーム情報と、検索文字列情報と、選択結果情報と、選択日時情報と、終了日時情報と、を対応付けたデータである。
行動履歴IDとは、行動履歴を一意に識別するデータである。
行動ユーザ情報とは、検索、閲覧を行ったユーザを示す情報である。行動ユーザ情報には、例えばユーザIDが記述される。
プラットフォーム情報とは、ウェブサイトが閲覧されたときのオペレーティングシステム、ブラウザ、又は端末装置の種類を識別する情報である。ここでの「プラットフォーム」とは、コンピュータやシステムの基礎部分となるハードウェア、OS(オペレーティングシステム)を指す。より具体的には、「プラットフォーム」とは、デスクトップパソコンかモバイル端末か、モバイル端末であればiOSかアンドロイド(登録商標)OSか等を識別可能に示す情報である。
検索文字列情報とは、検索キーワードを示す情報である。検索キーワード情報は、ユーザが入力した文字列そのものであってもよいし、ユーザが入力した文字列から端末装置10が一義的に検索キーワードとして特定した食材や料理であってもよい。
選択結果情報とは、検索キーワードに対する検索結果として提示された献立、レシピの中から、ユーザが選択した献立、レシピを示す情報である。つまり、ユーザにより閲覧された献立、レシピを示す情報である。選択結果情報には、献立ID、レシピIDが記述される。
選択日時情報とは、選択が行われた日時を示す情報である。つまり、選択日時情報とは、閲覧が開始された日時を示す情報である。
終了日時情報とは、献立やレシピの閲覧の終了日時を示す情報である。終了日時は、例えば他のページに遷移する操作が行われた日時やブラウザが閉じる操作が行われた日時等とされてよい。
このような行動履歴データを参照することで、端末装置10やレシピ管理装置30は、ウェブサイト上でのユーザの行動を追跡することができる。例えば、選択結果情報に記述されたレシピIDのレシピデータを参照することで、レシピ、そのレシピで調理可能な料理、そのレシピで用いられる食材、又は、これらの分類、レポートの投稿数等を特定することができる。また、例えば、行動ユーザ情報に記述されたユーザIDのユーザデータを参照することで、閲覧されたレシピがお気に入り登録されているか否かを特定することができる。また、例えば、選択日時情報に記述された日時を参照することで、レシピの閲覧順序や閲覧の時間帯を特定することができる。また、例えば、選択日時情報と終了日時情報に記述された日時を参照することで、レシピの閲覧時間の長さを特定することができる。
以上が、行動履歴データについての説明である。
次に、画像データについて説明する。画像データとは、画像に関する情報を記述したデータである。
図12は、画像データのデータ構成を示す図である。
画像データとは、画像IDに対して、撮像ユーザ情報と、撮像時刻情報と、推定用途情報とを対応付けたデータである。
画像IDとは、画像を一意に識別するデータである。
撮像ユーザ情報とは、撮像を行ったユーザを示す情報である。撮像ユーザ情報には、例えばユーザIDが記述される。撮像を行ったユーザには、実際に撮像していなくとも、その画像を所持しているユーザを含む。
撮像時刻情報とは、画像を撮像した時刻を示す情報である。画像ID、撮像ユーザ情報、撮像時刻情報は、例えば画像の撮像時に生成されてよい。
推定用途情報とは、画像に対してレシピ管理装置30が推定した用途を示す情報である。レシピ管理装置30が推定する画像の用途とは、レシピ投稿用、またはレポート投稿用である。
このような画像データを参照することで、端末装置10やレシピ管理装置30は、画像ごとに、その画像の用途を特定することができる。
以上が、画像データについての説明である。
次に、ユーザデータについて説明する。ユーザデータとは、ユーザに関する情報を記述したデータである。
図13は、ユーザデータのデータ構成を示す図である。
ユーザデータとは、ユーザIDに対して、氏名情報と、パスワード情報と、ニックネーム情報と、生年月日情報と、性別情報と、連絡先情報と、リンク情報と、お気に入り献立情報と、お気に入りレシピ情報と、会員設定情報と、を対応付けたデータである。
氏名情報とは、ユーザの氏名を示す情報である。
パスワード情報とは、ユーザのアカウントに対して設定されたパスワードを示す情報である。なお、パスワードは、認証用情報の一例である。認証用情報としては、パスワードの他に、指紋、声紋等の任意の情報が用いられてよい。
ニックネーム情報とは、ユーザのニックネーム(他者に公開する場合の名前)を示す情報である。
生年月日情報とは、ユーザの生年月日を示す情報である。
性別情報とは、ユーザの性別を示す情報である。
連絡先情報とは、メールアドレス、電話番号、住所等のユーザの連絡先を示す情報である。例えば住所を参照することで、ユーザの居所の地域性に応じた処理を行うことができる。
リンク情報とは、ユーザのSNS(Social Networking Service)等のアカウントへのリンクを示す情報である。
お気に入り献立情報とは、ユーザがお気に入り登録した献立を示す情報である。
お気に入りレシピ情報とは、ユーザがお気に入り登録したレシピを示す情報である。
会員設定情報とは、ユーザの会員設定を示す情報である。会員設定には、例えば「通常会員」、「特別会員」等の複数の種別がある。通常会員は、情報検索サービスの一部が利用できない。これに対して特別会員は、情報検索サービスの全てを利用可能である。特別会員になる条件としては、例えば所定金額の支払い、所定期間の情報検索サービスの利用、所定回数の情報検索サービスの利用等の任意の条件を採用してよい。
このようなユーザデータを参照することで、端末装置10やレシピ管理装置30は、ユーザの性別や年齢等の属性を特定することができる。これにより、ユーザの属性に応じた検索結果を提示することができる。また、端末装置10やレシピ管理装置30は、お気に入り献立情報やお気に入りレシピ情報に基づいて、献立やレシピに対するユーザの評価を取得することができる。また、端末装置10やレシピ管理装置30は、会員設定情報に基づいて、ユーザの会員設定に応じた情報検索サービスを提供することができる。
以上が、ユーザデータについての説明である。
〔コンピュータシステム100の構成〕
次に、情報処理システム1が備える各装置のコンピュータシステム100の構成について説明する。
図14は、コンピュータシステム100の構成を示すブロック図である。
コンピュータシステム100は、通信部101と、入力部102と、出力部103と、記憶部104と、CPU(Central Processing Unit)105と、を備える。これらの構成要素は、バスBを介して相互に通信可能に接続されている。
通信部101は、通信用IC(Integrated Circuit)等の通信用モジュールである。
入力部102は、例えば、マウス、タッチパッド等のポインティングデバイス、キーボード、マイクロホン、カメラ、その他の各種センサ(例えば、加速度センサ、ジャイロセンサ、GPS(Global Positioning System)センサ、近接センサ)を含む入力用モジュールである。入力部102は、タッチパネルとして、ディスプレイと一体に構成されてもよい。
出力部103は、ディスプレイパネル、スピーカ、ウーファー等の出力用モジュールである。
記憶部104は、例えば、HDD(Hard Disk Drive)やSSD(Solid State Drive)、EEPROM(Electrically Erasable Programmable Read−Only Memory)、ROM(Read−Only Memory)、RAM(Random Access Memory)等を含む記憶用モジュールである。なお、記憶部104は、内蔵されるものに限らず、USB(Universal Seriul Bus)等のデジタル入出力ポート等によって接続された外付け型の記憶用モジュールであってもよい。
CPU105は、記憶部104に記憶された各種プログラムを実行し、コンピュータシステム100が備える各構成を制御する。
以上が、コンピュータシステム100の構成についての説明である。
〔端末装置10の構成〕
次に、端末装置10の構成について説明する。
図15は、端末装置10の構成を示すブロック図である。
端末装置10は、端末側通信部11と、操作入力部12と、音声入力部13と、撮像部14と、音声再生部15と、表示部16と、端末側記憶部17と、端末側制御部18と、を備える。
端末側通信部11は、レシピ管理装置30、ユーザ管理装置50等のネットワークNWに接続する他の装置と通信する。なお、ユーザの個人情報を保護するために、端末装置10とユーザ管理装置50とは、直接通信できないように構成してもよい。この場合、端末側通信部11は、レシピ管理装置30等を介して、間接的にユーザ管理装置50と通信可能としてもよい。
操作入力部12は、ポインティングデバイス、キーボード等を介した文字列の入力、データの編集操作、表示の切り替え操作等の各種操作を受け付ける。
音声入力部13は、マイクを介した音声入力を受け付ける。音声入力部13は、例えば音声認識を行い、文字列の入力、データの編集操作、表示の切り替え操作等の各種操作を受け付ける。
撮像部14は、カメラを介して撮像画像を取得する。撮像画像は、例えば食材、調理過程、料理、献立等を写した画像であってよい。また、撮像画像は、静止画像であってもよいし、動画像であってもよい。
音声再生部15は、スピーカ、ウーファーを介した音声出力を行う。音声再生部15は、例えば音声による情報の提示や警告音の出力等を行う。
表示部16は、ディスプレイを介した表示出力を行う。表示部16は、例えば操作入力部12、音声入力部13、及び撮像部14が受け付けた入力内容、検索結果等の各種情報を表示する。
端末側記憶部17は、端末装置10の機能を実現するために必要な各種データ、プログラム等を記憶する。端末側記憶部17は、画像データ記憶部171を備える。
画像データ記憶部171は、画像データを記憶する。
端末側制御部18は、端末装置10の各構成を制御する。端末側制御部18は、例えば端末装置10のCPUが端末側記憶部17に予め記憶されたプログラムを実行することにより実現される。また、端末側制御部18は、ASIC(Application Specific Integrated Circuit)等の集積回路として実現されてもよい。端末側制御部18は、ユーザ制御部181と、献立投稿部182と、レシピ投稿部183と、レポート投稿部184と、検索操作部185と、推定補助部186、出力処理部187と、を備える。
ユーザ制御部181は、ユーザを認証するための処理を行う。具体的には、まず、ユーザ制御部181は、ユーザID及びパスワードを、ユーザから取得する。ユーザ制御部181は、取得したユーザID及びパスワードを、ユーザ管理装置50に通知し、ユーザの認証を要求する。ユーザ制御部181は、ユーザ管理装置50から認証結果を取得する。認証が成功した場合、ユーザ制御部181は、ユーザデータの各種情報を参照することができる。ユーザ制御部181は、例えば会員設定を特定し、会員設定に応じて情報検索サービスにおいて提供する機能や情報を制限したり、制限を解除したりすることができる。
献立投稿部182は、献立を投稿するための処理を行う。「投稿」とは、ユーザが編集したデータを、他のユーザが参照可能にすることをいう。換言すると、「投稿」とは、データを公開することである。ただし、「投稿」されたデータは、公開されないように設定可能であってよい。また、「編集」には、新規データを作成すること、既存のデータの情報を修正したり、追加したりすること、既存のデータを削除すること等が含まれる。
例えば新規に献立データや献立属性データを作成する場合、献立投稿部182は、献立IDを新たに採番する。そして、ユーザにより入力された各種情報を、採番した献立IDに対応付けることで、献立データや献立属性データを新規に作成する。献立投稿部182は、作成した献立データや献立属性データを、レシピ管理装置30に送信して記憶させる。
また、例えば既存の献立データや献立属性データの情報を修正したり、追加したりする場合、献立投稿部182は、ユーザから指定された献立に係る献立データや献立属性データを、レシピ管理装置30から取得する。そして、献立投稿部182は、取得した献立データや献立属性データを、ユーザによる指示に応じて加工する。献立投稿部182は、加工した献立データや献立属性データを、レシピ管理装置30に送信して記憶させる。
また、既存の献立データや献立属性データを削除する場合、献立投稿部182は、ユーザから指定された献立に係る献立データや献立属性データの削除を、レシピ管理装置30に要求する。
レシピ投稿部183は、レシピを投稿するための処理を行う。レシピ投稿部183は、献立投稿部182が献立データや献立属性データに対して行う処理と同様の処理を、レシピデータやレシピ属性データに対して行う。
レポート投稿部184は、レポートを投稿するための処理を行う。レポート投稿部184は、献立投稿部182が献立データや献立属性データに対して行う処理と同様の処理を、レポートデータに対して行う。
検索操作部185は、献立やレシピを検索するための処理を行なう。具体的には、検索操作部185は、ユーザが入力した検索条件を、レシピ管理装置30に通知し、検索を要求する。この検索条件には、入力キーワードの他に、検索対象範囲の指定が含まれてよい。例えば献立を検索対象とするかレシピを検索対象とするかの他、献立やレシピの種別、人気、登録日時、投稿者が検索条件として指定されてよい。検索操作部185は、レシピ管理装置30から検索結果を取得する。検索結果には、例えば献立データ、献立属性データ、レシピデータ、レシピ属性データ等が含まれてよい。
推定補助部186は、撮像された画像の用途を推定するための端末装置10側の処理を行う。具体的には、推定補助部186は、ユーザが料理の記録を開始する操作を入力した場合に、画像データ記憶部171に記憶された画像のうち、料理に関する画像の推定用画像情報を、レシピ管理装置30に通知し、用途の推定を要求する。推定用画像情報には、例えば画像データの画像ID、撮像ユーザ情報、撮像時刻情報が含まれる。推定補助部186は、レシピ管理装置30から推定結果を取得する。推定結果には、レポート投稿用であるか否かを示す情報やレシピ投稿用であるか否かを示す情報が含まれてよい。また、レポート投稿用である場合には、対象レシピを示す情報が含まれてよい。
なお、用途推定の対象とする画像は、例えば料理、調理過程、食材、献立等の料理に関する画像であってよい。用途推定の対象とする画像は、例えば既知の画像認識技術を用いて、画像に食材、調理器具等の画像が含まれているか否かを認識させることにより抽出されてもよい。
また、推定補助部186は、撮像された画像の用途を推定する処理を開始するタイミングは、ユーザが料理の記録を開始する操作入力を行った場合だけではなく、その他の任意のタイミング、例えば画像が撮像された場合に、当該処理を開始するようにしてもよい。この場合、推定補助部186は、撮像された画像が料理に関する画像であると判定される場合に、その画像の推定用画像情報をレシピ管理装置30に通知し、用途の推定を要求する。
出力処理部187は、画面表示や音声出力を制御する。例えば出力処理部187は、ユーザ認証、献立やレシピ、レポートの編集や投稿、検索等の情報検索サービスの各種機能を提供するための画面を表示部16に表示させたり、各種機能を提供するため音声を音声再生部15に再生させたりする。
例えば、出力処理部187は、ユーザに選択された画像がレシピ投稿に用いられると推定された場合、その画像を含むレシピを投稿する投稿画面を表示する。また、例えば、出力処理部187は、画像がレポート投稿に用いられると推定され場合、その画像を含むレポートを投稿する投稿画面を表示する。具体的には、出力処理部187は、画像がレシピ投稿に用いられると推定された場合、図2の表示画面G2−4に示すような、レシピ投稿用と推定された画像P2と、レシピ投稿を行うための選択ボタンS2−41とが含まれる画面を表示する。また、出力処理部187は、画像がレポート投稿に用いられると推定された場合、図2の表示画面G2−1に示すような、レポート投稿用と推定された画像P1と、レポート投稿を行うための選択ボタンS2−11が含まれる画面を表示する。このとき、出力処理部187は、対象レシピのレシピデータに基づいて、対象レシピの調理方法、料理、食材、これらの分類等を表示してもよい。これにより、ユーザは、自身で情報を入力する手間が省けるため、レポートの投稿が容易になる。
以上が、端末装置10の構成についての説明である。
〔レシピ管理装置30の構成〕
次に、レシピ管理装置30の構成について説明する。
図16は、レシピ管理装置30の構成を示すブロック図である。
レシピ管理装置30は、レシピ管理側通信部31と、レシピ管理側記憶部32と、レシピ管理側制御部33と、を備える。
レシピ管理側通信部31は、端末装置10、ユーザ管理装置50等のネットワークNWに接続する他の装置と通信する。
レシピ管理側記憶部32は、レシピ管理装置30の機能を実現するために必要な各種データ、プログラム等を記憶する。レシピ管理側記憶部32は、献立データ記憶部321と、献立属性データ記憶部322と、レシピデータ記憶部323と、レシピ属性データ記憶部324と、食材データ記憶部325と、料理データ記憶部326と、レポートデータ記憶部327と、行動履歴データ記憶部328と、行動推定データ記憶部329と、を備える。
献立データ記憶部321は、献立データを記憶する。
献立属性データ記憶部322は、献立属性データを記憶する。
レシピデータ記憶部323は、レシピデータを記憶する。
レシピ属性データ記憶部324は、レシピ属性データを記憶する。
食材データ記憶部325は、食材データを記憶する。
料理データ記憶部326は、料理データを記憶する。
レポートデータ記憶部327は、レポートデータを記憶する。
行動履歴データ記憶部328は、行動履歴データを記憶する。
行動推定データ記憶部329は、行動推定データを記憶する。
レシピ管理側制御部33は、レシピ管理装置30の各構成を制御する。レシピ管理側制御部33は、例えばレシピ管理装置30のCPUがレシピ管理側記憶部32に予め記憶されたプログラムを実行することにより実現される。また、レシピ管理側制御部33は、ASIC等の集積回路として実現されてもよい。レシピ管理側制御部33は、献立編集部331と、レシピ編集部332と、レポート編集部333と、検索キーワード取得部334と、抽出部335と、履歴管理部336と、学習部337と、推定部338と、を備える。
献立編集部331は、献立データや献立属性データを編集する。献立編集部331は、端末装置10からの要求に応じて、編集対象の献立データ、献立属性データを、献立データ記憶部321、献立属性データ記憶部322から読み出して、端末装置10に送信する。また、献立編集部331は、端末装置10からの要求に応じて、編集後の献立データ、献立属性データを、献立データ記憶部321、献立属性データ記憶部322に記憶させる。また、献立編集部331は、端末装置10からの要求に応じて、献立データ記憶部321、献立属性データ記憶部322に記憶されている献立データ、献立属性データを削除する。
レシピ編集部332は、レシピデータやレシピ属性データを編集する。レシピ編集部332は、献立編集部331が献立データや献立属性データに対して行う処理と同様の処理を、レシピデータやレシピ属性データに対して行う。
レポート編集部333は、レポートデータを編集する。レポート編集部333は、献立編集部331が献立データや献立属性データに対して行う処理と同様の処理を、レポートデータに対して行う。
検索キーワード取得部334は、検索キーワードを取得する。具体的には、まず、抽出部335は、端末装置10から入力キーワードと検索条件とを取得する。次に、検索キーワード取得部334は、入力キーワードを参照し、揺らぎや誤記の補正を行う。以下では、補正後の文字列を、「第1検索キーワード」と称する。次に、検索キーワード取得部334は、食材データと料理データとを参照し、第1検索キーワードが示す食材、料理の所属食材、同種食材、所属料理、同種料理を取得する。つまり、所属食材、同種食材、所属料理、同種料理の名称を、検索キーワードとして取得する。以下では、所属食材、同種食材、所属料理、同種料理の名称のように、第1検索キーワードから副次的に特定された検索キーワードを、「第2検索キーワード」と称する。これにより、第1検索キーワードと第2検索キーワードとが検索キーワードとして特定される。以下では、第1検索キーワードによる検索結果を「第1検索結果」と称し、第2検索キーワードによる検索結果を「第2検索結果」と称する。また、これらを区別しない場合には、単に「検索結果」と称する。
抽出部335は、献立やレシピを検索する。具体的には、まず、抽出部335は、献立属性データやレシピ属性データを参照し、例えば献立名情報やレシピ名情報に第1検索キーワード又は第2検索キーワードを含む献立属性データやレシピ属性データを抽出する。また、抽出部335は、抽出した献立属性データやレシピ属性データに対して、献立IDやレシピIDにより対応付けられている献立データやレシピデータを抽出する。これにより、入力キーワードに対応する献立やレシピが抽出される。なお、抽出部335は、入力キーワードに加えて、検索条件が別途指定されている場合には、当該検索条件を満たすデータのみを抽出する。また、抽出部335は、会員設定に応じて、許諾されているデータのみを抽出する。
履歴管理部336は、行動履歴データを管理する。具体的には、履歴管理部336は、端末装置10から入力キーワードを取得すると、新たに行動履歴IDを採番する。そして、採番した行動履歴IDに対して、第1検索キーワード、ユーザID、プラットフォームID等を対応付けて行動履歴データを生成し、行動履歴データ記憶部328に記憶させる。その後、検索結果に対して選択が行われた場合、当該行動履歴データに選択結果情報と選択日時情報とを記述する。また、閲覧の終了時には終了日時情報を記述する。
学習部337は、行動履歴データと実績情報とを参照し、多数のユーザのウェブサイト上の行動履歴と、各ユーザの実際の行動(行動実績)との対応関係を示すデータを教示データとした機械学習を行う。具体的には、行動履歴が示す行動の各々について、行動履歴から演算される行動推定用パラメータの値と実績に対応する値とを示すデータを教示データとする。これにより、とレシピの閲覧に関連した行動履歴と、そのレシピに基づく調理行動を行うか否かとの関係が機械学習される。機械学習には、例えばニューラルネットワーク(ディープラーニング)、サポートベクターマシン等の任意のアルゴリズムを用いてよい。以下では、一例として、機械学習により、確率モデルを生成する場合について説明する。この場合、学習部337は、機械学習により確率モデルを生成する。学習部337は、確率モデルを示す行動推定データを、行動推定データ記憶部329へ出力する。
なお、学習部337は、行動推定用パラメータとして、行動履歴に基づいて演算可能な任意の情報を用いてよい。例えば、学習部337は、レシピの閲覧開始時刻と画像の撮像時刻との時間の差分、レシピの閲覧に用いられたプラットフォーム、レシピがお気に入り登録されているか否か、レシピが閲覧された時間帯、レシピの閲覧時間の長さ、1セッションの閲覧におけるレシピの閲覧順序、レシピに対するレポートの投稿数等を、行動用パラメータとして用いてよい。
推定部338は、画像用途推定処理を実行する。画像用途推定処理において、推定部338は、学習部337による機械学習の結果に基づいてユーザの行動を推定し、画像の用途を推定する。具体的には、推定部338は、端末装置10から推定用画像情報を受信して、画像用途の推定要求を受け付けると、推定用画像情報を参照する。そして、行動履歴データ記憶部328から、撮像ユーザ情報が示すユーザの行動履歴データを抽出する。さらに、推定部338は、画像の撮像時刻の以前の所定期間の行動履歴を示す行動履歴データを抽出し、解析対象とする。抽出された行動履歴データは、画像の撮像以前の行動履歴を示すものであり、画像の撮像の直前におけるユーザの行動推定に役立つものである。ここでは、説明を簡単にするため、画像の撮像時刻の以前の行動履歴のうち、画像の撮像時刻の直近の行動履歴を、解析対象とする場合について説明する。ただし、解析対象とする行動履歴は、複数であってもよい。解析対象とする行動履歴には、画像の撮像時刻の前の行動履歴だけでなく、後の行動履歴も含まれてよい。この場合、各行動履歴に基づく推定結果のうち、尤度の最も高い推定結果を採用する等により、画像に対応付ける推定結果の絞り込みを行ってもよい。
推定部338は、解析対象の行動履歴と推定用画像情報とに基づいて、行動推定用パラメータを演算する。推定部338は、演算した行動推定用パラメータを、行動推定データが示す確率モデルに入力して推定結果を取得する。そして、推定部338は、推定結果を示す推定結果情報を端末装置10に送信する。この推定結果情報には、画像ID、ユーザID、レシピを参照して調理したか否か(すなわち、レポート投稿用であるか否か、レシピ投稿用であるか)を示す情報等が含まれる。また、推定結果は、行動履歴ごとに得られるため、レポート投稿用であると推定された場合には、いずれのレシピを参照したかが判別される。よって、推定結果には、参照されたレシピのレシピIDを含めることもできる。
上述したように、行動推定用パラメータとしては、レシピの閲覧開始時刻と画像の撮像時刻との時間の差分、レシピの閲覧に用いられたプラットフォーム、レシピが閲覧された時間帯、お気に入り登録されているか否か、レシピの閲覧時間の長さ、1セッションの閲覧におけるレシピの閲覧順序、レシピに対するレポートの投稿数等を利用可能である。
例えば、レシピの閲覧開始時刻からの経過時間は、レシピに基づく調理行動が行われるか否かと相関がある。具体的には、レシピを閲覧から時間があまり経過していなければ、そのレシピに基づいて調理する可能性が高い。これに対して、レシピを閲覧から長い時間が経過してしまうと、そのレシピに基づいて調理する可能性は低くなることが想定される。そのため、レシピの閲覧開始時刻からの経過時間、すなわち、レシピの閲覧開始時刻と画像の撮像時刻との時間の差分を行動推定用パラメータに含めることで、より精度のよい推定を行うことができる。
例えば、レシピが閲覧に用いられたプラットフォームは、レシピに基づく調理行動が行われるか否かと相関がある。具体的には、使用する端末装置10の機種やOSの種類によって、ユーザ層が異なる。つまり、プラットフォームにより、調理を活発に行うユーザであるか否かを、ある程度判別できる。また、デスクトップのパーソナルコンピュータの場合は、設置場所が制限されるため、キッチンなど調理においてレシピを閲覧しやすい場所には置かれにくい。そのため、レシピの閲覧に用いられたプラットフォームを行動推定用パラメータに含めることで、より精度のよい推定を行うことができる。
また、例えば、レシピが閲覧された時間帯は、レシピに基づく調理行動が行われるか否かと相関がある。具体的には、16時から17時など夕食前の所定の時間帯に参照されたレシピについては、その日の夕食として調理される傾向があることが考えられる。そのため、レシピが閲覧された時間帯を行動推定用パラメータに含めることで、より精度のよい推定を行うことができる。
また、例えば、レシピがお気に入り登録されているか否かは、レシピに基づく調理行動が行われるか否かと相関がある。具体的には、お気に入り登録されたレシピはユーザが調理しようとして登録したレシピが多い傾向があることが考えられる。つまり、お気に入り登録されているレシピは、実際に調理される可能性が高い。そのため、レシピがお気に入り登録されているか否かを行動推定用パラメータに含めることで、より精度のよい推定を行うことができる。
また、例えば、レポート投稿数は、レシピに基づく調理行動が行われるか否かと相関がある。例えば、レポート投稿数が多いレシピは、作りやすい、おいしそうなどの理由で多くのユーザが調理をした実績があり、今後も調理される可能性が高いことが考えられる。
そのため、レシピ投稿数を行動推定用パラメータに含めることで、より精度のよい推定を行うことができる。
また、例えば、1セッションの閲覧におけるレシピの閲覧順序は、レシピに基づく調理行動が行われるか否かと相関がある。具体的には、ユーザが今晩の夕食の献立を決定しようとして、あれこれレシピを検索する場合、夕食の献立が決定された時点でレシピの検索が終了される傾向があることが考えられる。つまり、1セッションの閲覧において、前半に閲覧されたレシピよりも後半に閲覧されたレシピの方が、実際に調理される可能性が高いことが想定される。そのため、1セッションの閲覧におけるレシピの閲覧順序を行動推定用パラメータに含めることで、より精度のよい推定を行うことができる。
また、例えば、レシピの閲覧時間の長さは、レシピに基づく調理行動が行われるか否かと相関がある。具体的には、ユーザが実際に調理しようとするレシピは、単に見るだけのレシピと比較してより長い時間参照される傾向があることが考えられる。つまり、レシピの閲覧時間が長ければ調理される可能性が高く、レシピの閲覧時間が短ければ調理される可能性が低い。そのため、レシピの閲覧時間の長さを行動推定用パラメータに含めることで、より精度のよい推定を行うことができる。
以上が、レシピ管理装置30の構成についての説明である。
〔ユーザ管理装置50の構成〕
次に、ユーザ管理装置50の構成について説明する。
図17は、ユーザ管理装置50の構成を示すブロック図である。
ユーザ管理装置50は、ユーザ管理側通信部51と、ユーザ管理側記憶部52と、ユーザ管理側制御部53と、を備える。
ユーザ管理側通信部51は、端末装置10、レシピ管理装置30等のネットワークNWに接続する他の装置と通信する。
ユーザ管理側記憶部52は、ユーザ管理装置50の機能を実現するために必要な各種データ、プログラム等を記憶する。ユーザ管理側記憶部52は、ユーザデータ記憶部521を備える。
ユーザデータ記憶部521は、ユーザデータを記憶する。
ユーザ管理側制御部53は、ユーザ管理装置50の各構成を制御する。ユーザ管理側制御部53は、例えばユーザ管理装置50のCPUがユーザ管理側記憶部52に予め記憶されたプログラムを実行することにより実現される。また、ユーザ管理側制御部53は、ASIC等の集積回路として実現されてもよい。ユーザ管理側制御部53は、ユーザ管理部531を備える。
ユーザ管理部531は、ユーザデータを管理する。ユーザ管理部531は、ユーザデータを生成してユーザデータ記憶部521に記憶させたり、ユーザデータ記憶部521からユーザデータを読み出して、端末装置10やレシピ管理装置30に提供したりする。また、ユーザ管理装置50は、端末装置10からユーザの認証要求を取得すると、ユーザデータ記憶部521に記憶されたユーザデータのユーザIDとパスワードと、認証要求に含まれるユーザIDとパスワードとを照合してユーザを認証する。ユーザ管理部531は、認証されたユーザの端末装置10に対して、ユーザデータを提供する。
以上が、ユーザ管理装置50の構成についての説明である。
〔情報処理システム1の動作〕
次に、情報処理システム1の動作について説明する。
まず、画像用途推定処理における情報処理システム1の動作を説明する。
図18は、情報処理システム1による画像用途推定処理の流れを示すシーケンスチャートである。
(ステップS10)端末装置10は、撮像された画像のストックから、料理に関する画像を抽出する。その後、情報処理システム1は、ステップS11に処理を進める。
(ステップS11)端末装置10は、抽出した画像について、画像ID、撮像ユーザ情報、撮像時刻情報を含む推定用画像情報を取得する。その後、情報処理システム1は、ステップS12に処理を進める。
(ステップS12)端末装置10は、推定用画像情報を取得する。その後、情報処理システム1は、ステップS13に処理を進める。
(ステップS13)レシピ管理装置30は、端末装置10から受信した推定用画像情報に基づいて、解析対象とする行動履歴データを抽出する。その後、情報処理システム1は、ステップS14に処理を進める。
(ステップS14)レシピ管理装置30は、解析対象の行動履歴データを参照して、行動推定用パラメータを演算する。そして、演算した推定用パラメータと確率モデルとに基づいてユーザの行動を推定する。つまり、画像の用途を推定する。その後、情報処理システム1は、ステップS15に処理を進める。
(ステップS15)レシピ管理装置30は、推定結果情報を端末装置10に送信する。その後、情報処理システム1は、ステップS16に処理を進める。
(ステップS16)レシピ管理装置30は、推定結果情報が示す推定結果を、画像データの推定用途情報に記述する。例えば、その後、情報処理システム1は、本フローチャートに記載された処理を終了する。
以上が、画像用途推定処理における情報処理システム1の動作の説明である。
ここで、ステップS13の処理の具体例について説明する。ここでは、一例として、レシピの閲覧開始時刻と画像の撮像時刻との時間の差分を行動推定用パラメータとする場合について説明する。
図19は、行動推定データが示す学習結果を示す図である。
図19に示す例では、学習結果として、時間差分情報と、レシピ投稿用途推定確率情報と、レポート投稿用途推定確率情報とが互いに対応付けられている。
時間差分情報とは、レシピの閲覧開始時刻と、料理画像を撮像した撮像時刻との差分を示す情報である。
レシピ投稿用途推定確率情報とは、料理画像の用途がレシピ投稿用である確率を示す情報である。換言すると、レシピ投稿用途推定確率情報とは、レシピに基づかず新規に調理された確率を示す情報である。
レポート投稿用途推定確率情報とは、料理画像の用途がレポート投稿用である確率を示す情報である。換言すると、レポート投稿用途推定確率情報とは、レシピに基づいて調理された確率を示す情報である。
このような学習結果を参照することで、端末装置10やレシピ管理装置30は、対象ユーザがレシピの閲覧を開始した時刻と、料理画像が撮像された時刻との差分の時間に基づいて、対象ユーザの行動を推定することができる。よって、その料理画像の用途を特定することができる。
図20は、ステップS13の処理の流れを示すフローチャートである。
(ステップS20)レシピ管理装置30は、推定用画像情報から、画像の撮像時刻TAを特定する。その後、情報処理システム1は、ステップS21に処理を進める。
(ステップS21)レシピ管理装置30は、解析対象の行動履歴データに基づいて、レシピの閲覧開始時刻TBを抽出する。その後、情報処理システム1は、ステップS22に処理を進める。
(ステップS22)レシピ管理装置30は、撮像時刻TAと閲覧開始時刻TBとの差分(TA−TB)を算出する。次に、レシピ管理装置30は、学習結果である確率モデルに差分(TA−TB)を入力する。レシピ管理装置30は、行動ごとの推定確率を取得する。例えば、図19に示す時間差分情報として、差分(TA−TB)を入力とすることで、レシピ投稿用途推定確率情報とレポート投稿用途推定確率情報とが取得できる。そして、情報処理システム1は、推定確率が最も高い行動を特定する。例えば、レポート投稿用として推定される確率が最も高い場合(ステップS23;YES)には、ステップS23に処理を進める。また、例えば、レシピ投稿用として推定される確率が最も高い場合(ステップS23;NO)には、ステップS24に処理を進める。
(ステップS23)レシピ管理装置30は、画像の用途をレポート投稿用と推定する。その後、情報処理システム1は、本フローチャートに記載された処理を終了する。
(ステップS24)レシピ管理装置30は、画像の用途をレシピ投稿用と推定する。その後、情報処理システム1は、本フローチャートに記載された処理を終了する。
以上が、情報処理システム1の動作についての説明である。
〔画面例〕
次に、端末装置10が表示する画面について説明する。ここでは、検索結果表示画面、レシピ表示画面の例について説明する。各種画面の表示は、会員設定に応じて異なっていてよい。
次に、検索結果表示画面について説明する。
図21は、検索結果表示画面v2を示す図である。
検索結果表示画面v2には、結果リスト表示欄T1と、絞込み条件設定欄Q4と、関連検索欄Q5と、NOT検索欄Q6と、ソートボタンB5と、が設けられている。結果リスト表示欄T1とは、検索結果である献立やレシピをリスト表示する欄である。行動履歴は、リスト表示された献立やレシピを選択する度に記録される。絞込み条件設定欄Q4とは、検索結果を絞込むための条件を設定するための欄である。絞込み条件としては、例えばレポート数、調理時間、種別、栄養量、会員許諾等を指定することができる。関連検索欄Q5とは、検索キーワードに関連するキーワードを、新たな検索キーワードの候補として提示する欄である。NOT検索欄Q6とは、検索結果として除外するキーワードを入力するための欄である。ソートボタンB5とは、検索結果を並び替えるためのボタンである。例えば投稿日時、人気度(レポート数、閲覧数等)に応じてソートを行うことができる。
以上が、検索結果表示画面の説明である。
次に、レシピ表示画面について説明する。
図22は、レシピ表示画面v4を示す図である。
レシピ表示画面v4には、レシピ名表示欄R1と、レシピ画像表示欄R2と、投稿ユーザ名表示欄R3と、お気に入り登録ボタンR4と、食材表示欄R5と、栄養表示欄R6と、調理工程表示欄R7と、投稿者コメント表示欄R8と、レポート表示欄R9と、機能呼び出しボタン群B6と、が設けられている。レシピ名表示欄R1とは、レシピの名称を表示する欄である。レシピ画像表示欄R2とは、レシピにより調理された料理を撮像した画像を表示する欄である。投稿ユーザ名表示欄R3とは、レシピ投稿者のニックネームを表示する欄である。食材表示欄R5とは、調理に用いる食材を表示する欄である。栄養表示欄R6とは、料理のカロリーや塩分等の栄養を表示する欄である。調理工程表示欄R7とは、調理工程を表示する欄である。調理工程表示欄R7には、調理工程の説明文や調理工程の様子を撮像した画像等が表示されてよい。投稿者コメント表示欄R8とは、レシピ投稿者のコメントを表示する欄である。レポート表示欄R9とは、レシピに対して投稿されたレポートを表示する欄である。機能呼び出しボタン群B6とは、各種機能を呼び出すためのボタン群である。例えばレシピを印刷したり、メールで送信したり、他の端末装置に転送したりする機能を呼び出すことができる。
以上が、画面例についての説明である。
〔本実施形態のまとめ〕
以上説明してきたように、本実施形態に係る情報処理システム1は、撮像された画像に関する画像情報(例えば、撮像時刻情報)を取得する推定補助部186(画像取得部の一例)と、画像情報とユーザのネットワーク上の行動履歴を示す行動履歴情報とに基づいて、画像の用途を推定する推定部338(推定部の一例)と、を備える。これにより、情報処理システム1は、画像の用途を推定することができる。
また、推定部338(推定部の一例)は、画像が少なくとも、レシピ投稿(第1投稿種別の投稿の一例)に用いられるか、又は、レポート投稿(第2投稿種別の投稿の一例)に用いられるか、を推定する投稿種別推定を行う。これにより、情報処理システム1は、画像の用途を推定することができる。
また、レシピ投稿(第1投稿種別の投稿の一例)では、新たな方法を表すレシピ(第1情報の一例)が投稿され、レポート投稿(第2投稿種別の投稿)では、レシピ(第1情報の一例)が表わす方法の一部又は全部を使用した結果を表すレポート(第2情報の一例)が投稿される。これにより、情報処理システム1は、画像の用途を推定することができ、さらに画像の用途を推定した結果に応じた処理をすることができる。
また、推定補助部186(画像取得部の一例)は、料理を表す料理画像に関する画像情報を取得し、レシピ投稿(第1投稿種別の投稿の一例)では、新たな調理方法を表すレシピ(第1情報の一例)が投稿され、レポート投稿(第2投稿種別の投稿)では、レシピ(第1情報の一例)が表わす調理方法の一部又は全部を使用して調理された結果を表すレポート(第2情報の一例)が投稿される。これにより、情報処理システム1は、画像の用途を推定することができ、さらに画像の用途を推定した結果に応じた投稿処理をすることができる。
また、情報処理システム1は、画像がレシピ投稿(第1投稿種別の投稿の一例)に用いられると推定された場合、画像が選択された画面であってレシピ(第1情報の一例)を投稿する投稿画面(例えば、図2の表示画面G2−4)を生成し、画像がレポート投稿(第2投稿種別の投稿)に用いられると推定された場合、画像が選択された画面であってレポート(第2情報の一例)を投稿する投稿画面(例えば、図2の表示画面G2−1)を生成する出力処理部187(画面生成部の一例)を備える。これにより、情報処理システム1は、画像の用途を推定することができ、さらに画像の用途を推定した結果に応じた投稿処理をユーザが容易に投稿できるように行い、ユーザに対し投稿を促すことができる。
また、推定部338(推定部の一例)は、画像がレポート投稿(第2投稿種別の投稿)に用いられると推定した場合、画像情報とユーザのネットワーク上の行動履歴を示す行動情報に基づいて対象レシピ(第1情報の一例)を選択し、推定部338(推定部の一例)が選択した対象レシピ(第1情報の一例)に基づいて、レポート(第2情報の一例)を投稿する投稿画面を生成する出力処理部187(画面生成部の一例)を備える。これにより、情報処理システム1は、画像の用途を推定することができ、さらに画像の用途をレポート投稿と推定した場合に、ユーザが容易にレポート投稿できるように対象レシピを選択することで、ユーザに対しレポート投稿を促すことができる。
また、推定部338(推定部の一例)は、画像データの画像時刻情報(画像情報に含まれる撮像時刻を示す撮像時刻情報の一例)と、ウェブ行動履歴データのウェブ行動開始時刻(ネットワーク上のウェブサイトの閲覧時刻を示す閲覧時刻情報の一例)と、に基づいて、レシピ投稿に用いられるか、又は、レポート投稿に用いられるかの推定(投稿種別推定の一例)を行う。これにより、情報処理システム1は、画像の用途を精度よく推定することができる。
また、画像情報は、撮像ユーザ情報(ユーザを示すユーザ識別情報の一例)と関連付けられ、推定部338(推定部の一例)は、画像情報と、撮像ユーザ情報(ユーザを示すユーザ識別情報の一例)が示すユーザについてのウェブ行動履歴情報(行動履歴情報の一例)と、に基づいて、レシピ投稿に用いられるか、又は、レポート投稿に用いられるかの推定(投稿種別推定の一例)を行う。これにより、情報処理システム1は、画像の用途を精度よく推定することができる。
また、情報処理システム1は、端末装置10(端末装置の一例)とサーバ装置30(サーバ装置の一例)を具備する情報処理システムであって、端末装置10は、撮像された画像を記憶する端末側記憶部17(記憶部の一例)と、端末側記憶部17(記憶部の一例)から読み出した画像に関する画像情報と、撮像ユーザ情報(ユーザを示すユーザ識別情報の一例)と、を関連付けてサーバ装置30へ送信する端末側通信部11(送信部の一例)を備え、サーバ装置30(サーバ装置の一例)は、画像情報と撮像ユーザ情報(ユーザを示すユーザ識別情報の一例)が示すユーザについてのウェブ行動履歴情報(ネットワーク上の行動履歴を示す行動履歴情報の一例)とに基づいて、画像が少なくとも、レシピ投稿(第1投稿種別の投稿の一例)に用いられるか、又は、レポート投稿(第2投稿種別の投稿の一例)に用いられるか、を推定する推定部338(推定部の一例)と、を備える。これにより、情報処理システム1は、画像の用途を推定することができる。
また、情報処理システム1は、端末装置10(端末装置の一例)とサーバ装置30(サーバ装置の一例)を具備する情報処理システムであって、サーバ装置30(サーバ装置の一例)は、ユーザのネットワーク上の行動履歴を示すウェブ行動履歴情報(行動履歴情報の一例)を生成する履歴管理部336(履歴情報生成部の一例)を備え、端末装置10(端末装置の一例)は、撮像された画像を記憶する端末側記憶部17(記憶部の一例)と、ユーザを示す撮像ユーザ情報(ユーザ識別情報の一例)をサーバ装置30(サーバ装置の一例)へ送信する端末側通信部11(送信部の一例)と、撮像ユーザ情報(ユーザ識別情報の一例)が示すユーザについてのウェブ行動履歴情報(行動履歴情報の一例)をサーバ装置30(サーバ装置の一例)から受信する端末側通信部11(受信部の一例)と、端末側記憶部17(記憶部の一例)が記憶する画像に関する画像情報と、端末側通信部11(受信部の一例)が受信したウェブ行動履歴情報(行動履歴情報の一例)と、に基づいて、画像が少なくとも、レシピ投稿(第1投稿種別の投稿の一例)に用いられるか、又は、レポート投稿(第2投稿種別の投稿の一例)に用いられるか、を推定する投稿種別推定を行う推定部338(推定部の一例)と、を備える。これにより、情報処理システム1は、画像の用途を推定することができる。
また、情報処理システム1(情報処理装置の一例)は、撮像された画像に関する画像情報を取得する推定補助部186(画像取得部の一例)と、画像情報とユーザのネットワーク上の行動履歴を示すウェブ行動履歴情報(行動履歴情報の一例)とに基づいて、画像の用途を推定する推定部338(推定部の一例)と、を備える。これにより、情報処理システム1(情報処理装置の一例)は、画像の用途を推定することができる。
本実施形態に係る情報処理システム1は、掲載情報を掲載するウェブサイトにおける行動履歴であって、ユーザの行動履歴を示すウェブ行動履歴情報と、掲載情報に基づく行動を行ったかを示す実績情報と、を取得する履歴管理部336(学習情報取得部の一例)と、
教示データとしての実績情報とウェブ行動履歴情報に基づいて、ウェブ行動履歴情報と掲載情報に基づく行動を行うかを示す行動情報との関係を学習し、行動推定データ(学習結果の一例)を示す行動推定情報を行動推定データ記憶部329(記憶部の一例)へ出力する学習部337(学習部の一例)と、対象ユーザのウェブ行動履歴情報を取得する履歴情報管理部336(情報取得部の一例)と、対象ユーザのウェブ行動履歴情報と行動推定情報とに基づいて、対象ユーザがウェブサイトに掲載されたレシピ(掲載情報の一例)に基づく行動を行うかを推定する推定部338(推定部の一例)と、を備える。これにより、情報処理システム1は、掲載情報を閲覧したユーザが掲載情報に基づく行動を行うか推定することができる。
また、情報処理システム1は、履歴管理部336(学習情報取得部の一例)は、調理方法を掲載するウェブサイトにおける行動履歴であって、ユーザの行動履歴を示すウェブ行動履歴情報と、調理方法に基づく調理を行ったかを示す実績情報(例えば聞き取り調査の結果)と、を取得し、学習部337(学習部の一例)は、教示データとしての実績情報とウェブ行動履歴情報に基づいて、ウェブ行動履歴情報と調理を行うかを示す行動情報との関係を学習し、行動推定データ(学習結果の一例)を示す行動推定情報を行動推定データ記憶部329(記憶部の一例)へ出力し、対象ユーザのウェブ行動履歴情報を取得する履歴管理部336(情報取得部の一例)と、対象ユーザのウェブ行動履歴情報と行動推定情報とに基づいて、対象ユーザが調理方法に基づく調理を行うかを推定する推定部338(推定部の一例)と、を備える。これにより、情報処理システム1は、掲載情報を閲覧したユーザが掲載情報に基づく行動を行うか推定することができる。
また、ウェブ行動履歴情報には、閲覧された調理方法(レシピ)、調理方法により調理される料理、調理方法で用いられる食材、又は、これらの分類を識別する掲載識別情報が含まれ、学習部337(学習部の一例)は、掲載識別情報を少なくとも一つの変数として、ウェブ行動履歴情報と行動情報との関係を学習し、行動推定データ(学習結果の一例)を示す行動推定情報を行動推定データ記憶部329(記憶部の一例)へ出力し、推定部338(推定部の一例)は、対象ユーザが調理を行うと推定された場合、対象ユーザのウェブ行動履歴情報に含まれる掲載識別情報と行動推定情報とに基づいて、対象レシピ(調理の契機となる調理方法の一例)、料理、食材、又は、これらの分類を推定する。これにより情報処理システム1は、掲載レシピを閲覧したユーザがその掲載レシピに基づいて調理を行うか推定することができる。
また、推定部338(推定部の一例)が推定した調理方法、料理、食材、又は、これらの分類に基づいて、対象ユーザに対して、調理方法を掲載するウェブサイトを示す情報を出力する出力情報を生成する出力処理部187(出力制御部の一例)と、を備える。これにより情報処理システム1は、掲載レシピに基づいて調理を行うユーザが調理したレシピを推定することができる。
また、対象ユーザが調理を行うと推定された場合、対象ユーザに対して、レポート投稿(調理方法の一部又は全部を使用して調理された結果を表す情報の投稿の一例)を促す情報を出力する出力情報(例えば、図2の表示画面G2−1)を生成する出力処理部187(出力制御部の一例)とを備える。これにより情報処理システム1は、掲載レシピに基づいて調理を行うユーザが調理したレシピにおけるレポート投稿を促すことができる。
また、ウェブ行動履歴情報には、ウェブサイトが閲覧されたときのオペレーティングシステム、ブラウザ、又は端末装置の種類を識別するプラットフォーム識別情報が含まれ、学習部337(学習部の一例)は、プラットフォーム識別情報を少なくとも一つの変数として、ウェブ行動履歴情報と行動情報との関係を学習し、行動推定データ(学習結果の一例)を示す行動推定情報を行動推定データ記憶部329(記憶部の一例)へ出力し、推定部338(推定部の一例)は、対象ユーザが調理を行うと推定された場合、対象ユーザのウェブ行動履歴情報に含まれるプラットフォーム識別情報と行動推定情報とに基づいて、対象ユーザがプラットフォーム識別情報に応じて選択された調理方法に基づく調理を行うかを推定する。これにより情報処理システム1は、掲載レシピを閲覧したユーザがその掲載レシピに基づいて調理を行うかを精度よく推定することができる。
また、ウェブ行動履歴情報には、ウェブサイトが閲覧されたときの時刻又は時間帯を示す時間情報が含まれ、学習部337(学習部の一例)は、時間情報を少なくとも一つの変数として、ウェブ行動履歴情報と行動情報との関係を学習し、行動推定データ(学習結果の一例)を示す行動推定情報を行動推定データ記憶部329(記憶部の一例)へ出力し、推定部338(推定部の一例)は、対象ユーザが調理を行うと推定された場合、対象ユーザのウェブ行動履歴情報に含まれる時間情報と行動推定情報とに基づいて、対象ユーザが時間情報に応じて選択された調理方法に基づく調理を行うかを推定する。これにより情報処理システム1は、掲載レシピを閲覧したユーザがその掲載レシピに基づいて調理を行うかを精度よく推定することができる。
また、ウェブ行動履歴情報には、閲覧された調理方法が対象ユーザの登録した調理方法であることを示す登録サイト情報が含まれ、学習部337(学習部の一例)は、登録サイト情報を少なくとも一つの変数として、ウェブ行動履歴情報と行動情報との関係を学習し、行動推定データ(学習結果の一例)を示す行動推定情報を行動推定データ記憶部329(記憶部の一例)へ出力し、推定部338(推定部の一例)は、対象ユーザが調理を行うと推定された場合、対象ユーザのウェブ行動履歴情報に含まれる登録サイト情報と行動推定情報とに基づいて、対象ユーザが登録サイト情報に応じて選択された調理方法に基づく調理を行うかを推定する。これにより情報処理システム1は、掲載レシピを閲覧したユーザがその掲載レシピに基づいて調理を行うかを精度よく推定することができる。
また、ウェブ行動履歴情報には、閲覧された調理方法の一部又は全部を使用して調理された結果を表す投稿の数を示す投稿数情報が含まれ、学習部337(学習部の一例)は、投稿数情報を少なくとも一つの変数として、ウェブ行動履歴情報と行動情報との関係を学習し、行動推定データ(学習結果の一例)を示す行動推定情報を行動推定データ記憶部329(記憶部の一例)へ出力し、推定部338(推定部の一例)は、対象ユーザが調理を行うと推定された場合、対象ユーザのウェブ行動履歴情報に含まれる投稿数情報と行動推定情報とに基づいて、対象ユーザが投稿数情報に応じて選択された調理方法に基づく調理を行うかを推定する。これにより情報処理システム1は、掲載レシピを閲覧したユーザがその掲載レシピに基づいて調理を行うかを精度よく推定することができる。
また、ウェブ行動履歴情報には、対象ユーザの各々による一連の閲覧における閲覧順序を示す閲覧順情報が含まれ、学習部337(学習部の一例)は、閲覧順情報を少なくとも一つの変数として、ウェブ行動履歴情報と行動情報との関係を学習し、行動推定データ(学習結果の一例)を示す行動推定情報を行動推定データ記憶部329(記憶部の一例)へ出力し、推定部338(推定部の一例)は、対象ユーザが調理を行うと推定された場合、対象ユーザのウェブ行動履歴情報に含まれる閲覧順情報と行動推定情報とに基づいて、対象ユーザが閲覧順情報に応じて選択された調理方法に基づく調理を行うかを推定する。これにより情報処理システム1は、掲載レシピを閲覧したユーザがその掲載レシピに基づいて調理を行うかを精度よく推定することができる。
また、ウェブ行動履歴情報には、閲覧された調理方法の閲覧時間を示す閲覧時間情報が含まれ、学習部337(学習部の一例)は、閲覧時間情報を少なくとも一つの変数として、ウェブ行動履歴情報と行動情報との関係を学習し、行動推定データ(学習結果の一例)を示す行動推定情報を行動推定データ記憶部329(記憶部の一例)へ出力し、推定部338(推定部の一例)は、対象ユーザが調理を行うと推定された場合、対象ユーザのウェブ行動履歴情報に含まれる閲覧時間情報と行動推定情報とに基づいて、対象ユーザが閲覧時間情報に応じて選択された調理方法に基づく調理を行うかを推定する。これにより情報処理システム1は、掲載レシピを閲覧したユーザがその掲載レシピに基づいて調理を行うかを精度よく推定することができる。
また、レシピ管理装置30(情報処理装置の一例)は、掲載情報を掲載するウェブサイトにおける行動履歴であって、ユーザの行動履歴を示すウェブ行動履歴情報と、掲載情報に基づく行動を行ったかを示す実績情報と、を取得する履歴管理部336(学習情報取得部の一例)と、教示データとしての実績情報とウェブ行動履歴情報に基づいて、ウェブ行動履歴情報と掲載情報に基づく行動を行うかを示す行動情報との関係を学習し、行動推定データ(学習結果の一例)を示す行動推定情報を行動推定データ記憶部329(記憶部の一例)へ出力する学習部337(学習部の一例)と、を備える。これにより、情報処理装置は、行動履歴と掲載情報に基づく行動を行うかの関係を機械学習することができる。
また、レシピ管理装置30(情報処理装置の一例)は、掲載情報を掲載するウェブサイトにおける行動履歴であって、対象ユーザの行動履歴を示すウェブ行動履歴情報を取得する履歴管理部336(情報取得部の一例)と、ウェブ行動履歴情報と掲載情報に基づく行動を行うかを示す行動情報との関係を示す行動推定データ(行動推定情報の一例)を行動推定データ記憶部329(記憶部の一例)から読み出し、対象ユーザのウェブ行動履歴情報と行動推定情報とに基づいて、対象ユーザが掲載情報に基づく行動を行うかを推定する推定部338(推定部の一例)と、を備える。これにより、情報処理装置は、ユーザの行動履歴に基づいてユーザが掲載情報に基づく行動を行うかを機械学習により推定することができる。
[変形例]
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成は上述の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。例えば上述の実施形態において説明した各構成は、任意に組み合わせることができる。また、例えば上述の実施形態において説明した各構成は、特定の機能を発揮するのに不要である場合には、省略することができる。また、例えば上述の実施形態において説明した各構成は、別体の装置に備えることができる。例えば、レシピ管理装置30の構成を、端末装置10に備えてもよいし、端末装置10の一部又は全部の構成を、レシピ管理装置30に備えてもよい。
なお、上述した実施形態では、レシピとそのレポートを公開するウェブサービスについて説明したが、これには限定されない。情報処理システム1は、例えば、旅行プランとそのレポートを投稿するようなウェブサービスにも適用可能である。
なお、上述した実施形態では、行動履歴に基づいて演算可能な情報を行動推定用パラメータとして用いる場合について説明したが、これには限られない。行動推定用パラメータには、任意の情報が用いられてよく、例えばユーザの属性情報や画像に撮像された対象物の種類に基づいて演算可能な情報が用いられてもよい。例えば、ユーザの会員設定、性別、年齢、調理器具が写っているか否か等が行動推定用パラメータとして用いられてもよい。また、例えば、画像の連続性が行動推定用パラメータとして用いられてもよい。例えば、レシピ投稿するつもりで画像を撮像する場合には、調理手順の各工程で画像が撮像される場合がある。そのため、例えば画像の撮像時刻の間隔を行動推定用パラメータとして用いることで、レシピ投稿用であるか否かを精度よく推定することができる。
なお、上述した実施形態では、行動の推定結果を画像用途の推定に用いる場合について説明したが、行動の推定結果は他の目的で利用されてもよい。例えば、行動の推定結果に応じて、調理されたと推定されたレシピに関連するレシピやおすすめの調理器具の広告等を提示してもよい。
なお、上述した実施形態では、画像の用途が、レシピ投稿用とレポート投稿用との2つの用途のいずれであるかを推定することについて説明したが、これには限られない。例えば、ブログ投稿用等を追加して、3つ以上の用途のいずれであるのかを推定してもよい。また、例えば、レシピに基づいて調理行動を行ったか否かだけでなく、その中間的な状態を推定してもよい。例えば、閲覧したレシピをアレンジして調理を行うことを推定してもよい。そして、アレンジして調理を行ったことが推定された場合には、レシピ投稿用画面を表示するとともに、アレンジの際に閲覧されたレシピの情報を、投稿用の各項目に入力してもよい。これにより、レシピ投稿が行いやすくなる。また、レシピ投稿用とレポート投稿用とのいずれでもないことを推定してもよい。例えば、画像の撮像場所がユーザの家であるか外であるかを示す情報を行動推定用パラメータとして用いる。そして、家の外である場合には、ユーザが調理した画像ではないと判定してもよい。なお、ユーザの家の場所は、ユーザ属性情報を参照して特定してもよいし、料理画像が繰り返し撮像されている場所を家の場所とみなして特定してもよい。
また、上述の端末装置10、レシピ管理装置30、ユーザ管理装置50の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより端末装置10、レシピ管理装置30、ユーザ管理装置50としての処理を行ってもよい。ここで、「記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行する」とは、コンピュータシステムにプログラムをインストールすることを含む。ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータシステム」は、インターネットやWAN、LAN、専用回線等の通信回線を含むネットワークを介して接続された複数のコンピュータ装置を含んでもよい。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。このように、プログラムを記憶した記録媒体は、CD−ROM等の非一過性の記録媒体であってもよい。また、記録媒体には、当該プログラムを配信するために配信サーバからアクセス可能な内部または外部に設けられた記録媒体も含まれる。配信サーバの記録媒体に記憶されるプログラムのコードは、端末装置で実行可能な形式のプログラムのコードと異なるものでもよい。すなわち、配信サーバからダウンロードされて端末装置で実行可能な形でインストールができるものであれば、配信サーバで記憶される形式は問わない。なお、プログラムを複数に分割し、それぞれ異なるタイミングでダウンロードした後に端末装置で合体される構成や、分割されたプログラムのそれぞれを配信する配信サーバが異なっていてもよい。さらに「コンピュータ読み取り可能な記録媒体」とは、ネットワークを介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM)のように、一定時間プログラムを保持しているものも含むものとする。また、上記プログラムは、上述した機能の一部を実現するためのものであってもよい。さらに、上述した機能をコンピュータシステムに既に記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
また、上述した端末装置10、レシピ管理装置30、ユーザ管理装置50の機能の一部または全部を、LSI(Large Scale Integration)等の集積回路として実現してもよい。上述した各機能は個別にプロセッサ化してもよいし、一部、または全部を集積してプロセッサ化してもよい。また、集積回路化の手法はLSIに限らず専用回路、または汎用プロセッサで実現してもよい。また、半導体技術の進歩によりLSIに代替する集積回路化の技術が出現した場合、当該技術による集積回路を用いてもよい。
1…情報処理システム、10…端末装置、11…端末側通信部、12…操作入力部、13…音声入力部、14…撮像部、15…音声再生部、16…表示部、17…端末側記憶部、18…端末側制御部、181…ユーザ制御部、182…献立投稿部、183…レシピ投稿部、184…レポート投稿部、185…検索操作部、186…推定補助部、187…出力処理部、30…レシピ管理装置、31…レシピ管理側通信部、32…レシピ管理側記憶部、321…献立データ記憶部、322…献立属性データ記憶部、323…レシピデータ記憶部、324…レシピ属性データ記憶部、325…食材データ記憶部、326…料理データ記憶部、327…レポートデータ記憶部、328…行動履歴データ記憶部、329…行動履歴データ記憶部328…行動推定データ記憶部、32B…画像データ記憶部、33…レシピ管理側制御部、331…献立編集部、332…レシピ編集部、333…レポート編集部、334…検索キーワード取得部、335…抽出部、336…履歴管理部、337…関係性編集部、337…学習部、338…推定部、50…ユーザ管理装置、51…ユーザ管理側通信部、52…ユーザ管理側記憶部、53…ユーザ管理側制御部、531…ユーザ管理部

Claims (12)

  1. 撮像された画像に関する画像情報を取得する画像取得部と、
    前記画像情報とユーザのネットワーク上の行動履歴を示す行動履歴情報とに基づいて、前記画像の用途を推定する推定部と、
    を備え、
    前記推定部は、前記画像が少なくとも、第1投稿種別の投稿に用いられるか、又は、第2投稿種別の投稿に用いられるか、を推定する投稿種別推定を行い、
    前記第1投稿種別の投稿では、新たな方法を表す第1情報が投稿され、
    前記第2投稿種別の投稿では、前記第1情報が表わす方法の一部又は全部を使用した結果を表す第2情報が投稿される情報処理システム。
  2. 撮像された画像に関する画像情報を取得する画像取得部と、
    前記画像情報とユーザのネットワーク上の行動履歴を示す行動履歴情報とに基づいて、前記画像の用途を推定する推定部と、
    を備え、
    前記推定部は、前記画像が少なくとも、第1投稿種別の投稿に用いられるか、又は、第2投稿種別の投稿に用いられるか、を推定する投稿種別推定を行い、
    前記画像取得部は、料理を表す料理画像に関する画像情報を取得し、
    前記第1投稿種別の投稿では、新たな調理方法を表す第1情報が投稿され、
    前記第2投稿種別の投稿では、前記第1情報が表わす調理方法の一部又は全部を使用して調理された結果を表す第2情報が投稿される情報処理システム。
  3. 前記画像が第1投稿種別の投稿に用いられると推定された場合、前記画像が選択された画面であって前記第1情報を投稿する投稿画面を生成し、
    前記画像が第2投稿種別の投稿に用いられると推定された場合、前記画像が選択された画面であって前記第2情報を投稿する投稿画面を生成する画面生成部
    を備える請求項1又は2に記載の情報処理システム。
  4. 前記推定部は、前記画像が第2投稿種別の投稿に用いられると推定した場合、前記画像情報と前記画像情報とユーザのネットワーク上の行動履歴を示す行動情報に基づいて第1情報を選択し、
    前記推定部が選択した第1情報に基づいて、前記第2情報を投稿する投稿画面を生成する画面生成部
    を備える請求項1から3のいずれか一項に記載の情報処理システム。
  5. 撮像された画像に関する画像情報を取得する画像取得部と、
    前記画像情報とユーザのネットワーク上の行動履歴とに基づいて、前記画像が少なくとも、新たな調理方法により調理された料理を表す画像であるか、前記ネットワーク上のウェブサイトに投稿された調理方法の一部又は全部を使用して調理された料理を表す画像であるか、を推定する推定部と、
    を備える情報処理システム。
  6. 撮像された画像に関する画像情報を取得する画像取得部と、
    前記画像情報とユーザのネットワーク上の行動履歴を示す行動履歴情報とに基づいて、前記画像の用途を推定する推定部と、
    を備え、
    前記推定部は、前記画像が少なくとも、第1投稿種別の投稿に用いられるか、又は、第2投稿種別の投稿に用いられるか、を推定する投稿種別推定を行い、
    前記第1投稿種別の投稿では、新たな方法を表す第1情報が投稿され、
    前記第2投稿種別の投稿では、前記第1情報が表わす方法の一部又は全部を使用した結果を表す第2情報が投稿される情報処理装置。
  7. 撮像された画像に関する画像情報を取得する画像取得部と、
    前記画像情報とユーザのネットワーク上の行動履歴を示す行動履歴情報とに基づいて、前記画像の用途を推定する推定部と、
    を備え、
    前記推定部は、前記画像が少なくとも、第1投稿種別の投稿に用いられるか、又は、第2投稿種別の投稿に用いられるか、を推定する投稿種別推定を行い、
    前記画像取得部は、料理を表す料理画像に関する画像情報を取得し、
    前記第1投稿種別の投稿では、新たな調理方法を表す第1情報が投稿され、
    前記第2投稿種別の投稿では、前記第1情報が表わす調理方法の一部又は全部を使用して調理された結果を表す第2情報が投稿される情報処理装置。
  8. 撮像された画像に関する画像情報を取得する画像取得部と、
    前記画像情報とユーザのネットワーク上の行動履歴とに基づいて、前記画像が少なくとも、新たな調理方法により調理された料理を表す画像であるか、前記ネットワーク上のウェブサイトに投稿された調理方法の一部又は全部を使用して調理された料理を表す画像であるか、を推定する推定部と、
    を備える情報処理装置。
  9. コンピュータを請求項6から請求項8のいずれか一項に記載の情報処理装置として機能させるためのプログラム。
  10. 情報処理装置における情報処理方法において、
    前記情報処理装置が、撮像された画像に関する画像情報を取得する画像取得過程と、
    前記情報処理装置が、前記画像情報とユーザのネットワーク上の行動履歴を示す行動履歴情報とに基づいて、前記画像の用途を推定する推定過程と、
    を有し、
    前記推定過程において、前記画像が少なくとも、第1投稿種別の投稿に用いられるか、又は、第2投稿種別の投稿に用いられるか、を推定する投稿種別推定を行い、
    前記第1投稿種別の投稿では、新たな方法を表す第1情報が投稿され
    前記第2投稿種別の投稿では、前記第1情報が表わす方法の一部又は全部を使用した結果を表す第2情報が投稿される情報処理方法。
  11. 情報処理装置における情報処理方法において、
    前記情報処理装置が、撮像された画像に関する画像情報を取得する画像取得過程と、
    前記情報処理装置が、前記画像情報とユーザのネットワーク上の行動履歴を示す行動履歴情報とに基づいて、前記画像の用途を推定する推定過程と、
    を有し、
    前記推定過程において、前記画像が少なくとも、第1投稿種別の投稿に用いられるか、又は、第2投稿種別の投稿に用いられるか、を推定する投稿種別推定を行い、
    前記画像取得過程において、料理を表す料理画像に関する画像情報を取得し、
    前記第1投稿種別の投稿では、新たな調理方法を表す第1情報が投稿され
    前記第2投稿種別の投稿では、前記第1情報が表わす調理方法の一部又は全部を使用して調理された結果を表す第2情報が投稿される情報処理方法。
  12. 情報処理装置における情報処理方法において、
    前記情報処理装置が、撮像された画像に関する画像情報を取得する画像取過程と、
    前記情報処理装置が、前記画像情報とユーザのネットワーク上の行動履歴とに基づいて、前記画像が少なくとも、新たな調理方法により調理された料理を表す画像であるか、前記ネットワーク上のウェブサイトに投稿された調理方法の一部又は全部を使用して調理された料理を表す画像であるか、を推定する推定過程と、
    を有する情報処理方法。
JP2017014666A 2017-01-30 2017-01-30 情報処理システム、情報処理装置、情報処理方法、及びプログラム Active JP6327682B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017014666A JP6327682B1 (ja) 2017-01-30 2017-01-30 情報処理システム、情報処理装置、情報処理方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017014666A JP6327682B1 (ja) 2017-01-30 2017-01-30 情報処理システム、情報処理装置、情報処理方法、及びプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2018076332A Division JP2018125029A (ja) 2018-04-11 2018-04-11 情報処理システム、情報処理装置、情報処理方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP6327682B1 true JP6327682B1 (ja) 2018-05-23
JP2018124672A JP2018124672A (ja) 2018-08-09

Family

ID=62186789

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017014666A Active JP6327682B1 (ja) 2017-01-30 2017-01-30 情報処理システム、情報処理装置、情報処理方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP6327682B1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022517521A (ja) 2019-01-23 2022-03-09 キーブ インコーポレイテッド データサーチ及び検索を強化するデータ処理システム及び強化されたデータストレージ
US11922690B2 (en) 2019-06-25 2024-03-05 Semiconductor Energy Laboratory Co., Ltd. Data processing system and data processing method

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013045352A (ja) * 2011-08-25 2013-03-04 Canon Inc 画像処理システム及び画像処理方法
JP2015005130A (ja) * 2013-06-20 2015-01-08 日本放送協会 文書投稿装置、方法及びプログラム
JP2015220616A (ja) * 2014-05-16 2015-12-07 株式会社ニコン 電子機器
WO2016189743A1 (ja) * 2015-05-28 2016-12-01 楽天株式会社 情報処理装置、情報処理方法、プログラム、記憶媒体

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013045352A (ja) * 2011-08-25 2013-03-04 Canon Inc 画像処理システム及び画像処理方法
JP2015005130A (ja) * 2013-06-20 2015-01-08 日本放送協会 文書投稿装置、方法及びプログラム
JP2015220616A (ja) * 2014-05-16 2015-12-07 株式会社ニコン 電子機器
WO2016189743A1 (ja) * 2015-05-28 2016-12-01 楽天株式会社 情報処理装置、情報処理方法、プログラム、記憶媒体

Also Published As

Publication number Publication date
JP2018124672A (ja) 2018-08-09

Similar Documents

Publication Publication Date Title
US9678944B2 (en) Enhanced predictive input utilizing a typeahead process
JP6563828B2 (ja) ユーザからサーチクエリを受信する前にサーチ結果をユーザに示唆する
JP5422084B1 (ja) 料理レシピ情報提供装置、料理レシピ情報提供方法、プログラム、及び情報記録媒体
US10528912B2 (en) User profile improvement system
JP6217228B2 (ja) 情報提供装置、プログラム及び情報提供システム
US20150248719A1 (en) Methods and systems for identifying physical objects
US20090292762A1 (en) Method, Apparatus, and Computer Program Product for Publishing Content
US20080215547A1 (en) Introduction supporting apparatus and recording medium storing computer program
US20140095308A1 (en) Advertisement distribution apparatus and advertisement distribution method
JP2014520345A (ja) 画像へのテキストによる提案
JP6255599B1 (ja) 情報処理システム、情報処理方法、及びプログラム
KR20150079739A (ko) 이벤트 리뷰들을 획득하는 방법 및 시스템
TW201333866A (zh) 社群共享及影響圖表系統及方法
JP6270085B1 (ja) 情報処理装置、情報処理システム、情報処理方法、及びプログラム
JP5710576B2 (ja) 行程表生成装置、行程表生成方法および行程表生成プログラム
US20140188742A1 (en) System to integrate real-world objects into social networks
JP6327682B1 (ja) 情報処理システム、情報処理装置、情報処理方法、及びプログラム
JP5615464B1 (ja) 料理レシピ情報提供装置、料理レシピ情報提供方法、プログラム、及び情報記録媒体
JP2018147525A (ja) 情報処理システム、情報処理装置、情報処理方法、及びプログラム
JP6028493B2 (ja) サーバ装置、プログラム及び通信システム
JP2016053809A (ja) サーバ装置、プログラム及び情報提供方法
CN107566662A (zh) 一种应用模式切换方法、存储介质及移动终端
JP6367987B1 (ja) 情報処理システム、情報処理装置、情報処理方法、及びプログラム
JP2017219881A (ja) スタンプラリー支援装置
JP2018125029A (ja) 情報処理システム、情報処理装置、情報処理方法、及びプログラム

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180220

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180308

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180320

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180412

R150 Certificate of patent or registration of utility model

Ref document number: 6327682

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250