JP6959462B1 - 画像表示装置、プログラム及び画像表示システム - Google Patents

画像表示装置、プログラム及び画像表示システム Download PDF

Info

Publication number
JP6959462B1
JP6959462B1 JP2021012958A JP2021012958A JP6959462B1 JP 6959462 B1 JP6959462 B1 JP 6959462B1 JP 2021012958 A JP2021012958 A JP 2021012958A JP 2021012958 A JP2021012958 A JP 2021012958A JP 6959462 B1 JP6959462 B1 JP 6959462B1
Authority
JP
Japan
Prior art keywords
image data
moving image
unit
synchronized
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021012958A
Other languages
English (en)
Other versions
JP2022048957A (ja
Inventor
隆一郎 林
純一 鶴見
政明 厚地
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2021012958A priority Critical patent/JP6959462B1/ja
Application granted granted Critical
Publication of JP6959462B1 publication Critical patent/JP6959462B1/ja
Publication of JP2022048957A publication Critical patent/JP2022048957A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】第1被写体を真似した人、第1被写体に似ている表情や動作をしている人、又は第1被写体と変化の状況が似ている物体等の第2被写体が含まれる動画像を見ることができるようにする。【解決手段】第1被写体の動作が撮影されて生成された第1動画像データと、第1被写体の動作とシンクロして動作をする第2被写体が撮影されて生成されたシンクロ動画像データと、を取得するデータ取得部151と、シンクロ動画像データの種別を選択する操作を受け付ける操作受付部153と、操作受付部153が操作を受け付けた場合に、選択された種別に対応するシンクロ動画像データを第2動画像データとして再生する画像再生部154と、を有する。【選択図】図3

Description

本発明は、画像表示装置、プログラム及び画像表示システムに関する。
従来、同一のキャラクターを複数のアングルから同時に撮像した複数の動画像を切り替えて表示するシステムが知られている(例えば、特許文献1を参照)。
特開平7−107437号公報
例えば、歌手や芸能人の真似をした人を写した動画像や表情又は動作が似ている人を写した動画像が配信されている。このような動画像を視聴するユーザは、本物の歌手や芸能人を写した動画像と真似をした人や似ている人を写した動画像とを見比べながら視聴したい。しかしながら、従来のシステムを用いる場合、ユーザは、真似をした人や似ている人を写した動画像を見ることができるタイミングを把握することができなかった。
そこで、本発明はこれらの点に鑑みてなされたものであり、第1被写体を真似した人、第1被写体に似ている表情や動作をしている人、又は第1被写体と変化の状況が似ている物体等の第2被写体が含まれる動画像を見ることができるようにすることを目的とする。
本発明の第1の態様の画像表示装置は、第1被写体の動作が撮影されて生成された第1動画像データと、前記第1被写体の動作とシンクロして動作をする第2被写体が撮影されて生成されたシンクロ動画像データである第2動画像データと、を取得するデータ取得部と、前記第1動画像データ及び前記第2動画像データの少なくともいずれかを再生する画像再生部と、前記第1動画像データを再生中に、前記第2動画像データに含まれる前記第2被写体が前記第1動画像データに含まれる前記第1被写体とシンクロする時間帯になったことを示す通知情報を表示部に表示させる表示制御部と、前記表示制御部が前記通知情報を前記表示部に表示させた後に、前記第2動画像データを前記表示部に表示させるための操作を受け付ける操作受付部と、を有し、前記画像再生部は、前記操作受付部が前記操作を受け付けた場合に、前記第2動画像データを前記表示部に表示させる。
前記画像再生部は、前記第1動画像データと前記第2動画像データとを前記表示部に同時に表示させてもよい。
前記操作受付部は、画像配信装置が提供可能な複数の動画像データから前記第1動画像データを選択する操作を受け付け、前記データ取得部は、前記操作受付部が前記第1動画像データを選択する操作を受け付けた場合に、前記第1動画像データと、前記第1動画像データに含まれる前記第1被写体とシンクロして動作をする被写体が含まれる一以上の前記シンクロ動画像データとを前記画像配信装置から取得してもよい。
前記操作受付部は、前記シンクロ動画像データの種別を選択する操作を受け付け、前記画像再生部は、選択された種別に対応する前記シンクロ動画像データを前記第2動画像データとして再生してもよい。
前記操作受付部は、前記シンクロ動画像データが前記第1動画像データに類似する要素を選択する操作を受け付け、前記画像再生部は、複数の前記シンクロ動画像データのうち、前記操作受付部が選択する操作を受け付けた前記要素がシンクロしている前記第2動画像データを再生してもよい。
前記操作受付部は、前記第1動画像データが前記表示部に表示されている間に、前記第1動画像データにシンクロしている複数の前記シンクロ動画像データから再生する一以上のシンクロ動画像データを選択する操作を受け付け、前記画像再生部は、前記操作受付部が受け付けた操作により選択された前記一以上のシンクロ動画像データを前記第2動画像データとして前記表示部に表示させてもよい。
前記操作受付部は、前記第1動画像データが前記表示部に表示されている間に、前記複数のシンクロ動画像データのうち、前記一以上のシンクロ動画像データに対応する向きのスワイプ操作を受け付け、前記画像再生部は、前記表示部に表示させる動画像データを、前記第1動画像データから、前記操作受付部が受け付けた前記スワイプ操作の向きに対応する前記一以上のシンクロ動画像データである前記第2動画像データに切り替えてもよい。
前記操作受付部は、前記第1動画像データに含まれる第1音声データ、前記第2動画像データに含まれる第2音声データ、又は前記第1音声データ及び前記第2音声データの両方の音声データのうち、どの音声データを再生するかを指定する操作を受け付け、前記画像再生部は、前記操作受付部が受け付けた操作により指定された音声データを再生してもよい。
前記表示制御部は、前記第1動画像データと前記第2動画像データとの類似度を示す評価値を前記表示部に表示させてもよい。
前記表示制御部は、前記画像再生部が前記第1動画像データ及び前記第2動画像データを再生している間に、所定の時間ごとに前記評価値を変化させてもよい。
本発明の第2の態様のプログラムは、コンピュータに、第1被写体の動作が撮影されて生成された第1動画像データと、前記第1被写体の動作とシンクロして動作をする第2被写体が撮影されて生成されたシンクロ動画像データである第2動画像データと、を取得するステップと、前記第1動画像データ及び前記第2動画像データの少なくともいずれかを表示部に表示させるステップと、前記第1動画像データを表示中に、前記第2動画像データに含まれる前記第2被写体が前記第1動画像データに含まれる前記第1被写体とシンクロする時間帯になったことを示す通知情報を前記表示部に表示させるステップと、前記通知情報を前記表示部に表示させた後に、前記第2動画像データを前記表示部に表示させるための操作を受け付けるステップと、前記操作を受け付けた場合に、前記第2動画像データを前記表示部に表示させるステップと、を実行させる。
本発明の第3の態様のプログラムは、コンピュータに、第1被写体の動作が撮影されて生成された第1動画像データと、前記第1被写体の動作とシンクロして動作をする第2被写体が撮影されて生成されたシンクロ動画像データと、を取得するステップと、前記シンクロ動画像データが前記第1動画像データに類似する要素を選択する操作を受け付けるステップと、複数の前記シンクロ動画像データのうち、前記選択する操作を受け付けた前記要素がシンクロしている前記シンクロ動画像データを第2動画像データとして再生するステップと、を実行させる。
本発明の第4の画像表示システムは、上記の複数の前記画像表示装置と、前記画像表示装置に前記第1動画像データ及び前記第2動画像データを提供する画像配信装置と、を備え、前記画像配信装置は、前記複数の画像表示装置から、前記第2動画像データに対する評価を取得する評価取得部と、前記複数の画像表示装置から前記評価取得部が取得した複数の前記評価に基づいて、前記第2動画像データの第1評価値を算出する第1算出部と、前記第1動画像データと前記第2動画像データとの類似度に基づく第2評価値を算出する第2算出部と、前記第1評価値及び前記第2評価値を前記複数の画像表示装置に送信する通信部と、を有し、前記画像表示装置の前記表示制御部は、前記第1評価値及び前記第2評価値を前記表示部に表示する。
本発明によれば、第1被写体を真似した人、第1被写体に似ている表情や動作をしている人、又は第1被写体と変化の状況が似ている物体等の第2被写体が含まれる動画像を見ることができるようになるという効果を奏する。
本実施形態に係る画像表示装置の概要を説明するための図である。 本実施形態に係る画像表示システムの構成を示す図である。 画像表示装置の構成を示す図である。 スワイプ操作の向きとシンクロ動画像データの概要を示す情報が表示された画面の一例を示す図である。 複数のシンクロ動画像データそれぞれが第1動画像データにシンクロしている要素を示すテーブルの一例を示す図である。 評価値が表示された画面の一例を示す図である。 画像配信装置の構成を示す図である。 画像表示装置の処理の流れを示すフローチャートである。
[画像表示装置1の概要]
図1は、本実施形態に係る画像表示装置1の概要を説明するための図である。画像表示装置1は、動画像データを見るユーザが使用する装置であり、例えばパーソナルコンピュータ、スマートフォン又はタブレットである。画像表示装置1は、動画像データを表示するためのディスプレイを有していれば、任意の装置であってよい。
画像表示装置1は、シンクロして動作をする第1被写体及び第2被写体が含まれている複数の動画像データを表示することができる。シンクロして動作する第1被写体と第2被写体は、声、動作又は表情の少なくとも一部が、ほぼ同じタイミングで同じように変化する。第1被写体は、例えば、歌手又は芸能人等であり、第1被写体とシンクロして動作する第2被写体は、例えば第1被写体の動作を真似して動作する人、又は第1被写体と似ている表情や動作をしている人である。本明細書においては、第1動画像データに含まれる第1被写体にシンクロして動作をする第2被写体が含まれている第2動画像データを、第1動画像データにシンクロして動作する第2動画像データという。
画像表示装置1は、第1被写体を含む第1動画像データと、第1被写体とシンクロして動作する第2被写体を含む第2動画像データがある場合に、シンクロして動作する動画像データがあることを画像表示装置1のユーザが認識できるようにするための通知情報を表示する。画像表示装置1は、例えば、第1動画像データを再生中に、第2動画像データに含まれる第2被写体が第1動画像データに含まれる第1被写体とシンクロする時間帯になったことを示す通知情報を表示する。画像表示装置1は、通知情報を見たユーザの操作に応じて、第2動画像データを表示する。
図1(a)は、画像表示装置1が第1被写体C1を含む第1動画像データを表示している状態を示しており、図1(b)は、画像表示装置1が第2被写体C2を含む第2動画像データを表示している状態を示している。図1(a)における星印Mは、第1被写体C1にシンクロして動作する第2被写体C2が含まれる第2動画像データがあることを示す通知情報の一例である。第2動画像データがある場合、ユーザが例えばスワイプ操作をすることによって、画像表示装置1は、図1(a)の状態から図1(b)の状態に切り替える。
このように、画像表示装置1は、シンクロして動作する被写体が含まれている動画像データがあることをユーザに通知する。表示されている動画像データにシンクロした他の動画像データがある場合に、画像表示装置1は他の動画像データに切り替えて表示することができるので、ユーザは、シンクロして動作する被写体を見て楽しむことができる。このような画像表示装置1は、歌手や芸能人を真似するイベントの動画像データをユーザが視聴する際に好適である。
なお、画像表示装置1は、図1(b)に示す第2動画像データが表示されている状態でスワイプ操作が行われた場合に、図1(a)に示す状態に切り替えてもよい。また、画像表示装置1は、複数の動画像データを表示するための操作が行われたことに応じて、第1動画像データと第2動画像データを同時に表示してもよい。画像表示装置1は、ユーザの操作を受けることなく、シンクロして動作する他の動画像データがある時間帯になると、自動的に画面を分割して、第1動画像データとシンクロして動作する他の動画像データを同時に表示してもよい。この場合、画像表示装置1は、複数の動画像データがシンクロして動作する時間帯が終了すると、元々表示されていた第1動画像データを表示する画面に戻る。
[画像表示システムSの構成]
図2は、本実施形態に係る画像表示システムSの構成を示す図である。画像表示システムSは、複数の画像表示装置1と画像配信装置2とを有する。画像表示装置1及び画像配信装置2は、ネットワークNを介して各種のデータを送受信する。ネットワークNは、例えばインターネット又は携帯電話網を含む。
画像配信装置2は、動画像データを複数の画像表示装置1に配信するサーバである。画像配信装置2は、複数の動画像データを記憶する記憶媒体を有しており、画像表示装置1から指定された動画像データを画像表示装置1に配信する。画像配信装置2は、例えば、画像表示装置1又は他の電子機器で収録された動画像データを取得して記憶媒体に記憶する。画像配信装置2は、同一の動画像データを複数の画像表示装置1に配信してもよく、異なる動画像データを複数の画像表示装置1に配信してもよい。画像配信装置2は、画像表示装置1から受信した要求に基づいて、第1動画像データにシンクロして動作する一以上の第2動画像データを検索し、検索した第2動画像データを画像表示装置1に配信する。
[画像表示装置1の構成]
図3は、画像表示装置1の構成を示す図である。画像表示装置1は、通信部11と、表示部12と、操作部13と、記憶部14と、制御部15と、を有する。制御部15は、データ取得部151と、表示制御部152と、操作受付部153と、画像再生部154と、を有する。
通信部11は、ネットワークNを介して画像配信装置2から動画像データを受信するための通信インターフェースである。通信部11は、受信した動画像データをデータ取得部151に入力する。
表示部12は、例えばディスプレイである。表示部12は、表示制御部152から入力された動画像データを表示する。
操作部13は、ユーザの操作を受けるためのデバイスであり、例えば表示部12に重ねて設けられたタッチパネルである。操作部13は、ユーザが操作した位置を示す座標情報を操作受付部153に通知する。
記憶部14は、ROM(Read Only Memory)及びRAM(Random Access Memory)を含む記憶媒体である。記憶部14は、制御部15が実行するプログラムを記憶している。記憶部14は、通信部11が受信した動画像データを一時的に記憶してもよい。
制御部15は、例えばCPU(Central Processing Unit)を有しており、記憶部14に記憶されたプログラムを実行することにより、データ取得部151、表示制御部152、操作受付部153及び画像再生部154として機能する。
データ取得部151は、第1被写体C1の動作が撮影されて生成された第1動画像データと、第1被写体C1の動作とシンクロして動作をする第2被写体C2が撮影されて生成されたシンクロ動画像データである第2動画像データと、を取得する。データ取得部151は、取得した第1動画像データ及び第2動画像データを画像再生部154に入力する。データ取得部151は、取得した第1動画像データ及び第2動画像データを記憶部14に保存してもよい。
データ取得部151は、例えば、後述するように操作受付部153が第1動画像データを選択する操作を受け付けた場合に、第1動画像データと、第1動画像データに含まれる第1被写体とシンクロして動作をする被写体が含まれる一以上のシンクロ動画像データとを画像配信装置2から取得してもよい。データ取得部151は、操作受付部153から通知された第1動画像データを識別するための識別情報と、シンクロ動画像データを要求する情報とを画像配信装置2に送信することにより、第1動画像データ及び第2動画像データを取得する。シンクロ動画像データを要求する情報は、画像配信装置2が記憶している多数の動画像データから、第1動画像データとシンクロしている一以上の第2動画像データを検索するように要求する情報である。
表示制御部152は、各種の情報又は動画像データを含む画面データを作成し、各種の情報又は動画像データを表示部12に表示させる。表示制御部152は、第1被写体C1を含む第1動画像データと、被写体C1とシンクロして動作する被写体C2が含まれた第2動画像データを再生可能であることを示す通知情報を表示部12に表示させる。表示制御部152は、例えば、第1動画像データに関連付けて、第1動画像データに関連する動画像データが存在する時間帯を示す情報が画像配信装置2から送信されている場合に、記憶部14に記憶された当該情報を参照することにより通知情報を表示部12に表示させる。
一例として、表示制御部152は、画像再生部154が第1動画像データを再生中に、第2動画像データに含まれる第2被写体C2が第1動画像データに含まれる第1被写体C1とシンクロする時間帯になったことを示す通知情報を表示部12に表示させる。通知情報は、図1(a)に示したような画像であってもよく、「シンクロする画像があります」といったテキスト情報であってもよく、第1動画像データの再生が可能な時間帯を示すスライドバー画像に重ねられた、第2動画像データを再生可能な時間帯を示す画像であってもよい。通知情報は、シンクロしている動画像データを表示させるためのスワイプ操作を行うべき向きを示す矢印の画像であってもよい。表示制御部152がこのような通知情報を表示部12に表示させることで、ユーザが、被写体C1にシンクロして動作する被写体C2が写った第2動画像データがあること又は第2動画像データが第1動画像データにシンクロしている時間帯であることを把握できる。
操作受付部153は、操作部13を介して、ユーザによる各種の操作を受け付ける。操作受付部153は、例えば、画像配信装置2が提供可能な複数の動画像データから第1動画像データを選択する操作を受け付ける。操作受付部153は、表示制御部152を介して、シンクロして動作する被写体が含まれる他の動画像データがある複数の動画像データの一覧を表示部12に表示させ、ユーザが選択した動画像データを、表示部12に表示させる第1動画像データとして選択する操作を受け付ける。操作受付部153は、選択された第1動画像データの識別情報をデータ取得部151に通知する。
また、操作受付部153は、表示部12に表示させる動画像データを切り替えるための切替操作を受け付ける。一例として、操作受付部153は、表示部12に表示された動画像データ上で行われるスワイプ操作を切替操作として受け付ける。操作受付部153は、表示制御部152が通知情報を表示部12に表示させた後に、第2動画像データを表示部12に表示させるための操作を切替操作として受け付ける。操作受付部153は、切替操作が行われたことを検出した場合、切替操作が行われたことを画像再生部154に通知する。
なお、切替操作は、例えば図1を参照しながら説明したスワイプ操作であるが、表示を切り替えるための操作の方法は任意であり、表示部12に表示された操作用の画像にタッチする操作のような他の方法であってもよい。
画像再生部154は、第1動画像データ及び第2動画像データの少なくともいずれかを再生する。具体的には、画像再生部154は、所定のフォーマットで符号化された第1動画像データ及び第2動画像データを復号することにより再生するための復号器(デコーダ)を有する。画像再生部154は、再生中の動画像データを、表示制御部152を介して表示部12に表示させる。画像再生部154は、第1動画像データ及び第2動画像データをシンクロさせて再生している間に、再生中の第1動画像データ及び第2動画像データのうち、どの動画像データを表示部12に表示させるかを表示制御部152に指示してもよい。
画像再生部154は、第1動画像データを表示部12に表示させている間に操作受付部153が切替操作を受け付けた場合に、第2動画像データを再生し、再生した第2動画像データを表示部12に表示させるように表示制御部152に指示する。具体的には、図1(a)の状態で操作受付部153が所定の向きのスワイプ操作を受け付けた場合に、画像再生部154は、図1(b)の状態に遷移させて、再生した第2動画像データを表示部12に表示させる。画像再生部154は、切替操作が行われたタイミングで第2動画像データの再生を開始してもよく、切替操作が行われる前から第2動画像データを再生しており、切替操作が行われた時点で表示制御部152に第2動画像データを表示させるようにしてもよい。
第2動画像データは、複数存在してもよく、画像再生部154が再生する第2動画像データをスワイプなどの切替操作によって切り替えることが可能であってもよい。例えば、第1動画像データの再生中に、第1動画像データにシンクロする複数の第2動画像データがある場合、表示制御部152は、複数の第2動画像データから選択した一つの第2動画像データを第1動画像データの隣に配置する。この場合、ユーザは、1回のスワイプ操作によって表示する動画像データを切り替えたり、第1動画像データと一つの第2動画像データを並べて表示したりすることができる。第2動画像データの表示が終了すると、表示制御部152は第1動画像データのみを表示する状態に切り替わり、その後、第1動画像データにシンクロする異なる第2動画像データがあると判定されると、新たな第2動画像データを第1動画像データの隣に配置し、同様の操作で表示切替を行う。
表示制御部152は、第1動画像データの再生中に、同じ時間帯に異なる複数の第2動画像データがある場合、シンクロ度が近いほど、第1動画像データに近い場所に第2動画像データを配置する。この場合、ユーザは、同じ方向に複数回スワイプ操作を行うことによって表示させる第2動画像データを切り替えることができる。表示制御部152は、複数回のスワイプ操作が行われた後に、他の第2動画像データに切り替わることなく、直接元の第1動画像データにスキップして戻る操作を受け付けるためのアイコン画像を表示してもよい。
なお、第1動画像データにシンクロして動作する複数の第2動画像データがある場合、表示制御部152は、例えば第1動画像データの両側に複数の第2動画像データを配置して、ユーザが左右のどちらの向きにもスワイプ操作を行えるようにする。表示制御部152は、第1動画像データの片側のみに複数の第2動画像データを配置して、複数の第2動画像データの数を示す数字を表示してもよい。ユーザは、同じ向きへのスワイプ操作を繰り返すことで、複数の第2動画像データを順次表示させることができる。
[動画像データの再生方法]
操作受付部153及び画像再生部154は、連動して動作することにより、ユーザに適した第2動画像データを再生することができる。以下、画像再生部154がユーザに適した第2動画像データを再生するための各種の方法を説明する。
操作受付部153は、例えば、第1動画像データが表示部12に表示されている間に、第1動画像データにシンクロしている複数のシンクロ動画像データから、再生する一以上のシンクロ動画像データを選択する操作を受け付ける。一例として、操作受付部153は、表示部12に第1動画像データが表示されている間に、第1動画像データに含まれる第1被写体C1の声、動作又は表情の少なくともいずれかがシンクロしている被写体が含まれる複数のシンクロ動画像データの概要を示す情報の一覧を表示部12に表示させる。シンクロ動画像データの概要を示す情報は、例えばサムネイル画像又はシンクロして動作する第2動画像データがある時間帯を示す画像である。
操作受付部153は、ユーザにより選択された一以上のシンクロ動画像データの識別情報を画像再生部154に通知する。画像再生部154は、通知された識別情報に対応するシンクロ動画像データを再生することにより、当該シンクロ動画像データを表示部12に表示させる。
操作受付部153は、第1動画像データが表示部12に表示されている間に、複数のシンクロ動画像データのうち、一以上のシンクロ動画像データに対応する向きのスワイプ操作を受け付けてもよい。この場合、操作受付部153は、スワイプ操作の向きとシンクロ動画像データの種別や概要を示す情報とを表示部12に表示させてもよい。
図4は、スワイプ操作の向きとシンクロ動画像データの概要を示す情報が表示された画面の一例を示す図である。図4に示す画面の左上には、動画像データD1の他に、動画像データD2、動画像データD3及び動画像データD4を再生可能であることを示す画像が表示されている。
ユーザは、動画像データD1が表示された状態で左向きにスワイプ操作をすることにより、動画像データD2に切り替えることができる。ユーザは、動画像データD2が表示された状態で上向きにスワイプ操作をすることにより、動画像データD3に切り替えることができる。ユーザは、動画像データD3が表示された状態で右向きにスワイプ操作をすることにより、動画像データD4に切り替えることができる。ユーザは、動画像データD1が表示された状態で左斜め上の向きにスワイプ操作をすることにより、動画像データD3に切り替えることもできる。
画像再生部154は、表示部12に表示させる動画像データを、第1動画像データから、操作受付部153が受け付けたスワイプ操作の向きに対応する一以上のシンクロ動画像データである第2動画像データに切り替える。画像再生部154は、操作受付部153が受け付けた操作により選択された一以上のシンクロ動画像データを第2動画像データとして表示部12に表示させる。
図4に示す例において、画像再生部154は、右向きのスワイプ操作を操作受付部153が受け付けた場合に、第1動画像データである動画像データD1が表示部12に表示されないようにするとともに、第2被写体C2が含まれている動画像データD2を第2動画像データとして表示部12に表示させる。画像再生部154は、動画像データD2が表示部12に表示された状態で下向きのスワイプ操作を操作受付部153が受け付けた場合に、動画像データD2が表示部12に表示されないようにするとともに、第3被写体が含まれている動画像データD3を表示部12に表示させる。操作受付部153及び画像再生部154がこのように動作することで、第1動画像データを見ているユーザがシンクロ動画像データを見たいと考えたときに、画像再生部154は、ユーザが見たいシンクロ動画像データを表示部12に表示させることができる。
図4に示す例において、操作受付部153は、第1動画像データの再生中にD2〜D4のいずれかの第2動画像データがシンクロした時間帯になると、シンクロしている状態の第2動画像データに対応するアイコンの表示態様(色又は模様等)を変えて、ユーザが、シンクロ動作している第2動画像データを認識できるようにしてもよい。この場合、操作受付部153は、表示態様を変えたアイコンへのタッチ操作又はスワイプ操作によって第2動画像データを表示させるように画像再生部154に指示する。
なお、図4においては、第1動画像データである動画像データD1のアイコンが左上に配置されているが、操作受付部153は、動画像データD1のアイコンを複数の第2動画像データのアイコンの中心位置に配置するようにしてもよい。すなわち、操作受付部153は、複数の第2動画像データのアイコンを、第1動画像データのアイコンの周囲に配置してもよい。
操作受付部153は、シンクロ動画像データの種別を選択する操作を受け付けてもよい。シンクロ動画像データの種別としては、例えば、第1動画像データのパロディであるか、第1動画像データのベースになったオリジナルであるか、第1動画像データと同一のシリーズであるかといった種別があげられる。シンクロ動画像データの種別は、動画像データの作成者、撮影監督、登場する俳優又は歌手であってもよい。
この場合、画像再生部154は、ユーザにより選択された種別に対応するシンクロ動画像データを第2動画像データとして再生する。画像再生部154が、ユーザにより選択された種別の第2動画像データを再生することで、多数のシンクロ動画像データが存在する場合に、ユーザは視聴したい動画像データを容易に視聴することが可能になる。
操作受付部153は、シンクロ動画像データが第1動画像データに類似する要素を選択する操作を受け付けてもよい。類似する要素は、被写体の声、動作、又は表情である。操作受付部153は、選択された要素を画像再生部154に通知する。操作受付部153は、一つの要素の選択を受け付けてもよく、複数の要素の選択を受け付けてもよい。また、操作受付部153は、それぞれの要素の優先度を指定する操作をさらに受け付けてもよい。例えば、ユーザが、第1被写体C1と声がそっくりで、動作も似ている第2被写体C2が写っている第2動画像データを見たいという場合に、操作受付部153は、第1優先度が動作であり、第2優先度が声であることを指定する操作を受け付ける。
画像再生部154は、再生する対象になっている第1動画像データに対応する複数のシンクロ動画像データのうち、操作受付部153が選択する操作を受け付けた要素がシンクロしている第2動画像データを再生する。画像再生部154は、例えば、複数のシンクロ動画像データそれぞれが第1動画像データにシンクロしている要素を示すテーブルを参照することにより、再生する第2動画像データを選択する。
図5は、複数のシンクロ動画像データそれぞれが第1動画像データにシンクロしている要素を示すテーブルの一例を示す図である。当該テーブルは、例えば記憶部14に記憶されている。図5に示すテーブルにおいては、シンクロ動画像データを識別するための動画像データIDと、声、動作、表情のシンクロ度合いを示す数値とが関連付けられている。シンクロ度合いを示す数値が大きいほど、第1動画像データにおける要素の変化内容に近い。図5に示す例の場合、動画像データIDがD2の動画像データに含まれている被写体の声が、他の動画像データに含まれている被写体の声よりも、第1動画像データに含まれている被写体の声に近い。
画像再生部154は、操作受付部153から通知された要素のシンクロ度合いが最も大きい動画像データを選択する。画像再生部154は、例えば操作受付部153から通知された要素が「声」である場合、動画像データIDがD2の動画像データを第2動画像データとして選択する。画像再生部154は、各要素の優先度の通知を操作受付部153から受けた場合、各要素の優先度に最も近いシンクロ度合いの順序を示す動画像データを選択する。例えば、ユーザが、第1優先度が動作であり、第2優先度が声であることを指定した場合、画像再生部154は、動画像データIDがD3の動画像データを第2動画像データとして選択する。操作受付部153及び画像再生部154がこのように動作することで、ユーザが、見たい内容のシンクロ動画像データを見ることが可能になる。
[複数の動画像データの同時表示]
以上の説明においては、画像再生部154が、第1動画像データと第2動画像データとを切り替えて表示部12に表示させる場合を例示したが、画像再生部154は、複数の動画像データ(例えば第1動画像データと第2動画像データ)を同時に表示部12に表示させてもよい。この場合、複数の動画像データが表示されている間に複数の音声が再生されてしまうと、ユーザが音声を聞きづらい。
そこで、操作受付部153は、第1動画像データに含まれる第1音声データ、第2動画像データに含まれる第2音声データ、又は第1音声データ及び第2音声データの両方の音声データのうち、どの音声データを再生するかを指定する操作を受け付けてもよい。操作受付部153は、例えば表示部12に表示されている複数の動画像データのうち一つの動画像データにタッチした操作を、どの音声データを再生するかを指定する操作として受け付ける。操作受付部153は、受け付けた操作が示す動画像データを識別するための情報を画像再生部154に通知する。
画像再生部154は、操作受付部153が受け付けた操作により指定された音声データを再生する。画像再生部154は、第1動画像データ及び第2動画像データを表示部12に表示させている状態で第1音声データが選択された場合、第1動画像データ及び第2動画像データを表示部12に表示させながら、第1動画像データに含まれる被写体の音声を再生する。画像再生部154は、第1動画像データ及び第2動画像データを表示部12に表示させている状態で第1音声データ及び第2音声データが選択された場合、第1動画像データに含まれる被写体の音声と、第2動画像データに含まれる被写体の音声とを同時に再生する。
[評価情報の表示]
シンクロして動作する被写体が含まれる動画像データを見るユーザは、シンクロ度合いを評価したり、シンクロ度合いを客観的な数値として確認したりしたいということが想定される。そこで、表示制御部152は、第1動画像データと第2動画像データとの類似度を示す評価値を表示部12に表示させてもよい。類似度は、例えば、被写体の声、動作又は表情の少なくともいずれかの類似度により決定される。表示制御部152は、画像再生部154が第1動画像データ及び第2動画像データを再生している間に、所定の時間ごとに評価値を変化させてもよい。所定の時間は、評価値の算出に要する時間であってもよく、ユーザにより設定された時間であってもよい。
表示制御部152は、例えば、複数の動画像データにおける被写体の輪郭を抽出した複数の動画像データを作成し、作成した複数の動画像データの相関値に基づく値を評価値として表示させる。表示制御部152は、被写体の顔の部分を抽出した複数の動画像データの相関値に基づく評価値を表示させてもよい。表示制御部152は、複数の動画像データに対応する複数の音声データの相関値に基づく評価値を表示させてもよい。
図6は、評価値が表示された画面の一例を示す図である。図6においては、第1動画像データと第2動画像データとが同時に表示された状態で、第2動画像データが表示されている領域に評価値が表示されている。
図6においては、コンピュータが算出した評価値であるAI判定シンクロ率と、ユーザにより判定された類似度に基づく評価値であるユーザ判定シンクロ率とが表示されている。画像表示装置1は、例えば、データ取得部151を介して画像配信装置2からこれらの評価値を取得する。
[画像配信装置2の構成]
図7は、画像配信装置2の構成を示す図である。画像配信装置2は、通信部21と、記憶部22と、制御部23とを有する。制御部23は、評価取得部231と、第1算出部232と、第2算出部233とを有する。
通信部21は、ネットワークNを介して通信部21との間でデータを送受信するための通信インターフェースを含む。通信部21は、例えば、動画像データを画像表示装置1に送信したり、第1算出部232が算出した第1評価値及び第2算出部233が算出した第2評価値を複数の画像表示装置1に送信したりする。
記憶部22は、例えばROM、RAM及びハードディスクを有しており、複数の動画像データを記憶している。また、記憶部22は、制御部23が実行するプログラムを記憶している。
制御部23は、例えばCPUを含んでおり、記憶部22に記憶されたプログラムを実行することにより、評価取得部231、第1算出部232及び第2算出部233として機能する。
評価取得部231は、複数の画像表示装置1から、第2動画像データに対するユーザの評価を取得する。評価取得部231は、例えば、第1動画像データの識別情報及び第2動画像データの識別情報に関連付けて評価を取得する。ユーザの評価は、例えばユーザが感じた類似度の一例であるシンクロ率を示す数値(例えば5段階の数値)により表される。ユーザは、例えば、第2動画像データを視聴している間に、画像表示装置1の画面上で第1動画像データとのシンクロ率の評価結果を入力できる。評価取得部231は、取得した評価の内容を第1算出部232に通知する。
第1算出部232は、数の画像表示装置から評価取得部231が取得した複数の評価に基づいて、第2動画像データの第1評価値を算出する。第1算出部232は、例えば、シンクロ率により表される複数の評価の平均値を算出することにより、ユーザ判定シンクロ率を算出する。
第2算出部233は、第1動画像データと第2動画像データとの類似度に基づく第2評価値を算出する。第2算出部233は、例えばシンクロしている動画像データとして記憶部22に記憶されている第1動画像データと第2動画像データの画像又は音声の相関値を算出することにより、第2評価値を算出する。第2算出部233は、複数の動画像データとシンクロ率とを教師データとして学習したモデルに第1動画像データ及び第2動画像データを入力することにより第2評価値を算出してもよい。第1算出部232及び第2算出部233は、声、動作、表情といった被写体の動作を構成する要素別に第1評価値及び第2評価値を算出してもよい。
このように、画像配信装置2が、第1評価値及び第2評価値を算出し、画像表示装置1が第1評価値及び第2評価値を表示することで、ユーザは、他のユーザが感じている類似度とコンピュータにより算出された客観的な類似度とを比較しながら動画像データを見て楽しむことができる。
[画像表示装置1の処理の流れ]
図8は、画像表示装置1の処理の流れを示すフローチャートである。図8に示すフローチャートは、画像表示装置1を使用するユーザが第1動画像データを検索した時点から開始している。
データ取得部151は、第1動画像データを画像配信装置2から取得し(S11)、画像再生部154の指示により表示制御部152が第1動画像データを表示部12に表示させる(S12)。表示部12が第1動画像データを表示している間、操作受付部153は、第2動画像データを表示するための切替操作が行われたか否かを監視する(S13)。切替操作が行われた場合(S13においてYES)、画像再生部154は、シンクロしている要素の指定があったか否かを判定する(S14)。
画像再生部154は、シンクロしている要素の指定があったと判定した場合(S14においてYES)、例えば図5に示したテーブルを参照することにより、指定された要素が第1動画像データ内の被写体にシンクロしている被写体が含まれる第2動画像データを選択する(S15)。
一方、画像再生部154は、シンクロしている要素の指定がなかったと判定した場合(S14においてNO)、表示制御部152を介して、複数のシンクロ動画像データから第2動画像データを選択するための画面を表示部12に表示させる(S16)。画像再生部154は、ユーザにより選択されたシンクロ動画像データを第2動画像データとして選択する(S17)。画像再生部154は、S15又はS17で選択した第2動画像データを表示部12に表示させる(S18)。
画像再生部154は、第2動画像データを表示部12に表示させている間に、画像配信装置2から評価結果を取得して、図6に示したシンクロ率のような評価結果を表示部12に表示させる(S19)。画像表示装置1は、表示制御部152が終了操作を受け付けるまで(S20においてNOの間)、S12からS19までの動作を繰り返す。
[変形例]
以上の説明においては、動画像データに人が写っている場合を例示したが、動画像データに写っている被写体は人に限らず、建物、街並み、自動車、動植物等の物体であってもよい。例えば第1動画像データにA地点の街並みが含まれている場合、第2動画像データは、A地点の街並みに似たB地点の街並みを含む動画像データである。画像表示装置1のユーザは、このように、任意の動画像データに類似する他の動画像データを検索して、比較しながら楽しむことができる。
[画像表示装置1による効果]
以上説明したように、表示制御部152は、第1動画像データを再生中に、第2動画像データに含まれる第2被写体が第1動画像データに含まれる第1被写体とシンクロする時間帯になったことを示す通知情報を表示部12に表示させる。そして、画像再生部154は、表示制御部152が通知情報を表示部12に表示させた後に、第2動画像データを表示部12に表示させるための操作を受け付ける。画像表示装置1がこのように構成されていることで、第1被写体を真似した第2被写体が含まれる動画像を見ることができるタイミングをユーザが把握して、このような動画像を見逃すことなく楽しむことができるようになる。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されず、その要旨の範囲内で種々の変形及び変更が可能である。例えば、装置の全部又は一部は、任意の単位で機能的又は物理的に分散・統合して構成することができる。また、複数の実施の形態の任意の組み合わせによって生じる新たな実施の形態も、本発明の実施の形態に含まれる。組み合わせによって生じる新たな実施の形態の効果は、もとの実施の形態の効果を併せ持つ。
1 画像表示装置
2 画像配信装置
11 通信部
12 表示部
13 操作部
14 記憶部
15 制御部
21 通信部
22 記憶部
23 制御部
151 データ取得部
152 表示制御部
153 操作受付部
154 画像再生部
231 評価取得部
232 第1算出部
233 第2算出部

Claims (11)

  1. 第1被写体の動作が撮影されて生成された第1動画像データと、前記第1被写体の動作とシンクロして動作する第2被写体が撮影されて生成されたシンクロ動画像データと、を取得するデータ取得部と、
    前記シンクロ動画像データに基づき再生される前記第2被写体の動作を構成する要素を選択する操作を受け付ける操作受付部と、
    複数の前記シンクロ動画像データのうち、前記シンクロ動画像データに基づき再生される前記第2被写体の動作を構成する前記要素であって前記操作により選択された当該要素が前記第1被写体の動作を構成する当該要素にシンクロするシンクロ動画像データを第2動画像データとして再生する画像再生部と、
    を有する画像表示装置。
  2. 前記画像再生部は、前記第1動画像データと前記第2動画像データとを同時に再生させる、
    請求項1に記載の画像表示装置。
  3. 前記操作受付部は、画像配信装置が提供可能な複数の動画像データから前記第1動画像データを選択する操作を受け付け、
    前記データ取得部は、前記操作受付部が前記第1動画像データを選択する操作を受け付けた場合に、前記第1動画像データと、前記第1動画像データに含まれる前記第1被写体とシンクロして動作をする被写体が含まれる一以上の前記シンクロ動画像データとを前記画像配信装置から取得する、
    請求項1又は2に記載の画像表示装置。
  4. 前記画像再生部は、前記第1動画像データを再生し、
    前記操作受付部は、前記第1動画像データが再生されている間に、前記第1動画像データにシンクロしている複数の前記シンクロ動画像データから再生する一以上のシンクロ動画像データを選択する操作を受け付け、
    前記画像再生部は、前記操作受付部が受け付けた操作により選択された前記一以上のシンクロ動画像データを前記第2動画像データとして再生させる、
    請求項1からのいずれか一項に記載の画像表示装置。
  5. 前記操作受付部は、前記第1動画像データが再生されている間に、前記複数のシンクロ動画像データのうち、前記一以上のシンクロ動画像データに対応する向きのスワイプ操作を受け付け、
    前記画像再生部は、再生させる動画像データを、前記第1動画像データから、前記操作受付部が受け付けた前記スワイプ操作の向きに対応する前記一以上のシンクロ動画像データである前記第2動画像データに切り替える、
    請求項に記載の画像表示装置。
  6. 前記操作受付部は、前記第1動画像データに含まれる第1音声データ、前記第2動画像データに含まれる第2音声データ、又は前記第1音声データ及び前記第2音声データの両方の音声データのうち、どの音声データを再生するかを指定する操作を受け付け、
    前記画像再生部は、前記操作受付部が受け付けた操作により指定された音声データを再生する、
    請求項1からのいずれか一項に記載の画像表示装置。
  7. 前記第1動画像データと前記第2動画像データとの類似度を示す評価値を表示部に表示させる表示制御部をさらに備える、
    請求項1からのいずれか一項に記載の画像表示装置。
  8. 前記表示制御部は、前記画像再生部が前記第1動画像データ及び前記第2動画像データを再生している間に、所定の時間ごとに前記評価値を変化させる、
    請求項に記載の画像表示装置。
  9. コンピュータに、
    第1被写体の動作が撮影されて生成された第1動画像データとシンクロして動作する第2被写体が撮影されて生成されたシンクロ動画像データと、を取得するステップと、
    前記シンクロ動画像データに基づき再生される第2被写体の動作を構成する要素を選択する操作を受け付けるステップと、
    複数の前記シンクロ動画像データのうち、前記シンクロ動画像データに基づき再生される前記第2被写体の動作を構成する前記要素であって前記操作により選択された当該要素が前記第1被写体の動作を構成する当該要素にシンクロするシンクロ動画像データを第2動画像データとして再生するステップと、
    を実行させるためのプログラム。
  10. コンピュータに、
    第1被写体の動作が撮影されて生成された第1動画像データシンクロして動作する第2被写体が撮影されて生成されたシンクロ動画像データと、を取得するステップと、
    前記シンクロ動画像データに基づき再生される第2被写体の動作を構成する要素を選択する操作を受け付けるステップと、
    複数の前記シンクロ動画像データのうち、前記シンクロ動画像データに基づき再生される前記第2被写体の動作を構成する前記要素であって前記操作により選択された当該要素が前記第1被写体の動作を構成する当該要素にシンクロするシンクロ動画像データを第2動画像データとして再生するステップと、
    を実行させるためのプログラム。
  11. 請求項又はに記載の複数の前記画像表示装置と、前記画像表示装置に前記第1動画像データ及び前記第2動画像データを提供する画像配信装置と、を備え、
    前記画像配信装置は、
    前記複数の画像表示装置から、前記第2動画像データに対する評価を取得する評価取得部と、
    前記複数の画像表示装置から前記評価取得部が取得した複数の前記評価に基づいて、前記第2動画像データの第1評価値を算出する第1算出部と、
    前記第1動画像データと前記第2動画像データとの類似度に基づく第2評価値を算出する第2算出部と、
    前記第1評価値及び前記第2評価値を前記複数の画像表示装置に送信する通信部と、
    を有し、
    前記画像表示装置の前記表示制御部は、前記第1評価値及び前記第2評価値を前記表示部に表示する、
    画像表示システム。
JP2021012958A 2020-09-15 2021-01-29 画像表示装置、プログラム及び画像表示システム Active JP6959462B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021012958A JP6959462B1 (ja) 2020-09-15 2021-01-29 画像表示装置、プログラム及び画像表示システム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020154707A JP6831942B1 (ja) 2020-09-15 2020-09-15 画像表示装置、プログラム及び画像表示システム
JP2021012958A JP6959462B1 (ja) 2020-09-15 2021-01-29 画像表示装置、プログラム及び画像表示システム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2020154707A Division JP6831942B1 (ja) 2020-09-15 2020-09-15 画像表示装置、プログラム及び画像表示システム

Publications (2)

Publication Number Publication Date
JP6959462B1 true JP6959462B1 (ja) 2021-11-02
JP2022048957A JP2022048957A (ja) 2022-03-28

Family

ID=74562433

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2020154707A Active JP6831942B1 (ja) 2020-09-15 2020-09-15 画像表示装置、プログラム及び画像表示システム
JP2021012958A Active JP6959462B1 (ja) 2020-09-15 2021-01-29 画像表示装置、プログラム及び画像表示システム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2020154707A Active JP6831942B1 (ja) 2020-09-15 2020-09-15 画像表示装置、プログラム及び画像表示システム

Country Status (1)

Country Link
JP (2) JP6831942B1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006260082A (ja) * 2005-03-16 2006-09-28 Nippon Telegr & Teleph Corp <Ntt> 介護予防支援システム
JP2013206273A (ja) * 2012-03-29 2013-10-07 Sony Corp 情報処理装置、情報処理方法、および情報処理システム
JP2014217627A (ja) * 2013-05-09 2014-11-20 株式会社振付著作権協会 身体動作評価装置、カラオケシステム、及びプログラム
EP3226229A1 (en) * 2016-03-31 2017-10-04 MEDIACLINICS S.r.l. Motion evaluation method and system in a sport context
WO2019188076A1 (ja) * 2018-03-30 2019-10-03 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006260082A (ja) * 2005-03-16 2006-09-28 Nippon Telegr & Teleph Corp <Ntt> 介護予防支援システム
JP2013206273A (ja) * 2012-03-29 2013-10-07 Sony Corp 情報処理装置、情報処理方法、および情報処理システム
JP2014217627A (ja) * 2013-05-09 2014-11-20 株式会社振付著作権協会 身体動作評価装置、カラオケシステム、及びプログラム
EP3226229A1 (en) * 2016-03-31 2017-10-04 MEDIACLINICS S.r.l. Motion evaluation method and system in a sport context
WO2019188076A1 (ja) * 2018-03-30 2019-10-03 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム

Also Published As

Publication number Publication date
JP2022048957A (ja) 2022-03-28
JP2022048724A (ja) 2022-03-28
JP6831942B1 (ja) 2021-02-17

Similar Documents

Publication Publication Date Title
US20200286185A1 (en) Parallel echo version of media content for comment creation and delivery
JP2016119600A (ja) 編集装置及び編集方法
JP2004007539A (ja) ビジュアル情報の記録/再生方法、その装置及び通信システム
JP5808788B2 (ja) 会議支援システム、サーバ、端末装置、会議支援方法、および会議支援プログラム
WO2006011399A1 (ja) 情報処理装置および方法、記録媒体、並びにプログラム
JP2009169795A (ja) 情報処理装置および方法、並びにプログラム
JP6959462B1 (ja) 画像表示装置、プログラム及び画像表示システム
JP2012178028A (ja) アルバム作成装置、アルバム作成装置の制御方法、及びプログラム
KR102638162B1 (ko) 영상 배신 장치, 영상 배신 시스템, 영상 배신 방법 및 프로그램
JP2005260513A (ja) コンテンツ処理システム及びコンテンツ処理方法、並びにコンピュータ・プログラム
JP6110731B2 (ja) ジェスチャーによるコマンド入力識別システム
JP6867541B1 (ja) 画像表示装置及びプログラム
JP6116213B2 (ja) 合成動画コンテンツの生成システム
JP5794934B2 (ja) コラボレーション歌唱の録画システム
JP6590433B2 (ja) 動画再生管理方法、システムおよびプログラム
JP2009017017A (ja) マルチメディア再生機器
JP7118379B1 (ja) 映像編集装置、映像編集方法、及びコンピュータプログラム
JP5939223B2 (ja) 運動支援装置、および運動支援プログラム
JP7062328B1 (ja) コンテンツ配信サーバ
JP5064302B2 (ja) 画像表示装置
WO2022209648A1 (ja) 情報処理装置、情報処理方法および非一時的なコンピュータ可読記憶媒体
JP2010074437A (ja) アノテーション付与方法及び装置及びプログラム及びコンピュータ読み取り可能な記録媒体
JP2024001739A (ja) 情報処理システム、情報処理装置、情報処理方法およびプログラム
JP2005260512A (ja) コンテンツ処理システム及びコンテンツ処理方法、並びにコンピュータ・プログラム
JP5928257B2 (ja) 情報処理装置、情報処理方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210129

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210129

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20210324

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210427

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210624

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210921

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211007

R150 Certificate of patent or registration of utility model

Ref document number: 6959462

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150