JP6026050B1 - 表示制御システム、表示制御装置、表示制御方法、及びプログラム - Google Patents

表示制御システム、表示制御装置、表示制御方法、及びプログラム Download PDF

Info

Publication number
JP6026050B1
JP6026050B1 JP2016506919A JP2016506919A JP6026050B1 JP 6026050 B1 JP6026050 B1 JP 6026050B1 JP 2016506919 A JP2016506919 A JP 2016506919A JP 2016506919 A JP2016506919 A JP 2016506919A JP 6026050 B1 JP6026050 B1 JP 6026050B1
Authority
JP
Japan
Prior art keywords
image data
information
shooting
trajectory
display control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016506919A
Other languages
English (en)
Other versions
JPWO2016157385A1 (ja
Inventor
アディヤン ムジビヤ
アディヤン ムジビヤ
聖悟 山下
聖悟 山下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Rakuten Group Inc
Original Assignee
Rakuten Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Rakuten Inc filed Critical Rakuten Inc
Application granted granted Critical
Publication of JP6026050B1 publication Critical patent/JP6026050B1/ja
Publication of JPWO2016157385A1 publication Critical patent/JPWO2016157385A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/221Image signal generators using stereoscopic image cameras using a single 2D image sensor using the relative movement between cameras and objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/08Auctions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/178Metadata, e.g. disparity information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/349Multi-view displays for displaying three or more geometrical viewpoints without viewer tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Abstract

軌道に沿って移動する視点から被写体を見た画像を表示させる場合の撮影の手間を軽減する。表示制御システムの画像取得手段(50)は、撮影方向が互いに異なる複数の撮影位置から被写体を撮影することで生成された複数の画像データを取得する。情報取得手段(52)は、複数の画像データに基づいて、3次元空間における各画像データの撮影位置に関する撮影情報を取得する。画像選択手段(56)は、各画像データの撮影情報と、3次元空間内で視線方向を変えながら移動する視点の軌道に関する軌道情報と、に基づいて、複数の画像データのうちの複数を選択する。表示制御手段(57)は、画像選択手段(56)により選択された複数の画像データを、軌道に応じた順番で表示手段に表示させる。

Description

本発明は、表示制御システム、表示制御装置、表示制御方法、及びプログラムに関する。
従来、種々の位置から被写体を撮影することによって、被写体の状態を正確に伝えるための技術が知られている。例えば、特許文献1には、一定の速度で回転するターンテーブル上に配置された被写体をカメラで連続撮影し、当該カメラで撮影した動画を表示部に表示させる技術が記載されている。
特開2012−124745号公報
しかしながら、従来の技術では、カメラで被写体を撮影した軌道の通りにしか画像を表示させることができないので、実際に被写体を撮影するカメラの軌道と、表示部における視点の軌道と、が同じである必要があった。このため、種々の軌道に沿って移動する視点から被写体を見た画像を表示部に表示させようとすると、その軌道の数だけカメラを移動させて被写体を撮影する必要があり、非常に手間がかかっていた。
本発明は上記課題に鑑みてなされたものであって、その目的は、軌道に沿って移動する視点から被写体を見た画像を表示させる場合の撮影の手間を軽減することが可能な表示制御システム、表示制御装置、表示制御方法、及びプログラムを提供することである。
上記課題を解決するために、本発明に係る表示制御システムは、撮影方向が互いに異なる複数の撮影位置から被写体を撮影することで生成された複数の画像データを取得する画像取得手段と、前記複数の画像データに基づいて、3次元空間における各画像データの撮影位置に関する撮影情報を取得する情報取得手段と、各画像データの前記撮影情報と、前記3次元空間内で視線方向を変えながら移動する視点の軌道に関する軌道情報と、に基づいて、前記複数の画像データのうちの複数を選択する画像選択手段と、前記画像選択手段により選択された複数の画像データを、前記軌道に応じた順番で表示手段に表示させる表示制御手段と、を含むことを特徴とする。
本発明に係る表示制御装置は、撮影方向が互いに異なる複数の撮影位置から被写体を撮影することで生成された複数の画像データの各々と、3次元空間における当該画像データの撮影位置に関する撮影情報と、を関連付けて記憶する記憶手段の記憶内容を取得する情報取得手段と、各画像データの前記撮影情報と、前記3次元空間内で視線方向を変えながら移動する視点の軌道に関する軌道情報と、に基づいて、前記複数の画像データのうちの複数を選択する画像選択手段と、前記画像選択手段により選択された複数の画像データを、前記軌道に応じた順番で表示手段に表示させる表示制御手段と、を含むことを特徴とする。
本発明に係る表示制御方法は、撮影方向が互いに異なる複数の撮影位置から被写体を撮影することで生成された複数の画像データを取得する画像取得ステップと、前記複数の画像データに基づいて、3次元空間における各画像データの撮影位置に関する撮影情報を取得する情報取得ステップと、各画像データの前記撮影情報と、前記3次元空間内で視線方向を変えながら移動する視点の軌道に関する軌道情報と、に基づいて、前記複数の画像データのうちの複数を選択する画像選択ステップと、前記画像選択ステップにおいて選択された複数の画像データを、前記軌道に応じた順番で表示手段に表示させる表示制御ステップと、を含むことを特徴とする。
本発明に係るプログラムは、撮影方向が互いに異なる複数の撮影位置から被写体を撮影することで生成された複数の画像データの各々と、3次元空間における当該画像データの撮影位置に関する撮影情報と、を関連付けて記憶する記憶手段の記憶内容を取得する情報取得手段、各画像データの前記撮影情報と、前記3次元空間内で視線方向を変えながら移動する視点の軌道に関する軌道情報と、に基づいて、前記複数の画像データのうちの複数を選択する画像選択手段、前記画像選択手段により選択された複数の画像データを、前記軌道に応じた順番で表示手段に表示させる表示制御手段、としてコンピュータを機能させる。
本発明に係る情報記憶媒体は、上記記載のプログラムが記憶されたコンピュータ読み取り可能な情報記憶媒体である。
また、本発明の一態様によれば、前記表示制御システムは、ユーザにより指定された3次元座標に基づいて、前記軌道情報を取得する軌道取得手段を更に含む、ことを特徴とする。
また、本発明の一態様によれば、前記表示制御システムは、前記複数の画像データの少なくとも1つに基づいて、前記被写体に関する複数の特徴点の3次元座標を検出する特徴点検出手段を更に含み、前記軌道取得手段は、前記複数の特徴点のうち前記ユーザにより指定された特徴点の3次元座標に基づいて、前記軌道情報を取得する、ことを特徴とする。
また、本発明の一態様によれば、前記軌道取得手段は、前記ユーザにより指定された特徴点の3次元座標を注視するように移動する前記視点の前記軌道情報を取得する、ことを特徴とする。
また、本発明の一態様によれば、前記表示制御システムは、前記複数の画像データに基づいて、前記ユーザにより指定された特徴点が各画像データに撮影されているか否かを判定する撮影判定手段を更に含み、前記画像選択手段は、各画像データの前記撮影情報と、前記軌道情報と、前記撮影判定手段の判定結果と、に基づいて、前記複数の画像データのうちの複数を選択する、ことを特徴とする。
また、本発明の一態様によれば、各画像データの前記撮影情報は、当該画像データの撮影位置情報を含み、前記軌道情報は、前記視点の軌道位置情報を含み、前記画像選択手段は、各画像データの前記撮影位置情報が示す位置と、前記軌道位置情報が示す位置と、の距離に基づいて、前記複数の画像データのうちの複数を選択する、ことを特徴とする。
また、本発明の一態様によれば、各画像データの前記撮影情報は、当該画像データの撮影方向情報を含み、前記軌道情報は、前記軌道からの前記視点の視線方向情報を含み、前記画像選択手段は、各画像データの前記撮影方向情報が示す方向と、前記視線方向情報が示す方向と、のずれに基づいて、前記複数の画像データのうちの複数を選択する、ことを特徴とする。
また、本発明の一態様によれば、前記画像選択手段は、各画像データの前記距離と前記ずれとに基づいて、前記距離よりも前記ずれに重み付けをした評価値を計算する手段を含み、各画像データの前記評価値に基づいて、前記複数の画像データのうちの複数を選択する。
また、本発明の一態様によれば、各画像データの前記撮影情報は、当該画像データの撮影位置情報を含み、前記画像選択手段は、各画像データの前記撮影位置情報に基づいて、当該画像選択手段が選択する各画像データの前記撮影位置情報が示す位置の距離が所定範囲となるように、前記複数の画像データのうちの複数を選択する、ことを特徴とする。
また、本発明の一態様によれば、前記表示制御手段は、前記表示手段に表示される前記被写体の表示位置及び表示サイズの少なくとも一方のずれが基準以内になるように、前記画像選択手段により選択された各画像データの表示位置及び表示サイズの少なくとも一方を決定する、ことを特徴とする。
本発明によれば、軌道に沿って移動する視点から被写体を見た画像を表示させる場合の撮影の手間を軽減することが可能になる。
本実施形態における表示制御システムの全体構成を示す図である。 出品者が商品を撮影する様子を示す図である。 商品画面の一例を示す図である。 商品画像が連続表示される様子を示す図である。 表示制御システムで実現される機能の一例を示す機能ブロック図である。 3次元空間を示す図である。 特徴点の2次元座標の比較図である。 3次元空間における特徴点と撮影情報の関係を示す図である。 撮影情報データベースのデータ格納例を示す図である。 特徴点データベースのデータ格納例を示す図である。 軌道情報の計算方法の説明図である。 各画像データの撮影位置及び撮影方向と軌道との関係を示す図である。 表示制御システムにおいて実行される処理の一例を示すフロー図である。 軌道と撮影位置との関係を示す図である。
[1.表示制御システムの全体構成]
以下、本発明の実施形態の例について図面に基づき詳細に説明する。本実施形態では、ネットオークションにおいて、出品者が出品する商品の画像データを入札者が確認する場面を例に挙げて説明する。
図1は、本実施形態における表示制御システムの全体構成を示す図である。図1に示すように、表示制御システム1は、表示制御サーバ10(表示制御装置)、出品者端末20、及び入札者端末30を含む。表示制御サーバ10、出品者端末20、及び入札者端末30の各々は、ネットワーク2を介してデータ送受信可能に接続される。
表示制御サーバ10は、サーバコンピュータである。表示制御サーバ10は、制御部11、記憶部12、及び通信部13を含む。制御部11は、例えば、一又は複数のマイクロプロセッサを含む。制御部11は、記憶部12に記憶されたプログラムやデータに従って処理を実行する。記憶部12は、主記憶部及び補助記憶部を含む。例えば、主記憶部はRAMであり、補助記憶部は、ハードディスク又はソリッドステートドライブ等である。通信部13は、ネットワークカード等の通信インタフェースである。通信部13は、ネットワーク2を介してデータ通信を行う。
出品者端末20は、出品者が操作するコンピュータであり、例えば、携帯電話機(スマートフォンを含む)、携帯情報端末(タブレット型コンピュータを含む)、又はパーソナルコンピュータ等である。出品者端末20は、制御部21、記憶部22、通信部23、操作部24、及び表示部25を含む。制御部21、記憶部22、及び通信部23のハードウェア構成は、それぞれ制御部11、記憶部12、及び通信部13と同様であるので説明を省略する。
操作部24は、出品者が操作を行うための操作部材であり、例えば、マウスやタッチパネル等のポインティングデバイスである。操作部24は、出品者による操作内容を制御部21に伝達する。表示部25は、例えば、液晶表示部又は有機EL表示部等である。表示部25は、制御部21の指示に従って画面を表示する。
出品者端末20は、カメラ26と通信部23等を介して接続される。カメラ26は、被写体を撮影して画像データを生成する撮像手段であり、例えば、デジタルカメラやカメラ付き携帯端末(スマートフォンやタブレット型端末)等である。カメラ26は、画像データを出品者端末20に入力する。なお、カメラ26は、出品者端末20に含まれていてもよい。
入札者端末30は、入札者が操作するコンピュータである。入札者端末30は、制御部31、記憶部32、通信部33、操作部34、及び表示部35を含む。入札者端末30は、出品者端末20と同様のハードウェア構成であってよく、制御部31、記憶部32、通信部33、操作部34、及び表示部35は、それぞれ、制御部21、記憶部22、通信部23、操作部24、及び表示部25と同様であってよい。
なお、記憶部12、記憶部22、又は記憶部32に記憶されるものとして説明するプログラム及びデータは、ネットワーク2を介して記憶部12、記憶部22、又は記憶部32に供給されるようにしてもよい。また、表示制御サーバ10、出品者端末20、及び入札者端末30のハードウェア構成は、上記の例に限られず、種々のコンピュータのハードウェアを適用可能である。例えば、表示制御サーバ10、出品者端末20、及び入札者端末30の各々は、コンピュータ読み取り可能な情報記憶媒体を読み取る読取部(例えば、光ディスクドライブやメモリカードスロット)を含んでもよい。この場合、情報記憶媒体に記憶されたプログラムやデータが読取部を介して記憶部12、記憶部22、又は記憶部32に供給されるようにしてもよい。
[2.表示制御システムで実行される処理の概要]
次に、表示制御システム1が実行する処理の概要を説明する。本実施形態では、出品者は、ネットオークションに商品を出品するにあたり、商品の状態を入札者に伝えるために、カメラ26で商品を撮影する。
図2は、出品者が商品を撮影する様子を示す図である。図2に示すように、出品者は、商品とカメラ26との位置関係を変えつつ、種々の撮影位置からカメラ26で商品を撮影する。別の言い方をすれば、出品者は、カメラ26の撮影方向を変えながら商品を撮影する。撮影方向は、カメラ26の位置から注視点に向けた方向であり、カメラ26のレンズが向いている方向ともいえる。
出品者は、画像データを1つずつ生成するための静止画モードで商品を撮影してもよいし、複数の画像を含む動画データを生成するための動画モードで商品を撮影してもよい。出品者は、商品説明等の出品関連情報とともに画像データをアップロードすると、ネットオークションで商品を出品することができる。入札者は、商品に入札するための商品画面を入札者端末30の表示部35に表示させる。
図3は、商品画面の一例を示す図である。図3に示すように、商品画面40には、商品画像41、サムネイル画像42A〜42C(以降、これらをまとめて単にサムネイル画像42ともいう。)、及び商品の現在価格等の入札関連情報43が表示される。商品画像41は、出品者がアップロードした画像データの何れかである。サムネイル画像42は、商品画像41の画像データを縮小したものである。
入札者は、サムネイル画像42を選択することで、商品画像41に表示される画像データを切り替えることができる。ここでは、サムネイル画像42Aが示す画像データが、商品画像41に表示されている。なお、出品者がアップロードした画像データの全てについてサムネイル画像42を生成して商品画面40に表示させるようにしてもよいし、一部の画像データについてのみサムネイル画像42を生成して商品画面40に表示させるようにしてもよい。
入札者は、商品画面40を見て商品の状態を確認することになるが、商品画像41によっては、光の加減や撮影位置の関係で入札者が見たいと思う部分を十分に確認できないことがある。このため、表示制御システム1では、商品画像41の中で入札者が特に確認したい部分をカーソル44でクリックすると、その部分を注視しながらカメラ26が移動するように商品画像41を連続表示させるようになっている。
図4は、商品画像41が連続表示される様子を示す図である。ここでは、商品の一例として時計が出品されているので、図4では、入札者が商品画像41内の時計の文字盤をクリックした場合の様子を示している。図4に示すように、例えば、カメラ26が文字盤を注視したまま正面左から正面右に移動するように、商品画像41A〜41Eが連続表示される。これにより、入札者は、時計の文字盤の状態を種々の方向からチェックすることができるようになっている。以降、この処理の詳細について説明する。
[3.表示制御システムにおいて実現される機能]
図5は、表示制御システム1で実現される機能の一例を示す機能ブロック図である。図5に示すように、表示制御システム1では、画像取得部50、特徴点検出部51、情報取得部52、データ記憶部53、軌道取得部54、撮影判定部55、画像選択部56、及び表示制御部57が実現される。本実施形態では、これら各機能が表示制御サーバ10で実現される場合を説明する。画像取得部50は、制御部11及び通信部13を主として実現され、データ記憶部53は、記憶部12を主として実現され、他の各機能は、制御部11を主として実現される。
なお、本実施形態では、画像取得部50、特徴点検出部51、情報取得部52、データ記憶部53、軌道取得部54、撮影判定部55、画像選択部56、及び表示制御部57は、それぞれ、本発明に係る画像取得手段、特徴点検出手段、情報取得手段、記憶手段、軌道取得手段、撮影判定手段、画像選択手段、及び表示制御手段に相当する。
[3−1.画像取得部]
画像取得部50は、撮影方向が互いに異なる複数の撮影位置から商品を撮影することで生成された複数の画像データを取得する。図2を参照して説明したように、複数の撮影位置には、商品に対する撮影方向が異なるものが含まれている。本実施形態では、カメラ26が各画像データを生成して出品者端末20に入力するので、画像取得部50は、出品者端末20が送信した複数の画像データを、ネットワーク2を介して受信することになる。画像取得部50は、画像データを一意に識別する画像データIDを各画像データに付与してデータ記憶部53に記憶させる。
なお、カメラ26が動画モードで商品を撮影した場合には、画像取得部50は、動画データに基づいて、複数の画像データを取得するようにしてもよい。この場合、画像取得部50は、動画データ中のある1つのフレームを、1つの画像データとして抜き出すことになる。この場合、所定フレーム間隔ごとに画像データを抜き出してもよいし、全てのフレームについて画像データを抜き出してもよい。
[3−2.特徴点検出部]
特徴点検出部51は、複数の画像データに基づいて、商品に関する複数の特徴点(本実施形態では、2次元座標と3次元座標の両方)を検出する。特徴点は、被写体の表面のうちコンピュータで特定可能な場所であり、例えば、被写体の輪郭や角である。特徴点は、関心点又は頂点とも呼ばれるものである。ここでは、特徴点検出部51は、画像取得部50が取得した画像データごとに、当該画像データに含まれる特徴点を検出する。
例えば、特徴点検出部51は、コーナー検出法を用いて特徴点を抽出する。コーナー検出法としては、Moravecのコーナー検出やHarrisのコーナー検出等が用いられるようにしてよい。例えば、特徴点検出部51は、画像データの各画素を注目画素とし、注目画素と周囲画素との画素値の差から被写体の輪郭を検出し、輪郭が交差する位置を特徴点として検出する。
本実施形態では、特徴点検出部51は、各画像データから検出した特徴点のラベリングを行う。例えば、特徴点検出部51は、各画像データの特徴点どうしをマッチングして、各特徴点が新たに検出されたものなのか、これまでに検出された特徴点と同じなのかを特定する。特徴点のマッチングは、特徴点の画素値や他の特徴点との位置関係に基づいて行われるようにすればよい。特徴点検出部51は、画像データから新たな特徴点を検出した場合には、その特徴点を識別する特徴点IDを付与する。解析部は、これまでに検出した特徴点と同じ特徴点を検出した場合には、特徴点IDは付与しない。
ここでは、特徴点検出部51は、画像データごとに、当該画像データから検出した特徴点の特徴点IDと、当該特徴点の画像内での位置(スクリーン座標系での2次元座標)と、をデータ記憶部53に記憶させるものとする。各特徴点の2次元座標は、後述する情報取得部52が撮影情報を取得するために用いられる。また、詳細は後述するが、特徴点検出部51は、各特徴点の3次元座標も計算してデータ記憶部53に記憶させる。
なお、画像データから特徴点を検出する方法自体は、公知の種々の特徴点検出方法を適用可能である。例えば、特徴点検出部51は、ブロブ解析を利用して画像データ内の同一色の領域を特定し、その領域の中心を特徴点とするようにしてもよいし、所定の画素値の画素(即ち、ある特定の色の画素)を特徴点として検出するようにしてもよい。他にも例えば、特徴点検出部51は、被写体の輪郭全体を特徴点として検出するようにしてもよい。
[3−3.情報取得部]
情報取得部52は、複数の画像データに基づいて、3次元空間における各画像データの撮影位置に関する撮影情報を取得する。撮影情報は、画像データの撮影位置情報及び撮影方向情報の少なくとも一方を含む。撮影位置情報は、画像データの撮影位置を示す3次元座標である。撮影方向情報は、画像データの撮影方向を示すベクトル情報又は注視点を示す3次元座標である。ここでは、撮影方向情報がベクトル情報である場合を説明する。
情報取得部52は、各画像データを画像解析して、画像データごとに撮影情報を取得する。ここでは、撮影情報を取得する方法の一例として、特徴点の位置関係を利用する方法を説明する。
例えば、出品者は、基準撮影位置から基準撮影方向にカメラ26を向けて商品を撮影するものとする。以降、この撮影で得られた画像データを、基準画像データという。例えば、基準画像データは、商品の正面方向に所定距離だけ離れた位置から商品を撮影したものである。基準撮影位置や基準撮影方向は、予め定められたものであればよい。情報取得部52は、まず、3次元空間における基準撮影位置及び基準撮影方向を取得する。
図6は、3次元空間を示す図である。図6に示すように、3次元空間には、互いに直行する3軸(X軸、Y軸、Z軸)が設定される。情報取得部52は、原点Oから所定方向(ここでは、Z軸正方向)に所定距離だけ離れた撮影位置Pを、基準撮影位置として取得する。そして、情報取得部52は、Z軸の負方向を示す撮影方向Vを、基準撮影方向として取得する。
情報取得部52は、各画像データの撮影情報を、当該画像データの各特徴点の2次元座標と、基準画像データの各特徴点の2次元座標と、の位置関係に基づいて計算する。例えば、情報取得部52は、各画像データの撮影位置P及び撮影方向V(Nは自然数である。)を、各特徴点の2次元座標のずれ具合から計算する。
図7は、特徴点の2次元座標の比較図である。図7では、基準画像データを「DT」とし、撮影情報を取得する画像データを「DT」とし、それぞれの特徴点Q(Kは整数。図7では、K=0〜8である。)とする。情報取得部52は、基準画像データDTの各特徴点Qの2次元座標と、画像データDTの各特徴点Qの2次元座標と、を結ぶベクトルを取得して所定の行列演算をすることによって、撮影位置P及びPのずれ具合を示すベクトルΔVと、撮影方向V及びVのずれ具合を示すベクトルΔVと、を計算する。
図6に戻り、情報取得部52は、撮影位置PからベクトルΔVだけずらした位置を撮影位置Pとし、基準撮影方向VをベクトルΔVだけずらした方向を撮影方向Vとする。情報取得部52は、同様の計算を画像データごとに行って撮影情報を計算し、データ記憶部53に記憶させる。
情報取得部52により撮影情報が取得されると、特徴点検出部51は、複数の画像データの少なくとも1つに基づいて、商品に関する複数の特徴点Qの3次元座標を検出する。例えば、特徴点検出部51は、基準画像データDTの特徴点Qの2次元座標を、撮影位置P及び撮影方向Vに基づいて座標変換することによって、特徴点Qの3次元座標を計算する。特徴点検出部51が計算した各特徴点の3次元座標は、データ記憶部53に記憶される。
図8は、3次元空間における特徴点と撮影情報の関係を示す図である。例えば、基準画像データを含めて16枚の画像データがアップロードされた場合、図8に示すように、情報取得部52により、各画像データの撮影位置P〜P15及び撮影方向V〜V15が取得され、特徴点検出部51により、特徴点Q〜Qが検出される。撮影位置P〜P15及び撮影方向V〜V15と特徴点Q〜Qとの位置関係は、入札者が商品を撮影したときのカメラ26の撮影位置及び撮影方向と商品との位置関係に対応していることになる。
なお、撮影情報を取得する方法自体は、公知の種々の手法を適用可能である。例えば、基準画像データを用いなくても、各画像データ同士を比較することによって撮影情報を取得するようにしてもよい。他にも例えば、被写体の基準形状を示す画像データを予め表示制御サーバ10側で用意しておき、当該形状との大きさ及び向きのずれを検出することによって撮影情報を推定するようにしてもよい。
[3−4.データ記憶部]
データ記憶部53は、商品画面40を表示させるために必要な各種データを記憶する。例えば、データ記憶部53は、画像取得部50が取得した各画像データを画像データIDに関連付けて記憶する。また、データ記憶部53は、情報取得部52が取得した撮影情報を格納する撮影情報データベースと、特徴点検出部51が計算した特徴点Qの3次元座標を格納する特徴点データベースと、を記憶する。
図9は、撮影情報データベースのデータ格納例を示す図である。図9に示すように、撮影情報データベースには、画像データID、撮影情報(撮影位置P及び撮影方向V)、及び特徴点IDが関連付けられて格納される。ここでの特徴点IDは、全特徴点のうち、画像データIDの画像データから検出されたものを示す。例えば、画像データIDが「0」の基準画像データは、特徴点Q〜Qの全てが検出されたが、画像データIDが「2」の画像データは、特徴点Qは、光の反射等の関係により検出されていない。なお、図9では省略しているが、特徴点IDに関連付けて、画像データにおける特徴点の2次元座標を格納してもよい。
図10は、特徴点データベースのデータ格納例を示す図である。図10に示すように、特徴点データベースには、特徴点ID及び特徴点Qの3次元座標が関連付けられて格納される。なお、本実施形態では、特徴点Qの3次元座標は、各画像データで共通なので特徴点データベースに格納し、特徴点Qの2次元座標は、画像データごとに異なるので撮影情報データベースに格納するようにしている。
なお、データ記憶部53は、他のデータを記憶していてもよい。例えば、データ記憶部53は、画像データのサムネイル画像のデータや出品関連情報や入札関連情報を記憶しているようにしてもよい。また、情報取得部52は、データ記憶部53の各種記憶内容を取得可能であってよい。
[3−5.軌道取得部]
軌道取得部54は、入札者の操作及び軌道計算アルゴリズムの少なくとも一方に基づいて、3次元空間内で視線方向を変えながら移動する視点の軌道に関する軌道情報を取得する。軌道計算アルゴリズムは、プログラムに記述されており、軌道を計算するための数式を含んでいるものとする。入札者の操作のみで軌道が決まってもよいし、軌道計算アルゴリズムのみで軌道が決まってもよいが、本実施形態では、これらの両方に基づいて軌道が決まる場合を説明する。
3次元空間における視点とは、商品画面40における視点(即ち、ビューワ上での視点)であり、3次元空間における仮想カメラともいえる。視点の軌道とは、視点の位置や視線方向の変化である。視点の軌道は、始点と終点が存在する。始点と終点は、異なる位置であってもよいし、同じ位置であってもよい。視点の軌道は、始点から終点に向けて移動する経路ともいえる。
軌道情報は、視点の軌道位置情報及び軌道からの視点の視線方向情報の少なくとも一方を含む。本実施形態では、軌道情報は、軌道位置情報及び視線方向情報の両方を含む場合を説明するが、何れか片方のみを含んでいてもよい。
軌道位置情報は、3次元空間における視点の位置変化を示す。例えば、軌道位置情報は、軌道上の各位置の3次元座標を含んでいてもよいし、軌道を示す数式を含んでいてもよい。視線方向情報は、3次元空間における視線方向の変化を示す。例えば、視線方向情報は、軌道上の各位置からの視線方向を示すベクトルを含んでいてもよいし、各位置での注視点を示す3次元座標を含んでいてもよい。
本実施形態では、軌道取得部54は、入札者により指定された3次元座標に基づいて、軌道情報を取得する。例えば、軌道取得部54は、複数の特徴点Qのうち入札者により指定された特徴点Qの3次元座標に基づいて、軌道情報を取得する。入札者は、商品画面40の商品画像41内の位置を指定することによって、特徴点Qを指定する。
ここでは、画像データIDが「1」の画像データが商品画像41に表示されており、入札者が、商品画像41内の文字盤付近を指定した場合を例に挙げて説明する。軌道取得部54は、入札者が指定した2次元座標を取得し、その付近の特徴点Qを特定する。ここでは、軌道取得部54は、入札者が時計の文字盤上の特徴点Qを指定したものとして特定する。そして、軌道取得部54は、画像データの撮影情報と、当該特定した特徴点Qと、に基づいて軌道情報を計算する。
図11は、軌道情報の計算方法の説明図である。以降説明する計算方法は、軌道計算アルゴリズムに定められている。軌道取得部54は、まず、画像データIDが「1」の画像データの撮影位置P及び特徴点Qを結ぶ線分Lと直行する回転軸Lを計算する。図11に示すように、回転軸Lは、特徴点Qを通る。そして、軌道取得部54は、回転軸Lを基準にして、撮影位置Pを所定角度θだけ左右(撮影位置Pから特徴点Qを見たときの水平方向)に回転させた場合に撮影位置Pが通る軌道Tを計算する。
なお、線分Lに直行し、かつ、特徴点Qを通る直線は複数存在するが、ここでは、これら複数の直線のうちの何れかを回転軸Lとすればよい。例えば、軌道取得部54は、入札者が指定した3次元空間内の方向に基づいて、回転軸Lを決定するようにしてもよい。例えば、入札者は、操作部34を用いて、撮影位置Pが回転する方向を指定する。そして、軌道取得部54は、入札者が指定した方向と直行する回転軸Lを特定する。例えば、入札者が撮影位置Pから特徴点Qを見たときの水平方向を指定した場合には、図11に示すように、軌道取得部54は、線分Lに直行し、特徴点Qを通り、かつ、入札者が指定した水平方向と直行する回転軸Lを特定することになる。また、入札者が指定した方向でなくても、軌道取得部54は、予め定められた所定方向に基づいて、回転軸Lを特定するようにしてもよい。この所定方向が水平方向である場合には、図11に示すように、軌道取得部54は、線分Lに直行し、特徴点Qを通り、かつ、所定方向である水平方向と直行する回転軸Lを特定することになる。
例えば、軌道位置情報は、軌道T上の複数の点T(Mは自然数。図11では、M=1〜5とする。)の3次元座標を含む。ここでは、点Tが始点であり、点Tが終点とする。各点Tは、3次元空間における視点の位置であり、軌道Tは、点Tから点Tに向けて視点が移動する場合の経路といえる。また、軌道取得部54は、点Tごとに、視点の視線方向Uを計算する。ここでは、視線方向U〜Uは、それぞれ点T〜Tから特徴点Qを注視点とする方向である。視線方向情報は、当該計算された視線方向Uのベクトル情報を含む。
上記のようにして、軌道取得部54は、入札者により指定された特徴点Qの3次元座標を注視するように移動する視点の軌道情報を取得することになる。なお、注視するように移動するとは、視点の注視点が特徴点Qである状態を保ったまま、視点の位置が変わる(図11では、点Tから点Tに移動する)ことである。別の言い方をすれば、視点の視野内に特徴点Qが含まれる状態を保ったまま、視点の位置が変わることである。
[3−6.撮影判定部]
撮影判定部55は、複数の画像データに基づいて、入札者により指定された特徴点Qが各画像データに撮影されているか否かを判定する。撮影判定部55は、撮影情報データベースを参照して、入札者により指定された特徴点Qが各画像データから検出されたか否かを判定することになる。
なお、撮影判定部55は、3次元空間において商品が占める領域を特定し、画像データの撮影範囲内に当該領域が入っているかを判定するようにしてもよい。この場合、撮影判定部55は、まず、特徴点Qの3次元座標に基づいて、3次元空間において商品の占める領域を特定する。例えば、撮影判定部55は、各特徴点Qを結んだ立体の内部を商品の占める領域とする。そして、撮影判定部55は、各画像データの撮影位置P及び撮影方向Vに基づいて計算される視野内に、商品の占める領域が含まれるか否かを判定することになる。視野は、撮影位置P、撮影方向V、及び視野角(画角)に基づいて定まる領域である。視野角は、予め定められていてもよいし、画像データを画像解析して計算してもよい。
[3−7.画像選択部]
画像選択部56は、各画像データの撮影情報と、3次元空間における視点が視線方向を変えながら移動する場合の軌道Tに関する軌道情報と、に基づいて、複数の画像データのうちの複数を選択する。画像選択部56が選択する画像データは、軌道情報に係る画像データであり、商品画面40に表示すべき画像データともいえる。画像選択部56は、各画像データの撮影情報と、軌道取得部54が取得した軌道情報と、のずれ具合(位置関係)に基づいて、画像データを選択する。
例えば、画像選択部56は、各画像データの撮影位置情報が示す撮影位置Pと、軌道位置情報が示す位置Tと、の距離Dに基づいて、複数の画像データのうちの複数を選択する。また例えば、画像選択部56は、各画像データの撮影方向情報が示す撮影方向Vと、視線方向情報が示す視線方向Uと、のずれθに基づいて、複数の画像データのうちの複数を選択する。なお、ずれθは、方向的なずれ具合を示せばよく、例えば、角度又はベクトルである。
本実施形態では、画像選択部56は、各画像データの距離Dとずれθとに基づいて、距離Dよりもずれθに重み付けをした評価値Eを計算する評価値計算部56Aを含み、各画像データの評価値Eに基づいて、複数の画像データのうちの複数を選択する場合を説明する。なお、評価値計算部56Aは、本発明に係る評価値を計算する手段に相当する。
図12は、各画像データの撮影位置P及び撮影方向Vと軌道Tとの関係を示す図である。例えば、評価値計算部56Aは、各撮影位置P〜P15と軌道Tとの距離D〜D15を算出する。ここでは、軌道情報には、軌道T上の点T〜Tの3次元座標が格納されているので、評価値計算部56Aは、点T〜Tのうち、各撮影位置P〜P15から最も近いものとの距離D〜D15を計算するものとする。
そして、評価値計算部56Aは、各撮影方向V〜V15と軌道Tからの視線方向U〜Uとのずれθ〜θ15を算出する。ここでは、軌道情報には、軌道T上の各点T〜Tからの視線方向U〜Uが格納されているので、評価値計算部56Aは、視線方向U〜Uのうち、各撮影位置P〜P15から最も近いものとのずれθ〜θ15を算出する。
評価値計算部56Aは、上記のようにして計算した距離Dとずれθとを数式に代入することによって、各画像データの評価値Eを計算することになる。評価値Eは、撮影情報と軌道情報との類似度といえる。別の言い方をすれば、評価値Eは、画像データを表示させるべきか否かを示す指標値ともいえる。ここでは、評価値Eの数値が高いほど、撮影情報と軌道情報が似ていることを示す。即ち、評価値Eの数値が高いほど、表示すべき画像データとなる。
評価値Eの計算に使用される数式は、プログラムに記述されている。例えば、評価値計算部56Aは、下記の式1に距離Dとずれθを代入して評価値Eを計算する。式1に示すように、距離D及びずれθが小さいほど評価値Eが大きくなる。また、式1では、距離Dの係数よりもずれθの係数の方が大きい。即ち、距離Dよりもずれθの方に重み付けがなされている。
(式1)E=C*(DMAX−D)+Cθ*(θMAX−θ
,Cθ:所定の係数。ただし、C<Cθである。
MAX:距離DNMに関する所定の最大値。
θMAN:ずれθNMに関する所定の最大値。
図12に示す位置関係の場合、例えば、撮影位置P,P〜P11の画像データは、距離D,D〜D11もずれθ,θ〜θ11も大きいため、評価値E,E〜E11は小さくなる。一方、撮影位置P〜P,P12〜P15の画像データは、距離D〜D11及びずれθ〜θ11の少なくとも一方が小さいため、評価値E〜E,E12〜E15は比較的大きくなる。ただし、撮影位置PとPは、同じような方向から撮影しているが、撮影位置Pの方が軌道Tに近いので、評価値Eは評価値Eよりも大きい。また、撮影位置PとPでは、Pの方が基準軌道Tに近いが、撮影方向Vが基準視線方向Uから大きくずれているので、評価値Eは評価値Eよりも大きい。画像選択部56は、評価値Eが大きい順に所定枚数だけ画像データを取得する。例えば、画像選択部56は、撮影位置P,P,P,P13,P12の5枚画像データを選択する。
なお、評価値Eの計算方法は、上記の例に限られない。本実施形態では、距離Dよりもずれθの方に重み付けをして評価値Eを計算すればよく、例えば、他の数式によって評価値Eを計算してもよい。また、本実施形態では、評価値Eが大きいほど視点の位置T及び視線方向Uと似ている場合を説明したが、評価値Eの使い方はこれに限られず、評価値Eが小さいほど視点の位置T及び視線方向Uと似ているようにしてもよい。視点の位置T及び視線方向Uとの類似具合を値の大小から識別できるように予め定めておけばよい。また、評価値Eは、数値に限られず、文字や記号で表現してもよい。
また、画像選択部56は、各画像データの撮影情報と、軌道情報と、撮影判定部55の判定結果と、に基づいて、複数の画像データのうちの複数を選択するようにしてもよい。画像選択部56は、入札者により指定された特徴点Qの特徴点IDが格納されている画像データを表示対象として選択する。例えば、入札者が指定した特徴点Qが撮影されている画像データを表示候補として残し、特徴点Qが撮影されていない画像データを表示候補から除外する。例えば、入札者が特徴点Qを指定した場合、図9のデータ格納例では、画像データIDが「7」の画像データは、特徴点Qが検出されなかったので(例えば、文字盤が全体的に反射してしまってよく見えないので)、予め表示候補から除外するようにしてよい。
[3−8.表示制御部]
表示制御部57は、画像選択部56により選択された複数の画像データを、軌道Tに応じた順番で表示部35に表示させる。軌道Tに応じた順番とは、軌道Tの始点Tから終点Tに向けた順番、又は、軌道Tの終点Tから始点Tに向けた順番の何れかである。表示制御部57は、始点T又は終点Tに近い順に画像選択部56が選択した各画像データに順番を付与する。例えば、上記説明した図12の例の場合、視点Tに近い順番である画像データIDが「4」「2」「1」「13」「12」の順番が、軌道に応じた順番となる。
例えば、表示制御部57は、画像選択部56が選択した複数の画像データを、軌道Tに応じた順番で連続表示(アニメーション表示)させる。即ち、表示制御部57は、画像選択部56が選択した複数の画像データを、軌道Tに応じた順番で切り替わるように表示させる。ここでは、表示制御部57は、画像データIDが「4」「2」「1」「13」「12」の順番に切り替わるように、画像データを連続表示させる。
[4.表示制御システムにおいて実行される処理]
図13は、表示制御システム1において実行される処理の一例を示すフロー図である。図13に示す処理は、制御部11,21,31が、それぞれ記憶部12,22,32に記憶されたプログラムに従って動作することによって実行される。本実施形態では、下記に説明する処理が実行されることにより、図5に示す機能ブロックが実現される。なお、下記に説明する処理が実行されるにあたり、出品者は、図2のように商品をカメラ26で撮影しており、カメラ26内のメモリに画像データが記憶されているものとする。
図13に示すように、出品者端末20の制御部21は、操作部24が受け付けた操作に基づいて、カメラ26のメモリに記憶された複数の画像データを、出品関連情報とともに、通信部23及びネットワーク2を介して表示制御サーバ10に送信する(S1)。なお、S1においては、複数の画像データのうちの何れが基準画像データであるかを出品者が指定できるようにしてもよい。
表示制御サーバ10においては、制御部11は、画像データ及び出品関連情報を受信して記憶部12に記憶させる(S2)。S2においては、制御部11は、各画像データに画像データIDを付与したうえで記憶部12に記憶させることになる。なお、制御部11は、受信した複数の画像データの全部又は一部について、サムネイル画像のデータを生成して記憶部12に記憶させるようにしてもよい。
制御部11は、複数の画像データに基づいて、各画像データの特徴点Qを検出する(S3)。S3においては、制御部11は、各画像データに含まれる特徴点Qの2次元座標を取得して、特徴点IDに関連付けて記憶部12に記憶させることになる。特徴点Qを検出する方法は、先述した通りである。
制御部11は、各画像データの特徴点Qに基づいて、当該画像データの撮影情報を取得する(S4)。S4においては、制御部11は、画像データごとに撮影情報を取得して撮影情報データベースに登録することになる。撮影情報を取得する方法は、先述した通りである。
制御部11は、各特徴点Qの3次元座標を取得する(S5)。S5においては、制御部11は、各特徴点Qの3次元座標を特徴点データベースに登録することになる。特徴点Qの3次元座標を取得する方法は、先述した通りである。
以上の処理により、出品の準備が完了し、入札者が入札できる状態となる。入札者端末30において入札者が操作部34を用いて所定の操作を行うと、制御部31は、商品画面40の表示要求を表示制御サーバ10に送信する(S6)。
表示制御サーバ10においては、商品画面40の表示要求を受信すると、制御部11は、商品画面40の表示データを生成して、入札者端末30に送信する(S7)。S7においては、制御部11は、記憶部12から商品の画像データ、サムネイル画像、及び出品関連情報等を読み出して、商品画面40の表示データを生成する。なお、表示データは、所定形式のデータであればよく、例えば、HTMLデータ等である。
入札者端末30においては、表示データを受信すると、制御部31は、商品画面40を表示部35に表示させる(S8)。制御部31は、商品画面40において受け付けた操作内容を送信する(S9)。ここでは、説明の簡略化のため、画像データの連続表示を要求するための表示要求操作と、商品に入札するための入札操作と、が受け付けられる場合を説明する。なお、表示要求操作は、商品画像41内の位置をカーソル44で指定することで行われる。このため、カーソル44で指定された位置を示す情報も表示制御サーバ10に送信される。S9において特に操作が受け付けられなかった場合は、本処理は終了することになる。
表示制御サーバ10においては、操作内容を受信すると、制御部11は、入札者の操作内容を特定する(S10)。入札者が表示要求操作をしたと判定された場合(S10;表示要求操作)、制御部11は、入札者が指定した商品画像41内の位置に基づいて、入札者が指定した特徴点Qを特定する(S11)。S11においては、制御部11は、入札者が指定した商品画像41内の2次元座標と、各特徴点Qの2次元座標と、を比較して、全特徴点Qの中から、入札者が指定した2次元座標から最も近い特徴点Qを特定する。
制御部11は、S11で特定した特徴点Qに基づいて軌道情報を計算する(S12)。S12においては、制御部11は、入札者が指定した特徴点Qを注視するように移動する軌道Tを計算することになる。軌道を計算する方法は、先述した通りである。
制御部11は、各画像データの撮影情報と、S12で計算した軌道情報と、に基づいて、複数の画像データを選択する(S13)。S13においては、制御部11は、各画像データの撮影情報と、軌道情報と、に基づいて画像データの評価値Eを計算して、軌道Tに応じた順番に画像データを選択することになる。画像データを選択する方法は、先述した通りである。
制御部11は、選択した複数の画像データの連続表示データ(動画データ)を生成して、入札者端末30に送信する(S14)。S14においては、制御部11は、軌道Tに応じた順番に表示されるように、連続表示データを生成することになる。連続表示データは、所定のデータ形式であればよく、例えば、GIFデータ等である。
入札者端末30においては、連続表示データを受信すると、制御部31は、複数の画像データを表示部35に連続表示させる(S15)。制御部31は、終了条件を満たすか否かを判定する(S16)。終了条件は、本処理を終了するための条件であり、例えば、入札者により所定の終了操作が行われることである。終了条件を満たすと判定された場合(S16;Y)、本処理は終了する。終了条件を満たさないと判定された場合(S16;N)、S9の処理に戻る。
一方、S10において、入札者が入札操作をしたと判定された場合(S10;入札操作)、制御部11は、所定の入札処理を実行して本処理は終了する(S17)。S17の処理が実行されると、入札者が商品に入札することができる。
以上説明した表示制御システム1によれば、撮影情報と軌道情報とに基づいて選択した複数の画像データを軌道Tに応じた順番で表示させるため、出品者がカメラ26を使って色々な軌道で商品を撮影する必要がないので、軌道Tに沿って移動する視点から商品を見た商品画像41を表示させる場合の撮影の手間を軽減することが可能になる。他にも、ネットオークションで出品する商品は細かい傷や汚れがあるが、商品画像41を連続表示させることで、商品を種々の角度から見るように表示させることができるので、商品の状態をより正確に確認できるようになる。また、商品の3Dモデルを作成するような場合には、一応は種々の方向から眺めることができるが、商品の傷や汚れも3Dモデルで表現しなければ商品の状態を正確に表示させることができないため手間がかかるが、表示制御システム1によれば、このような手間をかけることなく、入札者に商品の状態を正確に伝えることができる。
また、入札者が指定した3次元座標に基づいて軌道Tを取得することで、入札者が見たいと思う視点の軌道Tを指定することができるので、入札者の好みに応じた軌道Tで視点が移動するような画像を表示させることができる。また、入札者が指定した特徴点Qの3次元座標に基づいて軌道Tを取得することで、入札者が見たいと思う特徴点Qを撮影するような視点の軌道Tを指定することができるので、入札者が確認したい位置を種々の方向から眺めるような画像を表示させることができる。また、入札者が指定した特徴点Qの3次元座標を注視するように移動する視点の軌道情報を取得することで、入札者が特徴点Qをより確認しやすくなる。また、入札者が指定した特徴点Qが撮影された画像データを選択することで、入札者が指定した特徴点Qがはっきりと撮影されている画像データを表示させることができるので、入札者が特徴点Qの様子をより確認しやすくなる。
また、距離Dに基づいて画像データを選択するので、軌道Tから撮影位置Pが近い画像データを表示させることができる。また、ずれθに基づいて画像データを選択するので、視線方向Uと似た撮影方向Vの画像データを表示させることができる。また、撮影位置Pがずれている場合よりも撮影方向Vがずれている場合の方が被写体の見え方が大きく異なるので、距離Dよりもずれθに重み付けをした評価値により画像データを選択するので、ずれθの小ささを重視して画像データを選択することができる。
[5.変形例]
なお、本発明は、以上に説明した実施の形態に限定されるものではない。本発明の趣旨を逸脱しない範囲で、適宜変更可能である。
(1)例えば、軌道Tに近い撮影位置Pの画像データが複数ある場合、画像選択部56が選択する画像データの撮影位置Pの間隔がばらばらだと、商品に対するカメラ26の角度の変化にばらつきが生じるため不自然な連続表示となってしまう。そこで、画像選択部56が選択する画像データの撮影位置Pの間隔を一定間隔にすることで、自然な連続表示となるようにしてもよい。
図14は、軌道Tと撮影位置Pとの関係を示す図である。図14に示すように、撮影位置P20〜P30は、軌道Tから近く、これらの評価値E20〜E30も高い。しかし、撮影位置P20〜P30の画像データを全て連続表示させると、例えば、撮影位置P21は、両隣の撮影位置P20及びP22との間隔が、他の間隔に比べて狭い。同様に、撮影位置P25は、両隣の撮影位置P24及びP26との間隔が、他の間隔に比べて狭い。
このため、変形例(1)の画像選択部56は、各画像データの撮影位置情報に基づいて、当該画像選択部56が選択する各画像データの撮影位置情報が示す撮影位置Pの距離が所定範囲となるように、複数の画像データのうちの複数を選択する。ここでは、所定距離以上であることが所定範囲に相当する場合を説明するが、所定距離未満であることが所定範囲に相当してもよい。所定範囲を示す情報は、予めデータ記憶部53に記憶されているものとする。
画像選択部56は、評価値Eが基準以上である各画像データについて、当該画像データの撮影位置PN1と、当該撮影位置PN1に最も近い他の画像データの撮影位置PN2との距離を計算する。そして、画像選択部56は、当該距離が所定範囲であれば、画像データを表示対象として選択し、当該距離が所定範囲でなければ、画像データを選択しない。例えば、図14の場合、画像選択部56は、撮影位置P22及びP25の各々の画像データを選択しないことになる。
変形例(1)によれば、表示させる画像データの撮影位置Pの間隔を一定範囲内にするので、画像データを自然な表示とすることができる。
(2)また例えば、表示制御部57は、表示部35に表示される商品の表示位置及び表示サイズの少なくとも一方のずれが基準以内になるように、画像選択部56により選択された各画像データの表示位置及び表示サイズの少なくとも一方を決定するようにしてもよい。表示位置は、画像内での商品の位置であり、例えば、特徴点Qの2次元座標である。表示サイズは、画像において商品が占める大きさであり、例えば、商品が表示されている画素数である。
表示制御部57は、画像選択部56により選択された各画像データの商品の表示位置のずれが基準以内になるように、画像データの表示位置を決定する。例えば、表示制御部57は、各画像データの特徴点Qの2次元座標を参照し、特徴点Qの2次元座標の位置のずれが基準以内になるように、画像データの表示位置を変更する。
また、表示制御部57は、画像選択部56により選択された各画像データの商品の表示サイズのずれが基準以内になるように、画像データの大きさを決定する。例えば、表示制御部57は、各画像データにおいて商品が占める割合のずれが基準以内になるように、画像データのサイズを変更する。例えば、表示制御部57は、画像データの撮影位置Pと特徴点Qとの距離が大きいほど、画像データのサイズが大きくなるように、画像データのサイズを変更する。
変形例(2)によれば、表示させる画像データの商品の表示位置及び表示サイズの少なくとも一方のずれを基準以内にするので、画像データを自然な連続表示とすることができる。なお、表示制御部57は、表示位置及び表示サイズの両方を変更するようにしてもよいし、何れか片方のみを変更するようにしてもよい。
(3)また例えば、実施形態では、出品者が商品の正面方向に所定距離だけ離れた撮影位置から撮影した画像データを基準画像データとする場合について説明したが、表示制御サーバ10にアップロードする複数の画像データのうち出品者が指定したものを基準画像データとするようにしてもよい。この場合、出品者が指定した画像データの撮影位置及び撮影方向が、それぞれ、基準撮影位置である撮影位置P及び基準撮影方向である撮影方向Vとなる。
また例えば、基準画像データは、複数の画像データの中から所定の方法で選択されるものであればよい。例えば、上記のように出品者が指定したものでなくても、出品者が最初に撮影した画像データを基準画像データとしてもよい。例えば、出品者が最初に撮影した画像データを基準画像データとし、その撮影位置と商品の中心点との距離が一定になるようにカメラ26を移動させて撮影する場合、各画像データ同士のカメラ26と商品との距離のずれが少なくなるので、商品画面40における商品画像41の連続表示を見やすくすることができる。また、この場合に、カメラ26の撮影中に、商品の中心点から一定距離を保って撮影するためのガイドを、カメラ26の表示部に表示させるようにしてもよい。
また例えば、実施形態で図12を参照して説明したように複数の画像データを選択すると、各位置Tに最も近い撮影位置Pの画像データを選択しているので、軌道Tからの位置のずれが小さくても、各画像データの撮影位置P同士の位置のずれが大きいことがある。この場合、変形例(1)でも説明したように、画像データを連続表示させると少し不自然な表示になってしまうことがある。このため、下記のような方法で、撮影位置P同士のずれが小さくなるように画像データを選択して、より自然な連続表示を可能にするようにしてもよい。
まず、画像選択部56は、軌道Tと平行する複数のラインに基づいて、当該ラインごとに複数の撮影位置Pを特定する。各ラインは、軌道Tから所定距離以内であればよく、例えば、3次元空間内で商品が占める領域のうち軌道Tと直行する方向のサイズの所定パーセント以内の距離としてもよい。また、画像選択部56は、各ラインとの距離が所定距離以内となる撮影位置Pを特定するようにしてもよいし、実施形態で説明した方法と同様の方法によりラインごとに評価値を算出してもよい。また例えば、画像選択部56は、そのような撮影位置Pが軌道Tの位置Tの数(即ち、Kの数値)以上にあるラインを特定するようにしてもよい。そして、画像選択部56は、ラインごとに特定した各撮影位置Pの間隔(即ち、ラインに沿った間隔)と、ライン及び軌道Tとの距離と、に基づいて1つのラインを選択する。このラインの選択では、評価値(実施形態で説明した評価値Eとは異なる。)が算出されるようにしてもよい。この評価値は、各撮影位置Pの間隔のずれが小さいほど高くなる。また、ラインと軌道Tの距離が小さいほど高くなる。この評価値を計算するための数式は、予めプログラムに記述されていればよい。例えば、画像選択部56は、評価値が最も高いラインを選択する。このラインは、ある程度軌道Tに沿って撮影位置Pが並んでおり、かつ、各撮影位置Pの間隔がある程度一定のものである。そして、画像選択部56は、当該選択したラインで特定した各撮影位置Pの画像データを選択することになる。
また例えば、表示制御部57は、画像選択部56が選択した複数の画像データを、軌道Tに応じた順番で表示させるようにすればよく、連続表示以外にも、商品画面40において、これら複数の画像データを軌道Tに応じた順番に並べて表示させるようにしてもよい。
また例えば、上記では、画像選択部56が、評価値Eが基準以上となる画像データを所定枚数だけ選択したが、評価値Eが基準以上となる画像データを全て選択してもよい。また、画像選択部56が評価値Eを計算して画像データを選択する場合を説明したが、他の方法によって画像データを選択してもよい。例えば、画像選択部56は、距離D及びずれθの少なくとも一方が所定以内となる画像データを選択してもよい。
また例えば、ユーザが商品画面40から特徴点Qを指定する場合を例に挙げて説明したが、ユーザは、視線方向Uを指定するようにしてもよい。この場合、画像選択部56は、ユーザが指定した視線方向Uに最も近い撮影方向Vの画像データを選択してもよい。そして、画像選択部56は、当該選択した画像データの撮影位置P及び撮影方向Vとのずれが最も小さい画像データを次に表示させる画像データとして選択してもよい。以降、画像選択部56は、所定枚数になるまで、撮影位置P及び撮影方向Vのずれが小さい画像データを順番に選択してもよい。
また例えば、軌道情報の取得方法は、上記の例に限られない。例えば、入札者が特徴点Qを指定しなくても軌道情報が取得されるようにしてもよい。この場合、入札者が商品画面40から操作部34を使って所定の軌道を描くことによって、軌道情報が決定されるようにしてもよい。例えば、各画像データの撮影位置Pや撮影方向Vを示す画像(例えば、図8のような3次元空間を示す画像)を表示部35に表示させ、入札者が当該画像上で描いた軌道の通りとなるように軌道情報が取得されるようにしてもよい。
また例えば、表示制御システム1の各機能が表示制御サーバ10で実現される場合を説明したが、各機能は、入札者端末30で実現されるようにしてもよい。この場合、入札者端末30が、本発明に係る表示制御装置に相当する。また例えば、各機能が、表示制御サーバ10、出品者端末20、及び入札者端末30の各々で分担されているようにしてもよい。例えば、特徴点検出部51や情報取得部52が出品者端末20で実現され、出品者端末20が、特徴点Qや撮影情報を取得したうえで、画像データとともに表示制御サーバ10にアップロードするようにしてもよい。この場合、特徴点検出部51や情報取得部52は、制御部21を主として実現される。また例えば、軌道取得部54や撮影判定部55が入札者端末30で実現され、入札者端末30が、軌道情報を取得したり特徴点Qが撮影されているかを判定したりするようにしてもよい。この場合、軌道取得部54や撮影判定部55は、制御部31を主として実現される。また例えば、画像選択部56や表示制御部57が入札者端末30で実現され、入札者端末30が、複数の画像データを選択して軌道に応じた順番で商品画面40に表示させるようにしてもよい。この場合、画像選択部56や表示制御部57は、制御部31を主として実現される。
また例えば、ネットオークションにおいて商品画面40を表示させる場面を例に挙げて表示制御システム1の処理を説明したが、ネットオークション以外の種々の場面において本発明に係る表示制御システム1を適用可能である。例えば、ユーザ同士でコミュニケーションをとるSNSサービスにも表示制御システム1と同様の処理を適用してもよい。複数の位置から被写体を撮影した画像データを表示させる場合に表示制御システム1を適用すればよい。このため、商品以外の種々の物体を被写体としてもよい。上記説明した「商品」は「被写体」と読み替えることができ、「出品者」や「入札者」は「ユーザ」と読み替えることができる。

Claims (12)

  1. 撮影方向が互いに異なる複数の撮影位置から被写体を撮影することで生成された複数の画像データを取得する画像取得手段と、
    前記複数の画像データに基づいて、3次元空間における各画像データの撮影位置に関する撮影情報を取得する情報取得手段と、
    ユーザにより指定された3次元座標に基づいて、前記3次元空間内で視線方向を変えながら移動する視点の軌道に関する軌道情報を取得する軌道取得手段と、
    各画像データの前記撮影情報と、前記軌道情報と、に基づいて、前記複数の画像データのうちの複数を選択する画像選択手段と、
    前記画像選択手段により選択された複数の画像データを、前記軌道に応じた順番で表示手段に表示させる表示制御手段と、
    を含むことを特徴とする表示制御システム。
  2. 前記表示制御システムは、前記複数の画像データの少なくとも1つに基づいて、前記被写体に関する複数の特徴点の3次元座標を検出する特徴点検出手段を更に含み、
    前記軌道取得手段は、前記複数の特徴点のうち前記ユーザにより指定された特徴点の3次元座標に基づいて、前記軌道情報を取得する、
    ことを特徴とする請求項1に記載の表示制御システム。
  3. 前記軌道取得手段は、前記ユーザにより指定された特徴点の3次元座標を注視するように移動する前記視点の前記軌道情報を取得する、
    ことを特徴とする請求項2に記載の表示制御システム。
  4. 前記表示制御システムは、前記複数の画像データに基づいて、前記ユーザにより指定された特徴点が各画像データに撮影されているか否かを判定する撮影判定手段を更に含み、
    前記画像選択手段は、各画像データの前記撮影情報と、前記軌道情報と、前記撮影判定手段の判定結果と、に基づいて、前記複数の画像データのうちの複数を選択する、
    ことを特徴とする請求項2又は3に記載の表示制御システム。
  5. 各画像データの前記撮影情報は、当該画像データの撮影位置情報を含み、
    前記軌道情報は、前記視点の軌道位置情報を含み、
    前記画像選択手段は、各画像データの前記撮影位置情報が示す位置と、前記軌道位置情報が示す位置と、の最短距離に基づいて、前記複数の画像データのうちの複数を選択する、
    ことを特徴とする請求項1〜4の何れかに記載の表示制御システム。
  6. 各画像データの前記撮影情報は、当該画像データの撮影方向情報を含み、
    前記軌道情報は、前記軌道からの前記視点の視線方向情報を含み、
    前記画像選択手段は、各画像データの前記撮影方向情報が示す方向と、前記視線方向情報が示す方向と、のずれに基づいて、前記複数の画像データのうちの複数を選択する、
    ことを特徴とする請求項1〜5の何れかに記載の表示制御システム。
  7. 前記画像選択手段は、各画像データの前記最短距離と前記ずれとに基づいて、前記最短距離よりも前記ずれに重み付けをした評価値を計算する手段を含み、各画像データの前記評価値に基づいて、前記複数の画像データのうちの複数を選択する、
    請求項5に従属する請求項6に記載の表示制御システム。
  8. 各画像データの前記撮影情報は、当該画像データの撮影位置情報を含み、
    前記軌道情報は、前記視点の軌道位置情報を含み、
    前記画像選択手段は、
    各画像データの前記撮影位置情報が示す位置と、前記軌道位置情報が示す位置と、の最短距離に基づいて、評価値を計算する手段を含み、
    評価値が基準以上である各画像データについて、当該画像データの前記撮影位置情報が示す位置と、当該位置に最も近い他の画像データの前記撮影位置情報が示す位置と、の距離を計算し、当該距離が所定範囲である画像データを選択することによって、前記複数の画像データのうちの複数を選択する、
    ことを特徴とする請求項1〜7の何れかに記載の表示制御システム。
  9. 前記表示制御手段は、前記表示手段に表示される前記被写体の表示位置及び表示サイズの少なくとも一方のずれが基準以内になるように、前記画像選択手段により選択された各画像データの表示位置及び表示サイズの少なくとも一方を決定する、
    ことを特徴とする請求項1〜8の何れかに記載の表示制御システム。
  10. 撮影方向が互いに異なる複数の撮影位置から被写体を撮影することで生成された複数の画像データの各々と、3次元空間における当該画像データの撮影位置に関する撮影情報と、を関連付けて記憶する記憶手段の記憶内容を取得する情報取得手段と、
    ユーザにより指定された3次元座標に基づいて、前記3次元空間内で視線方向を変えながら移動する視点の軌道に関する軌道情報を取得する軌道取得手段と、
    各画像データの前記撮影情報と、前記軌道情報と、に基づいて、前記複数の画像データのうちの複数を選択する画像選択手段と、
    前記画像選択手段により選択された複数の画像データを、前記軌道に応じた順番で表示手段に表示させる表示制御手段と、
    を含むことを特徴とする表示制御装置。
  11. 撮影方向が互いに異なる複数の撮影位置から被写体を撮影することで生成された複数の画像データを取得する画像取得ステップと、
    前記複数の画像データに基づいて、3次元空間における各画像データの撮影位置に関する撮影情報を取得する情報取得ステップと、
    ユーザにより指定された3次元座標に基づいて、前記3次元空間内で視線方向を変えながら移動する視点の軌道に関する軌道情報を取得する軌道取得ステップと、
    各画像データの前記撮影情報と、前記軌道情報と、に基づいて、前記複数の画像データのうちの複数を選択する画像選択ステップと、
    前記画像選択ステップにおいて選択された複数の画像データを、前記軌道に応じた順番で表示手段に表示させる表示制御ステップと、
    を含むことを特徴とする表示制御方法。
  12. 撮影方向が互いに異なる複数の撮影位置から被写体を撮影することで生成された複数の画像データの各々と、3次元空間における当該画像データの撮影位置に関する撮影情報と、を関連付けて記憶する記憶手段の記憶内容を取得する情報取得手段、
    ユーザにより指定された3次元座標に基づいて、前記3次元空間内で視線方向を変えながら移動する視点の軌道に関する軌道情報を取得する軌道取得手段、
    各画像データの前記撮影情報と、前記軌道情報と、に基づいて、前記複数の画像データのうちの複数を選択する画像選択手段、
    前記画像選択手段により選択された複数の画像データを、前記軌道に応じた順番で表示手段に表示させる表示制御手段、
    としてコンピュータを機能させるためのプログラム。
JP2016506919A 2015-03-30 2015-03-30 表示制御システム、表示制御装置、表示制御方法、及びプログラム Active JP6026050B1 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2015/059995 WO2016157385A1 (ja) 2015-03-30 2015-03-30 表示制御システム、表示制御装置、表示制御方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP6026050B1 true JP6026050B1 (ja) 2016-11-16
JPWO2016157385A1 JPWO2016157385A1 (ja) 2017-04-27

Family

ID=57005316

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016506919A Active JP6026050B1 (ja) 2015-03-30 2015-03-30 表示制御システム、表示制御装置、表示制御方法、及びプログラム

Country Status (4)

Country Link
US (1) US10742947B2 (ja)
EP (1) EP3177005B1 (ja)
JP (1) JP6026050B1 (ja)
WO (1) WO2016157385A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6917140B2 (ja) * 2016-11-30 2021-08-11 株式会社カブク 画像処理装置
JP2019054417A (ja) * 2017-09-15 2019-04-04 ソニー株式会社 画像処理装置およびファイル生成装置
JP6959422B1 (ja) * 2020-10-22 2021-11-02 ヤフー株式会社 送信プログラム、端末装置および送信方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012142860A (ja) * 2011-01-05 2012-07-26 Canon Inc 任意視点映像処理装置及びその制御方法、及びプログラム
WO2014076868A1 (ja) * 2012-11-19 2014-05-22 パナソニック株式会社 画像処理装置及び画像処理方法

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1196374A (ja) 1997-07-23 1999-04-09 Sanyo Electric Co Ltd 3次元モデリング装置、3次元モデリング方法および3次元モデリングプログラムを記録した媒体
US20020085219A1 (en) * 2000-08-11 2002-07-04 Victor Ramamoorthy Method of and system for generating and viewing multi-dimensional images
US6762755B2 (en) * 2000-10-16 2004-07-13 Pixel Science, Inc. Method and apparatus for creating and displaying interactive three dimensional computer images
US20020190991A1 (en) * 2001-05-16 2002-12-19 Daniel Efran 3-D instant replay system and method
US7094164B2 (en) * 2001-09-12 2006-08-22 Pillar Vision Corporation Trajectory detection and feedback system
US10360685B2 (en) * 2007-05-24 2019-07-23 Pillar Vision Corporation Stereoscopic image capture with performance outcome prediction in sporting environments
US9344612B2 (en) * 2006-02-15 2016-05-17 Kenneth Ira Ritchey Non-interference field-of-view support apparatus for a panoramic facial sensor
WO2008128205A1 (en) * 2007-04-13 2008-10-23 Presler Ari M Digital cinema camera system for recording, editing and visualizing images
JP4933354B2 (ja) * 2007-06-08 2012-05-16 キヤノン株式会社 情報処理装置、及び情報処理方法
KR102267575B1 (ko) * 2009-01-29 2021-06-22 트랙맨 에이/에스 레이더 및 촬상 요소를 포함하는 조립체
JP2012124745A (ja) 2010-12-09 2012-06-28 Seabiscuit Co Ltd 表示用データ提供サーバ
EP2680594A4 (en) * 2011-02-24 2014-07-09 Kyocera Corp ELECTRONIC APPARATUS, IMAGE DISPLAY METHOD, AND IMAGE DISPLAY PROGRAM
US20130234926A1 (en) * 2012-03-07 2013-09-12 Qualcomm Incorporated Visually guiding motion to be performed by a user
US9592833B2 (en) * 2012-12-18 2017-03-14 Rieker Inc. Method and apparatus for capturing road curve properties and calculating maximum safe advisory speed
US9734638B2 (en) * 2013-02-11 2017-08-15 Ramot At Tel-Aviv University Ltd. Three-dimensional modeling from single photographs
KR102078198B1 (ko) * 2013-06-04 2020-04-07 삼성전자주식회사 전자 장치 및 전자 장치의 3차원 모델링을 위한 촬영방법
US9742974B2 (en) * 2013-08-10 2017-08-22 Hai Yu Local positioning and motion estimation based camera viewing system and methods
US9891712B2 (en) * 2013-12-16 2018-02-13 Leap Motion, Inc. User-defined virtual interaction space and manipulation of virtual cameras with vectors
US9791572B2 (en) * 2014-05-16 2017-10-17 Apple Inc. Batch processing for improved georeferencing
US9479703B2 (en) * 2014-09-28 2016-10-25 Hai Yu Automatic object viewing methods and apparatus
US9903952B2 (en) * 2015-03-18 2018-02-27 Amazon Technologies, Inc. GPS error correction via network of fixed point ground stations

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012142860A (ja) * 2011-01-05 2012-07-26 Canon Inc 任意視点映像処理装置及びその制御方法、及びプログラム
WO2014076868A1 (ja) * 2012-11-19 2014-05-22 パナソニック株式会社 画像処理装置及び画像処理方法

Also Published As

Publication number Publication date
EP3177005A4 (en) 2018-02-21
JPWO2016157385A1 (ja) 2017-04-27
WO2016157385A1 (ja) 2016-10-06
US20170201733A1 (en) 2017-07-13
US10742947B2 (en) 2020-08-11
EP3177005B1 (en) 2023-09-27
EP3177005A1 (en) 2017-06-07

Similar Documents

Publication Publication Date Title
US11632533B2 (en) System and method for generating combined embedded multi-view interactive digital media representations
US9171405B1 (en) Identifying and filling holes across multiple aligned three-dimensional scenes
US9396215B2 (en) Search device, search method, recording medium, and program
JP2019075082A (ja) 深度値推定を用いた映像処理方法及び装置
JP6491517B2 (ja) 画像認識ar装置並びにその姿勢推定装置及び姿勢追跡装置
US20130095920A1 (en) Generating free viewpoint video using stereo imaging
KR20170031733A (ko) 디스플레이를 위한 캡처된 이미지의 시각을 조정하는 기술들
US20150170260A1 (en) Methods and Systems for Using a Mobile Device to Visualize a Three-Dimensional Physical Object Placed Within a Three-Dimensional Environment
WO2013074561A1 (en) Modifying the viewpoint of a digital image
WO2013190533A2 (en) Method and apparatus for augmenting an index image generated by a near eye display
US11900552B2 (en) System and method for generating virtual pseudo 3D outputs from images
US20210256733A1 (en) Resolving region-of-interest (roi) overlaps for distributed simultaneous localization and mapping (slam) in edge cloud architectures
KR101703013B1 (ko) 3차원 스캐너 및 스캐닝 방법
JP6026050B1 (ja) 表示制御システム、表示制御装置、表示制御方法、及びプログラム
JP6061334B2 (ja) 光学式シースルー型hmdを用いたarシステム
Cui et al. Fusing surveillance videos and three‐dimensional scene: A mixed reality system
Tsai et al. Polygon‐based texture mapping for cyber city 3D building models
JP6818968B2 (ja) オーサリング装置、オーサリング方法、及びオーサリングプログラム
JP6154759B2 (ja) カメラパラメータ推定装置、カメラパラメータ推定方法及びカメラパラメータ推定プログラム
JP6376251B2 (ja) 情報処理装置、情報処理システム、その制御方法及びプログラム
CN114937140B (zh) 面向大规模场景的图像渲染质量预测与路径规划系统
US20230316574A1 (en) Matching objects in images
US20230217001A1 (en) System and method for generating combined embedded multi-view interactive digital media representations
Killpack et al. Visualization of 3D images from multiple texel images created from fused LADAR/digital imagery
DiVerdi Towards anywhere augmentation

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160818

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161004

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161011

R150 Certificate of patent or registration of utility model

Ref document number: 6026050

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250