JP7459199B1 - 画像処理システム - Google Patents

画像処理システム Download PDF

Info

Publication number
JP7459199B1
JP7459199B1 JP2022149598A JP2022149598A JP7459199B1 JP 7459199 B1 JP7459199 B1 JP 7459199B1 JP 2022149598 A JP2022149598 A JP 2022149598A JP 2022149598 A JP2022149598 A JP 2022149598A JP 7459199 B1 JP7459199 B1 JP 7459199B1
Authority
JP
Japan
Prior art keywords
virtual viewpoint
information
content
material data
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022149598A
Other languages
English (en)
Other versions
JP2024048405A (ja
Inventor
康文 ▲高▼間
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2022149598A priority Critical patent/JP7459199B1/ja
Priority to EP23197762.0A priority patent/EP4343598A1/en
Priority to KR1020230124575A priority patent/KR20240040043A/ko
Priority to CN202311217384.8A priority patent/CN117750002A/zh
Priority to US18/470,613 priority patent/US20240096024A1/en
Priority to JP2024044627A priority patent/JP2024075691A/ja
Application granted granted Critical
Publication of JP7459199B1 publication Critical patent/JP7459199B1/ja
Publication of JP2024048405A publication Critical patent/JP2024048405A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60Protecting data
    • G06F21/604Tools and structures for managing or administering access control systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/10Protecting distributed programs or content, e.g. vending or licensing of copyrighted material ; Digital rights management [DRM]
    • G06F21/101Protecting distributed programs or content, e.g. vending or licensing of copyrighted material ; Digital rights management [DRM] by binding digital rights to specific entities
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • G06T15/20Perspective computation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/20Finite element generation, e.g. wire-frame surface description, tesselation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L9/00Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
    • H04L9/50Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols using hash chains, e.g. blockchains or hash trees
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20036Morphological image processing
    • G06T2207/20044Skeletonization; Medial axis transform
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L2209/00Additional information or applications relating to cryptographic mechanisms or cryptographic arrangements for secret or secure communication H04L9/00
    • H04L2209/56Financial cryptography, e.g. electronic payment or e-cash

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • Computer Security & Cryptography (AREA)
  • Human Computer Interaction (AREA)
  • Geometry (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Multimedia (AREA)
  • Technology Law (AREA)
  • Computing Systems (AREA)
  • Automation & Control Theory (AREA)
  • Health & Medical Sciences (AREA)
  • Bioethics (AREA)
  • General Health & Medical Sciences (AREA)
  • Processing Or Creating Images (AREA)
  • Image Generation (AREA)

Abstract

【課題】 仮想視点画像を生成するためのデジタルコンテンツに付与した所有権とシステムのユーザ情報に基づいてコンテンツの表示処理を制御することを可能にする。【解決手段】 複数の撮像装置により撮像された複数の撮像画像に基づいて生成される前記素材データであって、第1ユーザを現所有者とする1以上の前記素材データと第2ユーザを現所有者とする1以上の前記素材データとがブロックチェーンに記録されている複数の前記素材データにおいて、第1ユーザが現所有者である前記素材データを示す情報を出力する第1出力手段と、ユーザにより選択された素材データを示す情報を取得する第2取得手段と、第2取得手段により取得された素材データを示す情報に対応する素材データに基づいて生成された仮想視点画像を出力する。【選択図】 図1

Description

本開示は画像処理システム、画像処理方法及びコンピュータプログラム等に関する。
複数のカメラで異なる方向から撮影することで得られる複数の画像を用いて、指定された仮想視点からの仮想視点画像を生成する技術が注目されている。特許文献1には、複数のカメラを異なる位置に設置して被写体を撮像し、撮像画像から推定される被写体の3次元形状モデルを用いて、仮想視点画像を生成する方法について記載されている。
一方、仮想空間やコンピュータゲーム内のデジタルアイテムや、デジタルアート作品などのデジタルコンテンツに非代替性トークン(Non-Fungible-Token:NFT)を付与し、所有権を証明するブロックチェーン技術に注目が集まっている。特許文献2には、デジタルアイテムに所有権を付与する方法が記載されている。
特開2015-045920号公報 米国特許出願公開第2017/316608号明細書
しかしながら、仮想視点画像生成に使われる1つ以上のデジタルコンテンツの所有権に応じて、その生成方法やデジタルコンテンツの表示処理を制御する方法は開示されていない。
本開示は、仮想視点画像を生成するためのデジタルコンテンツに付与した所有権とシステムのユーザ情報に基づいてコンテンツの表示処理を制御することを可能にする。
本開示の1つの実施態様の情報処理装置は、
第1ユーザのユーザ情報を取得する第1取得手段と、
複数の撮像画像に基づいて生成され前記第1ユーザを現所有者とする素材データと複数の撮像画像に基づいて生成され第2ユーザを現所有者とする素材データとを含む複数の素材データであって、ブロックチェーンに素材データを特定するための情報が記録されている複数の素材データのうち前記第1取得手段により取得された前記ユーザ情報により特定される前記第1ユーザ現所有者とする前記素材データを示す情報を出力する第1出力手段と、
前記第1出力手段により出力された情報により示される前記素材データのうち、前記第1ユーザにより選択された前記素材データを示す情報を取得する第2取得手段と、
前記第2取得手段により取得された情報に対応する前記素材データに基づいて生成された仮想視点画像を出力する第2出力手段と、
を有することを特徴とする。
本開示によれば、仮想視点画像を生成するためのデジタルコンテンツに付与した所有権とシステムのユーザ情報に基づいてコンテンツの表示処理を制御することができる。
実施形態1における画像処理システムの構成図である。 実施形態1におけるコンテンツ表示装置4のハードウェア構成図である。 実施形態1における仮想視点コンテンツを登録する処理の流れを示す図である。 ブロックチェーンのデータ構造を示す図である。 実施形態1における仮想視点コンテンツの販売ステータスを更新する流れを示す図である。 実施形態1におけるユーザが仮想視点コンテンツを購入する際の処理の流れを示す図である。 実施形態1における仮想視点コンテンツの購入画面を示す図である。 実施形態1におけるユーザの所有する仮想視点コンテンツを用いて仮想視点画像を生成する処理を示す図である。 実施形態1における仮想視点画像を生成するための操作画面を示す図である。 実施形態1における選択された仮想視点コンテンツと仮想視点情報に基づいて仮想視点画像を生成する処理を示すフローチャートである。 実施形態2における画像処理システムの構成図である。 実施形態2における仮想視点コンテンツを登録する流れを示す図である。 実施形態2における仮想視点コンテンツの購入画面を示す図である。 実施形態2における仮想視点画像を生成するための操作画面を示す図である。 実施形態2におけるユーザの所有する仮想視点コンテンツを用いて仮想視点画像を生成する処理を示す図である。 実施形態3における仮想カメラ情報および仮想カメラパス情報を仮想視点コンテンツとして登録する流れを示す図である。 実施形態3における仮想視点コンテンツの購入画面を示す図である。 実施形態3における仮想視点画像を生成するための操作画面を示す図である。 実施形態3におけるユーザの所有する仮想視点コンテンツを用いて仮想視点画像を生成する処理を示す図である。
以下、図面を参照して実施形態を詳しく説明する。ただし、本開示は以下の実施形態に限定するものではない。なお、各図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複する説明は省略する。
(実施形態1)
本実施形態では、仮想視点画像を生成するために用いるデジタルコンテンツに非代替性トークンを付与し、それらの所有者情報とユーザ情報に基づいて、デジタルコンテンツの表示処理を制御する方法について述べる。非代替性トークン(Non-Fungible Token:以下、NFTとする)は、ブロックチェーン上に発行・流通するためのトークンの一つである。NFTを活用することで、デジタルコンテンツに唯一無二の価値を持たせることができる。NFTの規格の一例としては、ERC―721やERC―1155と呼ばれるトークン規格がある。
本実施形態における仮想視点画像は、自由視点映像とも呼ばれるものであるが、ユーザが自由に(任意に)指定した視点に対応する画像に限定されず、例えば複数の候補からユーザが選択した視点に対応する画像なども仮想視点画像に含まれる。また、本実施形態では仮想視点の指定がユーザ操作により行われる場合を中心に説明するが、仮想視点の指定が画像解析の結果等に基づいて自動で行われてもよい。また、本実施形態では仮想視点画像が動画である場合を中心に説明するが、仮想視点画像は静止画であってもよい。
仮想視点画像の生成に用いられる視点情報は、仮想視点の位置及び向き(視線方向)を示す情報である。具体的には、視点情報は、仮想視点の3次元位置を表すパラメータと、パン、チルト、及びロール方向における仮想視点の向きを表すパラメータとを含む、パラメータセットである。なお、視点情報の内容は上記に限定されない。例えば、視点情報としてのパラメータセットには、仮想視点の視野の大きさ(画角)を表すパラメータが含まれてもよい。また、視点情報は複数のパラメータセットを有していてもよい。例えば、視点情報が、仮想視点画像の動画を構成する複数のフレームにそれぞれ対応する複数のパラメータセットを有し、連続する複数の時点それぞれにおける仮想視点の位置及び向きを示す情報であってもよい。
仮想視点画像は、例えば以下のような方法で生成される。まず、複数の撮像装置によりそれぞれ異なる方向から撮像することで複数の画像(複数視点画像)が取得される。次に、複数視点画像から、人物やボールなどの所定のオブジェクトに対応する前景領域を抽出した前景画像と、前景領域以外の背景領域を抽出した背景画像が取得される。また、所定のオブジェクトの3次元形状を表す前景モデルと前景モデルに色付けするためのテクスチャデータとが前景画像に基づいて生成され、競技場などの背景の3次元形状を表す背景モデルに色づけするためのテクスチャデータが背景画像に基づいて生成される。そして、前景モデルと背景モデルに対してテクスチャデータをマッピングし、視点情報が示す仮想視点に応じてレンダリングを行うことにより、仮想視点画像が生成される。ただし、仮想視点画像の生成方法はこれに限定されず、3次元モデルを用いずに撮像画像の射影変換により仮想視点画像を生成する方法など、種々の方法を用いることができる。
仮想カメラとは、撮像領域の周囲に実際に設置された複数の撮像装置とは異なる仮想的なカメラであって、仮想視点画像の生成に係る仮想視点を便宜的に説明するための概念である。すなわち、仮想視点画像は、撮像領域に関連付けられる仮想空間内に設定された仮想視点から撮像した画像であるとみなすことができる。そして、仮想的な当該撮像における視点の位置及び向きは仮想カメラの位置及び向きとして表すことができる。言い換えれば、仮想視点画像は、空間内に設定された仮想視点の位置にカメラが存在するものと仮定した場合に、そのカメラにより得られる撮像画像を模擬した画像であると言える。また本実施形態では、経時的な仮想視点の変遷の内容を、仮想カメラパスと表記する。ただし、本実施形態の構成を実現するために仮想カメラの概念を用いることは必須ではない。すなわち、少なくとも空間内における特定の位置を表す情報と向きを表す情報とが設定され、設定された情報に応じて仮想視点画像が生成されればよい。
本実施形態における仮想視点画像を生成するために用いるデジタルコンテンツは、キャラクターの形状モデルと骨格モデル、仮想世界においてキャラクターが存在する空間情報を表す背景形状モデルと背景テクスチャ画像を対象とする。本実施形態において、キャラクターの形状モデルおよび骨格モデルを、それぞれ前景形状モデルおよび前景骨格モデルと呼称する。キャラクターとは、人物やボールなどの所定のオブジェクトである。なお、既存のCGツールを用いて作成される。これらのデジタルコンテンツは、FBXなどに代表されるファイルフォーマットで表す。前景形状モデルは一般的な三角形もしくは四角形を要素とする3次元形状のメッシュモデルとし、各要素の頂点は座標を持つ。前景骨格モデルはキャラクターの腕や足のような部位の関節や、関節間の接続関係を予め定め、その位置や角度によって、キャラクターの3次元姿勢を表現するボーンモデルである。言い換えれば、前景骨格モデルはキャラクターの動き情報を表現する。また、メッシュの各頂点がどの部位に属するかという情報もCGツールなどで予め生成すれば、前景骨格モデルの動きに応じてメッシュモデルを変形できる。つまり、同一被写体の前景形状モデルと前景骨格モデルを組み合わせることにより、経時的な動きを行うメッシュモデルを生成することができる。なお、本実施形態では、前景形状モデルのメッシュには色情報が含まれておらず、コンテンツ表示装置にて設定された色で前景形状モデルのメッシュが表示される。例えば、設定された色がグレーであれば、全ての前景形状モデルのメッシュの各頂点がグレーで表示される。ただし、これに限定されず、デジタルコンテンツの作成者が予め色情報を設定してもよいし、前景形状モデルのメタデータに合わせて色情報を変更してもよい。例えば、バスケットボールの選手を示すキャラクターの前景形状モデルであれば、チームカラーに合わせて色情報を設定する。背景形状モデルの表現方法は前景形状モデルと同様である。背景テクスチャ画像は背景形状モデルの各要素の頂点と画像上の座標との対応関係に基づいてメッシュモデルに貼られる画像であり、BMPやPNGのような一般的な画像フォーマットで表す。背景形状モデルと背景テクスチャ画像は同一の背景モデル(3次元形状オブジェクト)に対応している。言い換えれば、デジタルコンテンツは仮想視点画像を生成するための素材データである。以下、仮想視点画像を生成するために用いるデジタルコンテンツを仮想視点コンテンツと呼称する。
[システム構成]
第1実施形態に関わる画像処理システムについて図面を参照しながら説明する。
図1は、第1実施形態による画像処理システムの構成図である。画像処理システムはデータベースシステム1、ブロックチェーンシステム2、コンテンツ提供装置3,コンテンツ表示装置4から構成される。
データベースシステム1は、前景形状モデル、前景骨格モデル、背景形状モデル、背景テクスチャ画像を保存・管理する。本実施形態において、データベースシステム1は、各仮想視点コンテンツのコンテンツデータとメタデータがそれぞれ保存・管理する。各仮想視点コンテンツのコンテンツデータとは、前景形状モデル、前景骨格モデル、背景形状モデル、背景テクスチャ画像そのものである。各仮想視点コンテンツのメタデータとは、コンテンツデータに付随するデータである。例えば、バスケットボールの選手の前景形状モデルを保存・管理する場合、メタデータは、前景形状モデルがブロックチェーンに登録された日付、前景形状モデルが作成された日付、前景形状モデルの作成者の名前、選手の名称、音声データなどである。さらに、メタデータは、仮想視点コンテンツの販売ステータス(販売の可否と、販売可の場合の販売価格)を含む。仮想視点コンテンツの販売ステータスは、販売不可が初期値として設定されており、現在の所有者が販売ステータスを変更することができる。なお、ユーザ間での取引後は初期値の販売不可に変更されるように設定することにより、仮想視点コンテンツの意図しない売買を防ぐことができる。
ブロックチェーンシステム2は、コンテンツ提供装置3の要求により、仮想視点コンテンツと所有者情報をブロックチェーンに記録する。具体的には、仮想視点コンテンツのコンテンツIDと所有者のユーザID、仮想視点コンテンツに付与するNFTを記録する。詳細は、図5にて記載する。その際、仮想視点コンテンツの作成者が定めた数のNFTを該コンテンツに対して発行する。例えば、500個のNFTを発行した場合、最大500名が該コンテンツを所有できるようになる。即ち、コンテンツの資産価値を向上させるために、例えば配布するコンテンツの数量を制限してシリアル番号で管理するなどして稀少性を持たせることができる。
コンテンツ提供装置3は、ユーザ管理部1300、要求受信部1310、登録部1320、データ取得部1330、レンダリング部1340、配信部1350で構成される情報処理装置である。コンテンツ提供装置3は、ユーザが作成した仮想視点コンテンツをデータベースシステム1に登録したり、データベースシステム1から取得する仮想視点コンテンツにより作成される仮想視点画像をユーザへ配信したりする。ユーザ管理部1300はシステムを使用するユーザのアカウントを新規登録、編集、削除、管理する。管理する情報はユーザID、名前、ユーザの役割、仮想視点コンテンツを売買するための口座情報等が挙げられる。ユーザの役割としては、仮想視点コンテンツを作成し販売する販売者、仮想視点コンテンツに基づいて生成される仮想視点画像を視聴する視聴者、仮想視点画像を配信する配信者等が挙げられる。要求受信部1310は、コンテンツ表示装置4から受信する要求情報に応じて、処理を登録部1320やデータ取得部1330、データ制御部1340に振り分ける。例えば、ユーザが作成した仮想視点コンテンツをデータベースシステム1に登録する場合、コンテンツ登録要求が登録部1320へ送られる。コンテンツ登録要求を登録部1320が受信すると、登録部1320は仮想視点コンテンツのコンテンツデータとメタデータをデータベースシステム1へ送る。また、ユーザが仮想視点コンテンツを購入する場合、要求受信部1310は購入要求を受信する。そして、要求受信部1310は仮想視点コンテンツの取得要求をデータ取得部1330へ送る。データ取得部1330は、仮想視点コンテンツのコンテンツデータとメタデータをデータベースシステム1から取得し、データ制御部1340へ送信する。データ制御部1340は、仮想視点コンテンツのコンテンツデータから、購入画面に表示する簡易的な仮想視点画像の生成に用いる仮想視点コンテンツのコンテンツデータを抽出し、レンダリング部1350に送信する。レンダリング部1350は、仮想視点コンテンツを示す画像や、仮想視点コンテンツと仮想視点情報から生成される仮想視点画像を生成し、配信部1360に送信する。レンダリング部1350が仮想視点画像を生成する方法の一例として、コンテンツデータに基づいて仮想空間上に配置された仮想視点コンテンツを仮想カメラから見た前景画像(被写体領域の画像)と背景画像(被写体を含まない画像)を生成する。そして、生成した背景画像に前景画像を重ねることで仮想視点画像を生成する。配信部1360はレンダリング部1350から取得した画像をコンテンツ表示装置4の画像取得部へ配信する。なお、ユーザが自身の所有する仮想視点コンテンツを選択して仮想視点画像を生成する場合、要求受信部1310は、コンテンツ表示装置4から仮想視点コンテンツの選択情報を受信する。そして、要求自身部1310は、選択情報をデータ制御部1340に送信し、仮想視点画像に表示する仮想視点コンテンツを制御する。選択された仮想視点コンテンツのコンテンツデータをレンダリング部1350に送信し、仮想視点画像を生成する。生成された仮想視点画像はレンダリング部1350から配信部1360に送信される。その後、配信部1360は、仮想視点画像をコンテンツ表示装置4に送信する。
コンテンツ表示装置4は、画像取得部1400、画面表示部1410、操作部1420、制御部1430、要求送信部1440で構成される。コンテンツ表示装置4は、コンテンツの表示処理を制御しながら、ユーザに仮想視点画像の視聴環境を提供する。画像取得部1400は、コンテンツ提供装置3の配信部1360から送信される画像を取得する。取得した画像は制御部1430に送信される。画面表示部1410は、制御部1430から受信した画像を表示する。具体的には、仮想視点コンテンツの視聴画面、コンテンツリスト表示画面、コンテンツ登録画面等をディスプレイに表示する。視聴画面には仮想視点コンテンツのレンダリング結果の画像を表示する領域や、表示方法を選択するGUIが含まれる。コンテンツリスト表示画面には購入したいコンテンツを選択するための一覧が表示される。コンテンツ登録画面には、登録したいデータの場所や購入価格などの情報を入力するGUIが含まれる。操作部1420は、ユーザの入力情報を受け取り、制御部1430に送信する。操作部1420は、例えば、キーボードやマウス、タッチパネルなどである。制御部1430は、画像取得部1400から受信した画像を画面表示部1410に送信する。この際、取得した画像に適宜編集を加えた画像を画面表示部1410に送信してもよい。また、操作部1420から受信する入力情報を要求送信部1440に送信する。要求送信部1440は、制御部1430から受信した要求をコンテンツ提供装置3に送信する。要求はユーザアカウントの新規登録や管理、コンテンツの新規登録や取得・購入、仮想視点操作が挙げられる。以下、本実施形態では、コンテンツ表示装置4は、タッチパネルを有するタブレット端末として説明する。なお、コンテンツ表示装置4はこれに限定されず、ノートPC等のデバイスでもよい。
図2は、コンテンツ表示装置4のハードウェア構成を示す図である。なお、コンテンツ提供装置3のハードウェア構成も同様である。コンテンツ表示装置4は、CPU211、ROM212、RAM213、補助記憶装置214、表示部215、操作部216、通信I/F217、及びバス218を有する。CPU211は、ROM212やRAM213に格納されているコンピュータプログラムやデータを用いてシステムの全体を制御することで、図1に示すコンテンツ表示装置4の各機能を実現する。なお、各システムがCPU211とは異なる1又は複数の専用のハードウェアを有し、CPU211による処理の少なくとも一部を専用のハードウェアが実行してもよい。専用のハードウェアの例としては、ASIC(特定用途向け集積回路)などがある。ROM212は、変更を必要としないプログラムなどを格納する。RAM213は、補助記憶装置214から供給されるプログラムやデータ、及び通信I/F217を介して外部から供給されるデータなどを一時記憶する。補助記憶装置214は、例えば、ハードディスクドライブ等で構成され、画像データや音声データなどの種々のデータを記憶する。
表示部215は、例えば液晶ディスプレイやLED等で構成され、ユーザがシステムを操作するためのGUI(Graphical User Interface)などを表示する。操作部216は、例えばキーボードやマウス、ジョイスティック、タッチパネル等で構成され、ユーザによる操作を受けて各種の指示をCPU211に入力する。CPU211は、表示部215を制御する表示制御部、及び操作部216を制御する操作制御部として動作する。
通信I/F217は、システムの外部の装置との通信に用いられる。例えば、各システムが外部の装置と有線で接続される場合には、通信用のケーブルが通信I/F217に接続される。外部の装置と無線通信する機能を有する場合には、通信I/F217はアンテナを備える。バス218は、各部をつないで情報を伝達する。
本実施形態では表示部215と操作部216がシステムの内部に存在するものとするが、表示部215と操作部216との少なくとも一方がシステムの外部に別の装置として存在していてもよい。
[動作フロー]
図3は、仮想視点コンテンツをデータベースシステム1に登録する処理の流れを示す図である。本実施形態では、仮想視点コンテンツを登録するユーザのアカウントが予め生成されており、ユーザがユーザIDとパスワードを入力することによりログイン処理を行った後の流れを示す。その際、ユーザIDはコンテンツ提供装置3のユーザ管理部1300に記録されているものとする。また、仮想視点コンテンツが予め作成され、コンテンツ表示装置4に保存されているものとする。図5、図6、図7においても、同様の条件であるため、以降省略する。
<S300>
S300において、コンテンツ表示装置4は、登録する仮想視点コンテンツのコンテンツデータとメタデータを、コンテンツ提供装置3に送信する。なお、メタデータには、仮想視点コンテンツに発行するNFTの発行数が含まれる。
<S301>
S301において、コンテンツ提供装置3は、受信した仮想視点コンテンツのコンテンツデータとメタデータが既定の条件を満たすか否か判定する。具体的には、メタデータにデータ種別やNFTの発行数の情報が含まれているかを判定する。なお、データベースシステム1に登録されている仮想視点コンテンツと同じ仮想視点コンテンツか否か判定してもよい。その場合、受信した仮想視点コンテンツのコンテンツデータのハッシュ値と、データベースシステム1に登録されている仮想視点コンテンツのコンテンツデータのハッシュ値とを比較する。ハッシュ値が同じであれば、同じ仮想視点コンテンツとして条件を満たさないと判定し、ハッシュ値が異なれば、異なる仮想視点コンテンツとして条件を満たすと判定する。なお、類似品を判定する学習モデルを作成し、判定させてもよい。本実施形態では、条件を満たしたものとして以降の処理を説明する。
<S302>
S302において、コンテンツ提供装置3は、S301にて条件を満たすと判定した仮想視点コンテンツのコンテンツデータとメタデータをデータベースシステム1に送信する。
<S303>
S303において、データベースシステム1は、S302にて受信した仮想視点コンテンツのコンテンツデータとメタデータを対応付けて登録する。なお、登録する際に、仮想視点コンテンツに対し、コンテンツIDを発行する。コンテンツIDは、仮想視点コンテンツに割り振られるシリアルナンバーであり、データベースシステム1において仮想視点コンテンツを検索する際に使用される。また、仮想視点コンテンツの販売ステータスも初期値で設定される。本ステップにより、データベースシステム1に仮想視点コンテンツを登録することができる。
<S304>
S304において、データベースシステム1は、コンテンツIDをコンテンツ提供装置3に送信する。
<S305>
S305において、コンテンツ提供装置3は、S300にて受信した仮想視点コンテンツに発行するNFTの発行数と、ユーザIDと、コンテンツIDをブロックチェーンシステム2に送信する。
<S306>
S306において、ブロックチェーンシステム2は、S300にて受信したNFTの発行数に基づき、仮想視点コンテンツにNFTを発行し、トランザクションを記録する。トランザクションには、少なくともNFTと所有者情報としてユーザID、仮想視点コンテンツに対応するコンテンツIDが含まれる。本実施形態では、仮想視点コンテンツを登録する処理を行ったユーザのユーザIDを、最初の所有者として記録する。本ステップにより、仮想視点コンテンツの所有者情報をブロックチェーンに記録することができる。
図4は、ブロックチェーンのデータ構造を示す図である。401が最新のブロック、400が一つ前のブロックを示す。各ブロックは、前ブロックのハッシュ値410、ナンス値420、トランザクション430で構成される。ナンス値はブロックを生成するために使用される。トランザクション430には、1以上のトランザクションが記録される。トランザクションは、仮想視点コンテンツの取引を示す情報として、仮想視点コンテンツに対応するNFTと仮想視点コンテンツに対応するコンテンツID、仮想視点コンテンツの所有者情報、例えばユーザIDが記載される(不図示)。また、トランザクションに仮想視点コンテンツの作成者のユーザIDを記録することにより、取引により所有者が変更しても、仮想視点コンテンツの作成者を特定することもできる。なお、スマートコントラクト(NFT購入者への自動契約実行)に関する記述をブロックチェーンに保存し登録しても良い。例えば、スマートコントラクトに作成者のユーザIDと追及権の行使の有無を記述すれば、コンテンツが売買される度に作成者に収益を還元するようにできる。
図5は、ユーザが所有している仮想視点コンテンツの販売ステータスを設定するための処理の流れを示す図である。
<S500>
S500において、コンテンツ表示装置4は、コンテンツ提供装置3にユーザが所有する仮想視点コンテンツの情報を要求する。なお、ユーザが所有するすべての仮想視点コンテンツの情報を要求する必要はなく、例えば、ユーザが所有する前景形状モデルの情報を要求してもよい。また、ユーザが所有する、あるスポーツ選手の前景形状モデルの情報を要求してもよい。
<S501>
S501において、コンテンツ提供装置3は、ユーザIDをブロックチェーンシステム2に送信し、ブロックチェーンシステム2に記録されているトランザクションを照会することにより、ユーザの所有する仮想視点コンテンツを特定する。この際、特定した仮想視点コンテンツのコンテンツIDを取得する。
<S502>
S502において、コンテンツ提供装置3は、S501で取得したコンテンツIDをデータベースシステム1に送信する。コンテンツIDを受信したデータベースシステム1は、コンテンツIDに対応する仮想視点コンテンツのコンテンツデータとメタデータをコンテンツ提供装置3に送信する。
<S503>
S503において、コンテンツ提供装置3は、仮想視点コンテンツのメタデータを示す画像をコンテンツ表示装置4に送信する。なお、本実施形態では、メタデータを示す画像をコンテンツ表示装置4に送信するが、これに限定されず、メタデータそのものを送信してもよいし、コンテンツデータを送信してもよい。
<S504>
S504において、コンテンツ表示装置4は、S503で受信した仮想視点コンテンツのメタデータを示す画像を表示する。ユーザは、この画像を参考に仮想視点コンテンツの販売ステータスを設定する。
<S505>
S505において、コンテンツ表示装置4は、ユーザの操作に基づいて仮想視点コンテンツの販売ステータスを更新する指示を、コンテンツ提供装置3に送信する。
<S506>
S506において、コンテンツ提供装置3は、S505にて受信した販売ステータスの更新指示が条件を満たしているか判定する。例えば、コンテンツ提供装置3にて、仮想視点コンテンツの最低販売価格や最大販売価格の条件を設定し、ユーザが指示した販売ステータスが条件を満たしているかを判定する。なお、本実施形態では、条件を満たしているとして以降の処理を説明する。
<S507>
S507において、コンテンツ提供装置3は、S506にて条件を満たしていると判定された更新指示をデータベースシステム1に送信する。
<S508>
S508において、データベースシステム1は、S507で受信した販売ステータスの更新指示に基づいて、仮想視点コンテンツの販売ステータスを更新する。
上記処理により、ユーザは自身の所有する仮想視点コンテンツの販売ステータスを設定することができる。
図6は、ユーザが仮想視点コンテンツを購入する際の処理の流れを示す図である。
<S600>
S600において、コンテンツ表示装置4は、購入可能な仮想視点コンテンツの要求情報をコンテンツ提供装置3に送信する。なお、要求情報に、データの種別やコンテンツの名称等の要求条件を指定しても構わない。
<S601>
S601において、コンテンツ提供装置3は、ユーザのアカウント情報を確認し、ユーザの購入可能条件を確認する。本実施形態では、例えば、ユーザの購入履歴を確認することで、仮想視点コンテンツの購入回数が2回以下の場合、購入可能な仮想視点コンテンツを一部制限してもする。しかし、これに限定されず、購入可能条件を設けなくてもよいし、ファントークン等を用いてユーザの活動に応じて購入可能な仮想視点コンテンツを決定してもよい。購入可能条件は、ユーザ管理部1300でユーザ毎に管理されているものとする。
<S602>
S602において、コンテンツ提供装置3は、S601にて確認した購入可能条件を含め、データベースシステム1に購入可能な仮想視点コンテンツの要求情報を送信する。
<S603>
S603において、データベースシステム1は、販売ステータスが販売可となっている仮想視点コンテンツを特定する。また、S600にて要求条件を受信している場合は、要求条件を考慮した仮想視点コンテンツを特定する。例えば、A選手のダンクシーンの前景形状モデルとA選手のダンクシーンの前景骨格モデルと指定されている場合、それらに該当するまたは関連する仮想視点コンテンツを特定する。なお、ユーザの購入可能条件を受信している場合は、条件に応じた仮想視点コンテンツを特定する。これらの条件を含め販売ステータスが販売可となっている仮想視点コンテンツを特定する。
<S604>
S604において。データベースシステム1は、特定した販売ステータスが販売可となっている仮想視点コンテンツのコンテンツデータとメタデータをコンテンツ提供装置3に送信する。
<S605>
S605において、コンテンツ提供装置3は、S604にて受信した仮想視点コンテンツのコンテンツデータとメタデータから仮想視点コンテンツを示す画像を生成し、コンテンツ表示装置4に送信する。仮想視点コンテンツを示す画像とは、コンテンツデータとメタデータを両方用いて作成しても良いし、何れか一方のみを用いて作成してもよい。例えば、コンテンツデータが前景形状モデルであり、メタデータに前景形状モデルの作成日と販売価格が含まれる場合、前景形状モデルを示すアイコンと作成日、販売価格を示す画像を生成してもよい。なお、本実施形態では、仮想視点コンテンツを示す画像をコンテンツ表示装置に送信するが、これに限定されず、画像とともにメタデータに含まれる音声データや販売価格の数値データそのものを送信してもよい。
<S606>
S606において、コンテンツ表示装置4は、S605にて受信した購入可能な仮想視点コンテンツを示す画像を表示する。なお、複数の仮想視点コンテンツが購入可能である場合、仮想視点コンテンツを一覧表示してもよい。コンテンツ表示装置4に表示される仮想視点コンテンツの購入画面の詳細は、図7にて説明する。
<S607>
S607において、コンテンツ表示装置4は、ユーザ操作に基づいて、コンテンツ提供装置3に仮想視点コンテンツの購入要求を送信する。
<S608>
S608において、コンテンツ提供装置3は、仮想視点コンテンツの売買が成立したか確認する。例えば、ユーザからの購入処理が完了した場合に売買が成立したとする。購入処理についての説明は省略する。以降のステップでは、売買が成立したものとして説明する。
<S609>
S609において、コンテンツ提供装置3は、データベースシステム1に売買が成立した仮想視点コンテンツの情報を送信する。
<S610>
S610において、データベースシステム1は、売買が成立した仮想視点コンテンツの販売ステータスを初期値に設定する。
<S611>
S611において、コンテンツ提供装置3は、ブロックチェーンシステム2に購入者のユーザIDを送信する。
<S612>
S612において、ブロックチェーンシステム2は、S609で受信したユーザIDを現在の所有者としてトランザクションを記録する。
上記処理により、ユーザが仮想視点コンテンツを購入した際に、データベースシステム1の販売ステータスを更新し、ブロックチェーンシステム2に新たなトランザクションを記録することができる。
図7は、S606において、コンテンツ表示装置4に表示される仮想視点コンテンツの購入画面を示す図である。本実施形態では、複数の仮想視点コンテンツをまとめて1つのコンテンツとして販売するがこれに限定されず、1つの仮想視点コンテンツを販売してもよい。購入画面には、例えば、登録されたコンテンツの名前、仮想視点コンテンツが登録された登録日、コンテンツに含まれるデータ種別の情報が表示される。また、仮想視点コンテンツが特定のスポーツの特定の試合に関する仮想視点コンテンツの場合は、試合日を表示する。例えば、バスケットボールのリーグ開幕戦を撮影した画像に基づいて作成された前景形状モデルと前景骨格モデルであれば、リーグ開幕戦の日にちを試合日として表示する。データ種別を示すアイコン700はコンテンツに前景骨格モデルが含まれることを示す。同様に、アイコン710は前景形状モデルが含まれることを示す。さらに、アイコン720は背景形状モデル、アイコン730は背景テクスチャ画像が含まれることを示す。つまり、Content name1のコンテンツにはキャラクターの前景骨格モデルと前景形状モデルが含まれ、Content name2には背景形状モデルと背景テクスチャ画像が含まれることを示す。そして、Content name3にはキャラクターの前景骨格モデルと前景形状モデル、背景形状モデルと背景テクスチャ画像が含まれることを示す。なお、複数の仮想視点コンテンツがセットとして販売されているが、前景形状モデルと前景骨格モデルが示すキャラクターは同一のキャラクターであり、背景形状モデルと背景テクスチャ画像が示す背景モデルも同一の3次元形状オブジェクトである。NFTが付与された仮想視点コンテンツである場合、残りのコンテンツ数やコンテンツの総数も表示する。なお、各コンテンツにおけるコンテンツの総数は、各コンテンツに含まれる仮想視点コンテンツのNFTの発行数に基づいて設定される。ユーザが購入したいコンテンツとデータ種別をGUIで選択し、購入を決定すると、制御部1430から要求送信部1440に購入要求と購入情報を送信する。購入情報は選択したコンテンツに含まれる仮想視点コンテンツのコンテンツIDとする。
なお、ユーザが各アイコンを選択することにより、各アイコンに対応する仮想視点コンテンツの詳細情報を別途表示してもよい。例えば、アイコン700を選択した場合、アイコン700に対応する前景骨格モデルのキャラクターの名称、前景骨格モデルの作成者の名称などである。また、仮想視点コンテンツのコンテンツデータに基づいて生成される簡易的な情報を表示してもよい。具体的には、前景骨格モデルが20秒間の動きを示す情報である場合は、5秒間の動きを示すボーンモデルの映像を作成し表示してもよい。このようにすることにより、ユーザが販売されているコンテンツに含まれる仮想視点コンテンツの詳細を容易に把握することができる。
図8は、ユーザの所有する仮想視点コンテンツを用いて仮想視点画像を生成する処理の流れを示す図である。なお、S500~S502の処理は図5と同様であるため省略する。
<S800>
S800において、コンテンツ提供装置3は、データベースシステム1から受信した仮想視点コンテンツのコンテンツデータとメタデータから、ユーザの所有する仮想視点コンテンツを示す画像を生成し、コンテンツ表示装置4に送信する。具体的には、仮想視点コンテンツのデータ種別を示すアイコンと仮想視点コンテンツの名称を含む画像を作成し、送信する。
<S801>
S801において、コンテンツ表示装置4は、受信した仮想視点コンテンツを示す画像を表示することにより、ユーザが所有する仮想視点コンテンツのリストを表示する。詳細は図9にて説明する。
<S802>
S802において、コンテンツ表示装置4は、ユーザ操作に基づいて、仮想視点画像の生成に用いる仮想視点コンテンツを選択する。ユーザは、所有する仮想視点コンテンツを示す画像をそれぞれ選択することにより、仮想視点画像の生成に用いる仮想視点コンテンツを選択することができる。このとき、各仮想視点コンテンツのデータ種別に応じて、仮想視点コンテンツの選択に制限を設ける。例えば、選択できる仮想視点コンテンツの個数やデータ種別である。具体的には、仮想視点画像に表示されるキャラクターが一つになるように前景形状モデルと前景骨格モデルが選択できる。また、仮想視点画像に表示される背景モデルが一つになるように背景形状モデルと背景テクスチャ画像が選択できる。さらに、ユーザ操作に基づいて、仮想視点画像を生成するための仮想視点情報を設定する。仮想視点情報は、仮想カメラの位置と向きを示す情報である。本実施形態では、ユーザ操作を容易にするために、選択された仮想視点コンテンツに応じて仮想視点情報を設定する。仮想視点情報の設定に関する詳細は図9にて説明する。
<S803>
S803において、コンテンツ表示装置4は、S802にて選択された仮想視点コンテンツを示す情報と仮想視点情報をコンテンツ提供装置3に送信する。
<S804>
S804において、コンテンツ提供装置3は、選択された仮想視点コンテンツと設定された仮想視点情報に基づいて仮想視点画像を生成する。具体的には、S502において取得した仮想視点コンテンツのコンテンツデータのうち、選択された仮想視点コンテンツのコンテンツデータを仮想空間上に配置し、設定された仮想視点情報に基づいて仮想視点画像を生成する。
<S805>
S805において、コンテンツ提供装置3は、S804で作成した仮想視点画像をコンテンツ表示装置4に送信する。なお、コンテンツ表示装置4は受信した仮想視点画像を表示する。詳細は図9にて説明する。
上記処理により、ユーザは自身の所有する仮想視点コンテンツを選択して、選択した仮想視点コンテンツを用いて生成された仮想視点画像を視聴できる。
図9は、ユーザが仮想視点画像を生成するための操作画面を示す図である。仮想視点画像生成画面900は、レンダリング画像表示領域901と仮想視点コンテンツ選択GUI902で構成される。レンダリング画像表示領域901は、ユーザが選択した仮想視点コンテンツに基づいて作成された仮想視点画像を表示する。仮想視点コンテンツ選択GUI902は、ユーザの所有する仮想視点コンテンツに対応するボタンを表示する。本実施形態では、前景骨格モデルの表示を制御するボタン910、前景形状モデルの表示を制御するボタン911、背景形状モデルの表示を制御するボタン912、背景テクスチャ画像の表示を制御するボタン913で構成される。ユーザは、これらのボタンを押すことにより仮想視点画像の生成に用いる仮想視点コンテンツを選択することができる。本実施形態では、各仮想視点コンテンツに対応するアイコンを各ボタンとして表示する。また、選択されたボタンと選択されていないボタンは区別して表示される。例えば、選択したボタンの輝度や色彩を変更してもよいし、選択されたことを示すアイコンを重畳表示してもよい。さらには、選択されたボタンの周囲を強調表示してもよい。選択された仮想視点コンテンツを用いて生成された仮想視点画像はレンダリング画像表示領域901に表示される。また、仮想視点画像の生成に用いる仮想視点情報(仮想カメラの位置および向き)は、選択した仮想視点コンテンツに応じて操作できるものとする。具体的には、前景骨格モデルまたは前景形状モデルの何れかが選択された場合には、それらに対応する3次元形状オブジェクトを仮想視点画像の中心に捉えるように仮想カメラが操作できる。仮想空間上における3次元形状オブジェクトの重心位置が、仮想カメラの注視点位置に位置するように仮想カメラの位置と向きを制御する。例えば、ユーザは、レンダリング画像表示領域901に対してスライド操作やピンチイン・ピンチアウト操作等のタッチ操作を行うことにより、3次元形状オブジェクトを中心にした球面軌道または円周軌道上で仮想カメラを操作できる。なお、3次元形状オブジェクトが仮想視点画像の中心に維持していれば、仮想カメラの操作は球面軌道や円周軌道に限定されない。前景骨格モデルまたは前景形状モデルの何れかが選択されておらず、背景形状モデルが選択されている場合は、背景形状モデルの重心位置が仮想視点画像の中心に維持するように仮想カメラの位置と向きを変更できる。操作方法は、前景骨格モデルまたは前景形状モデルの何れかが選択された場合と同様である。背景テクスチャ画像のみが選択されている場合は、レンダリング画面表示領域901に背景テクスチャ画像が表示される。背景テクスチャ画像は2次元画像であるため、仮想視点の操作は受け付けない。したがって、ユーザは仮想視点コンテンツ選択GUI902において自身の所有する仮想視点コンテンツを選択し、レンダリング画像表示領域901にタッチ操作を行うことで、所望の仮想視点画像を生成することができる。なお、仮想視点画像の生成に用いる仮想視点コンテンツには条件を設けてもよい。本実施形態では、背景形状モデルおよび背景テクスチャ画像は、それぞれ1つのみ選択可能とする。
図10,コンテンツ提供装置3が、選択された仮想視点コンテンツと仮想視点情報に基づいて仮想視点画像を生成する処理を示すフローチャートである。
<S1000>
S1000において、コンテンツ提供装置3は、コンテンツ表示装置4にユーザが所有する仮想視点コンテンツを示す画像を送信する。コンテンツ表示装置4は、受信した仮想視点コンテンツを示す画像を一覧表示する。
<S1001>
S1000において、コンテンツ提供装置3は、コンテンツ表示装置4から仮想視点コンテンツの選択情報を取得する。仮想視点コンテンツの選択情報は、ユーザによってどの仮想視点コンテンツが選択されたかを示す情報である。選択情報を受信しない場合は、選択情報を受信するまで待機する。
<S1002>
S1002において、コンテンツ提供装置3は、S1001にて受信した仮想視点コンテンツの選択情報から前景骨格モデルまたは前景形状モデルが選択されたか判定する。前景骨格モデルまたは前景形状モデルが選択されている場合は、S1003に進む。前景骨格モデルまたは前景形状モデルが選択されていない場合は、S1004に進む。
<S1003>
S1003において、コンテンツ提供装置3は、選択された前景骨格モデルまたは前景形状モデルを仮想空間上に配置し、仮想カメラの注視点位置を前景骨格モデルまたは前景形状モデルの重心位置になるように仮想視点情報を設定する。なお、前景骨格モデルまたは前景形状モデルに向きが存在する場合は、仮想カメラは前景骨格モデルまたは前景形状モデルの正面に位置するように設定される。
<S1004>
S1004において、コンテンツ提供装置3は、S1001にて受信した仮想視点コンテンツの選択情報から背景形状モデルが選択されたか判定する。背景形状モデルが選択されている場合は、S1005に進む。背景形状モデルが選択されていない場合は、S1010に進む。
<S1005>
S1005において、コンテンツ提供装置3は、選択された背景形状モデルを仮想空間上に配置し、仮想カメラの注視点位置を背景形状モデルの重心位置になるように仮想視点情報を設定する。なお、背景形状モデルに向きが存在する場合は、仮想カメラは背景形状モデルの正面に位置するように設定される。
<S1006>
S1006において、コンテンツ提供装置3は、選択された仮想視点コンテンツと仮想視点情報に基づいて仮想視点画像を生成する。下記、選択された仮想視点コンテンツによって生成される仮想視点画像を説明する。
ユーザにより、前景骨格モデルのみが選択された場合は、前景骨格モデルに既存のCGレンダリング方法を用いることで仮想視点画像を生成する。なお、前景骨格モデルはキャラクターの動きを表す情報である。そのため、予め大きさの異なるボーンモデルをいくつか生成しておき、前景骨格モデルのキャラクターの体型に近いボーンモデルに動き情報を適用させる。したがって、ユーザが前景骨格モデルを選択した際に生成される仮想視点画像は、ボーンモデルに前景骨格モデルの動き情報を適用させた画像である。これにより、ユーザは前景骨格モデルに基づいた関節位置や関節の接続関係をCG表示した結果を視聴できる。
ユーザにより、前景形状モデルのみが選択された場合は、前景形状モデルに既存のCGレンダリング方法を用いることで仮想視点画像を生成する。これにより、ユーザは前景形状モデルをポリゴンやワイヤフレーム方法のようなCG表示した結果を視聴できる。
ユーザにより、同じキャラクターに対応する前景骨格モデルと前景形状モデルが選択された場合は、前景骨格モデルの関節位置や角度情報を用いて前景形状モデルを変形し、既存のCGレンダリング方法を用いて仮想視点画像を生成する。これにより、ユーザは前景形状モデルに動きを付けたアニメーションを視聴できる。
ユーザにより、背景形状モデルのみが選択された場合は、背景形状モデルをポリゴンやワイヤフレーム方式でレンダリングし、仮想視点画像を生成する。これにより、ユーザは背景形状モデルをCG表示した結果を視聴できる。
ユーザにより、同じ背景モデルに対応する背景形状モデルと背景テクスチャ画像が選択された場合は、背景形状モデルに背景テクスチャ画像をテクスチャマッピング手法によりレンダリングすることで仮想視点画像を生成する。これにより、ユーザは背景形状モデルに背景テクスチャ画像を張り付けた表示結果を視聴できる。
ユーザにより、同じキャラクターの前景骨格モデルと前景形状モデル、同じ背景モデルに対応する背景形状モデルと背景テクスチャ画像が選択された場合、それぞれを組み合わせた仮想視点画像を生成する。具体的には、背景形状モデルに背景テクスチャ画像をマッピングした背景モデルを仮想空間上に配置し、前景形状モデルに前景骨格モデルによるアニメーションを付けたキャラクターを組み合わせて仮想視点画像を生成する。キャラクターを仮想空間上のどこに配置するかについては、背景モデル毎に異なり、予め背景形状モデルに規定されているものとする。これにより、ユーザは背景モデルが配置された仮想空間内で動くキャラクターをCG表示した画像を視聴できる。なお、本実施形態では、背景形状モデルにキャラクターを配置する位置が設定されているものとしたが、これに限定されない。ユーザ操作によりキャラクターを配置する位置を設定できるようにしてもよい。その場合、キャラクターを配置する仮想空間上の位置やキャラクターの向きを示す配置情報をコンテンツ提供装置3に送信する。
<S1007>
S1007において、コンテンツ提供装置3は、S1006にて生成した仮想視点画像をコンテンツ表示装置4に送信する。
<S1008>
S1008において、コンテンツ提供装置3は、コンテンツ表示装置4から仮想カメラを指定する仮想視点情報を受信したか判定する。つまり、S1001にて受信した選択情報に前景骨格モデル、前景形状モデル、背景骨格モデルのいずれかが含まれている場合、コンテンツ表示装置4からユーザによる仮想カメラの操作情報を受け付けることになる。言い換えれば、3次元形状オブジェクトを仮想空間上に配置する仮想視点コンテンツが選択された場合には、ユーザによる仮想カメラの操作を受け付けることになる。仮想カメラの操作情報を受信した場合はS1009に進み、受信しない場合は本処理を終了する。なお、これに限定されず、受信しない場合は、S1001に進むようにして本処理をループさせるようにしてもよい。
<S1009>
S1009において、コンテンツ提供装置3は、受信した操作情報を基に仮想視点情報を更新する。なお、仮想視点操作の更新には制限が設けられており、受信した操作情報をそのまま仮想視点情報に反映せず、選択した仮想視点コンテンツを仮想視点画像の中心に位置するように操作情報を修正して仮想視点情報を更新する。例えば、3次元形状オブジェクトを中心にした球面軌道または円周軌道上に仮想カメラが位置するように操作情報を修正して仮想視点情報を更新する。その後、S1006に進む。
<S1010>
S1010において、コンテンツ提供装置3は、選択された背景テクスチャ画像をコンテンツ表示装置4に送信する。本実施形態では、仮想視点コンテンツのデータ種別を前景骨格モデル、前景形状モデル、背景形状モデル、背景テクスチャ画像としているため、S1002およびS1004の処理により、選択情報に背景テクスチャ画像のみが含まれていると判定できる。背景テクスチャ画像は、2次元の画像であるため仮想視点を設定する必要はなく、そのままコンテンツ表示装置4に送信する。
上記処理により、ユーザは自身の所有する仮想視点コンテンツの中から特定の仮想視点コンテンツを選択し、選択した仮想視点コンテンツを用いて仮想視点画像を生成する。このようにすることにより、ユーザは仮想視点コンテンツを所有するだけでなく、所有する仮想視点コンテンツを組み合わせて所望する仮想視点画像を生成することができる。
なお、仮想視点画像の生成に用いるキャラクターを一人として説明したがこれに限定されない。複数のキャラクターを表示する仮想視点画像を生成してもよい。その場合、ユーザは各キャラクターの設置位置と向きを設定できる。さらに、仮想視点画像の中心に位置させるキャラクターを選択することにより、仮想視点の位置および視線方向を決定する。具体的には、選択したキャラクターを中心に、仮想視点の位置および視線方向を設定できる。
本実施形態により、予め作られた前景骨格モデルと前景形状モデル、背景形状モデル、背景テクスチャ画像をデータベースシステムに保存およびブロックチェーンに記録できる。さらに、ブロックチェーンの記録からユーザの仮想視点コンテンツの所有状況を確認し、所有状況に基づき表示方法を制御することにより、コンテンツ提供装置3はコンテンツ制作者の権利を守りつつ、コンテンツ所有者にコンテンツを表示できる。また、コンテンツ所有者は、自身の所有する仮想視点コンテンツを組み合わせることにより、所望の仮想視点画像を生成することができる。
本実施形態では、前景形状モデルのメッシュには色情報が含まれていない場合を記載したが、これに限定されず、コンテンツ制作者が予め色情報を設定してもよい。また、コンテンツ所有者が色情報を設定してもよい。
本実施形態では、ブロックチェーンにデータベース上での仮想視点コンテンツのコンテンツデータに紐づけられたコンテンツIDを記録したが、これに限定されない。仮想視点コンテンツのメタデータの場所を示す情報(URI)を記録してもよい。その場合、メタデータ中にコンテンツIDが保存される。
(実施形態2)
実施形態1では、仮想視点コンテンツが既存のCGツールを用いて作成される場合において説明した。本実施形態では、被写体を複数カメラで撮影する多視点カメラ撮影システムと仮想視点コンテンツ生成システムで仮想視点コンテンツを生成する。本実施形態における仮想視点画像を生成するために用いる仮想視点コンテンツにおいて、前景形状モデルと前景骨格モデルは多視点カメラによって撮影した被写体の画像から生成されるものとする。また、前景形状モデルに張り付ける前景テクスチャ画像も仮想視点コンテンツに含む。背景形状モデルと背景テクスチャ画像も実画像に基づいて作成されたものとするが、これに限定されず実施形態1と同様にCGツールを用いて作成されてもよい。
[システム構成]
第2実施形態に関わる画像処理システムについて図面を参照しながら説明する。
図11は、第2実施形態における画像処理システムの構成図である。図1に記載の画像処理システムの構成図に加えて、多視点カメラ撮影システム5、仮想視点コンテンツ生成システム6から構成される。
多視点カメラ撮影システム5は撮像装置と画像処理装置で構成される。撮像装置は、異なる方向から被写体を撮影する複数のカメラで構成される。各カメラは、カメラを識別するための識別番号を持つ。複数カメラは、被写体を取り囲むようにそれぞれ異なる位置・異なる方向に設置される。なお、カメラは被写体の全周にわたって設置されなくてもよく、設置場所の制限等によっては一部の方向にのみ設置されてもよい。カメラの数は限定されず、例えばサッカーやラグビーを撮影する場合、競技場の周囲に数十~数百台程度のカメラが設置されてもよい。望遠カメラと広角カメラなど画角が異なるカメラが設置されてもよい。複数カメラは現実世界の1つの時刻情報で同期され、撮像した映像には毎フレームの画像に撮像時刻情報が付与される。画像処理装置は、カメラの撮像画像から前景画像を生成する。前景画像とは、撮像画像から、被写体領域(前景領域)を抽出することにより生成される画像である。前景領域として抽出される被写体は、一般的に、時系列に撮像を行った場合において動きのある(その位置や形が変化し得る)動的被写体(動体)を指す。動的被写体の例としては、競技において、それが行われるフィールド内にいる選手や審判などの人物、球技であれば人物に加えボールなどもあげられる。また、コンサートやエンタテイメントにおいては、歌手、演奏者、パフォーマー、司会者などが被写体である。なお、本実施形態では、撮像装置が1つのカメラと1つの画像処理装置を有する、すなわち1つのカメラに1つの画像処理装置が設けられているとして説明した。1つの画像処理装置に複数のカメラが接続されてもよい。さらに、画像処理装置は、カメラの異常を検知する手段を併せ持ち、異常の有無を知らせる異常情報を、形状推定装置2へ送る。カメラの異常とは、例えば、熱や振動など一般的なセンサの値を評価することで検知できる。
また、画像処理装置は、カメラの位置、姿勢(向き、撮像方向)、焦点距離、光学中心、歪み、F値などの状態情報を保持する。カメラの位置、姿勢(向き、撮像方向)は、画像処理装置により制御される。以下では、カメラの状態をカメラパラメータとして説明を行うが、そのパラメータには、雲台等の別の装置により制御されるパラメータが含まれていてもよい。カメラの位置、姿勢(向き、撮像方向)に関するカメラパラメータは、いわゆる外部パラメータである。カメラの焦点距離、画像中心、歪みに関するパラメータは、いわゆる内部パラメータである。カメラの位置と姿勢は、3次元座標空間の原点とXw軸、Yw軸、Zwで表現された1つの世界座標系で表現される。また、カメラの撮像画像におけるカメラ画像座標系(以下、画像座標系という)は、2次元座標原点と、Xi軸、Yi軸で表される。
仮想視点コンテンツ生成システム6は、多視点カメラ撮影システム5の撮影装置で写した被写体の3次元形状を推定する。そのために、多視点カメラ撮影システム5の画像処理装置から各カメラの前景画像とカメラパラメータを取得する。もしくは、各カメラのカメラパラメータを算出するようにしてもよい。この場合、例えば、仮想視点コンテンツ生成システム6は、あらかじめ各カメラで撮像したカメラ校正用のマーカ画像(例えば、チェッカーボード)から特徴点を抽出し対応付ける。そして、対応点を各カメラに投影した時の誤差が最小になるように最適化しながら、各カメラを校正することでカメラパラメータを算出する。校正方法は既存のいかなる方法であってもよい。なお、カメラパラメータは、撮像画像に同期して取得されてもよいし、事前準備の段階で取得されてもよいし、必要に応じて撮像画像に非同期で取得されてもよい。仮想視点コンテンツ生成システム6は、前景画像とカメラパラメータに基づいて被写体の前景形状モデルを推定する。前景形状モデルは、例えば、視体積交差法(shape from silhouette)により推定する。この処理の結果、被写体の前景形状モデルを表現した点群情報を得る。各点の座標は、例えば、カメラの外部パラメータの座標系と同じ座標系(世界座標系)で表現する。さらに、得られた点群を隣接点の有無に基づく一般的な3次元ラベリング手法で処理することで、被写体毎の点群情報に分割する。各点にはラベリング結果である被写体IDが付与され、該IDを指定することにより、被写体毎の点群情報が得られる。さらに、得られた点群情報に対して、Marching Cubes法をかけることで、点群情報を三角パッチの集合として表現できる。そして、各三角パッチの法線と各カメラの視線ベクトルを基に三角パッチの最も正面らしい位置にあるカメラを選択し、三角パッチを射影することでテクスチャ情報が得られる。このようにすることで、被写体毎に三角パッチで表現された前景形状モデルと前景テクスチャ画像が生成できる。形状推定方法はこれ以外の一般的な方法を用いてもよい。前景骨格モデルの推定は骨格モデルに対応した標準形状モデルを各カメラに射影した画像上の領域と前景領域とが一致するように変形させ、最も一致した際の骨格情報を前景骨格モデルとして推定する。前景骨格モデルの推定方法はこれに限定されず、2次元画像上で2次元の骨格情報を推定し、各カメラとの対応に基づいて、3次元の骨格モデルを推定する方法など、種々の方法を用いてもよい。運動情報には、例えば、ピッチャーの腕の速度や、サッカー選手の足の速度、選手の走行距離などの情報が挙げられる。被写体の走行距離は各フレームの骨格モデルにおける関節の3次元位置を用いて同じ被写体であることを判定し、被写体位置を追跡し続けることで算出することが可能である。仮想視点コンテンツ生成システム6で生成される仮想視点コンテンツは、コンテンツ提供装置3のデータ取得部1330に送信される。その後、データ制御部1340を介して登録部1320に送信し、データベースシステム1に保存およびブロックチェーンシステム2に記録される。
[動作フロー]
図12は、多視点カメラ撮影システム5にて撮影した画像から生成される仮想視点コンテンツを登録する流れを示す図である。なお、S301からS306の処理は図3と同様であるため省略する。
<S12000>
S12000において、多視点カメラ撮影システム5は、全カメラから撮影した画像から前景画像を抽出する。
<S12001>
S12001において、多視点カメラ撮影システム5は、S12000にて抽出した全カメラの前景画像を仮想視点コンテンツ生成システム6に送信する。
<S12002>
S12002において、仮想視点コンテンツ生成システム6は、S12001にて受信した前景画像に基づいて被写体の前景形状モデルと前景骨格モデル、前景テクスチャ画像を生成する。
<S12003>
S12003において、仮想視点コンテンツ生成システム6は、生成した前景形状モデルと前景骨格モデル、前景テクスチャ画像を、コンテンツ提供装置3を介してデータベースシステム1に送信する。なお、コンテンツ提供装置3を介さずデータベースシステム1に直接送信してもよい。
本処理により、多視点カメラ撮影システム5および仮想視点コンテンツ生成システム6で生成された仮想視点コンテンツをデータベースシステム1に登録し、ブロックチェーンシステム2に記録することができる。
図13は、コンテンツ表示装置4に表示される仮想視点コンテンツの購入画面を示す図である。実施形態1と異なり、新たに多視点カメラ撮影システム5および仮想視点コンテンツ生成システム6より生成された仮想視点コンテンツのデータ種別を示すアイコンが表示される。つまり、実画像から生成された仮想視点コンテンツと既存のCGツールなどで作成された仮想視点コンテンツは異なるデータ種別の仮想視点コンテンツとして表示する。アイコン13000は実画像から生成された前景形状モデルが含まれることを示す。同様に、アイコン13010は該前景形状モデルに貼られる前景テクスチャ画像が含まれることを示す。また、アイコン13020は、Content name5のコンテンツに被写体画像から推定した前景骨格モデルが含まれることを示す。
図14は、仮想視点画像を生成するための操作画面を示す図である。図9の操作画面に加えて、仮想視点コンテンツ選択GUIにボタン14010、ボタン14011、ボタン14012が追加される。各ボタンは、実画像から生成された前景形状モデルの表示を制御するボタン14010、実画像から生成された前景テクスチャ画像の表示を制御するボタン14011、実画像から生成された前景骨格モデルの表示を制御する14012である。また、上記ボタンを押すことによって、実画像から生成された前景形状モデルおよび実画像から生成された前景骨格モデルが選択された場合、レンダリング画像表示領域901に対してタッチ操作を行うことで仮想カメラを操作することができる。本実施形態では、前景形状モデルが選択されていなければ、前景テクスチャ画像は選択できないように制御される。
図15は、ユーザが所有する実画像から生成された仮想視点コンテンツを用いて仮想視点画像を生成する処理を示す図である。なお、S1000~S1005、S1007~S1010は図10と同様であるため省略する。
<S1500>
S1500において、図10のS1006に加えて、ユーザが前景テクスチャ画像を選択した際の処理について記載する。なお、前景形状モデルが選択されていることを条件に、前景テクスチャ画像を選択できるものとする。ユーザにより、前景形状モデルと前景テクスチャ画像が選択された場合、前景形状モデルに前景テクスチャ画像をテクスチャマッピング手法によりレンダリングすることで仮想視点画像を生成する。これにより、ユーザは実画像から生成された被写体の仮想視点画像を生成できる。
本実施形態により、多視点カメラで撮影された多視点カメラ画像から生成された被写体の前景形状モデルと前景骨格モデル、前景テクスチャ画像を用いて、仮想視点画像を生成できる。言い換えれば、実画像から生成される仮想視点コンテンツを組み合わせて仮想視点画像を生成できる。
(実施形態3)
実施形態1および実施形態2では、仮想視点コンテンツの位置が仮想視点画像の中心に位置するように仮想カメラの操作が制限された。しかしながら、複数のキャラクターを仮想空間上に配置する場合において、特定のキャラクターを中心に仮想カメラの位置と向きを決定すると選択した全てのキャラクターを仮想視点画像内に表示できないことがある。また、ユーザの所望する画角にてキャラクターを映す仮想視点画像を生成することができないことがある。本実施形態では、仮想視点画像を生成するための仮想カメラ情報に非代替性トークンを付与し、その所有者情報とユーザ情報に基づいて、仮想視点画像の表示に関わる処理を制御する方法について述べる。本実施形態における仮想視点コンテンツは、実施形態1および実施形態2の仮想視点コンテンツに加えて、仮想カメラ情報とする。仮想カメラ情報には仮想カメラの外部パラメータと内部パラメータ、コンテンツを特定する情報を含む。また、仮想カメラパス情報を仮想視点コンテンツに含んでもよい。仮想カメラパス情報は仮想カメラ情報に時刻情報を加えた情報であって、仮想カメラのカメラワークを表現できる。言い換えれば、仮想カメラパス情報は、仮想カメラの軌跡を表現できる。
[システム構成]
実施形態3における画像処理システムは、図11と同様であるため省略する。
[動作フロー]
図16は、仮想カメラ情報および仮想カメラパス情報を仮想視点コンテンツとして登録する処理を示す図である。なお、S301~S306は、図3と同様であるため説明は省略する。
<S1600>
S1600において、コンテンツ提供装置3は、仮想カメラ情報の仮想視点コンテンツを生成する。本実施形態では、仮想カメラ操作権と仮想カメラパスを仮想カメラ情報とする。仮想カメラ操作権は、視聴者が仮想カメラを操作しながら、自由な視点で仮想視点画像を視聴する権利である。ユーザが所有している仮想カメラ操作権を選択すると、実施形態1および実施形態2と異なり、制限なしに仮想カメラを操作することができる。仮想カメラ操作権のコンテンツデータとして、仮想カメラ操作権を示す画像または3次元形状オブジェクトを生成する。メタデータとして、制限なしに仮想カメラを自由に操作できる操作条件と発行数を生成する。例えば、操作条件にバスケットボールに関する仮想視点コンテンツと設定されている場合、バスケットボールに関する仮想視点コンテンツが選択されている場合のみ、仮想カメラの制限をなしにする。または、特定のキャラクターに関する仮想視点コンテンツに対して制限なしにしてもよいし、操作条件を設けなくてもよい。仮想カメラパスは、仮想カメラの位置と向きの軌跡である。ユーザが所有している仮想カメラパスを選択すると、設定された仮想カメラパス上を仮想カメラが移動する。または、仮想カメラパス上を仮想カメラが移動するように操作可能としてもよい。
図17は、コンテンツ表示装置4に表示される仮想視点コンテンツの購入画面を示す図である。実施形態1および実施形態2と異なり、新たに仮想カメラ情報を示すアイコンが表示される。データ種別を示すアイコン17000はコンテンツに被写体の前景形状モデルが含まれることを示す。同様に、アイコン17010は多視点カメラを構成する実カメラの画像が含まれることを示す。さらに、アイコン17020は、コンテンツに仮想カメラ操作権が含まれることを示す。アイコン17030は、コンテンツに仮想カメラパス情報が含まれることを示す。アイコン17040は、コンテンツに仮想視点画像の視聴権が含まれることを示す。ユーザは該視聴権を購入することで、システムが定めた仮想カメラ情報で生成された仮想視点画像を視聴できる。ただし、仮想カメラを操作することはできない。また、ユーザは別の仮想カメラパスを購入することで、既に購入した前景形状モデルと前景画像から別の仮想カメラパス情報を用いて生成した仮想視点画像を視聴できる。この場合、ユーザはコンテンツリスト表示画面から仮想カメラパス情報を選択する。選択の際、例えば、同コンテンツのタイムコードを含む、仮想カメラパスの一覧をコンテンツ提供装置より取得することで、仮想カメラパス情報を選択する。そして、選択した仮想カメラパス情報を用いて仮想視点画像を生成し、表示することで、ユーザは他の仮想カメラパス情報を用いた仮想視点画像を視聴できる。視聴権を持つユーザ向けの画像を生成するために利用される仮想カメラ情報は、例えば、配信権限を持たせたユーザが操作した仮想カメラ情報とする。
図18は、仮想視点画像を生成するための操作画面を示す図である。図9の操作画面に加えて、仮想視点コンテンツ選択GUIにボタン18010、ボタン18011、ボタン18012、ボタン18013、ボタン18014が追加される。各ボタンは、被写体の前景形状モデルの表示を制御するボタン18010、実カメラの画像の表示を制御するボタン18011で構成される。さらに、仮想視点の操作が可能であることを示すボタン18012、仮想カメラパス情報を用いた仮想視点画像の表示を制御するボタン18013、仮想視点画像の視聴権を有することを示すボタン18014でも構成される。なお、仮想カメラ操作権に操作条件が設定されている場合、操作条件を満たす場合のみボタン18012を押して選択することができる。
図19は、ユーザが所有する仮想カメラ情報を含む仮想視点コンテンツを用いて仮想視点画像を生成する処理を示す図である。なお、S1000~S1005、S1007~S1010は図10と同様、S1500は図15と同様であるため省略する。また、仮想カメラ操作権の操作条件は満たしているものとする。
<S1900>
S1900において、コンテンツ提供装置3は、S1001にて受信した仮想視点コンテンツの選択情報から仮想カメラ操作権が選択されているか判定する。仮想カメラ操作権が選択されている場合は、S1901に進む。仮想カメラ操作権が選択されていない場合は、S1902に進む。
<S1901>
S1901において、コンテンツ提供装置3は、S1008にて受信した仮想カメラの操作情報をそのまま仮想視点情報に反映する。このようにすることにより、実施形態1および実施形態2と異なり、ユーザが自由に仮想カメラを操作することができる。その後、S1500に進む。
<S1902>
S1902において、コンテンツ提供装置3は、S1001にて受信した仮想視点コンテンツの選択情報から仮想カメラパス情報が選択されているか判定する。仮想カメラパス情報が選択されている場合は、S1903に進む。仮想カメラパス情報が選択されていない場合は、S1904に進む。
<S1903>
S1903において、コンテンツ提供装置3は、仮想カメラパス情報に従って仮想視点情報を更新する。ただしこれに限定されず、仮想カメラパス上に沿って仮想カメラを操作できるようにしてもよい。その後、S1500に進む。
<S1904>
S1904において、コンテンツ提供装置3は、仮想視点コンテンツを仮想視点画像の中心に位置するように仮想カメラの操作を更新する。その後、S1500に進む。
上記処理により、ユーザが仮想カメラの操作権を所有する場合は、自由に仮想カメラを操作でき、所望の位置と向きから撮影した仮想視点画像を生成することができる。また、ユーザが仮想カメラパス情報を所有する場合は、予め設定された位置と向きに仮想カメラが設定され、仮想カメラの動きにあわせて仮想視点コンテンツを仮想空間上に配置することができる。
本実施形態により、画像処理システムは仮想視点画像生成のためのコンテンツの作成者の権利を守りつつ、仮想カメラ情報の操作権と仮想カメラパス情報の所有者情報とシステムのユーザ情報に応じて、視聴者に自由な視点での仮想視点画像視聴環境を提供できる。また、仮想視点画像の視聴権の所有者情報とユーザ情報に応じて、視聴者に配信者が設定した仮想カメラ情報に基づく仮想視点画像視聴環境を提供できる。
上記の実施形態では、仮想視点画像を生成するために用いる仮想視点コンテンツにNFTを付与することを記載したが、これに限定されない。仮想視点コンテンツにNFTを付与しない場合、データベースシステムに仮想視点コンテンツとその仮想視点コンテンツの所有者情報を対応付けて記憶してもよい。
以上、本開示を複数の実施形態に基づいて詳述してきたが、本開示は上記実施形態に限定されるものではなく、本開示の主旨に基づき種々の変形が可能であり、それらを本開示の範囲から除外するものでない。例えば、以上の実施形態1~4を適宜組み合わせてもよい。
尚、本実施形態における制御の一部または全部を上述した実施形態の機能を実現するコンピュータプログラムをネットワーク又は各種記憶媒体を介して画像処理システム等に供給するようにしてもよい。そしてその画像処理システム等におけるコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行するようにしてもよい。その場合、そのプログラム、および該プログラムを記憶した記憶媒体は本開示を構成することとなる。
尚、本実施形態の開示は、以下の構成、方法およびプログラムを含む。
(構成1)第1ユーザのユーザ情報を取得する第1取得手段と、
複数の撮像装置により撮像された複数の撮像画像に基づいて生成される前記素材データであって、前記第1ユーザを現所有者とする1以上の前記素材データと第2ユーザを現所有者とする1以上の前記素材データとがブロックチェーンに記録されている複数の前記素材データにおいて、前記第1ユーザが現所有者である前記素材データを示す情報を出力する第1出力手段と、
前記第1出力手段により出力された前記素材データを示す情報のうち、前記ユーザにより選択された前記素材データを示す情報を取得する第2取得手段と、
前記第2取得手段により取得された前記素材データを示す情報に対応する前記素材データに基づいて生成された仮想視点画像を出力する出力手段と、
を有することを特徴とする装置。
(構成2)前記素材データは、前記複数の撮像装置により撮像される被写体の形状モデルおよび骨格モデルの少なくとも何れかであることを特徴とする構成1に記載の装置。
(構成3)前記形状モデルは、前記撮像装置により撮像される前記被写体の3次元形状のメッシュモデルであることを特徴とする構成2に記載の装置。
(構成4)前記骨格モデルは、前記撮像装置により撮像される前記被写体の経時的な動きを示すボーンモデルであることを特徴とする構成2に記載の装置。
(構成5)前記選択手段により選択される前記素材データが同一被写体の前記形状モデルおよび前記骨格モデルである場合、前記仮想視点画像は前記同一被写体の経時的な動きを示すメッシュモデルを含むことを特徴とする構成2に記載の装置。
(構成6)前記素材データは、非代替性トークンが紐づけられていることを特徴とする構成1乃至5の何れか1項に記載の装置。
(構成7)前記第2取得手段は、仮想視点画像を生成するための仮想視点の位置および仮想視点からの視線方向を示す仮想視点情報を取得し、
前記出力手段は、前記第2取得手段により取得された前記素材データを示す情報に対応する前記素材データと前記仮想視点情報とに基づいて生成された仮想視点画像を出力することを特徴とする構成1乃至6の何れか1項に記載の装置。
(構成8)前記第2取得手段は、前記ユーザにより選択された前記素材データを配置する仮想空間上の位置と向きを示す配置情報を取得し、
前記出力手段は、前記第2取得手段により取得された前記素材データを示す情報に対応する前記素材データと前記配置情報とに基づいて生成された仮想視点画像を出力することを特徴とする構成1乃至7の何れか1項に記載の装置。
(構成9)複数の撮像装置により撮像された複数の撮像画像に基づいて生成された素材データであって、ユーザが所有する複数の素材データのうち、ユーザ操作に基づいて特定の素材データを選択する選択手段と、
前記選択手段により選択された前記特定の素材データを示す情報を出力する出力手段と、
前記選択された前記特定の素材データに基づいて生成された仮想視点画像を表示する制御を行う表示制御手段と
を有することを特徴とする装置。
(構成10)更に、仮想視点画像に対応する仮想カメラを操作する操作手段を有し、
前記仮想視点画像は、前記仮想カメラの位置および向きと前記選択された特定の素材データとに基づいて生成されることを特徴とする構成9に記載の装置。
(構成11)前記素材データは、仮想カメラの操作権であって、
前記操作手段は、前記選択手段により前記仮想カメラの操作権が選択されてない場合、前記選択された特定の素材データが仮想視点画像の中心に位置するように前記仮想カメラの位置および向きの操作を制限され、前記選択手段により前記仮想カメラの操作権が選択されている場合、前記制限なしに仮想カメラの位置および向きを操作できることを特徴とする構成10に記載の装置。
(構成12)前記素材データは、仮想カメラパスであって、
前記操作手段は、前記選択手段により前記仮想カメラパスが選択されてない場合、前記選択された特定の素材データが仮想視点画像の中心に位置するように前記仮想カメラの位置および向きの操作を制限され、前記選択手段により前記仮想カメラパスが選択されている場合、前記仮想カメラの位置が前記仮想カメラパス上にあり、前記仮想カメラの向きを操作できることを特徴とする構成10に記載の装置。
(構成13)更に、前記素材データを仮想空間上に配置する位置および前記素材データの向きを指定する指定手段を有することを特徴とする構成9乃至11の何れか1項に記載の装置。
(構成14)前記表示制御手段は、前記素材データに対応するアイコンを表示する制御を行い、
前記選択手段は、前記素材データに対応するアイコンに対するユーザ操作に基づいて、前記特定の素材データを選択することを特徴とする構成9乃至13の何れか1項に記載の装置。
(構成15)前記選択手段は、前記素材データに対応するアイコンに対するユーザのタッチ操作に基づいて、前記特定の素材データを選択することを特徴とする構成14に記載の装置。
(構成16)前記表示制御手段は、前記選択手段により選択された前記素材データに対応するアイコンと選択されていない前記素材データに対応するアイコンを区別して表示する制御を行うことを特徴とする構成14又は15に記載の装置。
(構成17)前記表示制御手段は、前記選択手段により選択された前記素材データに対応するアイコンに、選択されたことを示すアイコンを重畳表示する制御を行うことを特徴とする構成16に記載の装置。
(構成18)前記表示制御手段は、前記素材データのデータ種別に応じたアイコンを表示することを特徴とする構成14乃至17の何れか1項に記載の装置。
(構成19)前記データ種別は、被写体の3次元形状モデル、被写体の骨格モデル、仮想カメラの操作権、仮想カメラパスの少なくとも何れかであることを特徴とする構成18に記載の装置。
(構成20)複数の撮像装置により撮像される複数の撮像画像に基づいて生成される素材データであって、第1の領域にユーザが所有する前記素材データを表示する制御を行う第1表示制御手段と、
前記第1表示制御手段により表示される前記素材データのうち、ユーザ操作に基づいて1以上の素材データを指定する指定手段と、
第2の領域に前記指定された前記素材データに基づいて生成された仮想視点画像を表示する制御を行う第2表示制御手段と
を有することを特徴とする装置。
(構成21)前記第1の領域と前記第2の領域は、同一のデバイスに表示される領域であることを特徴とする構成20に記載の装置。
(方法)第1ユーザのユーザ情報を取得する第1取得工程と、
複数の撮像装置により撮像された複数の撮像画像に基づいて生成される前記素材データであって、前記第1ユーザを現所有者とする1以上の前記素材データと第2ユーザを現所有者とする1以上の前記素材データとがブロックチェーンに記録されている複数の前記素材データにおいて、前記第1ユーザが現所有者である前記素材データを示す情報を出力する第1出力工程と、
前記第1出力手段により出力された前記素材データを示す情報のうち、前記ユーザにより選択された前記素材データを示す情報を取得する第2取得工程と、
前記第2取得手段により取得された前記素材データを示す情報に対応する前記素材データに基づいて生成された仮想視点画像を出力する出力工程と、
を有することを特徴とする方法。
(プログラム)コンピュータを、構成1から8のいずれか1項に記載の装置の各手段として機能させるためのプログラム。
1 データベースシステム
2 ブロックチェーンシステム
3 コンテンツ提供装置
4 コンテンツ表示装置

Claims (15)

  1. 第1ユーザのユーザ情報を取得する第1取得手段と、
    複数の撮像画像に基づいて生成され前記第1ユーザを現所有者とする素材データと複数の撮像画像に基づいて生成され第2ユーザを現所有者とする素材データとを含む複数の素材データであって、ブロックチェーンに素材データを特定するための情報が記録されている複数の素材データのうち前記第1取得手段により取得された前記ユーザ情報により特定される前記第1ユーザ現所有者とする前記素材データを示す情報を出力する第1出力手段と、
    前記第1出力手段により出力された情報により示される前記素材データのうち、前記第1ユーザにより選択された前記素材データを示す情報を取得する第2取得手段と、
    前記第2取得手段により取得された情報に対応する前記素材データに基づいて生成された仮想視点画像を出力する第2出力手段と、
    を有することを特徴とする情報処理装置。
  2. 前記素材データは、前記複数の撮像画像に含まれる被写体の形状を示す前景形状モデルおよび前記被写体の動き情報を示す前景骨格モデルの少なくとも何れかであることを特徴とする請求項1に記載の情報処理装置。
  3. 前記前景形状モデルは、前記被写体の3次元形状のメッシュモデルであることを特徴とする請求項2に記載の情報処理装置。
  4. 前記前景骨格モデルは、前記被写体の経時的な動きを示すボーンモデルであることを特徴とする請求項2に記載の情報処理装置。
  5. 前記第1ユーザにより選択され前記素材データが同一被写体の前記前景形状モデルおよび前記前景骨格モデルである場合、前記仮想視点画像は前記同一被写体の経時的な動きを示すメッシュモデルを含むことを特徴とする請求項2に記載の情報処理装置。
  6. 前記素材データは、非代替性トークンが紐づけられていることを特徴とする請求項1に記載の情報処理装置。
  7. 前記第2取得手段は、仮想視点画像を生成するための仮想視点の位置および仮想視点からの視線方向を示す仮想視点情報を取得し、
    前記第2出力手段は、前記第2取得手段により取得された前記素材データを示す情報に対応する前記素材データと前記仮想視点情報とに基づいて生成された前記仮想視点画像を出力することを特徴とする請求項1に記載の情報処理装置。
  8. 前記第2取得手段は、前記第1ユーザにより選択された前記素材データを配置する仮想空間上の位置と向きを示す配置情報を取得し、
    前記第2出力手段は、前記第2取得手段により取得された前記素材データを示す情報に対応する前記素材データと前記配置情報とに基づいて生成された前記仮想視点画像を出力することを特徴とする請求項1に記載の情報処理装置。
  9. 前記素材データを特定するための情報は、前記素材データと関連付けて記憶装置に記憶されていることを特徴とする請求項1に記載の情報処理装置。
  10. 前記素材データを特定するための情報は、素材データの識別情報であることを特徴とする請求項1に記載の情報処理装置。
  11. 前記第1出力手段により出力される前記素材データを示す情報は、前記素材データを示す画像であることを特徴とする請求項1に記載の情報処理装置。
  12. 前記素材データを示す画像は、前記素材データの種類により異なることを特徴とする請求項11に記載の情報処理装置。
  13. 前記素材データは、背景の形状を示す背景形状モデルと、背景画像と、仮想視点の軌跡を示すカメラパスとの少なくとも何れかであることを特徴とする請求項1に記載の情報処理装置。
  14. 第1ユーザのユーザ情報を取得する第1取得工程と、
    複数の撮像画像に基づいて生成され前記第1ユーザを現所有者とする素材データと複数の撮像画像に基づいて生成され第2ユーザを現所有者とする素材データとを含む複数の素材データであって、ブロックチェーンに素材データを特定するための情報が記録されている複数の素材データのうち前記第1取得工程により取得された前記ユーザ情報により特定される前記第1ユーザ現所有者とする前記素材データを示す情報を出力する第1出力工程と、
    前記第1出力工程により出力された情報により示される前記素材データのうち、前記第1ユーザにより選択された前記素材データを示す情報を取得する第2取得工程と、
    前記第2取得工程により取得された情報に対応する前記素材データに基づいて生成された仮想視点画像を出力する第2出力工程と、
    を有することを特徴とする情報処理方法。
  15. コンピュータを、請求項1から13のいずれか1項に記載の情報処理装置の各手段として機能させるためのプログラム。
JP2022149598A 2022-09-20 2022-09-20 画像処理システム Active JP7459199B1 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2022149598A JP7459199B1 (ja) 2022-09-20 2022-09-20 画像処理システム
EP23197762.0A EP4343598A1 (en) 2022-09-20 2023-09-15 Information processing apparatus
KR1020230124575A KR20240040043A (ko) 2022-09-20 2023-09-19 정보처리 장치
CN202311217384.8A CN117750002A (zh) 2022-09-20 2023-09-20 信息处理设备、信息处理方法和存储介质
US18/470,613 US20240096024A1 (en) 2022-09-20 2023-09-20 Information processing apparatus
JP2024044627A JP2024075691A (ja) 2022-09-20 2024-03-21 画像処理システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022149598A JP7459199B1 (ja) 2022-09-20 2022-09-20 画像処理システム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2024044627A Division JP2024075691A (ja) 2022-09-20 2024-03-21 画像処理システム

Publications (2)

Publication Number Publication Date
JP7459199B1 true JP7459199B1 (ja) 2024-04-01
JP2024048405A JP2024048405A (ja) 2024-04-09

Family

ID=88092835

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2022149598A Active JP7459199B1 (ja) 2022-09-20 2022-09-20 画像処理システム
JP2024044627A Pending JP2024075691A (ja) 2022-09-20 2024-03-21 画像処理システム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2024044627A Pending JP2024075691A (ja) 2022-09-20 2024-03-21 画像処理システム

Country Status (5)

Country Link
US (1) US20240096024A1 (ja)
EP (1) EP4343598A1 (ja)
JP (2) JP7459199B1 (ja)
KR (1) KR20240040043A (ja)
CN (1) CN117750002A (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106971302A (zh) 2017-04-17 2017-07-21 北京工商大学 一种基于区块链技术的三维模型确权与交易方法
WO2021174139A1 (en) 2020-02-29 2021-09-02 CF INVESTMENTS, LLC (d.b.a. GEER) Apparatus and method for managing branded digital items
JP2022126205A (ja) 2021-02-18 2022-08-30 キヤノン株式会社 情報処理装置、情報処理方法、およびプログラム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5945255B2 (ja) 2013-08-27 2016-07-05 日本電信電話株式会社 仮想視点映像生成装置、仮想視点映像生成方法、及び仮想視点映像生成プログラム
US10356216B2 (en) 2016-04-28 2019-07-16 Verizon Patent And Licensing Inc. Methods and systems for representing real-world input as a user-specific element in an immersive virtual reality experience
JP6871801B2 (ja) * 2017-05-11 2021-05-12 キヤノン株式会社 画像処理装置、画像処理方法、情報処理装置、撮像装置および画像処理システム
JP2019102940A (ja) * 2017-11-30 2019-06-24 キヤノン株式会社 仮想視点コンテンツ生成システム、音声処理装置、仮想視点コンテンツ生成システムの制御方法、及びプログラム
US11348152B1 (en) * 2022-01-27 2022-05-31 Offstage Holdings, Inc. Systems and methods for creating apparel that provides embedded verification of a transferrable non-fungible token
CN114978596B (zh) * 2022-04-24 2023-04-18 捷德(中国)科技有限公司 数字资产所有权的登记、处理方法及装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106971302A (zh) 2017-04-17 2017-07-21 北京工商大学 一种基于区块链技术的三维模型确权与交易方法
WO2021174139A1 (en) 2020-02-29 2021-09-02 CF INVESTMENTS, LLC (d.b.a. GEER) Apparatus and method for managing branded digital items
JP2022126205A (ja) 2021-02-18 2022-08-30 キヤノン株式会社 情報処理装置、情報処理方法、およびプログラム

Also Published As

Publication number Publication date
US20240096024A1 (en) 2024-03-21
EP4343598A1 (en) 2024-03-27
JP2024075691A (ja) 2024-06-04
JP2024048405A (ja) 2024-04-09
KR20240040043A (ko) 2024-03-27
CN117750002A (zh) 2024-03-22

Similar Documents

Publication Publication Date Title
WO2021047396A1 (zh) 图像处理方法及装置、电子设备和计算机可读存储介质
Hilfert et al. Low-cost virtual reality environment for engineering and construction
US7965304B2 (en) Image processing method and image processing apparatus
US20190311488A1 (en) Method and system for wireless ultra-low footprint body scanning
EP1883052A2 (en) Generating images combining real and virtual images
EP2175636A1 (en) Method and system for integrating virtual entities within live video
JP6920057B2 (ja) 画像処理装置、画像処理方法、コンピュータプログラム
US20190221040A1 (en) Generating a virtual wall in an augmented reality environment to simulate art displays
WO2019088273A1 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
CN111142967B (zh) 一种增强现实显示的方法、装置、电子设备和存储介质
JP2013008257A (ja) 画像合成プログラム
US11941763B2 (en) Viewing system, model creation apparatus, and control method
US20060250389A1 (en) Method for creating virtual reality from real three-dimensional environment
JPH10188040A (ja) 不透明スクリーン式表示装置
JP7459199B1 (ja) 画像処理システム
WO2018182938A1 (en) Method and system for wireless ultra-low footprint body scanning
JP2017084215A (ja) 情報処理システム、その制御方法、及びプログラム
JP3309841B2 (ja) 合成動画像生成装置および合成動画像生成方法
JP2022012900A (ja) 情報処理装置、表示方法、及び、プログラム
JP2015121892A (ja) 画像処理装置、画像処理方法
JP2020074108A (ja) 情報処理システム、その制御方法、及びプログラム
JP3575469B2 (ja) 合成動画像生成装置および合成動画像生成方法
WO2023145571A1 (ja) 情報処理装置、情報処理方法、データ構造及びプログラム
JP6638326B2 (ja) 情報処理システム、その制御方法、及びプログラム
CN109979018A (zh) 一种基于vr技术的装饰装修的三维可视化方法及系统

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220922

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231031

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20231213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231226

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240220

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240319

R151 Written notification of patent or utility model registration

Ref document number: 7459199

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151