JP2019215622A5 - - Google Patents
Download PDFInfo
- Publication number
- JP2019215622A5 JP2019215622A5 JP2018111163A JP2018111163A JP2019215622A5 JP 2019215622 A5 JP2019215622 A5 JP 2019215622A5 JP 2018111163 A JP2018111163 A JP 2018111163A JP 2018111163 A JP2018111163 A JP 2018111163A JP 2019215622 A5 JP2019215622 A5 JP 2019215622A5
- Authority
- JP
- Japan
- Prior art keywords
- color
- dimensional shape
- shape data
- data
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000000875 corresponding Effects 0.000 claims description 9
- 238000003384 imaging method Methods 0.000 claims description 7
- 238000003672 processing method Methods 0.000 claims 1
- 238000007796 conventional method Methods 0.000 description 2
- 238000000034 method Methods 0.000 description 1
Description
上記課題を解決するため、本発明の一態様に係るデータ生成装置は、複数の撮像装置で撮像されることにより取得される複数の画像に基づき、オブジェクトの形状を示す三次元形状データを生成する第1の生成手段と、前記複数の画像に基づいて、前記第1の生成手段により生成された前記三次元形状データの要素の色を示す色情報を生成する第2の生成手段と、前記複数の画像に基づいて、前記第1の生成手段により生成された前記三次元形状データの要素の色を仮想視点に応じて補正するための色補正情報を生成する第3の生成手段と、前記第1の生成手段により生成された前記三次元形状データと前記第2の生成手段により生成された前記色情報と、前記第3の生成手段により生成された色補正情報を関連付けて記憶手段に記憶させる記憶制御手段と、を有する、ことを特徴とする。
オブジェクト400を形成する点のうち点4000に注目し、点4000の色情報の生成に使用された画像は、カメラ112hの画像であるとする。この場合、色情報はカメラ112hの画像420から、点4000に対応するピクセル421のRGB値により生成される。すなわち、色情報はカメラ112hの画像420に点4000が投影されて対応するピクセル421が特定され該ピクセル421のRGB値により生成される。同様に、点4001の色情報の生成に使用された画像は、カメラ112iの画像であるとすると、色情報はカメラ112iの画像430から、点4001に対応するピクセル431のRGB値により生成される。
従来の手法では、前景画像のサイズは、1920×1080×3×8×30=1,492,992,000(bit)=186.624(MB)(メガバイト)となる。
図13は、データ取得手順例を示すフローチャートである。具体的には、フロントエンドサーバ230がセンサシステム110からデータを受信し、各種データを書き込むまでの手順を示したフローチャートである。以降、フローチャートに従い、処理のフローを説明する。なお、フロントエンドサーバ230は、例えば、DB250などからカメラパラメータを予め取得しているものとする。
従来の手法では、前景画像のサイズは、1920×1080×3×8×30=1,492,992,000(bit)=186.624(MB)となる。
オブジェクト三次元モデルの色補正情報のサイズは、1,000,000×3×32×2=192,000,000(bit)=24(MB)となる。
Claims (20)
- 複数の撮像装置で撮像されることにより取得される複数の画像に基づき、オブジェクトの形状を示す三次元形状データを生成する第1の生成手段と、
前記複数の画像に基づいて、前記第1の生成手段により生成された前記三次元形状データの要素の色を示す色情報を生成する第2の生成手段と、
前記複数の画像に基づいて、前記第1の生成手段により生成された前記三次元形状データの要素の色を仮想視点に応じて補正するための色補正情報を生成する第3の生成手段と、
前記第1の生成手段により生成された前記三次元形状データと前記第2の生成手段により生成された前記色情報と、前記第3の生成手段により生成された色補正情報を関連付けて記憶手段に記憶させる記憶制御手段と、
を有する、ことを特徴とするデータ生成装置。 - 前記第3の生成手段は、前記三次元形状データの要素と当該三次元形状データの要素に対応する領域を撮像する撮像装置との距離に基づき特定される撮像装置の画像に基づいて、前記色補正情報を生成することを特徴とする請求項1に記載のデータ生成装置。
- 前記第3の生成手段は、前記三次元形状データの要素との関係で他と比べて大きい角度をなす2つの撮像装置の画像に基づいて、前記色補正情報を生成することを特徴とする請求項1または2に記載のデータ生成装置。
- 前記第3の生成手段は、前記三次元形状データの要素に対応する画像の画素が複数である場合、複数の画素の画素値に基づいて前記色補正情報として生成することを特徴とする請求項1から3の何れか一項に記載のデータ生成装置。
- 前記複数の画像に基づいて生成されるオブジェクトを含む前景画像は、前記記憶手段に記憶されないことを特徴とする請求項1から4の何れか一項に記載のデータ生成装置。
- 前記記憶手段に記憶されるデータのデータ形式を決定する決定手段をさらに有し、
前記記憶制御手段は、前記決定手段により決定された前記データ形式で、前記三次元形状データと前記色情報と前記色補正情報を前記記憶手段に記憶させることを特徴とする請求項1から5の何れか一項に記載のデータ生成装置。 - 前記決定手段は、前記仮想視点に対応する仮想視点画像を生成するための素材データのデータサイズを基準値と比較して前記データ形式を決定することを特徴とする請求項6に記載のデータ生成装置。
- 前記複数の画像に基づいて、オブジェクトを含む前景画像、およびオブジェクトを含まない背景画像が生成され、
前記決定手段は、前記三次元形状データと前記背景画像と前記前景画像の組、前記三次元形状データと前記背景画像と前記色情報と前記色補正情報の組、前記三次元形状データと前記背景画像と前記色情報の組のうち、前記基準値を満たす組を前記データ形式として決定する
ことを特徴とする請求項7に記載のデータ生成装置。 - 前記決定手段は、前記組に付与された優先順位の高い組を前記データ形式として決定することを特徴とする請求項8に記載のデータ生成装置。
- 前記記憶制御手段は、前記三次元形状データと前記背景画像と前記前景画像の組が前記基準値を満たさない場合、前記前景画像を前記記憶手段に記憶させないことを特徴とする請求項8または9に記載のデータ生成装置。
- 前記三次元形状データは、三次元空間の位置情報を有す複数の点で構成されることを特徴とする請求項1から10の何れか一項に記載のデータ生成装置。
- 前記三次元形状データの要素は、ポリゴンで構成される
ことを特徴とする請求項1から10の何れか一項に記載のデータ生成装置。 - 仮想視点を特定するための仮想視点情報を取得する第1の取得手段と、
オブジェクトの形状を示す三次元形状データと、前記三次元形状データの要素の色を示す色情報と、前記三次元形状データの要素の色を仮想視点に応じて補正するための色補正情報と、を取得する第2の取得手段と、
前記第2の取得手段により取得された前記三次元形状データと前記色情報と前記色補正情報とに基づいて、前記第1の取得手段により取得された前記仮想視点情報により特定される仮想視点に対応する仮想視点画像を生成する生成手段と、
を有する、ことを特徴とする画像処理装置。 - 前記仮想視点情報に基づき、前記三次元形状データの要素の色を決定するために使用される前記色情報と前記色補正情報の重みづけが変えられる
ことを特徴とする請求項13に記載の画像処理装置。 - 前記仮想視点が前記色情報および前記色補正情報それぞれの生成対象の撮像装置と前記三次元形状データの要素とで囲まれる領域にある場合、前記仮想視点および前記三次元形状データの要素を結ぶ線と、前記色情報および前記色補正情報それぞれの生成対象の撮像装置の撮像方向とでなす角度の大きさに応じて、前記三次元形状データの要素の色を決定するために使用される前記色情報と前記色補正情報の重みづけが設定される、ことを特徴とする請求項14に記載の画像処理装置。
- 前記仮想視点が前記色情報および前記色補正情報のそれぞれの生成対象の撮像装置と前記三次元形状データの要素とで囲まれる領域の外側の領域にある場合、前記仮想視点に近い前記色補正情報の生成対象である撮像装置に対応する前記色補正情報を用いて、前記三次元形状データの要素の色が決定される
ことを特徴とする請求項14に記載の画像処理装置。 - 複数の撮像装置で撮像されることにより取得される複数の画像に基づき、オブジェクトの形状を示す三次元形状データを生成する第1の生成ステップと、
前記複数の画像に基づいて、前記第1の生成ステップにて生成された前記三次元形状データの要素の色を示す色情報を生成する第2の生成ステップと、
前記複数の画像に基づいて、前記第1の生成ステップにて生成された前記三次元形状データの要素の色を仮想視点に応じて補正するための色補正情報を生成する第3の生成ステップと、
前記第1の生成ステップにて生成された前記三次元形状データと前記第2の生成ステップにて生成された前記色情報と、前記第3の生成ステップにて生成された色補正情報を関連付けて記憶手段に記憶させる記憶制御ステップと、
を含む、ことを特徴とするデータ生成方法。 - 仮想視点を特定するための仮想視点情報を取得する第1の取得ステップと、
オブジェクトの形状を示す三次元形状データと、前記三次元形状データの要素の色を示す色情報と、前記三次元形状データの要素の色を仮想視点に応じて補正するための色補正情報と、を取得する第2の取得ステップと、
前記第2の取得ステップにて取得された前記三次元形状データと前記色情報と前記色補正情報とに基づいて、前記第1の取得ステップにて取得された前記仮想視点情報により特定される仮想視点に対応する仮想視点画像を生成する生成ステップと、
を含む、ことを特徴とする画像処理方法。 - 請求項1から12の何れか一項に記載のデータ生成装置としてコンピュータを機能させるためのプログラム。
- 請求項13から16の何れか一項に記載の画像処理装置としてコンピュータを機能させるためのプログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018111163A JP7187182B2 (ja) | 2018-06-11 | 2018-06-11 | データ生成装置、方法およびプログラム |
US16/421,576 US11227429B2 (en) | 2018-06-11 | 2019-05-24 | Image processing apparatus, method and storage medium for generating a virtual viewpoint with reduced image data |
KR1020190063549A KR102412242B1 (ko) | 2018-06-11 | 2019-05-30 | 화상 처리장치, 방법 및 기억매체 |
RU2019117607A RU2727101C1 (ru) | 2018-06-11 | 2019-06-06 | Устройство обработки изображений, способ и носитель хранения |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018111163A JP7187182B2 (ja) | 2018-06-11 | 2018-06-11 | データ生成装置、方法およびプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2019215622A JP2019215622A (ja) | 2019-12-19 |
JP2019215622A5 true JP2019215622A5 (ja) | 2021-07-26 |
JP7187182B2 JP7187182B2 (ja) | 2022-12-12 |
Family
ID=68765221
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018111163A Active JP7187182B2 (ja) | 2018-06-11 | 2018-06-11 | データ生成装置、方法およびプログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US11227429B2 (ja) |
JP (1) | JP7187182B2 (ja) |
KR (1) | KR102412242B1 (ja) |
RU (1) | RU2727101C1 (ja) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020129696A1 (ja) * | 2018-12-21 | 2020-06-25 | ソニー株式会社 | 情報処理装置、情報処理方法、プログラム、および、情報処理システム |
WO2020189448A1 (ja) * | 2019-03-15 | 2020-09-24 | 株式会社ミマキエンジニアリング | 立体データ生成装置、立体データ生成方法、プログラム、及び造形システム |
CN113574849A (zh) * | 2019-07-29 | 2021-10-29 | 苹果公司 | 用于后续对象检测的对象扫描 |
US11107195B1 (en) | 2019-08-23 | 2021-08-31 | Lucasfilm Entertainment Company Ltd. | Motion blur and depth of field for immersive content production systems |
JP2022160233A (ja) * | 2021-04-06 | 2022-10-19 | キヤノン株式会社 | 情報処理装置、情報処理方法およびプログラム |
US11887251B2 (en) | 2021-04-23 | 2024-01-30 | Lucasfilm Entertainment Company Ltd. | System and techniques for patch color correction for an immersive content production system |
US11978154B2 (en) | 2021-04-23 | 2024-05-07 | Lucasfilm Entertainment Company Ltd. | System and techniques for lighting adjustment for an immersive content production system |
JP7316693B2 (ja) * | 2021-07-22 | 2023-07-28 | エフエックスギア インコーポレイティッド | 多重視点テクスチャを利用した3dポリゴンメッシュレンダリング方法及びその装置 |
JP2023128268A (ja) * | 2022-03-03 | 2023-09-14 | キヤノン株式会社 | 情報処理装置、情報処理方法、画像生成装置、画像生成方法及びプログラム |
Family Cites Families (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2309453A3 (en) * | 1998-07-31 | 2012-09-26 | Panasonic Corporation | Image displaying apparatus and image displaying method |
EP1371019A2 (en) | 2001-01-26 | 2003-12-17 | Zaxel Systems, Inc. | Real-time virtual viewpoint in simulated reality environment |
EP1646012B1 (en) | 2003-06-20 | 2016-04-13 | Nippon Telegraph And Telephone Corporation | Virtual visual point image generating method and 3-d image display method and device |
US7324594B2 (en) * | 2003-11-26 | 2008-01-29 | Mitsubishi Electric Research Laboratories, Inc. | Method for encoding and decoding free viewpoint videos |
RU2282946C2 (ru) | 2003-12-25 | 2006-08-27 | Александр Александрович Сухов | Способ передачи визуальной информации |
EP1862969A1 (en) * | 2006-06-02 | 2007-12-05 | Eidgenössische Technische Hochschule Zürich | Method and system for generating a representation of a dynamically changing 3D scene |
JP4803594B2 (ja) | 2006-07-05 | 2011-10-26 | Kddi株式会社 | 局所領域分割による自由視点画像の生成装置およびプログラム |
US8073190B2 (en) | 2007-11-16 | 2011-12-06 | Sportvision, Inc. | 3D textured objects for virtual viewpoint animations |
US8817071B2 (en) * | 2009-11-17 | 2014-08-26 | Seiko Epson Corporation | Context constrained novel view interpolation |
KR20230129624A (ko) | 2010-05-12 | 2023-09-08 | 인터디지털 매디슨 페턴트 홀딩스 에스에이에스 | 통합된 유효성 맵 코딩을 위한 방법 및 장치 |
US8823797B2 (en) | 2010-06-03 | 2014-09-02 | Microsoft Corporation | Simulated video with extra viewpoints and enhanced resolution for traffic cameras |
KR101666019B1 (ko) * | 2010-08-03 | 2016-10-14 | 삼성전자주식회사 | 외삽 뷰 생성을 위한 장치 및 방법 |
US8867823B2 (en) * | 2010-12-03 | 2014-10-21 | National University Corporation Nagoya University | Virtual viewpoint image synthesizing method and virtual viewpoint image synthesizing system |
US9171402B1 (en) * | 2013-06-19 | 2015-10-27 | Google Inc. | View-dependent textures for interactive geographic information system |
JP6501348B2 (ja) * | 2014-12-26 | 2019-04-17 | Kddi株式会社 | 自由視点画像生成装置、方法およびプログラム |
JP6570296B2 (ja) * | 2015-04-09 | 2019-09-04 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
US9858640B1 (en) * | 2015-07-15 | 2018-01-02 | Hrl Laboratories, Llc | Device and method for merging 3D point clouds from sparsely distributed viewpoints |
US10325402B1 (en) * | 2015-07-17 | 2019-06-18 | A9.Com, Inc. | View-dependent texture blending in 3-D rendering |
US10204444B2 (en) * | 2016-04-28 | 2019-02-12 | Verizon Patent And Licensing Inc. | Methods and systems for creating and manipulating an individually-manipulable volumetric model of an object |
JP6062589B1 (ja) * | 2016-04-28 | 2017-01-18 | 株式会社Live2D | プログラム、情報処理装置、影響度導出方法、画像生成方法及び記録媒体 |
JP6088094B1 (ja) * | 2016-06-20 | 2017-03-01 | 株式会社Cygames | 複合現実環境を作成するためのシステム等 |
US10055882B2 (en) * | 2016-08-15 | 2018-08-21 | Aquifi, Inc. | System and method for three-dimensional scanning and for capturing a bidirectional reflectance distribution function |
US10559095B2 (en) * | 2016-08-31 | 2020-02-11 | Canon Kabushiki Kaisha | Image processing apparatus, image processing method, and medium |
US10970916B2 (en) | 2016-10-19 | 2021-04-06 | Sony Corporation | Image processing apparatus and image processing method |
JP7320352B2 (ja) * | 2016-12-28 | 2023-08-03 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | 三次元モデル送信方法、三次元モデル受信方法、三次元モデル送信装置及び三次元モデル受信装置 |
US10297087B2 (en) * | 2017-05-31 | 2019-05-21 | Verizon Patent And Licensing Inc. | Methods and systems for generating a merged reality scene based on a virtual object and on a real-world object represented from different vantage points in different video data streams |
US10417810B2 (en) * | 2017-05-31 | 2019-09-17 | Verizon Patent And Licensing Inc. | Methods and systems for rendering virtual reality content based on two-dimensional (“2D”) captured imagery of a three-dimensional (“3D”) scene |
US10930054B2 (en) * | 2019-06-18 | 2021-02-23 | Intel Corporation | Method and system of robust virtual view generation between camera views |
-
2018
- 2018-06-11 JP JP2018111163A patent/JP7187182B2/ja active Active
-
2019
- 2019-05-24 US US16/421,576 patent/US11227429B2/en active Active
- 2019-05-30 KR KR1020190063549A patent/KR102412242B1/ko active IP Right Grant
- 2019-06-06 RU RU2019117607A patent/RU2727101C1/ru active
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2019215622A5 (ja) | ||
TWI423659B (zh) | 影像校正方法與相關影像校正系統 | |
US10559095B2 (en) | Image processing apparatus, image processing method, and medium | |
CN110660034B (zh) | 图像校正方法、装置及电子设备 | |
JP2019083402A (ja) | 画像処理装置、画像処理システム、画像処理方法、及びプログラム | |
JP2019128641A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2022515517A (ja) | 画像深度推定方法および装置、電子機器、ならびに記憶媒体 | |
DK3189493T3 (en) | PERSPECTIVE CORRECTION OF DIGITAL PHOTOS USING DEPTH MAP | |
JP7082713B2 (ja) | ローリングシャッター画像/ビデオのsfm/slamに対するアプリケーションで畳み込みニューラルネットワークを用いる画像/ビデオにおけるローリングシャッター補正 | |
JP7124957B2 (ja) | 画像処理システム、推定装置、処理方法及びプログラム | |
JP2019135617A (ja) | 情報処理装置およびその制御方法、画像処理システム | |
WO2018227580A1 (zh) | 摄像头标定方法和终端 | |
JP6532328B2 (ja) | 画像処理装置、その制御方法、および制御プログラム | |
JP6601893B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2017021430A (ja) | パノラマビデオデータの処理装置、処理方法及びプログラム | |
CN110197228B (zh) | 图像校正方法及装置 | |
JP2019144958A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP6967150B2 (ja) | 学習装置、画像生成装置、学習方法、画像生成方法及びプログラム | |
KR101993961B1 (ko) | 임의시점 영상의 홀 채움 방법 | |
US9454801B2 (en) | Image processing apparatus, method for processing image, and program | |
JP6273881B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
TWI808783B (zh) | 用於調整虛擬物件的方法、主機及電腦可讀儲存媒體 | |
CN103997640B (zh) | 带宽优化方法和带宽优化装置 | |
EP4171015A1 (en) | Handling blur in multi-view imaging | |
JP6915016B2 (ja) | 情報処理装置及び方法、情報処理システム、ならびにプログラム |