JP2018055644A5 - 画像処理装置及び画像処理方法及び画像処理システム及びプログラム - Google Patents

画像処理装置及び画像処理方法及び画像処理システム及びプログラム Download PDF

Info

Publication number
JP2018055644A5
JP2018055644A5 JP2016194778A JP2016194778A JP2018055644A5 JP 2018055644 A5 JP2018055644 A5 JP 2018055644A5 JP 2016194778 A JP2016194778 A JP 2016194778A JP 2016194778 A JP2016194778 A JP 2016194778A JP 2018055644 A5 JP2018055644 A5 JP 2018055644A5
Authority
JP
Japan
Prior art keywords
virtual viewpoint
image
image processing
processing apparatus
gaze
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016194778A
Other languages
English (en)
Other versions
JP6407225B2 (ja
JP2018055644A (ja
Filing date
Publication date
Application filed filed Critical
Priority to JP2016194778A priority Critical patent/JP6407225B2/ja
Priority claimed from JP2016194778A external-priority patent/JP6407225B2/ja
Priority to US15/712,326 priority patent/US10628993B2/en
Publication of JP2018055644A publication Critical patent/JP2018055644A/ja
Publication of JP2018055644A5 publication Critical patent/JP2018055644A5/ja
Application granted granted Critical
Publication of JP6407225B2 publication Critical patent/JP6407225B2/ja
Priority to US16/814,156 priority patent/US11017588B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

この課題を解決するため、例えば本発明の画像処理装置は以下の構成を備える。すなわち、
複数のカメラによる複数の方向からの撮影に基づく画像を取得する画像取得手段と、
仮想視点の位置及び方向を示す仮想視点情報を取得する情報取得手段と、
前記画像取得手段により取得される画像と前記情報取得手段により取得される仮想視点情報とに基づいて仮想視点画像を生成する生成手段であって、前記複数のカメラの撮影対象領域内に位置する複数のオブジェクトのうち、前記複数のオブジェクトの中から決定された注視オブジェクトを遮蔽する位置のオブジェクトの透明度が、前記注視オブジェクトを遮蔽しない位置のオブジェクトの透明度よりも高い仮想視点画像を生成する生成手段とを有する。

Claims (21)

  1. 複数のカメラによる複数の方向からの撮影に基づく画像を取得する画像取得手段と、
    仮想視点の位置及び方向を示す仮想視点情報を取得する情報取得手段と、
    前記画像取得手段により取得される画像と前記情報取得手段により取得される仮想視点情報とに基づいて仮想視点画像を生成する生成手段であって、前記複数のカメラの撮影対象領域内に位置する複数のオブジェクトのうち、前記複数のオブジェクトの中から決定された注視オブジェクトを遮蔽する位置のオブジェクトの透明度が、前記注視オブジェクトを遮蔽しない位置のオブジェクトの透明度よりも高い仮想視点画像を生成する生成手段と を有することを特徴とする画像処理装置。
  2. 前記生成手段は、前記注視オブジェクトを遮蔽する位置のオブジェクトが表示されない仮想視点画像を生成することを特徴とする請求項1に記載の画像処理装置。
  3. 前記生成手段は、前記注視オブジェクトを遮蔽する位置のオブジェクトの輪郭を示す情報を含む仮想視点画像を生成することを特徴とする請求項1に記載の画像処理装置。
  4. 記仮想視点情報が示す仮想視点の位置及び方向と記複数のオブジェクトの位置に基づいて、前記注視オブジェクトを遮蔽する位置のオブジェクトを特定する特定手段を有し、
    前記生成手段は、前記特定手段による特定結果に基づいて前記仮想視点画像を生成することを特徴とする請求項1乃至3の何れか1項に記載の画像処理装置。
  5. 前記生成手段は、前記注視オブジェクトを遮蔽する位置のオブジェクトの透明度が前記注視オブジェクトと前記仮想視点との距離に応じて異なる仮想視点画像を生成することを特徴とする請求項1乃至4の何れか1項に記載の画像処理装置。
  6. 前記生成手段は、前記注視オブジェクトを遮蔽する位置のオブジェクトの透明度が前記仮想視点に対する当該オブジェクトの方向に応じて異なる仮想視点画像を生成することを特徴とする請求項1乃至5の何れか1項に記載の画像処理装置。
  7. 前記注視オブジェクトは、前記複数のオブジェクトの中からユーザ操作に基づいて決定されるオブジェクトであることを特徴とする請求項1乃至6の何れか1項に記載の画像処理装置。
  8. 前記複数のオブジェクトの少なくとも何れかに関するオブジェクト情報を取得するオブジェクト情報取得手段と、
    前記オブジェクト情報取得手段により取得されるオブジェクト情報に基づいて、前記複数のオブジェクトの中から前記注視オブジェクトを決定する決定手段とを有することを特徴とする請求項1乃至7の何れか1項に記載の画像処理装置。
  9. 前記複数のオブジェクトには人物が含まれることを特徴とする請求項1乃至8の何れか1項に記載の画像処理装置。
  10. 前記生成手段は、前記注視オブジェクトを遮蔽しない位置のオブジェクトが透明化されていない仮想視点画像を生成することを特徴とする請求項1乃至9の何れか1項に記載の画像処理装置。
  11. 複数のカメラにより撮影対象領域を複数の方向からの撮影することで得られる画像を取得する画像取得手段と、
    仮想視点の位置及び方向を示す仮想視点情報を取得する情報取得手段と、
    前記画像取得手段により取得される画像と前記情報取得手段により取得される仮想視点情報とに基づいて仮想視点画像を生成する生成手段であって、前記撮影対象領域内の複数のオブジェクトの中から決定された注視オブジェクト以外のオブジェクトのうち、前記注視オブジェクトの位置と前記仮想視点情報が示す仮想視点の位置及び方向とに基づいて特定されるオブジェクトの透明度が変更された仮想視点画像を生成する生成手段とを有することを特徴とする画像処理装置。
  12. 前記仮想視点情報が示す仮想視点の位置及び方向と、前記注視オブジェクトの位置及びサイズに関する情報と、前記複数のオブジェクトの位置及びサイズに関する情報とに基づいて、透明度を変更すべきオブジェクトを特定する特定手段を有し、
    前記生成手段は、前記特定手段による特定結果に基づいて前記仮想視点画像を生成することを特徴とする請求項11に記載の画像処理装置。
  13. 前記生成手段は、前記注視オブジェクトを遮蔽するオブジェクトを、前記透明度を変更すべきオブジェクトとして特定することを特徴とする請求項11又は12に記載の画像処理装置。
  14. 複数のカメラにより撮影対象領域を複数の方向から撮影することで得られる撮影画像と仮想視点を示す視点情報とに基づいて仮想視点画像が生成されるシステムにおいて動作する画像処理装置であって、
    前記仮想視点を示す視点情報を取得する取得手段と、
    前記撮影画像に基づいて生成される仮想視点画像内の注視オブジェクトであって前記撮影対象領域に含まれる複数のオブジェクトの中から決定された注視オブジェクトの視認性が向上するように、前記注視オブジェクトとは異なる別オブジェクトであって前記取得手段により取得される視点情報が示す仮想視点の位置と前記注視オブジェクトの位置とに基づいて特定される別オブジェクトの当該仮想視点画像における表示態様を制御する制御手段とを有することを特徴とする画像処理装置。
  15. 前記制御手段による前記別オブジェクトの表示態様の制御は、前記別オブジェクトの透明度を変更する処理を含むことを特徴とする請求項14に記載の画像処理装置。
  16. 前記制御手段により表示態様が制御される前記別オブジェクトは、当該仮想視点画像において前記注視オブジェクトを遮蔽する位置に存在するオブジェクトであることを特徴とする請求項14又は15に記載の画像処理装置。
  17. 複数のカメラによる複数の方向からの撮影に基づく画像を取得する画像取得工程と、
    仮想視点の位置及び方向を示す仮想視点情報を取得する情報取得工程と、
    前記画像取得工程において取得される画像と前記情報取得工程において取得される仮想視点情報とに基づいて仮想視点画像を生成する生成工程であって、前記複数のカメラの撮影対象領域内に位置する複数のオブジェクトのうち、前記複数のオブジェクトの中から決定された注視オブジェクトを遮蔽する位置のオブジェクトの透明度が、前記注視オブジェクトを遮蔽しない位置のオブジェクトの透明度よりも高い仮想視点画像を生成する生成工程とを有することを特徴とする画像処理方法。
  18. 記仮想視点情報が示す仮想視点の位置及び方向と記複数のオブジェクトの位置に基づいて、前記注視オブジェクトを遮蔽する位置のオブジェクトを特定する特定工程を有し、
    前記生成工程においては、前記特定工程における特定結果に基づいて前記仮想視点画像が生成されることを特徴とする請求項17に記載の画像処理方法。
  19. 前記注視オブジェクトは、前記複数のオブジェクトの中からユーザ操作に基づいて決定されるオブジェクトであることを特徴とする請求項17又は18に記載の画像処理方法。
  20. 撮影対象領域を異なる方向から撮影する複数のカメラにより得られる複数の撮像画像に基づいて仮想視点画像を生成する画像処理システムであって、
    仮想視点の位置及び方向を示す仮想視点情報を取得する取得手段と、
    前記複数のカメラにより得られる複数の撮像画像の少なくとも1つに基づいて検出される複数のオブジェクトから注視オブジェクトを指定する指定手段と、
    前記取得手段により取得された前記仮想視点情報が示す仮想視点の位置及び方向と、前記指定手段により指定された注視オブジェクトの位置とに基づいて、前記複数のオブジェクトのうち前記注視オブジェクト以外のオブジェクトの中から透明度を変更すべきオブジェクトを決定する決定手段と、
    前記決定手段により決定されたオブジェクト透明度が変更された仮想視点画像を、前記複数のカメラにより得られた前記複数の撮像画像に基づいて生成する生成手段とを有することを特徴とする画像処理システム。
  21. ンピュータ請求項1乃至16のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
JP2016194778A 2016-09-30 2016-09-30 画像処理装置及び画像処理方法及び画像処理システム及びプログラム Active JP6407225B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2016194778A JP6407225B2 (ja) 2016-09-30 2016-09-30 画像処理装置及び画像処理方法及び画像処理システム及びプログラム
US15/712,326 US10628993B2 (en) 2016-09-30 2017-09-22 Image processing apparatus that generates a virtual view image from multiple images captured from different directions and method controlling the same
US16/814,156 US11017588B2 (en) 2016-09-30 2020-03-10 Image processing apparatus that generates a virtual view image from multiple images captured from different directions and method controlling the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016194778A JP6407225B2 (ja) 2016-09-30 2016-09-30 画像処理装置及び画像処理方法及び画像処理システム及びプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2018175336A Division JP2019021333A (ja) 2018-09-19 2018-09-19 画像処理装置及び画像処理方法及びプログラム

Publications (3)

Publication Number Publication Date
JP2018055644A JP2018055644A (ja) 2018-04-05
JP2018055644A5 true JP2018055644A5 (ja) 2018-07-12
JP6407225B2 JP6407225B2 (ja) 2018-10-17

Family

ID=61757162

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016194778A Active JP6407225B2 (ja) 2016-09-30 2016-09-30 画像処理装置及び画像処理方法及び画像処理システム及びプログラム

Country Status (2)

Country Link
US (2) US10628993B2 (ja)
JP (1) JP6407225B2 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018079260A1 (ja) * 2016-10-25 2018-05-03 ソニー株式会社 画像処理装置および画像処理方法
JP7072378B2 (ja) * 2017-12-13 2022-05-20 キヤノン株式会社 画像生成装置およびその制御方法、画像生成システム、プログラム
JP7278720B2 (ja) * 2018-06-27 2023-05-22 キヤノン株式会社 生成装置、生成方法及びプログラム
JP7123736B2 (ja) * 2018-10-23 2022-08-23 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
JP2020101845A (ja) * 2018-12-19 2020-07-02 キヤノン株式会社 画像処理装置、画像処理システム、画像処理方法、およびプログラム
JP2022047548A (ja) * 2019-01-16 2022-03-25 ソニーグループ株式会社 画像処理装置、画像処理方法、及び、プログラム
JP7401196B2 (ja) * 2019-05-23 2023-12-19 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
JP7163498B2 (ja) * 2019-06-28 2022-10-31 富士フイルム株式会社 表示制御装置、表示制御方法、及びプログラム
JP7326965B2 (ja) * 2019-07-29 2023-08-16 富士通株式会社 画像処理装置、画像処理プログラム、及び画像処理方法
JP2021051537A (ja) * 2019-09-25 2021-04-01 ミストウォーカー・コーポレーション 画像表示システム、方法、およびプログラム
JP2022133133A (ja) * 2021-03-01 2022-09-13 キヤノン株式会社 生成装置、生成方法、システム、およびプログラム

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5011224B1 (ja) 1967-08-31 1975-04-28
JP3311830B2 (ja) 1993-09-20 2002-08-05 株式会社東芝 3次元動画作成装置
JP2001276420A (ja) * 2000-03-30 2001-10-09 Namco Ltd ゲーム装置および情報記憶媒体
JP4707080B2 (ja) * 2001-07-30 2011-06-22 株式会社バンダイナムコゲームス 画像生成システム、プログラム及び情報記憶媒体
JP4840800B2 (ja) 2005-11-17 2011-12-21 サミー株式会社 画像処理装置、遊技機、画像処理方法、及びプログラム
JP4895738B2 (ja) * 2006-09-15 2012-03-14 株式会社カプコン 三次元映像表示装置、その表示装置を実現するためのプログラム
US8253736B2 (en) * 2007-01-29 2012-08-28 Microsoft Corporation Reducing occlusions in oblique views
US8086071B2 (en) * 2007-10-30 2011-12-27 Navteq North America, Llc System and method for revealing occluded objects in an image dataset
US8073190B2 (en) * 2007-11-16 2011-12-06 Sportvision, Inc. 3D textured objects for virtual viewpoint animations
JP5011224B2 (ja) 2008-07-09 2012-08-29 日本放送協会 任意視点映像生成装置及び任意視点映像生成プログラム
JP5295416B1 (ja) 2012-08-01 2013-09-18 ヤフー株式会社 画像処理装置、画像処理方法及び画像処理プログラム
JP5593356B2 (ja) 2012-08-22 2014-09-24 ヤフー株式会社 広告配信装置、広告配信方法および広告配信プログラム
JP6186689B2 (ja) * 2012-09-26 2017-08-30 セイコーエプソン株式会社 映像表示システム
US9742974B2 (en) * 2013-08-10 2017-08-22 Hai Yu Local positioning and motion estimation based camera viewing system and methods
JP6309749B2 (ja) * 2013-12-09 2018-04-11 シャープ株式会社 画像データ再生装置および画像データ生成装置
JP6473577B2 (ja) 2014-05-21 2019-02-20 任天堂株式会社 情報処理システム、情報処理方法、及び情報処理プログラム

Similar Documents

Publication Publication Date Title
JP2018055644A5 (ja) 画像処理装置及び画像処理方法及び画像処理システム及びプログラム
JP2018180655A5 (ja)
JP2018049591A5 (ja) 画像処理装置、画像処理方法及びプログラム
JP2018056971A5 (ja)
JP2018092580A5 (ja) 画像処理装置および画像処理方法、プログラム
JP2019152903A5 (ja) 情報処理装置および情報処理方法
JP2017525052A (ja) 表示のためにキャプチャ画像の視野を調整する技術
JP2010086336A (ja) 画像制御装置、画像制御プログラムおよび画像制御方法
JP2013135341A5 (ja)
JP2014179923A5 (ja)
JP2020077108A5 (ja)
JP2018180654A5 (ja) 情報処理装置、情報処理方法及びプログラム
JP2020086983A5 (ja)
JP2020068513A5 (ja) 画像処理装置およびその制御方法、プログラム
KR101330531B1 (ko) 3차원 카메라를 이용한 가상 터치 방법 및 장치
KR101674099B1 (ko) 얼굴 인증을 위한 영상 생성 장치 및 그 방법
JP2016178608A5 (ja)
JP2020036116A5 (ja)
JP2019040229A5 (ja)
KR20150064761A (ko) 투명 디스플레이를 포함하는 전자 장치 및 제어 방법
JP2017125974A5 (ja)
JP2019016862A5 (ja) 情報処理装置、情報処理方法及びプログラム
JP2019046055A5 (ja)
WO2018042074A1 (en) A method, apparatus and computer program product for indicating a seam of an image in a corresponding area of a scene
JP2014157316A (ja) プロジェクタ装置