JP2020046944A - 画像処理装置、制御方法、及びプログラム - Google Patents
画像処理装置、制御方法、及びプログラム Download PDFInfo
- Publication number
- JP2020046944A JP2020046944A JP2018174919A JP2018174919A JP2020046944A JP 2020046944 A JP2020046944 A JP 2020046944A JP 2018174919 A JP2018174919 A JP 2018174919A JP 2018174919 A JP2018174919 A JP 2018174919A JP 2020046944 A JP2020046944 A JP 2020046944A
- Authority
- JP
- Japan
- Prior art keywords
- image
- captured image
- captured
- generation unit
- background
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 103
- 238000000034 method Methods 0.000 title claims description 48
- 238000003384 imaging method Methods 0.000 claims description 34
- 230000009466 transformation Effects 0.000 claims description 9
- 230000001131 transforming effect Effects 0.000 claims description 2
- 230000005540 biological transmission Effects 0.000 description 36
- 238000010586 diagram Methods 0.000 description 24
- 230000008569 process Effects 0.000 description 21
- 238000011144 upstream manufacturing Methods 0.000 description 12
- 238000004891 communication Methods 0.000 description 6
- 238000011156 evaluation Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 4
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 4
- 238000000926 separation method Methods 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 238000009877 rendering Methods 0.000 description 3
- 238000012935 Averaging Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Images
Landscapes
- Image Generation (AREA)
- Image Analysis (AREA)
- Processing Or Creating Images (AREA)
Abstract
Description
<実施形態1>
本実施形態では、前景画像、背景画像を生成する画像処理装置を説明する。この画像処理装置は、仮想視点画像を生成する画像処理システムに用いられる。なお、仮想視点画像とは、エンドユーザ及び/又は選任のオペレータ等が仮想的な視点に対応するカメラ(仮想カメラ)の位置及び姿勢を入力又は操作することによって生成される画像である。このような仮想視点画像からなる映像は、自由視点映像又は任意視点映像などとも呼ばれる。仮想視点画像は、動画であっても、静止画であってもよい。また、仮想視点は、自動的に設定されてもよい。仮想視点画像の生成の際に、本実施形態の画像処理装置で生成される前景画像、背景画像が用いられる。
実施形態1では、基準カメラとその両隣のカメラとの視差情報を利用して、前景画像と背景画像を生成する形態を説明した。本実施形態では、それに限らず、視差情報を与える視差の大きさを適正なものとする方法を説明する。なお、本実施形態の画像処理システムは、実施形態1と同様であり、その構成は図1、2で示されている。
実施形態1では、カメラと画像処理装置とがスター型で接続された形態を説明した。本実施形態では、カメラごとに画像処理装置が配置され、それらを含むセンサシステムが、デイジーチェーン型で接続された形態について説明する。なお、本実施形態においては、カメラと画像処理装置が一体となった構成でもよい。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC:Application Specific Integrated Circuit)によっても実現可能である。
201 画像受信部
212 シルエット画像生成部
214 背景画像生成部
Claims (19)
- 仮想視点画像を生成するために用いられる、異なる方向からの撮像により取得される複数の撮像画像に基づいて少なくともオブジェクトとは異なる背景を表す背景画像を生成する画像処理装置であって、
前記異なる方向からの撮像により取得された第1撮像画像と第2撮像画像とを含む前記複数の撮像画像を取得する取得手段と、
前記取得手段により取得された前記第1撮像画像と前記第2撮像画像とに基づいて、前記第1撮像画像におけるオブジェクトの領域を示す領域情報を生成する第1生成手段と、
前記取得手段により取得された前記第1撮像画像と前記第2撮像画像と、前記第1生成手段により生成されたオブジェクトの領域を示す領域情報とに基づいて、少なくとも前記オブジェクトとは異なる背景を表す背景画像を生成する第2生成手段と、を有することを特徴とする画像処理装置。 - 前記取得手段により取得された前記第2撮像画像を射影変換して画像を生成する第3生成手段を、さらに有し、
前記第2生成手段は、前記取得手段により取得された第1撮像画像と、前記第3生成手段により生成された画像と、前記第1生成手段により生成されたオブジェクトの領域を示す領域情報とに基づいて、前記背景画像を生成することを特徴とする請求項1に記載の画像処理装置。 - 前記第2生成手段は、前記第1生成手段により生成されたオブジェクトの領域を示す領域情報に基づいて、前記第3生成手段により生成された画像から前記オブジェクトの領域に対応する画素値を取得し、前記画素値と、前記取得手段により取得された前記第1撮像画像とに基づいて、前記背景画像を生成することを特徴とする請求項2に記載の画像処理装置。
- 前記第2生成手段は、前記取得手段により取得された前記第1撮像画像における前記オブジェクトの領域に対応する画素の画素値を、前記第3生成手段により生成された画像から取得された前記画素値に置き換えて、前記背景画像を生成することを特徴とする請求項3に記載の画像処理装置。
- 前記第3生成手段により生成された画像は、前記第2撮像画像の少なくとも前記オブジェクトの領域とは異なる領域を、前記第1撮像画像の少なくとも前記オブジェクトの領域とは異なる領域と対応するように前記第2撮像画像が射影変換された画像であることを特徴とする請求項2乃至4のいずれか1項に記載の画像処理装置。
- 前記第1生成手段は、前記取得手段により取得された第1撮像画像と、前記第3生成手段により生成された画像とに基づいて、オブジェクトの領域を示す領域情報を生成することを特徴とする請求項2乃至5のいずれか1項に記載の画像処理装置。
- 前記複数の画像は、前記第1撮像画像と前記第2撮像画像を取得するための撮像における方向とは異なる方向からの撮像により取得された第3撮像画像を含み、
前記第3生成手段は、前記取得手段により取得された前記第3撮像画像に基づいて画像を生成し、
前記第1生成手段は、前記取得手段により取得された前記第1撮像画像と、前記第2撮像画像に基づき前記第3生成手段により生成された画像と、前記第3撮像画像に基づき前記第3生成手段により生成された画像とに基づいて、前記オブジェクトの領域を示す領域情報を生成することを特徴とする請求項2乃至6のいずれか1項に記載の画像処理装置。 - 前記第1生成手段は、前記取得手段により取得された第1撮像画像と前記第2撮像画像に基づき前記第3生成手段により生成された画像との差分画像と、前記取得手段により取得された第1撮像画像と前記第3撮像画像に基づき前記第3生成手段により生成された画像との差分画像とに基づいて、前記オブジェクトの領域を示す領域情報を生成することを特徴とする請求項7に記載の画像処理装置。
- 前記取得手段は、前記第1撮像画像を取得する第1取得手段と、前記第2撮像画像を取得する第2取得手段とを有し、
前記第1取得手段は、別の第1画像処理装置に対応する撮像装置により取得された前記第1撮像画像を取得し、
前記第2取得手段は、前記画像処理装置に対応する撮像装置により取得された第2撮像画像を取得することを特徴とする請求項1乃至8のいずれか1項に記載の画像処理装置。 - 前記第1取得手段は、別の第2画像処理装置に対応する撮像装置により取得された撮像画像に基づく画像をさらに取得することを特徴とする請求項9に記載の画像処理装置。
- 前記画像処理装置と前記別の第1画像処理装置とは、デイジーチェーン型で接続されていることを特徴とする請求項9に記載の画像処理装置。
- 前記第2撮像画像は、前記第1撮像画像を取得する撮像装置の隣に配置された撮像装置により取得されることを特徴とする請求項1乃至11のいずれか1項に記載の画像処理装置。
- 前記第1生成手段が生成するオブジェクトの領域を示す領域情報に基づく指標に基づいて、前記複数の撮像画像から前記第2撮像画像を選択する選択手段をさらに有し、
前記第1生成手段は、前記第1撮像画像と前記選択手段により選択された第2撮像画像とに基づいて、前記第1撮像画像におけるオブジェクトの領域を示す領域情報を生成することを特徴とする請求項1乃至6のいずれか1項に記載の画像処理装置。 - 前記オブジェクトは、同じ方向から時系列で前記撮像を行った場合の各画像内においてその位置が変化し得る動体であることを特徴とする請求項1乃至13のいずれか1項に記載の画像処理装置。
- 仮想視点画像を生成するために用いられる、異なる方向からの撮像により取得される複数の撮像画像に基づいて少なくともオブジェクトとは異なる背景を表す背景画像を生成する画像処理装置の制御方法であって、
異なる方向からの撮像により取得された第1撮像画像と第2撮像画像とを含む複数の撮像画像を取得する取得工程と、
前記取得工程により取得された前記第1撮像画像と前記第2撮像画像とに基づいて、前記第1撮像画像におけるオブジェクトの領域を示す領域情報を生成する第1生成工程と、
前記取得工程により取得された前記第1撮像画像と前記第2撮像画像と、前記第1生成工程により生成されたオブジェクトの領域を示す領域情報とに基づいて、少なくともオブジェクトとは異なる背景を表す背景画像を生成する第2生成工程と、を有することを特徴とする制御方法。 - 前記取得工程により取得された前記第2撮像画像を射影変換して画像を生成する第3生成工程を、さらに有し、
前記第2生成工程は、前記取得工程により取得された第1撮像画像と、前記第3生成工程により生成された画像と、前記第1生成工程により生成されたオブジェクトの領域を示す領域情報とに基づいて、前記背景画像を生成することを特徴とする請求項15に記載の制御方法。 - 前記取得工程は、前記第1撮像画像を取得する第1取得工程と、前記第2撮像画像を取得する第2取得工程とを有し、
前記第1取得工程は、別の画像処理装置に対応する撮像装置により取得された前記第1撮像画像を取得し、
前記第2取得工程は、前記画像処理装置に対応する撮像装置により取得された前記第2撮像画像を取得することを特徴とする請求項15又は16に記載の制御方法。 - 前記取得工程は、前記第1撮像画像と前記第2撮像画像とを含む前記複数の撮像画像を取得し、
前記第1生成工程が生成するオブジェクトの領域を示す領域情報に基づく指標に基づいて、前記複数の撮像画像から前記第2撮像画像を選択する選択工程をさらに有することを特徴とする請求項15又は16に記載の制御方法。 - コンピュータを、請求項1乃至14のいずれか1項に記載の画像処理装置として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018174919A JP2020046944A (ja) | 2018-09-19 | 2018-09-19 | 画像処理装置、制御方法、及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018174919A JP2020046944A (ja) | 2018-09-19 | 2018-09-19 | 画像処理装置、制御方法、及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020046944A true JP2020046944A (ja) | 2020-03-26 |
Family
ID=69901538
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018174919A Pending JP2020046944A (ja) | 2018-09-19 | 2018-09-19 | 画像処理装置、制御方法、及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2020046944A (ja) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011170487A (ja) * | 2010-02-17 | 2011-09-01 | Kddi Corp | 大空間カメラ配置における幾何情報に基づく仮想視点画像生成方法およびプログラム |
JP2016192122A (ja) * | 2015-03-31 | 2016-11-10 | ソニー株式会社 | 情報処理装置、情報処理方法、およびプログラム |
JP2016213578A (ja) * | 2015-04-30 | 2016-12-15 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、プログラム |
JP2018077674A (ja) * | 2016-11-09 | 2018-05-17 | キヤノン株式会社 | 画像処理装置、画像処理方法及びプログラム |
-
2018
- 2018-09-19 JP JP2018174919A patent/JP2020046944A/ja active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011170487A (ja) * | 2010-02-17 | 2011-09-01 | Kddi Corp | 大空間カメラ配置における幾何情報に基づく仮想視点画像生成方法およびプログラム |
JP2016192122A (ja) * | 2015-03-31 | 2016-11-10 | ソニー株式会社 | 情報処理装置、情報処理方法、およびプログラム |
JP2016213578A (ja) * | 2015-04-30 | 2016-12-15 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、プログラム |
JP2018077674A (ja) * | 2016-11-09 | 2018-05-17 | キヤノン株式会社 | 画像処理装置、画像処理方法及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11217006B2 (en) | Methods and systems for performing 3D simulation based on a 2D video image | |
US10582191B1 (en) | Dynamic angle viewing system | |
JP7179515B2 (ja) | 装置、制御方法、及びプログラム | |
WO2019111817A1 (ja) | 生成装置、生成方法及びプログラム | |
JP6938123B2 (ja) | 表示制御装置、表示制御方法及びプログラム | |
US11677925B2 (en) | Information processing apparatus and control method therefor | |
US11627251B2 (en) | Image processing apparatus and control method thereof, computer-readable storage medium | |
JP2019215622A (ja) | データ生成装置、画像処理装置、方法およびプログラム | |
JP2020086983A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP7476375B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP2018191254A (ja) | 画像処理装置、画像処理方法、情報処理装置、撮像装置および画像処理システム | |
JP2019036791A (ja) | 画像処理装置、画像処理システム、制御方法、及び、プログラム | |
JP6812181B2 (ja) | 画像処理装置、画像処理方法、及び、プログラム | |
JP2008217593A (ja) | 被写体領域抽出装置及び被写体領域抽出プログラム | |
JP6821398B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2020187529A (ja) | 画像処理装置、画像処理システム、制御方法、および、プログラム | |
JP2020046944A (ja) | 画像処理装置、制御方法、及びプログラム | |
JP2020135290A (ja) | 画像生成装置、画像生成方法、画像生成システム、及びプログラム | |
KR20230017745A (ko) | 화상 처리장치, 화상 처리방법, 및 기억매체 | |
JP2020067815A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP7296735B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2021144522A (ja) | 画像処理装置、画像処理方法、プログラム、及び画像処理システム | |
JP7476160B2 (ja) | 情報処理装置、情報処理システム、及びプログラム | |
EP4295930A1 (en) | Image processing system, image processing method, and computer program | |
US20240037843A1 (en) | Image processing apparatus, image processing system, image processing method, and storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210908 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220610 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220726 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220920 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20230117 |