JP6868288B2 - 画像処理装置、画像処理方法、及び画像処理プログラム - Google Patents
画像処理装置、画像処理方法、及び画像処理プログラム Download PDFInfo
- Publication number
- JP6868288B2 JP6868288B2 JP2018169363A JP2018169363A JP6868288B2 JP 6868288 B2 JP6868288 B2 JP 6868288B2 JP 2018169363 A JP2018169363 A JP 2018169363A JP 2018169363 A JP2018169363 A JP 2018169363A JP 6868288 B2 JP6868288 B2 JP 6868288B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- viewpoint
- images
- deformed
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Description
を備え、画像選択部は、指定を受けた方向の所定の位置を前記対象とするようにしてもよい。
図1は、第1実施形態に係る画像処理システムの一実施例の全体構成図である。
以下の説明において、画像を表現する画像データのことを、単に画像ともいう。なお、画像処理装置は、動画を処理するとき、動画を表現する各フレームに対応する画像に対して実施形態で説明する画像処理を実行する。
カメラ11は、例えば、仮想的な観察者が設定されたとき、仮想的な観察者の右目視点から左目視点までの距離(瞳孔間距離)以内の間隔で並べて配置されることが好ましい。すなわち、カメラ11は、仮想的な観察者の瞳孔間距離の間に複数台配置されることが好ましい。以下の説明では、仮想的な観察者の右目視点と左目視点とは、仮想的な観察者の右目のある位置と左目のある位置とのことをいう。また、仮想的な観察者の右目視点と左目視点とのことを、まとめて視聴視点ともいう。
また、HDD32は、圧縮部31bにより圧縮されたカメラ11の撮影画像に、撮影したカメラ11の識別情報と、撮影時刻(例えば、撮影開始時刻)とを関連付けた画像情報を格納する。
CPU31は、HDD32に格納されているプログラムをメモリ33に読み出して実行することにより各種処理を実行する。本実施形態では、CPU31は、撮影処理プログラムを実行することにより、歪み補正部31aと、圧縮部31bと、位置割出部31cと、処理制御部31dとを構成する。
選択装置6は、例えば、各ボタンに対して、それぞれ1人ずつ演者9を対応付けておき、押下されるボタンにより対象の指定を受け付けてもよい。また、選択装置6は、ユーザがボタンを押下するごとに、指定する対象の切り替えを受け付けてもよい。
図2は、第1実施形態に係るカメラアレイの一例を説明する図である。
カメラアレイ1は、円弧状に並べて配置された複数のカメラ11を備えている。そして、カメラアレイ1は、観察者の頭部12の中心である基準位置Pを軸として、頭部12を回転させたとき、左右の眼球13L,13Rが向く複数の視点から見た画像を取得する。
撮影者は、カメラアレイ1を舞台8の方向に向けて配置する。カメラアレイ1は、例えば、舞台8の横方向の中央位置と、カメラ11が配置されている部分円弧の中点と、基準位置Pとが直線で結ばれる位置に、複数のカメラ11を舞台8の方向に向けて配置してもよい。また、カメラアレイ1は、舞台8上にいる演者9と同じ高さに配置されるのが好ましい。
カメラ2は、舞台8において1以上の演者9(9a、9b、9c等)による演技等が行われるとき、舞台8の上面を撮影する。このとき、カメラアレイ1は、各カメラ11を用いて、舞台8を正面から撮影する。カメラアレイ1及びカメラ2は、撮影画像を撮影処理装置3に入力する。
位置割出部31cは、カメラ2の撮影画像に含まれる演者9を認識し、各演者9の位置を特定する(ステップS11)。そして、処理制御部31dは、認識した各演者9にループ2の処理(ステップS12〜S14)を実行する。
図4は、第1実施形態に係る画像処理装置による画像生成処理の一例を示すフローチャートである。なお、画像生成処理を実行するとき、記録媒体4は画像処理装置5に接続される。
画像生成処理において、右目視点と左目視点とを特定し、右目用画像の作成に使用する複数のカメラ11の撮影画像と、左目用画像の作成に使用する複数のカメラ11の撮影画像とを選択する処理(ステップS22、S23)について、図2及び図5を参照して説明する。
図5を参照して説明する。カメラ11gについての例を示すと、基準位置Pと対象との距離L1と、基準位置Pとカメラ11gの視点との距離L2と、カメラ11gの位置と対象との距離L3とは、対象の位置座標、基準位置Pの位置座標、及び基準位置Pに対するカメラ11gの位置(カメラ情報42)に基づいて特定する。そして、距離L1、距離L2、及び距離L3の値を用いて、余弦定理により、基準位置Pとカメラ11gの視点と対象とを結ぶ三角形の内角を特定する。カメラ11gの演者方向角度Gは、180度から距離L2と距離L3とのなす角を減算することにより得られる。カメラ11の演者方向角度によると、このカメラ11の撮影画像に含まれる対象の画像の位置(画素の位置)を特定することができる。より具体的には、カメラ11の撮影画像の横方向の長さがカメラ11の画角に対応している。したがって、撮影画像に含まれる対象の横方向の位置は、距離L3に、画角の半分の角度と演者方向角度とのタンジェント値をそれぞれ乗算することにより求められる値の比率を用いて特定することができる。撮影画像に含まれる対象の横方向の位置は、演者9の3次元座標の高さを用いて特定することができる。
本実施形態に係るカメラアレイの第2変形例について説明する。
Claims (9)
- 注目する対象の指定を受け付け、前記対象の位置を特定する対象受付部と、
複数の視点から見た画像から、特定した前記対象の位置と前記複数の視点の位置との位置関係に応じて、仮想的な観察者の右目視点に近い異なる複数の視点から見た前記対象を含む複数の第1視点画像と、前記仮想的な観察者の左目視点に近い異なる複数の視点から見た前記対象を含む複数の第2視点画像とを選択する画像選択部と、
前記対象の位置が互いに重なるように、複数の前記第1視点画像に含まれる画像を合成するとともに、複数の前記第2視点画像に含まれる画像を合成する画像合成部と、
表示装置に表示する前記対象を含む表示領域を決定し、複数の前記第1視点画像について、前記第1視点画像に含まれる第1対応領域であって、前記表示領域の形状に変形したとき、変形後の複数の第1変形画像において、前記対象が指定の同じ位置にくる前記第1対応領域を特定するとともに、複数の前記第2視点画像について、前記第2視点画像に含まれる第2対応領域であって、前記表示領域の形状に変形したとき、変形後の複数の第2変形画像において、前記対象が指定の同じ位置にくる前記第2対応領域を特定する対応領域特定部と、
複数の前記第1対応領域の画像を、前記表示領域の形状の前記第1変形画像に変形するとともに、複数の前記第2対応領域の画像を、前記表示領域の形状の前記第2変形画像に変形する画像変形部と、
を備え、
前記画像合成部は、
複数の前記第1変形画像を合成するとともに、複数の前記第2変形画像を合成する
画像処理装置。 - 前記仮想的な観察者は、
人間の想定サイズよりも大きいサイズのモデルであり、
前記複数の視点から見た画像は、
前記仮想的な観察者を中心とする円弧上に配置された複数の撮影装置であって、仮想的な観察者の右目視点から左目視点までの距離以内の間隔で並べられた前記複数の撮影装置により撮影された画像である
請求項1に記載の画像処理装置。 - 前記画像処理装置は、さらに、
前記右目視点と複数の前記第1視点画像を撮影した複数の第1撮影視点との位置関係に応じて、前記右目視点と前記第1撮影視点とが近い第1視点画像ほど重みが大きくなるように各第1視点画像の合成時の重みを決定するとともに、前記左目視点と複数の前記第2視点画像を撮影した複数の第2撮影視点との位置関係に応じて、前記左目視点と前記第2撮影視点とが近い第2視点画像ほど重みが大きくなるように各第2視点画像の合成時の重みを決定する重み指定部
を備え、
前記画像合成部は、前記決定した重みを用いて、複数の前記第1視点画像に含まれる画像を合成するとともに、複数の前記第2視点画像に含まれる画像を合成する
請求項1または請求項2に記載の画像処理装置。 - 前記対応領域特定部は、
前記第1対応領域を前記表示領域の形状に変形したとき、前記対象が中心にくるように前記第1対応領域を特定するとともに、前記第2対応領域を前記表示領域の形状に変形したとき、前記対象が中心にくるように前記第2対応領域を特定する
請求項1に記載の画像処理装置。 - 注目する演者の指定を受け付け、前記演者の位置を特定する対象受付部と、
複数の視点から見た画像から、特定した前記演者の位置と前記複数の視点の位置との位置関係に応じて、仮想的な観察者の右目視点に近い異なる複数の視点から見た前記演者を含む複数の第1視点画像と、前記仮想的な観察者の左目視点に近い異なる複数の視点から見た前記演者を含む複数の第2視点画像とを選択する画像選択部と、
前記演者の位置が互いに重なるように、複数の前記第1視点画像に含まれる画像を合成するとともに、複数の前記第2視点画像に含まれる画像を合成する画像合成部と、
を備える画像処理装置。 - 前記画像処理装置は、さらに、
表示装置に表示する前記演者を含む表示領域を決定し、複数の前記第1視点画像について、前記第1視点画像に含まれる第1対応領域であって、前記表示領域の形状に変形したとき、変形後の複数の第1変形画像において、前記演者が指定の同じ位置にくる前記第1対応領域を特定するとともに、複数の前記第2視点画像について、前記第2視点画像に含まれる第2対応領域であって、前記表示領域の形状に変形したとき、変形後の複数の第2変形画像において、前記演者が指定の同じ位置にくる前記第2対応領域を特定する対応領域特定部と、
複数の前記第1対応領域の画像を、前記表示領域の形状の前記第1変形画像に変形するとともに、複数の前記第2対応領域の画像を、前記表示領域の形状の前記第2変形画像に変形する画像変形部と、
を備え、
前記画像合成部は、
複数の前記第1変形画像を合成するとともに、複数の前記第2変形画像を合成する
請求項5に記載の画像処理装置。 - カメラアレイと、画像処理装置とを備える画像処理システムであって、
前記カメラアレイは、
仮想的な観察者の右目視点から左目視点までの距離以内の間隔で並べられた、画像を撮影する複数の撮影部
を備え、
前記画像処理装置は、
注目する対象の指定を受け付け、前記対象の位置を特定する対象受付部と、
複数の視点から見た画像から、特定した前記対象の位置と前記複数の視点の位置との位置関係に応じて、前記仮想的な観察者の右目視点に近い異なる複数の視点から見た前記対象を含む複数の第1視点画像と、前記仮想的な観察者の左目視点に近い異なる複数の視点から見た前記対象を含む複数の第2視点画像とを選択する画像選択部と、
前記対象の位置が互いに重なるように、複数の前記第1視点画像に含まれる画像を合成するとともに、複数の前記第2視点画像に含まれる画像を合成する画像合成部と、
表示装置に表示する前記対象を含む表示領域を決定し、複数の前記第1視点画像について、前記第1視点画像に含まれる第1対応領域であって、前記表示領域の形状に変形したとき、変形後の複数の第1変形画像において、前記対象が指定の同じ位置にくる前記第1対応領域を特定するとともに、複数の前記第2視点画像について、前記第2視点画像に含まれる第2対応領域であって、前記表示領域の形状に変形したとき、変形後の複数の第2変形画像において、前記対象が指定の同じ位置にくる前記第2対応領域を特定する対応領域特定部と、
複数の前記第1対応領域の画像を、前記表示領域の形状の前記第1変形画像に変形するとともに、複数の前記第2対応領域の画像を、前記表示領域の形状の前記第2変形画像に変形する画像変形部と、
を備え、
前記画像合成部は、
複数の前記第1変形画像を合成するとともに、複数の前記第2変形画像を合成する
画像処理システム。 - コンピュータによって実行される画像処理方法であって、
前記コンピュータは、
注目する対象の指定を受け付け、前記対象の位置を特定し、
複数の視点から見た画像から、特定した前記対象の位置と前記複数の視点の位置との位置関係に応じて、仮想的な観察者の右目視点に近い異なる複数の視点から見た対象を含む複数の第1視点画像と、前記仮想的な観察者の左目視点に近い異なる複数の視点から見た前記対象を含む複数の第2視点画像とを選択し、
前記対象の位置が互いに重なるように、複数の前記第1視点画像に含まれる画像を合成するとともに、複数の前記第2視点画像に含まれる画像を合成し、
さらに、
表示装置に表示する前記対象を含む表示領域を決定し、複数の前記第1視点画像について、前記第1視点画像に含まれる第1対応領域であって、前記表示領域の形状に変形したとき、変形後の複数の第1変形画像において、前記対象が指定の同じ位置にくる前記第1対応領域を特定するとともに、複数の前記第2視点画像について、前記第2視点画像に含まれる第2対応領域であって、前記表示領域の形状に変形したとき、変形後の複数の第2変形画像において、前記対象が指定の同じ位置にくる前記第2対応領域を特定し、
複数の前記第1対応領域の画像を、前記表示領域の形状の前記第1変形画像に変形するとともに、複数の前記第2対応領域の画像を、前記表示領域の形状の前記第2変形画像に変形し、
前記画像の合成において、
複数の前記第1変形画像を合成するとともに、複数の前記第2変形画像を合成する
ことを実行する画像処理方法。 - 注目する対象の指定を受け付け、前記対象の位置を特定し、
複数の視点から見た画像から、特定した前記対象の位置と前記複数の視点の位置との位置関係に応じて、仮想的な観察者の右目視点に近い異なる複数の視点から見た対象を含む複数の第1視点画像と、前記仮想的な観察者の左目視点に近い異なる複数の視点から見た前記対象を含む複数の第2視点画像とを選択し、
前記対象の位置が互いに重なるように、複数の前記第1視点画像に含まれる画像を合成するとともに、複数の前記第2視点画像に含まれる画像を合成し、
表示装置に表示する前記対象を含む表示領域を決定し、複数の前記第1視点画像について、前記第1視点画像に含まれる第1対応領域であって、前記表示領域の形状に変形したとき、変形後の複数の第1変形画像において、前記対象が指定の同じ位置にくる前記第1対応領域を特定するとともに、複数の前記第2視点画像について、前記第2視点画像に含まれる第2対応領域であって、前記表示領域の形状に変形したとき、変形後の複数の第2変形画像において、前記対象が指定の同じ位置にくる前記第2対応領域を特定し、
複数の前記第1対応領域の画像を、前記表示領域の形状の前記第1変形画像に変形するとともに、複数の前記第2対応領域の画像を、前記表示領域の形状の前記第2変形画像に変形し、
前記画像の合成において、
複数の前記第1変形画像を合成するとともに、複数の前記第2変形画像を合成する
処理をコンピュータに実行させる画像処理プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018169363A JP6868288B2 (ja) | 2018-09-11 | 2018-09-11 | 画像処理装置、画像処理方法、及び画像処理プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018169363A JP6868288B2 (ja) | 2018-09-11 | 2018-09-11 | 画像処理装置、画像処理方法、及び画像処理プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020043467A JP2020043467A (ja) | 2020-03-19 |
JP6868288B2 true JP6868288B2 (ja) | 2021-05-12 |
Family
ID=69798829
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018169363A Active JP6868288B2 (ja) | 2018-09-11 | 2018-09-11 | 画像処理装置、画像処理方法、及び画像処理プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6868288B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024042804A1 (ja) * | 2022-08-26 | 2024-02-29 | 株式会社Jvcケンウッド | コンテンツ販売装置、コンテンツ販売方法、及びコンテンツ販売プログラム |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3526896B2 (ja) * | 1993-12-09 | 2004-05-17 | 株式会社応用計測研究所 | 動画像処理装置 |
WO1995007590A1 (fr) * | 1993-09-06 | 1995-03-16 | Kabushiki Kaisha Oh-Yoh Keisoku Kenkyusho | Processeur d'images variant dans le temps et dispositif d'affichage |
JPH09200715A (ja) * | 1996-01-19 | 1997-07-31 | Canon Inc | 通信装置、通信方法及び通信システム |
JP2012128737A (ja) * | 2010-12-16 | 2012-07-05 | Samsung Yokohama Research Institute Co Ltd | 3d映像生成システム |
JP5832211B2 (ja) * | 2011-09-16 | 2015-12-16 | キヤノン株式会社 | 画像処理装置、画像処理方法及びプログラム |
US10757399B2 (en) * | 2015-09-10 | 2020-08-25 | Google Llc | Stereo rendering system |
JP6419128B2 (ja) * | 2016-10-28 | 2018-11-07 | キヤノン株式会社 | 画像処理装置、画像処理システム、画像処理方法及びプログラム |
-
2018
- 2018-09-11 JP JP2018169363A patent/JP6868288B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2020043467A (ja) | 2020-03-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP2357841B1 (en) | Method and apparatus for processing three-dimensional images | |
US8131064B2 (en) | Method and apparatus for processing three-dimensional images | |
CN108141578B (zh) | 呈现相机 | |
JP5725953B2 (ja) | 撮像装置及びその制御方法、並びに情報処理装置 | |
JP3749227B2 (ja) | 立体画像処理方法および装置 | |
JP3857988B2 (ja) | 立体画像処理方法および装置 | |
JP2000354257A (ja) | 画像処理装置、画像処理方法、およびプログラム提供媒体 | |
US20160344999A1 (en) | SYSTEMS AND METHODs FOR PRODUCING PANORAMIC AND STEREOSCOPIC VIDEOS | |
JP5467993B2 (ja) | 画像処理装置、複眼デジタルカメラ、及びプログラム | |
JP2012068380A (ja) | 画像処理装置、撮像装置、および画像処理方法、並びにプログラム | |
EP3080986A1 (en) | Systems and methods for producing panoramic and stereoscopic videos | |
JP2003284093A (ja) | 立体画像処理方法および装置 | |
US20100171815A1 (en) | Image data obtaining method and apparatus therefor | |
KR20130039522A (ko) | 입체 파노라마 영상을 생성하는 장치 및 방법 | |
KR102082300B1 (ko) | 삼차원 영상 생성 또는 재생을 위한 장치 및 방법 | |
JP6700935B2 (ja) | 撮像装置、その制御方法、および制御プログラム | |
JP6868288B2 (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
JP4118146B2 (ja) | 立体画像処理装置 | |
US20190335153A1 (en) | Method for multi-camera device | |
JP2015043187A (ja) | 画像生成装置および画像生成プログラム | |
JPWO2018186287A1 (ja) | 映像データ生成装置、映像再生装置、映像データ生成方法、制御プログラム、及び記録媒体 | |
JP2003284094A (ja) | 立体画像処理方法および装置 | |
JP4249187B2 (ja) | 立体映像処理装置並びにそのプログラム | |
KR20190016139A (ko) | 입체 비디오 생성 | |
JP6438694B2 (ja) | 立体映像表示装置および映像生成プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191002 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200814 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200825 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201023 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210323 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210405 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6868288 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |