JP7061445B2 - 立体画像生成装置及びそのプログラム - Google Patents

立体画像生成装置及びそのプログラム Download PDF

Info

Publication number
JP7061445B2
JP7061445B2 JP2017201560A JP2017201560A JP7061445B2 JP 7061445 B2 JP7061445 B2 JP 7061445B2 JP 2017201560 A JP2017201560 A JP 2017201560A JP 2017201560 A JP2017201560 A JP 2017201560A JP 7061445 B2 JP7061445 B2 JP 7061445B2
Authority
JP
Japan
Prior art keywords
image
image pickup
pixel
distance
stereoscopic image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017201560A
Other languages
English (en)
Other versions
JP2018133795A (ja
Inventor
人誌 日浦
淳 洗井
英彦 大久保
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Broadcasting Corp filed Critical Japan Broadcasting Corp
Publication of JP2018133795A publication Critical patent/JP2018133795A/ja
Application granted granted Critical
Publication of JP7061445B2 publication Critical patent/JP7061445B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Studio Devices (AREA)

Description

本発明は、立体画像表示装置の奥行きに応じて、被写体画像から立体画像表示装置が表示する要素画像群を生成する立体画像生成装置及びそのプログラムに関する。
従来のインテグラルフォトグラフィ(IP)方式では、1台のカメラで複数の微小レンズが配列されたレンズアレイを通して被写体を撮像する。このとき、カメラがレンズアレイの焦平面を撮像するため、レンズアレイを構成する各微小レンズは、微小なカメラと同じ働きをする。その結果、レンズアレイ越しに被写体を撮像した画像は、微小レンズの位置に応じた微小画像(要素画像)が並んだ要素画像群となる。要素画像群は、被写体からの光線情報を記憶した画像であり、記憶できる光線数がカメラの解像度に依存する。このため、IP方式での撮像には、高解像度のカメラが必要となる。また、撮像光学系の色収差や歪みによる影響を補正する必要もある。
また、従来から、コンピュータグラフィックス(CG)を用いて、IP方式の要素画像群を生成する技術が研究されている。従来技術では、計算機内で仮想3次元空間を生成し、3次元の被写体及び背景(セット)を実世界と同様に再現し、その仮想3次元空間において被写体からの光線を追跡することで、要素画像群を生成する。CGによる要素画像を生成する手法として、下記の特許文献1,2及び非特許文献1,2に記載の手法が知られている。これらの要素画像生成手法は、被写体からの光線を制御する奥行き制御レンズを通して、被写体からの光線を追跡するものである。これらの手法では、要素画像群の画素数の回数だけ観察者側からカメラで撮像する必要がある。すなわち、非特許文献1の要素画像生成手法は、1画素毎に光線追跡法を用いるので、1画素毎に撮像を行うカメラと同等であり、撮像回数が要素画像群の画素数と同じになる。そこで、さらなる高速化のため、従来技術として、CGオブジェクトを正射影によるカメラで撮像し、これらの画像を要素画像群に変換する手法も知られている(特許文献3、非特許文献3)。このような要素画像変換手法では、カメラで撮像する回数が要素画像を形成する画素数で済む。
特許第4567422号公報 国際公開第00/059235号 特開2011-234142号公報
Spyros S. Athineos et al.,"Physical modeling of a microlens array setup for use in computer generated IP,"Proc of SPIE-IS&T Electronic Imaging,Vol.5664 pp.472-479,2005 中島勧他,"Integral Photographyの原理を用いた3次元ディスプレイの画像高速作成法",映像情報メディア学会誌 Vol. 54, No. 3, pp.420-425 (2000) M. Katayama et al., "A method for converting three-dimensional models into auto-stereoscopic images based on integral photography," Proc of SPIE-IS&T Vol.6805 68050Z-1 68050Z-8
ここで、IP方式では、立体像が表示装置のレンズアレイから奥行き方向に離れるほど、立体像の解像度が低下する。このため、IP方式では、表示装置で十分な解像度が得られる範囲内に立体像の奥行きを圧縮した方がよい。しかしながら、前記した従来技術では、立体像の奥行きを圧縮していないという問題がある。
そこで、本発明は、立体像の奥行きを圧縮できる立体画像生成装置及びそのプログラムを提供することを課題とする。
前記した課題に鑑みて、本発明に係る立体画像生成装置は、1以上の撮像カメラを備える撮像カメラアレイが撮像した被写体画像から、複数の光学素子を配列した光学素子アレイ及び表示素子を備える立体画像表示装置が表示する立体像の奥行きに応じて、立体画像表示装置が表示する要素画像群を生成する立体画像生成装置であって、パラメータ入力手段と、位置算出手段と、軸ずれ量算出手段と、撮像カメラ制御手段と、立体画像生成手段と、を備える構成とした。
かかる構成によれば、立体画像生成装置は、パラメータ入力手段によって、立体画像表示装置の奥行き最大表示距離と、光学素子の焦点距離と、要素画像群を構成する要素画像の中心画素から撮像カメラ毎の計算対象画素までの画素間距離と、光学素子アレイから後方奥行き最大表示位置までの差分距離と、撮像カメラが備える撮像素子のサイズと、表示素子のサイズとを入力する。
立体画像生成装置は、位置算出手段によって、奥行き最大表示距離と、光学素子の焦点距離と、画素間距離とに基づいて、撮像カメラの位置を算出する。
立体画像生成装置は、軸ずれ量算出手段によって、画素間距離と、差分距離と、光学素子の焦点距離と、撮像素子のサイズと、表示素子のサイズとに基づいて、撮像カメラが備える撮像レンズと撮像素子との軸ずれ量を算出する。
立体画像生成装置は、撮像カメラ制御手段によって、位置算出手段が算出した位置に撮像カメラを移動させ、軸ずれ量算出手段が算出した軸ずれ量だけ撮像レンズと撮像素子とをずらす。
立体画像生成装置は、立体画像生成手段によって、撮像カメラアレイが撮像した被写体画像から要素画像群を生成する。
このように、立体画像生成装置は、撮像カメラが備える撮像レンズの光軸と撮像素子の中心軸とをずらすことで、立体画像の奥行きを圧縮することができる。
また、前記した課題に鑑みて、本発明に係る立体画像生成装置は、仮想的な撮像カメラを配列した仮想的な撮像カメラアレイを介して生成した被写体画像から、複数の光学素子を配列した光学素子アレイ及び表示素子を備える立体画像表示装置の奥行きに応じて、立体画像表示装置が表示する要素画像群を生成する立体画像生成装置であって、パラメータ入力手段と、位置算出手段と、軸ずれ量算出手段と、撮像カメラ制御手段と、立体画像生成手段と、を備える構成とした。
かかる構成によれば、立体画像生成装置は、パラメータ入力手段によって、立体画像表示装置の奥行き最大表示距離と、光学素子の焦点距離と、要素画像群を構成する要素画像の中心画素から撮像カメラ毎の計算対象画素までの画素間距離と、光学素子アレイから後方奥行き最大表示位置までの差分距離と、撮像カメラが備える撮像素子のサイズと、表示素子のサイズとを入力する。
立体画像生成装置は、位置算出手段によって、奥行き最大表示距離と、光学素子の焦点距離と、画素間距離とに基づいて、撮像カメラの位置を算出する。
立体画像生成装置は、軸ずれ量算出手段によって、画素間距離と、差分距離と、光学素子の焦点距離と、撮像素子のサイズと、表示素子のサイズとに基づいて、撮像カメラが備える撮像レンズと撮像素子との軸ずれ量を算出する。
立体画像生成装置は、撮像カメラ制御手段によって、位置算出手段が算出した位置及び軸ずれ量算出手段が算出した軸ずれ量で仮想的な撮像カメラを設定する。
立体画像生成装置は、立体画像生成手段によって、撮像カメラアレイを介して被写体画像を生成し、被写体画像から要素画像群を生成する。
このように、立体画像生成装置は、仮想的な撮像カメラが備える撮像レンズの光軸と撮像素子との中心軸をずらすことで、立体画像の奥行きを圧縮することができる。
ここで、立体画像生成装置は、撮像レンズと撮像素子とをずらす代わりに、被写体画像から軸ずれ量に応じた画素位置の画素値を取得して要素画像群を生成してもよい(請求項4,6)。
このように、立体画像生成装置は、撮像カメラが備える撮像レンズの光軸と撮像素子の中心軸とをずらしたのと同等の処理を行うことで、立体画像の奥行きを圧縮することができる。
本発明によれば、以下のような優れた効果を奏する。
本発明に係る立体画像生成装置は、撮像レンズの光軸と撮像素子の中心軸とをずらした撮像カメラアレイで取得した複数の被写体画像から、立体像の奥行きを圧縮した要素画像群を生成するので、立体画像表示装置が解像度の高い奥行き範囲で立体像を表示することができる。
さらに、本発明に係る立体画像生成装置は、被写体画像から軸ずれ量に応じた画素位置の画素値を取得し、立体像の奥行きを圧縮した要素画像群を生成するので、立体画像表示装置が解像度の高い奥行き範囲で立体像を表示することができる。
立体画像表示装置の概略を示す概略構成図である。 立体画像撮像装置の概略を示す概略構成図である。 図2の立体画像撮像装置において、撮像素子の各画素に入射する光線を説明する説明図である。 図3において、撮像素子が撮像する各要素画像で一番下の画素に入射する光線を説明する説明図である。 図3において、撮像素子が撮像する各要素画像で中心の画素に入射する光線を説明する説明図である。 図3において、撮像素子が撮像する各要素画像で一番上の画素に入射する光線を説明する説明図である。 図4の光線と奥行き制御レンズの主平面との交点に配置した撮像カメラを説明する説明図である。 図3の光線と奥行き制御レンズの主平面との交点に配置した撮像カメラを説明する説明図である。 図8において、奥行き制御レンズの主平面から所定距離だけ離した撮像カメラを説明する説明図である。 仮想的なレンズアレイの配置を説明する説明図である。 (a)~(d)は撮像素子に入射する光線を説明する図である。 奥行き制御レンズによる非線形圧縮特性を表したグラフである。 第1実施形態において、軸ずれによる奥行きの圧縮を説明する説明図である。 第1実施形態において、軸ずれによる奥行きの圧縮を説明する説明図である。 第1実施形態に係る立体画像表示システムの構成を示すブロック図である。 第1実施形態において、撮像カメラアレイの外観を示す外観図である。 第1実施形態において、撮像カメラの軸ずれを説明する説明図であり、(a)は軸ずれが無いときの図であり、(b)は軸ずれが有るときの図である。 図15の立体画像生成装置の動作を示すフローチャートである。 第2実施形態に係る立体画像表示システムの構成を示すブロック図である。 図19の立体画像生成装置の動作を示すフローチャートである。 第3実施形態において、撮像カメラアレイの外観を示す外観図である。 第3実施形態に係る立体画像表示システムの処理概要を説明する説明図である。 第3実施形態に係る立体画像表示システムの構成を示すブロック図である。 第3実施形態において、軸ずれ量を考慮した画素位置の画素値の取得を説明する説明図であり、(a)は軸ずれが無いときの図であり、(b)は軸ずれが有るときの図である。 図23の立体画像生成装置の動作を示すフローチャートである。 第4実施形態に係る立体画像表示システムの構成を示すブロック図である。 図26の立体画像生成装置の動作を示すフローチャートである。 第5実施形態に係る立体画像表示システムの処理概要を説明する説明図である。 第7実施形態に係る立体画像表示システムの処理概要を説明する説明図である。 第7実施形態に係る立体画像表示システムの構成を示すブロック図である。 図30の立体画像生成装置の動作を示すフローチャートである。 第8実施形態に係る立体画像表示システムの構成を示すブロック図である。 図32の立体画像生成装置の動作を示すフローチャートである。 第9実施形態に係る立体画像表示システムの処理概要を説明する説明図である。 第9実施形態に係る立体画像表示システムの構成を示すブロック図である。 第9実施形態において、サブピクセルを考慮したダウンサンプリングを説明する説明図である。 図35の立体画像生成装置の動作を示すフローチャートである。 第10実施形態に係る立体画像表示システムの構成を示すブロック図である。 図38の立体画像生成装置の動作を示すフローチャートである。
以下、本発明の各実施形態について、適宜図面を参照しながら詳細に説明する。なお、各実施形態において、同一の手段及び処理には同一の符号を付し、説明を省略した。
本実施形態では、奥行きの圧縮原理を説明した後、立体画像表示システムについて説明する。
(第1実施形態)
[奥行きの圧縮原理]
以下、奥行きの圧縮原理として、立体画像表示装置と立体画像撮像装置との関係、撮像カメラによる置換、立体画像撮像装置の非線形圧縮特性、軸ずれによる奥行きの圧縮について、順に説明する。
<立体画像表示装置と立体画像撮像装置との関係>
立体画像表示装置10は、被写体αの立体像をIP方式で表示するディスプレイである。例えば、立体画像表示装置10は、図1に示すように、表示素子11と、表示用レンズアレイ12とを備える。
表示素子11は、表示用レンズアレイ12を介して、要素画像群(立体画像)を表示するものである。
表示用レンズアレイ12は、表示用要素レンズ13(例えば、微小な凸レンズ)を2次元状に配列したものである。
図2に示すように、立体画像撮像装置90は、被写体αをIP方式で撮像するカメラであり、撮像素子91と、撮像用レンズアレイ92と、奥行き制御レンズ94とを備える。ここで、立体画像撮像装置90は、撮像素子91の前面に撮像用レンズアレイ92を配置し、撮像用レンズアレイ92と被写体αとの間に奥行き制御レンズ94を配置する。
撮像素子91は、撮像用レンズアレイ92及び奥行き制御レンズ94を介して、要素画像群を撮像する一般的な撮像素子である。この撮像素子91は、後記する撮像用要素レンズ93の焦点距離LAfに位置する。
撮像用レンズアレイ92は、撮像用要素レンズ93(例えば、微小な凸レンズ)を2次元状に配列したものである。
奥行き制御レンズ94は、一般的な凸レンズである。奥行き制御レンズ94の焦点距離をDfとする。ここで、焦点距離Dfには、撮像用レンズアレイ92が位置する。
立体画像撮像装置90は、高画質な立体画像を撮像するため、画素数が多い撮像素子91と、高密度な撮像用レンズアレイ92とが必要になる。また、立体画像撮像装置90は、広範囲を撮像するためには、大口径、かつ、短焦点の奥行き制御レンズ94が必要になる。このように、立体画像撮像装置90の制約が大きいので、立体画像撮像装置90を1台以上の一般的な撮像カメラ21(図17)で置換する手法を検討する。
立体画像表示装置10及び立体画像撮像装置90は、奥行き制御レンズ94の有無が大きく異なる。一方、表示素子11及び撮像素子91のサイズの比と、表示用レンズアレイ12及び撮像用レンズアレイ92の間隔及び焦点距離の比とは、通常同一となる。このような関係により、奥行き制御レンズ94を備えない立体画像表示装置10のパラメータを、立体画像撮像装置90のパラメータとして扱うことができる。
<撮像カメラによる置換>
図3には、被写体αからの光線を撮像素子91が取得する様子を図示した。なお、図3では、説明を分かり易くするため、各撮像用要素レンズ93の主点を通過する光線のみを図示すると共に、光線を撮像素子91から被写体αの方向の矢印で図示した(図4~図9も同様)。
撮像用レンズアレイ92のレンズ間隔LApが、撮像素子91の画素間隔PlXpの整数倍であることとする。図3に示すように、撮像素子91の各画素に入射する光線は、奥行き制御レンズ94の被写体α側の主平面βで交わる点が存在する。従って、撮像素子91が撮像する各要素画像で一番下の画素は、図4に示すような光線群が入射する。また、撮像素子91が撮像する各要素画像で中心の画素は、図5に示すような光線群が入射する。さらに、撮像素子91が撮像する各要素画像で一番上の画素は、図6に示すような光線群が入射する。
ここで、図4に着目すると、奥行き制御レンズ94の被写体α側の主平面βにおいて、光線が一点で交わっている。図7に示すように、撮像カメラ21が備える撮像レンズ27の主点と前記交点とが一致するように撮像カメラ21を配置することで、各要素画像内の一番下の画素に入射する光線を1台の撮像カメラ21で撮像できる。各要素画像内で一番下以外の画素に入射する光線も、一番下の画素と同様、それぞれ、1台の撮像カメラ21で撮像できる。
また、撮像カメラ21の台数は、要素画像の画素数に依存する。例えば、要素画像が縦10画素、横10画素、計100画素の場合、立体画像撮像装置90を100台の撮像カメラ21で置換できる。図8では、各要素画像内の一番下、中央及び一番上の画素で説明したので、立体画像撮像装置90を3台の撮像カメラ21で置換している。
<立体画像撮像装置の非線形圧縮特性>
立体画像の奥行きを圧縮(圧縮)するには、図9に示すように、撮像素子91及び撮像用レンズアレイ92を、奥行き制御レンズ94の撮像素子91側の主平面γよりもΔfだけ離す。この主平面γからの距離Δfに応じて、立体画像の奥行きが圧縮される。
図10に示すように、立体画像撮像装置90は、奥行き制御レンズ94を挟んで撮像用レンズアレイ92の反対側に、奥行き制御レンズ94により仮想的なレンズアレイ(仮想レンズアレイ)95が生成される。奥行き制御レンズ94から仮想レンズアレイ95までの距離をAとする。また、奥行き制御レンズ94から撮像用レンズアレイ92までの距離をBとする。
図11に示すように、主平面γからの距離Δfを奥行き制御レンズ94の焦点距離Dfの1.25倍、1.5倍、1.75倍、2.0倍に変更したときの光線群を図示した。図11では、横軸が奥行き方向の位置を表し、縦軸が垂直方向の位置を表す。また、横軸の0が撮像素子91の奥行き位置であり、縦軸の0が撮像素子91で一番下の画素位置である。
距離A,Bは、主平面γからの距離Δfが0から焦点距離Dfまでの間で変化するとき、下記の式(1)で求めることができる。
Figure 0007061445000001
図12に示すように、距離A,Bの関係から、奥行き制御レンズ94による非線形圧縮特性を求めることができる。図12のグラフでは、横軸が、距離Aを焦点距離Dfで正規化した値を表し、縦軸が、距離Bを焦点距離Dfで正規化した値を表す。
図12のグラフは、奥行き制御レンズ94を基準として、被写体α側で焦点距離Dfの2倍の位置(距離A=2.0)に被写体αの中心が配置されるとき、撮像素子91側で焦点距離Dfの2倍の位置(距離B=2.0)に被写体αの光学像の中心が形成されることを表す。また、図12のグラフは、奥行き制御レンズ94を基準として、被写体α側で焦点距離Dfの3倍の位置(距離A=3.0)に被写体αの中心が配置されるとき、撮像素子91側で焦点距離Dfの1.5倍の位置(距離B=1.5)に被写体αの光学像の中心が形成されることを表す。
つまり、被写体αの光学像の表示位置は、奥行き制御レンズ94から撮像用レンズアレイ92までの距離に依存する。これにより、被写体α側で無限大の位置から焦点距離Dfの位置(主平面β)までの範囲(距離A-焦点距離Dfの範囲)は、撮像素子91の側では、焦点距離Dfの位置(主平面γ)から焦点距離Dfの2倍の位置までの範囲に収まる。言い換えるなら、立体画像撮像装置90において、無限大の空間を焦点距離Dfの範囲に圧縮できる。このため、奥行き制御レンズ94の焦点距離Df及び主平面γからの距離Δfを調整することで、立体画像表示装置10で解像度が高い範囲に立体像の奥行きを圧縮できる。
<軸ずれによる奥行きの圧縮>
図13に示すように、奥行き制御レンズ94から撮像用レンズアレイ92までの距離がL1の場合を考える。この場合、各要素画像内の一番上の画素に入射する光線は、主平面β上の点Pを角度θで通過する。
図14に示すように、奥行き制御レンズ94から撮像用レンズアレイ92までの距離がL2の場合を考える(ここでは、距離L1<距離L2)。この場合、各要素画像内の一番上の画素に入射する光線は、主平面β上で同一点Pを角度φで通過する。なお、角度θ,φは、光線と立体画像撮像装置90の光軸とのなす角である(θ≠φ)。
ここで、奥行き制御レンズ94から撮像用レンズアレイ92までの距離をL1からL2に変化させた場合、奥行き制御レンズ94を通過後、各要素画像内の一番上の画素に入射する光線の角度θから角度φに変化する。つまり、奥行き制御レンズ94から撮像用レンズアレイ92までの距離L1,L2の変化が角度θ,φの変化として表れ、この角度θ,φの変化に応じて、立体画像撮像装置90の撮影範囲(画角)が変化する。
一方、立体画像表示装置10(図1)は、奥行き制御レンズ94を備えないので、立体画像撮像装置90のような光線の角度変化が発生しない。このため、焦点距離Dfに位置する主平面β上で撮像カメラ21の軸をずらすことで、立体像の奥行きを圧縮できる。
以上説明した奥行きの圧縮原理をまとめると、以下のとおりである。
立体画像撮像装置90の距離Δfを調整することで立体像の奥行きを圧縮できる。また、立体画像撮像装置90を1台以上の撮像カメラ21で置換できると共に、撮像カメラ21の軸をずらすことで、立体画像撮像装置90で距離Δfを調整したときと同様、立体像の奥行き圧縮の効果が得られる。そして、立体画像表示装置10のパラメータを、立体画像撮像装置90のパラメータとして扱って、撮像カメラ21の軸ずれを計算できる。
[立体画像表示システム]
図15を参照し、本発明の第1実施形態に係る立体画像表示システム1について説明する。
立体画像表示システム1は、被写体αの立体像を表示するものであり、図15に示すように、立体画像表示装置10と、撮像カメラアレイ20と、立体画像生成装置30と、を備える。
撮像カメラアレイ20は、複数の撮像カメラ21を配列したものである。本実施形態では、撮像カメラアレイ20は、図16に示すように、縦に10台、横に10台、合計100台の撮像カメラ21を2次元状に配列している。なお、図16では、図面を見やすくするため、一部撮像カメラ21の図示を省略した。
撮像カメラアレイ20は、立体画像生成装置30(撮像カメラ制御手段35)からの指令に応じて、各撮像カメラ21の位置(水平方向、垂直方向及び奥行き方向の位置)を変更できる。
図16の例では、撮像カメラアレイ20は、撮像カメラ制御手段35からの指令に応じて、床面に形成されたレールに沿って、奥行き方向に移動する。また、撮像カメラアレイ20は、10台の撮像カメラ21を搭載した昇降部材22を10段備える。各昇降部材22は、撮像カメラ制御手段35からの指令に応じて、2本の支柱23に形成されたレールに沿って垂直方向に移動する。各撮像カメラ21は、撮像カメラ制御手段35からの指令に応じて、昇降部材22に形成されたレールに沿って水平方向に移動する。
撮像カメラ21は、被写体αを撮像し、撮像した画像(被写体画像)を立体画像生成装置30(被写体画像入力手段36)に出力するものである。本実施形態では、100台の撮像カメラ21が、異なる位置から被写体画像を撮像し、被写体画像入力手段36に出力する。
ここで、撮像カメラ21は、図17(a)に示すように、撮像素子25と、撮像レンズ27と、を備える。この撮像素子25の画素数は、撮像用レンズアレイ92のレンズ数と一致する。また、撮像カメラ21は、奥行きを圧縮するため、撮像カメラ制御手段35からの指令に応じて、撮像素子25の中心軸と、撮像レンズ27の光軸とをずらすことができる(レンズシフト機能)。この中心軸とは、撮像素子25の中心位置を通過し、撮像素子25の撮像面に垂直になる軸のことである。さらに、撮像カメラ21は、撮像カメラ制御手段35からの指令に応じて、画角を変更できる。
図17(a)では、撮像素子25の中心軸及び撮像レンズ27の光軸が一致し、軸ずれしていない。一方、図17(b)では、撮像素子25の中心軸及び撮像レンズ27の光軸が一致せず、軸ずれしている(軸ずれ量dy)。ここで、撮像カメラ21は、軸ずれ量dyに関わらず、撮像素子25の撮像面に対して、撮像レンズ27の光軸が垂直になる。また、撮像カメラ21は、撮像素子25又は撮像レンズ27の何れか一方のみを移動させてもよく、撮像素子25及び撮像レンズ27の両方を移動させてもよい。本実施形態では、撮像素子25を移動させることとした。
[立体画像生成装置の構成]
立体画像生成装置30は、撮像カメラアレイ20が撮像した被写体画像から、立体画像表示装置10が表示する要素画像群を生成するものである。図15に示すように、立体画像生成装置30は、パラメータ入力手段31と、画素位置変換テーブル生成手段32と、画素位置変換テーブル記憶手段33と、演算手段34と、撮像カメラ制御手段35と、被写体画像入力手段36と、要素画像群生成手段(立体画像生成手段)37と、を備える。
パラメータ入力手段31は、要素画像群の生成に必要な各種パラメータを入力するものである。例えば、パラメータ入力手段31は、パラメータとして、立体画像表示装置10の仕様及び撮像カメラアレイ20の仕様を入力する。そして、パラメータ入力手段31は、入力したパラメータを演算手段34に出力する。
立体画像表示装置10の仕様には、立体画像表示装置10の奥行き最大表示距離と、表示用要素レンズ13の焦点距離と、表示用レンズアレイ12から後方奥行き最大表示位置までの差分距離と、表示素子11のサイズとが含まれる。
撮像カメラアレイ20の仕様には、要素画像の中心画素から計算対象画素までの画素間距離と、撮像素子25のサイズとが含まれる。
画素位置変換テーブル生成手段32は、要素画像群の生成に必要な画素位置変換テーブルを生成するものである。本実施形態では、画素位置変換テーブル生成手段32は、撮像カメラ21毎に画素位置変換テーブルを生成する。例えば、画素位置変換テーブル生成手段32は、特許4676862号公報及び特許5044688号公報に記載の手法により、画素位置変換テーブルを生成できる。そして、画素位置変換テーブル生成手段32は、生成した画素位置変換テーブルを画素位置変換テーブル記憶手段33に書き込む。
画素位置変換テーブルは、撮像カメラ21で撮像した被写体画像の各画素を、要素画像群を構成する要素画像の各画素に対応付けた情報である。つまり、画素位置変換テーブルは、画素単位の情報である。
画素位置変換テーブル記憶手段33は、画素位置変換テーブルを記憶するメモリ、HDD(Hard Disk Drive)等の記憶装置である。本実施形態では、画素位置変換テーブル記憶手段33は、撮像カメラ21毎の画素位置変換テーブルを記憶する。
なお、画素位置変換テーブルは、立体画像表示装置10の仕様が変化しない場合、参照可能である。言い換えるなら、画素位置変換テーブルは、立体画像表示装置10の仕様が変化した場合、再度生成する必要がある。
演算手段34は、撮像カメラ制御手段35に必要な各種演算を行うものであり、位置算出手段341と、軸ずれ量算出手段343と、倍率算出手段345と、画角算出手段347と、を備える。
位置算出手段341は、パラメータ入力手段31から入力したパラメータを参照し、奥行き最大表示距離と、表示用要素レンズ13の焦点距離と、画素間距離とに基づいて、撮像カメラアレイ20を構成する撮像カメラ21の位置を算出するものである。
具体的には、位置算出手段341は、下記式(2)を用いて、各撮像カメラ21の垂直方向の位置yを算出する。式(2)では、奥行き最大表示距離がDfであり(単位はメートル)、表示用要素レンズ13の焦点距離がDLAfであり(単位はメートル)、画素間距離がPyである(単位はメートル)。
なお、位置算出手段341は、垂直方向と同様、各撮像カメラ21の水平方向及び奥行き方向の位置も算出する。
Figure 0007061445000002
奥行き最大表示距離Dfとは、立体画像表示装置10が表示用要素レンズ13から奥行き方向に表示可能な最大距離のことである。すなわち、後方奥行き最大表示位置は、奥行き最大表示距離Dfの内、表示用要素レンズ13から後方(図1の表示素子11側)への奥行き最大表示位置となる。
ここで、奥行き最大表示距離Dfは、奥行き制御レンズ94の焦点距離Dfと対応している。例えば、立体画像表示装置10及び立体画像撮像装置90が同一サイズであれば、奥行き最大表示距離Df及び焦点距離Dfの値も同一となる。また、立体画像表示装置10及び立体画像撮像装置90のサイズが異なる場合、奥行き最大表示距離Df及び焦点距離Dfは、そのサイズ比に応じた関係となる(主平面γからの距離Δf及び差分距離Δfも同様)。
画素間距離Pyとは、要素画像群を構成する要素画像の中心画素から各計算対象画素までの距離のことである。撮像カメラ21の台数は要素画像の画素数と同じであり、各撮像カメラ21及び各計算対象画素が1対1で対応する。つまり、式(2)に画素間距離Pyが含まれるので、撮像カメラ21の位置yが異なる。
軸ずれ量算出手段343は、パラメータ入力手段31から入力したパラメータを参照し、画素間距離と、差分距離と、表示用要素レンズ13の焦点距離と、撮像素子25のサイズと、表示素子11のサイズとに基づいて、各撮像カメラ21の軸ずれ量を算出するものである。
具体的には、軸ずれ量算出手段343は、下記式(3)を用いて、垂直方向で撮像素子25の軸ずれ量dyを算出する(単位はメートル)。式(3)では、差分距離がΔfであり(単位はメートル)、撮像素子25のサイズがCsであり(単位はメートル)、表示素子11のサイズがDsである(単位は画素)。差分距離Δfは、表示用要素レンズ13から後方奥行き最大表示位置までの距離のことである。ここで、式(3)に画素間距離Pyが含まれるので、撮像カメラ21の軸ずれ量dyが異なる。
Figure 0007061445000003
倍率算出手段345は、パラメータ入力手段31から入力したパラメータを参照し、奥行き制御レンズ94から仮想レンズアレイ95までの距離Aと、奥行き制御レンズ94から撮像用レンズアレイ92までの距離Bとの比である倍率を算出するものである。
<倍率の算出>
図10を参照し、倍率mの算出について説明する。
図10に示すように、距離Bは、奥行き最大表示距離Dfと差分距離Δfとの和(合計距離)である。また、距離Aは、撮像用レンズアレイ92より距離Bだけ離れた位置(Z3)から、仮想レンズアレイ95までの距離である。
ここで、撮像素子91の奥行き位置をZ1とし、このZ1を原点とする。また、撮像用レンズアレイ92の奥行き位置をZ2とし、奥行き制御レンズ94の奥行き位置をZ3とする。また、主平面βの奥行き位置をZ4とし、仮想レンズアレイ95の奥行き位置をZ5とする。この場合、奥行き位置Z1~Z5は、下記の式(4)で表すことができる。
Figure 0007061445000004
被写体αが仮想レンズアレイ95よりも撮像素子91側に位置する状態で要素画像群を撮像した場合を考える。この場合、その要素画像群を表示素子11に表示すると、被写体αが飛び出したような立体像を形成する。
一方、被写体αが仮想レンズアレイ95よりも撮像素子91の反対側に位置する状態で要素画像群を撮像した場合を考える。この場合、その要素画像群を表示素子11に表示すると、被写体αが窪んだような立体像を形成する。
非線形奥行き圧縮特性の光学系では、奥行きの圧縮と同時に被写体αの大きさも変化してしまう。従って、奥行き圧縮前後で被写体αの大きさが変化しないように、被写体αを拡大又は縮小する必要がある。
ここで、仮想レンズアレイ95のサイズは、撮像用レンズアレイ92のサイズに倍率mを乗じた値になる。そして、非線形奥行き圧縮特性の光学系では、被写体αのサイズも仮想レンズアレイ95のサイズに応じて拡大又は縮小する。従って、倍率算出手段345は、下記の式(5)を用いて、距離A、Bの比である倍率mを算出し、算出した倍率mを被写体αのサイズに乗算すれば、仮想レンズアレイ95のレンズ面においては被写体αが奥行き圧縮前と同じ大きさになる。
Figure 0007061445000005
画角算出手段347は、パラメータ入力手段31から入力したパラメータを参照し、奥行き最大表示距離Dfと、撮像素子25のサイズと、表示素子11のサイズとに基づいて、撮像カメラ21の画角を算出するものである。
具体的には、画角算出手段347は、下記の式(6)を用いて、撮像カメラ21の焦点距離Cfを算出し、この焦点距離Cfから撮像カメラ21の画角を算出する。なお、撮像カメラアレイ20は、全ての撮像カメラ21の焦点距離Cfが同じになる。
Figure 0007061445000006
演算手段34は、制御信号として、算出した撮像カメラ21の位置(垂直方向、水平方向及び奥行き方向の位置)と、軸ずれ量と、倍率と、画角とを撮像カメラ制御手段35に出力する。
撮像カメラ制御手段35は、演算手段34から入力した制御信号に基づいて撮像カメラアレイ20を制御し、撮像カメラアレイ20に被写体画像の撮像を指令するものである。本実施形態では、撮像カメラ制御手段35は、撮像カメラアレイ20を構成する撮像カメラ21毎に制御を行う。
具体的には、撮像カメラ制御手段35は、制御信号の位置に各撮像カメラ21を移動させる。
また、撮像カメラ制御手段35は、制御信号の軸ずれ量だけ、各撮像カメラ21の撮像素子25をずらす。さらに、撮像カメラ制御手段35は、制御信号の画角に各撮像カメラ21の画角を一致させる。
このとき、撮像カメラ制御手段35は、被写体αのサイズを変更することが困難、かつ、前記倍率mが1より大きい場合、隣接する撮像カメラ21の間隔及び軸ずれ量が倍率mだけ小さくなるように、各撮像カメラ21の位置を修正する。
被写体画像入力手段36は、撮像カメラアレイ20が撮像した被写体画像を入力するものである。本実施形態では、被写体画像入力手段36は、撮像カメラアレイ20を構成する各撮像カメラ21から被写体画像を入力する。そして、被写体画像入力手段36は、各撮像カメラ21からの被写体画像を要素画像群生成手段37に出力する。
要素画像群生成手段37は、被写体画像入力手段36より入力した被写体画像から要素画像群を生成するものである。本実施形態では、要素画像群生成手段37は、画素位置変換テーブルを参照し、各撮像カメラ21が撮像した被写体画像の画素位置を変換することで、要素画像群を生成する。つまり、要素画像群生成手段37は、画素位置変換テーブルに従って、被写体画像の各画素を、要素画像群を構成する要素画像の各画素に割り当てる。
ここで、要素画像群生成手段37は、被写体画像の最上段の各画素を、各要素画像の最下段の各画素に割り当てる。また、要素画像群生成手段37は、被写体画像の上から2段目の各画素を、各要素画像の下から2段目の各画素に割り当てる。このように、要素画像群生成手段37は、被写体画像の画素を上下反転させて要素画像の画素に割り当てることで、立体像の奥行き反転を防止できる。
その後、要素画像群生成手段37は、生成した要素画像群を立体画像表示装置10に出力する。
[立体画像生成装置の動作]
図18を参照し、立体画像生成装置30の動作について説明する(適宜図14参照)。
ここで、画素位置変換テーブル記憶手段33は、画素位置変換テーブルを予め記憶していることとする。
図18に示すように、パラメータ入力手段31は、要素画像群の生成に必要な各種パラメータの入力を受け付ける(ステップS1)。
位置算出手段341は、ステップS1で入力したパラメータを参照し、奥行き最大表示距離と、表示用要素レンズ13の焦点距離と、画素間距離とに基づいて、各撮像カメラ21の位置を算出する(ステップS2)。
軸ずれ量算出手段343は、ステップS1で入力したパラメータを参照し、画素間距離と、差分距離と、表示用要素レンズ13の焦点距離と、撮像素子25のサイズと、表示素子11のサイズとに基づいて、撮像レンズ27と撮像素子25との軸ずれ量を算出する(ステップS3)。
倍率算出手段345は、ステップS1で入力したパラメータを参照し、奥行き制御レンズ94から撮像用レンズアレイ92までの距離と、奥行き制御レンズ94から仮想レンズアレイ95までの距離との比である倍率を算出する(ステップS4)。
画角算出手段347は、ステップS1で入力した入力したパラメータを参照し、奥行き最大表示距離と、撮像素子25のサイズと、表示素子11のサイズとに基づいて、各撮像カメラ21の画角を算出する(ステップS5)。
撮像カメラ制御手段35は、ステップS2で算出した位置、ステップS3で算出した軸ずれ量、ステップS4で算出した倍率及びステップS5で算出した画角に基づいて、各撮像カメラ21を制御し、各撮像カメラ21に被写体画像の撮像を指令する(ステップS6)。
被写体画像入力手段36は、ステップS6の指令に応じて各撮像カメラ21が撮像した被写体画像の入力を受け付ける(ステップS7)。
要素画像群生成手段37は、ステップS7で入力した被写体画像から要素画像群を生成する。ここで、要素画像群生成手段37は、画素位置変換テーブルを参照し、被写体画像の画素位置を変換することで、要素画像群を生成する(ステップS8)。
[作用・効果]
以上のように、立体画像生成装置30は、撮像レンズ27と撮像素子25との軸をずらし、立体像の奥行きを圧縮できる。これにより、立体画像生成装置30は、立体画像表示装置10が解像度の高い立体像を表示でき、立体画像の画質を向上させることができる。
さらに、立体画像生成装置30は、高解像度のカメラや高密度なレンズアレイを必要とせず、簡易な構成で実現することができる。さらに、立体画像生成装置30は、奥行き制御レンズ94に起因したレンズ歪みが発生せず、より高画質な立体画像を提供することができる。
(第2実施形態)
図19を参照し、本発明の第2実施形態に係る立体画像表示システム1Bについて、第1実施形態と異なる点を説明する。
第1実施形態では、撮像カメラアレイ20が実写した画像を処理対象とするのに対して、第2実施形態では、仮想的な撮像カメラアレイ(仮想カメラアレイ)によりCG画像を処理対象とする点が異なる。
仮想カメラアレイとは、仮想的な撮像カメラ(仮想カメラ)を2次元状に配列したものである。
仮想カメラとは、被写体αの3次元モデルを配置した3次元空間内での視点位置及び視点方向や画角等を設定するときの基準である。つまり、CGでは、仮想カメラで被写体αを撮像したような要素画像群を生成する。
[立体画像生成装置の構成]
立体画像表示システム1Bは、被写体αの立体画像を表示するものであり、図19に示すように、立体画像表示装置10と、立体画像生成装置30Bと、を備える。
立体画像生成装置30Bは、仮想カメラアレイが撮像した被写体画像から、立体画像表示装置10が表示する要素画像群を生成するものである。
図19に示すように、立体画像生成装置30Bは、パラメータ入力手段31と、画素位置変換テーブル生成手段32と、画素位置変換テーブル記憶手段33と、演算手段34と、仮想カメラ設定手段(撮像カメラ制御手段)35Bと、要素画像群生成手段(立体画像生成手段)37Bと、3次元モデル入力手段38とを備える。
なお、仮想カメラ設定手段35B、要素画像群生成手段37B及び3次元モデル入力手段38以外は、第1実施形態と同様のため、説明を省略する。
3次元モデル入力手段38は、被写体の3次元形状及び色情報を表した3次元モデルを入力し、入力した3次元モデルを要素画像群生成手段37Bに出力するものである。
3次元モデルの生成手法は、特に制限されないが、例えば、ポリゴン等にテクスチャマッピングを施すことで生成できる。
仮想カメラ設定手段35Bは、演算手段34から入力した制御信号に基づいて仮想的な撮像カメラ(仮想カメラ)を設定するものである。
具体的には、仮想カメラ設定手段35Bは、仮想3次元空間において、制御信号の位置に各仮想カメラを配置する。また、仮想カメラ設定手段35Bは、制御信号の軸ずれ量だけ、各仮想カメラの撮像素子と撮像レンズとをずらして設定する。また、仮想カメラ設定手段35Bは、制御信号の画角に一致するように各仮想カメラの画角を設定する。
要素画像群生成手段37Bは、仮想カメラ設定手段35Bが設定した仮想カメラアレイを介して被写体画像を生成し、被写体画像から要素画像群を生成するものである。
具体的には、要素画像群生成手段37Bは、各仮想カメラを配置した仮想3次元空間内に3次元モデル入力手段38から入力した3次元モデルを配置する。ここで、要素画像群生成手段37Bは、仮想レンズアレイのレンズ面において、奥行き圧縮前後で被写体の大きさが変化しないように、3次元モデルのサイズを倍率mだけ拡大又は縮小する。そして、要素画像群生成手段37Bは、各仮想カメラで3次元モデルを撮像することで、被写体画像を生成する。さらに、要素画像群生成手段37Bは、第1実施形態と同様、画素位置変換テーブルを参照し、被写体画像の画素位置を変換することで、要素画像群を生成する。
[立体画像生成装置の動作]
図20を参照し、立体画像生成装置30Bの動作について説明する(適宜図19参照)。
ここで、画素位置変換テーブル記憶手段33は、画素位置変換テーブルを予め記憶していることとする。
なお、ステップS1~S5の処理は、第1実施形態と同様のため、説明を省略する。
仮想カメラ設定手段35Bは、制御信号に基づいて仮想的な撮像カメラ(仮想カメラ)を設定する(ステップS10)。
3次元モデル入力手段38は、被写体の3次元形状及び色情報を表した3次元モデルの入力を受け付ける(ステップS11)。
要素画像群生成手段37Bは、ステップS10で設定した仮想カメラを介して、ステップS11で入力した3次元モデルの被写体画像を生成し、被写体画像から要素画像群を生成する(ステップS12)。
[作用・効果]
以上のように、立体画像生成装置30Bは、CGにより被写体画像を生成する場合でも、第1実施形態と同様の効果を奏する。これにより、立体画像生成装置30Bは、立体画像表示装置10が解像度の高い立体像を表示可能となり、立体画像の画質を向上させることができる。
(第3実施形態)
本発明の第3実施形態に係る立体画像表示システム1C(図23)について、第1実施形態と異なる点を説明する。
第1実施形態では、画素単位で処理を行うのに対し、第3実施形態では、サブピクセル単位で処理を行う点が異なる。また、第1実施形態では、撮像レンズ27と撮像素子25との軸をずらすのに対し(図17)、第3実施形態では、軸ずれ量dyに応じた画素位置の画素を被写体画像から取得する点が異なる。
[立体画像表示システムの概略]
ここで、撮像カメラ21が3板式、かつ、立体画像表示装置10(図1)が投射型の場合、RGB各色が同一位置となるので、色ずれが発生しない。一方、撮像カメラ21が単板式、又は、立体画像表示装置10がRGBストライプ構造などの場合、それらサブピクセルの構造に起因してRGB各色の位置が微妙に異なるので、色ずれが発生じてしまう。特に、立体画像表示装置10が直視型ディスプレイ(RGBストライプ構造が一般的)であり、高解像度の画像を撮像するために撮像カメラ21が3板式であることが多く、撮像カメラ21を立体画像表示装置10のサブピクセルに対応して配列することが好ましい。
例えば、立体画像表示装置10において、RGBのサブピクセルが水平方向にストライプで配列されている場合を考える(RGBストライプ構造)。この場合、図16の撮像カメラアレイ20において、撮像カメラ21の水平間隔を1/3とし、水平方向の軸ずれ量を1/3とし、水平方向で撮像カメラ21の台数を3倍とする。具体的には、図21に示すように、撮像カメラアレイ20Cは、30台の撮像カメラ21Cを搭載した昇降部材22を10段備える。
ここで、各撮像カメラ21Cは、RGBの何れか一色のみを撮像する単色カメラである。この単色カメラとしては、一般的なカラーカメラの前面にRGB何れか一色のフィルタを装着したものがあげられる。つまり、撮像カメラアレイ20Cは、単色カメラを配列した単色カメラアレイである。
また、撮像カメラアレイ20Cは、立体画像表示装置10のサブピクセルで構成された画素単位のグループで撮像カメラ21Cを配列する。本実施形態では、図22に示すように、赤色の撮像カメラ21Cと、緑色の撮像カメラ21Cと、青色の撮像カメラ21Cとの順で配列している。すなわち、撮像カメラアレイ20Cでは、緑色の撮像カメラ21Cと隣接する赤色及び青色の撮像カメラ21との3台で、立体画像表示装置10の1画素に対応するグループを構成する。例えば、撮像カメラアレイ20Cでは、R1カメラと、G2カメラと、B3カメラとが1つのグループとなる。
なお、図22では、各撮像カメラ21Cにサブピクセルの色及び位置を表す英数字を付加した。例えば、図面最上部の撮像カメラ21Cには「R1」が付されているので、この撮像カメラ21Cが赤色のサブピクセルに対応し、水平方向で左から1番目に位置することを表す。以後、R1が付された撮像カメラ21Cを「R1カメラ」と呼ぶことがある(他の撮像カメラ21Cも同様)。
また、図22では、説明を簡易にするために撮像カメラ21Cを9台のみ図示した。
そして、図22に示すように、RGBデータ交換処理により、各撮像カメラ21Cで撮像した単色の被写体画像を画素位置情報を統合し、カラーの被写体画像を生成する。ここでは、緑色を基準色とし、赤色及び青色を参照色とし、基準色の画素位置情報に参照色の画素位置情報を統合することとする。
なお、画素位置情報の統合とは、基準色(緑色)の被写体画像の画素位置に参照色(赤色、青色)の被写体画像の画素位置をサブピクセルレベルで一致させることである。
図22では、基準色のG2カメラで撮像した被写体画像と、参照色のR1カメラ及びB3カメラで撮像した被写体画像との画素位置情報を統合し、G2カメラ位置で撮像したのと等価なカラーの被写体画像(R1G2B3データ)を合成する。さらに、RGBデータ交換処理により、G5カメラ位置に対応する被写体画像(R4G5B6データ)、G8カメラ位置に対応する被写体画像(R7G8B9データ)も同様の手順で合成する。
このように、各撮像カメラ21Cが立体画像表示装置10のサブピクセルに対応するように配列され、各撮像カメラ21Cで撮像した被写体画像を、緑色の画素位置を基準として合成している。従って、合成したカラーの被写体画像では、赤色、緑色及び青色の画素位置がサブピクセルレベルで一致するので、色ずれが発生しない。
その後、図22に示すように、第1実施形態と同様、画素位置変換テーブルを参照し、各被写体画像の画素位置を変換することで、要素画像群を生成する。
なお、画素位置変換テーブルが画素単位の情報であるのに対し、撮像カメラ21Cがサブピクセル単位で配列されている。従って、各画素位置変換テーブルは、1つのグループを構成する3台の撮像カメラ21のうち、基準色である緑色の撮像カメラ21Cに対応する。図22では、画素位置変換テーブルは、G2,G5,G8カメラに対応する。
[立体画像生成装置の構成]
図23を参照し、立体画像表示システム1Cの構成について説明する。
立体画像表示システム1Cは、被写体αの立体画像を表示するものであり、図23に示すように、立体画像表示装置10と、立体画像生成装置30Cと、を備える。
立体画像生成装置30Cは、撮像カメラアレイ20Cが撮像した被写体画像から、立体画像表示装置10が表示する要素画像群を生成するものである。
図23に示すように、立体画像生成装置30Cは、パラメータ入力手段31と、画素位置変換テーブル生成手段32と、画素位置変換テーブル記憶手段33と、演算手段34と、撮像カメラ制御手段35Cと、被写体画像入力手段36Cと、要素画像群生成手段(立体画像生成手段)37Cと、を備える。
なお、撮像カメラ制御手段35C、被写体画像入力手段36C及び要素画像群生成手段37C以外は、前記した各実施形態と同様のため、説明を省略する。
撮像カメラ制御手段35Cは、演算手段34から入力した制御信号に基づいて撮像カメラアレイ20Cを制御し、撮像カメラアレイ20Cに被写体画像の撮像を指令するものである。
具体的には、撮像カメラ制御手段35Cは、第1実施形態と同様、制御信号の位置に各撮像カメラ21Cを移動させ、制御信号の画角に各撮像カメラ21Cの画角を一致させる。一方、撮像カメラ制御手段35Cは、第1実施形態と異なり、撮像素子25の中心軸をずらす制御を行わない。
被写体画像入力手段36Cは、撮像カメラアレイ20Cを構成する各撮像カメラ21Cから単色の被写体画像を入力する。そして、被写体画像入力手段36Cは、各撮像カメラ21Cからの被写体画像を要素画像群生成手段37Cに出力する。
要素画像群生成手段37Cは、被写体画像入力手段36Cより入力した被写体画像から要素画像群を生成するものであり、RGBデータ交換処理手段(画素位置修正手段)371を備える。
RGBデータ交換処理手段371は、被写体画像入力手段36Cからの単色の被写体画像に対して、RGBデータ交換処理を施すものである。このRGBデータ交換処理は、緑色の撮像カメラ21Cで撮像した被写体画像の緑色の画素位置情報に、赤色及び青色の撮像カメラ21Cで撮像した被写体画像の赤色及び青色の画素位置情報を統合することで、カラーの被写体画像を生成する処理である。
例えば、RGBデータ交換処理手段371は、図22に示すように、G2カメラで撮像した被写体画像の注目画素の画素値(RGB値)を、その注目画素のG値と、R1カメラで撮像した被写体画像の対応画素のR値と、B3カメラで撮像した被写体画像の対応画素のB値とする。そして、RGBデータ交換処理手段371は、G2カメラで撮像した被写体画像の左上画素から順にラスタスキャンするように注目画素を設定し、前記した処理を全画素に施す。これにより、RGBデータ交換処理手段371は、G2カメラ位置に対応した被写体画像(R1G2B3データ)を生成する。
なお、RGBデータ交換処理手段371は、R4G5B6データ及びR7G8B9データも同様に生成する。
また、対応画素とは、参照色の被写体画像において、基準色の被写体画像の注目画素と同一座標の画素のことである。
続いて、要素画像群生成手段37Cは、画素位置変換テーブルを参照し、RGBデータ交換処理手段371で生成した被写体画像の画素位置を変換することで、要素画像群を生成する。このとき、要素画像群生成手段37Cは、各被写体画像から、軸ずれ量算出手段343で算出した軸ずれ量dyに応じた画素位置の画素値を取得する。
<軸ずれ量に応じた画素位置の画素値の取得手法>
図24を参照し、軸ずれ量dyに応じた画素位置の画素値の取得手法について説明する(適宜図23参照)。
最初に、図24(a)に示すように、軸ずれがない場合を考える(軸ずれ量dy=0)。この場合、要素画像群生成手段37Cは、RGBデータ交換処理手段371で生成した被写体画像βから、撮像素子25の中心位置を基準として所定サイズの画像領域βを切り出す。つまり、要素画像群生成手段37Cは、撮像素子25の中心位置が被写体画像βの中心位置に対応するので、被写体画像βの中心位置を基準として画像領域βを切り出す。
なお、画像領域βは、軸ずれ量dyを考慮して、被写体画像βに収まるサイズで予め設定する。従って、撮像素子25のサイズ(画素数)は、軸ずれ量dyを考慮して、画像領域βよりも大きくする。
次に、図24(b)に示すように、軸ずれがある場合を考える。この場合、要素画像群生成手段37Cは、RGBデータ交換処理手段371で生成した被写体画像βから、撮像素子25の中心から軸ずれ量dyだけ移動した位置を基準として、画像領域βを切り出す。つまり、要素画像群生成手段37Cは、被写体画像βの中心から軸ずれ量dyずれた位置を基準として、画像領域βを切り出す。
このように、要素画像群生成手段37Cは、撮像素子25の中心から軸ずれ量dyだけ外れた画素位置の画素値を取得することで、撮像レンズ27の光軸と撮像素子25の中心軸とをずらすのと同等の処理を行っている。
その後、要素画像群生成手段37Cは、切り出した画像領域βを被写体画像として用いて、要素画像群を生成する。この要素画像群を生成する手法自体は、第1実施形態と同様のため、説明を省略する。
[立体画像生成装置の動作]
図25を参照し、立体画像生成装置30Cの動作について説明する。
なお、ステップS1~S5の処理は、前記した各実施形態と同様のため、説明を省略する。
撮像カメラ制御手段35Cは、ステップS2で算出した位置、ステップS4で算出した倍率及びステップS5で算出した画角に基づいて、各撮像カメラ21Cを制御し、各撮像カメラ21Cに被写体画像の撮像を指令する(ステップS6C)。
被写体画像入力手段36Cは、ステップS6Cの指令に応じて各撮像カメラ21Cが撮像した単色の被写体画像の入力を受け付ける(ステップS7C)。
RGBデータ交換処理手段371は、ステップS7Cで入力された単色の被写体画像に対して、RGBデータ交換処理を施し、カラーの被写体画像を生成する(ステップS20)。
要素画像群生成手段37Cは、ステップS20で生成した被写体画像から、軸ずれ量dyに応じた画素位置の画素値を取得して要素画像群を生成する(ステップS8C)。
[作用・効果]
以上のように、立体画像生成装置30Cは、被写体画像から取得する画素位置を軸ずれ量dyに応じてずらすことで、第1実施形態と同様の効果を奏する。これにより、立体画像生成装置30Cは、立体画像表示装置10が解像度の高い立体像を表示可能となり、立体画像の画質を向上させることができる。
さらに、立体画像生成装置30Cは、RGBデータ交換処理により、緑色の画素位置情報に赤色及び青色の画素位置情報を統合するので、立体画像表示装置10で色ずれが発生せず、立体画像の画質をより向上させることができる。
(第4実施形態)
図26を参照し、本発明の第4実施形態に係る立体画像表示システム1Dについて、第3実施形態と異なる点を説明する。
第3実施形態では、撮像カメラアレイ20Cが実写した画像を処理対象とするのに対して、第4実施形態では、仮想カメラアレイによりCG画像を処理対象とする点が異なる。
つまり、第4実施形態では、仮想カメラアレイは、RGBの何れか一色のみを撮像する単色の仮想カメラを第3実施形態と同様に配置している。
[立体画像生成装置の構成]
図26を参照し、立体画像表示システム1Dの構成について説明する。
立体画像表示システム1Dは、被写体αの立体画像を表示するものであり、図26に示すように、立体画像表示装置10と、立体画像生成装置30Dと、を備える。
立体画像生成装置30Dは、仮想カメラアレイが撮像した被写体画像から、立体画像表示装置10が表示する要素画像群を生成するものである。
図26に示すように、立体画像生成装置30Dは、パラメータ入力手段31と、画素位置変換テーブル生成手段32と、画素位置変換テーブル記憶手段33と、演算手段34と、仮想カメラ設定手段(撮像カメラ制御手段)35Dと、要素画像群生成手段(立体画像生成手段)37Dと、3次元モデル入力手段38とを備える。
なお、仮想カメラ設定手段35D及び要素画像群生成手段37D以外は、第3実施形態と同様のため、説明を省略する。
仮想カメラ設定手段35Dは、演算手段34から入力した制御信号に基づいて単色の仮想カメラを設定するものである。
具体的には、仮想カメラ設定手段35Dは、仮想3次元空間において、制御信号の位置に各仮想カメラを配置する。また、仮想カメラ設定手段35Dは、制御信号の画角に一致するように各仮想カメラの画角を設定する。一方、仮想カメラ設定手段35Dは、第2実施形態と異なり、仮想カメラの撮像素子の中心軸をずらす制御を行わない。
要素画像群生成手段37Dは、仮想カメラ設定手段35Dが設定した仮想カメラアレイを介して被写体画像を生成し、その被写体画像から要素画像群を生成するものであり、RGBデータ交換処理手段371を備える。
なお、要素画像群生成手段37Dは、仮想カメラにより被写体画像を生成する以外、第3実施形態と同様のため、説明を省略する。
[立体画像生成装置の動作]
図27を参照し、立体画像生成装置30Dの動作について説明する。
なお、ステップS1~S5,S11の処理は、前記した各実施形態と同様のため、説明を省略する。
仮想カメラ設定手段35Dは、制御信号に基づいて単色の仮想カメラを設定する(ステップS10D)。
要素画像群生成手段37Dは、ステップS10Dで設定した仮想カメラを介して、ステップS11で入力した3次元モデルの被写体画像を生成する。そして、RGBデータ交換処理手段371は、RBGデータ交換処理を行い、カラーの被写体画像を生成する(ステップS20D)。
要素画像群生成手段37Dは、ステップS20Dで生成した被写体画像から、軸ずれ量dyに応じた画素位置の画素値を取得して要素画像群を生成する(ステップS12D)。
[作用・効果]
以上のように、立体画像生成装置30Dは、CGにより被写体画像を生成する場合でも、第3実施形態と同様の効果を奏する。
(第5実施形態)
本発明の第5実施形態に係る立体画像表示システム1E(図23)について、第3実施形態と異なる点を説明する。
第3実施形態では、撮像カメラアレイ20Cが単色カメラアレイであるのに対し、第5実施形態では、撮像カメラアレイ20Eが、カラーカメラを配列したカラーカメラアレイである点が異なる。
[立体画像表示システムの概略]
RGBの何れか一色を撮像する単色カメラよりも、RGBの全色を撮像できるカラーカメラの方が一般的である。そこで、撮像カメラアレイ20Eは、図21に示すように、単色カメラに代えて、カラーで撮像可能な撮像カメラ21Eを配列したものである。つまり、撮像カメラアレイ20Eは、30台の撮像カメラ21Eを搭載した昇降部材22を10段備える。
ここで、撮像カメラアレイ20Eは、立体画像表示装置10のサブピクセルで構成された画素単位のグループで撮像カメラ21Eを配列する。従って、撮像カメラアレイ20Eは、図28に示すように、水平方向に並んだ3台の撮像カメラ21Eで、立体画像表示装置10の1画素に対応する1つのグループを構成する。例えば、立体画像表示装置10において、緑色のサブピクセルにR2G2B2カメラが対応し、赤色にR1G1B1カメラが対応し、青色のサブピクセルにR3G3B3カメラが対応するので、R1G1B1カメラ、R2G2B2カメラ及びR3G3B3カメラの3台で1つのグループを構成する。
なお、図28では、各撮像カメラ21Eにサブピクセルの位置を表す英数字を付加した。例えば、図面最上部の撮像カメラ21Eには「R1G1B1」が付されているので、この撮像カメラ21Eが、水平方向で左から1番目に位置することを示す。
また、図28に示すように、第3実施形態と同様のRGBデータ交換処理を行う。R2G2B2カメラで撮像した被写体画像と、R1G1B1カメラ及びR3G3B3カメラで撮像した被写体画像との画素位置情報を統合し、G2カメラ位置で撮像したのと等価なカラーの被写体画像(R1G2B3データ)を合成する。さらに、RGBデータ交換処理により、G5カメラ位置に対応する被写体画像(R4G5B6データ)、G8カメラ位置に対応する被写体画像(R7G8B9データ)も同様の手順で合成する。
なお、RGBデータ交換処理により、G2,G5,G8カメラ位置以外に対応する被写体画像も合成されるが、本実施形態では利用しない(図28では破線で図示)。
従って、第3実施形態と同様、合成後の被写体画像では、立体画像表示装置10の赤色、緑色及び青色の画素位置情報を統合するので、色ずれが発生しないことになる。
その後、図28に示すように、第3実施形態と同様、画素位置変換テーブルを参照し、各被写体画像の画素位置を変換することで、要素画像群を生成する。
[立体画像生成装置の構成]
図23に戻り、立体画像表示システム1Eの構成について説明する。
立体画像表示システム1Eは、被写体αの立体画像を表示するものであり、図23に示すように、立体画像表示装置10と、立体画像生成装置30Eと、を備える。
立体画像生成装置30Eは、撮像カメラアレイ20Eが撮像した被写体画像から、立体画像表示装置10が表示する要素画像群を生成するものである。
図23に示すように、立体画像生成装置30Eは、パラメータ入力手段31と、画素位置変換テーブル生成手段32と、画素位置変換テーブル記憶手段33と、演算手段34と、撮像カメラ制御手段35Cと、被写体画像入力手段36Eと、要素画像群生成手段(立体画像生成手段)37Eと、を備える。
なお、被写体画像入力手段36E及び要素画像群生成手段37E以外は、前記した各実施形態と同様のため、説明を省略する。
被写体画像入力手段36Eは、撮像カメラアレイ20Eを構成する各撮像カメラ21Eからカラーの被写体画像を入力する。そして、被写体画像入力手段36Eは、各撮像カメラ21Eからの被写体画像を要素画像群生成手段37Cに出力する。
要素画像群生成手段37Eは、被写体画像入力手段36Eより入力したカラーの被写体画像から要素画像群を生成するものであり、RGBデータ交換処理手段(画素位置修正手段)371Eを備える。
RGBデータ交換処理手段371Eは、被写体画像入力手段36Cからのカラーの被写体画像に対して、RGBデータ交換処理を施すものである。
なお、要素画像群生成手段37E及びRGBデータ交換処理手段371Eは、処理対象の被写体画像が単色であるかカラーであるか以外、第3実施形態と同様のため、説明を省略する。
[立体画像生成装置の動作]
図25を参照し、立体画像生成装置30Eの動作について説明する。
なお、ステップS1~S6C,S8Cの処理は、前記した各実施形態と同様のため、説明を省略する。
被写体画像入力手段36Eは、ステップS6Cの指令に応じて各撮像カメラ21Eが撮像したカラーの被写体画像の入力を受け付ける(ステップS7E)。
RGBデータ交換処理手段371Eは、ステップS7Eで入力されたカラーの被写体画像に対して、RGBデータ交換処理を施し、被写体画像を生成する(ステップS20E)。
[作用・効果]
以上のように、立体画像生成装置30Eは、カラーカメラアレイを用いる場合でも、第3実施形態と同様の効果を奏する。
(第6実施形態)
図26を参照し、本発明の第6実施形態に係る立体画像表示システム1Fについて、第5実施形態と異なる点を説明する。
第5実施形態では、撮像カメラアレイ20Eが実写した画像を処理対象とするのに対して、第6実施形態では、仮想カメラアレイによりCG画像を処理対象とする点が異なる。
つまり、本実施形態では、仮想カメラアレイは、RGBの全色を撮像するカラーの仮想カメラを第5実施形態と同様に配置している。
[立体画像生成装置の構成]
図26を参照し、立体画像表示システム1Fの構成について説明する。
立体画像表示システム1Fは、被写体αの立体画像を表示するものであり、図26に示すように、立体画像表示装置10と、立体画像生成装置30Fと、を備える。
立体画像生成装置30Fは、仮想カメラアレイが撮像した被写体画像から、立体画像表示装置10が表示する要素画像群を生成するものである。
図26に示すように、立体画像生成装置30Fは、パラメータ入力手段31と、画素位置変換テーブル生成手段32と、画素位置変換テーブル記憶手段33と、演算手段34と、仮想カメラ設定手段(撮像カメラ制御手段)35Fと、要素画像群生成手段(立体画像生成手段)37Fと、3次元モデル入力手段38とを備える。
なお、仮想カメラ設定手段35F及び要素画像群生成手段37F以外は、前記した各実施形態と同様のため、説明を省略する。
仮想カメラ設定手段35Fは、演算手段34から入力した制御信号に基づいてカラーの仮想カメラを設定するものである。なお、設定する仮想カメラがカラーであること以外、第4実施形態と同様のため、説明を省略する。
要素画像群生成手段37Fは、仮想カメラ設定手段35Fが設定した仮想カメラアレイを介して被写体画像を生成し、その被写体画像から要素画像群を生成するものであり、RGBデータ交換処理手段371Eを備える。
なお、要素画像群生成手段37Fは、仮想カメラにより被写体画像を生成する以外、第5実施形態と同様のため、説明を省略する。
[立体画像生成装置の動作]
図27を参照し、立体画像生成装置30Fの動作について説明する。
なお、ステップS1~S5,S11の処理は、前記した各実施形態と同様のため、説明を省略する。
仮想カメラ設定手段35Fは、制御信号に基づいてカラーの仮想カメラを設定する(ステップS10F)。
要素画像群生成手段37Fは、ステップS10Fで設定した仮想カメラを介して、ステップS11で入力した3次元モデルの被写体画像を生成する。そして、RGBデータ交換処理手段371Eは、RBGデータ交換処理を行い、画素位置がサブピクセルレベルで一致した被写体画像を生成する(ステップS20F)。
[作用・効果]
以上のように、立体画像生成装置30Fは、CGにより被写体画像を生成する場合でも、第5実施形態と同様の効果を奏する。
(第7実施形態)
図29を参照し、本発明の第7実施形態に係る立体画像表示システム1G(図30)について、第5実施形態と異なる点を説明する。
第5実施形態では、G2,G5,G8カメラ位置に対応する被写体画像のみ利用するのに対し、第7実施形態では、G2,G5,G8カメラ位置以外の被写体画像も利用できる点が異なる。
また、第5実施形態では、画素位置変換テーブルが画素単位であるのに対し(図28では3個)、第7実施形態では、画素位置変換テーブルがサブピクセル単位である点も異なる(図29では9個)。
図29に示すように、第5実施形態と同様のRGBデータ交換処理を行い、被写体画像(R0G1B2データ~R8G9B10データ)を生成する。ここで、R0G0B0カメラが存在せずにR0G1B2データのR値(R0)を取得できないので、R1G1B1カメラで撮像した被写体画像のR値(R1)を流用してもよい。これと同様、R10G10B10カメラが存在しないので、R8G9B10データのB値(B10)として、R9G9B9カメラで撮像した被写体画像のB値(B9)を流用してもよい。このように、撮像カメラアレイ20Eの両端に位置する撮像カメラ21Eの画素値を流用することで、撮像カメラ21Eの台数の増加を抑えられる。
その後、図29に示すように、画素位置変換テーブルを参照し、各被写体画像の画素位置を変換することで、要素画像群を生成する。ここで、立体画像表示装置10のRGBサブピクセルに合わせて要素画像群が生成されるので、図28に比べて3倍、水平方向にオーバーサンプリングされてしまう。そこで、立体画像表示装置10の画素数に合うように、水平方向で1/3のダウンサンプリングを行う。
[立体画像生成装置の構成]
図30を参照し、立体画像表示システム1Gの構成について説明する。
立体画像表示システム1Gは、被写体αの立体画像を表示するものであり、図30に示すように、立体画像表示装置10と、立体画像生成装置30Gと、を備える。
立体画像生成装置30Gは、撮像カメラアレイ20Eが撮像した被写体画像から、立体画像表示装置10が表示する要素画像群を生成するものである。
図30に示すように、立体画像生成装置30Gは、パラメータ入力手段31と、画素位置変換テーブル生成手段32Gと、画素位置変換テーブル記憶手段33と、演算手段34と、撮像カメラ制御手段35Cと、被写体画像入力手段36Eと、要素画像群生成手段(立体画像生成手段)37Gと、ダウンサンプリング手段(画像縮小手段)39とを備える。
なお、画素位置変換テーブル生成手段32G、要素画像群生成手段37G及びダウンサンプリング手段39以外は、前記した各実施形態と同様のため、説明を省略する。
画素位置変換テーブル生成手段32Gは、要素画像群の生成に必要な画素位置変換テーブルを生成するものである。本実施形態では、画素位置変換テーブル生成手段32Gは、撮像カメラ21E毎に画素位置変換テーブルを生成する。つまり、画素位置変換テーブルは、サブピクセル単位の情報となる。
要素画像群生成手段37Gは、被写体画像入力手段36Eより入力した被写体画像から要素画像群を生成するものであり、RGBデータ交換処理手段371Eを備える。
なお、要素画像群生成手段37Gは、全ての撮像カメラ21Eが撮像した被写体画像から要素画像群を生成する以外、第5実施形態と同様のため、説明を省略する。
ダウンサンプリング手段39は、要素画像群生成手段37Gから入力されたサブピクセル単位の要素画像群を、画素単位の縮小要素画像群にダウンサンプリング(縮小)するものである。例えば、ダウンサンプリング手段39は、空間フィルタ等によるダウンサンプリングを行う。
その後、ダウンサンプリング手段39は、ダウンサンプリングした縮小要素画像群を立体画像表示装置10に出力する。
[立体画像生成装置の動作]
図31を参照し、立体画像生成装置30Gの動作について説明する。
なお、ステップS1~S20Eの処理は、前記した各実施形態と同様のため、説明を省略する。
要素画像群生成手段37Gは、ステップS20Eで生成した被写体画像から、軸ずれ量dyに応じた画素位置の画素値を取得して要素画像群を生成する(ステップS8G)。
ダウンサンプリング手段39は、ステップS8Gで生成した要素画像群をダウンサンプリングする(ステップS21)。
[作用・効果]
以上のように、立体画像生成装置30Gは、第5実施形態と同様の効果に加え、要素画像群をダウンサンプリングすることで、サブピクセルの開口率を小さくし、よりシャープな立体画像を生成することができる。
(第8実施形態)
図32を参照し、本発明の第8実施形態に係る立体画像表示システム1Hについて、第7実施形態と異なる点を説明する。
第7実施形態では、撮像カメラアレイ20Eが実写した画像を処理対象とするのに対して、第8実施形態では、仮想カメラアレイによりCG画像を処理対象とする点が異なる。
[立体画像生成装置の構成]
図32を参照し、立体画像表示システム1Hの構成について説明する。
立体画像表示システム1Hは、被写体αの立体画像を表示するものであり、図32に示すように、立体画像表示装置10と、立体画像生成装置30Hと、を備える。
立体画像生成装置30Hは、仮想カメラアレイが撮像した被写体画像から、立体画像表示装置10が表示する要素画像群を生成するものである。
図32に示すように、立体画像生成装置30Hは、パラメータ入力手段31と、画素位置変換テーブル生成手段32Gと、画素位置変換テーブル記憶手段33と、演算手段34と、仮想カメラ設定手段35Fと、要素画像群生成手段37Hと、3次元モデル入力手段38と、ダウンサンプリング手段39とを備える。
なお、要素画像群生成手段37H以外は、前記した各実施形態と同様のため、説明を省略する。
要素画像群生成手段37Hは、仮想カメラ設定手段35Fが設定した仮想カメラアレイを介して被写体画像を生成し、その被写体画像から要素画像群を生成するものであり、RGBデータ交換処理手段371Eを備える。
なお、要素画像群生成手段37Hは、仮想カメラにより被写体画像を生成する以外、第7実施形態と同様のため、説明を省略する。
[立体画像生成装置の動作]
図33を参照し、立体画像生成装置30Hの動作について説明する。
要素画像群生成手段37Hは、ステップS20Fで生成した被写体画像から、軸ずれ量dyに応じた画素位置の画素値を取得して要素画像群を生成する(ステップS12H)。
なお、ステップS1~S20F,S21の処理は、第6実施形態及び第7実施形態と同様のため、説明を省略した。
[作用・効果]
以上のように、立体画像生成装置30Hは、CGにより被写体画像を生成する場合でも、第7実施形態と同様の効果を奏する。
(第9実施形態)
図34を参照し、本発明の第9実施形態に係る立体画像表示システム1I(図35)について、第7実施形態と異なる点を説明する。
第9実施形態では、RGBデータ交換処理を行わず、サブピクセルを考慮したダウンサンプリングを行う点が第7実施形態と異なる。
図34に示すように、立体画像表示システム1Iは、画素位置変換テーブルを参照し、撮像カメラ21Eで撮像した被写体画像の画素位置を変換し、要素画像群を生成する。この要素画像群は、水平方向にオーバーサンプリングされており、かつ、RGBのサブピクセル位置がずれている。そこで、立体画像表示システム1Iは、サブピクセルを考慮したダウンサンプリングを行い、色ずれを抑制する。
[立体画像生成装置の構成]
図35を参照し、立体画像表示システム1Iの構成について説明する。
立体画像表示システム1Iは、被写体αの立体画像を表示するものであり、図35に示すように、立体画像表示装置10と、立体画像生成装置30Iと、を備える。
立体画像生成装置30Iは、撮像カメラアレイ20Eが撮像した被写体画像から、立体画像表示装置10が表示する要素画像群を生成するものである。
図35に示すように、立体画像生成装置30Iは、パラメータ入力手段31と、画素位置変換テーブル生成手段32Gと、画素位置変換テーブル記憶手段33と、演算手段34と、撮像カメラ制御手段35Cと、被写体画像入力手段36Eと、要素画像群生成手段37(立体画像生成手段)Iと、ダウンサンプリング手段(画像縮小手段)39Iとを備える。
なお、要素画像群生成手段37I及びダウンサンプリング手段39I以外は、前記した各実施形態と同様のため、説明を省略する。
要素画像群生成手段37Iは、被写体画像入力手段36Eより入力したカラーの被写体画像から要素画像群を生成するものである。
具体的には、要素画像群生成手段37Iは、画素位置変換テーブルを参照し、被写体画像の画素位置を変換することで要素画像群を生成する。このとき、要素画像群生成手段37Iは、各被写体画像から、軸ずれ量算出手段343で算出した軸ずれ量dyに応じた画素位置の画素値を取得する。
その後、要素画像群生成手段37Iは、生成した要素画像群をダウンサンプリング手段39Iに出力する。
ダウンサンプリング手段39Iは、要素画像群生成手段37Iからの要素画像群を、画素単位の縮小要素画像群にサブピクセルを考慮してダウンサンプリングするものである。
<サブピクセルを考慮したダウンサンプリング>
図36を参照し、サブピクセルを考慮したダウンサンプリングについて、説明する。
図36に示すように、ダウンサンプリング手段39Iは、要素画像群生成手段37Gからの要素画像群γに、注目画素Pと、この注目画素に隣接する隣接画素P,Pとを設定する。そして、ダウンサンプリング手段39Iは、注目画素PのG値と、隣接画素PのR値と、隣接画素PのB値とを、縮小要素画像γの注目画素Pの画素値(RGB値)とする。
ここで、ダウンサンプリング手段39Iは、要素画像群γの左上画素から順にラスタスキャンするように注目画素Pを設定し、前記した処理を全画素に施す。これにより、ダウンサンプリング手段39Iは、要素画像群γで水平方向に並んだ3画素を縮小要素画像γの1画素にダウンサンプリングし、縮小要素画像γを生成する。
[立体画像生成装置の動作]
図37を参照し、立体画像生成装置30Iの動作について説明する。
なお、ステップS1~S7Eの処理は、前記した各実施形態と同様のため、説明を省略する。
要素画像群生成手段37Iは、ステップS7Eで入力された被写体画像から、軸ずれ量dyに応じた画素位置の画素値を取得して要素画像群を生成する(ステップS8I)。
ダウンサンプリング手段39Iは、ステップS8Gで生成した要素画像群を、サブピクセルを考慮してダウンサンプリングする(ステップS21I)。
[作用・効果]
以上のように、立体画像生成装置30Iは、第7実施形態と同様、要素画像群をダウンサンプリングすることで、サブピクセルの開口率を小さくし、よりシャープな立体画像を生成することができる。
(第10実施形態)
図38を参照し、本発明の第10実施形態に係る立体画像表示システム1Jについて、第9実施形態と異なる点を説明する。
第9実施形態では、撮像カメラアレイ20Eが実写した画像を処理対象とするのに対して、第10実施形態では、仮想カメラアレイによりCG画像を処理対象とする点が異なる。
[立体画像生成装置の構成]
図38を参照し、立体画像表示システム1Jの構成について説明する。
立体画像表示システム1Jは、被写体αの立体画像を表示するものであり、図38に示すように、立体画像表示装置10と、立体画像生成装置30Jと、を備える。
立体画像生成装置30Jは、仮想カメラアレイが撮像した被写体画像から、立体画像表示装置10が表示する要素画像群を生成するものである。
図38に示すように、立体画像生成装置30Jは、パラメータ入力手段31と、画素位置変換テーブル生成手段32Gと、画素位置変換テーブル記憶手段33と、演算手段34と、仮想カメラ設定手段35Fと、要素画像群生成手段(立体画像生成手段)37Jと、3次元モデル入力手段38と、ダウンサンプリング手段39Iとを備える。
なお、要素画像群生成手段37J以外は、前記した各実施形態と同様のため、説明を省略する。
要素画像群生成手段37Jは、仮想カメラ設定手段35Fが設定した仮想カメラアレイを介して被写体画像を生成し、その被写体画像から要素画像群を生成するものである。
なお、要素画像群生成手段37Jは、仮想カメラにより被写体画像を生成する以外、第9実施形態と同様のため、説明を省略する。
[立体画像生成装置の動作]
図39を参照し、立体画像生成装置30Jの動作について説明する(適宜図38参照)。
要素画像群生成手段37Jは、ステップS11で入力した3次元モデルの被写体画像を生成し、被写体画像から要素画像群をサブピクセル単位で生成する(ステップS12J)
なお、ステップS1~S11,S21Iの処理は、前記した各実施形態と同様のため、説明を省略した。
[作用・効果]
以上のように、立体画像生成装置30Jは、CGにより被写体画像を生成する場合でも、第9実施形態と同様の効果を奏する。
以上、本発明の各実施形態を詳述してきたが、本発明は前記した各実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。
(変形例1)
前記した各実施形態では、立体画像撮像装置において、撮像用要素レンズのレンズ間隔が、撮像素子の画素間隔の整数倍(整数画素間隔)であることとして説明したが、本発明は、これに限定されない。
つまり、本発明は、撮像用要素レンズのレンズ間隔が、撮像素子の画素間隔の整数倍でなくともよい(非整数画素間隔)。
非整数画素間隔の場合、撮像素子の各画素に入力する光線が同一方向になるとは限らない。つまり、奥行き制御レンズの被写体側主平面にできる光線群の集光点が撮像用要素レンズ内の要素画像の画素数数以上になるため、撮像カメラの間を通る光線が存在する。この場合、下記参考文献に記載の手法を用いて、撮像カメラの間を通る光線が主平面と交わる位置をレンズの主点位置とする仮想的な撮像カメラで補完することで、要素画像群を生成する。
参考文献1:Cha Zhang et al., “A Self-Reconfigurable Camera Array,”Eurographics Symposium on Rendering (2004)
参考文献2:稲本 他,“視点の内挿を利用した多視点サッカー映像の自由視点鑑賞システム,”2002年映像情報メディア学会冬季大会,7-2
(変形例2)
前記した第3実施形態~第10実施形態では、撮像カメラアレイの配列をサブピクセルに対応させると説明したが、本発明は、これに限定されない。すなわち、第1実施形態及び第2実施形態において、隣接する撮像カメラの画素値を補間することで、色ずれを抑制できる。
例えば、立体画像表示装置がRGBストライプ構造の場合、G値をそのまま利用し、R値及びB値を補間するとよい。具体的には、R値は、左隣の画素のR値と注目画素の補間前のR値とから補間する。また、B値は、右隣の画素のR値と注目画素の補間前のR値から補間する。例えば、注目画素の補間前のR値をv1とし、左隣の画素のR値をv0とした場合、注目画素の補間後のR値を表すv1’は、下記の式で求めることができる(B値も同様)。
v1’=(v1×2/3)+(v0×1/3)
なお、前記した手法では、水平方向における線形補間を用いているが、垂直方向の画素値を利用したり、精度の高い補間方法を用いることも可能である。
(他変形例)
前記した各実施形態では、光学素子アレイが表示用要素レンズ等の光学素子を2次元に配列した表示用レンズアレイであることとして説明したが、本発明は、これに限定されない。例えば、光学素子アレイは、要素レンズを1次元に配列したレンズアレイであってもよい。また、光学素子アレイは、かまぼこ型の要素レンズ(レンチキュラーレンズ)を1次元に配列したレンチキュラーレンズアレイであってもよい。さらに、光学素子アレイは、ピンホールを1次元又は2次元に配列したピンホールアレイであってもよい。さらに、本発明は、IP方式だけでなく、視差バリア方式にも適用できる。
各撮像カメラで撮像した被写体画像と、要素画像群を構成する要素画像の各画素とが1対1で対応する場合、被写体画像の画素数と要素画像の数とが等しくなる。一方、被写体画像の画素数が要素画像の数よりも多くなる場合、オーバーサンプリングになる。この場合、取得する光線の光線幅が狭くなると共に、高い周波数までサンプリング可能となる。また、画素の有効径が小さくなるため、実写の場合であれば感度が下がることになるが、CGでは感度を考慮する必要がない。つまり、オーバーサンプリングした被写体画像から所望の光線に最も近い画素を取得、画素位置の変換を行うことで、画素サイズによる精度の低下を抑えることができる。
前記した第1実施形態では、複数の撮像カメラで構成される撮像カメラアレイを用いることとして説明したが、本発明は、これに限定されない。
例えば、被写体が静止している場合、1台の撮像カメラを移動させ、順次、撮像カメラに被写体画像を撮像させてもよい。この場合、全ての位置で被写体画像を撮像した後、第1実施形態と同様の手法で要素画像群を生成できる。
前記した第1実施形態及び第2実施形態では、撮像カメラアレイをピンホールモデルとして説明した。撮像カメラアレイの撮像レンズの焦点位置が、撮像素子までの距離と等しいと仮定することで、撮像レンズの径が仮想レンズアレイの各レンズの有効径と等しくなる。撮像カメラアレイの各撮像レンズの有効レンズ径を小さくすることで、仮想レンズアレイの各レンズの有効径を小さくできる。有効径を小さくすると、被写体によってはサンプリング時の折り返しが生じる可能性がある。特に、撮像カメラアレイから仮想レンズアレイまでの距離が近い、又は、撮像カメラアレイから被写体までの距離に近い場合には折り返しが生じる可能性が高いが、高周波成分を強調した撮像ができるという利点がある。光の回折の影響があるため有効径を小さくし過ぎるのもよくないため、撮像する被写体の周波数成分を考慮する必要がある。特に、被写体の主な周波成分が高周波である場合には、有効径を小さくすることで高精細な立体画像を取得できる。
前記した各実施形態では、立体画像生成装置を独立したハードウェアとして説明したが、本発明は、これに限定されない。例えば、コンピュータが備えるCPU、メモリ、ハードディスク等のハードウェア資源を、立体画像生成装置として協調動作させる立体画像生成プログラムで実現することもできる。このプログラムは、通信回線を介して配布してもよく、CD-ROMやフラッシュメモリ等の記憶媒体に書き込んで配布してもよい。
1,1B,1C~1J 立体画像表示システム
10 立体画像表示装置
11 表示素子
12 表示用レンズアレイ(光学素子アレイ)
13 表示用要素レンズ(光学素子)
20,20C,20E 撮像カメラアレイ
21,21C,21E 撮像カメラ
22 昇降部材
23 支柱
25 撮像素子
27 撮像レンズ
30,30B,30C~30J 立体画像生成装置
31 パラメータ入力手段
32,32G 画素位置変換テーブル生成手段
33 画素位置変換テーブル記憶手段
34 演算手段
341 位置算出手段
343 軸ずれ量算出手段
345 倍率算出手段
347 画角算出手段
35,35C 撮像カメラ制御手段
35B,35D,35F 仮想カメラ設定手段(撮像カメラ制御手段)
36,36C,36E 被写体画像入力手段
37,37B,37C~37J 要素画像群生成手段(立体画像生成手段)
371,371E RGBデータ交換処理手段(画素位置修正手段)
38 3次元モデル入力手段
39,39I ダウンサンプリング手段(画像縮小手段)
90 立体画像撮像装置
91 撮像素子
92 撮像用レンズアレイ
93 撮像用要素レンズ
94 奥行き制御レンズ
95 仮想レンズアレイ

Claims (11)

  1. 1以上の撮像カメラを備える撮像カメラアレイが撮像した被写体画像から、複数の光学素子を配列した光学素子アレイ及び表示素子を備える立体画像表示装置が表示する立体像の奥行きに応じて、前記立体画像表示装置が表示する要素画像群を生成する立体画像生成装置であって、
    前記立体画像表示装置の奥行き最大表示距離と、前記光学素子の焦点距離と、前記要素画像群を構成する要素画像の中心画素から前記撮像カメラ毎の計算対象画素までの画素間距離と、前記光学素子アレイから後方奥行き最大表示位置までの差分距離と、前記撮像カメラが備える撮像素子のサイズと、前記表示素子のサイズとを入力するパラメータ入力手段と、
    前記奥行き最大表示距離と、前記光学素子の焦点距離と、前記画素間距離とに基づいて、前記撮像カメラの位置を算出する位置算出手段と、
    前記画素間距離と、前記差分距離と、前記光学素子の焦点距離と、前記撮像素子のサイズと、前記表示素子のサイズとに基づいて、前記撮像カメラが備える撮像レンズと前記撮像素子との軸ずれ量を算出する軸ずれ量算出手段と、
    前記位置算出手段が算出した位置に前記撮像カメラを移動させ、前記軸ずれ量算出手段が算出した軸ずれ量だけ前記撮像レンズと前記撮像素子とをずらす撮像カメラ制御手段と、
    前記撮像カメラアレイが撮像した被写体画像から前記要素画像群を生成する立体画像生成手段と、
    を備えることを特徴とする立体画像生成装置。
  2. 前記奥行き最大表示距離と前記差分距離との和である合計距離と、前記光学素子アレイより前記合計距離だけ離れた位置から前記光学素子アレイの反対側に位置する仮想的な光学素子アレイまでの距離との比である倍率を算出する倍率算出手段、をさらに備え、
    前記撮像カメラ制御手段は、隣接する前記撮像カメラの間隔を前記倍率だけ変更するように前記位置算出手段が算出した位置を修正し、修正した当該位置に前記撮像カメラを移動させ、前記軸ずれ量算出手段が算出した軸ずれ量に前記倍率を乗じた値だけ前記撮像レンズと前記撮像素子とをずらすことを特徴とする請求項1に記載の立体画像生成装置。
  3. 仮想的な撮像カメラを配列した仮想的な撮像カメラアレイを介して生成した被写体画像から、複数の光学素子を配列した光学素子アレイ及び表示素子を備える立体画像表示装置の奥行きに応じて、前記立体画像表示装置が表示する要素画像群を生成する立体画像生成装置であって、
    前記立体画像表示装置の奥行き最大表示距離と、前記光学素子の焦点距離と、前記要素画像群を構成する要素画像の中心画素から前記撮像カメラ毎の計算対象画素までの画素間距離と、前記光学素子アレイから後方奥行き最大表示位置までの差分距離と、前記撮像カメラが備える撮像素子のサイズと、前記表示素子のサイズとを入力するパラメータ入力手段と、
    前記奥行き最大表示距離と、前記光学素子の焦点距離と、前記画素間距離とに基づいて、前記撮像カメラの位置を算出する位置算出手段と、
    前記画素間距離と、前記差分距離と、前記光学素子の焦点距離と、前記撮像素子のサイズと、前記表示素子のサイズとに基づいて、前記撮像カメラが備える撮像レンズと前記撮像素子との軸ずれ量を算出する軸ずれ量算出手段と、
    前記位置算出手段が算出した位置及び前記軸ずれ量算出手段が算出した軸ずれ量で前記仮想的な撮像カメラを設定する撮像カメラ制御手段と、
    前記撮像カメラアレイを介して前記被写体画像を生成し、当該被写体画像から前記要素画像群を生成する立体画像生成手段と、
    を備えることを特徴とする立体画像生成装置。
  4. 仮想的な撮像カメラを配列した仮想的な撮像カメラアレイを介して生成した被写体画像から、複数の光学素子を配列した光学素子アレイ及び表示素子を備える立体画像表示装置の奥行きに応じて、前記立体画像表示装置が表示する要素画像群を生成する立体画像生成装置であって、
    前記立体画像表示装置の奥行き最大表示距離と、前記光学素子の焦点距離と、前記要素画像群を構成する要素画像の中心画素から前記撮像カメラ毎の計算対象画素までの画素間距離と、前記光学素子アレイから後方奥行き最大表示位置までの差分距離と、前記撮像カメラが備える撮像素子のサイズと、前記表示素子のサイズとを入力するパラメータ入力手段と、
    前記奥行き最大表示距離と、前記光学素子の焦点距離と、前記画素間距離とに基づいて、前記撮像カメラの位置を算出する位置算出手段と、
    前記画素間距離と、前記差分距離と、前記光学素子の焦点距離と、前記撮像素子のサイズと、前記表示素子のサイズとに基づいて、前記撮像カメラが備える撮像レンズと前記撮像素子との軸ずれ量を算出する軸ずれ量算出手段と、
    前記位置算出手段が算出した位置に前記仮想的な撮像カメラを設定する撮像カメラ制御手段と、
    前記撮像カメラアレイを介して前記被写体画像を生成し、当該被写体画像から前記軸ずれ量に応じた画素位置の画素値を取得して前記要素画像群を生成する立体画像生成手段と、
    を備えることを特徴とする立体画像生成装置。
  5. 前記奥行き最大表示距離と前記差分距離との和である合計距離と、前記光学素子アレイより前記合計距離だけ離れた位置から前記光学素子アレイの反対側に位置する仮想的な光学素子アレイまでの距離との比である倍率を算出する倍率算出手段、をさらに備え、
    前記立体画像生成手段は、前記被写体画像に含まれる被写体のサイズに前記倍率を乗じて前記要素画像群を生成することを特徴とする請求項3又は請求項4に記載の立体画像生成装置。
  6. 1以上の撮像カメラを備える撮像カメラアレイが撮像した被写体画像から、複数の光学素子を配列した光学素子アレイ及び表示素子を備える立体画像表示装置の奥行きに応じて、前記立体画像表示装置が表示する要素画像群を生成する立体画像生成装置であって、
    前記立体画像表示装置の奥行き最大表示距離と、前記光学素子の焦点距離と、前記要素画像群を構成する要素画像の中心画素から前記撮像カメラ毎の計算対象画素までの画素間距離と、前記光学素子アレイから後方奥行き最大表示位置までの差分距離と、前記撮像カメラが備える撮像素子のサイズと、前記表示素子のサイズとを入力するパラメータ入力手段と、
    前記奥行き最大表示距離と、前記光学素子の焦点距離と、前記画素間距離とに基づいて、前記撮像カメラの位置を算出する位置算出手段と、
    前記画素間距離と、前記差分距離と、前記光学素子の焦点距離と、前記撮像素子のサイズと、前記表示素子のサイズとに基づいて、前記撮像カメラが備える撮像レンズと前記撮像素子との軸ずれ量を算出する軸ずれ量算出手段と、
    前記位置算出手段が算出した位置に前記撮像カメラを移動させる撮像カメラ制御手段と、
    前記撮像カメラアレイが撮像した被写体画像から前記軸ずれ量に応じた画素位置の画素値を取得して前記要素画像群を生成する立体画像生成手段と、
    を備えることを特徴とする立体画像生成装置。
  7. 前記奥行き最大表示距離と前記差分距離との和である合計距離と、前記光学素子アレイより前記合計距離だけ離れた位置から前記光学素子アレイの反対側に位置する仮想的な光学素子アレイまでの距離との比である倍率を算出する倍率算出手段、をさらに備え、
    前記撮像カメラ制御手段は、隣接する前記撮像カメラの間隔を前記倍率だけ変更するように前記位置算出手段が算出した位置を修正し、修正した当該位置に前記撮像カメラを移動させ、
    前記立体画像生成手段は、前記軸ずれ量に前記倍率を乗じた値だけ前記画素位置を変更することを特徴とする請求項6に記載の立体画像生成装置。
  8. 前記撮像カメラアレイは、前記表示素子のサブピクセルで構成された画素単位のグループで、前記サブピクセルのうち予め定めた基準色の撮像カメラと、前記基準色以外の参照色の撮像カメラとを配列し、
    前記基準色の撮像カメラで撮像した被写体画像の基準色の画素位置情報に、前記参照色の撮像カメラで撮像した被写体画像の参照色の画素位置情報を統合することで、前記グループ毎に1つの前記被写体画像を生成する画素位置修正手段、をさらに備え、
    前記立体画像生成手段は、前記画素位置修正手段が生成した被写体画像から前記要素画像群を生成することを特徴とする請求項1から請求項7の何れか一項に記載の立体画像生成装置。
  9. 前記撮像カメラアレイは、前記表示素子のサブピクセルに対応するように前記撮像カメラを配列し、
    前記撮像カメラで撮像した被写体画像における前記サブピクセルのうち予め定めた基準色の画素位置情報に、当該撮像カメラに隣接する他の撮像カメラで撮像した被写体画像における前記基準色以外の参照色の画素位置情報を統合することで、前記撮像カメラ毎に1つの前記被写体画像を生成する画素位置修正手段、をさらに備え、
    前記立体画像生成手段は、前記画素位置修正手段が生成した被写体画像から前記要素画像群を生成し、
    前記立体画像生成手段が生成したサブピクセル単位の要素画像群を、前記サブピクセルで構成された画素単位の縮小要素画像群に縮小して前記立体画像表示装置に出力する画像縮小手段、をさらに備えることを特徴とする請求項1から請求項7の何れか一項に記載の立体画像生成装置。
  10. 前記撮像カメラアレイは、前記表示素子のサブピクセルに対応するように前記撮像カメラを配列し、
    前記立体画像生成手段が生成した要素画像群の注目画素における前記サブピクセルのうち予め定めた基準色の画素値と、当該注目画素に隣接する隣接画素における前記基準色以外の参照色の画素値とを、縮小後要素画像群における注目画素の基準色及び参照色の画素値とすることで、前記立体画像生成手段が生成したサブピクセル単位の要素画像群を前記サブピクセルで構成された画素単位の縮小要素画像群に縮小して前記立体画像表示装置に出力する画像縮小手段、をさらに備えることを特徴とする請求項1から請求項7の何れか一項に記載の立体画像生成装置。
  11. コンピュータを、請求項1から請求項10の何れか一項に記載の立体画像生成装置として機能させるための立体画像生成プログラム。
JP2017201560A 2017-02-15 2017-10-18 立体画像生成装置及びそのプログラム Active JP7061445B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017026075 2017-02-15
JP2017026075 2017-02-15

Publications (2)

Publication Number Publication Date
JP2018133795A JP2018133795A (ja) 2018-08-23
JP7061445B2 true JP7061445B2 (ja) 2022-04-28

Family

ID=63247659

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017201560A Active JP7061445B2 (ja) 2017-02-15 2017-10-18 立体画像生成装置及びそのプログラム

Country Status (1)

Country Link
JP (1) JP7061445B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7308045B2 (ja) * 2019-02-12 2023-07-13 日本放送協会 立体画像生成システム、並びに、立体画像生成装置及びそのプログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014107752A (ja) 2012-11-28 2014-06-09 Nippon Hoso Kyokai <Nhk> 撮影装置および表示装置
JP2015043187A (ja) 2013-08-26 2015-03-05 日本放送協会 画像生成装置および画像生成プログラム
JP2015094831A (ja) 2013-11-11 2015-05-18 キヤノン株式会社 立体撮像装置およびその制御方法、制御プログラム
JP2016045644A (ja) 2014-08-21 2016-04-04 日本放送協会 画像生成装置、画像生成方法、及びプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014107752A (ja) 2012-11-28 2014-06-09 Nippon Hoso Kyokai <Nhk> 撮影装置および表示装置
JP2015043187A (ja) 2013-08-26 2015-03-05 日本放送協会 画像生成装置および画像生成プログラム
JP2015094831A (ja) 2013-11-11 2015-05-18 キヤノン株式会社 立体撮像装置およびその制御方法、制御プログラム
JP2016045644A (ja) 2014-08-21 2016-04-04 日本放送協会 画像生成装置、画像生成方法、及びプログラム

Also Published As

Publication number Publication date
JP2018133795A (ja) 2018-08-23

Similar Documents

Publication Publication Date Title
JP4476905B2 (ja) 立体表示画像データの構造、立体表示画像データの記録方法、表示再生方法、記録プログラム、および表示再生プログラム
JP5238429B2 (ja) 立体映像撮影装置および立体映像撮影システム
US7609906B2 (en) Method and system for acquiring and displaying 3D light fields
KR101629479B1 (ko) 능동 부화소 렌더링 방식 고밀도 다시점 영상 표시 시스템 및 방법
JP4942221B2 (ja) 高解像度仮想焦点面画像生成方法
CN100565589C (zh) 用于深度感知的装置和方法
RU2453922C2 (ru) Способ представления исходной трехмерной сцены по результатам съемки изображений в двумерной проекции (варианты)
JP2014056466A (ja) 画像処理装置及び方法
KR20100067656A (ko) 3차원 디스플레이에 대한 렌더링 개선
JP6750183B2 (ja) 画像距離算出装置、画像距離算出方法および画像距離算出用プログラム
AU2005331138A1 (en) 3D image generation and display system
WO2006112488A1 (en) Method for producing multi-viewpoint image for three-dimensional image display and program therefor
US9183670B2 (en) Multi-sample resolving of re-projection of two-dimensional image
CN108141578A (zh) 呈现相机
US20100302234A1 (en) Method of establishing dof data of 3d image and system thereof
JP6585938B2 (ja) 立体像奥行き変換装置およびそのプログラム
US8797383B2 (en) Method for stereoscopic illustration
Berretty et al. Real-time rendering for multiview autostereoscopic displays
JP2015104107A (ja) Ip立体映像推定装置及びそのプログラム
JP7061445B2 (ja) 立体画像生成装置及びそのプログラム
JPH07240945A (ja) 仮想空間生成提示装置
JP7308045B2 (ja) 立体画像生成システム、並びに、立体画像生成装置及びそのプログラム
JP2009021708A (ja) 要素画像群変換装置、立体像表示装置及び要素画像群変換プログラム
JP4377656B2 (ja) インテグラルフォトグラフィ撮影装置およびインテグラルフォトグラフィ表示装置
JP6313569B2 (ja) 立体映像生成装置、そのプログラム及び立体映像表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200902

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210811

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210914

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211022

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220322

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220418

R150 Certificate of patent or registration of utility model

Ref document number: 7061445

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150