JP2015005807A - 立体映像符号化装置、立体映像復号装置及び立体映像符号化システム、並びに、立体映像符号化プログラム及び立体映像復号プログラム - Google Patents
立体映像符号化装置、立体映像復号装置及び立体映像符号化システム、並びに、立体映像符号化プログラム及び立体映像復号プログラム Download PDFInfo
- Publication number
- JP2015005807A JP2015005807A JP2013128401A JP2013128401A JP2015005807A JP 2015005807 A JP2015005807 A JP 2015005807A JP 2013128401 A JP2013128401 A JP 2013128401A JP 2013128401 A JP2013128401 A JP 2013128401A JP 2015005807 A JP2015005807 A JP 2015005807A
- Authority
- JP
- Japan
- Prior art keywords
- image
- eye image
- stereoscopic video
- video encoding
- parallax
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
【課題】 右目用画像及び左目用画像を多重化かつ符号化した情報の一部が伝送路などで欠落しても、復号された両画像が立体感を感じられ、かつ、視野闘争を引き起こさない立体映像符号化装置及び立体映像復号装置を提供する。
【解決手段】 立体映像符号化装置では、左目用画像及び右目用画像の各横方向ラインの情報を、同じ被写体の領域が近接するように横方向に交互に混在させて多重画像の横方向ラインの情報を生成し、これにより得られた多重画像を符号化する。立体映像復号装置では、復号して戻した多重画像に対し、上記多重処理の逆の多重分離処理により、左目用画像及び右目用画像を再生する。情報の欠落があっても、左目用画像及び右目用画像の対応領域が共に消失し、片方だけの消失に伴う課題は生じない。
【選択図】 図2
【解決手段】 立体映像符号化装置では、左目用画像及び右目用画像の各横方向ラインの情報を、同じ被写体の領域が近接するように横方向に交互に混在させて多重画像の横方向ラインの情報を生成し、これにより得られた多重画像を符号化する。立体映像復号装置では、復号して戻した多重画像に対し、上記多重処理の逆の多重分離処理により、左目用画像及び右目用画像を再生する。情報の欠落があっても、左目用画像及び右目用画像の対応領域が共に消失し、片方だけの消失に伴う課題は生じない。
【選択図】 図2
Description
本発明は、立体映像符号化装置、立体映像復号装置及び立体映像符号化システム、並びに、立体映像符号化プログラム及び立体映像復号プログラムに関し、例えば、左目用画像、右目用画像(本明細書においては、画像データを単に画像と呼んでいることもある)をそれぞれの目に投影することで立体感が得られる動画像データを送受信する場合に適用し得るものである。
人の視覚に立体的な動画像を認知させるための方法として、それぞれ異なる方向から撮影した右目用画像(動画像)及び左目用画像(動画像)を用意し、右目用画像を右目に、左目用画像を左目に投影するような表示機器を用いて、観察者に立体感を認識させる方法が広く知られている(例えば、特許文献1参照)。このような視差を持った動画像を伝送する方法として、右目用画像及び左目用画像を符号化かつ多重化したデータを作成して伝送する方法がある。
右目用画像及び左目用画像を多重化かつ符号化する従来方法として、右目用画像及び左目用画像をそれぞれ、横方向(若しくは縦方向)に半分に圧縮した後、横方向(若しくは縦方向)に並置して1枚の画像に合成し、その合成画像を符号化する方法があった。この従来方法では、1枚の符号化データの中に同時刻の右目用画像及び左目用画像の情報が含まれるので、伝送中のエラーによりパケットロスが発生したとしても、左右視点間(右目用画像及び左目用画像間)の同期を確保することができる。
しかしながら、上述した従来の方法では、合成画像内で、対応する点同士の距離が離れているため、パケットロスが発生した場合、エラーの伝播により、復号画像の対応する領域同士の差が大きくなることが起こり得る。ここで、対応する点又は領域とは、立体視した場合(右目用画像及び左目用画像をそれぞれ、それようの表示機器で見た場合)に同じ位置に知覚される点又は領域のことを指す。合成画像は、右目用画像及び左目用画像を合成しているため、合成画像中に対応する点や領域が存在することになる。
図13を用いて、エラーの伝播により、対応する領域同士に大きな差が生じ得ることを説明する。今、右目用画像の縮小画像と左目用画像の縮小画像とが並置合成された、図13(A)に示すnフレーム目の合成画像において、パケットロスにより、領域Tが欠落したとする。なお、図13(A)及び(B)における領域XL及びXRは左目用画像と右目用画像の対応する領域とする。
nフレーム目において、パケットロスによる領域Yの欠落により、この領域Yのデータは、補間処理や前フレームのデータ流用などが行われ、その結果、復号で得られる本来のデータとは異なったものとなる。すなわち、ノイズが混入したものとなる。n+1フレーム目において、復号の際、左目用画像の領域XLは領域Yを参照しており、右目用画像の領域XRは領域Yを参照していなかった場合、領域XLの復号データにはノイズが混入することになるが、領域XRの復号データにはノイズが混入しないことになる。この場合、対応する領域にも拘わらず、左右の視点間(右目用画像及び左目用画像間)で差が生じることになる。
立体映像において、左右視点間で対応する領域間で差が大きい場合、立体感が感じられないものとなってしまう。さらに、視点間での画像の差が大きい場合、観察者の脳内で、視野闘争と呼ばれる現象が起こる。これは、右目に入る映像と左目に入る映像に大きな差がある場合、どちらかの視点の映像のみを脳が認識し、それが短時間で入れ替わって知覚されるという現象である。このような現象が起こると、ちらつきが感じられ、不快な立体映像となってしまう。
そのため、右目用画像及び左目用画像を多重化かつ符号化した情報の一部が欠落しても、復号された右目用画像及び左目用画像が立体感を感じられ、かつ、視野闘争を引き起こさない立体映像符号化装置、立体映像復号装置及び立体映像符号化システム、並びに、立体映像符号化プログラム及び立体映像復号プログラムが望まれている。
第1の本発明の立体映像符号化装置は、(1)縦横の画素数が同じ左目用画像及び右目用画像を多重して多重画像を生成する画像多重手段と、(2)生成された多重画像を符号化する符号化手段とを備え、(1’)上記画像多重手段は、縦方向が同一の上記左目用画像及び上記右目用画像の横方向ラインの所定範囲の情報を、所定の画素数単位で横方向に交互に混在させて、縦方向が同じ上記多重画像の横方向ラインの情報を生成することを特徴とする。
第2の本発明の立体映像復号装置は、第1の本発明の立体映像符号化装置が形成した多重画像の符号化データが入力されるものであって、(1)入力された多重画像の符号化データを復号する復号手段と、(2)復号により得られた多重画像に対して、第1の本発明の立体映像符号化装置における画像多重手段の逆処理の多重分離を行うことにより、左目用画像及び右目用画像を分離抽出する画像多重分離手段とを備えることを特徴とする。
第3の本発明の立体映像符号化システムは、第1の本発明の立体映像符号化装置と、第2の本発明の立体映像復号装置とを有することを特徴とする。
第4の本発明の立体映像符号化プログラムは、コンピュータを、(1)縦横の画素数が同じ左目用画像及び右目用画像を多重して多重画像を生成するものであって、縦方向が同一の上記左目用画像及び上記右目用画像の横方向ラインの所定範囲の情報を、所定の画素数単位で横方向に交互に混在させて、縦方向が同じ上記多重画像の横方向ラインの情報を生成する画像多重手段と、(2)生成された多重画像を符号化する符号化手段として機能させることを特徴とする。
第5の本発明の立体映像復号プログラムは、第1の本発明の立体映像符号化装置が形成した多重画像の符号化データが入力される装置に搭載されるコンピュータを、(1)入力された多重画像の符号化データを復号する復号手段と、(2)復号により得られた多重画像に対して、第1の本発明の立体映像符号化装置における画像多重手段の逆処理の多重分離を行うことにより、左目用画像及び右目用画像を分離抽出する画像多重分離手段として機能させることを特徴とする。
本発明によれば、右目用画像及び左目用画像を多重化かつ符号化した情報の一部が欠落しても、復号された右目用画像及び左目用画像が立体感を感じられ、かつ、視野闘争を引き起こさない立体映像符号化装置、立体映像復号装置及び立体映像符号化システム、並びに、立体映像符号化プログラム及び立体映像復号プログラムを提供できる。
(A)第1の実施形態
以下、本発明による立体映像符号化装置、立体映像復号装置及び立体映像符号化システム、並びに、立体映像符号化プログラム及び立体映像復号プログラムの第1の実施形態を、図面を参照しながら説明する。
以下、本発明による立体映像符号化装置、立体映像復号装置及び立体映像符号化システム、並びに、立体映像符号化プログラム及び立体映像復号プログラムの第1の実施形態を、図面を参照しながら説明する。
第1の実施形態の立体映像符号化システムは、立体映像通信システムに組み込まれたものである。
(A−1)第1の実施形態の構成
図1は、第1の実施形態の立体映像符号化システムを含む立体映像通信システムの構成を示すブロック図である。
図1は、第1の実施形態の立体映像符号化システムを含む立体映像通信システムの構成を示すブロック図である。
図1において、立体映像通信システム1は、立体映像送信装置10及び立体映像受信装置20を有する。
立体映像送信装置10は、画像多重部11、符号化部12及び送信部13を有する。ここで、画像多重部11及び符号化部12は、第1の実施形態の立体映像符号化装置の構成要素である。少なくとも画像多重部11及び符号化部12の部分は、ハードウェア的に各種回路を接続して構築されても良く、また、CPU、ROM、RAMなどを有する汎用的な装置若しくはユニットが所定のプログラムを実行することで該当する機能を実現するように構築されても良い。
画像多重部11は、入力された左目用画像PICL及び右目用画像PICRを多重(合成)し、多重画像を符号化部12に出力するものである。ここで、一対の左目用画像PICL及び右目用画像PICRは同時刻の視点(撮影を行った位置)が異なる立体視用の画像である。
左目用画像PICL及び右目用画像PICRは、撮像装置が得たばかりのものであっても良く、記録媒体等から読み出したものであっても良く、他の装置から送信されて受信したものであっても良い。すなわち、左目用画像PICL及び右目用画像PICRの入力方法は、問われないものである。
また、一対の左目用画像PICL及び右目用画像PICRは、同じ種類の画像であれば、輝度信号(Y)の画像であっても良く、いずれかの色差信号(Cb、Cr)の画像であっても良く、いずれかの色信号(R、G、B)の画像であっても良い。左目用画像PICL及び右目用画像PICRの大きさは限定されるものではない。例えば、縦横1080ライン×1920画素、縦横540ライン×960画素、縦横480ライン×720画素、縦横288ライン×360画素、縦横240ライン×360画素、縦横144ライン×180画素、縦横120ライン×180画素、縦横72ライン×90画素などのいずれの大きさであっても良い。また、1画素当たりのビット数も限定されるものではない。
画像多重部11は、図2(A1)及び(A2)に示すように、左目用画像PICL及び右目用画像PICRをそれぞれ、縦方向の分割線に沿って、複数の縦縞画像部分SL−1〜SL−N、SR−1〜SR−N(Nは2以上の整数)に分割した後、図2(B)に示すように、左目用画像PICLの縦縞画像部分SL−1〜SL−Nと右目用画像PICRの縦縞画像部分SR−1〜SR−Nとを横方向に交互に配置した多重画像CPICを形成して出力する。
多重画像CPICは、左目用画像PICLの縦縞画像部分SL−1〜SL−Nと右目用画像PICRの縦縞画像部分SR−1〜SR−Nとを横方向に交互に配置している画像であるため、左右視点の対応する領域の画素同士の距離は短いものとなっている(左右視点の対応する領域の画素同士が近付いたものとなっている)。そのため、通信時のパケットロス等が生じた場合であっても、左右視点の対応する領域が共に欠落する可能性が高くなる。
左目用画像PICL及び右目用画像PICRを、縦方向の分割線に沿って、複数の縦縞画像部分SL−1〜SL−N、SR−1〜SR−Nに分割するようにしたのは、以下の考え方による。人間の2つの目は横方向(左右方向)に離間しており、その左右の目で立体感を感じるため、立体視画像においては横方向が縦方向より重みが大きく、横縞画像部分を縦方向に交互に配置した場合であれば、通信時のパケットロス等が生じた場合に生じる、左右視点の対応する欠落した領域が縦方向に存在するが、上記のように、縦縞画像部分を横方向に交互に配置した場合であれば、通信時のパケットロス等が生じた場合に生じる、左右視点の対応する欠落した領域が横方向に存在し、後述する効果が有効なものとなる。
ここで、各縦縞画像部分SL−1〜SL−N、SR−1〜SR−Nの幅は限定されるものではない。例えば、縦縞画像部分SL−1〜SL−N、SR−1〜SR−Nの幅が1画素であっても良く、また、複数画素であっても良い。複数画像の場合、欠落領域の補間処理や符号化などで定まっているブロックの大きさを考慮して具体的な画素数を定めるようにしても良い。例えば、動きベクトルの探索で用いるブロックの一辺の半分の画素数を縦縞画像部分の幅に選定しても良い。後述する動作の項では、縦縞画像部分SL−1〜SL−N、SR−1〜SR−Nの幅が1画素であるとして説明する。
符号化部12は、画像多重部11から出力された、左目用画像PICL及び右目用画像PICRの多重画像CPICを所定の符号化方式に従って符号化するものである。ここで、符号化方式は限定されないが、例えば、H.264/MPEG−4 AVCのような符号化方式を適用できる。
送信部13は、符号化部12から出力された符号化データから、送信データ(例えばパケット)を形成して立体映像受信装置20に向けて送信するものである。
ここで、立体映像送信装置10及び立体映像受信装置20間の伝送路は、専用回線であっても良く、また、多くの人が利用できる通信網であっても良い。立体映像送信装置10及び立体映像受信装置20間の通信方式(例えば、暗号化の有無、通信速度、伝送路符号化方式、有線・無線通信など)は限定されるものではない。また、送信部13は、例えば、輝度信号用の符号化データ、色差信号用の2つの符号化データから送信データを形成するものであっても良い。また、送信データに、複数フレームに係る符号化データを挿入するようにしても良い。
立体映像受信装置20は、受信部21、復号部22及び画像多重分離部23を有する。ここで、復号部22及び画像多重分離部23は、第1の実施形態の立体映像復号装置の構成要素である。少なくとも復号部22及び画像多重分離部23の部分は、ハードウェア的に各種回路を接続して構築されても良く、また、CPU、ROM、RAMなどを有する汎用的な装置若しくはユニットが所定のプログラムを実行することで該当する機能を実現するように構築されても良い。
受信部21は、立体映像送信装置10からの送信データを受信処理して符号化データを取り出して復号部22に与えるものである。
復号部22は、符号化データに対して復号を行って、図2(B)に示す多重画像CPICを得て画像多重分離部23に与えるものである。
画像多重分離部23は、多重画像CPICを縦縞部分SL−1、SR−1、…、SL−N、SR−Nに分解しつつ、奇数番目の縦縞部分SL−1、…、SL−Nを横方向に並置して左目用画像PICLを再生すると共に、偶数番目の縦縞部分SR−1、…、SR−Nを横方向に並置して右目用画像PICRを再生するものである。
再生された左目用画像PICL及び右目用画像PICRは、例えば、表示機器30に与えられて立体視映像の表示に供される。
(A−2)第1の実施形態の動作
次に、第1の実施形態の立体映像符号化システムを含む立体映像通信システム1の動作を説明する。
次に、第1の実施形態の立体映像符号化システムを含む立体映像通信システム1の動作を説明する。
初めに、立体映像送信装置10の動作を、図3のフローチャートを参照しながら説明する。図3は、同期している1フレーム分の左目用画像PICL及び右目用画像PICRを多重して送信する動作を示しており、この図3に示す動作が立体視の動画像を構成しているフレーム数分だけ繰り返される。
まず、画像多重部11は、撮影カメラや記録ファイルといった映像ソースから、同期している一対の左目用画像PICL及び右目用画像PICR(左右の視点画像)を取得する(ステップS101)。ここで、左目用画像PICL及び右目用画像PICRの取得は、並行して行っても良く、順次行っても良い。
次に、画像多重部11は、図2に示したように、左目用画像PICL及び右目用画像PICRの縦方向の画素列(縦縞画像部分)SL−1〜SL−N、SR−1〜SR−Nが横方向に交互に並ぶような形式で左目用画像PICL及び右目用画像PICRを多重する(ステップS102)。すなわち、左目用画像PICLから得られた縦方向画素列SL−1〜SL−Nが多重画像CPICの奇数列に並び、右目用画像PICRから得られた縦方向画素列SR−1〜SR−Nが多重画像CPICの偶数列に並ぶように多重処理を行う。上述したように、多重画像CPICは、左目用画像PICL及び右目用画像PICRの対応する領域同士が近い位置に存在するものとなっている。
画像多重部11は、得られた多重画像CPICを符号化部12に与える(ステップS103)。このとき、符号化部12は、多重画像CPICを所定の符号化方式に従って符号化し(ステップS104)、得られた符号化データを送信部13に与える(ステップS105)。
送信部13は、与えられた符号化データから送信データを組み立て(ステップS106)、その送信データを立体映像受信装置20へ向けて送信する(ステップS107)。送信部13は、例えば、ステップS106では、与えられた符号化データを伝送路へ送信できるサイズへ分割し、RTP(Real−time Transport Protocol)に従ってパケット化し、送信データとなるパケットを形成する。このような場合であれば、1フレーム分の左目用画像PICL及び右目用画像PICRから、複数のパケットが形成されて送信されることとなる。
次に、立体映像受信装置20の動作を、図4のフローチャートを参照しながら説明する。図4は、受信データに基づき、同期している1フレーム分の左目用画像PICL及び右目用画像PICRを多重分離する動作を示しており、この図4に示す動作が立体視の動画像を構成しているフレーム数分だけ繰り返される。以下では、送信データがパケットであるとして説明する。
受信部21は、送信側より送られたパケットを受信し(ステップS201)、
受信したパケットから、ヘッダ情報などを取り除いて符号化データを得て(ステップS202)、得られた符号化データを復号部22に与える(ステップS203)。
受信したパケットから、ヘッダ情報などを取り除いて符号化データを得て(ステップS202)、得られた符号化データを復号部22に与える(ステップS203)。
復号部22は、入力された符号化データを復号した後(ステップS204)、今回の復号情報を含めて1フレーム分の復号画像が得られたか否かを判別する(ステップS205)。1フレーム分の復号画像が得られなかった場合には、ステップS201へ戻り、1フレーム分の復号画像が得られた場合には、復号部22は、得られた復号画像を画像多重分離部23に与える(ステップS206)。ここで、送信側において、1フレーム分の符号化データを複数のパケットに振り分けて挿入している場合には、ステップS205からステップS201へ戻る処理が実行されることとなる。
画像多重分離部23は、復号画像(復号された多重画像)から、左目用画像及び右目用画像を多重分離する(ステップS207)。この多重分離処理は、画像多重部11で行った多重処理の逆の処理である(図2参照)。すなわち、復号された多重画像CPICの奇数列の縦方向画素列のみを集めて左目用画像PICLを得ると共に、多重画像CPICの偶数列の縦方向画素列のみを集めて右目用画像PICRを得る。
画像多重分離部23は、得られた左目用画像及び右目用画像を表示機器30に与え(ステップS208)、立体視表示させる。
(A−3)第1の実施形態の効果
第1の実施形態においては、左目用画像及び右目用画像の縦1列を交互に並べることにより多重画像を形成したので、左目用画像及び右目用画像間の対応する領域同士が多重画像において近傍に位置する。
第1の実施形態においては、左目用画像及び右目用画像の縦1列を交互に並べることにより多重画像を形成したので、左目用画像及び右目用画像間の対応する領域同士が多重画像において近傍に位置する。
そのため、この多重画像を符号化した符号化データ中でも近い位置にある。仮に、伝送途中に、パケットロスが発生したとしても、片方の視点映像のみ正しく復号され、もう片方が正しく復号できない、ということが起こりにくくなる。
また、ノイズの伝播に関しても、対応する領域が近傍に存在するため、片方の視点のある点が存在する領域(例えばマクロブロック)が、復号の際に、誤りのある復号画像を参照していたとしても、もう片方の視点の対応する点が同じ領域(マクロブロック)に存在していれば、同様に誤りを参照することになるため、対応点同士は同じようなノイズとなる。そのため、立体映像受信装置から出力された映像を立体表示した場合、対応する領域には、ノイズが乗っているものの、視点間の差が小さいため、視野闘争が起きて不快な立体映像となることを回避することができる。
(B)第2の実施形態
次に、本発明による立体映像符号化装置、立体映像復号装置及び立体映像符号化システム、並びに、立体映像符号化プログラム及び立体映像復号プログラムの第2の実施形態を、図面を参照しながら説明する。
次に、本発明による立体映像符号化装置、立体映像復号装置及び立体映像符号化システム、並びに、立体映像符号化プログラム及び立体映像復号プログラムの第2の実施形態を、図面を参照しながら説明する。
第2の実施形態の立体映像符号化システムは、立体映像通信システムに組み込まれたものである。
(B−1)第2の実施形態の構成
第1の実施形態の立体映像符号化方式では、符号化前の多重処理において、左目用画像及び右目用画像のそれぞれの所定幅(例えば1画素)の縦縞画像部分を横方向に交互に並べることにより、左目用画像及び右目用画像(左右視点)間の対応する領域同士が近傍となるようにしていた。
第1の実施形態の立体映像符号化方式では、符号化前の多重処理において、左目用画像及び右目用画像のそれぞれの所定幅(例えば1画素)の縦縞画像部分を横方向に交互に並べることにより、左目用画像及び右目用画像(左右視点)間の対応する領域同士が近傍となるようにしていた。
しかしながら、写されている物体の撮影カメラからの距離によっては、第1の実施形態のような多重処理では、対応する領域同士が近傍に存在しないこともあり得る。例えば、撮影カメラから物体までの距離が近付くほど、左目用画像におけるその物品領域と右目用画像におけるその物品領域との横方向の距離が離れ、視差量が大きくなる。図5(A1)及び(A2)に示す左目用画像PICL及び右目用画像PICRは、このような視差領域が大きい画像の対となっている。左目用画像PICLにおいて、二等辺三角形形状の物品は左端から距離LLだけ離れた位置にあり、右目用画像PICRにおいて、二等辺三角形形状の物品は左端から距離LRだけ離れた位置にあり、2つの距離LL及びLRの差n=LL−LRはかなり大きい。以上のように、撮影カメラからの距離が近い物体が位置している、左目用画像PICL及び右目用画像PICRにおける領域に関しては、第1の実施形態の多重処理を施しても、多重画像CPICにおいて、左目用画像PICL及び右目用画像PICRにおける対応領域同士の距離が離れている。図5の例で言えば、差nの距離だけ離れている。
そのため、パケットロスによるノイズの影響が、各視点(左目用画像PICL及び右目用画像PICR)で異なるということが起こり得る。また、左右視点(左目用画像PICL及び右目用画像PICR)の縦縞画像部分を横方向に交互に並べても、撮影カメラからの距離が近い場合には、対応しない領域の縦縞画像部分が交互に並んで相関の低い領域となるため、符号化効率が悪くなってしまう。
第2の実施形態〜後述する第4の実施形態の立体映像符号化システムは、以上の点に鑑み、撮影対象の物品の撮影カメラからの距離が近い場合でも、左目用画像PICL及び右目用画像PICRにおける対応領域同士が多重画像CPICで隣接するように多重しようとしたものである。
図6は、第2の実施形態の立体映像符号化システムを含む立体映像通信システムの構成を示すブロック図であり、第1の実施形態に係る図1との同一、対応部分には同一、対応符号を付して示している。
図6において、立体映像通信システム1Aは、立体映像送信装置10A及び立体映像受信装置20Aを有する。
立体映像送信装置10Aは、画像多重部11A、符号化部12、送信部13A及び多重設定情報部14を有する。符号化部12は、第1の実施形態のものと同様である。ここで、画像多重部11A、符号化部12及び多重設定情報部14が、第2の実施形態の立体映像符号化装置の構成要素である。
第2の実施形態で新たに設けられた多重設定情報部14は、ユーザの指定などの形で指定された視差パラメータを保持するものである。視差パラメータは、例えば、左目用画像PICL及び右目用画像PICRにおける対応領域同士の横方向の位置ずれ量nである(図5参照)。視差パラメータの設定は、フレーム毎に行うものであっても良く、動画像の同一シーン毎に設定するものであっても良く、動画像のフレーム全体に共通するように設定するものであっても良い。後述する動作説明では、視差パラメータの設定はフレーム毎に行うものとして説明する。
第2の実施形態に係る画像多重部11Aは、多重設定情報部14に保持されている視差パラメータを参照し、視差パラメータに応じて、入力された左目用画像PICLに対して、横方向に、非交互多重領域ARL1と交互多重領域ARL2とに区分すると共に、入力された右目用画像PICRに対して、横方向に、交互多重領域ARR2と非交互多重領域ARR1とに区分し、さらに、図5(A1)及び(A2)に示すように、縦方向の分割線に沿って、複数の縦縞画像部分ARL2−1〜ARL2−M、ARR2−1〜ARR2−M(Mは2以上の整数)に分割し、その後、図5(B)に示すように、左目用画像PICLの非交互多重領域ARL1、左目用画像PICLの縦縞画像部分ARL2−1〜ARL2−Mと右目用画像PICRの縦縞画像部分ARR2−1〜ARR2−Mとの横方向の交互配置領域、右目用画像PICRの非交互多重領域ARR1とを左側から配置することにより、多重画像CPICAを形成して出力する。
なお、左目用画像PICLの非交互多重領域ARL1は、左目用画像PICLでは写っているが、右目用画像PICRでは写っていない領域に相当し、右目用画像PICRの非交互多重領域ARR1は、右目用画像PICRでは写っているが、左目用画像PICLでは写っていない領域に相当し、左目用画像PICLの交互多重領域ARL2及び右目用画像PICRの交互多重領域ARR2は、左目用画像PICLでも右目用画像PICRでも写っている領域に相当する。
第2の実施形態に係る送信部13Aは、符号化部12から出力された符号化データと多重設定情報部14で保持されている視差パラメータとを多重した後、送信データ(例えばパケット)を形成して立体映像受信装置20Aに向けて送信するものである。上記では、視差パラメータの情報は全てのフレームの送信データに多重するように説明したが、設定された視差パラメータの有効期間によっては、他の方法によって、視差パラメータの情報を立体映像受信装置20Aに与えるようにしても良い。例えば、一連の動画像データの最初のフレームの符号化データのみに視差パラメータを多重して立体映像受信装置20Aに与えるようにしても良い。また例えば、立体映像送信装置10A及び立体映像受信装置20A間で、画像データを授受し合う動作の開始前に行うネゴシエーション期間で視差パラメータを立体映像送信装置10Aから立体映像受信装置20Aへ与えるようにしても良い。
立体映像受信装置20Aは、受信部21A、復号部22、画像多重分離部23A及び多重分離設定情報部24を有する。復号部22は、第1の実施形態のものと同様である。ここで、復号部22、画像多重分離部23A及び多重分離設定情報部24が、第2の実施形態の立体映像復号装置の構成要素である。
第2の実施形態に係る受信部21Aは、立体映像送信装置10Aが送信したデータを受信し、視差パラメータと符号化データとに多重分離し、視差パラメータを多重分離設定情報部24に与え、符号化データを復号部22に与えるものである。
第2の実施形態で新たに設けられた多重分離設定情報部24は、受信部21Aから与えられた視差パラメータを保持するものである。
第2の実施形態に係る画像多重分離部23Aは、多重分離設定情報部24に設定されている視差パラメータを参照し、図5を用いて説明した、上述した画像多重部11Aによる多重処理の逆処理(多重分離処理)を行い、左目用画像PICL及び右目用画像PICR(すなわち、左右視点画像)を再生するものである。
(B−2)第2の実施形態の動作
次に、第2の実施形態の立体映像符号化システムを含む立体映像通信システム1Aの動作を説明する。
次に、第2の実施形態の立体映像符号化システムを含む立体映像通信システム1Aの動作を説明する。
初めに、立体映像送信装置10Aの動作を、図7のフローチャートを参照しながら説明する。図7において、第1の実施形態に係る図3との同一ステップには同一符号を付して示している。図7は、同期している1フレーム分の左目用画像PICL及び右目用画像PICRを多重して送信する動作を示しており、この図7に示す動作が立体視の動画像を構成しているフレーム数分だけ繰り返される。
まず、多重設定情報部14に保持されている視差パラメータの情報が、ユーザからの指示など、外部からの指定によって更新される(ステップS301)。
そして、画像多重部11は、撮影カメラや記録ファイルといった映像ソースから、同期している一対の左目用画像PICL及び右目用画像PICR(左右の視点画像)を取得し(ステップS101)、図5に示したように、視差パラメータに応じて、入力された左目用画像PICL及び右目用画像PICRに対して、横方向に、非交互多重領域ARL1及びARR1と、交互多重領域ARL2及びARR2とに区分し、左目用画像PICLの非交互多重領域ARL1、左目用画像PICLの縦縞画像部分ARL2−1〜ARL2−Mと右目用画像PICRの縦縞画像部分ARR2−1〜ARR2−Mとの横方向の交互配置領域、右目用画像PICRの非交互多重領域ARR1とを左側から配置するように、左目用画像PICL及び右目用画像PICRを多重する(ステップS302)。
画像多重部11は、得られた多重画像CPICAを符号化部12に与え(ステップS103)、符号化部12は、多重画像CPICAを所定の符号化方式に従って符号化し(ステップS104)、得られた符号化データを送信部13Aに与える(ステップS105)。
送信部13Aは、多重設定情報部14から視差パラメータを取得した後(ステップS303)、例えば、符号化部12から出力された符号化データのヘッダ部分の末尾へ、視差パラメータの情報を追加することにより、符号化データ及び視差パラメータの多重化を行う(ステップS304)。符号化データのヘッダとしては、シーケンス全体の符号化情報(シーケンスヘッダ)、各フレームに関する符号化情報(フレームヘッダ)、動画像の符号化単位であるマクロブロックを何個か合わせた各スライスに関する符号化情報(スライスヘッダ)などがあり、いずれのヘッダの末尾に追加しても良いが、以下では、フレームヘッダの末尾へ視差パラメータを含めるとして説明する。なお、符号化データの先頭に固定長の符号で視差パラメータを追加する、というような他の形式で多重しても構わない。
送信部13Aは、与えられた視差パラメータが追加された符号化データから送信データを組み立て(ステップS106)、その送信データを立体映像受信装置20Aへ向けて送信する(ステップS107)。
次に、立体映像受信装置20Aの動作を、図8のフローチャートを参照しながら説明する。図8において、第1の実施形態に係る図4との同一ステップには同一符号を付して示している。図8は、受信データに基づき、同期している1フレーム分の左目用画像PICL及び右目用画像PICRを多重分離する動作を示しており、この図8に示す動作が立体視の動画像を構成しているフレーム数分だけ繰り返される。以下では、送信データがパケットであるとして説明する。
受信部21Aは、送信側より送られたパケットを受信し(ステップS201)、受信したパケットから、視差パラメータと符号化データを多重分離し(ステップS401)、多重分離設定情報部24に保持されている視差パラメータの情報を、受信した視差パラメータの値に更新すると共に(ステップS402)、得られた符号化データを復号部22に与える(ステップS203)。
復号部22は、入力された符号化データを復号した後(ステップS204)、今回の復号情報を含めて1フレーム分の復号画像が得られたか否かを判別する(ステップS205)。1フレーム分の復号画像が得られなかった場合には、ステップS201へ戻り、1フレーム分の復号画像が得られた場合には、復号部22は、得られた復号画像を画像多重分離部23Aに与える(ステップS206)。
画像多重分離部23Aは、多重分離設定情報部24に保持されている視差パラメータを参照し、復号画像(復号された多重画像)に対して、画像多重部11Aの多重処理に対応した多重分離処理を行って(図5参照)、左目用画像及び右目用画像を得る(ステップS403)。
画像多重分離部23Aは、得られた左目用画像及び右目用画像を表示機器30に与え(ステップS208)、立体視表示させる。
(B−3)第2の実施形態の効果
第2の実施形態によれば、利用者が視差パラメータを指定することにより、指定された視差を持つ対応点が隣接するような、左目用画像及び右目用画像の多重処理を行うので、指定された視差を持つ領域が隣接するため、この領域に対しては、パケットロスによるノイズの視点間の差が生じない。そのため、視差パラメータとして、人が注目する領域の視差量を指定した場合、その注目領域に対する、視点間の差が生じないため、主観的な画質の低下を抑えることが可能となる。また、指定された視差を持つ領域の空間的な相関性が高くなるため、この部分の符号化効率が向上し、主観品質が向上することが期待できる。このように、任意の視差量を持つ領域に関して、左右差に視野闘争を抑制し、符号化効率を向上させる効果がある。
第2の実施形態によれば、利用者が視差パラメータを指定することにより、指定された視差を持つ対応点が隣接するような、左目用画像及び右目用画像の多重処理を行うので、指定された視差を持つ領域が隣接するため、この領域に対しては、パケットロスによるノイズの視点間の差が生じない。そのため、視差パラメータとして、人が注目する領域の視差量を指定した場合、その注目領域に対する、視点間の差が生じないため、主観的な画質の低下を抑えることが可能となる。また、指定された視差を持つ領域の空間的な相関性が高くなるため、この部分の符号化効率が向上し、主観品質が向上することが期待できる。このように、任意の視差量を持つ領域に関して、左右差に視野闘争を抑制し、符号化効率を向上させる効果がある。
(C)第3の実施形態
次に、本発明による立体映像符号化装置、立体映像復号装置及び立体映像符号化システム、並びに、立体映像符号化プログラム及び立体映像復号プログラムの第3の実施形態を、図面を参照しながら説明する。
次に、本発明による立体映像符号化装置、立体映像復号装置及び立体映像符号化システム、並びに、立体映像符号化プログラム及び立体映像復号プログラムの第3の実施形態を、図面を参照しながら説明する。
第3の実施形態の立体映像符号化システムは、立体映像通信システムに組み込まれたものである。
上述した第2の実施形態では、視差パラメータを指定することにより、指定した視差をもつ領域の、パケットロスによるノイズの影響を低減するようにしていた。しかし、視差パラメータを指定する必要がある上、映像は時間と共に変化するため、適切な視差パラメータも変化する。この第3の実施形態では、入力画像から視差パラメータを推定する機能を追加している。
図9は、第3の実施形態の立体映像符号化システムを含む立体映像通信システムの構成を示すブロック図であり、第2の実施形態に係る図1との同一、対応部分には同一、対応符号を付して示している。
図9において、立体映像通信システム1Bは、立体映像送信装置10B及び立体映像受信装置20Aを有する。立体映像受信装置20Aは、第2の実施形態のものと同一であり、その機能説明は省略する。
立体映像送信装置10Bは、画像多重部11A、符号化部12、送信部13A及び多重設定情報部14に加え、視差パラメータ計算部15を有する。画像多重部11A、符号化部12、送信部13A及び多重設定情報部14は、第2の実施形態のものと同一であり、その機能説明は省略する。
視差パラメータ計算部15は、入力された左目用画像PICL及び右目用画像PICRに基づいて、視差パラメータを計算して多重設定情報部14に与え
視差パラメータ計算部15は、例えば、左目用画像PICL及び右目用画像PICRの対応する点をブロックマッチング法などの方法で推定する。左目用画像PICL及び右目用画像PICRで対応する点の画素位置を比較することで、各点の視差量を推定する。そして、得られた複数の視差量から、例えば、以下のようにして多重設定情報部14に与える視差量(視差パラメータ)を決定する。第1に、最も大きい視差量を、多重設定情報部14に与える視差量(視差パラメータ)に決定する。第2に、最大頻度の視差量を、多重設定情報部14に与える視差量(視差パラメータ)に決定する。
視差パラメータ計算部15は、例えば、左目用画像PICL及び右目用画像PICRの対応する点をブロックマッチング法などの方法で推定する。左目用画像PICL及び右目用画像PICRで対応する点の画素位置を比較することで、各点の視差量を推定する。そして、得られた複数の視差量から、例えば、以下のようにして多重設定情報部14に与える視差量(視差パラメータ)を決定する。第1に、最も大きい視差量を、多重設定情報部14に与える視差量(視差パラメータ)に決定する。第2に、最大頻度の視差量を、多重設定情報部14に与える視差量(視差パラメータ)に決定する。
以上では、入力された左目用画像PICL及び右目用画像PICRから、多重設定情報部14に与える視差量(視差パラメータ)を決定する場合を説明したが、左目用画像PICL及び右目用画像PICRに加えて、他の情報(以下、補助情報と呼ぶ)をも、視差量(視差パラメータ)の決定に利用するようにしても良い。補助情報として、奥行き情報を利用できる。例えば、撮像カメラの焦点距離や、ズーム時の倍率などを、奥行情報として取込んで用いることができる。左目用画像PICL及び右目用画像PICRに加えて、奥行き情報を利用することにより、視差量の探索処理を迅速化できる。例えば、視差パラメータの第1の決定方法に係る最も視差量の大きい点というのは、奥行きが最も短い点ということであるので、左目用画像PICL及び右目用画像PICRの一方の点に対応する他方の画像の点は、奥行き情報で定まる視差量、若しくは、その近傍の値だけずれて存在する。従って、探索範囲を、奥行き情報に応じて定まる狭い範囲に限定し、視差量を計算するようにしても良い。
第3の実施形態によれば、フレーム毎に視差パラメータを入力画像から推定するようにしたので、時間の変化に伴い、奥行きの変化が起こる立体映像に対しても、視差パラメータを動的に設定することができる。
ここで、設定する視差パラメータを左右視点画像内の最大視差とした場合には、最も拒離の近い領域に対して、ノイズの影響を低減し、符号化効率を向上させる効果がある。また、このような視差量の大きい領域は、手前に写る領域となるため、この領域の符号化効率の向上と、視野闘争の抑制により、主観画質の向上が期待できる。また、設定する視差パラメータを左右視点画像内の視差量で最も多いものとした場合には、左右視点画像間の全体的な相関を高めることとなり、符号化効率が向上する。
(D)第4の実施形態
次に、本発明による立体映像符号化装置、立体映像復号装置及び立体映像符号化システム、並びに、立体映像符号化プログラム及び立体映像復号プログラムの第4の実施形態を、図面を参照しながら説明する。
次に、本発明による立体映像符号化装置、立体映像復号装置及び立体映像符号化システム、並びに、立体映像符号化プログラム及び立体映像復号プログラムの第4の実施形態を、図面を参照しながら説明する。
第4の実施形態の立体映像符号化システムは、立体映像通信システムに組み込まれたものである。
(D−1)第4の実施形態の構成
第1〜第3の実施形態では、画像全体に対して全て同一の多重処理を行っていた。しかし、左右視点画像内の視差量は領域によって異なる。例えば、画像の上部には、視差量が小さい領域、すなわち、背景となるような奥行きが深い領域が広く写っており、画像の下部には、視差量が大きい領域、すなわち、手前に存在する物体の領域が広く写っている、ということがある。
第1〜第3の実施形態では、画像全体に対して全て同一の多重処理を行っていた。しかし、左右視点画像内の視差量は領域によって異なる。例えば、画像の上部には、視差量が小さい領域、すなわち、背景となるような奥行きが深い領域が広く写っており、画像の下部には、視差量が大きい領域、すなわち、手前に存在する物体の領域が広く写っている、ということがある。
第4の実施形態の立体映像符号化システムは、このような点に鑑み、横方向のライン毎(1ライン毎に限定されず、複数ライン毎であっても良い)に視差パラメータを設定して多重処理を行う。以下では、1ライン毎に視差パラメータを設定する場合を説明する。
図10は、第4の実施形態の立体映像符号化システムを含む立体映像通信システムの構成を示すブロック図であり、既述した図面との同一、対応部分には同一、対応符号を付して示している。
図10において、立体映像通信システム1Cは、立体映像送信装置10C及び立体映像受信装置20Cを有する。
立体映像送信装置10Cは、画像多重部11C、符号化部12、送信部13C、多重設定情報部14C及び視差パラメータ計算部15Cを有する。符号化部12は、第1の実施形態のものと同様である。ここで、画像多重部11C、符号化部12、多重設定情報部14C及び視差パラメータ計算部15Cが、第4の実施形態の立体映像符号化装置の構成要素である。
第4の実施形態における視差パラメータ計算部15Cは、入力された左目用画像PICL及び右目用画像PICRに基づいて(さらに、第3の実施形態で言及したように、補助情報を利用しても良い)、ライン毎の視差パラメータを計算し、ライン毎の視差パラメータを多重設定情報部14Cに与えるものである。ライン毎の視差パラメータの計算方法も、第3の実施形態で説明した画像全体の視差パラメータの計算方法とほぼ同様である。すなわち、左目用画像PICL及び右目用画像PICRの対応する点をブロックマッチング法などの方法で推定し、左目用画像PICL及び右目用画像PICRで対応する点の画素位置を比較することで、各点の視差量を推定する。そして、1ラインについて得られた複数の視差量から、例えば、最も大きい視差量を、多重設定情報部14に与えるライン毎の視差量(視差パラメータ)に決定したり、最大頻度の視差量を、多重設定情報部14に与えるライン毎の視差量(視差パラメータ)に決定したりする。
第4の実施形態における多重設定情報部14Cは、視差パラメータ計算部15Cから与えられたライン毎の視差パラメータを保持する。
第4の実施形態における画像多重部11Cは、多重設定情報部14Cに保持されているライン毎の視差パラメータに基づいて、ライン毎に多重方法を切り替えながら、左目用画像PICL及び右目用画像PICRをライン毎に多重し、多重画像CPICCを符号化部12に与えるものである。画像多重部11Cは、あるラインが多重処理の対象ラインとなったときには、多重設定情報部14に保持されているそのラインの視差パラメータを参照し、視差パラメータに応じて、入力された左目用画像PICLの処理対象ラインに対して、横方向に、非交互多重領域と交互多重領域とに区分すると共に、入力された右目用画像PICRの処理対象ラインに対して、横方向に、交互多重領域と非交互多重領域とに区分し、その後、左目用画像PICLの処理対象ラインの非交互多重領域、左目用画像PICLの処理対象ラインの交互多重領域の画素と右目用画像PICRの処理対象ラインの交互多重領域の画素とを交互に配置させた領域、右目用画像PICRの処理対象ラインの非交互多重領域とを左側から配置することにより、多重画像CPICAにおける処理対象ラインを形成する。
第4の実施形態に係る送信部13Cは、符号化部12から出力された符号化データと多重設定情報部14Cで保持されているライン毎の視差パラメータとを多重した後、送信データ(例えばパケット)を形成して立体映像受信装置20Cに向けて送信するものである。
立体映像受信装置20Cは、受信部21C、復号部22、画像多重分離部23C及び多重分離設定情報部24Cを有する。復号部22は、第1の実施形態のものと同様である。ここで、復号部22、画像多重分離部23C及び多重分離設定情報部24Cが、第4の実施形態の立体映像復号装置の構成要素である。
第4の実施形態に係る受信部21Cは、立体映像送信装置10Cが送信したデータを受信し、ライン毎の視差パラメータと符号化データとに多重分離し、ライン毎の視差パラメータを多重分離設定情報部24Cに与え、符号化データを復号部22に与えるものである。
第4の実施形態における多重分離設定情報部24Cは、受信部21Cから与えられたライン毎の視差パラメータを保持するものである。
第4の実施形態に係る画像多重分離部23Cは、多重分離設定情報部24Cに設定されているライン毎の視差パラメータを参照し、上述した画像多重部11Cによるライン毎の多重処理の逆処理(ライン毎の多重分離処理)を行い、左目用画像PICL及び右目用画像PICR(すなわち、左右視点画像)を再生するものである。
(D−2)第4の実施形態の動作
次に、第4の実施形態の立体映像符号化システムを含む立体映像通信システム1Cの動作を説明する。
次に、第4の実施形態の立体映像符号化システムを含む立体映像通信システム1Cの動作を説明する。
初めに、立体映像送信装置10Cの動作を、図11のフローチャートを参照しながら説明する。図11において、第2の実施形態に係る図7との同一ステップには同一符号を付して示している。図11は、同期している1フレーム分の左目用画像PICL及び右目用画像PICRを多重して送信する動作を示しており、この図11に示す動作が立体視の動画像を構成しているフレーム数分だけ繰り返される。
まず、入力された左目用画像PICL及び右目用画像PICRに基づいて(補助情報を利用する場合には補助情報にも基づく)、視差パラメータ計算部15Cが、ライン毎の視差パラメータを計算し、多重設定情報部14Cに保持されているライン毎の視差パラメータの情報が、計算によって得られたライン毎の視差パラメータに更新される(ステップS501)。
そして、画像多重部11Cは、一対の左目用画像PICL及び右目用画像PICR(左右の視点画像)を取得し(ステップS101)、ライN毎の視差パラメータに応じて、入力された左目用画像PICL及び右目用画像PICRに対して、上述したライン毎の多重処理を行い、左目用画像PICL及び右目用画像PICRの多重画像CPICCを形成する(ステップS502)。
画像多重部11Cは、得られた多重画像CPICCを符号化部12に与え(ステップS103)、符号化部12は、多重画像CPICCを所定の符号化方式に従って符号化し(ステップS104)、得られた符号化データを送信部13Cに与える(ステップS105)。
送信部13Cは、多重設定情報部14Cからライン毎の視差パラメータを取得した後(ステップS503)、例えば、符号化部12から出力された符号化データのヘッダ部分の末尾へ、ライン毎の視差パラメータの情報を追加することにより、符号化データ及びライン毎の視差パラメータの多重化を行う(ステップS504)。
送信部13Cは、与えられたライン毎の視差パラメータが追加された符号化データから、送信データを組み立て(ステップS106)、その送信データを立体映像受信装置20Cへ向けて送信する(ステップS107)。
次に、立体映像受信装置20Cの動作を、図12のフローチャートを参照しながら説明する。図12において、第2の実施形態に係る図8との同一ステップには同一符号を付して示している。図12は、受信データに基づき、同期している1フレーム分の左目用画像PICL及び右目用画像PICRを多重分離する動作を示しており、この図12に示す動作が立体視の動画像を構成しているフレーム数分だけ繰り返される。以下では、送信データがパケットであるとして説明する。
受信部21Cは、送信側より送られたパケットを受信し(ステップS201)、受信したパケットから、ライン毎の視差パラメータと符号化データを多重分離し(ステップS601)、多重分離設定情報部24Cに保持されているライン毎の視差パラメータの情報を、受信したライン毎の視差パラメータの値に更新すると共に(ステップS602)、得られた符号化データを復号部22に与える(ステップS203)。
復号部22は、入力された符号化データを復号した後(ステップS204)、今回の復号情報を含めて1フレーム分の復号画像が得られたか否かを判別する(ステップS205)。1フレーム分の復号画像が得られなかった場合には、ステップS201へ戻り、1フレーム分の復号画像が得られた場合には、復号部22は、得られた復号画像を画像多重分離部23Cに与える(ステップS206)。
画像多重分離部23Cは、多重分離設定情報部24Cに保持されているライン毎の視差パラメータを参照し、復号画像(復号された多重画像)に対して、画像多重部11Cによるライン毎の多重処理に対応したライン毎の多重分離処理を行って、左目用画像及び右目用画像を得る(ステップS603)。
画像多重分離部23Cは、得られた左目用画像及び右目用画像を表示機器30に与え(ステップS208)、立体視表示させる。
(D−3)第4の実施形態の効果
第4の実施形態によれば、ライン毎に視差パラメータを設定し、ライン毎の視差パラメータに応じてライン毎に多重処理を切り替えるようにしたので、様々な奥行きを持つ左右視点画像に対して、パケットロスによるノイズの影響による視野闘争の発生を抑えることができる。また、ライン毎に適切な視差パラメータを設定するため、ライン内での相関が高くなり、符号化効率の向上が期待できる。
第4の実施形態によれば、ライン毎に視差パラメータを設定し、ライン毎の視差パラメータに応じてライン毎に多重処理を切り替えるようにしたので、様々な奥行きを持つ左右視点画像に対して、パケットロスによるノイズの影響による視野闘争の発生を抑えることができる。また、ライン毎に適切な視差パラメータを設定するため、ライン内での相関が高くなり、符号化効率の向上が期待できる。
(E)他の実施形態
上記各実施形態の説明においても、種々変形実施形態に言及したが、さらに、以下に例示するような変形実施形態を挙げることができる。
上記各実施形態の説明においても、種々変形実施形態に言及したが、さらに、以下に例示するような変形実施形態を挙げることができる。
上記各実施形態では、入力された左目用画像及び右目用画像をそのまま多重し、多重画像の横方向の長さが、左目用画像、右目用画像の横方向の長さの2倍になるものを示したが、入力された左目用画像及び右目用画像をそれぞれ、横方向に1/2に縮小した後、2つの縮小画像に対して、上記各実施形態で説明した多重処理を行って、左目用画像、右目用画像の横方向の長さと同じ多重画像を形成するようにしても良い。
第4の実施形態では、1又は複数の画素ライン単位に、その単位毎の視差パラメータに応じた多重処理を行うものを示したが、マクロブロックの縦方向の幅(例えば、8画素×8画素のマクロブロックであれば、縦方向の8画素)を単位に視差パラメータを計算し、その幅を単位に多重処理を行うようにしても良い。
上記各実施形態では、左右視点画像の多重画像の符号化データを、2つの装置からで送受信するものを示したが、左右視点画像の多重画像の符号化データを記録媒体に記録し、その記録媒体から再生した符号化データを復号する場合にも、本発明の技術思想を適用することができる。
輝度信号の左右視点画像を多重化した後、符号化して輝度符号化データを得ると共に、色差信号の左右視点画像を多重化した後、符号化して色差符号化データを得る装置に、上記第3や第4の実施形態の技術思想を適用する場合であれば、例えば、輝度信号について得た視差パラメータやライン毎の視差パラメータを、色差信号の処理系でそのまま流用するようにしても良い。
1、1A、1B、1C…立体映像通信システム、
10、10A、10B、10C…立体映像送信装置、
11、11A、11C…画像多重部、12…符号化部、13、13A、13C…送信部、14、14C…多重設定情報部、15、15C…視差パラメータ計算部、
20、20A、20C…立体映像受信装置、
21、21A、21C…受信部、22…復号部、23、23A、23C…画像多重分離部、24、24C…多重分離設定情報部。
10、10A、10B、10C…立体映像送信装置、
11、11A、11C…画像多重部、12…符号化部、13、13A、13C…送信部、14、14C…多重設定情報部、15、15C…視差パラメータ計算部、
20、20A、20C…立体映像受信装置、
21、21A、21C…受信部、22…復号部、23、23A、23C…画像多重分離部、24、24C…多重分離設定情報部。
図13を用いて、エラーの伝播により、対応する領域同士に大きな差が生じ得ることを説明する。今、右目用画像の縮小画像と左目用画像の縮小画像とが並置合成された、図13(A)に示すnフレーム目の合成画像において、パケットロスにより、領域Yが欠落したとする。なお、図13(A)及び(B)における領域XL及びXRは左目用画像と右目用画像の対応する領域とする。
第1の本発明の立体映像符号化装置は、(1)縦横の画素数が同じ左目用画像及び右目用画像を多重して多重画像を生成する画像多重手段と、(2)生成された多重画像を符号化する符号化手段とを備え、(3)上記画像多重手段は、縦方向が同一の上記左目用画像及び上記右目用画像の横方向ラインの所定範囲の情報を、所定の画素数単位で横方向に交互に混在させて、縦方向が同じ上記多重画像の横方向ラインの情報を生成し、(4)上記横方向ラインの所定範囲が、全ての横方向ラインで同じであって、上記左目用画像及び上記右目用画像の視差量に応じて定まり、上記左目用画像及び上記右目用画像に対応する領域が存在する範囲であることを特徴とする。
第2の本発明の立体映像符号化装置は、(1)縦横の画素数が同じ左目用画像及び右目用画像を多重して多重画像を生成する画像多重手段と、(2)生成された多重画像を符号化する符号化手段とを備え、(3)上記画像多重手段は、縦方向が同一の上記左目用画像及び上記右目用画像の横方向ラインの所定範囲の情報を、所定の画素数単位で横方向に交互に混在させて、縦方向が同じ上記多重画像の横方向ラインの情報を生成し、(4)上記横方向ラインの所定範囲が、横方向ライン毎、若しくは、数ラインでなる横方向ラインの組毎に相違し、処理対象の横方向ライン若しくは横方向ライン組の、上記左目用画像及び上記右目用画像の視差量に応じて定まり、上記左目用画像及び上記右目用画像に対応する領域が存在する範囲であり、(5)上記左目用画像及び上記右目用画像の相関が高い領域の探索を行い、その探索により得られた複数の視差量のうち、最大の視差量若しくは最大頻度の視差量を、上記左目用画像及び上記右目用画像の視差量とする視差パラメータ算出手段を備えることを特徴とする。
第2の本発明の立体映像符号化装置は、(1)縦横の画素数が同じ左目用画像及び右目用画像を多重して多重画像を生成する画像多重手段と、(2)生成された多重画像を符号化する符号化手段とを備え、(3)上記画像多重手段は、縦方向が同一の上記左目用画像及び上記右目用画像の横方向ラインの所定範囲の情報を、所定の画素数単位で横方向に交互に混在させて、縦方向が同じ上記多重画像の横方向ラインの情報を生成し、(4)上記横方向ラインの所定範囲が、横方向ライン毎、若しくは、数ラインでなる横方向ラインの組毎に相違し、処理対象の横方向ライン若しくは横方向ライン組の、上記左目用画像及び上記右目用画像の視差量に応じて定まり、上記左目用画像及び上記右目用画像に対応する領域が存在する範囲であり、(5)上記左目用画像及び上記右目用画像の相関が高い領域の探索を行い、その探索により得られた複数の視差量のうち、最大の視差量若しくは最大頻度の視差量を、上記左目用画像及び上記右目用画像の視差量とする視差パラメータ算出手段を備えることを特徴とする。
第3の本発明の立体映像復号装置は、第1の本発明の立体映像符号化装置が形成した多重画像の符号化データが入力されると共に第1の本発明の立体映像符号化装置から視差量の情報が入力されるものであって、(1)入力された多重画像の符号化データを復号する復号手段と、(2)復号により得られた多重画像に対して、入力された視差量の情報を適用して、第1の本発明の立体映像符号化装置における画像多重手段の逆処理の多重分離を行うことにより、左目用画像及び右目用画像を分離抽出する画像多重分離手段とを備えることを特徴とする。
第4の本発明の立体映像復号装置は、第2の本発明の立体映像符号化装置が形成した多重画像の符号化データが入力されると共に第2の本発明の立体映像符号化装置から視差量の情報が入力されるものであって、(1)入力された多重画像の符号化データを復号する復号手段と、(2)復号により得られた多重画像に対して、入力された視差量の情報を適用して、第2の本発明の立体映像符号化装置における画像多重手段の逆処理の多重分離を行うことにより、左目用画像及び右目用画像を分離抽出する画像多重分離手段とを備えることを特徴とする。
第4の本発明の立体映像復号装置は、第2の本発明の立体映像符号化装置が形成した多重画像の符号化データが入力されると共に第2の本発明の立体映像符号化装置から視差量の情報が入力されるものであって、(1)入力された多重画像の符号化データを復号する復号手段と、(2)復号により得られた多重画像に対して、入力された視差量の情報を適用して、第2の本発明の立体映像符号化装置における画像多重手段の逆処理の多重分離を行うことにより、左目用画像及び右目用画像を分離抽出する画像多重分離手段とを備えることを特徴とする。
第5の本発明の立体映像符号化システムは、第1の本発明の立体映像符号化装置と、第3の本発明の立体映像復号装置とを有することを特徴とする。
第6の本発明の立体映像符号化システムは、第2の本発明の立体映像符号化装置と、第4の本発明の立体映像復号装置とを有することを特徴とする。
第6の本発明の立体映像符号化システムは、第2の本発明の立体映像符号化装置と、第4の本発明の立体映像復号装置とを有することを特徴とする。
第7の本発明の立体映像符号化プログラムは、コンピュータを、(1)縦横の画素数が同じ左目用画像及び右目用画像を多重して多重画像を生成するものであって、縦方向が同一の上記左目用画像及び上記右目用画像の横方向ラインの所定範囲の情報を、所定の画素数単位で横方向に交互に混在させて、縦方向が同じ上記多重画像の横方向ラインの情報を生成する画像多重手段と、(2)生成された多重画像を符号化する符号化手段として機能させる立体映像符号化プログラムであって、(3)上記横方向ラインの所定範囲が、全ての横方向ラインで同じであって、上記左目用画像及び上記右目用画像の視差量に応じて定まり、視差に拘わらず、上記左目用画像及び上記右目用画像に対応する領域が存在する範囲であることを特徴とする。
第8の本発明の立体映像符号化プログラムは、コンピュータを、(1)縦横の画素数が同じ左目用画像及び右目用画像を多重して多重画像を生成するものであって、縦方向が同一の上記左目用画像及び上記右目用画像の横方向ラインの所定範囲の情報を、所定の画素数単位で横方向に交互に混在させて、縦方向が同じ上記多重画像の横方向ラインの情報を生成する画像多重手段と、(2)生成された多重画像を符号化する符号化手段と、(3)上記左目用画像及び上記右目用画像の相関が高い領域の探索を行い、その探索により得られた複数の視差量のうち、最大の視差量若しくは最大頻度の視差量を、上記左目用画像及び上記右目用画像の視差量とする視差パラメータ算出手段として機能させる立体映像符号化プログラムであって、(4)上記横方向ラインの所定範囲が、横方向ライン毎、若しくは、数ラインでなる横方向ラインの組毎に相違し、処理対象の横方向ライン若しくは横方向ライン組の、上記左目用画像及び上記右目用画像の視差量に応じて定まり、視差に拘わらず、上記左目用画像及び上記右目用画像に対応する領域が存在する範囲であることを特徴とする。
第8の本発明の立体映像符号化プログラムは、コンピュータを、(1)縦横の画素数が同じ左目用画像及び右目用画像を多重して多重画像を生成するものであって、縦方向が同一の上記左目用画像及び上記右目用画像の横方向ラインの所定範囲の情報を、所定の画素数単位で横方向に交互に混在させて、縦方向が同じ上記多重画像の横方向ラインの情報を生成する画像多重手段と、(2)生成された多重画像を符号化する符号化手段と、(3)上記左目用画像及び上記右目用画像の相関が高い領域の探索を行い、その探索により得られた複数の視差量のうち、最大の視差量若しくは最大頻度の視差量を、上記左目用画像及び上記右目用画像の視差量とする視差パラメータ算出手段として機能させる立体映像符号化プログラムであって、(4)上記横方向ラインの所定範囲が、横方向ライン毎、若しくは、数ラインでなる横方向ラインの組毎に相違し、処理対象の横方向ライン若しくは横方向ライン組の、上記左目用画像及び上記右目用画像の視差量に応じて定まり、視差に拘わらず、上記左目用画像及び上記右目用画像に対応する領域が存在する範囲であることを特徴とする。
第9の本発明の立体映像復号プログラムは、第1の本発明の立体映像符号化装置が形成した多重画像の符号化データが入力されると共に第1の本発明の立体映像符号化装置から視差量の情報が入力される装置に搭載されるコンピュータを、(1)入力された多重画像の符号化データを復号する復号手段と、(2)復号により得られた多重画像に対して、入力された視差量の情報を適用して、第1の本発明の立体映像符号化装置における画像多重手段の逆処理の多重分離を行うことにより、左目用画像及び右目用画像を分離抽出する画像多重分離手段として機能させることを特徴とする。
第10の本発明の立体映像復号プログラムは、第2の本発明の立体映像符号化装置が形成した多重画像の符号化データが入力されると共に第2の本発明の立体映像符号化装置から視差量の情報が入力される装置に搭載されるコンピュータを、(1)入力された多重画像の符号化データを復号する復号手段と、(2)復号により得られた多重画像に対して、入力された視差量の情報を適用して、第2の本発明の立体映像符号化装置における画像多重手段の逆処理の多重分離を行うことにより、左目用画像及び右目用画像を分離抽出する画像多重分離手段として機能させることを特徴とする。
第10の本発明の立体映像復号プログラムは、第2の本発明の立体映像符号化装置が形成した多重画像の符号化データが入力されると共に第2の本発明の立体映像符号化装置から視差量の情報が入力される装置に搭載されるコンピュータを、(1)入力された多重画像の符号化データを復号する復号手段と、(2)復号により得られた多重画像に対して、入力された視差量の情報を適用して、第2の本発明の立体映像符号化装置における画像多重手段の逆処理の多重分離を行うことにより、左目用画像及び右目用画像を分離抽出する画像多重分離手段として機能させることを特徴とする。
視差パラメータ計算部15は、入力された左目用画像PICL及び右目用画像PICRに基づいて、視差パラメータを計算して多重設定情報部14に与えるものである。視差パラメータ計算部15は、例えば、左目用画像PICL及び右目用画像PICRの対応する点をブロックマッチング法などの方法で推定する。左目用画像PICL及び右目用画像PICRで対応する点の画素位置を比較することで、各点の視差量を推定する。そして、得られた複数の視差量から、例えば、以下のようにして多重設定情報部14に与える視差量(視差パラメータ)を決定する。第1に、最も大きい視差量を、多重設定情報部14に与える視差量(視差パラメータ)に決定する。第2に、最大頻度の視差量を、多重設定情報部14に与える視差量(視差パラメータ)に決定する。
上記各実施形態では、左右視点画像の多重画像の符号化データを、2つの装置間で送受信するものを示したが、左右視点画像の多重画像の符号化データを記録媒体に記録し、その記録媒体から再生した符号化データを復号する場合にも、本発明の技術思想を適用することができる。
Claims (12)
- 縦横の画素数が同じ左目用画像及び右目用画像を多重して多重画像を生成する画像多重手段と、
生成された多重画像を符号化する符号化手段とを備え、
上記画像多重手段は、縦方向が同一の上記左目用画像及び上記右目用画像の横方向ラインの所定範囲の情報を、所定の画素数単位で横方向に交互に混在させて、縦方向が同じ上記多重画像の横方向ラインの情報を生成する
ことを特徴とする立体映像符号化装置。 - 上記所定の画素数単位が1画素単位であることを特徴とする請求項1に記載の立体映像符号化装置。
- 上記横方向ラインの所定範囲が、全ての横方向ラインで同じであって、横方向ラインの全範囲であることを特徴とする請求項1又は2に記載の立体映像符号化装置。
- 上記横方向ラインの所定範囲が、全ての横方向ラインで同じであって、上記左目用画像及び上記右目用画像の視差量に応じた範囲であることを特徴とする請求項1又は2に記載の立体映像符号化装置。
- 上記左目用画像及び上記右目用画像の視差量の情報が外部から与えられることを特徴とする請求項4に記載の立体映像符号化装置。
- 上記左目用画像及び上記右目用画像の相関が高い領域の探索により、上記左目用画像及び上記右目用画像の視差量の情報を算出する視差パラメータ算出手段をさらに備えることを特徴とする請求項4に記載の立体映像符号化装置。
- 上記横方向ラインの所定範囲が、横方向ライン毎、若しくは、数ラインでなる横方向ラインの組毎に相違し、処理対象の横方向ライン若しくは横方向ライン組の、上記左目用画像及び上記右目用画像の視差量に応じた範囲であることを特徴とする請求項1又は2に記載の立体映像符号化装置。
- 上記左目用画像及び上記右目用画像の相関が高い領域の探索により、上記左目用画像及び上記右目用画像の、横方向ライン毎、若しくは、横方向ラインの組毎の視差量の情報を算出する視差パラメータ算出手段をさらに備えることを特徴とする請求項7に記載の立体映像符号化装置。
- 請求項1に記載の立体映像符号化装置が形成した多重画像の符号化データが入力される立体映像復号装置において、
入力された多重画像の符号化データを復号する復号手段と、
復号により得られた多重画像に対して、請求項1に記載の立体映像符号化装置における画像多重手段の逆処理の多重分離を行うことにより、左目用画像及び右目用画像を分離抽出する画像多重分離手段とを備える
ことを特徴とする立体映像復号装置。 - 請求項1に記載の立体映像符号化装置と、請求項9に記載の立体映像復号装置とを有することを特徴とする立体映像符号化システム。
- コンピュータを、
縦横の画素数が同じ左目用画像及び右目用画像を多重して多重画像を生成するものであって、縦方向が同一の上記左目用画像及び上記右目用画像の横方向ラインの所定範囲の情報を、所定の画素数単位で横方向に交互に混在させて、縦方向が同じ上記多重画像の横方向ラインの情報を生成する画像多重手段と、
生成された多重画像を符号化する符号化手段と
して機能させることを特徴とする立体映像符号化プログラム。 - 請求項1に記載の立体映像符号化装置が形成した多重画像の符号化データが入力される装置に搭載されるコンピュータを、
入力された多重画像の符号化データを復号する復号手段と、
復号により得られた多重画像に対して、請求項1に記載の立体映像符号化装置における画像多重手段の逆処理の多重分離を行うことにより、左目用画像及び右目用画像を分離抽出する画像多重分離手段と
して機能させることを特徴とする立体映像復号プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013128401A JP5742886B2 (ja) | 2013-06-19 | 2013-06-19 | 立体映像符号化装置、立体映像復号装置及び立体映像符号化システム、並びに、立体映像符号化プログラム及び立体映像復号プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013128401A JP5742886B2 (ja) | 2013-06-19 | 2013-06-19 | 立体映像符号化装置、立体映像復号装置及び立体映像符号化システム、並びに、立体映像符号化プログラム及び立体映像復号プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015005807A true JP2015005807A (ja) | 2015-01-08 |
JP5742886B2 JP5742886B2 (ja) | 2015-07-01 |
Family
ID=52301387
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013128401A Expired - Fee Related JP5742886B2 (ja) | 2013-06-19 | 2013-06-19 | 立体映像符号化装置、立体映像復号装置及び立体映像符号化システム、並びに、立体映像符号化プログラム及び立体映像復号プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5742886B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020057258A (ja) * | 2018-10-03 | 2020-04-09 | 株式会社豊田自動織機 | 物体検出装置及び物体検出方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004207772A (ja) * | 2002-09-27 | 2004-07-22 | Sharp Corp | 立体画像表示装置、記録方法、及び伝送方法 |
JP2007028439A (ja) * | 2005-07-20 | 2007-02-01 | Ricoh Co Ltd | 画像処理装置、画像処理方法 |
JP2007318184A (ja) * | 2004-08-18 | 2007-12-06 | Sharp Corp | 立体画像生成装置及びその立体画像生成方法 |
JP2011097564A (ja) * | 2009-10-30 | 2011-05-12 | Mitsubishi Electric Corp | 映像表示制御方法及び装置 |
JP2011166705A (ja) * | 2010-02-15 | 2011-08-25 | Panasonic Corp | 映像処理装置、映像処理方法 |
JP2012110068A (ja) * | 2005-06-14 | 2012-06-07 | Samsung Electronics Co Ltd | 映像送信及び受信方法と装置、及びその伝送ストリーム構造 |
-
2013
- 2013-06-19 JP JP2013128401A patent/JP5742886B2/ja not_active Expired - Fee Related
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004207772A (ja) * | 2002-09-27 | 2004-07-22 | Sharp Corp | 立体画像表示装置、記録方法、及び伝送方法 |
JP2007318184A (ja) * | 2004-08-18 | 2007-12-06 | Sharp Corp | 立体画像生成装置及びその立体画像生成方法 |
JP2012110068A (ja) * | 2005-06-14 | 2012-06-07 | Samsung Electronics Co Ltd | 映像送信及び受信方法と装置、及びその伝送ストリーム構造 |
JP2007028439A (ja) * | 2005-07-20 | 2007-02-01 | Ricoh Co Ltd | 画像処理装置、画像処理方法 |
JP2011097564A (ja) * | 2009-10-30 | 2011-05-12 | Mitsubishi Electric Corp | 映像表示制御方法及び装置 |
JP2011166705A (ja) * | 2010-02-15 | 2011-08-25 | Panasonic Corp | 映像処理装置、映像処理方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020057258A (ja) * | 2018-10-03 | 2020-04-09 | 株式会社豊田自動織機 | 物体検出装置及び物体検出方法 |
JP7014122B2 (ja) | 2018-10-03 | 2022-02-01 | 株式会社豊田自動織機 | 物体検出装置及び物体検出方法 |
Also Published As
Publication number | Publication date |
---|---|
JP5742886B2 (ja) | 2015-07-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP2163103B1 (en) | Method and system for encoding a 3d video signal, enclosed 3d video signal, method and system for decoder for a 3d video signal | |
KR101185870B1 (ko) | 3d 입체 영상 처리 장치 및 방법 | |
JP4952657B2 (ja) | 擬似立体画像生成装置、画像符号化装置、画像符号化方法、画像伝送方法、画像復号化装置及び画像復号化方法 | |
JP4793366B2 (ja) | 多視点画像符号化装置、多視点画像符号化方法、多視点画像符号化プログラム、多視点画像復号装置、多視点画像復号方法、及び多視点画像復号プログラム | |
US20150341614A1 (en) | Stereoscopic video encoding device, stereoscopic video decoding device, stereoscopic video encoding method, stereoscopic video decoding method, stereoscopic video encoding program, and stereoscopic video decoding program | |
JP4181446B2 (ja) | 立体画像表示装置 | |
JP2004208255A (ja) | 立体画像表示装置、記録方法、及び伝送方法 | |
KR20140092910A (ko) | 입체 영상 부호화 장치, 입체 영상 복호화 장치, 입체 영상 부호화 방법, 입체 영상 복호화 방법, 입체 영상 부호화 프로그램 및 입체 영상 복호화 프로그램 | |
JP2008034892A (ja) | 多視点画像符号化装置 | |
JP2009004940A (ja) | 多視点画像符号化方法、多視点画像符号化装置及び多視点画像符号化プログラム | |
KR100704938B1 (ko) | 스테레오스코픽 영상의 부호화/복호화 방법 및 장치 | |
TW200931948A (en) | Generation of a signal | |
JP4657258B2 (ja) | 立体画像表示装置およびその方法 | |
JP2009004939A (ja) | 多視点画像復号方法、多視点画像復号装置及び多視点画像復号プログラム | |
JP2015019326A (ja) | 符号化装置および符号化方法、並びに、復号装置および復号方法 | |
KR20170075349A (ko) | 멀티 뷰를 가진 다중영상 송수신 장치 및 다중영상 다중화 방법 | |
JP5742886B2 (ja) | 立体映像符号化装置、立体映像復号装置及び立体映像符号化システム、並びに、立体映像符号化プログラム及び立体映像復号プログラム | |
WO2008023917A1 (en) | Method and apparatus for encoding/decoding stereoscopic images/videos | |
JP2009004942A (ja) | 多視点画像送信方法、多視点画像送信装置及び多視点画像送信用プログラム | |
Banitalebi-Dehkordi et al. | 3D video quality metric for 3D video compression | |
JP4815004B2 (ja) | 多視点画像符号化装置 | |
JP2003319417A (ja) | 立体画像作成装置、立体画像表示装置およびそれらの方法 | |
KR101289269B1 (ko) | 영상 시스템에서 영상 디스플레이 장치 및 방법 | |
KR20130084227A (ko) | 화상 처리 장치 및 화상 처리 방법 | |
Kim et al. | Object-based stereoscopic conversion of MPEG-4 encoded data |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20141104 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20150407 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150420 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5742886 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |