JP3648135B2 - 復号化装置 - Google Patents
復号化装置 Download PDFInfo
- Publication number
- JP3648135B2 JP3648135B2 JP2000203335A JP2000203335A JP3648135B2 JP 3648135 B2 JP3648135 B2 JP 3648135B2 JP 2000203335 A JP2000203335 A JP 2000203335A JP 2000203335 A JP2000203335 A JP 2000203335A JP 3648135 B2 JP3648135 B2 JP 3648135B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- lens distortion
- decoding
- background image
- signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Studio Devices (AREA)
Description
【発明の属する技術分野】
本発明は、例えばデジタル放送で利用される画像処理装置及び方法、画像符号化装置及び方法並びに画像復号化装置及び方法に関するものである。
【0002】
【従来の技術】
画像をデジタルデータに符号化した後に伝送し及び/又は蓄積する技術は、デジタル放送やデジタルVTRに利用されている。現在広く使用されているMPEG−2規格の次の規格として標準化されたMPEG−4規格は、画像を前景と背景とに分離して符号化するオブジェクトベース符号化と称されている。
【0003】
オブジェクトベース符号化は、画像を前景と背景とに分離することによって符号化の効率を向上させる特徴を有する。特にMPEG−4規格では、スプライト符号化という手法が取り入れられている。この場合、背景用の画像であるスプライトを符号化し、復号化の際にこの画像の一部を任意の位置から切り出して、復号化画像の背景とする。
【0004】
スプライト手法では、背景用の画像及び復号化の際に切り出すための位置パラメータのみを符号化すればよいので、画像をフレームごとに符号化する必要がなく、画像の符号化効率を向上させることができる。
【0005】
スプライトを動画像から作成する技術は、パノラマ画像処理やイメージモザイク処理と称される画像の張り合わせ技術である。その処理では、画像を張り合わせる位置を決定するために、カメラのパンやズームのようなカメラパラメータを画像信号から推定し又は直接カメラの雲台等から計測する。
【0006】
また、カメラレンズの幾何学的な歪を補正し及び除去してから貼り合せが行われる。このようなレンズ歪を複数のパラメータによるモデルによって定式化できることは、例えば1998年に新技術コミュニケーションズから刊行された松山等による文献「コンピュータビジョン:技術評論と将来展望」の42−43頁に記載されている。
【0007】
なお、スプライトから動画像を復元する際にレンズ歪を逆に付加することによって、元の動画像を再生することができる。
【0008】
【発明が解決しようとする課題】
従来、動画像の背景用の画像を復号化するに当たり、動画像撮影時のレンズ歪値の逆補正を考慮していない。しかしながら、レンズ歪値の逆補正を考慮しない場合、符号化の際にレンズ歪を補正した精度の高い画像を作成したとしても、復号化の際に元の動画像を忠実に再現することができない。
【0009】
その結果、レンズ歪を除去する補正を行った背景用の画像を、別に撮影したレンズ歪を有する前景用の画像と合成する際に、レンズ歪の有無によって画像に違和感が生じる。
【0010】
本発明の目的は、再現された画像の違和感を軽減し又はなくす画像処理装置及び方法、画像符号化装置及び方法並びに画像復号化装置及び方法を提供することである。
【0011】
【課題を解決するための手段】
本発明による復号化装置は、画像を前景画像と背景画像とに分離して符号化し、復号化処理の後に前景画像と背景画像とを合成するオブジェクトベース符号化技術に用いられる復号化装置において、
レンズ歪みが除去された静止画であるスプライトを表すデジタルデータ、スプライトから背景画像を切り出すためのパラメータを表すデジタルデータ、及び、表示すべき画像を正又は負に歪曲させるカメラレンズのレンズ歪み量を表すデジタルデータを符号化装置から受け取り、これらデジタルデータをそれぞれ復号化し、前記スプライトを表す背景画像復号化信号、前記スプライトから背景画像を切り出すためのパラメータを表すカメラパラメータ復号化信号、及び、前記カメラレンズのレンズ歪み量を表すレンズ歪み量復号化信号をそれぞれ出力する復号化手段と、
前記背景画像復号化信号及び前記カメラパラメータ復号化信号を受け取り、前記背景画像復号化信号から前記カメラパラメータ復号化信号に基づき背景画像を表す画像信号を切り出す手段と、
切り出された背景画像を表す前記画像信号及び前記レンズ歪み量復号化信号を受け取り、前記レンズ歪みが除去されている背景画像に前記レンズ歪み量復号化信号が表すレンズ歪み量を付加するレンズ歪み付加手段とを具えることを特徴とする。
【0012】
本発明によれば、復号化の際に動画像にレンズ歪量を付加するので、違和感が軽減され又はなくなる動画像を生成することができる。
【0013】
本発明を説明するための参考例である画像符号化装置は、
動画像中の背景用の画像を取得するためのパラメータを取得するパラメータ取得手段と、
そのパラメータを用いて前記背景用の画像を取得する静止画像取得手段と、
カメラのレンズ歪量を検出するレンズ歪量検出手段と、
前記パラメータ、背景用の画像及びレンズ歪量を符号化する符号化手段とを具えることを特徴とするものである。
【0014】
本発明によれば、復号化の際に動画像にレンズ歪量を付加することができるので、違和感が軽減され又はなくなる動画像を生成することができる。
【0015】
本発明を説明するための参考例である画像復号化装置は、
符号化されたパラメータ、背景用の画像及びレンズ歪量を復号化する復号化手段と、
復号化されたパラメータを用いて、復号化された背景用の画像から動画像を取得する動画像取得手段と、
取得した動画像に復号化されたレンズ歪量を付加するレンズ歪量付加手段とを具えることを特徴とするものである。
【0016】
本発明によれば、復号化の際に動画像にレンズ歪量を付加するので、違和感が軽減され又はなくなる動画像を生成することができる。
【0017】
本発明を説明するための参考例である画像処理方法は、
動画像中の背景用の画像を取得するためのパラメータを取得するパラメータ取得ステップと、
そのパラメータを用いて前記背景用の画像を取得する静止画像取得ステップと、
カメラのレンズ歪量を検出するレンズ歪量検出ステップと、
前記パラメータ、背景用の画像及びレンズ歪量を符号化する符号化ステップと、
符号化されたパラメータ、背景用の画像及びレンズ歪量を復号化する復号化ステップと、
復号化されたパラメータを用いて、復号化された背景用の画像から動画像を取得する動画像取得ステップと、
取得した動画像に復号化されたレンズ歪量を付加するレンズ歪量付加ステップとを具えることを特徴とするものである。
【0018】
本発明によれば、復号化の際に動画像にレンズ歪量を付加するので、違和感が軽減され又はなくなる動画像を生成することができる。
【0019】
本発明を説明するための参考例である画像符号化方法は、
動画像中の背景用の画像を取得するためのパラメータを取得するパラメータ取得ステップと、
そのパラメータを用いて前記背景用の画像を取得する静止画像取得ステップと、
カメラのレンズ歪量を検出するレンズ歪量検出ステップと、
前記パラメータ、背景用の画像及びレンズ歪量を符号化する符号化ステップとを具えることを特徴とするものである。
【0020】
本発明によれば、復号化の際に動画像にレンズ歪量を付加することができるので、違和感が軽減され又はなくなる動画像を生成することができる。
【0021】
本発明を説明するための参考例である画像復号化方法は、
符号化されたパラメータ、背景用の画像及びレンズ歪量を復号化する復号化ステップと、
復号化されたパラメータを用いて、復号化された背景用の画像から動画像を取得する動画像取得ステップと、
取得した動画像に復号化されたレンズ歪量を付加するレンズ歪量付加ステップとを具えることを特徴とするものである。
【0022】
本発明によれば、復号化の際に動画像にレンズ歪量を付加するので、違和感が軽減され又はなくなる動画像を生成することができる。
【0023】
【発明の実施の形態】
本発明による画像処理装置及び方法、画像符号化装置及び方法並びに画像復号化装置及び方法の実施の形態を、図面を参照して詳細に説明する。
図1は、本発明による画像処理装置の実施の形態を示す図である。この画像処理装置は、レンズ歪補正回路1と、大画像生成回路2と、符号化回路3と、復号化回路4と、動画像切り出し回路5と、レンズ歪付加回路6とを具える。
【0024】
レンズ歪補正回路1は、動画像信号Aの各フレーム画像に対し、カメラレンズの歪量信号Bを用いて補正を行う。なお、レンズ歪とは、図2に示すように、レンズ7によって矩形の物体8を撮影した場合に、歪曲を有する像9a,9bが生じてしまう現象のことをいう。像9a(図2A)のような糸巻き型の歪曲を正の歪曲といい、像9b(図2B)のような樽型の歪曲を負の歪曲という。
【0025】
上記文献に記載されているように、レンズ歪の補正を画面の座標に施すためのモデルが提案されており、その手順を以下説明する。
撮影されたレンズ歪を有する画像の座標を(Xd,Yd)とし、レンズ歪を補正した後の座標を(Xu,Yu)とすると、以下の関係が成立する。
【0026】
【数1】
【0027】
この場合、Dx,Dyは、レンズの半径方向の歪であり、歪係数κ1,κ2を用いて次のように表される。
【0028】
【数2】
【0029】
ただし、κ2を零とする場合が多い。補正された座標に対応して、輝度及び色度信号値を周辺画素からの内挿計算によって求め、レンズ歪補正動画像信号Cが出力される。
【0030】
大画像生成回路2では、レンズ歪補正動画像信号Cの各フレーム画像を位置合わせを行いながら1枚の画像に貼り合せる。貼り合わせ位置は、動画像信号Aから推定され又は直接カメラの雲台等から計測されたカメラのパンやズームのようなカメラパラメータ信号Dが入力されることによって決定される。その結果、全てのフレームに対して貼り合せた静止画像である背景用画像信号Eが出力される。
【0031】
符号化回路3では、レンズ歪量信号B、カメラパラメータ信号D及び背景用画像信号Eが符号化され、デジタルデータ信号Fが生成される。復号化回路4では、符号化されたデジタルデータ信号Fを復号化して、背景用画像復号化信号G、カメラパラメータ復号化信号H及びレンズ歪量復号化信号Iを生成する。
【0032】
動画像切り出し回路5では、カメラパラメータ復号化信号Hを用いて、復号化された背景用画像復号化信号Gから、画像生成回路2で行われた手順と逆の手順で各フレーム画像を切り出し、動画像復号化信号Jを生成する。
【0033】
レンズ歪付加回路6では、動画像復号化信号Jに対して、レンズ歪量復号化信号Iを用いて、レンズ歪補正回路1で行われた手順と逆の手順で動画像の各フレーム画像にレンズ歪を付加し、すなわち、レンズ歪逆補正を行い、背景画像信号Kを生成する。
【0034】
本実施の形態によれば、復号化の際にレンズ歪値の逆補正を考慮しているので、違和感が軽減し又はなくなる前景用画像との合成画像を取得することができる。
【0035】
本発明は、上記実施の形態に限定されるものではなく、幾多の変更及び変形が可能である。
例えば、上記実施の形態では動画像について説明したがレンズ歪補正回路1においてレンズ歪の補正を画面の座標に施す際に、他の方法を用いることができる。
【図面の簡単な説明】
【図1】 本発明による画像処理装置の実施の形態を示す図である。
【図2】 レンズ歪を説明するための図である。
【符号の説明】
1 レンズ歪補正回路
2 大画像生成回路
3 符号化回路
4 復号化回路
5 動画像切り出し回路
6 レンズ歪付加回路
7 レンズ
8 物体
9a,9b 像
A,K 動画像信号
B 歪量信号
C レンズ歪補正動画像信号
D カメラパラメータ信号
E 背景用画像信号
F デジタルデータ信号
G 背景用画像復号化信号
H カメラパラメータ復号化信号
I レンズ歪量復号化信号
J 動画像復号化信号
Claims (1)
- 画像を前景画像と背景画像とに分離して符号化し、復号化処理の後に前景画像と背景画像とを合成するオブジェクトベース符号化技術に用いられる復号化装置において、
レンズ歪みが除去された静止画であるスプライトを表すデジタルデータ、スプライトから背景画像を切り出すためのパラメータを表すデジタルデータ、及び、表示すべき画像を正又は負に歪曲させるカメラレンズのレンズ歪み量を表すデジタルデータを符号化装置から受け取り、これらデジタルデータをそれぞれ復号化し、前記スプライトを表す背景画像復号化信号、前記スプライトから背景画像を切り出すためのパラメータを表すカメラパラメータ復号化信号、及び、前記カメラレンズのレンズ歪み量を表すレンズ歪み量復号化信号をそれぞれ出力する復号化手段と、
前記背景画像復号化信号及び前記カメラパラメータ復号化信号を受け取り、前記背景画像復号化信号から前記カメラパラメータ復号化信号に基づき背景画像を表す画像信号を切り出す手段と、
切り出された背景画像を表す前記画像信号及び前記レンズ歪み量復号化信号を受け取り、前記レンズ歪みが除去されている背景画像に前記レンズ歪み量復号化信号が表すレンズ歪み量を付加するレンズ歪み付加手段とを具えることを特徴とする復号化装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000203335A JP3648135B2 (ja) | 2000-07-05 | 2000-07-05 | 復号化装置 |
US09/811,923 US6771823B2 (en) | 2000-03-21 | 2001-03-19 | Coding and decoding of moving pictures based on sprite coding |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000203335A JP3648135B2 (ja) | 2000-07-05 | 2000-07-05 | 復号化装置 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2002027460A JP2002027460A (ja) | 2002-01-25 |
JP2002027460A5 JP2002027460A5 (ja) | 2005-03-03 |
JP3648135B2 true JP3648135B2 (ja) | 2005-05-18 |
Family
ID=18700756
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000203335A Expired - Fee Related JP3648135B2 (ja) | 2000-03-21 | 2000-07-05 | 復号化装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3648135B2 (ja) |
-
2000
- 2000-07-05 JP JP2000203335A patent/JP3648135B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2002027460A (ja) | 2002-01-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9652834B2 (en) | Method and apparatus for viewing images | |
US8983175B2 (en) | Video processing method and device for depth extraction | |
TWI521973B (zh) | 高動態範圍影像的編碼、解碼及表示 | |
US8761541B2 (en) | Comfort noise and film grain processing for 3 dimensional video | |
TWI459810B (zh) | 影像處理裝置及其處理方法 | |
JP4217041B2 (ja) | フィルタ処理 | |
US7697609B2 (en) | Apparatus and method for encoding and decoding a moving picture using digital watermarking | |
JP2010212811A (ja) | 動画像符号化装置及び動画像復号化装置 | |
JP2006203365A (ja) | 映像信号符号化装置、及びその映像信号符号化方法 | |
JP2004246644A (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
JP2007214887A (ja) | デジタルスチルカメラ及び画像合成方法 | |
US7522189B2 (en) | Automatic stabilization control apparatus, automatic stabilization control method, and computer readable recording medium having automatic stabilization control program recorded thereon | |
JP3955910B2 (ja) | 画像信号処理方法 | |
US6771823B2 (en) | Coding and decoding of moving pictures based on sprite coding | |
JP3648135B2 (ja) | 復号化装置 | |
JP2002077844A (ja) | 画像伝送装置及び画像伝送方法並びに画像伝送プログラムを記録したコンピュータ読み取り可能な記録媒体 | |
JP3832971B2 (ja) | 画像処理装置及びその方法、及び画像処理システム | |
JP2005229280A (ja) | 画像処理装置および方法並びにプログラム | |
JPH07222052A (ja) | 撮像画像からの資料領域分離方法及び遠隔プレゼンテーション方法 | |
JP5507865B2 (ja) | 画像処理装置、画像処理方法 | |
JP3648121B2 (ja) | 復号化方法および復号化装置 | |
JP6089398B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
CN116962707A (zh) | 图像处理方法、装置、系统、存储介质和程序产品 | |
JP6315069B2 (ja) | 画像処理装置及びプログラム | |
KR20220083720A (ko) | 서버 장치 및 프로그램 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040331 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20040331 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20040416 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040706 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040906 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20041116 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20041119 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050118 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050210 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 3648135 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090218 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100218 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110218 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120218 Year of fee payment: 7 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130218 Year of fee payment: 8 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140218 Year of fee payment: 9 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |