JPWO2011030399A1 - 画像処理方法及び装置 - Google Patents
画像処理方法及び装置 Download PDFInfo
- Publication number
- JPWO2011030399A1 JPWO2011030399A1 JP2011501034A JP2011501034A JPWO2011030399A1 JP WO2011030399 A1 JPWO2011030399 A1 JP WO2011030399A1 JP 2011501034 A JP2011501034 A JP 2011501034A JP 2011501034 A JP2011501034 A JP 2011501034A JP WO2011030399 A1 JPWO2011030399 A1 JP WO2011030399A1
- Authority
- JP
- Japan
- Prior art keywords
- image
- vector
- depth
- innermost
- motion vector
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/97—Determining parameters from multiple pictures
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
- H04N13/221—Image signal generators using stereoscopic image cameras using a single 2D image sensor using the relative movement between cameras and objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/261—Image signal generators with monoscopic-to-stereoscopic image conversion
- H04N13/264—Image signal generators with monoscopic-to-stereoscopic image conversion using the relative movement of objects in two video frames or fields
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Image Analysis (AREA)
Abstract
Description
第1実施形態に従った2次元画像から立体表示のための視差画像を生成する画像処理装置を図1のブロック図を参照して説明する。
2次元の画像から3次元の画像を生成する根拠は図3に示すようなモーションステレオの原理を利用する。すなわち1台のカメラが左から右に移動しながら撮影している状況を考えると、t1の時刻の映像は左目で見える画像に、t2の時刻の映像は右目で見える画像に酷似していると考えることができる。このような移動カメラの映像を右目及び左目で見ることにより立体視が可能となる。このように移動カメラからの動画像をそれぞれ左視差画像及び右視差画像として利用する技術がモーションステレオである。しかし図4に示すように、画面内にカメラの動きとは独立して動いている物体があると異なる時刻の映像が右目と左目に入ることになり、手や足がぶれてしまい物体を正しく立体視することができない。
動きベクトル検出ステップS11では、動きベクトル検出器22がtフレームからt−1フレームへの動きベクトルを検出する。動きベクトルの検出には様々な方法が使えるが、ここではブロックマッチングを使ったものを述べる。ただしそれに限ったものではない。ブロックマッチングはtフレームを矩形ブロックの部分に分割し、ブロック毎に対応するブロックをt−1フレーム上から探索する方法である。ブロックの大きさをM1,M2とし、ブロックの位置をi,jとする。動きを求めるための誤差関数として平均絶対値差分(Mean Absolute Difference:MAD)などを用いることができる。
クラスタリングステップS12では、クラスタリング装置23が、動きベクトルの方向及び大きさが近い対象同士を分類する。クラスタリング手法としてはK−means法などを用いることができるが、これに限ったものではない。以下K−means法による処理の概要を述べる。
最奥ベクトル検出ステップS13では、最奥ベクトル検出器24が、最も奥側に配置すべき動きベクトルを、検出されたクラスタ内平均ベクトルの中から選択する。最も奥側の領域は物体間の重なりにおいて、他の物体から覆われている確率が最も高い領域ということができる。そこでそのような領域を動きベクトルの重なり合いから判断する。
クラスタの平均動きベクトルを最奥ベクトルu_deepとする。奥行き算出ステップS14では、奥行き算出器25が動きベクトルと最奥ベクトルから奥行き値を算出する。奥行き値は、図5に示すように、右目、左目及び物体を結ぶ三角形と、画面上での右視差、左視差及び物体により規定される三角形との二つの三角形の相似性を利用して視差ベクトルから算出される。ここで図5に示される各パラメータは次のように定義するものとする。
視差ベクトル:d[cm]
眼間距離:b[cm]
画面までの距離:zs[cm]
飛び出し距離:z0[cm]
奥行きの最大値:zmax
実空間での奥行きサイズ:Lz[cm]
ここでb、zs、z0、Lzは任意の値を設定しておく。視差は動きベクトルと最奥ベクトルから次式(8)によって計算できる。
一度奥行き値を算出しておけば、任意のパラメータに従って視差画像を生成できる。視差ベクトル算出器26は視差画像を生成する元となる視差ベクトルを奥行き値から算出する。
Claims (6)
- 2次元動画像から3次元表示のための視差画像を生成する画像処理方法において、
2次元動画像の任意時刻の第1画像と、前記第1画像とは別の時刻の第2画像に基づいて、前記第1画像のブロック毎に、第2画像との間の動きベクトルを検出するステップと、
奥行きを最も奥側とすべきブロックに対して求めた最奥ベクトルを、前記動きベクトルの中から検出するステップと、
各動きベクトルと前記最奥ベクトルとの差分ベクトルを求め、前記差分ベクトルが大きい前記動きベクトルに対応する前記第1画像のブロックほど手前側の奥行きを与えるステップと、
前記第1画像と前記奥行きから1枚以上の視差画像を生成するステップと、
を有する画像処理方法。 - 前記最奥ベクトルを検出するステップは、
前記動きベクトルを1つ以上のクラスタに分類し、前記クラスタ内の平均動きベクトルを求めるステップと、
前記平均動きベクトルのどれか1つを前記最奥ベクトルに設定するステップと、を含むことを特徴とする請求項1に記載の画像処理方法。 - 前記最奥ベクトル検出ステップは、
前記クラスタ間の動きベクトルの重なりを検出し、もっとも覆い被されているクラスタ内の平均動きベクトルを前記最奥ベクトルに設定するステップを含むことを特徴とする請求項2に記載の画像処理方法。 - 前記差分ベクトルの大きさと前記奥行きの関係が反比例していることを特徴とする請求項3に記載の画像処理方法。
- 前記差分ベクトルの大きさと前記奥行きの関係が比例していることを特徴とする請求項3に記載の画像処理方法。
- 2次元動画像から3次元表示のための視差画像を生成する画像処理装置において、
2次元動画像の任意時刻の第1画像と、前記第1画像とは別の時刻の第2画像に基づいて、前記第1画像のブロック毎に、第2画像との間の動きベクトルを検出する動きベクトル検出器と、
奥行きが奥側となる部分の最奥ベクトルを、前記動きベクトルの中から検出する奥行きベクトル検出器と、
各動きベクトルと前記最奥ベクトルとの差分ベクトルを求め、前記差分ベクトルが大きい前記動きベクトルに対応する前記第1画像のブロックほど手前側の奥行きを与える視差ベクトル算出器と、
前記第1画像と前記奥行きから1枚以上の視差画像を生成する視差画像生成器と、
を含む画像処理装置。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2009/065683 WO2011030399A1 (ja) | 2009-09-08 | 2009-09-08 | 画像処理方法及び装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP4892113B2 JP4892113B2 (ja) | 2012-03-07 |
JPWO2011030399A1 true JPWO2011030399A1 (ja) | 2013-02-04 |
Family
ID=43732087
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011501034A Expired - Fee Related JP4892113B2 (ja) | 2009-09-08 | 2009-09-08 | 画像処理方法及び装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US8289376B2 (ja) |
JP (1) | JP4892113B2 (ja) |
CN (1) | CN102326394B (ja) |
WO (1) | WO2011030399A1 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5627498B2 (ja) * | 2010-07-08 | 2014-11-19 | 株式会社東芝 | 立体画像生成装置及び方法 |
JP2012151663A (ja) * | 2011-01-19 | 2012-08-09 | Toshiba Corp | 立体音響生成装置及び立体音響生成方法 |
US9483836B2 (en) | 2011-02-28 | 2016-11-01 | Sony Corporation | Method and apparatus for real-time conversion of 2-dimensional content to 3-dimensional content |
EP2627093A3 (en) * | 2012-02-13 | 2013-10-02 | Thomson Licensing | Method and device for inserting a 3D graphics animation in a 3D stereo content |
JP5858254B2 (ja) * | 2013-06-06 | 2016-02-10 | ソニー株式会社 | 2次元コンテンツの3次元コンテンツへのリアルタイム変換の方法及び装置 |
JP6412819B2 (ja) * | 2015-03-30 | 2018-10-24 | 株式会社東芝 | 画像処理装置、画像処理方法、および画像処理プログラム |
JP6207640B2 (ja) * | 2016-01-27 | 2017-10-04 | エフ・エーシステムエンジニアリング株式会社 | 2次元映像の立体映像化表示装置 |
CN109829393B (zh) * | 2019-01-14 | 2022-09-13 | 北京鑫洋泉电子科技有限公司 | 一种移动物体探测方法、装置及存储介质 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5259040A (en) * | 1991-10-04 | 1993-11-02 | David Sarnoff Research Center, Inc. | Method for determining sensor motion and scene structure and image processing system therefor |
JP3152556B2 (ja) * | 1994-03-24 | 2001-04-03 | 三洋電機株式会社 | 2次元画像を3次元画像に変換する方法 |
JP2000261828A (ja) * | 1999-03-04 | 2000-09-22 | Toshiba Corp | 立体映像生成方法 |
US7764827B2 (en) * | 2003-08-05 | 2010-07-27 | Koninklijke Philips Electronics N.V. | Multi-view image generation |
-
2009
- 2009-09-08 WO PCT/JP2009/065683 patent/WO2011030399A1/ja active Application Filing
- 2009-09-08 CN CN200980157191.XA patent/CN102326394B/zh not_active Expired - Fee Related
- 2009-09-08 JP JP2011501034A patent/JP4892113B2/ja not_active Expired - Fee Related
-
2012
- 2012-03-08 US US13/415,381 patent/US8289376B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
WO2011030399A1 (ja) | 2011-03-17 |
US8289376B2 (en) | 2012-10-16 |
CN102326394B (zh) | 2014-06-11 |
JP4892113B2 (ja) | 2012-03-07 |
US20120169844A1 (en) | 2012-07-05 |
CN102326394A (zh) | 2012-01-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4892113B2 (ja) | 画像処理方法及び装置 | |
JP5153940B2 (ja) | 動き補償を用いた画像の奥行き抽出のためのシステムおよび方法 | |
JP5156837B2 (ja) | 領域ベースのフィルタリングを使用する奥行マップ抽出のためのシステムおよび方法 | |
US9041819B2 (en) | Method for stabilizing a digital video | |
US9237330B2 (en) | Forming a stereoscopic video | |
JP5561781B2 (ja) | 2d画像データを立体画像データに変換する方法およびシステム | |
JP5425897B2 (ja) | 前方及び後方の深度予測を伴う、画像の深度抽出のシステム及び方法 | |
Feng et al. | Object-based 2D-to-3D video conversion for effective stereoscopic content generation in 3D-TV applications | |
EP2618584B1 (en) | Stereoscopic video creation device and stereoscopic video creation method | |
US8611642B2 (en) | Forming a steroscopic image using range map | |
US20130127988A1 (en) | Modifying the viewpoint of a digital image | |
JP4762994B2 (ja) | 視差マップ | |
KR101502362B1 (ko) | 영상처리 장치 및 방법 | |
US20130129192A1 (en) | Range map determination for a video frame | |
KR20100002049A (ko) | 영상 처리 방법 및 장치 | |
JP2005235211A (ja) | 中間時点の画像合成方法及びそれを適用した3dディスプレイ装置 | |
JP6173218B2 (ja) | 背景ピクセル拡張及び背景優先パッチマッチングを用いるマルチビューレンダリング装置及び方法 | |
US9661307B1 (en) | Depth map generation using motion cues for conversion of monoscopic visual content to stereoscopic 3D | |
JP2022174085A (ja) | 場面の積層深度データを生成するための方法 | |
KR20210038659A (ko) | 2차원 이미지를 외삽하기 위해 깊이 정보를 사용하는 시스템 및 방법 | |
JP2014035597A (ja) | 画像処理装置、コンピュータプログラム、記録媒体及び画像処理方法 | |
WO2008152607A1 (en) | Method, apparatus, system and computer program product for depth-related information propagation | |
JP2014072809A (ja) | 画像生成装置、画像生成方法、画像生成装置用プログラム | |
WO2015158570A1 (en) | System, method for computing depth from video | |
JP6685241B2 (ja) | 立体視ビデオ生成 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20111122 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20111216 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4892113 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20141222 Year of fee payment: 3 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313115 Free format text: JAPANESE INTERMEDIATE CODE: R313121 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313117 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |