JP5496185B2 - 立体視画像編集装置および立体視画像編集方法 - Google Patents

立体視画像編集装置および立体視画像編集方法 Download PDF

Info

Publication number
JP5496185B2
JP5496185B2 JP2011507737A JP2011507737A JP5496185B2 JP 5496185 B2 JP5496185 B2 JP 5496185B2 JP 2011507737 A JP2011507737 A JP 2011507737A JP 2011507737 A JP2011507737 A JP 2011507737A JP 5496185 B2 JP5496185 B2 JP 5496185B2
Authority
JP
Japan
Prior art keywords
cut
parallax
feature point
stereoscopic image
eye image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011507737A
Other languages
English (en)
Other versions
JPWO2011024352A1 (ja
Inventor
典弘 松井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2011507737A priority Critical patent/JP5496185B2/ja
Publication of JPWO2011024352A1 publication Critical patent/JPWO2011024352A1/ja
Application granted granted Critical
Publication of JP5496185B2 publication Critical patent/JP5496185B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/139Format conversion, e.g. of frame-rate or size
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation

Description

本発明は、複数の画像から視差を有する立体視画像を編集する立体視画像編集装置、および立体視画像編集方法に関し、より特定的には、当該立体視画像を編集して、使用者が所望する立体感を有する立体視画像をディスプレイに表示させる立体視画像編集装置、および立体視画像編集方法に関する。
左眼から見た視野に相当する左眼用画像と、右眼から見た視野に相当する右眼用画像とを用いて、左眼用画像を左眼のみに、右眼用画像を右眼のみに投影する。その両眼視差によって、使用者は、左眼用画像と右眼用画像とから構成される立体視画像について立体感を得ることができる。
立体視画像は、人間の両目の間に生じる視差を再現するため、少なくとも左眼用画像を取得するカメラと、右眼用画像を取得するカメラとを水平方向に並ぶよう配置して、同じ視野を同時に撮影することで作成される。また、同じ手法を仮想的に実現するように、計算機によって仮想3D空間を生成し、同様の効果を得られる立体視画像を生成する手法も存在する。
なお、立体視画像には、写真等の静止画のみならず動画も含まれ、被写体を立体的に見せる映画等に利用される。また、次世代のAVコンテンツの提供方法として、ステレオ映像を用いた立体視映像が普及しつつある。
このように、立体視画像表示技術が普及しており、さらには、撮影された立体視画像はそのまま視聴されるだけでなく、撮影された立体視画像の一部の領域を切取り編集することが考えられる。
従来の立体視画像編集技術として、ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とについて、使用者が切取り編集領域を指定して、立体視画像の一部の領域を切取り編集する方法がある。使用者が切取り編集領域を指定する方法としては、例えば、同一座標選択方法および特徴点対応探索方法を用いることができる。
同一座標選択方法は、一方の画像(例えば、左眼用画像)に対して切取り編集領域を指定すれば、他方の画像(右眼用画像)に対しても同一座標の領域を切取り編集領域として選択する方法である。
特徴点対応探索方法は、画像を小さな矩形領域で分割し、分割した矩形領域単位で面積相関を求めるなどして、左眼用画像と右眼用画像とで同一の特徴点を検索して対応付ける方法である。一方の画像(例えば、左眼用画像)に対して切取り編集領域を指定すれば、他方の画像(右眼用画像)に対しては、左眼用画像と同一の特徴点に基づいて、左眼用画像で指定された切取り編集領域に対応する領域を切取り編集領域として選択する。また、特許文献1には、使用者が立体画像をより見易くする立体画像表示装置が開示されている。
以上のように、ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とについて、使用者は所望の切取り編集領域を指定することによって、撮影された立体視画像の一部の領域を切取り編集することができる。
特開2001−326947号公報
しかしながら、使用者は、立体視画像の切取り編集領域について、当該切取り編集領域の枠自体が有する視差である基点視差を指定できないため、立体視画像の表示領域について、所望の奥行きを持たせることができない。つまり、使用者が所望する立体感を有する立体視画像を得ることができない。
具体的には、立体視画像の画角自体が小さい場合や、ピクチャ・イン・ピクチャの子画面として小さく表示する場合など、立体視画像の表示領域が小さくなると、当該表示領域の枠自体が立体視の対象物となる。このため、使用者は、立体視画像の表示領域の枠自体と、立体視画像に映っている被写体との間にも奥行きの差が感じられる。しかし、使用者が指定した切取り編集領域の枠を、当該切取り編集領域の画像に対して最も手前とみて、表示画面の奥に向かって画像の奥行きを持たせるのか、逆に、使用者が指定した切取り編集領域の枠を、表示画面に対して最も奥とみて、当該切取り編集領域の枠に対して手前側に向かって被写体を飛び出させて見せるのか、という設定ができない。
また、立体視画像に映っている被写体(特徴点)も視差を持っており、立体視画像には、視差が異なる複数の特徴点が散在する。特に、ピクチャ・イン・ピクチャで表示される場合、親画面に表示される被写体の視差と、子画面に表示される被写体の視差とが異なる。例えば、コンテンツ作成者は、コンテンツ視聴者が親画面から子画面へ視点を移した時には、子画面において、コンテンツ視聴者に注視して欲しい被写体へスムーズに視点を誘導させたい。この場合、子画面における立体視画像の切取り編集領域の枠自体が有する視差と、コンテンツ視聴者に注視させたい被写体(特徴点)の視差とを一致させる必要がある。
それ故に、本発明の目的は、使用者は、指定した切取り編集領域の枠について、当該切取り編集領域の枠自体が有する視差である基点視差を指定することによって、立体視画像の表示領域について所望の奥行きを持たせることを可能とし、結果的に、使用者が所望する立体感を有する立体視画像を得ることができる立体視画像編集装置および立体視画像編集方法を提供することである。
上記目的を達成するために、本発明の立体視画像編集装置は、ディスプレイに表示された左眼用画像と右眼用画像とから構成される立体視画像を、使用者の所望の立体感を有する立体視画像に編集する立体視画像編集装置であって、立体視画像を記憶する記憶部と、記憶部に記憶されている立体視画像をディスプレイに表示可能な形式に変換する圧縮伸長部と、ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とについて、切取り編集領域、および当該切取り編集領域の枠自体が有する視差である基点視差を、使用者に指定させる操作部と、使用者によって指定された切取り編集領域に基づいて、ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とを切取り編集する切取り編集部と、切取り編集された左眼用画像と右眼用画像とについて、使用者によって指定された基点視差に基づいて、切取り編集領域を補正する切取り編集領域補正部とを備える。
好ましくは、操作部は、基点視差を使用者に直接指定させることを特徴とするか、または、操作部は、切取り編集された左眼用画像と右眼用画像とについて、切取り編集領域内の特徴点を使用者に指定させ、特徴点が有する視差を基点視差とすることを特徴とする。
好ましい切取り編集領域補正部は、使用者によって指定された基点視差と同一の視差を有する切取り編集領域内の特徴点のうち、最左端である特徴点と最右端である特徴点とを検出し、切取り編集領域の左端および右端を、検出された最左端である特徴点の位置および検出された最右端である特徴点の位置に補正することを特徴とする。
さらに、好ましい切取り編集領域補正部は、少なくとも1つ以上の所定の視差について、当該所定の視差を有する切取り編集領域内の特徴点のうち、最左端である特徴点と最右端である特徴点とを検出し、所定の視差と、検出された最左端である特徴点の位置および検出された最右端である特徴点の位置とを対応付けた切取り編集領域補正候補テーブルを生成し、切取り編集領域の左端および右端を、切取り編集領域補正候補テーブルにおいて、使用者によって指定された基点視差と同一の視差に対応付けられた最左端である特徴点の位置および最右端である特徴点の位置に補正することを特徴とする。
上記目的を達成するために、本発明の立体視画像編集方法は、ディスプレイに表示された左眼用画像と右眼用画像とから構成される立体視画像を、使用者の所望の立体感を有する立体視画像に編集する立体視画像編集装置が実行する立体視画像編集方法であって、編集対象となる立体視画像をディスプレイに表示可能な形式に変換する圧縮伸長ステップと、ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とについて、切取り編集領域を指定する切取り編集領域指定ステップと、指定された切取り編集領域に基づいて、ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とを切取り編集する切取り編集ステップと、切取り編集された左眼用画像と右眼用画像とについて、切取り編集領域の枠自体が有する視差である基点視差を指定する基点視差指定ステップと、指定された基点視差に基づいて、切取り編集領域を補正する切取り編集領域補正ステップと、補正された切取り編集領域で切取り編集された左眼用画像と右眼用画像とを立体視画像編集装置に保存する編集画像保存ステップとを実行する。
好ましくは、基点視差指定ステップは、基点視差を使用者に直接指定させることを特徴とするか、または、基点視差指定ステップは、切取り編集された左眼用画像と右眼用画像とについて、切取り編集領域内の特徴点を使用者に指定させ、特徴点が有する視差を基点視差とすることを特徴とする。
好ましい切取り編集領域補正ステップは、指定された基点視差と同一の視差を有する切取り編集領域内の特徴点のうち、最左端である特徴点と最右端である特徴点とを検出し、切取り編集領域の左端および右端を、検出された最左端である特徴点の位置および検出された最右端である特徴点の位置に補正することを特徴とする。
さらに、好ましい切取り編集領域補正ステップは、少なくとも1つ以上の所定の視差について、当該所定の視差を有する切取り編集領域内の特徴点のうち、最左端である特徴点と最右端である特徴点とを検出し、所定の視差と、検出された最左端である特徴点の位置および検出された最右端である特徴点の位置とを対応付けた切取り編集領域補正候補テーブルを生成し、切取り編集領域の左端および右端を、切取り編集領域補正候補テーブルにおいて、指定された基点視差と同一の視差に対応付けられた最左端である特徴点の位置および最右端である特徴点の位置に補正することを特徴とする。
上述した本発明の立体視画像編集方法は、一連の処理手順をコンピュータに実行させるためのプログラムの形式で提供される。このプログラムは、コンピュータ読み取り可能な記録媒体に記録された形態で、コンピュータに導入されてもよい。
本発明の立体視画像編集装置および立体視画像編集方法によれば、使用者は、指定した切取り編集領域の枠について、当該切取り編集領域の枠自体が有する視差である基点視差を指定することによって、立体視画像の表示領域について所望の奥行きを持たせることを可能とし、結果的に、使用者が所望する立体感を有する立体視画像を得ることができる。
本発明の第1の実施形態に係る立体視画像編集装置100の概略的な構成を示すハード構成図 本発明の第1の実施形態に係る立体視画像編集装置100の概略的な構成を示すブロック図 本発明の第1の実施形態に係る立体視画像編集方法300を示すフローチャート 本発明の第1の実施形態に係る立体視画像の編集画面400の構成(切取り編集領域指定)を示す図 本発明の第1の実施形態に係る立体視画像の編集画面400の構成(基点視差指定)を示す図 基点視差に対応する切取り編集領域補正方法600を示すフローチャート 切取り編集領域補正候補テーブル700を示す図 図5に示した切取り編集補正領域における切取り編集後の立体視画像を示す図 本発明の第2の実施形態に係る立体視画像の編集画面410の構成(最小基点視差指定)を示す図 図9に示した切取り編集補正領域における切取り編集後の立体視画像を示す図 本発明の第2の実施形態に係る立体視画像の編集画面411の構成(最大基点視差指定)を示す図 図11に示した切取り編集補正領域における切取り編集後の立体視画像を示す図
以下、本発明の各実施形態を、図面を参照しながら説明する。
<第1の実施形態>
図1は、本発明の第1の実施形態に係る立体視画像編集装置100の概略的な構成を示すハード構成図である。図1において、立体視画像編集装置100は、記憶部101と、圧縮伸長部102と、操作部103と、切取り編集部104と、切取り編集領域補正部105と、制御部106とを備える。さらに、立体視画像編集装置100は、外部インタフェース107を備えていてもよい。立体視画像編集装置100は、表示部110と接続されている。なお、表示部110は、ディスプレイ111とVRAM(Video Random Access Memory)112とを備える。
記憶部101は、例えば、ROM(Read Only Memory)およびRAM(Random Access Memory)であって、撮影された立体視画像を記憶している。さらに、記憶部101は、立体視画像を再生する際には、当該立体視画像を一時的に記憶し、後述する編集後の立体視画像を記憶する。
圧縮伸長部102は、例えば、コーデック(Codec)であって、特定の圧縮形式で圧縮された立体視画像をディスプレイに表示可能な形式に伸長変換する。また、圧縮伸長部102は、編集後の立体視画像を特定の圧縮形式で圧縮変換する。なお、立体視画像の圧縮形式は、立体視画像が静止画の場合、JPEG形式、GIF形式、およびPNG形式などが代表的であり、立体視画像が動画の場合、AVI形式、およびMPEG形式などが代表的である。
操作部103は、例えば、キーボードおよびマウスなどの入力デバイスであって、使用者からの指示内容が入力される。また、操作部103は、タッチパネルディスプレイに代表されるような、ディスプレイ111と一体型の入力デバイスであってもよい。
切取り編集部104は、操作部103を介して使用者によって指定された切取り編集領域に基づいて、当該立体視画像を切取り編集する。
切取り編集領域補正部105は、操作部103を介して使用者によって指定された表示画面に対する奥行きに基づいて、切取り編集部104によって切取り編集された立体視画像の切取り編集領域を補正する。
制御部106は、例えば、CPU(Central Processing Unit)であって、立体視画像編集装置100の各機能部の処理を制御する。
表示部110は、ディスプレイ111とVRAM(Video Random Access Memory)112とを備える。ディスプレイ111は、記憶部101に記憶されている立体視画像を表示したり、使用者によって編集された立体視画像を表示したりする。VRAM112は、立体視画像をディスプレイ111に表示するまでのバッファである。なお、表示部110は、立体視画像編集装置100に含まれていてもよいし、立体視画像編集装置100に接続された表示装置であってもよい。
外部インタフェース107は、例えば、USB(Universal Serial Bus)であって、立体視画像編集装置100は、外部インタフェース107を介して、ネットワークおよび外部デバイスと接続する。立体視画像編集装置100は、外部インタフェース107を介して、外部に接続されたカメラおよび記憶媒体などから外部データを取得して、記憶部101へ記憶してもよい。
図2は、本発明の第1の実施形態に係る立体視画像編集装置100の概略的な構成を示すブロック図である。図2において、立体視画像編集装置100は、記憶部101と、圧縮伸長部102と、操作部103と、切取り編集部104と、切取り編集領域補正部105と、制御部106とを備える。立体視画像編集装置100は、表示部110と接続されている。ここでは、図1に示したハード構成を有する立体視画像編集装置100の各機能ブロックについて、詳細に説明する。
記憶部101は、撮影された立体視画像10が記憶されている。立体視画像10は、立体視画像10を視聴する使用者の左眼のみに投影される左眼用画像11と、右眼のみに投影される右眼用画像12とから構成される。ここで、立体視画像10は、動画であって、MPEG形式で圧縮されているものとする。また、記憶部101は、後述する左眼用切取り編集補正領域画像13と右眼用切取り編集補正領域画像14とから構成される切取り編集後の立体視画像を記憶する。
使用者は、操作部103を介して、記憶部101に記憶されている立体視画像10を編集対象画像として選択する。
圧縮伸長部102は、MPEG形式で圧縮されている立体視画像10をディスプレイ111に表示可能な形式に伸長変換する。圧縮伸長部102によって伸長変換された立体視画像10について、当該立体視画像10の左眼用画像11と右眼用画像12とは、VRAM112を介して、ディスプレイ111に表示される。また、圧縮伸長部102は、編集後の立体視画像をMPEG形式で圧縮変換し、記憶部101は、MPEG形式で圧縮変換された編集後の立体視画像を記憶する。
使用者は、ディスプレイ111に表示されている立体視画像10の左眼用画像11と右眼用画像12について、操作部103を介して、切取り編集領域を指定する。
切取り編集部104は、操作部103を介して使用者によって指定された切取り編集領域に基づいて、ディスプレイ111に表示されている立体視画像10の左眼用画像11と右眼用画像12とを切取り編集する。
使用者は、さらに、切取り編集部104によって切取り編集される立体視画像10の左眼用画像11と右眼用画像12について、操作部103を介して、表示画面に対する奥行きを指定する。
切取り編集領域補正部105は、操作部103を介して使用者によって指定された奥行きに基づいて、切取り編集部104によって切取り編集される立体視画像10の左眼用画像11と右眼用画像12について、切取り編集領域を補正する。より詳細には、切取り編集領域補正部105は、切取り編集領域の情報と、表示画面に対する奥行き情報である当該切取り編集領域の枠自体が有する視差である基点視差とに基づいて、当該基点視差に対応するように、左眼用画像11および右眼用画像12のそれぞれについて、切取り編集領域を補正する。なお、当該補正内容についての詳細は、後述する。
ディスプレイ111は、立体視画像10の左眼用画像11と右眼用画像12とを表示し、当該表示された立体視画像10の左眼用画像11と右眼用画像12とについて、使用者が指定した切取り編集領域、および切取り編集領域補正部105によって補正された切取り編集領域を表示する。
制御部106と各機能ブロックとの関係については図示していないが、制御部106は、上述した立体視画像編集装置100の各機能ブロックを制御している。
図3は、本発明の第1の実施形態に係る立体視画像編集方法300を示すフローチャートである。図3において、立体視画像編集方法300は、画面表示ステップS301と、切取り編集領域指定ステップS302と、基点視差指定ステップS303と、切取り編集領域補正ステップS304と、編集画像保存ステップS305とを備える。
画面表示ステップS301において、ディスプレイ111は、立体視画像10の左眼用画像11と右眼用画像12とを表示する。具体的には、使用者は、操作部103を介して、記憶部101に記憶されている立体視画像10を編集対象画像として選択する。選択された立体視画像10は、記憶部101から読み出され、圧縮伸長部102によってディスプレイ111に表示可能な形式に伸長変換される。そして、ディスプレイ111に表示可能な形式に伸長変換された立体視画像10は、VRAM112へ転送され、当該立体視画像10の左眼用画像11と右眼用画像12とは、ディスプレイ111に表示される。
図4は、本発明の第1の実施形態に係る立体視画像の編集画面400の構成(切取り編集領域指定)を示す図である。図4において、立体視画像の編集画面400は、編集対象画像を表示する左画面401Lと右画面401Rとを備えている。ここで、立体視画像10の左眼用画像11と右眼用画像12とを立体視する際、結像方法として交差法と平行法とがある。ここでは、交差法を用いることとし(図4において、「交差法」を選択)、左画面401Lには右眼用画像12が表示され、右画面401Rには左眼用画像11が表示されている。なお、平行法を用いる場合は、左画面401Lには左眼用画像11が表示され、右画面401Rには右眼用画像12が表示される。交差法または平行法は、予め選択されていてもよいし、使用者が操作部103を介して選択してもよい。
切取り編集領域指定ステップS302において、切取り編集部104は、ディスプレイ111に表示されている立体視画像10の左眼用画像11と右眼用画像12とを切取り編集する。具体的には、使用者は、ディスプレイ111に表示されている立体視画像10の左眼用画像11と右眼用画像12とについて、操作部103を介して、切取り編集領域を指定する。切取り編集領域を指定する簡易的で一般的な方法として、使用者は、左画面401Lに表示されている右眼用画像12、または右画面401Rに表示されている左眼用画像11上にマウスカーソルを移動させ、矩形領域の一頂角を始点として決定した後、その対角に位置する一頂角を終点として決定する。このように、使用者は、操作部103を介して、始点と終点とを決定することによって、始点と終点とで囲まれた矩形領域を切取り編集領域として指定する。
さらに、左眼用画像11と右眼用画像12との両画像について、使用者が切取り編集領域を指定する方法としては、例えば、特徴点対応探索方法または同一座標選択方法を用いる。ここでは、特徴点対応探索方法を用いることとし(図4において、「特徴点対応探索」を選択)、使用者は、左画面401Lに表示されている右眼用画像12に対して、切取り編集領域402L(図4において点線で示す)を指定する。これにより、例えば、ステレオマッチング方式によって、使用者が指定した切取り編集領域402Lと同一の特徴点を持つ位置を右画面401Rに表示されている左眼用画像11から探索して、切取り編集領域402R(図4において点線で示す)が決定される。特徴点対応探索方法または同一座標選択方法は、予め選択されていてもよいし、使用者が操作部103を介して選択してもよい。
基点視差指定ステップS303において、切取り編集領域補正部105は、切取り編集領域指定ステップS302において指定された切取り編集領域402Lおよび402Rについて、基点視差を指定する。具体的には、使用者は、ディスプレイ111に表示されている立体視画像10の左眼用画像11と右眼用画像12との切取り編集領域の枠について、操作部103を介して、基点視差を指定する。なお、基点視差とは、表示画面に対する奥行き情報である当該切取り編集領域の枠自体が有する視差である。
図5は、本発明の第1の実施形態に係る立体視画像の編集画面400の構成(基点視差指定)を示す図である。基点視差を指定する方法として、使用者は、0.0mm〜10.0mmの範囲を移動する基点視差指定バー上で、マウスポインタを移動させて、切取り編集後の立体視画像について、表示画面に対する奥行きを指定する。例えば、基点視差が0.0mmに指定されると、立体視画像10の切取り編集領域について、当該切取り編集領域の枠自体が有する視差が最小となるように設定することを意味する。基点視差が10.0mmに指定されると、立体視画像10の切取り編集領域について、当該切取り編集領域の枠自体が有する視差が最大となるように設定することを意味する。ここでは、図5に示しているように、使用者は、基点視差を3.0mm程度に指定しているものとする。
なお、ここでは、基点視差指定バーで使用者が指定できる基点視差は、0.0mm〜10.0mmの範囲としているが、これに限定されるものではない。また、基点視差を指定する方法も、図5に示したような基点視差指定バーに限定されるものではなく、例えば、使用者が、キーボードのテンキー等を介して、直接、基点視差の数値を入力してもよい。
切取り編集領域補正ステップS304において、切取り編集領域補正部105は、基点視差指定ステップS303において指定された基点視差に基づいて、当該基点視差に対応するように、ディスプレイ111に表示されている立体視画像10の左眼用画像11と右眼用画像12とについて、切取り編集領域指定ステップS302において指定された切取り編集領域402Lおよび402Rを補正する。具体的には、基点視差が3.0mmに指定されているため、当該基点視差に対応するように、切取り編集領域補正部105は、ディスプレイ111に表示されている立体視画像10の左眼用画像11と右眼用画像12とについて、切取り編集領域402Lおよび402R(図5において点線で示す)を、切取り編集補正領域403Lおよび403R(図5において実線で示す)に補正する。
図6は、基点視差に対応する切取り編集領域補正方法600を示すフローチャートである。
ステップS601において、右眼用画像12と左眼用画像11とについて、切取り編集領域指定ステップS302において指定された切取り編集領域402Lおよび402R内において、当該切取り編集領域402Lおよび402Rの左上端を基点として、それぞれ所定の単位面積毎に領域を分割する。右眼用画像12と左眼用画像11とについて、切取り編集領域402Lおよび402R内において、分割された領域単位で、対応する特徴点を面積相関の計算を用いて探索する。つまり、切取り編集領域402Lおよび402Rにおいて、同一の特徴点の位置を探索する。
ステップS602において、例えば、ステレオマッチング方式によって、右眼用画像12と左眼用画像11とについて、切取り編集領域402Lおよび402R内において、同一特徴点が存在した場合(ステップS602のYes)、当該特徴点が有する視差を算出する(ステップS603)。例えば、右眼用画像12について切取り編集領域402L内における任意の特徴点の相対位置と、左眼用画像11について切取り編集領域402R内における同一特徴点の相対位置との水平方向のずれ量を視差として利用することができる。また、その他の方法として、人間の両眼の幅をその平均値6.5cmとして三角測量による左右の特徴点の視差を算出してもよい。
ステップS604において、ステップS602において探索された特徴点について、当該特徴点が有する視差と同一視差を有する特徴点のうち、当該特徴点が切取り編集領域402Lおよび402R内において、最左端の特徴点であるか否かを判定する。同一視差の特徴点のうち、当該特徴点が最左端の特徴点である場合(ステップS604のYes)、当該視差に対応する最左端点情報として、左眼用画像および右眼用画像における当該特徴点の座標をメモリ等に保存する(ステップS605)。
同様に、ステップS606において、ステップS602において探索された特徴点について、当該特徴点が有する視差と同一視差を有する特徴点のうち、当該特徴点が切取り編集領域402Lおよび402R内において、最右端の特徴点であるか否かを判定する。同一視差の特徴点のうち、当該特徴点が最右端の特徴点である場合(ステップS606のYes)、当該視差に対応する最右端点情報として、左眼用画像および右眼用画像における当該特徴点の座標をメモリ等に保存する(ステップS607)。
なお、ステップS602において、右眼用画像12と左眼用画像11とについて、切取り編集領域402Lおよび402R内において、同一特徴点が存在しない場合(ステップS602のNo)、上述したステップS603〜S607の処理は行わない。
以上のように、ステップS601〜S607を切取り編集領域402Lおよび402R内の全特徴点に対して繰返し実行する(ステップS610)。これにより、切取り編集領域補正部105は、切取り編集領域402Lおよび402R内において、所定の視差に対応する左眼用画像および右眼用画像の最左端点情報と最右端点情報とをメモリ等に保存することによって、切取り編集領域補正候補テーブルを生成する。
図7は、切取り編集領域補正候補テーブル700を示す図である。図7において、切取り編集領域補正候補テーブル700は、左眼用画像および右眼用画像のそれぞれにおいて、所定の視差に対応する最左端座標と最右端座標とを保持している。ここでは、所定の視差を0.0mmから1.0mm毎とし、保持する座標をX座標およびY座標としているが、これに限定されるわけではない。例えば、ステップS603において詳細に視差を算出することによって、視差の間隔を1.0mmより小さくしてもよい。また、両眼視差による立体視では、視差に影響するのは水平方向のみであるため、保持する座標をX座標のみとしてもよい。
そして、切取り編集領域補正部105は、切取り編集領域補正候補テーブル700に基づいて、基点視差指定ステップS303において指定された基点視差に対応するように、切取り編集領域指定ステップS302において指定された切取り編集領域402Lおよび402Rを補正する。具体的には、切取り編集領域補正部105は、右眼用画像12の切取り編集領域402Lを切取り編集補正領域403Lに補正する。基点視差が3.0mmに指定されているため、切取り編集領域補正候補テーブル700に基づいて、切取り編集補正領域403Lは、左端のX座標を70、右端のX座標を1770である。また、切取り編集領域補正部105は、左眼用画像11の切取り編集領域402Rを切取り編集補正領域403Rに補正する。基点視差が3.0mmに指定されているため、切取り編集領域補正候補テーブル700に基づいて、切取り編集補正領域403Rは、左端のX座標を50、右端のX座標を1730である。
なお、ステップS610において、上述したステップS601〜S607を切取り編集領域402Lおよび402R内の全特徴点に対して繰返し実行するこことしたが、必ずしも切取り編集領域402Lおよび402R内の全特徴点に対して繰返し実行する必要はない。切取り編集領域402Lおよび402R内における視差毎の最左座標および最右座標が決定した時点で、上述したステップS601〜S607の処理を終了してもよい。
なお、切取り編集領域を補正する際、指定された基点視差に対応するように、切取り編集領域を補正するが、左眼用画像11および右眼用画像12の切取り編集領域402Lおよび402Rについて、それぞれを補正してもよいし、一方(例えば、左眼用画像11の切取り編集領域402L)を固定して、他方(右眼用画像12の切取り編集領域402R)のみを補正してもよい。
また、切取り編集領域補正部105が切取り編集領域補正候補テーブル700に基づいて、切取り編集領域402Lおよび402Rを切取り編集補正領域403Lおよび403Rに補正する場合、切取り編集領域402Lおよび402Rの水平方向の大きさが小さくなる場合がある。使用者が指定した切取り編集領域402Lおよび402Rの水平方向の大きさのみ小さく補正されると、使用者が意図しない切取り編集となってしまう場合がある。このため、切取り編集領域402Lおよび402Rの水平方向の大きさの補正に応じて、鉛直方向の大きさも補正してもよい。つまり、切取り編集補正領域403Lおよび403Rにおいて、使用者が指定した切取り編集領域402Lおよび402Rの縦横の比率を保持してもよい。
編集画像保存ステップS305において、記憶部101は、切取り編集補正領域403Lおよび403Rで切取り編集された右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とを切取り編集後の画像として記憶する。
図8は、図5に示した切取り編集補正領域における切取り編集後の立体視画像を示す図である。図8において、切取り編集後の立体視画像は、上述したように切取り編集補正領域403Lおよび403Rで切取り編集された右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とから構成される。圧縮伸長部102は、右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とをMPEG形式で圧縮変換し、さらに、記憶部101は、圧縮変換された右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とを記憶する。このように、切取り編集後の立体視画像が生成される。
なお、切取り編集後の立体視画像は、切取り編集補正領域403Lおよび403Rの座標情報をメタデータとして立体視画像10に紐付けて保存する方法を用いてもよい。また、立体視画像10の画面解像度そのものを切取り編集補正領域403Lおよび403Rとなるように加工し、圧縮伸長部102によって圧縮変換してから記憶部101へ保存する方法を用いてもよい。
以上のように、本発明の第1の実施形態に係る立体視画像編集装置100および立体視画像編集方法300によれば、使用者は、指定した切取り編集領域の枠について、当該切取り編集領域の枠自体が有する視差である基点視差を指定することによって、立体視画像の表示領域について所望の奥行きを持たせることを可能とし、結果的に、使用者が所望する立体感を有する立体視画像を得ることができる。使用者は、指定した切取り編集領域の枠について、当該切取り編集領域の枠自体が有する視差である基点視差を指定することができるため、使用者が指定した切取り編集領域の枠を、当該切取り編集領域の画像に対して最も手前とみて、表示画面の奥に向かって画像の奥行きを持たせることができ、逆に、使用者が指定した切取り編集領域の枠を、表示画面に対して最も奥とみて、当該切取り編集領域の枠に対して手前側に向かって被写体を飛び出させて見せることもできる。
なお、本実施形態では、立体視画像10は、動画であって、MPEG形式で圧縮されているものとしたが、これに限定されるわけではない。例えば、立体視画像10の圧縮形式は、AVI形式およびH.264形式などの他の圧縮形式でもよい。また、立体視画像10は、静止画であって、例えば、JPEG形式など圧縮形式を用いていもよい。圧縮伸長部102は、種々の圧縮形式に応じて、立体視画像を圧縮変換および伸長変換する。
なお、ディスプレイ111は、立体視画像10の左眼用画像11と右眼用画像12とについて、使用者が指定した切取り編集領域、および切取り編集領域補正部105によって補正された切取り編集領域を重畳して表示してもよい。さらに、ディスプレイ111は、切取り編集領域が補正された右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とを表示してもよいし、右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とから構成される切取り編集後の立体視画像をプレビューしてもよい。
また、図4および図5に示したように、立体視画像の編集画面400は、プレビューボタン、決定ボタン、およびキャンセルボタンを備えていてもよい。使用者は、プレビューボタン、決定ボタン、およびキャンセルボタンを操作することによって、立体視画像の編集状況を確認しながら、立体視画像の切取り編集処理を行うことができる。具体的には、使用者は、プレビューボタンを押下することによって、切取り編集補正領域403Lと403Rとに基づく右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とから構成される立体視画像をディスプレイに表示して確認する。使用者は、表示された立体視画像を確認して、使用者が所望する立体感を有する立体視画像と判断した場合は、決定ボタンを押下することによって、当該右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とを切取り編集後の画像として、記憶部101に記憶する。一方、使用者は、表示された立体視画像を確認して、使用者が所望する立体感を有する立体視画像でないと判断した場合は、キャンセルボタンを押下することによって、当該右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とを削除する。
なお、操作部103がキーボードの場合には、図4および図5に示した決定ボタンおよびキャンセルボタンに代えて、決定を意味するキー(Enterキーなど)およびキャンセルを意味するキー(ESCキーなど)を用いてもよい。
このように、使用者は、切取り編集後の立体視画像を確認しながら、使用者が所望する立体感を有する立体視画像を生成することができる。使用者は、指定した切取り編集領域の枠を当該切取り編集領域の画像に対して、さらに手前とみて、表示画面の奥に向かって画像の奥行きを持たせるような立体感を得たい場合は、指定する基点視差を大きくするように変更すればよい。逆に、使用者は、指定した切取り編集領域の枠を表示画面に対して、さらに奥とみて、当該切取り編集領域の枠に対して手前側に向かって被写体を飛び出させるような立体感を得たい場合は、指定する基点視差を小さくするように変更すればよい。
つまり、使用者は、切取り編集領域の大きさ、および切取り編集領域の位置について、試行錯誤しなくても、指定する基点視差を変更するだけで、使用者が所望する立体感を有する立体視画像を生成することができる。
また、使用者が何度も基点視差を変更した場合であっても、予め図7に示した切取り編集領域補正候補テーブル700を作成しておけば、当該切取り編集領域補正候補テーブル700を参照することによって、効率よく、切取り編集補正領域を決定することができる。
<第2の実施形態>
本実施形態に係る立体視画像装置の基本的な構成、および立体視画像方法の基本的なフローについては、本発明の第1の実施形態と同様である。本実施形態は、切取り編集領域の枠自体が有する視差である基点視差を使用者が指定する方法について、本発明の第1の実施形態と異なる。以下に、本発明の第1の実施形態と異なる点について説明する。
図9は、本発明の第2の実施形態に係る立体視画像の編集画面410の構成(最小基点視差指定)を示す図である。使用者は、ディスプレイ111に表示されている立体視画像10の左眼用画像11と右眼用画像12との切取り編集領域の枠について、操作部103を介して、切取り編集領域の枠自体が有する視差である基点視差を指定する。
図3に示した基点視差指定ステップS303において、切取り編集領域補正部105は、切取り編集領域指定ステップS302において指定された切取り編集領域402Lおよび402Rについて、基点視差を指定する。図5に示したように、本発明の第1の実施形態では、基点視差を指定する方法として、使用者は、0.0mm〜10.0mmの範囲を移動する基点視差指定用バー上で、マウスポインタを移動させて、切取り編集後の立体視画像について、表示画面に対する奥行きを指定していた。
本実施形態では、立体視画像に映っている被写体(特徴点)を指定する。具体的には、図9に示すように、使用者は、マウスポインタを移動させて、表示画面に対して最も奥にある被写体である「建物」を指定する。ここで、指定された「建物」が有する視差と同一の視差を、切取り編集領域の枠自体が有する視差である基点視差とする。その後、切取り編集領域補正ステップS304において、切取り編集領域補正部105は、当該指定された「建物」が有する視差を基点視差として、本発明の第1の実施形態と同様に、切取り編集領域402Lおよび402R(図9において点線で示す)を、切取り編集補正領域403Lおよび403R(図9において実線で示す)に補正する。
図10は、図9に示した切取り編集補正領域における切取り編集後の立体視画像を示す図である。図10において、切取り編集後の立体視画像は、上述したように切取り編集補正領域403Lおよび403Rで切取り編集された右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とから構成される。圧縮伸長部102は、右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とをMPEG形式で圧縮変換し、さらに、記憶部101は、圧縮変換された右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とを記憶する。このように、切取り編集後の立体視画像が生成される。
図11は、本発明の第2の実施形態に係る立体視画像の編集画面411の構成(最大基点視差指定)を示す図である。図11に示すように、使用者は、マウスポインタを移動させて、表示画面に対して最も手前にある被写体である「木」を指定する。ここで、指定された「木」が有する視差と同一の視差を、切取り編集領域の枠自体が有する視差である基点視差とする。その後、切取り編集領域補正ステップS304において、切取り編集領域補正部105は、当該指定された「建物」が有する視差を基点視差として、本発明の第1の実施形態と同様に、切取り編集領域402Lおよび402R(図11において点線で示す)を、切取り編集補正領域403Lおよび403R(図11において実線で示す)に補正する。
図12は、図11に示した切取り編集補正領域における切取り編集後の立体視画像を示す図である。図12において、切取り編集後の立体視画像は、上述したように切取り編集補正領域403Lおよび403Rで切取り編集された右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とから構成される。圧縮伸長部102は、右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とをMPEG形式で圧縮変換し、さらに、記憶部101は、圧縮変換された右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とを記憶する。このように、切取り編集後の立体視画像が生成される。
なお、立体視画像10の圧縮形式は、MPEG形式に限定されるものではなく、例えば、AVI形式およびH.264形式などの他の圧縮形式でもよい。また、立体視画像10は、静止画であって、例えば、JPEG形式など圧縮形式を用いていもよい。
以上のように、本発明の第2の実施形態に係る立体視画像編集装置および立体視画像編集方法によれば、使用者は、指定した切取り編集領域の枠について、当該切取り編集領域の枠自体が有する視差である基点視差を指定することによって、立体視画像の表示領域について所望の奥行きを持たせることを可能とし、結果的に、使用者が所望する立体感を有する立体視画像を得ることができる。
さらに、本発明の第2の実施形態に係る立体視画像の編集画面410および411の構成によれば、コンテンツ作成者は、基点視差を指定する際に、立体視画像に映っている被写体(特徴点)を指定することができるため、立体視画像の切取り編集領域の枠自体が有する視差と、コンテンツ視聴者に注視させたい被写体(特徴点)の視差とを一致させることができる。従って、特に、ピクチャ・イン・ピクチャで表示される場合、コンテンツ視聴者が親画面から子画面へ視点を移した時には、子画面において、コンテンツ視聴者に注視して欲しい被写体へスムーズに視点を誘導させることができる。
なお、本発明の第1および第2の実施形態で説明した立体視画像編集装置を構成する全て又は一部の機能ブロックは、典型的には集積回路であるLSI(集積度の違いにより、IC、システムLSI、スーパーLSI、又はウルトラLSI等と称される)として実現される。これらは、個別に1チップ化されてもよいし、一部又は全部を含むように1チップ化されてもよい。
また、集積回路化の手法は、LSIに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。また、LSI製造後にプログラムすることが可能なFPGA(Field Programmable Gate Array)や、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
さらには、半導体技術の進歩又は派生する別の技術により、LSIに置き換わる集積回路化の技術が登場すれば、当然その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応等が可能性としてあり得る。
また、本発明の第1および第2の実施形態で説明した立体視画像編集装置の各機能は、記憶装置(ROM、RAM、ハードディスク等)に格納された上述した処理手順を実行可能な所定のプログラムデータが、CPUによって解釈実行されることで実現してもよい。この場合、プログラムデータは、記録媒体を介して記憶装置内に導入されてもよいし、記録媒体上から直接実行されてもよい。ここで、記録媒体とは、ROM、RAM、フラッシュメモリ等の半導体メモリ、フレキシブルディスクやハードディスク等の磁気ディスクメモリ、CD−ROMやDVD、BD等の光ディスク、メモリカード等の記録媒体をいう。また、記録媒体は、電話回線や搬送路等の通信媒体も含む概念である。
本発明は、左眼用画像と右眼用画像とから構成される立体視画像の一部の領域を切取り編集する場合等に有用である。例えば、本発明は、立体視画像の一部の領域を拡大表示させたり、親画面に重畳するピクチャ・イン・ピクチャ形式で表示させたりする場合等に適用することができる。また、本発明は、複数の画像および/または複数の立体視画像をタイル状に並べるレイアウトで表示させる場合等に適用することができる。
10 立体視画像
11 左眼用画像
12 右眼用画像
13 左眼用切取り編集補正領域画像
14 右眼用切取り編集補正領域画像
100 立体視画像編集装置
101 記憶部
102 圧縮伸長部
103 操作部
104 切取り編集部
105 切取り編集領域補正部
106 制御部
107 外部インタフェース
110 表示部
111 ディスプレイ
112 VRAM
300 立体視画像編集方法
400、410、411 立体視画像の編集画面
401L 左画面
401R 右画面
402L 左画面切取り編集領域
402R 右画面切取り編集領域
403L 左画面切取り編集補正領域
403R 右画面切取り編集補正領域
600 切取り編集領域補正方法

Claims (12)

  1. ディスプレイに表示された左眼用画像と右眼用画像とから構成される立体視画像を、使用者の所望の立体感を有する立体視画像に編集する立体視画像編集装置であって、
    前記立体視画像を記憶する記憶部と、
    前記記憶部に記憶されている前記立体視画像を前記ディスプレイに表示可能な形式に変換する圧縮伸長部と、
    前記ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とについて、切取り編集領域、および当該切取り編集領域の枠自体が有する視差である基点視差を、前記使用者に指定させる操作部と、
    前記使用者によって指定された切取り編集領域に基づいて、前記ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とを切取り編集する切取り編集部と、
    前記切取り編集された左眼用画像および右眼用画像において同一の特徴点の位置を探索し、前記探索した特徴点における視差を算出し、前記算出した特徴点における視差のうち、前記使用者によって指定された基点視差と同一の視差を有する最左端の特徴点の位置および最右端の特徴点の位置を検出し、前記切取り編集領域の左端および右端の位置を対応する前記検出された最左端の特徴点の位置および前記検出された最右端の特徴点の位置に補正する切取り編集領域補正部とを備える、立体視画像編集装置。
  2. 前記操作部は、前記基点視差を前記使用者に直接指定させることを特徴とする、請求項1に記載の立体視画像編集装置。
  3. 前記操作部は、前記切取り編集された左眼用画像と右眼用画像とについて、前記切取り編集領域内の被写体の一部を前記使用者に指定させ、
    前記指定した被写体の一部が有する視差を前記基点視差とすることを特徴とする、請求項1に記載の立体視画像編集装置。
  4. 前記切取り編集領域補正部は、
    前記使用者によって指定された基点視差と同一の視差を有する前記切取り編集された左眼用画像および右眼用画像の特徴点のうち、最左端である特徴点と最右端である特徴点とを前記切取り編集された左眼用画像および右眼用画像のそれぞれについて検出し、
    前記切取り編集された左眼用画像および右眼用画像のそれぞれの左端および右端を、対応する前記検出された最左端である特徴点の位置および前記検出された最右端である特徴点の位置に補正することを特徴とする、請求項1に記載の立体視画像編集装置。
  5. 前記切取り編集領域補正部は、
    少なくとも1つ以上の所定の視差について、当該所定の視差を有する前記切取り編集領域内の特徴点のうち、最左端である特徴点と最右端である特徴点とを検出し、
    前記所定の視差と、前記検出された最左端である特徴点の位置および前記検出された最右端である特徴点の位置とを対応付けた切取り編集領域補正候補テーブルを生成し、
    前記切取り編集領域の左端および右端を、前記切取り編集領域補正候補テーブルにおいて、前記使用者によって指定された基点視差と同一の視差に対応付けられた最左端である特徴点の位置および最右端である特徴点の位置に補正することを特徴とする、請求項1に記載の立体視画像編集装置。
  6. ディスプレイに表示された左眼用画像と右眼用画像とから構成される立体視画像を、使用者の所望の立体感を有する立体視画像に編集する立体視画像編集装置が実行する立体視画像編集方法であって、
    編集対象となる立体視画像を前記ディスプレイに表示可能な形式に変換する圧縮伸長ステップと、
    前記ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とについて、切取り編集領域を指定する切取り編集領域指定ステップと、
    前記指定された切取り編集領域に基づいて、前記ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とを切取り編集する切取り編集ステップと、
    前記切取り編集された左眼用画像と右眼用画像とについて、前記切取り編集領域の枠自体が有する視差である基点視差を指定する基点視差指定ステップと、
    前記切取り編集された左眼用画像および右眼用画像において、同一の特徴点の位置を探索し、前記探索した特徴点における視差を算出し、前記算出した特徴点における視差のうち、前記使用者によって指定された基点視差と同一の視差を有する最左端の特徴点の位置および最右端の特徴点の位置を検出し、前記切取り編集領域の左端および右端の位置を対応する前記検出された最左端の特徴点の位置および前記検出された最右端の特徴点の位置に補正する切取り編集領域補正ステップと、
    前記補正された切取り編集領域で切取り編集された左眼用画像と右眼用画像とを前記立体視画像編集装置に保存する編集画像保存ステップとを実行する、立体視画像編集方法。
  7. 前記基点視差指定ステップは、前記基点視差を前記使用者に直接指定させることを特徴とする、請求項6に記載の立体視画像編集方法。
  8. 前記基点視差指定ステップは、前記切取り編集された左眼用画像と右眼用画像とについて、前記切取り編集領域内の被写体の一部を前記使用者に指定させ、
    前記指定した被写体の一部が有する視差を前記基点視差とすることを特徴とする、請求項6に記載の立体視画像編集方法。
  9. 前記切取り編集領域補正ステップは、
    前記指定された基点視差と同一の視差を有する前記切取り編集領域内の特徴点のうち、最左端である特徴点と最右端である特徴点とを検出し、
    前記切取り編集領域の左端および右端を、前記検出された最左端である特徴点の位置および前記検出された最右端である特徴点の位置に補正することを特徴とする、請求項6に記載の立体視画像編集方法。
  10. 前記切取り編集領域補正ステップは、
    少なくとも1つ以上の所定の視差について、当該所定の視差を有する前記切取り編集領域内の特徴点のうち、最左端である特徴点と最右端である特徴点とを検出し、
    前記所定の視差と、前記検出された最左端である特徴点の位置および前記検出された最右端である特徴点の位置とを対応付けた切取り編集領域補正候補テーブルを生成し、
    前記切取り編集領域の左端および右端を、前記切取り編集領域補正候補テーブルにおいて、前記指定された基点視差と同一の視差に対応付けられた最左端である特徴点の位置および最右端である特徴点の位置に補正することを特徴とする、請求項6に記載の立体視画像編集方法。
  11. ディスプレイに表示された左眼用画像と右眼用画像とから構成される立体視画像を、使用者の所望の立体感を有する立体視画像に編集する立体視画像編集方法をコンピュータに実行させる、立体視画像編集プログラムであって、
    編集対象となる前記立体視画像を前記ディスプレイに表示可能な形式に変換する圧縮伸長ステップと、
    前記ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とについて、切取り編集領域を指定する切取り編集領域指定ステップと、
    前記指定された切取り編集領域に基づいて、前記ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とを切取り編集する切取り編集ステップと、
    前記切取り編集された左眼用画像と右眼用画像とについて、前記切取り編集領域の枠自体が有する視差である基点視差を指定する基点視差指定ステップと、
    前記切取り編集された左眼用画像および右眼用画像において、同一の特徴点の位置を探索し、前記探索した特徴点における視差を算出し、前記算出した特徴点における視差のうち、前記使用者によって指定された基点視差と同一の視差を有する最左端の特徴点の位置および最右端の特徴点の位置を検出し、前記切取り編集領域の左端および右端の位置を対応する前記検出された最左端の特徴点の位置および前記検出された最右端の特徴点の位置に補正する切取り編集領域補正ステップと、
    前記補正された切取り編集領域で切取り編集された左眼用画像と右眼用画像とを前記立体視画像編集装置に保存する編集画像保存ステップとを実行させる、立体視画像編集プログラム。
  12. ディスプレイに表示された左眼用画像と右眼用画像とから構成される立体視画像を、使用者の所望の立体感を有する立体視画像に編集する、集積回路であって、
    前記立体視画像を記憶する記憶部と、
    前記記憶部に記憶されている前記立体視画像を前記ディスプレイに表示可能な形式に変換する圧縮伸長部と、
    前記ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とについて、前記使用者によって指定された切取り編集領域に基づいて、当該左眼用画像と右眼用画像とを切取り編集する切取り編集部と、
    前記切取り編集された左眼用画像および右眼用画像において同一の特徴点の位置を探索し、前記探索した特徴点における視差を算出し、前記算出した特徴点における視差のうち、前記使用者によって指定された前記切取り編集領域の枠自体が有する視差と同一の視差を有する最左端の特徴点の位置および最右端の特徴点の位置を検出し、前記切取り編集領域の左端および右端の位置を対応する前記検出された最左端の特徴点の位置および前記検出された最右端の特徴点の位置に補正する切取り編集領域補正部とを備える、集積回路。
JP2011507737A 2009-08-25 2010-05-13 立体視画像編集装置および立体視画像編集方法 Expired - Fee Related JP5496185B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011507737A JP5496185B2 (ja) 2009-08-25 2010-05-13 立体視画像編集装置および立体視画像編集方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2009194803 2009-08-25
JP2009194803 2009-08-25
JP2011507737A JP5496185B2 (ja) 2009-08-25 2010-05-13 立体視画像編集装置および立体視画像編集方法
PCT/JP2010/003255 WO2011024352A1 (ja) 2009-08-25 2010-05-13 立体視画像編集装置および立体視画像編集方法

Publications (2)

Publication Number Publication Date
JPWO2011024352A1 JPWO2011024352A1 (ja) 2013-01-24
JP5496185B2 true JP5496185B2 (ja) 2014-05-21

Family

ID=43627475

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011507737A Expired - Fee Related JP5496185B2 (ja) 2009-08-25 2010-05-13 立体視画像編集装置および立体視画像編集方法

Country Status (4)

Country Link
US (1) US8682061B2 (ja)
JP (1) JP5496185B2 (ja)
CN (1) CN102144396A (ja)
WO (1) WO2011024352A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5786412B2 (ja) 2011-03-31 2015-09-30 ソニー株式会社 画像処理装置、画像処理方法及び画像処理プログラム
GB2489931A (en) * 2011-04-08 2012-10-17 Sony Corp Analysis of 3D video to detect frame violation within cropped images
JP5901376B2 (ja) * 2012-03-23 2016-04-06 任天堂株式会社 情報処理装置、情報処理プログラム、情報処理システム、および情報処理方法
WO2013146067A1 (ja) 2012-03-30 2013-10-03 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法、記録媒体及びプログラム
US20130311861A1 (en) * 2012-05-18 2013-11-21 Chidopi Co., Ltd. Effect Editing Methods, Systems, Application Products and Electronic Devices for Electronic Books
WO2013186960A1 (ja) * 2012-06-15 2013-12-19 パナソニック株式会社 画像データ処理装置及び画像データ処理方法
DE102012012501B4 (de) * 2012-06-21 2019-10-24 Volkswagen Aktiengesellschaft Kamerasystem für ein Kraftfahrzeug
CN105190562A (zh) * 2013-03-13 2015-12-23 英特尔公司 用于三维图像编辑的改进的技术
US10114532B2 (en) * 2013-12-06 2018-10-30 Google Llc Editing options for image regions
CN104553251B (zh) * 2014-12-26 2017-01-04 东莞市智澳通用机械设备有限公司 一种背光源模块贴膜机的除尘装置
JP6112151B2 (ja) * 2015-07-28 2017-04-12 ソニー株式会社 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP6610584B2 (ja) * 2017-03-10 2019-11-27 ソニー株式会社 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP6796092B2 (ja) 2018-01-17 2020-12-02 株式会社東芝 情報処理装置、情報処理方法及びプログラム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08317429A (ja) * 1995-05-23 1996-11-29 Matsushita Electric Ind Co Ltd 立体電子ズーム装置及び立体画質制御装置
JP2001326947A (ja) * 2000-05-12 2001-11-22 Sony Corp 立体画像表示装置
JP2002125245A (ja) * 2000-10-17 2002-04-26 Sony Corp 立体画像編集方法、立体画像編集装置および立体画像表示システム
JP2004343290A (ja) * 2003-05-14 2004-12-02 Sharp Corp 立体画像表示装置
JP2005130310A (ja) * 2003-10-24 2005-05-19 Sony Corp 立体視画像処理装置
JP2006033228A (ja) * 2004-07-14 2006-02-02 Victor Co Of Japan Ltd 画像撮像装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6108005A (en) * 1996-08-30 2000-08-22 Space Corporation Method for producing a synthesized stereoscopic image
US20020141635A1 (en) * 2001-01-24 2002-10-03 Swift David C. Method and system for adjusting stereoscopic image to optimize viewing for image zooming
US7773799B2 (en) * 2004-04-02 2010-08-10 The Boeing Company Method for automatic stereo measurement of a point of interest in a scene
JP4692770B2 (ja) * 2006-12-27 2011-06-01 富士フイルム株式会社 複眼デジタルカメラ

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08317429A (ja) * 1995-05-23 1996-11-29 Matsushita Electric Ind Co Ltd 立体電子ズーム装置及び立体画質制御装置
JP2001326947A (ja) * 2000-05-12 2001-11-22 Sony Corp 立体画像表示装置
JP2002125245A (ja) * 2000-10-17 2002-04-26 Sony Corp 立体画像編集方法、立体画像編集装置および立体画像表示システム
JP2004343290A (ja) * 2003-05-14 2004-12-02 Sharp Corp 立体画像表示装置
JP2005130310A (ja) * 2003-10-24 2005-05-19 Sony Corp 立体視画像処理装置
JP2006033228A (ja) * 2004-07-14 2006-02-02 Victor Co Of Japan Ltd 画像撮像装置

Also Published As

Publication number Publication date
WO2011024352A1 (ja) 2011-03-03
JPWO2011024352A1 (ja) 2013-01-24
CN102144396A (zh) 2011-08-03
US8682061B2 (en) 2014-03-25
US20120139900A1 (en) 2012-06-07

Similar Documents

Publication Publication Date Title
JP5496185B2 (ja) 立体視画像編集装置および立体視画像編集方法
JP6309749B2 (ja) 画像データ再生装置および画像データ生成装置
EP2448276B1 (en) GUI providing method, and display apparatus and 3D image providing system using the same
JP6002043B2 (ja) 立体視強度調整装置、立体視強度調整方法、プログラム、集積回路、記録媒体
KR101802238B1 (ko) 휴대용 단말기에서 입체 영상 데이터를 생성하기 위한 장치 및 방법
JP4879326B2 (ja) 3次元画像を合成するシステム及び方法
TWI444036B (zh) 2d至3d使用者介面內容資料轉換
JP4925354B2 (ja) 画像処理装置、画像表示装置、撮像装置及び画像処理方法
US20120075290A1 (en) Image processing apparatus, image processing method, and computer program
JP5546633B2 (ja) 立体画像再生装置、立体画像再生システム及び立体画像再生方法
US20090244258A1 (en) Stereoscopic display apparatus, stereoscopic display method, and program
EP2574066A2 (en) Method and apparatus for converting 2D content into 3D content
JP2012109934A (ja) 立体画像表示装置
JP6033625B2 (ja) 多視点画像生成装置、画像生成方法、表示装置、プログラム、及び、記録媒体
JP2004356772A (ja) 三次元立体画像表示装置およびコンピュータに三次元立体画像表示機能を付与するプログラム
US9123146B2 (en) Stereoscopic image display control apparatus, and stereoscopic image display control method
US9986222B2 (en) Image processing method and image processing device
JP2013219421A (ja) 画像処理装置および画像処理方法
JP6021063B2 (ja) 動画編集装置、動画編集方法、プログラムおよび集積回路
JP2008167310A (ja) 裸眼立体視画像処理方法および装置ならびに演算プログラムを記録した記録媒体
WO2013027305A1 (ja) 立体映像処理装置、及び立体映像処理方法
JPH07239951A (ja) 立体画像生成方法
JPH1139508A (ja) 立体画像表示装置および方法ならびに立体画像表示プログラムを記録したコンピュータで読取可能な記録媒体
JP2004200813A (ja) 映像ファイル処理方法及び映像処理方法
JP2011221905A (ja) 情報処理装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131218

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140304

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees