JP4841677B2 - 立体画像を選択するための装置 - Google Patents

立体画像を選択するための装置 Download PDF

Info

Publication number
JP4841677B2
JP4841677B2 JP2010086590A JP2010086590A JP4841677B2 JP 4841677 B2 JP4841677 B2 JP 4841677B2 JP 2010086590 A JP2010086590 A JP 2010086590A JP 2010086590 A JP2010086590 A JP 2010086590A JP 4841677 B2 JP4841677 B2 JP 4841677B2
Authority
JP
Japan
Prior art keywords
image
cursor
camera
correlation
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010086590A
Other languages
English (en)
Other versions
JP2010200340A (ja
Inventor
ヒル リンドン
アール. ジョーンズ グラハム
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Publication of JP2010200340A publication Critical patent/JP2010200340A/ja
Application granted granted Critical
Publication of JP4841677B2 publication Critical patent/JP4841677B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/211Image signal generators using stereoscopic image cameras using a single 2D image sensor using temporal multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/221Image signal generators using stereoscopic image cameras using a single 2D image sensor using the relative movement between cameras and objects

Description

本発明は、立体画像を選択するための方法と装置に関する。本発明は、上記方法に対するコンピュータプログラムにも関する。そのような技術は、例えば、写真撮影、ビデオ撮影、映像製作および立体画像が必要とされる任意のアプリケーションにおいて用いられ得る。そのような技術は、立体画像をキャプチャする時点において、または、キャプチャした直後において、例えば、静止画像または連続する映像列から立体画像を選択するために用いられ得る。
ほとんどの3D表示技術、例えば、EP 0 602 934、EP0656 555、
EP 0 708 351、EP 0 726 482、EP0 829 743、およびEP 0 860 728において用いられるような3次元画像は、2つの2D画像から形成される。これらの表示技術は、一方の眼がある画像を見て、他方の眼が別の画像を見ることが出来るように、離れた画像をどちらの眼にも配向する。ヒューマン・ビジュアル・システム(HVS)は、人が表示された画像から奥行きを感知し得るように、内部で2つの画像を1つの3D画像に融合させる。
快適に目視し得る立体画像を作るためには、上記2つの画像はうまく整列させられていなければならない。このことは、画像を取り込む以前に、カメラを非常に正確に配置することによって、または、例えばEP1235 439に公開されている、画像調整のような後処理によって達成され得る。画像調整とは、2つの画像を3次元で平行になるように再整列させるための方法である。このことは、幾何学的な変換によって、これらを共通の平行面上に再投影するステップを含む。かくのごとく画像が平行になった時、これらは直線的であると見なされる。画像が直線的でない場合、垂直方向の不均衡、遠近法による効果、過度な奥行き等により、HVSが調整出来なくなり、3D効果が機能しなくなるために、快適に立体画像を目視することが出来なくなる。
通常、画像調整方法は、強力なコンピュータービジョンアルゴリズムを用いる。しかしながら、最初の画像のペアが悪く整列させられた場合、上記プログラムは極めて遅いか完全に機能しなくなり得る。大きな調整が必要な場合、2つの画像が再投影される際に、画質が犠牲になり得る。更に、調整された画像の間での画像のオーバーラップが軽減され得、3D画像に利用できる有用な画像エリアが小さくなる。逆に、最初の画像のペアの整列が良い場合、上記調整は、はるかに早く処理され得、画像の再投影からの望ましくない副作用が軽減され得る。従って、最初の画像が良く整列された位置から選択される場合、より快適な3D画像が生成され得、最小限の調整しか必要とされなくなる。
2001−230955は、Pentax Optio 230デジタルカメラにおいて用いられ、ユーザーガイド付きの2ショット立体写真撮影モードを提供する、技術を公開している。この方法では、ユーザーは、第1の画像を撮影し、「カメラを右に動かしてください」とアドバイスされる。上記第1の画像の、透明であって垂直または水平である帯が、当面の画像に重ね合わされる。ユーザーは、上記帯を用いている第1の画像に、第2の画像を整列させることになる。しかしながら、この技術をフォローした場合、遠近的なエラーが取り込まれ、上記2つの画像が直線的ではないように第1の画像が撮影された際に、カメラはその向きに対して回転させられることになるので、結果として画質の悪い3D画像になる。
EP1085769は、間隔の長さを測定するために、EP1089573に公開されているような画像調整方法を用い得る、可変間隔のデュアル・ヘッド・カメラについて公開している。上記システムは、シーンに対するアプリオリな認識に基づいている。現在のところ、快適に目視出来得る3D画像を作るために必要とされる間隔を提案する自動的なシステムとして、既知なものは存在しない。
以下で用いられる「画像特徴」という用語は、画像上に現れるどんなものを意味するようにも定められる。これは、例えば、直線、パターンおよび陰影を含む。この用語は、ビジョンリサーチの分野における、従来の意味と共に用いられる。
本発明の第1の局面によれば、立体画像を選択するための方法であって、
(a)第1の画像を選択するステップと、
(b)上記第1の画像にオーバーレイされた少なくとも1つのカーソルを、上記第1の画像の少なくとも1つの画像特徴に照準合わせするステップと、
(c)上記カーソルを横方向に所定の量だけシフトするステップと、
(d)上記特徴を含み、上記カーソルがオーバーレイされており、更に実質的に上記特徴に照準合わせされている、第2の画像を選択するステップとを包含する方法が提供される。
上記所定の量は、実質的に両眼間の距離の平均値に対応し得る。
上記所定の量は、上記第1および第2の像を表示するディスプレイの少なくとも1つのパラメータに対応し得る。
上記所定の量は、上記第1の像の画像特徴の奥行きに依存し得る。
上記所定の量は、快適に目視出来る奥行きの最大値に対応し得る。
上記ステップ(b)は、上記カーソルを手動で照準合わせするステップを含み得る。
上記ステップ(a)およびステップ(d)は、既にキャプチャされた画像の中から上記第1および第2の画像を選択するステップを含み得る。
上記ステップ(a)は、カメラを用いて上記第1の像をキャプチャするステップを含み得、上記ステップ(d)は、上記カーソルが実質的に上記特徴に照準合わせされている場合に、カメラを用いて上記第2の画像をキャプチャするステップを含み得る。上記第2の画像は、手動でキャプチャされ得る。上記ステップ(a)は、ステップ(b)と(c)との間で実行され得る。上記カメラは、光軸を有し得、上記第2の画像がキャプチャされる際の光軸が、上記第1の画像がキャプチャされる際の光軸に実質的には平行であるように方向付けされ得る。上記第1および第2の画像がキャプチャされるカメラの位置は、上記第1の画像がキャプチャされた際の光軸に関して、それぞれ実質的に横方向に、かつ、実質的に垂直に間隔付けられる。
上記カーソルは、直交する直線の格子、十字線、複数のドット、非零エリアの領域を定めるシンボル、上記第1の画像の一部の少なくとも1つを備え得る。上記シンボルは、実質的には長方形の輪郭である。上記カーソルは、上記第1および第2の両画像において、横方向にシフトされたカーソルと平行に表示され得る。
上記ステップ(d)は、上記第1の画像の一部を上記第2の画像にオーバーレイするステップを含み得る。上記第1の画像の一部は、例えば、空間的に高域フィルターされることによって、オーバーレイするステップの以前に変更され得る。上記第1の画像の一部は、上記領域によってオーバーレイされた、上記第1の画像の一部を備え得る。
上記ステップ(d)は、上記第1の画像、および、上記第2の画像の少なくとも1つの候補との間の相関を実行するステップを含み得る。上記ステップ(d)は、相関のレベルの指標に基づいて、第2の画像をユーザー選択するステップを含み得る。上記ステップ(d)は、上記相関が閾値を超える際に、上記第2の画像を選択するステップを含み得る。上記ステップ(d)は、前記相関が最大値になる際に、上記第2の画像を選択するステップを含み得る。
上記少なくとも1つのカーソルは、上記シンボルを備え得、上記相関は、上記シンボルによってオーバーレイされた第1の画像の一部と、シフトされたシンボルによってオーバーレイされた、第2の画像の少なくとも1つの候補の一部との間で実行され得る。上記相関が行なわれる、上記第1の画像のエリアおよび上記第2の画像の少なくとも1つの候補のエリアは、互いにオーバーラップし得る。
上記相関は、輝度、特徴点、質感(texture)、および色のうちの少なくとも1つの上で実行され得る。
上記相関は、数学的な相互相関、平均2乗誤差、最大絶対差および位相相関のうちの少なくとも1つを備え得る。上記ステップ(d)は、上記第2の画像をキャプチャするために、上記カメラの位置までの距離の指標を提供するステップを含み得る。
本発明の第2の局面によれば、本発明の第1の局面による方法を実行するための装置が提供される。
本発明の第3の局面によれば、立体画像を選択するための装置が提供され、
画像を表示するためのディスプレイと、
表示された画像をオーバーレイする少なくとも1つのカーソルをディスプレイに表示させるための手段と、
上記少なくとも1つのカーソルを上記表示された画像の各画像特徴に照準合わせするための手段と、
表示された画像を選択するための手段と、
第1の画像の上記選択手段による選択に応答して、所定の大きさだけ、少なくとも1つのカーソルを横方向にシフトさせるための手段とを備える。
上記装置はカメラを備え得る。上記ディスプレイは、カメラファインダーディスプレイを備え得る。上記選択手段は、少なくとも上記第1の画像を取り込むために、カメラを制御する手動で動作可能なコントローラーを備え得る。
本発明の更なる局面によれば、本発明の上記第2または第3の局面に従った、コンピュータを備える装置に本発明の第1の局面による方法を実行するためのコンピュータプログラムが提供され、コンピュータを備え、本発明の第1の局面による方法を実行出来ない装置を、本発明の第1の局面による方法を実行するように適合させる、コンピュータプログラムが提供され、また、そのようなプログラムを収容する収容媒体が提供される。
このようにして、ユーザーに立体画像を比較的容易かつ迅速に選択させることを許容する技術を提供することが可能となる。カメラを用いて画像をキャプチャする場合、この技術は、実質的には直線上にあり、3Dディスプレイを用いて表示される以前に処理をほとんど必要としないか全く必要としない立体画像をキャプチャするステップに、ユーザーをガイドする。上記カメラは、上記第1および第2の像をキャプチャするステップのあいだに回転するため、ユーザーに対し、遠近法的な歪みを被る2つの像をマッチさせることを試みさせる必要がない。
例えば、これらの技術は、2つの2D画像がほぼ直線上にあるように、良い位置から2つの2D画像を撮影するために、人をガイドするために用いられ得る。これらの技術は、単一のカメラから第2の画像を撮影している人物に対し、静止画像の列または映像列から第2の画像として最良である画像を選択させるために、あるいは、デュアルヘッドカメラまたは両カメラの間隔が変動し得る2台のカメラを備えるシステムの調整をガイドするために、用いられる。
上記シーンの構造は、上記第1の画像が撮影された際に、ある画像特徴上にカーソルをオーバーレイすることによって上記構造が参照先として用いられるように、ユーザーによって用いられる。上記カーソルは、平行移動するようにシフトされ、上記カメラは、上記画像特徴が再びカーソルの下に来るように、平行なマナーで動かされる。上記第2の画像は、調整されたカメラ間隔で、平行な位置から撮影され、それによって、制御された奥行きを提供する。相関計量が2つのカメラ位置のあいだで計算され得、上記相関が最大になり、上記カメラが正しい位置にある場合、上記カメラは第2の像を自動的に撮影することが出来る。
位置を測定するセンサー、例えばGPS(Global Positioning System)、コンパス、傾斜センサーは、上記システムを機能強化し、2つの画像が出来るだけ平行であることを保証するのを助ける、付加的なフィードバックを提供することにも用いられ得る。
本発明は、実施例を通し、添付の図面を参照することによって、更に記述される。
同じ参照番号が図面中の同じ部分を参照する。
図1は、本発明の一実施形態を構成するデジタルカメラのブロックスキーム図である。 図2は、本発明の一実施形態を構成する立体画像を選択するための第1の方法を示す流れ図である。 図3は、同一の像にオーバーレイされた異なるタイプのカーソルの様子を示している。 図4は、第1の像が選択された場合のビューファインダーディスプレイの様子を示している。 図5は、カーソルがシフトした後に続くディスプレイの様子を示している。 図6は、第1および第2の像をキャプチャするためのカメラの正しい位置を図式的に示している。 図7は、カメラが第2の像を取り込むための正しい位置にある場合のビューファインダーディスプレイの様子を示している。 図8は、本発明の一実施形態を構成する第2の方法を示す流れ図である。
図1は、デジタル「スチール」カメラ1の形態で本発明の一実施形態を構成する装置を示している。上記カメラ1は、シーンの画像を形成する、従来型の光学システム2を備える。上記カメラ1は、その上で画像が形成され、光学的な画像をそれに対応する電気的な信号に変換する、従来型の画像センサー3をも備える。画像センサー3の出力は、例えば、ディスプレイに表示し、それに続いてハードコピーに印刷するための、センサー信号を任意の様式で処理するプロセッサ4につながれる。プロセッサ4は、例えば、カラー液晶ディスプレイ(LCD)タイプであるビューファインダーディスプレイ5につながれる出力を有する。
光学システム2は、レンズおよびモーター、あるいは、焦点合わせを行うためにレンズまたはレンズの群の位置を調整するものからなるセットを備える。上記カメラ1は、「オートフォーカス」タイプであり、カメラからシーン内の対象までの距離に関する情報をプロセッサ4に供給する、オートフォーカスセンサー6を含む。上記プロセッサ4は、上記センサー6からの情報に従って、光学システム2のオートフォーカス機構を制御する。
ここまでに述べてきたカメラ1のパーツは、基本的には従来のものである。しかしながら、以下に述べられるように、上記プロセッサ4は、立体画像を選択するための方法を実行出来るように配置される。従来のシャッターリリースコントローラー7は、上記光学システム2によってセンサー3上に造られた像をキャプチャしようと思うユーザーによって提供され、動作させられる。上記プロセッサ4は、以下に述べるような手動でのカーソルの照準合わせを可能にするために用いられる、「カーソル照準合わせ」コントローラー8にもつながれる。
立体画像を選択するために、流れ図2に示され、本発明の一実施形態を構成する方法が実施され得る。第1の像を選択する際、ユーザーは、光学システム2によってセンサー3上に造られた像を表示する、ビューファインダーディスプレイ5を目視する。上記プロセッサ4は、ディスプレイ5に1つ以上のカーソルを表示させ、上記カーソルは、ビューファインダーイメージ上にオーバーレイされる。上記ユーザーは、カーソルを照準合わせするためにカーソルを移動させることが出来るように、または、ディスプレイ5によって表示された画像の特定の画像特徴を「ハイライト表示」することが出来るように、コントローラー8を調整することが出来る。例えば、上記カーソルは、センサー3上に像を造られたシーンの前景にある人物または対象をハイライト表示するために用いられ得る。このことは、図2に示され、上記方法の開始ステップ10の後、ステップ11,12が続く。
代替的に、または付加的に、上記カーソルは上記画像特徴に自動的に照準合わせされ得る。例えば、上記プロセッサ4は、適切な画像特徴を識別するためにセンサー3からの信号を処理し得、その後、上記カーソルのうちの1つをディスプレイ5上の画像特徴に自動的に照準合わせし得る。上記カーソルが自動的に照準合わせされる場合、専用のカーソル照準合わせコントローラー8は省略され得る。その代わりに、カーソルの照準合わせは、立体画像をキャプチャしている間に手動によるカーソルの照準合わせを許容するために配置された、従来型の、既存の、カメラコントローラーによって実行され得る。
図3は、上記方法で用いられ得るカーソルの様子のいくつかの例を示している。ビューファインダーディスプレイ5によって表示され得る画像を例示する、「プレーンな」画像は、20に示される。上記カーソルを照準合わせすることによってカーソルによりハイライトされることになる画像特徴は21に示され、例として、立方体で示されている前景特徴を備える。
図3は、22において、正方形または長方形の輪郭の形である、2次元の閉じた幾何学的図形23の例を示している。この特定の図形は、カーソルとして用いられ得る閉じた図形の1つの例にすぎず、実線によって閉じた図形に示されたものは、破線によっても表示され得る。一般に、任意の非零エリアの閉じた2次元の図形が用いられ得る。上記図形の輪郭のみが、カーソルとして表示され得る。その代わりに、図形の内部もまた表示され得るが、一般に、カーソル23を画像特徴21に照準合わせするのを容易にするために、一部分が透明にされ得る。
図3は、24において、直行する直線の格子の形である、別タイプのカーソルを示している。図3は、25において、十字線の形をしたカーソルを示し、このカーソルは、上記カーソルの交点を上記画像特徴に照準合わせすることによって上記特徴21の特定の点をハイライトするのに用いられる。図3は、26において、複数の特徴点を示している。このケースでは3点あり、前景にある対象の特定の画像特徴21に照準合わせしている。これら特徴点を通過する水平線も示されており、ある画像キャプチャ位置から別の位置に移動する場合に、カメラの回転を減らすのを助けるのに有用であり得る。
上述のカメラは、デジタルスチールタイプであるが、上記方法は、他のタイプのカメラにも用いられ得る。例えば、上記方法は、従来のビューファインダーディスプレイと、上記ビューファインダーディスプレイで目視可能なカーソルを構成する付加的な光学的要素とを有する、フィルムカメラと伴に用いられ得る。
ユーザーは、ディスプレイ5内の画像の構成に満足し、上記カーソル、例えば長方形のカーソル23の位置に満足した時、シャッターリリースコントローラー7を動作させることによって、ステップ13における第1の画像を撮影する。プロセッサは、上記画像をデジタルで保存し、ステップ14において、ビューファインダーディスプレイ5上のカーソルの位置を自動的に移動させる。図4は、図3に表示された画像22を再び示し、第1の画像が取り込まれた際のビューファインダーディスプレイ5の様子を示している。上記カーソルは、所定の大きさ、例えば、人間の眼間の距離のほぼ平均に対応する大きさ、あるいは、その代わりに、画像が表示されることになる3Dディスプレイのパラメータに対応する量だけ、図5に示されるように横方向にシフトされる。この大きさは、上記カメラによってキャプチャされた立体画像によって形成される3D画像内で目視し得る奥行きの大きさを、ある程度決定する。シフトを大きくすると、目視可能な奥行きが大きくなるが、画像領域のオーバーラップが小さくなり、最終的な画像領域が実質的に小さくなる。また、奥行きの大きさが過度に大きくなると、3D画像を目視することが全く不快、または長時間目視することが不快になる。逆に、シフトが非常に小さいと、3D画像の目視可能な奥行きが非常に小さくなり、その結果、3D画像の有用性が低下し得る。
シフトの大きさは、公開された技術、例えば、その内容がここで援用される、EP1
089 573における技術を用いて決定され得る。シフトの大きさを固定すると、対象
がどれだけ近いかに関わりなく、3D画像内の対象の奥行きの大きさが固定される。カメラ1のオートフォーカス機能は、目視可能な奥行きの大きさの極限値をセットするために用いられ得、オートフォーカスシステムからの情報は、上記カーソルの横方向のシフトを決定するのに用いられ得る。
現在の例では、立体画像においては、左目が第1のキャプチャされた画像を目視するように意図されている。図5に示されているように、上記カーソルは、第1の画像が取り込まれた際、その位置に関して計算された量だけ左側に横方向にシフトされる。それに続く照準合わせのステップを補助するために、カーソル23内にある第1の画像の一部が、シフトされたカーソルの内部に表示され得る。例えば、第1の画像の上記一部は、詳細をハイライト表示するために高域フィルタリングされ、目視可能にし、かつ、照準合わせを可能にするために、上記センサー3上にある現在の画像の一部分を透明にする。図5は、27における破線によって、上記カーソル23の内部にある第1の画像の一部分を示している。
シフトされたカーソルが表示された時、ユーザーは第2の立体画像を取り込むことが出来るようにカメラを移動させる。例えば、シフトされたカーソルが現在上記センサー3上の光学システム2によって像を造られている画像の画像特徴上に正確に照準合わせされ、ビューファインダーディスプレイ5上に表示されるまでカメラ1を右側に移動させるようにユーザーに指示する指示内容が、ビューファインダーディスプレイ5上に表示され得る。図7は、ユーザーが正確な大きさだけカメラを移動させ、カメラを正確な方向に方向合わせした場合の、ビューファインダー5上にオーバーレイされた画像の様子を示している。このケースでは、カーソル23は現在表示されている画像特徴21に再び照準合わせされ、「ゴースト」画像27は画像特徴21上に的確に重ね合わされる。図7に示された状況を実現するために、カメラ1は、図6における矢印30に示されるように、右側へ水平的に移動させられる。また、図7に示される組み合わせ画像を実現するためには、新しい位置1’にあるカメラは、第1の位置から第1の画像がキャプチャしたときの方向と実質的に同じ3次元の方向を有さなくてはならない。図6は、上記2つの位置にあるカメラの光軸31と31’を図示している。上記光軸は光学システム2の光軸を備え、最適の結果を得るためには、軸31と31’は平行でなければならず、正しい位置にあるシフトは、32に示されるシフト量を有する単なる平行移動でなければならない。それ故、カメラは2つの位置において同じ方向を指し示し、光軸の周りの回転がない。このことは、実質的に直線上にある画像が取り込まれたこと、良い3D効果を提供するためには更なる処理をわずかしか必要としない、または、全く必要としないことを保証する。
この例では、カーソルは第1の画像に対してのみ表示され、第2の画像に向けて横方向にシフトされるように示されているが、両画像上の第1の位置、および、シフトされた位置の両方にあるカーソルを表示することが可能である。ユーザーは、シフトされていないカーソルを用いて画像特徴を照準合わせし、第1の画像を撮影し、シフトされたカーソルを用いて上記特徴を照準合わせする。「アクティブな」カーソルの表示は、例えば、色または実線/破線を用い、カーソルをハイライトすることによって、提供され得る。
カメラを移動させること、および、カーソルを照準合わせすることは、図2におけるステップ15に示されている。図7に示されている組み合わせ画像を目視しているユーザーによって、実質的に正確である移動が達成されたことが示唆されると、上記ユーザーは、図2でステップ16に示されているように第2の画像をキャプチャする、または、「撮影」出来るようにシャッターコントローラー7を動作させる。立体画像のキャプチャは、プロセッサが第2の画像を保存した後、ステップ17で終了する。
第2の画像を取り込むための代替的、または付加的な技術として、セミ−オートマッチクの「ワンショット」法が用いられ得、これは図8に示される。ステップ10から14は、上記方法に従って第1の画像を撮影するためにユーザーがシャッターリリースコントローラー7を動作させ、図5に示される組み合わせ画像を示すためにカーソルがビューファインダーディスプレイ5上を自動的に移動させられることが出来るように、上述のごとく実行される。その後、ユーザーは、上述の通りにカメラを動かすように指示される。しかしながら、プロセッサ4は、取り込まれた第1の画像の一部分と、センサー3によって像を造られビューファインダーディスプレイ5内に表示された「第2の画像の候補」との間の相関を測定する、ルーチン処理を実行する。例えば、第1の画像が取り込まれた際にカーソル23の内部にあった第1の画像の一部分とシフトされた現在のカーソル23の内部にある現在の画像の一部分との相関が、連続的に計算される。このことは、図8におけるステップ40に示される。
ステップ41は、上記相関が、この例では最大の相関として示唆されるような閾値を超えるかどうかを判定する。動き検出理論は、最大値付近の相関機能の一般的な振る舞いを予測する(その代わりに、位相相関技術を用いると、上記最大値は直接的に測定される)。ユーザーが、正確にシフトされた位置に向けてカメラを移動させるのに伴い、上記相関は増加し、上記最大値は、上記相関の値の変化をモニターすることによって見出され得る。上記最大値がいつ十分な精度で見出されたかを判断することが出来る2つの技術とは、上記相関がいつ減少し始めたかを判断することと、相関の増加がいつ所定の閾値を下回ったかを判断することである。
最大相関が検出されると、ステップ42は、第2の画像を自動的にキャプチャする。このように、相関が最大になり、カメラが位置1’にある場合、ユーザーはカメラを動かし、第2の画像が自動的にキャプチャされる。
第2の画像をキャプチャするためのステップ42もまた、いつ第2の画像を取り込むかの判断を確立させるために、相関のレベルを示唆するメーターを使用し得るユーザーによって、手動で行なわれ得る。上記ユーザーは、第2の画像を取り込むための適切な機会を決定する、相関の指標を用いることによって、両画像を手動で撮影する。
セミ−オートマチックな方法が実行されるためには、カーソル23の周辺のエリアは、相関に関する正確な測定を提供するために、十分大きくなくてはならない。また、上記エリアは、そのシフトされた位置とオーバーラップするようでなければならない。プロセッサ4に十分な演算能力が用意されていれば、相関を測定するために用いられるエリアは、実質的に画像全体を包含し得る。
上記相関は、画像内の輝度に関する情報に基づき得るが、代替的に、または付加的に、上記画像の特徴点、質感、および色のような、その他の情報も用いる。任意の適切な計量が相関を測定するために用いられ得、そのような計量の例は、平均2乗誤差、最大絶対差、相互相関、および、C.KuglinおよびD.HinesによってThe Phase Correlation Image Alignment Method,Proceeding of the IEEE International Conference on Cybernetics and Society,pp.163〜165,1975に発表された、位相相関である。
これら相関計量のいくつか、例えば位相相関は、所望の位置までの距離を示すことが可能であり、ユーザーが第2の画像がキャプチャされることになる位置へカメラを移動させることを補助するために使用され得る。例えば、正確な位置からの距離に関する、ビジュアル性の、および/または、オーディオ性の指標が、カメラ1によって提供され得る。ビジュアル性の指標の場合、この指標は、例えばグラフまたは可動性のバーの形で、ビューファインダー5上に提供され得る。オーディオ性の指標の場合、この指標は、正しい位置からの距離に従って音程を変える音色によって提供され得る。位相相関は、高速フーリエ変換を用いることによって実行され得る。このことは、条件に合った処理能力を用いることによってリアルタイムに実行され得、当技術分野では既知である。
第1および第2の画像は異なる時間で取り込まれるため、シーン内にある任意の移動する対象は、カメラが第2の位置まで移動し、第2の画像がキャプチャされる時まで、異なる場所に位置することになる。このことは、3D効果におけるノイズを発生させ、不自然に目視される。例えば、人物の3D画像がキャプチャされる場合、第1の画像が取り込まれてから第2の画像が取り込まれるまで上記対象は静止し続けなければならないが、このことは困難であり得る。それゆえ、第1の画像が取り込まれた後に第2の画像を迅速に取り込むことには利益がある。位相相関を用いる、第2の画像を取り込むためのセミ−オートマチックな方法は、第1の画像を取り込んでから第2の画像を取り込むまでの遅延が比較的小さくなり得るように、カメラが迅速に再配置されることを可能にする。
第2の画像は異なった地点にあるが、図6において矢印30で示されているように、第1の画像が取り込まれた位置から第2の画像が取り込まれる位置までカメラが平行移動させられるとき、上記相関は最大になり得る。カメラのいかなる回転も、相関の大きさを減少させ得ない。全ての次元でのカメラの方向付けがインタラクティブに修正され得るようにするために、より複雑な動作モデルが上記相関を評価するのに適用され得る。十分な計算能力が利用可能ならば、カメラを適切な位置に配置する、上述のユーザー誘導の初期段階を利用するフィードバックを用いて、インタラクティブな調整が実行され得る。
それゆえ、立体画像を取り込むユーザーを強力に補助し、適切なディスプレイ装置で目視された際に快適に目視される3D効果を与えるためにわずかしか処理を必要としない、または、全く処理を必要としない技術を提供することが可能である。特に、ユーザーはカメラを所定の大きさだけシフトすること、および、直線上にある画像が取り込まれるようにするためにカメラを正しく方向付けることを補助される。
この技術は、カメラを用いて画像を取り込むことに対して述べられて来たが、他の発信源から像の立体写真を選択するためにも用いられ得る。例えば、この技術は、「リアルタイム」で用いられる必要はないが、ビデオカメラが平行移動させられた場合に映像列から立体写真を選択するために、または、既にキャプチャされた静止画像の列から画像を選択するために用いられ得る。そのような例においては、第1の画像が検査によって、または任意に選択され得る。その後、別の画像が検査によって、または任意に選択され得、上記技術は、利用可能な画像から「最良の」像の立体写真を選択するために適用され得る。

Claims (2)

  1. 立体画像を形成する第1および第2の画像を、ディスプレイを有するカメラによりキャプチャするための装置であって、
    画像を表示するディスプレイ(5)と、
    表示された画像にオーバーレイする少なくとも1つのカーソル(23)をディスプレイに表示させるための手段(4)と、
    該少なくとも1つのカーソル(23)を該表示された画像の各画像特徴に照準合わせする手段(8)と、
    表示された画像を選択する手段(7)と、
    該選択する手段(7)によって該第1の画像をキャプチャしたことに応答して、所定の量だけ該少なくとも1つのカーソル(23)を横方向にシフトする手段(4)とを備え、
    シフトした該カーソル(23)が該第2の画像にオーバーレイされたときには、該カメラの移動により、該カーソルに照準の合う画像特徴が該第1の画像の画像特徴に実質的に一致することを特徴とする、装置。
  2. 前記所定の量(32)が、実質的に両眼間の距離の平均値であることを特徴とする、請求項1に記載の装置。
JP2010086590A 2003-09-04 2010-04-02 立体画像を選択するための装置 Expired - Fee Related JP4841677B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
GB0320672.9 2003-09-04
GB0320672A GB2405764A (en) 2003-09-04 2003-09-04 Guided capture or selection of stereoscopic image pairs.

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2006525981A Division JP4548850B2 (ja) 2003-09-04 2004-09-03 立体画像を選択するための方法および装置

Publications (2)

Publication Number Publication Date
JP2010200340A JP2010200340A (ja) 2010-09-09
JP4841677B2 true JP4841677B2 (ja) 2011-12-21

Family

ID=28686862

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2006525981A Expired - Fee Related JP4548850B2 (ja) 2003-09-04 2004-09-03 立体画像を選択するための方法および装置
JP2010086590A Expired - Fee Related JP4841677B2 (ja) 2003-09-04 2010-04-02 立体画像を選択するための装置

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2006525981A Expired - Fee Related JP4548850B2 (ja) 2003-09-04 2004-09-03 立体画像を選択するための方法および装置

Country Status (4)

Country Link
US (1) US8026950B2 (ja)
JP (2) JP4548850B2 (ja)
GB (1) GB2405764A (ja)
WO (1) WO2005025239A1 (ja)

Families Citing this family (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2009236675A1 (en) * 2008-04-14 2009-10-22 Gvbb Holdings S.A.R.L. Technique for automatically tracking an object
US20100091094A1 (en) * 2008-10-14 2010-04-15 Marek Sekowski Mechanism for Directing a Three-Dimensional Camera System
JP4775474B2 (ja) * 2009-03-31 2011-09-21 カシオ計算機株式会社 撮像装置、撮像制御方法、及びプログラム
US9380292B2 (en) 2009-07-31 2016-06-28 3Dmedia Corporation Methods, systems, and computer-readable storage media for generating three-dimensional (3D) images of a scene
WO2011014419A1 (en) 2009-07-31 2011-02-03 3Dmedia Corporation Methods, systems, and computer-readable storage media for creating three-dimensional (3d) images of a scene
WO2011014420A1 (en) * 2009-07-31 2011-02-03 3Dmedia Corporation Methods, systems, and computer-readable storage media for selecting image capture positions to generate three-dimensional (3d) images
US20110025830A1 (en) 2009-07-31 2011-02-03 3Dmedia Corporation Methods, systems, and computer-readable storage media for generating stereoscopic content via depth map creation
US9495697B2 (en) * 2009-12-10 2016-11-15 Ebay Inc. Systems and methods for facilitating electronic commerce over a network
US8294748B2 (en) 2009-12-11 2012-10-23 DigitalOptics Corporation Europe Limited Panorama imaging using a blending map
US10080006B2 (en) 2009-12-11 2018-09-18 Fotonation Limited Stereoscopic (3D) panorama creation on handheld device
JP2013062557A (ja) * 2010-01-14 2013-04-04 Panasonic Corp デジタル撮影装置及び、3d撮影方法
JP2011147067A (ja) * 2010-01-18 2011-07-28 Sony Corp 画像処理装置及び方法、並びにプログラム
JP4911230B2 (ja) * 2010-02-01 2012-04-04 カシオ計算機株式会社 撮影装置、並びに制御プログラム及び制御方法
EP2395765B1 (en) * 2010-06-14 2016-08-24 Nintendo Co., Ltd. Storage medium having stored therein stereoscopic image display program, stereoscopic image display device, stereoscopic image display system, and stereoscopic image display method
WO2012002021A1 (ja) * 2010-06-30 2012-01-05 富士フイルム株式会社 多視点撮影制御装置、多視点撮影制御方法及び多視点撮影制御プログラム
WO2012002017A1 (ja) * 2010-06-30 2012-01-05 富士フイルム株式会社 撮影装置、プログラム、及び撮影方法
US9344701B2 (en) 2010-07-23 2016-05-17 3Dmedia Corporation Methods, systems, and computer-readable storage media for identifying a rough depth map in a scene and for determining a stereo-base distance for three-dimensional (3D) content creation
JP5704885B2 (ja) 2010-10-25 2015-04-22 オリンパスイメージング株式会社 撮影機器、撮影方法及び撮影制御プログラム
US9185388B2 (en) 2010-11-03 2015-11-10 3Dmedia Corporation Methods, systems, and computer program products for creating three-dimensional video sequences
KR20120054746A (ko) * 2010-11-22 2012-05-31 삼성전자주식회사 휴대용 단말기에서 입체 이미지를 생성하기 위한 장치 및 방법
CN107105157B (zh) * 2010-11-29 2020-02-14 快图有限公司 从手持设备所捕获的多个图像进行肖像图像合成
JP2012134675A (ja) * 2010-12-20 2012-07-12 Samsung Yokohama Research Institute Co Ltd 撮像装置、撮像方法
US8587518B2 (en) * 2010-12-23 2013-11-19 Tektronix, Inc. Disparity cursors for measurement of 3D images
US10200671B2 (en) 2010-12-27 2019-02-05 3Dmedia Corporation Primary and auxiliary image capture devices for image processing and related methods
US8274552B2 (en) 2010-12-27 2012-09-25 3Dmedia Corporation Primary and auxiliary image capture devices for image processing and related methods
TWI435593B (zh) * 2010-12-30 2014-04-21 Altek Corp 立體影像拍攝方法
JP5153021B2 (ja) * 2011-03-14 2013-02-27 パナソニック株式会社 撮影装置、撮影方法及びプログラム
US20130016186A1 (en) * 2011-07-13 2013-01-17 Qualcomm Incorporated Method and apparatus for calibrating an imaging device
US9191649B2 (en) * 2011-08-12 2015-11-17 Qualcomm Incorporated Systems and methods to capture a stereoscopic image pair
US9098930B2 (en) * 2011-09-30 2015-08-04 Adobe Systems Incorporated Stereo-aware image editing
KR101833828B1 (ko) 2012-02-13 2018-03-02 엘지전자 주식회사 이동 단말기 및 그 제어방법
KR20150091064A (ko) * 2012-11-30 2015-08-07 톰슨 라이센싱 단일의 카메라를 이용하여 3d 이미지를 캡쳐하는 방법 및 시스템
EP2750392A1 (en) 2012-12-27 2014-07-02 ST-Ericsson SA Visually-assisted stereo acquisition from a single camera
US9503634B2 (en) * 2013-03-14 2016-11-22 Futurewei Technologies, Inc. Camera augmented reality based activity history tracking
TWI502271B (zh) * 2013-04-15 2015-10-01 Htc Corp 控制方法及電子裝置
CN105306921A (zh) * 2014-06-18 2016-02-03 中兴通讯股份有限公司 一种基于移动终端的三维照片拍摄方法及移动终端

Family Cites Families (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5418892B2 (ja) * 1973-06-30 1979-07-11
GB8425827D0 (en) * 1984-10-12 1984-11-21 Gec Avionics Position indicating apparatus
US5054097A (en) * 1988-11-23 1991-10-01 Schlumberger Technologies, Inc. Methods and apparatus for alignment of images
TW221312B (ja) * 1991-06-27 1994-02-21 Eastman Kodak Co
KR100414629B1 (ko) * 1995-03-29 2004-05-03 산요덴키가부시키가이샤 3차원표시화상생성방법,깊이정보를이용한화상처리방법,깊이정보생성방법
US5682197A (en) * 1995-05-12 1997-10-28 Eastman Kodak Company Electronic panoramic camera for use with an external processor
JPH1139135A (ja) * 1997-07-22 1999-02-12 Sanyo Electric Co Ltd カーソル表示装置
US6747610B1 (en) * 1997-07-22 2004-06-08 Sanyo Electric Co., Ltd. Stereoscopic image display apparatus capable of selectively displaying desired stereoscopic image
US6583814B1 (en) * 1997-08-19 2003-06-24 Thomson Licensing Sa System for correction of convergence in a television device related application
AUPO894497A0 (en) * 1997-09-02 1997-09-25 Xenotech Research Pty Ltd Image processing method and apparatus
GB2370443B (en) * 1998-01-06 2002-08-07 Intel Corp Method of prompting a user in recording a 3-D visual image
JP2000305207A (ja) 1999-04-21 2000-11-02 Canon Inc 電子スチルカメラ
JP3798922B2 (ja) * 1999-06-24 2006-07-19 ペンタックス株式会社 写真測量画像処理装置、写真測量画像処理方法、および写真測量画像処理プログラムを格納した記憶媒体
US6538249B1 (en) * 1999-07-09 2003-03-25 Hitachi, Ltd. Image-formation apparatus using charged particle beams under various focus conditions
US7123292B1 (en) * 1999-09-29 2006-10-17 Xerox Corporation Mosaicing images with an offset lens
US6677981B1 (en) * 1999-12-31 2004-01-13 Stmicroelectronics, Inc. Motion play-back of still pictures comprising a panoramic view for simulating perspective
US6980690B1 (en) * 2000-01-20 2005-12-27 Canon Kabushiki Kaisha Image processing apparatus
JP3812264B2 (ja) * 2000-02-15 2006-08-23 カシオ計算機株式会社 撮像装置
US7221395B2 (en) * 2000-03-14 2007-05-22 Fuji Photo Film Co., Ltd. Digital camera and method for compositing images
US6697573B1 (en) * 2000-03-15 2004-02-24 Imax Corporation Hybrid stereoscopic motion picture camera with film and digital sensor
US6791598B1 (en) * 2000-03-17 2004-09-14 International Business Machines Corporation Methods and apparatus for information capture and steroscopic display of panoramic images
US7215809B2 (en) * 2000-04-04 2007-05-08 Sony Corporation Three-dimensional image producing method and apparatus therefor
JP2001326947A (ja) * 2000-05-12 2001-11-22 Sony Corp 立体画像表示装置
US20020118454A1 (en) * 2000-10-13 2002-08-29 John Hey System for stereoscopic viewing of an image
US6927769B2 (en) * 2000-11-21 2005-08-09 Vrex, Inc. Stereoscopic image processing on a computer system
US20020135539A1 (en) * 2001-02-22 2002-09-26 Blundell Barry George Interaction with a volumetric display system
US7084838B2 (en) * 2001-08-17 2006-08-01 Geo-Rae, Co., Ltd. Method and system for controlling the motion of stereoscopic cameras using a three-dimensional mouse
JP2003244500A (ja) * 2002-02-13 2003-08-29 Pentax Corp ステレオ画像撮像装置
JP2003244727A (ja) * 2002-02-13 2003-08-29 Pentax Corp ステレオ画像撮像装置
US7224382B2 (en) * 2002-04-12 2007-05-29 Image Masters, Inc. Immersive imaging system
IL150131A (en) * 2002-06-10 2007-03-08 Rafael Advanced Defense Sys A method for turning a series of monoscopic images into a series of stereoscopic images
US20040041906A1 (en) * 2002-09-04 2004-03-04 Fruit Theodoric Benjamin Method for producing a real-time, moving, stereoscopic, preview image
US7466336B2 (en) * 2002-09-05 2008-12-16 Eastman Kodak Company Camera and method for composing multi-perspective images

Also Published As

Publication number Publication date
GB0320672D0 (en) 2003-10-01
GB2405764A (en) 2005-03-09
US8026950B2 (en) 2011-09-27
US20070165129A1 (en) 2007-07-19
JP4548850B2 (ja) 2010-09-22
JP2010200340A (ja) 2010-09-09
JP2007504511A (ja) 2007-03-01
WO2005025239A1 (en) 2005-03-17

Similar Documents

Publication Publication Date Title
JP4841677B2 (ja) 立体画像を選択するための装置
JP5178553B2 (ja) 撮像装置
JP4880096B1 (ja) 多視点撮影制御装置、多視点撮影制御方法及び多視点撮影制御プログラム
JP6740537B2 (ja) フォーカスシステム、シネカメラシステム、プログラム及びコンピュータ可読記憶媒体
JP2009210840A (ja) 立体画像表示装置および方法並びにプログラム
US9774782B2 (en) Image pickup apparatus and image pickup method
JP2003244500A (ja) ステレオ画像撮像装置
US7269281B2 (en) Method for measuring object based on image and photographing apparatus
JP2008232776A (ja) 3次元形状計測装置および方法並びにプログラム
JP2007279334A (ja) 撮像装置
KR101270025B1 (ko) 스테레오 카메라의 주시각 제어방법 및 그 스테레오 카메라 장치
TWI484285B (zh) 全景影像的拍攝方法
US20130215237A1 (en) Image processing apparatus capable of generating three-dimensional image and image pickup apparatus, and display apparatus capable of displaying three-dimensional image
WO2022126430A1 (zh) 辅助对焦方法、装置及系统
JP2017143354A (ja) 画像処理装置及び画像処理方法
JP5822700B2 (ja) 画像撮影方法および画像撮影装置、プログラム
JP2006017632A (ja) 3次元画像処理装置、光軸調整方法、光軸調整支援方法
JP2005141655A (ja) 3次元モデリング装置及び3次元モデリング方法
JP5453552B2 (ja) 撮影装置、方法及びプログラム
JP2017161941A (ja) 再生装置、撮像装置および再生装置の制御方法
JP5409481B2 (ja) 複眼撮影装置及びプログラム
US20240015392A1 (en) Kamera-Assistenzsystem
JP2019145894A (ja) 画像処理装置、画像処理方法及びプログラム
JP6063662B2 (ja) 撮像装置及び撮像方法
JP2012165212A (ja) 撮像装置及びその制御方法

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110913

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111004

R150 Certificate of patent or registration of utility model

Ref document number: 4841677

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141014

Year of fee payment: 3

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D04

LAPS Cancellation because of no payment of annual fees