JP5172863B2 - バナナ・コーデック - Google Patents

バナナ・コーデック Download PDF

Info

Publication number
JP5172863B2
JP5172863B2 JP2009549863A JP2009549863A JP5172863B2 JP 5172863 B2 JP5172863 B2 JP 5172863B2 JP 2009549863 A JP2009549863 A JP 2009549863A JP 2009549863 A JP2009549863 A JP 2009549863A JP 5172863 B2 JP5172863 B2 JP 5172863B2
Authority
JP
Japan
Prior art keywords
image
images
combining
triangular
hemispherical
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009549863A
Other languages
English (en)
Other versions
JP2010518535A (ja
Inventor
ジャコブ,ステファヌ,ジャン−ルイ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Photint Venture Group Inc
Original Assignee
Photint Venture Group Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Photint Venture Group Inc filed Critical Photint Venture Group Inc
Publication of JP2010518535A publication Critical patent/JP2010518535A/ja
Application granted granted Critical
Publication of JP5172863B2 publication Critical patent/JP5172863B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G06T3/047
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/40Scaling the whole image or part thereof
    • G06T3/4038Scaling the whole image or part thereof for image mosaicing, i.e. plane images composed of plane sub-images

Description

本発明は、一般に、コンピュータ・グラフィックスおよび画像処理の分野に関し、特に、複数の元画像から少なくとも一つの高画質の画像を生成する技術に関する。
没入型ビジュアル技術により、画像を見るというバーチャルでインタラクティブな体験、特に、ある画像を別の画像に挿入してリアルな没入型体験をすることが可能になった。パノラマ画像は、没入型ビジュアル技術により複数の画像を合成することで作成されるものであり、従来のカメラレンズで実現されるものよりも視野が広い。円形の半球静止画像を撮影するうえでよく使われる装置としては、魚眼レンズを搭載したデジタルカメラがある。その画像は極めて鮮明で驚くべき画質となる。一般に、没入型技術ではインタラクティブな写真が必要とされる。そして、そのインタラクティブな写真は、標準的な広角レンズ、魚眼レンズ、または広角画像を標準レンズに反射するミラーを用いて得られた写真画像をコンピュータ・プロセッサにデジタル入力したものに基づく。また、デジタル処理では、ミラー、広角レンズ、あるいは魚眼レンズによるいかなる歪みも除去し、遠近感のある補正画像部分をユーザが思いのままに見られるようにすることが必要とされる。
没入型ビジュアル・システムで用いられる魚眼レンズは、極めて広い円環像を取り込む広角レンズである。写真撮影の分野では、魚眼レンズは、撮影した画像に独特の歪みを現すことで知られている。そして、魚眼レンズは、画像または映像中に180度の景色を現すが、この景色は、若干歪んでいることが多い。そのような歪みは、従来公知の技術を用いて充分に補正することができるものの、ユーザに優れた画質の画像による没入型体験を提供するために、多くの没入型ビジュアル・システムおよび方法が提案されている。
米国特許第6,947,059号明細書には、結合と変換によってフルモーションで立体的な正距円筒画像を生成する複数の撮像装置を含む画像化システムが開示されている。この方法は、複数の画像を得る工程と、第一および第二の画像それぞれの一部を合成して第一の合成正距円筒画像を生成する工程と、第一の画像の別の一部と第三の画像の一部を合成して第二の合成正距円筒画像を生成する工程と、第一および第二の合成正距円筒画像を物体に表示して立体画像を生成する工程と、を含む。
米国特許第6,147,709号明細書には、低解像度画像に高解像度画像を挿入して没入型体験をさせる方法が開示されている。この方法は、低解像度画像を撮影する工程と、高解像度画像を撮影する工程と、画像変換処理を用いて低解像度の歪みを除去する工程と、画像の詳細を拡大する工程と、高解像度画像を重畳する工程と、画素値を合わせる工程と、高解像度画像における少なくとも三点を、低解像度画像における三つの異なる変換値で表す工程と、を含む。
米国特許第6,795,090号明細書には、それぞれ異なる結節点から一つの景色を360度の視野で捉えた二つのパノラマ画像から中間パノラマ画像を生成する方法およびシステムが記載されている。これによると、まず、平面画像対が得られ、各平面画像対は、元のパノラマ画像それぞれの一部から得られた元の平面像に対応しており、各平面像対からは当該景色の類似領域が見える。次に、各平面画像対から中間平面画像が生成され、その結果として生じる一連の中間平面画像が円筒状に連結されて、前記中間パノラマ画像を形成する。
これらの特許文献には、2以上の画像を合成するまたは埋め込む処理およびシステムが開示されているものの、そのいずれもが、最終画像を小さなスクリーンに表示することを可能にする柔軟性に欠けている。これは、公知の没入型ビジュアル・システムの多くでは、2以上の画像を結合すると、正距円筒画像が拡大された状態で取得されることに起因する。結果として、得られた画像または映像は、多くの記憶容量を必要とする。さらに、最終画像の画質は、ユーザの期待を下回ることが多い。それゆえ、2以上の画像を結合した後に画像ファイルのサイズ縮小を容易にする方法およびシステムが必要となる。また、そのような2以上の画像を結合する方法およびシステムは、取得される画像の画質が優れていることを要求される。
米国特許第6,947,059号明細書(2005年9月20日) 米国特許第6,147,709号明細書(2000年11月14日) 米国特許第6,795,090号明細書(2004年9月21日)
本発明の目的は、2以上の静止画および/または動画を結合して、高画質の合成画像を生成する効率的な方法およびシステムを提供することである。
また、本発明の別の目的は、2以上の静止画および/または動画を結合して、元画像と同じ画素数を有する合成画像を生成する方法およびシステムを提供することである。
また、本発明のさらに別の目的は、2以上の静止画および/または動画を結合して、ファイルサイズの小さい合成出力を生成する方法およびシステムを提供することである。
これらの目的を達成するために、本発明は、2以上の画像を結合する方法であって、
(a)少なくとも1つの地点における異なる視方向から、半球画像となるように2以上の画像を撮像手段によって撮像する撮像工程と、
(b)前記半球画像をそれぞれ、対応する三角画像に変換する変換工程と、
(c)少なくとも第1の三角画像を少なくとも第2の三角画像の端部に沿って位置決めして、前記第1の三角画像の端部を前記第2の三角画像の端部に一致させる位置決め工程と、
(d)前記第1の三角画像の端部に存在する共通点を前記第2の三角画像の端部に存在する対応点に合成して、1つの矩形の結合画像を形成する合成工程、を含む方法を提供する。
さらに、本発明は、2以上の画像を結合するシステムであって、
少なくとも1つの地点における異なる視方向から、2以上の半球画像を撮像する撮像手段と、
前記撮像手段に接続されており、前記2以上の半球画像を三角画像に変換し、それら三角画像を合成して一つの結合画像を形成する画像処理手段と、を備えるシステムを提供する。
本明細書において、これらの目的は、本発明を詳細に明らかにするために開示されたものであり、本発明の範囲は、これらの目的および/または利点に制約または限定されるものではない。
図面に基づいて詳細に説明する。図面において、各符号の最も左の桁は、当該符号が初めて出てくる図面を示す。全図面にわたって、同じ符号を用いて同様の特徴や構成要素を示す。
本発明で開示したように、2以上の画像を結合して高画質の画像を生成するシステム例を示す図である。 本発明で開示したように、バナナ結合処理(banana stitching process)を用いて、2以上の画像を結合して高画質の合成画像を生成する方法例を示すフロー図である。 図2に示すバナナ結合モジュール(150)の実施例を示すブロック図である。 二つの半球画像例、およびそれらの略図と終点座標を示す図である。 各半球画像を三角画像に変換する方法例を示すブロック図である。 三角画像の向きを変更する処理例を示すブロック図である。 二つの三角画像を一つの画像に結合して、その向きを変更する処理例を示すフロー図である。
以下、2以上の静止画および/または動画を結合して、高画質の合成画像を生成する方法およびシステムについて説明する。これらの方法およびシステムは、ここに開示されたいかなる特定の形式や構成、具体的な実施形態、または具体的な使用にも制限されるものではなく、以上に示して説明する、請求の範囲に記載されている発明の精神または範囲から離れることなくして、種々の特定事項または関係に変形することが可能であり、その発明の装置または方法は、具体的な実施例を図示および開示するためだけのものであり、本発明が実施または操作され得る種々の形式または変形例のすべてを示すものではない。
魚眼レンズを通して撮影された2以上の画像を効率良く結合するために、画質の優れた合成画像を生成するシステムおよび方法が必要である。さらに、そのようなシステムには、多くの記憶容量を占める通常の正距円筒画像または映像に代わるものが要求される。このため、本発明に開示された方法およびシステムでは、魚眼レンズ等の広角レンズによって撮影された2以上の画像の結合が行われる。ここで、2以上の静止画像または映像は、任意のタイプの魚眼レンズによって撮影され、半球形状をなす。その後、各半球画像は、等三角画像(equitriangularimage)または映像に変換される。
半球画像の三角画像への変換の後、二つの三角画像が結合される。この二つの三角画像の結合によって、矩形画像が形成される。得られた矩形画像における各画素は、処理終了時における一画素を表し、よって最終的には、結合される最初の画像と同じ画素数となる。従って、本発明に開示された方法およびシステムによると、元の内容を一切損なうことなく、画質の優れた結合画像を得ることができる。さらに、正距円筒画像に比べて可逆変換をもたらす圧縮を一切行うことなく、2以上の画像を結合した後に画像ファイルのサイズを縮小することができる。
ここに説明する技術は、種々の動作環境やシステムにおいて使用することが可能である。以下、種々の形態を実施するのに適した環境例を図面に基づいて検討する。
(システム例)
図1は、2以上の画像を結合して画質の優れた画像を生成するシステム例100を示す図である。実施の一形態によると、システム例100は、1以上のグラフィカル処理ユニット104に接続された1以上の撮像手段102を備える。そのグラフィカル処理ユニット104は、1以上の入出力インターフェース106および1以上の出力手段108に接続されている。撮像手段102としては、1以上の魚眼レンズまたはアダプターを搭載したデジタルカメラを用いることができる。魚眼レンズとしては、画像ごとに少なくとも180度×180度の視野を得るために、円魚眼レンズを用いることができる。
他の実施の形態では、撮像手段102は、システム100に接続された通信ネットワーク上でアクセスできる。撮像手段102は、入出力インターフェース106を介してグラフィカル処理ユニット104に転送する前に画像をデジタル化する手段をさらに備えることができる。また、そのデジタル化手段は、入出力インターフェース106を介して、前記システム100に接続されてもよい。
システム100は、入出力インターフェース106によって入出力性能を備える。入出力インターフェース106は、入力装置、出力装置、AD変換器等を接続するための1以上のポートを備えることができる。入出力インターフェース106は、1つ以上の撮像手段102を介して撮影された画像を受信し、グラフィカル処理ユニット104によるさらなる処理に適切な形式に変換するように構成できる。グラフィカル処理ユニット104によって生成された合成画像は、入出力インターフェース106を介して出力手段108に送信されうる。例えば、入出力インターフェース106は、Flashディスク、USD接続、WIFI接続等のあらゆる従来の方法を用いて、グラフィカル処理ユニット104への画像の配信を容易にすることができる。
グラフィカル処理ユニット104は、複数の演算器を備えた単体の構成要素であってもよいし、複数の構成要素であってもよい。グラフィカル処理ユニット104は、メモリ114に接続された画像処理エンジン112を備えることができる。他の実施の形態としては、メモリ114は、グラフィカル処理ユニット104の外部に、別個の構成要素として配置されうる。または、メモリ114は、システム100に接続された通信ネットワーク上でアクセスできる。メモリ114は、例えば、揮発性メモリ(RAM等)および不揮発性メモリ(ROM,フラッシュメモリ等)を含む。メモリ114は、受信画像、中間画像、最終画像、および関連情報を記憶しうる。メモリ114は、さらに、画像処理エンジン112によって動作指令および関連データを記憶しうる。
画像処理エンジン112は、撮像手段102によって撮影された画像を適切な形式で受信できる。少なくとも二つの画像を合成してフル360×180の視野を得るためには、少なくとも二つの画像が撮影されなければならない。撮影された画像は、少なくとも24ビットの色の深みを実現するためにプログレッシブ・スキャン形式でなければならず、かつ、解読可能なマルチメディア・ファイル形式である必要がある。このファイルとしては、結合処理において高画質を維持するために、最低限の圧縮を施したラスター画像、一連のラスター画像、またはビデオ・ファイルを用いることができる。元のソースファイルが映像であり、かつ、インターレース(interlace)されている場合、従来公知の技術を用いて、インターリーブ(interleave)を除去する必要がある。あるいは、画像処理エンジン112は、撮像手段102から受信した画像を処理して、半球画像を得ることができる。また、画像処理エンジン112は、各半球画像から複数の情報を抽出し、抽出した情報を用いて、半球画像を対応する三角画像に変換して、それらを結合および位置決めできる。開示された処理によると、得られた画像は、画素数が元画像と同数になり、その結果、従来公知の正距円筒画像に比べて可逆変換を確実に行うことができる。その後、画像処理エンジン112は、得られた結合画像を出力手段108に送信し、その合成画像は表示される。好ましい実施の形態では、出力手段108として、システム100に接続された表示画面および/または印刷装置を用いることができる。他の実施の形態では、出力手段108は、システム100に接続された通信ネットワーク上でアクセスできる。
システム100は、スタンドアロン型のシステムとして、またはネットワークに接続されたシステムとして実施できる。まず、グラフィカル処理ユニット104は、撮像手段102によって撮影された画像、動作指令、および他の関連データをメモリ114に取り込むことができる。画像処理エンジン112は、各半球画像の座標値と2以上の画像の対応点とを含む複数の情報を各画像から抽出する。さらに、画像処理エンジン112は、メモリ114に記憶された動作指令を用いて、半球画像を対応する三角画像に変換する。また、画像処理エンジン112は、三角画像の少なくとも一つを180度回転させ、共通の底辺に沿って少なくとも第2の三角画像に合成して、結合画像を生成する。また、画像処理エンジン112は、結合画像の位置決め補正を行い、元画像と同じ画素数の矩形画像を生成する。最終画像は、入出力インターフェース106を介して出力手段108に送信される。本発明において開示されたシステムによって生成された最終画像は、元画像と同数の画素を保持し、よって同等の内容を保持しているため、高画質であると認められる。また、出力ファイルのサイズが、圧縮技術を使わずに、約22%縮小されるため、標準的な正距円筒画像に比べてより効率的に記憶できる。
(方法例)
以下、2以上の画像を結合して、画質の優れた合成画像を生成する方法例について説明する。図2〜8は、論理フロー・グラフおよび/または略図におけるブロックの集合として図示され、ハードウェア、ソフトウェア、またはその組み合わせにおいて実施され得る一連の動作を表す。ソフトウェアの場合、これらのブロックはコンピュータ指令を表す。なお、そのコンピュータ指令は、1以上のプロセッサが実行することにより、記載された動作を行うものである。処理の記載順序はこれに限定されるものでなく、記載されたブロックをいくつでも任意の順序に組み合わせて、前記処理または別の処理を実施できる。加えて、個々のブロックは、ここに記載されている主題の精神または範囲から離れることなくして、前記処理から削除できる。
図2は、本発明で開示したように、バナナ結合処理を用いて、2以上の画像を結合して高画質の合成画像を生成する方法システム例を示すフロー図である。
好ましい実施の形態においては、二つのソースファイルが使用される。これらの画像は、背中合わせに配置された二台のデジタルカメラに搭載された二枚の魚眼レンズを用いて撮影された二つの魚眼画像を表す二つのラスター画像である。各レンズは、少なくとも180度の視野を有している。これらの画像は、任意の時点で同じ環境を撮影した二つの画像である。色の深みとしては、24ビット、34ビット、またはインデックスカラーを採用できる。
二つの画像、すなわち、ラスター画像1(110)およびラスター画像2(120)は、公知の方法によって、ラスター画像読取部(130)に取り込まれる。そして、これら二つのラスター画像は、展開されて、ラスター画像バッファ(140)に一旦保持される。ラスター画像バッファ(140)は、前記システムの複数の要素によってアクセスできる。入力ラスター情報は、ラスター画像読取部(130)により供給される。画像選択に関するパラメータは、(150)を介して選択パラメータモジュール(180)により供給される。出力情報は、バナナ結合モジュール(150)に送信されたラスター画像である。また、ラスター画像バッファ(140)は、GUI(グラフィカル・ユーザ・インターフェース)(170)に接続される。
GUI(170)は、ラスター画像バッファ(140)、ラスター画像書込部(210)、選択パラメータ(180)、ヒューマン・マシン・デバイス(190)、およびディスプレイ(200)の間をつなぐビジュアルリンクであり、結合画像バッファ(160)に接続して処理を早めることも可能である。GUIは、ユーザとシステムとの間をつなぐヒューマン・マシン・デバイス(190)に連動している。GUIは、ラスター画像バッファ(140)を介して二つのラスター画像(110)とラスター画像(120)とを表示すると、エンドユーザは、これらの画像それぞれにおける、結合すべき領域を選択・決定する。選択される形としては、ユーザが中心および半径を決定できる円形であることが多い。この選択には、異なる形を使ってもよい。この情報は、ヒューマン・マシン・デバイス(190)によって入力され、選択パラメータ(180)によって供給およびフォーマットされる。そして、モジュール(180)は、前記の選択された情報をバナナ結合モジュール(150)に送信する。そのバナナ結合モジュール(150)は、必要とされるラスター情報を(140)にて受け取り、それらを処理し、処理された画像を結合画像バッファ(160)に供給するものである。なお、バナナ結合モジュール(150)の機能については、図4の記載に基づいて後述する。
結合画像バッファ(160)は、バナナ結合モジュール(150)から等三角画像を受け取る。この工程では、情報はラスター画像である。そして、この情報は、ラスター画像書込部(210)によって、BMP、JPG、TGA等の従来の形式で書き込まれ、GUI(170)に並行して送信され、表示される。そして、(220)では、ラスター等三角画像は、複数のフレームとして処理され、圧縮モジュール(230)において映像として圧縮される。以上に開示された処理は、画像の各フレームごとに行う必要がある。
図3は、図2に示すバナナ結合モジュール(150)の実施例を示すブロック図である。
ラスター画像バッファ(140)は、二つのソースラスター画像(300)とソースラスター画像(310)とを、図2のモジュール(180)によって供給された選択情報と共に、画像処理プロセッサCIRまたはTRI(320)に送る。以下に説明するように、画像処理プロセッサ(320)は、(300)および(310)のそれぞれの選択を受けて、各画素の変換を処理する。こうして得られた情報が、二つのラスター画像(330)およびラスター画像(340)である。そして、ラスター画像(340)は、画像処理プロセッサ回転(350)を介して処理され、図7に示すように、すべての画素情報に対して180度回転が行われる。そして、得られたデータ(360)は、図8に示すように、MUX(マルチプレクサ)ラスター画像(400)として画像MUX(マルチプレクサ)(370)に取り込まれる。こうして得られたラスター画像は、一つの画像である。
そして、画像データは、画像処理プロセッサ画素移動部(410)を介して処理され、図8に示すように、各画素を移動させてラスター画像(420)を生成する。
そして、その画像は、画像処理トリミングモジュール(430)によってトリミングされ、矩形のトリミング画像(440)が得られ、結合画像バッファ(160)に送られる。この工程で、結合処理が終了する。
図4〜8に、本発明の方法によって開示された結合処理の例を図示する。
図4は、二つの半球画像、およびそれらの略図と終点座標を示す図である。2以上の画像が撮像装置の魚眼レンズによって捕捉される。図形要素402は、魚眼レンズを備えた撮像手段によって撮影された景色の正面図であり、図形要素404は、図形要素402を簡略化した画像を表し、撮影した画像の中心および四つの終点の座標を示す。同様に、図形要素406は、撮影した景色の背面図を示し、図形要素408は、図形要素402を簡略化した画像を表し、この画像の中心および四つの終点の座標を示す。図4において、TAは半球402の頂点を指し、TBは半球406の頂点を指し、LAは半球402の左点を指し、LBは半球406の左点を指し、RAは半球402の右点を指し、RBは半球406の左点を指し、BAは半球402の底点を指し、BBは半球406の底点を指し、CAは半球402の中心点を指し、CBは半球406の中心点を指すものとする。
図5は、各半球画像の対応する三角画像への変換を示すフロー図である。図形要素502は、魚眼レンズによって撮影された景色の正面図を表す半球の円周または外周を表し、図形要素504は、当該半球の中心を起点とした半径CARAを表す。この半球の1以上の要素が、対応する三角画像の要素に変換される。RABALATARAで表された三角形の底506は、外線502、すなわち、対応する半球のTARABALAによって形成される。一方、三角画像の斜辺508および垂線510は、図形要素504、すなわち、半球の半径CARAによって表される。
同様に、魚眼レンズによって撮影された景色の背面図を表す半球は、対応する三角形に変換される。LBTBRBBBLBで表された三角形の底516は、外線512、すなわち、対応する半球のLBTBRBBBLBによって形成される。一方、三角画像の斜辺518および垂線520は、図形要素514、すなわち、半球の半径CBLBによって表される。各半球の各画素は、前記の変換に従い、新たな三角形上に配置され、図5に示すように位置する。
図6は、三角画像の向きを変更する処理を示すフロー図である。1以上の三角形を1以上の軸に沿って180度回転させ、1以上の画像と結合させる位置に置く。図6において、三角形602および604は、それぞれ、撮影された景色の正面図および背面図を表す半球によって形成された三角画像を表す。三角形604は、図6に示すように、180度回転を経て、三角形606となる。元画像は、180度回転と同様の、2フリップミラー機能(2 flip mirror functions)を用いて変換されたものと考えてよい。これにより、三角形606は、図7の記載に示すように、撮影された景色の正面図を表す三角形602と結合するのに適した方向となる。
図7は、二つの三角画像を結合して一つの画像にしてその向きを変更する処理を示すフロー図である。元画像の複数の要素が、さらに処理するために抽出・記憶される。また、2以上の画像に共通の要素も特定される。三角画像702を反転三角画像704と結合させるため、共通の要素を表すこれらの三角形の対応点が特定される。図8に、三角画像702と704との対応点を、RAおよびLB、BAおよびBB、LAおよびRB、TAおよびTB、並びに、RAおよびLBで表す。その後、三角画像702と704との対応点は、三角画像702および704の斜線に沿って重ね合わせられ、結合画像706となる。
最後に、端点RA、LB、およびCB線において、垂直移動が行われ、正距円筒画像が得られる。こうして得られた正距円筒画像における各画素は、処理終了時における一画素を表し、よって最終的には、結合される最初の画像と同じ画素数となる。そして、最終画像のサイズは、記憶容量が少なくとも22%縮小される。このように、本発明において開示された方法およびシステムは、2以上の画像から、標準的な正距円筒画像よりも高画質の結合画像を生成する。
前記説明および図示した各実施形態は、一例として提示されているものにすぎず、本発明の概念および原理を限定するものではない。従って、請求の範囲に記載されている発明の精神または範囲から離れることなくして、構成要素やその構成・配置において種々の変更が可能であることは、当業者に充分に理解され得るであろう。
本発明がここに示す具体的な実施形態に限定されるものではないということは、当業者に容易に理解され得るであろう。従って、本発明の主な利点を犠牲にすることなく、添付の請求項の範囲と精神において、変更することが可能である。

Claims (12)

  1. 2以上の画像を結合する方法であって、
    少なくとも1つの地点における異なる視方向から、半球画像となるように2以上の画像を撮像手段によって撮像する撮像工程と、
    前記半球画像をそれぞれ、対応する三角画像に変換する変換工程と、
    少なくとも第1の三角画像を少なくとも第2の三角画像の端部に沿って位置決めして、前記第1の三角画像の端部を前記第2の三角画像の端部に一致させる位置決め工程と、
    前記第1の三角画像の端部に存在する共通点を前記第2の三角画像の端部に存在する対応点に合成して、1つの結合画像を形成する合成工程と、を含むことを特徴とする2以上の画像を結合する方法。
  2. 前記変換工程は、
    前記半球画像をそれぞれ対応する円で表す工程と、
    前記三角形の底辺を前記円の外周で表す工程と、
    前記三角形の垂線および斜辺を、前記円の中心から前記円の端部までの長さによる半径で表す工程と、を含むことを特徴とする請求項1に記載の2以上の画像を結合する方法。
  3. 前記位置決め工程は、少なくとも第1の三角画像を180度回転させる工程を含むことを特徴とする請求項1に記載の2以上の画像を結合する方法。
  4. 前記第1の三角画像の端部にある点を前記第2の三角画像の端部にある対応点に合成する合成工程は、
    前記第2の三角画像の端部に対応する、前記第1の三角画像の端部にある共通点を決定する決定工程と、
    前記共通点に沿って前記第1の三角画像の端部を前記第2の三角画像の端部に合成して、1つの結合画像を形成する合成工程と、
    前記1つの結合画像の1以上の辺を移動させて、矩形の結合画像を形成する移動工程と、を含むことを特徴とする請求項1に記載の2以上の画像を結合する方法。
  5. 前記結合画像は、元の半球画像と同じ画素数を有する矩形画像であることを特徴とする請求項1に記載の2以上の画像を結合する方法。
  6. 2以上の画像を結合するシステムであって、
    少なくとも1つの地点における異なる視方向から、2以上の半球画像を撮像する撮像手段と、
    前記撮像手段に接続されており、前記2以上の半球画像を三角画像に変換し、それら三角画像を合成して一つの結合画像を形成する画像処理手段と、を備えることを特徴とする2以上の画像を結合するシステム。
  7. 前記撮像手段は、少なくとも一つの広角レンズを備えることを特徴とする請求項6に記載の2以上の画像を結合するシステム。
  8. 前記撮像手段は、静止画および動画を撮影することを特徴とする請求項6に記載の2以上の画像を結合するシステム。
  9. 前記結合画像は、元の半球画像と同じ画素数を有する矩形画像であることを特徴とする請求項6に記載の2以上の画像を結合するシステム。
  10. 撮影画像、中間画像、結合画像、および関連画像処理情報を記憶する記憶手段と、
    撮影画像、中間画像、および合成画像を表示させるための出力手段と、を備えることを特徴とする請求項6に記載の2以上の画像を結合するシステム。
  11. 通信ネットワークと通信可能に接続されていることを特徴とする請求項6または10に記載の2以上の画像を結合するシステム。
  12. 求項1から5のいずれか1項に記載の2以上の画像を結合する方法を実行させるプログラムであって、コンピュータに上記各工程を実行させるためのプログラム
JP2009549863A 2007-02-14 2008-02-14 バナナ・コーデック Expired - Fee Related JP5172863B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
IN306DE2007 2007-02-14
IN306/DEL/2007 2007-02-14
PCT/IB2008/000332 WO2008099269A2 (en) 2007-02-14 2008-02-14 Banana codec

Publications (2)

Publication Number Publication Date
JP2010518535A JP2010518535A (ja) 2010-05-27
JP5172863B2 true JP5172863B2 (ja) 2013-03-27

Family

ID=39690589

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009549863A Expired - Fee Related JP5172863B2 (ja) 2007-02-14 2008-02-14 バナナ・コーデック

Country Status (16)

Country Link
US (1) US8395657B2 (ja)
EP (1) EP2113119B1 (ja)
JP (1) JP5172863B2 (ja)
KR (1) KR20100105351A (ja)
CN (1) CN101689292B (ja)
AU (1) AU2008215908B2 (ja)
CA (1) CA2677884A1 (ja)
ES (1) ES2452366T3 (ja)
HK (1) HK1142428A1 (ja)
MY (1) MY165337A (ja)
NZ (1) NZ579035A (ja)
PL (1) PL2113119T3 (ja)
PT (1) PT2113119E (ja)
TW (1) TWI451358B (ja)
WO (1) WO2008099269A2 (ja)
ZA (1) ZA200905624B (ja)

Families Citing this family (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8305425B2 (en) * 2008-08-22 2012-11-06 Promos Technologies, Inc. Solid-state panoramic image capture apparatus
US8730396B2 (en) * 2010-06-23 2014-05-20 MindTree Limited Capturing events of interest by spatio-temporal video analysis
JP5672862B2 (ja) 2010-08-27 2015-02-18 ソニー株式会社 撮像装置、撮像システム及び撮像方法
CN103108154A (zh) 2011-11-14 2013-05-15 辉达公司 一种汽车导航设备
US9835564B2 (en) 2012-06-08 2017-12-05 SeeScan, Inc. Multi-camera pipe inspection apparatus, systems and methods
CN102968774B (zh) * 2012-11-05 2015-06-24 常州大学 彩色图案的计算机辅助拼接方法
US8902322B2 (en) 2012-11-09 2014-12-02 Bubl Technology Inc. Systems and methods for generating spherical images
US10856796B1 (en) 2013-01-19 2020-12-08 Bertec Corporation Force measurement system
US10646153B1 (en) 2013-01-19 2020-05-12 Bertec Corporation Force measurement system
US8704855B1 (en) 2013-01-19 2014-04-22 Bertec Corporation Force measurement system having a displaceable force measurement assembly
US11857331B1 (en) 2013-01-19 2024-01-02 Bertec Corporation Force measurement system
US9526443B1 (en) 2013-01-19 2016-12-27 Bertec Corporation Force and/or motion measurement system and a method of testing a subject
US11052288B1 (en) 2013-01-19 2021-07-06 Bertec Corporation Force measurement system
US11311209B1 (en) 2013-01-19 2022-04-26 Bertec Corporation Force measurement system and a motion base used therein
US10413230B1 (en) 2013-01-19 2019-09-17 Bertec Corporation Force measurement system
US9770203B1 (en) 2013-01-19 2017-09-26 Bertec Corporation Force measurement system and a method of testing a subject
US10231662B1 (en) 2013-01-19 2019-03-19 Bertec Corporation Force measurement system
US8847989B1 (en) * 2013-01-19 2014-09-30 Bertec Corporation Force and/or motion measurement system and a method for training a subject using the same
US11540744B1 (en) 2013-01-19 2023-01-03 Bertec Corporation Force measurement system
US9081436B1 (en) 2013-01-19 2015-07-14 Bertec Corporation Force and/or motion measurement system and a method of testing a subject using the same
US10010286B1 (en) 2013-01-19 2018-07-03 Bertec Corporation Force measurement system
TWI558208B (zh) * 2015-07-14 2016-11-11 旺玖科技股份有限公司 影像處理方法、影像處理裝置及顯示系統
US10043237B2 (en) 2015-08-12 2018-08-07 Gopro, Inc. Equatorial stitching of hemispherical images in a spherical image capture system
USD755067S1 (en) 2015-10-20 2016-05-03 Bertec Corporation Visual display device for a force and/or motion measurement system
US10102610B2 (en) 2016-04-05 2018-10-16 Qualcomm Incorporated Dual fisheye images stitching for spherical video
US10275928B2 (en) 2016-04-05 2019-04-30 Qualcomm Incorporated Dual fisheye image stitching for spherical image content
US9961261B2 (en) 2016-06-20 2018-05-01 Gopro, Inc. Image alignment using a virtual gyroscope model
US10339627B2 (en) 2016-10-10 2019-07-02 Gopro, Inc. Apparatus and methods for the optimal stitch zone calculation of a generated projection of a spherical image
US10194097B2 (en) 2017-01-13 2019-01-29 Gopro, Inc. Apparatus and methods for the storage of overlapping regions of imaging data for the generation of optimized stitched images
US10489897B2 (en) 2017-05-01 2019-11-26 Gopro, Inc. Apparatus and methods for artifact detection and removal using frame interpolation techniques
CN108683897B (zh) * 2018-05-07 2020-05-19 长春理工大学 多投影显示系统畸变的智能校正方法
US10928773B2 (en) 2018-11-01 2021-02-23 International Business Machines Corporation Holographic image replication
WO2022271499A1 (en) * 2021-06-25 2022-12-29 Innopeak Technology, Inc. Methods and systems for depth estimation using fisheye cameras

Family Cites Families (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5321748A (en) 1992-07-02 1994-06-14 General Instrument Corporation, Jerrold Communications Method and apparatus for television signal scrambling using block shuffling
JPH0652633A (ja) 1992-07-28 1994-02-25 Sony Corp ディジタルビデオ信号の記録/再生装置
US5684937A (en) * 1992-12-14 1997-11-04 Oxaal; Ford Method and apparatus for performing perspective transformation on visible stimuli
JPH0730855A (ja) 1993-07-08 1995-01-31 Sony Corp ビデオデータの記録方法
JP3802630B2 (ja) * 1996-12-28 2006-07-26 オリンパス株式会社 立体画像生成装置および立体画像生成方法
US6147709A (en) * 1997-04-07 2000-11-14 Interactive Pictures Corporation Method and apparatus for inserting a high resolution image into a low resolution interactive image to produce a realistic immersive experience
JPH11298878A (ja) 1998-04-08 1999-10-29 Nec Corp 画像スクランブル方法およびそれを実施する装置
US6435502B2 (en) * 1998-06-05 2002-08-20 Jose R. Matos Encoded image puzzle/decoder
US6535687B1 (en) 1999-07-23 2003-03-18 Sarnoff Corporation Method and system for deterring electronic video piracy through image rearrangement
US6980690B1 (en) * 2000-01-20 2005-12-27 Canon Kabushiki Kaisha Image processing apparatus
JP2001275111A (ja) 2000-03-28 2001-10-05 Victor Co Of Japan Ltd 動画像符号化復号化方法及び動画像符号化復号化装置
US6750873B1 (en) * 2000-06-27 2004-06-15 International Business Machines Corporation High quality texture reconstruction from multiple scans
JP2002203254A (ja) * 2000-08-30 2002-07-19 Usc Corp 曲面像変換方法及びこの曲面像変換方法を記録した記録媒体
JP3878408B2 (ja) * 2000-11-16 2007-02-07 株式会社リコー 画像処理装置、画像処理方法およびその方法をコンピュータに実行させるプログラムを記録したコンピュータ読み取り可能な記録媒体
US20020147991A1 (en) * 2001-04-10 2002-10-10 Furlan John L. W. Transmission of panoramic video via existing video infrastructure
US6831643B2 (en) * 2001-04-16 2004-12-14 Lucent Technologies Inc. Method and system for reconstructing 3D interactive walkthroughs of real-world environments
US20030038933A1 (en) * 2001-04-19 2003-02-27 Dimensional Photonics Inc. Calibration apparatus, system and method
JP2003069990A (ja) * 2001-06-13 2003-03-07 Usc Corp 遠隔映像認識システム
US6947059B2 (en) * 2001-08-10 2005-09-20 Micoy Corporation Stereoscopic panoramic image capture device
AU2002324771A1 (en) * 2001-08-25 2003-03-10 Eyesee360, Inc. Method and apparatus for encoding photogrraphic images
US6795090B2 (en) 2001-11-13 2004-09-21 Eastman Kodak Company Method and system for panoramic image morphing
GB2415117B (en) * 2002-05-10 2006-04-12 Imagination Tech Ltd An interface and method of interfacing between a parametric modelling unit and a polygon based rendering system
TW594453B (en) * 2002-07-26 2004-06-21 Gwo-Jen Jan Method for presenting fisheye-camera images
JP4082194B2 (ja) * 2002-12-03 2008-04-30 セイコーエプソン株式会社 画像処理方法および画像処理装置ならびに画像処理プログラム
US7308131B2 (en) * 2002-12-03 2007-12-11 Ntt Docomo, Inc. Representation and coding of panoramic and omnidirectional images
JP2004266376A (ja) * 2003-02-25 2004-09-24 Matsushita Electric Ind Co Ltd 映像合成装置
EP1709617A2 (en) * 2003-12-30 2006-10-11 Trustees Of The Stevens Institute Of Technology Three-dimensional imaging system using optical pulses, non-linear optical mixers and holographic calibration
JP4501481B2 (ja) * 2004-03-22 2010-07-14 セイコーエプソン株式会社 マルチプロジェクションシステムのための画像補正方法
JP2006003212A (ja) * 2004-06-17 2006-01-05 Konica Minolta Sensing Inc 位相計測システム
KR100511210B1 (ko) * 2004-12-27 2005-08-30 주식회사지앤지커머스 의사 쓰리디 이미지 생성기법을 토대로 한 이용자 적응인공지능 토탈 코디네이션 방법과, 이를 이용한 서비스사업방법
JP2006260527A (ja) * 2005-02-16 2006-09-28 Toshiba Corp 画像マッチング方法およびこれを用いた画像補間方法
JP4729999B2 (ja) * 2005-06-28 2011-07-20 富士ゼロックス株式会社 情報処理システム、情報処理装置、情報処理方法及びコンピュータ・プログラム
JP2007013514A (ja) * 2005-06-30 2007-01-18 Taiji Kajikawa 720°全方位矩形画像モニタリングシステム
EP1811458A1 (en) * 2006-01-19 2007-07-25 STMicroelectronics (Research & Development) Limited A method of generating an image with antialiasing
US20080253685A1 (en) * 2007-02-23 2008-10-16 Intellivision Technologies Corporation Image and video stitching and viewing method and system
JP4957676B2 (ja) * 2008-03-19 2012-06-20 セイコーエプソン株式会社 画像データ解析装置、画像データ解析方法、およびプログラム

Also Published As

Publication number Publication date
CN101689292A (zh) 2010-03-31
ES2452366T3 (es) 2014-04-01
PT2113119E (pt) 2014-03-17
CN101689292B (zh) 2014-01-15
PL2113119T3 (pl) 2014-05-30
CA2677884A1 (en) 2008-08-21
AU2008215908B2 (en) 2012-07-12
HK1142428A1 (en) 2010-12-03
JP2010518535A (ja) 2010-05-27
EP2113119B1 (en) 2013-12-11
AU2008215908A1 (en) 2008-08-21
US20100097526A1 (en) 2010-04-22
WO2008099269A2 (en) 2008-08-21
KR20100105351A (ko) 2010-09-29
ZA200905624B (en) 2010-10-27
TW200844901A (en) 2008-11-16
NZ579035A (en) 2012-09-28
TWI451358B (zh) 2014-09-01
EP2113119A2 (en) 2009-11-04
US8395657B2 (en) 2013-03-12
WO2008099269A3 (en) 2009-06-11
MY165337A (en) 2018-03-21

Similar Documents

Publication Publication Date Title
JP5172863B2 (ja) バナナ・コーデック
CN110663245B (zh) 用于存储成像数据的重叠区以产生优化拼接图像的设备及方法
US20200296282A1 (en) Imaging system, imaging apparatus, and system
JP6673381B2 (ja) 画像処理装置
US7855752B2 (en) Method and system for producing seamless composite images having non-uniform resolution from a multi-imager system
US10694102B2 (en) Method to capture, store, distribute, share, stream and display panoramic image or video
JP6337888B2 (ja) 画像処理装置、画像処理方法、プログラム
TWI356186B (en) Panoramic video system with real-time distortion-f
US10148875B1 (en) Method and system for interfacing multiple channels of panoramic videos with a high-definition port of a processor
EP2017783A2 (en) Method for constructing a composite image
CN107426491B (zh) 一种360度全景视频的实现方法
US20220230275A1 (en) Imaging system, image processing apparatus, imaging device, and recording medium
JP7306089B2 (ja) 画像処理システム、撮像システム、画像処理装置、撮像装置およびプログラム
Popovic et al. Design and implementation of real-time multi-sensor vision systems
WO2017159014A1 (ja) 画像処理装置、画像処理方法及び画像処理システム
KR100460081B1 (ko) 동영상 가상현실 이미지 제작 시스템 및 방법
JP2021005829A (ja) 撮像装置、画像処理システム、方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110214

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120305

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120313

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120613

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120620

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120813

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120820

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120910

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121127

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121226

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees