JP2006191535A - パノラマカメラのデッドゾーンを最小限に抑える方法とシステム - Google Patents

パノラマカメラのデッドゾーンを最小限に抑える方法とシステム Download PDF

Info

Publication number
JP2006191535A
JP2006191535A JP2005322661A JP2005322661A JP2006191535A JP 2006191535 A JP2006191535 A JP 2006191535A JP 2005322661 A JP2005322661 A JP 2005322661A JP 2005322661 A JP2005322661 A JP 2005322661A JP 2006191535 A JP2006191535 A JP 2006191535A
Authority
JP
Japan
Prior art keywords
image
panoramic
zero degree
boundary
panoramic image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005322661A
Other languages
English (en)
Other versions
JP4890005B2 (ja
Inventor
Ross G Cutler
ジー.カトラー ロス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Corp
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Publication of JP2006191535A publication Critical patent/JP2006191535A/ja
Application granted granted Critical
Publication of JP4890005B2 publication Critical patent/JP4890005B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/12Panospheric to cylindrical image transformations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/142Constructional details of the terminal equipment, e.g. arrangements of the camera and the display

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】パノラマカメラに係わるデッドゾーンに関する問題を最小限に抑えるための技術を提供すること。
【解決手段】デッドゾーンとは、2次元のパノラマをレンダリングできるように、360度のパノラマ画像が分割されるゼロ度境界の周りのエリアをいう。デッドゾーンに位置する被写体がパノラマ画像のマージン(端縁)間で分割されるのを防ぐため、被写体が写し出されない位置へのゼロ度境界の再方向付けを行なう。別の方法では、通常分割されるデッドゾーン内のある被写体が全部再生されるように、一方のマージンに写し出された画像のうちの1つまたは複数の部分を、反対側のマージンに隣接して再生することを含む。これらの方法は、パノラマカメラのエンドポイント装置で、またはカメラから離れたクライアント装置で実施することができる。これらの方法をライブビデオまたは以前記録されていたビデオに適用することができる。
【選択図】図11

Description

以下の説明は、一般に画像処理に関する。より具体的には、以下の説明は、パノラマカメラ(パノラマ式カメラ)システムに関する。
パノラマ画像とは、最高360度(360°)に及ぶ広角カメラ画像である。パノラマビデオカメラ装置は、会議室のシナリオに特に有用である。単一のパノラマビデオカメラは、閲覧者が会議の参加者のほとんどまたはすべてを同時に見ることができるように、会議室の広い範囲にわたって会議の参加者を捕らえることができる。会議室の360度(360°)の視界を捕らえることができるパノラマビデオカメラ装置は、すべての会議の参加者を撮像することができる。
米国特許出願第10/006,927号明細書
しかし、2次元の360度(360°)パノラマ画像には、撮像エリアの0°/360°の境界を表す左マージン(左端)および右マージン(右端)がある。ある人物がたまたまこの境界に座っている場合、その人物の画像の一部はパノラマ画像の左マージンに写し出され、その人物の残りの部分はパノラマ画像の右マージンに写し出される。そのエリア内の任意の被写体は、結果として得られるパノラマ画像において分割されるので、その境界の周りの小さいエリアは「デッドゾーン(死角)」と呼ばれる。
本発明は、パノラマ画像の左/右マージン境界で被写体画像を分割することなく、すなわち「デッドゾーン」なく360度(360°)のパノラマ画像を実現する方法とカメラシステムを提供する。
デッドゾーンとは、2次元のパノラマをレンダリングできるように、360度のパノラマ画像が分割されるゼロ度境界の周りのエリアである。本発明の一技法では、デッドゾーンにある被写体がパノラマのマージン間で分割されるのを防ぐため被写体が写し出されない位置へゼロ度境界の再方向付け(再配向)を行なう。この再配向は、カメラまたはカメラの一部分を物理的に回転して、あるいは再マッピング機能を利用してパノラマ画像を回転することにより、またフェーストラッキング機構を利用して実施することができる。別の技法では、通常分割されるデッドゾーン内のある被写体が全部再生されるように、一方のマージンに写し出された画像のうちの1つまたは複数の部分を、反対側のマージンに隣接して再生することを含む。これらの技法は、パノラマカメラのエンドポイント装置で、またはカメラから離れたクライアント装置で実施することができる。これらの技法はライブビデオ、またはすでに記録されているビデオの画像に適用することができる。
上記の本発明の態様および本発明の付属の利点の多くは、以下の詳細な説明を添付の図面と併せ読めば、より容易に理解でき、またより良く了解できよう。
本明細書において、パノラマ画像の左/右マージン境界で被写体画像を分割することなく、すなわち「デッドゾーン」なく360度(360°)のパノラマ画像を提供するカメラおよび技術について以下に説明する。本明細書で使用する場合、「デッドゾーン」という用語は、結果として得られたパノラマ画像が2次元フォーマットでの提示のために分割される、360度(360°)カメラによって撮像されたスペース内のあるエリアを指す。一般に、こうした分割が行われる境界に沿って位置する被写体は、2つの部分に写し出される。被写体の一部分はパノラマ画像の左マージンに写し出され、被写体の一部分はパノラマ画像の右マージンに写し出される。
本説明では、360度(360°)のエリアを撮像するパノラマカメラの例について言及するが、記載した技術のうちの1つまたは複数を、360度(360°)のエリア未満の撮像を行うカメラで使用することもできることに留意されたい。本明細書に記載したような「デッドゾーン」にある被写体が結果として得られた画像上で分割される限り、本技術を適用することができる。以下、図面を参照して本発明の実施するための最良の形態について詳細に説明する。
図1aおよび図1bは、デッドゾーンと、撮像された被写体(すなわちある人物)がデッドゾーンにいるときに一般に遭遇する問題とを示している。図1aは、典型的な会議室構成100を示す図である。この図示した構成は、一つの会議室用テーブル102、いくつかの会議室用椅子104、およびテーブル102の上部中央に設置されているパノラマカメラ106を含んでいる。
パノラマカメラ106から生じるゼロ度(0°)境界108が図示されている。ゼロ度(0°)境界108は、撮像エリアを2次元フォーマットで表示することができるように、撮像エリアが分割されるポイントを示す。ゼロ度(0°)境界108の周りにデッドゾーン110が図示されている。デッドゾーン110内に存在する被写体は、パノラマ画像をレンダリングすると、2つの部分的な画像に分割される可能性がある。例えば、会議室用椅子112に座っている人物は、2つの部分に写し出される可能性がある。その人物の顔の片側は、結果として得られるパノラマ画像の左マージンに隣接して写し出され、その人物の顔のもう一方の側は、結果として得られるパノラマ画像の右マージンに隣接して写し出されることとなる。
図1bは、ある人物がデッドゾーンに座っている場合の典型的なパノラマ画像120である。この典型的なパノラマ画像120は、左マージン122および右マージン124を有する。(会議室用椅子112に座っているかのように位置する)人物の顔の画像は、左マージン122に隣接して位置する第1の半分部分126、および右マージン124に隣接して位置する第2の半分部分128に示されている。これは、デッドゾーン110に座っている人物の顔が結果として得られるパノラマ画像にどのように写し出されるかの一例である。
360度(360°)のパノラマ画像でのデッドゾーンの問題を最小限に抑える本発明によるいくつかの技術について、本明細書で説明する。一つの技術は、ゼロ度(0°)境界(2次元フォーマットをレンダリングするために、結果として得られる画像が分割される位置)が被写体を含まないエリア、または重要ではない被写体を含むエリアに方向を合わせるように、カメラまたはカメラの一部分を物理的に回転させることを伴う。
デッドゾーン問題を最小限に抑える別の技術は、ソフトウェア、ハードウェア、ファームウェアなどにおけるコンピュータ命令の変換を経由して同様の調整を行うことである。本明細書に記載したパノラマカメラは、個々のカメラをいくつか使用して360度(360°)の範囲を撮像する(ただし、記載の技術は、最高360度(360°)に及ぶ単一のパノラマカメラに適用することができる)。ピクセルの再マッピング機能を使用して、個々の各画像内のピクセルをパノラマ画像に再マッピングする。撮像すべき被写体がデッドゾーンにある場合、被写体がデッドゾーンに写し出されないように、再マッピング機能を変更することができる(すなわち、パノラマ画像が回転される)。
記載の技術のうちの1つまたは複数では、ゼロ度(0°)境界の最適な向きを手動または自動で割出しすることができる。ゼロ度(0°)境界の自動割出しでは、フェーストラッキング(顔追跡)機構を使用して、人物の顔が写し出されないエリアを割出しする。次いで、ゼロ度(0°)境界がそのエリアに設定される。その結果、その境界を囲むデッドゾーンには人物が撮像されない。
本明細書に示し、記載した追加の技術は、ゼロ度(0°)境界に隣接する画像の一部分(すなわち結果として得られたパノラマ画像のマージンにある画像の一部分)を割出し、その反対側のマージンに隣接する画像のその部分を再生する。その結果、デッドゾーン内の人物が撮像された場合、その人物の画像がマージン上で分割される代わりに、その人物のフル画像がそのマージンの一方に隣接して写し出される。
これらの技術のすべては、本明細書に添付の図面を参照して、以下でより詳しく示し、記載している。本明細書に示し、記載した特定の実施形態は、限定ではなく、例示として示されていることに留意されたい。他のシステムおよび方法は、本明細書で提供した説明、および本明細書に添付の特許請求の範囲の意図および範囲内で実施することができる。
典型的な写真撮影装置
図2は、本説明による典型的なパノラマ写真撮影装置200の図である。これは典型的なパノラマ写真撮影装置200の特定の構成を示しているが、この特定の構成は単なる一例として示されており、本説明に従ってパノラマカメラ装置の他の構成を使用することができることに留意されたい。
典型的なパノラマ写真撮影装置200は、逆ピラミッド形ミラーアセンブリ(鏡面組立体)202および複数のカメラ206を含む。逆ピラミッド形ミラーアセンブリ202は、複数の鏡面204を含み、1つの鏡面204は複数のカメラ206のそれぞれに対応している。逆ピラミッド形ミラー202は、支柱208によって複数のカメラ206上に配置されている。
典型的なパノラマ写真撮影装置200の構成は、パノラマ写真撮影装置200によって形成されたパノラマ画像における視差を低減する映写中心付近を獲得する。
典型的なカメラ構成
図3は、典型的なパノラマカメラ300の360°カメラ構成の図である。この図は、図2に示すパノラマ写真撮影装置200の基礎表現である。本明細書にはマルチカメラ360°パノラマ写真撮影装置の一例を示し、説明しているが、本説明は、画像が2次元表現のために分割されるエリア内にある被写体の画像を分割する傾向にある任意の広角写真撮影装置に適用されることに留意されたい。以下の説明では、図2に示し記載した要素および参照番号を引き続き参照する。
この図は、図2の逆ピラミッド形ミラー202の五角形に対応する、五角形構成に配列されてパノラマカメラ300を形成する複数のカメラ302〜310を示している。各カメラ302〜310は、パノラマカメラ300の環境(周囲の状況)の異なるエリアを撮影する。
撮像エリアは完全な360度(360°)であり、結果として得られる画像は2次元フォーマットでレンダリングする必要があるため、結果として得られるパノラマ画像を「展開する」ことができるように、撮像エリアをあるポイントで分割する必要がある。結果として得られる画像での問題を引き起こす可能性があるのがこの分割である。というのは、こうした分割に沿って位置する被写体が、結果として得られる画像の両側のマージン(末端)に沿ってレンダリングされるからである。
典型的な画像アセンブリモジュール
図4は、パノラマ画像402を形成するために個々の画像10〜50をアセンブルする典型的な画像アセンブリモジュール400の図である。画像アセンブリモジュール400は、入力として、パノラマカメラの各カメラから1つの画像を受け取る。以下の説明のために、図3に示したカメラ302〜310によって撮影された画像を、それぞれ画像「1」10、画像「2」20、画像「3」30、画像「4」40、および画像「5」50と識別する。こうした個々の画像がアセンブリされて単一のパノラマ画像402を形成する。
画像アセンブリモジュール400は、個々の画像スペース内のピクセルをパノラマ画像スペース内のピクセルにマッピング(写像)する再マッピング(再配置)機能を使用する。個々の画像10〜50内のピクセルは、(u,v)座標格子401に従ってアドレス指定される。パノラマ画像402内のピクセルは、(x,y)座標格子403に従ってアドレス指定される。画像アセンブリモジュール400は、個々の画像10〜50内のすべてのピクセルがパノラマ画像402内に再生されるまで、各ピクセルを(u,v)座標から(x,y)座標位置にマッピングする。
再マッピング機能は、画像が結合されるところで個々の画像がシームレスに縫合(stitch)されるように校正される。これによって、パノラマ画像402がシームレスに見えるようになる、すなわち個々の画像の間に繁雑なアーティファクトが存在しなくなる。
パノラマ画像において画像の間の継ぎ目が最小限に抑えられるように個々の画像を適切に合成することが方法に求められるため、必ずしも個々の画像内のすべてのピクセルが結果として得られるパノラマ画像で使用されているわけでないことに留意されたい。さらに、パノラマ画像の視界を正規化するために、1つまたは複数の歪み補正アルゴリズムを適用することができる。
デッドゾーン(死角)問題の是正に使用することができる1つの技術は、片側のマージンに隣接する画像の一部分を再生し、この再生された部分をもう一方の側のマージンに追加することである。図4aで、個々の画像のデルタ部分δがパノラマ画像402の片側から再生され、パノラマ画像の反対側に追加されデルタダッシュ部分(delta prime portion)δ’で、360+δパノラマ画像が作成される。
δ’の幅は様々であり得るが、ここに記載したものと類似のテレビ会議の状況では、δ’はほぼ人物の顔の幅である。一般の会議室のパノラマでは、人物の顔の幅は一般に、その人物がカメラからどれだけ離れているかに応じて約4度から14度である。
δの幅は、デフォルト(初期設定)では、自動または手動で割出しすることができる。幅が手動で割出しされるとき、ユーザは、ユーザインターフェースと対話して、δの所望の幅を設定する。幅が自動で割出しされるとき(例えばフェーストラッカとの組合せで)、自動設定をある間隔で行われるように構成する必要がある。会議の状況は、様々なときに人が出入りするにつれて変わり得るからである。人物がデッドゾーンに出入りするたびにδの幅が自動的に調整される場合、望ましくない結果がもたらされる可能性がある。なお、自動の実施形態は、常にδの幅の自動割出しを無効にするユーザオプションを含み得る。
この技法については、1つまたは複数の次の図を参照して、以下でより詳しく説明する。以下で説明するように、この技法は、カメラを最初に所望の位置に方向をあわせることの有無にかかわらず、使用することができる。
デルタダッシュ部分δ’がパノラマ画像402に追加されると、パノラマ画像の幅(t)が(t+δ’)に増える。一般のパノラマ画像の縦横比が維持されるように、パノラマ画像402をサイズ変更することが望ましい場合がある。他の方法を使用してパノラマ画像をサイズ変更することができる。例えば、同じサイズおよび画像縦横比を維持するために、結果として得られたパノラマ画像402(t+δ’)を、パノラマ画像402の上部および/または下部に追加される水平帯片(horizontal strip)で引き延ばすことができる。
図4bは、図4aに示したパノラマ画像402に似たパノラマ画像410を示している。パノラマ画像410は、パノラマ画像410の各端部に1つの、2つのデルタ部分(δ)を含んでいる。パノラマ画像410を作成するプロセスでは、360度(360°)よりも大きいエリアが再生されるという点で、図4aを参照して説明したプロセスに似ている。
ゼロ度(0°)境界の各側に隣接する、パノラマカメラによって撮像されたサンプルは、名目上のパノラマ空間(nominal panoramic space)の第1の位置、およびパノラマ画像410の反対側の第2の位置の2つの位置にマッピングされる。
2つのデルタ部分(δ)をパノラマ画像に追加することによって、デッドゾーン内に座っている人物の画像は、結果として得られるパノラマ画像410に、各マージンの近くに一度ずつ、二度写し出される。しかし、後述するように、画像の再生部分の画像への追加を、パノラマ画像410内の人物の画像の重複を避ける1つまたは複数の他の方法と一体化することができる。
再生された画像の部分(δ)は、画像アセンブリプロセス中の任意の段階で確定することができる。一実施形態では、δがコピーされ、δ’がパノラマ画像402に追加される前にパノラマ画像402が作成される。他の実施形態は、再マッピングプロセス中にこのようにピクセルを複製するように構成された再マッピングテーブルを含み得る。こうした任意の方法を使用して、上述した同じ最終結果を達成することができる。
図5aは、テーブル502、椅子504、およびパノラマカメラ506の典型的な会議室の設定500を示している。図5aに示した例では、パノラマカメラ506のゼロ度(0°)境界508がテーブル502の誰も座っていない位置に手動で方向を合わされている。境界508の位置は、ユーザから見ることができる境界インジケータ509によってカメラ506上に示される。パノラマカメラ506を正しい方向に合わせるためには、ユーザは、図に示すように、(撮影)対象が写し出されない位置に境界インジケータ509が向けられているポイントにパノラマカメラ506を回転するだけである。
その結果、ゼロ度(0°)境界508の周りに生じるデッドゾーン510内には誰も写し出されない。したがって、会議室にいる各人は、パノラマカメラ506によってキャプチャー(捕捉、記録)されたパノラマ画像上に(分割されずに)完全に撮像される。
図5bは、パノラマカメラ506が誰もいない位置に方向を合わされているときに座っている会議の参加者522の典型的なパノラマ画像520の表現である。人物の各画像522が完全に表示されている。すなわち、人物の画像はパノラマ画像520のマージン間で分割されていない。
図5aおよび図5bに示した状況は、プロジェクタ画面が使用されている部屋の中など、デッドゾーンに最適な位置がある状況で頻繁に利用可能である。通常、会議室のテーブルとプロジェクタ画面との間には誰も座らないため、ゼロ度(0°)境界を配向する最適な位置は、プロジェクタ画面に向けられる。しかし、すべての状況がそのように最適に提示されるとは限らない。
ゼロ度境界を設定するための計算機能を利用した回転
ゼロ度(0°)境界の位置に向くようにカメラが物理的に再配向される上記の技術に加えて、ゼロ度(0°)境界がユーザによって手動で指示され、次いでゼロ度(0°)境界に対して画像を正しい方向に合わせる(orient)ように、計算機能を利用してパノラマ画像を回転させることができる。
パノラマ画像のこのような回転を達成するために、(図4の画像アセンブリモジュール400を参照して上述した)再マッピング機能は、公称(名目上の)ゼロ度(0°)境界と選択されたゼロ度(0°)境界との間の角差を計算する。パノラマ画像のマージンが選択されたゼロ度(0°)境界に対応する位置へパノラマ画像を回転させるために、この差が再マッピング機能の要素に組み入れられる。
回転は、公称ゼロ度(0°)境界と選択されたゼロ度(0°)境界との間の差(差分)と等しいオフセットをパノラマ画像(図4aの403)の(x,y)座標系のx座標に追加することによって達成される。
ゼロ度(0°)境界の設定は、いくつかの方法のうちの1つで達成することができる。例えば、パノラマカメラのユーザインターフェースユニット(図示せず)は、矢印ボタン(図示せず)など、境界インジケータの回転をもたらす手段を含み得る。ユーザは、右矢印ボタンまたは左矢印ボタンを押すことによって、(例えば液晶ディスプレイ上の)境界インジケータを位置あわせすることとなる。他の技術を使用して同じ結果を達成することもできる。
ゼロ度(0°)境界の自動位置設定
図6は、図5aに示したものと同様の典型的な会議室構成600を示している。典型的な会議室構成600は、会議室用テーブル602、いくつかの会議室用椅子604、およびパノラマカメラ606を含む。この例では、椅子604が会議室用テーブル602の両側および両端に沿って配置されている。したがって、カメラ606を配向(正しい位置に向けること)するべき位置がはっきりしていない。
図6では、パノラマカメラ606は、ゼロ度(0°)境界が2脚の椅子604の間のテーブル602の隅に配向された状態で示されている。ゼロ度(0°)境界608に関連付けられているデッドゾーン610は、参加者の画像の分割を避けるために、2人の会議の参加者の間にあわせる。
ゼロ度(0°)境界608は、上述したように、手動で配向することも、またはフェーストラッキング機構を使用して最適な位置に向かって自動で配向することもできる。フェーストラッキング機構または「フェーストラッカ」は、当分野では周知であり、ゼロ度(0°)境界608に最適な位置の割出しをするために使用することができる。
一般に、フェーストラッカを使用して割出しされた最適な位置は、複数の顔(または複数の他の被写体)間で検出された最大角度の中央である。フェーストラッキング機構は、撮像エリア内の各顔の位置を突き止め、隣接する2つの各顔の間の角度を割出しする。これらのうちの最大角度を使用して、ゼロ度(0°)境界608を配向する。
上記の境界選択機構の表現は、
Figure 2006191535
となり、式中、{θ1,...,θn}は、フェーストラッカによって検出されてソート(数値順に並べ替え)された顔の角度、θは顔間の最大分離を有する角度である。上記の式では、すべての角度の減算および加算は360度を法として計算されることに留意されたい。
最適な境界が割出しされると、再マッピング機能(上記の図4aの説明を参照)は、所望の境界が達成されるようにパノラマ画像を回転させるよう調整される。
ゼロ度(0°)境界を調整するこの技術および他の上記の技術については、後の図を参照して以下でさらに詳しく説明する。
典型的なカメラ
図7は、本明細書に記載した実施形態による典型的なパノラマカメラ700のブロック図である。以下の例では、典型的なパノラマカメラは、パノラマカメラだけではなく、1つまたは複数の代替実施形態において1つまたは複数の他の装置に分割することができる他の機能性を含む、おおよそ完全なテレビ会議のエンドポイント(端末)である。こうした代替実施形態の1つを以下の図8で示し、説明する。本説明および特許請求の範囲に従って、他の特定の構成を実施することができる。
以下の説明では、前の図に示し記載した要素および参照番号を引き続き参照する。特定の要素が示されており、特定の機能は特定の要素に帰属するが、示した機能を代替構成における代替要素に割り振ることができることに留意されたい。さらに、要素は、ハードウェアまたはソフトウェアの要素として示されているが、ハードウェア、ソフトウェア、またはファームウェアにおいて任意の要素を構成することができる。
典型的なパノラマカメラ700は、プロセッサ702、メモリ704、および少なくとも1つのカメラ706を含む。上記の例では、5つのカメラ706が1つのパノラマカメラに含まれている。パノラマカメラ700は、一般にカメラ(例えば電荷結合素子(CCD)、相捕型金属酸化膜半導体(CMOS)など)に見られる、光を感知し、電子情報を送信するための1つまたは複数のセンサ708も含んでいる。一般に、カメラ706ごとに1つのセンサ708がある。
また、パノラマカメラ700は、マイクロフォン710(またはマイクロフォンアレイ)および/または1つまたは複数のスピーカ712も含み得る。テレビ会議カメラでは、例えば、リモート会議の参加者間で音声通信を行うのにマイクロフォンおよびスピーカが必要である。
外部データを受信し、かつ/またはデータを送信するように構成されている1つまたは複数のユニットから成る入力/出力(I/O)モジュール714が含まれている。一般のI/Oモジュールの一例には、ユニバーサルシリアルバス(USB)または他のタイプのポートがあるが、I/Oモジュール714は、それだけには限定されない。また、I/Oモジュール714は、リモート位置でパノラマカメラ/クライアント装置と通信するように構成されているユニットも含み得る。これには、それだけには限定されないが、ネットワークインターフェースモジュール、電話インターフェースモジュールなどがある。
また、ユーザインターフェース716も、パノラマカメラ700に備えられており、ユーザがパノラマカメラ700とインターフェースをとることができるようにするコントロール(調整手段)およびディスプレイ(図示せず)を含む。こうしたコントロールには、ボタン、タッチパッド、タッチ画面、ポインティング装置などがある。使用できるディスプレイの1つのタイプには、それだけには限定されないが、液晶ディスプレイ(LCD)画面などがある。
境界インジケータ(指示器)718もパノラマカメラ700に含まれ得る。様々なタイプの境界インジケータ718を使用して、カメラ内のゼロ度(0°)境界の公称向き、すなわち、2次元画像をレンダリングするためにカメラ700によって撮影された画像が分割される軸を確認することができる。上記で示し、説明したように、境界インジケータ(図5の509)は、矢印、点、線など、カメラの外側部分上でマーキングすることができる。ユーザがインジケータの位置からゼロ度(0°)境界の方向を察することができる限り、他の任意のタイプのインジケータ(発光ダイオード(LED)など)を使用することができる。
電源モジュール720は、パノラマカメラ700に電力を供給するが、パノラマカメラ700は、こうしたカメラの一般の機能を実行するのに必要となり得る他の様々なハードウェア722要素を含む。
メモリ704は、パノラマカメラ700およびその構成要素の操作機能を実行するプロセッサ実行可能命令を含むオペレーティングシステム724を格納する。カメラ706によって検出された複数の画像726は、メモリ704に格納される。
1つまたは複数の再マッピングテーブル(再配置テーブル)728もメモリ704に格納され、再マッピングテーブル728は、再マッピングモジュール(再配置モジュール)730によって、パノラマ画像732を作成するために画像スペース(画像空間)からパノラマスペース(パノラマ空間)への個々の画像726の正しいマッピングを割出しするために使用される。
フェーストラッカ(顔追跡プログラムモジュール)734は、メモリ704に格納されており、例えば会議の状況の中で顔を自動的に検出するために使用される。当技術分野で知られているフェーストラッキング機構は、本明細書に記載されている目的でパノラマカメラ700に組み込むことができる。また、フェーストラッカ734は、顔の位置を突き止めることに加えて、2つの隣接する顔の間の角度または距離を計算するように構成されている。
1つまたは複数のフェーストラッキング機構の一例は、Yong RuiおよびYunqiang Chenによって2001年12月3日に「Automatic Detection and Tracking of Multiple Individuals Using Multiple Cues」という名称で出願され、本件特許出願人に譲渡された特許文献1により詳しく記載されている。
アセンブリモジュール736は、メモリ704に格納され、再マッピングモジュール730および再マッピングテーブル728とともに働いて個々の画像726をパノラマ画像732にアセンブル(編集)するように構成される。アセンブリモジュール736によって実行することができる1つの機能は、ゼロ度(0°)境界の片側に隣接する画像726の一部分(δ)を割出しすることであり、ゼロ度(0°)境界の周りのデッドゾーンについての問題を最小限に抑えるために、この一部分をゼロ度(0°)境界のもう一方の側に隣接して(δ’として)再生することができる。
こうした機能は、上記に記載しており、本説明に従ってパノラマカメラ700の特定の構成に含まれていても、含まれていなくてもよい。アセンブリモジュール736およびその機能について、以下でさらにより詳しく説明する。
メモリ704は、回転モジュール738も含む。回転モジュール738は、パノラマカメラ700のデフォルトまたは公称ゼロ度(0°)境界から実際のゼロ度(0°)境界(自動で設定、またはユーザによって手動で設定)までの間の距離を割出しするように構成されている。回転モジュール738は、再マッピング機能に含まれるべき適切なオフセット(x軸オフセット)を割出しする。ゼロ度(0°)境界をオフセットすることによって、デッドゾーンに関連付けられている潜在的な問題を、上述したように最小限に抑えることができる。
境界モジュール740も、パノラマカメラ700のメモリ704に含まれる。境界モジュール740は、公称境界742、実際の境界744、および境界差746の割出しに関連付けられている機能を処理する。公称境界742は、一般に、境界の指示をメモリまたはハードウェアに格納することによって製造プロセス中に設定されたデフォルトの境界位置である。その後に、公称境界742は取り出され、その後の計算で使用されることができる。
実際の境界744は、ユーザ入力、またはゼロ度(0°)境界に最適な位置を識別する自動計算から割出しされる。ユーザ入力は、ユーザインターフェース716から、またはユーザが所望の境界の方向を指すように設定した個別のハードウェア要素(手動ダイアルなど)から取り出すことができる。
あるいはまた、フェーストラッカ734を使用して、会議の参加者の顔の位置を割出しすることができる。フェーストラッカ734(または境界モジュール740など他の何らかのモジュール)は、次いで顔位置情報を使用して、ゼロ度(0°)境界に最適な位置、すなわち2人の顔の間の距離の中で最大距離を有する位置を割出しすることができる。次いで、再マッピング機能が適切なオフセットを実施するよう構成されるように、境界差746を度、オフセット単位などで割出しする。
典型的なクライアント装置
図8は、本説明による典型的なクライアント装置(サーバにつながっているコンピュータのこと)800のブロック図である。典型的なクライアント装置800は、パーソナルコンピュータなど、一般のコンピューティング装置でもよく、または特に本明細書に概説した目的で構成される限定機能装置でもよい。次の説明では、前の図およびそれらに関連付けられている要素および参照番号を引き続き参照する。
クライアント装置800は、図7に示した典型的なパノラマカメラ700などのパノラマカメラと通信するように構成されている。しかし、典型的なパノラマカメラ700は、図7の典型的なパノラマカメラに帰属するプロセスの一部を処理することができるクライアント装置800とともに使用するとき、有している構成要素がより少なくてもよいことに留意されたい。
また、クライアント装置800およびパノラマカメラ700は、遠隔位置にある別のクライアント装置(図示せず)および/またはパノラマカメラと通信するように構成することもできる。これは、クライアント装置およびリモートパノラマカメラをそれぞれ備える2つの会議室が電話線やネットワーク接続などの通信ラインを介して互いに通信する状況とすることができる。
クライアント装置800は、プロセッサ820、I/Oモジュール822、ディスプレイ824、レンダラ825、およびユーザインターフェース826を含む。ディスプレイ824は、図示したようにクライアント装置800と統合されていてもよく、またはクライアント装置800がパーソナルコンピュータであり、ディスプレイ824がモニタである構成などでクライアント装置800から分離されていてもよい。レンダラ825は、パノラマ画像838内のピクセル表現をディスプレイ824上にレンダリング(描画)するように構成されたビデオカードなどのモジュールである。
ユーザインターフェース826は、クライアント装置のユーザが、表示された画像において、見たい回転の方向および大きさを入力することを許容する画像シフタ827を含む。この機能については、以下でより詳しく説明する。
クライアント装置800は、オペレーティングシステム830およびRTP(Real−time Transport Protocol)ソースモジュール832を格納するメモリ828も含む。RTPソースモジュール832は、通信チャネル(図示せず)を介してパノラマカメラ700からパノラマ画像732を受信し、受信したパノラマ画像をパノラマ画像838として格納するように構成されている。この特定の例では、パノラマカメラ700は、個々の画像からパノラマ画像732を作成し、パノラマ画像をクライアント装置800に送信する。
他の様々な要素840〜852は、それぞれ図7の要素734〜746に類似し、対応している。上記要素は、後述することを除いて上述したように機能する。パノラマ画像838は、記憶され、パノラマ画像838が再生されているときに処理されて、デッドゾーンに関連する任意の悪影響を最小限に抑えることができる。後述するプロセスは、画像がパノラマカメラ700から受信されたときにリアルタイムで再生されるか、パノラマ画像838が受信され、記憶された後に再生されるかにかかわらず、記憶されたパノラマ画像838に適用することができる。
操作中、ユーザは、クライアント装置800を備える第1の会議室におり、パノラマカメラ700は第2の会議室802にある。この最初の例では、パノラマカメラ700は、ビデオ画像をクライアント装置800に流している。パノラマカメラ700は、初期ゼロ度境界を設定し、パノラマ画像を作成し、次いでそれをクライアント装置800に送信する。
パノラマ画像838がクライアント装置800によって受信された後、デッドゾーンに問題がある場合、すなわち人物の顔がパノラマ画像838において分割される場合に、パノラマ画像838を回転することができる。これは、フェーストラッカ830を使用して自動で、または画像シフタ827を使用して手動で達成することができる。
回転を手動で達成する1つの方法は、ユーザがポインティング装置(図示せず)で所望のゼロ度境界をクリックし、メニューから選択する、カーソルをドラッグするなどによって回転機能を実行することによるものである。画像を手動で回転させる他の技術も利用可能であり、この例の文脈で、それを行うための当技術分野で知られている任意の技術を実施することができる。
少なくとも1つの実施形態では、回転は、フェーストラッカによって達成することができるが、ユーザが望む場合、ユーザによって手動でオーバーライドする(覆す)ことができる。こうした実施形態については、図11を参照して後述する。
この例の文脈では、画像回転モジュール844は、当技術分野で知られている画像変形機能を実行する。新しいゼロ度境界が設定されると、画像は、新しいゼロ度境界の指示されたポイントで垂直に分割され、画像内に2つの矩形領域が作成される。次いで、2つの矩形領域を分割する線が次には新しいパノラマ画像のマージンとなるように、2つの矩形領域が場所を交換させられる。
レンダラ825が使用可能であり、こうした機能を実行するように構成されている場合、回転機能は、レンダラ825で実行することができることにも留意されたい。例えば、一部のビデオグラフィックアクセラレータは、こうした機能を処理するのに十分な処理能力を含み、こうしたユニットで回転機能を実行するのはより有効となり得る。
画像シフタ827がゼロ度境界を手動でリセットするように操作されるとき、画像回転モジュール844は、指示された回転の方向や大きさを示すフィードバックを受信する。クライアント装置800内の境界モジュール846は、パノラマカメラ700から受信された、またはフェーストラッカ840によって設定された公称境界848を格納する。実際の境界850は、検出された操作から識別される位置である。差(境界差852)は、公称境界848と実際の境界850との間の差である。境界差852を使用して、画像の回転を実行するために画像ピクセルがシフトされるオフセットを計算する。
典型的な方法の実施
図9は、パノラマ画像からデッドゾーンの影響を取り除くプロセスの典型的な方法の実施を示すフロー図900である。フロー図900に示した特定のプロセスは、上述した図7に関連している。特定の典型的な方法の実施を特定の順序で示しているが、記載の機能を実施するために実行するステップがより多くても、またはより少なくてもよいこと、およびステップはこの例に示したもの以外の順序で実行することができることに留意されたい。
ゼロ度(0°)境界に最適な位置は、割出しがフェーストラッカを使用するなどして自動で行われる(ブロック902で「Yes」の分岐)か、手動で行われる(ブロック902で「No」の分岐)かに応じてブロック904またはブロック906で割出しされる。
カメラは、ユーザが最適な位置を割出しすることができる手動セレクタを含み、公称境界位置と実際の境界位置との間のオフセットを特定する位置に手動セレクタを設定することができる。ブロック908で、ゼロ度(0°)境界は、それに従って設定される。
自動的に実行される場合に、フェーストラッキング機構は、会議室用テーブルの周りに座っている会議の参加者の顔の位置を自動で検出するために使用することができる。当技術分野で知られている任意のフェーストラッキング機構を使用して、この操作を達成することができる。顔の位置が認識されると、顔の間の最大エリアに関する割出しが行われる。次いでブロック908で、実際のゼロ度(0°)境界がこの最大エリアの中央に設定される。
実際のゼロ度(0°)境界が割出しされると、ブロック910でオフセットが割出しされる。オフセットは、実際のゼロ度(0°)境界と公称ゼロ度境界との間の差である。公称ゼロ度境界は、2次元パノラマ画像をレンダリングする目的で、360度画像が分割される位置である。これは、ハードウェアの機能に応じて、またはソフトウェア機構を介して予め割出しされているものである。
オフセットとは、新しく獲得された実際のゼロ度境界に対応するためにパノラマ画像が回転されなければならない距離である。これは、実際の距離で、度の単位で、または(x,y)座標系による再マッピング機能と互換性のある他の単位で、割出しされる。オフセットが割出しされると、オフセットは、再マッピング機能の要素に組み込まれる。
ブロック912で、個々の画像726が受信される。ブロック914で、再マッピングモジュールは、オフセットを考慮に入れて、個々の画像726をパノラマ画像732に再マッピング(再配置)する。その結果として得られる画像は、パノラマ画像の両側のマージン(端縁)間で人物の顔の画像を分割しない。
上記で概説したプロセスは、上記の任意の実施形態に従うように変更することができる、または本明細書に記載した説明に従って実行することができる一般的な手順であることに留意されたい。図9に示した特定のステップを任意の特定の実施形態で省略したり、変更したりしてもよい。さらに、この説明の範囲および特許請求の範囲から逸脱することなく、追加のステップを図9に示したものに含めることができる。
典型的な方法の実施:360°+δ
図10は、パノラマ画像の一部分を再生することによってパノラマ画像からデッドゾーンの影響を取り除くプロセスの典型的な方法の実施を示すフロー図1000である。フロー図1000に示したプロセスは、特に、上述した図7に示したブロック図に関連している。特定の典型的な方法の実施を特定の順序で示しているが、記載の機能を実施するために実行するステップがより多くても、またはより少なくてもよいこと、およびステップはこの例に示したもの以外の順序で実行することができることに留意されたい。
上述したように、ゼロ度(0°)境界に隣接するエリアを示す個々の画像726またはパノラマ画像732のうちの一方の1つまたは複数の部分を再生し、パノラマ画像に追加して、ゼロ度境界によって分割される任意の被写体が、パノラマ画像には分割されることなく丸ごと全部写し出される(図4aおよび図4b参照)ようにすることができる。この手順は、最適なゼロ度境界を再設定した上で実行してもよいが、最初にこうした割出しを行うことなく実行することもできる。
デッドゾーン内の画像が再生されるため、デッドゾーンに最適な位置を見つけることは必ずしも必要ではない。しかし、ある人物がデッドゾーンに座っており、この技術が適用される場合に、その人物の画像の一部分は、結果として得られるパノラマ画像のうちの一方のマージンに隣接して写し出され、その人物の顔の全画像は、もう一方のマージンに隣接して表示される。
ブロック1002で、ゼロ度(0°)境界に最適な位置は、上述した方法(図9の904〜906)と同じように割出しされる。ブロック1004で個々の画像726が受信され、ブロック1006でアセンブリモジュール736は画像726を編集して、パノラマ画像732を形成する。次いでアセンブリモジュール736は、(予め決定されている量を介して、または画像内の被写体に従って自動的に、または手動入力を介して)再生すべき一部分(δ)を決定する(ブロック1008)。
その一部分(δ)はδ’として再生され、再生された部分(δ’)はブロック1008でパノラマ画像732に追加される。上述したように、2つの部分(δ)は再生され、一方の再生部分(δ)がパノラマ画像732のそれぞれ反対側のマージンに追加される。
必要に応じて、結果として得られたパノラマ画像732は、ブロック1010で、δ’が追加されていないパノラマ画像と同じサイズにサイズ変更される(任意選択)。これは、水平方向にパノラマ画像732を縮小することによって、またはパノラマ画像732の上部および/または下部をデッドスペース(黒またはグレイのバーなど)で引き延ばすことによって行うことができる。
上述したように、上記のプロセスは、デッドゾーンにより遭遇する問題を最小限に抑えるために1つまたは複数の複製画像部分の追加を使用するいくつかの実装のうちの1つにすぎない。上記で列挙したステップの特定の詳説は、限定ではなく例として提供されている。
典型的な方法の実施:クライアント装置
図11は、パノラマ画像が作成され、一旦格納された後、パノラマ画像を回転することによってパノラマ画像内のデッドゾーンを最小限に抑えるプロセスを示すフロー図1100である。以下の説明では、前の図に示した要素および参照番号を引き続き参照する。フロー図1100によって示したプロセスは、上述した図8に示したブロック図を参照する。特定の典型的な方法の実施を特定の順序で示しているが、記載の機能を実施するために実行するステップがより多くても、またはより少なくてもよいこと、およびステップはこの例に示したもの以外の順序で実行することができることに留意されたい。
ブロック1102で、格納されたパノラマ画像838は、クライアント装置800によって受信される。パノラマ画像838は、リアルタイムでパノラマカメラ700から受信したり、それが格納された後のいつかにメモリ828から取り出したりすることができる。この時点で、パノラマ画像を2次元フォーマットでレンダリングするために、公称ゼロ度境界848が設定されている。しかし、公称ゼロ度境界848は、何らかのいくつかの理由のために、理想的な位置にはない可能性がある。
フェーストラッカが利用可能である(ブロック1104で「Yes」の分岐)場合、フェーストラッカ840は、パノラマ画像838をスキャンして、パノラマ画像838における顔の位置を突き止める(ブロック1106)。ゼロ度境界により良い位置が見つかった場合、境界モジュール846は、その位置を確定し、新しい境界が設定され、回転モジュール844は、ブロック1108で、それに応じてパノラマ画像838を回転させる。ユーザが回転された画像を承認した(ブロック1110で「Yes」の分岐)場合、このプロセスは終了する。
フェーストラッカが利用可能ではない(ブロック1104で「No」の分岐)場合、またはユーザがゼロ度境界の新しい位置が気に入らない(ブロック1110で「No」の分岐)場合、ユーザは、上述したように、ブロック1112でゼロ度境界を手動で再設定する。ユーザが境界を再設定すると、パノラマ画像838は、それに応じて回転され(ブロック1114)、プロセスが終了する。
その後、ユーザは、必要に応じてゼロ度境界を変更することができる。例えば、新しい参加者が会議に参加し、たまたまデッドゾーンに座った場合、ユーザは、新しい参加者の完全な画像を捕らえられるように境界を調整することを望む可能性がある。
結言
1つまたは複数の典型的な実施形態について示し、説明してきたが、本明細書に添付の特許請求の範囲の意図および範囲から逸脱することなく様々な変更を加えることができることを理解されたい。
パノラマカメラが設置されている典型的な会議室のテーブルおよび椅子を示す図である。 会議室のテーブルの周りにいる会議の参加者を示す典型的なパノラマ画像である。 逆ピラミッド形ミラーおよび複数のカメラを使用する典型的なパノラマ写真撮影装置を示す図である。 典型的なパノラマカメラ構成を示す図である。 個々の画像をアセンブルして、第1の複製されたセクションを含む典型的なパノラマ画像を形成する典型的な画像アセンブリモジュールを示す図である。 第2の複製されたセクションを含む図4aの典型的なパノラマ画像を示す図である。 テーブルにパノラマカメラが設置されている状態で典型的な会議室のテーブルおよび椅子を示す図である。 最小限のデッドゾーンを含む会議の参加者の典型的なパノラマ画像を示す図である。 テーブルにパノラマカメラが設置されている状態で典型的な会議室のテーブルおよび椅子を示す図である。 典型的なパノラマカメラを示すブロック図である。 典型的なクライアント装置および典型的な遠隔地のカメラ装置を示すブロック図である。 撮像エリアのゼロ度境界を変更することによってパノラマ画像内のデッドゾーンを最小限に抑える典型的なプロセスを示すフロー図である。 パノラマ画像マージンの一部分をパノラマ画像の反対側マージンで再生することによってパノラマ画像内のデッドゾーンを最小限に抑える典型的なプロセスを示すフロー図である。 クライアント装置においてパノラマ画像内のデッドゾーンを最小限に抑える典型的なプロセスを示すフロー図である。
符号の説明
100 会議室構成
102 会議室用テーブル
104 会議室用椅子
106 パノラマカメラ
108 ゼロ度(0°)境界
110 デッドゾーン(死角)
112 会議室用椅子に座っている人物
120 典型的なパノラマ画像
122 左マージン(左端)
124 右マージン(右端)
126 第1の半分部分
128 第2の半分部分
200 典型的なパノラマ写真撮影装置
202 逆ピラミッド形ミラーアッセンブリ
204 1つの鏡面
206 複数のカメラ
208 柱
300 典型的なパノラマカメラ
302〜310 複数のカメラ
400 画像アセンブリモジュール
401 (u, v)座標格子
402 パノラマ画像
403 (x, y)座標格子
410 パノラマ画像
500 典型的な会議室の設定
502 テーブル
504 椅子
506 パノラマカメラ
508 ゼロ度(0°)境界
509 境界インジケータ
510 デットゾーン
520 パノラマ画像
522 会議の参加者
600 典型的な会議室構成
602 会議室用テーブル
604 会議室用椅子
606 パノラマカメラ
608 ゼロ度(0°)境界
610 デッドゾーン
700 パノラマカメラ
702 プロセッサ
704 メモリ
706 カメラ
708 センサ
710 マイク
712 スピーカ
714 入力/出力モジュール
716 ユーザインターフェース
718 境界インジケータ
720 電源モジュール
722 その他のハードウェア
724 オペレーティングシステム
726 画像
728 再マッピングテーブル
730 再マッピングモジュール
732 パノラマ画像
734 フェーストラッカ
736 アセンブリモジュール(δ)
738 画像回転モジュール
740 境界モジュール
742 公称境界
744 実際の境界
746 境界差
800 クライアント装置
820 プロセッサ
822 入力/出力モジュール
824 ディスプレイ
825 レンダラ
826 ユーザインターフェース
827 画像シフタ
828 メモリ
830 オペレーションシステム
832 RTPソース
838 格納されているパノラマ画像
840 フェーストラッカ
842 アセンブリモジュール(δ)
844 画像回転モジュール
846 境界モジュール
848 公称境界
850 実際の境界
852 境界差

Claims (20)

  1. 最大360度(360°)までの広範なエリアの画像を生成するように構成されている1つまたは複数のカメラと、
    カメラシステムによって生成された前記広範なエリアの2次元画像がそこで分割されるゼロ度境界の位置を割出しする手段と、
    前記ゼロ度境界に従って前記カメラ画像からのピクセルをパノラマスペースに再マッピングするように構成されている再マッピングモジュールと、
    を含み、前記パノラマスペースからレンダリングされるパノラマ画像は、前記ゼロ度境界に対応する左マージンおよび右マージンを有する
    ことを特徴とするカメラシステム。
  2. ゼロ度境界の位置を割出しする前記手段は、ゼロ度境界の前記位置に対象が存在しない前記広範なエリアの一部分を自動的に割出しする手段をさらに含むことを特徴とする請求項1に記載のカメラシステム。
  3. ゼロ度境界の位置を割出しする前記手段はフェーストラッカをさらに含むことを特徴とする請求項2に記載のカメラシステム。
  4. クライアント装置に前記の非カメラ要素のうちの1つまたは複数が含まれることを特徴とする請求項1に記載のカメラシステム。
  5. さらに、前記広範なエリアは少なくとも360度(360°)の範囲を含むことを特徴とする請求項1に記載のカメラシステム。
  6. さらに、前記再マッピングモジュールは、前記カメラで撮影された前記画像の一部分が前記パノラマスペースに2回含まれるように前記一部分を複製するように構成されていることを特徴とする請求項1に記載のカメラシステム。
  7. パノラマ画像を受信するステップと、
    前記パノラマ画像に対するゼロ度境界の位置を割出しするステップと、
    前記ゼロ度境界に対して前記パノラマ画像を変形させて、前記ゼロ度境界に関連付けられているデッドゾーンを最小限に抑えるステップと
    を含むことを特徴とする方法。
  8. 前記受信するステップは、パノラマカメラからビデオストリームで前記パノラマ画像を受信するステップをさらに含むことを特徴とする請求項7に記載の方法。
  9. 前記受信するステップは、画像記憶位置から前記パノラマ画像を受信するステップをさらに含むことを特徴とする請求項7に記載の方法。
  10. 前記割出しするステップは、撮像すべき被写体を含まない位置を示すようにゼロ度インジケータを設定するステップをさらに含むことを特徴とする請求項7に記載の方法。
  11. 前記割出しするステップは、撮像すべき被写体を含まない位置である、前記ゼロ度境界に最適な位置を自動的に検出するステップをさらに含むことを特徴とする請求項7に記載の方法。
  12. 前記割出しするステップは、フェーストラッキング機構を使用して、顔が存在しない位置が前記ゼロ度境界の前記位置になるように割り出しするステップをさらに含むことを特徴とする請求項7に記載の方法。
  13. 前記変形させるステップは、前記ゼロ度境界に隣接するエリアである、前記パノラマ画像内の前記パノラマエリアのうちの少なくとも一部分を複製するステップをさらに含むことを特徴とする請求項7に記載の方法。
  14. 前記パノラマ画像を正規化されたパノラマスペースにサイズ変更するステップをさらに含むことを特徴とする請求項12に記載の方法。
  15. 実行時において、
    パノラマエリアに対するゼロ度境界の位置を割出しするステップと、
    前記パノラマエリアのうちの1つまたは複数の画像を受信するステップと、
    前記ゼロ度境界がパノラマ画像の少なくとも一方のマージンによって表されるように、前記1つまたは複数の画像を前記パノラマ画像にマッピングするステップと
    を実行することを特徴とする実行可能命令を含む1つまたは複数のコンピュータ可読媒体。
  16. 前記割出しするステップは、前記ゼロ度境界に対象がいない位置を割出しするステップをさらに含むことを特徴とする請求項15に記載の1つまたは複数のコンピュータ可読媒体。
  17. 前記割出しするステップは、前記ゼロ度境界の前記位置の指示を受信するステップをさらに含むことを特徴とする請求項15に記載の1つまたは複数のコンピュータ可読媒体。
  18. 前記パノラマ画像内の前記ゼロ度境界に隣接して位置する前記パノラマエリアの画像の一部分を複製するステップをさらに含むことを特徴とする請求項15に記載の1つまたは複数のコンピュータ可読媒体。
  19. 前記受信するステップは第1のパノラマ画像を受信するステップをさらに含み、
    前記再マッピングするステップは、前記第1のパノラマ画像を第2のパノラマ画像に再マッピングするステップをさらに含む
    ことを特徴とする請求項15に記載の1つまたは複数のコンピュータ可読媒体。
  20. 前記受信するステップは、格納されているパノラマ画像をメモリから取り出すステップをさらに含むことを特徴とする請求項19に記載の1つまたは複数のコンピュータ可読媒体。
JP2005322661A 2004-12-30 2005-11-07 パノラマカメラのデッドゾーンを最小限に抑える方法とシステム Expired - Fee Related JP4890005B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US11/026,466 2004-12-30
US11/026,466 US7782357B2 (en) 2002-06-21 2004-12-30 Minimizing dead zones in panoramic images

Publications (2)

Publication Number Publication Date
JP2006191535A true JP2006191535A (ja) 2006-07-20
JP4890005B2 JP4890005B2 (ja) 2012-03-07

Family

ID=36088562

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005322661A Expired - Fee Related JP4890005B2 (ja) 2004-12-30 2005-11-07 パノラマカメラのデッドゾーンを最小限に抑える方法とシステム

Country Status (5)

Country Link
US (1) US7782357B2 (ja)
EP (1) EP1677534B1 (ja)
JP (1) JP4890005B2 (ja)
KR (1) KR101201107B1 (ja)
CN (1) CN1837952B (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011145322A1 (ja) * 2010-05-17 2011-11-24 パナソニック株式会社 パノラマ展開画像表示装置およびパノラマ展開画像表示方法
US8798360B2 (en) 2011-06-15 2014-08-05 Samsung Techwin Co., Ltd. Method for stitching image in digital image processing apparatus
JP2016503618A (ja) * 2012-11-15 2016-02-04 ジロプティック パノラマまたは立体画像ストリームを取り込みかつレンダリングするためのプロセスおよび装置
US10200606B2 (en) 2014-11-07 2019-02-05 Canon Kabushiki Kaisha Image processing apparatus and control method of the same
JP2019133310A (ja) * 2018-01-30 2019-08-08 フォージビジョン株式会社 画像処理装置、画像処理プログラム及び画像処理方法
WO2019156471A1 (ko) * 2018-02-09 2019-08-15 삼성전자 주식회사 전자 장치 및 전자 장치의 전 방향 영상 표시 방법

Families Citing this family (44)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7259784B2 (en) 2002-06-21 2007-08-21 Microsoft Corporation System and method for camera color calibration and image stitching
US7602412B2 (en) * 2002-06-21 2009-10-13 Microsoft Corporation Temperature compensation in multi-camera photographic devices
US7598975B2 (en) 2002-06-21 2009-10-06 Microsoft Corporation Automatic face extraction for use in recorded meetings timelines
US8024189B2 (en) 2006-06-22 2011-09-20 Microsoft Corporation Identification of people using multiple types of input
GB2440993C (en) * 2006-07-25 2014-03-19 Sony Comp Entertainment Europe Apparatus and method of interaction with a data processor
US7817354B2 (en) * 2006-10-25 2010-10-19 Capsovision Inc. Panoramic imaging system
JP5084696B2 (ja) * 2008-10-27 2012-11-28 三洋電機株式会社 画像処理装置、画像処理方法及び電子機器
JP5247356B2 (ja) * 2008-10-29 2013-07-24 キヤノン株式会社 情報処理装置およびその制御方法
JP5483863B2 (ja) * 2008-11-12 2014-05-07 キヤノン株式会社 情報処理装置およびその制御方法
CN101668160B (zh) * 2009-09-10 2012-08-29 华为终端有限公司 视频图像数据处理方法、装置及视频会议系统及终端
JP5593695B2 (ja) * 2009-12-28 2014-09-24 ソニー株式会社 画像処理装置、画像処理方法及びプログラム
CN103703755B (zh) * 2011-07-22 2016-02-10 富士胶片株式会社 全景图像产生方法和图像捕获设备
CN103797787B (zh) * 2012-09-10 2017-06-20 华为技术有限公司 图像处理方法和图像处理设备
US9124762B2 (en) 2012-12-20 2015-09-01 Microsoft Technology Licensing, Llc Privacy camera
US9662564B1 (en) * 2013-03-11 2017-05-30 Google Inc. Systems and methods for generating three-dimensional image models using game-based image acquisition
US9533618B2 (en) * 2014-03-07 2017-01-03 Texas Instruments Incorporated Method, apparatus and system for processing a display from a surround view camera solution
US9892493B2 (en) 2014-04-21 2018-02-13 Texas Instruments Incorporated Method, apparatus and system for performing geometric calibration for surround view camera solution
JP2017519250A (ja) 2014-05-06 2017-07-13 ザカリヤ ニアジZakariya Niazi 撮像システム、方法及び用途
CN105828022A (zh) * 2015-01-06 2016-08-03 上海酷景信息技术有限公司 一种基于正多面体的360 度无盲区全景视频拍摄设备
KR20160088719A (ko) * 2015-01-16 2016-07-26 삼성전자주식회사 이미지를 촬영하는 전자 장치 및 방법
KR20170001223A (ko) * 2015-06-26 2017-01-04 삼성전자주식회사 정보 추출 시스템, 정보 추출 장치, 그의 정보 추출 방법 및 비일시적 컴퓨터 판독가능 기록매체
USD788725S1 (en) * 2015-09-11 2017-06-06 Polycom, Inc. Videoconferencing unit
GB2548558A (en) * 2016-03-17 2017-09-27 Nokia Technologies Oy Method and apparatus for processing video information
WO2017175888A1 (ko) * 2016-04-05 2017-10-12 삼성전자 주식회사 이미지 처리 방법 및 장치
US20180063426A1 (en) * 2016-08-31 2018-03-01 Nokia Technologies Oy Method, apparatus and computer program product for indicating a seam of an image in a corresponding area of a scene
EP3340611B1 (en) 2016-12-20 2020-07-29 Nokia Technologies Oy An apparatus and associated methods for virtual reality scene capture
US10999602B2 (en) 2016-12-23 2021-05-04 Apple Inc. Sphere projected motion estimation/compensation and mode decision
WO2018123646A1 (ja) * 2016-12-28 2018-07-05 ソニー株式会社 生成装置、識別情報生成方法、再生装置および画像生成方法
US11259046B2 (en) 2017-02-15 2022-02-22 Apple Inc. Processing of equirectangular object data to compensate for distortion by spherical projections
US10924747B2 (en) 2017-02-27 2021-02-16 Apple Inc. Video coding techniques for multi-view video
JP6485655B2 (ja) 2017-03-27 2019-03-20 日本電気株式会社 顔認証装置、顔認証方法、および顔認証プログラム
US11093752B2 (en) 2017-06-02 2021-08-17 Apple Inc. Object tracking in multi-view video
WO2018235300A1 (ja) * 2017-06-23 2018-12-27 日本電気株式会社 物体検知装置、物体検知方法、及びコンピュータ読み取り可能な記録媒体
EP3422724B1 (en) 2017-06-26 2024-05-01 Nokia Technologies Oy An apparatus, a method and a computer program for omnidirectional video
US20190005709A1 (en) * 2017-06-30 2019-01-03 Apple Inc. Techniques for Correction of Visual Artifacts in Multi-View Images
US10754242B2 (en) 2017-06-30 2020-08-25 Apple Inc. Adaptive resolution and projection format in multi-direction video
JP7210188B2 (ja) * 2017-08-31 2023-01-23 キヤノン株式会社 情報処理システム、制御装置及び情報処理方法
CN108055500B (zh) * 2017-11-21 2020-06-05 北京隐身工程技术研究院有限公司 一种红外全景监控中两个全景显示区的连续显示方法
CN108257086B (zh) * 2017-12-22 2021-04-13 微幻科技(北京)有限公司 一种全景照片处理的方法及装置
US10951859B2 (en) 2018-05-30 2021-03-16 Microsoft Technology Licensing, Llc Videoconferencing device and method
US11798126B2 (en) 2018-07-30 2023-10-24 Hewlett-Packard Development Company, L.P. Neural network identification of objects in 360-degree images
EP3668087A1 (en) * 2018-12-14 2020-06-17 Carrier Corporation Video monitoring system workspace
CN110570448A (zh) * 2019-09-07 2019-12-13 深圳岚锋创视网络科技有限公司 一种全景视频的目标追踪方法、装置及便携式终端
TWI742481B (zh) * 2019-12-09 2021-10-11 茂傑國際股份有限公司 視訊會議全景影像展開方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000089703A (ja) * 1998-08-28 2000-03-31 Lucent Technol Inc アイコン基準パノラマ画像表示
JP2001094857A (ja) * 1999-08-09 2001-04-06 Fuji Xerox Co Ltd バーチャル・カメラの制御方法、カメラアレイ、及びカメラアレイの整合方法
JP2003018561A (ja) * 2001-07-04 2003-01-17 Ricoh Co Ltd 広角画像録画再生システム、会議録画再生システム、広角画像送出装置、会議画像送出装置、広角画像再生装置、会議画像再生装置、広角画像録画再生方法、会議録画再生方法、広角画像送出方法、会議画像送出方法、広角画像再生方法、会議画像再生方法およびプログラム
JP2003235058A (ja) * 2002-02-12 2003-08-22 Sony Corp 視点自由形画像表示装置及び方法、記憶媒体、コンピュータ・プログラム、放送システム、並びに、付加情報管理装置及び方法
JP2004054928A (ja) * 2002-06-21 2004-02-19 Microsoft Corp カメラのイメージステッチングのためのシステムおよび方法

Family Cites Families (54)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3118340A (en) * 1964-01-21 Panoramic motion picture camera arrangement
CA927646A (en) * 1970-09-09 1973-06-05 Watanuki Toshio Camera for taking hemispherical motion picture
JPS59196679A (ja) 1983-04-22 1984-11-08 Toshiba Corp 複数のカラ−テレビジヨンカメラのホワイトバランス調整方式
US5504524A (en) 1993-10-15 1996-04-02 Vlsi Vision Limited Method and apparatus for controlling color balance of a video signal
US5796426A (en) * 1994-05-27 1998-08-18 Warp, Ltd. Wide-angle image dewarping method and apparatus
JP3458486B2 (ja) 1994-10-25 2003-10-20 松下電器産業株式会社 全方位撮影装置及び全方位画像合成装置
US5990934A (en) * 1995-04-28 1999-11-23 Lucent Technologies, Inc. Method and system for panoramic viewing
US5745305A (en) * 1995-04-28 1998-04-28 Lucent Technologies Inc. Panoramic viewing apparatus
US5793527A (en) * 1995-06-30 1998-08-11 Lucent Technologies Inc. High resolution viewing system
US5539483A (en) * 1995-06-30 1996-07-23 At&T Corp. Panoramic projection apparatus
US6115176A (en) * 1995-11-30 2000-09-05 Lucent Technologies Inc. Spherical viewing/projection apparatus
US6111702A (en) * 1995-11-30 2000-08-29 Lucent Technologies Inc. Panoramic viewing system with offset virtual optical centers
US5790183A (en) * 1996-04-05 1998-08-04 Kerbyson; Gerald M. High-resolution panoramic television surveillance system with synoptic wide-angle field of view
US6493032B1 (en) * 1996-06-24 2002-12-10 Be Here Corporation Imaging arrangement which allows for capturing an image of a view at different resolutions
US6373642B1 (en) * 1996-06-24 2002-04-16 Be Here Corporation Panoramic imaging arrangement
US6331869B1 (en) 1998-08-07 2001-12-18 Be Here Corporation Method and apparatus for electronically distributing motion panoramic images
US6341044B1 (en) * 1996-06-24 2002-01-22 Be Here Corporation Panoramic imaging arrangement
US6459451B2 (en) * 1996-06-24 2002-10-01 Be Here Corporation Method and apparatus for a panoramic camera to capture a 360 degree image
AU6515798A (en) 1997-04-16 1998-11-11 Isight Ltd. Video teleconferencing
US6466254B1 (en) 1997-05-08 2002-10-15 Be Here Corporation Method and apparatus for electronically distributing motion panoramic images
US6043837A (en) 1997-05-08 2000-03-28 Be Here Corporation Method and apparatus for electronically distributing images from a panoptic camera system
US6356296B1 (en) * 1997-05-08 2002-03-12 Behere Corporation Method and apparatus for implementing a panoptic camera system
US6101287A (en) 1998-05-27 2000-08-08 Intel Corporation Dark frame subtraction
JP4194133B2 (ja) 1998-06-24 2008-12-10 キヤノン株式会社 画像処理方法及び装置及び記憶媒体
US6977676B1 (en) * 1998-07-08 2005-12-20 Canon Kabushiki Kaisha Camera control system
US6924832B1 (en) * 1998-08-07 2005-08-02 Be Here Corporation Method, apparatus & computer program product for tracking objects in a warped video image
US6195204B1 (en) * 1998-08-28 2001-02-27 Lucent Technologies Inc. Compact high resolution panoramic viewing system
US6128143A (en) * 1998-08-28 2000-10-03 Lucent Technologies Inc. Panoramic viewing system with support stand
US6141145A (en) 1998-08-28 2000-10-31 Lucent Technologies Stereo panoramic viewing system
US6144501A (en) * 1998-08-28 2000-11-07 Lucent Technologies Inc. Split mirrored panoramic image display
JP2000152168A (ja) * 1998-11-13 2000-05-30 Olympus Optical Co Ltd 画像再生装置
US6369818B1 (en) 1998-11-25 2002-04-09 Be Here Corporation Method, apparatus and computer program product for generating perspective corrected data from warped information
US6597520B2 (en) * 1999-01-13 2003-07-22 Be Here Corporation Panoramic imaging arrangement
US6175454B1 (en) 1999-01-13 2001-01-16 Behere Corporation Panoramic imaging arrangement
US6788340B1 (en) 1999-03-15 2004-09-07 Texas Instruments Incorporated Digital imaging control with selective intensity resolution enhancement
TW420937B (en) 1999-05-06 2001-02-01 Umax Data Systems Inc Dynamic calibration method
US6795106B1 (en) 1999-05-18 2004-09-21 Intel Corporation Method and apparatus for controlling a video camera in a video conferencing system
JP4581210B2 (ja) * 2000-09-29 2010-11-17 日本電気株式会社 テレビ会議システム
US6741250B1 (en) * 2001-02-09 2004-05-25 Be Here Corporation Method and system for generation of multiple viewpoints into a scene viewed by motionless cameras and for presentation of a view path
US6756990B2 (en) * 2001-04-03 2004-06-29 Be Here Corporation Image filtering on 3D objects using 2D manifolds
US20040021764A1 (en) * 2002-01-28 2004-02-05 Be Here Corporation Visual teleconferencing apparatus
US20040008423A1 (en) * 2002-01-28 2004-01-15 Driscoll Edward C. Visual teleconferencing apparatus
US20030142402A1 (en) 2002-01-30 2003-07-31 Be Here Corporation Method and apparatus for triggering a remote flash on a camera with a panoramic lens
US20030146982A1 (en) 2002-02-01 2003-08-07 Tindall John R. Special color pigments for calibrating video cameras
US6995791B2 (en) 2002-04-02 2006-02-07 Freescale Semiconductor, Inc. Automatic white balance for digital imaging
US6917702B2 (en) 2002-04-24 2005-07-12 Mitsubishi Electric Research Labs, Inc. Calibration of multiple cameras for a turntable-based 3D scanner
US7012757B2 (en) * 2002-05-08 2006-03-14 Be Here Corporation Method for designing a lens system and resulting apparatus
US20030220971A1 (en) 2002-05-23 2003-11-27 International Business Machines Corporation Method and apparatus for video conferencing with audio redirection within a 360 degree view
US20050046703A1 (en) 2002-06-21 2005-03-03 Cutler Ross G. Color calibration in photographic devices
US7598975B2 (en) 2002-06-21 2009-10-06 Microsoft Corporation Automatic face extraction for use in recorded meetings timelines
US7602412B2 (en) 2002-06-21 2009-10-13 Microsoft Corporation Temperature compensation in multi-camera photographic devices
US8599266B2 (en) 2002-07-01 2013-12-03 The Regents Of The University Of California Digital processing of video images
US20040254982A1 (en) 2003-06-12 2004-12-16 Hoffman Robert G. Receiving system for video conferencing system
US7019918B2 (en) 2003-06-12 2006-03-28 Be Here Corporation Panoramic imaging system

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000089703A (ja) * 1998-08-28 2000-03-31 Lucent Technol Inc アイコン基準パノラマ画像表示
JP2001094857A (ja) * 1999-08-09 2001-04-06 Fuji Xerox Co Ltd バーチャル・カメラの制御方法、カメラアレイ、及びカメラアレイの整合方法
JP2003018561A (ja) * 2001-07-04 2003-01-17 Ricoh Co Ltd 広角画像録画再生システム、会議録画再生システム、広角画像送出装置、会議画像送出装置、広角画像再生装置、会議画像再生装置、広角画像録画再生方法、会議録画再生方法、広角画像送出方法、会議画像送出方法、広角画像再生方法、会議画像再生方法およびプログラム
JP2003235058A (ja) * 2002-02-12 2003-08-22 Sony Corp 視点自由形画像表示装置及び方法、記憶媒体、コンピュータ・プログラム、放送システム、並びに、付加情報管理装置及び方法
JP2004054928A (ja) * 2002-06-21 2004-02-19 Microsoft Corp カメラのイメージステッチングのためのシステムおよび方法

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011145322A1 (ja) * 2010-05-17 2011-11-24 パナソニック株式会社 パノラマ展開画像表示装置およびパノラマ展開画像表示方法
US9374528B2 (en) 2010-05-17 2016-06-21 Panasonic Intellectual Property Management Co., Ltd. Panoramic expansion image display device and method of displaying panoramic expansion image
US8798360B2 (en) 2011-06-15 2014-08-05 Samsung Techwin Co., Ltd. Method for stitching image in digital image processing apparatus
JP2016503618A (ja) * 2012-11-15 2016-02-04 ジロプティック パノラマまたは立体画像ストリームを取り込みかつレンダリングするためのプロセスおよび装置
JP2019041389A (ja) * 2012-11-15 2019-03-14 ジロプティック パノラマまたは立体画像ストリームを取り込みかつレンダリングするためのプロセスおよび装置
US10200606B2 (en) 2014-11-07 2019-02-05 Canon Kabushiki Kaisha Image processing apparatus and control method of the same
JP2019133310A (ja) * 2018-01-30 2019-08-08 フォージビジョン株式会社 画像処理装置、画像処理プログラム及び画像処理方法
WO2019156471A1 (ko) * 2018-02-09 2019-08-15 삼성전자 주식회사 전자 장치 및 전자 장치의 전 방향 영상 표시 방법

Also Published As

Publication number Publication date
CN1837952B (zh) 2010-09-29
US7782357B2 (en) 2010-08-24
EP1677534A1 (en) 2006-07-05
KR101201107B1 (ko) 2012-11-13
CN1837952A (zh) 2006-09-27
JP4890005B2 (ja) 2012-03-07
US20050151837A1 (en) 2005-07-14
EP1677534B1 (en) 2014-05-14
KR20060079079A (ko) 2006-07-05

Similar Documents

Publication Publication Date Title
JP4890005B2 (ja) パノラマカメラのデッドゾーンを最小限に抑える方法とシステム
US7593042B2 (en) Maintenance of panoramic camera orientation
US7768544B2 (en) Embedding a panoramic image in a video stream
US7277118B2 (en) Method and system for compensating for parallax in multiple camera systems
US7298392B2 (en) Omni-directional camera design for video conferencing
US7855752B2 (en) Method and system for producing seamless composite images having non-uniform resolution from a multi-imager system
US7084904B2 (en) Foveated wide-angle imaging system and method for capturing and viewing wide-angle images in real time
CN110730296B (zh) 图像处理装置、图像处理方法及计算机可读介质
KR100986228B1 (ko) 카메라 장치 및 화상 기록 재생 방법
JP2006262030A (ja) 画角調整装置、カメラシステムおよび画角調整方法
WO2022046810A2 (en) Merging webcam signals from multiple cameras
JP2006039564A (ja) カメラシステム及びパノラマカメラシステム
US11244423B2 (en) Image processing apparatus, image processing method, and storage medium for generating a panoramic image
US9372530B2 (en) Aspect-ratio independent, multimedia capture and editing systems and methods thereof
WO2007119712A1 (ja) カメラ装置、画像処理装置および画像処理方法
JP2006180022A (ja) 画像処理システム
JP5781017B2 (ja) 映像会話システム
JP2005286925A (ja) カメラ撮影領域情報の登録方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081106

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20090901

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20091008

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100909

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100922

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101221

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110802

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111101

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111118

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111214

R150 Certificate of patent or registration of utility model

Ref document number: 4890005

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141222

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees