[0001]本開示は、マルチカメラシステム(multi-camera system)を含む撮像システム(imaging systems)および方法に関する。具体的には、本開示は、薄いフォームファクタにおいて広視野画像(wide field of view images)をキャプチャするためのシステムおよび方法に関する。
[0002]携帯電話およびタブレットコンピューティングデバイスなどの多くのモバイルデバイスは、静止画像および/またはビデオ画像をキャプチャするためにユーザによって操作され得るカメラを含む。撮像システムは、典型的には、高品質の画像をキャプチャするように設計されているので、視差のない、または実質的に視差のないようにカメラまたは撮像システムを設計することが重要であり得る。さらに、キャプチャされた画像に視差がない(parallax free)、または実質的に視差がない広視野のシーンの画像をキャプチャすることが撮像システムに望まれることがある。撮像システムは、中心点の近くの複数のロケーションからシーンの様々な視野をキャプチャするために使用され得る。しかしながら、これらの設計の多くは、視野(fields of view)が中心点からではなく様々なロケーションから発する(originate)ので、視差(parallax)の量が大きい画像を伴う。
[0003]1つのイノベーションの一例は、4、8、またはそれよりも多くのカメラを有する光学構成要素(optical component)を含む撮像システムを含む。光学構成要素は、少なくとも4、8、またはそれよりも多くの光再配向反射ミラー面(light redirecting reflective mirror surfaces)を含み得る。少なくとも4つのカメラは、各々、ターゲットシーンの複数の部分画像のうちの1つをキャプチャするように構成される。少なくとも4つのカメラの各々は、光軸(optical axis)と、レンズアセンブリと、画像センサ、センサのアレイ、写真フィルムなど(以下、画像センサまたはセンサと総称する)の画像キャプチャデバイスと、を有する。光軸は、光学構成要素の少なくとも4つの光再配向反射ミラー面のうちの対応する1つと整列される。レンズアセンブリは、少なくとも4つの光再配向反射ミラー面のうちの対応する1つから再配向された(redirected)ターゲットシーンの複数の部分画像のうちの1つを表す光を受け取るように位置決めされる。画像センサは、光がレンズアセンブリを通過した後にその光を受け取る。
[0004]別のイノベーションの一例は、光を受け取ることと、光を分割すること(splitting)と、光の各部分を再配向すること(redirecting)と、少なくとも4つのカメラの各々について画像をキャプチャすることとを含む、実質的に視差のない画像(image substantially free of parallax)をキャプチャする方法を含む。このイノベーションのいくつかの実施形態では、ターゲット画像シーンを表す光は、本質的には、カメラシステム内の各カメラおよびミラー面対に関連付けられた複数の仮想入射瞳(virtual entrance pupil)からなる仮想入射瞳を介して受け取られる。受け取られた光は、少なくとも4または8の光再配向反射ミラー面を介して4または8の部分に分割される。光の各部分は、対応するカメラに向かって再配向され、各カメラ−ミラー対は、仮想カメラ入射瞳を介して画像データをキャプチャするように位置決めされる。
[0005]別のイノベーションの一例は、撮像システムを含み、撮像システムは、光を再配向するための手段と、光軸、集束手段、および画像感知手段を有する複数のキャプチャ手段と、画像データを受け取るための手段と、画像データを組み立てるための手段とを含む。このイノベーションのいくつかの実施形態では、光を再配向するための手段は、ターゲット画像シーンからの光を少なくとも4つの方向に配向する。複数のキャプチャ手段は、各々、撮像システムの仮想光軸と整列されて複数のキャプチャ手段のうちの別のキャプチャ手段の少なくとも1つの他の光軸に共通している点と交差する光軸と、光を再配向するための手段から少なくとも4つの方向のうちの1つに再配向された光の一部を受け取るよう位置決めされた集束手段と、集束手段から光の一部を受け取る画像感知手段と、を有する。画像データを受け取るための手段は、メモリに結合されたプロセッサを含み得る。画像データをターゲット画像シーンの最終画像に組み立てるための手段は、複数の画像を単一の(典型的には、より大きい)画像に組み立てるための命令で構成されるプロセッサを含む。
[0006]別のイノベーションの一例は、光学構成要素を設けること(providing)と、少なくとも4つのカメラを位置決めすること(positioning)と、カメラの光軸を整列させることと、カメラをさらに位置決めすることと、画像センサを設けることと、光学構成要素を位置決めすることとを含む、撮像システムを製造する方法を含む。このイノベーションのいくつかの実施形態では、少なくとも4つの光再配向面を含む光学構成要素が提供される。少なくとも4つのカメラは、光学構成要素の周りに位置決めされる。少なくとも4つのカメラの各カメラは、ターゲットシーンの複数の部分画像のうちの1つをキャプチャするように構成される。位置決めされる少なくとも4つのカメラは、各カメラについて、カメラの光軸を光学構成要素の少なくとも4つの光再配向面のうちの対応する1つと整列させることと、光軸が、撮像システムの仮想光軸に沿って配置された地点において少なくとも4つのカメラのうちの別のカメラの少なくとも1つの他の光軸と交差するように、カメラをさらに位置決めすることと、ターゲットシーンの複数の部分画像のうちの1つをキャプチャする画像センサを設けることとを含む。
[0007]開示される態様は、以下に、例を提供するために、開示される態様を限定しないように提供される添付図面および添付物に関連して説明される。各図中の参照番号は、その図にのみ適用される。
[0008]8カメラ撮像システムの一実施形態の上面図の一例を示す図。
[0009]8カメラ撮像システムの一実施形態の上面図の一例を示す図。
[0010]4カメラ撮像システムの一実施形態の上面図の一例を示す図。
[0011]中央カメラと第1のカメラとを含むマルチカメラ構成の広視野の一部の一実施形態の側面図の一例を示す図。
[0012]図1Bの単一の中央カメラを置き換える広視野マルチカメラ構成の一部の一実施形態の側面図の一例を示す図。
[0013]複数カメラ構成の一実施形態の2つのカメラの概略を示す図。
[0014]複数カメラ構成の一実施形態の2つのカメラの概略を示す図。
[0015]図1A〜図3Bおよび図5〜図6に示すカメラの一実施形態を示し、図1A〜図3Bおよび図5〜図6に関する角度および距離の正および負の表示を示す図。
[0016]8カメラシステムの側面図断面の一実施形態を示す図。
[0017]4カメラ撮像システムの側面図断面の一実施形態を示す図。
[0018]図1Aのマルチミラーシステム700aとして使用され得る反射要素の上面図。
[0019]8カメラ構成の一部の一実施形態の側面図。
[0020]各カメラについて屈曲光学カメラ構成(folded optics camera structure)を有する図5のカメラ114aおよび116bの断面図。
[0021]屈曲光学マルチセンサアセンブリ(folded optic multi-sensor assembly)の一実施形態の断面側面図。
[0022]撮像デバイスの一実施形態のブロック図の一例を示す図。
[0023]ターゲット画像をキャプチャする方法の一例のブロックを示す図。
詳細な説明
A.導入
[0024]本明細書で開示される実施態様は、薄いフォームファクタ(thin form factor)に適合し得、視差のない、または実質的に視差のない撮像システムで広視野画像をキャプチャするためのシステム、方法、および装置の例を提供する。様々な実施形態の態様は、キャプチャされた画像内に視差アーティファクト(parallax artifacts)をほとんどまたはまったく示さない複数のカメラの配列(arrangement)(本明細書ではマルチカメラシステムとも呼ばれる)に関する。複数のカメラの配列は、画像の広い視野をキャプチャし、それによって、キャプチャされているターゲットシーンは、複数の画像に分割される。複数のカメラが同じ共通の実入射瞳または仮想入射瞳を有するように見えるように複数のカメラの配列を設計することによって、視差のない、または実質的に視差のない画像がキャプチャされる。いくつかの設計上の問題は、複数のカメラが、同じ実共通入射瞳または仮想共通入射瞳(same real or virtual common entrance pupil)を持たず、したがって、視差がある可能性があり、または、別の方法で言えば、視差アーティファクトがある可能性がある。
[0025]複数のカメラの配列内の各センサは、対応する光再配向光反射ミラー構成要素(本明細書ではときには「ミラー」もしくは「ミラー構成要素」と呼ばれる)またはミラー反射面と等価の表面を使用して、画像シーンの一部から光を受け取る。したがって、各個々のミラー構成要素およびセンサ対は、マルチカメラシステム全体の一部のみを表す。完全なマルチカメラシステムは、すべての個々の開口部光線(aperture rays)の合計に基づいて生成された合成開口部(synthetic aperture)を有する。いずれの実施態様においても、すべてのカメラは、自動的に焦点を合わせるように構成され得、自動焦点合わせは、自動焦点合わせ機能のための命令を実行するプロセッサによって制御され得る。
[0026]様々な実施形態では、マルチカメラシステムは、4または8またはそれよりも多くのカメラを含み、各カメラは、画像の8または4またはそれよりも多くまたはそれよりも少ない部分がキャプチャされ得るように、ターゲットシーンの一部をキャプチャするように配列される(arranged)。システムは、画像の8または4またはそれよりも多くまたはそれよりも少ない部分のすべてまたは一部を組み合わせることによってシーンの画像を生成するように構成されたプロセッサを含む。いくつかの実施形態では、8つのカメラ(または複数のカメラ)は、各々4つのカメラの2つのリングまたは放射状配列として構成され得、仮想中心カメラ(virtual center camera)は、第1のリング内の4つのカメラの協働によって形成され、第2のリングカメラの4つのカメラも、仮想中心カメラの視点から画像をキャプチャする。複数の光再配向反射ミラー構成要素は、8カメラ構成のための8つのカメラの各々に、または4カメラ構成の各々のための4つのカメラの各々に、入射光の一部を再配向するように構成される。ターゲットシーンからの入射光の一部は、複数の光再配向反射ミラー構成要素によってマルチカメラシステムを取り囲む領域から受け取られ得る。いくつかの実施形態では、光再配向反射ミラー構成要素は、少なくとも1つの光再配向反射ミラー構成要素を各々が有する複数の個別の構成要素を備え得る。光再配向反射ミラー構成要素の複数の構成要素は、一緒に結合され得、それらの位置を互いに対して設定するように別の構造に結合され得、またはその両方であり得る。
[0027]本明細書で使用される、「視差のない画像(parallax free image)」という用語(または同様のもの)は、事実上視差のない画像および実質的に視差のない画像も指し、「視差アーティファクトのない画像(parallax artifact free images)」(または同様のもの)は、事実上視差アーティファクトのない画像および実質的に視差アーティファクトのない画像も指し、最小限の許容し得る視差アーティファクトまたは可視でない視差アーティファクトは、システムによってキャプチャされる最終画像内に存在する。
[0028]一例として、2つの並んだカメラを使用して立体写真画像(stereographic images)をキャプチャするように設計されたカメラシステムは、視差のないカメラシステムの例である。立体写真画像を作成する1つの方法は、2つの異なる見晴らしのきく地点(vantage points)から画像をキャプチャすることである。当業者は、シーンによっては、最終的なスティッチされた画像内に重複したまたは失われたいくらかのシーンコンテンツを有することなく、1つの画像を得るために両方の立体写真画像を一緒にスティッチする(stitch)ことが困難または不可能であり得ることを認識し得る。そのようなアーティファクトは、視差アーティファクトの例として提供される。さらに、当業者は、2つの立体写真カメラが1つの見晴らしのきく地点からシーンを見るように、両方の立体写真カメラの見晴らしのきく地点が一緒に移動される場合、視差アーティファクトが観察されないような方法で画像を一緒にスティッチすることが可能であるべきであることを認識し得る。
[0029]視差のない画像のために、2つ以上の画像が一緒にスティッチされるとき、画像処理は、画像または最終的な一緒にスティッチされた画像にコンテンツを追加することによって、またはそこからコンテンツを除去することによって、画像を変更するためには使用されない。
[0030]視差のない画像を生成するために、単一のレンズカメラは、いくつかのまたはすべての方向で画像をキャプチャしながら、それの入射瞳の中心点に位置する静止点を中心として回転され得る。これらの画像は、システムの仮想中心カメラレンズの入射瞳の中心点を取り囲む広視野シーンコンテンツを示す広視野画像を作成するために使用され得る。マルチカメラシステムの仮想中心カメラは、図2Aに関して以下でさらに説明される。これらの画像は、視差のないおよび/または視差アーティファクトがないという追加の特性を有し得る。たとえば、画像は、シーンコンテンツが最終的な広視野画像内で重複しない、ならびにまたは、シーンコンテンツが最終的なスティッチされた広視野画像から失われ得ない、およびもしくは視差アーティファクトであると見なされ得る他のアーティファクトを有しないような方法で一緒にスティッチされ得ることを意味する。
[0031]単一のカメラは、それの入射瞳の最中心点(center most point)が、使用されている実際の実カメラの入射瞳の最中心点以外の別のロケーション(すなわち、仮想のロケーション)にあるように見せるために、光再配向(たとえば、反射または屈折)ミラー構成要素などの他の構成要素とともに配列され得る。このようにして、2つ以上のカメラは、各カメラのための光再配向反射ミラー構成要素などの他の光学構成要素と一緒に、異なる見晴らしのきく地点にあるように、すなわち、仮想ロケーションに位置する異なる入射瞳最中心点を有するように見える画像をキャプチャする仮想カメラを作成するために使用され得る。いくつかの実施形態では、2つ以上のカメラが各カメラの仮想カメラ入射瞳の同じ最中心点を共有することができ得るように、それぞれのカメラに関連する光再配向反射ミラー構成要素を配列することができ得る。
[0032]各カメラのそれぞれの仮想カメラ入射瞳の全く同じ最中心点を共有するのに十分な、2つ以上の仮想カメラの許容誤差(tolerance)を有するシステムを構築することは、非常に挑戦的である可能性がある。一緒にスティッチされた画像内に視差アーティファクトがほとんどもしくはまったくないように、または場合によっては、一緒にスティッチされた画像が最終的な一緒にスティッチされた画像内に最小量未満の視差アーティファクトを有するという要件を満たすように、共有入射瞳の最中心点の近くまたは周囲で互いに交差するか、または互いに交差するのに十分に近くになる、2つ以上の仮想カメラの仮想光軸を有するように、カメラシステムのピクセル解像度およびまたはレンズの解像度が与えられることが可能であり得る。すなわち、視差アーティファクトを除去するために、コンテンツを加えてもしくはコンテンツを除去するために特別なソフトウェアを使用することなく、または他の画像処理を使用することなく、そのようなカメラによってキャプチャされた画像を取得し、これらの画像を一緒にスティッチし、視差のない広視野画像、または最小レベルの視差アーティファクトの要件を満たす広視野画像を生成することが可能である。この文脈では、十分な許容誤差を有するシステム設計に基づいて、視差のないという用語、または事実上視差のないという用語を使用することができる。
[0033]本明細書では、視差のないという用語、視差アーティファクトのないという用語、事実上視差のないという用語、または事実上視差アーティファクトのないという用語が使用されるとき、物理的な現実(realities)が、物理的なアイテムを時間とともに同じロケーションに保持することを困難にもしくはほぼ不可能にし得ること、または、許容誤差を使用することなく設計されたものと正確に同じである特性を有することさえ困難にもしくはほぼ不可能にし得ることが理解されるべきである。現実は、時間およびまたは環境条件にわたって、形状、サイズ、位置、潜在的な他の物体との相対位置を変化させる可能性があるもの(things)である。そのように、許容誤差要件(tolerance requirements)を仮定または与えることなく、理想的であるものまたは変化しないものとしてアイテムまたはものについて話すことは困難である。本明細書では、事実上視差がないというような用語は、もの(things)が理想的ではなく、時間にわたって変化し得るにもかかわらず、現実が、アセンブリまたはアイテムの意図された目的が満たされている許容誤差を有することを大部分の物理的アイテムが必要とすることであることを意味し、意味するものとする。視差がないという用語、視差アーティファクトがないという用語、事実上視差がないという用語、または事実上視差アーティファクトがないという用語は、関連した言い回しの有無にかかわらず、システムまたはアイテムに関する意図された要件または目的が満たされているように、許容誤差要件が決定され得ることを示すことが可能であることを意味するように取られるべきである。
[0034]以下の説明では、例の完全な理解を提供するために、具体的な詳細が与えられる。しかしながら、例は、これらの具体的な詳細なしで実施され得る。
B.例示的な4カメラシステムおよび8カメラシステムの概要
[0035]図1Aは、以下でさらに説明される第2のカメラ116a〜dおよびカメラ114a〜dの第1のリングを含む8カメラ撮像システム100aの一実施形態の上面図の一例を示す。広視野カメラ構成100aはまた、カメラの第1のリング内のカメラ114a〜dの各々に対応する少なくともいくつかの光再配向反射ミラー構成要素124a〜dを備える。さらに、広視野カメラ構成100aはまた、カメラの第1のリング内のカメラ116a〜dの各々に対応する少なくともいくつかの光再配向反射ミラー構成要素126a〜dを備える。たとえば、光再配向反射ミラー構成要素(「ミラー」)124aは、カメラ114aに対応し、ミラー126aは、カメラ116aに対応する。ミラー124a〜dおよび126a〜dは、対応するカメラ114a〜dおよび116a〜dの各々の入射瞳に向かって入射光を反射する。この実施形態では、各カメラに対応するミラーが存在する。広視野シーンをカバーする画像のモザイクから4つのカメラ114a〜dの第1のリングおよび4つのカメラ116a〜dの第2のリングによって受け取られた光は、図1〜図3、図5、および図6に関して以下により完全に説明されるように、画像をキャプチャするために使用される。ミラーに関して説明されているが、光再配向反射ミラー構成要素は、カメラに入射光を受け取らせる任意の方法で光を反射、屈折、または再配向し得る。
[0036]構成要素160、正方形の破線150、ならびに楕円形の線および円形の線は、本明細書で図2〜図8を使用してさらに説明される。
[0037]クロッピング(cropping)後の最終的な画像の完全な視野は、構成要素160上の破線170によって示される。クロップされたエッジ170の形状は、1:1のアスペクト比(aspect ratio)を有する正方形画像を表す。クロップされた画像170は、さらに、他のアスペクト比を形成するためにクロップされ得る。
[0038]図1Bは、8カメラ構成510の一実施形態の上面図を示す。中央反射要素532は、限定はしないが、1つまたは複数のミラーまたはここで示されているようにプリズムを含む様々な光学要素であり得る複数の反射面を有し得る。いくつかの実施形態では、カメラシステムは、8つのカメラ512a〜hを有し、各カメラは、8つの画像部分がキャプチャされるようにターゲット画像の一部をキャプチャする。システムは、図7Aを参照してさらに説明される、8つの画像部分のすべてまたは一部を組み合わせることによってターゲット画像を生成するように構成されたプロセッサを含む。図1Bに示すように、8つのカメラ512a〜hは、4つのカメラの2つのセットとして構成され得、4つのカメラ512a、512c、512e、512gは、仮想中央カメラを集合的に形成し、他の4つのカメラ512b、512d、512f、512hは、より広い視野のカメラを作成するために使用される。中央反射要素532は、8カメラ配列の中心または中心近くに配置され(disposed)、8つのカメラ512a〜hの各々に入射光の一部を反射するように構成される。いくつかの実施形態では、中央反射要素532は、少なくとも8つの反射面を有する1つの構成要素を備え得る。いくつかの他の実施形態では、中央反射要素532は、各々が少なくとも1つの反射面を有する複数の個別の構成要素から構成され得る。中央反射要素532の複数の構成要素は、一緒に結合され得、それらの互いに対する位置を設定するために別の構造に結合され得、またはその両方が行われ得る。
[0039]いくつかの実施形態では、8つのカメラ512a〜hの各カメラの光軸(たとえば、530)は、それの関連する中央対物側反射面(central object side reflective surface)上の任意のロケーションと交差し得る。カメラの位置決めおよび方向付けのこの自由度により、カメラの各々は、それの光軸が、それの関連する反射面上の他の交点よりも広い開口部をもたらし得る対応する関連する(光をカメラに反射する)反射面上の特定のロケーションに向けられる(pointed)ように配列され得る。一般に、カメラの有効焦点距離が実質的に同じままであれば、開口部が広いほど、カメラのより低いfナンバー(f-number)が提供され得る。当業者は、fナンバーが低いほど、光学系の回折限界(diffraction limit)が高くなり得ることを認識し得る。開口部の形状は、レンズ系の点拡がり関数(PSF)および/または線広がり関数(LSF)の形状に影響し得、画像平面にわたって空間的に異なり得る。カメラに関連する中央対物側反射面が存在しなかった場合にカメラに入射したであろう光線に対して、物体空間内のある地点から到来するすべての光線がカメラレンズアセンブリに反射されない場合、システムの開口部は、反射面によって影響を受ける可能性があり、この場合、カメラの実際の物理的ロケーションは、システム内の他のすべてのカメラと同じ共通の入射瞳を有するそれの垂直ロケーションであることが理解されるべきである。
[0040]一例として、カメラに関連する対物側反射面(object side reflective surface)は、反射面が存在しない場合に通常入るであろうカメラレンズ系に通常入るであろう光線を反射しない場合、開口絞り(aperture stop)として機能し得る。別の例は、カメラの光軸が関連する反射面のエッジ近くで交差し得、それによって、そのカメラに関連する反射面の可視領域を減少させ得ることである。この領域の外側の光線は、関連する反射面が存在しなかった場合にそれらの光線がカメラのレンズアセンブリに入るように反射されないことがあり、それによって、このようにして、反射面は、絞り(stop)と考えられ得、結果として、有効口径(effective aperture)は、より多くの光線を反射するであろうロケーションを指し示すのに比べて減少する。関連するカメラの交点として反射面上の任意のロケーションを選択することが可能であることの別の利点は、画像平面上の画像領域が増加または最大化され得ることである。たとえば、いくつかの実施形態は、反射面のエッジにより近いロケーションを指し示すことができ、それによって、より広い画像領域を生成する関連する反射面上の別の交点と比較して、画像領域を減少させ得る。反射面上の任意の交点を選択することの別の利点は、画像平面にわたって所望の点拡がり関数(PSF:Point Spread Function)または線広がり関数(LSF:Line Spread Function)、たとえば、画像領域内の領域のサブセットにおける、または画像領域にわたる特定のPSFまたはLSP形状、を生成する交差ロケーションが見出され得ることである。反射面上のカメラの光軸の交点を変更することが可能であることの別の利点は、カメラの画像領域、ならびに他のカメラの画像領域にわたって見られたPSFおよびLSFの形状などの、すべての因子を最適化するために、反射面の所望の向きをもたらすすべてのカメラ間の整列を見出すための較正中の能力である。カメラに関連する中央反射面の交点を選択することが可能であることの別の利点は、カメラの画像領域、ならびに他のカメラの画像領域にわたって見られたPSFおよびLSFの形状などの、すべての因子を最適化するために、反射面の所望の向きをもたらすために反射面の形状を設計または開発するときの追加の自由度である。中央対物側反射体の反射面または屈折反射体要素の反射面は、光学系全体の一部であるので、これらの表面の形状は、平面以外であり得、一つ一つのカメラのための光学系の一部と考えられ得ることが理解されるべきである。たとえば、各表面の形状は、球面、非球面、または他の方法で複雑であり得る。
[0041]図1Cは、4カメラ構成110の一実施形態の一例の上面図を示す。いくつかの実施形態では、カメラシステムは、4つのカメラ112a〜dを有し、各カメラは、4つの画像がキャプチャされ得るようにシーンの一部をキャプチャする。システムは、4つの画像のすべてまたは一部を組み合わせることによってシーンの画像を生成するように構成されたプロセッサを含む。図1Cに示すように、4つのカメラ112a〜dは、4つのカメラのセットとして構成され得、4つのカメラ112a〜dは、仮想中央カメラを集合的に形成する。反射要素138は、4カメラ配列の中心または中心近くに配置され、4つのカメラ112a〜dの各々に入射光の一部を反射するように構成される。いくつかの実施形態では、反射要素138は、少なくとも4つの反射面を有する1つの構成要素を備え得る。いくつかの他の実施形態では、反射要素138は、各々が少なくとも1つの反射面を有する複数の個別の構成要素を備え得る。図1Cは、上面図を示すので、視野120、122、124、126は、円として示される。反射面140、142、144、146は、限定はしないが、1つまたは複数のミラーまたはここで示されているようにプリズムを含む様々な光学要素であり得る。反射要素138の複数の構成要素は、一緒に結合され得、それらの互いに対する位置を設定するために別の構造に結合され得、またはその両方が行われ得る。
[0042]いくつかの実施形態では、4つのカメラ112a〜dの各カメラの光軸128、130、132、134は、カメラが単一の仮想カメラを形成するために協働する限り、それの関連する中央対物側反射面140、142、144、146上の任意のロケーションと交差し得る。カメラを位置決めすることの詳細、およびそれらのそれぞれの光軸を整列することのさらなる詳細は、図4Aおよび図4Bを参照して説明される。カメラの位置決めおよび方向付けのこの自由度により、カメラの各々は、それの光軸が、それの関連する反射面140、142、144、146上の他の交点よりも広い開口部をもたらし得る対応する関連する(光をカメラに反射する)反射面140、142、144、146上の特定の領域に向けられるように、配列され得る。一般に、カメラの有効焦点距離が実質的に同じままであれば、開口部が広いほど、カメラのより低いFfナンバーが提供され得る。当業者は、fナンバーが低いほど、光学系の回折限界が高くなり得ることを認識し得る。開口部の形状は、レンズ系の点拡がり関数(PSF)および/または線広がり関数(LSF)の形状に影響し得、画像平面にわたって空間的に異なり得る。
[0043]反射面140、142、144、146は、対応するカメラ112a〜dの各々が各カメラの視野120、122、124、126に従ってターゲット画像の一部を備える部分画像をキャプチャし得るように、光軸128、130、132、134に沿って光を反射し得る。視野120、122、124、126は、オーバーラップ領域148、150、152、154を共有し得る。カメラ112a〜dの各々に関するターゲット画像のキャプチャされた部分は、オーバーラップ領域148、150、152、154に関して同じまたは同様のコンテンツ(たとえば、反射光)を共有し得る。オーバーラップ領域148、150、152、154は、同じまたは同様のコンテンツを共有するので、このコンテンツは、ターゲット画像を出力するために画像スティッチングモジュールによって使用され得る。オーバレイ画像部分136は、ターゲット画像の反射部分の部分を含む。スティッチング技法を使用して、スティッチングモジュールは、画像プロセッサにターゲット画像を出力し得る。たとえば、視野120、122、124、126のオーバーラップ領域148、150、152、154は、カメラ112a〜dによってキャプチャされた部分画像に対してスティッチング技法を実行し、スティッチされ、クロップされたターゲット画像を画像プロセッサに出力するために、画像スティッチングモジュールによって使用され得る。
[0044]単一のターゲット画像を出力するために、画像スティッチングモジュールは、高解像度のターゲット画像を生成するために複数の部分画像を組み合わせる(combine)ように画像プロセッサを構成し得る。ターゲット画像生成は、知られている画像スティッチング技法を通して起こり得る。画像スティッチングの例は、参照により本明細書に組み込まれる米国特許出願第11/623,050号内に見出され得る。
[0045]たとえば、画像スティッチングモジュールは、互いに対する部分画像の回転および整列を決定するために特徴を一致させる(matching)ための部分画像のエッジに沿ったオーバーラップの領域を比較する命令を含み得る。部分画像の回転および/または各センサの視野の形状により、組み合わされた画像は不規則な形状を形成し得る。したがって、部分画像を整列させ、組み合わせた後、画像スティッチングモジュールは、組み合わされた画像を所望の形状およびアスペクト比、たとえば、4:3の矩形または1:1の正方形にクロップするように画像プロセッサを構成するサブルーチンを呼び出すことができる。クロップされた画像は、ディスプレイ上に表示するため、または記憶装置内に保存するために、デバイスプロセッサに送られ得る。
C.視差のないカメラの位置決めの概要
[0046]図2Aの撮像システムは、複数のカメラを含む。中央カメラ112は、第1の方向に向けられた第1の視野aを有する位置に配置される。第1の視野aは、図2Aに示すように、中央カメラ112が面している任意の方向であり得る第1の方向に面している。中央カメラ112は、第1の視野aを通って延びる光軸113を有する。第1の視野a内の中央カメラ112によってキャプチャされている画像は、中央カメラ112の投影された光軸113の周りにあり、中央カメラ112の投影された光軸113は、第1の方向にある。
[0047]図2Bは、中央カメラ112、カメラ116a、およびそれの関連するミラー構成要素126aの側面断面図を示す。サイドカメラ116a〜dの各々の配列は、カメラ112の図示の光軸113の周りに位置付けられ(positioned)る。複数のサイドカメラ116a〜dの各々は、実際のカメラ112の光軸である図示の線113と同心であるリングを形成する複数のサイドカメラ116a〜dの各々に関連して、カメラの「同心リング(concentric ring)」と呼ばれることがある。明確にするために、リング116a〜dの各々から1つのカメラのみ、および中央カメラ112が、図2Aおよび図2Bに示されている。サイドカメラ116aは、4つのカメラの第2の同心リングの一部であり、4つのカメラの各々は、カメラの360度の同心リングを形成するために、それの隣接するカメラから90度に位置付けられる。サイドカメラ114a〜dは、図2A中に示されていない。同様に、カメラ114a〜dは、図3を説明するときにさらに説明する、カメラの第2の同心リングのカメラと同様に位置付けられたカメラの第1の同心リングの一部である。「リング(ring)」という用語は、たとえば、線113の周りのカメラの全体的な配列を示すために使用され、リングという用語は、円形であることに配列を限定しない。「同心(concentric)」という用語は、同じ中心または軸を共有する2つ以上のリングを指す。
[0048]図2Aに示すように、光軸113を中心とする各々の第2の同心リングの半径1542bは、光軸線113からカメラ116aの入射瞳の最中心点までの距離である。同様に、図2Bに示すように、光軸113を中心とする第1の同心リングの半径1541aは、光軸線113からカメラ114aの入射瞳の最中心点までの距離である。いくつかの実施形態では、半径距離1542dおよび1541aは、謹んですべてのカメラ116a〜dおよびカメラ114a〜dについて等しくてもよい。半径距離1542dが第2の同心リング内のすべてのカメラについて等しい必要はない。同様に、半径距離1541aが第1の同心リング内のすべてのカメラについて等しい必要はない。図2Aに示す実施形態は、すべてのカメラ116a〜dについて同じ半径1542bを有し、同様に、図2Bに示す実施形態は、すべてのカメラ114a〜dについて同じ半径1541aを有する。
[0049]カメラ114a〜dの第1の同心リングは、光軸115に沿った方向で第3の視野c内の画像をキャプチャするように配列され、構成される。カメラ116a〜dの第2の同心リングは、光軸117に沿った方向で第2の視野b内の画像をキャプチャするように配列され、構成される。
[0050]別の実施形態では、サイドカメラ114a〜d、116a〜dは、それぞれ、アレイカメラの第1および第2のセットの一部であり、アレイカメラの第1および第2のセットの各々は、集合的に、ターゲットシーンの少なくとも一部を含む視野を有する。各アレイカメラは、画像センサを含む。画像センサは、第2の同心リングについて図2Aに概略的に示すように、それぞれのカメラ116a〜dの光軸186a〜dを中心とし得、垂直であり得る。同様に、画像センサは、第1の同心リングについて図2Bに概略的に示すように、それぞれのカメラ114a〜dの光軸184a〜dを中心とし得、垂直であり得る。
[0051]本明細書に示されるように、視野「c」が視野「a」の約1/2以上である場合、視野「a」を有する図2Aに示すカメラ112を図2Bに示すようなカメラ114a〜dの第1の同心リングと置き換えることが可能であり得る。そのような場合、第2の同心リング内のカメラ116a〜dおよび第1の同心リング内のカメラ114a〜dは、すべてのカメラ114a〜dおよび116a〜dによってキャプチャされる画像が、撮像システムのすべてのカメラ114a〜dおよび116a〜dの仮想入射瞳の最中心点に実質的にまたは事実上位置する共通の遠近法の見晴らしのきく地点(common perspective vantage point)から見たような広視野画像を集合的に表すことができるように構成され、配列され得、すべてのカメラ114a〜dおよび116a〜dの仮想入射瞳の最中心点は、すべての仮想入射瞳の最中心点が、空間内の1つの共通の地点に実質的にまたは事実上あるように構成され、配列されている。
[0052]図2Aおよび図2Bに示す撮像同心リングシステムは、図2Bに示す第1の同心リングのための光再配向反射ミラー面134a〜dと、図2Aに示す第2の同心リングのための光再配向反射ミラー面136a〜dとを含む。
[0053]上記の光再配向反射ミラー構成要素134a〜d、136a〜dの各々において、光再配向反射ミラー構成要素134a〜d、136a〜dは、複数の反射体(reflectors)を含む。
[0054]ここで説明するように、広視野カメラ構成100aは、広視野カメラ構成100aが視差のないまたは事実上視差のないことを可能にし、広視野カメラ構成100aが共通のパースペクティブ(common perspective)からの単一の仮想視野を有することを可能にする、様々な角度と様々な距離とを備える。広視野カメラ構成100aは、単一の仮想視野を有するので、構成100aは、視差がない、または事実上視差がない。
[0055]図1A〜図2Bに示すものなどのいくつかの実施形態では、単一の仮想視野は、カメラ114a〜dおよび116a〜dの各々の仮想視野参照点(virtual field of view reference point)が、点145に位置するカメラシステム100aの入射瞳の有効最中心点である単一の仮想原点(single point of origin)145を有するかのように、広視野シーンを集合的に形成する複数の視野を備える。カメラ114a〜dの第1の同心リングは、光軸115に沿った方向で、角度cに従ってシーンの一部、単一の原点145からのそれの仮想視野をキャプチャする。第2の同心リングカメラ116a〜dは、角度bに従ってシーンの一部を、単一の原点145からのそれの仮想視野をキャプチャする。カメラ114a〜dの第1の同心リングおよびカメラ116a〜dの第2の同心リングの集合的な仮想視野は、仮想視野の少なくとも様々な角度bおよびcを含む広視野シーンをキャプチャすることになるためである。広視野をキャプチャするために、カメラ114a〜d、116a〜116dのすべては、広視野内のすべての画像コンテンツがキャプチャされ得ることが確実であるように、すべての実際の視野およびまたは仮想視野が隣接する実際の視野およびまたは仮想視野と完全にオーバーラップすることを保証するために、個別に十分に広い視野を有する必要がある。
[0056]単一の仮想視野は、カメラの実際の物理的ロケーションが単一の原点145から離れた様々な地点に位置しているにもかかわらず、カメラの各々が単一の原点145からシーンをキャプチャしているかのように見える。図2Bに示すように、第1のカメラ114aの仮想視野は、第1のカメラ114aが145に位置する仮想入射瞳の最中心点から視野cのシーンをキャプチャしていたかのようになる。同様に、図2Aに示すような第2のカメラ116aの仮想視野は、第2のカメラ116aが145に位置する仮想入射瞳の最中心点から視野bのシーンをキャプチャしていたかのようになる。したがって、第1のカメラ114a、第2のカメラ116aは、145に位置する仮想入射瞳の最中心点に単一の仮想視野参照点を有する。
[0057]他の実施形態では、様々な視野がカメラのために使用され得る。たとえば、第1のカメラ114aは、狭い視野を有し得、第2のカメラ116aは、広い視野を有し得、第3のカメラ114bは、より狭い視野を有し得る、などである。そのように、カメラの各々の視野は、視差のないまたは事実上視差のない画像をキャプチャするために同じである必要はない。しかしながら、一実施形態の例において、図と表とを参照して以下に説明するように、関連するミラーおよび構成要素が空間内の点から関連するミラーに向かって、次いでそれぞれのカメラの実際の入射瞳上に、進行する光を遮っておらず、または妨げていない領域内で、各カメラの隣接する視野と本質的にオーバーラップすることが可能であり得るように、カメラは、約60度の実際の視野を有する。以下に説明する実施形態では、視野は、本質的にオーバーラップする。しかしながら、オーバーラップする視野は、撮像システムが視差のないまたは事実上視差のない画像をキャプチャするために必要ではない。
[0058]視差のないまたは事実上視差のない撮像システムおよび仮想視野の上記で説明した実施形態は、以下の角度、距離、および方程式の表内に列挙された様々な入力および出力によって可能にされる。
[0059]視差アーティファクトのないまたは事実上視差アーティファクトのない複数の画像を撮影する1つの概念は、カメラの光軸をピボットする(pivot)ことによって物体空間内のシーンの画像をキャプチャすることであり、カメラの入射瞳の最中心点は、画像がキャプチャされるたびごとに同じロケーションに留まる。視差アーティファクトのない、または事実上最小限の視差アーティファクトを有するパノラマピクチャをキャプチャする当業者は、そのような方法を知っている可能性がある。このプロセスを実行するために、図2Aに示すようなカメラ112の光軸を図2Bに示すような光軸115に沿って整列させ、点145を含むようにカメラ112の入射瞳の最中心点を置くことができ、この位置では、カメラ112の光軸は、カメラシステムの光軸113から角度h1にあるべきであり、光軸113および115は、点145でまたはその近くで互いに有効に交差する。この位置において、画像がキャプチャされ得る。次のステップは、カメラ112の光軸を図2Aに示すような光軸117まで時計回りに回転させることができ、この位置では、カメラ112の光軸は、カメラシステムの光軸113から角度(2*h1+h2)にあるべきであり、光軸113、115、および117は、点145でまたはその近くで互いに有効に交差する。両方の角度方向115および117にある間、点145は、カメラ112の入射瞳の最中心点に維持され、図2Aおよび図2Bに謹んで示すページの平面内にカメラ112の光軸を維持し、次いで、第2の画像をキャプチャする。さらに、カメラ112の視野が角度2*f2、2*h1、および2*h2の大きい方よりも実際に大きいと仮定する。これらの画像の両方は、2つの画像の視野がオーバーラップするシーンの同様の物体空間画像コンテンツを示すべきである。画像がこのようにキャプチャされるとき、視差アーティファクトのない、または事実上視差アーティファクトのない画像を形成するために、これらの2つの画像を一緒にマージすることが可能であるべきである。2つ以上の画像を一緒にマージする当業者は、視差アーティファクトがどのように見える可能性があるのかを理解することができ、視差のない、事実上視差アーティファクトのない画像をキャプチャする目的を認識することができる。
[0060]カメラの光軸をそれ自体の入射瞳ロケーションを中心としてピボットすることによって、視差のないまたは事実上視差のない画像をキャプチャすることは望ましくないことがある。互いに対して位置を固定された2つのカメラを使用することが好ましいことがある。この状況では、それらの入射瞳が同じ物理的ロケーションを占める2つのカメラを作ることが可能ではないことがある。代替として、図2Aに示すような、112などの別のカメラの入射瞳中心点を含むまたは事実上含む入射瞳中心点を有する仮想カメラを作成するために、光再配向反射ミラー面を使用し得る。これは、表面136aのような光再配向反射ミラー面と、116aなどの第2のカメラとを適切に位置決めすることによって行われる。図2Aは、そのようなシステムの図を提供し、光再配向反射ミラー面136aは、116aのカメラの仮想カメラを作成するために使用され、仮想カメラの入射瞳の中心は、点145を含む。アイデアは、カメラ116aが、光再配向反射ミラー面が存在しなかった場合にそれの仮想カメラが観察することになるのと同じシーンを、光再配向反射ミラー136aの反射面から離れて観察することになるような方法で、光再配向反射ミラー面136aを位置決めし、カメラ116aの入射瞳と光軸とを配置することである。カメラ116aが、光再配向反射ミラー面のサイズおよび形状に応じて仮想カメラが観察することになるシーンの一部のみを観察し得ることを指摘することは重要である。光再配向反射ミラー面136aがカメラ116aの視野の一部のみを占める場合、カメラ116aは、それの仮想カメラが見ることになるシーンの一部のみを見ることになる。
[0061]図2Aに示すような、長さ1522a、ならびに角度f2、h2、およびk2のための値を選択すると、カメラ116aの入射瞳中心点のロケーションと、線111に対するそれの光軸の角度とを計算するために、表1の方程式を使用することができる。カメラ116aの入射瞳中心点は、マルチカメラシステムの光軸113からの距離1542aと、線113に垂直な線111からの長さ1562aとに位置する。以下に説明する図4は、角度の符号と、長さの符号に依存する線111および113の交点からの長さに関する方向と、に依存する角度回転方向を示す凡例(legend)を提供する。
[0062]表1および表2中の距離、角度、および方程式を、ここで、図2Aおよび図2Bを参照して説明する。図2Aおよび図2Bを参照すると、線111は、仮想入射瞳145を含む平面と考えられ得、マルチカメラシステムの光軸113に対して垂直であり、光軸113は、ページの平面内に含まれる。仮想入射瞳145の最中心点は、理想的には平面111と光軸113との交点に位置し、平面111は、図を表示するページに対して垂直である。実際の製造では、構成要素と位置決めとにおける変動は、結果として、入射瞳145の中心点を光軸113と平面111との交点ではなくする可能性があり、同様に、図2Bに示すような、カメラ114aの仮想入射瞳の最中心点の実際のロケーションおよび整列が、共通の仮想入射瞳145と正確に一致しないことがある可能性があり、これらの場合には、システムまたはアイテムに対して意図された要件およびまたは目的が満たされているように許容誤差要件が決定され得ることを示すことが可能である場合、理想的な場合と上述した許容誤差内の両方で、システムおよびまたはアイテムが意図された要件およびまたは目的を満たすことと等価であると見なされ得ることを意味する、「事実上(effective)」の概念、または等価的に「事実上(effectively)」と表現される概念を使用することができる。したがって、許容誤差内で、仮想入射瞳145は、カメラ114aの仮想入射瞳、ならびに、本明細書で図1A〜図11に示されたおよびまたは記述された実施形態で説明されているカメラ114a〜dおよび116a〜dなどのマルチカメラシステム内で使用されるカメラのすべての仮想入射瞳の最中心点と事実上一致する。さらに、114a〜dおよび116a〜dなどのすべてのカメラの光軸は、平面111、光軸113、およびマルチカメラシステムの共通仮想入射瞳最中心点145と事実上交差する。
[0063]現在のカメラの意味は、表1および表2の各々に関して変化することになる。表2について、h1の半角視野(half angle field of view)を有するカメラを現在のカメラであると呼ぶ。表2に関連する現在のカメラは、カメラ114a〜dのセットに適用される。
[0064]実施形態のために使用される現在のカメラおよびすべてのカメラは、各々、複数のカメラを含むカメラシステムであり得、または、従来の単一のバレルレンズカメラ(traditional single barrel lens camera)とは異なり得る別のタイプのカメラであり得る。いくつかの実施形態では、使用される各カメラシステムは、カメラのアレイ、またはカメラの屈曲光学アレイ(folded optics array)で構成され得る。
[0065]以下では、それがカメラの第1のリングからのものなので、第1のカメラという用語を参照する。同様に、それがカメラの第2のリングからのものなので、第2のカメラを参照する。図2Aには、表1の角度と距離とが示されている。第1のカメラ116aの入射瞳は、距離1542aおよび距離1562aに従って、仮想入射瞳145からオフセットされる。距離長1542aは、光軸113と、第2のカメラ116aの入射瞳中心点とからの座標位置を表し、距離1542aは、光軸113に対して垂直に測定される。ここで、現在のカメラは、第2のカメラ116aである。
[0066]距離長1562aは、平面111と、第1のカメラ116aの入射瞳中心点を含み平面111と平行な平面とからの座標位置を表す。ここで、現在のカメラは、第2のカメラ116aである。
[0067]依然として図2Aを参照すると、システム200aに関して図2Aに示す点137は、図2Aを示すページの平面上に位置し、光軸113から距離150aであり、平面111と図2Aのためのページの平面との交差によって形成された線から距離1522aである。説明の容易さのため、ときには、平面111と図2Aを示すページの平面との交差によって形成された線として理解されるべきである線111を参照する。
[0068]平面光再配向反射ミラー面136aは、平面136aと図2Aを示すページの平面との交差によって形成された線で示されている。図2Aおよび図2Bを説明する目的のため、平面134aおよび136aは、ページの平面に対して垂直であると仮定する。しかしながら、平面134aおよび136aは、ページの平面に対して垂直である必要はないことを指摘することが重要である。
[0069]線136aを参照するとき、平面136aとページの平面との交差によって形成された線を参照していることが理解されるべきである。また、線134aを参照するとき、平面134aとページの平面との交差によって形成された線を参照していることが理解されるべきである。
[0070]表1は、線136aから、光軸113と平行で点137も含む線までの時計回りの回転角である角度k2を提供し、点137はまた、ページの平面および線136a内に含まれる。カメラ112の視野エッジは、170aおよび170bとラベル付けされた2つの交差する線によって示され、これら2つの線は、カメラ112の入射瞳の最中心点145において交差する。カメラ112の半角視野は、マルチカメラ光軸113と視野エッジ170aおよび170bとの間のf2である。
[0071]図2Aに示すように、カメラ112は、線113と一致するそれの光軸を有する。カメラ116aの半角視野は、カメラ116aの光軸117に対するh2である。カメラ116aの光軸は、光再配向反射ミラー面136aから再配向されることが示されている。光再配向反射ミラー面136aが完全に平坦であり、図2Aのページの平面に対して垂直な平面であると仮定する。光再配向反射ミラー平面136aは、カメラ116aの視野を完全にカバーするとさらに仮定する。図2Aに示すように、光軸117は、平面光再配向反射ミラー面136a上の点で交差する。反時計回りの角度p2は、光再配向反射ミラー面136aからカメラ116aの光軸117に向かって示されている。ミラーまたは等価な光反射ミラー面からの光反射の特性と、図2Aに示す線が図2Aのページの平面内に含まれるという仮定とに基づいて、反時計回りの角度m2およびn2がp2に等しいことを見出した。光線は、図2Aを示すページの平面内のカメラ116aに向かう光軸117に沿って進むことができ、カメラ116aの入射瞳の中心点に向かって光再配向反射ミラー等価表面136aから反射することができ、角度n2およびp2は、ミラー等価表面からの光反射の特性に基づいて等しくなければならない。カメラ116aの光軸117は、仮想入射瞳最中心点が事実上配置される仮想入射瞳中心点145に向かって光反射面136aを通って延びるように示されている。反時計回りの回転角度m2は、三角法に基づいてn2に等しくなるように示され得る。
[0072]示されたすべての表面136a〜dおよび134〜dについて、本明細書に記載の例を説明する目的のため、これらの表面が、平面であり、図面ならびに明細書本文におけるページの平面に対して垂直であると仮定する。
[0073]このことから、平面光再配向反射ミラー面136aを含む延長された線が、カメラ112の入射瞳中心点からカメラ116aの入射瞳中心点に向かう線と垂直に交差することが示され得る。したがって、2つの線長(line lengths)160aは、等距離の所にあるように示され得る。
[0074]平面光再配向反射ミラー面136aは、カメラ116aの視野の一部のみをカバーすることが可能である。この場合、図2Aに示すように、物体空間からそれの最中心点145を含む仮想カメラ入射瞳に向かって進む光線のすべてが、カメラ116aの視野を部分的にカバーする光再配向反射ミラー面136aの平面部分に反射するとは限らない。この観点から、カメラ116aは、半角視野h2と、光軸117と、長さ1542aおよび1562aによって説明されるようなそれの入射瞳のロケーションと、図4に示す凡例と、によって定義される視野を有することを念頭に置くことが重要である。この視野内で、光再配向反射ミラー面136aの光反射平面部分などの表面は、それの視野内に部分的にあり得る。光再配向反射ミラー面136aの平面部分ならびにカメラ112および116aが、図2Aに示すように、図4に示す凡例、表1の方程式に従って、入力値1522a、f2、h2、およびk2に従って配置されているとすれば、物体空間からカメラ116aの仮想カメラの入射瞳に向かって進み、光再配向反射ミラー面136aの平面部分に反射する光線は、カメラ116aの入射瞳上を進むことになる。
[0075]図2Bは、中央カメラ112と第1のカメラ114aとを含む広視野カメラ構成300aの一部の一実施形態の一例の側面図を示す。それがカメラ112を含んでいないことに留意されたい。これは、カメラシステム300aが図2Aに示すカメラ112の代わりに使用され得るからである。表2に示すパラメータ、角度、および値は、カメラ114aがカメラ112の視野の一部をカバーするように、カメラ114aの入射瞳、光軸115、およびそれぞれのミラー134aを置くことになる。114aについて行ったのと同じ方法でカメラ114b〜dの位置を計算するために表1を使用する場合、集合的な画像が一緒にスティッチされたとき、112のシーンコンテンツがカメラシステム300aの一緒にスティッチされた画像のシーンコンテンツのキャプチャされた画像内にあるように、半視野h1がf2以上であり、カメラ114a〜dの実際の視野が十分に広いとすれば、カメラ112の視野aを集合的に含む画像をキャプチャすることが可能であるべきである。この例では、カメラシステム300aが図2Aに示すようにカメラ112の円形視野a内の同じシーンコンテンツをキャプチャするとすれば、カメラシステム300aは、カメラ112を置き換えるために使用されることになる。より一般的な視野では、画像が一緒にスティッチされた後にカメラ114a〜dおよびカメラ116a〜dによってキャプチャされた画像が、画像が一緒にスティッチされた後にカメラ112およびカメラ116a〜dによってキャプチャされた画像と同じシーンコンテンツを集合的に含む場合、カメラ112は、必要ではない可能性がある。この実施形態では、第2のカメラ114aは、図2Bに示す現在のカメラである。
[0076]「シーンコンテンツ」などのようなフレーズまたは同様のフレーズに関する意図された意味は、物体空間内の点からカメラシステムに向かう経路内を進む光に関係するシーンコンテンツである。光によって運ばれるシーンコンテンツは、カメラシステムに入る直前の光に含まれる。カメラシステムは、キャプチャされた画像の忠実度(fidelity)に影響を及ぼす可能性があり、すなわち、カメラシステムが、画像検出器によって光から画像をキャプチャするプロセスの前またはプロセス中に、光を変更する、またはアーティファクトを付加する、およびまたは光にノイズを付加する可能性があるような、アーティファクトをカメラシステムの忠実度が導入する可能性がある。カメラシステムおよびカメラシステムの外部の態様に関連する他の要因はまた、カメラシステムに入る直前の光に含まれたシーンコンテンツに関する画像キャプチャの忠実度に影響を及ぼす可能性がある。
[0077]上記の距離、角度、および方程式は、図2Aに関して上記で説明したのと同様の関係を有する。表2の入力のうちのいくつかは、表1の入力と異なる。図2Bおよび表2では、距離のいくつかは、1521a、1541a、およびまたは1561aなど、識別番号と添字「a」とを有し、角度のいくつかは、添字「1」を有する。表2のこれらの添字付きの距離および角度は、図2Aおよび表1の添字付きの距離および角度と同様の関係を有する。たとえば、図2Aおよび表1は、1522a、1542a、およびまたは1562aなど、添字「a」を有する同様の識別番号を示すことがあり、角度のいくつかは、「1」の代わりに添字「2」を有することがある。
[0078]マルチカメラシステムを設計する1つの方法の一説明をここで説明する。1つの手法は、図2Aに示すモデルと、図4に示す凡例と、表1に示す方程式とを使用してマルチカメラシステムを開発することである。第1の決定の1つは、中央カメラ112が使用されるかどうかを決定することである。中央カメラ112が使用されない場合、半角視野f2は、ゼロに設定されるべきである。提示された表1および表2のならびに図2Aおよび図2Bの例では、表1に示す半視野角f2は、ゼロではないので、実際の実中央カメラ112は、図2Aに示し、表1に記載した概略設計の一部である。次に、半角視野h2は、そのようなシステムを設計する者が念頭に置く可能性がある他の考慮事項に基づいて選択され得る。図2Aに示すように、長さ1522aは、マルチカメラシステムのサイズをスケーリングする。設計を開発する際の1つの目的は、使用され得るまたは使用されることになるカメラのサイズが設計の最終構造に収まることを保証することである。長さ1522aは、マルチカメラシステムのために使用され得るカメラおよび他の構成要素を収容する適切な長さを見出すために、設計段階中に変更され得る。1522aに適した値を選択する際に考慮する他の考慮事項が存在することがある。光再配向反射ミラー平面の角度k2は、カメラ116aの入射瞳最中心点のロケーションを見出す目的で変更され得る。カメラ116aの入射瞳最中心点のロケーションは、座標位置1542aおよび1562aならびに図4に示す凡例によって提供される。この例では、116aの光軸は、ページの平面内に含まれ、カメラ116aの入射瞳最中心点を含み、線111に平行な線に対してカメラ116aの入射瞳の最中心点を中心として反時計回りに角度q2だけ回転され、この平行基準線はまた、カメラの入射瞳の最中心点を含む。
[0079]システム内の各カメラ、すなわち、カメラ112および116a〜dからのすべての画像を一緒にマージすることによって得ることが可能であり得る最も広いマルチカメラ画像を望む可能性がある。そのような場合、すべてのカメラの視野外に各カメラおよびまたは他の構成要素を維持することが望ましいことがあるが、これらのような要因は、カメラシステムを設計または開発する者によってなされる決定に依存するので、1つまたは複数のカメラの視野外に各カメラまたは他の構成要素を維持する必要はない。所望の組み合わせた画像視野が達成されるまで、1522a、f2、h2、およびk2のための異なる入力を試すことを必要とする可能性がある。
[0080]マルチカメラシステムが表1および図2Aに従って入力1522a、f2、h2、およびk2によって指定されると、ここで、カメラ112、116a〜dおよび光再配向反射ミラー136a〜dのための位置決めと整列とを行う。表1は、1522a、f2、h2、およびk2のための入力値の一例と、説明されているカメラシステムの例に関する結果として得られた計算値とを示す。したがって、そのようなカメラシステムを開発するために、表1中の値と、概要として図2Aに示す図面とを使用することができる。
[0081]カメラ112を複数カメラ配列に置き換えたいと仮定する。これを行う1つの方法は、図2Aに示すモデルを使用し、半角値f2をゼロに設定することである。そのようなシステムは、図2Bに示されており、ここでは、カメラ112は、存在しない。カメラ114aのための仮想入射瞳の最中心点145は、図2Bに示されている。表2は、長さ1521aならびに角度f1、h1、およびk1のための例示的な入力値と、表1の方程式を使用して結果として得られた計算値とを示す。図2Bおよび表2によって表されるカメラシステムによるカメラ114a〜dのマルチカメラシステムは、カメラ112の視野a内の同じシーンコンテンツを観察することが可能であるべきである。したがって、次いで、図2Aに示され、表1に説明されているカメラ112を、図2Bおよび表2によって説明されているマルチカメラの概略例と置き換えることが可能であるべきである。図2Bおよび表2によって説明されているカメラシステムが、カメラ112が存在することなく、図2Aおよび表1によって説明されているマルチカメラシステムと物理的に組み合わされ得、点145が、すべてのカメラ114a〜dおよび116a〜dの仮想入射瞳の最中心点である場合、中央カメラ112とカメラ116a〜dとを使用して、図2Aに示され、表1に説明されているマルチカメラシステムと同じシーンコンテンツを観察することが可能であるべきである、中央カメラ112を含まないマルチカメラシステムを持つべきである。このようにして、図2Aに示すように点145に事実上位置するすべてのカメラの仮想入射瞳の最中心点を有しながら、マルチカメラシステムを別のマルチカメラシステムの上に積み重ね続けることができる。
[0082]図2Aおよび図2Bならびに表1および表2に示す例では、カメラ114a〜dおよび116a〜dが互いに適合するために、カメラシステムの光軸113を中心として22.5度などの角度だけ図2Bに示されるカメラシステムを回転させることが必要なことがある。図1Aは、そのような配列の一例を提供する。
[0083]マルチカメラシステムの光軸113を中心とする第1の同心リングとしてカメラ114a〜dを含み、図2Aおよび図2Bならびに表1および表2によって説明されているカメラシステムを考えることができる。同様に、第2の同心リングとしてカメラ116a〜dを含むカメラシステムを考えることができる。カメラの同心リングを追加し続けることができ、ここで、各リングについて表1に示すもののような表が本質的に存在し、加えて、図2Aに示すようにマルチカメラシステム内のすべてのカメラの仮想入射瞳最中心点が点145に事実上位置する。
[0084]たとえば、第1および第2の同心リングのための設計が完了し、それらが一緒に適合するように整列されたら、リング1および2について上記で説明したのと同じ手法を使用して、第3の同心リングを追加することを考えることができる。プロセスは、カメラがすべて互いに適合し、設計およびまたは開発されているマルチカメラシステムの設計基準を満たす限り、このように継続することができる。
[0085]各同心リングの形状は、他の同心リングと異なっていてもよい。そのような柔軟性が与えられれば、上記の原理を使用してカメラシステムを設計し、放物線形状または楕円形状または多くの他の可能な形状などの多角形表面などの、平面以外の表面の輪郭に従うカメラのシステムを作成することができる。そのような場合、個々のカメラは、各々、他のカメラとは異なる視野を有することができ、または、いくつかの場合には、それらは、同じ視野を有することができる。画像のアレイをキャプチャするために上記で説明した方法を使用する多くの方法が存在する。カメラの画像がオーバーラップする必要はない。画像は、不連続であり得、視差がないまたは事実上視差がないという特性を依然として有し得る。
[0086]第1のリング、第2のリング、第3のリングなどよりも多いまたは少ないカメラリングが存在し得る。より多いまたはより少ないカメラリングを使用することによって、ことによると望まれるまたは必要とされ得るように、広視野カメラ、半球広視野カメラ(hemisphere wide field of view camera)、または半球よりも大きいもしくは球状カメラ(spherical camera)と同じくらいの超広視野カメラを考案、設計、または構想することが可能であり得る。実際の設計は、マルチカメラシステムを開発する間に行われる選択に依存する。前述のように、いずれのカメラも、他のいずれのカメラと同じ視野を有する必要はない。光再配向反射ミラー面のすべてが、その光再配向反射ミラー面を見ているそれの関連するカメラに関して同じ形状、サイズ、または向きを有する必要はない。2つ以上のカメラが同じ光再配向反射ミラーシステムを共有することができるように、本明細書で説明される原理と、説明と、方法とを使用するカメラシステムと、光再配向反射ミラーとを配列することが可能であるべきである。本明細書で説明される説明と方法とを使用して広視野画像をキャプチャするために、平面ではない光再配向ミラー面を使用することが可能であるべきである。また、視差のないまたは事実上視差のない画像をキャプチャすることが可能であるように説明されたマルチカメラシステムを有するために、すべてのカメラが、隣接する画像の視野を完全にオーバーラップさせる必要はない。
[0087]図2Aに示すモデルの1つの他の態様または特徴は、光再配向反射ミラー面136aと交差する光軸117であり、光軸117の交点が平面光再配向反射ミラー面136a上の任意のロケーションに移動された場合に図2Aに示すものなどのマルチカメラシステムに依然として視差がないまたは事実上視差がないことが示され得ることである。交点は、カメラ116aの光軸117がそれの仮想カメラの光軸と交差する点であり、交点は、平面光再配向反射ミラー面136a上に位置する。それの入射瞳最中心点が点145であり、それの光軸が、カメラ116aの光軸117がミラー面136aと交差するロケーションと同じロケーションで光再配向反射ミラー面136aと交差するカメラとして、カメラ116aの仮想カメラを考えることができる。このようにして、116aの仮想カメラは、カメラ116aの光軸117がミラー面136a上の異なるロケーションと交差するように移動することになる。また、光再配向反射ミラー面136aは、図2Aのページの平面に対して任意の角度であり得る。このようにして、この場合には実カメラであるカメラ116aは、ミラー面136aと物体空間内のシーンとの間に、カメラ116aの光軸と同じ光軸を有するそれの仮想カメラに関連付けられる。
[0088]マルチカメラの視差のないまたは事実上視差のないカメラシステムでは、使用される各々のカメラの視野は、等しい必要はない。
[0089]表面136aが、平面ではないが、カメラシステム全体の設計の一部である光を反射または屈折させることができるような方法で、光再配向反射ミラー面が図2A中の光再配向反射ミラー面136aによって表される視差のないまたは事実上視差のないマルチカメラシステムを設計することが可能であり得る。ミラー面は、多くの方法で達成され得る。当業者は、平面または他の輪郭形状を有する材料の全内部反射特性(total internal reflection properties)を使用することなどのいくつかを知る可能性がある。光が屈折材料の表面に取り付けられた反射材料に反射するが、光再配向反射ミラー状表面を達成するために全内部反射などの特性に依存する必要がない、光を屈折させる材料を使用してもよい。
[0090]図3Aは、複数カメラ構成の一実施形態の一例の1つのカメラ428の概略図410を示す。図3Aに関して、角度は、小文字のアルファベット(たとえば、j)を使用して示され、距離は、距離指示(distance designations)(たとえば、距離412)を使用して示され、点、軸、および他の指示は、項目番号(たとえば、420)を使用して示される。表1および表2において以下で示すように、いくつかの入力距離412、z、f1〜2は、概略図410の構成ためのいくつかの出力j、b、h、距離412、距離472、距離424a〜b、距離418、距離416、e、c、d、aを決定するために使用される。図3Aの構成は、カメラ428が視野を遮らないならば、60度の二重視野(sixty (60) degrees dual field of view)を有するカメラをもたらす。
[0091]入力パラメータについてここで説明する。距離412は、カメラ428の仮想入射瞳420から、プリズムの点452にある反射面450の最も遠い末端(furthest terminal end)までの距離を表す。距離412は、約4.5mm以下であり得る。図3Aでは、距離412は、4mmである。
[0092]角度zは、概略図410の仮想視野の光軸466とカメラ428の仮想視野の第1のエッジ466との間のカメラ構成の集合的な視野を表す。この実施形態では、仮想視野の光軸466は、カメラ428の仮想視野の第1のエッジ466に隣接しているので、角度zは、ゼロである。カメラ428の仮想視野は、仮想光軸434の方に向けられ、角度f1〜2によってカバーされる領域を含む。複数カメラ構成(他のカメラは図示せず)全体の仮想光軸466aは、複数のカメラの組み合わされたアレイの仮想光軸である。仮想光軸466aは、少なくとも複数のカメラの協働によって定義される。仮想光軸466aは、光学構成要素450aを通過する。仮想光軸466aの交差点420aは、光軸434aと仮想光軸466aとの交差によって定義される。
[0093]光学構成要素450aは、少なくとも4つの光再配向面を有する(光学構成要素450aの1つの表面のみが明瞭化のために示され、光学構成要素450aは、図3Aに示されていない他の光再配向面を表す)。少なくとも4つのカメラ(カメラ428aのみが明瞭化のために示され、カメラ428aは、図3Aに示すシステム内の他のカメラを表す)が、撮像システム内に含まれる。少なくとも4つのカメラ428aの各々は、ターゲットシーンの複数の部分画像のうちの1つをキャプチャするように各々構成される。少なくとも4つのカメラ428aの各々は、光学構成要素450aの少なくとも4つの光再配向面のうちの対応する1つと整列された光軸432aを有する。少なくとも4つのカメラ428aの各々は、少なくとも4つの光再配向面のうちの対応する1つから再配向されたターゲットシーンの複数の部分画像のうちの1つを表す光を受け取るように位置付けられたレンズアセンブリ224、226を有する。少なくとも4つのカメラ428aの各々は、レンズアセンブリ224、226を光が通過した後に光を受け取る画像センサ232、234を有する。仮想光軸466aは、光学構成要素450aを、仮想光軸466a上に位置する、少なくとも4つのカメラ428aのうちの少なくとも2つのものの光軸420aの交差点を、通過する。
[0094]少なくとも4つのカメラ428aの協働は、仮想光軸466aを有する仮想カメラ430aを形成する。撮像システムはまた、複数の部分画像をターゲットシーンの最終的な画像に組み立てるように構成された処理モジュールを含む。光学構成要素450aおよび少なくとも4つのカメラ428aの各々は、約4.5mm以下の高さ412aを有するカメラハウジング内に配列される。少なくとも4つのカメラ428aの第1のセットは、第1の視野を有する中央仮想カメラ430aを形成するために協働し、少なくとも4つのカメラ428aの第2のセットは、第2の視野の一部を各々がキャプチャするように配列される。第2の視野は、第1の視野の外部にあるターゲットシーンの部分を含む。撮像システムは、ターゲットシーンの最終的な画像を形成するために、少なくとも4つのカメラ428aの第2のセットによってキャプチャされた第2の視野の画像を、少なくとも4つのカメラ428aの第1のセットによってキャプチャされた第1の視野の画像と組み合わせるように構成された処理モジュールを含む。第1のセットは、4つのカメラ428aを含み、第2のセットは、4つの追加のカメラ428aを含み、光学構成要素450aは、8つの光再配向面を備える。撮像システムは、実質的に平坦な基板を含み、画像センサの各々は、基板上に位置付けられ、または基板の一部にはめ込まれる(inset)。撮像システムは、少なくとも4つのカメラ428aの各々について、レンズアセンブリ224、226からの光を受け取り、画像センサ232、234に向けて光を再配向するように構成された二次光再配向面を含む。二次光再配向面は、反射面または屈折面を備える。少なくとも4つの光再配向面450aの1つのサイズまたは位置は、少なくとも4つのカメラ428aのうちの対応する1つに提供される光の量を制限する絞りとして構成される。撮像システムは、開口部を含み、ターゲットシーンからの光は、少なくとも4つの光再配向面450a上まで開口部を通過する。
[0095]角度f1〜2は、各々、カメラ428の仮想視野の半分を表す。カメラ428の組み合わされた仮想視野は、角度f1〜2の合計であり、それはこの例では30度である。
[0096]角度jは、平面464として表される、カメラ428の実際の視野が反射面450と交差するロケーションにおける仮想入射瞳平面460に平行な平面と、カメラ428の実際の視野の第1のエッジ468との間の角度を表す。ここで、角度jは、37.5度である。
[0097]出力パラメータについてここで説明する。表2Bに示す出力パラメータの角度jは、表1Bに示す入力パラメータの角度jと同じである。角度bは、概略図410の光軸466と反射面450の背面との間の角度を表す。角度hは、仮想入射瞳平面460と、カメラ428の実際の視野の1つのエッジ(カメラ428の下方に突出したエッジ)との間の角度を表す。
[0098]距離412は、表1Bの入力パラメータに関して上記で説明されている。距離472は、測定された距離472がカメラ428の仮想視野の光軸434に対して垂直であるように、反射面450の末端452とカメラ428の仮想視野のエッジ466との間に延びる平面における視野の半分の距離を表す。距離424a〜bは、カメラ428の入射瞳と仮想入射瞳420との間の距離の半分を表す。距離418は、仮想入射瞳平面460と、仮想入射瞳平面460に平行なカメラ428の入射瞳の平面との間の距離を表す。距離416は、平面466として表される、仮想入射瞳平面460に対して垂直な平面と、カメラ428の入射瞳との間の最短距離を表す。
[0099]角度eは、カメラ428の仮想視野の光軸434と反射面450の背面との間の角度を表す。角度cは、カメラ428の仮想視野の光軸434と反射面450の前側との間の角度を表す。角度dは、反射面450の前側とカメラ428の実際の視野の光軸432との間の角度を表す。角度aは、カメラ428と反対側のカメラの投影された実際の視野の光軸と、カメラ428の投影された実際の視野の光軸432との間の角度を表す。
[0100]点422は、カメラ428の実際の視野の光軸432がカメラ428の仮想視野の光軸434と交差するロケーションである。カメラ428の仮想視野は、カメラ428が光軸434に沿って仮想入射瞳420における位置から「見ていた」かのようである。しかしながら、カメラ428の実際の視野は、光軸432に沿ってカメラ428の実際の入射瞳から向けられる。カメラ428の実際の視野は、上記の方向に向いているが、カメラ428は、カメラ428の実際の入射瞳に向かって反射面450から再配向されている入射光の結果として、仮想視野からの入射光をキャプチャする。
[0101]図3Bは、複数カメラ構成410bの一実施形態の2つのカメラ428b、430bの概略を示す。図3Bはまた、多くの異なる視差のないまたは実質的に視差のないマルチカメラの実施形態が本明細書に提示された方法を使用して企図、設計、および/または実現され得るモデルを表す。表3は、長さ412bならびに角度g2、f2、およびk2に基づいて図1Bに示す距離と角度とを決定するために使用される方程式を提供する。
[0102]図3Bには、表3の角度と距離とが示されている。中央カメラ430bおよびサイドカメラ428bが示されている。サイドカメラ428bの入射瞳は、距離416bおよび距離418bに従って仮想入射瞳420bからオフセットされる。距離416bは、光軸472bとサイドカメラ428bの入射瞳中心点との間の距離を表し、距離416bは、光軸472bに対して垂直に測定される。
[0103]距離418bは、平面460bと、サイドカメラ428bの入射瞳中心点を含み平面460bに平行な平面との間の距離を表す。
[0104]残りの距離および角度は、表3中に見出され得、図3Bに示されている。
[0105]表3は、点437と交差し、線460bに対して垂直な点に対する光再配向面450bの角度k2を提供する。点437は、図3Bを示すページの平面に対して垂直な、したがって、マルチカメラシステム光軸472bに対して垂直な平面上に位置し、線460bから距離412bにある。カメラ430bの視野は、434bとラベル付けられた2つの交差する線によって示され、これらの2つの線は、カメラ430bの入射瞳の中心点で交差する。カメラ430bの半角視野は、マルチカメラ光軸472bと視野エッジ434bとの間のg2である。
[0106]図3Bに示すように、カメラ430bは、線472bと一致するそれの光軸を有する。カメラ428bの半角視野は、カメラ428bの光軸435bに対してf2である。カメラ428bに関する仮想カメラの光軸は、光再配向面450bから再配向されているように示されている。光再配向面450bが完全に平坦であり、図3Bが示されたページの平面に対して垂直な平面であると仮定し、光再配向平面がカメラ428bの円形視野を完全にカバーするとさらに仮定する。図3Bに示すように、光軸435bは、平面光再配向面450b上の点で交差する。ここで、光線が物体空間内の点から仮想カメラ光軸435bに沿って進行していると仮定する。ここで、障害物(obstructions)が存在する場合、障害物は、光再配向面を遮り(intercept)、平面光再配向面450bに反射し、カメラ428bの光軸435bに沿って進行することになる。角度c2およびd2は、光学の原理と理論とに基づいて等しくなる。したがって、角度e2は、c2に等しくなる。このことから、平面光再配向面450bが、カメラ430bの入射瞳中心点からカメラ428bの入射瞳中心点に向かう線と垂直に交差することを示すことができる。したがって、2つの線長460bは、等距離の所にあることが示され得る。
[0107]平面光再配向面450bは、カメラ428bの視野の一部のみをカバーすることが可能である。この場合には、図3Bに示すように、物体空間からそれの中心に点420bを含む仮想カメラ入射瞳に向かって進行するすべての光線が、カメラ428bの視野を部分的にカバーする光再配向面450bの平面部分に反射するとは限らない。この観点から、カメラ428bが、半角視野f2と、光軸435bと、長さ416bおよび418bによって記述されるそれの入射瞳のロケーションとによって定義される視野を有することを念頭に置くことが重要である。この視野内で、光再配向面450bの光反射平面部分などの表面は、それの視野内に部分的にあり得る。光再配向面450bの平面部分ならびにカメラ430bおよび428bが、図3B、表3の方程式に示すように、選択された入力値412b、g2、f2、およびk2に従って位置付けられるならば、物体空間からカメラ428bの仮想カメラの入射瞳に向かって進行し、光再配向面450bの平面部分に反射する光線は、カメラ428bの入射瞳上に進行することになる。
[0108]図4は、図1A〜図2Bおよび図5〜図6に示すカメラ20の一実施形態を示す。図4に示すように、入射瞳14の最中心点は、光軸19上に位置し、その位置において、視野(FoV:Field of View)16の頂点(vertex)は、光軸19と交差する。カメラ20の実施形態は、図1〜図2Bの全体にわたって示され、カメラ114a〜dおよび116a〜dとして図5および図6に示されている。カメラ20の前部は、短いバー15として表される。平面は入射瞳を含み、点14は15の前に位置する。カメラの正面および入射瞳のロケーションは、15によって象徴される。短いバー15は、ときには、図1〜図6では、狭い矩形のボックスとして、または線として示されることがある。カメラシステム20の中心は、光学セクション12であり、カメラシステム20内で使用される光学構成要素を象徴する。画像キャプチャデバイスは、カメラシステムの背面において17によって象徴される。画像キャプチャデバイスは、本明細書でさらに説明される。図1A〜図2Bならびに図5および図6において、図4中の20によって表されるカメラシステムのアセンブリ全体は、直線矢印線または曲線矢印線と、矢印線の近くの参照番号とを使用することによって指し示されることがある。
[0109]角度指定(angle designations)は、カメラ20の下に示される。正の角度は、反時計回りの方向を指す円形の線によって指定される。負の角度は、時計回りの方向を指す円形の線によって指定される。常に正である角度は、時計回りの方向と反時計回りの方向の両方を示す矢印を有する円形の線によって指定される。デカルト座標系(Cartesian coordinate system)は、左から右に向かう正の水平方向Xおよび下から上に向かう正の垂直方向Yによって示される。
[0110]図4中に17として示され、図1〜図6全体を通じて示されたカメラ112、114a〜d、および116a〜dの一部として表され、336a〜d、334a〜dとして図8および図9に示されるような各カメラの画像センサは、特定の実施形態では、電荷結合デバイス(CCD:charge-coupled device)、相補型金属酸化膜半導体センサ(CMOS)、または、光を受け取り、受け取られた画像に応答して画像データを生成する任意の他の画像感知デバイスを含み得る。カメラ112、114a〜d、116a〜dの、およびまたはカメラのより多くの同心リングの、各画像センサは、アレイ内に配列された複数のセンサ(またはセンサ素子)を含み得る。図4に示され、図1A〜図6ならびに図8および図9に表されているような画像センサ17は、静止写真のための画像データを生成することができ、キャプチャされたビデオストリームのための画像データを生成することもできる。図4に示され、図1A〜図6ならびに図8および図9に表されているような画像センサ17は、個々のセンサアレイであってもよく、または、各々がセンサアレイのアレイ、たとえば、センサアレイの3×1アレイを表してもよい。しかしながら、当業者によって理解されるように、センサの任意の適切なアレイが、開示された実施態様において使用され得る。
[0111]図4に示され、図1A〜図6ならびに図8および図9に表されているような画像センサ17は、304および306として図8中に示された基板上、または1つまたは複数の基板上に取り付けられ得る。いくつかの実施形態では、すべてのセンサは、基板336に関して図9中に一例として示された、平坦な基板に取り付けられていることによって、1つの平面上にあり得る。図9に示すように、基板336は、任意の適切な実質的に平坦な材料であり得る。中央反射要素316およびレンズアセンブリ324、326は、同様に基板336上に取り付けられ得る。センサアレイと、複数のレンズアセンブリと、ならびに複数の一次および二次反射面または屈折面とを取り付けるための複数の構成が可能である。
[0112]いくつかの実施形態では、中央反射要素316は、ターゲット画像シーンからの光をセンサ336a〜d、334a〜dに向けて再配向するために使用され得る。中央反射要素316は、反射面(たとえば、ミラー)または複数の反射面(たとえば、ミラー)であり得、入射光を画像センサ336a〜d、334a〜dに向けて適切に再配向するために必要に応じて平坦であり得または形づくられ得る。たとえば、いくつかの実施形態では、中央反射要素316は、入射光線を、レンズアセンブリ324、326を介してセンサ332a〜d、334a〜dに反射するようなサイズおよび形状のミラーであり得る。中央反射要素316は、ターゲット画像を備える光を、複数の部分に分割し得、各部分を異なるセンサに導き得る。たとえば、中央反射要素316の第1の反射面312(他の実施形態は、反射面ではなく屈折プリズム(refractive prism)を実装し得るので、一次光屈曲面(primary light folding surface)とも呼ばれる)は、第1の視野320に対応する光の一部を、第1の(左)センサ334aに向けて送り、第2の反射面314は、第2の視野322に対応する光の第2の部分を、第2の(右)センサ334aに向けて送る。画像センサ336a〜d、334a〜dの視野320、322は一緒に、少なくともターゲット画像をカバーすることが理解されるべきである。
[0113]受光センサ(receiving sensors)が各々複数のセンサのアレイであるいくつかの実施形態では、中央反射要素は、ターゲット画像シーンの異なる部分をセンサの各々に向けて送るために、互いに対して角度がつけられた複数の反射面から製作され得る。アレイ内の各センサは、実質的に異なる視野を有し得、いくつかの実施形態では、視野は、オーバーラップし得る。中央反射要素の特定の実施形態は、レンズ系を設計する際の自由度を高めるために、複雑な非平面の表面を有し得る。さらに、中央要素が反射面であるものとして論じられているが、他の実施形態では、中央要素は、屈折性であり得る。たとえば、中央要素は、複数のファセット(facets)で構成されたプリズムであり得、各ファセットは、シーンを備える光の一部をセンサのうちの1つに向ける。
[0114]中央反射要素316に反射された後、入射光の少なくとも一部は、レンズアセンブリ324、326の各々を通って伝播し得る。1つまたは複数のレンズアセンブリ324、326は、中央反射要素316およびセンサ336a〜d、334a〜dと、反射面328、330との間に設けられ得る。レンズアセンブリ324、326は、各センサ336a〜d、334a〜dの方に向けられたターゲット画像の一部を集束させるために使用され得る。
[0115]いくつかの実施形態では、各レンズアセンブリは、1つまたは複数のレンズと、複数の異なるレンズ位置の間でレンズを移動させるためのアクチュエータとを備え得る。アクチュエータは、ボイスコイルモータ(VCM:voice coil motor)、マイクロ電子機械システム(MEMS:micro-electronic mechanical system)、または形状記憶合金(SMA:shape memory alloy)であってよい。レンズアセンブリは、アクチュエータを制御するためのレンズドライバをさらに備え得る。
[0116]いくつかの実施形態では、従来のオートフォーカス技法は、各カメラのレンズ324、326と、対応するセンサ336a〜d、334a〜dとの間の焦点距離を変更することによって実装され得る。いくつかの実施形態では、これは、レンズバレルを移動させることによって達成され得る。他の実施形態は、中央光再配向反射ミラー面を上下に移動させることによって、または、レンズアセンブリに対する光再配向反射ミラー面の角度を調整することによって、焦点を調節し得る。特定の実施形態は、各センサ上でサイド光再配向反射ミラー面を移動させることによって焦点を調整し得る。そのような実施形態は、アセンブリが各センサの焦点を個別に調整することを可能にし得る。さらに、いくつかの実施形態は、たとえば、アセンブリ全体にわたって液体レンズのようなレンズを配置することによって、アセンブリ全体の焦点を一度に変更することが可能である。特定の実施態様では、コンピュテーショナル・フォトグラフィー(computational photography)が、カメラアレイの焦点を変更するために使用され得る。
[0117]視野320、322は、仮想領域342から知覚される仮想視野を屈曲光学マルチセンサアセンブリ(folded optic multi-sensor assembly)310に提供し、仮想視野は、仮想軸338、340によって定義される。仮想領域342は、センサ336a〜d、334a〜dがターゲット画像の入射光を知覚し、入射光に敏感な領域である。仮想視野は、実際の視野と対比されるべきである。実際の視野は、検出器が入射光に敏感な角度である。仮想視野が、入射光が実際には決して到達しない知覚された角度であるという点で、実際の視野は仮想視野と異なる。たとえば、図3では、入射光は、反射面312、314に反射されるので、入射光は、仮想領域342に決して到達しない。
[0118]複数のサイド反射面、たとえば、反射面328および330が、センサの反対側の中央反射要素316の周りに設けられ得る。レンズアセンブリを通過した後、サイド反射面328、330(他の実施形態は、反射面ではなく屈折プリズムを実装し得るので、二次光屈曲面(secondary light folding surface)とも呼ばれる)は、光をセンサ336a〜d、334a〜d上に(図3の向きで示されているように、下方に)反射し得る。図示のように、センサ336bは、反射面328の下に位置付けられ得、センサ334aは、反射面330の下に位置付けられ得る。しかしながら、他の実施形態では、センサは、サイド反射面の上方にあり得、サイド反射面は、光を上方に反射するように構成され得る。各レンズアセンブリからの光がセンサに向かって再配向される、サイド反射面およびセンサの他の適切な構成が可能である。特定の実施形態は、関連するセンサの焦点または視野を変化させるために、サイド反射面328、330の移動を可能にし得る。
[0119]各センサの視野320、322は、そのセンサに関連する中央反射要素316の表面によって物体空間内に向けられ得る。各カメラの視野が物体フィールド上の異なるロケーションに向けられ得るように、アレイ内のミラーを傾斜させる(tilt)および/またはプリズムを移動させるために、機械的方法が用いられ得る。これは、たとえば、高ダイナミック・レンジカメラを実装するため、カメラシステムの解像度を高めるため、またはプレノプティック・カメラシステム(plenoptic camera system)を実装するために使用され得る。各センサの(または、各3×1アレイの)視野は、物体空間内に投影され得、各センサは、そのセンサの視野に従ってターゲットシーンの一部を備える部分画像をキャプチャし得る。図2Bに示すように、いくつかの実施形態では、対向するセンサアレイ(opposing sensor arrays)336a〜d、334a〜dの視野320、322は、特定の量318だけオーバーラップし得る。オーバーラップ318を低減し、単一の画像を形成するために、以下で説明するスティッチングプロセスが、2つの対向するセンサアレイ336a〜d、334a〜dからの画像を組み合わせるために使用され得る。スティッチングプロセスの特定の実施形態は、部分画像を一緒にスティッチする際に共通の特徴を識別するためにオーバーラップ318を用い得る。オーバーラップする画像を一緒にスティッチした後、スティッチされた画像は、最終画像を形成するように、所望のアスペクト比に、たとえば4:3または1:1にクロップされ(cropped)てよい。いくつかの実施形態では、各FOVに関連する光学要素の整列は、画像をつなぎ合わせる(join)際に必要とされる画像処理が最小限でまたはなしで複数の画像が単一の画像に形成されるように、オーバーラップ318を最小にするように配列される。
D.4カメラシステムおよび8カメラシステムのさらなる例の概要
[0120]図5は、8カメラシステム500aの側面図断面の一実施形態を示す。第1および第2のリングの各々におけるカメラのうちの2つに関する入射瞳ロケーションが示され、ミラー面134a、134c、136a、および136cに反射する光線が示される。カメラ116aの入射瞳は、距離1542aと距離1562aとに従って仮想入射瞳最中心点145から垂直にオフセットされる。カメラ114aの入射瞳は、距離1541aと距離1561aとに従って仮想入射瞳から垂直にオフセットされる。同様に、カメラ116cの入射瞳は、距離1542cと距離1562cとに従って仮想入射瞳最中心点145から垂直にオフセットされる。カメラ114cの入射瞳は、距離1541cと距離1561cとに従って仮想入射瞳から垂直にオフセットされる。
[0121]図6は、4カメラシステムの側面図断面の一実施形態を示す。カメラ114aの入射瞳最中心点は、距離1541aと距離1561aとに従って仮想入射瞳から垂直にオフセットされる。同様に、カメラ114cの入射瞳最中心点は、距離1541cと距離1561cとに従って仮想入射瞳から垂直にオフセットされる。
[0122]図7Aは、図1Aのマルチミラーシステム700aとして使用され得る反射要素160の上面図の一例を示す。図7Aは、さらに、それぞれ図2A、図2B、図5、図6、および図8に示すように、表面134a〜dおよび136a〜dのために使用され得る8つの反射面124a〜dおよび126a〜dを示す。表面134a〜dは、カメラ114a〜dに関連付けられ、ミラー136a〜dよりも高い。ミラー面136a〜dは、カメラ116a〜dに関連付けられる。図5は、図7Aに示す上面図に関する側面図の例を提供する。図5において、図1Aおよび図7Aに示す例示的な表面124aおよび124cを表すミラー面134aおよび134cを示す。同様に、表面136a〜dは、カメラ116a〜dに関連付けられ、図2A、図2B、図5、図6、および図8に示すようにミラー面134a〜dよりも低い。図1Aおよび図7Aに示すように、ミラー面124a〜dは、マルチカメラシステム光軸113を中心として22.5 回転され、光軸113は、図1Aおよび図7Aに示されていないが、図2Aおよび図2Bに示されている。図7Aでは、円がミラー面124a〜dの周りに示され、楕円面がミラー面126a〜dの周りに示されている。楕円円は、たとえば、それの関連するミラー126aとともにカメラ116aによってカバーされる視野の傾斜を象徴する(symbolize)。表1および表2によるカメラミラーの組合せ116aおよび136aに関する視野の傾斜は、カメラ−ミラーの組合せ114aおよび134aのカメラミラーの組合せに関する視野の傾斜よりも大きい。図7Aに示すように、ミラー面124a〜dおよび126a〜dの周囲の円および楕円は、これらのカメラミラーの組合せの視野を反映する。オーバーラップ領域は、視野がどのようにオーバーラップし得るのかの一例を表す。オーバーラップは、マルチカメラシステム内の隣接するカメラまたは他のカメラの視野内にあり得るシーンコンテンツを表す。
[0123]図5では、図1Aに示す例示的な表面124aおよび124cを表すミラー面134aおよび134cを示し、図7Aは、複数の反射面(別々には図示せず)を備える反射要素700aを示す。反射面の各々は、対応するカメラの各々が各カメラ−ミラーの組合せの視野に従ってターゲット画像の一部を備える部分画像をキャプチャし得るように、光軸に沿って光を反射し得る。クロッピング後の最終的な画像の完全な視野は、破線170によって示される。クロップされたエッジ170の形状は、1:1のアスペクト比を有する正方形画像を表す。クロップされた画像170は、他のアスペクト比を形成するためにさらにクロップされ得る。
[0124]マルチカメラシステムは、図2Aおよび図2Bならびに表1および表2の例について使用された方向とは異なる方向において、各カメラ−ミラーの組合せの光軸を指すようにミラーを傾斜させるような技法を使用し得る。そのような方法を使用することは、図1Aおよび図7Aに示す1:1のアスペクト比のアスペクト比以外の他のアスペクト比により適し得るオーバーラップパターンを生成し得る配列を可能にし得る。
[0125]視野124a〜dおよび126a〜dは、オーバーラップ領域を共有し得る。この実施形態では、視野は、特定の領域においてたった1つの他の視野とオーバーラップし得る。
[0126]他の領域では、視野は、2つ以上の他の視野と重複し得る。重複領域は、8つのカメラに向けて反射されたとき、同じまたは同様のコンテンツを共有する。重複領域は、同じまたは同様のコンテンツ(たとえば、入射光)を共有するので、このコンテンツは、ターゲット画像を出力するために画像スティッチングモジュールによって使用され得る。スティッチング技術を使用して、スティッチングモジュールは、画像プロセッサにターゲット画像を出力し得る。
[0127]図7Bは、8カメラ構成710の一部の一実施形態の側面図を示す。図7Bの実施形態は、視差アーティファクトおよび傾斜アーティファクトのない8カメラ構成のための反射要素730を示す。反射要素730は、複数の反射面712a〜cを有し得る。図7の実施形態では、反射面712a〜cは、プリズムの形状である。反射要素730は、8カメラ構成の中心またはその近くに配置され、8つのカメラの各々に入射光の一部を反射するように構成される(3つのカメラ718a〜cが、この例示の明瞭化のため、図7Bに示されている)。いくつかの実施形態では、反射要素730は、少なくとも8つの反射面を有する1つの構成要素から構成され得る。いくつかの他の実施形態では、反射要素730は、各々が少なくとも1つの反射面を有する複数の個別の構成要素を備え得る。反射要素730の複数の構成要素は、一緒に組み合わされ得、それらの位置を互いに対して設定するように別の構造に結合され得、またはその両方であり得る。反射面712a、712b、712cは、それら自体の別個の部分になるように相互に分離され得る。別の実施形態では、反射面712a、712b、712cは、1つの反射要素730を形成するように一緒につなぎ合わせられ得る。
[0128]図示の実施形態では、8カメラ構成710の一部は、カメラ718a〜cを有し、各カメラは、ターゲット画像の複数の部分がキャプチャされ得るように、ターゲット画像の一部をキャプチャする。カメラ718aおよび718cは、反射要素730の基部から同じまたは実質的に同じ距離(または高さ)732にある。カメラ718bは、カメラ718bおよび718cの距離732と比較して異なる距離(または高さ)734にある。図7に示すように、カメラ718bは、カメラ718aおよび718cの距離よりも反射要素730の基部からより大きい距離(または高さ)734にある。反射要素730の基部から異なる距離にカメラ718aおよび718cを位置付けることは、中央視野ならびに広視野の両方をキャプチャするという利点を提供する。反射要素730の上部領域に近い反射面712bは、中央視野を提供する入射光を反射し得る。反射要素730の基部に近い反射面712aおよび712cは、広視野を提供する入射光を反射し得る。
[0129]反射面712aおよび712cとは異なる角度に反射面712bを置くことは、中央視野ならびに広視野の両方を提供する。しかしながら、反射面712a〜cは、中央視野ならびに広視野の両方をキャプチャするために、反射要素730の基部から異なる距離または角度に置かれる必要はない。
[0130]カメラ718a〜cは、カメラ718a〜cが反射面712a〜cからカメラ718a〜cに反射された入射光の一部を受け取ることができるような光軸724a〜cを有する。図1によれば、同様の技法が、構成710がターゲット画像をキャプチャするために使用され得る。
[0131]別の実施形態では、内側カメラ718bは、反射面712を使用して±21度の画像を作成する。外側カメラ718aおよび718cは、ターゲット画像の複数の部分がキャプチャされる解決策を作成するために、他の反射面712aおよび712cを使用する。この例では、反射面712bは、傾斜した正方形形状を有する。これは、均一なときに良好な点拡がり関数(PSF)を提供する。反射面712aおよび712cは、反射面712bよりも大きい領域をカバーするが、対称形状を有しない。反射面は、それらがカメラ入射瞳よりも小さいときに絞りとして機能する。
[0132]図8は、カメラごとに屈曲光学カメラ構造(folded optics camera structure)を有する図5のカメラ114aおよび116bの断面図を示す。図8に示すように、屈曲光学アレイカメラ配列は、394aおよび396bなどの光再配向反射ミラー面がセンサ334aに向かって下方に、およびセンサ336bに向かって上方に光を再配向するために使用され得る場合、使用され得る。図8に示す概略表現では、センサ334a〜dは、1つの共通基板304に取り付けられ得る。同様に、図8に示す概略表現では、センサ336a〜dは、1つの共通基板306に取り付けられ得る。この実施形態の基板304および306は、図8に概略的に示すように、センサ334a〜dと図10に示すセンサアセンブリA420aインターフェースとの間の支持と相互接続とを提供し得、同様に、センサ336a〜d、基板306の間の相互接続は、センサ336a〜dとセンサアセンブリB420bとの間の支持と相互接続とを提供し得る。異なる方法において、または異なる技術によって実装され得る他の実施形態の当業者が存在し得る。カメラのより大きいまたはより少ない同心リングが、他の実施形態において使用され得、より多くが追加される場合、図10に示すような他のセンサアセンブリインターフェース420c〜420nが使用され得る(センサアセンブリインターフェース420cは、図示されていない)。アレイカメラの第1のセットの画像センサは、第1の基板上に配置され得、アレイカメラの第2のセットの画像センサは、第2のおよび同様に3つ以上の基板を形成する基板上に配置される。基板は、たとえば、プラスチック、木材、などであり得る。さらに、いくつかの実施形態では、第1、第2、またはことによるとそれ以上の基板は、平行な平面内に配置され得る。
[0133]図9は、屈曲光学マルチセンサアセンブリの一実施形態の断面側面図を示す。図9に示すように、屈曲光学マルチセンサアセンブリ310は、全高346を有する。いくつかの実施形態では、全高346は、約4.5mm以下であり得る。他の実施形態では、全高346は、約4.0mm以下であり得る。図示されていないが、屈曲光学マルチセンサアセンブリ310全体は、4.5mm以下よりもほぼ上もしくは下、または約4.0mm以下の対応する内部高さを有するハウジング内に設けられ得る。
[0134]屈曲光学マルチセンサアセンブリ310は、画像センサ332、334と、反射二次光屈曲面328、330と、レンズアセンブリ324、326と、中央反射要素316とを含み、それらはすべて、基板336に取り付けられ得る(または、接続され得る)。
[0135]画像センサ332、334は、特定の実施形態では、電荷結合デバイス(CCD)、相補型金属酸化膜半導体センサ(CMOS)、または、光を受け取り、受け取られた画像に応答して画像データを生成する任意の他の画像感知デバイスを含み得る。各センサ332、334は、アレイ内に配列された複数のセンサ(または、センサ素子)を含み得る。画像センサ332、334は、静止写真のための画像データを生成することができ、キャプチャされたビデオストリームのための画像データを生成することもできる。センサ332、334は、個々のセンサアレイであってもよく、または、各々がセンサアレイのアレイ、たとえば、センサアレイの3×1アレイを表してもよい。しかしながら、当業者によって理解されるように、センサの任意の適切なアレイが、開示された実施態様において使用され得る。
[0136]センサ332、334は、図9に示すように、基板336上に取り付けられ得る。いくつかの実施形態では、すべてのセンサが、平坦な基板336に取り付けられていることによって、1つの平面上にあることができる。基板336は、任意の適切な実質的に平坦な材料であってもよい。中央反射要素316およびレンズアセンブリ324、326は、同様に基板336上に取り付けられ得る。センサアレイと、複数のレンズアセンブリと、複数の一次および二次反射面または屈折面とを取り付けるための複数の構成が可能である。
[0137]いくつかの実施形態では、中央反射要素316は、ターゲット画像シーンからの光をセンサ332、334に向けて再配向するために使用され得る。中央反射要素316は、反射面(たとえば、ミラー)または複数の反射面(たとえば、ミラー)であり得、入射光を画像センサ332、334に向けて適切に再配向するために必要に応じて平坦であり得または形づくられ得る。たとえば、いくつかの実施形態では、中央反射要素316は、入射光線を、レンズアセンブリ324、326を介してセンサ332、334に反射するようなサイズおよび形状のミラーであり得る。中央反射要素316は、ターゲット画像を備える光を、複数の部分に分割し得、各部分を異なるセンサに導き得る。たとえば、中央反射要素316の第1の反射面312(他の実施形態は、反射面ではなく屈折プリズムを実装し得るので、一次光屈曲面とも呼ばれる)は、第1の視野320に対応する光の一部を、第1の(左)センサ332に向けて送り得、第2の反射面314は、第2の視野322に対応する光の第2の部分を、第2の(右)センサ334に向けて送る。画像センサ332、334の視野320、322は一緒に、少なくともターゲット画像をカバーすることが理解されるべきである。
[0138]受光センサが各々複数のセンサのアレイであるいくつかの実施形態では、中央反射要素は、ターゲット画像シーンの異なる部分をセンサの各々に向けて送るために、互いに対して角度がつけられた複数の反射面から製作され得る。アレイ内の各センサは、実質的に異なる視野を有し得、いくつかの実施形態では、視野は、オーバーラップし得る。中央反射要素の特定の実施形態は、レンズ系を設計する際の自由度を高めるために、複雑な非平面の表面を有し得る。さらに、中央要素が反射面であるものとして論じられているが、他の実施形態では、中央要素は、屈折性であり得る。たとえば、中央要素は、複数のファセットで構成されたプリズムであり得、各ファセットは、シーンを備える光の一部をセンサのうちの1つに向ける。
[0139]中央反射要素316に反射された後、入射光の少なくとも一部は、レンズアセンブリ324、326の各々を通って伝播し得る。1つまたは複数のレンズアセンブリ324、326は、中央反射要素316およびセンサ332、334と、反射面328、330との間に設けられ得る。レンズアセンブリ324、326は、各センサ332、334の方に向けられたターゲット画像の一部を集束させるために使用され得る。
[0140]いくつかの実施形態では、各レンズアセンブリは、1つまたは複数のレンズと、複数の異なるレンズ位置の間でレンズを移動させるためのアクチュエータとを備え得る。アクチュエータは、ボイスコイルモータ(VCM)、マイクロ電子機械システム(MEMS)、または形状記憶合金(SMA)であってよい。レンズアセンブリは、アクチュエータを制御するためのレンズドライバをさらに備え得る。
[0141]いくつかの実施形態では、従来のオートフォーカス技法は、各カメラのレンズ324、326と、対応するセンサ332、334との間の焦点距離を変更することによって実装され得る。いくつかの実施形態では、これは、レンズバレルを移動させることによって達成され得る。他の実施形態は、中央光再配向反射ミラー面を上下に移動させることによって、または、レンズアセンブリに対する光再配向反射ミラー面の角度を調整することによって、焦点を調節し得る。特定の実施形態は、各センサ上でサイド光再配向反射ミラー面を移動させることによって焦点を調整し得る。そのような実施形態は、アセンブリが各センサの焦点を個別に調整することを可能にし得る。さらに、いくつかの実施形態は、たとえば、アセンブリ全体にわたって液体レンズのようなレンズを置くことによって、アセンブリ全体の焦点を一度に変更することが可能である。特定の実施態様では、コンピュテーショナル・フォトグラフィーが、カメラアレイの焦点を変更するために使用され得る。
[0142]視野320、322は、仮想領域342から知覚される仮想視野を屈曲光学マルチセンサアセンブリ310に提供し、その仮想視野は、仮想軸338、340によって定義される。仮想領域342は、センサ332、334がターゲット画像の入射光を知覚し、入射光に敏感な領域である。仮想視野は、実際の視野と対比されるべきである。実際の視野は、検出器が入射光に敏感な角度である。仮想視野が、入射光が実際には決して到達しない知覚された角度であるという点で、実際の視野は仮想視野と異なる。たとえば、図9では、入射光は、反射面312、314に反射されるので、入射光は、仮想領域342に決して到達しない。
[0143]複数のサイド反射面、たとえば、反射面328および330が、センサの反対側の中央反射要素316の周りに設けられ得る。レンズアセンブリを通過した後、サイド反射面328、330(他の実施形態は、反射面ではなく屈折プリズムを実装し得るので、二次光屈曲面とも呼ばれる)は、光をセンサ332、334上に(図9の向きで示されているように、下方に)反射し得る。図示のように、センサ332は、反射面328の下に位置付けられ得、センサ334は、反射面330の下に位置付けられ得る。しかしながら、他の実施形態では、センサは、サイド反射面の上方にあり得、サイド反射面は、光を上方に反射するように構成され得る。各レンズアセンブリからの光がセンサに向かって再配向される、サイド反射面およびセンサの他の適切な構成が可能である。特定の実施形態は、関連するセンサの焦点または視野を変化させるために、サイド反射面328、330の移動を可能にし得る。
[0144]各センサの視野320、322は、そのセンサに関連する中央反射要素316の表面によって物体空間内に向けられ得る。各カメラの視野が物体フィールド上の異なるロケーションに向けられ得るように、アレイ内のミラーを傾斜させるおよび/またはプリズムを移動させるために、機械的方法が用いられ得る。これは、たとえば、高ダイナミックレンジカメラを実装するため、カメラシステムの解像度を高めるため、またはプレノプティック・カメラシステムを実装するために使用され得る。各センサの(または、各3×1アレイの)視野は、物体空間内に投影され得、各センサは、そのセンサの視野に従ってターゲットシーンの一部を備える部分画像をキャプチャし得る。図9に示すように、いくつかの実施形態では、対向するセンサアレイ332、334の視野320、322は、特定の量318だけオーバーラップし得る。オーバーラップ318を低減し、単一の画像を形成するために、以下で説明するスティッチングプロセスが、2つの対向するセンサアレイ332、334からの画像を組み合わせるために使用され得る。スティッチングプロセスの特定の実施形態は、部分画像同士を一緒にスティッチする際に共通の特徴を識別するためにオーバーラップ318を用い得る。オーバーラップする画像を一緒にスティッチした後、スティッチされた画像は、最終画像を形成するように、所望のアスペクト比に、たとえば4:3または1:1にクロップされてよい。いくつかの実施形態では、各FOVに関連する光学要素の整列は、画像をつなぎ合わせる際に必要とされる画像処理が最小限でまたはなしで複数の画像が単一の画像に形成されるように、オーバーラップ318を最小にするように配列される。
[0145]図9に示すように、屈曲光学マルチセンサアセンブリ310は、全高346を有する。いくつかの実施形態では、全高346は、約4.5mm以下であり得る。他の実施形態では、全高346は、約4.0mm以下であり得る。図示されていないが、屈曲光学マルチセンサアセンブリ310全体は、約4.5mm以下または約4.0mm以下の対応する内部高さを有するハウジング内に設けられ得る。
[0146]本明細書で使用される場合、「カメラ」という用語は、画像センサ、レンズシステム、およびいくつかの対応する光屈曲面(light folding surfaces)を指すことができ、たとえば、一次光屈曲面314、レンズアセンブリ326、二次光屈曲面330、およびセンサ334が、図9に示されている。「アレイ」または「アレイカメラ」と呼ばれる屈曲光学マルチセンサアセンブリは、様々な構成における複数のそのようなカメラを含み得る。
E.例示的な撮像システムの概要
[0147]図10は、1つまたは複数のカメラ420a〜nにリンクされた画像プロセッサ426を含む構成要素のセットを有するデバイス410の高レベルブロック図を示す。画像プロセッサ426はまた、作業メモリ428、メモリ構成要素412、およびデバイスプロセッサ430と通信し、これらは、記憶装置434および電子ディスプレイ432と通信する。
[0148]デバイス410は、セルフォン、デジタルカメラ、タブレットコンピュータ、携帯情報端末などであり得る。本明細書に記載されるような、厚さを薄くした撮像システムが利点をもたらす多くのポータブル・コンピューティングデバイスがある。デバイス410はまた、固定コンピューティングデバイスであっても、薄い撮像システムが有利になるどのデバイスであってもよい。デバイス410上で、複数のアプリケーションがユーザにとって利用可能であり得る。これらのアプリケーションは、従来の写真およびビデオアプリケーション、高ダイナミックレンジ撮像、パノラマ写真およびビデオ、または3D画像もしくは3Dビデオなどの立体映像撮像(stereoscopic imaging)を含み得る。
[0149]画像キャプチャデバイス410は、外部画像をキャプチャするためのカメラ420a〜nを含む。カメラ420a〜nの各々は、図3に関して上記で論じたように、センサと、レンズアセンブリと、ターゲット画像の一部を各センサに反射するための一次および二次反射または屈折ミラー面とを備え得る。一般に、N個のカメラ420a〜nが使用され得、ここで、N≧2である。したがって、ターゲット画像は、N個の部分に分割され得、N個の部分では、N個のカメラの各センサが、そのセンサの視野に従ってターゲット画像の1つの部分をキャプチャする。カメラ420a〜nは、本明細書で説明される屈曲光学撮像デバイスの実装に適した任意の数のカメラを備え得ることを理解されたい。センサの数は、システムのより低いz高さ(z-heights)を達成するために、または、後処理後に画像の焦点を調整する能力を可能にし得るプレノプティック・カメラの視野と同様のオーバーラップする視野を有するなどの他の目的のニーズを満たすために、増加され得る。他の実施形態は、2つの同時画像をキャプチャし、次いで、それらを一緒にマージする能力を可能にする高ダイナミックレンジカメラに適した視野オーバーラップ構成を有してよい。カメラ420a〜nは、キャプチャされた画像を、作業メモリ428と、デバイスプロセッサ430と、電子ディスプレイ432と、記憶装置(メモリ)434とに伝達するために、画像プロセッサ426に結合され得る。
[0150]画像プロセッサ426は、以下でより詳細に説明するように、高品質のスティッチされた画像を出力するために、ターゲット画像のN個の部分を備える受け取られた画像データに対して様々な処理動作を実施するように構成され得る。画像プロセッサ426は、汎用処理ユニット、または、撮像用途のために特別に設計されたプロセッサであり得る。画像処理動作の例は、クロッピング、(たとえば、異なる解像度への)スケーリング、画像スティッチング、画像フォーマット変換、色補間、色処理、画像フィルタリング(たとえば、空間画像フィルタリング)、レンズアーティファクトまたは欠陥補正(lens artifact or defect correction)、などを含む。画像プロセッサ426は、いくつかの実施形態では、複数のプロセッサを備え得る。特定の実施形態は、各画像センサに専用のプロセッサを有し得る。画像プロセッサ426は、1つもしくは複数の専用画像信号プロセッサ(ISP)またはプロセッサのソフトウェア実装であってよい。
[0151]図示のように、画像プロセッサ426は、メモリ412と作業メモリ428とに接続される。図示の実施形態では、メモリ412は、キャプチャ制御モジュール414と、画像スティッチングモジュール416と、オペレーティングシステム418と、反射体制御モジュール419とを格納する。これらのモジュールは、様々な画像処理とデバイス管理タスクとを実行するようにデバイスプロセッサ430の画像プロセッサ426を構成する命令を含む。作業メモリ428は、メモリ構成要素412のモジュール内に含まれるプロセッサ命令の作業セットを記憶するために画像プロセッサ426によって使用され得る。代替的には、作業メモリ428はまた、デバイス410の動作中に作成される動的データを記憶するために画像プロセッサ426によって使用され得る。
[0152]上述のように、画像プロセッサ426は、メモリに格納された、いくつかのモジュールによって構成される。キャプチャ制御モジュール414は、反射体制御モジュール419を呼び出してカメラの伸張可能な反射体を第1または第2の位置に位置決めするように画像プロセッサ426を構成する命令を含み得、カメラ420a〜nの焦点位置を調節するように画像プロセッサ426を構成する命令を含み得る。キャプチャ制御モジュール414は、デバイス410の全体的な画像キャプチャ機能を制御する命令をさらに含み得る。たとえば、キャプチャ制御モジュール414は、カメラ420a〜nを使用してターゲット画像シーンの未加工の画像データをキャプチャするように画像プロセッサ426を構成するサブルーチンを呼び出す命令を含み得る。キャプチャ制御モジュール414は、次いで、カメラ420a〜nによってキャプチャされたN個の部分画像に対してスティッチング技法を実行し、スティッチされクロップされたターゲット画像を撮像プロセッサ426に出力するために、画像スティッチングモジュール416を呼び出し得る。キャプチャ制御モジュール414は、キャプチャされるべきシーンのプレビュー画像を出力するため、およびプレビュー画像を一定の時間間隔で、または未加工の画像データ中のシーンが変わったときに更新するために未加工の画像データに対してスティッチング動作を実施するために、画像スティッチングモジュール416を呼び出すこともできる。
[0153]画像スティッチングモジュール416は、キャプチャされた画像データに対してスティッチング技法とクロッピング技法とを実行するように画像プロセッサ426を構成する命令を備え得る。たとえば、N個のセンサ420a〜nの各々は、各センサの視野に従ってターゲット画像の一部を備える部分画像をキャプチャし得る。視野は、上記および下記で説明したように、オーバーラップの領域を共有し得る。単一のターゲット画像を出力するために、画像スティッチングモジュール416は、高解像度ターゲット画像を生じさせるために複数のN個の部分画像を組み合わせるように画像プロセッサ426を構成してもよい。ターゲット画像生成は、知られている画像スティッチング技法を通して起こり得る。画像スティッチングの例は、参照により本明細書に組み込まれる米国特許出願第11/623,050号に見出され得る。
[0154]たとえば、画像スティッチングモジュール416は、互いに対するN個の部分画像の回転および整列を決定するために特徴を一致させるためのN個の部分画像のエッジに沿ったオーバーラップの領域を比較する命令を含み得る。部分画像の回転および/または各センサの視野の形状により、組み合わされた画像は不規則な形状を形成し得る。したがって、N個の部分画像を整列させ(align)組み合わせた後、画像スティッチングモジュール416は、組み合わされた画像を所望の形状およびアスペクト比、たとえば4:3の矩形または1:1の正方形にクロップするように画像プロセッサ426を構成するサブルーチンを呼び出せばよい。クロップされた画像は、ディスプレイ432上に表示するため、または記憶装置434内に保存するために、デバイスプロセッサ430に送られ得る。
[0155]オペレーティングシステム418は、デバイス410の作業メモリ428と処理リソースとを管理するように画像プロセッサ426を構成する。たとえば、オペレーティングシステムモジュール418は、カメラ420a〜nなどのハードウェアリソースを管理するためのデバイスドライバを含み得る。したがって、いくつかの実施形態では、上記で論じた画像処理モジュール内に含まれる命令は、これらのハードウェアリソースと直接相互に作用することはできず、代わりに、オペレーティングシステム構成要素418内に位置する標準サブルーチンまたはAPIを介して相互に作用し得る。オペレーティングシステム418内の命令は、次いで、これらのハードウェア構成要素と直接相互に作用し得る。オペレーティングシステムモジュール418は、デバイスプロセッサ430と情報を共有するように画像プロセッサ426をさらに構成し得る。
[0156]画像プロセッサ426は、たとえば、タッチ・センシティブ・ディスプレイ432を使用することによって、ユーザに画像キャプチャモード選択制御を提供することができ、デバイス410のユーザが、標準FOV画像またはワイドFOV画像のいずれかに対応する画像キャプチャモードを選択することを可能にする。
[0157]デバイスプロセッサ430は、キャプチャされた画像、またはキャプチャされた画像のプレビューをユーザに表示するようにディスプレイ432を制御するように構成され得る。ディスプレイ432は、撮像デバイス410の外部にあり得るか、または撮像デバイス410の一部であり得る。ディスプレイ432はまた、画像をキャプチャすることより前の使用のためのプレビュー画像を表示するビューファインダーを提供するように構成され得るか、あるいは、メモリに記憶されたか、またはユーザによって最近キャプチャされた、キャプチャされた画像を表示するように構成され得る。ディスプレイ432は、LCDまたはLEDスクリーンを備え得、タッチセンシティブ技術を実装し得る。
[0158]デバイスプロセッサ430は、記憶モジュール434にデータ、たとえば、キャプチャされた画像を表すデータを書き込み得る。記憶モジュール434は従来のディスクデバイスとして図式的に表されているが、記憶モジュール434は任意の記憶媒体デバイスとして構成され得ることを当業者は理解されよう。たとえば、記憶モジュール434は、フロッピー(登録商標)ディスクドライブ、ハードディスクドライブ、光ディスクドライブまたは光磁気ディスクドライブなどのディスクドライブ、あるいはフラッシュメモリ、RAM、ROM、および/またはEEPROM(登録商標)などの固体メモリを含み得る。記憶モジュール434はまた、複数のメモリユニットを含むことができ、メモリユニットのいずれか1つが、画像キャプチャデバイス410内にあるように構成され得るか、または画像キャプチャデバイス410の外部にあり得る。たとえば、記憶モジュール434は、画像キャプチャデバイス410内に記憶されたシステムプログラム命令を含んでいるROMメモリを含み得る。記憶モジュール434はまた、カメラから取外し可能であり得る、キャプチャされた画像を記憶するように構成されたメモリカードまたは高速メモリを含み得る。
[0159]図10は、プロセッサと撮像センサとメモリとを含むように別個の構成要素を有するデバイスを示しているが、これらの別個の構成要素は、特定の設計目標を達成するために様々な方法で組み合わせられ得ることを当業者は認識されよう。たとえば、代替実施形態では、メモリ構成要素は、コストを節約し性能を改善するために、プロセッサ構成要素と組み合わされ得る。加えて、図10は、いくつかのモジュールを備えるメモリ構成要素412と、作業メモリを備える別個のメモリ428とを含む2つのメモリ構成要素を示しているが、当業者は、異なるメモリアーキテクチャを利用するいくつかの実施形態を認識されよう。たとえば、設計は、メモリ構成要素412内に含まれるモジュールを実装するプロセッサ命令の記憶のためのROMまたはスタティックRAMメモリを利用し得る。プロセッサ命令は、画像プロセッサ426による実行を容易にするためにRAMにロードされ得る。たとえば、作業メモリ428はRAMメモリを備え、命令はプロセッサ426による実行の前に作業メモリ428にロードされ得る。
F.例示的な撮像キャプチャプロセスの概要
[0160]図11は、広視野ターゲット画像をキャプチャする方法1100の一例のブロックを示す。
[0161]ブロック1105では、たとえば、図7Aおよび図7Bに示すように、中央光学要素の周りの少なくとも第1のセットおよび第2のセットにおいて複数のカメラが設けられ、配列される。いくつかの実施形態では、カメラの第1および第2のセットよりも大きいまたは少ないカメラのセットが設けられ得る。たとえば、本明細書に記載の4カメラ実施形態は、カメラの第1のリングのみを含み得る。
[0162]ブロック1110において、撮像システムは、カメラの第1のセットを使用してターゲット画像シーンの中央部分をキャプチャする。たとえば、これは、カメラ114a〜dの第1のリングを使用して行われ得る。
[0163]ブロック1115において、撮像システムは、カメラの第2のセットを使用してターゲット画像シーンの追加の部分をキャプチャする。たとえば、これは、カメラ116a〜dの第2のリングを使用して行われ得る。ターゲット画像シーンの追加の部分は、たとえば、中央部分を取り囲む視野または部分視野であり得る。
[0164]オプションのブロック1120において、撮像システムは、カメラの第2のセットを使用してターゲット画像シーンの追加の部分をキャプチャする。たとえば、これは、12カメラ実施形態において設けられ得るようなカメラの第3のリングを使用して行われ得る。ターゲット画像シーンの追加の部分は、たとえば、中央部分を取り囲む視野または部分視野であり得る。
[0165]ブロック1125において、中央部分および任意の追加の部分は、少なくとも1つのプロセッサにおいて受け取られる。少なくとも1つのプロセッサによって、中央画像の部分および追加の部分を少なくとも含むスティッチされた画像が生成される。たとえば、プロセッサは、第1のセットによってキャプチャされた中央部分と、第2のセットによってキャプチャされた追加の部分と、任意の他のセットによってキャプチャされた任意の追加の部分とをスティッチすることができ、次いで、広視野を有する最終画像を形成するために、スティッチされた画像を所望のアスペクト比にクロップすることができる。
G.用語
[0166]本明細書に開示された実施態様は、視差および傾斜アーティファクトのない複数開口部アレイカメラのためのシステム、方法、および装置を提供する。当業者は、これらの実施形態が、ハードウェア、ソフトウェア、ファームウェア、またはそれらの任意の組合せにおいて実装され得ることを認識されよう。
[0167]いくつかの実施形態では、上記で論じた回路、プロセス、およびシステムは、ワイヤレス通信デバイス内で利用され得る。ワイヤレス通信デバイスは、他の電子デバイスとワイヤレス通信するために使用される一種の電子デバイスであり得る。ワイヤレス通信デバイスの例は、セルラーフォン、スマートフォン、携帯情報端末(PDA)、電子リーダー、ゲームシステム、音楽プレーヤ、ネットブック、ワイヤレスモデム、ラップトップコンピュータ、タブレットデバイス、などがある。
[0168]ワイヤレス通信デバイスは、1つまたは複数の画像センサ、2つまたはそれ以上の画像信号プロセッサ、上記で説明したCNRプロセスを行うための命令またはモジュールを含むメモリを含み得る。デバイスはまた、データと、メモリから命令および/またはデータをロードするプロセッサと、1つまたは複数の通信インターフェースと、1つまたは複数の入力デバイスと、ディスプレイデバイスなどの1つまたは複数の出力デバイスと、電源/インターフェースとを有し得る。ワイヤレス通信デバイスは、送信機と受信機とをさらに含み得る。送信機と受信機とはまとめてトランシーバと呼ばれることがある。トランシーバは、ワイヤレス信号を送信および/または受信するために、1つまたは複数のアンテナに結合され得る。
[0169]ワイヤレス通信デバイスは、別の電子デバイス(たとえば、基地局)にワイヤレスに接続し得る。ワイヤレス通信デバイスは、代替的に、モバイルデバイス、移動局、加入者局、ユーザ機器(UE)、遠隔局、アクセス端末、モバイル端末、端末、ユーザ端末、加入者ユニットなどと呼ばれることがある。ワイヤレス通信デバイスの例としては、ラップトップまたはデスクトップコンピュータ、セルラーフォン、スマートフォン、ワイヤレスモデム、電子リーダー、タブレットデバイス、ゲームシステムなどがある。ワイヤレス通信デバイスは、第3世代パートナーシッププロジェクト(3GPP(登録商標))など、1つまたは複数の業界規格に従って動作し得る。したがって、「ワイヤレス通信デバイス」という一般的な用語は、業界規格に従って異なる名称を用いて表されるワイヤレス通信デバイス(たとえば、アクセス端末、ユーザ機器(UE)、リモート端末など)を含み得る。
[0170]本明細書で説明される機能は、プロセッサ可読媒体またはコンピュータ可読媒体上に1つまたは複数の命令として記憶され得る。「コンピュータ可読媒体」という用語は、コンピュータまたはプロセッサによってアクセスされ得る任意の利用可能な媒体を指す。例として、限定はしないが、そのような媒体は、RAM、ROM、EEPROM、フラッシュメモリ、CD−ROMもしくは他の光ディスク記憶装置、磁気ディスク記憶装置もしくは他の磁気記憶デバイス、または、命令もしくはデータ構造の形態の所望のプログラムコードを記憶するために使用され得、コンピュータによってアクセスされ得る任意の他の媒体を備え得る。ディスク(disk)およびディスク(disc)は、本明細書で使用される場合、コンパクトディスク(CD)、レーザディスク(登録商標)、光ディスク、デジタル多用途ディスク(DVD)、フロッピーディスク、およびBlu−ray(登録商標)ディスクを含み、ここで、ディスク(disk)は通常、データを磁気的に再生するが、ディスク(disc)は、レーザを用いて光学的にデータを再生する。コンピュータ可読媒体は、有形であり得、非一時的であり得ることに留意すべきである。「コンピュータプログラム製品」という用語は、コンピューティングデバイスまたはプロセッサによって実行、処理、または計算され得るコードまたは命令(たとえば、「プログラム」)と組み合わせたコンピューティングデバイスまたはプロセッサを指す。本明細書で使用される場合、「コード」という用語は、コンピューティングデバイスまたはプロセッサによって実行可能であるソフトウェア、命令、コード、またはデータを指し得る。
[0171]本明細書に開示された方法は、説明された方法を達成するための1つまたは複数のステップまたはアクションを備える。方法ステップおよび/またはアクションは、特許請求の範囲から逸脱することなく相互に交換され得る。言い換えれば、ステップまたはアクションの特定の順序が、説明されている方法の適切な動作に必要とされない限り、特定のステップおよび/またはアクションの順序および/または使用は、特許請求の範囲から逸脱することなく変更され得る。
[0172]「結合する(couple)」という用語、「結合すること」という用語、「結合される」という用語、または結合という単語の他の変形は、本明細書で使用される場合、間接的な接続または直接的な接続のいずれかを示し得ることに留意すべきである。たとえば、第1の構成要素が第2の構成要素に「結合される」場合、第1の構成要素は、第2の構成要素に間接的に接続されるか、または第2の構成要素に直接的に接続されるかのいずれかであり得る。本明細書で使用する「複数」という用語は、2つまたはそれ以上を示す。たとえば、複数の構成要素は、2つまたはそれ以上の構成要素を示す。
[0173]「決定すること」という用語は、様々なアクションを包含し、したがって、「決定すること」は、算出すること、計算すること、処理すること、導出すること、調査すること、ルックアップすること(たとえば、テーブル、データベース、または別のデータ構造内でルックアップすること)、確認することなどを含むことができる。また、「決定すること」は、受信すること(たとえば、情報を受信すること)、アクセスすること(たとえば、メモリ中のデータにアクセスすること)などを含むことができる。また、「決定すること」は、「解決すること」、「選択すること(selecting)」、「選択すること(choosing)」、「確立すること」、などを含み得る。
[0174]「〜に基づいて」という句は、別段に明示的に指定されない限り、「〜のみに基づいて」を意味しない。言い換えれば、「〜に基づいて」という句は、「〜のみに基づいて」と「少なくとも〜に基づいて」の両方を記述する。
[0175]前述の説明では、特定の詳細が、例の完全な理解を提供するために与えられる。しかし、例が、これらの特定の詳細なしで実践され得ることが、当業者によって理解されるであろう。たとえば、電気構成要素/デバイスは、不必要な詳細で例を不明瞭にしないために、ブロック図で示されていることがある。他の例では、そのような構成要素、他の構造、および技法は、例をさらに説明するために、詳細に示されていることがある。
[0176]見出しは、参照のため、および様々なセクションを見つけるために本明細書に含まれる。これらの見出しは、それに関して説明した概念の範囲を制限するものではない。そのような概念は、明細書全体にわたって適用可能性を有し得る。
[0177]また、例は、フローチャート、流れ図、有限状態図、構造図、またはブロック図として示されるプロセスとして説明されることがあることに留意されたい。フローチャートは、逐次プロセスとして動作について説明していることがあるが、動作の多くは、並列に、または同時に実行され得、プロセスは、繰り返され得る。さらに、動作の順序は並べ替えられ得る。プロセスは、それの動作が完了すると、終了する。プロセスは、方法、関数、プロシージャ、サブルーチン、サブプログラムなどに対応し得る。プロセスがソフトウェア関数に対応するときに、それの終了は、呼出し関数またはメイン関数への関数のリターンに対応する。
[0178]開示される実施態様の前の説明は、任意の当業者が本発明を作りまたは使用することを可能にするために提供されるものである。これらの実施態様に対する様々な変更が、当業者にたやすく明白になり、本明細書で定義される包括的な原理が、本発明の趣旨または範囲から逸脱せずに他の実施態様に適用され得る。したがって、本発明は、本明細書で示された実施態様に限定されることを意図されているのではなく、本明細書で開示される原理および新規の特徴と一致する最も広い範囲が与えられるべきである。