JP2023502942A - 複眼カメラ装置および複眼システム - Google Patents

複眼カメラ装置および複眼システム Download PDF

Info

Publication number
JP2023502942A
JP2023502942A JP2022528046A JP2022528046A JP2023502942A JP 2023502942 A JP2023502942 A JP 2023502942A JP 2022528046 A JP2022528046 A JP 2022528046A JP 2022528046 A JP2022528046 A JP 2022528046A JP 2023502942 A JP2023502942 A JP 2023502942A
Authority
JP
Japan
Prior art keywords
eyelet
compound eye
eyelets
camera device
eye camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2022528046A
Other languages
English (en)
Other versions
JP7393542B2 (ja
Inventor
暁林 張
越 徐
宇章 谷
愛克 郭
Original Assignee
中国科学院上海微系統与信息技術研究所
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 中国科学院上海微系統与信息技術研究所 filed Critical 中国科学院上海微系統与信息技術研究所
Publication of JP2023502942A publication Critical patent/JP2023502942A/ja
Application granted granted Critical
Publication of JP7393542B2 publication Critical patent/JP7393542B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/232Image signal generators using stereoscopic image cameras using a single 2D image sensor using fly-eye lenses, e.g. arrangements of circular lenses
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B3/00Simple or compound lenses
    • G02B3/0006Arrays
    • G02B3/0037Arrays characterized by the distribution or form of lenses
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Photometry And Measurement Of Optical Pulse Characteristics (AREA)
  • Studio Devices (AREA)
  • Measurement Of Optical Distance (AREA)
  • Exposure Control For Cameras (AREA)
  • Cameras In General (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

本発明は、複眼カメラ装置および複眼システムに関する。前記複眼カメラ装置は、一行または一列に配置される複数の小眼を含み、各前記小眼は、いずれも、光学素子と、対応する感光性ユニットとを含み、各前記小眼列は、少なくとも一つの小眼列視覚面に対応し、小眼列視覚面は、小眼列中の各小眼の光学中心と、各小眼も少なくとも一つの感光性ユニットの中心の近くとを通過し、各感光性ユニットは、少なくとも一つの小眼列視覚面と交差し、各感光性ユニットの視線は、感光性ユニットの中心と、所在小眼の光学中心を通過し、プロセッサは、感光性ユニットが受信した情報に基づいて画像を生成し、画像を処理して被写対象に関する情報を取得するように構成される。前記複眼システムは、上記の複眼カメラ装置を含み得る。上記の複眼カメラ装置を利用して、異なる方向から2次元平面または3次元検出を実行することができ、正確な2次元および3次元空間情報の取得に有利する。【選択図】図1

Description

本出願は、2019年11月26日に出願された出願番号201911173889.2の中国発明特許出願の優先権を主張し、その内容は、参照により本出願に組み込まれる。
本発明は、光学イメージングの分野に関し、特に、複眼カメラ装置および複眼システムに関する。
動物界において、複眼とは、主に昆虫や甲殻類などの節足動物に現れる複数の単眼で構成される視覚器官を指し、複眼昆虫を例として、その複眼の各単眼には、それぞれレンズ(マイクロレンズと同様)およびレンズの設置に対応する光受容細胞があり、これらの光受容細胞は、感光情報を昆虫の脳神経系に伝達することにより、それ自体と観察対象との間の位置および距離を効果的に計算し、つまり、複眼類の昆虫の迅速な判断および応答に役立つステレオビジョンを実現する。
人工複眼技術は、動物のユニークな複眼構造に触発されて開発された技術である。従来の光学系と比較して、人工複眼は、小さい体積、軽い重量、大きい視野、および高い感度等の利点を有するため、幅広い応用が期待される。人工複眼技術に関する研究は、レーダーシステム、ミサイル誘導装置、マイクロ航空機、船舶の捜索および追跡システム、暗視装置、マイクロ複眼カメラ、ロボット等の分野を含む。例えば、人工複眼技術は、インテリジェントロボットの視覚システムに利用されることができ、システムは、人工複眼検出器で収集した外部情報を処理することで、標的の識別、追跡、速度測定等を実現することができる。
しかし、現在開示された人工複眼は、通常、複数のカメラまたはカメラアレイを使用し、異なるカメラを使用して対称画像を取得し、アルゴリズムを介してステレオマッチングを実行して、ステレオビジョンを取得する。これは、動物の複眼の原理とは異なり、本当の意味での複眼とは言えず、体積が大きいだけでなく、多くの計算コストも必要になる。
本発明は、バイオニック構造設計を採用し、正確な3次元空間情報を取得し、より優れたステレオビジョン機能を実現することを目的とする複眼カメラ装置を提供する。本発明は、前記複眼カメラ装置を含む複眼システムをさらに提供する。
一態様において、本発明によって提供される複眼カメラ装置は、小眼列およびプロセッサを含み、前記小眼列において、前記小眼列は、光学的に互いに干渉せず、かつ一列に配置される複数の小眼を含み、各前記小眼は、いるれも、光学素子と、前記光学素子の焦点面の近くに設置される少なくとも一つの感光性ユニットとを含み、前記光学素子は、被写対象に向き合い、かつ視野内に入射される光束を受け取るために使用され、ここで、各前記小眼列は、少なくとも一つの小眼列視覚面に対応し、前記小眼列視覚面は、前記小眼列中の各小眼の光学中心と、各小眼の少なくとも一つの感光性ユニットの中心の近くとを通過し、各前記感光性ユニットは、少なくとも一つの前記小眼列視覚面と交差し、各前記感光性ユニットの視線は、前記感光性ユニットの中心と、所在小眼の光学中心を通過し、前記プロセッサは、前記小眼中の感光性ユニットが受信した情報に基づいて画像を生成し、前記画像を処理して被写対象に関する情報を取得するように構成される。
選択的に、前記小眼列において、各小眼は、一つの前記感光性ユニットを含み、各前記感光性ユニットの視線は、前記小眼列の視野内で互いに交差しない。
選択的に、前記小眼列において、各小眼は、一つまたは二つ以上の前記感光性ユニットを含み、少なくとも一つの前記感光性ユニットの視線は、前記小眼列の視野内で他の前記感光性ユニットの視線と交差する。
選択的に、前記複眼カメラ装置は、二つ以上の前記小眼列を含み、異なる前記小眼列の小眼列の視覚面の間に夾角が形成され、各前記小眼は、一つまたは二つ以上の前記小眼列に属する。
選択的に、複数の前記小眼列で順次的に隣接して小眼アレイが構成され、前記小眼アレイ中の各前記小眼の光学素子は、ハニカム形曲面内または2次元平面内に配置される。
選択的に、前記プロセッサは、単一の複眼画像イメージングユニットを含み、前記単一の複眼画像イメージングユニットは、各前記小眼中の前記感光性ユニットの情報を取得した後、視線が互いに交差しない前記感光性ユニットの情報の全部または一部を処理して画像を形成して、少なくとも一つの単一の複眼画像を得るように構成される。
選択的に、前記プロセッサは、マッチング複眼画像ユニット、視差計算ユニットおよび位置分析ユニットをさらに含み、前記マッチング複眼画像ユニットは、同じ前記小眼列の視覚面に属し、かつ前記感光性ユニットの視線の少なくとも一部を互いに交差する二つ以上の前記単一の複眼画像をマッチングして、マッチング複眼画像のセットを得るように構成され、前記マッチング複眼画像中の各前記単一の複眼画像は、いずれも、視線交点にある被写対象の情報に従って単一の複眼画像に形成されるピクセルポイントを含み、前記視差計算ユニットは、前記マッチング複眼画像中の視線交点にある被写対象の情報に基づいて生成されたピクセルポイントの間の視差情報を取得するように構成され、前記位置分析ユニットは、前記小眼列の情報および前記視差情報に基づいて、視線交点に位置する被写対象の情報を取得するように構成される。
選択的に、前記マッチング複眼画像中の単一の複眼画像は、いずれも同じ時刻または同じ期間に取得された各前記小眼中の前記感光性ユニットの情報に基づいて取得される。
選択的に、前記位置分析ユニットは、複数の時刻または同じ期間に前記被写対象の情報を通じて、視野内の前記被写対象の運動情報を取得するように構成される。
選択的に、前記複眼カメラ装置は、記憶ユニットおよび表示ユニットをさらに含み、前記記憶ユニットは、前記単一の複眼画像、前記マッチング複眼画像および前記被写対象の情報を記憶するように構成され、前記表示ユニットは、前記単一の複眼画像を出力して表示するように構成されるか、または、前記表示ユニットは、前記位置分析ユニットで取得された被写対象の情報に基づいて、前記被写対象のテクスチャ色、立体ポーズおよび形状中の少なくとも一種を出力して表示するように構成される。
選択的に、同じ前記小眼列は、少なくとも一つのサブ小眼列を含み、各前記サブ小眼列は、複数の順次的に隣接される小眼を含み、隣接する二つの前記サブ小眼列の間には所定の間隔がある。
選択的に、隣接する二つの前記サブ小眼列の間には、前記サブ小眼列と同じ前記小眼列に属さない小眼が設置される。
選択的に、各前記サブ小眼列中の小眼の光学中心の接続線は、直線セグメントまたは円弧線セグメントである。
選択的に、各前記感光性ユニットの視線は、前記感光性ユニットの感光性領域に関連する拡散角を有し、前記拡散角は、同じ前記小眼列視覚面中の隣接する二つの前記感光性ユニットの視線間の夾角以下である。
選択的に、前記サブ小眼列の各前記小眼の光学中心の接続線が円弧線セグメントである場合、前記拡散角は、前記円弧線セグメント中の隣接する二つの前記小眼の軸線の間の夾角以下でもある。
選択的に、前記小眼列において、各前記小眼中の前記光学素子は、すべてマイクロレンズであり、各前記マイクロレンズの直径は、同じであるかすべて同じではなく、焦点距離は、同じであるかすべて同じでなく。
選択的に、前記小眼列において、前記小眼列視覚面に垂直な各前記小眼のマイクロレンズの断面は、円形、楕円形または多角形である。
選択的に、同じ前記小眼列において、各前記小眼中の前記感光性ユニットの数は、同じである。
選択的に、前記感光性ユニットによって受信される情報は、視線に対応する入射光束の強度情報および色情報を含む。
選択的に、前記小眼列中の各前記小眼は、同じ半導体基板に統合され、各前記小眼の間は、媒体によって隔離される。
一態様において、本発明は、複眼システムをさらに提供し、前記複眼システムは、設定された間隔で配置された複数の上記の複眼カメラ装置を含む。
選択的に、複数の前記複眼カメラ装置は、中心線に対して対称される。
選択的に、前記複眼システムは、前記小眼列のポーズを制御するための制御装置をさらに含み、前記制御装置は、各前記複眼カメラ装置のプロセッサに接続される。
本発明によって提供される複眼カメラ装置は、少なくとも一つの小眼列およびプロセッサを含み、前記小眼列は、光学的に互いに干渉せず、かつ一列に配置される複数の小眼を含み、各前記小眼は、光学素子と、前記光学素子の焦点面の近くに設置される少なくとも二つの感光性ユニットを含む。前記複眼カメラ装置は、複眼動物の複眼機能に似て、具体的には、小眼列中の各小眼は、動物の複眼中の単眼の機能を有することができ、各前記小眼列は、少なくとも一つの小眼列視覚面に対応し、前記小眼列視覚面は、前記小眼列中の各小眼の光学中心と、各小眼の少なくとも一つの感光性ユニットの中心の近くとを通過し、各前記感光性ユニットは、少なくとも一つの前記小眼列視覚面と交差し、各前記感光性ユニットの視線は、前記感光性ユニットの中心と、所在小眼の光学中心を通過し、同じ小眼列視覚面の異なる感光性ユニットの視線は、交差するか、または交差しないことができ、対応的に、感光性ユニットを介して視野内の画像を高解像度で取得することができ、本発明によって提供される複眼カメラ装置は、動物の複眼に非常に近いバイオニック設計を有し、正確な3次元空間情報の所得に有利し、より優れたステレオビジョンを実現する。
本発明によって提供される複眼システムは、設定された間隔で配置された複数の上記の複眼カメラ装置を含み、上記の複眼カメラ装置を利用して、異なる方向から2次元平面または3次元検出を実行することができ、正確な2次元および3次元空間情報の所得に有利し、より優れたステレオビジョンを実現し、ロボット視覚、航空機等の分野で使用することができ、幅広い応用がある。
本発明の一実施例の複眼カメラ装置の構造模式図である。 本発明の一実施例における小眼列のイメージング模式図である。 図2(a)の小眼のイメージング模式図である。 図2(a)の感光性ユニットに対応する光学円錐およびピクセルの表面感知光束の模式図である。 本発明の一実施例における小眼列の模式図である。 本発明の一実施例における小眼列の模式図である。 本発明の一実施例における小眼列の模式図である。 本発明の一実施例における小眼列の模式図である。 本発明の一実施例における小眼列の模式図である。 本発明の一実施例の複眼カメラ装置において六角形に配置される小眼の模式図である。 本発明の一実施例における複眼カメラ装置の可視範囲の模式図である。 本発明の一実施例における複眼カメラ装置の可視範囲の模式図である。 本発明の一実施例における複眼カメラ装置の可視範囲の模式図である。 本発明の一実施例における小眼列の光学円錐およびピクセルの表面感知光束の模式図である。 本発明の一実施例における小眼アレイの平面模式図である。 本発明の一実施例の複眼カメラ装置の距離測定の模式図である。 本発明の一実施例の複眼カメラ装置の距離測定の模式図である。
現在、人工複眼技術については多くの研究と成果があるが、複眼昆虫のように、複眼でステレオビジョン情報を直接取得する人工複眼技術はまだ登場せず、主な理由は、動物の複眼に近い高バイオニック複眼構造の欠如、および高バイオニック複眼構造に基づくステレオビジョン機能を実現するためのコンピュータ―技術の開発である。明らかに、高バイオニック複眼構造によるステレオビジョン機能の実現は、人工複眼の発展にとって非常に重要であり、関連技術を使用した複眼カメラ装置は、正確な3次元空間情報を取得するのに役たち、通常の複数のカメラで画像を個別に撮影して処理する方法に比べて、より優れたステレオビジョン機能を実現することができる。
上記の目的に基づいて、本発明は、複眼カメラ装置および複眼システムを提案する。ここで、本発明によって提案される複眼カメラ装置は、小眼列およびプロセッサを含み、前記小眼アレイは、光学的に互いに干渉せず、かつ一列に配置される複数の小眼を含み、各前記小眼は、いずれも、光学素子と、前記光学素子の焦点面の近くに設置される少なくとも一つの感光性ユニットとを含み、前記光学素子は、被写対象に向き合い、かつ視野内に入射される光束を受け取るために使用され、ここで、各前記小眼列は、少なくとも一つの小眼列視覚面に対応し、前記小眼列視覚面は、前記小眼列中の各小眼の光学中心と、各小眼の少なくとも一つの感光性ユニットの中心の近くとを通過し、各前記感光性ユニットは、少なくとも一つの前記小眼列視覚面と交差し、各前記感光性ユニットの視線は、前記感光性ユニットの中心と、所在小眼の光学中心を通過し、前記プロセッサは、前記小眼中の感光性ユニットが受信した情報に基づいて画像を生成し、前記画像を処理して被写対象に関する情報を取得するように構成される。本発明によって提案される複眼システムは、前記複眼カメラ装置を含む。
本発明によって提案される複眼カメラ装置は、バイオニックの意味で見ると、複眼動物の複眼に類似し、複眼システムは、複眼動物の視覚システムに類似する。前記複眼カメラ装置において、小眼列中の小眼は、必要に応じて十分な数に設定されることができ、個々での「列」を「行」に置き換えることもできる。小眼列中の各小眼の光学素子は、光線受け取るために使用されるため、小眼列の同じ側に配置して、摂像時に被写対象に向き合うようにする。感光性ユニットの視線方向に沿って、入射光線は、光学素子を通過し、かつ対応する感光性ユニットに到達して、感知された画像情報に変換される。複眼カメラ装置によって「見られた」被写対象の場合、それは、空間中の任意の物体または生物であり、被写対象は、特定のテクスチャ色、立体ポーズおよび形状を有する空間ポイントの組み合わせと見なすことができる。撮影時に、小眼列中の小眼に光を入射し、小眼中の感光性ユニットを介して、測定された光の強度、色等に応じて、関連する視線上の被写対象の画像を生成することができる。複眼カメラ装置は、動物の複眼に非常に近いバイオニック設計を有し、正確な2次元または3次元空間情報を取得に有利し、好ましいステレオビジョンの実現に有利する。
以下、添付の図面および複数の具体的な実施例を参照して、本発明の複眼カメラ装置および複眼システムをさらに詳細に説明する。本発明の利点および特徴は、以下の説明に基づいてより明らかになるであろう。各実施例は、製造および応用の実施例の単なる例示的な具体的実施形態であり、本発明を製造および応用する範囲に対する制限を構成しないことを理解されたい。また、複数の実施例は、それぞれ本発明の意味をより明確に説明するためにのみ説明されるが、各実施例における技術的特徴は、当該実施例の固有の特徴に属さず、各実施例のすべての特徴は、一般的な実施例の特徴として使用されることもできる。いくつかの実施形態において、以下の複数の実施例における技術的特徴は、新しい実施例を形成するために互いに関連し、互いに触発されることもできる。
実施例1
本実施例は、本発明の複眼カメラ装置の主な構造および機能を紹介する。
図1は、本発明の一実施例の複眼カメラ装置の構造模式図である。図1を参照すると、一実施例において、複眼カメラ装置は、上記の小眼列およびプロセッサを含む。
具体的に、前記複眼カメラ装置は、一つまたは二つ以上の前記小眼列を含み得、複数の小眼列は、小眼アレイを形成することができ、異なる前記小眼列の小眼列の視覚面の間に夾角が形成され、各前記小眼は、一つまたは二つ以上の前記小眼列に属する。同じ前記小眼列の場合、各小眼は、一つまたは二つ以上(二つを含む)の感光性ユニットを含み得、各感光性ユニットの視線は、同一平面上にあるため、交差する線または交差しない線の二つの線として形成することができる。ここで、交差するかどうかとは、小眼列の正面、即ち、光学素子および感光性ユニットの入射光を受け取る側の視線が、一つの点、即ち、小眼列の視野内で交差するかどうかを指す。
前記プロセッサは、前記小眼中の感光性ユニットの受信情報に基づいて画像を生成し、前記画像を処理して、被写対象に関する情報を取得するように構成される。さらに、感光性ユニットの情報を処理し、かつ被写対象に関する情報を取得するために、前記プロセッサは、任意の選択で、単一の複眼画像イメージングユニット、マッチング複眼画像ユニット、視差計算ユニットおよび位置分析ユニット等のコンポーネントまたはモジュールを含む。具体的な機能は、次のとおりである。
前記単一の複眼画像イメージングユニットは、前記小眼列中の各前記小眼の前記感光性ユニットからの情報を取得した後、視線が互いに交差しない前記感光性ユニットの情報の全部または一部を処理して画像を形成して、少なくとも一つの単一の複眼画像を得るように構成される。前記単一の複眼画像は、分離された感光性ユニットに基づいて異なる視線方向の被写対象情報のみを取得するため、ステレオビジョン効果を有さないが、フォーカスの問題がなく、通常の2Dカメラと比較して、特別なレンズフォーカスを設定する必要がないため、解像度がより良い平面視覚を実現することができる。
本実施例の複眼カメラ装置において、小眼列は、複数の小眼で構成される構造であるため、各感光性ユニットの視線が交差する場合(ここでは、同じ小眼の感光性ユニットの視線が光学中心で交差する場合を除いて、小眼列の視野内の交差を指す)、交点の被写対象と感光性ユニットとの距離が異なるため、視線が交差する二つの感光性ユニットの場合、それによって取得される交点の画像に視差が発生し、当該視差は、視線と交差する二つの感光性ユニットが配置される二つの単一の複眼画像を処理することによって取得されることができ、視差を計算する任意の選択な方法は、例えば、ブロックマッチング(blockmatching)法、深さニューラルネットワーク学習法、および特徴マッチング法等があり、さらに、両眼視覚センサーの視差について公表された計算方法を採用することができる。
本実施例において、視線が交差する感光性ユニットの情報を用いて交点の位置を取得することにより、複眼カメラ装置でステレオビジョンを生成するようにする。
具体的に、前記プロセッサは、単一の複眼画像イメージングユニットに加えて、マッチング複眼画像ユニット、視差計算ユニットおよび位置分析ユニットをさらに含む。前記マッチング複眼画像ユニットは、同じ前記小眼列の視覚面に属し、感光性ユニットの少なくとも一部の視線が互いに交差する前記単一の複眼画像とマッチングして、マッチング複眼画像のセットを取得するように構成され、前記マッチング複眼画像中の各前記単一の複眼画像は、いずれも、視線の交点にある被写対象の情報に対応して、画像に形成されたピクセルポイントを含む。前記視差計算ユニットは、前記マッチング複眼画像中で視線の交点にある被写対象の情報に対応して生成されたピクセルポイントの間の視差情報を取得するように構成される。前記位置分析ユニットは、前記小眼列の情報および前記視差情報に基づいて、視線交点に位置する被写対象の情報を取得するように構成される。
さらに、図1を参照すると、前記複眼カメラ装置は、記憶ユニットおよび表示ユニットをさらに含み得、前記記憶ユニットは、前記単一の複眼画像、前記マッチング複眼画像および前記被写対象の情報を記憶されるように構成される。前記記憶ユニットは、ランダムアクセスメモリ(RAM)、ランダム読み取り専用メモリ(ROM)、ハードディスク、磁気ディスク、光ディスク、中央処理装置(CPU)のレジスタ等の媒体を使用して記憶するする。
前記表示ユニットは、前記単一の複眼画像を出力して表示するか、または、前記位置分析ユニットで取得された被写対象の情報に基づいて、前記被写対象のテクスチャ色、立体ポーズおよび形状中の少なくとも一種を出力して表示するように構成される。前記表示ユニットは、ディスプレイを含み得、前記ディスプレイは、フラット画像ディスプレイまたは3次元画像ディスプレイであり得る。
上記のプロセッサの各コンポーネント(単一の複眼画像イメージングユニット、マッチング複眼画像ユニット、視差計算ユニット以及位置分析ユニット等)は、一つのモジュールに組み合わせることができ、または装置のいずれか一つを複数のモジュールに分割することができ、または、これらの装置の一つまたは複数の機能の少なくとも一部は、他の装置の機能の少なくとも一部と組み合わされ、一つのモジュールに実装されることができる。本発明の実施例によれば、単一の複眼画像イメージングユニット、マッチング複眼画像ユニット、視差計算ユニットおよび位置分析ユニットのうちの少なくとも一つは、少なくとも部分的にハードウェア回路として実装されることができ、例えば、フィールドプログラマブルゲートアレイ(FPGA)、プログラマブルロジックアレイ(PLA)、チップ上のシステム、基板上のシステム、パッケージ上のシステム、特定用途向け収集回路(ASIC)または回路を統合またはパッケージングする任意の他の合理的な方法等でハードウェアまたはファームウェアで実装されることができ、またはソフトウェア、ハードウェアおよびファムウェアの三つの適切な組み合わせによって実装されることができる。または、信号処理ユニット、画像処理ユニット、位置分析ユニット、記憶ユニットおよび出力ユニットのうちの少なくとも一つは、コンピュータ―プログラムモジュールとして少なくとも部分的に実装されることができ、当該プログラムがコンピュータ―で実行されると、対応するモジュールの機能を実行することができる。前記複眼カメラ装置は、集積回路製造プロセスを使用して製造することができ、一実施例において、前記複眼カメラ装置は、チップレベルの装置である。前記複眼カメラ装置の各小眼列中の小眼は、同じ半導体基板上に統合されることができ、前記半導体基板は、例えば、シリコン(Si)基板、ゲルマニウム(Ge)基板等の半導体基板であり得るか、アルミナなどの材料で作られたセラミック基板、石英またはガラス基板などであり得る。隣接する小眼間の内部光線干渉を回避するために、各小眼の間は、媒体によって隔離され、前記媒体は、好ましくは遮光材料である。
上記の説明から、本発明の実施例の複眼カメラ装置を使用することにより、平面視覚(または2D視覚)およびステレオビジョン(または3D視覚)を実現することができる。
実施例2
本実施例は、主に、本発明の複眼カメラ装置の小眼列を紹介する。
図2(a)は、本発明の一実施例における小眼列のイメージング模式図である。図2(b)は、図2(a)の小眼のイメージング模式図である。図2(c)は、図2(a)の感光性ユニットに対応する光学円錐およびピクセルの表面感知光束の模式図である。
図2(a)および図2(b)を参照すると、入射光束L1、L2およびL3は、小眼列100に入射され、各小眼中の感光性ユニットの視線方向に沿って各小眼10に投射される。平行光束は、小眼10の光学中心C(より具体的には、小眼中の光学素子の光学中心)を通って入射された後、焦点面10aの焦点において、即ち、任意の一つの焦点は、当該点と焦点面10a上の光学中心Cとを連結する方向上の平行光束の収束点に対応する。小眼10中の光学素子の具体的構造の選択によれば、その焦点面10aは、平面であり得るか、特定の曲率を有することができる。図2(a)に示されるように、各小眼10の焦点面10a上の三つの点が示され、この三つの点を光学中心Cと連結することによって決定される直線は、光入射方向に対応する光束の光軸である。図2(b)に示されるように、図2(a)の単一の小眼10の焦点面10a上の三つの点は、異なる方向への入射光線に対応する。図2(c)を参照すると、小眼10の光学素子の焦点面10aの近くに感光性素子を設置することによって、入射光束の強度(または明るさ、色)に関する情報を得ることができ、感光性素子中のピクセルの感光面11aを対応する光学素子の焦点面10a上に設置することによって、前記感光面11aと対応する光学素子の光学中心Cとによって形成された椎体が光学中心Cを通過する反対方向に延長する椎体とを光学円錐(図1(c)では点線で表す)と呼ばれ、光学円錐は、感光面の範囲内のすべての点に対応する光学中心の光軸によって形成される椎体を表す。感光面11aの範囲で感光性素子が受け取る入射光束は、対応する光学円錐芽光学素子の光透過領域の範囲に厚くされたメサ形状の光束であり、当該メサ形状の光束は、感光面に対応するピクセルの表面感知光束(図1(c)で長い水平線と短い水平線で表される)と呼ばれることができる。
本発明の複眼カメラ装置は、上記の光学原理を利用し、一実施例において、複眼カメラ装置は、複数の小眼を含み、各小眼は、少なくとも二つの他の小眼とともに列(または行)に配置され、かつ小眼列と呼ばれる。各小眼は、いずれも、光学素子と、前記光学素子の焦点面の近くに配置された少なくとも一つの感光性ユニットとを含み、前記光学素子は、被写対象に向き合い、かつ入射される光束を受け取るために使用される。各小眼は光学的に互いに干渉しないため、各小眼に入る光線は、当該小眼の焦点面でのみ感光することができる。
入射光束は、小眼列中の小眼10の光学素子に入射された後焦点面に収束され、小眼アレイ100の各小眼10は、光学素子と、および光学素子の焦点面の片側に設置された感光性素子とを含み、前記感光性素子は、一つまたは二つ以上の感光性ユニット(または感光ピクセルと呼ばれる)を含み得る。図2(a)を参照すると、各小眼の焦点面10a上の三つの収束点にそれぞれ三つの感光性ユニットが設置されることができ、感光性ユニットの中心と光学中心Cによって決定された光軸は、当該感光性ユニットの視線である。同じ小眼中に複数の感光性ユニットが設置された場合、異なる方向の入射光束は、前記光学素子によって収束された後、焦点面の近くに設置された異なる感光性ユニットによって感知されることができるため、入射光束の方向は、感光性ユニットの位置に関連する。同じ小眼中の異なる感光性ユニットの位置は、異なる光束入射方向に対応して設置され、異なる感光性ユニットによって、異なる感光性ユニットに入射する光束が検出され、感光性ユニットによって検出された信号に従って、その視線方向上の光線情報を取得することができる。いくつかの状況下で(図2(a)に示されるように)、感光性ユニットの視線は、小眼列100の視野内の他の小眼中のいくつかの感光性ユニットの視線と交差するので、交差する視線を有する感光性ユニットによって生成された画像は視差を有し、当該視差は、計算により取得されることができる。
各前記小眼列は、少なくとも一つの小眼列視覚面(図2(a)に示されるように、紙に平行な平面)に対応され、前記小眼列視覚面は、前記小眼列中の各小眼の光学中心と、各小眼の少なくとも一つの感光性ユニットの中心の近くとを通過し、各前記感光性ユニットは、少なくとも一つの前記小眼列視覚面と交差し、当該感光性ユニットの視線は、対応する前記小眼列の視覚面にある。同じ小眼内の異なる感光性ユニットの場合、それは、同じ小眼列の視覚面に属されることができるか、異なる小眼列の視覚面に属されることができる。同じ小眼列の視覚面内に属する各小眼の感光性ユニットは、すべて当該小眼列の視覚面内に視線を有する。
前記複眼カメラ装置は、一つまたは複数の上記の小眼列を含み得、二つ以上の小眼列は、特定の配置に従って小眼アレイを形成することができる。異なる小眼列の場合、それらは、共通の小眼列視覚面が有さず、即ち、それぞれの小眼列視覚面の間に夾角が形成される(ここで、0より大きい角度)。しかし、小眼列中の小眼の場合、その光学中心および感光性ユニットを通過する小眼列視覚面の分布に従って、各前記小眼は、一つまたは二つ以上の前記小眼列に属することができる。
小眼列中の各小眼の場合、通常、図2に示されるようなコンパクトな配置の形で設定されることもでき、即ち、複数の小眼が順次的に隣接して配列されるが、これらに限定されず、ここで、各小眼の間に、別の間隔を設定することもできる。また、間隔された位置で、別の小眼列の小眼を設置することができる。さらに、同じ小眼列の場合、少なくとも一つのサブ小眼列を含むこともでき、各前記サブ小眼列は、複数の順次的に隣接される小眼を含み、隣接する前記サブ小眼列の間で設定された距離が維持される。同じサブ小眼列の場合、各小眼の光学中心間の接続線は、直線セグメントであり得るか、円弧線セグメントであり得、好ましい解決策において、視覚を拡大するために、各小眼の光学中心間の接続線は円弧線セグメントであり得る。
図3は、本発明の一実施例における小眼列の模式図である。図3を参照すると、一実施例において、小眼列中の各小眼は、いずれも、一つの前記感光性ユニットを含み、各前記感光性ユニットの視線は、前記小眼列の視野内で互いに交差しない。各小眼列の感光性ユニットの情報を取得した後、各感光性ユニットの情報に従って単一の複眼画像を取得することができる。当該単一の複眼画像は、小眼列の視野内にある被写対象の2次元画像であり、つまり、当該構造の小眼列は、2Dカメラ等の2D視覚等に使用されることができ、ステレオビジョン効果はせず、通常の2Dカメラと比較して、レンズを含む通常のカメラの効果が得られる。当該構造は、小さいレンズがあるため、特別なレンズを必要となくて、より便利である。さらに、当該タイプのカメラにはフォーカスの問題がないため、つまり、遠くにある物体ははっきりと見えず、距離が増加するにつれて、遠くにある物体の解像度は低下する。別の実施例において、図3に示されるように、複数の小眼列は、球面に配置され、各感光性ユニットで同じ時刻または同じ期間に撮影した画像情報を使用することで、対応する単一の複眼画像を得ることができ、2Dカメラとしても使用できる。
図4は、本発明の一実施例における小眼列の模式図である。図5は、本発明の一実施例における小眼列の模式図である。図4および図5を参照すると、いくつかの実施例において、小眼列中の各小眼は、いずれも、一つの前記感光性ユニットを含むが、小眼の間の相互位置および感光性ユニットの位置を設計することにより、図3と比較して、図4および図5の各前記感光性ユニットの視線は、前記小眼列の視野内で交差している。従って、二つ以上の単一の複眼画像に従ってマッチング複眼画像のセットを形成することができ、ステレオビジョン効果を実現することができる。図4および図5において、小眼列中の各小眼の光学中心の接続線は、直線セグメントである。小眼列の距離が増加しても、視野深さ上の小眼列の測定可能な範囲制度は基本的に変化しない。
図6は、本発明の一実施例における小眼列の模式図である。図6を参照すると、一実施例において、小眼列は、二つのサブ小眼列を含み、各前記サブ小眼列は、複数の順次的に隣接される小眼を含み、各サブ小眼列において、各小眼は、感光性ユニットのみを含み、感光性ユニットの視線が互いに交差しない。隣接する二つの前記サブ小眼列の間で一定の距離が維持される。当該実施例において、小眼列中の感光性ユニットの視線は、少なくとも部分的に交差しているため、この二つのサブ小眼列またはそれ以上のサブ小眼列によって構成される小眼列を使用して、ステレオビジョンを実現することもできる。
図7は、本発明の一実施例における小眼列の模式図である。図7を参照すると、一実施例において、小眼列は、二つのサブ小眼列を含み、各前記サブ小眼列は、複数の順次的に隣接される小眼を含み、各小眼には複数の感光性ユニットが設置され、当該小眼列の場合、各サブ小眼列中の感光性ユニットの視線が視野内で交差し、また、異なるサブ小眼列中の感光性ユニットの視線も、視野内で交差し、図6に示される小眼列と比較して、図7で二つのサブ小眼列の視線の交差によって部分的に生成されるステレオビジョンの精度が高くなり、各サブ小眼列によって計算されたステレオビジョンは、二つのサブ小眼列の組み合わせによって再測定され、単一のサブ小眼列のエラー率が低いだけでなく、精度が大幅に向上する。
上記の図3~図7は、一つの小眼列視覚面上の小眼列の配置のみを示すが、各実施例において、各小眼列の位置に複数の小眼列を設置することもでき、即ち、各小眼の光学中心を平面または平面に配置することができ、上記の2次元視覚およびステレオビジョンを実現することができることに留意されたい。各小眼列は、複眼カメラ装置の複眼として使用することができ、または、各サブ小眼列は、複眼カメラ装置の複眼として使用して、2次元および/またはステレオビジョンを実現することができる。
さらに、各感光性ユニットのサイズを考慮すると、検出できるのは、感光性ユニットの感光性領域に対応するピクセルの表面感知光束の画像信号であり、実施例において、各前記感光性ユニットによって検出された入射光束は、前記感光性ユニットの感光性領域に関連する拡散角を有する。各感光性ユニットによって検出された入射光束と隣接する感光性ユニットによって検出された入射光束を明確に区別するようにするために、複眼カメラ装置の解像度を向上させ、前記拡散角は、同じ前記小眼列視覚面中で互いに隣接する二つの前記感光性ユニットの視線の夾角以下であることが好ましい。円弧線セグメント形状を含むサブ小眼列の場合、前記拡散角は、前記円弧線セグメント中の隣接する二つの前記小眼の軸線の間の夾角以下でもある。ここでの小眼の軸線とは、小眼の光学素子の入射面に垂直で、かつ光学中心を通る直線を指す。
上記の説明によれば、本発明の実施例の小眼列中の小眼の配置および感光性ユニットの数は、必要に応じて設定されることができ、感光性ユニットの視線が交差するかどうかに応じて、前記小眼列を含む複眼カメラ装置は、2次元平面およびステレオビジョンを提供する。
実施例3
本実施例は、主に本発明の実施例の複眼カメラ装置の具体的な構造を紹介する。
本発明の複眼カメラ装置の小眼列において、各小眼中の光学素子は、マイクロレンズであり得、ここでのマイクロレンズは、凸レンズであり、その焦点面は、被写対象の反対側に位置し、以下に説明する小眼は、光学素子としてマイクロレンズを使用して説明される。しかし、本発明はこれらに限定されず、別の実施例において、少なくとも一つの小眼の光学素子は、複数の光学コンポーネント(例えば、一つまたは複数のレンズ、フィルターおよび/または細孔)を含む複合イメージング対物レンズであり得る。バイオニック意味から理解すると、小眼中の光学素子の機能は、複眼動物の単眼中のレンズの機能と類似する。上記の小眼中の同じ光学素子に対応する感光性ユニットは、光学素子の焦点面上に設置されたピクセルと見なすことができ、同じ光学素子に対応する少なくとも二つの感光性ユニットによって構成されるアレイは、ピクセルアレイと呼ばれることができる。バイオニック意味から理解すると、複数の感光性ユニットは、動物の複眼中の各単眼の光受容細胞と同様な機能を実行するために使用される。
前記ピクセルアレイにおいて、各感光性ユニットは、フォトダイオードおよび駆動回路として使用される複数のMOSトランジスタを含み得、前記フォトダイオードは、入射された光信号を電気信号に変換することができ、感光性ユニットの電気信号を取得するために、各小眼は、入射光束に関して感光性ユニットによって生成された画像信号をプロセッサに送信するために、各感光性ユニットに電気的に接続された周辺回路をさらに含み得る。ここで、感光性ユニットを光学素子の焦点面の近くに設置し、目的は、光学素子の焦点面上に配置された各感光性ユニットの感光面(例えば、フォトダイオード中のPN接合層)を作成して、対応する視線上の光線情報を検出することである。感光性ユニットによって形成されたピクセルアレイの構造は、上記の機能を実現できる限り、開示された技術に従って実施することができる。実施例1と組み合わせると、小眼列を設置することにより、各小眼中の異なる位置にある感光性ユニットにより、異なる方向の入射光束の強度情報を検出できることが分かる。より好ましくは、小眼中の感光性ユニットまたは感光性ユニットで構成されるピクセルアレイの機能および構造を最適化することにより、例えば、光学素子と感光性ユニットとの間に光フィルター層を追加することにより、各小眼中の感光性ユニットを介して受け取る入射光束の色情報を取得することもでき、被写対象の情報をより包括的に取得するのに役立つ。
通常のカメラまたはディスプレイのピクセルと同じように小眼の形状を設置することができる。例えば、各小眼の入射面の形状を四角形に設置して、かつ水平・垂直に配置することができ、各小眼の入射面の形状をハニカムのような六角形(六角形)等に設置することもでき、選択的に、複数の小眼列によって形成された小眼アレイの場合、各前記小眼の光学素子は、ハニカム形状の曲面または2次元平面に配置することができる。業界では、四角形の小眼の水平・垂直配列は、製造および計算が容易であり、視野を拡大するという観点から、またはバイオニック応用に近いという観点から、六角形の小眼を使用してハニカムを配置する方が有利である。図8は、本発明の一実施例の複眼カメラ装置において六角形に配置される小眼の模式図であり、図8を参照すると、一実施例において、各小眼20の平面形状は、三角形であり、六つの小眼排列は、六角形の構造である。コンパクトな配置のために、ハニカム形状の構造の小眼アレイの場合、光学素子の光透過面を六角形に設置することができ、四角形に配置された小眼アレイの場合、光学素子の光透過面を四角形に設置することができる。図2~図7に示される実施例は、小眼が円筒形であることを例として説明し、ここに示される各小眼の光学素子は、円形のマイクロレンズである。しかし、本発明はこれらに限定されず、別の実施例において、小眼アレイ中の各小眼の光学コンポーネントの構造は、同じであっても異なっていてもよい。実装可能な小眼列中の光学コンポーネントは、完全に同じではないこともでき、具体的には、複眼カメラ装置の全体的な構造要件に従って、同じ構造または二つ以上の異なる構造の光学素子を選択して、小眼列および小眼アレイを形成するように配置することができ、例えば、一実施例において、小眼アレイは、曲面構造であり、ここで、ほとんどの領域は、第1の構造の小眼を使用し、第1の構造の小眼は、いずれも、同じ形状およびサイズのマイクロレンズの感光性ユニットを含み、いくつかの特別な位置では、第2の構造の小眼を使用し、第2の構造の小眼は、第1の構造の小眼とは異なる形状およびサイズのマイクロレンズまたは他の種類の光学素子を含み、また、第2の構造の小眼は、一定の規則に従って、小眼アレイの範囲内に散在し、分布することができる。同じ小眼列において、小眼の光学素子に対応して設置された感光性素子の構造は、同じであっても異なっていてもよい。例えば、一実施例において、同じ小眼列中の小眼の一部は、第1のタイプの感光性素子を使用し、第1のタイプの感光性素子は、同じ数および配置方法(感光面のサイズ、間隔等を含む)を有する感光性ユニットを含み、小眼の他の一部は、第2のタイプの感光性素子を使用し、第2のタイプの感光性素子の感光性ユニットの数および/または配置方法は、第1のタイプの感光性素子とは異なる。さらに、マイクロレンズが小眼の光学素子として使用される例において、各マイクロレンズの直径は、すべて同じである場合とそうでない場合があり、それらの焦点距離は、すべて同じである場合とそうでない場合がある。各小眼の構造は、必要に応じて設定することができる。一般に、マイクロレンズの直径が大きいほど、感光能力は強くなるが、感光性ユニットの数が変わらない場合、マイクロレンズの直径が小さいほど、感光性素子は、光入射方向の変化により敏感になり、即ち、視覚の解像度が高くなる。
小眼列において、各小眼の配置方法は、複数あり、感光能力に影響を与えることなく複眼カメラ装置の体積を減らし、視覚の解像度を向上させるために、小眼列、特に各サブ小眼列中の各小眼の入射面が互いに近接することが好ましい。一例として、各サブ小眼列において、隣接する二つの小眼のマイクロレンズが隣接して配置され、入射面が配置される面内に、各小眼のマイクロレンズがコンパクトに配置される。各前記小眼のマイクロレンズが入射面に平行する断面は、円形、楕円形または多角形(例えば、四角形、五角形、六角形、七角形、八角形)等であり得る。
実施例の複眼カメラ装置の場合、小眼アレイ中の各小眼に対応して設置された感光性ユニットの総数は、同じであっても異なっていてもよく、具体的に、小眼アレイ中の各小眼中の感光性ユニットは、対応することができ、即ち、すべての前記小眼は、いずれも、同じ方向の視線を検出する位置に対応する感光性ユニットが設置され、同じ視線方向に対応する感光性ユニットの場合、その視線は、交差せず、それぞれ取得された情報は、単一の複眼画像を生成することができる。小眼視野で視線が交差する感光性ユニットの場合、それぞれ取得した情報は、それぞれ異なる単一の複眼画像に反映され、また、それらはすべて視線の交点にある被写対象の情報を含むことにより、同じ前記小眼列の視覚面に属し、感光性ユニットの少なくとも一部の視線が互いに交差する前記単一の複眼画像をマッチングして、マッチング複眼画像のセットを得ることができ、前記マッチング複眼画像中の各前記単一の複眼画像は、視線の交点にある被写対象の情報に対応して生成されたピクセルポイントを含む。従って、本実施例において、同じ小眼中の感光性ユニットの視線が小眼の視野内で他の小眼の視線と交差して複数の交点を生成する場合、各交点は、少なくとも二つの単一の複眼画像で構成されるマッチング複眼画像のセットに対応し、同じ小眼に関連するマッチング複眼画像のセットは、当該小眼中の各感光性ユニットによって形成された単一の複眼画像を関する。
実施例4
本実施例は、主に、本発明の実施例の複眼カメラ装置に関する視野角および距離測定精度を紹介する。
図3に示される視線交差のない小眼列の場合、その視野および視野角は、両端の小眼および感光性ユニットの位置によって决定される。視線交差が存在する小眼列(例えば、図2(a)、図4、図5、図6、図7)の場合、複数の単一の複眼画像を取得することができ、それに応じてマッチング複眼画像のセットを取得することができ、視線交点での被写対象の位置を決定するために、マッチング複眼画像に従って視差を計算することにより取得する必要があり、ここで、視線が交差する小眼列については、他の小眼の視線と交差することができる小眼列の最も外側の小眼の最も外側の視線の位置および方向を取得することにより、複眼カメラ装置の立体可視範囲を取得することができる。
図9は、本発明の一実施例における複眼カメラ装置の可視範囲の模式図である。図9を参照すると、本発明の一例として、小眼列200の小眼列の視覚面から見ると、各小眼20は、焦点面状に配置された二つの感光性ユニット21を有し、この二つの感光性ユニット21の中心と対応する小眼20の光学中心Fとの間の接続線によって決定された二つの視線方向は、それが属する小眼列200によって取得することができる光束の二つの入射方向であり、即ち、この二つの視線方向に対応して決定された光束のみが、すべての小眼20中の感光性ユニット21によって取得することができ、小眼列200中のすべての小眼20の光軸の交点は、この二つの方向の光束によって距離を測定することができる空間ポイントであり、小眼列200の法線方向の距離を測定することができる空間ポイントの間隔は、空間深さ方向上の当該小眼列の距離測定精度D1である。ここで、距離測定精度は、同じ感光性ユニット21によって解像することができる隣接する二つの空間ポイントの間の上記の法線方向上の距離精度を反映する。図4、図5および図9に示される実施例における距離測定精度D1は、空間深さ方向の変化に伴って基本的に変化しないままである。
小眼列200の可視範囲に応じて、小眼列200の視野角(FOV)を取得することができる。小眼列200中の感光性ユニット21の中心と対応する小眼の光学中心Cとの接続線が測定可能な視線方向を決定するため、小眼列200の視野角は、各小眼20中の感光性ユニットによって形成されたピクセルアレイの幅に関連する。本明細書の小眼列の視野角は、立体可視範囲が法線方向に対して外側にずれている角度を反映し、立体視野角とも呼ばれる。図9に示される実施例において、2本の太い線によって限定された可視範囲は、複眼カメラ装置の視野である。立体可視範囲は、直線セグメントの小眼列から外向きにずれないため、図9に示される小眼列の視野角は、0未満である。
小眼中の感光性ユニットの数が増加すると、視野角が変化する。図10は、本発明の一実施例における複眼カメラ装置の可視範囲の模式図である。図10を参照すると、一例として、当該小眼列300において、各小眼30は、いずれも、焦点面に配置された四つの感光性ユニット31を有し、この四つの感光性ユニット31の中心と対応する小眼の光学中心Fとの接続線によって決定される視線方向は、当該小眼列300によって測定することができる四つの視線方向であり、当該実施例において、他の小眼の視線と交差することができる最も外側の小眼の最も外側の視線によって決定された立体視野角は、0(例えば、図10の2本の条太い線によって限定された範囲)より大きく、図9に示される実施例と比較して、小眼列200の視野角は、拡大される。しかし、図10の視野の周辺領域の距離測定精度D2´は、視野の中心領域の距離測定精度D2よりも著しく小さい。従って、2次元平面内でより良い距離測定精度を維持する必要がある場合、直線セグメントに配置された小眼列の視野は、比較的に狭く、言い換えると、本発明の実施例の小眼列を使用して複眼カメラ装置を製造すると、ある方向の小眼列の長さが足りない場合、距離測定範囲が狭くなりすぎないように、好ましくは、小眼を円弧線セグメントに設置するように配置することを考慮する。以下の実施例でさらに説明する。
図11は、本発明の一実施例における複眼カメラ装置の可視範囲の模式図である。図11を参照すると、一例として、小眼列400の各小眼40は、円弧線セグメントとして配置される(光学中心の接続線は、円弧線である)。各小眼40は、焦点面状に配置された二つの感光性ユニットを有し、この二つの感光性ユニットと対応する小眼40の光学中心との接続線によって決定された光軸方向は、小眼列400の測定可能な視線方向である。図10は、他の小眼視線と交差することができる最も外側の小眼の最も外側の視線に従って決定された小眼列400の立体可視範囲をさらに示す(例えば、図11の2本の太い線によって限定された範囲)。明らかに、円弧線セグメント構造の小眼列400の視野角は、同じ数の感光性ユニットを有する図8に示される直線セグメント構造の小眼列200の視野角よりも大きい。さらに、図11示されるように、円弧線セグメント構造の小眼列400の場合、小眼列400から法線方向に近い方向から遠い方向に向かって、小眼列の距離測定精度D3は、徐々に低下する。
本実施例において、小眼列の距離測定精度が高いほど、複眼カメラ装置の解像度は高くなる。また、最大解像度は、主に隣接する小眼間の間隔と最も外側の感光性ユニットの位置に関連するため、必要に応じて小眼間隔と感光性ユニットとの位置を調整することにより、複眼カメラ装置の解像度を向上させる。
本発明の小眼列中の複数の小眼の配置方法および間隔は、視野角、距離測定精度等の要件に従って設置することができる。好ましい解決策において、小眼中の感光性ユニットの数を増加することによって、または各小眼を円弧線セグメントとして配置することによって、視野角を増加することができ、また、効果や技術的な難しさの観点から、感光性ユニットの数を増加するよりも、円弧線セグメント(または球面)の小眼配列を使用するのがより好ましい。視野角が広いほど、複眼カメラ装置は、「見る」ことが遠くなり、被写対象が遠くなるほど、画像が小さくなる。直線セグメント構造の小眼列および2次元平面の小眼アレイの場合、その空間解像度は、基本的に距離の変化によって変化しないが、視覚範囲は、柱状空間として具現化された小眼列の2次元面積によって制限される。従って、本発明の実施例の小眼列を使用して複眼カメラ装置を製造する場合、図11に示されるように、円弧線セグメント(または球面)に配置された小眼を使用することが好ましく、一方で、視野はより広く、もう一方で、物体が遠いほど、画像は小さくなり、より優れたバイオニック効果を有する。
実施例5
本実施例は、主に、小眼列によって生成された視差を紹介する。
前述の実施例における複眼カメラ装置の説明によれば、本発明の複眼カメラ装置の小眼列を使用することにより、プロセッサは、それぞれ単一の複眼画像イメージングユニットおよびマッチング複眼画像ユニットを介して、単一の複眼画像および少なくとも二つの単一の複眼画像を含むマッチング複眼画像のセットを取得することができることが分かる。前記マッチング複眼画像中の各単一の複眼画像には視差が存在する。
図12は、本発明の一実施例における小眼列の光学円錐およびピクセルの表面感知光束の模式図である。図12の左半分は、光学円錐の分布状況を示し、右半分は、ピクセルの表面感知光束の分布状況を示す。図12に示されるような小眼列において、各小眼は、感光面内に設置された二つの感光性ユニットを有し、また、各小眼中の一つの対応する位置にある感光性ユニットの視線は、小眼列の視野内で交差せず、各小眼中の別の対応する位置に対応する感光性ユニットの視線は、小眼列の視野内でも交差しないため、各小眼に対応するこの二つの感光性ユニットの信号に従って、二つの単一の複眼画像を取得することができる。同じ対応する位置にない感光性ユニットの場合、それらの視線は、小眼列の視野内で交差するため、この二つの単一の複眼画像の同じ交点を反映するピクセルポイントは視差を有し、マッチング複眼画像のセットを形成する。
一例として、小眼Aの画像を基準画像として、第1の検出領域S1は、小眼A内部の二つの感光性ユニット(またはピクセル)によって同時に検出できる領域であるため、視差は0であり、第2の検出領域S2は、小眼Aの左側の感光性ユニットおよび小眼Bの右側の感光性ユニットが同時に検出できる領域であるため、視差は1であり(ここで、小眼を単位として例示し、別の実施例において、感光性ユニットを単位として使用することもできる)、同じ方法に従って、第3の検出領域S3は、小眼Aの左側の感光性ユニットおよび小眼Cの右側の感光性ユニットが同時に検出できる領域であるため、対応する視差が2であり、第4の検出領域S4は、小眼Aの左側の感光性ユニットおよび小眼Dの右側の感光性ユニットが同時に検出できる領域であるため、対応する視差が3であることを得ることができ、類推により、各小眼に入射された後、異なる検出領域のピクセルの表面感知光束によって生成された視差を取得することができる。小眼の配置方法、小眼の間隔、感光性ユニットのサイズおよび間隔等の小眼列の構造データを取得した後、上記のマッチング複眼画像を計算して視差を得、3次元空間における被写対象または空間ポイントの特定の位置は、さらなる計算および導出によって取得することができることが分かる。
被写対象の3次元空間情報を複数回連続して取得した後、さらに3次元空間における被写対象の運動情報を取得することができる。被写対象の3次元空間情報および運動情報は、立体座標系を介して表現および出力することができ、また、VR、AR、MR等の3次元立体技術を通じて実証することができる。
実施例6
図13は、本発明の一実施例における小眼アレイの平面模式図である。図13を参照すると、一実施例において、複数の小眼列は、水平・垂直に2次元平面にきれいに配置され、各小眼は、それに対応して、水平・垂直に配置されたいくつかの感光性ユニットが設置される。図13において、各小眼の光学中心の位置は、対応する感光性ユニットから構成されたピクセルアレイの中心位置と同じである。
各小眼の光学素子は、例えば、マイクロレンズであり、マイクロレンズアレイは、小眼アレイであり、X×Yで表され、XおよびYは、療法とも1より大きい整数であり、図13に示されるように、一実施例において、X=8、Y=7であり、さらに、各小眼中の感光性ユニットで構成されたピクセルアレイは、I×Jで表され、IおよびJは、療法とも1より大きい整数であり、一実施例において、I=3、J=3である。即ち、図13に示されるのは、8×7の小眼アレイであり、各小眼は、3×3個のピクセルを含む。本実施例において、空間ポイントの位置(または深さ)を取得するプロセッサは、次のプロセスを含むことができる。
まず、前記小眼のすべての感光性ユニットによって生成された画像信号を取得した後、各小眼からの、かつ互いに交差しない視線の感光性ユニットの画像信号を一つの単一の複眼画像に処理して、少なくとも二つの単一の複眼画像を取得する。前記小眼の感光性ユニットの画像信号は、好ましくは、同じ時刻または同じ期間に取得された信号であり、被写対象の位置を複数の時刻または同じ期間で追跡することで、動的被写対象を捉えることができ、従って、動的撮影能力を実現する。
上記のX×Yの小眼アレイの場合、X×YサイズのI×J枚単一の複眼画像を取得することができる。即ち、図13の例において、9枚の単一の複眼画像を取得することができ、各単一の複眼画像は、合計8×7個のピクセルポイントを有し、各単一の複眼画像のサイズは、8×7であると考えられ、ここで、ピクセルポイントとは、感光性ユニットによって生成された画像信号が対応する単一の複眼画像に具現化された画像を指す。図13に示される小眼の具体的な数は、例示のためのものであり、本発明の他の実施例において、複眼カメラ装置を構築するために使用される小眼の数および小眼中の感光性ユニットの数は、図13に示される数とは異なるその他の数であってもよく、例えば、一実施例において、小眼の数は、各小眼に対応するピクセルアレイ中の感光性ユニットの数よりもはるかに大きくてもよいことに留意されたい。
図13を参照すると、隣接する二つのマイクロレンズの間隔、即ち、隣接する二つの小眼間の間隔は、lであり、各小眼中の隣接する二つの感光性ユニット間の間隔は、hであり、各マイクロレンズの光学中心と感光性ユニットの感光面との間の距離は、fである(図14)。図13に示される小眼アレイにおいて、小眼アレイが配置された平面の座標系は、小眼アレイ座標系ΣXYであり、その原点Oは、左下隅の小眼の中心に設置され、小眼アレイ座標系ΣXYの座標に従って、各小眼の位置を決定することができ、小眼アレイ座標系ΣXY中の単位はlであり、さらに、各小眼中の感光性ユニットが配置された座標系はピクセルアレイ座標系ΣIJであり、その原点O´は、各小眼の中心感光性ユニットの中心に設置されるため、ピクセルアレイ座標系ΣIJの座標に従って、小眼中の各感光性ユニットの位置を決定することができ、ピクセルアレイ座標系ΣIJ中の単位は、hである。図13に示されるような感光性ユニットEは、ピクセルアレイ座標系ΣIJの小眼アレイ座標系ΣXY中の座標が(5、2)であるマイクロレンズの原点に対応する。
図14は、本発明の一実施例の複眼カメラ装置の距離測定の模式図である。図14は、図13の小眼アレイ座標系ΣXYに基づいて深さ座標軸Zを加えたものと見なすことができるため、3次元空間に位置する被写対象を示すことができる(ここで、空間ポイントRで表される)。以下、図13の座標系を複眼座標系ΣXYZと呼び、複眼座標系ΣXYZ中の原点を図12の左下隅の小眼の光学中心に設定する。一例として、小眼アレイのアレイ面は、2次元平面であり、各小眼の構造は、同じであり、各小眼が配置されたアレイで対応する小眼の位置を直接表すことができ、小眼アレイの平面は、ピクセルアレイの平面に平行になうように設定することができ、各小眼の光学中心と小眼ピクセルアレイの中心の接続線は、ピクセルアレイの平面に垂直する。図14の上記の設定は、説明の便宜のためだけのものであり、本発明の複眼カメラ装置を限定するものではないことに留意されたい。本発明の別の実施例において、各小眼のピクセルアレイも、一定の曲率を有することができ、各小眼の光学中心と対応するピクセルアレイ中心との接続線は、小眼アレイの平面に垂直しないこともできる。
図14を参照すると、小眼アレイ中の二つの小眼では、療法とも空間ポイントRの画像信号が検出される。複眼座標系における空間ポイントRの座標は、(x、y、z)である。具体的に、複眼座標系ΣXYZ中の第1の个小眼の光学中心A(説明の便宜上、当該小眼は小眼Aと呼ばれる)の座標は、(x、y)であり、小眼Aの場合、ピクセルアレイ座標系ΣIJ中の空間ポイントRの画像信号を生成する感光性ユニットcの座標は、(i、j)であり、感光性ユニットcの光束強度(または明るさ)は、Ui、j(x、y)として表され、同じ時刻tにおいて、感光性ユニットcの視線と交差しない各小眼内の感光性ユニットの情報は、小眼の位置の順序で配置されて、一つの単一の複眼画像を形成し、時刻tでの第1の複眼画像Ui、jと呼ばれる。同様に、空間ポイントRの画像信号を検出する他の小眼の場合、複眼座標系ΣXYZ中の光学中心B(説明の便宜上、当該小眼は小眼Bと呼ばれる)の座標は、(x、y、f)であり、小眼Bの場合、ピクセルアレイ座標系ΣIJ中の空間ポイントRの画像信号を生成する感光性ユニットdの座標は、(m、n)であり、感光性ユニットcおよび感光性ユニットdの視線は、視野内で交差し、療法とも同じ空間ポイントRの画像情報が検出される。同じ時刻tにおいて、感光性ユニットdの視線と交差しない各小眼内の感光性ユニットの情報は、小眼の位置の順序で配置されて、一つの単一の複眼画像を形成し、時刻tでの第2の複眼画像Um、nと呼ばれる。
図14を参照すると、四つの点cABdが同じ小眼列の視覚面上にある場合、視線cAと視線dBは、空間内の空間ポイントRで交差することができる。空間ポイントRは、小眼A中の感光性ユニットcを介して画像信号を生成し、ピクセルポイントcとして示される第1の複眼画像Ui、j中のピクセルポイントとして具現化され、空間ポイントRは、小眼B中の感光性ユニットdを介して画像信号を生成し、ピクセルポイントdとして示される第2の複眼画像Um、n中のピクセルポイントとして具現化される。第1の複眼画像Ui、j中のピクセルポイントcの座標を(xc、yc)として、第2の複眼画像Um、n中のピクセルポイントdの座標を(xd、yd)として設定し、ピクセルポイントcおよびdは、両方とも空間ポイントRの情報を反映するため、それは、対応するピクセルポイントのセットであり、ピクセルポイントcおよびdは、二つの単一の複眼画像における実空間上の同じ空間ポイントRのマッピングを表し、この二つの単一の複眼画像は、マッチング複眼画像のセットを形成することができる。
単一の複眼画像から同じ空間ポイントマッピングに属し、対応する関係を有するピクセルポイント(例えば、上記のピクセルポイントcおよびd)を取得する方法については、例えば、siftアルゴリズム、surfアルゴリズム、グローバルステレオマッチングアルゴリズムまたはローカルステレオマッチングアルゴリズム等、当技術分野で開示されたステレオマッチングアルゴリズムを使用することによって取得することができ、ローカルステレオマッチングアルゴリズムを例として、ウィンドウベースの方法またはサポート領域ベースの方法とも呼ばれ、ローカルステレオマッチングアルゴリズムは、参照画像中の各ピクセルに対して適切なサイズ、形状および重みのウィンドウを計算し、次にこのウィンドウ内の視差値が重み付けされ、平均化される。理想的なサポートウィンドウは、テクスチャの弱い領域を完全にカバーし、ウィンドウ内で深く専属させることができる。グローバルステレオマッチングアルゴリズムと同様に、コスト関数を最適化することによって最適な視差を計算する。具体的なプロセスは、当技術分野で開示された技術を参照することができ、ここでは繰り返さない。
以下、空間ポイントRの空間深さ情報(即ち、Z方向の座標)を取得するプロセスを説明する。
図14を参照すると、各レンズのピクセル位置(i、j)で構成された第1の複眼画像Ui、jと、各レンズのピクセル位置(m、n)で構成された第2の複眼画像Um、nの第1の複眼画像Ui、j中のピクセルポイント(x、y)によって生成された視差は、e(i、j)(m、n)(x、y)として表される。具体的に、第1の複眼画像Ui、jを基準画像とする場合、X軸方向のピクセルポイントdとピクセルポイントcとの距離は、X方向のピクセルポイントdの視差であり、ここではe(i、j)(m、n)(x)として表され、Y軸方向のピクセルポイントdとピクセルポイントcとの距離は、Y方向のピクセルポイントdの視差であり、ここではe(i、j)(m、n)(y)として表され、ピクセルポイントdとピクセルポイントcとの直線距離、即ち、ピクセルポイントdの視差は、e(i、j)(m、n)(x、y)として表されることができる。
マイクロレンズの焦点距離が十分に小さい場合、AB=cdと見なすことができ、従って、e(i、j)(m、n)(x、y)は、二つの小眼の光学中心AとBとの間の距離、即ち、ABの長さを表すことができる。二つの小眼の位置に応じて、X方向のピクセルポイントdの視差e(i、j)(m、n)(x)とX方向の対応する二つの小眼の距離との関係、およびY方向のピクセルポイントdの視差e(i、j)(m、n)(y)とY方向の対応する二つの小眼の距離との関係を得ることができる。しかし、上記の視差と、小眼Aと小眼Bとの間の距離との間の関係は、本発明の一例に過ぎない。別の実施例において、より正確な計算プロセスを通して、二つの小眼における対応する感光性ユニットの視差と小眼距離との間の関係を取得することができ、例えば、別の実施例において、計算によって
Figure 2023502942000002
(cdは、感光性ユニットcと感光性ユニットdとの間の距離である)が得られる。一言で言えば、第1の複眼画像Ui、jおよび第2の複眼画像Um、nを処理することにより、二つの小眼が同じ空間ポイントRを検出する時の視差を得ることができる。
本実施例において、基準画像に基づくピクセルポイントdの視差は、以下の関係式(1)を満たす。
Figure 2023502942000003
直線ARと小眼Aのピクセルアレイが配置された平面との間の夾角αは、以下の関係式(2)を満たす。
Figure 2023502942000004
直線BRと小眼Bのピクセルアレイが配置された平面との間の夾角βは、以下の関係式(3)を満たす。
Figure 2023502942000005
上記の関係に基づいて、Rの空間深さ、即ち、複眼座標系ΣXYZ中のRの座標zを得ることができる。
Figure 2023502942000006
を得る。
従って、zは、以下の関係式(4)を満たす。
Figure 2023502942000007
従って、xおよびyは、それぞれ以下の関係式(5)および(6)を満たす。
Figure 2023502942000008
空間ポイントRの座標(x、y、z)は、小眼の構造および視差に関連し、小眼アレイ座標系における二つの小眼の座標情報、ピクセルアレイ座標系における空間ポイント画像情報の二つの感光性ユニットの対応する座標情報、および二つの画像上の対応するピクセルポイントの視差によって取得することができる。被写対象が複数の空間ポイントの組み合わせである場合、視野内の各空間ポイントの深さを取得することによって、被写対象の立体情報を取得することができることが分かる。
図6および図7に示されるように、設定された距離で分離されたサブ小眼列中の非交差視線によって決定された空間交点については、視差を計算する時は、二つのサブ小眼列間の設定距離も考慮する必要があり、空間ポイントの座標も、当該設定距離に関連する。
上記の実施例において、小眼アレイおよびピクセルアレイは、計算のために2次元平面として使用される。しかし、小眼アレイ中の各小眼の空間上の分布が平面でない場合(例えば、図11に示される球面)、各小眼の相対位置が固定され、即ち、各小眼の相対位置データは、既知または測定可能であり、小眼によって取得された画像信号を処理することによって単一の複眼画像を得ることもでき、二つ以上の単一の複眼画像を介してマッチング複眼画像を得ることができ、マッチング複眼画像に対して視覚処理を実行することにより、マッチング複眼画像中の対応するピクセルポイントの視差情報のセットを得られ、さらに、小眼アレイの構造情報、小眼中のピクセルアレイの構造情報、視線情報および視差情報を介して、被写対象の3次元空間情報を得ることができ、従って、ステレオビジョンが実現されることを理解することができる。
実施例7
小眼の空間上の分布が平面ではないが、任意の固定形状であり、かつ特定の装置(例えば、ヘッド)に固定される場合、当該装置の座標系における各小眼の座標は、固定される。本実施例は、主に、任意のポーズの二つの小眼を介して、空間ポイントの3次元空間情報を取得するプロセスを紹介する。
図15は、本発明の一実施例の複眼カメラ装置の距離測定の模式図である。図15を参照すると、任意のポーズの二つの小眼PおよびQは、空間ポイントRによって放出された光束を検出することができ、それにより、対応する画像信号を取得することができる。ここで、小眼Pの光学中心座標を(x、y、z)として設定し、小眼Pの中心光軸(マイクロレンズの光学中心を通り、かつ入射面に垂直する直線)の方向は、オイラー角(α、β、γ)で表され、(x、y、z、α、β、γ)で小眼Pのポーズパラメーターを表すことができる。類似的に、小眼Qの光学中心座標を(x、y、z)として設定し、小眼Qの中心光軸の方向は、オイラー角(α、β、γ)で表され、(x、y、z、α、β、γ)で小眼Qのポーズパラメーターを表すことができる。視線が交差しない小眼Pおよび小眼Qの二つのグループの感光性ユニットの検出信号に従って、二つの単一の複眼画像を生成することができ、ここで、第1の複眼画像Ui、jのUi、j(x、y)ピクセルポイントは、小眼P上の実空間における空間ポイントRのイメージングに対応し、第2の複眼画像Um、nのUm、n(x、y)ピクセルポイントは、小眼Q上の空間ポイントRのイメージングに対応するため、第1の複眼画像Ui、jおよび第2の複眼画像Um、nは、マッチング複眼画像のセットであり、従って、Rの座標(x、y、z)は、(x、y、z、a、β、γ)、(x、y、z、α、β、γ)および(i、j)、(m、n)によって計算されることができる。具体的な説明は、次のとおりである。
3次元空間において、ベクトルpで小眼Pの光学中心の座標を表し、ベクトルpは、小眼Pの座標に関連し、p=OP=(x、y、z)として表され、Oは、小眼座標系の原点である。小眼Pにおいて、ピクセルアレイ(原点はoで示される)中の空間ポイントRに対応する感光性ユニットの座標は、(i、j)であり、3次元空間に対応する座標は、(x、y、z)であり、小眼P中の対応する感光性ユニット(i、j)から得られた光線方向がd=OP-oi=(x-x、y-y、z-z)である場合、光線PRのパラメーター方程式は、p+kとして表されることができ、ここで、kは、係数である。
同様に、小眼Qの光学中心の座標は、ベクトルqで表されることができ、ベクトルqは、小眼Qの座標に関連し、q=OQ=(x、y、z)として表されることができ、ピクセルアレイ(原点はoで示される)中の空間ポイントから放出された光束に対応する小眼Q中の感光性ユニットの座標は、(m、n)であり、3次元空間に対応する座標は、(x、y、z)であり、小眼Q中の対応する感光性ユニット(m、n)から得られた光線方向は、d=(x-x、y-y、z-z)である。光線QRのパラメーター方程式は、q+kとして表されることができ、ここで、kは、係数である。
光線PRと光線QRとは空間ポイントRで交差するため、k=kを設定できる場合、光線QRは空間ポイントRを取ると、空間ポイントRの矢量は、R=q+kdである。この場合、
Figure 2023502942000009
、即ち、(q+kd-p)×d=0であり、従って、
Figure 2023502942000010
の空間ポイントRの座標が
Figure 2023502942000011
である理想的な状況を得ることができ、実際のアプリケーションではエラーが存在する可能性があることを考慮すると、ベクトル除算は計算に不便であり、
Figure 2023502942000012
に置き換えることができる。従って、空間ポイントRの座標は、
Figure 2023502942000013
である。
前述の実施例における複眼カメラ装置の説明と組み合わせると、具体的には、プロセッサは、信号処理ユニット、画像処理ユニットおよび位置分析ユニットを介して、前記小眼によって生成されたすべての画像信号を取得した後、少なくとも一つの単一の複眼画像を形成することにより、より高い視覚的明瞭度を有する2次元視覚を実現することができ、また、視線が交差する任意の二つの単一の複眼画像の場合、そのうちの対応するピクセルポイントの視差情報を取得するためのマッチング複眼画像として使用することができ、例えば、小眼の距離情報、感光性ユニットに関連する視線の情報および前記視差情報等の小眼アレイの構造情報を計算することによって被写対象の3次元空間情報を得ることができることが分かる。前記複眼カメラ装置は、上記のバイオニック構造で設計された小眼アレイおよびプロセッサを介して3次元立体画像収集機能を有し、被写対象の位置を検出し、被写対象の立体画像を取得するために使用されることができ、正確な3次元空間情報を取得し、より優れたステレオビジョンを実現するのに役立つことが分かる。
実施例8
本実施例は、主に、複眼システムを紹介する。前記複眼システムは、間隔を置いて配置された複数の前記複眼カメラ装置を含む。バイオニックの観点から、ここでの複眼システムの機能は、複眼動物の複眼のセット(例えば、トンボの二つの複眼)の機能と類似する。
上記の複眼システムにおける複数の複眼カメラ装置は、設計要件に従って、それぞれ機能本体の異なる位置に設定されることができ、異なる方向から3次元立体測定を行うか、または、複数の複眼カメラ装置は、中心点または中心線に関して対称的に分布されることもできる。バイオニックの観点から、多くの複眼動物は、中心線に沿って対称的な二つの複眼を介して動作するため(人間の目は複眼ではないが、中心線に沿って対称でもある)、本実施例の複眼システムは、インテリジェントロボットの視覚システム設計に適用されることができるが、これらに限定されず、別の実施例において、上記の複眼システムは、レーダーシステム、ミサイル誘導装置、マイクロ航空機、船舶の捜索および追跡システム、暗視装置、マイクロ複眼カメラ等にも適用されることができ、具体的な3次元検出のニーズに応じて、同時に使用される二つ以上の複眼カメラ装置、特に小眼アレイは、中心線を円周として左から右または上下に対称にすることも、中央部分(または中心点)に対して対称にすることも、非対称に分布することもできる。
上記の複眼システムは、複眼カメラ装置に加えて、前記複眼カメラ装置における小眼列のポーズを制御するための制御装置をさらに含むことができる。ここでの小眼列のポーズとは、主に小眼列の撮影方向を指す。コントローラは、コンピュータ―のCPUで実現されることができる。制御装置は、各複眼カメラ装置のプロセッサに接続され、小眼列のポーズに加えて、制御装置は、例えば、動作するように小眼アレイの対応する部分のプロセッサを制御する等、各プロセッサが被写対象の2次元および/または3次元の空間情報を取得するプロセスを制御することができ、制御装置は、例えば、二つの複眼カメラ装置間の測定誤差を排除するために、各プロセッサによって出力された被写対象の3次元空間情報に対して統合された分析および処理を実行することができ、最終的に、被写対象のより正確な3次元空間情報を取得する。バイオニックの観点から、制御装置の機能は、複眼動物の脳の機能と類似し、複眼システムの操作において指揮的な役割を果たす。
各複眼カメラ装置は、視野範囲内の被写対象の2次元および/または3次元空間情報を取得することができるため、構築された複眼システムは、より広い視野を有し、より優れたステレオビジョン機能を実現するのに有利する。
上記の説明は、本発明の好ましい実施例の説明にすぎず、本発明の権利の範囲を限定するものではなく、当業者は、発明の精神および範囲から逸脱することなく、上記に開示された方法および技術的内容を使用することによって、本発明の技術的解決策に可能な変更および修正を加えることができ、従って、本発明の技術的解決策の内容から逸脱することなく、本発明の技術的本質に従って、上記の実施例に対して行われた任意の単純な修正、同等の変更および修飾は、すべて本発明の技術的解決策の保護範囲に属される。
100、200、300、400小眼アレイ
10、20、30、40小眼
21、31感光性ユニット
10a焦点面

Claims (23)

  1. 複眼カメラ装置であって、
    小眼列およびプロセッサを含み、
    前記小眼列は、光学的に互いに干渉せず、かつ一列に配置される複数の小眼を含み、各前記小眼は、いずれも、光学素子と、前記光学素子の焦点面の近くに設置される少なくとも一つの感光性ユニットとを含み、前記光学素子は、被写対象に向き合い、かつ視野内に入射される光束を受け取るために使用され、ここで、各前記小眼列は、少なくとも一つの小眼列視覚面に対応し、前記小眼列視覚面は、前記小眼列中の各小眼の光学中心と、各小眼の少なくとも一つの感光性ユニットの中心の近くとを通過し、各前記感光性ユニットは、少なくとも一つの前記小眼列視覚面と交差し、各前記感光性ユニットの視線は、前記感光性ユニットの中心と、所在小眼の光学中心を通過し、
    前記プロセッサは、前記小眼中の感光性ユニットが受信した情報に基づいて画像を生成し、前記画像を処理して被写対象に関する情報を取得するように構成されることを特徴とする、複眼カメラ装置。
  2. 前記小眼列において、各小眼は、一つの前記感光性ユニットを含み、各前記感光性ユニットの視線は、前記小眼列の視野内で互いに交差しないことを特徴とする
    請求項1に記載の複眼カメラ装置。
  3. 前記小眼列において、各小眼は、一つまたは二つ以上の前記感光性ユニットを含み、少なくとも一つの前記感光性ユニットの視線は、前記小眼列の視野内で他の前記感光性ユニットの視線と交差することを特徴とする
    請求項1に記載の複眼カメラ装置。
  4. 前記複眼カメラ装置は、二つ以上の前記小眼列を含み、異なる前記小眼列の小眼列の視覚面の間に夾角が形成され、各前記小眼は、一つまたは二つ以上の前記小眼列に属することを特徴とする
    請求項1に記載の複眼カメラ装置。
  5. 複数の前記小眼列で順次的に隣接して小眼アレイが構成され、前記小眼アレイ中の各前記小眼の光学素子は、ハニカム形曲面内または2次元平面内に配置されることを特徴とする
    請求項4に記載の複眼カメラ装置。
  6. 前記プロセッサは、各前記小眼中の前記感光性ユニットの情報を取得した後、視線が互いに交差しない前記感光性ユニットの情報の全部または一部を処理して画像を形成して、少なくとも一つの単一の複眼画像を得るように構成される単一の複眼画像イメージングユニットを含むことを特徴とする
    請求項1に記載の複眼カメラ装置。
  7. 前記プロセッサは、
    同じ前記小眼列の視覚面に属し、かつ前記感光性ユニットの視線の少なくとも一部を互いに交差する二つ以上の前記単一の複眼画像をマッチングして、マッチング複眼画像のセットを得るように構成され、前記マッチング複眼画像中の各前記単一の複眼画像は、いずれも、視線交点にある被写対象の情報に従って単一の複眼画像に形成されるピクセルポイントを含むマッチング複眼画像ユニットと、
    前記マッチング複眼画像中の視線交点にある被写対象の情報に基づいて生成されたピクセルポイントの間の視差情報を取得するように構成される視差計算ユニットと、および
    前記小眼列の情報および前記視差情報に基づいて、視線交点に位置する被写対象の情報を取得するように構成される位置分析ユニットとをさらに含むことを特徴とする
    請求項6に記載の複眼カメラ装置。
  8. 前記マッチング複眼画像中の単一の複眼画像は、いずれも、同じ時刻または同じ期間に取得された各前記小眼中の前記感光性ユニットの情報に基づいて取得されることを特徴とする
    請求項7に記載の複眼カメラ装置。
  9. 前記位置分析ユニットは、先後の複数の時刻または同じ期間の前記被写対象の情報を通じて、視野内の前記被写対象の運動情報を取得するように構成されることを特徴とする
    請求項8に記載の複眼カメラ装置。
  10. 前記複眼カメラ装置は、
    前記単一の複眼画像、前記マッチング複眼画像および前記被写対象の情報を記憶するように構成される記憶ユニットと、および
    前記単一の複眼画像を出力して表示するか、または、前記位置分析ユニットで取得された被写対象の情報に基づいて、前記被写対象のテクスチャ色、立体ポーズおよび形状中の少なくとも一種を出力して表示するように構成される表示ユニットとをさらに含むことを特徴とする
    請求項7に記載の複眼カメラ装置。
  11. 同じ前記小眼列は、少なくとも一つのサブ小眼列を含み、各前記サブ小眼列は、複数の順次的に隣接される小眼を含み、隣接する二つの前記サブ小眼列の間には所定の間隔があることを特徴とする
    請求項1に記載の複眼カメラ装置。
  12. 隣接する二つの前記サブ小眼列の間には、前記サブ小眼列と同じ前記小眼列に属さない小眼が設置されることを特徴とする
    請求項11に記載の複眼カメラ装置。
  13. 各前記サブ小眼列中の小眼の光学中心の接続線は、直線セグメントまたは円弧線セグメントであることを特徴とする
    請求項11に記載の複眼カメラ装置。
  14. 各前記感光性ユニットの視線は、前記感光性ユニットの感光性領域に関連する拡散角を有し、前記拡散角は、同じ前記小眼列視覚面中の隣接する二つの前記感光性ユニットの視線間の夾角以下であることを特徴とする
    請求項13に記載の複眼カメラ装置。
  15. 前記サブ小眼列の各前記小眼の光学中心の接続線が円弧線セグメントである場合、前記拡散角は、前記円弧線セグメント中の隣接する二つの前記小眼の軸線の間の夾角以下でもあることを特徴とする
    請求項14に記載の複眼カメラ装置。
  16. 前記小眼列において、各前記小眼中の前記光学素子は、すべてマイクロレンズであり、各前記マイクロレンズの直径は、同じであるかすべて同じではなく、焦点距離は、同じであるかすべて同じでないことを特徴とする
    請求項1に記載の複眼カメラ装置。
  17. 前記小眼列において、前記小眼列視覚面に垂直な各前記小眼のマイクロレンズの断面は、円形、楕円形または多角形であることを特徴とする
    請求項16に記載の複眼カメラ装置。
  18. 同じ前記小眼列において、各前記小眼中の前記感光性ユニットの数は、同じであることを特徴とする
    請求項1に記載の複眼カメラ装置。
  19. 前記感光性ユニットによって受信される情報は、視線に対応する入射光束の強度情報および色情報を含むことを特徴とする
    請求項1に記載の複眼カメラ装置。
  20. 前記小眼列中の各前記小眼は、同じ半導体基板に統合され、各前記小眼の間は、媒体によって隔離されることを特徴とする
    請求項1に記載の複眼カメラ装置。
  21. 複眼システムであって、
    設定された間隔で配置された複数の請求項1に記載の複眼カメラ装置を含むことを特徴とする、前記複眼システム。
  22. 複数の前記複眼カメラ装置は、中心線に対して対称されることを特徴とする
    請求項21に記載の複眼システム。
  23. 前記複眼システムは、前記複眼カメラ装置中の小眼列のポーズを制御するための制御装置をさらに含み、前記制御装置は、各前記複眼カメラ装置のプロセッサに接続されることを特徴とする
    請求項21に記載の複眼システム。
JP2022528046A 2019-11-26 2020-01-13 複眼カメラ装置および複眼システム Active JP7393542B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201911173889.2 2019-11-26
CN201911173889.2A CN112866512B (zh) 2019-11-26 2019-11-26 复眼摄像装置及复眼系统
PCT/CN2020/071734 WO2021103297A1 (zh) 2019-11-26 2020-01-13 复眼摄像装置及复眼系统

Publications (2)

Publication Number Publication Date
JP2023502942A true JP2023502942A (ja) 2023-01-26
JP7393542B2 JP7393542B2 (ja) 2023-12-06

Family

ID=75985715

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022528046A Active JP7393542B2 (ja) 2019-11-26 2020-01-13 複眼カメラ装置および複眼システム

Country Status (5)

Country Link
US (1) US12041331B2 (ja)
EP (1) EP4068747A4 (ja)
JP (1) JP7393542B2 (ja)
CN (1) CN112866512B (ja)
WO (1) WO2021103297A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113917579A (zh) * 2021-09-28 2022-01-11 屏丽科技成都有限责任公司 一种复眼透镜和液晶显示器背光模组
CN116698189B (zh) * 2023-06-06 2024-03-29 北京理工大学长三角研究院(嘉兴) 一种感算一体仿生复眼传感器及构建方法
CN116990963B (zh) * 2023-09-28 2023-12-26 安徽大学 一种复眼事件相机的设计方法及装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10107975A (ja) * 1996-10-01 1998-04-24 Matsushita Electric Ind Co Ltd 画像入力装置
JP2011109630A (ja) * 2009-11-20 2011-06-02 Advas Co Ltd カメラ装置用雲台
WO2016009707A1 (ja) * 2014-07-16 2016-01-21 ソニー株式会社 複眼撮像装置
EP3110130A1 (en) * 2015-06-25 2016-12-28 Thomson Licensing Plenoptic camera and method of controlling the same
CN107613177A (zh) * 2017-10-16 2018-01-19 上海斐讯数据通信技术有限公司 基于复眼透镜的摄像头、成像方法及移动终端
JP2018045464A (ja) * 2016-09-14 2018-03-22 株式会社東芝 画像処理装置、画像処理方法、およびプログラム

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5517019A (en) * 1995-03-07 1996-05-14 Lopez; Luis R. Optical compound eye sensor with ommatidium sensor and related methods
JP2003143459A (ja) * 2001-11-02 2003-05-16 Canon Inc 複眼撮像系およびこれを備えた装置
CN1304878C (zh) 2005-02-28 2007-03-14 北京理工大学 复眼立体视觉装置
US20090314929A1 (en) * 2006-01-19 2009-12-24 The Regents Of The University Of California Biomimetic Microfabricated Compound Eyes
US8180111B2 (en) * 2007-07-23 2012-05-15 Panasonic Corporation Compound eye type imaging apparatus with distance measuring capability
CN101753849A (zh) * 2008-12-01 2010-06-23 厦门市罗普特科技有限公司 复眼全景摄像机
ATE538406T1 (de) * 2009-09-30 2012-01-15 Fraunhofer Ges Forschung Verfahren zur herstellung eines künstliches facettenauges
US8576489B2 (en) * 2010-08-02 2013-11-05 Spectral Imaging Laboratory Multihybrid artificial compound eye with varied ommatidia
JPWO2014156712A1 (ja) * 2013-03-26 2017-02-16 コニカミノルタ株式会社 複眼光学系及び撮像装置
WO2015133226A1 (ja) * 2014-03-05 2015-09-11 コニカミノルタ株式会社 複眼撮像光学系、レンズユニット、撮像装置及び携帯端末
WO2015182488A1 (ja) * 2014-05-26 2015-12-03 コニカミノルタ株式会社 複眼撮像光学系及び複眼撮像装置
CN104597599A (zh) * 2015-02-16 2015-05-06 杭州清渠科技有限公司 一种基于可调控微镜阵列的成像装置
KR101738883B1 (ko) * 2016-01-06 2017-05-23 한국과학기술원 초박형 디지털 카메라 및 그 제조 방법
CN107809610B (zh) * 2016-09-08 2021-06-11 松下知识产权经营株式会社 摄像头参数集算出装置、摄像头参数集算出方法以及记录介质
CN109360238B (zh) * 2018-09-25 2020-05-12 广东国地规划科技股份有限公司 一种基于双目测距的外业数据采集方法及系统
CN109934854B (zh) * 2019-03-28 2022-09-02 南京邮电大学 一种利用多目摄像头检测运动目标的装置及方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10107975A (ja) * 1996-10-01 1998-04-24 Matsushita Electric Ind Co Ltd 画像入力装置
JP2011109630A (ja) * 2009-11-20 2011-06-02 Advas Co Ltd カメラ装置用雲台
WO2016009707A1 (ja) * 2014-07-16 2016-01-21 ソニー株式会社 複眼撮像装置
EP3110130A1 (en) * 2015-06-25 2016-12-28 Thomson Licensing Plenoptic camera and method of controlling the same
JP2018045464A (ja) * 2016-09-14 2018-03-22 株式会社東芝 画像処理装置、画像処理方法、およびプログラム
CN107613177A (zh) * 2017-10-16 2018-01-19 上海斐讯数据通信技术有限公司 基于复眼透镜的摄像头、成像方法及移动终端

Also Published As

Publication number Publication date
EP4068747A4 (en) 2023-12-27
WO2021103297A1 (zh) 2021-06-03
CN112866512A (zh) 2021-05-28
CN112866512B (zh) 2022-03-22
US20220407994A1 (en) 2022-12-22
JP7393542B2 (ja) 2023-12-06
US12041331B2 (en) 2024-07-16
EP4068747A1 (en) 2022-10-05

Similar Documents

Publication Publication Date Title
JP7133554B2 (ja) 焦点調整可能な画像センサを含む距離センサ
JP7393542B2 (ja) 複眼カメラ装置および複眼システム
KR101843838B1 (ko) 4카메라그룹 평면 어레이의 특징점의 3차원 측정 시스템 및 측정 방법
US10692224B1 (en) Estimation of absolute depth from polarization measurements
CN110044300A (zh) 基于激光器的两栖三维视觉探测装置及探测方法
EP2201400B1 (en) Wide field of view optical tracking system
US10317205B2 (en) Depth measurement using a phase grating
Stürzl et al. Mimicking honeybee eyes with a 280 field of view catadioptric imaging system
KR20170072319A (ko) 거리 센서
JP7462890B2 (ja) プレノプティック・カメラ・システムを較正するための方法及びシステム
CN109496316B (zh) 图像识别系统
US11781913B2 (en) Polarimetric imaging camera
CN202406199U (zh) 一种基于双阵列图像传感器的三维测量芯片及系统
CN103033166B (zh) 一种基于合成孔径聚焦图像的目标测距方法
WO2020163742A1 (en) Integrated spatial phase imaging
JP2019045299A (ja) 3次元情報取得装置
CN112950727B (zh) 基于仿生曲面复眼的大视场多目标同时测距方法
US20200128188A1 (en) Image pickup device and image pickup system
CN106791335B (zh) 一种紧凑的大视野光场采集系统及其分析优化方法
Liu et al. An artificial compound eye system for large field imaging
WO2013176716A1 (en) Dual -channel 3d optical imager
EP3145168A1 (en) An apparatus and a method for generating data representing a pixel beam
CA3021368A1 (en) An apparatus and a method for generating data representative of a pixel beam
RU111698U1 (ru) Индивидуальный растровый экран объемного изображения
US9442296B2 (en) Device and method for determining object distances

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220513

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230427

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230606

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230906

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231031

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231124

R150 Certificate of patent or registration of utility model

Ref document number: 7393542

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150