JP2003283932A - Compound-eye image input device - Google Patents

Compound-eye image input device

Info

Publication number
JP2003283932A
JP2003283932A JP2002083714A JP2002083714A JP2003283932A JP 2003283932 A JP2003283932 A JP 2003283932A JP 2002083714 A JP2002083714 A JP 2002083714A JP 2002083714 A JP2002083714 A JP 2002083714A JP 2003283932 A JP2003283932 A JP 2003283932A
Authority
JP
Japan
Prior art keywords
eye image
image input
compound
input device
light receiving
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002083714A
Other languages
Japanese (ja)
Other versions
JP4012752B2 (en
Inventor
Jun Tanida
純 谷田
Daisuke Miyazaki
大介 宮崎
Kenji Yamada
憲嗣 山田
Yoshiki Ichioka
芳樹 一岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Science and Technology Agency
Original Assignee
Japan Science and Technology Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Science and Technology Corp filed Critical Japan Science and Technology Corp
Priority to JP2002083714A priority Critical patent/JP4012752B2/en
Publication of JP2003283932A publication Critical patent/JP2003283932A/en
Application granted granted Critical
Publication of JP4012752B2 publication Critical patent/JP4012752B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Abstract

<P>PROBLEM TO BE SOLVED: To provide a compound-eye image input device capable of determining a view angle of the image, and thereby improving resolution in the compound- eye image input device imaging a plurality of scale-down images of an object on a photodetector, by the use of a microlens array having a plurality of arrayed microlenses. <P>SOLUTION: The device is constituted of a plurality of compound-eye image input portions C disposed on a bending plane 4, thereby the plurality of scale- down images of the object are imaged on the photodetector, by the use of the microlens array having the plurality of arrayed microlenses. The photodetectors are clustered on a unit-by-unit basis, and disposed in eccentric positions against the microlenses. <P>COPYRIGHT: (C)2004,JPO

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【発明の属する技術分野】本発明は,複数のマイクロレ
ンズを利用した複眼画像入力装置に係り,特にその画角
を任意に調整可能なものに関する
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a compound eye image input device using a plurality of microlenses, and more particularly to a device having an adjustable angle of view.

【0002】[0002]

【従来の技術】近年の情報処理技術の発展に伴う高度情
報化社会の到来により,様々な分野で利用される情報の
うち画像情報の占める割合が顕著に増加している。そこ
で従来より,様々な画像情報を効率的且つ高品質に取得
する画像入力装置として,デジタルカメラ,ビデオカメ
ラ等,被写体である物体に対向する単一の光学系によっ
て物体像を取得する構成の画像入力装置が広く用いられ
ていた。しかしながら,これらの画像入力装置では,そ
の構成上,装置の小型軽量化には限界があるため,画像
入力装置に対する更なる小型軽量化の要望に応じるもの
として,昆虫等に見られる複眼構造を模倣した複眼画像
入力装置が開発されている。このような複眼画像入力装
置の一例としては,特開2001−61109号公報に
おいて開示された技術であって,図10に示す複眼画像
入力装置Aがある。上記複眼画像入力装置Aは,図10
(a)に示すように,複数のマイクロレンズ1aを格子
状に配列したマイクロレンズアレイ1と,複数の受光セ
ル3aを平面状に形成した受光素子3と,上記マイクロ
レンズアレイ1と上記受光素子3との間に配置された格
子状の隔壁2とを具備して概略構成される。ここで,上
記マイクロレンズ1aに対しては,上記隔壁2の一格子
部分が対応し,更には,複数の上記受光セル3aからな
る受光セルアレイ3bが対応して構成され,破線による
角柱で示すように,信号処理単位(ユニット)を形成し
ている。該複眼画像入力装置Aでは,このユニット毎に
結像される低解像度の被写体の縮小像(以下略して個眼
像Yと称す)に基づいて,単一の高解像度の画像を得る
ものである。ここで,上記複眼画像入力装置Aを用いて
画像情報を取得するための処理の流れを,図10(b)
を用いて説明する。上記複眼画像入力装置Aに用いて被
写体Xの画像情報を取得する場合には,先ず,各ユニッ
ト毎に被写体の個眼像Yが,上記受光セルアレイ3b上
に結像される。結果として,上記受光素子3上には,低
解像度の上記個眼像Yが,ユニット数に応じて複数結像
される。そして,結像された複数の上記個眼像Yに基づ
いて,所定の信号処理(再構成処理)を行うことによ
り,高解像度の再構成像Zが再構成される。ここで,上
記個眼像Yは,複数のユニットによって被写体Xを異な
る視点から撮像したものであり,その各個眼像Y間には
視差が含まれている。上記再構成処理の際には,この視
差により,これら低解像度の上記個眼像Yの画像情報に
基づいて再構成される再構成像Zを高解像度なものとす
ることができる。このように,上記複眼画像入力装置A
は,単一の光学系を用いた画像入力装置に較べて極めて
小型,薄型の構成であるにも拘わらず,明るい光学系を
実現すると共に,高解像度の被写体画像情報を取得し得
るものである。
2. Description of the Related Art With the advent of the advanced information society accompanying the recent development of information processing technology, the ratio of image information among information used in various fields has remarkably increased. Therefore, conventionally, as an image input device for efficiently acquiring various image information with high quality, an image having a configuration in which an object image is acquired by a single optical system facing an object as a subject such as a digital camera or a video camera Input devices were widely used. However, in these image input devices, there is a limit to the size and weight reduction of the device due to its configuration. Therefore, in order to meet the demand for further size and weight reduction of the image input device, the compound eye structure seen in insects is imitated. A compound eye image input device has been developed. An example of such a compound-eye image input device is the compound-eye image input device A shown in FIG. 10, which is a technique disclosed in Japanese Patent Laid-Open No. 2001-61109. The compound eye image input device A is shown in FIG.
As shown in (a), a microlens array 1 having a plurality of microlenses 1a arranged in a lattice, a light receiving element 3 having a plurality of light receiving cells 3a formed in a plane, the microlens array 1 and the light receiving element. 3 and a lattice-shaped partition wall 2 arranged between the partition wall 3 and the grid-shaped partition wall 3. Here, a grid portion of the partition wall 2 corresponds to the microlens 1a, and further, a light receiving cell array 3b composed of a plurality of the light receiving cells 3a is configured correspondingly, as shown by a rectangular column by a broken line. In addition, a signal processing unit (unit) is formed. The compound-eye image input device A obtains a single high-resolution image based on a reduced image of a low-resolution subject image formed for each unit (hereinafter, abbreviated as a single-eye image Y). . Here, the flow of processing for acquiring image information using the compound-eye image input device A is shown in FIG.
Will be explained. When the image information of the subject X is obtained by using the compound eye image input apparatus A, first, the individual eye image Y of the subject is formed on the light receiving cell array 3b for each unit. As a result, a plurality of low-resolution unit images Y are formed on the light-receiving element 3 according to the number of units. Then, a high-resolution reconstructed image Z is reconstructed by performing a predetermined signal processing (reconstruction processing) on the basis of the formed plurality of unit images Y. Here, the individual-eye image Y is an image of the subject X taken from different viewpoints by a plurality of units, and parallax is included between the individual-eye images Y. At the time of the reconstructing process, the reconstructed image Z reconstructed based on the image information of the low-resolution single-eye image Y can be made high in resolution by the parallax. In this way, the compound eye image input device A
Despite being a very small and thin structure compared to an image input device using a single optical system, it is possible to realize a bright optical system and obtain high-resolution subject image information. .

【0003】[0003]

【発明が解決しようとする課題】しかしながら,上記複
眼画像入力装置Aでは,上記マイクロレンズアレイ1及
び上記受光素子3が平面状に形成されたものであるた
め,該複眼画像入力装置Aによって取得可能な画角は,
上記マイクロレンズアレイ1によって定まる所定の画角
とならざるを得ない。そこで,本発明は上記課題に鑑み
てなされたものであり,その目的とするところは,その
画角を適切に定めることが可能であって,それにより解
像度をより向上させることが可能な複眼画像入力装置を
提供することにある。
However, in the compound eye image input apparatus A, since the microlens array 1 and the light receiving element 3 are formed in a flat shape, the compound eye image input apparatus A can be obtained by the compound eye image input apparatus A. The angle of view is
There is no choice but to have a predetermined angle of view determined by the microlens array 1. Therefore, the present invention has been made in view of the above problems, and an object of the present invention is to provide a compound-eye image capable of appropriately determining the angle of view and thereby further improving the resolution. It is to provide an input device.

【0004】[0004]

【課題を解決するための手段】上記目的を達成するため
に本発明は,複数のマイクロレンズが配列されたマイク
ロレンズアレイにより,受光素子上に複数の物体縮小像
を結像する複眼画像入力部が,湾曲面上に複数配置され
てなることを特徴とする複眼画像入力装置として構成さ
れる。このように構成することによって,湾曲面上に複
数配置された上記複眼画像入力部により得られる個眼像
に基づいて再構成される再構成像は,上記湾曲面の湾曲
度に応じた広い画角で取得された画像となる。ここで,
上記湾曲面の湾曲度が可変である形態も考えられ,その
一例が,上記湾曲面を可撓性のフレキシブル基板により
構成したものである。これにより,使用者は,希望に応
じて湾曲面の湾曲度を変化させることが可能となり,そ
の湾曲度に応じた任意の画角で画像情報を取得すること
が可能となり,複眼画像入力装置としての使用性が著し
く向上する。例えば凸形に湾曲すれば,それぞれの複眼
画像入力部の視野方向が外向きに広がるので,より広い
画角で画像情報を取得することができる。一方,凹形に
湾曲させ,それぞれの複眼画像入力部の視野方向が内向
きに集中するようにすれば,複数の複眼画像入力部によ
り同一の被写体を撮像することとなり,再構成画像の高
解像度化を図ることができる。更には,凹型に湾曲させ
て被写体を取り囲むように配置すれば,同時に被写体の
全方位形状を撮像することも可能となる。また,本構成
は,例えば画像センサチップとして構成される上記複眼
画像入力部を湾曲面上にマルチチップ化して配置したも
のと考えることができる。そのため,上記湾曲面上に配
置される画像センサチップのチップ数に応じて,当該複
眼画像入力装置としての画素数を任意に増加させること
が可能となり,再構成処理後に得られる再構成画像を高
精彩化することができる。
In order to achieve the above object, the present invention provides a compound eye image input section for forming a plurality of reduced images of an object on a light receiving element by a microlens array in which a plurality of microlenses are arranged. However, it is configured as a compound-eye image input device characterized in that a plurality of them are arranged on a curved surface. With such a configuration, the reconstructed image reconstructed based on the monocular image obtained by the compound-eye image input unit arranged on the curved surface is a wide image corresponding to the degree of curvature of the curved surface. The image will be taken at the corner. here,
A mode in which the degree of curvature of the curved surface is variable is also conceivable, and one example thereof is one in which the curved surface is formed of a flexible substrate. As a result, the user can change the degree of curvature of the curved surface as desired, and can acquire image information at an arbitrary angle of view according to the degree of curvature, and as a compound-eye image input device. The usability of is significantly improved. For example, if it is curved in a convex shape, the visual field direction of each compound-eye image input unit expands outward, so that image information can be acquired at a wider angle of view. On the other hand, if it is curved in a concave shape so that the visual field directions of the respective compound-eye image input units are concentrated inward, the same subject will be imaged by a plurality of compound-eye image input units, and the high resolution of the reconstructed image will be obtained. Can be realized. Furthermore, by arranging so as to surround the subject by curving it in a concave shape, it is possible to simultaneously image the omnidirectional shape of the subject. In addition, this configuration can be considered as a configuration in which the compound eye image input unit configured as an image sensor chip, for example, is arranged on the curved surface in a multi-chip form. Therefore, it is possible to arbitrarily increase the number of pixels as the compound-eye image input device according to the number of image sensor chips arranged on the curved surface, and the reconstructed image obtained after the reconstruction process can be enhanced. Can be refined.

【0005】また,上記受光素子としては,上記マイク
ロレンズにより物体縮小像が結像される所定の領域毎に
独立して設けられた複数の受光セルアレイを格子状に配
置したものも考えうる。これにより,上記受光素子のう
ち,隔壁に隠れてしまう領域,或いは上記マイクロレン
ズの収差によって歪みの大きい画像が結像されるため,
利用価値の低い画像情報しか得られない領域に受光セル
が形成される不都合を回避し,無駄な受光セルを無くす
ことができる。更には,受光セルの形成されない領域
を,配線や処理回路のために利用することが可能とな
り,装置設計上の自由度が向上するという副次的な効果
も奏する。
Further, as the light receiving element, a plurality of light receiving cell arrays, which are independently provided for each predetermined area in which a reduced image of an object is formed by the microlens, are arranged in a grid pattern. As a result, a region of the light receiving element that is hidden by the partition wall or an image with large distortion due to the aberration of the microlens is formed,
It is possible to avoid the inconvenience of forming a light receiving cell in an area where only image information of low utility value is obtained, and to eliminate useless light receiving cells. Further, it becomes possible to utilize the region where the light receiving cell is not formed for wiring or processing circuit, and there is a secondary effect that the degree of freedom in device design is improved.

【0006】また,上記マイクロレンズ毎に独立して設
けられる上記受光セルアレイの上記マイクロレンズに対
する偏心量が,該受光セルアレイの上記複眼画像入力部
に対する位置に応じて設定されても良い。このような構
成では,その偏心量に応じて,各ユニット毎の視野方向
を任意に設定することが可能となり,当該画像入力部で
撮像可能な画角を必要に応じて調整することができる。
例えば,上記受光セルアレイの上記マイクロレンズに対
する偏心量は,上記画像入力部の周辺部にある受光セル
アレイ程大きく設定されることが望ましく,更には,そ
の上記受光セルアレイが,上記マイクロレンズに対して
上記画像入力部の中心方向に偏心しているものが望まし
い。これにより,各ユニットの視野方向は周辺部に近付
くほど外向きになるため,当該複眼画像入力部としての
画角を広くすることができる。一方,上記セル素子アレ
イが,上記マイクロレンズに対して上記画像入力部の中
心方向と反対の方向に偏心しているものも考えられよ
う。その場合には,各ユニットの視野方向は周辺部に近
付くほど内向きになるため,当該複眼画像入力装置とし
ての視野方向を集中させることが可能となり,被写体の
画像情報をより詳細に取得できる。
Further, the eccentricity of the light receiving cell array independently provided for each microlens with respect to the microlens may be set according to the position of the light receiving cell array with respect to the compound eye image input section. With such a configuration, it is possible to arbitrarily set the visual field direction for each unit according to the amount of eccentricity, and it is possible to adjust the angle of view that can be captured by the image input unit as necessary.
For example, it is desirable that the eccentricity of the light receiving cell array with respect to the microlens is set to be larger as the light receiving cell array in the peripheral portion of the image input section is set. It is desirable that the image input portion is eccentric toward the center. As a result, the visual field direction of each unit becomes outward as it approaches the peripheral portion, so that the angle of view as the compound-eye image input unit can be widened. On the other hand, it is conceivable that the cell element array is eccentric with respect to the microlenses in a direction opposite to the central direction of the image input section. In that case, since the visual field direction of each unit becomes inward as it approaches the peripheral portion, the visual field direction of the compound eye image input device can be concentrated, and the image information of the subject can be acquired in more detail.

【0007】[0007]

【発明の実施の形態】以下添付図面を参照しながら,本
発明の実施の形態及び実施例について説明し,本発明の
理解に供する。尚,以下の実施の形態及び実施例は,本
発明を具体化した一例であって,本発明の技術的範囲を
限定する性格のものではない。ここに,図1は本実施の
形態に係る複眼画像入力装置の概略構成図,図2は複眼
画像センサチップとフレキシブル基板との接続の詳細を
示す図,図3はフレキシブル基板の湾曲と画角との関係
を示す図,図4は受光素子の構造を示す図,図5は受光
セルアレイの偏心と視野との関係を示す図,図6は画像
情報の取得に係る処理の流れを模式的に示す図,図7は
受光セルと被写体の画素との幾何光学的な関係を示す
図,図8は本実施の形態に係る複眼画像入力装置により
取得された画像の一例を示す図,図9は補間処理を施さ
れた画像の一例を示す図,図10は従来公知の複眼画像
入力装置の概略構成図である。
BEST MODE FOR CARRYING OUT THE INVENTION Embodiments and examples of the present invention will be described below with reference to the accompanying drawings to provide an understanding of the present invention. It should be noted that the following embodiments and examples are merely examples embodying the present invention and are not of the nature to limit the technical scope of the present invention. Here, FIG. 1 is a schematic configuration diagram of a compound eye image input device according to the present embodiment, FIG. 2 is a diagram showing details of connection between a compound eye image sensor chip and a flexible substrate, and FIG. 3 is a curve and angle of view of the flexible substrate. FIG. 4 is a diagram showing the structure of the light receiving element, FIG. 5 is a diagram showing the relationship between the eccentricity of the light receiving cell array and the field of view, and FIG. 6 is a flow chart of the processing relating to the acquisition of image information. FIG. 7, FIG. 7 is a view showing a geometrical optical relationship between a light receiving cell and a pixel of a subject, FIG. 8 is a view showing an example of an image acquired by the compound eye image input device according to the present embodiment, and FIG. FIG. 10 is a diagram showing an example of an image subjected to interpolation processing, and FIG. 10 is a schematic configuration diagram of a conventionally known compound eye image input device.

【0008】本発明の実施の形態に係る複眼画像入力装
置Bは,図1に示す如く,複眼画像センサチップC(複
眼画像入力部の一例に該当)をフレキシブル基板4上に
複数配置して概略構成される。上記フレキシブル基板4
は,膜厚が約40μmのポリイミドフィルムと銅薄膜に
より構成されたものであり,任意に湾曲度が変更可能な
ものである。また,上記複眼画像センサチップCは,上
記特許公報(特開2001−61109号公報)により
開示された複眼画像入力装置Aに基づくものであり,そ
の構成は図2のようなものである。ここで,図2は,一
つの上記複眼画像センサチップCについて,その構造を
模式的に示した縦断面図である。該複眼画像センサチッ
プCは,複数のマイクロレンズ1aを格子状に配列した
マイクロレンズアレイ1と,複数の受光セル3aを平面
状に形成した受光素子3と,上記マイクロレンズアレイ
1と上記受光素子3との間に配置された格子状の隔壁2
とを具備して概略構成される。即ち,該複眼画像センサ
チップCでは,上述説明した従来公知の複眼画像入力装
置Aと同様,上記マイクロレンズ1aと,それに対応す
る上記隔壁2の一格子部分と,複数の上記受光セル3a
によって構成される受光セルアレイ3bとによって形成
されるユニット毎に個眼像が結像される。その結果,上
記複眼画像センサチップCは,ユニット数に応じて結像
された複数の個眼像を取得することができる。ここで,
上記マイクロレンズアレイ1としては,例えばサーマル
リフロー法を利用して形成された屈折型マイクロレンズ
や,電子ビーム描画法を用いて形成された回折型マイク
ロレンズを用いることができる。また,上記隔壁2とし
ては,例えば板厚200μmのステンレス板をレーザ加
工したもの,或いはペンタエリスリトールトリアクリレ
ート(PETA)に光重合開始剤としてベンジル3%を
添加した光硬化性樹脂を用い,レーザを走査することに
より立体成形したものを用いることができる。また,上
記受光素子3としては,CCD素子や,CMOS型画像
センサその他の固体撮像素子を用いることができる。次
に,上記複眼画像センサチップCを上記フレキシブル基
板4に接続するための構造について説明する。上記複眼
画像センサチップCは,図2に示すように,接続ピン9
により上記フレキシブル基板4上に固定されるプリント
基板8を介して接続される。詳しくは,上記受光素子3
は上記プリント基板8に対してワイヤーボンディング法
を用いて固定され,上記マイクロレンズアレイ1は焦点
距離に応じて形成されるレンズ固定用部材7により固定
され,上記隔壁2は上記受光素子3の所定の位置に固着
されている。このような構成とすることにより,上記フ
レキシブル基板4を変形させた場合にも,上記複眼画像
センサチップCに対して過大な応力が作用することを防
止することが可能となり,特に接合力が脆弱であるボン
ディングワイヤー6の外れ,上記受光素子3の変形,或
いは焦点距離その他の光学特性が変わることを防止する
ことができる。
As shown in FIG. 1, a compound eye image input device B according to an embodiment of the present invention is configured by arranging a plurality of compound eye image sensor chips C (corresponding to an example of a compound eye image input section) on a flexible substrate 4. Composed. The flexible substrate 4
Is composed of a polyimide film having a film thickness of about 40 μm and a copper thin film, and its curvature can be arbitrarily changed. Further, the compound eye image sensor chip C is based on the compound eye image input device A disclosed in the above patent publication (Japanese Patent Laid-Open No. 2001-61109), and its configuration is as shown in FIG. Here, FIG. 2 is a vertical cross-sectional view schematically showing the structure of one compound eye image sensor chip C. The compound-eye image sensor chip C includes a microlens array 1 having a plurality of microlenses 1a arranged in a lattice, a light receiving element 3 having a plurality of light receiving cells 3a formed in a plane, the microlens array 1 and the light receiving element. Grid-shaped partition wall 2 arranged between
And is roughly configured. That is, in the compound-eye image sensor chip C, similar to the above-described conventionally known compound-eye image input device A, the microlens 1a, one grid portion of the partition wall 2 corresponding thereto, and the plurality of light receiving cells 3a.
An individual image is formed for each unit formed by the light receiving cell array 3b configured by. As a result, the compound-eye image sensor chip C can obtain a plurality of individual-eye images formed according to the number of units. here,
As the microlens array 1, for example, a refraction type microlens formed by using a thermal reflow method or a diffraction type microlens formed by using an electron beam drawing method can be used. As the partition wall 2, for example, a stainless steel plate having a plate thickness of 200 μm is laser-processed, or a photo-curable resin obtained by adding benzyl 3% as a photopolymerization initiator to pentaerythritol triacrylate (PETA) is used, and a laser is used. A three-dimensional molded product can be used by scanning. Further, as the light receiving element 3, a CCD element, a CMOS type image sensor or other solid-state image pickup element can be used. Next, a structure for connecting the compound eye image sensor chip C to the flexible substrate 4 will be described. As shown in FIG. 2, the compound eye image sensor chip C has a connection pin 9
Are connected via the printed circuit board 8 fixed on the flexible circuit board 4. Specifically, the light receiving element 3
Is fixed to the printed circuit board 8 by a wire bonding method, the microlens array 1 is fixed by a lens fixing member 7 formed according to the focal length, and the partition wall 2 is a predetermined part of the light receiving element 3. Is stuck in the position. With such a configuration, even when the flexible substrate 4 is deformed, it is possible to prevent excessive stress from acting on the compound-eye image sensor chip C, and particularly the bonding force is weak. It is possible to prevent the detachment of the bonding wire 6, the deformation of the light receiving element 3, and the change of the focal length and other optical characteristics.

【0009】次に,図3を用いて,上記フレキシブル基
板4の湾曲による画角の変化について説明する。ここ
で,図3は,上記フレキシブル基板4の凸型に湾曲させ
た上記複眼画像装置Bの上方向からの平面図を示す。上
記複眼画像センサチップCにおける各ユニットの画角を
θとし,隣接する上記複眼画像センサチップC間の湾曲
角をαとし,上記複眼画像センサチップCの個数をNと
すると,当該複眼画像入力装置Bの画角Θは下式1のよ
うになる。
Next, the change in the angle of view due to the bending of the flexible substrate 4 will be described with reference to FIG. Here, FIG. 3 shows a plan view from above of the compound-eye image device B in which the flexible substrate 4 is curved in a convex shape. When the angle of view of each unit in the compound eye image sensor chip C is θ, the bending angle between the adjacent compound eye image sensor chips C is α, and the number of the compound eye image sensor chips C is N, the compound eye image input device The angle of view Θ of B is expressed by the following expression 1.

【数1】 このように,湾曲角α(湾曲度)に応じて,当該複眼画
像入力装置Bの画角Θを任意に拡大することができる。
[Equation 1] In this way, the angle of view Θ of the compound-eye image input device B can be arbitrarily expanded according to the bending angle α (degree of curvature).

【0010】次に,図4を用いて,上記複眼画像センサ
チップCに設けられる上記受光素子3の構造について説
明する。ここで,図4は,上記受光素子3を上方向から
見た平面図を表している。本実施形態における上記受光
素子3は,上記ユニット毎に形成される上記受光素子ア
レイ3bを分離して配置することにより,該受光セルア
レイ3bを格子状に配置(以下ではクラスタ化と称す
る)したものである。これにより,上記受光セル3a
(図10(a))のうち,上記隔壁2に隠れてしまう領
域,或いは上記マイクロレンズ1aの収差によって歪み
の大きい画像が結像されるため利用価値の低い画像情報
しか得られない領域に上記受光セル3aが形成される不
都合を回避できる。その結果として,上記受光セル3a
の無い部分3cを,配線や処理回路を配置する領域とし
て利用することが可能となり,装置設計上の自由度が向
上する。更には,クラスタ化された各受光セルアレイ3
bの上記マイクロレンズ1aに対する偏心量を,該受光
セルアレイ3bの位置に応じて設定することも可能であ
る。図4に示す本実施形態では,上記受光セルアレイ3
bが,「+」で示す上記マイクロレンズ1aの光軸に対
して,上記受光素子3の周辺部にあるもの程,上記受光
素子3の中心方向に大きく偏心するように設定した場合
を表している。このように,受光セルアレイ3bを上記
マイクロレンズ1aに対して偏心させた場合の視野に対
する影響を図5に示す。本実施形態のように,上記受光
セルアレイ3bが,上記マイクロレンズ1aに対して上
記画像入力部3の中心部Dの方向に偏心するようにクラ
スタ化すれば,図5(b)に示すように,各ユニットの
視野方向は周辺部に近付くほど外向きになるため,上記
受光セルアレイ3bと上記マイクロレンズ1aとが偏心
していない図5(a)の場合と較べて,当該複眼画像セ
ンサチップC全体としての視野(画角)を広くすること
が可能となる。また,上述とは逆に,上記セル素子アレ
イ3bが,上記マイクロレンズ1aに対して上記受光素
子3の中心方向と反対の方向に偏心する構成も考えられ
よう。この場合には,各ユニットの視野方向は周辺部に
近付くほど内向きになるため,当該複眼画像センサチッ
プCとしての視野方向を集中させることが可能となるこ
とは理解に易しい。
Next, the structure of the light receiving element 3 provided in the compound eye image sensor chip C will be described with reference to FIG. Here, FIG. 4 shows a plan view of the light receiving element 3 viewed from above. The light receiving element 3 in the present embodiment has the light receiving cell array 3b arranged in a grid (hereinafter referred to as clustering) by disposing the light receiving element array 3b formed for each unit separately. Is. As a result, the light receiving cell 3a
In the area (FIG. 10A) hidden by the partition wall 2, or in the area where only the image information of low utility value can be obtained because an image having a large distortion is formed by the aberration of the microlens 1a. The disadvantage that the light receiving cells 3a are formed can be avoided. As a result, the light receiving cell 3a
It is possible to use the non-existing portion 3c as a region for arranging the wiring and the processing circuit, and the degree of freedom in device design is improved. Furthermore, each light receiving cell array 3 that is clustered
It is also possible to set the eccentric amount of b with respect to the microlens 1a according to the position of the light receiving cell array 3b. In the present embodiment shown in FIG. 4, the light receiving cell array 3 is
The case where b is set so that the closer to the optical axis of the microlens 1a indicated by “+”, the closer to the periphery of the light receiving element 3, the greater the eccentricity toward the center of the light receiving element 3 is shown. There is. FIG. 5 shows the influence on the visual field when the light receiving cell array 3b is decentered with respect to the microlens 1a. If the light receiving cell array 3b is clustered so as to be decentered with respect to the microlens 1a in the direction of the center D of the image input unit 3 as in the present embodiment, as shown in FIG. Since the visual field direction of each unit becomes outward as it approaches the peripheral portion, the entire compound eye image sensor chip C is compared with the case of FIG. 5A in which the light receiving cell array 3b and the microlens 1a are not eccentric. It is possible to widen the field of view (angle of view). Further, conversely to the above, a configuration in which the cell element array 3b is eccentric with respect to the microlens 1a in a direction opposite to the center direction of the light receiving element 3 may be considered. In this case, since the visual field direction of each unit becomes inward as it approaches the peripheral portion, it is easy to understand that the visual field direction of the compound eye image sensor chip C can be concentrated.

【0011】次に,本実施の形態に係る複眼画像入力装
置Bを用いて画像情報を取得するための処理の流れを,
図6を用いて説明する。上記複眼画像入力装置Bに用い
て被写体Yの画像情報を取得する場合には,上述説明し
た従来公知の上記複眼画像入力装置Aの場合と同様に,
先ず,上記複眼画像センサチップC毎に,被写体Xの個
眼像Yが複数結像される。ここで,本実施の形態に係る
複眼画像入力装置Bでは,上記各複眼画像センサチップ
Cが,上記フレキシブル基板4上に複数配置されたもの
であるため,それぞれの複眼画像センサチップCについ
て上記個眼像Yが取得される。そして,全ての複眼画像
センサチップCで所得された上記個眼像Yに基づいて,
所定の信号処理(再構成処理)を行うことにより,高解
像度の再構成像Zが再構成される。ここで,上記個眼像
Yは,上記フレキシブル基板4の湾曲度に応じた異なる
視野方向により被写体Xを撮像したものであるため,そ
の個眼像Y間には視差が含まれている。そのため,従来
の手法と同様に,上記再構成処理の際には,この視差に
より,これら低解像度の個眼像Yの画像情報に基づいて
高解像度な再構成像Zを再構成することができる。結果
として,当該複眼画像入力装置Bにおいては,従来の構
成の複眼画像入力装置Aに較べて,複数配置(マルチチ
ップ化)した分だけ取得し得る被写体Xの画像情報(個
眼像Y)が増加するため,その画像情報に基づいて再構
成することにより得られる再構成像Zは,より高解像度
なものとすることができる。
Next, the flow of processing for acquiring image information using the compound-eye image input device B according to this embodiment will be described.
This will be described with reference to FIG. When the image information of the subject Y is obtained by using the compound eye image input device B, as in the case of the conventionally known compound eye image input device A described above,
First, a plurality of individual images Y of the subject X are formed for each compound eye image sensor chip C. Here, in the compound-eye image input device B according to the present embodiment, since each of the compound-eye image sensor chips C is arranged in plural on the flexible substrate 4, each of the compound-eye image sensor chips C has the above-mentioned individual number. The eye image Y is acquired. Then, based on the individual eye image Y obtained by all the compound eye image sensor chips C,
The high-resolution reconstructed image Z is reconstructed by performing predetermined signal processing (reconstruction processing). Here, since the individual image Y is an image of the subject X taken in different visual field directions according to the degree of bending of the flexible substrate 4, the individual image Y includes parallax. Therefore, similar to the conventional method, at the time of the reconstruction processing, the high-resolution reconstructed image Z can be reconstructed based on the image information of the low-resolution monocular image Y due to this parallax. . As a result, in the compound-eye image input device B, as compared with the compound-eye image input device A having the conventional configuration, the image information (single-eye image Y) of the subject X that can be acquired by a plurality of arrangements (multi-chip) is obtained. Since the number is increased, the reconstructed image Z obtained by reconstructing based on the image information can have higher resolution.

【0012】更に,図7を用いて,上記複眼画像センサ
チップCにより取得された上記個眼像Yより,再構成像
Zを再構成する処理の概要を説明する。ここで,上記フ
レキシブル基板4の湾曲角α,被写体Xと当該複眼画像
入力装置Bとの物体距離が分かれば,図7に示すよう
に,光学系を幾何光学的に記述することが可能となり,
ある受光セル3aが画像情報を取得している被写体Xの
領域(図中には薄い網掛けで示す),及びその領域にお
ける中心点(画素)x1(図中には図中では濃い網掛け
で示す)を特定することができる。ここでは,このよう
にして特定された被写体Xにおけるx1の画素情報が,
当該受光セル3aによって取得されたとみなす。即ち,
再構成処理の際には,被写体Xにおけるx1に対応する
再構成像Z上の位置の画素情報として,当該受光セル3
aの画素値を代入(再配置)する処理を行う。このよう
な処理を全ての上記複眼画像センサチップCにおける全
ての上記受光セル3aに対して順次実施すれば,マルチ
チップ化された上記複眼画像センサチップCにより得ら
れる複数の個眼像Yが有する画像情報を利用して,単一
の再構成画像Zを再構成できる。ここで,上記手法によ
って再構成画像を取得するためには,上記フレキシブル
基板4の湾曲角αを計測する必要がある。その計測手法
のうち,付加的な検出装置を付加するものとしては,圧
電素子を該フレキシブル基板4に取り付け,その変位量
に応じて発生する電気信号に応じて湾曲角度を算出する
手法,光ファイバを該フレキシブル基板4に沿って取り
付け,その光ファイバにおける光の損失量に応じて湾曲
角度を算出する手法,或いは該フレキシブル基板4の所
定の位置にLED,レーザその他の発光素子を取り付
け,その発光素子から照射される光のズレ量に応じて湾
曲角度を算出する手法が考え得る。一方,付加的な検出
装置を付加しないものとしては,取得された各個眼像間
の相関演算を行い,その相関係数が極大となるシフト量
に基づいて湾曲角度を算出することもできる。
Further, the outline of the process for reconstructing the reconstructed image Z from the single-eye image Y acquired by the compound-eye image sensor chip C will be described with reference to FIG. Here, if the bending angle α of the flexible substrate 4 and the object distance between the subject X and the compound-eye image input device B are known, it becomes possible to describe the optical system geometrically as shown in FIG.
An area (subject to light shading in the figure) of the subject X for which a certain light receiving cell 3a is acquiring image information, and a center point (pixel) x1 in that area (indicated by dark shading in the figure). Shown) can be specified. Here, the pixel information of x1 in the subject X thus identified is
The light-receiving cell 3a is considered to have been acquired. That is,
At the time of the reconstruction processing, as the pixel information of the position on the reconstructed image Z corresponding to x1 of the subject X, the light receiving cell 3
The pixel value of a is substituted (rearranged). If such processing is sequentially performed on all the light receiving cells 3a in all the compound eye image sensor chips C, a plurality of individual eye images Y obtained by the compound eye image sensor chips C in the multi-chip form are obtained. A single reconstructed image Z can be reconstructed using the image information. Here, in order to acquire a reconstructed image by the above method, it is necessary to measure the bending angle α of the flexible substrate 4. Among the measuring methods, an additional detecting device is added, in which a piezoelectric element is attached to the flexible substrate 4 and a bending angle is calculated according to an electric signal generated according to the displacement amount thereof, an optical fiber. Is attached along the flexible substrate 4 and a bending angle is calculated according to the amount of light loss in the optical fiber, or an LED, a laser or other light emitting element is attached at a predetermined position of the flexible substrate 4 to emit light. A method of calculating the bending angle according to the amount of deviation of the light emitted from the element can be considered. On the other hand, if the additional detection device is not added, the correlation calculation between the acquired individual eye images may be performed, and the bending angle may be calculated based on the shift amount at which the correlation coefficient becomes maximum.

【0013】ここで,上記処理を行うことにより得られ
る単一の再構成画像Zは,上記受光セル3aの画像情報
(画素値)を,その受光セル3aが対応する被写体Xの
位置に応じて再配置しただけの画像であるため,どの上
記受光セル3aにも対応していない位置にある被写体X
の画像情報は,再構成画像Z上においては画像情報(画
素)の欠落した欠失画素となる。そのため,上記のよう
に欠失画素がある場合,その周辺の画素値を用いて補間
する必要がある。このような場合,欠失画素の周辺では
水平,或いは垂直方向に対して線形的に画素値が変化す
るものと仮定すれば,欠失画素がNdel個連続している
場合,そのi番目の欠失画素に対して補間する画素値P
del(i)は下式2を適用して算出可能である。但し,
P1,P2は欠失画素に隣接する画素の画素値である。
Here, the single reconstructed image Z obtained by performing the above-mentioned processing is the image information (pixel value) of the light receiving cell 3a according to the position of the object X to which the light receiving cell 3a corresponds. Since the image is just rearranged, the subject X at a position that does not correspond to any of the light receiving cells 3a.
In the reconstructed image Z, the image information of (1) becomes a missing pixel in which the image information (pixel) is missing. Therefore, when there is a missing pixel as described above, it is necessary to interpolate using the pixel values around it. In such a case, assuming that the pixel value changes linearly in the horizontal or vertical direction around the deleted pixel, if the deleted pixels are N del consecutive pixels, the i-th pixel is deleted. Pixel value P to be interpolated for the missing pixel
del (i) can be calculated by applying the following Expression 2. However,
P1 and P2 are pixel values of pixels adjacent to the deleted pixel.

【0014】[0014]

【数2】 [Equation 2]

【0015】ここでは,対象とする欠失画素に対して,
上式2を水平及び垂直方向に適用し,得られた値の平均
値を該欠失画素に対する画素値とする。これにより,再
構成画像Zに含まれる欠失画素に対して,上述した補間
処理を施すことによって得られる画像は,より被写体X
に近い再構成画像Zとすることが出来る。ここで,水平
方向或いは垂直方向のある線上に,画素情報が一つも存
在しない場合には,その線上では補間処理が行えず,欠
失画素を補いきれないことになるが,同一の処理を再度
行うことにより,それらの欠失画素も補間することが可
能である。
Here, for the target deleted pixel,
The above equation 2 is applied in the horizontal and vertical directions, and the average value of the obtained values is set as the pixel value for the deleted pixel. As a result, the image obtained by performing the above-described interpolation processing on the missing pixels included in the reconstructed image Z is more subject X.
Can be a reconstructed image Z close to. Here, if there is no pixel information on a line in the horizontal direction or the vertical direction, interpolation processing cannot be performed on that line and the missing pixel cannot be compensated, but the same processing is performed again. By doing so, those missing pixels can also be interpolated.

【0016】最後に,本実施形態に係る上記複眼画像入
力装置Bを用いて取得された画像について以下に説明す
る。図8は,上記複眼画像入力装置Bの湾曲角度αを変
化させた場合の個眼像Yと,それら個眼像Yに基づいて
再構成された再構成像Zを示す計算機シミュレーション
結果である。ここで,計算機シミュレーション条件とし
ては,上記複眼画像入力装置Bを5×5のチップ構成と
し,各複眼画像センサチップCは,2×2のユニットで
構成され,各ユニットが32×32の受光セルを有する
ものとした。また,各ユニットの幅は2.40mm,各
セルアレイの幅は1.92mm,更には,各セルの開口
はセルの中心に位置するものであって,一辺が60μm
の正方形であると仮定した。一方,被写体Xとしては,
凹凸の無い平面であって,画素数が512×512画素
であり,グレースケール256階調の画像とした。ま
た,上記複眼画像入力装置Bは該複眼画像入力装置Bの
中心線を軸として,横方向にだけ湾曲するものとし,被
写体と最も近くに位置するのは中央に配置された上記各
複眼画像センサチップCの物体距離は1mとした。図8
(a)は,上記複眼画像入力装置Bの湾曲角度αが0.
0度のとき,即ち平面状の構成された複眼画像入力装置
Bにより取得された個眼像Y,並びにそれに基づく再構
成画像Zである。図8(b)は,上記複眼画像入力装置
Bの湾曲角度αを1.0度とした場合に取得された個眼
像Y,並びにそれに基づく再構成画像Zである。図8
(c)は,上記複眼画像入力装置Bの湾曲角度αを2.
0度とした場合に取得された個眼像Y,並びにそれに基
づく再構成画像Zである。このように,湾曲度αを大き
くするに従って,取得され得る再構成画像Zの画角が大
きくなっていることが読み取れる。しかしながら,画角
の広がりに伴って,欠失画素により構成される領域(図
中では格子状の黒い部分)が増加し,画像品質の低下を
招いている。これに対しては,上述説明した補間処理を
施すことにより,容易に画素を補間することができる。
例えば,図8(a)に示す再構成画像Zに対して補間処
理による画像の変化を図9に示す。ここで,図9は,
(a)は元の再構成画像Z,(b)は(a)の画像に対
して上式2に基づく補間処理を実施した後の画像,
(c)は(b)の画像に対して更に上式2に基づく補間
処理を実施した後の画像を示している。このように,従
来公知である簡略な補間処理を行うことにより,欠失画
像を補い,高解像度な再構成画像とすることが可能であ
る。従って,本実施の形態に係る上記複眼画像入力装置
Bを用いることにより,使用者の希望する画角に応じて
湾曲面の湾曲度を変化させることにより,その希望する
画角で画像情報を取得することが可能となり,複眼画像
入力装置としての使用性を著しく向上させることができ
る。
Finally, an image acquired by using the compound-eye image input device B according to this embodiment will be described below. FIG. 8 is a computer simulation result showing the individual-eye images Y when the bending angle α of the compound-eye image input device B is changed, and the reconstructed image Z reconstructed based on the individual-eye images Y. Here, as a computer simulation condition, the compound eye image input device B has a 5 × 5 chip configuration, each compound eye image sensor chip C is composed of 2 × 2 units, and each unit is a 32 × 32 light receiving cell. To have. The width of each unit is 2.40 mm, the width of each cell array is 1.92 mm, and the opening of each cell is located at the center of the cell, and one side is 60 μm.
Assumed to be a square. On the other hand, as the subject X,
It was a flat surface with no unevenness, the number of pixels was 512 × 512 pixels, and the image was a gray scale 256 gradation. The compound-eye image input device B is assumed to be curved only in the lateral direction with the center line of the compound-eye image input device B as an axis, and the compound eye image sensor closest to the subject is the compound-eye image sensor arranged in the center. The object distance of the chip C was 1 m. Figure 8
(A) shows that the bending angle α of the compound-eye image input device B is 0.
At 0 degree, that is, a monocular image Y acquired by the planar-structured compound-eye image input device B, and a reconstructed image Z based on it. FIG. 8B shows a monocular image Y acquired when the bending angle α of the compound-eye image input device B is set to 1.0 degree, and a reconstructed image Z based on it. Figure 8
(C) shows the bending angle α of the compound-eye image input device B as 2.
It is a single-eye image Y acquired when it is set to 0 degrees, and a reconstructed image Z based on it. Thus, it can be read that the angle of view of the reconstructed image Z that can be acquired increases as the degree of curvature α increases. However, as the angle of view spreads, the area formed by the deleted pixels (black portion in a grid pattern in the figure) increases, resulting in deterioration of image quality. For this, the pixel can be easily interpolated by performing the above-described interpolation processing.
For example, FIG. 9 shows changes in the image due to the interpolation processing for the reconstructed image Z shown in FIG. Here, in FIG.
(A) is an original reconstructed image Z, (b) is an image after performing interpolation processing based on the above equation 2 on the image of (a),
(C) shows an image after the interpolation process based on the above Expression 2 is further performed on the image of (b). In this way, it is possible to make up a high resolution reconstructed image by compensating for the deleted image by performing a conventionally known simple interpolation process. Therefore, by using the compound-eye image input device B according to the present embodiment, the degree of curvature of the curved surface is changed according to the angle of view desired by the user, and image information is acquired at that desired angle of view. This makes it possible to significantly improve the usability as a compound eye image input device.

【0017】[0017]

【実施例】上の実施形態では,上記フレキシブル基板4
として,ポリイミドフィルムと銅薄膜を用いることを考
えているが,伸縮性のあるゴム素材を用い,その基板上
に配置される複眼画像入力装置Aをケーブルで接続する
形態も考えうる。このような形態によれば,上記フレキ
シブル基板4の湾曲度に対する自由度が向上し,例え
ば,該フレキシブル基板4を球面上に湾曲させて,その
装置の周囲360度の画像情報を取得するような利用が
可能となる。更には,開口部の狭い容器状の被写体内部
の画像情報を撮像するような情況では,先ず,上記フレ
キシブル基板4を,その開口部を通過し得る形状に変形
して挿入し,挿入後に所定の形状に復元することによ
り,内部の画像情報を撮像するといった内視鏡としての
利用が可能となる。
EXAMPLE In the above embodiment, the flexible substrate 4
As an example, a polyimide film and a copper thin film are considered to be used, but a form in which a compound rubber image input device A arranged on the substrate is connected by a cable using an elastic rubber material can be considered. According to such a form, the degree of freedom with respect to the degree of curvature of the flexible substrate 4 is improved, and for example, the flexible substrate 4 is curved on a spherical surface to obtain image information of 360 degrees around the device. It becomes available. Furthermore, in a situation in which image information of the inside of a container-shaped subject having a narrow opening is imaged, first, the flexible substrate 4 is deformed and inserted into a shape that can pass through the opening, and a predetermined amount is inserted after the insertion. By restoring the shape, it becomes possible to use it as an endoscope, such as capturing internal image information.

【0018】[0018]

【発明の効果】以上説明したように,本発明は,複数の
マイクロレンズが配列されたマイクロレンズアレイによ
り,受光素子上に複数の物体縮小像を結像する複眼画像
入力部が,湾曲面上に複数配置されてなることを特徴と
する複眼画像入力装置として構成される。このように構
成することによって,湾曲面上に複数配置された上記複
眼画像入力部により得られる個眼像に基づいて再構成さ
れる再構成像は,上記湾曲面の湾曲度に応じた広い画角
で取得された画像となる。ここで,上記湾曲面の湾曲度
が可変である形態も考えられ,その一例が,上記湾曲面
を可撓性のフレキシブル基板により構成したものであ
る。これにより,使用者は,希望に応じて湾曲面の湾曲
度を変化させることが可能となり,その湾曲度に応じた
任意の画角で画像情報を取得することが可能となり,複
眼画像入力装置としての使用性が著しく向上する。例え
ば凸形に湾曲すれば,それぞれの複眼画像入力部の視野
方向が外向きに広がるので,より広い画角で画像情報を
取得することができる。一方,凹形に湾曲させ,それぞ
れの複眼画像入力部の視野方向が内向きに集中するよう
にすれば,複数の複眼画像入力部により同一の被写体を
撮像することとなり,再構成画像の高解像度化を図るこ
とができる。更には,凹型に湾曲させて被写体を取り囲
むように配置すれば,同時に被写体の全方位形状を撮像
することも可能となる。また,本構成は,例えば画像セ
ンサチップとして構成される上記複眼画像入力部を湾曲
面上にマルチチップ化して配置したものと考えることが
できる。そのため,上記湾曲面上に配置される画像セン
サチップのチップ数に応じて,当該複眼画像入力装置と
しての画素数を任意に増加させることが可能となり,再
構成処理後に得られる再構成画像を高精彩化することが
できる。
As described above, according to the present invention, the compound-eye image input unit for forming a plurality of object reduced images on the light receiving element is formed on the curved surface by the microlens array in which the plurality of microlenses are arranged. The multi-eye image input device is configured as a multi-eye image input device. With such a configuration, the reconstructed image reconstructed based on the monocular image obtained by the compound-eye image input unit arranged on the curved surface is a wide image corresponding to the degree of curvature of the curved surface. The image will be taken at the corner. Here, a form in which the degree of curvature of the curved surface is variable is also conceivable, and one example thereof is one in which the curved surface is formed of a flexible substrate. As a result, the user can change the degree of curvature of the curved surface as desired, and can acquire image information at an arbitrary angle of view according to the degree of curvature, and as a compound-eye image input device. The usability of is significantly improved. For example, if it is curved in a convex shape, the visual field direction of each compound-eye image input unit expands outward, so that image information can be acquired at a wider angle of view. On the other hand, if it is curved in a concave shape so that the visual field directions of the respective compound-eye image input units are concentrated inward, the same subject will be imaged by a plurality of compound-eye image input units, and the high resolution of the reconstructed image will be obtained. Can be realized. Furthermore, by arranging so as to surround the subject by curving it in a concave shape, it is possible to simultaneously image the omnidirectional shape of the subject. In addition, this configuration can be considered as a configuration in which the compound eye image input unit configured as an image sensor chip, for example, is arranged on the curved surface in a multi-chip form. Therefore, it is possible to arbitrarily increase the number of pixels as the compound-eye image input device according to the number of image sensor chips arranged on the curved surface, and the reconstructed image obtained after the reconstruction process can be enhanced. Can be refined.

【0019】また,上記受光素子としては,上記マイク
ロレンズにより物体縮小像が結像される所定の領域毎に
独立して設けられた複数の受光セルアレイを格子状に配
置したものも考えうる。これにより,上記受光素子のう
ち,隔壁に隠れてしまう領域,或いは上記マイクロレン
ズの収差によって歪みの大きい画像が結像されるため,
利用価値の低い画像情報しか得られない領域に受光セル
が形成される不都合を回避し,無駄な受光セルを無くす
ことができる。更には,受光セルの形成されない領域
を,配線や処理回路のために利用することが可能とな
り,装置設計上の自由度が向上するという副次的な効果
も奏する。
Further, as the light receiving element, a plurality of light receiving cell arrays, which are independently provided for each predetermined region in which a reduced image of an object is formed by the microlens, are arranged in a grid pattern. As a result, a region of the light receiving element that is hidden by the partition wall or an image with large distortion due to the aberration of the microlens is formed,
It is possible to avoid the inconvenience of forming a light receiving cell in an area where only image information of low utility value is obtained, and to eliminate useless light receiving cells. Further, it becomes possible to utilize the region where the light receiving cell is not formed for wiring or processing circuit, and there is a secondary effect that the degree of freedom in device design is improved.

【0020】また,上記マイクロレンズ毎に独立して設
けられる上記受光セルアレイの上記マイクロレンズに対
する偏心量が,該受光セルアレイの上記複眼画像入力部
に対する位置に応じて設定されても良い。このような構
成では,その偏心量に応じて,各ユニット毎の視野方向
を任意に設定することが可能となり,当該画像入力部で
撮像可能な画角を必要に応じて調整することができる。
例えば,上記受光セルアレイの上記マイクロレンズに対
する偏心量は,上記画像入力部の周辺部にある受光セル
アレイ程大きく設定されることが望ましく,更には,そ
の上記受光セルアレイが,上記マイクロレンズに対して
上記画像入力部の中心方向に偏心しているものが望まし
い。これにより,各ユニットの視野方向は周辺部に近付
くほど外向きになるため,当該複眼画像入力部としての
画角を広くすることができる。一方,上記セル素子アレ
イが,上記マイクロレンズに対して上記画像入力部の中
心方向と反対の方向に偏心しているものも考えられよ
う。その場合には,各ユニットの視野方向は周辺部に近
付くほど内向きになるため,当該複眼画像入力装置とし
ての視野方向を集中させることが可能となり,被写体の
画像情報をより詳細に取得できる。
The eccentricity of the light receiving cell array independently provided for each microlens with respect to the microlens may be set according to the position of the light receiving cell array with respect to the compound eye image input section. With such a configuration, it is possible to arbitrarily set the visual field direction for each unit according to the amount of eccentricity, and it is possible to adjust the angle of view that can be captured by the image input unit as necessary.
For example, it is desirable that the eccentricity of the light receiving cell array with respect to the microlens is set to be larger as the light receiving cell array in the peripheral portion of the image input section is set. It is desirable that the image input portion is eccentric toward the center. As a result, the visual field direction of each unit becomes outward as it approaches the peripheral portion, so that the angle of view as the compound-eye image input unit can be widened. On the other hand, it is conceivable that the cell element array is eccentric with respect to the microlenses in a direction opposite to the central direction of the image input section. In that case, since the visual field direction of each unit becomes inward as it approaches the peripheral portion, the visual field direction of the compound eye image input device can be concentrated, and the image information of the subject can be acquired in more detail.

【図面の簡単な説明】[Brief description of drawings]

【図1】 本実施の形態に係る複眼画像入力装置の概略
構成図。
FIG. 1 is a schematic configuration diagram of a compound eye image input device according to the present embodiment.

【図2】 複眼画像センサチップとフレキシブル基板と
の接続の詳細を示す図。
FIG. 2 is a diagram showing details of connection between a compound eye image sensor chip and a flexible substrate.

【図3】 フレキシブル基板の湾曲と画角との関係を示
す図。
FIG. 3 is a diagram showing the relationship between the curvature of a flexible substrate and the angle of view.

【図4】 受光素子の構造を示す図。FIG. 4 is a diagram showing a structure of a light receiving element.

【図5】 受光セルアレイとの偏心と視野との関係を示
す図。
FIG. 5 is a diagram showing a relationship between eccentricity of a light receiving cell array and a field of view.

【図6】 画像情報の取得に係る処理の流れを模式的に
示す図。
FIG. 6 is a diagram schematically showing a flow of processing relating to acquisition of image information.

【図7】 受光セルと被写体の画素との幾何光学的な関
係を示す図。
FIG. 7 is a diagram showing a geometrical optical relationship between a light receiving cell and a pixel of a subject.

【図8】 本実施の形態に係る複眼画像入力装置により
取得された画像の一例を示す図。
FIG. 8 is a diagram showing an example of an image acquired by the compound-eye image input device according to the present embodiment.

【図9】 補間処理を施された画像の一例を示す図。FIG. 9 is a diagram showing an example of an image subjected to interpolation processing.

【図10】 従来公知の複眼画像入力装置の概略構成
図。
FIG. 10 is a schematic configuration diagram of a conventionally known compound eye image input device.

【符号の説明】[Explanation of symbols]

A …複眼画像入力装置 B …複眼画像入力装置 C …画像センサチップ X …被写体 Y …個眼像 Z …再構成像 Θ …複眼画像入力装置の画角 θ …ユニットの画角 α …複眼画像入力装置の湾曲角度 1 …マイクロレンズアレイ 1a …マイクロレンズ 2 …隔壁 3 …受光素子 3a …受光セル 3b …受光セルアレイ 3c …受光セルの無い領域 4 …フレキシブル基板 6 …ボンディングワイヤー 7 …レンズ固定用部材 8 …プリント基板 9 …接続ピン A ... Compound eye image input device B ... Compound eye image input device C ... Image sensor chip X ... Subject Y ... Single-eye image Z ... Reconstructed image Θ ... Angle of view of compound eye image input device θ… View angle of unit α ... Bending angle of compound eye image input device 1 ... Micro lens array 1a ... Micro lens 2 ... Partition 3 ... Light receiving element 3a ... Light receiving cell 3b ... Light receiving cell array 3c ... Area without light receiving cell 4 ... Flexible substrate 6 ... Bonding wire 7 ... Lens fixing member 8 ... Printed circuit board 9… Connection pin

───────────────────────────────────────────────────── フロントページの続き (72)発明者 一岡 芳樹 兵庫県神戸市東灘区鴨子ヶ原1丁目4−15 −131 Fターム(参考) 5C024 BX00 CX37 EX43 GX02    ─────────────────────────────────────────────────── ─── Continued front page    (72) Inventor Yoshiki Ichioka             4-15 Kamokogahara, Higashinada-ku, Kobe-shi, Hyogo             −131 F term (reference) 5C024 BX00 CX37 EX43 GX02

Claims (8)

【特許請求の範囲】[Claims] 【請求項1】 複数のマイクロレンズが配列されたマイ
クロレンズアレイにより,受光素子上に複数の物体縮小
像を結像する複数の複眼画像入力部が,湾曲面上に複数
配置されてなることを特徴とする複眼画像入力装置。
1. A plurality of compound eye image input sections for forming a plurality of object reduced images on a light receiving element are arranged on a curved surface by a microlens array in which a plurality of microlenses are arranged. A characteristic compound eye image input device.
【請求項2】 上記湾曲面の湾曲度が可変である請求項
1に記載の複眼画像入力装置。
2. The compound eye image input device according to claim 1, wherein the degree of curvature of the curved surface is variable.
【請求項3】 上記湾曲面が,可撓性のフレキシブル基
板により構成されてなる請求項1或いは2のいずれかに
記載の複眼画像入力装置。
3. The compound eye image input device according to claim 1, wherein the curved surface is made of a flexible substrate.
【請求項4】 上記受光素子が,上記マイクロレンズに
より物体縮小像が結像される所定の領域毎に独立して設
けられた複数の受光セルアレイを格子状に配置したもの
である請求項1〜3のいずれかに記載の複眼画像入力装
置。
4. The light-receiving element comprises a plurality of light-receiving cell arrays, which are independently provided for each predetermined region in which a reduced image of an object is formed by the microlens, are arranged in a grid pattern. 4. The compound eye image input device according to any one of 3 above.
【請求項5】 上記マイクロレンズ毎に独立して設けら
れる上記受光セルアレイの上記マイクロレンズに対する
偏心量が,該受光セルアレイの上記複眼画像入力部に対
する位置に応じて設定されてなる請求項1〜4に記載の
複眼画像入力装置。
5. The eccentricity of the light receiving cell array provided independently for each of the microlenses with respect to the microlenses is set according to the position of the light receiving cell array with respect to the compound eye image input section. The compound-eye image input device according to item 1.
【請求項6】 上記受光セルアレイの上記マイクロレン
ズに対する偏心量が,上記画像入力部の周辺部にある受
光セルアレイ程大きく設定されてなる請求項5に記載の
複眼画像入力装置。
6. The compound eye image input device according to claim 5, wherein the eccentric amount of the light receiving cell array with respect to the microlenses is set to be larger as it is closer to the light receiving cell array in the peripheral portion of the image input section.
【請求項7】 上記受光セルアレイが,上記マイクロレ
ンズに対して上記画像入力部の中心方向に偏心してなる
請求項5に記載の複眼画像入力装置。
7. The compound eye image input device according to claim 5, wherein the light receiving cell array is eccentric with respect to the microlenses in a central direction of the image input unit.
【請求項8】 上記受光セルアレイが,上記マイクロレ
ンズに対して上記画像入力部の中心方向と反対の方向に
偏心してなる請求項5に記載の複眼画像入力装置。
8. The compound eye image input device according to claim 5, wherein the light receiving cell array is eccentric with respect to the microlens in a direction opposite to a center direction of the image input unit.
JP2002083714A 2002-03-25 2002-03-25 Compound eye image input device Expired - Lifetime JP4012752B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002083714A JP4012752B2 (en) 2002-03-25 2002-03-25 Compound eye image input device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002083714A JP4012752B2 (en) 2002-03-25 2002-03-25 Compound eye image input device

Publications (2)

Publication Number Publication Date
JP2003283932A true JP2003283932A (en) 2003-10-03
JP4012752B2 JP4012752B2 (en) 2007-11-21

Family

ID=29231374

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002083714A Expired - Lifetime JP4012752B2 (en) 2002-03-25 2002-03-25 Compound eye image input device

Country Status (1)

Country Link
JP (1) JP4012752B2 (en)

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007286521A (en) * 2006-04-19 2007-11-01 Eyedentify:Kk Simple imaging device for forming 3d image which can be three-dimensionally viewed with naked eye from images in a plurality of imaging bodies
US7501610B2 (en) 2005-10-17 2009-03-10 Funai Electric Co., Ltd. Compound-eye imaging device
US7529383B2 (en) 2002-10-25 2009-05-05 Konica Minolta Holdings, Inc. Image input apparatus
US7550707B2 (en) 2007-03-01 2009-06-23 Sony Corporation Biometrics authentication system with authentication based upon multiple layers
WO2010081652A1 (en) * 2009-01-19 2010-07-22 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Optical navigation device
US20100289881A1 (en) * 2009-05-13 2010-11-18 Sony Corporation Camera for multiple perspective image capturing
EP2306230A1 (en) * 2009-09-30 2011-04-06 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Artificial compound eye and method for fabrication thereof
JP2012514796A (en) * 2009-01-05 2012-06-28 アプライド クウォンタム テクノロジイズ インク Multi-scale optical system
EP2075841A3 (en) * 2007-12-27 2012-08-08 Robert Bosch GmbH Imager, its manufacturing procedure and its use
US8270679B2 (en) 2007-04-11 2012-09-18 Sony Corporation Biometrics authentication system
JP2013084880A (en) * 2011-09-27 2013-05-09 Toshiba Corp Solid state imaging device, solid state imaging element, and method for manufacturing solid state imaging element
JP2013085212A (en) * 2011-09-27 2013-05-09 Toshiba Corp Solid state imaging device, solid state imaging element, method for manufacturing solid state imaging device, and method for manufacturing solid state imaging element
KR101410002B1 (en) * 2007-11-19 2014-06-20 삼성전자주식회사 Image sensing apparatus with artificial ommatidia and Manufacturing method for artificial ommatidia unit
US8830377B2 (en) 2010-01-04 2014-09-09 Duke University Monocentric lens-based multi-scale optical systems and methods of use
JP2015524202A (en) * 2012-06-01 2015-08-20 オステンド・テクノロジーズ・インコーポレーテッド Spatio-temporal light field camera
US9395617B2 (en) 2009-01-05 2016-07-19 Applied Quantum Technologies, Inc. Panoramic multi-scale imager and method therefor
US9432591B2 (en) 2009-01-05 2016-08-30 Duke University Multiscale optical system having dynamic camera settings
US9494771B2 (en) 2009-01-05 2016-11-15 Duke University Quasi-monocentric-lens-based multi-scale optical system
US9635253B2 (en) 2009-01-05 2017-04-25 Duke University Multiscale telescopic imaging system
US10725280B2 (en) 2009-01-05 2020-07-28 Duke University Multiscale telescopic imaging system

Cited By (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7529383B2 (en) 2002-10-25 2009-05-05 Konica Minolta Holdings, Inc. Image input apparatus
US7501610B2 (en) 2005-10-17 2009-03-10 Funai Electric Co., Ltd. Compound-eye imaging device
JP2007286521A (en) * 2006-04-19 2007-11-01 Eyedentify:Kk Simple imaging device for forming 3d image which can be three-dimensionally viewed with naked eye from images in a plurality of imaging bodies
US7550707B2 (en) 2007-03-01 2009-06-23 Sony Corporation Biometrics authentication system with authentication based upon multiple layers
US8270679B2 (en) 2007-04-11 2012-09-18 Sony Corporation Biometrics authentication system
KR101410002B1 (en) * 2007-11-19 2014-06-20 삼성전자주식회사 Image sensing apparatus with artificial ommatidia and Manufacturing method for artificial ommatidia unit
EP2075841A3 (en) * 2007-12-27 2012-08-08 Robert Bosch GmbH Imager, its manufacturing procedure and its use
US9635253B2 (en) 2009-01-05 2017-04-25 Duke University Multiscale telescopic imaging system
JP2012514796A (en) * 2009-01-05 2012-06-28 アプライド クウォンタム テクノロジイズ インク Multi-scale optical system
US10725280B2 (en) 2009-01-05 2020-07-28 Duke University Multiscale telescopic imaging system
US9762813B2 (en) 2009-01-05 2017-09-12 Duke University Monocentric lens-based multi-scale optical systems and methods of use
US9395617B2 (en) 2009-01-05 2016-07-19 Applied Quantum Technologies, Inc. Panoramic multi-scale imager and method therefor
US9494771B2 (en) 2009-01-05 2016-11-15 Duke University Quasi-monocentric-lens-based multi-scale optical system
US9432591B2 (en) 2009-01-05 2016-08-30 Duke University Multiscale optical system having dynamic camera settings
US9256056B2 (en) 2009-01-05 2016-02-09 Duke University Monocentric lens-based multi-scale optical systems and methods of use
WO2010081652A1 (en) * 2009-01-19 2010-07-22 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Optical navigation device
US9454261B2 (en) 2009-01-19 2016-09-27 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Optical navigation device and use thereof
US20100289881A1 (en) * 2009-05-13 2010-11-18 Sony Corporation Camera for multiple perspective image capturing
WO2011039062A1 (en) * 2009-09-30 2011-04-07 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Artificial compound eye and method for fabrication thereof
EP2306230A1 (en) * 2009-09-30 2011-04-06 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Artificial compound eye and method for fabrication thereof
US8830377B2 (en) 2010-01-04 2014-09-09 Duke University Monocentric lens-based multi-scale optical systems and methods of use
US9136290B2 (en) 2011-09-27 2015-09-15 Kabushiki Kaisha Toshiba Solid state imaging device, portable information terminal device and method for manufacturing solid state imaging device
JP2013085212A (en) * 2011-09-27 2013-05-09 Toshiba Corp Solid state imaging device, solid state imaging element, method for manufacturing solid state imaging device, and method for manufacturing solid state imaging element
JP2013084880A (en) * 2011-09-27 2013-05-09 Toshiba Corp Solid state imaging device, solid state imaging element, and method for manufacturing solid state imaging element
JP2015524202A (en) * 2012-06-01 2015-08-20 オステンド・テクノロジーズ・インコーポレーテッド Spatio-temporal light field camera
US9681069B2 (en) 2012-06-01 2017-06-13 Ostendo Technologies, Inc. Spatio-temporal light field cameras
US9712764B2 (en) 2012-06-01 2017-07-18 Ostendo Technologies, Inc. Spatio-temporal light field cameras
US9774800B2 (en) 2012-06-01 2017-09-26 Ostendo Technologies, Inc. Spatio-temporal light field cameras
US9779515B2 (en) 2012-06-01 2017-10-03 Ostendo Technologies, Inc. Spatio-temporal light field cameras
US9930272B2 (en) 2012-06-01 2018-03-27 Ostendo Technologies, Inc. Spatio-temporal light field cameras

Also Published As

Publication number Publication date
JP4012752B2 (en) 2007-11-21

Similar Documents

Publication Publication Date Title
JP4012752B2 (en) Compound eye image input device
JP4950916B2 (en) Manufacturing method of imaging device
JP4171786B2 (en) Image input device
US8115156B2 (en) Optical condition design method for a compound-eye imaging device
JP4673202B2 (en) Image input device
JP5214754B2 (en) Solid-state imaging device and portable information terminal
US20120140097A1 (en) Method and apparatus for image capturing capable of effectively reproducing quality image and electronic apparatus using the same
JP6189061B2 (en) Solid-state imaging device
US9300885B2 (en) Imaging device, portable information terminal, and imaging system
JP2008046174A (en) Panoramic imaging apparatus
JP5591851B2 (en) Solid-state imaging device and portable information terminal
KR20120008518A (en) Digital imaging system, plenoptic optical device and image data processing method
CN110995968B (en) Image sensor, image pickup apparatus, electronic device, and imaging method
KR20110070780A (en) Imaging apparatus and imaging method
CN105093803B (en) Panoramic imaging system
JP5248971B2 (en) Imaging unit manufacturing method and imaging unit
CN113810578B (en) Under-screen camera module and display device
CA2516939A1 (en) Microscopic imaging system having an optical correcting element
JP2017032978A (en) Control device, imaging device, control method, program, and storage medium
JPH10107975A (en) Image input device
JP5568150B2 (en) Solid-state imaging device and portable information terminal
CN111694183A (en) Display device and display method thereof
JP2015204590A (en) Compound-eye imaging apparatus and imaging processing device
US7477312B2 (en) Photographing apparatus, photographing method, and method for measuring converted data representing a fiber-array image
WO2024051214A1 (en) Three-dimensional image collection apparatus and method, and related device

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20031031

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20040129

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070605

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070803

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070904

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070910

R150 Certificate of patent or registration of utility model

Ref document number: 4012752

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100914

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110914

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120914

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130914

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term