JP2000221574A - Image pickup module equipped with switching means - Google Patents

Image pickup module equipped with switching means

Info

Publication number
JP2000221574A
JP2000221574A JP11023424A JP2342499A JP2000221574A JP 2000221574 A JP2000221574 A JP 2000221574A JP 11023424 A JP11023424 A JP 11023424A JP 2342499 A JP2342499 A JP 2342499A JP 2000221574 A JP2000221574 A JP 2000221574A
Authority
JP
Japan
Prior art keywords
filter
light
imaging
visible light
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP11023424A
Other languages
Japanese (ja)
Other versions
JP3590286B2 (en
Inventor
Shunichi Numazaki
俊一 沼崎
Miwako Doi
美和子 土井
Takahiro Murata
貴比呂 村田
Minoru Ishikawa
実 石川
Akira Morishita
明 森下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP02342499A priority Critical patent/JP3590286B2/en
Publication of JP2000221574A publication Critical patent/JP2000221574A/en
Application granted granted Critical
Publication of JP3590286B2 publication Critical patent/JP3590286B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Studio Devices (AREA)
  • Structure And Mechanism Of Cameras (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

PROBLEM TO BE SOLVED: To make switchable an image pickup module between for visible light and invisible light and to miniaturize the module by making the thickness of filters for visible light and invisible light mutually different, making the flange back thereof virtually the same, and making the thickness of a part, in which the filter is fit, different from the thickness of other part on the side of the filter which is made thick. SOLUTION: In order to keep the thickness of the invisible light image pickup filter 101 as it is and make the thickness of the visible light image pickup filter 102 large, the thickness of the part of the filter 102 fit in a filter fitting part 103 is made the same as the thickness of the filter 101, and the thickness of other part is made large. Therefore, the thickness of the filter 102 is made large without making a distance between a lens 3 and an image pickup part 4 long and without making the filter 101 thin. Then, the flange back of the filter 101 can be made virtually coincident with that of the filter 102.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は可視光と不可視光と
の撮像を切り替えるための撮像モジュールに関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an imaging module for switching between visible light and invisible light.

【0002】[0002]

【従来の技術】<従来のコンピュータへの入力手段>コ
ンピュータへの入力デバイスとしては、マウスが圧倒的
に使われている。が、マウスでできることは、カーソル
の移動と、メニューの選択など、あくまでも2次元のポ
インティングデバイスとしての役目である。マウスで扱
えるのは、2次元情報なので、3次元空間のなかの物体
など奥行きがあるものを選択することは難しい。また、
アニメーションを作成するときに、キャラクタに動きを
つけるのに、マウスでは、自然な動きをつけることが難
しかった。
2. Description of the Related Art <Conventional input means to computer> As an input device to a computer, a mouse is overwhelmingly used. However, what can be done with a mouse is to serve as a two-dimensional pointing device, such as moving a cursor and selecting a menu. Since the mouse can handle two-dimensional information, it is difficult to select an object having a depth such as an object in a three-dimensional space. Also,
When creating animations, it was difficult to make natural movements with the mouse to move the characters.

【0003】<既存の3次元ポインティングデバイス>
3次元空間でのポインティングの難点を補うために、3
次元ポインティングデバイスが開発されている。
<Existing three-dimensional pointing device>
To compensate for the difficulty of pointing in 3D space, 3
Dimensional pointing devices have been developed.

【0004】しかし、実際に操作すると、思うようにカ
ーソルや視点の制御ができないという問題がある。例え
ば、左右に回そうとすると、前方あるいは後方を押して
しまい、思わぬ方向にカーソルが動いたり、視点が動い
たりしてしまう。
[0004] However, there is a problem that the cursor and the viewpoint cannot be controlled as desired when actually operated. For example, when trying to turn left or right, the user pushes forward or backward, and the cursor moves in an unexpected direction or the viewpoint moves.

【0005】<装着型の3次元入力デバイス>このよう
な3次元ポインティングデバイスに対して、手振りや身
ぶりを使って入力するデバイスも開発されている。デー
タグローブやデータスーツ、サイバーグローブと呼ばれ
るものである。これらは、例えば、データグローブは手
袋状のデバイスで、表面に光ファイバが走っている。
<Wearable three-dimensional input device> For such a three-dimensional pointing device, a device for inputting using a hand gesture or gesture has been developed. They are called data gloves, data suits, and cyber gloves. These are, for example, data gloves that are glove-like devices with optical fibers running over the surface.

【0006】光ファイバは、指の関節まで通っており、
指を曲げることにより、光の導通が変わる。この光の導
通を計測することで、各指の関節がどの程度曲がってい
るかがわかる。手自体の3次元空間内の位置は、手の甲
についている磁気センサによって計測するようになって
いる。人差し指を立てれば、前進するというように、身
ぶりとそれに対応する指示を決めておけば、データグロ
ーブを使って、3次元空間内を種々に視点を変えて、ち
ょうど歩き回るようにする(ウオークスルーという)こ
とができる。
[0006] The optical fiber passes through the finger joint,
Bending a finger changes the conduction of light. By measuring the light conduction, it is possible to determine how much the joint of each finger is bent. The position of the hand itself in the three-dimensional space is measured by a magnetic sensor on the back of the hand. If you decide the gesture and the corresponding instruction, such as moving up with the index finger, you can use the data glove to change the viewpoint in various ways in 3D space and just walk around (walkthrough )be able to.

【0007】<データグローブの問題点>しかし、問題
がいくつかある。まず、価格が高価であり、家庭用など
で手軽に使用することは難しい。指の関節の角度を計測
しているので、例えば、人差し指だけのばし、他の指
は、曲げた状態を前進指示と定義したとする。一口に指
を伸ばすといっても、人差し指の第2関節の角度が18
0度に完全になっていることは少ないので、遊びの部分
を作らないと、きっちりのばしたとき以外は、のばして
いると認識するのが難しい。
<Problems of data glove> However, there are some problems. First, the price is expensive, and it is difficult to use it easily for home use. Since the angle of the finger joint is measured, it is assumed that, for example, only the index finger is extended, and the bent state of the other fingers is defined as a forward instruction. Even if you extend your finger to a bite, the angle of the second joint of the index finger is 18
Since it is rarely complete at 0 degrees, it is difficult to recognize that it is extended unless it is completely extended unless you make a play part.

【0008】また、データーグローブを装着するので、
自然な操作が阻害される。また、装着するたびに、手の
開いた状態と閉じた状態で、光の導通状態を校正せねば
ならないので、手軽に使えない。また、光ファイバを使
っているため、継続的に使っていると、ファイバが断絶
するなど消耗品に近いという問題がある。
Also, since the data glove is worn,
Natural operations are hindered. In addition, the light conduction state must be calibrated between the open state and the closed state of the hand each time it is mounted, so that it cannot be used easily. In addition, since the optical fiber is used, there is a problem that if the optical fiber is continuously used, the fiber is cut off and is close to a consumable.

【0009】また、このように、高価で、手間がかかる
デバイスである割には、手袋の大きさが、ぴったり合っ
ていないと、使っているうちにずれたりして校正した値
からずれるために、細かな手振りを認識することは難し
い。このように、いろいろな問題があるために、データ
グローブは、VR(バーチャルリアリティ、仮想現実
感)技術のトリガーとなったデバイスであったにもかか
わらず、当初の期待ほど、普及しておらず、また、低価
格化もなされていず、使い勝手の点で問題が多い。
[0009] In addition, even if the gloves are not exactly the same size as the expensive and time-consuming device, the gloves may shift during use and deviate from the calibrated values. It is difficult to recognize fine gestures. Due to various problems, data gloves are not as popular as expected at first despite the fact that they were devices that triggered VR (virtual reality, virtual reality) technology. Also, the price has not been reduced, and there are many problems in terms of usability.

【0010】<画像を用いた身振り手振りの認識技術の
問題点>これに対し、データグローブのような特殊な装
置を装着することなく、手振りや身ぶりを入力しようと
する試みが、いくつかなされている。例えば、ビデオ映
像などの動画像を解析して、手の形を認識するような研
究がなされている。が、これらでは、背景画像から目的
とする画像、手振りの認識の場合には、手のみを切り出
すことが難しいという問題がある。
<Problems of Recognition Technique of Gesture and Hand Gesture Using Image> On the other hand, several attempts have been made to input a hand and gesture without wearing a special device such as a data glove. I have. For example, research has been conducted to analyze a moving image such as a video image to recognize a hand shape. However, these methods have a problem that it is difficult to cut out only a hand in the case of recognizing a target image and a hand gesture from a background image.

【0011】例えば、色を使って切り出す場合を考えて
みる。手の色は肌色であるので、肌色の部分のみを切り
出すような方式が考えられる。が、背景にベージュ色の
洋服や、壁があったりすると、肌色を識別することが難
しい。また、調整を行って、ベージュと肌色を区別でき
るようにしても、照明が変われば、色調が変化してしま
うために、定常的に切り出すことは困難である。
For example, consider the case of cutting out using color. Since the color of the hand is flesh color, a method of cutting out only the flesh color part can be considered. However, if there are beige clothes or walls in the background, it is difficult to identify the skin color. Further, even if the adjustment is performed so that beige and flesh color can be distinguished, it is difficult to cut out regularly because the color tone changes if the illumination changes.

【0012】このような問題から逃れるために、背景に
ブルーマットをおくというように、背景画像に制限を置
き、切り出しを容易にする方策も採られている。また、
以上のような切り出しなどのビデオの画像認識処理は、
非常に演算量が多い。このため、現状のパーソナルコン
ピュータでは、秒30枚発生する画像を処理しきれない
のが実状である。従って、ビデオ映像の処理によってモ
ーションキャプチャなどを行うのは、リアルタイムは無
理である。
In order to avoid such a problem, a measure has been taken to limit the background image, such as placing a blue mat on the background, to facilitate clipping. Also,
Video image recognition processing such as clipping as described above,
The amount of calculation is very large. For this reason, the current state of the art is that the current personal computer cannot process images generated at 30 frames per second. Therefore, it is impossible to perform motion capture or the like by processing a video image in real time.

【0013】<マーカーによる身振りの認識>また、手
や身体の一部に色マーカーや発光部を取り付け、画像に
よりそれらを検出し、手・身体の形、動きなどを捉える
装置もあり、一部実用化されている。CGアニメーショ
ンやTVゲームなどの制作現場で用い、入力した人間の
動きにしたがってCGキャラクタを動かす。
<Gesture Recognition Using Markers> Also, there are devices that attach color markers and light emitting parts to hands and parts of the body, detect them by images, and capture the shapes and movements of hands and bodies. Has been put to practical use. Used in production sites such as CG animation and TV games, the CG character is moved according to the input human motion.

【0014】しかし個人レベルのユーザーがこのような
装置を使うことを考えると、操作の度に装置を装着しな
くてはならないというのは大きなデメリットであり、応
用範囲を非常に制約する。また、データグローブの例に
見られるように、装置を手などの可動部に装着して使用
する装置は耐久性が問題になりやすい。
However, considering that an individual-level user uses such a device, it is a great disadvantage that the user must wear the device every time the operation is performed, and the range of application is greatly restricted. Further, as seen in the example of the data glove, the durability of a device which is used by attaching the device to a movable part such as a hand tends to be a problem.

【0015】<レンジファインダ>レンジファインダと
呼ばれる、距離画像を入力する装置がある。その代表的
な原理として、スポット光あるいはスリット光を対象物
体に照射し、その反射光の受光位置から三角測量の原理
で求めるものである。2次元的な距離情報を求めるため
に、スポット光あるいはスリット光を機械的に走査して
いる。
<Range Finder> There is a device called a range finder for inputting a distance image. As a typical principle, spot light or slit light is applied to a target object, and the target object is obtained from the light receiving position of the reflected light by the principle of triangulation. In order to obtain two-dimensional distance information, spot light or slit light is mechanically scanned.

【0016】この装置は非常に高精度な距離画像を生成
することができるが、その反面、装置の構成が大掛かり
になり、高コストになる。また入力に時間がかかり、実
時間で処理を行わせるのは困難である。
Although this device can generate a very accurate range image, the configuration of the device is large and the cost is high. Also, it takes time to input, and it is difficult to perform processing in real time.

【0017】またカメラを2台使い、2つの方向からの
画像を撮像し、両方の画像中の対応点から、三角法を用
いて3次元情報を生成するという手法もある。しかし、
2つの画像中から対応点を見つけることは難しく、とく
に複雑な背景下でこれを行うのは非常に困難である。ま
たその難しさから、実時間処理には非常に多く計算機パ
ワーを要する。
There is also a method in which two cameras are used to capture images from two directions, and three-dimensional information is generated from corresponding points in both images by using trigonometry. But,
Finding the corresponding points in the two images is difficult, especially in a complex background. Also, due to its difficulty, real-time processing requires a great deal of computer power.

【0018】<画像中からのキャラクタの切り出し>次
に、以上のような入力デバイスとは別に、カメラ技術に
ついて従来技術についての問題点を述べる。従来のカメ
ラ技術では、背景に対して、キャラクタの合成(クロマ
キー)を行うには、あらかじめ、ブルーバックでキャラ
クタを撮影して、キャラクタの切り出しを容易にする必
要があった。
<Cutout of Character from Image> Next, apart from the above-described input device, problems of the camera technology with respect to the prior art will be described. In the conventional camera technology, in order to combine a character with a background (chroma key), it was necessary to photograph the character in advance with a blue background and to easily cut out the character.

【0019】このため、ブルーバックで撮影ができるス
タジオなど、撮影場所に制限があった。あるいは、ブル
ーバックでない状態で撮影した映像から、キャラクタを
切り出すには、コマごとに、キャラクタの切り出し範囲
を人手で編集せねばならないので、非常な手間がかかっ
ていた。
For this reason, there are restrictions on the shooting location such as a studio where shooting can be performed with a blue background. Alternatively, in order to cut out a character from a video shot in a non-blue-back state, the character cutout range has to be manually edited for each frame, which is extremely time-consuming.

【0020】同様に、キャラクタを3次元空間の中に生
成するには、あらかじめ3次元のモデルをつくってお
き、そこにキャラクタの写真を貼り付ける(テクスチャ
マッピング)をおこなうような方式をとっている。が、
3次元モデルの生成、および、クスチャマッピングには
手間がかかり、映画制作など経費がかかってもよい用途
以外では、ほとんど使えなかった。
Similarly, in order to generate a character in a three-dimensional space, a method is used in which a three-dimensional model is created in advance, and a picture of the character is pasted (texture mapping) there. . But,
The generation of the three-dimensional model and the texture mapping were troublesome, and could hardly be used for purposes other than those that could be expensive, such as movie production.

【0021】<問題提起>以上述べたように従来は、特
殊な装置を装着することなく、簡易にジェスチャや動き
を入力できる直接指示型の入力デバイスが存在しなかっ
た。特に、3次元空間でのポインティングや視点の変更
を容易に行える簡易なデバイスは存在しなかった。ま
た、ユーザのジェスチャや動きをそのまま使って、アニ
メーションのキャラクタなどに自然な動きをつけたりす
ることができなかった。
<Problem Proposal> As described above, conventionally, there has been no direct instruction type input device capable of easily inputting a gesture or movement without mounting a special device. In particular, there is no simple device that can easily perform pointing and change of viewpoint in a three-dimensional space. Also, natural movements cannot be given to animated characters or the like using the user's gestures and movements as they are.

【0022】さらに、従来のカメラでは、特定のキャラ
クタだけを切り出したり、キャラクタの奥行き情報を容
易に入力できなかった。 <その解決法としての発光手段を持つ撮像装置の発明>
上記の問題点を解決するために、物体の形状、動き、距
離情報などを非接触で入力することの可能な装置を発明
した。この入力装置は、光を発光し、その対象物体によ
る反射光を画像として捉える。物体表面がほぼ均一な拡
散反射面である場合、反射光の強さは物体までの距離と
密接な関係を持つ。
Further, in the conventional camera, it is not possible to cut out only a specific character or to easily input depth information of the character. <Invention of imaging apparatus having light emitting means as a solution thereto>
In order to solve the above problems, a device capable of inputting the shape, movement, distance information, and the like of an object without contact has been invented. The input device emits light, and captures light reflected by the target object as an image. When the surface of the object is a substantially uniform diffuse reflection surface, the intensity of the reflected light has a close relationship with the distance to the object.

【0023】物体が存在している場所からの反射光はあ
る程度の値を持ち、遠い背景からの反射光はほとんど無
いため、反射光の画像をしきい値で分けることにより、
物体の形状を抽出することが出来る。またその形状を画
像処理することにより、重心位置や大きさ、水平方向、
垂直方向への形状の広がり、また形状の時系列からその
動きや変形などの様々な特徴量を抽出することができ
る。また物体の凹凸を反射光量の違いとして捉えられる
ため、対象物体の立体構造を得ることも出来る。
The reflected light from the place where the object is present has a certain value, and there is almost no reflected light from a distant background.
The shape of the object can be extracted. In addition, by processing the shape, the center of gravity position and size, horizontal direction,
It is possible to extract various features such as movement and deformation of the shape in the vertical direction and the time series of the shape. Further, since the unevenness of the object can be regarded as a difference in the amount of reflected light, a three-dimensional structure of the target object can be obtained.

【0024】<外光の影響の低減>光を発して、その反
射光を単に受光しても、その中には、照明や太陽光など
の外光が入り込んでしまい、正しい受光量が得られな
い。反射光の画像を入力するために、あるタイミングを
発生するタイミング発生部の制御信号によって、発光
部、および受光部を動作させる。発光部が発光している
ときの受光画像から発光部が発光していないときの受光
画像の差分を取ることによって、反射光画像を得ること
ができる。
<Reduction of the influence of external light> Even if light is emitted and the reflected light is simply received, external light such as illumination or sunlight enters into the light, and a correct amount of received light can be obtained. Absent. In order to input an image of reflected light, the light emitting unit and the light receiving unit are operated by a control signal of a timing generating unit that generates a certain timing. The reflected light image can be obtained by taking the difference between the received light image when the light emitting unit is not emitting light from the received light image when the light emitting unit is not emitting light.

【0025】具体的には例えば、一つの画素に相当する
セルに2つのキャパシタを持った撮像センサを発光部と
同期させて動作させることによって反射光画像を得るこ
とができる。セルの光電変換部で受光し発生した電荷は
2つのキャパシタのうちどちらかを選択して蓄積できる
ようにしておく。そして発光部が発光しているときに受
光し発生した電荷を第1のキャパシタに蓄積し、次に発
光していないときに受光し発生した電荷を第2のキャパ
シタに蓄積する。セルから電荷を読み出す際に2つの電
荷量の差を出力するしくみを用意しておけば、2つのキ
ャパシタの差、すなわち反射光のみの画像データが得ら
れる。
Specifically, for example, a reflected light image can be obtained by operating an image sensor having two capacitors in a cell corresponding to one pixel in synchronization with a light emitting unit. The charge received and generated by the photoelectric conversion unit of the cell is selected so that either one of the two capacitors can be stored. Then, the charge received and generated when the light emitting unit is emitting light is stored in the first capacitor, and the charge received and generated when the light emitting unit is not emitting light is stored in the second capacitor. If a mechanism for outputting the difference between the two charge amounts when reading out the charge from the cell is prepared, the difference between the two capacitors, that is, image data of only the reflected light can be obtained.

【0026】[0026]

【発明が解決しようとする課題】ところで通常の撮像素
子は不可視光だけでなく、可視光も撮像できる。このた
め、不可視光の反射光を撮像するときには、可視光を遮
断する必要があるので、例えば、不可視光の領域のみを
通過させるフィルタをレンズと撮像素子との間に設置せ
ねばならない。
A normal image pickup device can pick up not only invisible light but also visible light. For this reason, when imaging the reflected light of the invisible light, it is necessary to block the visible light. Therefore, for example, a filter that passes only the region of the invisible light must be provided between the lens and the image sensor.

【0027】一方、不可視光を遮断し可視光のみを撮像
すれば、通常の撮像を行える。この場合にも、例えば、
可視光のみを通過させるフィルタをレンズと撮像素子と
の間に設置せねばならない。
On the other hand, if the invisible light is blocked and only the visible light is imaged, normal imaging can be performed. Again, for example,
A filter that allows only visible light to pass must be provided between the lens and the image sensor.

【0028】この2つのフィルタを切り替えることで、
可視光も不可視光も撮像は可能である。が、可視光と不
可視光では、レンズのフランジバック(レンズ鏡筒終端
から結像面までの距離)が異なっている。例えば不可視
光として、近赤外光などの可視光より長波長の光を用い
た場合、一般的に不可視光のフランジバックの方が、可
視光のフランジバックより長い。が、機械的に移動する
などして、レンズと撮像素子の距離を不可視光撮影時
と、可視光撮影時に変化させることは、コストが高くな
り、また、壊れやすくなるという問題があった。仮想的
にフランジバックを長くするには、間に挿入するフィル
タの厚さを厚くすることが一方法である。
By switching between these two filters,
Both visible light and invisible light can be imaged. However, the flange back (distance from the end of the lens barrel to the image plane) of the lens differs between visible light and invisible light. For example, when light having a longer wavelength than visible light, such as near-infrared light, is used as the invisible light, the invisible light flange back is generally longer than the visible light flange back. However, changing the distance between the lens and the image sensor during invisible light photographing and visible light photographing by mechanical movement or the like has a problem that the cost is high and the device is easily broken. One way to virtually lengthen the flange back is to increase the thickness of the filter inserted between them.

【0029】しかし、単純に可視光用のフィルタの厚み
を厚くすると、不可視光用のフィルタと切り替えるため
にはめ込むフィルタはめ込み部が厚くなり、レンズある
いは、撮像素子表面と触れてしまう問題が生じた。逆
に、不可視光用のフィルタの厚みを薄くすると、フィル
タが薄くなって壊れやすくなるという問題が生じてい
た。
However, when the thickness of the filter for visible light is simply increased, the filter fitting portion to be fitted for switching to the filter for invisible light becomes thick, and there is a problem that the filter comes into contact with the lens or the surface of the image pickup device. Conversely, when the thickness of the filter for invisible light is reduced, there has been a problem that the filter is thin and easily broken.

【0030】使用者がこの撮像装置の前に手を出して動
かすことにより機械をコントロールすることを考えた場
合、使用者の体格や姿勢によって、手をだしやすい場所
が異なる。撮像モジュールの向きが固定になっている
と、その撮像範囲に合わせて使用者が自分の手の位置を
調整しなくてはならず、これは自然な操作を阻害するこ
とになり疲労を助長してしまう、という問題がある。
When a user considers controlling the machine by putting his / her hand in front of the imaging device and moving it, the place where the hand is easy to reach depends on the physique and posture of the user. When the orientation of the imaging module is fixed, the user has to adjust the position of his / her hand according to the imaging range, which hinders natural operation and promotes fatigue. Problem.

【0031】このような問題を解決するために、撮影モ
ジュールを回転するなど可動できるようにする方策がと
られる。が、角度を変えるなど動かすと、モジュールに
電源が入っているのかどうかなどの状況の表示を行う表
示部が、見えなくなる可能性があった。
In order to solve such a problem, measures are taken to make the photographing module movable, for example, by rotating it. However, when the angle is changed or the like is moved, the display unit for displaying the status such as whether the module is turned on may be invisible.

【0032】また、不可視光は実は、蛍光灯などの室内
灯にも大量に含まれている。単に不可視光を撮像したの
では、室内灯からの不可視光がノイズとなり、正確に撮
像できないという問題がある。
Further, invisible light is actually contained in a large amount in indoor lights such as fluorescent lights. If the invisible light is simply imaged, there is a problem that the invisible light from the room light becomes noise and the image cannot be accurately captured.

【0033】この問題を解決するために、蛍光灯からの
不可視光を除く必要がある。実は蛍光灯の明滅は、完全
に50Hz(関西では60Hz)でないため、この明滅
を除去するためには、蛍光灯の明滅周期を検知せねばな
らない。が、蛍光灯の明滅には、個体差がある。このた
め、蛍光灯の周期を検知する検知部が、撮像素子と同一
の方向にないと、撮像素子に影響を与えるのとは、異な
る蛍光灯を検知し、ノイズが除去できないという問題が
生じていた。
In order to solve this problem, it is necessary to remove invisible light from a fluorescent lamp. Actually, the blinking of the fluorescent lamp is not completely 50 Hz (60 Hz in Kansai), so in order to eliminate this blinking, the blinking period of the fluorescent lamp must be detected. However, there are individual differences in the flicker of the fluorescent lamp. For this reason, if the detecting unit for detecting the cycle of the fluorescent lamp is not in the same direction as the image sensor, a problem arises in that a fluorescent lamp different from that which affects the image sensor is detected and noise cannot be removed. Was.

【0034】[0034]

【課題を解決するための手段】これらの課題を解決する
ために、本願発明は、不可視光を撮像するための第1の
フィルタと、この第1のフィルタと異なる厚さを有する
可視光を撮像するための第2のフィルタと、これら2つ
のフィルタを切り替えるスイッチと、このスイッチと連
動して可動し第1のフィルタと第2のフィルタとの切り
替えを行えるように第1のフィルタと第2のフィルタと
を配置したフィルタはめ込み部とから構成された切り替
え手段と、不可視光あるいは可視光を集光するためのレ
ンズと、このレンズにより集光され、前記切り替え手段
によって切り替えられた第1のフィルタを通過した不可
視光あるいは第2のフィルタを通過した可視光を撮像す
る撮像素子とを具備したことを特徴とする。
In order to solve these problems, the present invention provides a first filter for imaging invisible light, and a visible light having a thickness different from that of the first filter. Filter, a switch for switching between these two filters, and a first filter and a second filter which are movable in conjunction with the switch to switch between the first filter and the second filter. A switching means comprising a filter fitting section in which a filter is disposed; a lens for condensing invisible light or visible light; and a first filter condensed by the lens and switched by the switching means. An imaging element for imaging the invisible light that has passed through or the visible light that has passed through the second filter.

【0035】また、アレイ状に配列された受光セルが受
光した電荷の差分をとるエリアイメージセンサと、パル
ス信号もしくは変調信号を発生させるタイミング信号生
成手段と、前記エリアイメージセンサの受光セルの受光
を個別に制御するための制御信号を、前記タイミング信
号生成手段からの信号に基づいて生成する制御信号生成
手段と、前記タイミング信号生成手段からの信号に基づ
いて強度変化する光を発する発光手段と、この発光手段
の発光する光の反射光を撮像するための第1のフィルタ
と、この第1のフィルタと異なる厚さの可視光を撮像す
るための第2のフィルタと、これら2つのフィルタを切
り替えるスイッチと、このスイッチと連動して可動し第
1のフィルタと第2のフィルタとの切り替えを行えるよ
うに第1のフィルタと第2のフィルタとを配置したフィ
ルタはめ込み部とから構成された切り替え手段と、不可
視光あるいは可視光を集光するためのレンズと、このレ
ンズにより集光され、前記切り替え手段によって切り替
えられた第1のフィルタを通過した不可視光あるいは第
2のフィルタを通過した可視光を撮像する撮像素子とを
具備したことを特徴とする。
Also, an area image sensor for obtaining a difference between charges received by the light receiving cells arranged in an array, a timing signal generating means for generating a pulse signal or a modulation signal, and a light receiving cell of the area image sensor for receiving light. A control signal for individually controlling, a control signal generating unit that generates based on a signal from the timing signal generating unit, and a light emitting unit that emits light whose intensity changes based on a signal from the timing signal generating unit, A first filter for imaging reflected light of light emitted by the light emitting means, a second filter for imaging visible light having a thickness different from that of the first filter, and switching between these two filters A first filter so as to be movable in conjunction with the switch and to switch between the first filter and the second filter; A switching means comprising a filter fitting portion in which a second filter and a second filter are arranged; a lens for condensing invisible light or visible light; and a second lens condensed by the lens and switched by the switching means. An imaging element for imaging invisible light passing through the first filter or visible light passing through the second filter.

【0036】[0036]

【発明の実施の形態】<基本原理の説明>まず始めに本
発明を適用するところの撮像装置の基本原理および基本
構成を説明する。この撮像装置は不可視光を発光する手
段を持ち、その物体による反射光を撮像する。発光部と
撮像部を同期的に動作させることによって室内照明や太
陽光などの外部光から分離して、発光部による光の反射
光だけを捉える。またこの反射光画像を入力情報として
コンピュータなどの機器に取り込んだり、またこの画像
を様々な形に加工してあるいはこの画像から情報を抽出
して、機器を操作するための情報として利用する。
DESCRIPTION OF THE PREFERRED EMBODIMENTS <Description of Basic Principle> First, the basic principle and basic configuration of an imaging apparatus to which the present invention is applied will be described. This imaging apparatus has means for emitting invisible light, and images reflected light from the object. By operating the light emitting unit and the imaging unit synchronously, the light emitting unit and the image pickup unit are separated from external light such as indoor lighting and sunlight, and only the light reflected by the light emitting unit is captured. The reflected light image is taken into a device such as a computer as input information, or the image is processed into various forms or information is extracted from the image and used as information for operating the device.

【0037】本撮像装置の基本構成を図1に示す。発光
部1より発光された光は、対象物体2に反射して、受光
光学系(レンズ)3により、反射光画像検出部4の受光
面上に結像する。反射光画像検出部4は、この反射光の
強度分布、すなわち反射光画像を検出する。反射光画像
検出部4において外光から分離して反射光のみを取り出
すしくみについては後述する。
FIG. 1 shows the basic configuration of the present imaging apparatus. The light emitted from the light emitting unit 1 is reflected by the target object 2 and forms an image on the light receiving surface of the reflected light image detecting unit 4 by the light receiving optical system (lens) 3. The reflected light image detector 4 detects the intensity distribution of the reflected light, that is, the reflected light image. A mechanism for extracting only reflected light by separating it from external light in the reflected light image detection unit 4 will be described later.

【0038】反射光画像検出部4は反射光画像の各画素
の反射光量をシーケンシャルに出力する。反射光画像検
出部からの出力はアンプ5によって増幅され、A/D変
換器6によってデジタルデータに変換された後、メモリ
7に蓄えられる。しかるべきタイミングでこのメモリ7
より蓄積されたデータが読み出される。読み出されたデ
ータは例えば、図示しない特徴情報生成部において処理
される。 これら全体の制御はしかるべきタイミングで
制御部9が行う。
The reflected light image detector 4 sequentially outputs the amount of reflected light from each pixel of the reflected light image. The output from the reflected light image detection unit is amplified by the amplifier 5, converted into digital data by the A / D converter 6, and stored in the memory 7. This memory 7 at the right time
The stored data is read. The read data is processed in, for example, a characteristic information generation unit (not shown). The whole control is performed by the control unit 9 at an appropriate timing.

【0039】反射光画像検出部4は、画像の1画素分に
相当する単位受光部であるセルが2次元的に並べられて
いる。この点ではCCDイメージセンサなど他の撮像素
子と似ている。異なるのは、セル構造の中に外光から分
離して反射光のみを取り出すためのしくみがあることで
ある。セルは光電変換部と蓄積方向制御部と第1および
第2の電荷蓄積部と、選択出力部からなる。
In the reflected light image detecting section 4, cells which are unit light receiving sections corresponding to one pixel of an image are two-dimensionally arranged. In this respect, it is similar to other imaging devices such as a CCD image sensor. The difference is that the cell structure has a mechanism for extracting only reflected light by separating it from external light. The cell includes a photoelectric conversion unit, a storage direction control unit, first and second charge storage units, and a selection output unit.

【0040】光電変換部は入射した光を電荷に変換す
る。第1および第2の電荷蓄積部は光電変換部において
発生した電荷を蓄積する手段である。蓄積方向制御部は
光電変換部において発生した電荷を第1、第2の電荷蓄
積部のいずれに蓄積するかを制御する手段である。選択
出力部は第1、第2の電荷蓄積部のいずれか選択しその
電荷をセル外部へ読み出すための手段である。
The photoelectric conversion unit converts incident light into electric charges. The first and second charge storage units are means for storing charges generated in the photoelectric conversion unit. The storage direction control unit is a unit that controls which of the first and second charge storage units stores the charge generated in the photoelectric conversion unit. The selection output section is a means for selecting one of the first and second charge storage sections and reading out the charge outside the cell.

【0041】1枚の反射光画像を得るために以下のよう
な動作を行う。まず発光部1がパルスを発光する。発光
している間、光電変換部で発生した電荷を第1の電荷蓄
積部に蓄積する。次に発光していない間に、光電変換部
で発生した電荷を第2の電荷蓄積部に蓄積する。
The following operation is performed to obtain one reflected light image. First, the light emitting unit 1 emits a pulse. While emitting light, the charge generated in the photoelectric conversion unit is stored in the first charge storage unit. Next, while no light is emitted, the charge generated in the photoelectric conversion unit is stored in the second charge storage unit.

【0042】以上のように、第1の電荷蓄積部には反射
光と室内照明、太陽光などの外光を受光した電荷量が、
第2の電荷蓄積部には外光のみを受光した電荷量が蓄積
される。セルから電荷を読み出すときは、2つの電荷蓄
積量を順番に読み出し外部の差分回路でその差分を取り
出す。第1の電荷蓄積部の蓄積量から第2の電荷蓄積部
の蓄積量を引くと、反射光成分のみが取り出される。
As described above, in the first charge storage portion, the amount of charge received by reflected light, room illumination, and external light such as sunlight is:
The second charge accumulating portion accumulates the amount of electric charge that has received only external light. When reading charges from the cell, the two charge storage amounts are read in order and the difference is taken out by an external difference circuit. When the accumulation amount of the second charge accumulation unit is subtracted from the accumulation amount of the first charge accumulation unit, only the reflected light component is extracted.

【0043】上の説明では、第1、第2の電荷蓄積部へ
の電荷蓄積は1回ずつであったが、回数はこれに限らな
い。例えば2つの電荷蓄積部への蓄積を10回繰り返し
てもよい。また、第1、第2の電荷蓄積部への電荷蓄積
回数が異なってもよい。例えば、始めに第1の電荷蓄積
部へ1ms蓄積し、ついで第2の電荷蓄積部へ2ms蓄積
し、最後にもう一度第1の電荷蓄積部へ1ms蓄積しても
よい。このようにすると、外光の変動の影響を受けにく
い。
In the above description, the charge is stored once in the first and second charge storage units, but the number is not limited to this. For example, accumulation in two charge accumulation units may be repeated ten times. Further, the number of times of charge storage in the first and second charge storage units may be different. For example, 1 ms may be stored in the first charge storage unit, then 2 ms may be stored in the second charge storage unit, and finally 1 ms may be stored again in the first charge storage unit. In this case, it is hard to be affected by the fluctuation of the external light.

【0044】発光部1は人間の目に見えない、不可視光
を発光する。より具体的には近赤外光を発光するLED
はそのコスト、装置への組み込みやすさから言っても好
適である。不可視光であるため、使用者は眩しさを感じ
ずに済む。
The light emitting section 1 emits invisible light which is invisible to human eyes. More specifically, an LED that emits near-infrared light
Is preferable because of its cost and ease of incorporation into the device. Since it is invisible light, the user does not need to feel glare.

【0045】また、より好適には受光光学系(レンズ)
には、図示しない波長選択型光学フィルタが設けてあ
る。近赤外光を用いる場合は、このフィルタは発光波長
である近赤外光を通過し、可視光、遠赤外光を遮断す
る。従って、ノイズとなる外光の多くをカットしてい
る。
More preferably, a light receiving optical system (lens)
Is provided with a wavelength-selective optical filter (not shown). When near-infrared light is used, this filter passes near-infrared light, which is an emission wavelength, and blocks visible light and far-infrared light. Therefore, much of the external light that becomes noise is cut off.

【0046】上記で述べた撮像装置の構成はほんの一例
である。実際にはさまざまな形で反射光画像を得る装置
を構成できる。本特許では発光部と受光光学系(レン
ズ)の位置関係を主にした発明を述べているので、撮像
素子自体の細かい構成は問わない。
The configuration of the imaging device described above is only one example. In practice, devices for obtaining reflected light images in various forms can be configured. In this patent, since the invention mainly focusing on the positional relationship between the light emitting unit and the light receiving optical system (lens) is described, the detailed configuration of the imaging element itself does not matter.

【0047】上の説明では、単位セル内に2つの電荷蓄
積部を持つ撮像素子を例に挙げたが、例えば、セル内に
は電荷蓄積部は1つしかなく、差分を得るしくみをセル
外に用意してもよい。同じ考え方で、既存のCCDイメ
ージセンサなどを用いてもこの撮像装置を構成すること
はできる。
In the above description, an image pickup device having two charge storage units in a unit cell has been described as an example. However, for example, there is only one charge storage unit in a cell, and a mechanism for obtaining a difference is described below. May be prepared. With the same concept, this imaging device can be configured using an existing CCD image sensor or the like.

【0048】<反射光画像の利用>物体からの反射光
は、物体の距離が大きくなるにつれ大幅に減少する。物
体の表面が一様に光を散乱する場合、反射光画像1画素
あたりの受光量は物体までの距離の2乗に反比例して小
さくなる。従って、本入力装置の前に物体を置いたと
き、背景からの反射光はほぼ無視できるくらいに小さく
なり、物体のみからの反射光画像を得ることが出来る。
<Utilization of Reflected Light Image> The reflected light from the object decreases significantly as the distance to the object increases. When the surface of the object scatters light uniformly, the amount of light received per pixel of the reflected light image decreases in inverse proportion to the square of the distance to the object. Therefore, when an object is placed in front of the input device, the reflected light from the background becomes almost negligible, and a reflected light image from only the object can be obtained.

【0049】例えば、入力装置の前に手を持ってきた場
合、その手からの反射光画像が得られる。この時、反射
光画像の各画素値は、その画素に対応する単位受光セル
で受光した反射光の量を表す。
For example, when a hand is brought in front of the input device, a reflected light image from the hand is obtained. At this time, each pixel value of the reflected light image represents the amount of reflected light received by the unit light receiving cell corresponding to that pixel.

【0050】反射光量は、物体の性質(光を鏡面反射す
る、散乱する、吸収する、など)、物体面の向き、物体
の距離、などに影響されるが、物体全体が一様に光を散
乱する物体である場合、その反射光量は物体までの距離
と密接な関係を持つ。手などはこのような性質を持つた
め、手を差し出した場合の反射光画像は、手の距離、手
の傾き(部分的に距離が異なる)、などを反映する。従
ってこれらの特徴情報を抽出することによって、様々な
情報の入力・生成が可能になる。
The amount of reflected light is affected by the properties of the object (specular reflection, scattering, absorption, etc.) of the object, the direction of the object surface, the distance of the object, and the like. In the case of a scattering object, the amount of reflected light has a close relationship with the distance to the object. Since a hand or the like has such a property, the reflected light image when the hand is put out reflects the distance of the hand, the inclination of the hand (partially different distance), and the like. Therefore, by extracting these pieces of characteristic information, it is possible to input and generate various information.

【0051】反射光画像の加工の仕方の代表例は、距離
情報の抽出と、領域抽出である。先にも述べたように、
物体が一様で均質な散乱面を持つ物体であれば、反射光
画像は距離画像と見なすことができる。従って、物体の
立体形状を抽出することができる。物体が手であれば、
手のひらの傾きなどが検出できる。手のひらの傾きは部
分的な距離の違いとして現れる。
Representative examples of how to process the reflected light image are extraction of distance information and extraction of an area. As mentioned earlier,
If the object has a uniform and uniform scattering surface, the reflected light image can be regarded as a distance image. Therefore, the three-dimensional shape of the object can be extracted. If the object is a hand,
The inclination of the palm can be detected. The tilt of the palm appears as a partial difference in distance.

【0052】また、手を移動させたときに画素値が変わ
れば、距離が移動したと見ることができる。また、背景
のように遠い物体からの反射光はほとんどないため、反
射光画像からあるしきい値以上の領域を切り出すという
処理で、物体の形状を簡単に切り出すことができる。
If the pixel value changes when the hand is moved, it can be regarded that the distance has moved. Also, since there is almost no reflected light from a distant object such as the background, the shape of the object can be easily cut out by processing to cut out an area above a certain threshold from the reflected light image.

【0053】例えば、物体が手であれば、そのシルエッ
ト像を切り出すのは極めて容易である。また画素値が距
離と密接な関係を持つため物体の凹凸の情報を得ること
ができる。これは3次元形状の獲得が可能であることを
示す。
For example, if the object is a hand, it is very easy to cut out a silhouette image thereof. Further, since the pixel value is closely related to the distance, it is possible to obtain information on the unevenness of the object. This indicates that a three-dimensional shape can be obtained.

【0054】また反射光画像よりさまざまな特徴情報を
抽出することができる。この特徴情報あるいは特徴情報
の抽出方法は様々考えられる。例えば形状の面積や重心
の位置、水平方向、垂直方向の広がり、およびそれらの
時間的変化などを抽出することができます。また手の形
から指先の位置などを検出することもできる。また距離
情報も併用した特徴量を求めることもできる。
Various characteristic information can be extracted from the reflected light image. There are various methods for extracting the characteristic information or the characteristic information. For example, you can extract the shape area and the position of the center of gravity, the horizontal and vertical directions, and their temporal changes. In addition, the position of the fingertip can be detected from the shape of the hand. It is also possible to obtain a feature amount that also uses distance information.

【0055】これらの特徴情報からジェスチャーやポイ
ンティングなどの情報を生成し、これによりコンピュー
タなどの操作を行うことができる。また対象物体の立体
情報を抽出し、利用することもできる。また、コンピュ
ータに限らず、AV機器や家電製品などの機器や非接触
で操作したい医療機器や汚れた手のままで操作したい工
場などの装置などさまざまな製品に応用できる。
Information such as gestures and pointing is generated from these pieces of characteristic information, so that a computer or the like can be operated. It is also possible to extract and use the three-dimensional information of the target object. Further, the present invention can be applied not only to computers but also to various products such as devices such as AV devices and home electric appliances, medical devices that need to be operated in a non-contact manner, and devices such as factories that want to operate with dirty hands.

【0056】<明るさを距離に変換することを説明>こ
れまでにも述べたように、本装置では、発光部により光
を発し、その光の対象物体による反射光を画像として獲
得する。したがって、物体が近くに存在すれば反射光は
大きくなり、物体が遠くになれば反射光は小さくなる。
物体面が光軸と垂直であり、その表面が完全拡散面だと
仮定すると、物体面上からの反射光を受光する、受光セ
ル(反射光画像の1画素に相当する)が受ける光の量
は、物体面までの距離の2乗に反比例する。
<Explanation of Converting Brightness into Distance> As described above, in this apparatus, light is emitted by the light emitting unit, and the reflected light of the object by the light is acquired as an image. Therefore, the reflected light increases when the object is near, and decreases when the object is far away.
Assuming that the object surface is perpendicular to the optical axis and that the surface is a perfect diffusion surface, the amount of light received by the light receiving cell (corresponding to one pixel of the reflected light image) that receives the reflected light from the object surface Is inversely proportional to the square of the distance to the object plane.

【0057】実際には、物体面が完全拡散面でないこと
もあるし、物体面は光軸に垂直でなければ反射光量は減
衰する。また発光部が均一に対象空間を照らしていなけ
れば対象物体の位置によっても反射光量が変わる。した
がって、精度良く求めようとすればさまざまな補正を行
う必要はある。しかし基本的には反射光量、つまり画素
値は距離と関係を持つ。
In practice, the object surface may not be a perfect diffusion surface, and the amount of reflected light attenuates unless the object surface is perpendicular to the optical axis. If the light emitting unit does not uniformly illuminate the target space, the amount of reflected light varies depending on the position of the target object. Therefore, it is necessary to perform various corrections in order to obtain the accuracy. However, basically, the amount of reflected light, that is, the pixel value has a relationship with the distance.

【0058】このように反射光を用いることで、物体を
背景から切り出すことができる。一方、反射光でなく、
通常の画像(可視光による受動的な)撮像も可能であ
る。本発明は、通常の撮像と反射光による距離画像の撮
像と双方を可能にするものである。
The object can be cut out from the background by using the reflected light as described above. On the other hand, instead of reflected light,
Normal image (passive with visible light) imaging is also possible. The present invention enables both normal imaging and imaging of a distance image by reflected light.

【0059】図2は本発明の正面からみた概観と横から
みた概観を示すものである。図3は本発明をほぼ真上か
ら見たものである。筐体は周囲からの光がもれこまない
ように、密閉型になっている。電源など熱を発生する部
分には、熱を発散するための放射板などが設置されたり
する。レンズ3の周囲に発光部であるLED1が複数並
んでいる。レンズ3の後ろに反射光画像検出部4が配置
されている。
FIG. 2 shows a front view and a side view of the present invention. FIG. 3 is a view of the present invention from almost right above. The housing is sealed so that light from the surroundings does not leak. A radiation plate or the like for dissipating heat is installed in a portion that generates heat, such as a power supply. A plurality of LEDs 1 serving as light emitting units are arranged around the lens 3. A reflected light image detection unit 4 is disposed behind the lens 3.

【0060】LED1の下には、電源がはいっているか
どうかを示す電源ON/OFF表示器31が設置され、
例えば、ONの時には、緑色に点灯し、OFFの時に
は、点灯が消えることにより、ユーザが簡単に電源ON
/OFFを確認できるようになっている。電源ON/O
FFのスイッチは、この筐体の後部につけることも可能
である。あるいは、接続されているパソコンなどのコン
ピュータ側からソフトウェア的にON/OFFすること
も可能である。
Below the LED 1, a power ON / OFF indicator 31 for indicating whether the power is on or not is provided.
For example, when the power is on, the light turns green, and when the power is off, the light turns off.
/ OFF can be confirmed. Power ON / O
The switch of the FF can be attached to the rear of the housing. Alternatively, it is also possible to turn on / off by software from a computer such as a connected personal computer.

【0061】また、蛍光灯などの外光によるノイズを除
くために、外光の周波数の検知などを行う必要がある。
このための外光検出部32が、レンズと同じ側で、この
例では、電源ON/OFF表示器31とは反対側の上部
に設置されている。
In order to remove noise due to external light such as a fluorescent lamp, it is necessary to detect the frequency of the external light.
The external light detection unit 32 for this purpose is installed on the same side as the lens, in this example, on the upper side opposite to the power ON / OFF indicator 31.

【0062】この筐体はコの字型の支え部で支えられて
おり、その接触部は図2の側面図からわかるように、例
えばこの字型のアクリルでできた支持部に円形にあいて
いる穴の部分にちょうど筐体が収まるように溝が掘られ
ていて、その部分で支持、回転ができるようになってい
る。
This housing is supported by a U-shaped support portion, and the contact portion is, as can be seen from the side view in FIG. A groove is dug so that the housing fits exactly in the hole where it is located, so that it can be supported and rotated.

【0063】図3では、不可視光と可視光の撮像を切り
替えるための切り替え部10のうち、スイッチ部を示し
ている。図4は、切り替え部10の詳細を示している。
切り替え部10は2枚のフィルタがはめ込まれ、切り替
えスイッチにより可動し、レンズに対し、2枚のフィル
タを切り替えを行えるフィルタはめ込み部103と、不
可視光撮像用フィルタ101と可視光撮像用フィルタ1
02とから構成されている。
FIG. 3 shows a switch section of the switching section 10 for switching between invisible light and visible light imaging. FIG. 4 shows details of the switching unit 10.
The switching unit 10 has two filters fitted therein, is movable by a changeover switch, and is capable of switching the two filters for the lens. The filter fitting unit 103, the invisible light imaging filter 101, and the visible light imaging filter 1
02.

【0064】不可視光撮像用フィルタ101は例えば、
近赤外通過バンドパスフィルタ(BPF)から構成され
ており、発光部のLED1が発光する近赤外光のみを通
過し、他の波長の光は遮断するようになっている。
The invisible light imaging filter 101 is, for example,
It is composed of a near-infrared pass bandpass filter (BPF), which passes only near-infrared light emitted by the LED 1 of the light emitting unit and blocks light of other wavelengths.

【0065】一方の可視光撮像用フィルタ102はアク
リル板から構成されている。可視光撮像時にも、発光部
のLED1を点灯する場合には、近赤外光を遮断するた
めに、可視光通過バンドパスフィルタを用いる必要があ
る。また、撮像素子の感度特性が視感度と大きく異なる
場合は、視感度補正フィルタを用いることもできる。
One visible light imaging filter 102 is formed of an acrylic plate. In the case of turning on the LED 1 of the light emitting unit even during visible light imaging, it is necessary to use a visible light passing bandpass filter in order to block near-infrared light. If the sensitivity characteristic of the image sensor is significantly different from the luminosity, a luminosity correction filter can be used.

【0066】ここで、可視光と不可視光のフィルタの厚
さを同一にすると、図6のように、不可視光撮像時と可
視光撮像時で結像面の位置が異なってしまう。不可視光
撮像用フィルタ使用時のフランジバック(レンズの鏡筒
終端から結像面までの距離、FBと略称する)104が
可視光撮像用フィルタ使用時のフランジバック105よ
り短い。フィルタの厚さが同一の場合には、図6に示す
ように撮像面の位置を物理的に異ならせる必要がある。
しかし、物理的に撮像部4の位置を移動するには、機構
が大がかりになり、また精度を低下させるので望ましく
ない。
Here, if the thicknesses of the visible light and invisible light filters are the same, as shown in FIG. 6, the position of the image plane differs between invisible light imaging and visible light imaging. The flange back 104 (the distance from the end of the lens barrel to the imaging plane, abbreviated as FB) 104 when using the invisible light imaging filter is shorter than the flange back 105 when using the visible light imaging filter. When the thickness of the filter is the same, the position of the imaging surface needs to be physically different as shown in FIG.
However, physically moving the position of the imaging unit 4 is not desirable because it requires a large-scale mechanism and reduces accuracy.

【0067】そこで、図5に示すようにフィルタの厚さ
を異ならせることで、フランジバック長の異なりを吸収
する。例えば、不可視光撮像用フィルタを用いた際のフ
ランジバックをFi,フィルタの屈折率をni,フィル
タの厚さをWiとし、可視光撮像時のフランジバックを
Fd,フィルタの屈折率をnd,フィルタの厚さをWd
とすると、 Fd+(1+1/nd)・Wd=Fi+(1+1/n
i)・Wi という関係式が成り立つ。そこで、この関係を満たすよ
うに、フィルタの厚さWi,Wdを決定するとよい。
Therefore, as shown in FIG. 5, by making the thickness of the filter different, the difference in the flange back length is absorbed. For example, when a filter for invisible light imaging is used, the flange back is Fi, the refractive index of the filter is ni, the thickness of the filter is Wi, the flange back is Fd for visible light imaging, the refractive index of the filter is nd, and the filter is nd. The thickness of Wd
Then, Fd + (1 + 1 / nd) · Wd = Fi + (1 + 1 / n)
i) · Wi holds. Therefore, the thicknesses Wi and Wd of the filter may be determined so as to satisfy this relationship.

【0068】また、単に、不可視光撮像用フィルタ10
1の厚さを薄くし、不可視光撮像時のフランジバック1
04と可視光撮像時のフランジバック105を仮想的に
一致させる方法もある。不可視光撮像用フィルタ101
の厚さはそのままで、可視光撮像用フィルタ102の厚
さを厚くする方法では、レンズ3と撮像部4との距離が
大きくなり、装置が小型化しにくくなる。装置を小型す
るためには、レンズ3と撮像部4との距離を大きくした
くないために、不可視光撮像用フィルタ101の厚さが
薄くなり、製作過程で破損が発生し、歩留まりを大きく
低減させる要因となる。また、フィルタの種類によって
は、薄くするとその性能が劣化する。
The invisible light imaging filter 10
Flange back 1 for invisible light imaging by reducing the thickness of 1
There is also a method of virtually matching the flange back 105 at the time of imaging with visible light. Invisible light imaging filter 101
In the method of increasing the thickness of the visible light imaging filter 102 while keeping the thickness of the filter unchanged, the distance between the lens 3 and the imaging unit 4 is increased, and it is difficult to reduce the size of the apparatus. In order to reduce the size of the device, the thickness of the invisible light imaging filter 101 is reduced because the distance between the lens 3 and the imaging unit 4 is not desired to be large, and the filter is damaged during the manufacturing process, thereby greatly reducing the yield. It is a factor to make it. Further, depending on the type of the filter, the performance deteriorates when the filter is made thin.

【0069】このような不具合を解決するために、図5
に示すように、不可視光撮像用フィルタ101の厚さは
そのままで、可視光撮像用フィルタ102の厚さを厚く
するために、フィルタはめ込み部103にはめ込まれて
いる部分の厚さは、不可視光撮像用フィルタ101の厚
さと同一にし、それ以外の部分を厚くしている。このた
め、レンズ3と撮像部4との距離を大きくすることな
く、かつ不可視光撮像用フィルタ101の厚さを薄くす
ることなく、可視光撮像用フィルタ102の厚さを厚く
することができ、仮想的に不可視光撮像用フィルタフラ
ンジバック104と可視光撮像用フィルタフランジバッ
ク105を一致させることができる。
To solve such a problem, FIG.
As shown in the figure, in order to increase the thickness of the visible light imaging filter 102 while keeping the thickness of the invisible light imaging filter 101, the thickness of the portion fitted into the filter fitting portion 103 is set to the invisible light The thickness is the same as the thickness of the imaging filter 101, and the other portions are thickened. For this reason, the thickness of the visible light imaging filter 102 can be increased without increasing the distance between the lens 3 and the imaging unit 4 and without reducing the thickness of the invisible light imaging filter 101. The invisible light imaging filter flange back 104 and the visible light imaging filter flange back 105 can be virtually matched.

【0070】以上のように撮像して得られた画像を図7
に示す。図7(a)が、可視光撮像の画像、図7(b)
が不可視光撮像の画像である。可視光撮像では通常の画
像が得られ、これに対し、図7(b)は、手の部分のみ
が背景から切り出された画像が撮像できていることがわ
かる。
FIG. 7 shows an image obtained by imaging as described above.
Shown in FIG. 7A shows an image of visible light imaging, and FIG.
Is an image captured by invisible light. In the visible light imaging, a normal image is obtained, whereas in FIG. 7B, it can be seen that an image in which only the hand is cut out from the background can be captured.

【0071】さらに、製品工程においては、レンズのピ
ント合わせをおこなう必要がある。不可視光のピント合
わせを行うには、従来の方法では、LED1を発光させ
ておこなう必要がある。が、本発明により、可視光でピ
ント合わせを行えば、同一のピントで不可視光も撮像が
できる。このため、検査冶具は、LED1と不可視光撮
像用フィルタ101を除いた構成で行うことができる。
Further, in the product process, it is necessary to focus the lens. In order to perform focusing of invisible light, it is necessary to cause the LED 1 to emit light in the conventional method. However, according to the present invention, if focusing is performed with visible light, invisible light can be imaged with the same focus. For this reason, the inspection jig can be performed in a configuration excluding the LED 1 and the invisible light imaging filter 101.

【0072】[0072]

【発明の効果】上述のように本発明によれば、撮像モジ
ュールを大型にすることなく、またフィルタの破損ない
厚さで、異なるフィルタ厚を実現し、仮想的にフランジ
バックを可視光と不可視光とで同一にして、可視光と不
可視光の切り替えを実現できる。
As described above, according to the present invention, different filter thicknesses can be realized without increasing the size of the imaging module and without causing damage to the filter, and virtually eliminate the flange back from visible light and invisible light. Switching between visible light and invisible light can be realized using the same light.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明が適用する、発光部と撮像部を持った入
力装置の構成
FIG. 1 is a configuration of an input device having a light emitting unit and an imaging unit to which the present invention is applied.

【図2】本発明の概観を示す正面図と側面図FIG. 2 is a front view and a side view showing an overview of the present invention.

【図3】本発明の概観を示す真上からみた図FIG. 3 is a diagram showing an overview of the present invention as viewed from directly above.

【図4】可視光と不可視光の切り替え部の正面図FIG. 4 is a front view of a switching section for switching between visible light and invisible light.

【図5】可視光と不可視光のフィルタの厚さの違いを示
す図
FIG. 5 is a view showing a difference in thickness between visible light and invisible light filters.

【図6】可視光と不可視光のフランジバックの長さの違
いを示す図
FIG. 6 is a diagram showing the difference in the length of the flange back between visible light and invisible light.

【図7】可視光と不可視光での撮像結果を示す図FIG. 7 is a diagram showing imaging results with visible light and invisible light.

【符号の説明】[Explanation of symbols]

1…発光部 2…対象物体 3…受光光学系(レンズ) 4…反射光画像検出部 5…アンプ 6…A/D変換器 7…メモリ 8…I/F回路 9…制御部 10…切り替え部 101…不可視光撮像用フィルタ 102…可視光撮像用フィルタ 103…フィルタはめ込み部 DESCRIPTION OF SYMBOLS 1 ... Light emission part 2 ... Target object 3 ... Light receiving optical system (lens) 4 ... Reflected light image detection part 5 ... Amplifier 6 ... A / D converter 7 ... Memory 8 ... I / F circuit 9 ... Control part 10 ... Switching part 101: Filter for invisible light imaging 102: Filter for visible light imaging 103: Filter fitting part

───────────────────────────────────────────────────── フロントページの続き (72)発明者 村田 貴比呂 神奈川県川崎市幸区小向東芝町1番地 株 式会社東芝研究開発センター内 (72)発明者 石川 実 神奈川県川崎市幸区小向東芝町1番地 株 式会社東芝研究開発センター内 (72)発明者 森下 明 神奈川県川崎市幸区小向東芝町1番地 株 式会社東芝研究開発センター内 ──────────────────────────────────────────────────続 き Continuing on the front page (72) Inventor: Takahiro Murata 1st, Komukai Toshiba-cho, Saiwai-ku, Kawasaki City, Kanagawa Prefecture Inside the Toshiba R & D Center (72) Inventor: Minoru Ishikawa Komukai, Saiyuki-ku, Kawasaki City, Kanagawa Prefecture No. 1, Toshiba-cho, Toshiba R & D Center (72) Inventor Akira Morishita, No. 1, Komukai Toshiba-cho, Koyuki-ku, Kawasaki-shi, Kanagawa, Japan Toshiba R & D Center

Claims (5)

【特許請求の範囲】[Claims] 【請求項1】不可視光を撮像するための第1のフィルタ
と、この第1のフィルタと異なる厚さを有する可視光を
撮像するための第2のフィルタと、これら2つのフィル
タを切り替えるスイッチと、このスイッチと連動して可
動し第1のフィルタと第2のフィルタとの切り替えを行
えるように第1のフィルタと第2のフィルタとを配置し
たフィルタはめ込み部とから構成された切り替え手段
と、 不可視光あるいは可視光を集光するためのレンズと、 このレンズにより集光され、前記切り替え手段によって
切り替えられた第1のフィルタを通過した不可視光ある
いは第2のフィルタを通過した可視光を撮像する撮像素
子とを具備したことを特徴とする撮像モジュール。
1. A first filter for imaging invisible light, a second filter for imaging visible light having a thickness different from that of the first filter, and a switch for switching between these two filters. A switching means comprising a filter fitting portion in which the first filter and the second filter are arranged so as to be movable in conjunction with the switch and to switch between the first filter and the second filter; A lens for condensing invisible light or visible light, and an image of invisible light condensed by the lens and passing through the first filter switched by the switching means or visible light passing through the second filter. An imaging module, comprising: an imaging element.
【請求項2】アレイ状に配列された受光セルが受光した
電荷の差分をとるエリアイメージセンサと、 パルス信号もしくは変調信号を発生させるタイミング信
号生成手段と、 前記エリアイメージセンサの受光セルの受光を個別に制
御するための制御信号を、前記タイミング信号生成手段
からの信号に基づいて生成する制御信号生成手段と、 前記タイミング信号生成手段からの信号に基づいて強度
変化する光を発する発光手段と、 この発光手段の発光する光の反射光を撮像するための第
1のフィルタと、この第1のフィルタと異なる厚さの可
視光を撮像するための第2のフィルタと、これら2つの
フィルタを切り替えるスイッチと、このスイッチと連動
して可動し第1のフィルタと第2のフィルタとの切り替
えを行えるように第1のフィルタと第2のフィルタとを
配置したフィルタはめ込み部とから構成された切り替え
手段と、 不可視光あるいは可視光を集光するためのレンズと、 このレンズにより集光され、前記切り替え手段によって
切り替えられた第1のフィルタを通過した不可視光ある
いは第2のフィルタを通過した可視光を撮像する撮像素
子とを具備したことを特徴とする撮像モジュール。
2. An area image sensor for taking a difference between charges received by light receiving cells arranged in an array, a timing signal generating means for generating a pulse signal or a modulation signal, and a light receiving cell of the area image sensor for receiving light. A control signal for individually controlling, a control signal generating unit that generates based on a signal from the timing signal generating unit, and a light emitting unit that emits light whose intensity changes based on a signal from the timing signal generating unit, A first filter for imaging reflected light of light emitted by the light emitting means, a second filter for imaging visible light having a thickness different from that of the first filter, and switching between these two filters A switch, and a first filter that is movable in conjunction with the switch to switch between the first filter and the second filter. A switching means comprising a filter fitting part in which a second filter is disposed; a lens for condensing invisible light or visible light; and a first light condensed by the lens and switched by the switching means. An image pickup device for picking up an image of invisible light passed through the filter or visible light passed through the second filter.
【請求項3】可視光域における前記レンズの鏡筒終端か
ら結像面までの距離と不可視光域における前記レンズの
鏡筒終端から結像面までの距離の差を吸収するよう、第
1のフィルタと第2のフィルタの厚さを異ならせたこと
を特徴とする特徴とする請求項1あるいは請求項2に記
載の撮像モジュール。
3. A method for absorbing a difference between a distance from a lens barrel end of the lens to an image forming surface in a visible light region and a distance from the lens barrel end of the lens to an image forming surface in an invisible light region. 3. The imaging module according to claim 1, wherein the thickness of the filter is different from that of the second filter.
【請求項4】第1のフィルタと第2のフィルタの異なる
厚さに応じて、少なくとも一方のフィルタに関し、フィ
ルタはめ込み部へのはめ込み部とそれ以外の部位との厚
みとを異ならせることを特徴とする請求項1あるいは請
求項2に記載の撮像モジュール。
4. The filter according to claim 1, wherein at least one of the first filter and the second filter has a thickness different from that of a portion fitted to the filter fitting portion and a thickness of the other portion. The imaging module according to claim 1 or 2, wherein
【請求項5】第2のフィルタを用いて可視光を撮像する
ときには、発光手段が発光しないように前記タイミング
信号生成手段で生成する信号を制御することを特徴とす
る請求項2に記載の撮像モジュール。
5. The imaging apparatus according to claim 2, wherein when imaging visible light using the second filter, a signal generated by the timing signal generation unit is controlled so that the light emission unit does not emit light. module.
JP02342499A 1999-02-01 1999-02-01 Imaging module provided with switching means Expired - Fee Related JP3590286B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP02342499A JP3590286B2 (en) 1999-02-01 1999-02-01 Imaging module provided with switching means

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP02342499A JP3590286B2 (en) 1999-02-01 1999-02-01 Imaging module provided with switching means

Publications (2)

Publication Number Publication Date
JP2000221574A true JP2000221574A (en) 2000-08-11
JP3590286B2 JP3590286B2 (en) 2004-11-17

Family

ID=12110131

Family Applications (1)

Application Number Title Priority Date Filing Date
JP02342499A Expired - Fee Related JP3590286B2 (en) 1999-02-01 1999-02-01 Imaging module provided with switching means

Country Status (1)

Country Link
JP (1) JP3590286B2 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006106342A (en) * 2004-10-05 2006-04-20 Canon Inc Device for supporting lens movement
JP2006162757A (en) * 2004-12-03 2006-06-22 Fujinon Corp Photographic lens
JP2007043657A (en) * 2005-05-16 2007-02-15 Victor Co Of Japan Ltd Electronic appliance
JP2007300451A (en) * 2006-05-01 2007-11-15 Fujitsu Ltd Electronic apparatus with imaging device
JP2010136223A (en) * 2008-12-05 2010-06-17 Sony Corp Imaging device and imaging method

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006106342A (en) * 2004-10-05 2006-04-20 Canon Inc Device for supporting lens movement
JP4566680B2 (en) * 2004-10-05 2010-10-20 キヤノン株式会社 Lens movement support device
JP2006162757A (en) * 2004-12-03 2006-06-22 Fujinon Corp Photographic lens
JP2007043657A (en) * 2005-05-16 2007-02-15 Victor Co Of Japan Ltd Electronic appliance
JP4544195B2 (en) * 2005-05-16 2010-09-15 日本ビクター株式会社 Electronics
JP2007300451A (en) * 2006-05-01 2007-11-15 Fujitsu Ltd Electronic apparatus with imaging device
JP2010136223A (en) * 2008-12-05 2010-06-17 Sony Corp Imaging device and imaging method
JP4702441B2 (en) * 2008-12-05 2011-06-15 ソニー株式会社 Imaging apparatus and imaging method
US8416303B2 (en) 2008-12-05 2013-04-09 Sony Corporation Imaging apparatus and imaging method

Also Published As

Publication number Publication date
JP3590286B2 (en) 2004-11-17

Similar Documents

Publication Publication Date Title
JP3868621B2 (en) Image acquisition apparatus, image acquisition method, and recording medium
JPH1185386A (en) Image pickup module and image pickup device
JP3321053B2 (en) Information input device, information input method, and correction data generation device
JP3410919B2 (en) Image extraction device
JP6270808B2 (en) Motion sensor device having a plurality of light sources
JP6299983B2 (en) Motion sensor device having a plurality of light sources
JP6302414B2 (en) Motion sensor device having a plurality of light sources
CN104717422B (en) Show equipment and display methods
JP5740822B2 (en) Information processing apparatus, information processing method, and program
JP2015526927A (en) Context-driven adjustment of camera parameters
WO2009035702A1 (en) Digital image capture device and method
JP2004304718A (en) Apparatus and method for extracting image of close region
WO2018069867A1 (en) Method and apparatus for indoor positioning
EP3381015B1 (en) Systems and methods for forming three-dimensional models of objects
CN101464745A (en) Back projection light source type touch recognition device and method thereof
JP3590286B2 (en) Imaging module provided with switching means
JP3625349B2 (en) Image input apparatus and image input method
CN113273176B (en) Automated movie production using image-based object tracking
JP3625390B2 (en) Image acquisition apparatus and method
JP2003067108A (en) Information display device and operation recognition method for the same
JPH04127674A (en) Picture processor
CN106096472A (en) Optical information reading apparatus
JP3785148B2 (en) Image extraction device
JP7386703B2 (en) Compensation for vignetting
JP2006127539A (en) Device for extracting image

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20040227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040312

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040511

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040817

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040819

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20070827

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080827

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees