WO1997031484A1 - Wide visual-field recognizing system - Google Patents

Wide visual-field recognizing system Download PDF

Info

Publication number
WO1997031484A1
WO1997031484A1 PCT/JP1997/000480 JP9700480W WO9731484A1 WO 1997031484 A1 WO1997031484 A1 WO 1997031484A1 JP 9700480 W JP9700480 W JP 9700480W WO 9731484 A1 WO9731484 A1 WO 9731484A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
wide
image processing
visual recognition
processing device
Prior art date
Application number
PCT/JP1997/000480
Other languages
French (fr)
Japanese (ja)
Inventor
Hiroshi Yokota
Original Assignee
Kabushiki Kaisha Yokota Seisakusho
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kabushiki Kaisha Yokota Seisakusho filed Critical Kabushiki Kaisha Yokota Seisakusho
Priority to GB9818050A priority Critical patent/GB2325815A/en
Priority to AU17341/97A priority patent/AU1734197A/en
Publication of WO1997031484A1 publication Critical patent/WO1997031484A1/en

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources

Definitions

  • the present invention is an apparatus that obtains a wide range of images without blind spots without moving the viewpoint of shooting.
  • the present invention not only displays an image shot by a wide-angle lens, but also selects an image.
  • An image hereinafter, referred to as an “approximate original image” that approximates the original shape of the object (hereinafter, referred to as an “original image”) by correcting the image distortion of the selected area is also displayed. It concerns the device. Background art
  • the present invention solves these disadvantages of the conventional visual recognition device by introducing a photographing device, image processing device, and display device based on a new technical concept, and tolerates image distortion during the process of photographing an object without blind spots.
  • An object of the present invention is to perform an image processing for correcting an image distortion of a region of interest in the image so that an approximate original image of the object can be easily recognized. Disclosure of the invention
  • image distortion is tolerated, and image processing is performed to correct the image distortion of the region of interest in the image, so that an approximate original image of the object can be easily viewed. It can be observed over a wide range and a specific part can be visually recognized accurately.
  • the display device 3 may be a projection device that projects an image onto a substantially spherical screen via a wide-angle lens.
  • the installation position of the projection device is shifted from the central axis of the substantially spherical screen.
  • the image processing device 2 performs image correction processing so that the image is approximated to the original image when viewed from a position substantially on the center axis of the image screen projected from the installation position. Good.
  • FIG. 10 is a plan view showing the principle of the present invention.
  • FIG. 11 is a plan view showing the principle of the present invention.
  • the installation position of the imaging device 1 may be appropriately selected depending on the application.
  • an embodiment in which the imaging device 1 is installed on the ceiling of a room for monitoring and both the objects P 1 and P 2 can be visually recognized is shown in FIG. Is shown in In this example, four corners of the room, for example, points f1 to f4 in the figure may be used as the reference coordinate points.
  • FIG. 13 shows an embodiment in which three or more photographing devices 1 are installed inward with respect to a common object p to photograph, but in this case, the object is There is an advantage that 3D position information over the entire surface of the object can be obtained, and a 3D image can be obtained more precisely.
  • FIG. 14 shows an embodiment of the projection system, and shows a manner in which an image taken in a wide field of view is projected on a substantially spherical screen having a wide field of view by the reverse process.
  • the projection device (display device) 3 is positioned at the center of the screen so that the observer can observe the projected image from a position on the substantially central axis of the screen, which is a visually optimal position.
  • the one installed at the position shifted from the axis is shown.
  • the images gl ′ to g2, to g3 ′ projected from the position shifted from the center axis of the screen are the most original images g1 to g3 when observed from a position substantially on the center axis of the screen.
  • the image processing device 2 is configured to perform image processing for correcting a shift between a projection point and an observation viewpoint so that the image looks similar to 2 to g3.
  • the wide-angle lens of the photographing device 1 has a surface angle of 18
  • the imaging device 1 may be provided with an imaging member such as a solid-state imaging device that converts an image into an electric signal immediately after the lens at the tip of the imaging device 1.
  • the imaging member 1 may be provided via an image transmission unit such as a physical fiber. It may be connected to.
  • a device for illuminating the object may be provided.
  • the arithmetic processing in the surface image processing device 2 may be performed by hardware including fixed electronic circuits in the device 2 or by software incorporated in the device 2.
  • the image processing apparatus 2 is provided with a function as a so-called system controller.
  • the image storage devices 4 and 5 may be of a digital type or an analog type, and the storage medium is a semiconductor, a magnetic tape, Various known techniques such as a magnetic disk and an optical disk may be used. Of course, it may have a function of image data compression / decompression.
  • the communication device may be interposed between any of the photographing device 1, the image processing device 2, the display device 3, the image storage device 4; 5, and the image forming device 6 constituting the present invention.
  • the image can be a color image or a monochrome image. Furthermore, it can be used in combination with audio processing. In this case, sound can be collected with an omnidirectional microphone according to the wide field of view, or a stereo collection can be used to associate the image with the position of the sound source. A method such as sounding is also conceivable.
  • each device and member constituting the present invention can be variously selected based on well-known technology, and various design changes can be made within the scope of the present invention. Is not limited to the above embodiments.
  • the present invention is based on a new technical concept.
  • an imaging device equipped with a wide-angle lens, an image processing device, and a display device By introducing an imaging device equipped with a wide-angle lens, an image processing device, and a display device, the disadvantages associated with the blind spots of the conventional visual recognition device are eliminated, Image distortion, select an area of interest in the image, and perform image processing to correct the image distortion in that area, or obtain a stereoscopic image from simultaneous images using multiple imaging devices By performing image processing or performing image processing to reconstruct an image with a wider image area, an approximate original image of the target object can be easily visually recognized.
  • a monitoring device, a tracking device, a search device, Graphic recognition device, guidance device, endoscope device, simulation Such a visual recognition device that can be used in various fields such as a visualization device that can observe a wide area and accurately recognize a specific portion can be very successful.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)

Abstract

A wide visual-field recognizing system that can easily recognize the approximate original image of an object by accepting the image distortion at an object image pickup step and then performing an image distortion correcting process, thus solving the disadvantage due to a blind spot in a conventional recognizing device. The recognizing system includes an image pickup unit (1) having a wide-angle lens, an image processing unit (2) for correcting a picked image to an image analogous to the original image through an arithmetic processing, and a display (3) for displaying the output image from the image processing unit (2). The image processing unit (2) selects an interesting area of a pickup image and then performs and image processing to correct the image distortion of the area, to provide a three-dimensional image based on images picked up by a plurality of image pickup devices at the same time, and to reconfigure an image having a wider image area, thus easily recognizing an approximate original image of an object.

Description

明 細 書  Specification
広視野視認装置 技術分野 Wide-field visual recognition device
本発明は、 撮影の視点を移動しなくても死角のない広範囲な画像を得る装 置であり、 更に言えば、 広角レンズによって撮影された画像を表示するのみ ならず、 その画像の内の選択された領域の画像歪みを修正して、 対象物の元 々の形状 (以下、 「原像」 と呼称する) に近似させた画像 (以下、 「近似原 像」 と呼称する) をも表示する装置に関するものである。 背景技術  The present invention is an apparatus that obtains a wide range of images without blind spots without moving the viewpoint of shooting. In addition, the present invention not only displays an image shot by a wide-angle lens, but also selects an image. An image (hereinafter, referred to as an “approximate original image”) that approximates the original shape of the object (hereinafter, referred to as an “original image”) by correcting the image distortion of the selected area is also displayed. It concerns the device. Background art
従来から、 監視■観察 ·追跡等に用いられる視認装置としては、 各種のも の力3 ¾ 案、 実施されており、 例えば、 一般的な監視装置としては、 第 1 6図 に例示したように、 撮影装置を上下左右に首振り可能とし、 リモートコント ロールによって駆動して死角の生じないようにしたものや、 又、 一般的な内 視鏡としては、 第 1 8図に例示したように、 先端の撮影装置部を同じくリモ —トコントロールによって首振り可能としたもの等がある。 その他、 各種の 視認装置でも、 同様の機構としたものが多く利用されている。 Conventionally, as a viewing device for use in monitoring ■ observation and tracking, etc., various of even force 3 ¾ proposals have been implemented, for example, as a general monitoring device, illustrated in the first 6 Figure The imaging device can be swung up, down, left and right and driven by remote control to prevent blind spots. Also, as a general endoscope, as shown in FIG. 18, There is also a camera in which the tip of the camera unit can be swung by remote control. In addition, various visual recognition devices that have the same mechanism are often used.
これらの監視 ·観察 ·追跡等に用いられる視認装置は、 大いに利用されて いるものであるが、 しかし、 これを死角なしに撮影 .表示させることには自 ずから限界があり、 撮影対象物が死角下にある場合には全く意味をなさない こととなる。 例えば、 第 1 7図に例示した状況がそれであり、 図中の実線で 示した撮影範囲にあるときは、 対象物 p 1は捉えることができても、 p 2は 捉えられず、 これを捉えるためには撮影装置 (画角 α ) をその方向に駆動す る必要がある。 このため、 常時撮影装置の視点を手動あるいはリモー トコン トロールで移動させるか、 あるいは高価な自動追跡装置を付設して、 その撮 影対象物が死角下にならぬようにしていた。 又、 その他の方法としてスキヤ ニングをする方法もあるが、 これも撮影装置の首振りと実質的に同じ原理の 方法である。 一方、 死角自体を無くする方法として、 魚眼レンズ等の広角レ ンズも利用されているが、 これを平面上に表示する場合は、 表示画像、 特に 周辺部に歪みが発生し、 その原像からは程遠い画像しか得られない不満があ り、 歪みを積極的に容認する特殊な使い方 (芸術用、 学術用など) しかでき ないという欠点があった。 Visual recognition devices used for monitoring, observation, tracking, etc. are widely used, but they are photographed without blind spots. If you are under the blind spot, it makes no sense. For example, this is the situation illustrated in Fig. 17, and when the object is within the shooting range indicated by the solid line in the figure, the object p1 can be captured, but p2 cannot be captured, and it is captured. Therefore, it is necessary to drive the photographing device (angle of view α ) in that direction. For this reason, the viewpoint of the imaging device is always manually or remotely controlled. They were moved by trolls or equipped with expensive automatic tracking devices so that the object to be photographed did not fall below the blind spot. As another method, there is a method of performing scanning, which is also a method based on substantially the same principle as the swing of the imaging apparatus. On the other hand, a wide-angle lens such as a fisheye lens is also used as a method to eliminate the blind spot itself.However, when this is displayed on a plane, the displayed image, especially the peripheral part, is distorted, and the original image does not They were dissatisfied with obtaining images that were far away, and had the drawback that they could only be used in special ways (artistic, academic, etc.) that actively tolerated distortion.
本 明は、 新しい技術思想に基づく撮影装置、 画像処理装置及び表示装置 の導入により、 従来の視認装置のこれら欠点を解消して、 死角なく対象物を 撮影する過程では画像の歪みを容認し、 その画像の内で関心のある領域の画 像歪みを修正する画像処理を行うことによって、 容易に対象物の近似原像も 視認できるようにすることを目的とする。 発明の開示  The present invention solves these disadvantages of the conventional visual recognition device by introducing a photographing device, image processing device, and display device based on a new technical concept, and tolerates image distortion during the process of photographing an object without blind spots. An object of the present invention is to perform an image processing for correcting an image distortion of a region of interest in the image so that an approximate original image of the object can be easily recognized. Disclosure of the invention
本発明の構成は、 広角レンズを備えた撮影装置 1と、 該撮影装置 1により 撮影された画像の内の選択された領域の画像歪みを画像中の既知の基準座標 点との位置比較に基づく演箕処理によつて原像に近似する画像に修正する画 像処理装置 2と、 該画像処理装置 2からの出力画像を表示する表示装置 3と を備えたことを特徴とするものである。  The configuration of the present invention is based on a photographing device 1 equipped with a wide-angle lens, and a position comparison between image distortion of a selected area in an image photographed by the photographing device 1 and a known reference coordinate point in the image. The image processing apparatus is characterized by comprising: an image processing device 2 that corrects the image to an image approximating the original image by performing the mining process; and a display device 3 that displays an output image from the image processing device 2.
本発明のもう一つの構成は、 広角レンズを備え共通の対象物を撮影する少 なくとも 2個の撮影装置 1と、 該撮影装置 1により同時撮影された画像を対 象物の 3次元座標を求める演算処理によつて対象物の立体画像に変換する画 像処理装置 2と、 該画像処理装置 2からの出力画像を表示する表示装置 3と を備えたことを特徴とするものである。  Another configuration of the present invention is to provide at least two photographing apparatuses 1 each having a wide-angle lens and photographing a common object, and to obtain three-dimensional coordinates of an object simultaneously photographed by the photographing apparatus 1. An image processing device 2 that converts a three-dimensional image of a target object into a three-dimensional image according to a calculation process to be obtained, and a display device 3 that displays an output image from the image processing device 2 are provided.
本発明の更にもう一つの構成は、 広角レンズを備え所定の重複撮影領域を 有する少なくとも 2個の撮影装置 1 と、 該撮影装置 1により同時撮影された 画像の内の重複撮影領域を重合し画像を連結させる演算処理によって原像に 近似する連続画像に修正する画像処理装置 2と、 該画像処理装置 2からの出 力画像を表示する表示装置 3とを備えたことを特徴とするものである。 このことによって本発明は、 従来の視認装置の死角に伴う欠点を解消してStill another configuration of the present invention includes a wide-angle lens and a predetermined overlapping imaging area. At least two photographing devices 1 and an image processing device 2 that corrects a continuous image that approximates the original image by an arithmetic process of overlapping overlapping photographed areas in images simultaneously photographed by the photographing device 1 and connecting the images. And a display device 3 for displaying an output image from the image processing device 2. This allows the present invention to overcome the disadvantages associated with blind spots
、 対象物を撮影する過程では画像の歪みを容認し、 その画像の内で関心のあ る領域の画像歪みを修正する画像処理を行うことによって、 容易に対象物の 近似原像も視認できるので、 広い範囲にわたつて観察しかつ特定部分を正確 に視認できるものである。 In the process of capturing an object, image distortion is tolerated, and image processing is performed to correct the image distortion of the region of interest in the image, so that an approximate original image of the object can be easily viewed. It can be observed over a wide range and a specific part can be visually recognized accurately.
前記画像処理装置 2において、 前記基準座標点の座標が任意に変更操作可 能であればより好ましい。  In the image processing device 2, it is more preferable that the coordinates of the reference coordinate point can be arbitrarily changed.
画像を内製する作像装置 6が付設され、 前記画像処理装置 2において、 該 作像装置 6からの內製画像と前記撮影装置 1からの撮影画像とが選択入力可 能であればより好ましい。  It is more preferable that an image forming device 6 for in-house production of an image is provided, and that the image processing device 2 can select and input a production image from the image forming device 6 and a photographed image from the photographing device 1. .
前記画像処理装置 2における演算処理は、 該画像処理装置 2の中の固定電 子回路を含むハードウエアによつて行なわれても、 該画像処理装置 2におい て作動するソフトウエアによって行われてもよい。  The arithmetic processing in the image processing apparatus 2 may be performed by hardware including a fixed electronic circuit in the image processing apparatus 2 or by software operating in the image processing apparatus 2. Good.
前記撮影装置 1と前記画像処理装置 2との間、 及び、 前記画像処理装置 2 と前記表示装置 3との間の、 いずれか又は两方に、 画像の記録と読み出しを 行う画像記憶装置 4 ; 5が介設されてもよい。  An image storage device 4 for recording and reading an image between and / or between the imaging device 1 and the image processing device 2 and / or between the image processing device 2 and the display device 3; 5 may be interposed.
前記広角レンズは画角 1 8 0度以上の魚眼レンズでもよく、 又、 光学レン ズであっても、 電子レンズであってもよい。  The wide-angle lens may be a fisheye lens having an angle of view of 180 degrees or more, and may be an optical lens or an electronic lens.
前記撮影装置 1はその視野を首振り可能にされてもよレ、。  The imaging device 1 may be capable of swinging its field of view.
前記表示装置 3は広角レンズを介して略球面状のスクリ一ンに画像を投影 する映写装 であってもよい。  The display device 3 may be a projection device that projects an image onto a substantially spherical screen via a wide-angle lens.
前記映写装置の設置位置が前記略球面状のスクリーンの中心軸からずれた 位置にあり、 かつ該設置位置から投影された画像カ スクリーンの略中心軸 上の位置から観察して原像に近似する画像となるよう、 前記画像処理装置 2 において画像の補正処理がされてもよい。 The installation position of the projection device is shifted from the central axis of the substantially spherical screen. The image processing device 2 performs image correction processing so that the image is approximated to the original image when viewed from a position substantially on the center axis of the image screen projected from the installation position. Good.
又、 前記表示装置 3は立体像を投影する映写装置であってもよい。 図面の簡単な説明  Further, the display device 3 may be a projection device that projects a three-dimensional image. BRIEF DESCRIPTION OF THE FIGURES
第 1図は、 本発明の一実施例を示すブロック図である。  FIG. 1 is a block diagram showing one embodiment of the present invention.
第 2図は、 本発明の原理を示す透視図である。  FIG. 2 is a perspective view showing the principle of the present invention.
第 3図は、 本発明の原理を示す平面図である。  FIG. 3 is a plan view showing the principle of the present invention.
第 4図は、 本発明の原理を示す平面図である。  FIG. 4 is a plan view showing the principle of the present invention.
第 5図は、 本発明の原理を示す平面図である。  FIG. 5 is a plan view showing the principle of the present invention.
第 6図は、 本発明の撮影装置部分の他の一実施例を示す透視図である。 第 7図は、 本発明の他の一実施例を示すブロック図である。  FIG. 6 is a perspective view showing another embodiment of the photographing apparatus portion of the present invention. FIG. 7 is a block diagram showing another embodiment of the present invention.
第 8図は、 本発明の原理を示す透視図である。  FIG. 8 is a perspective view showing the principle of the present invention.
第 9図は、 本発明の原理を示す透視図である。  FIG. 9 is a perspective view showing the principle of the present invention.
第 1 0図は、 本発明の原理を示す平面図である。  FIG. 10 is a plan view showing the principle of the present invention.
第 1 1図は、 本発明の原理を示す平面図である。  FIG. 11 is a plan view showing the principle of the present invention.
第 1 2図は、 本発明の撮影装置部分の他の一実施例を示す透視図である。 第 1 3図は、 本発明の撮影装置部分の他の一実施例を示す透視図である。 第 1 4図は、 本発明の他の一実施例を示すプロック図である。  FIG. 12 is a perspective view showing another embodiment of the photographing apparatus portion of the present invention. FIG. 13 is a perspective view showing another embodiment of the photographing apparatus portion of the present invention. FIG. 14 is a block diagram showing another embodiment of the present invention.
第 1 5図は、 本発明の他の一実施例を示すブロック図である。  FIG. 15 is a block diagram showing another embodiment of the present invention.
第 1 6図は、 従来技術の一例を示す斜視図である。  FIG. 16 is a perspective view showing an example of the prior art.
第 1 7図は、 従来技術の一例を示す透視図である。  FIG. 17 is a perspective view showing an example of the prior art.
第 1 8図は、 従来技術の一例を示す斜視図である。 発明を実施するための最良の形態 以下、 各図面において共通する箇所には共通符号を付して説明する。 第 1図は、 本発明の一実施例を示したものであり、 その基本的構成は、 広 角レンズを備えた撮影装置 1と、 該撮影装置 1により撮影された画像の内の 選択された領域の画像歪みを画像中の既知の基準座標点との位置比較に基づ く演算処理によって原像に近似する画像に修正する画像処理装置 2と、 該画 像処理装置 2からの出力面像を表示する表示装置 3とからなっている。 まず、 この第 1図の実施例の作用原理を、 第 2図〜第 5図の例によって説 明する。 FIG. 18 is a perspective view showing an example of the prior art. BEST MODE FOR CARRYING OUT THE INVENTION Hereinafter, common portions in the drawings are denoted by common reference numerals and described. FIG. 1 shows an embodiment of the present invention. The basic configuration of the embodiment is as follows: a photographing apparatus 1 having a wide-angle lens; and a selected one of images photographed by the photographing apparatus 1. An image processing device 2 that corrects the image distortion of the region to an image approximating the original image by an arithmetic process based on a position comparison with a known reference coordinate point in the image, and an output surface image from the image processing device 2 And a display device 3 for displaying the information. First, the working principle of the embodiment shown in FIG. 1 will be described with reference to the examples shown in FIGS.
いま、 仮想実験として、 第 2図に示したように、 鉛直に立っている直円筒 の周面が鉛直線 a l〜b】、 a 2〜b 2、 a 3〜b 3 a 8〜b 8によ つて等分割され、 かつ各面が透明である立体図形を想定し、 その下面 b 1〜 b 8の中心部には四辺形 c 1〜 c 4が、 又、 周面 a l〜a 2〜b 2〜b lの 中心部には四辺形 d l〜d 4が周面に卷かれて描いてあるとする。 そして、 その円筒の上面中心 mに全周魚眼レンズ (全方向に 180度以上の画角を持 ち、 その全視野を円画像として写し込むレンズ) を備えた撮影装置 1の視点 をおいて下向きに撮影したとする。  Now, as a virtual experiment, as shown in Fig. 2, the peripheral surface of a vertically standing straight cylinder has vertical lines al-b, a2-b2, a3-b3a8-b8. Thus, a three-dimensional figure that is equally divided and each surface is transparent is assumed, and quadrilaterals c1 to c4 are located at the center of the lower surface b1 to b8, and the peripheral surface al to a2 to b It is assumed that quadrilaterals dl to d4 are drawn around the center of 2 to bl. Then, from the viewpoint of the imaging device 1 equipped with an all-around fisheye lens (a lens that has an angle of view of 180 degrees or more in all directions and captures the entire field of view as a circular image) at the center m of the upper surface of the cylinder, it faces downward. Suppose you took a picture.
これをそのまま表示装置上に表示すると、 その面像は第 3図のように、 前 記下面が b l〜b 8の小円となり、 前記上面が a l〜a 8の大円となる紡車 状の図形となる。 そして、 小円 b 1〜 8の中心11 (画像全体の中心にもな る) の周辺には、 ほぼ原像に近い形状の図形 c l〜c 4力 又、 扇状に歪め られた図形 a I〜a 2〜b 2〜b lの中には、 扇状に歪められた図形 d 1〜 d 4が現われる。 即ち、 レンズの中心軸に近い場所にあった図形は歪み少な く、 より遠い場所にあった図形は歪み多く表示されることとなる。 そしてそ の全体像は、 歪んでいるとはいえ、 まず対象物の存在位置を表わすには充分 である。  If this image is displayed on the display device as it is, as shown in Fig. 3, the spine-shaped figure whose lower surface is a small circle of bl to b8 and whose upper surface is a large circle of al to a8 as shown in Fig. 3 Becomes Around the center 11 of the small circles b1 to b8 (which is also the center of the whole image), there are figures cl to c4, which are almost similar to the original image, and figures aI to distorted into a fan shape. In a2-b2-bl, figures d1-d4 distorted like a fan appear. That is, a figure located near the center axis of the lens is displayed with less distortion, and a figure located farther away is displayed with more distortion. And although the whole image is distorted, it is enough to show the location of the object first.
次いで、 その対象物、 例えば図形 d 1〜d 4の原像 (図形 d 1〜 d 4をそ の垂直糠上の点 sの位置から眺めたとした場合の画像) を再構成する画像処 理プロセスに入る。 そのためには、 まず第 4図のように図形 d 1〜 d 4を含 めた周辺の図形、 例えば a I〜 a 2〜b 2〜 b 1を選択して切り出す。 この とき、 a l、 a 2、 b 2、 b 1のいずれの点も原像における位置座標は既知 であり、 これを画像処理のための基準となる座標点 (基準座標点) とする。 そして図形 d 1〜 d 4の各点の位置を基準座標点との位置比較に基づく演算 によって修正して、 第 5図のような原像に近似する図形 d 1〜(! 4を得る。 この演算プロセスは、 第 2図における図形 d 1〜 d 4の各点の位置座標を、 基準座標点 a 1、 a 2、 b 2、 b 1を基準とした撮影視点 mからの上下左右 角度 (点 d 1の場合は、 例えば基準座標点 a 1を基準とした 1、 0 2 ) 等 を含む関数として捉え、 演算によって原像の各点の距雜比率に近くなるよう 修正 '再構成されるものであり、 その演算自体は周知の幾何学的計算、 代数 的計算などによる。 Then, the object, for example, the original image of figures d1 to d4 (the figures d1 to d4 are The image processing process for reconstructing the image as viewed from the position of the point s on the vertical bran is started. For that purpose, first, peripheral figures including figures d1 to d4 as shown in FIG. 4, for example, aI to a2 to b2 to b1 are selected and cut out. At this time, the position coordinates of the points al, a2, b2, and b1 in the original image are known, and these are set as reference coordinate points (reference coordinate points) for image processing. Then, the positions of the respective points of the figures d1 to d4 are corrected by an operation based on the comparison with the reference coordinate point, thereby obtaining figures d1 to (! 4) similar to the original image as shown in FIG. The calculation process calculates the position coordinates of each point of the figures d1 to d4 in FIG. 2 by using the reference coordinate points a1, a2, b2, and b1 as the vertical and horizontal angles (point In the case of d1, it is considered as a function including, for example, 1, 0 2), etc. with reference to the reference coordinate point a1, and is modified and reconstructed so as to be closer to the distance ratio of each point of the original image by calculation. The operation itself is based on well-known geometrical and algebraic calculations.
同様に、 もう一つの囡形 c l〜 c 4の原像 (図形 c 1〜 c 4をその垂直線 上から眺めたとした場合の画像) を再構成するプロセスについては、 図形 c l〜 c 4を含めた周辺の図形、 例えば b l〜b 8を選択して切り出し、 b 1 〜b 8のいずれかの点を基準座標点として図形 c 1〜 c 4の各点の位置を演 算によって修正して、 近似原像を得ればよい。 第 4図及び第 5図中には、 そ のプロセスの例示として、 図形 c l〜c 4の断片 c l〜 c 2〜!!を近似原像 に修正する様子が図示されているが、 この図示からも明らかなように、 レン ズの中心軸に近い場所にあった c l〜 c 4のようは図形は、 レンズ中心軸か ら離れた場所にあった図形に較べれば、 もともとレンズによる画像歪みが少 ないので、 画像修正は僅少である。  Similarly, for the process of reconstructing another original image of the squares cl to c4 (an image when the figures c1 to c4 are viewed from above the vertical line), the figures including the figures cl to c4 are included. Select and cut out the surrounding figures, for example, bl to b8, and correct the positions of the points of figures c1 to c4 by calculation using any of the points b1 to b8 as the reference coordinate points. What is necessary is just to obtain an approximate original image. In FIGS. 4 and 5, as an example of the process, fragments cl to c2 to! ! Is corrected to an approximate original image, but as is clear from this figure, the figure is close to the lens center axis, such as cl to c4, which is close to the lens center axis. Compared to a distant figure, image distortion due to the lens is originally small, so image correction is small.
上記の原理を適用して、 本発明は、 対象物を特定する過程では画像の歪み を容認して、 その対象物の存在自体は容易に確認でき、 更に、 その画像の内 で関心のある一部領域を、 随時、 随意に選択し、 その部分の画像歪みを修正 する画像処理を行い、 容易に近似原像が視認できるという作用効果を生み出 したものである。 Applying the above principle, the present invention accepts distortion of an image in the process of specifying an object, allows the existence of the object itself to be easily confirmed, and furthermore, one of interests in the image. Select any area as needed, and correct image distortion of that area Image processing that produces an effect that the approximate original image can be easily viewed.
撮影装置 1の設置位置は用途によって適宜選択してよく、 例えば、 監視用 として撮影装置 1を部屋の天井に設置して対象物 P 1 ; P 2の双方が視認で きる実施例が第 6図に示されている。 この例の場合、 基準座標点としては部 屋の四隅、 例えば図中の点 f 1〜 f 4を採ればよい。  The installation position of the imaging device 1 may be appropriately selected depending on the application. For example, an embodiment in which the imaging device 1 is installed on the ceiling of a room for monitoring and both the objects P 1 and P 2 can be visually recognized is shown in FIG. Is shown in In this example, four corners of the room, for example, points f1 to f4 in the figure may be used as the reference coordinate points.
画像処理装置 2については、 少なくとも、 撮影画像をそのまま表示装置 3 に映すための処理と、 その画像の一部の領域を指定選択するための処理と、 その指定選択された領域の画像歪みを修正 ·再構成して近似原像を得るため の演算処理の機能とを備えたものとする。 この撮影画像と近似原像の 2種類 の画面は、 切り替えても、 窓中窓の画面による同時表示としても、 あるいは 、 別個の表示装置 3に表示してもよい。 画像歪みの修正は、 画像を画素に分 解してデジタル処理により修正■再構成しても、 アナログ図形のままで幾何 学的に処理してもよい。  As for the image processing device 2, at least a process for displaying the captured image as it is on the display device 3, a process for specifying and selecting a partial area of the image, and correcting the image distortion of the specified and selected area · It has a function of arithmetic processing for obtaining an approximate original image by reconstruction. The two types of screens, the captured image and the approximate original image, may be switched, displayed simultaneously on the window in the window, or displayed on separate display devices 3. The correction of the image distortion may be performed by disassembling the image into pixels and correcting and reconstructing the image by digital processing, or may be performed geometrically using an analog figure.
演算処理の基本的な原理は前述した通りであるが、 この演算処理は、 基準 座標点の座標をあらかじめ記憶させておいて全自動式としてもよいし、 基準 座檫点の座標を任意に変更操作可能にして、 寸法 ·歪率等の指示を適宜に観 察者が行う半自動式としてもよい。 勿論、 この画像処理プロセス中に、 画像 の拡大縮小、 上下左右の反転、 回転など、 視認を容易にするための画像修正 を更に加えてもよい。  Although the basic principle of the arithmetic processing is as described above, in this arithmetic processing, the coordinates of the reference coordinate point may be stored in advance and fully automatic or the coordinates of the reference coordinate point may be arbitrarily changed. It may be made semi-automatic so that it can be operated and the observer gives instructions such as dimensions and distortion rate as appropriate. Of course, during this image processing process, an image modification for facilitating visual recognition, such as enlargement / reduction of the image, inversion of up / down / left / right, and rotation, may be further added.
撮影装置 1と画像処理装置 2との間、 及び画像処理装置 2と表示装置 3と の間の、 いずれか又は両方に、 画像の記録と読み出しを行う画像記憶装置 4 ; 5を介設してもよい c An image storage device 4, 5 for recording and reading images is provided between one or both of the imaging device 1 and the image processing device 2 and / or the image processing device 2 and the display device 3. Good c
撮影装置 1と画像処理装置 2との間に画像記憶装置 4を介設した場合は、 その記録画像は歪んだままとなる力^ 広い視野全体を時系列的に観察したい 場合などは、 この記録方式力 ましい。 例えば具体例として、 律物への侵入 者を後日割り出す場合を考えると、 広範囲にわたって所要期間撮影したまま の画像を画像記憶装置 4に記録しておき、 後日それを再生し、 画面上で侵入 者の存在が発見されたときに、 その侵入者の部分の画像を画像処理装置 2に より修正し近似原像を表示させて、 侵入者を割り出すという使い方が可能と なる。 又、 他の具体例として、 内視鏡として使う場合を考えると、 広範囲に わたつて撮影したままの画像を画像記憶装置 4に記録しておき、 後刻それを 再生し、 異なる観察者力 s夫々の見地から観察し、 夫々が異なる対象物の部分 を選択して、 それぞれ近似原像を得るという使い方ができるので、 見落とし も少なくなり、 極めて有用である。 If an image storage device 4 is interposed between the photographing device 1 and the image processing device 2, the recorded image will remain distorted. Method power is better. For example, as a specific example, Considering the case where an intruder is determined at a later date, an image that has been captured for a required period of time over a wide area is recorded in the image storage device 4 and played back at a later date, and when the presence of an intruder is detected on the screen, the It becomes possible to use the image processing device 2 to correct the image of the intruder portion, display an approximate original image, and determine the intruder. Also, as another specific example, considering use as an endoscope, an image that has been shot over a wide area is recorded in the image storage device 4 and later reproduced, and the different observer s Observing from the viewpoint of the user, each of them can select different parts of the object and obtain an approximate original image, so that oversight is reduced and it is extremely useful.
一方、 画像処理装 S 2と表示装置 3との間に画像記憶装置 5を介設した場 合は、 その修正後の近似原像も含めた記録が行える。  On the other hand, when the image storage device 5 is interposed between the image processing device S2 and the display device 3, recording including the corrected approximate original image can be performed.
次に、 第 7図は、 本発明の他の一実施例を示したものであり、 予め位置座 標を特定した複数箇所に撮影装置 1をそれぞれ設置して、 複数の視点から同 時撮影することにより、 対象物の立体像データを、 スキャニング等を経ずに 広角度にわたって得るものである。 その基本的構成は、 広角レンズを備え共 通の対象物を撮影する少なくとも 2個の撮影装置 1と、 該撮影装置 1により 同時撮影された画像を対象物の 3次元座標を求める演算処理によって対象物 の立体画像に変換する画像処理装置 2と、 該画像処理装置 2からの出力画像 を表示する表示装置 3とからなっている。  Next, FIG. 7 shows another embodiment of the present invention, in which the photographing devices 1 are respectively installed at a plurality of locations where the position coordinates are specified in advance, and simultaneous photographing is performed from a plurality of viewpoints. Thus, stereoscopic image data of an object can be obtained over a wide angle without scanning or the like. Its basic configuration consists of at least two photographing devices 1 equipped with a wide-angle lens for photographing a common object, and an image simultaneously photographed by the photographing device 1 being subjected to arithmetic processing for obtaining three-dimensional coordinates of the object. The image processing apparatus 2 includes an image processing device 2 that converts a three-dimensional image of an object, and a display device 3 that displays an output image from the image processing device 2.
この第 7図の実施例の作用原理を、 第 8図〜第 1 1図の例によって説明す る。  The principle of operation of the embodiment shown in FIG. 7 will be described with reference to the examples shown in FIGS. 8 to 11.
第 8図において、 前述の第 2図と同じく上面 a 1 〜 3 8と下面 l 〜b 8 からなる円筒の周面 a I〜 a 2〜b 2〜b lの上に四辺形 d 1 〜 d 4が存在 しているとし、 ここでは更に、 円筒の上面中心 mと四辺形 d 1 〜 d 4の端点 d 1 ; d 2とを各々結ぶ直線上の点 d 1 ' ;点 d 2 ' と、 点 d 3、 点 d 4の 4つの端点からなる台形状の図形 d Γ 〜 d 2 ' 〜 d 3〜 d 4が円筒中の空 間に存在しているとする。 そして、 その円筒の上面中心 mに全周魚眼レンズ を備えた撮影装置 1の視点をおいて下向きに撮影したとする。 In FIG. 8, the quadrilaterals d 1 to d 4 are placed on the peripheral surface a I to a 2 to b 2 to bl of the cylinder composed of the upper surface a 1 to 38 and the lower surface l to b 8 as in FIG. Here, furthermore, here, a point d 1 ′; a point d 2 ′ on a straight line connecting the center m of the upper surface of the cylinder and the end points d 1, d 2 of the quadrilaterals d 1 to d 4 respectively; The trapezoidal shape d Γ ~ d 2 '~ d 3 ~ d 4 consisting of four end points d 3 and d 4 is the sky in the cylinder Suppose it exists in between. Then, it is assumed that the image is taken downward with the viewpoint of the image taking apparatus 1 provided with a fisheye lens at the center m of the upper surface of the cylinder.
これをそのまま表示装置上に表示すると、 その画像は前述の第 3図と同じ く、 前記下面が b 1〜 b 8の小円、 前記上面が a 1〜 a 8の大円となる紡車 状の図形となり、 扇状に歪められた図形 a I〜 a 2〜b 2〜b 1の中には、 扇状に歪められた図形 d l〜d 4力、'現われるわけであるが、 このとき、 台形 状の図形 d 1, 〜d 2, 〜d 3〜 d 4については、 図形 d 1〜 d 4と同一図 形として表示され、 両図形間の区別はできない。 このことは即ち、 撮影装置 1が単眼レンズであり、 対象物との遠近距離の把握に必要な 3次元位置情報 が得られないために、 既知の面上の対象物の近似原像の再構成までは可能で あっても、 該面から離れた空間中の対象物の近似原像の再構成は無理である ことを示している。  If this image is displayed on a display device as it is, the image is the same as in FIG. 3 described above, and the spine-like shape is such that the lower surface is a small circle b1 to b8 and the upper surface is a large circle a1 to a8. In the figure a I ~ a 2 ~ b 2 ~ b 1 which becomes a figure, a fan skewed figure dl ~ d 4 The figures d1, to d2, to d3 to d4 are displayed as the same figures as the figures d1 to d4, and the two figures cannot be distinguished. This means that since the imaging device 1 is a monocular lens and the three-dimensional position information necessary for grasping the perspective distance from the object cannot be obtained, the approximate original image of the object on a known surface is reconstructed. It is shown that reconstruction of an approximate original image of an object in a space distant from the plane is impossible, though it is possible.
そこで、 空間中の対象物の 3次元位置情報を得て近似原像の再構成を可能 とするために、 第 9図に例示したように、 2個の撮影装置 1によって円筒上 面の予め位置を特定した視点 m及び m' から下向きに同時撮影することとす る。  Therefore, in order to obtain the three-dimensional position information of the object in the space and to enable reconstruction of the approximate original image, as shown in FIG. From the specified viewpoints m and m '.
これをそのまま表示装置上に表示すると、 視点 mから撮影した画像は、 第 1 0図のように、 円筒上面 a】〜 a 8が視点 mの直下点 πを中心とした大円 となり、 その中に円筒下面 b 1〜 b 8が一方向に儡った位置に現われた図形 となる。 又、 歪んだ扇状図形 a I〜 a 2〜b 2〜b 1の中に、 歪んだ図形 d l〜d 4が現われる。 そして、 視点 m ' から撮影した画像は、 第 1 1図のよ うに、 円筒上面 a 1〜 a 8が視点 ιτ の直下点 η, を中心とした大円となり 、 その中に円筒下面 b 1〜b 8が第 1 0図の場合とは反対方向に偏った位置 に現われた図形となる。 又、 第 1 0図の場合とは異なる歪んだ扇状図形 a 1 〜 a 2〜 b 2〜b 1の中に、 これ又第 1 0図の場合とは異なる歪んだ図形 d 1〜 d 4が現われる。 即ち、 視点 m; m' の位置のずれが画像の形状のずれ となって現われる。 If this image is displayed on a display device as it is, the image taken from the viewpoint m becomes a large circle centered on the point π directly below the viewpoint m, as shown in Fig. The figure below appears at the position where the cylindrical lower surfaces b1 to b8 are connected in one direction. Also, the distorted figures dl to d4 appear in the distorted fan-shaped figures aI to a2 to b2 to b1. Then, as shown in FIG. 11, in the image taken from the viewpoint m ′, the upper surface of the cylinder a1 to a8 becomes a great circle centered on the point η, immediately below the viewpoint ιτ, and the lower surface of the cylinder b1 to b8 is a figure that appears at a position biased in the opposite direction to the case of FIG. Also, in the distorted fan-shaped figures a 1 to a 2 to b 2 to b 1 different from those in FIG. 10, there are also distorted figures d 1 to d 4 different from those in FIG. 10. Appear. That is, the displacement of the position of the viewpoint m; m 'is the displacement of the shape of the image. Appears.
この形状のずれから 3次元位置情報を演算して、 対象物の立体画像に変換 する画像処理プロセスに入る。 ここで、 対象物を図形 d 1〜d 4とすると、 この演箕プロセスは、 第 9図における図形 d l〜d 4の各点の位置座標を、 点 a 1、 a 2、 b 2、 b 1、 m、 m' のいずれかを基準座標点とした、 視点 mからの上下左右角度 (点 d 1の場合は、 例えば点 a 1を基準座標点とした θ 1 , 0 2ゃ点111 ' を基準座標点とした S 3、 Θ 2 ) , 及び視点 m ' からの 上下左右角度 (点 d 1の場合は、 例えば点 a 1を基準座標点とした 0 1 ' 、 Θ 2 ' や点 mを基準座標点とした 3 ' 、 Θ 2 ' ) 等を含む関数として、 演 算によって原像の各点の 3次元位置座標を求めた上で、 立体画像が再構成さ れるものであり、 その演算自体は周知の幾何学的計算、 代数的計算などによ る。 なお、 このとき利用する基準座標点の数を增やすと、 演算時間は増大す るが、 冗長度を高めて誤差を減らすことができる。  The 3D position information is calculated from the displacement of the shape, and the image processing process of converting the 3D position information into a 3D image of the object is started. Here, assuming that the objects are figures d 1 to d 4, this mining process calculates the position coordinates of each point of the figures dl to d 4 in FIG. 9 as points a 1, a 2, b 2, b 1 , M, or m 'as the reference coordinate point, the up, down, left, and right angles from the viewpoint m (in the case of point d1, for example, θ1, 02' point 111 'with point a1 as the reference coordinate point The reference coordinate point S 3, と し た 2), and the up, down, left, and right angles from the viewpoint m ' As a function including 3 ', Θ2') as reference coordinate points, etc., the 3D position coordinates of each point of the original image are obtained by calculation, and then a 3D image is reconstructed. It is based on well-known geometric and algebraic calculations. If the number of reference coordinate points used at this time is small, the calculation time increases, but the error can be reduced by increasing the redundancy.
本図においては、 撮影装置 1の個数は 2個の場合を例にとったが、 3個以 上でもよいことは勿論である。  In the figure, the case where the number of the imaging devices 1 is two is taken as an example, but it goes without saying that three or more imaging devices may be used.
上記の原理を適用して、 本発明は、 対象物の立体画像を得る画像処理を行 い、 容易に近似原像が視認できるという作用効果を生み出したものである。 撮影装 S 1の設置位置は用途によって適宜選択してよく、 例えば、 第 1 2 図には、 2個の撮影装置 1を同方向に並べて部屋の天井に設置して対象物 p 1 ; p 2の双方が視認できる実施例を示したが、 この他にも、 互いに斜めに 角度を付けて設置するなどしてもよい。 特に、 第 1 3図には、 共通の対象物 pに対して内向きに 3個以上の撮影装置 1を設置して撮影する実施例を示し たが、 この場合には、 対象物を影なく捉えられる、 即ち、 対象物の全面にわ たる 3次元位置情報が得られ、 立体画像がより綿密に得られるという利点が ある。  By applying the above principle, the present invention performs image processing for obtaining a three-dimensional image of a target object, and has an effect that an approximate original image can be easily visually recognized. The installation position of the photographing device S1 may be appropriately selected depending on the application. For example, in FIG. 12, two photographing devices 1 are arranged in the same direction and installed on the ceiling of a room, and an object p1; p2 Although the embodiment in which both of them can be visually recognized has been described, other arrangements may also be made such that they are oblique to each other. In particular, FIG. 13 shows an embodiment in which three or more photographing devices 1 are installed inward with respect to a common object p to photograph, but in this case, the object is There is an advantage that 3D position information over the entire surface of the object can be obtained, and a 3D image can be obtained more precisely.
—方、 この撮影装置 1を外向きに複数設置して同時撮影することにより、 画域を更に拡大するという使い方も可能であり、 撮影装置 1を昆虫の複眼状 に配設することも可能である。 この場合は、 各撮影装置 1の画像の重複撮影 領域 (画像のオーバーラップする領域) を重合しつつ画像を連結させて大き な画域に合成する演箕処理も、 併せて画像処理装置 2によって行うこととな る。 —However, by installing multiple camera units 1 outward and shooting simultaneously, It is also possible to further use the image area, and it is also possible to arrange the photographing device 1 in a compound eye of an insect. In this case, the image processing device 2 also performs the mining process of combining the images and combining them into a large image area while overlapping the overlapping shooting regions (the overlapping regions of the images) of the images of the respective imaging devices 1. Will be done.
次に、 表示装置 3の表示方法に関する実施例について説明する。  Next, an example of a display method of the display device 3 will be described.
表示装置 3については、 その画像表示手段としては、 C R T画面、 液晶画 面等、 種々の周知のディスプレー技術を適用できることは勿論であるが、 第 1図や第 7図に例示したような平面的な画面上に表示する方法の他にも、 広 角レンズを介して曲面状のスクリーンに画像を投影映写することもできる。  As for the display device 3, various well-known display technologies such as a CRT screen and a liquid crystal screen can be applied as an image display means. In addition to the method of displaying on a simple screen, an image can be projected and projected on a curved screen via a wide-angle lens.
第 1 4図は、 その映写方式の一実施例を示したものであり、 広視野で撮影 した画像を、 その逆のプロセスで広視野の略球面状スクリーンに投影する様 子を示している。 特に本実施例においては、 観察者が視覚上の最適位置であ る該スクリ一ンの略中心軸上の位置から投影画像を観察できるよう、 映写装 置 (表示装置) 3が該スクリーンの中心軸からずれた位置に設置されたもの を示してある。 この場合、 該スクリーンの中心軸からずれた位置から投影さ れる画像 g l ' 〜g 2, 〜g 3 ' が、 該スクリーンの略中心軸上の位置から 観察した場合に最も原像 g 1〜g 2〜g 3に近似する画像に見えるよう、 投 射点と観察視点のずれを補正する画像処理が、 画像処理装置 2においてなさ れる構成となっている。  FIG. 14 shows an embodiment of the projection system, and shows a manner in which an image taken in a wide field of view is projected on a substantially spherical screen having a wide field of view by the reverse process. In particular, in this embodiment, the projection device (display device) 3 is positioned at the center of the screen so that the observer can observe the projected image from a position on the substantially central axis of the screen, which is a visually optimal position. The one installed at the position shifted from the axis is shown. In this case, the images gl ′ to g2, to g3 ′ projected from the position shifted from the center axis of the screen are the most original images g1 to g3 when observed from a position substantially on the center axis of the screen. The image processing device 2 is configured to perform image processing for correcting a shift between a projection point and an observation viewpoint so that the image looks similar to 2 to g3.
更に、 第 1 5図には、 複数の撮影装置 1による画像を複数の映写装置 3に よって投影し、 より現実に近似した画像を観察者が視覚できる装置とした一 実施例が示されている。 これは昆虫の複眼状に配列された撮影装置 1で撮影 された画像を、 その各撮影視点とは異なる位置関係にある複数の映写装置 3 で略球面状のスクリーン上に映写し、 観察者は該スクリーンの略中心に位置 させて、 現実に近い視覚を得させるもので、 例えば、 飛行等のシミュレ一シ ヨン装置や、 いわゆる 「仮想現実」 を体感させる遊戯装置等に適用可能なも のである。 Further, FIG. 15 shows an embodiment in which an image obtained by a plurality of photographing apparatuses 1 is projected by a plurality of projection apparatuses 3 so that an observer can see a more realistic image. . In this method, an image taken by an imaging device 1 arranged in a compound eye of an insect is projected on a substantially spherical screen by a plurality of projection devices 3 having a different positional relationship from each shooting viewpoint. It is positioned at the approximate center of the screen to obtain a realistic vision. For example, simulation of flight The present invention is applicable to a Yong device, a game device for experiencing a so-called “virtual reality”, and the like.
この場合画像処理装置 2は、 少なくとも、 撮影画像の重複領域を重合し画 像を連結させる演算処理と、 映写時の投射点と観察視点のずれを補正して投 影画像 g l ' 〜g 2 ' 〜g 3, 〜g 4 ' を原像 g 1〜g 2〜g 3〜g 4に近 似させる演算処理の双方を行なうものとする。  In this case, the image processing device 2 performs at least an arithmetic process of overlapping overlapping regions of the captured images and connecting the images, and correcting a deviation between a projection point and an observation viewpoint at the time of projection to project the projected images gl 'to g2'. Gg 3, gg 4 ′ are both processed to approximate the original images g 1 gg 2 gg 3 gg 4.
この装置において、 観察者の座席を単独に、 あるいは映写装置込め、 ある いはスクリ一ン込め動かすようにして、 観察者に加速度感覚も与える装置と することも可能である。  In this device, the observer's seat can be moved alone or with a projection device or a screen so as to give the observer a sense of acceleration.
なお、 第 1 5図には、 撮影装置 1による撮影画像のみならず、 ソフトゥヱ ァによって画像を内製する作像装置 6が付設されて、 両面像を選択的に切り 替えたり、 两画像を合成した画像を出力表示できることが示されている。 専 ら作像装置 6からの画像を出力表示することでも差し支えないことは勿論で 一方、 前述の対象物の立体像を表示する場合には、 平面や曲面状の表示画 面上で各種の投影法を用いて立体的表現をする方法の他にも、 図示は省略し たが、 表示装置 3として立体像を空間中に投影する映写装置 (例えば 3次元 ホログラム映写装置等) を使用する方法もある。  In FIG. 15, not only the image captured by the image capturing device 1 but also an image forming device 6 for in-house production of the image by the software is attached, so that the two-sided image can be selectively switched or the image is synthesized. This shows that the output image can be output and displayed. It is of course possible to output and display the image exclusively from the image forming device 6.On the other hand, when displaying the above-mentioned three-dimensional image of the object, various projections are performed on a flat or curved display screen. In addition to the three-dimensional representation using the method, although not shown, a method using a projection device (for example, a three-dimensional hologram projection device) that projects a three-dimensional image into space is omitted as the display device 3. is there.
次に、 上記の各実施例に共通の事項について説明する。  Next, items common to the above embodiments will be described.
上記いずれの実施例においても、 撮影装置 1の広角レンズとして面角 1 8 In any of the above embodiments, the wide-angle lens of the photographing device 1 has a surface angle of 18
0度の魚眼レンズを例示した力 s、 勿論、 その用途によって、 画角 1 8 0度以 下のものでも 1 8 0度以上のものでもよい。 The force s exemplified for a 0-degree fisheye lens, of course, may be less than 180 degrees or more than 180 degrees depending on the application.
このレンズの種類については、 原理を示した第 2図〜第 5図及び第 8図〜 第 1 1図においては、 全周魚眼レンズ (全方向に 1 8 0度以上の画角を持ち 、 その全視野を円画像として写し込むレンズ) を用いた場合を例示したが、 使用条件によっては、 その代りに対角線魚眼レンズ (対角線の方向にだけ 1 8 0度以上の画角を持ち、 その視野を四辺形画像として写し込むレンズ) を 用いてもよく、 その場合は画像処理の演算内容は変わるが、 その作用効果は 全周魚眼レンズの場合と同様である。 The principle of this lens type is shown in Figs. 2 to 5 and Figs. 8 to 11 in which an all-around fisheye lens (having an angle of view of 180 degrees or more in all directions, Although the case of using a lens that captures the field of view as a circular image has been illustrated, depending on the conditions of use, a diagonal fisheye lens (one lens only in the diagonal direction) may be used instead. A lens that has an angle of view of 80 degrees or more and captures its field of view as a quadrilateral image) may be used. In this case, the calculation content of the image processing changes, but the effect is the same as that of the full-circle fisheye lens. It is.
又、 説明の便宜上、 レンズを光学的レンズとみなして図示したが、 このレ ンズは電磁気的な偏向装置を備えた電子レンズでもよいことは勿論である。 即ち、 図示は省略したが、 可視光以外の電磁波 (例えば紫外線、 赤外線、 ェ ックス線、 ガンマ線など) の照射によって形成される対象物の像を、 広角電 子レンズを備えた撮影装置 1によって撮影してもよく、 例えば、 電子顕微鏡 などへの適用が可能である。  Also, for convenience of explanation, the lens is illustrated as an optical lens, but it is needless to say that this lens may be an electronic lens provided with an electromagnetic deflecting device. That is, although not shown, an image of an object formed by irradiation of electromagnetic waves other than visible light (for example, ultraviolet rays, infrared rays, X-rays, gamma rays, etc.) is photographed by the photographing apparatus 1 having a wide-angle electronic lens. For example, application to an electron microscope is possible.
撮影装置 1については、 その先端部のレンズの直後に画像を電気信号に変 換する固体撮像素子などの撮像部材を備えたものでも、 才ブティカルフアイ バー等の画像伝送部を介して撮像部材に繋いだものでもよい。 又、 対象物を 照明する装置を併設してもよいことは勿論である。  The imaging device 1 may be provided with an imaging member such as a solid-state imaging device that converts an image into an electric signal immediately after the lens at the tip of the imaging device 1. Alternatively, the imaging member 1 may be provided via an image transmission unit such as a physical fiber. It may be connected to. In addition, it goes without saying that a device for illuminating the object may be provided.
又、 本発明においては撮影装置 1を固定しておいても死角が無いところに 一つの特徴があるものではある力 これを更に首振り可動式とすることによ り、 更に広範囲の画像を捉えるようにしてもよいことは勿論である。  Further, in the present invention, even if the photographing device 1 is fixed, there is one feature in a place where there is no blind spot. Needless to say, this may be done.
面像処理装置 2における演算処理は、 該装置 2内の固定電子回路を含むハ 一ドウエアによって行なっても、 該装置 2に組み込まれるソフトウェアによ つて行なってもよレ、。  The arithmetic processing in the surface image processing device 2 may be performed by hardware including fixed electronic circuits in the device 2 or by software incorporated in the device 2.
又、 画像処理装置 2から表示装置 3に向けて出力される画像は、 撮影装置 The image output from the image processing device 2 to the display device 3 is a photographing device.
1による撮影画像、 画像処理装置 2により演算処理された画像、 作像装置 6 により内製された画像、 のいずれでも切り替え出力、 あるいは同時出力、 あ るいは合成出力できる仕組みにするのがよい。 即ち、 画像処理装置 2にいわ ゆるシステムコントローラーとしての機能も備えさせておくのがよい。 画像記憶装置 4 ; 5を介設する場合、 その画像記憶装置 4 ; 5は、 デジタ ル方式でもアナログ方式でもよく、 また記憶媒体は、 半導体、 磁気テープ、 磁気ディスク、 光ディスク等、 種々の周知技術によるものでよい。 勿論画像 データ圧縮 ·復元等の機能を備えたものでもよい。 It is preferable to have a mechanism capable of switching output, simultaneous output, or composite output of any of the photographed image by 1, the image processed by the image processing device 2, and the image produced in-house by the image forming device 6. That is, it is preferable that the image processing apparatus 2 is provided with a function as a so-called system controller. When the image storage devices 4 and 5 are interposed, the image storage devices 4 and 5 may be of a digital type or an analog type, and the storage medium is a semiconductor, a magnetic tape, Various known techniques such as a magnetic disk and an optical disk may be used. Of course, it may have a function of image data compression / decompression.
本発明を構成する撮影装置〗、 画像処理装置 2、 表示装置 3、 画像記憶装 置 4 ; 5、 作像装置 6のいずれについても、 それら装置相互間に通信装置を 介在させてもよい。 又、 画像はカラ—画像及びモノクロ画像いずれも適用可 能である。 更に、 音声の処理と組合せて使用することも可能であり、 その場 合、 広視野に合わせて、 無指向性のマイクロフォンで集音したり、 画像とそ の音源の位置を対応付けるためにステレオ集音する等の方法も考えられる。 なお、 上記のいずれの実施例においても、 画像は観察者が目視するという 使い方を例示しているが、 目視の他にも、 自動装置によって該画像を自動的 に所定の画像とパターン比較させ、 その比較桔果に基づいて所定のァクショ ンをとらせるという応用も、 当然に可能である。  The communication device may be interposed between any of the photographing device 1, the image processing device 2, the display device 3, the image storage device 4; 5, and the image forming device 6 constituting the present invention. The image can be a color image or a monochrome image. Furthermore, it can be used in combination with audio processing. In this case, sound can be collected with an omnidirectional microphone according to the wide field of view, or a stereo collection can be used to associate the image with the position of the sound source. A method such as sounding is also conceivable. In each of the above embodiments, the use of an image by an observer is exemplified.In addition to visual observation, the image is automatically compared with a predetermined image by an automatic device, Naturally, an application of taking a predetermined action based on the comparison result is also possible.
その他、 本発明を構成する各装置及び部材にわたり、 その形状及び材質に ついては周知技術に基づく種々選択が可能であり、 又、 本発明の趣旨の範囲 内で種々設計変更が可能であり、 本発明は前述の各実施例に限定されるもの ではない。 産業上の利用可能性  In addition, the shape and material of each device and member constituting the present invention can be variously selected based on well-known technology, and various design changes can be made within the scope of the present invention. Is not limited to the above embodiments. Industrial applicability
本発明は、 新しい技術思想に基づく、 広角レンズを備えた撮影装置と画像 処理装置及び表示装置の導入により、 従来の視認装置の死角に伴う欠点を解 消して、 対象物を撮影する過程では画像の歪みを容認し、 その画像の内で関 心のある領域を選択してその部分の画像歪みを修正する画像処理を行なった り、 複数の撮影装置を用いた同時撮影画像から立体画像を得る画像処理を行 なったり、 より画域の広い画像に再構成する画像処理を行なったりすること によって、 容易に対象物の近似原像を視認できるので、 例えば、 監視装置、 追跡装置、 探査装置、 図形認識装置、 誘導装置、 内視鏡装置、 シミュレ—シ ョン装置などの、 広い範囲にわたって観察しかつ特定部分を正確に視認した い各種の分野に使用できる視認装置として、 大きな成果を挙げ得るものであ る。 The present invention is based on a new technical concept. By introducing an imaging device equipped with a wide-angle lens, an image processing device, and a display device, the disadvantages associated with the blind spots of the conventional visual recognition device are eliminated, Image distortion, select an area of interest in the image, and perform image processing to correct the image distortion in that area, or obtain a stereoscopic image from simultaneous images using multiple imaging devices By performing image processing or performing image processing to reconstruct an image with a wider image area, an approximate original image of the target object can be easily visually recognized.For example, a monitoring device, a tracking device, a search device, Graphic recognition device, guidance device, endoscope device, simulation Such a visual recognition device that can be used in various fields such as a visualization device that can observe a wide area and accurately recognize a specific portion can be very successful.

Claims

請 求 の 範 囲 The scope of the claims
1. 広角レンズを備えた撮影装置 (1) と、 該撮影装置 (1) により撮影 された画像の内の選択された領域の画像歪みを画像中の既知の基準座標点と の位置比較に基づく演算処理によつて原像に近似する画像に修正する画像処 理装置 (2) と、 該画像処理装置 (2) からの出力画像を表示する表示装置1. An imaging device (1) having a wide-angle lens, and image distortion of a selected region in an image captured by the imaging device (1) is compared with a position of a known reference coordinate point in the image. An image processing device (2) that corrects the image to an image approximating the original image by arithmetic processing; and a display device that displays an output image from the image processing device (2).
(3) とを備えたことを特徴とする広視野視認装置。 (3) A wide-field visual recognition device comprising:
2. 広角レンズを備え共通の対象物を撮影する少なく とも 2個の撮影装置 (1) と、 該撮影装置 (1 ) により同時撮影された画像を対象物の 3次元座 標を求める演算処理によつて対象物の立体画像に変換する画像処理装置 ( 2 ) と、 該画像処理装置 (2) からの出力画像を表示する表示装置 (3) とを 備えたことを特徴とする広視野視認装置。  2. At least two photographing devices (1) equipped with a wide-angle lens and photographing a common object, and the images simultaneously photographed by the photographing devices (1) are used to calculate the three-dimensional coordinates of the object. And a display device (3) for displaying an output image from the image processing device (2). .
3. 広角レンズを備え所定の重複撮影領域を有する少なくとも 2個の撮影 装置 (1) と、 該撮影装置 (1) により同時撮影された画像の内の重複撮影 領域を重合し画像を連結させる演算処理によって原像に近似する連続画像に 修正する画像処理装置 (2) と、 該画像処理装置 (2) からの出力画像を表 示する表示装置 (3) とを備えたことを特徴とする広視野視認装置。  3. At least two photographing devices (1) having a wide-angle lens and having a predetermined overlapping photographing region, and an operation of superimposing the overlapping photographing regions in the images photographed simultaneously by the photographing device (1) to connect the images. An image processing device (2) for correcting a continuous image approximating an original image by processing, and a display device (3) for displaying an output image from the image processing device (2). Viewing device.
4. 前記画像処理装置 (2) において、 前記基準座標点の座標が任意に変 更搮作可能であることを特徴とする、 請求の範囲第 1項に記載の広視野視認  4. The wide field of view according to claim 1, wherein in the image processing device (2), the coordinates of the reference coordinate point can be arbitrarily changed.
5. 画像を内製する作像装置 (6) が付設され、 前記画像処理装置 (2) において、 該作像装置 (6) からの内製画像と前記撮影装置 (1) からの撮 影画像とが選択入力可能であることを特徴とする、 請求の範囲第 1項から第 4項までのいずれかに記載の広視野視認装置。 5. An image forming device (6) for in-house production of an image is provided, and in the image processing device (2), an in-house image from the image forming device (6) and a captured image from the photographing device (1) are provided. The wide-field visual recognition device according to any one of claims 1 to 4, wherein the user can select and input the following.
6. 前記画像処理装置 ( 2 ) における演算処理が、 該画像処理装置 ( 2 ) の中の固定電子回路を含む ドウエアによって行われることを特徴とする 、 請求の範囲第 1項から第 5項までのいずれかに記載の広視野視認装置。 6. The arithmetic processing in the image processing device (2) is performed by hardware including a fixed electronic circuit in the image processing device (2). 6. The wide-field visual recognition device according to any one of claims 1 to 5.
7. 前記画像処理装置 (2) における演算処理が、 該画像処理装置 (2) において作動するソフトウエアによって行われることを特徵とする、 請求の 範囲第 1項から第 5項までのいずれかに記載の広視野視認装置。 7. The method according to any one of claims 1 to 5, wherein the arithmetic processing in the image processing device (2) is performed by software operating in the image processing device (2). A wide-field visual recognition device as described in the above.
8. 前記撮影装置 (1) と前記画像処理装置 (2) との間、 及び、 前記画 像処理装置 (2) と前記表示装置 (3) との間の、 いずれか又は両方に、 画 像の記録と読み出しを行う画像記憶装置 (4 ; 5) が介設されたことを特徴 とする、 請求の範囲第 1項から第 7項までのいずれかに記載の広視野視認装8. An image is provided on one or both of the imaging device (1) and the image processing device (2) and / or the image processing device (2) and the display device (3). The wide-field visual recognition device according to any one of claims 1 to 7, characterized in that an image storage device (4; 5) for recording and reading images is interposed.
9. 前記広角レンズが、 画角 180度以上の魚眼レンズであることを特徴 とする、 請求の範囲第 1項から第 8項までのいずれかに記載の広視野視認装 置。 9. The wide-field visual recognition device according to any one of claims 1 to 8, wherein the wide-angle lens is a fish-eye lens having an angle of view of 180 degrees or more.
10. 前記広角レンズが光学レンズであることを特徴とする、 請求の範囲 第 1項から第 9項までのいずれかに記載の広視野視認装置。  10. The wide-field visual recognition device according to any one of claims 1 to 9, wherein the wide-angle lens is an optical lens.
1 1. 前記広角レンズが電子レンズであることを特徴とする、 請求の範囲 第 1項から第 9項までのいずれかに記載の広視野視認装置。  1 1. The wide-field visual recognition device according to any one of claims 1 to 9, wherein the wide-angle lens is an electronic lens.
12. 前記撮影装置 (1) 力 sその視野を首振り可能にされたことを特徴と する、 請求の範囲第 1項から第 1 1項までのいずれかに記載の広視野視認装 置。 12. The wide-field visual recognition device according to any one of claims 1 to 11, wherein the imaging device (1) is capable of swinging its field of view with a force s .
13. 前記表示装置 ( 3 ) が広角レンズを介して略球面状のスクリーンに 画像を投影する映写装置であることを特徴とする、 請求の範囲第 1項から第 12項までのいずれかに記載の広視野視認装置。  13. The display device according to claim 1, wherein the display device is a projection device that projects an image onto a substantially spherical screen via a wide-angle lens. Wide-field visual recognition device.
14. 前記映写装置の設置位置が前記略球面状のスクリ—ンの中心軸から ずれた位置にあり、 かつ該設置位置から投影された画像か! ¾スクリーンの略 中心軸上の位置から観察して原像に近似する画像となるよう、 前記画像処理 装置 (2) において画像の補正処理がされることを特徴とする、 請求の範囲 第 1 3項に記載の広視野視認装置。 14. Is the installation position of the projection device shifted from the center axis of the substantially spherical screen, and is the image projected from the installation position! 観 察 Observe from the position substantially on the center axis of the screen. The image processing device (2) performs an image correction process so that the image approximates the original image. 13. The wide-field visual recognition device according to item 13.
1 5. 前記表示装置 (3) が立体像を投影する映写装置であることを特徴 とする、 請求の範囲第 2項に記載の広視野視認装置。  1 5. The wide-field visual recognition device according to claim 2, wherein the display device (3) is a projection device that projects a stereoscopic image.
PCT/JP1997/000480 1996-02-23 1997-02-21 Wide visual-field recognizing system WO1997031484A1 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
GB9818050A GB2325815A (en) 1996-02-23 1997-02-21 Wide visual-field recognizing system
AU17341/97A AU1734197A (en) 1996-02-23 1997-02-21 Wide visual-field recognizing system

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP8/36164 1996-02-23
JP3616496 1996-02-23

Publications (1)

Publication Number Publication Date
WO1997031484A1 true WO1997031484A1 (en) 1997-08-28

Family

ID=12462134

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP1997/000480 WO1997031484A1 (en) 1996-02-23 1997-02-21 Wide visual-field recognizing system

Country Status (3)

Country Link
AU (1) AU1734197A (en)
GB (1) GB2325815A (en)
WO (1) WO1997031484A1 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004242049A (en) * 2003-02-06 2004-08-26 Hitachi Ltd Multi-camera image composite display
JP2005277825A (en) * 2004-03-25 2005-10-06 Hitachi Ltd Multi-camera image display device
JP2006020141A (en) * 2004-07-02 2006-01-19 Denso Corp Display controller
JP2009188980A (en) * 2007-11-09 2009-08-20 Honeywell Internatl Inc Stereo camera having 360 degree field of view
JP2014109480A (en) * 2012-11-30 2014-06-12 Mitsutoyo Corp Xyz orthogonal measurement device

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU1901701A (en) * 1999-11-15 2001-05-30 Equal Reverse Thoughts Limited Method of improved image depth perception

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0380239A (en) * 1989-08-24 1991-04-05 Seiko Epson Corp Projection type liquid crystal device
JPH05346950A (en) * 1991-12-19 1993-12-27 Eastman Kodak Co Method for sensing three-dimensional scene and device for the same
JPH06501585A (en) * 1991-05-13 1994-02-17 インタラクティブ ピクチャーズ コーポレイション Full-field static camera orientation system

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0380239A (en) * 1989-08-24 1991-04-05 Seiko Epson Corp Projection type liquid crystal device
JPH06501585A (en) * 1991-05-13 1994-02-17 インタラクティブ ピクチャーズ コーポレイション Full-field static camera orientation system
JPH05346950A (en) * 1991-12-19 1993-12-27 Eastman Kodak Co Method for sensing three-dimensional scene and device for the same

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004242049A (en) * 2003-02-06 2004-08-26 Hitachi Ltd Multi-camera image composite display
JP2005277825A (en) * 2004-03-25 2005-10-06 Hitachi Ltd Multi-camera image display device
JP2006020141A (en) * 2004-07-02 2006-01-19 Denso Corp Display controller
JP2009188980A (en) * 2007-11-09 2009-08-20 Honeywell Internatl Inc Stereo camera having 360 degree field of view
JP2014109480A (en) * 2012-11-30 2014-06-12 Mitsutoyo Corp Xyz orthogonal measurement device

Also Published As

Publication number Publication date
GB2325815A (en) 1998-12-02
AU1734197A (en) 1997-09-10
GB9818050D0 (en) 1998-10-14

Similar Documents

Publication Publication Date Title
US20230328220A1 (en) System and method for creating a navigable, three-dimensional virtual reality environment having ultra-wide field of view
US7429997B2 (en) System and method for spherical stereoscopic photographing
US7224382B2 (en) Immersive imaging system
US6947059B2 (en) Stereoscopic panoramic image capture device
JP4257298B2 (en) Device for displaying facial features
EP1048167B1 (en) System and method for generating and displaying panoramic images and movies
US7079173B2 (en) Displaying a wide field of view video image
JP4848339B2 (en) Virtual window method, system, and computer program recorded with simulated parallax and visual field change (virtual window with simulated parallax and visual field change)
KR20180111798A (en) Adaptive stitching of frames in the panorama frame creation process
US6795109B2 (en) Stereo panoramic camera arrangements for recording panoramic images useful in a stereo panoramic image pair
JP5483027B2 (en) 3D image measurement method and 3D image measurement apparatus
US20020075295A1 (en) Telepresence using panoramic imaging and directional sound
JPH0879622A (en) Method and apparatus for removing distortion in wide-angle image
US11812009B2 (en) Generating virtual reality content via light fields
JP4406824B2 (en) Image display device, pixel data acquisition method, and program for executing the method
KR20070007059A (en) Multi-dimensional imaging apparatus, systems, and methods
AU2003214899A1 (en) Stereoscopic Panoramic Image Capture Device
JP2002148711A (en) Spherical wide field angle video display device
KR101670328B1 (en) The appratus and method of immersive media display and image control recognition using real-time image acquisition cameras
WO1997031484A1 (en) Wide visual-field recognizing system
JP3467785B2 (en) Display system and imaging device
JP3600422B2 (en) Stereo image display method and apparatus
JP5656809B2 (en) Conversation video display system
JP2011151636A (en) Compound eye camera and camera application equipment
JP2001223963A (en) System and method for generating video information for displaying on plural screens and recording medium

Legal Events

Date Code Title Description
AK Designated states

Kind code of ref document: A1

Designated state(s): AL AM AT AU AZ BA BB BG BR BY CA CH CN CU CZ DE DK EE ES FI GB GE HU IL IS JP KE KG KR KZ LC LK LR LS LT LU LV MD MG MK MN MW MX NO NZ PL PT RO RU SD SE SG SI SK TJ TM TR TT UA UG US UZ VN YU AM AZ BY KG KZ MD RU TJ TM

AL Designated countries for regional patents

Kind code of ref document: A1

Designated state(s): KE LS MW SD SZ UG AT BE CH DE DK ES FI FR GB GR IE IT LU MC NL PT SE BF BJ CF CG

DFPE Request for preliminary examination filed prior to expiration of 19th month from priority date (pct application filed before 20040101)
121 Ep: the epo has been informed by wipo that ep was designated in this application
ENP Entry into the national phase

Ref country code: GB

Ref document number: 9818050

Kind code of ref document: A

Format of ref document f/p: F

REG Reference to national code

Ref country code: DE

Ref legal event code: 8642

122 Ep: pct application non-entry in european phase
NENP Non-entry into the national phase

Ref country code: GB

Free format text: 19970221 A 9818050