WO2017098755A1 - Stereoscopic imaging apparatus - Google Patents

Stereoscopic imaging apparatus Download PDF

Info

Publication number
WO2017098755A1
WO2017098755A1 PCT/JP2016/075141 JP2016075141W WO2017098755A1 WO 2017098755 A1 WO2017098755 A1 WO 2017098755A1 JP 2016075141 W JP2016075141 W JP 2016075141W WO 2017098755 A1 WO2017098755 A1 WO 2017098755A1
Authority
WO
WIPO (PCT)
Prior art keywords
optical system
image
image data
stereo
region
Prior art date
Application number
PCT/JP2016/075141
Other languages
French (fr)
Japanese (ja)
Inventor
輝幸 西原
Original Assignee
オリンパス株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by オリンパス株式会社 filed Critical オリンパス株式会社
Publication of WO2017098755A1 publication Critical patent/WO2017098755A1/en

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances

Definitions

  • Japanese Unexamined Patent Application Publication No. 2011-209634 discloses an imaging unit that generates a plurality of viewpoint images by imaging the same subject from a plurality of viewpoints, and adjusts the parallax of the plurality of viewpoint images to adjust the parallax.
  • a compound eye camera is described that includes a three-dimensional processing unit that generates a stereoscopic image based on a plurality of viewpoint images that are generated, and a monitor that displays the generated stereoscopic image.
  • the present invention has been made in view of the above circumstances, and provides a stereo image imaging device capable of adjusting the position of a cross point without enlarging the size in the direction perpendicular to the optical axis of the optical system. It is an object.
  • FIGS. 1 to 10 show Embodiment 1 of the present invention
  • FIG. 1 is a block diagram showing a configuration of a stereo image pickup apparatus.
  • the stereo image pickup apparatus is applied to an endoscope apparatus.
  • the present invention is not limited to this, and may be applied to apparatuses other than the endoscope apparatus.
  • the control unit 26 is a control circuit that controls each unit in the video processor 2 and controls the entire stereo image pickup device as necessary.
  • the control unit 26 controls the stereo image generation unit 22 to generate stereo image data based on the first region 13a and the second region 14a set by the cutout region setting unit 24. Further, when the automatic focus adjustment mode is set, the control unit 26 controls the focus control unit 25 to adjust the focus position.
  • the control unit 26 is configured so that the first optical system 11 and the second optical system 12 are, for example, pan-focus optical systems and do not include a focus lens or the like (or focus positions so as to focus on the cross point CRP).
  • the image processing unit 23 performs control so that the image processing unit 23 performs image processing even when the amount of blur of another subject at a different distance from the cross point CRP is small.
  • the display device 3 is a stereoscopic monitor (3D monitor) that displays stereo image data generated by the stereo image generating unit 22 and subjected to image processing by the image processing unit 23 so as to enable stereoscopic viewing.
  • a stereo image is displayed on the display device 3
  • a subject at the same distance as the cross point CRP is observed to be located on the display screen of the display device 3
  • a subject farther than the cross point CRP is observed on the display device 3.
  • the subject is observed so as to be located behind the display screen, and the subject closer to the cross point CRP jumps out of the display screen of the display device 3 and is observed.
  • the distance between the right eye image and the left eye image of the first subject OBJ1 farther than the cross point CRP is the second subject OBJ2 at the cross point CRP.
  • the present invention is not limited to the above-described embodiment as it is, and can be embodied by modifying the constituent elements without departing from the scope of the invention in the implementation stage.
  • various aspects of the invention can be formed by appropriately combining a plurality of components disclosed in the embodiment. For example, you may delete some components from all the components shown by embodiment.
  • the constituent elements over different embodiments may be appropriately combined.

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Biomedical Technology (AREA)
  • Medical Informatics (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Endoscopes (AREA)
  • Studio Devices (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Abstract

This stereoscopic imaging apparatus comprises: imaging elements (13, 14) for subjecting optical images of optical systems (11, 12) to photoelectric conversion and outputting image data; a cut-out region setting unit (24) which sets a first region of the imaging element (13) and a second region of the imaging element (14) so that a cross point (CRP), where a line extending from the center of the first region to the principal point of the optical system (11) and a line extending from the center of the second region to the principal point of the optical system (12) intersect, moves to a farther side or a closer side; and a stereo image generation unit (22) for generating stereo image data from image data of the first and second regions.

Description

ステレオ画像撮像装置Stereo image pickup device
 本発明は、ステレオ光学系が結像する複数の光学像を撮像して得た複数の画像データからステレオ画像データを生成するステレオ画像撮像装置に関する。 The present invention relates to a stereo image capturing apparatus that generates stereo image data from a plurality of image data obtained by capturing a plurality of optical images formed by a stereo optical system.
 ステレオ光学系が結像する複数の光学像を撮像して得た複数の画像データからステレオ画像データを生成するステレオ画像撮像装置は、従来より提案されている。こうしたステレオ画像撮像装置において得られる複数の画像データは視差を有するが、この視差を調整する技術も提案されている。 Conventionally, a stereo image capturing apparatus that generates stereo image data from a plurality of image data obtained by capturing a plurality of optical images formed by a stereo optical system has been proposed. A plurality of image data obtained in such a stereo image capturing apparatus has parallax, and a technique for adjusting the parallax has also been proposed.
 例えば、日本国特開2011-209634号公報には、複数の視点から同一の被写体を撮像することで複数の視点画像を生成する撮影部と、複数の視点画像の視差を調整し、視差が調整された複数の視点画像に基づいて立体視画像を生成する3次元処理部と、生成された立体視画像を表示するモニタと、を備える複眼カメラが記載されている。 For example, Japanese Unexamined Patent Application Publication No. 2011-209634 discloses an imaging unit that generates a plurality of viewpoint images by imaging the same subject from a plurality of viewpoints, and adjusts the parallax of the plurality of viewpoint images to adjust the parallax. A compound eye camera is described that includes a three-dimensional processing unit that generates a stereoscopic image based on a plurality of viewpoint images that are generated, and a monitor that displays the generated stereoscopic image.
 また、日本国特開2015-126288号公報には、同一の観察対象を異なる視点から撮像するよう互いの光軸が設定され、かつ、合焦位置を複数の異なる合焦距離にそれぞれ変更可能な左眼用の撮像光学系および右眼用の撮像光学系を有する鏡体部に対して着脱自在に装着される枠体と、左眼用の撮像光学系と右眼用の撮像光学系の少なくとも2以上の特定の合焦距離にそれぞれ対応する位置において枠体に保持された指標と、を有する調整治具が記載されている。 In Japanese Patent Laid-Open No. 2015-126288, the optical axes are set so that the same observation object is imaged from different viewpoints, and the focus position can be changed to a plurality of different focus distances. A frame that is detachably attached to a mirror unit having an imaging optical system for the left eye and an imaging optical system for the right eye, and at least of an imaging optical system for the left eye and an imaging optical system for the right eye An adjustment jig having an index held by the frame at positions corresponding to two or more specific in-focus distances is described.
 さらに、日本国特開2012-182746号公報には、互いに視差を有する2つの画像データで構成された複数の3次元画像が時系列に沿って連続的に再生される動画の画面内で動きがある被写体を含む動体領域を検出する動体領域検出部と、動体領域検出部が検出した動体領域の2つの画像データにおける視差を小さくする調整を行う視差調整部と、を備える画像処理装置等が記載されている。 Furthermore, Japanese Patent Application Laid-Open No. 2012-182746 discloses a motion within a moving image screen in which a plurality of three-dimensional images composed of two image data having parallax with each other are continuously reproduced in time series. An image processing apparatus including a moving object region detection unit that detects a moving object region including a certain subject and a parallax adjustment unit that performs adjustment to reduce parallax in two image data of the moving object region detected by the moving object region detection unit. Has been.
 ところで、ステレオ画像撮像装置では、例えば、右眼用の撮像素子の中心と右眼用のレンズの主点とを結んだ線と、左眼用の撮像素子の中心と左眼用のレンズの主点とを結んだ線と、が交わるクロスポイントにある被写体が、表示画面上に位置するような距離感で見えるように画像表示が行われるが、クロスポイントよりも近接側(近距離側)にある他の被写体は、表示画面から手前に飛び出して見えてしまう。こうした手前に飛び出して見える画像は、長時間の観察では観察者に疲労感を与える原因となる。 By the way, in the stereo image pickup device, for example, a line connecting the center of the right-eye image sensor and the principal point of the right-eye lens, the center of the left-eye image sensor, and the main of the left-eye lens. The image is displayed so that the subject at the cross point where the line connecting the points intersects can be seen as if it is located on the display screen, but closer to the cross point (closer side) than the cross point. Some other subject appears to jump out from the display screen. Such an image that appears to pop out may cause fatigue to the observer during long-time observation.
 また、左右の撮像素子の間隔を機械的に調整することにより、クロスポイントを変更することも可能であるが、この場合には、レンズの光軸に垂直な方向に撮像素子を移動するためのスペースが必要になる。例えば、ステレオ画像撮像装置が内視鏡に適用されたものである場合などには、細径化の要求に反して、光学系の光軸に垂直な方向の大きさ(内視鏡挿入部の径)が大きくなってしまう。従って、こうした構成は、細径化が求められる分野には適していない。 It is also possible to change the cross point by mechanically adjusting the distance between the left and right image sensors. In this case, however, it is necessary to move the image sensor in a direction perpendicular to the optical axis of the lens. Space is needed. For example, when a stereo image pickup apparatus is applied to an endoscope, the size in the direction perpendicular to the optical axis of the optical system (in the endoscope insertion portion) (Diameter) becomes large. Therefore, such a configuration is not suitable for a field where a reduction in diameter is required.
 さらに、クロスポイントよりも遠方側(遠距離側)にある被写体に関して、右眼用画像と右眼用画像との表示画面上における間隔が、観察者の左右の眼の間隔よりも広くなる開散が生じると、眼精疲労が生じ、被写体を立体視することができないなどの現象が生じる原因となる。 Furthermore, with respect to a subject on the far side (far side) from the cross point, the spread on the display screen between the right eye image and the right eye image is wider than the distance between the left and right eyes of the observer. If this occurs, eye strain may occur, causing a phenomenon such as the inability to stereoscopically view the subject.
 本発明は上記事情に鑑みてなされたものであり、光学系の光軸に垂直な方向の大きさを拡大することなく、クロスポイントの位置を調整することができるステレオ画像撮像装置を提供することを目的としている。 The present invention has been made in view of the above circumstances, and provides a stereo image imaging device capable of adjusting the position of a cross point without enlarging the size in the direction perpendicular to the optical axis of the optical system. It is an object.
 本発明のある態様によるステレオ画像撮像装置は、第1光学系と、前記第1光学系とは視差を有する第2光学系と、を含むステレオ光学系と、前記第1光学系が結像した光学像を光電変換して第1画像データを出力する第1撮像素子と、前記第2光学系が結像した光学像を光電変換して第2画像データを出力する第2撮像素子と、前記第1撮像素子の第1領域の中心から前記第1光学系の主点へ向かう第1視野中心線と、前記第2撮像素子の第2領域の中心から前記第2光学系の主点へ向かう第2視野中心線と、が交差するクロスポイントが、遠方側または近接側に移動するように、前記第1領域および前記第2領域を設定する切出領域設定部と、前記第1画像データから前記第1領域の画像データを切り出すと共に、前記第2画像データから前記第2領域の画像データを切り出してステレオ画像データを生成するステレオ画像生成部と、を有する。 According to an aspect of the present invention, there is provided a stereo image capturing apparatus including a first optical system and a stereo optical system including a second optical system having a parallax with the first optical system, and the first optical system forms an image. A first image sensor that photoelectrically converts an optical image and outputs first image data; a second image sensor that photoelectrically converts an optical image formed by the second optical system and outputs second image data; and A first visual field center line from the center of the first region of the first image sensor to the principal point of the first optical system, and a center of the second region of the second image sensor to the principal point of the second optical system. From the first image data, a cut-out area setting unit for setting the first area and the second area so that a cross point where the second visual field center line intersects moves to the far side or the near side. The image data of the first area is cut out and the second image data A stereo image generating unit that generates a stereo image data cutting out image data of al the second region.
本発明の実施形態1におけるステレオ画像撮像装置の構成を示すブロック図。1 is a block diagram showing a configuration of a stereo image capturing device in Embodiment 1 of the present invention. 上記実施形態1におけるステレオ光学系の焦点調節機構の第1の例を示す図。FIG. 5 is a diagram illustrating a first example of a focus adjustment mechanism of the stereo optical system according to the first embodiment. 上記実施形態1におけるステレオ光学系の焦点調節機構の第2の例を示す図。FIG. 6 is a diagram illustrating a second example of the focus adjustment mechanism of the stereo optical system according to the first embodiment. 上記実施形態1におけるステレオ光学系の焦点調節機構の第3の例を示す図。FIG. 6 is a diagram illustrating a third example of the focus adjustment mechanism of the stereo optical system according to the first embodiment. 上記実施形態1において、撮影画像における焦点調節エリアの例を示す図。FIG. 4 is a diagram illustrating an example of a focus adjustment area in a captured image in the first embodiment. 上記実施形態1において、クロスポイントが第1の被写体になるように設定された第1領域および第2領域の例を示す図。In the said Embodiment 1, the figure which shows the example of the 1st area | region and 2nd area | region set so that a cross point may become a 1st to-be-photographed object. 上記実施形態1において、クロスポイントが第1の被写体よりも近接側の第2の被写体になるように設定された第1領域および第2領域の例を示す図。FIG. 4 is a diagram showing an example of a first area and a second area set so that a cross point becomes a second subject closer to the first subject in the first embodiment. 上記実施形態1において、クロスポイントに位置する第1の被写体に合焦するよう焦点調節したときの被写界深度の例を示す図。FIG. 4 is a diagram illustrating an example of a depth of field when the focus is adjusted so as to focus on a first subject located at a cross point in the first embodiment. 上記実施形態1において、クロスポイントに位置する第2の被写体に合焦するよう焦点調節したときの被写界深度の例を示す図。FIG. 4 is a diagram illustrating an example of a depth of field when the focus is adjusted so as to focus on a second subject located at a cross point in the first embodiment. 上記実施形態1におけるステレオ画像撮像装置の作用を示すフローチャート。5 is a flowchart showing the operation of the stereo image capturing apparatus according to the first embodiment.
 以下、図面を参照して本発明の実施の形態を説明する。 Hereinafter, embodiments of the present invention will be described with reference to the drawings.
[実施形態1]
 図1から図10は本発明の実施形態1を示したものであり、図1はステレオ画像撮像装置の構成を示すブロック図である。
[Embodiment 1]
FIGS. 1 to 10 show Embodiment 1 of the present invention, and FIG. 1 is a block diagram showing a configuration of a stereo image pickup apparatus.
 本実施形態は、ステレオ画像撮像装置を、内視鏡装置に適用したものとなっている。ただし、これに限定されるものではなく、内視鏡装置以外の装置に適用しても構わない。 In the present embodiment, the stereo image pickup apparatus is applied to an endoscope apparatus. However, the present invention is not limited to this, and may be applied to apparatuses other than the endoscope apparatus.
 図1に示すように、ステレオ画像撮像装置は、内視鏡1と、ビデオプロセッサ2と、表示装置3と、を備えている。 As shown in FIG. 1, the stereo image pickup device includes an endoscope 1, a video processor 2, and a display device 3.
 内視鏡1は、第1光学系11および第2光学系12を含むステレオ光学系と、第1撮像素子13と、第2撮像素子14と、操作部15と、を含んでいる。 The endoscope 1 includes a stereo optical system including a first optical system 11 and a second optical system 12, a first imaging element 13, a second imaging element 14, and an operation unit 15.
 第1光学系11および第2光学系12は、視差を有するように配置されており、それぞれが、例えば、1つのレンズにより構成されるか、または複数のレンズを組み合わせて構成されている。なお、ここでは第1光学系11および第2光学系12が独立した光学系として構成されている例を挙げたが、これに限定されるものではなく、光学要素の少なくとも一部を共通化した光学系であっても構わない。 The first optical system 11 and the second optical system 12 are arranged so as to have a parallax, and each of them is constituted by, for example, one lens or a combination of a plurality of lenses. Here, an example in which the first optical system 11 and the second optical system 12 are configured as independent optical systems has been described. However, the present invention is not limited to this, and at least a part of the optical elements is shared. It may be an optical system.
 第1撮像素子13は、第1光学系11が結像した光学像を光電変換して第1画像データを出力する。 The first image sensor 13 photoelectrically converts the optical image formed by the first optical system 11 and outputs first image data.
 第2撮像素子14は、第2光学系12が結像した光学像を光電変換して第2画像データを出力する。なお、第1撮像素子13および第2撮像素子14についても、独立した撮像素子として構成されるに限るものではなく、1つの撮像素子の一部を第1撮像素子13として用い、同撮像素子の他の一部を第2撮像素子14として用いる構成であっても構わない。 The second image sensor 14 photoelectrically converts the optical image formed by the second optical system 12 and outputs second image data. The first image sensor 13 and the second image sensor 14 are not limited to being configured as independent image sensors, and a part of one image sensor is used as the first image sensor 13, and The other part may be configured to be used as the second image sensor 14.
 操作部15は、クロスポイントCRPを、遠方側(遠距離側)または近接側(近距離側)に移動する操作信号を入力するための操作スイッチ等の操作回路(あるいは、操作ボタン等の操作部材)を有して構成されている。ここに、クロスポイントCRPは、後述する図6、図7、図9等に示すように、第1撮像素子13の第1領域13aの中心13cから第1光学系11の主点11pへ向かう第1視野中心線と、第2撮像素子14の第2領域14aの中心14cから第2光学系12の主点12pへ向かう第2視野中心線と、が交差する点である。 The operation unit 15 is an operation circuit such as an operation switch (or an operation member such as an operation button) for inputting an operation signal for moving the cross point CRP to the far side (far side) or the near side (near side). ). Here, the cross point CRP is the first from the center 13c of the first region 13a of the first image sensor 13 toward the principal point 11p of the first optical system 11, as shown in FIGS. This is a point where the one visual field center line and the second visual field center line from the center 14 c of the second region 14 a of the second image sensor 14 toward the principal point 12 p of the second optical system 12 intersect.
 なお、ここでは操作部15が内視鏡1に設けられている例を示したが、内視鏡1とは別体のフットスイッチ等として構成されていても良いし、その他の構成であっても構わない。 In addition, although the example in which the operation unit 15 is provided in the endoscope 1 is shown here, the operation unit 15 may be configured as a foot switch or the like separate from the endoscope 1, or other configurations. It doesn't matter.
 また、ビデオプロセッサ2は、画像入力部21と、ステレオ画像生成部22と、画像処理部23と、切出領域設定部24と、焦点制御部25と、制御部26と、を備えている。 Also, the video processor 2 includes an image input unit 21, a stereo image generation unit 22, an image processing unit 23, a cutout region setting unit 24, a focus control unit 25, and a control unit 26.
 画像入力部21は、第1撮像素子13から出力された第1画像データと、第2撮像素子14から出力された第2画像データと、を入力する画像入力回路である。 The image input unit 21 is an image input circuit that inputs the first image data output from the first image sensor 13 and the second image data output from the second image sensor 14.
 ステレオ画像生成部22は、第1画像データから第1領域13aの画像データを切り出すと共に、第2画像データから第2領域14aの画像データを切り出してステレオ画像データを生成するステレオ画像生成回路である。 The stereo image generation unit 22 is a stereo image generation circuit that extracts the image data of the first area 13a from the first image data and generates the stereo image data by extracting the image data of the second area 14a from the second image data. .
 画像処理部23は、ステレオ画像生成部22により生成されたステレオ画像データに対して、必要に応じて、クロスポイントCRPを含む距離領域以外の距離領域に対応する画像データのシャープネスが低下するように画像処理を行う画像処理回路である。この画像処理部23が行う画像のシャープネスを低下させる処理は、具体的には、例えばガウシアンフィルタ等を用いたぼかし処理である。また、画像処理部23は、画像を表示装置3に表示するために必要な一般的な画像処理、例えば、ホワイトバランス処理、カラーマトリクス処理、ガンマ変換処理、あるいは表示装置3の画素数に合わせた画素数変換処理なども行う。 The image processing unit 23 may reduce the sharpness of the image data corresponding to the distance region other than the distance region including the cross point CRP, as necessary, with respect to the stereo image data generated by the stereo image generation unit 22. An image processing circuit that performs image processing. Specifically, the process of reducing the sharpness of the image performed by the image processing unit 23 is a blurring process using, for example, a Gaussian filter. Further, the image processing unit 23 is adapted to general image processing necessary for displaying an image on the display device 3, for example, white balance processing, color matrix processing, gamma conversion processing, or the number of pixels of the display device 3. Also performs pixel number conversion processing.
 切出領域設定部24は、上述したクロスポイントCRPが、遠方側または近接側に移動するように、第1撮像素子13に対する第1領域13aを設定すると共に、第2撮像素子14に対する第2領域14aを設定する切出領域設定回路である。この切出領域設定部24により設定された第1領域13aおよび第2領域14aの情報は、制御部26へ出力され、ステレオ画像生成部22の制御に用いられる。 The cut-out area setting unit 24 sets the first area 13a for the first image sensor 13 so that the above-described cross point CRP moves to the far side or the near side, and also sets the second area for the second image sensor 14. 14a is a cut-out area setting circuit for setting 14a. Information on the first region 13a and the second region 14a set by the cutout region setting unit 24 is output to the control unit 26 and used for control of the stereo image generation unit 22.
 焦点制御部25は、後述するアクチュエータ16(図2参照)を制御して、第1光学系11を構成するレンズの少なくとも一部(いわゆるフォーカスレンズ)、および第2光学系12を構成するレンズの少なくとも一部(同フォーカスレンズ)を駆動し、クロスポイントCRPに合焦するように焦点位置を調節する焦点制御回路である。 The focus control unit 25 controls an actuator 16 (see FIG. 2), which will be described later, to at least a part of a lens constituting the first optical system 11 (so-called focus lens) and a lens constituting the second optical system 12. This is a focus control circuit that drives at least a part (the same focus lens) and adjusts the focus position so as to focus on the cross point CRP.
 制御部26は、ビデオプロセッサ2内の各部を制御すると共に、必要に応じてステレオ画像撮像装置全体を制御する制御回路である。この制御部26は、切出領域設定部24により設定された第1領域13aおよび第2領域14aに基づいて、ステレオ画像生成部22がステレオ画像データを生成するように制御する。また、制御部26は、自動焦点調節モードが設定されている場合には、焦点制御部25が焦点位置を調節するように制御する。さらに、制御部26は、第1光学系11および第2光学系12が例えばパンフォーカスの光学系であってフォーカスレンズ等を供えていない場合(あるいは、クロスポイントCRPに合焦するように焦点位置を調節した後でも、クロスポイントCRPとは異なる距離にある他の被写体のボケ量が小さい場合など)に、画像処理部23が画像処理を行うように制御する。 The control unit 26 is a control circuit that controls each unit in the video processor 2 and controls the entire stereo image pickup device as necessary. The control unit 26 controls the stereo image generation unit 22 to generate stereo image data based on the first region 13a and the second region 14a set by the cutout region setting unit 24. Further, when the automatic focus adjustment mode is set, the control unit 26 controls the focus control unit 25 to adjust the focus position. Further, the control unit 26 is configured so that the first optical system 11 and the second optical system 12 are, for example, pan-focus optical systems and do not include a focus lens or the like (or focus positions so as to focus on the cross point CRP). The image processing unit 23 performs control so that the image processing unit 23 performs image processing even when the amount of blur of another subject at a different distance from the cross point CRP is small.
 表示装置3は、ステレオ画像生成部22により生成され、画像処理部23により画像処理されたステレオ画像データを、立体視可能に表示する立体視用モニタ(3Dモニタ)である。表示装置3にステレオ画像を表示すると、クロスポイントCRPと同じ距離にある被写体は表示装置3の表示画面上に位置するように観察され、クロスポイントCRPよりも遠方側にある被写体は表示装置3の表示画面よりも奥に位置するように観察され、クロスポイントCRPよりも近接側にある被写体は表示装置3の表示画面よりも手前に飛び出して観察される。 The display device 3 is a stereoscopic monitor (3D monitor) that displays stereo image data generated by the stereo image generating unit 22 and subjected to image processing by the image processing unit 23 so as to enable stereoscopic viewing. When a stereo image is displayed on the display device 3, a subject at the same distance as the cross point CRP is observed to be located on the display screen of the display device 3, and a subject farther than the cross point CRP is observed on the display device 3. The subject is observed so as to be located behind the display screen, and the subject closer to the cross point CRP jumps out of the display screen of the display device 3 and is observed.
 次に、図2はステレオ光学系の焦点調節機構の第1の例を示す図である。なお、この図2、および後述する図3および図4においては、第1光学系11および第2光学系12が、何れも1つ以上のレンズを組み合わせて構成されたものとなっていて、例えば、第1レンズ10a、第2レンズ10b、および第3レンズ10cの3枚のレンズで構成されている。そして以下では、これら3枚のレンズの内の、第2レンズ10bがフォーカスレンズとなっている場合を例に挙げて説明する。 Next, FIG. 2 is a diagram showing a first example of the focus adjustment mechanism of the stereo optical system. 2 and FIGS. 3 and 4 to be described later, the first optical system 11 and the second optical system 12 are both configured by combining one or more lenses. , The first lens 10a, the second lens 10b, and the third lens 10c. In the following, an example in which the second lens 10b of these three lenses is a focus lens will be described.
 図2に示す例は、フォーカスレンズである第2レンズ10bを、焦点調節機構に含まれるアクチュエータ16の駆動力により光軸方向に移動させて焦点位置の調節を行う例となっている。 The example shown in FIG. 2 is an example in which the focus position is adjusted by moving the second lens 10b, which is a focus lens, in the direction of the optical axis by the driving force of the actuator 16 included in the focus adjustment mechanism.
 アクチュエータ16は、例えば電磁アクチュエータで構成されていて、焦点制御部25の制御に基づき駆動されて第2レンズ10bを光軸方向に移動し、自動により焦点位置を調節するようになっている。 The actuator 16 is composed of, for example, an electromagnetic actuator, and is driven based on the control of the focus control unit 25 to move the second lens 10b in the optical axis direction and automatically adjust the focus position.
 また、図3はステレオ光学系の焦点調節機構の第2の例を示す図である。 FIG. 3 is a diagram showing a second example of the focus adjustment mechanism of the stereo optical system.
 この図3に示す例は、フォーカスレンズである第2レンズ10bを、ワイヤ10h1,10h2により光軸方向に移動させて焦点位置の調節を行う例となっている。 The example shown in FIG. 3 is an example in which the focus position is adjusted by moving the second lens 10b, which is a focus lens, in the optical axis direction with the wires 10h1 and 10h2.
 第2レンズ10bは、例えばレンズ枠10fに保持されていて、ワイヤ10h1はレンズ枠10fに接続され、ワイヤ10h2は定滑車10gを介してレンズ枠10fに接続されている。ここに、定滑車10gはレンズ枠10fよりも先端側において内視鏡1の先端部1a(図6~図9参照)内に固定されている。 The second lens 10b is held by, for example, the lens frame 10f, the wire 10h1 is connected to the lens frame 10f, and the wire 10h2 is connected to the lens frame 10f via the fixed pulley 10g. Here, the fixed pulley 10g is fixed in the distal end portion 1a (see FIGS. 6 to 9) of the endoscope 1 on the distal end side of the lens frame 10f.
 このような構成により、ワイヤ10h1を引張すれば第2レンズ10bが像側(手元側)へ移動し、ワイヤ10h2を引張すれば第2レンズ10bが物体側(先端側)へ移動する。 With such a configuration, if the wire 10h1 is pulled, the second lens 10b moves to the image side (hand side), and if the wire 10h2 is pulled, the second lens 10b moves to the object side (tip side).
 なお、これらのワイヤ10h1,10h2は、手動により引張するように構成しても良い(この場合に、焦点調節機構はマニュアル焦点調節機構となる)し、アクチュエータ等を用いて引張するように構成しても構わない。 The wires 10h1 and 10h2 may be configured to be manually pulled (in this case, the focus adjustment mechanism is a manual focus adjustment mechanism) or configured to be pulled using an actuator or the like. It doesn't matter.
 さらに、図4はステレオ光学系の焦点調節機構の第3の例を示す図である。 Furthermore, FIG. 4 is a diagram showing a third example of the focus adjustment mechanism of the stereo optical system.
 この図4に示す例は、フォーカスレンズである第2レンズ10bを、ワイヤ10hおよび引張バネ10iにより光軸方向に移動させて焦点位置の調節を行う例となっている。 The example shown in FIG. 4 is an example in which the focus position is adjusted by moving the second lens 10b, which is a focus lens, in the optical axis direction by the wire 10h and the tension spring 10i.
 第2レンズ10bは、例えばレンズ枠10fに保持されていて、ワイヤ10hおよび引張バネ10iはレンズ枠10fに接続されている。ここに、引張バネ10iは、レンズ枠10fに先端側へ向かう付勢力を与えるように、レンズ枠10fよりも先端側に配設されている。 The second lens 10b is held by a lens frame 10f, for example, and the wire 10h and the tension spring 10i are connected to the lens frame 10f. Here, the tension spring 10i is disposed on the front end side of the lens frame 10f so as to apply a biasing force toward the front end side to the lens frame 10f.
 このような構成により、ワイヤ10hを引張すれば第2レンズ10bが像側(手元側)へ移動し、ワイヤ10hを弛緩させれば第2レンズ10bが引張バネ10iの引張力により物体側(先端側)へ移動する。そして、ワイヤ10hは、手動により引張するように構成しても良い(この場合に、焦点調節機構はマニュアル焦点調節機構となる)し、アクチュエータ等を用いて引張するように構成しても構わない。 With such a configuration, if the wire 10h is pulled, the second lens 10b moves to the image side (hand side), and if the wire 10h is relaxed, the second lens 10b is moved to the object side (tip) by the tensile force of the tension spring 10i. To the side). The wire 10h may be configured to be manually pulled (in this case, the focus adjustment mechanism is a manual focus adjustment mechanism), or may be configured to be pulled using an actuator or the like. .
 なお、ステレオ光学系の焦点調節機構は、図2~図4を参照して説明した第1~第3の例に限定されるものではなく、その他の構成を適宜採用することができる。例えば、図4に示した構成において、ワイヤ10hとして可撓性を有するが所定レベル以下の押圧力では屈曲しないワイヤを用いれば、引張バネ10iを省略することができる。この構成の場合には、ワイヤ10hを引張すれば第2レンズ10bが像側(手元側)へ移動し、ワイヤ10hを押圧すれば第2レンズ10bが物体側(先端側)へ移動する。 Note that the focus adjustment mechanism of the stereo optical system is not limited to the first to third examples described with reference to FIGS. 2 to 4, and other configurations can be appropriately employed. For example, in the configuration shown in FIG. 4, if a wire that has flexibility but does not bend with a pressing force below a predetermined level is used as the wire 10h, the tension spring 10i can be omitted. In this configuration, when the wire 10h is pulled, the second lens 10b moves to the image side (hand side), and when the wire 10h is pressed, the second lens 10b moves to the object side (tip side).
 次に、図5は、撮影画像31における焦点調節エリア31Aの例を示す図である。 Next, FIG. 5 is a diagram showing an example of the focus adjustment area 31A in the captured image 31. As shown in FIG.
 ユーザが観察する主要被写体は、撮影画像31の中央に位置することが多いために、ここでは焦点調節エリア31Aが撮影画像31の中央部に設定される例を示している。ただし、これに限定されるものではない。 Since the main subject observed by the user is often located at the center of the captured image 31, an example in which the focus adjustment area 31A is set at the center of the captured image 31 is shown here. However, it is not limited to this.
 切出領域設定部24は、画像入力部21から入力された第1画像データと第2画像データとの少なくとも一方に基づいて、被写体距離の測定を、この焦点調節エリア31A内の被写体に対して行う。第1画像データと第2画像データとには視差があるために、切出領域設定部24は、例えば位相差検出に基づき被写体距離を測定することができる。ただし、コントラストAFを行って被写体距離を測定しても良いし、これらに限らずその他の測距法を用いても構わない。 The cutout region setting unit 24 measures the subject distance with respect to the subject in the focus adjustment area 31A based on at least one of the first image data and the second image data input from the image input unit 21. Do. Since the first image data and the second image data have parallax, the cutout region setting unit 24 can measure the subject distance based on, for example, phase difference detection. However, the subject distance may be measured by performing contrast AF, and other distance measurement methods may be used without being limited thereto.
 図6は、クロスポイントCRPが第1の被写体OBJ1になるように設定された第1領域13aおよび第2領域14aの例を示す図である。 FIG. 6 is a diagram showing an example of the first area 13a and the second area 14a set so that the cross point CRP becomes the first subject OBJ1.
 内視鏡1の先端部1aには、上述した第1光学系11および第2光学系12を含むステレオ光学系と、第1撮像素子13と、第2撮像素子14と、が配設されている。 A stereo optical system including the first optical system 11 and the second optical system 12 described above, a first image sensor 13, and a second image sensor 14 are disposed at the distal end portion 1 a of the endoscope 1. Yes.
 第1撮像素子13は、第1光学系11が結像した光学像を有効画素領域13eで光電変換して、第1画像データを生成する。また、第2撮像素子14は、第2光学系12が結像した光学像を有効画素領域14eで光電変換して、第2画像データを生成する。 The first image sensor 13 photoelectrically converts the optical image formed by the first optical system 11 in the effective pixel region 13e to generate first image data. The second image sensor 14 photoelectrically converts the optical image formed by the second optical system 12 in the effective pixel area 14e, thereby generating second image data.
 このような構成において、有効画素領域13e中の第1領域13aの画像データと、有効画素領域14e中の第2領域14aの画像データと、に基づきステレオ画像を生成して表示を行う場合に、クロスポイントCRPは、第1撮像素子13の第1領域13aの中心13cから第1光学系11の主点11pへ向かう第1視野中心線と、第2撮像素子14の第2領域14aの中心14cから第2光学系12の主点12pへ向かう第2視野中心線と、が交差する点である。 In such a configuration, when a stereo image is generated and displayed based on the image data of the first region 13a in the effective pixel region 13e and the image data of the second region 14a in the effective pixel region 14e, The cross point CRP includes the first visual field center line from the center 13c of the first region 13a of the first image sensor 13 to the principal point 11p of the first optical system 11, and the center 14c of the second region 14a of the second image sensor 14. Is a point where the second visual field center line going to the principal point 12p of the second optical system 12 intersects.
 なお、第1領域13aおよび第2領域14aの領域サイズは予め設定値が与えられているが、領域サイズを変更することができるように構成しても構わない。 Note that the area sizes of the first area 13a and the second area 14a are set in advance, but the area size may be changed.
 この図6に示す例では、第1領域13aの中心13cが有効画素領域13eの中心に一致し、第2領域14aの中心14cが有効画素領域14eの中心に一致しており、さらにクロスポイントCRPの位置に第1の被写体OBJ1が存在している。 In the example shown in FIG. 6, the center 13c of the first region 13a coincides with the center of the effective pixel region 13e, the center 14c of the second region 14a coincides with the center of the effective pixel region 14e, and the cross point CRP. The first subject OBJ1 exists at the position of.
 また、第1の被写体OBJ1よりも近接側には、第2の被写体OBJ2が存在している。従って、図6に示すような状態で撮像された第1の画像および第2の画像から生成されたステレオ画像を表示装置3に表示すると、第1の被写体OBJ1は表示装置3の表示画面上に位置するように観察され、第2の被写体OBJ2は表示装置3の表示画面から手前に飛び出して観察される。 In addition, the second subject OBJ2 is present closer to the first subject OBJ1. Therefore, when a stereo image generated from the first image and the second image captured in the state shown in FIG. 6 is displayed on the display device 3, the first subject OBJ1 is displayed on the display screen of the display device 3. The second subject OBJ <b> 2 is observed by jumping forward from the display screen of the display device 3.
 そこで、次の図7に示すように、クロスポイントCRPが第2の被写体OBJ2になるように、切出領域設定部24が第1領域13aおよび第2領域14aの設定を行う。ここに、図7は、クロスポイントCRPが第1の被写体OBJ1よりも近接側の第2の被写体OBJ2になるように設定された第1領域13aおよび第2領域14aの例を示す図である。 Therefore, as shown in FIG. 7, the cutout area setting unit 24 sets the first area 13a and the second area 14a so that the cross point CRP becomes the second subject OBJ2. FIG. 7 is a diagram illustrating an example of the first region 13a and the second region 14a set so that the cross point CRP becomes the second subject OBJ2 closer to the first subject OBJ1.
 第2の被写体OBJ2にクロスポイントCRPを合わせるために、第1領域13aおよび第2領域14aは、左右対称な位置(第1光学系11および第1撮像素子13を含む右眼系と、第2光学系12および第2撮像素子14を含む左眼系と、を鏡面対称に映す対称面に対して対称な位置)であって、図6に示した位置よりも左右に離隔する位置に設定されている。 In order to align the cross point CRP with the second subject OBJ2, the first region 13a and the second region 14a are positioned symmetrically (the right eye system including the first optical system 11 and the first image sensor 13 and the second eye system). The left eye system including the optical system 12 and the second image sensor 14 is symmetrically positioned with respect to a plane of symmetry that mirrors the mirror plane), and is set to a position that is separated from the position shown in FIG. ing.
 この図7に示すような状態で撮像された第1の画像および第2の画像から生成されたステレオ画像を表示装置3に表示すると、第1の被写体OBJ1は表示装置3の表示画面よりも奥に位置するように観察され、第2の被写体OBJ2は表示装置3の表示画面上に位置するように観察される。従って、表示装置3の表示画面から手前に飛び出して観察される被写体が存在せず、ユーザに疲労感を与える原因を解消することができる。 When a stereo image generated from the first image and the second image captured in the state as shown in FIG. 7 is displayed on the display device 3, the first subject OBJ1 is far behind the display screen of the display device 3. The second subject OBJ2 is observed so as to be positioned on the display screen of the display device 3. Therefore, there is no subject to be observed by jumping out from the display screen of the display device 3, and the cause of fatigue to the user can be eliminated.
 次に、図10は、ステレオ画像撮像装置の作用を示すフローチャートである。上述した図5~図7、および後述する図8、図9等を参照しながら、図10に沿ってステレオ画像撮像装置の作用を説明する。 Next, FIG. 10 is a flowchart showing the operation of the stereo image pickup apparatus. The operation of the stereo image pickup apparatus will be described with reference to FIG. 10 with reference to FIGS. 5 to 7 described above and FIGS.
 この処理を開始すると、画像入力部21が、第1撮像素子13から出力された第1画像データと、第2撮像素子14から出力された第2画像データと、を入力する(ステップS1)。 When this process is started, the image input unit 21 inputs the first image data output from the first image sensor 13 and the second image data output from the second image sensor 14 (step S1).
 そして、このステレオ画像撮像装置がマニュアルモードに設定されているか否かを、制御部26が判定する(ステップS2)。ここに、マニュアルモードは、第1領域13aおよび第2領域14a(ひいては、第1,第2光学系11,12の主点11p,12pに対する第1,第2領域13a,14aの中心13c,14cの位置から決まるクロスポイントCRP)をユーザが手動で入力するモードである。 Then, the control unit 26 determines whether or not this stereo image pickup device is set to the manual mode (step S2). Here, the manual mode is the first region 13a and the second region 14a (and the centers 13c and 14c of the first and second regions 13a and 14a with respect to the principal points 11p and 12p of the first and second optical systems 11 and 12). This is a mode in which the user manually inputs the cross point CRP) determined from the position of.
 ここで、マニュアルモードに設定されていると判定された場合には、ユーザが操作部15から第1領域13aおよび第2領域14aを手動で入力する(ステップS3)。ここでの手動入力は、第1領域13aおよび第2領域14aを直接指定するに限るものではなく、表示装置3に表示されているステレオ画像を立体視しながらユーザが好みのクロスポイントCRPを指定することで行っても良いし、その他の指定方法でも構わない。このクロスポイントCRPの調整により、ユーザ毎の個人差に合わせた最適な立体感を得ることができる。 Here, when it is determined that the manual mode is set, the user manually inputs the first area 13a and the second area 14a from the operation unit 15 (step S3). The manual input here is not limited to directly designating the first area 13a and the second area 14a, but the user designates a preferred crosspoint CRP while stereoscopically viewing the stereo image displayed on the display device 3. This may be done, or other designation methods may be used. By adjusting the cross point CRP, it is possible to obtain an optimal stereoscopic effect according to individual differences for each user.
 一方、ステップS2においてマニュアルモードに設定されていないと判定された場合には、焦点調節エリア31A内の被写体までの距離を切出領域設定部24が上述したように測定する(ステップS4)。 On the other hand, if it is determined in step S2 that the manual mode is not set, the cut-out area setting unit 24 measures the distance to the subject in the focus adjustment area 31A as described above (step S4).
 そして、ステップS3におけるユーザの設定値に基づいて、またはステップS2において測定された被写体距離に基づいて、切出領域設定部24が、クロスポイントCRPを決定し、ひいては第1領域13aおよび第2領域14aを設定する(ステップS5)。これにより、ユーザの好みのクロスポイントCRP、または測定された被写体距離に一致するクロスポイントCRPが設定される。 Then, based on the setting value of the user in step S3 or based on the subject distance measured in step S2, the cutout region setting unit 24 determines the cross point CRP, and as a result, the first region 13a and the second region 14a is set (step S5). As a result, a cross point CRP preferred by the user or a cross point CRP that matches the measured subject distance is set.
 続いて、自動焦点調節を行う設定がなされているか否かを、制御部26が判定する(ステップS6)。 Subsequently, the control unit 26 determines whether or not the setting for performing the automatic focus adjustment has been made (step S6).
 ここで、自動焦点調節を行う設定がなされていると判定された場合には、図8、図9に示すように、フォーカスレンズである第2レンズ10bを光軸方向に移動させて、クロスポイントCRPに合焦するように焦点位置を調節する(ステップS7)。 Here, if it is determined that the automatic focus adjustment is set, as shown in FIGS. 8 and 9, the second lens 10b, which is the focus lens, is moved in the optical axis direction to crosspoint. The focal position is adjusted so as to focus on the CRP (step S7).
 ここに、図8は、クロスポイントCRPに位置する第1の被写体OBJ1に合焦するよう焦点調節したときの被写界深度FR0の例を示す図、図9は、クロスポイントCRPに位置する第2の被写体OBJ2に合焦するよう焦点調節したときの被写界深度FR0の例を示す図である。 FIG. 8 shows an example of the depth of field FR0 when the focus is adjusted to focus on the first subject OBJ1 located at the cross point CRP, and FIG. 9 shows the first depth of field FR0 located at the cross point CRP. It is a figure which shows the example of the depth of field FR0 when focus adjustment is carried out so that it may focus on 2 object OBJ2.
 図8に示す例では、第1の被写体OBJ1に合焦するよう焦点調節したときの被写界深度FR0には、第2の被写体OBJ2は入っていない。従って、表示装置3に表示されるステレオ画像において、第1の被写体OBJ1は高コントラストで明瞭に観察されるのに対して、第2の被写体OBJ2はぼけてコントラストが低下するために観察対象とはなり難くなる。こうして、ユーザが第1の被写体OBJ1に着目して観察を行っている状態においても、第2の被写体OBJ2が表示装置3の表示画面から手前に飛び出して観察されるのを抑制することができる。 In the example shown in FIG. 8, the second subject OBJ2 is not included in the depth of field FR0 when the focus is adjusted to focus on the first subject OBJ1. Accordingly, in the stereo image displayed on the display device 3, the first subject OBJ1 is clearly observed with high contrast, whereas the second subject OBJ2 is blurred and the contrast is lowered, so that the observation target is It becomes difficult to become. In this way, even when the user is observing while paying attention to the first subject OBJ1, it is possible to suppress the second subject OBJ2 from jumping out from the display screen of the display device 3 and being observed.
 また、図9に示す例では、第2の被写体OBJ2に合焦するよう焦点調節したときの被写界深度FR0には、第1の被写体OBJ1は入っていない。従って、表示装置3に表示されるステレオ画像において、第2の被写体OBJ2は高コントラストで明瞭に観察されるのに対して、第1の被写体OBJ1はぼけてコントラストが低下するために観察対象とはなり難くなる。 In the example shown in FIG. 9, the first subject OBJ1 is not included in the depth of field FR0 when the focus is adjusted to focus on the second subject OBJ2. Accordingly, in the stereo image displayed on the display device 3, the second subject OBJ2 is clearly observed with high contrast, whereas the first subject OBJ1 is blurred and the contrast is lowered, so that the observation subject is It becomes difficult to become.
 このとき、表示装置3の表示画面上において、クロスポイントCRPよりも遠方にある第1の被写体OBJ1の右眼用画像と左眼用画像との距離は、クロスポイントCRPにある第2の被写体OBJ2の右眼用画像と左眼用画像との距離よりも、離れて表示される。表示画面上における右眼用画像と左眼用画像との間隔が、観察者であるユーザの左右の眼の間隔よりも広くなると、開散と呼ばれる状態となり、立体視することができない、あるいは眼精疲労の原因となる、といった現象が生じる。 At this time, on the display screen of the display device 3, the distance between the right eye image and the left eye image of the first subject OBJ1 farther than the cross point CRP is the second subject OBJ2 at the cross point CRP. Are displayed more apart than the distance between the right-eye image and the left-eye image. If the interval between the right-eye image and the left-eye image on the display screen is wider than the left-right eye interval of the user who is an observer, a state called divergence occurs and stereoscopic viewing is impossible, or the eyes Phenomenon that causes fine fatigue occurs.
 これに対して、図9に示したように第2の被写体OBJ2に合焦するよう焦点調節したことにより、第1の被写体OBJ1はぼけて観察対象とはなり難いために、開散に伴う現象を抑制することができる。 On the other hand, as shown in FIG. 9, the focus adjustment is performed so that the second subject OBJ2 is brought into focus, so that the first subject OBJ1 is blurred and hardly becomes an observation target. Can be suppressed.
 なお、ステップS7においては、例えば図2に示したような構成(あるいは図3または図4においてアクチュエータ等を用いる構成)を想定して自動焦点調節を行ったが、これに代えて、例えば図3または図4に示したような構成において、ワイヤ10hあるいは10h1,10h2を手動で引張することにより、焦点調節を手動で行うようにしても構わない。 In step S7, the automatic focus adjustment is performed on the assumption of the configuration shown in FIG. 2 (or the configuration using an actuator or the like in FIG. 3 or FIG. 4), but instead of this, for example, FIG. Alternatively, in the configuration shown in FIG. 4, the focus adjustment may be performed manually by manually pulling the wires 10h or 10h1, 10h2.
 続いて、クロスポイントCRPに合焦した後に撮像された第1画像データおよび第2画像データを画像入力部21が入力する(ステップS8)。 Subsequently, the image input unit 21 inputs the first image data and the second image data captured after focusing on the cross point CRP (step S8).
 また、ステップS6において、自動焦点調節を行う設定がなされていないと判定された場合には、画像データのシャープネスを変化させる画像処理を自動実行する設定がなされているか否かを、制御部26が判定する(ステップS9)
 ここで、画像処理を自動実行する設定がなされていると判定された場合には、ステレオ画像生成部22により生成されたステレオ画像データに対して、画像処理部23がぼかし処理等の画像処理を行う(ステップS10)。この画像処理により、クロスポイントCRPを含む距離領域(例えば、被写界深度FR0に入る距離領域)以外の距離領域(図1に示すような、被写界深度FR0よりも近距離側の距離領域FRN、および被写界深度FR0よりも遠距離側の距離領域FRF)に対応する画像データのシャープネスが低下する。
If it is determined in step S6 that automatic focus adjustment has not been set, the control unit 26 determines whether image processing for changing the sharpness of the image data is automatically executed. Determine (Step S9)
Here, when it is determined that the setting for automatically executing the image processing is made, the image processing unit 23 performs image processing such as blurring processing on the stereo image data generated by the stereo image generating unit 22. It performs (step S10). By this image processing, a distance area other than a distance area including the cross point CRP (for example, a distance area entering the depth of field FR0) (a distance area closer to the depth of field FR0 as shown in FIG. 1). The sharpness of the image data corresponding to the FRN and the distance region FRF on the far side from the depth of field FR0 decreases.
 この画像処理によっても、ステップS7において行った焦点調節と同様に、開散に伴う現象を抑制し、被写体が表示装置3の表示画面から手前に飛び出して観察されるのを抑制することができる。 This image processing can also suppress the phenomenon that accompanies the spread, and can prevent the subject from jumping out from the display screen of the display device 3 and being observed, similarly to the focus adjustment performed in step S7.
 そして、第1光学系11および第2光学系12が、例えばパンフォーカスレンズであってステップS7の焦点調整を行うことができない場合には、この画像処理が好適に適用される。 Then, when the first optical system 11 and the second optical system 12 are, for example, pan focus lenses and the focus adjustment in step S7 cannot be performed, this image processing is suitably applied.
 その後、第1画像データおよび第2画像データに基づいて、ステレオ画像生成部22が、ステレオ画像データを生成する(ステップS11)。 Thereafter, based on the first image data and the second image data, the stereo image generation unit 22 generates stereo image data (step S11).
 ここで、ステレオ画像生成部22は、ステップS9において画像処理を自動実行する設定がなされていないと判定された場合には、ステップS1において入力された第1画像データおよび第2画像データを用いる。 Here, when it is determined in step S9 that the setting for automatically executing image processing is not made, the stereo image generation unit 22 uses the first image data and the second image data input in step S1.
 また、ステレオ画像生成部22は、ステップS9において画像処理を自動実行する設定がなされていると判定された場合には、ステップS10の画像処理が行われた第1画像データおよび第2画像データを用いる。 If it is determined in step S9 that the setting for automatically executing image processing is made, the stereo image generation unit 22 uses the first image data and the second image data that have undergone the image processing in step S10. Use.
 さらに、ステレオ画像生成部22は、ステップS6において自動焦点調節を行う設定がなされていると判定された場合には、ステップS7においてクロスポイントCRPに合焦するように焦点調節がなされた後に、ステップS8において入力された第1画像データおよび第2画像データを用いる。 Further, when it is determined in step S6 that the setting for performing the automatic focus adjustment is made, the stereo image generating unit 22 performs the focus adjustment so that the cross-point CRP is focused in step S7, and then the step is performed. The first image data and the second image data input in S8 are used.
 こうしてステップS11において生成されたステレオ画像データは、画像処理部23により表示用の一般的な画像処理を行った後に、表示装置3の表示画面に表示される(ステップS12)。 Thus, the stereo image data generated in step S11 is displayed on the display screen of the display device 3 after performing general image processing for display by the image processing unit 23 (step S12).
 その後、次画像をさらに取得してステレオ画像表示を行うか否かを判定して(ステップS13)、行う場合にはステップS1へ戻って上述したような処理を行う。 Thereafter, it is determined whether or not the next image is further acquired and the stereo image display is performed (step S13).
 一方、ステップS13において、次画像の取得が不要であると判定された場合には、この処理を終了する。 On the other hand, if it is determined in step S13 that acquisition of the next image is unnecessary, this process is terminated.
 なお、上述した処理では、ステップS7において自動(または手動)で焦点調節をした場合にはステップS10の画像処理を行わなかったが、これに限らず、焦点調節と画像処理との両方を行うようにしても構わない。例えば、第1,第2光学系11,12のF値が大きい、あるいは第1,第2光学系11,12の焦点距離が短い、等の理由で、クロスポイントCRPに合焦するように焦点位置を調節した後でも、クロスポイントCRPとは異なる距離にある他の被写体のボケ量が小さいことがある。こうした場合には、着目する被写体を立体視するのに、他の被写体が邪魔になる。そこで、焦点調節を行うだけでなく、さらに画像処理を行うようにすると良い。 In the above-described processing, when the focus is adjusted automatically (or manually) in step S7, the image processing in step S10 is not performed. However, the present invention is not limited to this, and both the focus adjustment and the image processing are performed. It doesn't matter. For example, the first and second optical systems 11 and 12 have a large F value, or the focal lengths of the first and second optical systems 11 and 12 are short. Even after the position is adjusted, the blur amount of another subject at a different distance from the cross point CRP may be small. In such a case, other subjects are in the way to stereoscopically view the subject of interest. Therefore, it is preferable to perform not only focus adjustment but also image processing.
 このような実施形態1によれば、切出領域設定部24により、クロスポイントCRPが遠方側または近接側に移動するように第1領域13aおよび第2領域14aを設定し、ステレオ画像生成部22により、第1画像データから第1領域13aの画像データを切り出すと共に第2画像データから第2領域14aの画像データを切り出してステレオ画像データを生成するようにしたために、ステレオ画像撮像装置の光学系の光軸に垂直な方向の大きさを拡大することがない。従って特に、光学系が内視鏡1に設けられているステレオ画像撮像装置において、内視鏡1の径を大きくしない効果を奏することができる。 According to the first embodiment, the cutout region setting unit 24 sets the first region 13a and the second region 14a so that the cross point CRP moves to the far side or the near side, and the stereo image generation unit 22 is set. Thus, the image data of the first area 13a is cut out from the first image data and the image data of the second area 14a is cut out from the second image data to generate stereo image data. The size in the direction perpendicular to the optical axis is not enlarged. Therefore, in particular, in the stereo image pickup apparatus in which the optical system is provided in the endoscope 1, the effect of not increasing the diameter of the endoscope 1 can be achieved.
 さらに、クロスポイントCRPの位置を調整することができるために、ユーザ毎の個人差に合わせた最適な立体感を得ることが可能となる。また、クロスポイントCRPの位置を調整して表示装置3の表示画面から手前に飛び出して観察される被写体がないようにすることで、ユーザの疲労感を軽減することができ、長時間の観察が容易となる。 Furthermore, since the position of the cross point CRP can be adjusted, it is possible to obtain an optimal stereoscopic effect that matches individual differences for each user. Further, by adjusting the position of the cross point CRP so that there is no subject to be observed by jumping out from the display screen of the display device 3, the user's feeling of fatigue can be reduced and long-time observation can be achieved. It becomes easy.
 そして、焦点制御部25が、クロスポイントCRPに合焦するように焦点位置を調節するようにしたために、クロスポイントCRPよりも近接側に被写体があったとしても、その被写体が表示装置3の表示画面から手前に飛び出して観察されるのを抑制することができる。加えて、クロスポイントCRPよりも遠方側に被写体がある場合における、開散に伴う現象を抑制することもできる。 Since the focus control unit 25 adjusts the focal position so as to focus on the cross point CRP, even if there is a subject closer to the cross point CRP, the subject is displayed on the display device 3. It is possible to suppress the observation from jumping out from the screen. In addition, it is possible to suppress a phenomenon associated with spreading when the subject is located farther from the cross point CRP.
 また、画像処理部23が、ステレオ画像データに対して、クロスポイントCRPを含む距離領域以外の距離領域に対応する画像データのシャープネスが低下するように画像処理を行うようにしたために、第1光学系11および第2光学系12が例えばパンフォーカスレンズである場合でも、被写体が表示装置3の表示画面から手前に飛び出して観察されるのを抑制し、開散に伴う現象を抑制することができる。 In addition, since the image processing unit 23 performs the image processing on the stereo image data so that the sharpness of the image data corresponding to the distance area other than the distance area including the cross point CRP is reduced, the first optical Even when the system 11 and the second optical system 12 are, for example, pan focus lenses, it is possible to suppress the subject from jumping out of the display screen of the display device 3 and being observed, and to suppress the phenomenon associated with spreading. .
 このとき、焦点位置の調節やシャープネスを低下する画像処理を自動処理として行うことにより、手動操作が不要となって、操作性を向上しながら適切な立体視画像の観察を行うことができる。 At this time, by performing the image processing for adjusting the focal position and reducing the sharpness as automatic processing, manual operation is not necessary, and appropriate stereoscopic images can be observed while improving operability.
 さらに、クロスポイントCRPを遠方側または近接側に移動する操作信号を入力するための操作部15を内視鏡1に設けたために、助手に操作を依頼する等の煩わしい手順を踏むことなく、内視鏡1を操作するユーザ自身が簡便に所望の操作を行うことができる。 Furthermore, since the operation unit 15 for inputting an operation signal for moving the cross point CRP to the far side or the near side is provided in the endoscope 1, without taking a troublesome procedure such as requesting an operation from an assistant. A user who operates the endoscope 1 can easily perform a desired operation.
 なお、上述した各部は、回路として構成されていても良い。そして、任意の回路は、同一の機能を果たすことができれば、単一の回路として実装されていても良いし、複数の回路を組み合わせたものとして実装されていても構わない。さらに、任意の回路は、目的とする機能を果たすための専用回路として構成されるに限るものではなく、汎用回路に処理プログラムを実行させることで目的とする機能を果たす構成であっても構わない。 In addition, each part mentioned above may be comprised as a circuit. Any circuit may be mounted as a single circuit or a combination of a plurality of circuits as long as it can perform the same function. Furthermore, an arbitrary circuit is not limited to being configured as a dedicated circuit for performing a target function, and may be configured to perform a target function by causing a general-purpose circuit to execute a processing program. .
 また、上述では主としてステレオ画像撮像装置について説明したが、ステレオ画像撮像装置を上述したように作動させる作動方法であっても良いし、コンピュータにステレオ画像撮像装置と同様の処理を行わせるための処理プログラム、該処理プログラムを記録するコンピュータにより読み取り可能な一時的でない記録媒体、等であっても構わない。 Although the stereo image capturing apparatus has been mainly described above, an operation method for operating the stereo image capturing apparatus as described above may be used, or a process for causing a computer to perform the same process as the stereo image capturing apparatus. It may be a program, a non-temporary recording medium readable by a computer for recording the processing program, or the like.
 さらに、本発明は上述した実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化することができる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明の態様を形成することができる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除しても良い。さらに、異なる実施形態にわたる構成要素を適宜組み合わせても良い。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能であることは勿論である。 Furthermore, the present invention is not limited to the above-described embodiment as it is, and can be embodied by modifying the constituent elements without departing from the scope of the invention in the implementation stage. In addition, various aspects of the invention can be formed by appropriately combining a plurality of components disclosed in the embodiment. For example, you may delete some components from all the components shown by embodiment. Furthermore, the constituent elements over different embodiments may be appropriately combined. Thus, it goes without saying that various modifications and applications are possible without departing from the spirit of the invention.
 本出願は、2015年12月8日に日本国に出願された特願2015-239449号を優先権主張の基礎として出願するものであり、上記の開示内容は、本願明細書、請求の範囲、図面に引用されたものとする。 This application is filed on the basis of the priority claim of Japanese Patent Application No. 2015-239449 filed in Japan on December 8, 2015. It shall be cited in the drawing.

Claims (6)

  1.  第1光学系と、前記第1光学系とは視差を有する第2光学系と、を含むステレオ光学系と、
     前記第1光学系が結像した光学像を光電変換して第1画像データを出力する第1撮像素子と、
     前記第2光学系が結像した光学像を光電変換して第2画像データを出力する第2撮像素子と、
     前記第1撮像素子の第1領域の中心から前記第1光学系の主点へ向かう第1視野中心線と、前記第2撮像素子の第2領域の中心から前記第2光学系の主点へ向かう第2視野中心線と、が交差するクロスポイントが、遠方側または近接側に移動するように、前記第1領域および前記第2領域を設定する切出領域設定部と、
     前記第1画像データから前記第1領域の画像データを切り出すと共に、前記第2画像データから前記第2領域の画像データを切り出してステレオ画像データを生成するステレオ画像生成部と、
     を有することを特徴とするステレオ画像撮像装置。
    A stereo optical system including a first optical system and a second optical system having parallax with the first optical system;
    A first imaging device that photoelectrically converts an optical image formed by the first optical system and outputs first image data;
    A second imaging element that photoelectrically converts an optical image formed by the second optical system and outputs second image data;
    A first visual field center line from the center of the first region of the first image sensor to the principal point of the first optical system, and from the center of the second region of the second image sensor to the principal point of the second optical system. A cut region setting unit that sets the first region and the second region such that a cross point where the second visual field center line toward the second point moves to the far side or the near side;
    A stereo image generator that cuts out the image data of the first area from the first image data and cuts out the image data of the second area from the second image data to generate stereo image data;
    A stereo image pickup device comprising:
  2.  前記第1光学系および前記第2光学系は、1つ以上のレンズを組み合わせて構成されたものであり、
     前記第1光学系を構成するレンズの少なくとも一部、および前記第2光学系を構成するレンズの少なくとも一部を駆動する前記ステレオ光学系の焦点調節機構をさらに有することを特徴とする請求項1に記載のステレオ画像撮像装置。
    The first optical system and the second optical system are configured by combining one or more lenses,
    2. The focus adjustment mechanism of the stereo optical system for driving at least a part of the lenses constituting the first optical system and at least a part of the lenses constituting the second optical system. The stereo imaging device described in 1.
  3.  前記焦点調節機構は、前記第1光学系を構成するレンズの少なくとも一部、および前記第2光学系を構成するレンズの少なくとも一部を、手動により光軸方向に移動させるマニュアル焦点調節機構であることを特徴とする請求項2に記載のステレオ画像撮像装置。 The focus adjustment mechanism is a manual focus adjustment mechanism that manually moves at least a part of the lens constituting the first optical system and at least a part of the lens constituting the second optical system in the optical axis direction. The stereo image pickup device according to claim 2, wherein
  4.  前記焦点調節機構は、前記第1光学系を構成するレンズの少なくとも一部、および前記第2光学系を構成するレンズの少なくとも一部を光軸方向に移動させるアクチュエータを含み、
     前記アクチュエータを制御して、前記クロスポイントに合焦するように焦点位置を調節する焦点制御部をさらに有することを特徴とする請求項2に記載のステレオ画像撮像装置。
    The focus adjustment mechanism includes an actuator that moves at least a part of the lens constituting the first optical system and at least a part of the lens constituting the second optical system in the optical axis direction;
    The stereo image capturing apparatus according to claim 2, further comprising a focus control unit that controls the actuator to adjust a focus position so as to focus on the cross point.
  5.  前記ステレオ画像生成部により生成されたステレオ画像データに対して、前記クロスポイントを含む距離領域以外の距離領域に対応する画像データのシャープネスが低下するように画像処理を行う画像処理部をさらに有することを特徴とする請求項1に記載のステレオ画像撮像装置。 An image processing unit that performs image processing on the stereo image data generated by the stereo image generation unit so that the sharpness of the image data corresponding to the distance region other than the distance region including the cross point is reduced; The stereo image pickup device according to claim 1, wherein:
  6.  前記クロスポイントを、遠方側または近接側に移動する操作信号を入力するための操作部と、
     前記ステレオ光学系と、前記第1撮像素子と、前記第2撮像素子と、前記操作部と、が設けられた内視鏡と、
     をさらに有することを特徴とする請求項1に記載のステレオ画像撮像装置。
    An operation unit for inputting an operation signal for moving the cross point to the far side or the near side;
    An endoscope provided with the stereo optical system, the first image sensor, the second image sensor, and the operation unit;
    The stereo image capturing apparatus according to claim 1, further comprising:
PCT/JP2016/075141 2015-12-08 2016-08-29 Stereoscopic imaging apparatus WO2017098755A1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2015-239449 2015-12-08
JP2015239449 2015-12-08

Publications (1)

Publication Number Publication Date
WO2017098755A1 true WO2017098755A1 (en) 2017-06-15

Family

ID=59013920

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2016/075141 WO2017098755A1 (en) 2015-12-08 2016-08-29 Stereoscopic imaging apparatus

Country Status (1)

Country Link
WO (1) WO2017098755A1 (en)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013521941A (en) * 2010-03-12 2013-06-13 ヴァイキング・システムズ・インコーポレーテッド 3D visualization system
JP2014068796A (en) * 2012-09-28 2014-04-21 Fujifilm Corp Stereoscopic endoscope apparatus
JP2014140593A (en) * 2013-01-25 2014-08-07 Fujifilm Corp Three-dimensional endoscope apparatus
JP2014140594A (en) * 2013-01-25 2014-08-07 Fujifilm Corp Three-dimensional endoscope apparatus
JP2014151150A (en) * 2013-02-14 2014-08-25 Sony Corp Endoscope and endoscope apparatus
JP2015039073A (en) * 2011-04-26 2015-02-26 株式会社東芝 Apparatus and method for processing stereoscopic image
JP2015039059A (en) * 2010-08-27 2015-02-26 株式会社東芝 Stereoscopic vision image processor, stereoscopic vision image processing method and stereoscopic vision image processing program
WO2015083459A1 (en) * 2013-12-05 2015-06-11 オリンパス株式会社 Stereoscopic endoscope system

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013521941A (en) * 2010-03-12 2013-06-13 ヴァイキング・システムズ・インコーポレーテッド 3D visualization system
JP2015039059A (en) * 2010-08-27 2015-02-26 株式会社東芝 Stereoscopic vision image processor, stereoscopic vision image processing method and stereoscopic vision image processing program
JP2015039073A (en) * 2011-04-26 2015-02-26 株式会社東芝 Apparatus and method for processing stereoscopic image
JP2014068796A (en) * 2012-09-28 2014-04-21 Fujifilm Corp Stereoscopic endoscope apparatus
JP2014140593A (en) * 2013-01-25 2014-08-07 Fujifilm Corp Three-dimensional endoscope apparatus
JP2014140594A (en) * 2013-01-25 2014-08-07 Fujifilm Corp Three-dimensional endoscope apparatus
JP2014151150A (en) * 2013-02-14 2014-08-25 Sony Corp Endoscope and endoscope apparatus
WO2015083459A1 (en) * 2013-12-05 2015-06-11 オリンパス株式会社 Stereoscopic endoscope system

Similar Documents

Publication Publication Date Title
JP6252849B2 (en) Imaging apparatus and method
JP6908039B2 (en) Image processing equipment, image processing methods, programs, and image processing systems
EP3369405B1 (en) Surgical microscope, image processing device, and image processing method
JP2005167310A (en) Photographing apparatus
JP2009210840A (en) Stereoscopic image display device and method, and program
JP6296365B2 (en) Surgical endoscope camera control unit
JP2010057619A (en) Stereoscopic image capturing and displaying system
WO2012001970A1 (en) Image processing device, method, and program
JP2010068182A (en) Three-dimensional imaging device, method, and program
JP2006208407A (en) Microscopic system for observing stereoscopic picture
JP2019025082A (en) Image processing apparatus, camera apparatus, and image processing method
JP2019029876A (en) Image processing apparatus, camera apparatus, and output control method
KR20120028121A (en) Method and apparatus for diciding of convergence angle in stereo camera
JP6036840B2 (en) Imaging apparatus, image processing apparatus, control program for imaging apparatus, and control program for image processing apparatus
EP3324825B1 (en) Ophthalmic surgery using light-field microscopy
JP6419118B2 (en) Image display system
US20120314038A1 (en) Stereoscopic image obtaining apparatus
WO2017098755A1 (en) Stereoscopic imaging apparatus
WO2014208224A1 (en) Autofocus device
JP2019029875A (en) Image processing apparatus, camera apparatus, and image processing method
US20160065941A1 (en) Three-dimensional image capturing apparatus and storage medium storing three-dimensional image capturing program
WO2012001958A1 (en) Image processing device, method and program
JP6063662B2 (en) Imaging apparatus and imaging method
JP2015094831A (en) Stereoscopic imaging device, control method thereof, and control program
JP2013055560A5 (en)

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 16872655

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 16872655

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: JP