JP2016046780A - Image recording apparatus - Google Patents

Image recording apparatus Download PDF

Info

Publication number
JP2016046780A
JP2016046780A JP2014171966A JP2014171966A JP2016046780A JP 2016046780 A JP2016046780 A JP 2016046780A JP 2014171966 A JP2014171966 A JP 2014171966A JP 2014171966 A JP2014171966 A JP 2014171966A JP 2016046780 A JP2016046780 A JP 2016046780A
Authority
JP
Japan
Prior art keywords
image
reproduction
information
unit
parallax
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014171966A
Other languages
Japanese (ja)
Other versions
JP6415900B2 (en
Inventor
秋介 土谷
Shiyuusuke Tsuchiya
秋介 土谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2014171966A priority Critical patent/JP6415900B2/en
Publication of JP2016046780A publication Critical patent/JP2016046780A/en
Application granted granted Critical
Publication of JP6415900B2 publication Critical patent/JP6415900B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Endoscopes (AREA)
  • Television Signal Processing For Recording (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an image recording apparatus capable of reproducing a 3D endoscopic image having a three-dimensional appearance, even when a display environment of the endoscopic image at recording is different from a reproduction environment by reproduction equipment having a different reproduction method for reproducing a recorded image.SOLUTION: The image recording apparatus determines, from the information of an observation environment and the information of the display environment recorded in the recording apparatus, whether or not there is a difference between both information sets. If there is a difference only in the reproduction method, the image recording apparatus converts the reproduction method, whereas if there is a difference in a screen size etc., calculates a corresponding correction value from an adjustment table stored in a parameter storage device, so as to correct alignment and output to the reproduction equipment an output image, which reproduces a stereoscopic vision of the display environment, from the 3D image reproduced from the recording apparatus.SELECTED DRAWING: Figure 7

Description

本発明は、3D画像を記録すると共に、記録された3D画像を再生機器に出力する画像記録装置に関する。   The present invention relates to an image recording apparatus that records a 3D image and outputs the recorded 3D image to a playback device.

近年、医療分野等において内視鏡が広く用いられるようになっている。内視鏡を用いて、手術等を行った場合には、手術中の内視鏡画像は、画像記録装置に記録される。
また、左右の撮像素子を備えた立体内視鏡(3D内視鏡とも言う)を用いて手術等が行われる場合があり、その場合には画像記録装置は、3D内視鏡画像を記録する。記録された3D内視鏡画像は、カンファレンス等において再生される場合がある。
例えば、第1の従来例としての特開2011−223482号公報は、3D画像の画像データと共に、想定される視環境のパラメータである想定視環境パラメータを取得する第1の取得手段と、前記3D画像を視聴するユーザの実際の視環境のパラメータである実視環境パラメータを取得する第2の取得手段と、取得された前記想定視環境パラメータと、前記実視環境パラメータの差に応じて前記3D画像を補正する補正処理手段と、を備えた画像処理装置を開示している。
また、第2の従来例としての特開2012−85102号公報は、視点の異なる2つ以上の映像を入力し、該入力した2つ以上の映像の輻輳角を変更して出力する立体映像変換装置において、前記2つ以上の映像の最大視差量を算出し、算出した最大視差量が予め指定された最大視差量以下となる輻輳角補正値を算出し、算出した輻輳角補正値に基づいて、前記2つ以上の映像を撮像した場合の輻輳角を変更させた映像を生成することを開示している。
In recent years, endoscopes have been widely used in the medical field and the like. When an operation or the like is performed using an endoscope, an endoscopic image during the operation is recorded in an image recording device.
In some cases, surgery or the like is performed using a stereoscopic endoscope (also referred to as a 3D endoscope) including left and right imaging elements. In that case, the image recording apparatus records a 3D endoscope image. . The recorded 3D endoscope image may be reproduced at a conference or the like.
For example, Japanese Patent Application Laid-Open No. 2011-223482 as a first conventional example includes a first acquisition unit that acquires an assumed visual environment parameter that is a parameter of an assumed visual environment together with image data of a 3D image; A second acquisition unit configured to acquire a real visual environment parameter that is a parameter of an actual visual environment of a user who views the image; and the 3D according to a difference between the acquired assumed visual environment parameter and the real visual environment parameter. An image processing apparatus including correction processing means for correcting an image is disclosed.
Japanese Patent Application Laid-Open No. 2012-85102 as a second conventional example inputs stereoscopic video conversion by inputting two or more videos with different viewpoints and changing the convergence angles of the input two or more videos. In the apparatus, a maximum parallax amount of the two or more videos is calculated, a convergence angle correction value is calculated such that the calculated maximum parallax amount is equal to or less than a predetermined maximum parallax amount, and based on the calculated convergence angle correction value And generating an image in which a convergence angle is changed when the two or more images are captured.

特開2011−223482号公報JP 2011-223482 A 特開2012−85102号公報JP2012-85102A

第1の従来例は、視環境のパラメータが、両眼間隔、視距離、及びディスプレイサイズのうちの少なくとも1つであることを開示しているが、再生する再生機器の再生方式が記録時とは異なるような場合には、立体感のある3D画像を再生できない。また、第2の従来例も同様に再生する再生機器の再生方式が記録時と異なるような場合には、対応できない。
本発明は上述した点に鑑みてなされたもので、記録時における内視鏡画像の表示環境と、記録画像を再生する再生方式が異なる再生機器による再生環境とが異なる場合にも、立体感のある3D内視鏡画像を再現できる画像記録装置を提供することを目的とする。
The first conventional example discloses that the parameter of the visual environment is at least one of the binocular interval, the visual distance, and the display size. If they are different, a 3D image with a stereoscopic effect cannot be reproduced. Similarly, the second conventional example cannot cope with the case where the playback method of the playback device for playback is different from that at the time of recording.
The present invention has been made in view of the above points, and even when the display environment of an endoscopic image at the time of recording is different from the playback environment of a playback device that plays back a recorded image, the stereoscopic effect is reduced. An object of the present invention is to provide an image recording apparatus capable of reproducing a certain 3D endoscopic image.

本発明の一態様の画像記録装置は、複数の3D内視鏡画像における1つの3D内視鏡画像が選択的に入力される内視鏡画像入力部と、前記内視鏡画像入力部に入力される前記3D内視鏡画像の表示環境の情報を取得する表示環境情報取得部と、前記内視鏡画像入力部へ入力される前記3D内視鏡画像の画像データに前記表示環境情報取得部の取得結果の情報をメタ補情報として付加した記録データを生成する記録データ生成部と、前記記録データ生成部により生成された前記記録データを記録する記録部と、前記記録部に記録される前記記録データに基づいて、再生された際の前記3D内視鏡画像の左右画像の視差量を調整する視差調整部と、前記記録部に記録される前記3D内視鏡画像を複数種類の再生方式の3D画像に変換可能とする再生方式変換部と、前記記録データを再生して、外部の再生機器に出力画像を出力する場合に参照される設定情報を格納する出力画像設定情報格納部と、前記記録部に記録された前記画像データを再生するための複数種類の再生機器における実際に接続して使用される再生機器の再生環境の情報を取得する再生環境情報取得部と、前記再生環境情報取得部の取得結果の情報と前記表示環境情報取得部の取得結果の情報とが異なる場合、前記再生環境の再生機器で再生可能な再生方式で変換するように前記再生方式変換部を制御すると共に、前記出力画像設定情報格納部に格納された前記設定情報に応じて前記視差調整部による視差量を調整するように制御する制御部と、を備える。   An image recording apparatus according to an aspect of the present invention includes an endoscope image input unit that selectively inputs one 3D endoscopic image among a plurality of 3D endoscopic images, and an input to the endoscopic image input unit A display environment information acquisition unit that acquires information about the display environment of the 3D endoscopic image, and the display environment information acquisition unit that receives the image data of the 3D endoscopic image input to the endoscopic image input unit. A recording data generation unit that generates recording data to which information on the acquisition result is added as meta-complement information, a recording unit that records the recording data generated by the recording data generation unit, and the recording unit that records the recording data A parallax adjustment unit that adjusts the parallax amount of the left and right images of the 3D endoscopic image when reproduced based on recorded data, and a plurality of types of reproduction methods for the 3D endoscopic image recorded in the recording unit Re-enabling conversion to 3D images A format conversion unit; an output image setting information storage unit that stores setting information referred to when the recorded data is reproduced and an output image is output to an external reproduction device; and the image recorded in the recording unit A reproduction environment information acquisition unit that acquires information on a reproduction environment of a reproduction device that is actually connected and used in a plurality of types of reproduction devices for reproducing data; information on an acquisition result of the reproduction environment information acquisition unit; When the information of the acquisition result of the display environment information acquisition unit is different, the playback system conversion unit is controlled so as to convert in a playback system that can be played back by the playback device in the playback environment, and the output image setting information storage unit A control unit that controls to adjust the amount of parallax by the parallax adjustment unit according to the stored setting information.

本発明によれば、記録時における内視鏡画像の表示環境と、記録画像を再生する再生方式が異なる再生機器による再生環境とが異なる場合にも、立体感のある3D内視鏡画像を再現できる。   According to the present invention, a stereoscopic 3D endoscope image can be reproduced even when the display environment of an endoscopic image at the time of recording is different from the playback environment by a playback device that plays back a recorded image. it can.

図1は第1の実施形態の画像記録装置を備えた内視鏡システムを示す図。FIG. 1 is a diagram illustrating an endoscope system including the image recording apparatus according to the first embodiment. 図2は図1における主要な機器の構成を示す図。FIG. 2 is a diagram showing a configuration of main devices in FIG. 図3Aは左右に離間して配置される2つの撮像部により被写体に対して視差量を有する左右の撮像信号を生成する様子の説明図。FIG. 3A is an explanatory diagram illustrating a state in which left and right imaging signals having a parallax amount with respect to a subject are generated by two imaging units that are spaced apart from each other on the left and right. 図3Bは左右方向に撮像領域をシフトすることにより視差量を増減した左右の撮像信号を生成する様子の説明図。FIG. 3B is an explanatory diagram showing how left and right imaging signals are generated by increasing or decreasing the amount of parallax by shifting the imaging region in the left-right direction. 図4は再生機器が接続される第1の実施形態の画像記録装置の構成を示す図。FIG. 4 is a diagram showing the configuration of the image recording apparatus of the first embodiment to which a playback device is connected. 図5Aは取得した情報から補正値を算出するための調整テーブルの内容を表形式で示す図。FIG. 5A is a table showing the contents of an adjustment table for calculating a correction value from acquired information in a table format. 図5Bは3D再生方式における左右の画像を所定のアライメント値に設定した場合の説明図。FIG. 5B is an explanatory diagram when the left and right images in the 3D playback method are set to a predetermined alignment value. 図6は記録時の動作の処理手順を示すフローチャート。FIG. 6 is a flowchart showing a processing procedure of operations during recording. 図7は再生時の動作の処理手順を示すフローチャート。FIG. 7 is a flowchart showing a processing procedure of operations during reproduction. 図8Aは第1の実施形態の画像記録装置において再生モニタで再生する場合の説明図。FIG. 8A is an explanatory diagram when reproduction is performed on a reproduction monitor in the image recording apparatus of the first embodiment. 図8Bは第1の実施形態の画像記録装置において再生機器をストリーミングクライアントPCにした場合の構成を示す説明図。FIG. 8B is an explanatory diagram showing a configuration when the playback device is a streaming client PC in the image recording apparatus of the first embodiment. 図8Cは第1の実施形態の画像記録装置において再生機器を外部メディアにした場合の構成を示す説明図。FIG. 8C is an explanatory diagram showing a configuration when the playback device is an external medium in the image recording apparatus of the first embodiment. 図9は図8Cの動作の説明図。FIG. 9 is an explanatory diagram of the operation of FIG. 8C. 図10は図7の処理の変形例の動作の処理手順を示すフローチャート。FIG. 10 is a flowchart showing a processing procedure of an operation of a modification of the processing of FIG.

以下、図面を参照して本発明の実施形態を説明する。
(第1の実施形態)
図1に示すように本発明の第1の実施形態の画像記録装置を備えた内視鏡装置1は、手術室内の手術台2に横たわる患者3に対して、立体観察(3D観察)のために使用される立体内視鏡(3D内視鏡と略記)4と、トロリー5に搭載された複数の医療機器とを備える。
トロリー5には、複数の医療機器として、照明光を発生する光源装置6と、3D内視鏡4に対する画像処理を行い、3次元内視鏡画像信号(3D内視鏡画像信号)を生成する画像生成装置としての3Dプロセッサ7と、3Dプロセッサ7により生成された3D内視鏡画像信号を3D内視鏡画像として表示する術中モニタとしての3D観察モニタ(観察モニタ又は再生モニタと略記)8と、3Dプロセッサ7から出力される3D内視鏡画像信号を記録する第1の実施形態の画像記録装置9と、高周波電源装置(電気メス電源装置)10とが搭載されている。本実施形態においては、3D内視鏡画像または3D内視鏡画像信号を単に3D画像又は3D画像信号と略記する。なお、本明細書においては、後述するように画像記録装置9に記録(録画)された3D画像を再生する再生環境において使用される3Dモニタを外部モニタ又は再生モニタと言う。
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
(First embodiment)
As shown in FIG. 1, an endoscope apparatus 1 including an image recording apparatus according to a first embodiment of the present invention is for stereoscopic observation (3D observation) on a patient 3 lying on an operating table 2 in an operating room. A stereoscopic endoscope (abbreviated as 3D endoscope) 4 and a plurality of medical devices mounted on a trolley 5.
The trolley 5 performs image processing on the light source device 6 that generates illumination light and the 3D endoscope 4 as a plurality of medical devices, and generates a three-dimensional endoscope image signal (3D endoscope image signal). A 3D processor 7 as an image generation device, and a 3D observation monitor (abbreviated as an observation monitor or a reproduction monitor) 8 as an intraoperative monitor for displaying a 3D endoscope image signal generated by the 3D processor 7 as a 3D endoscope image; An image recording device 9 according to the first embodiment for recording a 3D endoscope image signal output from the 3D processor 7 and a high frequency power supply device (electric knife power supply device) 10 are mounted. In this embodiment, a 3D endoscopic image or 3D endoscopic image signal is simply abbreviated as a 3D image or a 3D image signal. In this specification, as described later, a 3D monitor used in a reproduction environment for reproducing a 3D image recorded (recorded) in the image recording device 9 is referred to as an external monitor or a reproduction monitor.

図1に示す観察モニタ8は、3D内視鏡4により取得した3D画像を、術者Dが観察する際に表示される観察モニタ(又は表示モニタ)であり、また画像記録装置9に記録される際の表示環境の3D画像の表示手段になる。
患者3の例えば腹部には、図示しないトラカールを介して3D内視鏡4が挿入され、この3D内視鏡4は、ライトガイドケーブル11を介して光源装置6と接続される。また、3D内視鏡4は、ライトガイドケーブル11内を挿通された信号ケーブル12a,12b、12c(図2参照)を介して、3Dプロセッサ7に接続される。

また、高周波電源装置10は、高周波による処置を行うための電気メス13に対して電気メスケーブル14を介して高周波信号を供給する。
図2は、図1における主要な医療機器の内部構成を示す。
3D内視鏡4は、体内に挿入される挿入部21と、挿入部21の後端(基端)に設けられ、術者D等により把持される把持部22とを有し、把持部22から延出されたライトガイドケーブル11の端部は光源装置6に着脱自在に接続される。
An observation monitor 8 shown in FIG. 1 is an observation monitor (or display monitor) displayed when the operator D observes a 3D image acquired by the 3D endoscope 4, and is recorded in the image recording device 9. 3D image display means of the display environment at the time of display.
For example, the 3D endoscope 4 is inserted into the abdomen of the patient 3 via a trocar (not shown), and the 3D endoscope 4 is connected to the light source device 6 via the light guide cable 11. The 3D endoscope 4 is connected to the 3D processor 7 through signal cables 12a, 12b, and 12c (see FIG. 2) inserted through the light guide cable 11.

Moreover, the high frequency power supply device 10 supplies a high frequency signal via the electric knife cable 14 to the electric knife 13 for performing treatment by high frequency.
FIG. 2 shows the internal configuration of the main medical device in FIG.
The 3D endoscope 4 includes an insertion portion 21 to be inserted into the body, and a grip portion 22 provided at the rear end (base end) of the insertion portion 21 and gripped by the operator D or the like. An end portion of the light guide cable 11 extending from the light source device 6 is detachably connected to the light source device 6.

光源装置6は、白色の照明光を発生するランプ23aと、照明光を集光してライトガイドケーブル11の端部に入射(供給)する集光レンズ23bとを有する。ライトガイドケーブル11に入射された照明光は、挿入部21内を挿通されたライトガイド24の基端側端部に入射される。このライトガイド24は、基端側端部に入射された照明光をこのライトガイド24の先端側の端部に伝送し、ライトガイド24の先端面が配置された照明窓から照明光を出射し、体内の病変部等の被写体を照明する。
挿入部21の先端部には、左右方向に(両光軸間)距離dだけ離間して、左目用対物レンズ25aと右目用対物レンズ25bとが配置され、体内の患部等の被写体の光学像を視差を有する状態で結像する。左目用対物レンズ25aと右目用対物レンズ25bそれぞれの結像位置には、左目用撮像素子としての左目用電荷結合素子(CCDと略記)26aの撮像面と、右目用撮像素子としての右目用CCD26bの撮像面とが配置されている。
The light source device 6 includes a lamp 23 a that generates white illumination light, and a condensing lens 23 b that condenses the illumination light and enters (supplies) to the end of the light guide cable 11. The illumination light incident on the light guide cable 11 is incident on the proximal end portion of the light guide 24 inserted through the insertion portion 21. The light guide 24 transmits the illumination light incident on the proximal end portion to the distal end portion of the light guide 24, and emits the illumination light from the illumination window in which the distal end surface of the light guide 24 is disposed. Illuminate subjects such as lesions in the body.
A left-eye objective lens 25a and a right-eye objective lens 25b are disposed at the distal end portion of the insertion portion 21 by a distance d in the left-right direction (between both optical axes), and an optical image of a subject such as an affected part in the body. Is imaged in a state having parallax. At the imaging positions of the left-eye objective lens 25a and the right-eye objective lens 25b, the imaging surface of a left-eye charge-coupled device (abbreviated as CCD) 26a as a left-eye imaging device and the right-eye CCD 26b as a right-eye imaging device The imaging surface is arranged.

なお、本明細書においては、左の撮像素子は左目用撮像素子と同じ意味であり、同様に右の撮像素子は右目用撮像素子と同じ意味であり、撮像素子以外においても同様の意味で用いる。例えば左目用画像信号と右目用画像信号は、左右の画像信号と同じ意味となる。
左右のCCD26a、26bは、結像された光学像を光電変換した出力信号としての撮像信号を出力する。左目用対物レンズ25aと左目用CCD26aとにより左目用撮像部又は左撮像部27aが形成され、右目用対物レンズ25aと右目用CCD26bとにより右目用撮像部又は右撮像部27bが形成される。上記距離dを有し、同じ被写体を、視線方向が異なる両撮像部27a,27bにより撮像して、表示装置としての観察モニタ8に3D観察用画像を表示することにより、3D観察用画像を観察する(観察者又はユーザとなる)術者Dは、被写体を立体感又は奥行き感を知覚して観察することができるようにしている。
In the present specification, the left image sensor has the same meaning as the left-eye image sensor, and the right image sensor has the same meaning as the right-eye image sensor. . For example, the left-eye image signal and the right-eye image signal have the same meaning as the left and right image signals.
The left and right CCDs 26a and 26b output imaging signals as output signals obtained by photoelectrically converting the formed optical image. The left-eye objective lens 25a and the left-eye CCD 26a form a left-eye imaging unit or left imaging unit 27a, and the right-eye objective lens 25a and the right-eye CCD 26b form a right-eye imaging unit or right imaging unit 27b. The same subject having the distance d is imaged by the imaging units 27a and 27b having different line-of-sight directions, and the 3D observation image is displayed on the observation monitor 8 serving as a display device. The operator D (being an observer or a user) can observe the subject by perceiving a stereoscopic effect or a sense of depth.

CCD26aにより撮像された左の撮像信号は、3D内視鏡4内を挿通され、外部に延出された信号ケーブル12aを介して、3Dプロセッサ7内の左目用の2D画像生成回路31Lに入力される。
また、CCD26bにより撮像された右の撮像信号は、3D内視鏡4内を挿通され、外部に延出された信号ケーブル12bを介して、3Dプロセッサ7内の右目用の2D画像生成回路31Rに入力される。
2D画像生成回路31Lにより生成された左の2D画像信号と2D画像生成回路31Rにより生成された右の2D画像信号とは、3D画像生成回路32に入力され、3D画像生成回路32は、3D画像信号を生成する。
図3Aは、対物レンズ25a,25bから距離Lの位置にある被写体Obを左右の対物レンズ25a,25bによりCCD26a,26bの撮像面28a,28bに左右の光学像Il,Irを結像する様子を示す。
The left imaging signal imaged by the CCD 26a is inserted into the 3D endoscope 4 and input to the 2D image generation circuit 31L for the left eye in the 3D processor 7 via the signal cable 12a extended to the outside. The
Also, the right image signal picked up by the CCD 26b is inserted into the 3D endoscope 4 and sent to the 2D image generation circuit 31R for the right eye in the 3D processor 7 through the signal cable 12b extended to the outside. Entered.
The left 2D image signal generated by the 2D image generation circuit 31L and the right 2D image signal generated by the 2D image generation circuit 31R are input to the 3D image generation circuit 32, and the 3D image generation circuit 32 outputs the 3D image. Generate a signal.
FIG. 3A shows a state in which the left and right optical images Il and Ir are formed on the imaging surfaces 28a and 28b of the CCDs 26a and 26b by the left and right objective lenses 25a and 25b with the subject Ob at a distance L from the objective lenses 25a and 25b. Show.

被写体Obにおける中央部Scは、左右の対物レンズ25a,25aを経て左右の撮像領域30a,30bにそれぞれ共通の光学像部分Icとして結像され、また被写体Obにおける左部分Saは、撮像領域30aのみに(共通でない)非共通の光学像部分Iaとして結像され、被写体Obにおける右部分Saは、撮像領域30bのみに(共通でない)非共通の光学像部分Ibとして結像される。なお、左右の対物レンズ25a,25bの光軸方向は互いに異なるために、両撮像面28a,28bにおける共通の光学像部分Icは実際には、凹凸に応じて異なる光学像となる。
このように左右のCCD26a,26bは、同じ被写体Obに対して、左右に結像された共通の光学像部分Icと、非共通の光学像部分Ia,Ibとを有する光学像Il,Irを光電変換した撮像信号を生成し、3Dプロセッサ7は、共通の光学像部分Icと、非共通の光学像部分Ia,Ibとを反映した左右の2D画像信号を有する3D画像信号を生成し、観察モニタ8は、そのような3D画像を表示することになる。
本実施形態においては、CCD26a,26bは、図3Bの最上段部分に示すように視差調整を行わない場合の通常用の撮像領域30a,30bの他に、撮像領域30a,30bの各左右両側に、視差調整用の撮像領域30a′、30b′を備えるようにしている。
The central portion Sc in the subject Ob is imaged as a common optical image portion Ic in the left and right imaging regions 30a and 30b via the left and right objective lenses 25a and 25a, and the left portion Sa in the subject Ob is only the imaging region 30a. Are formed as non-common optical image portions Ia (not common), and the right portion Sa of the subject Ob is formed as a non-common optical image portion Ib (not common) only in the imaging region 30b. In addition, since the optical axis directions of the left and right objective lenses 25a and 25b are different from each other, the common optical image portion Ic on both the imaging surfaces 28a and 28b is actually different optical images according to the unevenness.
As described above, the left and right CCDs 26a and 26b photoelectrically convert the optical images Il and Ir having the common optical image portion Ic and the non-common optical image portions Ia and Ib formed on the left and right with respect to the same subject Ob. The converted imaging signal is generated, and the 3D processor 7 generates a 3D image signal having right and left 2D image signals reflecting the common optical image portion Ic and the non-common optical image portions Ia and Ib, and the observation monitor 8 displays such a 3D image.
In the present embodiment, the CCDs 26a and 26b are provided on both the left and right sides of the imaging regions 30a and 30b in addition to the normal imaging regions 30a and 30b when parallax adjustment is not performed as shown in the uppermost part of FIG. 3B. In addition, imaging regions 30a 'and 30b' for parallax adjustment are provided.

図3Bにおける最上段の下に、図3Aの視差状態のままで撮像した場合の光学像(視差調整無しと記載)、その下に図3Aの状態から視差を強調した光学像(視差強調と記載)、その下に図3Aの状態から視差を低減した光学像(視差低減と記載)、を模式的に示す。
左右の視差を大きくすることを望む場合には、図3Bの視差強調の光学像として示すように、撮像領域を左右方向にシフトすることにより、共通の光学像部分Icの割合を小さくし、共通でない非共通の光学像部分Ia、Ibの割合を大きくすることにより、実際には距離dを(大きく)変化させることをしない状態において、距離dを大きくした場合と類似した視差を大きく調整した左右の光学像を取得(生成)できるようにしている。
また、撮像領域を、視差強調の場合と反対方向にシフトすることにより、視差量を低減した光学像を取得(生成)することもできるようにしている。
3B is an optical image (described as “no parallax adjustment”) when the image is captured in the parallax state of FIG. 3A, and an optical image obtained by enhancing parallax from the state of FIG. 3A (denoted as parallax enhancement). 3) schematically shows an optical image (described as parallax reduction) in which the parallax is reduced from the state of FIG. 3A.
When it is desired to increase the left and right parallaxes, the ratio of the common optical image portion Ic is reduced by shifting the imaging region in the left and right directions as shown in FIG. 3B as parallax-enhanced optical images. By increasing the ratio of the non-common optical image portions Ia and Ib that are not common, the left and right are adjusted with a large parallax similar to that when the distance d is increased in a state where the distance d is not actually changed (largely). These optical images can be acquired (generated).
Further, by shifting the imaging region in the direction opposite to that in the case of parallax enhancement, an optical image with a reduced amount of parallax can be acquired (generated).

つまり、CCD26a,26bから実際に撮像信号として出力する場合の撮像領域を、図3Bに示すように撮像面上において左右方向に移動することにより、視差量が異なる左右の撮像信号を出力でき、左右の撮像信号は2D画像生成回路31L,31Rにより視差量が異なる左右の2D画像に変換される。
なお、CCD26a,26bの撮像面28a,28b(の画素)全体から出力される撮像信号から、実際に抽出する撮像信号の範囲を制限することにより、図3B等において説明した視差量が異なる左右の2D画像信号を生成することができる。このように、撮像面28a,28bの画素全体から一定のサイズを保った状態で撮像信号を抽出する場合の撮像範囲を左右方向にシフトすることにより、簡単に視差量を増減した左右の2D画像信号を生成することができる。
これに対して、視差量を増減するために抽出する場合の撮像範囲の大きさを変更すると、視差量の増減に伴って左右の2D画像の画像サイズが変化してしまい、変化しないようにするためには更に拡大や縮小の処理が必要になってしまう。本実施形態においては、3D画像を形成する左右の2D画像における視差量を、該視差量に対応したアライメントの値で反映する。
具体的には、図5Bに示すように3D画像を形成する左右の2D画像(図5Bでは単に左画像、右画像と表記)における表示画像位置を左右方向に離間して表示し、視差量が大きい程、左右方向に離間する距離(図5Bでは+15ドット、−15ドット)を大きくするアライメントにしている。そのため、左右の画像における左右方向に離間する距離が大きいアライメントの場合程、観察する術者等のユーザは、立体感が大きいと知覚(視認)する。
In other words, the left and right imaging signals having different amounts of parallax can be output by moving the imaging area when the CCDs 26a and 26b are actually output as imaging signals in the horizontal direction on the imaging surface as shown in FIG. 3B. The 2D image generation circuits 31L and 31R convert the captured image signals into left and right 2D images having different amounts of parallax.
It should be noted that by limiting the range of the imaging signal that is actually extracted from the imaging signals output from the entire imaging surfaces 28a and 28b (pixels) of the CCDs 26a and 26b, the left and right parallax amounts described in FIG. A 2D image signal can be generated. In this way, left and right 2D images in which the amount of parallax is easily increased or decreased by shifting the imaging range in the left-right direction when an imaging signal is extracted from the entire pixels of the imaging surfaces 28a and 28b while maintaining a certain size. A signal can be generated.
On the other hand, if the size of the imaging range when extracting to increase or decrease the amount of parallax is changed, the image size of the left and right 2D images changes with the increase or decrease of the amount of parallax, so that it does not change For this purpose, further enlargement or reduction processing is required. In the present embodiment, the amount of parallax in the left and right 2D images forming the 3D image is reflected by an alignment value corresponding to the amount of parallax.
Specifically, as shown in FIG. 5B, the display image positions in the left and right 2D images forming the 3D image (simply referred to as “left image” and “right image” in FIG. 5B) are displayed separately in the left-right direction, and the parallax amount is The larger the distance, the larger the distance in the left-right direction (in FIG. 5B, +15 dots, −15 dots). Therefore, a user such as a surgeon who observes perceives (visually recognizes) that the stereoscopic effect is large as the alignment distance between the left and right images is large.

図2に示す3D内視鏡4は、該3D内視鏡4に固有の識別情報(IDと略記)を発生するROM(リードオンリーメモリ)等から構成されるID発生器(図2では単にIDと表記)29を有する。
このID発生器29のIDは、信号ケーブル12cを介して3Dプロセッサ7内のID読取回路33に入力され、3D画像生成回路32はIDを読み取り、3Dプロセッサ7を制御する制御回路34に出力する。制御回路34は、入力されたIDから、左右のCCD26a,26bの画素数、左右の対物レンズ25a,25aの焦点距離f、左右の撮像部27a,27bの画角、光軸間距離dにより生成される視差量に関する情報を取得することができるようにしている。
図3Aにおいて示したように、距離Lが決まると、光軸間距離dの場合に撮像面28a,28bに結像される左右の光学像Il,Irにおけるは、撮像部27a,27bの視差量を反映した光学像となっている。そして、視差量に関する情報となる共通の光学像部分Icと非共通の光学像部分Ia又はIbとの比率を取得することができる。
The 3D endoscope 4 shown in FIG. 2 includes an ID generator (in FIG. 2, simply an ID) that includes a ROM (read only memory) that generates identification information (abbreviated as ID) unique to the 3D endoscope 4. 29).
The ID of the ID generator 29 is input to the ID reading circuit 33 in the 3D processor 7 via the signal cable 12c, and the 3D image generation circuit 32 reads the ID and outputs it to the control circuit 34 that controls the 3D processor 7. . The control circuit 34 generates from the input ID based on the number of pixels of the left and right CCDs 26a and 26b, the focal length f of the left and right objective lenses 25a and 25a, the angle of view of the left and right imaging units 27a and 27b, and the distance d between the optical axes. Information about the amount of parallax to be obtained can be acquired.
As shown in FIG. 3A, when the distance L is determined, the parallax amounts of the imaging units 27a and 27b in the left and right optical images Il and Ir formed on the imaging surfaces 28a and 28b when the distance between the optical axes is d. It is an optical image reflecting the above. Then, it is possible to acquire the ratio between the common optical image portion Ic and the non-common optical image portion Ia or Ib that is information about the amount of parallax.

このため、3D内視鏡4の撮像部27a,27bから取得し、生成する視差量に関する情報(視差量パラメータとも言う)として、光軸間距離d、距離L、共通の光学像部分Icと非共通の光学像部分Ia(Ib)の比率、又はサイズの情報としても良い。なお、距離Lを3D内視鏡4の撮像部27a,27bの既知の特性を利用して算出しても良い。同じ被写体上の位置が左右の撮像面上において結像される位置を検出することにより距離Lを算出することができる。
3Dプロセッサ7は、3D画像生成部を形成する3D画像生成回路32により生成した3D画像信号を、出力端から観察モニタ8と画像記録装置9とに出力する。
また、3Dプロセッサ7の制御回路34は、3D内視鏡4の光軸間距離d、距離L、共通の光学像部分Icと非共通の光学像部分Ia(Ib)の比率、又はサイズの情報を視差量パラメータの情報として通信回路35を介して画像記録装置9に出力し、視差量を補正する際に利用できるようにしても良い。或いは、両撮像部27a,27bにおけるCCD26a,26bの画素数、左右の対物レンズ25a,25aの焦点距離f、画角、光軸間距離d、距離Lの情報を、視差量に関する情報として通信回路35を介して画像記録装置9に出力するようにしても良い。
For this reason, as information on the amount of parallax acquired and acquired from the imaging units 27a and 27b of the 3D endoscope 4 (also referred to as parallax amount parameter), the inter-optical axis distance d, the distance L, the common optical image portion Ic and the non-optical image portion Ic Information on the ratio or size of the common optical image portion Ia (Ib) may be used. The distance L may be calculated using known characteristics of the imaging units 27a and 27b of the 3D endoscope 4. The distance L can be calculated by detecting the position at which the position on the same subject is imaged on the left and right imaging surfaces.
The 3D processor 7 outputs the 3D image signal generated by the 3D image generation circuit 32 forming the 3D image generation unit to the observation monitor 8 and the image recording device 9 from the output end.
The control circuit 34 of the 3D processor 7 also provides information on the distance d and distance L between the optical axes of the 3D endoscope 4, the ratio of the common optical image portion Ic and the non-common optical image portion Ia (Ib), or size information. May be output as parallax amount parameter information to the image recording device 9 via the communication circuit 35 so as to be used when correcting the parallax amount. Alternatively, the information on the number of pixels of the CCDs 26a and 26b, the focal length f of the left and right objective lenses 25a and 25a, the angle of view, the distance d between the optical axes, and the distance L is used as information about the amount of parallax as a communication circuit. Alternatively, the image data may be output to the image recording device 9 via the control unit 35.

以下の説明においては、3Dプロセッサ7は、主に表示環境の情報として、視差量を反映した情報として、アライメントの値を画像記録装置9に出力する場合を説明する。
また、3Dプロセッサ7には視差量増減スイッチ37を設けた操作パネル36が設けてある。術者等のユーザにより操作される視差量増減スイッチ37の操作信号は、制御回路34に入力され、制御回路34は、操作信号に応じて2D画像生成回路31L,31Rにより生成される左右の2D画像の視差量を大きくしたり、小さくするように制御する。
また、制御回路34は、(通常の)視差量パラメータの他に、視差量増減スイッチ37により、増減される視差量調整パラメータの情報も通信回路35を介して画像記録装置9に出力することができる。図3Bにおいて説明した方法で視差量を増減する場合、増減量が大きく無い範囲においては光軸間距離dを増減した場合と等価であると近似できる。このため、視差量増減スイッチ37により、増減される視差量調整パラメータの情報を、光軸間距離dの値を増減した情報として、アライメントの値に含めるようにしても良い。
In the following description, the 3D processor 7 will describe a case where the alignment value is output to the image recording apparatus 9 as information reflecting the amount of parallax, mainly as display environment information.
The 3D processor 7 is provided with an operation panel 36 provided with a parallax amount increase / decrease switch 37. An operation signal of the parallax amount increase / decrease switch 37 operated by a user such as an operator is input to the control circuit 34, and the control circuit 34 generates the left and right 2D images generated by the 2D image generation circuits 31L and 31R according to the operation signal. Control to increase or decrease the parallax amount of the image.
In addition to the (normal) parallax amount parameter, the control circuit 34 can also output information on the parallax amount adjustment parameter that is increased or decreased by the parallax amount increase / decrease switch 37 to the image recording apparatus 9 via the communication circuit 35. it can. When the parallax amount is increased / decreased by the method described in FIG. 3B, it can be approximated to be equivalent to the case where the optical axis distance d is increased / decreased in a range where the increase / decrease amount is not large. For this reason, information on the parallax amount adjustment parameter that is increased or decreased by the parallax amount increase / decrease switch 37 may be included in the alignment value as information obtained by increasing or decreasing the value of the inter-optical axis distance d.

なお、上記操作パネル36から3D画像生成回路32が生成する3D画像の再生方式(又は表示方式)を設定することができる。観察モニタ8の3D画像を表示する再生方式に合わせて、3D画像生成回路32が3D画像信号を生成することができるように、3D画像生成回路32は、複数種類の再生方式(又は表示方式)で3D画像信号を生成する機能を有する。
術者等のユーザは、観察モニタ8の再生方式が対応する再生方式の3D画像信号を生成するように設定する。なお、3Dプロセッサ7と、観察モニタ8とを通信回路を介して接続し、3Dプロセッサ7が通信回路を介して接続された観察モニタ8の再生方式の情報を取得し、取得した情報に応じて、自動的に観察モニタ8の再生方式と同じ再生方式の3D画像信号を生成するようにしても良い。
このために、画像記録装置9に入力される3D画像信号は、通常、観察モニタ8の再生方式と同じ再生方式の3D画像信号が入力される。従って、図1に示すように手術等の際に使用される観察モニタ8として、異なる種類の再生方式の観察モニタが使用されると、画像記録装置9に入力される3D画像信号の再生方式(表示方式)も異なる場合がある。
It is possible to set the reproduction method (or display method) of the 3D image generated by the 3D image generation circuit 32 from the operation panel 36. The 3D image generation circuit 32 has a plurality of types of reproduction methods (or display methods) so that the 3D image generation circuit 32 can generate a 3D image signal in accordance with the reproduction method for displaying the 3D image of the observation monitor 8. Has a function of generating a 3D image signal.
A user such as an operator is set to generate a 3D image signal of a reproduction method corresponding to the reproduction method of the observation monitor 8. Note that the 3D processor 7 and the observation monitor 8 are connected via a communication circuit, and the 3D processor 7 acquires information on the reproduction method of the observation monitor 8 connected via the communication circuit, and according to the acquired information. Alternatively, a 3D image signal having the same reproduction method as that of the observation monitor 8 may be automatically generated.
For this reason, the 3D image signal input to the image recording device 9 is normally input with a 3D image signal having the same playback method as the playback method of the observation monitor 8. Therefore, as shown in FIG. 1, when an observation monitor of a different type is used as the observation monitor 8 used during surgery or the like, a reproduction method (3D image signal input to the image recording device 9) ( The display method may also be different.

観察モニタ8は、3D画像生成回路32により生成された3D画像信号に対して、3D表示画像を生成する画像処理を行う表示画像生成回路41と、表示画像生成回路41により生成された3D表示画像信号を表示する3D表示パネル42と、画像記録装置9と通信を行う通信回路43と、表示画像生成回路41及び通信回路の動作を制御する制御回路44と、を有する。
制御回路44は、3D画像を表示する3D表示パネル42の表示サイズ(例えばインチサイズ)の情報を通信回路43を介して、画像記録装置9に送信する。
図2及び図4に示す画像記録装置9は、3Dプロセッサ7から3D画像信号が入力される画像入力回路50と、画像入力回路50に入力された3D画像信号の3D画像(データ)から記録装置に記録する記録データを生成する記録データ生成回路51と、記録データ生成回路51により生成された記録データを記録する記録部を形成する、例えばハードディスク装置(HDDと略記)により構成される記録装置52aと、記録データを再生して、外部の再生機器に出力画像を出力する場合における再生機器に適合する出力画像に調整又は設定するための調整情報又は設定情報を形成する調整パラメータ(単にパラメータとも言う)を格納する出力画像設定情報格納部を形成するパラメータ格納装置52bと、を有する。より具体的には、パラメータ格納装置52bは、調整パラメータとして、視差量パラメータを算出又は決定するテーブルデータを格納する。
The observation monitor 8 includes a display image generation circuit 41 that performs image processing for generating a 3D display image on the 3D image signal generated by the 3D image generation circuit 32, and the 3D display image generated by the display image generation circuit 41. It has a 3D display panel 42 that displays signals, a communication circuit 43 that communicates with the image recording device 9, and a display image generation circuit 41 and a control circuit 44 that controls the operation of the communication circuit.
The control circuit 44 transmits information about the display size (for example, inch size) of the 3D display panel 42 that displays a 3D image to the image recording device 9 via the communication circuit 43.
2 and 4 is an image input circuit 50 to which a 3D image signal is input from the 3D processor 7 and a 3D image (data) of the 3D image signal input to the image input circuit 50. A recording data generating circuit 51 for generating recording data to be recorded on the recording data, and a recording device 52a configured by, for example, a hard disk device (abbreviated as HDD) that forms a recording unit for recording the recording data generated by the recording data generating circuit 51. And adjustment parameters that form adjustment information or setting information for adjusting or setting the output image suitable for the playback device when the recorded data is played back and the output image is output to an external playback device (also simply referred to as a parameter). ), And a parameter storage device 52b forming an output image setting information storage unit. More specifically, the parameter storage device 52b stores table data for calculating or determining a parallax amount parameter as an adjustment parameter.

図4においては、パラメータ格納装置52bは、記録装置52aと別体に設けているが、記録装置52aの内部にパラメータ格納装置52bを設けるようにしても良い。なお、図4の画像記録装置9においては、点線が画像信号の流れ、実線が制御信号の流れを表している。
また、この画像記録装置9は、記録装置52aに記録された記録データを再生した3D再生画像(3D画像)の視差量を調整する視差調整回路54と、視差調整回路54を経て出力される3D画像信号に対して再生方式を変換する再生方式変換回路55と、再生方式変換回路55を経た3D画像信号を再生用の外部モニタ71に出力する画像出力回路56と、外部モニタ71と通信を行う通信回路57を有する。
記録装置52aに記録(録画)された3D画像は、再生時には視差調整回路54に入力され、視差調整回路54と再生方式変換回路55とを経て、再生環境を形成する再生機器に適合した再生画像(又は出力画像)となり、複数種類の再生機器を構成する外部モニタ71等に出力される。
In FIG. 4, the parameter storage device 52b is provided separately from the recording device 52a. However, the parameter storage device 52b may be provided inside the recording device 52a. In the image recording apparatus 9 of FIG. 4, the dotted line represents the flow of the image signal, and the solid line represents the flow of the control signal.
The image recording device 9 also includes a parallax adjustment circuit 54 that adjusts the parallax amount of a 3D playback image (3D image) obtained by playing back the recording data recorded in the recording device 52a, and the 3D output through the parallax adjustment circuit 54. Communication with the external monitor 71 is performed, and a reproduction method conversion circuit 55 that converts a reproduction method for an image signal, an image output circuit 56 that outputs a 3D image signal that has passed through the reproduction method conversion circuit 55 to an external monitor 71 for reproduction, and the like. A communication circuit 57 is included.
The 3D image recorded (recorded) in the recording device 52a is input to the parallax adjustment circuit 54 at the time of reproduction, and passes through the parallax adjustment circuit 54 and the reproduction method conversion circuit 55, so that a reproduction image suitable for the reproduction device forming the reproduction environment is obtained. (Or an output image) and output to an external monitor 71 or the like constituting a plurality of types of playback devices.

なお、再生機器として、外部モニタ71のみの場合においても、外部モニタ71は再生方式が異なる複数種類が存在するため、外部モニタ71は、複数種類の再生機器を構成する。
上記通信回路57は、外部モニタ71にて3D画像を再生する場合における再生環境を形成する外部モニタ71の再生方式、外部モニタ71の画面サイズ(インチサイズ)の情報を再生環境の情報として取得する。この通信回路57は、外部モニタ71から取得した再生環境の情報を例えば制御回路59に送り、制御回路59は取得した再生環境の情報を、例えば制御回路59内部のメモリ59aに格納する。このため、通信回路57又は制御回路59は、再生環境情報取得部を形成し、メモリ59aは、取得した再生環境の情報を格納する再生環境情報格納部を形成する。なお、メモリ59aを、制御回路59の外部に設けるようにしても良い。
また、この画像記録装置9は、3Dプロセッサ7の通信回路35及び観察モニタ8の通信回路43と通信を行う通信回路58と、画像記録装置9の動作を制御する制御回路59と、術者等のユーザがデータの入力や指示操作等を行う操作/表示部60と、外部のストリーミングクライアントPC72にストリーミング信号を出力するストリーミング出力回路61と、外部メディア73に外部メディア書出を行う外部メディア書出回路62とを有する。なお、外部メディア73は、USBメディア、光学メディア、PC(パーソナルコンピュータ)/サーバなどから構成される。
Even when only the external monitor 71 is used as a playback device, there are a plurality of types of external monitors 71 with different playback methods, so the external monitor 71 constitutes a plurality of types of playback devices.
The communication circuit 57 acquires information on the playback method of the external monitor 71 and the screen size (inch size) of the external monitor 71 that form a playback environment when a 3D image is played back on the external monitor 71 as playback environment information. . The communication circuit 57 sends the reproduction environment information acquired from the external monitor 71 to, for example, the control circuit 59, and the control circuit 59 stores the acquired reproduction environment information in, for example, the memory 59a in the control circuit 59. Therefore, the communication circuit 57 or the control circuit 59 forms a reproduction environment information acquisition unit, and the memory 59a forms a reproduction environment information storage unit that stores the acquired reproduction environment information. The memory 59a may be provided outside the control circuit 59.
The image recording apparatus 9 includes a communication circuit 58 that communicates with the communication circuit 35 of the 3D processor 7 and the communication circuit 43 of the observation monitor 8, a control circuit 59 that controls the operation of the image recording apparatus 9, an operator, and the like. An operation / display unit 60 for inputting data and instructing operations, a streaming output circuit 61 for outputting a streaming signal to an external streaming client PC 72, and an external media writing for writing an external media to an external medium 73 Circuit 62. The external medium 73 includes a USB medium, an optical medium, a PC (personal computer) / server, and the like.

図4に示す外部モニタ71、ストリーミングクライアントPC72、外部メディア73は、画像記録装置9に着脱自在に接続され、記録装置52aに記録された3D画像(データ)を再生する、画像記録装置9外部の複数種類の再生機器を形成する。
画像記録装置9にストリーミングクライアントPC72が接続された場合には、上記再生方式変換回路55の出力信号は、ストリーミング出力回路61を経てストリーミングクライアントPC72に出力される。
また、画像記録装置9に外部メディア73が接続された場合には、上記再生方式変換回路55の出力信号は、外部メディア73に出力される。
また、視差調整回路54と、再生方式変換回路55は、外部の再生機器における外部モニタ71とストリーミングクライアントPC72とに対しては、双方向の通信を行うことができるように接続される。例えば視差調整回路54と再生方式変換回路55は、通信回路57を介して外部モニタ71と双方向の通信を行うことができる。また、視差調整回路54と再生方式変換回路55は、ストリーミング出力回路61を経てストリーミングクライアントPC72と双方向の通信を行うことができる。また、視差調整回路54と、再生方式変換回路55は、外部メディア書出回路62を介して外部メディア73に3D画像信号を書き込むことができる。
An external monitor 71, a streaming client PC 72, and an external medium 73 shown in FIG. 4 are detachably connected to the image recording device 9, and reproduce a 3D image (data) recorded in the recording device 52a. Form multiple types of playback equipment.
When the streaming client PC 72 is connected to the image recording device 9, the output signal of the reproduction method conversion circuit 55 is output to the streaming client PC 72 via the streaming output circuit 61.
When the external medium 73 is connected to the image recording device 9, the output signal of the reproduction method conversion circuit 55 is output to the external medium 73.
Also, the parallax adjustment circuit 54 and the playback method conversion circuit 55 are connected to the external monitor 71 and the streaming client PC 72 in an external playback device so that bidirectional communication can be performed. For example, the parallax adjustment circuit 54 and the reproduction method conversion circuit 55 can perform bidirectional communication with the external monitor 71 via the communication circuit 57. Also, the parallax adjustment circuit 54 and the playback method conversion circuit 55 can perform bidirectional communication with the streaming client PC 72 via the streaming output circuit 61. Further, the parallax adjustment circuit 54 and the reproduction method conversion circuit 55 can write a 3D image signal to the external medium 73 via the external media writing circuit 62.

ストリーミング出力回路61も、内部にストリーミングクライアントPC72の再生環境の情報を取得し、取得した情報を制御回路59に送り、メモリ59aに格納することができる。
一方、外部メディア書出回路62は、操作/表示部60から、外部メディア73を用いて再生しようとする場合の再生環境の情報を入力することにより、表示環境に基づいて生成される出力画像を前記再生環境の情報に整合するように視差調整回路54により視差量が調整され、さらに前記再生環境に整合する再生方式となるように再生方式を変換した後、外部メディア73に出力する。このため、操作/表示部60は、(出力画像設定値情報格納部を構成するパラメータ格納装置52bに格納された)出力画像の設定情報としての調整パラメータを可変する操作部を構成する。
上記通信回路58は、3Dプロセッサ7の通信回路35及び観察モニタ8の通信回路43と通信を行うことにより、観察モニタ8に3D画像が表示される表示環境の情報を取得する表示環境取得部を形成し、3Dプロセッサ7の通信回路35と通信を行い、3D内視鏡4の撮像部27a,27bの視差量に関する情報(アライメントの情報)、3Dプロセッサ7の3D画像の再生方式の情報を取得すると共に、観察モニタ8の画面サイズの情報を取得し、例えば通信回路58内のメモリ58aに格納する。このメモリ58aは、表示環境の情報を格納する表示環境情報格納部(又は表示環境情報格納装置)を形成する。
The streaming output circuit 61 can also acquire the reproduction environment information of the streaming client PC 72 therein, send the acquired information to the control circuit 59, and store it in the memory 59a.
On the other hand, the external media writing circuit 62 inputs information on the playback environment when playback is to be performed using the external media 73 from the operation / display unit 60, thereby generating an output image generated based on the display environment. The amount of parallax is adjusted by the parallax adjustment circuit 54 so as to match the information of the reproduction environment, and the reproduction method is converted so that the reproduction method matches the reproduction environment, and then output to the external medium 73. Therefore, the operation / display unit 60 constitutes an operation unit that varies the adjustment parameter as the setting information of the output image (stored in the parameter storage device 52b that constitutes the output image setting value information storage unit).
The communication circuit 58 includes a display environment acquisition unit that acquires information about a display environment in which a 3D image is displayed on the observation monitor 8 by communicating with the communication circuit 35 of the 3D processor 7 and the communication circuit 43 of the observation monitor 8. Forming and communicating with the communication circuit 35 of the 3D processor 7 to obtain information on the amount of parallax of the imaging units 27a and 27b of the 3D endoscope 4 (alignment information) and information on the 3D image reproduction method of the 3D processor 7 At the same time, information on the screen size of the observation monitor 8 is acquired and stored in the memory 58a in the communication circuit 58, for example. The memory 58a forms a display environment information storage unit (or display environment information storage device) that stores display environment information.

上記操作/表示部60は、例えばタッチパネルにより、構成されており、術者等のユーザは、タッチパネルにおける画像記録と表示されている部分をタッチする操作を行うことにより、画像の記録の指示入力を行ったり、画像再生と表示されている部分をタッチする操作を行うことにより再生の指示入力等を行うことができる。
画像入力回路50に入力される3D画像信号は、記録データ生成回路51に入力され、記録データ生成回路51は、3D画像信号の記録データを生成する。また、記録データ生成回路51は、制御回路59を介して、操作/表示部60から記録指示が入力された場合には、通信回路58のメモリ58a内に格納された表示環境の情報を、3D画像信号に関連する情報としてのメタ情報を付加して、3D画像信号の記録データを生成する。そして、記録装置52aは、メタ情報が付加された3D画像信号の記録データを記録する。
上記視差調整回路54は、記録装置52aから読み出した記録データにおけるメタ情報から表示環境の情報を取得(又は参照)する。
The operation / display unit 60 is configured by, for example, a touch panel, and a user such as an operator inputs an instruction to record an image by performing an operation of touching an image recording and displayed portion on the touch panel. It is possible to input an instruction for reproduction or the like by performing an operation of touching the displayed portion as image reproduction.
The 3D image signal input to the image input circuit 50 is input to the recording data generation circuit 51, and the recording data generation circuit 51 generates recording data of the 3D image signal. In addition, when a recording instruction is input from the operation / display unit 60 via the control circuit 59, the recording data generation circuit 51 3D displays the display environment information stored in the memory 58a of the communication circuit 58. By adding meta information as information related to the image signal, recording data of the 3D image signal is generated. Then, the recording device 52a records the recording data of the 3D image signal to which the meta information is added.
The parallax adjustment circuit 54 acquires (or refers to) display environment information from the meta information in the recording data read from the recording device 52a.

また、視差調整回路54は、通信回路57を介して外部モニタ71の通信回路71aと接続され、通信回路57が取得した再生環境を取得(又は参照)することができる。なお、制御回路59も双方向の通信が可能となるように通信回路57と通信回路58と視差調整回路54と電気的に接続されている。そして、後述するように制御回路59は、表示環境と再生環境とが異なる場合には、出力画像設定用のパラメータ格納装置52bに格納されている調整パラメータを参照して、表示環境においての立体感を再生環境の場合に再現できるように、調整した出力画像を出力することができるようにしている。
例えば、観察モニタ8と外部モニタ71の画面サイズが異なる場合には、ユーザが観察モニタ8の表示サイズで観察した場合の立体感が、外部モニタ71の表示サイズで観察した場合の立体感において再現できるように、制御回路59は、記録データを再生した場合の出力画像(再生画像)における視差量に関係する調整パラメータ(視差量パラメータとも言う)としてのアライメントの値を調整する。
The parallax adjustment circuit 54 is connected to the communication circuit 71 a of the external monitor 71 via the communication circuit 57, and can acquire (or refer to) the reproduction environment acquired by the communication circuit 57. The control circuit 59 is also electrically connected to the communication circuit 57, the communication circuit 58, and the parallax adjustment circuit 54 so that bidirectional communication is possible. As will be described later, when the display environment and the reproduction environment are different, the control circuit 59 refers to the adjustment parameter stored in the parameter storage device 52b for setting the output image, and the stereoscopic effect in the display environment. Can be output in a playback environment so that an adjusted output image can be output.
For example, when the screen sizes of the observation monitor 8 and the external monitor 71 are different, the stereoscopic effect when the user observes the display size of the observation monitor 8 is reproduced in the stereoscopic effect when the observation size of the external monitor 71 is observed. The control circuit 59 adjusts the alignment value as an adjustment parameter (also referred to as a parallax amount parameter) related to the parallax amount in the output image (reproduced image) when the recorded data is reproduced so that the recording data can be reproduced.

また、記録データに記録された場合における3D画像の記録方式と、3D画像を表示する例えば外部モニタ71の3D画像の再生方式が異なる場合には、制御回路59は、記録データを(その記録方式と同じ再生方式で)再生した場合の出力画像(再生画像)の再生方式を、外部モニタ71の再生方式に変換して3D画像信号を出力するように制御する。
図4に示す構成例においては、制御回路59は、通信回路58と表示環境の情報を取得可能に接続され、また、通信回路57,ストリーミング出力回路61,外部メディア書出回路62とも再生環境の情報を取得可能に接続され、更に視差調整回路54と、再生方式変換回路55の動作を制御可能に接続されている。
また、制御回路59は、パラメータ格納装置52bに、出力画像設定用の調整パラメータを格納する動作を制御したり、新たにより適切な調整パラメータが算出された場合には、パラメータ格納装置52bに格納されている調整パラメータを、より適切な調整パラメータに更新する。
In addition, when the 3D image recording method when recorded in the recording data is different from the 3D image reproduction method of the external monitor 71 that displays the 3D image, for example, the control circuit 59 displays the recording data (the recording method). The playback method of the output image (reproduced image) when played back is converted to the playback method of the external monitor 71, and a 3D image signal is output.
In the configuration example shown in FIG. 4, the control circuit 59 is connected to the communication circuit 58 so as to be able to acquire information on the display environment, and the communication circuit 57, the streaming output circuit 61, and the external media writing circuit 62 are all in the reproduction environment. It is connected so that information can be acquired, and is further connected so that the operations of the parallax adjustment circuit 54 and the reproduction system conversion circuit 55 can be controlled.
In addition, the control circuit 59 controls the operation of storing the adjustment parameter for setting the output image in the parameter storage device 52b, and when a more appropriate adjustment parameter is calculated, the control circuit 59 stores the adjustment parameter in the parameter storage device 52b. The adjustment parameter being updated is updated to a more appropriate adjustment parameter.

また、制御回路59は、再生環境の情報の取得結果と表示環境の情報の取得結果と、パラメータ格納装置52bに格納された調整パラメータと、に応じて再生方式変換回路55による再生方式と、視差調整回路54による視差量と、を調整する制御部を形成する。
より具体的には、再生環境の情報と、表示環境の情報とが等しい場合には、制御回路59は、表示環境の情報のままで再生を行うように制御する。つまり、この場合には、記録装置52aに記録した場合と同じ表示環境のままを再生環境として、再生を行い出力画像を設定する。
これに対して、再生環境の情報と、表示環境の情報とが等しくない場合(異なる場合)には、制御回路59は、前記表示環境の情報における3D画像を表示するのに使用された観察モニタ8の画面サイズと再生環境の情報における前記再生機器に使用される再生モニタ(外部モニタ71)の画面サイズとが異なるか否かを判定し、両画面サイズが異なる場合には設定情報としての調整パラメータに応じて、観察モニタ8と再生モニタとの画面サイズの差異の値に応じた視差量となるように視差調整回路54を制御する。更に、制御回路59は、表示環境の情報における再生方式と前記再生環境の情報における前記再生機器の再生方式とが異なるか否かを判定し、両再生方式が異なる場合には再生方式変換回路55が前記再生機器の再生方式の3D画像を生成するように制御する。
In addition, the control circuit 59 determines the reproduction method by the reproduction method conversion circuit 55 according to the acquisition result of the reproduction environment information, the acquisition result of the display environment information, and the adjustment parameter stored in the parameter storage device 52b, and the parallax. A control unit for adjusting the amount of parallax by the adjustment circuit 54 is formed.
More specifically, when the reproduction environment information and the display environment information are the same, the control circuit 59 performs control so that reproduction is performed with the display environment information as it is. That is, in this case, playback is performed and the output image is set using the same display environment as that recorded in the recording device 52a as the playback environment.
On the other hand, when the reproduction environment information and the display environment information are not equal (if different), the control circuit 59 uses the observation monitor used to display the 3D image in the display environment information. 8 determines whether or not the screen size of the playback monitor (external monitor 71) used for the playback device in the playback environment information is different from the screen size, and if both screen sizes are different, adjustment as setting information In accordance with the parameter, the parallax adjustment circuit 54 is controlled so that the parallax amount is in accordance with the value of the difference in screen size between the observation monitor 8 and the reproduction monitor. Further, the control circuit 59 determines whether or not the reproduction method in the display environment information is different from the reproduction method of the reproduction device in the reproduction environment information. Controls to generate a 3D image of the playback method of the playback device.

なお、視差調整回路54が制御回路59の(一部又は全部の)機能を兼ねたり、再生方式変換回路55が制御回路59の(一部又は全部の)機能を兼ねる構成にしても良い。例えば、視差調整回路54が制御回路59(の例えば一部)を含む構成にしたり、再生方式変換回路55が制御回路59の(例えば一部)を含む構成にしても良い。
図5Aは、表示環境から取得される情報と、再生環境から取得される情報とにより、表示環境の立体感を、再生環境において再現できるように補正する調整パラメータ補正値として出力アライメント補正値を算出する内容をルックアップテーブル形式で示す。
換言すると、図5Aは、表示環境の情報と、再生環境の情報とから、表示環境の視差量を再現する出力アライメント補正値を算出する調整テーブル(又は補正テーブル)を示し、表示環境の情報から取得したアライメントを出力アライメント補正値で補正したものが、表示環境のアライメントを再現する出力画像又は再生環境の再生モニタでのアライメントになる。この調整テーブルは、例えばパラメータ格納装置52bに格納されている。
The parallax adjustment circuit 54 may also serve as (part or all) the function of the control circuit 59, or the reproduction system conversion circuit 55 may serve as (part or all) the function of the control circuit 59. For example, the parallax adjustment circuit 54 may be configured to include the control circuit 59 (for example, a part), or the reproduction system conversion circuit 55 may be configured to include the control circuit 59 (for example, a part).
FIG. 5A shows an output alignment correction value as an adjustment parameter correction value for correcting the stereoscopic effect of the display environment so that it can be reproduced in the reproduction environment based on the information acquired from the display environment and the information acquired from the reproduction environment. The contents to be displayed are shown in a lookup table format.
In other words, FIG. 5A shows an adjustment table (or correction table) for calculating an output alignment correction value that reproduces the parallax amount of the display environment from the display environment information and the reproduction environment information. The acquired alignment corrected with the output alignment correction value is the output image that reproduces the alignment in the display environment or the alignment on the reproduction monitor in the reproduction environment. This adjustment table is stored in, for example, the parameter storage device 52b.

なお、図5Aでは、表示環境の情報と、再生環境の情報とから出力アライメント補正値を算出(決定)できるようにしているが、出力アライメント補正値の代わりに、表示環境のアライメントを再現する出力画像又は再生環境の再生モニタでのアライメントを算出(決定)するようにしても良い。
図5Aにおいて、観察モニタ情報としての画面サイズを表すインチサイズと、3Dプロセッサ情報としてのアライメント(値)は、表示環境の情報として通信回路58を介して取得される。また、外部モニタ情報としての画面サイズを表すインチサイズは、再生環境の情報として通信回路57を介して取得される。
なお、図5Aにおいては、再生環境の情報として、アライメントが取得されることは明示していないが、標準的なアライメントの値が設定されていると見なすことができる。後述する図7において、再生動作を説明する場合、再生環境の情報と表示環境の情報に差異が有るか否かを判定する場合、(表示環境においてはアライメントの情報を有することは明らかであるが、)再生環境の情報がアライメントの情報を含むか否かにより処理が異なる。このために、以下の説明においては、まず、再生環境の情報がアライメントの情報を含む場合として説明する。
In FIG. 5A, the output alignment correction value can be calculated (determined) from the display environment information and the reproduction environment information. However, instead of the output alignment correction value, the output for reproducing the alignment of the display environment. You may make it calculate (determine) the alignment in the reproduction monitor of an image or reproduction environment.
In FIG. 5A, the inch size representing the screen size as the observation monitor information and the alignment (value) as the 3D processor information are acquired via the communication circuit 58 as display environment information. Also, the inch size representing the screen size as the external monitor information is acquired via the communication circuit 57 as information on the reproduction environment.
In FIG. 5A, it is not explicitly shown that the alignment is acquired as the reproduction environment information, but it can be considered that a standard alignment value is set. In FIG. 7 to be described later, when the reproduction operation is described, when it is determined whether or not there is a difference between the reproduction environment information and the display environment information (although it is clear that the display environment has alignment information). )) Processing differs depending on whether or not the reproduction environment information includes alignment information. For this reason, in the following description, first, description will be made on the assumption that the reproduction environment information includes alignment information.

図5Aにおいて、3Dプロセッサ情報としてのアライメント(値)として、例えば±15未満や、±15〜±20未満に設定されている。
アライメントが、例えば±15とは、図5Bに示すように(3D画像を構成する)右画像の左端の表示位置を基準位置Oから右側に+15ドットだけシフトした位置、左画像の左端の表示位置を基準位置Oから右側を+とすると反対となる左側(−)に15ドットだけシフトした位置に設定して表示する状態を表す。なお、+15ドットは、例えば高品位のテレビジョン(HD−TV)規格の水平方向のドット数等を基準としている。
図5Bは、例えばラインバイライン(Line by Line)又はフレームパッキングの3D再生方式の3D画像を表示した場合で示す。図示しないが、トップアンドボトムの場合も、ラインバイライン等の場合と同様にアライメントが設定される。
一方、サイドバイサイド(Side by Side)の3D再生方式の3D画像の左右の画像においては、図9に示すように表示前の画像状態では左右方向にそれぞれ半分に圧縮されているので、表示される場合には、左右方向に2倍に伸張されるので、(同じ画面サイズの場合には)ラインバイライン等の場合の半分のアライメントに設定される。
In FIG. 5A, the alignment (value) as 3D processor information is set to, for example, less than ± 15 or ± 15 to less than ± 20.
The alignment is, for example, ± 15, as shown in FIG. 5B, the display position of the left end of the right image (which constitutes the 3D image) is shifted to the right by +15 dots from the reference position O, and the display position of the left end of the left image Represents a state where the image is set and displayed at a position shifted by 15 dots to the left side (-) which is the opposite when the right side is + from the reference position O. For example, +15 dots is based on the number of dots in the horizontal direction of a high-definition television (HD-TV) standard.
FIG. 5B shows a case where a 3D image of a 3D playback method such as line by line or frame packing is displayed. Although not shown, in the case of top and bottom, alignment is set as in the case of line by line.
On the other hand, in the left and right images of the 3D image of the side by side 3D playback method, as shown in FIG. 9, the images are compressed in half in the left and right directions in the image state before the display, and are therefore displayed. Is expanded twice as much in the left-right direction, so that the alignment is set to half that in the case of line-by-line (for the same screen size).

図5Aに記載されているようにアライメントが±15〜±20は、左右の画像の表示位置が、左右方向に±15ドット離間した場合よりも、更に左右方向に離間して表示されることになる。アライメントの値±IにおけるIの値が大きい程、大きな視差量の左右の画像となる。
また、図5Aにおける最も右側の欄の出力アライメント補正値は、表示環境のアライメント値を補正する補正値であり、例えば±0は、補正しないことと等しいことを示し、(出力アライメント)補正値における±1は、補正前のアライメント±Jをそれぞれ±1補正すること、つまり補正前のアライメント±Jを±(J+1)に補正することを表す。この場合にはアライメント値(又は視差量)を大きく、又は広げることを表す。一方、(出力アライメント)補正値における−+1(±1における+と−の位置を入れ替えたものを表す。)は、補正前のアライメント±Jをそれぞれ−+1補正すること、つまり補正前のアライメント±Jを±(J−1)に補正することを表す。この場合にはアライメント値(又は視差量)を小さく、又は狭くすることを表す。
As shown in FIG. 5A, when the alignment is ± 15 to ± 20, the display positions of the left and right images are displayed further apart in the left-right direction than in the case where ± 15 dots are separated in the left-right direction. Become. The larger the value of I in the alignment value ± I, the larger the left and right images with a large amount of parallax.
Further, the output alignment correction value in the rightmost column in FIG. 5A is a correction value for correcting the alignment value of the display environment. For example, ± 0 indicates that it is not corrected, and the (output alignment) correction value ± 1 indicates that the alignment ± J before correction is corrected by ± 1, that is, the alignment ± J before correction is corrected to ± (J + 1). In this case, the alignment value (or the amount of parallax) is increased or expanded. On the other hand,-+ 1 in the (output alignment) correction value (represents the positions where + and-in ± 1 are exchanged) is corrected by-+ 1 for the alignment ± J before correction, that is, before alignment ± This indicates that J is corrected to ± (J−1). In this case, the alignment value (or parallax amount) is reduced or reduced.

図5Aは、一部の画面サイズの場合での補正値を具体的に示しているが、以下のような特徴を持つように設定されている。
本実施形態は、表示環境における観察モニタの画面サイズと再生環境における再生モニタの画面サイズとが異なる場合には、基本的に表示環境の立体感を再現できるように再生環境の視差量としてのアライメントを設定する。このために、両画面サイズ(インチサイズ)が等しい場合には、表示環境におけるアライメントをそのまま使用する(換言すると、補正値を0にする)。
これに対して、両画面サイズが異なる場合には、以下のように調整又は補正する。
再生モニタの画面サイズが観察モニタの画面サイズよりも大きい程、表示環境で取得したアライメントを小さくする、換言すると、再生モニタで表示する左右画像の左右方向の配置位置における左右方向の離間量を前記観察モニタの場合よりも小さくする。
FIG. 5A specifically shows the correction values in the case of some screen sizes, but is set to have the following characteristics.
In this embodiment, when the screen size of the observation monitor in the display environment is different from the screen size of the playback monitor in the playback environment, the alignment as the parallax amount of the playback environment is basically performed so that the stereoscopic effect of the display environment can be reproduced. Set. For this reason, when both screen sizes (inch sizes) are equal, the alignment in the display environment is used as it is (in other words, the correction value is set to 0).
On the other hand, when the two screen sizes are different, adjustment or correction is performed as follows.
The larger the screen size of the playback monitor is than the screen size of the observation monitor, the smaller the alignment acquired in the display environment, in other words, the left-right distance at the left-right placement position of the left-right image displayed on the playback monitor. Make it smaller than for the observation monitor.

逆に、再生モニタの画面サイズが観察モニタの画面サイズよりも小さい程、表示環境で取得したアライメントを大きくする、換言すると、再生モニタで表示する左右画像の左右方向の配置位置における左右方向の離間量を前記観察モニタの場合よりも大きくする。また、表示環境の視差量(アライメント)が大きい程、上記の特徴が顕著となるように設定されている。制御回路59がこのような調整の制御動作を行う。
なお、図5Aにおいては、視差量に関するデータ例を示し、観察モニタ8の再生方式と外部モニタ71の再生方式の情報もパラメータ格納装置52bに格納するようにしても良い。例えば、観察モニタの再生方式と外部モニタの再生方式が異なる場合、観察モニタの再生方式から外部モニタの再生方式に変換するために必要となるパラメータを格納するようにしても良い。換言すると、パラメータ格納装置52bが複数種類の調整用パラメータを格納するようにしても良い。
本実施形態においては、表示環境と再生環境の情報が、再生方式以外において異なるような場合、調整テーブルを参照することにより、上記のように表示環境での立体感を再現するように再生環境で同等の立体感が得られるように、3D画像を表示する場合のアライメントを調整する。
Conversely, as the screen size of the playback monitor is smaller than the screen size of the observation monitor, the alignment acquired in the display environment is increased. In other words, the horizontal spacing of the left and right images displayed on the playback monitor is increased in the horizontal direction. The amount is made larger than in the case of the observation monitor. Further, the above feature is set to be more prominent as the parallax amount (alignment) of the display environment is larger. The control circuit 59 performs such adjustment control operation.
FIG. 5A shows an example of data related to the amount of parallax, and information on the reproduction method of the observation monitor 8 and the reproduction method of the external monitor 71 may also be stored in the parameter storage device 52b. For example, when the reproduction method of the observation monitor is different from the reproduction method of the external monitor, parameters necessary for conversion from the reproduction method of the observation monitor to the reproduction method of the external monitor may be stored. In other words, the parameter storage device 52b may store a plurality of types of adjustment parameters.
In the present embodiment, when the information on the display environment and the reproduction environment is different except for the reproduction method, the reproduction environment is configured so as to reproduce the stereoscopic effect in the display environment as described above by referring to the adjustment table. The alignment when displaying a 3D image is adjusted so that an equivalent stereoscopic effect can be obtained.

本実施形態の画像記録装置9は、複数の3D内視鏡画像における1つの3D内視鏡画像が選択的に入力される内視鏡画像入力部を形成する画像入力回路50と、前記内視鏡画像入力部に入力される前記3D内視鏡画像の表示環境の情報を取得する表示環境情報取得部を形成する通信回路58(のメモリ58a)と、前記内視鏡画像入力部へ入力される前記3D内視鏡画像の画像データに前記表示環境情報取得部の取得結果の情報をメタ補情報として付加した記録データを生成する記録データ生成部を形成する記録データ生成回路51と、前記記録データ生成部により生成された前記記録データを記録する記録部を形成する記録装置52aと、前記記録部に記録された前記記録データに基づいて、再生された際の前記3D内視鏡画像の左右画像の視差を調整する視差調整部を形成する視差調整回路54と、前記記録部に記録された前記3D内視鏡画像を複数種類の再生方式の3D画像に変換可能とする再生方式変換部を形成する再生方式変換回路55と、前記記録データを再生して、外部の再生機器に出力画像を出力する場合に参照される設定情報を格納する出力画像設定情報格納部を形成するパラメータ格納装置52bと、前記記録部に記録された前記画像データを再生する複数種類の再生機器における実際に接続して使用される再生機器の再生環境の情報を取得する再生環境情報取得部を形成する制御回路59(又は通信回路57、ストリーミング出力回路61)と、前記再生環境情報取得部の取得結果の情報と前記表示環境情報取得部の取得結果の情報とが異なる場合、前記再生環境の再生機器で再生可能な再生方式で変換するように前記再生方式変換部を制御すると共に、前記出力画像設定情報格納部に格納された前記設定情報に応じて前記視差調整部による視差量を調整するように制御する制御部を形成する制御回路59と、を備えることを特徴とする。     The image recording apparatus 9 of the present embodiment includes an image input circuit 50 that forms an endoscope image input unit to which one 3D endoscope image among a plurality of 3D endoscope images is selectively input, and the endoscope A communication circuit 58 (memory 58a) forming a display environment information acquisition unit for acquiring information on the display environment of the 3D endoscope image input to the mirror image input unit, and the endoscope image input unit. A recording data generation circuit 51 that forms a recording data generation unit that generates recording data obtained by adding information of an acquisition result of the display environment information acquisition unit to the image data of the 3D endoscope image as meta-complementary information; and the recording A recording device 52a that forms a recording unit that records the recording data generated by the data generation unit, and right and left of the 3D endoscopic image when reproduced based on the recording data recorded in the recording unit image A parallax adjustment circuit 54 that forms a parallax adjustment unit that adjusts the parallax, and a reproduction method conversion unit that can convert the 3D endoscopic image recorded in the recording unit into 3D images of a plurality of types of reproduction methods are formed. A reproduction method conversion circuit 55; a parameter storage device 52b that forms an output image setting information storage unit that stores setting information referred to when reproducing the recorded data and outputting an output image to an external reproduction device; A control circuit 59 (or a reproduction environment information acquisition unit) that acquires information on the reproduction environment of a reproduction device that is actually connected and used in a plurality of types of reproduction devices that reproduce the image data recorded in the recording unit (or If the communication circuit 57, the streaming output circuit 61), and the acquisition result information of the reproduction environment information acquisition unit and the acquisition result information of the display environment information acquisition unit are different, The playback method conversion unit is controlled so as to convert in a playback method that can be played back by a playback device in the environment, and the parallax amount by the parallax adjustment unit is set according to the setting information stored in the output image setting information storage unit. And a control circuit 59 that forms a control unit that performs control so as to be adjusted.

次に本実施形態の動作を説明する。まず、図6のフローチャートを参照して記録時の動作を説明する。例えば図1に示すように複数の医療機器を接続して内視鏡装置1の電源を投入し、動作状態にする。この場合には、3D内視鏡4、光源装置6、3Dプロセッサ7、観察モニタ8、画像記録装置9は、図2に示すような接続状態となる。
最初のステップS1において、3Dプロセッサ7は、観察モニタ8の表示方式(再生方式)と同じ方式の3D画像信号を生成するように手動又は自動で設定される。そして、3Dプロセッサ7は、3D画像信号を生成する。
ステップS2に示すように観察モニタ8は、3D画像を表示する。また、ステップS3に示すように画像記録装置9の通信回路58は、3Dプロセッサ7側から表示環境を形成する情報を取得し、取得した情報をメモリ58aに記憶する。この場合、通信回路58は、表示方式の情報と、3D内視鏡4における視差量に相当するアライメントの情報を取得する。
Next, the operation of this embodiment will be described. First, the recording operation will be described with reference to the flowchart of FIG. For example, as shown in FIG. 1, a plurality of medical devices are connected and the endoscope apparatus 1 is turned on to be in an operating state. In this case, the 3D endoscope 4, the light source device 6, the 3D processor 7, the observation monitor 8, and the image recording device 9 are connected as shown in FIG.
In the first step S1, the 3D processor 7 is set manually or automatically so as to generate a 3D image signal of the same method as the display method (reproduction method) of the observation monitor 8. Then, the 3D processor 7 generates a 3D image signal.
As shown in step S2, the observation monitor 8 displays a 3D image. Further, as shown in step S3, the communication circuit 58 of the image recording apparatus 9 acquires information forming a display environment from the 3D processor 7 side, and stores the acquired information in the memory 58a. In this case, the communication circuit 58 acquires display method information and alignment information corresponding to the amount of parallax in the 3D endoscope 4.

また、ステップS4に示すように画像記録装置9の通信回路58は、観察モニタ8の画面サイズの情報を取得する。
次のステップS5において画像記録装置9の制御回路59は、画像記録装置9に接続された接続機器の情報の変更有りか否かを、例えば通信回路58による通信により取得した情報から判定する。接続機器の情報の変更が有る場合には、ステップS3の処理に戻り、変更された接続機器の表示環境において、再度、上述した情報の取得及び取得した情報を記憶する。
一方、接続機器の情報の変更が無い場合には次のステップS6において制御回路59は、操作/表示部60から録画開始の操作が有ったか否かを判定する。録画開始の操作が無い場合には、ステップS5の処理に戻る。
術者は、観察モニタ8の3D画像を観察しながら、手術等を行う場合、3D画像を録画するために録画開始の操作を行う。録画開始の操作が有った場合には、次のステップS7において制御回路59は、記録データ生成回路51に対して、録画を開始させるように制御信号で制御する。
Further, as shown in step S4, the communication circuit 58 of the image recording apparatus 9 acquires information on the screen size of the observation monitor 8.
In the next step S <b> 5, the control circuit 59 of the image recording device 9 determines whether or not there is a change in the information of the connected device connected to the image recording device 9 from the information acquired through communication by the communication circuit 58, for example. If there is a change in the information on the connected device, the process returns to step S3, and the above-described information acquisition and the acquired information are stored again in the changed connection device display environment.
On the other hand, if there is no change in the information on the connected device, the control circuit 59 determines whether or not there has been an operation for starting recording from the operation / display unit 60 in the next step S6. If there is no recording start operation, the process returns to step S5.
When performing an operation or the like while observing the 3D image on the observation monitor 8, the surgeon performs an operation of starting recording to record the 3D image. If there is an operation to start recording, in the next step S7, the control circuit 59 controls the recording data generation circuit 51 with a control signal so as to start recording.

制御信号が送られた記録データ生成回路51は、画像入力回路50を経て入力される3D画像信号の3D画像データの録画を開始し、また通信回路58のメモリ58aに記憶した視差量に関係する情報等を、メタ情報として録画データに付加する。そして、ステップS8に示すように記録データ生成回路51は、メタ情報が付加された録画データ(記録データ)を生成し、生成された録画データ(記録データ)は記録装置52aに記憶される。
次のステップS9において制御回路59は、録画停止の操作がされたか否かをモニタし、録画停止の操作がされない場合には、ステップS8の処理に戻り、録画停止の操作がされた場合には、図6の処理を終了、又はステップS3の処理に戻る。
次に、図7のフローチャートを参照して記録装置52aに記録された画像データを再生する場合の動作を説明する。以下の説明においては、再生機器として、外部モニタ71が画像記録装置9に接続された状態において再生する場合の動作を説明する。
The recording data generation circuit 51 to which the control signal is sent starts recording 3D image data of the 3D image signal input through the image input circuit 50 and relates to the amount of parallax stored in the memory 58a of the communication circuit 58. Information or the like is added to the recorded data as meta information. Then, as shown in step S8, the recording data generation circuit 51 generates recording data (recording data) to which the meta information is added, and the generated recording data (recording data) is stored in the recording device 52a.
In the next step S9, the control circuit 59 monitors whether or not the recording stop operation has been performed. If the recording stop operation has not been performed, the control circuit 59 returns to the process of step S8, and if the recording stop operation has been performed. Then, the process of FIG. 6 is ended or the process returns to the process of step S3.
Next, an operation for reproducing the image data recorded in the recording device 52a will be described with reference to the flowchart of FIG. In the following description, an operation when reproduction is performed with the external monitor 71 connected to the image recording device 9 as a reproduction device will be described.

この場合には、図4に示した画像記録装置9は、図8Aに示すような画像信号と制御信号がその動作に関与し、画像信号、制御信号が入力も出力もされないストリーミング出力回路61,外部メディア書出回路62は、本動作には無関係となる。
再生操作が行われると、図7における最初のステップS11において通信回路57(又は制御回路59)は、接続された外部モニタ71から、この外部モニタ71の表示方式(再生方式)と、画面サイズ(インチサイズ)の情報を再生環境の情報として取得し、取得した再生環境の情報を制御回路59に送り、制御回路59は、再生環境の情報を例えばメモリ59aに記憶する。なお、再生環境の情報は、視差に関する情報として、予め標準的な視差量の情報(アライメントの値)が設定されるものとする。再生環境の情報が、視差に関する情報を含まない場合に関しては後述する。
次のステップS12において制御回路59は、記録装置52aの記録データを再生した再生データにおける表示環境の情報を取得し、例えばメモリ59aに格納する。
In this case, the image recording apparatus 9 shown in FIG. 4 includes a streaming output circuit 61 in which an image signal and a control signal as shown in FIG. 8A are involved in the operation, and neither an image signal nor a control signal is input or output. The external media writing circuit 62 is not related to this operation.
When the reproduction operation is performed, in the first step S11 in FIG. 7, the communication circuit 57 (or the control circuit 59) receives the display method (reproduction method) of the external monitor 71 and the screen size (from the connected external monitor 71). (Inch size) information is acquired as playback environment information, and the acquired playback environment information is sent to the control circuit 59. The control circuit 59 stores the playback environment information in, for example, the memory 59a. In addition, as information on the reproduction environment, information on the amount of standard parallax (alignment value) is set in advance as information on parallax. A case where the reproduction environment information does not include information on parallax will be described later.
In the next step S12, the control circuit 59 acquires information on the display environment in the reproduction data obtained by reproducing the recording data of the recording device 52a, and stores it in the memory 59a, for example.

次のステップS13において制御回路59は、再生環境の情報と表示環境の情報とを比較し、差異があるか否かを判定する。
差異がない場合には、ステップS19の処理に移り、記録データ(録画データ)から再生した再生画像を、視差調整回路54,再生方式変換回路55をスルーして画像出力回路56から外部モニタ71に出力する。
このように表示環境の情報と再生環境の情報とが差異がなく、一致している場合には、表示環境で表示した3D画像と同じ3G画像を外部モニタ71に出力し、術者その他のユーザは、表示環境の3D画像を再現性の良い状態で観察することができる。
ステップS13の判定処理において表示環境の情報と再生環境の情報とが差異がある場合には、ステップS14において制御回路59は、再生方式のみの情報に差異があるか否かを判定する。再生方式のみの情報に差異がある判定結果の場合には、ステップS18の処理に移り、再生方式のみの情報に差異がない判定結果(つまり、少なくとも再生方式以外の情報において、差異がある判定結果)の場合には、次のステップS15の処理に進む。
In the next step S13, the control circuit 59 compares the reproduction environment information and the display environment information to determine whether there is a difference.
If there is no difference, the process proceeds to step S19, and the reproduced image reproduced from the recorded data (recorded data) is passed through the parallax adjusting circuit 54 and the reproduction method converting circuit 55 to the external monitor 71 from the image output circuit 56. Output.
As described above, when the display environment information and the reproduction environment information are not different from each other and coincide with each other, the same 3G image as the 3D image displayed in the display environment is output to the external monitor 71, and the operator or other user. Can observe a 3D image of the display environment with good reproducibility.
If there is a difference between the display environment information and the reproduction environment information in the determination processing in step S13, the control circuit 59 determines in step S14 whether there is a difference in the information of only the reproduction method. In the case of a determination result in which there is a difference in information only in the reproduction method, the process proceeds to step S18, and a determination result in which there is no difference in information only in the reproduction method (that is, a determination result in which there is a difference in at least information other than the reproduction method). ), The process proceeds to the next step S15.

ステップS15において制御回路59は、パラメータ格納装置52bに格納された調整パラメータから、情報の差異を解消する補正値を取得(又は算出)する。次のステップS16において視差調整回路54は、表示環境の情報を再生環境の情報に整合するように視差量となるアライメントを補正する。
次のステップS17において制御回路59は、再生方式の情報に差異が有るか否かを判定し、再生方式の情報に差異が有る判定結果の場合には次のステップS18において再生方式変換回路55は、該再生方式変換回路55に入力される画像データを外部モニタ71の再生方式に合わせるようにフォーマットを変換し、次のステップS19に進む。
例えば、観察モニタ8の再生方式がフレームパッキングの設定に対して、外部モニタ71の再生方式がラインバイラインの場合には、再生方式変換回路55は、外部モニタ71のラインバイラインの再生方式にフォーマットを変換する。このように外部モニタ71を再生機器として画像記録装置9に接続した場合、外部モニタ71の再生方式として、複数種類が存在するために、再生方式変換回路55は、実際に接続された外部モニタ71の再生方式で再生できるようにフォーマット変換を行う。
In step S15, the control circuit 59 acquires (or calculates) a correction value that eliminates the difference in information from the adjustment parameter stored in the parameter storage device 52b. In the next step S16, the parallax adjustment circuit 54 corrects the alignment that is the amount of parallax so that the information on the display environment is matched with the information on the reproduction environment.
In the next step S17, the control circuit 59 determines whether or not there is a difference in the information of the reproduction method. If the determination result indicates that the information of the reproduction method is different, the reproduction method conversion circuit 55 in the next step S18. Then, the format is converted so that the image data input to the reproduction system conversion circuit 55 matches the reproduction system of the external monitor 71, and the process proceeds to the next step S19.
For example, when the reproduction method of the observation monitor 8 is set to frame packing and the reproduction method of the external monitor 71 is line-by-line, the reproduction method conversion circuit 55 changes the line-by-line reproduction method of the external monitor 71. Convert the format. When the external monitor 71 is connected to the image recording apparatus 9 as a playback device in this way, there are a plurality of types of playback methods for the external monitor 71, so the playback method conversion circuit 55 is connected to the actually connected external monitor 71. Format conversion so that it can be played back in

一方、再生方式の情報に差異が無い判定結果の場合には、ステップS18の処理を行うこと無くステップS19の処理に移る。ステップS19において、再生環境と表示環境とに差異がある場合においても、表示環境の状態で術者等が観察する場合の視差量を再現するように、再生環境に対応した3D画像を生成するように録画データを再生した出力画像を生成する。
次のステップS20において制御回路59は、再生終了の操作が行われたか否かをモニタし、再生終了の操作が行われない場合にはステップS19の処理に戻り、録画データを再生する処理を続行し、再生終了の操作が行われた場合には図7の再生の処理を終了する。
図7の動作を再生機器が外部モニタ71の場合において説明したが、再生機器がストリーミングクライアントPCの場合には、図8Bに示すような信号の流れとなる。この場合には、上述した動作における外部モニタ71をストリーミングクライアントPC72に置換した場合の動作となる。
On the other hand, in the case of a determination result in which there is no difference in the reproduction method information, the process proceeds to step S19 without performing step S18. In step S19, even when there is a difference between the reproduction environment and the display environment, a 3D image corresponding to the reproduction environment is generated so as to reproduce the parallax amount when the surgeon observes in the state of the display environment. An output image in which the recorded data is reproduced is generated.
In the next step S20, the control circuit 59 monitors whether or not a playback end operation has been performed. If the playback end operation has not been performed, the control circuit 59 returns to the process of step S19 to continue the process of playing back recorded data. If the playback end operation is performed, the playback processing in FIG. 7 ends.
Although the operation of FIG. 7 has been described in the case where the playback device is the external monitor 71, when the playback device is a streaming client PC, the signal flow is as shown in FIG. 8B. In this case, the operation is performed when the external monitor 71 in the above-described operation is replaced with the streaming client PC 72.

この場合には、再生方式変換回路55は、ストリーミングクライアントPC72の再生環境の情報の取得結果に応じて、ストリーミングクライアントPC72に適合した再生方式の3D画像を生成すると共に、視差調整回路54は、表示環境における立体感を再現するような視差量となるアライメントの補正を行う。
また、再生機器が外部メディア73の場合には、図8Cに示すような信号の流れとなる。この場合には、再生する場合の再生環境が不明(又は未定)となるために例えば図9に示すように手動により、外部メディア73が使用される(予定の再生機器の)再生環境を設定できるようにしている。ユーザは操作/表示部60から、外部メディア73を用いて再生しようとする再生環境の情報に合わせた3D画像データとなるように設定することができる。
図9に示すように外部メディア73を用いて再生しようとする外部モニタの画面サイズ(インチサイズ)を選択的に設定することと、再生方式を選択的に設定することができる。このように再生環境を設定して、記録装置52aから再生した画像データを外部メディア73に書き出すことができる。
In this case, the reproduction method conversion circuit 55 generates a 3D image of a reproduction method suitable for the streaming client PC 72 according to the acquisition result of the reproduction environment information of the streaming client PC 72, and the parallax adjustment circuit 54 The alignment correction is performed so that the parallax amount reproduces the stereoscopic effect in the environment.
When the playback device is the external medium 73, the signal flow is as shown in FIG. 8C. In this case, since the playback environment for playback is unknown (or undecided), the playback environment in which the external media 73 is used (for the scheduled playback device) can be set manually as shown in FIG. 9, for example. I am doing so. The user can set from the operation / display unit 60 to be 3D image data that matches the information of the playback environment to be played using the external medium 73.
As shown in FIG. 9, it is possible to selectively set the screen size (inch size) of the external monitor to be reproduced using the external medium 73 and to selectively set the reproduction method. Thus, the reproduction environment can be set and the image data reproduced from the recording device 52a can be written to the external medium 73.

そして、このように書き出された外部メディア73を、再生しようとする外部モニタに接続して3D画像を表示することにより、その外部モニタにより表示される3D画像は、表示環境の状態でユーザが観察した場合の立体感を再現する状態にすることができる。
なお、上述した図7の再生動作の説明においては、再生環境の情報が、視差に関する情報を含む場合を説明したが、視差に関する情報を含まない場合の動作を図10を参照して説明する。
図10の処理は、図7の処理と類似するために、異なる部分のみを説明する。図10におけるステップS11,S12は図7と同様である。但し、ステップS11においては、再生環境の情報が取得された場合、視差に関する情報が含まれない。
また、図10におけるステップS12の次のステップS31において制御回路59は、表示環境の情報を構成する観察モニタ8の画面サイズと、再生環境の情報を構成する外部モニタ71の画面サイズが等しいか否かの判定を行う。
Then, the external media 73 thus written is connected to an external monitor to be reproduced and a 3D image is displayed, so that the 3D image displayed on the external monitor is displayed by the user in the state of the display environment. It is possible to obtain a state in which the stereoscopic effect when observed is reproduced.
In the description of the reproduction operation of FIG. 7 described above, the case where the reproduction environment information includes information related to parallax has been described, but the operation in the case where information related to parallax is not included will be described with reference to FIG.
Since the process of FIG. 10 is similar to the process of FIG. 7, only different parts will be described. Steps S11 and S12 in FIG. 10 are the same as those in FIG. However, in step S11, when information on the reproduction environment is acquired, information on parallax is not included.
In step S31 following step S12 in FIG. 10, the control circuit 59 determines whether the screen size of the observation monitor 8 constituting the display environment information is equal to the screen size of the external monitor 71 constituting the reproduction environment information. Judgment is made.

画面サイズが等しい場合には、次のステップS32において制御回路59は、表示環境の視差量に関する情報をそのまま用いる。換言すると、表示環境における左右の画像をそのまま用いる。また、次のステップS33において制御回路59は、ユーザから視差調整の指示操作がされるか否かを判定する。視差調整の指示操作が行われた場合には、次のステップS34において視差調整回路54は、指示された視差量の調整値だけ、左右の画像を補正(又は調整)し、次のステップS35の処理に進む。
視差調整の指示操作は、例えば図2の操作/表示部60から行うことができるようにしても良い。視差調整の指示操作が行われない場合には、ステップS34の処理を行うこと無く、ステップS35の処理に移る。視差調整回路54が視差量を調整した左右の画像を生成する処理としては、アライメントの値を調整することで行うようにしても良いし、図3A,図3Bにおいて説明したように撮像領域を左右方向にシフトして、光軸間距離を可変した場合に近い左右の画像を生成するようにしても良い。
ユーザは、表示環境における立体感を忠実に再現しようとする場合には、視差調整の指示操作を行わないようにすれば良い。このために、図10におけるステップS33,S34の処理を省くようにしても良い。
If the screen sizes are equal, in the next step S32, the control circuit 59 uses the information regarding the parallax amount of the display environment as it is. In other words, the left and right images in the display environment are used as they are. In the next step S33, the control circuit 59 determines whether or not a parallax adjustment instruction operation is performed by the user. When an instruction operation for parallax adjustment is performed, in the next step S34, the parallax adjustment circuit 54 corrects (or adjusts) the left and right images by the designated adjustment value of the parallax amount, and in the next step S35. Proceed to processing.
The parallax adjustment instruction operation may be performed from, for example, the operation / display unit 60 of FIG. If a parallax adjustment instruction operation is not performed, the process proceeds to step S35 without performing step S34. The parallax adjustment circuit 54 may generate the left and right images with the parallax amount adjusted by adjusting the alignment value, or as described with reference to FIG. 3A and FIG. Shifting in the direction may generate left and right images that are close to the case where the distance between the optical axes is varied.
When the user intends to faithfully reproduce the stereoscopic effect in the display environment, the user may not perform the parallax adjustment instruction operation. For this reason, the processing of steps S33 and S34 in FIG. 10 may be omitted.

一方、ステップS31の判定処理において画面サイズが等しくない場合には、ステップS36において制御回路59は、パラメータ格納装置52bに格納されている調整パラメータから、画面サイズに応じた補正値を取得する。
調整パラメータは、表示環境の観察モニタ8の画面サイズと再生環境の外部モニタ71の画面サイズが異なる場合、表示環境における立体感を再現できるような補正値としての出力アライメント補正値を予めテーブルデータ等として設定されている。
そして、次のステップS37において視差調整回路54は、取得して補正値により記録装置52aから再生した3D画像を構成する左右の2D画像を補正した後、ステップS35の処理に移る。
ステップS35において制御回路59は、再生環境と表示環境との両情報における再生方式が等しいか否かの判定を行う。再生方式が等しく無い場合には、ステップS38において再生方式変換回路55は、この再生方式変換回路55に入力される3D画像データの再生方式を再生環境の外部モニタ71の再生方式に変換した後、ステップS19の処理に移る。ステップS35の判定処理において、両再生方式が等しい場合には、ステップS38の処理を行うこと無く、ステップS19の処理に移る。ステップS19とS20は、図7と同様である。
On the other hand, if the screen sizes are not equal in the determination process in step S31, in step S36, the control circuit 59 obtains a correction value corresponding to the screen size from the adjustment parameter stored in the parameter storage device 52b.
As the adjustment parameter, when the screen size of the observation monitor 8 in the display environment is different from the screen size of the external monitor 71 in the reproduction environment, the output alignment correction value as a correction value that can reproduce the stereoscopic effect in the display environment is previously set as table data or the like. Is set as
Then, in the next step S37, the parallax adjustment circuit 54 corrects the left and right 2D images constituting the 3D image acquired and reproduced from the recording device 52a with the correction value, and then proceeds to the process of step S35.
In step S <b> 35, the control circuit 59 determines whether or not the reproduction methods in both the reproduction environment and the display environment are the same. If the reproduction methods are not equal, the reproduction method conversion circuit 55 converts the reproduction method of the 3D image data input to the reproduction method conversion circuit 55 into the reproduction method of the external monitor 71 in the reproduction environment after step S38. The process proceeds to step S19. If it is determined in step S35 that the two playback methods are equal, the process proceeds to step S19 without performing step S38. Steps S19 and S20 are the same as in FIG.

図10に示すように外部モニタ71側から再生環境の情報を取得した場合、再生環境における視差量に関する情報を取得すること無く、視差量に関する調整パラメータを参照して、表示環境における画面サイズと再生環境における画面サイズの情報から、表示環境と同じ立体感が得られる補正値を取得することができるようにしても良い。
なお、図10の処理において、ステップS37の処理を行った後に、ステップS35の処理に移るように説明したが、ステップS37の処理を行った後に、ステップS33の処理に移るようしても良い。つまり、ユーザは、表示環境の場合と同等の立体感で3D画像を観察できるようにする機能の他に、ユーザの好みにより、より立体感を持たせて観察したり、立体感の機能を低くして3D画像を再生できるようにしても良い。
As shown in FIG. 10, when information about the playback environment is acquired from the external monitor 71 side, the screen size and playback in the display environment are referred to with reference to the adjustment parameter related to the parallax amount without acquiring information about the parallax amount in the playback environment. From the information on the screen size in the environment, a correction value that provides the same stereoscopic effect as in the display environment may be acquired.
In the process of FIG. 10, the process of step S <b> 37 is performed and then the process of step S <b> 35 is described. However, the process of step S <b> 37 may be performed and then the process of step S <b> 33 may be performed. In other words, in addition to the function of allowing a user to observe a 3D image with the same stereoscopic effect as in the display environment, the user can observe with a more stereoscopic effect or lower the stereoscopic effect depending on the user's preference. Then, a 3D image may be played back.

このように動作する本実施形態によれば、記録時における内視鏡画像の表示環境と、記録画像を再生する再生方式が異なる再生機器による再生環境とが異なる場合においても、表示環境と同等の立体感のある3D内視鏡画像を再現できる。
また、図10の処理を行うようにした場合、ユーザは表示環境と同等の立体感が得られる状態で3D内視鏡画像を再生して観察できると共に、ユーザの好みで表示環境の立体感からより立体感を強くしたり、弱くして観察することもできる。例えば、ユーザが、長時間、3D内視鏡画像を再生して観察するような場合には、(表示環境の立体感を再現する状態から)立体感の機能を弱くして、長時間再生する場合には、目が疲れないような状態にして観察することもできる。また、手術の状態を短い時間、再生して観察するような場合には、立体感の機能を増大して、より立体感のある状態で観察することもできる。
According to this embodiment that operates in this way, even when the display environment of the endoscopic image at the time of recording is different from the playback environment by a playback device that plays back a recorded image, it is equivalent to the display environment. A stereoscopic 3D endoscope image can be reproduced.
In addition, when the processing of FIG. 10 is performed, the user can reproduce and observe the 3D endoscope image in a state where a stereoscopic effect equivalent to that of the display environment can be obtained, and can also use the stereoscopic effect of the display environment according to the user's preference. It is also possible to observe with more or less stereoscopic effect. For example, when a user reproduces and observes a 3D endoscopic image for a long time, the function of the stereoscopic effect is weakened (from a state in which the stereoscopic effect of the display environment is reproduced) and the reproduction is performed for a long time. In some cases, observation can be performed in a state where eyes are not tired. In addition, when the state of the operation is reproduced and observed for a short time, the function of the stereoscopic effect can be increased and the observation can be performed with a more stereoscopic effect.

上述した実施形態を部分的に組み合わせる等して構成される実施形態に本発明に属する。例えば、図5Aの調整テーブルを用いて視差量を調整(補正)する場合、視差量を大きくするように補正する場合には、左右画像の出力アライメントを±Iだけ補正するが、更に図3Bに示すように撮像領域をシフトする補正も行うようにしても良い。
具体的には、左右画像の出力アライメントを±Iだけ補正すると共に、その場合の左右画像として図3Bの視差強調に対応した撮像領域のもの(共通部分の割合が低減された左右の画像)を用いるようにしても良い。このようにすると、左右画像は、実質的に視差強調に対応した左右画像になる。この場合においても、±IにおけるIの値が大きい程、共通部分の割合をより低減するようにしても良い。
同様に、視差量を小さくするように補正する場合には、左右画像の出力アライメントを−+I(前述のように±Iにおける+と−の位置を入れ替えたもの)だけ補正すると共に、更に図3Bの視差低減に示すように撮像領域を(視差強調と反対側に)シフトする補正も行うようにしても良い。このようにすると、左右画像は、実質的に視差低減に対応した左右画像になる。この場合においても、−+IにおけるIの値が大きい程、共通部分の割合をより大きくするようにしても良い。
The present invention belongs to an embodiment configured by partially combining the above-described embodiments. For example, when adjusting (correcting) the amount of parallax using the adjustment table of FIG. 5A, when correcting to increase the amount of parallax, the output alignment of the left and right images is corrected by ± I. As shown, correction for shifting the imaging region may also be performed.
Specifically, the output alignment of the left and right images is corrected by ± I, and the right and left images in that case are those in the imaging region corresponding to the parallax enhancement in FIG. 3B (left and right images with a reduced proportion of common parts). It may be used. In this way, the left and right images are substantially left and right images corresponding to parallax enhancement. Also in this case, the larger the value of I in ± I, the more the proportion of the common part may be reduced.
Similarly, when correcting to reduce the amount of parallax, the output alignment of the left and right images is corrected by − + I (the position where + and − in ± I are exchanged as described above), and further, FIG. As shown in the parallax reduction, correction for shifting the imaging region (to the side opposite to parallax enhancement) may be performed. In this way, the left and right images become substantially right and left images corresponding to parallax reduction. Also in this case, the larger the value of I in − + I, the larger the ratio of the common part may be.

また、このようにアライメントと撮像領域のシフトと組み合わせる場合、組み合わせの重み係数を設定できるようにしても良い。換言すると±I、又は−+IにおけるIの値に対する撮像領域のシフト量を設定できるようにしても良い。なお、撮像領域のシフトを行うことができるように3Dプロセッサ7は、画像記録装置9に対して、観察モニタ8で表示される左右の画像範囲の両側にそれぞれ視差量調整のマージンとなる画像範囲を持つ左右の画像からなる3D画像を出力して、記録装置52aはマージンとなる画像範囲を持つ左右の画像からなる3D画像を記録するようにしても良い。
また、ユーザにより、アライメントの補正のみを行う場合と、アライメントの補正と共に撮像領域のシフト(による視差強調又は視差低減)を行う場合と、撮像領域のシフト(による視差強調又は視差低減)のみを行う場合と、を選択することができるようにしても良い。ユーザは、例えば、操作/表示部60から、上記3つの場合の1つを選択することができるようにしても良い。このようにすると、より広範囲のユーザの要望に対応できる。なお、上述した説明において、表示環境の情報を取得する場合、記録装置52aに実際に記録されたメタ情報から表示環境の情報を取得するようにしても良い。この場合、例えば制御回路59が記録装置52aから直接的に(又は視差調整回路54を介して)表示環境の情報を取得するようにしても良い。このように記録装置52aに実際に記録された情報から表示環境の情報を取得するようにすると、表示環境に使用されている観察モニタ8が、例えば複数の異なる再生方式に対応しているような場合等においても、再生環境の再生機器の再生方式と差異があるか否かをより確実に判定できる。
Further, when combining the alignment and the shift of the imaging region in this way, a combination weighting factor may be set. In other words, the imaging region shift amount with respect to the value of I in ± I or − + I may be set. Note that the 3D processor 7 allows the image recording device 9 to shift the image area, and the image range serving as a margin for adjusting the parallax amount on both sides of the left and right image ranges displayed on the observation monitor 8. The recording device 52a may output a 3D image consisting of left and right images having an image range as a margin.
In addition, when the user only performs alignment correction, the imaging region is shifted (by parallax enhancement or parallax reduction) together with the alignment correction, and the imaging region is shifted (by parallax enhancement or parallax reduction). You may be able to select the case. For example, the user may be able to select one of the above three cases from the operation / display unit 60. If it does in this way, it can respond to the request of a wider range of users. In the above description, when acquiring the display environment information, the display environment information may be acquired from the meta information actually recorded in the recording device 52a. In this case, for example, the control circuit 59 may acquire the display environment information directly from the recording device 52a (or via the parallax adjustment circuit 54). As described above, when the information of the display environment is acquired from the information actually recorded in the recording device 52a, the observation monitor 8 used in the display environment corresponds to, for example, a plurality of different reproduction methods. Even in cases, it can be more reliably determined whether or not there is a difference from the playback method of the playback device in the playback environment.

1…内視鏡装置、3…患者、4…3D内視鏡、5…トロリー、6…光源装置、7…3Dプロセッサ、8…観察モニタ、9…画像記録装置、10…電気メス電源装置、13…電気メス、21…挿入部、23a…ランプ、25a,25b…対物レンズ、26a,26b…CCD、27a,27b…撮像部、31L,31R…2D画像生成回路、32…3D画像生成回路、34…制御回路、35…通信回路、36…操作パネル、37…視差量増減スイッチ、41…表示画像生成回路、42…3D表示パネル、43…通信回路、44…生後回路、50…画像入力回路、51…記録データ生成回路、52a…記録装置、52b…パラメータ格納装置、54…視差調整回路、55…再生方式調整回路、56…画像出力回路、57、58…通信回路、58a…メモリ、59…制御回路、60…操作/表示部、61…ストリーミング出力回路、62…外部メディア書出回路、71…外部モニタ(再生モニタ)、72…ストリーミングクライアントPC、73…外部メディア、   DESCRIPTION OF SYMBOLS 1 ... Endoscope apparatus, 3 ... Patient, 4 ... 3D endoscope, 5 ... Trolley, 6 ... Light source apparatus, 7 ... 3D processor, 8 ... Observation monitor, 9 ... Image recording apparatus, 10 ... Electric knife power supply apparatus, DESCRIPTION OF SYMBOLS 13 ... Electric knife, 21 ... Insertion part, 23a ... Lamp, 25a, 25b ... Objective lens, 26a, 26b ... CCD, 27a, 27b ... Imaging part, 31L, 31R ... 2D image generation circuit, 32 ... 3D image generation circuit, 34 ... control circuit, 35 ... communication circuit, 36 ... operation panel, 37 ... parallax amount increase / decrease switch, 41 ... display image generation circuit, 42 ... 3D display panel, 43 ... communication circuit, 44 ... postnatal circuit, 50 ... image input circuit 51 ... Recording data generation circuit, 52a ... Recording device, 52b ... Parameter storage device, 54 ... Parallax adjustment circuit, 55 ... Playback method adjustment circuit, 56 ... Image output circuit, 57, 58 ... Communication circuit, 58a Memory, 59 ... control circuit, 60 ... operation / display unit, 61 ... streaming output circuit, 62 ... external media document detecting circuit, 71 ... external monitor (playback monitor), 72 ... streaming client PC, 73 ... external medium,

Claims (6)

複数の3D内視鏡画像における1つの3D内視鏡画像が選択的に入力される内視鏡画像入力部と、
前記内視鏡画像入力部に入力される前記3D内視鏡画像の表示環境の情報を取得する表示環境情報取得部と、
前記内視鏡画像入力部へ入力される前記3D内視鏡画像の画像データに前記表示環境情報取得部の取得結果の情報をメタ補情報として付加した記録データを生成する記録データ生成部と、
前記記録データ生成部により生成された前記記録データを記録する記録部と、
前記記録部に記録された前記記録データに基づいて、再生された際の前記3D内視鏡画像の左右画像の視差量を調整する視差調整部と、
前記記録部に記録された前記3D内視鏡画像を複数種類の再生方式の3D画像に変換可能とする再生方式変換部と、
前記記録データを再生して、外部の再生機器に出力画像を出力する場合における設定情報を格納する出力画像設定情報格納部と、
前記記録部に記録された前記画像データを再生するための複数種類の再生機器における実際に接続して使用される再生機器の再生環境の情報を取得する再生環境情報取得部と、
前記再生環境情報取得部の取得結果の情報と前記表示環境情報取得部の取得結果の情報とが異なる場合、前記再生環境の再生機器で再生可能な再生方式で変換するように前記再生方式変換部を制御すると共に、前記出力画像設定情報格納部に格納された前記設定情報に応じて前記視差調整部による視差量を調整するように制御する制御部と、
を備えることを特徴とする画像記録装置。
An endoscope image input unit for selectively inputting one 3D endoscope image among a plurality of 3D endoscope images;
A display environment information acquisition unit that acquires information of a display environment of the 3D endoscopic image input to the endoscopic image input unit;
A recording data generation unit that generates recording data in which information of an acquisition result of the display environment information acquisition unit is added as meta-complementary information to the image data of the 3D endoscopic image input to the endoscopic image input unit;
A recording unit for recording the recording data generated by the recording data generation unit;
A parallax adjustment unit that adjusts the parallax amount of the left and right images of the 3D endoscopic image when reproduced based on the recording data recorded in the recording unit;
A reproduction method conversion unit capable of converting the 3D endoscopic image recorded in the recording unit into 3D images of a plurality of types of reproduction methods;
An output image setting information storage unit for storing setting information when reproducing the recorded data and outputting an output image to an external reproduction device;
A reproduction environment information acquisition unit that acquires information of a reproduction environment of a reproduction device that is actually connected and used in a plurality of types of reproduction devices for reproducing the image data recorded in the recording unit;
When the information of the acquisition result of the reproduction environment information acquisition unit and the information of the acquisition result of the display environment information acquisition unit are different from each other, the reproduction method conversion unit converts the reproduction method in a reproduction method that can be reproduced by the reproduction device in the reproduction environment. A control unit that controls the parallax amount by the parallax adjustment unit according to the setting information stored in the output image setting information storage unit;
An image recording apparatus comprising:
前記制御部は、前記再生環境情報取得部の取得結果の情報と前記表示環境情報取得部の取得結果の情報とが異なる場合には、
前記表示環境の情報における再生方式と前記再生環境の情報における前記再生機器の再生方式とが異なるか否かを判定し、両再生方式が異なる場合には前記再生方式変換部が前記3D内視鏡画像を前記再生機器の再生方式の3D画像に変換させるように制御し、
更に、前記表示環境の情報における前記3D内視鏡画像を表示するのに使用された観察モニタの画面サイズと前記再生環境の情報における前記再生機器に使用される再生モニタの画面サイズとが異なるか否かを判定し、両画面サイズが異なる場合には前記設定情報に応じて、前記観察モニタと前記再生モニタとの画面サイズの差異の値に応じた視差量となるように前記視差調整部を制御することを特徴とする請求項1に記載の画像記録装置。
The control unit, when the information of the acquisition result of the reproduction environment information acquisition unit and the information of the acquisition result of the display environment information acquisition unit are different,
It is determined whether or not the reproduction method in the display environment information is different from the reproduction method of the reproduction device in the reproduction environment information, and when both reproduction methods are different, the reproduction method conversion unit performs the 3D endoscope. Control to convert the image into a 3D image of the playback method of the playback device;
Furthermore, whether the screen size of the observation monitor used to display the 3D endoscope image in the display environment information is different from the screen size of the playback monitor used in the playback device in the playback environment information If the two screen sizes are different, the parallax adjustment unit is set so that the amount of parallax is in accordance with the value of the difference in screen size between the observation monitor and the reproduction monitor according to the setting information. The image recording apparatus according to claim 1, wherein the image recording apparatus is controlled.
前記制御部は、前記観察モニタの画面サイズと前記再生モニタの画面サイズとが異なる場合には、前記再生モニタの画面サイズが前記観察モニタの画面サイズよりも大きい程、前記再生モニタにおいて表示する前記左右画像の左右方向の配置位置における左右方向の離間量を前記観察モニタの場合よりも小さくし、
前記再生モニタの画面サイズが前記観察モニタの画面サイズよりも小さい程、前記再生モニタにおいて表示する前記左右画像の左右方向の配置位置における左右方向の離間量を前記観察モニタの場合よりも大きくするように制御することを特徴とする請求項2に記載の画像記録装置。
When the screen size of the observation monitor is different from the screen size of the reproduction monitor, the control unit displays on the reproduction monitor as the screen size of the reproduction monitor is larger than the screen size of the observation monitor. The left-right distance in the left-right arrangement position of the left-right image is smaller than in the case of the observation monitor,
As the screen size of the reproduction monitor is smaller than the screen size of the observation monitor, the horizontal distance in the horizontal arrangement position of the left and right images displayed on the reproduction monitor is made larger than in the case of the observation monitor. The image recording apparatus according to claim 2, wherein the image recording apparatus is controlled as follows.
前記表示環境の情報は、前記3D内視鏡画像の左右画像を表示する際の左右方向の配置位置としてのアライメント値、前記3D内視鏡画像を観察する観察モニタの画面サイズ、前記3D内視鏡画像の再生方式のうちの少なくとも1つであることを特徴とする請求項1に記載の画像記録装置。   The information on the display environment includes an alignment value as a horizontal position when displaying the left and right images of the 3D endoscope image, a screen size of an observation monitor for observing the 3D endoscope image, and the 3D endoscope. The image recording apparatus according to claim 1, wherein the image recording apparatus is at least one of a mirror image reproduction method. 前記出力画像設定値情報格納部に格納された前記出力画像の設定情報を可変する操作部を有することを特徴とする請求項1に記載の画像記録装置。   The image recording apparatus according to claim 1, further comprising an operation unit that varies setting information of the output image stored in the output image setting value information storage unit. 前記出力画像設定値情報格納部は、前記表示環境情報取得部の取得結果と前記再生環境情報取得部の取得結果との情報から対応する前記出力画像の設定情報を形成する前記視差量を決定するテーブルデータを格納し、
前記制御部は、決定された前記視差量となるように前記再生機器において表示される前記左右画像の視差量を調整するように前記視差調整部を制御することを特徴とする請求項1に記載の画像記録装置。

The output image setting value information storage unit determines the parallax amount forming the setting information of the corresponding output image from information of the acquisition result of the display environment information acquisition unit and the acquisition result of the reproduction environment information acquisition unit. Store table data,
The said control part controls the said parallax adjustment part to adjust the parallax amount of the said right-and-left image displayed in the said reproducing | regenerating apparatus so that it may become the determined said parallax amount. Image recording device.

JP2014171966A 2014-08-26 2014-08-26 Image recording device Active JP6415900B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014171966A JP6415900B2 (en) 2014-08-26 2014-08-26 Image recording device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014171966A JP6415900B2 (en) 2014-08-26 2014-08-26 Image recording device

Publications (2)

Publication Number Publication Date
JP2016046780A true JP2016046780A (en) 2016-04-04
JP6415900B2 JP6415900B2 (en) 2018-10-31

Family

ID=55636919

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014171966A Active JP6415900B2 (en) 2014-08-26 2014-08-26 Image recording device

Country Status (1)

Country Link
JP (1) JP6415900B2 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018095185A (en) * 2016-12-16 2018-06-21 横浜ゴム株式会社 Pneumatic tire
WO2018225397A1 (en) * 2017-06-06 2018-12-13 オリンパス株式会社 Stereoscopic endoscope
JP2019213036A (en) * 2018-06-04 2019-12-12 オリンパス株式会社 Endoscope processor, display setting method, and display setting program
JP2020202499A (en) * 2019-06-11 2020-12-17 国立大学法人静岡大学 Image observation system
EP3756531A4 (en) * 2018-03-23 2021-04-07 Sony Olympus Medical Solutions Inc. Medical display control device and display control method

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000197074A (en) * 1998-12-25 2000-07-14 Canon Inc Stereoscopic reproduction device, output device, and its control method and storage medium
JP2004104368A (en) * 2002-09-06 2004-04-02 Sony Corp Image data processing method, image data processing program, and stereoscopic image display apparatus
JP2011223482A (en) * 2010-04-14 2011-11-04 Sony Corp Image processing apparatus, image processing method, and program

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000197074A (en) * 1998-12-25 2000-07-14 Canon Inc Stereoscopic reproduction device, output device, and its control method and storage medium
JP2004104368A (en) * 2002-09-06 2004-04-02 Sony Corp Image data processing method, image data processing program, and stereoscopic image display apparatus
JP2011223482A (en) * 2010-04-14 2011-11-04 Sony Corp Image processing apparatus, image processing method, and program

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018095185A (en) * 2016-12-16 2018-06-21 横浜ゴム株式会社 Pneumatic tire
WO2018225397A1 (en) * 2017-06-06 2018-12-13 オリンパス株式会社 Stereoscopic endoscope
JP6446161B1 (en) * 2017-06-06 2018-12-26 オリンパス株式会社 Stereoscopic endoscope
CN110678115A (en) * 2017-06-06 2020-01-10 奥林巴斯株式会社 Stereoscopic endoscope
US10827912B2 (en) 2017-06-06 2020-11-10 Olympus Corporation Stereoscopic endoscope system
CN110678115B (en) * 2017-06-06 2021-11-05 奥林巴斯株式会社 Stereoscopic endoscope system
EP3756531A4 (en) * 2018-03-23 2021-04-07 Sony Olympus Medical Solutions Inc. Medical display control device and display control method
US11969141B2 (en) 2018-03-23 2024-04-30 Sony Olympus Medical Solutions Inc. Medical display controlling apparatus and display controlling method
JP2019213036A (en) * 2018-06-04 2019-12-12 オリンパス株式会社 Endoscope processor, display setting method, and display setting program
US11467392B2 (en) 2018-06-04 2022-10-11 Olympus Corporation Endoscope processor, display setting method, computer-readable recording medium, and endoscope system
JP2020202499A (en) * 2019-06-11 2020-12-17 国立大学法人静岡大学 Image observation system
JP7356697B2 (en) 2019-06-11 2023-10-05 国立大学法人静岡大学 Image observation system

Also Published As

Publication number Publication date
JP6415900B2 (en) 2018-10-31

Similar Documents

Publication Publication Date Title
JP6415900B2 (en) Image recording device
US9192286B2 (en) Stereoscopic visualization system
JP6655756B2 (en) 3D endoscope device and 3D image processing device
JP3749227B2 (en) Stereoscopic image processing method and apparatus
JP3857988B2 (en) Stereoscopic image processing method and apparatus
JP5546633B2 (en) Stereoscopic image reproducing apparatus, stereoscopic image reproducing system, and stereoscopic image reproducing method
CN108601511B (en) Medical image processing apparatus, system, method, and program
JP7363767B2 (en) Image processing device, image processing method, and program
KR20190109406A (en) Video signal processing apparatus, video signal processing method, and program for dynamic range compression
US20160174823A1 (en) Image signal output apparatus and image signal transmission/reception system
US10924724B2 (en) Medical stereoscopic observation device, medical stereoscopic observation method, program, and medical stereoscopic observation system
WO2018230510A1 (en) Image processing device, image processing method, and image capture system
JP7420137B2 (en) Signal processing device, imaging device, signal processing method
JP2015226216A (en) Medical image recording apparatus
JP7086929B2 (en) Medical information processing system
WO2019123762A1 (en) Information processing device, information processing method, and program
JP6884607B2 (en) Medical image display device, medical information processing system, and medical image display control method
WO2020203265A1 (en) Video signal processing device, video signal processing method, and image-capturing device
JP6021215B2 (en) Stereoscopic video recording apparatus, stereoscopic video display apparatus, and stereoscopic video recording system using them
Yaron et al. Blur spot limitations in distal endoscope sensors
JP5297899B2 (en) Stereoscopic image adjustment device, stereoscopic image adjustment system, and program
JP2010092283A (en) Stereoscopic image creation device and method, and endoscope examination system
JPWO2018179875A1 (en) Imaging apparatus, focus control method, and focus determination method
JP7444074B2 (en) Imaging device, imaging control device, imaging method
WO2021230001A1 (en) Information processing apparatus and information processing method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170310

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180206

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180405

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180911

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181003

R151 Written notification of patent or utility model registration

Ref document number: 6415900

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250