JP2015139646A5 - 内視鏡システム、内視鏡画像処理装置、画像処理方法、およびプログラム - Google Patents
内視鏡システム、内視鏡画像処理装置、画像処理方法、およびプログラム Download PDFInfo
- Publication number
- JP2015139646A5 JP2015139646A5 JP2014015575A JP2014015575A JP2015139646A5 JP 2015139646 A5 JP2015139646 A5 JP 2015139646A5 JP 2014015575 A JP2014015575 A JP 2014015575A JP 2014015575 A JP2014015575 A JP 2014015575A JP 2015139646 A5 JP2015139646 A5 JP 2015139646A5
- Authority
- JP
- Japan
- Prior art keywords
- image processing
- endoscope
- angular velocity
- rotation center
- objective lens
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims description 7
- 230000000875 corresponding Effects 0.000 claims description 9
- 238000003780 insertion Methods 0.000 claims description 8
- 238000005096 rolling process Methods 0.000 claims description 2
- 238000002357 laparoscopic surgery Methods 0.000 description 3
- 210000003815 Abdominal Wall Anatomy 0.000 description 2
- 206010028980 Neoplasm Diseases 0.000 description 1
- 210000002784 Stomach Anatomy 0.000 description 1
- 230000003187 abdominal Effects 0.000 description 1
- 238000000034 method Methods 0.000 description 1
- 238000001356 surgical procedure Methods 0.000 description 1
Description
本開示は、内視鏡システム、内視鏡画像処理装置、画像処理方法、およびプログラムに関し、特に、例えば、腹腔鏡下手術などで用いられる内視鏡装置によってビデオ撮像された画像の振れを補正できるようにした内視鏡システム、内視鏡画像処理装置、画像処理方法、およびプログラムに関する。
図1は、腹腔鏡下手術の概要を示している。腹腔鏡下手術では、例えば腹部の手術を行う場合、従来行われていた腹壁1を切って開腹する代わりに、トロッカ2と称される開孔器具が腹壁に数か所取り付けられ、トロッカ2に設けられている孔から腹腔鏡(以下、内視鏡装置または内視鏡とも称する)3と処置具4が体内に挿入される。そして、内視鏡3によってビデオ撮像された患部(腫瘍等)5の画像をリアルタイムに見ながら、処置具4によって患部5を切除するなどの処置が行われる。
本開示の第1の側面である内視鏡システムは、体腔に挿入される挿入部の先端に対物レンズが設けられ、基端にヘッド部が設けられ、前記ヘッド部の動きの角速度を検出するジャイロ部が前記ヘッダ部に設けられている内視鏡装置と、前記内視鏡装置から入力される画像信号に対応する画像の動きと、検出された前記角速度とに基づいて、前記ヘッド部の動きに応じて前記対物レンズが動くときの回転センタの位置を推定する推定部を備える画像処理装置とを含む。
前記画像処理装置は、推定された前記回転センタの位置に基づいて、前記画像信号の手振れを補正する補正部をさらに備えることができる。
前記補正部は、前記内視鏡装置から入力される前記画像信号の有効画素エリアから切り出しエリアを切り出すことにより、前記画像信号の手振れを補正することができ、前記切り出しエリアは、推定された前記回転センタの位置と、検出された前記角速度とに基づいて決定されるようにすることができる。
前記補正部は、前記内視鏡装置から入力される前記画像信号の有効画素エリアから切り出しエリアを切り出すことにより、前記画像信号の手振れを補正することができ、前記切り出しエリアは、推定された前記回転センタの位置と、検出された前記角速度とに基づいて決定されるようにすることができる。
前記画像処理装置は、手振れ補正済みの前記画像信号のローリングシャッタ歪を除去する歪除去部をさらに備えることができる。
前記補正部は、推定された前記回転センタの位置と、検出された前記角速度とに基づいて、前記回転センタにおいて前記内視鏡装置を動かして撮像された複数の画像を合成し、前記画像より画角の広い広角画像を生成することができる。
前記補正部は、推定された前記回転センタの位置と、検出された前記角速度とに基づいて、前記回転センタにおいて前記内視鏡装置を動かして撮像された複数の画像を合成し、前記画像より画角の広い広角画像を生成することができる。
本開示の第1の側面である内視鏡システムにおいては、内視鏡装置から画像処理装置に対して画像信号とヘッド部の角速度が入力され、画像処理装置にて、前記画像信号に対応する画像の動きと、検出された前記角速度とに基づいて、前記ヘッド部の動きに応じて前記対物レンズが動くときの回転センタの位置が推定される。
本開示の第2の側面である内視鏡画像処理装置は、体腔に挿入される挿入部の先端に対物レンズが設けられ、基端にヘッド部が設けられ、前記ヘッド部の動きの角速度を検出するジャイロ部が前記ヘッダ部に設けられている内視鏡装置から入力される画像信号に対応する画像の動きと、前記内視鏡装置から入力される前記角速度とに基づいて、前記ヘッド部の動きに応じて前記対物レンズが動くときの回転センタの位置を推定する推定部を備える。
本開示の第2の側面である内視鏡画像処理装置は、推定された前記回転センタの位置に基づいて、前記画像信号の手振れを補正する補正部をさらに備えることができる。
本開示の第2の側面である内視鏡画像処理装置は、推定された前記回転センタの位置に基づいて、前記画像信号の手振れを補正する補正部をさらに備えることができる。
本開示の第2の側面である画像処理方法は、体腔に挿入される挿入部の先端に対物レンズが設けられ、基端にヘッド部が設けられ、前記ヘッド部の動きの角速度を検出するジャイロ部が前記ヘッダ部に設けられている内視鏡装置から入力される画像信号を処理する内視鏡画像処理装置の画像処理方法において、前記内視鏡画像処理装置による、前記画像信号に対応する画像の動きと、前記内視鏡装置から入力される前記角速度とに基づいて、前記ヘッド部の動きに応じて前記対物レンズが動くときの回転センタの位置を推定する推定ステップを含む。
本開示の第2の側面であるプログラムは、コンピュータを、体腔に挿入される挿入部の先端に対物レンズが設けられ、基端にヘッド部が設けられ、前記ヘッド部の動きの角速度を検出するジャイロ部が前記ヘッダ部に設けられている内視鏡装置から入力される画像信号に対応する画像の動きと、前記内視鏡装置から入力される前記角速度とに基づいて、前記ヘッド部の動きに応じて前記対物レンズが動くときの回転センタの位置を推定する推定部として機能させる。
本開示の第2の側面においては、内視鏡装置から画像処理装置に対して画像信号とヘッド部の角速度が入力され、画像処理装置にて、前記画像信号に対応する画像の動きと、検出された前記角速度とに基づいて、前記ヘッド部の動きに応じて前記対物レンズが動くときの回転センタの位置が推定される。
一方、対物レンズ22の移動量(Dx,Dy,Dz)とジャイロ部26の角速度(Yaw角速度wy、Pitch角速度wp)の関係は次式(1)(近似式)のとおりとなる。
Dx=a sin(wyt)
Dy=a sin(wPt)
Dz=a(1−cos(wyt))(1−cos(wPt)) (1)
tは1フレーム時間を表す。
Dx=a sin(wyt)
Dy=a sin(wPt)
Dz=a(1−cos(wyt))(1−cos(wPt)) (1)
tは1フレーム時間を表す。
Claims (14)
- 体腔に挿入される挿入部の先端に対物レンズが設けられ、基端にヘッド部が設けられ、前記ヘッド部の動きの角速度を検出するジャイロ部が前記ヘッダ部に設けられている内視鏡装置と、
前記内視鏡装置から入力される画像信号に対応する画像の動きと、検出された前記角速度とに基づいて、前記ヘッド部の動きに応じて前記対物レンズが動くときの回転センタの位置を推定する推定部を備える画像処理装置と
を含む内視鏡システム。 - 前記画像処理装置は、
推定された前記回転センタの位置に基づいて、前記画像信号の手振れを補正する補正部をさらに備える
請求項1に記載の内視鏡システム。 - 前記補正部は、前記内視鏡装置から入力される前記画像信号の有効画素エリアから切り出しエリアを切り出すことにより、前記画像信号の手振れを補正し、
前記切り出しエリアは、推定された前記回転センタの位置と、検出された前記角速度とに基づいて決定される
請求項2に記載の内視鏡システム。 - 前記画像処理装置は、
推定された前記回転センタの位置と、検出された前記角速度とに基づいて、前記対物レンズの移動量を算出する対物レンズ移動量算出部をさらに備える
請求項3に記載の内視鏡システム。 - 前記対物レンズ移動量算出部は、さらに、算出した前記対物レンズの移動量に基づいて、切り出しエリアのシフト量を決定し、
前記補正部は、決定された前記シフト量に応じて前記切り出しエリアの位置を調整することにより、前記画像信号の手振れを補正する
請求項4に記載の内視鏡システム。 - 前記補正部は、前記内視鏡装置から所定のフレームレートで入力される各画像信号の手振れを補正し、
前記推定部は、前記所定のフレームレート以下の頻度で前記回転センタの位置を推定する
請求項2から5のいずれかに記載の内視鏡システム。 - 前記画像処理装置は、
推定された前記回転センタの位置を時間方向に平準化する回転センタ位置平準化部を
さらに備える
請求項1から6のいずれかに記載の内視鏡システム。 - 前記画像処理装置は、
検出された前記角速度を時間方向に平準化する角速度平準化部をさらに備える
請求項1から6のいずれかに記載の内視鏡システム。 - 前記画像処理装置は、
手振れ補正済みの前記画像信号のローリングシャッタ歪を除去する歪除去部をさらに備える
請求項2から8のいずれかに記載の内視鏡システム。 - 前記補正部は、推定された前記回転センタの位置と、検出された前記角速度とに基づいて、前記回転センタにおいて前記内視鏡装置を動かして撮像された複数の画像を合成し、前記画像より画角の広い広角画像を生成する
請求項1に記載の内視鏡システム。 - 体腔に挿入される挿入部の先端に対物レンズが設けられ、基端にヘッド部が設けられ、前記ヘッド部の動きの角速度を検出するジャイロ部が前記ヘッダ部に設けられている内視鏡装置から入力される画像信号に対応する画像の動きと、前記内視鏡装置から入力される前記角速度とに基づいて、前記ヘッド部の動きに応じて前記対物レンズが動くときの回転センタの位置を推定する推定部を
備える内視鏡画像処理装置。 - 推定された前記回転センタの位置に基づいて、前記画像信号の手振れを補正する補正部をさらに備える
請求項11に記載の内視鏡画像処理装置。 - 体腔に挿入される挿入部の先端に対物レンズが設けられ、基端にヘッド部が設けられ、前記ヘッド部の動きの角速度を検出するジャイロ部が前記ヘッダ部に設けられている内視鏡装置から入力される画像信号を処理する内視鏡画像処理装置の画像処理方法において、
前記内視鏡画像処理装置による、
前記画像信号に対応する画像の動きと、前記内視鏡装置から入力される前記角速度とに基づいて、前記ヘッド部の動きに応じて前記対物レンズが動くときの回転センタの位置を推定する推定ステップを
含む画像処理方法。 - コンピュータを、
体腔に挿入される挿入部の先端に対物レンズが設けられ、基端にヘッド部が設けられ、前記ヘッド部の動きの角速度を検出するジャイロ部が前記ヘッダ部に設けられている内視鏡装置から入力される画像信号に対応する画像の動きと、前記内視鏡装置から入力される前記角速度とに基づいて、前記ヘッド部の動きに応じて前記対物レンズが動くときの回転センタの位置を推定する推定部と
して機能させるプログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014015575A JP6150130B2 (ja) | 2014-01-30 | 2014-01-30 | 内視鏡システム、内視鏡画像処理装置、画像処理方法、およびプログラム |
PCT/JP2015/000297 WO2015115073A1 (en) | 2014-01-30 | 2015-01-23 | Endoscopic system, image processing device, image processing method, and program |
EP15704390.2A EP3099213B1 (en) | 2014-01-30 | 2015-01-23 | Endoscopic system and image processing device |
US15/113,089 US10716458B2 (en) | 2014-01-30 | 2015-01-23 | Endoscopic system, image processing device, image processing method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014015575A JP6150130B2 (ja) | 2014-01-30 | 2014-01-30 | 内視鏡システム、内視鏡画像処理装置、画像処理方法、およびプログラム |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017101728A Division JP6332524B2 (ja) | 2017-05-23 | 2017-05-23 | 内視鏡システム、内視鏡画像処理装置、および画像処理方法 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2015139646A JP2015139646A (ja) | 2015-08-03 |
JP2015139646A5 true JP2015139646A5 (ja) | 2016-03-10 |
JP6150130B2 JP6150130B2 (ja) | 2017-06-21 |
Family
ID=52469880
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014015575A Active JP6150130B2 (ja) | 2014-01-30 | 2014-01-30 | 内視鏡システム、内視鏡画像処理装置、画像処理方法、およびプログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US10716458B2 (ja) |
EP (1) | EP3099213B1 (ja) |
JP (1) | JP6150130B2 (ja) |
WO (1) | WO2015115073A1 (ja) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105125160B (zh) * | 2015-08-27 | 2017-01-18 | 李翔 | 一种口腔内窥镜检测系统及其检测方法 |
US10285715B2 (en) * | 2015-12-21 | 2019-05-14 | Warsaw Orthopedic, Inc. | Surgical instrument and method |
WO2017122287A1 (ja) * | 2016-01-13 | 2017-07-20 | オリンパス株式会社 | 内視鏡装置及び内視鏡装置の作動方法 |
CN114019990A (zh) * | 2016-02-24 | 2022-02-08 | 深圳市大疆创新科技有限公司 | 用于控制可移动物体的系统和方法 |
US11602265B2 (en) | 2016-03-31 | 2023-03-14 | Sony Corporation | Control device, endoscopic imaging device, control method, program, and endoscopic system |
EP3437547A4 (en) * | 2016-03-31 | 2019-04-03 | Sony Olympus Medical Solutions Inc. | MEDICAL OBSERVATION DEVICE, IMAGING CORRECTION SYSTEM AND MEDICAL OBSERVATION SYSTEM |
WO2018046092A1 (de) * | 2016-09-09 | 2018-03-15 | Siemens Aktiengesellschaft | Verfahren zum betreiben eines endoskops und endoskop |
WO2018079397A1 (ja) * | 2016-10-24 | 2018-05-03 | オリンパス株式会社 | 内視鏡装置 |
US10904437B2 (en) | 2017-03-16 | 2021-01-26 | Sony Corporation | Control apparatus and control method |
WO2019087269A1 (ja) * | 2017-10-31 | 2019-05-09 | オリンパス株式会社 | 内視鏡システム |
JP6685052B2 (ja) * | 2018-08-30 | 2020-04-22 | リバーフィールド株式会社 | 推定装置、推定方法およびプログラム |
WO2021200139A1 (ja) * | 2020-03-31 | 2021-10-07 | ソニーグループ株式会社 | 医療用画像処理システム、画像処理方法、および医療用画像処理装置 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0549599A (ja) | 1991-08-23 | 1993-03-02 | Olympus Optical Co Ltd | 電子内視鏡装置 |
JPH09266882A (ja) * | 1996-04-02 | 1997-10-14 | Olympus Optical Co Ltd | 内視鏡装置 |
JP4311959B2 (ja) * | 2003-03-24 | 2009-08-12 | Hoya株式会社 | 電子内視鏡装置 |
JP4365630B2 (ja) * | 2003-07-01 | 2009-11-18 | オリンパス株式会社 | 手術支援装置 |
JP5499426B2 (ja) * | 2006-09-01 | 2014-05-21 | ソニー株式会社 | 内視鏡カメラおよび内視鏡カメラシステム |
JP5030639B2 (ja) | 2007-03-29 | 2012-09-19 | オリンパスメディカルシステムズ株式会社 | 内視鏡装置の処置具位置制御装置 |
JP2009254736A (ja) * | 2008-04-21 | 2009-11-05 | Hoya Corp | 内視鏡制御ユニットおよび内視鏡システム |
JP2012055498A (ja) * | 2010-09-09 | 2012-03-22 | Olympus Corp | 画像処理装置、内視鏡装置、画像処理プログラム及び画像処理方法 |
US8764635B2 (en) * | 2010-11-24 | 2014-07-01 | Olympus Corporation | Endoscope apparatus |
WO2012141193A1 (ja) * | 2011-04-12 | 2012-10-18 | 富士フイルム株式会社 | 撮像装置 |
JP5931528B2 (ja) * | 2012-03-21 | 2016-06-08 | オリンパス株式会社 | 手術用映像システムおよび手術用映像システムの作動方法 |
JP2014015575A (ja) | 2012-07-11 | 2014-01-30 | Nok Corp | アクリルゴム組成物 |
-
2014
- 2014-01-30 JP JP2014015575A patent/JP6150130B2/ja active Active
-
2015
- 2015-01-23 WO PCT/JP2015/000297 patent/WO2015115073A1/en active Application Filing
- 2015-01-23 EP EP15704390.2A patent/EP3099213B1/en active Active
- 2015-01-23 US US15/113,089 patent/US10716458B2/en active Active
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2015139646A5 (ja) | 内視鏡システム、内視鏡画像処理装置、画像処理方法、およびプログラム | |
JP6150130B2 (ja) | 内視鏡システム、内視鏡画像処理装置、画像処理方法、およびプログラム | |
EP3179897B1 (en) | Endoscope system, image processing device, image processing method, and program | |
JP6332524B2 (ja) | 内視鏡システム、内視鏡画像処理装置、および画像処理方法 | |
JP6218634B2 (ja) | 内視鏡システム及び内視鏡の作動方法 | |
US10617282B2 (en) | Endoscope apparatus and method for focusing based on motion information | |
JP2019511285A5 (ja) | ||
JP2016087141A5 (ja) | ||
US20120056986A1 (en) | Real-time depth estimation from monocular endoscope images | |
US10820787B2 (en) | Endoscope device and focus control method for endoscope device | |
JP6725979B2 (ja) | 像ブレ補正装置及びその制御方法、記憶媒体 | |
JP7127538B2 (ja) | 画像処理装置、医療機器の作動方法及び医療システム | |
JP2013516264A (ja) | リアルタイム速度最適化を使用した校正不要のビジュアルサーボ | |
FR2985167A1 (fr) | Procede medical robotise de surveillance de la respiration d'un patient et de correction de la trajectoire robotisee. | |
JP2015152888A5 (ja) | 画像処理装置およびその制御方法 | |
EP3015893A1 (en) | Imaging device and method for operating imaging device | |
EP3851024A1 (en) | Medical observation system, medical observation device and medical observation method | |
WO2015190319A1 (ja) | 画像処理装置、画像処理方法、プログラム、および内視鏡システム | |
US10799085B2 (en) | Endoscope apparatus and focus control method | |
JP7133828B2 (ja) | 内視鏡画像処理プログラム及び内視鏡システム | |
JP2009297435A (ja) | 受動的多自由度システムおよび内視鏡装置 | |
WO2020049993A1 (ja) | 画像処理装置、画像処理方法及びプログラム | |
US11968453B2 (en) | Optical image stabilization in a scanning folded camera | |
JP2019009574A5 (ja) | ||
JP2004173973A (ja) | 斜視内視鏡用投影モデルのパラメータ推定方法 |