JP2021531883A - 手術室における分散型画像処理システム - Google Patents
手術室における分散型画像処理システム Download PDFInfo
- Publication number
- JP2021531883A JP2021531883A JP2021503740A JP2021503740A JP2021531883A JP 2021531883 A JP2021531883 A JP 2021531883A JP 2021503740 A JP2021503740 A JP 2021503740A JP 2021503740 A JP2021503740 A JP 2021503740A JP 2021531883 A JP2021531883 A JP 2021531883A
- Authority
- JP
- Japan
- Prior art keywords
- processing
- image frame
- surgical
- receiver
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 251
- 238000012937 correction Methods 0.000 claims abstract description 88
- 238000000034 method Methods 0.000 claims abstract description 77
- 238000003384 imaging method Methods 0.000 claims abstract description 47
- 230000008569 process Effects 0.000 claims abstract description 28
- 239000000284 extract Substances 0.000 claims abstract description 9
- 230000005540 biological transmission Effects 0.000 claims description 17
- 238000005286 illumination Methods 0.000 claims description 5
- 238000006073 displacement reaction Methods 0.000 claims description 3
- 238000010586 diagram Methods 0.000 abstract description 3
- 230000008901 benefit Effects 0.000 description 15
- 238000004891 communication Methods 0.000 description 10
- 238000003702 image correction Methods 0.000 description 9
- 230000003287 optical effect Effects 0.000 description 9
- 238000001356 surgical procedure Methods 0.000 description 9
- 238000002674 endoscopic surgery Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 7
- 230000006872 improvement Effects 0.000 description 7
- 238000004458 analytical method Methods 0.000 description 5
- 238000004422 calculation algorithm Methods 0.000 description 4
- 208000005646 Pneumoperitoneum Diseases 0.000 description 3
- 230000006835 compression Effects 0.000 description 3
- 238000007906 compression Methods 0.000 description 3
- 238000001816 cooling Methods 0.000 description 3
- 230000001419 dependent effect Effects 0.000 description 3
- 238000010191 image analysis Methods 0.000 description 3
- 230000033001 locomotion Effects 0.000 description 3
- 238000012423 maintenance Methods 0.000 description 3
- 230000006641 stabilisation Effects 0.000 description 3
- 238000011105 stabilization Methods 0.000 description 3
- 210000003815 abdominal wall Anatomy 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 239000000470 constituent Substances 0.000 description 2
- 230000003111 delayed effect Effects 0.000 description 2
- 238000001839 endoscopy Methods 0.000 description 2
- 238000010336 energy treatment Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 239000003550 marker Substances 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000011946 reduction process Methods 0.000 description 2
- 238000012800 visualization Methods 0.000 description 2
- 206010028980 Neoplasm Diseases 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 210000004204 blood vessel Anatomy 0.000 description 1
- 230000003139 buffering effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 239000000428 dust Substances 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000002357 laparoscopic surgery Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000001000 micrograph Methods 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000007789 sealing Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000095—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00011—Operational features of endoscopes characterised by signal transmission
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00011—Operational features of endoscopes characterised by signal transmission
- A61B1/00013—Operational features of endoscopes characterised by signal transmission using optical means
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00043—Operational features of endoscopes provided with output arrangements
- A61B1/00045—Display arrangement
- A61B1/0005—Display arrangement combining images e.g. side-by-side, superimposed or tiled
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/045—Control thereof
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
- A61B90/37—Surgical systems with images on a monitor during operation
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/20—ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/555—Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
Abstract
Description
本出願は、欧州特許出願第18185365.6号のパリ条約優先権を主張し、その内容は参照により本明細書に組み込まれる。
- 手術画像フレームおよびデータを取得するための少なくとも1つの撮像部と、
- 表示されるべき手術画像フレームを受け取るための少なくとも1つの受像器と、
- 手術画像フレームを受け取るために撮像部へのネットワークに接続された処理部と
を具備する。
処理部は、手術画像フレームを処理し、手術画像フレームの少なくとも1つの処理情報、例えば、その補正パラメータを抽出するように構成される。
処理部は、少なくとも1つの受像器に少なくとも1つの処理情報を提供するために少なくとも1つの受像器にさらに接続される。
処理システムは、手術画像フレームを受像器に直接送るために、少なくとも1つの撮像部と少なくとも1つの受像器との間に接続部をさらに備える。
本発明の実施形態の利点は、データ処理を手術室の外部に提供することができ、したがって、十分な空間を可能にし、手術室内のノイズを低減することである。
本発明の実施形態の利点は、画像取得条件からのさらなる情報を考慮に入れることができることである。
本発明の実施形態の利点は、データ処理および補正を画像データのフレームに適用することができ、画像全体ではなくパラメータのみを送信する必要があり、これにより待ち時間(レイテンシ)が短縮されることである。
本発明の実施形態の利点は、標準化されたビデオ入力(例えば、カメラ)およびビデオ処理を適用することができ、補正を、感知できる待ち時間をほとんど伴わずに、または全く伴わずに、ビデオストリーミングに適用することができることである。
本発明の実施形態の利点は、外科医が例えばビデオストリーミングによって、手術プロセスをリアルタイムで観察することができることである。
本発明の実施形態の利点は、画像データ処理が、標準的な内視鏡手術中に、感知できる画像待ち時間なしに適用されることである。
本発明の実施形態の利点は、ギガビットイーサネット(登録商標)を使用することにより、低レイテンシの伝送を実施できることである。
- 手術画像フレームを取得するステップと、
- 少なくとも1つの手術画像フレームを受像器に送信するステップと、
- 少なくとも1つの手術画像フレームを別個に処理し、それによって処理情報、例えば少なくとも1つの補正パラメータを抽出するステップと、
- その後、処理情報、例えば少なくとも1つの補正パラメータを、任意のさらなる手術画像フレームに適用することによって、受像器に送信される任意のさらなる手術画像フレームを調整するステップと
を含む。
本発明の実施形態の利点は、フレームの処理が、画像フレームを受像器に送信するのに対して独立して実行されるので、フレームを出力部に送信するステップが、画像処理によって遅延されないことである。
本発明の実施形態の利点は、補正された画像フレームを、モニタ、スクリーン、オーバーヘッド・プロジェクタ、ポータブル・デバイス等に、感知できる遅延をほとんどまたは全く伴わずに表示することができることである。
処理部は、手術画像フレームおよび画像データを取得するために、少なくとも1つの撮像部から手術画像フレームおよび画像データを受信し、
手術画像フレームを処理し、手術画像フレームの少なくとも1つの処理情報を抽出し、
少なくとも1つの処理情報を、少なくとも1つの受像器に提供して、少なくとも1つの撮像部から少なくとも1つの受像器に直接受信された手術画像フレームに、前記少なくとも1つの処理情報を適用するように構成される。
受像器は、少なくとも1つの撮像部から直接手術画像フレームを受信し、かつ、前記少なくとも1つの撮像部から受信された手術画像フレームに基づいて、プロセッサによって決定された少なくとも1つの処理情報、例えば補正パラメータを受信するように構成され、
受像器は、少なくとも1つの撮像部から直接受信された手術画像フレームに、少なくとも1つの処理情報を適用するように構成される。
そのように使用される用語は、適切な状況下で交換可能であり、本明細書で説明される本発明の実施形態は、本明細書で説明他図示される以外のシーケンスで実施されることを理解されたい。
さらに、明細書および請求の範囲における上部、下部などの用語は、説明するために使用され、必ずしも相対的な位置を説明するために使用されるわけではない。そのように使用される用語は、適切な状況下で交換可能であり、本明細書で説明される本発明の実施形態は、本明細書で説明または図示される以外の他の向きで実施されることを理解されたい。
したがって、「手段AおよびBを備える装置」という語句の範囲は、構成要件AおよびBのみからなる装置に限定されるべきではなく、本発明に関する装置の関連する構成要件のみがAおよびBであることを意味する。
さらに、特定の特徴、構造、または特性は、1つ以上の実施形態において、本開示から当業者には明らかであるように、任意の適切な方法で組み合わせることができる。
しかし、この開示の方法は、特許請求される本発明が各請求の範囲に明示的に列挙されるよりも多くの特徴を必要とするという意図を反映するものとして解釈されるべきではない。むしろ、以下の特許請求の範囲が表すように、決して先に開示した単一の実施形態のすべての特徴に発明的要素が存在するわけではない。したがって、詳細な説明に続く特許請求の範囲は、この詳細な説明に明確に組み込まれ、各特許請求の範囲は、それ自体が本発明の別個の実施形態として存在する。
例えば、以下の特許請求の範囲では、特許請求の範囲に記載された実施形態のいずれも、任意の組み合わせで使用することができる。
図1は、従来の手術室システムに適用される手術状態の一例を示す図である。天井カメラ5187および手術野カメラ5189は、患者ベッド5183上の患者5185の罹患領域に対して処置を行う外科医(医師)5181の手、および、手術室全体を撮像することができるように、手術室の天井に提供される。
天井カメラ5187および手術野カメラ5189は、調整機能(倍率、焦点距離など)を含んでもよい。照明5191は、手術室の天井に設けられ、少なくとも外科医5181の手に照射する。照明5191は、照射光量、照射光の波長(カラー)、光の照射方向などを適宜調整することができるように構成されていてもよい。
図示の例では、他の手術器具5131として、気腹チューブ5133、エネルギ処置具5135(高周波電流または超音波振動によって例えば血管を切開、剥離、封止するためのもの)、および鉗子5137が、患者5185の体腔内に挿入されている。
しかしながら、図示された外科用ツール5131は単なる例である。例えば、一対のピンセットまたは開創器のような、内視鏡手術において一般的に使用される種々の外科用ツールが使用され得る。
外科医5181は、表示装置5155に表示された手術部位の画像を見ながら、エネルギ処置具5135や鉗子5137を用いて、例えば患部の切除の処置を行うことができる。
カメラヘッド5119の内部には、光学系および撮像素子が設けられ、観察対象からの反射光(観察光)が光学系によって撮像素子上に集光される。観測光を撮像素子で光電変換して、観測光に応じた電気信号、すなわち観測画像に応じた画像信号を生成する。画像信号は、RAWデータとしてカメラ制御部(CCU)5153に送信することができる。
カメラヘッド5119は、拡大率および焦点距離を調整するために、カメラヘッド5119の光学系を適切に駆動するために、その中に組み込まれた機能を有してもよい。
さらに、カメラヘッド5119は、CCU 5153からカメラヘッド5119の駆動を制御するための制御信号を受信するための通信部を含んでもよい。この通信部は、受信された制御信号をカメラヘッド制御部5129に供給する。
しかしながら、複雑な映像、画像およびデータ処理技術は、通常、ビデオストリーム上にレイテンシを導入する。さらに、それらは、手術室において常に歓迎されるとは限らない計算能力を必要とする。
例えば、画像は装置の実際の動きに対して遅延して表示されてもよく、および/またはビデオはバッファリング時間を必要とする。これは、外科医の手と目との整合を妨害し得る。
例えば、CCUは演算機の内部にファンを備えた能動的な冷却を必要とする場合があり、これは、手術中に妨害となり得るノイズを発生させる。また、図1に示すように、手術室内のスペースを占有し、それらは、集塵を避けるための適切なメンテナンス処置を必要とする。
処理部は、画像自体および撮像条件に関するデータ、または撮像部によって画像ストリームが取得される条件を含む、画像データのストリームから処理情報、例えば、補正パラメータを抽出することができる。
処理部は、画像フレームおよび/または画像データのストリームを解析するための計算機、CPU等を含むことができる。
データセンター120は、処理部153を含む。データセンター120は、手術室110の外部にある。例えば、データセンター120は、手術センター、診療所、病院などの集中型コンピュータシステムであってもよく、またはその中に含まれていてもよく、手術室から物理的に分離されている。
これは、手術室により多くのスペースが提供され、かつ、コンピュータシステムの動作から(例えば、処理部153の冷却から)手術室にもたらされるノイズがより少なくなるという同時の利点を有する。さらに、手術室110に影響を与えることなく、独立したデータセンター120内のシステムに特化したメンテナンスを提供することができる。
なお、例えば立体視(3D表示)との互換性を確保するために、内視鏡5115のカメラヘッド5119に複数の撮像素子を設けてもよい。この場合、複数のリレー光学系を鏡筒5117の内部に設けて、複数の各撮像素子に観察光を導くことができる。
さらに、画像フレームは、撮影された条件(リフレッシュレート、照明など)からさらなる画像データを抽出することができ、これを追加の別個の画像データとして含めることができる。したがって、本発明のシステムは、さらなる画像データを得ることができる他の要素(例えば、図1に示す照明系5191、光源装置5157など)を含むことができる。
いくつかの実施形態では、CCUが手術室の外側に配置されてもよい。いくつかの実施形態では、CCUの存在は必要とされず、任意の画像処理および分析は、処理部153によって、例えば、データセンター120内の集中処理部によって実行され得る。
例えば、受像器113は、スクリーンまたはプロジェクタのようなディスプレイ、もしくは図1に示すようなプリンタ5169および/またはレコーダ5167を含むことができる。好ましい実施形態では、受像器113は、少なくとも1つのディスプレイ114、例えば、画像フレームを示すためのモニタ、スクリーン、オーバーヘッド・プロジェクタなどを含み、手術、腹腔鏡検査などの間、医療チームを補助する。
例えば、ディスプレイ114は、撮像素子(例えばRAW画像)から直接的に画像を表示するか、または直接的にビデオ信号を表示することができる。したがって、画像フレームの表示は、レイテンシなしで行うことができる。
撮像部115(例えば、内視鏡)が4K(水平方向の画素数3840×垂直方向の画素数2160)、8K(水平方向の画素数7680×垂直方向の画素数4320)などの高解像度の撮像の準備ができており、かつ/または3D表示の準備ができている場合、高解像度および/または3D表示の対応する表示が可能なディスプレイ装置を表示装置として使用することができる。
表示装置が4Kまたは8Kのような高解像度の撮像の準備ができている場合、ディスプレイ114として使用されるディスプレイ装置が55インチ以上のサイズを有する場合、より没入型の体験を得ることができる。また、目的に応じて、解像度やサイズが異なる複数の表示装置を設けてもよい。
受像器113は例えば、補正アルゴリズムまたはソフトウェアに従って画像フレームを操作し、処理部153によって外部から抽出された処理情報を使用することによって、処理情報、例えば、補正パラメータに基づいて補正を適用することができる、例えば、小型プロセッサまたはGPUのような更なる処理部を含むことができる画像補正部(画像補正器)112を含んでもよい。
オートフォーカス、自動露出または自動ホワイトバランスなどの他の処理は、画像フレームに基づいて、または、外部処理部153から受け取ったデータおよび処理情報、例えば補正パラメータに基づいて、画像補正部112で行われる。
これは、手術プロセスまたは外科医の手と目の整合を妨げない。いくつかの実施形態では、補正のレイテンシが目立たない。例えば、補正は、撮像部および手術装置の動作よりも速い速度で行うことができる。
本発明の実施形態では、フリップおよびカラーまたはコントラスト調整などのいくつかの調整が処理部153のおかげで、ほとんど待ち時間をかけずに、画像補正の一部として自動的に行われる。
好ましくは、光コネクタ、データバス、データケーブルなどの有線接続が使用される。異なるユニットと受像器との間で光データ信号を送信するために光接続が使用される場合、光信号を電気信号に変換するための光電変換モジュールが、異なるユニットに設けられてもよい。
ローカル・エリア・ネットワークの既知の部品(ネットワーク・アダプタ、シールドまたは非シールド・ケーブル、ケーブル・ポート、スプリッタなどのネットワーク媒体)を使用して、システムの異なる要素間の接続を提供することができる。
図2に示す特定の実施形態では、撮像部115が、画像フレームを受像器113に直接供給し、画像フレームおよび/または画像データをデータセンター120の処理部153に直接供給することができる。これは、例えば、情報を処理部153および受像器113に送るためのスプリッタを含む、前述のような接続部102、103を介して行うことができる。
その一例が図5にも示されており、図5は、ギガビットスイッチャである異なる入力手段、別の出力手段、および分配ノードを示している。直接接続とは、待ち時間(レイテンシ)をさらに増加させる可能性のある中間ノードなしで、1つのケーブルのような単一の伝送媒体を介した2つのユニット間の直接的なデータ転送の手段を意味する。
図3の場合、(処理情報を含む)データ送信の遅延は、処理時間およびレイテンシに依存し、これは、例えば、16ms〜100msの間にある。しかしながら、直接的な接続102を介した撮像部115と受像器113との間の画像フレーム伝送のレイテンシは、非常に小さく、例えば600Mbpsから12Gbpsで16ms未満である。
処理情報、例えば補正パラメータは、処理部153によって画像データおよびフレームから抽出される。これらのパラメータは、前に説明したように、受像器113、または特に、撮像部115から受け取った任意のさらなる画像フレームに対して補正を実行することができる画像補正部112に送られる。
本発明の実施形態では、LEDまたはレーザー、もしくはVCSELを用いて光源が放射する光の強度および波長(カラー)を画像データとして使用し、処理部153に送ることができる。画像データは、センサで収集することも、光源装置から直接収集することもできる。
本発明の実施形態によるシステムは、内視鏡検査における回転補正に適用することができる。
処理部153は、画像フレームを受け取ることができ、撮像部115として機能する内視鏡のカメラの、所定のベースラインに対する回転角度を抽出することができる。これは、例えば、画像内のオブジェクトを追跡し、このオブジェクトの回転角度を計算するアルゴリズムを用いて実施することができる。
この角度は、補正すなわち補正パラメータとして受像器113に送られる。受像器113は、撮像部115から画像フレームとして低レイテンシのビデオストリーム、および、補正すなわち補正パラメータとして回転角度を受け取り、この角度で逆方向に、低レイテンシのビデオストリームを回転させて、画像の水平線を安定させる。
画像データは、内視鏡の回転を直接(例えば、機械的または光学的に)検出するセンサなどによって得られる。
本発明の実施形態によるシステムは、内視鏡検査を含む一般的な画像およびビデオソースにおける画質向上プロセッサに適用することができる。
処理部153は、撮像部115から画像フレームを受け取り、画像内の色を分析して、ディスプレイ114として機能するモニタ上に画像を表示するために、どの画質向上パラメータが適切であるか(例えば、最も適しているか)を決定する。これらのパラメータには、画像の色補正のためのカラーマトリクス情報、ノイズ低減の度合い、および画像処理に関連するその他の情報を含めることができる。
画質向上パラメータは、補正パラメータとして受像器113に送られる。受像器113は、撮像部115から画質向上パラメータおよび後続の画像フレームを受け取り、これらの画質向上パラメータをフレームに適用するために、対応するコマンドをディスプレイ(例えば、モニタ)に送る。
次に、処理部153は、画像に重ね合わせるための位置情報および/または注釈画像を受像器113に送る。このような認識処理には、大量の計算資源および参照データとして更新されるデータベースを必要とするため、データセンター(処理部153)側で行うことが大きな利点となる。
この場合、画像処理部153では、画像のグローバル動きベクトルが検出され、安定化パラメータが受像器に提供される。
この方法は、画像フレームを取得するステップと、その後、画像フレームを受像器に送信するステップと、その画像フレームを別々に処理するステップとを含み、それによって、少なくとも1つの補正パラメータを抽出する。
本方法は、画像フレームから抽出された補正パラメータを、その後に取得された任意の画像フレームに適用するステップをさらに含む。
この方法は、第1のステップにおいて最初の画像フレームを取得するステップ201と、この最初の画像フレームを受像器に送信するステップ202とを含み、受像器では例えば、最初の画像フレームを表示するステップ203によって、最初の画像フレームを出力することができる。
画像を受像器に送信するステップ202と同時であってもよい、さらなる1つのステップが、少なくとも1つの補正パラメータを抽出するステップ204を含み、ステップ204は、画像フレームを外部処理部153に送信するステップ214と、補正パラメータを抽出するためにフレームを分析するステップ224とを含んでもよい。
これは、所望の補正のタイプに応じて、処理部内のアルゴリズム、プログラム、または専用ソフトウェアによって行うことができる。
これは、補正パラメータを受像器のレジスタに送り、受像器に到達する次の画像フレームに補正パラメータを適用して操作することによって行われる。この操作は、本発明の第1の態様を参照して説明した画像補正器を用いて行われる。
本方法は、所望される限り継続する。視覚化が停止すると、本方法は終了する(ステップ210)。
追加または代替として、少なくとも1つの補正パラメータが、いくつかの画像フレームから抽出されてもよいが、他の画像フレームから抽出されなくてもよく、例えば、補正パラメータを抽出するステップは、所定のフレーム数においてスキップされてもよく、したがって、計算資源および遅延(ラグ)を低減する。
画像の品質が悪影響を受けないように適切な数のスキップフレームを設定するために、処理時間および送信待ち時間をディスプレイのフレームレートと比較することができる。例えば、ビデオストリームが30 fpsのフレームレートを有し、レイテンシが約40msである場合、補正値の抽出は、2つのフレーム毎に行うことができる。
これにより、処理部153と受像器113との間で有線または無線であり得る接続部101により、伝送されるデータパッケージのサイズが低減される。
(1)手術画像を処理するための処理システム(100、200)であって、
- 手術画像フレームおよび画像データを取得するための少なくとも1つの撮像部(115)と、
- 表示されるべき手術画像フレームを受け取るための少なくとも1つの受像器(113)と、
- 手術画像フレームを受け取るために前記撮像部(115)へのネットワーク(103、106、107)に接続された処理部(153)と
を具備し、
前記処理部は、手術画像フレームを処理し、手術画像フレームの少なくとも1つの処理情報を抽出するように構成され、
前記処理部は、前記少なくとも1つの受像器に、少なくとも1つの補正パラメータを提供するために、前記少なくとも1つの受像器にさらに接続され、
前記処理システムは、手術画像フレームを前記受像器に直接送るために、前記少なくとも1つの撮像部と前記少なくとも1つの受像器との間に接続部(102)をさらに備える
処理システム。
(2)(1)に記載の処理システムであって、
前記処理部(153)は、手術室内に配置された前記少なくとも1つの撮像部(115)および前記少なくとも1つの受像器(113)から分離された、手術室の外部に配置された外部処理部である
処理システム。
(3)(1)または(2)に記載の処理システムであって、
前記処理部(153)は、手術画像フレームおよびさらなる画像データから補正パラメータを提供するように適合され、
前記処理部は、さらなる画像データを受け取るための入力部をさらに含む
処理システム。
(4)(1)から(3)のいずれか1つに記載の処理システムであって、
前記少なくとも1つの受像器(113)は、少なくとも1つの補正パラメータを画像フレームに適用するための手段(112)を含む
処理システム。
(5)(1)から(4)のいずれか1つに記載の処理システムであって、
前記少なくとも1つの撮像部(115)は、手術用ビデオ入力部を備え、
その画像フレームは、手術用ビデオストリームを含む
処理システム。
(6)(1)から(5)のいずれか1つに記載の処理システムであって、
前記受像器(113)は、手術画像フレームを表示するためのディスプレイ(114)を含む
処理システム。
(7)(1)から(6)のいずれか1つに記載の処理システムであって、
前記少なくとも1つの撮像部(115)は、内視鏡を含む
処理システム。
(8)(1)から(7)のいずれか1つに記載の処理システムであって、
前記処理システムは、ギガビットイーサネット経由で接続される
処理システム。
(9)(1)から(8)のいずれか1つに記載の処理システムであって、
前記処理システムにおいて送信される画像データは、スライスベースの送信モードで送信される
処理システム。
(10)(1)から(9)のいずれか1つに記載の処理システムであって、
前記処理システムにおいて送信される画像データは、送信前に圧縮される
処理システム。
(11)画像を処理する方法であって、
- 手術画像フレームを取得するステップ(201、206)と、
- 少なくとも1つの手術画像フレームを受像器に送信するステップ(202、207)と、
- 少なくとも1つの手術画像フレームを別個に処理し、それによって少なくとも1つの補正パラメータを抽出するステップ(204)と、
- その後、前記少なくとも1つの補正パラメータを、任意のさらなる手術画像フレームに適用すること(208)によって、前記受像器に送信される任意のさらなる手術画像フレームを補正するステップと
を含む
方法。
(12)(11)に記載の方法であって、
前記受像器において受信された手術画像フレームを表示するステップ(219)をさらに含む
方法。
(13)(11)または(12)に記載の方法であって、
画像データを取得するステップ(205)をさらに含み、
手術画像フレームを処理して少なくとも1つの処理情報を抽出するステップ(204)は、手術画像フレームと、手術画像フレームを取得する条件に関連する画像データとを処理することを含む
方法。
(14)(11)から(13)のいずれか1つに記載の方法であって、
手術画像フレームを取得するステップ(201、206)は、手術用ビデオストリームを取得することを含む
方法。
(15)(11)から(14)のいずれか1つに記載の方法であって、
少なくとも1つの処理情報を抽出するステップ(204)は、色補正、コントラスト補正、照明情報、変位および画像回転のいずれかまたは全てを抽出することを含む
方法。
(16)手術画像を処理するための処理部(153)であって、
- 手術画像フレームおよび画像データを取得するために、少なくとも1つの撮像部(115)から手術画像フレームおよび画像データを受信し、
- 手術画像フレームを処理して手術画像フレームの少なくとも1つの処理情報を抽出し、
- 前記少なくとも1つの処理情報を、少なくとも1つの受像器(113)に提供して、前記少なくとも1つの撮像部から前記少なくとも1つの受像器に直接受信された手術画像フレームに、前記少なくとも1つの処理情報を適用する
ように構成される
処理部。
(17)表示されるべき手術画像フレームを受信するための受像器(113)であって、
少なくとも1つの撮像部(115)から直接手術画像フレームを受信し、かつ、前記少なくとも1つの撮像部から受信された手術画像フレームに基づいて、プロセッサによって決定された少なくとも1つの処理情報を受信するように構成され、
前記受像器は、少なくとも1つの撮像部から直接受信された手術画像フレームに、前記少なくとも1つの処理情報を適用するように構成される
受像器。
Claims (17)
- 手術画像を処理するための処理システム(100、200)であって、
- 手術画像フレームおよび画像データを取得するための少なくとも1つの撮像部(115)と、
- 表示されるべき手術画像フレームを受け取るための少なくとも1つの受像器(113)と、
- 手術画像フレームを受け取るために前記撮像部(115)へのネットワーク(103、106、107)に接続された処理部(153)と
を具備し、
前記処理部は、手術画像フレームを処理し、手術画像フレームの少なくとも1つの処理情報を抽出するように構成され、
前記処理部は、前記少なくとも1つの受像器に、少なくとも1つの補正パラメータを提供するために、前記少なくとも1つの受像器にさらに接続され、
前記処理システムは、手術画像フレームを前記受像器に直接送るために、前記少なくとも1つの撮像部と前記少なくとも1つの受像器との間に接続部(102)をさらに備える
処理システム。 - 請求項1に記載の処理システムであって、
前記処理部(153)は、手術室内に配置された前記少なくとも1つの撮像部(115)および前記少なくとも1つの受像器(113)から分離された、手術室の外部に配置された外部処理部である
処理システム。 - 請求項2に記載の処理システムであって、
前記処理部(153)は、手術画像フレームおよびさらなる画像データから補正パラメータを提供するように適合され、
前記処理部は、さらなる画像データを受け取るための入力部をさらに含む
処理システム。 - 請求項1に記載の処理システムであって、
前記少なくとも1つの受像器(113)は、少なくとも1つの補正パラメータを画像フレームに適用するための手段(112)を含む
処理システム。 - 請求項1に記載の処理システムであって、
前記少なくとも1つの撮像部(115)は、手術用ビデオ入力部を備え、
その画像フレームは、手術用ビデオストリームを含む
処理システム。 - 請求項1に記載の処理システムであって、
前記受像器(113)は、手術画像フレームを表示するためのディスプレイ(114)を含む
処理システム。 - 請求項1に記載の処理システムであって、
前記少なくとも1つの撮像部(115)は、内視鏡を含む
処理システム。 - 請求項1に記載の処理システムであって、
前記処理システムは、ギガビットイーサネット経由で接続される
処理システム。 - 請求項1に記載の処理システムであって、
前記処理システムにおいて送信される画像データは、スライスベースの送信モードで送信される
処理システム。 - 請求項1に記載の処理システムであって、
前記処理システムにおいて送信される画像データは、送信前に圧縮される
処理システム。 - 画像を処理する方法であって、
- 手術画像フレームを取得するステップ(201、206)と、
- 少なくとも1つの手術画像フレームを受像器に送信するステップ(202、207)と、
- 少なくとも1つの手術画像フレームを別個に処理し、それによって少なくとも1つの補正パラメータを抽出するステップ(204)と、
- その後、前記少なくとも1つの補正パラメータを、任意のさらなる手術画像フレームに適用すること(208)によって、前記受像器に送信される任意のさらなる手術画像フレームを補正するステップと
を含む
方法。 - 請求項11に記載の方法であって、
前記受像器において受信された手術画像フレームを表示するステップ(219)をさらに含む
方法。 - 請求項11に記載の方法であって、
画像データを取得するステップ(205)をさらに含み、
手術画像フレームを処理して少なくとも1つの処理情報を抽出するステップ(204)は、手術画像フレームと、手術画像フレームを取得する条件に関連する画像データとを処理することを含む
方法。 - 請求項11に記載の方法であって、
手術画像フレームを取得するステップ(201、206)は、手術用ビデオストリームを取得することを含む
方法。 - 請求項11に記載の方法であって、
少なくとも1つの処理情報を抽出するステップ(204)は、色補正、コントラスト補正、照明情報、変位および画像回転のいずれかまたは全てを抽出することを含む
方法。 - 手術画像を処理するための処理部(153)であって、
- 手術画像フレームおよび画像データを取得するために、少なくとも1つの撮像部(115)から手術画像フレームおよび画像データを受信し、
- 手術画像フレームを処理して手術画像フレームの少なくとも1つの処理情報を抽出し、
- 前記少なくとも1つの処理情報を、少なくとも1つの受像器(113)に提供して、前記少なくとも1つの撮像部から前記少なくとも1つの受像器に直接受信された手術画像フレームに、前記少なくとも1つの処理情報を適用する
ように構成される
処理部。 - 表示されるべき手術画像フレームを受信するための受像器(113)であって、
少なくとも1つの撮像部(115)から直接手術画像フレームを受信し、かつ、前記少なくとも1つの撮像部から受信された手術画像フレームに基づいて、プロセッサによって決定された少なくとも1つの処理情報を受信するように構成され、
前記受像器は、少なくとも1つの撮像部から直接受信された手術画像フレームに、前記少なくとも1つの処理情報を適用するように構成される
受像器。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP18185365.6 | 2018-07-24 | ||
EP18185365 | 2018-07-24 | ||
PCT/EP2019/069948 WO2020020959A1 (en) | 2018-07-24 | 2019-07-24 | Distributed image processing system in operating theater |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2021531883A true JP2021531883A (ja) | 2021-11-25 |
Family
ID=63047143
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021503740A Pending JP2021531883A (ja) | 2018-07-24 | 2019-07-24 | 手術室における分散型画像処理システム |
Country Status (4)
Country | Link |
---|---|
US (1) | US11896195B2 (ja) |
EP (1) | EP3813636A1 (ja) |
JP (1) | JP2021531883A (ja) |
WO (1) | WO2020020959A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20210306244A1 (en) * | 2020-03-26 | 2021-09-30 | Infinite Arthroscopy, Inc. Limited | Signal latency detection system |
US20230100302A1 (en) * | 2020-09-01 | 2023-03-30 | Sony Group Corporation | Medical information control system, signal processing device, and medical information control method |
US20220217286A1 (en) * | 2021-01-03 | 2022-07-07 | Asensus Surgical Us, Inc. | Correction of horizon tilt in an endoscopic image |
Family Cites Families (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050033117A1 (en) * | 2003-06-02 | 2005-02-10 | Olympus Corporation | Object observation system and method of controlling object observation system |
JP2008253586A (ja) | 2007-04-06 | 2008-10-23 | Hoya Corp | 内視鏡支援システム |
GB2496418A (en) | 2011-11-10 | 2013-05-15 | Esaturnus | Ultra low latency video communication. |
JP2014003990A (ja) | 2012-06-21 | 2014-01-16 | Olympus Medical Systems Corp | 内視鏡装置および内視鏡観察システム |
JP2014008126A (ja) | 2012-06-28 | 2014-01-20 | Olympus Medical Systems Corp | 内視鏡画像処理システム |
US10555393B1 (en) * | 2012-08-17 | 2020-02-04 | Kuna Systems Corporation | Face recognition systems with external stimulus |
JP2014128423A (ja) | 2012-12-28 | 2014-07-10 | Olympus Medical Systems Corp | 内視鏡システム |
US9414740B2 (en) * | 2013-03-14 | 2016-08-16 | Arthrex, Inc. | Endoscopic imaging system and method for adapting to remote stimulus |
US9295372B2 (en) * | 2013-09-18 | 2016-03-29 | Cerner Innovation, Inc. | Marking and tracking an area of interest during endoscopy |
CN105519107B (zh) | 2013-10-18 | 2018-06-19 | 奥林巴斯株式会社 | 图像信号输出装置以及图像信号收发系统 |
US10058247B2 (en) * | 2015-05-20 | 2018-08-28 | Comprehensive Telemedicine | Multipurpose diagnostic examination apparatus and system |
JP6505527B2 (ja) | 2015-06-30 | 2019-04-24 | 株式会社トプコン | 眼科用顕微鏡 |
CN113384360A (zh) | 2015-10-02 | 2021-09-14 | 索尼公司 | 医疗控制设备、控制方法、程序以及医疗控制系统 |
WO2017075687A1 (en) * | 2015-11-03 | 2017-05-11 | Synaptive Medical (Barbados) Inc. | Dual zoom and dual field-of-view microscope |
US10398514B2 (en) * | 2016-08-16 | 2019-09-03 | Insight Medical Systems, Inc. | Systems and methods for sensory augmentation in medical procedures |
WO2018097831A1 (en) * | 2016-11-24 | 2018-05-31 | Smith Joshua R | Light field capture and rendering for head-mounted displays |
US11785180B2 (en) * | 2017-09-11 | 2023-10-10 | Reelay Meetings, Inc. | Management and analysis of related concurrent communication sessions |
EP4268757A3 (en) * | 2017-10-06 | 2023-12-06 | Advanced Scanners, Inc. | Generation of one or more edges of luminosity to form three-dimensional models of objects |
US20190201118A1 (en) * | 2017-12-28 | 2019-07-04 | Ethicon Llc | Display arrangements for robot-assisted surgical platforms |
US10987178B2 (en) * | 2017-12-28 | 2021-04-27 | Ethicon Llc | Surgical hub control arrangements |
JPWO2019181432A1 (ja) * | 2018-03-20 | 2021-04-01 | ソニー株式会社 | 手術支援システム、情報処理装置、及びプログラム |
WO2021095659A1 (ja) * | 2019-11-15 | 2021-05-20 | ソニーグループ株式会社 | 医療イメージングシステム、医療イメージング方法及び画像処理装置 |
US11284963B2 (en) * | 2019-12-30 | 2022-03-29 | Cilag Gmbh International | Method of using imaging devices in surgery |
WO2021216524A1 (en) * | 2020-04-20 | 2021-10-28 | Avail Medsystems, Inc. | Systems and methods for medical resource intelligence |
US20220217286A1 (en) * | 2021-01-03 | 2022-07-07 | Asensus Surgical Us, Inc. | Correction of horizon tilt in an endoscopic image |
-
2019
- 2019-07-24 US US17/260,550 patent/US11896195B2/en active Active
- 2019-07-24 JP JP2021503740A patent/JP2021531883A/ja active Pending
- 2019-07-24 WO PCT/EP2019/069948 patent/WO2020020959A1/en unknown
- 2019-07-24 EP EP19742761.0A patent/EP3813636A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
WO2020020959A1 (en) | 2020-01-30 |
US11896195B2 (en) | 2024-02-13 |
US20210274998A1 (en) | 2021-09-09 |
EP3813636A1 (en) | 2021-05-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3534620B1 (en) | Signal processing device and method, and program | |
US11896195B2 (en) | Distributed image processing system in operating theater | |
KR20190109406A (ko) | 영상 신호 처리 장치, 영상 신호 처리 방법, 및 다이나믹 레인지 압축용 프로그램 | |
US11729519B2 (en) | Video signal processing apparatus, video signal processing method, and image-capturing apparatus | |
US11496662B2 (en) | Image processing apparatus, image processing method, and image pickup system for displaying information associated with an image | |
US20220148128A1 (en) | Image processing apparatus, image processing method, and program | |
CN109937574B (zh) | 发送设备、发送方法和内容分发系统 | |
US11883120B2 (en) | Medical observation system, medical signal processing device, and medical signal processing device driving method | |
CN109964487B (zh) | 管理装置和管理方法 | |
US11671872B2 (en) | Communication system and transmission apparatus | |
US11516127B2 (en) | System controller, controlling an IP switch including plural SDN switches | |
WO2021230001A1 (ja) | 情報処理装置及び情報処理方法 | |
CN110771102B (zh) | 通信系统和控制设备 | |
US20220046248A1 (en) | Reception apparatus, reception method, and image processing system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220722 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20220722 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230822 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231020 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20240109 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240402 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20240411 |