JP2021531883A - 手術室における分散型画像処理システム - Google Patents

手術室における分散型画像処理システム Download PDF

Info

Publication number
JP2021531883A
JP2021531883A JP2021503740A JP2021503740A JP2021531883A JP 2021531883 A JP2021531883 A JP 2021531883A JP 2021503740 A JP2021503740 A JP 2021503740A JP 2021503740 A JP2021503740 A JP 2021503740A JP 2021531883 A JP2021531883 A JP 2021531883A
Authority
JP
Japan
Prior art keywords
processing
image frame
surgical
receiver
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021503740A
Other languages
English (en)
Inventor
アレクサンダ トーマス
サンダ ブランデンブルク
ジョリス グイッソン
エリック カンプ
ロバート コニンクス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JP2021531883A publication Critical patent/JP2021531883A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00011Operational features of endoscopes characterised by signal transmission
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00011Operational features of endoscopes characterised by signal transmission
    • A61B1/00013Operational features of endoscopes characterised by signal transmission using optical means
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/555Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing

Abstract

手術画像を処理するための処理システム(100、200)であって、この処理システムは、手術画像フレームおよび画像データを取得するための少なくとも1つの撮像部(115)と、表示されるべき手術画像フレームを受け取るための少なくとも1つの受像器(113)と、手術画像フレームを受け取るために前記撮像部(115)へのネットワーク(103、106、107)に接続された処理部(153)とを具備し、前記処理部は、手術画像フレームを処理し、手術画像フレームの少なくとも1つの処理情報を抽出するように構成され、前記処理部は、前記少なくとも1つの受像器に、少なくとも1つの補正パラメータを提供するために、前記少なくとも1つの受像器にさらに接続され、前記処理システムは、手術画像フレームを前記受像器に直接送るために、前記少なくとも1つの撮像部と前記少なくとも1つの受像器との間に接続部(102)をさらに備える。【選択図】図2

Description

本発明は、画像処理の分野に関する。具体的には、ビデオデータの通信処理システム、および、ビデオデータの通信処理方法に関する。
本出願は、欧州特許出願第18185365.6号のパリ条約優先権を主張し、その内容は参照により本明細書に組み込まれる。
手術のいくつかのタイプは、手術されるべき領域の視覚化を補助するための器具を挿入することによって行われる。例えば、内視鏡を体内に導入し、外部ディスプレイ上に表示される画像をビデオストリーミングとして取得することができる。
外科的プロセスの性質は、誤差の余裕をほとんど許容しない。ビデオストリーミングは、通常、補正および調整を必要とする。例えば、スコープによって受光される光の量が変化する可能性があり、ビデオディスプレイは、これらの変化を補償しなければならない。色補正も必要とされ得る。
しかしながら、複雑な映像、画像およびデータ処理技術は、補正および調整を提供するが、映像ストリームにレイテンシを導入する。外科医は、器具と操作領域との相対位置の整合および関連性を失うことがあり、これは危険な状況を作り出す。
さらに、デジタルビデオ画像を処理するために必要とされる計算能力は特に、デジタルビデオ画像をリアルタイムで処理するために必要とされる場合、かなりのものである。このような計算能力は通常、スペースを必要とし、かつ/または手術室内に障害物を作り出し、ノイズを生成するので、これは、手術室において常に歓迎されるわけではない。
現在、例えば、画質向上、手術のプロセスを視覚化するためのアノテーションの作成、およびAIベースの診断など、様々な種類の画像処理が開発されているが、プロセッサの機能を更新または強化することが容易ではなく、手術室内のプロセッサは小さな設置面積を有する必要があるため、このような機能は、手術室内に配置されたプロセッサ上に実装することができない。
本発明の実施形態の目的は、手術中に使用するのに適したビデオおよび画像処理システム、ならびにビデオおよび画像データを処理するための方法を提供するとともに、待ち時間(レイテンシ)なしに画像およびビデオストリーミングを可能にすることである。
本発明は、手術画像を処理するための処理システムに関する。この処理システムは、
- 手術画像フレームおよびデータを取得するための少なくとも1つの撮像部と、
- 表示されるべき手術画像フレームを受け取るための少なくとも1つの受像器と、
- 手術画像フレームを受け取るために撮像部へのネットワークに接続された処理部と
を具備する。
処理部は、手術画像フレームを処理し、手術画像フレームの少なくとも1つの処理情報、例えば、その補正パラメータを抽出するように構成される。
処理部は、少なくとも1つの受像器に少なくとも1つの処理情報を提供するために少なくとも1つの受像器にさらに接続される。
処理システムは、手術画像フレームを受像器に直接送るために、少なくとも1つの撮像部と少なくとも1つの受像器との間に接続部をさらに備える。
本発明の実施形態の利点は、リアルタイム画像表示と同時にデータ処理を提供することができ、したがって、画像処理および補正を可能にしながら、(例えば、ディスプレイにおける)出力における待ち時間を低減または回避することである。
処理部は、手術室内に配置された少なくとも1つの撮像部および少なくとも1つの受像器から分離された、手術室の外部に配置された外部処理部であってもよい。
本発明の実施形態の利点は、データ処理を手術室の外部に提供することができ、したがって、十分な空間を可能にし、手術室内のノイズを低減することである。
処理部は、手術画像フレームおよびさらなる画像データから処理情報(補正パラメータ)を提供するように適合されてもよく、処理部は、さらなる画像データを受け取るための入力部をさらに含んでもよい。
本発明の実施形態の利点は、画像取得条件からのさらなる情報を考慮に入れることができることである。
少なくとも1つの受像器は、少なくとも処理情報、例えば1つの補正パラメータを画像フレームに適用するための手段を含んでもよい。
本発明の実施形態の利点は、データ処理および補正を画像データのフレームに適用することができ、画像全体ではなくパラメータのみを送信する必要があり、これにより待ち時間(レイテンシ)が短縮されることである。
少なくとも1つの撮像部は、手術用ビデオ入力部を備えてもよく、その画像フレームは、手術用ビデオストリームを含んでもよい。
本発明の実施形態の利点は、標準化されたビデオ入力(例えば、カメラ)およびビデオ処理を適用することができ、補正を、感知できる待ち時間をほとんど伴わずに、または全く伴わずに、ビデオストリーミングに適用することができることである。
受像器は、手術画像フレームを表示するためのディスプレイを含んでもよい。
本発明の実施形態の利点は、外科医が例えばビデオストリーミングによって、手術プロセスをリアルタイムで観察することができることである。
少なくとも1つの撮像部は、内視鏡を含んでもよい。
本発明の実施形態の利点は、画像データ処理が、標準的な内視鏡手術中に、感知できる画像待ち時間なしに適用されることである。
処理システムは、ギガビットイーサネット経由で接続されてもよい。
本発明の実施形態の利点は、ギガビットイーサネット(登録商標)を使用することにより、低レイテンシの伝送を実施できることである。
処理システムにおいて送信される画像データは、スライスベースの送信モードで送信されてもよい。
処理システムにおいて送信される画像データは、送信前に圧縮されてもよい。この圧縮は、ウェーブレットベースの圧縮である。
また本発明は、画像を処理する方法に関する。この方法は、
- 手術画像フレームを取得するステップと、
- 少なくとも1つの手術画像フレームを受像器に送信するステップと、
- 少なくとも1つの手術画像フレームを別個に処理し、それによって処理情報、例えば少なくとも1つの補正パラメータを抽出するステップと、
- その後、処理情報、例えば少なくとも1つの補正パラメータを、任意のさらなる手術画像フレームに適用することによって、受像器に送信される任意のさらなる手術画像フレームを調整するステップと
を含む。
本発明の実施形態の利点は、フレームの処理が、画像フレームを受像器に送信するのに対して独立して実行されるので、フレームを出力部に送信するステップが、画像処理によって遅延されないことである。
本発明の実施形態の利点は、画像を読み出し部に送ることができ、同時に、前の画像フレームとは別個に抽出された任意の処理情報、例えば補正パラメータを、後続の画像フレームに、感知できる遅延をほとんどまたは全く伴わずに適用することができることである。
本方法は、受像器において受信された手術画像フレームを表示するステップをさらに含んでもよい。
本発明の実施形態の利点は、補正された画像フレームを、モニタ、スクリーン、オーバーヘッド・プロジェクタ、ポータブル・デバイス等に、感知できる遅延をほとんどまたは全く伴わずに表示することができることである。
本方法は、画像データを取得するステップをさらに含んでもよく、ここで、手術画像フレームを処理して少なくとも1つの処理情報を抽出するステップは、手術画像フレームと、手術画像フレームを取得する条件に関連する画像データとを処理することを含む。
本発明の実施形態の利点は、画像取得条件を補正に考慮に入れることができることである。
手術画像フレームを取得するステップは、手術用ビデオストリームを取得することを含んでもよい。
少なくとも1つの処理情報を抽出するステップは、色補正、コントラスト補正、照明情報、変位(移動)および画像回転のいずれかまたは全てを抽出することを含んでもよい。
また本発明は、手術画像を処理するための処理部に関し、
処理部は、手術画像フレームおよび画像データを取得するために、少なくとも1つの撮像部から手術画像フレームおよび画像データを受信し、
手術画像フレームを処理し、手術画像フレームの少なくとも1つの処理情報を抽出し、
少なくとも1つの処理情報を、少なくとも1つの受像器に提供して、少なくとも1つの撮像部から少なくとも1つの受像器に直接受信された手術画像フレームに、前記少なくとも1つの処理情報を適用するように構成される。
本発明はさらに、表示されるべき手術画像フレームを受信するための受像器に関し、
受像器は、少なくとも1つの撮像部から直接手術画像フレームを受信し、かつ、前記少なくとも1つの撮像部から受信された手術画像フレームに基づいて、プロセッサによって決定された少なくとも1つの処理情報、例えば補正パラメータを受信するように構成され、
受像器は、少なくとも1つの撮像部から直接受信された手術画像フレームに、少なくとも1つの処理情報を適用するように構成される。
本発明の特定の好ましい態様は、添付の独立請求項および従属請求項に記載されている。従属請求項の特徴は、単に特許請求の範囲に明示的に記載されているものではなく、適宜、独立請求項の特徴および他の従属請求項の特徴と組み合わせることができる。本発明のこれらおよび他の態様は、以下に記載される(複数の)実施形態から明らかになり、それ(ら)を参照して説明される。
図面は、概略的なものに過ぎず、非限定的なものである。図面において、いくつかの構成要件のサイズは、説明の目的のために誇張され、縮尺通りに描かれていないことがある。請求の範囲中の参照符号は、範囲を限定するものと解釈してはならない。異なる図面における同一の参照符号は、同一または類似の構成要件を指す。
既存の手術室システムによる手術状態の一例を示す図である。 本発明の実施形態に係る分散画像処理の一例を示す図である。 本発明のさらなる他の実施形態に係る分散画像処理の一例を示す図である。 本発明の実施形態による画像解析および補正の方法の一例を示すブロック図である。 本発明の実施形態で使用することができるように相互接続された画像データ入力装置および出力装置を示す。
本発明は、特定の実施形態に関して、かつ、特定の図面を参照して説明されるが、本発明はそれに限定されず、請求の範囲によってのみ限定される。寸法および相対的寸法は、本発明の実施に対する実際の縮小に対応していない。
さらに、本発明の説明および請求の範囲における第1、第2などの用語は、同様の構成要件を区別するために使用され、また、時間的に、空間的に、順序付け(ランク)で、または任意の他の方法で、必ずしもシーケンス(連続するもの)を説明するために使用されるわけではない。
そのように使用される用語は、適切な状況下で交換可能であり、本明細書で説明される本発明の実施形態は、本明細書で説明他図示される以外のシーケンスで実施されることを理解されたい。
さらに、明細書および請求の範囲における上部、下部などの用語は、説明するために使用され、必ずしも相対的な位置を説明するために使用されるわけではない。そのように使用される用語は、適切な状況下で交換可能であり、本明細書で説明される本発明の実施形態は、本明細書で説明または図示される以外の他の向きで実施されることを理解されたい。
特許請求の範囲で使用される「具備する、備える、含む」という用語は、その後に列挙される手段に限定されるものとして解釈されるべきではなく、他の構成要件またはステップを除外するものではない。したがって、この用語は、述べられる特徴、整数、言及されるようなステップまたは構成要件の存在を指定するものとして解釈されるべきであるが、1つ以上の他の特徴、整数、ステップまたは構成要件、もしくは、それらのグループの存在または追加を除外するものではないことに留意されたい。
したがって、「手段AおよびBを備える装置」という語句の範囲は、構成要件AおよびBのみからなる装置に限定されるべきではなく、本発明に関する装置の関連する構成要件のみがAおよびBであることを意味する。
本明細書全体を通して「一実施形態」とは、実施形態に関連して説明された特定の特徴、構造、または特性が本発明の少なくとも一実施形態に含まれることを意味し、したがって、本明細書全体を通して様々な場所に「一実施形態において」という語句が現れることは、必ずしもすべてが同じ実施形態を指すわけではなく、そうであってもよい。
さらに、特定の特徴、構造、または特性は、1つ以上の実施形態において、本開示から当業者には明らかであるように、任意の適切な方法で組み合わせることができる。
同様に、本発明の例示的な実施形態の説明における本発明の様々な特徴は、本開示を合理化し、様々な発明の態様のうちの1つ以上の理解を助けるために、単一の実施形態、図、またはそれらの説明において共にグループ化されることがあることを理解されたい。
しかし、この開示の方法は、特許請求される本発明が各請求の範囲に明示的に列挙されるよりも多くの特徴を必要とするという意図を反映するものとして解釈されるべきではない。むしろ、以下の特許請求の範囲が表すように、決して先に開示した単一の実施形態のすべての特徴に発明的要素が存在するわけではない。したがって、詳細な説明に続く特許請求の範囲は、この詳細な説明に明確に組み込まれ、各特許請求の範囲は、それ自体が本発明の別個の実施形態として存在する。
さらに、本明細書で説明されるいくつかの実施形態は、他の実施形態に含まれるが他の特徴ではないいくつかの実施形態を含むが、異なる実施形態の特徴の組合せは、当業者によって理解されるように、本発明の範囲内にあることを意味し、異なる実施形態を構成する。
例えば、以下の特許請求の範囲では、特許請求の範囲に記載された実施形態のいずれも、任意の組み合わせで使用することができる。
本明細書で提供される説明では、多数の具体的な詳細が記載される。しかし、本発明の実施例を、こうした特定の詳細なしで実施し得るということが理解される。他の例では、この説明の理解を不明瞭にしないために、周知の方法、構造、および技術は、詳細に示されていない。
例として、本発明の実施形態による画像処理が図示されるコンテキストは、例示的な手術室および撮像システム(この例では内視鏡システム)の図示によって示される。これは、本発明の実施形態のコンテキストを例示することによってのみ与えられるが、これらの実施形態は、他のタイプの手術室および他のタイプの撮像システムにも適用可能であることが明らかである。
図1は、従来の手術室システムに適用される手術状態の一例を示す図である。天井カメラ5187および手術野カメラ5189は、患者ベッド5183上の患者5185の罹患領域に対して処置を行う外科医(医師)5181の手、および、手術室全体を撮像することができるように、手術室の天井に提供される。
天井カメラ5187および手術野カメラ5189は、調整機能(倍率、焦点距離など)を含んでもよい。照明5191は、手術室の天井に設けられ、少なくとも外科医5181の手に照射する。照明5191は、照射光量、照射光の波長(カラー)、光の照射方向などを適宜調整することができるように構成されていてもよい。
内視鏡手術システム5113、患者ベッド5183、天井カメラ5187、手術野カメラ5189、および照明5191は例えば、オーディオビジュアルコントローラおよび手術室制御部を介して、互いに協働するように接続することができる。手術室には集中操作パネル5111を設けることができ、ユーザは、集中操作パネル5111を介して手術室に存在する装置を適切に操作することができる。
さらに図1を参照して、内視鏡手術システム5113の構成を詳細に説明する。内視鏡手術システム5113は、内視鏡5115と、他の手術ツール5131と、内視鏡5115をその上に支持する支持アーム装置5141と、内視鏡手術のための様々な装置が取り付けられるカート5151とを含む。
内視鏡手術では、腹壁を切開して開腹する代わりに、トロカール5139a〜5139dと呼ばれる複数の管状開口装置を用いて腹壁を穿刺することができる。そして、内視鏡5115の鏡筒5117および他の手術器具5131を、トロカール5139a〜5139dを介して患者5185の体腔内に挿入する。
図示の例では、他の手術器具5131として、気腹チューブ5133、エネルギ処置具5135(高周波電流または超音波振動によって例えば血管を切開、剥離、封止するためのもの)、および鉗子5137が、患者5185の体腔内に挿入されている。
しかしながら、図示された外科用ツール5131は単なる例である。例えば、一対のピンセットまたは開創器のような、内視鏡手術において一般的に使用される種々の外科用ツールが使用され得る。
内視鏡5115によって撮像された患者5185の体腔内の手術領域の画像は、1つのディスプレイ装置5155上に表示することができる。気腹装置5165は、内視鏡5115の視野を確保し、外科医のための作業空間を確保するために、気腹チューブ5133を通して患者5185の体腔内にガスを供給して体腔を膨張させるために使用することができる。
外科医5181は、表示装置5155に表示された手術部位の画像を見ながら、エネルギ処置具5135や鉗子5137を用いて、例えば患部の切除の処置を行うことができる。
内視鏡5115は、患者5185の体腔内に挿入される先端部から所定の長さの領域を有する鏡筒5117と、鏡筒5117の近位端に接続されたカメラヘッド5119とを含むことができる。図1の内視鏡5115は、ハードタイプの鏡筒5117を有するハードミラーとして描かれているが、内視鏡5115は、ソフトタイプの鏡筒5117を有するソフトミラーとして構成されていてもよい。
鏡筒5117の先端には、対物レンズが嵌め込まれる開口部が設けられている。内視鏡5115には光源装置5157が接続されており、光源装置5157で発生した光は、鏡筒5117の内部に延在するライトガイドによって鏡筒5117の先端に導入され、対物レンズを介して患者5185の体腔内の観察対象に照射される。内視鏡5115は、直視鏡であってもよいし、斜視鏡であってもよいし、側面鏡であってもよい。
(カメラヘッドとCCU)
カメラヘッド5119の内部には、光学系および撮像素子が設けられ、観察対象からの反射光(観察光)が光学系によって撮像素子上に集光される。観測光を撮像素子で光電変換して、観測光に応じた電気信号、すなわち観測画像に応じた画像信号を生成する。画像信号は、RAWデータとしてカメラ制御部(CCU)5153に送信することができる。
カメラヘッド5119は、拡大率および焦点距離を調整するために、カメラヘッド5119の光学系を適切に駆動するために、その中に組み込まれた機能を有してもよい。
CCU 5153はCPU(central processing unit)、GPU(graphics processing unit)等を含み、内視鏡5115および/またはディスプレイ装置5155の動作を統括的に制御する。例えば、CCU 5153は、カメラヘッド5119から受信した画像信号に対して、例えば進行工程(デモ処理)の画像信号に基づいて画像を表示するための各種画像処理を行う。CCU 5153は、画像処理が行われた画像信号をディスプレイ装置5155に提供する。CCU 5153は、視聴覚制御部に接続され、画像処理が実行された画像信号を提供してもよい。
さらに、CCU 5153はカメラヘッド5119の駆動を制御するために、カメラヘッド5119に制御信号を送信するための通信ユニットを含んでもよい。制御信号には、例えば、撮像画像のフレームレートを指定する情報、撮像時のEV値を指定する情報、撮像画像の倍率や焦点を指定する情報など、撮像条件に関する情報が含まれていてもよい。
さらに、カメラヘッド5119は、CCU 5153からカメラヘッド5119の駆動を制御するための制御信号を受信するための通信部を含んでもよい。この通信部は、受信された制御信号をカメラヘッド制御部5129に供給する。
フレームレート、EV値、倍率または焦点などの撮像条件は、取得された画像信号に基づいて、CCU 5153によって(例えば、その制御部5177によって)自動的に設定され得ることに留意されたい。すなわち、AE(auto exposure)機能、AF(auto focus)機能、AWB(auto white balance)機能を内視鏡5115に組み込むことができる。
複雑なデジタルビデオ、画像およびデータ処理技術は、手術室の外科医および他の医療専門家に多くの付加価値をもたらすことができる。これらのデジタル技術は、これらの医療専門家によってなされた臨床決定に利益をもたらし、すなわち、臨床決定を改善し、手術室における安全と質を改善する。
しかしながら、複雑な映像、画像およびデータ処理技術は、通常、ビデオストリーム上にレイテンシを導入する。さらに、それらは、手術室において常に歓迎されるとは限らない計算能力を必要とする。
具体的にはデジタルビデオ、画像およびデータ処理技術は、図1に示されるようにCCU 5153において実行され得るが、これらの技術は処理時間を必要とし、これは外科手術手順を実行するために外科スタッフによって使用されるストリーム(例えば、内視鏡ビデオストリーム)における画像フレームの表示にさらなるレイテンシをもたらす。
例えば、画像は装置の実際の動きに対して遅延して表示されてもよく、および/またはビデオはバッファリング時間を必要とする。これは、外科医の手と目との整合を妨害し得る。
さらに、複雑な画像データの場合、CCUに提供される計算能力はノイズの多い、能動的に冷却された計算機によって提供され、この計算機は、典型的には手術室内で歓迎されない。
例えば、CCUは演算機の内部にファンを備えた能動的な冷却を必要とする場合があり、これは、手術中に妨害となり得るノイズを発生させる。また、図1に示すように、手術室内のスペースを占有し、それらは、集塵を避けるための適切なメンテナンス処置を必要とする。
本発明は、手術に関連する画像を処理するのに適した分散画像処理システムおよび方法に関し、画像撮像部で取得された画像データのストリーム(例えば、ビデオストリーム)は、短い待ち時間で受像器(例えば、画像を見るためのディスプレイ)に直接送信することができ、処理部にも送信される。
処理部は、画像自体および撮像条件に関するデータ、または撮像部によって画像ストリームが取得される条件を含む、画像データのストリームから処理情報、例えば、補正パラメータを抽出することができる。
本発明の実施形態における分散画像処理は、デジタルビデオ、画像、およびデータ処理技術、ならびに手術室外のその関連する計算能力を提供する。したがって、処理部が手術室の外部に設けられ、手術室内のノイズを低減し、より多くのスペースを提供する。
処理部は、画像フレームおよび/または画像データのストリームを解析するための計算機、CPU等を含むことができる。
第1の態様では、本発明は、例えば手術中に得られた画像フレームを処理するためのシステムを提供する。図2は、本発明の実施形態による分散処理システム100を示し、このシステムは、(例えば、内視鏡を含む)撮像部115と、分散ノード104を含むデータ伝送すなわちネットワーク媒体101、102、103と、受像器113とを含む手術室110を備える。
データセンター120は、処理部153を含む。データセンター120は、手術室110の外部にある。例えば、データセンター120は、手術センター、診療所、病院などの集中型コンピュータシステムであってもよく、またはその中に含まれていてもよく、手術室から物理的に分離されている。
これは、手術室により多くのスペースが提供され、かつ、コンピュータシステムの動作から(例えば、処理部153の冷却から)手術室にもたらされるノイズがより少なくなるという同時の利点を有する。さらに、手術室110に影響を与えることなく、独立したデータセンター120内のシステムに特化したメンテナンスを提供することができる。
撮像部115は例えば、撮像フレームを取得するためのセンサのような光検出器を備えることができる。例えば、光電素子、CMOS型センサ等を含む画素アレイが使用される。光学系(レンズ、開口等)および電子機器(電荷電圧変換器等)に関連する他の部品も含まれる。
いくつかの実施形態では、撮像部115は、図1を参照して説明したように、内視鏡5115を備えてもよい。内視鏡5115は、例えば、ビデオ入力部を含んでもよい。内視鏡5115は、1つ以上の撮像素子を含んでもよい。
なお、例えば立体視(3D表示)との互換性を確保するために、内視鏡5115のカメラヘッド5119に複数の撮像素子を設けてもよい。この場合、複数のリレー光学系を鏡筒5117の内部に設けて、複数の各撮像素子に観察光を導くことができる。
ただし、本発明は、1つの内視鏡に限定されるものではなく、複数(種)の内視鏡を含むことができる。また、本発明は内視鏡に限定されず、画像フレーム(例えば、ビデオストリーム)および画像データを提供するために、任意の他の撮像部(例えば、手術用顕微鏡)を使用することができる。画像データは、画像フレームに関連付けられており、そこから抽出することができる。
さらに、画像フレームは、撮影された条件(リフレッシュレート、照明など)からさらなる画像データを抽出することができ、これを追加の別個の画像データとして含めることができる。したがって、本発明のシステムは、さらなる画像データを得ることができる他の要素(例えば、図1に示す照明系5191、光源装置5157など)を含むことができる。
送信される画像データは、RAW画像データ(非圧縮画像データ)であってもよいし、データサイズを縮小する圧縮画像データであってもよい。伝送用に符号化された画像の例は、低レイテンシビデオコーデック(LLVC)である。このコーデックによれば、画像データを複数の画像スライスに分割して送信する。ウェーブレットベースの画像圧縮を用いて圧縮することもできる。
送信に使用されるネットワークは、ギガビットイーサネット(登録商標)でもよい。ネットワークの一部には、無線通信を採用することができる。
本発明における処理部153は、1つ以上の中央処理装置(CPU)、グラフィックス処理装置(GPU)などを備えることができる。プロセッサが所定のプログラムに従って動作することにより、本発明の画像処理および検出処理を行うことができる。処理部153が複数のGPUを備える場合には、画像処理が複数のGPUによって並列に行われるように、処理部153が画像信号に関する情報を適宜分割することに留意されたい。
処理部153は、フレームレート、EV値、倍率または焦点などの撮像条件に関連するさらなる画像データを得るための接続部および入力部を備えることができる。したがって、図1の従来技術のシステムのCCU 5153では、画像解析またはカメラ制御のいくつかの態様など、多くの処理負荷が軽減される。
いくつかの実施形態では、CCUが手術室の外側に配置されてもよい。いくつかの実施形態では、CCUの存在は必要とされず、任意の画像処理および分析は、処理部153によって、例えば、データセンター120内の集中処理部によって実行され得る。
本発明の受像器113は、撮像部からの画像フレームと、処理部153によって処理されたデータ、特に、処理部153によって抽出された処理情報(例えば補正パラメータ)との両方を受け取るための装置を含むことができる。受像器は、受信された画像フレームを出力するための1つ以上の出力装置を含む。
例えば、受像器113は、スクリーンまたはプロジェクタのようなディスプレイ、もしくは図1に示すようなプリンタ5169および/またはレコーダ5167を含むことができる。好ましい実施形態では、受像器113は、少なくとも1つのディスプレイ114、例えば、画像フレームを示すためのモニタ、スクリーン、オーバーヘッド・プロジェクタなどを含み、手術、腹腔鏡検査などの間、医療チームを補助する。
例えば、ディスプレイ114は、少なくとも1つの撮像部115によって提供される画像フレームを、例えばビデオストリームとして表示することができる。信号は(例えば、図1に示されるようなCCU 5153によって)前処理されてもよいが、好ましい実施形態では、前処理は最小限のものである。
例えば、ディスプレイ114は、撮像素子(例えばRAW画像)から直接的に画像を表示するか、または直接的にビデオ信号を表示することができる。したがって、画像フレームの表示は、レイテンシなしで行うことができる。
撮像部115(例えば、内視鏡)が4K(水平方向の画素数3840×垂直方向の画素数2160)、8K(水平方向の画素数7680×垂直方向の画素数4320)などの高解像度の撮像の準備ができており、かつ/または3D表示の準備ができている場合、高解像度および/または3D表示の対応する表示が可能なディスプレイ装置を表示装置として使用することができる。
表示装置が4Kまたは8Kのような高解像度の撮像の準備ができている場合、ディスプレイ114として使用されるディスプレイ装置が55インチ以上のサイズを有する場合、より没入型の体験を得ることができる。また、目的に応じて、解像度やサイズが異なる複数の表示装置を設けてもよい。
また受像器113は、最小のレイテンシで処理部から(前述のように補正パラメータを含む)データを受け取る。受像器113は、受信された処理情報、例えば、前の画像フレームから計算された補正パラメータに基づいて、受信された画像フレームに(例えば、ビデオストリームに)補正を適用することによって、補正された画像フレームを表示する。
受像器113は例えば、補正アルゴリズムまたはソフトウェアに従って画像フレームを操作し、処理部153によって外部から抽出された処理情報を使用することによって、処理情報、例えば、補正パラメータに基づいて補正を適用することができる、例えば、小型プロセッサまたはGPUのような更なる処理部を含むことができる画像補正部(画像補正器)112を含んでもよい。
画像補正部は、ディスプレイ側にある必要は特になく、撮像部115から画像フレームを受け取り、処理部153からの情報を処理できるならば、どこにでも配置することができる。例えば、このような画像補正部112は、図1を参照して説明したようにCCU 5153の一部であってもよいし、分散ノード104に含まれていてもよい。
画像補正部112は、撮像部115から送られてくる、例えばRAWデータ形式の画像フレームに対して種々の画像処理を施すことができる。これらの画像処理は、例えば現像処理、および/または拡大処理(電子ズームプロセス)などの種々の公知の信号処理を含み、画質改善プロセス(帯域幅強調処理、超解像処理、ノイズ低減処理、および/または画像安定化処理)が、例えば、外部処理部153によって得られた補正パラメータのような処理情報に基づいて行われる。
オートフォーカス、自動露出または自動ホワイトバランスなどの他の処理は、画像フレームに基づいて、または、外部処理部153から受け取ったデータおよび処理情報、例えば補正パラメータに基づいて、画像補正部112で行われる。
したがって、画像フレームのリアルタイム表示は、小さなレイテンシを有する補正と組み合わされる。処理情報、例えば補正パラメータが外部から導出される最初の画像フレームが表示されてもよく、処理情報、例えば補正パラメータは、表示された最初の画像フレームの後続に表示される画像フレームにも適用される。
これは、手術プロセスまたは外科医の手と目の整合を妨げない。いくつかの実施形態では、補正のレイテンシが目立たない。例えば、補正は、撮像部および手術装置の動作よりも速い速度で行うことができる。
処理情報、例えば補正パラメータを抽出することは、通常、計算負荷の大部分を占めるプロセスであり、手術室で得られた画像フレームおよび画像データを使用して手術室の外部で行われる。
さらに、受像器113(例えば、ディスプレイ114)は、スワップ、フリップ、色調整、コントラスト調整、および異なる視点間(例えば、2Dディスプレイと3Dディスプレイとの間)の切り替えなど、ディスプレイ装置上に表示するための様々な動作を実行するためのグラフィックユーザインターフェース(GUI)を含むことができる。
本発明の実施形態では、フリップおよびカラーまたはコントラスト調整などのいくつかの調整が処理部153のおかげで、ほとんど待ち時間をかけずに、画像補正の一部として自動的に行われる。
撮像部115と受像器113との間にはデータ通信が存在する。また、データ通信は、撮像部115と処理部153との間、および、処理部153と受像器113との間にも存在する。データ通信は、接続部101、102、103などのデータ送信手段によって提供することができる。例えば、無線接続を提供することができる。
好ましくは、光コネクタ、データバス、データケーブルなどの有線接続が使用される。異なるユニットと受像器との間で光データ信号を送信するために光接続が使用される場合、光信号を電気信号に変換するための光電変換モジュールが、異なるユニットに設けられてもよい。
好ましい実施形態では、少なくとも処理部153から受像器113に送信されるデータは、電子データである。この接続は好ましくは、感知できるレイテンシをほとんどまたは全くもたらさないデータネットワークを形成する。
ローカル・エリア・ネットワークの既知の部品(ネットワーク・アダプタ、シールドまたは非シールド・ケーブル、ケーブル・ポート、スプリッタなどのネットワーク媒体)を使用して、システムの異なる要素間の接続を提供することができる。
いくつかの実施形態では、図2および図3に示すような分散ノード104を含めることができる。分散ノード104は、ネットワーク・スイッチャまたはネットワーク制御マネージャとすることができる。いくつかの実施形態では、分散ノード104は、手術室110の外部の処理部153から、処理情報、例えば補正パラメータを含むデータを受信し、そのデータを受像器113に送信することができる。
図2に示す特定の実施形態では、撮像部115が、画像フレームを受像器113に直接供給し、画像フレームおよび/または画像データをデータセンター120の処理部153に直接供給することができる。これは、例えば、情報を処理部153および受像器113に送るためのスプリッタを含む、前述のような接続部102、103を介して行うことができる。
図3に示す代替実施形態では、システム200が画像フレーム(および任意選択で画像データ(図示せず))を、接続(接続部)106を介して撮像部115から受け取り、それらをさらなる接続(接続部)107を介して処理部153に送る分散ノード104を含む。前述のように、撮像部115は、接続部102を介して画像フレームを受像器113に直接供給することができるが、撮像部115と処理部153との間の通信は、直接接続ではなく、分散ノード104を介して行われる。
その一例が図5にも示されており、図5は、ギガビットスイッチャである異なる入力手段、別の出力手段、および分配ノードを示している。直接接続とは、待ち時間(レイテンシ)をさらに増加させる可能性のある中間ノードなしで、1つのケーブルのような単一の伝送媒体を介した2つのユニット間の直接的なデータ転送の手段を意味する。
なお、撮像部115と分散ノード104、分散ノード104と処理部153との間のプロキシ供給では、15〜30Mbps(mega-bit per second)で、レイテンシは100ミリ秒以下である。画像補正および/または処理情報、例えば補正パラメータは、最小限のレイテンシで提供される。
図3の場合、(処理情報を含む)データ送信の遅延は、処理時間およびレイテンシに依存し、これは、例えば、16ms〜100msの間にある。しかしながら、直接的な接続102を介した撮像部115と受像器113との間の画像フレーム伝送のレイテンシは、非常に小さく、例えば600Mbpsから12Gbpsで16ms未満である。
図2の実施形態では、処理部153は、撮像部115からRAW画像フレームを受け取り、受像器113に送ることができる少なくとも1つの処理情報を分析して抽出し、撮像部115から受け取るさらなる画像フレームに対して補正を実行する。
本発明の実施形態では、図3に示すように(ただし、図2の実施形態にも同様に適用可能)、処理部153は、さらなる接続(接続部)108を介して、画像取得条件に関連する別個の画像データを受け取ることができる。画像データは、撮像部115から、画像フレームから(例えば、画像フレームのメタデータとして)、動作デバイスのパラメータを感知するセンサから、手術室等のさらなる撮像部5187から、または他の種類のセンサから取得されてもよい。
処理情報、例えば補正パラメータは、処理部153によって画像データおよびフレームから抽出される。これらのパラメータは、前に説明したように、受像器113、または特に、撮像部115から受け取った任意のさらなる画像フレームに対して補正を実行することができる画像補正部112に送られる。
本発明は、図1に示すシステムの部品に適用することができる。例えば、画像データの別の例は、患者の手術領域の照明条件を含むことができる。図1において、光源装置5157は例えば、LED(light emitting diode)やレーザー光源等の光源を備え、手術部位を撮像するための照射光を内視鏡5115に供給する。
本発明の実施形態では、LEDまたはレーザー、もしくはVCSELを用いて光源が放射する光の強度および波長(カラー)を画像データとして使用し、処理部153に送ることができる。画像データは、センサで収集することも、光源装置から直接収集することもできる。
図2および図3には分散ノードが示されているが、本発明は分散ノード104の存在に限定されるものではなく、受像器113と処理部153との間の接続は直接接続であってもよいし、スプリッタなどを含んでいてもよい。
(実施例1-回転補正)
本発明の実施形態によるシステムは、内視鏡検査における回転補正に適用することができる。
処理部153は、画像フレームを受け取ることができ、撮像部115として機能する内視鏡のカメラの、所定のベースラインに対する回転角度を抽出することができる。これは、例えば、画像内のオブジェクトを追跡し、このオブジェクトの回転角度を計算するアルゴリズムを用いて実施することができる。
この角度は、補正すなわち補正パラメータとして受像器113に送られる。受像器113は、撮像部115から画像フレームとして低レイテンシのビデオストリーム、および、補正すなわち補正パラメータとして回転角度を受け取り、この角度で逆方向に、低レイテンシのビデオストリームを回転させて、画像の水平線を安定させる。
なお、この場合には、画像フレームから補正パラメータを抽出するので、要素数や演算が簡略化される。しかしながら、本発明はこれに限定されず、実施形態において、処理部は、追加的にまたは代わりに、外部入力部、例えば、画像が撮影されている条件に関するデータを含む画像データを受信してもよい。
画像データは、内視鏡の回転を直接(例えば、機械的または光学的に)検出するセンサなどによって得られる。
結果として、本実施例1では逆回転が小さいレイテンシで適用されるので、1つのフレームで得られた角度で、後続のフレームが補正されるが、画像フレーム(例えば、ビデオストリーム)の表示自体は、処理部153で行われる分析における追加のレイテンシを被らない。
(実施例2-画質向上プロセッサと組み合わせた色分析)
本発明の実施形態によるシステムは、内視鏡検査を含む一般的な画像およびビデオソースにおける画質向上プロセッサに適用することができる。
処理部153は、撮像部115から画像フレームを受け取り、画像内の色を分析して、ディスプレイ114として機能するモニタ上に画像を表示するために、どの画質向上パラメータが適切であるか(例えば、最も適しているか)を決定する。これらのパラメータには、画像の色補正のためのカラーマトリクス情報、ノイズ低減の度合い、および画像処理に関連するその他の情報を含めることができる。
画質向上パラメータは、補正パラメータとして受像器113に送られる。受像器113は、撮像部115から画質向上パラメータおよび後続の画像フレームを受け取り、これらの画質向上パラメータをフレームに適用するために、対応するコマンドをディスプレイ(例えば、モニタ)に送る。
その結果、システムは、画像に適切な画質向上パラメータを自動的に適用し、手術中に画像の内容が変化した場合、モニタは、画質向上設定を自動的に調整する。
本発明における態様は、全システムを参照して説明されてきたが、本発明はさらに、処理システムにおいて上述したような機能を実行するように構成された処理部、および、処理システムにおいて上述したような機能を実行するように構成された受像器に関する。
他の例では、画像分析および注釈が実行される。この例では、処理部153が特定の解剖装置部位すなわち解剖装置目印(例えば、容器、腫瘍、外科装置(例えば鉗子)の位置)を含む画像を受信し、そのような解剖装置目印の位置を認識する。この認識は、機械学習ベースのアルゴリズムまたは通常のパターン認識によって実行することができる。
次に、処理部153は、画像に重ね合わせるための位置情報および/または注釈画像を受像器113に送る。このような認識処理には、大量の計算資源および参照データとして更新されるデータベースを必要とするため、データセンター(処理部153)側で行うことが大きな利点となる。
他の例は、画像安定化である。
この場合、画像処理部153では、画像のグローバル動きベクトルが検出され、安定化パラメータが受像器に提供される。
第2の態様では、本発明は、画像、例えば、手術に関連する画像を分配して処理する方法を提供する。
この方法は、画像フレームを取得するステップと、その後、画像フレームを受像器に送信するステップと、その画像フレームを別々に処理するステップとを含み、それによって、少なくとも1つの補正パラメータを抽出する。
本方法は、画像フレームから抽出された補正パラメータを、その後に取得された任意の画像フレームに適用するステップをさらに含む。
補正は、取得された画像フレームに対してレイテンシを伴って適用されるが、前の画像フレームから取得された補正パラメータを使用すると、表示は遅延されない(例えば、ビデオストリームは、レイテンシを受けない)。
前の画像フレームがない場合には、最初に補正や処理結果を反映させずに画像を表示する。補正パラメータが所定のレイテンシを与えられると、正しい画像が表示される。したがって、必要最小限の画像(内視鏡からのオリジナル画像)が、遅延なく表示されるように維持される一方で、補正または処理パラメータが利用可能になるとすぐに、表示された画像が豊かになる。
観察条件の検出可能な変化が、処理時間よりも速く変化しないので、この補正は、許容品質水準を有する。さらに、新しく得た画像フレームを用いて、補正パラメータを連続的に適応させることができる。
図4は、本発明の実施形態による、破線を有する任意のステップを含む方法を示す。
この方法は、第1のステップにおいて最初の画像フレームを取得するステップ201と、この最初の画像フレームを受像器に送信するステップ202とを含み、受像器では例えば、最初の画像フレームを表示するステップ203によって、最初の画像フレームを出力することができる。
画像を受像器に送信するステップ202と同時であってもよい、さらなる1つのステップが、少なくとも1つの補正パラメータを抽出するステップ204を含み、ステップ204は、画像フレームを外部処理部153に送信するステップ214と、補正パラメータを抽出するためにフレームを分析するステップ224とを含んでもよい。
これは、所望の補正のタイプに応じて、処理部内のアルゴリズム、プログラム、または専用ソフトウェアによって行うことができる。
任意選択で、この方法は例えば、画像フレームが取得された条件に関連するさらなる画像データを取得するステップ205を含んでもよい。この付加的な画像データは例えば、画像フレームの分析ステップ224と共に、補正パラメータを抽出するために使用することができる。
続いて、この方法は、さらなる画像フレームを取得するステップ206と、それを受像器に送信するステップ207とを含む。補正された画像フレームは、前のフレームに対応する以前に抽出された補正パラメータを、そのさらなるフレームに適用するステップ208によって得られる。
これは、補正パラメータを受像器のレジスタに送り、受像器に到達する次の画像フレームに補正パラメータを適用して操作することによって行われる。この操作は、本発明の第1の態様を参照して説明した画像補正器を用いて行われる。
補正された画像フレームは、出力部に送信され(ステップ209)、例えば、この方法は、補正されたフレームを表示するステップ219を含んでもよい。
したがって、補正パラメータが前のフレームから抽出されたので、補正パラメータを抽出するためにさらなる画像フレームを処理する必要がない。
さらなるフレームが受像器に送信され、補正され、場合によっては表示される一方で、本方法は、任意選択で、任意の後続のフレームを補正するために使用される画像データを取得して、新しい補正パラメータを抽出するステップを含んでもよい。
本方法は、所望される限り継続する。視覚化が停止すると、本方法は終了する(ステップ210)。
本発明は、図4を参照して説明した方法に限定されるものではない。例えば、後続の画像フレームに適用される第1の補正パラメータを取得する前に、いくつかのフレーム(最初の画像フレーム)が補正なしで表示されてもよい。
追加または代替として、少なくとも1つの補正パラメータが、いくつかの画像フレームから抽出されてもよいが、他の画像フレームから抽出されなくてもよく、例えば、補正パラメータを抽出するステップは、所定のフレーム数においてスキップされてもよく、したがって、計算資源および遅延(ラグ)を低減する。
画像の品質が悪影響を受けないように適切な数のスキップフレームを設定するために、処理時間および送信待ち時間をディスプレイのフレームレートと比較することができる。例えば、ビデオストリームが30 fpsのフレームレートを有し、レイテンシが約40msである場合、補正値の抽出は、2つのフレーム毎に行うことができる。
本発明は、処理時間および送信待ち時間(レイテンシ)よりも、はるかに短い非常に短いレイテンシで実行される、画像フレーム分析の分散および画像表示からの補正パラメータの抽出を提供する。さらに、画像補正は、受像器113内に設けることができ、補正パラメータのみを処理部153から受像器113に送信すればよいので、補正された画像を処理部153から受像器113に送信する必要がない。
これにより、処理部153と受像器113との間で有線または無線であり得る接続部101により、伝送されるデータパッケージのサイズが低減される。
内視鏡画像に基づいて説明したが、本発明は内視鏡画像に限定されず、他のタイプの画像ソース、すなわち手術用顕微鏡画像、外視鏡からの画像、手術用カメラまたは手術用ルームカメラなどからの画像を使用することができる。
要約すると、本発明は、患者を手術するために外科医によって使用されるビデオストリームに待ち時間をもたらさない映像、画像、およびデータ処理技術を提供する。さらに、計算能力は、適切な冷却および保守手順を用いて、データルーム内に配置されたマシンにオフロードすることができる。
以下の番号付けされた段落は、本技術のさらなる例示的な態様および特徴を提供する。
(1)手術画像を処理するための処理システム(100、200)であって、
- 手術画像フレームおよび画像データを取得するための少なくとも1つの撮像部(115)と、
- 表示されるべき手術画像フレームを受け取るための少なくとも1つの受像器(113)と、
- 手術画像フレームを受け取るために前記撮像部(115)へのネットワーク(103、106、107)に接続された処理部(153)と
を具備し、
前記処理部は、手術画像フレームを処理し、手術画像フレームの少なくとも1つの処理情報を抽出するように構成され、
前記処理部は、前記少なくとも1つの受像器に、少なくとも1つの補正パラメータを提供するために、前記少なくとも1つの受像器にさらに接続され、
前記処理システムは、手術画像フレームを前記受像器に直接送るために、前記少なくとも1つの撮像部と前記少なくとも1つの受像器との間に接続部(102)をさらに備える
処理システム。
(2)(1)に記載の処理システムであって、
前記処理部(153)は、手術室内に配置された前記少なくとも1つの撮像部(115)および前記少なくとも1つの受像器(113)から分離された、手術室の外部に配置された外部処理部である
処理システム。
(3)(1)または(2)に記載の処理システムであって、
前記処理部(153)は、手術画像フレームおよびさらなる画像データから補正パラメータを提供するように適合され、
前記処理部は、さらなる画像データを受け取るための入力部をさらに含む
処理システム。
(4)(1)から(3)のいずれか1つに記載の処理システムであって、
前記少なくとも1つの受像器(113)は、少なくとも1つの補正パラメータを画像フレームに適用するための手段(112)を含む
処理システム。
(5)(1)から(4)のいずれか1つに記載の処理システムであって、
前記少なくとも1つの撮像部(115)は、手術用ビデオ入力部を備え、
その画像フレームは、手術用ビデオストリームを含む
処理システム。
(6)(1)から(5)のいずれか1つに記載の処理システムであって、
前記受像器(113)は、手術画像フレームを表示するためのディスプレイ(114)を含む
処理システム。
(7)(1)から(6)のいずれか1つに記載の処理システムであって、
前記少なくとも1つの撮像部(115)は、内視鏡を含む
処理システム。
(8)(1)から(7)のいずれか1つに記載の処理システムであって、
前記処理システムは、ギガビットイーサネット経由で接続される
処理システム。
(9)(1)から(8)のいずれか1つに記載の処理システムであって、
前記処理システムにおいて送信される画像データは、スライスベースの送信モードで送信される
処理システム。
(10)(1)から(9)のいずれか1つに記載の処理システムであって、
前記処理システムにおいて送信される画像データは、送信前に圧縮される
処理システム。
(11)画像を処理する方法であって、
- 手術画像フレームを取得するステップ(201、206)と、
- 少なくとも1つの手術画像フレームを受像器に送信するステップ(202、207)と、
- 少なくとも1つの手術画像フレームを別個に処理し、それによって少なくとも1つの補正パラメータを抽出するステップ(204)と、
- その後、前記少なくとも1つの補正パラメータを、任意のさらなる手術画像フレームに適用すること(208)によって、前記受像器に送信される任意のさらなる手術画像フレームを補正するステップと
を含む
方法。
(12)(11)に記載の方法であって、
前記受像器において受信された手術画像フレームを表示するステップ(219)をさらに含む
方法。
(13)(11)または(12)に記載の方法であって、
画像データを取得するステップ(205)をさらに含み、
手術画像フレームを処理して少なくとも1つの処理情報を抽出するステップ(204)は、手術画像フレームと、手術画像フレームを取得する条件に関連する画像データとを処理することを含む
方法。
(14)(11)から(13)のいずれか1つに記載の方法であって、
手術画像フレームを取得するステップ(201、206)は、手術用ビデオストリームを取得することを含む
方法。
(15)(11)から(14)のいずれか1つに記載の方法であって、
少なくとも1つの処理情報を抽出するステップ(204)は、色補正、コントラスト補正、照明情報、変位および画像回転のいずれかまたは全てを抽出することを含む
方法。
(16)手術画像を処理するための処理部(153)であって、
- 手術画像フレームおよび画像データを取得するために、少なくとも1つの撮像部(115)から手術画像フレームおよび画像データを受信し、
- 手術画像フレームを処理して手術画像フレームの少なくとも1つの処理情報を抽出し、
- 前記少なくとも1つの処理情報を、少なくとも1つの受像器(113)に提供して、前記少なくとも1つの撮像部から前記少なくとも1つの受像器に直接受信された手術画像フレームに、前記少なくとも1つの処理情報を適用する
ように構成される
処理部。
(17)表示されるべき手術画像フレームを受信するための受像器(113)であって、
少なくとも1つの撮像部(115)から直接手術画像フレームを受信し、かつ、前記少なくとも1つの撮像部から受信された手術画像フレームに基づいて、プロセッサによって決定された少なくとも1つの処理情報を受信するように構成され、
前記受像器は、少なくとも1つの撮像部から直接受信された手術画像フレームに、前記少なくとも1つの処理情報を適用するように構成される
受像器。

Claims (17)

  1. 手術画像を処理するための処理システム(100、200)であって、
    - 手術画像フレームおよび画像データを取得するための少なくとも1つの撮像部(115)と、
    - 表示されるべき手術画像フレームを受け取るための少なくとも1つの受像器(113)と、
    - 手術画像フレームを受け取るために前記撮像部(115)へのネットワーク(103、106、107)に接続された処理部(153)と
    を具備し、
    前記処理部は、手術画像フレームを処理し、手術画像フレームの少なくとも1つの処理情報を抽出するように構成され、
    前記処理部は、前記少なくとも1つの受像器に、少なくとも1つの補正パラメータを提供するために、前記少なくとも1つの受像器にさらに接続され、
    前記処理システムは、手術画像フレームを前記受像器に直接送るために、前記少なくとも1つの撮像部と前記少なくとも1つの受像器との間に接続部(102)をさらに備える
    処理システム。
  2. 請求項1に記載の処理システムであって、
    前記処理部(153)は、手術室内に配置された前記少なくとも1つの撮像部(115)および前記少なくとも1つの受像器(113)から分離された、手術室の外部に配置された外部処理部である
    処理システム。
  3. 請求項2に記載の処理システムであって、
    前記処理部(153)は、手術画像フレームおよびさらなる画像データから補正パラメータを提供するように適合され、
    前記処理部は、さらなる画像データを受け取るための入力部をさらに含む
    処理システム。
  4. 請求項1に記載の処理システムであって、
    前記少なくとも1つの受像器(113)は、少なくとも1つの補正パラメータを画像フレームに適用するための手段(112)を含む
    処理システム。
  5. 請求項1に記載の処理システムであって、
    前記少なくとも1つの撮像部(115)は、手術用ビデオ入力部を備え、
    その画像フレームは、手術用ビデオストリームを含む
    処理システム。
  6. 請求項1に記載の処理システムであって、
    前記受像器(113)は、手術画像フレームを表示するためのディスプレイ(114)を含む
    処理システム。
  7. 請求項1に記載の処理システムであって、
    前記少なくとも1つの撮像部(115)は、内視鏡を含む
    処理システム。
  8. 請求項1に記載の処理システムであって、
    前記処理システムは、ギガビットイーサネット経由で接続される
    処理システム。
  9. 請求項1に記載の処理システムであって、
    前記処理システムにおいて送信される画像データは、スライスベースの送信モードで送信される
    処理システム。
  10. 請求項1に記載の処理システムであって、
    前記処理システムにおいて送信される画像データは、送信前に圧縮される
    処理システム。
  11. 画像を処理する方法であって、
    - 手術画像フレームを取得するステップ(201、206)と、
    - 少なくとも1つの手術画像フレームを受像器に送信するステップ(202、207)と、
    - 少なくとも1つの手術画像フレームを別個に処理し、それによって少なくとも1つの補正パラメータを抽出するステップ(204)と、
    - その後、前記少なくとも1つの補正パラメータを、任意のさらなる手術画像フレームに適用すること(208)によって、前記受像器に送信される任意のさらなる手術画像フレームを補正するステップと
    を含む
    方法。
  12. 請求項11に記載の方法であって、
    前記受像器において受信された手術画像フレームを表示するステップ(219)をさらに含む
    方法。
  13. 請求項11に記載の方法であって、
    画像データを取得するステップ(205)をさらに含み、
    手術画像フレームを処理して少なくとも1つの処理情報を抽出するステップ(204)は、手術画像フレームと、手術画像フレームを取得する条件に関連する画像データとを処理することを含む
    方法。
  14. 請求項11に記載の方法であって、
    手術画像フレームを取得するステップ(201、206)は、手術用ビデオストリームを取得することを含む
    方法。
  15. 請求項11に記載の方法であって、
    少なくとも1つの処理情報を抽出するステップ(204)は、色補正、コントラスト補正、照明情報、変位および画像回転のいずれかまたは全てを抽出することを含む
    方法。
  16. 手術画像を処理するための処理部(153)であって、
    - 手術画像フレームおよび画像データを取得するために、少なくとも1つの撮像部(115)から手術画像フレームおよび画像データを受信し、
    - 手術画像フレームを処理して手術画像フレームの少なくとも1つの処理情報を抽出し、
    - 前記少なくとも1つの処理情報を、少なくとも1つの受像器(113)に提供して、前記少なくとも1つの撮像部から前記少なくとも1つの受像器に直接受信された手術画像フレームに、前記少なくとも1つの処理情報を適用する
    ように構成される
    処理部。
  17. 表示されるべき手術画像フレームを受信するための受像器(113)であって、
    少なくとも1つの撮像部(115)から直接手術画像フレームを受信し、かつ、前記少なくとも1つの撮像部から受信された手術画像フレームに基づいて、プロセッサによって決定された少なくとも1つの処理情報を受信するように構成され、
    前記受像器は、少なくとも1つの撮像部から直接受信された手術画像フレームに、前記少なくとも1つの処理情報を適用するように構成される
    受像器。
JP2021503740A 2018-07-24 2019-07-24 手術室における分散型画像処理システム Pending JP2021531883A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP18185365.6 2018-07-24
EP18185365 2018-07-24
PCT/EP2019/069948 WO2020020959A1 (en) 2018-07-24 2019-07-24 Distributed image processing system in operating theater

Publications (1)

Publication Number Publication Date
JP2021531883A true JP2021531883A (ja) 2021-11-25

Family

ID=63047143

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021503740A Pending JP2021531883A (ja) 2018-07-24 2019-07-24 手術室における分散型画像処理システム

Country Status (4)

Country Link
US (1) US11896195B2 (ja)
EP (1) EP3813636A1 (ja)
JP (1) JP2021531883A (ja)
WO (1) WO2020020959A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210306244A1 (en) * 2020-03-26 2021-09-30 Infinite Arthroscopy, Inc. Limited Signal latency detection system
US20230100302A1 (en) * 2020-09-01 2023-03-30 Sony Group Corporation Medical information control system, signal processing device, and medical information control method
US20220217286A1 (en) * 2021-01-03 2022-07-07 Asensus Surgical Us, Inc. Correction of horizon tilt in an endoscopic image

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050033117A1 (en) * 2003-06-02 2005-02-10 Olympus Corporation Object observation system and method of controlling object observation system
JP2008253586A (ja) 2007-04-06 2008-10-23 Hoya Corp 内視鏡支援システム
GB2496418A (en) 2011-11-10 2013-05-15 Esaturnus Ultra low latency video communication.
JP2014003990A (ja) 2012-06-21 2014-01-16 Olympus Medical Systems Corp 内視鏡装置および内視鏡観察システム
JP2014008126A (ja) 2012-06-28 2014-01-20 Olympus Medical Systems Corp 内視鏡画像処理システム
US10555393B1 (en) * 2012-08-17 2020-02-04 Kuna Systems Corporation Face recognition systems with external stimulus
JP2014128423A (ja) 2012-12-28 2014-07-10 Olympus Medical Systems Corp 内視鏡システム
US9414740B2 (en) * 2013-03-14 2016-08-16 Arthrex, Inc. Endoscopic imaging system and method for adapting to remote stimulus
US9295372B2 (en) * 2013-09-18 2016-03-29 Cerner Innovation, Inc. Marking and tracking an area of interest during endoscopy
CN105519107B (zh) 2013-10-18 2018-06-19 奥林巴斯株式会社 图像信号输出装置以及图像信号收发系统
US10058247B2 (en) * 2015-05-20 2018-08-28 Comprehensive Telemedicine Multipurpose diagnostic examination apparatus and system
JP6505527B2 (ja) 2015-06-30 2019-04-24 株式会社トプコン 眼科用顕微鏡
CN113384360A (zh) 2015-10-02 2021-09-14 索尼公司 医疗控制设备、控制方法、程序以及医疗控制系统
WO2017075687A1 (en) * 2015-11-03 2017-05-11 Synaptive Medical (Barbados) Inc. Dual zoom and dual field-of-view microscope
US10398514B2 (en) * 2016-08-16 2019-09-03 Insight Medical Systems, Inc. Systems and methods for sensory augmentation in medical procedures
WO2018097831A1 (en) * 2016-11-24 2018-05-31 Smith Joshua R Light field capture and rendering for head-mounted displays
US11785180B2 (en) * 2017-09-11 2023-10-10 Reelay Meetings, Inc. Management and analysis of related concurrent communication sessions
EP4268757A3 (en) * 2017-10-06 2023-12-06 Advanced Scanners, Inc. Generation of one or more edges of luminosity to form three-dimensional models of objects
US20190201118A1 (en) * 2017-12-28 2019-07-04 Ethicon Llc Display arrangements for robot-assisted surgical platforms
US10987178B2 (en) * 2017-12-28 2021-04-27 Ethicon Llc Surgical hub control arrangements
JPWO2019181432A1 (ja) * 2018-03-20 2021-04-01 ソニー株式会社 手術支援システム、情報処理装置、及びプログラム
WO2021095659A1 (ja) * 2019-11-15 2021-05-20 ソニーグループ株式会社 医療イメージングシステム、医療イメージング方法及び画像処理装置
US11284963B2 (en) * 2019-12-30 2022-03-29 Cilag Gmbh International Method of using imaging devices in surgery
WO2021216524A1 (en) * 2020-04-20 2021-10-28 Avail Medsystems, Inc. Systems and methods for medical resource intelligence
US20220217286A1 (en) * 2021-01-03 2022-07-07 Asensus Surgical Us, Inc. Correction of horizon tilt in an endoscopic image

Also Published As

Publication number Publication date
WO2020020959A1 (en) 2020-01-30
US11896195B2 (en) 2024-02-13
US20210274998A1 (en) 2021-09-09
EP3813636A1 (en) 2021-05-05

Similar Documents

Publication Publication Date Title
EP3534620B1 (en) Signal processing device and method, and program
US11896195B2 (en) Distributed image processing system in operating theater
KR20190109406A (ko) 영상 신호 처리 장치, 영상 신호 처리 방법, 및 다이나믹 레인지 압축용 프로그램
US11729519B2 (en) Video signal processing apparatus, video signal processing method, and image-capturing apparatus
US11496662B2 (en) Image processing apparatus, image processing method, and image pickup system for displaying information associated with an image
US20220148128A1 (en) Image processing apparatus, image processing method, and program
CN109937574B (zh) 发送设备、发送方法和内容分发系统
US11883120B2 (en) Medical observation system, medical signal processing device, and medical signal processing device driving method
CN109964487B (zh) 管理装置和管理方法
US11671872B2 (en) Communication system and transmission apparatus
US11516127B2 (en) System controller, controlling an IP switch including plural SDN switches
WO2021230001A1 (ja) 情報処理装置及び情報処理方法
CN110771102B (zh) 通信系统和控制设备
US20220046248A1 (en) Reception apparatus, reception method, and image processing system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220722

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20220722

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230822

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231020

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20240109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240402

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20240411