JP2021121095A - コンピュータプログラム及び映像再生方法 - Google Patents

コンピュータプログラム及び映像再生方法 Download PDF

Info

Publication number
JP2021121095A
JP2021121095A JP2021027652A JP2021027652A JP2021121095A JP 2021121095 A JP2021121095 A JP 2021121095A JP 2021027652 A JP2021027652 A JP 2021027652A JP 2021027652 A JP2021027652 A JP 2021027652A JP 2021121095 A JP2021121095 A JP 2021121095A
Authority
JP
Japan
Prior art keywords
bleeding
playback
surgical field
time
reproduction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021027652A
Other languages
English (en)
Other versions
JP6887193B1 (ja
Inventor
直 小林
Sunao Kobayashi
直 小林
尚紀 北村
Hisanori Kitamura
尚紀 北村
勇太 熊頭
Yuta KUMAZU
勇太 熊頭
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Anaut Inc
Original Assignee
Anaut Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP2020573056A external-priority patent/JP6875038B1/ja
Application filed by Anaut Inc filed Critical Anaut Inc
Priority to JP2021065304A priority Critical patent/JP2021119986A/ja
Application granted granted Critical
Publication of JP6887193B1 publication Critical patent/JP6887193B1/ja
Publication of JP2021121095A publication Critical patent/JP2021121095A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/10Computer-aided planning, simulation or modelling of surgical operations
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B34/35Surgical robots for telesurgery
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/231Content storage operation, e.g. caching movies for short term storage, replicating data over plural servers, prioritizing data for deletion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/238Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
    • H04N21/2387Stream processing in response to a playback request from an end-user, e.g. for trick-play
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/78Television signal recording using magnetic recording
    • H04N5/782Television signal recording using magnetic recording on tape
    • H04N5/783Adaptations for reproducing at a rate different from the recording rate
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • H04N5/93Regeneration of the television signal or of selected parts thereof

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • General Health & Medical Sciences (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Pathology (AREA)
  • Biophysics (AREA)
  • Physics & Mathematics (AREA)
  • Robotics (AREA)
  • Optics & Photonics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Endoscopes (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Television Signal Processing For Recording (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

【課題】手術中のイベントを理解しやすくすることができるようにする。【解決手段】コンピュータに、鏡視下手術の術野を時系列的に撮像して得られる術野映像を取得し、取得した術野映像に基づき、所定量以上の出血の有無を判断し、所定量以上の出血ありと判断した場合、出血開始前の時点から出血後の時点までを含む時間範囲の部分映像を、通常再生、スロー再生、コマ送り再生、及び逆再生の少なくとも2つを切り替えながら繰り返し再生する処理を実行させる。【選択図】図1

Description

本発明は、コンピュータプログラム及び映像再生方法に関する。
特許文献1では、手術動画の一部を再生することが提案されている。
特開2011−36370号公報
特許文献1では、特徴点から再生を行うことで必要な部分を確認することが可能となるものの、出血などのインシデントが発生したシーンを単に再生しても、インシデントの原因となる部分を把握することは難しいことが多い。
本発明はこのような背景を鑑みてなされたものであり、手術中のイベントを理解しやすくする技術を提供することを目的とする。
本発明の一態様におけるコンピュータプログラムは、コンピュータに、鏡視下手術の術野を時系列的に撮像して得られる術野映像を取得し、取得した術野映像に基づき、所定量以上の出血の有無を判断し、所定量以上の出血ありと判断した場合、出血開始前の時点から出血後の時点までを含む時間範囲の部分映像を、通常再生、スロー再生、コマ送り再生、及び逆再生の少なくとも2つを切り替えながら繰り返し再生する処理を実行させる。
本発明によれば、手術中のイベントを理解しやすくすることができる。
本実施の形態に係る手術システムの概略を説明する概念図である。 本実施の形態に係る手術システムの概略を説明するブロック図である。 制御ユニット30のハードウェア構成例を説明するブロック図である。 制御ユニット30のソフトウェア構成例を説明するブロック図である。 内視鏡カメラ13から取得する映像Mの構成の概略を説明するブロック図である。 イベントの発生を説明する図である。 イベント発生時のフレームF1を説明する図である。 イベント発生時点のフレームF1の一例を示す図である。 ワイプ画像Wが表示されたディスプレイ21の例を示す図である。 本実施形態の手術システムにおいて実行される処理について説明する図である。 第2実施形態に係る制御ユニット30のソフトウェア構成例を示す図である。 第2実施形態に係る処理の流れを示す図である。 第3実施形態に係る制御ユニット30のソフトウェア構成例を示す図である。 第3実施形態に係る制御ユニット30の処理の流れを説明する図である。 第4実施形態に係る制御ユニット30のソフトウェア構成例を示す図である。 第4実施形態に係る制御ユニット30の処理の流れを説明する図である。 第5実施形態に係る手術システム1の全体構成を示す図である。 第6実施形態に係る制御ユニット30の処理の流れを説明する図である。 再生方式の一例を説明する図である。 第7実施形態に係る制御ユニット30の処理の流れを説明する図である。 出血場面を示すサムネイルの表示例を示す図である。 第8実施形態に係る制御ユニット30の処理の流れを説明する図である。 出血量の時系列変化を示すグラフの表示例を示す図である。 10実施形態に係る制御ユニット30の処理の流れを説明する図である。
<発明の概要>
本発明の実施形態の内容を列記して説明する。本発明は、たとえば、以下のような構成を備える。
[項目1]
鏡視下手術の術野を撮影した動画像を取得する動画像取得部と、
前記動画像を解析して前記術野における所定のイベントを検出するイベント検出部と、
前記イベントの検出時点を含む期間の部分動画像を前記動画像から抽出する部分動画像抽出部と、
複数の再生方式のそれぞれにより前記部分動画像を再生するイベント再生部と、
を備えることを特徴とする動画再生システム。
[項目2]
項目1に記載の動画再生システムであって、
前記再生方式には、通常再生、スロー再生、繰り返し再生、及び逆再生の少なくとも2つを含むこと、
を特徴とする動画再生システム。
[項目3]
項目1に記載の動画再生システムであって、
前記イベント再生部は、前記手術対象となる臓器の種別、前記処置に係る術式、及び前記イベントに係るパラメータの少なくともいずれかに応じて、前記複数の再生方式の種類を選択すること、
を特徴とする動画再生システム。
[項目4]
項目1に記載の動画再生システムであって、
前記イベント再生部は、前記手術対象となる臓器の種別、前記処置に係る術式、及び前記イベントに係るパラメータの少なくともいずれかに応じて、前記再生方式に係る再生速度、前記検出時点から前記期間の開始時点までの時間、前記検出時点から前記期間の終了時点までの時間、及び再生方向、の少なくとのいずれかを選択すること、
を特徴とする動画再生システム。
[項目5]
項目1に記載の動画再生システムであって、
前記イベントは前記手術対象からの出血であり、
前記イベント検出部はさらに出血量を検出し、
前記再生方式には少なくとも前記スロー再生が含まれ、
前記イベント再生部は、少なくとも前記出血量に応じて前記スロー再生の再生速度を決定すること、
を特徴とする動画再生システム。
[項目6]
項目1に記載の手術支援システムであって、
前記イベント再生部は、前記期間である第1の期間中であって、前記第1の期間よりも短く、かつ、前記検出時点を含む第2の期間について、前記部分動画像の再生速度を他の期間よりも下げて再生すること、
を特徴とする手術支援システム。
[項目7]
項目1に記載の手術支援システムであって、
前記複数の再生方式の種類、ならびに、前記再生方式に係る再生速度、前記検出時点から前記期間の開始時点までの時間、前記検出時点から前記期間の終了時点までの時間、及び再生方向、の少なくとのいずれかを設定する設定部をさらに備えること、
を特徴とする手術支援システム。
[項目8]
項目7に記載の手術支援システムであって、
前記設定部は、前記イベント再生部による再生開始後に、前記複数の再生方式の種類、ならびに、前記再生方式に係る再生速度、前記検出時点から前記期間の開始時点までの時間、前記検出時点から前記期間の終了時点までの時間、及び再生方向、の少なくとのいずれかの変更を行うこと、
を特徴とする手術支援システム。
<システム概要>
以下、本発明の一実施形態に係る手術システムについて説明する。本実施形態の手術支援システムは、鏡視下手術の支援を行うものであり、とくに術野を撮影した動画像を出力するとともに、例えば局所的な出血などのイベントが発生した場合に、そのイベント発生時を含むシーンを再生する動画再生システムでもありうる。
<第1実施形態>
図1は、本実施の形態に係る手術システムの概略を説明する概念図である。図示のように、手術システム1は、手術ユニット10、操作ユニット20、及び手術ユニット10と操作ユニット20とを制御する制御ユニット30を備える。
図2は、本実施の形態に係る手術システムの概略を説明するブロック図である。
手術ユニット10は、手術対象である患者100に外科的処置を行うものであり、本実施の形態では、処置部であるインスツルメント部11、同じく処置部であるセンサ部12及び映像取得部である内視鏡カメラ13を備える。
インスツルメント部11は、可動アーム及び可動アームの先端に装着される手術器具によって構成される。手術器具としては、例えばメス(電気メス等)、剪刀、鉗子、持針器やピンセット等が想定されるが、用途に応じてこれら以外の各種の手術器具が装着される。
センサ部12は、例えば、インスツルメント部11の状態を検知するための圧力センサ、ジャイロセンサ、加速度センサ、温度センサ等の各種のセンサが採用される。
内視鏡カメラ13の構成については、後述する。
操作ユニット20は、手術ユニット10に対するオペレータである執刀医110からの操作を受け付けるものであり、本実施の形態では、表示部であるディスプレイ21、コントローラ部22及びスピーカ23を備える。また、操作ユニット20は、執刀医110から音声指示を受付けるためのマイクロフォンを備えてもよい。
ディスプレイ21は、執刀医110に各種の情報を提供するものであって、本実施の形態では、VR(Vertual Reality)のHMD(Head Mount Display)を実装する技術が採用されており、執刀医110の両目による視差を利用して、視認する領域の立体視が可能である。
コントローラ部22は、本実施の形態では、ジョイスティックやフットペダル等の入力機器によって実装され、スピーカ23は、音声等によって執刀医110に各種の情報を提供する。
<制御ユニット30ハードウェア>
図3は、制御ユニット30のハードウェア構成例を説明するブロック図である。図示のように、制御ユニット30は、プロセッサ31、メモリ32、ストレージ33、送受信部34、及び入出力部35を主要構成として備え、これらが互いにバス36を介して電気的に接続される。
プロセッサ31は、制御ユニット30の動作を制御し、各要素間におけるデータの送受信の制御や、アプリケーションプログラムの実行に必要な処理等を行う演算装置である。
このプロセッサ31は、本実施の形態では例えばCPU(Central Processing Unit)であり、後述するストレージ33に格納されてメモリ32に展開されたアプリケーションプログラム等を実行して各処理を行う。
メモリ32は、DRAM(Dynamic Random Access Memory)等の揮発性記憶装置で構成される主記憶装置、及びフラッシュメモリやHDD(Hard Disc Drive)等の不揮発性記憶装置で構成される補助記憶装置を備える。
このメモリ32は、プロセッサ31の作業領域として使用される一方、制御ユニット30の起動時に実行されるBIOS(Basic Input/Output System)、及び各種の設定情報等が格納される。
ストレージ33は、アプリケーションプログラムや各種の処理に用いられるデータ等が格納されている。本実施の形態では、各種の処理を行う映像処理プログラムが格納されている。映像処理プログラムは、例えば、プログラムを読み取り可能に記録した非一時的な記録媒体RMにより提供される。プロセッサ31は、図に示していない読取装置を用いて、記録媒体RMから所望のプログラムを読み取り、読み取ったプログラムをストレージ33に記憶させればよい。この映像処理プログラムの詳細については、後述する。
送受信部34は、制御ユニット30をインターネットに接続する。この送受信部34は、Bluetooth(登録商標)やBLE(Bluetooth Low Energy)といった近距離通信インターフェースを具備するものであってもよい。
本実施の形態では、この送受信部34を介して、制御ユニット30が手術ユニット10及び操作ユニット20と接続される。
入出力部35には、必要に応じて、キーボードやマウスといった情報入力機器やディスプレイ等の出力機器が接続される。
バス36は、接続したプロセッサ31、メモリ32、ストレージ33、送受信部34及び入出力部35の間において、例えばアドレス信号、データ信号及び各種の制御信号を伝達する。
<制御ユニット30ソフトウェア>
図4は、制御ユニット30のソフトウェア構成例を説明するブロック図である。図示のように、制御ユニット30は、操作入力部311、発生時点特定部312、部分動画抽出部313、再生部314、映像記録部331、パラメータ記憶部332、設定記憶部333を備える。
映像記録部331は、内視鏡カメラ13で取得してディスプレイ21に実時間で表示された映像Mを記録映像M1として記録する。
図5は、内視鏡カメラ13から取得する映像Mの構成の概略を説明するブロック図である。図示のように、内視鏡カメラ13は、インスツルメント部11による患者100に対する外科的措置Oを撮像して映像Mとして取得するものである。内視鏡カメラ13で取得する映像Mは、複数のフレームFによって構成され、取得する実時間において逐次、ディスプレイ21に表示されるとともに、ディスプレイ21に表示された映像Mが映像記録部331に記録映像M1として記録されることになる。
このような構成を有する本実施の形態に係る手術システム1は、患者100の腹腔や胸腔に到達するように患者100の身体に3mm〜10mm程度の複数の小さな孔をあけて、身体を切開しないでその孔から内視鏡カメラ13やインスツルメント部11の手術器具を挿入して、内視鏡下において低侵襲で内視鏡外科手術を実行するものである。
操作入力部311は、執刀医110による操作ユニット20から入力される各種の操作を受け付ける。
発生時点特定部312は、記録映像M1からイベントが発生した時点(以下、イベント発生時点という。)を特定する。発生時点特定部312は、たとえば、記録映像M1を構成する各フレームFを画像解析し、イベントを示す画像の特徴量(たとえば、出血の赤色など)を抽出することにより、当該フレームにおいてイベントが発生しているか否かを判定し、一連の同一イベントが連続する期間の最先のフレームFの時点をイベント発生時点として特定することができる。
発生時点特定部312は、たとえば、機械学習によってイベント関連フレームを自律的に特定する人工知能モジュールによって実装することができる。機械学習を行う手法としては、ニューラルネットワーク、ランダムフォレスト、SVM(support vector machine)等、各種のアルゴリズムが適宜用いられる。
図6は、イベントの発生を説明する図である。図7は、イベント発生時のフレームF1を説明する図である。
図6で示すように、発生時点特定部312は、手術ユニット10のインスツルメント部11の手術器具11a、11bで患者100の患部Tに外科的処置を行っている際に患者100に不測の事態(イベント)、例えば局所的な出血が発生して、ディスプレイ21に実時間で表示される映像Mに出血Bが表示されたときに、図7で示すように、記録映像M1を構成するフレームFから、出血Bの発生が記録されたイベントF1を特定することができる。イベントの発生したフレームF1には、血液が流出して出血Bが広がる前であって血液が滲み出したばかりの出血Bの初期の段階、すなわち出血Bが発生した直後の状態が記録されていることになる。
部分動画抽出部313は、イベント発生時点を含む期間の部分動画(当該期間に含まれるフレーム)を抽出する。図7の例では、部分動画抽出部313は、イベント発生時点t0のフレームF1から時間i1だけ前の時点のフレームFSの時点を開始フレームとし、イベント発生時点t0のフレームF1から時間i2だけ後の時点のフレームFEの時点を終了フレームとして、開始フレームから終了フレームまでの各フレームを部分動画として抽出することができる。すなわち、部分動画抽出部313は、記録映像M1から開始時点t0−i1から終了時点t0+i2までの期間の部分動画を抽出することができる。
パラメータ記憶部332は、時間i1及びi2などの各種パラメータを記憶する。図4の例では、パラメータ記憶部332は、前時間、後時間、再生スピード、再生回数などのパラメータを記憶している。例えば、前時間は、時間i1であり、後時間は時間i2である。再生スピードは、後述する再生部314により部分動画をスロー再生などする場合の再生スピードである。再生回数は後述する再生部314により部分動画を繰り返し再生する場合の繰り返し回数である。
再生部314は、部分動画を再生する。本実施形態では、再生部314は、複数の再生方式で部分動画を再生する。複数の再生方式には、通常再生、スロー再生、繰り返し再生、及び逆再生の少なくとも2つが含まれる。すなわち、再生部314は、イベント発生時点を含むシーンを再生方式を変えながら複数回再生することができる。再生方式に係る各種のパラメータ(例えば、スロー再生の再生スピード、繰り返し再生の再生回数など)はパラメータ記憶部332に記憶されている。
再生部314は、執刀医110が閲覧しているディスプレイ21に部分画像をワイプ画像として表示することができる。図8は、イベント発生時点のフレームF1の一例を示す図である。図8では、出血Bの発生が認識された時点の例が示されている。図9は、ワイプ画像Wが表示されたディスプレイ21の例を示す図である。図9の例では、イベント発生時点のフレームF1がワイプ画像Wとして表示されている。
また、再生部314は、インスツルメント部11の手術器具の操作の種類に応じて異なる再生方式の組み合わせで部分動画を再生することができる。どのような再生方式で再生をするかは、後述する設定記憶部333に記憶される。
図4の例では、設定記憶部333は、操作種別に対応付けて、複数の再生方式(リスト)を記憶している。操作種別には、たとえば、切除、剥離、牽引、縫合、吸引などがあり、これらは、例えば、機械学習を用いた画像解析により特定することができる。また、インスツルメント部11に取り付けられている手術器具の種類や、操作入力部311が受け付けた執刀医110の操作入力信号などにより特定するようにしてもよい。
<処理>
図10は、本実施形態の手術システムにおいて実行される処理について説明する図である。同図には、制御ユニット30の動作の流れが示されている。
発生時点特定部312は、記録映像M1からイベントの発生した時点(フレーム)を特定するとともに(S401)、インスツルメント部11の手術器具の操作種別を特定する(S402)。例えば、発生時点特定部312は、画像を解析することにより操作種別を特定することができる。
部分動画抽出部313は、パラメータ及び再生方式リストをパラメータ記憶部332及び設定記憶部333から読み出し(S403)、読み出したパラメータの前時間(i1)及び後時間(i2)と、特定したイベント発生時点t0とから抽出する期間(t0−i1〜t0+i2)を計算し、計算した期間の部分動画を記録映像M1から抽出する(S404)。
再生部314は、再生方式リストに含まれている再生方式から次の再生方式を取り出し(S405)、次の再生方式があれば(S406:NO)、次の再生方式で部分動画を再生する(S407)。ここで再生方式のパラメータ(スロー再生の再生スピード、繰り返し再生の再生回数など)は、上記読み出したパラメータを用いる。再生部314は、図9に示すようなワイプ画像Wとして部分画像を内視鏡カメラ13からのリアルタイム映像に重畳出力してもよいし、ディスプレイ21とは異なるサブディスプレイなどを設け、サブディスプレイに部分画像を出力するようにしてもよい。
以上のようにして、本実施形態の手術システムによれば、手術対象の空間(例えば腹腔等)において発生したイベント(例えば出血等)を検出した場合に、イベント発生時点を含む期間の部分動画、すなわちイベント発生シーンを出力することができる。例えば、図6の例のように、出血Bが発生して広がっている状態において、出血Bが発生した初期の時点(イベント発生時点)を含む期間の部分動画を、図9に示すようにワイプ画像Wで確認することにより、執刀医110は、例えば出血Bが発生している出血部位を容易に特定することができる。また出血Bがどのように発生したかの原因を特定することも可能となり、適切な処置を講じることができる。これは、例えば出血の場合次のような理由による。すなわち、出血は体内の組織を切除器具ではさみ、アクティベイトして組織が破綻したあとに起こると仮定すると、はさむまでの動作やアクティベイト中の時間は通常の速度で把握可能であるものの、組織が破綻して出血点から出血が広がる過程は極めて短時間で起こる事象であるため、このシーンの再生速度を遅くすることにより、理解が容易になる。また逆再生することで広がった血液が一点に集約し、出血点の位置を把握することが容易になる。さらには、このように再生速度を部分的に遅くしたり、逆再生を行ったりすることにより、出血等のイベントの発生箇所や発生原因を特定することが容易になるのである。
また、本実施形態の手術システムによれば、複数の再生方式で出血B等のイベント発生時点を含む期間の部分動画を確認することができる。したがって、単に一度過去のシーンを確認する場合に比べて、本実施形態のように複数回の表示を行うことで、イベントの発生位置や発生原因を容易かつ確実に把握することができる。また、本実施形態のように異なる再生方式で同じシーンを再生することにより、同じイベントを異なる見方で確認することができるので、イベントの発生箇所(例えば出血箇所)やイベントの発生要因(例えば出血原因)をより容易かつ確実に把握することができる。
<第2実施形態>
図11は、第2実施形態に係る制御ユニット30のソフトウェア構成例を示す図である。上記第1実施形態では、スロー再生(又は早回し再生でもよい)の再生スピードはパラメータ記憶部332にパラメータとして設定されているものとしたが、第2実施形態では、出血量に応じて再生速度を変化させることができる。
第2実施形態に係る制御ユニット30は、上述した第1実施形態の制御ユニット30の構成(図4参照)に加えて、出血量検出部315を備える。出血量検出部315は、記録映像M1の各フレームFの画像を解析し、画像に含まれている血の量を推定する。出血量検出部315は、例えば、画像に含まれている出血の色の画素の数に応じて出血量(又は出血面積、すなわち手術の対象領域において血が覆っている割合であってもよい。)などを計算することができる。また、第2実施形態の再生部314は、出血量に応じて再生スピードを変化させる。具体的には、再生部314は、出血量(又は出血面積)が多いほど再生スピードを下げるようにすることができる。また、再生部314は、出血量(又は出血面積)の時系列な変化(例えば、出血量の単位時間あたりの増加量)が大きい(出血の速度が速い)ほど再生スピードを下げるようにすることができる。
図12は、第2実施形態に係る処理の流れを示す図である。第1実施形態の処理(図10)との違いについて説明する。第2実施形態では、出血量検出部315は、部分動画から出血量(又は出血速度)を検出し(S421)、再生部314は、出血量(又は出血速度)が多い(又は速い)ほど再生スピードを下げることができる(S422)。そしてステップS407において、調整された再生スピードで部分動画が再生される。これにより、大量または高速な出血時には、出血時点(イベント発生時点)のシーンをよりゆっくりと再生することができるので、出血箇所や出血原因をより容易かつ確実に特定することが可能となる。
なお、再生部314は、再生方式がスロー再生の場合にのみ、再生スピードを変えるようにしてもよいし、全ての再生方式について再生スピードを変えるようにしてもよい。
<第3実施形態>
図13は、第3実施形態に係る制御ユニット30のソフトウェア構成例を示す図である。上記第1実施形態では、部分動画の再生スピードは一定であるものとしたが、第3実施形態では、部分動画の中でもイベント発生時点前後のより短い期間については、再生スピードを下げることができる。
第2実施形態に係る制御ユニット30では、上述した第1実施形態の制御ユニット30の構成(図4参照)に比べて、パラメータ記憶部332に記憶されるパラメータとして、前時間、後時間及び再生スピードのセットを2セット記憶する。図13の例では、前時間1(i1(1))、後時間1(i2(1))及び再生スピード1の第1セットと、前時間2(i1(2))、後時間2(i2(2))及び再生スピード2の第2セットとがパラメータ記憶部332に登録されている。第1セットの期間よりも第2セットの期間が短く、第1セットの期間及び第2セットの期間のいずれにもイベント開示時点(フレームF1)が含まれる。また、第2セットの再生スピード2は、第1セットの再生スピード2よりも遅い。
図14は、第3実施形態に係る制御ユニット30の処理の流れを説明する図である。第1実施形態の処理(図10)との違いについて説明する。第3実施形態では、ステップS407の再生処理に代えて、ステップS441ないしS443を実行する。ステップS441では、第1実施形態の開始時点t0−i1と同様の開始時点t0−i1(1)から、第2セットの開始時点t0−i1(2)までの期間を第1セットの再生速度1で再生し(S441)、第2セットの開始時点t0−i1(2)から第2セットの終了時点t0+i2(2)までの期間を第2セットの再生速度2で再生し(S442)、第2セットの終了時点t0+i2(2)から第1セットの終了時点t0+i2(1)までの期間を第1セットの再生速度1で再生される(S443)。これにより、イベント発生時点を含む、第1セットの期間よりも短い第2セットの期間について、よりゆっくりとした速度で再生することができる。
なお、第3実施形態においても、第2実施形態と同様に出血量検出部315を備えるようにし、再生スピード2を出血量または出血速度に応じた速度で第2セットに係る期間を再生するようにしてもよい。
また、第1セットに係る再生スピード1を、通常速度(実時間)よりも速い速度に設定するようにして、イベント発生時点を含むシーン以外を早回しで再生することもできる。
<第4実施形態>
図15は、第4実施形態に係る制御ユニット30のソフトウェア構成例を示す図である。第4実施形態では、再生方式に係る各種のパラメータ(前時間、後時間、再生方向、再生スピード、再生回数等)を設定変更可能としている。第4実施形態では、パラメータ記憶部332’は、再生方式を示す再生方式IDに対応付けて、各種のパラメータを記憶する。また、制御ユニット30は、パラメータ記憶部332’に記憶されるパラメータの入力を受け付ける設定部316を備える。設定部316は、事前にパラメータの登録を行うことができ、また、手術中または動画の再生中にパラメータの変更を行うこともできる。
図16は、第4実施形態に係る制御ユニット30の処理の流れを説明する図である。第1実施形態の処理(図10)との違いについて説明する。第4実施形態では、事前に設定部316が再生方式ごとのパラメータの入力を受け付けてパラメータ記憶部332’に登録を行う(S461)。そして、ステップS403では、再生方式リストのみを読み出し(S403’)、再生時のステップS407の前に、再生部314は、再生方式に対応するパラメータをパラメータ記憶部332’から読み出し(S462)、読み出したパラメータを用いて部分動画を再生する(S407’)。
これにより、再生方式に応じた再生速度や再生期間などを自由に設定することができる。
<第5実施形態>
図17は、第5実施形態に係る手術システム1の全体構成を示す図である。第5実施形態では、遠隔操作ではなく、患者100に執刀医110が直接手術器具を操作する状況を想定している。なお、開腹手術であってもよいし、腹腔鏡手術であってもよい。このような場合であっても、上述した各実施形態の制御ユニット30を用いて、イベントの発生時点を含むシーンを、再生方式を変えながら複数回再生することが可能となる。
<第6実施形態>
第6実施形態では、所定量以上の出血を検出した場合、出血開始時点を含む所定時間範囲の部分動画を再生する構成について説明する。なお、制御ユニット30のソフトウェア構成は第2実施形態と同様であるため、その説明を省略する。
図18は、第6実施形態に係る制御ユニット30の処理の流れを説明する図である。第1実施形態の処理(図10)との違いについて説明する。ステップS401においてイベント(本実施形態では出血)が検出された場合、出血量検出部315は、内視鏡カメラ13より得られるフレームFの画像を解析して出血量を検出する(S471)。出血量検出部315は、実施の形態2において説明したように、出血に該当する色を持つ画素の数や領域の面積に応じて出血量を検出すればよい。出血量検出部315は、フレームFの画像が入力される都度、出血量を検出し、予め設定した閾値と比較することによって所定量以上の出血の有無を判断する(S472)。所定量以上の出血がない場合(S472:NO)、制御ユニット30は、処理をステップS401へ戻す。
所定量以上の出血ありと判断した場合(S472:YES)、制御ユニット30は、ステップS402以降の処理を実行する。すなわち、制御ユニット30は、切除、剥離、牽引、縫合、吸引などの操作種別に応じて、再生方式に係る各種のパラメータ(例えば、再生速度、繰り返し再生の再生回数など)や再生方式リストを読み出し、読み出したパラメータや再生方式リストに基づいて、記録映像M1から抽出した部分動画を再生する。部分動画の抽出方法は第1実施形態と同様である。すなわち、部分動画抽出部313は、映像記録部331に記録されている記録映像M1のうち、出血開始前の時点(t0−i1)から出血後の時点(t0+i2)までの時間範囲に含まれるフレームFを部分動画として抽出すればよい。本実施の形態において、t0は出血開始時点を表す。時間i1,i2は、予め設定されてもよく、切除、剥離、牽引、縫合、吸引などの操作種別や撮像した場面などに応じて設定されてもよい。
再生部314は、通常再生、スロー再生、コマ送り再生、繰り返し再生、及び逆再生の少なくとも1つを含む再生方式に従って部分動画を再生する。再生部314は、部分動画を図9に示すようなワイプ画像Wとして、内視鏡カメラ13からのリアルタイム映像(術野映像)に重畳して出力してもよいし、ディスプレイ21とは異なるサブディスプレイなどを設け、サブディスプレイに部分動画を出力してもよい。また、再生部314は、通常再生、スロー再生、コマ送り再生、及び逆再生の少なくとも2つを切り替えながら、部分動画を繰り返し再生してもよい。更に、再生部314は、出血開始時点を含む場面の再生速度を、出血開始前後の場面の再生速度よりも低下させて再生してもよい。
図19は、再生方式の一例を説明する図である。所定量以上の出血が検出された場面を含む記録映像M1において、時間t=t0を出血開始時点とした場合、部分動画抽出部313は、時間t=t0−i1(1)からt=t0+i2(1)までの時間範囲のフレームFを部分動画として抽出する。i1(1)は、操作種別や場面などに応じて、例えば2〜6秒に設定される。i2(1)は、例えば2秒など適宜の時間が設定される。
再生部314は、通常再生、部分スロー再生、部分スロー逆再生といったように、再生方式を順番に切り替えて、部分動画を再生する。再生部314は、部分スロー逆再生を行った後、通常再生、部分スロー再生、部分スロー逆再生を繰り返してよい。
通常再生では、例えば、i1(1)を6秒、i2(1)を2秒に設定する。すなわち、再生部314は、出血開始時点の6秒前から出血開始時点の2秒後までの合計8秒間の部分動画を通常の再生速度(再生速度1)で再生する。出血開始前に撮像された術野映像が少しだけ長く再生されることによって、術者は、出血に至る操作を把握することができる。
部分スロー再生では、例えば、i1(1)を3秒、i2(1)を2秒に設定し、i1(2)及びi2(2)をそれぞれ0.2秒に設定する。すなわち、再生部314は、出血開始時点の3秒前から0.2秒前までの2.8秒間の部分動画を通常の再生速度(再生速度1)で再生し、出血開始時点の0.2秒前から0.2秒後までの0.4秒間の部分動画を通常の1/5倍の再生速度(再生速度2)でスロー再生する。なお、スロー再生における再生速度は1/5倍速に限らず、適宜設定されるとよい。スロー再生の後、再生部314は、出血開始時点の2秒後から2秒後までの1.8秒間の部分動画を通常の再生速度(再生速度1)で再生する。部分スロー再生では、出血の瞬間がスロー再生されるので、術者は、出血箇所を認識しやすいという利点を有する。また、出血の直前からスロー再生に変わるので、術者は、これから出血が起こるであろうことを予測できる。更に、部分的なスロー再生を採用することによって、再生時間を長時間化が避けられる。
部分スロー逆再生における時間設定は、部分スロー再生における時間設定と同様である。再生部314は、出血開始時点の0.2秒後から2秒後までの部分動画を通常の再生速度(再生速度1)で逆再生し、出血開始時点の0.2秒前から0.2秒後までの部分動画を通常の1/5倍の再生速度(再生速度2)でスロー逆再生する。なお、スロー逆再生における再生速度は1/5倍速に限らず、適宜設定されるとよい。スロー再生の後、出血開始時点の3秒前から0.2秒前までの部分動画を通常の再生速度(再生速度1)で逆再生する。部分スロー逆再生では、広がった出血が次第に一箇所に集束するように表示されるので、術者は、集束点を把握することによって出血箇所を容易に認識することができる。
図9では、通常再生、部分スロー再生、部分スロー逆再生の順で部分動画を再生する構成について説明した。このような再生順序及び再生方式は、デフォルトとして制御ユニット30に設定されてもよい。また、制御ユニット30は、操作ユニット20を通じて、再生順序及び再生方式の変更を受け付けてもよい。再生順序及び再生方式は術者によって任意に設定されるとよい。例えば、術者は、部分スロー再生、部分スロー逆再生の順で部分動画を再生するように設定を変更してもよく、通常再生、部分スロー再生、逆再生、部分スロー逆再生の順で部分動画を再生するように設定を変更してもよい。制御ユニット30は、再生順序及び再生方式の設定変更を受付けた場合、変更後の再生順序及び再生方式に従って部分動画の再生を行う。
以上のように、第6実施形態では、所定量以上の出血を検知した場合にのみ、出血の場面を動画表示するので、手術の妨げになることなく、術者が認識すべき出血の場面のみを表示することができる。
第6実施形態では、出血量に対する閾値は予め設定されているものとしたが、操作入力部311を通じて、執刀医などの術者による閾値の設定を受け付ける構成としてもよい。閾値の設定を受付けた場合、出血量検出部315は、画像から推定した出血量と設定後の閾値とを比較して、所定量以上の出血の有無を判断すればよい。
<第7実施形態>
第7実施形態では、撮像中に発生した閾値以上の出血を認識し、認識した出血の場面をサムネイルとしてディスプレイ21に表示させる。制御ユニット30は、サムネイルに対する選択を受付けた場合、対応する出血の場面の動画を再生する。
図20は、第7実施形態に係る制御ユニット30の処理の流れを説明する図である。第6実施形態の処理(図18)との違いについて説明する。制御ユニット30は、第6実施形態と同様の手順によって、所定量以上の出血を検出した場合(S481)、その出血の場面を表すサムネイルを生成し、生成したサムネイルを術野映像に重畳してディスプレイ21に表示する(S482)。サムネイルには出血場面を代表するような静止画又は動画が表示されるとよい。また、制御ユニット30は、出血場面を特定するための情報として、例えば出血開始時点t0の情報をサムネイルに関連付けてパラメータ記憶部332に記憶させる(S483)。
図21は、出血場面を示すサムネイルの表示例を示す図である。図21は、2つのサムネイルTH1,TH2を術野映像に重畳し、ディスプレイ21に表示した例を示している。サムネイルTH1,TH2は、処置部分の認識の妨げとならないように、術野映像の中央付近の領域を避けて配置されることが好ましい。このため、制御ユニット30は、例えば、生成したサムネイルTH1,TH2を術野映像の端部領域に配置して表示すればよい。代替的に、制御ユニット30は、画像解析によって手術器具11a、11bの位置を把握し、把握した手術器具11a,11bの位置を避けてサムネイルTH1,TH2を表示してもよい。また、制御ユニット30は、所定量以上の出血を検出した検出時刻の情報を各サムネイルTH1,TH2に対して付加してもよい。
制御ユニット30は、操作入力部311を通じてサムネイルに対する選択を受付けたか否かを判断する(S484)。操作入力部311は、コントローラ部22が備えるジョイスティックやフットペダルなどの入力機器を用いてサムネイルに対する選択を受付けてもよく、マイクロフォンを用いてサムネイルを選択するための音声指示を受け付けてもよい。選択を受け付けていない場合(S484:NO)、制御ユニット30は、処理をステップS481へ戻す。
制御ユニット30は、所定量以上の出血を検出する都度、術野映像に新たなサムネイルを追加する。なお、サムネイルの数が増え過ぎると、術野映像において患部Tを確認することが困難になるため、表示するサムネイルの数を制限してもよい。例えば、制御ユニット30は、検出時刻が新しいものから順に所定数のサムネイルを選択して表示すればよい。また、サムネイルを術野映像上に重畳して表示する構成に代えて、術野映像をディスプレイ21に表示し、サムネイルをサブディスプレイに別途表示する構成としてもよい。
サムネイルに対する選択操作を受付けた場合(S484:YES)、部分動画抽出部313は、選択されたサムネイルが示す出血場面について、パラメータ記憶部332及び設定記憶部333からパラメータ及び再生方式リストを読み出す(S403)。このとき、部分動画抽出部313は、サムネイルに関連付けられている出血開始時点t0の情報を検索キーとして、必要なパラメータ及び再生方式リストを読み出すことができる。
パラメータ及び再生方式リストを読み出した後の処理は第6実施形態と同様であり、部分動画抽出部313において部分動画を抽出し、再生部314において再生方式リストに記述されている再生方式に従って部分動画を再生する。再生部314は、通常再生、スロー再生、コマ送り再生、繰り返し再生、及び逆再生の少なくとも1つを含む再生方式に従って部分動画を再生すればよい。再生部314は、部分動画を図9に示すようなワイプ画像Wとして、内視鏡カメラ13からのリアルタイム映像(術野映像)に重畳して出力してもよいし、ディスプレイ21とは異なるサブディスプレイなどを設け、サブディスプレイに部分動画を出力してもよい。また、再生部314は、通常再生、スロー再生、コマ送り再生、及び逆再生の少なくとも2つを切り替えながら、部分動画を繰り返し再生してもよい。更に、再生部314は、出血開始時点を含む場面の再生速度を、出血開始前後の場面の再生速度よりも低下させて再生してもよい。
以上のように、第7実施形態における手術システム1では、サムネイルが選択された場合にのみ出血場面の動画を再生する構成であるため、執刀医などの術者が所望する出血場面のみを動画として提供できる。
<第8実施形態>
第8実施形態では、内視鏡カメラ13から得られる術野領域の端部領域にて出血を検出した場合、出血を検出した旨を報知する構成について説明する。
図22は、第8実施形態に係る制御ユニット30の処理の流れを説明する図である。第6実施形態の処理(図18)との違いについて説明する。制御ユニット30は、第6実施形態と同様の手順によって、所定量以上の出血を検出した場合(S491)、その出血が術野映像の端部領域で発生したか否かを判断する(S492)。端部領域は、術野映像の中央付近(注目領域)を除いた領域として設定されるとよい。一例では、術野映像の上側、下側、左側、及び下側の1/4の領域である。
術野映像の端部領域で出血が発生したと判断した場合(S492:YES)、制御ユニット30は、出血が発生した旨の情報を報知する(S493)。制御ユニット30は、例えば、出血が発生した旨の文字情報又はアイコン等をディスプレイ21に表示する。代替的に、制御ユニット30は、出血が発生した旨の音声情報をスピーカ23より出力してもよい。
以上のように、第8実施形態では、術野映像の端部領域で出血が発生したと判断した場合、出血が発生した旨の情報を報知するので、術者は、気付きにくい出血の存在を認識することができる。
<第9実施形態>
第9実施形態では、出血量の時系列変化を示すグラフを表示する構成について説明する。
図23は、出血量の時系列変化を示すグラフの表示例を示す図である。制御ユニット30の出血量検出部315は、各時刻におけるフレームFを解析することによって、各時刻の出血量を検出することができる。制御ユニット30は、出血量の時系列変化を示すグラフを生成し、術野映像と共に表示してもよい。図23は、術野映像の下側に出血量の時系列変化を示すグラフGRを表示した例を示している。グラフGRの横軸は時間を表し、縦軸は出血量を表す。このグラフGRにおいて、時刻Taは出血開始時点を表し、時刻Tbは止血時点を表す。出血量に代えて、出血に相当する画素数又は面積の時系列変化をグラフとして表示してもよい。
また、制御ユニット30は、図23に示すように、出血量が所定量以上となったグラフGR上の点をマークMKなどによって明示してもよい。更に、制御ユニット30は、閾値を超えた部分を明示するために、該当するグラフGRの部分を太線表示したり、色を変えて表示したりして、強調表示を行ってもよい。更に、制御ユニット30は、部分動画の再生区間(t0−i1≦t≦t0+i2)をグラフGRと共に表示してもよい。また、制御ユニット30は、部分動画の再生中にグラフGRを併せて表示してもよい。
以上のように、第9実施形態では、出血量の時系列変化を示すグラフを表示するので、術者は、過去に生じた出血の状態を把握することができる。
<第10実施形態>
第10実施形態では、術野映像に切除器具が含まれている場合、所定量以上の出血の有無の判定を行い、術野映像に止血器具が含まれている場合、判定を行わない構成について説明する。
図24は、第10実施形態に係る制御ユニット30の処理の流れを説明する図である。第1実施形態の処理(図10)との違いについて説明する。ステップS401においてイベント(本実施形態では出血)が検出された場合、内視鏡カメラ13より得られるフレームFの画像を解析して、術野映像に切除器具が含まれているか否かを判断する(S501)。制御ユニット30は、予め定めた形状の図形が含まれているか否かをテンプレートマッチングなどの手法を用いて判断することにより、術野映像に切除器具が含まれているか否かを判断することができる。切除器具が含まれていない場合(S501:NO)、制御ユニット30は、処理をステップS401へ戻す。
切除器具が含まれている場合(S501:YES)、制御ユニット30は、フレームFの画像を解析して出血量を検出する(S502)。出血量検出部315は、実施の形態2において説明したように、出血に該当する色を持つ画素の数や領域の面積に応じて出血量を検出すればよい。出血量検出部315は、フレームFの画像が入力される都度、出血量を検出し、予め設定した閾値と比較することによって所定量以上の出血の有無を判断する(S503)。所定量以上の出血がない場合(S503:NO)、制御ユニット30は、処理をステップS401へ戻す。
所定量以上の出血ありと判断した場合(S503:YES)、制御ユニット30は、第1実施形態において説明したステップS402以降の処理を実行する。すなわち、制御ユニット30は、切除、剥離、牽引、縫合、吸引などの操作種別に応じて、再生方式に係る各種のパラメータ(例えば、再生速度、繰り返し再生の再生回数など)や再生方式リストを読み出し、読み出したパラメータや再生方式リストに基づいて、記録映像M1から抽出した部分動画を再生する。部分動画の抽出方法は第1実施形態と同様である。すなわち、部分動画抽出部313は、映像記録部331に記録されている記録映像M1のうち、出血開始前の時点(t0−i1)から出血後の時点(t0+i2)までの時間範囲に含まれるフレームFを部分動画として抽出すればよい。本実施の形態において、t0は出血開始時点を表す。時間i1,i2は、予め設定されてもよく、切除、剥離、牽引、縫合、吸引などの操作種別や撮像した場面などに応じて設定されてもよい。
また、制御ユニット30は、部分動画を再生する際、内視鏡カメラ13より得られるフレームFの画像を解析して、術野映像に止血器具が含まれているか否かを判断する(S504)。制御ユニット30は、予め定めた形状の図形が含まれているか否かをテンプレートマッチングなどの手法を用いて判断することにより、術野映像に止血器具が含まれているか否かを判断することができる。止血器具が含まれていない場合(S504:NO)、制御ユニット30は、部分動画を再生する(S407)。一方、止血器具が含まれている場合(S504:YES)、制御ユニット30は、部分動画の再生を行わずに、本フローチャートによる処理を終了する。
以上のように、第10実施形態では、切除器具を用いて手術部位を切除している際に、出血量が所定量以上に増えた場合にのみ部分動画を再生する。また、術野映像に止血器具が現れた場合、止血箇所が既に判明していると考えられるので、部分動画の再生を行わないように制御できる。
以上、本実施形態について説明したが、上記実施形態は本発明の理解を容易にするためのものであり、本発明を限定して解釈するためのものではない。本発明は、その趣旨を逸脱することなく、変更、改良され得ると共に、本発明にはその等価物も含まれる。
例えば、上記実施形態では、イベントが患者100の患部Tの近傍の部位からの出血Bである場合を説明したが、例えば、損傷、誤処置、その他の異常 を検知することとしてもよい。
本手術システムは、手術のみならず、上述した事故が起こる可能性のある処置全てに適用可能であり、例示すれば、診察、検査、診断穿刺・検体採取、画像検査、投薬・注射(輸血含む)、リハビリテーション、麻酔、放射線治療、医療機器の使用等、医療に起因し、又は起因すると疑われる事故を含み得る処置であれば、どのようなものであってもよい。
手術における手術システムの数は1台に限られず、複数台あってもよい。この場合、操作ユニットと作業ユニットの動きは夫々同期していてもよいし、別個独立に機能(1台目の手術装置と2台目の手術装置との動きは連動していないように)することとしてもよい。
また、本システムの手術対象は人体だけに限らず、動物、練習対象としての物体、植物等であってもよい。
また、上述した各実施形態において、出血量に代えて、臓器や消化器管などの損傷により排出される消化液や胆汁などを検出するようにしても同様の作用効果を得ることができる。
また、上述した各実施形態において、イベントは出血等のインシデントであることを想定したが、たとえば、手術器具による特定の操作をしたことをイベントとして検出するようにしてもよい。例えば、縫合器(ホチキス)で縫合・吻合したことをイベントとして検出し、縫合・吻合時の状況を再生するようにすることもできる、これにより、処置が正しくできたかどうかを確認することができる。
また、本実施形態では、患者100に対する手術中のリアルタイム画像を想定していたが、手術状況を録画した記録映像M1を後から閲覧する状況においても有用である。例えば、執刀医110が自身又は他の執刀医の行った手術の記録映像M1を閲覧し、今後の手術に向けて、イベントの発生原因や発生箇所などを参考にする場合にも用いることが可能である。
1 手術システム
10 手術ユニット
11 インスツルメント部(処置部)
13 内視鏡カメラ(映像取得部)
20 操作ユニット
21 ディスプレイ(表示部)
30 制御ユニット
33 ストレージ
311 操作入力部
312 発生時点特定部
313 部分動画抽出部
314 再生部
331 映像記録部
332 パラメータ記憶部
333 設定記憶部
本発明の一態様におけるコンピュータプログラムは、コンピュータに、鏡視下手術の術野を時系列的に撮像して得られる術野映像を取得し、取得した術野映像に基づき、所定量以上の出血の有無を判断し、所定量以上の出血ありと判断した場合、出血開始前の時点から出血後の時点までを含む時間範囲の部分映像を、通常再生、スロー再生、コマ送り再生、及び逆再生の少なくとも2つを切り替えながら繰り返し再生する方式を含む、設定された再生方式にて再生する処理を実行させる。

Claims (13)

  1. コンピュータに、
    鏡視下手術の術野を時系列的に撮像して得られる術野映像を取得し、
    取得した術野映像に基づき、所定量以上の出血の有無を判断し、
    所定量以上の出血ありと判断した場合、出血開始前の時点から出血後の時点までを含む時間範囲の部分映像を、通常再生、スロー再生、コマ送り再生、及び逆再生の少なくとも2つを切り替えながら繰り返し再生する
    処理を実行させるためのコンピュータプログラム。
  2. コンピュータに、
    鏡視下手術の術野を時系列的に撮像して得られる術野映像を取得し、
    取得した術野映像に切除器具が含まれているか否かを判断し、
    前記切除器具が含まれていると判断した場合、所定量以上の出血の有無を判断し、
    所定量以上の出血ありと判断した場合、出血開始前の時点から出血後の時点までを含む時間範囲の部分映像を、設定された再生方式にて再生する
    処理を実行させるためのコンピュータプログラム。
  3. 前記再生方式は、通常再生、スロー再生、コマ送り再生、繰り返し再生、及び逆再生の少なくとも1つを含む
    請求項2に記載のコンピュータプログラム。
  4. 前記再生方式は、通常再生、スロー再生、コマ送り再生、及び逆再生の少なくとも2つを切り替えながら繰り返し再生する方式を含む
    請求項2に記載のコンピュータプログラム。
  5. 前記再生方式は、出血開始時点を含む場面の再生速度を、出血開始前後の場面の再生速度よりも低下させて再生する方式を含む
    請求項2から請求項4の何れか1つに記載のコンピュータプログラム。
  6. 前記コンピュータに、
    前記鏡視下手術中に撮像された術野映像を一の表示領域に表示し、前記時間範囲の部分映像を他の表示領域にて再生する
    処理を実行させるための請求項1から請求項5の何れか1つに記載のコンピュータプログラム。
  7. 前記コンピュータに、
    所定量以上の出血を複数検出した場合、夫々の出血場面を示すサムネイルを表示し、
    表示したサムネイルに対する選択を受付けた場合、対応する出血場面の部分映像を設定された再生方式により再生する
    処理を実行させるための請求項1から請求項6の何れか1つに記載のコンピュータプログラム。
  8. 前記コンピュータに、
    前記術野映像の端部領域にて出血を検出した場合、出血を検出した旨の情報を報知する
    処理を実行させるための請求項1から請求項7の何れか1つに記載のコンピュータプログラム。
  9. 前記コンピュータに、
    出血量の時系列変化を示すグラフを表示する
    処理を実行させるための請求項1から請求項8の何れか1つに記載のコンピュータプログラム。
  10. コンピュータに、
    鏡視下手術の術野を時系列的に撮像して得られる術野映像を取得し、
    取得した術野映像に基づき、所定量以上の出血の有無を判断し、
    所定量以上の出血ありと判断した場合、出血開始前の時点から出血後の時点までを含む時間範囲の部分映像の再生を、前記術野映像に止血器具が含まれているか否かに応じて制御する
    処理を実行させるためのコンピュータプログラム。
  11. コンピュータが、
    鏡視下手術の術野を時系列的に撮像して得られる術野映像を取得し、
    取得した術野映像に基づき、所定量以上の出血の有無を判断し、
    所定量以上の出血ありと判断した場合、出血開始前の時点から出血後の時点までを含む時間範囲の部分映像を、通常再生、スロー再生、コマ送り再生、及び逆再生の少なくとも2つを切り替えながら繰り返し再生する
    映像再生方法。
  12. コンピュータが、
    鏡視下手術の術野を時系列的に撮像して得られる術野映像を取得し、
    取得した術野映像に切除器具が含まれているか否かを判断し、
    前記切除器具が含まれていると判断した場合、所定量以上の出血の有無を判断し、
    所定量以上の出血ありと判断した場合、出血開始前の時点から出血後の時点までを含む時間範囲の部分映像を、設定された再生方式にて再生する
    映像再生方法。
  13. コンピュータが、
    鏡視下手術の術野を時系列的に撮像して得られる術野映像を取得し、
    取得した術野映像に基づき、所定量以上の出血の有無を判断し、
    所定量以上の出血ありと判断した場合、出血開始前の時点から出血後の時点までを含む時間範囲の部分映像の再生を、前記術野映像に止血器具が含まれているか否かに応じて制御する
    映像再生方法。
JP2021027652A 2020-01-30 2021-02-24 コンピュータプログラム及び映像再生方法 Active JP6887193B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021065304A JP2021119986A (ja) 2020-01-30 2021-04-07 コンピュータプログラム及び映像再生方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JPPCT/JP2020/003482 2020-01-30
PCT/JP2020/003482 WO2021152785A1 (ja) 2020-01-30 2020-01-30 動画再生システム
JP2020573056A JP6875038B1 (ja) 2020-01-30 2020-11-05 コンピュータプログラム及び映像再生方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2020573056A Division JP6875038B1 (ja) 2020-01-30 2020-11-05 コンピュータプログラム及び映像再生方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021065304A Division JP2021119986A (ja) 2020-01-30 2021-04-07 コンピュータプログラム及び映像再生方法

Publications (2)

Publication Number Publication Date
JP6887193B1 JP6887193B1 (ja) 2021-06-16
JP2021121095A true JP2021121095A (ja) 2021-08-19

Family

ID=76310209

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2021027652A Active JP6887193B1 (ja) 2020-01-30 2021-02-24 コンピュータプログラム及び映像再生方法
JP2021065304A Pending JP2021119986A (ja) 2020-01-30 2021-04-07 コンピュータプログラム及び映像再生方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2021065304A Pending JP2021119986A (ja) 2020-01-30 2021-04-07 コンピュータプログラム及び映像再生方法

Country Status (2)

Country Link
JP (2) JP6887193B1 (ja)
WO (2) WO2021152785A1 (ja)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005157227A (ja) * 2003-11-04 2005-06-16 Olympus Corp 画像表示装置、画像表示方法、及び画像表示プログラム
US20090187071A1 (en) * 2008-01-23 2009-07-23 Intromedic Co., Ltd. Capsule endoscope system and method for implementing time shift function therein
JP2009226072A (ja) * 2008-03-24 2009-10-08 Fujifilm Corp 手術支援方法及び装置
JP2011036370A (ja) * 2009-08-10 2011-02-24 Tohoku Otas Kk 医療画像記録装置
JP2014226341A (ja) * 2013-05-23 2014-12-08 オリンパス株式会社 内視鏡装置及び内視鏡装置の作動方法
JP2015509744A (ja) * 2011-12-15 2015-04-02 ギブン イメージング リミテッドGiven Imaging Ltd. 消化管内における出血のインビボ検出のための装置、システムおよび方法
JP2015529489A (ja) * 2012-07-25 2015-10-08 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 手術用システムにおける効率的且つインタラクティブな出血検出
JP2017093996A (ja) * 2015-11-27 2017-06-01 オリンパス株式会社 内視鏡システム及びその表示方法
WO2019202827A1 (ja) * 2018-04-17 2019-10-24 ソニー株式会社 画像処理システム、画像処理装置、画像処理方法及びプログラム

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015020093A1 (ja) * 2013-08-08 2015-02-12 オリンパスメディカルシステムズ株式会社 手術画像観察装置

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005157227A (ja) * 2003-11-04 2005-06-16 Olympus Corp 画像表示装置、画像表示方法、及び画像表示プログラム
US20090187071A1 (en) * 2008-01-23 2009-07-23 Intromedic Co., Ltd. Capsule endoscope system and method for implementing time shift function therein
JP2009226072A (ja) * 2008-03-24 2009-10-08 Fujifilm Corp 手術支援方法及び装置
JP2011036370A (ja) * 2009-08-10 2011-02-24 Tohoku Otas Kk 医療画像記録装置
JP2015509744A (ja) * 2011-12-15 2015-04-02 ギブン イメージング リミテッドGiven Imaging Ltd. 消化管内における出血のインビボ検出のための装置、システムおよび方法
JP2015529489A (ja) * 2012-07-25 2015-10-08 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 手術用システムにおける効率的且つインタラクティブな出血検出
JP2014226341A (ja) * 2013-05-23 2014-12-08 オリンパス株式会社 内視鏡装置及び内視鏡装置の作動方法
JP2017093996A (ja) * 2015-11-27 2017-06-01 オリンパス株式会社 内視鏡システム及びその表示方法
WO2019202827A1 (ja) * 2018-04-17 2019-10-24 ソニー株式会社 画像処理システム、画像処理装置、画像処理方法及びプログラム

Also Published As

Publication number Publication date
WO2021152948A1 (ja) 2021-08-05
WO2021152785A1 (ja) 2021-08-05
JP2021119986A (ja) 2021-08-19
JP6887193B1 (ja) 2021-06-16

Similar Documents

Publication Publication Date Title
KR102013837B1 (ko) 수술영상 제공 방법 및 장치
RU209329U1 (ru) Автоматическое дополнение эндоскопического видеоизображения
RU2689767C2 (ru) Улучшенная визуализация кровеносных сосудов с использованием управляемого роботом эндоскопа
US11269173B2 (en) Systems and methods for displaying medical video images and/or medical 3D models
WO2015020093A1 (ja) 手術画像観察装置
WO2021039298A1 (ja) 教師データ生成装置、教師データ生成プログラム及び教師データ生成方法
JP4025621B2 (ja) 画像処理装置及び内視鏡画像処理装置
WO2019202827A1 (ja) 画像処理システム、画像処理装置、画像処理方法及びプログラム
WO2019198322A1 (ja) 医療システム
KR20170095992A (ko) 헤드 장착식 컴퓨팅 장치, 방법 및 컴퓨터 프로그램 제품
JP7457415B2 (ja) コンピュータプログラム、学習モデルの生成方法、及び支援装置
JP2024051041A (ja) 情報処理装置、情報処理方法、及びコンピュータプログラム
JP6887193B1 (ja) コンピュータプログラム及び映像再生方法
JP6625412B2 (ja) 内視鏡システム及びその表示方法
JP6875038B1 (ja) コンピュータプログラム及び映像再生方法
JP2008237369A (ja) 画像処理装置及び画像処理方法
JP7497930B2 (ja) 臨床記録データ生成方法及び装置
US20220409300A1 (en) Systems and methods for providing surgical assistance based on operational context
JP7146318B1 (ja) コンピュータプログラム、学習モデルの生成方法、及び手術支援装置
JP2022541887A (ja) 不明瞭な視覚の間の内視鏡手術における器具ナビゲーション
RU216092U1 (ru) Автоматическое дополнение эндоскопического видеоизображения
RU214412U1 (ru) Автоматическое дополнение эндоскопического видеоизображения
WO2017068853A1 (ja) 治療工程推定装置
JP7498739B2 (ja) 内視鏡用途のための訓練データを生成するための方法、システム、及びソフトウェアプログラム製品
JP2007133513A (ja) 手術情報分析システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210224

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210224

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20210305

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210309

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210407

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210420

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210511

R150 Certificate of patent or registration of utility model

Ref document number: 6887193

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350