JPWO2019003954A1 - 通信システムおよび送信装置 - Google Patents

Abstract

本技術は、複数の無線通信回線を用いて、信頼度の高いストリーミングを行うことができるようにする通信システムおよび送信装置に関する。送信装置のＱｏＳモジュールは、複数の通信回線のＱｏＳに関する情報を生成し、ロードバランサは、少なくともＱｏＳに関する情報に基づいて、データの通信回線への割り当てを決定し、キャスタは、ＱｏＳモジュールからの指示に基づいて、データを、割り当てられた通信回線に振り分けて送信する。本技術は、ＵＤＰによるストリーミングを行う通信システムに適用することができる。

Description

本技術は、通信システムおよび送信装置に関し、特に、複数の無線通信回線を用いてストリーミングを行うことができるようにする通信システムおよび送信装置に関する。

従来、無線通信経路を用いた種々の通信システムがある。

例えば、特許文献１には、複数の異なる無線通信経路を利用し、１つの無線通信経路において不足した帯域を、他の無線通信経路により補完することで、通信を行うシステムが開示されている。

また近年、無線通信により、撮影している動画像をリアルタイムに配信する映像配信システムが多く実用化されている。

特開２００８−１１３２２４号公報

しかしながら、特許文献１に開示されているシステムは、音声通話を前提としたものであり、映像配信システムに、特許文献１の構成を適用することができるとは限らない。

本技術は、このような状況に鑑みてなされたものであり、複数の無線通信回線を用いて、信頼度の高いストリーミングを行うことができるようにするものである。

本技術の通信システムは、複数の通信回線を介してデータを送信する送信装置と、前記送信装置からの前記データを受信する受信装置とを備え、前記送信装置は、前記複数の通信回線のＱｏＳ（Quality of Service）に関する情報を生成するＱｏＳモジュールと、少なくとも前記ＱｏＳに関する情報に基づいて、前記データの前記通信回線への割り当てを決定するロードバランサと、前記ＱｏＳモジュールからの指示に基づいて、前記データを、割り当てられた前記通信回線に振り分けて送信するキャスタとを有する。

本技術の送信装置は、複数の通信回線のＱｏＳに関する情報を生成するＱｏＳモジュールと、少なくとも前記ＱｏＳに関する情報に基づいて、データの前記通信回線への割り当てを決定するロードバランサと、前記ＱｏＳモジュールからの指示に基づいて、前記データを、割り当てられた前記通信回線に振り分けて送信するキャスタとを備える。

本技術においては、複数の通信回線のＱｏＳに関する情報が生成され、少なくとも前記ＱｏＳに関する情報に基づいて、データの前記通信回線への割り当てが決定され、前記ＱｏＳモジュールからの指示に基づいて、前記データが、割り当てられた前記通信回線に振り分けて送信される。

本技術によれば、複数の無線通信回線を用いて、信頼度の高いストリーミングを行うことが可能となる。

なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。

本実施の形態に係る通信システムの構成例を示す図である。 送信装置の構成例を示すブロック図である。 送信装置および受信装置の機能構成例を示すブロック図である。 データ送信処理について説明するフローチャートである。 リンクの復帰判定の概要を説明する図である。 リンク復帰判定処理について説明するフローチャートである。 データ再送処理について説明するフローチャートである。 データ再送の例を示す図である。 データ再送の例を示す図である。 滞留パケットの送信処理について説明するフローチャートである。 先頭パケット送信後のパケット送信について説明する図である。 送信装置および受信装置の他の機能構成例を示すブロック図である。 手術室システムの全体構成を概略的に示す図である。 集中操作パネルにおける操作画面の表示例を示す図である。 手術室システムが適用された手術の様子の一例を示す図である。 図１５に示すカメラヘッド及びＣＣＵの機能構成の一例を示すブロック図である。

以下、本開示を実施するための形態（以下、実施の形態とする）について説明する。なお、説明は以下の順序で行う。

１．通信システムの構成および動作
２．リンクの復帰判定
３．データの再送
４．バッファ内の滞留パケットの送信
５．変形例
６．応用例

＜１．通信システムの構成および動作＞
（通信システムの構成例）
図１は、本実施の形態に係る通信システムの構成例を示す図である。

図１の通信システム１においては、送信装置１１がＵＤＰ（User Datagram Protocol）によるストリーミングを行うことで、送信装置１１により撮影されている動画像がリアルタイムで受信装置１２に送信される。

送信装置１１は、例えばカムコーダなどの撮像装置として構成され、撮像部１１ａにより撮影された動画像のデータ（動画像データ）をリアルタイムで受信装置１２に送信する。なお、送信装置１１と撮像装置とは、それぞれ別個に構成されるようにしてもよい。

受信装置１２は、例えばテレビジョン放送の放送局に備えられるストリーミング受信機として構成され、送信装置１１から送信されてくる動画像データを受信する。受信装置１２が受信した動画像データは、放送波によって配信される。

送信装置１１と受信装置１２とは、無線通信回線を含む第１の通信回線と、有線通信回線のみからなる第２の通信回線とを含むネットワークを介して接続される。

ここでいう第１の通信回線は、基地局２０−１，２０−２を介した送信装置１１とインターネット３０との間の通信回線を指し、第２の通信回線は、インターネット３０と受信装置１２との間の通信回線を指すものとする。

送信装置１１は、第１の無線通信回線（リンク１）により基地局２０−１と接続され、第２の無線通信回線（リンク２）により基地局２０−２と接続される。送信装置１１と基地局２０−１との間、および、送信装置１１と基地局２０−２との間においては、例えば、３Ｇ（3rd Generation）方式やＬＴＥ（Long Term Evolution）方式の通信が行われる。なお、以下においては、リンク１を経由する通信経路全体をリンク１、リンク２を経由する通信経路全体をリンク２などともいう。

送信装置１１は、リンク１およびリンク２を用いたボンディングによるストリーミングを行うことで、撮影により得られた動画像データを、データＳＤ１とデータＳＤ２とに分けて送信することができる。詳細は後述するが、送信装置１１と受信装置１２との間では、ＱｏＳ（Quality of Service）制御が行われることによって、ストリーミングが行われる。

インターネット３０には、コントローラ１３が接続される。コントローラ１３は、例えば、受信装置１２と同様にテレビジョン放送の放送局に備えられる。

コントローラ１３は、送信装置１１とインターネット３０との間の通信回線（第１の通信回線）、および、インターネット３０と受信装置１２との間の通信回線（第２の通信回線）を含むネットワークの状態を管理する制御装置である。例えば、コントローラ１３は、ＴＣＰ（Transmission Control Protocol）接続により、送信装置１１と受信装置１２との間のストリーミングの状態を管理する。

なお、通信システム１を構成するネットワークに接続されていればよく、図１に示されるように、単独でインターネット３０に接続されるようにしてもよいし、クラウド４０上に設けられるようにしてもよい。また、コントローラ１３は、コントローラ１３は、受信装置１２と一体となって構成されるようにしてもよいし、送信装置１１と一体となって構成されるようにしてもよい。

さらに、インターネット３０には、クラウド４０上のサーバ４１が接続される。受信装置１２が受信した動画像データは、クラウド４０上のサーバ４１によって、インターネット３０を経由して配信されるようにもできる。

また、受信装置１２が受信した動画像データは、例えば放送局において、受信装置１２に接続されるストレージ４２に保存されるようにしてもよい。

（送信装置の構成例）
図２は、送信装置１１の構成例を示すブロック図である。

図２の送信装置１１において、ＣＰＵ（Central Processor Unit）６１は、ＲＯＭ（Read Only Memory）６２に記憶されているプログラム、またはＲＡＭ（Random Access Memory）６３にロードされたプログラムに従って、送信装置１１が備える各種の機能を実現するための処理を実行する。ＲＡＭ６３にはまた、ＣＰＵ６１が各種の処理を実行する上において必要なデータなども適宜記憶される。

ＣＰＵ６１、ＲＯＭ６２、およびＲＡＭ６３は、バス６４を介して相互に接続されている。このバス６４にはまた、入出力インタフェース６５も接続されている。

入出力インタフェース６５には、入力部６６、出力部６７、記憶部６８、通信部６９、および撮像部７０が接続される。

入力部６６は、キー、ボタン、タッチパネル、およびマイクロフォンなどで構成され、出力部６７は、ディスプレイやスピーカなどで構成される。記憶部６８は、ハードディスクなどで構成され、通信部６９は、各種の無線通信を行うアンテナなどで構成される。

撮像部７０は、図１の撮像部１１ａに対応し、ＣＭＯＳ（Complementary Metal Oxide Semiconductor）イメージセンサなどから構成される。

入出力インタフェース６５にはまた、必要に応じてドライブ７１が接続され、半導体メモリなどで構成されるリムーバブルメディア７２が適宜装着される。リムーバブルメディア７２から読み出されたコンピュータプログラムは、必要に応じて記憶部６８にインストールされる。

なお、受信装置１２やコントローラ１３の構成は、撮像部７０を備えない点を除いては、図２の送信装置１１の構成と基本的に同様であるので、その説明は省略する。

（送信装置および受信装置の機能構成例）
次に、図３を参照して、送信装置１１および受信装置１２の機能構成例について説明する。

送信装置１１は、エンコーダ８１、ロードバランサ８２、ＱｏＳモジュール８３、およびキャスタ８４を備えている。

エンコーダ８１は、撮像部７０により得られた動画像データをエンコードし、ＩフレームおよびＰフレームからなるＧＯＰ（Group Of Picture）単位のデータを生成する。なお、本実施の形態においては、１つのＧＯＰは、Ｉ，Ｐフレームから構成されるものとするが、Ｉ，Ｐ，Ｂフレームから構成されていてもよい。

ロードバランサ８２は、例えば、後述するＱｏＳ情報に基づいて、エンコーダ８１により生成された各フレームのリンク１およびリンク２への割り当てを決定する。

ＱｏＳモジュール８３は、受信装置１２との間のＱｏＳ制御を実現する。

例えば、ＱｏＳモジュール８３は、受信装置１２からのリンク１およびリンク２それぞれについてのフィードバック情報に基づいて、リンク１およびリンク２それぞれのＱｏＳに関するＱｏＳ情報を生成し、ロードバランサ８２に通知する。また、ＱｏＳモジュール８３は、ロードバランサ８２によってリンク１またはリンク２に割り当てられた各フレームの送信を、キャスタ８４に指示する。

キャスタ８４は、ＱｏＳモジュール８３からの指示に基づいて、各フレームそれぞれを、割り当てられたリンク１またはリンク２に振り分けて、パケット単位で受信装置１２に送信する。なお、ＵＤＰによるストリーミングにおいては、各フレームを構成するパケットは任意の順序で送信される。

一方、受信装置１２は、通信部９１、ＱｏＳモジュール９２、およびデコーダ９３を備えている。

通信部９１は、送信装置１１からリンク１およびリンク２を介して送信されてきたパケットを受信し、ＱｏＳモジュール９２に供給する。

ＱｏＳモジュール９２は、送信装置１１との間のＱｏＳ制御を実現する。

例えば、ＱｏＳモジュール９２は、送信装置１１からリンク１およびリンク２を介して送信されてきた所定のパケットに対して、リンク１およびリンク２それぞれについてのフィードバック情報を生成し、通信部９１に送信させる。

ＱｏＳモジュール９２は、内部にフレームバッファを有し、フレームの出力タイミングに従って、デコーダ９３に対して、フレーム単位のパケット群を出力する。

デコーダ９３は、ＱｏＳモジュール９２から出力された各フレームをデコードすることで、動画像データを生成する。

（送信装置の動作）
次に、図４のフローチャートを参照して、送信装置１１による送信処理について説明する。図４の処理は、例えば、キャスタ８４が、受信装置１２からのリンク１およびリンク２それぞれについてのフィードバック情報を受信することで開始される。

ステップＳ１１において、ＱｏＳモジュール８３は、各リンクについてのフィードバック情報に基づいて、ＱｏＳ情報として、各リンクのレート情報およびリンク情報を生成し、ロードバランサ８２に通知する。

ここで、レート情報は、リンク１およびリンク２それぞれの通信レートを示す情報であり、リンク情報は、リンク１およびリンク２それぞれの帯域、パケットのロス率、往復伝送時間などに基づいて総合的に決められる、そのリンクの使用可否を決定する評価指標である。

ステップＳ１２において、ロードバランサ８２は、ＱｏＳモジュール８３からのレート情報およびリンク情報と、Ｉフレーム割当情報の少なくともいずれかに基づいて、ＡＲＣ（Automatic Rate Control）により推定されたレートを基準とすることで、エンコーダ８１により生成された各フレームのリンク１およびリンク２への割り当てを決定する。

Ｉフレーム割当情報は、Ｉ，Ｐフレームのうちデータ量の大きいＩフレームの各リンクへの割り当て状況を示す情報である。Ｉフレーム割当情報には、過去のＩフレームの各リンクへの割り当て状況を示す情報も含まれる。

Ｉフレーム割当情報によれば、データ量の大きいＩフレームが、１つのリンクに偏って割り当てられることを防ぐことができる。また、レート情報やリンク情報によれば、各リンクの状況に応じて、フレームを割り当てることができる。

なお、このとき、ＱｏＳモジュール８３は、ロードバランサ８２によって各リンクに割り当てられた各フレームの送信を、キャスタ８４に指示する。

そして、ステップＳ１３において、キャスタ８４は、ＱｏＳモジュール８３からの指示に基づいて、各フレームそれぞれを、割り当てられたリンク１またはリンク２に振り分けて、パケット単位で受信装置１２に送信する。

以上の処理によれば、ＱｏＳモジュール８３によりＱｏＳ制御が適切に行われるので、ＵＤＰによるストリーミングであっても、複数の無線通信回線を用いたボンディングにより、信頼度の高いストリーミングを行うことが可能となる。

＜２．リンクの復帰判定＞
上述した通信システム１においては、ボンディングの際に、複数のリンクのうちの１つが使えなくなる場合がある。この場合、そのリンクへのフレームの割り当てを停止する必要がある。以下においては、フレームの割り当てを停止したリンクの復帰判定の手法について説明する。

（リンクの復帰判定の概要）
図５は、フレームの割り当てを停止したリンクの復帰判定の概要を説明する図である。

図５には、あるリンクについての実効帯域ＥＢと、その間に送信されるパケット量の時間的な変化が示されている。

図５に示されるように、例えば時刻ｔ１において、送信されるべきＡｕｄｉｏパケットとＶｉｄｅｏパケットの総量が、図中破線で囲まれるように、その時の実効帯域ＥＢを超えると、パケットロスおよびネットワークの輻輳となり、正常にストリーミングを行えないため、ＱｏＳモジュール８３は、Ｖｉｄｅｏパケット（フレーム）を送信できないと判断する。

その後、ＱｏＳモジュール８３は、そのリンクへのＶｉｄｅｏパケットの割り当てを停止し、時刻ｔ２において、Ａｕｄｉｏパケットの多重送信を開始する。ここでは、送信の度に、多重送信される同一パケットの数を増やすようにして、Ａｕｄｉｏパケットの多重送信が繰り返し行われる。このようにして、そのリンクの帯域を推定することができる。

なお、図５の例では、時刻ｔ２あたりから、実効帯域ＥＢが高くなり始めている。

そして、時刻ｔ３において、多重送信されるＡｕｄｉｏパケットの総量、言い換えると、帯域の推定結果が、あらかじめ設定された閾値を超えると、ＱｏＳモジュール８３は、そのリンクへのＶｉｄｅｏパケットの割り当てを再開する。このとき、実効帯域ＥＢは、ＡｕｄｉｏパケットとＶｉｄｅｏパケットの総量より十分大きくなっており、そのリンクでのフレームの送信が可能となっている。

（リンク復帰判定処理）
図６は、リンク復帰判定処理について説明するフローチャートである。図６の処理は、ＱｏＳモジュール８３によりリンクそれぞれについて実行される。

ステップＳ３１において、ＱｏＳモジュール８３は、判定対象となるリンク（以下、対象リンクという）について、フレーム（パケット）の割り当てが可能か否かを判定する。

フレームの割り当てが可能であると判定されている間は、ステップＳ３１の処理は繰り返される。そして、フレームの割り当てが可能でないと判定されると、処理はステップＳ３２に進み、ＱｏＳモジュール８３は、ロードバランサ８２に、対象リンクへのフレームの割り当てができない旨を通知する。

これにより、ロードバランサ８２は、対象リンクへのフレームの割り当てを停止する。

ステップＳ３３において、ＱｏＳモジュール８３は、帯域推定に用いるパケットの重複量を決定する。

ステップＳ３４において、ＱｏＳモジュール８３は、決定した重複量でパケットを多重送信するよう、キャスタ８４に指示する。キャスタ８４は、ＱｏＳモジュール８３からの指示に応じて、受信装置１２にパケットを多重送信する。受信装置１２は、送信装置１１からのパケットに対して、対象リンクについてのフィードバック情報を、送信装置１１に送信する。

ステップＳ３５において、ＱｏＳモジュール８３は、受信装置１２からの対象リンクについてのフィードバック情報を、キャスタ８４を介して取得する。

ステップＳ３６において、ＱｏＳモジュール８３は、取得したフィードバック情報に基づいて、その時点での対象リンクの通信レートが、あらかじめ設定された指定レート以上であるか否かを判定する。すなわち、対象リンクの帯域が推定され、その帯域が所定の帯域を超えたか否かが判定される。

その時点での対象リンクの通信レートが、あらかじめ設定された指定レート以上でないと判定された場合、処理はステップＳ３３に戻り、ステップＳ３３乃至Ｓ３５の処理が繰り返される。このとき、処理が繰り返される度に、パケットの重複量は増大するようになされる。

そして、ステップＳ３６において、その時点での対象リンクの通信レートが、あらかじめ設定された指定レート以上であると判定された場合、処理はステップＳ３７に進み、ＱｏＳモジュール８３は、対象リンクへのフレームの割り当ての再開を決定する。

その後、ステップＳ３８において、ＱｏＳモジュール８３は、ロードバランサ８２に、対象リンクへのフレームの割り当ての再開を決定した旨を通知する。

これにより、ロードバランサ８２は、再び、対象リンクへのフレームの割り当てを開始するようになる。

以上の処理によれば、ボンディングの際に、あるリンクへのフレームの割り当てが停止した場合であっても、冗長性を持たせつつ適切なタイミングで、そのリンクへのフレームの割り当てを再開することが可能となる。

＜３．データの再送＞
ＵＤＰによるストリーミングにおいては、通信回線が瞬断するなどしてパケットロスが生じた場合、そのデータは失われてしまう。そこで、本実施の形態に係る通信システム１は、データの再送を行うことにより、そのデータを保証するようになされている。

（データ再送処理）
図７のフローチャートを参照して、通信システム１におけるデータ再送処理について説明する。

ステップＳ５１において、ＱｏＳモジュール８３は、データの再送が必要であるか否かを判定する。データの再送が必要である場合の例については後述する。

ステップＳ５１において、データの再送が必要であると判定された場合、処理はステップＳ５２に進み、キャスタ８４は、再送が必要とされたデータを再送する。

一方、ステップＳ５１において、データの再送が必要でないと判定された場合、キャスタ８４は何もせず、処理は終了する。

ここで、図８および図９を参照して、データの再送が必要である場合の例について説明する。

図８は、リンク１およびリンク２のうち、リンク２において瞬断が発生した場合の例を示している。

この場合、ＱｏＳモジュール８３は、瞬断時の受信装置１２からのリンク２についてのフィードバック情報に基づいて、受信装置１２において受信が確認されていないパケットＰ１１を、リンクを切り替えることで別回線（リンク１）を用いて再送するよう、キャスタ８４に指示する。これにより、パケットロスの影響を低減させることができる。

図９は、受信装置１２から送信装置１１に対して再送要求がなされた場合の例を示している。

この場合、ＱｏＳモジュール８３は、受信装置１２からの再送要求に基づいて、再送が要求されているパケットＰ２１を、リンク１とリンク２の両方を用いて並列に再送するよう、キャスタ８４に指示する。これにより、緊急性を求められる通信の信頼度を向上させることができる。

＜４．バッファ内の滞留パケットの送信＞
通信システム１においては、送信装置１１は、キャスタ８４の送信バッファ内にパケットを溜めてから、受信装置１２に送信するようになされている。

（滞留パケットの送信処理）
ここで、図１０のフローチャートを参照して、キャスタ８４の送信バッファ内の滞留パケットの送信処理について説明する。

ステップＳ７１において、ＱｏＳモジュール８３は、キャスタ８４の送信バッファ内のパケット群の、割り当てられたリンクでの伝送が、受信装置１２におけるパケットの使用時刻までに完了するか否か、具体的には、キャスタ８４の送信バッファ内のパケット群の中に、受信装置１２における動画像の再生時刻に間に合わないパケットがあるか否かを判定する。なお、判定の対象となるパケット群は、動画像データの１フレームを構成するものとする。

ステップＳ７１において、再生時刻に間に合わないパケットはないと判定された場合、処理はステップＳ７２に進み、ＱｏＳモジュール８３は、キャスタ８４の送信バッファ内のパケット群を、ロードバランサ８２によって割り当てられたリンクで送信するよう、キャスタ８４に指示する。

一方、ステップＳ７１において、再生時刻に間に合わないパケットがあると判定された場合、処理はステップＳ７３に進む。

ステップＳ７３において、ＱｏＳモジュール８３は、再生時刻に間に合わないと判定されたパケットを、割り当てられたリンクではない他のリンクで送信すれば間に合うか否かを判定する。

ステップＳ７３において、他のリンクで送信すれば間に合うと判定された場合、処理はステップＳ７４に進み、ＱｏＳモジュール８３は、キャスタ８４の送信バッファ内のパケット群を、他のリンクで送信するよう、キャスタ８４に指示する。

一方、ステップＳ７３において、他のリンクで送信しても間に合わないと判定された場合、処理はステップＳ７５に進む。

ステップＳ７５において、ＱｏＳモジュール８３は、送信バッファ内のパケット群、すなわち１フレームを構成するパケット群の先頭パケットを送信済みであるか否かを判定する。

ステップＳ７５において、１フレームの先頭パケットを送信済みであると判定された場合、処理はステップＳ７６に進み、ＱｏＳモジュール８３は、送信バッファ内のパケット群の残りの全パケットを、ロードバランサ８２によって割り当てられたリンクで送信するよう、キャスタ８４に指示する。

例えば、図１１に示されるように、３つのパケットｐｋｔ１，ｐｋｔ２，ｐｋｔ３が１フレームを構成するものとする。このうちの先頭パケットｐｋｔ１が、図中矢印＃１で示されるように、送信装置１１から受信装置１２へ既に送信されていた場合、残りのパケットｐｋｔ２，ｐｋｔ３は、図中矢印＃２，＃３で示されるように、送信装置１１から受信装置１２へ一気に送信されるようになる。

この場合、結果として、受信装置１２における再生時刻に間に合わなかったり、パケットロスが生じる可能性もあるが、割り当てられたリンクの状況がより良くなった場合などには、残りのパケットを正しく送信できる可能性もある。

なお、この例では、１フレームの先頭パケットを送信済みである場合に、残りの全パケットが一気に送信されるものとしたが、先頭から所定数のパケットを送信済みである場合に、残りの全パケットが一気に送信されるようにしてもよい。

また、送信バッファ内のパケット群の残りの全パケットを送信する際、他のリンクの状況に基づいて、送信バッファ内のパケット群の残りのパケットが、ロードバランサ８２によって割り当てられたリンクと、他のリンクとに振り分けられるようにしてもよい。例えば、他のリンクで、送信バッファ内のパケット群の前半のパケットを送信し、割り当てられたリンクで、残りのパケットを送信するように、パケットを振り分けるようにする。これにより、割り当てられたリンクのみで送信するよりも、伝送遅延やパケットロスが生じる可能性を低減させることができる。

さて、図１０のフローチャートに戻り、ステップＳ７５において、１フレームの先頭パケットを送信済みでないと判定された場合、処理はステップＳ７７に進み、ＱｏＳモジュール８３は、送信バッファ内のパケット群のパケットを全て削除するよう、キャスタ８４に指示する。

以上の処理によれば、リンクの状況に応じて、受信装置１２における動画像の再生時刻に間に合うようにパケットを送信することが可能となる。

＜５．変形例＞
上述した構成においては、送信装置１１は、２つの通信回線（リンク）を用いてストリーミングを行うものとしたが、リンクの数は２に限られず、図１２に示されるように、任意の数ｎであってもよい。

この場合、送信装置１１および受信装置１２それぞれにおいては、リンク１乃至ｎ毎に、ＱｏＳモジュール８３−１乃至８３−ｎおよびＱｏＳモジュール９２−１乃至９２−ｎが設けられるようにしてもよい。

＜６．応用例＞
以上においては、本開示に係る技術を、テレビジョン放送を行う通信システムに適用した例について説明したが、これに限らず、様々なシステムに適用することができる。例えば、本開示に係る技術は、手術室システムに適用されてもよい。

図１３は、本開示に係る技術が適用され得る手術室システム５１００の全体構成を概略的に示す図である。図１３を参照すると、手術室システム５１００は、手術室内に設置される装置群が視聴覚コントローラ（AV Controller）５１０７及び手術室制御装置５１０９を介して互いに連携可能に接続されることにより構成される。

手術室には、様々な装置が設置され得る。図１３では、一例として、内視鏡下手術のための各種の装置群５１０１と、手術室の天井に設けられ術者の手元を撮像するシーリングカメラ５１８７と、手術室の天井に設けられ手術室全体の様子を撮像する術場カメラ５１８９と、複数の表示装置５１０３Ａ〜５１０３Ｄと、レコーダ５１０５と、患者ベッド５１８３と、照明５１９１と、を図示している。

ここで、これらの装置のうち、装置群５１０１は、後述する内視鏡手術システム５１１３に属するものであり、内視鏡や当該内視鏡によって撮像された画像を表示する表示装置等からなる。内視鏡手術システム５１１３に属する各装置は医療用機器とも呼称される。一方、表示装置５１０３Ａ〜５１０３Ｄ、レコーダ５１０５、患者ベッド５１８３及び照明５１９１は、内視鏡手術システム５１１３とは別個に、例えば手術室に備え付けられている装置である。これらの内視鏡手術システム５１１３に属さない各装置は非医療用機器とも呼称される。視聴覚コントローラ５１０７及び／又は手術室制御装置５１０９は、これら医療機器及び非医療機器の動作を互いに連携して制御する。

視聴覚コントローラ５１０７は、医療機器及び非医療機器における画像表示に関する処理を、統括的に制御する。具体的には、手術室システム５１００が備える装置のうち、装置群５１０１、シーリングカメラ５１８７及び術場カメラ５１８９は、手術中に表示すべき情報（以下、表示情報ともいう）を発信する機能を有する装置（以下、発信元の装置とも呼称する）であり得る。また、表示装置５１０３Ａ〜５１０３Ｄは、表示情報が出力される装置（以下、出力先の装置とも呼称する）であり得る。また、レコーダ５１０５は、発信元の装置及び出力先の装置の双方に該当する装置であり得る。視聴覚コントローラ５１０７は、発信元の装置及び出力先の装置の動作を制御し、発信元の装置から表示情報を取得するとともに、当該表示情報を出力先の装置に送信し、表示又は記録させる機能を有する。なお、表示情報とは、手術中に撮像された各種の画像や、手術に関する各種の情報（例えば、患者の身体情報や、過去の検査結果、術式についての情報等）等である。

具体的には、視聴覚コントローラ５１０７には、装置群５１０１から、表示情報として、内視鏡によって撮像された患者の体腔内の術部の画像についての情報が送信され得る。また、シーリングカメラ５１８７から、表示情報として、当該シーリングカメラ５１８７によって撮像された術者の手元の画像についての情報が送信され得る。また、術場カメラ５１８９から、表示情報として、当該術場カメラ５１８９によって撮像された手術室全体の様子を示す画像についての情報が送信され得る。なお、手術室システム５１００に撮像機能を有する他の装置が存在する場合には、視聴覚コントローラ５１０７は、表示情報として、当該他の装置からも当該他の装置によって撮像された画像についての情報を取得してもよい。

あるいは、例えば、レコーダ５１０５には、過去に撮像されたこれらの画像についての情報が視聴覚コントローラ５１０７によって記録されている。視聴覚コントローラ５１０７は、表示情報として、レコーダ５１０５から当該過去に撮像された画像についての情報を取得することができる。なお、レコーダ５１０５には、手術に関する各種の情報も事前に記録されていてもよい。

視聴覚コントローラ５１０７は、出力先の装置である表示装置５１０３Ａ〜５１０３Ｄの少なくともいずれかに、取得した表示情報（すなわち、手術中に撮影された画像や、手術に関する各種の情報）を表示させる。図示する例では、表示装置５１０３Ａは手術室の天井から吊り下げられて設置される表示装置であり、表示装置５１０３Ｂは手術室の壁面に設置される表示装置であり、表示装置５１０３Ｃは手術室内の机上に設置される表示装置であり、表示装置５１０３Ｄは表示機能を有するモバイル機器（例えば、タブレットＰＣ（Personal Computer））である。

また、図１３では図示を省略しているが、手術室システム５１００には、手術室の外部の装置が含まれてもよい。手術室の外部の装置は、例えば、病院内外に構築されたネットワークに接続されるサーバや、医療スタッフが用いるＰＣ、病院の会議室に設置されるプロジェクタ等であり得る。このような外部装置が病院外にある場合には、視聴覚コントローラ５１０７は、遠隔医療のために、テレビ会議システム等を介して、他の病院の表示装置に表示情報を表示させることもできる。

手術室制御装置５１０９は、非医療機器における画像表示に関する処理以外の処理を、統括的に制御する。例えば、手術室制御装置５１０９は、患者ベッド５１８３、シーリングカメラ５１８７、術場カメラ５１８９及び照明５１９１の駆動を制御する。

手術室システム５１００には、集中操作パネル５１１１が設けられており、ユーザは、当該集中操作パネル５１１１を介して、視聴覚コントローラ５１０７に対して画像表示についての指示を与えたり、手術室制御装置５１０９に対して非医療機器の動作についての指示を与えることができる。集中操作パネル５１１１は、表示装置の表示面上にタッチパネルが設けられて構成される。

図１４は、集中操作パネル５１１１における操作画面の表示例を示す図である。図１４では、一例として、手術室システム５１００に、出力先の装置として、２つの表示装置が設けられている場合に対応する操作画面を示している。図１４を参照すると、操作画面５１９３には、発信元選択領域５１９５と、プレビュー領域５１９７と、コントロール領域５２０１と、が設けられる。

発信元選択領域５１９５には、手術室システム５１００に備えられる発信元装置と、当該発信元装置が有する表示情報を表すサムネイル画面と、が紐付けられて表示される。ユーザは、表示装置に表示させたい表示情報を、発信元選択領域５１９５に表示されているいずれかの発信元装置から選択することができる。

プレビュー領域５１９７には、出力先の装置である２つの表示装置（Monitor1、Monitor2）に表示される画面のプレビューが表示される。図示する例では、１つの表示装置において４つの画像がＰｉｎＰ表示されている。当該４つの画像は、発信元選択領域５１９５において選択された発信元装置から発信された表示情報に対応するものである。４つの画像のうち、１つはメイン画像として比較的大きく表示され、残りの３つはサブ画像として比較的小さく表示される。ユーザは、４つの画像が表示された領域を適宜選択することにより、メイン画像とサブ画像を入れ替えることができる。また、４つの画像が表示される領域の下部には、ステータス表示領域５１９９が設けられており、当該領域に手術に関するステータス（例えば、手術の経過時間や、患者の身体情報等）が適宜表示され得る。

コントロール領域５２０１には、発信元の装置に対して操作を行うためのＧＵＩ（Graphical User Interface）部品が表示される発信元操作領域５２０３と、出力先の装置に対して操作を行うためのＧＵＩ部品が表示される出力先操作領域５２０５と、が設けられる。図示する例では、発信元操作領域５２０３には、撮像機能を有する発信元の装置におけるカメラに対して各種の操作（パン、チルト及びズーム）を行うためのＧＵＩ部品が設けられている。ユーザは、これらのＧＵＩ部品を適宜選択することにより、発信元の装置におけるカメラの動作を操作することができる。なお、図示は省略しているが、発信元選択領域５１９５において選択されている発信元の装置がレコーダである場合（すなわち、プレビュー領域５１９７において、レコーダに過去に記録された画像が表示されている場合）には、発信元操作領域５２０３には、当該画像の再生、再生停止、巻き戻し、早送り等の操作を行うためのＧＵＩ部品が設けられ得る。

また、出力先操作領域５２０５には、出力先の装置である表示装置における表示に対する各種の操作（スワップ、フリップ、色調整、コントラスト調整、２Ｄ表示と３Ｄ表示の切り替え）を行うためのＧＵＩ部品が設けられている。ユーザは、これらのＧＵＩ部品を適宜選択することにより、表示装置における表示を操作することができる。

なお、集中操作パネル５１１１に表示される操作画面は図示する例に限定されず、ユーザは、集中操作パネル５１１１を介して、手術室システム５１００に備えられる、視聴覚コントローラ５１０７及び手術室制御装置５１０９によって制御され得る各装置に対する操作入力が可能であってよい。

図１５は、以上説明した手術室システムが適用された手術の様子の一例を示す図である。シーリングカメラ５１８７及び術場カメラ５１８９は、手術室の天井に設けられ、患者ベッド５１８３上の患者５１８５の患部に対して処置を行う術者（医者）５１８１の手元及び手術室全体の様子を撮影可能である。シーリングカメラ５１８７及び術場カメラ５１８９には、倍率調整機能、焦点距離調整機能、撮影方向調整機能等が設けられ得る。照明５１９１は、手術室の天井に設けられ、少なくとも術者５１８１の手元を照射する。照明５１９１は、その照射光量、照射光の波長（色）及び光の照射方向等を適宜調整可能であってよい。

内視鏡手術システム５１１３、患者ベッド５１８３、シーリングカメラ５１８７、術場カメラ５１８９及び照明５１９１は、図１３に示すように、視聴覚コントローラ５１０７及び手術室制御装置５１０９（図１５では図示せず）を介して互いに連携可能に接続されている。手術室内には、集中操作パネル５１１１が設けられており、上述したように、ユーザは、当該集中操作パネル５１１１を介して、手術室内に存在するこれらの装置を適宜操作することが可能である。

以下、内視鏡手術システム５１１３の構成について詳細に説明する。図示するように、内視鏡手術システム５１１３は、内視鏡５１１５と、その他の術具５１３１と、内視鏡５１１５を支持する支持アーム装置５１４１と、内視鏡下手術のための各種の装置が搭載されたカート５１５１と、から構成される。

内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ５１３９ａ〜５１３９ｄと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ５１３９ａ〜５１３９ｄから、内視鏡５１１５の鏡筒５１１７や、その他の術具５１３１が患者５１８５の体腔内に挿入される。図示する例では、その他の術具５１３１として、気腹チューブ５１３３、エネルギー処置具５１３５及び鉗子５１３７が、患者５１８５の体腔内に挿入されている。また、エネルギー処置具５１３５は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具５１３１はあくまで一例であり、術具５１３１としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。

内視鏡５１１５によって撮影された患者５１８５の体腔内の術部の画像が、表示装置５１５５に表示される。術者５１８１は、表示装置５１５５に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具５１３５や鉗子５１３７を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ５１３３、エネルギー処置具５１３５及び鉗子５１３７は、手術中に、術者５１８１又は助手等によって支持される。

（支持アーム装置）
支持アーム装置５１４１は、ベース部５１４３から延伸するアーム部５１４５を備える。図示する例では、アーム部５１４５は、関節部５１４７ａ、５１４７ｂ、５１４７ｃ、及びリンク５１４９ａ、５１４９ｂから構成されており、アーム制御装置５１５９からの制御により駆動される。アーム部５１４５によって内視鏡５１１５が支持され、その位置及び姿勢が制御される。これにより、内視鏡５１１５の安定的な位置の固定が実現され得る。

（内視鏡）
内視鏡５１１５は、先端から所定の長さの領域が患者５１８５の体腔内に挿入される鏡筒５１１７と、鏡筒５１１７の基端に接続されるカメラヘッド５１１９と、から構成される。図示する例では、硬性の鏡筒５１１７を有するいわゆる硬性鏡として構成される内視鏡５１１５を図示しているが、内視鏡５１１５は、軟性の鏡筒５１１７を有するいわゆる軟性鏡として構成されてもよい。

鏡筒５１１７の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡５１１５には光源装置５１５７が接続されており、当該光源装置５１５７によって生成された光が、鏡筒５１１７の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者５１８５の体腔内の観察対象に向かって照射される。なお、内視鏡５１１５は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。

カメラヘッド５１１９の内部には光学系及び撮像素子が設けられており、観察対象からの反射光（観察光）は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、ＲＡＷデータとしてカメラコントロールユニット（ＣＣＵ：Camera Control Unit）５１５３に送信される。なお、カメラヘッド５１１９には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。

なお、例えば立体視（３Ｄ表示）等に対応するために、カメラヘッド５１１９には撮像素子が複数設けられてもよい。この場合、鏡筒５１１７の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。

（カートに搭載される各種の装置）
ＣＣＵ５１５３は、ＣＰＵ（Central Processing Unit）やＧＰＵ（Graphics Processing Unit）等によって構成され、内視鏡５１１５及び表示装置５１５５の動作を統括的に制御する。具体的には、ＣＣＵ５１５３は、カメラヘッド５１１９から受け取った画像信号に対して、例えば現像処理（デモザイク処理）等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。ＣＣＵ５１５３は、当該画像処理を施した画像信号を表示装置５１５５に提供する。また、ＣＣＵ５１５３には、図１３に示す視聴覚コントローラ５１０７が接続される。ＣＣＵ５１５３は、画像処理を施した画像信号を視聴覚コントローラ５１０７にも提供する。また、ＣＣＵ５１５３は、カメラヘッド５１１９に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。当該撮像条件に関する情報は、入力装置５１６１を介して入力されてもよいし、上述した集中操作パネル５１１１を介して入力されてもよい。

表示装置５１５５は、ＣＣＵ５１５３からの制御により、当該ＣＣＵ５１５３によって画像処理が施された画像信号に基づく画像を表示する。内視鏡５１１５が例えば４Ｋ（水平画素数３８４０×垂直画素数２１６０）又は８Ｋ（水平画素数７６８０×垂直画素数４３２０）等の高解像度の撮影に対応したものである場合、及び／又は３Ｄ表示に対応したものである場合には、表示装置５１５５としては、それぞれに対応して、高解像度の表示が可能なもの、及び／又は３Ｄ表示可能なものが用いられ得る。４Ｋ又は８Ｋ等の高解像度の撮影に対応したものである場合、表示装置５１５５として５５インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置５１５５が設けられてもよい。

光源装置５１５７は、例えばＬＥＤ（light emitting diode）等の光源から構成され、術部を撮影する際の照射光を内視鏡５１１５に供給する。

アーム制御装置５１５９は、例えばＣＰＵ等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置５１４１のアーム部５１４５の駆動を制御する。

入力装置５１６１は、内視鏡手術システム５１１３に対する入力インタフェースである。ユーザは、入力装置５１６１を介して、内視鏡手術システム５１１３に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置５１６１を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置５１６１を介して、アーム部５１４５を駆動させる旨の指示や、内視鏡５１１５による撮像条件（照射光の種類、倍率及び焦点距離等）を変更する旨の指示、エネルギー処置具５１３５を駆動させる旨の指示等を入力する。

入力装置５１６１の種類は限定されず、入力装置５１６１は各種の公知の入力装置であってよい。入力装置５１６１としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ５１７１及び／又はレバー等が適用され得る。入力装置５１６１としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置５１５５の表示面上に設けられてもよい。

あるいは、入力装置５１６１は、例えばメガネ型のウェアラブルデバイスやＨＭＤ（Head Mounted Display）等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置５１６１は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置５１６１は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置５１６１が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ（例えば術者５１８１）が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。

処置具制御装置５１６３は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具５１３５の駆動を制御する。気腹装置５１６５は、内視鏡５１１５による視野の確保及び術者の作業空間の確保の目的で、患者５１８５の体腔を膨らめるために、気腹チューブ５１３３を介して当該体腔内にガスを送り込む。レコーダ５１６７は、手術に関する各種の情報を記録可能な装置である。プリンタ５１６９は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。

以下、内視鏡手術システム５１１３において特に特徴的な構成について、更に詳細に説明する。

（支持アーム装置）
支持アーム装置５１４１は、基台であるベース部５１４３と、ベース部５１４３から延伸するアーム部５１４５と、を備える。図示する例では、アーム部５１４５は、複数の関節部５１４７ａ、５１４７ｂ、５１４７ｃと、関節部５１４７ｂによって連結される複数のリンク５１４９ａ、５１４９ｂと、から構成されているが、図１５では、簡単のため、アーム部５１４５の構成を簡略化して図示している。実際には、アーム部５１４５が所望の自由度を有するように、関節部５１４７ａ〜５１４７ｃ及びリンク５１４９ａ、５１４９ｂの形状、数及び配置、並びに関節部５１４７ａ〜５１４７ｃの回転軸の方向等が適宜設定され得る。例えば、アーム部５１４５は、好適に、６自由度以上の自由度を有するように構成され得る。これにより、アーム部５１４５の可動範囲内において内視鏡５１１５を自由に移動させることが可能になるため、所望の方向から内視鏡５１１５の鏡筒５１１７を患者５１８５の体腔内に挿入することが可能になる。

関節部５１４７ａ〜５１４７ｃにはアクチュエータが設けられており、関節部５１４７ａ〜５１４７ｃは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置５１５９によって制御されることにより、各関節部５１４７ａ〜５１４７ｃの回転角度が制御され、アーム部５１４５の駆動が制御される。これにより、内視鏡５１１５の位置及び姿勢の制御が実現され得る。この際、アーム制御装置５１５９は、力制御又は位置制御等、各種の公知の制御方式によってアーム部５１４５の駆動を制御することができる。

例えば、術者５１８１が、入力装置５１６１（フットスイッチ５１７１を含む）を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置５１５９によってアーム部５１４５の駆動が適宜制御され、内視鏡５１１５の位置及び姿勢が制御されてよい。当該制御により、アーム部５１４５の先端の内視鏡５１１５を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部５１４５は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部５１４５は、手術室から離れた場所に設置される入力装置５１６１を介してユーザによって遠隔操作され得る。

また、力制御が適用される場合には、アーム制御装置５１５９は、ユーザからの外力を受け、その外力にならってスムーズにアーム部５１４５が移動するように、各関節部５１４７ａ〜５１４７ｃのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部５１４５に触れながらアーム部５１４５を移動させる際に、比較的軽い力で当該アーム部５１４５を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡５１１５を移動させることが可能となり、ユーザの利便性を向上させることができる。

ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡５１１５が支持されていた。これに対して、支持アーム装置５１４１を用いることにより、人手によらずに内視鏡５１１５の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。

なお、アーム制御装置５１５９は必ずしもカート５１５１に設けられなくてもよい。また、アーム制御装置５１５９は必ずしも１つの装置でなくてもよい。例えば、アーム制御装置５１５９は、支持アーム装置５１４１のアーム部５１４５の各関節部５１４７ａ〜５１４７ｃにそれぞれ設けられてもよく、複数のアーム制御装置５１５９が互いに協働することにより、アーム部５１４５の駆動制御が実現されてもよい。

（光源装置）
光源装置５１５７は、内視鏡５１１５に術部を撮影する際の照射光を供給する。光源装置５１５７は、例えばＬＥＤ、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、ＲＧＢレーザ光源の組み合わせにより白色光源が構成される場合には、各色（各波長）の出力強度及び出力タイミングを高精度に制御することができるため、光源装置５１５７において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、ＲＧＢレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド５１１９の撮像素子の駆動を制御することにより、ＲＧＢそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。

また、光源装置５１５７は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド５１１９の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。

また、光源装置５１５７は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光（すなわち、白色光）に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察（Narrow Band Imaging）が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの（自家蛍光観察）、又はインドシアニングリーン（ICG）等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置５１５７は、このような特殊光観察に対応した狭帯域光及び／又は励起光を供給可能に構成され得る。

（カメラヘッド及びＣＣＵ）
図１６を参照して、内視鏡５１１５のカメラヘッド５１１９及びＣＣＵ５１５３の機能についてより詳細に説明する。図１６は、図１５に示すカメラヘッド５１１９及びＣＣＵ５１５３の機能構成の一例を示すブロック図である。

図１６を参照すると、カメラヘッド５１１９は、その機能として、レンズユニット５１２１と、撮像部５１２３と、駆動部５１２５と、通信部５１２７と、カメラヘッド制御部５１２９と、を有する。また、ＣＣＵ５１５３は、その機能として、通信部５１７３と、画像処理部５１７５と、制御部５１７７と、を有する。カメラヘッド５１１９とＣＣＵ５１５３とは、伝送ケーブル５１７９によって双方向に通信可能に接続されている。

まず、カメラヘッド５１１９の機能構成について説明する。レンズユニット５１２１は、鏡筒５１１７との接続部に設けられる光学系である。鏡筒５１１７の先端から取り込まれた観察光は、カメラヘッド５１１９まで導光され、当該レンズユニット５１２１に入射する。レンズユニット５１２１は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット５１２１は、撮像部５１２３の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。

撮像部５１２３は撮像素子によって構成され、レンズユニット５１２１の後段に配置される。レンズユニット５１２１を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部５１２３によって生成された画像信号は、通信部５１２７に提供される。

撮像部５１２３を構成する撮像素子としては、例えばＣＭＯＳ（Complementary Metal Oxide Semiconductor）タイプのイメージセンサであり、Ｂａｙｅｒ配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば４Ｋ以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者５１８１は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。

また、撮像部５１２３を構成する撮像素子は、３Ｄ表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための１対の撮像素子を有するように構成される。３Ｄ表示が行われることにより、術者５１８１は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部５１２３が多板式で構成される場合には、各撮像素子に対応して、レンズユニット５１２１も複数系統設けられる。

また、撮像部５１２３は、必ずしもカメラヘッド５１１９に設けられなくてもよい。例えば、撮像部５１２３は、鏡筒５１１７の内部に、対物レンズの直後に設けられてもよい。

駆動部５１２５は、アクチュエータによって構成され、カメラヘッド制御部５１２９からの制御により、レンズユニット５１２１のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部５１２３による撮像画像の倍率及び焦点が適宜調整され得る。

通信部５１２７は、ＣＣＵ５１５３との間で各種の情報を送受信するための通信装置によって構成される。通信部５１２７は、撮像部５１２３から得た画像信号をＲＡＷデータとして伝送ケーブル５１７９を介してＣＣＵ５１５３に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者５１８１が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部５１２７には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル５１７９を介してＣＣＵ５１５３に送信される。

また、通信部５１２７は、ＣＣＵ５１５３から、カメラヘッド５１１９の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに／又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部５１２７は、受信した制御信号をカメラヘッド制御部５１２９に提供する。なお、ＣＣＵ５１５３からの制御信号も、光通信によって伝送されてもよい。この場合、通信部５１２７には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部５１２９に提供される。

なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてＣＣＵ５１５３の制御部５１７７によって自動的に設定される。つまり、いわゆるＡＥ（Auto Exposure）機能、ＡＦ（Auto Focus）機能及びＡＷＢ（Auto White Balance）機能が内視鏡５１１５に搭載される。

カメラヘッド制御部５１２９は、通信部５１２７を介して受信したＣＣＵ５１５３からの制御信号に基づいて、カメラヘッド５１１９の駆動を制御する。例えば、カメラヘッド制御部５１２９は、撮像画像のフレームレートを指定する旨の情報及び／又は撮像時の露光を指定する旨の情報に基づいて、撮像部５１２３の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部５１２９は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部５１２５を介してレンズユニット５１２１のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部５１２９は、更に、鏡筒５１１７やカメラヘッド５１１９を識別するための情報を記憶する機能を備えてもよい。

なお、レンズユニット５１２１や撮像部５１２３等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド５１１９について、オートクレーブ滅菌処理に対する耐性を持たせることができる。

次に、ＣＣＵ５１５３の機能構成について説明する。通信部５１７３は、カメラヘッド５１１９との間で各種の情報を送受信するための通信装置によって構成される。通信部５１７３は、カメラヘッド５１１９から、伝送ケーブル５１７９を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部５１７３には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部５１７３は、電気信号に変換した画像信号を画像処理部５１７５に提供する。

また、通信部５１７３は、カメラヘッド５１１９に対して、カメラヘッド５１１９の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。

画像処理部５１７５は、カメラヘッド５１１９から送信されたＲＡＷデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理（帯域強調処理、超解像処理、ＮＲ（Noise reduction）処理及び／又は手ブレ補正処理等）、並びに／又は拡大処理（電子ズーム処理）等、各種の公知の信号処理が含まれる。また、画像処理部５１７５は、ＡＥ、ＡＦ及びＡＷＢを行うための、画像信号に対する検波処理を行う。

画像処理部５１７５は、ＣＰＵやＧＰＵ等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部５１７５が複数のＧＰＵによって構成される場合には、画像処理部５１７５は、画像信号に係る情報を適宜分割し、これら複数のＧＰＵによって並列的に画像処理を行う。

制御部５１７７は、内視鏡５１１５による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部５１７７は、カメラヘッド５１１９の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部５１７７は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡５１１５にＡＥ機能、ＡＦ機能及びＡＷＢ機能が搭載されている場合には、制御部５１７７は、画像処理部５１７５による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。

また、制御部５１７７は、画像処理部５１７５によって画像処理が施された画像信号に基づいて、術部の画像を表示装置５１５５に表示させる。この際、制御部５１７７は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部５１７７は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具５１３５使用時のミスト等を認識することができる。制御部５１７７は、表示装置５１５５に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者５１８１に提示されることにより、より安全かつ確実に手術を進めることが可能になる。

カメラヘッド５１１９及びＣＣＵ５１５３を接続する伝送ケーブル５１７９は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。

ここで、図示する例では、伝送ケーブル５１７９を用いて有線で通信が行われていたが、カメラヘッド５１１９とＣＣＵ５１５３との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル５１７９を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル５１７９によって妨げられる事態が解消され得る。

以上、本開示に係る技術が適用され得る手術室システム５１００の一例について説明した。なお、ここでは、一例として手術室システム５１００が適用される医療用システムが内視鏡手術システム５１１３である場合について説明したが、手術室システム５１００の構成はかかる例に限定されない。例えば、手術室システム５１００は、内視鏡手術システム５１１３に代えて、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。

本開示に係る技術は、以上説明した構成のうち、撮像した画像を送出する装置と、その画像を表示する装置に好適に適用され得る。具体的には、撮像した画像を送出する装置としては、内視鏡５１１５のカメラヘッド５１１９およびＣＣＵ５１５３、シーリングカメラ５１８７、術場カメラ５１８９を適用し、画像を表示する装置としては、集中操作パネル５１１１や、視聴覚コントローラ５１０７および表示装置５１０３Ａ〜５１０３Ｄを適用することができる。手術室システム５１００に本開示に係る技術を適用することにより、信頼度の高いストリーミングを行うことができるため、特にリアルタイムで行われる遠隔医療における診断の精度向上を図ることができる。

また、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。

さらに、本技術は以下のような構成をとることができる。
（１）
複数の通信回線を介してデータを送信する送信装置と、
前記送信装置からの前記データを受信する受信装置と
を備え、
前記送信装置は、
前記複数の通信回線のＱｏＳ（Quality of Service）に関する情報を生成するＱｏＳモジュールと、
少なくとも前記ＱｏＳに関する情報に基づいて、前記データの前記通信回線への割り当てを決定するロードバランサと、
前記ＱｏＳモジュールからの指示に基づいて、前記データを、割り当てられた前記通信回線に振り分けて送信するキャスタと
を有する
通信システム。
（２）
前記ＱｏＳに関する情報は、前記通信回線それぞれの通信レートを示す情報である
（１）に記載の通信システム。
（３）
前記ＱｏＳに関する情報は、前記通信回線それぞれの使用可否を決定する評価指標である
（１）に記載の通信システム。
（４）
前記ＱｏＳモジュールは、前記ＱｏＳに関する情報に基づいて、前記データの前記通信回線への割り当ての可否を判定する
（１）乃至（３）のいずれかに記載の通信システム。
（５）
前記ＱｏＳモジュールは、前記データの割り当てができないと判定された前記通信回線へのパケットの多重送信の結果に基づいて、前記データの前記通信回線への割り当ての再開を決定する
（４）に記載の通信システム。
（６）
前記ＱｏＳモジュールは、前記パケットの多重送信により、前記データの割り当てができないと判定された前記通信回線の帯域を推定し、推定された前記通信回線の帯域が所定の閾値を超えた場合、前記データの前記通信回線への割り当ての再開を決定する
（５）に記載の通信システム。
（７）
前記ＱｏＳモジュールは、第１の通信回線を介したデータの伝送が、前記受信装置における前記データの使用時刻までに完了しない場合、第２の通信回線を介したデータの伝送が、前記使用時刻までに完了するか否かを判定する
（１）乃至（６）のいずれかに記載の通信システム。
（８）
前記ＱｏＳモジュールは、前記第２の通信回線を介したデータの伝送が、前記使用時刻までに完了しないと判定された場合で、且つ、前記データの１単位を構成するパケット群のうちの一部のパケットの伝送が既に完了している場合、前記第１の通信回線を介した前記パケット群のうちの残りの全パケットの送信を前記キャスタに指示する
（７）に記載の通信システム。
（９）
前記ＱｏＳモジュールは、前記データの１単位を構成するパケット群のうちの一部のパケットの伝送が完了していない場合、前記データの削除を前記キャスタに指示する
（８）に記載の通信システム。
（１０）
前記ＱｏＳモジュールは、前記第２の通信回線を介したデータの伝送が、前記使用時刻までに完了すると判定された場合、前記第２の通信回線を介したデータの送信を前記キャスタに指示する
（７）乃至（９）のいずれかに記載の通信システム。
（１１）
前記ロードバランサは、前記ＱｏＳに関する情報、および、前記データの前記通信回線への割り当て状況を示す割当情報の少なくともいずれかに基づいて、前記データの複数の前記通信回線への割り当てを決定する
（１）乃至（１０）のいずれかに記載の通信システム。
（１２）
前記割当情報は、他の前記データよりデータ量の多い前記データの前記通信回線への割り当て状況を示す情報である
（１１）に記載の通信システム。
（１３）
前記割当情報は、前記データより過去のデータの前記通信回線への割り当て状況を示す情報を含む
（１２）に記載の通信システム。
（１４）
前記ＱｏＳモジュールは、前記データの少なくとも一部の再送が必要であるか否かを判定し、
前記キャスタは、再送が必要と判定された場合、前記データの少なくとも一部を再送する
（１）乃至（１３）のいずれかに記載の通信システム。
（１５）
前記キャスタは、前記通信回線を切り替えることで、前記データの少なくとも一部を再送する
（１４）に記載の通信システム。
（１６）
前記キャスタは、複数の前記通信回線を用いて、前記データの少なくとも一部を並列に再送する
（１４）に記載の通信システム。
（１７）
前記通信回線は、無線通信回線を含む
（１）乃至（１６）のいずれかに記載の通信システム。
（１８）
前記データは、動画像データである
（１）乃至（１７）のいずれかに記載の通信システム。
（１９）
前記送信装置は、動画像を撮像し、リアルタイムで送信する撮像装置として構成される
（１）乃至（１８）のいずれかに記載の通信システム。
（２０）
複数の通信回線のＱｏＳ（Quality of Service）に関する情報を生成するＱｏＳモジュールと、
少なくとも前記ＱｏＳに関する情報に基づいて、データの前記通信回線への割り当てを決定するロードバランサと、
前記ＱｏＳモジュールからの指示に基づいて、前記データを、割り当てられた前記通信回線に振り分けて送信するキャスタと
を備える送信装置。

１ 通信システム， １１ 送信装置， １２ 受信装置， １３ 制御装置， ２０−１，２０−２ 基地局， ３０ インターネット， ８１ エンコーダ， ８２ ロードバランサ， ８３ ＱｏＳモジュール， ８４ キャスタ， ９１ 受信部， ９２ ＱｏＳモジュール， ９３ デコーダ

Claims (20)

1. 複数の通信回線を介してデータを送信する送信装置と、
   前記送信装置からの前記データを受信する受信装置と
   を備え、
   前記送信装置は、
   前記複数の通信回線のＱｏＳ（Quality of Service）に関する情報を生成するＱｏＳモジュールと、
   少なくとも前記ＱｏＳに関する情報に基づいて、前記データの前記通信回線への割り当てを決定するロードバランサと、
   前記ＱｏＳモジュールからの指示に基づいて、前記データを、割り当てられた前記通信回線に振り分けて送信するキャスタと
   を有する
   通信システム。
2. 前記ＱｏＳに関する情報は、前記通信回線それぞれの通信レートを示す情報である
   請求項１に記載の通信システム。
3. 前記ＱｏＳに関する情報は、前記通信回線それぞれの使用可否を決定する評価指標である
   請求項１に記載の通信システム。
4. 前記ＱｏＳモジュールは、前記ＱｏＳに関する情報に基づいて、前記データの前記通信回線への割り当ての可否を判定する
   請求項１に記載の通信システム。
5. 前記ＱｏＳモジュールは、前記データの割り当てができないと判定された前記通信回線へのパケットの多重送信の結果に基づいて、前記データの前記通信回線への割り当ての再開を決定する
   請求項４に記載の通信システム。
6. 前記ＱｏＳモジュールは、前記パケットの多重送信により、前記データの割り当てができないと判定された前記通信回線の帯域を推定し、推定された前記通信回線の帯域が所定の閾値を超えた場合、前記データの前記通信回線への割り当ての再開を決定する
   請求項５に記載の通信システム。
7. 前記ＱｏＳモジュールは、第１の通信回線を介したデータの伝送が、前記受信装置における前記データの使用時刻までに完了しない場合、第２の通信回線を介したデータの伝送が、前記使用時刻までに完了するか否かを判定する
   請求項１に記載の通信システム。
8. 前記ＱｏＳモジュールは、前記第２の通信回線を介したデータの伝送が、前記使用時刻までに完了しないと判定された場合で、且つ、前記データの１単位を構成するパケット群のうちの一部のパケットの伝送が既に完了している場合、前記第１の通信回線を介した前記パケット群のうちの残りの全パケットの送信を前記キャスタに指示する
   請求項７に記載の通信システム。
9. 前記ＱｏＳモジュールは、前記データの１単位を構成するパケット群のうちの一部のパケットの伝送が完了していない場合、前記データの削除を前記キャスタに指示する
   請求項８に記載の通信システム。
10. 前記ＱｏＳモジュールは、前記第２の通信回線を介したデータの伝送が、前記使用時刻までに完了すると判定された場合、前記第２の通信回線を介したデータの送信を前記キャスタに指示する
    請求項７に記載の通信システム。
11. 前記ロードバランサは、前記ＱｏＳに関する情報、および、前記データの前記通信回線への割り当て状況を示す割当情報の少なくともいずれかに基づいて、前記データの複数の前記通信回線への割り当てを決定する
    請求項１に記載の通信システム。
12. 前記割当情報は、他の前記データよりデータ量の多い前記データの前記通信回線への割り当て状況を示す情報である
    請求項１１に記載の通信システム。
13. 前記割当情報は、前記データより過去のデータの前記通信回線への割り当て状況を示す情報を含む
    請求項１２に記載の通信システム。
14. 前記ＱｏＳモジュールは、前記データの少なくとも一部の再送が必要であるか否かを判定し、
    前記キャスタは、再送が必要と判定された場合、前記データの少なくとも一部を再送する
    請求項１に記載の通信システム。
15. 前記キャスタは、前記通信回線を切り替えることで、前記データの少なくとも一部を再送する
    請求項１４に記載の通信システム。
16. 前記キャスタは、複数の前記通信回線を用いて、前記データの少なくとも一部を並列に再送する
    請求項１４に記載の通信システム。
17. 前記通信回線は、無線通信回線を含む
    請求項１に記載の通信システム。
18. 前記データは、動画像データである
    請求項１に記載の通信システム。
19. 前記送信装置は、動画像を撮像し、リアルタイムで送信する撮像装置として構成される
    請求項１８に記載の通信システム。
20. 複数の通信回線のＱｏＳ（Quality of Service）に関する情報を生成するＱｏＳモジュールと、
    少なくとも前記ＱｏＳに関する情報に基づいて、データの前記通信回線への割り当てを決定するロードバランサと、
    前記ＱｏＳモジュールからの指示に基づいて、前記データを、割り当てられた前記通信回線に振り分けて送信するキャスタと
    を備える送信装置。

Images