JPWO2019003955A1 - 通信システムおよび制御装置 - Google Patents

通信システムおよび制御装置 Download PDF

Info

Publication number
JPWO2019003955A1
JPWO2019003955A1 JP2019526801A JP2019526801A JPWO2019003955A1 JP WO2019003955 A1 JPWO2019003955 A1 JP WO2019003955A1 JP 2019526801 A JP2019526801 A JP 2019526801A JP 2019526801 A JP2019526801 A JP 2019526801A JP WO2019003955 A1 JPWO2019003955 A1 JP WO2019003955A1
Authority
JP
Japan
Prior art keywords
streaming
network
state
reception
communication
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019526801A
Other languages
English (en)
Inventor
弘基 佐藤
弘基 佐藤
兼作 和久田
兼作 和久田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2019003955A1 publication Critical patent/JPWO2019003955A1/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/80Responding to QoS
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/61Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/11Identifying congestion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/12Avoiding congestion; Recovering from congestion
    • H04L47/125Avoiding congestion; Recovering from congestion by balancing the load, e.g. traffic engineering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/24Traffic characterised by specific attributes, e.g. priority or QoS
    • H04L47/2416Real-time traffic
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/25Flow control; Congestion control with rate being modified by the source upon detecting a change of network conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/38Flow control; Congestion control by adapting coding or compression rate
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/40Flow control; Congestion control using split connections
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/61Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio
    • H04L65/612Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio for unicast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/65Network streaming protocols, e.g. real-time transport protocol [RTP] or real-time control protocol [RTCP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/75Media network packet handling
    • H04L65/765Media network packet handling intermediate
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L69/00Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
    • H04L69/16Implementation or adaptation of Internet protocol [IP], of transmission control protocol [TCP] or of user datagram protocol [UDP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W8/00Network data management
    • H04W8/02Processing of mobility data, e.g. registration information at HLR [Home Location Register] or VLR [Visitor Location Register]; Transfer of mobility data, e.g. between HLR, VLR or external networks
    • H04W8/04Registration at HLR or HSS [Home Subscriber Server]

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Security & Cryptography (AREA)
  • Databases & Information Systems (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Communication Control (AREA)

Abstract

本技術は、ストリーミングを行うネットワークの状態を適切に判断することができるようにする通信システムおよび制御装置に関する。送信装置11は、受信装置12に対してストリーミングを行い、制御装置13は、受信装置と送信装置とを接続するネットワークであって、第1の通信回線および第2の通信回線を含むネットワークの状態を管理する。第1の通信回線は、第2の通信回線と比較して接続状態が不安定であり、制御装置は、送信装置から受信装置へと送信されるパケットに基づいて、ネットワークの状態を管理する。本技術は、UDPによるストリーミングを行う通信システムに適用することができる。

Description

本技術は、通信システムおよび制御装置に関し、特に、ストリーミングを行うネットワークの状態を判断することができるようにする通信システムおよび制御装置に関する。
従来、無線通信経路を用いた種々の通信システムがある。
例えば、特許文献1には、複数の異なる無線通信経路を利用し、1つの無線通信経路において不足した帯域を、他の無線通信経路により補完することで、通信を行うシステムが開示されている。
また近年、無線通信により、撮影している動画像をリアルタイムで配信する映像配信システムが多く実用化されている。
特開2008−113224号公報
ところで、無線通信経路のような不安定な通信経路を含むネットワークを用いてストリーミングを行う場合、そのネットワークの状態がどのような状態であるかを知ることが求められる。
本技術は、このような状況に鑑みてなされたものであり、ストリーミングを行うネットワークの状態を適切に判断することができるようにするものである。
本技術の通信システムは、受信装置と、前記受信装置に対してストリーミングを行う送信装置と、前記受信装置と前記送信装置とを接続するネットワークであって、第1の通信回線および第2の通信回線を含むネットワークの状態を管理する制御装置とを備え、前記第1の通信回線は、前記第2の通信回線と比較して接続状態が不安定であり、前記制御装置は、前記送信装置から前記受信装置へと送信されるパケットに基づいて、前記ネットワークの状態を管理する。
本技術の制御装置は、受信装置と、前記受信装置に対してストリーミングを行う送信装置とを接続するネットワークであって、第1の通信回線および第2の通信回線を含むネットワークの状態を管理する制御部を備え、前記第1の通信回線は、前記第2の通信回線と比較して接続状態が不安定であり、前記制御部は、前記送信装置から前記受信装置へと送信されるパケットに基づいて、前記ネットワークの状態を管理する。
本技術においては、受信装置と、前記受信装置に対してストリーミングを行う送信装置とを接続するネットワークであって、第1の通信回線および第2の通信回線を含むネットワークの状態が管理され、前記第1の通信回線は、前記第2の通信回線と比較して接続状態が不安定であり、前記送信装置から前記受信装置へと送信されるパケットに基づいて、前記ネットワークの状態が管理される。
本技術によれば、ストリーミングを行うネットワークの状態を適切に判断することが可能となる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
本実施の形態に係る通信システムの構成例を示す図である。 コントローラの構成例を示すブロック図である。 第1の実施の形態の通信システムの機能構成例を示すブロック図である。 ストリーミング状態の遷移について説明する図である。 受信装置の動作決定処理について説明するフローチャートである。 第2の実施の形態の通信システムの機能構成例を示すブロック図である。 ネットワークの帯域推定処理について説明するフローチャートである。 パケットの送信レートの例を示す図である。 パケットの受信レートの例を示す図である。 パケットの受信レートの例を示す図である。 受信推定レンジ決定処理について説明するフローチャートである。 受信推定レンジ決定処理について説明するフローチャートである。 ネットワークの輻輳検知の具体例について説明する図である。 ネットワークの輻輳検知の具体例について説明する図である。 第2の実施の形態の通信システムの他の機能構成例を示すブロック図である。 ボンディングに対応した通信システムの構成例を示す図である。 図16の通信システムの機能構成例を示すブロック図である。 受信装置の動作決定処理について説明するフローチャートである。 リンク全体のストリーミング状態の決定について説明する図である。 リンク全体のストリーミング状態の決定について説明する図である。 手術室システムの全体構成を概略的に示す図である。 集中操作パネルにおける操作画面の表示例を示す図である。 手術室システムが適用された手術の様子の一例を示す図である。 図23に示すカメラヘッド及びCCUの機能構成の一例を示すブロック図である。
以下、本開示を実施するための形態(以下、実施の形態とする)について説明する。なお、説明は以下の順序で行う。
1.通信システムの構成
2.第1の実施の形態(ストリーミングの受信状態に基づくネットワークの状態判断)
3.第2の実施の形態(帯域推定の結果に基づくネットワークの状態判断)
4.ボンディングに対応した通信システムの構成
5.応用例
<1.通信システムの構成>
(通信システムの構成例)
図1は、本実施の形態に係る通信システムの構成例を示す図である。
図1の通信システム1においては、送信装置11がUDP(User Datagram Protocol)によるストリーミングを行うことで、送信装置11により撮影されている動画像がリアルタイムで受信装置12に送信される。
送信装置11は、例えばカムコーダなどの撮像装置として構成され、撮像部11aにより撮影された動画像のデータ(動画像データ)をリアルタイムで受信装置12に送信する。なお、送信装置11と撮像装置とは、それぞれ別個に構成されるようにしてもよい。
受信装置12は、例えばテレビジョン放送の放送局に備えられるストリーミング受信機として構成され、送信装置11から送信されてくる動画像データを受信する。受信装置12が受信した動画像データは、放送波によって配信される。
送信装置11と受信装置12とは、無線通信回線を含む第1の通信回線と、有線通信回線のみからなる第2の通信回線とを含むネットワークを介して接続される。
ここでいう第1の通信回線は、基地局20を介した送信装置11とインターネット30との間の通信回線を指し、第2の通信回線は、インターネット30と受信装置12との間の通信回線を指すものとする。第1の通信回線は、第2の通信回線と比較して接続状態が不安定であり、遅延またはパケットロスが大きくなる。なお、送信装置11と基地局20との間においては、例えば、3G(3rd Generation)方式やLTE(Long Term Evolution)方式の通信が行われる。
送信装置11は、ストリーミングを行うことで、撮影により得られた動画像データSDを送信することができる。送信装置11と受信装置12との間では、QoS(Quality of
Service)制御が行われることによって、ストリーミングが行われる。
インターネット30には、コントローラ13が接続される。コントローラ13は、例えば、受信装置12と同様にテレビジョン放送の放送局に備えられる。
コントローラ13は、送信装置11とインターネット30との間の通信回線(第1の通信回線)、および、インターネット30と受信装置12との間の通信回線(第2の通信回線)を含むネットワークの状態を管理する制御装置である。例えば、コントローラ13は、TCP(Transmission Control Protocol)接続により、送信装置11と受信装置12との間のストリーミングの状態を管理する。具体的には、コントローラ13は、送信装置11との間にコネクションCN1を確立することで、送信装置11とのデータのやりとりを行う。また、コントローラ13は、受信装置12との間にコネクションCN2を確立することで、受信装置12とのデータのやりとりを行う。
なお、コントローラ13は、通信システム1を構成するネットワークに接続されていればよく、図1に示されるように、単独でインターネット30に接続されるようにしてもよいし、クラウド40上に設けられるようにしてもよい。また、コントローラ13は、受信装置12と一体となって構成されるようにしてもよいし、送信装置11と一体となって構成されるようにしてもよい。
さらに、インターネット30には、クラウド40上のサーバ41が接続される。受信装置12が受信した動画像データは、クラウド40上のサーバ41によって、インターネット30を経由して配信されるようにもできる。
また、受信装置12が受信した動画像データは、例えば放送局において、受信装置12に接続されるストレージ42に保存されるようにしてもよい。
(コントローラの構成例)
図2は、コントローラ13の構成例を示すブロック図である。
図2のコントローラ13において、CPU(Central Processor Unit)61は、ROM(Read Only Memory)62に記憶されているプログラム、またはRAM(Random Access Memory)63にロードされたプログラムに従って、コントローラ13が備える各種の機能を実現するための処理を実行する。RAM63にはまた、CPU61が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU61、ROM62、およびRAM63は、バス64を介して相互に接続されている。このバス64にはまた、入出力インタフェース65も接続されている。
入出力インタフェース65には、入力部66、出力部67、記憶部68、および通信部69が接続される。
入力部66は、キー、ボタン、タッチパネル、およびマイクロフォンなどで構成され、出力部67は、ディスプレイやスピーカなどで構成される。記憶部68は、ハードディスクなどで構成され、通信部69は、有線通信を行う通信モジュールなどで構成される。
入出力インタフェース65にはまた、必要に応じてドライブ70が接続され、半導体メモリなどで構成されるリムーバブルメディア71が適宜装着される。リムーバブルメディア71から読み出されたコンピュータプログラムは、必要に応じて記憶部68にインストールされる。
なお、送信装置11や受信装置12の構成は、送信装置11が撮像部を備える点を除いては、図2のコントローラ13の構成と基本的に同様であるので、その説明は省略する。
<2.第1の実施の形態>
上述したように、通信システム1においては、コントローラ13は、送信装置11と受信装置12とを接続するネットワークの状態を管理する。ここでは、コントローラ13が、受信装置12におけるストリーミングの受信状態に基づいて、ネットワークの状態を判断する構成について説明する。
(通信システムの機能構成例)
図3は、本実施の形態に係る通信システム1の機能構成例を示すブロック図である。
図3の通信システム1において、受信装置12は、図示せぬCPUにより所定のプログラムが実行されることによって、状態決定部91を実現する。また、コントローラ13は、CPU61により所定のプログラムが実行されることによって、制御部101を実現する。
制御部101は、送信装置11と受信装置12とを接続するネットワークの状態を管理し、状態把握部111および動作決定部112を有する。
受信装置12の状態決定部91は、送信装置11から送信されてくるパケットに基づいて、受信装置12におけるUDPによるストリーミングの受信状態を決定する。以下においては、適宜、受信装置12におけるUDPによるストリーミングの受信状態を、受信装置12におけるストリーミング状態ともいう。
コントローラ13の状態把握部111は、受信装置12におけるUDPによるストリーミングの受信状態(ストリーミング状態)を、TCPコネクションを介して把握し、その内容を動作決定部112に通知する。
動作決定部112は、状態把握部111により把握された、受信装置12におけるストリーミング状態に基づいて、ネットワークの状態を判断することで、受信装置12の動作を決定する。受信装置12の動作とは、現在行われているストリーミングの継続や停止など、その時のネットワークの状態に応じて求められる受信装置12の動作をいう。動作決定部112は、決定した受信装置12の動作を、TCPコネクションを介して受信装置12に通知する。
(ストリーミング状態の遷移と受信装置の動作決定処理)
ここで、図4を参照して、状態決定部91によって決定される、受信装置12におけるストリーミング状態の遷移について説明する。
図4には、ストリーミング状態として、ストリーミングの継続(開始)を示す状態ST1(START)と、現在行われているストリーミングの停止を示す状態ST2(STOP)とが示されている。
図4に示されるように、ストリーミング状態が状態ST1にあるときに条件C1を満たすと、ストリーミング状態は状態ST2へ遷移する。また、ストリーミング状態が状態ST2にあるときに条件C2を満たすと、ストリーミング状態は状態ST1へ遷移する。条件C1,C2を満たすか否かは、受信装置12の状態決定部91によって判定される。
例えば、条件C1は、受信装置12における送信装置11からのRTP(Real-time Transport Protocol)パケットの受信間隔が一定時間を超えるか、または、所定時間内でのQoS制御後のパケットロス量が一定量を超えることとされる。
また、条件C2は、受信装置12における送信装置11からのRTPパケットの受信間隔が一定時間を超えず、かつ、所定時間内でのQoS制御後のパケットロス量が一定量以下であることとされる。
次に、図5のフローチャートを参照して、受信装置12の動作決定処理について説明する。
ステップS11において、制御部101は、送信装置11との間のコネクションCN1が切断されていないか否かを判定する。
ステップS11において、コネクションCN1が切断されていないと判定された場合、制御部101は、送信装置11との間のコネクションCN1、および、受信装置12との間のコネクションCN2により、ストリーミングの状態を把握することができるため、何もせず、処理は終了する。
一方、ステップS11において、コネクションCN1が切断されていると判定された場合、処理はステップS12に進む。
ステップS12において、状態把握部111は、状態決定部91によって決定された、受信装置12におけるストリーミング状態を、TCPコネクション(CN2)を介して把握する。ここでは、状態把握部111は、受信装置12の状態決定部91から、ストリーミング状態に関する通知を受信することで、ストリーミング状態を把握してもよいし、状態把握部111自体が、受信装置12の状態決定部91によって決定されたストリーミング状態を参照することで、ストリーミング状態を把握してもよい。
ステップS13において、状態把握部111は、受信装置12におけるストリーミング状態が一定時間STOP(ストリーミングの停止を示す状態ST2)のままであるか否かを判定する。
ステップS13において、ストリーミング状態が一定時間STOPのままではないと判定された場合、動作決定部112は何もせず(ストリーミングが行われた状態のまま)、処理は終了する。
これにより、不安定な無線通信回線を介して接続される送信装置11とコントローラ13との間のTCPコネクションが、何らかの理由で切断された場合であっても、コントローラ13と受信装置12との間のTCPコネクションにより、UDPによるストリーミングの受信状態に問題がないと判断されることで、ストリーミングを停止することなく継続して行うことができる。
一方、ステップS13において、ストリーミング状態が一定時間STOPのままであると判定された場合、ステップS14において、動作決定部112は、ストリーミングの停止を決定し、その旨を受信装置12に通知する。この場合、受信装置12は、動作決定部112からの通知に応じて、ストリーミングに関するアプリケーションを停止させる。
なお、ストリーミングの停止後、ネットワークの状態が良好になり、コネクションCN1が再び確立した場合、制御部101は、送信装置11に対してストリーミングの開始を指示することができる。
以上の処理によれば、受信装置12におけるストリーミングの受信状態に基づいて、ストリーミングを行うネットワークの状態を適切に判断することが可能となるので、不安定な通信経路を含むネットワークであっても、ネットワークの状態に応じて、安定したストリーミングを提供することが可能となる。
なお、上述した処理において、受信装置12におけるRTPパケットの受信間隔と、所定時間内でのQoS制御後のパケットロス量のいずれか一方に基づいて、ストリーミング状態(ストリーミングの停止や開始)が決定されるようにしてもよい。
<3.第2の実施の形態>
以上においては、受信装置12におけるストリーミングの受信状態に基づいて、ネットワークの状態を判断する構成について説明した。ここでは、コントローラ13が、ネットワークの帯域推定の結果に基づいて、ネットワークの状態を判断する構成について説明する。
(通信システムの機能構成例)
図6は、本実施の形態に係る通信システム1の機能構成例を示すブロック図である。
図6の通信システム1において、受信装置12は、図示せぬCPUにより所定のプログラムが実行されることによって、帯域推定部121および輻輳検知部122を実現する。また、コントローラ13は、CPU61により所定のプログラムが実行されることによって、制御部131を実現する。
制御部131は、送信装置11と受信装置12とを接続するネットワークの状態を管理し、パラメータ設定部141を有する。
受信装置12の帯域推定部121は、送信装置11から送信されてくるパケットに基づいて、送信装置11との間でストリーミングが行われるネットワークの帯域を推定する。推定結果(ネットワークの帯域)は、TCPコネクションを介してコントローラ13に通知される。
輻輳検知部122は、送信装置11から送信されてくるパケットに基づいて、送信装置11との間でストリーミングが行われるネットワークの輻輳を検知する。輻輳検知部122による輻輳の検知結果は、帯域推定部121による帯域推定に用いられる。
コントローラ13のパラメータ設定部141は、受信装置12において推定されたネットワークの帯域に基づいて、送信装置11が行うストリーミングに関するパラメータを設定する。
(ネットワークの帯域推定処理)
次に、図7のフローチャートを参照して、図6の通信システム1におけるネットワークの帯域推定処理について説明する。図7の処理は、送信装置11がストリーミングを開始する前に実行される。
ステップS31において、コントローラ13は、TCPコネクションを介して、送信装置11および受信装置12に、帯域推定の開始を指示する。
ステップS32において、送信装置11は、コントローラ13からの指示に応じて、図8に示されるように、一定時間毎に階段状に送信レートを上げながらパケット送信を行う。
図8は、送信装置11が送信するパケットの送信レートの例を示している。図8の例では、送信レートは、時間T0毎に階段状に上昇している。なお、時間T0は、送信装置11と受信装置12との間であらかじめ設定された時間とされる。
図7のフローチャートに戻り、ステップS33において、受信装置12の帯域推定部121は、送信装置11から受信したパケットの受信レートに基づいて、ネットワークの帯域を推定する。推定されたネットワークの帯域は、コントローラ13に通知される。
ステップS34において、コントローラ13のパラメータ設定部141は、推定されたネットワークの帯域に基づいて、ストリーミングに関するパラメータを設定する。パラメータとしては、例えば、ストリーミングにより伝送される動画像の解像度や伝送レートなどが設定される。
そして、コントローラ13は、TCPコネクションを介して、設定したパラメータでのストリーミングの開始を、送信装置11に指示する。
以上の処理によれば、ネットワークの帯域推定の結果に基づいて、ストリーミングを行うネットワークの状態を適切に判断することが可能となるので、不安定な通信経路を含むネットワークであっても、ネットワークの状態に応じて、安定したストリーミングを提供することが可能となる。
(ネットワークの帯域推定の詳細)
ここで、図7のステップS33において行われる、ネットワークの帯域推定の詳細について説明する。
具体的には、帯域推定部121は、一定時間毎に階段状に送信レートを上げながら送信されてくるパケットの受信開始から所定時間経過毎に、受信しているパケットの受信レートをチェックする。そして、帯域推定部121は、その変動が概ね安定したときの受信レートに対応する帯域の範囲(以下、受信推定レンジという)を決定する。
図9は、受信装置12におけるパケットの受信レートの一例を示す図である。
図9においては、ある時間毎の受信レートがプロットされて示されている。
まず、パケットの受信開始から時間t1が経過したとき、受信レートがレートM1を超えているか否かがチェックされる。受信レートがレートM1を超えなければ、受信推定レンジはR1に決定される。図9の例のように、t1経過時において、受信レートがレートM1を超えていれば、パケットの受信開始から時間t2が経過したときのチェックが行われる。
パケットの受信開始から時間t2が経過したときには、受信レートがレートM2を超えているか否かがチェックされる。受信レートがレートM2を超えなければ、受信推定レンジはR2に決定される。図9の例のように、t2経過時において、受信レートがレートM2を超えていれば、パケットの受信開始から時間t3が経過したときのチェックが行われる。
パケットの受信開始から時間t3が経過したときには、受信レートがレートM3を超えているか否かがチェックされる。受信レートがレートM3を超えなければ、受信推定レンジはR3に決定される。図9の例のように、t3経過時において、受信レートがレートM3を超えていれば、受信推定レンジはR4に決定される。
図10は、受信装置12におけるパケットの受信レートの他の一例を示す図である。
図10においても、図9と同様に、ある時間毎の受信レートがプロットされて示されている。
まず、パケットの受信開始から時間t1が経過したとき、受信レートがレートM1を超えているか否かがチェックされる。受信レートがレートM1を超えなければ、受信推定レンジはR1に決定される。図10の例では、t1経過時において、受信レートがレートM1を超えていないので、受信推定レンジはR1に決定される。
(受信推定レンジ決定処理)
図11は、図9や図10を参照して説明した受信推定レンジの決定処理について説明するフローチャートである。
ステップS51において、受信装置12の帯域推定部121は、送信装置11からのパケットの受信開始から時間t3が経過したか否かを判定する。
パケットの受信開始から時間t3が経過していないと判定されると、処理はステップS52に進み、帯域推定部121は、パケットの受信開始から時間t2が経過したか否かを判定する。
パケットの受信開始から時間t2が経過していないと判定されると、処理はステップS53に進み、帯域推定部121は、パケットの受信開始から時間t1が経過したか否かを判定する。
パケットの受信開始から時間t1が経過していないと判定されると、処理はステップS51に戻り、ステップS51乃至S53の処理が繰り返される。なお、図9や図10にも示されているように、t1<t2<t3とされる。
ステップS51乃至S53の処理が繰り返される中で、ステップS53において、パケットの受信開始から時間t1が経過したと判定されると、処理はステップS54に進み、帯域推定部121は、受信レートがレートM1より小さいか否かを判定する。
ステップS54において、受信レートがレートM1より小さいと判定されると、処理はステップS55に進み、帯域推定部121は、受信推定レンジをR1に決定する。
一方、ステップS54において、受信レートがレートM1より大きいと判定されると、処理は再びステップS51に戻り、ステップS51乃至S53の処理が繰り返される。
ステップS51乃至S53の処理が繰り返される中で、ステップS52において、パケットの受信開始から時間t2が経過したと判定されると、処理はステップS56に進み、帯域推定部121は、受信レートがレートM2より小さいか否かを判定する。
ステップS56において、受信レートがレートM2より小さいと判定されると、処理はステップS57に進み、帯域推定部121は、受信推定レンジをR2に決定する。
一方、ステップS56において、受信レートがレートM2より大きいと判定されると、処理は再びステップS51に戻り、ステップS51乃至S53の処理が繰り返される。
ステップS51乃至S53の処理が繰り返される中で、ステップS51において、パケットの受信開始から時間t3が経過したと判定されると、処理はステップS58に進み、帯域推定部121は、受信レートがレートM3より小さいか否かを判定する。
ステップS58において、受信レートがレートM3より小さいと判定されると、処理はステップS59に進み、帯域推定部121は、受信推定レンジをR3に決定する。
一方、ステップS58において、受信レートがレートM3より大きいと判定されると、処理はステップS60に進み、帯域推定部121は、受信推定レンジをR4に決定する。
このようにして、受信推定レンジを決定することで、ネットワークの帯域を推定することができるようになる。
(受信推定レンジ決定処理の他の例)
以上においては、一定時間毎に階段状に送信レートを上げながら送信されてくるパケットの受信レートに基づいて、受信推定レンジが決定されるものとした。これ以外にも、受信装置12におけるネットワークの輻輳の検知結果に基づいて、受信推定レンジが決定されるようにしてもよい。
図12は、受信装置12におけるネットワークの輻輳の検知結果に基づいた受信推定レンジの決定処理について説明するフローチャートである。図12の処理は、例えば、所定の時間毎に周期的に行われる。
ステップS71において、帯域推定部121は、輻輳検知部122が、送信装置11から送信されてくるパケットに基づいて、ネットワークの輻輳を検知したか否かを判定する。
具体的には、輻輳検知部122は、送信装置11からのRTPパケットの相対遅延量に基づいて、ネットワークの輻輳を検知する。
例えば、図13に示されるように、送信装置11がRTPパケット151,152,153を順次、受信装置12に送信するものとする。
まず、輻輳検知部122は、送信装置11がRTPパケット151を送信した送信時刻t11と、送信装置12がRTPパケット151を受信した受信時刻t12との差(相対遅延量)t12−t11を求める。送信時刻t11は、RTPパケット151中に含まれている。輻輳検知部122は、相対遅延量t12−t11が所定値を超えるか否かによって、ネットワークの輻輳を検知する。
ここでは、相対遅延量t12−t11は所定値より小さく、ネットワークの輻輳は検知されないものとする。
次に、輻輳検知部122は、送信装置11がRTPパケット152を送信した送信時刻t21と、送信装置12がRTPパケット152を受信した受信時刻t22との差(相対遅延量)t22−t21を求める。送信時刻t21は、RTPパケット152中に含まれている。輻輳検知部122は、相対遅延量t22−t21が所定値を超えるか否かによって、ネットワークの輻輳を検知する。
ここでは、相対遅延量t22−t21は所定値より小さく、ネットワークの輻輳は検知されないものとする。
そして、輻輳検知部122は、送信装置11がRTPパケット153を送信した送信時刻t31と、送信装置12がRTPパケット153を受信した受信時刻t32との差(相対遅延量)t32−t31を求める。送信時刻t31は、RTPパケット153中に含まれている。輻輳検知部122は、相対遅延量t32−t31が所定値を超えるか否かによって、ネットワークの輻輳を検知する。
ここで、相対遅延量t32−t31が所定値より大きい場合、ネットワークの輻輳が検知されたと判断される。
このようにして、輻輳検知部122は、ネットワークの輻輳を検知する。
さて、図12のフローチャートに戻り、ステップS71の処理は、輻輳検知部122がネットワークの輻輳を検知したと判定されるまで繰り返される。そして、輻輳検知部122がネットワークの輻輳を検知したと判定されると、処理はステップS72に進み、帯域推定部121は、ネットワークの輻輳が検知された時点での帯域の範囲を、受信推定レンジに決定する。
このようにして、受信推定レンジを決定することで、ネットワークの帯域を推定することもできる。
(ネットワークの輻輳検知の他の例)
以上においては、受信装置12がネットワークの輻輳を検知するものとしたが、送信装置11がネットワークの輻輳を検知するようにしてもよい。
具体的には、送信端末11が、受信装置12に対してRTCP(Real-time Transport Control Protocol)パケットを送信し、受信装置12からのフィードバックの有無に基づいて、ネットワークの輻輳を検知するようにしてもよい。
例えば、図14に示されるように、送信装置11がRTCPパケット161,162を順次、受信装置12に送信するものとする。
まず、送信装置11は、RTCPパケット161を送信した送信時刻t41から、受信装置12からのフィードバックを受信した受信時刻t42までの時間t42−t41を求める。送信装置11は、時間t42−t41が所定時間より長いか否かによって、ネットワークの輻輳を検知する。
ここでは、時間t42−t41は所定時間より短く、ネットワークの輻輳は検知されないものとする。
次に、送信装置11は、RTCPパケット162を送信した送信時刻t43から、受信装置12からのフィードバックを受信した受信時刻t50までの時間t50−t43を求める。送信装置11は、時間t50−t43が所定時間より長いか否かによって、ネットワークの輻輳を検知する。
ここで、時間t50−t43が所定時間より長い場合や、受信装置12からのフィードバックを受信できなかった場合、ネットワークの輻輳が検知されたと判断される。
このようにして、送信装置11がネットワークの輻輳を検知することも可能となる。
(通信システムの他の機能構成例)
また、以上においては、受信装置12が、受信したパケットの受信レートや、ネットワークの輻輳の検知結果に基づいて、ネットワークの帯域を推定する機能を有するものとしたが、コントローラ13が、この機能を有するようにしてもよい。
この場合、図15に示されるように、コントローラ13の制御部151が、帯域推定部121とパラメータ設定部141とを有する。図15の帯域推定部121は、受信装置12から通知される受信レートや、ネットワークの輻輳の検知結果に基づいて、ネットワークの帯域を推定する。
図15の通信システム1においても、図6の通信システム1と同様の作用、効果を奏することが可能となる。
<4.ボンディングに対応した通信システムの構成>
以上においては、本技術を、送信装置11から1つの基地局20(1つの無線通信回線)を介してストリーミングを行う通信システム1に適用した例について説明してきた。しかしながら、これに限らず、本技術を、送信装置11から複数の基地局(無線通信回線)を用いたボンディングによるストリーミングを行う通信システムに適用することもできる。
(通信システムの構成例)
図16は、本実施の形態に係る、ボンディングに対応した通信システムの構成例を示す図である。
図16の通信システム201においても、送信装置11がUDPによるストリーミングを行うことで、送信装置11により撮影されている動画像がリアルタイムで受信装置12に送信される。
また、通信システム201において、送信装置11とインターネット30とは、n個の基地局20−1乃至20−n(n個の無線通信回線(リンク1乃至n))を介して接続されている(n≧2)。なお、以下においては、リンク1を経由する通信経路全体をリンク1、リンク2を経由する通信経路全体をリンク2などともいう。
送信装置11は、n個の無線通信回線を用いたボンディングによるストリーミングを行うことで、撮影により得られた動画像データを、データSD1乃至SDnに分けて送信することができる。
また、コントローラ13は、送信装置11との間に、n個の無線通信回線を介したコネクションCN1−1乃至1−nを確立することで、送信装置11とのデータのやりとりを行うことができる。
上述した第1の実施の形態や第2の実施の形態に係る技術は、図16の通信システム201に適用可能とされる。
特に、第1の実施の形態に係る技術を通信システム201に適用した場合、通信システム201においては、コントローラ13が、受信装置12における、n個の無線通信回線を介したストリーミングの受信状態に基づいて、ネットワークの状態を判断する。
(通信システムの機能構成例)
図17は、第1の実施の形態に係る技術を適用した、図16の通信システム201の機能構成例を示すブロック図である。
図17の受信装置12は、n個の無線通信回線(リンク1乃至n)それぞれに対応する状態決定部91−1乃至91−nを有する。
状態決定部91−1乃至91−nは、受信装置12における各リンク1乃至nのストリーミング状態を決定する。
この場合、コントローラ13の状態把握部111は、受信装置12における各リンク1乃至nそれぞれのストリーミング状態を、TCPコネクション(CN2)を介して把握することで、リンク全体のストリーミング状態を決定する。
そして、動作決定部112は、状態把握部111により決定された、リンク全体のストリーミング状態に基づいて、ネットワークの状態を判断することで、受信装置12の動作を決定する。
(受信装置の動作決定処理)
次に、図18のフローチャートを参照して、受信装置12の動作決定処理について説明する。
ステップS91において、制御部101は、送信装置11との間のコネクションCN1−1乃至1−nが切断されていないか否かを判定する。
ステップS91において、コネクションCN1−1乃至1−nのいずれもが切断されていないと判定された場合、制御部101は、送信装置11との間のコネクションCN1−1乃至1−n、および、受信装置12との間のコネクションCN2により、ストリーミング状態を把握することができるため、何もせず、処理は終了する。
一方、ステップS91において、コネクションCN1−1乃至1−nのうちのいずれかが切断されていると判定された場合、処理はステップS92に進む。
ステップS92において、状態把握部111は、状態決定部91−1乃至91−nによって決定された、受信装置12における各リンク1乃至nのストリーミング状態を、TCPコネクション(CN2)を介して把握する。
ステップS93において、状態把握部111は、受信装置12における各リンク1乃至nのストリーミング状態に基づいて、リンク全体のストリーミング状態を決定する。
ステップS94において、状態把握部111は、リンク全体のストリーミング状態が一定時間STOPのままであるか否かを判定する。
ステップS94において、リンク全体のストリーミング状態が一定時間STOPのままではないと判定された場合、動作決定部112は何もせず(ストリーミングが行われた状態のまま)、処理は終了する。
一方、ステップS94において、リンク全体のストリーミング状態が一定時間STOPのままであると判定された場合、ステップS95において、動作決定部112は、ストリーミングの停止を決定し、その旨を受信装置12に通知する。この場合、受信装置12は、動作決定部112からの通知に応じて、ストリーミングに関するアプリケーションを停止させる。
ここで、図19を参照して、図18のステップS93における、リンク1乃至nのストリーミング状態それぞれに基づいて、リンク全体のストリーミング状態を決定する例について説明する。
図19の例においては、リンク1を介したストリーミング状態がSTART、リンク2を介したストリーミング状態がSTOP、リンク3を介したストリーミング状態がSTART、・・・、リンクnを介したストリーミング状態がSTARTと決定されている。
そして、リンク1乃至nそれぞれについてのストリーミング状態のうち、STARTの数が所定数を超えている場合、図19に示されるように、リンク全体ストリーミング状態がSTARTに決定される。
また、リンク全体のストリーミング状態が、リンク1乃至nそれぞれについてのストリーミング状態と、リンク1乃至n(n個の無線通信回線)それぞれにおける通信方式とに基づいて決定されるようにしてもよい。
図20には、リンク1乃至nそれぞれについてのストリーミング状態と、リンク1乃至nそれぞれにおける通信方式とに基づいて、リンク全体のストリーミング状態を決定する例が示されている。
図20の例においては、リンク1乃至nそれぞれについてのストリーミング状態は、図19と同様である。さらに、リンク1における通信方式は3G、リンク2における通信方式は3G、リンク3における通信方式はLTE、・・・、リンクnにおける通信方式はLTEと判定されている。
そして、リンク1乃至nそれぞれについてのストリーミング状態のうち、STARTの数が所定数を超え、リンク1乃至nそれぞれにおける通信方式のうち、より高速な通信が可能なLTEの数が他の所定数を超えている場合、図20に示されるように、リンク全体のストリーミング状態がSTARTに決定される。
以上の処理においても、受信装置12におけるストリーミングの受信状態に基づいて、ストリーミングを行うネットワークの状態を適切に判断することが可能となるので、不安定な通信経路を含むネットワークであっても、ネットワークの状態に応じて、安定したストリーミングを提供することが可能となる。
以上においては、無線通信回線を含む第1の通信回線が、送信装置11とインターネット30とを接続し、有線通信回線のみからなる第2の通信回線が、インターネット30と受信装置12とを接続するものとした。これに限らず、有線通信回線のみからなる第2の通信回線が、送信装置11とインターネット30とを接続し、無線通信回線を含む第1の通信回線が、インターネット30と受信装置12とを接続するようにしてもよい。
<5.応用例>
以上においては、本開示に係る技術を、テレビジョン放送を行う通信システムに適用した例について説明したが、これに限らず、様々なシステムに適用することができる。例えば、本開示に係る技術は、手術室システムに適用されてもよい。
図21は、本開示に係る技術が適用され得る手術室システム5100の全体構成を概略的に示す図である。図21を参照すると、手術室システム5100は、手術室内に設置される装置群が視聴覚コントローラ(AV Controller)5107及び手術室制御装置5109を介して互いに連携可能に接続されることにより構成される。
手術室には、様々な装置が設置され得る。図21では、一例として、内視鏡下手術のための各種の装置群5101と、手術室の天井に設けられ術者の手元を撮像するシーリングカメラ5187と、手術室の天井に設けられ手術室全体の様子を撮像する術場カメラ5189と、複数の表示装置5103A〜5103Dと、レコーダ5105と、患者ベッド5183と、照明5191と、を図示している。
ここで、これらの装置のうち、装置群5101は、後述する内視鏡手術システム5113に属するものであり、内視鏡や当該内視鏡によって撮像された画像を表示する表示装置等からなる。内視鏡手術システム5113に属する各装置は医療用機器とも呼称される。一方、表示装置5103A〜5103D、レコーダ5105、患者ベッド5183及び照明5191は、内視鏡手術システム5113とは別個に、例えば手術室に備え付けられている装置である。これらの内視鏡手術システム5113に属さない各装置は非医療用機器とも呼称される。視聴覚コントローラ5107及び/又は手術室制御装置5109は、これら医療機器及び非医療機器の動作を互いに連携して制御する。
視聴覚コントローラ5107は、医療機器及び非医療機器における画像表示に関する処理を、統括的に制御する。具体的には、手術室システム5100が備える装置のうち、装置群5101、シーリングカメラ5187及び術場カメラ5189は、手術中に表示すべき情報(以下、表示情報ともいう)を発信する機能を有する装置(以下、発信元の装置とも呼称する)であり得る。また、表示装置5103A〜5103Dは、表示情報が出力される装置(以下、出力先の装置とも呼称する)であり得る。また、レコーダ5105は、発信元の装置及び出力先の装置の双方に該当する装置であり得る。視聴覚コントローラ5107は、発信元の装置及び出力先の装置の動作を制御し、発信元の装置から表示情報を取得するとともに、当該表示情報を出力先の装置に送信し、表示又は記録させる機能を有する。なお、表示情報とは、手術中に撮像された各種の画像や、手術に関する各種の情報(例えば、患者の身体情報や、過去の検査結果、術式についての情報等)等である。
具体的には、視聴覚コントローラ5107には、装置群5101から、表示情報として、内視鏡によって撮像された患者の体腔内の術部の画像についての情報が送信され得る。また、シーリングカメラ5187から、表示情報として、当該シーリングカメラ5187によって撮像された術者の手元の画像についての情報が送信され得る。また、術場カメラ5189から、表示情報として、当該術場カメラ5189によって撮像された手術室全体の様子を示す画像についての情報が送信され得る。なお、手術室システム5100に撮像機能を有する他の装置が存在する場合には、視聴覚コントローラ5107は、表示情報として、当該他の装置からも当該他の装置によって撮像された画像についての情報を取得してもよい。
あるいは、例えば、レコーダ5105には、過去に撮像されたこれらの画像についての情報が視聴覚コントローラ5107によって記録されている。視聴覚コントローラ5107は、表示情報として、レコーダ5105から当該過去に撮像された画像についての情報を取得することができる。なお、レコーダ5105には、手術に関する各種の情報も事前に記録されていてもよい。
視聴覚コントローラ5107は、出力先の装置である表示装置5103A〜5103Dの少なくともいずれかに、取得した表示情報(すなわち、手術中に撮影された画像や、手術に関する各種の情報)を表示させる。図示する例では、表示装置5103Aは手術室の天井から吊り下げられて設置される表示装置であり、表示装置5103Bは手術室の壁面に設置される表示装置であり、表示装置5103Cは手術室内の机上に設置される表示装置であり、表示装置5103Dは表示機能を有するモバイル機器(例えば、タブレットPC(Personal Computer))である。
また、図21では図示を省略しているが、手術室システム5100には、手術室の外部の装置が含まれてもよい。手術室の外部の装置は、例えば、病院内外に構築されたネットワークに接続されるサーバや、医療スタッフが用いるPC、病院の会議室に設置されるプロジェクタ等であり得る。このような外部装置が病院外にある場合には、視聴覚コントローラ5107は、遠隔医療のために、テレビ会議システム等を介して、他の病院の表示装置に表示情報を表示させることもできる。
手術室制御装置5109は、非医療機器における画像表示に関する処理以外の処理を、統括的に制御する。例えば、手術室制御装置5109は、患者ベッド5183、シーリングカメラ5187、術場カメラ5189及び照明5191の駆動を制御する。
手術室システム5100には、集中操作パネル5111が設けられており、ユーザは、当該集中操作パネル5111を介して、視聴覚コントローラ5107に対して画像表示についての指示を与えたり、手術室制御装置5109に対して非医療機器の動作についての指示を与えることができる。集中操作パネル5111は、表示装置の表示面上にタッチパネルが設けられて構成される。
図22は、集中操作パネル5111における操作画面の表示例を示す図である。図22では、一例として、手術室システム5100に、出力先の装置として、2つの表示装置が設けられている場合に対応する操作画面を示している。図22を参照すると、操作画面5193には、発信元選択領域5195と、プレビュー領域5197と、コントロール領域5201と、が設けられる。
発信元選択領域5195には、手術室システム5100に備えられる発信元装置と、当該発信元装置が有する表示情報を表すサムネイル画面と、が紐付けられて表示される。ユーザは、表示装置に表示させたい表示情報を、発信元選択領域5195に表示されているいずれかの発信元装置から選択することができる。
プレビュー領域5197には、出力先の装置である2つの表示装置(Monitor1、Monitor2)に表示される画面のプレビューが表示される。図示する例では、1つの表示装置において4つの画像がPinP表示されている。当該4つの画像は、発信元選択領域5195において選択された発信元装置から発信された表示情報に対応するものである。4つの画像のうち、1つはメイン画像として比較的大きく表示され、残りの3つはサブ画像として比較的小さく表示される。ユーザは、4つの画像が表示された領域を適宜選択することにより、メイン画像とサブ画像を入れ替えることができる。また、4つの画像が表示される領域の下部には、ステータス表示領域5199が設けられており、当該領域に手術に関するステータス(例えば、手術の経過時間や、患者の身体情報等)が適宜表示され得る。
コントロール領域5201には、発信元の装置に対して操作を行うためのGUI(Graphical User Interface)部品が表示される発信元操作領域5203と、出力先の装置に対して操作を行うためのGUI部品が表示される出力先操作領域5205と、が設けられる。図示する例では、発信元操作領域5203には、撮像機能を有する発信元の装置におけるカメラに対して各種の操作(パン、チルト及びズーム)を行うためのGUI部品が設けられている。ユーザは、これらのGUI部品を適宜選択することにより、発信元の装置におけるカメラの動作を操作することができる。なお、図示は省略しているが、発信元選択領域5195において選択されている発信元の装置がレコーダである場合(すなわち、プレビュー領域5197において、レコーダに過去に記録された画像が表示されている場合)には、発信元操作領域5203には、当該画像の再生、再生停止、巻き戻し、早送り等の操作を行うためのGUI部品が設けられ得る。
また、出力先操作領域5205には、出力先の装置である表示装置における表示に対する各種の操作(スワップ、フリップ、色調整、コントラスト調整、2D表示と3D表示の切り替え)を行うためのGUI部品が設けられている。ユーザは、これらのGUI部品を適宜選択することにより、表示装置における表示を操作することができる。
なお、集中操作パネル5111に表示される操作画面は図示する例に限定されず、ユーザは、集中操作パネル5111を介して、手術室システム5100に備えられる、視聴覚コントローラ5107及び手術室制御装置5109によって制御され得る各装置に対する操作入力が可能であってよい。
図23は、以上説明した手術室システムが適用された手術の様子の一例を示す図である。シーリングカメラ5187及び術場カメラ5189は、手術室の天井に設けられ、患者ベッド5183上の患者5185の患部に対して処置を行う術者(医者)5181の手元及び手術室全体の様子を撮影可能である。シーリングカメラ5187及び術場カメラ5189には、倍率調整機能、焦点距離調整機能、撮影方向調整機能等が設けられ得る。照明5191は、手術室の天井に設けられ、少なくとも術者5181の手元を照射する。照明5191は、その照射光量、照射光の波長(色)及び光の照射方向等を適宜調整可能であってよい。
内視鏡手術システム5113、患者ベッド5183、シーリングカメラ5187、術場カメラ5189及び照明5191は、図21に示すように、視聴覚コントローラ5107及び手術室制御装置5109(図23では図示せず)を介して互いに連携可能に接続されている。手術室内には、集中操作パネル5111が設けられており、上述したように、ユーザは、当該集中操作パネル5111を介して、手術室内に存在するこれらの装置を適宜操作することが可能である。
以下、内視鏡手術システム5113の構成について詳細に説明する。図示するように、内視鏡手術システム5113は、内視鏡5115と、その他の術具5131と、内視鏡5115を支持する支持アーム装置5141と、内視鏡下手術のための各種の装置が搭載されたカート5151と、から構成される。
内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ5139a〜5139dと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ5139a〜5139dから、内視鏡5115の鏡筒5117や、その他の術具5131が患者5185の体腔内に挿入される。図示する例では、その他の術具5131として、気腹チューブ5133、エネルギー処置具5135及び鉗子5137が、患者5185の体腔内に挿入されている。また、エネルギー処置具5135は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具5131はあくまで一例であり、術具5131としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
内視鏡5115によって撮影された患者5185の体腔内の術部の画像が、表示装置5155に表示される。術者5181は、表示装置5155に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具5135や鉗子5137を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ5133、エネルギー処置具5135及び鉗子5137は、手術中に、術者5181又は助手等によって支持される。
(支持アーム装置)
支持アーム装置5141は、ベース部5143から延伸するアーム部5145を備える。図示する例では、アーム部5145は、関節部5147a、5147b、5147c、及びリンク5149a、5149bから構成されており、アーム制御装置5159からの制御により駆動される。アーム部5145によって内視鏡5115が支持され、その位置及び姿勢が制御される。これにより、内視鏡5115の安定的な位置の固定が実現され得る。
(内視鏡)
内視鏡5115は、先端から所定の長さの領域が患者5185の体腔内に挿入される鏡筒5117と、鏡筒5117の基端に接続されるカメラヘッド5119と、から構成される。図示する例では、硬性の鏡筒5117を有するいわゆる硬性鏡として構成される内視鏡5115を図示しているが、内視鏡5115は、軟性の鏡筒5117を有するいわゆる軟性鏡として構成されてもよい。
鏡筒5117の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡5115には光源装置5157が接続されており、当該光源装置5157によって生成された光が、鏡筒5117の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者5185の体腔内の観察対象に向かって照射される。なお、内視鏡5115は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド5119の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU:Camera Control Unit)5153に送信される。なお、カメラヘッド5119には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
なお、例えば立体視(3D表示)等に対応するために、カメラヘッド5119には撮像素子が複数設けられてもよい。この場合、鏡筒5117の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
(カートに搭載される各種の装置)
CCU5153は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡5115及び表示装置5155の動作を統括的に制御する。具体的には、CCU5153は、カメラヘッド5119から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU5153は、当該画像処理を施した画像信号を表示装置5155に提供する。また、CCU5153には、図21に示す視聴覚コントローラ5107が接続される。CCU5153は、画像処理を施した画像信号を視聴覚コントローラ5107にも提供する。また、CCU5153は、カメラヘッド5119に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。当該撮像条件に関する情報は、入力装置5161を介して入力されてもよいし、上述した集中操作パネル5111を介して入力されてもよい。
表示装置5155は、CCU5153からの制御により、当該CCU5153によって画像処理が施された画像信号に基づく画像を表示する。内視鏡5115が例えば4K(水平画素数3840×垂直画素数2160)又は8K(水平画素数7680×垂直画素数4320)等の高解像度の撮影に対応したものである場合、及び/又は3D表示に対応したものである場合には、表示装置5155としては、それぞれに対応して、高解像度の表示が可能なもの、及び/又は3D表示可能なものが用いられ得る。4K又は8K等の高解像度の撮影に対応したものである場合、表示装置5155として55インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置5155が設けられてもよい。
光源装置5157は、例えばLED(light emitting diode)等の光源から構成され、術部を撮影する際の照射光を内視鏡5115に供給する。
アーム制御装置5159は、例えばCPU等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置5141のアーム部5145の駆動を制御する。
入力装置5161は、内視鏡手術システム5113に対する入力インタフェースである。ユーザは、入力装置5161を介して、内視鏡手術システム5113に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置5161を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置5161を介して、アーム部5145を駆動させる旨の指示や、内視鏡5115による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示、エネルギー処置具5135を駆動させる旨の指示等を入力する。
入力装置5161の種類は限定されず、入力装置5161は各種の公知の入力装置であってよい。入力装置5161としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ5171及び/又はレバー等が適用され得る。入力装置5161としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置5155の表示面上に設けられてもよい。
あるいは、入力装置5161は、例えばメガネ型のウェアラブルデバイスやHMD(Head Mounted Display)等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置5161は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置5161は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置5161が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ(例えば術者5181)が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
処置具制御装置5163は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具5135の駆動を制御する。気腹装置5165は、内視鏡5115による視野の確保及び術者の作業空間の確保の目的で、患者5185の体腔を膨らめるために、気腹チューブ5133を介して当該体腔内にガスを送り込む。レコーダ5167は、手術に関する各種の情報を記録可能な装置である。プリンタ5169は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
以下、内視鏡手術システム5113において特に特徴的な構成について、更に詳細に説明する。
(支持アーム装置)
支持アーム装置5141は、基台であるベース部5143と、ベース部5143から延伸するアーム部5145と、を備える。図示する例では、アーム部5145は、複数の関節部5147a、5147b、5147cと、関節部5147bによって連結される複数のリンク5149a、5149bと、から構成されているが、図23では、簡単のため、アーム部5145の構成を簡略化して図示している。実際には、アーム部5145が所望の自由度を有するように、関節部5147a〜5147c及びリンク5149a、5149bの形状、数及び配置、並びに関節部5147a〜5147cの回転軸の方向等が適宜設定され得る。例えば、アーム部5145は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部5145の可動範囲内において内視鏡5115を自由に移動させることが可能になるため、所望の方向から内視鏡5115の鏡筒5117を患者5185の体腔内に挿入することが可能になる。
関節部5147a〜5147cにはアクチュエータが設けられており、関節部5147a〜5147cは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置5159によって制御されることにより、各関節部5147a〜5147cの回転角度が制御され、アーム部5145の駆動が制御される。これにより、内視鏡5115の位置及び姿勢の制御が実現され得る。この際、アーム制御装置5159は、力制御又は位置制御等、各種の公知の制御方式によってアーム部5145の駆動を制御することができる。
例えば、術者5181が、入力装置5161(フットスイッチ5171を含む)を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置5159によってアーム部5145の駆動が適宜制御され、内視鏡5115の位置及び姿勢が制御されてよい。当該制御により、アーム部5145の先端の内視鏡5115を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部5145は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部5145は、手術室から離れた場所に設置される入力装置5161を介してユーザによって遠隔操作され得る。
また、力制御が適用される場合には、アーム制御装置5159は、ユーザからの外力を受け、その外力にならってスムーズにアーム部5145が移動するように、各関節部5147a〜5147cのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部5145に触れながらアーム部5145を移動させる際に、比較的軽い力で当該アーム部5145を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡5115を移動させることが可能となり、ユーザの利便性を向上させることができる。
ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡5115が支持されていた。これに対して、支持アーム装置5141を用いることにより、人手によらずに内視鏡5115の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
なお、アーム制御装置5159は必ずしもカート5151に設けられなくてもよい。また、アーム制御装置5159は必ずしも1つの装置でなくてもよい。例えば、アーム制御装置5159は、支持アーム装置5141のアーム部5145の各関節部5147a〜5147cにそれぞれ設けられてもよく、複数のアーム制御装置5159が互いに協働することにより、アーム部5145の駆動制御が実現されてもよい。
(光源装置)
光源装置5157は、内視鏡5115に術部を撮影する際の照射光を供給する。光源装置5157は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置5157において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド5119の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置5157は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド5119の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置5157は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置5157は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
(カメラヘッド及びCCU)
図24を参照して、内視鏡5115のカメラヘッド5119及びCCU5153の機能についてより詳細に説明する。図24は、図23に示すカメラヘッド5119及びCCU5153の機能構成の一例を示すブロック図である。
図24を参照すると、カメラヘッド5119は、その機能として、レンズユニット5121と、撮像部5123と、駆動部5125と、通信部5127と、カメラヘッド制御部5129と、を有する。また、CCU5153は、その機能として、通信部5173と、画像処理部5175と、制御部5177と、を有する。カメラヘッド5119とCCU5153とは、伝送ケーブル5179によって双方向に通信可能に接続されている。
まず、カメラヘッド5119の機能構成について説明する。レンズユニット5121は、鏡筒5117との接続部に設けられる光学系である。鏡筒5117の先端から取り込まれた観察光は、カメラヘッド5119まで導光され、当該レンズユニット5121に入射する。レンズユニット5121は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット5121は、撮像部5123の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
撮像部5123は撮像素子によって構成され、レンズユニット5121の後段に配置される。レンズユニット5121を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部5123によって生成された画像信号は、通信部5127に提供される。
撮像部5123を構成する撮像素子としては、例えばCMOS(Complementary Metal
Oxide Semiconductor)タイプのイメージセンサであり、Bayer配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば4K以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者5181は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
また、撮像部5123を構成する撮像素子は、3D表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成される。3D表示が行われることにより、術者5181は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部5123が多板式で構成される場合には、各撮像素子に対応して、レンズユニット5121も複数系統設けられる。
また、撮像部5123は、必ずしもカメラヘッド5119に設けられなくてもよい。例えば、撮像部5123は、鏡筒5117の内部に、対物レンズの直後に設けられてもよい。
駆動部5125は、アクチュエータによって構成され、カメラヘッド制御部5129からの制御により、レンズユニット5121のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部5123による撮像画像の倍率及び焦点が適宜調整され得る。
通信部5127は、CCU5153との間で各種の情報を送受信するための通信装置によって構成される。通信部5127は、撮像部5123から得た画像信号をRAWデータとして伝送ケーブル5179を介してCCU5153に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者5181が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部5127には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル5179を介してCCU5153に送信される。
また、通信部5127は、CCU5153から、カメラヘッド5119の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部5127は、受信した制御信号をカメラヘッド制御部5129に提供する。なお、CCU5153からの制御信号も、光通信によって伝送されてもよい。この場合、通信部5127には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部5129に提供される。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてCCU5153の制御部5177によって自動的に設定される。つまり、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White
Balance)機能が内視鏡5115に搭載される。
カメラヘッド制御部5129は、通信部5127を介して受信したCCU5153からの制御信号に基づいて、カメラヘッド5119の駆動を制御する。例えば、カメラヘッド制御部5129は、撮像画像のフレームレートを指定する旨の情報及び/又は撮像時の露光を指定する旨の情報に基づいて、撮像部5123の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部5129は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部5125を介してレンズユニット5121のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部5129は、更に、鏡筒5117やカメラヘッド5119を識別するための情報を記憶する機能を備えてもよい。
なお、レンズユニット5121や撮像部5123等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド5119について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
次に、CCU5153の機能構成について説明する。通信部5173は、カメラヘッド5119との間で各種の情報を送受信するための通信装置によって構成される。通信部5173は、カメラヘッド5119から、伝送ケーブル5179を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部5173には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部5173は、電気信号に変換した画像信号を画像処理部5175に提供する。
また、通信部5173は、カメラヘッド5119に対して、カメラヘッド5119の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
画像処理部5175は、カメラヘッド5119から送信されたRAWデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/又は手ブレ補正処理等)、並びに/又は拡大処理(電子ズーム処理)等、各種の公知の信号処理が含まれる。また、画像処理部5175は、AE、AF及びAWBを行うための、画像信号に対する検波処理を行う。
画像処理部5175は、CPUやGPU等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部5175が複数のGPUによって構成される場合には、画像処理部5175は、画像信号に係る情報を適宜分割し、これら複数のGPUによって並列的に画像処理を行う。
制御部5177は、内視鏡5115による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部5177は、カメラヘッド5119の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部5177は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡5115にAE機能、AF機能及びAWB機能が搭載されている場合には、制御部5177は、画像処理部5175による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
また、制御部5177は、画像処理部5175によって画像処理が施された画像信号に基づいて、術部の画像を表示装置5155に表示させる。この際、制御部5177は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部5177は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具5135使用時のミスト等を認識することができる。制御部5177は、表示装置5155に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者5181に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
カメラヘッド5119及びCCU5153を接続する伝送ケーブル5179は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル5179を用いて有線で通信が行われていたが、カメラヘッド5119とCCU5153との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル5179を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル5179によって妨げられる事態が解消され得る。
以上、本開示に係る技術が適用され得る手術室システム5100の一例について説明した。なお、ここでは、一例として手術室システム5100が適用される医療用システムが内視鏡手術システム5113である場合について説明したが、手術室システム5100の構成はかかる例に限定されない。例えば、手術室システム5100は、内視鏡手術システム5113に代えて、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
本開示に係る技術は、以上説明した構成のうち、視聴覚コントローラ5107に好適に適用され得る。具体的には、本技術の制御装置の構成を、発信元の装置及び出力先の装置の動作を制御する視聴覚コントローラ5107に適用することができる。視聴覚コントローラ5107に本開示に係る技術を適用することにより、ネットワークの状態に応じて、安定したストリーミングを提供することができるため、特にリアルタイムで行われる遠隔医療における診断の精度向上を図ることができる。
また、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
さらに、本技術は以下のような構成をとることができる。
(1)
受信装置と、
前記受信装置に対してストリーミングを行う送信装置と、
前記受信装置と前記送信装置とを接続するネットワークであって、第1の通信回線および第2の通信回線を含むネットワークの状態を管理する制御装置と
を備え、
前記第1の通信回線は、前記第2の通信回線と比較して接続状態が不安定であり、
前記制御装置は、前記送信装置から前記受信装置へと送信されるパケットに基づいて、前記ネットワークの状態を管理する
通信システム。
(2)
前記第1の通信回線は、前記第2の通信回線と比較して遅延またはパケットロスが大きい
(1)に記載の通信システム。
(3)
前記第1の通信回線は、無線通信回線を含んで構成され、
前記第2の通信回線は、有線通信回線のみで構成される
(2)に記載の通信システム。
(4)
前記送信装置は、前記第1の通信回線により前記ネットワークに接続され、
前記受信装置は、前記第2の通信回線により前記ネットワークに接続される
(3)に記載の通信システム。
(5)
前記送信装置は、前記受信装置に対してUDP(User Datagram Protocol)による前記ストリーミングを行う
(4)に記載の通信システム。
(6)
前記制御装置は、
前記受信装置における前記ストリーミングの受信状態を、TCP(Transmission Control Protocol)接続により把握する状態把握部と、
前記ストリーミングの受信状態に基づいて、前記ストリーミングの停止を決定する決定部と
を有する
(5)に記載の通信システム。
(7)
前記決定部は、前記受信装置におけるパケットの受信間隔、および、所定時間内でのパケットロス量の少なくともいずれかに基づいて、前記ストリーミングの停止を決定する
(6)に記載の通信システム。
(8)
前記送信装置は、複数の前記第1の通信回線を用いたボンディングによる前記ストリーミングを行い、
前記状態把握部は、前記受信装置における、複数の前記第1の通信回線それぞれを介した前記ストリーミングの受信状態を把握し、
前記決定部は、前記ストリーミングの受信状態それぞれに基づいて、前記ストリーミングの停止を決定する
(6)または(7)に記載の通信システム。
(9)
前記決定部は、前記ストリーミングの受信状態それぞれと、複数の前記第1の通信回線それぞれにおける通信方式とに基づいて、前記ストリーミングの停止を決定する
(8)に記載の通信システム。
(10)
前記受信装置は、前記ストリーミングが行われる前記ネットワークの帯域を推定する帯域推定部を有し、
前記制御装置は、推定された前記ネットワークの帯域に基づいて、前記送信装置が行う前記ストリーミングに関するパラメータを設定するパラメータ設定部を有する
(5)に記載の通信システム。
(11)
前記送信装置は、所定時間毎に階段状に送信レートを上げながら、前記受信装置に対してパケット送信を行い、
前記帯域推定部は、前記送信装置から受信したパケットの受信レートに基づいて、前記ネットワークの帯域を推定する
(10)に記載の通信システム。
(12)
前記受信装置は、前記ネットワークの輻輳を検知する輻輳検知部をさらに有し、
前記帯域推定部は、前記ネットワークの輻輳の検知結果に基づいて、前記ネットワークの帯域を推定する
(10)または(11)に記載の通信システム。
(13)
前記輻輳検知部は、RTP(Real-time Transport Protocol)パケットの相対遅延量に基づいて、前記ネットワークの輻輳を検知する
(12)に記載の通信システム。
(14)
前記送信装置は、動画像のストリーミングを行う
(1)乃至(13)のいずれかに記載の通信システム。
(15)
前記送信装置は、動画像を撮像し、リアルタイムで送信する撮像装置として構成される
(14)に記載の通信システム。
(16)
受信装置と、前記受信装置に対してストリーミングを行う送信装置とを接続するネットワークであって、第1の通信回線および第2の通信回線を含むネットワークの状態を管理する制御部
を備え、
前記第1の通信回線は、前記第2の通信回線と比較して接続状態が不安定であり、
前記制御部は、前記送信装置から前記受信装置へと送信されるパケットに基づいて、前記ネットワークの状態を管理する
制御装置。
1 通信システム, 11 送信装置, 12 受信装置, 13 制御装置, 20,20−1,20−2 基地局, 30 インターネット, 91 状態決定部, 101 制御部, 111 状態把握部, 112 動作決定部, 121 帯域推定部, 122 輻輳検知部, 131 制御部, 141 パラメータ設定部, 151 制御部

Claims (16)

  1. 受信装置と、
    前記受信装置に対してストリーミングを行う送信装置と、
    前記受信装置と前記送信装置とを接続するネットワークであって、第1の通信回線および第2の通信回線を含むネットワークの状態を管理する制御装置と
    を備え、
    前記第1の通信回線は、前記第2の通信回線と比較して接続状態が不安定であり、
    前記制御装置は、前記送信装置から前記受信装置へと送信されるパケットに基づいて、前記ネットワークの状態を管理する
    通信システム。
  2. 前記第1の通信回線は、前記第2の通信回線と比較して遅延またはパケットロスが大きい
    請求項1に記載の通信システム。
  3. 前記第1の通信回線は、無線通信回線を含んで構成され、
    前記第2の通信回線は、有線通信回線のみで構成される
    請求項2に記載の通信システム。
  4. 前記送信装置は、前記第1の通信回線により前記ネットワークに接続され、
    前記受信装置は、前記第2の通信回線により前記ネットワークに接続される
    請求項3に記載の通信システム。
  5. 前記送信装置は、前記受信装置に対してUDP(User Datagram Protocol)による前記ストリーミングを行う
    請求項4に記載の通信システム。
  6. 前記制御装置は、
    前記受信装置における前記ストリーミングの受信状態を、TCP(Transmission Control Protocol)接続により把握する状態把握部と、
    前記ストリーミングの受信状態に基づいて、前記ストリーミングの停止を決定する決定部と
    を有する
    請求項5に記載の通信システム。
  7. 前記決定部は、前記受信装置におけるパケットの受信間隔、および、所定時間内でのパケットロス量の少なくともいずれかに基づいて、前記ストリーミングの停止を決定する
    請求項6に記載の通信システム。
  8. 前記送信装置は、複数の前記第1の通信回線を用いたボンディングによる前記ストリーミングを行い、
    前記状態把握部は、前記受信装置における、複数の前記第1の通信回線それぞれを介した前記ストリーミングの受信状態を把握し、
    前記決定部は、前記ストリーミングの受信状態それぞれに基づいて、前記ストリーミングの停止を決定する
    請求項6に記載の通信システム。
  9. 前記決定部は、前記ストリーミングの受信状態それぞれと、複数の前記第1の通信回線それぞれにおける通信方式とに基づいて、前記ストリーミングの停止を決定する
    請求項8に記載の通信システム。
  10. 前記受信装置は、前記ストリーミングが行われる前記ネットワークの帯域を推定する帯域推定部を有し、
    前記制御装置は、推定された前記ネットワークの帯域に基づいて、前記送信装置が行う前記ストリーミングに関するパラメータを設定するパラメータ設定部を有する
    請求項5に記載の通信システム。
  11. 前記送信装置は、所定時間毎に階段状に送信レートを上げながら、前記受信装置に対してパケット送信を行い、
    前記帯域推定部は、前記送信装置から受信したパケットの受信レートに基づいて、前記ネットワークの帯域を推定する
    請求項10に記載の通信システム。
  12. 前記受信装置は、前記ネットワークの輻輳を検知する輻輳検知部をさらに有し、
    前記帯域推定部は、前記ネットワークの輻輳の検知結果に基づいて、前記ネットワークの帯域を推定する
    請求項10に記載の通信システム。
  13. 前記輻輳検知部は、RTP(Real-time Transport Protocol)パケットの相対遅延量に基づいて、前記ネットワークの輻輳を検知する
    請求項12に記載の通信システム。
  14. 前記送信装置は、動画像のストリーミングを行う
    請求項1に記載の通信システム。
  15. 前記送信装置は、動画像を撮像し、リアルタイムで送信する撮像装置として構成される
    請求項14に記載の通信システム。
  16. 受信装置と、前記受信装置に対してストリーミングを行う送信装置とを接続するネットワークであって、第1の通信回線および第2の通信回線を含むネットワークの状態を管理する制御部
    を備え、
    前記第1の通信回線は、前記第2の通信回線と比較して接続状態が不安定であり、
    前記制御部は、前記送信装置から前記受信装置へと送信されるパケットに基づいて、前記ネットワークの状態を管理する
    制御装置。
JP2019526801A 2017-06-29 2018-06-15 通信システムおよび制御装置 Pending JPWO2019003955A1 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017127552 2017-06-29
JP2017127552 2017-06-29
PCT/JP2018/022860 WO2019003955A1 (ja) 2017-06-29 2018-06-15 通信システムおよび制御装置

Publications (1)

Publication Number Publication Date
JPWO2019003955A1 true JPWO2019003955A1 (ja) 2020-04-30

Family

ID=64742890

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019526801A Pending JPWO2019003955A1 (ja) 2017-06-29 2018-06-15 通信システムおよび制御装置

Country Status (5)

Country Link
US (1) US11394759B2 (ja)
EP (1) EP3648422B1 (ja)
JP (1) JPWO2019003955A1 (ja)
CN (1) CN110771102B (ja)
WO (1) WO2019003955A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013528984A (ja) * 2010-04-06 2013-07-11 クゥアルコム・インコーポレイテッド マルチパストランスポートを使用した協調帯域幅アグリゲーション
JP2015070568A (ja) * 2013-09-30 2015-04-13 ソニー株式会社 情報処理装置、通信方法およびプログラム

Family Cites Families (51)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6076114A (en) * 1997-04-18 2000-06-13 International Business Machines Corporation Methods, systems and computer program products for reliable data transmission over communications networks
US20080002669A1 (en) * 2001-09-14 2008-01-03 O'brien Ray Packet voice gateway
EP1428357A1 (en) * 2001-09-21 2004-06-16 British Telecommunications Public Limited Company Data communications method and system using receiving buffer size to calculate transmission rate for congestion control
JP4116470B2 (ja) * 2002-03-06 2008-07-09 ヒューレット・パッカード・カンパニー メディア・ストリーミング配信システム
AU2003286339A1 (en) * 2002-12-17 2004-07-09 Koninklijke Philips Electronics N.V. Method of coding video streams for low-cost multiple description at gateways
KR100956817B1 (ko) * 2003-01-11 2010-05-11 엘지전자 주식회사 패킷 데이터를 처리하는 방법 및 이를 위한 장치
CN1947389A (zh) * 2004-03-04 2007-04-11 诺基亚公司 通信系统中的方法、通信系统和通信设备
US7984179B1 (en) * 2004-06-29 2011-07-19 Sextant Navigation, Inc. Adaptive media transport management for continuous media stream over LAN/WAN environment
KR100619701B1 (ko) * 2004-12-09 2006-09-08 엘지전자 주식회사 무선 랜 상태 모니터링 방법
KR100640490B1 (ko) * 2005-08-05 2006-10-30 삼성전자주식회사 이동성을 보장하는 다중 사용자 지원 멀티미디어 컨텐츠제공 시스템과 그 제공 방법
CN1835482A (zh) * 2005-12-29 2006-09-20 上海贝豪通讯电子有限公司 一种无线流媒体服务解决的方法
US8839065B2 (en) * 2011-07-29 2014-09-16 Blackfire Research Corporation Packet loss anticipation and pre emptive retransmission for low latency media applications
JP4884921B2 (ja) 2006-10-30 2012-02-29 京セラ株式会社 通信制御装置、無線通信装置、通信制御方法および無線通信方法
EP2159976A4 (en) * 2007-05-21 2014-03-12 Fujitsu Ltd RELAY DEVICE AND RELAY METHOD
US7987285B2 (en) * 2007-07-10 2011-07-26 Bytemobile, Inc. Adaptive bitrate management for streaming media over packet networks
US8595342B2 (en) * 2007-10-17 2013-11-26 Reazer Investments L.L.C. Synchronized media playback using autonomous clients over standard Internet protocols
CN101222296B (zh) * 2008-01-31 2010-06-09 上海交通大学 上行蜂窝视频通信中自适应的传输方法及系统
US9137026B1 (en) * 2009-04-23 2015-09-15 Sprint Communications Company L.P. Seamless service transitions for dual-network mobile devices
US9723319B1 (en) * 2009-06-01 2017-08-01 Sony Interactive Entertainment America Llc Differentiation for achieving buffered decoding and bufferless decoding
WO2011037245A1 (ja) * 2009-09-24 2011-03-31 日本電気株式会社 通信データ伝送装置、通信データ伝送システム、通信データ伝送方法、及び通信データ伝送プログラム
EP2486491A4 (en) * 2009-10-06 2013-10-23 Unwired Planet Llc MANAGING NETWORK TRAFFIC BY EDITING A MANIFEST FILE AND / OR USING A INTERMEDIATE FLOW CONTROL
US20120047230A1 (en) * 2010-08-18 2012-02-23 Cisco Technology, Inc. Client-initiated management controls for streaming applications
US8364812B2 (en) * 2010-08-27 2013-01-29 Sandvine Incorporated Ulc Method and system for network data flow management
CN102143536B (zh) * 2010-12-17 2013-11-06 华为终端有限公司 自动切换网络的方法和装置、无线接入设备和中间设备
US8892763B2 (en) * 2011-01-05 2014-11-18 Motorola Mobility Llc Live television playback optimizations
US8996719B2 (en) * 2011-04-03 2015-03-31 Jeremiah Condon System and method of adaptive transport of multimedia data
US20130067109A1 (en) * 2011-09-12 2013-03-14 Tektronix, Inc. Monitoring Over-the-Top Adaptive Video Streaming
US20150163273A1 (en) * 2011-09-29 2015-06-11 Avvasi Inc. Media bit rate estimation based on segment playback duration and segment data length
US10187441B2 (en) * 2011-10-03 2019-01-22 CSC Holdings, LLC Media relay
US9338410B2 (en) * 2012-06-07 2016-05-10 Verizon Patent And Licensing Inc. Remote streaming
US8904024B2 (en) * 2012-08-03 2014-12-02 Ittiam Systems (P) Ltd System and method for low delay fast update for video streaming
US20140344469A1 (en) * 2013-05-17 2014-11-20 Evology, Llc Method of in-application encoding for decreased latency application streaming
EP3007450B1 (en) * 2013-06-07 2018-11-28 Saturn Licensing LLC Transmission device, transmission method, receiving device, and receiving method
EP2814256B1 (en) * 2013-06-11 2022-01-26 MX1 GmbH Method and apparatus for modifying a stream of digital content
EP2819367A1 (en) * 2013-06-28 2014-12-31 Thomson Licensing Method for retrieving, by a client terminal, a content part of a multimedia content
US9578074B2 (en) * 2013-11-11 2017-02-21 Amazon Technologies, Inc. Adaptive content transmission
KR102101206B1 (ko) * 2014-01-03 2020-05-15 삼성전자 주식회사 무선 통신 시스템에서 혼잡 관리를 위한 방법 및 장치
WO2016011136A1 (en) * 2014-07-15 2016-01-21 Maximum Media LLC Systems and methods for automated real-time internet streaming and broadcasting
US10320526B1 (en) * 2014-11-07 2019-06-11 Strong Force Iot Portfolio 2016, Llc Packet coding based network communication
WO2016084334A1 (ja) * 2014-11-27 2016-06-02 日本電気株式会社 可用帯域推定システム、可用帯域推定方法、受信装置及び受信装置のプログラムの記憶媒体
KR102111572B1 (ko) * 2015-02-13 2020-05-15 에스케이텔레콤 주식회사 저지연 생방송 컨텐츠 제공을 위한 프로그램을 기록한 기록매체 및 장치
US9883214B2 (en) * 2015-03-31 2018-01-30 Dialogic Corporation Efficient approach to dynamic frame size and frame rate adaptation
US9906996B2 (en) * 2015-06-23 2018-02-27 At&T Intellectual Property I, L.P. Facilitation of wireless network session continuity
KR102461929B1 (ko) * 2015-09-25 2022-11-02 삼성전자주식회사 다수의 무선 접속 인터페이스를 지원하는 이동 통신 시스템에서 스트리밍 서비스 데이터를 수신하는 장치 및 방법
US20180131535A1 (en) * 2016-06-30 2018-05-10 CherryTomato8 System, apparatus, and method for information retrieval
KR102307447B1 (ko) * 2017-05-02 2021-09-30 삼성전자주식회사 네트워크 환경 모니터링에 기반하는 http 적응적 스트리밍 서버, 방법, 및 클라이언트 단말
US11019126B2 (en) * 2017-06-23 2021-05-25 Nokia Solutions And Networks Oy Quality-of-experience for adaptive bitrate streaming
US11991235B2 (en) * 2017-09-27 2024-05-21 Comcast Cable Communications, Llc Adaptive energy system utilizing quality of service and quality of experience metrics
US10652084B2 (en) * 2018-05-01 2020-05-12 At&T Intellectual Property I, L.P. Service recovery in a software defined network
US11032613B2 (en) * 2018-08-30 2021-06-08 Fox Broadcasting Company, Llc Dynamic slates for live streaming blackouts
KR102162350B1 (ko) * 2019-02-14 2020-10-06 국방과학연구소 다중 통신 제어 장치 및 방법

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013528984A (ja) * 2010-04-06 2013-07-11 クゥアルコム・インコーポレイテッド マルチパストランスポートを使用した協調帯域幅アグリゲーション
JP2015070568A (ja) * 2013-09-30 2015-04-13 ソニー株式会社 情報処理装置、通信方法およびプログラム

Also Published As

Publication number Publication date
WO2019003955A1 (ja) 2019-01-03
US20210144186A1 (en) 2021-05-13
EP3648422A4 (en) 2020-05-13
CN110771102B (zh) 2023-09-22
EP3648422A1 (en) 2020-05-06
US11394759B2 (en) 2022-07-19
EP3648422B1 (en) 2022-03-16
CN110771102A (zh) 2020-02-07

Similar Documents

Publication Publication Date Title
US11323679B2 (en) Multi-camera system, camera, processing method of camera, confirmation apparatus, and processing method of confirmation apparatus
US11729519B2 (en) Video signal processing apparatus, video signal processing method, and image-capturing apparatus
CN108353144B (zh) 多摄像机系统、摄像机、摄像机处理方法、确认设备和确认设备处理方法
US11022859B2 (en) Light emission control apparatus, light emission control method, light emission apparatus, and imaging apparatus
WO2018230510A1 (ja) 画像処理装置、画像処理方法および撮像システム
JP7136093B2 (ja) 情報処理装置、情報処理方法および情報処理プログラム
US11671872B2 (en) Communication system and transmission apparatus
US11394759B2 (en) Communication system and control apparatus
JPWO2019150826A1 (ja) システムコントローラ、ネットワークシステム、及びネットワークシステムにおける方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210507

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220311

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220712

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220802

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20221122