JP7136093B2 - 情報処理装置、情報処理方法および情報処理プログラム - Google Patents

情報処理装置、情報処理方法および情報処理プログラム Download PDF

Info

Publication number
JP7136093B2
JP7136093B2 JP2019519584A JP2019519584A JP7136093B2 JP 7136093 B2 JP7136093 B2 JP 7136093B2 JP 2019519584 A JP2019519584 A JP 2019519584A JP 2019519584 A JP2019519584 A JP 2019519584A JP 7136093 B2 JP7136093 B2 JP 7136093B2
Authority
JP
Japan
Prior art keywords
content
image
original
transfer
information processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019519584A
Other languages
English (en)
Other versions
JPWO2018216538A1 (ja
Inventor
浩一 松野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2018216538A1 publication Critical patent/JPWO2018216538A1/ja
Application granted granted Critical
Publication of JP7136093B2 publication Critical patent/JP7136093B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/08Systems for the simultaneous or sequential transmission of more than one television signal, e.g. additional information signals, the signals occupying wholly or partially the same frequency band, e.g. by time division
    • H04N7/0806Systems for the simultaneous or sequential transmission of more than one television signal, e.g. additional information signals, the signals occupying wholly or partially the same frequency band, e.g. by time division the signals being two or more video signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/8146Monomedia components thereof involving graphical data, e.g. 3D object, 2D graphics
    • H04N21/8153Monomedia components thereof involving graphical data, e.g. 3D object, 2D graphics comprising still images, e.g. texture, background image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H04N21/4363Adapting the video or multiplex stream to a specific local network, e.g. a IEEE 1394 or Bluetooth® network
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H04N21/44029Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display for generating different versions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44227Monitoring of local network, e.g. connection or bandwidth variations; Detecting new devices in the local network
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/458Scheduling content for creating a personalised stream, e.g. by combining a locally stored advertisement with an incoming stream; Updating operations, e.g. for OS modules ; time-related management operations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/815Camera processing pipelines; Components thereof for controlling the resolution by using a single image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0117Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/025Systems for the transmission of digital non-picture data, e.g. of text during the active part of a television frame
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/12Systems in which the television signal is transmitted via one channel or a plurality of parallel channels, the bandwidth of each channel being less than the bandwidth of the television signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/84Generation or processing of descriptive data, e.g. content descriptors

Description

本技術は、情報処理装置、情報処理方法および情報処理プログラムに関する。
近年、インターネット上における画像共有サイトなどの普及を背景に、画像をデジタルカメラなどの撮像装置から、インターネットに接続されているスマートフォンなど端末装置に転送して、その端末装置から画像共有サイトにアップロードするということが行なわれている。
そのような用途およびその他の使用用途のために、画像を撮像したデジタルカメラからパーソナルコンピュータなどのホスト装置に画像データを転送するための種々の提案がなされている(特許文献1)。
特許第4914378号公報
しかし、通常、画像が高画質でデータサイズが大きい場合、送信する画像の数が多い場合、画像データの転送に長い時間を要し、転送後の画像が使用可能となるまでユーザは転送が完了するのを長時間待たなければならないという問題がある。
本技術はこのような問題点に鑑みなされたものであり、コンテンツデータを転送して使用可能となるまでの時間を短くすることができる情報処理装置、情報処理方法および情報処理プログラムを提供することを目的とする。
上述した課題を解決するために、第1の技術は、オリジナルコンテンツに基づき、少なくとも、オリジナルコンテンツよりもデータサイズが小さい第1のコンテンツと、第1のコンテンツよりもデータサイズが小さい第2のコンテンツとを作成し、オリジナルコンテンツと、第1のコンテンツ第2のコンテンツの両方またはいずれか一方を転送する処理を行い、オリジナルコンテンツにメタ情報が付加されているか否かに基づいて第1のコン テンツと第2のコンテンツの転送順を決定する情報処理装置である。
また、第2の技術は、オリジナルコンテンツに基づき、少なくとも、オリジナルコンテンツよりもデータサイズが小さい第1のコンテンツと、第1のコンテンツよりもデータサイズが小さい第2のコンテンツとを作成し、オリジナルコンテンツと、第1のコンテンツ第2のコンテンツの両方またはいずれか一方を転送する処理を行い、オリジナルコンテ ンツにメタ情報が付加されているか否かに基づいて第1のコンテンツと第2のコンテンツ の転送順を決定する情報処理方法である。
また、第3の技術は、オリジナルコンテンツに基づき、少なくとも、オリジナルコンテンツよりもデータサイズが小さい第1のコンテンツと、第1のコンテンツよりもデータサイズが小さい第2のコンテンツとを作成し、オリジナルコンテンツと、第1のコンテンツ第2のコンテンツの両方またはいずれか一方を転送する処理を行い、オリジナルコンテ ンツにメタ情報が付加されているか否かに基づいて第1のコンテンツと第2のコンテンツ の転送順を決定する情報処理方法をコンピュータに実行させる情報処理プログラムである。
本技術によれば、コンテンツデータを転送して使用可能となるまでの時間を短くすることができる。なお、ここに記載された効果は必ずしも限定されるものではなく、明細書中に記載されたいずれかの効果であってもよい。
撮像装置の構成を示すブロック図である。 端末装置の構成を示すブロック図である。 比較例としての従来技術における転送処理を示す図である。 本技術の転送処理の第1の態様を示す図である。 本技術の転送処理の第2の態様を示す図である。 本技術の転送処理の第3の態様を示す図である。 本技術の転送処理の第4の態様の処理の流れを示すフローチャートである。 本技術の転送処理の第4の態様の処理の流れを示すフローチャートである。 本技術の転送処理の第4の態様を示す図である。 本技術の転送処理の第4の態様を示す図である。 本技術の転送処理の第4の態様を示す図である。 手術室システムの全体構成を概略的に示す図である。 集中操作パネルにおける操作画面の表示例を示す図である。 手術室システムが適用された手術の様子の一例を示す図である。 図14に示すカメラヘッド及びCCUの機能構成の一例を示すブロック図である。
以下、本技術の実施の形態について図面を参照しながら説明する。なお、説明は以下の順序で行う。
<1.実施の形態>
[1-1.撮像装置の構成]
[1-2.端末装置の構成]
[1-3.比較例の転送処理]
[1-4.転送処理]
[1-4-1.転送の第1の態様]
[1-4-2.転送の第2の態様]
[1-4-3.転送の第3の態様]
[1-4-4.転送の第4の態様]
<2.応用例>
<3.変形例>
<1.実施の形態>
[1-1.撮像装置の構成]
本実施の形態は、撮像装置100で撮像したコンテンツである画像を端末装置200に転送して端末装置200で種々の用途に使用する、というものである。画像が特許請求の範囲におけるコンテンツに相当するものである。撮像装置100が特許請求の範囲における第1の装置に相当し、端末装置200が特許請求の範囲における第2の装置に相当するものである。
撮像装置100は、制御部101、光学撮像系102、レンズ駆動ドライバ103、撮像素子104、画像信号処理部105、メモリ106、記憶部107、表示部108、入力部109、通信部110、通信制御部111、情報処理部120、転送処理部121、画像作成部122を備えて構成されている。
制御部101は、CPU(Central Processing Unit)、RAM(Random Access Memory)およびROM(Read Only Memory)などから構成されている。ROMには、CPUにより読み込まれ動作されるプログラムなどが記憶されている。RAMは、CPUのワークメモリとして用いられる。CPUは、ROMに記憶されたプログラムに従い様々な処理を実行してコマンドの発行を行うことによって撮像装置100全体の制御を行う。
光学撮像系102は、被写体からの光を撮像素子104に集光するための撮像レンズ、撮像レンズを移動させてフォーカス合わせやズーミングを行うための駆動機構、シャッタ機構、アイリス機構などから構成されている。これらは撮像装置100本体の制御部101、レンズ駆動ドライバ103からの制御信号に基づいて駆動される。光学撮像系102を介して得られた被写体の光画像は、撮像装置100本体が備える撮像素子104上に結像される。
レンズ駆動ドライバ103は、例えばマイコンなどにより構成され、撮像装置100本体の制御部101の制御に従い撮像レンズを光軸方向に沿って所定量移動させることにより、目標とする被写体に合焦するようにオートフォーカスを行なう。また、制御部101からの制御に従い、光学撮像系102の駆動機構、シャッタ機構、アイリス機構などの動作を制御する。これにより、露光時間(シャッタースピード)の調整、絞り値(F値)などの調整がなされる。
撮像素子104は、被写体からの入射光を光電変換して電荷量に変換して、画素信号を出力する。そして、撮像素子104は画素信号をカメラ処理回路に出力する。撮像素子104としては、CCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)などが用いられる。
画像信号処理部105は撮像素子104から出力された撮像信号に対して、CDS(Correlated Double Sampling)処理によりS/N(Signal/Noise)比を良好に保つためのサンプルホールド、AGC(Auto Gain Control)処理、A/D(Analog/Digital)変換などを行ない、画像信号を作成する。
また、画像信号処理部105は、デモザイク処理、ホワイトバランス調整処理や色補正処理、ガンマ補正処理、Y/C変換処理、AE(Auto Exposure)処理、解像度変換処理などの所定の信号処理を画像信号に対して施してもよい。
メモリ106は、揮発性メモリ、例えば、DRAM(Dynamic Random Access Memory)で構成されるバッファメモリである。メモリ106は画像信号処理部105によって所定の処理が施された画像データを一時的に蓄えておくものである。
記憶部107は、例えば、ハードディスク、SDメモリカードなどの大容量記憶媒体である。撮像装置100により撮像された静止画、動画は記憶部107に保存される。動画は、例えば、MPEG2(Moving Picture Experts Group2)、MPEG4などの形式で保存される。また、保存された画像に関する情報、撮像日時などの付加情報を含むEXIF(Exchangeable Image File Format)データもその画像に対応付けられて保存される。
表示部108は、例えば、LCD(Liquid Crystal Display)、PDP(Plasma Display Panel)、有機EL(Electro Luminescence)パネルなどにより構成された表示デバイスである。表示部108には、撮像装置100のユーザインターフェース、メニュー画面、撮像中のモニタリング画像、記憶部107に記録された撮像画像、撮像済み動画などが表示される。
入力部109は、撮像装置100本体に対して撮像指示、各種設定など入力するためのものである。入力部109に対してユーザから入力がなされると、その入力に応じた制御信号が生成されて制御部101に出力される。そして、制御部101はその制御信号に対応した演算処理や撮像装置100の制御を行う。入力部109としては、レリーズボタン、撮像開始指示ボタン、電源オン/オフ切り替えのための電源ボタン、ズーム調整用の操作子などのハードウェアボタンの他、表示部108と一体に構成されたタッチパネルなどがある。
通信部110は、端末装置200と通信し、端末装置200に画像を転送するための通信モジュールである。端末装置200との通信は、USB(Universal Serial Bus)通信などの有線通信、Wi-Fiなどの無線LAN(Local Area Network)、Bluetooth(登録商標)、ZigBeeなどの無線通信どちらであってもよい。
通信制御部111は、通信部110の制御を行うとともに、通信部110で行なわれる撮像装置100と端末装置200間の転送帯域幅を常時把握しており、その転送帯域幅を定期的に情報処理部120に供給する。
情報処理部120は、転送処理部121と画像作成部122とから構成されている。なお、情報処理部120はプログラムで構成され、そのプログラムは、予め撮像装置100内にインストールされていてもよいし、ダウンロード、記憶媒体などで配布されて、ユーザが自らインストールするようにしてもよい。また、情報処理部120は制御部101から独立した構成であってもよい。さらに、情報処理部120は、プログラムによって実現されるのみでなく、その機能を有するハードウェアによる専用の装置、回路などを組み合わせて実現されてもよい。
転送処理部121は、撮像装置100と端末装置200間の通信帯域幅を示す情報(以下、通信帯域幅情報と称する。)を通信制御部111から取得し、その通信帯域幅情報から転送する画像の数(以下、転送ファイル数と称する。)を決定する。この転送ファイル数とは、撮像されたオリジナルの画像(以下オリジナル画像と称する)と、オジリナル画像よりもデータサイズが小さくかつ、データサイズが異なっている画像の合計数である。オリジナル画像は特許請求の範囲におけるオリジナルコンテンツに相当するものである。その転送ファイル数情報は画像作成部122に供給される。本実施の形態においては、転送ファイル数は少なくとも3つである。
画像作成部122は、撮像により得られたオリジナルの画像が供給され、かつ、転送処理部121から転送ファイル数情報が供給されると、転送ファイル数情報とオリジナル画像とに基づいて、オリジナル画像と同一の画像であり、かつ、オリジナル画像よりもデータサイズが小さい画像を生成する。
例えば、通信帯域幅に対して複数の閾値を定めておき、その通信帯域幅が第1の閾値以下である場合、転送ファイル数を3つとする。転送ファイル数が3つの場合、画像作成部122は、オリジナル画像よりもデータサイズが小さい画像データ(以下、中画像と称する)と、中画像よりもデータサイズが小さい画像(以下、小画像と称する)を画像作成部122が生成する。本実施の形態においては、オリジナル画像よりもデータサイズが小さい2種類の画像を小画像、中画像とする。
データサイズを小さくする方法としては、画像の解像度を下げる、画サイズを小さくする、圧縮率を高めるなどデータサイズが小さくなればどのような方法でもよい。なお、それらの方法のうち1つを採用してデータサイズを小さくしてもよいし、併用してデータサイズを小さくしてもよい。
撮像装置100の撮像により画像が取得されると自動的にその取得された画像を端末装置200に転送するようにしてもよいし、撮影後、ユーザが転送する画像を選択し、転送指示が撮像装置100の入力部109に入力されると選択された画像を端末装置200に転送するようにしてもよい。
画像作成部122はオリジナル画像および転送ファイル数情報が供給されると自動的にデータサイズが小さい画像を作成するのではなく、ユーザが転送する画像を選択した段階でその選択された画像についてのみデータサイズが小さい画像を作成してもよい。
[1-2.端末装置の構成]
次に図3を参照して、端末装置200について説明する。端末装置200としてはパーソナルコンピュータ、タブレット端末、スマートフォンなどが挙げられる。
端末装置200は、制御部201、記憶部202、通信部203、インターネット接続部204、表示部205、入力部206を備えている。
制御部201は、CPU、RAMおよびROMなどから構成されている。ROMには、CPUにより読み込まれ動作されるプログラムなどが記憶されている。RAMは、CPUのワークメモリとして用いられる。CPUは、ROMに記憶されたプログラムに従い様々な処理を実行してコマンドの発行を行うことによって端末装置200全体の制御を行う。
記憶部202は、例えば、ハードディスク、SDメモリカードなどの大容量記憶媒体である。撮像装置100から転送され、通信部203で受信したオリジナル画像、小画像および中画像は記憶部に保存される。
通信部203は、撮像装置100と通信し、撮像装置100から転送されたオリジナル画像、小画像および中画像を受信するための通信モジュールである。端末装置200との通信は、USB通信などの有線通信、Wi-Fiなどの無線LAN、Bluetooth(登録商標)、ZigBeeなどの無線通信どちらであってもよい。また、撮像装置100と端末装置200の通信は直接通信であってもよいし、他のネットワークを介した通信であってもよい。
インターネット接続部204は、端末装置200をインターネットに接続するための通信モジュールである。インターネットへの接続方法は、有線LAN、Wi-Fiなどの無線LAN、4G(第4世代移動通信システム)、ブロードバンドなどインターネットに接続することができればどのような方法でもよい。
表示部205は、例えば、LCD、PDP、有機ELパネルなどにより構成された表示デバイスである。表示部205には、端末装置200のユーザインターフェース、撮像装置100から転送されたオリジナル画像、小画像および中画像などが表示される。
入力部206は、ユーザの端末装置200に対する操作入力を受け付けるものである。入力部206に対してユーザから入力がなされると、その入力に応じた制御信号が生成されて制御部201に出力される。そして、制御部201はその制御信号に対応した演算処理、端末装置200の制御を行う。入力部206としては、表示部205と一体に構成されたタッチパネル、トラックパッドやタッチパッドと称される表示部205とは一体となっていない平板状のセンサーを指でなぞって操作するポインティングデバイス、キーボード、マウスなどがある。
撮像装置100および端末装置200は以上のようにして構成されている。
[1-3.比較例の転送処理]
次に、図3を参照して比較例としての従来技術における2種類の画像を用いた転送処理について説明する。図3においては、画像A、画像B、画像Cの3つのオリジナル画像とオリジナル画像よりもデータサイズが小さい小画像というデータサイズが異なる2種類の画像データを転送するという前提で説明を行う。画像A、画像B、画像Cのオリジナル画像データをオリジナル画像A、オリジナル画像B、オリジナル画像Cとし、小画像を小画像a、小画像b、小画像cとする。
また、説明の便宜上、オリジナル画像A、オリジナル画像B、オリジナル画像Cのデータサイズは同一であり、小画像a、小画像b、小画像cのデータサイズは同一であるとする。図3においては、画像を示す四角形の大きさがデータサイズを示している。また、撮像装置100と端末装置200間のネットワークは、3つの小画像を同時に送信することができる転送帯域幅であるとする。
図3においては、左から右へ時間軸が進んでいき、上段は撮像装置100と端末装置200間における画像の転送帯域幅を示しており、下段は転送が完了し、端末装置200で使用可能になった画像を示している。
従来技術では、まず小画像a、小画像b、小画像cの撮像装置100から端末装置200への転送が同時に開始されると、時刻t1の時点で転送が完了し、端末装置200で小画像a、小画像b、小画像cが使用可能となる。
小画像a、小画像b、小画像cの転送に続いてオリジナル画像A、オリジナル画像B、オリジナル画像Cの転送が開始される。撮像装置100と端末装置200間のネットワークの転送帯域幅では複数のオリジナル画像を同時に転送することはできないので、オリジナル画像A、中画像c’の順序で転送される。
そうすると、時刻t2でオリジナル画像Aの転送が完了して端末装置200で使用可能になる。また、時刻t3でオリジナル画像Bの転送が完了して端末装置200で使用可能になる。さらに、時刻t4でオリジナル画像Cの転送が完了して端末装置200で使用可能になる。
従来技術では、このようにしてオリジナル画像とオリジナル画像よりもデータサイズが小さい1つの画像を作成し、その2種類の画像を転送するということは行われている。データサイズが小さい画像は、主にサムネイル表示などに用いられるものであり、画サイズが小さい、解像度が低いなどの理由によりSNSへのアップ、友人に送る、印刷する、画像加工などの用途に使うのは難しい。よって、それらの目的に画像を使用するためにはオリジナル画像の転送が完了するのを待つ必要があり、即時性を損なう結果となっていた。
[1-4.転送処理]
[1-4-1.転送の第1の態様]
次に図4を参照して本実施の形態における転送処理の第1の態様について説明する。
以下の本技術の第1の態様は、画像A、画像B、画像Cという3つの画像を転送する場合を例にして説明を行う。画像A、画像B、画像Cの3つの画像を転送する場合、その画像A、画像B、画像Cの全てについて、中画像、小画像というデータサイズが異なる2種類の画像データを作成する。画像A、画像B、画像Cのオリジナル画像をオリジナル画像A、オリジナル画像B、オリジナル画像Cとし、中画像を中画像a’、中画像b’、中画像c’とし、小画像を小画像a、小画像b、小画像cとする。中画像は特許請求の範囲における第1の画像であり、小画像は特許請求の範囲における第2の画像に相当するものである。
説明の便宜上、オリジナル画像A、オリジナル画像B、オリジナル画像Cのデータサイズは同一であり、中画像a’、中画像b’、中画像c’はデータサイズが同一であり、小画像a、小画像b、小画像cはデータサイズが同一であるとする。さらに、撮像装置100と端末装置200間のネットワークは、小画像a、小画像b、小画像cを同時に送信することができる常時一定の転送帯域幅であるとする。
上述したように、オリジナル画像は撮像により取得された高画質の画像そのものであり、中画像はオリジナル画像よりもデータサイズが小さい画像データあり、小画像は中画像よりもデータサイズが小さい画像である。以下の本技術の転送処理の説明の図においては、図3と同様に、画像を示す四角形の大きさがデータサイズを示している。
小画像は主に端末装置200において例えばサムネイル表示などに用いられる画像である。サムネイル表示などの用途であるため、高い解像度、画サイズの大きさなどは要求されず、ユーザが見て何が写っているかを認識することができれば十分である。よって、画像の解像度を下げる、画サイズを小さくするなどしてデータサイズを小さくすることができる。
また、中画像はオリジナル画像ほどの高解像度、画サイズの大きさは必要ないが、インターネット上のSNSサイト、写真共有サイトにアップロードする、友人に送る、画像処理に使用するなど用途に用いることができるよう小画像よりもデータサイズが大きい画像である。なお、中画像は、小画像よりもデータサイズが大きく、オリジナル画像よりもデータサイズが小さければデータサイズはどのようなサイズでもよい。
図4において、左から右へ時間軸が進んでいき、上段は撮像装置100と端末装置200間における画像データの転送帯域幅を示しており、下段は転送が完了し、端末装置200で使用可能になった画像データを示している。画像は画像A、画像B、画像Cの順で撮影され、原則その撮影順序に従い転送するものとする。
撮像が行なわれ、オリジナル画像A、オリジナル画像B、オリジナル画像Cが取得され、各画像の中画像および小画像が作成されると、まず小画像a、小画像b、小画像cの撮像装置100から端末装置200への転送が同時に開始される。そして、時刻t1の時点で転送が完了し、端末装置200で小画像a、小画像b、小画像cが使用可能となる。
小画像a、小画像b、小画像cの転送に続いて中画像a’、中画像b’、中画像c’の転送が開始される。撮像装置100と端末装置200間のネットワークの転送帯域幅では複数の中画像を同時に転送することはできないので、中画像a’、中画像b’、中画像c’の順序で転送される。
そうすると、時刻t2で中画像a’の転送が完了して端末装置200で使用可能になる。また、時刻t3で中画像b’の転送が完了して端末装置200で使用可能になる。さらに、時刻t4で中画像c’の転送が完了して端末装置200で使用可能になる。
中画像c’の転送後、オリジナル画像A、オリジナル画像B、オリジナル画像Cの転送が開始される。撮像装置100と端末装置200間のネットワークの転送帯域幅では複数のオリジナル画像を同時に転送することはできないので、オリジナル画像A、オリジナル画像B、オリジナル画像Cの順序で転送される。
そうすると、時刻t5でオリジナル画像Aの転送が完了して端末装置200で使用可能になる。また、時刻t6でオリジナル画像Bの転送が完了して端末装置200で使用可能になる。さらに、時刻t7でオリジナル画像Cの転送が完了して端末装置200で使用可能になる。
ここで、図3の比較例としての従来技術と比較すると、第1の態様における中画像a’、中画像b’、中画像c’はいずれも従来技術のオリジナル画像A、オリジナル画像B、オリジナル画像Cよりも早く端末装置200に転送されて使用可能状態になっている。
よって、小画像は使用に必要十分な品質ではなく使用できないが、オリジナル画像ほどデータサイズが大きい高画質の画像は必要のないという用途においては中画像を用いることにより、従来よりも早く端末装置200での画像の使用が可能になる。
また、中画像の転送完了後にオリジナル画像も端末装置200に転送されるため、オリジナル画像の使用を選択することも可能となる。これにより、画像の選択の幅が広がりユーザの利便性が向上する。
なお、図4に示す撮像装置100と端末装置200間のネットワークの転送帯域幅はあくまで説明の便宜上設定したものであるため、転送帯域幅が十分に大きい場合には例えば、小画像a、小画像b、小画像cと中画像c’を同時に転送してもよい。
[1-4-2.転送の第2の態様]
次に図5を参照して転送の第2の態様について説明する。なお、画像A、画像B、画像C、中画像、小画像の定義は第1の態様と同様である。また、画像は画像A、画像B、画像Cの順で撮影され、原則その撮影順序に従い転送するものとする。また、撮像装置100と端末装置200間のネットワークは、小画像a、小画像b、小画像cを同時に送信することができる常時一定の転送帯域幅であるとする。
第2の態様はオリジナル画像にメタ情報が付加されている場合に、そのメタ情報が付加されているオリジナル画像に対応した中画像を優先して転送する、というものである。これは、メタ情報が付加されている画像はユーザが端末装置200でより早く使用したい画像、またはその可能性が高い画像であると考えられるからである。
メタ情報としては、公知の顔検出技術により得られる顔検出情報、公知の被写体検出情報により得られる被写体検出情報、公知の瞳検出技術により得られる瞳検出情報、公知の色検出情報により得られる色検出情報、ピントが合っているか否かを示すピント情報、ユーザが優先転送すべき画像として特定するために付加するタグ情報、など、画像に関連する情報であればどのような情報でもよい。
図5ではオリジナル画像Cにメタ情報が付加されているものとする。なお、この転送処理を行うには、ユーザが事前に特定のメタ情報が付加されている画像は他の画像に優先して転送すると設定しておく必要がある。
画像Cにメタ情報が付加されている場合、まず中画像c’の転送が開始される。撮像装置100と端末装置200間のネットワークの転送帯域幅では中画像と小画像を同時に転送することはできないので、中画像c’の転送に続いて小画像a、小画像b、小画像cの転送が開始される。画像A、画像Bにはメタ情報が付加されていないため、画像Aと画像Bは第1の態様と同様に小画像、中画像、オリジナル画像の順序で転送される。
そうすると、時刻t1で中画像c’、小画像a、小画像bの転送が完了して端末装置200で使用可能になる。また、時刻t2で小画像cの転送が完了して端末装置200で使用可能になる。
小画像a、小画像b、小画像cの転送後、中画像a’、中画像b’の転送が開始される。撮像装置100と端末装置200間のネットワークの転送帯域幅では複数のオリジナル画像を同時に転送することはできないので、中画像a’、中画像b’の順序で転送される。
そうすると、時刻t3で中画像a’の転送が完了して端末装置200で使用可能になる。また、時刻t4で中画像b’の転送が完了して端末装置200で使用可能になる。
続いてオリジナル画像A、オリジナル画像B、オリジナル画像Cの転送が順次行なわれ、時刻t5でオリジナル画像Aの転送が完了し、時刻t6でオリジナル画像Bの転送が完了し、時刻t7でオリジナル画像Cの転送が完了して端末装置200で使用可能になる。
この第2の態様によれば、メタ情報が付加された画像は他の画像よりも優先して中画像が端末装置200に転送されるため、他の画像よりも早く中画像が端末装置200で使用可能になる。
例えば、顔検出情報をメタ情報として用いる場合、ユーザは撮像装置100で撮像した画像から顔が写っている画像を優先して端末装置200に転送してSNSへのアップロードなどを行うことができる。これにより、近年多くの人が行っているいわゆる自分撮りにより得られた画像のみを効率よくSNSへアップロードする、ということも可能になる。
また、ピント情報をメタ情報とした場合には、撮像装置100により撮像された大量の画像からピントが合っている画像を優先して端末装置200に転送する、ということが可能になる。これにより、ユーザはピントが合っている画像と合っていない画像を確認して選り分けて転送処理を行う必要がないため、撮像および撮像後の画像を用いた作業の効率を高めることができる。
また、画像を連続して撮像しながらバックグラウンドで随時撮像により得られた画像を端末装置200に転送している場合に、ユーザが優先して転送したい画像にタグ情報を付加すると、そのタグ情報が付加された画像を転送中または転送待ち中の他の画像よりも優先して転送する、ということも可能である。例えば、画像撮像後一定期間内に撮像装置100の入力部109に含まれるボタンなどに入力が行われるとその画像にタグ情報が付加される、というようにしてもよい。
[1-4-3.転送の第3の態様]
次に図6を参照して転送の第3の態様について説明する。第3の態様はオリジナル画像にメタ情報が付加されている場合に、そのメタ情報が付加されているオリジナル画像と中画像とを優先して転送する、というものである。図6ではオリジナル画像Cにメタ情報が付加されているものとする。なお、この転送処理を行うには、ユーザが事前に特定のタグ情報が付加されている画像は他の画像に優先して転送すると設定しておく必要がある。なお、撮像装置100と端末装置200間のネットワークは、小画像a、小画像b、小画像cを同時に送信することができる常時一定の転送帯域幅であるとする。
画像Cにメタ情報が付加されている場合、まず優先して中画像c’の転送が開始される。撮像装置100と端末装置200間のネットワークの転送帯域幅では中画像と小画像を同時に転送することはできないので、中画像c’の転送に続いて小画像a、小画像b、小画像cの転送が開始される。画像A、画像Bにはメタ情報が付加されていないため、画像Aと画像Bは第1の態様と同様に小画像、中画像、オリジナル画像の順序で転送される。
そうすると、時刻t1で中画像c’、小画像a、小画像bの転送が完了して端末装置200で使用可能になる。また、時刻t2で小画像cの転送が完了して端末装置200で使用可能になる。
小画像a、小画像b、小画像cの転送後、中画像a’、中画像b’の転送が開始される。撮像装置100と端末装置200間のネットワークの転送帯域幅では複数のオリジナル画像を同時に転送することはできないので、中画像a’、中画像b’の順序で転送される。
そうすると、時刻t3で中画像a’の転送が完了して端末装置200で使用可能になる。また、時刻t4で中画像b’の転送が完了して端末装置200で使用可能になる。
全ての中画像の転送が完了すると続いてメタ情報が付加されているオリジナル画像Cの転送が他のオリジナル画像に優先して開始される。よって、オリジナル画像C、オリジナル画像A、オリジナル画像Bの転送が順次行なわれ、時刻t5でオリジナル画像Cの転送が完了し、時刻t6でオリジナル画像Aの転送が完了し、時刻t7でオリジナル画像Bの転送が完了して端末装置200で使用可能になる。
この第3の態様によれば、メタ情報が付加された画像は他の画像よりも優先して中画像およびオリジナル画像が端末装置200に転送されるため、他の画像よりも早く中画像およびオリジナル画像が端末装置200で使用可能になる。この態様は、例えば、ユーザが自分の顔が写っている画像のオリジナル画像または中画像を優先してSNSにアップロードしたい、友人に送りたい場合、画像処理などに用いたい場合などに有用である。
[1-4-4.転送の第4の態様]
次に図7乃至図11を参照して転送の第4の態様について説明する。第4の態様は画像転送処理中に撮像装置100と端末装置200間のネットワークの帯域幅が変化した場合の態様である。
図7のフローチャートを参照して第4の態様における処理の流れについて説明する。まずステップS11で、転送処理部121は通信制御部111から撮像装置100と端末装置200間のネットワークの転送帯域幅情報を取得する。転送帯域幅情報としては、電界強度(RSSI:Received Signal Strength Indication)、転送モード(802.11b/g/n/acなど)、電界強度と転送モードの複合情報などがある。転送帯域幅情報は画像作成部122に供給される。
次にステップS12で画像作成部122は転送帯域幅情報に基づいて転送ファイル数を決定する。転送ファイル数とは、画像作成部122により作成されるオリジナル画像よりもデータサイズが小さい画像データを数であり、何段階で画像を転送するかに相当するものである。例えば、転送ファイル数が3である場合、オリジナル画像、オリジナル画像よりもデータサイズが小さい中画像、中画像よりもデータサイズが小さい小画像の3段階で画像を転送する。転送ファイル数が2である場合はオリジナル画像と、オリジナル画像よりもデータサイズが小さい画像の2段階で画像を転送する。転送ファイル数が1の場合には、オリジナル画像のみ、またはオリジナル画像よりデータサイズが小さい画像のみを転送する。この場合は、オリジナル画像とデータサイズが小さい画像のどちらを転送するか事前に設定しておくとよい。
ステップS12の転送ファイル数の決定は例えば図8に示す処理により行なわれる。ステップS21で、RSSIが-45dBm以上である場合転送ファイル数を3とする(ステップS22)。転送ファイル数が3である場合、オリジナル画像よりもデータサイズが小さい中画像、中画像よりもデータサイズが小さい小画像が作成される。
また、ステップS21でRSSIが-45dBm以上ではない場合、ステップS23でRSSIが-60dBm以上である場合、転送ファイル数を2とする(ステップS24)。転送ファイル数が2である場合、オリジナル画像よりもデータサイズが小さい画像が作成される。
ステップS23でRSSIが-60dBm以上ではない場合、転送ファイル数は1とする(ステップS25)。転送ファイル数が1であり、オリジナル画像のみを撮像装置100から端末装置200に転送する場合はデータサイズの小さい画像は作成されない。転送ファイル数が1であり、オリジナル画像よりデータサイズが小さい画像のみを転送する場合は、オリジナル画像よりデータサイズが小さい画像が1つ作成される。なお、-60dBm、-45dBmという値およびそれに対応した転送ファイル数はあくまで例示であり、本技術がその値に限定されるものではない。
説明は図7のフローチャートに戻る。ステップS12で転送ファイル数が決定された後、転送ファイル数情報は画像作成部122に供給され、ステップS13で画像作成部122によりオリジナル画像よりデータサイズが小さい画像が作成される。そして、ステップS14で転送処理が行なわれる。この転送処理は上述した転送の第1の態様、第2の態様および第3の態様である。
図9は転送帯域幅が第1の態様で示した状態から大きくなった場合における転送処理を示す図である。図9の例では、図7および図8を参照して説明した処理により転送ファイル数が3となった場合である。
転送帯域幅が大きくなったため、画像転送が開始されると、小画像a、小画像b、小画像cの転送に加え、中画像a’の転送も開始されている。そして、時刻t1の時点で小画像の転送が完了し、端末装置200で小画像a、小画像b、小画像cが使用可能となる。
小画像a、小画像b、小画像cと同時に転送が開始された中画像a’に続いて中画像b’、中画像c’の転送が開始される。そして時刻t2で中画像の転送が完了して端末装置200で使用可能になる。また、時刻t3で中画像b’および中画像c’の転送が完了して端末装置200で使用可能になる。
中画像c’の転送後、オリジナル画像A、オリジナル画像B、オリジナル画像Cの転送が開始される。撮像装置100と端末装置200間のネットワークの転送帯域幅では複数のオリジナル画像を同時に転送することはできないので、オリジナル画像A、オリジナル画像B、オリジナル画像Cの順序で転送される。
そうすると、時刻t4でオリジナル画像Aの転送が完了して端末装置200で使用可能になる。また、時刻t5でオリジナル画像Bの転送が完了して端末装置200で使用可能になる。さらに、時刻t6でオリジナル画像Cの転送が完了して端末装置200で使用可能になる。
この第4の態様によれば、転送帯域幅が変化した場合、それに応じて転送ファイル数を設定することによって、ファイルの転送に要する時間を短縮して効率よく画像を転送することができる。
図10は、転送帯域幅情報に基づいて転送ファイル数を決定し、転送ファイル数が2となった場合である。転送ファイル数を2とした場合、転送帯域幅が大きく、中画像を転送するのに十分な転送帯域幅である場合、図10に示すように中画像とオリジナル画像のみを転送するようにしてもよい。この場合、小画像を転送しないことにより中画像をより優先的に転送することができる。
図11は、転送帯域幅情報に基づいて転送ファイル数を決定し、転送ファイル数が1となった場合である。転送帯域幅が小さく、転送ファイル数を1とした場合、図11に示すように全ての画像について中画像のみを転送するようにしてもよい。この場合、小画像を転送しないことにより中画像をより優先的に転送することができる。なお、転送ファイル数を1とした場合、全ての画像についてオリジナル画像のみを転送してもよい。
なお、転送ファイル数は1乃至3に限られず、それ以上でもよい。例えば転送ファイル数が4の場合には、オリジナル画像、オリジナル画像よりもデータサイズが小さい中画像、中画像よりもデータサイズが小さい小画像、データサイズが中画像以上かつオリジナル画像以下、または、データサイズが小画像以上かつ中画像以下の第2の中画像の4段階で画像を転送する。
転送帯域幅は撮像装置100、端末装置200間の距離、同じ通信帯域を使用している他の装置の影響、撮像装置100と端末装置200を接続するために用いているネットワークにアクセスしている他の装置の数、ユーザが通信用アンテナに触れるなど様々な外的要因により変化する。
以上のようにして本技術における第1乃至第4の転送処理が行なわれる。第1乃至第4の転送の態様のいずれにおいても、最終的に端末装置200へのオリジナル画像の転送が完了すると、先に端末装置200に転送されている小画像、中画像は端末装置200に残していてもよいし、自動的に消去してもよい。小画像、中画像を端末装置200に残す場合、小画像、中画像およびオリジナル画像をグルーピングし、他の画像と共に一覧表示する場合は小画像を用い、SNSなどへのアップロードなどには中画像またはオリジナル画像を使用する、としてもよい。また、端末装置200への転送完了後、全ての画像を端末装置200からインターネットを介してクラウドにアップロードしてもよい。クラウドとはコンピュータの利用形態の1つであり、クラウドサービス提供会社のサーバに構築される。必要な処理は基本的に全てサーバ側で行われる。ユーザはデータを自分のパソコン、スマートフォン、携帯電話機などではなく、インターネット上のサーバに保存する。よって、自宅、会社、ネットカフェ、学校、外出先など、さまざまな環境においてもサービスの利用、データを閲覧、編集、アップロードなどを行うことができる。
<2.応用例>
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、手術室システムに適用されてもよい。
図12は、本開示に係る技術が適用され得る手術室システム5100の全体構成を概略的に示す図である。図12を参照すると、手術室システム5100は、手術室内に設置される装置群が視聴覚コントローラ(AV Controller)5107及び手術室制御装置5109を介して互いに連携可能に接続されることにより構成される。
手術室には、様々な装置が設置され得る。図12では、一例として、内視鏡下手術のための各種の装置群5101と、手術室の天井に設けられ術者の手元を撮像するシーリングカメラ5187と、手術室の天井に設けられ手術室全体の様子を撮像する術場カメラ5189と、複数の表示装置5103A~5103Dと、レコーダ5105と、患者ベッド5183と、照明5191と、を図示している。
ここで、これらの装置のうち、装置群5101は、後述する内視鏡手術システム5113に属するものであり、内視鏡や当該内視鏡によって撮像された画像を表示する表示装置等からなる。内視鏡手術システム5113に属する各装置は医療用機器とも呼称される。一方、表示装置5103A~5103D、レコーダ5105、患者ベッド5183及び照明5191は、内視鏡手術システム5113とは別個に、例えば手術室に備え付けられている装置である。これらの内視鏡手術システム5113に属さない各装置は非医療用機器とも呼称される。視聴覚コントローラ5107及び/又は手術室制御装置5109は、これら医療機器及び非医療機器の動作を互いに連携して制御する。
視聴覚コントローラ5107は、医療機器及び非医療機器における画像表示に関する処理を、統括的に制御する。具体的には、手術室システム5100が備える装置のうち、装置群5101、シーリングカメラ5187及び術場カメラ5189は、手術中に表示すべき情報(以下、表示情報ともいう)を発信する機能を有する装置(以下、発信元の装置とも呼称する)であり得る。また、表示装置5103A~5103Dは、表示情報が出力される装置(以下、出力先の装置とも呼称する)であり得る。また、レコーダ5105は、発信元の装置及び出力先の装置の双方に該当する装置であり得る。視聴覚コントローラ5107は、発信元の装置及び出力先の装置の動作を制御し、発信元の装置から表示情報を取得するとともに、当該表示情報を出力先の装置に送信し、表示又は記録させる機能を有する。なお、表示情報とは、手術中に撮像された各種の画像や、手術に関する各種の情報(例えば、患者の身体情報や、過去の検査結果、術式についての情報等)等である。
具体的には、視聴覚コントローラ5107には、装置群5101から、表示情報として、内視鏡によって撮像された患者の体腔内の術部の画像についての情報が送信され得る。また、シーリングカメラ5187から、表示情報として、当該シーリングカメラ5187によって撮像された術者の手元の画像についての情報が送信され得る。また、術場カメラ5189から、表示情報として、当該術場カメラ5189によって撮像された手術室全体の様子を示す画像についての情報が送信され得る。なお、手術室システム5100に撮像機能を有する他の装置が存在する場合には、視聴覚コントローラ5107は、表示情報として、当該他の装置からも当該他の装置によって撮像された画像についての情報を取得してもよい。
あるいは、例えば、レコーダ5105には、過去に撮像されたこれらの画像についての情報が視聴覚コントローラ5107によって記録されている。視聴覚コントローラ5107は、表示情報として、レコーダ5105から当該過去に撮像された画像についての情報を取得することができる。なお、レコーダ5105には、手術に関する各種の情報も事前に記録されていてもよい。
視聴覚コントローラ5107は、出力先の装置である表示装置5103A~5103Dの少なくともいずれかに、取得した表示情報(すなわち、手術中に撮像された画像や、手術に関する各種の情報)を表示させる。図示する例では、表示装置5103Aは手術室の天井から吊り下げられて設置される表示装置であり、表示装置5103Bは手術室の壁面に設置される表示装置であり、表示装置5103Cは手術室内の机上に設置される表示装置であり、表示装置5103Dは表示機能を有するモバイル機器(例えば、タブレットPC(Personal Computer))である。
また、図12では図示を省略しているが、手術室システム5100には、手術室の外部の装置が含まれてもよい。手術室の外部の装置は、例えば、病院内外に構築されたネットワークに接続されるサーバや、医療スタッフが用いるPC、病院の会議室に設置されるプロジェクタ等であり得る。このような外部装置が病院外にある場合には、視聴覚コントローラ5107は、遠隔医療のために、テレビ会議システム等を介して、他の病院の表示装置に表示情報を表示させることもできる。
手術室制御装置5109は、非医療機器における画像表示に関する処理以外の処理を、統括的に制御する。例えば、手術室制御装置5109は、患者ベッド5183、シーリングカメラ5187、術場カメラ5189及び照明5191の駆動を制御する。
手術室システム5100には、集中操作パネル5111が設けられており、ユーザは、当該集中操作パネル5111を介して、視聴覚コントローラ5107に対して画像表示についての指示を与えたり、手術室制御装置5109に対して非医療機器の動作についての指示を与えることができる。集中操作パネル5111は、表示装置の表示面上にタッチパネルが設けられて構成される。
図13は、集中操作パネル5111における操作画面の表示例を示す図である。図13では、一例として、手術室システム5100に、出力先の装置として、2つの表示装置が設けられている場合に対応する操作画面を示している。図13を参照すると、操作画面5193には、発信元選択領域5195と、プレビュー領域5197と、コントロール領域5201と、が設けられる。
発信元選択領域5195には、手術室システム5100に備えられる発信元装置と、当該発信元装置が有する表示情報を表すサムネイル画面と、が紐付けられて表示される。ユーザは、表示装置に表示させたい表示情報を、発信元選択領域5195に表示されているいずれかの発信元装置から選択することができる。
プレビュー領域5197には、出力先の装置である2つの表示装置(Monitor1、Monitor2)に表示される画面のプレビューが表示される。図示する例では、1つの表示装置において4つの画像がPinP表示されている。当該4つの画像は、発信元選択領域5195において選択された発信元装置から発信された表示情報に対応するものである。4つの画像のうち、1つはメイン画像として比較的大きく表示され、残りの3つはサブ画像として比較的小さく表示される。ユーザは、4つの画像が表示された領域を適宜選択することにより、メイン画像とサブ画像を入れ替えることができる。また、4つの画像が表示される領域の下部には、ステータス表示領域5199が設けられており、当該領域に手術に関するステータス(例えば、手術の経過時間や、患者の身体情報等)が適宜表示され得る。
コントロール領域5201には、発信元の装置に対して操作を行うためのGUI(Graphical User Interface)部品が表示される発信元操作領域5203と、出力先の装置に対して操作を行うためのGUI部品が表示される出力先操作領域5205と、が設けられる。図示する例では、発信元操作領域5203には、撮像機能を有する発信元の装置におけるカメラに対して各種の操作(パン、チルト及びズーム)を行うためのGUI部品が設けられている。ユーザは、これらのGUI部品を適宜選択することにより、発信元の装置におけるカメラの動作を操作することができる。なお、図示は省略しているが、発信元選択領域5195において選択されている発信元の装置がレコーダである場合(すなわち、プレビュー領域5197において、レコーダに過去に記録された画像が表示されている場合)には、発信元操作領域5203には、当該画像の再生、再生停止、巻き戻し、早送り等の操作を行うためのGUI部品が設けられ得る。
また、出力先操作領域5205には、出力先の装置である表示装置における表示に対する各種の操作(スワップ、フリップ、色調整、コントラスト調整、2D表示と3D表示の切り替え)を行うためのGUI部品が設けられている。ユーザは、これらのGUI部品を適宜選択することにより、表示装置における表示を操作することができる。
なお、集中操作パネル5111に表示される操作画面は図示する例に限定されず、ユーザは、集中操作パネル5111を介して、手術室システム5100に備えられる、視聴覚コントローラ5107及び手術室制御装置5109によって制御され得る各装置に対する操作入力が可能であってよい。
図14は、以上説明した手術室システムが適用された手術の様子の一例を示す図である。シーリングカメラ5187及び術場カメラ5189は、手術室の天井に設けられ、患者ベッド5183上の患者5185の患部に対して処置を行う術者(医者)5181の手元及び手術室全体の様子を撮像可能である。シーリングカメラ5187及び術場カメラ5189には、倍率調整機能、焦点距離調整機能、撮像方向調整機能等が設けられ得る。照明5191は、手術室の天井に設けられ、少なくとも術者5181の手元を照射する。照明5191は、その照射光量、照射光の波長(色)及び光の照射方向等を適宜調整可能であってよい。
内視鏡手術システム5113、患者ベッド5183、シーリングカメラ5187、術場カメラ5189及び照明5191は、図12に示すように、視聴覚コントローラ5107及び手術室制御装置5109(図14では図示せず)を介して互いに連携可能に接続されている。手術室内には、集中操作パネル5111が設けられており、上述したように、ユーザは、当該集中操作パネル5111を介して、手術室内に存在するこれらの装置を適宜操作することが可能である。
以下、内視鏡手術システム5113の構成について詳細に説明する。図示するように、内視鏡手術システム5113は、内視鏡5115と、その他の術具5131と、内視鏡5115を支持する支持アーム装置5141と、内視鏡下手術のための各種の装置が搭載されたカート5151と、から構成される。
内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ5139a~5139dと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ5139a~5139dから、内視鏡5115の鏡筒5117や、その他の術具5131が患者5185の体腔内に挿入される。図示する例では、その他の術具5131として、気腹チューブ5133、エネルギー処置具5135及び鉗子5137が、患者5185の体腔内に挿入されている。また、エネルギー処置具5135は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具5131はあくまで一例であり、術具5131としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
内視鏡5115によって撮像された患者5185の体腔内の術部の画像が、表示装置5155に表示される。術者5181は、表示装置5155に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具5135や鉗子5137を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ5133、エネルギー処置具5135及び鉗子5137は、手術中に、術者5181又は助手等によって支持される。
(支持アーム装置)
支持アーム装置5141は、ベース部5143から延伸するアーム部5145を備える。図示する例では、アーム部5145は、関節部5147a、5147b、5147c、及びリンク5149a、5149bから構成されており、アーム制御装置5159からの制御により駆動される。アーム部5145によって内視鏡5115が支持され、その位置及び姿勢が制御される。これにより、内視鏡5115の安定的な位置の固定が実現され得る。
(内視鏡)
内視鏡5115は、先端から所定の長さの領域が患者5185の体腔内に挿入される鏡筒5117と、鏡筒5117の基端に接続されるカメラヘッド5119と、から構成される。図示する例では、硬性の鏡筒5117を有するいわゆる硬性鏡として構成される内視鏡5115を図示しているが、内視鏡5115は、軟性の鏡筒5117を有するいわゆる軟性鏡として構成されてもよい。
鏡筒5117の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡5115には光源装置5157が接続されており、当該光源装置5157によって生成された光が、鏡筒5117の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者5185の体腔内の観察対象に向かって照射される。なお、内視鏡5115は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド5119の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU:Camera Control Unit)5153に送信される。なお、カメラヘッド5119には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
なお、例えば立体視(3D表示)等に対応するために、カメラヘッド5119には撮像素子が複数設けられてもよい。この場合、鏡筒5117の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
(カートに搭載される各種の装置)
CCU5153は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡5115及び表示装置5155の動作を統括的に制御する。具体的には、CCU5153は、カメラヘッド5119から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU5153は、当該画像処理を施した画像信号を表示装置5155に提供する。また、CCU5153には、図12に示す視聴覚コントローラ5107が接続される。CCU5153は、画像処理を施した画像信号を視聴覚コントローラ5107にも提供する。また、CCU5153は、カメラヘッド5119に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。当該撮像条件に関する情報は、入力装置5161を介して入力されてもよいし、上述した集中操作パネル5111を介して入力されてもよい。
表示装置5155は、CCU5153からの制御により、当該CCU5153によって画像処理が施された画像信号に基づく画像を表示する。内視鏡5115が例えば4K(水平画素数3840×垂直画素数2160)又は8K(水平画素数7680×垂直画素数4320)等の高解像度の撮像に対応したものである場合、及び/又は3D表示に対応したものである場合には、表示装置5155としては、それぞれに対応して、高解像度の表示が可能なもの、及び/又は3D表示可能なものが用いられ得る。4K又は8K等の高解像度の撮像に対応したものである場合、表示装置5155として55インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置5155が設けられてもよい。
光源装置5157は、例えばLED(light emitting diode)等の光源から構成され、術部を撮像する際の照射光を内視鏡5115に供給する。
アーム制御装置5159は、例えばCPU等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置5141のアーム部5145の駆動を制御する。
入力装置5161は、内視鏡手術システム5113に対する入力インタフェースである。ユーザは、入力装置5161を介して、内視鏡手術システム5113に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置5161を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置5161を介して、アーム部5145を駆動させる旨の指示や、内視鏡5115による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示、エネルギー処置具5135を駆動させる旨の指示等を入力する。
入力装置5161の種類は限定されず、入力装置5161は各種の公知の入力装置であってよい。入力装置5161としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ5171及び/又はレバー等が適用され得る。入力装置5161としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置5155の表示面上に設けられてもよい。
あるいは、入力装置5161は、例えばメガネ型のウェアラブルデバイスやHMD(Head Mounted Display)等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置5161は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置5161は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置5161が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ(例えば術者5181)が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
処置具制御装置5163は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具5135の駆動を制御する。気腹装置5165は、内視鏡5115による視野の確保及び術者の作業空間の確保の目的で、患者5185の体腔を膨らめるために、気腹チューブ5133を介して当該体腔内にガスを送り込む。レコーダ5167は、手術に関する各種の情報を記録可能な装置である。プリンタ5169は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
以下、内視鏡手術システム5113において特に特徴的な構成について、更に詳細に説明する。
(支持アーム装置)
支持アーム装置5141は、基台であるベース部5143と、ベース部5143から延伸するアーム部5145と、を備える。図示する例では、アーム部5145は、複数の関節部5147a、5147b、5147cと、関節部5147bによって連結される複数のリンク5149a、5149bと、から構成されているが、図14では、簡単のため、アーム部5145の構成を簡略化して図示している。実際には、アーム部5145が所望の自由度を有するように、関節部5147a~5147c及びリンク5149a、5149bの形状、数及び配置、並びに関節部5147a~5147cの回転軸の方向等が適宜設定され得る。例えば、アーム部5145は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部5145の可動範囲内において内視鏡5115を自由に移動させることが可能になるため、所望の方向から内視鏡5115の鏡筒5117を患者5185の体腔内に挿入することが可能になる。
関節部5147a~5147cにはアクチュエータが設けられており、関節部5147a~5147cは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置5159によって制御されることにより、各関節部5147a~5147cの回転角度が制御され、アーム部5145の駆動が制御される。これにより、内視鏡5115の位置及び姿勢の制御が実現され得る。この際、アーム制御装置5159は、力制御又は位置制御等、各種の公知の制御方式によってアーム部5145の駆動を制御することができる。
例えば、術者5181が、入力装置5161(フットスイッチ5171を含む)を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置5159によってアーム部5145の駆動が適宜制御され、内視鏡5115の位置及び姿勢が制御されてよい。当該制御により、アーム部5145の先端の内視鏡5115を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部5145は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部5145は、手術室から離れた場所に設置される入力装置5161を介してユーザによって遠隔操作され得る。
また、力制御が適用される場合には、アーム制御装置5159は、ユーザからの外力を受け、その外力にならってスムーズにアーム部5145が移動するように、各関節部5147a~5147cのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部5145に触れながらアーム部5145を移動させる際に、比較的軽い力で当該アーム部5145を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡5115を移動させることが可能となり、ユーザの利便性を向上させることができる。
ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡5115が支持されていた。これに対して、支持アーム装置5141を用いることにより、人手によらずに内視鏡5115の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
なお、アーム制御装置5159は必ずしもカート5151に設けられなくてもよい。また、アーム制御装置5159は必ずしも1つの装置でなくてもよい。例えば、アーム制御装置5159は、支持アーム装置5141のアーム部5145の各関節部5147a~5147cにそれぞれ設けられてもよく、複数のアーム制御装置5159が互いに協働することにより、アーム部5145の駆動制御が実現されてもよい。
(光源装置)
光源装置5157は、内視鏡5115に術部を撮像する際の照射光を供給する。光源装置5157は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置5157において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド5119の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置5157は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド5119の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置5157は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮像する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置5157は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
(カメラヘッド及びCCU)
図15を参照して、内視鏡5115のカメラヘッド5119及びCCU5153の機能についてより詳細に説明する。図15は、図14に示すカメラヘッド5119及びCCU5153の機能構成の一例を示すブロック図である。
図15を参照すると、カメラヘッド5119は、その機能として、レンズユニット5121と、撮像部5123と、駆動部5125と、通信部5127と、カメラヘッド制御部5129と、を有する。また、CCU5153は、その機能として、通信部5173と、画像処理部5175と、制御部5177と、を有する。カメラヘッド5119とCCU5153とは、伝送ケーブル5179によって双方向に通信可能に接続されている。
まず、カメラヘッド5119の機能構成について説明する。レンズユニット5121は、鏡筒5117との接続部に設けられる光学系である。鏡筒5117の先端から取り込まれた観察光は、カメラヘッド5119まで導光され、当該レンズユニット5121に入射する。レンズユニット5121は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット5121は、撮像部5123の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
撮像部5123は撮像素子によって構成され、レンズユニット5121の後段に配置される。レンズユニット5121を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部5123によって生成された画像信号は、通信部5127に提供される。
撮像部5123を構成する撮像素子としては、例えばCMOS(Complementary Metal Oxide Semiconductor)タイプのイメージセンサであり、Bayer配列を有するカラー撮像可能なものが用いられる。なお、当該撮像素子としては、例えば4K以上の高解像度の画像の撮像に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者5181は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
また、撮像部5123を構成する撮像素子は、3D表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成される。3D表示が行われることにより、術者5181は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部5123が多板式で構成される場合には、各撮像素子に対応して、レンズユニット5121も複数系統設けられる。
また、撮像部5123は、必ずしもカメラヘッド5119に設けられなくてもよい。例えば、撮像部5123は、鏡筒5117の内部に、対物レンズの直後に設けられてもよい。
駆動部5125は、アクチュエータによって構成され、カメラヘッド制御部5129からの制御により、レンズユニット5121のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部5123による撮像画像の倍率及び焦点が適宜調整され得る。
通信部5127は、CCU5153との間で各種の情報を送受信するための通信装置によって構成される。通信部5127は、撮像部5123から得た画像信号をRAWデータとして伝送ケーブル5179を介してCCU5153に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者5181が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部5127には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル5179を介してCCU5153に送信される。
また、通信部5127は、CCU5153から、カメラヘッド5119の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部5127は、受信した制御信号をカメラヘッド制御部5129に提供する。なお、CCU5153からの制御信号も、光通信によって伝送されてもよい。この場合、通信部5127には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部5129に提供される。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてCCU5153の制御部5177によって自動的に設定される。つまり、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が内視鏡5115に搭載される。
カメラヘッド制御部5129は、通信部5127を介して受信したCCU5153からの制御信号に基づいて、カメラヘッド5119の駆動を制御する。例えば、カメラヘッド制御部5129は、撮像画像のフレームレートを指定する旨の情報及び/又は撮像時の露光を指定する旨の情報に基づいて、撮像部5123の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部5129は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部5125を介してレンズユニット5121のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部5129は、更に、鏡筒5117やカメラヘッド5119を識別するための情報を記憶する機能を備えてもよい。
なお、レンズユニット5121や撮像部5123等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド5119について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
次に、CCU5153の機能構成について説明する。通信部5173は、カメラヘッド5119との間で各種の情報を送受信するための通信装置によって構成される。通信部5173は、カメラヘッド5119から、伝送ケーブル5179を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部5173には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部5173は、電気信号に変換した画像信号を画像処理部5175に提供する。
また、通信部5173は、カメラヘッド5119に対して、カメラヘッド5119の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
画像処理部5175は、カメラヘッド5119から送信されたRAWデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/又は手ブレ補正処理等)、並びに/又は拡大処理(電子ズーム処理)等、各種の公知の信号処理が含まれる。また、画像処理部5175は、AE、AF及びAWBを行うための、画像信号に対する検波処理を行う。
画像処理部5175は、CPUやGPU等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部5175が複数のGPUによって構成される場合には、画像処理部5175は、画像信号に係る情報を適宜分割し、これら複数のGPUによって並列的に画像処理を行う。
制御部5177は、内視鏡5115による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部5177は、カメラヘッド5119の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部5177は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡5115にAE機能、AF機能及びAWB機能が搭載されている場合には、制御部5177は、画像処理部5175による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
また、制御部5177は、画像処理部5175によって画像処理が施された画像信号に基づいて、術部の画像を表示装置5155に表示させる。この際、制御部5177は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部5177は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具5135使用時のミスト等を認識することができる。制御部5177は、表示装置5155に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者5181に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
カメラヘッド5119及びCCU5153を接続する伝送ケーブル5179は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル5179を用いて有線で通信が行われていたが、カメラヘッド5119とCCU5153との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル5179を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル5179によって妨げられる事態が解消され得る。
以上、本開示に係る技術が適用され得る手術室システム5100の一例について説明した。なお、ここでは、一例として手術室システム5100が適用される医療用システムが内視鏡手術システム5113である場合について説明したが、手術室システム5100の構成はかかる例に限定されない。例えば、手術室システム5100は、内視鏡手術システム5113に代えて、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
本開示に係る技術は、以上説明した応用例のうち、手術中において撮像された患部の画像を別室のパーソナルコンピュータ、タブレット端末、モニターなどに転送することに利用できる。患部の状態を画像で確認できればよいため、高解像度であるがデータサイズが大きいオリジナル画像は必要なく、小画像、中画像を用いて画像転送を早く行えば手術、研究などの効率を高めることができる。
医療目的以外にも例えば、モデルなどの被写体の撮影において、撮像により得られた画像を随時パーソナルコンピュータ、タブレット端末に転送してカメラマン以外のスタッフが確認する、という用途にも利用できる。撮影時において構図、被写体の状態などを確認できればよいため、高解像度であるがデータサイズが大きいオリジナル画像は必要なく、小画像、中画像を用いて画像転送を早く行えば撮影の効率を高めることができる。
<3.変形例>
以上、本技術の実施の形態について具体的に説明したが、本技術は上述の実施の形態に限定されるものではなく、本技術の技術的思想に基づく各種の変形が可能である。
本技術は実施の形態で説明したような画像に限られず、動画、音声データなどコンテンツデータであればあらゆるものに適用することができる。コンテンツが動画である場合、解像度を下げる、画サイズを小さくする、の他に、フレームレートを下げる、ビットレートを下げる、動画を構成するフレーム画像を間引くなどの方法によってもデータサイズを小さくすることができる。また、コンテンツデータが音声データである場合、ビットレートを下げる、MP3(MPEG-1 Audio Layer-3)などの圧縮音源にするなどの方法によってもデータサイズを小さくすることができる。
小画像はサムネイル表示に用いられるものに限られない。オリジナル画像および中画像よりデータサイズが小さいものであればどのような用途に用いてもよい。また、中画像はSNSへのアップ、友人に送る、印刷する、画像加工などの用途に限られない。データサイズがオリジナル画像より小さいものであればどのような用途に用いてもよい。
第1の装置はデジタルカメラ、一眼レフカメラなどの撮像装置に限られず、スマートフォン、ボイスレコーダー、カメラ機能および/または録音機能を備える携帯ゲーム機、ウェアラブル端末などコンテンツを作成する装置であればどのようなものでもよい。また第2の装置は、第1の装置が作成したコンテンツをインターネットにアップロードする、所定の処理を施すなどを行うことができればどのような装置でもよい。
本技術は以下のような構成も取ることができる。
(1)
オリジナルコンテンツに基づき、少なくとも、前記オリジナルコンテンツよりもデータサイズが小さい第1のコンテンツと、該第1のコンテンツよりもデータサイズが小さい第2のコンテンツとを作成し、前記オリジナルコンテンツと、前記第1のコンテンツおよび/または前記第2のコンテンツを転送する処理を行う
情報処理装置。
(2)
前記第2のコンテンツの転送後に前記第1のコンテンツを転送する(1)に記載の情報処理装置。
(3)
前記第1のコンテンツおよび前記第2のコンテンツの転送後に前記オリジナルコンテンツを転送する(2)に記載の情報処理装置。
(4)
前記オリジナルコンテンツにメタ情報が付加されている場合、前記第2のコンテンツより先に前記第1のコンテンツを転送する(1)から(3)のいずれかに記載の情報処理装置。
(5)
前記第1のコンテンツおよび前記第2のコンテンツの転送後、前記オリジナルコンテンツ以外の他のオリジナルコンテンツに優先して前記メタ情報が付加されている前記オリジナルコンテンツを転送する(4)に記載の情報処理装置。
(6)
前記コンテンツは画像であり、前記メタ情報は顔検出情報である(4)に記載の情報処理装置。
(7)
前記コンテンツは画像であり、前記メタ情報は被写体検出情報である(4)に記載の情報処理装置。
(8)
前記メタ情報は、ユーザが前記オリジナルコンテンツに付加したタグ情報である(4)に記載の情報処理装置。
(9)
前記オリジナルコンテンツを作成または取得する第1の装置と、1または複数の第2の装置間における転送処理を行う(1)から(8)のいずれかに記載の情報処理装置。
(10)
前記第1の装置と前記第2の装置間の転送帯域幅が所定値以上となった場合、前記オリジナルコンテンツおよび前記第1のコンテンツを転送する処理を行う(9)に記載の情報処理装置。
(11)
前記第1の装置と前記第2の装置間の転送帯域幅が所定値以下となった場合、前記第1のコンテンツを転送する処理を行う(9)に記載の情報処理装置。
(12)
前記コンテンツは撮像装置により撮像された画像である(1)から(11)のいずれかに記載の情報処理装置。
(13)
前記オリジナルコンテンツより解像度を下げることにより前記第1のコンテンツと前記第2のコンテンツのデータサイズを小さくする(1)から(12)のいずれかに記載の情報処理装置。
(14)
前記オリジナルコンテンツより画サイズを小さくすることにより前記第1のコンテンツと前記第2のコンテンツのデータサイズを小さくする(1)から(13)のいずれかに記載の情報処理装置。
(15)
前記第1の装置は前記オリジナルコンテンツとしてのオリジナル画像を撮像により取得する撮像装置であり、
前記第2の装置はインターネットに接続可能な端末装置である(9)に記載の情報処理装置。
(16)
オリジナルコンテンツに基づき、少なくとも、前記オリジナルコンテンツよりもデータサイズが小さい第1のコンテンツと、該第1のコンテンツよりもデータサイズが小さい第2のコンテンツとを作成し、前記オリジナルコンテンツと、前記第1のコンテンツおよび/または前記第2のコンテンツを転送する処理を行う
情報処理方法。
(17)
オリジナルコンテンツに基づき、少なくとも、前記オリジナルコンテンツよりもデータサイズが小さい第1のコンテンツと、該第1のコンテンツよりもデータサイズが小さい第2のコンテンツとを作成し、前記オリジナルコンテンツと、前記第1のコンテンツおよび/または前記第2のコンテンツを転送する処理を行う情報処理方法をコンピュータに実行させる
情報処理プログラム。
100・・・撮像装置
200・・・端末装置
120・・・情報処理部

Claims (20)

  1. オリジナルコンテンツに基づき、少なくとも、前記オリジナルコンテンツよりもデータサイズが小さい第1のコンテンツと、前記第1のコンテンツよりもデータサイズが小さい第2のコンテンツとを作成し、前記オリジナルコンテンツと、前記第1のコンテンツと前記第2のコンテンツの両方またはいずれか一方を転送する処理を行い、
    前記オリジナルコンテンツにメタ情報が付加されているか否かに基づいて前記第1のコンテンツと前記第2のコンテンツの転送順を決定する
    情報処理装置。
  2. 前記第2のコンテンツの転送後に前記第1のコンテンツを転送する
    請求項1に記載の情報処理装置。
  3. 前記第1のコンテンツおよび前記第2のコンテンツの転送後に前記オリジナルコンテンツを転送する
    請求項2に記載の情報処理装置。
  4. 前記オリジナルコンテンツにメタ情報が付加されている場合、前記第2のコンテンツより先に前記第1のコンテンツを転送する
    請求項1に記載の情報処理装置。
  5. 前記第1のコンテンツおよび前記第2のコンテンツの転送後、前記オリジナルコンテンツ以外の他のオリジナルコンテンツに優先して前記メタ情報が付加されている前記オリジナルコンテンツを転送する
    請求項4に記載の情報処理装置。
  6. 前記オリジナルコンテンツは画像であり、前記メタ情報は顔検出情報である
    請求項4に記載の情報処理装置。
  7. 前記オリジナルコンテンツは画像であり、前記メタ情報は被写体検出情報である
    請求項4に記載の情報処理装置。
  8. 前記メタ情報は、ユーザが前記オリジナルコンテンツに付加したタグ情報である
    請求項4に記載の情報処理装置。
  9. 前記オリジナルコンテンツを作成または取得する第1の装置と、1または複数の第2の装置間における転送処理を行う
    請求項1に記載の情報処理装置。
  10. 前記第1の装置と前記第2の装置間の転送帯域幅が所定値以上となった場合、前記オリジナルコンテンツおよび前記第1のコンテンツを転送する処理を行う
    請求項9に記載の情報処理装置。
  11. 前記第1の装置と前記第2の装置間の転送帯域幅が所定値以下となった場合、前記第1のコンテンツを転送する処理を行う
    請求項9に記載の情報処理装置。
  12. 前記オリジナルコンテンツは撮像装置により撮像された画像である
    請求項1に記載の情報処理装置。
  13. 前記オリジナルコンテンツより解像度を下げることにより前記第1のコンテンツと前記第2のコンテンツのデータサイズを小さくする
    請求項1に記載の情報処理装置。
  14. 前記オリジナルコンテンツより画サイズを小さくすることにより前記第1のコンテンツと前記第2のコンテンツのデータサイズを小さくする
    請求項1に記載の情報処理装置。
  15. 前記第1の装置は前記オリジナルコンテンツとしてのオリジナル画像を撮像により取得する撮像装置であり、
    前記第2の装置はインターネットに接続可能な端末装置である
    請求項9に記載の情報処理装置。
  16. オリジナルコンテンツに基づき、少なくとも、前記オリジナルコンテンツよりもデータサイズが小さい第1のコンテンツと、前記第1のコンテンツよりもデータサイズが小さい第2のコンテンツとを作成し、前記オリジナルコンテンツと、前記第1のコンテンツと前記第2のコンテンツの両方またはいずれか一方を転送する処理を行い、
    前記オリジナルコンテンツにメタ情報が付加されているか否かに基づいて前記第1のコンテンツと前記第2のコンテンツの転送順を決定する
    情報処理方法。
  17. オリジナルコンテンツに基づき、少なくとも、前記オリジナルコンテンツよりもデータサイズが小さい第1のコンテンツと、前記第1のコンテンツよりもデータサイズが小さい第2のコンテンツとを作成し、前記オリジナルコンテンツと、前記第1のコンテンツと前記第2のコンテンツの両方またはいずれか一方を転送する処理を行い、
    前記オリジナルコンテンツにメタ情報が付加されているか否かに基づいて前記第1のコンテンツと前記第2のコンテンツの転送順を決定する
    情報処理方法をコンピュータに実行させる情報処理プログラム。
  18. オリジナルコンテンツに基づき、少なくとも、前記オリジナルコンテンツよりもデータサイズが小さい第1のコンテンツと、前記第1のコンテンツよりもデータサイズが小さい第2のコンテンツとを作成し、前記オリジナルコンテンツと、前記第1のコンテンツと前記第2のコンテンツの両方またはいずれか一方を転送する処理を行い、
    転送帯域幅が所定値以上であるか否かに基づいて転送するコンテンツを決定する
    情報処理装置。
  19. オリジナルコンテンツに基づき、少なくとも、前記オリジナルコンテンツよりもデータサイズが小さい第1のコンテンツと、前記第1のコンテンツよりもデータサイズが小さい第2のコンテンツとを作成し、前記オリジナルコンテンツと、前記第1のコンテンツと前記第2のコンテンツの両方またはいずれか一方を転送する処理を行い、
    転送帯域幅が所定値以上であるか否かに基づいて転送するコンテンツを決定する
    情報処理方法。
  20. オリジナルコンテンツに基づき、少なくとも、前記オリジナルコンテンツよりもデータサイズが小さい第1のコンテンツと、前記第1のコンテンツよりもデータサイズが小さい第2のコンテンツとを作成し、前記オリジナルコンテンツと、前記第1のコンテンツと前記第2のコンテンツの両方またはいずれか一方を転送する処理を行い、
    転送帯域幅が所定値以上であるか否かに基づいて転送するコンテンツを決定する
    情報処理方法をコンピュータに実行させる情報処理プログラム。
JP2019519584A 2017-05-23 2018-05-15 情報処理装置、情報処理方法および情報処理プログラム Active JP7136093B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017101633 2017-05-23
JP2017101633 2017-05-23
PCT/JP2018/018649 WO2018216538A1 (ja) 2017-05-23 2018-05-15 情報処理装置、情報処理方法および情報処理プログラム

Publications (2)

Publication Number Publication Date
JPWO2018216538A1 JPWO2018216538A1 (ja) 2020-03-26
JP7136093B2 true JP7136093B2 (ja) 2022-09-13

Family

ID=64396730

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019519584A Active JP7136093B2 (ja) 2017-05-23 2018-05-15 情報処理装置、情報処理方法および情報処理プログラム

Country Status (4)

Country Link
US (1) US11375153B2 (ja)
EP (1) EP3633518B1 (ja)
JP (1) JP7136093B2 (ja)
WO (1) WO2018216538A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11508180B2 (en) 2020-07-29 2022-11-22 Fingerprint Cards Anacatum Ip Ab Adaptive readout from a global shutter optical biometric sensor
WO2022025812A1 (en) 2020-07-29 2022-02-03 Fingerprint Cards Anacatum Ip Ab Adaptive readout from an optical biometric sensor to a host device

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003289502A (ja) 2002-02-22 2003-10-10 Hewlett Packard Co <Hp> 画像取り込み装置および方法
JP2006080860A (ja) 2004-09-09 2006-03-23 Canon Inc カメラ及びカメラ画像転送システム
JP2006173854A (ja) 2004-12-14 2006-06-29 Konica Minolta Photo Imaging Inc 画像表示装置、画像表示プログラム、および撮像装置
JP2011114761A (ja) 2009-11-30 2011-06-09 Nikon Corp 画像処理装置及び画像処理プログラム
JP2013201704A (ja) 2012-03-26 2013-10-03 Nikon Corp 画像転送装置、画像転送プログラム及び画像転送方法
JP2015231103A (ja) 2014-06-04 2015-12-21 株式会社ソニー・コンピュータエンタテインメント 画像処理装置、画像処理システム、撮像装置、および画像処理方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS4914378B1 (ja) 1969-07-09 1974-04-06
US6137534A (en) * 1997-07-10 2000-10-24 Flashpoint Technology, Inc. Method and apparatus for providing live view and instant review in an image capture device
US7602424B2 (en) * 1998-07-23 2009-10-13 Scenera Technologies, Llc Method and apparatus for automatically categorizing images in a digital camera
US20020065844A1 (en) * 2000-11-30 2002-05-30 Rich Robinson Metadata internet platform for enabling customization of tags in digital images
JP4504260B2 (ja) 2005-06-22 2010-07-14 株式会社エヌ・ティ・ティ・ドコモ 電子メール配信サーバ装置及び電子メール配信方法
US7703012B2 (en) 2005-12-13 2010-04-20 Cbs Interactive, Inc. Adaptable transfer and publication of digital media
US7725431B2 (en) * 2006-06-30 2010-05-25 Nokia Corporation Method and apparatus for the synchronization and storage of metadata
JP4914378B2 (ja) 2008-01-22 2012-04-11 キヤノン株式会社 情報処理装置及び方法、プログラム、記憶媒体
JP4623199B2 (ja) * 2008-10-27 2011-02-02 ソニー株式会社 画像処理装置、画像処理方法およびプログラム
JP2011211696A (ja) * 2010-03-10 2011-10-20 Nikon Corp 画像データ処理システム、画像データ処理プログラム、及び画像データ処理装置
US9503644B2 (en) * 2014-05-22 2016-11-22 Microsoft Technology Licensing, Llc Using image properties for processing and editing of multiple resolution images

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003289502A (ja) 2002-02-22 2003-10-10 Hewlett Packard Co <Hp> 画像取り込み装置および方法
JP2006080860A (ja) 2004-09-09 2006-03-23 Canon Inc カメラ及びカメラ画像転送システム
JP2006173854A (ja) 2004-12-14 2006-06-29 Konica Minolta Photo Imaging Inc 画像表示装置、画像表示プログラム、および撮像装置
JP2011114761A (ja) 2009-11-30 2011-06-09 Nikon Corp 画像処理装置及び画像処理プログラム
JP2013201704A (ja) 2012-03-26 2013-10-03 Nikon Corp 画像転送装置、画像転送プログラム及び画像転送方法
JP2015231103A (ja) 2014-06-04 2015-12-21 株式会社ソニー・コンピュータエンタテインメント 画像処理装置、画像処理システム、撮像装置、および画像処理方法

Also Published As

Publication number Publication date
EP3633518B1 (en) 2023-12-20
EP3633518A4 (en) 2020-08-12
US20200084412A1 (en) 2020-03-12
JPWO2018216538A1 (ja) 2020-03-26
WO2018216538A1 (ja) 2018-11-29
US11375153B2 (en) 2022-06-28
EP3633518A1 (en) 2020-04-08

Similar Documents

Publication Publication Date Title
US11323679B2 (en) Multi-camera system, camera, processing method of camera, confirmation apparatus, and processing method of confirmation apparatus
US11694725B2 (en) Information processing apparatus and information processing method
JP7143846B2 (ja) 情報処理装置、情報処理方法および情報処理プログラム
JP7230807B2 (ja) 信号処理装置、撮像装置、信号処理方法及びプログラム
US10694141B2 (en) Multi-camera system, camera, camera processing method, confirmation device, and confirmation device processing method
JP7264051B2 (ja) 画像処理装置および画像処理方法
JP7136093B2 (ja) 情報処理装置、情報処理方法および情報処理プログラム
JP7135869B2 (ja) 発光制御装置、発光制御方法、プログラム、発光装置、および撮像装置
US11902692B2 (en) Video processing apparatus and video processing method
JP7160042B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JPWO2019003954A1 (ja) 通信システムおよび送信装置
US11394759B2 (en) Communication system and control apparatus
JP7444074B2 (ja) 撮像装置、撮像制御装置、撮像方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210401

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220208

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220328

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220328

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220426

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220615

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220802

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220815

R151 Written notification of patent or utility model registration

Ref document number: 7136093

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151