JP6503558B2 - 情報処理装置、情報処理システム、および情報処理方法 - Google Patents

情報処理装置、情報処理システム、および情報処理方法 Download PDF

Info

Publication number
JP6503558B2
JP6503558B2 JP2016508587A JP2016508587A JP6503558B2 JP 6503558 B2 JP6503558 B2 JP 6503558B2 JP 2016508587 A JP2016508587 A JP 2016508587A JP 2016508587 A JP2016508587 A JP 2016508587A JP 6503558 B2 JP6503558 B2 JP 6503558B2
Authority
JP
Japan
Prior art keywords
unit
information processing
wireless communication
processing apparatus
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2016508587A
Other languages
English (en)
Other versions
JPWO2015141320A1 (ja
Inventor
吉村 司
司 吉村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2015141320A1 publication Critical patent/JPWO2015141320A1/ja
Application granted granted Critical
Publication of JP6503558B2 publication Critical patent/JP6503558B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72409User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories
    • H04M1/72412User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories using two-way short-range wireless interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/414Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance
    • H04N21/41422Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance located in transportation means, e.g. personal vehicle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/60Substation equipment, e.g. for use by subscribers including speech amplifiers
    • H04M1/6033Substation equipment, e.g. for use by subscribers including speech amplifiers for providing handsfree use or a loudspeaker mode in telephone sets
    • H04M1/6041Portable telephones adapted for handsfree use
    • H04M1/6075Portable telephones adapted for handsfree use adapted for handsfree use in a vehicle
    • H04M1/6083Portable telephones adapted for handsfree use adapted for handsfree use in a vehicle by interfacing with the vehicle audio system
    • H04M1/6091Portable telephones adapted for handsfree use adapted for handsfree use in a vehicle by interfacing with the vehicle audio system including a wireless interface

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Telephone Function (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Information Transfer Between Computers (AREA)

Description

本開示は、情報処理装置、情報処理システム、および情報処理方法に関する。
今日、様々な種類の電子機器が、マルチメディアコンテンツを符号化して伝送し、又は復号して再生する能力を有している。符号化されたコンテンツは、マルチメディアネットワーク上で伝送され、当該コンテンツを受信した機器により再生される。マルチメディアネットワークは、従来はHDMI(登録商標)(High-Definition Multimedia Interface)などの有線通信技術を用いて形成されることが多かった。しかし、近年の無線通信技術の急速な発展の結果として、例えば無線LAN(Local Area Network)などの無線通信ネットワークを、マルチメディアコンテンツを伝送するために活用することも可能となった。
コンテンツを必要に応じて符号化してネットワークへ送出する機器は、一般に、ソース機器と呼ばれる。対照的に、ソース機器からコンテンツを受信して再生する機器は、シンク機器と呼ばれる。ソース機器から送出したコンテンツをシンク機器で表示する技術のひとつとして、例えばWi−Fiディスプレイがある。
非特許文献1は、Wi−Fiアライアンスにより策定されたWi−Fiディスプレイの技術仕様書である。Wi−Fiディスプレイは、Wi−Fi CERTIFIED Miracast(登録商標、以下では単にMiracastとも称する)とも呼ばれる。Wi−Fiディスプレイは、アクセスポイントを介することなく無線LAN機器同士で無線通信ネットワークを形成するためのWi−Fi Direct(登録商標)を基盤技術として採用し、高精細な映像コンテンツをソース機器からシンク機器へ伝送するためのプロトコルを定義する。
"Wi-Fi Display Technical Specification Version 1.0.0", Wi-Fi Alliance Technical Committee, Wi-Fi Display Technical Task Group, August 24, 2012.
しかし、上記非特許文献1に開示された技術では、コンテンツの再生制御に関する技術が主に定義されており、ユーザ操作に対してどのようにソース機器およびシンク機器が連携し動作するかについては発展途上である。そこで、本開示では、ユーザ操作に対するソース機器およびシンク機器の連携に係る技術を向上させることが可能な、新規かつ改良された情報処理装置、情報処理システム、および情報処理方法を提案する。
本開示によれば、他の情報処理装置との間で無線通信を行う無線通信部と、前記無線通信部により前記他の情報処理装置から受信された画像を表示する表示部と、前記表示部により表示された前記画像のうち前記無線通信部により前記他の情報処理装置から受信された制御情報が示す領域への操作を取得する取得部と、前記取得部により取得された操作に応じて前記制御情報が示す処理を行うよう制御する制御部と、を備える情報処理装置が提供される。
また、本開示によれば、他の情報処理装置との間で無線通信を行う無線通信部と、前記無線通信部を介して前記他の情報処理装置に画像を送信させ、前記他の情報処理装置が表示した前記画像のうち指定された領域への操作を検出した場合に対応する処理を行うことを可能にするための制御情報を、前記無線通信部を介して前記他の情報処理装置に送信する制御部と、を備える情報処理装置が提供される。
また、本開示によれば、送信側装置と受信側装置とを備え、前記送信側装置は、前記受信側装置との間で無線通信を行う第1の無線通信部と、前記第1の無線通信部を介して前記受信側装置に画像を送信させ、前記受信側装置が表示した前記画像のうち指定された領域への操作を検出した場合に対応する処理を行うことを可能にするための制御情報を、前記第1の無線通信部を介して前記受信側装置に送信する第1の制御部と、を有し、前記受信側装置は、前記送信側装置との間で無線通信を行う第2の無線通信部と、前記第2の無線通信部により前記送信側装置から受信された前記画像を表示する表示部と、前記表示部により表示された前記画像のうち前記第2の無線通信部により前記送信側装置から受信された前記制御情報が示す領域への操作を取得する取得部と、前記取得部により取得された前記操作に応じて前記制御情報が示す処理を行うよう制御する制御部と、を有する、情報処理システムが提供される。
また、本開示によれば、他の情報処理装置との間で無線通信を行うことと、前記他の情報処理装置から受信された画像を表示することと、表示された前記画像のうち前記他の情報処理装置から受信された制御情報が示す領域への操作を取得することと、取得された前記操作に応じて前記制御情報が示す処理を行うよう情報処理装置を制御することと、を含む、プロセッサにより実行される情報処理方法が提供される。
本開示に係る技術によれば、ソース機器によるユーザ操作の認識およびシンク機器への指示を要することなく、シンク機器がユーザ操作に応じた処理を直接的に実行することが可能となる。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
第1の実施形態に係る通信システムの概要について説明するための説明図である。 第1の実施形態に係るシンク機器の構成の一例を示すブロック図である。 コマンド領域およびコマンド情報について説明するための図である。 第1の実施形態に係るソース機器の構成の一例を示すブロック図である。 第1の実施形態に係るシンク機器により実行される基本的な動作処理の流れの一例を示す図である。 第1の実施形態に係るソース機器により実行される基本的な動作処理の流れの一例を示す図である。 第1の実施形態に係るシンク機器により実行される着呼処理および発呼処理の流れの一例を示す図である。 第1の実施形態に係るシンク機器により実行される着呼処理および発呼処理の流れの一例を示す図である。 第1の実施形態に係るソース機器により実行される着呼処理および発呼処理の流れの一例を示す図である。 第1の実施形態に係るソース機器により実行される着呼処理および発呼処理の流れの一例を示す図である。 第1の実施形態に係る通信システムにおいて実行される発呼処理の流れの一例を示すシーケンス図である。 発呼画面および発呼ボタンの一例を示す図である。 音声通話画面および切断ボタンの一例を示す図である。 第1の実施形態に係る通信システムにおいて実行される発呼処理の流れの一例を示すシーケンス図である。 第1の実施形態に係る通信システムにおいて実行される着呼処理の流れの一例を示すシーケンス図である。 着呼画面および着呼ボタンの一例を示す図である。 第1の実施形態に係る通信システムにおいて実行される着呼処理の流れの一例を示すシーケンス図である。 第1の実施形態に係る通信システムにおいて実行されるメッセージシーケンスの全体図を示す図である。 能力交渉手続の詳細なRTSPメッセージシーケンスを示す図である。 セッション確立手続の詳細なRTSPメッセージシーケンスを示す図である。 コンテンツ送受信のPAUSE設定を行うためのRTSPメッセージシーケンスを示す図である。 コンテンツ送受信のPAUSE解除設定を行うためのRTSPメッセージシーケンスを示す図である。 UIBCのRTSPメッセージシーケンスを示す図である。 第2の実施形態に係る通信システムにおいて実行される発呼処理の流れの一例を示すシーケンス図である。 第2の実施形態に係る通信システムにおいて実行される発呼処理の流れの一例を示すシーケンス図である。 第2の実施形態に係る通信システムにおいて実行される着呼処理の流れの一例を示すシーケンス図である。 第2の実施形態に係る通信システムにおいて実行される着呼処理の流れの一例を示すシーケンス図である。 第3の実施形態に係る環境設定画面の表示例を示す図である。 第3の実施形態に係る環境設定画面の表示例を示す図である。 スマートフォンの概略的な構成の一例を示すブロック図である。 カーナビゲーション装置の概略的な構成の一例を示すブロック図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.システムの概要
2.シンク機器の構成例
3.ソース機器の構成例
4.動作処理
4−1.基本動作
4−2.動作処理の具体例
4−2−1.シンク機器の着呼/発呼時の動作
4−2−2.ソース機器の着呼/発呼時の動作
4−3.メッセージ送受信の流れ
4−4.補足
5.第2の実施形態
6.第3の実施形態
7.応用例
7−1.第1の応用例
7−2.第2の応用例
8.まとめ
<1.システムの概要>
図1は、一実施形態に係る通信システム(情報処理システム)1の概要について説明するための説明図である。通信システム1は、シンク機器(情報処理装置)100、およびソース機器(情報処理装置)200を含む。シンク機器100は、ソース機器200との間で無線接続を確立する。また、シンク機器100は、ソース機器200および基地局300を経由して外部機器400との間で無線接続を確立することが可能である。
シンク機器は、ソース機器から受信されるコンテンツを再生する受信側装置である。図1の例では、シンク機器100は、車載モニタである。車載モニタ100は、例えば音声入出力のためのマイク151およびスピーカ152を有している。ソース機器は、コンテンツをシンク機器へ送信する送信側装置である。通信システム1において、ソース機器からシンク機器へ送信されるコンテンツは、典型的には、映像コンテンツ及び音声コンテンツの少なくとも一方を含む。図1の例では、ソース機器200は、スマートフォンである。また、図1の例では、外部機器400はスマートフォンである。なお、本開示に係る技術は、図示された例に限定されず、例えば、テレビジョン装置、プロジェクタ、デジタルスチルカメラ、デジタルビデオカメラ、タブレットPC(Personal Computer)、デスクトップPC、ラップトップPC、PDA(Personal Digital Assistant)、携帯電話、ゲーム機器、ウェアラブルデバイス又はストレージデバイスなどの、任意の種類のシンク機器及びソース機器に適用可能である。
シンク機器100とソース機器200との間の無線接続は、例えば、IEEE(Institute of Electrical and Electronics Engineers)802.11a、11b、11g、11n、11ac又は11adなどの無線LAN(Local Area Network)方式、UWB(Ultra Wideband)若しくはZigbee(登録商標)などの無線PAN(Personal Area Network)方式、又はIEEE802.16などの無線MAN(Metropolitan Area Network)方式といった、任意の種類の無線通信方式に従って形成されてよい。また、シンク機器100とソース機器200との間に、無線アクセスポイントなどの中間的な機器が介在してもしなくてもよい。また、ソース機器200および外部機器400は、例えば基地局300を介する公衆網無線通信網(例えば、第3世代移動通信システム)を用いて無線接続される。
なお、以下の説明では、一例として、シンク機器100とソース機器200とが無線LAN方式で接続され、無線LAN接続上でWi−Fiディスプレイのメッセージング仕様に従ってコンテンツが伝送されるものとする。この無線LAN接続に関して用いられる近距離無線AV(Audio Visual)伝送通信として、例えばMiracastを用いることができる。Miracastでは、Wi−Fi Directを用いて、又はTDLS(Tunneled Direct Link Setup)と呼ばれる接続プロトコルを用いて、シンク機器100とソース機器200との間で無線接続を確立する。そして、ソース機器200で再生される音声や表示画像をシンク機器100に送信し、シンク機器100でも同様にその音声、画像データを出力させる(ミラーリングする)ことが可能となる。さらに、シンク機器100とソース機器200との間で、ユーザ入力情報を交換するための制御チャネルが形成されてもよい。当該制御チャネルは、例えば、TCP/IP(Transmission Control Protocol/Internet Protocol)ベースのUIBC(User Input Back Channel)であってもよい。なお、Wi−Fiディスプレイの代わりに、例えば、VNC(Virtual Network Computing)などの他のリモートデスクトップアプリケーションを用いて、コンテンツが伝送されてもよい。
また、シンク機器100およびソース機器200は、ソース機器からシンク機器への片方向のコンテンツ送信だけでなく、シンク機器からソース機器への双方向のコンテンツ送信が可能な、Dual−role機能を有していてもよい。この機能によれば、シンク機器100およびソース機器200は、Miracastの接続を双方向で行い、それぞれシンク機器としての機能およびソース機器としての機能の両方を発揮することを可能にする。即ち、シンク機器100は、コンテンツを受信して再生するだけでなく、他の無線機器にコンテンツ送信して再生させ得る。同様に、ソース機器200は、コンテンツを他の無線機器に送信して再生させるだけでなく、コンテンツを受信して再生させ得る。例えば、図1に示した例で、スマートフォン200とスマートフォン400とが電話等の音声通信を行う場合を想定する。スマートフォン400からの音声については、スマートフォン200がソース機器として機能し、車載モニタ100がシンク機器として機能する。具体的には、スマートフォン200は、スマートフォン400から受信した音声を車載モニタ100に送信し、車載モニタ100は、スピーカ152から相手の音声を出力する。一方で、マイク151に入力されたユーザの音声については、車載モニタがソース機器として機能し、スマートフォン200がシンク機器として機能する。具体的には、車載モニタ100は、マイク151に入力されたユーザ音声をスマートフォン200に送信し、スマートフォン200は、受信したユーザ音声をスマートフォン400に送信する。これにより、通信システム1は、スマートフォン200とスマートフォン400との音声通話を、マイク151およびスピーカ152を用いて行うことを可能にする。このように、シンク機器100およびソース機器200は、互いにシンク機器としての機能およびソース機器としての機能の両機能を併せ持つことが可能であるが、特に断らない限り、シンク機器100をシンク機器、ソース機器200をソース機器として説明する。
上述したように、Miracastでは、コンテンツの再生制御に関する技術が主に定義されており、ユーザ操作に対してどのようにソース機器およびシンク機器が連携し動作するかについては発展途上であった。例えば、図1に示した例では、Miracastの利用により、スマートフォン200に表示される画面が車載モニタ100にミラーリングされて、双方のタッチパネルに同一の画面表示がされる。図1に示した例では、双方に「着呼」ボタン「発呼」ボタンが表示されている。ユーザは、「着呼」ボタンをタッチすることにより、例えば外部機器400から掛かってきた電話に応答することができる。また、ユーザは、「発呼」ボタンをタッチすることにより、例えば外部機器400に電話を掛けることができる。しかし、ユーザが車載モニタ100側のボタンをタッチしても、車載モニタ100はこのユーザ操作を独自に認識して処理することができなかった。例えば、ユーザが車載モニタ100側の「着呼」ボタンをタッチした場合、車載モニタ100は、この操作情報を一旦スマートフォン200に送信して、返信された指示に応じてマイク151およびスピーカ152の起動等の各種処理を行っていた。さらに、車載モニタ100側でユーザ操作を独自に認識しようとしても、ユーザ操作が車載モニタ100に対してなされたのか、スマートフォン200に対してなされたのかを判別することは困難であった。このため、例えば、スマートフォン200からミラーリングされた画面上で音量の増加が指示されても、車載モニタ100は、それがスマートフォン200または車載モニタ100のいずれの音量を増加させるべきかを判別することは困難であった。そこで、以下、ソース機器によるユーザ操作の認識およびシンク機器への指示を要することなく、シンク機器がユーザ操作に応じた処理を直接的に実行することが可能となる各実施形態について、次節より詳細に説明する。
<2.シンク機器の構成例>
図2は、一実施形態に係るシンク機器100の構成の一例を示すブロック図である。図2を参照すると、シンク機器100は、無線通信部110、ストリーム送受信部120、圧縮展開部130、表示部140、音声入出力部150、制御信号送受信部160、制御部170、およびユーザインタフェース部180を有する。なお、上述したように、シンク機器100は、ソース機器としての機能も有し得るが、ソース機器としての機能はソース機器200の構成例について後に詳しく説明するので、ここではソース機器としての機能に関する詳細な説明は省略する。
(1)無線通信部110
無線通信部110は、シンク機器100による他の装置との間の無線通信を仲介する無線インタフェースである。本実施形態において、無線通信部110は、ソース機器200との間で無線接続を確立する。そして、無線通信部110は、無線接続上でソース機器200により送信されるコンテンツデータを含む無線信号を、アンテナを介して受信する。無線通信部110は、コンテンツデータを含む受信信号をストリーム送受信部120へ出力する。また、無線通信部110は、ソース機器200との間で制御メッセージ(制御情報)をも送受信し得る。ソース機器200へ送信される制御メッセージは、後に説明する制御部170により生成される。また、ソース機器200から受信される制御メッセージは、制御部170により解釈される。
無線通信部110は、伝送レートの互いに異なる複数の周波数チャネルを並列的に又は選択的に使用可能であってもよい。複数の周波数チャネルとは、例えば、2.4GHz、5GHz及び60GHzの伝送レートをそれぞれ有するチャネルであってもよい。無線通信部110は、制御部170による割当てに従って、ソース機器200からのコンテンツの受信のために使用すべき周波数チャネルを切り替え得る。無線通信部110は、周波数チャネル情報を利用し使用する周波数を可変にしてもよい。また、無線通信部110は、各周波数チャネルの接続品質を測定し、測定結果を示す品質指標(例えば、受信信号強度又はSNR(Signal-to-Noise Ratio)など)を制御部170へ出力してもよい。もちろん、2.4GHz、5GHz及び60GHz以外の他の周波数チャネルが用いられてもよい。
(2)ストリーム送受信部120
ストリーム送受信部120は、無線通信部110から入力される受信信号から、再生すべきコンテンツ(例えば、映像コンテンツ又は音声コンテンツ)のビットストリームを取得する。そして、ストリーム送受信部120は、再生すべきコンテンツについて取得したビットストリームを、圧縮展開部130へ出力する。
ストリーム送受信部120は、各ストリームについて無線接続の接続品質を評価するための品質指標(例えばBER(Bit Error Rate)又はPER(Packet Error Rate)など)を測定し、当該品質指標を制御部170へ出力してもよい。
(3)圧縮展開部130
圧縮展開部130は、ソース機器200から受信されるコンテンツのビットストリームから、コンテンツをそれぞれ復号する。圧縮展開部130は、映像コンテンツを復号した場合には、復号した映像コンテンツを表示部140へ出力する。また、圧縮展開部130は、音声コンテンツを復号した場合には、復号した音声コンテンツを音声入出力部150へ出力する。圧縮展開部130は、複数のコンテンツを並列的に復号することができる。コンテンツが圧縮符号化されている場合には、圧縮展開部130における復号処理を通じて、当該コンテンツは展開される。なお、圧縮展開部130は、ソフトウェアにより復号処理を実現してもよいし、ハードウェアにより復号処理を実現してもよい。
(4)表示部140
表示部140及び音声入出力部150は、圧縮展開部130により復号されるコンテンツを再生するために使用される。表示部140は、無線通信部110によりソース機器200から受信され、圧縮展開部130により復号および展開された画像データに基づく画像を表示する。例えば、表示部140は、復号された映像コンテンツの各フレームを順次出力する。表示部140は、所望のウィンドウ構成と出力先のディスプレイの仕様とに合わせて、再生される映像コンテンツの表示属性(例えば、フレームサイズなど)を調整し得る。これにより、例えばシンク機器100とソース機器200との画面サイズが異なる場合であっても、表示部140がソース機器200からミラーリングされた画像を伸縮することにより、適切なサイズの画面が出力され得る。また、表示部140は複数であってもよく、例えば制御部170は、各表示部140の解像度、表示部140の数などに応じて出力する表示部140を変更してもよい。なお、表示部140は、例えば、有機EL(Electro-Luminescence)パネル、LCD(Liquid Crystal Display)パネル等の表示パネルにより実現される。また、表示部140は、ユーザが指等を表示面に接触または近接することにより操作入力を行うことが可能なタッチパネルとして実現されてもよい。
(5)音声入出力部150
音声入出力部150は、音声を入力および出力する機能を有し、例えば図1に示したスピーカ152およびマイク151により実現される。音声入出力部150は、圧縮展開部130により復号および展開された音声コンテンツの音声信号を順次出力する。音声入出力部150は、複数であってもよく、例えば制御部170は、各音声入出力部150の音声再生能力、音声入出力部150の数などに応じて出力する音声入出力部150を変更してもよい。
(6)制御信号送受信部160
制御信号送受信部160は、後述の制御部170から出力された制御信号(制御メッセージ)を、無線通信部110を介して例えばソース機器200などの他の無線通信装置に送信する送信処理を行う。また、制御信号送受信部160は、無線通信部110により例えばソース機器200などの他の無線通信装置から受信された制御メッセージを、制御部170に出力する。
(7)制御部170
制御部170は、演算処理装置および制御装置として機能し、各種プログラムに従ってシンク機器100内の動作全般を制御する。例えば、制御部170は、後述するユーザインタフェース部180により入力された各種設定情報に応じて、ソース機器200との画像コンテンツおよび音声コンテンツに関するネゴシエーションを行う。具体的には、制御部170は、制御信号送受信部160により受信された制御メッセージ、シンク機器100に含まれる各装置の性能、および後述するユーザインタフェース部180により入力された各種設定情報などに基づいて、コンテンツの送信元のソース機器200の動作を制御する。
例えば、制御部170は、ソース機器200から送信されるストリームを、シンク機器100自身の処理能力を超えないように制御する。具体的には、制御部170は、表示部140および音声入出力部150により再生されるコンテンツにより要求される要求復号能力および圧縮展開部130の実復号能力に基づいて、コンテンツの送信元のソース機器200におけるコンテンツの符号化条件を制御するための制御メッセージを生成してもよい。また、制御部170は、帯域に関する設定情報に基づいて、コンテンツの送信元のソース機器200から送信されるコンテンツストリームの帯域制御を行うための制御メッセージを生成してもよい。また、制御部170は、ディスプレイの解像度に関する設定情報に基づいて、表示部140に表示される画像の解像度を変更し、この解像度と同等の送信レートをソース機器200に要求するための制御メッセージを生成してもよい。また、例えば、制御部70は、ディスプレイの画面サイズに関する設定情報に基づいて、表示部140に表示される画像の表示領域およびサイズを変更するための制御信号を生成してもよい。生成されたこれらの制御メッセージは、制御信号送受信部160を介してソース機器200に送信されて、ソース機器200における処理に反映される。
なお、これらの制御メッセージによる変更内容は、例えば表示部140によりユーザに通知されてもよい。また、制御部170は、通信システム1全体のブロック制御に関する機能を有していてもよい。例えば、制御部170は、ストリーム送受信部120およびユーザインタフェース部180からの情報に基づいて、使用する周波数チャネルおよび解像度の設定を行う機能を有していてもよい。
上述したように、制御部170は、ネゴシエーションのための制御メッセージを生成して、制御信号送受信部160を介してソース機器200に送信する。他方、制御部170は、ソース機器200から受信された制御メッセージに基づいて、シンク機器100に含まれる各装置を制御する。
ソース機器200から受信される制御メッセージには、多様な情報が格納され得る。例えば、制御メッセージは、表示部140に表示された画像のうち、ユーザインタフェース部180が操作を取得すべき領域を特定する情報、取得すべき操作の種別を示す情報、および当該領域への操作を受け付けた場合に制御部170が制御すべき処理を示す情報の組み合わせを含む。かかる組み合わせの情報のうち1つ目を座標情報とも称し、2つ目を種別情報とも称し、3つ目をコマンド情報とも称する。また、座標情報により特定される領域をコマンド領域とも称する。座標情報により特定されるコマンド領域は、例えば四角形、角丸四角形、三角形、円、その他の多様な形状を取り得る。種別情報が示す操作の種別としては、例えば1点タッチ、多点タッチ、スワイプ、ピンチイン、ピンチアウト等の多様な操作が挙げられる。制御部170は、コマンド領域において種別情報に合致するユーザ操作が取得された場合に、コマンド情報が示す処理を行うよう制御する。コマンド情報が示す処理としては、例えば、発呼、着呼、メールの送受信、インターネットブラウジングに関する、シンク機器100のハードウェア又はソフトウェアの環境設定、ON/OFF処理などの多様な処理が挙げられる。制御部170は、ユーザインタフェース部180により取得されたコマンド領域へのユーザ操作に応じて、コマンド情報に応じた処理を行うようシンク機器100内の各装置を制御する。なお、制御部170がコマンド情報に応じた処理を行うようシンク機器100内の各装置を制御することを、以下では単にコマンドを実行するとも称する。また、座標情報、種別情報、およびコマンド情報の組み合わせを動作設定情報とも称し、動作設定情報を含む制御メッセージを、以下では動作設定メッセージとも称する。コマンド領域およびコマンド情報の具体例について、図3を参照して具体的に説明する。
図3は、コマンド領域およびコマンド情報について説明するための図である。図3の左図はソース機器200の画面を示し、図3の右図はシンク機器100の画面を示す。なお、シンク機器100の画面はタッチパネルに表示されているものとする。図3に示すように、ソース機器200の画面がシンク機器100にミラーリングされており、着呼ボタンが表示されている。ここで、着呼ボタンの座標情報、タッチ操作を示す種別情報、および着呼ボタンがタッチされた場合にすべき処理を示すコマンド情報の組み合わせを含む動作設定メッセージが、ソース機器200から受信された場合を考える。座標情報は、例えば左上の座標(X1,Y1)および右下の座標(X2,Y2)によって、コマンド領域である着呼ボタンの領域を特定している。制御部170は、この動作設定メッセージ基づき、着呼ボタンが操作された場合に、例えばマイク151をONにして、音声入出力部150による音声入力を有効化する。そして、シンク機器100は、後に説明するソース機器としての機能を発揮することにより、マイク151により取得されたマイク音声を、音声通話相手に伝送することが可能となる。
動作設定メッセージは、動作設定情報の、有効または無効のいずれかを示すフラグ情報を含んでいてもよい。制御部170は、有効な動作設定情報に係るコマンド領域がタッチされた場合にコマンドを実行する。他方、制御部170は、動作設定情報の無効がソース機器200より通知された場合、無効な動作設定情報に係るコマンド領域がタッチされてもコマンドを実行しない。即ち、制御部170は、動作設定情報の有効が通知されてから無効が通知されるまでの間、コマンド領域へのユーザ操作を監視して、指定されたユーザ操作が取得された場合にコマンドを実行する。以下では、動作設定メッセージのうち、フラグ情報が有効である、即ち動作設定情報を有効化するメッセージを有効化メッセージとも称する。また、フラグ情報が無効である、即ち動作設定情報を無効化するメッセージを無効化メッセージとも称する。以下、図3に示した着呼ボタンに関する動作設定メッセージの一例を示す。
<有効化メッセージ>
座標情報:(X1,Y1)=(10,300),(X2,Y2)=(100,400)
種別情報:(タッチ)
コマンド情報:(着呼)
フラグ情報:(有効)
<無効化メッセージ>
座標情報:
(X1,Y1)=(10,300),(X2,Y2)=(100,400)
種別情報:(タッチ)
コマンド情報:(着呼)
フラグ情報:(無効)
制御部170は、有効化メッセージが受信されてから無効化メッセージが受信されるまでの間、座標(10,300)および座標(100,400)により特定された領域をコマンド領域として監視し、タッチされた場合に着呼に関するコマンドを実行する。なお、動作設定メッセージは、動作設定情報を複数含んでいてもよいし、有効な動作設定情報と無効な動作設定情報とが混在していてもよい。また、制御部170は、ディスプレイの解像度、画面サイズ、表示方向等の差異に応じて、コマンド領域の座標を変換する機能を有する。このため、シンク機器100におけるコマンド領域の座標と、ソース機器200における着呼ボタンの座標は同一でもよいし、異なっていてもよい。
ここで、実行するコマンドによっては、シンク機器100単体では成し得ず、ソース機器200による連携した処理も必要な場合がある。この場合、制御部170は、ソース機器200にコマンド情報が示す処理に対応する処理を実行させるためのメッセージを、無線通信部110を介してソース機器200に送信する。このメッセージを、以下では連携要求メッセージとも称する。連携要求メッセージは、ソース機器200が実行すべき処理を指示する情報を含んでいてもよい。また、連携要求メッセージは、単にユーザインタフェース部180により取得されたユーザ操作を示す操作情報含んでいてもよく、ソース機器200が操作情報に基づいて実行すべき処理を判断してもよい。例えば、制御部170は、制御信号送受信部160を制御して、このような連携要求メッセージを、TCP/IP上でUIBCを用いて送信する。着呼ボタンがタッチされた場合、制御部170は、制御信号送受信部160を制御して操作情報を含んだ連携要求メッセージをUIBC上で送信し、ソース機器200は、操作情報に基づいて音声通話の着呼に関する処理を行う。例えば、着呼の場合、ソース機器200は、発呼元の外部機器400との通信の確立などを行う。これにより、ソース機器200により通信が確立されつつ、シンク機器100による音声通話が可能となる。ここでは、図3を参照して着呼に関して説明したが、例えば発呼に関しても同様である。また、連携要求メッセージの他の例として、制御部170は、RTSPのPAUSE設定用またはPLAY設定用メッセージを送信してもよい。例えば、制御部170は、Miracast接続を確立した上で、コンテンツの送受信が行われない間はPAUSE設定を行い、コンテンツの送受信が行われる間はPAUSE解除設定(PLAY設定)を行うことで、無駄な通信を回避することができる。
他にも、制御部170は、コンテンツの再生に関連するコマンド(例えば、再生開始、再生停止、早送り及び巻き戻しなど)を含む制御メッセージを、機器間の制御チャネルを介して送受信してもよい。制御部170は、そうしたコマンドの検出に応じて、表示部140および音声入出力部150の動作を制御し得る。
(8)ユーザインタフェース部180
ユーザインタフェース部180は、シンク機器100の入力デバイス(図示せず)を介して、ユーザ入力を受け付ける。ユーザインタフェース部180は、例えば、リモートコントローラ、タッチパネル、キーボード、マウス、ボタン又はスイッチなどの固有のハードウェアにおいて生成される入力信号を、ユーザ入力として受け付けてもよい。また、ユーザインタフェース部180は、マイクロフォンを通じて取得される音声コマンド、カメラを通じて取得されるジェスチャコマンド、又はジャイロセンサおよび人感センサ等の各種センサを通じて取得されるセンサコマンドを、ユーザ入力として受け付けてもよい。本実施形態に係るユーザインタフェース部180は、表示部140により表示された画像のうち、無線通信部110によりソース機器200から受信された動作設定メッセージが示すコマンド領域への操作を取得する取得部として機能する。本明細書では、ユーザインタフェース部180は、表示部140と一体的に形成されるタッチパネルにより実現されるものとして説明する。ユーザインタフェース部180は、受け付けたユーザ入力を制御部170へ出力する。
以上、シンク機器100の構成例を説明した。続いて、図4を参照して、ソース機器200の構成例を説明する。
<3.ソース機器の構成例>
図4は、一実施形態に係るソース機器200の構成の一例を示すブロック図である。図4を参照すると、ソース機器200は、無線通信部210、ストリーム送受信部220、圧縮展開部230、コンテンツ取得部240、コンテンツ再生部250、制御信号送受信部260、制御部270、およびユーザインタフェース部280を有する。なお、上述したように、ソース機器200は、シンク機器としての機能も有し得るが、シンク機器としての機能はシンク機器100の構成例おいて上記詳しく説明したので、ここでのシンク機器としての機能に関する詳細な説明は省略する。なお、ソース機器200の無線通信部210を第1の無線通信部、シンク機器100の無線通信部110を第2の無線通信部として捉えることも可能である。また、ソース機器200の制御部270を第1の制御部、シンク機器100の制御部170を第2の制御部として捉えることも可能である。
(1)無線通信部210
無線通信部210は、ソース機器200による他の装置との間の無線通信を仲介する無線インタフェースである。本実施形態において、無線通信部210は、シンク機器100との間で無線接続を確立する。無線通信部210は、ストリーム送受信部220により生成されるコンテンツデータを含む無線信号を、アンテナを介して無線接続上でシンク機器100へ送信する。また、無線通信部210は、シンク機器100との間で、制御メッセージを含む無線信号をも送受信し得る。シンク機器100へ送信される制御メッセージは、後に説明する制御部270により生成される。また、シンク機器100から受信される制御メッセージは、制御部270により解釈される。
また、無線通信部210は、公衆網無線通信網(例えば、第3世代移動通信システム)を用いて、外部機器400との間で無線接続を確立する。無線通信部210は、ストリーム送受信部220により生成されるコンテンツデータを含む無線信号を、アンテナを介して無線接続上で外部機器400へ送信する。また、無線通信部210は、外部機器400からのコンテンツデータを含む無線信号を、アンテナを介して無線接続上で受信する。
(2)ストリーム送受信部220
ストリーム送受信部220は、後述する圧縮展開部230から入力される符号化されたコンテンツのビットストリームを、無線通信部210を介してシンク機器100へ送信する。ストリーム送受信部220は、映像コンテンツのストリーム及び音声コンテンツのストリームを多重化することによりマルチメディアストリームを生成し、生成したマルチメディアストリームを送信してもよい。
(3)圧縮展開部230
圧縮展開部230は、後述するコンテンツ取得部240から入力される、シンク機器100へ送信すべきコンテンツを符号化し、コンテンツのビットストリームを生成する。そして、圧縮展開部230は、生成したビットストリームをストリーム送受信部220へ出力する。圧縮展開部230におけるコンテンツの符号化条件は、シンク機器100から受信される制御メッセージに基づいて、制御部270により制御される。例えば、映像コンテンツについての符号化条件は、使用されるビデオコーデックのコーデック種別、解像度、フレームレート及び画質レベルを含み得る。音声コンテンツについての符号化条件は、使用されるオーディオコーデックのコーデック種別、サンプリングレート及び音質レベルを含み得る。圧縮展開部230は、コンテンツを圧縮符号化しないことが指示された場合には、コンテンツを圧縮することなく、無圧縮フォーマットでコンテンツのビットストリームを生成してもよい。
圧縮展開部230は、ハードウェアとしての1つ以上の符号化回路を有していてもよい。また、圧縮展開部230は、映像符号化用及び音声符号化用のソフトウェアモジュールを実行可能なプロセッサを有していてもよい。また、圧縮展開部230は、ハードウェアとしての符号化回路及びソフトウェアモジュールを実行可能なプロセッサの双方を有していてもよい。圧縮展開部230は、任意のコーデック種別をサポートし得る。
(4)コンテンツ取得部240
コンテンツ取得部240は、シンク機器100へ提供すべきコンテンツを図示しない記憶部又は他のデータソースから取得し、取得したコンテンツを圧縮展開部230へ出力する。他のデータソースとは、例えば、ソース機器200のカメラ及びマイクロフォン、又はソース機器200によりアクセス可能なリモードデバイス(例えば、コンテンツサーバ又はマイクロフォン付きのWebカメラなど)、又はソース機器200と無線接続されている外部機器400を含み得る。シンク機器100へどのコンテンツを提供すべきかは、ユーザインタフェース部280により検出されるユーザ入力によって、又はシンク機器100から受信される制御メッセージによって指定され得る。コンテンツ取得部240は、取得したコンテンツがシンク機器100から指示された符号化条件とは異なるコーデック種別で符号化されている場合には、当該コンテンツを一旦復号した後に圧縮展開部230へ出力してもよい。
(5)コンテンツ再生部250
コンテンツ再生部250は、無線通信部210を介してシンク機器100または外部機器400から受信され、圧縮展開部230により復号されるコンテンツを再生する機能を有する。例えば、コンテンツ再生部250は、有機ELパネル、LCDパネル等の表示パネルにより実現され得る。また、コンテンツ再生部250は、ユーザが指等を表示面に接触または近接することにより操作入力を行うことが可能なタッチパネルとして実現されてもよい。他にも、コンテンツ再生部250は、例えばスピーカにより実現され得る。なお、音声および画像は、シンク機器100およびソース機器200の双方から出力されてもよい。ただし、音声については、制御メッセージによるネゴシエーションにより、シンク機器100またはソース機器200のいずれか一方のみから出力されることが望ましい。
(6)制御信号送受信部260
制御信号送受信部260は、後述の制御部270から出力された制御メッセージを、無線通信部210を介して例えばシンク機器100などの他の無線通信装置に送信する送信処理を行う。また、制御信号送受信部260は、無線通信部210により例えばシンク機器100などの他の無線通信装置から受信された制御メッセージを、制御部270に出力する。
(7)制御部270
制御部270は、演算処理装置および制御装置として機能し、各種プログラムに従ってソース機器200内の動作全般を制御する。例えば、制御部270は、シンク機器100との画像コンテンツおよび音声コンテンツに関するネゴシエーションを行い、ネゴシエーション結果に基づいて動作するようソース機器200内の各装置を制御する。
例えば、制御部270は、シンク機器100から受信される制御メッセージに基づいて、圧縮展開部230におけるコンテンツの符号化条件を制御する。また、制御部270は、制御メッセージに基づいて、送信対象となる画像データの解像度を変更させるための制御や、送信対象となる画像データの画像領域を変更させるための制御を行ってもよい。また、制御部270は、制御メッセージに基づいて、送信対象となるメディアストリームの帯域制御を行ってもよい。この帯域制御のために、制御部270は、シンク機器100との間の無線接続の接続品質を評価するための品質指標(例えばBER又はPERなど)を測定してもよい。
また、制御部270は、シンク機器100とのネゴシエーション結果に従って、通信システム1全体の制御を行ってもよい。例えば、制御部270は、シンク機器100との間の無線接続の周波数チャネルをさらに制御してもよい。例えば、制御部270は、シンク機器100とのメッセージ交換を通じて、通信システム1内の各装置の電源状態(例えば、バッテリ駆動しているか若しくは電源に接続されているか、又はバッテリ残量など)を取得する。そして、制御部270は、例えばバッテリ駆動しているソース機器200におけるバッテリ消費を抑制するために、使用する周波数チャネルを選択してもよい。また、シンク機器100へ送信すべきコンテンツのビットレートが高くなることが認識される場合には、シンク機器100との間の無線接続に、より伝送レートの高い(又はより接続品質の良好な)周波数チャネルが割当てられてもよい。
制御部270は、シンク機器100との間のメッセージの交換によりシンク機器100における動作をも制御し得る。シンク機器100へ送信されるメッセージとしては、例えば動作設定メッセージが挙げられる。ソース機器200は、シンク機器100に表示される画面の画面遷移等を監視して、操作可能な領域が表示される場合に有効化メッセージを送信し、当該領域が非表示になった場合に無効化メッセージを送信する。操作可能な領域としては、例えば図3に示した着呼ボタンの他に、発呼ボタン、メールの送受信ボタン、インターネットブラウザの各種操作ボタンなどが挙げられる。もちろん、ボタンの他にも、スワイプ操作等の任意の操作が可能な領域が、操作可能な領域に含まれ得る。
例えば、まず、制御部270は、コンテンツ取得部240を監視して、無線通信部210によるコンテンツ伝送を介してシンク機器100に表示される画像に、操作可能な領域が含まれるか否かを判定する。操作可能な領域が含まれる場合、制御部270は、当該領域に係る動作設定メッセージをシンク機器100に送信する。詳しくは、制御部270は、この領域を特定するための座標情報、取得すべき操作の種別を示す種別情報、およびこの領域へ操作を取得した場合にシンク機器100が実行すべき処理を示すコマンド情報の組み合わせから成る動作設定情報を含む有効化メッセージを生成する。そして、制御部270は、生成した有効化メッセージを、無線通信部210を介してシンク機器100に送信する。他方、制御部270は、コンテンツ取得部240を監視して、無線通信部210によるコンテンツ伝送を介してシンク機器100に表示される画像から、例えば画面遷移等により操作可能な領域が含まれなくなったか否かを判定する。操作可能な領域が含まれなくなった場合、制御部270は、この領域に係る動作設定情報を含む無効化メッセージを生成する。そして、制御部270は、生成した無効化メッセージを、無線通信部210を介してシンク機器100に送信する。なお、無線通信部210は、この動作設定メッセージを、Miracastに規定されたメッセージのひとつを拡張されたものを用いて送信してもよいし、規定されていない他のメッセージを用いて送信してもよい。
また、シンク機器100から受信されるメッセージは、シンク機器100において実行されるコマンドに対応する処理を要求する、上述した連携要求メッセージを含み得る。制御部270は、連携要求メッセージが無線通信部210を介して受信された場合、受信した連携要求メッセージが示す処理を実行するよう、ソース機器200内の各装置を制御する。図3に示した例において、シンク機器100において着呼ボタンがタッチされた場合、制御部270は、着呼に対応する処理を行うようソース機器200内の各装置を制御する。例えば、制御部270は、操作情報を含む連携要求メッセージに基づいて、外部機器400との無線接続を確立するよう無線通信部210を制御する。他にも、制御部270は、RTSPのPAUSE設定用またはPLAY設定用メッセージに基づいて、コンテンツの送受信のPAUSE設定またはPAUSE解除設定(PLAY設定)を行ってもよい。
さらに、制御部270は、ユーザインタフェース部280においてコンテンツの再生に関連するユーザ入力が検出された場合には、検出されたユーザ入力に対応するコマンドを含む制御メッセージを、機器間の制御チャネルを介してシンク機器100へ送信してもよい。例えばソース機器200が待機機器として選択された場合には、コンテンツの再生停止を指示する制御メッセージが無線通信部210により受信され得る。この場合、制御部270は、ソース機器200の動作モードをスタンバイモードへ移行させ、スタンバイモードの期間中にソース機器200の各部への電力供給を部分的に停止してもよい。スタンバイモードにおいて、無線通信部210は、例えば間欠的に動作し、周期的なアクティブ期間においてシンク機器100からの制御メッセージを受信し得る。即ち、シンク機器100とソース機器200との間の無線接続は、スタンバイモードの期間中にも維持され得る。制御部270は、スタンバイモードの期間中にコンテンツの再生開始を指示する制御メッセージが受信されると、ソース機器200の動作モードをアクティブモードへ復帰させ得る。
(8)ユーザインタフェース部280
ユーザインタフェース部280は、ソース機器200の入力デバイス(図示せず)を介して、ユーザ入力を受け付ける。ユーザインタフェース部280は、例えば、リモートコントローラ、タッチパネル、キーボード、マウス、ボタン又はスイッチなどの固有のハードウェアにおいて生成される入力信号を、ユーザ入力として受け付けてもよい。また、ユーザインタフェース部280は、マイクロフォンを通じて取得される音声コマンド、カメラを通じて取得されるジェスチャコマンド、又はジャイロセンサおよび人感センサ等の各種センサを通じて取得されるセンサコマンドを、ユーザ入力として受け付けてもよい。本明細書では、ユーザインタフェース部280は、ディスプレイと一体的に形成されるタッチパネルにより実現されるものとして説明する。ユーザインタフェース部280は、受け付けたユーザ入力を制御部270へ出力する。
以上、ソース機器200の構成例を説明した。続いて、通信システム1による動作処理を説明する。
<4.動作処理>
[4−1.基本動作]
まず、図5、図6を参照して、シンク機器100およびソース機器200の基本的な動作処理を説明する。
(シンク機器100の基本動作)
図5は、本実施形態に係るシンク機器100により実行される基本的な動作処理の流れの一例を示す図である。図5を参照すると、まず、シンク機器100の制御部170は、ソース機器200からの有効化メッセージが制御信号送受信部160により受信されたか否かを判定する(ステップS10)。受信されていないと判定された場合(ステップS10/NO)、処理は再度ステップS10に戻り、制御部170は、有効化メッセージの受信確認を繰り返す。一方で、有効化メッセージが受信されたと判定された場合(ステップS10/YES)、制御部170は、コマンド領域を有効化する(S12)。詳しくは、制御部170は、コマンド領域へのユーザ操作の監視を開始する。次いで、制御部170は、ソース機器200からの当該コマンド領域に関する無効化メッセージが制御信号送受信部160により受信されたか否かを判定する(ステップS14)。受信されていないと判定された場合(ステップS14/NO)、処理は再度ステップS14に戻り、制御部170は、コマンド領域の監視を継続する。制御部170は、監視中にコマンド領域への種別情報に合致するユーザ操作がユーザインタフェース部180により取得された場合、有効化メッセージで指定されたコマンドを実行しつつ、連携要求メッセージをソース機器200に送信する。一方で、無効化メッセージが受信されたと判定された場合(ステップS14/YES)、制御部170は、コマンド領域を無効化する(ステップS16)。詳しくは、制御部170は、コマンド領域へのユーザ操作の監視を停止する。なお、本動作処理は複数メッセージを処理することも可能である。
(ソース機器200の基本動作)
図6は、本実施形態に係るソース機器200により実行される基本的な動作処理の流れの一例を示す図である。図6を参照すると、まず、ソース機器200の制御部270は、シンク機器100に表示される画面の画面遷移等を監視して、操作可能な領域が表示されるか否かを判定する(ステップS20)。表示されないと判定された場合(ステップS20/NO)、処理は再度ステップS20に戻り、制御部270は、シンク機器100に表示される画面の監視を継続する。一方で、表示されると判定された場合(ステップS20/YES)、制御部270は、当該領域をコマンド領域として指定する動作設定情報を含む有効化メッセージを生成し、無線通信部210を介してシンク機器100に送信する(ステップS22)。次いで、制御部270は、シンク機器100に表示される画面の画面遷移等を監視して、表示されている操作可能な領域が非表示になるか否かを判定する(ステップS24)。継続して表示されると判定された場合(ステップS24/NO)、処理は再度ステップS24に戻り、制御部270は、シンク機器100に表示される画面の監視を継続する。一方で、非表示になると判定された場合(ステップS24/YES)、制御部270は、当該領域に関する無効化メッセージを生成して、無線通信部210を介してシンク機器100に送信する(ステップS26)。なお、本動作処理は複数メッセージを処理することも可能である。
[4−2.動作処理の具体例]
続いて、図7〜図10を参照して、シンク機器100およびソース機器200の具体的な動作処理を説明する。ここでは、一例として、シンク機器100でなされたタッチ操作をトリガとする、シンク機器100およびソース機器200において実行される着呼処理および発呼処理の流れを説明する。
[4−2−1.シンク機器100の着呼/発呼時の動作]
図7、図8は、本実施形態に係るシンク機器100により実行される着呼処理および発呼処理の流れの一例を示す図である。
図7を参照すると、まず、シンク機器100の制御部170は、シンク機器100内の各装置の初期化処理および準備処理を行う(ステップS102)。次いで、制御部170は、無線通信部110を制御して、ソース機器200の無線通信部210との無線接続を確立する(ステップS104)。次に、無線通信部110は、ソース機器200とのMiracast接続を双方向で確立する(ステップS106)。詳しくは、まず、制御部170は、制御信号送受信部160を制御して、ソース機器200の制御信号送受信部260と制御メッセージを送受信することで各種ネゴシエーションを行う。そして、制御部170は、ストリーム送受信部120および圧縮展開部130を制御して、無線通信部110によりソース機器200から受信された無線信号からコンテンツデータを復号し、表示部140および音声入出力部150から出力させる。この処理により、シンク機器100は、シンク機器として動作して、ソース機器から送信されたコンテンツを再生することが可能となる。また、制御部170は、音声入出力部150により取得された音声データを、圧縮展開部130およびストリーム送受信部120を制御して無線信号に変換して、無線通信部110を介してソース機器200に送信する。この処理により、シンク機器100は、ソース機器として動作して、シンク機器として機能するソース機器200に送信したコンテンツを再生させることが可能となる。このような双方向の接続により、例えば、電話等の音声通話を行う際に、スピーカ152により相手の音声を再生し、マイク151により取得されたユーザ音声を相手に伝送することが可能となる。ここで、音声通話が行われていない間は、シンク機器100からソース機器200へのマイク音声の送信は不要であるため、制御部170は、MiracastのPAUSE設定を行い、ソース機器200への音声データの送信を一時停止することが好ましい。なお、PAUSE用メッセージは、RTSP(Real Time Streaming Protocol)のM9メッセージを用いて実装され得る。
次いで、制御部170は、着呼ボタンの有効化メッセージが制御信号送受信部160により受信されたか否かを判定する(ステップS108)。受信されていないと判定された場合(ステップS108/NO)、制御部170は、発呼ボタンの有効化メッセージが制御信号送受信部160により受信されたか否かを判定する(ステップS126)。いずれも受信されていないと判定された場合(ステップS126/NO)、処理は再度ステップS108に戻る。
着呼ボタンの有効化メッセージが受信されたと判定された場合(ステップS108/YES)、制御部170は、着呼ボタンを有効化する(ステップS110)。例えば、制御部170は、着呼ボタンの有効化メッセージに含まれる座標情報により特定される着呼ボタンのコマンド領域へのタッチが、ユーザインタフェース部180により取得されるか否かの監視を開始する。
着呼ボタンにタッチされない場合(ステップS112/NO)、制御部170は、着呼ボタンの無効化メッセージが制御信号送受信部160により受信されたか否かを判定する(ステップS128)。受信されていないと判定された場合(ステップS128/NO)、処理は再度ステップS112に戻り、制御部170は着呼ボタンへのタッチの監視を継続する。一方で、受信されたと判定された場合(ステップS128/YES)、制御部170は、着呼ボタンを無効化する(ステップS130)。詳しくは、制御部170は、着呼ボタンの無効化メッセージに含まれる座標情報により特定される着呼ボタンのコマンド領域へのタッチが、ユーザインタフェース部180により取得されるか否かの監視を停止する。そして、処理は再度ステップS108に戻る。
着呼ボタンにタッチされた場合(ステップS112/YES)、制御部170は、着呼ボタンの有効化メッセージに含まれるコマンド情報が示す着呼ボタンのコマンドを実行する(ステップS114)。例えば、制御部170は、マイク151をONにして、音声入力を有効化する。また、制御部170は、MiracastのPAUSE解除設定(PLAY設定)を行い、ソース機器200への音声データ送信を再開する。また、制御部170は、制御信号送受信部160を制御して、着呼ボタンに関する連携要求メッセージをソース機器200に送信する。例えば、制御部170は、連携要求メッセージとして、着呼ボタンにタッチされたことを示す操作情報を含むメッセージ、およびPLAY設定用メッセージを送信する。なお、PLAY設定用メッセージは、RTSPのM7メッセージを用いて実装され得る。これにより、例えばソース機器200と着呼相手との無線接続が確立され、音声通話が開始される。よって、例えば着呼画面から音声通話画面に画面遷移して、着呼ボタンが非表示となり切断ボタンが表示される。これに伴い、ソース機器200は、着呼ボタンの無効化メッセージおよび切断ボタンの有効化メッセージをシンク機器100に送信することとなる。着呼ボタンの無効化メッセージが制御信号送受信部160により受信されると、制御部170は、着呼ボタンを無効化する(ステップS116)。
また、切断ボタンの有効化メッセージが制御信号送受信部160により受信されると、制御部170は、切断ボタンを有効化する(ステップS118)。詳しくは、制御部170は、切断ボタンの有効化メッセージに含まれる座標情報により特定される切断ボタンのコマンド領域へのタッチが、ユーザインタフェース部180により取得されるか否かの監視を開始する。切断ボタンにタッチされない場合(ステップS120/NO)、処理は再度ステップS120に戻り、制御部170は切断ボタンへのタッチの監視を継続する。一方で、切断ボタンにタッチされた場合(ステップS120/YES)、制御部170は、切断ボタンの有効化メッセージに含まれるコマンド情報が示す切断ボタンのコマンドを実行する(ステップS122)。例えば、制御部170は、マイク151をOFFにして、音声入力を無効化する。また、制御部170は、MiracastのPAUSE設定を行い、ソース機器200への音声データ送信を一時停止する。また、制御部170は、制御信号送受信部160を制御して、切断ボタンに関する連携要求メッセージをソース機器200に送信する。例えば、制御部170は、連携要求メッセージとして、切断ボタンにタッチされたことを示す操作情報を含むメッセージ、およびPAUSE設定用メッセージを送信する。これにより、ソース機器200と着呼相手との無線接続が切断され、音声通話が終了される。よって、例えば音声通話画面からメニュー画面に画面遷移して、切断ボタンが非表示となる。これに伴い、ソース機器200は、切断ボタンの無効化メッセージをシンク機器100に送信することとなる。切断ボタンの無効化メッセージが制御信号送受信部160により受信されると、制御部170は、切断ボタンを無効化する(ステップS124)。詳しくは、制御部170は、切断ボタンの無効化メッセージに含まれる座標情報により特定される切断ボタンのコマンド領域へのタッチが、ユーザインタフェース部180により取得されるか否かの監視を停止する。
Miracast接続が確立(ステップS106)した後、発呼ボタンの有効化メッセージが受信されたと判定された場合(ステップS126/YES)、図8を参照すると、制御部170は、発呼ボタンを有効化する(ステップS132)。例えば、制御部170は、発呼ボタンの有効化メッセージに含まれる座標情報により特定される発呼ボタンのコマンド領域へのタッチが、ユーザインタフェース部180により取得されるか否かの監視を開始する。
発呼ボタンにタッチされない場合(ステップS134/NO)、制御部170は、発呼ボタンの無効化メッセージが制御信号送受信部160により受信されたか否かを判定する(ステップS148)。受信されていないと判定された場合(ステップS148/NO)、処理は再度ステップS134に戻り、制御部170は発呼ボタンへのタッチの監視を継続する。一方で、受信されたと判定された場合(ステップS148/YES)、制御部170は、発呼ボタンを無効化する(ステップS150)。そして、処理は再度ステップS108に戻る。
発呼ボタンにタッチされた場合(ステップS134/YES)、制御部170は、発呼ボタンの有効化メッセージに含まれるコマンド情報が示す発呼ボタンのコマンドを実行する(ステップS136)。例えば、制御部170は、マイク151をONにして、音声入力を有効化する。また、制御部170は、MiracastのPAUSE解除設定(PLAY設定)を行い、ソース機器200への音声データ送信を再開する。また、制御部170は、制御信号送受信部160を制御して発呼ボタンに係る連携要求メッセージをソース機器200に送信する。例えば、制御部170は、連携要求メッセージとして、発呼ボタンにタッチされたことを示す操作情報を含むメッセージ、およびPLAY設定用メッセージを送信する。これにより、例えばソース機器200と発呼相手との無線接続が確立され、音声通話が開始される。よって、例えば発呼画面から音声通話画面に画面遷移して、発呼ボタンが非表示となり切断ボタンが表示される。これに伴い、ソース機器200は、発呼ボタンの無効化メッセージおよび切断ボタンの有効化メッセージをシンク機器100に送信することとなる。発呼ボタンの無効化メッセージが制御信号送受信部160により受信されると、制御部170は、発呼ボタンを無効化する(ステップS138)。
また、切断ボタンの有効化メッセージが制御信号送受信部160により受信されると、制御部170は、切断ボタンを有効化する(ステップS140)。切断ボタンにタッチされない場合(ステップS142/NO)、処理は再度ステップS142に戻り、制御部170は切断ボタンへのタッチの監視を継続する。一方で、切断ボタンにタッチされた場合(ステップS142/YES)、制御部170は、切断ボタンの有効化メッセージに含まれるコマンド情報が示す切断ボタンのコマンドを実行する(ステップS144)。例えば、制御部170は、マイク151をOFFにして、音声入力を無効化する。また、制御部170は、MiracastのPAUSE設定を行い、ソース機器200への音声データ送信を一時停止する。また、制御部170は、制御信号送受信部160を制御して切断ボタンに係る連携要求メッセージをソース機器200に送信する。例えば、制御部170は、連携要求メッセージとして、切断ボタンにタッチされたことを示す操作情報を含むメッセージ、およびPAUSE設定用メッセージを送信する。これにより、ソース機器200と発呼相手との無線接続が切断され、音声通話が終了される。よって、例えば音声通話画面からメニュー画面に画面遷移して、切断ボタンが非表示となる。これに伴い、ソース機器200は、切断ボタンの無効化メッセージをシンク機器100に送信することとなる。切断ボタンの無効化メッセージが制御信号送受信部160により受信されると、制御部170は、切断ボタンを無効化する(ステップS146)。
以上、本実施形態に係るシンク機器100により実行される着呼処理および発呼処理の流れを説明した。上記ステップS108以降の処理は、必要に応じて繰り返されてもよい。本実施形態に係るシンク機器100は、有効化メッセージを受信するとコマンド領域が有効化され、コマンド領域が操作された場合に直接的にコマンドを実行することが可能である。例えばシンク機器100は、着呼ボタン、発呼ボタン、および切断ボタンがタッチされた場合、ソース機器200による判断および指示を経ることなく、直接的にマイク151のON/OFF等の各種処理を行うことができる。このため、タッチされてからシンク機器100が動作するまでの間にソース機器200との間で送受信される制御メッセージの数が削減されるため、レスポンスが高速化され、また消費電力が削減される。
また、シンク機器100は、Miracast接続を双方向で予め確立しておくことにより、音声通話が必要になったときに初めて双方向の接続を確立する場合と比較して、レスポンスの高速化を図ることができる。また、シンク機器100は、音声通話が行われていない間はPAUSE設定を行い、音声通話が行われる間のみPAUSE解除設定を行うことにより、低消費電力化を実現することができる。
[4−2−2.ソース機器200の着呼/発呼時の動作]
図9、図10は、本実施形態に係るソース機器200により実行される着呼処理および発呼処理の流れの一例を示す図である。
図9を参照すると、まず、ソース機器200の制御部270は、ソース機器200内の各装置の初期化処理および準備処理を行う(ステップS202)。次いで、制御部270は、無線通信部210を制御して、シンク機器100の無線通信部110との無線接続を確立する(ステップS204)。次に、無線通信部210は、シンク機器100とのMiracast接続を双方向で確立する(ステップS206)。詳しくは、まず、制御部270は、制御信号送受信部260を制御して、シンク機器100の制御信号送受信部160と制御メッセージを送受信することで各種ネゴシエーションを行う。そして、制御部270は、ストリーム送受信部220および圧縮展開部230を制御して、コンテンツ取得部240により取得されたコンテンツを無線信号に変換して、無線通信部210によりシンク機器100へ送信する。この処理により、ソース機器200は、ソース機器として動作して、シンク機器に送信したコンテンツを再生させることが可能となる。また、制御部270は、ストリーム送受信部220および圧縮展開部230を制御して、無線通信部210によりシンク機器100から受信された無線信号からコンテンツデータを復号し、コンテンツ再生部250から出力させる。この処理により、ソース機器200は、シンク機器として動作して、ソース機器として機能するシンク機器100から受信したコンテンツを再生することが可能となる。このような双方向の接続により、例えば、電話等の音声通話を行う際に、スピーカ152により相手の音声を再生し、マイク151により取得されたユーザ音声を通話相手に伝送することが可能となる。ここで、音声通話が行われていない間は、シンク機器100からのマイク音声の受信は不要であるため、制御部270は、MiracastのPAUSE設定を行い、シンク機器100からの音声データの受信を一時PAUSEすることが好ましい。
次いで、制御部270は、着呼画面が表示されるか否かを判定する(ステップS208)。着呼画面は、例えば公衆網無線通信網を用いて外部から電話が掛かってきてから音声通話が開始されるまでの間に表示される。着呼画面が表示されていないと判定された場合(ステップS208/NO)、制御部270は、発呼画面が表示されるか否かを判定する(ステップS226)。発呼画面とは、例えば、公衆網無線通信網を用いて電話を掛ける際の、通話相手を選択する画面又は電話番号を入力する画面であり、発呼ボタンをタッチすると電話を掛けることができる画面である。いずれも表示されていないと判定された場合(ステップS226/NO)、処理は再度ステップS208に戻る。
外部からの着呼があり着呼画面が表示された場合(ステップS208/YES)、制御部270は、制御信号送受信部260を制御して、着呼ボタンの有効化メッセージをシンク機器100に送信する(ステップS210)。これにより、シンク機器100において、着呼ボタンを有効化される。次いで、制御部270は、シンク機器100において着呼ボタンがタッチされたか否かを判定する(ステップS212)。制御部270は、着呼ボタンへのタッチに起因する連携要求メッセージがシンク機器100から受信された場合に、着呼ボタンがタッチされたと判定する。
着呼ボタンにタッチされていないと判定された場合(ステップS212/NO)、制御部270は、着呼画面の表示が継続しているか否かを判定する(ステップS228)。着呼画面の表示が継続していると判定された場合(ステップS228/YES)、処理は再度ステップS212に戻り、制御部270は着呼ボタンにタッチされたか否かの判定を繰り返す。一方で、着呼画面の表示が終了したと判定された場合(ステップS228/NO)、制御部270は、制御信号送受信部260を制御して、着呼ボタンの無効化メッセージをシンク機器100に送信する(ステップS230)。これにより、シンク機器100において、着呼ボタンが無効化される。そして、処理は再度ステップS208に戻る。
着呼ボタンにタッチされたと判定された場合(ステップS212/YES)、制御部270は、着呼処理を行う(ステップS214)。例えば、制御部270は、連携要求メッセージに基づいて、無線通信部210を制御して着呼相手との無線接続を確立して、ソース機器200と着呼相手との音声通話を開始する。また、制御部270は、MiracastのPLAY設定用メッセージに基づいてPAUSE解除設定を行い、シンク機器100からの音声データ受信を再開する。これにより、シンク機器100のマイク151により取得されたユーザ音声を、通話相手に伝送することが可能となる。音声通話が開始されると、例えば着呼画面から音声通話画面に画面遷移して、着呼ボタンが非表示となり切断ボタンが表示される。これに伴い、制御部270は、制御信号送受信部260を制御して、着呼ボタンの無効化メッセージおよび切断ボタンの有効化メッセージをシンク機器100に送信する(ステップS216、S218)これにより、シンク機器100において、着呼ボタンが無効化され、切断ボタンが有効化される。
次いで、制御部270は、シンク機器100において切断ボタンがタッチされたか否かを判定する(ステップS220)。制御部270は、切断ボタンへのタッチに起因する連携要求メッセージがシンク機器100から受信された場合に、切断ボタンがタッチされたと判定する。切断ボタンにタッチされない場合(ステップS220/NO)、処理は再度ステップS220に戻り、制御部270は切断ボタンにタッチされたか否かの判定を繰り返す。一方で、切断ボタンにタッチされたと判定された場合(ステップS220/YES)、制御部270は、切断処理を行う(ステップS222)。例えば、制御部270は、連携要求メッセージに基づいて、無線通信部210を制御して着呼相手との無線接続を切断する。また、制御部270は、MiracastのPAUSE設定用メッセージに基づいてPAUSE設定を行い、シンク機器100からの音声データ受信を一時停止する。このようにして音声通話が終了すると、例えば音声通話画面からメニュー画面に画面遷移して、切断ボタンが非表示となる。これに伴い、制御部270は、制御信号送受信部260を制御して、切断ボタンの無効化メッセージをシンク機器100に送信する(ステップS224)。これにより、シンク機器100において、切断ボタンが無効化される。
Miracast接続が確立(ステップS206)した後、発呼画面が表示された場合(ステップS226/YES)、図10を参照すると、制御部270は、制御信号送受信部260を制御して、発呼ボタンの有効化メッセージをシンク機器100に送信する(ステップS232)。これにより、シンク機器100において、発呼ボタンが有効化される。次いで、制御部270は、シンク機器100において発呼ボタンがタッチされたか否かを判定する(ステップS234)。制御部270は、発呼ボタンへのタッチに起因する連携要求メッセージがシンク機器100から受信された場合に、発呼ボタンがタッチされたと判定する。
発呼ボタンにタッチされていないと判定された場合(ステップS234/NO)、制御部270は、発呼画面の表示が継続しているか否かを判定する(ステップS248)。発呼画面の表示が継続していると判定された場合(ステップS248/YES)、処理は再度ステップS234に戻り、制御部270は発呼ボタンにタッチされたか否かの判定を繰り返す。一方で、例えばユーザが発呼を中止するなどして、発呼画面の表示が終了したと判定された場合(ステップS248/NO)、制御部270は、制御信号送受信部260を制御して、発呼ボタンの無効化メッセージをシンク機器100に送信する(ステップS250)。これにより、シンク機器100において、発呼ボタンが無効化される。そして、処理は再度ステップS208に戻る。
発呼ボタンにタッチされたと判定された場合(ステップS234/YES)、制御部270は、発呼処理を行う(ステップS236)。例えば、制御部270は、連携要求メッセージに基づいて、無線通信部210を制御して発呼相手との無線接続を確立して、ソース機器200と発呼相手との音声通話を開始する。また、制御部270は、MiracastのPLAY設定用メッセージに基づいてPAUSE解除設定を行い、シンク機器100からの音声データ受信を再開する。これにより、シンク機器100のマイク151により取得されたユーザ音声を、通話相手に伝送することが可能となる。音声通話が開始されると、例えば発呼画面から音声通話画面に画面遷移して、発呼ボタンが非表示となり切断ボタンが表示される。これに伴い、制御部270は、制御信号送受信部260を制御して、発呼ボタンの無効化メッセージおよび切断ボタンの有効化メッセージをシンク機器100に送信する(ステップS238、S240)これにより、シンク機器100において、発呼ボタンが無効化され、切断ボタンが有効化される。
次いで、制御部270は、シンク機器100において切断ボタンがタッチされたか否かを判定する(ステップS242)。制御部270は、切断ボタンへのタッチに起因する連携要求メッセージがシンク機器100から受信された場合に、切断ボタンがタッチされたと判定する。切断ボタンにタッチされない場合(ステップS242/NO)、処理は再度ステップS220に戻り、制御部270は切断ボタンにタッチされたか否かの判定を繰り返す。一方で、切断ボタンにタッチされたと判定された場合(ステップS242/YES)、制御部270は、切断処理を行う(ステップS244)。例えば、制御部270は、連携要求メッセージに基づいて、無線通信部210を制御して発呼相手との無線接続を切断する。また、制御部270は、MiracastのPAUSE設定用メッセージに基づいてPAUSE設定を行い、シンク機器100からの音声データ受信を一時停止する。このようにして音声通話が終了すると、例えば音声通話画面からメニュー画面に画面遷移して、切断ボタンが非表示となる。これに伴い、制御部270は、制御信号送受信部260を制御して、切断ボタンの無効化メッセージをシンク機器100に送信する(ステップS246)。これにより、シンク機器100において、切断ボタンが無効化される。
以上、本実施形態に係るソース機器200により実行される着呼処理および発呼処理の流れを説明した。上記ステップS208以降の処理は、必要に応じて繰り返されてもよい。本実施形態に係るソース機器200は、有効化メッセージを送信することで、シンク機器100における直接的なコマンド実行を可能にする。このため、シンク機器100においてユーザ操作が取得されてから動作するまでの間に、シンク機器100との間で送受信される制御メッセージの数が削減されるため、レスポンスが高速化され、また消費電力が削減される。
[4−3.メッセージ送受信の流れ]
続いて、図7〜図10を参照して上記説明した、シンク機器100およびソース機器200において送受信される制御メッセージおよび各装置の動作の対応関係を、図11〜図17を参照して説明する。
(発呼処理)
図11は、本実施形態に係る通信システム1において実行される発呼処理の流れの一例を示すシーケンス図である。
図11に示すように、まず、シンク機器100およびソース機器200は、WFD(Wi−Fi Direct)を用いて、Miracast接続を双方向で確立する(ステップS302)。このとき、シンク機器100は、シンク機器100のマイク151により取得される音声データの送信に関してMiracastのPAUSE設定を行い、シンク機器100からソース機器200への音声データの送信を一時停止する(ステップS304)。
シンク機器100およびソース機器200において発呼画面が表示されると(ステップS306)、ソース機器200はシンク機器100へ発呼ボタンの有効化メッセージを送信する(ステップS308)。これにより、シンク機器100において発呼ボタンが有効化される。ここで、図12を参照して、発呼画面および発呼ボタンの一例を説明する。
図12は、発呼画面および発呼ボタンの一例を示す図である。図12左図は、電話番号を入力する画面であり、発信ボタン300aがタッチされた場合に、入力された電話番号宛てに発信することが可能な発呼画面である。図12右図は、発信履歴を表示する画面であり、発信履歴300bまたは発信ボタン300cがタッチされた場合に、発信履歴が示す電話番号宛てに発信することが可能な発呼画面である。図12では、発信ボタン300a、300、および発信履歴300bが発呼ボタンとして機能する。図12右図に示すように、コマンド領域は複数であってもよい。
シンク機器100において、発呼ボタンへのタッチが認識されると(ステップS310)、シンク機器100はソース機器200へ連携要求メッセージを送信する。例えば、シンク機器100は、発呼ボタンへタッチされたことを示す操作情報を、UIBCを用いて送信する(ステップS312)。また、シンク機器100は、シンク機器100のマイク151により取得される音声データの送信に関してPAUSE解除設定を行い、ソース機器200への音声データ送信を再開する(ステップS314)。次に、シンク機器100は、発呼ボタンへのタッチの認識に応じて、マイク151をONにして音声入力を有効化する(ステップS316a)。一方で、ソース機器200は、受信した連携要求メッセージに基づいて発呼処理を行う(ステップS316b)。そして、ソース機器200は、発呼画面から音声通話画面への遷移による発呼ボタンの非表示化および切断ボタンの表示に合わせて、発呼ボタンの無効化メッセージおよび切断ボタンの有効化メッセージをシンク機器100へ送信する(ステップS318、S320)。これにより、シンク機器100およびソース機器200と、発呼相手との音声通話が行われる(ステップS322)。ここで、図13を参照して、音声通話画面および切断ボタンの一例を説明する。
図13は、音声通話画面および切断ボタンの一例を示す図である。図13に示した音声通話画面では、音声通話中の相手が表示されると共に、切断ボタン310が表示されている。切断ボタン310がタッチされると、音声通話が終了する。
シンク機器100において切断ボタンへのタッチが認識されると(ステップS324)、シンク機器100はソース機器200へ連携要求メッセージを送信する。例えば、シンク機器100は、切断ボタンへタッチされたことを示す操作情報を、UIBCを用いて送信する(ステップS326)。また、シンク機器100は、シンク機器100のマイク151により取得される音声データの送信に関してPAUSE設定を行い、ソース機器200への音声データ送信を一時停止する(ステップS328)。次に、シンク機器100は、切断ボタンへのタッチの認識に応じて、マイク151をOFFにして音声入力を無効化する(ステップS330a)。一方で、ソース機器200は、受信した連携要求メッセージに基づいて切断処理を行う(ステップS330b)。そして、ソース機器200は、音声通話画面の終了および切断ボタンの非表示化に合わせて、切断ボタンの無効化メッセージをシンク機器100へ送信する(ステップS332)。これにより、シンク機器100およびソース機器200と発呼相手との音声通話が終了する。
図11では、シンク機器100により音声通話の切断が行われる例を説明したが、相手側から音声通話の切断が行われる場合も考えられる。このような場合の処理について、図14を参照して説明する。
図14は、本実施形態に係る通信システム1において実行される発呼処理の流れの一例を示すシーケンス図である。図14のステップS302〜S322における処理は、図11を参照して上記説明した通りであるので、ここでの説明は省略する。
図14に示すように、相手側から音声通話の切断が行われると(ステップS334)、ソース機器200は、切断処理を行う(ステップS336)。次に、ソース機器200は、シンク機器100のマイク151により取得される音声データの受信に関してPAUSE設定を行い、シンク機器100からの音声データ受信を一時停止する(ステップS338)。次いで、シンク機器100は、PAUSEを受信したことにより、マイク151をOFFにして音声入力を無効化する(ステップS340)。そして、ソース機器200は、音声通話画面の終了および切断ボタンの非表示化に合わせて、切断ボタンの無効化メッセージをシンク機器100へ送信する(ステップS342)。これにより、シンク機器100およびソース機器200と発呼相手との音声通話が終了する。
以上、発呼処理に関して送受信される制御メッセージおよび各装置の動作の対応関係を説明した。続いて、図15〜図17を参照して、着呼処理に関して送受信される制御メッセージおよび各装置の動作の対応関係を説明する。
(着呼処理)
図15は、本実施形態に係る通信システム1において実行される着呼処理の流れの一例を示すシーケンス図である。
図15に示すように、まず、シンク機器100およびソース機器200は、WFDを用いて、Miracast接続を双方向で確立する(ステップS402)。このとき、シンク機器100は、シンク機器100のマイク151により取得される音声データの送信に関してMiracastのPAUSE設定を行い、シンク機器100からソース機器200への音声データの送信を一時停止する(ステップS404)。
シンク機器100およびソース機器200において着呼画面が表示されると(ステップS406)、ソース機器200はシンク機器100へ着呼ボタンの有効化メッセージを送信する(ステップS408)。これにより、シンク機器100において着呼ボタンが有効化される。ここで、図16を参照して、着呼画面および着呼ボタンの一例を説明する。
図16は、着呼画面および着呼ボタンの一例を示す図である。図16に示すように、電話の発信元である着呼相手が表示されると共に、着呼ボタン400が表示されている。この例では、着呼ボタン400の左側のアイコンがタッチされて右方向にスワイプされると、着呼相手との音声通話が可能となる。もちろん、着呼ボタンは、単にタッチされた場合に着呼相手との音声通話が可能となるものであってもよい。
シンク機器100において着呼ボタンへのタッチ(スワイプ)が認識されると(ステップS410)、シンク機器100はソース機器200へ連携要求メッセージを送信する。例えば、シンク機器100は、着呼ボタンへタッチされたことを示す操作情報を、UIBCを用いて送信する(ステップS412)。また、シンク機器100は、シンク機器100のマイク151により取得される音声データの送信に関してPAUSE解除設定を行い、ソース機器200への音声データ送信を再開する(ステップS414)。次に、シンク機器100は、着呼ボタンへのタッチの認識に応じて、マイク151をONにして音声入力を有効化する(ステップS416a)。一方で、ソース機器200は、受信した連携要求メッセージに基づいて着呼処理を行う(ステップS416b)。そして、ソース機器200は、着呼画面から音声通話画面への遷移による着呼ボタンの非表示化および切断ボタンの表示に合わせて、着呼ボタンの無効化メッセージおよび切断ボタンの有効化メッセージをシンク機器100へ送信する(ステップS418、S420)。これにより、シンク機器100およびソース機器200と着呼相手との音声通話が行われる(ステップS422)。音声通話画面および切断ボタンの具体例は、例えば図13を参照して上記説明した通りである。
シンク機器100において切断ボタンへのタッチが認識されると(ステップS424)、シンク機器100はソース機器200へ連携要求メッセージを送信する。例えば、シンク機器100は、切断ボタンへタッチされたことを示す操作情報を、UIBCを用いて送信する(ステップS426)。また、シンク機器100は、シンク機器100のマイク151により取得される音声データの送信に関してPAUSE設定を行い、ソース機器200への音声データ送信を一時停止する(ステップS428)。次に、シンク機器100は、切断ボタンへのタッチの認識に応じて、マイク151をOFFにして音声入力を無効化する(ステップS430a)。一方で、ソース機器200は、受信した連携要求メッセージに基づいて切断処理を行う(ステップS430b)。そして、ソース機器200は、音声通話画面の終了および切断ボタンの非表示化に合わせて、切断ボタンの無効化メッセージをシンク機器100へ送信する(ステップS432)。これにより、シンク機器100およびソース機器200と着呼相手との音声通話が終了する。
図15では、シンク機器100により音声通話の切断が行われる例を説明したが、相手側から音声通話の切断が行われる場合も考えられる。このような場合の処理について、図17を参照して説明する。
図17は、本実施形態に係る通信システム1において実行される着呼処理の流れの一例を示すシーケンス図である。図17のステップS402〜S422における処理は、図15を参照して上記説明した通りであるので、ここでの説明は省略する。
図17に示すように、相手側から音声通話の切断が行われると(ステップS434)、ソース機器200は、切断処理を行う(ステップS436)。次に、ソース機器200は、シンク機器100のマイク151により取得される音声データの受信に関してPAUSE設定を行い、シンク機器100からの音声データ受信を一時停止する(ステップS438)。次いで、シンク機器100は、PAUSEを受信したことにより、マイク151をOFFにして音声入力を無効化する(ステップS440)。そして、ソース機器200は、音声通話画面の終了および切断ボタンの非表示化に合わせて、切断ボタンの無効化メッセージをシンク機器100へ送信する(ステップS442)。これにより、シンク機器100およびソース機器200と着呼相手との音声通話が終了する。
以上、着呼処理および発呼処理において送受信される制御メッセージ、および各装置の動作の対応関係を説明した。
[4−4.補足]
図18〜図23に、Miracastで定義されたメッセージのシーケンスを示す。図18は、シンク機器(Sink)とソース機器(Source)とがWFDで接続を開始してから、ソース機器によるコンテンツの送信およびシンク機器におけるコンテンツ再生が行われ、その後切断されるまでの間のメッセージシーケンスの全体像を示している。図19は、図18における能力交渉手続(WFD Capability Negotiation)の詳細なRTSPメッセージシーケンスを示している。また、図20は、図18におけるセッション確立手続(WFD Session Establishment)の詳細なRTSPメッセージシーケンスを示している。図21は、コンテンツ送信のPAUSE設定を行うためのRTSPメッセージシーケンスを示している。図22は、コンテンツ送受信のPAUSE解除設定(PLAY設定)を行うためのRTSPメッセージシーケンスを示している。図23は、UIBCのRTSPメッセージシーケンスを示している。なお、これらのメッセージシーケンスは、上記非特許文献1に示されたWi−Fiディスプレイの仕様の通りであるので、個々のメッセージに関する詳細な説明は省略する。
<5.第2の実施形態>
本実施形態は、動作設定メッセージを用いず、シンク機器100がソース機器200による制御のもとで各種処理を行う形態である。以下、図24〜図27を参照して、本実施形態に係る動作処理を説明する。
(発呼処理)
図24は、本実施形態に係る通信システム1において実行される発呼処理の流れの一例を示すシーケンス図である。
図24に示すように、まず、シンク機器100およびソース機器200は、WFDを用いて、Miracast接続を双方向で確立する(ステップS502)。このとき、シンク機器100は、シンク機器100のマイク151により取得される音声データの送信に関してMiracastのPAUSE設定を行い、シンク機器100からソース機器200への音声データの送信を一時停止する(ステップS503)。なお、PAUSE設定についてはソース機器200から行われてもよい。発呼画面が表示され(ステップS504)、シンク機器100において発呼ボタンへのタッチが認識されると(ステップS506)、シンク機器100は、発呼ボタンへタッチされたことを示す操作情報を、連携要求メッセージとしてUIBCを用いてソース機器200に送信する(ステップS508)。次いで、ソース機器200は、連携要求メッセージに基づいてシンク機器100において発呼ボタンがタッチされたことを認識して発呼処理を行う(ステップS510)。次に、ソース機器200は、マイクON処理を実行するよう指示する制御メッセージをシンク機器100に送信する(ステップS512)。また、ソース機器200は、シンク機器100のマイク151により取得される音声データの受信に関してPAUSE解除設定を行い、シンク機器100からの音声データ受信を再開する(ステップS513)。次に、シンク機器100は、受信した制御メッセージに従い、マイク151をONにして音声入力を有効化する(ステップS514)。これにより、シンク機器100およびソース機器200と、発呼相手との音声通話が行われる(ステップS516)。
シンク機器100において切断ボタンへのタッチが認識されると(ステップS518)、シンク機器100は、切断ボタンへタッチされたことを示す操作情報を、連携要求メッセージとしてUIBCを用いてソース機器200に送信する(ステップS520)。次いで、ソース機器200は、連携要求メッセージに基づいてシンク機器100において切断ボタンがタッチされたことを認識して切断処理を行う(ステップS522)。次に、ソース機器200は、マイクOFF処理を実行するよう指示する制御メッセージをシンク機器100に送信する(ステップS524)。また、ソース機器200は、シンク機器100のマイク151により取得される音声データの受信に関してPAUSE設定を行い、シンク機器100からの音声データ受信を一時停止する(ステップS525)。次に、シンク機器100は、受信した制御メッセージに従い、マイク151をOFFにして音声入力を無効化する(ステップS526)。これにより、シンク機器100およびソース機器200と、発呼相手との音声通話が終了する。なお、マイクON/OFF処理の実行指示の制御メッセージとPAUSE設定/解除とマージさせて、PAUSE設定されたらシンク機器100はマイクOFFの処理を行い、PAUSE解除されたらシンク機器100はマイクON処理を行うようにしてもよい。
図24では、シンク機器100により音声通話の切断が行われる例を説明したが、相手側から音声通話の切断が行われる場合も考えられる。このような場合の処理について、図25を参照して説明する。
図25は、本実施形態に係る通信システム1において実行される発呼処理の流れの一例を示すシーケンス図である。図25のステップS502〜S516における処理は、図24を参照して上記説明した通りであるので、ここでの説明は省略する。
図25に示すように、相手側から音声通話の切断が行われると(ステップS528)、ソース機器200は、切断処理を行う(ステップS530)。次に、ソース機器200は、マイクOFF処理を実行するよう指示する制御メッセージをシンク機器100に送信する(ステップS532)。また、ソース機器200は、シンク機器100のマイク151により取得される音声データの受信に関してPAUSE設定を行い、シンク機器100からの音声データ受信を一時停止する(ステップS533)。次に、シンク機器100は、受信した制御メッセージに従い、マイク151をOFFにして音声入力を無効化する(ステップS534)。これにより、シンク機器100およびソース機器200と、発呼相手との音声通話が終了する。なお、マイクON/OFF処理の実行指示の制御メッセージとPAUSE設定/解除とマージさせて、PAUSE設定されたらシンク機器100はマイクOFFの処理を行い、PAUSE解除されたらシンク機器100はマイクON処理を行うようにしてもよい。
以上、本実施形態に係る発呼処理の流れの一例を説明した。続いて、図26〜図27を参照して、本実施形態に係る着呼処理の流れの一例を説明する。
(着呼処理)
図26は、本実施形態に係る通信システム1において実行される着呼処理の流れの一例を示すシーケンス図である。
図26に示すように、まず、シンク機器100およびソース機器200は、WFDを用いて、Miracast接続を双方向で確立する(ステップS602)。このとき、シンク機器100は、シンク機器100のマイク151により取得される音声データの送信に関してMiracastのPAUSE設定を行い、シンク機器100からソース機器200への音声データの送信を一時停止する(ステップS603)。なお、PAUSE設定についてはソース機器200から行われてもよい。着呼画面が表示され(ステップS604)、シンク機器100において着呼ボタンへのタッチが認識されると(ステップS606)、シンク機器100は、着呼ボタンへタッチされたことを示す操作情報を、連携要求メッセージとしてUIBCを用いてソース機器200に送信する(ステップS608)。次いで、ソース機器200は、連携要求メッセージに基づいてシンク機器100において着呼ボタンがタッチされたことを認識して着呼処理を行う(ステップS610)。次に、ソース機器200は、マイクON処理を実行するよう指示する制御メッセージをシンク機器100に送信する(ステップS612)。また、ソース機器200は、シンク機器100のマイク151により取得される音声データの受信に関してPAUSE解除設定を行い、シンク機器100からの音声データ受信を再開する(ステップS613)。次に、シンク機器100は、受信した制御メッセージに従い、マイク151をONにして音声入力を有効化する(ステップS614)。これにより、シンク機器100およびソース機器200と、着呼相手との音声通話が行われる(ステップS616)。
シンク機器100において切断ボタンへのタッチが認識されると(ステップS618)、シンク機器100は、切断ボタンへタッチされたことを示す操作情報を、連携要求メッセージとしてUIBCを用いてソース機器200に送信する(ステップS620)。次いで、ソース機器200は、連携要求メッセージに基づいてシンク機器100において切断ボタンがタッチされたことを認識して切断処理を行う(ステップS622)。次に、ソース機器200は、マイクOFF処理を実行するよう指示する制御メッセージをシンク機器100に送信する(ステップS624)。また、ソース機器200は、シンク機器100のマイク151により取得される音声データの受信に関してPAUSE設定を行い、シンク機器100からの音声データ受信を一時停止する(ステップS625)。次に、シンク機器100は、受信した制御メッセージに従い、マイク151をOFFにして音声入力を無効化する(ステップS626)。これにより、シンク機器100およびソース機器200と、着呼相手との音声通話が終了する。なお、マイクON/OFF処理の実行指示の制御メッセージとPAUSE設定/解除とマージさせて、PAUSE設定されたらシンク機器100はマイクOFFの処理を行い、PAUSE解除されたらシンク機器100はマイクON処理を行うようにしてもよい。
図26では、シンク機器100により音声通話の切断が行われる例を説明したが、相手側から音声通話の切断が行われる場合も考えられる。このような場合の処理について、図27を参照して説明する。
図27は、本実施形態に係る通信システム1において実行される着呼処理の流れの一例を示すシーケンス図である。図27のステップS602〜S616における処理は、図26を参照して上記説明した通りであるので、ここでの説明は省略する。
図27に示すように、相手側から音声通話の切断が行われると(ステップS628)、ソース機器200は、切断処理を行う(ステップS630)。次に、ソース機器200は、マイクOFF処理を実行するよう指示する制御メッセージをシンク機器100に送信する(ステップS632)。また、ソース機器200は、シンク機器100のマイク151により取得される音声データの受信に関してPAUSE設定を行い、シンク機器100からの音声データ受信を一時停止する(ステップS633)。次に、シンク機器100は、受信した制御メッセージに従い、マイク151をOFFにして音声入力を無効化する(ステップS634)。これにより、シンク機器100およびソース機器200と、着呼相手との音声通話が終了する。なお、マイクON/OFF処理の実行指示の制御メッセージとPAUSE設定/解除とマージさせて、PAUSE設定されたらシンク機器100はマイクOFFの処理を行い、PAUSE解除されたらシンク機器100はマイクON処理を行うようにしてもよい。
以上、本実施形態に係る動作処理を説明した。本実施形態によれば、シンク機器100は、ソース機器200による制御のもと、マイク151を使用しない間はOFFにしておくことが可能となり、常にONにしておく場合と比較して、消費電力が削減される。なお、ソース機器200側において着呼ボタン、発呼ボタン、または切断ボタンが直接操作された場合、上記説明したメッセージシーケンスと同様に、シンク機器100はソース機器200による制御のもとで動作し得る。
<6.第3の実施形態>
上記第1、第2の実施形態は、シンク機器100とソース機器200とが連携して動作する形態であった。本実施形態は、シンク機器100がソース機器200との連携を行うことなく独自の動作を行う形態である。
詳しくは、本実施形態に係るソース機器200は、コマンド情報として、シンク機器100の環境設定を変更する処理を示す情報を含む動作設定メッセージをシンク機器100に送信する。環境設定としては、例えば音量、画面の明るさ、時刻設定、省電力設定などの多様な設定項目が挙げられる。シンク機器100は、コマンド情報が示す処理が環境設定を変更する処理である場合、コマンド領域への操作を認識した場合の連携要求メッセージの送信を中止する。つまり、シンク機器100は、コマンドを実行しても連携要求メッセージを送信しない。このため、本実施形態に係る通信システム1では、シンク機器100側で環境設定を変更する操作が行われた場合、シンク機器100側では設定変更が反映されるが、ソース機器200側では操作を認識できないため設定変更が反映されない。
これと同様に、ソース機器200は、環境設定を変更する操作を認識した場合、環境設定を変更する処理をシンク機器100に実行させるための制御メッセージをシンク機器100に送信しない。このため、本実施形態に係る通信システム1では、ソース機器200側で環境設定を変更する操作が行われた場合、ソース機器200側では設定変更が反映されるが、シンク機器100側では操作を認識できないため設定変更が反映されない。
例えば、ユーザが車載モニタ100を操作して音量を調節する場合、ユーザは車載モニタ100側の音量を調節することを意図しており、スマートフォン200側の音量までも調節することを意図していない。本実施形態では、通信システム1に含まれる装置のうち、ユーザが環境設定を変更する操作を行った装置のみ設定変更が反映されるので、ユーザの意図に応じた設定変更を実現することができる。
ここで一例として、図28、図29を参照して、本実施形態に係る環境設定画面の表示例および動作設定メッセージの具体例を示す。図28、図29は、本実施形態に係る環境設定画面の表示例を示す図である。図28に示した環境設定画面では、音量の設定領域700、710、720をスワイプされた場合、シンク機器100またはソース機器200は、スワイプの方向および量に応じて、操作された装置のみの音量を調節することが可能である。図28に示した環境設定画面に関する動作設定メッセージの一例を以下に示す。
<有効化メッセージ>
座標情報:(X1,Y1),(X2,Y2)
種別情報:(スワイプ)
コマンド情報:(音量)
フラグ情報:(有効)
<無効化メッセージ>
座標情報:(X1,Y1),(X2,Y2)
種別情報:(スワイプ)
コマンド情報:(音量)
フラグ情報:(無効)
また、図29に示した環境設定画面では、明るさの設定領域730をスワイプされた場合、シンク機器100またはソース機器200は、スワイプの方向および量に応じて、操作された装置のみの画面の明るさを調節することが可能である。図29に示した環境設定画面に関する動作設定メッセージの一例を以下に示す。
<有効化メッセージ>
座標情報:(X1,Y1),(X2,Y2)
種別情報:(スワイプ)
コマンド情報:(明るさ)
フラグ情報:(有効)
<無効化メッセージ>
座標情報:(X1,Y1),(X2,Y2)
種別情報:(スワイプ)
コマンド情報:(明るさ)
フラグ情報:(無効)
本実施形態では、通信システム1に含まれる装置のうち、ユーザが環境設定を変更する操作を行った装置のみ設定変更が反映されるので、ユーザの意図に応じた設定変更を実現することができる。なお、上記では、環境設定を変更する操作については、シンク機器100またはソース機器200のうち、操作を受け付けた方の装置のみ設定変更を反映すると説明したが、本実施形態はこれに限定されない。例えば、ユーザ設定に応じて、環境設定の変更する操作であっても、シンク機器100およびソース機器200の双方で設定変更を反映してもよい。
<7.応用例>
本開示に係る技術は、様々な製品へ応用可能である。例えば、シンク機器100およびソース機器200は、スマートフォン、タブレットPC(Personal Computer)、ノートPC、携帯型ゲーム端末若しくはデジタルカメラなどのモバイル端末、テレビジョン受像機、プリンタ、デジタルスキャナ若しくはネットワークストレージなどの固定端末、又はカーナビゲーション装置などの車載端末として実現されてもよい。また、シンク機器100およびソース機器200は、スマートメータ、自動販売機、遠隔監視装置又はPOS(Point Of Sale)端末などの、M2M(Machine To Machine)通信を行う端末(MTC(Machine Type Communication)端末ともいう)として実現されてもよい。さらに、シンク機器100およびソース機器200は、これら端末に搭載される無線通信モジュール(例えば、1つのダイで構成される集積回路モジュール)であってもよい。
[7−1.第1の応用例]
図30は、本開示に係る技術が適用され得るスマートフォン900の概略的な構成の一例を示すブロック図である。スマートフォン900は、プロセッサ901、メモリ902、ストレージ903、外部接続インタフェース904、カメラ906、センサ907、マイクロフォン908、入力デバイス909、表示デバイス910、スピーカ911、無線通信インタフェース913、アンテナスイッチ914、アンテナ915、バス917、バッテリー918及び補助コントローラ919を備える。
プロセッサ901は、例えばCPU(Central Processing Unit)又はSoC(System on Chip)であってよく、スマートフォン900のアプリケーションレイヤ及びその他のレイヤの機能を制御する。メモリ902は、RAM(Random Access Memory)及びROM(Read Only Memory)を含み、プロセッサ901により実行されるプログラム及びデータを記憶する。ストレージ903は、半導体メモリ又はハードディスクなどの記憶媒体を含み得る。外部接続インタフェース904は、メモリーカード又はUSB(Universal Serial Bus)デバイスなどの外付けデバイスをスマートフォン900へ接続するためのインタフェースである。
カメラ906は、例えば、CCD(Charge Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子を有し、撮像画像を生成する。センサ907は、例えば、測位センサ、ジャイロセンサ、地磁気センサ及び加速度センサなどのセンサ群を含み得る。マイクロフォン908は、スマートフォン900へ入力される音声を音声信号へ変換する。入力デバイス909は、例えば、表示デバイス910の画面上へのタッチを検出するタッチセンサ、キーパッド、キーボード、ボタン又はスイッチなどを含み、ユーザからの操作又は情報入力を受け付ける。表示デバイス910は、液晶ディスプレイ(LCD)又は有機発光ダイオード(OLED)ディスプレイなどの画面を有し、スマートフォン900の出力画像を表示する。スピーカ911は、スマートフォン900から出力される音声信号を音声に変換する。
無線通信インタフェース913は、IEEE802.11a、11b、11g、11n、11ac及び11adなどの無線LAN標準のうちの1つ以上をサポートし、無線通信を実行する。無線通信インタフェース913は、インフラストラクチャーモードにおいては、他の装置と無線LANアクセスポイントを介して通信し得る。また、無線通信インタフェース913は、アドホックモード又はWi−Fi Direct等のダイレクト通信モードにおいては、他の装置と直接的に通信し得る。なお、Wi−Fi Directでは、アドホックモードとは異なり2つの端末の一方がアクセスポイントとして動作するが、通信はそれら端末間で直接的に行われる。無線通信インタフェース913は、典型的には、ベースバンドプロセッサ、RF(Radio Frequency)回路及びパワーアンプなどを含み得る。無線通信インタフェース913は、通信制御プログラムを記憶するメモリ、当該プログラムを実行するプロセッサ及び関連する回路を集積したワンチップのモジュールであってもよい。無線通信インタフェース913は、無線LAN方式に加えて、近距離無線通信方式、近接無線通信方式又はセルラ通信方式などの他の種類の無線通信方式をサポートしてもよい。アンテナスイッチ914は、無線通信インタフェース913に含まれる複数の回路(例えば、異なる無線通信方式のための回路)の間でアンテナ915の接続先を切り替える。アンテナ915は、単一の又は複数のアンテナ素子(例えば、MIMOアンテナを構成する複数のアンテナ素子)を有し、無線通信インタフェース913による無線信号の送信及び受信のために使用される。
なお、図30の例に限定されず、スマートフォン900は、複数のアンテナ(例えば、無線LAN用のアンテナ及び近接無線通信方式用のアンテナ、など)を備えてもよい。その場合に、アンテナスイッチ914は、スマートフォン900の構成から省略されてもよい。
バス917は、プロセッサ901、メモリ902、ストレージ903、外部接続インタフェース904、カメラ906、センサ907、マイクロフォン908、入力デバイス909、表示デバイス910、スピーカ911、無線通信インタフェース913及び補助コントローラ919を互いに接続する。バッテリー918は、図中に破線で部分的に示した給電ラインを介して、図30に示したスマートフォン900の各ブロックへ電力を供給する。補助コントローラ919は、例えば、スリープモードにおいて、スマートフォン900の必要最低限の機能を動作させる。
図30に示したスマートフォン900は、シンク機器として動作し得る。その場合、スマートフォン900は、例えば図2を用いて説明したシンク機器100の機能を有していてもよい。それにより、スマートフォン900は、動作設定メッセージに基づいて動作することで、ソース機器による制御を経ることなく、ユーザ操作に応じた処理を直接的に実行することができる。また、スマートフォン900は、ソース機器として動作し得る。その場合、スマートフォン900は、例えば図4を用いて説明したソース機器200の機能を有していてもよい。それにより、スマートフォン900は、動作設定メッセージを送信することで、シンク機器による独自の動作を可能にする。
[7−2.第2の応用例]
図31は、本開示に係る技術が適用され得るカーナビゲーション装置920の概略的な構成の一例を示すブロック図である。カーナビゲーション装置920は、プロセッサ921、メモリ922、GPS(Global Positioning System)モジュール924、センサ925、データインタフェース926、コンテンツプレーヤ927、記憶媒体インタフェース928、入力デバイス929、表示デバイス930、スピーカ931、無線通信インタフェース933、アンテナスイッチ934、アンテナ935及びバッテリー938を備える。
プロセッサ921は、例えばCPU又はSoCであってよく、カーナビゲーション装置920のナビゲーション機能及びその他の機能を制御する。メモリ922は、RAM及びROMを含み、プロセッサ921により実行されるプログラム及びデータを記憶する。
GPSモジュール924は、GPS衛星から受信されるGPS信号を用いて、カーナビゲーション装置920の位置(例えば、緯度、経度及び高度)を測定する。センサ925は、例えば、ジャイロセンサ、地磁気センサ及び気圧センサなどのセンサ群を含み得る。データインタフェース926は、例えば、図示しない端子を介して車載ネットワーク941に接続され、車速データなどの車両側で生成されるデータを取得する。
コンテンツプレーヤ927は、記憶媒体インタフェース928に挿入される記憶媒体(例えば、CD又はDVD)に記憶されているコンテンツを再生する。入力デバイス929は、例えば、表示デバイス930の画面上へのタッチを検出するタッチセンサ、ボタン又はスイッチなどを含み、ユーザからの操作又は情報入力を受け付ける。表示デバイス930は、LCD又はOLEDディスプレイなどの画面を有し、ナビゲーション機能又は再生されるコンテンツの画像を表示する。スピーカ931は、ナビゲーション機能又は再生されるコンテンツの音声を出力する。
無線通信インタフェース933は、IEEE802.11a、11b、11g、11n、11ac及び11adなどの無線LAN標準のうちの1つ以上をサポートし、無線通信を実行する。無線通信インタフェース933は、インフラストラクチャーモードにおいては、他の装置と無線LANアクセスポイントを介して通信し得る。また、無線通信インタフェース933は、アドホックモード又はWi−Fi Direct等のダイレクト通信モードにおいては、他の装置と直接的に通信し得る。無線通信インタフェース933は、典型的には、ベースバンドプロセッサ、RF回路及びパワーアンプなどを含み得る。無線通信インタフェース933は、通信制御プログラムを記憶するメモリ、当該プログラムを実行するプロセッサ及び関連する回路を集積したワンチップのモジュールであってもよい。無線通信インタフェース933は、無線LAN方式に加えて、近距離無線通信方式、近接無線通信方式又はセルラ通信方式などの他の種類の無線通信方式をサポートしてもよい。アンテナスイッチ934は、無線通信インタフェース933に含まれる複数の回路の間でアンテナ935の接続先を切り替える。アンテナ935は、単一の又は複数のアンテナ素子を有し、無線通信インタフェース933による無線信号の送信及び受信のために使用される。
なお、図31の例に限定されず、カーナビゲーション装置920は、複数のアンテナを備えてもよい。その場合に、アンテナスイッチ934は、カーナビゲーション装置920の構成から省略されてもよい。
バッテリー938は、図中に破線で部分的に示した給電ラインを介して、図31に示したカーナビゲーション装置920の各ブロックへ電力を供給する。また、バッテリー938は、車両側から給電される電力を蓄積する。
図31に示したカーナビゲーション装置920は、シンク機器として動作し得る。その場合、カーナビゲーション装置920は、例えば図2を用いて説明したシンク機器100の機能を有していてもよい。それにより、カーナビゲーション装置920は、動作設定メッセージに基づいて動作することで、ソース機器による制御を経ることなく、ユーザ操作に応じた処理を直接的に実行することができる。また、カーナビゲーション装置920は、ソース機器として動作し得る。その場合、カーナビゲーション装置920は、例えば図4を用いて説明したソース機器200の機能を有していてもよい。それにより、カーナビゲーション装置920は、動作設定メッセージを送信することで、シンク機器による独自の動作を可能にする。
また、本開示に係る技術は、上述したカーナビゲーション装置920の1つ以上のブロックと、車載ネットワーク941と、車両側モジュール942とを含む車載システム(又は車両)940として実現されてもよい。車両側モジュール942は、車速、エンジン回転数又は故障情報などの車両側データを生成し、生成したデータを車載ネットワーク941へ出力する。
<8.まとめ>
ここまで、図1〜図31を用いて、本開示に係る技術の実施形態を詳細に説明した。上述した実施形態によれば、シンク機器は、ソース機器から受信された画像を表示し、表示された画像のうち動作設定メッセージが示すコマンド領域への操作が取得された場合に動作設定メッセージが示すコマンドを実行する。これにより、シンク機器は、ソース機器によるユーザ操作の認識およびシンク機器への指示を要することなく、ユーザ操作に応じた処理を直接的に実行することが可能となる。従って、シンク機器においてユーザ操作が認識された後の、シンク機器とソース機器との間でのメッセージ交換数が削減されるため、レスポンスが高速化され、また消費電力が削減される。
動作設定メッセージは、コマンド領域を示す座標情報、取得すべき操作の種別を示す種別情報、およびコマンド情報の組み合わせから成る動作設定情報を少なくともひとつ以上含むことが可能である。これにより、シンク機器は、ひとつの画面内で多様な操作を認識して多様なコマンドを直接的に実行することが可能である。また、動作設定メッセージは動作設定情報の有効または無効を指定することが可能であるため、シンク機器は、画面遷移に応じて認識するユーザ操作を切り替えることが可能である。
また、シンク機器およびソース機器は、Miracast接続を双方向で予め確立しておくことにより、コンテンツの送受信が必要になった時に初めて双方向の接続を確立する場合と比較して、レスポンスの高速化を図ることができる。また、シンク機器およびソース機器は、コンテンツの送受信が行われていない間はPAUSE設定を行い、コンテンツの送受信が行われる間のみPAUSE解除設定を行うことにより、低消費電力化を実現することができる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
なお、本明細書において説明した各装置による一連の処理は、ソフトウェア、ハードウェア、及びソフトウェアとハードウェアとの組合せのいずれを用いて実現されてもよい。ソフトウェアを構成するプログラムは、例えば、各装置の内部又は外部に設けられる記憶媒体(非一時的な媒体:non-transitory media)に予め格納される。そして、各プログラムは、例えば、実行時にRAMに読み込まれ、CPUなどのプロセッサにより実行される。
また、本明細書においてフローチャート及びシーケンス図を用いて説明した処理は、必ずしも図示された順序で実行されなくてもよい。いくつかの処理ステップは、並列的に実行されてもよい。また、追加的な処理ステップが採用されてもよく、一部の処理ステップが省略されてもよい。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
他の情報処理装置との間で無線通信を行う無線通信部と、
前記無線通信部により前記他の情報処理装置から受信された画像を表示する表示部と、
前記表示部により表示された前記画像のうち前記無線通信部により前記他の情報処理装置から受信された制御情報が示す領域への操作を取得する取得部と、
前記取得部により取得された操作に応じて前記制御情報が示す処理を行うよう制御する制御部と、
を備える情報処理装置。
(2)
前記制御情報は、前記取得部が操作を取得すべき領域を特定する情報、前記取得部が取得すべき操作の種別を示す情報、および当該領域への操作を受け付けた場合に前記制御部が制御すべき前記処理を示す情報の組み合わせを含む、前記(1)に記載の情報処理装置。
(3)
前記制御情報は、前記組み合わせの有効または無効のいずれかを示す情報を含む、前記(2)に記載の情報処理装置。
(4)
前記制御情報は、前記組み合わせを複数含む、前記(2)または(3)に記載の情報処理装置。
(5)
前記無線通信部は、前記情報処理装置との間で、Wi-Fi CERTIFIED MIRACAST(登録商標)による接続を双方向で確立する、前記(1)〜(4)のいずれか一項に記載の情報処理装置。
(6)
前記制御部は、前記他の情報処理装置に前記制御情報が示す処理に対応する処理を実行させる場合、当該処理を実行させるためのメッセージを、前記無線通信部を介して前記他の情報処理装置に送信する、前記(1)〜(5)のいずれか一項に記載の情報処理装置。
(7)
前記メッセージは、前記取得部により取得された前記操作を示す操作情報を含み、TCP/IP(Transmission Control Protocol/Internet Protocol)上でUIBC(User Input Back Channel)を用いて送信される、前記(6)に記載の情報処理装置。
(8)
前記メッセージは、RTSP(Real Time Streaming Protocol)のPAUSE設定用またはPLAY設定用メッセージを含む、前記(6)または(7)に記載の情報処理装置。
(9)
前記情報処理装置は、音声を入力および出力する音声入出力部を備え、
前記制御情報が示す処理は、前記音声入出力部による音声入力の有効化であり、
前記制御情報が示す処理に対応する処理は、音声通話の発呼または着呼に関する処理である、前記(6)〜(8)のいずれか一項に記載の情報処理装置。
(10)
前記制御情報が示す処理は、前記音声入出力部による音声入力の無効化であり、
前記制御情報が示す処理に対応する処理は、音声通話の切断に関する処理である、前記(9)に記載の情報処理装置。
(11)
前記制御部は、前記制御情報が示す処理が前記情報処理装置の環境設定を変更する処理である場合、前記メッセージの送信を中止する、前記(6)〜(8)のいずれか一項に記載の情報処理装置。
(12)
他の情報処理装置との間で無線通信を行う無線通信部と、
前記無線通信部を介して前記他の情報処理装置に画像を送信させ、前記他の情報処理装置が表示した前記画像のうち指定された領域への操作を取得した場合に対応する処理を行うことを可能にするための制御情報を、前記無線通信部を介して前記他の情報処理装置に送信する制御部と、
を備える情報処理装置。
(13)
前記制御部は、前記無線通信部を介して前記他の情報処理装置から受信したメッセージに基づいて、前記制御情報が示す処理に対応する処理を実行するよう制御する、前記(12)に記載の情報処理装置。
(14)
前記制御部は、前記画像に操作可能な領域が含まれる場合に、前記領域を特定する情報、当該領域において取得すべき操作の種別を示す情報、および当該領域への操作を取得した場合に前記他の情報処理装置が実行すべき処理を示す情報の組み合わせを含む前記制御情報を、前記無線通信部を介して前記他の情報処理装置に送信する、前記(12)または(13)に記載の情報処理装置。
(15)
前記制御情報は、Wi-Fi CERTIFIED Miracast(登録商標)に規定されたメッセージのひとつを拡張されたものを用いて送信される、前記(12)〜(14)のいずれか一項に記載の情報処理装置。
(16)
送信側装置と受信側装置とを備え、
前記送信側装置は、
前記受信側装置との間で無線通信を行う第1の無線通信部と、
前記第1の無線通信部を介して前記受信側装置に画像を送信させ、前記受信側装置が表示した前記画像のうち指定された領域への操作を検出した場合に対応する処理を行うことを可能にするための制御情報を、前記第1の無線通信部を介して前記受信側装置に送信する第1の制御部と、
を有し、
前記受信側装置は、
前記送信側装置との間で無線通信を行う第2の無線通信部と、
前記第2の無線通信部により前記送信側装置から受信された前記画像を表示する表示部と、
前記表示部により表示された前記画像のうち前記第2の無線通信部により前記送信側装置から受信された前記制御情報が示す領域への操作を取得する取得部と、
前記取得部により取得された前記操作に応じて前記制御情報が示す処理を行うよう制御する制御部と、
を有する、情報処理システム。
(17)
他の情報処理装置との間で無線通信を行うことと、
前記他の情報処理装置から受信された画像を表示することと、
表示された前記画像のうち前記他の情報処理装置から受信された制御情報が示す領域への操作を取得することと、
取得された前記操作に応じて前記制御情報が示す処理を行うよう情報処理装置を制御することと、
を含む、プロセッサにより実行される情報処理方法。
1 通信システム
100 シンク機器
110 無線通信部
120 ストリーム送受信部
130 圧縮展開部
140 表示部
150 音声入出力部
160 制御信号送受信部
170 制御部
180 ユーザインタフェース部
200 ソース機器
210 無線通信部
220 ストリーム送受信部
230 圧縮展開部
240 コンテンツ取得部
250 コンテンツ再生部
260 制御信号送受信部
270 制御部
280 ユーザインタフェース部
300 基地局
400 外部機器

Claims (13)

  1. 情報処理装置であって、
    他の情報処理装置との間で無線通信を行う無線通信部と、
    前記無線通信部により前記他の情報処理装置から受信された画像を表示する表示部と、
    前記表示部により表示された前記画像のうち前記無線通信部により前記他の情報処理装置から受信された制御情報が示す領域への操作を取得する取得部と、
    前記取得部により取得された操作に応じて、前記制御情報が示す第1の処理を前記情報処理装置が行うよう制御し、及び前記他の情報処理装置に前記第1の処理に対応する前記第1の処理と異なる第2の処理を実行させるためのメッセージを、前記無線通信部を介して前記他の情報処理装置に送信するよう制御する制御部と、
    音声を入力および出力する音声入出力部と、
    を備え
    前記制御情報が示す処理は、前記音声入出力部による音声入力の有効化であり、
    前記制御情報が示す処理に対応する処理は、音声通話の発呼または着呼に関する処理である、情報処理装置。
  2. 前記制御情報は、前記取得部が操作を取得すべき領域を特定する情報、前記取得部が取得すべき操作の種別を示す情報、および当該領域への操作を受け付けた場合に前記制御部が制御すべき前記第1の処理を示す情報の組み合わせを含む、請求項1に記載の情報処理装置。
  3. 前記制御情報は、前記組み合わせの有効または無効のいずれかを示す情報を含む、請求項2に記載の情報処理装置。
  4. 前記制御情報は、前記組み合わせを複数含む、請求項2又は3に記載の情報処理装置。
  5. 前記無線通信部は、前記情報処理装置との間で、Wi-Fi CERTIFIED MIRACAST(登録商標)による接続を双方向で確立する、請求項1〜4のいずれか一項に記載の情報処理装置。
  6. 前記メッセージは、前記取得部により取得された前記操作を示す操作情報を含み、TCP/IP(Transmission Control Protocol/Internet Protocol)上でUIBC(User Input Back Channel)を用いて送信される、請求項1〜5のいずれか一項に記載の情報処理装置。
  7. 前記メッセージは、RTSP(Real Time Streaming Protocol)のPAUSE設定用またはPLAY設定用メッセージを含む、請求項1〜6のいずれか一項に記載の情報処理装置。
  8. 前記制御情報が示す処理は、前記音声入出力部による音声入力の無効化であり、
    前記制御情報が示す処理に対応する処理は、音声通話の切断に関する処理である、請求項1〜7のいずれか一項に記載の情報処理装置。
  9. 情報処理装置であって、
    他の情報処理装置との間で無線通信を行う無線通信部と、
    前記無線通信部を介して前記他の情報処理装置に画像を送信させ、前記他の情報処理装置が表示した前記画像のうち指定された領域への操作を取得した場合に対応する第1の処理を前記他の情報処理装置が行うことを可能にするための制御情報を、前記無線通信部を介して前記他の情報処理装置に送信する制御部と、
    を備え、
    前記制御部は、前記無線通信部を介して前記他の情報処理装置から受信したメッセージに基づいて、前記第1の処理に対応する前記第1の処理と異なる第2の処理を前記情報処理装置が実行するよう制御し、
    前記他の情報処理装置は、音声を入力および出力する音声入出力部を備え、
    前記制御情報が示す処理は、前記音声入出力部による音声入力の有効化であり、
    前記制御情報が示す処理に対応する処理は、音声通話の発呼または着呼に関する処理である、情報処理装置。
  10. 前記制御部は、前記画像に操作可能な領域が含まれる場合に、前記領域を特定する情報、当該領域において取得すべき操作の種別を示す情報、および当該領域への操作を取得した場合に前記他の情報処理装置が実行すべき処理を示す情報の組み合わせを含む前記制御情報を、前記無線通信部を介して前記他の情報処理装置に送信する、請求項に記載の情報処理装置。
  11. 前記制御情報は、Wi-Fi CERTIFIED Miracast(登録商標)に規定されたメッセージのひとつを拡張されたものを用いて送信される、請求項又は10に記載の情報処理装置。
  12. 送信側装置と受信側装置とを備え、
    前記送信側装置は、
    前記受信側装置との間で無線通信を行う第1の無線通信部と、
    前記第1の無線通信部を介して前記受信側装置に画像を送信させ、前記受信側装置が表示した前記画像のうち指定された領域への操作を検出した場合に対応する第1の処理を前記受信側装置が行うことを可能にするための制御情報を、前記第1の無線通信部を介して前記受信側装置に送信する第1の制御部と、
    を有し、
    前記受信側装置は、
    前記送信側装置との間で無線通信を行う第2の無線通信部と、
    前記第2の無線通信部により前記送信側装置から受信された前記画像を表示する表示部と、
    前記表示部により表示された前記画像のうち前記第2の無線通信部により前記送信側装置から受信された前記制御情報が示す領域への操作を取得する取得部と、
    前記取得部により取得された前記操作に応じて、前記制御情報が示す前記第1の処理を前記受信側装置が行うよう制御し、及び前記送信側装置に前記第1の処理に対応する前記第1の処理と異なる第2の処理を実行させるためのメッセージを、前記第2の無線通信部を介して前記送信側装置に送信するよう制御する第2の制御部と、
    音声を入力および出力する音声入出力部と、
    を有し、
    前記第1の制御部は、前記第1の無線通信部を介して前記受信側装置から受信したメッセージに基づいて、前記第2の処理を前記送信側装置が実行するよう制御し、
    前記制御情報が示す処理は、前記音声入出力部による音声入力の有効化であり、
    前記制御情報が示す処理に対応する処理は、音声通話の発呼または着呼に関する処理である、情報処理システム。
  13. 他の情報処理装置との間で無線通信を行うことと、
    前記他の情報処理装置から受信された画像を表示することと、
    表示された前記画像のうち前記他の情報処理装置から受信された制御情報が示す領域への操作を取得することと、
    取得された前記操作に応じて、前記制御情報が示す第1の処理を行うよう情報処理装置を制御し、及び前記他の情報処理装置に前記第1の処理に対応する前記第1の処理と異なる第2の処理を実行させるためのメッセージを前記他の情報処理装置に送信するよう制御することと、
    音声を入力および出力することと、
    を含み、
    前記制御情報が示す処理は、音声入力の有効化であり、
    前記制御情報が示す処理に対応する処理は、音声通話の発呼または着呼に関する処理である、プロセッサにより実行される情報処理方法。
JP2016508587A 2014-03-19 2015-02-05 情報処理装置、情報処理システム、および情報処理方法 Expired - Fee Related JP6503558B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014056308 2014-03-19
JP2014056308 2014-03-19
PCT/JP2015/053311 WO2015141320A1 (ja) 2014-03-19 2015-02-05 情報処理装置、情報処理システム、および情報処理方法

Publications (2)

Publication Number Publication Date
JPWO2015141320A1 JPWO2015141320A1 (ja) 2017-04-06
JP6503558B2 true JP6503558B2 (ja) 2019-04-24

Family

ID=54144300

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016508587A Expired - Fee Related JP6503558B2 (ja) 2014-03-19 2015-02-05 情報処理装置、情報処理システム、および情報処理方法

Country Status (4)

Country Link
US (1) US10306043B2 (ja)
EP (1) EP3121732B1 (ja)
JP (1) JP6503558B2 (ja)
WO (1) WO2015141320A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106937169B (zh) * 2015-12-30 2018-09-21 研祥智能科技股份有限公司 信号发生装置、信号采集装置及测试系统
US10749568B2 (en) * 2016-08-10 2020-08-18 Apple Inc. Multiband Bluetooth
JP6914728B2 (ja) * 2017-05-26 2021-08-04 キヤノン株式会社 通信装置、通信方法、およびプログラム
KR102411287B1 (ko) * 2017-11-22 2022-06-22 삼성전자 주식회사 미디어 출력 제어 장치 및 방법
US11651407B2 (en) * 2018-12-11 2023-05-16 T-Mobile Usa, Inc. Mirrored display and proximal control of autonomous retail systems
CN109857295B (zh) * 2018-12-28 2020-12-08 百度在线网络技术(北京)有限公司 焦点的控制方法、装置及存储介质
JP7299262B2 (ja) * 2021-03-24 2023-06-27 本田技研工業株式会社 車両用表示装置
WO2023112119A1 (ja) * 2021-12-14 2023-06-22 パイオニア株式会社 通信システム、通信装置、サーバ装置、通信方法、通信プログラム及び記憶媒体

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11196184A (ja) * 1997-12-30 1999-07-21 Sony Corp 通信端末装置及び通信制御方法
JP2003018568A (ja) 2001-06-29 2003-01-17 Matsushita Electric Ind Co Ltd 再生システム、サーバ装置及び再生装置
JP2008112425A (ja) * 2006-10-27 2008-05-15 Keiichi Kogure データ処理装置、データ処理方法、データ処理プログラムおよびデータ処理プログラムを記録した記録媒体
JP2012043140A (ja) * 2010-08-18 2012-03-01 Fujifilm Corp Webページ閲覧システム及び中継サーバ
US9717090B2 (en) * 2010-12-31 2017-07-25 Microsoft Technology Licensing, Llc Providing notifications of call-related services
US8677029B2 (en) * 2011-01-21 2014-03-18 Qualcomm Incorporated User input back channel for wireless displays
JP5445599B2 (ja) * 2011-03-23 2014-03-19 株式会社デンソー 車両用装置、および機器連携システム
WO2012157185A1 (ja) * 2011-05-13 2012-11-22 パナソニック株式会社 表示装置、操作装置、機器連携制御システム、表示方法、操作方法及び機器連携制御方法
US9525998B2 (en) * 2012-01-06 2016-12-20 Qualcomm Incorporated Wireless display with multiscreen service
US9226015B2 (en) * 2012-01-26 2015-12-29 Panasonic Intellectual Property Management Co., Ltd. Mobile terminal, television broadcast receiver, and device linkage method
JP6181351B2 (ja) * 2012-04-13 2017-08-16 クラリオン株式会社 車載情報システム、車載装置、情報端末
US9632648B2 (en) * 2012-07-06 2017-04-25 Lg Electronics Inc. Mobile terminal, image display device and user interface provision method using the same
US9507482B2 (en) * 2013-10-07 2016-11-29 Narsys, LLC Electronic slide presentation controller

Also Published As

Publication number Publication date
EP3121732A4 (en) 2017-12-06
EP3121732A1 (en) 2017-01-25
US10306043B2 (en) 2019-05-28
WO2015141320A1 (ja) 2015-09-24
US20170026505A1 (en) 2017-01-26
JPWO2015141320A1 (ja) 2017-04-06
EP3121732B1 (en) 2020-06-10

Similar Documents

Publication Publication Date Title
JP6503558B2 (ja) 情報処理装置、情報処理システム、および情報処理方法
US10172080B2 (en) Information processing device, information processing system, and information processing method
US10383098B2 (en) Information processing device and information processing method
US9257097B2 (en) Remote rendering for efficient use of wireless bandwidth for wireless docking
US10198986B2 (en) Information processing device and information processing method
US20170078740A1 (en) Information processing device, information processing system, and information processing method
US10499200B2 (en) Information processing device and information processing method
US20170332134A1 (en) Information processing apparatus, communication system, information processing method, and program
WO2014115387A1 (ja) 情報処理装置、情報処理方法およびプログラム
US10085068B2 (en) Information processing apparatus and information processing method
US10795831B2 (en) Information processing device, communication system, information processing method
US11095939B2 (en) Image display device and system thereof
JP6250918B2 (ja) 携帯電子機器、位置確認方法、及び位置確認プログラム
KR101688946B1 (ko) 신호 처리 장치 및 그 방법
CN110944316A (zh) 设备连接方法和设备
KR20170122571A (ko) 디스플레이 장치 및 그를 포함하는 디스플레이 시스템

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171219

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180717

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180905

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20181016

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190116

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20190122

TRDD Decision of grant or rejection written
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190208

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190212

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190214

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190225

R151 Written notification of patent or utility model registration

Ref document number: 6503558

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190515

LAPS Cancellation because of no payment of annual fees