JP6600268B2 - 送信装置およびその制御方法 - Google Patents

送信装置およびその制御方法 Download PDF

Info

Publication number
JP6600268B2
JP6600268B2 JP2016052968A JP2016052968A JP6600268B2 JP 6600268 B2 JP6600268 B2 JP 6600268B2 JP 2016052968 A JP2016052968 A JP 2016052968A JP 2016052968 A JP2016052968 A JP 2016052968A JP 6600268 B2 JP6600268 B2 JP 6600268B2
Authority
JP
Japan
Prior art keywords
communication device
communication
content
reproduction
sink
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016052968A
Other languages
English (en)
Other versions
JP2017169066A (ja
JP2017169066A5 (ja
Inventor
雅智 大内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016052968A priority Critical patent/JP6600268B2/ja
Priority to US15/453,447 priority patent/US20170273129A1/en
Publication of JP2017169066A publication Critical patent/JP2017169066A/ja
Publication of JP2017169066A5 publication Critical patent/JP2017169066A5/ja
Application granted granted Critical
Publication of JP6600268B2 publication Critical patent/JP6600268B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/18Information format or content conversion, e.g. adaptation by the network of the transmitted or received information for the purpose of wireless delivery to users or terminals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/06Selective distribution of broadcast services, e.g. multimedia broadcast multicast service [MBMS]; Services to user groups; One-way selective calling services
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W76/00Connection management
    • H04W76/10Connection setup
    • H04W76/15Setup of multiple wireless link connections
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W76/00Connection management
    • H04W76/10Connection setup
    • H04W76/14Direct-mode setup
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W76/00Connection management
    • H04W76/10Connection setup
    • H04W76/18Management of setup rejection or failure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W8/00Network data management
    • H04W8/005Discovery of network devices, e.g. terminals

Description

本発明は、複数の他の通信装置と通信する送信装置およびその制御方法に関する。
近年、スマートフォンのような小型端末の画面を映像として符号化し、大型画面を備える受信端末に送信することによりし、小型端末の表示を大型画面上でミラーリング表示する技術が普及してきている。このような技術として、Wi−Fi(登録商標)CERTIFIED Display(WFD)がある。WFDでは、ビデオだけでなくオーディオを送信することもできる。このWFD技術を用いて、オーディオまたはビデオを、1つのソース(送信)装置から複数のシンク(受信)装置に、あるいは、複数のソース装置から1つのシンク装置に送信することできる(特許文献1)。このような技術を用いると、複数のシンク装置(スピーカ群)を利用したワイヤレススピーカシステムを作ることができる。
国際公開第2011/122456号
ところが、複数のシンク装置(スピーカ群)を利用したワイヤレススピーカシステムにおいて、当該スピーカ群の内の一部との無線接続が確立しない場合が考えられる。
本発明は、上記の問題点を鑑みてなされたものであり、以下を目的とする。即ち、送信装置が複数の他の通信装置を利用してコンテンツを再生する際に、該複数の他の通信装置の一部と接続できなかった場合に生じる少なくとも1つの課題を解決することを目的とする。
上述の問題点を解決するため、本発明に係る通信装置は以下の構成を備える。すなわち、コンテンツの送信装置において、複数の他の通信装置を利用するコンテンツ再生の指示を受け付ける受付手段と、第一の他の通信装置を含む前記複数の他の通信装置との接続を確立するための処理を実行する第一の実行手段と、前記複数の他の通信装置に含まれる第一の他の通信装置との接続が確立されなかった場合、前記複数の他の通信装置から前記第一の他の通信装置および前記第一の他の通信装置と組み合わせて利用される第二の他の通信装置を除いた一部の他の通信装置に含まれ、かつ前記第一の実行手段によって前記送信装置との接続が確立された少なくとも一台の他の通信装置に前記コンテンツの再生を実行させるための処理を実行する第二の実行手段と、を有する。
本発明によれば、送信装置が複数の他の通信装置を利用してコンテンツを再生する際に、該複数の他の通信装置の一部と接続できなかった場合に生じる少なくとも1つの課題を解決することができる。
1対N及びM対1の通信を行うシステムの例示的な構成を示す図である。 ソース装置及びシンク装置のハードウェア構成を示す図である。 1対1接続における正常時のシーケンスを示す図である。 7.1chオーディオ再生システムにおけるスピーカの構成を示す図である。 動作例1におけるシーケンスを示す図である。 動作例2におけるシーケンスを示す図である。 動作例3におけるシーケンスを示す図である。 動作例4におけるシーケンスを示す図である。 動作例1及び動作例3における動作フローチャートである。 動作例2における動作フローチャートである。 動作例4における動作フローチャートである。
以下に、図面を参照して、この発明の好適な実施の形態を詳しく説明する。なお、以下の実施の形態はあくまで例示であり、本発明の範囲を限定する趣旨のものではない。
(第1実施形態)
本発明に係る通信装置の第1実施形態として、ソース装置とシンク装置を含むオーディオ・ビデオ(AV)システムを例に挙げて以下に説明する。
<システム構成>
図1は、1対N及びM対1の無線通信を行うシステムの例示的な構成を示す図である。ここで、MとNは、ともに1以上の整数である。このシステムは、M台のソース装置101A〜101M(以下では単にソース装置101とも呼ぶ)と、N台のシンク装置102A〜102N(以下では単にシンク装置102とも呼ぶ)を含んでいる。
ソース装置101は、オーディオまたはビデオの送信側となる装置であり、N台のシンク装置102と通信接続可能に構成されている。例えば、カメラやビデオカメラ等の撮像装置、スキャナ等の画像入力装置、あるいは、ハードディスク装置やメモリ装置などの記憶装置である。もちろん、パーソナルコンピュータ(PC)やスマートフォンなどの情報処理装置であってもよい。
シンク装置102は、オーディオまたはビデオの受信側となる装置であり、M台のソース装置101と通信接続可能に構成されている。例えば、テレビ、ディスプレイ、プロジェクタ等のビデオ出力装置、スピーカ等のオーディオ出力装置である。
なお、以下の説明においては、ソース装置101とシンク装置102は、IEEE802.11シリーズに準拠した無線通信を行うものとして説明する。ただし、Bluetooth(登録商標)、UWB、ZigBee、MBOA等の規格に準拠した無線通信を利用する形態であってもよい。また、有線LAN等の有線通信を利用する形態であってもよい。
また、ソース装置101とシンク装置102とが直接通信する他、アクセスポイントなどの中継装置(不図示)を介して通信するよう構成してもよい。なお、MBOAは、Multi Band OFDM Allianceの略である。また、UWBには、ワイヤレスUSB、ワイヤレス1394、WINETなどが含まれる。
図2は、ソース装置101あるいはシンク装置102として動作する通信装置200のハードウェア構成を示す図である。
記憶部201は、ROMやRAM等のメモリにより構成され、後述する各種動作を行うためのプログラムや、無線通信のための通信パラメータ等の各種情報を記憶する。なお、記憶部201として、ROM、RAM等のメモリの他に、フレキシブルディスク、ハードディスク、光ディスク(CD、DVD)、光磁気ディスク、磁気テープ、不揮発性メモリカードなどの記憶媒体を用いてもよい。また、記憶部201が複数のメモリを備えていてもよい。
制御部202は、CPUやMPU等のプロセッサにより構成され、記憶部201に記憶されたプログラムを実行することにより通信装置200全体を制御する。なお、制御部202は、記憶部201に記憶されたプログラムとOS(Operating System)との協働により通信装置200全体を制御するようにしてもよい。また、制御部202は、マルチコア等の複数のプロセッサを備え、当該複数のプロセッサにより通信装置200全体を制御するようにしてもよい。また、制御部202は、後述の機能部203を制御して、撮像や印刷、投影等の所定の処理を実行する。
機能部203は、所定の処理を実行するためのハードウェアである。例えば、通信装置200がソース装置101として動作する場合、機能部203は、カメラのような撮像機能及び画像符号化機能を有する。また、通信装置200がシンク装置102として動作する場合、機能部203は、ディスプレイのような画像復号化機能及び表示機能を有する。さらに、機能部203が処理するデータは、記憶部201に記憶されているデータであってもよいし、後述する通信部206を介して他の通信装置と通信したデータであってもよい。
入力部204は、ユーザからの各種操作の受付を行う。出力部205は、ユーザに対して各種出力を行う。ここで、出力部205による出力とは、画面上への表示や、スピーカによる音声出力、振動出力等の少なくともひとつを含む。なお、タッチパネルのように入力部204と出力部205の両方を1つのモジュールで実現するようにしてもよい。
通信部206は、IEEE802.11シリーズに準拠した無線通信の制御や、IP通信の制御を行う。また、通信部206はアンテナ207を制御して、無線通信のための無線信号の送受信を行う。ソース装置101は、通信部206を介して、画像データや文書データ、オーディオ・ビデオデータ等のコンテンツをシンク装置102へ送信する。
<通信装置200の基本動作>
・ソース装置とシンク装置の基本シーケンス
図3は、1対1接続におけるソース装置とシンク装置の間の正常時のシーケンスを示す図である。具体的には、それぞれが別個の通信装置200により実現される1つのソース装置と1つのシンク装置との間における、装置の探索からサービス実行までの動作を示している。なお、ここでは、WFD規格に準拠した装置におけるシーケンスの例を示している。
S301では、ソース装置101は、デバイス探索のための探索パケットを送信する。なお、探索パケットは、ブロードキャストパケットでもよいし、ユニキャストパケットであってもよい。S302では、シンク装置102は、探索パケットを受信し、当該探索パケット対する応答パケットを送信する。ここで、応答パケットには、シンク装置102自身の、デバイス名、デバイスのリンクアドレス、デバイスタイプなどが含まれている。
ここでは、デバイスタイプとは、「Source(ソース)」、「Primary Sink(プライマリシンク)」、「Secondary Sink(セカンダリシンク)」、「dual role(ソースとシンク両方)」の何れかである。
S303では、ソース装置101は、サービス探索のための探索パケットを送信する。S304では、シンク装置102は、探索パケットを受信し、当該探索パケットに対する応答パケットを送信する。このとき、シンク装置102は、この応答パケットの中に、提供できるサービス情報を含める。
ここでは、サービス情報とは、ファイル転送のための「Send」、印刷のための「Print」、オーディオ・ビデオストリーミングのための「Play」、ミラーリングのための「Display」、「その他」の何れかである。
ここまでの手順によって、2つの装置の間で、「サービス」及び当該サービスにおける「役割」が決定される。役割については後述する。
S305では、ソース装置101及びシンク装置102は、リンク層の接続をおこなう。これは、IEEE802.11規格のオーセンティケーション、アソシエーション、および、Wi−Fi DirectのGroup Owner(GO)ネゴシエーションなどの手順である。
S306では、ソース装置101及びシンク装置102は、IP層(Internet Protocol)の接続をおこなう。ここで、Wi−Fi Directによって接続している場合は、GOになった方がDHCPサーバー機能を動作させ、対向であるクライアント装置のIPアドレスを割り当てる。
S307では、ソース装置101は、シンク装置102に対して、シンク装置102のサービス実行に関する能力問合せパケットを送信する。
S308では、シンク装置102は、能力問合せに対する応答パケットを送信する。ここでは、応答パケットには、シンク装置102が提供可能なサービスについての詳細情報が含まれている。この詳細情報とは、シンク装置102がディスプレイやプロジェクタであり提供可能サービスが「Display」である場合は、復号能力、解像度、などである。一方、シンク装置102がスピーカである場合は、役割と位置である。ここで、役割とは「Front(フロント)」、「SubWoofer(サブウーファー)」、「Center(センター)」、「Surround(サラウンドまたはリア)」、「Surround.Back(サラウンドバック)」などである。また、位置とは、「右」、「左」である。なお、シンク装置102は、提供可能な役割として、「Surround」と「Surround.Back」のように、複数の情報を応答することができる。
S309では、ソース装置101は、シンク装置102の能力を指定するための能力指定を送信する。S310では、シンク装置102は、受信した能力指定に対して応答する。なお、この手順は、任意のタイミングでおこなうことも可能である。このことにより、いったん、たとえば、「Surround.Back」として動作したシンク装置を「Surround」として動作させることも可能となっている。
S311では、ソース装置101は、RTSP手順のパラメータ設定を送信する。S312では、シンク装置102は、受信したパラメータ設定に対して応答を返す。S313では、ソース装置101は、RTSP手順のSETUP(セットアップ)を送信する。S314では、シンク装置102は、受信したSETUP(セットアップ)に対して応答を返す。
S315では、ソース装置101は、RTSP手順の再生要求をおこなう。S312では、シンク装置102は、再生要求に対して応答を返す。この時点で、シンク装置102では、ソース装置101からのオーディオまたはビデオのストリーミングデータを再生する準備が整ったことになる。
なお、以下の説明では、リンク層による接続後に通信装置同士でおこなわれる手順をセッションと表現することもある。
図4(a)は、無線通信による7.1chオーディオ再生システムにおけるスピーカの構成を示す図である。これは、図1の1対Nのネットワーク111において、N=8の場合に相当する。
ソース装置101は、音楽などのコンテンツを有している。シンク装置102Aは、Front/L(フロント左)、シンク装置102BはFront/R(フロント右)のスピーカであり、これらの2つで前方の音を再生する。以下、同様に、シンク装置102CはSubWoofer(サブウーファー)、シンク装置102DはCenter(センター)のスピーカである。さらに、シンク装置102EはSurround/L(サラウンド左)、シンク装置102FはSurround/R(サラウンド右)のスピーカである。シンク装置102GはSurround.Back/L(サラウンドバック左)、シンク装置102HはSurround.Back/R(サラウンドバック右)のスピーカである。
図4(b)は、オーディオ再生システムの必要構成を示す構成テーブル401を示している。構成テーブル401は、オーディオ再生に必要となるスピーカの組み合わせを複数規定している。ここでは、7.1ch、5.1ch、3.1ch、2.1ch、2.0chの再生に必要となるスピーカの組み合わせを規定している。ここでは、1つの行または複数の行の組み合わせをサービス構成情報またはサービスプロファイルと呼ぶ。また、構成テーブル401は記憶部201に保持される。また、ソース装置101の利用者は、入力部204を介して、これらのサービス構成情報を変更することができる。
<動作例>
以下では、上述の構成における動作例について説明する。特に、動作例1〜3では、複数のシンク装置のうちの一部のシンク装置とのセッション確立が完了しない場合における、オーディオ再生構成の設定変更動作について説明する。また、動作例4では、1つのシンク装置に接続するソース装置の個数が途中で変化する多人数ゲームにおける接続の設定変更動作について説明する。
・動作例1:一部のスピーカとの接続手順が完了しないとき
動作例1として、8台のスピーカによる7.1chでの再生を指示した際に、1つのスピーカとの接続が確立しない場合の制御について説明する。具体的には、接続が確立した7台のスピーカで構成可能な5.1ch再生を行う例について説明する。なお、システム構成は、図4の7.1chオーディオ再生(コンテンツ再生)システムであるとする。
図5は、動作例1におけるシーケンスを示す図である。左から、利用者からの操作を受け付けるUI(ユーザーインタフェース)、通信装置であるソース装置、複数の外部通信装置であるシンク装置群(8台のスピーカ)を示しており、装置間の制御を示している。
S501では、ソース装置101は、利用者からの操作を受け付けるGUIを表示する。ここでは、利用者は「サービス構成情報(プロファイル)」として「7.1ch」を指定する。例えば、GUIとして表示されたボタンを利用者が押下することにより選択する。なお、サービス構成情報(プロファイル)を指定する代わりに、単にシンク装置の個数を指定するよう構成してもよい。S502では、ソース装置101は、「7.1ch」が指定されたことを検出する。S503では、ソース装置101は、出力部205に“7.1chを構成します”と表示する。
S504では、ソース装置101は、シンク装置102A(Front/L)との間で、図3におけるS301〜S312までの手順をおこなう。以下の説明では、この一連の手順をおこなうことを「パラメータ設定まで」と表記することにする。以降、同様に、S505〜S510において、Front/RからSurround.Back/Lまでの5つのスピーカについて「パラメータ設定まで」の手順が完了する。
S511では、ソース装置101は、シンク装置102H(Surround.Back/R)との「パラメータ設定まで」の手順を試みる。しかし、ここでは、RTSPパラメータ設定が未完了となっている。S512では、ソース装置101は、RTSPパラメータ設定のタイムアウトを検出し、「パラメータ設定まで」の手順が失敗したと判断する。なお、この「パラメータ設定まで」の手順失敗の判断は、タイムアウトに限らず、不正値の応答や不正手順などのプロトコルエラー発生により行ってもよい。
S513では、ソース装置101は、シンク装置102H(Surround.Back/R)と「パラメータ設定まで」の手順を進めることができなかったことを表す“サラウンドバック右と接続できません”を出力部205に表示する。すなわち、利用者に対してエラー通知を行う。S514では、ソース装置101は、この状態における制御を利用者に選択させるための表示をおこなう。ここでは、選択肢として“(A)他の構成で再生”、“(B)このまま継続”、“(C)終了”を利用者に提示する。
ここで、選択肢(A)は、詳しくは後述するが、これまでにパラメータ設定までの手順が完了している7台のシンク装置を利用して、他の構成(「5.1ch」など)で再生を実行することを意味する。選択肢(B)は、これまでにパラメータ設定までの手順が完了している7台のシンク装置を利用して、当初の指定通りの再生手順を進めることを意味する。すなわち、この場合は、サラウンドバックに関して「右」は再生されず「左」のみ再生されることになる。
また、選択肢(C)は、これまでのシンク装置との手順を破棄し終了することを意味する。例えば、終了のために、RTSP手順のTEAR DOWN(切断)、IP層の切断、または、リンク層の切断を利用することが出来る。なお、これらの切断の前に、いったんRSTPのPAUSE(一時停止)をおこなってよい。
S515では、ソース装置101は、利用者から何れかの選択肢の選択(操作指示)を受け付ける。ここでは、利用者が選択肢(A)を選択するものとする。S516では、ソース装置101は、利用者への問い合わせの結果として選択肢(A)が選択されたことを認識する。
そこで、ソース装置101は、当初の利用者の指示であった「7.1ch」に代わる構成を決定する。この決定は、例えば、構成テーブル401に登録されている構成と、現在のシンク装置との接続状況と、に応じて構成を自動的に選択する。より具体的には、現在接続しているシンク装置の組み合わせで正常に再生可能な構成を選択する。
例えば、構成テーブル401を参照すると、上述の7台のスピーカを使用して正常に再生可能な構成は、「2.0ch」「2.1ch」「3.1ch」「5.1ch」である。そこで、利用者が指定した「7.1ch」の再生に最も近い再生が可能である「5.1ch」を選択する。なお、他の構成を自動的に選択するようにしてもよいし、ユーザからの選択を受け付けるよう構成してもよい。以下では、「5.1ch」構成が選択された場合について説明する。
S517〜S522では、無線接続している7台のスピーカのうち6台(シンク装置102A〜102F)に対してRTSPの再生手順を実行する。一方、S523では、ソース装置101は、無線接続している7台のスピーカのうち1台(シンク装置102G)に対しては、RTSPのPAUSE(一時停止)手順を実行する。すなわち、全部で8個(M個)のシンク装置のうちの通信接続が確立した7個(N個)のシンク装置との通信接続を継続しつつ、7個より少ない6個(L個)のシンク装置を利用した構成によるコンテンツ再生を行うよう制御する。そして、1個(N−L個)のシンク装置に対しては一時停止の制御を行う。
S524では、ソース装置101は、各役割(チャネル)のオーディオストリームを、対応するシンク装置102A〜102Fのそれぞれに送信する。S525では、ソース装置101は、出力部205に“5.1chで再生中”を表示する。
なお、S524において、各役割(チャネル)のオーディオストリームを、例えばMPEG−TSにより多重化し送信してもよい。すなわち、全てのシンク装置に同一のデータ(多重化ストリーム)を送信し、各シンク装置が自身の役割(チャネル)のデータを抽出し再生するようにしてもよい。また、このとき、S523において、シンク装置102Gとの間で再生手順をおこない、シンク装置102Gに対するデータについては多重化しないよう構成してもよい。
いずれの場合も、シンク装置102Gから音が再生されることはなく、6台のスピーカ(シンク装置102A〜102F)による5.1chでの再生が行われることになる。このように制御することで、例えば、左右ペアとなっているスピーカの片方だけから音が出るといったバランスの悪い状態でのオーディオ再生を防ぐことが可能となる。
なお、状況に応じたサービス構成情報の選択は、単に「ペアとなっているスピーカだけ」を再生対象から除くことに限らない。たとえば、SubWooferとの間で「パラメータ設定まで」の手順が完了しない場合は、“Center”と“Surround”と“Surround.Back”を再生対象から除き、「2.0ch」の構成としてもよい。何れにしろ、無線接続しているスピーカと、構成テーブル401で定義されている各構成で用いるスピーカの組と、に応じて構成を選択するとよい。
この選択方法によると、「Center」との間で「パラメータ設定まで」が完了しないときは、「2.0ch」及び「2.1ch」の2つ(すなわち複数個存在)の構成が候補となる。この場合は、利用者による当初の要求である「7.1ch」により近い「2.1ch」の構成を優先して選択するとよい。
このように、動作例1によれば、利用者により指定された構成で利用される複数のシンク装置の一部と接続が出来ていない場合においても、違和感の少ない再生を行うことが可能となる。すなわち、利用者による少ない操作と制御手順によって、利用者の意図した構成に近い構成でバランスのとれた再生を実現することが出来る。また、既に確立したスピーカとのセッションを流用するため、利用者に待ち時間を強いることもなくなる。
・動作例2:動作例1の後の再生中の続きの制御
動作例2として、動作例1に後続する動作、具体的には、5.1chで再生中に7.1chでの再生に切り替える場合の動作について説明する。図6は、動作例2におけるシーケンスを示す図である。
S601では、ソース装置101は、「Surround.Back/Rの探索」のための制御をおこなうかを利用者に問い合わせために、出力部205に“他のスピーカを探索しますか?”あるいは“7.1ch接続を試みますか?”と表示する。S602では、ソース装置101は、利用者からの操作を受け付ける。ここでは、利用者は「はい」を選択する操作を行うとする。S603では、ソース装置101は、利用者による操作を検出し、シンク装置の探索を開始する。ここで、新規のシンク装置102Xが、スピーカとして動作可能な状態であったとする。
S604では、ソース装置101は、シンク装置102Xとの間で「パラメータ設定まで」の手順を完了させる。この「パラメータ設定まで」の手順とは、上述のように、図3のS301〜S312までの手順をまとめた処理である。
S605では、ソース装置101は、“7.1chにしますか?”と表示して、利用者に問い合わせる。S606では、ソース装置101は、利用者からの操作を受け付ける。ここでは、利用者は「はい」を選択する操作を行うとする。S607では、ソース装置101は、利用者による操作を検出する。なお、S604の完了後、7.1ch再生で用いられる8台のシンク装置との接続が確立されているか否かの判定を再度行うよう構成してもよい。
S608では、ソース装置101は、シンク装置102Gとの間でRTSPの再生手順を実行する。S609では、ソース装置101は、シンク装置102Xとの間でRTSPの再生手順を実行する。S610では、ソース装置101は、シンク装置102G及びシンク装置102Xに対してオーディオストリーム(Surround.Back/L及びSurround.Back/R)を新たに伝送する。S611では、ソース装置101は、出力部205に“7.1chで再生中”と表示する。
なお、S603での探索においてシンク装置102Hが検出された場合、シンク装置102Xの代わりに、シンク装置102Hと接続してもよい。さらに、再生中に任意のシンク装置との切断を検出した場合に、「装置を探索する」という制御をおこなうことも可能である。
このように、動作例2によれば、ある構成での再生中に、利用者による少ない操作と制御手順によって、他の構成による再生に変更することが出来る。特に、既に確立しているスピーカとのセッションを流用するため、素早く新しい構成に変更することが可能となる。
・動作例3:スピーカの役割を変更
動作例3として、8台のスピーカによる7.1chでの再生を指示した際に、1つのスピーカとの接続が確立しない場合の制御について説明する。ただし、動作例1とは異なり、シンク装置102F(“Surround/R”のスピーカ)との接続が確立しない場合の動作を示している。
図7は、動作例3におけるシーケンスを示す図である。S501〜S512までは、図5とほぼ同様である。ただし、上述のように、ここでは、シンク装置102F(“Surround/R”のスピーカ)との間で「パラメータ設定まで」の手順が未完了の状態である点が動作例1と異なる。
つまり、S512のタイムアウトは、シンク装置102Fとの手順におけるタイムアウトである。このような状態となるのは、ソース装置101が各シンク装置との手順を並列におこなっているためである。
さらに、動作例3においては、シンク装置102G及びシンク装置102Hはそれぞれ2つの役割を、能力として備えていることを、ソース装置101は確認済みとする。具体的には、シンク装置102Gは“Surround/L”と“Surround.Back/L”の2つの役割の何れかで動作可能である。シンク装置102Hは“Surround/R”と“Surround.Back/R”の2つの役割の何れかで動作可能である。すなわち、ソース装置101は、シンク装置102G及びシンク装置102Hについては役割を変更可能であることを知っている。
S701では、ソース装置101は、“Surround/R”であるシンク装置102Hと「パラメータ設定まで」の手順を完了できなかったことを表す“サラウンド右と接続できません”を出力部205に表示する。S702では、ソース装置101は、この状態における制御を利用者に選択させるための表示をおこなう。この選択肢は、“(A)他の構成で再生”、“(B)このまま継続”、“(C)終了”である。
S703では、ソース装置101は、利用者から上述の選択肢の選択を受け付け、ここでは選択肢(A)が選択されたことを検出する。
ただし、ここでは“Surround/R”が接続未完了であり利用できないため、動作例1と同様の制御を行った場合、構成テーブル401に基づいて、「3.1ch」の構成が選択されることになる。その場合、接続が完了している“Surround.Back”の2つのスピーカが利用されず無駄となる。そこで動作例3では、“Surround.Back”として接続されている2つのスピーカの役割を“Surround”に変更し、「5.1ch」の再生を行う。
そこで、S704では、ソース装置101は、シンク装置102Eに対しては、RTSPのPAUSE(一時停止)手順を実行する。一方、S705では、ソース装置101は、シンク装置102Gに対して能力設定の手順をおこなう。この場合は、当初の“Surround.Back/L”に代えて“Surround/L”を指定する。同様に、S706では、ソース装置101は、シンク装置102Hに対して能力設定の手順をおこなう。この場合は、当初の“Surround.Back/R”に代えて“Surround/R”を指定する。
S707では、ソース装置101は、各役割(チャネル)のオーディオストリームを、対応するシンク装置102A〜102D,102G,102Hのそれぞれに送信する。S708では、ソース装置101は、出力部205に“スピーカ変更して5.1chで再生中”を表示する。
なお、スピーカの役割の変更は、“Surround.Back”から“Surround”への変更に限られるものではない。すなわち、構成テーブル401及び、各スピーカの実行可能な役割および位置に応じて様々な変更が可能である。
このように、動作例3によれば、利用者により指定された構成で利用される複数のシンク装置の一部と接続が出来ていない場合においても、違和感の少ない再生を行うことが可能となる。特に、既に確立したスピーカとの接続を最大限利用することにより、より臨場感のある再生を行うことが可能となる。
・動作例4:多人数ゲームにおける動作
図8は、動作例4におけるシーケンスを示す図である。ここでは、複数のソース装置(タブレット端末)の画面を1つのシンク装置(大型ディスプレイ)に表示する多人数ゲームを想定している。左から、利用者からの操作を受け付けるUI(ユーザーインタフェース)、シンク装置、ソース装置群(4台)を示しており、装置間の制御を示している。
すなわち、図1のM対1ネットワーク112において、M=4の場合に相当する。ただし、動作例1〜3のように予め決まった接続構成が存在せず、ゲームを構成する装置の数についても任意であることを想定する。
S801では、シンク装置102は、ゲームの参加受付開始のためのGUIを表示し、利用者からの操作を受け付ける。S802では、シンク装置102は、ゲームの参加受付開始の操作を検出する。
S803では、シンク装置102は、“Playerを待っています”と表示する。同時に、ソース装置からのデバイス探索を待ち受ける、及び/又は、ゲームサービスを起動中であることを報知する。例えば、デバイスタイプがSink(シンク)であることを示すビーコン信号を送信する、または、Displayサービス実行可能であることを示すadvertiseパケットを送信する。
S804では、シンク装置102は、ソース装置101Aとの間で「パラメータ設定まで」をおこなう。そして、S805では、シンク装置102は、“Player1と接続しました”と表示する。ただし、この時点ではゲーム参加者が1人であるため、シンク装置102は、引き続き、ゲーム参加の受け付けを待機する。
S806では、シンク装置102は、ソース装置101Bとの間で「パラメータ設定まで」をおこなう。そして、S807では、シンク装置102は、“Player2と接続しました。ゲームを開始しますか?”と表示する。すなわち、ゲーム参加者が2人以上となったなめ、シンク装置102は、ゲーム開始の受け付けを利用者に通知する。同様に、S808では、シンク装置102は、ソース装置101Cとの間で「パラメータ設定まで」をおこなう。そして、S809では、シンク装置102は、“Player3と接続しました”と表示する。
S810では、シンク装置102は、ゲームの開始指示のためのGUIを表示し、利用者からの操作を受け付ける。S811では、シンク装置102は、ゲームの開始の操作を検出する。それに伴い、S812〜S814では、シンク装置102は、ソース装置101A〜Cとの間で、それぞれ再生手順を実行する。
S815〜S817では、ソース装置101A〜101Cは、それぞれ、シンク装置102に対し、オーディオまたはビデオの送信をおこなう。S818では、シンク装置102は、ソース装置101A〜101Cから受信したオーディオまたはビデオを再生する。すなわち、出力部205において音声再生又は画面表示を行う。
S819では、ソース装置101Dは、ソース装置101Dの利用者(Player4)によるゲーム開始の操作に応じて、ゲームのためのサービス探索をおこなう。S820では、シンク装置102は、出力部205に“Player4と接続しますか?”と表示する。
このように、動作例4によれば、多人数ゲームにおいて、対向の通信相手の数を予め指定することなく再生までの手順を進めることが可能となり、操作性が良くなる。
上述の動作例1〜4においては、Wi−Fi Direct規格に基づいたIP層での通信(DHCP制御やRTSP制御)を想定して説明を行った。しかし、リンク層での通信を対象として制御を行うよう構成してもよい。
<通信装置200の動作フローチャート>
図9は、通信装置200がソース装置として動作する場合における動作フローチャートである。上述の、動作例1及び動作例3におけるソース装置の動作を説明するものに相当する。すなわち、図5と図7において説明したソース装置の動作をフローチャート形式で記述したものである。これは、通信装置200において、記憶部201に記憶されたプログラムを制御部202が読み出し、それを実行することで実現される処理の流れのフローチャートを示す。
S900では、通信装置200は、初期状態にある。ここでは、通信装置200は、「dual role」、すなわち、ソース装置とシンク装置の両方の機能を備える状態にあることを示している。たとえば、ノートパソコンやタブレット端末などのように、オーディオまたはビデオの送信側及び受信側の両方を実行可能な機器である。
S901では、通信装置200は、オーディオまたはビデオ(AV)サービスのソース装置として動作を開始する操作が利用者により行われたか否かを判定する。ソース装置として動作を開始する操作が行われたと判定した場合はS902に進み、そうでない場合は後述の図11のフローチャートに進む。
S902では、通信装置200は、ソース装置として動作する場合は、シンク装置群のサービス構成情報を決定し、これを「サービスの第1の構成情報」とする。
S903では、通信装置200は、サービス手順のタイマーを開始する。ここで、サービス手順とは、RTSP、DHCP、Wi−Fi Directといった標準規格手順の他、ソース装置とシンク装置との間で独自に決定している手順のことである。S904では、通信装置200は、上述の「パラメータ設定まで」の一連の処理を開始する。
S905では、通信装置200は、S903で開始したサービス手順のタイムアウトが発生したかを確認する。タイムアウトが発生していたら、S906では、通信装置200は、記憶部201にタイムアウトイベント発生を登録する。
S907では、通信装置200は、サービス構成情報に含まれる全てのシンク装置との「パラメータ設定まで」の手順が終了したかを判断する。ここで、「パラメータ設定まで」の手順終了とは、各シンク装置との間で、S312までの手順が終了している、又は、タイムアウトが発生していることを意味する。全てのシンク装置との手順が終了していなければ、S903に戻り、終了していればS908に進む。
S908では、通信装置200は、タイムアウトイベントが発生しているかを確認する。タイムアウトが発生していなければ、全てのシンク装置と正常に接続できていることになり、オーディオまたはビデオの再生中の状態に進む。この状態を「ソースの第1の構成で再生中」(S950)と呼ぶことにする。一方、タイムアウトが発生していれば、S909に進む。
S909では、通信装置200は、“第1の構成での再生不可”の表示をおこなう。これは、S513,S701に相当する。S910では、通信装置200は、利用者からの選択を受け付ける。すなわち、“(A)他の構成で再生”、“(B)このまま継続”、“(C)終了”の何れかを操作を利用者から受け付ける。これは、S514,S702に相当する。
“(A)他の構成で再生”の選択を検出した場合、S911では、通信装置200は、「パラメータ設定まで」が完了したシンク装置群の中に、「パラメータ設定まで」が完了しなかった装置の代替となるシンク装置が存在するか否かを判断する。存在する場合は、S912に進み、存在しない場合はS913に進む。
S912では、通信装置200は、代替シンク装置の能力を変更する。これは、S705,S706に相当する。一方、S913では、通信装置200は、装置の能力を変更することなく再生手順に進む。これは、S517〜S523に相当する。
S912およびS913の後は、いずれも「ソースの第2の構成で再生中」(S1000)の状態に進む。
なお、S910において“(B)このまま継続”の選択を検出した場合は、S914では、ソース装置における従来の再生処理(データ送信処理)をおこなう。また、S910において“(C)終了”の選択を検出した場合は、ソース装置における再生処理を終了する。
図10は、通信装置200がソース装置として動作する場合における動作フローチャートである。上述の、動作例2におけるソース装置の動作を説明するものに相当する。すなわち、図6において説明したソース装置の動作をフローチャート形式で記述したものである。
S1000では、通信装置200は、「ソースの第2の構成で再生中」の状態にある。ここで、「第2の構成」は、利用者が当初指定した構成(上述の例では「7.1ch」)ではなく、「5.1ch」などの他の構成という意味である。
S1001では、通信装置200は、「第2の構成で再生中」の表示をおこなう。これは、S525,S708に相当する。S1002では、通信装置200は、利用者による、他の装置の探索開始の操作を検出する。探索開始の操作が検出されると、S1003では、通信装置200は、他の装置の探索を開始する。S1004では、通信装置200は、他の装置が検出されたか否かを判定し、他の装置が検出された場合はS1005に進む。検出されない場合はS1000に戻る。
S1005では、通信装置200は、検出されたシンク装置に対して「能力問い合わせまで」の処理をおこなう。この「能力問い合わせまで」の処理とは、図3におけるS308までの手順のことである。S1006では、通信装置200は、第1の構成が可能であるかの判断をおこなう。例えば、動作例1においては、検出されたスピーカが、第1の構成を実現するために必要な“Surround.Back/R”の能力を持っているかを確認する処理である。検出されたスピーカが、その能力を持っている場合はS1007に進み、持っていない場合はS1004に戻る。
S1007では、通信装置200は、第1の構成による再生を実行し、「ソースの第1の構成で再生中」(S950)の状態に移行する。
図11は、通信装置200がシンク装置として動作する場合における動作フローチャートである。上述の、動作例4におけるシンク装置の動作を説明するものに相当する。すなわち、図8おいて説明したシンク装置の動作をフローチャート形式で記述したものである。
S1101では、通信装置200は、オーディオまたはビデオ(AV)サービスのシンク装置として動作を開始する操作が利用者により行われたか否かを判定する。シンク装置として動作を開始する操作が行われたと判定した場合はS1102に進み、そうでない場合は前述の図9の初期状態(S900)に移行する。
S1102では、通信装置200は、「ソース装置からの待ち受け可能」であることを表示する。S1103では、通信装置200は、ソース装置からの接続要求があるかの検出動作を行う。検出した場合はS1104に進み、検出されない場合はS1102に戻る。
S1104では、通信装置200は、「接続要求された」ことを表示する。S1105では、通信装置200は、検出された接続要求を受け付ける操作が利用者により行われたか否かを判断する。操作がおこなわれた場合はS1106に進み、操作がない場合はS1104に戻る。
S1106では、通信装置200は、接続要求してきたソース装置との間で「パラメータ設定まで」の処理をおこなう。S1107では、通信装置200は、サービス開始(例えば、ソース装置から送信された映像の表示)の操作が行われたかを判断する。操作がおこなわれた場合はS1108に進み、操作がない場合はS1102に戻る。
S1108では、通信装置200は、ソース装置から送信され受信したオーディオまたはビデオを再生する。S1109では、通信装置200は、さらに他のソース装置からの接続要求を待ち受けるか否かの選択を利用者から受け付ける。待ち受ける場合はS1103に戻る。なお、上述のS1103、S1105、S1107、S1109において、初期状態に戻るように構成することも可能である。
以上説明したとおり第1実施形態によれば、1対多の通信接続を用いるオーディオ・ビデオ(AV)システムにおいて、利用者にとってより良い再生環境を提供することが可能となる。例えば、一部の装置との接続が出来ていない場合においても、違和感の少ない再生を行うことが可能となる。また、既に確立した装置とのセッションを流用することにより、利用者に無駄な待ち時間を強いることもなくなる。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
101 ソース装置; 102 シンク装置; 200 通信装置; 202 制御部; 203 機能部; 206 通信部

Claims (13)

  1. コンテンツの送信装置であって、
    複数の他の通信装置を利用するコンテンツ再生の指示を受け付ける受付手段と、
    第一の他の通信装置を含む前記複数の他の通信装置との接続を確立するための処理を実行する第一の実行手段と、
    前記複数の他の通信装置に含まれる第一の他の通信装置との接続が確立されなかった場合、前記複数の他の通信装置から前記第一の他の通信装置および前記第一の他の通信装置と組み合わせて利用される第二の他の通信装置を除いた一部の他の通信装置に含まれ、かつ前記第一の実行手段によって前記送信装置との接続が確立された少なくとも一台の他の通信装置に前記コンテンツの再生を実行させるための処理を実行する第二の実行手段と、
    を有することを特徴とする送信装置。
  2. 前記第一の他の通信装置との接続が確立されなかった場合、ユーザに所定の通知を行う通知手段を更に有する
    ことを特徴とする請求項1に記載の送信装置。
  3. 前記所定の通知は、前記コンテンツの再生を行うかをユーザに問合せるため問合せを含む通知である
    ことを特徴とする請求項2に記載の送信装置。
  4. 前記所定の通知は、前記第一の他の通信装置との接続が確立できなかったことを示すエラー情報を含む通知である
    ことを特徴とする請求項2または3に記載の送信装置。
  5. 前記第二の実行手段によって前記少なくとも一台の他の通信装置に前記コンテンツの再生を実行させるための処理を実行する場合に、前記第二の他の通信装置に対して一時停止の制御を行う制御手段を更に有する
    ことを特徴とする請求項1から4のいずれか1項に記載の送信装置。
  6. 前記コンテンツ再生のため他の通信装置の構成を複数規定するテーブルを記憶する記憶手段と、
    前記記憶手段により記憶された前記テーブルに基づいて、前記少なくとも一台の他の通信装置を選択する第一の選択手段と、
    を更に有し、
    前記第二の実行手段は、前記第一の選択手段によって選択された前記少なくとも一台の他の通信装置に前記コンテンツの再生を実行させるための処理を実行する
    ことを特徴とする請求項1から5のいずれか1項に記載の送信装置。
  7. 前記第一の他の通信装置と前記第二の他の通信装置とは、左右の再生ペアを構成する
    ことを特徴とする請求項1から6のいずれか1項に記載の送信装置。
  8. 前記第一の実行手段によって第三の他の通信装置と新たに接続を確立した場合、前記第二の実行手段は、前記第三の他の通信装置の役割を示す役割情報に基づいて、前記複数の他の通信装置および前記第三の他の通信装置に含まれる少なくとも一台の他の通信装置に前記コンテンツの再生を実行させるための処理を実行する
    ことを特徴とする請求項1から7のいずれか1項に記載の送信装置。
  9. 前記複数の他の通信装置に含まれる通信装置であって、かつ前記第一の実行手段によって前記送信装置との接続を確立した少なくとも一台の他の通信装置の役割情報に基づいて、前記コンテンツを再生するための再生形態を選択する第二の選択手段を更に有し、
    前記第二の実行手段は、前記第二の選択手段によって選択した前記コンテンツを再生するための再生形態に基づいて、前記少なくとも一台の他の通信装置に前記コンテンツの再生を実行させるための処理を実行する
    ことを特徴とする請求項1から8のいずれか1項に記載の送信装置。
  10. 前記第二の選択手段は、前記コンテンツを再生するための再生形態として、7.1chオーディオ再生システム、5.1chオーディオ再生システム、3.1chオーディオ再生システム、2.1chオーディオ再生システム、および2.0chオーディオ再生システムの何れか一つの再生形態を選択する
    ことを特徴とする請求項9に記載の送信装置。
  11. 前記役割情報とは、オーディオ再生システムにおける役割である、フロント、サブウーファー、センター、サラウンド、およびサラウンドバックの少なくとも何れか一つを示す情報であることを特徴とする請求項8から10のいずれか1項に記載の送信装置。
  12. コンテンツの送信装置の制御方法であって、
    複数の他の通信装置を利用するコンテンツ再生の指示を受け付ける受付工程と、
    第一の他の通信装置を含む前記複数の他の通信装置との接続を確立するための処理を実行する第一の実行工程と、
    前記複数の他の通信装置に含まれる第一の他の通信装置との接続が確立されなかった場合、前記複数の他の通信装置から前記第一の他の通信装置および前記第一の他の通信装置と組み合わせて利用される第二の他の通信装置を除いた一部の他の通信装置に含まれ、かつ前記第一の実行工程によって前記送信装置との接続が確立された少なくとも一台の他の通信装置に前記コンテンツの再生を実行させるための処理を実行する第二の実行工程と、
    を含むことを特徴とする送信装置の制御方法。
  13. 請求項1から11のいずれか1項に記載の送信装置の各手段としてコンピュータを機能させるためのプログラム。
JP2016052968A 2016-03-16 2016-03-16 送信装置およびその制御方法 Active JP6600268B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016052968A JP6600268B2 (ja) 2016-03-16 2016-03-16 送信装置およびその制御方法
US15/453,447 US20170273129A1 (en) 2016-03-16 2017-03-08 Transmission apparatus and method of controlling the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016052968A JP6600268B2 (ja) 2016-03-16 2016-03-16 送信装置およびその制御方法

Publications (3)

Publication Number Publication Date
JP2017169066A JP2017169066A (ja) 2017-09-21
JP2017169066A5 JP2017169066A5 (ja) 2019-04-25
JP6600268B2 true JP6600268B2 (ja) 2019-10-30

Family

ID=59856294

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016052968A Active JP6600268B2 (ja) 2016-03-16 2016-03-16 送信装置およびその制御方法

Country Status (2)

Country Link
US (1) US20170273129A1 (ja)
JP (1) JP6600268B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6920872B2 (ja) 2017-04-24 2021-08-18 キヤノン株式会社 通信装置、制御方法、及びプログラム
JP2020005090A (ja) * 2018-06-27 2020-01-09 シャープ株式会社 情報処理装置、情報処理システム、情報処理方法、プログラム、及び記録媒体
JP7421343B2 (ja) 2020-01-09 2024-01-24 キヤノン株式会社 通信装置、通信装置の制御方法、およびプログラム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
MX2012011016A (es) * 2010-03-29 2012-11-30 Sharp Kk Dispositivo colector, dispositivo de origen y sistema de transmision inalambrica.
US9648483B2 (en) * 2012-08-28 2017-05-09 Nokia Technologies Oy Discovery method and apparatuses and system for discovery
JP6256228B2 (ja) * 2014-07-09 2018-01-10 京セラドキュメントソリューションズ株式会社 画像形成システム
US10979900B2 (en) * 2015-03-17 2021-04-13 Sony Corporation Information processing device and information processing method

Also Published As

Publication number Publication date
JP2017169066A (ja) 2017-09-21
US20170273129A1 (en) 2017-09-21

Similar Documents

Publication Publication Date Title
TWI536855B (zh) 內容分享方法與裝置
EP3092781B1 (en) Peripherals in a wireless docking system
JP2010510696A (ja) ピアツーピアコンフィグレーションにおけるマルチメディアコンテンツの共有
US9826021B2 (en) Communication apparatus and method for controlling the same
JP7123594B2 (ja) 通信装置、制御方法、およびプログラム
KR20110070849A (ko) 정보 처리 시스템, 표시 장치, 출력 장치, 정보 처리 장치, 식별 정보 취득 방법 및 식별 정보 공급 방법
JP6600268B2 (ja) 送信装置およびその制御方法
TWI568286B (zh) 點對點多媒體資料分享方法、電子裝置及非揮發性可讀式電腦媒體
WO2016121412A1 (ja) 情報処理装置
JP5425168B2 (ja) 撮像手段を有する通信装置およびその制御方法
JP2016042656A (ja) 通信装置、通信装置の制御方法、プログラム
JP2015080192A (ja) 通信システム、通信制御システム、通信装置、通信方法及び接続プログラム
EP3273660B1 (en) Communication apparatus, method of controlling the same, and program
JP7336179B2 (ja) 通信装置、通信方法、およびプログラム
JP7154833B2 (ja) 通信装置、通信方法、およびプログラム
JP7010236B2 (ja) 情報処理装置、情報処理方法、及びプログラム
JP2006246038A (ja) 遠隔会議装置、遠隔会議システムおよび会議装置を実現するためのプログラム
JP7080624B2 (ja) 通信装置、制御方法、およびプログラム
JP7146473B2 (ja) 通信装置、通信方法、およびプログラム
JP5184229B2 (ja) 同期制御装置、及び同期制御プログラム
JP7118764B2 (ja) 通信装置、制御方法、およびプログラム
WO2011061920A1 (ja) 無線リモコンシステム及び無線リモコンのペアリング方法
JP2021022797A (ja) 通信装置
JP2010056882A (ja) データ再生システム
JP2004242032A (ja) ネットワーク機器制御システム

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190314

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190314

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190821

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190906

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191004

R151 Written notification of patent or utility model registration

Ref document number: 6600268

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151