JP2021505099A - コンピューティングデバイスにおけるアプリケーションの音波の受信及び処理の方法 - Google Patents

コンピューティングデバイスにおけるアプリケーションの音波の受信及び処理の方法 Download PDF

Info

Publication number
JP2021505099A
JP2021505099A JP2020549518A JP2020549518A JP2021505099A JP 2021505099 A JP2021505099 A JP 2021505099A JP 2020549518 A JP2020549518 A JP 2020549518A JP 2020549518 A JP2020549518 A JP 2020549518A JP 2021505099 A JP2021505099 A JP 2021505099A
Authority
JP
Japan
Prior art keywords
sound wave
application
sound
wave reception
receiving
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020549518A
Other languages
English (en)
Other versions
JP7015398B2 (ja
Inventor
ヒョン キム,テ
ヒョン キム,テ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Motiv Intelligence Inc
Original Assignee
Motiv Intelligence Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Motiv Intelligence Inc filed Critical Motiv Intelligence Inc
Publication of JP2021505099A publication Critical patent/JP2021505099A/ja
Application granted granted Critical
Publication of JP7015398B2 publication Critical patent/JP7015398B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B11/00Transmission systems employing sonic, ultrasonic or infrasonic waves
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/018Audio watermarking, i.e. embedding inaudible data in the audio signal

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Telephone Function (AREA)

Abstract

本発明の一実施形態によれば、コンピューティングデバイスで実行されるアプリケーションの音波の受信及び処理の方法であって、第1アプリケーションが音波識別情報IDの含まれた音波信号を受信するステップと、第1アプリケーションが受信した前記音波信号から音波IDを抽出するステップと、前記音波IDが第1アプリケーションの関連の音波IDでない場合、第1アプリケーションが前記の抽出された音波IDを受け取らねればならない第2アプリケーションのアプリケーション識別情報(「アプリID」)を取得するステップと、前記アプリIDに基づいて、第1アプリケーションが前記音波IDを第2アプリケーションに伝達するステップとを含むことを特徴とする音波の受信及び処理方法が提供される。

Description

本発明は、コンピューティングデバイスの音波の受信及び処理の方法に関し、より詳しくは、コンピューティングデバイス内の複数のアプリケーションが音波信号を受信しようとする際、音波受信動作を調整して、音波信号を受信し処理する方法に関する。
本発明は、下記の国家研究開発事業によって支援されたのである。
[この発明を支援した国家研究開発事業]
[課題固有番号]2017−0−01507
[部署(省庁)名]科学技術情報通信部
[研究管理専門機関]情報通信技術振興センター
[研究事業名]スマートメディア技術開発事業化(R&BD)支援事業
[研究課題名]セットトップボックスでVOD再生命令を送信する拡張型セカンドスクリーン音波技術開発
[寄与率]1/1
[主管機関]SOUNDLLY INC.(PCT出願時の出願人)
[研究期間]2017.06.01〜2018.12.31
最近、スマートフォンなどのモバイル装置が普遍化するとともに、モバイル装置に内蔵されているオーディオインターフェース、即ち、スピーカとマイクを活用する音波通信方法が商用化されている。例えば、テレビ(TV)放送プログラムに、特定の情報を含んでいる不可聴音波を挿入して視聴者に放送すれば、視聴者が所持しているモバイル装置が、不可聴音波を受信し、それに基づいて視聴者にオーダーメード型広告などのコンテンツを提供する技術などが利用されている。
モバイル装置において、音波信号を受信かつ処理してコンテンツを提供するアプリケーションが複数インストールされて実行されることがある。しかし、様々な受信モジュールが様々なアプリケーションを介して各音波受信の動作を行うと、多くのバッテリが消耗され、受信動作間の衝突が生じるなど様々な問題が発生する恐れがある。
従って、音波受信動作を行う数個のアプリケーションがインストールされた場合、アプリケーションの音波受信の動作を調整し、可能な限りモバイル装置の音波受信の動作を効率よく運用する必要性が提起されている。
本発明の一実施形態によれば、第1アプリケーションが受信した音波信号に、第2アプリケーション関連の音波IDが含まれている場合、この音波IDを第2アプリケーションに伝達するように構成する音波の受信及び処理の方法を開示することにある。
本発明の一実施形態によれば、コンピューティングデバイスで実行されるアプリケーションの音波の受信及び処理の方法であって、第1アプリケーションが音波識別情報IDの含まれた音波信号を受信するステップと、第1アプリケーションが受信した前記音波信号から音波IDを抽出するステップと、前記音波IDが第1アプリケーション関連の音波IDでない場合、第1アプリケーションが、前記抽出された音波IDを受け取らねばならない第2アプリケーションのアプリケーション識別情報(「アプリID」)を取得するステップと、前記アプリIDに基づいて、第1アプリケーションが、前記音波IDを第2アプリケーションに伝達するステップとを含むことを特徴とする音波受信及び処理方法が提供される。
本発明の一実施形態によれば、コンピューティングデバイスで実行されるアプリケーションの音波受信及び処理方法であって、第1アプリケーションが音波識別情報IDの含まれた音波信号を受信するステップと、第1アプリケーションが受信した前記音波信号から音波IDを抽出するステップと、前記音波IDが第1アプリケーションの関連の音波IDでない場合、第1アプリケーションが、前記抽出された音波IDを受け取らねばならない第2アプリケーションのアプリケーション識別情報(「アプリID」)、及び、前記の抽出された音波IDに関連するコンテンツ情報を取得するステップと、前記アプリIDに基づいて、第1アプリケーションが、前記コンテンツ情報を第2アプリケーションに伝達するステップとを含むことを特徴とする音波受信及び処理方法が提供される。
本発明の一実施形態によれば、前記の音波の受信及び処理の方法をコンピュータで実行させるためのプログラムが記録されたコンピュータで読み出し可能な記録媒体が提供される。
本発明の一実施形態によれば、第1アプリケーションが受信した音波信号に、第2アプリケーションの関連の音波IDが含まれている場合、この音波IDを第2アプリケーションに伝達するように構成することで、実質的に、各アプリケーションの音波受信動作の回数が減少しないようにすることで、音波受信の動作を効率よく運用できる利点がある。
本発明の一実施形態に係るコンピューティングデバイスにおけるアプリケーションの音波の受信及び処理のためのシステムの全体を説明するための図である。 第1実施形態に係るアプリケーションの音波の受信及び処理の動作を説明する図である。 第2実施形態に係るアプリケーションの音波の受信及び処理の動作を説明する図である。 第3実施形態に係るアプリケーションの音波の受信及び処理の動作を説明する図である。 第4実施形態に係るアプリケーションの音波の受信及び処理の動作を説明する図である。 一実施形態に係るアプリケーションの音波受信の動作周期を説明するための図である。 アプリケーション間の音波受信の動作を調整する方法を説明するための図である。 アプリケーション間の音波受信の動作を調整する代替案的な方法を説明するための図である。 アプリケーション間の音波受信の動作を調整する更なる代替案的な方法を説明するための図である。
以上の本発明の目的、他の目的、特徴、及び利点は、添付の図面に関連する以下の好適な実施形態によって容易に理解されるであろう。しかし、本発明は、ここで説明される実施形態に限定されず、別の形態に具体化されてもよい。むしろ、ここで紹介する実施形態は、開示されている内容が徹底かつ完全になり得るように、そして、当業者に本発明の思想を十分に伝達できるようにするために提供される。本明細書において、いずれかの構成要素が他の構成要素の上にあると言及されている場合、それは、他の構成要素の上に直接形成され得るか、又は、その間に第3の構成要素が介在され得ることを意味する。
本明細書において使用されている用語は、実施形態を説明するためのものであって、本発明を制限しようとするものではない。本明細書において、単数は文面で特に言及しない限り複数型を含んでもよい。明細書で使用される「含む(comprises)」及び/又は「含んでいる(comprising)」は、言及された構成要素について、1つ以上の他の構成要素の存在又は追加を排除しない。
また、本明細書で発明の構成要素を称するために使用された「〜部」、「…モジュール」、「〜ボード」、「〜ブロック」などの用語は、少なくとも1つの機能や動作を処理する単位を意味し、これは、ハードウェアやソフトウェア又はハードウェア及びソフトウェアの組み合わせにより実現されることができる。
以下、図面を参照して本発明を詳説する。次の特定の実施形態の記述において、様々な特定的な内容は、発明をさらに具体的に説明して理解を助けるために作成されている。しかし、本発明を理解できる程度に、この分野において知識を有す者であれば、このような様々な特定的な内容がなくても使用され得ることを認知できるであろう。一部の例において、発明の記述にあたって、周知なものであったり、発明と大きく関連のない部分は、本発明の説明において混沌が生じるのを防止するために、記述しないということを予め言及しておく。
図1は、本発明の一実施形態に係るコンピューティングデバイスにおけるアプリケーションの音波の受信及び処理のためのシステムの全体を説明するための図である。
図面を参照すると、音波発生装置10は、音波識別情報(音波ID)が含まれている音波信号を発信し、音波発生装置10の周辺のモバイル装置20が、この音波信号を受信して、これから音波IDを抽出することができる。
好ましい一実施形態において、音波発生装置10は、音波信号を発信できる任意の装置でありうる。例えば、音波発生装置10は、テレビ(TV)システム、又は、家庭や売場(ストア)又は映画館などのオーディオシステムでありうる。一実施形態において、音波発生装置10から発信される音波信号は、所定の長さのデジタルビットから構成されている識別情報(以下、「音波識別情報(音波ID)」ともいう)を含む。音波識別情報は、他の音波識別情報とは区別される所定の長さのデジタルビットから構成される。
一実施形態において、音波IDは、音波信号の不可聴帯域に挿入することができる。不可聴帯域は、人の聴力で聞くことのできない周波数帯域を意味し、例えば18〜24KHzの帯域の周波数を含んでもよい。
本明細書において使用される用語である「音波」は、物体の振動が媒質(空気)を介して伝播され、人が聴覚で聞くことができるもので、特に区分する必要がない限り、本明細書では「音響」、「オーディオ」、又は「サウンド」と同じ意味として使用することにする。
所定の長さのデジタルビットから構成された音波IDを音波信号に注入する方法については、当業界において周知である。例えば、音波発生器により不可聴帯域の音波を生成し、この生成された不可聴帯域音波に音波IDを注入することができる。デジタルデータである音波IDを振幅変調(ASK)、周波数変調(FSK)、チャープ変調(Chirp Modulation)、又は、位相変調(PSK)といった様々な変調方式の少なくとも1つに基づいて変調した後、これを不可聴音波にのせることで、音波IDの含まれた音波信号を生成することができる。
音波発生装置10が音波信号を発信するとき、この音波発生装置10の近隣にあるモバイル装置20が音波信号を受信することができる。モバイル装置20は、例えば、セルラーフォン、スマートフォン、タブレットPC、ノート型パソコンなどといった通信可能なコンピューティングデバイスの1つでありうる。代替案的な実施形態において、パーソナルコンピュータ(PC)などのコンピューティングデバイスがモバイル装置20を代替してもよい。モバイル装置20は、音波信号を受信し、この音波信号から音波IDを抽出するために、マイク、アナログ−デジタルコンバータ(ADC)、信号抽出部などのハードウェア及び/又はソフトウェアを備えている。
モバイル装置20に複数のアプリケーション21、22がインストールされて実行されうる。複数のアプリケーション21、22のそれぞれは、音波信号を受信し、この音波信号から音波IDを抽出し、抽出された音波IDによる所定の動作を行うことができる。
各アプリケーション21、22は、予め設定された周期で、またはランダムに、それぞれの音波受信の動作を行うことができる。しかし、第1アプリケーション21が音波受信の動作を行う際に、必ずしも、第1アプリケーション21が受けなければならない音波信号が、音波発生装置10から現在発信されているとは保障できない。例えば、現在の音波発生装置10は、第2アプリケーション22が受けなければならない音波IDの挿入された音波信号を発信しているのであるが、第1アプリケーション21の音波受信動作が実行されるという状況が生じ得る。このような場合、一実施形態において、第1アプリケーション21は、音波信号を受信して音波IDを抽出し、この音波IDについて、第2アプリケーション22が受けなければならない音波IDであることを確認することができる。
一実施形態において、このような音波IDの確認のために、第1アプリケーション21は、抽出した音波IDを、ネットワークを介してサーバ30に送信し、前記音波IDを受けなければならないアプリケーションにおけるアプリケーション識別情報を、サーバ30から受信することができる。他の実施形態において、第1アプリケーション21は、前記音波IDを受けなければならないアプリケーションにおけるアプリケーション識別情報、及び前記音波IDに対応するコンテンツ情報を、サーバ30から受信しうる。ここで、「ネットワーク」は、インターネット、移動通信網、WAN、LAN、ブルートゥース(登録商標)などの様々な有線又は無線の通信網の1つを含みうる。また、「コンテンツ情報」は、音波IDに対応して予め格納されている任意のデータや情報を意味しうる。例えば、コンテンツ情報は、特定のウェブサイトのURLであってもよく、イメージ、テキスト、又は、マルチメディア情報であってもよく、発明の具体的な実施形態に応じて変わり得る。
その後、第1アプリケーション21は、音波ID、又は前記音波IDに対応するコンテンツ情報を、第2アプリケーション22に伝達する。第2アプリケーション22は、第1アプリケーション21から音波IDが伝達されてから、音波IDに応じた所定の動作を行う。例えば、音波IDをサーバ30に送信した後、サーバ30からコンテンツ情報を受信することができる。
図2〜図5は、いずれかのアプリケーションが、音波信号を受信して音波IDを抽出した後、他のアプリケーションにこれを知らせるという、様々な実施形態が示されている。図面において、第1アプリケーションApp A21と第2アプリケーションApp B22は、モバイル装置20にインストールされて実行されるアプリケーションであり、サーバ30は、ネットワークを介してモバイル装置20と通信可能なように接続されている。また、音波発生装置10から、音波IDの含まれた音波信号が発信されており、この際に、モバイル装置20の第1アプリケーション21が、音波受信動作を実行していると仮定する。
図2は、第1実施形態に係るアプリケーションにおける音波の受信及び処理の動作を示す。図面を参照すると、モバイル装置20の第1アプリケーション21は、音波受信の動作によって、音波IDの含まれた音波信号を受信し、この受信した音波信号から音波IDを抽出する。その後、第1アプリケーション21は、抽出した音波IDが自身と関連する音波IDであるかを判断する。一実施形態における第1アプリケーション21は、マッピング情報25に基づいて、このような判断を行うことができる。
図2は、例示的なマッピング情報25を示す。マッピング情報25は、複数の音波ID及び各音波IDに関連するアプリケーションの識別情報(以下、「アプリID」ともいう)を含みうる。マッピング情報25は、モバイル装置20がアクセスできる任意の格納手段に格納されうる。一実施形態において、マッピング情報25は、ルックアップテーブルやデータベースの形式で格納されうる。
アプリIDは、1つのアプリケーションを他のアプリケーションと区別する識別情報であり、例えば、アンドロイド(登録商標)OSでは、「プロセスID」、「package name」、「class name」などのように言及されたりもする。以下では、説明の便宜のために「アプリID」と称することにする。
一実施形態において、音波IDは、所定のビット数の一連のビット列から構成される。図示する実施形態において、本発明を簡単に説明するために音波IDが4ビットであると例示するが、具体的な実施形態に応じてビット数が変わり得ることは勿論である。
図示するマッピング情報25を参照すると、例えば、第1アプリケーション21が抽出した音波IDが「1001」であれば、第1アプリケーション21は、抽出した音波IDが自身に関連する音波IDであると判断し、前記音波IDに対応する後続の動作を実行する。例えば、第1アプリケーション21は、音波IDをサーバ30に送信し、サーバ30から特定のコンテンツ情報を受信できるであろう。
第1アプリケーション21から抽出された音波IDが第1アプリケーション21に関連する音波IDでない場合、第1アプリケーション21は、この抽出された音波IDに関連するアプリケーションのアプリIDを取得することができる。
例えば、第1アプリケーション21から抽出された音波IDが「1011」であれば、マッピング情報25に基づいて、第1アプリケーション21は、この音波IDが第2アプリケーション22に関連する音波IDであると判断し、第2アプリケーション22のアプリIDを取得することができる。その後、第1アプリケーション21は、第2アプリケーション22のアプリIDを用いて音波IDを第2アプリケーション22に伝達する。モバイル装置20内におけるアプリケーション間のデータ送信は当業界において公知となっている。例えば、モバイル装置20がアンドロイド(登録商標)オペレーティングシステム(OS)で動作する場合、インテント−ブロードキャストレシーバー(Intent−Broadcast Receiver)、バインダ(Binder)などの機能を使用したり、AIDL(Android Interface Definition Language)などのIPC(Inter Process Communication)技術を用いて、第1アプリケーション21が第2アプリケーション22に音波IDを伝達することができる。
第2アプリケーション22が第1アプリケーション21から音波IDを受信すると、第2アプリケーション22は、音波IDによる所定の動作を行いうる。例えば、第2アプリケーション22は、音波IDをサーバ30に送信し、サーバ30は、この音波IDに対応するコンテンツ情報を第2アプリケーション22に送信する。ここで、「コンテンツ情報」は、音波IDに対応して予め格納された任意のデータや情報でありうる。例えば、コンテンツ情報は、特定のウェブサイトのURLであってもよく、イメージ、テキスト、又は、マルチメディア情報であってもよく、発明の具体的な実施形態に応じて変わり得る。
図3は、第2実施形態に係るアプリケーションの音波の受信及び処理の動作を示す。図面を参照すると、モバイル装置20の第1アプリケーション21が音波IDの含まれた音波信号を受信し、この受信した音波信号から音波IDを抽出する。第1アプリケーション21は、抽出した音波IDが自身に関連する音波IDであるかを判断する。図示する第2実施形態において、第1アプリケーション21は、マッピング情報26に基づいて、このような判断を行うことができる。
図3は、第2実施形態の例示的なマッピング情報26を示す。マッピング情報26は、複数の音波ID、各音波IDに関連するアプリID、及び各音波IDに関連するコンテンツ情報を含む。マッピング情報26は、モバイル装置20がアクセスできる任意の格納手段に格納されてもよい。一実施形態において、マッピング情報26は、ルックアップテーブルやデータベースの形式で格納されてもよい。
図2に示すマッピング情報25と比較するとき、図3に示すマッピング情報26は、各音波IDに関連するコンテンツ情報をさらに含んでいる。従って、第1アプリケーション21はアプリIDだけでなく、コンテンツ情報も取得することができる。例えば、第1アプリケーション21が抽出した音波IDが、「1011」であれば、マッピング情報26に基づいて、第1アプリケーション21は、この音波IDが、第2アプリケーション22に関連する音波IDであると判断して第2アプリケーション22のアプリIDを取得し、また、第1アプリケーション21は、マッピング情報26に基づいて、該音波IDに関連するコンテンツ情報も取得することができる。
一実施形態において、第1アプリケーション21は、第2アプリケーション22にコンテンツ情報を伝達する。他の実施形態において、第1アプリケーション21は、第2アプリケーション22に音波IDとコンテンツ情報を伝達してもよい。その後、第2アプリケーション22は、受信したコンテンツ情報を、例えば、モバイル装置20のディスプレイやスピーカを介して出力することができる。アプリケーション間のデータ送信方法及びコンテンツ情報の意味について、図2を参照して説明したため、その説明は省略する。
図4は、第3実施形態に係るアプリケーションの音波の受信及び処理の動作を示す。図面を参照すると、モバイル装置20の第1アプリケーション21が、音波IDの含まれた音波信号を受信し、この受信した音波信号から音波IDを抽出する。第1アプリケーション21は、抽出した音波IDが自身に関連する音波IDであるかを判断する。
第3実施形態において、モバイル装置20は、マッピング情報を有しておらず、各アプリケーションは、自身に関連する音波IDだけを識別することができ、他のアプリケーションに関連する音波IDは識別できないと仮定する。一実施形態において、第1アプリケーション21は、抽出した音波IDを自身が処理しなければならない音波IDでないと判断すると、この音波IDをサーバ30に送信する。
第3実施形態において、サーバ30がマッピング情報36を格納している。マッピング情報36は、複数の音波ID、及び、各音波IDに関連するアプリIDを含む。さらに、マッピング情報36は、各音波IDに関連するコンテンツ情報をさらに含んでもよい。マッピング情報36は、サーバ30内、又は、サーバ30がアクセスできるローカルデータベースに格納され得る。一実施形態において、マッピング情報36は、ルックアップテーブルやデータベースの形式で格納されてもよい。
サーバ30が音波IDを受信すると、マッピング情報36を参照して前記音波IDに関連する第2アプリケーション22のアプリID及びコンテンツ情報を取得する。その後、サーバ30は、アプリIDとコンテンツ情報を第1アプリケーション21に送信する。
第1アプリケーション21がアプリIDとコンテンツ情報を受信すると、第2アプリケーション22にこのコンテンツ情報を伝達することができる。他の実施形態において、第1アプリケーション21は、第2アプリケーション22に音波IDとコンテンツ情報を伝達してもよい。その後、第2アプリケーション22は、受信したコンテンツ情報を、例えば、モバイル装置20のディスプレイやスピーカを介して出力することができる。アプリケーション間のデータ送信方法及びコンテンツ情報の意味については、図2を参照して説明したため、その説明は省略する。
図5は、第4実施形態に係るアプリケーションの音波の受信及び処理の動作を示す。図面を参照すると、モバイル装置20の第1アプリケーション21が、音波IDの含まれた音波信号を受信し、この受信した音波信号から音波IDを抽出する。第1アプリケーション21は、抽出した音波IDが自身に関連する音波IDであるかを判断する。
第3実施形態と同様に、第4実施形態において、モバイル装置20はマッピング情報を有しておらず、各アプリケーションは、自身に関連する音波IDだけを識別でき、他のアプリケーションに関連する音波IDは識別できないと仮定する。従って、第1アプリケーション21は、抽出した音波IDについて、自身が処理しなければならない音波IDでないと判断すれば、この音波IDをサーバ30に送信する。
第4実施形態において、サーバ30がマッピング情報36を格納している。マッピング情報36は、複数の音波ID、及び、各音波IDに関連するアプリIDを含む。さらに、マッピング情報36は、各音波IDに関連するコンテンツ情報をさらに含んでもよい。マッピング情報36は、サーバ30内、又は、サーバ30がアクセスできるローカルデータベースに格納される。一実施形態において、マッピング情報36は、ルックアップテーブルやデータベースの形式で格納されてもよい。
サーバ30が音波IDを受信すると、マッピング情報36を参照して前記音波IDに関連する第2アプリケーション22のアプリIDを取得し、このアプリIDを第1アプリケーション21に送信する。
第1アプリケーション21が、第2アプリケーション22のアプリIDを受信すると、第2アプリケーション22に音波IDを伝達する。第2アプリケーション22は、受信した音波IDをサーバ30に送信する。サーバ30は、第2アプリケーション22から音波IDを受信すると、この音波IDに関連するコンテンツ情報を第2アプリケーション22に送信することができる。
代替案的な実施形態として、コンテンツ情報がサーバ30ではない他の外部装置(「第2サーバ」という)に格納されているのであり得る。この場合、第2アプリケーション22が、第1アプリケーション21から音波IDを受信すると、音波IDを第2サーバに送信し、音波IDに対応するコンテンツ情報を第2サーバから受信することができる。
では、図6〜図9を参照して、アプリケーション間の音波受信の動作を調整する例示的な構成について説明する。
図6は、一実施形態に係るアプリケーションの音波受信の動作周期を説明するための図である。図6において、説明の便宜のために、第1アプリケーションApp A21を例に取って説明する。しかし、後述する音波受信の動作が、第2アプリケーション22などの残りのアプリケーションにも、同一又は同様に適用され得ることを理解するであろう。
図6の(a)を参照すると、一実施形態にて、第1アプリケーション21は、予め設定された動作周期Pにしたがって、1回ずつの音波受信の動作を行うことができる。動作周期Pは、アプリケーション21をモバイル装置20にインストールする際に設定され、アプリケーションのアップデート又はユーザの設定により変更され得る。
音波受信の動作は、モバイル装置20が音波信号を受信する動作を意味する。例えば、モバイル装置20が、音波受信のために、マイク、アナログ−デジタルコンバータ(ADC)、音波信号処理部などのハードウェア及び/又はソフトウェアリソース(資源)を活性化しておき、音波信号を受信すれば、これらの資源を用いて音波信号から音波IDを抽出するという動作を含み得る。
図6の(b)を参照すると、他の一実施形態において、第1アプリケーション21は、予め設定された動作周期Pにしたがって1回ずつの音波受信の動作を行うのであるが、動作周期Pの開始時刻から所定のオフセットが経過してから実行されうる。動作周期Pとオフセットは、アプリケーション21をモバイル装置20にインストールする際に設定され、アプリケーションのアップデート又はユーザの設定により変更され得る。
図6の(c)を参照すると、更なる他の一実施形態において、第1アプリケーション21は、予め設定された動作周期Pにしたがって複数回ずつの音波受信の動作を行うのであるが、動作周期P内のそれぞれの音波受信の動作が動作周期Pの開始時刻からそれぞれの所定のオフセットが経過してから実行されるのでありうる。図示するように、例えば、動作周期Pごとに2回の音波受信の動作が実行されるが、1番目の音波受信の動作は、動作周期Pの開始時刻から第1オフセットOF1が経過してから実行され、2番目の音波受信動作は、第2オフセットOF2が経過してから実行される。このような動作周期PとオフセットOF1、OF2は、アプリケーション21をモバイル装置20にインストールする際に設定され、アプリケーションのアップデート又はユーザの設定により変更され得る。
次に、図7〜図9を参照して、アプリケーション間の音波受信の動作を調整する方法について説明する。説明の便宜のために、モバイル装置20内における2つのアプリケーション(App A及びApp B)の間の動作の調整を例にして説明する。しかし、このような動作の調整が、3つ以上のアプリケーションの間にも適用され得ることを理解するであろう。
図7は、一実施形態により、アプリケーション間の音波受信の動作を調整する方法を示す。図面を参照すると、第1アプリケーションApp A21は、第1動作周期P1に1回の音波受信の動作を実行し、第2アプリケーションApp B22は、第2動作周期P2に1回の音波受信の動作を実行する。発明の具体的な実施形態により、第1動作周期P1と第2動作周期P2は同一であってもよく、異なってもよい。図示する実施形態において、第1動作周期P1と第2動作周期P2が他の値を有し、第1及び第2アプリケーションの音波受信動作のオフセットはそれぞれ0であると仮定した。
また、ここで、第1動作周期P1と第2動作周期P2の最初の開始の時刻が同期化されていると仮定する。2つ以上のアプリケーションの間における一部の動作周期を同期化するため、例えば、アプリケーションがインストールされた端末の絶対時間を用いてそれぞれを設定する方法が使用されてもよい。一実施形態における各アプリケーションは、自身の動作周期とオフセット及び端末の時間を知っているため、音波の受信の時刻を決定する際、端末時間を基準として、例えば、1日(24時間)の間における音波受信の動作の開始時間をタイムテーブルで予め作成し、このタイムテーブルの時間情報を特定の時刻にアプリケーションの一部が実行されるようにする業務スケジュール(Job Schedule)(例えば、オペレーティングシステムの業務スケジュール)に登録することができる。従って、図7〜図9に示したように、2つのアプリケーションの動作周期の開始時点の一部を同期化することができる。
この実施形態において、第1アプリケーション21の音波受信の動作と第2アプリケーション22の音波受信の動作は、互いに少なくとも部分的に重なることも、また、重なることなく別々に実行されることもありうる。アンドロイド(登録商標)オペレーティングシステムといった一部のオペレーティングシステムでは、マイクの使用権限を1つのアプリケーションにのみ付与する場合がある。従って、このようなオペレーティングシステムの下で、2つのアプリケーションの音波受信の動作が重なる場合、例えば、第1アプリケーション21が時間的に先に始まる音波受信の動作(「先行音波受信動作」)を実行しているのであれば、時間的に後で始まる第2アプリケーション22の音波受信の動作(「後行音波受信動作」)は、たとえ自身の動作周期に合わせて実行されなければならないとしても、先行の音波受信の動作がマイクを使用中であるため実行できない。しかし、図2〜図5を参照して説明したように、先行の音波受信の動作を実行した第1アプリケーション21が音波信号から音波IDを抽出した後、この音波IDが第2アプリケーション22に関する音波IDであると判断すれば、この音波ID又はコンテンツ情報を、第2アプリケーション22に伝達することができる。
また、第1及び第2アプリケーションの音波受信の動作が互いに重なることなく、それぞれ個別に実行される場合、例えば、第1アプリケーション21の音波受信の動作の際に受信した音波信号の音波IDが、第2アプリケーション22に関連しているものであれば、第1アプリケーション21は、音波ID又はコンテンツ情報を第2アプリケーション22に伝達することができる。反対に、第2アプリケーション22の音波受信の動作の際に受信した音波信号の音波IDが、第1アプリケーション21に関連するものであれば、第2アプリケーション22は、音波ID又はコンテンツ情報を第1アプリケーション21に伝達することができる。
図8は、更なる実施形態により、アプリケーション間の音波受信の動作を調整する方法を示す。図面を参照すると、第1アプリケーション21は、第1動作周期P1にオフセットが0である音波受信の動作を1回実行し、第2アプリケーション22は、第2動作周期P2にオフセットがOF1(但し、OF1は0ではない)の音波受信の動作を1回実行することができる。ここで、第1動作周期P1と第2動作周期P2は同一であり、動作周期の開始時刻も同期化されており、2つのアプリケーションの音波受信の動作が互いに重ならないよう、オフセットOF1に設定される。
従って、この実施形態において、第1アプリケーション21の音波受信動作と第2アプリケーション22の音波受信動作は互いに重複することなく、同じ周期(P1=P2)の間に1回ずつ交互に実行されうる。即ち、モバイル装置20に複数のアプリケーションがインストールされた場合、各アプリケーションの音波受信動作に関する動作周期とオフセットを調整することで、互いに重複することなく音波受信動作を実行することができる。
一実施形態において、このような各アプリケーションの音波受信動作に関する動作周期とオフセットの調整は、モバイル装置20内の各アプリケーション同士が相互に通信して実行されうる。代替的に、モバイル装置20にインストールされて音波受信を動作するアプリケーションに関する情報を、モバイル装置20がサーバ30に送信すると、サーバ30が、互いに音波受信の動作の重複が生じないように、各アプリケーションの動作周期とオフセットを設定して各アプリケーションに伝達してもよい。
第1及び第2アプリケーションの音波受信の動作が交互に実行される場合、例えば、第1アプリケーション21の音波受信の動作の際に受信した音波信号の音波IDが、第2アプリケーション22に関連するものであれば、第1アプリケーション21は、音波ID又はコンテンツ情報を第2アプリケーション22に伝達することができる。反対に、第2アプリケーション22の音波受信の動作の際に受信した音波信号の音波IDが、第1アプリケーション21に関連するものであれば、第2アプリケーション22は、音波ID又はコンテンツ情報を第1アプリケーション21に伝達することができる。
従って、第1アプリケーション21の観点から見ると、ある動作周期P1内に2回の音波受信動作をするのと同様であり、第2アプリケーション22の観点においても、ある動作周期P2内に2回の音波受信の動作をするものであるため、このように、ある動作周期の間に音波受信の動作を交互に実行し、2つのアプリケーション間の音波IDを伝達できるように構成すれば、各アプリケーションの音波受信の確率を向上させる効果がある。
図9は、更なる実施形態により、アプリケーション間の音波受信の動作を調整する方法を示す。図面を参照すると、第1アプリケーション21は、第1動作周期P1にオフセットが0である音波受信動作211を1回実行し、第2アプリケーション22は、第2動作周期P2に第1オフセットOF1を有する第1音波受信動作221及び第2オフセットOF2を有する第2音波受信動作222をそれぞれ1回実行する。
第1動作周期P1と第2動作周期P2は同一であり、動作周期の開始時刻も同期化されている。第1オフセットOF1は0でない所定の値であるが、第1アプリケーション21の音波受信動作211と、第2アプリケーションの第1音波受信動作221とが、少なくとも部分的に重なるように第1オフセットOF1が設定される。音波受信動作222の第2オフセットOF2も0でない所定の値であり、音波受信動作211、221と重ならないように設定される。
従って、この実施形態において、第1アプリケーション21の音波受信動作211と、第2アプリケーション22の第1音波受信動作221とは、周期ごとに(各周期にて)互いに重なり、第1アプリケーション21の音波受信動作211が、時間的に早く実行される先行の音波受信の動作であるため、周期ごとに、第1アプリケーション21の音波受信動作211が実行され、第2アプリケーション22の第1音波受信動作221は実行されない。しかし、第2アプリケーション22の第2音波受信動作222は、他のアプリケーションの音波受信の動作に妨害されることなく、周期ごとに実行されうる。
第1アプリケーションと第2アプリケーションの動作周期及びオフセットを、図9に示すように設定すると、第2アプリケーション22の第1音波受信動作221が、第1アプリケーション21の音波受信動作211をバックアップする役割を果たす。例えば、第1アプリケーション21がバックグラウンドで動作するプログラムである場合、オペレーティングシステム(OS)が、電力消費の節減などの政策的な理由により、第1アプリケーション21の音波受信機能を制限する場合が時々発生するのであり、一方、第2アプリケーション22は、フォアグラウンド(foreground)として動作するプログラムであるため、音波受信動作221、222がオペレーティングシステムにより制限を受けないという場合がある。この場合、第1アプリケーション21の音波受信動作211が実行されなくても、音波受信動作211が実行されなければならない時間と重なる時間に、第2アプリケーション22の音波受信動作221が実行されうる。第2アプリケーション22は、音波受信動作221により、第1アプリケーション21の関連の音波IDが含まれた音波信号を受信し、第1アプリケーション21に音波IDを伝達することができるため、結果的に、第2アプリケーション22の音波受信動作221が、第1アプリケーション21の音波受信動作211をバックアップする役割を果たすことができる。
また、図9に示すように、動作周期及びオフセットが設定されている場合、いずれかの動作周期(P1又はP2)内に3回の音波受信動作211、221、222が実行されるようスケジューリングされたのであるが、実際は、2回の音波受信動作のみが生じることになるため、モバイル装置20の立場から見た場合、消費電力を削減する効果がある。
上述したように図面を参照して本発明の実施形態を説明したが、本発明が属する分野で通常の知識を有する当業者であれば、上述した明細書の記載から様々な修正及び変形が可能であることを理解するであろう。従って、本発明の範囲は、説明された実施形態に限定して定められてはならず、後述する特許請求の範囲及び特許請求の範囲と均等なものなどによって定められるべきである。

Claims (15)

  1. コンピューティングデバイスで実行されるアプリケーションの音波の受信及び処理の方法であって、
    第1アプリケーションが音波識別情報IDの含まれた音波信号を受信するステップと、
    第1アプリケーションが受信した前記音波信号から音波IDを抽出するステップと、
    前記音波IDが第1アプリケーションの関連の音波IDでない場合、第1アプリケーションが、前記の抽出された音波IDを受け取らねばならない、第2アプリケーションのアプリケーション識別情報(「アプリID」)を取得するステップと、
    前記アプリIDに基づいて、第1アプリケーションが、前記音波IDを第2アプリケーションに伝達するステップと、
    を含むことを特徴とする、音波受信及び処理方法。
  2. 前記アプリIDを取得するステップが、複数のアプリケーションのそれぞれについてのアプリIDと、それぞれのアプリケーションに関連する音波IDとをマッピングしたマッピング情報に基づいて、前記の抽出された音波IDにマッピングされたアプリIDを取得することを特徴とする、請求項1に記載の音波受信及び処理方法。
  3. 前記マッピング情報が前記コンピューティングデバイス内に格納さていることを特徴とする、請求項2に記載の音波受信及び処理方法。
  4. 前記マッピング情報が前記コンピューティングデバイスの外部のサーバ装置に格納されており、
    前記アプリIDを取得するステップが、
    第1アプリケーションが、前記の抽出された音波IDを、前記サーバ装置に送信するステップと、
    第1アプリケーションが、前記マッピング情報に基づいて選択されたアプリIDを、前記サーバ装置から受信するステップと、
    を含むことを特徴とする、請求項2に記載の音波受信及び処理方法。
  5. 第1アプリケーションが、予め設定された第1動作周期の間に第1音波受信動作を1回以上実行し、第2アプリケーションが、予め設定された第2動作周期の間に第2音波受信動作を1回以上実行するように構成されたことを特徴とする、請求項1に記載の音波受信及び処理方法。
  6. 前記第1動作周期内のそれぞれの第1音波受信動作が、第1動作周期の開始時刻からそれぞれ所定のオフセット時間の間隔が経過してから実行され、前記第2動作周期内のそれぞれの第2音波受信動作が、第2動作周期の開始時刻からそれぞれ所定のオフセット時間の間隔が経過してから実行されるように構成されたことを特徴とする、請求項5に記載の音波受信及び処理方法。
  7. 少なくとも1つの前記第1音波受信動作と、少なくとも1つの前記第2音波受信動作とが、少なくとも部分的に重なり合うようにそれぞれのオフセットを設定することで、前記の重なり合った第1音波受信動作及び第2音波受信動作のうちの1つのみが実行されるように構成されたことを特徴とする、請求項6に記載の音波受信及び処理方法。
  8. コンピューティングデバイスで実行されるアプリケーションの音波の受信及び処理の方法であって、
    第1アプリケーションが、音波識別情報IDの含まれた音波信号を受信するステップと、
    第1アプリケーションが、受信した前記音波信号から音波IDを抽出するステップと、
    前記音波IDが第1アプリケーションの関連の音波IDでない場合、第1アプリケーションが、前記の抽出された音波IDを受け取らねばならない第2アプリケーションのアプリケーション識別情報(「アプリID」)、及び、前記の抽出された音波IDに関連するコンテンツ情報を取得するステップと、
    前記アプリIDに基づいて、第1アプリケーションが、前記コンテンツ情報を第2アプリケーションに伝達するステップと、
    を含むことを特徴とする、音波受信及び処理方法。
  9. 前記アプリIDとコンテンツ情報を取得するステップが、
    複数のアプリケーションのそれぞれについてのアプリIDと、それぞれのアプリケーションに関連する音波IDと、各音波IDに関連するコンテンツ情報とをマッピングしたマッピング情報に基づいて、前記抽出された音波IDにマッピングされたアプリID及びコンテンツ情報を取得することを特徴とする、請求項8に記載の音波受信及び処理方法。
  10. 前記マッピング情報が前記コンピューティングデバイス内に格納されていることを特徴とする、請求項9に記載の音波受信及び処理方法。
  11. 前記マッピング情報が前記コンピューティングデバイスの外部のサーバ装置に格納されており、
    前記アプリIDとコンテンツ情報を取得するステップが、
    第1アプリケーションが、前記抽出された音波IDを前記サーバ装置に送信するステップと、
    第1アプリケーションが、前記マッピング情報に基づいて選択されたアプリID及びコンテンツ情報を、前記サーバ装置から受信するステップと、
    を含むことを特徴とする、請求項9に記載の音波受信及び処理方法。
  12. 第1アプリケーションが、予め設定された第1動作周期の間に第1音波受信動作を1回以上実行し、第2アプリケーションが、予め設定された第2動作周期の間に第2音波受信動作を1回以上実行するように構成されたことを特徴とする、請求項8に記載の音波受信及び処理方法。
  13. 前記第1動作周期内のそれぞれの第1音波受信動作が、第1動作周期の開始時刻からそれぞれ所定のオフセット時間の間隔が経過してから実行され、前記第2動作周期内のそれぞれの第2音波受信動作が、第2動作周期の開始時刻からそれぞれ所定のオフセット時間の間隔が経過してから実行されるように構成されたことを特徴とする、請求項12に記載の音波受信及び処理方法。
  14. 少なくとも1つの前記第1音波受信動作と、少なくとも1つの前記第2音波受信動作とが、少なくとも部分的に重なり合うように、それぞれのオフセットを設定することで、前記重なり合った第1音波受信動作及び第2音波受信動作のうちの1つのみが実行されるように構成されたことを特徴とする、請求項13に記載の音波受信及び処理方法。
  15. 請求項1〜請求項14のいずれか一項に記載の方法をコンピュータで実行させるためのプログラムが記録されたコンピュータで読出し可能な記録媒体。
JP2020549518A 2017-11-29 2017-11-29 コンピューティングデバイスにおけるアプリケーションの音波の受信及び処理の方法 Active JP7015398B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
PCT/KR2017/013789 WO2019107591A1 (ko) 2017-11-29 2017-11-29 컴퓨팅 디바이스에서의 애플리케이션의 음파 수신 및 처리 방법
KR10-2017-0161419 2017-11-29
KR1020170161419A KR101909175B1 (ko) 2017-11-29 2017-11-29 컴퓨팅 디바이스에서의 애플리케이션의 음파 수신 및 처리 방법

Publications (2)

Publication Number Publication Date
JP2021505099A true JP2021505099A (ja) 2021-02-15
JP7015398B2 JP7015398B2 (ja) 2022-02-02

Family

ID=64133179

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020549518A Active JP7015398B2 (ja) 2017-11-29 2017-11-29 コンピューティングデバイスにおけるアプリケーションの音波の受信及び処理の方法

Country Status (4)

Country Link
US (1) US20200328820A1 (ja)
JP (1) JP7015398B2 (ja)
KR (1) KR101909175B1 (ja)
WO (1) WO2019107591A1 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001296943A (ja) * 2000-04-14 2001-10-26 Denso Corp 対話型ユーザインターフェース装置
JP2004234273A (ja) * 2003-01-30 2004-08-19 Hitachi Ltd 対話型端末装置及び対話アプリケーション提供方法
JP2012227921A (ja) * 2011-04-05 2012-11-15 Yamaha Corp 情報提供システム、識別情報解決サーバおよび携帯端末装置
JP2016127344A (ja) * 2014-12-26 2016-07-11 ヤマハ株式会社 情報配信システム、放音装置、携帯端末装置およびプログラム
JP2017515429A (ja) * 2014-03-11 2017-06-08 サウンドリー インコーポレイテッドSoundlly Inc. 低電力関連コンテンツ提供システム、方法、及びプログラムを記録したコンピューターで読むことができる記録媒体
WO2017098644A1 (ja) * 2015-12-10 2017-06-15 三菱電機株式会社 情報処理装置、情報処理方法及び情報処理プログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9014658B2 (en) * 2008-03-14 2015-04-21 William J. Johnson System and method for application context location based configuration suggestions
KR101115383B1 (ko) * 2011-01-21 2012-02-15 (주)인터랙티비 저주파통신을 이용한 광고 시스템 및 이를 이용한 광고방법
US20130048709A1 (en) * 2011-05-05 2013-02-28 Gary Turner Method and apparatus for automatic encoded signal information delivery
KR101765053B1 (ko) * 2013-04-15 2017-08-10 한국전자통신연구원 보안 감시 시스템 및 보안 감시 방법
WO2014204191A1 (ko) * 2013-06-18 2014-12-24 (주)파워보이스 외부 디바이스의 제어를 위해 음파를 출력하는 모바일 디바이스 및 방법, 그리고 외부 디바이스

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001296943A (ja) * 2000-04-14 2001-10-26 Denso Corp 対話型ユーザインターフェース装置
JP2004234273A (ja) * 2003-01-30 2004-08-19 Hitachi Ltd 対話型端末装置及び対話アプリケーション提供方法
JP2012227921A (ja) * 2011-04-05 2012-11-15 Yamaha Corp 情報提供システム、識別情報解決サーバおよび携帯端末装置
JP2017515429A (ja) * 2014-03-11 2017-06-08 サウンドリー インコーポレイテッドSoundlly Inc. 低電力関連コンテンツ提供システム、方法、及びプログラムを記録したコンピューターで読むことができる記録媒体
JP2016127344A (ja) * 2014-12-26 2016-07-11 ヤマハ株式会社 情報配信システム、放音装置、携帯端末装置およびプログラム
WO2017098644A1 (ja) * 2015-12-10 2017-06-15 三菱電機株式会社 情報処理装置、情報処理方法及び情報処理プログラム

Also Published As

Publication number Publication date
US20200328820A1 (en) 2020-10-15
WO2019107591A1 (ko) 2019-06-06
KR101909175B1 (ko) 2018-10-18
JP7015398B2 (ja) 2022-02-02

Similar Documents

Publication Publication Date Title
US10284953B2 (en) Maintaining grouping information for audio speakers devices
US20190173590A1 (en) Sonic signaling communication for user devices
US10333811B2 (en) Apparatus and method for detecting counterfeit advertiser in wireless communication system
CN105335112B (zh) 多屏显示的信息处理和主控端内容发送方法、装置
EP3169086B1 (en) Connection method for multimedia playing device, master device, control terminal, and system
US9798515B1 (en) Clock synchronization for audio playback devices
US20140057569A1 (en) Synchronized Multichannel Data
CN104885387A (zh) 超声波通信系统
JP2013070377A (ja) 変調されたコードを復調し、コンテンツをユーザに提供するために有効なシステム
JP2013069295A (ja) コードを変調し、コンテンツをユーザに提供するために有効なシステム
US20130073617A1 (en) Information appliance data connection system, authentication device, client appliance, information appliance data connection method and recording medium
CN103246840A (zh) 一种用户权限分配的方法及装置
CN106469388A (zh) 用户评论的实现方法和装置
JP7015398B2 (ja) コンピューティングデバイスにおけるアプリケーションの音波の受信及び処理の方法
KR20190062841A (ko) 컴퓨팅 디바이스에서의 애플리케이션의 음파 수신 및 처리 방법
CN105100891A (zh) 音频数据获取方法和装置
CN103873935A (zh) 一种数据处理方法和装置
KR20190062846A (ko) 컴퓨팅 디바이스에서의 애플리케이션의 음파 수신 및 처리 방법
Bhalla et al. Unraveling bluetooth le audio
WO2024027746A1 (zh) 信息传输方法、装置、接收端及发送端
WO2023125304A1 (zh) 通信操作执行方法、装置、终端和存储介质
WO2023045687A1 (zh) 投屏方法、设备及系统
WO2020169492A1 (en) Resource management in communication networks
CN102006325A (zh) 一种移动终端信息实现同步显示的方法
JP2014239283A (ja) 放送システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200706

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210421

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210601

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210824

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220104

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220121