JP7083956B2 - 端末機器の制御方法 - Google Patents

端末機器の制御方法 Download PDF

Info

Publication number
JP7083956B2
JP7083956B2 JP2021500780A JP2021500780A JP7083956B2 JP 7083956 B2 JP7083956 B2 JP 7083956B2 JP 2021500780 A JP2021500780 A JP 2021500780A JP 2021500780 A JP2021500780 A JP 2021500780A JP 7083956 B2 JP7083956 B2 JP 7083956B2
Authority
JP
Japan
Prior art keywords
application
instruction
terminal device
connected device
controlling
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021500780A
Other languages
English (en)
Other versions
JPWO2019183033A5 (ja
JP2021518728A (ja
Inventor
コガ,ヨウキチ
イシダ,ショウジ
シルバ リベイロ,フェルナンド
フェリペ サンティアゴ ドス サントス オルイ,ジョアオ
Original Assignee
ドライブモード,インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ドライブモード,インコーポレイテッド filed Critical ドライブモード,インコーポレイテッド
Publication of JP2021518728A publication Critical patent/JP2021518728A/ja
Publication of JPWO2019183033A5 publication Critical patent/JPWO2019183033A5/ja
Application granted granted Critical
Publication of JP7083956B2 publication Critical patent/JP7083956B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72409User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories
    • H04M1/724098Interfacing with an on-board device of a vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482Interaction with lists of selectable items, e.g. menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/30Arrangements for executing machine instructions, e.g. instruction decode
    • G06F9/38Concurrent instruction execution, e.g. pipeline or look ahead
    • G06F9/3836Instruction issuing, e.g. dynamic instruction scheduling or out of order instruction execution
    • G06F9/3838Dependency mechanisms, e.g. register scoreboarding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/451Execution arrangements for user interfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/54Interprogram communication
    • G06F9/543User-generated data transfer, e.g. clipboards, dynamic data exchange [DDE], object linking and embedding [OLE]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72442User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality for playing music files
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72409User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories
    • H04M1/72412User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories using two-way short-range wireless interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/7243User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72469User interfaces specially adapted for cordless or mobile telephones for operating the device by selecting functions from two or more displayed items, e.g. menus or icons
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2250/00Details of telephonic subscriber devices
    • H04M2250/74Details of telephonic subscriber devices with voice recognition means

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Multimedia (AREA)
  • Telephone Function (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • User Interface Of Digital Computer (AREA)

Description

(関連出願への相互参照)
本出願は、2018年3月19日付で出願された米国仮出願第62/644,970号に基づく優先権を主張するものであり、当該仮出願の内容が、参照により本明細書に援用される。
(技術分野)
本開示は、ユーザが端末機器に視線を集中させ続けることが困難な場合であっても、適切に端末機器を制御するための方法に関する。
ユーザが端末機器に視線を集中させ続けることが困難な場合であっても、適切に端末機器を制御するための方法として米国特許公報第2015/0362991号が開示されている。
米国特許公報第2015/0362991号
上述した先行文献によれば、特別なアプリケーションを用いて端末機器の有する機能を利用することによって、端末機器がユーザの視野外に存在する場合であっても適切に端末機器を制御することができる。
しかしながら、端末機器を制御するOSの種類、または利用しようとする端末機器の機能によっては、当該アプリケーションは、直接端末機器の有する機能を利用するように制限される場合がある。
このようにアプリケーションが直接端末機器の有する機能を利用するように制限される場合は、当該機能を用いるという理由で当該アプリケーションを使用することができなくなるため、端末機器がユーザの視野外に存在する場合であっても適切に端末機器を制御することができなくなる。
本開示は、上記課題を解決するために、端末機器がユーザの視野外に存在する場合であっても適切に端末機器を制御することができる端末機器の制御方法を提供する。
図1は、端末機器と接続機器が利用される状況の一例を示した図である。 図2は、端末機器と接続機器2の接続を示すブロック図である。 図3は、端末機器の概略構成を示すブロック図である。 図4は、接続機器の概略構成を示すブロック図である。 図5は、システムの動作の概要を示すチャートである。 図6は、第1のアプリケーションのUIの一例を示す図である。 図7は、電話発信動作の概要を示すチャートである。 図8は、第1のアプリケーションのUIの一例を示す図である。 図9は、音楽再生動作の概要を示すチャートである。 図10は、音楽再生動作の概要を示すチャートである。 図11は、メッセージ送信動作の概要を示すチャートである。 図12は、第1のアプリケーションのUIの一例を示す図である。 図13は、音声アシスタント動作の概要を示すチャートである。 図14は、電話着信動作の概要を示すチャートである。
以下、図面を参照しながら、本開示に係る端末機器の制御方法を具体的に開示した実施形態(以下、「本実施形態」という)を詳細に説明する。但し、詳細な説明は省略する場合がある。例えば、既によく知られた事項や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面及び以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。また、本明細書は米国特許公報第2015/0362991号の全内容を参照により、本明細書に援用する。
以下、図面を用いて本実施形態の一例を説明する。
[システムの構成]
図1から図4を用いてシステムの構成を概略的に説明する。
図1は端末機器と接続機器が利用される状況の一例を示した図である。図1は車内から見た運転席近辺の状況を表している。
本実施形態の一例として、図1に示されるような、端末機器1としてのスマートフォンが接続機器2としての車(車に実装あるいは設置された情報処理装置を含む)に接続されている。具体的には車のユーザが、端末機器1に視線を集中させ続けることが困難な場合であっても、車の運転に集中するために、適切に端末機器1を制御するための方法を説明する。
図2は端末機器と接続機器2の接続を示すブロック図である。
図2に示されるように端末機器1と接続機器2は互いに通信可能である。端末機器1と接続機器2を接続する方法は様々なものが考えられる。端末機器1と接続機器2を接続する方法の一例としては、Bluetooth接続、USB接続、Wi-Fi接続などが挙げられるがこれらに限られない。端末機器と接続機器2を接続する方法はデバイス間を通信可能にするものならば良い。
図3は端末機器の概略構成を示すブロック図である。
CPU11は端末機器1の他の要素を制御する。
メモリ12は端末機器1の制御に必要な情報を一時的あるいは恒久的に記録する。
タッチパネルディスプレイ13は端末機器1の表面に配置され、情報を表示すると共にユーザからの操作を受け付ける。
SP/MIC(スピーカーおよびマイクロフォン)はユーザに対して音を発し、また、ユーザの発する音を受け付ける。
通信モジュール15はインターネットとの通信、電話回線(4G/LTE等)との通信、接続機器2との通信等のうち少なくとも1つのために用いられるモジュールである。
図4は接続機器の概略構成を示すブロック図である。
CPU21は接続機器2の他の要素を制御する。
メモリ22は接続機器2の制御に必要な情報を一時的あるいは恒久的に記録する。
入力機器23は接続機器2のユーザの付近に配置され、ユーザからの操作を受け付ける。
SP/MIC(スピーカーおよびマイクロフォン)24はユーザに対して音を発し、また、ユーザの発する音を受け付ける。
通信モジュール25はインターネットとの通信、電話回線(4G/LTE等)との通信、端末機器1との通信等のうち少なくとも1つのために用いられるモジュールである。
なお、端末機器1と接続機器2の具体的構成は図3および図4に示した構成に限られない。本開示の目的を達する限りで一部の要素が省略されてもよいし、統合されてもよいし、変更されても良い。例えば端末機器1において、本開示の実施に必要なユーザからの入力を受けつける為に、カメラなどを用いて表情認識を行っても良い。他の例として接続機器2において、本開示の実施に必要なユーザからの入力を受けつける為に、ダッシュボード上のタッチパネルなどを用いても良い。
図1において、端末機器1上では特定のアプリケーション(第1のアプリケーション)がフォアグラウンドで動作している。第1のアプリケーションは端末機器から電話の発信を行うための操作領域をGUIで表示している。具体的には操作領域をユーザがタッチすると、アプリケーションは、ジョン(John)という人物に電話の発信をすることができる。図1に示すように第1のアプリケーションは電話の発信を行う操作領域を端末機器1上の画面の支配的な領域に一様な色またはパターンと共に表示する。このようにすることでユーザは端末機器1が視野の外にあったとしても、適切に操作領域の場所及び機能を識別することができる。よって、ユーザは端末機器1に視線を集中させ続けることが困難な場合であっても、操作領域に対する操作を行うことができる。
ここで、図1に示すようなシステムを用いて実際に電話の発信を行うためには、端末機器1のOSは、標準として提供されるアプリケーション(電話機能)(第2のアプリケーション)を第1のアプリケーションの操作に連動して必ず動作させる。言い換えれば第1のアプリケーションから直接第2のアプリケーションを制御するような挙動の実現が必要である。
しかしながら、第2のアプリケーションを他のアプリケーションから制御する手段がOSによって、全体的にまたは部分的に、技術的に制限されているまたは実質的に不可能になっている場合がある。このような場合を「第2のアプリケーションが他のアプリケーションから直接制御されることが禁止される」と呼ぶ。
以下、図5を用いて、上述した課題を解決するためのシステムの動作の概要を説明する。
[システムの動作の概要]
図5は、システムの動作の概要を示すチャートである。
図5に示すように、システムの動作は接続機器2と端末機器1内にインストールされた第1のアプリケーションと第2のアプリケーションとが相互に情報をやりとりすることで実現される。なお、当該情報のやり取りは、接続機器2および端末機器1のCPU11以外のハードウェア要素が作用することによって実現される。
ステップS501において、接続機器2と端末機器1は互いにペアリングを行う。ペアリングとは接続機器2と端末機器1が互いに通信可能になることをいう。本実施形態においてはペアリングの例としてBluetoothペアリングについて説明を行う。ペアリングの具体的な方法はBluetoothペアリングに限られない。ペアリングとしてはUSBによる接続も例示できる。
ステップS502において、第1のアプリケーションは第1のアプリケーションのUIを端末機器1のタッチパネルディスプレイ上に表示する。ステップS502はユーザが第1のアプリケーションを起動した後、または、端末機器1の移動速度(図示しない地理情報取得センサ(GPS等)から得られる情報、あるいは接続機器2から得られる情報によって取得され得る)が所定の速度を超えた後に実行される。
図6は第1のアプリケーションのUIの一例を示す図である。
図6に示すように、第1のアプリケーションのUIは画面の支配的領域を占めている。第1のアプリケーションのUIはアイコン領域とその他の領域を有する。アイコン領域をタッチするとアイコンの種類に応じて電話、音楽再生、テキスト(メッセージ)送信、ナビゲーション、音声認識、商品注文、ロードサイドサービス等の機能を動作させることができる。その他の領域をクリックすることで、あるいは、接続機器2に配置された入力機器23(例えばリモートコントローラ、ステアリングキー)を操作することで、他の機能を動作させるアイコンを表示する画面へとUIが変化する。具体的には図6(A)に示すように中央の人の顔をしたアイコン(電話機能を動作させるアイコン)以外の領域を下方向にクリックした場合、図6(B)に示すように音符の形をしたアイコン(音楽機能を動作させるアイコン)にUIが遷移する。また、その他の領域はアイコンの種類に応じて互いに異なる一様なパターン(色および/または形状)を有する。
ステップS503において、第1のアプリケーションは第2のアプリケーションの動作に関連する第1のインストラクションを生成する。第2のアプリケーションの動作に関連する第1のインストラクションとは、「第2のアプリケーションが当該インストラクションの少なくとも一部を解釈することで第2のアプリケーションの機能を発現することができるもの」および/または「第2のアプリケーションが、引数として当該インストラクションの少なくとも一部を生成する、あるいは当該インストラクションの少なくとも一部に基づいて引数を生成して、第2のアプリケーションの機能を発現することができるもの」をいう。以下に具体的に第2のアプリケーションの動作に関連する第1のインストラクションを例示する。
第2のアプリケーション 第1のインストラクション
電話アプリ 発呼要求+電話番号
テキストアプリ メッセージ送信要求+電話番号+テキストの内容
音楽アプリ 楽曲情報送信要求
音楽アプリ 楽曲再生要求
音声アシスタントアプリ 音声アシスタント起動要求
ステップS504において、第1のアプリケーションは接続機器2に対して第1のインストラクションを送信する。一般的には、第1のインストラクションは第1のアプリケーションから第2のアプリケーションに送信されることが考えられる。しかしながら、上述したように、本実施形態においては第2のアプリケーションが他のアプリケーションから直接制御されることが禁止されている。そこで、本実施形態においては、接続機器2に対して第1のインストラクションを送信することで上述した課題を解決する。なお、本実施形態においては第1のインストラクションはBLE(Bluetooth Low Energy)プロトコルを用いて送信される。
ステップS505において、接続機器2は、第1のインストラクションを受信する。
ステップS506において、接続機器2は、第1のインストラクションを修正する。本ステップは第1のインストラクションをそのまま第2のアプリケーションに送信できない場合に特に有効であるが、第1のインストラクションをそのまま第2のアプリケーションに送信できる場合は必須のステップではない。本実施形態においては、BLEプロトコルを用いて送信された第1のインストラクションに基づいて、当該第1のインストラクションをBT(Bluetooth)プロトコルを用いて送信するための修正がステップS506において行われる。なお、修正されたインストラクションを第1のインストラクションと区別するために第2のインストラクションと呼ぶが、仮にインストラクションを修正しない場合であっても(内容が同一であっても)本開示においては送信主体等を明確にするために「第~の」という言葉を用いて互いのインストラクションを区別して表現する。つまり「第~の」の部分が異なることは必ずしもインストラクションの内容が異なることを意味しない。なお、本実施形態において接続機器2がインストラクションを第1または第2のアプリケーションから受信し、当該受信したインストラクションを第2または第1のアプリケーションに送信する場合には、ステップS506と同様のステップが行われる場合があるが、説明の簡略化のために他の図面において当該ステップは省略される場合がある。
ステップS507において、接続機器2は第2のインストラクションを端末機器1上の第2のアプリケーションへ送信する。上述したように本実施形態においては第2のアプリケーションが他のアプリケーションから直接制御されることが禁止されている。しかしながら、そのような場合であっても他のデバイスから第2のアプリケーションを制御することは制限されていない場合がある。本実施形態ではそのような特性を利用して、接続機器2を介在させることで、第1のアプリケーションから第2のアプリケーションを制御するための挙動を実現することができる。
ステップS508において、第2のアプリケーションは第2のインストラクションを受信する。
ステップS509において、第2のアプリケーションは自身の機能を実行する。当該実行は第2のインストラクションに基づいて行われる動作である。実行される機能の内容は第1のインストラクションの内容に準ずる(詳細は後述する)。ステップS509においては、フォアグラウンドのUIが第2のアプリケーションに切り替わる場合もある。なお、第2のアプリケーションが自身の機能を実行する際に、音声などの出力が必要になる場合は接続機器2に備えられたスピーカーが当該出力を行う場合がある。
ステップS510において、第2のアプリケーションは、ステップS509で実行した機能の状態(第2のアプリケーションの状態)を接続機器2に送信する。当該状態はBTプロトコルを用いて送信される。この構成は、第2のアプリケーションの状態において、接続機器2または第1のアプリケーションの状態を容易に変化させることである。よって、ステップS510を代替する処理(例えば第2のアプリケーション終了後の表示画面をあらかじめ定めておくなど)が存在する場合は、ステップS510およびそれに関連するステップを省略することも考えられる。なお、ステップS510は第2のアプリケーションで実行しようとする機能によっては、定期的に、あるいは第2のアプリケーションの状態が変化することをトリガとして、ループして実行されることがある。例えば、第2のアプリケーションが音声認識機能である場合、ステップS510は起動時に1回実行される。また、第2のアプリケーションが電話機能である場合は、通話の状態が変化したことをトリガとしてステップS510が実行される。
ステップS511において、接続機器2は第2のアプリケーションの状態を受信する。
ステップS512において、接続機器2は第2のアプリケーションの状態を第1のアプリケーションに送信する。なお、図示しないが、ステップS506と同様に第2のアプリケーションの状態も、接続機器2によって修正されてもよい。本実施形態でもステップS506と同様に、ステップS511とS512の間において、第2のアプリケーションの状態が修正され、BLEプロトコルを用いて送信される。
ステップS513において、第1のアプリケーションは第2のアプリケーションの状態に基づいてUIの変更を行う。この詳細は以下に述べる個別の機能の説明において行う。
以上、図5を用いて、システムの動作の概要を説明した。
以下では、さらに具体的に、第2のアプリケーションの個別の機能(電話機能、メッセージ送受信機能、音楽再生機能、音声アシスタント機能)の動作が上述したシステム動作の概要を基礎としてどのように行われるかを説明する。なお、個別の機能の種類によってはシステム動作の概要では述べなかったステップが実行される場合もあり、この点も含めて説明を行う。
[電話発信動作]
以下、図7を用いて、電話発信動作の説明を行う。
図7は、電話発信動作の概要を示すチャートである。図7において図5で述べた各ステップと実質的に同様なものについては図5と同じ符号を付したうえで説明を省略し、電話発信動作の説明を付すのみにとどめる。
ステップS502においては、第1のアプリケーションのUIとして図8(A)あるいは図8(B)に示すUIが端末機器1のフォアグラウンドに表示される。図8(A)は電話機能を選択するためのUIである。図8(A)において中央をタッチするとUIが図8(B)に遷移する。図8(B)はどの連絡先へ電話を発信するかを選択するためのUIである。
ステップS503においては、発呼要求+電話番号が第1のインストラクションの内容として生成される。なお、ステップS503は、図8(B)において具体的な連絡先を示す中央のアイコンをタッチする時に実行される。
ステップS509においては、第2のアプリケーションとしての電話アプリによって発呼処理が行われる。その際に電話アプリのUIとして図8(C)が端末機器1のフォアグラウンドに表示される。それまでに表示されていた第1のアプリケーションの画面はバックグラウンドに切り替えられる。このように第1のアプリケーションのUIがバックグラウンドに切り替えられ、第2のアプリケーションのUIがフォアグラウンドに表示される動作を「第1のアプリケーションの表示画面を終了させ、第2のアプリケーションの表示画面を表示させる」と表現する。なお「第1のアプリケーションの表示画面を終了させ、第2のアプリケーションの表示画面を表示させる」という表現には第2のアプリケーションが支配的に表示されつつも、部分的に第1のアプリケーションの表示が存在する状態を含む。
ステップS710においては、第2のアプリケーションの状態として「通話中(および通話時間)、呼び出し中、相手先話し中(BUSY)、通話終了」などの呼状態が接続機器2へ送信される。
ステップS513においては、第1のアプリケーションは、呼状態の第1のアプリケーション内への記録、およびバックグラウンド上での第1のアプリケーションのUIの更新を行う。このようにUIの更新を行うことで、呼状態に応じて、第1のアプリケーションのUIを第2のアプリケーションが終了した後に表示される適切な内容で更新することができる。例えば、呼状態から取得される通話時間を通話終了後に第1のアプリケーション上に表示することが可能になる。また、ユーザが通話の終了後に再度当該通話先に電話をかけ直すことができるUIに、UIを更新することも考えられる。
ステップS714において、第1のアプリケーションは、呼状態が相手先話し中(呼び出しを数回行っても応答がない場合)でかつ、第1のアプリケーション内の設定において自動再発呼設定がオン(ON)になっているか否かを判断する。ステップS714でYesの場合はステップS503へ処理がループする。
ステップS715において、電話発信が終了する。ステップS715は割込み処理として接続機器2が行う処理である(必ずしも接続機器2から行われるとは限られず(ステップS717参照)、破線で表している)。接続機器2における入力機器23への入力によってステップS715が実行される。
ステップS716において、接続機器2は第2のアプリケーションに終話要求を送信する。ステップS716は接続機器2によってステップS715が実行された際に実行される。終話要求はBTプロトコルを用いて送信される。なお、ステップS716に関連する一連のステップは第1のアプリケーションが起点となって接続機器2経由で第2のアプリケーションに終話要求を送信する処理としてもよい(この場合は第1のアプリケーションから接続機器2への終話要求はBLEプロトコルを用いて行われる)。
ステップS717において、電話発信が終了する。ステップS717は割込み処理として第2のアプリケーションが行う処理である。第2のアプリケーションにおいて図8(C)下部に示すアイコンをタッチすることによりステップS717が実行される。また、ステップS716からの遷移によってもステップS717が実行される。さらに、ステップS717が実行されるとフォアグラウンドで表示されていた第2のアプリケーションのUIが終了し、第1のアプリケーションのUIがフォアグラウンドに復帰する。
ステップS718において、ステップS510と同様に第2のアプリケーションの状態(終話状態)が接続機器2へBTプロトコルを用いて送信される。
ステップS719において、接続機器2は第2のアプリケーションの状態を受信する。
ステップS720において、ステップS512およびS510と同様に第2のアプリケーションの状態(終話状態)が第1のアプリケーションへBLEプロトコルを用いて送信される。
ステップS721において、ステップS513と同様に、呼状態を第1のアプリケーション内に記録することおよびバックグラウンド上での第1のアプリケーションのUIを更新することが行われる。具体的には終話後の画面として、最終的な通話時間等が表示される。発呼直前のUIが表示される。ナビゲーション中であればナビゲーション画面に戻る。
[音楽再生動作]
以下、図9および図10を用いて、音楽再生動作の説明を行う。
図9および図10は、音楽再生動作の概要を示すチャートである(紙面の都合上2つの図面を用いて示す)。図9および図10において、図5で述べた各ステップと実質的に同様なものについては図5と同じ符号を付したうえで説明を省略する。音楽再生動作の説明を付すのみにとどめる。
ステップS502においては、第1のアプリケーションのUIとして図6(B)あるいは図8(A)において中央のアイコンをタッチすると表示されるUIが端末機器1のフォアグラウンドに表示される。図6(B)は音楽再生機能を選択するためのUIである。図6(B)において中央のアイコンをタッチするとUIが再生情報を選択する画面に遷移する。再生情報とは楽曲ソース(ラジオ、接続機器2に接続されたCD等の、第2のアプリケーション(音楽アプリ)内の音楽)に加えて具体的な楽曲情報(曲名、アーティスト名等)を有する情報である。なお楽曲ソースが第2のアプリケーションである具体例としては、楽曲ソースがBluetooth Audioである場合が挙げられる。
ステップS503においては、再生情報を内容とする楽曲情報送信要求が第1のインストラクションの内容として生成される。なお、ステップS503は、再生情報を選択する画面において具体的な再生情報を選択する時に実行される。
ステップS905において、接続機器2は、第2のアプリケーションが楽曲ソースである第1のインストラクションの内容を有し、楽曲情報が接続機器2内に保存されているかを判断する。
ステップS506(ステップS905においてYes)においては、楽曲情報送信要求が第2のインストラクションとしてBTプロトコル形式に変換される。なお第2のインストラクションを第1のインストラクションから楽曲ソースを削除したものとしてもよい。
ステップS509においては、第2のアプリケーションとしての音楽再生アプリによって楽曲情報取得処理が行われる。
ステップS910において、取得した楽曲情報が接続機器2へBTプロトコルを用いて送信される。
ステップS911(ステップS910からの遷移、またはステップS905においてNo)において、接続機器2は楽曲情報を取得する。楽曲ソースがラジオの場合はラジオ放送の信号から楽曲情報を取得する。楽曲ソースがCDである場合も当該CDから楽曲情報が取得可能である。
ステップS912において、BLEプロトコルを用いて楽曲情報が第2のアプリケーションへ送信される。
ステップS513においては、当該楽曲情報が、再生ボタンと共にフォアグラウンドで動作する第1のアプリケーションに表示される。
ステップS914において、ステップS513で表示された楽曲情報に対応する再生情報を内容とする楽曲再生要求がBLEプロトコルを用いて接続機器2へ送信される。ステップS915はユーザが第1のアプリケーション上の再生ボタンをタッチした際に実行される。
ステップS915において、接続機器2は楽曲再生要求を受信する。
ステップS1016において、接続機器2は、楽曲再生要求の内容となっている楽曲ソース情報が、楽曲ソースとして第2のアプリケーションを有する情報であるかを判断する。
ステップS1017(ステップS1016でYes)において、BTプロトコル形式に変換された楽曲再生要求が第2のアプリケーションに送信される。
ステップS1018において、第2のアプリケーションが楽曲再生要求を受信する。
ステップS1019において、第2のアプリケーションが楽曲の再生を行う。なお、本実施形態においては、ステップS1019が実行されている場合であっても、端末機器1のフォアグラウンドには第1のアプリケーションの画面が表示されている。
ステップS1020において、第2のアプリケーションは楽曲の再生状態をBTプロトコル形式で接続機器2へ送信する。再生状態には、現在の曲の進行状態を示す情報が含まれる。
ステップS1021において、接続機器2は再生状態を受信する。
ステップS1022(ステップS1016でNo)において、接続機器2は楽曲再生要求に従ってラジオ、またはCDの音楽を再生する。
ステップS1023において、接続機器2はステップS1021で受信した再生状態、またはステップS1022で再生している楽曲の再生状態をBLEプロトコル形式で第1のアプリケーションに送信する。
ステップS1024において、第1のアプリケーションは受信した再生状態をUIに反映させる。
[メッセージ送信動作]
以下、図11を用いて、メッセージ送信動作の説明を行う。
図11は、メッセージ送信動作の概要を示すチャートである。図11において図5で述べた各ステップと実質的に同様なものについては図5と同じ符号を付したうえで説明を省略する。メッセージ送信動作の説明を付すのみにとどめる。
ステップS502においては、第1のアプリケーションのUIとして図12(A)(BあるいはC)が示すUIが端末機器1のフォアグラウンドに表示される。図12(A)はメッセージ機能を選択するためのUIである。図12(A)において中央のアイコンをタッチするとUIが図12(B)に遷移する。図12(B)はどの連絡先へメッセージを送信するかを選択するためのUIである。図12(B)において中央のアイコンをタッチするとUIが図12(C)に遷移する。図12(C)は連絡先へどのメッセージを送信するかを選択するためのUIである(なお図12(C)中の「スピーチ…」を選択すると音声認識が開始し、音声認識で認識した内容がメッセージの内容となる。以降の処理は後述する[音声アシスタント起動動作]を参照。)。
ステップS503においては、メッセージ送信要求+電話番号+テキストの内容が第1のインストラクションの内容として生成される。なお、ステップS503は、図12(C)において具体的なメッセージの内容を示す文章をタッチする、または音声認識を行う時に実行される。
ステップS509においては、第2のアプリケーションとしてのメッセージアプリによってメッセージ送信処理が行われる。本実施形態ではステップS509が実施される場合であっても、第1のアプリケーションのUIが端末機器1に表示される。
ステップS510においては、第2のアプリケーションの状態として「送信中、到達、既読」などのメッセージ状態が接続機器2へ送信される。
ステップS513においては、メッセージ状態が第1のアプリケーション内に登録され、バックグラウンド上での第1のアプリケーションのUIの更新が行われる。
[音声アシスタント動作]
以下、図13を用いて、音声アシスタント動作の説明を行う。
図13は、音声アシスタント動作の概要を示すチャートである。図13において図5で述べた各ステップと実質的に同様なものについては図5と同じ符号を付したうえで説明を省略する。音声アシスタント動作の説明を付すのみにとどめる。
ステップS502においては、第1のアプリケーションのUIとして音声アシスタント起動アイコンが表示される。
ステップS503においては、音声アシスタント起動要求が第1のインストラクションの内容として生成される。なお、ステップS503は、ユーザが音声アシスタント起動アイコンを選択する時に、または接続機器2の入力機器23に入力を行う時に実行される。
ステップS509においては、第2のアプリケーションとしての音声アプリにおける起動処理が行われる。
ステップS1310において、第2のアプリケーションが音声を受け付ける。具体的にはユーザによって行われたマイクまたは端末機器1の接続機器2に対する発声を受け付ける。
ステップS1311において、第2のアプリケーションは受け付けた音声に対する音声認識を実行する。
[電話着信動作]
以下、図14を用いて、電話着信動作の説明を行う。
図14は、電話着信動作の概要を示すチャートである。
ステップS1401において、ステップS501と同様にペアリングが行われる。
ステップS1402において、ステップS502と同様に第1のアプリケーションのUIが端末機器1に表示される。
ステップS1403において、第2のアプリケーションが外部からの着信を受け付ける。本実施形態においては、第2のアプリケーションが外部からの着信を受け付けると、端末機器1には第2のアプリケーションのUIが表示され、第1のアプリケーションのUIはバックグラウンドに移る。
ステップS1404において、第2のアプリケーションは第1のアプリケーションの動作に関連する第1のインストラクションを生成する。第1のアプリケーションの動作に関連する第1のインストラクションとは、「第1のアプリケーションが当該インストラクションの少なくとも一部を解釈することで第1のアプリケーションの機能を発現することができるもの」および/または「第1のアプリケーションが当該インストラクションの少なくとも一部で引数を生成して、あるいは少なくとも一部に基づいて引数を生成して、第1のアプリケーションの機能を発現することができるもの」をいう。電話着信動作においては、着信の状態を伝える呼状態および着信元の電話番号が第1のインストラクションの内容となる。
ステップS1405において、第2のアプリケーションは接続機器2に対してステップS1404で生成した第1のインストラクションを送信する。第1のインストラクションはBTプロトコルを用いて送信される。
ステップS1406において、接続機器2は、第1のインストラクションを受信する。
ステップS1407において、接続機器2は、第1のインストラクションに基づいて、第1のインストラクションを修正した第2のインストラクションおよび第1のアプリケーションを、BLEプロトコルを用いて送信する。
ステップS1408において、第1のアプリケーションは第2のインストラクションを受信する。
ステップS1409において、第1のアプリケーションは、第2のインストラクションに基づいて、呼状態の第1のアプリケーション内への記録、およびバックグラウンド上での第1のアプリケーションのUIの更新を行う。具体的には、このようにUIの更新を行うことで、呼状態に応じて、第2のアプリケーションが終了した後に表示される第1のアプリケーションのUIを適切な内容に更新することができる。例えば呼状態から取得される通話時間を通話終了後に第1のアプリケーション上に表示することが可能になる。
ステップS1410において、第1のアプリケーションはオプション機能が有効であるかを判断する。本実施形態においてオプション機能は着信に対して自動的に反応を行う機能であり、少なくとも、着信に対する自動応答機能、着信に対する自動拒否機能、着信に対する自動メッセージ返信機能を有する。当該オプション機能の有効化は第1のアプリケーション内で個別に設定できるほか、接続機器2内で個別に設定することもできる。なお、オプション機能が無効である場合は図7におけるステップS710に処理が合流する(ステップS1411)。
ステップS1412において(ステップS1410がYes)、第1のアプリケーションは有効であったオプション機能の内容に応じて第3のインストラクションを生成し、BLEプロトコルを用いて接続機器2に送信する。ここでの、第3のインストラクションの意味はステップS503の説明で述べた第1のインストラクションの意味と同様である。具体的に(有効であった)オプション機能の内容に応じた第3のインストラクションの内容を挙げると以下のようになる。
オプション機能 第3のインストラクション
自動応答機能 受話要求
自動拒否機能 終話要求
自動メッセージ返信機能 終話要求
自動メッセージ返信機能 メッセージ送信要求+電話番号+テキストの内容
なお、自動メッセージ返信機能に第3のインストラクションが2種類存在するが、これはまず終話要求を第3のインストラクションとして送信し、第2のアプリケーションが終話処理を行い、さらにメッセージ送信要求+電話番号+テキストの内容が第3のインストラクションとして再び送信されることを意味する。
ステップS1413において、接続機器2は第3のインストラクションを受信する。
ステップS1414において、接続機器2は第3のインストラクションをS506と同様に(任意に)修正することで第4のインストラクションを生成し、当該第4のインストラクションを第2のアプリケーションにBTプロトコルを用いて送信する。
ステップS1415において、第2のアプリケーションは第4のインストラクションを受信する。
ステップS1416において、第2のアプリケーションは自身の機能を実行する。当該実行は第4のインストラクションに基づいて行われる動作である。実行される機能の内容は上述した第3のインストラクションの内容に準ずる。すなわち第3のインストラクションが受話要求ならば着信に対する応答が行われ、終話要求ならば着信に対する終話が行われ、メッセージ送信要求+電話番号+テキストの内容ならば当該電話番号に当該テキストの内容を含むメッセージが送信される。
ステップS1417において、ステップS510と同様に、第2のアプリケーションの状態が接続機器2へ送信される。
ステップS1418において、ステップS511と同様に、第2のアプリケーションの状態が接続機器2に受信される。
ステップS1419において、ステップS512と同様に、第2のアプリケーションの状態が第1のアプリケーションに通知される。
ステップS1420において、ステップS513と同様に、第1のアプリケーションが第2のアプリケーションの状態に基づいて呼状態の記録およびUIの更新を行う。なお、上述したようにオプション機能が自動メッセージ返信機能である場合、第3のインストラクションが2種類存在する。この場合は、終話要求に基づく動作(ステップS1416)の後ステップS1420の間に、ステップS1412においてメッセージ送信要求+電話番号+テキストの内容が第3のインストラクションとして接続機器2に対して送信される。
以上、第2のアプリケーションの個別の機能の動作ごとに端末機器1を制御するための方法を述べた。具体的には、第2のアプリケーションが他のアプリケーションから直接制御されることが禁止される場合であっても接続機器2を介在させることで第1のアプリケーションを制御することが可能であることを示した。
[その他の構成例]
以上述べたように、本開示は端末機器1に視線を集中させ続けることが困難な場合であっても、適切に端末機器1を制御するための方法に関するものであるから、本開示は当該趣旨を逸脱しない限りでさまざまな端末機器1とさまざまな接続機器2の組み合わせが可能である。
本実施形態の一例として、端末機器1がスマートフォンである例を挙げた。しかし端末機器1はスマートフォンに限られない。第2のアプリケーションが他のアプリケーションから直接制御されることが禁止される場合があれば本開示は適用可能である。例えば端末機器1はタブレット、PC、汎用端末、専用端末等であることも考えられる。
本実施形態の一例として、接続機器2が車(車に実装あるいは設置された情報処理装置を含む)である例を挙げた。しかし接続機器2は車に限られない。端末機器1と通信可能であるデバイスであれば、本開示は適用可能である。例えば接続機器2は、電気自動車、バイク、飛行機、専用端末、スマートフォン、タブレット、PC、汎用端末、専用端末等であることも考えられる。
本実施形態で挙げた第2のアプリケーションの例としては、iOSあるいはAndroid OSに標準として実装されているアプリケーション、または公式提供されるアプリケーション、または第三者作成のアプリケーションである場合も考えられる。
また、本実施形態では、端末機器1がスマートフォンである例を挙げたため、「UIを表示」の語句は端末機器1上にほぼフルスクリーンで表示されることを想定して説明を行った。しかし、ユーザが視野外でも操作可能なほど端末機器上で支配的な領域を占めていれば「UIを表示」の意義はフルスクリーンのみに限定されない。例えばタブレットの画面内において複数のウインドウが論理的に表示されている場合に一部のウインドウに第1または第2のアプリケーションの画面が表示される場合であっても「UIを表示」と言い得る。
また、本実施形態では、第1のアプリケーションおよび第2のアプリケーションへの操作が端末機器1に設けられたタッチスクリーン等の入力デバイスを介して行われる例を説明した。しかし、第1のアプリケーションおよび第2のアプリケーションへの操作は、接続機器2の入力機器23(ステアリングキーなど)から行われても良い。接続機器2の入力機器23から第1のアプリケーションおよび第2のアプリケーションへの操作が行われる場合は、各操作に対応するコマンドがBLEプロトコル、またはBTプロトコルを用いて送信される。
また、本実施形態では、ユーザと端末機器1との間の情報のやり取りはタッチパネル等の物理的入出力デバイスを用いる例を中心に説明を行ったが、SP/MICを用いて情報のやり取りを行うことも本開示の範囲に含まれる。
また、本実施形態において、第1のアプリケーションは接続機器2を介して第2のアプリケーションの状態を取得したが、当該取得した状態を、あるいは取得した状態を状態遷移等にまとめたものを、外部のサーバ等へ送信してもよい。加えて当該外部のサーバが第2のアプリケーションの状態を解析し、ユーザに対して情報(一例としての、コメント情報、運転に関する情報)を送信してもよい。
[システムダイアログにおける自動応答動作]
以下、他の構成例として、システムダイアログにおける自動応答動作について説明する。
システムダイアログは、端末機器1のOSがユーザに提示するメッセージの一種である。システムダイアログは、ユーザに応答を要求することである。システムダイアログは、通常、メッセージやユーザの応答をボタンとして表示され、タッチパネルディスプレイ13に表示されてユーザに提示される。システムダイアログの例としては、(1)通話操作の前にユーザに提示可能なもの(ユーザに通話を可能にさせるためのメッセージおよびボタン(例えば、「OK」ボタン))、(2)テキスト送信前にユーザに提示可能なもの(ユーザにメッセージ開始を可能にするためのメッセージおよびボタン(例えば、「送信」ボタン))がある。
システムダイアログの表示動作は、OSの標準で実現してもよい。したがって、第2のアプリケーションの機能が発揮されると、タッチパネルディスプレイにシステムダイアログが強制的に表示される。
しかしながら、端末機器1が視野外に存在する場合であっても、端末機器1を適切に制御することができる。したがって、システムダイアログは、できるだけユーザの応答なしに処理されることが望ましい。
本実施形態では、第1のアプリケーションは、システムダイアログが発生したタイミングで、第2のアプリケーションにコマンド(第5のコマンド)を送信し、システムダイアログに対する応答を行う。接続機器2は第5のコマンドを受信し、第2のアプリケーションにコマンド(第6のコマンド)を送信し、システムダイアログに対する応答を行う。第6のコマンドの内容の具体例としては、システムに対する第2のアプリケーションに対して、システムダイアログを削除するためのキーコードを入力するコマンドがある。
そして、システムダイアログは、表示されてからほぼ瞬時に応答を受けて消える。したがって、ユーザにシステムダイアログの出現を意識させることなく、システムダイアログに対する応答を完了させることができる。例えば、電話をかける場合、ユーザが第1のアプリケーションに電話をかけるための入力を完了すると、その後に表示されるシステムダイアログは、ユーザの応答がなくても消える。したがって、ユーザの負担を軽減することが出来る。また、システム全体としての端末機器1の応答速度を向上させることが出来る。
ただし、システムダイアログが現れるタイミングは、提示される第2のアプリケーションの機能によって異なる。また、第1のアプリケーションがシステムダイアログの出現タイミングを、どの程度正確に認識するかも異なる。
そこで、例えば、提示される第2のアプリケーションの機能が、第1のアプリケーションのバックグラウンドへの移行を要求するもの(例えば、通話機能)である場合には、以下の処理が行われる。具体的には、第1のアプリケーションは、ユーザが第2のアプリケーションの機能の開始を第1のアプリケーションに入力すると、所定の時間間隔後に第6のコマンドが第2のアプリケーションに到達するように接続機器2を制御する。これは、第1のアプリケーションがバックグラウンドに移行した後、システムダイアログがどのタイミングで表示されるかを正確に把握することが困難だからである。また、所定時間間隔後にコマンドに到達する具体的な実装例として、第1のアプリケーションが所定時間をカウントした後に、第5のコマンドを送信する場合がある。また、第1のアプリケーションは、接続機器2のCPU21が所定時間をカウントした後に第6のコマンドを送信するように、第5のコマンドを送信してもよい。
また、提示される第2のアプリケーションの機能が、第1のアプリケーションのバックグラウンドへの移行を要求しない機能(例えば、テスト送信機能)である場合、
第1のアプリケーションは、システムダイアログの表示を通知するイベントをOSから受信した後に、第5のコマンドを接続機器2に送信する。これにより、より確実にシステムダイアログを消すことが出来る。
また、上記の実装を行った場合でも、実装の具体的な設計思想や端末機器1の動作状態/仕様によっては、システムダイアログが短時間画面に表示されてもよい。
[キーコードの登録動作]
以下、他の構成例として、キーコードの登録動作について説明する。
キーコードは、端末機器1によって認識された場合に、特定のキーまたはキーシーケンスが端末機器1に入力されたことを示す情報である。
第2のアプリケーションで機能を発揮させる場合には、端末機器1に所定のキーコードが必ず入力され得る。しかし、同じ機能(例えば、音声アシスタント機能)であっても、端末機器1の種別によって、その機能を発揮するためのキーコードが異なる場合がある。端末機器1の種別は、OSの種別、端末機器1の機種、OSのバージョンによって定義される。
本実施形態では、第1のアプリケーションは、第1のアプリケーションがインストールされている端末機器1の種別を判定する。そして、第1のアプリケーションは、判定した種別に対応し、第2のアプリケーションの機能を発揮するための入力を示すキーコードを、通信モジュール15を介して、接続機器2のメモリ22に登録する。第1のアプリケーションが起動され、接続機器2に入力された第2のアプリケーションの機能が発揮されると(例えば、接続機器2が車であれば、車のハンドル付近に配置された音声アシスタント機能開始ボタンが押されると)、接続機器2は、登録されたキーコードを参照して、端末機器1にキーコードを送信することにより、第2のアプリケーションに所望の第2のアプリケーションの機能を発揮させる。
これにより、接続機器2への入力(例えば、接続機器2が車であれば、車のハンドル付近に配置された音声アシスタント機能開始ボタンが押されると)が行われた場合に、第1のアプリケーションに端末機器1の種別を問い合わせる手間を省くことが出来る。したがって、端末機器1の処理速度が向上する。
また、上記実施形態において、通信モジュールは、第2のアプリケーションにコマンドを送信する際に、登録されたキーコードを参照して、所望の第2のアプリケーションの機能を発揮させるコマンドを発行してもよい。
[まとめ]
以上に述べたように、本開示は以下のような構成を有することで端末機器1または接続機器2の機能改善を行う。
本開示の有する一構成として、
OSと、第1のアプリケーションと、前記OSに含まれる標準機能として前記OSにインストールされた第2のアプリケーションとを備える端末機器1の制御方法であって、
第1のアプリケーションによって、接続機器2に対して第2のアプリケーションの動作に関連する第1のインストラクションを送信し、
前記端末機器1によって、前記接続機器2から前記第1のインストラクションの内容に基づいて送信された第2のインストラクションを受信し、
前記第2のアプリケーションを、前記第2のインストラクションに基づいて動作をする、
端末機器の制御方法、
が挙げられる。
このようにすることで、第2のアプリケーションが他のアプリケーションから直接制御されることが禁止される場合であっても接続機器2を介在させることで第2のアプリケーションを制御することが可能であるから、より適切に端末機器1を制御することが可能になる。
また、本開示の有する一構成として、
前記第1のインストラクション及び第2のインストラクションは互いに異なるプロトコルで送信される、
ことが挙げられる。
このようにすることで、通信プロトコルが、接続機器2の通信プロトコルと異なる場合でも、接続機器2を介在させることで第1のアプリケーションを制御することが可能であるから、より適切に端末機器1を制御することが可能になる。
また、本開示の有する一構成として、
前記第1のインストラクションは、前記第1のアプリケーションの表示画面を表示した状態で前記接続機器2に対して送信される、
ことが挙げられる。
このようにすることで、第1のアプリケーション上の操作によって、直接第2のアプリケーションの操作を行うという体験をユーザに与えることができる。
なお「前記第1のインストラクションは、前記第1のアプリケーションの表示画面を表示した状態で前記接続機器2に対して送信され、」の一例には、第1のインストラクションを生成するトリガとなる操作を行う際に第1のアプリケーションの表示画面が表示されている状態が含まれる。
また、本開示の有する一構成として、
前記第2のアプリケーションは、電話機能、メッセージ送受信機能、音楽再生機能、音声アシスタント機能のうちの1つである、
ことが挙げられる。
このようにすることでユーザが端末機器1を注視することが困難な場合に頻繁に使用され、かつ、ユーザの注視が必要なアプリケーションを、適切に操作することが可能になる。
また、本開示の有する一構成として、前記OSは、前記第2のアプリケーションが前記第1のアプリケーションから直接制御されることを禁止する、
ことが挙げられる。
このようにすると、OSレベルで強固に直接制御が禁止されている場合であっても、適切に端末機器1を制御することが可能になる。
また、本開示の有する一構成として、前記OSは、iOSである、ことが挙げられる。
このようにすると、OSレベルで強固に直接制御が禁止されている場合であっても、適切に端末機器1を制御することが可能になる。
また、本開示の有する一構成として、
前記第2のアプリケーションが前記第2のインストラクションに基づいて動作をする際に、
前記第1のアプリケーションの表示画面を終了させ、
前記第2のアプリケーションの表示画面を表示させ、
前記第2のアプリケーションが前記第2のインストラクションに基づいた動作を終了する際に、
前記第2のアプリケーションの表示画面を終了させ、
前記第1のアプリケーションの表示画面を表示させる、
ことが挙げられる。
このようにすることで、通常時は第1のアプリケーションの画面をユーザに提示しつつも、必要に応じて第2のアプリケーションの画面をユーザに提示することができるので、より適切に端末機器1を制御することが可能になる。
また、本開示の有する一構成として、
前記第2のアプリケーションが前記第2のインストラクションに基づいて動作をする際に、
前記第1のアプリケーションの表示画面が表示されたまま前記第2のアプリケーションがバックグラウンドにおいて動作をする、
ことが挙げられる。
このようにすることで、第1のアプリケーションの画面が第2のアプリケーションの画面よりもより適切な情報をユーザに提示することができる場合に、より適切に端末機器1を制御することが可能になる。
また、本開示の有する一構成として、
前記第2のアプリケーションが前記第2のインストラクションに基づいて動作をする際に、
前記第2のアプリケーションの表示画面が表示されたまま前記第1のアプリケーションがバックグラウンドにおいて動作をする、
ことが挙げられる。
このようにすることで第2のアプリケーションから第1のアプリケーションへフォアグラウンドのUIが遷移した場合であっても、第1のアプリケーションがバックグラウンドで動作をしているので、適切な画面を提示することができる。
また、本開示の有する一構成として、
前記第1のアプリケーションは端末機器1のフルスクリーンを占有する表示画面を有し、
前記第1のインストラクションは前記表示画面における支配的な領域をタッチ操作することで送信される、
ことが挙げられる。
このようにすることで、ユーザが端末機器1を注視することが困難な場合でも端末機器1を、適切に操作することが可能になる
また、本開示の有する一構成として、
前記接続機器2は車であり、
前記端末機器1は前記車と所定の通信プロトコルを介して接続され、
前記第2のアプリケーションが前記第2のインストラクションに基づいて動作をする際に、前記車に備えられた出力機能が前記所定の通信プロトコルを介して動作する、
ことが挙げられる。
このようにすることで、接続機器2と端末機器1を接続する仕様が定まっている場合であっても、当該仕様を活用して、適切に端末機器1を制御することが可能になる。
また、本開示の有する一構成として、
前記第2のアプリケーションは通話機能を有するアプリケーションであり、
前記端末機器1は前記第2のアプリケーションが前記第2のインストラクションに基づいて発呼動作をした後に、前記通話機能の呼状態を前記接続機器2に対して送信し、
前記端末機器1は、前記接続機器2から前記呼状態を受信し、
前記第1のアプリケーションが前記呼状態に基づいて動作をする、
ことが挙げられる。
このようにすることで、呼状態に応じて第1のアプリケーションに適切な処理を行わせることができる。
また、本開示の有する一構成として、
OSと、第1のアプリケーションと、前記OSに含まれる標準機能として前記OSにインストールされた第2のアプリケーションとを備える端末機器の制御方法であって、
第2のアプリケーションによって、第1のアプリケーションの動作に関連する第1のインストラクションを接続機器に送信し、
前記端末機器によって、前記接続機器から前記第1のインストラクションの内容に基づいて送信された第2のインストラクションを受信し、
前記第1のアプリケーションを、前記第2のインストラクションに基づいて動作をする、
端末機器の制御方法、
が挙げられる。
このようにすることで、第2のアプリケーションがOSの標準機能に基づいて動作する場合であっても、第1のアプリケーションを適切に制御することが出来る。
また、本開示の有する一構成として、前記第2のアプリケーションは通話機能を有するアプリケーションであり、
前記端末機器1は前記第1のアプリケーションが前記第2のインストラクションに基づいて前記第1のアプリケーションの表示画面を変更する動作をし、さらに前記通話機能に対する入呼に対する処理を示す第3のインストラクションを前記接続機器2に対して送信し、
前記接続機器2から前記第3のインストラクションの内容に基づいて送信された第4のインストラクションを受信し、
前記第1のアプリケーションが前記第4のインストラクションに基づいて動作をする、
ことが挙げられる。
このようにすることで電話機能に対する入呼に基づいて第2のアプリケーションが動作する場合であっても、適切に第1のアプリケーションを制御することができる。
また、本開示の有する一構成として、
接続機器2と通信を行い、前記接続機器2により制御される端末機器1を制御する方法であって、
前記接続機器2は、
前記端末機器1の有する第1のアプリケーションから第1のインストラクションを受信し、
前記第1のインストラクションが少なくとも他の機器の電話番号を含む場合には、当該電話番号に対する電話発信を前記端末機器1の有する第2のアプリケーションに指示する第2のインストラクションを、前記端末機器1に向けて送信する、
ことが挙げられる。
このようにすることで、第2のアプリケーションが他のアプリケーションから直接制御されることが禁止される場合であっても接続機器2を介在させることで第1のアプリケーションを制御することが可能であるから、より適切に端末機器1を制御することが可能になる。
また、本開示の有する一構成として、
接続機器2と通信を行い、前記接続機器2によって制御される端末機器1を制御する方法であって、
前記接続機器2は、
前記端末機器1の有する第1のアプリケーションから第1のインストラクションを受信し、
前記第1のインストラクションが、前記端末機器1の有する第2のアプリケーションが再生する楽曲に関する楽曲情報を前記端末機器1へ送信するよう指示するものである場合は、前記楽曲情報を前記接続機器2に送信するよう前記第2のアプリケーションに指示する第2のインストラクションを、前記端末機器1に向けて送信する、
ことが挙げられる。
このようにすることで、楽曲情報を直接第1のアプリケーションと第2のアプリケーション間でやりとりすることが困難であっても、適切に端末機器1を制御することが可能になる。
また、本開示の有する一構成として、
前記接続機器2は、
前記第1のインストラクションが、前記楽曲情報を前記端末機器1へ送信するよう指示するものである場合でかつ、前記楽曲情報を前記接続機器2が保持していない場合に前記第2のインストラクションを、前記端末機器1に向けて送信する、
ことが挙げられる。
このようにすることで接続機器2と端末機器1との間の通信量を低減させることができる。
また、本開示の有する一構成として、
前記OSは、第2のアプリケーションが前記第2のインストラクションに基づいて動作する際に、システムダイアログを表示し、
前記第1のアプリケーションは、前記第2のアプリケーションに前記システムダイアログに対する応答を行わせるために、前記接続機器へ第5のインストラクションを送信し、
前記第5のインストラクションの内容に基づいて送信された第6のインストラクションを前記接続機器から受信し、
前記第2のアプリケーションは、前記第6のインストラクションに基づいて前記システムダイアログに応答する、
ことが挙げられる。
このようにすることで、システムダイアログに対するユーザの応答の手間を軽減することができ、端末機器の操作性が向上する。
また、本開示の有する一構成として、
前記第5のインストラクションは、前記第1のアプリケーションが前記第1のインストラクションを送信するとき所定時間が計時された後に送信される、
ことが挙げられる。
このようにすることで、システムダイアログに対する応答が確実に行われ、端末機器の操作性が向上する。
また、本開示の有する一構成として、
前記第5のインストラクションは、所定時間が計時された後に前記第6のインストラクションを前記接続機器に送信する制御内容を含む、
ことが挙げられる。
このようにすることで、システムダイアログに対する応答が確実に行われ、端末機器の操作性が向上する。
また、本開示の有する一構成として、
前記第2のアプリケーションは、前記第2のアプリケーションがインストールされている前記端末機器の種別を判定し、
判定された種別に対応し、前記第2のアプリケーションの機能を発揮させるための入力を示すキーコードが前記接続機器に登録される、
ことが挙げられる。
このようにすることで、接続機器から端末機器を容易に操作することができ、端末機器の操作性が向上する。

Claims (20)

  1. オペレーティングシステム(OSと、第1のアプリケーションと、前記OSに含まれる標準機能として前記OSにインストールされた第2のアプリケーションとを有する端末機器の制御方法であって、
    前記第1のアプリケーションによって、前記第2のアプリケーションの動作に関する第1のインストラクションを接続機器に送信し、
    前記端末機器によって、前記接続機器から前記第1のインストラクションの内容に基づいて送信された第2のインストラクションを受信し、
    前記第2のアプリケーションを、前記第2のインストラクションに基づいて動作し、
    前記OSは、前記第2のアプリケーションが前記第1のアプリケーションから直接制御されることを禁止する、
    端末機器の制御方法。
  2. 前記第1のインストラクションおよび前記第2のインストラクションは互いに異なるプロトコルで送信される、
    請求項1に記載の端末機器の制御方法。
  3. 前記第1のインストラクションは、前記第1のアプリケーションの表示画面を表示した状態で前記接続機器に対して送信される、
    請求項1に記載の端末機器の制御方法。
  4. 前記第2のアプリケーションが前記第2のインストラクションに基づいて動作をする際に、
    前記第1のアプリケーションの表示画面を終了させ、
    前記第2のアプリケーションの表示画面を表示させ、
    前記第2のアプリケーションが前記第2のインストラクションに基づいた動作を終了する際に、
    前記第2のアプリケーションの表示画面を終了させ、
    前記第1のアプリケーションの表示画面を表示させる、
    請求項3に記載の端末機器の制御方法。
  5. 前記第2のアプリケーションが前記第2のインストラクションに基づいて動作をする際に、
    前記第1のアプリケーションの表示画面が表示されたまま前記第2のアプリケーションがバックグラウンドにおいて動作をする、
    請求項3に記載の端末機器の制御方法。
  6. 前記第2のアプリケーションが前記第2のインストラクションに基づいて動作をする際に、
    前記第2のアプリケーションの表示画面が表示されたまま前記第1のアプリケーションがバックグラウンドにおいて動作をする、
    請求項3に記載の端末機器の制御方法。
  7. 前記第1のアプリケーションは前記端末機器のフルスクリーンを占有する表示画面を有し、
    前記第1のインストラクションは前記表示画面における支配的な領域をタッチ操作することで送信される、
    請求項3に記載の端末機器の制御方法。
  8. 前記接続機器は車であり、
    前記端末機器は前記車と所定の通信プロトコルを介して接続され、
    前記第2のアプリケーションが前記第2のインストラクションに基づいて動作をする際に、前記車に備えられた出力機能が前記所定の通信プロトコルを介して動作する、
    請求項3に記載の端末機器の制御方法。
  9. 前記第2のアプリケーションは通話機能を有するアプリケーションであり、
    前記端末機器は前記第2のアプリケーションが前記第2のインストラクションに基づいて発呼動作をした後に、前記通話機能の呼状態を前記接続機器に対して送信し、
    前記端末機器は、前記接続機器から前記呼状態を受信し、
    前記第1のアプリケーションは前記呼状態に基づいて動作をする
    請求項3に記載の端末機器の制御方法。
  10. 前記第2のアプリケーションは、電話機能、メッセージ送受信機能、音楽再生機能、音声アシスタント機能のうちの1つである、
    請求項1に記載の端末機器の制御方法。
  11. 前記OSは、iOSである、
    請求項1に記載の端末機器の制御方法。
  12. 前記OSは、第2のアプリケーションが前記第2のインストラクションに基づいて動作する際に、システムダイアログを表示し、
    前記第1のアプリケーションは、前記第2のアプリケーションに前記システムダイアログに対する応答を行わせるために、前記接続機器へ第5のインストラクションを送信し、
    前記第5のインストラクションの内容に基づいて送信された第6のインストラクションを前記接続機器から受信し、
    前記第2のアプリケーションは、前記第6のインストラクションに基づいて前記システムダイアログに応答する、
    請求項1に記載の端末機器の制御方法。
  13. 前記第5のインストラクションは、前記第1のアプリケーションが前記第1のインストラクションを送信するとき所定時間が計時された後に送信される、
    請求項12に記載の端末機器の制御方法。
  14. 前記第5のインストラクションは、所定時間が計時された後に前記第6のインストラクションを前記接続機器に送信する制御内容を含む、
    請求項12に記載の端末機器の制御方法。
  15. 前記第2のアプリケーションは、前記第2のアプリケーションがインストールされている前記端末機器の種別を判定し、
    判定された種別に対応し、前記第2のアプリケーションの機能を発揮させるための入力を示すキーコードが前記接続機器に登録される、
    請求項1に記載の端末機器の制御方法。
  16. オペレーティングシステム(OS)と、第1のアプリケーションと、前記OSに含まれる標準機能として前記OSにインストールされた第2のアプリケーションとを有する端末機器の制御方法であって、
    前記第2のアプリケーションによって、前記第1のアプリケーションの動作に関する第1のインストラクションを接続機器に送信し、
    前記端末機器によって、前記接続機器から前記第1のインストラクションの内容に基づいて送信された第2のインストラクションを受信し、
    前記第1のアプリケーションを、前記第2のインストラクションに基づいて動作し、
    前記OSは、前記第2のアプリケーションが前記第1のアプリケーションから直接制御されることを禁止する、
    端末機器の制御方法。
  17. 前記第2のアプリケーションは通話機能を有するアプリケーションであり、
    前記端末機器は、前記第1のアプリケーションが、前記第2のインストラクションに基づいて前記第1のアプリケーションの表示画面を変更する動作をし、さらに前記通話機能に対する入呼に対する処理を行うことを示す第3のインストラクションを前記接続機器に対して送信し、
    前記端末機器は、前記接続機器から前記第3のインストラクションの内容に基づいて送信された第4のインストラクションを受信し、
    前記第1のアプリケーションは前記第4のインストラクションに基づいて動作をする、
    請求項16に記載の端末機器の制御方法。
  18. 接続機器と通信を行い、前記接続機器によって制御される端末機器を制御する方法であって、
    前記接続機器は、
    前記端末機器の有する第1のアプリケーションから第1のインストラクションを受信し、
    前記第1のインストラクションが少なくとも他の機器の電話番号を含む場合には、当該電話番号に対する電話発信を前記端末機器の有する第2のアプリケーションに指示する第2のインストラクションを、前記端末機器に向けて送信する、
    端末機器の制御方法。
  19. 接続機器と通信を行い、前記接続機器によって制御される端末機器を制御する方法であって、
    前記接続機器は、
    前記端末機器の有する第1のアプリケーションから第1のインストラクションを受信し、
    前記第1のインストラクションが、前記端末機器の有する第2のアプリケーションが再生する楽曲に関する情報である楽曲情報を前記端末機器へ送信するよう指示するものである場合は、前記楽曲情報を前記接続機器に送信するよう前記第2のアプリケーションに指示する第2のインストラクションを、前記端末機器に向けて送信する、
    端末機器の制御方法。
  20. 前記接続機器は、
    前記第1のインストラクションが、前記楽曲情報を前記端末機器へ送信するよう指示するものである場合でかつ、前記楽曲情報を前記接続機器が保持していない場合に前記第2のインストラクションを、前記端末機器に向けて送信する、
    請求項19に記載の端末機器の制御方法。
JP2021500780A 2018-03-19 2019-03-19 端末機器の制御方法 Active JP7083956B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201862644970P 2018-03-19 2018-03-19
US62/644,970 2018-03-19
PCT/US2019/022875 WO2019183033A1 (en) 2018-03-19 2019-03-19 Control method of terminal device

Publications (3)

Publication Number Publication Date
JP2021518728A JP2021518728A (ja) 2021-08-02
JPWO2019183033A5 JPWO2019183033A5 (ja) 2022-03-14
JP7083956B2 true JP7083956B2 (ja) 2022-06-13

Family

ID=67987933

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021500780A Active JP7083956B2 (ja) 2018-03-19 2019-03-19 端末機器の制御方法

Country Status (3)

Country Link
US (1) US11209960B2 (ja)
JP (1) JP7083956B2 (ja)
WO (1) WO2019183033A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
USD782512S1 (en) * 2015-06-07 2017-03-28 Apple Inc. Display screen or portion thereof with graphical user interface

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150362991A1 (en) 2014-06-11 2015-12-17 Drivemode, Inc. Graphical user interface for non-foveal vision
US20160012795A1 (en) 2013-02-28 2016-01-14 Holger Banski Mobile Electronic Device Integration with In-Vehicle Information Systems

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE19921533C1 (de) 1999-05-11 2001-01-04 Mannesmann Vdo Ag Kommunikationssystem eines Kraftfahrzeuges
US7454714B2 (en) * 2001-03-30 2008-11-18 Aol Llc, A Delaware Limited Liability Company Visually distinguishing menu items
US10496753B2 (en) * 2010-01-18 2019-12-03 Apple Inc. Automatically adapting user interfaces for hands-free interaction
US8811900B2 (en) 2009-11-13 2014-08-19 Honda Motor Co., Ltd. System and method for hands free connect application for the automobile environment
US9285944B1 (en) * 2011-04-22 2016-03-15 Angel A. Penilla Methods and systems for defining custom vehicle user interface configurations and cloud services for managing applications for the user interface and learned setting functions
US20130275913A1 (en) * 2012-04-13 2013-10-17 Telefonaktiebolaget L M Ericsson (Pub) Presentation of Items on a Display
KR102080743B1 (ko) * 2013-03-08 2020-02-24 엘지전자 주식회사 이동 단말기 및 그것의 제어 방법
CA3188150A1 (en) * 2013-05-08 2014-11-13 Cellcontrol, Inc. Driver identification and data collection systems for use with mobile communication devices in vehicles
US9395993B2 (en) * 2013-07-29 2016-07-19 Intel Corporation Execution-aware memory protection
EP2916195B1 (en) * 2014-03-03 2019-09-11 LG Electronics Inc. Mobile terminal and controlling method thereof

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160012795A1 (en) 2013-02-28 2016-01-14 Holger Banski Mobile Electronic Device Integration with In-Vehicle Information Systems
US20150362991A1 (en) 2014-06-11 2015-12-17 Drivemode, Inc. Graphical user interface for non-foveal vision

Also Published As

Publication number Publication date
US11209960B2 (en) 2021-12-28
WO2019183033A1 (en) 2019-09-26
US20210019024A1 (en) 2021-01-21
JP2021518728A (ja) 2021-08-02

Similar Documents

Publication Publication Date Title
CN102668519B (zh) 车载装置
US9728187B2 (en) Electronic device, information terminal system, and method of starting sound recognition function
US8554831B2 (en) System and method for executing hands-free operation of an electronic calendar application within a vehicle
US11289088B2 (en) Vehicle-based remote control system and method
JP6567254B2 (ja) 通信サービス運用方法及びこれを支援する電子装置
US20070238411A1 (en) Remote user interface for bluetoothtm device
JP2016046797A (ja) 有線連結を介したブルートゥースペアリング方法
CN111599358A (zh) 语音交互方法及电子设备
US9771038B2 (en) Notification device
JP2014130566A (ja) 携帯端末装置、車載器、情報提示方法及び情報提示プログラム
JP7083956B2 (ja) 端末機器の制御方法
US20170118586A1 (en) Voice data transmission processing method, terminal and computer storage medium
JP7242248B2 (ja) 電子機器、その制御方法、およびそのプログラム
JP5556785B2 (ja) 制御装置及び無線通信システム
JP2015220533A (ja) 車載情報システム、車載装置、情報端末、アプリケーション実行方法
JP5573809B2 (ja) 制御装置
JP6191647B2 (ja) 車両用情報処理システム、車載装置、テキストデータの提供方法および提供プログラム
KR20170050352A (ko) 이동 단말기 및 그 구동 방법, 이동 통신 시스템
TW201717601A (zh) 車輛無線接聽裝置及方法
JP5730256B2 (ja) 携帯機器、車載機器と携帯機器との連携方法およびアプリケーションソフトウェア
WO2014002410A1 (ja) 車両用装置および情報を表示する方法
KR20170094698A (ko) 모바일 헤드셋 장치 및 그 동작 방법

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220304

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220304

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20220304

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220517

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220601

R150 Certificate of patent or registration of utility model

Ref document number: 7083956

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150