本発明を実施するための実施形態を、図面を参照しつつ詳細に説明する。以下では、携帯電子機器の例として、スマートフォンについて説明する。
(第1実施形態)
図1から図4を参照しながら、実施形態に係るスマートフォン1の全体的な構成について説明する。スマートフォン1は、外部表示装置に画像を表示するミラーリング機能を有する。ミラーリング機能は、例えば、Miracast(登録商標)又はAirPlay(登録商標)と称する技術を使用する。Miracastは、Wi−Fi Allianceによって策定された機器間の画像の無線伝送技術である。本実施形態において、スマートフォン1と外部表示装置とは、Miracastを使用してミラーリング機能を実現するものとして説明する。本実施形態のスマートフォン1は、大型ディスプレイ100をミラーリング機能で画像を表示させる外部表示装置とする。
大型ディスプレイ(外部表示装置)100は、図1に示すように、表示部101と、転送部102と、制御部110とを備える。大型ディスプレイ100は、図2に示すように、ミラーリングでスマートフォン1から転送された画像を表示部101に表示する。
表示部101は、液晶ディスプレイ(LCD:Liquid Crystal Display)、有機ELディスプレイ(OELD:Organic Electro−Luminescence Display)、又は無機ELディスプレイ(IELD:Inorganic Electro−Luminescence Display)等の画面を有する表示デバイスを備える。表示部101は、スマートフォン1からの画像情報に基づいて文字、画像、記号、及び図形等を画面に表示する。なお、本実施形態の表示部101は、画像を表示させる場合で説明するが、プロジェクタ等、画像を投影する装置であってもよい。
転送部102は、近距離無線通信の通信規格をサポートしている。転送部102は、WiFi(登録商標)により近距離無線通信を行う。近距離無線通信の規格には、IEEE802.11(IEEEは、The Institute of Electrical and Electronics Engineers, Inc.の略称である)、Bluetooth(登録商標)、ZigBee(登録商標)、DECT(Digital Enhanced Cordless Telecommunications)、Z−Wave、Wi−Sun(Wireless Smart Utility Network)等が含まれる。本実施形態において、転送部102は、近距離無線通信の一つであるWi−FiのWiFi Direct(登録商標)をサポートし、ミラーリングを実現するものとするが、これに限定されるものではない。
制御部110は、演算処理装置である。演算処理装置は、例えば、CPU(Central Processing Unit)、SoC(System−on−a−chip)、MCU(Micro Control Unit)、及びFPGA(Field−Programmable Gate Array)を含むが、これらに限定されない。制御部110は、大型ディスプレイ100の動作を統括的に制御して各種の機能を実現する。
具体的に、制御部110は、図示しない記憶部に記憶されているデータを必要に応じて参照しつつ、記憶部に記憶されているプログラムに含まれる命令を実行する。そして、制御部110は、データ及び命令に応じて表示部101と転送部102とを制御し、それによって各種機能を実現する。
スマートフォン1は、タッチパネル2と、通信ユニット3と、記憶部4と、加速度センサ(移動検出センサ)5と、タッチセンサ(外表面の入力部)6と、制御部10とを有する。
スマートフォン1は、図3、図4に示すように、ハウジング20を有する。ハウジング20は、フロントフェイス(第一面)1Aと、バックフェイス(第二面)1Bと、サイドフェイス1C1〜1C4とを有する。フロントフェイス1Aは、ハウジング20の正面である。バックフェイス1Bは、ハウジング20の背面である。サイドフェイス1C1〜1C4は、フロントフェイス1Aとバックフェイス1Bとを接続する側面である。図3、図4に示したスマートフォン1の構成は例であり、本発明の要旨を損なわない範囲において適宜変更してよい。
スマートフォン1は、タッチパネル2がフロントフェイス1Aに配置されている。
タッチパネル2は、表示部2Aと、タッチセンサ2Bとを有する。図3の例では、表示部2A及びタッチセンサ2Bはそれぞれ略長方形状であるが、表示部2A及びタッチセンサ2Bの形状はこれに限定されない。表示部2A及びタッチセンサ2Bは、それぞれが多角形又は円形等のどのような形状もとりうる。図3の例では、表示部2A及びタッチセンサ2Bは重ねて配置されているが、表示部2A及びタッチセンサ2Bの配置はこれに限定されない。表示部2A及びタッチセンサ2Bは、例えば、並べて配置されてもよいし、離して配置されてもよい。図3の例では、表示部2Aの長辺はタッチセンサ2Bの長辺に沿っており、表示部2Aの短辺はタッチセンサ2Bの短辺に沿っているが、表示部2A及びタッチセンサ2Bの重ね方はこれに限定されない。表示部2Aとタッチセンサ2Bとが重ねて配置される場合、例えば、表示部2Aの1ないし複数の辺がタッチセンサ2Bのいずれの辺とも沿っていなくてもよい。
表示部2Aは、液晶ディスプレイ(LCD:Liquid Crystal Display)、有機ELディスプレイ(OELD:Organic Electro−Luminescence Display)、又は無機ELディスプレイ(IELD:Inorganic Electro−Luminescence Display)等の画面を有する表示デバイスを備える。表示部2Aは、制御部10からの画像情報に基づいて、文字、画像、記号、及び図形等を表示する。
タッチセンサ2Bは、表示部2Aに表示された画像に対する操作を検出する。タッチセンサ2Bは、タッチセンサ2Bに対する、例えば、指F、ペン、又はスタイラスペン等の接触を検出する。タッチセンサ2Bは、複数の指F、ペン、又はスタイラスペン等がタッチセンサ2Bに接触した位置を検出することができる。タッチセンサ2Bの検出方式は、静電容量方式、抵抗膜方式、表面弾性波方式(又は超音波方式)、赤外線方式、電磁誘導方式、及び荷重検出方式等の任意の方式でよい。
タッチセンサ2Bは、表示部2Aに対する接触、接触が検出された位置、接触が検出された位置の変化、接触が検出された間隔、及び接触が検出された回数の少なくとも一つを検出してタッチセンサ接触情報(以下、「第一接触情報」という)を制御部10に出力する。
本実施形態において、タッチセンサ2Bには、操作者によって、例えば、「タッチ」、「ロングタッチ」、「リリース」、「スワイプ」、「タップ」、「ダブルタップ」、「ロングタップ」、「ドラッグ」、「フリック」、「ピンチイン」、及び「ピンチアウト」の少なくとも一つが操作として入力され得る。
タッチセンサ2Bは、接触の検出開始、検出停止が、制御部10で制御される。より詳しくは、タッチセンサ2Bは、スマートフォン1の通常の使用時は、制御部10で、タッチセンサ2Bでの接触の検出が有効とされる。具体的には、タッチセンサ2Bは、スマートフォン1の通常の使用時は、制御部10で、タッチセンサ2Bに対する接触が検出開始されている。このとき、タッチセンサ2Bは、タッチセンサ2Bに対する接触を検出して第一接触情報を制御部10に出力する。タッチセンサ2Bは、スマートフォン1のミラーリング時は、制御部10で、タッチセンサ2Bでの接触の検出が無効とされる。具体的には、タッチセンサ2Bは、スマートフォン1のミラーリング時は、制御部10で、タッチセンサ2Bに対する接触が検出停止されている。
通信ユニット3は、外部表示装置と無線により通信する。通信ユニット3は、通信部3Aと、転送部3Bとを有する。
通信部3Aは、例えば、2G、3G、4G等のセルラーフォンの通信規格をサポートしている。セルラーフォンの通信規格は、例えば、LTE(Long Term Evolution)、W−CDMA(Wideband Code Division Multiple Access)、CDMA2000(Code Division Multiple Access 2000)、PDC(Personal Digital Cellular)、GSM(登録商標)(Global System for Mobile Communications)、PHS(Personal Handy−phone System)等を含む。通信部3Aは、例えば、WiMAX(Worldwide Interoperability for Microwave Access)、IEEE802.11、Bluetooth、ZigBee、DECT、Z−Wave、WiSun、IrDA(Infrared Data Association)、NFC(Near Field Communication)等を含む無線通信規格をサポートしていてもよい。
転送部3Bは、制御部10で生成された画像を大型ディスプレイ100に転送する。転送部3Bは、ミラーリングを実現するための、例えば近距離無線通信の通信規格をサポートしている。本実施形態において、転送部3Bは、WiFiのWiFi Directをサポートし、ミラーリングを実現するものとするが、これに限定されるものではない。
記憶部4は、プログラム及びデータを記憶する。記憶部4は、制御部10の処理結果を一時的に記憶する作業領域としても使用される。記憶部4は、半導体記憶媒体、及び磁気記憶媒体等の任意の非一過的(non−transitory)な記憶媒体を含んでよい。記憶部4は、複数の種類の記憶媒体を含んでよい。記憶部4は、メモリカード、光ディスク、又は光磁気ディスク等の可搬の記憶媒体と、記憶媒体の読み取り装置との組み合わせを含んでよい。記憶部4は、RAM(Random Access Memory)等の一時的な記憶領域として使用される記憶デバイスを含んでよい。
記憶部4が記憶するプログラム及びデータの一部又は全部は、通信ユニット3による通信で他の装置からダウンロードされてもよい。記憶部4が記憶するプログラム及びデータの一部又は全部は、記憶部4に含まれる読み取り装置が読み取り可能な非一過的な記憶媒体に記憶されていてもよい。記憶部4が記憶するプログラム及びデータの一部又は全部は、図示しないコネクタに接続される読み取り装置が読み取り可能な非一過的な記憶媒体に記憶されていてもよい。非一過的な記憶媒体は、例えば、CD(登録商標)、DVD(登録商標)、Blu−ray(登録商標)等の光ディスク、光磁気ディスク、磁気記憶媒体、メモリカード、及びソリッドステート記憶媒体を含むが、これらに限定されない。
記憶部4は、例えば、制御プログラム4A、その他のスマートフォン1としての機能を実現するメールアプリケーション、ブラウザアプリケーションを含むアプリケーション、及び、プログラム又はアプリケーションの実行に必要なデータを記憶する。制御プログラム4Aは、スマートフォン1を稼働させるための各種制御に関する機能を提供する。制御プログラム4Aは、ミラーリング機能及びミラーリング機能の実行中の画面の画像の操作機能を提供する。メールアプリケーションは、電子メールの作成、送信、受信、及び表示等のための電子メール機能を提供する。ブラウザアプリケーションは、WEBページを表示するためのWEBブラウジング機能を提供する。
加速度センサ5は、スマートフォン1に作用する加速度の方向及び大きさを検出する。加速度センサ5は、例えば、図5に示すように、スマートフォン1を移動させた際にスマートフォン1に作用する加速度を検出する。これにより、加速度センサ5は、スマートフォン1の移動状態を検出する。加速度センサ5は、例えば、静電容量の変化、ピエゾ抵抗の変化又は相対位置の変化等で加速度を検出するセンサなど、種々の方法で加速度を検出するセンサを用いてもよい。加速度センサ5は、検出結果として検出した加速度の方向及び大きさを含む加速度情報を制御部10に出力する。
タッチセンサ6は、バックフェイス1Bに配置されている。図4の例では、タッチセンサ6は略矩形状であるが、タッチセンサ6の形状はこれに限定されない。タッチセンサ6は、多角形又は円形等のどのような形状もとりうる。図4の例では、タッチセンサ6の長辺はハウジング20の長辺に沿っており、タッチセンサ6の短辺はハウジング20の短辺に沿っているが、タッチセンサ6の配置はこれに限定されない。
タッチセンサ6は、タッチセンサ6に対する、例えば、指F、ペン、又はスタイラスペン等の接触を検出する。タッチセンサ6は、複数の指F、ペン、又はスタイラスペン等がタッチセンサ6に接触した位置を検出することができる。以下の説明において、操作者は、指Fを用いてタッチセンサ6に接触するものとする。タッチセンサ6の検出方式は、静電容量方式、抵抗膜方式、表面弾性波方式(又は超音波方式)、赤外線方式、電磁誘導方式、及び荷重検出方式等の任意の方式でよい。タッチセンサ6は、操作者から見て左側の領域61と右側の領域62における接触をそれぞれ検出する。本実施形態のスマートフォン1は、ミラーリングで大型ディスプレイ100に画像を表示している場合、当タッチセンサ6に対する操作を大型ディスプレイ100に表示している画像に対する操作として検出する。この場合、タッチセンサ6は、入力された操作を、ポインティングデバイス、いわゆるマウスのボタンが検出する操作として検出する。
タッチセンサ6は、タッチセンサ6に対する接触、接触が検出された位置、接触が検出された位置の変化、接触が検出された間隔、及び接触が検出された回数の少なくとも一つを検出してタッチセンサ接触情報(以下、「第二接触情報」という)を制御部10に出力する。
タッチセンサ6は、「クリック」、「ダブルクリック」、「スクロール」及び「ドラッグ」の少なくとも一つを検出可能とする。本実施形態において、タッチセンサ6には、操作者によって、例えば、「クリック」、「ダブルクリック」、「スクロール」及び「ドラッグ」の少なくともいずれか一つが操作として入力され得る。「クリック」には、「左クリック」と「右クリック」とを含む。
タッチセンサ6は、接触の検出開始、検出停止が、制御部10で制御される。より詳しくは、タッチセンサ6は、スマートフォン1の通常の使用時は、制御部10で、タッチセンサ6での接触の検出が無効とされる。具体的には、タッチセンサ6は、スマートフォン1の通常の使用時は、制御部10で、タッチセンサ6に対する接触が検出停止されている。タッチセンサ6は、スマートフォン1のミラーリング時は、制御部10で、タッチセンサ6での接触の検出が有効とされる。具体的には、タッチセンサ6は、スマートフォン1のミラーリング時は、制御部10で、タッチセンサ6に対する接触が検出開始されている。このとき、タッチセンサ6は、タッチセンサ6に対する接触を検出して第二接触情報を制御部10に出力する。
制御部10は、演算処理装置である。演算処理装置は、例えば、CPU(Central Processing Unit)、SoC(System−on−a−chip)、MCU(Micro Control Unit)、及びFPGA(Field−Programmable Gate Array)を含むが、これらに限定されない。制御部10は、スマートフォン1の動作を統括的に制御して各種の機能を実現する。
具体的に、制御部10は、記憶部4に記憶されているデータを必要に応じて参照しつつ、記憶部4に記憶されている制御プログラム4Aを含むプログラムに含まれる命令を実行する。そして、制御部10は、データ及び命令に応じて表示部2Aとタッチセンサ2Bと転送部3Bとタッチセンサ6とを制御し、それによって各種機能を実現する。
まず、スマートフォン1の通常の使用時において、制御部10が行う処理について説明する。
制御部10は、表示部2Aに表示する画像を生成する。制御部10は、生成した画像の画像情報を表示部2Aに出力する。制御部10は、例えばメールの作成画面のように文字又は図形を入力する画面を生成する場合、キーボードカーソルCkに対応する位置にカーソル画像を重ねて図示した画像を生成する。なお、制御部10は、表示部2Aに画像を表示させる場合、キーボードカーソルCkを表示させなくてもよいし、タッチセンサ2Bで操作を検出している間のみ表示させるようにしてもよい。
制御部10は、タッチセンサ2Bに入力された操作を有効とし、タッチセンサ6に入力された操作を無効とする。制御部10は、タッチセンサ2Bに対する接触を検出開始し、タッチセンサ6に対する接触を検出停止する。
制御部10は、タッチセンサ2Bに入力された操作に基づいて、スマートフォン1の動作を制御する。より詳しくは、制御部10は、タッチパネル2のタッチセンサ2Bに入力された操作に基づいて、タッチセンサ2Bで接触を検出した位置の操作を実行する。そして、制御部10は、タッチセンサ2Bで接触を検出した位置の操作を実行した画像を生成して画像情報を表示部2Aに出力する。タッチセンサ2Bで接触を検出した位置の操作とは、タッチセンサ2Bで接触を検出した位置における、例えば、「タッチ」、「ロングタッチ」、「リリース」、「スワイプ」、「タップ」、「ダブルタップ」、「ロングタップ」、「ドラッグ」、「フリック」、「ピンチイン」、及び「ピンチアウト」などの操作をいう。
この他、制御部10は、スマートフォン1として有する、メールアプリケーション、ブラウザアプリケーションを含む各種アプリケーションの機能を実行する。
次に、転送部3Bを介して大型ディスプレイ100に画像が転送された、スマートフォン1のミラーリング時において、制御部10が行う処理について説明する。
制御部10は、転送部3Bを介して大型ディスプレイ100に転送する画像を生成する。制御部10は、生成した画像の画像情報を転送部3Bに出力する。制御部10は、図10に示すように、カーソルCに対応する位置にカーソル画像を重ねて図示した画像を生成する。カーソルCは、画面上において文字又は図形を入力又は表示する位置を指し示す。カーソルCは、図10に示す例では、縦棒のカーソル画像で表示されるキーボードカーソルCkと、十字型のカーソル画像で表示されるマウスカーソル(ポインタ)Cmとを含む。キーボードカーソルCkは、文字の次の入力位置を示す。マウスカーソルCmは、操作対象を指し示す。
制御部10は、加速度センサ5の検出結果の加速度情報に基づいて、カーソルCmを移動させた画像を生成する。制御部10は、加速度の方向に、加速度の大きさに応じて、カーソルCmを移動させた画像を生成する。制御部10は、カーソルCmをスマートフォン1の移動に連動して移動させた画像を生成する。制御部10は、生成した画像の画像情報を転送部3Bに出力する。制御部10は、加速度情報に含まれるスマートフォン1の移動距離に対するカーソルCmの移動距離を変更可能である。例えば、制御部10は、予め記憶部4に記憶された設定情報に基づいて、スマートフォン1の移動距離に対するカーソルCmの移動距離を変更してもよい。例えば、制御部10は、カーソルCmに対応する位置に応じて、スマートフォン1の移動距離に対するカーソルCmの移動距離を変更してもよい。例えば、制御部10は、加速度情報に含まれる加速度の方向又は加速度の大きさに応じて、スマートフォン1の移動距離に対するカーソルCmの移動距離を変更してもよい。
制御部10は、スマートフォン1をマウスとしての使用状態に切り替える。制御部10は、タッチセンサ6に入力された操作を有効とし、タッチセンサ2Bに入力された操作を無効とする。制御部10は、タッチセンサ6に対する接触を検出開始し、タッチセンサ2Bに対する接触を検出停止する。
制御部10は、タッチセンサ6に入力された操作に基づいて、カーソルCmに対応する位置の操作を実行する。そして、制御部10は、カーソルCmに対応する位置の操作を実行した画像を生成して画像情報を転送部3Bに出力する。カーソルCmに対応する位置の操作とは、カーソルCmに対応する位置における、例えば、「クリック」、「ダブルクリック」、「スクロール」及び「ドラッグ」の少なくともいずれかの一つの操作をいう。具体的に、制御部10は、タッチセンサ6に入力された操作に基づいて、以下のような操作を行う。
例えば、制御部10は、タッチセンサ6から、図6に示すタッチセンサ6の左側の領域61に第二指F2が触れて離れる操作を検出した旨の第二接触情報が入力されると、「左クリック」がされたと判別する。そして、制御部10は、画像中のカーソルCmに対応する位置にあるボタン又はメニューを選択又は実行する。そして、制御部10は、画像中のカーソルCmに対応する位置にあるボタン又はメニューを選択又は実行した画像を生成して画像情報を転送部3Bに出力する。
例えば、制御部10は、タッチセンサ6から、図7に示すタッチセンサ6の右側の領域62に第三指F3が触れて離れる操作を検出した旨の第二接触情報が入力されると、「右クリック」がされたと判別する。そして、制御部10は、画像中のカーソルCmに対応する位置にあるボタン又はメニューに関連するメニューを表示する。そして、制御部10は、画像中のカーソルCmに対応する位置にあるボタン又はメニューに関連するメニューを表示した画像を生成して画像情報を転送部3Bに出力する。
例えば、制御部10は、タッチセンサ6から、タッチセンサ6に所定時間内に「左クリック」を2回繰り返す操作がされた旨の第二接触情報が入力されると、「ダブルクリック」がされたと判別する。そして、制御部10は、画像中のカーソルCmに対応する位置にあるボタンを実行したり、ファイルを開いたりする。そして、制御部10は、画像中のカーソルCmに対応する位置にあるボタンを実行したり、ファイルを開いたりした画像を生成して画像情報を転送部3Bに出力する。
例えば、制御部10は、図8に示すタッチセンサ6の左側の領域61と右側の領域62とにそれぞれ第二指F2、第三指F3が接触した状態でスライドする操作がされた旨の第二接触情報が入力されると、「スクロール」がされたと判別する。そして、制御部10は、加速度の方向に、加速度の大きさに応じて、画像をスクロールする。そして、制御部10は、加速度の方向に、加速度の大きさに応じて、画像をスクロールした画像を生成して画像情報を転送部3Bに出力する。
例えば、制御部10は、加速度センサ5とタッチセンサ6から、図9に示すように、タッチセンサ6に第二指F2が接触した状態で、スマートフォン1を移動する操作がされた旨の加速度情報と第二接触情報とを検出すると、「ドラッグ」がされたと判別する。そして、制御部10は、スライドの方向に、スライドの加速度の大きさに応じて、画像中のカーソルCmに対応する位置にあるファイル、フォルダ又はスクロールバーを移動する。そして、制御部10は、スライドの方向に、スライドの加速度の大きさに応じて、画像中のカーソルCmに対応する位置にあるファイル、フォルダ又はスクロールバーを移動した画像を生成して画像情報を転送部3Bに出力する。あるいは、制御部10は、加速度の方向に応じて、画像中のカーソルCmに対応する範囲を選択する。そして、制御部10は、加速度の方向に応じて、画像中のカーソルCmに対応する範囲を選択した画像を生成して画像情報を転送部3Bに出力する。
次に、このように構成されるスマートフォン1を使用した制御方法及び制御プログラム4Aとその作用について説明する。図11は、スマートフォン1が行う制御の一例を示すフロー図である。
制御部10は、ミラーリングが開始されたか否かを常時監視する(ステップS11)。具体的に、制御部10は、転送部3Bを介してWiFi Directによる画像の転送が開始されたか否かを監視する。
制御部10は、ミラーリングが開始されていない(ステップS11でNo)と判定した場合、処理を終了する。この場合、制御部10は、上記のような、スマートフォン1の通常の使用時における処理を実行する。
制御部10は、ミラーリングが開始された(ステップS11でYes)と判定した場合、画像を生成する(ステップS12)。そして、制御部10は、ステップS12で生成した画像を大型ディスプレイ100に転送する(ステップS13)。制御部10は、生成した画像の画像情報を、転送部3Bを介してWiFi Directを使用して大型ディスプレイ100に転送する。大型ディスプレイ100は、制御部110で、スマートフォン1からの画像情報を表示部101に出力する。大型ディスプレイ100は、画像情報に基づいて表示部101に画像を表示する。
制御部10は、スマートフォン1をマウスとしての使用状態に切り替える(ステップS14)。制御部10は、タッチセンサ6に対する接触を検出開始し、タッチパネル2のタッチセンサ2Bに対する接触を検出停止する。このようにして、スマートフォン1は、マウスとしての使用状態となる。
制御部10は、スマートフォン1への入力の有無を監視する(ステップS15)。制御部10は、スマートフォン1の移動、又は、タッチセンサ6への入力があった場合、入力有り、と判定する。制御部10は、加速度センサ5から加速度情報が入力された場合、又は、タッチセンサ6から第二接触情報が入力された場合、入力有り、と判定する。制御部10は、スマートフォン1の移動、又は、タッチセンサ6への入力、のいずれもない場合、入力無し、と判定する。制御部10は、加速度センサ5の加速度情報及びタッチセンサ6の第二接触情報のいずれもが入力されない場合、入力無し、と判定する。
制御部10は、入力無し(ステップS15でNo)と判定した場合、ステップS15に戻ってスマートフォン1への入力の有無の監視を継続する。
制御部10は、入力有り(ステップS15でYes)と判定した場合、入力された操作を判別する(ステップS16)。制御部10は、加速度センサ5からの加速度情報とタッチセンサ6からの第二接触情報とに基づいて、タッチセンサ6に対する操作を判別する。より詳しくは、制御部10は、加速度センサ5からの加速度情報と、タッチセンサ6からの第二接触情報との組み合わせに基づいて入力された操作を判別する。制御部10によって判別される操作は、タッチセンサ6への操作を伴わずスマートフォン1を移動する操作とタッチセンサ6への操作とがある。
制御部10は、加速度センサ5からの加速度情報が入力され、かつ、タッチセンサ6から第二接触情報の入力がない場合、タッチセンサ6への操作を伴わずスマートフォン1を移動する操作がされたと判別する。より詳しくは、制御部10は、タッチセンサ6から第二接触情報の入力がなく、かつ、加速度センサ5からの加速度情報に基づいて算出したスマートフォン1に作用する加速度の大きさがゼロより大きい場合、タッチセンサ6への操作を伴わずスマートフォン1が移動したと判別する。
制御部10は、タッチセンサ6から第二接触情報が入力された場合、タッチセンサ6への操作がされたと判別する。制御部10は、タッチセンサ6への操作が、どのような操作であるか、例えば「クリック」、「ダブルクリック」、「スクロール」及び「ドラッグ」のいずれの操作であるかを判別する。
制御部10は、ステップS16で判別した操作に基づいて、画像を生成する(ステップS17)。制御部10は、ステップS16で、タッチセンサ6への操作を伴わずスマートフォン1が移動したと判別した場合、又は、「ドラッグ」がされたと判別した場合、加速度センサ5の検出結果の加速度情報に基づいて、カーソルCmが移動した画像を生成する。
制御部10は、ステップS17で生成した画像を大型ディスプレイ100に転送する(ステップS18)。制御部10は、生成した画像の画像情報を、転送部3Bを介してWiFi Directを使用して大型ディスプレイ100に転送する。大型ディスプレイ100は、制御部110で画像情報を表示部101に出力する。大型ディスプレイ100は、画像情報に基づいて表示部101に画像を表示する。
制御部10は、ミラーリングが終了されたか否かを判定する(ステップS19)。具体的に、制御部10は、転送部3Bを介してWiFi Directによる画像の転送が終了したか否かを判別する。
制御部10は、ミラーリングが終了されていない(ステップS19でNo)と判定した場合、ステップS15に戻ってスマートフォン1への入力の有無の監視を継続する。
制御部10は、ミラーリングが終了された(ステップS19でYes)と判定した場合、スマートフォン1のマウスとしての使用状態を終了して(ステップS20)、処理を終了する。制御部10は、タッチセンサ6に対する接触を検出停止する。制御部10は、タッチセンサ2Bに対する接触を検出開始する。このようにして、スマートフォン1は、マウスとしての使用状態が終了する。そして、制御部10は、スマートフォン1の通常の使用時における処理に復帰する。
このように、スマートフォン1は、ミラーリングを開始すると、マウスとしての使用状態に切り替えられる。これにより、操作者は、大型ディスプレイ100に表示された画像に対して、スマートフォン1でマウスのような、カーソルの移動、カーソルで指定した位置に対するクリック、ダブルクリック、スクロール及びドラッグアンドドロップ操作をする。
上記実施形態によれば、スマートフォン1は、スマートフォン1を使用したミラーリングを開始すると、スマートフォン1をマウスとしての使用状態に切り替える。これにより、スマートフォン1は、加速度センサ5を用いて、カーソルの移動操作を検出する。スマートフォン1は、タッチセンサ6で、例えば、クリック、ダブルクリック、スクロール及びドラッグの少なくともいずれか一つの操作を検出する。ミラーリングで大型ディスプレイ100に表示された画像は、スマートフォン1を使用して、例えば、クリック、ダブルクリック、スクロール及びドラッグの少なくともいずれか一つの操作をすることができる。
スマートフォン1は、大型ディスプレイ100に表示された画像にスマートフォン1の移動に連動して移動するカーソルCmを表示することができる。このため、操作者は、ミラーリングで大型ディスプレイ100に表示された画像を見ながら、あたかもマウスを使用しているのと同様に、操作することができる。操作者は、従来のように、スマートフォン1の表示部2Aに表示された画像を見ながら、タッチセンサ2Bで、例えば、タップ又はフリックなどの操作をしなくてもよい。このように、スマートフォン1は、ミラーリングで大型ディスプレイ100に表示された画像の操作性を向上することができる。
スマートフォン1によれば、ミラーリングで大型ディスプレイ100に表示された画像の転送元であるスマートフォン1を、スマートフォン1のミラーリング時に、マウスとしての使用状態に切り替えて画像の操作に使用することができる。操作者は、ミラーリングで大型ディスプレイ100に表示された画像を操作するために、他の操作装置を用意しなくてよい。このため、スマートフォン1は、ミラーリングで大型ディスプレイ100に表示された画像の操作性を向上することができる。
(第2実施形態)
図12を参照しながら、スマートフォン1を使用した制御方法及び制御プログラム4Aとその作用について説明する。図12は、第2実施形態に係るスマートフォンが行う制御の一例を示すフロー図である。スマートフォン1の構成は、制御部10における一部の処理を除いて、第1実施形態のスマートフォン1の構成と同様である。以下の説明においては、スマートフォン1と同様の構成要素には、同一の符号又は対応する符号を付し、その詳細な説明は省略する。
制御部10は、ステップS31において、表示部2Aが操作台である平坦部200(図2参照)と向かい合って、平坦部200に載置されたか否かを判定し、表示部2Aが平坦部200と向かい合って、平坦部200に載置されていると判定した場合、スマートフォン1をマウスとしての使用状態に切り替える点が第1実施形態と異なる。本実施形態で、操作台が平坦部200であるものとして説明するが、平坦面を有する形状に限定されるものではない。制御部10は、ステップS31〜ステップS40の処理を実行する。ステップS32〜ステップS38、ステップS40の各ステップの処理は、第1実施形態のステップS12〜ステップS18、ステップS20の各ステップの処理と同様であるので、説明を省略する。
制御部10は、表示部2Aが平坦部200と向かい合って、平坦部200に載置されたか否かを常時監視する(ステップS31)。具体的に、制御部10は、加速度センサ5の加速度情報や図示しない近接センサからの近接情報などに基づいて、表示部2Aの姿勢を判定し、表示部2Aが平坦部200と向かい合って、平坦部200に載置されたか否かを監視する。
制御部10は、表示部2Aが平坦部200と向かい合って、平坦部200に載置されていない(ステップS31でNo)と判定した場合、処理を終了する。
制御部10は、表示部2Aが平坦部200と向かい合って、平坦部200に載置されている(ステップS31でYes)と判定した場合、ステップS32に進む。
制御部10は、ステップS32〜ステップS38の後、再び、表示部2Aが平坦部200と向かい合って、平坦部200に載置されたか否かを判定する(ステップS39)。
制御部10は、表示部2Aが平坦部200と向かい合って、平坦部200に載置されている(ステップS39でYes)と判定した場合、ステップS35に戻ってスマートフォン1への入力の有無の監視を継続する。
制御部10は、表示部2Aが平坦部200と向かい合って、平坦部200に載置されていない(ステップS39でNo)と判定した場合、ステップS40に進み、処理を終了する。
このように、スマートフォン1は、表示部2Aが平坦部200と向かい合って、平坦部200に載置されると、マウスとしての使用状態に切り替えられる。これにより、操作者は、大型ディスプレイ100に表示された画像に対して、スマートフォン1でマウスのような、クリック、ダブルクリック、スクロール及びドラッグ操作をする。
上記実施形態によれば、スマートフォン1は、表示部2Aが平坦部200と向かい合って、平坦部200に載置されると、スマートフォン1を、マウスとしての使用状態に切り替える。このため、第1実施形態と同様に、スマートフォン1は、ミラーリングで大型ディスプレイ100に表示された画像の操作性を向上することができる。
制御部10は、表示部2Aが平坦部200と向かい合って、平坦部200に載置されたか否かに基づいて、スマートフォン1をマウスとしての使用状態に切り替える。このため、操作者は、スマートフォン1をマウスとしての使用状態に切り替えるために、ボタンを押下するなどの操作を行わなくてもよい。このように、スマートフォン1をマウスとして使用するために、スマートフォン1を平坦部200に載置するという自然な動作の中で、制御部10は、スマートフォン1をマウスとしての使用状態に切り替えることができる。スマートフォン1は、ミラーリングで大型ディスプレイ100に表示された画像の操作性を向上することができる。
本出願の開示する実施形態は、発明の要旨及び範囲を逸脱しない範囲で変更することができる。さらに、本出願の開示する実施形態及びその変形例は、適宜組み合わせることができる。例えば、上記の実施形態は、以下のように変形してもよい。
例えば、図1に示した通信ユニット3は、通信部3Aと転送部3Bとを有するものとして説明したが、通信部3Aと転送部3Bとは結合されていてもよい。
携帯電子機器の例として、スマートフォンについて説明したが、添付の請求項に係る装置は、スマートフォンに限定されない。添付の請求項に係る装置は、スマートフォン以外の携帯電子機器であってもよい。携帯電子機器は、例えば、モバイルフォン、タブレット、携帯型パソコン、デジタルカメラ、メディアプレイヤ、電子書籍リーダ、ナビゲータ、及びゲーム機を含むが、これらに限定されない。
移動検出センサとして、加速度センサ5を使用するものとして説明したが、スマートフォン1の移動状態を検出可能であれば、これに限定されるものではない。スマートフォン1は、例えば、赤外線センサやカメラを用いて、スマートフォン1と対面している面に対する移動を検出し、検出した移動に基づいてカーソルを移動させてもよい。
制御部10は、スマートフォン1のミラーリング時において、転送部3Bを介して大型ディスプレイ100に転送されている画像を、表示部2Aに表示してもよい。
上記実施形態において、スマートフォン1をマウスとしての使用状態に切り替えた際に、スマートフォン1は、タッチセンサ6においてミラーリングで大型ディスプレイ100に表示された画像に対する操作を検出することができるものとして説明したが、タッチセンサ2Bにおいても操作を検出することができるものとしてもよい。この場合、タッチセンサ2Bは、スマートフォン1をマウスとしての使用状態に切り替えた際に、タップ、スワイプ、フリック、ピンチイン、及びピンチアウト等を含む通常の操作に替えて、タッチセンサ6と同様にクリック、ダブルクリック、スクロール及びドラッグの少なくともいずれか一つを含むマウスとしての操作を検出する。
具体的に、例えば、制御部10は、バックフェイス1Bが平坦部200と向かい合って、平坦部200に載置されていると判定した場合、制御部10で、タッチセンサ2Bをマウスとしての使用状態に切り替える。そして、制御部10は、加速度センサ5からの加速度情報とタッチセンサ2Bからの第一接触情報とに基づいて、タッチセンサ2Bに対する、例えば、「クリック」、「ダブルクリック」、「スクロール」、「ドラッグ」を含む操作を判別する。操作者は、表示部2Aに表示された画像に接触して操作するのではなく、タッチセンサ2Bをマウスとして操作することができる。
一方、制御部10は、表示部2Aが平坦部200と向かい合って、平坦部200に載置されていると判定した場合、上述したように、タッチセンサ6に対する接触を検出開始する。
このようにして、バックフェイス1Bが平坦部200と向かい合って、平坦部200に載置されたか、表示部2Aが平坦部200と向かい合って、平坦部200に載置されたか、に基づいて、タッチセンサ2B又はタッチセンサ6のどちらで、マウスとしての操作を検出するかを切り替えることができる。これにより、操作者は、スマートフォン1をマウスとして使用するために平坦部200に載置する際に、表示部2Aの向きを気にしなくてよい。このため、スマートフォン1、制御方法及び制御プログラム4Aは、ミラーリングで大型ディスプレイ100に表示された画像の操作性をより向上することができる。
添付の請求項に係る技術を完全かつ明瞭に開示するために特徴的な実施形態に関し記載してきた。しかし、添付の請求項は、上記実施形態に限定されるべきものでなく、本明細書に示した基礎的事項の範囲内で当該技術分野の当業者が創作しうるすべての変形例及び代替可能な構成を具現化するように構成されるべきである。