JP2019061539A - 入力補助装置および携帯端末 - Google Patents
入力補助装置および携帯端末 Download PDFInfo
- Publication number
- JP2019061539A JP2019061539A JP2017186374A JP2017186374A JP2019061539A JP 2019061539 A JP2019061539 A JP 2019061539A JP 2017186374 A JP2017186374 A JP 2017186374A JP 2017186374 A JP2017186374 A JP 2017186374A JP 2019061539 A JP2019061539 A JP 2019061539A
- Authority
- JP
- Japan
- Prior art keywords
- input
- camera
- smartphone
- operation member
- portable terminal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Input From Keyboards Or The Like (AREA)
Abstract
【課題】操作性をより向上させることができる入力補助装置およびこれを用いた携帯端末を提供することを目的とする。【解決手段】入力補助装置10は、カメラ機能を有する携帯端末であるスマートフォン20に装着可能な入力補助装置10において、スマートフォン20に装着されるケース11と、ユーザ操作を受け付けることにより外形状態が変形可能にして、ケース11に配置される操作部材である入力装置(アナログスティック12,スイッチ13,14)と、入力装置の外形状態をスマートフォン20のカメラ機能が検出可能にして、ケース11に配置される鏡15,16と、を備える。【選択図】図1
Description
本発明は、携帯端末に対する入力を補助する入力補助装置およびこれを装着した携帯端末に関する。
スマートフォンにはタッチパネルや側面に設置されたボタンのほか、カメラや加速度センサ、近接センサ、指紋センサなどが搭載されており、ユーザは、それらボタンまたはセンサを用いた入力を行うことができる。また、有線もしくは無線で別なデバイスと接続し、そのデバイスを介してスマートフォンを操作することもできる。このように、スマートフォンには多様な入力方法があるが、タッチパネルを用いた入力が主流となっている。タッチパネルには、ジェスチャやマルチタッチなどを用いた多彩な入力が可能であることや、ディスプレイの表示内容を変化させることでユーザの入力操作の意味を動的に変化させることができる利点がある反面、指によってディスプレイの表示内容が隠されてしまうことや、触覚フィードバックに乏しいという欠点がある。これらの欠点は特にゲームに影響を与えており、スマートフォンと既存の携帯型ゲーム機を比較した場合、その操作性やゲーム体験は大きく異なる。
特許文献1には、上記の欠点を解決するための操作機器についての記載がある。この操作機器は、スマートフォンなどの携帯端末に装着され、ユーザによりボタンが操作されたことに応じて、可動部は位置または姿勢を変化させる。携帯機器は、操作機器の可動部の位置または姿勢を、赤外線カメラまたは背面カメラが撮影して認識することで、その操作に応じた処理をする。
特許文献1に記載の操作機器は、操作ボタンなどの配置位置が予め定められた構成である。したがって、操作ボタンなどの配置に融通性を持たせることができず、携帯機器において起動するアプリケーションによっては、操作性向上には寄与しない場合がある。
そこで、本発明は、操作性をより向上させることができる入力補助装置およびこれを用いた携帯端末を提供することを目的とする。
上記課題を解決するために、本発明の入力補助装置は、カメラ機能を有する携帯端末に装着可能な入力補助装置において、前記携帯端末に装着される筐体部と、ユーザ操作を受け付けることにより外形状態が変形可能にして、前記筐体部に配置される操作部材と、前記操作部材の外形状態を前記カメラ機能が検出可能にして、前記筐体部に配置される反射部材と、を備える。
この発明によれば、携帯端末のカメラ機能を使って操作部材に対するユーザ操作を検出することができる。その際、反射部材を用いることで、操作部材の配置位置に制限はなく、したがって、携帯端末に対する操作性を向上させることができる。
本発明によれば、操作部材の配置位置に制限を受けることなく、適切な入力手法を提供することができる。したがって、携帯端末に対する操作性を向上させることができる。
添付図面を参照しながら本発明の実施形態を説明する。可能な場合には、同一の部分には同一の符号を付して、重複する説明を省略する。
図1は、本実施形態の入力補助装置10と、当該入力補助装置10をスマートフォン20とを示す外観斜視図である。図1に示されるとおり、入力補助装置10は、スマートフォン20の背面側に装着される。スマートフォン20の背面には背面カメラ21が備えられている。この背面カメラ21が、入力補助装置10に装着されている入力装置(アナログスティック12、スイッチ13,14)の外形状態の変形を検出可能に、入力補助装置10の筐体部であるケース11には、背面カメラ用穴18が形成されている。そのほか、ケース11には、複数の入力装置を、任意の位置に配置するために複数の溝17(接合部分)が形成されている。この外形状態の変形には、回転や移動を含む。
図2は、本実施形態の入力補助装置10の上面図および側面図である。図2(a)が、入力補助装置10の上面図を示し、図2(b)が、入力補助装置10の側面図を示す。この入力補助装置10は、スマートフォンなどの携帯端末(以下、スマートフォン証する)を収納するケース11、アナログスティック12、スイッチ13、14、鏡15、16から構成される。スマートフォン20は、図2(b)の点線内に、スマートフォン20のタッチパネルディスプレイ(操作面)が下を向いた状態で収納される。ケース11には、背面カメラ用穴18が形成されており、スマートフォンが備える背面カメラ21は、ケース11の背面カメラ用穴18を通して撮影が可能となっている。また、ケース11には複数の溝17が形成されており、鏡15、16およびアナログスティック12、スイッチ13、14は、それぞれの溝17に嵌合するように突起等が形成されている。なお、以降、特に区別する必要がない場合には、アナログスティック12、スイッチ13,14を総称して入力装置と称する。これら入力装置は、ユーザ操作に対して触覚フィードバックが得られるような構成が取られている。なお、ケース11に溝17が形成されているが、これに限らず、入力装置と嵌合する形状であれば、穴または突起でもよい。
スイッチ13、およびスイッチ14は、鏡15を介してスマートフォン20の背面カメラ21で撮影可能な位置に配置される。スイッチ13は、操作部分13a、認識対象部13b、および接合部13cから構成されている。操作部分13aはユーザが操作する対象であり、認識対象部13bは、スマートフォン20の背面カメラ21によって撮影され、その外形状態の変形部分が認識される部分である。接合部13cは、ケース11に形成されている溝17に嵌合するための部分であり、凸状に形成されている。なお、接合部13cは、ケース11に穴または突起が形成されている場合には、それぞれ穴または突起に即した形状が形成されている。
スイッチ14も、スイッチ13と同様に、操作部分14a、認識対象部14b、および接合部14cから構成されている。
また、アナログスティック12は、鏡15および鏡16を介してスマートフォン20の背面カメラ21で撮影可能な位置に配置される。アナログスティック12は、操作部分12a、認識対象部12b、および接合部12cから構成され、それぞれスイッチ13と同じ機能を有する。
スイッチ13、スイッチ14、アナログスティック12は、ユーザが力を加えることで、その外形状態が変形する。具体的には、スイッチ13およびスイッチ14は、ユーザの指による押下操作にしたがって、その外形状態が変形する構成を有する。例えば、スイッチ13は、認識対象部13bが下がるなど、その外形状態が変形する。
同様に、アナログスティック12は、ユーザが力を加えることで、その認識対象部12b(操作部分12aも含む)が、力を加えた方向に傾く構成を有する。これらスイッチ13、14、アナログスティック12は、ゲームコントローラで用いられているものと同様の構成を採用することができる。スイッチ13,14、アナログスティック12の外形状態の変形については、マーカを認識対象部13b等に付加することにより、その認識精度を向上させることができる。その詳細については後述する。
入力装置として、アナログスティック12、スイッチ13,14を例示したが、これ以外にも、十字キー、スライダー、ボリューム等があり得る。携帯型ゲーム機、携帯型音楽プレイヤーなどで用いられている入力装置を入力補助装置10に用いることで、それらと同等なゲーム体験を可能にする。
図3は、本実施形態の入力補助装置10に装着されたスマートフォン20の背面カメラ21の画角を示した図である。図3に示されるとおり、背面カメラ21は、その撮影領域Sに配置されている各種部材を、鏡15の反射を利用して撮影する。本実施形態では、撮影領域Sには、スイッチ13,14、および鏡16が含まれている。
したがって、矢印P1,P2に示されるとおり、背面カメラ21は、スイッチ13,14の動きを撮影することができる。また、矢印P3に示されるとおり、背面カメラ21は、鏡16の反射を利用してアナログスティック12の動きを撮影することができる。
スマートフォン20は、背面カメラが撮影した画像を処理する制御部を備えており、この制御部は、その背面カメラが撮影する画像を用いて、スイッチ13、14もしくはアナログスティック12の変形を検出することができ、その変形をユーザの入力として処理する。例えば、制御部は、ユーザがスイッチ13、14を押し込んだ場合、背面カメラを介して、その撮影画像を認識し、スマートフォン20上で動作しているアプリケーションにタップが行われたことを通知する。同様に、制御部は、アナログスティック12が変形して傾いた場合、その傾きの向きと程度を認識して、スマートフォン上で動作しているアプリケーション上のカーソルの移動に利用することができる。
上記の処理をするために、スマートフォン20の制御部は、ユーザは入力装置に力を加えていない状態と、力を加えている状態における入力装置の形状を、ユーザまたはアプリケーションの制作者によりあらかじめ記録させることができる。さらにユーザは、入力装置のどのような変形が、スマートフォン20上で動作するアプリケーションへ与えるどのような入力に対応するのかを設定することができる。これにより、これまで利用したことのない入力装置を用いたい場合であっても,その入力装置を用いた入力が可能となり、かつユーザの操作とコマンドの対応関係をアプリケーションやユーザの好みに応じて切り替えることができるようになる。
このような構成であれば、スマートフォン20のディスプレイを覆うことなく、ユーザはスマートフォン20の背面を用いた入力を行うことができ、さらにユーザは触覚フィードバックのある入力操作を行うことができる。また、図1に示すようにスマートフォン20を横持ちすることを想定した配置であれば、ユーザの指や手が鏡15、16と入力装置(アナログスティック12等)の間に入り込むことはほとんどなく、スマートフォン20の背面カメラは常時、入力装置の変形具合を監視し続けることができる。
スマートフォン20の制御部は、入力装置の変形を一般的な画像処理で検出することができるが、マーカを用いることでより頑強に精度良く検出することができる。図4は、認識用マーカが付加されたアナログスティック12の動きを示す図である。アナログスティック12は、ユーザが操作するための操作部分12a、アナログスティック12の動きを認識するための認識対象部12b、接合部12cから構成されている。認識対象部12bは、認識精度を向上させるために、着色されたマーカ31を含んでいる。本実施形態においては、認識対象部12bは、半球状の形状からなり、半球部分の下側部分に帯状のマーカ31が形成されている。
マーカ31は、黒で表現されている。さらに、認識対象部12bは、半球形状であって、その下側部分にマーカ31が帯状に形成されるとともに、その半球部分の底面部分は着色されて形成されている。
図4(a)に示されるとおり、アナログスティック12が操作されておらず、その外形状態が変形していない場合、黒のマーカ31は水平の状態で認識される。したがって、スマートフォン20の制御部は、マーカ31が、水平の状態である認識するすると、操作がされていないと判断する。
つぎに、図4(b)に示されるとおり、ユーザがアナログスティック12に力をかけて、アナログスティック12の外形状態を左に傾けた場合、アナログスティック12の傾きに応じて、マーカ31も傾く。スマートフォン20の制御部は、マーカ31の傾きを認識すると、アナログスティックがその傾きに応じた所定の方向に向けて操作されたと判断する。
さらに、図4(c)に示されるとおり、アナログスティック12が奥側に傾いた場合、アナログスティック12の傾きに応じて、黒のマーカ31が上方向に移動する。マーカ31は、半球形状の底面に着色されているマーカ31が大きな面積を占めるようになる。スマートフォン20の制御部は、認識したマーカ31の形状を認識すると、その形状に応じて、どの程度奥に傾けた操作をしたかを判断する。例えば、少し奥に傾けた状態では、その形状は細長い目のような形状となり、大きく奥に傾けた状態では、その形状は楕円状の形状となる。したがって、マーカ31の形状に基づいて、どの程度奥に傾けたかを判断する。
一方、手前に傾けた状態では、底面部分のマーカ31を認識できず、帯状のマーカ31のみを認識する。その際、下側に弧を描くような形状をもったマーカ31を認識する場合には、手前側に傾けたと判断する。
これらを組み合わせることでアナログスティック12がどの方向にどの程度傾けたかを、スマートフォン20の制御部は、判断することができる。
このようにすれば、アナログスティック12の傾きの向きだけでなく、その程度も検出することができ、アナログ量の入力やポインティング操作などを行うことができるようになる。スイッチ13、14にマーカを設置する場合には、スマートフォン20のカメラが、スイッチ13、14が押し込まれていない時にマーカを観測でき、押し込まれた時にマーカを観測できなくなるような位置にマーカを設置すれば良い。
また、マーカは文字や格子状の模様でもよい。例えば、後述する通り、図7のボールに設置したマーカはアルファベットであり、ボールが変形することにより、アルファベットの位置やアルファベットの形状は変化する。この変化を検出することで、ボールがどのように変形したのかを知ることができる。
また、図5に示すように、入力装置に延長棒13dを設置することもできる。図5は、延長棒13dを備えた入力装置の具体例を示す図である。この延長棒13dは、ケース11に形成された穴を通して,ケース11の反対側に突き出るように構成されている。スイッチ13が押し込まれると、延長棒13dも同様に押し込まれるため、ケース11の反対側からでもスイッチ13の外形状態の変形を検出することができるようになる。この場合、延長棒13dが、その配置面に対向する背面側に突き出すように構成されている場合には、背面カメラによりその外形状態の変形が検出される。なお、アナログスティック12およびスイッチ14に対しても延長棒は適用可能である。
このような延長棒13dを設置することで,スマートフォン20のカメラを一つだけ用いて、背面および前面の両面に設置された入力装置の外形状態の変形を検出することができる。
図6は、通常のカメラとして使用する場合と入力補助装置にカメラを使用する場合の両方を切替えるための具体的機構の変形例を示す図である。図6(a)に示されるとおり、鏡15zは、ヒンジ部15z2を介して、ケース11に対して回動可能に接合されている。鏡15zには、穴15z1が形成されている。
図6(b)に示されるとおり、カメラ21の通常使用のための待機形態のときには、鏡15zは、ケース11に対して伏せるように収納されている。その際、穴15z1は、カメラ21が入力装置を撮影することなく、風景などの撮影に使用可能なように、カメラ21と同じ位置に形成されている。
図6(c)、および図6(d)に示されるとおり、入力補助装置10の入力装置を撮影するためにカメラ21を使用するときには(使用形態)、ヒンジ部15z2を使って鏡15zを所定角度で固定する。
この場合、カメラ21は、鏡15zの反射を使って、ケース11に配置されている入力装置を撮影可能にして、その外形状態の変化を検出する。
以上の構成により、入力補助装置10を装着したスマートフォン20は、そのカメラ21を使って、入力装置の検出と、通常撮影との切換を簡単に行うことができる。
図1〜図6は、スマートフォン20の背面カメラを用いた例を示したが、スマートフォン20に備えられた前面カメラ(操作面側のカメラ)を用いることもできる。その時の入力補助装置10xの構成を図7に示す。図7は、図1と同様に入力装置として2つのスイッチ13x、14xと1つのアナログスティック12xを用いている。また、鏡15x、16xが2つ設置されている。図1に示したスマートフォン20の背面カメラを用いた例と違い、ケース11xはスマートフォン20のディスプレイの左右の外側に入力装置の配置領域R・配置領域Lが形成されている。その配置領域R・Lに入力装置が設置されている。
前面カメラ21aは、鏡15xを介して、スイッチ13x,14xおよび鏡16xを撮影する。前面カメラ21aの画角にあわせて、鏡15xの配置が調整される。さらに前面カメラ21aは、鏡16xに反射して映っているアナログスティック12xを撮影する。
このような構成とすることで、スマートフォン20のディスプレイを覆うことなく、ユーザはスマートフォン20の前面を用いた入力を行うことができ、さらにユーザは触覚フィードバックのある入力操作を行うことができる。なお、図7においては、入力装置を設置するための複数の溝等は省略しているが、図2と同様に入力装置の設置を自在にするために複数の溝等を設けてもよい。
図1では、入力装置がスマートフォン20の背面側に設置されており、それらをスマートフォンの背面カメラ21で撮影している例を示し、図2では、入力装置がスマートフォン20の前面側に設置されており、それらをスマートフォン20の前面カメラ21aで撮影している例を示した。これに限定するものでなく、入力装置をスマートフォン20の背面および前面の両面に設置し、ユーザは両面に設置された入力装置を同時に操作するように構成することもできる。入力装置を両面に設置した場合、スマートフォン20の背面カメラ21および前面カメラ21aの両方を同時に起動し、複数のカメラで入力装置を観測すればよい。
延長棒13dを用いるのではなく、入力装置に力が加えられた時に複数の場所に変形が生じるようにしてもよい。図8は、スマートフォン20を活用したHMD(Head Mount Display)に本実施形態の入力補助装置10yを適用した例を示す。この入力補助装置10yは、ユーザの頭部に装着可能な形状のケース11yを備えている。このケース11yは、スマートフォン20を装着可能な形状を有しており、その側面部分に入力装置であるスイッチ13yを備えている。
ユーザは、ケース11yを顔に押し当て、スマートフォン20のディスプレイに表示された画像を視聴する。この時、ユーザは、スマートフォン20の背面に設置した入力装置ではなく、ケース11yの側面に設置された入力装置(スイッチ13y)を用いて入力操作を行う方が望ましい。そのために図8に示されるとおり、ケース11yの側面にスイッチ13y設置されている。
ユーザは、このスイッチ13yを押し込むことで入力操作をおこなう。このスイッチ13yは、連結部13y1を介して遠隔変形部13y2と接続されている。ユーザは、スイッチ13yを押し込むと、連結部13y1を介して、それに連動して遠隔変形部13y2が変形する。スマートフォン20の背面カメラ21で遠隔変形部 13y2の変形を検出することで、スイッチ13yの変形を検出する。スイッチ13yと遠隔変形部13y2とはリンク機構を用いて変形が連動するようにしてもよい。また、スイッチ13yと遠隔変形部13y2と連結部13y1との中に気体もしくは液体を密閉し、スイッチ13yの外形状態の変形が遠隔変形部13y2に伝わるようにしてもよい。
このように、入力装置の複数の場所で変形が生じるようにしておくことで、ユーザが操作する場所の制約が緩和され、ユーザの操作に適した位置に入力装置を設置することができるようになる。
上述説明では、入力装置はスイッチ13、14、アナログスティック12などの電子部品を用いた例を示した。これらの電子部品はすでにゲーム機で使われており、ユーザも操作に慣れている。また、それらを入手することもそれほど困難ではない。本実施形態の入力補助装置10で用いる入力装置は上記の電子部品に限定されるわけではなく、身近にある日用品で代用することもできる。例えば、図9は、日用品を用いた3種類の入力装置を有する入力補助装置を示している。入力装置は、支柱32、ゴム33、操作部34、35、36から構成される。支柱32および操作部34、35は、ケース11の溝に勘合することができる部材であればよく、例えば消しゴムなどでよい。ゴム33は、例えば輪ゴムである。
図9においては、ケース11の溝17に、4つの支柱32を矩形を描くように配置する。ゴム33は、2つの支柱32のそれぞれにおいて対角線をとるようにくくりつける。操作部34は4つの支柱32の中心に配置されるようにゴム33にくくりつけられる。なお、操作部34は、鏡15を介してスマートフォン20の背面カメラが撮影可能な位置に配置されるよう4つの支柱32の位置は調整される。
そして、ユーザは、操作部34をケース11上でスライドさせることで、2次元のポインティング操作を行うことができる。操作部34を移動させると、ゴム33によって操作部34を中心に引き戻す力が働くため、ユーザにはフィードバックを感じることができる。
一方、ケース11には、操作部36として、クリップが配置される。このクリップは、ケース11に形成される溝に嵌合するように構成されている。ユーザは、このクリップを動かす入力操作が可能であり、スマートフォン20のカメラは、このクリップの動きを検出し、画像処理部が認識することで、その操作を判断する。
また、操作部35としてボールが配置される。ボールに対してユーザが力をかけると、ボールが変形する。その変形の向きや程度を、カメラが撮影することで、ボールの外形状態を検出したり、ボールに記されているマーカを読み取ることで検出することができる。このように日用品を入力装置として利用することで、アプリケーションに応じた様々な入力操作が可能となり、また手軽に新たな入力操作を試すことができるようになる。
本実施形態の入力補助装置10に装着されるスマートフォン20は、入力補助装置10に対する、以下の制御を行うことが考えられる。例えば、至近距離に配置される入力装置を撮影するためのフォーカス制御、風景等の撮影など通常の撮影を行うときの画像の切り出し制御、入力装置の動きを精度よく認識するための制御がある。以上の制御を可能にするためのスマートフォン20の機能について説明する。図10はスマートフォン20の機能構成を示すブロック図である。
図に示されるとおり、スマートフォン20は、カメラ21、フォーカス機構部22、制御部23(認識部、フォーカス制御部)、メモリ24、およびタッチパネルディスプレイ25を含んで構成されている。
カメラ21は、被写体を撮影するための部分である。本実施形態では、カメラ21は、風景等を撮影するほか、入力装置の外形状態の変形を検出するために撮影する。
フォーカス機構部22は、撮影対象に対して焦点位置を調整するための機構部である。制御部23の制御に基づいて、風景等を撮影するときの焦点位置と、入力補助装置10上に配置される入力装置を撮影するときの焦点位置とを調整可能にする部分である。フォーカス機構部22は、ユーザの操作または起動しているアプリケーションにより焦点位置の調整を行う。
制御部23は、スマートフォン20の全体に対する総括制御を行うことのほか、カメラ21により撮影された撮影画像に対する画像処理を行う部分である。制御部23は、起動しているアプリケーションに応じて入力補助装置10の入力装置に対する認識処理を行う。
例えば、制御部23は、カメラ21により取得された撮影画像のうち、入力装置の外形状態の変形を認識することができる。その入力装置の外形状態の変形を認識すると、どの入力装置がどの程度の外形状態の変形をしたか判断し、その情報に基づいてアプリケーションの動作を制御する。
なお、図5に示された通り、スイッチ13を構成する認識対象部13bにマーカ31を付加した場合には、そのマーカ31に基づいて認識対象部13bの動きを認識することができる。
アナログスティック12、スイッチ13、14のどのような変形を検出するのか、またその変形をスマートフォン上で動作しているアプリケーションのどのような操作と結びつけるのかは、スマートフォン20で動作するアプリケーションにおいて、自由に設定することができる。
制御部23は、入力装置に対する認識処理を行うと設定されている場合には、フォーカス機構部22に対して、入力装置を焦点位置とするよう制御する。制御部23は、入力装置に対する認識処理を行うと設定されていない場合には、フォーカス機構部22に対して、風景、人物等、測距に応じて定められた位置を焦点位置とするよう制御する。入力装置に対する認識処理の設定は、例えば、ユーザによる設定、または入力補助装置10を装着することによる自動設定が考えられる。
また、制御部23は、入力装置に対する認識処理を行うと設定されていない場合には、風景等をカメラ21は撮影すると判断する。その場合、入力装置の配置によっては、カメラ21は、入力装置を含んだ撮影画像を取得する場合がある。その場合には、入力装置に対しては、フォーカスは合っていないため、ピンぼけの画像を含んだものとなる。従って、風景等を撮影する場合においては、制御部23は、入力装置を含んだ画像領域を切り取るなどの画像処理を施すことで、ピンぼけ部分を含まない撮影画像を得ることができる。
メモリ24は、スマートフォン20のインストールされているプログラムを記憶する部分である。
タッチパネルディスプレイ25は、ユーザにより入力操作を受け付けるとともに、アプリケーションに基づいた情報を表示する部分である。
このように構成されたスマートフォン20は、入力補助装置10を装着することで、入力補助装置10に対するユーザ操作を認識し、その操作をアプリケーションに通知することで、アプリケーションに対する操作を可能にする。
つぎに、入力補助装置10を装着したスマートフォン20のカメラ機能を用いた実際の撮影の状態について説明する。
本実施形態における入力補助装置10〜10yにおいて、入力装置と背面カメラ21(または前面カメラ21a)との間の距離は近い。そのため、入力装置を利用する場合に設定すべき背面カメラ21の焦点位置は、通常の風景を撮影する場合などとは異なる位置となっている。入力装置が設置されている位置はあらかじめ分かっているので、入力装置を利用する場合にはそれに適した焦点位置を設定すればよい。その設定は上述したとおりユーザ操作、またはアプリケーションによる自動設定により可能である。
本実施形態における入力補助装置10〜10yにおいて、入力装置と背面カメラ21(または前面カメラ21a)との間の距離は近い。そのため、入力装置を利用する場合に設定すべき背面カメラ21の焦点位置は、通常の風景を撮影する場合などとは異なる位置となっている。入力装置が設置されている位置はあらかじめ分かっているので、入力装置を利用する場合にはそれに適した焦点位置を設定すればよい。その設定は上述したとおりユーザ操作、またはアプリケーションによる自動設定により可能である。
ユーザは、入力補助装置101を装着しているスマートフォン20の背面カメラ21を、風景を撮影するなど通常のカメラとしても使用する場合、入力補助装置10に配置されている鏡15を、背面カメラ21の画角外に移動させる。そのために、鏡15を容易に取り外し可能となるような機構を設置し、または鏡15の位置を移動できる機構を設けている。
また、背面カメラ21の画角内で鏡15に映る範囲を制限しておく方法もある。図11は、画像処理の対象を示す図である。図11(a)において、スマートフォン20の背面カメラ21の全画角範囲A、その中で入力装置が撮影される範囲A1、入力装置が撮影されない範囲A2を示す。入力装置が撮影される範囲は、鏡15の大きさや設置位置、角度などで調整することができる。入力装置を用いた操作を行う場合には、カメラの焦点位置を入力装置に合わせる。この時、同時に撮影されている風景等は焦点が合っておらず、ボケている(図11(b))。しかしながら、背面カメラ21で入力装置の外形状態の変形を検出することができるので、ユーザは入力装置を用いた操作が可能となる。
ユーザが入力装置を用いた操作を行うのではなく、風景等を撮影したい場合には、背面カメラ21の焦点位置を風景等に合わせる。この時、同時に撮影されている入力装置はボケている(図11(c))。制御部23は、ユーザの操作に基づいて、または自動的に、この状態で撮影した静止画、または動画から、入力装置が撮影されている領域を切り取ることができる。このような構成を取ることで、ケース11に設置されている鏡15を使用目的に応じて取り外しする必要がなくなり、利便性が向上する。
さらに、入力補助装置10と、それに対応するアプリケーションの設定をユーザまたはアプリケーション制作者が行うことができる。スマートフォン20の制御部23は、ユーザは入力装置に力を加えていない状態と、力を加えている状態における入力装置の形状を、ユーザまたはアプリケーションの制作者によりあらかじめ記録させることができる。さらにユーザは、入力装置のどのような変形が、スマートフォン20上で動作するアプリケーションへ与えるどのような入力に対応するのかを設定することができる。これにより、これまで利用したことのない入力装置を用いたい場合であっても,その入力装置を用いた入力が可能となり、かつユーザの操作とコマンドの対応関係をアプリケーションやユーザの好みに応じて切り替えることができるようになる。
つぎに、本実施形態の入力補助装置10およびスマートフォン20の作用効果について説明する。
本実施形態の入力補助装置10は、カメラ機能を有する携帯端末であるスマートフォン20に装着可能な入力補助装置10において、スマートフォン20に装着されるケース11と、ユーザ操作を受け付けることにより外形状態が変形可能にして、ケース11に配置される操作部材である入力装置(アナログスティック12,スイッチ13,14)と、入力装置の外形状態をスマートフォン20のカメラ機能が検出可能にして、ケース11に配置される反射部材である鏡15,16と、を備える。
この入力補助装置10によれば、鏡15,16を用いて、スマートフォン20のカメラが入力装置の外形状態の変形を検出することができる。したがって、入力装置の配置の制限を受けることなく、操作性を向上させることができる。なお、少なくとも鏡15があればよい。また、入力装置には、電源が不要となる。よって、様々なものを入力装置として活用が可能であり、安価に実現が可能となる。
また、入力補助装置10において、ケース11は、入力装置を任意の位置に配置するための複数の接合部分(溝17、そのほか穴、突起でもよい)を有し、入力装置および鏡15,16の少なくとも一方は、接合部分に着脱自在に形成される。
この入力補助装置10によれば、接合部分に応じた任意の位置に入力装置、鏡15、16を配置することができ、ユーザはスマートフォン20上で動作するアプリケーションに応じた入力操作を行うことができる。したがって、その操作性を向上させることができる。
さらに、接合部分により、入力装置および鏡15等を固定しているため、操作中に入力装置の位置が変化することがなくなり、スマートフォン20のカメラで入力装置の変形を検出する精度の低下を防止し、ユーザは目視することなく、入力装置を介して入力を行うことができるようになる。
また、鏡15等は、着脱自在であることから、スマートフォン20のカメラを風景等の撮影など、通常使用をしようとする場合には、鏡等を外すまたは他に移動することによりカメラの画角内に鏡等が存在しなくなる。よって、カメラの通常使用を容易に行うことができる。
入力補助装置10によれば、鏡15は、入力装置の外形状態をスマートフォン20のカメラ機能が検出可能にする使用形態と、入力装置の外形状態をカメラ機能が検出不可とする待機形態とに切り替え可能な形状である。
この入力補助装置10によれば、鏡15を使用形態、待機形態に切替えるといった簡単な操作で、入力補助装置10を装着したスマートフォン20のカメラ機能を使った入力補助を行うか、風景等通常のカメラを使うかを切替えることができる。
入力補助装置10において、ケース11は、スマートフォン20の背面部分を覆うように装着可能な形状であって、スマートフォン20のカメラ機能による検出を可能にするための背面カメラ用穴18を形成し、入力装置および鏡15,16は、ケース11におけるスマートフォン20の背面側に配置される。
この入力補助装置10によれば、スマートフォンの背面側(ディスプレイ面の反対側)に入力装置を配置するため、ディスプレイの表示を邪魔することなく、スマートフォン20に対する操作を行うことができる。
入力補助装置10において、ケース11は、スマートフォン20の側面部分を覆うように装着可能な形状であって、スマートフォン20のタッチパネルディスプレイ25の周囲に、当該タッチパネルディスプレイ25と略同じ高さに部材配置面である配置領域R・Lを形成し、入力装置および鏡15,16は、配置領域R・Lに配置される。
この入力補助装置10によれば、タッチパネルディスプレイ25側に入力装置を配置することができる。さらに、鏡15,16を使って入力装置の外形状態の変形を検出することができ、タッチパネルディスプレイ25の表示の邪魔をすることなく、ユーザの操作を検出することができ、操作性を向上することができる。
入力補助装置10において、ケース11は、スマートフォン20の背面部分および側面部分を覆うように装着可能な形状である。そのケース11は、スマートフォン20のカメラ機能による検出を可能にするための背面カメラ用穴18を形成し、スマートフォン20のタッチパネルディスプレイ25の周囲に、当該タッチパネルディスプレイ25と略同じ高さに部材配置面である配置領域R・Lを形成する。
そして、入力装置は、配置領域R・Lまたはケース11の背面側に配置され、入力装置が配置される面の反対側に配置されるカメラ機能においてその外形状態の変形を検出可能に形成される。例えば、操作部材は、その配置面の反対側に延長棒13dをとき出させる構成である。
この構成により、スマートフォン20の表示面および背面側に操作部材を配置したとしても、その配置の反対側においてその外形状態の変形が検出可能に形成されることで、一つのカメラ機能を用いて操作を検出することができる。例えば、前面側に配置される操作部材が背面側に突出する構成を取った場合、背面側のカメラ機能のみを使って操作部材に対する操作を検出することができる。
入力補助装置10において、複数の入力装置が、ケース11の両端部分に配置され、鏡15,16は、カメラ機能により複数の操作部材の外形状態の変形を検出可能にして、ケース11に配置される。
この構成により、ケース11の両端に配置した入力装置の外形状態の変形を同時に検出することができ、ユーザは両手を使った入力が可能となる。
入力補助装置10において、入力装置は、複数部分において外形状態が変形可能に形成され、鏡15,16は、スマートフォン20のカメラ機能により複数部分における外形状態の変形を検出可能に配置される。
この構成により、入力装置の一部がカメラ機能により撮影不可としても、別の部分においてカメラ機能による撮影を可能になるため、入力装置の配置位置の自由度を向上させることができる。
上記入力補助装置10を装着する携帯端末であるスマートフォン20において、鏡15,16を介して、入力装置の外形状態の変形を含んだ撮影画像を取得するカメラ21と、カメラ21により取得された撮影画像のうち、入力装置の外形状態が変形しうる範囲のみを認識する制御部23を備える。
このスマートフォン20によれば、少ない計算量で入力装置の変形を検出することができ、レスポンスを向上させることができる。
上記入力補助装置10を装着する携帯端末であるスマートフォン20において、鏡15,16を介して、入力装置の外形状態の変形を含んだ撮影画像を取得するカメラ21と、入力装置の外形状態の変形を認識するとともに、認識を行う場合には、入力装置に対してフォーカスをあわせるようフォーカス機構部22を制御する制御部23と、を備える。
このスマートフォン20によれば、カメラの画角の一部のみを鏡15,16等は覆っている。そして、ユーザは入力装置を用いる入力を行う場合と、スマートフォン20のカメラで風景等を撮影する場合とを、鏡を取り外すことなく切替えることができる。
なお、上記実施の形態の説明に用いたブロック図は、機能単位のブロックを示している。これらの機能ブロック(構成部)は、ハードウェア及び/又はソフトウェアの任意の組み合わせによって実現される。また、各機能ブロックの実現手段は特に限定されない。すなわち、各機能ブロックは、物理的及び/又は論理的に結合した1つの装置により実現されてもよいし、物理的及び/又は論理的に分離した2つ以上の装置を直接的及び/又は間接的に(例えば、有線及び/又は無線)で接続し、これら複数の装置により実現されてもよい。
例えば、本発明の一実施の形態におけるスマートフォン20などは、コンピュータとして機能してもよい。図9は、本実施形態に係るスマートフォン20のハードウェア構成の一例を示す図である。上述のスマートフォン20は、物理的には、プロセッサ1001、メモリ1002、ストレージ1003、通信装置1004、入力装置1005、出力装置1006、バス1007などを含むコンピュータ装置として構成されてもよい。
なお、以下の説明では、「装置」という文言は、回路、デバイス、ユニットなどに読み替えることができる。スマートフォン20のハードウェア構成は、図に示した各装置を1つ又は複数含むように構成されてもよいし、一部の装置を含まずに構成されてもよい。
スマートフォン20における各機能は、プロセッサ1001、メモリ1002などのハードウェア上に所定のソフトウェア(プログラム)を読み込ませることで、プロセッサ1001が演算を行い、通信装置1004による通信や、メモリ1002及びストレージ1003におけるデータの読み出し及び/又は書き込みを制御することで実現される。
プロセッサ1001は、例えば、オペレーティングシステムを動作させてコンピュータ全体を制御する。プロセッサ1001は、周辺装置とのインターフェース、制御装置、演算装置、レジスタなどを含む中央処理装置(CPU:Central Processing Unit)で構成されてもよい。例えば、制御部23などは、プロセッサ1001で実現されてもよい。
また、プロセッサ1001は、プログラム(プログラムコード)、ソフトウェアモジュールやデータを、ストレージ1003及び/又は通信装置1004からメモリ1002に読み出し、これらに従って各種の処理を実行する。プログラムとしては、上述の実施の形態で説明した動作の少なくとも一部をコンピュータに実行させるプログラムが用いられる。例えば、制御部23は、メモリ1002に格納され、プロセッサ1001で動作する制御プログラムによって実現されてもよく、他の機能ブロックについても同様に実現されてもよい。上述の各種処理は、1つのプロセッサ1001で実行される旨を説明してきたが、2以上のプロセッサ1001により同時又は逐次に実行されてもよい。プロセッサ1001は、1以上のチップで実装されてもよい。なお、プログラムは、電気通信回線を介してネットワークから送信されても良い。
メモリ1002は、コンピュータ読み取り可能な記録媒体であり、例えば、ROM(Read Only Memory)、EPROM(Erasable Programmable ROM)、EEPROM(Electrically Erasable Programmable ROM)、RAM(Random Access Memory)などの少なくとも1つで構成されてもよい。メモリ1002は、レジスタ、キャッシュ、メインメモリ(主記憶装置)などと呼ばれてもよい。メモリ1002は、本発明の一実施の形態に係る無線通信方法を実施するために実行可能なプログラム(プログラムコード)、ソフトウェアモジュールなどを保存することができる。
ストレージ1003は、コンピュータ読み取り可能な記録媒体であり、例えば、CD−ROM(Compact Disc ROM)などの光ディスク、ハードディスクドライブ、フレキシブルディスク、光磁気ディスク(例えば、コンパクトディスク、デジタル多用途ディスク、Blu−ray(登録商標)ディスク)、スマートカード、フラッシュメモリ(例えば、カード、スティック、キードライブ)、フロッピー(登録商標)ディスク、磁気ストリップなどの少なくとも1つで構成されてもよい。ストレージ1003は、補助記憶装置と呼ばれてもよい。上述の記憶媒体は、例えば、メモリ1002及び/又はストレージ1003を含むデータベース、サーバその他の適切な媒体であってもよい。
通信装置1004は、有線及び/又は無線ネットワークを介してコンピュータ間の通信を行うためのハードウェア(送受信デバイス)であり、例えばネットワークデバイス、ネットワークコントローラ、ネットワークカード、通信モジュールなどともいう。
入力装置1005は、外部からの入力を受け付ける入力デバイス(例えば、キーボード、マウス、マイクロフォン、スイッチ、ボタン、センサなど)である。出力装置1006は、外部への出力を実施する出力デバイス(例えば、ディスプレイ、スピーカー、LEDランプなど)である。なお、入力装置1005及び出力装置1006は、一体となった構成(例えば、タッチパネル)であってもよい。
また、プロセッサ1001やメモリ1002などの各装置は、情報を通信するためのバス1007で接続される。バス1007は、単一のバスで構成されてもよいし、装置間で異なるバスで構成されてもよい。
また、スマートフォン20は、マイクロプロセッサ、デジタル信号プロセッサ(DSP:Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)、FPGA(Field Programmable Gate Array)などのハードウェアを含んで構成されてもよく、当該ハードウェアにより、各機能ブロックの一部又は全てが実現されてもよい。例えば、プロセッサ1001は、これらのハードウェアの少なくとも1つで実装されてもよい。
以上、本実施形態について詳細に説明したが、当業者にとっては、本実施形態が本明細書中に説明した実施形態に限定されるものではないということは明らかである。本実施形態は、特許請求の範囲の記載により定まる本発明の趣旨及び範囲を逸脱することなく修正及び変更態様として実施することができる。したがって、本明細書の記載は、例示説明を目的とするものであり、本実施形態に対して何ら制限的な意味を有するものではない。
本明細書で説明した各態様/実施形態は単独で用いてもよいし、組み合わせて用いてもよいし、実行に伴って切り替えて用いてもよい。また、所定の情報の通知(例えば、「Xであること」の通知)は、明示的に行うものに限られず、暗黙的(例えば、当該所定の情報の通知を行わない)ことによって行われてもよい。
「含む(include)」、「含んでいる(including)」、およびそれらの変形が、本明細書あるいは特許請求の範囲で使用されている限り、これら用語は、用語「備える(comprising)」と同様に、包括的であることが意図される。さらに、本明細書あるいは特許請求の範囲において使用されている用語「または(or)」は、排他的論理和ではないことが意図される。
本明細書において、文脈または技術的に明らかに1つのみしか存在しない装置である場合以外は、複数の装置をも含むものとする。
本開示の全体において、文脈から明らかに単数を示したものではなければ、複数のものを含むものとする。
10、10x、10y…入力補助装置、11、11x、11y…ケース、12…アナログスティック、12a…操作部分、12b…認識対象部、12c…接合部、13…スイッチ、13a…操作部分、13b…認識対象部、13c…接合部、13d…延長棒、13x、13y…スイッチ、13y1…連結部、13y2…遠隔変形部、14…スイッチ、14a…操作部分、14b…認識対象部、14c…接合部、15、15x、15z…鏡、15z1…穴、15z2…ヒンジ部、16、16x…鏡、17…溝、18…背面カメラ用穴、20…スマートフォン、21…背面カメラ、21a…前面カメラ、22…フォーカス機構部、23…制御部、24…メモリ、25…タッチパネルディスプレイ、32…支柱、33…ゴム、34、35、36…操作部。
Claims (10)
- カメラ機能を有する携帯端末に装着可能な入力補助装置において、
前記携帯端末に装着される筐体部と、
ユーザ操作を受け付けることにより外形状態が変形可能にして、前記筐体部に配置される操作部材と、
前記操作部材の外形状態の変形を前記カメラ機能が検出可能にして、前記筐体部に配置される反射部材と、
を備える入力補助装置。 - 前記筐体部は、操作部材を任意の位置に配置するための複数の接合部分を有し、
前記操作部材および前記反射部材の少なくとも一方は、前記接合部分に着脱自在に形成される、
請求項1に記載の入力補助装置。 - 前記反射部材は、前記操作部材の外形状態を前記カメラ機能が検出可能にする使用形態と、前記操作部材の外形状態を前記カメラ機能が検出不可とする待機形態とに切り替え可能な形状である、請求項1または2に記載の入力補助装置。
- 前記携帯端末は、背面部分にカメラ機能を有し、
前記筐体部は、前記携帯端末の背面部分を覆うように装着可能な形状であって、前記カメラ機能による検出を可能にするための穴部を形成し、
前記操作部材および前記反射部材は、前記筐体部における前記携帯端末の背面側に配置される、
請求項1〜3のいずれか一項に記載の入力補助装置。 - 前記筐体部は、前記携帯端末の側面部分を覆うように装着可能な形状であって、前記携帯端末の表示面の周囲に、当該表示面と略同じ高さに部材配置面を形成し、
前記操作部材および前記反射部材は、前記部材配置面に配置される、
請求項1〜4のいずれか一項に記載の入力補助装置。 - 前記筐体部は、前記携帯端末の背面部分および側面部分を覆うように装着可能な形状であって、前記カメラ機能による検出を可能にするための穴部を形成し、前記携帯端末の表示面の周囲に、当該表示面と略同じ高さに部材配置面を形成し、
前記操作部材は、前記部材配置面または当該部材配置面に対向する前記筐体の背面側に配置され、前記操作部材が配置される面の反対側に配置されるカメラ機能において前記外形状態の変形を検出可能に形成される、
請求項1〜3のいずれか一項に記載の入力補助装置。 - 複数の前記操作部材が、前記筐体部の両端部分に配置され、
前記反射部材は、前記カメラ機能により複数の前記操作部材の外形状態の変形を検出可能にして、前記筐体部に複数配置される、
請求項1〜6のいずれか一項に記載の入力補助装置。 - 前記操作部材は、複数部分において外形状態が変形可能に形成され、
前記反射部材は、前記カメラ機能により前記複数部分における外形状態の変形を検出可能に配置される、
請求項1〜7のいずれか一項に記載の入力補助装置。 - 請求項1〜8のいずれか一項に記載の入力補助装置を装着する携帯端末において、
前記反射部材を介して、前記操作部の外形状態の変形を含んだ撮影画像を取得するカメラ部と、
前記カメラ部により取得された撮影画像のうち、前記操作部材の外形状態が変形しうる範囲のみを認識する認識部、
を備える携帯端末。 - 請求項1〜8のいずれか一項に記載の入力補助装置を装着する携帯端末において、
前記反射部材を介して、撮影画像の一部として前記操作部材の外形状態の変形を含んだ撮影画像を取得するカメラ部と、
前記操作部材の外形状態の変形を認識する認識部と、
前記認識部による認識を行う場合には、前記操作部材に対してフォーカスをあわせるようフォーカス機構部を制御するフォーカス制御部と、
を備える携帯端末。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017186374A JP2019061539A (ja) | 2017-09-27 | 2017-09-27 | 入力補助装置および携帯端末 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017186374A JP2019061539A (ja) | 2017-09-27 | 2017-09-27 | 入力補助装置および携帯端末 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019061539A true JP2019061539A (ja) | 2019-04-18 |
Family
ID=66177439
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017186374A Pending JP2019061539A (ja) | 2017-09-27 | 2017-09-27 | 入力補助装置および携帯端末 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2019061539A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021056630A (ja) * | 2019-09-27 | 2021-04-08 | 株式会社Nttドコモ | 操作検出装置 |
-
2017
- 2017-09-27 JP JP2017186374A patent/JP2019061539A/ja active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021056630A (ja) * | 2019-09-27 | 2021-04-08 | 株式会社Nttドコモ | 操作検出装置 |
JP7200076B2 (ja) | 2019-09-27 | 2023-01-06 | 株式会社Nttドコモ | 操作検出装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4991458B2 (ja) | 画像表示装置及びその制御方法 | |
CN109683716B (zh) | 基于眼睛跟踪的可见度提高方法和电子装置 | |
US10649313B2 (en) | Electronic apparatus and method for controlling same | |
RU2630189C1 (ru) | Способ управления функциями кнопок в режиме работы одной рукой, устройство и электронное устройство | |
US20120306740A1 (en) | Information input device using virtual item, control method therefor, and storage medium storing control program therefor | |
JP2007264808A (ja) | 表示入力装置及び撮像装置 | |
JP2013069224A (ja) | 動作認識装置、動作認識方法、操作装置、電子機器、及び、プログラム | |
JP2009140368A (ja) | 入力装置、表示装置、入力方法、表示方法及びプログラム | |
JP6940353B2 (ja) | 電子機器 | |
JP2000298544A (ja) | 入出力装置と入出力方法 | |
JP2016177658A (ja) | 仮想入力装置、入力方法、およびプログラム | |
JP6701033B2 (ja) | 電子機器およびその制御方法 | |
JP7495459B2 (ja) | 頭部装着型ディスプレイ装置、頭部装着型ディスプレイ装置の制御方法 | |
US11886643B2 (en) | Information processing apparatus and information processing method | |
JP2016212805A (ja) | 電子機器およびその制御方法 | |
JP2013171529A (ja) | 操作入力装置、操作判定方法およびプログラム | |
JP2014241099A (ja) | 撮像装置 | |
JP6128919B2 (ja) | 表示制御装置及びその制御方法 | |
JP2019061539A (ja) | 入力補助装置および携帯端末 | |
KR20140097876A (ko) | 영상 촬영 제어 방법 및 장치 | |
JP2012194626A (ja) | 表示装置 | |
JP2007102415A (ja) | 2つの入力モードを有する携帯端末、プログラム及び携帯端末への指令入力方法 | |
JP7327988B2 (ja) | 電子機器及びその制御方法 | |
JP6123562B2 (ja) | 撮像装置 | |
JP6329373B2 (ja) | 電子機器および電子機器を制御するためのプログラム |