JP6443149B2 - 画像処理装置 - Google Patents

画像処理装置 Download PDF

Info

Publication number
JP6443149B2
JP6443149B2 JP2015051945A JP2015051945A JP6443149B2 JP 6443149 B2 JP6443149 B2 JP 6443149B2 JP 2015051945 A JP2015051945 A JP 2015051945A JP 2015051945 A JP2015051945 A JP 2015051945A JP 6443149 B2 JP6443149 B2 JP 6443149B2
Authority
JP
Japan
Prior art keywords
unit
operation panel
image processing
conductive member
voltage signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015051945A
Other languages
English (en)
Other versions
JP2016173616A (ja
Inventor
敏和 東
敏和 東
博之 吉川
博之 吉川
誠 島添
誠 島添
明洋 林
明洋 林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Priority to JP2015051945A priority Critical patent/JP6443149B2/ja
Publication of JP2016173616A publication Critical patent/JP2016173616A/ja
Application granted granted Critical
Publication of JP6443149B2 publication Critical patent/JP6443149B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は画像処理装置に関し、特に、その装置にユーザーのジェスチャーを入力操作として解釈させる技術に関する。
近年、プリンター、コピー機、スキャナー、ファクシミリ機(FAX)等の画像処理装置の開発においては、ユニバーサルデザイン(UD)の観点からの見直しが、主に操作パネル等の入力装置(ユーザーインターフェース:UI)を対象として進められている。画像処理装置はオフィスでの利用に見られるように、複数のユーザーに共用される場合が多い。したがって、その操作性の更なる向上にはUDの理念、すなわち、健常者と障碍者とを問わず、何人にとっても操作しやすいことが重要である。
水平方向に対する傾斜角を可変にした操作パネルは、画像処理装置に採用されたUDの一例である(たとえば特許文献1参照)。操作パネルの表示は一般に、画面に対して垂直な方向(画面の法線方向)からが最も明瞭に見えやすいので、背の高いユーザーはそのパネルを水平に倒せばその表示が見やすい。一方、背の低いユーザーは逆にそのパネルを垂直に立てればよい。このように、操作パネルの傾斜角を可変にしてユーザーに自分の背の高さに応じてそのパネルの傾きを調節させることにより、いずれのユーザーにもその背の高さにかかわらず、そのパネルの表示を見えやすくすることができる。
3次元(3D)ジェスチャーセンサーは、画像処理装置のUIにおけるUDの実現に有利な技術として有望視されているものの1つである(たとえば特許文献2−4、非特許文献1参照)。「3Dジェスチャーセンサー」とは、ユーザーの指、手等の3次元的な動きを検出し、その動きからユーザーの3次元的なジェスチャーを識別する技術、またはその機能を備えた検出器をいう。このセンサーの原理は多様であり、たとえば、ユーザーの指等に装着された加速度センサーを利用してその指等の加速度からその3次元的な軌跡を計算するもの、ユーザーの指等に装着された送信器から放出された電磁波等を検出してその指等の3次元座標を算定するもの、赤外線、レーザー光等を利用してユーザーの指等を撮影し、その画像の解析からその指等の3次元座標を算定するもの、ユーザーの指等に起因する(準静的な)電界の歪みを検出してその指等の3次元座標を算定するもの(以下、「電界型」という。)を含む。フリック、スライド(スワイプ)等のジェスチャーを利用すれば画像処理装置に対する操作が直感的に表現可能であるので、老若男女、国籍、言語、文化等の違いを超えて何人にもその操作がわかりやすい。この意味で3Dジェスチャーセンサーは画像処理装置の操作性を更に向上させると期待されている。
特開平11−119498号公報 特開平07−104922号公報 特表2013−519933号公報 特表2015−500545号公報 特開2002−135369号公報
「マイクロチップ ジェストIC(登録商標)デザインガイド」、マイクロチップ社、2013−2015年("MICROCHIP GestIC(登録商標) Design Guide," Microchip Technology, Inc., 2013-2015)
画像処理装置には、操作性の更なる向上とは別に、製造コストの更なる低減が求められている。これら2つの要求は実質的にはトレードオフの関係にある。実際、操作性の更なる向上には、3Dジェスチャーセンサーのような新規のセンサーの搭載が効果的である。しかし、製造コストの低減にはセンサーの削減が効果的である。
操作性の向上と製造コストの低減とを両立させるための工夫の1つとしては、既存のセンサーに本来の検出対象に加えて、別の対象をも検出させる技術が知られている。たとえば、特許文献5に開示された携帯電話は、タッチパネルに受話部へのユーザーの接触を検出させることにより、通話中であるか否かを判別する。
操作性の向上を目的として3Dジェスチャーセンサーを画像処理装置に搭載するには、このセンサーにユーザーのジェスチャーに加えて、既存のセンサーの検出対象をも検出させる工夫が望ましい。この工夫が実現すれば、その既存のセンサーを削減することによって画像処理装置の製造コストを低減することができるからである。しかし、このような工夫についてはまだ何も知られてはいない。
本発明の目的は上記の課題を解決することであり、特にユーザーの3次元的なジェスチャーと他の検出対象とを共通の構成で検出することにより、操作性の向上と製造コストの低減とを両立させることが可能な画像処理装置を提供することにある。
本発明の1つの観点における画像処理装置は操作パネルを備え、その操作パネルの表面から所定の範囲に広がる空間に電界を発生させて監視対象の空間として設定すると共に、その空間における物体の存在に起因するその電界の歪みを検出する検出部と、検出部の検出した電界の歪みから、監視対象の空間における物体の3次元座標を計測する計測部と、この画像処理装置のうち操作パネルと相対的に変位可能な部位に設けられ、操作パネルとの相対的な位置に応じて電界の歪みを変化させる導電部材と、計測部が計測した3次元座標に基づいて物体が、この画像処理装置に対するユーザーの入力操作に利用される指示体と導電部材とのいずれであるかを判別する判別部と、判別部による判別結果が指示体である場合、計測部が計測した3次元座標の動きをユーザーのジェスチャーとみなして、そのジェスチャーの指標する入力操作を解釈する解釈部と、その判別結果が導電部材である場合、計測部が計測した3次元座標から操作パネルとこの画像処理装置の上記の部位との相対的な位置を推測する推測部と、推測部が推測した位置に基づいてこの画像処理装置の動作状態を判断し、その動作状態に応じた処理を制御する制御部とを備えている。
検出部は、平面形状に配置された送信電極と、送信電極を含む平面から所定の距離を隔てて平行に広がる矩形面の各辺に1つずつ分離して配置された4つの受信電極と、送信電極に送信電圧信号を送出する送信部と、この送信電圧信号に応じて4つの受信電極のそれぞれが受ける受信電圧信号を検出する受信部とを含み、上記の電界の歪みを送信電圧信号に対する受信電圧信号の波形の歪みとして検出してもよい。この場合、送信電圧信号のレベルと比べれば全体の電位が実質的に一様とみなせる程度の電気伝導性を持ち、かつ送信電圧信号のレベルと比べれば実質的に接地電位に等しいとみなせる電位に維持された物体が監視対象の空間に存在するか否かに応じて送信電圧信号に対する受信電圧信号のレベルの落差に現れる変化を検出部は検出し、導電部材は実質的に接地電位に等しい電位に維持され、計測部はそのレベルの落差に現れる変化から物体の3次元座標を計測してもよい。
判別部は、計測部の計測した3次元座標が検出部から閾値以下の距離に位置する場合には、その3次元座標に位置する物体が指示体であると判別し、その3次元座標が検出部から閾値を超えた距離に位置する場合には、その3次元座標に位置する物体が導電部材であると判別してもよい。
判別部は、計測部の計測した3次元座標が検出部から閾値以下の距離に位置する場合には、その3次元座標に位置する物体が指示体であると判別し、その3次元座標が検出部から閾値を超えた距離に位置する場合には更にその3次元座標の時間的変化を観察し、その時間的変化の幅が所定値以下であればその3次元座標に位置する物体が導電部材であると判別してもよい。
操作パネルは水平面に対する表面の傾きが可変であり、操作パネルの表面が水平面から傾斜する際にその表面に対する軌跡が監視対象の空間を通過するように、導電部材が配置されていてもよい。この場合、操作パネルは、操作画面を表示するための表示部を含み、推測部は、計測部が計測した3次元座標から操作パネルの傾きを推測し、制御部は、その傾きに応じて表示部に表示の属性を変更させてもよい。また、解釈部は、ユーザーのジェスチャーが対象とする操作画面上の座標を操作パネルの傾きに基づいて推定してもよい。
この画像処理装置は、原稿台に載せられたシートから画像を読み取るスキャナーと、原稿台を覆い隠すようにスキャナーに開閉可能に取り付けられた上蓋とを更に備えていてもよい。この場合、操作パネルは原稿台の縁に設置され、導電部材は、上蓋の開閉に伴って操作パネルの表面に対して描く軌跡が監視対象の空間を通過するように配置され、制御部は、推測部が推測した上蓋の位置に基づいて画像処理装置の動作状態を判断してもよい。
この画像処理装置は、トナーまたはインクでシートに画像を形成する画像形成部と、この画像処理装置の前面のうち、操作パネルの下方に位置する部位に開閉可能に取り付けられ、画像形成部に対するトナーもしくはインクの補充、またはシートの出し入れを可能にする前扉とを更に備えていてもよい。この場合、導電部材は、前扉の開閉に伴って操作パネルの表面に対して描く軌跡が監視対象の空間を通過するように配置され、制御部は、推測部が推測した前扉の位置に基づいて画像処理装置の動作状態を判断してもよい。
本発明による上記の画像処理装置ではまず、検出部が監視対象の空間における物体の存在に起因する電界の歪みを検出する。次に、判別部がこの電界の歪みからその物体の3次元座標を計測し、この3次元座標に基づいてその物体が指示体と導電部材とのいずれであるかを判別する。判別結果が指示体である場合には解釈部がこの指示体の動きからユーザーのジェスチャーによる入力操作を解釈し、導電部材である場合には推測部が操作パネルと導電部材の設けられた部位との相対的な位置を推測する。こうして、この画像処理装置はユーザーの3次元的なジェスチャーと所定の部位の3次元的な変位とを共通の構成で検出する。これにより、この画像処理装置は操作性の向上と製造コストの低減とを両立させることができる。
(a)は、本発明の実施形態による画像処理装置の外観を示す斜視図であり、(b)は、この画像処理装置に実装された操作パネルの側面図である。 (a)、(b)はそれぞれ、図1の示す操作パネルの傾斜角と背の高いユーザー、背の低いユーザーとの関係を示す模式図である。 図1の示す画像処理装置の電子制御系統の構成を示すブロック図である。 図1の示す操作パネルの電子制御系統を示すブロック図である。 (a)は、図4の示す電界型3Dジェスチャーセンサーの電極群の平面図であり、(b)は、(a)の示す直線b−bに沿った断面の拡大図であり、(c)は、(a)の示す送信電極4T、第4受信電極4E、送信部、および受信部の等価回路図である。 (a)−(c)はそれぞれ、図5の示す送信電極4Tに対し、接地電位を基準として正である電圧が印加された際に送信電極4Tと基板4Gとの間に生じる電界を、タッチパネルの近傍に接地導体が存在しない場合、ユーザーの手が存在する場合、接地された導体が存在する場合に示す側面図である。(d)は、接地導体の有無に応じた受信電圧信号の波形の歪みの差を受信電極ごとに示すグラフである。 (a)は、図4の示す電界型3Dジェスチャーセンサーで検出可能な接地導体の3次元座標の範囲を示す側面図である。(b)は、この3Dジェスチャーセンサーによる検出で識別可能な接地導体の3次元座標の仮想的な範囲を示す側面図である。(c)は、(a)の示す表側空間URGの2点に位置する2つの異なる接地導体D1、D2を示す側面図であり、(d)は、この表側空間URGの別の1点に位置する1つの接地導体D3を示す側面図である。 (a)は、図7の(a)の示す範囲内に設定された監視対象の空間を示す模式図である。(b)は、この監視対象の空間と図7の(b)の示す仮想的な範囲との関係を示す模式図である。(c)は、操作パネルの揺動によってタッチパネルの表面が水平面に対して傾斜したときにおける監視対象の空間を示す模式図である。(d)は、(c)の示す監視対象の空間と図7の(b)の示す仮想的な範囲との対応関係を示す模式図である。 (a)、(b)はそれぞれ、受信電圧信号RVSの波形の歪みから計測された3次元座標のZ軸成分の時間的変化の一例を示すグラフである。 判別方法(A)による処理のフローチャートである。 判別方法(B)による処理のフローチャートである。 (a)は、図4の示すLCDの表示の属性、3Dジェスチャーセンサーによる検出の特性、および操作パネルの傾斜角θの間の対応表である。(b)、(c)はそれぞれ、操作パネルの傾斜角が第1区間(θ<θB)、第2区間(θ≧θB)に属すると推測されたときにその画面に表示される文字を示す模式図である。 (a)、(b)、(c)はそれぞれ、図1の示す操作パネルの傾斜角が、第1区間(θ≦θ1)、第2区間(θ1<θ<θ2)、第3区間(θ2≦θ)に属するときにその画面に向けられるユーザーの視線を示す模式図である。(d)は、この傾斜角に応じた対象座標の補正値を示す表である。 (a)は、図1の示すスキャナーの原稿台の上蓋と図4の示す電界型3Dジェスチャーセンサーによる監視対象の空間との位置関係を示す模式図である。(b)は、(a)の示す監視対象の空間とこの3Dジェスチャーセンサーによる検出で識別可能な接地導体の3次元座標の仮想的な範囲との間の対応関係を示す模式図である。(c)は、(a)の示す上蓋が開いたときにおける監視対象の空間を示す模式図である。(d)は、(c)の示す監視対象の空間と3Dジェスチャーセンサーによる検出で識別可能な接地導体の3次元座標の仮想的な範囲との対応関係を示す模式図である。 (a)は、図1の示す画像処理装置の前扉と図4の示す電界型3Dジェスチャーセンサーによる監視対象の空間との位置関係を示す模式図である。(b)は、(a)の示す監視対象の空間と3Dジェスチャーセンサーによる検出で識別可能な接地導体の3次元座標の仮想的な範囲との間の対応関係を示す模式図である。(c)は、(a)の示す前扉が開いたときにおける監視対象の空間を示す模式図である。(d)は、(c)の示す監視対象の空間と3Dジェスチャーセンサーによる検出で識別可能な接地導体の3次元座標の仮想的な範囲との対応関係を示す模式図である。 (a)、(b)はそれぞれ、図1の示す操作パネルの傾斜角が0°、正の値であり、かつ第1領域の定点にユーザーの手が位置する場合に判別部の計測する3次元座標を示す模式図である。(c)は、判別部が計測する3次元座標、操作パネルの傾斜角、およびジェスチャー座標の対応表である。
以下、本発明の実施形態について、図面を参照しながら説明する。
[画像処理装置の外観]
図1の(a)は、本発明の実施形態による画像処理装置の外観を示す斜視図である。この画像処理装置100は胴内排紙型の複合機(multi-function peripheral:MFP)であり、スキャナー、カラーコピー機、およびカラーレーザープリンターの機能を併せ持つ。図1の(a)を参照するに、このMFP100の筐体の上面には自動原稿送り装置(auto document feeder:ADF)110が開閉可能に装着されている。ADF110の直下に位置する筐体の上部にはスキャナー120が内蔵され、下部にはプリンター130が内蔵され、更にその底部には複数段の給紙カセット140が引き出し可能に取り付けられている。スキャナー120とプリンター130との間には隙間GAPが開けられ、その中に排紙トレイ150が配置されている。この隙間GAPの奥には排紙口131が設置され、そこから排紙トレイ150へシートが排紙される。隙間GAPの横に位置する筐体の前面部分には操作パネル160が取り付けられている。操作パネル160の前面にはタッチパネル161が埋め込まれ、その周囲に各種の機械的な押しボタン162が配置されている。このタッチパネル161には、タッチパッドと薄膜ディスプレイとに加え、電界型3Dジェスチャーセンサーの電極が積層されている。
[水平面に対する傾きが可変な操作パネル]
図1の(b)は、この操作パネル160の側面図である。図1の(b)を参照するに、この操作パネル160は水平面に対する傾きが可変である。具体的には、操作パネル160の背面163は、MFP100の筐体101から前方に突出したヒンジ部102に揺動可能に接続されている。この背面163はレバー164を含む。ユーザーにこのレバー164を引かせることにより操作パネル160は、ヒンジ部102を水平方向(図1の(b)では紙面の法線方向)に貫く仮想的な軸のまわりに上下方向(図1の(b)では紙面の縦方向)に揺動する。この揺動に伴い、操作パネル160の前面に埋め込まれたタッチパネル161は、その画面がほぼ水平な姿勢(図1の(b)は実線で示す。)から、その画面が水平面に対して角度θだけ傾斜した姿勢(図1の(b)は一点鎖線で示す。)へ変化する。この角度、すなわち傾斜角θはたとえば約0°から約90°までの範囲で調節可能である。
図2は、操作パネル160の傾斜角θとユーザーの背の高さとの関係を示す模式図である。図2の(a)を参照するに、背の高いユーザーは一般に、操作パネル160の傾斜角θを0°付近に調節してタッチパネル161の画面を水平近くに寝かせる。一方、背の低いユーザーは一般に、この傾斜角θを90°付近に調節してタッチパネル161の画面を垂直近くまで立てる。
これらの理由は主に、画面表示の見えやすいタッチパネル161の傾きがユーザーの背の高さに関係することにある。実際、タッチパネル161の含む薄膜ディスプレイ、たとえば液晶ディスプレイ(LCD)では一般に、そのコントラストが視野角の中心付近で最も高いので、それらは画面の法線方向からが最も明瞭に見えやすい。図2の(a)が示すように、成人等、比較的背の高いユーザーはその目の位置も高いので、操作パネル160の傾斜角θを0°付近に調節すれば視線を画面の法線方向に合わせやすい。一方、図2の(b)が示すように、車椅子の利用者、高齢者、子供等、比較的背の低いユーザーはその逆であり、傾斜角θを90°付近に調節すれば視線を画面の法線方向に合わせやすい。
このように、操作パネル160はその傾斜角が可変であるので、いずれのユーザーにとっても、その背の高さにかかわらず、画面表示を見えやすくすることができる。
[画像処理装置の電子制御系統]
図3は、MFP100の電子制御系統の構成を示すブロック図である。図3を参照するにこの系統では、画像形成部10、操作部20、画像入力部26、および主制御部30がバス40を通して互いに通信可能に接続されている。
−画像形成部−
画像形成部10は画像データに基づいてシートに画像を形成する要素であり、給送部11、作像部12、定着部13、および排紙部14を含む。給送部11は搬送ローラー群を利用して給紙カセット140からシートを1枚ずつ作像部12へ給送する。作像部12は給送部11から送られたシートの上にトナー像を形成する。定着部13は作像部12から送り出されたシートの上にトナー像を熱定着させる。排紙部14はトナー像が定着したシートを排紙トレイ150へ排紙する。
−操作部−
操作部20はMFP100に実装された入力装置(UI)であり、ユーザーのジェスチャー等からユーザーの操作を解釈して主制御部30に通知する。操作部20は、操作パネル160を含む。操作パネル160は、検出部21、計測部22、判別部23、制御部24、および表示部25を含む。
検出部21はタッチパッドを利用して、ユーザーの指、またはスタイラス等、ユーザーがMFP100に対する入力操作に利用する物体(以下、「指示体」という。)によるタッチパッドへの接触を検出する。検出部21はまた電界型3Dジェスチャーセンサーの電極群を利用して操作パネル160の周囲の空間に電界を発生させ、この空間における物体の存在に起因する電界の歪みを検出する。この物体にはたとえば、ユーザーの手、その手に握られた金属製のスタイラス等、ユーザーの身体を通して実質的に接地された導電性の指示体が含まれる。計測部22は検出部21の検出した電界の歪みから物体の3次元座標を計測する。判別部23はこの3次元座標に基づいてその物体の運動がユーザーのジェスチャーと操作パネル160の揺動とのいずれに対応するかを判別する。制御部24は検出部21の検出結果と判別部23の判別結果とに基づいて、タッチパッドもしくは押しボタンを利用したユーザーの入力操作またはユーザーの3次元的なジェスチャーの指標する入力操作を解釈し、それらの入力操作に関する情報(以下、「操作情報」という。)を主制御部30へ伝える。表示部25は主制御部30からの指示に応じて、操作画面、各種情報の入力画面等のグラフィックユーザーインターフェース(GUI)画面をタッチパネル161に表示する。
−画像入力部−
画像入力部26はスキャナー120に加え、メモリーインタフェース(I/F)27とネットワーク(LAN)I/F28とを含む。スキャナー120は光学機器を利用して、ADF110が取り込んだ原稿、またはその下の原稿台に置かれた原稿に光を照射し、その反射光の強度分布から、文字、図柄、または写真を読み取って画像データに変換する。メモリーI/F27は、USBポート、メモリーカードスロット等の映像入力端子を通して、USBメモリー、ハードディスクドライブ(HDD)等の外付けの記憶装置から印刷対象の画像データを読み込み、またはそれらの記憶装置へスキャナー120で取り込んだ画像データを書き出す。LANI/F28は外部のLANに有線または無線で接続され、そのLAN上の電子機器から印刷対象の画像データを取得し、またはその電子機器へスキャナー120で取り込んだ画像データを送出する。
−主制御部−
主制御部30は、MFP100の内部に設置された1枚の印刷回路基板に実装された電子回路である。図3を参照するに主制御部30は、CPU31、RAM32、およびROM33を含む。CPU31は各種ファームウェアを実行することにより、他の要素10、20に対する制御主体としての多様な機能を実現する。たとえば、CPU31は操作部20に操作画面等のGUI画面を表示させてユーザーの入力操作を受け付けさせる。この入力操作に応じてCPU31は、稼動モード、待機モード、スリープモード等、MFP100の動作モードを決定し、その動作モードに応じた処理を各要素10、20に指示する。RAM32は、CPU31がファームウェアを実行する際の作業領域をCPU31に提供すると共に、操作部20が受け付けた印刷対象の画像データを保存する。ROM33は書き込み不可の半導体メモリー装置と、EEPROM等の書き換え可能な半導体メモリー装置またはHDDとを含む。前者はファームウェアを格納し、後者はCPU31に環境変数等の保存領域を提供する。
[操作パネルの構造]
図4は、操作パネル160の電子制御系統を示すブロック図である。図4を参照するに検出部21は、タッチパネル161、タイミング生成部411、送信部412、および受信部413を含む。タッチパネル161は、タッチパッド4P、LCD4D、および電極群4T、4N、4S、4E、4Wを含む。これらは印刷回路基板(PCB)4Gに積層されている。タイミング生成部411、送信部412、および受信部413は、操作パネル160に内蔵の印刷回路基板に実装された電子回路である。この基板には更に、AD変換部42、計測部22、判別部23、制御部24、および通信部44が実装されている。特に、計測部22、判別部23、および制御部24はそれぞれ、信号処理回路の含む1つのモジュールとして構成されている。制御部24は更にサブモジュールとして、タッチ監視部431、表示制御部432、ボタン監視部433、ジェスチャー解釈部434、および傾斜角推測部435を含む。
タッチパッド4Pとタッチ監視部431とは、たとえば抵抗膜方式のタッチセンサーを構成する。タッチパッド4Pは、上下2枚の基板がスペーサーを間に挟んで貼り合わされた構造を含み、各基板には細い帯状の透明電極が複数本、平行に並んでいる。これらの透明電極の長手方向は上下の基板で互いに直交するので、これらの交差部分はタッチパッド4Pの全体にマトリックス状に分布する。指示体がタッチパッド4Pに接触すると、その接触部分では上側の基板が凹んで上下の透明電極の交差部分が短絡する。タッチ監視部431は、上下の透明電極のいずれの対が短絡するかを監視することにより、いずれの交差部分に指示体が接触したかを検出する。タッチ監視部431は更に、検出した交差部分の時間的変位から、タップ、フリック等の2次元的ジェスチャーの種類を識別すると共に、その交差部分の位置とタッチパネル161の画面表示とを照合し、仮想ボタン、メニューの項目等、そのジェスチャーの指標する入力操作の対象を解釈する。こうしてタッチ監視部431は操作情報を生成して主制御部30へ通知する。
LCD4Dと表示制御部432とは図3の示す表示部25を構成する。表示制御部432は主制御部30からの指示に従い、操作画面等のGUI画面を表す画像データを生成してLCD4Dへ送出する。LCD4Dはこの画像データに基づいて各画素の輝度を調節する。これにより、タッチパネル161の画面にはGUI画面が表示される。
ボタン監視部433は、図1の示す操作パネル160上の各種の押しボタン162が押下されたか否かを監視する。いずれかの押しボタン162が押下されたとき、ボタン監視部433はそのボタンを識別し、印刷の開始、停止等、そのボタンに対応付けられた処理を解釈し、それに関する操作情報を生成して主制御部30へ通知する。
タッチパネル161の含む電極群4T、4N、…、4W、タイミング生成部411、送信部412、受信部413、AD変換部42、計測部22、判別部23、ジェスチャー解釈部434、および傾斜角推測部435は電界型3Dジェスチャーセンサー410を構成する。具体的には、電極群4T、…、4W、タイミング生成部411、送信部412、および受信部413はタッチパネル161の周囲の空間に準静的な電界を発生させ、ユーザーの手等の物体の存在に起因するその電界の歪みを検出する。この歪みをAD変換部42はデジタル値で評価する。計測部22はこのデジタル値からその物体の3次元座標を計測する。判別部23はこの3次元座標に基づいてその出力先にジェスチャー解釈部434と傾斜角推測部435とのいずれかを選択する。ジェスチャー解釈部434は、判別部23から受信した3次元座標の時間的変化に基づいて、タップ、フリック、スライド、ローテーション等の3次元的ジェスチャーの種類を識別する。ジェスチャー解釈部434はまた操作パネル160の傾斜角に基づいてその3次元座標とタッチパネル161の画面表示とを照合し、仮想ボタン、メニューの項目等、ユーザーのジェスチャーが対象とするGUI部品を推定する。ジェスチャー解釈部434は更に、識別したジェスチャーの種類と推定したGUI部品とに基づいて、ユーザーのジェスチャーが指標する入力操作を解釈して操作情報を生成し、主制御部30へ通知する。傾斜角推測部435は、判別部23から受信した3次元座標に基づいて操作パネル160の傾斜角θを推測する。
通信部44は制御部24を図3の示すバス40へ通信可能に接続し、主制御部30からバス40を通して指示、画像データ等を受け取って制御部24へ渡すと共に、制御部24の生成した操作情報等をバス40に主制御部30へ伝達させる。
[電界型3Dジェスチャーセンサーの構造と原理]
図5の(a)は電界型3Dジェスチャーセンサー410の電極群4T、4N、4S、4E、4Wの平面図であり、(b)は、(a)の示す直線b−bに沿った断面の一部の拡大図である。図5の(a)、(b)を参照するに、PCB4Gは矩形状であり、その表面に第1絶縁層51、送信電極4T、第2絶縁層52、および4つの受信電極4N、4S、4E、4Wが下から順に積層されている。第1絶縁層51、送信電極4T、および第2絶縁層52はPCB4Gの表面に同じ平面形状で広がっている。第1絶縁層51はPCB4Gから送信電極4Tを電気的に分離し、第2絶縁層52は送信電極4Tから受信電極4N、…、4Wを電気的に分離している。受信電極4N、…、4Wは、第2絶縁層52の表面上に広がる仮想的な矩形領域の各辺に1つずつ分離して配置されている。いずれの受信電極4N、…も細い帯状であり、その矩形領域の辺に沿って伸びている。
以下、説明の便宜上、図1の(b)の示す操作パネル160の傾斜角θが0°のとき、すなわちタッチパネル161の表面が実質的に水平であるとき、MFP100の筐体101に最も近い受信電極4Nを「第1受信電極」と呼び、最も遠い受信電極4Sを「第2受信電極」と呼ぶ。更に、MFP100の前方からタッチパネル161を見たときに左側に位置する受信電極4Wを「第3受信電極」と呼び、右側に位置する受信電極4Eを「第4受信電極」と呼ぶ。さらに、タッチパネル161の表面に固定されたXYZ直交座標系を次のように想定する。第1受信電極4Nと第2受信電極4Sとの長手方向をX軸とし、第3受信電極4Wと第4受信電極4Eとの長手方向をY軸とし、タッチパネル161の表面の法線方向をZ軸とする。
図5の(c)は、送信電極4T、第4受信電極4E、送信部412、および受信部413の等価回路図である。他の受信電極4N、4S、4Wも同様な等価回路に含まれる。図5の(c)を参照するに、PCB4GはMFP100のシャーシ等、接地された導電性の部材(以下、「接地部材」という。)に接続され、送信電極4Tは送信部412に接続され、第4受信電極4Eは受信部413に接続されている。送信部412は送信電極4Tに送信電圧信号TVSを送出する。送信電圧信号TVSはたとえば矩形パルス波である。受信部413は、送信電圧信号TVSに応じて第4受信電極4Eが受ける受信電圧信号RVSを検出する。送信部412による送信電圧信号TVSの送出と、受信部413による受信電圧信号RVSの検出とは、図4の示すタイミング生成部411が生成するクロック信号によって同期する。
受信電圧信号RVSの波形は一般に送信電圧信号TVSの波形に対して歪む。たとえば送信電圧信号TVSが矩形パルスである場合、受信電圧信号RVSのパルスの立ち上がりと立ち下がりとがいずれも鈍る。このような波形の歪みは主に送信電極4Tと基板4G(または接地電位)との間の静電容量CTG、第4受信電極4Eと送信電極4Tとの間の静電容量CET、および第4受信電極4Eと基板4G(または接地電位)との間の静電容量CEGとに起因する。
第4受信電極4Eにある種の物体が接近した場合、第4受信電極4Eと接地電位との間に新たな静電容量CHが加わる。この物体は、ユーザーの手、接地された金属部材等、送信電圧信号TVSのレベルと比べれば全体の電位が実質的に一様とみなせる程度の電気伝導性を持ち、かつ送信電圧信号TVSのレベルと比べれば実質的に接地電位に等しいとみなせる電位に維持された物体(以下、「接地導体」と総称する。)である。この接地導体の存在に起因する静電容量CHはこの接地導体と第4受信電極4Eとの相対的な位置に応じて変化するので、受信電圧信号RVSの波形の歪みもこの位置に応じて変化する。特に第4受信電極4Eに接地導体が近いほど、送信電圧信号TVSに対する受信電圧信号RVSのレベルの落差が大きい。
図6の(a)−(c)は、接地電位を基準として正値である電圧が送信電極4Tに対して印加された際に送信電極4Tと基板4G(または接地電位)との間に生じる電界EFLを示す側面図である。図6の(a)はタッチパネル161の近傍に接地導体が存在しない場合を示し、(b)、(c)はそれぞれ、タッチパネル161の近傍にユーザーの手等の指示体HND、他の接地導体MTLが存在する場合を示す。
図6の(a)を参照するに、タッチパネル161の周囲の空間に生じる電界EFLはタッチパネル161の表面に対して対称的である。ここで、送信電圧信号TVSの周波数をたとえば数十kHz−百数十kHz程度に設定した場合、その波長は数km程度に達し、電極群4T、4E、…のサイズ、すなわちタッチパネル161のサイズよりも十分に大きい。したがって、送信電極4Tに対する送信電圧信号TVSの印加に伴ってタッチパネル161の周囲の空間に生じる電界は準静的であり、図6の(a)の示す電界EFLと同等であるとみなしてよい。
図6の(b)、(c)では図6の(a)とは異なり、指示体HND、接地導体MTL等の周囲で電界EFLが歪む。特に、指示体HNDと導体MTLとはいずれも実質的に接地電位にあるので、電界EFLに伴う電気力線は接地導体HND、MTLに引き込まれ、それらを通して接地電極へ逃げる。その結果、接地導体HND、MTLに接近するほど電界EFLの歪みは増大する。接地導体HND、MTLのサイズが基板4Gのサイズよりも十分に小さければ、この接地導体HND、MTLに起因する電界EFLの歪みは基板4Gのサイズに対して局所的に留まる。したがって、4つの受信電極4N、4S、4E、4Wの間には接地導体HND、MTLからの距離の違いに応じて、図6の(a)の場合との電位差に違いが生じる。図6の(b)、(c)では第3受信電極4Wが第4受信電極4Eよりも接地導体HND、MTLに近いので、図6の(a)の場合との電位差は第3受信電極4Wが第4受信電極4Eよりも大きい。
この電位差、すなわち接地導体の有無に応じた電位差が受信電極4N、…、4Wごとに異なることは、図5の(c)の示す等価回路では各受信電極と接地電位との間の静電容量CHの違いとして現れる。その結果、この静電容量CHの有無、すなわち接地導体の有無に応じた受信電圧信号RVSの波形の歪みの差は受信電極4N、…、4Wごとに異なる。特に、接地導体に近い受信電極ほどその歪みの差が大きい。
図6の(d)は、接地導体の有無に応じた受信電圧信号RVSの波形の歪みの差を受信電極4N、…ごとに示すグラフである。このグラフの縦軸は、その歪みの差として、たとえば送信電圧信号TVSに対する受信電圧信号RVSのレベルの落差の変化量を相対値で表し、横軸は第3受信電極4Wからの接地導体の代表点、たとえば重心の水平距離Xを表す。このグラフでは更に、この接地導体の重心がタッチパネル161の表面から一定の距離を保ったまま第3受信電極4Wの真上から第4受信電極4Eの真上まで、第1受信電極4Nと第2受信電極4Sとに対して平行に移動する場合が想定されている。
図6の(d)を参照するに、この接地導体の重心が第3受信電極4Wの真上、すなわち水平距離X=0に位置するとき、この重心には第3受信電極4Wが最も近くに位置し、第4受信電極4Eが最も遠くに位置する。したがって、受信電圧信号RVSのレベルの落差の変化量は第3受信電極4Wで最も大きく、第4受信電極4Eで最も小さい。この接地導体の重心はまた第2受信電極4Sよりも第1受信電極4Nに近いので、受信電圧信号RVSのレベルの落差の変化量は第2受信電極4Sよりも第1受信電極4Nで大きい。
この接地導体の重心は、第3受信電極4Wからの水平距離Xが増大するにつれて、第3受信電極4Wからは離れる一方、第4受信電極4Eには接近する。これに応じて受信電圧信号RVSのレベルの落差の変化量は第3受信電極4Wでは減少する一方、第4受信電極4Eでは増大する。第1受信電極4Nと第2受信電極4Sとに対してはこの接地導体の重心は同じ距離を保つので、受信電圧信号RVSのレベルの落差の変化量は常に第2受信電極4Sよりも第1受信電極4Nで大きい。また、この接地導体の重心が第3受信電極4Wと第4受信電極4Eとの中間点(水平距離X=WDT/2)に近いほど、第1受信電極4Nと第2受信電極4Sとを貫く多数の電気力線がこの接地導体に引き込まれるので、いずれの電極4N、4Sにおいても受信電圧信号RVSのレベルの落差の変化量が増大する。図5の(a)の示すとおり、電極群4T、4N、…、4Wの配置は、基板4GをY軸方向に貫く中心軸に対して対称的であるので、図6の(d)のグラフも中間点X=WDT/2に対して対称的である。
図6の(d)が示すとおり、受信電極4N、…、4Wの間では接地導体の重心との距離に応じて受信電圧信号RVSのレベルの落差の変化量が異なる。したがって、予め実験またはシミュレーション等により、4つの受信電極4N、…の間でのその変化量の組み合わせごとに接地導体の重心の3次元座標を対応付けておき、この対応関係を示すテーブルまたは関数を判別部23に組み込んでおく。このテーブルまたは関数を利用して判別部23は、各受信電極4N、…から検出されたその変化量の組み合わせから接地導体の重心の対応する3次元座標を特定する。
[電界型3Dジェスチャーセンサーによる検出の限界]
図7の(a)は、電界型3Dジェスチャーセンサー410で検出可能な接地導体の3次元座標の範囲を示す側面図である。図7の(a)を参照するに、この範囲は、タッチパネル161の画面に面した空間URG(以下、「表側空間」と呼ぶ。)だけでなく、タッチパネル161を隔ててその反対側に広がる空間LRG(以下、「裏側空間」と呼ぶ。)にも及ぶ。これは、図6の(a)が示すとおり、送信電極4Tの生成する電界EFLが表側空間URGだけでなく裏側空間LRGにも広がることによる。
ただし、表側空間URGと裏側空間LRGとのいずれに接地導体が位置するかまでは3Dジェスチャーセンサー410では判別できない。さらに、複数の接地導体を同時に識別することも簡単ではない。これらは以下の理由による。
図7の(b)は、3Dジェスチャーセンサー410による検出で識別可能な接地導体の3次元座標の仮想的な範囲を示す側面図である。図7の(b)を参照するに、この仮想的な範囲のいずれの1点にも、図7の(a)の示す表側空間URGの1点(X0、Y0、Z0)と、タッチパネル161の表面に対する裏側空間LRGの対称点(X0、Y0、−Z0)との2点が対応する。これは、これらの2点が識別不能であることを意味する。
実際、図6の(a)が示すとおり、送信電極4Tの生成する電界EFLの分布は、接地導体の侵入がない限り、タッチパネル161の表面に対して対称的である。この場合、接地導体が表側空間URGの1点(X0、Y0、Z0)に位置するときと、その対称点(X0、Y0、−Z0)に位置するときとでは、電界EFLの歪みに伴う受信電圧信号RVSの波形の歪みにいずれの受信電極4N、…においても違いが生じない。したがって、受信電圧信号RVSの波形の歪みからだけではこれらの2点を区別することはできない。
図7の(c)は、(a)の示す表側空間URGの2点(X1、Y1、Z1)、(X2、Y2、Z2)に位置する2つの異なる接地導体D1、D2を示す側面図であり、(d)は、その表側空間URGの別の1点(X3、Y3、Z3)に位置する1つの接地導体D3を示す側面図である。図7の(c)を参照するに、2つの接地導体D1、D2の各近傍で送信電極4Tの生成する電界EFLは歪む。しかし、この場合に各受信電極4N、…で検出される受信電圧信号RVSでは、各接地導体D1、D2の近傍での電界EFLの歪みに伴う波形の歪みが合成されている。この合成された歪みが、図7の(d)の示す接地導体D3の近傍での電界EFLの歪みに伴う受信電圧信号RVSの波形の歪みと区別できない場合が生じ得る。この場合、受信電圧信号RVSの波形の歪みからだけでは、2点(X1、Y1、Z1)、(X2、Y2、Z2)に異なる接地導体D1、D2が位置するのか、それとも別の1点(X3、Y3、Z3)に1つの接地導体D3が位置するのかを区別することはできない。
電界型3Dジェスチャーセンサー410による検出にはこれらの限界がある。したがって、このセンサーを利用するには、これらの限界を回避する工夫が必要である。
[判別部によるユーザーのジェスチャーと操作パネルの揺動との判別]
図8の(a)は、電界型3Dジェスチャーセンサー410で検出可能な接地導体の3次元座標の範囲内に設定された監視対象の空間を示す模式図である。図8の(a)を参照するに、この監視対象の空間は、第1領域RGA、第2領域RGB、および第3領域RGCから構成される。第1領域RGAは、図7の(a)の示す表側空間URGのうち仮想的平面BNA(Z=ZB)よりもタッチパネル161の表面(Z=0)に近い領域であり、第3領域RGCはその平面BNAよりもタッチパネル161の表面から遠い領域である。第2領域RGBは、裏側空間LRGのうち仮想的平面BNB(Z=−ZB)よりもタッチパネル161の表面から遠い領域である。これら2つの仮想的平面BNA、BNBはタッチパネル161の表面(Z=0)に対して互いに対称である。
図8の(a)を更に参照するに、MFP100の筐体101には導電部材801が装着されている。筐体101が絶縁性の樹脂から成るのに対し、導電部材801は導電性の素材から成り、たとえば矩形状の金属板である。この導電部材801は更にMFP100のシャーシ等の接地部材によって接地電位に保たれている。操作パネル160の傾斜角θが0°であるとき、導電部材801は第2領域RGBの中に位置する。
図8の(b)は、3Dジェスチャーセンサー410による検出で識別可能な接地導体の3次元座標の仮想的な範囲を示す模式図である。図8の(b)を参照するに、図7の(b)と同様に、この仮想的な範囲のいずれの1点にも表側空間URGの1点(X0、Y0、Z0)と裏側空間LRGの対称点(X0、Y0、−Z0)との2点が対応する。したがって、この仮想的な範囲のうち仮想的平面BND(Z=ZB。以下、「境界面」という。)よりもタッチパネル161の表面(Z=0)に近い領域(Z<ZB)の各点には、図8の(a)の示す監視対象の空間のうち第1領域RGAの1点のみが対応する。一方、この仮想的な範囲のうち境界面BNDよりもタッチパネル161の表面から遠い領域(Z>ZB)の各点には、図8の(a)の示す監視対象の空間のうち第3領域RGCの1点と第2領域RGBのその対称点との2点が対応する。
この対応関係を利用して判別部23は、検出部21の検出した電界EFLの歪みが指示体HNDと導電部材801とのいずれに起因するかを判別する。具体的には、まず検出部21が受信電極4N、…で検出した受信電圧信号RVSの波形の歪みから、計測部22が接地導体の重心の3次元座標を計測する。この3次元座標が境界面BNDに位置し、またはそれよりもタッチパネル161の表面に近ければ、判別部23はこの3次元座標に位置する接地導体を、第1領域RGAに位置する指示体HNDと判別する。
ここで、図8の(a)、(b)が示すとおり、第2領域RGBの中には導電部材801がすでに存在する。しかし、第2領域RGBは第1領域RGAよりも受信電極4N、…から遠い。したがって、第2領域RGBに位置する導電部材801に起因する電界EFLの歪みは第1領域RGAに位置する指示体HNDに起因するものに比べ、受信電圧信号RVSの波形の歪みへの寄与が無視できるほど小さい。すなわち計測部22の計測した3次元座標が境界面BNDに位置し、またはそれよりもタッチパネル161の表面に近ければ、その座標は許容誤差の範囲内で指示体HNDの実際の位置を示すとみなしてよい。
計測部22の計測した3次元座標が境界面BNDよりもタッチパネル161の表面から遠ければ、判別部23は(A)この3次元座標に位置する接地導体を第2領域RGBに位置する導電部材801と判別し、または(B)更にこの3次元座標の時間的変化を観察し、その時間的変化の幅に基づいてこの3次元座標に位置する接地導体を、第2領域RGBに位置する導電部材801と第3領域RGCに位置する指示体とのいずれかに判別する。これらの判別方法(A)、(B)の詳細については後述する。
図8の(c)は、操作パネル160の揺動によってタッチパネル161の表面が水平面に対して傾斜したときにおける監視対象の空間RGA、RGB、RGCを示す模式図である。図8の(c)を参照するに、操作パネル160の傾斜角θが0°から増加するにつれて、その背面が導電部材801に向かって接近する。これにより、第2領域RGBが導電部材801に対して移動する。
図8の(d)は、(c)の示す監視対象の空間と3Dジェスチャーセンサー410による検出で識別可能な接地導体の3次元座標の仮想的な範囲との対応関係を示す模式図である。図8の(d)を参照するに、この仮想的な範囲では導電部材801は操作パネル160の傾斜角θの変化に伴い、境界面BND(Z=ZB)よりもタッチパネル161の表面(Z=0)から遠い領域の中で一定の軌跡TRCを描く。監視対象の空間に指示体HNDが存在していなければこの軌跡TRCの上に、計測部22の計測する3次元座標は位置する。さらに、この軌跡TRC上の各点は操作パネル160の傾斜角θの異なる値に対応するので、この対応関係を利用すれば、計測部22の計測した3次元座標から操作パネル160の傾斜角θを推定することができる。
−判別方法(A)−
受信電圧信号RVSの波形の歪みから計測された3次元座標が境界面BNDよりもタッチパネル161の表面から遠い場合、この3次元座標に位置する接地導体は第2領域RGBに位置する導電部材801と判別される。
図9の(a)は、受信電圧信号RVSの波形の歪みから計測された3次元座標のZ軸成分の時間的変化の一例を示すグラフである。このグラフの縦軸はそのZ軸成分すなわちタッチパネル161の表面からの距離を表し、横軸は時間を表す。図9の(a)を参照するに、第1時刻t0から第2時刻t1までの期間ではZ軸成分は境界面のZ座標“ZB”よりも小さい。したがって、この期間t0−t1に計測された3次元座標に位置する接地導体を判別部23は、第1領域RGAに位置する指示体HNDと判別する。第2時刻t1ではZ軸成分が境界面のZ座標“ZB”を超え、第2時刻t1から所定時間ΔTAが経過しても境界面のZ座標“ZB”よりも大きいままである。したがって、この期間t1−t1+ΔTAに計測された3次元座標に位置する接地導体を判別部23は、第2領域RGBに位置する導電部材801と判別する。その後、第3時刻t2ではZ軸成分が再び境界面のZ座標“ZB”を下回るので、第3時刻t2以降に計測された3次元座標に位置する接地導体を判別部23は、第1領域RGAに位置する指示体HNDと判別する。
判別方法(A)ではこのように、まず境界面のZ座標“ZB”が、計測された3次元座標のZ軸成分に対する閾値に設定される。計測された3次元座標のZ軸成分がこの閾値ZB以下であれば直ちに、その3次元座標は指示体HNDの位置と判別される。一方、そのZ軸成分が所定時間ΔTA、閾値ZBを超え続ければ、その3次元座標は導電部材801の位置と判別される。なお、そのZ軸成分が閾値ZBを超えている時間が所定時間ΔTAよりも短い場合、その3次元座標は判別の対象からは除外される。
後者の条件に「所定時間ΔTAの持続」を付加する理由は、第3領域RGCへ侵入した指示体HNDを導電部材801と誤認する危険性を回避することにある。図8の(b)、(d)が示すとおり、3Dジェスチャーセンサー410による検出で識別可能な接地導体の3次元座標の仮想的な範囲のうち、境界面BNDよりもタッチパネル161の表面から遠い領域(Z>ZB)には第2領域RGBだけでなく第3領域RGCが対応する。この第3領域RGCには指示体HNDが侵入する可能性がある。しかし、第3領域RGCがタッチパネル161の表面から十分に離れていれば、この領域への指示体HNDの侵入は、第1領域RGAへの移動もしくはそこからの退避を目的とする通過、またはジェスチャー中にユーザーが意図せずに第1領域RGAからはみ出させたものに限られる。したがって、この侵入の持続時間は一般に短いので、上記の所定時間ΔTAを十分に長く設定しておけば、指示体HNDを導電部材801と誤認する危険性を十分に低減させることができる。
−判別方法(B)−
受信電圧信号RVSの波形の歪みから計測された3次元座標が境界面BNDよりもタッチパネル161の表面から遠い場合、判別部23は更にこの3次元座標の時間的変化を観察し、その時間的変化の幅に基づいてこの3次元座標に位置する接地導体を、第2領域RGBに位置する導電部材801と第3領域RGCに位置する指示体とのいずれかに判別する。
図9の(b)は、受信電圧信号RVSの波形の歪みから計測された3次元座標のZ軸成分の時間的変化の別例を示すグラフである。このグラフの縦軸はそのZ軸成分すなわちタッチパネル161の表面からの距離を表し、横軸は時間を表す。図9の(b)を参照するに、第1時刻t0から第2時刻t1までの期間ではZ軸成分は境界面のZ座標“ZB”よりも小さい。したがって、この期間t0−t1に計測した3次元座標に位置する接地導体を判別部23は、第1領域RGAに位置する指示体HNDと判別する。第2時刻t1ではZ軸成分が境界面のZ座標“ZB”を超えるので、第2時刻t1から所定時間ΔTBが経過するまでの期間中、判別部23は計測部22の計測する3次元座標の時間的変化を観察し、特にその変化の幅を監視する。この幅は所定値ΔFRよりも小さいので、この期間t1−t1+ΔTBに計測した3次元座標に位置する接地導体を判別部23は、第2領域RGBに位置する導電部材801と判別する。その後、第3時刻t2ではZ軸成分が境界面のZ座標“ZB”よりも大きい範囲で変動し始めるので、第3時刻t2から所定時間ΔTBが経過するまでの期間中、判別部23は計測部22の計測する3次元座標の時間的変化を観察する。この期間t2−t2+ΔTBではその3次元座標の変化の幅が所定値ΔFRを超えるので、その3次元座標に位置する接地導体を判別部23は、第3領域RGCに位置する指示体HNDと判別する。
判別方法(B)では判別方法(A)と同様、計測された3次元座標のZ軸成分が閾値、すなわち境界面のZ座標“ZB”以下であれば直ちに、その3次元座標が指示体HNDの位置と判別される。一方、判別方法(B)では判別方法(A)とは異なり、そのZ軸成分が閾値ZBを超えた場合、その時点から所定時間ΔTBが経過するまでの間に計測された3次元座標の変化の幅が所定値ΔFR以下であればその3次元座標は導電部材801の位置と判別され、所定値ΔFRを超えれば指示体HNDの位置と判別される。
なお、図9の(b)では説明の便宜上、Z軸方向の変化の幅が所定値ΔFRと比較されている。しかし、Z軸方向に限らず、いずれかの方向で変化の幅が所定値ΔFRを超えれば、計測された3次元座標は指示体HNDの位置と判別される。
判別方法(B)は判別方法(A)とは異なり、たとえば第3領域RGCをタッチパネル161の表面から十分には離すことができない結果、この領域RGCにジェスチャー中の指示体HNDが頻繁に侵入し得る場合でも、第2領域RGBに位置する導電部材801と第3領域RGCに位置する指示体HNDとを判別可能である。確かに、第2領域RGBと第3領域RGCとは受信電極4N、…からの距離が等しいので、受信電圧信号RVSの波形の歪みへの寄与は、第2領域RGBに位置する導電部材801に起因する電界EFLの歪みと、第3領域RGCに位置する指示体HNDに起因するものとでは同程度である。しかし、導電部材801はMFP100の筐体に固定されているので実質上静止し続けるのに対し、指示体HNDはジェスチャー等の動作で絶えず動き続ける。したがって、第3領域RGCに指示体HNDが侵入した場合に計測される3次元座標の時間的変化には、その指示体HNDの動きに起因する周期の短い、かつ振幅の大きい変動成分が重畳される。一方、導電部材801は、図8の(d)の示す一定の軌跡TRCから大きく外れることはない。これらを考慮して上記の所定時間ΔTBを十分に短く、かつ所定値ΔFRを十分に大きく設定しておけば、計測される3次元座標の時間的変化から第2領域RGBに位置する導電部材801と第3領域RGCに位置する指示体HNDとを判別することができる。
−判別方法(A)による処理の流れ−
図10は、判別方法(A)による処理のフローチャートである。この処理は、検出部21が受信電圧信号RVSを検出したときに開始される。
ステップS101では、計測部22がAD変換部42から、デジタル化された受信電圧信号RVSを読み込んでその波形の歪みを解析し、その歪みが、監視対象の空間RGA、RGB、RGCへの接地導体の侵入に起因する変化を含むか否かを確認する。この変化を含んでいれば処理がステップS102へ進み、含んでいなければ処理が終了する。
ステップS102では、計測部22が受信電圧信号RVSの波形の歪みから接地導体の重心の3次元座標POSを計測する。その後、処理はステップS103へ進む。
ステップS103では、計測部22の計測した3次元座標POSが境界面BNDよりもタッチパネル161の表面から遠いか否かを判別部23が確認する。遠ければ処理がステップS104へ進み、遠くなければ処理がステップS106へ進む。
ステップS104では、計測部22の計測した3次元座標POSが境界面BNDよりもタッチパネル161の表面から遠い。このことを最初に確認した時点から所定時間ΔTAが経過したか否かを判別部23は確認する。所定時間ΔTAが経過していれば処理がステップS105へ進み、経過していなければ処理がステップS101から繰り返される。
ステップS105では、所定時間ΔTAが経過しても、計測部22の計測した3次元座標POSは境界面BNDよりもタッチパネル161の表面から遠いままである。したがって、判別部23はこの3次元座標POSを、第2領域RGBに位置する導電部材801の座標と判別する。その後、処理が終了する。
ステップS106では、計測部22の計測した3次元座標POSは境界面BNDよりもタッチパネル161の表面に近い。したがって、判別部23はこの3次元座標POSを、第1領域RGAに位置する指示体HNDの座標と判別する。その後、処理が終了する。
−判別方法(B)による処理の流れ−
図11は、判別方法(B)による処理のフローチャートである。この処理は、検出部21が受信電圧信号RVSを検出したときに開始される。
ステップS111では、判別部23がフラグFLを“0”に設定する。その後、処理はステップS112へ進む。
ステップS112では、計測部22がAD変換部42から、デジタル化された受信電圧信号RVSを読み込んでその波形の歪みを解析し、その歪みが、監視対象の空間RGA、RGB、RGCへの接地導体の侵入に起因する変化を含むか否かを確認する。この変化を含んでいれば処理がステップS113へ進み、含んでいなければ処理が終了する。
ステップS113では、計測部22が受信電圧信号RVSの波形の歪みから接地導体の重心の3次元座標POSを計測する。その後、処理はステップS114へ進む。
ステップS114では、計測部22の計測した3次元座標POSが境界面BNDよりもタッチパネル161の表面から遠いか否かを判別部23が確認する。遠ければ処理がステップS115へ進み、遠くなければ処理がステップS121へ進む。
ステップS115では、計測部22の計測した3次元座標POSが境界面BNDよりもタッチパネル161の表面から遠い。このとき、フラグFLが“0”であるか否かを判別部23は確認する。“0”であれば処理がステップS116へ進み、“0”でなければ処理がステップS119へ進む。
ステップS116では、フラグFLが“0”であるので、3次元座標POSは処理開始後、計測部22が最初に計測した値である。判別部23はこの値POSを初期値PPSに設定すると共に、フラグFLを“1”に変更する。その後、処理はステップS117へ進む。
ステップS117では、処理開始時にステップS112で確認された波形の歪みの変化が生じた時点から所定時間ΔTBが経過したか否かを判別部23は確認する。所定時間ΔTBが経過していれば処理がステップS118へ進み、経過していなければ処理がステップS112から繰り返される。
ステップS118では、処理開始時にステップS112で確認された波形の歪みの変化が生じた時点から所定時間ΔTBが経過しても、計測部22の計測した3次元座標POSは境界面BNDよりもタッチパネル161の表面から遠いままである。したがって、この3次元座標POSを、第2領域RGBに位置する導電部材801の座標と判別部23は判別する。その後、処理が終了する。
ステップS119では、フラグFLが“0”ではないので、初期値PPSに値がすでに設定されている。したがって、ステップS113で計測された3次元座標POSと初期値PPSとの変化の幅MOV=|POS−PPS|を判別部23は計算する。その後、処理はステップS120へ進む。
ステップS120では、ステップS119で計算した変化の幅MOVが所定値ΔFR以下であるか否かを判別部23が確認する。所定値ΔFR以下であれば処理がステップS117へ進み、所定値ΔFRを超えていれば処理がステップS121へ進む。
ステップS121では、ステップS113で計測された3次元座標POSは境界面BNDよりもタッチパネル161の表面に近い。また、ステップS119で計算された変化の幅MOVが所定値ΔFRを超えている。したがって、ステップS113で計測された3次元座標POSを指示体HNDの座標と判別部23は判別する。その後、処理が終了する。
[操作パネルの傾斜角に応じた処理]
計測部22の計測した3次元座標を導電部材801の座標と判別したとき、判別部23はその3次元座標を、図4の示す傾斜角推測部435へ渡す。この3次元座標に基づいて傾斜角推測部435は操作パネル160の傾斜角θを推測する。具体的には、この3次元座標が図8の(d)の示す導電部材801の軌跡TRC上のいずれの点に相当するかを推測し、この点に対応する操作パネル160の傾斜角θを、軌跡TRC上の位置と操作パネルの傾斜角との間の対応表から検索する。
傾斜角推測部435が推測した操作パネル160の傾斜角θに応じて制御部24は、たとえば次の2種類の処理を制御する。(1)表示部25にLCD4Dの表示の属性を操作パネルの傾斜角θに応じて変更させる。(2)ジェスチャー解釈部434にユーザーのジェスチャーが対象とする操作画面上の座標(以下、「対象座標」という。)を操作パネル160の傾斜角θに基づいて推定する。
−表示の属性の変更−
図12の(a)は、LCD4Dの表示の属性、3Dジェスチャーセンサー410による検出の特性、および操作パネル160の傾斜角θの間の対応表である。この表はたとえば制御部24に内蔵のメモリー素子に記憶されている。図12の(a)を参照するに、まず操作パネル160の傾斜角θの取り得る範囲が閾値θB未満の第1区間(θ<θB)とそれ以上の第2区間(θ≧θB)とに二分されている。次に第1区間では、LCD4Dの画面表示のサイズと、3Dジェスチャーセンサー410によって検出可能なジェスチャーの速度とがいずれも“標準”に設定され、検出可能なジェスチャーの種類として、“フリック”、“スライド”、“ローテーション”がいずれも“あり”に設定されている。一方、第2区間では、画面表示のサイズが“拡大”に設定され、検出可能なジェスチャーの速度が“ゆっくり”に設定され、検出可能なジェスチャーの種類のうち、“フリック”は“スライドへ変更”と設定されている。
傾斜角推測部435が操作パネル160の傾斜角θを推測したとき、制御部24はまずその推測値が第1区間(θ<θB)と第2区間(θ≧θB)とのいずれに属するかを判別する。制御部24は次に、その判別結果に対応するLCD4Dの表示の属性と3Dジェスチャーセンサー410による検出の特性とを上記の対応表から検索し、表示部25とジェスチャー解釈部434とに設定する。
図12の(b)、(c)はそれぞれ、操作パネル160の傾斜角θが第1区間(θ<θB)、第2区間(θ≧θB)に属すると推測されたときに操作パネル160の画面に表示される文字を示す模式図である。図12の(b)、(c)を参照するに、傾斜角θが第1区間に属すると推測されたときに画面に表示される文字よりも、第2区間に属すると推測されたときの文字はサイズが拡大されている。これは、図12の(a)の対応表においてLCD4Dの画面表示のサイズが、第1区間については“標準”に設定され、第2区間については“拡大”に設定されていることに応じた表示部25の処理による。
図12の(a)の対応表には3Dジェスチャーセンサー410によって検出可能なジェスチャーの速度が、第1区間については“標準”に設定され、第2区間については“ゆっくり”に設定されている。これに応じてジェスチャー解釈部434は、判別部23から受信する3次元座標の時間的変化をユーザーのジェスチャーとして解釈する際に想定する指示体の速度の下限を、傾斜角θが第1区間に属すると推測されたときよりも、第2区間に属すると推測されたときには低く設定する。
図12の(a)の対応表には3Dジェスチャーセンサー410によって検出可能なジェスチャーの種類のうち“フリック”が、第2区間については“スライドへ変更”と設定されている。これに応じてジェスチャー解釈部434は、判別部23から受信する3次元座標の時間的変化を“フリック”として解釈することが可能な場合でも、傾斜角θが第2区間に属すると推測されたときには“スライド”として解釈する。
このように、制御部24はLCD4Dの表示の属性と3Dジェスチャーセンサー410による検出の特性とを、操作パネルの傾斜角θに応じて変更する。これにより、それらの属性を個々のユーザーに自動的に適合させることができる。実際、操作パネル160の傾斜角θが第1区間に設定されるのは、図2の(a)が示すように、比較的背の高いユーザーによる場合が多い。一方、操作パネル160の傾斜角θが第2区間に設定されるのは、図2の(b)が示すように、車椅子の利用者等、比較的背の低いユーザーによる場合が多い。したがって、特に傾斜角θが第2区間に属すると推測されたときには操作パネル160の画面表示を、車椅子の利用者、高齢者、子供等にも見えやすい設定に変更し、3Dジェスチャーセンサー410による検出の特性を比較的遅い手の動きに合わせればよい。具体的には、上記のように、傾斜角θが第2区間に属すると推測されたときには、画面に表示される文字のサイズを拡大し、ジェスチャーとして解釈する際に想定する指示体の速度の下限を低く設定し、“フリック”として解釈可能なジェスチャーも“スライド”として解釈すればよい。
−ジェスチャーの対象の推定−
図13の(d)は、操作パネル160の傾斜角θに応じた対象座標の補正値を示す表である。この表はたとえば制御部24に内蔵のメモリー素子に記憶されている。図13の(d)を参照するに、まず操作パネル160の傾斜角θの取り得る範囲が、第1閾値θ1以下の第1区間(θ≦θ1)、第1閾値θ1よりも大きく第2閾値θ2よりも小さい第2区間(θ1<θ<θ2)、および第2閾値θ2以上の第3区間(θ2≦θ)に分割されている。次に、対象座標の補正値(ΔX、ΔY)が第1区間では(0、+Δξ)に設定され、第2区間では(0、0)に設定され、第3区間では(0、−Δη)に設定されている。
傾斜角推測部435が操作パネル160の傾斜角θを推測したとき、制御部24はまずその推測値が、第1区間、第2区間、第3区間のいずれに属するかを判別する。制御部24は次に、その判別結果に対応する対象座標の補正値を図13の(d)の表から検索してジェスチャー解釈部434に設定する。これに応じてジェスチャー解釈部434はまず、3Dジェスチャーセンサー410による検出結果から指先の3次元座標(X、Y、Z)を推測する。ジェスチャー解釈部434は次に、この指先を画面に対して垂直に射影した点の座標(X、Y)に補正値(ΔX、ΔY)を加え、得られた座標(X+ΔX、Y+ΔY)を対象座標として推定する。この対象座標に表示された操作画面のGUI部品を、ジェスチャー解釈部434はジェスチャーの対象として解釈する。
こうして、ジェスチャー解釈部434は対象座標を操作パネル160の傾斜角θに基づいて推定する。これにより、以下に例示するとおり、ジェスチャーの対象とするGUI部品を識別する精度が向上するので、ジェスチャーの指標する入力操作を正確に解釈することができる。
図13の(a)、(b)、(c)はそれぞれ、操作パネル160の傾斜角θが、第1区間(θ≦θ1)、第2区間(θ1<θ<θ2)、第3区間(θ2≦θ)に属するときに操作パネル160の画面に向けられるユーザーの視線LS1、LS2、LS3を示す模式図である。
図13の(a)を参照するに、傾斜角θが第1区間に属すると推測されたとき、操作パネル160の画面は水平面に近いので、ユーザーの指先FP1に向けられた視線LS1はこの画面の法線方向から斜めに傾く。その結果、この視線LS1が交差する画面上の点TP1は、ユーザーの指先FP1を画面に対して垂直に射影した点MP1からY軸の正方向に距離Δξだけ逸れる。一方、ジェスチャー解釈部434が推定する対象座標は、3Dジェスチャーセンサー410による検出結果から得られた指先FP1から画面への射影点MP1の座標(X、Y)に、図13の(d)の表から検索された補正値(0、+Δξ)を加えた値(X、Y+Δξ)である。したがってこの対象座標は、視線LS1が交差する画面上の点TP1と正確に一致する。
図13の(b)を参照するに、傾斜角θが第2区間に属すると推測されたとき、操作パネル160の画面はユーザーにとって見えやすい傾きに調節されている可能性が高い。すなわち、ユーザーの指先FP2に向けられた視線LS2は操作パネル160の画面の法線方向と一致するとみなせる。このとき、この視線LS2が交差する画面上の座標TP2は3Dジェスチャーセンサー410による検出結果から推測される指先FP2を画面に対して垂直に射影した点MP2の座標に等しい。一方、図13の(d)の表から検索された補正値は(0、0)であるので、ジェスチャー解釈部434が推定する対象座標は、3Dジェスチャーセンサー410による検出結果から得られた指先FP2から画面への射影点MP2の座標(X、Y)そのものである。したがってこの対象座標は、視線LS2が交差する画面上の点TP2と正確に一致する。
図13の(c)を参照するに、傾斜角θが第3区間に属すると推測されたとき、操作パネル160の画面は垂直面に近いので、ユーザーの指先FP3に向けられた視線LS3はこの画面の法線方向から、図13の(a)の示す傾きとは逆方向に斜めに傾く。その結果、この視線LS3が交差する画面上の点TP3は、ユーザーの指先FP3を画面に対して垂直に射影した点MP3からY軸の負方向に距離Δηだけ逸れる。一方、ジェスチャー解釈部434が推定する対象座標は、3Dジェスチャーセンサー410による検出結果から得られた指先FP3から画面への射影点MP3の座標(X、Y)に、図13の(d)の表から検索された補正値(0、−Δη)を加えた値(X、Y−Δη)である。したがってこの対象座標は、視線LS3が交差する画面上の点TP3と正確に一致する。
[実施形態の利点]
本発明の実施形態によるMFP100では上記のとおり、まず検出部21が監視対象の空間RGA−RGCにおける接地導体の存在に起因する電界EFLの歪みを検出する。次に計測部22がこの電界EFLの歪みから計測部22がその接地導体の3次元座標を計測し、判別部23がこの3次元座標に基づいてその接地導体が指示体HNDと導電部材801とのいずれであるかを判別する。具体的には、まず、検出部21が受信電極4N、…で検出した受信電圧信号RVSの波形の歪みから、計測部22が接地導体の重心の3次元座標を計測する。この3次元座標が図8の(b)、(d)の示す境界面BNDに位置し、またはそれよりもタッチパネル161の表面に近ければ、判別部23はこの3次元座標に位置する接地導体を、第1領域RGAに位置する指示体HNDと判別する。一方、この3次元座標が境界面BNDよりもタッチパネル161の表面から遠ければ、判別部23はこの3次元座標に位置する接地導体を、(A)第2領域RGBに位置する導電部材801と判別し、または(B)この3次元座標の時間的変化の幅に基づいて、第2領域RGBに位置する導電部材801と第3領域RGCに位置する指示体とのいずれかに判別する。
このように、このMFP100はユーザーの3次元的なジェスチャーと操作パネル160の揺動とを同じ3Dジェスチャーセンサー410で検出する。これにより、3Dジェスチャーセンサー410とは別に、操作パネル160の傾斜角θを検出するためのセンサーを追加する必要がない。こうして、このMFP100は操作性の向上と製造コストの低減とを両立させることができる。
このMFP100では更に、判別部23が指示体と判別した場合にはジェスチャー解釈部434がこの指示体の動きを通し、ユーザーのジェスチャーの指標する入力操作を解釈する。一方、判別部23が導電部材801と判別した場合には、傾斜角推測部435がこの導電部材801の位置から操作パネル160の傾斜角θを推測し、制御24がその傾斜角θに応じてLCD4Dの表示の属性と3Dジェスチャーセンサー410による検出の特性とを変更する。これにより、それらの属性を個々のユーザーに自動的に適合させることができる。さらに、ジェスチャー解釈部434が対象座標を操作パネル160の傾斜角θに基づいて推定する。これにより、ジェスチャーの対象を識別する精度が向上するので、ジェスチャーの指標する入力操作を正確に解釈することができる。
[変形例]
(A)図1の示す画像処理装置100はMFPである。本発明の実施形態による画像処理装置はその他に、レーザープリンター、インクジェット等の他方式のプリンター、コピー機、スキャナー、FAX等のいずれであってもよい。
(B)計測部22は、接地導体の代表点としてその重心の3次元座標を計測する。接地導体の代表点はその他に、その導体の先端、その外面の形状の対称点等、その導体の特徴的な点であってもよい。
(C)計測部22の計測した3次元座標が境界面BNDよりもタッチパネル161の表面から遠ければ、判別部23は判別方法(A)、(B)のいずれかを採用する。判別部23はその他に、たとえば操作パネル160の傾斜角θが特定の閾値以下であれば判別方法(A)を採用し、その閾値を超えていれば判別方法(B)を採用する等、傾斜角θに応じて両方法を切り換えてもよい。
(D)上記の実施形態は、MFP100の筐体に固定された導電部材801に対するタッチパネル161の変位から操作パネル160の傾斜角θを推測する。その他に、スキャナー120の原稿台の上蓋の開閉、筐体の前扉の開閉、または排紙トレイ150の載置面の高さ等、タッチパネル161の近傍で移動する可動部材の位置であれば、それを推測することは以下のように可能である。
−原稿台の上蓋−
図14の(a)は、スキャナー120の原稿台の上蓋と電界型3Dジェスチャーセンサー410による監視対象の空間との位置関係を示す模式図である。図14の(a)を参照するにこの監視対象の空間は図7の(a)の示す表側空間URGのみ、すなわち図8の(a)の示す第1領域RGAと第3領域RGCとから構成される。第3領域RGCの一部はADF110の周縁部に重なっている。ADF110はスキャナー120の原稿台の上蓋に装着されているので、この上蓋と共に開閉可能である。図14の(a)はADF110が閉じた状態を示す。第3領域RGCと重なったADF110の周縁部には導電部材802が装着されている。ADF110の周縁部が絶縁性の樹脂から成るのに対し、導電部材802は導電性の素材から成り、たとえば矩形状の金属板である。この導電部材802は更にMFP100のシャーシ等の接地部材によって接地電位に保たれている。
図14の(b)は、(a)の示す監視対象の空間RGA、RGCと3Dジェスチャーセンサー410による検出で識別可能な接地導体の3次元座標の仮想的な範囲との間の対応関係を示す模式図である。図14の(b)を参照するに、この仮想的な範囲の各点には表側空間URGの1点のみが対応するので、この仮想的な範囲は表側空間URGと同一視可能である。この場合、第1領域RGAと第3領域RGCとを区切る仮想的平面BNA(Z=ZB)がそのまま境界面BNDである。
この対応関係を利用して判別部23は、検出部21の検出した電界EFLの歪みが指示体HNDと導電部材802とのいずれであるかを判別する。具体的には、まず検出部21が受信電極4N、…で検出した受信電圧信号RVSの波形の歪みから、計測部22が接地導体の重心の3次元座標を計測する。この3次元座標が境界面BNDに位置し、またはそれよりもタッチパネル161の表面に近ければ、判別部23はこの3次元座標に位置する接地導体を、第1領域RGAに位置する指示体HNDと判別する。第1領域RGAは第3領域RGCよりも受信電極4N、…に近いので、第1領域RGAに位置する指示体HNDに起因する電界EFLの歪みに比べれば、第3領域RGCに位置する導電部材802に起因するものは無視してよい。一方、計測部22の計測した3次元座標が境界面BNDよりもタッチパネル161の表面から遠ければ、判別部23は判別方法(A)または(B)に従ってその3次元座標を、第3領域RGCに存在する導電部材802と指示体とのいずれかの位置に判別する。
図14の(c)は、ADF110が開いたときにおける監視対象の空間RGA、RGCを示す模式図である。図14の(c)を参照するに、ADF110の開きに伴って導電部材802が第3領域RGCから離脱する。
図14の(d)は、(c)の示す監視対象の空間RGA、RGCと3Dジェスチャーセンサー410による検出で識別可能な接地導体の3次元座標の仮想的な範囲との対応関係を示す模式図である。図14の(d)を参照するに、ADF110が開くのにつれて導電部材802は第3領域RGCの中で一定の軌跡TRCを描きながらこの仮想的な範囲から離脱する。したがって、監視対象の空間RGA、RGCに指示体HNDが存在していない場合に第3領域RGCに位置する接地導体の3次元座標が計測されれば、ADF110が閉じた状態であると判別部23は判別し、その3次元座標が計測されなければ、ADF110が開いた状態であると判別部23は判別することができる。
このように、このMFP100は、ユーザーの3次元的なジェスチャーとADF110の開閉とを同じ3Dジェスチャーセンサー410で検出することもできる。これにより、ADF110の開閉を検出するための既存のセンサーを削減可能であるので、このMFP100は操作性の向上と製造コストの低減とを両立させることができる。
−筐体の前扉−
図15の(a)は、MDF100の筐体の前扉と電界型3Dジェスチャーセンサー410による監視対象の空間との位置関係を示す模式図である。図15の(a)を参照するにこの監視対象の空間は図8の(a)の示す第1領域RGAと第2領域RGBとから構成される。第2領域RGBの一部は前扉151の上端部に重なっている。図15の(a)は前扉151が閉じた状態を示す。第2領域RGBと重なった前扉151の上端部には導電部材803が装着されている。前扉151が絶縁性の樹脂から成るのに対し、導電部材803は導電性の素材から成り、たとえば矩形状の金属板である。この導電部材803は更にMFP100のシャーシ等の接地部材によって接地電位に保たれている。
図15の(b)は、(a)の示す監視対象の空間RGA、RGBと3Dジェスチャーセンサー410による検出で識別可能な接地導体の3次元座標の仮想的な範囲との間の対応関係を示す模式図である。図15の(b)を参照するに、この仮想的な範囲のうち境界面BND(Z=ZB)よりもタッチパネル161の表面(Z=0)に近い領域(Z<ZB)の各点には第1領域RGAの1点が対応し、境界面BNDよりもタッチパネル161の表面から遠い領域(Z>ZB)の各点には第2領域RGBの1点が対応する。
この対応関係を利用して判別部23は、検出部21の検出した電界EFLの歪みが指示体HNDと導電部材803とのいずれであるかを判別する。具体的には、まず検出部21が受信電極4N、…で検出した受信電圧信号RVSの波形の歪みから、計測部22が接地導体の重心の3次元座標を計測する。この3次元座標が境界面BNDに位置し、またはそれよりもタッチパネル161の表面に近ければ、判別部23はこの3次元座標に位置する接地導体を、第1領域RGAに位置する指示体HNDと判別する。第1領域RGAは第2領域RGBよりも受信電極4N、…に近いので、第1領域RGAに位置する指示体HNDに起因する電界EFLの歪みに比べれば、第2領域RGBに位置する導電部材803に起因するものは無視してよい。一方、計測部22の計測した3次元座標が境界面BNDよりもタッチパネル161の表面から遠ければ、判別部23は判別方法(A)または(B)に従ってこの3次元座標を、第2領域RGBに存在する導電部材803の位置と判別する。
図15の(c)は、前扉151が開いたときにおける監視対象の空間RGA、RGBを示す模式図である。図15の(c)を参照するに、前扉151の開きに伴って導電部材803が第2領域RGBから離脱する。
図15の(d)は、(c)の示す監視対象の空間RGA、RGBと3Dジェスチャーセンサー410による検出で識別可能な接地導体の3次元座標の仮想的な範囲との対応関係を示す模式図である。図15の(d)を参照するに、前扉151が開くのにつれて導電部材803は第2領域RGBの中で一定の軌跡TRCを描きながらこの仮想的な範囲から離脱する。したがって、第1領域RGAに指示体HNDが存在していない場合、第2領域RGBに位置する接地導体の3次元座標が計測されれば、前扉151が閉じた状態であると判別部23は判別し、その3次元座標が計測されなければ、前扉151が開いた状態であると判別部23は判別することができる。このように前扉151が開くのはたとえば、画像形成部10にトナーを補充し、または紙詰まりの際に画像形成部10からシートを引き出す場合である。したがって、前扉151が開いた状態であると判別部23が判別したときに制御部24はたとえば、MFP100による処理の中断を主制御部30に要求する。
このように、このMFP100は、ユーザーの3次元的なジェスチャーと前扉151の開閉とを同じ3Dジェスチャーセンサー410で検出することもできる。これにより、前扉151の開閉を検出するための既存のセンサーを削減可能であるので、このMFP100は操作性の向上と製造コストの低減とを両立させることができる。
−補足−
操作パネル160の揺動、およびADF110と前扉151との開閉はいずれも手動である。その他に、自動的に移動する可動部材の位置を3Dジェスチャーセンサー410で検出することも可能である。たとえば、スキャナー120とプリンター130との隙間GAPの中で排紙トレイ150の載置面が、その上に積載されるシート数の増加に合わせて自動的に降下する場合、その載置面に装着された導電部材の位置を3Dジェスチャーセンサー410で検出してもよい。
(E)上記の実施形態は、第1領域RGAよりも受信電極4N、…から遠い第2領域RGBに導電部材801を配置することにより、受信電圧信号RVSの波形の歪みへの寄与について、導電部材801に起因する電界EFLの歪みを第1領域RGAに位置する指示体HNDに起因するものに対して無視する。この場合、導電部材801の3次元座標は、監視対象の空間に指示体HNDが存在しないときに計測される。
その他に、第1領域RGAに指示体HNDが存在する場合であっても、受信電極4N、…と導電部材801との相対的な変位に伴う受信電圧信号RVSの波形の歪みの変化が検出可能であるとき、その変化から指示体HNDの3次元座標(以下、「ジェスチャー座標」という。)と共に、少なくとも操作パネル160の傾斜角θを特定することは以下のようにすれば可能である。
図16の(a)、(b)はそれぞれ、操作パネル160の傾斜角θが0°、正の値であり、かつ第1領域RGAの定点(Xj,Yj,Zj)に指示体HNDが位置する場合に計測部22が計測する3次元座標(X, Y, Z)、(X, Y, Z)を示す模式図である。図16の(a)、(b)を参照するに、導電部材801が3次元座標(Xc, Yc, Zc)、(Xc, Yc, Zc)に位置することにより、計測部22が計測する3次元座標(X, Y, Z)、(X, Y, Z)はいずれも厳密には定点(Xj,Yj,Zj)とは異なる。さらに、導電部材801の3次元座標(Xc, Yc, Zc)と(Xc, Yc, Zc)との違いによって厳密には、計測部22が計測する3次元座標(X, Y, Z)と(X, Y, Z)とにも違いが生じる。ここで、導電部材801が描く軌跡TRCは一定である。したがって、第1領域RGAの各点(Xj,Yj,Zj)に指示体HNDを固定した状態で、導電部材801の位置(Xc, Yc, Zc)と計測部22の計測する3次元座標(X, Y, Z)との間の対応関係を予め求めておく。この対応関係と照合すれば、計測部22が計測した3次元座標(X, Y, Z)から、導電部材801の3次元座標(Xc, Yc, Zc)と第1領域RGAの1点(Xj,Yj,Zj)、すなわちジェスチャー座標との組み合わせを推定することができる。特に導電部材801の3次元座標(Xc, Yc, Zc)からは操作パネル160の傾斜角θを特定することができる。
図16の(c)は、計測部22が計測する3次元座標(X, Y, Z)、操作パネル160の傾斜角θ、およびジェスチャー座標(Xj,Yj,Zj)の対応表である。この表は上記の対応関係の一例を示す。図16の(c)を参照するに、計測部22の計測する3次元座標(X, Y, Z)が属する直方体状の小空間ごとに、操作パネル160の傾斜角θが閾値θB未満であるか否かと、対応するジェスチャー座標とが規定されている。特に、対応するジェスチャー座標が同一であっても、操作パネル160の傾斜角θが閾値θB未満であるか否かに応じて計測部22の計測する3次元座標は異なる。
たとえば、第1領域RGAに指示体HNDが存在しない場合、操作パネル160の傾斜角θが閾値θB未満であれば、計測部22の計測する3次元座標は小空間{(X, Y, Z)|X0<X≦X1、Y0<Y≦Y1、Z0<Z≦Z1}に位置し、傾斜角θが閾値θB以上であればこの3次元座標は小空間{(X, Y, Z)|X0<X≦X1、Y0<Y≦Y1、Z0<Z≦Z1}に位置する。ジェスチャー座標(Xj0, Yj0, Zj0)に指示体HNDが位置する場合、操作パネル160の傾斜角θが閾値θB未満であれば、計測部22の計測する3次元座標は小空間{(X, Y, Z)|X2<X≦X3、Y2<Y≦Y3、Z2<Z≦Z3}に位置し、傾斜角θが閾値θB以上であればこの3次元座標は小空間{(X, Y, Z)|X2<X≦X3、Y2<Y≦Y3、Z2<Z≦Z3}に位置する。
この対応関係を利用すれば、計測部22が計測した3次元座標(X, Y, Z)から、操作パネル160の傾斜角θが閾値θB未満か否かを、対応するジェスチャー座標と共に推定することが可能である。たとえば、その3次元座標が小空間{(X, Y, Z)|X0<X≦X1、Y0<Y≦Y1、Z0<Z≦Z1}に位置すれば、操作パネル160の傾斜角θが閾値θB未満であり、かつ第1領域RGAに指示体HNDが存在しないことが推定される。また、その3次元座標が小空間{(X, Y, Z)|X2<X≦X3、Y2<Y≦Y3、Z2<Z≦Z3}に位置すれば、傾斜角θが閾値θB以上であり、かつジェスチャー座標(Xj0, Yj0, Zj0)に指示体HNDが位置することが推定される。
図16の(c)の規定する小空間の大きさは主に3Dジェスチャーセンサー410の検出精度で決まる。この精度を更に高くすれば、各小空間に対応する操作パネル160の傾斜角θの範囲を、閾値θB未満か否かの2種類よりも細かく分けることは可能である。
図16の(c)の示す対応表と同様な対応表を、導電部材801に代えて、図1の(b)の示すヒンジ部102等、MFP100の筐体に固定された既存の導電部材について設定してもよい。この対応表を利用しても、計測部22が計測した3次元座標から操作パネル160の傾斜角θとジェスチャー座標とを推定することは可能である。
(F)上記の実施形態は、MFP100の操作パネル160に搭載された3Dジェスチャーセンサー410を利用して、操作パネル160の傾斜角θと、ADF110、筐体101の前扉151等、操作パネル160の周囲で移動する可動部材の位置とを検出する。その他にも、3Dジェスチャーセンサー搭載の操作パネルを入力装置として利用する電子機器であれば同様に、その操作パネルの周囲で移動する可動部材の位置の検出に3Dジェスチャーセンサーを利用することが可能である。
本発明は画像処理装置に関し、上記のとおり、3Dジェスチャーセンサーをユーザーのジェスチャーの検出だけでなく、操作パネルと相対的に変位可能な部位の位置の推測にも利用する。このように、本発明は明らかに産業上利用可能である。
100 MFP
101 MFPの筐体
160 操作パネル
161 タッチパネル
801 導電部材
URG 表側空間
LRG 裏側空間
RGA 監視対象の空間の第1領域
RGB 監視対象の空間の第2領域
RGC 監視対象の空間の第3領域
BNA 第1領域と第3領域とを分ける仮想的平面
BNB 第2領域を裏側空間の他の領域から分ける仮想的平面
BND 境界面
θ 操作パネルの傾斜角

Claims (10)

  1. 操作パネルを備えた画像処理装置であり、
    前記操作パネルの表面から所定の範囲に広がる空間に電界を発生させて監視対象の空間として設定すると共に、当該空間における物体の存在に起因する前記電界の歪みを検出する検出部と、
    前記検出部の検出した電界の歪みから、前記監視対象の空間における前記物体の3次元座標を計測する計測部と、
    前記画像処理装置のうち前記操作パネルと相対的に変位可能な部位に設けられ、前記操作パネルとの相対的な位置に応じて前記電界の歪みを変化させる導電部材と、
    前記計測部が計測した3次元座標に基づいて前記物体が、前記画像処理装置に対するユーザーの入力操作に利用される指示体と前記導電部材とのいずれであるかを判別する判別部と、
    前記判別部による判別結果が前記指示体である場合、前記計測部が計測した3次元座標の動きをユーザーのジェスチャーとみなして、当該ジェスチャーの指標する入力操作を解釈する解釈部と、
    前記判別結果が前記導電部材である場合、前記計測部が計測した3次元座標から前記操作パネルと前記画像処理装置の部位との相対的な位置を推測する推測部と、
    前記推測部が推測した位置に基づいて前記画像処理装置の動作状態を判断し、当該動作状態に応じた処理を制御する制御部と、
    を備えた画像処理装置。
  2. 前記検出部は、
    平面形状に配置された送信電極と、
    前記送信電極を含む平面から所定の距離を隔てて平行に広がる矩形面の各辺に1つずつ分離して配置された4つの受信電極と、
    前記送信電極に送信電圧信号を送出する送信部と、
    前記送信電圧信号に応じて前記4つの受信電極のそれぞれが受ける受信電圧信号を検出する受信部と、
    を含み、
    前記電界の歪みを前記送信電圧信号に対する前記受信電圧信号の波形の歪みとして検出する
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記送信電圧信号のレベルと比べれば全体の電位が実質的に一様とみなせる程度の電気伝導性を持ち、かつ前記送信電圧信号のレベルと比べれば実質的に接地電位に等しいとみなせる電位に維持された物体が前記監視対象の空間に存在するか否かに応じて前記送信電圧信号に対する前記受信電圧信号のレベルの落差に現れる変化を、前記検出部は検出し、
    前記導電部材は実質的に接地電位に等しい電位に維持され、
    前記計測部は前記レベルの落差に現れる変化から物体の3次元座標を計測する
    ことを特徴とする請求項2に記載の画像処理装置。
  4. 前記判別部は、
    前記計測部の計測した3次元座標が前記検出部から閾値以下の距離に位置する場合には、当該3次元座標に位置する物体が前記指示体であると判別し、
    当該3次元座標が前記検出部から前記閾値を超えた距離に位置する場合には、当該3次元座標に位置する物体が前記導電部材であると判別する
    ことを特徴とする請求項1から請求項3までのいずれかに記載の画像処理装置。
  5. 前記判別部は、
    前記計測部の計測した3次元座標が前記検出部から閾値以下の距離に位置する場合には、当該3次元座標に位置する物体が前記指示体であると判別し、
    当該3次元座標が前記検出部から前記閾値を超えた距離に位置する場合には更に当該3次元座標の時間的変化を観察し、当該時間的変化の幅が所定値以下であれば当該3次元座標に位置する物体が前記導電部材であると判別する
    ことを特徴とする請求項1から請求項3までのいずれかに記載の画像処理装置。
  6. 前記操作パネルは水平面に対する表面の傾きが可変であり、
    前記操作パネルの表面が水平面から傾斜する際に当該表面に対する軌跡が前記監視対象の空間を通過するように、前記導電部材が配置されている
    ことを特徴とする請求項1から請求項5までのいずれかに記載の画像処理装置。
  7. 前記操作パネルは、操作画面を表示するための表示部を含み、
    前記推測部は、前記計測部が計測した3次元座標から前記操作パネルの傾きを推測し、
    前記制御部は、当該傾きに応じて前記表示部に表示の属性を変更させる
    ことを特徴とする請求項6に記載の画像処理装置。
  8. 前記操作パネルは、操作画面を表示するための表示部を含み、
    前記推測部は、前記計測部が計測した3次元座標から前記操作パネルの傾きを推測し、
    前記解釈部は、ユーザーのジェスチャーが対象とする前記操作画面上の座標を前記操作パネルの傾きに基づいて推定する
    ことを特徴とする請求項6に記載の画像処理装置。
  9. 原稿台に載せられたシートから画像を読み取るスキャナーと、
    前記原稿台を覆い隠すように前記スキャナーに開閉可能に取り付けられた上蓋と、
    を更に備え、
    前記操作パネルは前記原稿台の縁に設置され、
    前記導電部材は、前記上蓋の開閉に伴って前記操作パネルの表面に対して描く軌跡が前記監視対象の空間を通過するように配置され、
    前記制御部は、前記推測部が推測した前記上蓋の位置に基づいて前記画像処理装置の動作状態を判断する
    ことを特徴とする請求項1から請求項5までのいずれかに記載の画像処理装置。
  10. トナーまたはインクでシートに画像を形成する画像形成部と、
    前記画像処理装置の前面のうち、前記操作パネルの下方に位置する部位に開閉可能に取り付けられ、前記画像形成部に対するトナーもしくはインクの補充、またはシートの出し入れを可能にする前扉と、
    を更に備え、
    前記導電部材は、前記前扉の開閉に伴って前記操作パネルの表面に対して描く軌跡が前記監視対象の空間を通過するように配置され、
    前記制御部は、前記推測部が推測した前記前扉の位置に基づいて前記画像処理装置の動作状態を判断する
    ことを特徴とする請求項1から請求項5までのいずれかに記載の画像処理装置。
JP2015051945A 2015-03-16 2015-03-16 画像処理装置 Active JP6443149B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015051945A JP6443149B2 (ja) 2015-03-16 2015-03-16 画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015051945A JP6443149B2 (ja) 2015-03-16 2015-03-16 画像処理装置

Publications (2)

Publication Number Publication Date
JP2016173616A JP2016173616A (ja) 2016-09-29
JP6443149B2 true JP6443149B2 (ja) 2018-12-26

Family

ID=57009055

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015051945A Active JP6443149B2 (ja) 2015-03-16 2015-03-16 画像処理装置

Country Status (1)

Country Link
JP (1) JP6443149B2 (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102007016408A1 (de) * 2007-03-26 2008-10-02 Ident Technology Ag Mobiles Kommunikationsgerät und Eingabeeinrichtung hierfür
JP2009021734A (ja) * 2007-07-11 2009-01-29 Kyocera Mita Corp 画像形成装置
JP2011146915A (ja) * 2010-01-14 2011-07-28 Sony Corp 情報処理装置、開閉角度検出方法及び開閉角度検出プログラム
JP5974745B2 (ja) * 2012-09-10 2016-08-23 コニカミノルタ株式会社 タッチパネル入力装置、タッチ入力方法及びタッチ入力制御プログラム

Also Published As

Publication number Publication date
JP2016173616A (ja) 2016-09-29

Similar Documents

Publication Publication Date Title
US10033889B2 (en) Operation unit and image forming apparatus
EP3264815B1 (en) Mobile terminal with adaptive finger scan unit based on force pressure
US9952670B2 (en) Operation panel and image forming apparatus including the same
US10602006B2 (en) Operation terminal and image processing device detachably holding the same
EP3179292B1 (en) Head-mounted display device and control method therefor
EP2816545A2 (en) Method and apparatus for protecting eyesight
US20120262448A1 (en) Mobile terminal and control method thereof
CN108521480B (zh) 控制方法、控制装置、电子装置、计算机存储介质和设备
EP3579532A2 (en) Mobile terminal using proximity sensor and camera
GB2413230A (en) A scanner with touchscreen
JP6270137B2 (ja) 画像形成装置
JP2010152685A (ja) 位置検出方法及び装置
KR20190091126A (ko) 이동 단말기 및 그 제어 방법
CN108881657A (zh) 图像形成装置、图像形成装置的控制方法和存储介质
EP3128360A1 (en) Electronic device
KR102268755B1 (ko) 디스플레이 장치
JP6443149B2 (ja) 画像処理装置
CN108600420A (zh) 电子装置和制造方法
US10419631B2 (en) Image display apparatus, image forming apparatus, and non-transitory computer readable medium with distance-based return process
JP2012103980A5 (ja)
JP6950017B2 (ja) 画像形成装置
US10069987B2 (en) Image processing device with operation panel responding by vibration
CN111385426A (zh) 电子装置及电子装置的状态管理方法
CN108696630B (zh) 控制方法、控制装置、电子装置、计算机存储介质及设备
US20230185491A1 (en) Image forming apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180219

TRDD Decision of grant or rejection written
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181024

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181030

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181112

R150 Certificate of patent or registration of utility model

Ref document number: 6443149

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150