JP6624658B2 - 座標検出方法、座標検出プログラム、及び座標検出システム - Google Patents

座標検出方法、座標検出プログラム、及び座標検出システム Download PDF

Info

Publication number
JP6624658B2
JP6624658B2 JP2018510019A JP2018510019A JP6624658B2 JP 6624658 B2 JP6624658 B2 JP 6624658B2 JP 2018510019 A JP2018510019 A JP 2018510019A JP 2018510019 A JP2018510019 A JP 2018510019A JP 6624658 B2 JP6624658 B2 JP 6624658B2
Authority
JP
Japan
Prior art keywords
instruction
image
display panel
reflected light
coordinate detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018510019A
Other languages
English (en)
Other versions
JPWO2017175265A1 (ja
Inventor
寺尾 正之
正之 寺尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp NEC Display Solutions Ltd
Original Assignee
NEC Display Solutions Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Display Solutions Ltd filed Critical NEC Display Solutions Ltd
Publication of JPWO2017175265A1 publication Critical patent/JPWO2017175265A1/ja
Application granted granted Critical
Publication of JP6624658B2 publication Critical patent/JP6624658B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0425Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Electroluminescent Light Sources (AREA)
  • Position Input By Displaying (AREA)
  • Control Of El Displays (AREA)
  • Studio Devices (AREA)

Description

本発明は、座標検出方法、座標検出プログラム、及び座標検出システムに関する。
昨今、有機ELを活用した透過型ディスプレイが製品化され、その透過の特徴を活かし、ショウウィンドウ等のウィンドウディスプレイ・サイネージへの応用が期待されている。また、サイネージにおいては、単にコンテンツを表示するだけではなく、タッチパネル等を利用した、インタラクティブなものが求められるようになってきた。
大型ディスプレイ用タッチパネルとして、一般的なものとしては、静電容量方式タイプ、赤外線方式タイプ等がある(特許文献1参照)。
特開2015−52718号公報
しかしながら、静電容量方式タイプでは、表面に電極が必要であり透明性(透過性)が損なわれる。赤外線方式タイプでは、ディスプレイ枠だけなので透過性が損なわれることはない。しかしながら、ディスプレイ枠を、タッチを行う操作者側(表示面側)に設置する必要があり、タッチパネルの大きさや形に限定が出てくる。
解決しようとする問題点は、操作者側に構造物(電極やディスプレイ枠)を必要としない透過型ディスプレイに最適な透過型ディスプレイに対する指示の入力方式がないという点にある。
すなわち、本願の課題は、操作者側に構造物を必要としない透過型ディスプレイにおいて、透過性を確保しながら操作者の透過型ディスプレイに対する指示(人のタッチによる指示を含む)を検出できる座標検出方法等を提供することにある。
本発明は、映像を表示する透過型表示パネルの備える面であって、前記映像を表示する表示面とは異なる面を撮影する撮影工程と、撮影された映像情報から、前記透過型表示パネルに含まれる発光部から発光され、反射された反射光の輝度および色度に基づいて、前記透過型表示パネルの前記表示面に対して指示された座標を検出する検出工程と、を有する、座標検出方法であって、前記検出工程において、撮影された映像情報において、指示する前のフレームと指示した後のフレームとの間における反射光の輝度の差分を算出し、算出した差分が閾値を超えたか否かに基づいて、かつ、反射光の色度が前記表示面に出力される検出対象の映像の色度と等しい場合、指示があったと判断する、座標検出方法である
また、本発明は、映像を表示する透過型表示パネルの備える面であって、前記映像を表示する表示面とは異なる面を撮影する撮影工程と、撮影された映像情報から、前記透過型表示パネルに含まれる発光部から発光され、反射された反射光の輝度に基づいて、前記透過型表示パネルの前記表示面に対して指示された座標を検出する検出工程と、を有する、座標検出方法であって、前記検出工程において、撮影された映像情報において、指示する前のフレームと指示した後のフレームとの間における反射光の輝度の差分を算出し、算出した差分が閾値を超えたか否かに基づいて、かつ、撮影された映像情報に、人物の映像が含まれる場合、指示があったと判断する、座標検出方法である。
本発明は、映像を表示する透過型表示パネルの備える面であって、前記映像を表示する表示面とは異なる面を撮影する撮影処理と、撮影された映像情報から、前記透過型表示パネルに含まれる発光部から発光され、反射された反射光の輝度および色度に基づいて、前記透過型表示パネルの前記表示面に対して指示された座標を検出する検出処理と、をコンピュータに実行させるための、座標検出プログラムであって、前記検出処理において、撮影された映像情報において、指示する前のフレームと指示した後のフレームとの間における反射光の輝度の差分を算出し、算出した差分が閾値を超えたか否かに基づいて、かつ、反射光の色度が前記表示面に出力される検出対象の映像の色度と等しい場合、指示があったと判断する、座標検出プログラムである
また、本発明は、映像を表示する透過型表示パネルの備える面であって、前記映像を表示する表示面とは異なる面を撮影する撮影処理と、撮影された映像情報から、前記透過型表示パネルに含まれる発光部から発光され、反射された反射光の輝度に基づいて、前記透過型表示パネルの前記表示面に対して指示された座標を検出する検出処理と、をコンピュータに実行させるための、座標検出プログラムであって、前記検出処理において、撮影された映像情報において、指示する前のフレームと指示した後のフレームとの間における反射光の輝度の差分を算出し、算出した差分が閾値を超えたか否かに基づいて、かつ、撮影された映像情報に、人物の映像が含まれる場合、指示があったと判断する、座標検出プログラムである。
本発明は、映像を表示する透過型表示パネルの備える面であって、前記映像を表示する表示面とは異なる面を撮影するカメラ部と、撮影された映像情報から、前記透過型表示パネルに含まれる発光部から発光され、反射された反射光の輝度および色度に基づいて、前記透過型表示パネルの前記表示面に対して指示された座標を検出する映像処理部と、を備える、座標検出システムであって、前記映像処理部において、撮影された映像情報において、指示する前のフレームと指示した後のフレームとの間における反射光の輝度の差分を算出し、算出した差分が閾値を超えたか否かに基づいて、かつ、反射光の色度が前記表示面に出力される検出対象の映像の色度と等しい場合、指示があったと判断する、座標検出システムである
また、本発明は、映像を表示する透過型表示パネルの備える面であって、前記映像を表示する表示面とは異なる面を撮影するカメラ部と、撮影された映像情報から、前記透過型表示パネルに含まれる発光部から発光され、反射された反射光の輝度に基づいて、前記透過型表示パネルの前記表示面に対して指示された座標を検出する映像処理部と、を備える、座標検出システムであって、前記映像処理部において、撮影された映像情報において、指示する前のフレームと指示した後のフレームとの間における反射光の輝度の差分を算出し、算出した差分が閾値を超えたか否かに基づいて、かつ、撮影された映像情報に、人物の映像が含まれる場合、指示があったと判断する、座標検出システムである。
本発明によれば、映像を表示する透過型表示パネルの備える面であって、映像を表示する表示面とは異なる面を撮影し、撮影された映像情報から、透過型表示パネルに含まれる発光部から発光され、反射された反射光の輝度または色度に基づいて、透過型表示パネルの表示面に対して指示された座標を検出する。これにより、操作者側に構造物を必要とせず、透過性を確保しながら操作者の透過型表示パネルに対する指示を検出できる座標検出方法等を提供することができる。
本発明の実施形態における透過型有機ELディスプレイを構成するセルの構成を正面側から示す概略ブロック図である。 本発明の実施形態における透過型有機ELディスプレイを構成するセルの構成を側面側から示す概略ブロック図である。 本発明の実施形態における透過型有機ELディスプレイにおいて操作者がタッチしないときの、セルからの光の反射を側面側から示す概略ブロック図である。 本発明の実施形態における透過型有機ELディスプレイにおいて操作者がタッチしたときの、セルからの光の反射を側面側から示す概略ブロック図である。 本発明の実施形態における透過型有機ELディスプレイを背面から見たときの透過型有機ELディスプレイの状態を示す図である。 本実施形態の検出システムの特徴を説明するための図である。 本発明の第1実施形態における検出システムの構成を示す概略ブロック図である。 図7に示す検出システムの処理を示すフローチャートである。 本発明の第2実施形態における検出システムの構成を示す概略ブロック図である。 図9に示す検出システムの処理を示すフローチャートである。
以下、本発明の一実施形態による検出システムについて図面を参照して説明する。図1は、本発明の実施形態における透過型有機ELディスプレイ(透過型表示パネル)を構成するセル(自発光素子)の構成を正面側から示す概略ブロック図である。また、図2は、本発明の実施形態における透過型有機ELディスプレイを構成するセルの構成を側面側から示す概略ブロック図である。
透過型有機ELディスプレイは、図1及び図2に示すセル1が画素分複数マトリクス状に配置された構成となっている。図1は、セル1を正面側から見た図であり、図2は、セル1を側面側から見た図である。
図1に示すようにセル1は、透過部2と、RGBの発光部(R発光部3と、G発光部4と、B発光部5とからなる有機EL素子)と、を含んで構成される。
透過部2は、セル1の半分の領域を占め、向こう側(奥側)である前面が透けて見える部分である。R発光部3は、赤色を前面側へ自発光する非透過部である。また、G発光部4は、緑色を前面側へ自発光する非透過部である。また、B発光部5は、青色を前面側へ自発光する非透過部である。
セル1を横から見ると、図2に示すように、透過部2と非透過部6(図1に示すR発光部3、G発光部4、B発光部5)との上に、カバーガラス7が付いた構成となっている。
図3は、本発明の実施形態における透過型有機ELディスプレイにおいて操作者がタッチしないときの、セルからの光の反射を側面側から示す概略ブロック図である。また、図4は、本発明の実施形態における透過型有機ELディスプレイにおいて操作者がタッチしたときの、セルからの光の反射を側面側から示す概略ブロック図である。図3及び図4は、図1及び図2に示すセル1が複数マトリクス状に配置された透過型有機ELディスプレイ8の構成を示している。
図3に示すように、非透過部6から出た、ほとんどの光(実線で示す)はカバーガラス7を透過し、前面、すなわち操作者側に放出される。一部の光(破線で示す)はカバーガラス7で反射し、透過部2を透過して背面に帰ってくる。
しかし、図4に示すように、カバーガラス7の表面を操作者が指F等で触れると、その部分の反射率が変化し、多くの光が透過部2を透過して背面に帰ってくることとなる。
このように、有機ELディスプレイは、液晶ディスプレイのようにバックライトは不要であり、自発光するディスプレイ装置である。
図5は、本発明の実施形態における透過型有機ELディスプレイを背面から見たときの透過型有機ELディスプレイの状態を示す図である。
図5は、図4に示したようにカバーガラス7の表面を操作者が指Fで触れたときに、透過型有機ELディスプレイ8を背面から見たときの透過型有機ELディスプレイの状態を示している。図5に示すように、透過型有機ELディスプレイ8の全体を見ると、指の触れた部分PFのみ明るく見えることとなる。なお、操作者の手のうち指の触れた部分PF以外の手の部分PHも、透過型有機ELディスプレイの透過部2を介し、表示面とは異なる面から視認可能となっている。
なお、本実施形態において、操作者(人物)が透過型有機ELディスプレイをタッチすることは、透過型有機ELディスプレイに対して指示(入力)する方法の一例として説明するものであり、他の指示方法もある。すなわち、人の指による直接のタッチにより透過型有機ELディスプレイに対して指示する方法だけでなく、例えば、入力デバイス(例えばタッチペン)を用いて透過型有機ELディスプレイに対して指示する方法、反射光が発生する程度に指などを透過型有機ELディスプレイに対して近接した状態にすることにより透過型有機ELディスプレイに対して指示する方法もある。
図6は、本実施形態の検出システムの特徴を説明するための図である。検出システム100は、透過型有機ELディスプレイ8(ディスプレイ装置)と、カメラ部11と、PC20と、を含んで構成される。
カメラ部11は、透過型有機ELディスプレイ8(映像表示部)を背面から、すなわち、映像を表示する透過型有機ELディスプレイ8の備える面であって、映像を表示する表示面とは異なる面を撮影する。
PC(Personal Computer)20は、映像処理機能を有する映像処理部を含んで構成される。映像処理部は、カメラ部11からの映像情報から、操作者Mにタッチされて明るくなった部分PFを画像処理し抽出し、抽出結果から表示面における部分PFのXYの座標位置(タッチ座標情報)を算出する。ここで、映像処理部は、カメラ部11により撮影された映像情報から、透過型有機ELディスプレイ8に含まれる発光部から発光され、反射された反射光の輝度または色度に基づいて座標を検出する。
PC20が有する制御部は、映像処理部からのタッチ座標情報に基づき、表示する映像を変化させたり、予め決められた動作をさせたり等の制御を行う。
PC20が有する映像出力部は、制御部からの指示にしたがい、映像を出力する。
透過型有機ELディスプレイ8は、映像出力部から出力された映像を表示する。
このように、検出システム100は、透過型有機ELディスプレイ8を背面から撮影し、撮影された映像情報から、取得した反射光の輝度または色度に基づいて座標を検出する。このため、操作者側に構造物を必要としない透過型有機ELディスプレイ8において、透過性を確保しながら操作者のタッチ(指示)を検出できる検出方法等を提供することができる。
[第1実施形態]
図7は、本発明の第1実施形態における検出システムの構成を示す概略ブロック図である。
検出システム100aは、カメラ部11と、映像処理部21と、制御部22と、映像出力部23と、映像表示部24と、を含んで構成される。
カメラ部11は、映像表示部24を背面から撮影し、その映像情報を映像処理部21に送付する。
映像処理部21は、カメラ部11からの映像情報から、操作者にタッチされて明るくなった部分PFを画像処理し抽出し、抽出結果から表示面における部分PFのXYの座標位置(タッチ座標情報)を算出する。ここで、映像処理部21は、カメラ部11により撮影された映像情報から、取得した反射光の輝度または色度に基づいて座標を検出する。
より具体的に、映像処理部21は、操作者がタッチする前のフレームとタッチした後のフレームとの間に輝度の差分がある場合であって、その差分がある予め設定した閾値を超えた場合(第1条件)、操作者によりタッチがあったと判断する。すなわち、映像処理部21は、指示する前のフレームと指示した後のフレームとの間における反射光の輝度の差分を算出し、算出した差分が閾値を超えたか否かに基づいて、指示の有無を判断する。
また、映像処理部21は、タッチがあったと判断した場合のタッチした部分のXYの座標位置を算出し、算出結果をタッチ座標情報として制御部22に通知する。
制御部22は、映像処理部からのタッチ座標情報に基づき、表示する映像を変化させたり、予め決められた動作をさせたり等の制御を行う。より具体的には、制御部22は、タッチ座標情報と、映像表示部24に表示する指示ボタン(検出対象の映像)の座標情報が等しい場合に、上述の制御を行う。
映像出力部23は、制御部22からの指示にしたがい、映像表示部24に対して映像を出力する。
映像表示部24は、制御部22から出力された映像を表示する。
図8は、図7に示す検出システムの処理を示すフローチャートである。
映像表示部24は、映像を表示する(ステップST1)。具体的には、映像表示部24は、制御部22から出力された映像を表示する。
カメラ部11は、映像表示部24を背面から撮影する(ステップST2)。具体的には、カメラ部11は、映像表示部24を背面から撮影し、その映像情報を映像処理部21に絶えず送付する。
映像処理部21は、カメラ部11から送付された映像情報に明るい部分があるか否かを判断する(ステップST3)。映像処理部21は、上記第1条件を満たす場合、操作者によりタッチがあったと判断する。すなわち、映像処理部21は、操作者がタッチする前のフレームとタッチした後のフレームとの間に輝度の差分がある場合であって、その差分がある予め設定した閾値を超えた場合(第1条件)、操作者によりタッチがあったと判断する。
映像処理部21は、XYの座標位置を算出し、送付する(ステップST4)。すなわち、映像処理部21は、タッチがあったと判断した場合(ステップST3−Yes)、タッチした部分のXYの座標位置を算出し、算出結果をタッチ座標情報として制御部22に通知する。
制御部22は、タッチされたXY座標(タッチ座標)に基づき動作する(ステップST5)。すなわち、制御部22は、映像処理部からのタッチ座標情報に基づき、表示する映像を変化させたり、予め決められた動作をさせたり等の制御を行う。より具体的には、制御部22は、タッチ座標情報と、映像表示部24に表示する指示ボタンの座標情報が等しい場合に、上述の制御を行う。
本実施形態によれば、映像表示部24を背面から撮影し、カメラ部11により撮影された映像情報から、映像処理部21が取得した反射光の輝度に基づいて座標を検出する。このため、操作者側に構造物を必要としない映像表示部24において、透過性を確保しながら操作者のタッチ(指示)を検出できる検出方法等を提供することができる。
[第2実施形態]
図9は、本発明の第2実施形態における検出システムの構成を示す概略ブロック図である。
検出システム100bは、カメラ部11と、映像処理部21aと、制御部22と、映像出力部23aと、映像表示部24と、を含んで構成される。
検出システム100bの構成は、第1実施形態における検出システム100aと同じ装置構成だが、下記の点が相違する。
すなわち、映像出力部23aから映像処理部21aへフィードバックがはいっているところが異なる。つまり、映像出力部23aからの映像は映像表示部24のみではなく、映像処理部21aにも入力される。
カメラ部11は、映像表示部24を背面から撮影し、その映像情報を映像処理部21aに送付する。
映像処理部21aは、カメラ部11からの映像情報から、操作者にタッチされて明るくなった部分PFを画像処理し抽出し、抽出結果から表示面における部分PFのXYの座標位置(タッチ座標情報)を算出する。ここで、映像処理部21aは、カメラ部11により撮影された映像情報から、取得した反射光の輝度または色度に基づいて座標を検出する。
より具体的に、映像処理部21aは、操作者がタッチする前のフレームとタッチした後のフレームとの間に輝度の差分がある場合であって、その差分がある予め設定した閾値を超えた場合(第1条件)、映像情報が明るくなったと判断する。しかし、ウインドウディスプレイでは外部からの光、例えばウインドウディスプレイが道路沿いに設置されている場合、車のヘッドライトなどが外乱光として入り込む可能性がある。そのため、映像処理部21aは、明るくなった部分を検出した際、映像出力部23aから入力された映像の同じ位置の映像の色度と一致するか否かの比較を行う。そして、映像処理部21aは、色度が一致する場合(第2条件)、タッチされ明るくなった部分は当該部分の反射光であるため、操作者によるタッチがあったと判断する。一方、色度が全く異なる場合、明るくなった部分は外乱光によるものとみなし、操作者によるタッチがなかったと判断する。また、映像処理部21aは、タッチがあったと判断した場合のタッチした部分のXYの座標位置を算出し、算出結果をタッチ座標情報として制御部22に通知する。
制御部22は、映像処理部からのタッチ座標情報に基づき、表示する映像を変化させたり、予め決められた動作をさせたり等の制御を行う。より具体的には、制御部22は、タッチ座標情報と、映像表示部24に表示する指示ボタンの座標情報が等しい場合に、上述の制御を行う。
映像出力部23aは、制御部22からの指示にしたがい、映像表示部24に対して映像を出力する。また、映像出力部23aは、上述のように映像処理部21aがタッチ座標情報を算出するために、映像処理部21aに対して映像を出力する。
映像表示部24は、制御部22から出力された映像を表示する。
図10は、図9に示す検出システムの処理を示すフローチャートである。
映像表示部24は、映像を表示する(ステップST11)。具体的には、映像表示部24は、制御部22から出力された映像を表示する。
カメラ部11は、映像表示部24を背面から撮影する(ステップST12)。具体的には、カメラ部11は、映像表示部24を背面から撮影し、その映像情報を映像処理部21aに絶えず送付する。
映像処理部21aは、カメラ部11から送付された映像情報に明るい部分があるか否かを判断する(ステップST13)。映像処理部21aは、上記第1条件を満たす場合、操作者によりタッチがあったと判断する。すなわち、映像処理部21aは、操作者がタッチする前のフレームとタッチした後のフレームとの間に輝度の差分がある場合であって、その差分がある予め設定した閾値を超えた場合(第1条件)、映像情報に明るい部分があったと判断する。
映像処理部21aは、映像出力部23aから出力された映像の同じ部分と同じ色か否かを判断する(ステップST14)。具体的には、映像処理部21aは、明るくなった部分を検出した際(ステップST13−Yes)、映像出力部23aから入力された映像の同じ位置の映像の色度と一致するか否かの比較を行う。そして、映像処理部21aは、色度が一致する場合(第2条件)、タッチされ明るくなった部分は当該部分の反射光であるため、操作者によるタッチがあったと判断する。
映像処理部21aは、XYの座標位置を算出し、送付する(ステップST15)。すなわち、映像処理部21aは、タッチがあったと判断した場合(ステップST14−Yes)、タッチした部分のXYの座標位置を算出し、算出結果をタッチ座標情報として制御部22に通知する。
制御部22は、タッチされたXY座標(タッチ座標)に基づき動作する(ステップST16)。すなわち、制御部22は、映像処理部からのタッチ座標情報に基づき、表示する映像を変化させたり、予め決められた動作をさせたり等の制御を行う。より具体的には、制御部22は、タッチ座標情報と、映像表示部24に表示する指示ボタンの座標情報とが等しい場合に、上述の制御を行う。
本実施形態によれば、映像表示部24を背面から撮影し、カメラ部11により撮影された映像情報から、映像処理部21aが取得した反射光の輝度と色度に基づいて座標を検出するので、表示に使っている光を利用して透過性を確保し、かつ、外乱光の影響を受けにくくすることが可能となる。このため、操作者側に構造物を必要としない透過型ディスプレイにおいて、透過性を確保しながら操作者のタッチ(指示)を検出できる検出方法等を提供することができる。
以上、本発明の好ましい実施形態を説明したが、本発明はこれら実施形態およびその変形例に限定されることはない。本発明の趣旨を逸脱しない範囲で、構成の付加、省略、置換、およびその他の変更が可能である。
例えば、第2実施形態では、「撮影された映像情報において、タッチする前のフレームとタッチした後のフレームとの間における反射光の輝度の差分を算出し、算出した差分が予め設定された閾値を超え、かつ、反射光の色度が表示面に出力される指示ボタンの映像の色度と等しい場合、タッチがあったと判断する」構成について記載した。この構成を「撮影された映像情報において、タッチする前のフレームとタッチした後のフレームとの間における反射光の輝度の差分を算出し、算出した差分が予め設定された閾値を超え、かつ、撮影された映像情報において、操作者(人物)の映像が含まれる場合、タッチがあったと判断する」構成としてもよい。これにより、外乱光を除外することができる。
なお、人を含む映像が表示されている場合、映像を映しているのは映像出力部であるので、操作者とは区別できる。
また、実施形態の説明では、指示ボタンは1個の場合について説明したが、指示ボタンが複数個ある、いわゆるマルチタッチ構成にしてもよい。
また、実施形態の説明では、操作者は一人の場合について説明したが、操作者は複数人いてもよい。
また、実施形態の説明では、透過型有機ELディスプレイは、前面および背面のうち前面側から映像を表示する構成について説明したが、両面に映像を表示する構成であってもよい。
また、検出システム100、100a、100bの機能を実現するための検出プログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、検出システム100、100a、100bにおいて、カメラ部が行う撮影工程と、映像処理部が行う検出工程と、を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM)のように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよい。
本発明によれば、ディスプレイ装置を背面から撮影し、撮影された映像情報から、取得した反射光の輝度または色度に基づいて座標を検出する。このため、操作者側に構造物を必要としない透過型ディスプレイにおいて、透過性を確保しながら操作者のタッチ(指示)を検出できる検出方法等を提供することができる。
1 セル
2 透過部
3 R発光部
4 G発光部
5 B発光部
6 非透過部
7 カバーガラス
8 透過型有機ELディスプレイ
11 カメラ部
21,21a 映像処理部
22 制御部
23,23a 映像出力部
24 映像表示部
20 PC
100,100a,100b 検出システム

Claims (9)

  1. 映像を表示する透過型表示パネルの備える面であって、前記映像を表示する表示面とは異なる面を撮影する撮影工程と、
    撮影された映像情報から、前記透過型表示パネルに含まれる発光部から発光され、反射された反射光の輝度および色度に基づいて、前記透過型表示パネルの前記表示面に対して指示された座標を検出する検出工程と、
    を有する、
    座標検出方法であって、
    前記検出工程において、
    撮影された映像情報において、指示する前のフレームと指示した後のフレームとの間における反射光の輝度の差分を算出し、算出した差分が閾値を超えたか否かに基づいて、
    かつ、
    反射光の色度が前記表示面に出力される検出対象の映像の色度と等しい場合、
    指示があったと判断する、
    座標検出方法
  2. 映像を表示する透過型表示パネルの備える面であって、前記映像を表示する表示面とは異なる面を撮影する撮影工程と、
    撮影された映像情報から、前記透過型表示パネルに含まれる発光部から発光され、反射された反射光の輝度に基づいて、前記透過型表示パネルの前記表示面に対して指示された座標を検出する検出工程と、
    を有する、
    座標検出方法であって、
    前記検出工程において、
    撮影された映像情報において、指示する前のフレームと指示した後のフレームとの間における反射光の輝度の差分を算出し、算出した差分が閾値を超えたか否かに基づいて、
    かつ、
    撮影された映像情報に、人物の映像が含まれる場合、
    指示があったと判断する、
    座標検出方法
  3. 前記表示面に出力される映像は、検出対象の映像を複数含む、
    請求項1または請求項に記載の座標検出方法。
  4. 前記透過型表示パネルに指示を与える人物は複数人である、
    請求項1から請求項いずれか一項に記載の座標検出方法。
  5. 前記発光部は、有機EL素子を含む、
    請求項1から請求項いずれか一項に記載の座標検出方法。
  6. 映像を表示する透過型表示パネルの備える面であって、前記映像を表示する表示面とは異なる面を撮影する撮影処理と、
    撮影された映像情報から、前記透過型表示パネルに含まれる発光部から発光され、反射された反射光の輝度および色度に基づいて、前記透過型表示パネルの前記表示面に対して指示された座標を検出する検出処理と、
    をコンピュータに実行させるための、
    座標検出プログラムであって、
    前記検出処理において、
    撮影された映像情報において、指示する前のフレームと指示した後のフレームとの間における反射光の輝度の差分を算出し、算出した差分が閾値を超えたか否かに基づいて、
    かつ、
    反射光の色度が前記表示面に出力される検出対象の映像の色度と等しい場合、
    指示があったと判断する、
    座標検出プログラム
  7. 映像を表示する透過型表示パネルの備える面であって、前記映像を表示する表示面とは異なる面を撮影する撮影処理と、
    撮影された映像情報から、前記透過型表示パネルに含まれる発光部から発光され、反射された反射光の輝度に基づいて、前記透過型表示パネルの前記表示面に対して指示された座標を検出する検出処理と、
    をコンピュータに実行させるための、
    座標検出プログラムであって、
    前記検出処理において、
    撮影された映像情報において、指示する前のフレームと指示した後のフレームとの間における反射光の輝度の差分を算出し、算出した差分が閾値を超えたか否かに基づいて、
    かつ、
    撮影された映像情報に、人物の映像が含まれる場合、
    指示があったと判断する、
    座標検出プログラム
  8. 映像を表示する透過型表示パネルの備える面であって、前記映像を表示する表示面とは異なる面を撮影するカメラ部と、
    撮影された映像情報から、前記透過型表示パネルに含まれる発光部から発光され、反射された反射光の輝度および色度に基づいて、前記透過型表示パネルの前記表示面に対して指示された座標を検出する映像処理部と、
    を備える、
    座標検出システムであって、
    前記映像処理部において、
    撮影された映像情報において、指示する前のフレームと指示した後のフレームとの間における反射光の輝度の差分を算出し、算出した差分が閾値を超えたか否かに基づいて、
    かつ、
    反射光の色度が前記表示面に出力される検出対象の映像の色度と等しい場合、
    指示があったと判断する、
    座標検出システム
  9. 映像を表示する透過型表示パネルの備える面であって、前記映像を表示する表示面とは異なる面を撮影するカメラ部と、
    撮影された映像情報から、前記透過型表示パネルに含まれる発光部から発光され、反射された反射光の輝度に基づいて、前記透過型表示パネルの前記表示面に対して指示された座標を検出する映像処理部と、
    を備える、
    座標検出システムであって、
    前記映像処理部において、
    撮影された映像情報において、指示する前のフレームと指示した後のフレームとの間における反射光の輝度の差分を算出し、算出した差分が閾値を超えたか否かに基づいて、
    かつ、
    撮影された映像情報に、人物の映像が含まれる場合、
    指示があったと判断する、
    座標検出システム
JP2018510019A 2016-04-04 2016-04-04 座標検出方法、座標検出プログラム、及び座標検出システム Active JP6624658B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2016/061000 WO2017175265A1 (ja) 2016-04-04 2016-04-04 座標検出方法、座標検出プログラム、及び座標検出システム

Publications (2)

Publication Number Publication Date
JPWO2017175265A1 JPWO2017175265A1 (ja) 2018-10-04
JP6624658B2 true JP6624658B2 (ja) 2019-12-25

Family

ID=60001002

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018510019A Active JP6624658B2 (ja) 2016-04-04 2016-04-04 座標検出方法、座標検出プログラム、及び座標検出システム

Country Status (4)

Country Link
US (1) US11182022B2 (ja)
JP (1) JP6624658B2 (ja)
CN (1) CN108885518B (ja)
WO (1) WO2017175265A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109883551B (zh) * 2019-02-25 2020-12-01 中国兵器工业第五九研究所 聚合物复合热致变色涂层色差测量方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5136168B2 (ja) * 2008-04-03 2013-02-06 株式会社デンソー 位置検出装置
JP2012027511A (ja) * 2009-04-23 2012-02-09 Univ Of Tsukuba 入力装置
JP5625839B2 (ja) * 2010-12-03 2014-11-19 富士通株式会社 プロジェクタ装置、位置検出プログラム及びプロジェクタシステム
US20140085245A1 (en) * 2012-09-21 2014-03-27 Amazon Technologies, Inc. Display integrated camera array
US9645678B2 (en) * 2012-12-18 2017-05-09 Seiko Epson Corporation Display device, and method of controlling display device
JP6268830B2 (ja) 2013-09-06 2018-01-31 大日本印刷株式会社 カラーフィルタ及びタッチパネル機能付き有機el表示装置
US9489096B2 (en) * 2014-12-23 2016-11-08 Sony Corporation Touch screen touch force measurement based on finger deformation speed
US10198122B2 (en) * 2016-09-30 2019-02-05 Biocatch Ltd. System, device, and method of estimating force applied to a touch surface

Also Published As

Publication number Publication date
WO2017175265A1 (ja) 2017-10-12
US11182022B2 (en) 2021-11-23
CN108885518A (zh) 2018-11-23
US20200319730A1 (en) 2020-10-08
JPWO2017175265A1 (ja) 2018-10-04
CN108885518B (zh) 2022-01-04

Similar Documents

Publication Publication Date Title
WO2019154072A1 (zh) 电子装置、显示屏及拍照控制方法
TWI611354B (zh) 使用圖像重疊減少顯示延遲的系統及方法,以及用於提供回應顯示裝置上所畫路徑之回饋的加速器
US11514650B2 (en) Electronic apparatus and method for controlling thereof
EP2669883B1 (en) Transparent display device and transparency adjustment method thereof
US20130314453A1 (en) Transparent display device and transparency adjustment method thereof
US10019107B2 (en) Correcting for parallax in electronic displays
CN107077212A (zh) 电子显示器照明
JP5300859B2 (ja) 撮像装置、表示撮像装置および電子機器
US9454260B2 (en) System and method for enabling multi-display input
US20080180530A1 (en) Alternating light sources to reduce specular reflection
KR20160015775A (ko) 투명 디스플레이 장치 및 그 제어 방법
KR100974894B1 (ko) 멀티 적외선 카메라 방식의 3차원 공간 터치 장치
KR20120080845A (ko) 광 감지 기능을 구비한 oled 디스플레이 장치
CN101379455A (zh) 输入装置及其方法
TW201214243A (en) Optical touch system and object detection method therefor
EP3672265B1 (en) Image display method
WO2016107606A1 (zh) 基于oled屏的显示方法和装置、存储介质、设备
TW201610977A (zh) 調整電子裝置之螢幕之發光效果之方法
JP6624658B2 (ja) 座標検出方法、座標検出プログラム、及び座標検出システム
TWI745955B (zh) 擴增實境系統與其錨定顯示方法
TWI696863B (zh) 行動裝置以及影像處理方法
TWI479363B (zh) 具有指向功能的可攜式電腦及指向系統
KR101476503B1 (ko) 착용형 디스플레이 장치를 위한 인터랙션 제공 장치 및 방법
US20200097096A1 (en) Displaying images from multiple devices
US10310668B2 (en) Touch screen display system and a method for controlling a touch screen display system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180611

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190820

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191017

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191029

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191121

R150 Certificate of patent or registration of utility model

Ref document number: 6624658

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350