WO2017175265A1 - 座標検出方法、座標検出プログラム、及び座標検出システム - Google Patents
座標検出方法、座標検出プログラム、及び座標検出システム Download PDFInfo
- Publication number
- WO2017175265A1 WO2017175265A1 PCT/JP2016/061000 JP2016061000W WO2017175265A1 WO 2017175265 A1 WO2017175265 A1 WO 2017175265A1 JP 2016061000 W JP2016061000 W JP 2016061000W WO 2017175265 A1 WO2017175265 A1 WO 2017175265A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- video
- display
- display panel
- instruction
- coordinate detection
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/042—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/042—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
- G06F3/0425—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected
Definitions
- FIG. 3 is a schematic block diagram showing reflection of light from the cell from the side surface when the operator does not touch in the transmissive organic EL display according to the embodiment of the present invention.
- FIG. 4 is a schematic block diagram showing the reflection of light from the cell from the side when the operator touches the transmissive organic EL display according to the embodiment of the present invention.
- 3 and 4 show the configuration of a transmissive organic EL display 8 in which a plurality of cells 1 shown in FIGS. 1 and 2 are arranged in a matrix. As shown in FIG. 3, most of the light (shown by a solid line) emitted from the non-transmissive portion 6 passes through the cover glass 7 and is emitted to the front surface, that is, the operator side.
- the organic EL display is a display device that does not require a backlight like a liquid crystal display and emits light by itself.
- FIG. 5 is a diagram showing a state of the transmissive organic EL display when the transmissive organic EL display according to the embodiment of the present invention is viewed from the back side.
- FIG. 5 shows a state of the transmissive organic EL display when the transmissive organic EL display 8 is viewed from the back when the operator touches the surface of the cover glass 7 with a finger F as shown in FIG. ing.
- FIG. 5 when the entire transmissive organic EL display 8 is viewed, only the portion PF touched by the finger appears bright. Note that the hand portion PH other than the portion PF touched by the finger of the operator's hand is also visible from a surface different from the display surface through the transmissive portion 2 of the transmissive organic EL display.
- the video processing unit 21 is a case where there is a luminance difference between a frame before the operator touches and a frame after the touch, and the difference exceeds a preset threshold value.
- the video processing unit 21 calculates the difference in reflected light luminance between the frame before the instruction and the frame after the instruction, and whether or not there is an instruction based on whether or not the calculated difference exceeds the threshold value. Judging. Further, the video processing unit 21 calculates the XY coordinate position of the touched portion when it is determined that there is a touch, and notifies the control unit 22 of the calculation result as touch coordinate information.
- the “computer-readable recording medium” refers to a storage device such as a flexible medium, a magneto-optical disk, a portable medium such as a ROM or a CD-ROM, and a hard disk incorporated in a computer system. Further, the “computer-readable recording medium” refers to a volatile memory (RAM) in a computer system that becomes a server or a client when a program is transmitted via a network such as the Internet or a communication line such as a telephone line. In addition, those holding programs for a certain period of time are also included.
- the program may be a program for realizing a part of the functions described above, and may be a program capable of realizing the functions described above in combination with a program already recorded in a computer system.
- the display device is photographed from the back, and coordinates are detected based on the luminance or chromaticity of the obtained reflected light from the photographed video information. For this reason, in a transmissive display that does not require a structure on the operator side, it is possible to provide a detection method that can detect an operator's touch (instruction) while ensuring transparency.
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Position Input By Displaying (AREA)
- Electroluminescent Light Sources (AREA)
- Studio Devices (AREA)
- Control Of El Displays (AREA)
Abstract
映像を表示する透過型表示パネルの備える面であって、前記映像を表示する表示面とは異なる面を撮影するカメラ部と、撮影された映像情報から、前記透過型表示パネルに含まれる発光部から発光され、反射された反射光の輝度または色度に基づいて、前記透過型表示パネルの前記表示面に対して指示された座標を検出する映像処理部と、を備える、座標検出システムである。
Description
本発明は、座標検出方法、座標検出プログラム、及び座標検出システムに関する。
昨今、有機ELを活用した透過型ディスプレイが製品化され、その透過の特徴を活かし、ショウウィンドウ等のウィンドウディスプレイ・サイネージへの応用が期待されている。また、サイネージにおいては、単にコンテンツを表示するだけではなく、タッチパネル等を利用した、インタラクティブなものが求められるようになってきた。
大型ディスプレイ用タッチパネルとして、一般的なものとしては、静電容量方式タイプ、赤外線方式タイプ等がある(特許文献1参照)。
しかしながら、静電容量方式タイプでは、表面に電極が必要であり透明性(透過性)が損なわれる。赤外線方式タイプでは、ディスプレイ枠だけなので透過性が損なわれることはない。しかしながら、ディスプレイ枠を、タッチを行う操作者側(表示面側)に設置する必要があり、タッチパネルの大きさや形に限定が出てくる。
解決しようとする問題点は、操作者側に構造物(電極やディスプレイ枠)を必要としない透過型ディスプレイに最適な透過型ディスプレイに対する指示の入力方式がないという点にある。
すなわち、本願の課題は、操作者側に構造物を必要としない透過型ディスプレイにおいて、透過性を確保しながら操作者の透過型ディスプレイに対する指示(人のタッチによる指示を含む)を検出できる座標検出方法等を提供することにある。
解決しようとする問題点は、操作者側に構造物(電極やディスプレイ枠)を必要としない透過型ディスプレイに最適な透過型ディスプレイに対する指示の入力方式がないという点にある。
すなわち、本願の課題は、操作者側に構造物を必要としない透過型ディスプレイにおいて、透過性を確保しながら操作者の透過型ディスプレイに対する指示(人のタッチによる指示を含む)を検出できる座標検出方法等を提供することにある。
本発明は、映像を表示する透過型表示パネルの備える面であって、前記映像を表示する表示面とは異なる面を撮影する撮影工程と、撮影された映像情報から、前記透過型表示パネルに含まれる発光部から発光され、反射された反射光の輝度または色度に基づいて、前記透過型表示パネルの前記表示面に対して指示された座標を検出する検出工程と、を有する、座標検出方法である。
本発明は、映像を表示する透過型表示パネルの備える面であって、前記映像を表示する表示面とは異なる面を撮影する撮影処理と、撮影された映像情報から、前記透過型表示パネルに含まれる発光部から発光され、反射された反射光の輝度または色度に基づいて、前記透過型表示パネルの前記表示面に対して指示された座標を検出する検出処理と、をコンピュータに実行させるための、座標検出プログラムである。
本発明は、映像を表示する透過型表示パネルの備える面であって、前記映像を表示する表示面とは異なる面を撮影するカメラ部と、撮影された映像情報から、前記透過型表示パネルに含まれる発光部から発光され、反射された反射光の輝度または色度に基づいて、前記透過型表示パネルの前記表示面に対して指示された座標を検出する映像処理部と、を備える、座標検出システムである。
本発明によれば、映像を表示する透過型表示パネルの備える面であって、映像を表示する表示面とは異なる面を撮影し、撮影された映像情報から、透過型表示パネルに含まれる発光部から発光され、反射された反射光の輝度または色度に基づいて、透過型表示パネルの表示面に対して指示された座標を検出する。これにより、操作者側に構造物を必要とせず、透過性を確保しながら操作者の透過型表示パネルに対する指示を検出できる座標検出方法等を提供することができる。
以下、本発明の一実施形態による検出システムについて図面を参照して説明する。図1は、本発明の実施形態における透過型有機ELディスプレイ(透過型表示パネル)を構成するセル(自発光素子)の構成を正面側から示す概略ブロック図である。また、図2は、本発明の実施形態における透過型有機ELディスプレイを構成するセルの構成を側面側から示す概略ブロック図である。
透過型有機ELディスプレイは、図1及び図2に示すセル1が画素分複数マトリクス状に配置された構成となっている。図1は、セル1を正面側から見た図であり、図2は、セル1を側面側から見た図である。
図1に示すようにセル1は、透過部2と、RGBの発光部(R発光部3と、G発光部4と、B発光部5とからなる有機EL素子)と、を含んで構成される。
透過部2は、セル1の半分の領域を占め、向こう側(奥側)である前面が透けて見える部分である。R発光部3は、赤色を前面側へ自発光する非透過部である。また、G発光部4は、緑色を前面側へ自発光する非透過部である。また、B発光部5は、青色を前面側へ自発光する非透過部である。
セル1を横から見ると、図2に示すように、透過部2と非透過部6(図1に示すR発光部3、G発光部4、B発光部5)との上に、カバーガラス7が付いた構成となっている。
透過型有機ELディスプレイは、図1及び図2に示すセル1が画素分複数マトリクス状に配置された構成となっている。図1は、セル1を正面側から見た図であり、図2は、セル1を側面側から見た図である。
図1に示すようにセル1は、透過部2と、RGBの発光部(R発光部3と、G発光部4と、B発光部5とからなる有機EL素子)と、を含んで構成される。
透過部2は、セル1の半分の領域を占め、向こう側(奥側)である前面が透けて見える部分である。R発光部3は、赤色を前面側へ自発光する非透過部である。また、G発光部4は、緑色を前面側へ自発光する非透過部である。また、B発光部5は、青色を前面側へ自発光する非透過部である。
セル1を横から見ると、図2に示すように、透過部2と非透過部6(図1に示すR発光部3、G発光部4、B発光部5)との上に、カバーガラス7が付いた構成となっている。
図3は、本発明の実施形態における透過型有機ELディスプレイにおいて操作者がタッチしないときの、セルからの光の反射を側面側から示す概略ブロック図である。また、図4は、本発明の実施形態における透過型有機ELディスプレイにおいて操作者がタッチしたときの、セルからの光の反射を側面側から示す概略ブロック図である。図3及び図4は、図1及び図2に示すセル1が複数マトリクス状に配置された透過型有機ELディスプレイ8の構成を示している。
図3に示すように、非透過部6から出た、ほとんどの光(実線で示す)はカバーガラス7を透過し、前面、すなわち操作者側に放出される。一部の光(破線で示す)はカバーガラス7で反射し、透過部2を透過して背面に帰ってくる。
しかし、図4に示すように、カバーガラス7の表面を操作者が指F等で触れると、その部分の反射率が変化し、多くの光が透過部2を透過して背面に帰ってくることとなる。
このように、有機ELディスプレイは、液晶ディスプレイのようにバックライトは不要であり、自発光するディスプレイ装置である。
図3に示すように、非透過部6から出た、ほとんどの光(実線で示す)はカバーガラス7を透過し、前面、すなわち操作者側に放出される。一部の光(破線で示す)はカバーガラス7で反射し、透過部2を透過して背面に帰ってくる。
しかし、図4に示すように、カバーガラス7の表面を操作者が指F等で触れると、その部分の反射率が変化し、多くの光が透過部2を透過して背面に帰ってくることとなる。
このように、有機ELディスプレイは、液晶ディスプレイのようにバックライトは不要であり、自発光するディスプレイ装置である。
図5は、本発明の実施形態における透過型有機ELディスプレイを背面から見たときの透過型有機ELディスプレイの状態を示す図である。
図5は、図4に示したようにカバーガラス7の表面を操作者が指Fで触れたときに、透過型有機ELディスプレイ8を背面から見たときの透過型有機ELディスプレイの状態を示している。図5に示すように、透過型有機ELディスプレイ8の全体を見ると、指の触れた部分PFのみ明るく見えることとなる。なお、操作者の手のうち指の触れた部分PF以外の手の部分PHも、透過型有機ELディスプレイの透過部2を介し、表示面とは異なる面から視認可能となっている。
なお、本実施形態において、操作者(人物)が透過型有機ELディスプレイをタッチすることは、透過型有機ELディスプレイに対して指示(入力)する方法の一例として説明するものであり、他の指示方法もある。すなわち、人の指による直接のタッチにより透過型有機ELディスプレイに対して指示する方法だけでなく、例えば、入力デバイス(例えばタッチペン)を用いて透過型有機ELディスプレイに対して指示する方法、反射光が発生する程度に指などを透過型有機ELディスプレイに対して近接した状態にすることにより透過型有機ELディスプレイに対して指示する方法もある。
図5は、図4に示したようにカバーガラス7の表面を操作者が指Fで触れたときに、透過型有機ELディスプレイ8を背面から見たときの透過型有機ELディスプレイの状態を示している。図5に示すように、透過型有機ELディスプレイ8の全体を見ると、指の触れた部分PFのみ明るく見えることとなる。なお、操作者の手のうち指の触れた部分PF以外の手の部分PHも、透過型有機ELディスプレイの透過部2を介し、表示面とは異なる面から視認可能となっている。
なお、本実施形態において、操作者(人物)が透過型有機ELディスプレイをタッチすることは、透過型有機ELディスプレイに対して指示(入力)する方法の一例として説明するものであり、他の指示方法もある。すなわち、人の指による直接のタッチにより透過型有機ELディスプレイに対して指示する方法だけでなく、例えば、入力デバイス(例えばタッチペン)を用いて透過型有機ELディスプレイに対して指示する方法、反射光が発生する程度に指などを透過型有機ELディスプレイに対して近接した状態にすることにより透過型有機ELディスプレイに対して指示する方法もある。
図6は、本実施形態の検出システムの特徴を説明するための図である。検出システム100は、透過型有機ELディスプレイ8(ディスプレイ装置)と、カメラ部11と、PC20と、を含んで構成される。
カメラ部11は、透過型有機ELディスプレイ8(映像表示部)を背面から、すなわち、映像を表示する透過型有機ELディスプレイ8の備える面であって、映像を表示する表示面とは異なる面を撮影する。
PC(Personal Computer)20は、映像処理機能を有する映像処理部を含んで構成される。映像処理部は、カメラ部11からの映像情報から、操作者Mにタッチされて明るくなった部分PFを画像処理し抽出し、抽出結果から表示面における部分PFのXYの座標位置(タッチ座標情報)を算出する。ここで、映像処理部は、カメラ部11により撮影された映像情報から、透過型有機ELディスプレイ8に含まれる発光部から発光され、反射された反射光の輝度または色度に基づいて座標を検出する。
PC20が有する制御部は、映像処理部からのタッチ座標情報に基づき、表示する映像を変化させたり、予め決められた動作をさせたり等の制御を行う。
PC20が有する映像出力部は、制御部からの指示にしたがい、映像を出力する。
透過型有機ELディスプレイ8は、映像出力部から出力された映像を表示する。
カメラ部11は、透過型有機ELディスプレイ8(映像表示部)を背面から、すなわち、映像を表示する透過型有機ELディスプレイ8の備える面であって、映像を表示する表示面とは異なる面を撮影する。
PC(Personal Computer)20は、映像処理機能を有する映像処理部を含んで構成される。映像処理部は、カメラ部11からの映像情報から、操作者Mにタッチされて明るくなった部分PFを画像処理し抽出し、抽出結果から表示面における部分PFのXYの座標位置(タッチ座標情報)を算出する。ここで、映像処理部は、カメラ部11により撮影された映像情報から、透過型有機ELディスプレイ8に含まれる発光部から発光され、反射された反射光の輝度または色度に基づいて座標を検出する。
PC20が有する制御部は、映像処理部からのタッチ座標情報に基づき、表示する映像を変化させたり、予め決められた動作をさせたり等の制御を行う。
PC20が有する映像出力部は、制御部からの指示にしたがい、映像を出力する。
透過型有機ELディスプレイ8は、映像出力部から出力された映像を表示する。
このように、検出システム100は、透過型有機ELディスプレイ8を背面から撮影し、撮影された映像情報から、取得した反射光の輝度または色度に基づいて座標を検出する。このため、操作者側に構造物を必要としない透過型有機ELディスプレイ8において、透過性を確保しながら操作者のタッチ(指示)を検出できる検出方法等を提供することができる。
[第1実施形態]
図7は、本発明の第1実施形態における検出システムの構成を示す概略ブロック図である。
検出システム100aは、カメラ部11と、映像処理部21と、制御部22と、映像出力部23と、映像表示部24と、を含んで構成される。
カメラ部11は、映像表示部24を背面から撮影し、その映像情報を映像処理部21に送付する。
映像処理部21は、カメラ部11からの映像情報から、操作者にタッチされて明るくなった部分PFを画像処理し抽出し、抽出結果から表示面における部分PFのXYの座標位置(タッチ座標情報)を算出する。ここで、映像処理部21は、カメラ部11により撮影された映像情報から、取得した反射光の輝度または色度に基づいて座標を検出する。
図7は、本発明の第1実施形態における検出システムの構成を示す概略ブロック図である。
検出システム100aは、カメラ部11と、映像処理部21と、制御部22と、映像出力部23と、映像表示部24と、を含んで構成される。
カメラ部11は、映像表示部24を背面から撮影し、その映像情報を映像処理部21に送付する。
映像処理部21は、カメラ部11からの映像情報から、操作者にタッチされて明るくなった部分PFを画像処理し抽出し、抽出結果から表示面における部分PFのXYの座標位置(タッチ座標情報)を算出する。ここで、映像処理部21は、カメラ部11により撮影された映像情報から、取得した反射光の輝度または色度に基づいて座標を検出する。
より具体的に、映像処理部21は、操作者がタッチする前のフレームとタッチした後のフレームとの間に輝度の差分がある場合であって、その差分がある予め設定した閾値を超えた場合(第1条件)、操作者によりタッチがあったと判断する。すなわち、映像処理部21は、指示する前のフレームと指示した後のフレームとの間における反射光の輝度の差分を算出し、算出した差分が閾値を超えたか否かに基づいて、指示の有無を判断する。
また、映像処理部21は、タッチがあったと判断した場合のタッチした部分のXYの座標位置を算出し、算出結果をタッチ座標情報として制御部22に通知する。
また、映像処理部21は、タッチがあったと判断した場合のタッチした部分のXYの座標位置を算出し、算出結果をタッチ座標情報として制御部22に通知する。
制御部22は、映像処理部からのタッチ座標情報に基づき、表示する映像を変化させたり、予め決められた動作をさせたり等の制御を行う。より具体的には、制御部22は、タッチ座標情報と、映像表示部24に表示する指示ボタン(検出対象の映像)の座標情報が等しい場合に、上述の制御を行う。
映像出力部23は、制御部22からの指示にしたがい、映像表示部24に対して映像を出力する。
映像表示部24は、制御部22から出力された映像を表示する。
映像出力部23は、制御部22からの指示にしたがい、映像表示部24に対して映像を出力する。
映像表示部24は、制御部22から出力された映像を表示する。
図8は、図7に示す検出システムの処理を示すフローチャートである。
映像表示部24は、映像を表示する(ステップST1)。具体的には、映像表示部24は、制御部22から出力された映像を表示する。
カメラ部11は、映像表示部24を背面から撮影する(ステップST2)。具体的には、カメラ部11は、映像表示部24を背面から撮影し、その映像情報を映像処理部21に絶えず送付する。
映像表示部24は、映像を表示する(ステップST1)。具体的には、映像表示部24は、制御部22から出力された映像を表示する。
カメラ部11は、映像表示部24を背面から撮影する(ステップST2)。具体的には、カメラ部11は、映像表示部24を背面から撮影し、その映像情報を映像処理部21に絶えず送付する。
映像処理部21は、カメラ部11から送付された映像情報に明るい部分があるか否かを判断する(ステップST3)。映像処理部21は、上記第1条件を満たす場合、操作者によりタッチがあったと判断する。すなわち、映像処理部21は、操作者がタッチする前のフレームとタッチした後のフレームとの間に輝度の差分がある場合であって、その差分がある予め設定した閾値を超えた場合(第1条件)、操作者によりタッチがあったと判断する。
映像処理部21は、XYの座標位置を算出し、送付する(ステップST4)。すなわち、映像処理部21は、タッチがあったと判断した場合(ステップST3-Yes)、タッチした部分のXYの座標位置を算出し、算出結果をタッチ座標情報として制御部22に通知する。
制御部22は、タッチされたXY座標(タッチ座標)に基づき動作する(ステップST5)。すなわち、制御部22は、映像処理部からのタッチ座標情報に基づき、表示する映像を変化させたり、予め決められた動作をさせたり等の制御を行う。より具体的には、制御部22は、タッチ座標情報と、映像表示部24に表示する指示ボタンの座標情報が等しい場合に、上述の制御を行う。
制御部22は、タッチされたXY座標(タッチ座標)に基づき動作する(ステップST5)。すなわち、制御部22は、映像処理部からのタッチ座標情報に基づき、表示する映像を変化させたり、予め決められた動作をさせたり等の制御を行う。より具体的には、制御部22は、タッチ座標情報と、映像表示部24に表示する指示ボタンの座標情報が等しい場合に、上述の制御を行う。
本実施形態によれば、映像表示部24を背面から撮影し、カメラ部11により撮影された映像情報から、映像処理部21が取得した反射光の輝度に基づいて座標を検出する。このため、操作者側に構造物を必要としない映像表示部24において、透過性を確保しながら操作者のタッチ(指示)を検出できる検出方法等を提供することができる。
[第2実施形態]
図9は、本発明の第2実施形態における検出システムの構成を示す概略ブロック図である。
検出システム100bは、カメラ部11と、映像処理部21aと、制御部22と、映像出力部23aと、映像表示部24と、を含んで構成される。
検出システム100bの構成は、第1実施形態における検出システム100aと同じ装置構成だが、下記の点が相違する。
すなわち、映像出力部23aから映像処理部21aへフィードバックがはいっているところが異なる。つまり、映像出力部23aからの映像は映像表示部24のみではなく、映像処理部21aにも入力される。
図9は、本発明の第2実施形態における検出システムの構成を示す概略ブロック図である。
検出システム100bは、カメラ部11と、映像処理部21aと、制御部22と、映像出力部23aと、映像表示部24と、を含んで構成される。
検出システム100bの構成は、第1実施形態における検出システム100aと同じ装置構成だが、下記の点が相違する。
すなわち、映像出力部23aから映像処理部21aへフィードバックがはいっているところが異なる。つまり、映像出力部23aからの映像は映像表示部24のみではなく、映像処理部21aにも入力される。
カメラ部11は、映像表示部24を背面から撮影し、その映像情報を映像処理部21aに送付する。
映像処理部21aは、カメラ部11からの映像情報から、操作者にタッチされて明るくなった部分PFを画像処理し抽出し、抽出結果から表示面における部分PFのXYの座標位置(タッチ座標情報)を算出する。ここで、映像処理部21aは、カメラ部11により撮影された映像情報から、取得した反射光の輝度または色度に基づいて座標を検出する。
映像処理部21aは、カメラ部11からの映像情報から、操作者にタッチされて明るくなった部分PFを画像処理し抽出し、抽出結果から表示面における部分PFのXYの座標位置(タッチ座標情報)を算出する。ここで、映像処理部21aは、カメラ部11により撮影された映像情報から、取得した反射光の輝度または色度に基づいて座標を検出する。
より具体的に、映像処理部21aは、操作者がタッチする前のフレームとタッチした後のフレームとの間に輝度の差分がある場合であって、その差分がある予め設定した閾値を超えた場合(第1条件)、映像情報が明るくなったと判断する。しかし、ウインドウディスプレイでは外部からの光、例えばウインドウディスプレイが道路沿いに設置されている場合、車のヘッドライトなどが外乱光として入り込む可能性がある。そのため、映像処理部21aは、明るくなった部分を検出した際、映像出力部23aから入力された映像の同じ位置の映像の色度と一致するか否かの比較を行う。そして、映像処理部21aは、色度が一致する場合(第2条件)、タッチされ明るくなった部分は当該部分の反射光であるため、操作者によるタッチがあったと判断する。一方、色度が全く異なる場合、明るくなった部分は外乱光によるものとみなし、操作者によるタッチがなかったと判断する。また、映像処理部21aは、タッチがあったと判断した場合のタッチした部分のXYの座標位置を算出し、算出結果をタッチ座標情報として制御部22に通知する。
制御部22は、映像処理部からのタッチ座標情報に基づき、表示する映像を変化させたり、予め決められた動作をさせたり等の制御を行う。より具体的には、制御部22は、タッチ座標情報と、映像表示部24に表示する指示ボタンの座標情報が等しい場合に、上述の制御を行う。
映像出力部23aは、制御部22からの指示にしたがい、映像表示部24に対して映像を出力する。また、映像出力部23aは、上述のように映像処理部21aがタッチ座標情報を算出するために、映像処理部21aに対して映像を出力する。
映像表示部24は、制御部22から出力された映像を表示する。
映像出力部23aは、制御部22からの指示にしたがい、映像表示部24に対して映像を出力する。また、映像出力部23aは、上述のように映像処理部21aがタッチ座標情報を算出するために、映像処理部21aに対して映像を出力する。
映像表示部24は、制御部22から出力された映像を表示する。
図10は、図9に示す検出システムの処理を示すフローチャートである。
映像表示部24は、映像を表示する(ステップST11)。具体的には、映像表示部24は、制御部22から出力された映像を表示する。
カメラ部11は、映像表示部24を背面から撮影する(ステップST12)。具体的には、カメラ部11は、映像表示部24を背面から撮影し、その映像情報を映像処理部21aに絶えず送付する。
映像表示部24は、映像を表示する(ステップST11)。具体的には、映像表示部24は、制御部22から出力された映像を表示する。
カメラ部11は、映像表示部24を背面から撮影する(ステップST12)。具体的には、カメラ部11は、映像表示部24を背面から撮影し、その映像情報を映像処理部21aに絶えず送付する。
映像処理部21aは、カメラ部11から送付された映像情報に明るい部分があるか否かを判断する(ステップST13)。映像処理部21aは、上記第1条件を満たす場合、操作者によりタッチがあったと判断する。すなわち、映像処理部21aは、操作者がタッチする前のフレームとタッチした後のフレームとの間に輝度の差分がある場合であって、その差分がある予め設定した閾値を超えた場合(第1条件)、映像情報に明るい部分があったと判断する。
映像処理部21aは、映像出力部23aから出力された映像の同じ部分と同じ色か否かを判断する(ステップST14)。具体的には、映像処理部21aは、明るくなった部分を検出した際(ステップST13-Yes)、映像出力部23aから入力された映像の同じ位置の映像の色度と一致するか否かの比較を行う。そして、映像処理部21aは、色度が一致する場合(第2条件)、タッチされ明るくなった部分は当該部分の反射光であるため、操作者によるタッチがあったと判断する。
映像処理部21aは、XYの座標位置を算出し、送付する(ステップST15)。すなわち、映像処理部21aは、タッチがあったと判断した場合(ステップST14-Yes)、タッチした部分のXYの座標位置を算出し、算出結果をタッチ座標情報として制御部22に通知する。
制御部22は、タッチされたXY座標(タッチ座標)に基づき動作する(ステップST16)。すなわち、制御部22は、映像処理部からのタッチ座標情報に基づき、表示する映像を変化させたり、予め決められた動作をさせたり等の制御を行う。より具体的には、制御部22は、タッチ座標情報と、映像表示部24に表示する指示ボタンの座標情報とが等しい場合に、上述の制御を行う。
制御部22は、タッチされたXY座標(タッチ座標)に基づき動作する(ステップST16)。すなわち、制御部22は、映像処理部からのタッチ座標情報に基づき、表示する映像を変化させたり、予め決められた動作をさせたり等の制御を行う。より具体的には、制御部22は、タッチ座標情報と、映像表示部24に表示する指示ボタンの座標情報とが等しい場合に、上述の制御を行う。
本実施形態によれば、映像表示部24を背面から撮影し、カメラ部11により撮影された映像情報から、映像処理部21aが取得した反射光の輝度と色度に基づいて座標を検出するので、表示に使っている光を利用して透過性を確保し、かつ、外乱光の影響を受けにくくすることが可能となる。このため、操作者側に構造物を必要としない透過型ディスプレイにおいて、透過性を確保しながら操作者のタッチ(指示)を検出できる検出方法等を提供することができる。
以上、本発明の好ましい実施形態を説明したが、本発明はこれら実施形態およびその変形例に限定されることはない。本発明の趣旨を逸脱しない範囲で、構成の付加、省略、置換、およびその他の変更が可能である。
例えば、第2実施形態では、「撮影された映像情報において、タッチする前のフレームとタッチした後のフレームとの間における反射光の輝度の差分を算出し、算出した差分が予め設定された閾値を超え、かつ、反射光の色度が表示面に出力される指示ボタンの映像の色度と等しい場合、タッチがあったと判断する」構成について記載した。この構成を「撮影された映像情報において、タッチする前のフレームとタッチした後のフレームとの間における反射光の輝度の差分を算出し、算出した差分が予め設定された閾値を超え、かつ、撮影された映像情報において、操作者(人物)の映像が含まれる場合、タッチがあったと判断する」構成としてもよい。これにより、外乱光を除外することができる。
なお、人を含む映像が表示されている場合、映像を映しているのは映像出力部であるので、操作者とは区別できる。
なお、人を含む映像が表示されている場合、映像を映しているのは映像出力部であるので、操作者とは区別できる。
また、実施形態の説明では、指示ボタンは1個の場合について説明したが、指示ボタンが複数個ある、いわゆるマルチタッチ構成にしてもよい。
また、実施形態の説明では、操作者は一人の場合について説明したが、操作者は複数人いてもよい。
また、実施形態の説明では、透過型有機ELディスプレイは、前面および背面のうち前面側から映像を表示する構成について説明したが、両面に映像を表示する構成であってもよい。
また、実施形態の説明では、操作者は一人の場合について説明したが、操作者は複数人いてもよい。
また、実施形態の説明では、透過型有機ELディスプレイは、前面および背面のうち前面側から映像を表示する構成について説明したが、両面に映像を表示する構成であってもよい。
また、検出システム100、100a、100bの機能を実現するための検出プログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、検出システム100、100a、100bにおいて、カメラ部が行う撮影工程と、映像処理部が行う検出工程と、を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM)のように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよい。
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM)のように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよい。
本発明によれば、ディスプレイ装置を背面から撮影し、撮影された映像情報から、取得した反射光の輝度または色度に基づいて座標を検出する。このため、操作者側に構造物を必要としない透過型ディスプレイにおいて、透過性を確保しながら操作者のタッチ(指示)を検出できる検出方法等を提供することができる。
1 セル
2 透過部
3 R発光部
4 G発光部
5 B発光部
6 非透過部
7 カバーガラス
8 透過型有機ELディスプレイ
11 カメラ部
21,21a 映像処理部
22 制御部
23,23a 映像出力部
24 映像表示部
20 PC
100,100a,100b 検出システム
2 透過部
3 R発光部
4 G発光部
5 B発光部
6 非透過部
7 カバーガラス
8 透過型有機ELディスプレイ
11 カメラ部
21,21a 映像処理部
22 制御部
23,23a 映像出力部
24 映像表示部
20 PC
100,100a,100b 検出システム
Claims (9)
- 映像を表示する透過型表示パネルの備える面であって、前記映像を表示する表示面とは異なる面を撮影する撮影工程と、
撮影された映像情報から、前記透過型表示パネルに含まれる発光部から発光され、反射された反射光の輝度または色度に基づいて、前記透過型表示パネルの前記表示面に対して指示された座標を検出する検出工程と、
を有する、
座標検出方法。 - 前記検出工程において、
撮影された映像情報において、指示する前のフレームと指示した後のフレームとの間における反射光の輝度の差分を算出し、算出した差分が閾値を超えたか否かに基づいて、指示の有無を判断する、
請求項1に記載の座標検出方法。 - 前記検出工程において、
撮影された映像情報において、指示する前のフレームと指示した後のフレームとの間における反射光の輝度の差分を算出し、算出した差分が閾値を超えたか否かに基づいて、
かつ、
反射光の色度が前記表示面に出力される検出対象の映像の色度と等しい場合、
指示があったと判断する、
請求項1に記載の座標検出方法。 - 前記検出工程において、
撮影された映像情報において、指示する前のフレームと指示した後のフレームとの間における反射光の輝度の差分を算出し、算出した差分が閾値を超えたか否かに基づいて、
かつ、
撮影された映像情報に、人物の映像が含まれる場合、
指示があったと判断する、
請求項1に記載の座標検出方法。 - 前記表示面に出力される映像は、検出対象の映像を複数含む、
請求項1から請求項4いずれか一項に記載の座標検出方法。 - 前記透過型表示パネルに指示を与える人物は複数人である、
請求項1から請求項5いずれか一項に記載の座標検出方法。 - 前記発光部は、有機EL素子を含む、
請求項1から請求項6いずれか一項に記載の座標検出方法。 - 映像を表示する透過型表示パネルの備える面であって、前記映像を表示する表示面とは異なる面を撮影する撮影処理と、
撮影された映像情報から、前記透過型表示パネルに含まれる発光部から発光され、反射された反射光の輝度または色度に基づいて、前記透過型表示パネルの前記表示面に対して指示された座標を検出する検出処理と、
をコンピュータに実行させるための、
座標検出プログラム。 - 映像を表示する透過型表示パネルの備える面であって、前記映像を表示する表示面とは異なる面を撮影するカメラ部と、
撮影された映像情報から、前記透過型表示パネルに含まれる発光部から発光され、反射された反射光の輝度または色度に基づいて、前記透過型表示パネルの前記表示面に対して指示された座標を検出する映像処理部と、
を備える、
座標検出システム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201680084080.0A CN108885518B (zh) | 2016-04-04 | 2016-04-04 | 坐标检测方法、坐标检测程序以及坐标检测系统 |
US16/090,008 US11182022B2 (en) | 2016-04-04 | 2016-04-04 | Coordinate detection method, coordinate detection program, and coordinate detection system |
PCT/JP2016/061000 WO2017175265A1 (ja) | 2016-04-04 | 2016-04-04 | 座標検出方法、座標検出プログラム、及び座標検出システム |
JP2018510019A JP6624658B2 (ja) | 2016-04-04 | 2016-04-04 | 座標検出方法、座標検出プログラム、及び座標検出システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2016/061000 WO2017175265A1 (ja) | 2016-04-04 | 2016-04-04 | 座標検出方法、座標検出プログラム、及び座標検出システム |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2017175265A1 true WO2017175265A1 (ja) | 2017-10-12 |
Family
ID=60001002
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2016/061000 WO2017175265A1 (ja) | 2016-04-04 | 2016-04-04 | 座標検出方法、座標検出プログラム、及び座標検出システム |
Country Status (4)
Country | Link |
---|---|
US (1) | US11182022B2 (ja) |
JP (1) | JP6624658B2 (ja) |
CN (1) | CN108885518B (ja) |
WO (1) | WO2017175265A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109883551B (zh) * | 2019-02-25 | 2020-12-01 | 中国兵器工业第五九研究所 | 聚合物复合热致变色涂层色差测量方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009251827A (ja) * | 2008-04-03 | 2009-10-29 | Denso Corp | 位置検出装置 |
JP2012027511A (ja) * | 2009-04-23 | 2012-02-09 | Univ Of Tsukuba | 入力装置 |
JP2012118473A (ja) * | 2010-12-03 | 2012-06-21 | Fujitsu Ltd | プロジェクタ装置、位置検出プログラム、画像供給方法及びプロジェクタシステム |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20140085245A1 (en) * | 2012-09-21 | 2014-03-27 | Amazon Technologies, Inc. | Display integrated camera array |
US9645678B2 (en) * | 2012-12-18 | 2017-05-09 | Seiko Epson Corporation | Display device, and method of controlling display device |
JP6268830B2 (ja) | 2013-09-06 | 2018-01-31 | 大日本印刷株式会社 | カラーフィルタ及びタッチパネル機能付き有機el表示装置 |
US9489096B2 (en) * | 2014-12-23 | 2016-11-08 | Sony Corporation | Touch screen touch force measurement based on finger deformation speed |
US10198122B2 (en) * | 2016-09-30 | 2019-02-05 | Biocatch Ltd. | System, device, and method of estimating force applied to a touch surface |
-
2016
- 2016-04-04 WO PCT/JP2016/061000 patent/WO2017175265A1/ja active Application Filing
- 2016-04-04 JP JP2018510019A patent/JP6624658B2/ja active Active
- 2016-04-04 CN CN201680084080.0A patent/CN108885518B/zh active Active
- 2016-04-04 US US16/090,008 patent/US11182022B2/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009251827A (ja) * | 2008-04-03 | 2009-10-29 | Denso Corp | 位置検出装置 |
JP2012027511A (ja) * | 2009-04-23 | 2012-02-09 | Univ Of Tsukuba | 入力装置 |
JP2012118473A (ja) * | 2010-12-03 | 2012-06-21 | Fujitsu Ltd | プロジェクタ装置、位置検出プログラム、画像供給方法及びプロジェクタシステム |
Also Published As
Publication number | Publication date |
---|---|
CN108885518A (zh) | 2018-11-23 |
JPWO2017175265A1 (ja) | 2018-10-04 |
JP6624658B2 (ja) | 2019-12-25 |
US11182022B2 (en) | 2021-11-23 |
US20200319730A1 (en) | 2020-10-08 |
CN108885518B (zh) | 2022-01-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9123285B2 (en) | Transparent display device and transparency adjustment method thereof | |
US11514650B2 (en) | Electronic apparatus and method for controlling thereof | |
US20130314453A1 (en) | Transparent display device and transparency adjustment method thereof | |
US20200134282A1 (en) | Image processing method, device, electronic apparatus and storage medium | |
US20160019718A1 (en) | Method and system for providing visual feedback in a virtual reality environment | |
US8884928B1 (en) | Correcting for parallax in electronic displays | |
TWI695296B (zh) | 內建感應器及光源模組之鍵盤裝置 | |
WO2010047256A1 (ja) | 撮像装置、表示撮像装置および電子機器 | |
KR20160015775A (ko) | 투명 디스플레이 장치 및 그 제어 방법 | |
US20150271457A1 (en) | Display device, image display system, and information processing method | |
US9811197B2 (en) | Display apparatus and controlling method thereof | |
US20180188890A1 (en) | Electronic whiteboard system and electronic whiteboard and operation method thereof | |
JP2017182109A (ja) | 表示システム、情報処理装置、プロジェクター及び情報処理方法 | |
US11682275B2 (en) | Electronic device with auxiliary lighting function and operation method thereof | |
WO2017175265A1 (ja) | 座標検出方法、座標検出プログラム、及び座標検出システム | |
KR101476503B1 (ko) | 착용형 디스플레이 장치를 위한 인터랙션 제공 장치 및 방법 | |
TWI696863B (zh) | 行動裝置以及影像處理方法 | |
KR101065771B1 (ko) | 터치 디스플레이 시스템 | |
TW201741622A (zh) | 實體影像與虛擬影像之間轉換的方法及其系統 | |
TWI479363B (zh) | 具有指向功能的可攜式電腦及指向系統 | |
KR20090090980A (ko) | 영상을 이용한 포인팅 장치 | |
TWI509488B (zh) | 光學觸控系統 | |
US10310668B2 (en) | Touch screen display system and a method for controlling a touch screen display system | |
US9430823B1 (en) | Determining camera sensor isolation | |
US20240242683A1 (en) | Transparent display apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
ENP | Entry into the national phase |
Ref document number: 2018510019 Country of ref document: JP Kind code of ref document: A |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 16897824 Country of ref document: EP Kind code of ref document: A1 |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 16897824 Country of ref document: EP Kind code of ref document: A1 |