JP2020101878A - 画像処理装置、および検出機能付き表示装置 - Google Patents
画像処理装置、および検出機能付き表示装置 Download PDFInfo
- Publication number
- JP2020101878A JP2020101878A JP2018237899A JP2018237899A JP2020101878A JP 2020101878 A JP2020101878 A JP 2020101878A JP 2018237899 A JP2018237899 A JP 2018237899A JP 2018237899 A JP2018237899 A JP 2018237899A JP 2020101878 A JP2020101878 A JP 2020101878A
- Authority
- JP
- Japan
- Prior art keywords
- image
- illumination light
- position detection
- illumination
- image recognition
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 252
- 238000005286 illumination Methods 0.000 claims abstract description 383
- 238000003384 imaging method Methods 0.000 claims abstract description 52
- 230000003287 optical effect Effects 0.000 claims description 49
- 238000000034 method Methods 0.000 claims description 12
- 238000005096 rolling process Methods 0.000 claims description 9
- 230000010287 polarization Effects 0.000 description 24
- 238000000926 separation method Methods 0.000 description 16
- 238000009792 diffusion process Methods 0.000 description 11
- 238000005516 engineering process Methods 0.000 description 7
- 230000000052 comparative effect Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 230000004888 barrier function Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 239000004973 liquid crystal related substance Substances 0.000 description 4
- 230000009467 reduction Effects 0.000 description 4
- 238000001228 spectrum Methods 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 230000000593 degrading effect Effects 0.000 description 2
- 238000006073 displacement reaction Methods 0.000 description 2
- 230000001771 impaired effect Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
- G06V10/12—Details of acquisition arrangements; Constructional details thereof
- G06V10/14—Optical characteristics of the device performing the acquisition or on the illumination arrangements
- G06V10/143—Sensing or illuminating at different wavelengths
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B21/00—Projectors or projection-type viewers; Accessories therefor
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B21/00—Projectors or projection-type viewers; Accessories therefor
- G03B21/14—Details
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/042—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
- G06V10/12—Details of acquisition arrangements; Constructional details thereof
- G06V10/14—Optical characteristics of the device performing the acquisition or on the illumination arrangements
- G06V10/145—Illumination specially adapted for pattern recognition, e.g. using gratings
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/12—Fingerprints or palmprints
- G06V40/13—Sensors therefor
- G06V40/1318—Sensors therefor using electro-optical elements or layers, e.g. electroluminescent sensing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/042—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
- G06F3/0425—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/042—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
- G06F3/0425—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected
- G06F3/0426—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected tracking fingers with respect to a virtual keyboard projected or printed on the surface
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2354/00—Aspects of interface with display user
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G3/00—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
- G09G3/001—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
- G09G3/002—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background to project the image of a two-dimensional display, such as an array of light emitting or modulating elements or a CRT
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Human Computer Interaction (AREA)
- Computer Hardware Design (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Artificial Intelligence (AREA)
- Projection Apparatus (AREA)
- Image Input (AREA)
- Position Input By Displaying (AREA)
Abstract
【課題】位置検出および画像認識のリアルタイム性を向上させることを可能にする。【解決手段】本開示の画像処理装置は、被位置検出物の位置検出に用いられる位置検出用照明光を出射する位置検出用照明部と、被画像認識物の画像認識に用いられる画像認識用照明光を出射する画像認識用照明部と、位置検出用照明光と画像認識用照明光とが互いに異なるタイミンクで出射されるように、位置検出用照明部および画像認識用照明部を制御する照明制御部と、位置検出用照明光と画像認識用照明光とが互いに異なるタイミンクで入射する撮像部と、撮像部による撮像画像の輝度情報に基づいて、位置検出用照明光と画像認識用照明光との切り替わりを判断し、位置検出用照明光に切り替わった状態における撮像部の撮像結果に基づいて被位置検出物の位置検出を行うと共に、画像認識用照明光に切り替わった状態における撮像部の撮像結果に基づいて被画像認識物の画像認識を行う画像処理部とを備える。【選択図】図2
Description
本開示は、位置検出と画像認識とを行う画像処理装置、および検出機能付き表示装置に関する。
表示装置としてのプロジェクタに、映像の投影面上における指等の位置を検出するタッチ検出(位置検出)機能と、投影面上におけるカードやメディア等の画像認識を行う画像認識機能とを付加した検出機能付き表示装置が提案されている(特許文献1参照)。この検出機能付き表示装置では、例えば、位置検出用照明光と画像認識用照明光とを適宜切り替えて撮像された撮像結果に基づいて、位置検出と画像認識とを行う。
上記の検出機能付き表示装置では、位置検出用照明光と画像認識用照明光とが実際に切り替わるタイミングがシステム遅延等に依存して正確に分からない場合があり得る。このため、無駄な待ち時間が多くなり、位置検出と画像認識とのリアルタイム性が低下する。
位置検出および画像認識のリアルタイム性を向上させることが可能な画像処理装置、および検出機能付き表示装置を提供することが望ましい。
本開示の一実施の形態に係る画像処理装置は、被位置検出物の位置検出に用いられる位置検出用照明光を出射する位置検出用照明部と、被画像認識物の画像認識に用いられる画像認識用照明光を出射する画像認識用照明部と、位置検出用照明光と画像認識用照明光とが互いに異なるタイミンクで出射されるように、位置検出用照明部および画像認識用照明部を制御する照明制御部と、位置検出用照明光と画像認識用照明光とが互いに異なるタイミンクで入射する撮像部と、撮像部による撮像画像の輝度情報に基づいて、位置検出用照明光と画像認識用照明光との切り替わりを判断し、位置検出用照明光に切り替わった状態における撮像部の撮像結果に基づいて被位置検出物の位置検出を行うと共に、画像認識用照明光に切り替わった状態における撮像部の撮像結果に基づいて被画像認識物の画像認識を行う画像処理部とを備える。
本開示の一実施の形態に係る検出機能付き表示装置は、映像投影用照明光を出射する映像投影用照明部と、映像データに基づいて映像投影用照明光を変調して映像光を生成するライトバルブと、被位置検出物の位置検出に用いられる位置検出用照明光を出射する位置検出用照明部と、被画像認識物の画像認識に用いられる画像認識用照明光を出射する画像認識用照明部と、位置検出用照明光と画像認識用照明光とが互いに異なるタイミンクで出射されるように、位置検出用照明部および画像認識用照明部を制御する照明制御部と、位置検出用照明光と画像認識用照明光とが互いに異なるタイミンクで入射する撮像部と、撮像部による撮像画像の輝度情報に基づいて、位置検出用照明光と画像認識用照明光との切り替わりを判断し、位置検出用照明光に切り替わった状態における撮像部の撮像結果に基づいて被位置検出物の位置検出を行うと共に、画像認識用照明光に切り替わった状態における撮像部の撮像結果に基づいて被画像認識物の画像認識を行う画像処理部とを備える。
本開示の一実施の形態に係る画像処理装置、または検出機能付き表示装置では、撮像部による撮像画像の輝度情報に基づいて、位置検出用照明光と画像認識用照明光との切り替わりが判断される。画像処理部は、位置検出用照明光に切り替わった状態における撮像部の撮像結果に基づいて被位置検出物の位置検出を行うと共に、画像認識用照明光に切り替わった状態における撮像部の撮像結果に基づいて被画像認識物の画像認識を行う。
以下、本開示の実施の形態について図面を参照して詳細に説明する。なお、説明は以下の順序で行う。
0.比較例
1.第1の実施の形態(図1〜図12)
1.1 構成
1.2 動作
1.3 効果
2.その他の実施の形態
0.比較例
1.第1の実施の形態(図1〜図12)
1.1 構成
1.2 動作
1.3 効果
2.その他の実施の形態
<0.比較例>
(比較例に係る検出機能付き表示装置の概要と課題)
比較例として、特許文献1(国際公開第2018/051886号)で提案されている検出機能付き表示装置の概要と課題について説明する。この比較例に係る検出機能付き表示装置では、例えば、位置検出用照明光と画像認識用照明光とを適宜切り替えて撮像された撮像結果に基づいて、位置検出と画像認識とを行う。この比較例に係る検出機能付き表示装置では、位置検出用照明光と画像認識用照明光とが実際に切り替わるタイミングがシステム遅延等に依存していて切り替わりタイミングが正確に分からない場合があり得る。このため、例えば、システム的に起こり得る最も長い待ち時間を入れて、照明光の切り替わりの完了とすることが考えられるが、この場合、無駄な待ち時間が多くなり、位置検出と画像認識とのリアルタイム性が損なわれる。
(比較例に係る検出機能付き表示装置の概要と課題)
比較例として、特許文献1(国際公開第2018/051886号)で提案されている検出機能付き表示装置の概要と課題について説明する。この比較例に係る検出機能付き表示装置では、例えば、位置検出用照明光と画像認識用照明光とを適宜切り替えて撮像された撮像結果に基づいて、位置検出と画像認識とを行う。この比較例に係る検出機能付き表示装置では、位置検出用照明光と画像認識用照明光とが実際に切り替わるタイミングがシステム遅延等に依存していて切り替わりタイミングが正確に分からない場合があり得る。このため、例えば、システム的に起こり得る最も長い待ち時間を入れて、照明光の切り替わりの完了とすることが考えられるが、この場合、無駄な待ち時間が多くなり、位置検出と画像認識とのリアルタイム性が損なわれる。
また、特許文献1には、位置検出用と画像認識用とで照明光の波長を変え、それぞれの波長を2つの撮像素子で別々に撮像する構造にすることで位置検出と画像認識とを同時に行うことを可能にする方法が提案されている。しかしながら、この方法では、撮像素子が2つ必要になることで、装置のサイズが大きくなってしまい、1つの撮像素子で位置検出と画像認識とを行う場合に比べて、ポータブル化のメリットが損なわれてしまい、また、コストも高くなってしまう。
また、特許文献1には、位置検出用と画像認識用とで照明光の波長を変えると共に、位置検出用の受光領域と画像認識用の受光領域とを別々に設けることで、1つの撮像素子によって位置検出と画像認識とを同時に行うことを可能にする方法が提案されている。しかしながら、この方法では、1つの撮像素子の画素を位置検出用と画像認識用とで半分ずつ分け合うことになるため、解像度が1/2に劣化してしまい、十分な撮像性能を得ることが困難となる。
そこで、2つの撮像素子を用いることによる装置の複雑化および大型化を招くことなく、また、撮像画像の解像度を1/2に劣化させることもなく、位置検出および画像認識のリアルタイム性を向上させることが可能な技術の開発が望まれる。
以下の第1の実施の形態では、本技術の画像処理装置を検出機能付き表示装置としてのプロジェクタに適用した例を説明する。
<1.第1の実施の形態>
[1.1 構成]
図1は、本開示の第1の実施の形態に係る検出機能付き表示装置の一構成例を概略的に示している。図2は、検出機能付き表示装置の機能的な構成例を概略的に示している。図3は、検出機能付き表示装置を側面方向から見た一構成例を概略的に示している。図4は、検出機能付き表示装置における撮像部5の一構成例を概略的に示している。図5は、検出機能付き表示装置に用いられる複数の照明光のスペクトルと撮像部5のバンドパスフィルタ52の透過特性との一例を示している。
[1.1 構成]
図1は、本開示の第1の実施の形態に係る検出機能付き表示装置の一構成例を概略的に示している。図2は、検出機能付き表示装置の機能的な構成例を概略的に示している。図3は、検出機能付き表示装置を側面方向から見た一構成例を概略的に示している。図4は、検出機能付き表示装置における撮像部5の一構成例を概略的に示している。図5は、検出機能付き表示装置に用いられる複数の照明光のスペクトルと撮像部5のバンドパスフィルタ52の透過特性との一例を示している。
第1の実施の形態に係る検出機能付き表示装置は、映像を投影面30に投影するプロジェクタとしての機能と、投影面30上における例えば人の指等の被位置検出物71の位置や動作を検出するタッチ検出(位置検出)機能と、投影面30上におけるカードやメディア等の被画像認識物72を画像認識する機能とを有している。被画像認識物72としてのカードは、例えばトレーディングカード等のゲームに用いられるカードであってもよい。被画像認識物72としてのメディアは、CD(Compact Disc)(登録商標)、DVD(Digital Versatile Disc)(登録商標)、およびBD(Blu-ray Disc)(登録商標)のようなパッケージメディアであってもよい。
なお、投影面30は投影用のスクリーンであってもよい。また、投影面30は机の表面や床面等であってもよい。また、投影面30は、壁面などであってもよい。
図1および図2に示したように、第1の実施の形態に係る検出機能付き表示装置は、映像投影用照明部1と、位置検出用照明部2と、画像認識用照明部3と、投影光学系4と、撮像部5と、検出画像処理部6と、照明制御部7と、表示制御部8とを備えている。第1の実施の形態に係る検出機能付き表示装置は、さらに、ライトバルブ21と、偏光分離素子23とを備えている。
映像投影用照明部1は、映像投影用照明光41を出射する。ライトバルブ21は、偏光分離素子23を介して、映像投影用照明部1から出射された映像投影用照明光41によって照明される。
映像投影用照明部1は、図4に示したように、照明光学系10と、光源部11とを有している。光源部11は、例えば、図5に示したように、R(赤色)、G(緑色)、およびB(青色)のスペクトルを持つ光を発するレーザ光源を有している。光源部11は、例えば、B光を発する青色レーザ11Bと、G光を発する緑色レーザ11Gと、R光を発する赤色レーザ11Rとを有している。赤色レーザ11R、緑色レーザ11G、および青色レーザ11Bはそれぞれ、例えば図示しない発光制御部によってフィールドシーケンシャル方式で発光制御されてもよい。
照明光学系10は、光源部11からの光に基づいてRGBのスペクトルを持つ映像投影用照明光41を生成する。照明光学系10は、光源部11からの各色光を集光するコンデンサレンズ、各色光を均一化する光均一化部材、および各色の光路を合成する光路合成部材等を有していてもよい。
ライトバルブ21は、表示制御部8から供給された映像データに基づいて映像投影用照明光41を変調して映像光44を生成する。ライトバルブ21は、例えばLCOS(Liquid Crystal On Silicon)等の反射型の液晶素子である。ライトバルブ21で生成された映像光44は、偏光分離素子23、および投影光学系4を介して投影面30に投影される。
位置検出用照明部2は、投影面30上における被位置検出物71の位置検出に用いられる位置検出用照明光42を出射する。位置検出用照明部2は、例えば本体100の下部に設けられている。位置検出用照明部2は、少なくとも投影面30における映像光44の投影エリア31を所定の高さから覆うように位置検出用照明光42を出射する。
画像認識用照明部3は、投影面30上における被画像認識物72の画像認識に用いられる画像認識用照明光43を出射する。画像認識用照明部3は、少なくとも投影面30における映像光44の投影エリア31を含む領域を画像認識用照明光43によって照明する。
位置検出用照明光42および画像認識用照明光43の波長帯域は、例えば、図5に示したように、映像投影用照明光41の波長帯域とは異なり、かつ、位置検出用照明光42の中心波長と画像認識用照明光43の中心波長とが互いに略同一となっている。
図5に示したように、例えば、映像投影用照明光41の波長帯域は可視域であり、位置検出用照明光42および画像認識用照明光43の波長帯域は近赤外域となっている。位置検出用照明部2および画像認識用照明部3はそれぞれ、例えば、近赤外光源を含んでいる。画像認識用照明光43の波長帯域は、例えば、位置検出用照明光42の波長帯域よりも広いことが望ましい。
照明制御部7は、位置検出用照明部2による位置検出用照明光42のオン(出射)、オフ(非出射)の切り替え制御と、画像認識用照明部3による画像認識用照明光43のオン(出射)、オフ(非出射)の切り替え制御とを行うようになっている。
照明制御部7は、位置検出用照明光42と画像認識用照明光43とが互いに異なるタイミンクで出射されるように、位置検出用照明部2および画像認識用照明部3を制御する。照明制御部7は、検出画像処理部6において被位置検出物71の位置検出を行う位置検出モード時には、位置検出用照明光42および画像認識用照明光43のうち位置検出用照明光42のみを出射させるように、位置検出用照明部2および画像認識用照明部3を制御する。また、照明制御部7は、検出画像処理部6において被画像認識物72の画像認識を行う画像認識モード時には、位置検出用照明光42および画像認識用照明光43のうち、画像認識用照明光43を出射させるように、位置検出用照明部2および画像認識用照明部3を制御する。
照明制御部7は、画像認識用照明光43による照明期間よりも位置検出用照明光42による照明期間の方が長くなるように、位置検出用照明部2および画像認識用照明部3を制御することが望ましい。また、照明制御部7は、位置検出用照明光42が少なくとも3フレームの期間に亘って出射されるように、位置検出用照明部2を制御することが望ましい。
検出画像処理部6は、撮像部5の撮像結果に基づいて、被位置検出物71の位置検出および被画像認識物72の画像認識を行う画像処理部となっている。検出画像処理部6は、例えば、撮像部5からの検出信号を解析して、検出された物体の位置データ(座標データ)を取得する。検出画像処理部6は、被位置検出物71の位置だけでなく、被位置検出物71によるジェスチャー動作等の動きを解析する機能を有していてもよい。
検出画像処理部6は、撮像部5による撮像画像の輝度情報に基づいて、位置検出用照明光42と画像認識用照明光43との切り替わりを判断する。検出画像処理部6は、位置検出用照明光42に切り替わった状態における撮像部5の撮像結果に基づいて被位置検出物71の位置検出を行う。また、検出画像処理部6は、画像認識用照明光43に切り替わった状態における撮像部5の撮像結果に基づいて被画像認識物72の画像認識を行う。
検出画像処理部6は、例えば、撮像画像の輝度分布のヒストグラムに基づいて、位置検出用照明光42と画像認識用照明光43との切り替わりを判断する。この検出画像処理部6による位置検出用照明光42と画像認識用照明光43との切り替わりの判断手法については、後に詳述する。
表示制御部8から供給される映像データには、検出画像処理部6によって認識された被画像認識物72の画像に関連する情報を含む映像データが含まれていてもよい。
投影光学系4は、図2に示したように、投射レンズ24を有している。投射レンズ24は、超短焦点レンズであってもよい。投影光学系4は、映像を投影するための機能の他、位置検出および画像認識のための結像光学系としての機能を有している。投影光学系4には、ライトバルブ21で生成された映像光44が入射すると共に、画像認識用照明光43と、被位置検出物71による位置検出用照明光42の散乱光Laとが投影面30側から取り込まれる。
撮像部5は、撮像素子22と、撮像光学系25とを有している。撮像部5には、位置検出用照明光42と画像認識用照明光43とが互いに異なるタイミンクで入射する。
撮像素子22は、CMOS(Complementary Metal-Oxide Semiconductor)やCCD(Charge Coupled Device)などの固体撮像素子で構成されている。撮像素子22は、投影面30と光学的に共役な位置に配置されている。また、撮像素子22は、ライトバルブ21と光学的に共役な位置に配置されている。より具体的には、ライトバルブ21が反射型の液晶素子である場合、映像を作り出す表示面(液晶面)と撮像素子22の撮像面とが光学的に共役な位置となるように配置されている。撮像素子22には、投影光学系4および偏光分離素子23を介して、位置検出用照明光42の散乱光Laおよび画像認識用照明光43が入射する。撮像素子22は、少なくとも投影面30上の投影エリア31と略同一のエリアを撮像エリアとした撮像を行うことが可能となっている。
撮像光学系25は、図4に示したように、ライトバルブ21の光学的な共役面50と撮像素子22との間に配置されている。撮像光学系25は、例えば図4に示したように、複数枚のリレーレンズ53を含む縮小光学系51と、バンドパスフィルタ52とを有している。
リレーレンズ53を含む縮小光学系51を配置することで、ライトバルブ21と光学的に共役な位置を共役面50よりも遠方に設けることができる。また、縮小光学系51を配置することで、ライトバルブ21と光学的に共役な位置に配置しつつ、撮像素子22のサイズをライトバルブ21よりも小さくすることができる。
バンドパスフィルタ52は、映像投影用照明光41と位置検出用照明光42および画像認識用照明光43とを分離するために設けられている。バンドパスフィルタ52は、例えば図5に示したように、映像投影用照明光41を抑制し、位置検出用照明光42および画像認識用照明光43の中心帯域を透過するような透過特性とされている。
撮像素子22上に結像する光は微弱であるため、画像認識および位置検出の際に信号のサチレーションを防ぐ目的でバンドパスフィルタ52を挿入することが重要となる。バンドパスフィルタ52の特性を、近赤外領域を透過し、可視光、および近赤外以外の赤外光は抑制する特性にすることにより、プロジェクタとしての機能と位置検出および画像認識の機能とを両立させることが可能となる。バンドパスフィルタ52によって位置検出および画像認識の際に不要となる光を抑制することで、撮像素子22上には位置検出光(位置検出用照明光42の散乱光La)と画像認識光(画像認識用照明光43)とを信号光として導くことが可能となる。これにより、撮像素子22上でS/Nのよい鮮明な画像情報を得ることが可能となる。この特性に律速し、上述したように、位置検出用照明光42および画像認識用照明光43の中心波長は略同一の波長帯とすることが望ましい。
偏光分離素子23は、例えば図4に示したように、4つの光学面を有する偏光ビームスプリッタとなっている。ここでは、図4における水平方向に対向する2つの面を第1の光学面および第3の光学面とし、垂直方向に対向する2つの面を第2の光学面および第4の光学面として説明する。図4に示したように、第1の光学面には、映像投影用照明部1からの映像投影用照明光41が入射する。ライトバルブ21は、偏光分離素子23の第2の光学面側に配置されている。偏光分離素子23の第3の光学面側には、撮像部5が配置されている。偏光分離素子23の第4の光学面側には、投影光学系4が配置されている。
偏光分離素子23は、入射した光を第1の偏光成分(例えばS偏光成分)と第2の偏光成分(例えばP偏光成分)とに分離し、それぞれを互いに異なる方向に出射する。偏光分離素子23は、特定の第1の偏光成分を選択的に反射させると共に、特定の第2の偏光成分を選択的に透過させる。偏光分離素子23は、第1の光学面に入射した映像投影用照明光41に含まれる第1の偏光成分をライトバルブ21に向けて反射する。ライトバルブ21で変調され、第2の偏光成分とされた光が、偏光分離素子23の第4の光学面から出射し、映像光44として投影光学系4に入射する。
また、偏光分離素子23の第4の光学面には、投影光学系4を介して位置検出用照明光42の散乱光Laと画像認識用照明光43とが入射する。偏光分離素子23は、位置検出用照明光42の散乱光Laおよび画像認識用照明光43に含まれる第1の偏光成分を第3の光学面を介して撮像部5に向けて反射する。
[1.2 動作]
(画像認識について)
図6は、撮像部5による被画像認識物72の撮像結果の一例を模式的に示している。
図6の撮像結果は、映像光44を投影しつつ、画像認識モードにした場合の被画像認識物72の撮像結果の一例を模式的に示している。ここでの画像認識モードとは、画像認識用照明オン、かつ位置検出照明オフにした状態とする。
(画像認識について)
図6は、撮像部5による被画像認識物72の撮像結果の一例を模式的に示している。
図6の撮像結果は、映像光44を投影しつつ、画像認識モードにした場合の被画像認識物72の撮像結果の一例を模式的に示している。ここでの画像認識モードとは、画像認識用照明オン、かつ位置検出照明オフにした状態とする。
上記の構成により、映像光44によって投影面30に投影された映像情報には影響を受けずに、投影エリア31に配置された被画像認識物72の情報を、図6のように画像認識用照明光43で照らされた輝度の情報として、撮像素子22によって撮像することができる。検出画像処理部6は、撮像素子22による検出信号を画像処理し、被画像認識物72を個体認識する。被画像認識物72がカードやCD等の場合、検出画像処理部6は、表面に印刷された絵柄といった特徴点を認識することで、被画像認識物72を個体認識する。検出画像処理部6は、認識した被画像認識物72に関連する情報を表示制御部8にフィードバックする。表示制御部8は、認識した被画像認識物72に関連する情報が含まれる映像データをライトバルブ21に供給する。これにより、認識した被画像認識物72に関連する情報を映像として投影することができる。
図6は、撮像素子22によって撮像された被画像認識物72の画像を模式的に示しているが、図6を見ても分かるとおり、撮像素子22で撮像された画像には台形歪や位置ずれはほとんど無い。仮に、検出機能付き表示装置とは別体として設けられたカメラで撮像した画像の場合には、位置ずれが発生しやすく、また、第1の実施の形態に係る検出機能付き表示装置とは投射スタイル(撮像スタイル)が異なり、カメラの画角や物体との像関係のずれにより台形歪が容易に発生してしまう。第1の実施の形態に係る検出機能付き表示装置の構成では、被画像認識物72から撮像素子22に至る光路上に投影光学系4が配置され、画像認識のための光学系が映像投影用の光学系と部分的に共通化されている。これにより、台形歪や位置ずれの発生が抑制される。台形歪や位置ずれの発生を抑制するために、投影光学系4に超短焦点の投射レンズ24を用いることが望ましい。
(位置検出について)
図7は、撮像部5による被位置検出物71の撮像結果の一例を模式的に示している。図7の撮像結果は、映像光44を投影しつつ、位置検出モードにした場合の被位置検出物71の撮像結果の一例を模式的に示している。ここでの位置検出モードとは、画像認識用照明オフ、かつ位置検出照明オンにした状態とする。
図7は、撮像部5による被位置検出物71の撮像結果の一例を模式的に示している。図7の撮像結果は、映像光44を投影しつつ、位置検出モードにした場合の被位置検出物71の撮像結果の一例を模式的に示している。ここでの位置検出モードとは、画像認識用照明オフ、かつ位置検出照明オンにした状態とする。
第1の実施の形態に係る検出機能付き表示装置では、画像認識だけではなく、位置検出機能があり、タブレット端末等での直感的な操作を踏襲したタッチインタラクションの機能を実現可能となっている。これにより、ユーザに対して、より自然な操作や、映像提供側が意図した映像体験を実現することができる。
位置検出用照明部2は、図1および図3に示すように、少なくとも投影面30における映像光44の投影エリア31を所定の高さから覆うように広角で広げられた位置検出用照明光42を、本体100の下部から出射する。これにより、少なくとも投影面30における投影エリア31が、所定の高さから位置検出用照明光42による近赤外光バリアで覆われる。このような近赤外光バリアで覆うことにより、指等の被位置検出物71による指示が無い場合は位置検出用照明光42は拡散しない。一方、指等で投影エリア31を指し示した場合には、近赤外光バリアを遮る形となり、指等に当たった位置検出用照明光42の散乱光Laが生じる。この位置検出用照明光42の散乱光Laが、上記した画像認識の場合と同様に、投影光学系4および偏光分離素子23を介して、撮像素子22に入射する。ここで、撮像素子22と投影面30は光学的に共役の関係にある位置に配置してあるため、映像投影位置と指等による指し示した位置とが1:1の関係にある。従って、検出画像処理部6によって撮像素子22の撮像結果に基づく検出信号を解析することで、投影面30上で指等で指し示した位置(座標)を特定することができる。検出画像処理部6は、特定した位置情報を表示制御部8にフィードバックすることで、投影する映像データに反映させる。これにより、ユーザは指等をマウスのポインタのような役割として、映像を操作することが可能となる。
検出画像処理部6において、指等で指示した位置を特定する場合、例えば、適切なしきい値を設けて検出信号を2値化することで、ノイズ成分と分離して位置信号を抽出することができる。ただし、第1の実施の形態検出機能付き表示装置では、位置検出用照明光42および画像認識用照明光43の中心波長を略同一にしているため、画像認識用照明光43を投影面30に照らしていると、ノイズレベルが非常に高くなり、位置信号を抽出することが困難となる。従って、位置検出モードでは、画像認識用照明光43を適切なタイミングでオフすることが望ましい。
(位置検出用照明光42の高さと被画像認識物72の高さとの関係)
位置検出用照明部2は、上述したように、投影面30に対して所定の高さから位置検出用照明光42を出射する。この場合において、位置検出用照明部2は、投影面30に対して被画像認識物72を所定数重ねた高さよりも高い位置から、投影面30に対して略平行となる光を、位置検出用照明光42として出射することが望ましい。
位置検出用照明部2は、上述したように、投影面30に対して所定の高さから位置検出用照明光42を出射する。この場合において、位置検出用照明部2は、投影面30に対して被画像認識物72を所定数重ねた高さよりも高い位置から、投影面30に対して略平行となる光を、位置検出用照明光42として出射することが望ましい。
上述したように、本実施の形態に係る検出機能付き表示装置では、指等の被位置検出物71を検出する場合、指等によって位置検出用照明光42による近赤外光バリアが遮られた場合に発生する散乱光Laを検出する。このため、指等で投影面30の近傍を指し示していない場合には、散乱光Laが発生しない状態にすることが望ましい。従って、位置検出用照明光42の投影面30に対する高さが低すぎると、投影面30に配置される被画像認識物72によって散乱光Laが発生しまうので、被画像認識物72によって散乱光Laが発生しないような高さから位置検出用照明光42を出射することが望ましい。
なお、上記した所定数とは、想定される被画像認識物72に応じた数に設定することが望ましい。例えば、本実施の形態に係る装置をカードゲームに適用する場合、被画像認識物72はカードになるが、その場合、カードは複数枚重ねて使用する形態があり得る。この場合、所定数とは複数枚となり得る。また、被画像認識物72がCDやDVD等のパッケージメディアである場合、通常は、メディアを重ねて使用しない形態であり得る。この場合、所定数とは1枚となり得る。
(画像認識用照明光43の拡散角について)
画像認識用照明光43の出射拡散角θ2は、図3に示したように、位置検出用照明光42の出射拡散角θ1よりも大きいことが望ましい。また、画像認識用照明光43の出射拡散角θ2の大きさは、位置検出用照明光42の出射拡散角θ1の大きさの10倍以上であることが望ましい。なお、ここでいう出射拡散角θ1,θ2とは、投影面30に対して垂直方向の拡散角である。
画像認識用照明光43の出射拡散角θ2は、図3に示したように、位置検出用照明光42の出射拡散角θ1よりも大きいことが望ましい。また、画像認識用照明光43の出射拡散角θ2の大きさは、位置検出用照明光42の出射拡散角θ1の大きさの10倍以上であることが望ましい。なお、ここでいう出射拡散角θ1,θ2とは、投影面30に対して垂直方向の拡散角である。
例えば、位置検出用照明光42の出射拡散角θ1は2°以内であってもよい。また、画像認識用照明光43の出射拡散角θ2は、投影エリア31の大きさにも依存するが、30°以上であってもよい。
(各照明光の出射位置)
画像認識用照明部3における画像認識用照明光43の出射位置P3は、図3に示したように、投影面30に対して、位置検出用照明部2における位置検出用照明光42の出射位置P2よりも遠方であることが望ましい。
画像認識用照明部3における画像認識用照明光43の出射位置P3は、図3に示したように、投影面30に対して、位置検出用照明部2における位置検出用照明光42の出射位置P2よりも遠方であることが望ましい。
また、投影光学系4における映像光44の出射位置P1は、図3に示したように、投影面30に対して、位置検出用照明部2における位置検出用照明光42の出射位置P2よりも遠方であることが望ましい。また、画像認識用照明部3における画像認識用照明光43の出射位置P3は、図3に示したように、投影面30に対して、投影光学系4における映像光44の出射位置P1よりも遠方であることが望ましい。
(位置検出用照明光42と画像認識用照明光43との切り替わりの判断について)
図8は、ローリングシャッタ方式による撮像素子22の露光タイミングの一例を示している。図9は、ローリングシャッタ方式による撮像を行った場合における位置検出用照明光と画像認識用照明光との切り替わり時の撮像画像の一例を模式的に示している。
図8は、ローリングシャッタ方式による撮像素子22の露光タイミングの一例を示している。図9は、ローリングシャッタ方式による撮像を行った場合における位置検出用照明光と画像認識用照明光との切り替わり時の撮像画像の一例を模式的に示している。
第1の実施の形態に係る検出機能付き表示装置では、例えば、画像認識モードと位置検出モードとを所定のタイミングで切り替え、画像認識と位置検出とを時分割で交互に行う。この際、第1の実施の形態に係る検出機能付き表示装置では、モードの切り替えを高速に行うことにより、位置検出と画像認識とを略同時に近いタイミングで行うことが可能となる。しかしながら、特に、撮像部5において、撮像素子22がCMOSセンサ等のローリングシャッタ方式による撮像を行うものである場合、照明光の切り替え時に図9に示すような画像が発生してしまう。
図8において、VDは垂直同期信号のタイミングを示す。図8には、撮像素子22の各水平画素ラインごとの露光タイミングの一例を示す。ローリングシャッタ方式では、図8に示したように、露光タイミングが1水平画素ラインごとに異なり、1水平画素ラインごとに画素データのデータ転送を行う。このため、どのタイミングで照明光を切り替えても、切り替えの照明光による画像と切り替え後の照明光による画像とが混在した画像が発生してしまう。
例えば、画像認識用照明光43から位置検出用照明光42に切り替える場合、切り替え前には理想的には図6に示したような撮像画像が得られる。切り替え後には理想的には図7に示したような撮像画像が得られるが、実際には切り替え直後には、図9に示したように、切り替え前の照明光による画像と切り替え後の照明光による画像とが混在した撮像画像が発生してしまう。従って、この2つの照明光が混在した画像を判別することで、照明光の切り替えの終了タイミングを判断することが可能となる。2つの照明光が混在した画像の後に取得される画像は、完全に照明光が切り替わった状態における画像になる。
図10は、図7に示したような位置検出用照明光42のみによって照明された状態における位置検出モード時の撮像画像の輝度分布のヒストグラムの一例を示している。図11は、図6に示したような画像認識用照明光43のみによって照明された状態における画像認識モード時の撮像画像の輝度分布のヒストグラムの一例を示している。図10および図11において、横軸は輝度、縦軸は画素数を示す。
図10に示したように、位置検出モード時の撮像画像の輝度分布のヒストグラムは、輝度分布が暗い方に偏っている。逆に、図11に示したように、画像認識モード時の撮像画像の輝度分布のヒストグラムは、輝度分布が明るい方に偏っている。従って、取得された画像の上部の輝度と下部の輝度との差が著しく異なる場合、照明光の切り替え途中の図9のような画像が取得されたことが判明するため、その後に取得される画像は、照明光の切り替わり後の画像になることがわかる。
以上のことから、検出画像処理部6は、撮像画像の輝度分布のヒストグラムに基づいて、位置検出用照明光42と画像認識用照明光43との切り替わりを判断することが可能となる。
検出画像処理部6は、例えば、少なくとも撮像画像における上部の1ライン分の画素の輝度情報と下部の1ライン分の画素の輝度情報とに基づいて、位置検出用照明光42と画像認識用照明光43との切り替わりを判断することができる。上述したように、図9に示したような2つの照明光が混在した撮像画像では、画像の上部の輝度と下部の輝度との差が著しく異なるため、例えば最上部の1ライン分の画素の輝度と最下部の1ライン分の画素の輝度とに基づいて、照明光の切り替わりを判断することが可能となる。
また、検出画像処理部6は、例えば、撮像画像の全画素の輝度情報に基づいて、位置検出用照明光42と画像認識用照明光43との切り替わりを判断するようにしてもよい。図10および図11に示したように、位置検出モード時の撮像画像の輝度分布と画像認識モード時の撮像画像の輝度分布は全体的に異なっているので、全画素の輝度情報に基づいて、照明光の切り替わりを判断することが可能となる。
また、検出画像処理部6は、例えば、撮像画像における上部の1ライン分の画素の輝度情報と下部の1ライン分の画素の輝度情報とのいずれか一方に基づいて、位置検出用照明光42と画像認識用照明光43との切り替わりを判断するようにしてもよい。例えば、撮像素子22の仕様として、画素データの切り替わりが上側から切り替わるのか、下側から切り替わるのかが、あらかじめ分かっていれば、画素データの切り替わりが終わる上側または下側の1ライン分の画素の輝度分布を見るだけで、照明光の切り替わりの判断が可能となる。
(位置検出用照明光42と画像認識用照明光43との各照明期間について)
以下で説明するように、照明制御部7は、画像認識用照明光43による照明期間よりも位置検出用照明光42による照明期間の方が長くなるように、位置検出用照明部2および画像認識用照明部3を制御することが望ましい。また、照明制御部7は、位置検出用照明光42が少なくとも3フレームの期間に亘って出射されるように、位置検出用照明部2を制御することが望ましい。
以下で説明するように、照明制御部7は、画像認識用照明光43による照明期間よりも位置検出用照明光42による照明期間の方が長くなるように、位置検出用照明部2および画像認識用照明部3を制御することが望ましい。また、照明制御部7は、位置検出用照明光42が少なくとも3フレームの期間に亘って出射されるように、位置検出用照明部2を制御することが望ましい。
図12は、位置検出用照明光42と画像認識用照明光43との切り替えタイミングの一例を示すタイミングチャートである。図12の上側には、画像認識用照明光43による照明期間よりも位置検出用照明光42による照明期間の方を長くした例を示す。図12の上側には、一例として、位置検出用照明光42による照明期間と画像認識用照明光43による照明期間との割合をフレーム数に換算して8:2にした例を示す。図12の上側の例では、図12の下側には、画像認識用照明光43による照明期間と位置検出用照明光42による照明期間とを同じにした例を示す。図12の下側の例では、位置検出用照明光42による照明期間と画像認識用照明光43による照明期間との割合をフレーム数に換算して2:2にした例を示す。
上述したように、照明光の切り替わり直後のタイミングでは図9のような2つの照明光が混在した画像が取得される。この画像は、図12に示したように位置検出用または画像認識用の画像としては使えない捨てフレームとなる。ここで、画像認識モードと位置検出モードの特性として、画像認識モードでは、画像の認識を頻繁に行わなくてもリアルタイム性を損ねることはないという特徴がある。一方、位置検出モードでは、動いている指等の位置検出するなど、かなりのリアルタイム性が必要となるため、できるだけ検出不可能な期間を少なくすることが好ましい。
従って、1秒間に取得できる画像のフレーム数に対して、画像認識モード時には少な目に、位置検出モード時には多めにフレームを割り当てることで、位置検出と画像認識のどちらもリアルタイム性を高めることができる。その際に、位置検出モード時の照明期間を図12の上側の例のように、3フレーム以上、連続して取るようにすると、単位時間内に発生する照明の切り替え回数を減らすことができる。このため、ローリングシャッタの特性によって、切り替え前後の画像が混在する回数を減らすことができ、図12の下側の例のように位置検出用の画像と画像認識用の画像とを同じ割合で取得する場合に比べて、単位時間内に取得できる有効画像のフレーム数を増やすことができる。
なお、位置検出用照明光42による照明期間を長くしすぎると、画像認識のリアルタイム性が低下するため、位置検出用照明光42による連続する照明期間は例えば0.5秒以下にすることが好ましい。1秒間の撮像フレーム数が30フレームの場合、位置検出用照明光42による連続する照明期間は、例えば12フレーム以下にすることが好ましい。
[1.3 効果]
以上説明したように、第1の実施の形態に係る検出機能付き表示装置によれば、2つの撮像素子を用いることによる装置の複雑化および大型化を招くことなく、また、撮像画像の解像度を1/2に劣化させることもなく、位置検出および画像認識のリアルタイム性を向上させることが可能となる。
以上説明したように、第1の実施の形態に係る検出機能付き表示装置によれば、2つの撮像素子を用いることによる装置の複雑化および大型化を招くことなく、また、撮像画像の解像度を1/2に劣化させることもなく、位置検出および画像認識のリアルタイム性を向上させることが可能となる。
なお、本明細書に記載された効果はあくまでも例示であって限定されるものではなく、また他の効果があってもよい。以降の他の実施の形態の効果についても同様である。
<2.その他の実施の形態>
本開示による技術は、上記実施の形態の説明に限定されず種々の変形実施が可能である。
本開示による技術は、上記実施の形態の説明に限定されず種々の変形実施が可能である。
例えば、上記第1の実施の形態では、本技術の画像処理装置を検出機能付き表示装置としてのプロジェクタに適用した場合について説明したが、本技術の画像処理装置はプロジェクタ以外の表示装置にも適用可能である。また、本技術の画像処理装置は、画像表示の機能を有さない装置にも適用可能である。
例えば、本技術は以下のような構成を取ることもできる。
以下の構成の本技術によれば、位置検出および画像認識のリアルタイム性を向上させることが可能となる。
以下の構成の本技術によれば、位置検出および画像認識のリアルタイム性を向上させることが可能となる。
(1)
被位置検出物の位置検出に用いられる位置検出用照明光を出射する位置検出用照明部と、
被画像認識物の画像認識に用いられる画像認識用照明光を出射する画像認識用照明部と、
前記位置検出用照明光と前記画像認識用照明光とが互いに異なるタイミンクで出射されるように、前記位置検出用照明部および前記画像認識用照明部を制御する照明制御部と、
前記位置検出用照明光と前記画像認識用照明光とが互いに異なるタイミンクで入射する撮像部と、
前記撮像部による撮像画像の輝度情報に基づいて、前記位置検出用照明光と前記画像認識用照明光との切り替わりを判断し、前記位置検出用照明光に切り替わった状態における前記撮像部の撮像結果に基づいて前記被位置検出物の位置検出を行うと共に、前記画像認識用照明光に切り替わった状態における前記撮像部の撮像結果に基づいて前記被画像認識物の画像認識を行う画像処理部と
を備える
画像処理装置。
(2)
前記画像処理部は、前記撮像画像の輝度分布のヒストグラムに基づいて、前記位置検出用照明光と前記画像認識用照明光との切り替わりを判断する
上記(1)に記載の画像処理装置。
(3)
前記画像処理部は、少なくとも前記撮像画像における上部の1ライン分の画素の輝度情報と下部の1ライン分の画素の輝度情報とに基づいて、前記位置検出用照明光と前記画像認識用照明光との切り替わりを判断する
上記(1)または(2)に記載の画像処理装置。
(4)
前記画像処理部は、前記撮像画像の全画素の輝度情報に基づいて、前記位置検出用照明光と前記画像認識用照明光との切り替わりを判断する
上記(1)ないし(3)のいずれか1つに記載の画像処理装置。
(5)
前記画像処理部は、前記撮像画像における上部の1ライン分の画素の輝度情報と下部の1ライン分の画素の輝度情報とのいずれか一方に基づいて、前記位置検出用照明光と前記画像認識用照明光との切り替わりを判断する
上記(1)または(2)に記載の画像処理装置。
(6)
前記照明制御部は、前記画像認識用照明光による照明期間よりも前記位置検出用照明光による照明期間の方が長くなるように、前記位置検出用照明部および前記画像認識用照明部を制御する
上記(1)ないし(5)のいずれか1つに記載の画像処理装置。
(7)
前記照明制御部は、前記位置検出用照明光が少なくとも3フレームの期間に亘って出射されるように、前記位置検出用照明部を制御する
上記(6)に記載の画像処理装置。
(8)
前記撮像部は、ローリングシャッタ方式による撮像を行う
上記(1)ないし(7)のいずれか1つに記載の画像処理装置。
(9)
映像投影用照明光を出射する映像投影用照明部と、
映像データに基づいて前記映像投影用照明光を変調して映像光を生成するライトバルブと、
被位置検出物の位置検出に用いられる位置検出用照明光を出射する位置検出用照明部と、
被画像認識物の画像認識に用いられる画像認識用照明光を出射する画像認識用照明部と、
前記位置検出用照明光と前記画像認識用照明光とが互いに異なるタイミンクで出射されるように、前記位置検出用照明部および前記画像認識用照明部を制御する照明制御部と、
前記位置検出用照明光と前記画像認識用照明光とが互いに異なるタイミンクで入射する撮像部と、
前記撮像部による撮像画像の輝度情報に基づいて、前記位置検出用照明光と前記画像認識用照明光との切り替わりを判断し、前記位置検出用照明光に切り替わった状態における前記撮像部の撮像結果に基づいて前記被位置検出物の位置検出を行うと共に、前記画像認識用照明光に切り替わった状態における前記撮像部の撮像結果に基づいて前記被画像認識物の画像認識を行う画像処理部と
を備える
検出機能付き表示装置。
(10)
前記映像光を投影面に投影する投影光学系、をさらに備える
上記(9)に記載の検出機能付き表示装置。
被位置検出物の位置検出に用いられる位置検出用照明光を出射する位置検出用照明部と、
被画像認識物の画像認識に用いられる画像認識用照明光を出射する画像認識用照明部と、
前記位置検出用照明光と前記画像認識用照明光とが互いに異なるタイミンクで出射されるように、前記位置検出用照明部および前記画像認識用照明部を制御する照明制御部と、
前記位置検出用照明光と前記画像認識用照明光とが互いに異なるタイミンクで入射する撮像部と、
前記撮像部による撮像画像の輝度情報に基づいて、前記位置検出用照明光と前記画像認識用照明光との切り替わりを判断し、前記位置検出用照明光に切り替わった状態における前記撮像部の撮像結果に基づいて前記被位置検出物の位置検出を行うと共に、前記画像認識用照明光に切り替わった状態における前記撮像部の撮像結果に基づいて前記被画像認識物の画像認識を行う画像処理部と
を備える
画像処理装置。
(2)
前記画像処理部は、前記撮像画像の輝度分布のヒストグラムに基づいて、前記位置検出用照明光と前記画像認識用照明光との切り替わりを判断する
上記(1)に記載の画像処理装置。
(3)
前記画像処理部は、少なくとも前記撮像画像における上部の1ライン分の画素の輝度情報と下部の1ライン分の画素の輝度情報とに基づいて、前記位置検出用照明光と前記画像認識用照明光との切り替わりを判断する
上記(1)または(2)に記載の画像処理装置。
(4)
前記画像処理部は、前記撮像画像の全画素の輝度情報に基づいて、前記位置検出用照明光と前記画像認識用照明光との切り替わりを判断する
上記(1)ないし(3)のいずれか1つに記載の画像処理装置。
(5)
前記画像処理部は、前記撮像画像における上部の1ライン分の画素の輝度情報と下部の1ライン分の画素の輝度情報とのいずれか一方に基づいて、前記位置検出用照明光と前記画像認識用照明光との切り替わりを判断する
上記(1)または(2)に記載の画像処理装置。
(6)
前記照明制御部は、前記画像認識用照明光による照明期間よりも前記位置検出用照明光による照明期間の方が長くなるように、前記位置検出用照明部および前記画像認識用照明部を制御する
上記(1)ないし(5)のいずれか1つに記載の画像処理装置。
(7)
前記照明制御部は、前記位置検出用照明光が少なくとも3フレームの期間に亘って出射されるように、前記位置検出用照明部を制御する
上記(6)に記載の画像処理装置。
(8)
前記撮像部は、ローリングシャッタ方式による撮像を行う
上記(1)ないし(7)のいずれか1つに記載の画像処理装置。
(9)
映像投影用照明光を出射する映像投影用照明部と、
映像データに基づいて前記映像投影用照明光を変調して映像光を生成するライトバルブと、
被位置検出物の位置検出に用いられる位置検出用照明光を出射する位置検出用照明部と、
被画像認識物の画像認識に用いられる画像認識用照明光を出射する画像認識用照明部と、
前記位置検出用照明光と前記画像認識用照明光とが互いに異なるタイミンクで出射されるように、前記位置検出用照明部および前記画像認識用照明部を制御する照明制御部と、
前記位置検出用照明光と前記画像認識用照明光とが互いに異なるタイミンクで入射する撮像部と、
前記撮像部による撮像画像の輝度情報に基づいて、前記位置検出用照明光と前記画像認識用照明光との切り替わりを判断し、前記位置検出用照明光に切り替わった状態における前記撮像部の撮像結果に基づいて前記被位置検出物の位置検出を行うと共に、前記画像認識用照明光に切り替わった状態における前記撮像部の撮像結果に基づいて前記被画像認識物の画像認識を行う画像処理部と
を備える
検出機能付き表示装置。
(10)
前記映像光を投影面に投影する投影光学系、をさらに備える
上記(9)に記載の検出機能付き表示装置。
1…映像投影用照明部、2…位置検出用照明部、3…画像認識用照明部、4…投影光学系、5…撮像部、6…検出画像処理部、7…照明制御部、8…表示制御部、10…照明光学系、11…光源部、11B…青色レーザ、11G…緑色レーザ、11R…赤色レーザ、21…ライトバルブ、22…撮像素子、23…偏光分離素子、24…投射レンズ、25…撮像光学系、30…スクリーン(投影面)、31…投影エリア、41…映像投影用照明光、42…位置検出用照明光、43…画像認識用照明光、44…映像光、50…共役面、51…縮小光学系、52…バンドパスフィルタ、53…リレーレンズ、71…被位置検出物、72…被画像認識物、100…本体、La…散乱光、P1…映像光の出射位置、P2…位置検出用照明光の出射位置、P3…画像認識用照明光の出射位置、θ1…位置検出用照明光の出射拡散角、θ2…画像認識用照明光の出射拡散角。
Claims (10)
- 被位置検出物の位置検出に用いられる位置検出用照明光を出射する位置検出用照明部と、
被画像認識物の画像認識に用いられる画像認識用照明光を出射する画像認識用照明部と、
前記位置検出用照明光と前記画像認識用照明光とが互いに異なるタイミンクで出射されるように、前記位置検出用照明部および前記画像認識用照明部を制御する照明制御部と、
前記位置検出用照明光と前記画像認識用照明光とが互いに異なるタイミンクで入射する撮像部と、
前記撮像部による撮像画像の輝度情報に基づいて、前記位置検出用照明光と前記画像認識用照明光との切り替わりを判断し、前記位置検出用照明光に切り替わった状態における前記撮像部の撮像結果に基づいて前記被位置検出物の位置検出を行うと共に、前記画像認識用照明光に切り替わった状態における前記撮像部の撮像結果に基づいて前記被画像認識物の画像認識を行う画像処理部と
を備える
画像処理装置。 - 前記画像処理部は、前記撮像画像の輝度分布のヒストグラムに基づいて、前記位置検出用照明光と前記画像認識用照明光との切り替わりを判断する
請求項1に記載の画像処理装置。 - 前記画像処理部は、少なくとも前記撮像画像における上部の1ライン分の画素の輝度情報と下部の1ライン分の画素の輝度情報とに基づいて、前記位置検出用照明光と前記画像認識用照明光との切り替わりを判断する
請求項1に記載の画像処理装置。 - 前記画像処理部は、前記撮像画像の全画素の輝度情報に基づいて、前記位置検出用照明光と前記画像認識用照明光との切り替わりを判断する
請求項1に記載の画像処理装置。 - 前記画像処理部は、前記撮像画像における上部の1ライン分の画素の輝度情報と下部の1ライン分の画素の輝度情報とのいずれか一方に基づいて、前記位置検出用照明光と前記画像認識用照明光との切り替わりを判断する
請求項1に記載の画像処理装置。 - 前記照明制御部は、前記画像認識用照明光による照明期間よりも前記位置検出用照明光による照明期間の方が長くなるように、前記位置検出用照明部および前記画像認識用照明部を制御する
請求項1に記載の画像処理装置。 - 前記照明制御部は、前記位置検出用照明光が少なくとも3フレームの期間に亘って出射されるように、前記位置検出用照明部を制御する
請求項6に記載の画像処理装置。 - 前記撮像部は、ローリングシャッタ方式による撮像を行う
請求項1に記載の画像処理装置。 - 映像投影用照明光を出射する映像投影用照明部と、
映像データに基づいて前記映像投影用照明光を変調して映像光を生成するライトバルブと、
被位置検出物の位置検出に用いられる位置検出用照明光を出射する位置検出用照明部と、
被画像認識物の画像認識に用いられる画像認識用照明光を出射する画像認識用照明部と、
前記位置検出用照明光と前記画像認識用照明光とが互いに異なるタイミンクで出射されるように、前記位置検出用照明部および前記画像認識用照明部を制御する照明制御部と、
前記位置検出用照明光と前記画像認識用照明光とが互いに異なるタイミンクで入射する撮像部と、
前記撮像部による撮像画像の輝度情報に基づいて、前記位置検出用照明光と前記画像認識用照明光との切り替わりを判断し、前記位置検出用照明光に切り替わった状態における前記撮像部の撮像結果に基づいて前記被位置検出物の位置検出を行うと共に、前記画像認識用照明光に切り替わった状態における前記撮像部の撮像結果に基づいて前記被画像認識物の画像認識を行う画像処理部と
を備える
検出機能付き表示装置。 - 前記映像光を投影面に投影する投影光学系、をさらに備える
請求項9に記載の検出機能付き表示装置。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018237899A JP2020101878A (ja) | 2018-12-20 | 2018-12-20 | 画像処理装置、および検出機能付き表示装置 |
CN201980082512.8A CN113168266A (zh) | 2018-12-20 | 2019-11-22 | 具有检测功能的图像处理设备和显示设备 |
US17/413,816 US11429229B2 (en) | 2018-12-20 | 2019-11-22 | Image processing apparatus and display apparatus with detection function |
PCT/JP2019/045724 WO2020129536A1 (ja) | 2018-12-20 | 2019-11-22 | 画像処理装置、および検出機能付き表示装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018237899A JP2020101878A (ja) | 2018-12-20 | 2018-12-20 | 画像処理装置、および検出機能付き表示装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020101878A true JP2020101878A (ja) | 2020-07-02 |
Family
ID=71100429
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018237899A Pending JP2020101878A (ja) | 2018-12-20 | 2018-12-20 | 画像処理装置、および検出機能付き表示装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11429229B2 (ja) |
JP (1) | JP2020101878A (ja) |
CN (1) | CN113168266A (ja) |
WO (1) | WO2020129536A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023149537A1 (ja) * | 2022-02-07 | 2023-08-10 | パナソニックIpマネジメント株式会社 | 投影撮像光学系及び投写型映像表示装置 |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3994672B2 (ja) * | 2000-03-31 | 2007-10-24 | セイコーエプソン株式会社 | 画像処理を用いた指示位置の検出 |
JP4497890B2 (ja) * | 2003-10-30 | 2010-07-07 | キヤノン株式会社 | 投射型画像表示装置 |
JP2009031798A (ja) * | 2008-07-28 | 2009-02-12 | Seiko Epson Corp | 画像表示方法及び装置並びにプロジェクタ |
JP5423222B2 (ja) * | 2009-08-07 | 2014-02-19 | ソニー株式会社 | 位置検出装置および位置検出方法 |
JP2012014668A (ja) * | 2010-06-04 | 2012-01-19 | Sony Corp | 画像処理装置、画像処理方法、プログラム、および電子装置 |
JP2012208926A (ja) * | 2011-03-15 | 2012-10-25 | Nikon Corp | 検出装置、入力装置、プロジェクタ、及び電子機器 |
US9207812B2 (en) * | 2012-01-11 | 2015-12-08 | Smart Technologies Ulc | Interactive input system and method |
JP2013196475A (ja) * | 2012-03-21 | 2013-09-30 | Casio Comput Co Ltd | 投影装置、投影方法及びプログラム |
JP6128008B2 (ja) * | 2013-08-26 | 2017-05-17 | ソニー株式会社 | 投射型表示装置 |
CN104092941A (zh) * | 2014-07-10 | 2014-10-08 | 深圳市得意自动化科技有限公司 | 摄像元件的摄像方法 |
WO2016017315A1 (ja) * | 2014-07-29 | 2016-02-04 | ソニー株式会社 | 投射型表示装置 |
JP2016186674A (ja) * | 2015-03-27 | 2016-10-27 | セイコーエプソン株式会社 | インタラクティブプロジェクター及びインタラクティブプロジェクションシステム |
JP6596501B2 (ja) * | 2015-10-07 | 2019-10-23 | マクセル株式会社 | 映像表示装置およびこれに用いる操作検出方法 |
JP6888628B2 (ja) * | 2016-09-13 | 2021-06-16 | ソニーグループ株式会社 | 検出機能付き表示装置 |
JP6199472B2 (ja) * | 2016-11-01 | 2017-09-20 | 日立マクセル株式会社 | プロジェクタ及びヘッドマウント型表示装置 |
-
2018
- 2018-12-20 JP JP2018237899A patent/JP2020101878A/ja active Pending
-
2019
- 2019-11-22 WO PCT/JP2019/045724 patent/WO2020129536A1/ja active Application Filing
- 2019-11-22 US US17/413,816 patent/US11429229B2/en active Active
- 2019-11-22 CN CN201980082512.8A patent/CN113168266A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023149537A1 (ja) * | 2022-02-07 | 2023-08-10 | パナソニックIpマネジメント株式会社 | 投影撮像光学系及び投写型映像表示装置 |
Also Published As
Publication number | Publication date |
---|---|
US11429229B2 (en) | 2022-08-30 |
CN113168266A (zh) | 2021-07-23 |
WO2020129536A1 (ja) | 2020-06-25 |
US20220019301A1 (en) | 2022-01-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5431312B2 (ja) | プロジェクタ | |
KR100917524B1 (ko) | 위치 검출 장치 | |
JP4707034B2 (ja) | 画像処理方法、入力インタフェース装置 | |
US9785267B2 (en) | Display apparatus, display system, and control method | |
US10627962B2 (en) | Projector | |
CN104658462B (zh) | 投影机以及投影机的控制方法 | |
JP2013064827A (ja) | 電子機器 | |
US10671221B2 (en) | Display apparatus with detection function | |
JP6525603B2 (ja) | 撮像装置 | |
WO2020129536A1 (ja) | 画像処理装置、および検出機能付き表示装置 | |
CN107731198A (zh) | 显示装置和显示装置的控制方法 | |
JP2012181264A (ja) | 投影装置、投影方法及びプログラム | |
US8752962B2 (en) | Ophthalmic apparatus | |
JP7062751B2 (ja) | 投影制御装置、投影装置、投影制御方法、及び投影制御プログラム | |
WO2020250739A1 (ja) | 投影制御装置、投影装置、投影制御方法、及び投影制御プログラム | |
JP6883256B2 (ja) | 投影装置 | |
JP2016057363A (ja) | 投影装置 | |
JP2013026656A (ja) | 撮影装置、撮影方法、および撮影プログラム | |
US8573786B2 (en) | Projector apparatus and method for dynamically masking objects | |
JP2016220080A (ja) | 撮像装置及び投影システム | |
JP2019109273A (ja) | プロジェクタ | |
JP6969606B2 (ja) | 検出機能付きプロジェクタ | |
JP2017201380A (ja) | 投影撮像装置 | |
CN115112042A (zh) | 检测装置、检测方法以及空间投影装置 | |
JP2010276912A (ja) | 投写型映像表示装置 |