JP6398235B2 - Image projection apparatus, image projection system, and control method for image projection apparatus - Google Patents

Image projection apparatus, image projection system, and control method for image projection apparatus Download PDF

Info

Publication number
JP6398235B2
JP6398235B2 JP2014047864A JP2014047864A JP6398235B2 JP 6398235 B2 JP6398235 B2 JP 6398235B2 JP 2014047864 A JP2014047864 A JP 2014047864A JP 2014047864 A JP2014047864 A JP 2014047864A JP 6398235 B2 JP6398235 B2 JP 6398235B2
Authority
JP
Japan
Prior art keywords
image
pattern
pattern image
projection
projected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2014047864A
Other languages
Japanese (ja)
Other versions
JP2015173339A (en
Inventor
澁谷 竹志
竹志 澁谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2014047864A priority Critical patent/JP6398235B2/en
Publication of JP2015173339A publication Critical patent/JP2015173339A/en
Application granted granted Critical
Publication of JP6398235B2 publication Critical patent/JP6398235B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Controls And Circuits For Display Device (AREA)
  • Projection Apparatus (AREA)
  • Transforming Electric Information Into Light Information (AREA)

Description

本発明は、画像投影装置、画像投影システム、及び画像投影装置の制御方法に関する。   The present invention relates to an image projection apparatus, an image projection system, and a control method for the image projection apparatus.

画像投影装置の一例であるプロジェクタに使用される代表的な表示デバイスとして、DMD(Digital Micro mirror Device)が挙げられる。DMDは、シリコン上の微細ミラーを画素単位に傾けることにより反射させた光で映像を作り出すデバイスである。反射方式であることからコントラスト性に優れ、また、微細ミラーの応答速度の速さから、RGB(Red Green Blue)各色の制御を1チップで行うことができるため、装置を小型化し易いという利点がある。   As a typical display device used for a projector which is an example of an image projection apparatus, there is a DMD (Digital Micro mirror Device). The DMD is a device that creates an image with light reflected by tilting a fine mirror on silicon in units of pixels. Since it is a reflection system, it has excellent contrast, and since the response speed of the fine mirror can control each color of RGB (Red Green Blue) with a single chip, there is an advantage that the device can be easily downsized. is there.

DMDは、ミラーを物理的にデバイス上に並べ、それを+10度、又は−10度という傾きを設け、オンかオフかの位置を採るような構造となっている。このオンの位置、又はオフの位置のときの光の反射の仕方によって、0又は1というような、光でのスイッチング動作を持たせている。   The DMD has a structure in which mirrors are physically arranged on a device, and the mirror is provided with an inclination of +10 degrees or -10 degrees, and the position of ON or OFF is taken. Depending on how the light is reflected at the on position or the off position, a switching operation with light such as 0 or 1 is provided.

DMDがどのようにして光のオン又はオフという動きを持たせているかというと、ランプから発せられた光がまずDMDデバイスに当たり、ミラーがオンの位置か、又はオフの位置かによって、反射される方向が決まる。オンの位置により反射された光はレンズを通りスクリーン上に投影される。ミラーがオフ位置のときは、光がレンズを通らない方向に反射するのでスクリーン上には黒い画像が再現される。すなわち、ミラーが実際にオンかオフかということによって、レンズに光が行っているのか否かにより、光学的に1、0のデジタル動作を実現している。   How the DMD makes the light turn on or off, the light emitted from the lamp hits the DMD device first and is reflected depending on whether the mirror is in the on or off position. The direction is determined. The light reflected by the ON position passes through the lens and is projected on the screen. When the mirror is in the off position, light is reflected in a direction that does not pass through the lens, so that a black image is reproduced on the screen. In other words, depending on whether the mirror is actually on or off, whether or not light is applied to the lens, an optical digital operation of 1 and 0 is realized.

そして、ミラー自体はオンかオフかの何れかの位置しか採らないので、階調としては、ある時間軸においてオンになっている時間がどれくらいであるかというものを設定することによりグレーの中間階調を出している。すなわち、ミラーはオンの位置かオフの位置か(0か1か)の位置を採るが、物理的にオンとオフとの中間の位置も通過点として瞬間的に通ることになる。ある時間軸において全部オンであれば全白となり、全部オフであれば全黒、50%オンで50%オフであれば真中の灰色(中間階調)という時間割り振りをしている。   And since the mirror itself takes only one of the positions of on and off, the gray level is set by setting what is the on time on a certain time axis as the gradation. The key is on. That is, the mirror takes an on position or an off position (0 or 1), but an intermediate position between the on and off positions also passes instantaneously as a passing point. On a certain time axis, all white is assigned if all are on, all black if all are off, and half gray (intermediate gray) if 50% on and 50% off.

画像投影装置の一例であるプロジェクタは、本来、平面度の高いスクリーンに投影することを前提とし、これに映像を投影する装置である。しかし、オフィスにおける通常使用や、展示ディスプレイ等の不定形物に投影するような応用利用の現場においては、必ずしも平面性が保証されない投影対象に対する投影が行われる。特許文献1には、特に、想定される標準的な投影映像の観察方向と、スリーンへの投影方向とが著しく異なる場合、スクリーンの歪曲による投影映像の見掛けの歪みが大きくなることが問題点として挙げられている。   A projector, which is an example of an image projection apparatus, is an apparatus that projects an image on a screen that is supposed to be projected on a screen with high flatness. However, in a normal use in an office or a field of application use where projection is performed on an irregular shaped object such as an exhibition display, projection onto a projection target for which flatness is not necessarily guaranteed is performed. Patent Document 1 has a problem in that apparent distortion of the projected image due to distortion of the screen becomes large, especially when the assumed standard observation direction of the projected image and the projection direction to the screen are significantly different. Are listed.

このような問題点に対し、特許文献1や特許文献1で引用する先行技術文献には、格子状に配置した点をパターン映像としてスクリーンに投影し、これを想定される観察方向から撮像して歪みを検出することにより、プロジェクタへの入力画像の補正を行い、観察方向からの歪みを低減する方法が開示されている。特に、特許文献1では、外部カメラを用いた画像歪み検出に適した方法として、中間階調で平坦部の背景画像を形成し、これを基準として、より低い階調レベルと高い階調レベルのパターンを格子状に千鳥配列にするパターン構成が開示されている。   With respect to such problems, in Patent Document 1 and the prior art document cited in Patent Document 1, points arranged in a grid pattern are projected on a screen as a pattern image, and this is imaged from an assumed observation direction. There is disclosed a method for correcting distortion of an input image to the projector by detecting distortion and reducing distortion from the observation direction. In particular, in Patent Document 1, as a method suitable for image distortion detection using an external camera, a background image of a flat portion is formed with an intermediate gradation, and a lower gradation level and a higher gradation level are defined based on this. A pattern configuration is disclosed in which the patterns are arranged in a staggered pattern in a lattice pattern.

また、特許文献2及び特許文献3には、曲面にプロジェクタからの投影による画像歪みを、規則的に配置されたな円パターンの投影画像の撮像結果から補正する技術が開示されている。特に、特許文献2には、自由曲面に対して斜めに配置されたプロジェクタが想定されている。   Patent Documents 2 and 3 disclose a technique for correcting image distortion caused by projection from a projector on a curved surface from the imaging result of a projected image of a regularly arranged circular pattern. In particular, Patent Document 2 assumes a projector disposed obliquely with respect to a free-form surface.

これらの特許文献に共通する技術思想は、均等に配置された円パターンの投影画像の撮像結果に基づいて画像歪みを算出する点に有るが、特許文献2及び特許文献3においては、パターンそのものに対して、外乱に対するロバスト性を向上させるための工夫は特に開示されていない。これに対し、特許文献1は、パターンのコントラストを向上させる工夫が開示されている点に特徴が有る。さらに、特許文献1は、投影されたパターン映像のただ一回の撮影画像に基づいて歪み補正を実施できるため、外部カメラを固定する必要がなく、手持ち撮影を可能としている点で優れている。   The technical concept common to these patent documents is that image distortion is calculated based on the imaging results of the projected images of circular patterns arranged uniformly. However, in Patent Document 2 and Patent Document 3, the pattern itself is used. On the other hand, a device for improving robustness against disturbance is not particularly disclosed. On the other hand, Patent Document 1 is characterized in that a device for improving the contrast of a pattern is disclosed. Furthermore, Patent Document 1 is excellent in that it can perform hand-held shooting without the need to fix an external camera because distortion correction can be performed based on a single shot image of a projected pattern image.

しかしながら、本来のスクリーンではない壁等への投影を想定した場合、撮影されたパターン画像(以下、「取得パターン画像」という。)には、壁面のテクスチャーや汚れ等様々なノイズが重畳してしまう。したがって、投影されるパターンには、撮影時の輝度ムラやノイズに対するより高いロバスト性が要求される。   However, when projection onto a wall or the like that is not the original screen is assumed, various noises such as wall texture and dirt are superimposed on the captured pattern image (hereinafter referred to as “acquired pattern image”). . Accordingly, the projected pattern is required to have higher robustness against luminance unevenness and noise during shooting.

この点に関し、特許文献1では、平坦領域を取得パターン画像における隣接する4×4の輝度のピーク、又は輝度のボトムの中点として検出し、背景の輝度勾配を検出する方法を採っている。そのため、外光や投影面テクスチャーの影響でコントラストが低下した取得パターン画像でのパターン検出限界を低くするためには、平坦領域検出に先立って、ピーク(ボトム)を正しく検出することが要求される。   In this regard, Patent Document 1 adopts a method in which a flat region is detected as an adjacent 4 × 4 luminance peak in the acquired pattern image or a midpoint of the luminance bottom, and a luminance gradient of the background is detected. For this reason, in order to reduce the pattern detection limit in an acquired pattern image in which the contrast has decreased due to the influence of external light or projection surface texture, it is required to correctly detect the peak (bottom) prior to the flat area detection. .

これに対し、本発明は、画像投影手段としてのプロジェクタを中心に構成される映像投影システムの歪み検出において、取得パターン画像のピーク(ボトム)や平坦領域の検出を先行することなく、背景の輝度勾配の検出を可能とすることとしている。そのため、取得パターン画像のコントラスト低下やノイズの重畳に対して、よりロバストネスな歪み検出を可能とすることを解決課題としている。また、歪み検出を、単一の取得パターン画像で実現し、利便性を損なわないこと、さらに、取得パターン画像において、一部のパターン(特に周辺部)のパターンが欠損した場合であっても、ロバストに歪み検出を可能とすることも、併せて課題となる。   On the other hand, in the present invention, in the distortion detection of the video projection system configured mainly with the projector as the image projecting means, the brightness of the background is detected without preceding detection of the peak (bottom) or flat area of the acquired pattern image. The gradient can be detected. Therefore, it is an object of the present invention to make it possible to detect distortion more robustly with respect to a decrease in contrast of an acquired pattern image and noise superimposition. In addition, distortion detection is realized with a single acquired pattern image, and convenience is not impaired. Further, even in the case where a part of the pattern (particularly the peripheral portion) is missing in the acquired pattern image, It is also a challenge to enable robust strain detection.

そこで、本発明は、上記従来技術の問題点に鑑みてなされたものであって、撮影されたパターン画像のコントラスト低下やノイズの重畳に対して、よりロバストな歪み検出をすることが可能な画像投影装置を提供することを目的とする。   Therefore, the present invention has been made in view of the above-described problems of the prior art, and is an image that can perform more robust distortion detection with respect to a decrease in contrast of a captured pattern image and noise superimposition. An object is to provide a projection device.

上記課題を解決するため、本発明における画像投影装置は、投影面に投影される画像信号を入力する画像信号入力手段と、所定のパターン形状から構成されるパターン画像を生成するパターン画像生成手段と、前記パターン画像を前記投影面に投影する投影手段と、前記投影面に投影された前記パターン画像を撮像する撮像手段と、前記撮像されたパターン画像に基づいて画像信号の歪みを補正する補正パラメータを算出する幾何歪み検出手段と、前記算出された補正パラメータに基づいて、前記画像信号入力手段から入力された画像信号を補正する画像歪み補正手段と、を含み、前記所定のパターン形状を構成するパターンの平均輝度と前記所定のパターン形状を構成する背景の輝度とが略等しく、前記パターン画像は、最大輝度を有する第1の点を中心とする第1のパターン画像と、最小輝度を有する第2の点を中心とする第2のパターン画像と、前記最大輝度と前記最小輝度との中間の輝度を有する背景のパターン画像とから構成され、前記所定のパターン形状は、前記第1のパターン画像と前記第2のパターン画像とが、前記背景のパターン画像に対して格子状に千鳥配列された繰り返し形状であるいことを特徴とする。 In order to solve the above problems, an image projection apparatus according to the present invention includes an image signal input unit that inputs an image signal projected on a projection plane, and a pattern image generation unit that generates a pattern image composed of a predetermined pattern shape A projection unit that projects the pattern image onto the projection plane; an imaging unit that captures the pattern image projected onto the projection plane; and a correction parameter that corrects distortion of an image signal based on the captured pattern image And a geometric distortion detecting means for calculating the image signal inputted from the image signal input means based on the calculated correction parameter, and constituting the predetermined pattern shape and brightness of the background which constitutes the average luminance of the pattern and the predetermined pattern is substantially V equal, the pattern image has a maximum brightness A first pattern image centered on one point, a second pattern image centered on a second point having a minimum brightness, and a background pattern having a brightness intermediate between the maximum brightness and the minimum brightness And the predetermined pattern shape is a repetitive shape in which the first pattern image and the second pattern image are staggered in a grid pattern with respect to the background pattern image. It is characterized by.

本発明によれば、撮影されたパターン画像のコントラスト低下やノイズの重畳に対して、よりロバストな歪み検出をすることが可能な画像投影装置を得ることができる。   ADVANTAGE OF THE INVENTION According to this invention, the image projector which can perform distortion detection more robust with respect to the contrast fall of the image | photographed pattern image or noise superimposition can be obtained.

本実施形態に係る画像投影システムの基本構成について説明する図である。It is a figure explaining the basic composition of the image projection system concerning this embodiment. 本実施形態に係る画像投影システムを構成するプロジェクタに組み込まれた歪み補正を行う画像処理部の構成について説明する概略ブロック図である。It is a schematic block diagram explaining the structure of the image process part which performs the distortion correction incorporated in the projector which comprises the image projection system which concerns on this embodiment. 本実施形態に係る画像投影システムを構成するプロジェクタに組み込まれた歪み補正を行う画像処理部の画像歪み補正処理の動作について説明するフロー図である。It is a flowchart explaining the operation | movement of the image distortion correction process of the image process part which performs distortion correction incorporated in the projector which comprises the image projection system which concerns on this embodiment. 本実施形態に係る画像投影システムを構成するプロジェクタによって投影されるパターン画像の例を示す図である。It is a figure which shows the example of the pattern image projected by the projector which comprises the image projection system which concerns on this embodiment. 本実施形態に係る画像投影システムを構成するプロジェクタによって投影されるパターン画像のスクリーンへの投影像としての輝度分布の断面を模式的に表した図である。It is the figure which represented typically the cross section of the luminance distribution as a projection image on the screen of the pattern image projected by the projector which comprises the image projection system which concerns on this embodiment. 本実施形態に係る画像投影システムを構成するプロジェクタによって投影されるパターン画像を2値画像として構築した場合のパターン31b近傍の拡大図である。It is an enlarged view near the pattern 31b when a pattern image projected by a projector constituting the image projection system according to the present embodiment is constructed as a binary image. 本実施形態に係る画像投影システムを構成するプロジェクタによって投影されるパターン画像を2値画像として構築した場合のパターン31bのその他のバリエーションを示す図である。It is a figure which shows the other variation of the pattern 31b at the time of constructing | assembling the pattern image projected by the projector which comprises the image projection system which concerns on this embodiment as a binary image. 本実施形態に係る画像投影システムを構成するプロジェクタに組み込まれた歪み補正を行う画像処理部の画像歪み補正の動作を実行させるユーザインタフェースの例を示す図である。It is a figure which shows the example of the user interface which performs the operation | movement of the image distortion correction of the image process part which performs the distortion correction incorporated in the projector which comprises the image projection system which concerns on this embodiment. 本実施形態に係る画像投影システムを構成するプロジェクタに組み込まれた歪み補正を行う画像処理部の画像歪み補正の動作において、(a)パターン配列の取得画像上の(x、y)座標値を、上から下、左から右の順で順次決定する過程において、(i、j+1)要素のパターンの取得に失敗した場合を示す図、(b)千鳥配置で異なる2種類のパターンを配置した場合を示す図である。In the image distortion correction operation of the image processing unit that performs distortion correction incorporated in the projector constituting the image projection system according to the present embodiment, (a) the (x, y) coordinate values on the acquired image of the pattern array are The figure which shows the case where acquisition of the pattern of (i, j + 1) element fails in the process of determining sequentially from top to bottom and left to right, (b) The case where two different patterns are arranged in a staggered arrangement FIG.

本発明は、プロジェクタ、特に非平面への投影を想定したプロジェクタから投影されるノイズを含んだパターン画像に対し、個々のパターンサイズよりも十分に大きい大域的な平滑化を施している。これにより、パターン画像の平均輝度を背景輝度に略等しくさせることができ、パターン抽出を行うよりも前に、背景の輝度分布を容易に抽出することが特徴となっている。   According to the present invention, global smoothing sufficiently larger than each pattern size is performed on a pattern image including noise projected from a projector, particularly a projector assuming projection onto a non-planar surface. As a result, the average brightness of the pattern image can be made substantially equal to the background brightness, and the background brightness distribution is easily extracted before pattern extraction.

以下、本発明を実施するための形態について図面を参照して詳細に説明する。なお、各図中、同一又は相当する部分には同一の符号を付しており、その重複説明は適宜に簡略化乃至省略する。   Hereinafter, embodiments for carrying out the present invention will be described in detail with reference to the drawings. In addition, in each figure, the same code | symbol is attached | subjected to the part which is the same or it corresponds, The duplication description is simplified thru | or abbreviate | omitted suitably.

まず、本実施形態に係る画像投影システムの基本構成について説明する図である。図1は、本実施形態に係る画像投影システムの基本構成について説明する図である。図1において、本実施形態に係る画像投影システムは、画像投影装置本体であるプロジェクタ1と、プロジェクタ1に映像信号を送信する情報処理装置の一例であるパーソナルコンピュータ(以下、PCという。)7とで構成される。また、プロジェクタ1からの映像を投影する被投影面となるスクリーン2と、スクリーン2に投影された投影画像9を撮影する撮像装置の一例であるカメラ4と、で構成される。   First, it is a figure explaining the basic composition of the image projection system concerning this embodiment. FIG. 1 is a diagram illustrating a basic configuration of an image projection system according to the present embodiment. In FIG. 1, an image projection system according to the present embodiment includes a projector 1 that is a main body of an image projection apparatus, and a personal computer (hereinafter referred to as a PC) 7 that is an example of an information processing apparatus that transmits a video signal to the projector 1. Consists of. Also, the screen 2 is a projection surface on which an image from the projector 1 is projected, and the camera 4 is an example of an imaging device that captures the projection image 9 projected on the screen 2.

特に、図1では、被投影面として、つり下げ状のスクリーン2を例示しているが、極端な凹凸や模様を有しない壁面等で代用しても良い。また、画像入力手段としては、通常のカメラ4の他、携帯電話やタブレットPC、ノートPC等であっても、カメラを内蔵したデバイスであれば代用可能である。   In particular, FIG. 1 illustrates a suspended screen 2 as the projection surface, but a wall surface or the like that does not have extreme irregularities or patterns may be substituted. Further, as the image input means, in addition to the normal camera 4, a mobile phone, a tablet PC, a notebook PC, or the like can be substituted if it is a device incorporating a camera.

この画像投影システムにおいて、通常の使用では、ユーザ8は、PC7からの映像を、プロジェクタ1を介して、スクリーン2に投影する。スクリーン2に歪みがある場合、投影画像9にも歪みを生じる。上述した特許文献1にもあるように、この歪みは、プロジェクタ1の画像の投影方向と、ユーザ8による投影画像9の観察方向との違いによって生じている。   In this image projection system, in normal use, the user 8 projects the video from the PC 7 onto the screen 2 via the projector 1. When the screen 2 is distorted, the projected image 9 is also distorted. As described in Patent Document 1 described above, this distortion is caused by the difference between the projection direction of the image of the projector 1 and the observation direction of the projection image 9 by the user 8.

この場合、ユーザ8は、後述するパターンの配列で構成されるパターン画像10をプロジェクタ1から投影し、これを、歪みを除去したい視点からカメラ4を用いて撮影する。次いで、ユーザ8は、撮影されたパターン画像10の歪んだ投影画像9を、通信手段を介して直接、又はPC7を経由して、プロジェクタ1に取り込む。以下に説明するように、プロジェクタ1は、この取得されたパターン画像に基づいて画像補正を行うことにより、ユーザ8の視点から見て、歪みが無い画像を投影する。   In this case, the user 8 projects a pattern image 10 composed of an array of patterns, which will be described later, from the projector 1 and shoots this using the camera 4 from the viewpoint from which distortion is to be removed. Next, the user 8 captures the distorted projection image 9 of the captured pattern image 10 into the projector 1 directly via the communication means or via the PC 7. As will be described below, the projector 1 performs an image correction based on the acquired pattern image, thereby projecting an image without distortion as viewed from the viewpoint of the user 8.

次に、本実施形態に係る画像投影システムを構成するプロジェクタに組み込まれた歪み補正を行う画像処理部の構成について説明する。図2は、本実施形態に係る画像投影システムを構成するプロジェクタに組み込まれた歪み補正を行う画像処理部の構成について説明する概略ブロック図である。   Next, the configuration of an image processing unit that performs distortion correction incorporated in the projector that configures the image projection system according to the present embodiment will be described. FIG. 2 is a schematic block diagram illustrating the configuration of an image processing unit that performs distortion correction incorporated in the projector that configures the image projection system according to the present embodiment.

図2において、映像信号入力部18は、通常はPC7からの映像信号を受け取り、これを後段の処理に流すが、パターン画像生成部17からの信号送信要求がある場合は、パターン画像生成部17からの信号を優先して後段の処理に流す。画像歪み検出のためのパターン画像10を投影する場合、ユーザ8はプロジェクタ1に備え付けられた指示部16、又はPC7上のユーティリティソフトウエアを介して、パターン画像生成手段であるパターン画像生成部17にパターン画像10の生成を指示する。パターン画像生成部17では、指示されたパターン画像信号を映像信号入力部18に送る。   In FIG. 2, the video signal input unit 18 normally receives the video signal from the PC 7 and sends it to the subsequent processing. When there is a signal transmission request from the pattern image generation unit 17, the pattern image generation unit 17. The signal from is prioritized and sent to subsequent processing. When projecting the pattern image 10 for image distortion detection, the user 8 applies to the pattern image generation unit 17 which is a pattern image generation unit via the instruction unit 16 provided in the projector 1 or the utility software on the PC 7. The generation of the pattern image 10 is instructed. The pattern image generation unit 17 sends the instructed pattern image signal to the video signal input unit 18.

一方、前述のように、カメラ4、又はPC7を介して取得されたパターン画像10は、バッファ19に蓄積される。幾何歪み検出手段である幾何歪み検出部20は、バッファ19に蓄積された歪んだパターン画像から、補正パラメータを算出する。画像歪み補正手段である画像歪み補正部21は、PC7から映像信号入力部18に取得された映像信号を、フレームメモリ22上に展開しつつ、幾何歪み検出部20で算出された補正パラメータに基づいて補正する。補正された映像信号は、投影部23から投影画像9としてスクリーン2に投影される。   On the other hand, as described above, the pattern image 10 acquired via the camera 4 or the PC 7 is accumulated in the buffer 19. The geometric distortion detection unit 20, which is a geometric distortion detection means, calculates a correction parameter from the distorted pattern image stored in the buffer 19. The image distortion correction unit 21 serving as an image distortion correction unit develops the video signal acquired from the PC 7 to the video signal input unit 18 on the frame memory 22, and based on the correction parameter calculated by the geometric distortion detection unit 20. To correct. The corrected video signal is projected from the projection unit 23 onto the screen 2 as the projection image 9.

図2では、特に明示的に図示していないが、画像歪み補正部21は、指示部16からの指示、又はPC7上のユーティリティソフトウエアからの指示により、映像信号入力部18からの映像信号に対する画像歪み補正のオン・オフを切り替え可能となっている。また、図2では、画像歪み補正処理をプロジェクタ1側で行う実装での処理の流れを示した。   Although not specifically shown in FIG. 2, the image distortion correction unit 21 responds to the video signal from the video signal input unit 18 in accordance with an instruction from the instruction unit 16 or an instruction from utility software on the PC 7. Image distortion correction can be switched on and off. FIG. 2 shows the flow of processing in an implementation in which image distortion correction processing is performed on the projector 1 side.

しかしながら、これらのパターン画像生成手段、幾何歪み検出手段、及び画像歪み補正手段は、PC7側のソフトウエアとして実装することも可能である。以下の説明では、PC7上にインストールされたユーティリティソフトウエアの処理モジュールによる画像処理を、単にPC7の処理として記述する。   However, these pattern image generation means, geometric distortion detection means, and image distortion correction means can also be implemented as software on the PC 7 side. In the following description, the image processing by the processing module of utility software installed on the PC 7 is simply described as the processing of the PC 7.

次に、本実施形態に係る画像投影システムを構成するプロジェクタに組み込まれた歪み補正を行う画像処理部の画像歪み補正処理の動作について説明する。図3は、本実施形態に係る画像投影システムを構成するプロジェクタに組み込まれた歪み補正を行う画像処理部の画像歪み補正処理の動作について説明するフロー図である。   Next, the operation of the image distortion correction process of the image processing unit that performs distortion correction incorporated in the projector constituting the image projection system according to the present embodiment will be described. FIG. 3 is a flowchart for explaining the operation of the image distortion correction processing of the image processing unit that performs distortion correction incorporated in the projector constituting the image projection system according to the present embodiment.

以下説明する各処理は、図2に示すようにプロジェクタ1内に各処理手段を実装する場合も概ね同様であるが、ここでは特にPC7上のソフトウエアによって実現した場合を想定して説明する。   Each process described below is generally the same when each processing means is mounted in the projector 1 as shown in FIG. 2, but here, it will be described assuming that it is realized by software on the PC 7.

最初のstep1において、上述したように、ユーザ8は、PC7のユーティリティソフトウエアで実装されたユーザインタフェース40(後述の図8で詳述する。)を用いて、歪み検出に使用するパターンに対応する指示パラメータを与える。パターン画像生成手段であるソフトウエアモジュールは、指示パラメータに基づいて、例えば、図4に示すようなパターン画像を生成する。図4は、本実施形態に係る画像投影システムを構成するプロジェクタによって投影されるパターン画像の例を示す図である。   In the first step 1, as described above, the user 8 uses the user interface 40 (detailed in FIG. 8 described later) implemented by the utility software of the PC 7 to correspond to the pattern used for distortion detection. Give the instruction parameter. The software module as the pattern image generation means generates a pattern image as shown in FIG. 4 based on the instruction parameter. FIG. 4 is a diagram illustrating an example of a pattern image projected by the projector that constitutes the image projection system according to the present embodiment.

このときのパターン画像の生成方法としては二通りあり、一つは、予め保持された複数のパターン画像を、パターン識別番号を指示部16(図2)からの指示パラメータとして選択する実装である。もう一つは、パターン形状に対応する形状パラメータ(例えば、円の半径)を指示パラメータとして指定し、パターン画像生成部17において計算処理によってパターン画像を生成する実装方法がある。このとき生成されるパターンの詳細については、後述する。   There are two methods for generating a pattern image at this time. One is an implementation in which a plurality of pattern images held in advance are selected as pattern identification numbers as instruction parameters from the instruction unit 16 (FIG. 2). The other is a mounting method in which a shape parameter (for example, a radius of a circle) corresponding to a pattern shape is designated as an instruction parameter, and the pattern image generation unit 17 generates a pattern image by calculation processing. Details of the pattern generated at this time will be described later.

step2において、生成されたパターン画像を、プロジェクタ1の映像信号入力部18に送り、スクリーン2に投影する。step3において、スクリーン2に投影されたパターン画像10をカメラ4で撮影し、PC7に送信する。このとき、カメラ4として、カメラ付き携帯電話のような通信機能を有した機器であれば、カメラ4とPC7との間で直接パターン画像データのやりとりが可能である。カメラ4に通信機能が備わってない場合は、ユーザ8がカメラ4の記録メディアを媒介してPC7にパターン画像データの受け渡しを行う。   In step 2, the generated pattern image is sent to the video signal input unit 18 of the projector 1 and projected onto the screen 2. In step 3, the pattern image 10 projected on the screen 2 is captured by the camera 4 and transmitted to the PC 7. At this time, if the camera 4 is a device having a communication function such as a camera-equipped mobile phone, pattern image data can be directly exchanged between the camera 4 and the PC 7. When the camera 4 does not have a communication function, the user 8 transfers the pattern image data to the PC 7 through the recording medium of the camera 4.

step4において、step3で取得された歪みやノイズを含んだパターン画像10に対し、個々のパターンサイズよりは十分に小さい局所的な平滑化を施すことにより、局在するノイズの除去を行う。   In step 4, localized noise is removed by applying local smoothing that is sufficiently smaller than the individual pattern size to the pattern image 10 including distortion and noise acquired in step 3.

一方、step5において、step3で取得された歪みやノイズを含んだパターン画像10に対し、個々のパターンサイズよりも十分に大きい大域的な平滑化を施す。これにより、画像全体の緩やかな輝度勾配が除去される。このとき、パターン画像10は、後述するように、パターンの平均輝度が背景輝度に略等しくなるよう設計されている。このため、step5における大域平滑化処理後に残留するパターン成分はほとんど無く、次のstep6における差分演算でのコントラストの低下が防止される。   On the other hand, in step 5, global smoothing sufficiently larger than the individual pattern size is performed on the pattern image 10 including distortion and noise acquired in step 3. Thereby, the gentle brightness gradient of the whole image is removed. At this time, the pattern image 10 is designed so that the average luminance of the pattern is substantially equal to the background luminance, as will be described later. For this reason, there is almost no pattern component remaining after the global smoothing process in step 5, and a decrease in contrast in the difference calculation in the next step 6 is prevented.

step6において、step4の処理結果と、step5の処理結果との差分を取ることにより、パターン画像の背景輝度が0に基準化される。step7において、step6の処理画像に基づいて、パターン画像中の各パターンの中心点を算出する。ここでは、まず、粗く探索したピーク・ボトム値を各中心点の推定値の初期値として、各中心点毎に、その近傍の輝度勾配から高精度な中心点の座標値(xα、yα)を算出する。ただし、αは単に抽出されピーク値pαを識別するための添字であって、パターン画像データのパターンの位置に関連付けられてはいない。また、ここでの座標値は、撮影画像配列の添字を実数拡張したものと考えて良い。   In step 6, by taking the difference between the processing result of step 4 and the processing result of step 5, the background luminance of the pattern image is normalized to 0. In step 7, the center point of each pattern in the pattern image is calculated based on the processed image in step 6. Here, first, the rough peak / bottom value is used as an initial value of the estimated value of each center point, and for each center point, the coordinate value (xα, yα) of the center point with high accuracy is calculated from the luminance gradient in the vicinity. calculate. However, α is a subscript for simply extracting and identifying the peak value pα, and is not associated with the pattern position of the pattern image data. Further, the coordinate value here may be considered as a real number extension of the subscript of the captured image array.

step8において、step7で取得された各ピーク値pαと、その座標値(xα、yα)のリストとの整合確認を行う。欠損点が存在する場合は、周辺のピーク値とその座標値とから欠損点を推定し補うと共に、各座標値(xα、yα)と、元のパターン画像データのパターンの配列としての添字(i、j)との関連付けを行う。   In step 8, matching is confirmed between each peak value pα acquired in step 7 and the list of coordinate values (xα, yα). If there is a missing point, the missing point is estimated and compensated from the surrounding peak value and its coordinate value, and each coordinate value (xα, yα) and the subscript (i as an array of the pattern of the original pattern image data) , J).

step9において、step8で関連付けられた、(i、j、xα、yα)に基づいて、上記特許文献1に記載された方法と同様の方法により、歪み補正パラメータを算出する。step10において、幾何歪み補正手段としての画像補正ソフトウエアモジュールに対して、step9において得られた歪み補正パラメータを設定することにより、出力映像の歪みが正しく補正される。   In step 9, based on (i, j, xα, yα) associated in step 8, distortion correction parameters are calculated by a method similar to the method described in Patent Document 1. At step 10, the distortion of the output video is correctly corrected by setting the distortion correction parameter obtained at step 9 to the image correction software module as the geometric distortion correcting means.

パターン画像10の例を示す図4において、パターン画像10は、中間輝度の背景部30上に、最大輝度である白色の点を中心とするパターン31aと、最小輝度である黒色の点を中心とするパターン31bとが格子状の千鳥配列で構成される。また、パターン31a、パターン31bそれぞれのパターンのプロジェクタ1による出力としての平均輝度が背景輝度に略等しくなるように、白色と黒色との面積比率が調整されている。なお、実際のパターン画像は、図4のパターン画像10を、概ね縦横2×2で連結した領域で構成されるが、図示の都合上、図4では1/4の領域を例示している。   In FIG. 4 showing an example of the pattern image 10, the pattern image 10 has a pattern 31 a centering on a white point having the maximum luminance and a black point having the minimum luminance on the background portion 30 having the intermediate luminance. The pattern 31b to be formed is configured in a latticed staggered arrangement. In addition, the area ratio of white and black is adjusted so that the average brightness as the output of the projector 31 for each of the patterns 31a and 31b is substantially equal to the background brightness. Note that the actual pattern image is composed of a region in which the pattern image 10 of FIG. 4 is connected approximately vertically and horizontally by 2 × 2, but for convenience of illustration, FIG. 4 illustrates a quarter region.

次に、本実施形態に係る画像投影システムを構成するプロジェクタによって投影されるパターン画像のスクリーンへの投影像としての輝度分布の断面について説明する。図5は、本実施形態に係る画像投影システムを構成するプロジェクタによって投影されるパターン画像のスクリーンへの投影像としての輝度分布の断面を模式的に表した図である。   Next, a cross section of the luminance distribution as a projection image of the pattern image projected by the projector constituting the image projection system according to this embodiment will be described. FIG. 5 is a diagram schematically showing a cross section of the luminance distribution as a projection image of the pattern image projected by the projector constituting the image projection system according to the present embodiment onto the screen.

図5において、横軸の位置が、図4のA−A´断面に対応する。パターン31a、パターン31bとも、それぞれ黒白の同心円を組み合わせることにより高いコントラストを確保するし、ピーク32、及びボトム33の検出を外乱に対してロバストなものとしている。また、ピーク32、及びボトム33の周辺の輝度勾配を大きくすることにより、図3のstep7における極値検出計算の収束性と精度が向上される。   In FIG. 5, the position of the horizontal axis corresponds to the AA ′ cross section of FIG. Both the pattern 31a and the pattern 31b ensure high contrast by combining black and white concentric circles, and the detection of the peak 32 and the bottom 33 is robust against disturbance. Further, by increasing the luminance gradient around the peak 32 and the bottom 33, the convergence and accuracy of the extreme value detection calculation at step 7 in FIG. 3 are improved.

次に、本実施形態に係る画像投影システムを構成するプロジェクタによって投影されるパターン画像を2値画像として構築した場合のパターン31b近傍の拡大図について説明する。図6は、本実施形態に係る画像投影システムを構成するプロジェクタによって投影されるパターン画像を2値画像として構築した場合のパターン31b近傍の拡大図である。   Next, an enlarged view of the vicinity of the pattern 31b when a pattern image projected by the projector constituting the image projection system according to the present embodiment is constructed as a binary image will be described. FIG. 6 is an enlarged view of the vicinity of the pattern 31b when a pattern image projected by the projector constituting the image projection system according to the present embodiment is constructed as a binary image.

図6では、領域全体で白色のドット数と黒色のドット数とが同数となるようにパターン31bを構成している。これにより、背景部30の白黒面積率とパターン31bの白黒面積率とを等しくすることで、プロジェクタ1の中間階調特性に因ることなく背景輝度とパターン31bの平均輝度とを略等しくすることができる。また、上記した図3のstep4における局所平滑化は、この背景パターンによって生じる微細な輝度ムラを除去することにより、step5における大域平滑化との差分を取るstep6において、不適切なモアレ(縞)が生じることを防いでいる。   In FIG. 6, the pattern 31b is configured so that the number of white dots and the number of black dots are the same in the entire region. Thereby, by making the monochrome area ratio of the background portion 30 and the monochrome area ratio of the pattern 31b equal, the background luminance and the average luminance of the pattern 31b are made substantially equal regardless of the intermediate gradation characteristics of the projector 1. Can do. Further, the above-described local smoothing in step 4 of FIG. 3 eliminates fine luminance unevenness caused by this background pattern, so that an inappropriate moire (stripe) is generated in step 6 that takes a difference from the global smoothing in step 5. It prevents it from happening.

次に、本実施形態に係る画像投影システムを構成するプロジェクタによって投影されるパターン画像を2値画像として構築した場合のパターン31bのその他のバリエーションについて説明する。図7は、本実施形態に係る画像投影システムを構成するプロジェクタによって投影されるパターン画像を2値画像として構築した場合のパターン31bのその他のバリエーションを示す図である。   Next, other variations of the pattern 31b when the pattern image projected by the projector constituting the image projection system according to the present embodiment is constructed as a binary image will be described. FIG. 7 is a diagram showing another variation of the pattern 31b when a pattern image projected by the projector constituting the image projection system according to the present embodiment is constructed as a binary image.

図7において、それぞれのパターン35b、36b、37b、38bは、何れも、パターン31bと同様に、白色と黒色との面積率が等しく設定されている。それぞれのパターンは、最外周の円の直径(内径)に対する最内周の円の直径(内径)の比率が、パターン35bが0.2、パターン36bが0.3、パターン31bが0.4、パターン37bが0.5、パターン38bが1/√2に設定されている。また、これらのパターンの白黒反転図形として、対応する図示しないパターン35aから38aも定義される。   In FIG. 7, the patterns 35b, 36b, 37b, and 38b are set to have the same area ratio of white and black as in the pattern 31b. In each pattern, the ratio of the diameter (inner diameter) of the innermost circle to the diameter (inner diameter) of the outermost circle is 0.2 for the pattern 35b, 0.3 for the pattern 36b, 0.4 for the pattern 31b, The pattern 37b is set to 0.5 and the pattern 38b is set to 1 / √2. Corresponding patterns 35a to 38a (not shown) are also defined as black and white inverted graphics of these patterns.

このように、3重の同心円としてパターンを構築することにより、中心円と、それを取り囲む白黒反転領域の比率に、ある程度自由度を持たせることが可能となる。これらのパターンから、実際の使用環境に合わせて、最もピーク値又はボトム値の検出に適したコントラストの高い投影画像を選択することにより、環境ノイズに対してよりロバストな歪み検出が可能となる。   In this way, by constructing the pattern as triple concentric circles, it becomes possible to give a certain degree of freedom to the ratio between the central circle and the black and white inversion area surrounding it. From these patterns, by selecting a projection image having a high contrast suitable for detecting the peak value or the bottom value in accordance with the actual use environment, distortion detection more robust against environmental noise can be performed.

また、白黒2色の2値画像データでパターン画像を構築することにより、プロジェクタにおいて入力映像の信号レベルと出力映像の明るさとの比率を設定するγ設定値に依存することなく、パターン画像の平均輝度を背景輝度に略等しくすることができるのである。これは、プロジェクタから発せられる投射光のエネルギーがオンになる画素数に概ね比例しているという仮定に基づいている。つまり、プロジェクタから発せられる投射光量を2値画像データで空間的(面積的)に制御しているので、パターン画像の設計者側が主体的にパターン画像を制御していることになる。   Further, by constructing a pattern image with binary image data of two colors of black and white, the average of the pattern image can be obtained without depending on the γ setting value for setting the ratio between the signal level of the input video and the brightness of the output video in the projector. The luminance can be made approximately equal to the background luminance. This is based on the assumption that the energy of the projection light emitted from the projector is approximately proportional to the number of pixels that are turned on. That is, the amount of light emitted from the projector is controlled spatially (in terms of area) with binary image data, so that the pattern image designer mainly controls the pattern image.

これに対し、上述したように、中間階調の輝度は、DMDがオンとなる時間によって制御される。したがって、2値画像データでパターン画像を構築しない場合、歪み補正は、ブラックボックス化されているDMD制御側の設計に依存してしまい、プロジェクタやカメラ自身の階調特性の影響を受けてしまうという問題がある。これに対し、本実施形態に係るパターン画像を用いることにより、プロジェクタやカメラといった既に実装されている階調特性の都合に拘束されることなく、パターン画像の平均輝度を背景輝度に略一致させることができるのである。   On the other hand, as described above, the brightness of the intermediate gradation is controlled by the time when the DMD is turned on. Therefore, when a pattern image is not constructed with binary image data, distortion correction depends on the design on the DMD control side that is made into a black box, and is affected by the gradation characteristics of the projector and the camera itself. There's a problem. On the other hand, by using the pattern image according to the present embodiment, the average luminance of the pattern image can be made to substantially match the background luminance without being restricted by the convenience of already installed gradation characteristics such as a projector and a camera. Can do it.

次に、本実施形態に係る画像投影システムを構成するプロジェクタに組み込まれた歪み補正を行う画像処理部の画像歪み補正の動作を実行させるユーザインタフェースの例について説明する。図8は、本実施形態に係る画像投影システムを構成するプロジェクタに組み込まれた歪み補正を行う画像処理部の画像歪み補正の動作を実行させるユーザインタフェースの例を示す図である。   Next, an example of a user interface that executes an image distortion correction operation of an image processing unit that performs distortion correction incorporated in the projector constituting the image projection system according to the present embodiment will be described. FIG. 8 is a diagram illustrating an example of a user interface that executes an image distortion correction operation of an image processing unit that performs distortion correction incorporated in a projector included in the image projection system according to the present embodiment.

図8において、ユーザインタフェース40は主として、パターンのプレビューを表示するプレビュー表示領域52と、第1パターンを選択するスライダ41と、第2パターンを選択するスライダ43とで構成される。また、第1パターンの反転スイッチ45と、第2パターンの反転スイッチ46と、パターン投影指示ボタン47とで構成される。また、プレビュー表示領域52には、表示画像の拡大、縮小を指示するための、拡大ボタン48と、縮小ボタン49とが設けられている。   In FIG. 8, the user interface 40 mainly includes a preview display area 52 for displaying a pattern preview, a slider 41 for selecting a first pattern, and a slider 43 for selecting a second pattern. Further, it comprises a reverse switch 45 for the first pattern, a reverse switch 46 for the second pattern, and a pattern projection instruction button 47. The preview display area 52 is provided with an enlarge button 48 and a reduce button 49 for instructing enlargement / reduction of the display image.

第1パターン及び第2パターンは、プレビュー表示領域52に表示される互いに千鳥配置関係になる第1パターン50及び第2パターン51に対応する。また、スライダ41には、5段階の選択位置が設定されており、ハンドル42で選択位置を示すことにより、左側から順に対応する図7に示した反転パターンの一つが選択される。   The first pattern and the second pattern correspond to the first pattern 50 and the second pattern 51 that are displayed in the preview display area 52 and have a staggered arrangement with each other. Further, the slider 41 is set with five selection positions. By indicating the selection position with the handle 42, one of the corresponding inversion patterns shown in FIG.

ここで、反転スイッチ45がチェックされている場合には、図7のパターンがそのまま対応付けられる。同様にして、第2パターンは、スライダ43、ハンドル44、反転スイッチ46を用いて選択される。したがって、図8に示す状態では、第1パターン(パターン50)として、図7のパターン35bの反転パターンが選択され、第2パターン(パターン51)として、図7のパターン37bが選択される。   Here, when the reversing switch 45 is checked, the pattern of FIG. 7 is associated as it is. Similarly, the second pattern is selected using the slider 43, the handle 44, and the reverse switch 46. Therefore, in the state shown in FIG. 8, the reverse pattern of the pattern 35b of FIG. 7 is selected as the first pattern (pattern 50), and the pattern 37b of FIG. 7 is selected as the second pattern (pattern 51).

また、投影指示ボタン47はトグルボタンであり、押下された場合、再び押されるまでの間、パターン画像を優先してプロジェクタ1から投影する。特に、このような切り替え動作は、パターン画像生成部17が図2に示すようにプロジェクタ1に組み込まれている場合、次のような手順を踏んで行われる。すなわち、PC7のユーザインタフェースからの指示を、通信手段15、指示部16を介して受けた映像信号入力部18の入力の切り替えによって行われる。一方、パターン画像の生成等をPC7側のユーティリティソフトウエア内で実現する場合は、PC7からプロジェクタ1に送出される映像信号そのものが切り換えられることになる。   The projection instruction button 47 is a toggle button, and when pressed, the pattern image is preferentially projected from the projector 1 until it is pressed again. In particular, such a switching operation is performed according to the following procedure when the pattern image generation unit 17 is incorporated in the projector 1 as shown in FIG. That is, an instruction from the user interface of the PC 7 is performed by switching the input of the video signal input unit 18 received via the communication unit 15 and the instruction unit 16. On the other hand, when generating the pattern image or the like in the utility software on the PC 7 side, the video signal itself sent from the PC 7 to the projector 1 is switched.

最後に、図3のstep8において説明した欠損値の扱いについて図9を用いて補足説明する。図9は、本実施形態に係る画像投影システムを構成するプロジェクタに組み込まれた歪み補正を行う画像処理部の画像歪み補正の動作について説明する図である。図9(a)は、パターン配列の取得画像上の(x、y)座標値を、上から下、左から右の順で順次決定する過程において、(i、j+1)要素のパターンの取得に失敗した場合を示す図である。また、図9(b)は、千鳥配置で異なる2種類のパターンを配置した場合を示す図である。   Finally, the handling of the missing value described in step 8 of FIG. 3 will be supplementarily described with reference to FIG. FIG. 9 is a diagram for explaining the image distortion correction operation of the image processing unit that performs distortion correction incorporated in the projector constituting the image projection system according to the present embodiment. FIG. 9A shows how to acquire a pattern of (i, j + 1) elements in the process of sequentially determining (x, y) coordinate values on an acquired image of a pattern array in order from top to bottom and from left to right. It is a figure which shows the case where it fails. FIG. 9B is a diagram showing a case where two different patterns are arranged in a staggered arrangement.

図9(a)に示すように、全パターンを同一のパターンで構成した場合、(i、j)要素から見て、まだ対応付けが確定していない要素であって最も(i、j)要素に近いものを(i、j+1)要素として対応付けた場合について検討する。そうすると、本来選択されるべき図9(a)の破線で示した対応付けに失敗してしまうという問題が生じてしまう。   As shown in FIG. 9 (a), when all patterns are composed of the same pattern, the element (i, j) that has not yet been determined as viewed from the (i, j) element is the most (i, j) element. Let us consider a case in which elements close to are associated as (i, j + 1) elements. If it does so, the problem that the matching shown with the broken line of Fig.9 (a) which should be selected will fail will arise.

これに対して、図9(b)に示すように、千鳥配置で異なる2種類のパターンを配置した場合であれば、最も(i、j)要素に近い未確定要素である(i、j+1)が、(i、j)要素と同パターンとなってしまう。このことから、容易に(i、j+1)のパターンが欠損していることを検出することが可能となる。この場合、既に確定している(i、j)、(i−1、j+1)、(i−1、j+2)の確定要素、及び先に検出された(i、j+1)に基づいて、欠損要素(i、j+1)を線形補間により推定することが可能となる。   On the other hand, as shown in FIG. 9B, when two different patterns are arranged in a staggered arrangement, the element is an undetermined element closest to the (i, j) element (i, j + 1). However, it becomes the same pattern as the (i, j) element. From this, it is possible to easily detect that the pattern (i, j + 1) is missing. In this case, based on the already determined (i, j), (i-1, j + 1), (i-1, j + 2) determined elements and the previously detected (i, j + 1), the missing elements (I, j + 1) can be estimated by linear interpolation.

欠損画素が周辺部の場合の補間処理は、上記図9で説明した補間処理とは異なってくるが、少数の欠損であれば、同じタイプのパターンが連続することは同様である。よって、欠損していることがアルゴリズムの早い段階で確定することにより、効率の良い欠損値の補間処理を実現することができる。   The interpolation process in the case where the missing pixel is a peripheral part is different from the interpolation process described with reference to FIG. 9, but the same type of pattern continues if there are a small number of defects. Therefore, the missing value can be determined at an early stage of the algorithm, whereby efficient missing value interpolation processing can be realized.

以上説明したように、本発明によれば、プロジェクタから投影されたパターン画像を補正するための入力手段により取得された単一の撮影されたパターン画像に対し、十分な平滑化処理を施している。これにより、パターン画像のピーク又はボトムを個別に識別するよりも以前に背景輝度の分布を抽出することが可能となる。   As described above, according to the present invention, sufficient smoothing processing is performed on a single captured pattern image acquired by the input means for correcting the pattern image projected from the projector. . This makes it possible to extract the background luminance distribution before identifying the peak or bottom of the pattern image individually.

また、撮影されたパターン画像に若干のパターン欠損が生じた場合であっても、周辺パターンとの関係から欠損パターンを類推し、補間することが容易となる。さらに、パターン配列を千鳥配列で構成することにより、2種類のパターンの輝度レンジを異なるものとして組み合わせている。これにより、取得されたパターン画像の局所コントラストを確保し、より安定なパターン検出が可能となる。   Further, even when a slight pattern defect occurs in the captured pattern image, it is easy to infer and interpolate the defect pattern from the relationship with the peripheral pattern. Furthermore, by configuring the pattern arrangement in a staggered arrangement, the luminance ranges of the two types of patterns are combined as different ones. Thereby, the local contrast of the acquired pattern image is ensured and the more stable pattern detection becomes possible.

また、パターンの平均輝度と背景輝度とを略一致させるパターンとして、同心円状の内径比率の設定に自由度を持たせることにより、より適切なコントラストを確保するためのパターンの最適化を図ることが可能となる。そして、パターン画像を2値画像として構成するため、プロジェクタやカメラにおける階調特性の設定値の影響を受けることなく、パターン画像の平均輝度と背景画像の平均輝度とを略等しくすることができる。さらに、最適なコントラストが得られるパターン画像を、プロジェクタの設置現場の状況に合わせてユーザ自身が調整することが可能となる。   In addition, as a pattern that substantially matches the average luminance of the pattern and the background luminance, it is possible to optimize the pattern in order to ensure more appropriate contrast by providing a degree of freedom in setting the concentric inner diameter ratio. It becomes possible. Since the pattern image is configured as a binary image, the average luminance of the pattern image and the average luminance of the background image can be made substantially equal without being affected by the setting value of the gradation characteristics in the projector or camera. Furthermore, the user can adjust the pattern image that provides the optimum contrast according to the situation of the projector installation site.

なお、図3に示した本実施形態に係る画像投影システムを構成する各機能ブロックの各動作は、コンピュータ上のプログラムに実行させることもできる。すなわち、プロジェクタ1内の図示しない制御部、又はPC7内の図示しないCPUが、ROM等の記憶媒体に格納されたプログラムをロードする。そして、プログラムの各処理ステップが順次実行されることによって実現される。   In addition, each operation | movement of each functional block which comprises the image projection system which concerns on this embodiment shown in FIG. 3 can also be made to perform the program on a computer. That is, a control unit (not shown) in the projector 1 or a CPU (not shown) in the PC 7 loads a program stored in a storage medium such as a ROM. This is realized by sequentially executing each processing step of the program.

本発明によれば、撮影されたパターン画像のコントラスト低下やノイズの重畳に対して、よりロバストな歪み検出をすることが可能な画像投影装置、画像投影システム、及び画像投影装置の制御方法が得られる。   According to the present invention, an image projection apparatus, an image projection system, and an image projection apparatus control method capable of performing more robust distortion detection with respect to contrast reduction and noise superposition of a captured pattern image are obtained. It is done.

以上、本発明の好適な実施形態により本発明を説明した。ここでは特定の具体例を示して本発明を説明したが、特許請求の範囲に定義された本発明の広範囲な趣旨及び範囲から逸脱することなく、これら具体例に様々な修正及び変更が可能である。   The present invention has been described above by the preferred embodiments of the present invention. While the invention has been described with reference to specific embodiments thereof, various modifications and changes can be made to these embodiments without departing from the broader spirit and scope of the invention as defined in the claims. is there.

1 プロジェクタ
2 スクリーン
4 カメラ
7 PC
8 ユーザ
9 投影画像
10 パターン画像
15 通信手段
16 指示部
17 パターン画像生成部
18 映像信号入力部
19 バッファ
20 幾何歪み検出部
21 画像歪み補正部
22 フレームメモリ
23 投影部
30 背景部
31、35、36、37、38 パターン
32 ピーク
33 ボトム
40 ユーザインタフェース
41、43 スライダ
42、44 ハンドル
45、46 反転スイッチ
47 パターン投影指示ボタン
48 拡大ボタン
49 縮小ボタン
50 第1パターン
51 第2パターン
52 プレビュー表示領域
1 Projector 2 Screen 4 Camera 7 PC
DESCRIPTION OF SYMBOLS 8 User 9 Projected image 10 Pattern image 15 Communication means 16 Instruction part 17 Pattern image generation part 18 Video signal input part 19 Buffer 20 Geometric distortion detection part 21 Image distortion correction part 22 Frame memory 23 Projection part 30 Background part 31, 35, 36 , 37, 38 Pattern 32 Peak 33 Bottom 40 User interface 41, 43 Slider 42, 44 Handle 45, 46 Invert switch 47 Pattern projection instruction button 48 Enlarge button 49 Reduce button 50 First pattern 51 Second pattern 52 Preview display area

特開2013−172444号公報JP 2013-172444 A 特開2001−083949号公報JP 2001-083949 A 特開2008−113416号公報JP 2008-113416 A

Claims (8)

投影面に投影される画像信号を入力する画像信号入力手段と、
所定のパターン形状から構成されるパターン画像を生成するパターン画像生成手段と、
前記パターン画像を前記投影面に投影する投影手段と、
前記投影面に投影された前記パターン画像を撮像する撮像手段と、
前記撮像されたパターン画像に基づいて画像信号の歪みを補正する補正パラメータを算出する幾何歪み検出手段と、
前記算出された補正パラメータに基づいて、前記画像信号入力手段から入力された画像信号を補正する画像歪み補正手段と、
を含み、
前記所定のパターン形状を構成するパターンの平均輝度と前記所定のパターン形状を構成する背景の輝度とが略等しく、
前記パターン画像は、最大輝度を有する第1の点を中心とする第1のパターン画像と、最小輝度を有する第2の点を中心とする第2のパターン画像と、前記最大輝度と前記最小輝度との中間の輝度を有する背景のパターン画像とから構成され、
前記所定のパターン形状は、前記第1のパターン画像と前記第2のパターン画像とが、前記背景のパターン画像に対して格子状に千鳥配列された繰り返し形状である
ことを特徴とする画像投影装置。
An image signal input means for inputting an image signal projected on the projection surface;
Pattern image generation means for generating a pattern image composed of a predetermined pattern shape;
Projecting means for projecting the pattern image onto the projection plane;
Imaging means for imaging the pattern image projected on the projection plane;
Geometric distortion detecting means for calculating a correction parameter for correcting distortion of an image signal based on the captured pattern image;
Image distortion correction means for correcting the image signal input from the image signal input means based on the calculated correction parameter;
Including
The predetermined pattern shape and the average luminance of the pattern constituting the luminance of the background constituting the predetermined pattern is substantially V equal,
The pattern image includes a first pattern image centered on a first point having a maximum brightness, a second pattern image centered on a second point having a minimum brightness, the maximum brightness, and the minimum brightness. And a background pattern image having an intermediate brightness,
The predetermined pattern shape is a repetitive shape in which the first pattern image and the second pattern image are arranged in a staggered pattern in a grid pattern with respect to the background pattern image. An image projection device.
前記パターン画像は、白黒2色の2値画像であり、前記第1の点は白色の点であり、前記第2の点は黒色の点であることを特徴とする請求項に記載の画像投影装置。 The pattern image is a binary image of black and white colors, the first point is the point of the white image according to claim 1, wherein the second point is the point of black Projection device. 前記第1のパターン画像及び前記第2のパターン画像は、3重の同心円からなることを特徴とする請求項1又は2に記載の画像投影装置。 The first pattern image and said second pattern image, the image projection apparatus according to claim 1 or 2, characterized in that it consists of triple concentric circles. 前記第1のパターン画像及び前記第2のパターン画像に対して占める前記白色の点の面積比率と前記黒色の点の面積比率とは、等しいことを特徴とする請求項又はに記載の画像投影装置。 Wherein the first pattern image and the second area ratio of the point of the white area ratio and the black points occupying the pattern image, an image according to claim 2 or 3, characterized in that equal Projection device. 前記第1のパターン画像及び前記第2のパターン画像に対して占める前記白色の点の面積比率と前記黒色の点の面積比率とを等しくするために、前記3重の同心円のそれぞれの内径比率を設定する手段をさらに含むことを特徴とする請求項又はに記載の画像投影装置。 In order to make the area ratio of the white dots and the area ratio of the black dots occupying the first pattern image and the second pattern image equal, the inner diameter ratio of each of the triple concentric circles is the image projection apparatus according to claim 3 or 4, further comprising means for setting. 前記幾何歪み検出手段は、前記撮像されたパターン画像に基づいて前記画像信号入力手段から入力された画像信号の歪みを補正するにあたり、前記撮像されたパターン画像に欠損値が存在するとき、前記欠損値の周辺に存在する前記パターン画像の確定要素に基づいて前記欠損値を推定することを特徴とする請求項1からの何れか1項に記載の画像投影装置。 The geometric distortion detecting means corrects the distortion of the image signal input from the image signal input means based on the captured pattern image. When the captured pattern image has a missing value, the geometric distortion detection means the image projection apparatus according to any one of claims 1, wherein the estimating the missing values based on the determined elements of the pattern images existing in the periphery of the value 5. 投影面に画像を投影する画像投影装置と、前記画像投影装置の動作を制御する情報処理装置と、前記投影面に投影された画像を撮像する撮像装置と、を含む画像投影システムであって、
前記画像投影装置は、
前記投影面に投影される画像信号を入力する画像信号入力手段と、
所定のパターン形状から構成されるパターン画像を前記投影面に投影する投影手段と、を含み、
前記撮像装置は、
前記投影面に投影された前記パターン画像を撮像する撮像手段を含み、
前記情報処理装置は、
前記パターン画像を生成するパターン画像生成手段と、
前記撮像されたパターン画像に基づいて画像信号の歪みを補正する補正パラメータを算出する幾何歪み検出手段と、
前記算出された補正パラメータに基づいて、前記画像信号入力手段から入力された画像信号を補正する画像歪み補正手段と、
を含み、
前記所定のパターン形状を構成するパターンの平均輝度と前記所定のパターン形状を構成する背景の輝度とが略等しく、
前記パターン画像は、最大輝度を有する第1の点を中心とする第1のパターン画像と、最小輝度を有する第2の点を中心とする第2のパターン画像と、前記最大輝度と前記最小輝度との中間の輝度を有する背景のパターン画像とから構成され、
前記所定のパターン形状は、前記第1のパターン画像と前記第2のパターン画像とが、前記背景のパターン画像に対して格子状に千鳥配列された繰り返し形状である
ことを特徴とする画像投影システム。
An image projection system comprising: an image projection device that projects an image on a projection surface; an information processing device that controls the operation of the image projection device; and an imaging device that captures an image projected on the projection surface,
The image projector is
Image signal input means for inputting an image signal projected onto the projection plane;
Projecting means for projecting a pattern image composed of a predetermined pattern shape onto the projection plane,
The imaging device
Including imaging means for imaging the pattern image projected on the projection plane;
The information processing apparatus includes:
Pattern image generation means for generating the pattern image;
Geometric distortion detecting means for calculating a correction parameter for correcting distortion of an image signal based on the captured pattern image;
Image distortion correction means for correcting the image signal input from the image signal input means based on the calculated correction parameter;
Only including,
The average luminance of the pattern constituting the predetermined pattern shape and the luminance of the background constituting the predetermined pattern shape are substantially equal,
The pattern image includes a first pattern image centered on a first point having a maximum brightness, a second pattern image centered on a second point having a minimum brightness, the maximum brightness, and the minimum brightness. And a background pattern image having an intermediate brightness,
The predetermined pattern shape is a repetitive shape in which the first pattern image and the second pattern image are arranged in a staggered pattern in a grid pattern with respect to the background pattern image. Image projection system.
画像投影装置の制御方法であって、
投影面に投影される画像信号を入力する工程と、
所定のパターン形状から構成されるパターン画像を生成する工程と、
前記パターン画像を前記投影面に投影する工程と、
前記投影面に投影された前記パターン画像を撮像する工程と、
前記撮像する工程により撮像されたパターン画像に基づいて画像信号の歪みを補正する補正パラメータを算出する工程と、
前記算出する工程により算出された補正パラメータに基づいて、前記画像信号を入力する工程により入力された画像信号を補正する工程と、
前記所定のパターン形状を構成するパターンの平均輝度と前記所定のパターン形状を構成する背景の輝度とを略等しくする工程と、
を含み、
前記パターン画像は、最大輝度を有する第1の点を中心とする第1のパターン画像と、最小輝度を有する第2の点を中心とする第2のパターン画像と、前記最大輝度と前記最小輝度との中間の輝度を有する背景のパターン画像とから構成され、
前記所定のパターン形状は、前記第1のパターン画像と前記第2のパターン画像とが、前記背景のパターン画像に対して格子状に千鳥配列された繰り返し形状である
ことを特徴とする制御方法。
A method for controlling an image projection apparatus, comprising:
Inputting an image signal to be projected on the projection surface;
Generating a pattern image composed of a predetermined pattern shape;
Projecting the pattern image onto the projection plane;
Capturing the pattern image projected on the projection plane;
Calculating a correction parameter for correcting distortion of the image signal based on the pattern image imaged in the imaging step;
Correcting the image signal input by the step of inputting the image signal based on the correction parameter calculated by the step of calculating;
Making the average luminance of the pattern constituting the predetermined pattern shape substantially equal to the luminance of the background constituting the predetermined pattern shape;
Only including,
The pattern image includes a first pattern image centered on a first point having a maximum brightness, a second pattern image centered on a second point having a minimum brightness, the maximum brightness, and the minimum brightness. And a background pattern image having an intermediate brightness,
The predetermined pattern shape is a repetitive shape in which the first pattern image and the second pattern image are arranged in a staggered pattern in a grid pattern with respect to the background pattern image. Control method to do.
JP2014047864A 2014-03-11 2014-03-11 Image projection apparatus, image projection system, and control method for image projection apparatus Expired - Fee Related JP6398235B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014047864A JP6398235B2 (en) 2014-03-11 2014-03-11 Image projection apparatus, image projection system, and control method for image projection apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014047864A JP6398235B2 (en) 2014-03-11 2014-03-11 Image projection apparatus, image projection system, and control method for image projection apparatus

Publications (2)

Publication Number Publication Date
JP2015173339A JP2015173339A (en) 2015-10-01
JP6398235B2 true JP6398235B2 (en) 2018-10-03

Family

ID=54260426

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014047864A Expired - Fee Related JP6398235B2 (en) 2014-03-11 2014-03-11 Image projection apparatus, image projection system, and control method for image projection apparatus

Country Status (1)

Country Link
JP (1) JP6398235B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10574952B2 (en) 2016-04-27 2020-02-25 Sony Corporation Image projection apparatus, projection imaging system, and correction method
JP2018125673A (en) * 2017-01-31 2018-08-09 ヤマハ株式会社 Image processing apparatus and image projection system
KR102585556B1 (en) * 2020-12-29 2023-10-06 주식회사 와이즈오토모티브 Apparatus for testing camera image distortion and method thereof

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5910157B2 (en) * 2012-02-23 2016-04-27 株式会社リコー Image projection device

Also Published As

Publication number Publication date
JP2015173339A (en) 2015-10-01

Similar Documents

Publication Publication Date Title
JP5842694B2 (en) Image processing apparatus, projector, and projector control method
JP6089424B2 (en) Image processing apparatus, projector, and projector control method
US8445830B2 (en) Correction information calculating device, image processing apparatus, image display system, and image correcting method including detection of positional relationship of diagrams inside photographed images
JP5256899B2 (en) Image correction apparatus, image correction method, projector and projection system
JP5962080B2 (en) Image processing apparatus, projector, and projector control method
US20070091334A1 (en) Method of calculating correction data for correcting display characteristic, program for calculating correction data for correcting display characteristic and apparatus for calculating correction data for correcting display characteristic
JP2015226144A (en) Image processing system, imaging apparatus, image processing method, and program
JP6812862B2 (en) Image processing system, imaging device, image processing method and program
JP6056290B2 (en) Image processing apparatus, projector, and image processing method
JP2012008522A (en) Control device and projection type image display device
JP2016085380A (en) Controller, control method, and program
JP6398235B2 (en) Image projection apparatus, image projection system, and control method for image projection apparatus
CN112929617A (en) Projector control method, projector and display system
CN109076186B (en) Display system and information processing method
JP7342856B2 (en) Information processing device, information processing method, program
JP6696596B2 (en) Image processing system, imaging device, image processing method and program
JP2013153392A (en) Image processing apparatus and image processing method, and program
WO2018214284A1 (en) Image photographing method applied to terminal, and terminal device
JP2009217174A (en) Adjustment device and adjustment method for video display system, geometric information acquisition method, and program
JP2016014712A (en) Shading correction value calculation device and shading correction value calculation method
JP2022042408A (en) Information processing device
WO2018225530A1 (en) Image processing device, image processing method, program, and projector device
JP2010026202A (en) Image correcting device, image correcting method, projector, and projection system
JP2019022024A (en) Image processing apparatus, image processing method, and image processing program
JP2004347775A (en) Image processing system, projector, program, information storage medium and image processing method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170220

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20170315

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171114

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180301

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180807

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180820

R151 Written notification of patent or utility model registration

Ref document number: 6398235

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees