JP2006267777A - Information processing device and method, picture display system and program - Google Patents

Information processing device and method, picture display system and program Download PDF

Info

Publication number
JP2006267777A
JP2006267777A JP2005087736A JP2005087736A JP2006267777A JP 2006267777 A JP2006267777 A JP 2006267777A JP 2005087736 A JP2005087736 A JP 2005087736A JP 2005087736 A JP2005087736 A JP 2005087736A JP 2006267777 A JP2006267777 A JP 2006267777A
Authority
JP
Japan
Prior art keywords
image
projector
projection magnification
magnification
projection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005087736A
Other languages
Japanese (ja)
Other versions
JP4670424B2 (en
Inventor
Tetsujiro Kondo
哲二郎 近藤
Hitoshi Mukai
仁志 向井
Tetsushi Kokubo
哲志 小久保
Kenji Tanaka
健司 田中
Takafumi Hibi
啓文 日比
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2005087736A priority Critical patent/JP4670424B2/en
Publication of JP2006267777A publication Critical patent/JP2006267777A/en
Application granted granted Critical
Publication of JP4670424B2 publication Critical patent/JP4670424B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To perform accurate correction without performing complicated model building. <P>SOLUTION: When a zoom ratio is minimum, an image 111 having a bright line projecting upward is included in a picked-up image 101 picked up by a camera for detecting distortion 62, and when the zoom ratio is maximum, an image 113 having a bright line projecting downward is included in a picked-up image 103 picked up by the camera for detecting distortion 62. When an image 112 having a bright line being an oblique straight line (or a curve as approximate to a straight line as possible) is included in the picked-up image 102 picked up by the camera for detecting distortion 62, the magnification of a projector 61 at this time is proper projection magnification suitable to perform correction processing. It is suitable to perform keystone correction after processing the picked-up image picked up by the camera for detecting distortion 62 by a correction processing device and setting the projector 61 to the proper projection magnification suitable to perform the correction processing. The invention is applied to the correction processing device and the picture display system. <P>COPYRIGHT: (C)2007,JPO&INPIT

Description

本発明は、情報処理装置および情報処理方法、画像表示システム、並びに、プログラムに関し、特に、プロジェクタの投影像の幾何歪みの補正に用いて好適な、情報処理装置および情報処理方法、画像表示システム、並びに、プログラムに関する。   The present invention relates to an information processing device, an information processing method, an image display system, and a program, and in particular, an information processing device, an information processing method, an image display system, which are suitable for correcting geometric distortion of a projected image of a projector, In addition, it relates to the program.

プロジェクタを用いてスクリーンに投影された画像は、プロジェクタに入力された画像に対して、幾何歪みが発生する。幾何歪みのうち、キーストン(または、キーストーンとも称される)とは、プロジェクタをスクリーンの正面に置くことができないときに生じる、投影画像の台形の歪みのことであり、このキーストンを補正する技術がある(例えば、非特許文献1)。   An image projected on a screen using a projector has a geometric distortion with respect to an image input to the projector. Among geometric distortions, keystone (also called keystone) is a trapezoidal distortion of the projected image that occurs when the projector cannot be placed in front of the screen, and it is a technology that corrects this keystone. (For example, Non-Patent Document 1).

Rahul Sukthankar, Robert G. Stockton, Matthew D. Mullin, :Smarter Presentations: Exploiting Homography in Camera-Projector System,:Proceedings of International Conference on Computer Vision, 2001Rahul Sukthankar, Robert G. Stockton, Matthew D. Mullin, : Smarter Presentations: Exploiting Homography in Camera-Projector System, : Proceedings of International Conference on Computer Vision, 2001

例えば、図1に示されるプロジェクタを用いた映像表示システムのように、特別な画像補正機構を用いることなく、プロジェクタ1を用いてスクリーン1に画像を投影し、投影された画像である投影画像11をカメラ3を用いて撮像し、プロジェクタ1に供給された画像と撮像された投影画像11とを比較する。なお、ここでは、撮影するカメラ3のレンズの歪みは補正され、その影響はないものとする。   For example, unlike the video display system using the projector shown in FIG. 1, an image is projected onto the screen 1 using the projector 1 without using a special image correction mechanism, and the projected image 11 is a projected image. Is captured using the camera 3 and the image supplied to the projector 1 is compared with the captured projection image 11. Here, it is assumed that the distortion of the lens of the camera 3 to be photographed is corrected and has no influence.

図2のAに、プロジェクタ1に入力された画像21を示し、図2のBに、カメラ3によって撮像された投影画像11を示す。プロジェクタ1に入力された画像21の任意の画素位置を表す点を点1(x,y)、撮影画像11上で、画像21の点1(x, y)に相当する位置を点2(u,v)とすると、それらの関係は、一般的に、次の式(1)および式(2)でモデル化することができる。   FIG. 2A shows an image 21 input to the projector 1, and FIG. 2B shows a projected image 11 captured by the camera 3. A point representing an arbitrary pixel position of the image 21 input to the projector 1 is a point 1 (x, y), and a position corresponding to the point 1 (x, y) of the image 21 on the captured image 11 is a point 2 (u , V), the relationship can be generally modeled by the following equations (1) and (2).

u=(a1x+a2y+a3)/(a7x+a8y+1)・・・(1)
v=(a4x+a5y+a6)/(a7x+a8y+1)・・・(2)
u = (a 1 x + a 2 y + a 3 ) / (a 7 x + a 8 y + 1) (1)
v = (a 4 x + a 5 y + a 6 ) / (a 7 x + a 8 y + 1) (2)

ここで、a1,a2,a3,a4,a5,a6,a7、および、a8は、所定の係数である。そして、例えば、入力画像上の点の位置座標とその点のカメラ画像上での位置座標のペアを複数求めることなどにより、係数a1,a2,a3,a4,a5,a6,a7、および、a8が求められ、補正処理を行うことができる。 Here, a 1 , a 2 , a 3 , a 4 , a 5 , a 6 , a 7 , and a 8 are predetermined coefficients. Then, for example, by obtaining a plurality of pairs of the position coordinates of the point on the input image and the position coordinates of the point on the camera image, the coefficients a 1 , a 2 , a 3 , a 4 , a 5 , a 6 , A 7 and a 8 are obtained, and correction processing can be performed.

図3に、プロジェクタからの光線に対する角度πの平面xy、および、角度π´の平面uvの模式図を示す。式(1)および式(2)のモデル式は、プロジェクタ1の投影に非線型な歪みがない(換言すれば、直線は直線に写される)という仮定の基に成立している。すなわち、プロジェクタ1の投影に非線形の歪みがない場合のみ、式(1)および式(2)のモデルは成り立つ。一方、その仮定が成り立たないケースでは、精度の良いモデル化はできない。   FIG. 3 is a schematic diagram of a plane xy having an angle π and a plane uv having an angle π ′ with respect to light rays from the projector. The model formulas of Formula (1) and Formula (2) are established based on the assumption that there is no nonlinear distortion in the projection of the projector 1 (in other words, a straight line is copied into a straight line). That is, only when there is no non-linear distortion in the projection of the projector 1, the models of the equations (1) and (2) hold. On the other hand, in cases where the assumption does not hold, accurate modeling cannot be performed.

プロジェクタ1の投射レンズは、投影した像の大きさを自由に調節できる機構(ズーム機構)が備わっているのが一般的である。しかしながら、プロジェクタの投射レンズの倍率によって、投影される画像には、非線形の歪みが生じてしまうため、プロジェクタ1の投影に非線型な歪みがないという仮定は成り立たない場合がある。例えば、図4に示すように、倍率が最小のときにプロジェクタ1により投影される画像31は、投影像の上辺が上に凸に、倍率が最大のときにプロジェクタ1により投影される画像32は、投影像の上辺が下に凸に歪むことがある。このような非線形の歪みは、投影される画像の倍率に基づいて、上に凸と下に凸との間を緩やかに変化する。   The projection lens of the projector 1 is generally provided with a mechanism (zoom mechanism) that can freely adjust the size of the projected image. However, since the projection image has nonlinear distortion depending on the magnification of the projection lens of the projector, the assumption that there is no nonlinear distortion in the projection of the projector 1 may not hold. For example, as shown in FIG. 4, an image 31 projected by the projector 1 when the magnification is the minimum is an image 32 projected by the projector 1 when the upper side of the projected image is convex upward and the magnification is the maximum. The upper side of the projected image may be distorted convexly downward. Such non-linear distortion gradually changes between upward and downward projections based on the magnification of the projected image.

このように、プロジェクタ1により投影される画像の歪みが上下で非対称なのは、図5に示すように、プロジェクタの投射レンズの光学中心と投影する像41との中心が偏心しているためである。   As described above, the distortion of the image projected by the projector 1 is asymmetrical because the center of the optical center of the projection lens of the projector and the projected image 41 is decentered as shown in FIG.

このように、プロジェクタ1により投影される画像に非線形な歪みが生じている場合、上述した方法では、良い精度でモデル化を行うことはできない。しかしながら、従来では、このような歪みの影響を無視し精度の悪いモデル化が行われてきた。また、精度をあげるためには、例えば、プロジェクタ1の投射レンズの歪みを考慮したモデル化を行うことにより対処されていたが、そのような場合は、処理が複雑になり、モデル化されても、利用者にとって扱いにくいものとなっていた。   As described above, when nonlinear distortion occurs in the image projected by the projector 1, the above-described method cannot be modeled with good accuracy. However, in the past, modeling with poor accuracy has been performed ignoring the influence of such distortion. Further, in order to increase the accuracy, for example, modeling has been performed in consideration of the distortion of the projection lens of the projector 1, but in such a case, the processing becomes complicated and the modeling is performed. It was difficult for users to handle.

本発明はこのような状況に鑑みてなされたものであり、複雑なモデル化を行うことなく、精度の高い補正を行うことができるようにするものである。   The present invention has been made in view of such a situation, and makes it possible to perform highly accurate correction without performing complicated modeling.

本発明の情報処理装置は、プロジェクタへの、プロジェクタの投影歪みの検出に用いる第1の画像の供給を制御する第1の画像供給制御手段と、第1の画像供給制御手段によりプロジェクタへの供給が制御され、プロジェクタにより表示された第1の画像を撮像した第2の画像を取得する第2の画像取得手段と、第2の画像取得手段により取得された第1の画像を撮像した第2の画像を基に、プロジェクタにおいて投影歪みが発生しない投影倍率を検出する適正投影倍率検出手段とを備えることを特徴とする。   The information processing apparatus according to the present invention includes a first image supply control unit that controls supply of a first image used for detecting projection distortion of the projector to the projector, and supply to the projector by the first image supply control unit. Is controlled, and a second image acquisition unit that acquires a second image obtained by capturing the first image displayed by the projector, and a second image that captures the first image acquired by the second image acquisition unit. And an appropriate projection magnification detecting means for detecting a projection magnification that does not cause projection distortion in the projector.

プロジェクタの投影倍率を適正投影倍率検出手段により検出された適正投影倍率とした状態において、キーストン補正処理を実行するキーストン補正処理手段を更に備えさせるようにすることができる。   In a state where the projection magnification of the projector is set to the appropriate projection magnification detected by the appropriate projection magnification detection means, it is possible to further include keystone correction processing means for executing keystone correction processing.

適正投影倍率検出手段には、第2の画像取得手段により取得された第2の画像に含まれる第1の画像における水平方向の直線に対応する部分が直線であるかまたは直線に近い状態である場合、プロジェクタの投影倍率を適正倍率であると判断させるようにすることができる。   In the appropriate projection magnification detection means, the portion corresponding to the horizontal straight line in the first image included in the second image acquired by the second image acquisition means is a straight line or a state close to a straight line. In this case, the projection magnification of the projector can be determined to be an appropriate magnification.

第1の画像供給制御手段によりプロジェクタへの供給が制御される第1の画像は、矩形の上辺が輝線となり、他の部分の輝度は低い値となっている画像であるものとすることができる。   The first image whose supply to the projector is controlled by the first image supply control means can be an image in which the upper side of the rectangle is a bright line and the luminance of other portions is a low value. .

プロジェクタの投影倍率を制御する投影倍率制御手段を更に備えさせるようにすることができ、適正投影倍率検出手段には、投影倍率制御手段により最小倍率から最大倍率まで、所定の変化量でプロジェクタの投影倍率を変化させた場合に第2の画像取得手段により取得されるそれぞれの投影倍率における第1の画像を撮像した第2の画像を基に、適正投影倍率を検出させるようにすることができる。   Projection magnification control means for controlling the projection magnification of the projector can be further provided. The appropriate projection magnification detection means can project the projector at a predetermined change amount from the minimum magnification to the maximum magnification by the projection magnification control means. The appropriate projection magnification can be detected based on the second image obtained by capturing the first image at each projection magnification acquired by the second image acquisition means when the magnification is changed.

プロジェクタの投影倍率を制御する投影倍率制御手段を更に備えさせるようにすることができ、キーストン補正手段には、投影倍率制御手段によりプロジェクタの投影倍率が適正投影倍率に制御された状態においてキーストン補正処理を実行させるようにすることができる。   Projection magnification control means for controlling the projection magnification of the projector can be further provided. The keystone correction means includes a keystone correction process in a state where the projection magnification control means controls the projection magnification of the projector to an appropriate projection magnification. Can be executed.

プロジェクタを使用するユーザが、プロジェクタの倍率を適正投影倍率検出手段により検出された適正投影倍率に調整するための補助となる音声または画像の出力を制御する補助出力制御手段を更に備えさせるようにすることができる。   A user who uses the projector is further provided with auxiliary output control means for controlling the output of the sound or the image to assist the adjustment of the projector magnification to the appropriate projection magnification detected by the appropriate projection magnification detection means. be able to.

本発明の情報処理方法およびプログラムは、プロジェクタへの、プロジェクタの投影歪みの検出に用いる第1の画像の供給を制御する第1の画像供給制御ステップと、第1の画像供給制御ステップの処理によりプロジェクタへの供給が制御され、プロジェクタにより表示された第1の画像を含むように撮像された第2の画像を取得する第2の画像取得ステップと、第2の画像取得ステップの処理により取得された第1の画像を含む第2の画像を基に、プロジェクタにおいて投影歪みが発生しない投影倍率を検出する適正投影倍率検出ステップとを含むことを特徴とする。   The information processing method and the program according to the present invention include a first image supply control step for controlling supply of a first image used for detecting projection distortion of the projector to the projector, and processing of the first image supply control step. The supply to the projector is controlled, and the second image acquisition step for acquiring the second image captured so as to include the first image displayed by the projector and the second image acquisition step are acquired. And a proper projection magnification detecting step of detecting a projection magnification that does not cause projection distortion in the projector based on the second image including the first image.

本発明の画像表示システムは、画像表示を実行するプロジェクタと、プロジェクタによりスクリーンに投影される画像を投影歪みの検出のために撮像する撮像装置と、プロジェクタによる画像表示を補正する処理を実行する情報処理装置とにより構成される画像表示システムであって、情報処理装置は、プロジェクタへの、プロジェクタの投影歪みの検出に用いる第1の画像の供給を制御する第1の画像供給制御手段と、第1の画像供給制御手段によりプロジェクタへの供給が制御され、プロジェクタによりスクリーンに表示された第1の画像を含む画像であって、撮像装置により撮像された画像である第2の画像を取得する第2の画像取得手段と、第2の画像取得手段により取得された第1の画像を撮像した第2の画像を基に、プロジェクタにおいて投影歪みが発生しない投影倍率を検出する適正投影倍率検出手段とを備えることを特徴とする。   An image display system according to the present invention includes a projector that performs image display, an imaging device that captures an image projected on a screen by the projector to detect projection distortion, and information that performs processing for correcting image display by the projector. An image display system including a processing device, wherein the information processing device includes: a first image supply control unit that controls supply of a first image used to detect projection distortion of the projector to the projector; The first image supply control means controls the supply to the projector, and obtains a second image that is an image including the first image displayed on the screen by the projector and that is an image captured by the imaging device. And a second image obtained by capturing the first image acquired by the second image acquisition means and the second image acquisition means. Characterized in that it comprises a proper projection magnification detecting means for detecting a projection magnification projection distortion does not occur in.

撮像装置には、スクリーンの表示面に対して、直角以外の角度から、プロジェクタによりスクリーンに表示された第1の画像を撮像させるようにすることができ、第2の画像取得手段には、撮像装置により、スクリーンの表示面に対して直角以外の角度から撮像された第2の画像を取得させるようにすることができる。   The imaging apparatus can be configured to capture the first image displayed on the screen by the projector from an angle other than a right angle with respect to the display surface of the screen. The device can acquire a second image captured from an angle other than a right angle with respect to the display surface of the screen.

本発明の情報処理装置および情報処理方法、画像表示システム、並びに、プログラムにおいては、プロジェクタの投影歪みの検出に用いる第1の画像がプロジェクタへ供給され、プロジェクタにより表示された第1の画像を含むように第2の画像が撮像されて、撮像された第2の画像が取得され、この第2の画像を基に、プロジェクタにおいて投影歪みが発生しない投影倍率が検出される。   In the information processing apparatus, the information processing method, the image display system, and the program according to the present invention, the first image used for detecting the projection distortion of the projector is supplied to the projector and includes the first image displayed by the projector. In this way, the second image is picked up, and the picked-up second image is acquired. Based on the second image, a projection magnification at which no projection distortion occurs in the projector is detected.

本発明によれば、プロジェクタにおいて投影歪みが発生しない投影倍率が検出される。特に、プロジェクタの投影歪みを検出するために投影歪み検出用の画像を用いることにより、複雑なモデル化を行うことなく、精度の高い補正を行うことができる。   According to the present invention, a projection magnification that does not cause projection distortion in a projector is detected. In particular, by using the projection distortion detection image to detect the projection distortion of the projector, it is possible to perform highly accurate correction without performing complicated modeling.

以下に本発明の実施の形態を説明するが、請求項に記載の構成要件と、発明の実施の形態における具体例との対応関係を例示すると、次のようになる。この記載は、請求項に記載されている発明をサポートする具体例が、発明の実施の形態に記載されていることを確認するためのものである。したがって、発明の実施の形態中には記載されているが、構成要件に対応するものとして、ここには記載されていない具体例があったとしても、そのことは、その具体例が、その構成要件に対応するものではないことを意味するものではない。逆に、具体例が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その具体例が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。   Embodiments of the present invention will be described below. Correspondences between constituent elements described in the claims and specific examples in the embodiments of the present invention are exemplified as follows. This description is to confirm that specific examples supporting the invention described in the claims are described in the embodiments of the invention. Accordingly, although there are specific examples that are described in the embodiment of the invention but are not described here as corresponding to the configuration requirements, the specific examples are not included in the configuration. It does not mean that it does not correspond to a requirement. On the contrary, even if a specific example is described here as corresponding to a configuration requirement, this means that the specific example does not correspond to a configuration requirement other than the configuration requirement. not.

更に、この記載は、発明の実施の形態に記載されている具体例に対応する発明が、請求項に全て記載されていることを意味するものではない。換言すれば、この記載は、発明の実施の形態に記載されている具体例に対応する発明であって、この出願の請求項には記載されていない発明の存在、すなわち、将来、分割出願されたり、補正により追加される発明の存在を否定するものではない。   Further, this description does not mean that all the inventions corresponding to the specific examples described in the embodiments of the invention are described in the claims. In other words, this description is an invention corresponding to the specific example described in the embodiment of the invention, and the existence of an invention not described in the claims of this application, that is, in the future, a divisional application will be made. Nor does it deny the existence of an invention added by amendment.

請求項1に記載の情報処理装置(例えば、図11の補正処理装置63または図17の補正処理装置221)は、プロジェクタへの、プロジェクタの投影歪みの検出に用いる第1の画像(例えば、図9の歪み検出用画像91)の供給を制御する第1の画像供給制御手段(例えば、図11または図17のプロジェクタ出力画像制御部153)と、第1の画像供給制御手段によりプロジェクタへの供給が制御され、プロジェクタにより表示された第1の画像を撮像した第2の画像を取得する第2の画像取得手段(例えば、図11または図17の歪み検出用カメラ撮像画像取得部181)と、第2の画像取得手段により取得された第1の画像を撮像した第2の画像を基に、プロジェクタにおいて投影歪みが発生しない投影倍率を検出する適正投影倍率検出手段(例えば、図11の適正投影倍率検出部182または図17の適正投影倍率検出部251)とを備えることを特徴とする。   The information processing apparatus according to claim 1 (for example, the correction processing apparatus 63 in FIG. 11 or the correction processing apparatus 221 in FIG. 17) is configured to detect a first image (for example, FIG. The first image supply control means (for example, the projector output image control unit 153 in FIG. 11 or FIG. 17) for controlling the supply of the nine distortion detection images 91) and the first image supply control means Is controlled, and a second image acquisition unit (for example, a camera image acquisition unit for distortion detection 181 in FIG. 11 or 17) that acquires a second image obtained by capturing the first image displayed by the projector; Proper projection magnification for detecting a projection magnification at which no projection distortion occurs in the projector, based on the second image obtained by capturing the first image acquired by the second image acquisition means Detecting means (e.g., proper projection magnification detecting unit 251 of the appropriate projection magnification detecting unit 182 or 17 in FIG. 11), characterized in that it comprises a.

プロジェクタの投影倍率を適正投影倍率検出手段により検出された適正投影倍率とした状態において、キーストン補正処理を実行するキーストン補正処理手段(例えば、図11または図17のキーストン補正処理部155)を更に備えることができる。   A keystone correction processing unit (for example, the keystone correction processing unit 155 in FIG. 11 or FIG. 17) that performs keystone correction processing in a state where the projection magnification of the projector is set to the appropriate projection magnification detected by the appropriate projection magnification detection unit. be able to.

第1の画像供給制御手段によりプロジェクタへの供給が制御される第1の画像は、矩形の上辺が輝線となり、他の部分の輝度は低い値となっている画像(例えば、図9の歪み検出用画像91)であるものとすることができる。   The first image whose supply to the projector is controlled by the first image supply control means is an image in which the upper side of the rectangle is a bright line and the brightness of other parts is low (for example, distortion detection in FIG. 9). Image 91).

プロジェクタの投影倍率を制御する投影倍率制御手段(例えば、図11のプロジェクタ投影倍率制御部183)を更に備えることができ、適正投影倍率検出手段は、投影倍率制御手段により最小倍率から最大倍率まで、所定の変化量でプロジェクタの投影倍率を変化させた場合に第2の画像取得手段により取得されるそれぞれの投影倍率における第1の画像を撮像した第2の画像を基に、適正投影倍率を検出することができる。   Projection magnification control means (for example, the projector projection magnification control unit 183 in FIG. 11) for controlling the projection magnification of the projector can be further provided, and the appropriate projection magnification detection means is configured to change from the minimum magnification to the maximum magnification by the projection magnification control means. When the projection magnification of the projector is changed by a predetermined change amount, the appropriate projection magnification is detected based on the second image obtained by capturing the first image at each projection magnification acquired by the second image acquisition means. can do.

プロジェクタの投影倍率を制御する投影倍率制御手段(例えば、図11のプロジェクタ投影倍率制御部183)を更に備えることができ、キーストン補正手段は、投影倍率制御手段によりプロジェクタの投影倍率が適正投影倍率に制御された状態においてキーストン補正処理を実行することができる。   Projection magnification control means (for example, the projector projection magnification control unit 183 in FIG. 11) for controlling the projection magnification of the projector can be further provided, and the keystone correction means sets the projection magnification of the projector to an appropriate projection magnification by the projection magnification control means. The keystone correction process can be executed in a controlled state.

プロジェクタを使用するユーザが、プロジェクタの倍率を適正投影倍率検出手段により検出された適正投影倍率に調整するための補助となる音声または画像の出力を制御する補助出力制御手段(例えば、図17の検出結果出力制御部252)を更に備えることができる。   Auxiliary output control means (for example, detection in FIG. 17) that controls the output of audio or image to assist the user who uses the projector to adjust the magnification of the projector to the appropriate projection magnification detected by the appropriate projection magnification detection means. A result output control unit 252) may be further provided.

請求項8に記載の情報処理方法は、プロジェクタによる画像表示を補正する処理を実行する情報処理装置(例えば、図11の補正処理装置63または図17の補正処理装置221)の情報処理方法であって、プロジェクタへの、プロジェクタの投影歪みの検出に用いる第1の画像(例えば、図9の歪み検出用画像91)の供給を制御する第1の画像供給制御ステップ(例えば、図13のステップS1または図20のステップS51の処理)と、第1の画像供給制御ステップの処理によりプロジェクタへの供給が制御され、プロジェクタにより表示された第1の画像を含むように撮像された第2の画像を取得する第2の画像取得ステップ(例えば、図14のステップS22、もしくは、図21のステップS73またはステップS79の処理)と、第2の画像取得ステップの処理により取得された第1の画像を含む第2の画像を基に、プロジェクタにおいて投影歪みが発生しない投影倍率を検出する適正投影倍率検出ステップ(例えば、図14のステップS28または図21のステップS78の処理)とを含むことを特徴とする。   An information processing method according to an eighth aspect is an information processing method of an information processing device (for example, the correction processing device 63 in FIG. 11 or the correction processing device 221 in FIG. 17) that executes processing for correcting image display by a projector. Then, a first image supply control step (for example, step S1 in FIG. 13) for controlling the supply of the first image (for example, the distortion detection image 91 in FIG. 9) used to detect the projection distortion of the projector to the projector. Alternatively, the second image captured so as to include the first image displayed by the projector is controlled by the processing of step S51 in FIG. 20 and the processing of the first image supply control step. A second image acquisition step to be acquired (for example, step S22 in FIG. 14, or step S73 or step S79 in FIG. 21); Based on the second image including the first image acquired by the processing of the second image acquisition step, an appropriate projection magnification detection step (for example, the step of FIG. 14) for detecting a projection magnification that does not cause projection distortion in the projector. S28 or the process of step S78 of FIG. 21).

また、請求項9に記載のプログラムにおいても、各ステップが対応する実施の形態(但し一例)は、請求項8に記載の情報処理方法と同様である。   In the program according to claim 9, the embodiment (however, an example) to which each step corresponds is the same as the information processing method according to claim 8.

請求項10に記載の画像表示システムは、画像表示を実行するプロジェクタ(例えば、図6または図7のプロジェクタ61、もしくは、図15または図16のプロジェクタ222)と、プロジェクタによりスクリーンに投影される画像を投影歪みの検出のために撮像する撮像装置(例えば、図6,7,15または16の歪み検出用カメラ62)と、プロジェクタによる画像表示を補正する処理を実行する情報処理装置(例えば、図11の補正処理装置63または図17の補正処理装置221)とにより構成される画像表示システムであって、情報処理装置は、プロジェクタへの、プロジェクタの投影歪みの検出に用いる第1の画像(例えば、図9の歪み検出用画像91)の供給を制御する第1の画像供給制御手段(例えば、図11または図17のプロジェクタ出力画像制御部153)と、第1の画像供給制御手段によりプロジェクタへの供給が制御され、プロジェクタによりスクリーンに表示された第1の画像を含む画像であって、撮像装置により撮像された画像である第2の画像を取得する第2の画像取得手段(例えば、図11または図17の歪み検出用カメラ撮像画像取得部181)と、第2の画像取得手段により取得された第1の画像を撮像した第2の画像を基に、プロジェクタにおいて投影歪みが発生しない投影倍率を検出する適正投影倍率検出手段(例えば、図11の適正投影倍率検出部182または図17の適正投影倍率検出部251)とを備えることを特徴とする。   The image display system according to claim 10 is a projector that performs image display (for example, projector 61 in FIG. 6 or FIG. 7 or projector 222 in FIG. 15 or FIG. 16) and an image projected on a screen by the projector. An image pickup apparatus (for example, the distortion detection camera 62 in FIG. 6, 7, 15 or 16) and an information processing apparatus (for example, FIG. 11, or the correction processing device 221 in FIG. 17, wherein the information processing device is a first image (for example, used for detecting projection distortion of the projector to the projector). , First image supply control means (for example, FIG. 11 or FIG. 17) for controlling supply of the distortion detection image 91 in FIG. The projector output image control unit 153) and the first image supply control means control the supply to the projector, and the image includes the first image displayed on the screen by the projector and is captured by the imaging device The second image acquisition unit (for example, the distortion detection camera captured image acquisition unit 181 in FIG. 11 or FIG. 17) and the first image acquired by the second image acquisition unit. 11 is used to detect a projection magnification that does not cause projection distortion in the projector (for example, an appropriate projection magnification detector 182 in FIG. 11 or an appropriate projection magnification detector 251 in FIG. 17). ).

以下、図を参照して、本発明の実施の形態について説明する。   Hereinafter, embodiments of the present invention will be described with reference to the drawings.

図6は、本発明の一実施の形態を示す画像表示システムのシステム図である。   FIG. 6 is a system diagram of an image display system showing an embodiment of the present invention.

スクリーン51は、プロジェクタ61により投影される画像を表示させるものである。   The screen 51 displays an image projected by the projector 61.

プロジェクタ61は、供給された画像を、スクリーン51に投影する。プロジェクタ61によりスクリーン51に投影された画像は、図6においては、プロジェクタ61に対して、スクリーン51を挟んだ向こう側(図6において、後述する補正用カメラ64が設置されている側)から観察可能である(すなわち、背面投影型)。プロジェクタ61は、補正処理装置63の制御に基づいて、画像の投影倍率を変更することができる。   The projector 61 projects the supplied image on the screen 51. In FIG. 6, the image projected on the screen 51 by the projector 61 is observed from the other side across the screen 51 with respect to the projector 61 (the side on which a correction camera 64 described later in FIG. 6 is installed). It is possible (ie rear projection type). The projector 61 can change the projection magnification of the image based on the control of the correction processing device 63.

歪み検出用カメラ62は、プロジェクタ61の投射レンズの歪みを観測するために、プロジェクタ61によりスクリーン51に投影された、後述する歪み検出用画像を撮像するカメラであり、撮像した画像を補正処理装置63に供給する。   The distortion detection camera 62 is a camera that images a distortion detection image, which will be described later, projected onto the screen 51 by the projector 61 in order to observe distortion of the projection lens of the projector 61. The distortion detection camera 62 corrects the captured image. 63.

図6に示されるように、歪み検出用カメラ62は、プロジェクタの投射レンズの歪みを検出しやすいように、スクリーン51に対して、斜めから投影画像を撮像することができるようにしても良い。歪み検出用カメラ62の角度は、スクリーン51に対して浅い(スクリーン51に対して垂直となる角度を90度として、0度に近い)ほうが、投影画像の歪みを検出しやすいが、あまり角度が浅すぎると、投影画像の取得と解析が困難になるので、適宜調整すると好適である。このようにすることにより、撮像された画像の直線の歪みが検出しやすくなる。   As illustrated in FIG. 6, the distortion detection camera 62 may be able to capture a projected image obliquely with respect to the screen 51 so that the distortion of the projection lens of the projector can be easily detected. The angle of the distortion detection camera 62 is shallow with respect to the screen 51 (the angle perpendicular to the screen 51 is 90 degrees and is close to 0 degrees), but the distortion of the projected image is easier to detect, but the angle is not so great. If it is too shallow, it is difficult to obtain and analyze the projection image. By doing so, it becomes easy to detect the distortion of the straight line of the captured image.

補正処理装置63は、歪み検出用カメラ62により取得された、プロジェクタ61の投射レンズの歪みを観測するための画像を基に、投影画像が非線形の歪みを生じていないような適正投影倍率を検出し、検出された適正投影倍率を基に、プロジェクタ61による画像の投影倍率の変更を制御する。   The correction processing device 63 detects an appropriate projection magnification that does not cause nonlinear distortion in the projection image, based on the image obtained by the distortion detection camera 62 for observing the distortion of the projection lens of the projector 61. Then, based on the detected proper projection magnification, the projector 61 controls the change of the image projection magnification.

また、補正処理装置63は、適正投影倍率において投影された画像を撮像する補正用カメラ64から供給される画像を基に、プロジェクタ61による投影画像のキーストン補正に必要な処理を実行する。具体的には、補正処理装置63は、図2を用いて説明したように、入力画像上の所定の点の位置座標とその点のカメラ画像上での位置座標のペアを複数求めることなどにより、上述した式(1)および式(2)における係数a1,a2,a3,a4,a5,a6,a7、および、a8を求める。 Further, the correction processing device 63 executes processing necessary for keystone correction of the projected image by the projector 61 based on the image supplied from the correction camera 64 that captures the image projected at the appropriate projection magnification. Specifically, as described with reference to FIG. 2, the correction processing device 63 obtains a plurality of pairs of position coordinates of a predetermined point on the input image and position coordinates of the point on the camera image. Then, the coefficients a 1 , a 2 , a 3 , a 4 , a 5 , a 6 , a 7 , and a 8 in the above equations (1) and (2) are obtained.

補正用カメラ64は、図2を用いて説明したような、入力画像上の所定の点の位置座標と、その点に対応するカメラ画像上での位置座標のペアを複数求めるために必要な補正用の画像を撮像し、補正処理装置63に供給する。   The correction camera 64 is necessary for obtaining a plurality of pairs of position coordinates of a predetermined point on the input image and position coordinates on the camera image corresponding to the point as described with reference to FIG. An image is taken and supplied to the correction processing device 63.

なお、図6においては、プロジェクタ61は、スクリーン51の背面から画像を投射するものとして説明したが、図7に示されるように、プロジェクタ61が、スクリーン51の前面から映像を投射するようになされている場合(すなわち、前面投影型である場合)も、補正処理装置63は、歪み検出用カメラ62により取得された、プロジェクタ61の投射レンズの歪みを観測するための画像を基に、投影画像が非線形の歪みを生じていないような適正投影倍率を検出し、検出された適正投影倍率を基に、プロジェクタ61による画像の投影倍率の変更を制御し、適正投影倍率において投影された画像を撮像する補正用カメラ64から供給される画像を基に、プロジェクタ61による投影画像のキーストン補正に必要な処理を実行することができる。このとき、歪み検出用カメラ62および補正用カメラ64は、いずれも、スクリーン51に対して、プロジェクタ61と同一の方向、すなわち、プロジェクタ61により投影される映像が表示される側に設置される。   In FIG. 6, the projector 61 has been described as projecting an image from the back surface of the screen 51, but as shown in FIG. 7, the projector 61 projects an image from the front surface of the screen 51. Even if it is (ie, the case of the front projection type), the correction processing device 63 projects the projected image based on the image for observing the distortion of the projection lens of the projector 61 acquired by the distortion detection camera 62. Detects an appropriate projection magnification that does not cause nonlinear distortion, and controls the change of the image projection magnification by the projector 61 based on the detected appropriate projection magnification, and captures an image projected at the appropriate projection magnification. Executing processing necessary for keystone correction of the projected image by the projector 61 based on the image supplied from the correcting camera 64 It can be. At this time, the distortion detection camera 62 and the correction camera 64 are both installed in the same direction as the projector 61 with respect to the screen 51, that is, on the side where the image projected by the projector 61 is displayed.

図4を用いて説明したように、プロジェクタ61の投射歪みの状態、換言すれば、投影像の上辺の状態が、その倍率によって、ズーム最小時の「上に凸」となる画像31から、ズーム最大時の「下の凸」となる画像32の状態に変化するのであれば、その間には、図8に示すように、投射歪みが最小となる画像81が表示されるような倍率が存在する。   As described with reference to FIG. 4, the state of the projection distortion of the projector 61, in other words, the state of the upper side of the projection image is zoomed from the image 31 that becomes “upwardly convex” at the time of the minimum zoom, depending on the magnification. If the state changes to the state of the image 32 that is “downward convex” at the maximum time, there is a magnification between which the image 81 with the minimum projection distortion is displayed, as shown in FIG. .

したがって、複雑なモデル化を行うことなく、精度の高いキーストン補正を行うためには、プロジェクタ61に、投射レンズの歪みが観測しやすい歪み検出用画像を入力し、スクリーン51に表示された歪み検出用画像を、歪み検出用カメラ62により撮像し、撮像された画像を解析することにより、図8を用いて説明した、投射歪みが最小となる画像81が表示されるような倍率を求め、求められた倍率にプロジェクタ61を調整することができるようにすれば良い。プロジェクタ61からスクリーン51に投影される歪み検出用画像は、いかなる画像であっても良い(例えば、投影領域内に、人や動物などの映像や模様などが含まれていても良い)が、投射レンズの歪みが観測しやすい画像として、画像中に直線を含むものが好適であり、特に、水平方向の直線が画像に含まれているものや、例えば、図9に示されるような、矩形の上辺が輝線となり、他の部分の輝度は低い値となっている歪み検出用画像91がプロジェクタ61に入力され、スクリーン51に投影されるようにすると好適である。   Therefore, in order to perform high-precision keystone correction without complicated modeling, a distortion detection image in which the distortion of the projection lens is easily observed is input to the projector 61, and the distortion detection displayed on the screen 51 is detected. The image is taken by the distortion detection camera 62, and the taken image is analyzed to obtain a magnification at which the image 81 with the minimum projection distortion described with reference to FIG. 8 is displayed. The projector 61 may be adjusted to the specified magnification. The distortion detection image projected from the projector 61 onto the screen 51 may be any image (for example, a projection area may include images or patterns of people or animals). As an image in which distortion of the lens is easily observed, an image including a straight line in the image is preferable. In particular, an image in which a horizontal straight line is included in the image, for example, a rectangular shape as shown in FIG. It is preferable that the distortion detection image 91 whose upper side is a bright line and the luminance of other portions is low is input to the projector 61 and projected onto the screen 51.

プロジェクタ61の投射歪みの状態は、その倍率によって変化する。したがって、プロジェクタ61に、図9に示されるような、矩形の上辺が輝線となっている歪み検出用画像91が入力された場合、図10に示されるように、ズーム率最小の場合、歪み検出用カメラ62により撮像される撮像画像101には、上に凸の輝線を有する画像111が含まれ、ズーム率最大の場合、歪み検出用カメラ62により撮像される撮像画像103には、下に凸の輝線を有する画像113が含まれる。そして、輝線が斜めの直線(または、直線に限りなく近い曲線)を有する画像112が、歪み検出用カメラ62により撮像される撮像画像102に含まれている場合、そのときのプロジェクタ61の倍率が、補正処理を行うのに好適な適正投影倍率である。   The state of the projection distortion of the projector 61 changes depending on the magnification. Therefore, when the distortion detection image 91 whose upper side of the rectangle is a bright line as shown in FIG. 9 is input to the projector 61, as shown in FIG. The captured image 101 captured by the camera 62 includes an image 111 having an upwardly bright line. When the zoom ratio is maximum, the captured image 103 captured by the distortion detection camera 62 is convex downward. The image 113 having the bright line is included. When an image 112 having a bright line having an oblique straight line (or a curve as close as possible to a straight line) is included in the captured image 102 captured by the distortion detection camera 62, the magnification of the projector 61 at that time is This is an appropriate projection magnification suitable for performing the correction process.

また、例えば、歪み検出用画像に、水平方向の直線が含まれていた場合、歪み検出用カメラ62により撮像される撮像画像における水平方向の直線に対応する部分が、斜めの直線(または、直線に限りなく近い曲線)となるときのプロジェクタ61の倍率が、補正処理を行うのに好適な適正投影倍率である。なお、水平方向の直線は、画像上方に含まれていると好適である。   For example, when a distortion detection image includes a horizontal straight line, a portion corresponding to the horizontal straight line in the captured image captured by the distortion detection camera 62 is an oblique straight line (or a straight line). The magnification of the projector 61 when the curve becomes an infinitely close curve is an appropriate projection magnification suitable for performing the correction process. The horizontal straight line is preferably included above the image.

図11は、キーストン補正処理を行うのに好適なプロジェクタ61の適正投影倍率を求め、それを基に、プロジェクタ61の倍率を調整した後、キーストン補正を実行することができる補正処理装置63の構成を示すブロック図である。   FIG. 11 shows a configuration of a correction processing apparatus 63 that can determine the appropriate projection magnification of the projector 61 suitable for performing the keystone correction processing, adjust the magnification of the projector 61 based on the calculated projection magnification, and then execute the keystone correction. FIG.

操作入力取得部151は、例えば、ボタン、キーボード、マウス、リモートコマンダなど、図示しない操作入力デバイスにより入力されたユーザの操作入力を取得し、全体制御部152に供給する。   The operation input acquisition unit 151 acquires, for example, a user operation input input by an operation input device (not shown) such as a button, a keyboard, a mouse, or a remote commander, and supplies the acquired operation input to the overall control unit 152.

全体制御部152は、操作入力取得部151から供給されたユーザの操作入力を基に、プロジェクタ出力画像制御部153、投影歪み補正制御部154、および、キーストン補正処理部155を制御する。   The overall control unit 152 controls the projector output image control unit 153, the projection distortion correction control unit 154, and the keystone correction processing unit 155 based on the user's operation input supplied from the operation input acquisition unit 151.

プロジェクタ出力画像制御部153は、プロジェクタ入力画像取得/生成部171、歪み検出用画像生成/保存部172、および、画像出力制御部173で構成され、プロジェクタ61への画像データの出力を制御する。   The projector output image control unit 153 includes a projector input image acquisition / generation unit 171, a distortion detection image generation / storage unit 172, and an image output control unit 173, and controls output of image data to the projector 61.

プロジェクタ入力画像取得/生成部171は、全体制御部152の制御に基づいて、例えば、キーストン補正用の画像や、補正処理の後表示される画像データを、図示しないパーソナルコンピュータなどから取得するか、または、これらの画像を生成して、画像出力制御部173に供給する。また、プロジェクタ入力画像取得/生成部171は、後述するキーストン補正処理部155によりキーストン補正が実行されるとき、画素ペア抽出部192へ、画像出力制御部173を介してプロジェクタ61に供給されるキーストン補正用の画像を供給する。   Based on the control of the overall control unit 152, the projector input image acquisition / generation unit 171 acquires, for example, an image for keystone correction and image data displayed after the correction process from a personal computer (not shown) or the like. Alternatively, these images are generated and supplied to the image output control unit 173. The projector input image acquisition / generation unit 171 also supplies the keystone supplied to the projector 61 via the image output control unit 173 to the pixel pair extraction unit 192 when keystone correction is executed by a keystone correction processing unit 155 described later. Supply a correction image.

歪み検出用画像生成/保存部172は、全体制御部152の制御に基づいて、例えば、図9を用いて説明した歪み検出用画像91のように、投射レンズの歪みが観測しやすい歪み検出用画像を生成するか、または、図示しないパーソナルコンピュータなどからこのような画像の供給を受けて保存し、画像出力制御部173に供給する。   The distortion detection image generation / storing unit 172 is based on the control of the overall control unit 152. For example, the distortion detection image generation / storage unit 172 can easily observe the distortion of the projection lens like the distortion detection image 91 described with reference to FIG. An image is generated, or such an image is supplied from a personal computer (not shown), stored, and supplied to the image output control unit 173.

画像出力制御部173は、全体制御部152の制御に基づいて、プロジェクタ入力画像取得/生成部171または歪み検出用画像生成/保存部172から供給された画像データをプロジェクタ61に出力して投影させる。   Based on the control of the overall control unit 152, the image output control unit 173 outputs the image data supplied from the projector input image acquisition / generation unit 171 or the distortion detection image generation / storage unit 172 to the projector 61 for projection. .

投影歪み補正制御部154は、歪み検出用カメラ撮像画像取得部181、適正投影倍率検出部182、および、プロジェクタ投影倍率制御部183で構成され、歪み検出用カメラ62により撮像された画像を基に、画像処理により、補正処理を行うのに好適な適正投影倍率を検出する。   The projection distortion correction control unit 154 includes a distortion detection camera captured image acquisition unit 181, an appropriate projection magnification detection unit 182, and a projector projection magnification control unit 183, and is based on an image captured by the distortion detection camera 62. The appropriate projection magnification suitable for performing the correction process is detected by image processing.

投影歪み補正制御部154は、補正処理を行うのに好適な適正投影倍率を検出するために、例えば、図10を用いて説明したように、歪み検出用カメラ62により撮像される撮像画像101に上に凸の輝線を有する画像111が含まれるズーム率最小から、歪み検出用カメラ62により撮像される撮像画像103に下に凸の輝線を有する画像113が含まれるズーム率最大までの間で、所定の角度ごとにプロジェクタ61の投影倍率を制御して、歪み検出用カメラ62により撮像される画像を取得する。そして、投影歪み補正制御部154は、歪み検出用カメラ62により撮像される撮像画像102に輝線が斜めの直線(または、直線に限りなく近い曲線)を有する画像112が含まれているときのプロジェクタ61の倍率、すなわち、補正処理を行うのに好適な適正投影倍率を検出し、プロジェクタ61の投影倍率を、補正処理を行うのに好適な適正投影倍率に調整する。   For example, as described with reference to FIG. 10, the projection distortion correction control unit 154 detects the appropriate projection magnification suitable for performing the correction process on the captured image 101 captured by the distortion detection camera 62. Between the zoom rate minimum including the image 111 having the bright convex line on the upper side and the zoom rate maximum including the image 113 having the convex lower line on the captured image 103 captured by the distortion detection camera 62, An image captured by the distortion detection camera 62 is acquired by controlling the projection magnification of the projector 61 for each predetermined angle. Then, the projection distortion correction control unit 154 is a projector when the captured image 102 captured by the distortion detection camera 62 includes an image 112 having a straight line with an oblique bright line (or a curve close to a straight line). A magnification of 61, that is, an appropriate projection magnification suitable for performing correction processing is detected, and a projection magnification of the projector 61 is adjusted to an appropriate projection magnification suitable for performing correction processing.

歪み検出用カメラ撮像画像取得部181は、歪み検出用カメラ62により撮像された画像を取得し、適正投影倍率検出部182に供給する。   The distortion detection camera captured image acquisition unit 181 acquires an image captured by the distortion detection camera 62 and supplies the acquired image to the appropriate projection magnification detection unit 182.

適正投影倍率検出部182は、画像処理により、プロジェクタ61の適正投影倍率を求める。適正投影倍率検出部182は、プロジェクタ61の適正投影倍率を求めるために、例えば、プロジェクタ投影倍率制御部183を制御して、プロジェクタ61の投影倍率を最小から最大の状態まで所定の角度ごとに変更させ、それらの角度ごとに取得された画像から歪み検出用画像から上辺の輝線に相当する画素位置を抽出し、抽出した画素位置の集合を直線近似して、近似した直線と個々の画素位置との誤差の総和を直線の度合いを評価する値(算出された値が少ないほど、適正投影倍率に近い)として用いるようにすることができる。   The appropriate projection magnification detection unit 182 obtains an appropriate projection magnification of the projector 61 by image processing. In order to obtain the proper projection magnification of the projector 61, the appropriate projection magnification detection unit 182 controls the projector projection magnification control unit 183, for example, and changes the projection magnification of the projector 61 from the minimum to the maximum state at predetermined angles. The pixel position corresponding to the bright line on the upper side is extracted from the distortion detection image from the images acquired for each angle, the set of extracted pixel positions is linearly approximated, and the approximated straight line and each pixel position are Can be used as a value for evaluating the degree of straight line (the smaller the calculated value, the closer to the appropriate projection magnification).

プロジェクタ投影倍率制御部183は、適正投影倍率検出部182または全体制御部152の制御に基づいて、プロジェクタ61の投影倍率を制御する。具体的には、プロジェクタ投影倍率制御部183は、適正投影倍率検出部182が適正投影倍率を検出するために、投影倍率が最小から最大の状態まで所定の角度ごとにプロジェクタ61の投影倍率を制御したり、キーストン補正処理部155によりキーストン補正が行われる前に、適正投影倍率検出部182により検出された適正投影倍率にプロジェクタ61の投影倍率を制御する。更に、プロジェクタ投影倍率制御部183は、補正処理の終了後、操作入力取得部151により取得されたユーザの操作入力に基づいて、全体制御部152の制御にしたがって、プロジェクタ61の投影倍率を制御することも可能である。   The projector projection magnification control unit 183 controls the projection magnification of the projector 61 based on the control of the appropriate projection magnification detection unit 182 or the overall control unit 152. Specifically, the projector projection magnification control unit 183 controls the projection magnification of the projector 61 for each predetermined angle from the minimum to maximum projection magnification so that the appropriate projection magnification detection unit 182 detects the appropriate projection magnification. Or the keystone correction processing unit 155 controls the projection magnification of the projector 61 to the appropriate projection magnification detected by the appropriate projection magnification detection unit 182 before the keystone correction is performed. Furthermore, the projector projection magnification control unit 183 controls the projection magnification of the projector 61 according to the control of the overall control unit 152 based on the user operation input acquired by the operation input acquisition unit 151 after the correction processing is completed. It is also possible.

キーストン補正処理部155は、全体制御部152の制御に基づいて、プロジェクタ61が適正投影倍率で画像を投影している状態において、キーストン補正を実行する。   Based on the control of the overall control unit 152, the keystone correction processing unit 155 performs keystone correction in a state where the projector 61 projects an image with an appropriate projection magnification.

補正用カメラ撮像画像取得部191は、補正用カメラ64により撮像された画像を取得し、画素ペア抽出部192に供給する。   The correction camera captured image acquisition unit 191 acquires an image captured by the correction camera 64 and supplies the acquired image to the pixel pair extraction unit 192.

画素ペア抽出部192は、プロジェクタ入力画像取得/生成部171から供給されたプロジェクタへの入力画像、および、補正用カメラ撮像画像取得部191から供給された画像の供給を受け、キーストン補正を行うために、プロジェクタへの入力画像の4つ以上の画素と、撮像された画像のこれらの画素に対応する画素とのペアを抽出し、抽出結果を係数算出部193に供給する。   The pixel pair extraction unit 192 receives the input image supplied to the projector supplied from the projector input image acquisition / generation unit 171 and the image supplied from the correction camera captured image acquisition unit 191 and performs keystone correction. Then, pairs of four or more pixels of the input image to the projector and pixels corresponding to these pixels of the captured image are extracted, and the extraction result is supplied to the coefficient calculation unit 193.

ここで、キーストン補正処理を行うためには、入力画像上の点の位置座標とその点のカメラ画像上での位置座標のペアが4組以上必要である。画素ペア抽出部192は、それ以上のペアを観測してもよい。なお、キーストン補正においては、多くのペアを観測するほど観測誤差の低減を見込むことができる。   Here, in order to perform the keystone correction process, four or more pairs of the position coordinates of the point on the input image and the position coordinates of the point on the camera image are necessary. The pixel pair extraction unit 192 may observe more pairs. In keystone correction, the observation error can be expected to decrease as more pairs are observed.

例えば、図12Aに示されるように、プロジェクタ61に入力された画像21の4隅(00)、(W,0)(0,H)および(W,H)の4点は、図12Bに示される、補正用カメラ64で撮影された投影画像11の点(u1,v1)(u1,v2)(u3,v3)および(u4,v4)に対応する。そこで、画素ペア抽出部192は、投影画像11の点(u1,v1)(u1,v2)(u3,v3)および(u4,v4)は、補正用カメラ64で撮影された画像上のいずれの位置となるかを観測する。   For example, as shown in FIG. 12A, four corners (00), (W, 0) (0, H), and (W, H) of the image 21 input to the projector 61 are shown in FIG. 12B. Corresponding to the points (u1, v1) (u1, v2) (u3, v3) and (u4, v4) of the projected image 11 taken by the correction camera 64. Therefore, the pixel pair extraction unit 192 uses any one of the points (u1, v1) (u1, v2) (u3, v3) and (u4, v4) of the projection image 11 on the image captured by the correction camera 64. Observe the position.

画素ペア抽出部192による画素ペアの抽出方法は、例えば、補正用カメラ撮像画像取得部191から供給された投影画像11を含む画像を図示しないコンピュータに供給して所定のディスプレイに映し出し、それを見ながら4隅の座標位置を、例えば、マウスなどの入力デバイスを用いて選択する(クリック)ことなどにより、各点の座標値を観測することができるようなアプリケーションを利用するようにしても良いし、画素ペア抽出部192が補正用カメラ撮像画像取得部191から供給された投影画像11を含む画像に対して画像処理を施すことにより、自動的に投影画像11の4隅の位置座標を算出することができるようにしても良い。   The pixel pair extraction method by the pixel pair extraction unit 192 includes, for example, supplying an image including the projection image 11 supplied from the correction camera captured image acquisition unit 191 to a computer (not shown) and displaying the image on a predetermined display. However, an application may be used in which the coordinate values of each point can be observed by selecting (clicking) the coordinate positions of the four corners using an input device such as a mouse. The pixel pair extraction unit 192 automatically performs image processing on the image including the projection image 11 supplied from the correction camera captured image acquisition unit 191, thereby automatically calculating the position coordinates of the four corners of the projection image 11. You may be able to do that.

係数算出部193は、画素ペア抽出部192から供給された画素ペアの抽出結果に基づいて、上述した式(1)および式(2)の係数を求め、得られた係数を係数出力部194に供給する。   The coefficient calculation unit 193 obtains the coefficients of the above-described equations (1) and (2) based on the pixel pair extraction result supplied from the pixel pair extraction unit 192, and supplies the obtained coefficients to the coefficient output unit 194. Supply.

係数算出部193は、画素ペア抽出部192から供給された画素ペアの抽出結果を用いて、例えば、次の式(3)の連立方程式を解くことにより、上述した式(1)および式(2)の係数を求めることができる。   The coefficient calculation unit 193 uses the pixel pair extraction result supplied from the pixel pair extraction unit 192, for example, to solve the simultaneous equations of the following equation (3), thereby obtaining the above-described equations (1) and (2 ) Coefficient.

Figure 2006267777
・・・(3)
Figure 2006267777
... (3)

式(3)は最小二乗法で解くのが一般的であるが、適当な方法であれば、最小二乗法以外のいずれの方法を用いても良い。   Equation (3) is generally solved by the method of least squares, but any method other than the method of least squares may be used as long as it is an appropriate method.

係数出力制御部194は、係数算出部193により算出された式(1)および式(2)の係数を、プロジェクタ61に供給する。プロジェクタ61は、供給された係数を基に、キーストン補正を行う。   The coefficient output control unit 194 supplies the coefficients of the expressions (1) and (2) calculated by the coefficient calculation unit 193 to the projector 61. The projector 61 performs keystone correction based on the supplied coefficient.

次に、図13のフローチャートを参照して、図11を用いて説明した補正処理装置63により実行される補正処理1について説明する。   Next, correction processing 1 executed by the correction processing device 63 described with reference to FIG. 11 will be described with reference to the flowchart of FIG.

ステップS1において、歪み検出用画像生成/保存部172は、歪み検出用画像を画像出力制御部173に出力する。画像出力制御部173は、供給された歪み検出用画像をプロジェクタ61に供給し、スクリーン51に表示させる。   In step S <b> 1, the distortion detection image generation / storage unit 172 outputs the distortion detection image to the image output control unit 173. The image output control unit 173 supplies the supplied distortion detection image to the projector 61 and causes the screen 51 to display it.

ステップS2において、図14のフローチャートを用いて後述する適正投射倍率検出処理1が実行される。   In step S2, a proper projection magnification detection process 1 described later using the flowchart of FIG. 14 is executed.

ステップS3において、投影歪み補正制御部154のプロジェクタ投影倍率制御部183は、ステップS2において求められた適正な投影倍率となるように、プロジェクタ61の投影倍率を制御する。   In step S3, the projector projection magnification control unit 183 of the projection distortion correction control unit 154 controls the projection magnification of the projector 61 so that the appropriate projection magnification obtained in step S2 is obtained.

ステップS4において、プロジェクタ入力画像取得/生成部171は、キーストン補正を行うのに適した補正用の画像を画像出力制御部173に出力するとともに、キーストン補正処理部155の画素ペア抽出部192に供給する。画像出力制御部173は、供給された補正用の画像をプロジェクタ61に供給し、スクリーン51に表示させる。   In step S4, the projector input image acquisition / generation unit 171 outputs a correction image suitable for performing keystone correction to the image output control unit 173 and supplies it to the pixel pair extraction unit 192 of the keystone correction processing unit 155. To do. The image output control unit 173 supplies the supplied correction image to the projector 61 and causes the screen 51 to display it.

ステップS5において、キーストン補正処理部155の補正用カメラ撮像画像取得部191は、補正用カメラ64により撮影された、プロジェクタ61によりスクリーン51に投影された補正用画像を撮像した画像を取得し、画素ペア抽出部192に供給する。画素ペア抽出部192は、プロジェクタ入力画像取得/生成部171から供給された、プロジェクタ61に出力された画像と、補正用カメラ撮像画像取得部191から供給された、補正用カメラ64により撮像された画像との、対応する画素のペアを抽出し、係数算出部193に供給する。   In step S <b> 5, the correction camera captured image acquisition unit 191 of the keystone correction processing unit 155 acquires an image captured by the correction camera 64 and captured by the projector 61 on the screen 51. It supplies to the pair extraction part 192. The pixel pair extraction unit 192 is captured by the correction camera 64 supplied from the projector 61 and the image output to the projector 61 supplied from the projector input image acquisition / generation unit 171 and the correction camera captured image acquisition unit 191. A pair of corresponding pixels with the image is extracted and supplied to the coefficient calculation unit 193.

ステップS6において、係数算出部193は、画素ペア抽出部192から供給された画素ペアの抽出結果を用いて、上述した式(3)の連立方程式を、例えば、最小二乗法などを用いて解くことにより、上述した式(1)および式(2)のモデル式の係数を算出し、係数出力制御部194に供給する。   In step S <b> 6, the coefficient calculation unit 193 uses the pixel pair extraction result supplied from the pixel pair extraction unit 192 to solve the simultaneous equations of Equation (3) described above using, for example, the least square method. Thus, the coefficients of the model expressions of the above-described expressions (1) and (2) are calculated and supplied to the coefficient output control unit 194.

ステップS7において、係数出力制御部194は、係数算出部193により算出された係数をプロジェクタ61に出力して、処理が終了される。プロジェクタ61は、供給された係数を基に、キーストン補正を行うことができる。   In step S7, the coefficient output control unit 194 outputs the coefficient calculated by the coefficient calculation unit 193 to the projector 61, and the process is ended. The projector 61 can perform keystone correction based on the supplied coefficient.

このような処理により、補正処理装置63においては、キーストン補正処理を行うのに好適なプロジェクタ61の適正投影倍率を求めることができる。更に、補正処理装置63においては、得られた適正投影倍率を基に、プロジェクタ61の倍率を調整した後、キーストン補正を実行させるために必要な係数を求め、プロジェクタ61に供給してキーストン補正を実行させるようにすることができる。   By such processing, the correction processing device 63 can obtain an appropriate projection magnification of the projector 61 suitable for performing keystone correction processing. Further, in the correction processing device 63, after adjusting the magnification of the projector 61 based on the obtained appropriate projection magnification, a coefficient necessary for executing the keystone correction is obtained and supplied to the projector 61 to perform the keystone correction. It can be made to execute.

次に、図14のフローチャートを参照して、図13のステップS2において実行される、適正投影倍率検出処理1について説明する。   Next, the appropriate projection magnification detection process 1 executed in step S2 of FIG. 13 will be described with reference to the flowchart of FIG.

ステップS21において、投影歪み補正制御部154のプロジェクタ投影倍率制御部183は、プロジェクタ61の投影倍率を最小にセットする。   In step S21, the projector projection magnification control unit 183 of the projection distortion correction control unit 154 sets the projection magnification of the projector 61 to the minimum.

ステップS22において、歪み検出用カメラ撮像画像取得部181は、歪み検出用カメラ62により撮像された歪み検出用画像の撮像画像を取得し、適正投影倍率検出部182に供給する。   In step S <b> 22, the distortion detection camera captured image acquisition unit 181 acquires a captured image of the distortion detection image captured by the distortion detection camera 62 and supplies the acquired image to the appropriate projection magnification detection unit 182.

ステップS23において、適正投影倍率検出部182は、供給された投影画像の歪みの評価値を算出する。具体的には、適正投影倍率検出部182は、例えば、供給された歪み検出用画像の投影画像から上辺の輝線に相当する画素位置を抽出し、抽出した画素位置の集合を直線近似して、近似した直線と個々の画素位置との誤差の総和を求め、この値を、投影画像の歪みの評価値(算出された値が少ないほど、適正投影倍率に近い)とすることができる。   In step S23, the appropriate projection magnification detection unit 182 calculates an evaluation value of distortion of the supplied projection image. Specifically, the appropriate projection magnification detection unit 182 extracts, for example, a pixel position corresponding to the bright line on the upper side from the supplied projection image of the distortion detection image, linearly approximates the set of extracted pixel positions, The sum of errors between the approximated straight line and the individual pixel positions is obtained, and this value can be used as an evaluation value of distortion of the projected image (the smaller the calculated value, the closer to the appropriate projection magnification).

ステップS24において、適正投影倍率検出部182は、プロジェクタ投影倍率制御部183により制御されている、プロジェクタ61の現在の投影倍率を取得する。   In step S24, the appropriate projection magnification detection unit 182 acquires the current projection magnification of the projector 61 that is controlled by the projector projection magnification control unit 183.

ステップS25において、適正投影倍率検出部182は、算出された評価値を倍率とともに内部の図示しないデータ記憶領域に記録する。   In step S25, the appropriate projection magnification detection unit 182 records the calculated evaluation value together with the magnification in a data storage area (not shown) inside.

ステップS26において、適正投影倍率検出部182は、ステップS24において取得されたプロジェクタ61の現在の投影倍率は、プロジェクタ61の最大倍率であるか否かを判断する。   In step S <b> 26, the appropriate projection magnification detection unit 182 determines whether or not the current projection magnification of the projector 61 acquired in step S <b> 24 is the maximum magnification of the projector 61.

ステップS26において、プロジェクタ61の現在の投影倍率は、プロジェクタ61の最大倍率ではないと判断された場合、ステップS27において、プロジェクタ投影倍率制御部183は、プロジェクタ61の投影倍率を所定量高くし、処理は、ステップS22に戻り、それ以降の処理が繰り返される。   If it is determined in step S26 that the current projection magnification of the projector 61 is not the maximum magnification of the projector 61, in step S27, the projector projection magnification control unit 183 increases the projection magnification of the projector 61 by a predetermined amount and performs processing. Returns to step S22, and the subsequent processing is repeated.

ステップS26において、プロジェクタ61の現在の投影倍率は、プロジェクタ61の最大倍率であると判断された場合、ステップS28において、適正投影倍率検出部182は、記録された、それぞれの倍率の評価値を基に、投影歪みが最小となる倍率、すなわち、適正投影倍率を検出し、プロジェクタ投影倍率制御部183に検出された適正投影倍率の値を供給して、処理は、図13のステップS2に戻り、ステップS3に進む。   When it is determined in step S26 that the current projection magnification of the projector 61 is the maximum magnification of the projector 61, in step S28, the appropriate projection magnification detection unit 182 uses the recorded evaluation values for the respective magnifications. Further, the magnification at which the projection distortion is minimized, that is, the appropriate projection magnification is detected, and the value of the appropriate projection magnification detected by the projector projection magnification control unit 183 is supplied, and the process returns to step S2 in FIG. Proceed to step S3.

このような処理により、投影歪みが発生しない投影倍率を求めることができる。   By such processing, a projection magnification that does not cause projection distortion can be obtained.

以上の説明においては、補正処理装置63がプロジェクタ61の投影倍率を制御することができるものとして説明した。これに対して、図15に示されるように、プロジェクタ222の投影倍率を直接制御することができない補正処理装置221が用いられる場合、すなわち、プロジェクタ222の投影倍率をユーザがマニュアルで調節するようになされている場合、補正処理装置221は、ユーザがプロジェクタ222の表示倍率を投射歪みが最小となる画像が表示されるような倍率に容易に調整することができるように、ユーザに対して、音声または映像によってメッセージを通知するなどの操作補助を行うことができるようにすれば良い。   In the above description, the correction processing device 63 has been described as being able to control the projection magnification of the projector 61. On the other hand, as shown in FIG. 15, when a correction processing apparatus 221 that cannot directly control the projection magnification of the projector 222 is used, that is, the user manually adjusts the projection magnification of the projector 222. If so, the correction processing device 221 provides audio to the user so that the user can easily adjust the display magnification of the projector 222 to such a magnification that an image with minimum projection distortion is displayed. Alternatively, it may be possible to perform operation assistance such as notification of a message by video.

なお、図15においては、プロジェクタ222は、スクリーン51の背面から画像を投射するものとして図示されているが、図16に示されるように、プロジェクタ222が、スクリーン51の前面から映像を投射するようになされている場合でも、補正処理装置221は、ユーザがプロジェクタ222の表示倍率を投射歪みが最小となる画像が表示されるような倍率に容易に調整することができるように、ユーザに対して、音声または映像によってメッセージを通知するなどの操作補助を行うことができる。このとき、歪み検出用カメラ62および補正用カメラ64は、いずれも、スクリーン51に対して、プロジェクタ222と同一の方向、すなわち、プロジェクタ222により投影される映像が表示される側に設置される。   In FIG. 15, the projector 222 is illustrated as projecting an image from the back surface of the screen 51. However, as illustrated in FIG. 16, the projector 222 projects an image from the front surface of the screen 51. Even when the correction processing device 221 is configured, the correction processing device 221 allows the user to easily adjust the display magnification of the projector 222 to such a magnification that an image with minimum projection distortion is displayed. In addition, operation assistance such as notification of a message by voice or video can be performed. At this time, the distortion detection camera 62 and the correction camera 64 are both installed in the same direction as the projector 222 with respect to the screen 51, that is, on the side where the image projected by the projector 222 is displayed.

図17は、補正処理装置221の構成を示すブロック図である。   FIG. 17 is a block diagram showing the configuration of the correction processing device 221. As shown in FIG.

なお、図11における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。   Note that portions corresponding to those in FIG. 11 are denoted by the same reference numerals, and description thereof will be omitted as appropriate.

すなわち、補正処理装置221は、投影歪み補正制御部154に代わって、投影歪み補正補助制御部241が設けられている以外は、図11を用いて説明した補正処理装置63と基本的に同様の構成を有している。投影歪み補正補助制御部241は、図11を用いて説明した歪み検出用カメラ撮像画像取得部181を含み、更に、適正投影倍率検出部251および検出結果出力制御部252により構成されている。   That is, the correction processing device 221 is basically the same as the correction processing device 63 described with reference to FIG. 11 except that a projection distortion correction auxiliary control unit 241 is provided instead of the projection distortion correction control unit 154. It has a configuration. The projection distortion correction auxiliary control unit 241 includes the distortion detection camera captured image acquisition unit 181 described with reference to FIG. 11, and further includes an appropriate projection magnification detection unit 251 and a detection result output control unit 252.

適正投影倍率検出部251は、歪み検出用カメラ撮像画像取得部181から供給された、歪み検出用カメラ62により撮像された画像に対して画像処理を施し、プロジェクタ222の現在の倍率が、補正処理を行うのに好適な適正投影倍率であるか否か、または、適正投影倍率に近いか否かを検出し、検出結果を検出結果出力制御部252に供給する。   The appropriate projection magnification detection unit 251 performs image processing on the image captured by the distortion detection camera 62 supplied from the distortion detection camera captured image acquisition unit 181, and the current magnification of the projector 222 is corrected. It is detected whether or not it is an appropriate projection magnification suitable for performing or whether it is close to the appropriate projection magnification, and the detection result is supplied to the detection result output control unit 252.

検出結果出力制御部252は、適正投影倍率検出部251により供給された検出結果を基に、ユーザがプロジェクタ222の表示倍率を投射歪みが最小となる画像が表示されるような倍率に容易に調整することができるように、ユーザに対する操作補助となる画像や音声などの出力を制御する。   The detection result output control unit 252 easily adjusts the display magnification of the projector 222 to a magnification at which an image with minimum projection distortion is displayed based on the detection result supplied from the appropriate projection magnification detection unit 251. In order to be able to do so, the output of images, sounds, and the like, which are operation assistance for the user, is controlled.

具体的には、検出結果出力制御部252は、適正投影倍率検出部251により供給された検出結果を基に、プロジェクタ222の現在の倍率が、補正処理を行うのに好適な適正投影倍率である、または、適正投影倍率に近い場合、図示しないスピーカなどから、プロジェクタ222の現在の倍率が、補正処理を行うのに好適な適正投影倍率である、または、適正投影倍率に近いことをユーザに通知するための音声出力を制御する。ユーザに通知するための音声出力には、例えば、「適正倍率です」「適正倍率付近です」「適正倍率にあわせるために倍率を下げてください」または「適正倍率にあわせるために倍率をあげてください」などの音声メッセージ、もしくは、電子音やブザー音などが用いられる。   Specifically, the detection result output control unit 252 determines that the current magnification of the projector 222 is an appropriate projection magnification suitable for performing correction processing based on the detection result supplied by the appropriate projection magnification detection unit 251. If the projection magnification is close to the appropriate projection magnification, the user is notified from a speaker (not shown) that the current magnification of the projector 222 is an appropriate projection magnification suitable for performing the correction process or is close to the appropriate projection magnification. To control the sound output. In the audio output to notify the user, for example, “It is the right magnification”, “It is near the right magnification”, “Please lower the magnification to match the right magnification” or “Please increase the magnification to match the right magnification” , Etc., or an electronic sound or buzzer sound.

また、検出結果出力制御部252は、適正投影倍率検出部251により供給された検出結果を基に、例えば、図18または図19に示されるように、例えば、プロジェクタ222の現在の倍率と適正倍率との合致度合い、プロジェクタ222の現在の倍率と適正倍率とのずれ量、または、プロジェクタ222の倍率を適正倍率にあわせるために倍率をあげるべきか下げるべきかをユーザが認識することができるような画像データを生成し、図示しないディスプレイへの、生成された画像データの表示を制御する。また、検出結果出力制御部252は、生成された画像データを、画像出力制御部173に供給し、プロジェクタ222により、スクリーン51のいずれかの位置に、ユーザに対する操作補助となる画像を表示させることができるようにしても良い。   In addition, the detection result output control unit 252 may, for example, as shown in FIG. 18 or FIG. 19 based on the detection result supplied by the appropriate projection magnification detection unit 251, for example, the current magnification and the appropriate magnification of the projector 222. So that the user can recognize whether the magnification of the projector 222 should be increased or decreased in order to match the magnification of the projector 222 with the appropriate magnification. Image data is generated, and display of the generated image data on a display (not shown) is controlled. Further, the detection result output control unit 252 supplies the generated image data to the image output control unit 173, and causes the projector 222 to display an image that assists the user in any position on the screen 51. You may be able to.

次に、図20のフローチャートを参照して、図17を用いて説明した補正処理装置221により実行される補正処理2について説明する。   Next, correction processing 2 executed by the correction processing device 221 described with reference to FIG. 17 will be described with reference to the flowchart of FIG.

ステップS51において、歪み検出用画像生成/保存部172は、歪み検出用画像を画像出力制御部173に出力する。画像出力制御部173は、供給された歪み検出用画像をプロジェクタ222に供給し、スクリーン51に表示させる。   In step S <b> 51, the distortion detection image generation / storage unit 172 outputs the distortion detection image to the image output control unit 173. The image output control unit 173 supplies the supplied distortion detection image to the projector 222 and displays it on the screen 51.

ステップS52において、図21のフローチャートを用いて後述する適正投射倍率検出処理2が実行される。   In step S52, an appropriate projection magnification detection process 2 described later using the flowchart of FIG. 21 is executed.

ステップS53において、投影歪み補正補助制御部241の検出結果出力制御部252は、ステップS52において求められた適正な投影倍率となるようにユーザがプロジェクタをマニュアルで調節するための補助となる映像または音声などの出力を制御する。   In step S53, the detection result output control unit 252 of the projection distortion correction auxiliary control unit 241 assists the user in manually adjusting the projector so as to obtain the appropriate projection magnification obtained in step S52. Control the output.

具体的には、検出結果出力制御部252は、適正投影倍率検出部251により供給された検出結果を基に、プロジェクタ222の現在の倍率が、補正処理を行うのに好適な適正投影倍率である、または、適正投影倍率に近い場合、図示しないスピーカなどから、プロジェクタ222の現在の倍率が、補正処理を行うのに好適な適正投影倍率である、または、適正投影倍率に近いことをユーザに通知するための音声出力を制御したり、例えば、図18または図19を用いて説明したような、プロジェクタ222の現在の倍率と適正倍率との合致度合い、プロジェクタ222の現在の倍率と適正倍率とのずれ量、または、プロジェクタ222の倍率を適正倍率にあわせるために倍率をあげるべきか下げるべきかをユーザが認識することができるような画像データを生成し、図示しないディスプレイへの、生成された画像データの表示を制御する。また、検出結果出力制御部252は、生成された画像データを、画像出力制御部173に供給し、プロジェクタ222により、スクリーン51のいずれかの位置に、ユーザに対する操作補助となる画像を表示させることができるようにしても良い。   Specifically, the detection result output control unit 252 determines that the current magnification of the projector 222 is an appropriate projection magnification suitable for performing correction processing based on the detection result supplied by the appropriate projection magnification detection unit 251. If the projection magnification is close to the appropriate projection magnification, the user is notified from a speaker (not shown) that the current magnification of the projector 222 is an appropriate projection magnification suitable for performing the correction process or is close to the appropriate projection magnification. For example, the degree of coincidence between the current magnification and the appropriate magnification of the projector 222 and the current magnification and the appropriate magnification of the projector 222 as described with reference to FIG. The user can recognize whether the amount of deviation or the magnification of the projector 222 should be increased or decreased to match the appropriate magnification. It generates an image data, to a display (not shown), to control the display of the generated image data. Further, the detection result output control unit 252 supplies the generated image data to the image output control unit 173, and causes the projector 222 to display an image that assists the user in any position on the screen 51. You may be able to.

ステップS54において、全体制御部152は、操作入力取得部151から供給される、ユーザの操作入力を示す信号を基に、ユーザから、キーストン補正用の画像の出力が指令されたか否かを判断する。ステップS54において、キーストン補正用の画像の出力が指令されていないと判断された場合、処理は、ステップS52に戻り、それ以降の処理が繰り返される。   In step S54, the overall control unit 152 determines whether or not the user has instructed to output an image for keystone correction based on the signal indicating the user's operation input supplied from the operation input acquiring unit 151. . If it is determined in step S54 that the output of the keystone correction image is not instructed, the process returns to step S52, and the subsequent processes are repeated.

ステップS54において、補正用の画像の出力が指令されたと判断された場合、ステップS55乃至ステップS58において、図13のステップS4乃至ステップS7と基本的に同様の処理が実行される。   If it is determined in step S54 that the output of the correction image has been commanded, in steps S55 to S58, basically the same processing as in steps S4 to S7 in FIG. 13 is executed.

すなわち、プロジェクタ入力画像取得/生成部171は、キーストン補正用の画像を画像出力制御部173、および、キーストン補正処理部155の画素ペア抽出部192に供給する。画像出力制御部173は、供給された補正用の画像をプロジェクタ222に供給し、スクリーン51に表示させる。そして、キーストン補正処理部155の補正用カメラ撮像画像取得部191は、プロジェクタ222に投影された補正用画像を撮像した画像を取得し、画素ペア抽出部192に供給する。画素ペア抽出部192は、プロジェクタ222に出力された画像と補正用カメラ64により撮像された画像との、対応する画素のペアを抽出し、係数算出部193に供給する。係数算出部193は、画素ペア抽出部192から供給された画素ペアの抽出結果を用いて、上述した式(3)の連立方程式を、例えば、最小二乗法などを用いて解くことにより、上述した式(1)および式(2)のモデル式の係数を算出し、係数出力制御部194に供給する。係数出力制御部194は、係数算出部193により算出された係数をプロジェクタ222に出力して、処理が終了される。プロジェクタ222は、供給された係数を基に、キーストン補正を行うことができる。   That is, the projector input image acquisition / generation unit 171 supplies an image for keystone correction to the image output control unit 173 and the pixel pair extraction unit 192 of the keystone correction processing unit 155. The image output control unit 173 supplies the supplied correction image to the projector 222 and displays it on the screen 51. The correction camera captured image acquisition unit 191 of the keystone correction processing unit 155 acquires an image obtained by capturing the correction image projected on the projector 222 and supplies the acquired image to the pixel pair extraction unit 192. The pixel pair extraction unit 192 extracts a corresponding pixel pair between the image output to the projector 222 and the image captured by the correction camera 64 and supplies the extracted pixel pair to the coefficient calculation unit 193. The coefficient calculation unit 193 uses the pixel pair extraction result supplied from the pixel pair extraction unit 192 to solve the simultaneous equation of the above-described formula (3) by using, for example, the least square method. The coefficients of the model expressions of Expression (1) and Expression (2) are calculated and supplied to the coefficient output control unit 194. The coefficient output control unit 194 outputs the coefficient calculated by the coefficient calculation unit 193 to the projector 222, and the process ends. The projector 222 can perform keystone correction based on the supplied coefficient.

このような処理により、補正処理装置221においては、キーストン補正処理を行うのに好適なプロジェクタ222の適正投影倍率の候補値を求め、プロジェクタ222の投影倍率が適正な投影倍率となるようにユーザがプロジェクタをマニュアルで調節するための補助となる映像または音声などの出力を制御することができる。そして、補正処理装置221においては、ユーザによる投影倍率の調整が終了し、キーストン補正用の画像の出力が指令された場合、キーストン補正を実行させるために必要な係数が求められ、プロジェクタ222に供給してキーストン補正を実行させるようにすることができる。   By such processing, the correction processing device 221 obtains a candidate value for the appropriate projection magnification of the projector 222 suitable for performing the keystone correction processing, and the user can set the projection magnification of the projector 222 to an appropriate projection magnification. It is possible to control the output of video, audio, or the like that assists manual adjustment of the projector. Then, in the correction processing device 221, when the adjustment of the projection magnification by the user is completed and an output of an image for keystone correction is instructed, a coefficient necessary for executing the keystone correction is obtained and supplied to the projector 222. Thus, the keystone correction can be executed.

次に、図21のフローチャートを参照して、図20のステップS52において実行される、適正投影倍率検出処理2について説明する。   Next, the appropriate projection magnification detection process 2 executed in step S52 of FIG. 20 will be described with reference to the flowchart of FIG.

ステップS71において、投影歪み補正補助制御部241の検出結果出力制御部252は、投影歪みが最小となる倍率の候補の通知済みであるか否か、すなわち、図20を用いて説明したステップS52(本フローチャートの処理)が少なくとも一度終了し、処理がステップS53に進み、適正な投影倍率となるようにユーザがプロジェクタ222をマニュアルで調節するための補助となる映像または音声などの出力が制御され、その後、ステップS54において、キーストン補正用の画像の出力が指令されていないと判断され、2回目以降のステップS52(本フローチャートの処理)の処理が実行されている状態であるか否かを判断する。   In step S71, the detection result output control unit 252 of the projection distortion correction auxiliary control unit 241 determines whether or not a candidate for a magnification that minimizes the projection distortion has been notified, that is, step S52 (described with reference to FIG. 20). The process of this flowchart is completed at least once, the process proceeds to step S53, and the output of video or audio, which assists the user to manually adjust the projector 222 so as to obtain an appropriate projection magnification, is controlled. Thereafter, in step S54, it is determined that the output of the keystone correction image is not instructed, and it is determined whether or not the second and subsequent steps S52 (the process of this flowchart) are being executed. .

ステップS71において、投影歪みが最小となる倍率の候補の通知済みであると判断された場合、処理は、後述するステップS79に進む。   If it is determined in step S71 that the candidate for the magnification that minimizes the projection distortion has been notified, the process proceeds to step S79 described later.

ステップS71において、投影歪みが最小となる倍率の候補の通知済みではないと判断された場合、すなわち、一度目のステップS52(本フローチャートの処理)の処理が実行されている状態であると判断された場合、ステップS72において、検出結果出力制御部252は、プロジェクタ222の投影倍率が最小にセットされるように、例えば、音声メッセージまたは画像などを用いて、ユーザに通知する。   If it is determined in step S71 that the magnification candidate that minimizes the projection distortion has not been notified, that is, it is determined that the first step S52 (the process of this flowchart) is being executed. In this case, in step S72, the detection result output control unit 252 notifies the user using, for example, a voice message or an image so that the projection magnification of the projector 222 is set to the minimum.

ステップS73において、歪み検出用カメラ撮像画像取得部181は、歪み検出用カメラ62により撮像された歪み検出用画像の撮像画像を取得し、適正投影倍率検出部251に供給する。   In step S <b> 73, the distortion detection camera captured image acquisition unit 181 acquires a captured image of the distortion detection image captured by the distortion detection camera 62 and supplies the acquired image to the appropriate projection magnification detection unit 251.

ステップS74において、適正投影倍率検出部251は、供給された投影画像の歪みの評価値を算出する。具体的には、適正投影倍率検出部251は、例えば、供給された歪み検出用画像の投影画像から上辺の輝線に相当する画素位置を抽出し、抽出した画素位置の集合を直線近似して、近似した直線と個々の画素位置との誤差の総和を求め、この値を、投影画像の歪みの評価値(算出された値が少ないほど、適正投影倍率に近い)とすることができる。   In step S74, the appropriate projection magnification detection unit 251 calculates an evaluation value of distortion of the supplied projection image. Specifically, the appropriate projection magnification detection unit 251 extracts, for example, a pixel position corresponding to the bright line on the upper side from the supplied projection image of the distortion detection image, linearly approximates the set of extracted pixel positions, The sum of errors between the approximated straight line and the individual pixel positions is obtained, and this value can be used as an evaluation value of distortion of the projected image (the smaller the calculated value, the closer to the appropriate projection magnification).

ステップS75において、適正投影倍率検出部251は、算出された評価値を、内部の図示しないデータ記憶領域に記録する。   In step S75, the appropriate projection magnification detection unit 251 records the calculated evaluation value in an internal data storage area (not shown).

ステップS76において、適正投影倍率検出部251は、ステップS73において算出された評価値は、投影歪みが最小となる評価値(倍率)の候補値を検出するために必要な、所定の条件に合致しているか否かを判断する。所定の条件には、例えば、評価値が所定の閾値以下である場合や、評価値の変化量が減少傾向から増加傾向に変化したときなどがある。また、例えば、画像処理のエラーやデータのノイズなどにより発生する誤検出による影響を考慮するために、所定の条件を、評価値が所定の閾値以下である状態が所定の回数以上連続した場合や、評価値の変化量が所定の回数連続した減少傾向から所定の回数連続した増加傾向に変化した場合としてもよい。   In step S76, the appropriate projection magnification detection unit 251 matches the evaluation value calculated in step S73 with a predetermined condition necessary for detecting an evaluation value (magnification) candidate value that minimizes the projection distortion. Judge whether or not. Examples of the predetermined condition include a case where the evaluation value is equal to or less than a predetermined threshold, and a case where the change amount of the evaluation value changes from a decreasing tendency to an increasing tendency. Further, for example, in order to consider the influence of false detection caused by an image processing error, data noise, or the like, the predetermined condition is set when the evaluation value is equal to or lower than a predetermined threshold for a predetermined number of times or The change amount of the evaluation value may change from a decreasing trend that continues a predetermined number of times to an increasing trend that continues a predetermined number of times.

ステップS76において、所定の条件に合致していないと判断された場合、ステップS77において、適正投影倍率検出部251は、投影歪みが最小となる評価値(倍率)の候補値を検出するために必要な、所定の条件に合致していないことを検出結果出力制御部252に通知するので、検出結果出力制御部252は、プロジェクタ222の投影倍率が所定量高くセットされるように、ユーザに通知し、処理は、ステップS73に戻り、それ以降の処理が繰り返される。   If it is determined in step S76 that the predetermined condition is not met, in step S77, the appropriate projection magnification detection unit 251 is necessary to detect an evaluation value (magnification) candidate value that minimizes the projection distortion. Since the detection result output control unit 252 is notified that the predetermined condition is not met, the detection result output control unit 252 notifies the user that the projection magnification of the projector 222 is set higher by a predetermined amount. The processing returns to step S73, and the subsequent processing is repeated.

ステップS76において、所定の条件に合致していると判断された場合、ステップS78において、適正投影倍率検出部251は、記録された、それぞれの倍率の評価値を基に、投影歪みが最小となる評価値(すなわち、適正投影倍率における投影歪みの評価値)の候補を検出して、検出結果出力制御部252に通知し、処理は、図20のステップS52に戻り、ステップS53に進む。   If it is determined in step S76 that the predetermined condition is met, in step S78, the appropriate projection magnification detection unit 251 minimizes the projection distortion based on the recorded evaluation value of each magnification. A candidate for an evaluation value (that is, an evaluation value of projection distortion at an appropriate projection magnification) is detected and notified to the detection result output control unit 252, and the process returns to step S52 in FIG. 20 and proceeds to step S53.

具体的には、適正投影倍率検出部251は、評価値が所定の閾値以下であるので所定の条件に合致していると判断した場合や、評価値の変化量が減少傾向から増加傾向に変化したので所定の条件に合致していると判断した場合、現在の角度を、投影歪みが最小となる倍率として検出することができる。また、適正投影倍率検出部251は、画像処理のエラーやデータのノイズなどによる誤検出を考慮して、評価値が所定の閾値以下である状態が所定の回数以上連続した場合や、評価値の変化量が所定の回数連続した減少傾向から所定の回数連続した増加傾向に変化した場合に所定の条件に合致していると判断するようになされている場合、所定の閾値以下の評価値のうちの最小値、または、評価値の変化量が所定の回数連続した減少傾向から所定の回数連続した増加傾向に変化したときの極小値を、投影歪みが最小となる評価値として検出することができる。   Specifically, the appropriate projection magnification detection unit 251 determines that the evaluation value is equal to or less than a predetermined threshold value, and therefore the amount of change in the evaluation value changes from a decreasing trend to an increasing trend. Therefore, when it is determined that the predetermined condition is satisfied, the current angle can be detected as the magnification at which the projection distortion is minimized. In addition, the appropriate projection magnification detection unit 251 considers erroneous detection due to an image processing error, data noise, or the like, when the evaluation value is equal to or less than a predetermined threshold for a predetermined number of times, When the amount of change changes from a decreasing trend that has continued for a predetermined number of times to an increasing trend that has continued for a predetermined number of times, it is determined that the predetermined condition is met. , Or a minimum value when the change amount of the evaluation value changes from a decreasing tendency that continues for a predetermined number of times to an increasing tendency that continues for a predetermined number of times can be detected as an evaluation value that minimizes the projection distortion. .

ステップS71において、投影歪みが最小となる倍率の候補の通知済みであると判断された場合、ステップS79において、歪み検出用カメラ撮像画像取得部181は、歪み検出用カメラ62により撮像された歪み検出用画像の撮像画像を取得し、適正投影倍率検出部251に供給する。   When it is determined in step S71 that the candidate for the magnification that minimizes the projection distortion has been notified, the distortion detection camera captured image acquisition unit 181 detects the distortion detected by the distortion detection camera 62 in step S79. A captured image of the work image is acquired and supplied to the appropriate projection magnification detection unit 251.

ステップS80において、適正投影倍率検出部251は、供給された投影画像の歪みの評価値を算出する。   In step S80, the appropriate projection magnification detection unit 251 calculates an evaluation value of distortion of the supplied projection image.

ステップS81において、適正投影倍率検出部251は、ステップS78の処理において検出された投影歪みが最小となる評価値の候補と、ステップS80の処理において得られた評価値を比較し、比較結果を検出結果出力制御部252に供給する。   In step S81, the appropriate projection magnification detection unit 251 compares the evaluation value candidate that minimizes the projection distortion detected in step S78 with the evaluation value obtained in step S80, and detects the comparison result. The result output control unit 252 is supplied.

ステップS82において、検出結果出力制御部252は、適正投影倍率検出部251から供給された投影歪みが最小となる評価値の候補と、ステップS80の処理において得られた評価値との比較結果を基に、ユーザへの通知の出力を制御し、処理は、図20のステップS52に戻り、ステップS53に進む。   In step S82, the detection result output control unit 252 is based on the comparison result between the evaluation value candidate with the minimum projection distortion supplied from the appropriate projection magnification detection unit 251 and the evaluation value obtained in the process of step S80. In addition, the output of the notification to the user is controlled, and the process returns to step S52 of FIG. 20 and proceeds to step S53.

具体的には、検出結果出力制御部252は、例えば、投影歪みが最小となる評価値の候補と、ステップS80の処理において得られた評価値との差分値を基に、図18を用いて説明したような、投影歪みが最小となる倍率から現在の倍率のずれ量を表示させるようにしても良い。また、検出結果の出力デバイスとして、赤、青、黄色の3色のLEDを用意しておき、ずれ量がほぼないときは緑のランプ、ずれ量が一定範囲以下であるときは黄色ランプ、ずれ量が所定の値よりも大きい場合は、赤のランプをそれぞれ点灯させるようにしても良い。   Specifically, the detection result output control unit 252 uses, for example, FIG. 18 based on the difference value between the evaluation value candidate that minimizes the projection distortion and the evaluation value obtained in the process of step S80. You may make it display the deviation | shift amount of the present magnification from the magnification which the projection distortion becomes the minimum as demonstrated. Also, red, blue, and yellow LEDs are prepared as output devices for detection results. When there is almost no deviation, a green lamp is used. When the deviation is less than a certain range, a yellow lamp is used. When the amount is larger than a predetermined value, each of the red lamps may be turned on.

また、それ以外にも、検出結果出力制御部252は、例えば、評価値が所定の閾値以下である状態が所定の回数以上連続した場合や、評価値の変化量が所定の回数連続した減少傾向から所定の回数連続した増加傾向に変化した場合に所定の条件に合致していると判断するようになされている場合、所定の閾値以下の評価値のうちの最小値、または、評価値の変化量が所定の回数連続した減少傾向から所定の回数連続した増加傾向に変化したときの極小値を、投影歪みが最小となる評価値としているので、投影歪みが最小となる倍率に対して現在の倍率は大きいのか小さいのかを検出し、図19を用いて説明したように、プロジェクタ222の倍率を適正倍率にあわせるために倍率をあげるべきか下げるべきかをユーザが認識することができるような表示画像データを生成するようにしても良い。   In addition, for example, the detection result output control unit 252 may decrease the evaluation value when the evaluation value is equal to or less than a predetermined threshold for a predetermined number of times or when the evaluation value change amount continues for a predetermined number of times. When it is determined that the predetermined condition is met when it changes to a continuous increasing trend from the predetermined number of times, the minimum value of the evaluation values below the predetermined threshold or the change of the evaluation value Since the minimum value when the amount changes from a decreasing trend that continues for a predetermined number of times to an increasing trend that continues for a predetermined number of times is the evaluation value that minimizes the projection distortion, Whether the magnification is large or small is detected, and the user can recognize whether the magnification should be increased or decreased in order to match the magnification of the projector 222 to the appropriate magnification as described with reference to FIG. Una display image data may be generated for.

このような処理により、投影歪みが発生しない適正な投影倍率となるようにユーザがプロジェクタをマニュアルで調節するための補助となる映像または音声などの出力を制御することができる。   By such processing, it is possible to control the output of video or audio that assists the user to manually adjust the projector so as to obtain an appropriate projection magnification that does not cause projection distortion.

以上説明したように、本発明を適用することにより、投影歪みが発生しない適正な投影倍率、すなわち、プロジェクタの投影に非線形の歪みがない投影倍率においてキーストン補正を行うことができるので、複雑なモデル化を行うことなく、精度の高い補正を行うことができる。   As described above, by applying the present invention, it is possible to perform keystone correction at an appropriate projection magnification at which projection distortion does not occur, that is, at a projection magnification without nonlinear distortion in the projection of the projector. It is possible to perform highly accurate correction without performing the conversion.

上述した一連の処理は、ソフトウェアにより実行することもできる。そのソフトウェアは、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、記録媒体からインストールされる。この場合、例えば、図11を用いて説明した補正処理装置63や図17を用いて説明した補正処理装置221のすべてまたは一部は、図22に示されるようなパーソナルコンピュータ301により構成される。   The series of processes described above can also be executed by software. The software is a computer in which the program constituting the software is incorporated in dedicated hardware, or various functions can be executed by installing various programs, for example, a general-purpose personal computer For example, it is installed from a recording medium. In this case, for example, all or part of the correction processing device 63 described with reference to FIG. 11 and the correction processing device 221 described with reference to FIG. 17 are configured by a personal computer 301 as shown in FIG.

図22において、CPU(Central Processing Unit)311は、ROM(Read Only Memory)312に記憶されているプログラム、または記憶部318からRAM(Random Access Memory)313にロードされたプログラムにしたがって、各種の処理を実行する。RAM313にはまた、CPU311が各種の処理を実行する上において必要なデータなども適宜記憶される。   In FIG. 22, a CPU (Central Processing Unit) 311 performs various processes according to a program stored in a ROM (Read Only Memory) 312 or a program loaded from a storage unit 318 to a RAM (Random Access Memory) 313. Execute. The RAM 313 also appropriately stores data necessary for the CPU 311 to execute various processes.

CPU311、ROM312、およびRAM313は、バス314を介して相互に接続されている。このバス314にはまた、入出力インタフェース315も接続されている。   The CPU 311, ROM 312, and RAM 313 are connected to each other via a bus 314. An input / output interface 315 is also connected to the bus 314.

入出力インタフェース315には、キーボード、マウスなどよりなる入力部316、ディスプレイやスピーカなどよりなる出力部317、ハードディスクなどより構成される記憶部318、モデム、ターミナルアダプタなどより構成される通信部319が接続されている。通信部319は、インターネットを含むネットワークを介しての通信処理を行う。   The input / output interface 315 includes an input unit 316 including a keyboard and a mouse, an output unit 317 including a display and a speaker, a storage unit 318 including a hard disk, and a communication unit 319 including a modem and a terminal adapter. It is connected. The communication unit 319 performs communication processing via a network including the Internet.

入出力インタフェース315にはまた、必要に応じてドライブ320が接続され、磁気ディスク331、光ディスク332、光磁気ディスク333、もしくは、半導体メモリ334などが適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部318にインストールされる。   A drive 320 is connected to the input / output interface 315 as necessary, and a magnetic disk 331, an optical disk 332, a magneto-optical disk 333, a semiconductor memory 334, or the like is appropriately mounted, and a computer program read from them is loaded. Installed in the storage unit 318 as necessary.

一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、ネットワークや記録媒体からインストールされる。   When a series of processing is executed by software, a program constituting the software may execute various functions by installing a computer incorporated in dedicated hardware or various programs. For example, it is installed from a network or a recording medium into a general-purpose personal computer or the like.

この記録媒体は、図22に示されるように、装置本体とは別に、ユーザにプログラムを供給するために配布される、プログラムが記憶されている磁気ディスク331(フロッピディスクを含む)、光ディスク332(CD-ROM(Compact Disk-Read Only Memory),DVD(Digital Versatile Disk)を含む)、光磁気ディスク333(MD(Mini-Disk)(商標)を含む)、もしくは半導体メモリ334などよりなるパッケージメディアにより構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに供給される、プログラムが記憶されているROM312や、記憶部318に含まれるハードディスクなどで構成される。   As shown in FIG. 22, this recording medium is distributed to supply a program to a user separately from the apparatus main body, and includes a magnetic disk 331 (including a floppy disk) on which a program is stored, an optical disk 332 ( Package media including CD-ROM (compact disk-read only memory), DVD (including digital versatile disk), magneto-optical disk 333 (including MD (mini-disk) (trademark)), or semiconductor memory 334 In addition to being configured, it is configured by a ROM 312 in which a program is stored and a hard disk included in the storage unit 318, which is supplied to the user in a state of being incorporated in the apparatus main body in advance.

また、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。   Further, in the present specification, the step of describing the program recorded on the recording medium is not limited to the processing performed in chronological order according to the described order, but may be performed in parallel or It also includes processes that are executed individually.

なお、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。   In the present specification, the term “system” represents the entire apparatus constituted by a plurality of apparatuses.

また、本明細書において、複数の装置により構成されるシステムの一部、または、全部が実行する処理が、それよりも少ない数の装置によって実現される場合であっても、または、本明細書において、1つの装置が実行する処理が、複数の装置によって実現される場合であっても、本発明は適用可能であることは言うまでもない。   Further, in this specification, even when a process executed by a part or all of a system constituted by a plurality of devices is realized by a smaller number of devices, or in this specification However, it goes without saying that the present invention is applicable even when processing executed by one device is realized by a plurality of devices.

プロジェクタを用いた映像表示システムについて説明するための図である。It is a figure for demonstrating the video display system using a projector. プロジェクタに入力された画像とカメラによって撮影された投影画像について説明するための図である。It is a figure for demonstrating the image input into the projector, and the projection image image | photographed with the camera. プロジェクタからの光線に対する角度πの平面xy、および、角度π´の平面uvの模式図である。It is a schematic diagram of a plane xy having an angle π and a plane uv having an angle π ′ with respect to light rays from the projector. 投影される画像の非線形の歪みについて説明するための図である。It is a figure for demonstrating the nonlinear distortion of the image projected. プロジェクタの投射レンズの光学中心と投影する像の中心との偏心について説明するための図である。It is a figure for demonstrating the eccentricity of the optical center of the projection lens of a projector, and the center of the image to project. 本発明の一実施の形態を示す画像表示システム(背面投影型)のシステム図である。1 is a system diagram of an image display system (a rear projection type) showing an embodiment of the present invention. 本発明の一実施の形態を示す画像表示システム(前面投影型)のシステム図である。It is a system diagram of an image display system (front projection type) showing an embodiment of the present invention. ズームと歪みの関係について説明するための図である。It is a figure for demonstrating the relationship between zoom and distortion. 歪み検出用画像ついて説明するための図である。It is a figure for demonstrating the image for distortion detection. ズームと、撮像される歪み検出用画像の関係について説明するための図である。It is a figure for demonstrating the relationship between zoom and the image for distortion detection imaged. 図6または図7の補正処理装置の構成を示すブロック図である。It is a block diagram which shows the structure of the correction processing apparatus of FIG. 6 or FIG. 抽出される画素ペアについて説明するための図である。It is a figure for demonstrating the pixel pair extracted. 補正処理1について説明するためのフローチャートである。6 is a flowchart for explaining correction processing 1; 適正投射倍率検出処理1について説明するためのフローチャートである。5 is a flowchart for explaining proper projection magnification detection processing 1; プロジェクタの投影倍率を直接制御することができない補正処理装置による画像表示システム(背面投影型)のシステム図である。It is a system diagram of an image display system (rear projection type) by a correction processing device that cannot directly control the projection magnification of a projector. プロジェクタの投影倍率を直接制御することができない補正処理装置による画像表示システム(前面投影型)のシステム図である。It is a system diagram of an image display system (front projection type) by a correction processing device that cannot directly control the projection magnification of a projector. 図15または図16の補正処理装置の構成を示すブロック図である。It is a block diagram which shows the structure of the correction processing apparatus of FIG. 15 or FIG. ユーザに対して提供される画像について説明するための図である。It is a figure for demonstrating the image provided with respect to a user. ユーザに対して提供される画像について説明するための図である。It is a figure for demonstrating the image provided with respect to a user. 補正処理2について説明するためのフローチャートである。10 is a flowchart for explaining correction processing 2; 適正投射倍率検出処理2について説明するためのフローチャートである。5 is a flowchart for explaining proper projection magnification detection processing 2; パーソナルコンピュータの構成を示すブロック図である。It is a block diagram which shows the structure of a personal computer.

符号の説明Explanation of symbols

51 スクリーン, 61 プロジェクタ, 62 歪み検出用カメラ, 63 補正処理装置, 64 補正用カメラ, 91 歪み検出用画像, 152 全体制御部, 153 プロジェクタ出力画像制御部, 154 投影歪み補正制御部, 155 キーストン補正処理部, 181 歪み検出用カメラ撮像画像取得部, 182 適正投影倍率検出部, 183 プロジェクタ投影倍率制御部, 221 補正処理装置, 222 プロジェクタ, 241 投影歪み補正補助制御部, 251 適正投影倍率検出部, 252 検出結果出力制御部   51 screen, 61 projector, 62 distortion detection camera, 63 correction processing device, 64 correction camera, 91 distortion detection image, 152 overall control unit, 153 projector output image control unit, 154 projection distortion correction control unit, 155 keystone correction Processing unit, 181 distortion detection camera captured image acquisition unit, 182 appropriate projection magnification detection unit, 183 projector projection magnification control unit, 221 correction processing device, 222 projector, 241 projection distortion correction auxiliary control unit, 251 appropriate projection magnification detection unit, 252 Detection result output control unit

Claims (11)

プロジェクタによる画像表示を補正する処理を実行する情報処理装置において、
前記プロジェクタへの、前記プロジェクタの投影歪みの検出に用いる第1の画像の供給を制御する第1の画像供給制御手段と、
前記第1の画像供給制御手段により前記プロジェクタへの供給が制御され、前記プロジェクタにより表示された前記第1の画像を撮像した第2の画像を取得する第2の画像取得手段と、
前記第2の画像取得手段により取得された前記第1の画像を撮像した前記第2の画像を基に、前記プロジェクタにおいて投影歪みが発生しない投影倍率を検出する適正投影倍率検出手段と
を備えることを特徴とする情報処理装置。
In an information processing apparatus that executes processing for correcting image display by a projector,
First image supply control means for controlling supply of a first image used for detection of projection distortion of the projector to the projector;
Supply to the projector is controlled by the first image supply control means, and second image acquisition means for acquiring a second image obtained by capturing the first image displayed by the projector;
Appropriate projection magnification detection means for detecting a projection magnification at which projection distortion does not occur in the projector based on the second image obtained by capturing the first image acquired by the second image acquisition means. An information processing apparatus characterized by the above.
前記プロジェクタの投影倍率を前記適正投影倍率検出手段により検出された前記適正投影倍率とした状態において、キーストン補正処理を実行するキーストン補正処理手段
を更に備えることを特徴とする請求項1に記載の情報処理装置。
2. The information according to claim 1, further comprising: a keystone correction processing unit configured to execute a keystone correction process in a state where the projection magnification of the projector is set to the appropriate projection magnification detected by the appropriate projection magnification detection unit. Processing equipment.
前記適正投影倍率検出手段は、前記第2の画像取得手段により取得された前記第2の画像に含まれる前記第1の画像における水平方向の直線に対応する部分が直線であるか、または、直線に近い状態である場合、前記プロジェクタの投影倍率は適正倍率であると判断する
ことを特徴とする請求項1に記載の情報処理装置。
The appropriate projection magnification detecting unit is configured such that a portion corresponding to a horizontal straight line in the first image included in the second image acquired by the second image acquiring unit is a straight line, or a straight line 2. The information processing apparatus according to claim 1, wherein when the projector is in a state close to, the projection magnification of the projector is determined to be an appropriate magnification.
前記第1の画像供給制御手段により前記プロジェクタへの供給が制御される前記第1の画像は、矩形の上辺が輝線となり、他の部分の輝度は低い値となっている画像である
ことを特徴とする請求項1に記載の情報処理装置。
The first image whose supply to the projector is controlled by the first image supply control means is an image in which the upper side of the rectangle is a bright line and the luminance of other portions is a low value. The information processing apparatus according to claim 1.
前記プロジェクタの投影倍率を制御する投影倍率制御手段を更に備え、
前記適正投影倍率検出手段は、前記投影倍率制御手段により最小倍率から最大倍率まで、所定の変化量で前記プロジェクタの投影倍率を変化させた場合に前記第2の画像取得手段により取得されるそれぞれの投影倍率における前記第1の画像を撮像した前記第2の画像を基に、前記適正投影倍率を検出する
ことを特徴とする請求項1に記載の情報処理装置。
A projection magnification control means for controlling the projection magnification of the projector;
The proper projection magnification detection means is acquired by the second image acquisition means when the projection magnification control means changes the projection magnification of the projector by a predetermined change amount from the minimum magnification to the maximum magnification. The information processing apparatus according to claim 1, wherein the appropriate projection magnification is detected based on the second image obtained by capturing the first image at a projection magnification.
前記プロジェクタの投影倍率を制御する投影倍率制御手段を更に備え、
前記キーストン補正手段は、前記投影倍率制御手段により前記プロジェクタの投影倍率が前記適正投影倍率に制御された状態においてキーストン補正処理を実行する
ことを特徴とする請求項2に記載の情報処理装置。
A projection magnification control means for controlling the projection magnification of the projector;
The information processing apparatus according to claim 2, wherein the keystone correction unit performs keystone correction processing in a state where the projection magnification control unit controls the projection magnification of the projector to the appropriate projection magnification.
前記プロジェクタを使用するユーザが、前記プロジェクタの倍率を前記適正投影倍率検出手段により検出された前記適正投影倍率に調整するための補助となる音声または画像の出力を制御する補助出力制御手段
を更に備えることを特徴とする請求項1に記載の情報処理装置。
Auxiliary output control means for controlling audio or image output to assist a user who uses the projector to adjust the magnification of the projector to the appropriate projection magnification detected by the appropriate projection magnification detection means The information processing apparatus according to claim 1.
プロジェクタによる画像表示を補正する処理を実行する情報処理装置の情報処理方法において、
前記プロジェクタへの、前記プロジェクタの投影歪みの検出に用いる第1の画像の供給を制御する第1の画像供給制御ステップと、
前記第1の画像供給制御ステップの処理により前記プロジェクタへの供給が制御され、前記プロジェクタにより表示された前記第1の画像を含むように撮像された第2の画像を取得する第2の画像取得ステップと、
前記第2の画像取得ステップの処理により取得された前記第1の画像を含む前記第2の画像を基に、前記プロジェクタにおいて投影歪みが発生しない投影倍率を検出する適正投影倍率検出ステップと
を含むことを特徴とする情報処理方法。
In an information processing method of an information processing apparatus that executes processing for correcting image display by a projector,
A first image supply control step for controlling supply of a first image used for detection of projection distortion of the projector to the projector;
Second image acquisition for acquiring a second image captured so as to include the first image displayed by the projector, the supply to the projector being controlled by the processing of the first image supply control step Steps,
An appropriate projection magnification detecting step for detecting a projection magnification at which no projection distortion occurs in the projector based on the second image including the first image acquired by the processing of the second image acquisition step. An information processing method characterized by the above.
プロジェクタによる画像表示を補正する処理をコンピュータに実行させるためのプログラムであって、
前記プロジェクタへの、前記プロジェクタの投影歪みの検出に用いる第1の画像の供給を制御する第1の画像供給制御ステップと、
前記第1の画像供給制御ステップの処理により前記プロジェクタへの供給が制御され、前記プロジェクタにより表示された前記第1の画像を含むように撮像された第2の画像を取得する第2の画像取得ステップと、
前記第2の画像取得ステップの処理により取得された前記第1の画像を含む前記第2の画像を基に、前記プロジェクタにおいて投影歪みが発生しない投影倍率を検出する適正投影倍率検出ステップと
を含むことを特徴とする処理をコンピュータに実行させるためのプログラム。
A program for causing a computer to execute processing for correcting image display by a projector,
A first image supply control step for controlling supply of a first image used for detection of projection distortion of the projector to the projector;
Second image acquisition for acquiring a second image captured so as to include the first image displayed by the projector, the supply to the projector being controlled by the processing of the first image supply control step Steps,
An appropriate projection magnification detecting step for detecting a projection magnification at which no projection distortion occurs in the projector based on the second image including the first image acquired by the processing of the second image acquisition step. A program for causing a computer to execute processing characterized by the above.
画像表示を実行するプロジェクタと、
前記プロジェクタによりスクリーンに投影される画像を投影歪みの検出のために撮像する撮像装置と、
前記プロジェクタによる画像表示を補正する処理を実行する情報処理装置と
により構成される画像表示システムにおいて、
前記情報処理装置は、
前記プロジェクタへの、前記プロジェクタの投影歪みの検出に用いる第1の画像の供給を制御する第1の画像供給制御手段と、
前記第1の画像供給制御手段により前記プロジェクタへの供給が制御され、前記プロジェクタにより前記スクリーンに表示された前記第1の画像を含む画像であって、前記撮像装置により撮像された画像である第2の画像を取得する第2の画像取得手段と、
前記第2の画像取得手段により取得された前記第1の画像を撮像した前記第2の画像を基に、前記プロジェクタにおいて投影歪みが発生しない投影倍率を検出する適正投影倍率検出手段と
を備えることを特徴とする画像表示システム。
A projector that performs image display;
An imaging device that captures an image projected on a screen by the projector for detection of projection distortion;
In an image display system configured by an information processing apparatus that executes processing for correcting image display by the projector,
The information processing apparatus includes:
First image supply control means for controlling supply of a first image used for detection of projection distortion of the projector to the projector;
Supply to the projector is controlled by the first image supply control means, and is an image including the first image displayed on the screen by the projector and is an image captured by the imaging device. Second image acquisition means for acquiring two images;
Appropriate projection magnification detection means for detecting a projection magnification at which projection distortion does not occur in the projector based on the second image obtained by capturing the first image acquired by the second image acquisition means. An image display system characterized by the above.
前記撮像装置は、前記スクリーンの表示面に対して、直角以外の角度から、前記前記プロジェクタにより前記スクリーンに表示された前記第1の画像を撮像し、
前記第2の画像取得手段は、前記撮像装置により、前記スクリーンの表示面に対して直角以外の角度から撮像された前記第2の画像を取得する
ことを特徴とする請求項10に記載の画像表示システム。
The imaging device captures the first image displayed on the screen by the projector from an angle other than a right angle with respect to the display surface of the screen,
11. The image according to claim 10, wherein the second image acquisition unit acquires the second image captured from an angle other than a right angle with respect to a display surface of the screen by the imaging device. Display system.
JP2005087736A 2005-03-25 2005-03-25 Information processing apparatus and information processing method, image display system, and program Expired - Fee Related JP4670424B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005087736A JP4670424B2 (en) 2005-03-25 2005-03-25 Information processing apparatus and information processing method, image display system, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005087736A JP4670424B2 (en) 2005-03-25 2005-03-25 Information processing apparatus and information processing method, image display system, and program

Publications (2)

Publication Number Publication Date
JP2006267777A true JP2006267777A (en) 2006-10-05
JP4670424B2 JP4670424B2 (en) 2011-04-13

Family

ID=37203805

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005087736A Expired - Fee Related JP4670424B2 (en) 2005-03-25 2005-03-25 Information processing apparatus and information processing method, image display system, and program

Country Status (1)

Country Link
JP (1) JP4670424B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006343526A (en) * 2005-06-09 2006-12-21 Nec Engineering Ltd Rear projection display apparatus
JP2010257408A (en) * 2009-04-28 2010-11-11 Canon Inc Apparatus and method for controlling display, program, and recording medium
WO2018142743A1 (en) * 2017-02-01 2018-08-09 シャープ株式会社 Projection suitability detection system, projection suitability detection method and projection suitability detection program

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102527214B1 (en) 2016-05-04 2023-04-28 삼성디스플레이 주식회사 Rollable display device

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11275444A (en) * 1998-03-22 1999-10-08 Ricoh Co Ltd Electronic camera
JP2000241874A (en) * 1999-02-19 2000-09-08 Nec Corp Method and device for automatically adjusting screen position for projector
JP2001211461A (en) * 1999-12-18 2001-08-03 Lg Electronics Inc Image distortion correcting device and method, and image display device using the same
JP2002051279A (en) * 2000-08-01 2002-02-15 Canon Inc Projection type display device, liquid crystal projector, and image processing system
JP2002122782A (en) * 2000-10-16 2002-04-26 Kyocera Corp Variable focal finite zoom lens
JP2002189442A (en) * 2000-12-20 2002-07-05 Matsushita Electric Ind Co Ltd Trapezoidal distortion and aspect ratio correction apparatus
JP2004350154A (en) * 2003-05-23 2004-12-09 Sony Corp Image projector, image processing apparatus and method thereof
JP2005045514A (en) * 2003-07-28 2005-02-17 Olympus Corp Image processor and image processing method

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11275444A (en) * 1998-03-22 1999-10-08 Ricoh Co Ltd Electronic camera
JP2000241874A (en) * 1999-02-19 2000-09-08 Nec Corp Method and device for automatically adjusting screen position for projector
JP2001211461A (en) * 1999-12-18 2001-08-03 Lg Electronics Inc Image distortion correcting device and method, and image display device using the same
JP2002051279A (en) * 2000-08-01 2002-02-15 Canon Inc Projection type display device, liquid crystal projector, and image processing system
JP2002122782A (en) * 2000-10-16 2002-04-26 Kyocera Corp Variable focal finite zoom lens
JP2002189442A (en) * 2000-12-20 2002-07-05 Matsushita Electric Ind Co Ltd Trapezoidal distortion and aspect ratio correction apparatus
JP2004350154A (en) * 2003-05-23 2004-12-09 Sony Corp Image projector, image processing apparatus and method thereof
JP2005045514A (en) * 2003-07-28 2005-02-17 Olympus Corp Image processor and image processing method

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006343526A (en) * 2005-06-09 2006-12-21 Nec Engineering Ltd Rear projection display apparatus
JP2010257408A (en) * 2009-04-28 2010-11-11 Canon Inc Apparatus and method for controlling display, program, and recording medium
WO2018142743A1 (en) * 2017-02-01 2018-08-09 シャープ株式会社 Projection suitability detection system, projection suitability detection method and projection suitability detection program
JPWO2018142743A1 (en) * 2017-02-01 2019-12-19 シャープ株式会社 Projection suitability detection system, projection suitability detection method and projection suitability detection program

Also Published As

Publication number Publication date
JP4670424B2 (en) 2011-04-13

Similar Documents

Publication Publication Date Title
WO2022179108A1 (en) Projection correction method and apparatus, storage medium, and electronic device
US10958883B2 (en) Projection control apparatus, projection apparatus, projection control method, and storage medium storing program
US8491128B2 (en) System and method for projection correction by capturing projection image
TWI539820B (en) Projection system and brightness adjusting method thereof
JP2005269528A (en) Image correction method for multi-projection system
TW200425736A (en) Image processing system, projector and image processing method
JP2004109246A (en) Projection system
US8434879B2 (en) Control device and projection-type video-image display device
CN106713740B (en) Positioning tracking camera shooting method and system
JP4670424B2 (en) Information processing apparatus and information processing method, image display system, and program
JP2014027457A (en) Image display apparatus, image display method, and image display program
JP2008067080A (en) Portable imaging display device
US9100579B2 (en) Modification of a video signal of an object exposed to ambient light and light emitted from a display screen
JP2004228824A (en) Stack projection device and its adjusting method
US20110279738A1 (en) Control device and projection video display device
JP2008187362A (en) Projector and projected image adjustment method
WO2021136035A1 (en) Photographing method and apparatus, storage medium, and electronic device
EP3884461B1 (en) Selective distortion or deformation correction in images from a camera with a wide angle lens
WO2018099128A1 (en) Method and device used in projection apparatus
JP2010278624A (en) Photographing device, photographing method, and program
WO2019244667A1 (en) Information processing device, information processing method, and program
TW201820856A (en) Inspection system for inspecting projected image definition of projector and inspection method thereof enabling user to learn about definition level of projected image for adjusting focal length of projector in real time
TWI344596B (en) Image projection method, projector, and recording media
JP2005252676A (en) Image correction method for multiprojection system
TWI516120B (en) Method for generating panoramic image and image capturing device thereof

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070914

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101221

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110103

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140128

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees