JP2009187002A - Projector - Google Patents

Projector Download PDF

Info

Publication number
JP2009187002A
JP2009187002A JP2009004735A JP2009004735A JP2009187002A JP 2009187002 A JP2009187002 A JP 2009187002A JP 2009004735 A JP2009004735 A JP 2009004735A JP 2009004735 A JP2009004735 A JP 2009004735A JP 2009187002 A JP2009187002 A JP 2009187002A
Authority
JP
Japan
Prior art keywords
projection
image
pixels
pixel
ratio
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009004735A
Other languages
Japanese (ja)
Other versions
JP5444720B2 (en
Inventor
Takayuki Uchiyama
貴之 内山
Nobuhiro Fujinawa
展宏 藤縄
Erika Koishi
えりか 小石
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2009004735A priority Critical patent/JP5444720B2/en
Publication of JP2009187002A publication Critical patent/JP2009187002A/en
Application granted granted Critical
Publication of JP5444720B2 publication Critical patent/JP5444720B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Projection Apparatus (AREA)
  • Liquid Crystal Display Device Control (AREA)
  • Transforming Electric Information Into Light Information (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a projector capable of preventing projection from being performed on a projection surface which is not suitable for projection. <P>SOLUTION: The projector includes: a projection unit 110 which projects a projection image; a control circuit 101 which determines whether or not the projection surface is suitable for projection on the basis of a photographed image obtained by photographing the projection surface on which a prescribed projection image is projected by the projection unit; a determination notification part for notifying a result determined by the control circuit. <P>COPYRIGHT: (C)2009,JPO&INPIT

Description

本発明は、プロジェクタに関する。   The present invention relates to a projector.

プロジェクタで画像を投影するとき、投影面に模様や反射率のムラがある場合、プロジェクタに照明ムラがある場合、または投影画像に対して周囲の照明環境の影響が無視できない場合がある。このような場合、投影面の模様やムラなどが投影画像に重なるため、投影画像は正確に表示されない。このような模様の影響などを相殺して投影画像を正確に表示するために、所定の投影画像を投影した投影面を撮影し、撮影画像の投影面内における各画素の最小輝度の中の最大値と、各画素の最大輝度の中の最小値との間に投影画像のダイナミックレンジが収まるように投影画像を補正する技術が特許文献1に開示されている。   When projecting an image with a projector, there may be a case where there is a pattern or reflectance unevenness on the projection surface, a lighting unevenness on the projector, or an influence of the surrounding illumination environment on the projected image. In such a case, the projection image is not accurately displayed because the pattern or unevenness of the projection surface overlaps the projection image. In order to offset the influence of the pattern and display the projection image accurately, the projection plane on which the predetermined projection image is projected is photographed, and the maximum of the minimum luminance of each pixel in the projection plane of the photographed image is taken. Japanese Patent Application Laid-Open No. 2004-151820 discloses a technique for correcting a projected image so that the dynamic range of the projected image falls between the value and the minimum value of the maximum luminance of each pixel.

特開2004−158941号公報JP 2004-158941 A

しかしながら、投影面の投影画像を見てユーザが視認性を判断することになるので、事前に投影面が画像の投影に適しているか否かを評価できない。   However, since the user determines the visibility by looking at the projection image of the projection plane, it cannot be evaluated in advance whether the projection plane is suitable for image projection.

(1)請求項1の発明のプロジェクタは、投影画像を投影する投影手段と、投影手段により所定の投影画像が投影された投影面を撮影して得られる撮影画像に基づいて、投影面が投影に適しているか否かを判定する判定手段と、判定手段で判定した結果をユーザに通知する判定通知手段とを備えることを特徴とする。
(2)請求項2の発明は、請求項1に記載のプロジェクタにおいて、判定手段は、撮影画像の画素の中から、撮影画像の中の最大輝度値と所定の最低反射率とを乗算した値より小さい輝度を有する画素を抽出し、撮影画像の画素に対する抽出された画素の割合が所定割合未満である場合、投影面が投影に適していると判定することを特徴とする。
(3)請求項3の発明は、請求項1に記載のプロジェクタにおいて、判定手段は、複数の予め定めた反射率閾値R(i=1,2,・・・,N)と画素割合閾値C(i=1,2,・・・,N)とを用いて、撮影画像の画素の中から、撮影画像の中の最大輝度値と反射率閾値Rとを乗算した値より小さい輝度を有する画素を抽出し、撮影画像の画素に対する抽出された画素の割合が画素割合閾値C未満である条件を、i=1,2,・・・、Nについて全て満たす場合、投影面が投影に適していると判定し、i=jのときの反射率閾値Rは、i=j+1のときの反射率閾値Rj+1より小さく(j=1,2,・・・,N−1)、i=jのときの画素割合閾値Cは、i=j+1のときの画素割合閾値Cj+1より小さい(j=1,2,・・・,N−1)ことを特徴とする。
(4)請求項4の発明は、請求項1に記載のプロジェクタにおいて、判定手段は、撮影画像の画素の中から、撮影画像の中の最大輝度値と、所定の最低反射率とを乗算した値より小さい輝度を有する連続した複数の画素を抽出し、撮影画像の画素に対する抽出した画素の割合が所定割合未満である場合、投影面が投影に適していると判定することを特徴とする。
(5)請求項5の発明は、請求項1に記載のプロジェクタにおいて、判定手段は、プロジェクタの画素原色画像を単色毎に投影された投影面を撮影して得られる各撮影画像の画素の中から、各撮影画像の全画素の中の最大輝度値と、所定の最低反射率とを乗算した値より小さい輝度を有する画素を抽出し、全ての画素原色画像について、撮影画像の画素に対する抽出した画素の割合が所定割合未満である場合、投影面が投影に適していると判定することを特徴とする。
(1) In the projector according to the first aspect of the invention, the projection surface projects based on a projection unit that projects a projection image and a captured image obtained by photographing a projection surface on which the predetermined projection image is projected by the projection unit. It is characterized by comprising determination means for determining whether or not it is suitable, and determination notification means for notifying the user of the result determined by the determination means.
(2) According to the invention of claim 2, in the projector according to claim 1, the determination means is a value obtained by multiplying the maximum luminance value in the captured image by a predetermined minimum reflectance from the pixels of the captured image. A pixel having a smaller luminance is extracted, and when the ratio of the extracted pixel to the pixel of the captured image is less than a predetermined ratio, it is determined that the projection surface is suitable for projection.
(3) According to a third aspect of the present invention, in the projector according to the first aspect, the determining means includes a plurality of predetermined reflectance threshold values R i (i = 1, 2,..., N) and a pixel ratio threshold value. C i (i = 1,2, ··· , N) and using, from among the pixels of the captured image, smaller luminance than the value obtained by multiplying the maximum luminance value and a reflectance threshold R i in the captured image , And when the ratio of the extracted pixel to the pixel of the captured image is less than the pixel ratio threshold C i for all of i = 1, 2,..., N, the projection plane projects The reflectance threshold value R j when i = j is smaller than the reflectance threshold value R j + 1 when i = j + 1 (j = 1, 2,..., N−1), The pixel ratio threshold C j when i = j is smaller than the pixel ratio threshold C j + 1 when i = j + 1 (j = 1, 2,..., N-1).
(4) According to a fourth aspect of the present invention, in the projector according to the first aspect, the determining means multiplies the maximum luminance value in the captured image by a predetermined minimum reflectance from the pixels of the captured image. A plurality of continuous pixels having a luminance smaller than the value is extracted, and when the ratio of the extracted pixels to the pixels of the captured image is less than a predetermined ratio, it is determined that the projection plane is suitable for projection.
(5) According to a fifth aspect of the present invention, in the projector according to the first aspect, the determination means includes a pixel of each captured image obtained by photographing a projection surface obtained by projecting the pixel primary color image of the projector for each single color. From this, pixels having a luminance smaller than a value obtained by multiplying the maximum luminance value of all the pixels of each photographed image by a predetermined minimum reflectance are extracted, and all pixel primary color images are extracted with respect to the pixels of the photographed image. When the ratio of pixels is less than a predetermined ratio, it is determined that the projection plane is suitable for projection.

本発明によれば、投影面が投影に適しているか否かを判定し、その判定結果をユーザに通知することができる。   According to the present invention, it is possible to determine whether or not the projection surface is suitable for projection, and notify the user of the determination result.

本発明の一実施の形態によるプロジェクタの外観図である。1 is an external view of a projector according to an embodiment of the present invention. 本発明の実施形態におけるプロジェクタの構成を説明するブロック図である。It is a block diagram explaining the structure of the projector in embodiment of this invention. 画像処理部で行う画像処理を説明するためのフローチャートである。It is a flowchart for demonstrating the image process performed by an image process part. 本発明の実施形態における投影面判断処理を説明するための図である。It is a figure for demonstrating the projection surface judgment process in embodiment of this invention. 本発明の第1の実施形態における投影面判断処理を説明するためのフローチャートである。It is a flowchart for demonstrating the projection plane determination process in the 1st Embodiment of this invention. 投影画像を補正する補正量を緩和するとき第2の実施形態の投影面判断処理を説明するためのフローチャートである。It is a flowchart for demonstrating the projection plane determination process of 2nd Embodiment, when the correction amount which correct | amends a projection image is eased. 複数のR*_min_thおよびC_thの組み合わせに基づく第3の実施形態の投影面判断処理を説明するためのフローチャートである。It is a flowchart for demonstrating the projection plane determination process of 3rd Embodiment based on the combination of several R * _min_th and C_th. 連続した画素に基づく第4の実施形態の投影面判断処理を説明するためのフローチャートである。It is a flowchart for demonstrating the projection surface judgment process of 4th Embodiment based on a continuous pixel. 投影面の彩度に基づく第5の実施形態の投影面判断処理を説明するためのフローチャートである。It is a flowchart for demonstrating the projection surface judgment process of 5th Embodiment based on the saturation of a projection surface. 図9の処理に続くフローチャートである。10 is a flowchart following the process of FIG. 9. 図10の処理に続くフローチャートである。It is a flowchart following the process of FIG. 本発明の第6の実施の形態における画像処理を説明するためのフローチャートである。It is a flowchart for demonstrating the image processing in the 6th Embodiment of this invention.

以下、図面を参照して本発明を実施するための一実施形態について説明する。本発明によるプロジェクタは、投影面の状態に応じて投影画像の見栄えや視認性を向上させるため、投影面に投影するために使用する入力画像を補正するものである。そして、投影に先だって、投影面上に投影された画像を撮影し、その撮影画像に基づいて、投影面が投影に適切か否かを判定し、ユーザに報知するようにしたものである。   Hereinafter, an embodiment for carrying out the present invention will be described with reference to the drawings. The projector according to the present invention corrects an input image used for projecting onto a projection surface in order to improve the appearance and visibility of the projection image according to the state of the projection surface. Prior to the projection, an image projected on the projection plane is captured, and based on the captured image, it is determined whether the projection plane is appropriate for projection, and the user is notified.

−第1の実施の形態−
図1は、本発明の実施形態によるプロジェクタ1を前方から見た図である。図1に示すように、プロジェクタ1の正面には、投影光学系111(図2参照)を構成する投影レンズ111Aと、撮像光学系121(図2参照)を構成する撮影レンズ121Aが設けられている。プロジェクタ1は、机上などに載置された状態で前方のスクリーンなどに向けて、内蔵する投射ユニット110(図2参照)によって画像などの投影情報を投影する。
-First embodiment-
FIG. 1 is a front view of a projector 1 according to an embodiment of the present invention. As shown in FIG. 1, a projection lens 111A constituting the projection optical system 111 (see FIG. 2) and a photographing lens 121A constituting the imaging optical system 121 (see FIG. 2) are provided on the front of the projector 1. Yes. The projector 1 projects projection information such as an image by a built-in projection unit 110 (see FIG. 2) toward a front screen or the like while being placed on a desk or the like.

図2は、プロジェクタ1の構成を説明するブロック図である。図2においてプロジェクタ1は、投射ユニット110と、撮像ユニット120と、制御回路101と、メモリ102と、操作部103と、外部インターフェイス(I/F)回路104と、メモリカードインターフェイス(I/F)105とを備え、メモリカードインターフェイス105にはメモリカード150が接続される。   FIG. 2 is a block diagram illustrating the configuration of the projector 1. In FIG. 2, the projector 1 includes a projection unit 110, an imaging unit 120, a control circuit 101, a memory 102, an operation unit 103, an external interface (I / F) circuit 104, and a memory card interface (I / F). 105, and a memory card 150 is connected to the memory card interface 105.

制御回路101は、マイクロプロセッサ及びその周辺回路からなる。制御回路101は、制御プログラムに基づいて、プロジェクタ内各部から入力される信号を用いて所定の演算を行う。そして、制御回路101は、演算結果を制御信号としてプロジェクタ内各部に送出し、プロジェクタ1の投影動作および撮影動作を制御する。なお、制御プログラムは制御回路101内の不図示のROMに格納される。   The control circuit 101 includes a microprocessor and its peripheral circuits. Based on the control program, the control circuit 101 performs a predetermined calculation using signals input from each part in the projector. Then, the control circuit 101 sends the calculation result to each part in the projector as a control signal, and controls the projection operation and the photographing operation of the projector 1. The control program is stored in a ROM (not shown) in the control circuit 101.

制御回路101は画像処理部101Aを有する。画像処理部101Aでは、外部インターフェイス104を介して取得した画像データまたはメモリカード150より取得した画像データに対して画像処理を行う。画像処理部101Aで行う画像処理の詳細については後述する。   The control circuit 101 includes an image processing unit 101A. The image processing unit 101A performs image processing on image data acquired via the external interface 104 or image data acquired from the memory card 150. Details of the image processing performed by the image processing unit 101A will be described later.

メモリ102は制御回路101の作業用メモリとして使用される。操作部103はボタンやスイッチなどで構成され、操作されたボタンやスイッチに対応する操作信号を制御回路101へ送出する。メモリカード150は、制御回路101の指示によりデータの書き込み、保存および読み出しが可能である。   The memory 102 is used as a working memory for the control circuit 101. The operation unit 103 includes buttons and switches, and sends operation signals corresponding to the operated buttons and switches to the control circuit 101. The memory card 150 can write, store, and read data according to instructions from the control circuit 101.

投射ユニット110は、投影光学系111、液晶パネル112、LED光源113、および投射制御回路114を含む。LED光源113は、供給電流に応じた明るさで液晶パネル112を照明する。液晶パネル112は、投射制御回路114からの駆動信号に応じて光像を生成する。投影光学系111は、液晶パネル112から射出される光像を投射する。投射制御回路114は、制御回路101からの指示により、LED光源113および液晶パネル112へ制御信号を送出する。   The projection unit 110 includes a projection optical system 111, a liquid crystal panel 112, an LED light source 113, and a projection control circuit 114. The LED light source 113 illuminates the liquid crystal panel 112 with brightness according to the supply current. The liquid crystal panel 112 generates a light image according to the drive signal from the projection control circuit 114. The projection optical system 111 projects a light image emitted from the liquid crystal panel 112. The projection control circuit 114 sends a control signal to the LED light source 113 and the liquid crystal panel 112 according to an instruction from the control circuit 101.

投射ユニット110は、メモリカード150内に保存されている画像データの他、外部インターフェイス回路104を介して外部機器から供給される画像データによる画像を投影可能に構成され、制御回路101から指示された画像を投影する。メモリカード150内に保存されている画像データの画像、または、外部インターフェイス回路104を介して外部機器から供給される画像データの画像を、以下、投影原画像と呼ぶ。   The projection unit 110 is configured to be able to project an image based on image data supplied from an external device via the external interface circuit 104 in addition to the image data stored in the memory card 150, and is instructed by the control circuit 101. Project an image. The image data image stored in the memory card 150 or the image data image supplied from the external device via the external interface circuit 104 is hereinafter referred to as a projection original image.

撮像ユニット120は撮像光学系121、撮像素子122および撮像制御回路123を有し、制御回路101からの指示に応じて投影面の撮像を行う。撮像光学系121は、撮像素子122の撮像面上に被写体像を結像させる。撮像素子122としては、CCDやCMOS撮像素子などが用いられる。撮像制御回路123は、制御回路101からの指示により撮像素子122を駆動制御するとともに、撮像素子122から出力される画像信号に対して所定の信号処理を行う。   The imaging unit 120 includes an imaging optical system 121, an imaging element 122, and an imaging control circuit 123, and takes an image of the projection plane in response to an instruction from the control circuit 101. The imaging optical system 121 forms a subject image on the imaging surface of the imaging element 122. As the image sensor 122, a CCD, a CMOS image sensor, or the like is used. The imaging control circuit 123 drives and controls the imaging element 122 according to an instruction from the control circuit 101 and performs predetermined signal processing on the image signal output from the imaging element 122.

制御回路101の画像処理部101Aで行われる画像処理を説明する。本発明の実施形態の画像処理では、投影原画像を投影面に投射したときに投影面の模様や汚れが目立たなくなるように、撮像ユニット120により撮影した投影面の画像に基づいて、投影原画像の色補正を行う。また、画像処理部101Aは、投射光学系111の光軸と撮像光学系121の光軸とが一致していないことによる投影画像の歪や、投影光学系111の光軸が投影面に対して垂直でないことに起因する投影画像のあおりや歪に対する補正も行うことができる。本発明の実施形態の画像処理は、上述の色補正に特徴を有するので、色補正について主に説明する。   Image processing performed by the image processing unit 101A of the control circuit 101 will be described. In the image processing according to the embodiment of the present invention, the projection original image is based on the image of the projection plane photographed by the imaging unit 120 so that the pattern and dirt on the projection plane become inconspicuous when the projection original image is projected onto the projection plane. Perform color correction. Further, the image processing unit 101 </ b> A is configured such that the distortion of the projection image due to the optical axis of the projection optical system 111 and the optical axis of the imaging optical system 121 not matching or the optical axis of the projection optical system 111 with respect to the projection surface. It is also possible to correct the tilt and distortion of the projected image due to non-verticality. Since the image processing according to the embodiment of the present invention is characterized by the above-described color correction, the color correction will be mainly described.

図3のフローチャートを参照して、画像処理部101Aで行う画像処理について説明する。図3の処理は、プロジェクタ1が、投影を開始するための処理を開始するとスタートするプログラムにより画像処理部101Aにおいて実行される。   The image processing performed by the image processing unit 101A will be described with reference to the flowchart of FIG. The processing in FIG. 3 is executed in the image processing unit 101A by a program that starts when the projector 1 starts processing for starting projection.

ステップS1では、投影原画像の幾何補正を行うための幾何補正係数を算出する。幾何補正とは、投射ユニット110の光学系光軸と、撮像ユニット120の光学系光軸とが一致していないことによる投影画像の歪や、投射ユニット110の光学系光軸が投射面に対して垂直でないことに起因する投影画像のあおり、歪などを解消するための補正である。幾何補正係数の算出方法は従来技術であるので、説明を省略する。   In step S1, a geometric correction coefficient for performing geometric correction of the projection original image is calculated. Geometric correction refers to distortion of a projected image caused by the optical system optical axis of the projection unit 110 and the optical system optical axis of the imaging unit 120 not matching, or the optical system optical axis of the projection unit 110 with respect to the projection surface. This is a correction for eliminating tilt, distortion, etc. of the projected image due to non-verticality. Since the calculation method of the geometric correction coefficient is a conventional technique, the description thereof is omitted.

ここで、制御回路101の画像処理部101Aは、投影原画像の画像数がプロジェクタ1の解像度に一致するように補間処理を行う。さらに、画像処理部101Aは、撮像ユニット120により撮影された画像を、プロジェクタ1の解像度と一致するように補間処理を行う。この補間処理を行った撮影画像を使用して上述の補間処理を行った投影原画像を以下のように補正し、補正した画像を投影するものとする。投影画像の画素と撮影画像の画素との間の対応関係を明確にし、処理速度を速くするためである。   Here, the image processing unit 101 </ b> A of the control circuit 101 performs an interpolation process so that the number of projected original images matches the resolution of the projector 1. Furthermore, the image processing unit 101A performs an interpolation process on the image captured by the imaging unit 120 so as to match the resolution of the projector 1. It is assumed that the projection original image subjected to the above-described interpolation processing is corrected as follows using the captured image subjected to this interpolation processing, and the corrected image is projected. This is to clarify the correspondence between the pixels of the projected image and the pixels of the captured image and increase the processing speed.

ステップS2では、投射ユニット110の投影特性の算出を行う。投影特性とは、入力画像の画素値(R,G,B)と、投影面で再現される投影画像の測色値(X,Y,Z)との間の関係を示す特性である。換言すると、投影特性とは、投影面に投影されるべき投影原画像と、この投影原画像が投影された投影面を撮影した撮影画像との関係を表す特性である。測色値は、投射ユニット110の照明ムラ、投影面の色や模様、周囲照明による投影面の明るさに影響を受ける。そこで、投射ユニット110から、既知の画素値(R,G,B)で表される所定の投影画像(後述するように、黒画像、R画像、G画像、B画像)をそれぞれ投影して投影面上の投影画像を撮影ユニット120で撮影し、撮影した画像から測色値(X,Y,Z)を検出して投影特性を算出する。そして、投影特性に基づいて決定する補正係数により入力画像を補正して投影することにより、投射ユニット110の照明ムラ、投影面の色や模様、周囲照明による投影面の明るさに依存することなく、入力画像の見た目が近くなるより表現された投影画像を鑑賞することができる。投影特性の具体的な処理については後述する。   In step S2, the projection characteristics of the projection unit 110 are calculated. The projection characteristics are characteristics indicating the relationship between the pixel values (R, G, B) of the input image and the colorimetric values (X, Y, Z) of the projection image reproduced on the projection plane. In other words, the projection characteristic is a characteristic representing a relationship between a projection original image to be projected on the projection plane and a captured image obtained by photographing the projection plane on which the projection original image is projected. The colorimetric value is affected by illumination unevenness of the projection unit 110, the color and pattern of the projection surface, and the brightness of the projection surface by ambient illumination. Therefore, the projection unit 110 projects and projects a predetermined projection image (a black image, an R image, a G image, and a B image as described later) represented by known pixel values (R, G, B). The projected image on the surface is photographed by the photographing unit 120, and the colorimetric values (X, Y, Z) are detected from the photographed image to calculate the projection characteristics. Then, by correcting and projecting the input image with a correction coefficient determined based on the projection characteristics, the projection unit 110 does not depend on uneven illumination, the color or pattern of the projection surface, and the brightness of the projection surface due to ambient illumination. It is possible to appreciate the projected image that is more expressed than the appearance of the input image. Specific processing of the projection characteristics will be described later.

ステップS3は、投影画像の補正係数を決定する。すなわち、ステップS2で得られた投影特性を用いて、投影面の状態や周囲照明環境等に影響されることなく投影画像が入力画像(投影原画像)を再現するように、入力画像に施す補正係数を決定する。投射ユニット110から投影された前述の既知の画素値の所定の投影画像を撮影ユニット120で撮影し、撮影した画像を解析して投影画像の補正係数を決定する。この補正係数が投影原画像の補正量となる。この処理の詳細についても後述する。   Step S3 determines a correction coefficient for the projection image. In other words, using the projection characteristics obtained in step S2, correction to be performed on the input image so that the projection image reproduces the input image (projected original image) without being affected by the state of the projection surface or the ambient illumination environment. Determine the coefficient. A predetermined projection image of the aforementioned known pixel value projected from the projection unit 110 is captured by the imaging unit 120, and the captured image is analyzed to determine a correction coefficient of the projection image. This correction coefficient becomes the correction amount of the projection original image. Details of this processing will also be described later.

ステップS4は、投影面が投影に適切であるか否かの投影面判断を行う。この処理の詳細についても後述する。   In step S4, a projection plane determination is made as to whether or not the projection plane is appropriate for projection. Details of this processing will also be described later.

ステップS5では、投影原画像の画像データを、外部インターフェイス回路104を介して、またはメモリカード150より読み込み、メモリ102に記憶する。ステップS6では、ステップS3で決定した補正係数で、ステップS5で読み込んだ投影原画像データを補正する。ステップS7では、ステップS6で補正した投影原画像データをアナログ変換し、投影画像を投影する。   In step S <b> 5, image data of the projection original image is read from the external interface circuit 104 or from the memory card 150 and stored in the memory 102. In step S6, the projection original image data read in step S5 is corrected with the correction coefficient determined in step S3. In step S7, the projection original image data corrected in step S6 is converted to analog, and a projection image is projected.

ステップS8では、次に投影する投影原画像データがあるか否かを判定する。次に投影する投影原画像データがある場合はステップS8が肯定判定され、ステップS5に戻る。次に投影する投影原画像データがない場合はステップS8が否定判定され、処理を終了する。   In step S8, it is determined whether there is projection original image data to be projected next. If there is projection original image data to be projected next, step S8 is affirmed and the process returns to step S5. If there is no projection original image data to be projected next, a negative determination is made in step S8, and the process ends.

次に、ステップS2、S3、S4,S6について、さらに詳細に説明する。   Next, steps S2, S3, S4, and S6 will be described in more detail.

−投影特性の算出−
ステップS2で行う投影特性の算出について説明する。
i番目の画素値が(R,G,B)で与えられる入力画像データにより投影画像を生成して投射ユニット110で投影したとき、i番目の画素値に対応する投影面の測色値(X,Y,Z)は以下の(1)式で表される。

Figure 2009187002
ただし、
Figure 2009187002
-Calculation of projection characteristics-
The calculation of the projection characteristics performed in step S2 will be described.
When a projection image is generated from the input image data whose i-th pixel value is given by (R, G, B) i and projected by the projection unit 110, the colorimetric values (i.e., colorimetric values of the projection plane corresponding to the i-th pixel value) X, Y, Z) i is expressed by the following equation (1).
Figure 2009187002
However,
Figure 2009187002

ここで、γは投射ユニット110の階調特性を表す。Mpiは、投射ユニット110の画素値(Rγ,Gγ,Bγから投射ユニット110の照明の測色値へ変換する色変換マトリックスを表す。(Xkp,Ykp,Zkpは、投射ユニット110で黒画像を投影した時の周囲照明も含めた投影面の照明条件を表す。R*は、投影面の反射率特性を表す。 Here, γ represents the gradation characteristic of the projection unit 110. M pi represents a color conversion matrix for converting the pixel values (R γ , G γ , B γ ) i of the projection unit 110 into the colorimetric values of the illumination of the projection unit 110. (X kp , Y kp , Z kp ) i represents the illumination condition of the projection plane including ambient illumination when a black image is projected by the projection unit 110. R * i represents the reflectance characteristic of the projection surface.

なお、添字iは次の意味を有している。この実施の形態のプロジェクタでは、白画像や黒画像など既知の画像を投射して投影面を撮像し、その撮像画像に基づいて、投影面の模様などによる反射率のムラだけではなく、投射ユニット110の照明ムラ、周囲照明や黒点の面内ムラも合わせて補正する。したがって、投影面の各画素領域に異なる投影特性を表現するため、添え字iを使用する。   The subscript i has the following meaning. In the projector according to this embodiment, the projection surface is imaged by projecting a known image such as a white image or a black image, and based on the captured image, not only the unevenness of the reflectance due to the pattern of the projection surface, but also the projection unit 110 illumination unevenness, ambient illumination and in-plane unevenness of black spots are also corrected. Therefore, the subscript i is used to express different projection characteristics for each pixel area on the projection plane.

(1)式において、(X,Y,Z)は、黒画像((R,G,B)=(0,0,0))を投影した時の投影面撮影画像に基づいて決定する。なお、投影面上の投影画像の測色値は、撮影画像の画素値から予め決まった色変換処理を用いることで算出できる。すなわち、撮影画像のプロファイルがsRGBであれば、画素値に対して通常のsRGB変換処理を適用して(X,Y,Zを決定することができる。 In the equation (1), (X k , Y k , Z k ) is based on a projection plane photographed image when a black image ((R, G, B) i = (0, 0, 0) i ) is projected. To decide. Note that the colorimetric value of the projected image on the projection plane can be calculated by using a color conversion process determined in advance from the pixel value of the captured image. That is, if the profile of the captured image is sRGB, (X k , Y k , Z k ) i can be determined by applying normal sRGB conversion processing to the pixel values.

同様に、R画像((R,G,B)=(255,0,0))、G画像((R,G,B)=(0,255,0))、およびB画像((R,G,B)=(0,0,255))をそれぞれ投影した投影面を撮影した各撮影画像から、色変換マトリックスMの3×3のマトリックス係数を決定する。具体的には、R画像、G画像およびB画像をそれぞれ投影した投影面の撮像画像(以下、投影面撮影画像と呼ぶ)の測色値をそれぞれ、(X,Y,Z)、(X,Y,Z)および(X,Y,Z)とすると、色変換マトリックスMは以下の(3)式で表される。

Figure 2009187002
Similarly, an R image ((R, G, B) i = (255, 0, 0) i ), a G image ((R, G, B) i = (0, 255, 0) i ), and a B image A 3 × 3 matrix coefficient of the color conversion matrix M i is determined from each captured image obtained by capturing the projection plane on which ((R, G, B) i = (0, 0, 255) i ) is projected. Specifically, the colorimetric values of the captured images (hereinafter referred to as projection plane captured images) on which the R image, the G image, and the B image are projected are respectively (X r , Y r , Z r ), Assuming (X g , Y g , Z g ) and (X b , Y b , Z b ), the color conversion matrix M i is expressed by the following equation (3).
Figure 2009187002

−投影画像補正係数の決定−
ステップS3で行う投影画像補正係数の決定について説明する。
投影面にムラ(以後、投影面の反射率のムラや照明ムラを含めて、単に「ムラ」と表現する)や模様がある場合、投影面を撮影して得た撮像画像の画素値は均一ではなく、ムラや模様に応じた画素値となる。換言すると、各画素で最大表示可能な色域は変化する。この実施の形態では、まずこの最大表示可能な色域範囲を決定する。投影面での輝度Yは、(1)式より、

Figure 2009187002
-Determination of projection image correction coefficient-
The determination of the projection image correction coefficient performed in step S3 will be described.
If the projection surface has unevenness (hereinafter simply referred to as “unevenness”, including unevenness in the reflectance of the projection surface or illumination unevenness) or a pattern, the pixel values of the captured image obtained by photographing the projection surface are uniform. Instead, the pixel values correspond to the unevenness and the pattern. In other words, the maximum displayable color gamut varies with each pixel. In this embodiment, first, the maximum displayable color gamut range is determined. The luminance Y i on the projection plane is calculated from the equation (1):
Figure 2009187002

したがって、表示可能な輝度範囲は、(4)式において、0≦R,G,B≦255の範囲で振ったときにYがとり得る範囲で決まる。通常、Y,Y,Y>Yであるから、各画素の表示可能な輝度範囲は、白画像((R,G,B)=(255,255,255))を投影したときの表示輝度を表示可能な最大輝度YMAX,i、黒画像を投影したときの表示輝度をYMIN,iとして求めることができる。 Therefore, the displayable luminance range is determined by the range that Y i can take when it is shaken in the range of 0 ≦ R i , G i , B i ≦ 255 in the equation (4). Usually, Y r, Y g, since a Y b> Y k, displayable intensity range of each pixel is a white image ((R, G, B) i = (255,255,255) i) a projection The maximum displayable brightness Y MAX, i can be obtained as the display brightness when the image is projected, and the display brightness when the black image is projected can be obtained as Y MIN, i .

ここで、投影面のムラや模様が投影画像の視認性に対する影響を低減するためには、投影面撮影画像の投影面での最大輝度YMAXがMIN(YMAX,i)、最小輝度YMINがMAX(YMIN,i)になるように投影原画像データを補正する必要がある。すなわち、補正対象投影原画像を投影したときの最大輝度YMAXが、白画像投影時の撮影画像を構成する複数画素の中で最小の輝度値MIN(YMAX,i)になるように補正する必要がある。また、補正対象投影原画像を投影したときの最小輝度YMINが、黒画像投影時の撮影画像を構成する複数画素の中で最大の輝度値MAX(YMIN,i)になるように補正する必要がある。 Here, in order to reduce the influence of the unevenness or pattern of the projection surface on the visibility of the projection image, the maximum luminance Y MAX on the projection surface of the projection surface captured image is MIN (Y MAX, i ), and the minimum luminance Y MIN. It is necessary to correct the projection original image data so that becomes MAX (Y MIN, i ). That is, the maximum luminance Y MAX when the correction target projection original image is projected is corrected so as to be the minimum luminance value MIN (Y MAX, i ) among the plurality of pixels constituting the captured image at the time of projecting the white image. There is a need. Further, the minimum luminance Y MIN when the correction target projection original image is projected is corrected so as to become the maximum luminance value MAX (Y MIN, i ) among a plurality of pixels constituting the captured image at the time of black image projection. There is a need.

しかし、極端に暗い部分が投影面にある場合などに、上述した補正を全画素に対して行うと、ダイナミックレンジが非常に狭くなり、補正後の投影画像そのものの視認性が悪くなる。そこで、輝度閾値Ythを設定し、投影画像の画素のうち、投影したときの輝度が輝度閾値Ythより低い輝度の画素に対しては、補正量を緩和し、最大輝度YMAXを以下の(5)式のように決定する。

Figure 2009187002
すなわち、最大輝度YMAXをMIN(YMAX,i)まで補正せず、閾値Yth(<MIN(YMAX,i)まで補正することにより、低輝度側の画素値の補正量を抑制する。 However, when the above-described correction is performed on all the pixels when an extremely dark portion is on the projection surface, the dynamic range becomes very narrow, and the visibility of the corrected projected image itself is deteriorated. Therefore, to set the luminance threshold Yth, among the pixels of the projected image, for low luminance of the pixel from the luminance brightness threshold value Y th when projected, mitigate the correction amount, the following maximum luminance Y MAX ( 5) Determine as shown in the equation.
Figure 2009187002
That is, without correcting the maximum brightness Y MAX to MIN (Y MAX, i), by correcting to a threshold Y th (<MIN (Y MAX , i), suppressing the correction amount of the pixel value of the low luminance side.

−投影面判断−
ステップS4で行う投影面判断の処理は、本発明のメインの処理であるので、具体的な方法は、後述する。
-Projection plane judgment-
Since the projection plane determination process performed in step S4 is the main process of the present invention, a specific method will be described later.

−投影画像の補正−
ステップS6で行う投影画像の補正について説明する。
投影原画像(入力画像)の色空間がsRGBとすれば、投影原画像の画素値(R,G,B)に対して、投影面での測色値(X,Y,Z)は以下のようになればよい。

Figure 2009187002
ここで、黒画像を投影したときの画素の最大輝度、すなわち、YMIN=MAX(YMIN,i)となる画素値を投影画面の黒点(Xk0,Yk0,Zk0)とする。なお、MsRGB→XYZはsRGB色空間からXYZ色空間への変換マトリックスである。 -Correction of projected image-
The projection image correction performed in step S6 will be described.
If the color space of the projection original image (input image) is sRGB, the colorimetric values (X, Y, Z) on the projection plane with respect to the pixel values (R 0 , G 0 , B 0 ) of the projection original image i may be as follows.
Figure 2009187002
Here, the maximum luminance of a pixel when a black image is projected, that is, a pixel value satisfying Y MIN = MAX (Y MIN, i ) is defined as a black point (X k0 , Y k0 , Z k0 ) on the projection screen. M sRGB → XYZ is a conversion matrix from the sRGB color space to the XYZ color space.

したがって、(1)式を用いて、補正後の投射ユニット110への入力画素値(R,G,B)は、以下の(7)式で算出できる。

Figure 2009187002
Therefore, using the equation (1), the corrected input pixel value (R, G, B) i to the projection unit 110 can be calculated by the following equation (7).
Figure 2009187002

(7)式は簡単のため、sRGBのγ=2.2として記述した。しかし、定義どおり線形関数とγ=2.4の組み合わせで算出してもよい。   Since equation (7) is simple, sRGB is described as γ = 2.2. However, it may be calculated as a combination of a linear function and γ = 2.4 as defined.

−投影面判断−
次に、図4を参照して、本発明の実施形態におけるステップS4の投影面判断処理について説明する。図4(a)は、投影面30を説明するための図である。投影面30は、星の模様が付されている壁である。投影画像を投影するに先立って、白画像を投影面30に投影する。投影面30が投影に不適切であると判定すると、図4(b)に示すように、投影面30が不適切であることを示すバツマーク31がプロジェクタ1から投影される。バツマーク31を見たユーザは、投影面が投影に不適切であることを認識する。そして、ユーザは、投影原画像による投影を開始する前に投影面を別の面に移すことができる。
-Projection plane judgment-
Next, with reference to FIG. 4, the projection plane determination process in step S4 in the embodiment of the present invention will be described. FIG. 4A is a diagram for explaining the projection plane 30. The projection surface 30 is a wall with a star pattern. Prior to projecting the projection image, the white image is projected onto the projection plane 30. If it is determined that the projection surface 30 is inappropriate for projection, a cross mark 31 indicating that the projection surface 30 is inappropriate is projected from the projector 1 as shown in FIG. The user who sees the cross mark 31 recognizes that the projection plane is inappropriate for projection. Then, the user can move the projection plane to another plane before starting projection with the projection original image.

図4(c)は、不適切と判断された投影面に投影画像を投影した場合の投影画像の一例を示す。投影原画像を補正しても投影面上の投影画像32に星マークが重畳表示され、見栄えが悪い。   FIG. 4C shows an example of a projected image when the projected image is projected onto a projection plane determined to be inappropriate. Even if the projection original image is corrected, the star mark is superimposed and displayed on the projection image 32 on the projection plane, and the appearance is poor.

次に、図5のフローチャートを参照して、制御回路101で行う投影面判断処理について説明する。図5の処理は、プロジェクタ1が、投影を開始するための処理を開始するとスタートするプログラムにより制御回路101において実行される。   Next, a projection plane determination process performed by the control circuit 101 will be described with reference to the flowchart of FIG. The process of FIG. 5 is executed in the control circuit 101 by a program that starts when the projector 1 starts a process for starting projection.

ステップS11では、投射ユニット110から白画像((R,G,B)=(255,255,255))を投影面に投影する。ステップS12では、撮像ユニット120で投影面を撮影する。 In step S11, a white image ((R, G, B) i = (255, 255, 255)) is projected from the projection unit 110 onto the projection plane. In step S <b> 12, the projection plane is imaged by the imaging unit 120.

ステップS13では、撮影画像の画素値RGBから輝度Yを算出する。輝度Yの算出は以下のようにして行う。予め制御回路101に記憶したRGB表色系からXYZ表色系(CIE 1931 表色系)への変換マトリックスを用いて、撮影画像の画素値RGBを、XYZ表色系に変換し、各画素の輝度Yを算出する。なお、変換マトリックスは、撮像ユニット120における撮像素子122の分光特性から決定される。   In step S13, the luminance Y is calculated from the pixel value RGB of the captured image. The brightness Y is calculated as follows. Using the conversion matrix from the RGB color system stored in the control circuit 101 in advance to the XYZ color system (CIE 1931 color system), the pixel value RGB of the photographed image is converted into the XYZ color system, Luminance Y is calculated. Note that the conversion matrix is determined from the spectral characteristics of the imaging element 122 in the imaging unit 120.

ステップS14では、撮影画像を構成する複数画素の輝度の中で最大の輝度Y_maxを算出する。ステップS15では、撮影画像全体の画素の中から、輝度YがY_max×R*_min_th>Yの関係を満たす画素を抽出し、抽出した画素の割合、すなわち、撮影画像全体の全画素数に対する抽出した画素数の割合がC_th以上であるか否かを判定する。   In step S14, the maximum luminance Y_max is calculated among the luminances of a plurality of pixels constituting the captured image. In step S15, pixels whose luminance Y satisfies the relationship Y_max × R * _min_th> Y are extracted from the pixels of the entire captured image, and the extracted pixels are extracted with respect to the ratio of the extracted images, that is, the total number of pixels of the entire captured image. It is determined whether the ratio of the number of pixels is equal to or greater than C_th.

ここで、R*_min_thは反射率の閾値であり、次のように定めることができる。すなわち、投影面の反射率が低くなるほど投影原画像データの補正量が多くなる。そして、反射率が所定値以下になると補正しても投影画像の視認性を改善することが難しくなる。そこで、補正により視認性を改善することができる最小の反射率をR*_min_thとして設定する。R*_min_thの値はたとえば0.02である。   Here, R * _min_th is a reflectance threshold value, and can be determined as follows. That is, the correction amount of the projection original image data increases as the reflectance of the projection surface decreases. And even if it correct | amends if a reflectance becomes below a predetermined value, it will become difficult to improve the visibility of a projection image. Therefore, the minimum reflectance that can improve the visibility by correction is set as R * _min_th. The value of R * _min_th is 0.02, for example.

また、C_thは、たとえば0%であり、次のように定めることができる。上述したように投影原画像データを補正しても、輝度YがY_max×R*_min_th>Yの関係を満たす画素が多い場合、補正不完全な画素が多くなり、ユーザが投影画像の視認性に対して不満を抱くことになる。したがって、このようなユーザの不満が生じない範囲で上記C_thの値を決定すればよく、たとえばC_thは0%になる。   C_th is 0%, for example, and can be determined as follows. As described above, even if the projection original image data is corrected, if there are many pixels satisfying the relationship of luminance Y of Y_max × R * _min_th> Y, the number of incompletely corrected pixels increases, and the user can improve the visibility of the projection image. You will be dissatisfied with it. Therefore, the value of C_th may be determined within a range in which such user dissatisfaction does not occur. For example, C_th is 0%.

輝度YがY_max×R*_min_th>Yの関係を満たす画素の割合がC_th未満である場合はステップS15が否定判定され、ステップS16に進む。輝度YがY_max×R*_min_th>Yの関係を満たす画素の割合がC_th以上である場合はステップS15が肯定判定され、ステップS17に進む。   If the ratio of pixels satisfying the relationship of luminance Y to Y_max × R * _min_th> Y is less than C_th, a negative determination is made in step S15, and the process proceeds to step S16. If the ratio of pixels satisfying the relationship of luminance Y to Y_max × R * _min_th> Y is equal to or greater than C_th, an affirmative determination is made in step S15 and the process proceeds to step S17.

ステップS16では、投射ユニット110から、投影面が投影に適していることを示すマークである投射可マーク(マルマーク)を投影面に投影する。そして、図3のステップS5に進み、上述の方法で補正した画像を投影することになる。ステップS17では、投射ユニット110から、投影面が投影に適していないことを示すマークである投射不可マーク(バツマーク)を投影面に投影する。   In step S16, the projection unit 110 projects a projectable mark (a mark), which is a mark indicating that the projection surface is suitable for projection, onto the projection surface. Then, the process proceeds to step S5 in FIG. 3, and the image corrected by the above-described method is projected. In step S17, the projection unit 110 projects a projection impossible mark (cross mark) that is a mark indicating that the projection plane is not suitable for projection onto the projection plane.

以上説明した実施形態によれば、次の作用効果が得られる。
(1)所定の投影画像、本例では白画像が投影された投影面を撮影して得られる投影面撮影画像に基づいて、投影面が投影に適しているか否かを判定し、その判定結果をユーザに通知するようにした。したがって、投影原画像データを補正しても投影面のムラや模様などによる画質低下を避けられないような投影面で投影を行うのを防止することができる。
According to the embodiment described above, the following operational effects can be obtained.
(1) It is determined whether or not the projection plane is suitable for projection based on a projection plane captured image obtained by shooting a predetermined projection image, in this example, a projection plane on which a white image is projected, and the determination result Was notified to the user. Accordingly, it is possible to prevent the projection from being performed on the projection plane in which the deterioration of the image quality due to the unevenness or pattern of the projection plane cannot be avoided even if the projection original image data is corrected.

(2)投影面撮影画像の全画素の中で最大である輝度Y_maxを検出し、輝度Y_maxに投影面の最小反射率R*_min_thを乗じた基準輝度値を設定する。最大でもこの基準輝度値よりも小さい輝度しか表現できない画素の数、すなわち、輝度YがY_max×R*_min_th>Yの関係を満たす画素の全画素数に対する割合を算出し、その割合が閾値C_th以上であれば投影に適さない投影面であると判定するようにした。換言すると、基準輝度よりも暗い輝度しか最大でも表現できない画素の割合が所定値よりも少ないような投影面は、投影に適していると判断する。これにより、投影面撮影画像を構成する画素の輝度値を用いるだけで投影面が投影に適しているか否かを適切に判定できる。 (2) The maximum luminance Y_max is detected among all the pixels of the projection plane photographed image, and a reference luminance value obtained by multiplying the luminance Y_max by the minimum reflectance R * _min_th of the projection plane is set. The number of pixels that can represent only a luminance smaller than the reference luminance value at the maximum, that is, the proportion of the pixels whose luminance Y satisfies the relationship Y_max × R * _min_th> Y is calculated, and the proportion is equal to or greater than the threshold C_th If so, it was determined that the projection surface was not suitable for projection. In other words, it is determined that a projection surface in which the proportion of pixels that can be expressed only at a maximum brightness that is darker than the reference brightness is less than a predetermined value is suitable for projection. Thereby, it is possible to appropriately determine whether or not the projection plane is suitable for projection only by using the luminance value of the pixels constituting the projection plane photographed image.

−第2の実施の形態−
第2の実施形態によるプロジェクタでは、以下の(a)〜(c)の判定基準を採用して、投影面の状態に応じて投影原画像データの補正量を緩和するものである。
(a)投影面を撮影して得た投影面撮影画像の中で基準値よりも輝度が低い画素(以下、低輝度画素と呼ぶ)の割合が所定値よりも少ない場合
(b)投影面撮影画像内の低輝度画素の位置が投影面の周辺の場合
(c)連続する低輝度画素の画素数が少ない場合
-Second Embodiment-
In the projector according to the second embodiment, the following determination criteria (a) to (c) are adopted to reduce the correction amount of the projection original image data according to the state of the projection surface.
(A) When the ratio of pixels whose luminance is lower than a reference value (hereinafter referred to as “low luminance pixels”) in the projection plane image obtained by imaging the projection plane is less than a predetermined value (b) Projection plane imaging When the position of the low luminance pixel in the image is around the projection plane (c) When the number of continuous low luminance pixels is small

すなわち、(a)〜(c)の場合、投影面の低輝度部分が投影面上での投影画像の画質に影響を与えにくいときは、補正量を緩和する。補正は以下の(8),(9)式により行う。   That is, in the cases (a) to (c), when the low-luminance portion of the projection surface hardly affects the image quality of the projection image on the projection surface, the correction amount is relaxed. Correction is performed by the following equations (8) and (9).

補正後の投射ユニット110への入力画素値(R,G,B)は、YMAX,iの大きさに基づいて、以下の(8),(9)式で算出できる。
(1)YMAX,i≧YMAXを満たす画素i;

Figure 2009187002
The input pixel value to the projection unit 110 the corrected (R, G, B) i is based on the magnitude of the Y MAX, i, the following (8), can be calculated by equation (9).
(1) Pixel i satisfying Y MAX, i ≧ Y MAX ;
Figure 2009187002

(2)YMAX,i<YMAXを満たす画素i;

Figure 2009187002
(2) Pixel i satisfying Y MAX, i <Y MAX ;
Figure 2009187002

(8),(9)式は簡単のため、sRGBのγ=2.2として記述した。しかし、定義どおり線形関数とγ=2.4の組み合わせで算出してもよい。   Since the expressions (8) and (9) are simple, they are described as γ = 2.2 of sRGB. However, it may be calculated as a combination of a linear function and γ = 2.4 as defined.

第1の実施の形態のプロジェクタでは、投影面が画像投影に適しているか否かの判断基準として最小反射率R*_min_thと閾値C_thを使用したが、第2の実施形態では、補正量を緩和し、補正過剰による視認性悪化を防ぐことで、第2の判断基準を採用する。   In the projector according to the first embodiment, the minimum reflectance R * _min_th and the threshold value C_th are used as criteria for determining whether or not the projection surface is suitable for image projection. However, in the second embodiment, the correction amount is reduced. In addition, the second criterion is adopted by preventing visibility deterioration due to overcorrection.

第2の判断基準は、最小反射率R*_min_th1×Y_maxと、第2閾値C_th1との大小関係である。ただし、最小反射率R*_min_th1<最小反射率R*_min_th、閾値C_th1>閾値C_thである。また、最小反射率R*_min_th1はたとえば0.02であり、閾値C_th1はたとえば0.01(1%)である。   The second determination criterion is a magnitude relationship between the minimum reflectance R * _min_th1 × Y_max and the second threshold C_th1. However, minimum reflectance R * _min_th1 <minimum reflectance R * _min_th, threshold C_th1> threshold C_th. The minimum reflectance R * _min_th1 is, for example, 0.02, and the threshold value C_th1 is, for example, 0.01 (1%).

次に、図6のフローチャートを参照して、第2の実施の形態による投影面判断処理について説明する。図6の処理は、プロジェクタ1が、投影を開始するための処理を開始するとスタートするプログラムにより制御回路101において実行される。図5の処理と同じ処理には同じ符号を付し、図5の処理と異なる部分を主に説明する。   Next, a projection plane determination process according to the second embodiment will be described with reference to the flowchart of FIG. The process in FIG. 6 is executed in the control circuit 101 by a program that starts when the projector 1 starts a process for starting projection. The same processes as those in FIG. 5 are denoted by the same reference numerals, and portions different from the processes in FIG. 5 will be mainly described.

ステップS14の次にステップS21に進む。ステップS21では、投影原画像データを補正する程度を少なくするか否か、言い換えると補正量を緩和するか否かを判定する。撮影画像全体の画素の中から、輝度YがY_max×R*_min_th1>Yの関係を満たす画素を抽出し、抽出した画素数の全画素数に対する割合が閾値C_th1以上であるか否かを判定する。ここで、最小反射率R*_min_th1は、上述したとおり、予め定められた投影面の最低反射率であり、第1の実施の形態における基準反射率R*_min_thより小さな値である。閾値C_th1は予め定められた割合であり、上述したとおり、閾値C_thより大きな値である。輝度YがY_max×R*_min_th1>Yの関係を満たす画素の割合がC_th1未満である場合はステップS21が否定判定され、ステップS16に進む。輝度YがY_max×R*_min_th1>Yの関係を満たす画素の割合が閾値C_th1以上である場合はステップS21が肯定判定され、ステップS17に進む。   After step S14, the process proceeds to step S21. In step S21, it is determined whether or not to reduce the degree of correction of the projection original image data, in other words, whether or not to reduce the correction amount. From the pixels of the entire photographed image, pixels whose luminance Y satisfies the relationship Y_max × R * _min_th1> Y are extracted, and it is determined whether or not the ratio of the number of extracted pixels to the total number of pixels is equal to or greater than the threshold C_th1. . Here, as described above, the minimum reflectance R * _min_th1 is a predetermined minimum reflectance of the projection surface, and is smaller than the reference reflectance R * _min_th in the first embodiment. The threshold value C_th1 is a predetermined ratio, and is a value larger than the threshold value C_th as described above. When the ratio of pixels satisfying the relationship of luminance Y of Y_max × R * _min_th1> Y is less than C_th1, a negative determination is made in step S21, and the process proceeds to step S16. If the ratio of the pixels satisfying the luminance Y of Y_max × R * _min_th1> Y is greater than or equal to the threshold C_th1, an affirmative determination is made in step S21, and the process proceeds to step S17.

投射ユニット110における液晶パネル112の画素欠陥数の許容範囲を考慮して、C_thやC_th1を決定してもよい。また、ステップS21では、上述(a)の判定基準を用いたが、(b)、(c)などの判定基準を代りに用いたり、併用したりしてもよい。   C_th and C_th1 may be determined in consideration of the allowable range of the number of pixel defects of the liquid crystal panel 112 in the projection unit 110. In step S21, the determination criterion (a) described above is used. However, determination criteria such as (b) and (c) may be used instead or in combination.

−第3の実施の形態−
第1の実施の形態のプロジェクタでは、投影面が画像投影に適しているか否かの判断基準として最小反射率R*_min_thと閾値C_thとの積で表したひとつの判断基準値を使用した。第3の実施形態によるプロジェクタでは、投影面が画像投影に適しているか否かの判断基準としてそれぞれ異なる大中小3つの最小反射率R*_min_th2〜4と大中小3つの閾値C_th2〜4とを定め、それらの積で表した第1判断基準値R*_min_th2×C_th2と、第2判断基準値R*_min_th3×C_th3と、第3判断基準値R*_min_th4×C_th4を使用する。
-Third embodiment-
In the projector according to the first embodiment, one determination reference value represented by the product of the minimum reflectance R * _min_th and the threshold value C_th is used as a determination reference whether or not the projection surface is suitable for image projection. In the projector according to the third embodiment, three large, medium, and small minimum reflectances R * _min_th2 to 4 and three large, medium, and small thresholds C_th2 to 4 are determined as criteria for determining whether or not the projection surface is suitable for image projection. The first determination reference value R * _min_th2 × C_th2, the second determination reference value R * _min_th3 × C_th3, and the third determination reference value R * _min_th4 × C_th4 expressed by their product are used.

第3の実施形態では、投影面においてムラがそれほど目立たない場合でも、そのムラの面積の割合が大きい場合は投影画像の視認性が悪くなることを考慮して、上述した3つの判断基準値、第1判断基準値R*_min_th2×C_th2(たとえば、0.002×0.001)と、第2判断基準値R*_min_th3×C_th3(たとえば、0.02×0.01)と、第3判断基準値R*_min_th4×C_th4(たとえば、0.2×0.1)を使用する。   In the third embodiment, even when unevenness is not so conspicuous on the projection surface, the above-described three determination reference values are considered in consideration that the visibility of the projected image is deteriorated when the proportion of the unevenness area is large. First determination reference value R * _min_th2 × C_th2 (for example, 0.002 × 0.001), second determination reference value R * _min_th3 × C_th3 (for example, 0.02 × 0.01), and third determination reference The value R * _min_th4 × C_th4 (eg, 0.2 × 0.1) is used.

次に、図7のフローチャートを参照して、第3の実施の形態による投影面判断処理について説明する。図7の処理は、プロジェクタ1が、投影を開始するための処理を開始するとスタートするプログラムにより制御回路101において実行される。図5の処理と同じ処理には同じ符号を付し、図5の処理と異なる部分を主に説明する。ここで、R*_min_th2はR*_min_th3より小さく、R*_min_th3はR*_min_th4より小さいものとする。また、C_th2はC_th3より小さく、C_th3はC_th4より小さいものとする。   Next, a projection plane determination process according to the third embodiment will be described with reference to the flowchart of FIG. The processing in FIG. 7 is executed in the control circuit 101 by a program that starts when the projector 1 starts processing for starting projection. The same processes as those in FIG. 5 are denoted by the same reference numerals, and portions different from the processes in FIG. 5 will be mainly described. Here, R * _min_th2 is smaller than R * _min_th3, and R * _min_th3 is smaller than R * _min_th4. Further, C_th2 is smaller than C_th3, and C_th3 is smaller than C_th4.

ステップS14の次にステップS31に進む。ステップS31では、撮影画像全体の画素の中から、輝度YがY_max×R*_min_th2>Yの関係を満たす画素を抽出し、全画素数に対する抽出した画素数の割合がC_th2以上であるか否かを判定する。たとえば、R*_min_th2は0.002であり、C_th2は0.1%である。抽出した画素数の全画素数に対する割合がC_th2未満である場合はステップS31が否定判定され、ステップS32に進む。抽出した画素数の全画素数に対する割合がC_th2以上である場合はステップS31が肯定判定され、ステップS17に進む。   After step S14, the process proceeds to step S31. In step S31, a pixel whose luminance Y satisfies the relationship Y_max × R * _min_th2> Y is extracted from the pixels of the entire captured image, and whether or not the ratio of the extracted pixel number to the total pixel number is equal to or greater than C_th2. Determine. For example, R * _min_th2 is 0.002 and C_th2 is 0.1%. If the ratio of the extracted number of pixels to the total number of pixels is less than C_th2, a negative determination is made in step S31, and the process proceeds to step S32. If the ratio of the number of extracted pixels to the total number of pixels is equal to or greater than C_th2, an affirmative determination is made in step S31, and the process proceeds to step S17.

ステップS32では、撮影画像全体の画素の中から、輝度YがY_max×R*_min_th3>Yの関係を満たす画素を抽出し、抽出した画素数の全画素数に対する割合がC_th3以上であるか否かを判定する。たとえば、R*_min_th3は0.02であり、C_th3は1%である。抽出した画素数の全画素数に対する割合がC_th3未満である場合はステップS32が否定判定され、ステップS33に進む。抽出した画素数の全画素数に対する割合がC_th3以上である場合はステップS32が肯定判定され、ステップS17に進む。   In step S32, a pixel whose luminance Y satisfies the relationship Y_max × R * _min_th3> Y is extracted from the pixels of the entire photographed image, and whether or not the ratio of the extracted number of pixels to the total number of pixels is C_th3 or more. Determine. For example, R * _min_th3 is 0.02 and C_th3 is 1%. If the ratio of the extracted number of pixels to the total number of pixels is less than C_th3, a negative determination is made in step S32, and the process proceeds to step S33. If the ratio of the number of extracted pixels to the total number of pixels is equal to or greater than C_th3, an affirmative determination is made in step S32 and the process proceeds to step S17.

ステップS33では、撮影画像全体の画素の中から、輝度YがY_max×R*_min_th4>Yの関係を満たす画素を抽出し、抽出した画素数の全画素数に対する割合がC_th4以上であるか否かを判定する。たとえば、R*_min_th4は0.2であり、C_th4は10%である。抽出した画素数の全画素数に対する割合がC_th4未満である場合はステップS33が否定判定され、ステップS16に進む。抽出した画素数の全画素数に対する割合がC_th4以上である場合はステップS33が肯定判定され、ステップS17に進む。   In step S33, pixels whose luminance Y satisfies the relationship Y_max × R * _min_th4> Y are extracted from the pixels of the entire captured image, and whether or not the ratio of the extracted number of pixels to the total number of pixels is C_th4 or more. Determine. For example, R * _min_th4 is 0.2 and C_th4 is 10%. If the ratio of the extracted number of pixels to the total number of pixels is less than C_th4, a negative determination is made in step S33, and the process proceeds to step S16. If the ratio of the number of extracted pixels to the total number of pixels is equal to or greater than C_th4, an affirmative determination is made in step S33, and the process proceeds to step S17.

複数のR*_min_thおよびC_thの組み合わせは、使用者、撮影画像、撮影条件などにより加減可能にしてもよい。   A combination of a plurality of R * _min_th and C_th may be adjustable depending on the user, the captured image, the imaging condition, and the like.

−第4の実施の形態−
第1の実施の形態のプロジェクタでは、輝度YがY_max×R*_min_th>Yの関係を満たす画素であれば、単独の画素でも、連続した画素でも全て画素数として加算した。第4の実施の形態のプロジェクタでは、輝度YがY_max×R*_min_th>Yの関係を満たす画素が少なくとも2つ以上連続している場合、それらの画素を加算し、加算結果の全画素数に対する割合を算出する。すなわち、輝度YがY_max×R*_min_th>Yの関係を満たすが連続せずに分散して存在する画素を除外して投影面の評価を行うようにする。
-Fourth embodiment-
In the projector according to the first embodiment, if the luminance Y is a pixel satisfying the relationship of Y_max × R * _min_th> Y, the single pixel or the continuous pixels are all added as the number of pixels. In the projector according to the fourth embodiment, when at least two pixels satisfying the relationship of luminance Y of Y_max × R * _min_th> Y are consecutive, these pixels are added, and the total number of pixels as a result of the addition is calculated. Calculate the percentage. In other words, the projection plane is evaluated by excluding pixels that have a luminance Y satisfying the relationship Y_max × R * _min_th> Y but are not continuously distributed.

次に、図8のフローチャートを参照して、第4の実施の形態による投影面判断処理について説明する。図8の処理は、プロジェクタ1が、投影を開始するための処理を開始するとスタートするプログラムにより制御回路101において実行される。図5の処理と同じ処理には同じ符号を付し、図5の処理と異なる部分を主に説明する。   Next, a projection plane determination process according to the fourth embodiment will be described with reference to the flowchart of FIG. The processing in FIG. 8 is executed in the control circuit 101 by a program that starts when the projector 1 starts processing for starting projection. The same processes as those in FIG. 5 are denoted by the same reference numerals, and portions different from the processes in FIG. 5 will be mainly described.

ステップS14からステップS41に進むと、撮影画像の画素の中から、輝度YがY_max×R*_min_th>Yの関係を満たす画素であって連続した画素を抽出する。ステップS42では、ステップS41で抽出した画素数の全画素数に対する割合がC_th以上であるか否かを判定する。抽出した画素数の全画素数に対する割合がC_th未満である場合はステップS42が否定判定され、ステップS16に進む。抽出した画素数の全画素数に対する割合がC_th以上である場合はステップS42が肯定判定され、ステップS17に進む。   When the process proceeds from step S14 to step S41, continuous pixels that have a luminance Y satisfying the relationship Y_max × R * _min_th> Y are extracted from the pixels of the captured image. In step S42, it is determined whether the ratio of the number of pixels extracted in step S41 to the total number of pixels is equal to or greater than C_th. If the ratio of the extracted number of pixels to the total number of pixels is less than C_th, a negative determination is made in step S42, and the process proceeds to step S16. If the ratio of the number of extracted pixels to the total number of pixels is equal to or greater than C_th, an affirmative determination is made in step S42 and the process proceeds to step S17.

この場合、図6と同様に、(a)投影面を撮影して得た投影面撮影画像の中で基準値よりも輝度が低い画素(以下、低輝度画素と呼ぶ)の割合が少ない場合、(b)投影面撮影画像内の低輝度画素の位置が周辺の場合、(c)低輝度画素が連続する場合の画素数が少ない場合に補正量を緩和するようにしてもよい。そして、補正量を緩和した場合は、図6で説明した第2判断基準値を使用すればよい。   In this case, as in FIG. 6, when (a) the ratio of pixels whose luminance is lower than the reference value (hereinafter referred to as low luminance pixels) in the projection plane captured image obtained by imaging the projection plane is small, (B) The correction amount may be relaxed when the position of the low-luminance pixel in the projected-surface photographed image is the periphery, and (c) when the number of pixels when the low-luminance pixel continues is small. When the correction amount is relaxed, the second determination reference value described with reference to FIG. 6 may be used.

−第5の実施の形態−
第1の実施の形態のプロジェクタでは、投射ユニット110から白画像((R,G,B)i=(255,255,255))を投影面に投影して、モノクロ画像により投影面が投影に適しているか否かを判定した。しかし、R画像((R,G,B)=(255,0,0))、G画像((R,G,B)=(0,255,0))およびB画像((R,G,B)=(0,0,255))を投影面に投影し、色彩を有する画像を投影面に投影して投影面を評価してもよい。たとえば、投影面の一部に彩度の高い部分がある場合、その投影面は投影に適していないと判定することができる。
-Fifth embodiment-
In the projector according to the first embodiment, a white image ((R, G, B) i = (255, 255, 255)) is projected from the projection unit 110 onto the projection plane, and the projection plane is projected by the monochrome image. It was judged whether it was suitable. However, the R image ((R, G, B) i = (255, 0, 0)), the G image ((R, G, B) i = (0, 255, 0)) and the B image ((R, G, B). G, B) i = (0, 0, 255)) may be projected onto the projection plane, and an image having color may be projected onto the projection plane to evaluate the projection plane. For example, if there is a portion with high saturation in a part of the projection surface, it can be determined that the projection surface is not suitable for projection.

次に、図9〜図11のフローチャートを参照して、第5の実施の形態による投影面判断処理について説明する。図9〜図11の処理は、プロジェクタ1が、投影を開始するための処理を開始するとスタートするプログラムにより制御回路101において実行される。   Next, projection plane determination processing according to the fifth embodiment will be described with reference to the flowcharts of FIGS. 9 to 11 are executed in the control circuit 101 by a program that starts when the projector 1 starts a process for starting projection.

図9のステップS501では、投射ユニット110からR画像((R,G,B)=(255,0,0))を投影面に投影する。ステップS502では、撮像ユニット120で投影面を撮影する。ステップS503では、撮影画像の画素値RGBから、輝度YRを算出する。ステップS504では、撮影画像内の輝度YRの最大値であるYR*_maxを算出する。 9, the R image ((R, G, B) i = (255, 0, 0)) is projected from the projection unit 110 onto the projection plane. In step S502, the imaging unit 120 captures the projection plane. In step S503, the luminance YR is calculated from the pixel value RGB of the captured image. In step S504, YR * _max which is the maximum value of the luminance YR in the captured image is calculated.

ステップS505では、撮影画像全体の画素の中から、輝度YRがYR*_max×R*_min_th>YRの関係を満たす画素を抽出し、抽出した画素数の全画素数に対する割合がC_th以上であるか否かを判定する。抽出した画素数の全画素数に対する割合がC_th未満である場合はステップS505が否定判定され、ステップS506に進む。抽出した画素数の全画素数に対する割合がC_th以上である場合はステップS505が肯定判定され、ステップS517に進む。   In step S505, pixels whose luminance YR satisfies the relationship YR * _max × R * _min_th> YR are extracted from the pixels of the entire captured image, and whether the ratio of the extracted number of pixels to the total number of pixels is equal to or greater than C_th. Determine whether or not. If the ratio of the number of extracted pixels to the total number of pixels is less than C_th, a negative determination is made in step S505, and the process proceeds to step S506. If the ratio of the extracted number of pixels to the total number of pixels is equal to or greater than C_th, an affirmative determination is made in step S505, and the process proceeds to step S517.

図10のステップS506では、投射ユニット110からG画像((R,G,B)=(0,255,0))を投影面に投影する。ステップS507では、撮像ユニット120で投影面を撮影する。ステップS508では、撮影画像の画素値RGBから、輝度YGを算出する。ステップS509では、撮影画像内の輝度YGの最大値であるYG_maxを算出する。 In step S506 in FIG. 10, the G image ((R, G, B) i = (0, 255, 0)) is projected from the projection unit 110 onto the projection plane. In step S507, the imaging unit 120 images the projection plane. In step S508, the luminance YG is calculated from the pixel value RGB of the captured image. In step S509, YG_max that is the maximum value of luminance YG in the captured image is calculated.

ステップS510では、撮影画像全体の画素の中から、輝度YGがYG_max×R*_min_th>YGの関係を満たす画素を抽出し、抽出した画素数の全画素数に対する割合がC_th以上であるか否かを判定する。抽出した画素数の全画素数に対する割合がC_th未満である場合はステップS510が否定判定され、ステップS511に進む。抽出した画素数の全画素数に対する割合がC_th以上である場合はステップS510が肯定判定され、ステップS517に進む。   In step S510, pixels whose luminance YG satisfies the relationship YG_max × R * _min_th> YG are extracted from the pixels of the entire captured image, and whether or not the ratio of the extracted number of pixels to the total number of pixels is equal to or greater than C_th. Determine. If the ratio of the extracted number of pixels to the total number of pixels is less than C_th, a negative determination is made in step S510, and the process proceeds to step S511. If the ratio of the extracted number of pixels to the total number of pixels is equal to or greater than C_th, an affirmative determination is made in step S510 and the process proceeds to step S517.

図11のステップS511では、投射ユニット110からB画像((R,G,B)=(0,0,255))を投影面に投影する。ステップS512では、撮像ユニット120で投影面を撮影する。ステップS513では、撮影画像の画素値RGBから、輝度YBを算出する。ステップS514では、撮影画像内の輝度YBの最大値であるYB_maxを算出する。 In step S511 in FIG. 11, a B image ((R, G, B) i = (0, 0, 255)) is projected from the projection unit 110 onto the projection plane. In step S512, the imaging unit 120 captures the projection plane. In step S513, the luminance YB is calculated from the pixel value RGB of the captured image. In step S514, YB_max that is the maximum value of luminance YB in the captured image is calculated.

ステップS515では、撮影画像全体の画素の中から、輝度YBがYB_max×R*_min_th>YBの関係を満たす画素を抽出し、抽出した画素数の全画素数に対する割合がC_th以上であるか否かを判定する。抽出した画素数の全画素数に対する割合がC_th未満である場合はステップS515が否定判定され、ステップS516に進む。抽出した画素数の全画素数に対する割合がC_th以上である場合はステップS515が肯定判定され、ステップS517に進む。   In step S515, a pixel whose luminance YB satisfies the relationship YB_max × R * _min_th> YB is extracted from the pixels of the entire captured image, and whether or not the ratio of the extracted number of pixels to the total number of pixels is equal to or greater than C_th. Determine. If the ratio of the extracted number of pixels to the total number of pixels is less than C_th, a negative determination is made in step S515, and the process proceeds to step S516. If the ratio of the extracted number of pixels to the total number of pixels is equal to or greater than C_th, an affirmative determination is made in step S515, and the process proceeds to step S517.

ステップS516では、投射ユニット110から、投影面が投影に適していることを示すマークである投射可マーク(マルマーク)を投影面に投影する。ステップS517では、投射ユニット110から、投影面が投影に適していないことを示すマークである投射不可マーク(バツマーク)を投影面に投影する。   In step S516, the projection unit 110 projects a projectable mark (mark) that is a mark indicating that the projection surface is suitable for projection onto the projection surface. In step S517, the projection unit 110 projects a projection impossible mark (cross mark) that is a mark indicating that the projection plane is not suitable for projection onto the projection plane.

この場合も図7で説明した第3の実施の形態と同様に、複数のR*_min_thおよびC_thの組み合わせにおいて、各輝度Y(R,G,B)がY(R,G,B)_max×R*_min_th>Y(R,G,B)の関係を満たす画素の割合がC_th未満である場合、投影面が投影に適していると判定するようにしてもよい。   Also in this case, as in the third embodiment described with reference to FIG. 7, each luminance Y (R, G, B) is Y (R, G, B) _max × in a combination of a plurality of R * _min_th and C_th. When the ratio of pixels satisfying the relationship of R * _min_th> Y (R, G, B) is less than C_th, it may be determined that the projection plane is suitable for projection.

以上の実施の形態を次のように変形することができる。
(1)投影面が投影に適しているか否かの2段階で投影面を評価したが、(i)投影面が投影に適している、(ii)投影面の一部に投影に適していない部分があるが、その他の部分は投影に適している、(iii)投影面が投影に適していない、の3段階で投影面を評価するようにしてもよい。このとき、投影面が投影に適している場合、丸マークが投影され、投影面の一部に投影に適していないがその他の部分は投影に適している場合、三角マーク印が投影され、投影面が投影に適していない場合、バツマークが投影される。投影面の一部に投影に適していない部分がある場合、その投影面で投影するか否かをユーザが判断することができ、プロジェクタの利便性が向上する。投影画像によっては、投影画像の一部が見づらくてもよい場合があるからである。
The above embodiment can be modified as follows.
(1) The projection plane is evaluated in two stages, whether the projection plane is suitable for projection, but (i) the projection plane is suitable for projection, (ii) it is not suitable for projection on a part of the projection plane. The projection plane may be evaluated in three stages: there are portions, but the other portions are suitable for projection, and (iii) the projection plane is not suitable for projection. At this time, if the projection surface is suitable for projection, a round mark is projected, and if it is not suitable for projection on a part of the projection surface, but the other part is suitable for projection, a triangle mark mark is projected and projected. If the surface is not suitable for projection, a cross mark is projected. When a part of the projection plane is not suitable for projection, the user can determine whether or not to project on the projection plane, and the convenience of the projector is improved. This is because, depending on the projection image, it may be difficult to see a part of the projection image.

(2)投影面撮影画像内の輝度Yの最大値(Y_max)に基づいて、投影面が投影に適しているか否かを判定するようにした。しかし、投影面撮影画像の平均輝度から投影面が投影に適しているか否かを判定するようにしてもよい。この場合、投影面撮影画像の平均輝度が所定値より大きい場合は投影面が投影に適していると判定し、投影面撮影画像の平均輝度が所定値以下の場合は投影面が投影に適していないと判定する。 (2) Whether or not the projection plane is suitable for projection is determined based on the maximum value (Y_max) of the luminance Y in the projection plane photographed image. However, it may be determined whether or not the projection plane is suitable for projection from the average luminance of the projection plane photographed image. In this case, if the average luminance of the projection plane photographed image is greater than a predetermined value, it is determined that the projection plane is suitable for projection, and if the average luminance of the projection plane photographed image is less than the predetermined value, the projection plane is suitable for projection. Judge that there is no.

(3)彩度の観点から投影面が投影に適しているか否かを判定するとき、投影面撮影画像の画素値RGBを、XYZ表色系に変換し、さらにCIELABに変換し、彩度C=√(a+b)の値を用いて判定するようにしてもよい。この場合は、予め明度L毎にCの閾値を記憶しておく。Cの閾値は明度Lに依存するので、Cの閾値を一定値とできないからである。 (3) When determining whether or not the projection plane is suitable for projection from the viewpoint of saturation, the pixel value RGB of the projection plane photographed image is converted into the XYZ color system, further converted into CIELAB, and the saturation C The determination may be made using a value of = √ (a 2 + b 2 ). In this case, a C threshold value is stored in advance for each lightness L. This is because the C threshold value depends on the lightness L, and therefore the C threshold value cannot be a constant value.

(4)以上の実施形態のR*_min_thやC_thの数値は一例であり、実施形態の値に限定されない。R*_min_thやC_thの数値は、プロジェクタ1の特性(照明ムラ、欠陥などの許容範囲)や投影画像の補正方法などによって変わるからである。たとえば、LED光源113の駆動量をx倍に大きくできるとすれば、R*_min_thの値を実施形態の約1/x倍にすることが可能となる。 (4) The numerical values of R * _min_th and C_th in the above embodiments are examples, and are not limited to the values in the embodiments. This is because the numerical values of R * _min_th and C_th vary depending on the characteristics of the projector 1 (allowable range of illumination unevenness, defects, etc.), the correction method of the projected image, and the like. For example, if the driving amount of the LED light source 113 can be increased by x times, the value of R * _min_th can be made about 1 / x times that of the embodiment.

(5)投影面が投影に適しているか否かを判定した結果をユーザに通知する方法は、バツマーク31を投影面30に投影する方法に限定されない。たとえば、プロジェクタに表示部が設けられている場合、表示部に投影面適表示および投影面不適表示を行うことにより、投影面の状態をユーザに通知してもよい。 (5) The method of notifying the user of the result of determining whether or not the projection plane is suitable for projection is not limited to the method of projecting the cross mark 31 onto the projection plane 30. For example, when the projector is provided with a display unit, the state of the projection surface may be notified to the user by performing appropriate projection surface display and inappropriate projection surface display on the display unit.

(6)投影画像を考慮に入れて、投影面が投影に適しているか否かを判定するようにしてもよい。たとえば、投影画像が青空を撮影したものである場合、投影面の模様などが目立つので、投影面が投影に適しているか否かを判定する判定基準を高くする。つまり、投影面に目立つ模様などが少しでもあれば、投影に適していないと判定する。一方、投影画像がジャングルを撮影したものである場合、投影画像が複雑であるために投影面の模様は目立たないので、投影面が投影に適しているか否かを判定する判定基準を低くする。つまり、多少目立つ模様などが投影面にあっても、投影に適していると判定する。 (6) It may be determined whether or not the projection surface is suitable for projection in consideration of the projection image. For example, when the projection image is a photograph of a blue sky, the pattern of the projection surface is conspicuous, and therefore the determination criterion for determining whether the projection surface is suitable for projection is increased. That is, if there is even a conspicuous pattern on the projection surface, it is determined that it is not suitable for projection. On the other hand, if the projection image is a jungle image, the projection image is complex and the pattern on the projection surface is inconspicuous. Therefore, the criterion for determining whether or not the projection surface is suitable for projection is lowered. That is, even if a somewhat conspicuous pattern or the like is present on the projection surface, it is determined that it is suitable for projection.

このように、投影面における投影の適否を判定するための判定基準に影響を与える投影画像の評価は以下の(A),(B)ようにして行う。
(A)投影画像データの周波数成分の分布を調べ、高周波成分が多い場合、投影画像はジャングルの画像のように構造の細かい画像であるので、投影面における投影の適否の判定基準を低くする。一方、高周波成分が少ない場合、投影画面は青空の画像のように構造が粗い画像であるので、投影面における投影の適否の判定基準を高くする。
As described above, the evaluation of the projection image that affects the determination criterion for determining the propriety of the projection on the projection plane is performed as follows (A) and (B).
(A) The distribution of the frequency components of the projection image data is examined. If there are many high-frequency components, the projection image is an image with a fine structure such as a jungle image, so the criterion for determining whether or not projection is appropriate on the projection plane is lowered. On the other hand, when the high-frequency component is small, the projection screen is an image having a rough structure such as an image of a blue sky.

たとえば、ラプシアンフィルタなどを用いて、投影画像を所定のエッジ強度の閾値で二値化する。この二値化した画像に基づいて、投影画像は構造の細かい画像であるか、構造の粗い画像であるかを判定する。たとえば、投影画像全体の画素数に対する、エッジ強度が閾値より大きい画素の画素数の割合が所定値以上の場合、構造の細かい画像であると判定するようにする。   For example, the projection image is binarized with a threshold value of a predetermined edge strength using a Laptian filter or the like. Based on the binarized image, it is determined whether the projected image is an image with a fine structure or an image with a rough structure. For example, if the ratio of the number of pixels with edge strength greater than the threshold to the number of pixels in the entire projected image is greater than or equal to a predetermined value, it is determined that the image has a fine structure.

(B)投影画像と、投影画像の縮小・拡大を繰り返した画像との差分を利用して、構造の細かい画像であるか、構造の粗い画像であるかを判定するようにしてもよい。たとえば以下のようなラプラシアン・ピラミッドを使用してもよい。 (B) The difference between the projected image and the image obtained by repeatedly reducing and enlarging the projected image may be used to determine whether the image is a fine structure or a coarse structure. For example, the following Laplacian pyramid may be used.

すなわち、投影画像から1/2倍の縮小画像を作成する。この1/2倍の縮小画像を2倍の拡大画像とし、投影画像と拡大画像との差分をとる。この差分が高周波成分となる。さらに、1/2倍の縮小と2倍の拡大を繰り返した画像と投影画像との差分画像取得を繰り返すことで周波数成分に分けることができる。投影画像と、投影画像から所定の回数の1/2倍の縮小と2倍の拡大を繰り返した画像との間の差分をとった画像を所定の閾値で二値化する。この二値化した画像に基づいて、投影画像が構造の細かい画像であるか、構造の粗い画像であるかを判定するようにしてもよい。   That is, a 1/2 times reduced image is created from the projected image. This 1/2 times reduced image is made a double enlarged image, and the difference between the projected image and the enlarged image is taken. This difference becomes a high frequency component. Furthermore, it is possible to divide into frequency components by repeating the acquisition of the difference image between the image obtained by repeating the reduction of 1/2 times and the enlargement of 2 times and the projection image. An image obtained by calculating a difference between the projected image and an image obtained by repeating the reduction and the enlargement of ½ times and twice the predetermined number of times from the projection image is binarized with a predetermined threshold value. Based on the binarized image, it may be determined whether the projected image is an image with a fine structure or an image with a rough structure.

二値化するための閾値は、どの程度エッジを抽出するか、また、投影画像のノイズレベル(投影面撮影時の明るさなどに依存)により変わる。たとえば、8bit階調であれば、10程度にしてもよい。   The threshold value for binarization varies depending on how many edges are extracted and the noise level of the projection image (depending on the brightness at the time of photographing the projection surface). For example, if it is 8 bit gradation, it may be about 10.

上述のエッジを強調した画像より、投影画像を構造の細かい領域と構造の粗い領域とに分割し、構造の細かい領域では投影画像の補正を行わず、構造の粗い領域では投影画像の補正を行うようにしてもよい。   The projected image is divided into a fine structure area and a rough structure area from the image with the edge emphasized, and the projection image is not corrected in the fine structure area, and the projection image is corrected in the rough structure area. You may do it.

(7)第3の実施の形態によるプロジェクタでは、それぞれ異なる3つの最小反射率R*_min_th2〜4と3つの閾値C_th2〜4とを定め、それらの積で表した3つの第1判断基準値R*_min_th2×C_th2と、第2判断基準値R*_min_th3×C_th3と、第3判断基準値R*_min_th4×C_th4とを、投影面が画像投影に適しているか否かの判断基準として使用したが、判断基準の数は3つに限定されない。それぞれ異なるN個(Nは3以上の自然数)の最小反射率R(i=1,2,・・・,N)と閾値C(i=1,2,・・・,N)とを定め、N個のそれらの積で表したR×C(i=1,2,・・・,N)を投影面が画像投影に適しているか否かの判断基準として使用してもよい。ここで、i=jのときの最小反射率Rは、i=j+1のときの最小反射率Rj+1より小さくし、i=jのときの閾値Cは、i=j+1のときの閾値Cj+1より小さくする(j=1,2,・・・,N−1)。 (7) In the projector according to the third embodiment, three different minimum reflectances R * _min_th2 to 4 and three threshold values C_th2 to 4 are defined, and three first determination reference values R expressed by their products. Although * _min_th2 × C_th2, the second determination reference value R * _min_th3 × C_th3, and the third determination reference value R * _min_th4 × C_th4 were used as the determination reference as to whether or not the projection surface is suitable for image projection. The number of criteria is not limited to three. N different N (N is a natural number of 3 or more) minimum reflectances R i (i = 1, 2,..., N) and thresholds C i (i = 1, 2,..., N). R i × C i (i = 1, 2,..., N) expressed by the product of N pieces may be used as a criterion for determining whether or not the projection plane is suitable for image projection. . Here, the minimum reflectance R j when i = j is smaller than the minimum reflectance R j + 1 when i = j + 1, and the threshold C j when i = j is the threshold C when i = j + 1. It is smaller than j + 1 (j = 1, 2,..., N−1).

(8)第5の実施形態によるプロジェクタでは、R画像((R,G,B)=(255,0,0))、G画像((R,G,B)=(0,255,0))およびB画像((R,G,B)=(0,0,255))を投影面に投影して投影面を評価した。しかし、プロジェクタの画素原色画像を投影面に投影して投影面を評価するものであれば、投影面に投影するプロジェクタの画素原色画像は、R画像、G画像およびB画像に限定されない。 (8) In the projector according to the fifth embodiment, R image ((R, G, B) i = (255,0,0)), G image ((R, G, B) i = (0,255, 0)) and B images ((R, G, B) i = (0, 0, 255)) were projected onto the projection plane to evaluate the projection plane. However, the pixel primary color image of the projector to be projected on the projection plane is not limited to the R image, the G image, and the B image as long as the projection plane is evaluated by projecting the pixel primary color image of the projector onto the projection plane.

図12は、第6の実施の形態における画像処理を説明するフローチャートである。ステップS601からステップS607は、図5のステップS11からステップS17と同一である。すなわち、図12のステップS601の「白画像を投影」は、図5のステップS11と同一であり、同様に図12のステップS602の「投影面を撮影」、ステップS603の「撮影画像の画素値RGBから輝度Yを算出」、ステップS604の「Y_max算出」、ステップS605の「Y_max×R*_min_th>Yを満たす画素の割合はC_th以上?」、ステップS606の「投影可のマークを投影」及びステップS607の「投影不可のマークを投影」は、それぞれ、図5のステップS12、ステップS13、ステップS14、ステップS15、ステップS16、ステップS17と同一である。   FIG. 12 is a flowchart illustrating image processing according to the sixth embodiment. Steps S601 to S607 are the same as steps S11 to S17 in FIG. That is, “project a white image” in step S601 in FIG. 12 is the same as step S11 in FIG. 5. Similarly, “shoot a projection plane” in step S602 in FIG. 12 and “pixel value of a captured image” in step S603. “Calculate brightness Y from RGB”, “Y_max calculation” in step S604, “the ratio of pixels satisfying Y_max × R * _min_th> Y in step S605? C_th or more?”, “Project projectable mark” in step S606, and “Project unmarkable mark” in step S607 is the same as step S12, step S13, step S14, step S15, step S16, and step S17 in FIG.

ステップS606において投影可のマークを投影した場合には、ステップS608により「投影特性の算出」を行う。このステップS608の「投影特性の算出」は、図3のステップS2の投影特性の算出と同一である。   If a projectable mark is projected in step S606, “calculation of projection characteristics” is performed in step S608. The “projection characteristic calculation” in step S608 is the same as the projection characteristic calculation in step S2 of FIG.

同様に図12のステップS609の「投影画像補正係数の決定」、ステップS610の「投影原画像読み込み」、ステップS611の「投影画像の補正」、ステップS612の「投影画像を投影」、及びステップS613の「次の投影原画像あり?」は、それぞれ、図3のステップS3、ステップS5、ステップS6、ステップS7、及びステップS8と同一である。   Similarly, “determination of projection image correction coefficient” in step S609 in FIG. 12, “read projection original image” in step S610, “correction of projection image” in step S611, “project projection image” in step S612, and step S613. "Is there a next projection original image?" Is the same as Step S3, Step S5, Step S6, Step S7, and Step S8 of FIG.

このように、本実施の形態にあっては、白画像を投影した投影面を撮影してその撮影画像に基づき投影面が投影に適するか否かを判別し、投影面が、投影に適している場合には投影可のマークを投影し、投影に適していない場合には投影不可のマークを投影する。   As described above, in the present embodiment, a projection plane on which a white image is projected is photographed, and whether or not the projection plane is suitable for projection is determined based on the photographed image, and the projection plane is suitable for projection. If it is, the mark that can be projected is projected, and if it is not suitable for projection, the mark that cannot be projected is projected.

投影面可のマークを投影した場合には、投影特性を算出して、これに基づき投影画像補正係数を決定する。その後に投影原画像を読み込み、投影画像補正係数に基づきこの読み込んだ投影原画像を補正して、この補正後の投影画像を投影する。   When a mark having a projection plane is projected, projection characteristics are calculated, and a projection image correction coefficient is determined based on the projection characteristics. Thereafter, the projection original image is read, the read projection original image is corrected based on the projection image correction coefficient, and the corrected projection image is projected.

以上の説明はあくまで一例であり、本発明は上記実施形態の構成に何ら限定されるものではない。   The above description is merely an example, and the present invention is not limited to the configuration of the above embodiment.

1 プロジェクタ
30 投影面
31 バツマーク
32 投影画像
101 制御回路
102 メモリ
103 操作部
104 外部インターフェイス
105 メモリカードインターフェイス
110 投射ユニット
120 撮像ユニット
DESCRIPTION OF SYMBOLS 1 Projector 30 Projection surface 31 Cross mark 32 Projected image 101 Control circuit 102 Memory 103 Operation part 104 External interface 105 Memory card interface 110 Projection unit 120 Imaging unit

Claims (5)

投影画像を投影する投影手段と、
前記投影手段により所定の投影画像が投影された投影面を撮影して得られる撮影画像に基づいて、前記投影面が投影に適しているか否かを判定する判定手段と、
前記判定手段で判定した結果をユーザに通知する判定通知手段とを備えることを特徴とするプロジェクタ。
Projection means for projecting a projection image;
Determination means for determining whether or not the projection surface is suitable for projection based on a captured image obtained by photographing a projection surface on which a predetermined projection image is projected by the projection means;
A projector comprising: determination notification means for notifying a user of a result determined by the determination means.
請求項1に記載のプロジェクタにおいて、
前記判定手段は、前記撮影画像の画素の中から、前記撮影画像の中の最大輝度値と所定の最低反射率とを乗算した値より小さい輝度を有する画素を抽出し、前記撮影画像の画素に対する前記抽出された画素の割合が所定割合未満である場合、前記投影面が投影に適していると判定することを特徴とするプロジェクタ。
The projector according to claim 1, wherein
The determination means extracts a pixel having a luminance smaller than a value obtained by multiplying a maximum luminance value in the captured image by a predetermined minimum reflectance from the pixels of the captured image, The projector according to claim 1, wherein if the ratio of the extracted pixels is less than a predetermined ratio, the projection plane is determined to be suitable for projection.
請求項1に記載のプロジェクタにおいて、
前記判定手段は、複数の予め定めた反射率閾値R(i=1,2,・・・,N)と画素割合閾値C(i=1,2,・・・,N)とを用いて、
前記撮影画像の画素の中から、前記撮影画像の中の最大輝度値と前記反射率閾値Rとを乗算した値より小さい輝度を有する画素を抽出し、前記撮影画像の画素に対する前記抽出された画素の割合が前記画素割合閾値C未満である条件を、i=1,2,・・・、Nについて全て満たす場合、前記投影面が投影に適していると判定し、
i=jのときの反射率閾値Rは、i=j+1のときの反射率閾値Rj+1より小さく(j=1,2,・・・,N−1)、i=jのときの画素割合閾値Cは、i=j+1のときの画素割合閾値Cj+1より小さい(j=1,2,・・・,N−1)ことを特徴とするプロジェクタ。
The projector according to claim 1, wherein
The determination means uses a plurality of predetermined reflectance thresholds R i (i = 1, 2,..., N) and pixel ratio thresholds C i (i = 1, 2,..., N). And
A pixel having a luminance smaller than a value obtained by multiplying the maximum luminance value in the photographed image by the reflectance threshold R i is extracted from the pixels of the photographed image, and the extracted pixel for the pixel of the photographed image is extracted. When the ratio of pixels is less than the pixel ratio threshold C i , when i = 1, 2,..., N is satisfied, the projection plane is determined to be suitable for projection,
The reflectance threshold value R j when i = j is smaller than the reflectance threshold value R j + 1 when i = j + 1 (j = 1, 2,..., N−1), and the pixel ratio when i = j. The projector is characterized in that the threshold C j is smaller than the pixel ratio threshold C j + 1 when i = j + 1 (j = 1, 2,..., N−1).
請求項1に記載のプロジェクタにおいて、
前記判定手段は、前記撮影画像の画素の中から、前記撮影画像の中の最大輝度値と、所定の最低反射率とを乗算した値より小さい輝度を有する連続した複数の画素を抽出し、前記撮影画像の画素に対する前記抽出した画素の割合が所定割合未満である場合、前記投影面が投影に適していると判定することを特徴とするプロジェクタ。
The projector according to claim 1, wherein
The determination means extracts a plurality of continuous pixels having a luminance smaller than a value obtained by multiplying a maximum luminance value in the captured image by a predetermined minimum reflectance from the pixels of the captured image, A projector, wherein when the ratio of the extracted pixels to the pixels of a captured image is less than a predetermined ratio, the projection plane is determined to be suitable for projection.
請求項1に記載のプロジェクタにおいて、
前記判定手段は、
前記プロジェクタの画素原色画像を単色毎に投影された投影面を撮影して得られる各撮影画像の画素の中から、前記各撮影画像の全画素の中の最大輝度値と、所定の最低反射率とを乗算した値より小さい輝度を有する画素を抽出し、全ての画素原色画像について、前記撮影画像の画素に対する前記抽出した画素の割合が所定割合未満である場合、前記投影面が投影に適していると判定することを特徴とするプロジェクタ。
The projector according to claim 1, wherein
The determination means includes
Among the pixels of each photographed image obtained by photographing the projection surface obtained by projecting the pixel primary color image of the projector for each single color, the maximum luminance value among all the pixels of each photographed image and a predetermined minimum reflectance When a pixel having a luminance smaller than a value obtained by multiplying is extracted and the ratio of the extracted pixel to the pixel of the photographed image is less than a predetermined ratio for all pixel primary color images, the projection plane is suitable for projection. It is determined that the projector is present.
JP2009004735A 2008-01-11 2009-01-13 projector Active JP5444720B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009004735A JP5444720B2 (en) 2008-01-11 2009-01-13 projector

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2008004219 2008-01-11
JP2008004219 2008-01-11
JP2009004735A JP5444720B2 (en) 2008-01-11 2009-01-13 projector

Publications (2)

Publication Number Publication Date
JP2009187002A true JP2009187002A (en) 2009-08-20
JP5444720B2 JP5444720B2 (en) 2014-03-19

Family

ID=41070250

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009004735A Active JP5444720B2 (en) 2008-01-11 2009-01-13 projector

Country Status (1)

Country Link
JP (1) JP5444720B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011128564A (en) * 2009-12-21 2011-06-30 Canon Inc Projection device, program and control method of projection device
WO2016158490A1 (en) * 2015-03-31 2016-10-06 株式会社メガチップス Projection system, projector device, imaging device, and program

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005010353A (en) * 2003-06-18 2005-01-13 Seiko Precision Inc Projector
JP2006084991A (en) * 2004-09-17 2006-03-30 Canon Inc Projecting device
JP2007208698A (en) * 2006-02-02 2007-08-16 Oki Electric Ind Co Ltd Video projection equipment
JP2007235470A (en) * 2006-02-28 2007-09-13 Brother Ind Ltd Graphic display device
JP2007304284A (en) * 2006-05-10 2007-11-22 Nikon Corp Projector

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005010353A (en) * 2003-06-18 2005-01-13 Seiko Precision Inc Projector
JP2006084991A (en) * 2004-09-17 2006-03-30 Canon Inc Projecting device
JP2007208698A (en) * 2006-02-02 2007-08-16 Oki Electric Ind Co Ltd Video projection equipment
JP2007235470A (en) * 2006-02-28 2007-09-13 Brother Ind Ltd Graphic display device
JP2007304284A (en) * 2006-05-10 2007-11-22 Nikon Corp Projector

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011128564A (en) * 2009-12-21 2011-06-30 Canon Inc Projection device, program and control method of projection device
WO2016158490A1 (en) * 2015-03-31 2016-10-06 株式会社メガチップス Projection system, projector device, imaging device, and program
JP2016191773A (en) * 2015-03-31 2016-11-10 株式会社メガチップス Projection system, projector device, imaging apparatus and program
US9964839B2 (en) 2015-03-31 2018-05-08 Megachips Corporation Projection system, projector apparatus, imaging apparatus, and projection method

Also Published As

Publication number Publication date
JP5444720B2 (en) 2014-03-19

Similar Documents

Publication Publication Date Title
WO2009088080A1 (en) Projector
JP5772991B2 (en) Electronics
JP4831067B2 (en) Image processing apparatus, image processing method, image processing program product, and imaging apparatus
US9443323B2 (en) Image processing apparatus, image processing method and recording medium
KR101927968B1 (en) METHOD AND DEVICE FOR DISPLAYING IMAGE BASED ON METADATA, AND RECORDING MEDIUM THEREFOR
JP2005269639A (en) Method and system for converting color image to gray scale image, gray scale image, method for improving conversion from color to gray scale, and edge emphasizing method
KR20070111389A (en) Image correction circuit, image correction method, and image display
JP2005049841A (en) Display device, information processor, correction value determining method, method for manufacturing display device, and correction value determining system
JP6539032B2 (en) Display control apparatus, display control method, and program
JP2004326082A5 (en)
JP5205978B2 (en) projector
CN106575434B (en) Image processing apparatus, imaging apparatus, and image processing method
JP5444720B2 (en) projector
JP2009171010A (en) Projector
JP2008219289A (en) Video correction device, video display device, imaging apparatus and video correction program
JP2006114006A (en) Gradation conversion apparatus, program, electronic camera, and method therefor
JP6827782B2 (en) Image processing equipment, imaging equipment, image processing methods, image processing programs, and recording media
JP5330291B2 (en) Signal processing apparatus and imaging apparatus
JP5745482B2 (en) Image processing apparatus, image display apparatus, image imaging apparatus, image printing apparatus, gradation conversion method, and program
JP5520135B2 (en) Image processing device
JP6543786B2 (en) Image processing apparatus and image processing method
JP5187351B2 (en) Projector and projected image correction program
JP2020123138A (en) Image processing system, image processing method, program, and storage medium
JP2010206661A (en) Apparatus and method for evaluating luminance unevenness
JP2006201548A (en) Device and method for projecting image

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120112

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120907

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130618

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130814

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130903

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131031

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131126

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131209

R150 Certificate of patent or registration of utility model

Ref document number: 5444720

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250