JP6439254B2 - Image projection apparatus, control method for image projection apparatus, and control program for image projection apparatus - Google Patents

Image projection apparatus, control method for image projection apparatus, and control program for image projection apparatus Download PDF

Info

Publication number
JP6439254B2
JP6439254B2 JP2014036495A JP2014036495A JP6439254B2 JP 6439254 B2 JP6439254 B2 JP 6439254B2 JP 2014036495 A JP2014036495 A JP 2014036495A JP 2014036495 A JP2014036495 A JP 2014036495A JP 6439254 B2 JP6439254 B2 JP 6439254B2
Authority
JP
Japan
Prior art keywords
image
projection
adjustment image
adjustment
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2014036495A
Other languages
Japanese (ja)
Other versions
JP2015162784A (en
Inventor
尚也 横山
尚也 横山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2014036495A priority Critical patent/JP6439254B2/en
Publication of JP2015162784A publication Critical patent/JP2015162784A/en
Application granted granted Critical
Publication of JP6439254B2 publication Critical patent/JP6439254B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Video Image Reproduction Devices For Color Tv Systems (AREA)
  • Projection Apparatus (AREA)

Description

本発明は、画像投影装置、画像投影装置の制御方法、および画像投影装置の制御プログラムに関する。さらに詳述すると、画像投影装置のオートフォーカス制御に関する。   The present invention relates to an image projection apparatus, a control method for the image projection apparatus, and a control program for the image projection apparatus. More specifically, the present invention relates to autofocus control of an image projection apparatus.

近年、講演会、教育現場などにおいて、多数の人に対して巨大な画面を用いてプレゼンテーションを行う機会が著しく増えている。特に、画像投影装置として広く知られたプロジェクタは、液晶パネルの高解像化、光源ランプの高効率化に伴う明るさの改善、低価格化などが進んでいる。また、例えば、DMD(Digital Micro-mirror Device)を利用した小型軽量な画像投影装置が普及し、オフィスや学校のみならず家庭においても広くこれら画像投影装置が利用されるようになってきている。   In recent years, the chances of giving presentations using a huge screen to a large number of people at lectures and educational sites have increased remarkably. In particular, a projector widely known as an image projection apparatus has been improved in the resolution, the price, and the like due to the higher resolution of the liquid crystal panel, the higher efficiency of the light source lamp. In addition, for example, small and light image projectors using DMD (Digital Micro-mirror Device) have become widespread, and these image projectors are widely used not only at offices and schools but also at home.

このような画像投影装置における投影画像の焦点調節方法において、画像投影装置が撮像手段を備え、所定の調整用画像(校正パターン)を被投射面としてのスクリーンに投影し、撮像手段が撮像した調整用画像の階調度の差に基づいて照明光学系を調整して、オートフォーカス(以下、AFとも記す)を行うことが知られている。   In such a method for adjusting the focus of a projected image in an image projection apparatus, the image projection apparatus includes an imaging unit, and a predetermined adjustment image (calibration pattern) is projected onto a screen as a projection surface, and the imaging unit takes an adjustment. It is known to perform autofocusing (hereinafter also referred to as AF) by adjusting the illumination optical system based on the difference in gradation of the image for use.

例えば、特許文献1には、被投写面上に表示される投写画像のフォーカスを調整するための調整用画像を生成する調整用画像生成部と、被投写面上に投写された調整用画像を撮像する撮像部と、を備え、調整用画像生成部は、撮像して得られた撮像調整用画像の階調パターンが、調整用画像の階調パターンに近づくように、生成する調整用画像を変更すプロジェクタが開示されている。特許文献1に記載の技術では、フォーカス調整開始時点におけるプロジェクタの投写状態の影響を抑制して、フォーカス調整の精度を向上させている。   For example, Patent Document 1 discloses an adjustment image generation unit that generates an adjustment image for adjusting the focus of a projection image displayed on a projection surface, and an adjustment image projected on the projection surface. And an adjustment image generating unit that generates an adjustment image to be generated so that the gradation pattern of the imaging adjustment image obtained by imaging approaches the gradation pattern of the adjustment image. A projector to change is disclosed. In the technique described in Patent Document 1, the influence of the projection state of the projector at the start of focus adjustment is suppressed, and the accuracy of focus adjustment is improved.

しかしながら、従来の撮像手段で調整用画像を撮像し、これに基づいてオートフォーカスを行う方法では、調整用画像を投影する被投影面に、模様や汚れ等がある場合、階調度の基準差を特定できず、オートフォーカスの精度が悪くなるという問題があった。   However, in a method in which an image for adjustment is picked up by a conventional image pickup means and autofocus is performed based on the image, if there is a pattern or dirt on the projection surface on which the image for adjustment is projected, a reference difference in gradation is set. There was a problem that the accuracy of autofocus deteriorated because it could not be specified.

そこで本発明は、撮像手段で被投影面を撮像し、被投影面のうち調整用画像の投影に適した領域を検出して、該領域に投影した調整用画像に基づいて、フォーカス調整を行うことでオートフォーカスの精度を向上することができる画像投影装置を提供することを目的とする。   Therefore, the present invention captures an image of a projection surface by an imaging unit, detects a region suitable for projection of the adjustment image on the projection surface, and performs focus adjustment based on the adjustment image projected on the region. Accordingly, an object of the present invention is to provide an image projection apparatus capable of improving the accuracy of autofocus.

かかる目的を達成するため、本発明に係る画像投影装置は、映像信号に基づいて投影画像を生成し、該投影画像を被投影面に投影する画像投影装置において、前記被投影面を撮像する撮像手段と、前記撮像手段による撮像画像に基づいて、前記被投影面の色分布情報を検出して、焦点制御に用いる調整用画像の投影可能領域であるか否かを判断する色分布情報検出手段と、前記色分布情報検出手段で検出した前記調整用画像の投影可能領域に、調整用画像を投影させる調整用画像投影手段と、前記被投影面に投影された前記調整用画像を前記撮像手段により撮像した撮像画像に基づいて、照明光学系を調整させる焦点制御手段と、を備えたものである。   In order to achieve such an object, an image projection apparatus according to the present invention generates a projection image based on a video signal, and captures an image of the projection surface in an image projection apparatus that projects the projection image onto the projection surface. And color distribution information detection means for detecting color distribution information of the projection surface based on an image captured by the imaging means and determining whether or not it is a projectable area of an adjustment image used for focus control Adjustment image projecting means for projecting the adjustment image onto the projectable area of the adjustment image detected by the color distribution information detecting means; and the image capturing means for projecting the adjustment image projected on the projection surface Focus control means for adjusting the illumination optical system based on the picked-up image picked up by the above.

本発明によれば、画像投影装置のオートフォーカス精度を向上することができる。   According to the present invention, the autofocus accuracy of the image projection apparatus can be improved.

画像投影システムの一例を示す概略構成図である。It is a schematic block diagram which shows an example of an image projection system. 画像投影装置の構成を示すブロック図である。It is a block diagram which shows the structure of an image projector. 色分布情報検出処理の説明図である。It is explanatory drawing of a color distribution information detection process. 調整用画像の投影処理の説明図である。It is explanatory drawing of the projection process of the image for adjustment. 画像投影装置によるオートフォーカス制御のフローチャートである。It is a flowchart of the autofocus control by an image projector.

以下、本発明に係る構成を図1から図5に示す実施の形態に基づいて詳細に説明する。   Hereinafter, the configuration according to the present invention will be described in detail based on the embodiment shown in FIGS.

本実施形態に係る画像投影装置は、映像信号に基づいて投影画像(投影画像202)を生成し、該投影画像を被投影面(スクリーン200)に投影する画像投影装置(画像投影装置100)において、被投影面を撮像する撮像手段(カメラ103)と、撮像手段による撮像画像に基づいて、被投影面の色分布情報を検出して、焦点制御に用いる調整用画像(AFパターン206)の投影可能領域であるか否かを判断する色分布情報検出手段(色分布情報検出部110)と、色分布情報検出手段で検出した調整用画像の投影可能領域に、調整用画像を投影させる調整用画像投影手段(調整用画像投影部111)と、被投影面に投影された調整用画像を撮像手段により撮像した撮像画像に基づいて、照明光学系(照明光学系107)を調整させる焦点制御手段(焦点制御部112)と、を備えたものである。なお、括弧内は実施形態での符号、適用例を示す。   An image projection apparatus according to the present embodiment generates a projection image (projection image 202) based on a video signal, and projects the projection image onto a projection surface (screen 200) (image projection apparatus 100). An image pickup means (camera 103) for picking up an image to be projected, and color distribution information on the face to be projected is detected based on an image taken by the image pickup means, and an adjustment image (AF pattern 206) used for focus control is projected. A color distribution information detection unit (color distribution information detection unit 110) for determining whether or not the image is an available region, and an adjustment image for projecting the adjustment image onto the projectable region of the adjustment image detected by the color distribution information detection unit. The illumination optical system (illumination optical system 107) is adjusted based on the image projection unit (adjustment image projection unit 111) and a captured image obtained by imaging the adjustment image projected on the projection surface by the imaging unit. A point control unit (focus control unit 112), those having a. In addition, the code | symbol in embodiment and an application example are shown in a parenthesis.

(画像投影システムの構成)
図1は、画像投影システム300の一例を示す概略構成図である。画像投影システム300は、画像投影装置(プロジェクタ)100と、映像供給装置150とを含んで構成されており、画像投影装置100と映像供給装置150とは、ケーブル160によって接続される。
(Image projection system configuration)
FIG. 1 is a schematic configuration diagram illustrating an example of an image projection system 300. The image projection system 300 includes an image projection device (projector) 100 and a video supply device 150, and the image projection device 100 and the video supply device 150 are connected by a cable 160.

画像投影装置100は、映像供給装置150が提供する画像をスクリーン200などの被投影面に投影する画像出力装置である。また、画像投影装置100は、映像供給装置150が提供する画像と共に、ユーザが種々の操作を指定可能なメニュー画面等のOSD画面(重畳画像)を投影する。OSD画面は、映像供給装置150から画像が提供されない際にも投影される。   The image projection device 100 is an image output device that projects an image provided by the video supply device 150 onto a projection surface such as a screen 200. In addition to the image provided by the video supply device 150, the image projection device 100 projects an OSD screen (superimposed image) such as a menu screen that allows the user to specify various operations. The OSD screen is also projected when no image is provided from the video supply device 150.

画像投影装置100は、映像信号を入力するインタフェースとして、D−Subコネクタ等のVGA(Video Graphics Array)入力端子やHDMI(登録商標)(High-Definition Multimedia Interface)端子、RGB端子、DisplayPort端子、S−VIDEO端子、RCA端子等の入力端子を備えており、これらの端子に接続されたケーブル160を介して映像供給装置150から映像信号を受信する。なお、画像投影装置100は、Bluetooth(登録商標)やWiFi(登録商標)等の無線通信プロトコルに準拠した無線通信により、映像供給装置150から映像信号を受信してもよい。   The image projection apparatus 100 has, as an interface for inputting a video signal, a VGA (Video Graphics Array) input terminal such as a D-Sub connector, an HDMI (registered trademark) (High-Definition Multimedia Interface) terminal, an RGB terminal, a DisplayPort terminal, an S An input terminal such as a VIDEO terminal or an RCA terminal is provided, and a video signal is received from the video supply device 150 via a cable 160 connected to these terminals. Note that the image projection apparatus 100 may receive a video signal from the video supply apparatus 150 by wireless communication based on a wireless communication protocol such as Bluetooth (registered trademark) or WiFi (registered trademark).

映像供給装置150は、画像投影装置100が投影すべき画像を提供する装置である。映像供給装置150は、映像信号を出力するインタフェースを備えており、映像供給装置150の表示画像を形成する映像信号を所定の転送レート(例えば、30fps(frame per second)〜60fps)で画像投影装置100に送信する。   The video supply device 150 is a device that provides an image to be projected by the image projection device 100. The video supply device 150 includes an interface that outputs a video signal, and an image projection device that transmits a video signal forming a display image of the video supply device 150 at a predetermined transfer rate (for example, 30 fps (frame per second) to 60 fps). To 100.

映像供給装置150も同様に、映像信号を出力するインタフェースとしてVGA出力端子やHDMI端子等の出力端子を備えており、これらの端子に接続されたケーブル160を介して画像投影装置100に送信することができる。なお、映像供給装置150は、無線通信により、画像投影装置100に映像信号を送信してもよい。   Similarly, the video supply device 150 includes an output terminal such as a VGA output terminal or an HDMI terminal as an interface for outputting a video signal, and transmits the image signal to the image projection device 100 via a cable 160 connected to these terminals. Can do. Note that the video supply device 150 may transmit a video signal to the image projection device 100 by wireless communication.

映像供給装置150としては、例えば、ノート型PC(情報処理装置)を用いることができるが、デスクトップ型PCやタブレット型PC、PDA、DVDプレーヤー、ブルーレイディスクプレーヤー等の映像信号を供給可能な装置を適用することができる。また、図1に示す例では、画像投影装置100に1台の映像供給装置150が接続されているが、画像投影装置100は、2以上の映像供給装置150を接続することができる。また、1の映像供給装置150に複数台の画像投影装置100を接続して、スクリーン200上の互いに異なる投影領域に画像を投影し、投影された画像を組み合わせることで単一の画像投影を行うマルチプロジェクションシステムとしても良い。   As the video supply device 150, for example, a notebook PC (information processing device) can be used, but a device capable of supplying video signals such as a desktop PC, a tablet PC, a PDA, a DVD player, and a Blu-ray disc player is used. Can be applied. In the example shown in FIG. 1, one video supply device 150 is connected to the image projection device 100, but the image projection device 100 can connect two or more video supply devices 150. In addition, a plurality of image projection apparatuses 100 are connected to one video supply apparatus 150, and images are projected onto different projection areas on the screen 200, and a single image is projected by combining the projected images. A multi-projection system may be used.

さらに、図1に示すように、画像投影装置100は、撮像手段としてのカメラ103と、照明光学系107を備えており、スクリーン200上に投影画像202を投影する。   Further, as shown in FIG. 1, the image projection apparatus 100 includes a camera 103 as an imaging unit and an illumination optical system 107, and projects a projection image 202 on a screen 200.

図1に示す例において、投影画像202が投影されているスクリーン200上の領域(投影領域203という)には、灰色領域204と白色領域205が存在している。ここで、灰色で示す領域(灰色領域204)は、スクリーン200上に汚れのある領域を示しており、その他の白色で示す領域(白色領域205)は、汚れのない領域であるものとする。なお、本実施形態では、スクリーン200が白色である例について説明する。   In the example shown in FIG. 1, a gray area 204 and a white area 205 exist in an area on the screen 200 on which the projection image 202 is projected (referred to as a projection area 203). Here, it is assumed that the gray area (gray area 204) indicates a dirty area on the screen 200, and the other white area (white area 205) is an area without dirt. In the present embodiment, an example in which the screen 200 is white will be described.

ここで、画像投影装置100が備えるカメラ103による視野(撮像範囲201)は、少なくとも投影領域203よりも大きいものとしている。したがって、カメラ103により、投影画像202の全域を撮像することが可能である。なお、図1において、点線の矢印103aはカメラ103の光路、実線の矢印107aは照明光学系107からの投射光の光路を表している。   Here, it is assumed that the field of view (imaging range 201) by the camera 103 included in the image projection apparatus 100 is at least larger than the projection region 203. Therefore, the entire area of the projection image 202 can be captured by the camera 103. In FIG. 1, the dotted arrow 103 a indicates the optical path of the camera 103, and the solid arrow 107 a indicates the optical path of the projection light from the illumination optical system 107.

(画像投影装置の構成)
図2は、本実施形態に係る画像投影装置100の構成を示すブロック図である。
(Configuration of image projector)
FIG. 2 is a block diagram illustrating a configuration of the image projection apparatus 100 according to the present embodiment.

画像投影装置100は、入力インタフェース部101と、画像処理回路102と、カメラ103と、カメラ制御回路104と、主制御部105と、操作部106と、照明光学系107と、照明光学系駆動回路108と、を備えている。   The image projection apparatus 100 includes an input interface unit 101, an image processing circuit 102, a camera 103, a camera control circuit 104, a main control unit 105, an operation unit 106, an illumination optical system 107, and an illumination optical system drive circuit. 108.

入力インタフェース部101は、画像投影装置100に画像を供給する映像供給装置150にケーブル160で接続される端子部である。上記のようにHDMI端子などを備え、映像信号を受信する。   The input interface unit 101 is a terminal unit that is connected to a video supply device 150 that supplies an image to the image projection device 100 via a cable 160. As described above, an HDMI terminal or the like is provided and a video signal is received.

画像処理回路102は、入力された映像信号を所定の映像データ(例えば、RGBのデジタル映像データ)に変換し、主制御部105に転送する。   The image processing circuit 102 converts the input video signal into predetermined video data (for example, RGB digital video data) and transfers it to the main control unit 105.

ここで、主制御部105は、上記各部との制御信号の送受信を行うものであり、また、メインプロセッサであるCPU(Central Processing Unit)、各種の制御プログラム、オートフォーカス制御用の調整用画像等を記憶したROM(Read Only Memory)と、各処理におけるデータを一時的に格納しておくメモリデバイス(例えば、SDRAM(Synchronous Dynamic Random Access Memory)等)と、電源OFF時にも設定情報等を記録しておくデータ保持メモリデバイスであるNVRAM(Non Volatile RAM)等がバスで接続されて構成される。   Here, the main control unit 105 transmits and receives control signals to and from the above-described units, and also includes a CPU (Central Processing Unit) that is a main processor, various control programs, adjustment images for autofocus control, and the like. A ROM (Read Only Memory) that stores data, a memory device (eg, SDRAM (Synchronous Dynamic Random Access Memory) etc.) that temporarily stores data in each process, and setting information etc. are recorded even when the power is turned off. An NVRAM (Non Volatile RAM) which is a data holding memory device to be stored is connected by a bus.

また、主制御部105は、カメラ103による撮像画像に基づいて、スクリーン200上の投影領域203の色分布情報を検出して、焦点制御に用いる調整用画像の投影可能領域であるか否かを判断する色分布情報検出部110と、調整用画像の投影可能領域に、調整用画像を投影させる調整用画像投影部111と、スクリーン200に投影された調整用画像をカメラ103により撮像した撮像画像に基づいて、照明光学系107を調整させる焦点制御部112と、を備えるものである。   Further, the main control unit 105 detects the color distribution information of the projection area 203 on the screen 200 based on the image captured by the camera 103, and determines whether or not the adjustment image can be projected in the focus control. The color distribution information detection unit 110 to be determined, the adjustment image projection unit 111 that projects the adjustment image onto the projectable region of the adjustment image, and the captured image obtained by capturing the adjustment image projected on the screen 200 with the camera 103 And a focus control unit 112 for adjusting the illumination optical system 107 based on the above.

また、主制御部105は、画像処理回路102より転送される映像データを表示すべく、照明光学系駆動回路108する。   The main control unit 105 also causes the illumination optical system driving circuit 108 to display the video data transferred from the image processing circuit 102.

照明光学系駆動回路108は、主制御部105からの制御に基づいて、照明光学系107を制御して、投影画像202を投影する。照明光学系107は、液晶ライトバルブやカラーホイール、DMD(Digital Micromirror Device)などを備えるとともに、画像、映像をスクリーン200に表示するための映像光を反射するミラー(反射光学系)、拡大/縮小するレンズ(投影光学系)を備えている。   The illumination optical system drive circuit 108 controls the illumination optical system 107 based on the control from the main control unit 105 to project the projection image 202. The illumination optical system 107 includes a liquid crystal light valve, a color wheel, a DMD (Digital Micromirror Device), and the like, a mirror (reflection optical system) that reflects video light for displaying images and videos on the screen 200, and enlargement / reduction. Lens (projection optical system).

操作部106は、ユーザからの種々の操作要求を受け付けるものであり、画像投影装置100の外面に設けられるキーボタン(本体キー)等によって構成される。操作部106は、操作要求を受け付けると、当該操作要求を主制御部105に通知する。また、操作部106は、遠隔操作装置であるリモコンからの操作信号を受信して、当該操作信号を主制御部105に通知する。   The operation unit 106 receives various operation requests from the user, and is configured by key buttons (main body keys) provided on the outer surface of the image projection apparatus 100. When receiving the operation request, the operation unit 106 notifies the main control unit 105 of the operation request. Further, the operation unit 106 receives an operation signal from a remote controller that is a remote operation device, and notifies the main control unit 105 of the operation signal.

本体およびリモコンには、画像投影装置100の電源をオンオフする電源キー、各種設定を行うメニューキー、十字キー、決定キー、入力信号の切替を行うインプットキー等が設けられている。なお、各種設定、入力切替時の映像データは、主制御部105によるOSD処理により形成される。   The main body and the remote control are provided with a power key for turning on / off the power of the image projection apparatus 100, a menu key for performing various settings, a cross key, a determination key, an input key for switching input signals, and the like. Note that video data at the time of various settings and input switching is formed by OSD processing by the main control unit 105.

カメラ103は、スクリーン200上において少なくとも投影領域203全域を撮像可能な撮像手段である。例えば、画像投影装置100の投射レンズ側の面に設けられ、画像投影装置100前方を撮影する。なお、カメラ103は、カメラ制御回路104によって、制御される。   The camera 103 is an imaging unit that can image at least the entire projection region 203 on the screen 200. For example, it is provided on the projection lens side surface of the image projection apparatus 100 and images the front of the image projection apparatus 100. The camera 103 is controlled by the camera control circuit 104.

以上説明した画像投影装置100では、カメラ103により、投影画像202が撮像されると、カメラ制御回路104から主制御部105へ撮像画像が送信され、主制御部105の色分布情報検出部110は、後述する色分布情報検出処理を行う。また、主制御部105の調整用画像投影部111は、色分布情報検出処理の結果に従って、後述する調整用画像の投影処理を行って、AF用の調整用画像がスクリーン上の最適な領域に投影されるように処理する。   In the image projection apparatus 100 described above, when the projection image 202 is captured by the camera 103, the captured image is transmitted from the camera control circuit 104 to the main control unit 105, and the color distribution information detection unit 110 of the main control unit 105 Then, color distribution information detection processing described later is performed. Further, the adjustment image projection unit 111 of the main control unit 105 performs an adjustment image projection process, which will be described later, according to the result of the color distribution information detection process, so that the AF adjustment image is placed in an optimum area on the screen. Process as projected.

このようにして調整用画像がスクリーン200に投影された後に、該調整用画像をカメラ103で撮像し、カメラ103から得られた撮像画像に基づいて、主制御部105の焦点制御部112は、照明光学系駆動回路108を制御して、照明光学系107を調節して、オートフォーカスを実行するものである。   After the adjustment image is projected on the screen 200 in this way, the adjustment image is captured by the camera 103. Based on the captured image obtained from the camera 103, the focus control unit 112 of the main control unit 105 The illumination optical system drive circuit 108 is controlled to adjust the illumination optical system 107 to execute autofocus.

(色分布情報検出処理)
画像投影装置100の色分布情報検出部110が実行する投影領域の色分布情報検出処理について説明する。ここで色分布情報とは、投影画像202が投影されるスクリーン200上の投影領域203を撮像した撮像した撮像画像に基づいて算定されるスクリーン200の色の分布状態(色情報と位置情報)をいう。
(Color distribution information detection processing)
The color distribution information detection process of the projection area executed by the color distribution information detection unit 110 of the image projection apparatus 100 will be described. Here, the color distribution information is a color distribution state (color information and position information) of the screen 200 calculated based on a captured image obtained by capturing the projection area 203 on the screen 200 on which the projection image 202 is projected. Say.

本実施形態では、スクリーン200は汚れ等がない状態において白色であることを前提としており、スクリーン200上の投影領域203において白色のレベル(白レベルともいう)が所定以上である部分を検出する。   In the present embodiment, it is assumed that the screen 200 is white in a state where there is no dirt or the like, and a portion where a white level (also referred to as a white level) is a predetermined level or higher is detected in the projection region 203 on the screen 200.

色分布情報検出処理は、カメラ103により撮像される撮像画像の画像データの各画素の色情報(RGBなど)の値に基づいて、白色のレベルを判断するものである。例えば、RGB表色系の場合、白色はR=255,G=255,B=255で表されるため、この値に対して、所定の閾値(基準値)を設定し、スクリーン200の色である白色のレベルが強い領域であるか、汚れ等がある箇所であり白色のレベルが弱い領域であるかを判断するものである。ここで、白色のレベルが強い領域は、調整用画像の投影に適している領域(調整用画像の投影可能領域)となり、白色のレベルが弱い領域は、調整用画像の投影に適していない領域(調整用画像の投影不可領域)となる。   In the color distribution information detection process, the white level is determined based on the value of color information (such as RGB) of each pixel of the image data of the captured image captured by the camera 103. For example, in the case of the RGB color system, white is represented by R = 255, G = 255, and B = 255. For this value, a predetermined threshold (reference value) is set, and the color of the screen 200 is set. It is determined whether a certain white level is a strong region or whether there is a stain or the like and a white level is weak. Here, a region with a strong white level is a region suitable for projecting the adjustment image (a projectable region for the adjustment image), and a region with a weak white level is a region not suitable for projecting the adjustment image. (A non-projectable area of the adjustment image).

図3は、投影領域の色分布情報検出処理の説明図であって、カメラ103で投影領域203を撮像した撮影画像における1次元空間(線分領域207)を模式的に示すとともに、当該1次元空間における白レベルを示すグラフを示したものである。図3に示すグラフの横軸は、線分領域207の位置(空間)に対応し、縦軸は白レベルの強度を示している。   FIG. 3 is an explanatory diagram of the color distribution information detection process of the projection area, schematically showing a one-dimensional space (line segment area 207) in a captured image obtained by capturing the projection area 203 with the camera 103, and the one-dimensional It is a graph showing the white level in space. The horizontal axis of the graph shown in FIG. 3 corresponds to the position (space) of the line segment region 207, and the vertical axis represents the intensity of the white level.

色分布情報検出処理では、線分領域207を構成する各画素についての白レベルを判断する。図3に示すように、灰色領域204では白レベルの強度が非常に低くなり、また白色領域205では白レベルの強度が高くなる。例えば、白レベルの算出結果は、灰色領域204に対応する位置ではΔ204の白レベル強度、白色領域205に対応する位置ではΔ205の白レベル強度となる。   In the color distribution information detection process, the white level for each pixel constituting the line segment region 207 is determined. As shown in FIG. 3, the white level intensity is very low in the gray area 204, and the white level intensity is high in the white area 205. For example, the calculation result of the white level is a white level intensity of Δ204 at a position corresponding to the gray area 204 and a white level intensity of Δ205 at a position corresponding to the white area 205.

そして、図3に示すように、白レベル強度に所定の基準値を設け、基準値を超える画素に対応する領域をスクリーン200の汚れ等のない調整用画像の投影可能領域(白色領域205)と判断している。また、基準値以下の画素に対応する領域をスクリーン200の汚れ等のある調整用画像の投影不可領域(灰色領域204)と判断している。   Then, as shown in FIG. 3, a predetermined reference value is set for the white level intensity, and an area corresponding to a pixel exceeding the reference value is defined as a projectable area (white area 205) of the adjustment image having no dirt on the screen 200. Deciding. In addition, the area corresponding to the pixel below the reference value is determined as the non-projectable area (gray area 204) of the adjustment image having the stain on the screen 200.

ここまで、1次元空間である線分領域207の白レベルを求めることを説明したが、投影領域203の全域について、同様に白レベル強度を算出することで、2次元空間(投影領域203)における白レベル強度を測定する。このように投影領域203を撮像した撮像画像に基づいて、スクリーン200上における色分布情報を検出する。そして、投影領域203を白色領域205と灰色領域204に区分している。   So far, it has been described that the white level of the line segment region 207 which is a one-dimensional space is obtained. However, by calculating the white level intensity in the same manner for the entire projection region 203, the two-dimensional space (projection region 203) Measure the white level intensity. Color distribution information on the screen 200 is detected based on the captured image obtained by capturing the projection region 203 in this way. The projection area 203 is divided into a white area 205 and a gray area 204.

なお、本実施形態では、撮像画像のすべての画素について、白レベルを算出しているが、白レベルの算出方法はこれに限られるものではなく、例えば、画素を所定間隔で間引いて実行するようにしても良い。また、所定の画素数単位で領域に区分し、領域毎に平均値を求め、これを基準値と比較するようにしてもよい。   In this embodiment, the white level is calculated for all the pixels of the captured image. However, the white level calculation method is not limited to this. For example, the pixels are thinned out at predetermined intervals. Anyway. Further, it may be divided into regions in units of a predetermined number of pixels, an average value is obtained for each region, and this is compared with a reference value.

また、本実施形態では、スクリーン200が白色であることを前提としたが、スクリーン200が有色(薄いクリーム色など)の場合には、スクリーン200の有する色を基準として、投影可能か否かを判定するために色情報の基準値の範囲を決定し、これに基づいて、調整用画像の投影可能領域と調整用画像の投影不可領域を判断するようにすればよい。   Further, in the present embodiment, it is assumed that the screen 200 is white. However, when the screen 200 is colored (such as a light cream color), it is determined whether or not projection is possible based on the color of the screen 200. In order to make a determination, the reference value range of the color information is determined, and based on this, the projectable area of the adjustment image and the unprojectable area of the adjustment image may be determined.

(調整用画像の投影処理)
次に、画像投影装置100の調整用画像投影部111が実行する調整用画像の投影処理について説明する。
(Projection of adjustment image)
Next, adjustment image projection processing executed by the adjustment image projection unit 111 of the image projection apparatus 100 will be described.

図4は、調整用画像の投影処理の説明図であって、カメラ103で投影領域203を撮像した時の2次元空間(撮像画像)における白色領域205と灰色領域204とを模式的に示すと共に、白色領域205に調整用画像(AFパターン206)を投影した様子を示す図である。   FIG. 4 is an explanatory diagram of the adjustment image projection processing, schematically showing the white region 205 and the gray region 204 in a two-dimensional space (captured image) when the projection region 203 is imaged by the camera 103. FIG. 5 is a diagram showing a state in which an adjustment image (AF pattern 206) is projected onto a white region 205.

調整用画像の投影処理では、先ず、上記色分布情報検出処理において検出された白色領域205が主制御部105の記憶部(ROMなど)に記憶された調整用画像であるAFパターン206のサイズよりも大きいか否かを判定する。なお、色分布情報検出処理において、白色領域205が複数位置に分離して検出された場合は、最も大きい白色領域205について判定を行うようにすればよい。   In the adjustment image projection process, first, the white area 205 detected in the color distribution information detection process is determined based on the size of the AF pattern 206 that is an adjustment image stored in the storage unit (ROM or the like) of the main control unit 105. It is determined whether or not it is larger. In the color distribution information detection process, when the white area 205 is detected separately at a plurality of positions, the largest white area 205 may be determined.

図4において、横軸は水平距離X、縦軸は垂直距離Yを表している。カメラ103で撮像した投影領域203の撮像画像には、灰色領域204と白色領域205に相当する領域が含まれている。また、検出した白色領域205の水平距離をX1、垂直距離をY1、AFパターン206の水平距離をΔX、垂直距離をΔYとして示している。   In FIG. 4, the horizontal axis represents the horizontal distance X, and the vertical axis represents the vertical distance Y. The captured image of the projection area 203 captured by the camera 103 includes areas corresponding to the gray area 204 and the white area 205. Further, the horizontal distance of the detected white region 205 is indicated as X1, the vertical distance as Y1, the horizontal distance of the AF pattern 206 as ΔX, and the vertical distance as ΔY.

調整用画像投影部111は、白色領域205の水平距離X1と垂直距離Y1がAFパターンの水平距離ΔX、垂直距離ΔYより大きいか否かを判定し、大きい場合は白色領域205に対してAFパターン206を投射し、焦点制御部112により、AF制御がなされる。一方、小さい場合は、AFパターン206を投影可能なサイズの白色領域205がないこととなるため、エラー処理とする。   The adjustment image projection unit 111 determines whether the horizontal distance X1 and the vertical distance Y1 of the white area 205 are larger than the horizontal distance ΔX and the vertical distance ΔY of the AF pattern. 206 is projected, and the focus control unit 112 performs AF control. On the other hand, if it is small, there is no white area 205 of a size that can project the AF pattern 206, and therefore error processing is performed.

なお、図4に示す縞模様のAFパターン206は一例であって、調整用画像としてのAFパターン206は、これに限られるものではない。また、焦点制御部112が実行する調整用画像に基づくAF制御の方法も、特に限られるものではなく、公知または新規の方法を適用することができる。   Note that the striped AF pattern 206 shown in FIG. 4 is an example, and the AF pattern 206 as the adjustment image is not limited to this. Also, the AF control method based on the adjustment image executed by the focus control unit 112 is not particularly limited, and a known or new method can be applied.

(オートフォーカス制御)
図5は、画像投影装置100が実行するオートフォーカス制御の処理フローチャートである。
(Auto focus control)
FIG. 5 is a process flowchart of autofocus control executed by the image projection apparatus 100.

先ず、画像投影装置100の電源が操作部106よりオンにされると(S101)、カメラ制御回路104はカメラ103を起動させる(S102)。   First, when the power of the image projection apparatus 100 is turned on by the operation unit 106 (S101), the camera control circuit 104 activates the camera 103 (S102).

次いで、画像投影装置100の照明光学系107から投影画像202が投影される(S103)。ここで、画像投影装置100の設定において、AF設定がオンになっているか否かを判断する。なお、AF設定は操作部106からオンオフの設定が可能となっている。   Next, the projection image 202 is projected from the illumination optical system 107 of the image projection apparatus 100 (S103). Here, it is determined whether or not AF setting is turned on in the setting of the image projection apparatus 100. The AF setting can be turned on / off from the operation unit 106.

AF設定がオンの場合(S104:Yes)、カメラ103により投影領域203の撮像がなされる(S105)。なお、この投影領域203の撮像の瞬間は、AVミュートや内部光学系フィルターなどを用いて一時的に投影画像202をスクリーン200に投影しないようにする。   When the AF setting is on (S104: Yes), the camera 103 images the projection area 203 (S105). Note that, at the moment of imaging of the projection area 203, the projection image 202 is temporarily not projected on the screen 200 by using an AV mute, an internal optical system filter, or the like.

次いで、撮像した画像データに基づいて、上述の投影領域の色分布情報検出処理を実行して(S106)、白色領域205と灰色領域204を検出する。   Next, based on the captured image data, the color distribution information detection process for the projection area described above is executed (S106), and the white area 205 and the gray area 204 are detected.

次いで、調整用画像の投影処理を実行する(S107)。上述のように、検出した白色領域205の最も大きいもののサイズが、画像投影装置100に記憶された調整用画像であるAFパターン206よりも2次元平面上において大きいかどうかを判定する。   Next, an adjustment image projection process is executed (S107). As described above, it is determined whether the size of the detected largest white area 205 is larger on the two-dimensional plane than the AF pattern 206 that is the adjustment image stored in the image projection apparatus 100.

AFパターン206よりも白色領域205が小さい場合(S107:No)は、エラー通知を行う(S108)。エラー通知により、スクリーンの汚れなどによる影響によりオートフォーカス制御が実行できないことをユーザに通知し、S104へ戻る。なお、エラー通知処理は、特に限られるものではないが、例えば、画像投影装置100が備える音声出力ユニットから音声出力によりユーザへエラー通知を行ってもよいし、投影画像202へエラー表示をOSD表示するようにしても良い。   If the white area 205 is smaller than the AF pattern 206 (S107: No), an error notification is given (S108). The error notification notifies the user that the autofocus control cannot be executed due to the influence of the dirt on the screen, and the process returns to S104. The error notification process is not particularly limited. For example, an error notification may be sent to the user by voice output from a voice output unit included in the image projection apparatus 100, or an error display is displayed on the projection image 202 as an OSD display. You may make it do.

一方、白色領域205がAFパターン206よりも大きい場合(S107:Yes)は、AFパターン206を当該白色領域205内に投影し、投影されたAFパターン206に基づいて所定のオートフォーカス制御を実行する(S109)。   On the other hand, when the white area 205 is larger than the AF pattern 206 (S107: Yes), the AF pattern 206 is projected into the white area 205, and predetermined autofocus control is executed based on the projected AF pattern 206. (S109).

以上説明した本実施形態に係る画像投影装置によれば、カメラ103でスクリーン200上の投影領域203を撮像し、投影領域203の色分布情報(色情報と位置情報)を算出して、調整用画像の投影に適した領域を検出し、該領域に調整用画像を投影し、投影された調整用画像に基づいてフォーカス調整を行うことで、スクリーン模様や汚れ、や蛍光灯などの外乱による色の影響を受けることを抑制して、オートフォーカスの精度を向上することができる。   According to the image projection apparatus according to the present embodiment described above, the camera 103 images the projection area 203 on the screen 200, calculates the color distribution information (color information and position information) of the projection area 203, and performs adjustment. By detecting an area suitable for projecting an image, projecting an adjustment image onto the area, and performing focus adjustment based on the projected adjustment image, colors caused by disturbances such as screen patterns, dirt, and fluorescent lights It is possible to improve the autofocus accuracy by suppressing the influence of.

尚、上述の実施形態は本発明の好適な実施の例ではあるがこれに限定されるものではなく、本発明の要旨を逸脱しない範囲において種々変形実施可能である。   The above-described embodiment is a preferred embodiment of the present invention, but is not limited thereto, and various modifications can be made without departing from the gist of the present invention.

なお、主制御部105の色分布情報検出部110、調整用画像投影部111、および焦点制御部112は、例えば、主制御部105のCPUで実行されるソフトウェア(制御プログラム)を画像投影装置100で実行させることで構成できる。   Note that the color distribution information detection unit 110, the adjustment image projection unit 111, and the focus control unit 112 of the main control unit 105, for example, execute software (control program) executed by the CPU of the main control unit 105 as the image projection apparatus 100. Can be configured by running

100 画像投影装置(プロジェクタ)
101 入力インタフェース部
102 画像処理回路
103 カメラ(撮像手段)
104 カメラ制御回路
105 主制御部
106 操作部
107 照明光学系
108 照明光学系駆動回路
110 色分布情報検出部
111 調整用画像投影部
112 焦点制御部
150 映像供給装置
160 ケーブル
200 スクリーン(被投影面)
201 撮像範囲
202 投影画像
203 投影領域
204 灰色領域(調整用画像の投影不可領域)
205 白色領域(調整用画像の投影可能領域)
206 AFパターン(調整用画像)
300 画像投影システム
100 Image projector (projector)
101 Input Interface Unit 102 Image Processing Circuit 103 Camera (Imaging Means)
104 Camera Control Circuit 105 Main Control Unit 106 Operation Unit 107 Illumination Optical System 108 Illumination Optical System Drive Circuit 110 Color Distribution Information Detection Unit 111 Adjustment Image Projection Unit 112 Focus Control Unit 150 Video Supply Device 160 Cable 200 Screen (Projection Surface)
201 Imaging range 202 Projected image 203 Projected area 204 Gray area (area where adjustment image cannot be projected)
205 White area (area where adjustment image can be projected)
206 AF pattern (adjustment image)
300 Image projection system

特開2013−187729号公報JP 2013-187729 A

Claims (5)

映像信号に基づいて投影画像を生成し、該投影画像を被投影面に投影する画像投影装置において、
前記被投影面を撮像する撮像手段と、
前記撮像手段により、前記投影画像が投影されていないときの前記被投影面を撮像した撮像画像に基づいて、前記被投影面の色分布情報を検出して、焦点制御に用いる調整用画像の投影可能領域であるか否かを判断する色分布情報検出手段と、
前記色分布情報検出手段で検出した前記調整用画像の投影可能領域に、調整用画像を投影させる調整用画像投影手段と、
前記被投影面に投影された前記調整用画像を前記撮像手段により撮像した撮像画像に基づいて、照明光学系を調整させる焦点制御手段を備え、
前記調整用画像投影手段は、前記調整用画像の投影可能領域が、前記調整用画像を投影可能な大きさを有する領域であるかを判断し、投影可能な場合に前記調整用画像を投影させ、投影不可の場合は前記調整用画像が投影不可であることを外部に通知することを特徴とする画像投影装置。
In an image projection apparatus that generates a projection image based on a video signal and projects the projection image on a projection surface.
Imaging means for imaging the projection surface;
Projecting an adjustment image used for focus control by detecting color distribution information of the projection surface based on a captured image obtained by imaging the projection surface when the projection image is not projected by the imaging means Color distribution information detecting means for determining whether or not it is a possible region;
Adjustment image projection means for projecting the adjustment image onto the projectable area of the adjustment image detected by the color distribution information detection means;
A focus control unit that adjusts an illumination optical system based on a captured image obtained by capturing the adjustment image projected on the projection surface by the imaging unit;
The adjustment image projecting unit determines whether a projectable area of the adjustment image is an area having a size capable of projecting the adjustment image, and projects the adjustment image when the adjustment image can be projected. When the projection is impossible, the image projection apparatus notifies the outside that the adjustment image cannot be projected.
前記撮像手段による前記被投影面の撮像時に、前記投影画像を一時的に非投影とすることを特徴とする請求項1に記載の画像投影装置。   The image projection apparatus according to claim 1, wherein the projection image is temporarily unprojected when the imaging unit captures the projection surface. 前記色分布情報検出手段は、前記被投影面を撮像した撮像画像に基づいて、前記被投影面が所定の白レベル以上である領域を検出し、該領域を前記調整用画像の投影可能領域とすることを徴とする請求項1または2に記載する画像投影装置。   The color distribution information detection unit detects an area where the projection surface is a predetermined white level or more based on a captured image obtained by imaging the projection surface, and the area is set as a projectable area of the adjustment image. The image projection apparatus according to claim 1, wherein 映像信号に基づいて投影画像を生成し、該投影画像を被投影面に投影する画像投影装置の制御方法において、
撮像手段により前記投影画像が投影されていないときの前記被投影面を撮像する撮像処理と、
前記撮像処理による撮像画像に基づいて、前記被投影面の色分布情報を検出して、焦点制御に用いる調整用画像の投影可能領域であるか否かを判断する色分布情報検出処理と、
前記色分布情報検出処理で検出した前記調整用画像の投影可能領域に、調整用画像を投影させる調整用画像投影処理と、
前記被投影面に投影された前記調整用画像を前記撮像手段により撮像した撮像画像に基づいて、照明光学系を調整させる焦点制御処理と、を行い、
前記調整用画像投影処理において、前記調整用画像の投影可能領域が、前記調整用画像を投影可能な大きさを有する領域であるかを判断し、投影可能な場合に前記調整用画像を投影させ、投影不可の場合は前記調整用画像が投影不可であることを外部に通知することを特徴とする画像投影装置の制御方法。
In a control method for an image projection apparatus that generates a projection image based on a video signal and projects the projection image onto a projection surface.
An imaging process for imaging the projection surface when the projection image is not projected by an imaging unit;
Color distribution information detection processing for detecting color distribution information of the projection surface based on a captured image obtained by the imaging processing and determining whether or not it is a projectable region of an adjustment image used for focus control;
An adjustment image projection process for projecting the adjustment image onto the projectable area of the adjustment image detected by the color distribution information detection process;
A focus control process for adjusting an illumination optical system based on a captured image obtained by imaging the adjustment image projected on the projection surface by the imaging unit;
In the adjustment image projecting process, it is determined whether a projectable area of the adjustment image is an area having a size capable of projecting the adjustment image, and if the projection is possible, the adjustment image is projected. When the projection is impossible, the control method for the image projection apparatus notifies the outside that the adjustment image cannot be projected.
請求項4に記載する制御方法を請求項1から3のいずれか一項に記載する画像投影装置で実行可能なプログラム。   A program capable of executing the control method according to claim 4 by the image projection apparatus according to any one of claims 1 to 3.
JP2014036495A 2014-02-27 2014-02-27 Image projection apparatus, control method for image projection apparatus, and control program for image projection apparatus Expired - Fee Related JP6439254B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014036495A JP6439254B2 (en) 2014-02-27 2014-02-27 Image projection apparatus, control method for image projection apparatus, and control program for image projection apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014036495A JP6439254B2 (en) 2014-02-27 2014-02-27 Image projection apparatus, control method for image projection apparatus, and control program for image projection apparatus

Publications (2)

Publication Number Publication Date
JP2015162784A JP2015162784A (en) 2015-09-07
JP6439254B2 true JP6439254B2 (en) 2018-12-19

Family

ID=54185614

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014036495A Expired - Fee Related JP6439254B2 (en) 2014-02-27 2014-02-27 Image projection apparatus, control method for image projection apparatus, and control program for image projection apparatus

Country Status (1)

Country Link
JP (1) JP6439254B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017191223A (en) * 2016-04-14 2017-10-19 大日本印刷株式会社 Projection type display device and projection display method
CN106707526A (en) * 2016-12-14 2017-05-24 深圳奥比中光科技有限公司 Automatic focusing method and system for light source projector

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006246306A (en) * 2005-03-07 2006-09-14 Seiko Epson Corp Projector and its control method
JP2007086545A (en) * 2005-09-22 2007-04-05 Matsushita Electric Works Ltd Information presenting system
JP2011242455A (en) * 2010-05-14 2011-12-01 Sanyo Electric Co Ltd Control device and projection type video display device
JP2012178674A (en) * 2011-02-25 2012-09-13 Sanyo Electric Co Ltd Projection type video display device
JP2013064827A (en) * 2011-09-16 2013-04-11 Seiko Epson Corp Electronic apparatus

Also Published As

Publication number Publication date
JP2015162784A (en) 2015-09-07

Similar Documents

Publication Publication Date Title
US10893246B2 (en) Projection system and automatic setting method thereof
JP4232042B2 (en) Projection control system, projector, program, information storage medium, and projection control method
JP3994290B2 (en) Image processing system, projector, program, information storage medium, and image processing method
US9723281B2 (en) Projection apparatus for increasing pixel usage of an adjusted projection area, and projection method and program medium for the same
US10652510B2 (en) Projection system and automatic setting method thereof
US10761624B2 (en) Display apparatus and method for controlling display apparatus
US10354428B2 (en) Display device and method of controlling display device
US11323672B2 (en) Control method for projector and projector
US9521383B2 (en) Image processing apparatus, projector, and image processing method
US10630949B2 (en) Projection system and automatic setting method thereof
JP4882237B2 (en) Image projection system, image projection method, image projection program, storage medium storing the program, and projector control apparatus
US20160044289A1 (en) Image projection apparatus and method of controlling the same, and non-transitory computer-readable storage medium
US10171781B2 (en) Projection apparatus, method for controlling the same, and projection system
JP2016014713A (en) Image projection device, image projection method, and control program of image projection device
KR100718233B1 (en) Projection apparatus and control method thereof
JP6439254B2 (en) Image projection apparatus, control method for image projection apparatus, and control program for image projection apparatus
JP2015225101A (en) Image projection device, method for controlling image projection device, and program for controlling image projection device
JP6665543B2 (en) Projector and method of correcting captured image
JP2018142856A (en) Projector, and method for controlling projector
JP2018032922A (en) Projector device and method for controlling projector device
JP2015154345A (en) projector
JP2015156167A (en) Image projection device, control method of image projection device, and control program of image projection device
US20230028087A1 (en) Control apparatus, image projection system, control method, and storage medium
JP2014138411A (en) Projection device, control method therefor, program, and storage medium
JP2004347775A (en) Image processing system, projector, program, information storage medium and image processing method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170207

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170904

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171024

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180327

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180528

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181023

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181105

R151 Written notification of patent or utility model registration

Ref document number: 6439254

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees