JP2018197824A - 投影装置、情報処理装置およびそれらの制御方法、並びにプログラム - Google Patents

投影装置、情報処理装置およびそれらの制御方法、並びにプログラム Download PDF

Info

Publication number
JP2018197824A
JP2018197824A JP2017102957A JP2017102957A JP2018197824A JP 2018197824 A JP2018197824 A JP 2018197824A JP 2017102957 A JP2017102957 A JP 2017102957A JP 2017102957 A JP2017102957 A JP 2017102957A JP 2018197824 A JP2018197824 A JP 2018197824A
Authority
JP
Japan
Prior art keywords
image
projection
alignment
color
projection plane
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017102957A
Other languages
English (en)
Inventor
和田 秀俊
Hidetoshi Wada
秀俊 和田
正樹 藤岡
Masaki Fujioka
正樹 藤岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2017102957A priority Critical patent/JP2018197824A/ja
Priority to US15/984,724 priority patent/US10440337B2/en
Publication of JP2018197824A publication Critical patent/JP2018197824A/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3182Colour adjustment, e.g. white balance, shading or gamut
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1423Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/02Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/22Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of characters or indicia using display control signals derived from coded signals representing the characters or indicia, e.g. with a character-code memory
    • G09G5/32Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of characters or indicia using display control signals derived from coded signals representing the characters or indicia, e.g. with a character-code memory with means for controlling the display position
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/38Circuits or arrangements for blanking or otherwise eliminating unwanted parts of pictures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/387Composing, repositioning or otherwise geometrically modifying originals
    • H04N1/3871Composing, repositioning or otherwise geometrically modifying originals the composed originals being of different kinds, e.g. low- and high-resolution originals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3185Geometric adjustment, e.g. keystone or convergence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0626Adjustment of display parameters for control of overall brightness
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0666Adjustment of display parameters for control of colour parameters, e.g. colour temperature
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/06Colour space transformation

Abstract

【課題】投影面に含まれる画像に投影用画像を重畳する際の位置ずれを容易に調整できる技術を実現する。【解決手段】投影装置は、投影面に画像を投影する投影手段と、前記投影面に含まれる画像の色に関する情報を取得する取得手段と、前記取得手段により取得した情報から投影面に含まれる画像と前記投影面に投影された画像との位置ずれを調整するための位置合わせ用画像を生成する生成手段と、前記位置合わせ用画像を前記投影面の画像に重ねて投影するように前記投影手段を制御する制御手段と、を有し、前記生成手段は、前記取得手段により取得した情報に基づいて、前記投影面に含まれる画像の色に対して所定の関係を有し、前記投影面に投影された画像との位置ずれ量を示す位置合わせ用画像を生成する。【選択図】図1

Description

本発明は、投影面に画像を投影する技術に関する。
従来から、印刷物を含む投影面に画像を重ねて投影することにより、印刷物の黒浮きを防止し、投影画像のダイナミックレンジを拡大する技術が知られている(特許文献1〜3参照)。
特許文献1では、カメラで撮影した画像やコンピュータグラフィックス等の基本画像情報から印刷物を生成し、基本画像情報のコントラスト情報に基づいて投影画像を生成し、印刷物に投影画像を重畳する技術が記載されている。
一方、特許文献2、3には、複数の投影装置により画像をマルチ投影またはスタック投影する場合に、画像同士を位置合わせするための調整画像や調整パターンを投影する技術が記載されている。特許文献2、3では、投影画像をある領域ごとに分割して、互いの画像の重畳する領域に原色とその補色となるような調整画像や調整パターンを交互にストライプ状に配置している。
特開2008−145915号公報 特開2014−235295号公報 特開2013−167660号公報
しかしながら、上記特許文献1では、印刷物と投影画像の互いの設置位置がずれないように、印刷物の移動機構部が投影部と一体的に構成されているため、印刷物の設置の自由度は低い。また、上記特許文献2、3では、印刷物と投影画像とを重畳して位置合わせを行う場合、印刷物に調整パターンを印刷することになり、その部分に画像が印刷できなくなる。
本発明は、上記課題に鑑みてなされ、その目的は、投影面に含まれる画像に投影用画像を重畳する際の位置ずれを容易に調整できる技術を実現することである。
上記課題を解決し、目的を達成するために、本発明の投影装置は、投影面に画像を投影する投影手段と、前記投影面に含まれる画像の色に関する情報を取得する取得手段と、前記取得手段により取得した情報から投影面に含まれる画像と前記投影面に投影された画像との位置ずれを調整するための位置合わせ用画像を生成する生成手段と、前記位置合わせ用画像を前記投影面の画像に重ねて投影するように前記投影手段を制御する制御手段と、を有し、前記生成手段は、前記取得手段により取得した情報に基づいて、前記投影面に含まれる画像の色に対して所定の関係を有し、前記投影面に投影された画像との位置ずれ量を示す位置合わせ用画像を生成する。
本発明によれば、投影面に含まれる画像に投影用画像を重畳する際の位置ずれを容易に調整できるようになる。
実施形態1のシステム構成図(a)、投影装置および画像処理部の構成を示すブロック図(b)、(c)。 実施形態1の投影時の位置合わせ処理を示すフローチャート。 図2の位置合わせ用画像生成処理を示すフローチャート。 印刷画像と位置合わせ用画像の説明図。 印刷画像と位置合わせ用画像と重畳画像の説明図。 図2の投影用画像生成処理を示すフローチャート。 実施形態2のシステム構成図(a)および投影装置の構成を示すブロック図(b)。 実施形態2の投影面色情報取得処理を示すフローチャート。 図8の投影面撮像画像の取得処理を示すフローチャート。 実施形態2の投影面色情報取得処理において取得される画像を例示する図。 実施形態3の位置合わせ処理を示すフローチャート。 実施形態3における形状補正量と彩度値の関係を説明する図。 印刷画像と位置合わせ用画像の位置関係を説明する図。 印刷画像、位置合わせ用画像および重畳画像の画素値の関係を示す図。 印刷画像、位置合わせ用画像および重畳画像の画素値の関係を示す図。 印刷画像、位置合わせ用画像および重畳画像の画素値の関係を示す図。
以下に、本発明を実施するための形態について詳細に説明する。尚、以下に説明する実施の形態は、本発明を実現するための一例であり、本発明が適用される装置の構成や各種条件によって適宜修正又は変更されるべきものであり、本発明は以下の実施の形態に限定されるものではない。また、後述する各実施形態の一部を適宜組み合わせて構成してもよい。
なお、本実施形態において説明される各機能ブロックは必ずしも個別のハードウェアである必要はない。すなわち、例えばいくつかの機能ブロックの機能は、1つのハードウェアにより実行されてもよい。また、いくつかのハードウェアの連係動作により1つの機能ブロックの機能または、複数の機能ブロックの機能が実行されてもよい。また、各機能ブロックの機能は、CPUがメモリ上に展開したコンピュータプログラムにより実行されてもよい。
[実施形態1]まず、図1から図6を参照して、実施形態1について説明する。
以下では、紙などの印刷媒体に画像や文字などが印刷された印刷物を含む投影面に投影装置により投影画像を重ねて投影する際に、ユーザが印刷物の画像と投影画像の位置ずれを容易に調整できるように、ユーザにとって視認性の良い位置調整用画像(以下、調整用画像)を生成する例を説明する。
図1(a)は、本実施形態の投影装置10により印刷画像40に投影用画像を重畳した状態を示している。
プリンタなどの印刷装置30により印刷媒体に画像や文字が印刷された印刷画像40に対して、投影装置10は印刷画像40を含むように投影領域50に画像の投影を行う。投影装置10は、入力画像から投影用画像を生成し、印刷画像40に重畳する。本実施形態では、後述する強調対象領域を印刷画像40の範囲内として、印刷画像40に画像を投影する例を説明するが、これに限定されるものではない。また、本実施形態では、印刷画像40の範囲よりも投影領域50の範囲が広いことを前提とするが、これに限るものではなく、印刷画像40の範囲と投影領域50が同じ広さであってもよい。
本実施形態によれば、印刷画像40に画像を重畳して投影することで、印刷画像40のダイナミックレンジを向上して、実在感の高いコンテンツを提供することができる。
<装置構成>次に、図1(b)を参照して、本実施形態の投影装置10の構成および機能の概略について説明する。
本実施形態の投影装置10は、投影面に表示するべき画像に応じて、光変調素子の光の透過率(光強度)を制御して、光変調素子を透過した光源からの光をスクリーン(投影面)に投影することで、画像をユーザに提示する。
図1(b)において、本実施形態の投影装置10は、CPU110、RAM111、ROM112、操作部113、通信部114、画像入力部120、画像処理部130を有する。また、投影装置10は、光源制御部140、光変調素子制御部150、光源160、色分離部161、光変調素子170R、170G、170B、色合成部180、投影光学系181、光学系制御部182を有する。
CPU110は、投影装置10の各動作ブロックを制御する。RAM111は、ワークメモリとして一時的に制御プログラムやデータを格納する揮発性メモリである。ROM112は、CPU110の処理手順を記述した制御プログラムを記憶する不揮発性メモリである。ROM112には、制御プログラムや各動作ブロックの設定パラメータ等のデータが格納されている。
また、CPU110は、通信部114や画像入力部120により受信した静止画データや動画データ(以下、画像データ)を一時的に記憶し、ROM112に記憶されたプログラムを用いて、それぞれの静止画や動画を再生することもできる。
操作部113は、例えばスイッチやダイヤル、図示しない表示部上に設けられたタッチパネルなどからなり、ユーザ操作を受け付け、CPU110に操作信号を送信する。また、操作部113は、例えば、図示しないリモコンから送信される操作信号を受信する信号受信部(赤外線受信部など)を有し、受信した操作信号をCPU110に出力するものであってもよい。CPU110は、操作部113から受けた操作信号に応じて、投影装置10の各動作ブロックを制御する。
通信部114は、外部装置からの制御信号や静止画データ、動画データなどを受信するためのものであり、例えば、無線LAN、有線LAN、USB、Bluetooth(登録商標)などであってよく、通信方式を特に限定するものではない。また、画像入力部120の端子が、例えばHDMI(登録商標)端子であれば、その端子を介してCEC通信を行うものであってもよい。ここで、外部装置は、投影装置10と通信を行うことができるものであれば、パーソナルコンピュータ、カメラ、携帯電話、スマートフォン、ハードディスクレコーダ、ゲーム機、リモコンなど、どのようなものであってもよい。
画像入力部120は、図示しない外部装置から画像データと共に、解像度やフレームレートなどの画像情報を受信する。画像入力部120は、例えば、コンポジット端子、S映像端子、D端子、コンポーネント端子、アナログRGB端子、DVI−I端子、DVI−D端子、HDMI(登録商標)端子、DisplayPort(登録商標)などを含む。また、画像入力部120は、アナログの画像データを受信した場合には、受信したアナログ信号をデジタル信号に変換し、画像処理部130に送信する。ここで、外部装置は、画像データを出力できるものであれば、パーソナルコンピュータ、カメラ、携帯電話、スマートフォン、ハードディスクレコーダ、ゲーム機など、どのようなものであってもよい。また、画像入力部120は、USBメモリやメモリカードなどのメモリデバイスから画像データを読み出すこともできる。
画像処理部130は、例えば専用のマイクロプロセッサからなり、画像入力部120から受信した画像データにフレーム数、画素数、画像形状などの変更処理を施して、光変調素子制御部150に送信する。なお、画像処理部130は、専用のマイクロプロセッサである必要はなく、例えば、ROM112に記憶されたプログラムによって、CPU110が画像処理部130と同様の処理を実行してもよい。また、画像処理部130は、フレーム間引き処理、フレーム補間処理、解像度変換(スケーリング)処理、歪み補正処理(キーストン補正処理)、輝度補正処理、色補正処理といった機能を実行することが可能である。また、画像処理部130は、所望のテストパターン画像を生成して光変調素子制御部150に送信することもできる。また、画像処理部130は、画像入力部120から受信した画像データ以外にも、CPU110によって再生された動画や静止画などの映像に対して前述の変更処理を施すこともできる。画像処理部130の詳細な構成については後述する。
光変調素子制御部150は、画像処理部130から出力される画像信号に基づいて、光変調素子170R、170G、170Bの画素の液晶に印可する電圧を制御して、光変調素子170R、170G、170Bの透過率を調整する。
光変調素子170Rは、赤色に対応する液晶素子であって、光源160から出力された光のうち、色分離部161で赤色(R)、緑色(G)、青色(B)に分離された光のうち、赤色の光の透過率を調整するためのものである。光変調素子170Gは、緑色に対応する光変調素子であって、光源160から出力された光のうち、色分離部161で赤色(R)、緑色(G)、青色(B)に分離された光のうち、緑色の光の透過率を調整するためのものである。光変調素子170Bは、青色に対応する液晶素子であって、光源160から出力された光のうち、色分離部161で赤色(R)、緑色(G)、青色(B)に分離された光のうち、青色の光の透過率を調整するためのものである。
光源制御部140は、光源160のオン/オフの制御や光量の制御をする、例えば制御用のマイクロプロセッサからなる。なお、光源制御部140は、専用のマイクロプロセッサである必要はなく、例えば、ROM112に記憶されたプログラムによって、CPU110が光源制御部140と同様の処理を実行してもよい。また、光源160は、不図示のスクリーンに画像を投影するための光を出力する。光源160は、例えば、ハロゲンランプ、キセノンランプ、高圧水銀ランプ、LED光源、レーザーダイオード、またはレーザーダイオードの発光する光を蛍光体などにより励起させ光波長を変換するタイプの光源などであり、スクリーンに画像を投影するための光を出力する。なお、本実施形態のスクリーンは、上述したように印刷装置30により印刷媒体に印刷された印刷画像40を含む。
色分離部161は、例えばダイクロイックミラーやプリズムからなり、光源160から出力された光を、赤色(R)、緑色(G)、青色(B)に分離する。なお、光源160として、各色に対応するLEDなどを使用する場合には、色分離部161は不要である。
色合成部180は、例えばダイクロイックミラーやプリズムからなり、光変調素子170R、170G、170Bを透過した赤色(R)、緑色(G)、青色(B)の光を合成する。そして、色合成部180により赤色(R)、緑色(G)、青色(B)、赤外光(IR)の成分を合成した光は、投影光学系181に送られる。このとき、光変調素子170R、170G、170Bは、画像処理部130から入力された画像データに対応する光の透過率となるように、光変調素子制御部150により制御される。そのため、色合成部180により合成された光は、投影光学系181によりスクリーンに投影されると、画像処理部130により入力された画像がスクリーン上に表示されることになる。
光学系制御部182は、例えば制御用のマイクロプロセッサからなり、投影光学系181を制御する。なお、光学系制御部182は、専用のマイクロプロセッサである必要はなく、例えば、ROM112に記憶されたプログラムによって、CPU110が光学系制御部182と同様の処理を実行してもよい。また、投影光学系181は、色合成部180から出力された合成光をスクリーンに投影する。投影光学系181は、複数のレンズ、レンズ駆動用のアクチュエータからなり、レンズをアクチュエータにより駆動することで、投影画像の拡大、縮小、シフト、焦点調整などを行うことができる。
なお、本実施形態の画像処理部130、光源制御部140、光変調素子制御部150、光学系制御部182は、これらの各ブロックと同様の処理を行うことのできる単数または複数のマイクロプロセッサあってもよい。または、例えば、ROM112に記憶されたプログラムによって、CPU110が各ブロックと同様の処理を実行してもよい。
<画像処理部の構成>次に、図1(c)を参照して、画像処理部130の詳細な構成について説明する。
位置合わせ用画像生成部1301は、投影面の印刷画像40に投影用画像を重畳して投影する際に、投影領域50が印刷画像40に完全に重畳するように位置合わせを行うのに適した位置合わせ用画像を生成する。
投影用画像生成部1302は、画像処理部130に入力された画像に対して、印刷画像40に重畳して投影用画像を投影したときにダイナミックレンジが改善するような画像変換処理を施して、投影用画像を生成する。画像変換処理としては、表色系変換、ガンマ変換、1D−LUTなどがある。さらに、投影用画像生成部1302は入力された画像のヒストグラムを生成することもできる。
スイッチャ1303は、位置合わせ用画像生成部1301と投影用画像生成部1302がそれぞれ生成した画像を切り替える。
歪み補正部1305は、投影用画像または位置合わせ用画像の投影時の形状歪みを補正する。ここでは行列を用い射影変換やアフィン変換などで形状歪を補正する。歪み補正部1305は、投影用画像の形状補正のために使用される画像メモリ1304のメモリアドレスの発行および画像の書き込み・読み出し制御も行う。
具体的には、歪み補正部1305はスイッチャ1303から入力された画像を一旦画像メモリ1304に書き込み、書き込みが完了したら上記変換方法に基づき算出した形状歪補正後の座標の画素データを画像メモリ1304から読み出す。
<投影時の位置合わせ処理>次に、図2を参照して、本実施形態の投影装置10による投影時の位置合わせ処理について説明する。
なお、図2の処理は、CPU110が、ROM112に格納されたプログラムを、RAM111のワークエリアに展開し、各動作ブロックを制御することにより実現される。また、図2の処理は、ユーザ操作により図示しないリモコンや操作部113を介して印刷画像に重畳して投影用画像を投影する動作モードへ移行する指示を受け付けた場合に実行される。後述する図2、図8、図9でも同様である。
S201では、CPU110は、投影装置10が印刷画像と投影用画像の位置ずれを調整するための位置調整モードであるか否かを判定する。位置調整モードへ移行する条件は後述する。CPU110が位置調整モードに移行したと判定した場合はS202に進み、移行されていないと判定した場合はS206に進む。
S202では、CPU110は、投影面の印刷画像の色情報を取得する。
S203では、CPU110は、位置合わせ用画像生成部1301により、取得した投影面の印刷画像の色情報から位置合わせ用画像を生成する。位置合わせ用画像生成部1301は、CPU110が取得した投影面の印刷画像の色情報に基づいて色彩相補的画像を生成し、位置合わせ用画像とする。
一般的に補色とは、対象の色光に加法混色することにより、白色とすることができる色光のことを表す。色彩相補的画像とは、投影面の印刷画像に重ねて投影されたときに、投影面の印刷画像の見えが、白色光照明下の見えより、より白色に近づく画像のことを言う。よって、色彩相補的画像を投影面の印刷画像に重畳投影することにより、見えとして彩度がゼロの無彩色に近づく。
色彩相補的画像の1つとして、投影面の印刷画像の色情報をその補色に変換して生成した画像がある。重畳投影が、正しくは加法混色ではなく、投影面の印刷画像の反射率との積算による混色であるため、補色に変換して生成した画像を重畳投影すると必ず正確な無彩色になるとは限らないが、多くの場合、無彩色に近づく。この場合の具体例については後述する。なお、上記以外にも様々な色彩相補的画像があり得る。この具体例については他の実施形態で後述する。
また、白色は、様々な色温度や相関色温度を持つ白色があり得る。代表的には、CIE(国際照明委員会)の標準A光源(相関色温度2856K)、標準C光源(相関色温度6774K)、標準D65光源(相関色温度6504K)や、日本のTV(NTSC−J)PCに用いられている白(相関色温度9300K)等のエネルギー白色(相関色温度5454K)などがある。なお、白色は、特定の色温度のものに限るものではない。
また、本実施形態では、色彩相補的画像を重畳投影したときに、必ずしも厳密に予め設定された基準白色の色度座標に一致する必要はなく、白色光照明下に比べてより基準白色に近づけばよい。
以下では、投影面の印刷画像の色情報を変換して色彩相補的画像を生成する方法であって、特に、RGB表色系における画像生成方法を説明する。また、他の表色系における画像生成方法については後述する。
本実施形態では、RGBの画素値はRGBの光強度に比例するリニア値とする。実際に投影面の印刷画像の色情報として入力される信号や投影装置に対して位置合わせ用画像や投影用画像として出力される信号は、信号の伝送規格や装置規格に従ってガンマ変換されたものである場合がある。その場合には、不図示のガンマ補正部や逆ガンマ補正部によって上記RGBのリニア値との変換処理が行われている必要がある。
図4は、本実施形態の印刷画像40と位置合わせ用画像41を例示している。画像データの画素値は8bitで表現する。すなわち最小値が0であり、最大値が255である。そして、原色であるRedとGreenとBlueと、それらの補色であるCyanとMagentaとYellowからなる色ブロックが配置されている。印刷画像40の画像データは画像処理部130に対して投影面色情報として入力される。印刷画像40に重畳される位置合わせ用画像41は、画像処理部130の位置合わせ用画像生成部1301において生成される。
図4(b)の位置合わせ用画像41は印刷画像40の輝度と色相を反転した画像であり、以下の式1−1、式1−2、式1−3から算出される。この場合、輝度が印刷画像40と反転しているため、印刷画像40の明度が低い領域では位置合わせ用画像41は明るく投影され、印刷画像40の明度が高いところでは位置合わせ用画像41は暗く投影される。
R出力=255−R入力・・・(1−1)
G出力=255−G入力・・・(1−2)
B出力=255−B入力・・・(1−3)
位置合わせ用画像41を生成するのに、上記式1−1、式1−2、式1−3以外の算出方法もある。以下の式2−1、式2−2、式2−3のように投影用画像の輝度を極力上げることにより位置ずれの視認性を高める効果がある。
R出力=255−(R入力−RGB最少)・・・(2−1)
G出力=255−(G入力−RGB最少)・・・(2−2)
B出力=255−(B入力−RGB最少)・・・(2−3)
また、以下の式3−1、式3−2、式3−3のように、輝度を保存して色相のみを反転してもよい。
R出力=RGB平均+(RGB平均−R入力)・・・(3−1)
G出力=RGB平均+(RGB平均−G入力)・・・(3−2)
B出力=RGB平均+(RGB平均−B入力)・・・(3−3)
但し、RGB出力値のうち1つでもマイナス値の場合には、最も大きくオーバーフローした出力値が0になるようにRGB出力値の全てをオフセットする。もしくはRGB出力値のうち1つでも256よりも大きい場合には、最も大きくオーバーフローした出力値が255になるようにRGB出力値の全てをオフセットする。
ここに例示した式1−1〜3−3では、位置合わせ用画像41は印刷画像40の色相を反転して生成される。そのため、投影領域50における位置合わせ用画像41と印刷画像40の画素単位の位置合わせが適切になされている場合には、画面全体においてより白い画像、すなわち無彩色画像として視認される。
なお、以上の説明で用いた印刷画像40および位置合わせ用画像41は、説明を容易化するために単純化したものである。実際の印刷画像40が自然画などであっても同様である。
また、本実施形態では、投影装置10は規格として2.2のガンマ特性を持っている。そのため、リニア空間で変換を行うため、位置合わせ用画像生成部1301では不図示の逆ガンマ補正部において入力された投影面色情報に対して2.2の逆ガンマを掛けてから、上記式1−1〜3−3により補色画像を算出した後、不図示のガンマ補正部で2.2のガンマを掛ける。
S204では、CPU110は、位置合わせ用画像を投影する。
図5は、印刷画像40と、位置合わせ用画像41と、印刷画像40と位置合わせ用画像41を重畳した重畳画像42を例示している。ここでは投影装置10からの投影光に比べて環境光は弱いものとし、その影響は省略している。
投影装置10は印刷画像40に対して位置合わせ用画像41の投影領域50を投影する。ユーザは操作部113を介して、CPU110に投影光学系181のズーム光学系やフォーカス光学系を制御する指示を出す。CPU110は操作部113からの指示に応じて光学系制御部182にズームやフォーカスの制御信号を送出する。光学系制御部182ではCPU110からの制御信号に応じて投影光学系181をユーザの意図通りに制御する。ユーザは操作部113を介して印刷画像40に投影領域50が合焦するようにフォーカス光学系を操作する。
次に、ユーザは操作部113を介して投影領域50が印刷画像40と同じ大きさに投影されるようにズーム光学系を操作する。なお、印刷画像40と投影領域50の相対位置がずれている場合には、ユーザは投影装置10が設置されている位置を移動してもよい。また、投影光学系181が投影領域50の投影位置を水平方向もしくは垂直方向に移動させるシフト光学系を持つ場合には、シフト光学系を操作して投影領域50の投影位置を移動させてもよい。
ここで、印刷画像40と投影装置10の相対位置関係により投影領域50に形状歪みが発生している場合には、歪み補正部1305により投影領域50の変形処理を行う。ユーザは、投影領域50の左上、右上、左下、右下の4隅の角の位置を任意の位置に移動することで画像の形状を補正して印刷画像40と投影領域50が重畳するように操作する。
具体的にはユーザが操作部113を介して歪み補正処理の開始を指示し、投影領域50の4隅のうちの1つの角を選択する。そして、操作部113を介して選択した投影領域50の4隅の1つの角の位置を、印刷画像40の同じ4隅の1つの角の位置に一致するように移動させる。CPU110は、操作部113からの指示に基づいて歪み補正部1305に変形処理の制御信号を送出する。歪み補正部1305では、CPU110からの制御信号に従って、入力された画像の変形処理を行う。これを残り3つの角についても同様に繰り返し行う。
ユーザは印刷画像40に投影領域50の位置合わせ用画像が完全に重畳するように、操作部113により投影領域50の変形処理を行うが、ユーザが印刷画像40と投影領域50を目視しながら、どのように変形するのか、図5を用いて説明する。
図5は、印刷画像40、位置合わせ用画像41および重畳画像42を例示している。位置合わせ用画像41は、図4(b)で説明した輝度と色相を反転した画像である。印刷画像40が図5(a)のようであった場合、位置合わせ用画像生成部1301では上記式1−1、1−2、1−3を用いて図5(b)に示す位置合わせ用画像41を生成する。そして、投影光学系181のズーム機能やシフト機能を用いたり、必要に応じて投影装置10の位置を移動させて印刷画像40と投影領域50の位置合わせ用画像を位置合わせする。また、印刷画像40と位置合わせ用画像が完全に重畳しない場合には、歪み補正部1305の形状補正機能を用いる。このようにして印刷画像40と投影領域50の位置合わせ用画像が完全に重畳した場合には、図5(c)に示すように重畳画像42は視覚的に無彩色の画像となる。
図14は、印刷画像、位置合わせ用画像および重畳画像のRGBの画素値の関係を示している。図14では、図5に示す各画像の色ブロックの位置を左上から右下にかけてpos1〜pos6で表し、それぞれの場所における印刷画像、位置合わせ用画像および重畳画像のRGBの画素値と、表現される色の色座標値(L*a*b*表色系)、それらから算出される彩度(Cab*)を一覧で示している。印刷画像のRGBの画素値は、そのままRGBの原色光に対する反射率に比例しているものとして算出している。重畳前の印刷画像の各色ブロックは、50〜134の高い彩度を示しているのに対して、位置合わせ用画像が重畳された重畳画像は、完全に無彩色の彩度0となっている。また、明度(L*)も、0になっている。これは、純粋なRGB、CyMgYの各色ブロックからなる印刷画像40に対して位置合わせ用画像である投影領域50が補色の関係にあるためである。
図14に対して、図15および図16は、印刷画像の色ブロックが、純粋なRGB、CyMgYから若干ずれており、Grayが混ざっている状態を例示している。図15では、印刷画像の色ブロックは50%のRGB、CyMgYに25%のGrayが混ざって、中間色になっている。この場合でも、補色の関係にある位置合わせ用画像を生成して印刷画像に重畳すれば、印刷画像の各色ブロックは、28〜56の高い彩度を示しているのに対して、重畳画像は完全に無彩色の彩度0となっている。図15では、明度(L*)は、50になっているので、黒色ではなく灰色である。
図16では、割合が少し異なって、50%のRGB、CyMgYに20%のGrayが混ざっている。この場合でも、前述した方法で位置合わせ用画像を生成して重畳すれば、重畳前の印刷画像の各色ブロックは、26〜60の高い彩度を示しているのに対して、位置合わせ用画像が重畳された重畳画像は、無彩色に近い彩度6〜11となっている。完全な無彩色ではないが、位置合わせ用画像を重畳することによって、見えとして彩度がゼロの無彩色に近づいている。
ここで再び、印刷画像の色ブロックが、純粋なRGB、CyMgYとなっている例に戻り、印刷画像40と投影領域50の位置合わせ用画像が完全に重畳していない状態での重畳画像の表示例を図13に示す。
図13は印刷画像40と位置合わせ用画像を重畳した状態の投影領域50における、R、G、B、Cy、Mg、Yeの各色ブロックで構成される部分を示している。図13(a)は、印刷画像40と投影領域50の位置合わせ用画像が完全に重畳している状態を示している。ここでは印刷画像40と投影領域50の位置合わせ用画像が補色関係にあるので、前述したように重畳画像はそれぞれ無彩色となって視覚される。
図13(b)は、位置合わせや形状歪み調整が不十分であって、位置合わせ用画像を投影する投影領域50が、印刷画像40に対して上下左右にずれている状態を示している。図13(b)において、印刷画像40と投影領域50の位置が合っている領域は無彩色になるが、位置がずれている領域は印刷画像40と投影領域50の有彩色部分が、そのままか補色関係にならない有彩色の重畳パターンとして表示される。このため、ユーザは、印刷画像40と投影領域50の位置合わせを行う際に位置ずれが非常に認識しやすくなる。
図2に戻り、S205では、CPU110はユーザによる印刷画像と位置合わせ用画像の位置調整が完了したか否かを判定する。位置調整が完了したか否かは、印刷画像40に対して位置合わせ用画像の投影領域50の位置合わせや形状補正を行い、最も彩度が低くエッジ部分のコントラストが低くなった場合に調整が完了したと判定する。
S206では、CPU110は、投影用画像生成部1302により入力画像から投影用画像を生成する。図6は投影用画像の生成処理を示している。
S601では、CPU110は、画像処理部130の投影用画像生成部1302によって入力画像の色変換を行う。例えば、輝度成分のみ抽出しグレースケールにしてもよいし、入力画像のRGB表色系から、マトリックス変換にてHLS表色系やL*a*b*表色系などへ変換してもよい。
S602では、CPU110は、画像処理部130の投影用画像生成部1302において階調変換を行い、投影用画像を生成する。
本実施形態の投影用画像は、入力画像に対し、暗部を黒にし、明部を白にして画像のコントラストを高くするように階調変換している。階調変換方法は1D−LUTを用いてもよいし、ガンマ変換により行ってもよい。なお、階調変換方法は、これに限らず、投影面の輝度を取得せずに、ユーザの意図で自由に変更してもよい。
また、本実施形態では、1D−LUTによる階調変換処理を行ったが、HLS表色系へ変換してからL(輝度)のみゲインなどの処理をしてもよいし、S(彩度)にゲインなどの処理をして彩度を向上させる処理を行ってもよいし、両方行ってもよい。処理後、HLS表色系からRGB表色系へ逆変換を施す。
図2に戻り、S207では、CPU110は、投影用画像を投影光学系181により投影する。
以上のように、本実施形態によれば、投影装置10は位置合わせ用画像を投影面の印刷画像の色情報から生成し、投影面の印刷画像と投影用画像との位置ずれを視認しやすくし、ユーザによる位置調整を適切に補助することができる。
なお、上述した実施形態において、強調対象領域は印刷物に限らず、投影用画像が強調対象領域のダイナミックレンジを向上させるものであれば、例えば絵画や建物の壁であってもよい。
また、投影面の印刷画像の色情報を印刷装置30から受け取ってもよい。投影用画像を生成するための色情報は、例えば通信部114と印刷装置30とを有線ケーブルや無線LANにより信可能に接続したネットワークや、不図示のメモリカードを介して印刷装置30から受け取ってもよい。
また、投影面の印刷画像の色情報が入力画像で代用できる場合、入力画像としてもよい。本実施形態では投影面の印刷画像の色情報と入力画像が異なるものとしたが、例えば入力画像と投影面の印刷画像の色情報が同じものであっても成り立つのであれば入力画像のみでもよい。
また、S201での投影装置10の位置調整モードへの移行は、(加速度)センサなどよって投影装置10の動きを検出して移行してもよい。本実施形態では位置調整モードへの移行はユーザ操作による例を説明したが、例えば投影装置10に備えた不図示の加速度センサなどにより投影装置10の動きを検出して移行してもよい。また、ユーザが不図示のリモコンなどを用いて位置調整モードを選択して移行するようにしてもよい。
<位置合わせ用画像生成処理>次に、図3を参照して、図2のS203における位置合わせ用画像生成処理の詳細について説明する。
S301では、CPU110は、位置合わせ用画像生成部1301において、投影面の印刷画像のRGB表色系の色情報に対し、明度情報と色情報に分離された表色系に変換する処理を行う。
L*a*b*表色系で位置合わせ用画像を生成するには、RGB表色系からL*a*b*表色系に変換する。実際にはRGB値を一旦XYZ表色系に変換してからL*a*b*表色系に変換する。この変換方法は周知であるため変換式などの詳細な説明は省略する。
L*a*b*表色系に変換された映像は、明度を表すL*と、色を表すa*とb*が分離される。そのため色の反転はa*とb*に対して処理を行い、明度についてはL*に対して処理を行う。
S302では、CPU110は、位置合わせ用画像生成部1301において、色変換した画像に対し、補色に変換を行う。
L*a*b*表色系において色を補色に変換するには、式4−1、4−2のようにa*とb*の符号を反転する。
a*入力=−a*出力・・・(4−1)
b*入力=−b*出力・・・(4−2)
S303では、CPU110は、位置合わせ用画像生成部1301において、補色に変換した画像に対し、輝度(明度)の変換(反転または最大化)を行う。
図4(b)と式1−1、式1−2、式1−3で説明した輝度(明度)の反転を行うには、式4−3を用いる。
L*出力=100−L*入力・・・(4−3)
図4(c)と式2−1、式2−2、式2−3で説明した輝度(明度)を極力大きくした画像を生成するには、式4−4を用いる。
L*出力=L*最大・・・(4−4)
L*最大は、L*a*b*表色系において、式4−1、式4−2で算出したa*とb*値で最大の取り得るL値
図4(d)と式3−1、式3−2、式3−3で説明した輝度(明度)を保存した画像を生成するには、入力のL*値をそのまま用いる。
S304では、CPU110は、位置合わせ用画像生成部1301において、輝度変換した画像に対し、表色系をRGB表色系に戻すような表色系変換処理を行う。
なお、上述した実施形態では、色彩相補的画像は基準白色と各色要素の光強度値との差分から算出していたが、以下の式4−5〜式4−11のように逆比によっても算出できる。
仮R出力=255*(R入力/255)−1・・・(4−5)
仮R出力=255*(R入力/255)−1・・・(4−6)
仮R出力=255*(R入力/255)−1・・・(4−7)

仮Max=Max(仮R出力、仮G出力、仮B出力)・・・(4−8)

仮R出力=255*(仮R出力/仮Max)・・・(4−9)
仮G出力=255*(仮G出力/仮Max)・・・(4−10)
仮B出力=255*(仮B出力/仮Max)・・・(4−11)
また、上述した実施形態ではいくつかの色彩相補的画像の生成方法を示したが前述の色彩相補的画像の定義に則って生成された画像であれば、算出方法はこの限りではない。また、場合に応じて、適宜環境光の影響を補正してもよい。
なお、補色にする範囲は、投影面色情報の一部のみ補色とし、補色にする範囲は画面全体でなくてもよい。例えば輝度のエッジ周辺や暗部のみでもよい。
[実施形態2]次に、図7から図10を参照して、実施形態2について説明する。
本実施形態では、投影面を撮像した画像から投影面の色情報を取得し、位置合わせ用画像を生成する例を説明する。
図7(a)は、本実施形態の投影装置10により印刷画像40に投影用画像を重畳した状態を示している。
印刷装置30にて印刷された印刷画像40に対し、投影装置10は印刷画像40を含む投影領域50に投影を行う。撮像装置70は投影領域50を含む撮像領域60の撮像を行う。投影装置10は撮像装置70により撮像された画像から投影面色情報を取得し、投影用画像を生成し、印刷画像40に重畳する。本実施形態では、強調対象領域は印刷画像40の範囲とする。また、本実施形態では印刷画像40の範囲、投影領域50、撮像領域60の順に範囲が広くなるが、必ずしもその必要はない。印刷画像40の範囲と投影領域50が同じ領域でもよい。
本実施形態によれば、投影装置10により投影面の印刷画像40に投影用画像を重畳する際に、撮像装置70を用いて投影面を撮像して色情報を取得することで、印刷画像40のダイナミックレンジを向上して、実在感の高いコンテンツを提供することができる。
なお、本実施形態では、強調対象領域は印刷画像40であるものとして、印刷画像40に重畳して投影用画像を投影する例を説明するが、強調対象領域はこれに限定されるものではない。
次に、図7(b)を参照して、実施形態2の投影装置10の構成および機能を説明する。
本実施形態の投影装置10は、図1(b)の構成に加えて、撮像画像入力部710および撮像画像処理部720を有する。
撮像画像入力部710は、撮像装置70と接続され、撮像装置70により投影装置10の投影領域50の周辺を撮像して、撮像装置70から画像信号を取得する。撮像装置70は、投影光学系181を介して投影された画像と印刷画像40を撮影(投影面側を撮影)する。撮像画像入力部710は、撮像装置70から取得した画像信号をCPU110に送出する。CPU110は、画像信号を一時的にRAM111に記憶し、ROM112に記憶されたプログラムを用いて、静止画データや動画データに変換する。また、撮像画像入力部710は撮像画像処理部720に撮像画像を送出する。
撮像画像処理部720は、撮像画像に対して色変換や解像度変換などの画像処理を施す。例えば、撮像画像処理部720は、撮像画像入力部710から撮像画像を受け取り、スケーラによって液晶パネルの解像度に変換し、投影用画像として投影することもできる。
撮像装置70は、被写体の光学像を結像するズームレンズやフォーカスレンズを含むレンズ群、レンズ群を駆動するアクチュエータ、アクチュエータを制御するマイクロプロセッサを備える。また、撮像装置70は、レンズ群により結像された被写体像を電気信号に変換するCCDやCMOS等の撮像素子、撮像素子により得られたアナログ画像信号をデジタル信号に変換するA/D変換器などを備える。
本実施形態では、撮像装置70が外部装置として投影装置10に接続された構成を説明するが、投影装置10に内蔵されていてもよい。
次に、図8から図10を参照して、実施形態2の投影処理を説明する。
なお、図8の処理は、図2のS202における投影面色情報取得処理だけが相違しており、その他の処理は同じである。よって、以下では、図2の処理と同一のS202以外の処理の説明は省略し、異なる点を中心に説明を行う。
S801では、CPU110は、撮像画像入力部710により撮像装置70から投影面の撮像画像を取得する。ここで、図9は、撮像装置70のマイクロプロセッサにより実行される投影面撮像画像取得処理を示している。
S901では、撮像装置70は、投影面を撮像した複数の画像から撮像画像の階調値が飽和しないように露光量を調整する露出制御を行う。撮像装置70における露出制御は、絞り値、露光時間、そして撮像した画像信号の利得値を制御することにより実現する。
本実施形態では印刷画像40と投影領域50を含む広い領域を撮像することから、撮像装置70から撮像領域までの最も近い位置と遠い位置への距離差が、ある程度あると考えられる。また、印刷画像40に対して撮像装置70を正対して設置することができない場合も考えられるため、全ての撮像領域60において良好な合焦画像を得るためには、できるだけ被写界深度の大きな画像を撮像することが望ましい。よって、被写界深度を大きくするため、撮像装置70は、できるだけ絞り値を大きくして、その分露光時間を大きくするように露光制御を行う。この際、像ぶれが発生しないように、撮像装置70は三脚などを用いて振動や揺れが発生しないように固定することが望ましい。
まず、CPU110は投影面の全面が白の画像(8ビットの場合、階調値255。以下、全白画像)を液晶パネルに描画して投影する。そして撮像装置70は印刷画像40を撮像する。そして撮像装置70では撮像した撮像領域60において、撮像した全ての画素のデータが255や254など上限に飽和しない範囲で明るくなるように露出を制御する。
具体的には、前述したように、被写界深度を大きくするため、できるだけ絞り値を大きくして露出時間で露出を制御する。そして、露出の要素である絞り値、露光時間、映像信号の利得値が決まったら、S902以降において露出値を固定とする。
S902では、CPU110は投影面全面黒(階調値0)の画像(以下、全黒画像)を液晶パネルに描画して投影する。
S903では、CPU110は、撮像装置70により投影領域50を撮像する。ここで撮像された画像は、図10(a)に示す画像IMG_Bに対応する。
S904では、CPU110は、投影面全面白(8ビットの場合、階調値255)の画像(以下、全白画像)を液晶パネルに描画して投影する。
S905では、CPU110は、撮像装置70により投影領域50を撮像する。ここで撮像された画像は、図10(b)に示す画像IMG_Wに対応する。
以上のようにして投影面撮像画像IMG_B、IMG_Wを取得する。
図8に戻り、S802では、CPU110は、撮像画像処理部720により撮像画像IMG_BおよびIMG_Wにおける投影装置10の投影領域50を検出する。具体的には、撮像画像IMG_Wから撮像画像IMG_Bの差分をとり、差分画像IMG_D(図10(c))を生成する。そして、所定の閾値以上の差分のある領域を投影装置10の投影領域50と判定する。なお、投影領域50と撮像領域60が一致している場合は、本処理は実施しなくてもよい。
S803では、CPU110は、撮像画像処理部720により画像IMG_Dから印刷画像領域を検出する。検出方法は、操作部113を介してユーザが印刷画像領域を指定する方法がある。もしくは、S802で画像IMG_Dから検出した差分値が所定以下の領域や平坦な領域を壁などの背景領域として設定し、それ以外の残った領域を印刷画像領域とする方法でもよい。
なお、印刷画像40と投影領域50もしくは撮像領域60のいずれかが一致している場合は、本処理は実施しなくてもよい。
S804では、CPU110は、撮像画像処理部720により差分画像IMG_Dに対して射影変換を行い、S802で検出した投影装置10の投影領域50が所望の形状になるように変換した画像IMG_P(図10(d))を生成する。例えば液晶パネルの解像度がWUXGA(1920x1200)である場合、投影領域50は16:10のアスペクト比の長方形になるように射影変換を行う。さらに、長方形の解像度がWUXGAサイズになるように拡大縮小処理も行う。
なお、撮像領域60と投影領域50が一致している場合は、本処理は実施しなくてもよい。
S805では、CPU110は、撮像画像処理部720により、S803において検出された投影領域でかつ印刷画像領域以外の非印刷領域である背景領域に設定した領域を階調値0でマスクする。マスク後の画像は、画像IMG_M(図10(e))のようになる。マスクの階調値は0に限らず、黒から白まで自由に設定可能である。本実施形態では、印刷画像40のみダイナミックレンジを向上させ、強調したいため、階調値0でマスクするようにしている。
以上のようにして撮像画像から投影面の色情報を取得することができる。
なお、S805でマスク処理を施した領域に対しては、図2のS206の投影用画像生成における色変換は実施しない。
また、本実施形態では撮像画像から投影領域50を切り出して液晶パネルの解像度に射影変換しマスク処理を施した画像を投影用画像としたが、これに限定されるものではない。例えば、撮像画像から印刷画像40を切り出して液晶パネルの解像度に射影変換し、その画像を投影面の色情報としてもよい。
[実施形態3]次に、図11から図16を参照して、実施形態3について説明する。
本実施形態では、投影装置10が、印刷画像に位置合わせ用画像を重畳した状態の投影面撮像画像から印刷画像と位置合わせ用画像との位置ずれ量を算出し、位置ずれ量に基づいて自動的に位置合わせを行う例を説明する。
なお、本実施形態のシステム構成および装置構成は、図7と同様である。また、図11の投影処理において、S1101、S1103、S1104、S1113、S1114は、図2のS201、S203、S204、S206、S207と同様であり、S1102の詳細は、図8と同様である。以下では、図2や図8と同一の処理の説明は省略し、異なる点を中心に説明を行う。
S1105では、CPU110は、初期形状補正ステップを設定する。これは形状補正制御における1ステップ分の補正量の初期値である。また、初期位置ずれ量も設定する。これは制御初回の位置ずれ算出に用いる。これらはRAM111に記憶してもよいし、予めROM112に記憶しておいてもよい。
S1106では、CPU110は、撮像装置70により投影面を撮像する。
S1107では、CPU110は、撮像画像処理部720により、撮像画像の色ずれ量から印刷画像と位置合わせ用画像の位置ずれ量を算出する。図12は撮像画像から位置ずれ量を算出する方法を概略的に示している。
印刷画像40と投影領域50の位置ずれ量は、撮像装置70で撮像した撮像領域60の画像データにおいて、彩度が最も少なくなった状態で最小になったと判定できる。すなわち、位置ずれ量は印刷画像と位置調整用画像の重畳画面における彩度が最も低くなったときに最少となる。
そのため、位置ずれ量を求めるには、撮像領域60を撮像した画像データの全ての画素における彩度値の総和を求めればよい。
図12は、彩度値と形状補正量の関係を示している。ここで、彩度値とは、撮像装置70が撮像した画像における、画像の画素ごとの彩度値の総和である。形状補正量は、ある方向に形状補正を行っていったときの形状補正の量である。
彩度値を撮像装置70による撮像画像のRGB値から算出するには以下の式5−1から求めてもよい。
彩度値=|(|R−G|+|G−B|+|B−R|)|・・・(5−1)
L*a*b*表色系では彩度は以下の式5−2から求めてもよい。
彩度値=((a*)2+(b*)2)1/2・・・(5−2)
本例では、撮像した画像の全ての画素における彩度値の総和値としているが、計算量が多くなるため、例えば撮像した画像を領域ごとに分割して任意の領域の総和値だけを用いてもよい。
このように算出した彩度値の総和が位置ずれ量となる。
位置ずれ量の値は、撮像装置70が撮像した画像を撮像画像入力部710から入力し、撮像画像処理部720で算出し、RAM111に記憶する。
S1108では、CPU110は、RAM111から読み出した、前回の形状補正制御時の位置ずれ量と、今回の位置ずれ量を比較する。これが初回の制御の場合には、RAM111もしくはROM112に記憶した位置ずれ量の初期値と比較する。そして、CPU110は、今回の位置ずれ量が前回の位置ずれ量より小さくなった場合には、S1109へ移行する。これは図12において、前回の形状補正制御が形状補正量1、今回の形状補正制御が形状補正量2の状態である。
S1109では、CPU110は、位置ずれ量が小さくなる方向に形状補正が行われていると判定できるため、引き続き初期形状補正ステップ分だけ同方向に形状補正を行う。
また、CPU110は、S1108において今回の位置ずれ量が前回の位置ずれ量より大きくなった場合には、S1110へ移行する。これは、図12において前回の形状補正制御が形状補正量3、今回の形状補正制御が形状補正量4の状態である。S1110では、CPU110は、位置ずれ量が大きくなる方向に形状補正が行われていると判定できる、すわなち、彩度が最小となる形状補正量を過ぎてしまったと判定できるため、形状補正ステップの補正量を少なくする(例えば半分にする)。
S1111では、CPU110は、形状補正制御の方向を反転し、S1110で設定した形状補正ステップ分だけ形状補正を行う。
S1112では、CPU110は、S1110で設定した形状補正ステップが、任意の閾値より小さくなったか否かを判定する。形状補正ステップSが任意の閾値よりも大きい場合にはS1106へ移行し、小さくなった場合には、形状補正による位置調整が十分行われたと判定し、S1113へ移行する。
以上のように、本実施形態によれば、投影装置10が、印刷画像と位置合わせ用画像を重畳した状態の投影面撮像画像から印刷画像と位置合わせ用画像の位置ずれ量を算出し、位置ずれ量に基づいて自動的に位置合わせを行うことができる。
なお、本実施形態では、投影装置自身が位置合わせ用画像を生成する例を説明したが、これに限らず、例えば、投影装置がパーソナルコンピュータやスマートデバイスなどの情報処理装置に接続され、情報処理装置において位置合わせ用画像生成処理を行い、投影装置に供給するような構成としてもよい。この場合、本実施形態のフローチャートによる処理は、アプリケーションにより提供されるプログラムを読み込むことにより実現される。アプリケーションは情報処理装置にインストールされたOSの基本的な機能を利用するためのプログラムを有している。なお、情報処理装置のOSが本実施形態における処理を実現するためのプログラムを有していてもよい。
[他の実施形態]
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
10…投影装置、30…印刷装置、40…印刷画像、50…投影領域、60…撮像領域、70…撮像装置、130…画像処理部

Claims (37)

  1. 投影面に画像を投影する投影手段と、
    前記投影面に含まれる画像の色に関する情報を取得する取得手段と、
    前記取得手段により取得した情報から投影面に含まれる画像と前記投影面に投影された画像との位置ずれを調整するための位置合わせ用画像を生成する生成手段と、
    前記位置合わせ用画像を前記投影面の画像に重ねて投影するように前記投影手段を制御する制御手段と、を有し、
    前記生成手段は、前記取得手段により取得した情報に基づいて、前記投影面に含まれる画像の色に対して所定の関係を有し、前記投影面に投影された画像との位置ずれ量を示す位置合わせ用画像を生成することを特徴とする投影装置。
  2. 前記位置合わせ用画像は、前記投影面に含まれる画像に対して補色の関係を有する画像であり、
    前記投影面の画像に前記位置合わせ用画像を重畳した状態で前記投影面に含まれる画像と前記位置合わせ用画像との位置ずれを表示することを特徴とする請求項1に記載の投影装置。
  3. 前記生成手段は、前記取得手段により取得した情報を、前記投影面に含まれる画像と補色の関係となるように色変換することにより前記位置合わせ用画像を生成することを特徴とする請求項1または2に記載の投影装置。
  4. 前記生成手段は、前記取得手段により取得した情報を、異なる表色系に変換した後に補色となるように色変換を行い、前記位置合わせ用画像を生成することを特徴とする請求項1から3のいずれか1項に記載の投影装置。
  5. 前記生成手段は、前記取得手段により取得した情報を、各原色に対する光強度値に変換して基準白色からの差分に応じて変換することで前記位置合わせ用画像を生成することを特徴とする請求項1から4のいずれか1項に記載の投影装置。
  6. 前記生成手段は、前記取得手段により取得した情報を、各原色に対する光強度値に変換して基準白色を構成する各原色の光強度値との逆比に応じて変換することで、前記位置合わせ用画像を生成することを特徴とする請求項1から4のいずれか1項に記載の投影装置。
  7. 前記生成手段は、前記取得手段により取得した情報の輝度を変換する輝度変換手段を有し、
    前記位置合わせ用画像に対して輝度を反転または最大化するように輝度を変換することを特徴とする請求項1から6のいずれか1項に記載の投影装置。
  8. 前記投影面に含まれる画像は、印刷装置により印刷された画像であり、
    前記取得手段は、前記情報を前記印刷装置から取得することを特徴とする請求項1から7のいずれか1項に記載の投影装置。
  9. 前記取得手段は、前記情報を、投影装置に入力される画像から取得することを特徴とする請求項1から7のいずれか1項に記載の投影装置。
  10. 前記投影面を撮像する撮像手段をさらに有し、
    前記取得手段は、前記投影面を撮像した画像から前記情報を取得することを特徴とする請求項1から7のいずれか1項に記載の投影装置。
  11. 前記撮像手段は、前記投影面を撮像した画像の階調が飽和しないように露光量を制御する露出制御手段を有することを特徴とする請求項10に記載の投影装置。
  12. 前記生成手段は、前記投影面を撮像した画像のうち、強調対象領域に設定された領域以外を所定の階調に変更してマスク処理するマスク手段を有することを特徴とする請求項10または11に記載の投影装置。
  13. 前記投影面の画像に前記位置合わせ用画像を重畳した状態で前記撮像手段により前記投影面を撮像した画像から前記投影面に含まれる画像と前記位置合わせ用画像との位置ずれ量に関する情報を求める検出手段をさらに有し、
    前記生成手段は、前記位置ずれ量に応じて前記位置合わせ用画像を変形することを特徴とする請求項10から12のいずれか1項に記載の投影装置。
  14. 前記検出手段は、前記撮像手段により前記投影面を撮像した画像の有彩色部分から位置ずれ量を求めることを特徴とする請求項13に記載の投影装置。
  15. 投影装置の動きに関する情報を取得する動き検出手段をさらに有し、
    前記制御手段は、前記投影装置の動きが大きいと判定した場合に、前記位置ずれを調整する動作モードに移行することを特徴とする請求項1から14のいずれか1項に記載の投影装置。
  16. 前記制御手段は、ユーザ操作に応じて前記位置ずれを調整する動作モードに移行することを特徴とする請求項1から14のいずれか1項に記載の投影装置。
  17. 前記生成手段は、前記情報の一部を用いて前記位置合わせ用画像を生成すること特徴とする請求項1から16のいずれか1項に記載の投影装置。
  18. 前記投影面の画像は、印刷された画像または建物の壁であることを特徴とする請求項1から17のいずれか1項に記載の投影装置。
  19. 投影面に画像を投影する投影装置の制御方法であって、
    前記投影面に含まれる画像の色に関する情報を取得するステップと、
    前記取得した情報から投影面に含まれる画像と前記投影面に投影された画像との位置ずれを調整するための位置合わせ用画像を生成するステップと、
    前記位置合わせ用画像を前記投影面の画像に重ねて投影するステップと、を有し、
    前記生成するステップでは、前記取得した情報に基づいて、前記投影面に含まれる画像の色に対して所定の関係を有し、前記投影面に投影された画像との位置ずれ量を示す位置合わせ用画像を生成することを特徴とする投影装置の制御方法。
  20. コンピュータを、請求項1から18のいずれか1項に記載された投影装置の各手段として機能させるためのプログラム。
  21. 投影装置が画像を投影する投影面に含まれる画像の色に関する情報を取得する取得手段と、
    前記取得手段により取得した情報から投影面に含まれる画像と前記投影面に投影された画像との位置ずれを調整するための位置合わせ用画像を生成する生成手段と、
    前記位置合わせ用画像を前記投影装置に供給する供給手段と、を有し、
    前記生成手段は、前記取得手段により取得した情報に基づいて、前記投影面に含まれる画像の色に対して所定の関係を有し、前記投影面に投影された画像との位置ずれ量を示す位置合わせ用画像を生成することを特徴とする情報処理装置。
  22. 前記位置合わせ用画像は、前記投影面に含まれる画像に対して補色の関係を有する画像であり、
    前記投影面の画像に前記位置合わせ用画像を重畳した状態で前記投影面に含まれる画像と前記位置合わせ用画像との位置ずれを表示することを特徴とする請求項21に記載の情報処理装置。
  23. 前記生成手段は、前記取得手段により取得した情報を、前記投影面に含まれる画像と補色の関係となるように色変換することにより前記位置合わせ用画像を生成することを特徴とする請求項21または22に記載の情報処理装置。
  24. 前記生成手段は、前記取得手段により取得した情報を、異なる表色系に変換した後に補色となるように色変換を行い、前記位置合わせ用画像を生成することを特徴とする請求項21から23のいずれか1項に記載の情報処理装置。
  25. 前記生成手段は、前記取得手段により取得した情報を、各原色に対する光強度値に変換して基準白色からの差分に応じて変換することで前記位置合わせ用画像を生成することを特徴とする請求項21から24のいずれか1項に記載の情報処理装置。
  26. 前記生成手段は、前記取得手段により取得した情報を、各原色に対する光強度値に変換して基準白色を構成する各原色の光強度値との逆比に応じて変換することで、前記位置合わせ用画像を生成することを特徴とする請求項21から24のいずれか1項に記載の情報処理装置。
  27. 前記生成手段は、前記取得手段により取得した情報の輝度を変換する輝度変換手段を有し、
    前記位置合わせ用画像に対して輝度を反転または最大化するように輝度を変換することを特徴とする請求項21から26のいずれか1項に記載の情報処理装置。
  28. 前記投影面に含まれる画像は、印刷装置により印刷された画像であり、
    前記取得手段は、前記情報を前記印刷装置から取得することを特徴とする請求項21から27のいずれか1項に記載の情報処理装置。
  29. 前記取得手段は、前記情報を、情報処理装置に入力される画像から取得することを特徴とする請求項21から27のいずれか1項に記載の情報処理装置。
  30. 前記取得手段は、前記投影面を撮像した画像から前記情報を取得することを特徴とする請求項21から27のいずれか1項に記載の情報処理装置。
  31. 前記生成手段は、前記投影面を撮像した画像のうち、強調対象領域に設定された領域以外を所定の階調に変更してマスク処理するマスク手段を有することを特徴とする請求項30に記載の情報処理装置。
  32. 前記投影面の画像に前記位置合わせ用画像を重畳した状態で前記投影面を撮像した画像から前記投影面に含まれる画像と前記位置合わせ用画像との位置ずれ量に関する情報を求める検出手段をさらに有し、
    前記生成手段は、前記位置ずれ量に応じて前記位置合わせ用画像を変形することを特徴とする請求項30または31に記載の情報処理装置。
  33. 前記検出手段は、前記投影面を撮像した画像の有彩色部分から位置ずれ量を求めることを特徴とする請求項32に記載の情報処理装置。
  34. 前記生成手段は、前記情報の一部を用いて前記位置合わせ用画像を生成すること特徴とする請求項21から33のいずれか1項に記載の情報処理装置。
  35. 前記投影面の画像は、印刷された画像または建物の壁であることを特徴とする請求項21から34のいずれか1項に記載の情報処理装置。
  36. 投影装置が画像を投影する投影面に含まれる画像の色に関する情報を取得するステップと、
    前記取得した情報から投影面に含まれる画像と前記投影面に投影された画像との位置ずれを調整するための位置合わせ用画像を生成するステップと、
    前記位置合わせ用画像を前記投影装置に供給するステップと、を有し、
    前記生成するステップでは、前記取得した情報に基づいて、前記投影面に含まれる画像の色に対して所定の関係を有し、前記投影面に投影された画像との位置ずれ量を示す位置合わせ用画像を生成することを特徴とする情報処理装置の制御方法。
  37. コンピュータを、請求項21から35のいずれか1項に記載された情報処理装置の各手段として機能させるためのプログラム。
JP2017102957A 2017-05-24 2017-05-24 投影装置、情報処理装置およびそれらの制御方法、並びにプログラム Pending JP2018197824A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017102957A JP2018197824A (ja) 2017-05-24 2017-05-24 投影装置、情報処理装置およびそれらの制御方法、並びにプログラム
US15/984,724 US10440337B2 (en) 2017-05-24 2018-05-21 Projection apparatus, information processing apparatus, and control methods thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017102957A JP2018197824A (ja) 2017-05-24 2017-05-24 投影装置、情報処理装置およびそれらの制御方法、並びにプログラム

Publications (1)

Publication Number Publication Date
JP2018197824A true JP2018197824A (ja) 2018-12-13

Family

ID=64401491

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017102957A Pending JP2018197824A (ja) 2017-05-24 2017-05-24 投影装置、情報処理装置およびそれらの制御方法、並びにプログラム

Country Status (2)

Country Link
US (1) US10440337B2 (ja)
JP (1) JP2018197824A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020196091A1 (en) 2019-03-26 2020-10-01 Clarion Co., Ltd. Image processing apparatus and image processing method
WO2021181938A1 (ja) * 2020-03-09 2021-09-16 富士フイルム株式会社 投影システム、投影方法、及び制御プログラム
CN115016716A (zh) * 2022-05-31 2022-09-06 南方科技大学 投影交互方法和系统

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6275312B1 (ja) * 2017-06-02 2018-02-07 キヤノン株式会社 投写装置およびその制御方法、プログラム
JP2019078786A (ja) * 2017-10-20 2019-05-23 セイコーエプソン株式会社 画像投射システム、プロジェクター、及び画像投射システムの制御方法
JP7073817B2 (ja) * 2018-03-19 2022-05-24 セイコーエプソン株式会社 投写装置および投写方法
CN108632593B (zh) * 2018-05-31 2020-05-19 歌尔股份有限公司 彩色汇聚误差的修正方法、装置及设备
JP7172294B2 (ja) * 2018-08-30 2022-11-16 セイコーエプソン株式会社 プロジェクター、色補正システム、及びプロジェクターの制御方法
JP2022054248A (ja) * 2020-09-25 2022-04-06 キヤノン株式会社 画像処理装置、その制御方法、及びプログラム
CN112506462B (zh) * 2021-01-29 2021-06-01 深圳乐播科技有限公司 文档投屏方法及系统
JP2023028287A (ja) * 2021-08-19 2023-03-03 セイコーエプソン株式会社 印刷装置、及び、印刷装置の制御方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008145915A (ja) 2006-12-13 2008-06-26 Seiko Epson Corp 表示装置
JP5987340B2 (ja) 2012-02-14 2016-09-07 セイコーエプソン株式会社 プロジェクター、及び、画像表示システム
JP6146143B2 (ja) 2013-05-31 2017-06-14 株式会社Jvcケンウッド マルチプロジェクタシステム、投射装置、調整装置および画像調整方法、ならびに、画像調整プログラム

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020196091A1 (en) 2019-03-26 2020-10-01 Clarion Co., Ltd. Image processing apparatus and image processing method
WO2021181938A1 (ja) * 2020-03-09 2021-09-16 富士フイルム株式会社 投影システム、投影方法、及び制御プログラム
JP7336021B2 (ja) 2020-03-09 2023-08-30 富士フイルム株式会社 投影システム、投影方法、及び制御プログラム
CN115016716A (zh) * 2022-05-31 2022-09-06 南方科技大学 投影交互方法和系统

Also Published As

Publication number Publication date
US20180343426A1 (en) 2018-11-29
US10440337B2 (en) 2019-10-08

Similar Documents

Publication Publication Date Title
JP2018197824A (ja) 投影装置、情報処理装置およびそれらの制御方法、並びにプログラム
US20180139427A1 (en) Projector, its control method, and image projection system
JP3620537B2 (ja) 画像処理システム、プロジェクタ、プログラム、情報記憶媒体および画像処理方法
US10281714B2 (en) Projector and projection system that correct optical characteristics, image processing apparatus, and storage medium
US20170244941A1 (en) Projector and control method thereof
KR20200014691A (ko) 촬상장치, 제어방법, 기록 매체, 및 정보처리장치
US20170142383A1 (en) Projection apparatus, method for controlling the same, and projection system
US20160232651A1 (en) Signal adjustment apparatus, display apparatus, and signal adjustment method
US20110234614A1 (en) Image processing apparatus
JP2008046536A (ja) 画像表示システム、プロジェクタ、コンピュータプログラムおよび画像表示方法
JP7207876B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP7266179B2 (ja) 画像処理装置及び撮像装置
WO2019159880A1 (ja) 映像プロジェクタおよび映像表示方法
JP2020071354A (ja) 投影システムおよび投影方法
JP2020072357A (ja) 投影装置および投影方法
US20180376031A1 (en) Projection apparatus that improves dynamic range of luminance of printed material, control method therefor, and storage medium
JP2002335536A (ja) 輝度調整装置およびその動作制御方法
JP2019114887A (ja) 投射型画像表示装置およびその制御方法
JP6700955B2 (ja) 投影装置及び投影方法
WO2013027277A1 (ja) 画像表示装置および色むら補正方法
US10356255B2 (en) Image processing apparatus, projection apparatus, image processing method, projection method, and storage medium
JP2006251846A (ja) 画像処理装置
JP2018121194A (ja) 画像処理装置、画像処理方法、及びプログラム
JP6562653B2 (ja) 投影装置
JP2017198779A (ja) 投影型表示装置及びその制御方法