JP7015981B2 - 投写画像調整システム及び投写画像調整方法 - Google Patents

投写画像調整システム及び投写画像調整方法 Download PDF

Info

Publication number
JP7015981B2
JP7015981B2 JP2016239972A JP2016239972A JP7015981B2 JP 7015981 B2 JP7015981 B2 JP 7015981B2 JP 2016239972 A JP2016239972 A JP 2016239972A JP 2016239972 A JP2016239972 A JP 2016239972A JP 7015981 B2 JP7015981 B2 JP 7015981B2
Authority
JP
Japan
Prior art keywords
projection
image
type display
image pickup
pickup device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016239972A
Other languages
English (en)
Other versions
JP2017138581A (ja
Inventor
義直 平沼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to US15/411,864 priority Critical patent/US10771751B2/en
Priority to CN201710052176.5A priority patent/CN107027013B/zh
Publication of JP2017138581A publication Critical patent/JP2017138581A/ja
Priority to JP2021118445A priority patent/JP7117518B2/ja
Application granted granted Critical
Publication of JP7015981B2 publication Critical patent/JP7015981B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Projection Apparatus (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本開示は、複数の投写型表示装置から構成される表示領域に関し、複数の撮像装置を用いて、所望の形状あるいは特性に調整するための投写画像調整システム、及び同方法に関する。
特許文献1は、複数の画像投影装置により投影される部分画像を1つのスクリーン上でつなぎ合わせて1つの画像を表示する画像投影システムと、複数の画像投影装置により投影される部分画像同士の重なり部が滑らかに繋がるように、各部分画像を幾何補正する画像幾何補正装置を開示する。画像幾何補正装置が複数の画像撮影装置により撮影された画像の座標系を統一し、統一後の座標系上での画像投影範囲を基準にして、複数の画像投影装置により投影される画像を幾何補正する。これにより、予め決められた位置に厳密に画像撮影装置を配置することなく、投影画像を幾何補正することができる。
国際公開第2006/030501号
しかし、画像撮影装置と画像投影装置との関係を設定するにあたり、どの画像撮影装置がどの画像投影装置の投写画像を撮影範囲に含んでいるのか、ユーザーが常に把握していなければならず手間がかかる。
本開示は、複数の投写型表示装置を用いて表示される1つの画像に対し、複数の撮像装置を用いて、所望の形状あるいは特性に調整するシステムであって、選択した撮像装置が指定する投写型表示装置の投写範囲を含んでいるか簡単に確認することができ、また、含まない場合、撮像装置の位置調整、選択変更、あるいは投写型表示装置の投写範囲の変更といった操作が容易となる投写画像調整システムを提供する。
本開示の投写画像調整システムは、投写面に投写画像を投写する複数の投写型表示装置と、投写面に表示される投写画像を撮像する第1撮像装置および第2撮像装置と、複数の投写型表示装置、第1撮像装置および第2撮像装置を制御する制御装置と、を備える。制御装置は、撮像装置選択部と、撮影範囲設定部と、パターン投写部と、撮影画像表示部と、を備える。撮像装置選択部は、第1撮像装置または第2撮像装置を選択する。撮影範囲設定部は、複数の投写型表示装置のうち少なくとも1つの投写型表示装置を共通で含むように、第1撮像装置が撮影を担当する投写型表示装置の第1担当範囲および第2撮像装置が撮影を担当する投写型表示装置の第2担当範囲を設定する。パターン投写部は、撮像装置選択部の選択に基づき、第1担当範囲または第2担当に対応する投写型表示装置に第一の書式パターンを投写させる。撮影画像表示部は、撮像装置選択部の選択に基づき、第1撮像装置が撮影する撮影画像または第2撮像装置が撮影する撮影画像を表示する。
本開示における投写画像調整システムは、選択した撮像装置が、指定する投写型表示装置の投写範囲を含んでいるか、簡単に確認することができる。また、含まない場合、撮像装置の位置調整、選択変更、あるいは投写型表示装置の投写範囲の変更といった操作が容易になる。
プロジェクターをネットワークに接続した際の状態を示す模式図 プロジェクターの機能ブロック図 カメラの機能ブロック図 調整用PCの機能ブロック図 スクリーンへ投写画像を合わせ込む動作を説明するためのフローチャート カメラ座標を検出するためのテストパターンを示す図 プロジェクターの投写領域調整後のネットワーク接続図 プロジェクターの接続を行うアプリケーション画面を示す図 接続時点のプロジェクターの配置情報を格納するデータ構造図 プロジェクターの配置設定を行うアプリケーション画面を示す図 プロジェクターの配置設定を行うアプリケーション画面(設定前)を示す図 プロジェクターの配置設定時のプロジェクター投写例を示す図 プロジェクターの配置設定を行うアプリケーション画面(設定後)を示す図 プロジェクターの配置情報を格納するデータ構造図(設定後)を示す図 カメラの接続を行うアプリケーション画面を示す図 カメラの配置設定時のプロジェクター投写例を示す図 カメラの配置設定を行うアプリケーション画面を示す図 カメラの配置設定を行うアプリケーション画面を示す図 カメラの配置設定を行うアプリケーション画面を示す図 カメラの配置情報を格納するデータ構造図を示す図 カメラの露光、ホワイトバランス、フォーカスを調整するためのアプリケーション画面を示す図 投写領域およびオーバーラップ幅の設定を行うアプリケーション画面を示す図 投写領域設定時のプロジェクター投写例を示す図 自動実行フェーズにおける進捗状況を表示するアプリケーション画面を示す図
以下、適宜図面を参照しながら、実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。
なお、発明者は、当業者が本開示を十分に理解するために添付図面および以下の説明を提供するものであって、これらによって特許請求の範囲に記載の主題を限定することを意図するものではない。
(実施の形態)
以下、図1~24を用いて、実施の形態を説明する。
[1-1.ネットワーク接続構成、及び配置構成]
図1は、実施の形態にかかるプロジェクター(投写型表示装置)101~105、カメラ(撮像装置)201~202、および調整用PC(Personal Computer)300をネットワークに接続した際の状態を示す模式図である。複数のプロジェクター101~105は、スクリーン(投写面)400の前方に位置してスクリーン400に画像を投写するように配置され、LAN(Local area network)ケーブル、ネットワークハブ500、無線アクセスポイント600を介して調整用PC300と接続される。複数のカメラ201、202は、スクリーン400の前方に位置してスクリーン400を含む所定の領域を撮影するように配置され、有線又は無線により調整用PC300と接続される。投写画像調整システム10は、プロジェクター101~105、カメラ201~202、および調整用PC300がネットワークに接続されて構成される。
例えば、図1に示すように、プロジェクター101~105を横方向に配置し、領域を分割して、スクリーンに表示する表示画像を構成する投写画像を投写することで、スクリーン400が極端に横長のような場合にも画像を表示させることが可能となる。一般に、そのような画像の投写を行う場合、隣り合うプロジェクターの投写領域の一部が重なり合うように画像を投写し、重なった領域における画像の輝度を徐々にクロスフェードして繋ぎ目を分からなくする「エッジブレンディング」と呼ばれる手法が使われる。さらに、図示しないが、同じ投写領域に複数台のプロジェクターを重畳投写してより明るい画像を表示する「スタック投写」と呼ばれる手法も使われることがある。
図2は、実施の形態で使用されるプロジェクター101の機能ブロック図である。プロジェクター102~105の構成も同様であるので、プロジェクター101についてのみ説明する。プロジェクター101は、画像を生成する画像生成部1010と、画像を投写面に投写する投写部1016を含んで構成されている。画像生成部1010は、無線通信用のアクセスポイント機能を有する無線通信部1011と、LANケーブルが接続され有線通信を行う有線通信部1012と、記憶部1013と、画像処理部1014と、制御部1015を含んで構成されている。記憶部1013は、後述する投写パターン等の画像情報、投写型表示装置自身のSSIDを示す識別データ等を記憶している。
図3は、カメラ201の機能ブロック図である。カメラ202の機能ブロックも同様であるので、カメラ201のみについて説明する。カメラ201は、制御部2010、画像処理部2011、表示ドライバ2012、モニタ2013、キー入力部である操作部2014、無線LAN回路である無線通信部2015、USBインターフェース回路であるUSB通信部2016、コンデンサ2017、バッテリ2018、ストロボ2019、CCD(Charge Coupled Device)ドライバ-2020、CCD2021およびメモリ2022を有している。また、記録媒体であるメモリカード2023が図示しないカードスロットに装填されている。
制御部2010は、様々な処理や制御を実行するための回路であり、マイコン等を用いて構成される。画像処理部2011は、撮影画像データの圧縮/伸張を行う回路である。表示ドライバ2012は、モニタ2013に表示する画像をコントロールする駆動回路である。操作部2014は、カメラ201に設けられたボタン、スイッチ、ダイヤル等の操作を検出する回路である。
無線通信部2015は、無線で外部機器と通信するための通信回路である。USB通信部2016は、USBケーブルで外部機器と通信するための通信回路である。コンデンサ2017は、バッテリ2018からの電力を受けて充電し、ストロボ2019の発光に使用する。バッテリ2018は、撮像装置を動作させるために必要な電力を供給するリチウムイオン充電池等の電源である。
ストロボ2019は、被写体に補助光を照射することにより暗い環境でも撮影を可能にする。CCDドライバ2020は、CCD2021を駆動するための回路である。CCD2021は、撮影レンズを介した被写体像を撮像するための撮像素子である。CCD2021によって被写体像が撮像されると、CCD2021からCCDドライバ2020へ撮像信号が出力される。この撮像信号は、CCDドライバ2020において撮像画像データに変換された後、制御部2010へ出力される。
メモリ2022は、不揮発性の半導体メモリであり、制御部が実行する制御に用いるためのプログラムやデータ等を記憶している。メモリカード2023は、制御部の制御により、撮像装置によって取得された撮影画像情報など各種の情報が記録される。
図4は、実施の形態における調整用PC300の機能ブロック図である。調整用PC300は、無線通信部301と、有線通信部302、画像データ等を記憶する記憶部303と、ユーザーによる選択指示等を受け付けるユーザインターフェースであるUI部304と、制御部305と、画像データ等に基づいて画像を生成する画像処理部306と、画像を表示する表示部307を含んで構成されている。なお、調整用PC300のハードウェアは、一般的なものであり、例えば、無線通信部301は無線LANユニット等、記憶部303はハードディスクやRAM等、UI部304は、キーボード、マウス等、制御部305はCPU等、表示部307は液晶ディスプレイ等、USB通信部308はUSBポート等によって構成される。ここで、調整用PC300は、制御装置の一例である。
複数のカメラ201、202は、USB通信部2016を介して調整用PC300と接続される。カメラ201、202は調整用PC300からの指示により、スクリーン400を部分的に含むエリアを撮影し、その画像データを調整用PC300へ送信する。カメラ201、202と調整用PC300とは、無線通信部2015、無線通信部301によって、WiFiなどの無線通信により接続されても良い。
調整用PC300は、プロジェクター101~105およびカメラ201、202に対しコマンドを発行して制御を行う。また、後述するように、調整用PC300はプロジェクター101~105から投写される画像をスクリーン400に合わせ込むために、制御部1015によって投写状態の取得、補正データの算出、補正データの送信を行う。
[1-2.動作]
以上のように構成された投写画像調整システム10において、その動作を以下に説明する。
図5は、調整用PC300による、スクリーン400の領域内に投写画像を収まるようにプロジェクター101~105を調整するための動作(以下「投写領域自動調整動作」と称す)を示すフローチャートである。投写領域自動調整動作は、調整用PC300が特定のアプリケーションプログラムを実行することで実現され、設定フェーズ(S100~S500)と自動実行フェーズ(S600~S1000)とから成る。
投写領域自動調整動作が開始されると、最初に、調整用PC300は、プロジェクター101~105とのネットワーク接続を確立し、各プロジェクターを仮ID(例えば接続順に1から番号を割り当てる)で識別可能にする(S100)。次にスクリーン400に画像を表示するプロジェクターの横方向台数、縦方向台数、およびスタック台数の指定を行い、ステップS100で識別したプロジェクターが、実際の配置でスクリーン400の領域のうち、どの部分を投写するプロジェクターであるのか、配置位置の関係の紐付けを行い、その位置関係に従ってプロジェクターIDを付す(S200)。
次に調整に使用するカメラ201、202を調整用PC300に接続し、各カメラをID(例えば接続順に1から番号を割り当てる)で識別可能にする(S300)。続いて、接続された複数台のカメラに対し、各カメラがどのプロジェクターの投写領域を撮影するのかを指定する(S400)。特に隣り合うカメラでは、少なくとも一つのプロジェクターの投写画像を両方のカメラで撮影できるように配置し、指定する。
次に、プロジェクター101~105が画像を投写するスクリーン400の領域と、隣り合うプロジェクター間で重ね合わせて投写する領域の幅であるオーバーラップ幅を設定する(S500)。スクリーン400の領域の設定は、具体的にはスクリーン400の縁に等間隔にカーソルを設置し、そのカーソルの表示されたプロジェクターIDと座標を記録する。
ここまでの設定が全て終わり、実行を指示すると、自動実行フェーズに移行する。
プロジェクターの投写位置とカメラの画素位置との関係を求めるため、図6に示すような複数の特徴点を持つテストパターンを各プロジェクターから投写し、カメラで撮影する(S600)。ステップS400で設定した各カメラが担当するプロジェクターの投写領域を基に、全ての組み合わせで投写されたテストパターンを撮影する。図6のようなテストパターンは、例えば、予め調整用PC300の記憶部303に格納しておき、これを各プロジェクターに伝送して、投写することができる。
次に、撮影した画像からテストパターンに含まれる複数の特徴点のカメラ座標を検出し、その特徴点のプロジェクター座標とカメラ座標の対応関係から、プロジェクター座標系をカメラ座標系に変換する座標変換テーブルを求める(S700)。次に、隣り合うカメラについて、双方のカメラで撮影された同じプロジェクターの投写画像の同じ特徴点に対応する、それぞれのカメラ座標の関係から、カメラ間の座標変換式を算出する(S800)。カメラ間の座標変換式の算出は例えば、特許文献1の段落[0025]~[0027]に示されるように、同じプロジェクターの投写画像の同じ特徴点から求められたそれぞれのカメラ座標の対応関係を4組以上用いて、平面射影変換行列H(Homography)を求める方法がある。
次に、調整用PC300は、各プロジェクターの座標系として記録されている値から、ステップS700で求めた座標変換テーブル、およびステップS800で求めたカメラ間の座標変換式を用いて、座標系の統一を行う。そして、ステップS500で設定したスクリーン400の投写領域の位置情報と、プロジェクターの位置情報から、各プロジェクターの投写画像をスクリーン400の投写領域へ合わせ込むための幾何補正データを算出する(S900)。
最後に、調整用PC300は、算出された幾何補正データおよびオーバーラップ幅をそれぞれのプロジェクターへ転送する(S1000)。これにより、図7に示すように、調整前では、各プロジェクターの投写画像がスクリーンからはみ出ていたのを(調整前の投写画像を一点鎖線で示す)、スクリーン400へフィットさせることができ、かつ繋ぎ目の滑らかな画像が得られる。
以上説明したフローチャートのうち、設定フェーズ(S100~S500)の詳細動作を以下に説明する。
図8は、調整用PC300とプロジェクター101~105とのネットワーク接続を確立し、各プロジェクターを仮IDで識別可能にするステップS100のアプリケーション画面1000であり、このアプリケーション画面は調整用PC300の表示部307に表示される。Search Projectorボタン1002が押されると、調整用PC300はネットワーク上に存在するプロジェクター101~105を検索し、右のリスト1001に一覧表示する。また、Add Projectorボタン1003が押されると、図示しない入力画面が表示され、追加したいプロジェクターのIPアドレスやプロジェクター名の入力が促される。それら入力されると、調整用PC300は、通信により存在を確認し、確認ができればリスト1001に追加表示する。これらの処理により、リスト1001にはネットワーク上で接続が確認できたプロジェクターのプロジェクター名、IPアドレス、モデル名が表示される。
次に、ユーザーはリストの中から調整したいプロジェクターにチェックを付す。リスト下部にあるSelect Allボタン1004が押されると、リスト上にある全てのプロジェクターにチェックが付けられる。また、Clear Allボタン1005が押されると、全てのプロジェクターのチェックが外される。調整したいプロジェクターにチェックを付けた状態でNextボタン1006が押されると次のステップに進む。
このとき、選択された各プロジェクターには仮IDが付される。リスト1001の上からチェックが付けられたプロジェクターに対し、図9に示すように、仮ID(Temporary ID)として、順に1、2、…と番号が割り当てられる。この時点で図9のようなデータがアプリケーションの内部情報として調整用PC300の記憶部303に記憶される。
図10及び図11は、ステップS100で選択されたプロジェクターの配置関係を設定するステップS200のアプリケーション画面である。まず、図10の画面にて、スクリーン400に対し、選択されたプロジェクターがどのような配置であるかを設定する。例えば、図1の模式図のように、プロジェクター5台を横並びに配置してスクリーン400に一つの映像を形成する場合には、ユーザーは、Heightの項目1103に「1」、Widthの項目1104に「5」、Stackの項目1105に「1」をそれぞれ入力し、Nextボタン1106を押す。表示部307のボックス1101には、このようにして設定されたプロジェクターの配置が、水平方向に5つ並んだプロジェクターのアイコンIで示されている。
別例として、スクリーン400を縦2面×横3面に分割し、各面には2台のプロジェクターを重畳投写して明るさを得るような構成とする場合には、ユーザーは、Heightの項目1103に「2」、Widthの項目1104に「3」、Stackの項目1105に「2」をそれぞれ入力する。この例ではプロジェクターが計12台必要であるため、予めステップS100にてプロジェクターを12台接続し、選択しておく。
図10のRestoreボタン1102により、以前に調整を行った場合に、その設定情報が読み出される。Nextボタン1106が押されたタイミングで、調整用PC300は、設定に必要なプロジェクターの台数N(N=Height×Width×Stack)と、ステップS100にて選択されたプロジェクターの台数とを比較し、同数でなければ、エラーメッセージ(図示しない)を表示して再調整を促す。
次に図11のアプリケーション画面1200にて、プロジェクターの並びを設定する。この画面が表示されるタイミングで、各プロジェクターは自分に割り当てられた仮IDの数字をスクリーン400へ投写する(図12)。本実施の形態では、プロジェクター101は仮ID=3が割り当てられたプロジェクター(IPアドレス=192.168.0.3、プロジェクター名=Name0824)、プロジェクター102は仮ID=1が割り当てられたプロジェクター(IPアドレス=192.168.0.1、プロジェクター名=Name4470)、プロジェクター103は仮ID=4が割り当てられたプロジェクター(IPアドレス=192.168.0.4、プロジェクター名=Name0116)、プロジェクター104は仮ID=2が割り当てられたプロジェクター(IPアドレス=192.168.0.2、プロジェクター名=Name1116)、プロジェクター105は仮ID=5が割り当てられたプロジェクター(IPアドレス=192.168.0.5、プロジェクター名=Name1337)である。
図11のアプリケーション画面1200の左側のボックス1201は、各プロジェクターの配置を設定するための領域である。まず、調整用PC300は、各プロジェクターから投写される仮IDの数字のうち、仮ID=1のみ他の仮IDとは異なる書式で投写させ、ユーザーが指示すべきプロジェクターがどれであるかを判別しやすくする。異なる書式として、例えば、仮ID=1のみ赤色の数字を投写し、それ以外は白色の数字を投写する。異なる書式の別の例としては、ユーザーが指示すべきプロジェクターのみ仮IDを投写し、それ以外は全白パターンを投写するようにしても良い。同じ場所に複数のプロジェクターで重畳投写する場合では、数字が重なることがなくなり、より識別しやすくなる。
ユーザーはスクリーン400で他の仮IDと異なる書式で投写されている仮ID=1の投写位置を確認する。図12に示すように、仮ID=1はスクリーン400の左から2番目の投写位置に投写されているので、ユーザーは、アプリケーション画面1200の左のボックス1201内の対応するセル(左から2番目)を選択(クリック)する。すると、そのセルに仮ID=1の番号がセットされ、仮ID=1のプロジェクター102の位置がセットされる。図11のボックス1201の各セルには、アンダーバーUが表示されており、このアンダーバーUの位置にセットされた仮IDが表示される。
仮ID=1のセットが完了すると、続いて、調整用PC300は仮ID=2のプロジェクター104にのみ他のプロジェクターと異なる書式で仮ID=2を投写させる。ユーザーが、同様にして、ボックス1201内の対応する左から4番目のセルを選択すると、そのセルに仮ID=2が表示され、プロジェクター104の位置がセットされる。以下同様の手順で残りのプロジェクターの位置がセットされる。図13は全てのプロジェクターの位置がセットし終わった状態のアプリケーション画面1200を示している。
全てのプロジェクターの位置がセットされ、Nextボタン1202が押されてプロジェクターの配置が確定すると、各プロジェクターに対し、プロジェクターの位置を行(Row)と列(Column)と層(Layer)の数字の組み合わせで表現する配置情報が付される。この配置情報が、図5のステップS200において付されるプロジェクターIDである。本実施の形態の例では、左端のプロジェクター101には(行,列,層)=(1,1,1)、右端のプロジェクター105には(行,列,層)=(1,5,1)が割り当てられる。ここで、「層」には重畳投写の場合に同じ位置(行,列)へ投写される複数プロジェクターを識別するために、図13のアプリケーション画面1200の左のボックス1201で同じ対応するセル位置に設定された順に1、2、・・・と番号が割り当てられる。この時点で図14のようなデータがアプリケーションの内部情報として記憶部303に記憶される。
図15は、調整に使用するカメラ201、202を調整用PC300に接続し、各カメラをIDで識別可能にするステップS300のアプリケーション画面1300である。Search Cameraボタン1301を押すと、調整用PC300はUSBポートなどに接続されたカメラを検索し、右のリスト1302にカメラのID、モデル名を一覧表示する。カメラのIDは、検索で見つかったカメラを識別するために、Camera1から順に自動で付されたものである。
次に、ユーザーはリスト1302の中から調整に使用したいカメラにチェックを付す。リスト下部にあるSelect Allボタン1303を押すと、リスト上にある全てのカメラにチェックが付けられる。また、Clear Allボタン1304を押すと、全てのカメラのチェックが外される。調整に使用したいカメラにチェックを付けた状態でNextボタン1305を押すと次のステップに進む。
図17~図19は、接続された複数台のカメラに対し、各カメラがどのプロジェクターの投写領域を撮影するのかを指定するステップS400のアプリケーション画面1400である。本実施の形態における実際のカメラ配置は、図16に示すように、左側のカメラ201にID=Camera2が付され、右側のカメラ202にID=Camera1が付されているとする。また、左側のカメラ201はプロジェクター101~103が投写する範囲を撮影するよう配置され、右側のカメラ202はプロジェクター103~105が投写する範囲を撮影するよう配置されているものとする。
図17に示すアプリケーション画面1400に切り替わる際に初期状態が決定される。カメラの配置タイプ1403はプロジェクターの縦方向台数と横方向台数の大小関係により決定される。本実施の形態では、プロジェクターの配置が縦1台×横5台であることから、配置タイプ1403は「Horizontal」に設定され、画面にその情報がラジオボタンで表示される。
次に、プロジェクターに対する各カメラの担当範囲の初期値が決定される。決定ルールとして、カメラのIDが付された順に、カメラの配置タイプが「Horizontal」の場合は左側から右側へ、カメラの配置タイプが「Vertical」の場合は、上側から下側へ、担当範囲が設定される。また、各カメラが担当するプロジェクターの台数が均等となるように、かつ、隣接するカメラ同士が少なくとも一つのプロジェクターを共通に含むように、担当範囲が設定される。プロジェクターの台数が均等になるようにとは、2台のカメラを使用する場合は、初期値として、それぞれが同数もしくはそれに近い数のプロジェクターをカバーするように担当範囲が決められるということであり、そのようにすることが望ましい。また、隣同士のカメラが少なくとも一つのプロジェクターを共通に含むとは、本実施の形態では、プロジェクター103を2台のカメラのいずれもが担当範囲としてカバーすることを意味する。
上記決定ルールにより、本実施の形態では、1つのプロジェクター、すなわち列番号3のプロジェクター103がカメラ201(Camera2)とカメラ202(Camera1)の両方の担当範囲に属するように、担当範囲が決定される。そして、カメラ202(Camera1)が列番号1~3のプロジェクター101~103を担当し、カメラ201(Camera2)が列番号3~5のプロジェクター103~105を担当するように、担当範囲の初期値が決定される。しかし、実際の配置では、図16に示すように、カメラ202(Camera1)がプロジェクター103~105の投写画像を撮影するように右側に、カメラ201(Camera2)がプロジェクター101~103の投写画像を撮影するように左側に、配置されているので、ユーザーはアプリケーション画面1400を操作して正しい担当範囲に設定しなければならない。
図17のアプリケーション画面1400の左側にはプロジェクターの配置情報1401が表示される。プロジェクターの配置が縦1台×横5台の場合は、左から順に1~5の列番号が付される。プロジェクター配置情報1401の右横には、調整に使用するカメラ台数分のラジオボタン1404とカメラのIDを示すリストボックス1405が表示される。上から順に、左から右(カメラの配置タイプが「Vertical」の場合は上から下)の担当範囲に対応する。初期状態では一番上のラジオボタン1404がONになっており、対応するカメラの担当範囲は列番号1~3であることを示すため、プロジェクター配置情報1401の列番号1~3が枠Fで囲まれている。
同時に、図16に示すように、実際のプロジェクターにおいて、各プロジェクターに割り当てられた列番号が、図17のアプリケーション画面に変わったタイミングで、投写される。カメラ配置タイプが「Vertical」の場合は、各プロジェクターに割り当てられた行番号を投写する。また、スタック投写の場合には、層が「1」であるプロジェクターのみが番号を投写することで、同じ位置に番号が複数投写されず見やすくすることが可能である。
さらに、調整用PC300からの指令により、各プロジェクターは、図17のプロジェクター配置情報1401で枠Fに囲まれているプロジェクター群と、それ以外の群とで、書式を変えて列番号の投写画像を投写する。図16の例では、白地の投写画像を投写するプロジェクター101~103と薄グレーの地の投写画像を投写するプロジェクター104及び105とに分かれている。ここで、白地の投写画像は第一の書式パターンの一例であり、薄グレーの地の投写画像は第二の書式パターンの一例である。第一の書式パターンおよび第二の書式パターンの投写は、調整用PC300の制御部305に属するパターン投写部の指示により行われる。
図17に戻り、プロジェクター配置情報1401の担当範囲を示す枠Fは、その範囲を変更することが可能である。本実施の形態では一番上のラジオボタン1404に設定され左側の投写画像を撮影するカメラの担当範囲の初期値は列番号1~3であり、列番号1~3が枠Fで囲まれ、さらに列番号3の部分の背景色が他と異なっている。この背景色が異なる列番号の位置を変更することにより、担当範囲を変更することが可能である。例えば、障害物などがあり、左側を撮影するカメラの担当範囲が列番号1~2、右側を撮影するカメラの担当範囲が列番号2~5となるように、カメラを配置した場合、担当範囲の初期値を列番号1~3から列番号1~2に変更する必要がある。具体的には、プロジェクター配置情報1401の列番号2のエリアをクリックすることで、枠Fが囲む範囲が列番号1~2に変更され、列番号2の背景色が他と異なる色になる。
また、ユーザーは、ラジオボタン1404に設定されるカメラを変更することが可能である。図17に示すように、ラジオボタン1404の右にはリストボックス1405が表示され、その右にはTest Shotボタン1406が表示されている。選択されているラジオボタン1404に対応する上側のTest Shotボタン1406が押されると、初期値で設定された「Camera1」に対応するカメラに撮影指示がなされ、その撮影データが下の確認画面1407へ表示される。本例では、「Camera1」は右側に配置されているカメラ202に対応するので、列番号3~5に対応するプロジェクターの投写画像を撮影した結果が表示される。ここで、ユーザーは、プロジェクター配置情報1401において枠Fで囲まれた列番号1~3と確認画面1407に表示された撮影画像とを比較することにより、初期値で設定されたカメラが実際のカメラの配置と合っているか否かを確認することができる。本実施の形態では、図17に示すように、確認画面1407に表示される撮影画像は列番号3~5であり、枠Fで囲まれた列番号1~3とは違っているので、選択されている一番上のラジオボタン1404に対応するカメラを変更する必要がある。
設定されているカメラを変更するには、ユーザーは、「Camera1」と表示されているリストボックス1405を押し、表示されるプルダウンメニューから「Camera2」を選択する。すると、「Camera1」と「Camera2」のそれぞれに対応するカメラの配置情報が入れ替わる。この状態で、ユーザーがもう一度上側のTest Shotボタン1406を押すと、図18に示すように、「Camera2」に対応するカメラ201で撮影した撮影データが下の確認画面1407へ表示される。カメラ201は、図16に示すように、プロジェクター101~103がスクリーン400に投写している列番号1~3を撮影しているので、図18に示すように、確認画面1407には列番号1~3の撮影画像が表示される。ユーザーは、プロジェクター配置情報1401において枠Fで囲まれた列番号1~3と確認画面1407に表示された列番号1~3とが合っているころを確認することができる。
さらに図19は、下側のラジオボタン1404をONにし、下側のTest Shotボタン1406を押したときの状態を示す。下側のラジオボタンがONとなったタイミングで、対応するカメラ、すなわち右側のカメラの担当範囲は列番号3~5であることを示すため、プロジェクター配置情報1401の列番号3~5が枠Fで囲まれる。また同時に、調整用PC300は、各プロジェクターに列番号の書式を変更して投写させる。具体的には、選択されたカメラの担当範囲である列番号3~5に対応するプロジェクター103~105は白地の投写画像(第一の書式パターン)を投写し、それ以外のプロジェクター101、102は薄グレーの地の投写画像(第二の書式パターン)を投写する。そして、下側のTest Shotボタン1406を押すと、下側のリストボックス1405に表示された「Camera1」に対応するカメラ202へ撮影指示がなされ、撮影データが下の確認画面1407へ表示される。ユーザーは、プロジェクター配置情報1401において枠Fで囲まれた列番号3~5と確認画面1407に表示された列番号3~5とが合っていることを確認することができる。
Restoreボタン1402は、以前に調整を行った場合に、その設定情報を読み出すボタンである。全てのカメラの担当範囲が確認できたら、ユーザーはNextボタン1408を押して対応関係を確定する。アプリケーションには図20に示すようなデータが内部情報として記憶部303に記憶される。すなわち、カメラ(ID=Camera2)の担当範囲は列番号1~3(Start Index=1,End Index=3)、カメラ(ID=Camera1)の担当範囲は列番号3~5(Start Index=3,End Index=5)であることが記憶される。ここで、ラジオボタン1404、及びリストボックス1405は、撮像装置選択部の一例である。プロジェクター配置情報1401は、撮影範囲設定部の一例である。また、確認画面1407は、撮影画像表示部の一例である。
図21は、カメラの露出、ホワイトバランス、フォーカスを調整するためのアプリケーション画面1500である。Auto Setupボタン1501を押されると接続された全てのカメラに対して、自動調整が行われる。具体的には、プロジェクターから全白パターンが投写され、その状態をカメラで撮影しても露出オーバーとならないように、露光時間、ISO値、絞りなどのパラメータが調整される。次に投写された全白パターンを基準としてホワイトバランスの調整が行われ、最後にクロスハッチなどのフォーカスを合わせやすいパターンを投写して、フォーカスの調整が行われる。
カメラのパラメータ確認エリア1502には、自動調整された結果が表示される。Manual SetupのチェックボックスをONにすることで、手動で所望のパラメータに設定することも可能である。調整が完了したらNextボタン1503を押して次のステップへ進む。
図22は、画像を投写するスクリーン400の領域と、隣接するプロジェクター間のエッジブレンディング幅を設定するステップS500のアプリケーション画面1600である。このアプリケーション画面を表示するタイミングで、各プロジェクターは、スクリーンの領域を指示するためのカーソルを表示する画像を投写する(図23)。
スクリーンの領域を指示するカーソルの数は、「Cross Cursors H:」の数字入力ボックス1601、および「Cross Cursors V:」の数字入力ボックス1602にて、水平方向および垂直方向それぞれを指定される。本実施の形態では、水平方向に配置された5台のプロジェクター101~105によりスクリーン400が投写されるため、水平方向は6個、垂直方向は2個のカーソルを用いて、スクリーンを特定するものとする。ユーザーは、カーソル選択エリア1603において、移動させたいカーソルを選択し、マウスの操作やキーボードの操作によりカーソルの位置を移動させる。すると、連動して、図23に示すプロジェクターからスクリーン400に投写されたカーソルが移動するので、実際のスクリーン400を等間隔で囲むように、各カーソルの位置を調整することができる。
図22に戻り、次にプロジェクター間のエッジブレンディング幅を指定する。「Horizontal」の数字入力ボックス1604には、プロジェクターを水平方向へ並べて配置した際の投写領域の左右の重なり部分に対し、ピクセル単位でエッジブレンディングを行う幅を入力する。同様に、「Vertical」の数字入力ボックス1605には、プロジェクターを垂直方向へ並べて配置した際の投写領域の上下の重なり部分に対し、ピクセル単位でエッジブレンディングを行う幅を入力する。各数字入力ボックスの右隣にあるスライダーバーを用いて、数値を変更することも可能である。また、各数字入力ボックスの上にあるAutoチェックボックスをONにすることで、アプリケーションが最適な幅を自動計算するように設定することも可能である。
Restoreボタン1607は、以前に調整を行った場合に、そのカーソル数、カーソル位置、エッジブレンディング幅の情報を読み出す。また、Resetボタン1608は、カーソル位置、エッジブレンディング幅の各値を初期値に戻す。設定が全て完了したら、Startボタン1606を押し、自動実行フェーズ(S600~S1000)に移行する。自動実行中は、図24に示すようなプログレスバー1701を含むアプリケーション画面1700を表示し、自動実行の進捗状況を都度ユーザーへ通知する。Abortボタン1702が押されると、処理が途中で中止する。
[1-3.効果等]
以上のように、本実施の形態において、投写画像調整システムは、複数のプロジェクター101~105と複数のカメラ201、202と調整用PC300とスクリーン400と、を備える。複数のカメラ201、202はそれぞれ担当するプロジェクターが投写するパターン画像を撮像する。調整用PC300は複数のカメラのうち一つを選択し、その担当プロジェクターの投写範囲を設定すると、投写範囲に設定したプロジェクターに第一の書式パターンが投写され、投写範囲に設定しないプロジェクターに第二の書式パターンが投写される。そして、調整用PC300は選択したカメラで撮像された画像データを表示する。
これにより、ユーザーは、選択したカメラの担当範囲が指定するプロジェクターの投写範囲を含んでいるか簡単に確認することができ、また、含まない場合、カメラの位置調整、選択変更、あるいはプロジェクターの投写範囲の変更といった操作を容易に行うことできる。
(他の実施の形態)
上記実施の形態では、図16に示すように、白地の投写画像を第一の書式パターンとし、薄グレーの地の投写画像を第二の書式パターンとして、2種の書式パターンを使用した。これに代えて、白地の投写画像のみを1つの書式パターンとしてスクリーンに投写し、スクリーンの他の領域には投写画像を投写しない非投写領域になるようにしても良い。その場合、カメラ201は列番号1~3の投写画像を撮影し、カメラ202は列番号3の投写画像とスクリーンの非投写領域を撮影することになる。これによっても、どのカメラがどの投写領域を担当して撮影するようになっているかが分かる。
上記実施の形態では、図1に示すように、5台のプロジェクターの投写画像を2台のカメラで撮影する投写画像調整システムについて説明した。プロジェクターおよびカメラの台数はこれに限られない。例えば、横方向に一列に並べられた7台のプロジェクターの投写画像を3台のカメラで撮影するように、投写画像調整システムを構成してもよい。この場合、カメラの担当範囲は、列番号1~3、列番号3~5および列番号5~7の3つのプロジェクター群に分けることができる。図17に示すラジオボタン1404、リストボックス1405、Test Shotボタン1406は、3段に表示される。上段のカメラを設定する場合は、プロジェクター配置情報1401に表示される列番号1~3が枠Fに囲まれ、列番号1~3に対応するプロジェクターが第一の書式パターンをスクリーンに投写する。同様に、中段のカメラを設定する場合は、列番号3~5が枠Fに囲まれ、それに対応するプロジェクターが第一の書式パターンをスクリーンに投写し、下段のカメラを設定する場合は、列番号5~7が枠Fに囲まれ、それに対応するプロジェクターが第一の書式パターンをスクリーンに投写する。
以上のように、本開示における技術の例示として、実施の形態を説明した。そのために、添付図面および詳細な説明を提供した。
したがって、添付図面および詳細な説明に記載された構成要素の中には、課題解決のために必須な構成要素だけでなく、上記技術を例示するために、課題解決のためには必須でない構成要素も含まれ得る。そのため、それらの必須ではない構成要素が添付図面や詳細な説明に記載されていることをもって、直ちに、それらの必須ではない構成要素が必須であるとの認定をするべきではない。
また、上述の実施の形態は、本開示における技術を例示するためのものであるから、特許請求の範囲またはその均等の範囲において種々の変更、置き換え、付加、省略などを行うことができる。
本開示は、投写型表示装置を使用した画像表示に適用可能である。
10 投写画像調整システム
101~105 プロジェクター
201,202 カメラ
300 調整用PC
400 スクリーン
500 ネットワークハブ
600 無線アクセスポイント

Claims (4)

  1. 投写面に投写画像を投写する複数の投写型表示装置と、前記投写面に表示される前記投写画像を撮影する第1撮像装置および第2撮像装置と、前記複数の投写型表示装置、前記第1撮像装置および前記第2撮像装置を制御する制御装置と、を備えた投写画像調整システムであって、
    前記制御装置は、
    前記第1撮像装置または前記第2撮像装置の選択を行う撮像装置選択部と、
    前記複数の投写型表示装置のうち少なくとも1つの投写型表示装置を共通で含むように、前記第1撮像装置が撮影を担当する投写型表示装置の第1担当範囲および前記第2撮像装置が撮影を担当する投写型表示装置の第2担当範囲を設定する撮影範囲設定部と、
    前記撮像装置選択部の前記選択に基づき、前記第1担当範囲または前記第2担当範囲に対応する前記投写型表示装置に限定して投写型表示装置の配置位置を示す番号を含む第一の書式パターンを投写させるパターン投写部と、
    前記撮像装置選択部の前記選択に基づき、前記パターン投写部が前記第1担当範囲または前記第2担当範囲に対応する前記投写型表示装置に投写型表示装置の配置位置を示す番号を含む第一の書式パターンを投写させた状態を前記第1撮像装置が撮影する撮影画像または前記第2撮像装置が撮影する撮影画像を表示する撮影画像表示部と、
    を備える、投写画像調整システム。
  2. 前記パターン投写部は、前記第一の書式パターンを投写する前記投写型表示装置に隣接する少なくとも1つの投写型表示装置に、前記第一の書式パターンとは異なる第二の書式パターンを投写させる、
    請求項1に記載の投写画像調整システム。
  3. 複数の投写型表示装置が投写面に投写画像を投写し、前記投写面に表示される前記投写画像を第1撮像装置および第2撮像装置により撮影し、撮影した画像に基づいて前記投写面に表示する前記投写画像の調整を行う投写画像調整方法であって、
    前記第1撮像装置または前記第2撮像装置の選択を行う撮像装置選択ステップと、
    前記複数の投写型表示装置のうち少なくとも1つの投写型表示装置を共通で含むように、前記第1撮像装置が撮影を担当する投写型表示装置の第1担当範囲および前記第2撮像装置が撮影を担当する投写型表示装置の第2担当範囲を設定する担当範囲設定ステップと、
    前記撮像装置選択ステップの前記選択に基づき、前記第1担当範囲または前記第2担当範囲に対応する前記投写型表示装置に限定して投写型表示装置の配置位置を示す番号を含む第一の書式パターンを投写させるパターン投写ステップと、
    前記撮像装置選択ステップの前記選択に基づき、前記パターン投写ステップにおいて前記第1担当範囲または前記第2担当範囲に対応する前記投写型表示装置に投写型表示装置の配置位置を示す番号を含む第一の書式パターンを投写させた状態を前記第1撮像装置が撮影する撮影画像または第2撮像装置が撮影する撮影画像を表示する撮影画像表示ステップと、
    を含む、投写画像調整方法。
  4. 前記パターン投写ステップでは、前記第一の書式パターンを投写する前記投写型表示装置に隣接する少なくとも1つの投写型表示装置に、前記第一の書式パターンとは異なる第二の書式パターンを投写させる、
    請求項3に記載の投写画像調整方法。
JP2016239972A 2016-02-02 2016-12-12 投写画像調整システム及び投写画像調整方法 Active JP7015981B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
US15/411,864 US10771751B2 (en) 2016-02-02 2017-01-20 Projection image adjustment system and projection image adjustment method
CN201710052176.5A CN107027013B (zh) 2016-02-02 2017-01-23 投射图像调整系统以及投射图像调整方法
JP2021118445A JP7117518B2 (ja) 2016-02-02 2021-07-19 投写画像調整システム及び投写画像調整方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2016017600 2016-02-02
JP2016017600 2016-02-02

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021118445A Division JP7117518B2 (ja) 2016-02-02 2021-07-19 投写画像調整システム及び投写画像調整方法

Publications (2)

Publication Number Publication Date
JP2017138581A JP2017138581A (ja) 2017-08-10
JP7015981B2 true JP7015981B2 (ja) 2022-02-04

Family

ID=59565905

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2016239972A Active JP7015981B2 (ja) 2016-02-02 2016-12-12 投写画像調整システム及び投写画像調整方法
JP2021118445A Active JP7117518B2 (ja) 2016-02-02 2021-07-19 投写画像調整システム及び投写画像調整方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2021118445A Active JP7117518B2 (ja) 2016-02-02 2021-07-19 投写画像調整システム及び投写画像調整方法

Country Status (1)

Country Link
JP (2) JP7015981B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7116543B2 (ja) 2017-12-15 2022-08-10 キヤノン株式会社 投写制御装置およびその制御方法、ならびに投写システム
JP7162168B2 (ja) 2018-05-17 2022-10-28 パナソニックIpマネジメント株式会社 投影調整プログラム、投影調整方法及び投影調整システム
JP7117525B2 (ja) * 2018-05-31 2022-08-15 パナソニックIpマネジメント株式会社 投写型映像表示装置の制御装置、制御方法、プログラム、及び投写型映像表示システム
JP7150488B2 (ja) 2018-06-05 2022-10-11 キヤノン株式会社 画像投射装置およびその制御方法
JP6915597B2 (ja) 2018-08-29 2021-08-04 セイコーエプソン株式会社 制御装置、マルチプロジェクションシステム、および制御装置の制御方法
JP6919685B2 (ja) * 2019-07-29 2021-08-18 セイコーエプソン株式会社 画面投射システムの制御方法、及び画面投射システム
CN112714298B (zh) 2019-10-25 2023-06-30 中强光电股份有限公司 投影系统及其调整投影画面的方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006030501A1 (ja) 2004-09-15 2006-03-23 Mitsubishi Denki Kabushiki Kaisha 画像投影システム及び画像幾何補正装置
JP2006140831A (ja) 2004-11-12 2006-06-01 Hitachi Ltd プロジェクタ装置
JP2007300539A (ja) 2006-05-02 2007-11-15 Hitachi Ltd 映像表示装置の調整システムおよび映像表示装置の調整方法
US20130076789A1 (en) 2011-09-23 2013-03-28 The Regents Of The University Of California, A California Corporation Augmented reality using projector-camera enabled devices
JP2015121779A (ja) 2013-11-21 2015-07-02 パナソニックIpマネジメント株式会社 投写画像表示システム、投写画像表示方法及び投写型表示装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4914491B2 (ja) 2006-03-28 2012-04-11 ジーブイビービー ホールディングス エス.エイ.アール.エル. プロダクション切換器を使ってエッジ・ブレンドを実行するための方法および装置
JP2014107713A (ja) 2012-11-28 2014-06-09 Seiko Epson Corp 操作方法、操作プログラム及び操作装置
JP2015172614A (ja) 2014-03-11 2015-10-01 株式会社リコー 情報処理装置、情報処理方法及びマルチプロジェクションシステム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006030501A1 (ja) 2004-09-15 2006-03-23 Mitsubishi Denki Kabushiki Kaisha 画像投影システム及び画像幾何補正装置
JP2006140831A (ja) 2004-11-12 2006-06-01 Hitachi Ltd プロジェクタ装置
JP2007300539A (ja) 2006-05-02 2007-11-15 Hitachi Ltd 映像表示装置の調整システムおよび映像表示装置の調整方法
US20130076789A1 (en) 2011-09-23 2013-03-28 The Regents Of The University Of California, A California Corporation Augmented reality using projector-camera enabled devices
JP2015121779A (ja) 2013-11-21 2015-07-02 パナソニックIpマネジメント株式会社 投写画像表示システム、投写画像表示方法及び投写型表示装置

Also Published As

Publication number Publication date
JP2021177251A (ja) 2021-11-11
JP2017138581A (ja) 2017-08-10
JP7117518B2 (ja) 2022-08-15

Similar Documents

Publication Publication Date Title
JP7015981B2 (ja) 投写画像調整システム及び投写画像調整方法
CN107027013B (zh) 投射图像调整系统以及投射图像调整方法
CN109936734B (zh) 投影控制设备及其控制方法、投影系统和记录介质
JP6369810B2 (ja) 投写画像表示システム、投写画像表示方法及び投写型表示装置
US9538067B2 (en) Imaging sensor capable of detecting phase difference of focus
US20110239100A1 (en) Inspection information processing apparatus and method
JP2014107713A (ja) 操作方法、操作プログラム及び操作装置
JP2009219102A (ja) プロジェクタ、マルチスクリーンシステム、プロジェクタ制御方法、プロジェクタ制御プログラム、情報記憶媒体
US10582171B2 (en) Display system and information processing method
JP2019161397A (ja) 制御装置、プログラム、及び制御方法
CN104853172A (zh) 一种信息处理方法以及一种电子设备
JP6253007B2 (ja) 表示装置
JP6460868B2 (ja) 表示制御装置およびその制御方法
JP7096664B2 (ja) 投写制御装置およびその制御方法、ならびに投写システム
JP7116543B2 (ja) 投写制御装置およびその制御方法、ならびに投写システム
JP2020134882A (ja) 投射制御装置、画像投射装置および投射制御方法
JP2009260552A (ja) コントローラとその制御方法,プログラム及びカメラシステム
JP2021132299A (ja) 制御装置、投影システム、投影装置の制御方法、プログラム、および記憶媒体
JP2020150481A (ja) 情報処理装置、投影システム、情報処理方法、及び、プログラム
JP6184077B2 (ja) 撮像装置及びその制御方法。
JP2017200021A (ja) 情報処理装置、プログラムおよびシステム
JP6707870B2 (ja) 投写システムおよび投写位置検出方法
JP2014137386A (ja) プロジェクタ、その制御方法、及び画像投影システム
JP2019078875A (ja) 画像表示装置、その調整方法及びプログラム
US20220345672A1 (en) Projection system and projected image stacking method

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20190118

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191115

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201208

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210224

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210408

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210511

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210719

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20210719

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20210728

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20210803

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210928

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211005

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211220

R151 Written notification of patent or utility model registration

Ref document number: 7015981

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151