JPWO2006033245A1 - 電子機器 - Google Patents

電子機器 Download PDF

Info

Publication number
JPWO2006033245A1
JPWO2006033245A1 JP2006536341A JP2006536341A JPWO2006033245A1 JP WO2006033245 A1 JPWO2006033245 A1 JP WO2006033245A1 JP 2006536341 A JP2006536341 A JP 2006536341A JP 2006536341 A JP2006536341 A JP 2006536341A JP WO2006033245 A1 JPWO2006033245 A1 JP WO2006033245A1
Authority
JP
Japan
Prior art keywords
image
projector
projection
unit
electronic device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006536341A
Other languages
English (en)
Other versions
JP5029012B2 (ja
Inventor
啓一 新田
啓一 新田
野崎 弘剛
弘剛 野崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2006536341A priority Critical patent/JP5029012B2/ja
Publication of JPWO2006033245A1 publication Critical patent/JPWO2006033245A1/ja
Application granted granted Critical
Publication of JP5029012B2 publication Critical patent/JP5029012B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/02Constructional features of telephone sets
    • H04M1/0202Portable telephone sets, e.g. cordless phones, mobile phones or bar type handsets
    • H04M1/0206Portable telephones comprising a plurality of mechanically joined movable body parts, e.g. hinged housings
    • H04M1/0208Portable telephones comprising a plurality of mechanically joined movable body parts, e.g. hinged housings characterized by the relative motions of the body parts
    • H04M1/0214Foldable telephones, i.e. with body parts pivoting to an open position around an axis parallel to the plane they define in closed position
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/02Constructional features of telephone sets
    • H04M1/0202Portable telephone sets, e.g. cordless phones, mobile phones or bar type handsets
    • H04M1/0206Portable telephones comprising a plurality of mechanically joined movable body parts, e.g. hinged housings
    • H04M1/0241Portable telephones comprising a plurality of mechanically joined movable body parts, e.g. hinged housings using relative motion of the body parts to change the operational status of the telephone set, e.g. switching on/off, answering incoming call
    • H04M1/0243Portable telephones comprising a plurality of mechanically joined movable body parts, e.g. hinged housings using relative motion of the body parts to change the operational status of the telephone set, e.g. switching on/off, answering incoming call using the relative angle between housings
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/02Constructional features of telephone sets
    • H04M1/0202Portable telephone sets, e.g. cordless phones, mobile phones or bar type handsets
    • H04M1/026Details of the structure or mounting of specific components
    • H04M1/0272Details of the structure or mounting of specific components for a projector or beamer module assembly
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3141Constructional details thereof
    • H04N9/3173Constructional details thereof wherein the projection device is specially adapted for enhanced portability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2250/00Details of telephonic subscriber devices
    • H04M2250/12Details of telephonic subscriber devices including a sensor for measuring a physical value, e.g. temperature or motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2250/00Details of telephonic subscriber devices
    • H04M2250/52Details of telephonic subscriber devices including functional features of a camera

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Projection Apparatus (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)

Abstract

プロジェクタ付き携帯電話機10は、相対角θ=80度の投影姿勢に設定されて3秒経過すると、プロジェクタモジュール6の投射を開始させる。揺れ補正処理を行う設定がなされていれば、カメラ部200に連続するフレーム画像の撮像開始を指示する。プロジェクタ付き携帯電話機10は、イメージセンサによって撮像された連続するフレーム間の画像を比較して6つの動きベクトルを算出する。算出した動きベクトルに基づいて「手ぶれ」判定をするとともに、代表ベクトルをさらに算出する。プロジェクタ付き携帯電話機10はさらに、代表ベクトルをキャンセルするための画像シフト情報を生成し、「手ぶれ」を判定した場合には画像シフト情報を使用してプロジェクタモジュール6による投射内容の揺動を抑える。

Description

本発明は、画像やテキストなどの情報を投射するプロジェクタ装置を有する電子機器に関する。
載置台に載置された被写体を撮像するカメラを備え、カメラで撮像した画像をスクリーンなどへ投射するプロジェクタ装置が知られている(特許文献1参照)。
特開2001−251476号公報
プロジェクタ装置をハンドホールド可能な小型機器として構成する場合、手の揺れに伴って投射中のプロジェクタ装置が揺動すると考えられる。このため、スクリーン上に投射される像も揺れ動いてしまい、投射像を観察する人に不快感を与えるおそれがある。
本発明の第1の態様によると、電子機器は、被写体像を撮像して画像信号を出力する撮像装置と、光像形成素子に形成された像を投射するプロジェクタ装置とを筐体内に一体に備え、画像信号の時間的な変化量を演算する演算部と、演算された変化量に応じてプロジェクタ装置が筐体と離間したスクリーンに投射する像の位置を補正する補正部とを備える。
本発明の第2の態様によると、第1の態様の電子機器はさらに、撮像装置による撮影範囲とプロジェクタ装置による投射範囲とが一致しないように、撮像装置が撮像する向きおよびプロジェクタ装置が像を投射する向きの少なくとも一方の向きを変更するための変更部を備えてもよい。この場合の演算部は、プロジェクタ装置による投射範囲を除く被写体像に対応する画像信号を用いて変化量を演算することもできる。
本発明の第3の態様によると、第1の態様の電子機器はさらに、撮像装置による撮影範囲とプロジェクタ装置による投射範囲とが一致しないように、撮影範囲および投射範囲の少なくとも一方の大きさを変更する範囲変更部を備えてもよい。この場合の演算部は、プロジェクタ装置による投射範囲を除く被写体像に対応する画像信号を用いて変化量を演算することもできる。
本発明の第4の態様によると、第3の態様の電子機器において、撮影範囲が投射範囲より大きくなるように撮影範囲または投射範囲を変更するべく、範囲変更部を構成することが望ましい。
本発明の第5の態様によると、第3または第4の態様の電子機器において、演算部によって変化量が演算不能の場合、プロジェクタ装置が投射範囲を狭くするとともに、演算部が変化量の演算に用いる画像信号の抽出範囲を広げることもできる。
本発明の第6の態様によると、第3または第4の態様の電子機器において、演算部によって変化量が演算不能の場合、撮像装置が撮影範囲を広くするとともに、演算部が変化量の演算に用いる画像信号の抽出範囲を広げることもできる。
本発明の第7の態様によると、第5または第6の態様の電子機器のプロジェクタ装置は、投射範囲内の周囲に照明光を照射することもできる。
本発明の第8の態様によると、電子機器は、被写体像を撮像して画像信号を出力する撮像装置と、光像形成素子に形成された像を投射するプロジェクタ装置とを一体に備え、揺れを検出して揺れ検出信号を出力する揺れ検出部と、揺れ検出信号に基づいて、撮像装置の出力する画像信号に対応する画像、およびプロジェクタ装置が投射する像を補正する補正部とを備える。
本発明の第9の態様によると、第8の態様の電子機器において、補正部は、揺れ検出部で揺れが検出された際に、撮像装置の出力する画像信号に対応する画像を補正するときと、プロジェクタ装置が投射する像を補正するときとで、画像、および像のシフト方向を逆にして補正することもできる。
本発明の第10の態様によると、第1〜第9のいずれかの態様の電子機器の撮像装置は、プロジェクタ装置の投射を開始させる指示に応じて撮像を開始することもできる。
本発明の第11の態様によると、第1〜第10のいずれかの態様の電子機器のプロジェクタ装置は、補正部が補正を行う場合に撮像装置から出力される画像信号を用いて形成された像を投射することが禁止されている。
本発明の第12の態様によると、第1〜第7のいずれかの態様の電子機器はさらに、被写体輝度に基づいて撮像装置による撮影時の露出を決定する露出演算部を備えてもよい。この場合の露出演算部は、プロジェクタ装置による投射範囲を除く被写体像に対応する画像信号を用いて被写体輝度を算出することもできる。
本発明の第13の態様によると、電子機器は、被写体像を撮像して画像信号を出力する撮像装置と、光像形成素子に形成された像を投射するプロジェクタ装置とを一体に備え、プロジェクタ装置による非投射時に撮像するとともに、撮像装置による非撮影時に投射するように撮像装置とプロジェクタ装置とを時分割で制御する制御部と、画像信号の時間的な変化量を演算する演算部と、演算された変化量に応じてプロジェクタ装置が投射する像の位置を補正する補正部とを備える。
本発明の第14の態様によると、第13の態様の電子機器の制御部は、プロジェクタ装置による投射周期を1/30秒以下にするように制御することもできる。
本発明の第15の態様によると、第12〜第14のいずれかの態様の電子機器はさらに、プロジェクタ装置による投射範囲を除く被写体像に対応する画像信号のレベルを大きくするレベル増大処理部を備えてもよい。この場合の演算部は、レベル増大処理された画像信号を用いて変化量を演算することもできる。
上記演算部は、演算手段と置き換えてもよい。
上記補正部は、補正手段と置き換えてもよい。
上記変更部は、変更手段と置き換えてもよい。
上記範囲変更部は、範囲変更手段と置き換えてもよい。
上記揺れ検出部は、揺れ検出手段と置き換えてもよい。
上記露出演算部は、露出演算手段と置き換えてもよい。
上記制御部は、制御手段と置き換えてもよい。
上記レベル増大処理部は、レベル増大処理手段と置き換えてもよい。
本発明による電子機器では、電子機器を手持ちした状態でプロジェクタ装置を使用した場合に投射像を観察する人に与える不快感を軽減できる。
本発明の一実施の形態によるプロジェクタ付き携帯電話機の斜視図である。 プロジェクタ付き携帯電話機の構成を説明するブロック図である。 プロジェクタ付き携帯電話機からの投射像を説明する図であり、(a)はスクリーンを正対する向きに見た図、(b)はスクリーンを右側方から見た図である。 プロジェクタ付き携帯電話機で投射内容の揺動を抑える場合のスクリーン側の構成を説明する図である。 カメラ部で撮影しながらプロジェクタモジュールで画像を投射する例を示す図であり、(a)は時刻txにおける図、js(b)は時刻(tx+1)における図である。 撮像画像のうち投射範囲を含まない6つのブロックを説明する図である。 シフト後のスクリーン上の投射画像を説明する図である。 カメラ部による撮影方向とプロジェクタモジュールによる投射方向との関係について説明する図であり、(a)は撮影方向および投射方向が同一の図、(b)は撮影方向および投射方向が180度異なる図、(c)は撮影方向および投射方向が90度異なる図である。 変形例における測光エリアを説明する図である。 投影タイミングおよび撮影タイミングを説明する図である。
以下、本発明を実施するための最良の形態について説明する。
(第1の実施形態)
図1は、本発明の一実施の形態によるハンドホールドで用いることが可能なプロジェクタ付き携帯電話機10の斜視図である。図1において、プロジェクタ付き携帯電話機10は操作部1と表示部2とを構成する筐体が回動可能な折り畳みヒンジ部3で支持され、折り畳みヒンジ部3を回動中心に折り畳み自在に構成されている。折り畳みヒンジ部3には、操作部1および表示部2間の相対角θがたとえば、80度の位置と150度の位置とに不図示のクリック機構が設けられている。80度はプロジェクタ部の投影姿勢に対応し、150度は電話機の通話姿勢に対応する。
操作部1の底面1aには、プロジェクタ付き携帯電話機10を平面上に載置した場合に安定するように小型脚部12a〜12dが設けられている。操作部1の表示部2側の面1bには後述する第1操作部材112などが設けられ、操作部1の側面1cには小型脚部11が設けられている。小型脚部11は、プロジェクタ付き携帯電話機10の相対角θを図1のように80度に開いた状態(投影姿勢)で当該側面1cを下にして平面上に載置した場合(横位置載置)に、折り畳みヒンジ部3、および表示部2に配設されている小型脚部21とともに3点で安定して載置されるように構成されている。
表示部2の操作部1側の面2bには、後述するメイン液晶表示器204が配設され、表示部2の外側の面2aには、サブ液晶表示器4が配設されている。表示部2の面2aにはさらに、カメラ部200およびプロジェクタモジュール6がそれぞれ配設される。プロジェクタモジュール6は、筐体外に設けられた投射面に像を投射する。プロジェクタモジュール6は円筒形状に構成され、表示部2の面2aに設けられている丸穴Mに回転自在に嵌入され、図1に示す正位置(0度とする)と、正位置を基準に左右それぞれの向きにプロジェクタモジュール6を90度回転させた2つの位置との計3箇所にクリック機構(不図示)が設けられている。
表示部2にはカメラ部200が配設されている。カメラ部200には、撮影レンズ5の向きを表示部2の外側面2aへ向けたり、操作部1側の面2bへ向けたりすることが可能なように回動機構が備えられ、撮影する向きが筐体に対して変更自在に構成されている。
図2は、図1のプロジェクタ付き携帯電話機10の構成を説明するブロック図である。図2において、操作部1側にはCPU101と、メモリ102と、姿勢センサ103と、近距離通信部(回路)104と、TVチューナー106と、マイク107と、外部インターフェイス(I/F)108と、電源109と、通信制御部(回路)110と、アンテナ7と、GPSアンテナ111と、第1操作部材112と、スピーカー113と、開閉角度スイッチ(SW)114とが備えられ、着脱可能なメモリカード105が実装されている。
表示部2にはカメラ部200と、プロジェクタモジュール6(プロジェクタ部)と、第2操作部材205と、スピーカー206と、メイン液晶表示器204と、サブ液晶表示器4とが備えられている。
コントローラであるCPU101は、制御プログラムに基づいて、プロジェクタ付き携帯電話機10を構成する各部から入力される信号を用いて所定の演算を行うなどして、プロジェクタ付き携帯電話機10の各部に対する制御信号を送出することにより、電話機動作、カメラ動作、プロジェクタ動作をそれぞれ制御する。なお、制御プログラムはCPU101内の不図示の不揮発性メモリに格納されている。
メモリ102はCPU101の作業用メモリとして使用される。姿勢センサ103は、プロジェクタ付き携帯電話機10の姿勢を検出し、検出信号をCPU101へ送出する。これによりCPU101は、撮影時には画像の天地を示す天地情報(縦位置撮影および横位置撮影の識別のための情報を含む)を取得し、プロジェクタ使用時には図1に示すような縦位置で載置されているか、小型脚部11、21および折り畳みヒンジ部3を下にした横位置に載置されているかを判定する。
近距離通信部104は、たとえば、赤外線通信回路によって構成され、CPU101の指令により外部機器との間でデータを送受信する。TVチューナー106は、CPU101の指令によりテレビ放送を受信する。CPU101は、受信画像をメイン液晶表示器204に表示させ、受信音声をスピーカー206で再生させる。メモリカード105は不揮発性メモリによって構成され、CPU101の指令により、例えばカメラ部200より出力される画像データ、TVチューナー106より出力される映像・音声データなどのデータの書き込み、保存および読み出しが可能である。
マイク107は、集音した音声を電気信号に変換して音声信号としてCPU101へ送出する。音声信号は、録音時にはメモリカード105に記録され、通話時には通信制御部110へ送られる。外部インターフェイス108は、CPU101の指令により不図示のケーブルまたはクレードルを介して外部機器との間でデータを送受信する。
スピーカー113は、CPU101から出力された音声信号による音声を再生する。第1操作部材112は、電話機のダイヤルボタンなどを含み、押下されたボタンに対応する操作信号をCPU101へ送出する。GPSアンテナ111はGPS衛星からの信号を受信し、受信データをCPU101へ送出する。CPU101は、GPSアンテナ111からの受信データを用いて位置情報を演算可能に構成されている。通信制御部110は無線送受信回路を含み、CPU101の指令により不図示の基地局を介して他の電話機との間で通信を行う。通信制御部110は、電話音声の他にもカメラ部200で撮影された画像データや、プロジェクタモジュール6で投射するための画像データなどを送受信可能に構成されている。アンテナ7は通信制御部110の送受信アンテナである。
電源109は、たとえば、着脱可能な電池パックおよびDC/DC変換回路などで構成され、プロジェクタ付き携帯電話機10内の各部に必要な電力を供給する。開閉角度SW114は、折り畳みヒンジ部3の回動角を検出し、操作部1および表示部2間の相対角θがたとえば80度(投影姿勢)にされたことを検出するとオン信号(Hレベル)をCPU101へ送出し、上記角度以外ではオフ信号(Lレベル)を送出する。
メイン液晶表示器204は、CPU101の指令により画像やテキストなどの情報を表示する。サブ液晶表示器4は、CPU101の指令により画像やテキストなどの情報を表示する。テキスト情報として表示される内容は、例えばプロジェクタ付き携帯電話機10の動作状態、操作メニュー、送受信メールの内容などである。さらに、メイン液晶表示器204は、プロジェクタモジュール6で投射される画像と同じ内容の画像を表示することが可能な構成とされている。第2操作部材205は、メイン液晶表示器204の表示内容に関連づけられたボタンなどを含み、押下されたボタンに対応する操作信号をCPU101へ送出する。スピーカー206は、相対角θが150度である通話姿勢時にCPU101から出力された音声信号による音声を再生する。
カメラ部200は、撮影レンズ5と、イメージセンサ201と、レンズ駆動部(回路)202と、コントローラである撮像部制御CPU203と、画像処理回路207とを有する。イメージセンサ201としては、CCDやCMOS撮像素子などが用いられる。撮像部制御CPU203は、CPU101の指令によりイメージセンサ201およびレンズ駆動部202を駆動制御するとともに、画像処理回路207に所定の画像処理を行わせる。画像処理回路207は揺れ演算補正回路208を含み、イメージセンサ201から出力される蓄積電荷信号に対するホワイトバランス処理、ガンマ処理、シェーディング補正処理などを行う他、揺れ演算補正回路208で揺れ補正処理も行う。揺れ補正は、プロジェクタ付き携帯電話機10を手持ちしてカメラ部200で撮影を行う場合に生じる撮影画像の揺動(手ぶれ)を補正したり、プロジェクタ付き携帯電話機10を手持ちしてプロジェクタモジュール6で投射する場合に生じる投射画像の揺動を補正したりするためのものである。
レンズ駆動部202は、撮像部制御CPU203からズーム制御信号を受けると、制御信号に応じて撮影レンズ5を構成するズームレンズ(不図示)をテレ側もしくはワイド側へ駆動する。撮影レンズ5は、イメージセンサ201の撮像面上に被写体像を結像させる。撮像部制御CPU203はイメージセンサ201に撮像を開始させ、撮像終了後にイメージセンサ201から蓄積電荷信号を読み出して画像処理回路207へ送出し、画像処理回路207で画像処理された画像データをCPU101へ送出する。なお、カメラ部200で撮影した画像データを他の機器へ送信する場合にはCPU101から通信制御部110へ画像データが送出される。また、撮影画像をスクリーンなどへ投射する場合には撮像部制御CPU203からCPU101を経由してプロジェクタモジュール6へ画像データが送出される。画像処理回路であるCPU101では、プロジェクタモジュール6で投射される画像データに対して台形歪み補正処理が施される。
プロジェクタモジュール6は、投影レンズ61と、液晶パネル62と、LED光源63と、LED駆動部(回路)64と、液晶駆動部(回路)65と、レンズ駆動部(回路)66とを含む。LED駆動部64は、CPU101から出力されるLED駆動信号に応じてLED光源63に電流を供給する。LED光源63は、供給電流に応じた明るさで液晶パネル62を照明する。
液晶駆動部65は、画像データに応じて液晶パネル駆動信号を生成し、生成した駆動信号で液晶パネル62を駆動する。具体的には、液晶層に対して画像信号に応じた電圧を画素ごとに印加する。電圧が印加された液晶層は液晶分子の配列が変わり、当該液晶層の光の透過率が変化する。このように、画像信号に応じてLED光源63からの光を変調することにより、液晶パネル62が光像を生成する。
レンズ駆動部66は、CPU101から出力される制御信号に基づいて、投影レンズ61を光軸に対して直交する方向へ進退駆動する。投影レンズ61は、液晶パネル62から射出される光像をスクリーンなどへ向けて投射する。
プロジェクタモジュール6による投射像について詳細に説明する。プロジェクタ付き携帯電話機10は、操作部1および表示部2間の相対角が80度の投影姿勢に設定され、所定時間(たとえば3秒)が経過すると自動的に投射を開始する。図3は、平面P上に上記縦位置で載置されたプロジェクタ付き携帯電話機10から離間したスクリーンSに投射された像Ivを説明する図である。図3(a)はスクリーンSを正対する向きに見た図であり、図3(b)はスクリーンSを右側方から見た図である。
プロジェクタモジュール6は投射像Ivの形状を以下のように補正する機能を有している。すなわち、レンズ駆動部66によって投射レンズ61を光軸に対して直交する方向へシフトさせてあおり効果を得て、あおり効果に応じて投影する表示データに対するキーストン補正(台形歪み補正)を施す。これにより、投射像Ivを方形状に補正する。
上述した揺れ演算補正回路208が行う揺れ補正処理の詳細について説明する。揺れ補正処理を行うように設定されている状態でイメージセンサ201から出力され、画像処理回路207で信号処理された1フレームごとの画像データは、揺れ演算補正回路208へ逐次入力される。揺れ演算補正回路208は、入力された1フレーム画像の中のあらかじめ定められている所定領域から複数ブロック(たとえば、6ブロック)を抽出する。なお、揺れ補正処理を行うための設定は、メニュー設定もしくは第2操作部材205による操作などによって行われる。
揺れ演算補正回路208は、抽出した6ブロックの画像のそれぞれについて、ブロックマッチング処理を行うことで、前フレーム画像から6ブロック画像のそれぞれに対応する領域を求め、各ブロック位置、各領域位置とから公知の動きベクトル算出処理によって6つの動きベクトルを算出する。揺れ演算補正回路208はさらに、6つの動きベクトルを用いて、例えば各々の動きベクトルの大きさ、向きについて平均化処理を施して6ブロックの画像の全体を代表する代表ベクトルを算出する。
揺れ演算補正回路208は、算出した6つの動きベクトルの大きさおよび方向をそれぞれ比較し、各ベクトルの大きさおよび方向が合致しているか否かを判定する。揺れ演算補正回路208は、各ベクトル間の大きさの差、および各ベクトル間の方向差があらかじめ定められる所定範囲内である場合、フレーム間の画像の動き(画像の時間的、位置的な変化)が「手ぶれ」によって生じたとみなし、各ベクトル間の大きさの差および各ベクトル間の方向差の少なくとも一方が所定範囲を超えている場合には、フレーム間の画像の動きが「被写体の動き」によるものとみなす。
揺れ演算補正回路208は、上記「手ぶれ」を判定した場合に、上記代表ベクトルによる像の動きを打ち消すように画像をシフトさせるための画像シフト情報を生成する。画像のシフト方向は代表ベクトルの向きと逆向きであり、画像のシフト量は代表ベクトルの大きさと同じである。
画像シフト情報は、カメラ部200による撮影時には、撮影画像に生じる「手ぶれ」を抑えるために使用できる。具体的には、イメージセンサ201から出力される1フレームの画像のデータを、画像シフト情報が示すシフト方向、シフト量に基づいてメモリ空間上でシフトさせる。この結果、「手ぶれ」による被写体像の揺動を抑えるように、メモリ空間上においてフレーム間の画像の動きが抑制された画像データ(補正された画像データ)が得られる。このように、動きが抑制された画像データは、撮影画像データとして記録手段であるメモリカード105に記録したり、アンテナ7、外部I/F108を介して送信することもできる。
また、プロジェクタモジュール6による投射時には、投射像に含まれる画像や文字など(投射内容と呼ぶ)に生じる揺動を抑えるために画像シフト情報を使用できる。具体的には、液晶パネル62を駆動する液晶パネル駆動信号を、画像シフト情報が示すシフト方向、シフト量に基づいて変化させる。つまり、投射時にプロジェクタ付き携帯電話機10が「手ぶれ」に起因して平行移動したことで生じるスクリーンS上の投射内容の揺動を抑えるように、液晶パネル62上に形成される光像をシフトさせる。このように、液晶パネル62上で光像がシフトされる(補正される)結果、観察者にとってスクリーンS上に投射されている画像や文字などが静止して見える。
本発明は、画像シフト情報を使用してプロジェクタモジュール6による投射内容の揺動を抑えることに特徴を有するので、この点を中心にさらに説明する。プロジェクタ付き携帯電話機10のCPU101は、上述したように投影姿勢に設定されて所定時間が経過すると、プロジェクタモジュール6に対して投射開始を指示する。このとき、揺れ補正処理を行うように設定されていれば、カメラ部200に対して連続するフレーム画像の撮像開始を指示する。
図4は、プロジェクタ付き携帯電話機10で投射内容の揺動を抑える場合のスクリーンS側の構成を説明する図である。図4において、机100の上にスクリーンSが配設され、スクリーンSに隣接して植木鉢Uが配設されている。プロジェクタ付き携帯電話機10は、図1のような投射姿勢の状態で操作者の手に把持され、表示部2の面2a(すなわち、プロジェクタモジュール6の投射方向)およびカメラ部200の撮影レンズ5がスクリーンSに向けられている。机100、植木鉢UおよびスクリーンSは静止物である。
図5はカメラ部200で撮影しながらプロジェクタモジュール6で画像を投射する例を示す図であり、図5(a)は時刻txにおける撮像範囲51を説明する図、図5(b)は時刻(tx+1)における撮像範囲51を説明する図である。図5(a)、(b)において、カメラ部200は撮像範囲51に机100および机100上のスクリーンS、植木鉢Uを含むように撮影し、プロジェクタモジュール6はスクリーンSに向けて投射画像Pを投射する。カメラ部200による撮像範囲51がプロジェクタモジュール6による投射範囲より広くなるように、撮影レンズ5がズーム調節され、撮影画角が調節されている。
時刻txである図5(a)において、机100の右前脚101aと撮像範囲51の端との間隔はYであり、時刻(tx+1)である図5(b)において、机100の右前脚101aと撮像範囲51の端との間隔はXである。揺れ演算補正回路208は、図6に示すように、1フレーム画像に対応する撮像範囲51の画像の中からスクリーンS上の投射範囲を含まない例えば、6つのブロック51a〜51fを抽出し、これらのブロック内の画像データに基づいて上述した画像シフト情報を得る。ブロック51a〜51fは、撮像範囲51内の、例えば周縁近傍にあらかじめ定められている。
図5(a)の撮像範囲51内の画像が前フレーム撮像画像に相当し、図5(b)の撮像範囲51内の画像が現フレーム撮像画像に相当する。図5(b)によれば、上下方向の手ぶれによってプロジェクタ付き携帯電話機10の表示部2の面2aが図5(a)の場合に比べて下方向に平行移動したので、机100、スクリーンSおよび植木鉢Uが上方向に移動し、スクリーンSに投射される画像Pの人物Hは下方向に移動する。スクリーンS上の投射画像Pを観察する人は、人物Hが移動して見えるので不快に感じる。
そこで、CPU101はプロジェクタモジュール6の液晶駆動部65へ指令を送り、画像シフト情報に応じて液晶パネル62上の光像をシフトさせる。この結果、図7に示すように、スクリーンS上の投射画像Pの人物Hが図5(a)の場合と同様にスクリーンSの中央部に投射され、スクリーンS上の投射画像Pを観察する人にとって人物Hが静止しているかのように見える。
上述の例では、図5(b)に示される時刻t(x+1)の投射画像中の人物Hの像の位置は、図5(a)の投射画像中の人物Hの像の位置に比較して、下方向に移動している。したがって、この移動を打ち消すように、投射画像中の人物Hの像のスクリーンS上の位置が上方向に移動するように(投射画像の移動方向、すなわち「手ぶれ」の方向とは逆方向に像の位置が移動するように)制御が行われる。ここで、上記の例で、撮像画像の手ぶれの補正に適用する場合について説明する。図5(b)に示される時刻t(x+1)の撮像画像は、図5(a)の撮像画像に比較して上方向に移動している。したがって、この移動を打ち消すように、前述の撮像されたフレーム画像データのメモリ空間からの読み出し開始位置を変更する。これにより、例えば、液晶モニタ20に表示する画像が時刻t(x)の画像(図5(a)の撮像範囲51に対応する画像)に近づくように補正が行われる。したがって、上記の図5の例においては、撮像画像の手ぶれの補正のための画像の移動方向は下向きとなる。すなわち、操作者の手ぶれを補正する対象の画像が、投射画像か撮像画像かによって、手ぶれによる画像の移動(補正)方向が逆になる。本プロジェクタ付き携帯電話機10は、手ぶれによる画像の揺動を補正した画像を投射しつつ、撮像画像の揺動を補正し、揺動の補正された撮像画像データをメモリカード105に記録することができる。この際には、投射画像の揺動の補正方向と、撮像画像の揺動の補正方向とを逆にする。また、投射画像の揺動の補正と、撮像画像の揺動の補正とを、例えば第1操作部材112の操作によって切り替えて行う場合(すなわち、画像投射を行う投射モードと、撮像記録を行う撮像モードとを切り替えて行う場合)についても同様である。さらにまた、ジャイロ等のセンサによって手ぶれを検出する場合についても、同様に、投射画像の揺動の補正方向(画像シフト方向)と、撮像画像の揺動の補正方向(画像シフト方向)とを逆にする。
一般に、「手ぶれ」はプロジェクタ付き携帯電話機10を持つ操作者の腕などの関節を支点に回動する回転運動に起因するため、プロジェクタ付き携帯電話機10に生じる運動は、ほぼ平行運動と考えられる。したがって、ここでは「手ぶれ」を判定した場合にプロジェクタ付き携帯電話機10が平行移動したものとして取り扱う。
動きベクトルを算出するために用いる6つのブロック51a〜51fを含む撮影画像は、その撮像範囲51に必ずしもスクリーンSを含まなくてもよい。つまり、カメラ部200による撮影方向と、プロジェクタモジュール6による投射方向とが同一でなくてもよい。図8(a)〜(c)は、カメラ部200による撮影方向と、プロジェクタモジュール6による投射方向との関係について説明する図である。上面視図である図8(a)は、撮影方向および投射方向が同一の場合を示す図である。カメラ部200の光軸をLCで表し、プロジェクタモジュール6の光軸をLPで表している。揺れ演算補正回路208が矢印B(撮影右方向)で示す代表ベクトルを算出した場合、CPU101は矢印Bの動きを打ち消す方向に投射画像を変位させるようにプロジェクタモジュール6を制御する。
上面視図である図8(b)は、撮影方向および投射方向が180度異なる場合を示す図である。カメラ部200の光軸をLCで表し、プロジェクタモジュール6の光軸をLPで表している。揺れ演算補正回路208が矢印A(撮影左方向)で示す代表ベクトルを算出した場合、投射画像は図5(a)の場合と同様に矢印B(図5(a)の場合の撮影右方向に相当する)で示す代表ベクトルが算出される場合と同様に移動する。そこで、CPU101は矢印Bの動きを打ち消す方向に投射画像を変位させるようにプロジェクタモジュール6を制御する。
側面視図である図8(c)は、撮影方向および投射方向が90度異なる場合を示す図である。カメラ部200の光軸をLCで表し、プロジェクタモジュール6の光軸をLPで表している。揺れ演算補正回路208が矢印A(撮影右方向)で示す代表ベクトルを算出した場合、投射画像は移動しないものの、プロジェクタ付き携帯電話機10からスクリーンSまでの距離が変化することから投射画像のフォーカスがずれる。そこで、CPU101は投射像のフォーカス調節を行うようにプロジェクタモジュール6を制御する。具体的には、レンズ駆動部66がCPU101から出力される制御信号に基づいて投影レンズ61を構成するフォーカスレンズ(不図示)を光軸方向へ進退駆動させ、投射像のフォーカスを調節する。
図8(a)〜(c)は、代表ベクトルの向きが撮影方向に対して左右の方向に算出された場合を示す図であるが、撮影方向に対して上下の方向に算出された場合も同様である。上述した図5(a)、(b)は、撮影方向および投射方向が同一であって、揺れ演算補正回路208が撮影上下方向の代表ベクトルを算出した場合に相当する。
代表ベクトルが斜め方向に算出された場合には、斜め方向の動きを打ち消す方向に投射画像を変位させるようにプロジェクタモジュール6を制御する。
揺れ演算補正回路208が抽出したブロックの画像から動きベクトルを検出できない場合の処理について説明する。動きベクトルを検出できない場合とは、画像データに輪郭などのコントラスト情報を含む特徴部が存在しないため、動きベクトルを算出できない状態をいう。揺れ演算補正回路208は、動きベクトルを算出するために抽出した6ブロックに動きベクトルを算出できないブロックが存在する場合は、当該非検出のブロックを除外して動きベクトルが算出されたブロックのみを用いて代表ベクトルを算出する。
揺れ演算補正回路208は、図8(a)に示す撮影方向および投射方向が同一の場合において、抽出した6ブロックのいずれからも動きベクトルを検出できなかった場合には、撮像部制御CPU203を介してCPU101へ動きベクトル非検出を示す信号を送る。動きベクトル非検出信号を受けたCPU101は、投射像のズーム調節を行うようにプロジェクタモジュール6を制御する。具体的には、レンズ駆動部66がCPU101から出力される制御信号に基づいて投影レンズ61を構成するズームレンズ(不図示)光軸方向へ進退駆動させ、スクリーンS上の投射範囲を小さくするようにズーム調節する。
スクリーンS上で投射範囲が小さくなると、スクリーンS上で投射範囲以外の面積が広くなる。揺れ演算補正回路208は、プロジェクタモジュール6による投射範囲の縮小に反比例させて抽出ブロック51a〜51fの大きさを拡大する。この結果、広げた抽出ブロック51a〜51fにスクリーンSの枠、スクリーンSに印刷されているマーク、スクリーンS上に付着するゴミもしくは汚れなどの静止物が存在する可能性が高くなり、これらに基づいて動きベクトルが検出されるようになる。なお、CPU101および撮像部制御CPU203を経由してプロジェクタモジュール6のズーム倍率を示す情報を入手することにより、プロジェクタモジュール6による投射範囲を含まないように抽出ブロックの大きさを拡げることが可能である。このように、スクリーンの近傍に静止物が存在せず、これら静止物によるコントラスト情報が得られない場合でも、抽出ブロック51a〜51fを広げて動きベクトルを検出しやすくすることが可能になる。上述とは逆に、撮影レンズ5を駆動させてカメラ部200による撮像範囲を広げ、これとともに抽出ブロック51a〜51fの大きさを拡大する構成としても同様の効果が得られる。
以上説明した実施形態についてまとめる。
(1)プロジェクタ付き携帯電話機10は、相対角θ=80度の投影姿勢に設定されて3秒経過すると、プロジェクタモジュール6の投射を開始させる。このとき、揺れ補正処理を行う設定がなされていれば、カメラ部200に連続するフレーム画像の撮像開始を指示する。投射開始および撮像開始が自動的に行われるので、操作が簡略化され使い勝手が向上する。
(2)プロジェクタ付き携帯電話機10は、イメージセンサ201によって撮像された、投射領域より大きい連続するフレーム間の画像を比較して6つの動きベクトルを算出する。算出した動きベクトルに基づいて「手ぶれ」判定を行うとともに、6つの動きベクトルを平均化して代表ベクトルをさらに算出する。プロジェクタ付き携帯電話機10はさらに、代表ベクトルをキャンセルするための画像シフト情報を生成し、「手ぶれ」を判定した場合にはプロジェクタモジュール6による投射内容の揺動を抑えるように、画像シフト情報を用いて投射像を補正する。この結果、ハンドホールドされているプロジェクタ付き携帯電話機10に「手ぶれ」が生じてもスクリーンS上に投射されている画像や文字などの揺動が抑えられ、観察者にとって静止しているかのように見えるので、観察者が感じる不快感を軽減できる。
(3)「手ぶれ」判定は、イメージセンサ201によって撮像された連続するフレーム間の画像を比較して行うようにしたので、ジャイロなどを用いる場合に比べてコストや消費電力を抑えることができる。
(4)上記(2)の6つの動きベクトルは、撮像範囲51の画像の中からスクリーンS上の投射範囲を含まない6つのブロック51a〜51fから算出する。カメラ部200による撮影方向と、プロジェクタモジュール6による投射方向とが一致しないように両方向の関係を変更可能に構成したので、投射範囲以外の領域を撮像する(すなわち、撮像範囲51から投射範囲を外す)ことが容易である。
(5)また、カメラ部200による撮像範囲51がプロジェクタモジュール6による投射範囲より広くなるように撮影画角を調節可能に構成したので、撮影方向および投射方向が同一の場合においても投射範囲以外の領域を撮像することが容易である。
(6)図8(a)に示す撮影方向および投射方向が同一の場合において、6ブロック51a〜51fのいずれからも動きベクトルを算出できなかった場合には、プロジェクタモジュール6に投射像のズーム調節を行わせ、スクリーンS上で投射範囲を小さくするようにする。一方、投射範囲の縮小に反比例して上記6つのブロックの大きさを拡大する。この結果、広げたブロック51a〜51fにスクリーンSの枠、マーク、ゴミ、もしくは汚れなどが存在する可能性が高くなり、これらのコントラスト情報に基づいて動きベクトルを算出しやすくすることができる。
(変形例1)
以上の説明では、「手ぶれ」したことで生じるスクリーンS上の投射内容の揺動を抑えるために、液晶パネル62上の光像をシフトさせる電気的な補正を行った。この代わりに、代表ベクトルをうち消すように液晶パネル62と投射レンズ61との相対的な位置関係を投影レンズ61の光軸に垂直な面内で機械的に移動させる構成にしてもよい。また、可変頂角プリズムを用いて光学的な補正を行って投射する画像の揺れを補正する構成にしてもよい。
(変形例2)
上述した説明では、揺れ補正処理を行うように設定された場合において、プロジェクタモジュール6が投射画像Pとして静止画像を投射する例を説明したが、画像の代わりに文字や記号、ポインタを投射させてもよい。また、投射画像Pとして静止画像を投射している場合には、ブロック51a〜51fが投射範囲を含むものであってもよい。
(変形例3)
また、揺れ補正処理を行うように設定された場合において、プロジェクタモジュール6が投射画像Pとして動画像を投射してもよい。静止画像を投射する場合と同様に、算出される代表ベクトルを打ち消すように投射画像を変位させるべく、プロジェクタモジュール6を制御する。なお、動画像はTVチューナー106で受信された映像、通信制御部110で受信された映像、もしくはメモリカード105に記録されているデータによる再生画像である。カメラ部200による撮影範囲内にプロジェクタモジュール6による投射領域が存在し、揺れ補正処理を行う場合には、CPU101は、カメラ部200によってリアルタイムに撮像される連続したフレーム画像を動画像して投射することを禁止する。投射内容の揺動を抑えるようにシフトさせた画像がスクリーンSに投射され、そのスクリーンSを含むようにカメラ部200で撮像を行うことは、投射内容と撮像内容との無限の連鎖状態を引きおこしてしまい、スクリーンSを観察する人に不快感を与えてしまうからである。また、6つのブロック51a〜51fが投射範囲を除いた領域に設定されているため、投射動画像内の像の動きを検出し、誤って「手ぶれ」と判断してしまうことが防止される。
(変形例4)
揺れ補正処理を行うように設定された場合、プロジェクタモジュール6による投射範囲を揺れ補正処理を行わない場合の投射範囲に比べて小さくするようにズーム調節するとよい。これにより、スクリーンS上で投射範囲の周囲に移動代を確保できるので、「手ぶれ」によって投射像が揺動したとしても、投射像の端部がただちにスクリーンSの外側へ逸脱することを防止できる。
(変形例5)
また、揺れ補正処理を行うように設定された場合、プロジェクタモジュール6による投射範囲内の周縁近傍の所定領域に、画像やテキストなどの情報を含まない照明光のみを投影してもよい。すなわち、液晶パネル62の投射範囲内の周縁近傍の所定領域には、投射コンテンツは表示されず、この領域の投射光が上記の照明光として用いられる。動きベクトルをスクリーンSの枠、マーク、ゴミ、もしくは汚れなどに基づいて算出する場合には、当該抽出ブロックの画像の輝度が高くなるので、撮像画像のノイズを抑えることができ、動きベクトルの算出精度を高めることができる。
(変形例6)
上記の例では、カメラ部200で撮像範囲51に机100および机100上のスクリーンS、植木鉢Uを含むように撮影し、揺れ演算補正回路208が撮像範囲51の画像の中からスクリーンS上の投射範囲を含まない6つのブロック51a〜51fを抽出し、これらのブロック内の画像データに基づいて画像シフト情報を得るようにした。この代わりに、スクリーンS上の投射範囲を含まずに静止物(たとえば、机100、植木鉢U、またはスクリーンSの枠部分)を含む領域のみを撮影し、この画像データから画像シフト情報を得てもよい。この場合には、プロジェクタ付き携帯電話機10からスクリーンSまでの距離、およびプロジェクタ付き携帯電話機10から静止物までの距離を算出可能に構成することにより、より正確にプロジェクタモジュール6による投射画像の変位を制御できる。スクリーンSや静止物までの距離は、たとえば、カメラ部200用の測距装置やプロジェクタモジュール6用の測距装置などによって算出させるとよい。
(変形例7)
また、上記の例では、イメージセンサ201の出力する信号をもとに撮影画像、投射画像の揺れを補正する構成について説明した。この例でイメージセンサ201は、撮影画像、投射画像の揺れを補正する際の揺れを検出する揺れ検出センサとしての機能をつかさどる。イメージセンサ201の出力信号をもとに、揺れ演算補正回路208で揺れの検出が行われ、揺れ検出信号が出力される。撮影画像、投射画像の揺れを補正する際に用いられる揺れ検出センサとして、ジャイロ、角速度センサ、加速度センサを用いる構成としてもよい。この場合には、プロジェクタモジュール6の投射面は、筐体の表面もしくは内部であっても構わない。このような構成とすれば、撮影画像の揺れ補正、投射画像の揺れを補正する際に個別に揺れ検出センサを用いることなく、単一のセンサを用いて揺れ補正を行うことができ、装置の小型化、低消費電力化が実現できる。
(変形例8)
プロジェクタモジュール6の構成例として、液晶パネル62を用いて光像形成素子を構成し、液晶パネル62による像をLED光源63の光で照明して光像を得る場合を説明したが、自発光式の光像形成素子を用いて構成してもよい。この場合には、画素に対応する点光源を配列して光像形成素子を構成し、画像信号に応じた輝度の光を画素ごとに発光させることにより、光像形成素子が光像を生成する。自発光式の光像形成素子を用いる場合はLED光源63を省略できる。また、光源はLED光源に限定されず、他の光源であってもよい。
(変形例9)
光像形成素子は、画素に対応してマイクロミラーが配列されているマイクロミラー素子を用いて構成してもよい。マイクロミラー素子を用いて光像形成素子を構成する場合は、LED光源63の光でマイクロミラー素子を照明する。
(変形例10)
カメラ部200を回動する回動機構を備えることによって、カメラ部200による撮影方向とプロジェクタモジュール6による投射方向との関係を変更自在に構成したが、カメラ部200の代わりにプロジェクタモジュール6を回動可能にするなどして、投射方向を変更可能に構成してもよい。また、カメラ部200およびプロジェクタモジュール6の双方を回動可能に構成してもよい。
(変形例11)
図8(a)に示す撮影方向および投射方向が同一の場合において、動きベクトルを算出できなかった場合にプロジェクタモジュール6側でズーム調節して投射範囲を小さくするようにした。この代わりに、カメラ部200側でズーム調節して撮影範囲を広げるようにしてもよい。
(変形例12)
プロジェクタモジュール6によって画像を投影しながらカメラ部200が撮影を行う際に、撮像範囲51のうち動きベクトル抽出のためのブロックを含み、スクリーンS上の投影範囲を含まない領域の明るさに基づいて撮影時の露出を決定するとよい。図9は、この場合の測光エリアを説明する図である。図6において、1フレーム画像に対応する撮像範囲51から少なくともスクリーンS上の投影範囲Pを除いた斜線領域Kは、投影範囲Pに比べて輝度が低くなる。このため、輝度が高い投影範囲Pを含む画像データに基づいて算出した被写体輝度に応じて露出を決定する(たとえば、撮像範囲51全域の輝度を平均して露出を決定する平均測光を行う場合など)と、領域Kが暗く撮影されてしまう。上述したブロック51a〜51fは領域Kに含まれるので、暗く撮影されたデータからはコントラスト情報を含む特徴部の検出が困難になり、正確な動きベクトルの算出が難しくなる。
そこでCPU101は、動きベクトル抽出のためのブロックを含み、投影範囲Pを除外した領域Kの画像データの信号値に基づいて算出した被写体の明るさに応じて露出を決定することにより、上記ブロック51a〜51fについて適正露出が得られるようにする。これによって動きベクトルが算出し易くなり、より正確にプロジェクタモジュール6による投射画像の変位を制御できる。
(変形例13)
また、CPU101は、カメラ部200による撮影時に領域Kについての被写体輝度が不足する場合、撮像された領域Kの画像データに対して例えばゲインアップを施す。これにより、上記ブロック51a〜51fについて適正な信号レベルのデータが得られるようになり、動きベクトルを算出し易くなるので、より正確にプロジェクタモジュール6による投射画像の変位を制御できる。なお、変形例12および変形例13の処理を組み合わせて行ってもよい。また、上記のゲインアップ処理に代えて、撮像素子201のシャッタ速度を大きくする、あるいは、撮像素子201に入射する光量が大きくなるように、絞りを広くする構成としてもよい。これらのゲインアップ処理、シャッタ速度の変更、あるいは絞りの変更処理は、レベル増大処理部(撮像部制御CPU203、あるいは画像処理回路207)によってなされる。
(第2の実施形態)
プロジェクタモジュール6によって画像を投影しながらカメラ部200が撮影を行うのではなく、プロジェクタモジュール6による投影とカメラ部200による撮影とを時分割で行うようにしてもよい。
図10は、投影タイミングおよび撮影(撮像)タイミングを説明するタイミングチャートである。プロジェクタモジュール6のLED駆動部64は、CPU101からのLED駆動信号に応じて、1/60secごとに点灯と消灯とを繰り返すようにLED光源63を点滅発光させる。点滅光によって液晶パネル62が照明されることにより、スクリーン上の投射像が1/30sec周期で点滅する。
一方、カメラ部200の撮像部制御CPU203は、CPU101からの撮影指示に応じてフレーム画像の撮像を開始する。ここで、フレーム間の撮影間隔(撮影画像の取り込み間隔)を1/30secにするとともに、LED光源63がオフ(消灯)している間(すなわち、スクリーンS(図6)上の投射像がオフ(非表示状態)されている1/60secの間)に撮像(撮像素子201への撮像電荷の蓄積)を行わせる。
CPU101は、上記タイミングで撮影された画像を用いて画像シフト情報を得る。すなわち、1フレーム画像に対応する撮像範囲51(図6)の画像の中から所定のブロック(図6の例ではブロック51a〜51f)を抽出し、これらのブロック内の画像データに基づいて画像シフト情報を得る。なお、第2の実施形態ではスクリーンS上の投射像がオフされているため、ブロック51a〜51fにスクリーンSが含まれるようにブロック位置を設定しても構わない。
CPU101は、プロジェクタモジュール6の液晶駆動部65へ指令を送り、得られた画像シフト情報に応じて、次に投影される液晶パネル62上の光像をシフトさせる。この結果、図7に示すように、スクリーンS上の投射画像Pの人物HがスクリーンSの中央部に投射され、スクリーンS上の投射画像Pを観察する人にとって人物Hが静止しているかのように見える。
以上説明した第二の実施形態によれば、以下の作用効果が得られる。
(1)プロジェクタモジュール6による投影とカメラ部200による撮影とを交互に行い、プロジェクタ付き携帯電話機10に生じた「手ぶれ」に起因する投射像の揺動をキャンセルするために行う投射像の補正に必要な画像シフト情報を、投射像がオフされている間の撮影画像を用いて得るようにした。これにより、カメラ部200による撮像範囲51をプロジェクタモジュール6による投影範囲より広くしなくてもよい(すなわち、第1の実施形態と異なり、ブロック51a〜51fにスクリーンSが含まれていてもよい)から、撮影画角を調節する手間を省くことができる。
(2)上記(1)に加えて、カメラ部200による撮影時に投射像がオフされており、投射像がオフの状態での測光結果に基づいて、カメラ部200の露出が制御されているので、投影光が撮影時の露出に影響を与えるおそれを排除できる。すなわち、ブロック51a〜51fの領域が暗く撮影されるおそれがなく、動きベクトルの算出がし易いから、より正確にプロジェクタモジュール6による投射画像の変位を制御できる。
(3)プロジェクタモジュール6による投影は、点灯(オン)と消灯(オフ)とをそれぞれ1/60secで繰り返すようにしたので、スクリーンS上の投影像を観察する人にとって投影像が常時オンしているように見え、ちらつきによる不快感を感じることがない。
(変形例14)
LED光源63のオン/オフ駆動は、上記1/60sec間隔に限らず、さらに間隔を短くしてもよい。
(変形例15)
LED光源63の発光制御をPWM方式で行う場合や、RGB各色の光をシーケンシャルに発光させるように駆動する場合には、それぞれ光源を消灯(オフ)している状態でカメラ部200による撮影を行うように構成すればよい。
(変形例16)
カメラ部200による撮影時の被写体輝度が不足する場合、LED光源63をオフさせる代わりに、画像やテキストなどの情報を含まない照明光のみを低輝度で発光(例えば白色投影)させてもよい。これにより、上記所定ブロックの画像の輝度が高くなるので、動きベクトルの算出精度を高めることができる。
(変形例17)
また、CPU101は、カメラ部200による撮影時の被写体輝度が不足する場合、撮像された画像データに対して例えばゲインアップを施す。これによって、上記ブロック51a〜51fについて適正な信号レベルのデータが得られるようになり、動きベクトルを算出し易くなるので、より正確にプロジェクタモジュール6による投射画像の変位を制御できる。なお、変形例16および変形例17の処理は組み合わせて行ってもよい。また、上記のゲインアップ処理に代えて、撮像素子201のシャッタ速度を大きくする、あるいは、撮像素子201に入射する光量が大きくなるように、絞りを広くする構成としてもよい。これらのゲインアップ処理、シャッタ速度の変更、あるいは絞りの変更処理は、レベル増大処理部(撮像部制御CPU203、あるいは画像処理回路207)によってなされる。
以上の説明では、プロジェクタモジュール6およびカメラ部200を携帯電話機10に搭載する例を説明したが、プロジェクタおよびカメラ付きノート型パソコン、プロジェクタおよびカメラ付きPDA、プロジェクタ付き電子カメラなどの電子機器にも本発明を適用できる。
上記実施形態では、プロジェクタモジュール6の投射を開始した時点で揺れ補正処理を行う設定がなされていれば、自動的にカメラ部200の撮像開始を指示するようにしたが、撮像開始を手動で指示するように構成してもよい。また、上記実施の形態では、プロジェクタ付き携帯電話機10をハンドホールドで用いる場合の例について説明したが、本発明は、プロジェクタ付き携帯電話機10の保持、または載置形態と投射面との相対的な位置関係が時間とともに変化する場合にも適用することができる。
以上の説明では種々の実施形態および変形例を説明したが、本発明はこれらの内容に限定されるものではない。本発明の技術的思想の範囲内で考えられるその他の態様も、本発明の範囲内に含まれる。
次の優先権基礎出願の開示内容は引用文としてここに組み込まれる。
日本国特許出願2004年第273416号(2004年9月21日出願)

Claims (15)

  1. 被写体像を撮像して画像信号を出力する撮像装置と、
    光像形成素子に形成された像を投射するプロジェクタ装置とを筐体内に一体に備え、
    前記画像信号の時間的な変化量を演算する演算部と、
    前記演算された変化量に応じて前記プロジェクタ装置が前記筐体と離間したスクリーンに投射する像の位置を補正する補正部とを備える電子機器。
  2. 請求項1に記載の電子機器において、
    前記撮像装置による撮影範囲と前記プロジェクタ装置による投射範囲とが一致しないように、前記撮像装置が撮像する向きおよび前記プロジェクタ装置が像を投射する向きの少なくとも一方の向きを変更するための変更部をさらに備え、
    前記演算部は前記プロジェクタ装置による投射範囲を除く被写体像に対応する画像信号を用いて前記変化量を演算する電子機器。
  3. 請求項1に記載の電子機器において、
    前記撮像装置による撮影範囲と前記プロジェクタ装置による投射範囲とが一致しないように、前記撮影範囲および前記投射範囲の少なくとも一方の大きさを変更する範囲変更部をさらに備え、
    前記演算部は前記プロジェクタ装置による投射範囲を除く被写体像に対応する画像信号を用いて前記変化量を演算する電子機器。
  4. 請求項3に記載の電子機器において、
    前記範囲変更部は、前記撮影範囲が前記投射範囲より大きくなるように、前記撮影範囲もしくは前記投射範囲を変更する電子機器。
  5. 請求項3または4に記載の電子機器において、
    前記演算部によって前記変化量が演算不能の場合、前記プロジェクタ装置が前記投射範囲を狭くするとともに、前記演算部が前記変化量の演算に用いる画像信号の抽出範囲を広げる電子機器。
  6. 請求項3または4に記載の電子機器において、
    前記演算部によって前記変化量が演算不能の場合、前記撮像装置が前記撮影範囲を広くするとともに、前記演算部が前記変化量の演算に用いる画像信号の抽出範囲を広げる電子機器。
  7. 請求項5または6に記載の電子機器において、
    前記プロジェクタ装置は、前記投射範囲内の周囲に照明光を照射する電子機器。
  8. 被写体像を撮像して画像信号を出力する撮像装置と、
    光像形成素子に形成された像を投射するプロジェクタ装置とを一体に備え、
    揺れを検出して揺れ検出信号を出力する揺れ検出部と、
    前記揺れ検出信号に基づいて、前記撮像装置の出力する画像信号に対応する画像、および前記プロジェクタ装置が投射する像を補正する補正部とを備える電子機器。
  9. 請求項8に記載の電子機器において、
    前記補正部は、前記揺れ検出部で揺れが検出された際に、前記撮像装置の出力する画像信号に対応する画像を補正するときと、前記プロジェクタ装置が投射する像を補正するときとで、前記画像、および前記像のシフト方向を逆にして補正する電子機器。
  10. 請求項1〜9のいずれか一項に記載の電子機器において、
    前記撮像装置は、前記プロジェクタ装置の投射を開始させる指示に応じて撮像を開始する電子機器。
  11. 請求項1〜10のいずれか一項に記載の電子機器において、
    前記プロジェクタ装置は、前記補正部が前記補正を行う場合に前記撮像装置から出力される画像信号を用いて形成された像を投射することが禁止されている電子機器。
  12. 請求項1〜7のいずれか一項に記載の電子機器において、
    被写体輝度に基づいて前記撮像装置による撮影時の露出を決定する露出演算部をさらに備え、
    前記露出演算部は、前記プロジェクタ装置による投射範囲を除く被写体像に対応する画像信号を用いて前記被写体輝度を算出する電子機器。
  13. 被写体像を撮像して画像信号を出力する撮像装置と、
    光像形成素子に形成された像を投射するプロジェクタ装置とを一体に備え、
    前記プロジェクタ装置による非投射時に撮像するとともに、前記撮像装置による非撮影時に投射するように、前記撮像装置と前記プロジェクタ装置とを時分割で制御する制御部と、
    前記画像信号の時間的な変化量を演算する演算部と、
    前記演算された変化量に応じて前記プロジェクタ装置が投射する像の位置を補正する補正部とを備える電子機器。
  14. 請求項13に記載の電子機器において、
    前記制御部は、前記プロジェクタ装置による投射周期を1/30秒以下にするように制御する電子機器。
  15. 請求項12〜14のいずれか一項に記載の電子機器において、
    前記プロジェクタ装置による投射範囲を除く被写体像に対応する画像信号のレベルを大きくするレベル増大処理部をさらに備え、
    前記演算部は、前記レベル増大処理された画像信号を用いて前記変化量を演算する電子機器。
JP2006536341A 2004-09-21 2005-09-09 電子機器 Expired - Fee Related JP5029012B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006536341A JP5029012B2 (ja) 2004-09-21 2005-09-09 電子機器

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2004273416 2004-09-21
JP2004273416 2004-09-21
PCT/JP2005/016628 WO2006033245A1 (ja) 2004-09-21 2005-09-09 電子機器
JP2006536341A JP5029012B2 (ja) 2004-09-21 2005-09-09 電子機器

Publications (2)

Publication Number Publication Date
JPWO2006033245A1 true JPWO2006033245A1 (ja) 2008-05-15
JP5029012B2 JP5029012B2 (ja) 2012-09-19

Family

ID=36090008

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006536341A Expired - Fee Related JP5029012B2 (ja) 2004-09-21 2005-09-09 電子機器

Country Status (5)

Country Link
US (1) US8159594B2 (ja)
EP (1) EP1793599B1 (ja)
JP (1) JP5029012B2 (ja)
CN (1) CN100505852C (ja)
WO (1) WO2006033245A1 (ja)

Families Citing this family (61)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7653304B2 (en) * 2005-02-08 2010-01-26 Nikon Corporation Digital camera with projector and digital camera system
WO2008016895A2 (en) 2006-07-31 2008-02-07 3M Innovative Properties Company Integrating light source module
JP5330993B2 (ja) 2006-07-31 2013-10-30 スリーエム イノベイティブ プロパティズ カンパニー 光学投影サブシステム
JP4994744B2 (ja) * 2006-08-11 2012-08-08 キヤノン株式会社 携帯型画像投射装置
JP4990639B2 (ja) * 2007-01-18 2012-08-01 パナソニック株式会社 画像投影装置
JP5083506B2 (ja) * 2007-01-19 2012-11-28 セイコーエプソン株式会社 プロジェクタ、プログラムおよび情報記憶媒体
JP5239206B2 (ja) * 2007-04-27 2013-07-17 株式会社リコー 画像投影装置
US8174555B2 (en) 2007-05-30 2012-05-08 Eastman Kodak Company Portable video communication system
WO2008155771A2 (en) * 2007-06-21 2008-12-24 Maradin Technologies Ltd. Image projection system with feedback
JP2009008905A (ja) * 2007-06-28 2009-01-15 Ricoh Co Ltd 情報表示装置および情報表示システム
US8175639B2 (en) * 2007-11-26 2012-05-08 Nasrin Chaparian Amirmokri NanoPC mobile personal computing and communication device
JP4956401B2 (ja) * 2007-12-18 2012-06-20 キヤノン株式会社 撮像装置及びその制御方法及びプログラム
JP2009186646A (ja) * 2008-02-05 2009-08-20 Nikon Corp プロジェクタ、およびカメラ
CN101515109B (zh) * 2008-02-21 2012-01-11 仁宝电脑工业股份有限公司 具有投影功能的便携式电子装置
JP2009237197A (ja) * 2008-03-27 2009-10-15 Sanyo Electric Co Ltd 携帯プロジェクタ装置
JP5256864B2 (ja) * 2008-06-09 2013-08-07 株式会社ニコン プロジェクタ
DE102008028553A1 (de) * 2008-06-16 2009-12-17 Osram Opto Semiconductors Gmbh Handprojektor und Verfahren zum Betrieb eines Handprojektors
JP5231119B2 (ja) * 2008-07-31 2013-07-10 オリンパス株式会社 表示装置
CN101650520A (zh) * 2008-08-15 2010-02-17 索尼爱立信移动通讯有限公司 移动电话的可视激光触摸板和方法
EP2332007A4 (en) * 2008-10-10 2013-05-01 Inst Nat Optique SELECTIVE AND ADAPTIVE LIGHTING OF A TARGET
KR101531507B1 (ko) * 2008-10-21 2015-06-25 엘지전자 주식회사 이동 단말기 및 그 제어 방법
US8297757B2 (en) * 2008-10-29 2012-10-30 Seiko Epson Corporation Projector and projector control method
JP5481833B2 (ja) * 2008-10-29 2014-04-23 セイコーエプソン株式会社 プロジェクタおよびプロジェクタの制御方法
KR101527014B1 (ko) * 2008-12-02 2015-06-09 엘지전자 주식회사 이동 단말기 및 이것의 디스플레이 제어 방법
JP5148519B2 (ja) * 2009-01-23 2013-02-20 株式会社東芝 プロジェクタ装置及び携帯電話
JP2010258753A (ja) * 2009-04-24 2010-11-11 Kyocera Corp 携帯端末および投影プログラム
US8388151B2 (en) * 2009-07-23 2013-03-05 Kenneth J. Huebner Object aware, transformable projection system
JP5556193B2 (ja) * 2010-01-26 2014-07-23 セイコーエプソン株式会社 投写装置および投写装置の画像ブレ防止制御方法
JP5259010B2 (ja) * 2010-02-24 2013-08-07 京セラ株式会社 携帯電子機器および投影システム
JP5740822B2 (ja) 2010-03-04 2015-07-01 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
CN101917599B (zh) * 2010-07-23 2012-09-19 深圳中兴力维技术有限公司 一种云台故障检测方法及装置
KR20120071551A (ko) 2010-12-23 2012-07-03 한국전자통신연구원 구조 영상을 이용한 사용자 인터랙션 장치 및 방법
JP5606901B2 (ja) * 2010-12-24 2014-10-15 京セラ株式会社 携帯電子機器
CN102075625B (zh) * 2010-12-31 2013-01-09 惠州Tcl移动通信有限公司 一种拨号方法、装置、手机及遥控器
US9686388B2 (en) 2011-05-13 2017-06-20 Rohm Co., Ltd. Projector
US9497447B2 (en) * 2011-06-15 2016-11-15 Scalable Display Technologies, Inc. System and method for color and intensity calibrating of a display system for practical usage
JP2013162208A (ja) * 2012-02-02 2013-08-19 Aiptek International Inc 無線ビデオ出力装置を介して動作する映写用装置とそのビデオ出力制御ユニット
CN103116451B (zh) * 2013-01-25 2018-10-26 腾讯科技(深圳)有限公司 一种智能终端的虚拟角色交互方法、装置和系统
JP2014179698A (ja) * 2013-03-13 2014-09-25 Ricoh Co Ltd プロジェクタ及びプロジェクタの制御方法、並びに、その制御方法のプログラム及びそのプログラムを記録した記録媒体
JP6289003B2 (ja) 2013-09-26 2018-03-07 キヤノン株式会社 情報処理装置及びその制御方法、プログラム
TW201531104A (zh) * 2014-01-24 2015-08-01 Sintai Optical Shenzhen Co Ltd 電子裝置
CN104866258B (zh) * 2014-02-20 2018-10-12 联想(北京)有限公司 一种信息处理方法及电子设备
CN104182128B (zh) * 2014-09-09 2017-08-29 联想(北京)有限公司 信息处理方法、装置及电子设备
US20160252351A1 (en) * 2015-02-27 2016-09-01 Ge Aviation Systems Llc System and methods for providing situational awareness information for a relative navigation system
CN105007087B (zh) * 2015-07-03 2018-01-23 广东欧珀移动通信有限公司 一种终端
CN105049694B (zh) * 2015-07-03 2018-01-19 广东欧珀移动通信有限公司 拍摄装置及终端
CN105007402B (zh) * 2015-07-03 2018-01-23 广东欧珀移动通信有限公司 移动终端
CN105024718B (zh) * 2015-07-03 2016-10-19 广东欧珀移动通信有限公司 移动终端
CN107995406B (zh) * 2015-07-03 2020-03-03 Oppo广东移动通信有限公司 拍摄装置及终端
CN106559629B (zh) * 2015-09-29 2020-08-04 中兴通讯股份有限公司 一种投影的方法、装置和设备
JP2017146520A (ja) * 2016-02-19 2017-08-24 セイコーエプソン株式会社 プロジェクターおよび画像変位補償方法
US10142546B2 (en) * 2016-03-16 2018-11-27 Ricoh Imaging Company, Ltd. Shake-correction device and shake-correction method for photographing apparatus
JP6844171B2 (ja) * 2016-09-23 2021-03-17 カシオ計算機株式会社 投影装置、投影方法及びプログラム
CN107995478B (zh) * 2017-12-13 2019-08-27 歌尔股份有限公司 投影方法及投影设备
JP1641986S (ja) * 2019-04-15 2019-09-24
EP3742726A1 (en) * 2019-05-23 2020-11-25 Coretronic Corporation Projection device, projection method and projection system
CN111988589B (zh) 2019-05-23 2022-08-09 中强光电股份有限公司 投影设备、投影方法以及投影系统
KR20220044940A (ko) * 2019-06-14 2022-04-12 가부시키가이샤 로보 가레지 박형 휴대 통신 단말과 그 제어 방법 및 제어 프로그램
JP7349625B2 (ja) * 2019-12-10 2023-09-25 パナソニックIpマネジメント株式会社 プロジェクター
CN114077133B (zh) 2020-08-12 2023-05-26 中强光电股份有限公司 投影装置及其控制方法
JP7384193B2 (ja) 2021-07-30 2023-11-21 セイコーエプソン株式会社 表示方法、プロジェクター、及びプロジェクションシステム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001024926A (ja) * 1999-07-09 2001-01-26 C Media:Kk 携帯型カメラ、及び画像通信方法
JP2003283964A (ja) * 2002-03-26 2003-10-03 Olympus Optical Co Ltd 映像表示装置

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0580925A (ja) 1991-09-19 1993-04-02 Hitachi Ltd 大画面デイスプレイ用ポインテイング装置
JPH05137039A (ja) 1991-11-14 1993-06-01 Asahi Optical Co Ltd 電子カメラ
US5345264A (en) * 1992-02-27 1994-09-06 Sanyo Electric Co., Ltd. Video signal processing circuit for a video camera using a luminance signal
JPH06118342A (ja) 1992-09-30 1994-04-28 Sony Corp 光ビームポインタ
JPH06269002A (ja) * 1993-03-10 1994-09-22 Nippon Telegr & Teleph Corp <Ntt> 表示撮像装置
DE59707079D1 (de) * 1996-12-20 2002-05-23 Siemens Ag Informationsanzeigesystem für mindestens eine person
DE19843902A1 (de) * 1997-09-26 1999-04-01 Denso Corp Bildinformations-Anzeigesystem und Hologramm-Anzeigevorrichtung
JPH11164291A (ja) * 1997-09-26 1999-06-18 Denso Corp 映像情報表示システム
JP2001251476A (ja) 1999-12-27 2001-09-14 Nikon Corp 画像入出力装置および資料提示装置
JP2003029927A (ja) 2001-07-12 2003-01-31 Fuji Photo Optical Co Ltd プレゼンテーションシステム
JP2003029204A (ja) 2001-07-16 2003-01-29 Fuji Photo Optical Co Ltd レーザポインタ
US20030038927A1 (en) * 2001-08-27 2003-02-27 Alden Ray M. Image projector with integrated image stabilization for handheld devices and portable hardware
JP2003233126A (ja) 2002-02-08 2003-08-22 Canon Inc 撮影光学手段付携帯機器
US6840627B2 (en) * 2003-01-21 2005-01-11 Hewlett-Packard Development Company, L.P. Interactive display device
US7184054B2 (en) * 2003-01-21 2007-02-27 Hewlett-Packard Development Company, L.P. Correction of a projected image based on a reflected image
US7377650B2 (en) * 2003-02-03 2008-05-27 Siemens Aktiengesellschaft Projection of synthetic information
JP4371713B2 (ja) * 2003-06-16 2009-11-25 シャープ株式会社 カメラ付折畳み式携帯機器
US7175285B2 (en) * 2003-07-29 2007-02-13 Sharp Laboratories Of America, Inc. Projection system that adjusts for keystoning
JP2005128506A (ja) * 2003-09-30 2005-05-19 Sanyo Electric Co Ltd 手持ち式プロジェクタ
JP2006269002A (ja) 2005-03-25 2006-10-05 Sanyo Epson Imaging Devices Corp シフトレジスタ回路

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001024926A (ja) * 1999-07-09 2001-01-26 C Media:Kk 携帯型カメラ、及び画像通信方法
JP2003283964A (ja) * 2002-03-26 2003-10-03 Olympus Optical Co Ltd 映像表示装置

Also Published As

Publication number Publication date
US8159594B2 (en) 2012-04-17
JP5029012B2 (ja) 2012-09-19
EP1793599A4 (en) 2009-12-09
EP1793599A1 (en) 2007-06-06
US20070249396A1 (en) 2007-10-25
CN101006720A (zh) 2007-07-25
CN100505852C (zh) 2009-06-24
EP1793599B1 (en) 2015-10-28
WO2006033245A1 (ja) 2006-03-30

Similar Documents

Publication Publication Date Title
JP5029012B2 (ja) 電子機器
KR100758632B1 (ko) 파노라마 사진촬영 장치 및 방법
US7957632B2 (en) Mobile device
WO2006038577A1 (ja) プロジェクタ装置を有する電子機器
WO2006030862A1 (ja) 電子機器
JP4556573B2 (ja) プロジェクタ装置を備える電子機器
WO2006033255A1 (ja) プロジェクタ装置、携帯電話、カメラ
WO2012157546A1 (ja) プロジェクタ
JP4371016B2 (ja) 電子機器
WO2015194084A1 (ja) 情報処理装置、情報処理システム、情報処理方法およびプログラム
JP2004254185A (ja) デジタルカメラ
JP2006115485A (ja) 電子機器
KR20090045117A (ko) 휴대용 장치 및 촬상 장치
JP6101432B2 (ja) プロジェクタ
CN109417599B (zh) 便携终端
JP4834973B2 (ja) プロジェクタ装置、携帯電話、カメラ
JP2009186646A (ja) プロジェクタ、およびカメラ
JP2008298819A (ja) 携帯電子機器、カメラおよび携帯電話機
JP2006115486A (ja) 電子機器
JP4257508B2 (ja) 電子カメラ
JP2007036843A (ja) 投影表示機能付き撮像装置及び携帯電子機器
JP4655565B2 (ja) プロジェクタ装置、携帯電話、カメラ
JP5126701B2 (ja) 撮像装置
JP5816458B2 (ja) プロジェクタ
JP2005311872A (ja) 電子機器、プログラムおよび記録媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080710

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110802

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110927

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20110927

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120312

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120529

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120611

R150 Certificate of patent or registration of utility model

Ref document number: 5029012

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150706

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150706

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees