JP2008167349A - 画像表示制御装置 - Google Patents

画像表示制御装置 Download PDF

Info

Publication number
JP2008167349A
JP2008167349A JP2007000172A JP2007000172A JP2008167349A JP 2008167349 A JP2008167349 A JP 2008167349A JP 2007000172 A JP2007000172 A JP 2007000172A JP 2007000172 A JP2007000172 A JP 2007000172A JP 2008167349 A JP2008167349 A JP 2008167349A
Authority
JP
Japan
Prior art keywords
read
line
image
pixel
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007000172A
Other languages
English (en)
Other versions
JP4860488B2 (ja
JP2008167349A5 (ja
Inventor
Susumu Takahashi
将 高橋
Soichi Kobayashi
聡一 小林
Toshiyuki Maruyama
俊幸 圓山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Renesas Technology Corp
Original Assignee
Renesas Technology Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Renesas Technology Corp filed Critical Renesas Technology Corp
Priority to JP2007000172A priority Critical patent/JP4860488B2/ja
Priority to KR1020070139221A priority patent/KR20080064719A/ko
Priority to US12/003,555 priority patent/US8350791B2/en
Priority to CN2007101691882A priority patent/CN101256763B/zh
Priority to TW096150703A priority patent/TWI426500B/zh
Publication of JP2008167349A publication Critical patent/JP2008167349A/ja
Publication of JP2008167349A5 publication Critical patent/JP2008167349A5/ja
Application granted granted Critical
Publication of JP4860488B2 publication Critical patent/JP4860488B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/63Generation or supply of power specially adapted for television receivers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/65Control of camera operation in relation to power supply
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)
  • Liquid Crystal Display Device Control (AREA)

Abstract

【課題】被写体画像を表示する画像表示システムの消費電力を低減する。
【解決手段】ビューファインダなどの表示デバイス(3)に対し、カメラモジュール(1)からの画像データを表示する際、画像サイズ変換回路(10)からの表示に適したサイズの画像データを、表示用信号生成回路(12)に内蔵されるラインメモリ(LM1−LMn)を通して表示する。このラインメモリを含む画像データ記憶部(12a)における垂直同期確立は、フレーム先頭画素指示(VF)とラインメモリからの1ラインの読出完了指示とに従って読出アドレスの初期化を行なう。
【選択図】図1

Description

この発明は、画像表示制御装置に関し、特に、カメラモジュールにおいて被写体の撮像状態をモニタする表示装置での画像表示を行なうための画像表示制御装置に関する。カメラモジュールは、デジタルスチルカメラまたはデジタルビデオカメラであり、表示装置は、ビューファインダまたは液晶モニタである。
デジタルスチルカメラおよびデジタルビデオカメラなどの固体撮像素子を用いたカメラにおいては、撮影対象を視認するために、液晶表示素子(LCD)を用いたビューファインダまたは液晶モニタが用いられる。デジタルスチルカメラのビューファインダ上への画像表示の際には、たとえば特許文献1(特開2006−267381号公報)に示されるように、以下の手順の画像データ処理が行なわれる。すなわち、CCD(電荷結合素子)またはCMOSセンサなどの固体撮像素子を用いて、被写体のアナログ画像情報を生成する。このアナログ画像情報を、アナログフロントエンドによりデジタル画像データに変換した後、画像処理コントローラの制御のもとに、変換画像データをバッファメモリに格納する。
次に、画像処理コントローラにより、バッファメモリから画像データを読出してホワイトバランス補正などの処理を行なって再度バッファメモリに格納する。その後、再び、画像コントローラの制御のもとに、フレーム単位でバッファメモリから画像データを読出してビデオ信号に変換する。このビデオ信号は、ビューファインダ上への表示用の所定のサイズにリサイズされた後、液晶表示素子のビューファインダに転送されて表示される。
このバッファメモリは、画像データなどのデータの一時保管用メモリとして利用され、画像データに対して各種処理を行なう際の作業領域として利用される。
また、デジタルスチルカメラにおいても、撮影後の画像を確認するために、液晶モニタが一般に利用される。特許文献1に示される構成において、この液晶モニタへの表示の際には、再度、画像処理コントローラが、バッファメモリに格納された画像データを読出し、ホワイトバランス補正、階調補正および色補正などの所定の画像処理を施した後、バッファメモリに格納する。このバッファメモリに格納した画像データを、再度読出してビデオ信号に変換して、液晶モニタ表示用の所定のサイズにリサイズした後に、液晶モニタに出力して表示する。
また、カメラモジュールではないものの、入力側画像表示方式と出力側画像表示方式とが異なる場合に、両者の同期周波数の整合のためのインターフェイスとしてスキャンコンバータが用いられることが、特許文献2(特開2000−023108号公報)および特許文献3(特開2001−125548号公報)に示されている。
特許文献2に示される構成においては、画像データ格納用のバッファメモリとして、数ラインの画素データを格納するラインメモリが用いられる。この場合、フレーム単位では、入力および出力の制御が行なわれない。このような書込/読出の場合、書込側のクロック信号と読出側のクロック信号とは別々のクロック信号が利用される。入力側の水平同期信号と書込クロック信号の位相のずれと出力側の水平同期信号と読出クロック信号との位相のずれが異なる場合には、出力側表示画像においてジッタが発生する。特許文献2は、このようなジッタを防止するために、以下のようなラインメモリへの書込を行なう。すなわち、入力側において、水平同期信号と書込クロック信号との時間差(位相差)に応じて、画素データの振幅補正を行なってラインメモリに書込む。この振幅補正においては、隣接入力画素の振幅の差分値を書込クロック信号の周期で除算する。その後、書込クロック信号と書込水平同期信号の時間差を乗算し、書込画素データを生成する。
特許文献3に示される構成においては、同様、画素データ格納のバッファメモリとして、ラインメモリが用いられる。この特許文献3においては、ラインメモリをバッファメモリとして用いる際、書込クロック信号および読出クロック信号は別々のクロック信号を利用する。これらの書込および読出クロック信号のタイミングのずれを調整するために、画素データの書込および読出のタイミング調整を行なう。すなわち、入力側および出力側の解像度の差に応じて、入力側水平同期信号および出力側水平同期信号の周期を、1動作クロック信号期間単位で調整する。この水平同期信号の周期の調整により、1垂直走査期間内における水平同期信号の数を調整する。また、ラインメモリに対する書込および読出を同時に同一の初期位置から行なうと、書込および読出速度の差によりラインメモリにオーバーフロー/アンダーフローが生じる可能性がある。特許文献3においては、このようなアンダーフローおよびオーバーフローを防止するために、ラインメモリの読出開始時点を算出して、初期設定する。
特開2006−267381号公報 特開2000−023108号公報 特開2001−125548号公報
特許文献1に示されるデジタルカメラの構成においては、バッファメモリとして、数フレームの画像データを格納するメモリが用いられる。したがって、このバッファメモリの記憶容量が大きく、1チップのシステムLSIで画像処理コントローラと同一チップ上に集積化することは困難であり、小型化/集積化に対する障害となる。また、画像処理コントローラの外部にフレームメモリを接続する場合、画像データの入出力を行なうための外部バスコントローラおよびDMA(ダイレクト・メモリ・アクセス)コントローラなどの回路を動作させる必要がある。DMAコントローラは、メインコントローラとして機能するCPUを介することなく直接画像データの書込/読出を行なうために設けられる。このため、消費電力が増加するという問題が生じる。また、このフレームメモリを外部に設ける場合、外部バスコントローラおよびDMAコントローラなどの回路の動作クロック周波数は、フレームメモリに対するデータの書込/読出を滞りなく実行することのできる程度のクロック速度までしか低減することができない。したがって、ビューファインダ使用時の低消費電力化が困難であるという問題が生じる。
特許文献2においては、ラインメモリへの画像データの書込時に、入力水平同期信号と書込クロック信号との時間差に応じて、入力画素データの振幅補正を行なう。この振幅補正においては、隣接画素間で、画素データの振幅が直線的に変化すると仮定している。画像が緩やかに変化する場合には、この直線比例配分での振幅補正で対応することが可能である。しかしながら、輪郭などの画像が急激に変化する領域においては、補正された画素データが、正確に、入力画素データに対応することができない可能性があり、正確な画像を再製することが困難であるという問題が生じる。
また、この特許文献2においては、ラインメモリへの画素データの書込および読出は、別々の動作クロック信号に同期して行なっている。これらの動作クロック信号の位相/周波数のずれにより、ラインメモリにおいてオーバフロー/アンダフローが生じる可能性がある。しかしながら、このような状態については、特許文献2は何ら考慮していない。
特許文献3は、ラインメモリを利用するスキャン変換における画像データの書込および読出の同期化の問題について検討している。しかしながら、この特許文献3においては、初期化シーケンスにおいて、入力側および出力側の解像度の差に応じて出力側の水平走査周期を調整して、画面に表示される有効表示領域の水平走査線数を、解像度に応じた値に設定している。入力側の調整後の表示画素数とクロック信号の周期との積が、出力側の表示画素数と出力クロック信号の周期との積とが等しくなるかを判定する。水平同期信号の周期の調整操作においては、各判定結果に従って、水平走査期間を、動作クロック信号の1周期ずつ増減する。最終的に有効画像領域の水平走査線数が所望の値に達しているか判定する。所望の水平走査線数が表示可能となるまで、水平走査周期の調整を繰返し実行する。したがって、この水平同期確立のために複雑な計算を実行する必要があり、判定までに長時間を要する。また、1動作クロック信号単位で出力水平同期信号の周期を調整しており、この初期化シーケンスに長時間を要することとなる。この結果、デジタルスチルカメラにおいては、この特許文献3の同期確立手法を適用した場合、ビューファインダに撮影対象の画像が正確に表示されるまでに時間を要し、シャッターチャンスを逃がす可能性がある。
また、特許文献3においては、一旦初期化シーケンスにおいて出力側の画素データの読出タイミングが確立されると、以後は固定的にこの確立されたタイミングで、ラインメモリから画素データの読出が行なわれる。したがって、動作期間中に、たとえば電源電圧の変動などにより、動作クロック信号の周波数が変動した場合、正確な画像データの読出再生を行なうことができなくなる可能性が生じる。
したがって、これらの特許文献2および3のスキャンコンバータの構成は、そのまま、デジタルスチルカメラまたはデジタルビデオカメラなどのビューファインダまたは液晶モニタに表示する構成に適用するのは困難である。
それゆえ、この発明の目的は、画像の表示方式を簡易な制御で正確に変換して低消費電力で、撮影対象の画像をリアルタイムで表示することのできる画像表示制御装置を提供することである。
この発明に係る画像表示制御装置は、要約すれば、撮影対象画像モニタ用の表示デバイスへの画像表示に、画像表示制御装置に内蔵されるラインメモリを利用する。画像データのラインメモリからの読出は、ラインメモリへのカメラモジュールからの画像データの格納状態および表示デバイスへの画像データの読出状態に応じて、読出アドレスの初期化を実行する。すなわち、1フレームの先頭画素データの格納指示と画像データの1ラインの最終画素の読出とに従って、ラインメモリの読出アドレスの初期化を行なう。
この発明に従う画像表示制御装置は、1つの実施の形態においては、各々が画面上の1ラインの画素データを格納する複数のラインメモリと、この複数のラインメモリへの画像データを格納するデータ書込装置と、複数のラインメモリから格納画素データを順次読出して表示装置へ転送するデータ読出装置とを含む。このデータ読出装置は、データ書込装置からの画面先頭位置画素書込指示とこの先頭位置画素書込指示が与えられてから所定巣のラインメモリの読出完了後読出位置を画像記憶装置の先頭位置に初期化する。
この発明においては、ラインメモリを利用している。したがって、フレームメモリを利用する構成に比べて、その占有面積および価格を低減することができる。また、このラインメモリを表示制御装置に内蔵することにより、外部バスを介してフレームメモリをドライブする必要がなく、消費電力が低減される。
さらに、ラインメモリへのデータの格納状況とこの画像データのラインメモリからの読出状況とに応じてラインメモリからの読出の調整を行なっている。したがって、複雑な制御操作を行なうことなく、容易にラインメモリに対する画素データの格納および読出を正確に行なうことができる。
また、ラインメモリの画像データの格納および読出状況に応じてこのラインメモリからの画素データの読出を調整している。したがって、書込および読出用の動作クロック信号が、この表示操作中に変動しても、画素データの読出タイミングを調整して画素データを読出すことができる。したがって、クロック信号の変動に対して柔軟に対応して正確に画像データを読出して表示することができる。
[実施の形態1]
図1は、この発明の実施の形態1に従う画像表示制御装置の構成を概略的に示す図である。図1において、画像表示制御装置2は、カメラモジュール1から与えられる画像データに対してサイズ調整およびホワイトバランス補正などの画像処理を行なって、表示デバイス3に出力する。この画像表示制御装置2は、たとえばシステムLSIで実現され、1つの半導体チップ上に一体的に形成される。
カメラモジュール1は、本実施の形態1においては、デジタル画像を生成するカメラモジュールであり、CCDまたはCMOSセンサなどの固体撮像素子を含む。
表示デバイス3は、液晶表示素子を含み、たとえばデジタルスチルカメラにおける電子ビューファインダ(EVF)である。また、このカメラモジュール1が、デジタルビデオカメラであり、動画像を撮像する場合、表示デバイス3は、撮影中の画像を表示する液晶モニタである。また、また、この表示デバイス3は、デジタルスチルカメラにおける液晶モニタであってもよく、デジタルビデオカメラにおける電子ビューファインダであってもよい。
この画像処理制御装置2は、カメラモジュール1からの撮影画像のサイズを、表示デバイス3の表示に適したサイズに変換する画像サイズ変換回路10と、画像サイズ変換回路10からの画像データを、順次、表示デバイス3に転送する表示用信号生成回路12を含む。
画像サイズ変換回路10は、表示デバイス3が、電子ビューファインダ(EVF;以下、単にビューファインダーと称す)の場合、カメラモジュール1からの撮影画像データを受け、カメラモジュール1の撮影画像のサイズを、表示デバイス3の表示可能な画像サイズに変換を行ない、かつ表示デバイス3の表示に適したホワイトバランス補正などの画像処理を行なう。カメラモジュール1が、デジタルビデオカメラまたはデジタルスチルカメラであり、表示デバイス3が、撮影画像を表示する液晶モニタの場合においても、この画像サイズ変換回路10は、カメラモジュール1からの画像データを受けて、必要な画像処理および画像サイズ変換を行なう。
表示用信号生成回路12は、画像サイズ変換回路10からの画像データを格納する記憶部12aと、この記憶部12aに対する画像データの書込および読出をそれぞれ制御する書込制御回路12bおよび読出制御回路12cを含む。
この画像データ記憶部12aは、画面(フレーム)の複数ラインの画素データを格納するラインメモリLM1−LMnを含む。ラインメモリLM1−LMnは、各々、表示画像の画像データを、1ライン分格納する記憶容量を有する。これらのラインメモリLM1−LMnは、FIFO(ファースト・イン・ファースト・アウト)態様で、与えられた画素データの書込および読出を行なう。
なお、以下の説明においては、画素データは、個々の画素のデータを参照し、画像データは、一連の画素のデータを参照するものとして、これらの用語を用いる。
書込制御回路12bは、画像サイズ変換回路10からの垂直および水平同期信号に従って、画像データ記憶部12aのラインメモリLM1−LMnに対する画素データの格納動作を制御する。読出制御回路12cは、画像データ記憶部12aに格納される画素データPXを順次表示デバイス3へ出力するとともに、各ラインの切換えを示す水平同期信号HSYNCおよびフレーム切換えを示す垂直同期信号VSYNCを表示デバイス3に出力する。
読出制御回路12cは、書込制御回路12bからのフレーム先頭画素書込指示VFが与えられて、所定の条件が満たされると先頭の読出位置を初期化する。このフレーム先頭画素書込指示VFは、たとえば、垂直同期信号に同期して生成される信号である。所定の条件は、一定の水平周期期間後のラインの画素データの読出完了である。一定の水平周期期間は、画像データ記憶部12aにおける書込に対して読出が遅れる期間を示す。
これにより、書込制御回路12bおよび読出制御回路12cが、それぞれ別々のクロックCLK1およびCLK2に基づいて生成される動作クロック信号に同期して動作する場合においても、そのタイミングのずれを、1ライン期間単位で調整して、画像データ記憶部12aに対する画像データの書込および読出を行なうことができる。
画像処理制御装置2は、さらに、外部のメモリに対するアクセスの制御を行なう外部メモリコントローラ16と、画像処理制御装置2における画像処理およびEVF表示などの各種処理を制御するメインコントローラ18と、メインコントローラ18を介さずに、直接外部のメモリとの間でのデータ転送を外部メモリコントローラ16を介して実行するDMAコントローラ14を含む。この画像処理制御装置2は、その内部バス15により、内部構成要素が外部接続される。
外部メモリコントローラ16に対しては、外部インタフェースを介してフレームメモリ20と記録メディア22が結合される。フレームメモリ20は、画像処理制御装置2における画像処理実行時の作業領域として利用され、また、変更可能なアプリケーションプログラムを格納する領域として利用される。
記録メディア22は、たとえばSDメモリなどの、外部のメモリであり、大量の画像データを格納する。この記録メディア22は、また、カメラモジュール1が、デジタルビデオカメラモジュールの場合、大量の動画像データを格納するためのハードディスクであってもよい。
撮影後に撮影画像を検討する場合、表示デバイス3である液晶モニタに、この記録メディア22からの画像データが読出されて、サイズ調整および色調調整などの実際の撮影画像に対応する画像を生成するように画像処理を行なって、表示デバイス3の液晶モニタに表示する。これにより、静止画像および動画像に係らず、撮影画像を検証することができる。
この図1に示す画像表示システムにおいて、カメラモジュール1、画像サイズ変換回路10および書込制御回路12bは、クロック信号CLK1に従って生成される動作クロック信号に同期して動作する。読出制御回路12cおよび表示デバイス3は、クロック信号CLK2に従って生成される動作クロック信号に従って動作する。これらのクロック信号CLK1およびCLK2は、個々の図示しないPLL回路などのクロック発生回路により生成され、互いに非同期のクロック信号である。
カメラモジュール1は、たとえば、動作周波数が、40〜50MHzであり、一方、表示デバイス3の動作周波数は、数MHzから13.5MHzである。すなわち、カメラモジュール1および表示デバイス3は、それぞれ、別々のチップで形成されるため、それぞれ推奨値として設定される動作クロック周波数が異なる。これらの動作クロック信号が、互いに別々のクロック信号であり、非同期で生成される。したがって、これらのクロック信号CLK1およびCLK2におけるタイミングのずれが生じる。このタイミングのずれを、画像処理制御部12における画像データ記憶部12aを用いて吸収する。
この画像データ記憶部12aにおける書込速度および読出速度が異なる場合、画像データ記憶部12aにおいてオーバーフローまたはアンダーフローが発生する。したがって、この表示デバイス3への表示時の動作クロック数の差に応じて、ラインメモリLM1−LMnとして、たとえば10ラインの画素データを格納するようにラインメモリが設けられる。数ラインの画素データを格納した後、画素データの読出が行なわれる。
図2は、図1に示す書込制御回路12bおよび読出制御回路12cの構成の一例を概略的に示す図である。図2において、書込制御回路12bは、画素の表示画面(フレーム)上の垂直位置を示すアドレスを生成する書込垂直カウンタ30と、フレーム上の画素の水平位置を示すアドレスを生成する書込水平カウンタ32と、画像データ記憶部12a(ラインメモリ)に対する書込指示WEを生成する書込指示発生回路34を含む。
書込垂直カウンタ30は、図1に示す画像サイズ変換回路10からの書込垂直クロック信号VCLKWに従ってそのカウント値が更新され、かつ書込垂直同期信号VSYCWに従ってそのカウント値が初期値にリセットされる。この書込垂直カウンタ30のカウント値が、画像データ記憶部12aにおかれるラインメモリLM1−LMnを指定するアドレスとして用いられる。書込水平カウンタ32は、書込クロック信号CLKWに従ってそのカウント値を更新し、かつ画像サイズ変換回路10からの書込水平同期信号HSYCWに従ってそのカウント値が初期値にリセットされる。書込クロック信号CLKWは、図1に示すクロック信号CLK1に基づいて生成され、1ライン上の画素の書込速度を規定する。書込垂直カウンタ30および書込水平カウンタ32のカウント値が、並列に書込アドレス信号WADDとして与え画像データ記憶部12aのラインメモリの書込回路へ与えられる。
書込指示発生回路34は、画像サイズ変換回路10からのデータ転送指示DTXに従って活性化され、書込クロック信号CLKWに同期して、書込指示WEを生成する。
書込制御回路12bは、さらに、フレームの先頭画素の書込を指示する信号VFを生成するフレーム先頭画素指示発生回路36を含む。フレーム先頭画素指示発生回路36は、書込垂直同期信号VSYCWと書込水平カウンタ32のカウント値と書込指示発生回路34の出力信号に従って、フレーム先頭画素書込指示信号VFを活性化する。
書込垂直カウンタ30および書込水平カウンタ32のカウント値が、アドレス変換回路38を介して画像データ記憶部のラインメモリへ与えられる。書込アドレス変換回路38は、書込垂直カウンタ30のカウント値をラインメモリ選択信号に変換して出力する。このラインメモリ選択信号は、メモリ分野におけるチップ選択信号と同様の機能を有し、ラインメモリLM1−LMnの1つが指定されて、画素データが、順次、書込水平カウンタ32の生成するカウント値に従って書込まれる。ラインメモリLM1−LMnは、10ライン程度であり、1フレームのライン数に比べてその数は少ない。従って、このアドレス変換回路38により、書込垂直カウンタ30のカウント値に従ってサイクリックにラインメモリが選択される。
ラインメモリLM1−LMnの数が、2のn乗の場合、書込垂直カウンタ30のカウント値の下位nビットをラインメモリアドレスとして用いれば、ラインメモリを順次サイクリックに指定することができる。
読出制御回路12cは、読出画素のフレーム上垂直位置を示すアドレスを生成する読出垂直カウンタ40と、読出画素の画面上水平方向の位置を示すアドレスを生成する読出水平カウンタ42と、読出指示信号REを生成する読出指示発生回路44を含む。
読出垂直カウンタ40は、フレーム先頭画素指示発生回路36からのフレーム先頭画素書込指示信号VFと読出水平カウンタ42からの読出水平同期信号HSYCRとに従ってそのカウント値が初期値にリセットされる。読出垂直カウンタ40は、また、読出水平カウンタ42からの読出水平同期信号HSYCRに従ってそのカウント値を1更新すし、そのカウント値が所定値の到達すると読出垂直同期信号VSYNCをアサートする。読出垂直カウンタ40のカウント値が、読出対象のラインメモリを指定しており、この読出垂直カウンタ40からの読出垂直同期信号VSYNCRが読出画像の1フレーム期間を規定する。
読出水平カウンタ42は、読出クロック信号RCLKに従ってカウントアップ動作を行い、そのカウント値が所定値に到達し、1ラインの画素のデータが読出されると、この読出水平同期信号HSYCRがアサートされる。従って、この読出水平同期信号HSYCRは、読出画素の1ラインの期間を規定する。
読出指示発生回路44は、書込制御回路12bに含まれる書込指示発生回路34からの書込動作開始信号に従って活性化され、所定のタイミングで読出指示信号REを生成して、画像データ記憶部のラインメモリの読出回路へ与える。読出垂直カウンタ44および読出水平カウンタ42のカウント値が、読出アドレス信号RADDとして、ラインメモリへ与えられる。読出対象のラインメモリは、読出垂直カウンタのカウント値により指定される。読出垂直カウンタ40および読出水平カウンタ42からそれぞれ生成される読出垂直同期信号VSYCRおよび読出水平同期信号HSYCRが、読出データに同期して、表示デバイス(3)へ与えられる。
これらの読出垂直カウンタ40および読出水平カウンタ42は、読出指示発生回路44からの読出動作開始時を示す信号に従って活性化されて、カウント動作を実行する。この画素データの読出時、画像データ記憶部の記憶データのオーバフローおよびアンダーフローが生じないように、読出指示発生回路44は、書込指示発生回路34による画素データの書込開始から所定ラインの期間遅れて、画素データの読出を開始する。
図3は、画像サイズ変換回路10および表示用信号生成回路12における画像データのフレーム構成を概略的に示す図である。図3に示すように、フレーム画像は、水平方向において、前水平方向無効領域HRA、有効領域HRBおよび後水平方向無効領域HRCを有する。同様、垂直方向においても、前垂直方向無効領域VRA、垂直有効領域VRBおよび後垂直方向無効領域VRCを含む。無効領域HRAおよびHRCは、水平帰線期間により、画面に表示されない画素を示す。水平方向においては、クロック信号CLK(CLKW,RCLKR)に従って、水平カウンタがカウントを行ない、各ライン(水平走査線)の画素を順次指定する。この水平方向の走査期間において、領域HRA、HRBおよびHRCの1ラインの画素の走査が行なわれ、この期間が1水平走査期間(1H)である。
垂直方向においては、各ラインの切換えのために水平同期信号HSYCが与えられる。この水平同期信号HSYC(HSYCW,HSYCR)により、1水平走査期間1Hが規定され、この間、クロック信号CLKに従って対応のラインへの画素が順次指定される。無効領域VRAおよびVRCは、垂直帰線期間の画素である。これらの無効領域の画素のデータは、表示されない。
1フレームは、垂直同期信号VSYCより規定され、水平同期信号HSYCがフレームのライン数分指定したときに、アサートされる。1フレームの走査期間が、1垂直走査期間(1V)である。フレームの解像度に従って、1フレーム内の水平および垂直方向の画素数が規定される。
以下の説明においては、画像データ記憶部12aは、1フレームの有効領域HRBおよびVRBの画素のみならず、無効領域の画素についても、データを格納する。これは、以下の理由による。カメラモジュール1からは、垂直および水平帰線期間に対応する画素のデータも、出力される。画像サイズ変換回路10においても、カメラモジュール1から出力される連続画像データについて、所定のサイズ変換およびバランス調整などの処理を行なう。この無効領域画素についても、同様、画像処理を施して、画像データ記憶部12aのラインメモリに格納する。カメラモジュールからの水平および垂直同期信号に従って、連続的に画像処理を行なうことにより、ラインメモリへの画素データの格納時のアドレス変換等の処理が簡略化される。
図4は、この発明の実施の形態1における画像処理制御装置2の表示デバイスへの画像データ転送動作を示すフロー図である。以下、図4を参照して、図1および図2に示す画像処理制御装置、特に、表示用信号生成回路12の動作について説明する。以下の説明においては、カメラモジュール1が、デジタルスティルカメラの場合を例にとって説明する。カメラモジュール1が、デジタルビデオカメラの場合においても、同様の処理が実行される。
まず、表示デバイス3に画像表示を行なうかの判定が行なわれる(ステップS1)。表示デバイス3が、ビューファインダ(EVF)の場合、メインコントローラ18において、カメラモジュール1が撮影モードに入ったかの指示に従って、EVF表示指示が与えられたかの判定が行なわれる。カメラのビューファインダとして、光学的ビューファインダ(OVF)およびEVF両者が用いられる場合には、操作スイッチからのEVF表示指示に従ってメインコントローラ18が、表示デバイス3への表示が指定されたと判定する。
EVF表示指示が与えられると、画像サイズ変換回路10は、メインコントローラ18により活性化され、カメラモジュール1から与えられるフレーム画像データを、表示デバイス3の表示に適したサイズおよび画質に変換して、変換後の画像データを表示用信号生成回路12へ与える。このとき、また再生用信号生成回路12においては、書込制御回路12bおよび読出制御回路12cにより、各ラインメモリLM1−LMnに対するアドレスの初期化が行なわれる(ステップS2)。
次に、画像サイズ変換回路10からの変換後の画像データが、書込制御回路12bの制御の下に、画像データ記憶部12aのラインメモリLM1−LMnに、順次格納される(ステップS3)。この場合、書込制御回路12bにおいて、図2に示すように、書込指示発生回路34が、画像サイズ変換回路10からのデータ転送指示DTXに従って書込指示WEを生成し、また、書込垂直カウンタ30および書込水平カウンタ32が、それぞれクロック信号CLKWおよびVCLKWに従ってそれぞれのカウント値を更新して書込アドレスWADDを生成する。画像データ記憶部12aにおいては、書込垂直カウンタ30からのアドレスをラインメモリ指定アドレスとして用いて、各ラインメモリに、順次、フレームのラインごとに画素データの書込を行なう。
一方、読出制御回路12cにおいては、画像データ記憶部12aにおける書込および読出の追越が生じないように、数ラインの画素データが書込まれた後に、読出を開始する(ステップS4)。すなわち、フレーム先頭画素書込指示信号VFがアサートされ、先頭画素の書込が指定されて、また読出垂直カウンタ40および読出水平カウンタ42のカウント値が初期化されている場合、数ラインの期間が経過したかを、図2に示す読出指示発生回路44が、書込指示発生回路34からの制御信号に基づいて判定する。所定期間が経過し、読出条件が満たされると、読出指示発生回路44が、読出指示REをアサートし、また読出垂直カウンタ40および読出水平カウンタ42が、それぞれカウント動作を開始する。この場合、読出アドレスRADDにおいて読出垂直カウンタ40のカウント値が、読出対象のラインメモリを指定するアドレスとして利用される(ステップS5)。
次いで、先頭位置からの画素データの読出に続いて、次のフレーム画素の書込が行なわれるかの判定が行なわれる(ステップS6)。次のフレーム画素の書込が行なわれない場合、続いて表示完了指示が与えられたかの判定が行なわれる(ステップS7)。表示完了指示が与えられない場合、現フレームの画素データは、まだ、すべて表示していないため、ステップS5からの画素データの読出、すなわち、現フレームの画素データの読出が継続される。
次のフレームの画素書込が行なわれたかの判定は、フレーム先頭画素指示発生回路36からのフレーム先頭画素書込指示信号VFがアサートされたかに基づいて行われる。したがって、次のフレーム画素が与えられるまで、読出制御回路12cにおいては、読出垂直カウンタ40および読出水平カウンタ42が、カウントアップ動作を行なってアドレスを更新する。このアドレスに従って、順次、ラインメモリから画素データが読出される。この読出動作においては、読出制御回路12cにおいては、読出水平カウンタ42が、読出クロック信号CLKRに従って画素データのライン上読出アドレスの生成を行ない、1水平期間完了ごとにカウント値を初期値にリセットする。このカウント値の初期値へのリセット時に、読出水平カウンタは読出水平同期信号HSYCRを生成するとともに、読出垂直カウンタ40のカウント値が更新され、次のラインが指定される。1フレーム画素の表示が継続して実行される。
ステップS6において、フレーム先頭画素書込指示信号VFがアサートされると、読出指示発生回路44は、所定数のラインの走査期間が経過したかを判定する(ステップS8)。この所定の読出遅延期間(書込と読出との遅延に相当する読出ライン)分のラインの画素データの読出が完了するまで、画像データを連続して読出す(ステップS9)。ステップS9における画素データ読出時において、図3に示す無効領域VRCの画素データの読出が行なわれる。読出遅延期間が経過すると、次いで、読出水平カウンタ42が、カウントアップしたかの判定が行なわれる(ステップS10)。読出水平カウンタ42からの読出水平同期信号HSYCRがアサートされていない場合、この読出水平カウンタ42のカウント値に従って画素データの読出が実行される(ステップS10,S9)。
一方、次のフレーム先頭画素が書込まれ、続いて所定の読出遅延期間が経過し、かつ1ラインの走査が完了すると、読出垂直カウンタS11のカウント値が初期化され、続いて、先頭画素位置からの画素データの読出が行なわれる。この後、ステップS5からの読出動作が実行される。
したがって、画像データ記憶部12のラインメモリLM1−LMnの書込速度と読出速度とが異なる場合、1フレームにおいて、1ライン単位で垂直同期信号のタイミング調整を行ない、フレーム同期の確立を行なう。具体的に、書込速度が読出速度よりも速い場合には、数フレーム毎に1水平ライン削除して、読出垂直同期期間を短くする。逆に、書込速度が読出速度よりも遅い場合には、数フレーム毎に1水平ライン挿入して読出垂直同期期間を長くする。水平ラインの挿入/削除を行なうフレーム数は、書込速度と読出速度の差に応じて決定される。
上述の操作により、表示用信号生成回路12において、この画像データ記憶部12aのラインメモリに対する書込クロック信号と読出クロック信号とが、非同期で生成される場合においても、正確に、フレーム同期を確立して、表示デバイスに画像データを表示することができる。
図5(A)−図5(D)は、ラインメモリの書込速度が読出速度よりも速い場合、すなわち画素サイズ変換回路10からの書込速度が、表示デバイス3への画素データ転送速度よりも大きい場合のフレーム調整動作を示す図である。今、図5(A)において、1フレームが、ラインl1からラインlcを含む場合を一例として示す。書込に対してkライン遅れて読出動作を開始する。また、説明を簡単にするために、書込および読出においては、フレーム内のライン数が同じであるとする。
図5(A)に示すように、ラインla+1への書込画素データWPの書込と同期して、先頭ラインl1から画素データRPを読出す。ラインl1からラインlaまでの距離は、kラインである。
書込速度が速い場合、図5(B)に示すように、数フレームの読出後、先頭ラインl1に書込画素データRPが書込まれるとき、読出は、ラインlbでなく、1ライン上のラインlb−1において行なわれている。書込画素WPが、フレームの先頭画素の場合、フレーム先頭画素書込指示信号(VF)がアサートされる。
図5(C)に示すように、フレーム先頭画素の書込から期間k・H(H:1ライン期間(水平走査周期))経過後の状態においては、ラインla+1に対する書込画素WPの書込が行なわれているとき、ラインlc−1に対して画素データの読出が行なわれる。このラインlc−1の画素データRPを読出した後、読出用の垂直カウンタをリセットする。したがって、図5(D)に示すように、次のラインの読出においては、ラインl1から画素データRPが読出される。このとき、ラインla+1において書込画素データRPの書込が行なわれており、フレームは、1ライン(1水平走査周期H)単位で同期が取れている。すなわち、この場合、最終ラインlcは削除され、表示デバイスにはラインlcの画素データは転送されない。この場合、図3に示すように、最終ラインlcは、垂直帰線期間の無効画素領域の画素であり、転送されなくても何ら問題は生じない。この1ラインlcの削除により、読出フレームの垂直帰線期間を1ライン期間短縮して、書込速度および読出速度の差を吸収する。
図6(A)および図6(B)は、ラインメモリのフレーム先頭画素の書込から読出アドレスのリセットまでの動作シーケンスを模式的に示す図である。図6(A)は、書込ラインと読出ラインの差がkラインのときの読出アドレスのリセットシーケンスを示し、図6(B)は、書込ラインと読出ラインの差が、k+1ラインのときの読出アドレスのリセットシーケンスを示す。
図6(A)において、読出画素RPとして、ラインlbの画素が読出されるとき、フレーム先頭画素書込指示信号VFがアサートされる。この場合、ラインlbからラインlcのkラインの画素データを全て読出す。すなわち、最終ラインlcの画素を読出し、その後、ラインlcの画素がすべて読出されると、読出水平同期信号HSYCRに従って垂直アドレスがリセットされ、先頭ラインl1から画素データの読出を開始する。したがって、この場合には、読出指示に従って、ラインl1からラインlcまでの画素が読出され、垂直走査期間は、書込および読出で同じである。
図6(B)において、書込速度が読出速度よりも速く、フレーム先頭画素書込指示信号VFがアサートされたとき、ラインlbより1ライン上のラインlb−1の画素が読出されている。ラインlb−1からラインlc−1のkラインの画素データを順次読出す。ラインlc−1の画素データをすべて読出した後、水平同期信号HSYCRに同期して、垂直カウンタのカウント値をリセットする。したがって、ラインlc−1の画素データの読出後、ラインlcを飛び越して、先頭ラインl1の画素データが読出されて表示デバイスに転送される。この場合においては、水平走査線(ライン)が1つ、垂直帰線期間において削減され、垂直走査期間が、1H短縮される。
図7(A)−図7(D)は、ラインメモリの書込速度が読出速度よりも遅い場合のフレーム同期確立シーケンスを模式的に示す図である。図7(A)において、先の図5(A)と同様、画素データの読出は、書込よりもkライン遅れて開始される。すなわち、ラインla+1に対する書込画素データWPの書込と同期して、先頭ラインl1の画素データRPの読出が行なわれる。数フレームの画像データの書込および読出が経過した後、先頭ラインl1への書込画素データWPの書込が行われる。読出速度のほうが書込速度よりも速い。従って、このときには、図7(B)に示すように、読出側では、ラインlbよりも1ライン下のラインlb+1上の読出画素データRPの読出が行なわれている。
この後、k水平走査期間(k・H)が経過すると、図7(C)に示すように、ラインla+1への書込画素データRPの書込が行なわれる。一方、読出側では、ラインlc+1からの画素データRPの読出が行なわれる。すなわち、最終ラインlcを超えてさらにラインlc+1の画素データを読出す。この場合、先頭ラインl1の格納画素データを読出画素データRPとして読出すか、または最終ラインlcの画素データを再読出する。
この最終画素ラインlc+1(=l1またはlc)の画素データの読出が完了すると、読出垂直アドレス(V)のリセットが行なわれ、先頭ラインl1から読出画素データRPが読出される。このラインlc+1の画素データの読出は、垂直帰線期間において行なわれており、表示デバイスにおいては画面には表示されない。従って、ラインlcま他はL1の画素データの2度読みが行なわれても特に問題は生じない。
この操作の結果、図7(D)に示すように、フレームの読出水平ラインが1本追加され、垂直走査期間が長くされ、フレーム同期が調整確立されたこととなる。この場合、1ラインの時間幅を持って書込と読出のフレーム同期が確立される。
図8(A)および図8(B)は、図7(B)から図7(D)に示すフレーム同期確立走査シーケンスをより詳細に示す図である。図8(A)にはフレーム同期が取れている場合の垂直アドレスのリセットシーケンスを示し、図8(B)に読出速度が書込速度よりも速い場合の垂直アドレスリセットシーケンスを示す。
図8(A)に示すように、フレーム同期が取れている場合、図6(A)に示す読出アドレス更新シーケンスと同様、読出画素データRPがラインlb上の画素データのときに、フレーム先頭画素書込指示信号VFがアサートされる。この後、ラインlbからラインlcのkラインの画素データを読出す。ラインlcの画素データを読出した後、読出用の垂直アドレスを、水平同期信号HSYCRに従ってリセットする。次のサイクルからは、先頭ラインl1から画素データを読出す。この場合には、書込および読出において、フレームのライン数は同じである。
一方、図8(B)に示すように、書込速度が読出速度よりも遅い場合、書込フレーム先頭画像指示信号VFのアサート時、ラインlb+1の画素データが読出されている。この後、さらにkラインの画素データを読出す。従って、ラインlcを超えてラインlc+1の画素データを読出す。ラインlc+1は仮想的なラインであり、先頭ラインl1へ、この読出垂直カウンタのアドレスが復帰しており、先頭ラインl1を追加のラインlc+1として読出す。または、信号VFのアサート時にはkラインの画素データを読出すまで垂直カウンタのカウント値の初期化を行なわずに、カウントアップ値を再度出力して、ラインlcの画素データを読出す。
このラインlc+1の画素データの読出が完了すると、水平同期信号HSYCRがアサートされ、応じて、垂直カウンタのカウント値が初期値にリセットされる。次の水平走査期間においては、再び、先頭ラインl1の画素データを読出す。
したがって、この場合、水平走査線(ライン)が1つ増加されたことになり、読出の垂直走査期間が、1ライン長くなり、垂直周波数が遅くなったことに対応する。
この書込速度と読出速度とが異なる場合、書込速度の調整は行なわれていない。外部から見れば、単に、画像サイズ変換回路10の書込速度に従って画素データの読出を行なって、表示デバイス3に対して読出画素データの転送が行なわれて、画像データの表示が表示デバイスにおいて行なわれている。電子ビューファインダおよび液晶モニタなどの表示デバイスは、一般的に、その表示デバイスが推奨する帰線期間(ACタイミングとして規定される)に対して、数ライン程度帰線期間が増減したとしても、同期信号のアサートと有効表示期間との関係が満たされていれば表示可能である。従って、書込クロック信号および読出クロック信号の位相のずれは、表示デバイス3上の画素データの表示に対しては何ら影響は及ぼさない。上述の特性を利用して、書込速度と読出速度の差を吸収することができる(マクロに見て、読出速度を書込速度に合わせる)。
このラインメモリは、表示画像再生回路12内に設けられており、外部メモリのアクセスは行なわれない。従って、図1に示すDMAコントローラ14、外部メモリコントローラ16およびフレームメモリ20を動作させる必要がなく、消費電力を低減することができる。また、小記憶容量のラインメモリを用いており、コストを低減することができる。また、ビューファインダ表示制御を、システムLSIで構成される画像表示制御装置で行なうことができ、カメラ制御部の小型軽量化を実現することができる。
図9は、図2に示す読出垂直カウンタ40の構成の一例を概略的に示す図である。図9において、読出垂直カウンタ40は、読出水平同期信号HSYCRに従ってシフト動作を行なうkラインシフタ50と、読出水平同期信号HSYCRとkラインシフタ50の出力信号VFDとを受けるAND回路52と、読出水平同期信号HSYCRをカウントするカウンタ回路54を含む。
kラインシフタ50は、k段の縦続接続されるシフト回路を含み、その入力部が接地ノードに接続される。フレーム先頭画素書込指示信号VFのアサート時、kラインシフタ50の初段のシフト回路の格納値がセットされる。kラインシフタ50は、読出水平同期信号HSYCRに従ってシフト動作を行なう。したがって、kラインシフタ50は、フレーム先頭画素書込指示信号VFがアサートされてから、kライン経過後に、その出力信号VFDをアサートする。
AND回路52は、読出水平同期信号HSYCRおよびシフタ出力信号VFDがともにアサートされると、リセット信号RSTをアサートする。カウント回路54は、読出水平同期信号HSYCRをカウントし、そのカウント値が初期値に復帰するときに、読出垂直同期信号VSYCRを出力するとともに、そのカウント値をラインメモリ選択アドレスVADDとして出力する。
カウント回路54のカウント値VADDが、読出アドレス変換回路46においてラインメモリ選択信号に変換されてラインメモリへ与えられる。読出アドレス変換回路46は、一例として、カウント回路54のカウント値VADDをデコードし、チップイネーブル信号CEに相当するラインメモリに選択信号を生成する。
図10は、図9に示す読出垂直カウンタ40の動作を示すタイミング図である。以下、図10を参照して、図9に示す読出垂直カウンタ40の動作について説明する。
サイクルT1において、フレーム先頭画素書込指示信号VFがアサートされる。書込速度と読出速度の差が少ない場合(ライン単位でフレーム同期が取れている場合)、読出画素RP(1)に示すように、ラインlbの画素データの読出が行なわれている。一方、読出速度が書込速度よりも遅い場合には、読出画素RP(2)に示すように、所定のラインlbよりも1ライン前のライン1b−1の画素データの読出が行なわれる。また、読出速度が書込速度よりも速い場合には、読出画素RP(3)に示すように、ラインlbよりも1ライン先のlb+1の画素データの読出が行なわれる。
フレーム先頭画素書込指示信号VFがアサートされると、kラインシフタ50において初段シフト回路の格納値がセットされる。k回読出水平同期信号HSYCRが与えられると、kラインシフタ50からの出力信号VFDがアサートされ、AND回路52からのリセット信号RSTがアサートされる。応じて、カウント回路54から、読出垂直同期信号VSYCRがアサートされるとともに、そのカウント値VADDが初期値にリセットされる。
したがって、kラインシフタ50は、サイクルTkの次のサイクルTk+1の読出制御同期信号HSYCRに従ってリセット信号RSTをアサートし、応じてカウント回路54からの読出垂直同期信号VSYCRがアサートされる。
サイクルTkにおいては、読出と書込とのずれが小さい場合、読出画素RP(1)に示すように、kライン後のラインlcの画素データの読出が行なわれている。一方、読出速度が遅い場合には、読出画素RP(2)に示すように、ラインlc−1の画素データの読出が行なわれる。読出速度が速い場合には、読出画素RP(3)に示すように、ラインlc+1の画素データの読出が行なわれる。
したがって、サイクルTk+1において、カウント回路54のカウント値が初期値にリセットされ、読出垂直同期信号VSYCRがアサートされると、フレームの先頭ラインl1からの画素の読出が開始される。したがって、書込および読出状況に応じて、1ラインの走査期間単位で、読出垂直同期信号の周期を調整することができる。
なお、図9に示す垂直同期カウンタ46の構成において、カウント回路54は、ラインメモリL1−Lnに対し、ラインメモリ選択信号(チップ選択信号)を生成するシフト回路で構成されてもよい。リング状のシフトカウンタレジスタ回路を利用することにより、アドレス変換を行なうことなく、ラインメモリを順次選択することができる。この場合、垂直同期信号VSYCRは、単に、リセット信号RSTがアサートされたときにアサートすればよい。シフト操作が行なわれ、その出力信号に従って順次ラインメモリがサイクリックに指定される。フレーム途中において先頭ラインメモリが指定される状態においても、リセット信号RSTがアサートされない状態では、垂直同期信号VSYCRはアサートされない。従って、正確に、1フレームの画素の読出を行なうことができる。
この表示用信号生成回路12において、この発明の実施の形態1に従って、ラインメモリを設け、直接、画像サイズ変換回路10からのサイズ調整された画像データをラインメモリを介して表示デバイスへ選択することにより、以下の効果を得ることができる。すなわち、外部メモリコントローラ16およびフレームメモリ20を介して、画像データを書込/読出を行なう必要がない。したがって、バス15、DMAコントローラ14、外部メモリコントローラ16およびフレームメモリ20の動作を停止させることができ、被写体の撮影状態をモニタする際の消費電力を低減することができる。
また、同期の確立も、画素データの書込および読出と並行して、フレーム先頭画素の書込とラインの読出との時間関係に基づいて読出垂直走査期間を調整して行なっている。従って、画像データの表示期間中に同期の調整を行なうことができ、また、その同期確立の制御も容易となる。また、同期確立は、ラインメモリへの画素データの書込および読出と並行して行なわれており、表示デバイスへ表示画素データを早く転送することができ、焦点調整および倍率調整を速いタイミングで行なうことができる。また、書込クロック信号と読出クロック信号の位相差が、ラインメモリへのアクセス期間中に変動しても、この位相差に応じて読出画像の垂直走査期間を調整することができ、正確な画像表示を実現することができる。
なお、上述の説明においては、画像データ記憶部12のラインメモリLM1−LMnに無効領域の画像データも格納している。この画像データ記憶部12aから、有効領域の画素データのみを表示デバイスへ転送する場合、一例として、垂直同期信号VSYCRがアサートされてから、読出動作クロック信号CLKRをカウントし、無効領域の画素データの読出を禁止する構成が利用されればよい。レジスタ回路において、垂直同期信号VSYCRがアサートされてから、有効領域の先頭画素が読出されるまでの画素数(水平同期信号および読出クロック信号の数)を格納する。読出制御回路において、その間、読出指示信号REをでアサート状態に維持し、有効領域の先頭画素に到達すると、読出指示信号REをアサートする。これにより、有効領域の画素データのみを読出して、表示デバイスへ転送することができる。
また、表示デバイスにおいて、読出垂直同期信号および読出水平同期信号に従って、有効領域の画素のデータを抽出して表示する構成が用いられても良い。この構成の場合、読出フレームの先頭画素と有効領域の先頭画素の間の画素数(距離)を示すデータをレジスタ回路に格納して、表示回路において有効領域の画素を抽出する。
以上のように、この発明の実施の形態1に従えば、表示デバイスに対する画像データ表示時、表示信号生成回路内部にラインメモリを設け、このラインメモリを通して画像サイズ変換回路からの画像データを格納し、次いで表示デバイスに転送している。したがって、画像表示制御回路(システムLSI)外部のメモリコントローラおよびフレームメモリ等を動作させる必要がなく、消費電力を低減することができる。また、単に読出および書込の垂直同期の調整を、書込および読出と並行して、ラインメモリへの書込および読出状況に応じて、ライン単位で読出垂直同期信号の周期を調整している。これにより、クロック信号が書込クロック信号と読出クロック信号の位相のずれが生じても、複雑な計算等を行なうことなく、容易に、正確にラインメモリを用いて画素データの書込/読出を行なって表示デバイス上で表示することができる。
なお、表示デバイスとしては、デジタルスチルカメラにおける電子ビューファインダ(UVF)および、デジタルビデオカメラにおける液晶モニタのいずれであってもよい。動画像においても、水平同期信号および垂直同期信号が生成され、これらの同期信号に従って画素データの転送が行われる。従って、動画像データについても、上述の制御と同様の制御で書込および読出クロック信号の位相差を吸収して表示装置に画像を表示することができる。
[実施の形態2]
図11は、この発明の実施の形態2に従う表示用信号生成回路12の書込制御回路12bおよび読出制御回路12cの構成を概略的に示す図である。この図11に示す制御回路12bおよび読出制御回路12cは、以下の点で、図2に示す書込制御回路12bおよび読出制御回路12cとその構成が異なる。すなわち、図11において、ウインドウレジスタ60が設けられる。このウインドウレジスタ60は、フレームの有効領域を指定するデータEPDを格納する。すなわち、ウインドウレジスタ60は、フレームの先頭位置から有効画素領域の先頭位置までの距離(水平および垂直画素数)を示すデータEPDを格納する。
書込指示発生回路62は、このウインドウレジスタ60からの有効領域指示データEPDに従って有効領域の画素データの書込時においてのみ、書込活性化信号WENを活性化(アサート)する。書込アドレス変換回路66は、ウインドウレジスタ60からの有効画素領域データEPDに従って、書込垂直カウンタ30および書込水平カウンタ32からのカウント値のアドレス変換を行ない、有効画素領域に到達したときに、そのカウント値を有効画素領域の初期値に設定する。
読出指示発生回路64は、ウインドウレジスタ60からの有効画素領域データEPDに従って、有効画素領域の画素データの読出時においてのみ、読出活性化信号RENを活性化する。読出アドレス変換回路68は、ウインドウレジスタ60からの有効画素領域データEPDに従って、読出垂直カウンタ40および読出水平カウンタ42のカウント値の変換を行なって、有効画素領域の画素位置を示すアドレスRADDを生成する。
これらのアドレス変換回路66および68は、一例として、ウインドウレジスタ60からの有効画素領域データEPDに従って各カウンタ30、32、40および42のカウント値の減算を行なって、アドレス変換を実行する。
図12は、図11に示す回路の動作態様を模式的に示す図である。図12において、フレームFRは、無効アドレス領域と有効アドレス領域とを含む。有効垂直アドレス領域は、先頭アドレスVADが1であり、最終垂直アドレスVADはLである。有効水平アドレス領域は、水平アドレスHADが先頭値が1、最終アドレスがKの領域である。
有効アドレス領域外部の領域、すなわち帰線期間に対応する画素領域は、無効アドレス領域として処理される。有効水平アドレス領域においては、読出活性化信号RENおよび書込活性化信号WENが活性状態とされ、ラインメモリへの画素データの書込および読出が実行される。垂直方向の有効垂直アドレスにおいても同様、各ラインごとに、書込活性化信号WENおよび読出活性化信号RENが有効水平アドレス領域に対して活性状態に維持される。
書込アドレス変換回路66および読出アドレス変換回路68は、ウインドウレジスタ60に格納されるデータEPDに従ってアドレス変換を実行する。フレームFRの先頭画素FFPから有効画素領域の先頭画素EFPまでの距離が、データEPDにより示される。このデータEPDは、水平方向の距離および垂直方向の距離(画素数)の両者を含む。このフレーム先頭画素FFPと有効画素領域先頭画素EFPの垂直方向の距離がEPV(ライン数)であり、水平方向の距離(水平方向の画素数)がEPHである。
アドレス変換回路66および68は、以下のアドレス変換を行なう。すなわち、垂直カウンタ30または40のカウント値から垂直方向の値EPVを減算し、その差分値が0以下のときには、無効アドレスとし、どのラインメモリも指定しない値に設定するまたは先頭ラインメモリを指定する(この領域において書込活性化信号WENおよび読出活性化信号RENはネゲート状態である)。垂直カウンタ30または40のカウント値が垂直距離EPVとなると、垂直アドレスVADを1に設定して先頭ラインメモリを指定する。
水平アドレスについては、水平カウンタ32または42のカウント値から水平距離データEPHを減分する。水平カウンタ32または42のカウント値がEPHになると、水平アドレスHADが1に設定される。有効画素領域(有効垂直および水平アドレス領域においては書込活性化信号WENおよび読出活性化信号RENはアサート状態にある)。
有効画素領域における垂直方向および水平方向の画素数(有効画素数)は、予め定められている。したがって、アドレス変換回路66および68は、最終アドレスHAD=Kとなるとアドレス発生は停止し、また垂直アドレスの最終アドレスVADがLに到達すると、そのアドレス発生を停止し、以後、無効アドレスを生成する。この状態においては、書込活性化信号WENおよび読出活性化信号RENはネゲート状態にあり、画像サイズ変換回路10から画像データが転送されてきても、無効領域の画素データの書込および読出は停止される。
ラインメモリは、FIFO(ファースト・イン・ファースト・アウト)型メモリであるため、画像データ記憶部に対するアドレスが、垂直方向および水平方向に対して順次増分される。水平方向アドレスは、順次カウント動作により、最大値Kに到達すると、その更新動作を停止シ、以後無効アドレスを生成する。また、垂直アドレスVADに従って、垂直アドレスVAD=Lに到達するまで、ラインメモリが順次サイクリックに指定される。有効画素領域の最終有効垂直アドレスの走査が完了すると、次に、垂直アドレスの更新は停止され、以後無効垂直アドレスが生成され、ラインメモリの指定は行なわれない。
有効画素領域の画素データの書込および読出においてのみ書込活性化信号WENおよび読出活性化信号RENがアサートされるため、アドレス変換回路66および68においては、最終有効アドレスの生成後、アドレスが先頭有効アドレスに初期化されても良い。
また、ラインメモリを指定する垂直アドレスの変換において、垂直アドレスVADの変化検出信号(ATD)に従ってアサート状態のラインメモリ選択信号を順次シフトする構成が用いられてもよい。このシフト構成の場合、有効画素領域のライン数Lとラインメモリの数nについてモジュール演算を行なうなどの複雑な処理を行なうことなく、順次ラインメモリを指定することができる。最大有効垂直アドレスVAD=Lに到達すると、書込活性化信号WENおよび読出活性化信号RENがネゲートされ、画素データのラインメモリへの書込および読出は停止される。
この場合においても、読出垂直カウンタ40におけるカウント動作は、実施の形態1において説明したものと同様、フレーム先頭画素書込指示信号VFと読出水平クロックカウンタ42からの読出水平同期信号HSYCRに従って行なわれる。したがって、垂直帰線期間の調整が、実施の形態1と同様、1ライン単位で実行される。
なお、この実施の形態2の場合、有効画素領域の画素データのみがラインメモリを介して表示デバイスに転送される。従って、表示デバイスに対しては、読出活性化信号RENを与え、表示デバイスにおいてこの読出活性化信号RENを書込指示信号として利用することにより、有効画素のみを表示デバイスで取込んで表示することができる。この場合、読出クロック信号CLKRを、画素データ転送クロック信号として利用する。表示デバイスにおいて、フレームおよびラインの切換は、読出垂直同期信号VSYCRおよび読出水平同期信号HSYCRに従って行われ、画素データの取込および表示が、読出活性化信号RENおよび読出クロック信号CLKRに従って行われる。
以上のように、この発明の実施の形態2に従えば、ラインメモリにおいては、有効画素のみを、格納している。従って、実施の形態1の効果に加えて、以下の効果を得ることができる。画像データ記憶部のラインメモリにおいて、フレームの無効領域を格納するアドレス領域を削減することができ、ラインメモリの記憶容量を低減することができる。
この発明は、デジタルスチルカメラおよびデジタルビデオカメラのように、撮影時、被写体の撮像状況をモニタするビューファインダ機能または液晶モニタ機能を有する装置に適用することにより、低消費電力のカメラ一体型画像表示装置を実現することができる。また、カメラ本体に搭載されるビューファインダまたは液晶モニタ画像表示システムまたはビューファインダ/液晶モニタ画像表示機能を搭載するシステムLSIに対して本発明を適用することにより、低消費電力のデジタルスティル/ビデオカメラを実現することができる。
この発明の実施の形態1に従う画像表示装置を含む画像表示システムの構成を概略的に示す図である。 図1に示す書込制御回路および読出制御回路の構成を概略的に示す図である。 この発明の実施の形態1におけるフレーム構成と同期信号およびクロック信号の関係を概略的に示す図である。 この発明の実施の形態1に従う画像信号処理部の動作を示すフロー図である。 (A)−(D)は、同期確立の操作を示す図である。 (A)および(B)は、垂直同期確立時の読出画素ラインのリセット動作を模式的に示す図である。 (A)−(D)は、この発明の実施の形態1における垂直同期確立時の読出シーケンスでのリセット操作を模式的に示す図である。 (A)および(B)は、この垂直同期確立時の読出画素ラインのリセット操作を模式的に示す図である。 図2に示す読出垂直カウンタの構成の一例を概略的に示す図である。 図9に示す読出垂直カウンタの動作を示すタイミング図である。 この発明の実施の形態2に従う書込制御回路および読出制御回路の構成を概略的に示す図である。 この発明の実施の形態2における画素領域と制御信号の対応を模式的に示す図である。
符号の説明
1 カメラモジュール、2 画像表示制御装置、3 表示デバイス、10 画像サイズ変換回路、12 表示用信号生成回路、12a 画像データ記憶部、LM1−LMn ラインメモリ、12b 書込制御回路、12c 読出制御回路、14 DMAコントローラ、16 外部メモリコントローラ、20 フレームメモリ、30 書込垂直カウンタ、32 書込水平カウンタ、34 書込指示発生回路、36 フレーム先頭画素指示発生回路、38 書込アドレス変換回路、40 読出垂直カウンタ、42 読出水平カウンタ、44 読出指示発生回路、46 読出アドレス変換回路、50 kラインシフタ、52 AND回路、54 カウント回路、60 ウインドレジスタ、62 書込指示発生回路、64 読出指示発生回路、66 書込アドレス変換回路、68 読出アドレス変換回路。

Claims (4)

  1. 各々が画面上1ラインの画素データを格納する複数のラインメモリを有する画像記憶装置、
    入力画像データを受けて、前記画像記憶装置に格納するデータ書込装置、および
    前記画像記憶装置から格納画素データを読出して表示装置へ転送するデータ読出装置を備え、前記データ読出装置は、少なくとも前記データ書込装置からの画面先頭位置画素書込指示と前記ラインメモリの1つのラインメモリの読出完了指示とに従って読出位置を前記画像記憶装置の先頭位置に初期化する、画像表示制御装置。
  2. 前記固体撮像素子からの画像データのサイズを調整して前記入力画像データを生成する画像サイズ変換回路をさらに備え、
    前記表示装置は、ビューファインダおよび液晶モニタのいずれかである、請求項1記載の画像表示制御装置。
  3. 前記データ読出装置は、
    前記ラインメモリを指定するラインメモリ選択信号をそのカウント値に従って生成する垂直カウンタと、
    選択されたラインメモリの読出位置を指定する画素選択信号をそのカウント値により生成する水平カウンタと、
    前記データ書込装置からの先頭画素指示と前記先頭画素書込が与えられてから所定数のラインの画素データ読出完了とに従って前記垂直カウンタのカウントを初期値にリセットする回路とを備える、請求項1記載の画像表示制御装置。
  4. 前記所定数のラインは、前記画像記憶装置に対する書込開始から読出開始が行なわれるまでのライン数である、請求項3記載の画像表示制御装置。
JP2007000172A 2007-01-04 2007-01-04 画像表示制御装置 Active JP4860488B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2007000172A JP4860488B2 (ja) 2007-01-04 2007-01-04 画像表示制御装置
KR1020070139221A KR20080064719A (ko) 2007-01-04 2007-12-27 화상 표시 제어 장치
US12/003,555 US8350791B2 (en) 2007-01-04 2007-12-28 Image display controlling device
CN2007101691882A CN101256763B (zh) 2007-01-04 2007-12-28 图像显示控制装置
TW096150703A TWI426500B (zh) 2007-01-04 2007-12-28 影像顯示控制裝置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007000172A JP4860488B2 (ja) 2007-01-04 2007-01-04 画像表示制御装置

Publications (3)

Publication Number Publication Date
JP2008167349A true JP2008167349A (ja) 2008-07-17
JP2008167349A5 JP2008167349A5 (ja) 2010-02-12
JP4860488B2 JP4860488B2 (ja) 2012-01-25

Family

ID=39593927

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007000172A Active JP4860488B2 (ja) 2007-01-04 2007-01-04 画像表示制御装置

Country Status (5)

Country Link
US (1) US8350791B2 (ja)
JP (1) JP4860488B2 (ja)
KR (1) KR20080064719A (ja)
CN (1) CN101256763B (ja)
TW (1) TWI426500B (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014103647A (ja) * 2012-11-21 2014-06-05 Seiko Epson Corp 撮影装置、撮影装置の制御方法
JP2014135569A (ja) * 2013-01-08 2014-07-24 Ricoh Co Ltd 画像処理装置
US10070064B2 (en) 2012-11-21 2018-09-04 Seiko Epson Corporation Display control device including display control section that causes display data to be displayed in first and second regions og display, and controlling method of image capturing sensor and display

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009169601A (ja) * 2008-01-15 2009-07-30 Ricoh Co Ltd 画像処理システム及びこの画像処理システムを有するカメラ
US8634023B2 (en) * 2009-07-21 2014-01-21 Qualcomm Incorporated System for video frame synchronization using sub-frame memories
US9190012B2 (en) * 2009-12-23 2015-11-17 Ati Technologies Ulc Method and system for improving display underflow using variable HBLANK
US8675004B2 (en) * 2010-01-11 2014-03-18 Apple Inc. Buffer underrun handling
JP5748553B2 (ja) * 2011-05-13 2015-07-15 キヤノン株式会社 撮像装置
TWI447643B (zh) * 2011-06-17 2014-08-01 Mstar Semiconductor Inc 資料存取方法以及可存取資料的電子裝置
US9384711B2 (en) 2012-02-15 2016-07-05 Microsoft Technology Licensing, Llc Speculative render ahead and caching in multiple passes
WO2013150342A1 (en) * 2012-04-05 2013-10-10 Freescale Semiconductor, Inc. Diagnostic data generation apparatus, integrated circuit and method of generating diagnostic data
US9235925B2 (en) 2012-05-31 2016-01-12 Microsoft Technology Licensing, Llc Virtual surface rendering
US9230517B2 (en) 2012-05-31 2016-01-05 Microsoft Technology Licensing, Llc Virtual surface gutters
US9286122B2 (en) 2012-05-31 2016-03-15 Microsoft Technology Licensing, Llc Display techniques using virtual surface allocation
US9177533B2 (en) * 2012-05-31 2015-11-03 Microsoft Technology Licensing, Llc Virtual surface compaction
KR101613762B1 (ko) 2012-06-14 2016-04-19 엘에스산전 주식회사 영상 제공 장치 및 방법
TWI463432B (zh) * 2012-10-05 2014-12-01 Genesys Logic Inc 圖像資料處理方法
US9307007B2 (en) 2013-06-14 2016-04-05 Microsoft Technology Licensing, Llc Content pre-render and pre-fetch techniques
CN103745681B (zh) * 2013-11-28 2016-06-01 苏州长风航空电子有限公司 一种基于综合可编程器件的图形发生器
JP6354243B2 (ja) * 2014-03-25 2018-07-11 セイコーエプソン株式会社 撮像装置、画像処理装置、表示制御装置、及び撮像表示装置
JP6601020B2 (ja) * 2014-08-11 2019-11-06 セイコーエプソン株式会社 撮像表示装置
EP3275170B1 (en) 2015-03-23 2023-07-05 Tahoe Research, Ltd. Workload scheduler for computing devices with camera
KR102437567B1 (ko) 2015-10-16 2022-08-29 삼성전자주식회사 애플리케이션 프로세서의 동작 방법 및 디스플레이 시스템
KR102476017B1 (ko) * 2016-01-05 2022-12-09 삼성전자주식회사 생체 정보를 이용한 인증 방법 및 장치
CN109656848A (zh) * 2018-11-29 2019-04-19 天津大学 基于fpga的图像上采样与dma协同工作实现方法
WO2020170729A1 (ja) * 2019-02-20 2020-08-27 富士フイルム株式会社 撮像素子、撮像装置、撮像素子の作動方法、及びプログラム
KR20200141338A (ko) * 2019-06-10 2020-12-18 삼성전자주식회사 이미지 신호 프로세서, 상기 이미지 신호 프로세서의 동작 방법 및 상기 이미지 신호 프로세서를 포함하는 이미지 처리 시스템
FR3104795B1 (fr) * 2019-12-12 2022-01-28 Aledia Dispositif comprenant un écran d'affichage à mode de fonctionnement à basse consommation
CN114281295B (zh) * 2020-09-18 2024-03-15 西安诺瓦星云科技股份有限公司 图像处理方法、装置和led显示屏系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05292477A (ja) * 1992-04-16 1993-11-05 Hitachi Ltd 映像信号の処理装置
JP2001125548A (ja) * 1999-10-29 2001-05-11 Mega Chips Corp スキャンコンバータ及びそのパラメータ設定方法
JP2001309231A (ja) * 2000-04-20 2001-11-02 Sharp Corp 画像処理装置
JP2002132247A (ja) * 2000-10-24 2002-05-09 Mitsubishi Electric Corp 画像表示装置および画像表示方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5635984A (en) * 1991-12-11 1997-06-03 Samsung Electronics Co., Ltd. Multi-picture control circuit and method for electronic still camera
JP2000023108A (ja) 1998-07-02 2000-01-21 Mitsubishi Electric Corp スキャンコンバータ装置
US6271866B1 (en) * 1998-12-23 2001-08-07 Honeywell International Inc. Dual port memory system for buffering asynchronous input to a raster scanned display
JP2002112069A (ja) * 2000-07-25 2002-04-12 Matsushita Electric Ind Co Ltd 画像歪補正装置および画像歪補正方法
KR20030068415A (ko) * 2002-02-14 2003-08-21 샤프 가부시키가이샤 표시장치, 전자기기 및 카메라
JP4141208B2 (ja) * 2002-08-30 2008-08-27 三洋電機株式会社 映像信号処理装置、および集積回路
JP3856232B2 (ja) * 2003-07-28 2006-12-13 ソニー株式会社 遅延時間補正回路、ビデオデータ処理回路及びフラットディスプレイ装置
JP2006267381A (ja) 2005-03-23 2006-10-05 Olympus Imaging Corp ファインダー光学系及び一眼レフレックスカメラ

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05292477A (ja) * 1992-04-16 1993-11-05 Hitachi Ltd 映像信号の処理装置
JP2001125548A (ja) * 1999-10-29 2001-05-11 Mega Chips Corp スキャンコンバータ及びそのパラメータ設定方法
JP2001309231A (ja) * 2000-04-20 2001-11-02 Sharp Corp 画像処理装置
JP2002132247A (ja) * 2000-10-24 2002-05-09 Mitsubishi Electric Corp 画像表示装置および画像表示方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014103647A (ja) * 2012-11-21 2014-06-05 Seiko Epson Corp 撮影装置、撮影装置の制御方法
JP2017034726A (ja) * 2012-11-21 2017-02-09 セイコーエプソン株式会社 撮影表示装置、撮影表示装置の制御方法
JP2017219872A (ja) * 2012-11-21 2017-12-14 セイコーエプソン株式会社 撮像表示装置、撮像表示装置の制御方法
US10070064B2 (en) 2012-11-21 2018-09-04 Seiko Epson Corporation Display control device including display control section that causes display data to be displayed in first and second regions og display, and controlling method of image capturing sensor and display
JP2014135569A (ja) * 2013-01-08 2014-07-24 Ricoh Co Ltd 画像処理装置

Also Published As

Publication number Publication date
TWI426500B (zh) 2014-02-11
KR20080064719A (ko) 2008-07-09
JP4860488B2 (ja) 2012-01-25
TW200837715A (en) 2008-09-16
CN101256763B (zh) 2012-06-20
US8350791B2 (en) 2013-01-08
US20080165268A1 (en) 2008-07-10
CN101256763A (zh) 2008-09-03

Similar Documents

Publication Publication Date Title
JP4860488B2 (ja) 画像表示制御装置
JP4917345B2 (ja) 同期信号生成装置、デジタルカメラ、及び同期信号生成方法
JP4255345B2 (ja) 撮像装置
KR101128167B1 (ko) 화상 표시 장치
JP6524606B2 (ja) 表示制御装置及び表示装置
JP5325655B2 (ja) 撮像装置
JP6006083B2 (ja) 撮像装置および撮像方法
US8970766B2 (en) Imaging device
JP5820720B2 (ja) 撮像装置
JP2012028997A (ja) 画像処理装置およびカメラ
US8634672B2 (en) Digital image signal processing apparatus and method
JP7292961B2 (ja) 撮像装置およびその制御方法
JP5478761B2 (ja) 撮像装置
JP4525382B2 (ja) 表示装置及び撮像装置
JP7354300B2 (ja) 撮像素子、撮像装置、撮像素子の作動方法、及びプログラム
TW201914293A (zh) 影像擷取裝置以及用於影像放大的影像擷取方法
JP7110007B2 (ja) 画像処理装置、撮像装置、画像処理装置の制御方法、プログラムおよび記憶媒体
JP2023160138A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2000059800A (ja) 画像信号処理回路
JP2006129275A (ja) 撮像装置
JP2004104453A (ja) 画像信号処理装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091221

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091221

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20100526

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110617

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110809

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111003

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111025

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111102

R150 Certificate of patent or registration of utility model

Ref document number: 4860488

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141111

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350