JP3909596B2 - 画像処理装置および方法、並びに、撮像装置 - Google Patents
画像処理装置および方法、並びに、撮像装置 Download PDFInfo
- Publication number
- JP3909596B2 JP3909596B2 JP2003137468A JP2003137468A JP3909596B2 JP 3909596 B2 JP3909596 B2 JP 3909596B2 JP 2003137468 A JP2003137468 A JP 2003137468A JP 2003137468 A JP2003137468 A JP 2003137468A JP 3909596 B2 JP3909596 B2 JP 3909596B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- image information
- information
- synthesis
- control
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 109
- 238000003384 imaging method Methods 0.000 title claims description 14
- 230000015572 biosynthetic process Effects 0.000 claims description 261
- 238000003786 synthesis reaction Methods 0.000 claims description 261
- 239000000203 mixture Substances 0.000 claims description 229
- 230000008569 process Effects 0.000 claims description 84
- 230000002194 synthesizing effect Effects 0.000 claims description 33
- 238000000926 separation method Methods 0.000 claims description 26
- 239000002131 composite material Substances 0.000 claims description 21
- 238000003672 processing method Methods 0.000 claims description 13
- 238000001308 synthesis method Methods 0.000 claims 1
- 230000015654 memory Effects 0.000 description 140
- 230000000875 corresponding effect Effects 0.000 description 110
- 238000010586 diagram Methods 0.000 description 16
- 238000004519 manufacturing process Methods 0.000 description 15
- 230000001276 controlling effect Effects 0.000 description 14
- 238000004364 calculation method Methods 0.000 description 8
- 238000004891 communication Methods 0.000 description 7
- 239000004065 semiconductor Substances 0.000 description 7
- 230000008859 change Effects 0.000 description 5
- 230000006835 compression Effects 0.000 description 5
- 238000007906 compression Methods 0.000 description 5
- 230000006837 decompression Effects 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 239000000284 extract Substances 0.000 description 4
- 238000007781 pre-processing Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 238000003457 Shi epoxidation reaction Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 230000006399 behavior Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 235000012489 doughnuts Nutrition 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/44—Receiver circuitry for the reception of television signals according to analogue transmission standards
- H04N5/445—Receiver circuitry for the reception of television signals according to analogue transmission standards for displaying additional information
- H04N5/45—Picture in picture, e.g. displaying simultaneously another television channel in a region of the screen
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/41—Structure of client; Structure of client peripherals
- H04N21/426—Internal components of the client ; Characteristics thereof
- H04N21/42653—Internal components of the client ; Characteristics thereof for processing graphics
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/431—Generation of visual interfaces for content selection or interaction; Content or additional data rendering
- H04N21/4312—Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
- H04N21/4316—Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations for displaying supplemental content in a region of the screen, e.g. an advertisement in a separate window
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/44—Receiver circuitry for the reception of television signals according to analogue transmission standards
- H04N5/445—Receiver circuitry for the reception of television signals according to analogue transmission standards for displaying additional information
- H04N5/44504—Circuit details of the additional information generator, e.g. details of the character or graphics signal generator, overlay mixing circuits
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Graphics (AREA)
- Business, Economics & Management (AREA)
- Marketing (AREA)
- Image Processing (AREA)
- Editing Of Facsimile Originals (AREA)
- Studio Circuits (AREA)
- Controls And Circuits For Display Device (AREA)
- Studio Devices (AREA)
Description
【発明の属する技術分野】
本発明は画像処理装置および方法、並びに、撮像装置に関し、特に、回路規模や製造コストを抑えたまま、容易に、より多様で複雑な方法を用いて複数の画像情報を合成する画像処理装置および方法、並びに、撮像装置に関する。
【0002】
【従来の技術】
従来、カメラ等を用いた撮像により得られた画像信号に、文字や図形等の他の画像データを重畳する画像処理方法として、様々な方法が提案されている。
【0003】
例えば、直列に接続された2つのOSD-ICが、それぞれ、入力された映像信号に表示データを重畳するようにし、マイコンが、その2つのOSD-ICの動作を制御して、映像信号に重畳する表示データを瞬時に切り替えたり、複数の表示データを映像信号に同時に表示させたりする方法がある(例えば、特許文献1参照)。
【0004】
また、その他にも、重畳される画像信号と、重畳する画像信号に、それぞれ、所定の係数を乗算してから、それらの2つの信号を加算することにより、2つの信号の混合比を任意に指定する方法もある。
【0005】
【特許文献1】
特開平10−150609号公報(第3−6ページ、図1)
【0006】
【発明が解決しようとする課題】
近年、画像処理装置の性能の向上や、画像処理技術の向上に伴い、様々な文字や図形などの画像情報を、様々な方法で複雑に画像信号に重畳したいという要求が高まっている。
【0007】
しかしながら、上述したような方法では、比較的単純な方法でしか画像信号を重畳することができないという課題があった。例えば、直列に接続された2つのOSD-ICを用いる方法の場合、重畳される側の映像信号と、重畳する側の表示データとの混合比は常に1対1であり、その混合比を調整することができない。
【0008】
また、各信号に係数を乗算する方法を用いた場合、表示データの重畳を制御する制御部は、2つの信号の混合比を調整することができるが、OSDは、例えば、表示データの一部を変更するときも、重畳する新たな表示データを1画面分用意し表示させるように制御しなければならず、OSDの処理の負荷が増大してしまい、製造コストが増大してしまうという課題があった。この方法においては、さらに、重畳する表示データの書き換えタイミングも、例えば、垂直ブランキング期間や水平ブランキング期間等に限定されてしまうため、OSDは、高速に処理を行う必要があり、製造コストがさらに増大してしまうという課題もあった。
【0009】
さらに、直列に接続された複数のOSD-ICを用いる方法と、係数を乗算する方法を組み合わせた場合においても、重畳する表示データを、画面の一部の領域毎に制御することができず、表示データを切り替えるときは1画面分の表示データを用意しなければならず、処理の負荷や回路規模が増大してしまうという課題があった。
【0010】
例えば、映像信号に対応する1画面分の画像データの、第1の領域と第2の領域のように互いに異なる2つの領域に表示データを重畳しているときに、第1の領域の表示データのみを切り替えるとすると、切り替え前の第1の領域に表示する表示データを重畳するOSD-IC、第2の領域に表示する表示データを重畳するOSD-IC、並びに、切り替え後の第1の領域に表示する表示データを重畳するOSD-ICの3つのOSD-ICが必要になる。従って、この方法において、重畳する表示データの切り替え方法を複雑化するためには、予め、その複雑度に対応できるように、多くのOSD-ICを用意しておかなければならず、処理の負荷が増大するだけでなく、回路規模も大きくなってしまい、製造コストの増大につながってしまっていた。
【0011】
本発明はこのような状況に鑑みてなされたものであり、回路規模や製造コストを抑えたまま、容易に、より多様で複雑な方法を用いて複数の画像情報を合成することができるようにするものである。
【0012】
【課題を解決するための手段】
本発明の画像処理装置は、合成用画像の供給を制御する制御手段と、制御手段により制御されて供給される合成用画像情報を記録する複数の画像記録手段と、動画像の画像情報である入力画像情報に付加された同期信号を分離する同期信号分離手段と、同期信号分離手段により入力画像情報より分離された同期信号に基づいて、入力画像情報に対応する入力画像における画面内の位置を示すアドレス情報を生成するアドレス情報生成手段と、入力画像の画素単位毎に複数の画像記録手段に記録された合成用画像情報を合成するか否かを指示する制御情報を記憶し、アドレス情報生成手段により生成されたアドレス情報に基づいて、制御情報を順次参照し、入力画像の画素単位毎に、複数の画像記録手段に記録された複数の合成用画像情報のいずれかを選択し、合成用画像情報と入力画像情報との合成を制御する合成制御手段と、合成制御手段による制御に基づいて、入力画像の画素単位毎に、入力画像情報および合成制御手段により選択された合成用画像情報の内、いずれか一方を出力画像信号として選択することにより、入力画像情報と出力された合成用画像情報とを合成する画像情報合成手段とを備えることを特徴とする。
【0013】
前記合成用画像保持手段は、合成用画像情報を画素単位のデータとして保持することができる。
【0014】
前記制御手段は、さらに、制御情報の合成制御手段への供給を制御することができる。
【0016】
前記合成制御手段は、制御情報に基づいて、複数の画像記録手段に記録された複数の合成用画像情報のそれぞれについて、入力画像情報に合成するか否かを判定し、合成すると判定した合成用画像情報を画像記録手段より出力させ、入力画像情報に合成させるように制御し、画像情報合成手段は、合成制御手段による制御に基づいて、入力画像情報と合成用画像情報とを合成し、入力画像の画素単位毎に、入力画像と出力された合成用画像を重畳させることができる。
【0017】
前記制御情報は、入力画像の画素単位毎に、複数の画像記録手段に記録された複数の合成用画像情報に対応する合成用画像を入力画像に混合させる際の、各画像情報の混合比を指定する情報であり、合成制御手段は、制御情報に基づいて、複数の画像記録手段に記録された複数の合成用画像情報を、指定された混合比で入力画像情報に合成させるように制御し、画像情報合成手段は、合成制御手段による制御に基づいて、入力画像情報と合成用画像情報とを合成し、入力画像の画素単位毎に、入力画像と合成用画像を指定された混合比で混合させることができる。
【0024】
本発明の画像処理方法は、合成画像を記録する複数の画像記録手段を有し、複数の画像記録手段のうちのいずれかが合成用画像情報の出力処理を行っているとき、出力処理を行っていない画像記録手段に対して合成用画像情報を供給させるように制御する制御ステップと、複数の画像記録手段を制御し、制御ステップに制御されて供給される合成用画像情報を記録させる画像記録制御ステップと、動画像の画像情報である入力画像情報に付加された同期信号を分離する同期信号分離ステップと、同期信号分離ステップの処理により入力画像情報より分離された同期信号に基づいて、入力画像情報に対応する入力画像における画面内の位置を示すアドレス情報を生成するアドレス情報生成ステップと、アドレス情報生成ステップの処理により生成された入力画像のアドレス情報に基づいて、入力画像の画素単位毎に複数の画像記録手段に記録された合成用画像情報を合成するか否かを指示する制御情報を順次参照し、入力画像の画素単位毎に、複数の画像記録手段に記録された複数の合成用画像情報のいずれかを選択的し、合成用画像情報と入力画像情報との合成を制御する合成制御ステップと、合成制御ステップの処理による制御に基づいて、入力画像の画素単位毎に、入力画像情報および合成制御ステップの処理により選択された合成用画像情報の内、いずれか一方を出力画像信号として選択することにより、入力画像情報と合成用画像情報とを合成する画像情報合成ステップとを含むことを特徴とする。
【0025】
前記画像記録制御ステップは、合成用画像情報を画素単位のデータとして前記画像記録手段に記録させるように制御することができる。
【0026】
前記制御ステップは、さらに、制御情報の供給を制御することができる。
【0028】
前記合成制御ステップは、入力画像の画素単位毎に、入力画像に重畳させる合成用画像に対応する合成用画像情報を、制御情報に基づいて、画像記録制御ステップの処理により制御されて複数の画像記録手段に記録された複数の合成用画像情報のそれぞれについて、入力画像情報に合成するか否かを判定し、合成すると判定した合成用画像情報を画像記録手段より出力させ、入力画像情報に合成させるように制御し、画像情報合成ステップは、合成制御ステップの処理による制御に基づいて、入力画像情報と出力された合成用画像情報とを合成し、入力画像の画素単位毎に、入力画像と合成用画像を重畳させることができる。
【0029】
前記合成制御ステップは、入力画像の画素単位毎に、画像記録制御ステップの処理により制御されて複数の画像記録手段に記録された複数の合成用画像情報に対応する合成用画像を入力画像に混合させる際の、各画像情報の混合比を指定する制御情報に基づいて、画像記録制御ステップの処理により制御されて複数の画像記録手段に記録された複数の合成用画像情報を、指定された混合比で入力画像情報に合成させるように制御し、画像情報合成ステップは、合成制御ステップの処理による制御に基づいて、入力画像情報と合成用画像情報とを合成し、入力画像の画素単位毎に、入力画像と合成用画像を指定された混合比で混合させることができる。
【0036】
本発明の撮像装置は、被写体を撮像し、得られた、動画像の画像情報である撮像画像情報を取り込む撮像手段と、撮像手段により取り込まれた撮像画像情報に合成する複数の合成用画像情報の供給を制御する制御手段と、制御手段により制御されて供給される合成用画像情報を記録する複数の画像記録手段と、撮像画像情報に付加された同期信号を分離する同期信号分離手段と、同期信号分離手段により撮像画像情報より分離された同期信号に基づいて、撮像画像情報に対応する撮像画像における画面内の位置を示すアドレス情報を生成するアドレス情報生成手段と、撮像画像の画素単位毎に複数の画像記録手段に記録された合成用画像情報を合成するか否かを指示する制御情報を記憶し、撮像画像のアドレス情報に基づいて制御情報を順次参照し、撮像画像の画素単位毎に、複数の画像記録手段に記録された複数の合成用画像情報のいずれかを選択し、合成用画像情報と撮像画像情報との合成を制御する合成制御手段と、合成制御手段による制御に基づいて、撮像画像の画素単位毎に、撮像画像情報および合成制御手段により選択された合成用画像情報の内、いずれか一方を出力画像信号として選択することにより、撮像画像情報と出力された合成用画像情報とを合成する画像情報合成手段とを備え、制御手段は、複数の画像記録手段のうちのいずれかが合成用画像情報の出力処理を行っているとき、出力処理を行っていない画像記録手段に対して合成用画像情報を供給することを特徴とする。
【0037】
本発明においては、複数の画像記録手段のうちのいずれかが合成用画像情報の出力処理を行っているとき、その出力処理を行っていない画像記録手段に対して合成用画像情報が供給され、その供給された複数の合成用画像情報が画像記録手段に記録され、動画像の画像情報である入力画像情報に付加された同期信号が分離され、入力画像情報より分離された同期信号に基づいて、入力画像情報に対応する入力画像における画面内の位置を示すアドレス情報が生成され、入力画像の画素単位毎に複数の画像記録手段に記録された合成用画像情報を合成するか否かを指示する制御情報が記憶され、生成されたアドレス情報に基づいて、制御情報が順次参照され、入力画像の画素単位毎に、複数の画像記録手段に記録された複数の合成用画像情報のいずれかが選択され、合成用画像情報と入力画像情報との合成が制御され、その制御に基づいて、入力画像の画素単位毎に、入力画像情報および選択された合成用画像情報の内、いずれか一方が出力画像信号として選択されることにより、入力画像情報と出力された合成用画像情報とが合成される。
【0038】
【発明の実施の形態】
以下に本発明の実施の形態を説明するが、請求項に記載の構成要件と、発明の実施の形態における具体例との対応関係を例示すると、次のようになる。この記載は、請求項に記載されている発明をサポートする具体例が、発明の実施の形態に記載されていることを確認するためのものである。従って、発明の実施の形態中には記載されているが、構成要件に対応するものとして、ここには記載されていない具体例があったとしても、そのことは、その具体例が、その構成要件に対応するものではないことを意味するものではない。逆に、具体例が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その具体例が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。
【0039】
さらに、この記載は、発明の実施の形態に記載されている具体例に対応する発明が、請求項に全て記載されていることを意味するものではない。換言すれば、この記載は、発明の実施の形態に記載されている具体例に対応する発明であって、この出願の請求項には記載されていない発明の存在、すなわち、将来、分割出願されたり、補正により追加される発明の存在を否定したりするものではない。
【0040】
[請求項1] 入力画像信号に含まれる、動画像の画像情報である入力画像情報に、前記入力画像情報と異なる画像情報である合成用画像情報を合成する画像処理装置(例えば、図1の画像合成装置1または図8の画像合成装置150)において、
前記合成用画像の供給を制御する制御手段(例えば、図1の制御部13)と、
前記制御手段により制御されて供給される前記合成用画像情報を記録する複数の画像記録手段(例えば、図1または図8の第1プレーンメモリ18および第2プレーンメモリ19)と、
前記入力画像情報に付加された同期信号を分離する同期信号分離手段(例えば、図1または図8の同期信号分離処理部11)と、
前記同期信号分離手段により前記入力画像情報より分離された前記同期信号に基づいて、前記入力画像情報に対応する入力画像における画面内の位置を示すアドレス情報を生成するアドレス情報生成手段(例えば、図1または図8のアドレス発生カウンタ12)と、
前記入力画像の画素単位毎に前記複数の画像記録手段に記録された前記合成用画像情報を合成するか否かを指示する制御情報を記憶し、前記アドレス情報生成手段により生成された前記アドレス情報に基づいて、前記制御情報を順次参照し、前記入力画像(例えば、図6Aの入力画像91または図12Aの入力画像211)の画素単位(例えば、図7Cの領域142乃至領域144、または図14Bの領域282乃至284)毎に、複数の前記画像記録手段に記録された複数の前記合成用画像情報のいずれかを選択し、前記合成用画像情報と前記入力画像情報との合成を制御する合成制御手段(例えば、図1の重ね合わせ順序制御部20または図8の混合比率制御部152)と、
前記合成制御手段による制御に基づいて、前記入力画像の画素単位毎に、前記入力画像情報および前記合成制御手段により選択された前記合成用画像情報の内、いずれか一方を出力画像信号として選択することにより、前記入力画像情報と前記出力された合成用画像情報とを合成する画像情報合成手段(例えば、図1のスイッチ回路21および22、または、図8の乗算器153乃至155並びに加算器156)と
を備え、
前記制御手段は、複数の前記画像記録手段のうちのいずれかが前記合成用画像情報の出力処理を行っているとき、前記出力処理を行っていない前記画像記録手段に対して前記合成用画像情報を供給する
ことを特徴とする画像処理装置。
[請求項2] 前記合成用画像保持手段は、前記合成用画像情報を画素単位のデータ(例えば、図2Aの画素単位のデータ31)として保持する
ことを特徴とする請求項1に記載の画像処理装置。
[請求項3] 前記制御手段は、さらに、前記制御情報の前記合成制御手段への供給を制御する(例えば、図4のステップS2およびステップS5)
ことを特徴とする請求項1に記載の画像処理装置。
[請求項4] 前記合成制御手段は、前記制御情報に基づいて、複数の前記画像記録手段に記録された複数の前記合成用画像情報のそれぞれについて、前記入力画像情報に合成するか否かを判定し(例えば、図5のステップS13およびステップS15)、合成すると判定した前記合成用画像情報を前記画像記録手段より出力させ、前記入力画像情報に合成させるように制御し、
前記画像情報合成手段は、前記合成制御手段による制御に基づいて、前記入力画像情報と前記出力された合成用画像情報とを合成し、前記入力画像の画素単位毎に、前記入力画像と前記合成用画像を重畳させる(例えば、図5のステップS14およびステップS16)
ことを特徴とする請求項3に記載の画像処理装置。
[請求項5] 前記制御情報は、前記入力画像の画素単位毎に、複数の前記画像記録手段に記録された複数の前記合成用画像情報に対応する前記合成用画像を前記入力画像に混合させる際の、各画像情報の混合比を指定する情報(例えば、図13Aの画像241に対応する混合比率制御情報)であり、
前記合成制御手段は、前記制御情報に基づいて、複数の前記画像記録手段に記録された複数の前記合成用画像情報を、指定された混合比で前記入力画像情報に合成させるように制御し(例えば、図11のステップS53)、
前記画像情報合成手段は、前記合成制御手段による制御に基づいて、前記入力画像情報と前記合成用画像情報とを合成し、前記入力画像の画素単位毎に、前記入力画像と前記合成用画像を指定された混合比で混合させる(例えば、図11のステップS55乃至ステップS57)
ことを特徴とする請求項3に記載の画像処理装置。
[請求項6] 入力画像信号に含まれる、動画像の画像情報である入力画像情報に、前記入力画像情報と異なる画像情報である合成用画像情報を合成する画像処理装置(例えば、図1の画像合成装置1または図8の画像合成装置150)の画像処理方法であって、
前記合成画像を記録する複数の画像記録手段(例えば、図1または図8の第1プレーンメモリ18および第2プレーンメモリ19)を有し、
複数の前記画像記録手段のうちのいずれかが前記合成用画像情報の出力処理を行っているとき、前記出力処理を行っていない前記画像記録手段に対して前記合成用画像情報を供給させるように制御する制御ステップ(例えば、図4のステップS2およびステップS5)と、
複数の前記画像記録手段を制御し、前記制御ステップに制御されて供給される前記合成用画像情報を記録させる画像記録制御ステップ(例えば、図4のステップS3およびステップS6、または、図10のステップS43およびステップS46)と、
前記入力画像情報に付加された同期信号を分離する同期信号分離ステップ(例えば、図5のステップS11)と、
前記同期信号分離ステップの処理により前記入力画像情報より分離された前記同期信号に基づいて、前記入力画像情報に対応する入力画像における画面内の位置を示すアドレス情報を生成するアドレス情報生成ステップ(例えば、図5のステップS12)と、
前記アドレス情報生成ステップの処理により生成された前記入力画像のアドレス情報に基づいて、前記入力画像の画素単位毎に前記複数の画像記録手段に記録された前記合成用画像情報を合成するか否かを指示する制御情報を順次参照し、前記入力画像(例えば、図6Aの入力画像91または図12Aの入力画像211)の画素単位毎に(例えば、図7Cの領域142乃至領域144、または図14Bの領域282乃至284)、複数の前記画像記録手段に記録された複数の前記合成用画像情報のいずれかを選択し、前記合成用画像情報と前記入力画像情報との合成を制御する合成制御ステップ(例えば、図5のステップS13およびステップS15、または、図11のステップS53)と、
前記合成制御ステップの処理による制御に基づいて、前記入力画像の画素単位毎に、前記入力画像情報および前記合成制御ステップの処理により選択された前記合成用画像情報の内、いずれか一方を出力画像信号として選択することにより、前記入力画像情報と前記合成用画像情報とを合成する画像情報合成ステップ(例えば、図5のステップS14およびステップS16、または、図11のステップS55乃至ステップS57)と
を含むことを特徴とする画像処理方法。
[請求項7] 前記画像記録制御ステップは、前記合成用画像情報を画素単位のデータ(例えば、図2Aの画素単位のデータ31)として前記画像記録手段に記録させるように制御する
ことを特徴とする請求項6に記載の画像処理方法。
[請求項8] 前記制御ステップは、さらに、前記制御情報の供給を制御する(例えば、図4のステップS2およびステップS5)
ことを特徴とする請求項6に記載の画像処理方法。
[請求項9] 前記合成制御ステップは、前記入力画像の画素単位毎に、前記入力画像に重畳させる合成用画像に対応する前記合成用画像情報を、前記制御情報(例えば、図7Aの画像121に対応する重ね合わせ制御情報)に基づいて、前記画像記録制御ステップの処理により制御されて複数の前記画像記録手段に記録された複数の前記合成用画像情報のそれぞれについて、前記入力画像情報に合成するか否かを判定し(例えば、図5のステップS13およびステップS15)、合成すると判定した前記合成用画像情報を前記画像記録手段より出力させ、前記入力画像情報に合成させるように制御し、
前記画像情報合成ステップは、前記合成制御ステップの処理による制御に基づいて、前記入力画像情報と前記出力された合成用画像情報とを合成し、前記入力画像の画素単位毎に、前記入力画像と前記合成用画像を重畳させる(例えば、図5のステップS14およびステップS16)
ことを特徴とする請求項8に記載の画像処理方法。
[請求項10] 前記合成制御ステップは、前記入力画像の画素単位毎に、前記画像記録制御ステップの処理により制御されて複数の前記画像記録手段に記録された複数の前記合成用画像情報に対応する前記合成用画像を前記入力画像に混合させる際の、各画像情報の混合比を指定する前記制御情報(例えば、図13Aの画像241に対応する混合比率制御情報)に基づいて、前記画像記録制御ステップの処理により制御されて複数の前記画像記録手段に記録された複数の前記合成用画像情報を、指定された混合比で前記入力画像情報に合成させるように制御し(例えば、図11のステップS53)、
前記画像情報合成ステップは、前記合成制御ステップの処理による制御に基づいて、前記入力画像情報と前記合成用画像情報とを合成し、前記入力画像の画素単位毎に、前記入力画像と前記合成用画像を指定された混合比で混合させる(例えば、図11のステップS55乃至ステップS57)
ことを特徴とする請求項8に記載の画像処理方法。
[請求項11] 被写体を撮像し、得られた、動画像の画像情報である撮像画像情報を取り込む撮像手段(例えば、図15のカメラ部310)と、
前記撮像手段により取り込まれた撮像画像情報に合成する複数の合成用画像情報の供給を制御する制御手段(例えば、図1の制御部13)と、
前記制御手段により制御されて供給される前記合成用画像情報を記録する複数の画像記録手段(例えば、図1または図8の第1プレーンメモリ18および第2プレーンメモリ19)と、
前記撮像画像情報に付加された同期信号を分離する同期信号分離手段(例えば、図1または図8の同期信号分離処理部11)と、
前記同期信号分離手段により前記撮像画像情報より分離された前記同期信号に基づいて、前記撮像画像情報に対応する撮像画像における画面内の位置を示すアドレス情報を生成するアドレス情報生成手段(例えば、図1または図8のアドレス発生カウンタ12)と、
前記撮像画像の画素単位毎に前記複数の画像記録手段に記録された前記合成用画像情報を合成するか否かを指示する制御情報を記憶し、前記撮像画像のアドレス情報に基づいて前記制御情報を順次参照し、前記撮像画像の画素単位毎に、複数の前記画像記録手段に記録された複数の前記合成用画像情報のいずれかを選択し、前記合成用画像情報と前記撮像画像情報との合成を制御する合成制御手段(例えば、図1の重ね合わせ順序制御部20または図8の混合比率制御部152)と、
前記合成制御手段による制御に基づいて、前記撮像画像の画素単位毎に、前記撮像画像情報および前記合成制御手段により選択された前記合成用画像情報の内、いずれか一方を出力画像信号として選択することにより、前記撮像画像情報と前記出力された合成用画像情報とを合成する画像情報合成手段(例えば、図1のスイッチ回路21および22、または、図8の乗算器153乃至155並びに加算器156)と
を備え、
前記制御手段は、複数の前記画像記録手段のうちのいずれかが前記合成用画像情報の出力処理を行っているとき、前記出力処理を行っていない前記画像記録手段に対して前記合成用画像情報を供給する
ことを特徴とする撮像装置(例えば、図15のカムコーダ300)。
【0041】
以下に、本発明の実施の形態について図面を参照して説明する。
【0042】
図1は、本発明を適用した画像合成装置の構成例を示す図である。
【0043】
図1において、画像合成装置1は、例えば、NTSC(National Television Standards Committee)方式やPAL(Phase Alternation by Line)方式のテレビジョン信号に含まれている画像信号のような入力画像信号に対応する画像の一部または全部に、文字や図形等を表す他の画像を挿入し、出力画像信号として出力する装置である。すなわち、画像合成装置1は、入力画像信号に含まれる入力画像情報に、他の画像情報である合成用画像情報を選択的に合成し、出力する。このとき、画像合成装置1は、入力画像信号に対応する画像の画面内における複数の領域に文字や図形等が、その領域毎に、互いに独立的に合成されるように、画像情報を合成することができる。例えば、画像合成装置1は、入力画像信号に対応する画像に挿入された他の画像の一部を変形させたり、さらに他の画像に切り替えたり、他の位置に移動させたりすることができる。
【0044】
画像合成装置1の同期信号分離処理部11は、図示は省略するが振幅分離処理部および周波数分離処理部により構成され、入力画像信号より垂直同期信号や水平同期信号を抽出し、アドレス発生カウンタ12に供給する。例えば、入力画像信号がNTSC方式の画像信号である場合、入力画像信号には周波数が約60Hzの垂直同期信号と、周波数が約15.75kHzの水平同期信号が含まれている。同期信号分離処理部11は、まず、振幅分離処理部により、これらの垂直同期信号および水平同期信号の両方を含む同期信号を入力画像信号から抽出する。そして、同期信号分離処理部11は、周波数分離処理部により、抽出した同期信号から垂直同期信号と水平同期信号を分離し、それぞれをアドレス発生カウンタ12に出力する。
【0045】
なお、同期信号分離処理部11は、入力画像信号に含まれる同期信号を抽出できればよく、その構成は、上述した以外の構成であってもよい。
【0046】
アドレス発生カウンタ12は、カウンタ回路を内蔵し、取得した垂直同期信号および水平同期信号のパルス数をカウントして、それらの同期信号に基づいたアドレス情報を発生し、制御部13、第1プレーンメモリ18、第2プレーンメモリ19、および重ね合わせ順序制御部20にそのアドレス情報を供給する。
【0047】
このアドレス情報は、入力画像信号に含まれる入力画像情報の、1画面分の画像における位置情報であり、スイッチ回路22において、合成用画像情報が、入力画像信号に同期した状態で、入力画像信号に含まれる入力画像情報に合成されるようにするための情報である。例えば、入力画像信号がNTSC方式の画像信号である場合、この入力画像信号は、インターレス方式の画像信号であるため、垂直同期信号の1周期を1Vとすると2V(2周期)で1画面分の情報を構成する。このような場合、アドレス発生カウンタ12は、垂直同期信号および水平同期信号に基づいて、垂直同期信号2周期分(2V)を1周期とするアドレス情報を発生する。また、入力画像信号がノンインターレス方式の画像信号である場合、アドレス発生カウンタ12は、垂直同期信号および水平同期信号に基づいて、垂直同期信号1周期分(1V)を1周期とするアドレス情報を発生する。
【0048】
なお、アドレス情報発生カウンタ12は、上述したようなアドレス情報を発生し、制御部13、第1プレーンメモリ18、第2プレーンメモリ19、および重ね合わせ順序制御部20にそのアドレス情報を供給できればよく、その構成は、上述した以外の構成であってもよい。
【0049】
制御部13は、図示は省略するが、制御処理部、演算部、記憶部等を内蔵しており、画像合成装置1の外部より供給されたプログラムやデータを、入力端子14を介して取得したり、ROM15を制御し、ROM15に記憶されているプログラムやデータを取得したり、ドライブ16を制御し、ドライブ16に装着されたリムーバブルメディア17より読み出されたプログラムやデータを取得したりする。そして、そのようにして取得したプログラムやデータに基づいて、制御部13は、第1プレーンメモリ18、第2プレーンメモリ19、重ね合わせ順序制御部20、並びに、スイッチ回路21および22の制御処理を行う。
【0050】
具体的には、制御部13は、上述したようにしてデータとして取得した重ね合わせ制御情報、または、上述したようにして取得したプログラムを実行して生成した重ね合わせ制御情報を、アドレス発生カウンタ12より供給されたアドレス情報に基づいて、重ね合わせ順序制御部20に供給することにより、重ね合わせ順序制御部20の動作を制御するとともに、重ね合わせ順序制御部20を介してスイッチ回路21および22の動作を制御する。
【0051】
また、制御部13は、上述したようにしてデータとして取得した、入力画像信号に含まれる入力画像情報に合成させる非圧縮の合成用画像情報、または、上述したようにして取得したプログラムを実行して生成した合成用画像情報を、アドレス発生カウンタ12より供給されたアドレス情報に基づいて、第1プレーンメモリ18または第2プレーンメモリ19に供給することにより、それらの動作を制御する。
【0052】
なお、その際、第1プレーンメモリ18が1度に保持する合成用画像情報のデータ量と、第2プレーンメモリ19が1度に保持する合成用画像情報のデータ量と、さらに、重ね合わせ順序制御部20が1度に保持する重ね合わせ制御情報の制御に対応する合成用画像情報のデータ量が、例えば同じ画像サイズの1画面分のデータ量に統一される等して、全て同じデータ量であるようにする方が、制御部13による制御処理が容易になり、その処理の負荷を軽減させることができる。
【0053】
入力端子14は、例えば、キーボード等の入力装置、カメラ等の撮像装置、ディスクプレーヤやビデオデッキ等の記録媒体再生装置、またはパーソナルコンピュータ等の画像編集装置等のような、他の装置に接続される。このような他の装置より入力される画像情報や制御情報等の各種の情報は、この入力端子14を介して、制御部13に供給される。
【0054】
ROM15は、制御部13において実行されるプログラムや、合成用画像情報や重ね合わせ制御情報等のデータを予め記憶しており、制御部13の制御に基づいて、それらを制御部13に供給する。
【0055】
ドライブ16には、必要に応じて、磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリなどの記録媒体からなるリムーバブルメディア17が装着される。ドライブ16は、制御部13に制御されて、装着されたリムーバブルメディア17よりプログラムやデータを読み出し、制御部13に供給する。
【0056】
第1プレーンメモリ18は、例えばDRAM(Dynamic Random Access Memory)等の半導体メモリからなる記憶領域と、その記憶領域の入出力を制御する制御部を有しており、制御部13より供給される、入力画像信号に含まれる入力画像情報に選択的に合成させる非圧縮の合成用画像情報を、例えば1画面分保持し、スイッチ回路21の要求に応じて、アドレス発生カウンタ12より供給されるアドレス情報に基づいて、以上のように保持している合成用画像情報をスイッチ回路21に出力する。
【0057】
第1プレーンメモリ18は、例えば、図2Aに示されるように、その記憶領域30に、画素単位のデータである(ビットマップ形式の)非圧縮の合成用画像情報を1画面分保持する。このとき、第1プレーンメモリ18は、合成用画像情報の画素単位のデータ31に対して、それぞれ8ビットを割り当て、各画素の色情報が8ビット以下で表現される合成用画像情報を保持する。入力画像信号に含まれる入力画像情報の有効画素数が、480×720ピクセルであるとすると、第1プレーンメモリ18は、例えば、記憶領域30の、1バイト単位のアドレス0H乃至54600Hの領域を用いて、入力画像信号に含まれる画像情報と同じ画像サイズ(480×720ピクセル)の合成用画像情報を保持する。
【0058】
そして、スイッチ回路21に合成用画像情報の出力を要求された場合、第1プレーンメモリ18は、このように保持されている合成用画像情報の、アドレス情報に対応する部分を読み出し、スイッチ回路21に供給する。
【0059】
なお、第1プレーンメモリ18が1度に保持する合成用画像情報のデータ量は、1画面分より大きくても小さくてもよく、どのような大きさであってもよい。また、第1プレーンメモリ18が合成用画像情報の各画素のデータに対して割り当てるビット数は、9ビット以上であっても良いし、7ビット以下であってももちろん良い。
【0060】
また、第1プレーンメモリ18は、図2Aに示されるように、合成用画像情報を非圧縮の形式で画素単位のデータとして(ビットマップ方式で)保持するように説明したが、それ以外にも、例えば図2Bに示されるように、色情報が同じである画素の並びに基づいて合成用画像情報をテーブル化した情報を保持するようにしてもよい。
【0061】
図2Bにおいては、第1プレーンメモリ18は、制御部13より供給された合成用画像情報を表現するテーブル40を保持している。テーブル40は、色情報が同じである連続する画素がグループ化された画素列に関する情報のテーブルであり、その画素列の1画面上における開始アドレスを示す開始アドレス欄41、画素列の1画面上における終了アドレスを示す終了アドレス欄42、および、その画素列の色情報を示す色欄43により構成される。
【0062】
例えば、テーブル40において、行44には、合成用画像情報に対応する画像の1画面上におけるアドレス「aaaa」乃至「bbbb」の画素列の色情報が「cccc」であることが示されている。
【0063】
この場合、第1プレーンメモリ18は、スイッチ回路21の要求に応じて、テーブル40の、アドレス情報に対応する行の色欄の情報を読み出し、合成用画像情報としてスイッチ回路21に供給する。
【0064】
なお、第1プレーンメモリ18は、色情報だけでなく、輝度情報も含めてテーブル化した情報を保持するようにしてももちろんよい。
【0065】
第2プレーンメモリ19は、第1プレーンメモリ18の場合と同様の構成であり、図2を参照して上述した構成を第2プレーンメモリの場合にも適用することができるので、その説明を省略する。
【0066】
なお、第1プレーンメモリ18および第2プレーンメモリ19は合成用画像情報を保持することができればよく、その記憶領域は、半導体メモリだけでなく、例えば、磁気ディスク、光ディスク、光磁気ディスク等により構成されるようにしてもよい。また、それ以外の記録媒体により構成されるようにしてももちろんよい。ただし、第1プレーンメモリ18および第2プレーンメモリ19は、ある程度短時間の内に、合成用画像情報を記憶したり出力したりしなければならないため、その記憶領域は、ある程度高速に情報を入出力可能な記憶領域である必要があり、半導体メモリにより構成されるようにするのが望ましい。
【0067】
また、第1プレーンメモリ18および第2プレーンメモリ19の記憶容量はどのような大きさであっても良いが、例えば、1ライン分の合成用画像情報しか記憶できない程度の大きさであると、制御部13による書き換え処理の負担が大きくなってしまう恐れがある。従って、第1プレーンメモリ18および第2プレーンメモリ19の記憶容量は、通常、1度に1画面分以上の合成用画像情報を記憶する程度の大きさであるのが望ましい。すなわち、第1プレーンメモリ18および第2プレーンメモリ19の記憶領域は、SRAM(Static Random Access Memory)よりも安価に大容量の記憶領域を実現できるDRAMにより構成されるようにするのが望ましい。
【0068】
重ね合わせ順序制御部20は、記憶部20Aを有しており、制御部13に供給される重ね合わせ制御情報を記憶し、その重ね合わせ制御情報と、アドレス発生カウンタ12より供給されるアドレス情報に基づいて、スイッチ回路21および22の動作を制御し、入力画像信号に含まれる入力画像情報と合成用画像情報との合成処理を制御する。
【0069】
重ね合わせ順序制御部20は、例えば、図3Aに示されるように、その記憶部20Aの記憶領域50に、入力画像信号の入力画像と合成用画像との合成を画素単位で制御する重ね合わせ制御情報51を1画面分保持する。画素単位の重ね合わせ制御情報51は、ビット61および62の2ビットで構成され、第1プレーンメモリ18または第2プレーンメモリ19に保持されている合成用画像情報を、入力画像信号の入力画像情報に合成するか否かを指示する画素単位の制御情報である。入力画像信号に含まれる入力画像情報の有効画素数が、480×720ピクセルであるとすると、重ね合わせ順序制御部20は、例えば、記憶領域50の、2ビット単位のアドレス0H乃至54600Hの領域を用いて、入力画像信号に含まれる入力画像情報と同じ画像サイズ(480×720ピクセル)に対応する制御情報を保持する。
【0070】
なお、重ね合わせ順序制御部20が保持する重ね合わせ制御情報自体のデータ量は、例えば、図3Aに示されるように、1つの合成用画像情報のデータ量より小さい方が、制御部13の処理の負荷を軽減させることができるので望ましい。図3Aの場合、重ね合わせ制御情報の1画素分のデータ量は2ビットであり、1画素分のデータが8ビットで構成される合成用画像情報のデータ量と比較して小さくなるように設定されている。
【0071】
重ね合わせ順序制御部20は、このように保持している画素単位の重ね合わせ制御情報を、アドレス情報に基づいて順次参照し、スイッチ回路21および22の動作を制御する。従って、重ね合わせ順序制御部20は、入力画像信号に対応する画像の画素単位の制御を行うことができ、入力画像信号に対応する画像の画面内における任意の位置において、第1プレーンメモリ18または第2プレーンメモリ19のいずれかに記憶されている合成用画像情報の画像(合成用画像情報の画像の、画面内位置が対応する部分)を選択的に合成させることができる。
【0072】
なお、重ね合わせ順序制御部20が1度に保持する重ね合わせ制御情報のデータ量は、1画面分より大きくても小さくてもよく、どのような大きさであってもよい。また、重ね合わせ順序制御部20は、各ビット単位の制御情報20Aに対して、割り当てるビット数は、何ビットであってもよい。
【0073】
また、重ね合わせ順序制御部20は、図3Aに示される方法以外にも、例えば図3Bに示されるように、合成する画像情報が同じである画素の並びに基づいて、重ね合わせ制御情報をテーブル化した情報(制御内容が変化する変化点をテーブル化した情報)を保持するようにしてもよい。
【0074】
図3Bにおいては、重ね合わせ順序制御部20は、制御部13より供給された重ね合わせ制御情報を表現するテーブル70を保持している。テーブル70は、合成する画像情報が同じである連続する画素について、制御情報をグループ化した画素列毎の重ね合わせ制御情報のテーブルであり、その画素列の1画面上における開始アドレスを示す開始アドレス欄71、画素列の1画面上における終了アドレスを示す終了アドレス欄72、および、その画素列において選択された合成用画像情報を示す選択合成画像情報欄73により構成される。
【0075】
例えば、テーブル70において、行81には、合成用画像情報に対応する画像の1画面上におけるアドレス「aaaa」乃至「bbbb」の画素列に合成される合成画像情報が「第1プレーンメモリ」18に保持されている合成用画像情報であることが示されている。
【0076】
この場合、重ね合わせ順序制御部20は、テーブル70の、アドレス情報に対応する行の選択合成画像情報欄73の情報を参照し、その合成用画像情報を入力画像信号に含まれる入力画像情報に合成するように、スイッチ回路21および22を制御する。
【0077】
スイッチ回路21は、2つの入力と1つの出力を備えるスイッチ回路であり、第1プレーンメモリ18または第2プレーンメモリ19の出力が供給されるようになされている。スイッチ回路21は、重ね合わせ順序制御部20に制御されて入力側の接続を切り替え、第1プレーンメモリ18または第2プレーンメモリ19のいずれか一方を選択的にスイッチ回路22に接続し、接続した方のプレーンメモリに対して合成用画像情報の出力を要求する。すなわち、スイッチ回路21は、重ね合わせ順序制御部20の制御に基づいて、第1プレーンメモリ18または第2プレーンメモリ19のいずれか一方からスイッチ回路22に合成画像情報が供給されるように制御する。
【0078】
スイッチ回路22は、2つの入力と1つの出力を備えるスイッチ回路であり、画像入力信号、およびスイッチ回路21の出力が供給されるようになされている。スイッチ回路22は、重ね合わせ順序制御部20に制御されて入力側の接続を切り替え、供給される画像入力信号、およびスイッチ回路21の出力(第1プレーンメモリ18または第2プレーンメモリ19の出力)の内、いずれか一方を選択的に、出力画像信号として、画像合成装置1の外部に出力する。
【0079】
次に、動作について説明する。
【0080】
画像合成装置1に入力された非圧縮の入力画像信号は、同期信号分離処理部11に供給され、垂直同期信号および水平同期信号等の同期信号を抽出される。同期信号分離処理部11は、入力画像信号に含まれる同期信号を、その振幅や周波数等の特徴に基づいて抽出する。抽出された同期信号は、アドレス発生カウンタ12に供給され、画面上の位置を示すアドレス情報に変換され、制御部13、第1プレーンメモリ18、第2プレーンメモリ19、および重ね合わせ順序制御部20に供給される。
【0081】
制御部13は、入力端子14、ROM15、またはドライブ16に装着されたリムーバブルメディア17よりプログラムやデータを取得し、そのプログラムを実行する等して、アドレス発生カウンタ12より供給されたアドレス情報に基づいたタイミングで、合成用画像情報を第1プレーンメモリ18または第2プレーンメモリ19に供給する。
【0082】
制御部13は、第1プレーンメモリ18と第2プレーンメモリ19に、互いに異なる合成用画像情報を供給する。このようにすることにより、後述するように、制御部13に負荷をかけずに、入力画像信号に対応する画像の一部または全部に挿入する画像を切り替えることができる。
【0083】
また、制御部13は、合成用画像情報の出力処理が行われていない側のプレーンメモリに対して新たな合成用画像情報を供給することができる。従って、制御部13は、例えば、他方のプレーンメモリが合成用画像情報の出力処理を行っている間等、入力画像信号に含まれる入力画像情報の垂直ブランキング期間以外のタイミングにおいても新たな合成用画像情報を供給することができ、合成用画像情報の供給処理の負荷を軽減させることができる。これにより、制御部13に必要な性能を下げることができるので、制御部13の製造コストを低減させることができる。
【0084】
なお、プレーンメモリの数は、図1において2つであるように説明したが、これに限らず、3個以上であってももちろんよい。
【0085】
第1プレーンメモリ18または第2プレーンメモリ19は、以上のように制御部13により供給された合成画像情報を保持する。そして、スイッチ回路21からの要求に応じて、保持している合成用画像情報のアドレス情報に対応する部分をスイッチ回路21に出力する。
【0086】
また、制御部13は、入力端子14、ROM15、またはドライブ16に装着されたリムーバブルメディア17よりプログラムやデータを取得し、そのプログラムを実行する等して、アドレス発生カウンタ12より供給されたアドレス情報に基づいたタイミングで、重ね合わせ制御情報を重ね合わせ順序制御部20に供給する。
【0087】
重ね合わせ順序制御部20は、制御部13より供給された重ね合わせ制御情報を、内蔵する記憶部20Aに保持し、アドレス発生カウンタ12より供給されるアドレス情報に基づいて、保持している重ね合わせ制御情報を参照し、スイッチ回路21および22の動作を制御する。
【0088】
スイッチ回路21は、重ね合わせ順序制御部20による制御に基づいて、第1プレーンメモリ18および第2プレーンメモリ19に記憶されている合成用画像情報のいずれか一方を読み出し、スイッチ回路22に供給する。スイッチ回路22は、重ね合わせ順序制御部20による制御に基づいて、入力画像信号またはスイッチ回路21の出力のいずれか一方を選択し、出力画像信号として画像合成装置1の外部に出力する。
【0089】
以上のようにすることにより、画像合成装置1は、入力画像信号に含まれる入力画像情報に合成用画像情報を選択的に合成し、出力画像信号として出力することができる。また、画像合成装置1は、回路規模や製造コストを抑えたまま、容易に、複数の画像情報を合成することができる。
【0090】
次に、図1の画像情勢装置1による画像合成処理を、図4および図5のフローチャートを参照して説明する。また、必要に応じて図6および図7を参照して説明する。
【0091】
最初に、ステップS1において、制御部13は、第1の合成用画像情報を生成するか否かを判定する。生成すると判定した場合、制御部13は、ステップS2に処理を進め、第1の合成用画像情報を生成する。そして、制御部13は、その生成した第1の合成用画像情報を第1プレーンメモリ18に供給する。第1の合成用画像情報を供給された第1プレーンメモリ18は、ステップS3において、供給された第1の合成用画像情報を保持し、ステップS4に処理を進める。
【0092】
例えば、入力画像信号に含まれる入力画像情報に対応する入力画像が、図6Aに示されるような入力画像91であるとき、制御部13は、図6Bに示されるような、入力画像91と同じ画像サイズの第1の合成用画像101に対応する第1の合成用画像情報を生成し、第1プレーンメモリ18に供給する。第1の合成用画像101は、「あいう」の文字を含む領域102、「123」の文字を含む領域103、並びに、それ以外の領域104により構成される。すなわち、第1の合成用画像101は、「あいう」および「123」の文字を入力画像91に挿入させるための画像である。第1プレーンメモリ18は、ステップS3において、供給されたこの第1の合成用画像101に対応する第1の合成用画像情報を保持する。
【0093】
また、ステップS1において、第1の合成用画像情報を生成しないと判定した場合、制御部13は、ステップS2およびS3の処理を省略するように制御し、ステップS4に処理を進める。
【0094】
ステップS4において、制御部13は、第2の合成用画像情報を生成するか否かを判定する。生成すると判定した場合、制御部13は、ステップS5に処理を進め、第2の合成用画像情報を生成する。そして、制御部13は、その生成した第2の合成用画像情報を第2プレーンメモリ19に供給する。第2の合成用画像情報を供給された第2プレーンメモリ19は、ステップS6において、供給された第2の合成用画像情報を保持し、ステップS7に処理を進める。
【0095】
例えば、制御部13は、図6Cに示されるような、入力画像91と同じ画像サイズの第2の合成用画像111に対応する第2の合成用画像情報を生成し、第2プレーンメモリ19に供給する。第2の合成用画像111は、「ABC」の文字を含む領域112、「456」の文字を含む領域113、並びに、それ以外の領域114により構成される。すなわち、第2の合成用画像111は、「ABC」および「456」の文字を入力画像91に挿入させるための画像である。
【0096】
なお、ここでは、説明を簡単にするために、図6Cに示される第2の合成用画像111における領域112の位置や大きさは、図6Bに示される第1の合成用画像101における領域102のそれに対応させてあり、同様に、第2の合成用画像111における領域113の位置や大きさは、第1の合成用画像101における領域103のそれに対応させてある。これらの領域の位置や大きさ等は、互いに独立であってももちろんよい。
【0097】
第2プレーンメモリ19は、ステップS6において、供給されたこの第2の合成用画像111に対応する第2の合成用画像情報を保持する。
【0098】
また、ステップS4において、第2の合成用画像情報を生成しないと判定した場合、制御部13は、ステップS5およびS6の処理を省略するように制御し、ステップS7に処理を進める。
【0099】
ステップS7において、制御部13は、入力画像信号に含まれる入力画像情報に合成用画像情報を合成する(入力画像信号に対応する画像に、合成用画像情報に対応する画像を挿入する)為の制御情報である重ね合わせ制御情報を生成するか否かを判定する。重ね合わせ制御情報を生成すると判定した場合、制御部13は、ステップS8に処理を進め、重ね合わせ制御情報を生成し、重ね合わせ順序制御部20に供給する。重ね合わせ制御情報を供給された重ね合わせ順序制御部20は、ステップS9において、その重ね合わせ制御情報を保持し、図5のステップS11に処理を進める。
【0100】
例えば、制御部13は、図7Aに示されるような、入力画像91と同じ画像サイズの画像121に対応する重ね合わせ制御情報を生成し、重ね合わせ順序制御部20に供給する。重ね合わせ制御情報に対応する画像121は、図6Bに示される第1の合成用画像101の領域102、および、図6Cに示される第2の合成用画像111の領域112と同じ大きさで同じ位置に存在する領域122、図6Bに示される第1の合成用画像101の領域103、および、図6Cに示される第2の合成用画像111の領域113と同じ大きさで同じ位置に存在する領域123、並びに、それ以外の(図6Bに示される第1の合成用画像101の領域104、および、図6Cに示される第2の合成用画像111の領域114と同じ大きさで同じ位置に存在する)領域124により構成されている。
【0101】
図7Aにおいて、重ね合わせ制御情報は、画像121の領域122において、第1プレーンメモリ18に保持されている第1の合成用画像情報を出力し、領域123において、第2プレーンメモリ19に保持されている第2の合成用画像情報を出力し、領域124において、入力画像情報を出力するようになされている。
【0102】
重ね合わせ順序制御部20は、このような重ね合わせ制御情報に基づいて、後述するように、スイッチ回路21および22を制御し、第1の合成用画像情報、第2の合成用画像情報、または、入力画像情報のいずれかを出力させる。
【0103】
図4に戻り、ステップS7において、重ね合わせ制御情報を生成しないと判定した場合、制御部13は、ステップS8およびS9の処理を省略するように制御し、図5のステップS11に処理を進める。
【0104】
図5のステップS11において、同期信号分離処理部11は、供給された入力画像信号より同期信号を分離し、分離した同期信号をアドレス発生カウンタ12に供給する。ステップS12において、アドレス発生カウンタ12は、供給された同期信号に基づいて、1画面分を1周期とするアドレス情報を生成し、制御部13、第1プレーンメモリ18、第2プレーンメモリ19、および重ねあわせ順序制御部20に供給する。
【0105】
制御部13より重ね合わせ制御情報を取得した重ね合わせ順序制御部20は、ステップS13において、アドレス情報に基づいて注目画素を決定し、制御情報に基づいて、その注目画素において、入力画像信号に含まれる画像情報に第1の合成用画像情報を合成するか否かを判定する。第1の合成用画像情報を合成すると判定した場合、重ね合わせ順序制御部20は、ステップS14において、スイッチ回路21および22を制御し、第1の合成用画像情報を出力画像信号として出力するように制御する。すなわち、スイッチ回路21は、この重ね合わせ順序制御部20の制御に基づいて、第1プレーンメモリ18をスイッチ回路22に接続し、第1プレーンメモリ18より第1の合成用画像情報を取得し、スイッチ回路22に供給する。スイッチ回路22は、上述した重ね合わせ制御部20の制御に基づいて、スイッチ回路21の出力を出力側に接続し、スイッチ回路21を介して供給された第1の合成用画像情報を出力画像信号として画像合成装置1の外部に出力する。第1の合成用画像情報を出力したスイッチ回路22は、ステップS18に処理を進める。
【0106】
また、ステップS13において、注目画素において、第1の合成用画像情報を合成しないと判定した場合、重ね合わせ順序制御部20は、ステップS15に処理を進め、注目画素において、入力画像信号に含まれる画像情報に第2の合成用画像情報を合成するか否かを判定する。第2の合成用画像情報を合成すると判定した場合、重ね合わせ順序制御部20は、ステップS16に処理を進め、スイッチ回路21および22を制御し、第2の合成用画像情報を出力画像信号として出力するように制御する。すなわち、スイッチ回路21は、この重ね合わせ順序制御部20の制御に基づいて、第2プレーンメモリ19をスイッチ回路22に接続し、第2プレーンメモリ19より第2の合成用画像情報を取得し、スイッチ回路22に供給する。スイッチ回路22は、上述した重ね合わせ制御部20の制御に基づいて、スイッチ回路21の出力を出力側に接続し、スイッチ回路21を介して供給された第2の合成用画像情報を出力画像信号として画像合成装置1の外部に出力する。第2の合成用画像情報を出力したスイッチ回路22は、ステップS18に処理を進める。
【0107】
また、ステップS15において、注目画素において、第2の合成用画像情報を合成しないと判定した場合、重ね合わせ順序制御部20は、ステップS17に処理を進め、スイッチ回路21および22を制御し、入力画像信号に含まれる入力画像情報を出力画像信号として出力するように制御する。すなわち、スイッチ回路22は、上述した重ね合わせ制御部20の制御に基づいて、入力画像信号が入力される側の入力を出力側に接続し、画像合成装置1の外部より入力された入力画像信号に含まれる入力画像情報を出力画像信号として画像合成装置1の外部に出力する。入力画像情報を出力したスイッチ回路22は、ステップS18に処理を進める。
【0108】
例えば、スイッチ回路21は、図7Aに示される画面121に対応する重ね合わせ制御情報に基づいた重ね合わせ順序制御部20の制御により、図6Bに示される第1の合成用画像101に対応する第1の合成用画像情報と、図6Cに示される第2の合成用画像111に対応する第2の合成用画像情報とを選択的に出力することにより、図7Bに示されるような合成用画像131に対応する合成用画像情報をスイッチ回路22に出力する。
【0109】
図7Bにおいて、合成用画像131は、領域122に対応する領域132、領域123に対応する領域133、および、領域124に対応する領域134により構成されている。領域132においては、第1の合成用画像101の領域102の画像が出力されており、領域133においては、第2の合成用画像111の領域113の画像が出力されている。なお、領域134においては、第1の合成用画像101と第2の合成用画像111のどちらの画像も出力されていない。
【0110】
スイッチ回路22は、図7Aに示される画面121に対応する重ね合わせ制御情報に基づいた重ね合わせ順序制御部20の制御により、図6Aに示される入力画像91に対応する入力画像情報と、図7Bに示される合成用画像131に対応する合成用画像情報とを選択的に出力することにより、図7Cに示されるような出力画像141に対応する出力画像情報を出力画像信号として合成画像装置1の外部に出力する。
【0111】
図7Cにおいて、出力画像141は、領域122に対応する領域142、領域123に対応する領域143、および、領域124に対応する領域144により構成されている。領域142においては、第1の合成用画像101の領域102の画像が出力されており、領域133においては、第2の合成用画像111の領域113の画像が出力されており、領域134においては、入力画像91の画像が出力されている。
【0112】
このように、画像合成装置1の各部は、第1の合成用画像情報、第2の合成用画像情報、および入力画像情報を任意の領域毎に選択的に合成した出力画像情報を生成し、出力画像信号として画像合成装置1の外部に出力する。
【0113】
図5に戻り、ステップS18において、重ね合わせ順序制御部20は、フレーム内の全ての画素、すなわち、1画面分のデータを処理したか否かを判定し、まだアドレス情報1周期分の画素を処理しておらず、フレーム内の全ての画素を処理していないと判定した場合、ステップS19に処理を進め、アドレス情報に合わせて、次の画素に注目し、処理をステップS13に戻し、それ以降の処理を繰り返す。
【0114】
すなわち、画像合成装置1の各部は、ステップS13乃至ステップS19の処理を繰り返すことにより、画素毎に1フレーム分の画像情報を処理する。そして、ステップS18において、フレーム内の全ての画素を処理したと判定した場合、重ね合わせ順序制御部20は、ステップS20に処理を進める。
【0115】
ステップS20において、制御部13は、画像合成処理を終了するか否かを判定し、次のフレームに対応する画像情報が入力画像信号として入力されており、画像合成処理を終了しないと判定した場合、処理を図4のステップS1に戻し、それ以降の処理を繰り返す。
【0116】
すなわち、画像合成装置1の各部は、ステップS1乃至ステップS20の処理を繰り返すことにより、入力画像信号に含まれる全ての入力画像情報に対して、フレーム毎に画像合成処理を行う。これにより、画像合成装置1は、第1の合成用画像情報、第2の合成用画像情報、および入力画像情報を任意の領域毎に選択的に合成した出力画像情報を、フレーム毎に生成し、出力画像信号として画像合成装置1の外部に出力することができる。すなわち、画像合成装置1は、入力画像に挿入されている合成用画像を、任意の領域毎に切り替えることができる。その際、制御部13は、従来のように、合成用画像情報を作成したり、作成した合成用画像情報を入力画像情報に合成するように制御処理を行ったりせずに、重ね合わせ制御情報を重ね合わせ順序制御部20に供給するだけで、容易に、合成用画像を切り替えることができる。
【0117】
そして、ステップS20において、例えば入力画像信号の入力が停止する等して、画像合成処理を終了すると判定した場合、制御部13は、ステップS21に処理を進め、終了処理を実行し、画像合成処理を終了する。
【0118】
画像合成装置1の各部は、以上のようにして画像合成処理を行う。これにより、画像合成装置1は、回路規模や製造コストを抑えたまま、容易に、複数の画像情報を合成することができる。
【0119】
図8は、本発明を適用した画像合成装置の他の構成例を示すブロック図である。なお、図8において、図1に対応する部分については、同一の符号を付してあり、その説明を省略する。
【0120】
図8において、画像合成装置150は、例えば、NTSC方式やPAL方式のテレビジョン信号に含まれている画像信号のような入力画像信号に対応する画像の一部または全部に、文字や図形等を表す他の画像を重畳(混合)し、出力画像信号として出力する装置である。すなわち、画像合成装置150は、入力画像信号に含まれる入力画像情報に、他の画像情報である合成用画像情報を、その2つの画像情報に対応する画像が重畳(混合)されるように合成し、出力する。このとき、画像合成装置150は、入力画像信号に対応する画像の画面内における複数の領域に文字や図形等が、その領域毎に、互いに独立的に合成されるように、画像情報を合成することができる。例えば、画像合成装置150は、入力画像信号に対応する画像に重畳(混合)された他の画像の一部を変形させたり、さらに他の画像に切り替えたり、他の位置に移動させたりすることができる。また、画像合成装置150は、重畳(混合)された2つの画像の濃淡を変化させることもできる。
【0121】
画像合成装置150の制御部151は、図1の制御部13の場合と同様に、図示は省略するが、制御処理部、演算部、記憶部等を内蔵している。制御部151は、画像合成装置150の外部より供給されたプログラムやデータを、入力端子14を介して取得したり、ROM15を制御し、ROM15に記憶されているプログラムやデータを取得したり、ドライブ16を制御し、ドライブ16に装着されたリムーバブルメディア17より読み出されたプログラムやデータを取得したりする。そして、そのようにして取得したプログラムやデータに基づいて、制御部150は、第1プレーンメモリ18、第2プレーンメモリ19、混合比率制御部152、並びに、乗算器153乃至155の制御処理を行う。
【0122】
具体的には、制御部151は、上述したようにしてデータとして取得した混合比率制御情報、または、上述したようにして取得したプログラムを実行して生成した混合比率制御情報を、アドレス発生カウンタ12より供給されたアドレス情報に基づいて、混合比率制御部152に供給することにより、混合比率制御部152の動作を制御するとともに、混合比率制御部152を介して乗算器153乃至155の動作を制御する。
【0123】
また、制御部151は、図1の制御部13の場合と同様に、上述したようにしてデータとして取得した、入力画像信号に含まれる入力画像情報に合成させる非圧縮の合成用画像情報、または、上述したようにして取得したプログラムを実行して生成した合成用画像情報を、アドレス発生カウンタ12より供給されたアドレス情報に基づいて、第1プレーンメモリ18または第2プレーンメモリ19に供給することにより、それらの動作を制御する。
【0124】
なお、その際、第1プレーンメモリ18が1度に保持する合成用画像情報のデータ量と、第2プレーンメモリ19が1度に保持する合成用画像情報のデータ量と、さらに、混合比率制御部152が1度に保持する混合比率制御情報の制御に対応する合成用画像情報のデータ量が、例えば同じ画像サイズの1画面分のデータ量に統一される等して、全て同じデータ量であるようにする方が、制御部151による制御処理が容易になり、その処理の負荷を軽減させることができる。
【0125】
混合比率制御部152は、記憶部152Aを有しており、制御部151より供給される混合比率制御情報を記憶し、その混合比率制御情報、アドレス発生カウンタ12より供給されるアドレス情報、並びに、第1プレーンメモリ18または第2プレーンメモリ19より供給される合成画像情報に基づいて、乗算器153乃至155の動作を制御し、入力画像信号に含まれる入力画像情報と合成用画像情報との合成処理を制御する。
【0126】
混合比率制御部152は、例えば、図9Aに示されるように、その記憶部152Aの記憶領域170に、入力画像信号の入力画像と合成用画像との合成(混合)を画素単位で制御する混合比率制御情報171を1画面分保持する。画素単位の混合比率制御情報171は、6ビットで構成され、第1プレーンメモリ18および第2プレーンメモリ19に保持されている合成用画像情報、並びに入力画像信号に含まれる入力画像情報の混合比を指示する画素単位の制御情報である。図9Aの場合、画素単位の混合比率制御情報171を構成する6ビットの内の2ビットであるビット群181が第1プレーンメモリ18に保持されている合成用画像情報の混合比を指定する情報を保持し、同じく2ビットで構成されるビット群182が第2プレーンメモリ19に保持されている合成用画像情報の混合比を指定する情報を保持し、さらに、残りの2ビットで構成されるビット群183が入力画像情報の混合比を指定する情報を保持している。
【0127】
すなわち、この場合、第1プレーンメモリ18および第2プレーンメモリ19に保持されている合成用画像情報、並びに入力画像信号に含まれる入力画像情報の混合比は、それぞれ、4段階の設定を行うことができるようになされている。なお、各画像情報の混合比の指定は、何段階で行うようにしてもよく、各画像情報の混合比の指定に割り当てられるビット数は、何ビットであってもよい。また、各画像情報の混合比の指定に割り当てられるビット数は、互いに異なるビット数であってももちろんよい。すなわち、図9Aにおいて、画素単位の混合比率制御情報171を構成するビットの数はいくつであってもよい。
【0128】
なお、混合比率制御部152が保持する混合比率制御情報自体のデータ量(画素単位の混合比率制御情報171を構成するビットの数によるデータ量)は、どのような大きさであってももちろんよいが、できるだけ小さい方が、制御部151の処理の負荷を軽減させることができる。ただし、上述したように、混合比率制御情報のデータ量(画素単位の混合比率制御情報171を構成するビットの数によるデータ量)が大きいほど、各画像情報の混合比の指定を細かく設定することができる。
【0129】
混合比率制御部152は、このように保持している画素単位の混合比率制御情報を、アドレス情報に基づいて順次参照し、乗算器153乃至155の動作を制御し、各画像情報にそれぞれの混合比率に応じた係数である混合係数を乗算させる。従って、混合比率制御部152は、入力画像信号に対応する画像の画素単位の制御を行うことができ、入力画像信号に対応する画像の画面内における任意の位置において、第1プレーンメモリ18または第2プレーンメモリ19のいずれかに記憶されている合成用画像情報の画像(合成用画像情報の画像の、画面内位置が対応する部分)を混合するように合成させることができる。
【0130】
なお、混合比率制御部152が1度に保持する混合比率制御情報のデータ量(画素単位の混合比率制御情報171の数によるデータ量)は、1画面分より大きくても小さくてもよく、どのような大きさであってもよい。
【0131】
また、混合比率制御部152は、図9Aに示される方法以外にも、例えば図9Bに示されるように、合成する画像情報の混合比が同じである画素の並びに基づいて、混合比率制御情報をテーブル化した情報を保持するようにしてもよい。
【0132】
図9Bにおいては、混合比率制御部152は、制御部151より供給された混合比率制御情報を表現するテーブル190を保持している。テーブル190は、合成する画像情報の混合比が同じであり、かつ、連続する画素について、制御情報をグループ化した画素列毎の混合比率制御情報のテーブルであり、その画素列の1画面上における開始アドレスを示す開始アドレス欄191、画素列の1画面上における終了アドレスを示す終了アドレス欄192、および、その画素列における合成用画像情報の混合比率を示す混合比率情報欄193により構成される。
【0133】
混合比率情報欄193には、画像情報毎に混合比率を示す欄が設けられている。図9Bの場合、混合比率情報193は、第1プレーンメモリ18に保持されている合成用画像情報の混合比率を示す第1プレーンメモリ欄193A、第2プレーンメモリ19に保持されている合成用画像情報の混合比率を示す第2プレーンメモリ欄193B、および、入力画像情報の混合比率を示す入力画像情報欄193Cにより構成されている。
【0134】
例えば、テーブル190において、行201には、入力画像情報に対応する画像の1画面上におけるアドレス「aaaa」乃至「bbbb」の画素列において、第1プレーンメモリ18に保持されている合成用画像情報は30%の混合比で混合され、第2プレーンメモリ19に保持されている合成用画像情報は30%の混合比で混合され、入力画像情報は40%の混合比で混合されることが示されている。
【0135】
このような場合、混合比率制御部152は、テーブル190の、アドレス情報に対応する行の混合比率情報欄193の情報を参照し、各画像情報を指定された混合比率で合成するように、乗算器153乃至155を制御し、各画像情報にそれぞれの混合比率に応じた混合係数を乗算させる。
【0136】
なお、混合比率制御部152は、第1プレーンメモリ18または第2プレーンメモリ19より供給された合成画像情報を参照し、これらの合成画像情報において、現在のアドレス情報に対応する位置の画素に合成画像が存在しない場合、その画像情報を混合させないように、乗算器153または154を制御する。すなわち、その場合、混合比率制御部152は、その画像情報に対応する乗算器153または154を制御し、その画像情報に値が「0」の混合係数を乗算させる。このようにすることにより、画像合成装置1は、実際に合成画像が存在する部分についてのみ、その画像情報を入力画像情報に混合させることができ、出力画像の画質劣化などを抑制することができる。
【0137】
乗算器153は、第1プレーンメモリ18より供給された合成用画像情報に、混合比率制御部152より取得した混合係数を乗算し、その演算結果を加算器156に供給する。乗算器154は、第2プレーンメモリ19より供給された合成用画像情報に、混合比率制御部152より取得した混合係数を乗算し、その演算結果を加算器156に供給する。乗算器155は、入力画像情報に、混合比率制御部152より取得した混合係数を乗算し、その演算結果を加算器156に供給する。
【0138】
加算器156は、乗算器153乃至155より供給された各画像情報を加算し、出力画像信号として、画像合成装置150の外部に出力する。
【0139】
次に、動作について説明する。
【0140】
画像合成装置150に入力された非圧縮の入力画像信号は、同期信号分離処理部11に供給され、垂直同期信号および水平同期信号等の同期信号を抽出される。同期信号分離処理部11は、入力画像信号に含まれる同期信号を、その振幅や周波数等の特徴に基づいて抽出する。抽出された同期信号は、アドレス発生カウンタ12に供給され、画面上の位置を示すアドレス情報に変換され、制御部151、第1プレーンメモリ18、第2プレーンメモリ19、および混合比率制御部152に供給される。
【0141】
制御部151は、入力端子14、ROM15、またはドライブ16に装着されたリムーバブルメディア17よりプログラムやデータを取得し、そのプログラムを実行する等して、アドレス発生カウンタ12より供給されたアドレス情報に基づいたタイミングで、合成用画像情報を第1プレーンメモリ18または第2プレーンメモリ19に供給する。
【0142】
制御部151は、第1プレーンメモリ18と第2プレーンメモリ19に、互いに異なる合成用画像情報を供給する。このようにすることにより、制御部151に負荷をかけずに、入力画像信号に対応する画像の一部または全部に混合する画像を切り替えることができる。
【0143】
また、制御部151は、合成用画像情報の出力処理が行われていないプレーンメモリに対して新たな合成用画像情報を供給することができる。従って、制御部151は、例えば、保持している合成用画像情報の出力処理が終了したプレーンメモリに対して、入力画像信号に含まれる入力画像情報の垂直ブランキング期間以外のタイミングにおいても新たな合成用画像情報を供給することができ、合成用画像情報の供給処理の負荷を軽減させることができる。これにより、制御部13に必要な性能を下げることができるので、制御部151の製造コストを低減させることができる。
【0144】
なお、プレーンメモリの数は、図8において2つであるように説明したがこれに限らず、3個以上であってももちろんよい。
【0145】
制御部151より合成画像情報を供給された第1プレーンメモリ18および第2プレーンメモリ19は、その合成画像情報を保持し、供給されるアドレス情報に基づいたタイミングで、保持している合成用画像情報の、そのアドレス情報に対応する部分を、それぞれ、乗算器153または154に出力するとともに、混合比率制御部152にも供給する。
【0146】
また、制御部151は、入力端子14、ROM15、またはドライブ16に装着されたリムーバブルメディア17よりプログラムやデータを取得し、そのプログラムを実行する等して、アドレス発生カウンタ12より供給されたアドレス情報に基づいたタイミングで、混合比率制御情報を混合比率制御部152に供給する。
【0147】
制御部151より混合比率情報を供給された混合比率制御部152は、その混合比率情報を、内蔵する記憶部152Aに保持し、アドレス発生カウンタ12より供給されるアドレス情報に基づいて、保持している混合比率制御情報を参照し、乗算器153乃至155に混合係数を供給することにより、それらの動作を制御する。
【0148】
その際、混合比率制御部152は、第1プレーンメモリ18または第2プレーンメモリ19より供給された合成用画像情報を参照し、現在アドレス情報に対応する画素に、混合する画像が存在するか否かを判定し、存在しないと判定した場合、その合成用画像を混合しないように、乗算器153または154に値が「0」の混合係数を供給して制御する。すなわち、混合比率制御部152は、混合比率制御情報において、合成用画像情報を混合するように指定されている領域においても、その合成用画像に、実際に合成する画像(例えば、文字や図形等)が存在しない場合は、その合成用画像情報を混合しないように制御する。
【0149】
第1プレーンメモリ18より合成用画像情報を供給された乗算器153は、その合成用画像情報に、混合比率制御部152より供給された混合係数を乗算し、演算結果を加算器156に供給する。第2プレーンメモリ19より合成用画像情報を供給された乗算器154は、その合成用画像情報に、混合比率制御部152より供給された混合係数を乗算し、演算結果を加算器156に供給する。入力画像情報(入力画像信号)を供給された乗算器155は、その入力画像情報に、混合比率制御部152より供給された混合係数を乗算し、演算結果を加算器156に供給する。
【0150】
加算器156は、乗算器153乃至155より供給された画像情報を画素単位で加算し、出力画像情報を生成し、出力画像信号として画像合成装置150の外部に出力する。
【0151】
以上のようにすることにより、画像合成装置150は、入力画像信号に含まれる入力画像情報に合成用画像情報を混合するように合成し、出力画像信号として出力することができる。また、画像合成装置150は、回路規模や製造コストを抑えたまま、容易に、複数の画像情報を合成することができる。
【0152】
次に、図8の画像情勢装置150による画像合成処理を、図10および図11のフローチャートを参照して説明する。また、必要に応じて図12乃至図14を参照して説明する。
【0153】
最初に、ステップS41において、制御部151は、第1の合成用画像情報を生成するか否かを判定する。生成すると判定した場合、制御部151は、ステップS42に処理を進め、第1の合成用画像情報を生成する。そして、制御部151は、その生成した第1の合成用画像情報を第1プレーンメモリ18に供給する。第1の合成用画像情報を供給された第1プレーンメモリ18は、ステップS43において、供給された第1の合成用画像情報を保持し、ステップS44に処理を進める。
【0154】
例えば、入力画像信号に含まれる入力画像情報に対応する入力画像が、図12Aに示されるような入力画像211であるとき、制御部151は、図12Bに示されるような、入力画像211と同じ画像サイズの第1の合成用画像221に対応する第1の合成用画像情報を生成し、第1プレーンメモリ18に供給する。第1の合成用画像221は、黒く塗りつぶされた円の図形を含む領域222、黒く塗りつぶされたドーナツ状の図形(同心円)を含む領域223、並びに、それ以外の領域224により構成される。すなわち、第1の合成用画像221は、黒く塗りつぶされた円および黒く塗りつぶされたドーナツ状の図形(同心円)を入力画像211に合成(混合)させるための画像である。第1プレーンメモリ18は、ステップS43において、供給されたこの第1の合成用画像221に対応する第1の合成用画像情報を保持する。
【0155】
また、ステップS41において、第1の合成用画像情報を生成しないと判定した場合、制御部151は、ステップS42およびS43の処理を省略するように制御し、ステップS44に処理を進める。
【0156】
ステップS44において、制御部151は、第2の合成用画像情報を生成するか否かを判定する。生成すると判定した場合、制御部151は、ステップS45に処理を進め、第2の合成用画像情報を生成する。そして、制御部151は、その生成した第2の合成用画像情報を第2プレーンメモリ19に供給する。第2の合成用画像情報を供給された第2プレーンメモリ19は、ステップS46において、供給された第2の合成用画像情報を保持し、ステップS47に処理を進める。
【0157】
例えば、制御部151は、図12Cに示されるような、入力画像211と同じ画像サイズの第2の合成用画像231に対応する第2の合成用画像情報を生成し、第2プレーンメモリ19に供給する。第2の合成用画像231は、黒く塗りつぶされた三角形を含む領域232、黒く塗りつぶされた四角形を含む領域233、並びに、それ以外の領域234により構成される。すなわち、第2の合成用画像231は、黒く塗りつぶされた三角形および黒く塗りつぶされた四角形を入力画像231に合成(混合)させるための画像である。
【0158】
なお、ここでは、説明を簡単にするために、図12Cに示される第2の合成用画像231における領域232の位置や大きさは、図12Bに示される第1の合成用画像221における領域222のそれに対応させてあり、同様に、第2の合成用画像231における領域233の位置や大きさは、第1の合成用画像221における領域223のそれに対応させてある。これらの領域の位置や大きさ等は、互いに独立であってももちろんよい。
【0159】
第2プレーンメモリ19は、ステップS46において、供給されたこの第2の合成用画像231に対応する第2の合成用画像情報を保持する。
【0160】
また、ステップS44において、第2の合成用画像情報を生成しないと判定した場合、制御部151は、ステップS45およびS46の処理を省略するように制御し、ステップS47に処理を進める。
【0161】
ステップS47において、制御部151は、入力画像信号に含まれる入力画像情報に合成用画像情報を合成する(入力画像信号に対応する画像に、合成用画像情報に対応する画像を混合する)為の制御情報である混合比率制御情報を生成するか否かを判定する。混合比率制御情報を生成すると判定した場合、制御部151は、ステップS48に処理を進め、混合比率制御情報を生成し、混合比率制御部152に供給する。混合比率制御情報を供給された混合比率制御部152は、ステップS49において、その混合比率制御情報を保持し、図11のステップS51に処理を進める。
【0162】
例えば、制御部151は、図13Aに示されるような、図の右側を上とする斜線模様の入力画像211と同じ画像サイズの画像241に対応する混合比率制御情報を生成し、混合比率制御部152に供給する。混合比率制御情報に対応する画像241は、領域242、領域243、並びに、それ以外の領域である領域244に分けられており、各領域において、互いに独立して、画像情報の混合比率が指定されている。
【0163】
領域242の位置と大きさは、図12Bに示される第1の合成用画像221の領域222、および、図12Cに示される第2の合成用画像231の領域232と対応しており、領域243の位置と大きさは、図12Bに示される第1の合成用画像221の領域223、および、図12Cに示される第2の合成用画像231の領域233と対応しており、領域242の位置と大きさは、図12Bに示される第1の合成用画像221の領域224、および、図12Cに示される第2の合成用画像231の領域234と対応している。
【0164】
図13Aに示される画像241に対応する混合比率制御情報は、領域242において、第1の合成用画像情報を50%、第2の合成用画像情報を30%、入力画像情報を20%の割合で混合し出力するように設定されている。また、この混合比率制御情報は、領域123において、第2の合成用画像情報を50%、入力画像情報を50%の割合で混合し出力するように設定されている。さらに、この混合比率制御情報は、領域124において、合成用画像情報を混合せずに、入力画像情報のみを出力するように設定されている。
【0165】
混合比率制御部152は、このような混合比率制御情報に基づいて、混合係数を供給することで乗算器153乃至155を制御し、第1の合成用画像情報、第2の合成用画像情報、または、入力画像情報を所定の割合で混合した画像を出力する。
【0166】
図10に戻り、ステップS47において、混合比率制御情報を生成しないと判定した場合、制御部152は、ステップS48およびS49の処理を省略するように制御し、図11のステップS51に処理を進める。
【0167】
図11のステップS51において、同期信号分離処理部11は、供給された入力画像信号より同期信号を分離し、分離した同期信号をアドレス発生カウンタ12に供給する。ステップS52において、アドレス発生カウンタ12は、供給された同期信号に基づいて、1画面分を1周期とするアドレス情報を生成し、制御部151、第1プレーンメモリ18、第2プレーンメモリ19、および混合比率制御部152に供給する。
【0168】
制御部151より混合比率制御情報を取得した混合比率制御部152は、ステップS53において、アドレス情報に基づいて注目画素を決定し、混合比率制御情報に基づいて、その注目画素において、入力画像信号に含まれる画像情報に第1または第2の合成用画像情報を混合するか否かを判定する。第1または第2の合成用画像情報を混合すると判定した場合、混合比率制御部152は、ステップS54に処理を進め、第1プレーンメモリ18または第2プレーンメモリ19より取得した第1または第2の合成用画像情報に基づいて、その注目画素において合成用画像(合成する文字や図形)が存在するか否かを判定する。
【0169】
ステップS54において、合成用画像が存在すると判定した場合、混合比率制御部152は、ステップS55に処理を進め、混合比率制御情報に基づいて、混合係数を乗算器153乃至155に供給し、第1または第2の合成用画像情報を入力画像情報に合成するように制御する。すなわち、混合比率制御情報152は、混合比率制御情報に基づいた値の混合係数を乗算器153乃至155に供給し、乗算器153は、供給された混合係数を第1の合成用画像情報に乗算して加算器156に出力し、乗算器154は、供給された混合係数を第2の合成用画像情報に乗算して加算器156に出力し、乗算器155は、供給された混合係数を入力画像情報に乗算して加算器156に出力する。そして、乗算器153乃至155を制御した混合比率制御部152は、ステップS57に処理を進める。
【0170】
ところで、ステップS53において、注目画素において、入力画像信号に含まれる画像情報に第1または第2の合成用画像情報を混合しないと判定した場合、混合比率制御部152は、ステップS56に処理を進め、合成用画像情報を合成せずに入力画像情報のみを出力するように、混合係数を乗算器153乃至155に供給し、それらの混合係数を各画像情報に乗算させる。すなわち、混合比率制御情報152は、値が「0」の混合係数を乗算器153および154に供給し、値が「1」の混合係数を乗算器155に供給する。乗算器153乃至155は、供給されたそれらの混合係数を各画像情報に乗算して加算器156に出力する。従ってこの場合、加算器156には、乗算器153および154より値が「0」の信号が供給され、乗算器155より入力画像情報がそのまま供給される。
【0171】
ステップS56の処理が終了すると、混合比率制御部152は、ステップS57に処理を進める。
【0172】
また、ステップS54において、合成用画像が存在しないと判定した場合、混合比率制御部152は、ステップS56に処理を進め、上述したように、合成用画像情報を合成せずに入力画像情報のみを出力するように、混合係数を乗算器153乃至155に供給し、それらの混合係数を各画像情報に乗算させる。ステップS56の処理が終了すると、混合比率制御部152は、ステップS57に処理を進める。
【0173】
ステップS57において、混合係数を乗算された後の各画像情報を供給された加算器156は、その各画像情報を合成し、出力画像信号として、画像合成装置150の外部に出力する。
【0174】
例えば、乗算器153は、混合比率制御部152より供給された混合係数を、図12Bに示されるような第1の合成用画像221に対応する第1の合成用画像情報に乗算する。図13Aの画像241に示されるように、乗算器153は、第1の合成用画像221において領域222に位置する画素の画像情報に対して値が「0.5」の混合係数を乗算し、領域223および領域224に位置する画素の画像情報に対して値が「0」の混合係数を乗算する。
【0175】
乗算器153は、このようにして、図13Bに示される第1の合成用画像251に対応する第1の合成用画像情報を生成する。第1の合成用画像251は、横線模様の円の図形を含む領域252、横線模様のドーナツ状の図形(同心円)を含む領域253、並びに、それ以外の領域254により構成される。
【0176】
領域252は、図12Bの領域222に対応する領域である。領域222の黒く塗りつぶされた円の図形は、混合係数を乗算されることにより、領域252において横線模様の円の図形となっている。従って、この横線模様の円の図形の位置や大きさは、領域222の黒く塗りつぶされた円の図形と同じである。領域253は、図12Bの領域223に対応する領域である。領域222の黒く塗りつぶされたドーナツ状の図形(同心円)は、値が「0」の混合係数を乗算されることにより消去され、領域253にはその図形は存在しない。また、領域254は、図12Bの領域224に対応する領域である。
【0177】
乗算器153は、以上のようにして得られた第1の合成用画像情報を加算器156に供給する。
【0178】
また、例えば、乗算器154は、混合比率制御部152より供給された混合係数を、図12Cに示されるような第2の合成用画像231に対応する第2の合成用画像情報に乗算する。図13Aの画像241に示されるように、乗算器154は、第2の合成用画像231において領域232に位置する画素の画像情報に対して値が「0.3」の混合係数を乗算し、領域223に位置する画素の画像情報に対して値が「0.5」の混合係数を乗算し、領域224に位置する画素の画像情報に対して値が「0」の混合係数を乗算する。
【0179】
乗算器154は、このようにして、図13Cに示される第2の合成用画像261に対応する第2の合成用画像情報を生成する。第2の合成用画像261は、縦線模様の三角形を含む領域262、縦線模様の四角形を含む領域263、並びに、それ以外の領域264により構成される。
【0180】
領域262は、図12Cの領域232に対応する領域である。領域232の黒く塗りつぶされた三角形は、混合係数を乗算されることにより、領域262において縦線模様の三角形となっている。従って、この縦線模様の三角形の位置や大きさは、領域232の黒く塗りつぶされた三角形と同じである。領域263は、図12Cの領域233に対応する領域である。領域233の黒く塗りつぶされた四角形は、混合係数を乗算されることにより、領域263において縦線模様の四角形となっている。従って、この縦線模様の四角形の位置や大きさは、領域233の黒く塗りつぶされた四角形と同じである。また、領域264は、図12Cの領域234に対応する領域である。
【0181】
乗算器154は、以上のようにして得られた第2の合成用画像情報を加算器156に供給する。
【0182】
さらに、例えば、乗算器155は、混合比率制御部152より供給された混合係数を、図12Aに示されるような入力画像211に対応する入力画像情報に乗算する。図13Aの画像241に示されるように、乗算器155は、入力画像211に対して、画像241の領域242に位置する画素の画像情報に対して値が「0.2」の混合係数を乗算し、画像241の領域243に位置する画素の画像情報に対して値が「0.5」の混合係数を乗算し、画像241の領域244に位置する画素の画像情報に対して値が「1」の混合係数を乗算する。
【0183】
乗算器155は、このようにして、図14Aに示される入力画像271に対応する入力画像情報を生成する。入力画像271は、図の左側を上とする斜線模様の領域272、図の左側を上とする斜線模様の領域273、並びに、それ以外の、図の右側を上とする斜線模様の領域274により構成される。
【0184】
領域272は、図13Aの領域242に対応する領域である。この領域において、図の右側を上とする斜線模様の入力画像211は、混合係数を乗算されることにより、図の左側を上とする斜線模様となっている。また、領域273は、図13Aの領域243に対応する領域である。この領域において、図の右側を上とする斜線模様の入力画像211は、混合係数を乗算されることにより、図の左側を上とする斜線模様となっている。さらに、領域274は、図13Aの領域244に対応する領域である。この領域において、図の右側を上とする斜線模様の入力画像211は、値が「1」の混合係数を乗算されているので、画像は変化しない。
【0185】
乗算器155は、以上のようにして得られた入力画像情報を加算器156に供給する。
【0186】
加算器156は、以上のような画像情報をそれぞれ取得し、それらを加算して合成し、図14Bに示されるような出力画像281に対応する出力画像情報を生成する。
【0187】
出力画像281は、図13Bの第1の合成用画像251、図13Cの第2の合成用画像261、並びに、図14Aの入力画像271を加算して合成した画像であり、領域282乃至領域284により構成されている。領域282は、図13Aの領域242に対応する領域であり、領域283は、領域243に対応する領域であり、領域284は、領域244に対応する領域である。
【0188】
従って、領域282には、図13Bの領域252に存在する横線模様の円の図形、図13Cの領域262に存在する縦線模様の三角形、並びに、図14Aの入力画像271における領域272の、図の右側を上とする斜線模様がそれぞれ含まれている。すなわち、領域282の画像は、領域252、領域262、および領域272の画像が混合された画像である。このとき、領域252と領域262の、円や三角形等の図形が存在しない部分については、領域252と領域262の画像は混合されず、領域272の画像がそのまま領域282の画像となっている。
【0189】
また、領域283には、図13Cの領域263に存在する縦線模様の四角形、並びに、図14Aの入力画像271における領域274の、図の右側を上とする斜線模様がそれぞれ含まれている。すなわち、領域283の画像は、領域263、および領域273の画像が混合された画像である。このとき、領域263の四角形が存在しない部分については、領域263の画像は混合されず、領域273の画像がそのまま領域283の画像となっている。
【0190】
領域284においては、図14Aの入力画像271における領域274の、図の右側を上とする斜線模様の画像がそのまま出力されている。
【0191】
以上のように、加算器156は、入力画像情報、第1および第2の合成画像情報を合成し、出力画像信号として、画像合成装置150の外部に出力する。
【0192】
図11に戻り、ステップS58において、混合比率制御部152は、フレーム内の全ての画素、すなわち、1画面分のデータを処理したか否かを判定し、まだアドレス情報1周期分の画素を処理しておらず、フレーム内の全ての画素を処理していないと判定した場合、ステップS59に処理を進め、アドレス情報に合わせて、次の画素に注目し、処理をステップS53に戻し、それ以降の処理を繰り返す。
【0193】
すなわち、画像合成装置150の各部は、ステップS53乃至ステップS59の処理を繰り返すことにより、画素毎に1フレーム分の画像情報を処理する。そして、ステップS58において、フレーム内の全ての画素を処理したと判定した場合、混合比率制御部152は、ステップS60に処理を進める。
【0194】
ステップS60において、制御部151は、画像合成処理を終了するか否かを判定し、次のフレームに対応する画像情報が入力画像信号として入力されており、画像合成処理を終了しないと判定した場合、処理を図10のステップS41に戻し、それ以降の処理を繰り返す。
【0195】
すなわち、画像合成装置150の各部は、ステップS41乃至ステップS60の処理を繰り返すことにより、入力画像信号に含まれる全ての入力画像情報に対して、フレーム毎に画像合成処理を行う。これにより、画像合成装置150は、第1の合成用画像情報、第2の合成用画像情報、および入力画像情報を任意の領域毎に混合して合成した出力画像情報を、フレーム毎に生成し、出力画像信号として画像合成装置150の外部に出力することができる。すなわち、画像合成装置150は、入力画像に混合されている合成用画像を、任意の領域毎に切り替えることができる。その際、制御部151は、従来のように、合成用画像情報を作成したり、作成した合成用画像情報を入力画像情報に合成するように制御処理を行ったりせずに、混合比率制御情報を混合比率制御部152に供給するだけで、容易に、合成用画像を切り替えることができる。
【0196】
そして、ステップS60において、例えば入力画像信号の入力が停止する等して、画像合成処理を終了すると判定した場合、制御部151は、ステップS61に処理を進め、終了処理を実行し、画像合成処理を終了する。
【0197】
画像合成装置150の各部は、以上のようにして画像合成処理を行う。これにより、画像合成装置150は、回路規模や製造コストを抑えたまま、容易に、複数の画像情報を合成することができる。
【0198】
以上のように、本発明を適用した画像合成装置は、回路規模や製造コストを抑えたまま、容易に、より多様で複雑な方法を用いて複数の画像情報を合成することができる。
【0199】
次に、以上のような画像合成装置を装置の一部として用いた場合の例について説明する。
【0200】
図15は、本発明を適用したカムコーダ(登録商標)の構成例を示すブロック図である。
【0201】
図15において、カムコーダ300は、被写体を撮像し、得られた画像情報(動画像または静止画像)を記録媒体に記録したり、その画像情報に対応する画像をディスプレイに表示したりする。その際、カムコーダ300は、撮像により得られた画像情報に、他の画像を上述したように合成する。
【0202】
カムコーダ300のカメラ部310は、後述するように制御部340に制御され、撮像処理を行い、画像情報を生成し、DSP(Digital Signal Processor)320にその画像情報を供給する。
【0203】
図示せぬ被写体からの光は、カメラ部310において、レンズや絞り機構等により構成されるレンズ部311を介してCCD(Charge Coupled Device)312に入射され、光電変換される。
【0204】
CCD312が出力する画像信号は、前処理回路313に供給されている。前処理回路313は、図示せぬCDS回路(Correlated Double Sampling circuit)、AGC回路(Automatic Gain Control circuit)、並びに、A/D(Analog / Digital)変換器等により構成されている。前処理回路313は、CDS回路において、入力された画像信号のノイズ成分を除去し、AGC回路において、その画像信号のゲインを調整した後、A/D変換器において、アナログ信号である画像信号をデジタル信号に変換し、画像情報としてDSP320に出力する。
【0205】
また、カメラ部310には、制御部340のCPU(Central Processing Unit)341に制御され、タイミング信号を生成するタイミング生成回路314が設けられている。タイミング生成回路314は、CPU341に制御され、レンズ部311の動作を制御するドライバ315、CCD312の動作を制御する316、並びにCCD312にそれぞれタイミング信号を供給する。
【0206】
ドライバ315は、供給されたタイミング信号に基づいて、レンズ部311の動作を制御し、絞り、ズーム、またはシャッタ等の調整を行う。ドライバ316は、供給されたタイミング信号に基づいて、CCD312に制御信号を供給する。CCD312は、ドライバ316より供給された制御信号や、タイミング生成回路314より供給されたタイミング信号に基づいて、画像信号の取り込み等の処理を行う。
【0207】
前処理回路313より画像情報を供給されたDSP320は、画像情報の調整に関する処理を行う調整処理部321、画像情報を圧縮したり伸張したりする圧縮伸張処理部322、並びに、画像情報を保持するSDRAM(Synchronous Dynamic Random Access Memory)331の入出力を制御するSDRAMコントローラ323等を内蔵している。DSP320は、得られた画像情報を、必要に応じてSDRAM331に保持させてデジタル信号処理を施し、処理後の画像情報を制御部340に供給する。
【0208】
調整処理部321は、画像情報に基づいてAF(Auto Focus)、AE(Auto Exposure)、およびAWB(Auto White Balance)等の制御信号を生成し、その制御信号を、バス332を介して制御部340に供給する。また、圧縮伸張部322は、画像情報を、所定の圧縮伸張方式により、圧縮したり、伸張したりする。その際、圧縮伸張部322は、SDRAMコントローラ323に制御されたSDRAM331にその画像情報を一時的に保持させながら、処理を行う。
【0209】
このようにデジタル信号処理が施された画像情報は、バス332を介して、制御部340に供給される。
【0210】
制御部340は、CPU341、ROM342、RAM(Random Access Memory)343、および時計回路345等により構成され、このカムコーダ300の各部を制御する。
【0211】
CPU341は、ROM342に記憶されているプログラム、または、ドライブ354に装着されたリムーバブルメディア355や、外部I/F(InterFace)357を介してカムコーダ300の外部からRAM343にロードされたプログラムに従って各部を制御したり、各種の処理を実行したりする。RAM343にはまた、CPU341が各種の処理を実行する上において必要なデータなども適宜記憶される。RAM343には、また、各部が処理する画像情報等も一時的に保持される。
【0212】
また、CPU341は、入力部356より入力されたユーザからの指示情報や、DSP320より供給された制御情報、または、各種のプログラムを実行することにより得られた情報等に基づいて、タイミング生成回路314を制御し、レンズ部311や、CCD312の動作を制御する。
【0213】
時計回路345は、各部の要求に応じて、現在年月日、現在曜日、現在時刻を提供するとともに、撮影日時などを提供する。
【0214】
CPU341、ROM342、RAM343、および時計回路345は、バス344を介して相互に接続されている。このバス344にはまた、上述したDSP320が接続されているバス332が接続されている。
【0215】
また、バス344には、複数の画像情報を合成する画像合成処理部351が接続されている。
【0216】
画像合成処理部351の詳細な構成は、図1に示される画像合成装置1、または図8に示される画像合成装置150と基本的に同様の構成であり、同様に動作するので、図1または図8のブロック図を適用することができる。すなわち、画像合成処理部351は、上述した画像合成装置1または画像合成装置150の場合と同様の処理を行って、複数の画像情報を合成する。この場合、画像合成処理部351は、後述するように、バス344を介してCPU341に制御されて処理を行う。従って、画像合成処理部351は、図1および図8の場合と異なり、入力端子14がバス344に接続されていればよく、ROM15やドライブ16(リムーバブルメディア17)は、設けられていなくてもよい。なお、画像情勢処理部351の場合、入力画像信号は、バス344より入力されるようにし、出力画像信号は、バス344に出力されるようになされている。
【0217】
バス344には、さらに、LCD(Liquid Crystal Display)353の動作や入出力される情報を制御するLCD制御部352、必要に応じて、フレキシブルディスク、ハードディスク、若しくは磁気テープ等からなる磁気記録媒体、光ディスク、光磁気ディスク、或いは半導体メモリ等からなるリムーバブルメディア355が装着されるドライブ354、ユーザの操作を受け付ける入力部356、他の装置が接続される外部I/F357が接続されている。
【0218】
LCD制御部352は、図示せぬVRAM(Video Random Access Memory)が内蔵されている。LCD制御部352は、例えば、DSP320より取得した画像情報、CPU341より取得した画像情報、RAM343に保持されている画像情報、画像合成部351より取得した画像情報、リムーバブルメディア355に記憶されている画像情報、または、外部I/F357を介して取得した画像情報等を、内蔵するVRAMに記憶させ、そのVRAMに記憶されている画像データに対応する画像を、LCD353に表示させる。
【0219】
ドライブ354は、ドライブ354に装着されたリムーバブルメディア355に記憶されているコンピュータプログラムを読み出し、CPU341に供給し、RAM343等にインストールさせる。また、ドライブ354は、例えば、DSP320、CPU341、RAM343、画像合成処理部351、入力部356、または外部I/F357等のカムコーダ300の各部より供給された、画像情報等の各種の情報をドライブ354に装着されているリムーバブルメディア355に記録する。
【0220】
入力部356は、シャッタボタンやメニューボタン等の各種のボタン、ダイヤル、つまみ、並びにタッチパネル(いずれも図示せず)等で構成されており、ユーザが操作することにより、各種のユーザからの指示を受け付け、その指示情報を、例えば、CPU341等、カムコーダ300の各部に供給する。
【0221】
外部I/F357は、所定の規格に従った形状のコネクタや、その規格に基づいて通信を行うためのドライバ等により構成され、所定の方法で他の装置が接続される。外部I/F357に接続された他の装置は、その外部I/F357を介してカムコーダ300と通信を行い、データやプログラムのやり取りを行う。なお、外部I/F357は、所定の通信アンテナを有し、そのアンテナを介した無線通信により、他の装置と接続されるようにしてもよい。
【0222】
このようなカムコーダ300において、画像合成処理部351は、CPU341に制御され、RAM343に保持されている画像情報や、DSP320より供給された画像情報、ドライブ354に装着されたリムーバブルメディア355に接続されている画像情報、または、外部I/F357を介して他の装置より供給された画像情報を、バス344を介して取得する。なお、その際、画像情報が圧縮されている場合、画像合成処理部351は、その画像情報をDSP320の圧縮伸長部322に供給し、画像情報を伸長させてから取得する。
【0223】
画像情報を取得した画像合成処理部351は、上述したような方法で、その画像情報に対応する画像に、例えば、CPU341より供給された合成用画像情報に対応する合成用画像を挿入したり、混合したりして、2つの画像情報を合成する。
【0224】
そして、画像合成処理部351は、その合成された画像情報を、バス344を介して、CPU341やDSP320に供給し、画像処理を行わせたり、RAM343に保持させたり、LCD制御部352に供給し、画像情報に対応する画像をLCD353に表示させたり、ドライブ354に供給し、ドライブ354に装着されたリムーバブルメディア355に記憶させたり、外部I/F357を介して他の装置に供給したりする。
【0225】
このような画像合成処理部351を設け、画像合成処理を実行させることにより、カムコーダ300は、回路規模や製造コストを抑えたまま、撮像して得られた画像情報や、外部より取得した画像情報に、容易に、多様で複雑な方法で他の画像情報を合成し、その合成画像情報を利用することができる。
【0226】
なお、例えば、静止画像を記録媒体に記録する場合、その静止画像は1フレーム分の動画像とすることができ、静止画像をLCD等に表示する場合、その静止画像は同じフレーム画像が連続する動画像とみなすことができる。従って、本発明は、動画像の画像情報、および、静止画像の画像情報のいずれの場合においても同様に適用することができる。
【0227】
以上においては、本発明をカムコーダに適用した場合を例としたが、本発明は、それ以外にも、例えば、ビデオカメラ、デジタルスチルカメラ、ビデオデッキ、テレビジョン受信表示装置等の画像処理装置、パーソナルコンピュータやPDA(Personal Digital Assistants)等の情報処理装置、または、携帯電話機等の通信装置等に適用することが可能である。なお、本発明は、回路規模や製造コストに制限のある、例えばモバイル機器のような、小型の装置に適用する場合の方がより効果的である。
【0228】
また、以上において、アドレス発生カウンタ12は、同期信号分離処理部11が入力画像信号より分離した同期信号に基づいて、アドレス情報を生成するように説明したが、これに限らず、どのような情報に基づいてアドレス情報を生成してもよく、例えば、アドレス発生カウンタ12がクロック発生回路を内蔵するようにし、そのクロック発生回路が発生させるクロックに基づいてアドレス情報を生成するようにしてもよい。また、アドレス発生カウンタ12は、画像合成処理装置の外部より供給されたクロックに基づいて、アドレス情報を生成するようにしてもよい。
【0229】
上述した一連の処理は、ハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。ソフトウエアにより実行される場合、本発明は、例えば、図16に示されるようなパーソナルコンピュータにより構成される。
【0230】
図16において、パーソナルコンピュータ400のCPU401は、ROM402に記憶されているプログラム、または記憶部413からRAM403にロードされたプログラムに従って各種の処理を実行する。RAM403にはまた、CPU401が各種の処理を実行する上において必要なデータなども適宜記憶される。
【0231】
CPU401、ROM402、およびRAM403は、バス404を介して相互に接続されている。このバス404にはまた、入出力インタフェース410も接続されている。
【0232】
入出力インタフェース410には、キーボード、マウスなどよりなる入力部411、CRT(Cathode Ray Tube)、LCDなどよりなるディスプレイ、並びにスピーカなどよりなる出力部412、ハードディスクなどより構成される記憶部413、モデムなどより構成される通信部414が接続されている。通信部414は、インターネットを含むネットワークを介しての通信処理を行う。
【0233】
入出力インタフェース410にはまた、必要に応じてドライブ415が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア421が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部413にインストールされる。
【0234】
一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、ネットワークや記録媒体からインストールされる。
【0235】
この記録媒体は、図16に示されるように、装置本体とは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク(フロッピディスクを含む)、光ディスク(CD-ROM(Compact Disk-Read Only Memory),DVD(Digital Versatile Disk)を含む)、光磁気ディスク(MD(Mini-Disk)を含む)、もしくは半導体メモリなどよりなるリムーバブルメディア421により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM402や、記憶部413に含まれるハードディスクなどで構成される。
【0236】
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【0237】
また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
【0238】
【発明の効果】
以上のごとく本発明によれば、複数の画像情報を合成ことができる。特に、回路規模や製造コストを抑えたまま、容易に、より多様で複雑な方法を用いて複数の画像情報を合成することができる。
【図面の簡単な説明】
【図1】本発明を適用した画像合成装置の構成例を示す図である。
【図2】図1の第1プレーンメモリの記憶領域の様子の例を示す図である。
【図3】図1の重ね合わせ順序制御部の記憶領域の様子の例を示す図である。
【図4】図1の画像合成装置による画像合成処理を説明するフローチャートである。
【図5】図1の画像合成装置による画像合成処理を説明する、図4に続くフローチャートである。
【図6】図1の画像合成装置が合成する画像の例を示す図である。
【図7】図1の画像合成装置による画像の合成の様子の例を示す図である。
【図8】本発明を適用した画像合成装置の他の構成例を示すブロック図である。
【図9】図8の混合比率制御部の記憶領域の様子の例を示す図である。
【図10】図8の画像合成装置による画像合成処理を説明するフローチャートである。
【図11】図8の画像合成装置による画像合成処理を説明する、図10に続くフローチャートである。
【図12】図8の画像合成装置が合成する画像の例を示す図である。
【図13】図8の画像合成装置による画像の合成の様子の例を示す図である。
【図14】図8の画像合成装置による画像の合成の様子の例を示す図である。
【図15】本発明を適用したカムコーダの構成例を示すブロック図である。
【図16】パーソナルコンピュータの構成例を示すブロック図である。
【符号の説明】
1 画像合成装置,11 同期信号分離処理部, 12 アドレス発生カウンタ, 13 制御部, 18 第1プレーンメモリ, 19 第2プレーンメモリ, 20 重ね合わせ順序制御部, 21および22 スイッチ回路, 150 画像合成装置, 151 制御部, 152 混合比率制御部, 153乃至155 乗算器, 156 加算器, 300 カムコーダ, 351 画像合成処理部
Claims (11)
- 入力画像信号に含まれる、動画像の画像情報である入力画像情報に、前記入力画像情報と異なる画像情報である合成用画像情報を合成する画像処理装置において、
前記合成用画像の供給を制御する制御手段と、
前記制御手段により制御されて供給される前記合成用画像情報を記録する複数の画像記録手段と、
前記入力画像情報に付加された同期信号を分離する同期信号分離手段と、
前記同期信号分離手段により前記入力画像情報より分離された前記同期信号に基づいて、前記入力画像情報に対応する入力画像における画面内の位置を示すアドレス情報を生成するアドレス情報生成手段と、
前記入力画像の画素単位毎に前記複数の画像記録手段に記録された前記合成用画像情報を合成するか否かを指示する制御情報を記憶し、前記アドレス情報生成手段により生成された前記アドレス情報に基づいて、前記制御情報を順次参照し、前記入力画像の画素単位毎に、複数の前記画像記録手段に記録された複数の前記合成用画像情報のいずれかを選択し、前記合成用画像情報と前記入力画像情報との合成を制御する合成制御手段と、
前記合成制御手段による制御に基づいて、前記入力画像の画素単位毎に、前記入力画像情報および前記合成制御手段により選択された前記合成用画像情報の内、いずれか一方を出力画像信号として選択することにより、前記入力画像情報と前記出力された合成用画像情報とを合成する画像情報合成手段と
を備え、
前記制御手段は、複数の前記画像記録手段のうちのいずれかが前記合成用画像情報の出力処理を行っているとき、前記出力処理を行っていない前記画像記録手段に対して前記合成用画像情報を供給する
ことを特徴とする画像処理装置。 - 前記合成用画像保持手段は、前記合成用画像情報を画素単位のデータとして保持する
ことを特徴とする請求項1に記載の画像処理装置。 - 前記制御手段は、さらに、前記制御情報の前記合成制御手段への供給を制御する
ことを特徴とする請求項1に記載の画像処理装置。 - 前記合成制御手段は、前記制御情報に基づいて、複数の前記画像記録手段に記録された複数の前記合成用画像情報のそれぞれについて、前記入力画像情報に合成するか否かを判定し、合成すると判定した前記合成用画像情報を前記画像記録手段より出力させ、前記入力画像情報に合成させるように制御し、
前記画像情報合成手段は、前記合成制御手段による制御に基づいて、前記入力画像情報と前記出力された合成用画像情報とを合成し、前記入力画像の画素単位毎に、前記入力画像と前記合成用画像を重畳させる
ことを特徴とする請求項3に記載の画像処理装置。 - 前記制御情報は、前記入力画像の画素単位毎に、複数の前記画像記録手段に記録された複数の前記合成用画像情報に対応する前記合成用画像を前記入力画像に混合させる際の、各画像情報の混合比を指定する情報であり、
前記合成制御手段は、前記制御情報に基づいて、複数の前記画像記録手段に記録された複数の前記合成用画像情報を、指定された混合比で前記入力画像情報に合成させるように制御し、
前記画像情報合成手段は、前記合成制御手段による制御に基づいて、前記入力画像情報と前記合成用画像情報とを合成し、前記入力画像の画素単位毎に、前記入力画像と前記合成用画像を指定された混合比で混合させる
ことを特徴とする請求項3に記載の画像処理装置。 - 入力画像信号に含まれる、動画像の画像情報である入力画像情報に、前記入力画像情報と異なる画像情報である合成用画像情報を合成する画像処理装置の画像処理方法であって、
前記合成画像を記録する複数の画像記録手段を有し、
複数の前記画像記録手段のうちのいずれかが前記合成用画像情報の出力処理を行っているとき、前記出力処理を行っていない前記画像記録手段に対して前記合成用画像情報を供給させるように制御する制御ステップと、
複数の前記画像記録手段を制御し、前記制御ステップに制御されて供給される前記合成用画像情報を記録させる画像記録制御ステップと、
前記入力画像情報に付加された同期信号を分離する同期信号分離ステップと、
前記同期信号分離ステップの処理により前記入力画像情報より分離された前記同期信号に基づいて、前記入力画像情報に対応する入力画像における画面内の位置を示すアドレス情報を生成するアドレス情報生成ステップと、
前記アドレス情報生成ステップの処理により生成された前記入力画像のアドレス情報に基づいて、前記入力画像の画素単位毎に前記複数の画像記録手段に記録された前記合成用画像情報を合成するか否かを指示する制御情報を順次参照し、前記入力画像の画素単位毎に、複数の前記画像記録手段に記録された複数の前記合成用画像情報のいずれかを選択し、前記合成用画像情報と前記入力画像情報との合成を制御する合成制御ステップと、
前記合成制御ステップの処理による制御に基づいて、前記入力画像の画素単位毎に、前記入力画像情報および前記合成制御ステップの処理により選択された前記合成用画像情報の内、いずれか一方を出力画像信号として選択することにより、前記入力画像情報と前記合成用画像情報とを合成する画像情報合成ステップと
を含むことを特徴とする画像処理方法。 - 前記画像記録制御ステップは、前記合成用画像情報を画素単位のデータとして前記画像記録手段に記録させるように制御する
ことを特徴とする請求項6に記載の画像処理方法。 - 前記制御ステップは、さらに、前記制御情報の供給を制御する
ことを特徴とする請求項6に記載の画像処理方法。 - 前記合成制御ステップは、前記入力画像の画素単位毎に、前記入力画像に重畳させる合成用画像に対応する前記合成用画像情報を、前記制御情報に基づいて、前記画像記録制御ステップの処理により制御されて複数の前記画像記録手段に記録された複数の前記合成用画像情報のそれぞれについて、前記入力画像情報に合成するか否かを判定し、合成すると判定した前記合成用画像情報を前記画像記録手段より出力させ、前記入力画像情報に合成させるように制御し、
前記画像情報合成ステップは、前記合成制御ステップの処理による制御に基づいて、前記入力画像情報と前記出力された合成用画像情報とを合成し、前記入力画像の画素単位毎に、前記入力画像と前記合成用画像を重畳させる
ことを特徴とする請求項8に記載の画像処理方法。 - 前記合成制御ステップは、前記入力画像の画素単位毎に、前記画像記録制御ステップの処理により制御されて複数の前記画像記録手段に記録された複数の前記合成用画像情報に対応する前記合成用画像を前記入力画像に混合させる際の、各画像情報の混合比を指定する前記制御情報に基づいて、前記画像記録制御ステップの処理により制御されて複数の前記画像記録手段に記録された複数の前記合成用画像情報を、指定された混合比で前記入力画像情報に合成させるように制御し、
前記画像情報合成ステップは、前記合成制御ステップの処理による制御に基づいて、前記入力画像情報と前記合成用画像情報とを合成し、前記入力画像の画素単位毎に、前記入力画像と前記合成用画像を指定された混合比で混合させる
ことを特徴とする請求項8に記載の画像処理方法。 - 被写体を撮像し、得られた、動画像の画像情報である撮像画像情報を取り込む撮像手段と、
前記撮像手段により取り込まれた撮像画像情報に合成する複数の合成用画像情報の供給を制御する制御手段と、
前記制御手段により制御されて供給される前記合成用画像情報を記録する複数の画像記録手段と、
前記撮像画像情報に付加された同期信号を分離する同期信号分離手段と、
前記同期信号分離手段により前記撮像画像情報より分離された前記同期信号に基づいて、前記撮像画像情報に対応する撮像画像における画面内の位置を示すアドレス情報を生成するアドレス情報生成手段と、
前記撮像画像の画素単位毎に前記複数の画像記録手段に記録された前記合成用画像情報を合成するか否かを指示する制御情報を記憶し、前記撮像画像のアドレス情報に基づいて前記制御情報を順次参照し、前記撮像画像の画素単位毎に、複数の前記画像記録手段に記録された複数の前記合成用画像情報のいずれかを選択し、前記合成用画像情報と前記撮像画像情報との合成を制御する合成制御手段と、
前記合成制御手段による制御に基づいて、前記撮像画像の画素単位毎に、前記撮像画像情報および前記合成制御手段により選択された前記合成用画像情報の内、いずれか一方を出力画像信号として選択することにより、前記撮像画像情報と前記出力された合成用画像情報とを合成する画像情報合成手段と
を備え、
前記制御手段は、複数の前記画像記録手段のうちのいずれかが前記合成用画像情報の出力処理を行っているとき、前記出力処理を行っていない前記画像記録手段に対して前記合成用画像情報を供給する
ことを特徴とする撮像装置。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003137468A JP3909596B2 (ja) | 2003-05-15 | 2003-05-15 | 画像処理装置および方法、並びに、撮像装置 |
US10/823,677 US20040257383A1 (en) | 2003-05-15 | 2004-04-14 | Image processing apparatus and method, and imaging apparatus |
CNB2004100432603A CN100363977C (zh) | 2003-05-15 | 2004-05-14 | 图像处理设备和方法及成像设备 |
KR1020040034261A KR20040098597A (ko) | 2003-05-15 | 2004-05-14 | 화상 처리 장치 및 방법, 및 촬상 장치 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003137468A JP3909596B2 (ja) | 2003-05-15 | 2003-05-15 | 画像処理装置および方法、並びに、撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004341203A JP2004341203A (ja) | 2004-12-02 |
JP3909596B2 true JP3909596B2 (ja) | 2007-04-25 |
Family
ID=33516069
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003137468A Expired - Fee Related JP3909596B2 (ja) | 2003-05-15 | 2003-05-15 | 画像処理装置および方法、並びに、撮像装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20040257383A1 (ja) |
JP (1) | JP3909596B2 (ja) |
KR (1) | KR20040098597A (ja) |
CN (1) | CN100363977C (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100073037A1 (en) * | 2008-09-24 | 2010-03-25 | Intersil Americas Inc. | Output impedance control circuit |
US20110032272A1 (en) * | 2009-08-06 | 2011-02-10 | Panasonic Corporation | Video processing apparatus |
CN102244739B (zh) * | 2010-05-10 | 2016-07-06 | 联想(北京)有限公司 | 图像处理装置、图像处理方法以及图像处理系统 |
JP2014225863A (ja) * | 2013-04-16 | 2014-12-04 | 株式会社リコー | 情報処理装置、画像表示装置、情報処理システム及び情報処理方法 |
US9906749B2 (en) | 2014-09-02 | 2018-02-27 | Canon Kabushiki Kaisha | Image capturing apparatus capable of generating and adding pixel region information to image data, method of controlling the same, and image sensor |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10150609A (ja) * | 1996-11-19 | 1998-06-02 | Sharp Corp | オンスクリーン表示装置 |
US6526155B1 (en) * | 1999-11-24 | 2003-02-25 | Xerox Corporation | Systems and methods for producing visible watermarks by halftoning |
JP2002269092A (ja) * | 2001-03-07 | 2002-09-20 | Hitachi Ltd | 会員情報管理システム |
JP3736379B2 (ja) * | 2001-04-19 | 2006-01-18 | ソニー株式会社 | 電子透かし埋め込み処理装置、電子透かし検出処理装置、および電子透かし埋め込み処理方法、電子透かし検出処理方法、並びにプログラム記憶媒体、およびプログラム |
JP3852105B2 (ja) * | 2001-08-13 | 2006-11-29 | セイコーエプソン株式会社 | オーディオ・ビジュアル機器の表示制御回路 |
JP3598515B2 (ja) * | 2001-12-07 | 2004-12-08 | 船井電機株式会社 | ディスク再生装置及びosd画像の生成方法 |
-
2003
- 2003-05-15 JP JP2003137468A patent/JP3909596B2/ja not_active Expired - Fee Related
-
2004
- 2004-04-14 US US10/823,677 patent/US20040257383A1/en not_active Abandoned
- 2004-05-14 CN CNB2004100432603A patent/CN100363977C/zh not_active Expired - Fee Related
- 2004-05-14 KR KR1020040034261A patent/KR20040098597A/ko not_active Application Discontinuation
Also Published As
Publication number | Publication date |
---|---|
KR20040098597A (ko) | 2004-11-20 |
CN100363977C (zh) | 2008-01-23 |
US20040257383A1 (en) | 2004-12-23 |
JP2004341203A (ja) | 2004-12-02 |
CN1551097A (zh) | 2004-12-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4646446B2 (ja) | 映像信号処理装置 | |
JP4619397B2 (ja) | テレビジョン装置 | |
US5459477A (en) | Display control device | |
JP3034659B2 (ja) | 拡大画面表示回路及びそれに用いられる水平フィルタ回路 | |
JP2003195852A (ja) | 画像処理装置 | |
KR980013377A (ko) | 영상신호 변환장치와 델레비젼신호처리장치 | |
JP2011166300A (ja) | 撮像装置及び画像処理方法 | |
JP3909596B2 (ja) | 画像処理装置および方法、並びに、撮像装置 | |
CN102387291A (zh) | 成像设备、信号处理方法和程序 | |
JP2001128089A (ja) | マルチスクリーン用画面合成装置 | |
JPH04348389A (ja) | 表示パターン制御装置 | |
JP3821641B2 (ja) | オンスクリーンディスプレイ装置 | |
JP3290677B2 (ja) | 多画面テレビジョン受像機 | |
JP4280368B2 (ja) | 画像処理装置 | |
JP2007183347A (ja) | 画像表示装置及びその表示方法、制御プログラム及び撮像装置 | |
JPH02179080A (ja) | 映像表示装置 | |
JP3237527B2 (ja) | 高速度カメラシステム | |
JPH11103470A (ja) | 映像切替え処理装置 | |
JP3106759B2 (ja) | 撮像装置 | |
JP4089590B2 (ja) | 映像表示方法 | |
KR100462448B1 (ko) | 가변크기의보조이미지를표시하는장치를갖는텔레비젼시스템 | |
JP3443989B2 (ja) | 垂直輪郭強調回路用信号発生回路およびアスペクト比変換回路 | |
JPH11146234A (ja) | デジタルカメラ | |
JPH11313269A (ja) | 映像信号処理装置 | |
JPH0965207A (ja) | タイトル画像作成装置および方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20050826 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050901 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20051031 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060324 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060519 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070104 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070117 |
|
LAPS | Cancellation because of no payment of annual fees |