JP5642457B2 - 表示制御装置および表示制御方法 - Google Patents

表示制御装置および表示制御方法 Download PDF

Info

Publication number
JP5642457B2
JP5642457B2 JP2010194853A JP2010194853A JP5642457B2 JP 5642457 B2 JP5642457 B2 JP 5642457B2 JP 2010194853 A JP2010194853 A JP 2010194853A JP 2010194853 A JP2010194853 A JP 2010194853A JP 5642457 B2 JP5642457 B2 JP 5642457B2
Authority
JP
Japan
Prior art keywords
pixel
color
information
image
transparent
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010194853A
Other languages
English (en)
Other versions
JP2012053215A (ja
Inventor
隆輔 土田
隆輔 土田
上野 晃
晃 上野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2010194853A priority Critical patent/JP5642457B2/ja
Priority to US13/220,069 priority patent/US20120050309A1/en
Publication of JP2012053215A publication Critical patent/JP2012053215A/ja
Application granted granted Critical
Publication of JP5642457B2 publication Critical patent/JP5642457B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37Details of the operation on graphic patterns
    • G09G5/377Details of the operation on graphic patterns for mixing or overlaying two or more graphic patterns
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/10Mixing of images, i.e. displayed pixel being the result of an operation, e.g. adding, on the corresponding input pixels

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Description

本発明は、表示制御装置および表示制御方法に関する。
静止画用カメラ、動画用カメラ、医療用内視鏡カメラ、または産業用内視鏡カメラなどの撮像装置に搭載されるシステムLSIや画像処理LSIに内蔵された画像表示用の制御ブロックにおいては、液晶ディスプレイなどの表示デバイスに表示させる画像の色や明るさを制御する以外に、背景画像の上にキャラクタの画像を重ねて表示させることがある。このとき、画像表示用の制御ブロックは、背景画像上にキャラクタ画像を重畳して、背景画像とキャラクタ画像とを合成した表示画像を生成し、生成した表示画像の画像信号を、表示デバイスに出力している(特許文献1参照)。この表示画像は、例えば、キャラクタ画像が変化した場合においても、背景画像には同一の画像データを利用することができるため、全体の画像データの量を少なくすることができる。
上記に述べたような画像の合成は、キャラクタ画像として、色情報の他に透明度情報を持たせることによって実現可能である。ここで、色情報とは、キャラクタの部分の画素毎にその画素の色を表すデータ(以下、「色データ」という)の情報であり、透明度情報とは、背景画像と同様の矩形画像の画素毎に、透明(場合によっては半透明)であるか否かを表す情報である。この色情報と透明度情報とに基づいて、背景画像にキャラクタ画像を重畳することによって、複雑な形のキャラクタを背景に浮かび上がらせることができる。つまり、透明度情報において透明であることを表している画素の色データを背景画像の色データにし、非透明であることを表している画素の色データをキャラクタ画像の色データにした画像を、背景画像とキャラクタ画像とを合成した表示画像として生成している。
図12は、背景画像とキャラクタ画像とを合成して表示画像を生成する場合の一例を模式的に示した図である。図12は、合成した表示画像の生成時に必要な画像データおよび情報を表し、図12(a)に背景画像、図12(b)にキャラクタ画像の色情報と、キャラクタ画像の透明度情報、図12(c)に合成後の表示画像を、それぞれ示している。なお、図12(b)に示したキャラクタ画像の透明度情報においては、黒塗りの画素の領域が透明部分の画素領域を表し、白抜きの画素の領域が非透明部分の画素領域を表している。図12に示したように、背景画像とキャラクタ画像とを合成した表示画像の生成は、透明度情報において黒塗りで示されている透明部分の画素領域は背景画像の色データにすることにより、背景画像を透過させ、白抜きで示されている非透明部分の画素領域は色情報に含まれるキャラクタの色データにすることによってキャラクタ画像の合成が行われる。
特開2002−351439号公報
しかしながら、背景画像とキャラクタ画像とを合成した表示画像を表示デバイスに表示させると、背景画像の色情報とキャラクタ画像の色情報とには全く相関がないため、表示画像中のキャラクタ画像と背景画像の境界の部分の画素が図12(c)と異なる色となってしまうような偽色が現れてしまう。この表示デバイスに表示画像を表示させる際に発生する偽色を低減するため、画像表示用の制御ブロックにおいて、ローパスフィルタを用いたフィルタ処理が行われている。このフィルタ処理は、背景画像およびキャラクタ画像に対してそれぞれ個別のフィルタ処理を行うことが望ましい。しかしながら、キャラクタ画像と背景画像の境界の部分に発生する偽色を低減するためには、合成後の表示画像にフィルタ処理を行う必要があり、背景画像とキャラクタ画像とに対して個別のフィルタ処理を行うことができない。
図13は、背景画像とキャラクタ画像とを合成して表示画像を生成する前に、背景画像とキャラクタ画像とに対して個別のフィルタ処理を行う場合の従来の一例を模式的に示した図である。図13は、図12に示した表示画像の生成の一例と同様に、合成した表示画像の生成時に必要な画像データおよび情報を示している。ただし、図13(b)に示したキャラクタ画像の色情報には、図12(b)に示した色情報に対して、水平方向に3タップのローパスフィルタを用いたフィルタ処理を行った後の色情報を示している。キャラクタ画像のみにフィルタ処理を行うと、図13(b)に示したように、キャラクタ画像の境界部分にも偽色が現れてしまう。そして、図12に示した表示画像の生成と同様に、透明度情報において黒塗りで示されている透明部分の画素領域は背景画像を透過させ、白抜きで示されている非透明部分の画素領域は色情報に含まれるキャラクタの色データにすることによって背景画像とキャラクタ画像とを合成すると、図13(c)に示したように、表示画像中のキャラクタ画像と背景画像との境界の部分に、キャラクタ画像中の偽色が表示されてしまう。また、背景画像の色情報とキャラクタ画像の色情報との相関に起因する偽色も現れてしまう。
このキャラクタ画像中の偽色の内、キャラクタ画像と背景画像との境界部分における偽色は、キャラクタ画像に対してフィルタ処理を行ったことによって、キャラクタ画像中の透明部分の画素領域と非透明部分の画素領域との境界部分の画素に発生した新たな偽色である。つまり、図12に示した表示画像の生成の一例と図13に示した表示画像の生成の一例とでは、キャラクタの色情報は同じ、すなわち、図12(b)に示した色情報と図13(b)におけるフィルタ処理前の色情報とは同じであるが、図13に示した表示画像の生成の一例においては、キャラクタ画像の色情報に対してフィルタ処理を行ったことにより、キャラクタの色データが存在する画素の領域と、色データが存在しない画素の領域とがフィルタ処理され、キャラクタの色データが異なる色のデータになってしまったのである。なお、図13(b)に示したように、色データが存在しない画素の領域においても、色のデータが新たに発生してしまう。
上記に述べたように、表示デバイスに表示画像を表示させる際に発生する偽色を低減するための手法として用いたフィルタ処理を、色情報と透明度情報とによって構成されるキャラクタ画像に対して行うと、表示画像中のキャラクタ画像と背景画像との境界の部分、すなわち、透明部分の画素領域と非透明部分の画素領域との境界の部分に位置する画素にキャラクタ画像のフィルタ処理に起因する新たな偽色が現れてしまうという問題がある。
また、背景画像とキャラクタ画像とを合成する前に、それぞれの画像に対して個別のフィルタ処理を行うことにより、背景画像とキャラクタ画像との境界部分、つまり、キャラクタ画像中の透明部分の画素領域と非透明部分の画素領域との境界部分に、2つの画像の色情報に相関がないことに起因する偽色が現れてしまうという問題がある。
本発明は、上記の課題認識に基づいてなされたものであり、背景画像とキャラクタ画像とに対して個別のフィルタ処理を行う場合においても、キャラクタ画像の透明部分の画素領域と非透明部分の画素領域との境界の部分に位置する画素に発生する偽色を表示(または出力)することなく、背景画像にキャラクタ画像を重畳することができる表示制御装置および表示制御方法を提供することを目的としている。
上記の課題を解決するため、本発明の表示制御装置は、背景画像に重畳するための重畳画像に含まれる各画素を透明な画素として処理するか否かを表す透明度情報に基づいて、該重畳画像の境界の位置を判定する領域判定部と、前記領域判定部が判定した前記境界の位置に基づいて、前記重畳画像に含まれる非透明な画素として処理する領域内に位置する画素の色を表す色情報を、隣接する透明な画素として処理する領域内に位置する画素の色情報にコピーすることによって、該重畳画像に含まれる各画素の色情報の領域を拡張し、該拡張した拡張色情報を出力する色拡張部と、前記透明度情報において非透明な画素として処理する領域内の端から予め定められた範囲内に位置する画素の情報を、前記領域判定部が判定した前記境界の位置に基づいて、半透明な画素として処理する情報に変換し、該変換した情報を含む透明度変換情報を出力する透明度変換部と、前記透明度変換情報に基づいて、前記背景画像をローパスフィルタ処理した後の背景画像に、前記色拡張部が出力した拡張色情報をローパスフィルタ処理した後の色情報を重畳し、該重畳した画像を表示用の画像として出力する画像重畳部と、を備える、ことを特徴とする。
また、本発明の前記領域判定部は、前記透明度情報に基づいて、前記重畳画像内の画素を透明な画素として処理する透明領域と、前記重畳画像内の画素を非透明な画素として処理する非透明領域とに区別し、前記重畳画像内の前記透明領域と前記非透明領域との境界の位置を判定し、前記色拡張部は、前記境界の位置に隣接する前記透明領域内の前記重畳画像の画素の色を、前記境界の位置に隣接する前記非透明領域内の前記重畳画像の画素の色に変換することによって、前記重畳画像内の各画素の色情報の領域を拡張し、前記透明度変換部は、前記透明度情報において、前記境界の位置に隣接する前記非透明領域内の前記重畳画像の画素の情報を、予め定められた変換情報に基づいて、半透明な画素として処理する情報に変換し、前記画像重畳部は、前記透明度変換情報が透明な画素として処理することを表している画素の色は、前記ローパスフィルタ処理した後の背景画像において対応する画素の色のままにし、前記透明度変換情報が非透明な画素として処理することを表している画素の色を、前記ローパスフィルタ処理した後の拡張色情報において対応する画素の色に変換し、前記透明度変換情報が半透明な画素として処理することを表している画素の色を、前記ローパスフィルタ処理した後の背景画像において対応する画素の色と、前記ローパスフィルタ処理した後の拡張色情報において対応する画素の色とに基づいた色に変換することによって前記背景画像に前記重畳画像を重畳する、ことを特徴とする。
また、本発明の前記画像重畳部は、前記背景画像をローパスフィルタ処理する第1のローパスフィルタと、前記拡張色情報をローパスフィルタ処理する第2のローパスフィルタと、を備え、前記色拡張部は、前記画像重畳部に備えた前記第2のローパスフィルタのタップ数に応じて拡張する前記重畳画像の画素の数を決定し、前記境界の位置に隣接する前記透明領域内の前記重畳画像の画素を含む該決定した数の画素の色を、前記境界の位置に隣接する前記非透明領域内の前記重畳画像の画素の色に変換する、ことを特徴とする。
また、本発明の前記透明度情報は、前記重畳画像内の各画素を半透明な画素として処理するか否かを表す情報を含み、前記領域判定部は、前記透明度情報が半透明な画素として処理することを表している画素を、非透明な画素とし、前記透明領域と、前記半透明な画素を含む前記非透明領域との境界の位置を判定する、ことを特徴とする。
また、本発明の前記第2のローパスフィルタは、前記重畳画像の水平方向に対してローパスフィルタ処理するフィルタであり、前記色拡張部は、前記境界の位置に隣接する前記透明領域内の前記重畳画像における水平方向の画素の色を、前記境界の位置に隣接する前記非透明領域内の前記重畳画像における水平方向の画素の色に変換することによって、前記重畳画像内の各画素の色情報の領域を水平方向に拡張する、ことを特徴とする。
また、本発明の前記第2のローパスフィルタは、前記重畳画像の垂直方向に対してローパスフィルタ処理するフィルタであり、前記色拡張部は、前記境界の位置に隣接する前記透明領域内の前記重畳画像における垂直方向の画素の色を、前記境界の位置に隣接する前記非透明領域内の前記重畳画像における垂直方向の画素の色に変換することによって、前記重畳画像内の各画素の色情報の領域を垂直方向に拡張する、ことを特徴とする。
また、本発明の表示制御方法は、背景画像に重畳するための重畳画像に含まれる各画素を透明な画素として処理するか否かを表す透明度情報に基づいて、該重畳画像の境界の位置を判定する領域判定ステップと、前記領域判定ステップによって判定した前記境界の位置に基づいて、前記重畳画像に含まれる非透明な画素として処理する領域内に位置する画素の色を表す色情報を、隣接する透明な画素として処理する領域内に位置する画素の色情報にコピーすることによって、該重畳画像に含まれる各画素の色情報の領域を拡張し、該拡張した拡張色情報を出力する色拡張ステップと、前記透明度情報において非透明な画素として処理する領域内の端から予め定められた範囲内に位置する画素の情報を、前記領域判定ステップによって判定した前記境界の位置に基づいて、半透明な画素として処理する情報に変換し、該変換した情報を含む透明度変換情報を出力する透明度変換ステップと、前記透明度変換情報に基づいて、前記背景画像をローパスフィルタ処理した後の背景画像に、前記色拡張ステップによって出力された拡張色情報をローパスフィルタ処理した後の色情報を重畳し、該重畳した画像を表示用の画像として出力する画像重畳ステップと、を含む、ことを特徴とする。




本発明によれば、背景画像とキャラクタ画像とに対して個別のフィルタ処理を行う場合においても、キャラクタ画像の透明部分の画素領域と非透明部分の画素領域との境界の部分に位置する画素に発生する偽色を表示(または出力)することなく、背景画像にキャラクタ画像を重畳することができるという効果が得られる。
本発明の実施形態における撮像装置の概略構成を示したブロック図である。 本実施形態の撮像装置に備えた表示制御ブロックの概略構成を示したブロック図である。 本実施形態の表示制御ブロックにおいて、フィルタ処理前のキャラクタ画像の色情報を生成する第1の色情報の生成方法を説明する図である。 本実施形態の表示制御ブロックによる第1の色情報の生成方法において生成されるキャラクタ画像の色情報の一例を模式的に示した図である。 本実施形態の表示制御ブロックにおいて、背景画像と第1の色情報の生成方法によって生成されたキャラクタ画像とを合成して表示画像を生成する場合の一例を模式的に示した図である。 本実施形態の表示制御ブロックにおいて、フィルタ処理前のキャラクタ画像の色情報を生成する第2の色情報の生成方法を説明する図である。 本実施形態の表示制御ブロックによる第2の色情報の生成方法において生成されるキャラクタ画像の色情報の一例を模式的に示した図である。 本実施形態の表示制御ブロックにおいて、背景画像と第2の色情報の生成方法によって生成されたキャラクタ画像とを合成して表示画像を生成する場合の一例を模式的に示した図である。 本実施形態の表示制御ブロックにおいて、キャラクタ画像の透明度情報を生成する方法を説明する図である。 本実施形態の表示制御ブロックによる透明度情報の生成方法において生成されるキャラクタ画像の透明度情報の一例を模式的に示した図である。 本実施形態の表示制御ブロックにおいて、背景画像と透明度情報を処理したキャラクタ画像とを合成して表示画像を生成する場合の一例を模式的に示した図である。 背景画像とキャラクタ画像とを合成して表示画像を生成する場合の一例を模式的に示した図である。 背景画像とキャラクタ画像とを合成して表示画像を生成する前に、背景画像とキャラクタ画像とに対して個別のフィルタ処理を行う場合の従来の一例を模式的に示した図である。
以下、本発明の実施形態について、図面を参照して説明する。図1は、本実施形態における撮像装置の概略構成を示したブロック図である。図1に示した撮像装置1は、カメラ制御部11と、カメラ操作部12と、レンズ13と、撮像部14と、画像処理部15と、メモリ部16と、表示部17と、メモリカード18と、を備えている。また、画像処理部15は、表示制御ブロック50を備えている。なお、図1に示した撮像装置1の構成要素であるメモリカード18は、撮像装置1に対して着脱可能に構成されており、撮像装置1に固有の構成でなくてもよい。
レンズ13は、カメラ制御部11によってレンズ13内に備えるフォーカスレンズの駆動、絞り機構の駆動、シャッター機構の駆動などが制御され、被写体の光学像を撮像部14の撮像面に結像するための撮影レンズである。
撮像部14は、レンズ13によって結像された被写体の光学像を光電変換する固体撮像素子を備え、被写体光に応じた画像信号(デジタル信号)を、画像処理部15に出力する。
画像処理部15は、画像信号に種々のデジタル的な画像処理を行う。画像処理部15には、画像データを表示部17に表示させるための表示用の画像データ(以下、「表示画像」という)を生成する表示制御ブロック50を備え、カメラ制御部11を介してメモリ部16に記憶されている画像データを読み出し、読み出した画像データに基づいて表示画像を生成し、生成した表示画像を表示部17に出力する。また、画像処理部15には、例えば、画像信号を記録するための記録用の画像データを生成する記録制御ブロックを備え、生成した画像データを、カメラ制御部11を介してメモリ部16に記憶する。なお、画像処理部15に備えた表示制御ブロック50の構成、および表示制御ブロック50における表示画像の生成方法に関しては、後述する。
メモリ部16は、例えば、SDRAM(Synchronous Dynamic Random Access Memory)など、データを一時記憶する記憶デバイスであり、カメラ制御部11によってアクセス制御され、撮像装置1の処理過程における様々なデータを一時記憶する。例えば、メモリ部16は、画像処理部15から出力され、カメラ制御部11を介して入力された画像データを一時記憶する。また、例えば、メモリ部16は、メモリカード18から読み出され、カメラ制御部11を介して入力された画像データを一時記憶する。
表示部17は、例えば、LCD(Liquid Crystal Display)などの表示装置を備え、画像処理部15内の表示制御ブロック50によって生成された表示画像に基づいた画像を表示する。表示部17は、撮像装置1が撮影した静止画像の表示や、メモリカード18に保存されている画像の再生(表示)などを行う。
メモリカード18は、撮像装置1によって撮影された静止画像を保存するための記録媒体である。メモリカード18には、画像処理部15内の記録制御ブロックによって生成された静止画像の画像データが記録される。
カメラ操作部12は、撮像装置1の使用者が、撮像装置1に対して各種の操作を入力するための操作部である。このカメラ操作部12に含まれる操作部材の例としては、撮像装置1の電源をオン/オフするための電源スイッチ、撮像装置1に静止画(被写体)の撮影を指示入力するためのレリーズボタン、撮像装置1の撮影モードを切り替えるための撮影モードスイッチなどがある。カメラ操作部12は、これらの操作部材が使用者によって操作されたときの操作情報を、カメラ制御部11に出力する。
カメラ制御部11は、撮像装置1の全体を制御する。また、カメラ制御部11は、画像処理部15から入力された記録用の画像データをメモリ部16に記憶させるための制御信号や、メモリ部16に記憶されている画像データを画像処理部15に読み出すための制御信号など、メモリ部16に対する制御信号を出力する。また、カメラ制御部11は、メモリ部16に記憶している画像データを読み出してメモリカード18に記憶させるための制御信号や、メモリカード18に記憶されている静止画像の画像データを読み出してメモリ部16に記憶させるための制御信号など、メモリカード18に対する制御信号を出力する。
次に、本実施形態の撮像装置内の画像処理部に備えた表示制御ブロックについて説明する。図2は、本実施形態の撮像装置1内の画像処理部15に備えた表示制御ブロック50の概略構成を示したブロック図である。図2に示した表示制御ブロック50は、ローパスフィルタ(以下「LPF」という)510と、領域判定部521と、データコピー部522と、LPF523と、透明度変換部524と、データ重畳部530と、を備えている。
本実施形態の表示制御ブロック50は、例えば、メモリ部16に記憶された記録用の画像データや静止画像の画像データを、DMA(Direct Memory Access)などによってメモリ部16から読み出す。そして、読み出した画像データを、背景画像として図示しない背景メモリ部に記憶する。また、表示制御ブロック50は、背景メモリ部に記憶された背景画像に、例えば、図示しないキャラクタメモリ部またはメモリ部16に記憶されたキャラクタ画像を重畳した表示画像を生成する。そして、生成した表示画像を表示部17に出力して、表示部17に表示画像を表示させる。
なお、表示制御ブロック50に入力される背景画像は、背景画像の画素毎にその画素の色を表す色データを持っている。また、表示制御ブロック50に入力されるキャラクタ画像は、キャラクタの部分の画素毎にその画素の色を表す色データを持つ色情報と、背景画像と同様の矩形画像の画素毎にその画素が透明であるか否かを表す透明度情報とを含んでいる。
LPF510は、背景画像に対してフィルタ処理を行うためのローパスフィルタである。LPF510は、フィルタ処理した背景画像をデータ重畳部530に出力する。
領域判定部521は、キャラクタ画像に含まれる透明度情報に基づいて、キャラクタ画像におけるキャラクタの部分の画素の領域を判定する。より具体的には、透明度情報において、透明であることを表している画素の位置と非透明であることを表している画素の位置とに基づいて、透明である画素の領域(以下、「透明領域」という)と非透明である画素の領域(以下、「非透明領域」という)とを判定し、その境界部分の画素の位置を表す情報を取得する。そして、領域判定部521は、透明領域と非透明領域との境界部分において、非透明領域内で最も端に存在する画素の位置を表す情報を、キャラクタの境界領域の画素の情報(以下、「キャラクタ境界情報」という)として、データコピー部522および透明度変換部524に出力する。
なお、キャラクタ画像に含まれる透明度情報に、画素が半透明であることを表している画素の情報が含まれている場合には、領域判定部521は、半透明であることを表している画素も非透明であることを表している画素として扱う。そして、領域判定部521は、透明領域と、画素が半透明であることを表している画素の領域(以下、「半透明領域」という)を含む非透明領域とに基づいて、キャラクタ画像におけるキャラクタの部分の画素の領域を判定し、判定したキャラクタの境界領域の画素の情報であるキャラクタ境界情報を、データコピー部522および透明度変換部524に出力する。
データコピー部522は、領域判定部521から入力されたキャラクタ境界情報に基づいて、キャラクタ画像に含まれるキャラクタの部分の画素の色データをコピーした新たな色情報を生成する。より具体的には、キャラクタ境界情報に含まれる非透明領域内で最も端に位置する画素の色データを、隣接する透明領域の画素の色データにコピーする。これにより、透明領域と非透明領域との境界部分において非透明領域内で最も端に存在する画素の色データが、透明領域と非透明領域との境界部分の透明領域で最も端に存在する画素にコピーされた新たな色情報が生成される。
なお、データコピー部522が透明領域に色データをコピーする画素の数は、LPF523のフィルタ特性(タップ数)に応じて決定される。より具体的には、LPF523がフィルタ処理する画素の前または後に位置するフィルタ処理に用いられる画素の数と同じ数が、透明領域に色データをコピーする画素の数となる。そして、データコピー部522は、LPF523のタップ数に応じて決定された画素数分の色データのコピーを行う。例えば、LPF523が3タップのローパスフィルタである場合には、フィルタ処理する画素の前後1画素ずつを用いてフィルタ処理を行うため、透明領域の最も端に存在する1つの画素に色データをコピーする。また、例えば、LPF523が5タップのローパスフィルタである場合には、フィルタ処理する画素の前後2画素ずつを用いてフィルタ処理を行うため、透明領域の最も端に存在する1つの画素に色データをコピーし、さらに隣の1つの画素にも色データをコピー、すなわち、透明領域の最も端から2つ目の画素まで、色データをコピーする。
このように、LPF523のタップ数に応じて決定された画素数分の色データのコピーを行うことにより、例えば、キャラクタ画像に含まれるキャラクタの部分の領域が、一回り大きくなったような状態となった新たな色情報が生成される。そして、データコピー部522は、生成した新たな色情報(以下、「色コピー情報」という)を、フィルタ処理するキャラクタ画像の色情報として、LPF523に出力する。
LPF523は、キャラクタ画像に対してフィルタ処理を行うためのローパスフィルタである。LPF523は、データコピー部522から入力された色コピー情報に対してフィルタ処理を行い、フィルタ処理した色コピー情報をデータ重畳部530に出力する。なお、LPF510とLPF523とは、同じタップ数のローパスフィルタであっても、異なるタップ数のローパスフィルタであってもよい。
透明度変換部524は、領域判定部521から入力されたキャラクタ境界情報に基づいて、キャラクタ画像に含まれるキャラクタの部分の画素を半透明の画素に変換した新たな透明度情報を生成する。より具体的には、キャラクタ境界情報に含まれる非透明領域内で最も端から予め定められた範囲内に位置する非透明の画素の透明度情報を、半透明に変換する。これにより、キャラクタの部分の周囲に位置する画素を半透明の画素として背景画像に合成することができる。なお、透明度変換部524が半透明に変換する画素の領域(以下、「半透明領域」という)の画素の数は、カメラ制御部11によって予め設定される。また、透明度変換部524が半透明に変換するそれぞれの画素における半透明の割合も、カメラ制御部11によって予め設定される。なお、カメラ制御部11が透明度変換部524に設定する半透明領域の画素数および半透明の割合は、本実施形態の撮像装置1に予め設定しておく以外に、撮像装置1の使用者がカメラ操作部12を操作して設定することもできる。
このように、キャラクタ画像の画素毎に透明、半透明、および非透明の情報を含む新たな透明度情報が生成される。そして、透明度変換部524は、生成した新たな透明度情報を、キャラクタ画像の透明度情報として、データ重畳部530に出力する。
データ重畳部530は、キャラクタ画像に含まれる透明度情報に基づいて、LPF510から入力されたフィルタ処理された後の背景画像に、LPF523から入力されたフィルタ処理された後の色コピー情報を重畳する。データ重畳部530がフィルタ処理された色コピー情報を重畳する際には、キャラクタ画像の透明度情報において非透明であることを表している画素の位置に対応したフィルタ処理後の画素の色データのみを、フィルタ処理された背景画像に重畳する。さらに、データ重畳部530は、キャラクタ画像の透明度情報において半透明であることを表している画素の位置に対応したフィルタ処理後の画素の色データを、半透明にする割合に応じて、フィルタ処理された背景画像の色データに混合する。
<第1の色情報の生成方法>
次に、本実施形態の表示制御ブロックにおけるフィルタ処理前のキャラクタ画像の色情報の生成方法について説明する。まず、図3を用いて色コピー情報を生成する際の基本的な考え方について説明する。図3は、本実施形態の表示制御ブロック50において、フィルタ処理前のキャラクタ画像の色情報を生成する第1の色情報の生成方法を説明する図である。なお、図3においては、キャラクタ画像の内、色情報のみを示している。また、図3は、LPF523が、色情報の水平方向にのみフィルタ処理を行うローパスフィルタであり、そのタップ数が5タップである場合の例を示している。
データコピー部522は、領域判定部521から入力されたキャラクタ境界情報に基づいて、キャラクタ画像に含まれる色情報の行毎に、画素の色データのコピーを行う。これは、LPF523が色情報の水平方向にフィルタ処理を行うローパスフィルタであるためである。
より具体的には、図3(a)に示したようなキャラクタ画像の色情報が表示制御ブロック50に入力された場合、領域判定部521は、キャラクタ画像に含まれる透明度情報に基づいて、図3(a)に示したような透明領域と非透明領域との境界部分を判定する。そして、データコピー部522は、図3(b)に示すように、透明領域と非透明領域との一方(図3(b)においては左側)の境界部分において非透明領域内で最も端に存在する画素Aの画素の色データを、透明領域と非透明領域との境界部分の透明領域に存在する画素Bおよび画素Cの画素にコピーする。また、データコピー部522は、透明領域と非透明領域との他方(図3(b)においては右側)の境界部分において非透明領域内で最も端に存在する画素Dの画素の色データを、透明領域と非透明領域との境界部分の透明領域に存在する画素Eおよび画素Fの画素にコピーする。そして、データコピー部522は、図3(b)に示したような色情報を、色コピー情報としてLPF523に出力する。
なお、図3(b)においては、データコピー部522が、画素Aの色データを画素Bおよび画素Cの2つの画素にコピーし、画素Dの色データを画素Eおよび画素Fの2つの画素にコピーしているが、これは、LPF523が5タップのローパスフィルタであるためである。すなわち、5タップのローパスフィルタは、フィルタ処理する画素の前後2画素ずつを用いてフィルタ処理を行うため、データコピー部522は、画素Aのフィルタ処理に用いられる画素Bと画素C、および画素Dのフィルタ処理に用いられる画素Eと画素Fにそれぞれの色データをコピーすることとなる。
その後、LPF523によってフィルタ処理が行われ、図3(c)に示したようなフィルタ処理後の色情報を得る。なお、図3(d)には、表示制御ブロック50に入力された図3(a)に示したようなキャラクタ画像の色情報を、領域判定部521およびデータコピー部522による処理を行わずに、LPF523によってフィルタ処理した場合の例を示している。図3(c)および図3(d)をみてわかるように、図3(d)においては、非透明領域の色データが、図3(a)に示した色データと異なるデータになっている。しかし、領域判定部521およびデータコピー部522による処理を行うことによって、図3(c)に示したように、非透明領域の色データが、図3(a)に示した元の色データと同じであるフィルタ処理後の色情報を得ることができる。
なお、図3においては、キャラクタ画像に含まれる色情報の全ての行に色データが存在している場合を示したが、キャラクタ画像の色情報に色データが存在していない行は、領域判定部521によって非透明領域であると判定されないため、データコピー部522による色データのコピーは行われない。
ここで、図4を用いてデータコピー部522が色コピー情報を生成する際のより具体的な例について説明する。図4は、本実施形態の表示制御ブロック50による第1の色情報の生成方法において生成されるキャラクタ画像の色情報の一例を模式的に示した図である。なお、図4においては、キャラクタ画像の内、色情報のみを示している。また、図4は、LPF523が、色情報の水平方向にのみフィルタ処理を行うローパスフィルタであり、そのタップ数が3タップである場合の例を示している。
なお、以下の説明においては、色情報内の各画素の位置を容易に識別できるようにするため、画素の位置をXY座標で表し、“():括弧”内の最初に画素の列の番号、最後に行の番号を数字で表す。例えば、7列3行目に位置する画素は、画素(7,3)と表す。
図4(a)に示したようなキャラクタ画像の色情報が表示制御ブロック50に入力された場合、領域判定部521は、キャラクタ画像に含まれる透明度情報に基づいて、図4(a)に示したような透明領域と非透明領域との境界部分を判定する。
そして、データコピー部522は、図4(b)に示すように、色情報の行毎に、透明領域と非透明領域との水平方向の一方の境界部分において非透明領域内で最も端に存在する画素の色データを、透明領域と非透明領域との境界部分において水平方向に隣接する透明領域で最も端に存在する画素にコピーする。また、データコピー部522は、色情報の行毎に、透明領域と非透明領域との水平方向の他方の境界部分において非透明領域内で最も端に存在する画素の色データを、透明領域と非透明領域との境界部分において水平方向に隣接する透明領域で最も端に存在する画素にコピーする。
より具体的には、図4(b)に示すように、データコピー部522は、水平方向の一方(図4(b)においては左側)の境界部分において、画素(7,3)の色データを画素(6,3)に、画素(6,4)の色データを画素(5,4)に、画素(6,5)の色データを画素(5,5)に、画素(6,6)の色データを画素(5,6)に、画素(6,7)の色データを画素(5,7)に、画素(7,8)の色データを画素(6,8)に、それぞれコピーする。また、データコピー部522は、水平方向の他方(図4(b)においては右側)の境界部分において、画素(10,3)の色データを画素(11,3)に、画素(11,4)の色データを画素(12,4)に、画素(11,5)の色データを画素(12,5)に、画素(11,6)の色データを画素(12,6)に、画素(11,7)の色データを画素(12,7)に、画素(10,8)の色データを画素(11,8)に、それぞれコピーする。
なお、図4(b)においては、データコピー部522が、各行の画素の色データを、透明領域と非透明領域との境界部分の両方で、それぞれ1画素ずつ色データをコピーしているが、これは、LPF523が3タップのローパスフィルタである、すなわち、フィルタ処理する画素の前後1画素ずつを用いてフィルタ処理を行うためである。そして、データコピー部522は、図4(b)に示したような色情報を、色コピー情報としてLPF523に出力する。
その後、LPF523によってフィルタ処理が行われ、図4(c)に示したように、非透明領域の色データが、図4(a)に示した元の色データと同じであるフィルタ処理後の色情報を得ることができる。
次に、本実施形態の表示制御ブロックにおける表示画像の生成方法について説明する。図5は、本実施形態の表示制御ブロック50において、背景画像と第1の色情報の生成方法によって生成されたキャラクタ画像とを合成して表示画像を生成する場合の一例を模式的に示した図である。図5は、合成した表示画像の生成時に必要な画像データおよび情報を表し、図5(a)に背景画像、図5(b)にキャラクタ画像の色情報と、キャラクタ画像の透明度情報、図5(c)に合成後の表示画像を、それぞれ示している。なお、図5においては、説明を容易にするため、透明度変換部524による新たな透明度情報の生成が行われていない場合の例について説明する。
なお、以下の説明においては、表示制御ブロック50に、図4(a)に示したようなキャラクタ画像が入力された場合について説明する。従って、表示制御ブロック50のデータ重畳部530には、フィルタ処理された後の背景画像と、図4(c)に示したフィルタ処理された後の色情報(色コピー情報)とが入力される。図5(b)に示したキャラクタ画像の色情報は、図4(b)の色コピー情報に対して、表示部17に表示画像を表示させる際に発生する偽色を低減するために、水平方向に3タップのローパスフィルタを用いてフィルタ処理を行った後の色情報である、図4(c)の色情報を示している。また、図5(b)に示したキャラクタ画像の透明度情報においては、黒塗りの画素の領域が透明領域を表し、白抜きの画素の領域が非透明領域を表している。
背景画像とキャラクタ画像とを合成した表示画像の生成は、図5(c)に示すように、データ重畳部530によって、透明度情報において非透明部分を表している画素の位置に対応したフィルタ処理後の色情報における各画素の色データが、フィルタ処理された背景画像に重畳されることによって行われる。より具体的には、透明度情報において黒塗りで示されている透明領域の画素は、背景画像の各画素の色データにすることによって背景画像を透過させる。また、白抜きで示されている非透明領域の画素は、色情報に含まれる各画素の色データにすることによってキャラクタ画像が合成される。
図5(c)をみてわかるように、表示制御ブロック50によって背景画像とキャラクタ画像とを合成した表示画像では、キャラクタ画像と背景画像の境界の部分の画素において、キャラクタ画像中のフィルタ処理に起因する偽色が現れていない。これは、領域判定部521による透明領域と非透明領域との境界部分の判定、データコピー部522によるLPF523のタップ数に応じた色データのコピーによって、表示制御ブロック50に入力された元の色情報と同じ色データとなっているフィルタ処理された後の色情報を、背景画像に重畳するキャラクタ画像として用いることができるためである。
<第2の色情報の生成方法>
次に、本実施形態の表示制御ブロックにおけるフィルタ処理前のキャラクタ画像の色情報の別の生成方法について説明する。上記に述べた第1の色情報の生成方法が、色情報の水平方向にのみフィルタ処理を行うローパスフィルタにおける色情報の生成方法であったのに対し、本第2の色情報の生成方法は、色情報の垂直方向にのみフィルタ処理を行うローパスフィルタにおける色情報の生成方法である。まず、図6を用いて色コピー情報を生成する際の基本的な考え方について説明する。図6は、本実施形態の表示制御ブロック50において、フィルタ処理前のキャラクタ画像の色情報を生成する第2の色情報の生成方法を説明する図である。なお、図6においては、キャラクタ画像の内、色情報のみを示している。また、図6は、LPF523が、色情報の垂直方向にのみフィルタ処理を行うローパスフィルタであり、そのタップ数が3タップである場合の例を示している。
データコピー部522は、領域判定部521から入力されたキャラクタ境界情報に基づいて、キャラクタ画像に含まれる色情報の列毎に、画素の色データのコピーを行う。これは、LPF523が色情報の垂直方向にフィルタ処理を行うローパスフィルタであるためである。
より具体的には、図6(a)に示したようなキャラクタ画像の色情報が表示制御ブロック50に入力された場合、領域判定部521は、キャラクタ画像に含まれる透明度情報に基づいて、図6(a)に示したような透明領域と非透明領域との境界部分を判定する。そして、データコピー部522は、図6(b)に示すように、透明領域と非透明領域との一方(図6(b)においては上側)の境界部分において非透明領域内で最も端に存在する画素Aの画素の色データを、透明領域と非透明領域との境界部分の透明領域に存在する画素Bの画素にコピーする。また、データコピー部522は、透明領域と非透明領域との他方(図6(b)においては下側)の境界部分において非透明領域内で最も端に存在する画素Cの画素の色データを、透明領域と非透明領域との境界部分の透明領域に存在する画素Dの画素にコピーする。そして、データコピー部522は、図6(b)に示したような色情報を、色コピー情報としてLPF523に出力する。
なお、図6(b)においては、データコピー部522が、画素Aの色データを画素Bの1つの画素にコピーし、画素Cの色データを画素Dの1つの画素にコピーしているが、これは、LPF523が3タップのローパスフィルタであるためである。すなわち、3タップのローパスフィルタは、フィルタ処理する画素の前後1画素ずつを用いてフィルタ処理を行うため、データコピー部522は、画素Aのフィルタ処理に用いられる画素B、および画素Cのフィルタ処理に用いられる画素Dにそれぞれの色データをコピーしている。
その後、LPF523によってフィルタ処理が行われ、図6(c)に示したようなフィルタ処理後の色情報を得る。なお、図6(d)には、表示制御ブロック50に入力された図6(a)に示したようなキャラクタ画像の色情報を、領域判定部521およびデータコピー部522による処理を行わずに、LPF523によってフィルタ処理した場合の例を示している。図6(c)および図6(d)をみてわかるように、図6(d)においては、非透明領域の色データが、図6(a)に示した色データと異なるデータになっている。しかし、領域判定部521およびデータコピー部522による処理を行うことによって、図6(c)に示したように、非透明領域の色データが、図6(a)に示した元の色データと同じであるフィルタ処理後の色情報を得ることができる。
なお、図6においては、キャラクタ画像に含まれる色情報の全ての列に色データが存在している場合を示したが、キャラクタ画像の色情報に色データが存在していない列は、領域判定部521によって非透明領域であると判定されないため、データコピー部522による色データのコピーは行われない。
ここで、図7を用いてデータコピー部522が色コピー情報を生成する際のより具体的な例について説明する。図7は、本実施形態の表示制御ブロック50による第2の色情報の生成方法において生成されるキャラクタ画像の色情報の一例を模式的に示した図である。なお、図7においては、キャラクタ画像の内、色情報のみを示している。また、図7は、LPF523が、色情報の垂直方向にのみフィルタ処理を行うローパスフィルタであり、そのタップ数が3タップである場合の例を示している。
なお、以下の説明においては、色情報内の各画素の位置を容易に識別できるようにするため、図4に示した色コピー情報を生成する例と同様に、画素の位置をXY座標で表す。
図7(a)に示したようなキャラクタ画像の色情報が表示制御ブロック50に入力された場合、領域判定部521は、キャラクタ画像に含まれる透明度情報に基づいて、図7(a)に示したような透明領域と非透明領域との境界部分を判定する。
そして、データコピー部522は、図7(b)に示すように、色情報の列毎に、透明領域と非透明領域との垂直方向の一方の境界部分において非透明領域内で最も端に存在する画素の色データを、透明領域と非透明領域との境界部分において垂直方向に隣接する透明領域で最も端に存在する画素にコピーする。また、データコピー部522は、色情報の列毎に、透明領域と非透明領域との垂直方向の他方の境界部分において非透明領域内で最も端に存在する画素の色データを、透明領域と非透明領域との境界部分において垂直方向に隣接する透明領域で最も端に存在する画素にコピーする。
より具体的には、図7(b)に示すように、データコピー部522は、垂直方向の一方(図7(b)においては上側)の境界部分において、画素(6,4)の色データを画素(6,3)に、画素(7,3)の色データを画素(7,2)に、画素(8,3)の色データを画素(8,2)に、画素(9,3)の色データを画素(9,2)に、画素(10,3)の色データを画素(10,2)に、画素(11,4)の色データを画素(11,3)に、それぞれコピーする。また、データコピー部522は、垂直方向の他方(図7(b)においては下側)の境界部分において、画素(6,7)の色データを画素(6,8)に、画素(7,8)の色データを画素(7,9)に、画素(8,8)の色データを画素(8,9)に、画素(9,8)の色データを画素(9,9)に、画素(10,8)の色データを画素(10,9)に、画素(11,7)の色データを画素(11,8)に、それぞれコピーする。
なお、図7(b)においては、データコピー部522が、各列の画素の色データを、透明領域と非透明領域との境界部分の両方で、それぞれ1画素ずつ色データをコピーしているが、これは、LPF523が3タップのローパスフィルタである、すなわち、フィルタ処理する画素の前後1画素ずつを用いてフィルタ処理を行うためである。そして、データコピー部522は、図7(b)に示したような色情報を、色コピー情報としてLPF523に出力する。
その後、LPF523によってフィルタ処理が行われ、図7(c)に示したように、非透明領域の色データが、図7(a)に示した元の色データと同じであるフィルタ処理後の色情報を得ることができる。
次に、本実施形態の表示制御ブロックにおける表示画像の生成方法について説明する。図8は、本実施形態の表示制御ブロック50において、背景画像と第2の色情報の生成方法によって生成されたキャラクタ画像とを合成して表示画像を生成する場合の一例を模式的に示した図である。図8は、合成した表示画像の生成時に必要な画像データおよび情報を表し、図8(a)に背景画像、図8(b)にキャラクタ画像の色情報と、キャラクタ画像の透明度情報、図8(c)に合成後の表示画像を、それぞれ示している。なお、図8においては、説明を容易にするため、透明度変換部524による新たな透明度情報の生成が行われていない場合の例について説明する。
なお、以下の説明においては、表示制御ブロック50に、図7(a)に示したようなキャラクタ画像が入力された場合について説明する。従って、表示制御ブロック50のデータ重畳部530には、フィルタ処理された後の背景画像と、図7(c)に示したフィルタ処理された後の色情報(色コピー情報)とが入力される。図8(b)に示したキャラクタ画像の色情報は、図7(b)の色コピー情報に対して、表示部17に表示画像を表示させる際に発生する偽色を低減するために、垂直方向に3タップのローパスフィルタを用いてフィルタ処理を行った後の色情報である、図7(c)の色情報を示している。また、図8(b)に示したキャラクタ画像の透明度情報においては、図5に示した表示画像を生成する例と同様に、黒塗りの画素の領域が透明領域を表し、白抜きの画素の領域が非透明領域を表している。
背景画像とキャラクタ画像とを合成した表示画像の生成は、図5に示した表示画像を生成する例と同様に、図8(c)に示すように、データ重畳部530によって、透明度情報において非透明部分を表している画素の位置に対応したフィルタ処理後の色情報における各画素の色データが、フィルタ処理された背景画像に重畳されることによって行われる。より具体的には、透明度情報において黒塗りで示されている透明領域の画素は、背景画像の各画素の色データにすることによって背景画像を透過させる。また、白抜きで示されている非透明領域の画素は、色情報に含まれる各画素の色データにすることによってキャラクタ画像が合成される。
図8(c)をみてわかるように、表示制御ブロック50によって背景画像とキャラクタ画像とを合成した表示画像では、キャラクタ画像と背景画像の境界の部分の画素において、キャラクタ画像中のフィルタ処理に起因する偽色が現れていない。これは、領域判定部521による透明領域と非透明領域との境界部分の判定、データコピー部522によるLPF523のタップ数に応じた色データのコピーによって、表示制御ブロック50に入力された元の色情報と同じ色データとなっているフィルタ処理された後の色情報を、背景画像に重畳するキャラクタ画像として用いることができるためである。
<透明度情報の生成方法>
次に、本実施形態の表示制御ブロックにおけるキャラクタ画像の透明度情報の生成方法について説明する。まず、図9を用いて透明度情報を生成する際の基本的な考え方について説明する。図9は、本実施形態の表示制御ブロック50において、キャラクタ画像の透明度情報を生成する方法を説明する図である。なお、図9においては、キャラクタ画像の内、透明度情報のみを示している。
以下に述べる透明度情報の生成方法の説明においては、LPF523が、キャラクタ画像の水平方向にのみフィルタ処理を行うローパスフィルタである場合の例を説明する。なお、キャラクタ画像の垂直方向にのみフィルタ処理を行う場合については、上記に述べた第1の色情報の生成方法および第2の色情報の生成方法と同様に、水平方向と垂直方向とを入れ替えて考えることができるため、詳細な説明は省略する。
透明度変換部524は、領域判定部521から入力されたキャラクタ境界情報と、カメラ制御部11によって設定された半透明領域の画素数および半透明の割合とに基づいて、入力されたキャラクタ画像の透明度情報が非透明である画素を、半透明の画素に変換する。
より具体的には、図9(a)に示したようなキャラクタ画像の透明度情報が表示制御ブロック50に入力され、カメラ制御部11によって半透明領域の画素数が1画素と設定された場合、領域判定部521は、図3に示した色情報の生成方法と同様に、キャラクタ画像に含まれる透明度情報に基づいて、図9(a)に示したような透明領域と非透明領域との境界部分を判定する。そして、透明度変換部524は、図9(b)に示すように、透明領域と非透明領域との一方(図9(b)においては左側)の境界部分において非透明領域内で最も端に存在する1画素(画素A)を半透明領域の画素に変換する。また、透明度変換部524は、透明領域と非透明領域との他方(図9(b)においては右側)の境界部分において非透明領域内で最も端に存在する1画素(画素B)を半透明領域の画素に変換する。
また、透明度変換部524は、半透明領域の画素に変換する画素Aおよび画素Bにおける半透明の割合を、カメラ制御部11によって設定された半透明の割合とする。透明度変換部524によって生成される半透明の情報を含んだ透明度情報は、キャラクタ画像の画素毎に複数ビットによって、透明と非透明との他に、半透明も表す。例えば、8ビットの透明度情報の場合、“0”が透明、“1”〜“254”が半透明、“255”が透明を表す値として定義し、画素を半透明にする割合を、透明度情報の階調によって表す。そして、透明度変換部524は、図9(b)に示したような透明度情報を、キャラクタ画像の透明度情報としてデータ重畳部530に出力する。
なお、図9(b)においては、透明度変換部524が、画素Aおよび画素Bの2つの画素を半透明領域の画素としているが、これは、カメラ制御部11によって半透明領域の画素数が1画素と設定されており、LPF523がキャラクタ画像の水平方向にのみフィルタ処理を行うローパスフィルタであるためである。
なお、図9においては、キャラクタ画像に含まれる透明度情報の全ての行に透明領域に位置する画素と非透明領域に位置する画素とが存在している場合を示したが、キャラクタ画像が存在していない行には、非透明領域に位置する画素が存在していない。この場合には、領域判定部521によって非透明領域であると判定されないため、透明度変換部524による半透明の画素への変換は行われない。
ここで、図10を用いて透明度変換部524が透明度情報を生成する際のより具体的な例について説明する。図10は、本実施形態の表示制御ブロック50による透明度情報の生成方法において生成されるキャラクタ画像の透明度情報の一例を模式的に示した図である。なお、図10においては、キャラクタ画像の内、透明度情報のみを示している。また、図10は、LPF523が、キャラクタ画像の水平方向にのみフィルタ処理を行うローパスフィルタである場合の例を示している。
なお、以下の説明においては、透明度情報内の各画素の位置を容易に識別できるようにするため、図4および図7に示した色コピー情報を生成する例と同様に、画素の位置をXY座標で表す。
図10(a)に示したようなキャラクタ画像の透明度情報が表示制御ブロック50に入力され、カメラ制御部11によって半透明領域の画素数が1画素と設定された場合、領域判定部521は、キャラクタ画像に含まれる透明度情報に基づいて、図10(a)に示したような透明領域と非透明領域との境界部分を判定する。
そして、透明度変換部524は、図10(b)に示すように、透明度情報の行毎に、透明領域と非透明領域との水平方向の一方の境界部分において非透明領域内で最も端に存在する画素を半透明領域の画素に変換する。また、透明度変換部524は、透明度情報の行毎に、透明領域と非透明領域との水平方向の他方の境界部分において非透明領域内で最も端に存在する画素を半透明領域の画素に変換する。
より具体的には、図10(b)に示すように、透明度変換部524は、水平方向の一方(図10(b)においては左側)の境界部分において、画素(7,3)、画素(6,4)、画素(6,5)、画素(6,6)、画素(6,7)、画素(7,8)を半透明領域の画素に変換する。また、透明度変換部524は、水平方向の他方(図10(b)においては右側)の境界部分において、画素(10,3)、画素(11,4)、画素(11,5)、画素(11,6)、画素(11,7)、画素(10,8)を半透明領域の画素に変換する。
なお、図10(b)においては、透明度変換部524が、各行の非透明領域内の両方で、それぞれ1画素ずつ半透明領域の画素に変換しているが、これは、カメラ制御部11によって半透明領域の画素数が1画素と設定されており、LPF523がキャラクタ画像の水平方向にのみフィルタ処理を行うローパスフィルタであるためである。そして、透明度変換部524は、図10(b)に示したような透明度情報を、キャラクタ画像の透明度情報としてデータ重畳部530に出力する。
次に、本実施形態の表示制御ブロックにおける表示画像の生成方法について説明する。図11は、本実施形態の表示制御ブロック50において、背景画像と透明度情報を処理したキャラクタ画像とを合成して表示画像を生成する場合の一例を模式的に示した図である。図11は、合成した表示画像の生成時に必要な画像データおよび情報を表し、図11(a)に背景画像、図11(b)にキャラクタ画像の色情報と、キャラクタ画像の透明度情報、図11(c)に合成後の表示画像を、それぞれ示している。
なお、以下の説明においては、表示制御ブロック50に、図5に示した表示画像を生成する例と同様に、図4(a)に示したようなキャラクタ画像が入力された場合について説明する。従って、表示制御ブロック50のデータ重畳部530には、フィルタ処理された後の背景画像と、図4(c)に示したフィルタ処理された後の色情報(色コピー情報)とが入力される。図11(b)に示したキャラクタ画像の色情報は、図5(b)に示したキャラクタ画像の色情報と同様に、図4(b)の色コピー情報に対して、表示部17に表示画像を表示させる際に発生する偽色を低減するために、水平方向に3タップのローパスフィルタを用いてフィルタ処理を行った後の色情報である、図4(c)の色情報を示している。また、図11(b)に示したキャラクタ画像の透明度情報は、透明度変換部524によって生成された、図10(b)に示した透明度情報である。図11(b)に示したキャラクタ画像の透明度情報においては、ハッチングで示した画素の領域が半透明領域を表し、黒塗りの画素の領域が透明領域を表し、白抜きの画素の領域が非透明領域を表している。
背景画像とキャラクタ画像とを合成した表示画像の生成は、図11(c)に示すように、データ重畳部530によって、透明度情報において非透明部分を表している画素の位置に対応したフィルタ処理後の色情報における各画素の色データが、フィルタ処理された背景画像に重畳される。さらに、透明度情報において半透明部分を表している画素の位置に対応したフィルタ処理後の色情報における各画素の色データが、半透明にする割合に応じてフィルタ処理された背景画像に混合されることによって行われる。より具体的には、透明度情報において黒塗りで示されている透明領域の画素は、背景画像の各画素の色データにすることによって背景画像を透過させる。また、透明度情報において白抜きで示されている非透明領域の画素は、色情報に含まれる各画素の色データにすることによってキャラクタ画像を合成する。さらに、透明度情報においてハッチングで示されている半透明領域の画素は、背景画像の各画素の色データと、色情報に含まれる各画素の色データとを、半透明にする割合に応じて混合した色データにすることによって半透明のキャラクタ画像を合成する。
図11(c)をみてわかるように、表示制御ブロック50によって背景画像とキャラクタ画像とを合成した表示画像では、キャラクタ画像と背景画像の境界の部分の画素において、キャラクタ画像中のフィルタ処理に起因する偽色が現れていない。これは、領域判定部521による透明領域と、半透明領域を含む非透明領域との境界部分の判定、データコピー部522によるLPF523のタップ数に応じた色データのコピーによって、表示制御ブロック50に入力された元の色情報と同じ色データとなっているフィルタ処理された後の色情報を、背景画像に重畳するキャラクタ画像として用いることができるためである。
さらに、図11(c)をみてわかるように、半透明領域の画素においては、背景画像の色データとキャラクタ画像の色データとが混合した色データとなっている。このように、半透明領域の色データを半透明(混合した色)にすることによって、キャラクタ画像と背景画像の境界の部分に生じるエッジをぼかしたような状態にすることができる。これにより、2つの画像の色情報に相関がないことに起因する偽色を目立たなくすることができ、背景画像とキャラクタ画像とを合成した後に全体にローパスフィルタの処理を行ったのと同様の視覚的効果が得られた表示画像を表示することができる。
上記に述べたように、本実施形態の表示制御ブロック50では、表示制御ブロック50に備えた、キャラクタ画像に対してフィルタ処理を行うLPF523のフィルタ処理の方向およびタップ数に応じて、キャラクタの部分の画素の色データをコピーした新たな色情報を生成することができる。これにより、色情報をフィルタ処理した場合においても、非透明領域に位置するキャラクタ画像の画素の色データが、透明領域に位置する画素の色に影響された異なる色データとなることによる偽色(フィルタ処理に起因する偽色)の発生を防止することができる。このことにより、背景画像にキャラクタ画像を合成して表示画像を生成した場合においても、表示画像中のキャラクタ画像と背景画像の境界部分の画素における偽色を防止することができる。
また、本実施形態の表示制御ブロック50では、透明度変換部524によって、背景画像とキャラクタ画像の境界部分(つまり、キャラクタ画像中の透明領域と非透明領域との境界部分)の画素を、非透明から半透明に変換することができる。これにより、LPF510がフィルタ処理した後の背景画像に、LPF523がフィルタ処理したキャラクタ画像を合成して表示画像を生成した場合においても、表示画像中のキャラクタ画像と背景画像の境界部分の画素における偽色(画像の色情報に相関がないことに起因する偽色)を目立たなくすることができる。このことにより、背景画像とキャラクタ画像とのように、色情報には全く相関がない画像を合成した場合においても、背景画像とキャラクタ画像とを合成した後に表示画像全体にローパスフィルタの処理を行ったのと同様の視覚的効果を得ることができる。
上記に述べたとおり、本発明を実施するための形態によれば、表示制御装置に備えた、キャラクタ画像に対してフィルタ処理を行うローパスフィルタによるフィルタ処理およびフィルタのタップ数に応じて、非透明領域に位置する画素に透明領域に位置する画素の色データを要素にしたフィルタ処理の結果が現れないように、キャラクタ画像の色情報を拡張することができる。これにより、色情報と透明度情報とによって構成されるキャラクタ画像に対してフィルタ処理を行った場合においても、色情報をフィルタ処理したときに非透明領域に位置するキャラクタ画像の画素の色データが、透明領域に位置する画素の色に影響されて異なる色データとなってしまうことを防止することができる。このことにより、フィルタ処理時に透明領域と非透明領域との境界の部分に発生する偽色を表示(または出力)することなく、背景画像にキャラクタ画像を重畳した表示画像を得ることができる。
また、本発明を実施するための形態によれば、背景画像とキャラクタ画像の境界部分(つまり、キャラクタ画像中の透明部分の画素領域と非透明部分の画素領域との境界部分)の透明度を非透明から半透明に変換することができる。これにより、画像の色情報に全く相関がない異なる2つの画像を重畳することによって発生する偽色を目立たなくすることができる。このことにより、キャラクタ画像に対して個別にフィルタ処理を行った後に背景画像を合成することによって生成した表示画像を表示する場合においても、フィルタ処理時に透明領域と非透明領域との境界の部分に発生した偽色が表示(または出力)されてしまうことを防止することができる。
なお、本実施形態においては、LPF523が、色情報の水平方向にのみ、または垂直方向にのみフィルタ処理を行うローパスフィルタである場合について説明したが、LPF523によるフィルタ処理の方向は、本発明を実施するための形態に限定されるものではない。例えば、LPF523が、色情報の水平方向および垂直方向にフィルタ処理を行うローパスフィルタであってもよい。この場合、例えば、上記に述べた第1の色情報の生成方法(水平方向)と第2の色情報の生成方法(垂直方向)を合わせた処理を行うことによって、同様に考えることができる。
また、本実施形態においては、1つのキャラクタ画像を背景画像に重畳する場合の例について説明したが、背景画像の重畳するキャラクタ画像の数は、本発明を実施するための形態に限定されるものではなく、複数のキャラクタ画像を背景画像に重畳することもできる。この場合、例えば、図2に示したキャラクタ画像を処理するための構成要素である領域判定部521、データコピー部522、LPF523、および透明度変換部524を、重畳するキャラクタ画像の数に応じた数だけ表示制御ブロック50に備え、データ重畳部530がそれぞれフィルタ処理された後のキャラクタ画像の色情報を重畳することによって実現することができる。また、例えば、領域判定部521、データコピー部522、LPF523、および透明度変換部524を、それぞれ1つずつ備え、それぞれのキャラクタ画像における処理を順次行い、データ重畳部530がフィルタ処理された後のキャラクタ画像の色情報を順次重畳することによって実現することもできる。
また、本実施形態においては、キャラクタ画像に含まれるキャラクタが1つ、すなわち、透明度情報内に非透明領域が1つ存在する場合の例について説明したが、キャラクタ画像に含まれるキャラクタの数は、本発明を実施するための形態に限定されるものではなく、1つのキャラクタ画像内に複数のキャラクタ、すなわち、複数の非透明領域が含まれている場合においても対応することができる。この場合、領域判定部521は、キャラクタ画像における複数のキャラクタの部分の画素領域を判定し、判定した複数のキャラクタの境界領域の画素情報であるキャラクタ境界情報を、データコピー部522および透明度変換部524に出力する。そして、データコピー部522では、入力されたキャラクタ境界情報に含まれるそれぞれのキャラクタの境界領域毎に、色データをコピーして新たな色情報を生成する。また、透明度変換部524では、入力されたキャラクタ境界情報に含まれるそれぞれのキャラクタの境界領域毎に、非透明の画素の透明度情報を、半透明に変換する。そして、データ重畳部530が新たな色情報に含まれる複数のキャラクタを重畳することによって実現することができる。
なお、本実施形態においては、キャラクタ画像の色情報と透明度情報とがそれぞれ異なるデータの形式として入力される場合について説明したが、色情報と透明度情報とのデータ形式は、本発明を実施するための形態に限定されるものではない。例えば、キャラクタ画像の画素毎に複数ビットの情報を持ち、それぞれのビットの表す意味が、色情報および透明度情報を表す形式であってもよい。この場合、それぞれのビット毎に、本実施形態の色情報および透明度情報に対応させて処理することによって、同様に考えることができる。
以上、本発明の実施形態について、図面を参照して説明してきたが、具体的な構成はこの実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲においての種々の変更も含まれる。
1・・・撮像装置
11・・・カメラ制御部
12・・・カメラ操作部
13・・・レンズ
14・・・撮像部
15・・・画像処理部
16・・・メモリ部
17・・・表示部
18・・・メモリカード
50・・・表示制御ブロック(表示制御装置)
510・・・LPF(第1のローパスフィルタ)
521・・・領域判定部
522・・・データコピー部(色拡張部)
523・・・LPF(第2のローパスフィルタ)
524・・・透明度変換部
530・・・データ重畳部(画像重畳部)

Claims (7)

  1. 背景画像に重畳するための重畳画像に含まれる各画素を透明な画素として処理するか否かを表す透明度情報に基づいて、該重畳画像の境界の位置を判定する領域判定部と、
    前記領域判定部が判定した前記境界の位置に基づいて、前記重畳画像に含まれる非透明な画素として処理する領域内に位置する画素の色を表す色情報を、隣接する透明な画素として処理する領域内に位置する画素の色情報にコピーすることによって、該重畳画像に含まれる各画素の色情報の領域を拡張し、該拡張した拡張色情報を出力する色拡張部と、
    前記透明度情報において非透明な画素として処理する領域内の端から予め定められた範囲内に位置する画素の情報を、前記領域判定部が判定した前記境界の位置に基づいて、半透明な画素として処理する情報に変換し、該変換した情報を含む透明度変換情報を出力する透明度変換部と、
    前記透明度変換情報に基づいて、前記背景画像をローパスフィルタ処理した後の背景画像に、前記色拡張部が出力した拡張色情報をローパスフィルタ処理した後の色情報を重畳し、該重畳した画像を表示用の画像として出力する画像重畳部と、
    を備える、
    ことを特徴とする表示制御装置。
  2. 前記領域判定部は、
    前記透明度情報に基づいて、前記重畳画像内の画素を透明な画素として処理する透明領域と、前記重畳画像内の画素を非透明な画素として処理する非透明領域とに区別し、前記重畳画像内の前記透明領域と前記非透明領域との境界の位置を判定し、
    前記色拡張部は、
    前記境界の位置に隣接する前記透明領域内の前記重畳画像の画素の色を、前記境界の位置に隣接する前記非透明領域内の前記重畳画像の画素の色に変換することによって、前記重畳画像内の各画素の色情報の領域を拡張し、
    前記透明度変換部は、
    前記透明度情報において、前記境界の位置に隣接する前記非透明領域内の前記重畳画像の画素の情報を、予め定められた変換情報に基づいて、半透明な画素として処理する情報に変換し、
    前記画像重畳部は、
    前記透明度変換情報が透明な画素として処理することを表している画素の色は、前記ローパスフィルタ処理した後の背景画像において対応する画素の色のままにし、前記透明度変換情報が非透明な画素として処理することを表している画素の色を、前記ローパスフィルタ処理した後の拡張色情報において対応する画素の色に変換し、前記透明度変換情報が半透明な画素として処理することを表している画素の色を、前記ローパスフィルタ処理した後の背景画像において対応する画素の色と、前記ローパスフィルタ処理した後の拡張色情報において対応する画素の色とに基づいた色に変換することによって前記背景画像に前記重畳画像を重畳する、
    ことを特徴とする請求項1に記載の表示制御装置。
  3. 前記画像重畳部は、
    前記背景画像をローパスフィルタ処理する第1のローパスフィルタと、
    前記拡張色情報をローパスフィルタ処理する第2のローパスフィルタと、
    を備え、
    前記色拡張部は、
    前記画像重畳部に備えた前記第2のローパスフィルタのタップ数に応じて拡張する前記重畳画像の画素の数を決定し、前記境界の位置に隣接する前記透明領域内の前記重畳画像の画素を含む該決定した数の画素の色を、前記境界の位置に隣接する前記非透明領域内の前記重畳画像の画素の色に変換する、
    ことを特徴とする請求項2に記載の表示制御装置。
  4. 前記透明度情報は、
    前記重畳画像内の各画素を半透明な画素として処理するか否かを表す情報を含み、
    前記領域判定部は、
    前記透明度情報が半透明な画素として処理することを表している画素を、非透明な画素とし、
    前記透明領域と、前記半透明な画素を含む前記非透明領域との境界の位置を判定する、
    ことを特徴とする請求項2に記載の表示制御装置。
  5. 前記第2のローパスフィルタは、
    前記重畳画像の水平方向に対してローパスフィルタ処理するフィルタであり、
    前記色拡張部は、
    前記境界の位置に隣接する前記透明領域内の前記重畳画像における水平方向の画素の色を、前記境界の位置に隣接する前記非透明領域内の前記重畳画像における水平方向の画素の色に変換することによって、前記重畳画像内の各画素の色情報の領域を水平方向に拡張する、
    ことを特徴とする請求項3または請求項4に記載の表示制御装置。
  6. 前記第2のローパスフィルタは、
    前記重畳画像の垂直方向に対してローパスフィルタ処理するフィルタであり、
    前記色拡張部は、
    前記境界の位置に隣接する前記透明領域内の前記重畳画像における垂直方向の画素の色を、前記境界の位置に隣接する前記非透明領域内の前記重畳画像における垂直方向の画素の色に変換することによって、前記重畳画像内の各画素の色情報の領域を垂直方向に拡張する、
    ことを特徴とする請求項3または請求項4に記載の表示制御装置。
  7. 背景画像に重畳するための重畳画像に含まれる各画素を透明な画素として処理するか否かを表す透明度情報に基づいて、該重畳画像の境界の位置を判定する領域判定ステップと、
    前記領域判定ステップによって判定した前記境界の位置に基づいて、前記重畳画像に含まれる非透明な画素として処理する領域内に位置する画素の色を表す色情報を、隣接する透明な画素として処理する領域内に位置する画素の色情報にコピーすることによって、該重畳画像に含まれる各画素の色情報の領域を拡張し、該拡張した拡張色情報を出力する色拡張ステップと、
    前記透明度情報において非透明な画素として処理する領域内の端から予め定められた範囲内に位置する画素の情報を、前記領域判定ステップによって判定した前記境界の位置に基づいて、半透明な画素として処理する情報に変換し、該変換した情報を含む透明度変換情報を出力する透明度変換ステップと、
    前記透明度変換情報に基づいて、前記背景画像をローパスフィルタ処理した後の背景画像に、前記色拡張ステップによって出力された拡張色情報をローパスフィルタ処理した後の色情報を重畳し、該重畳した画像を表示用の画像として出力する画像重畳ステップと、
    を含む、
    ことを特徴とする表示制御方法。
JP2010194853A 2010-08-31 2010-08-31 表示制御装置および表示制御方法 Expired - Fee Related JP5642457B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2010194853A JP5642457B2 (ja) 2010-08-31 2010-08-31 表示制御装置および表示制御方法
US13/220,069 US20120050309A1 (en) 2010-08-31 2011-08-29 Display control apparatus and display control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010194853A JP5642457B2 (ja) 2010-08-31 2010-08-31 表示制御装置および表示制御方法

Publications (2)

Publication Number Publication Date
JP2012053215A JP2012053215A (ja) 2012-03-15
JP5642457B2 true JP5642457B2 (ja) 2014-12-17

Family

ID=45696579

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010194853A Expired - Fee Related JP5642457B2 (ja) 2010-08-31 2010-08-31 表示制御装置および表示制御方法

Country Status (2)

Country Link
US (1) US20120050309A1 (ja)
JP (1) JP5642457B2 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8761543B2 (en) * 2011-08-30 2014-06-24 Microsoft Corporation Image processing using bounds adjustment
US9164576B2 (en) 2011-09-13 2015-10-20 Apple Inc. Conformance protocol for heterogeneous abstractions for defining user interface behaviors
US8819567B2 (en) 2011-09-13 2014-08-26 Apple Inc. Defining and editing user interface behaviors
US20130063484A1 (en) * 2011-09-13 2013-03-14 Samir Gehani Merging User Interface Behaviors
EP2670130B1 (en) * 2012-06-01 2019-03-27 Alcatel Lucent Method and apparatus for mixing a first video signal and a second video signal
JP2014203017A (ja) * 2013-04-09 2014-10-27 ソニー株式会社 画像処理装置、画像処理方法、表示装置、および電子機器
CN104038700B (zh) * 2014-06-26 2017-11-14 Tcl集团股份有限公司 一种拍照方法及装置
KR102282003B1 (ko) * 2014-08-07 2021-07-27 삼성전자 주식회사 전자 장치 및 이의 표시 제어 방법
CN107895563B (zh) * 2017-11-02 2021-03-16 珠海市魅族科技有限公司 显示控制方法及装置、终端及计算机可读存储介质
CN109803163B (zh) * 2017-11-16 2021-07-09 腾讯科技(深圳)有限公司 图像展示方法及其装置、存储介质
CN111127543B (zh) * 2019-12-23 2024-04-05 北京金山安全软件有限公司 图像处理方法、装置、电子设备以及存储介质
CN114401388A (zh) * 2022-01-26 2022-04-26 深圳市火乐科技发展有限公司 投影方法、装置、存储介质以及投影设备

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS59133665A (ja) * 1983-01-19 1984-08-01 Dainippon Ink & Chem Inc 組合せ画像の形成方法
JP2734099B2 (ja) * 1989-07-12 1998-03-30 富士通株式会社 ぼかし画像合成処理方法
JP3886184B2 (ja) * 1996-09-20 2007-02-28 株式会社ソニー・コンピュータエンタテインメント 画像データの処理方法および画像処理装置
US6044178A (en) * 1998-03-10 2000-03-28 Seiko Epson Corporation LCD projector resolution translation
US7567259B2 (en) * 2006-03-27 2009-07-28 Lsi Corporation System and method for display compositing

Also Published As

Publication number Publication date
JP2012053215A (ja) 2012-03-15
US20120050309A1 (en) 2012-03-01

Similar Documents

Publication Publication Date Title
JP5642457B2 (ja) 表示制御装置および表示制御方法
JP5451782B2 (ja) 画像処理装置および画像処理方法
JP5561019B2 (ja) 撮像装置、プログラムおよび撮像方法
JP4844664B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP4796871B2 (ja) 撮像装置
JP2007323587A (ja) 車載カメラの画像合成装置および画像合成方法
WO2008032545A1 (fr) Dispositif de traitement d'image, procédé de traitement d'image et programme
JP2014096749A (ja) 撮像装置及び画像処理方法
JPWO2004090860A1 (ja) 映像合成回路
JP5537048B2 (ja) 画像表示装置、画像表示方法、撮像装置、及び撮像装置の制御方法
JP2010210704A (ja) 画像表示装置
JP2008294705A (ja) 表示装置および撮像装置
JP2007286082A (ja) 描画処理装置
JP7183015B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2011151454A (ja) 画像処理装置、撮像機器及び画像処理方法
JP2008160250A (ja) 画像処理装置および画像処理プログラム
JP5732717B2 (ja) 電子カメラ
JP6327869B2 (ja) 画像処理装置、撮像装置、制御方法、及びプログラム
JP2008181017A (ja) オンスクリーン表示装置、オンスクリーン表示方法及び撮像装置
JP2010245682A (ja) 画像処理装置、画像処理方法およびコンピュータープログラム
JP2018026600A (ja) 撮影装置
JP5448799B2 (ja) 表示制御装置及び表示制御方法
JP2011077574A (ja) カメラ
JP2017163261A (ja) 画像表示装置及び画像表示方法
JP2006054576A (ja) 画像処理装置及び方法及びプログラム及び記憶媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130710

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140124

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140304

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140411

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20140414

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141021

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141029

R151 Written notification of patent or utility model registration

Ref document number: 5642457

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees