JP4866059B2 - Method for synthesizing image data for on-screen display, on-screen display device, and digital camera - Google Patents

Method for synthesizing image data for on-screen display, on-screen display device, and digital camera Download PDF

Info

Publication number
JP4866059B2
JP4866059B2 JP2005319866A JP2005319866A JP4866059B2 JP 4866059 B2 JP4866059 B2 JP 4866059B2 JP 2005319866 A JP2005319866 A JP 2005319866A JP 2005319866 A JP2005319866 A JP 2005319866A JP 4866059 B2 JP4866059 B2 JP 4866059B2
Authority
JP
Japan
Prior art keywords
data
screen display
image
colors
display image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005319866A
Other languages
Japanese (ja)
Other versions
JP2007129465A5 (en
JP2007129465A (en
Inventor
方己 島村
晃 上野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Olympus Imaging Corp
Original Assignee
Olympus Corp
Olympus Imaging Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp, Olympus Imaging Corp filed Critical Olympus Corp
Priority to JP2005319866A priority Critical patent/JP4866059B2/en
Publication of JP2007129465A publication Critical patent/JP2007129465A/en
Publication of JP2007129465A5 publication Critical patent/JP2007129465A5/ja
Application granted granted Critical
Publication of JP4866059B2 publication Critical patent/JP4866059B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)

Description

本発明は、オンスクリーン表示用画像データの合成方法、オンスクリーン表示装置、及びデジタルカメラに関する。   The present invention relates to a method for synthesizing image data for on-screen display, an on-screen display device, and a digital camera.

デジタルカメラは、撮影によって得られた画像等の実画像を該デジタルカメラに設けられたTFT液晶等の表示部に表示したり、テレビジョン受像機等の外部表示装置に表示したりする機能を有しているものが多い。このような画像表示の際には、実画像の上にメニューやモード設定、撮影情報などの情報を示す画像を重畳表示することがあるが、これらのような画像はオンスクリーン表示用画像(On Screen Display 以下OSD画像と略記する)と呼ばれている。このOSD画像は、単調な画像が多いので、一般的には、複数色のカラーパレットを準備し、このカラーパレットに対応するカラーパレット番号でビットマップ化されている。   A digital camera has a function of displaying an actual image such as an image obtained by photographing on a display unit such as a TFT liquid crystal provided in the digital camera or an external display device such as a television receiver. There are a lot of things. When such an image is displayed, an image indicating information such as menus, mode settings, and shooting information may be superimposed on the actual image, and such an image may be displayed as an on-screen display image (On Screen Display (hereinafter abbreviated as OSD image). Since this OSD image has many monotonous images, generally, a color palette of a plurality of colors is prepared, and bitmapped with color palette numbers corresponding to the color palette.

昨今では、OSD画像として一度に表示させるキャラクタ数が増大してきており、これに伴って複数のOSD画像を実画像に重畳する必要が生じてきている。この対策例として、特許文献1の手法を応用した例を、図6を参照して説明する。   In recent years, the number of characters to be displayed as an OSD image at a time has increased, and it has become necessary to superimpose a plurality of OSD images on an actual image. As an example of the countermeasure, an example in which the technique of Patent Document 1 is applied will be described with reference to FIG.

図6に示すように、メモリ101には色データ(例えばYCbCrデータやRGBデータ)で構成された実画像データと、この実画像データに重畳させる複数のOSDデータ(OSD1データ及びOSD2データ)とが格納されている。システムバス102は、メモリ101とアービタ103とに接続されたデータ転送路である。アービタ103は、カラーパレット変換部104a及び104bと重畳処理部105とに接続され、カラーパレット変換部104aからのOSD1データの取得要求、カラーパレット変換部104bからのOSD2データの取得要求、及び重畳処理部105からの実画像データの取得要求に対し、所定の優先順位に従って、カラーパレット変換部104a、104b、重畳処理部105の何れかにデータを取得させる。   As shown in FIG. 6, the memory 101 includes actual image data composed of color data (for example, YCbCr data and RGB data), and a plurality of OSD data (OSD1 data and OSD2 data) to be superimposed on the actual image data. Stored. A system bus 102 is a data transfer path connected to the memory 101 and the arbiter 103. The arbiter 103 is connected to the color palette conversion units 104a and 104b and the superimposition processing unit 105, and receives an OSD1 data acquisition request from the color palette conversion unit 104a, an OSD2 data acquisition request from the color palette conversion unit 104b, and an overlay process. In response to the real image data acquisition request from the unit 105, the color palette conversion units 104a and 104b and the superimposition processing unit 105 acquire data according to a predetermined priority order.

カラーパレット変換部104aは、カラーパレット番号で構成されたOSD1データを実画像に対応する色データに変換して重畳処理部105に出力する。カラーパレット変換部104bは、カラーパレット番号で構成されたOSD2データを実画像に対応する色データに変換して重畳処理部108に出力する。   The color palette conversion unit 104a converts the OSD1 data configured by the color palette number into color data corresponding to the actual image and outputs the color data to the superimposition processing unit 105. The color palette conversion unit 104b converts the OSD2 data configured by the color palette number into color data corresponding to the actual image and outputs the color data to the superimposition processing unit 108.

重畳処理部105は、実画像データに、色データ化されたOSD1データを重畳し、重畳によって得られた重畳画像データを重畳処理部108に出力する。重畳処理部108は、重畳画像データに色データ化されたOSD2を重畳し、重畳によって得られた重畳画像データを表示出力処理部109に出力する。表示出力処理部109は、重畳画像データをNTSC形式等の所定の映像信号に変換して表示部110に表示させる。このようにして表示部110には、実画像110aにOSD画像110bとOSD画像110cが重畳された画像が表示される。   The superimposition processing unit 105 superimposes the OSD1 data converted into color data on the actual image data, and outputs the superimposed image data obtained by the superimposition to the superimposition processing unit 108. The superimposition processing unit 108 superimposes the OSD 2 converted into color data on the superimposed image data, and outputs the superimposed image data obtained by the superimposition to the display output processing unit 109. The display output processing unit 109 converts the superimposed image data into a predetermined video signal such as the NTSC format and causes the display unit 110 to display it. In this way, the display unit 110 displays an image in which the OSD image 110b and the OSD image 110c are superimposed on the actual image 110a.

即ち、上記のような特許文献1のような手法は、実画像に対し、複数のOSD画像を順々に重ねていく手法である。
特開平10−150609号公報
That is, the method as described in Patent Document 1 is a method of sequentially superimposing a plurality of OSD images on an actual image.
JP-A-10-150609

ここで、上記した特許文献1のような手法は、実画像の表示のタイミングに合わせて複数のOSD画像を重畳する必要があり、かつこの重畳の際には複数のOSDデータをメモリ101から読み出さなければならないため、場合によっては重畳させるOSDデータが表示のタイミングまでに用意できずに、データの破綻を招く可能性がある。   Here, in the technique as described in Patent Document 1 described above, it is necessary to superimpose a plurality of OSD images in accordance with the display timing of an actual image, and a plurality of OSD data is read from the memory 101 at the time of this superimposition. Therefore, in some cases, the OSD data to be superimposed cannot be prepared by the display timing, which may cause data corruption.

本発明は、上記の事情に鑑みてなされたもので、データの破綻を招かないように複数のOSDデータを適切に合成することができるオンスクリーン表示用画像の合成方法、このような合成方法を適用したオンスクリーン表示装置、及びデジタルカメラを提供することを目的とする。   The present invention has been made in view of the above circumstances, and a method for synthesizing an image for on-screen display capable of appropriately synthesizing a plurality of OSD data so as not to cause data corruption. An object is to provide an applied on-screen display device and a digital camera.

上記の目的を達成するために、本発明の第1の態様によるオンスクリーン表示用画像データの合成方法は、色情報をテーブル化したテーブルデータに対応して設定されたテーブル番号で構成された複数のオンスクリーン表示用画像データを合成して1つのオンスクリーン表示用画像合成データを作成し、前記作成した1つのオンスクリーン表示画像合成データをメモリに格納するオンスクリーン表示用画像データの合成方法であって、前記複数のオンスクリーン表示用画像データは、異なるテーブルのテーブル番号で構成されたデータであり、前記合成に先立って、前記複数のオンスクリーン表示用画像データの中で、最大の色数を持たないテーブルのテーブル番号で構成されたオンスクリーン表示用画像データのデータ形式を、最大の色数を持つテーブルのテーブル番号で構成されたオンスクリーン表示用画像データのデータ形式に変換し、前記変換は、前記最大の色数を持たないテーブルのテーブル番号で構成されたオンスクリーン表示用画像データ中のテーブル番号を、前記最大の色数を持つテーブルのテーブル番号に対応した色情報に相等しい色情報に対応するテーブル番号に変換する変換テーブルに基づいて行うことを特徴とする。 In order to achieve the above object, a method for synthesizing image data for on-screen display according to the first aspect of the present invention comprises a plurality of table numbers configured corresponding to table data in which color information is tabulated. the method of synthesizing the on-screen display image data to create a single on-screen display image synthesis data, the on-screen display image data to be stored one on-screen display image synthesis data the created data synthesizer The plurality of on-screen display image data is data composed of table numbers of different tables, and prior to the synthesis, the largest color among the plurality of on-screen display image data The data format of the image data for on-screen display composed of the table numbers of tables that do not have the maximum color It is converted into the data format of the on-screen display image data composed of a table number of the table with the conversion, configured on-screen display image data in the table number of the table without a number of colors the maximum The table number is calculated based on a conversion table that converts the table number corresponding to the color information that is equal to the color information corresponding to the table number of the table having the maximum number of colors .

この第1の態様によれば、実画像に複数のオンスクリーン表示用画像を重畳するのに先立って、予め複数のオンスクリーン表示用画像同士を合成しておくことができるので、重畳時にデータの破綻招くことがない。   According to the first aspect, prior to superimposing a plurality of on-screen display images on an actual image, a plurality of on-screen display images can be synthesized in advance. There will be no bankruptcy.

また、上記の目的を達成するために、本発明の第2の態様によるオンスクリーン表示装置は、色情報をテーブル化したテーブルデータに対応して設定されたテーブル番号からなる複数のオンスクリーン表示用画像データを合成して1つのオンスクリーン表示用画像合成データを作成するデータ合成部と、前記データ合成部で作成された1つのオンスクリーン表示画像合成データを記憶する記憶部と、前記記憶部に記憶されたオンスクリーン表示用画像合成データを読み出して実画像に重畳して表示する表示部とを具備し、前記データ合成部は、前記複数のオンスクリーン表示用画像データの中で最大の色数を持たないテーブルのテーブル番号を、それぞれのテーブル番号に対応した色情報に相等しい色情報に対応する前記最大の色数を持つテーブルのテーブル番号に変換するデータ変換部と、前記最大の色数を持たないテーブルのテーブル番号のビット幅を、該テーブル番号の値を変えないように、前記最大の色数を持つテーブルのテーブル番号のビット幅に拡張するデータ拡張部と、前記データ変換部の出力と前記データ拡張部の出力の何れかを選択し、選択した出力と前記最大の色数を持つテーブルのテーブル番号で構成されたオンスクリーン表示用画像データとで前記合成を行う合成処理部とを有することを特徴とする。 In order to achieve the above object, an on-screen display device according to the second aspect of the present invention provides a plurality of on-screen display devices having table numbers set in correspondence with table data in which color information is tabulated. a data combining unit that creates a single on-screen display image synthesis data by synthesizing the image data, a storage unit for storing a single on-screen display image synthesis data generated by the data synthesizer, in the storage unit A display unit that reads the stored image synthesis data for on-screen display and displays the superimposed image on the actual image, wherein the data synthesis unit has a maximum number of colors among the plurality of on-screen display image data Te having a color number of the maximum corresponding to the table number of the table that does not have a phase equal color information to the color information corresponding to respective table numbers A data conversion section for converting the table of the table number, the bit width of the table number of the no maximum color number table, so as not to change the value of the table number, the table with the largest number of colors the table A data expansion unit that expands to the bit width of the number, and selects either the output of the data conversion unit or the output of the data expansion unit, and includes the selected output and the table number of the table having the maximum number of colors. And a synthesis processing unit for performing the synthesis with the on-screen display image data.

この第2の態様によれば、複数のオンスクリーン表示用画像データを合成して1つのオンスクリーン用表示画像データを作成する際に、オンスクリーン表示用画像データ間でのデータ形式を等しくすることができるので、適切な合成を行うことができる。   According to the second aspect, when one on-screen display image data is created by combining a plurality of on-screen display image data, the data format between the on-screen display image data is made equal. Therefore, appropriate synthesis can be performed.

また、上記の目的を達成するために、本発明の第3の態様によるデジタルカメラは、第2の態様に記載のオンスクリーン表示装置を搭載したデジタルカメラであって、前記色情報は、YCbCrデータ若しくはRGBデータであり、前記オンスクリーン表示用画像データは、メニュー情報表示と撮影情報表示の少なくとも何れか一方を含む情報を表示するためのデータであり、前記実画像は、前記デジタルカメラが有する撮像素子によって得られる撮影画像と前記デジタルカメラが有する記録媒体から読み出される再生画像の少なくとも何れかを含むことを特徴とする。   In order to achieve the above object, a digital camera according to a third aspect of the present invention is a digital camera equipped with the on-screen display device according to the second aspect, wherein the color information is YCbCr data. Alternatively, it is RGB data, and the on-screen display image data is data for displaying information including at least one of menu information display and shooting information display, and the actual image is an image pickup that the digital camera has It includes at least one of a captured image obtained by an element and a reproduced image read from a recording medium included in the digital camera.

この第3の態様によれば、第2の態様のオンスクリーン表示装置をデジタルカメラに適用することができる。   According to the third aspect, the on-screen display device of the second aspect can be applied to a digital camera.

本発明によれば、データの破綻を招かないように複数のOSDデータを適切に合成することができるオンスクリーン表示用画像の合成方法、このような合成方法を適用したオンスクリーン表示装置、及びデジタルカメラを提供することができる。   According to the present invention, an on-screen display image synthesis method capable of appropriately synthesizing a plurality of OSD data without causing data corruption, an on-screen display device to which such a synthesis method is applied, and a digital A camera can be provided.

以下、図面を参照して本発明の実施形態を説明する。
[第1の実施形態]
図1は、本発明の第1の実施形態に係るオンスクリーン表示用画像データの合成方法を適用したオンスクリーン表示装置の構成について示す図である。図1に示すオンスクリーン表示装置は、メモリ1と、システムバス2と、アービタ3と、変換テーブル4と、重畳処理部5と、アービタ6と、カラーパレット変換部7と、重畳処理部8と、表示出力処理部9と、表示部10とから構成されている。
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
[First Embodiment]
FIG. 1 is a diagram showing a configuration of an on-screen display device to which a method for synthesizing image data for on-screen display according to the first embodiment of the present invention is applied. The on-screen display device shown in FIG. 1 includes a memory 1, a system bus 2, an arbiter 3, a conversion table 4, a superimposition processing unit 5, an arbiter 6, a color palette conversion unit 7, and a superimposition processing unit 8. The display output processing unit 9 and the display unit 10 are configured.

記憶部としてのメモリ1には色データ(例えばYCbCrデータやRGBデータ)で構成された実画像と、この実画像に重畳させる、複数のOSDデータ(ここではOSD1データ及びOSD2データの2つ)で構成された複数のOSD画像とが格納されている。以後、例として、OSD1データは8色のカラーパレット番号データ、OSD2データは4色のカラーパレット番号データであるとして説明を続ける。この場合、OSD1データは3bitのカラーパレット番号データで構成され、OSD2データは2bitのカラーパレット番号データで構成される。   The memory 1 as a storage unit includes an actual image composed of color data (for example, YCbCr data and RGB data) and a plurality of OSD data (here, OSD1 data and OSD2 data) to be superimposed on the actual image. A plurality of configured OSD images are stored. Hereinafter, as an example, the description will be continued assuming that the OSD1 data is 8-color palette number data and the OSD2 data is 4-color palette number data. In this case, the OSD1 data is composed of 3-bit color palette number data, and the OSD2 data is composed of 2-bit color palette number data.

システムバス2は、メモリ1と、アービタ3及びアービタ6とに接続されたデータ転送路である。アービタ3は、システムバス2の他に、変換テーブル4と、重畳処理部5とに接続され、変換テーブル4からのOSD2データの取得要求及び重畳処理部5からのOSD1データの取得要求に対し、予め定められた優先順位に従って変換テーブル4と、重畳処理部5の何れかにデータを取得させる。   The system bus 2 is a data transfer path connected to the memory 1 and the arbiter 3 and arbiter 6. The arbiter 3 is connected to the conversion table 4 and the superimposition processing unit 5 in addition to the system bus 2, and in response to an OSD2 data acquisition request from the conversion table 4 and an OSD1 data acquisition request from the superimposition processing unit 5. Data is acquired by either the conversion table 4 or the superimposition processing unit 5 in accordance with a predetermined priority order.

データ変換部としての変換テーブル4は、OSD1データにOSD2データを重畳可能とするために、OSD2データのデータ形式をOSD1データのデータ形式に変換する。合成処理部としての重畳処理部5は変換テーブル4でデータ形式が変換されたOSD2データとOSD1データとを合成し、これによって得られたOSD3データを、アービタ3を介してメモリ1に格納する。これら変換テーブル4及び重畳処理部5については、後で詳しく説明する。   The conversion table 4 as a data conversion unit converts the data format of the OSD2 data into the data format of the OSD1 data so that the OSD2 data can be superimposed on the OSD1 data. The superimposition processing unit 5 as a synthesis processing unit combines the OSD2 data and the OSD1 data whose data formats are converted by the conversion table 4, and stores the OSD3 data obtained thereby in the memory 1 via the arbiter 3. The conversion table 4 and the superimposition processing unit 5 will be described in detail later.

アービタ6は、システムバス2の他に、カラーパレット変換部7と、重畳処理部8とに接続され、カラーパレット変換部7からのOSD3データの取得要求及び重畳処理部8からの実画像データの取得要求に対し、予め定められた優先順位に従ってカラーパレット変換部7と、重畳処理部8の何れかにデータを取得させる。   In addition to the system bus 2, the arbiter 6 is connected to the color palette conversion unit 7 and the superimposition processing unit 8. The arbiter 6 receives the OSD3 data acquisition request from the color palette conversion unit 7 and the actual image data from the superimposition processing unit 8. In response to the acquisition request, either the color palette conversion unit 7 or the superimposition processing unit 8 acquires data according to a predetermined priority order.

カラーパレット変換部7は、カラーパレット番号を、カラーパレット番号に対応して設定された色データに変換するためのテーブルを有しており、カラーパレット番号で構成されたOSD3データを実画像に対応する色データに変換して重畳処理部8に出力する。重畳処理部8は、実画像データに同期してOSD3データを読み出して重畳し、重畳によって得られた重畳画像データを表示出力処理部9に出力する。表示出力処理部9は、重畳処理部8から入力された重畳画像データをNTSC形式等の所定の映像信号に変換して表示部10に表示させる。   The color palette conversion unit 7 has a table for converting the color palette number into color data set corresponding to the color palette number, and corresponds to the OSD3 data composed of the color palette number for the actual image. Is converted into color data to be output to the superimposition processing unit 8. The superimposition processing unit 8 reads out and superimposes the OSD3 data in synchronization with the actual image data, and outputs the superimposed image data obtained by the superimposition to the display output processing unit 9. The display output processing unit 9 converts the superimposed image data input from the superimposition processing unit 8 into a predetermined video signal such as the NTSC format and causes the display unit 10 to display it.

次に、図2と図3を参照して変換テーブル4と重畳処理部5とについて更に詳しく説明する。図2は、変換テーブル4の構成を示す図である。図2に示すように、変換テーブル4は、OSD1データとOSD2データのビット幅を等しくするために、3bit×4Wordで構成された変換テーブルを有している。   Next, the conversion table 4 and the superimposition processing unit 5 will be described in more detail with reference to FIGS. FIG. 2 is a diagram showing the configuration of the conversion table 4. As shown in FIG. 2, the conversion table 4 has a conversion table composed of 3 bits × 4 words in order to equalize the bit widths of the OSD1 data and the OSD2 data.

ここで、ビット幅を等しくする最も簡単な手法として2bitのOSD2データの最上位ビットに“0”を付加して3bit化することが考えられる。ただし、この手法はOSD画像2が有する4色のカラーパレット配列と、これら4色に対応するOSD画像1のカラーパレット配列とが等しい、即ち、OSD画像2とOSD画像1とで同色のカラーパレット番号の値が等しい場合にのみ用いることができる。   Here, as the simplest method for equalizing the bit width, it is conceivable to add “0” to the most significant bit of the 2-bit OSD2 data to make it 3 bits. However, in this method, the color palette arrangement of the four colors included in the OSD image 2 and the color palette arrangement of the OSD image 1 corresponding to these four colors are the same, that is, the color palettes of the same color in the OSD image 2 and the OSD image 1. Can only be used when the number values are equal.

例えば、OSD画像1が持つ8色のカラーパレットの配列が図3の参照符号1aで示すようなものであり、OSD画像2が持つ4色のカラーパレットの配列が図3の参照符号1bで示すものであるような場合には上記したような最上位ビットに“0”を付加する手法は用いることができない。例えば、図3においては、OSD画像2において“白”を表すカラーパレット番号は“00”である。ところが、この最上位ビットに“0”を付加することによって得られる“000”はOSD画像1において“黄”を示すカラーパレット番号となってしまう。したがって、このまま重畳を行うと、元々白であったOSD画像2が黄色であると見なされて合成されてしまうことになる。   For example, the arrangement of the eight color palettes of the OSD image 1 is as shown by reference numeral 1a in FIG. 3, and the arrangement of the four color palettes of the OSD image 2 is shown by reference numeral 1b in FIG. In such a case, the method of adding “0” to the most significant bit as described above cannot be used. For example, in FIG. 3, the color palette number representing “white” in the OSD image 2 is “00”. However, “000” obtained by adding “0” to the most significant bit is a color palette number indicating “yellow” in the OSD image 1. Therefore, if superimposing is performed as it is, the OSD image 2 which was originally white is regarded as yellow and synthesized.

そこで、第1の実施形態においては、このような誤った色のOSD画像が合成されるのを防止するために、変換テーブル4のテーブルデータを図3の参照符号4aで示すように設定するようにする。この変換テーブル4aのテーブルデータは、OSD画像2の各色のデータ(カラーパレット番号)がOSD画像1の対応する各色のデータに変換されるように設定されている。例えば、上記した“白”の例では、OSD画像2において“白”を表す2bitのデータ“00”が、OSD画像1において“白”を表す3bitのデータ“010”に変換される。   Therefore, in the first embodiment, the table data of the conversion table 4 is set as indicated by reference numeral 4a in FIG. 3 in order to prevent such an OSD image having an incorrect color from being synthesized. To. The table data of the conversion table 4a is set so that the data (color palette number) of each color of the OSD image 2 is converted to the data of each corresponding color of the OSD image 1. For example, in the above-described example of “white”, 2-bit data “00” representing “white” in the OSD image 2 is converted into 3-bit data “010” representing “white” in the OSD image 1.

以上説明したような第1の実施形態によれば、実画像に複数のOSD画像を重畳する際に、予め複数のOSD画像1、2を合成しておき、これによって得られたOSD画像3を重畳の前にメモリ1に格納しておくことにより、データの破綻を招かずに、実画像の表示のタイミングに同期して複数のOSD画像を重畳表示することができる。   According to the first embodiment as described above, when superimposing a plurality of OSD images on an actual image, a plurality of OSD images 1 and 2 are synthesized in advance, and an OSD image 3 obtained thereby is obtained. By storing in the memory 1 before superimposition, it is possible to superimpose and display a plurality of OSD images in synchronism with the display timing of the actual image without causing data corruption.

また、複数のOSD画像の間で、ビット幅、カラーパレット配列といったデータ形式を等しくしてから合成を行うので、カラーパレット番号で構成されたOSDデータを、色データに戻さずに合成することができる、即ち処理データ量を削減することができると共に、合成の際に誤った色のデータが合成されてしまうこともない。   Further, since the data formats such as the bit width and the color palette arrangement are made equal among a plurality of OSD images, the OSD data composed of the color palette numbers can be combined without returning to the color data. In other words, the amount of processing data can be reduced, and erroneous color data is not combined at the time of combining.

ここで、第1の実施形態においては、OSD1データとOSD2データの2つのOSDデータの合成について説明しているが、3つ以上のOSDデータの合成においても基本的な考え方は2つの場合と変わらず、「最大の色数を有するOSD画像以外のOSDデータ」のビット幅を、「最大の色数を有するOSD画像における同じ色のOSDデータ」に変換するようなテーブルを設ければ良い。例えば、2bitのOSDデータ(4色のカラーパレットデータ)と、3bitのOSDデータ(8色のカラーパレットデータ)と、4bitのOSDデータ(16色のカラーパレットデータ)の3つのOSDデータを合成する際には、2bitのOSDデータと3bitのOSDデータの各色のデータを、4bitのOSDデータにおいて対応する各色のデータに変換するようなテーブルを設けるようにすれば良い。即ち、このような変換テーブルは、2bitのOSDデータを4bitにおいて対応する色のOSDデータに変換する4bit×4Wordのテーブルと、3bitのOSDデータを4bitにおいて対応する色のOSDデータに変換する4bit×8Wordのテーブルとで構成されることになる。このような変換テーブルを用いて、まず、2bitのOSDデータと4bitのOSDデータとを合成し、これによって得られた4bitのOSDデータと3bitのOSDデータとを合成する。   Here, in the first embodiment, the synthesis of two OSD data of OSD1 data and OSD2 data has been described. However, the basic idea in the synthesis of three or more OSD data is the same as in the case of two. Instead, a table for converting the bit width of “OSD data other than the OSD image having the maximum number of colors” into “OSD data of the same color in the OSD image having the maximum number of colors” may be provided. For example, 3 bits of OSD data (4-color palette data), 3 bits of OSD data (8 colors of palette data), and 4 bits of OSD data (16 colors of palette data) are combined. In this case, a table may be provided to convert the data of each color of 2-bit OSD data and 3-bit OSD data into data of each color corresponding to the 4-bit OSD data. That is, such a conversion table includes a 4 bit × 4 Word table for converting 2-bit OSD data into OSD data of a corresponding color in 4 bits, and a 4 bit × of converting 3 bit OSD data into OSD data of a corresponding color in 4 bits. It is composed of an 8-word table. Using such a conversion table, 2-bit OSD data and 4-bit OSD data are first synthesized, and the obtained 4-bit OSD data and 3-bit OSD data are synthesized.

なお、先に2bitのOSDデータと3bitのOSDデータの合成を行ってから、この合成によって得られる3bitのOSDデータと4bitのOSDデータとを合成するようにしても良い。   Alternatively, the 2-bit OSD data and the 3-bit OSD data may be synthesized first, and then the 3-bit OSD data and the 4-bit OSD data obtained by the synthesis may be synthesized.

また、変換テーブル4のデータは、OSDデータの全ての合成の組み合わせに対応した変換テーブルを格納しておくようにしても良いし、重畳するOSD画像が選択された時点でそれに対応する変換テーブルを生成するようにしても良い。   Further, the conversion table 4 may store a conversion table corresponding to all combinations of the OSD data, or the conversion table corresponding to the OSD image to be superimposed is selected when the OSD image to be superimposed is selected. You may make it produce | generate.

[第2の実施形態]
次に、本発明の第2の実施形態について説明する。図4は、本発明の第2の実施形態に係るオンスクリーン表示装置をデジタルカメラに適用した場合の図である。なお、図4において、図1と同様の構成については図1と同様の参照符号を付すことにより説明を省略する。
[Second Embodiment]
Next, a second embodiment of the present invention will be described. FIG. 4 is a diagram when the on-screen display device according to the second embodiment of the present invention is applied to a digital camera. In FIG. 4, the same components as those in FIG. 1 are denoted by the same reference numerals as those in FIG.

図4において、撮像素子11は、被写体を撮像して撮影画及びスルー画のための実画像を取得する。ここで、撮影画は静止画又は動画を記録するために取得される実画像であり、スルー画は被写体観察の目的等のために表示部10に表示される実画像である。以下、これらを特に区別せずに実画像と称する。   In FIG. 4, the image sensor 11 captures a subject and acquires real images for a captured image and a through image. Here, the photographed image is an actual image acquired for recording a still image or a moving image, and the through image is an actual image displayed on the display unit 10 for the purpose of subject observation. Hereinafter, these are referred to as real images without any particular distinction.

プリプロセス部12は撮像素子11において得られた実画像に対し、波形変換、ノイズ除去、増幅等のアナログ処理を行い、このアナログ処理された実画像をデジタル信号に変換してデジタルの実画像データを取得する。プリプロセス部12で得られた実画像データは、システムバス2を介して上記したメモリ1に格納される。   The pre-processing unit 12 performs analog processing such as waveform conversion, noise removal, and amplification on the actual image obtained by the image sensor 11, and converts the analog-processed actual image into a digital signal to generate digital actual image data. To get. Actual image data obtained by the preprocessing unit 12 is stored in the memory 1 via the system bus 2.

画像処理部13は、メモリ1に格納された実画像データを読み出し、この読み出した実画像データに対して、記録のための画像処理又は表示のための画像処理を施す。ここで、記録のための画像処理には、ホワイトバランス補正や、γ補正、色補正、圧縮等が含まれる。一方、表示のための画像処理には、ホワイトバランス補正や、リサイズ処理等が含まれる。これら処理については周知の画像処理手法を用いれば良いのでここでは説明を省略する。画像処理部13で処理された実画像データは、システムバス2を介してメモリ1に書き戻される。   The image processing unit 13 reads the actual image data stored in the memory 1, and performs image processing for recording or image processing for display on the read actual image data. Here, the image processing for recording includes white balance correction, γ correction, color correction, compression, and the like. On the other hand, image processing for display includes white balance correction, resizing processing, and the like. For these processes, a well-known image processing method may be used, and the description thereof is omitted here. The actual image data processed by the image processing unit 13 is written back to the memory 1 via the system bus 2.

ここで、スルー画表示の場合には、メモリ1に格納された画像処理後の実画像データが、システムバス2、アービタ6を介して重畳処理部8によって読み出される。この際、実画像に複数のOSD画像を重畳する必要がある場合には、重畳処理部8において実画像データを読み出す前に、メモリ1に格納されたOSDデータがアービタ3を介して読み出される。   Here, in the case of through image display, the actual image data after image processing stored in the memory 1 is read out by the superimposition processing unit 8 via the system bus 2 and the arbiter 6. At this time, when it is necessary to superimpose a plurality of OSD images on the real image, the OSD data stored in the memory 1 is read via the arbiter 3 before the superimposition processing unit 8 reads the real image data.

ここで、第2の実施形態のオンスクリーン表示装置が第1の実施形態のオンスクリーン表示装置と異なっている点は、第2の実施形態には、データ拡張部としてのbit拡張部14が設けられている点である。第2の実施形態においては、OSD画像2が有するカラーパレット配列と、OSD画像2が有するカラーパレットの各色に対応するOSD画像1のカラーパレット配列とが等しい、即ち、OSD画像2とOSD画像1とで同色のカラーパレット番号の値が等しい場合には、bit拡張部14からアービタ3にOSD2データの取得要求がなされ、等しくない場合には変換テーブル4からアービタ3にOSD2データの取得要求がなされる。アービタ3はこれらの取得要求に従って、変換テーブル4とbit拡張部14の何れかにデータを取得させる。   Here, the on-screen display device of the second embodiment is different from the on-screen display device of the first embodiment in that the second embodiment is provided with a bit extension unit 14 as a data extension unit. This is the point. In the second embodiment, the color palette array included in the OSD image 2 and the color palette array of the OSD image 1 corresponding to each color of the color palette included in the OSD image 2 are equal, that is, the OSD image 2 and the OSD image 1. If the color palette number values of the same color are equal, the bit extension unit 14 issues an OSD2 data acquisition request to the arbiter 3, and if they are not equal, the conversion table 4 issues an OSD2 data acquisition request to the arbiter 3. The The arbiter 3 causes the conversion table 4 or the bit extension unit 14 to acquire data in accordance with these acquisition requests.

変換テーブル4は、上記した第1の実施形態と同じ処理を行い、変換テーブルによって変換されたOSD2データをセレクタ15に出力する。一方、bit拡張部14は、OSD2データの最上位ビットにOSD1データのビット幅とOSD2データのビット幅との差分に相当するだけの“0”を付加してOSD2データのデータ形式をOSD1データのデータ形式と等しくする処理を行う。つまり、bit拡張部14によってOSD2データのビット幅はOSD1データのビット幅と等しくなる。   The conversion table 4 performs the same processing as in the first embodiment described above, and outputs the OSD2 data converted by the conversion table to the selector 15. On the other hand, the bit extension unit 14 adds “0” corresponding to the difference between the bit width of the OSD1 data and the bit width of the OSD2 data to the most significant bit of the OSD2 data to change the data format of the OSD2 data to that of the OSD1 data. Perform processing equivalent to the data format. That is, the bit extension unit 14 makes the bit width of the OSD2 data equal to the bit width of the OSD1 data.

セレクタ15は、変換テーブル4の出力とbit拡張部14の出力のうち、何れか入力されたほうの出力を選択して、その選択した出力を重畳処理部5に出力する。これ以後のオンスクリーン表示装置の動作は上記した第1の実施形態と同様である。   The selector 15 selects one of the output of the conversion table 4 and the output of the bit extension unit 14 and outputs the selected output to the superimposition processing unit 5. Subsequent operations of the on-screen display device are the same as those in the first embodiment.

また、図4において、撮影画を記録する場合には、記録制御部16は、メモリ1に格納された記録のための画像処理が施された実画像データを記録媒体としてのメモリカード17に記録する。なお、記録媒体はメモリカードに限定されるものではない。   In FIG. 4, when recording a captured image, the recording control unit 16 records actual image data subjected to image processing for recording stored in the memory 1 in a memory card 17 as a recording medium. To do. Note that the recording medium is not limited to a memory card.

以上説明したように、第2の実施形態においては、上記した第1の実施形態の効果に加え、変換テーブル4とbit拡張部14の何れか適切なほうの出力を用いてOSDデータの合成を行うことができる。一般に、bit拡張部14は、変換テーブル4よりも高速に処理を行うことができるので、bit拡張部14の出力を利用しても支障がない場合には、bit拡張部14の出力を選択することにより、全体の重畳表示処理の高速化を図ることができる。   As described above, in the second embodiment, in addition to the effects of the first embodiment described above, the OSD data is synthesized by using an appropriate output of the conversion table 4 or the bit extension unit 14. It can be carried out. In general, the bit extension unit 14 can perform processing faster than the conversion table 4, and therefore, if there is no problem even if the output of the bit extension unit 14 is used, the output of the bit extension unit 14 is selected. As a result, it is possible to speed up the entire superimposed display process.

なお、第2の実施形態においては、スルー画表示の際の重畳表示を例として説明しているが、メモリカード17に記録された画像を再生する際の重畳表示に第2の実施形態の手法を適用しても良いことは言うまでもない。   In the second embodiment, the superimposed display at the time of through image display is described as an example. However, the method of the second embodiment is used for the superimposed display at the time of reproducing an image recorded on the memory card 17. It goes without saying that may be applied.

以上実施形態に基づいて本発明を説明したが、本発明は上記した実施形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。   Although the present invention has been described based on the above embodiments, the present invention is not limited to the above-described embodiments, and various modifications and applications are naturally possible within the scope of the gist of the present invention.

さらに、上記した実施形態には種々の段階の発明が含まれており、開示される複数の構成要件の適当な組合せにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、発明が解決しようとする課題の欄で述べた課題が解決でき、発明の効果の欄で述べられている効果が得られる場合には、この構成要件が削除された構成も発明として抽出され得る。   Further, the above-described embodiments include various stages of the invention, and various inventions can be extracted by appropriately combining a plurality of disclosed constituent elements. For example, even if some constituent requirements are deleted from all the constituent requirements shown in the embodiment, the problem described in the column of the problem to be solved by the invention can be solved, and the effect described in the column of the effect of the invention Can be extracted as an invention.

本発明の第1の実施形態に係るオンスクリーン表示用画像データの合成方法を適用したオンスクリーン表示装置の構成について示す図である。It is a figure shown about the structure of the on-screen display apparatus to which the synthetic | combination method of the image data for on-screen display which concerns on the 1st Embodiment of this invention is applied. 変換テーブルの構成を示す図である。It is a figure which shows the structure of a conversion table. 変換テーブルの具体例について説明するための図である。It is a figure for demonstrating the specific example of a conversion table. 本発明の第2の実施形態に係るオンスクリーン表示装置をデジタルカメラに適用した場合の図である。It is a figure at the time of applying the on-screen display apparatus which concerns on the 2nd Embodiment of this invention to a digital camera. bit拡張部を利用することができるOSD画像の例を示す図である。It is a figure which shows the example of the OSD image which can utilize a bit expansion part. 従来例について示す図である。It is a figure shown about a prior art example.

符号の説明Explanation of symbols

1,101…メモリ、2,102…システムバス、3,6,103…アービタ、4…変換テーブル、5,8,105,108…重畳処理部、7,104a,104b…カラーパレット変換部、9,109…表示出力処理部、10,110…表示部、11…撮像素子、12…プリプロセス部、13…画像処理部、14…bit拡張部、15…セレクタ、16…記録制御部、17…メモリカード   DESCRIPTION OF SYMBOLS 1,101 ... Memory, 2,102 ... System bus, 3, 6, 103 ... Arbiter, 4 ... Conversion table, 5, 8, 105, 108 ... Superimposition processing part, 7, 104a, 104b ... Color palette conversion part, 9 , 109: Display output processing unit, 10, 110: Display unit, 11: Image sensor, 12 ... Pre-processing unit, 13 ... Image processing unit, 14 ... Bit expansion unit, 15 ... Selector, 16 ... Recording control unit, 17 ... Memory card

Claims (7)

色情報をテーブル化したテーブルデータに対応して設定されたテーブル番号で構成された複数のオンスクリーン表示用画像データを合成して1つのオンスクリーン表示用画像合成データを作成し、前記作成した1つのオンスクリーン表示画像合成データをメモリに格納するオンスクリーン表示用画像データの合成方法であって、
前記複数のオンスクリーン表示用画像データは、異なるテーブルのテーブル番号で構成されたデータであり、
前記合成に先立って、前記複数のオンスクリーン表示用画像データの中で、最大の色数を持たないテーブルのテーブル番号で構成されたオンスクリーン表示用画像データのデータ形式を、最大の色数を持つテーブルのテーブル番号で構成されたオンスクリーン表示用画像データのデータ形式に変換し、
前記変換は、前記最大の色数を持たないテーブルのテーブル番号で構成されたオンスクリーン表示用画像データ中のテーブル番号を、前記最大の色数を持つテーブルのテーブル番号に対応した色情報に相等しい色情報に対応するテーブル番号に変換する変換テーブルに基づいて行うことを特徴とするオンスクリーン表示用画像データの合成方法。
A plurality of on-screen display image data composed of table numbers set corresponding to the table data in which color information is tabulated are combined to create one on-screen display image combined data. One of the on-screen display image synthesis data a synthetic method of the on-screen display image data to be stored in memory,
The plurality of on-screen display image data is data composed of table numbers of different tables,
Prior to the composition, the data format of the on-screen display image data constituted by the table number of the table having no maximum number of colors among the plurality of on-screen display image data is set to the maximum number of colors. Convert to the data format of on-screen display image data composed of table numbers
In the conversion, the table number in the on-screen display image data configured with the table number of the table having no maximum number of colors is compared with the color information corresponding to the table number of the table having the maximum number of colors. A method for synthesizing image data for on-screen display, which is performed based on a conversion table for converting into table numbers corresponding to equal color information .
前記変換は、前記最大の色数を持たないテーブルのテーブル番号のビット幅を、該テーブル番号の値を変えないように、前記最大の色数を持つテーブルのテーブル番号のビット幅に拡張することで行うことを特徴とする請求項1に記載のオンスクリーン表示用画像データの合成方法。In the conversion, the bit width of the table number of the table not having the maximum number of colors is expanded to the bit width of the table number of the table having the maximum number of colors so as not to change the value of the table number. The method for synthesizing image data for on-screen display according to claim 1, wherein: 前記色情報は、YCbCrデータ若しくはRGBデータであり、且つ前記1つのオンスクリーン表示用画像合成データは、前記色情報と同等のデータ形式であること特徴とする請求項1に記載のオンスクリーン表示用画像データの合成方法。2. The on-screen display device according to claim 1, wherein the color information is YCbCr data or RGB data, and the one on-screen display image composition data has a data format equivalent to the color information. Image data composition method. 前記オンスクリーン表示用画像データは、メニュー情報表示と撮影情報表示の少なくとも何れか一方を含む情報を表示するためのデータであることを特徴とする請求項1又は3に記載のオンスクリーン表示用画像データの合成方法。The on-screen display image according to claim 1 or 3, wherein the on-screen display image data is data for displaying information including at least one of menu information display and photographing information display. How to synthesize data. 色情報をテーブル化したテーブルデータに対応して設定されたテーブル番号からなる複数のオンスクリーン表示用画像データを合成して1つのオンスクリーン表示用画像合成データを作成するデータ合成部と、A data composition unit for composing a plurality of on-screen display image data composed of table numbers set corresponding to the table data in which color information is tabulated to create one on-screen display image composition data;
前記データ合成部で作成された1つのオンスクリーン表示用画像合成データを記憶する記憶部と、A storage unit for storing one on-screen display image synthesis data created by the data synthesis unit;
前記記憶部に記憶されたオンスクリーン表示用画像合成データを読み出して実画像に重畳して表示する表示部と、を具備し、A display unit that reads the image synthesis data for on-screen display stored in the storage unit and displays the combined image on the actual image, and
前記データ合成部は、The data synthesis unit
前記複数のオンスクリーン表示用画像データの中で最大の色数を持たないテーブルのテーブル番号を、それぞれのテーブル番号に対応した色情報に相等しい色情報に対応する前記最大の色数を持つテーブルのテーブル番号に変換するデータ変換部と、A table having the maximum number of colors corresponding to color information equal to the color information corresponding to each table number, which is the table number having no maximum number of colors among the plurality of on-screen display image data. A data conversion unit for converting the table number into
前記最大の色数を持たないテーブルのテーブル番号のビット幅を、該テーブル番号の値を変えないように、前記最大の色数を持つテーブルのテーブル番号のビット幅に拡張するデータ拡張部と、A data extension unit that extends the bit width of the table number of the table having no maximum number of colors to the bit width of the table number of the table having the maximum number of colors so as not to change the value of the table number;
前記データ変換部の出力と前記データ拡張部の出力の何れかを選択し、選択した出力と前記最大の色数を持つテーブルのテーブル番号で構成されたオンスクリーン表示用画像データとで前記合成を行う合成処理部と、Select one of the output of the data conversion unit and the output of the data expansion unit, and combine the selected output and the on-screen display image data composed of the table number of the table having the maximum number of colors. A synthesis processing unit to perform;
を有することを特徴とするオンスクリーン表示装置。An on-screen display device comprising:
前記合成処理部は、前記最大の色数を持たないテーブルのテーブル番号の値が、それぞれのテーブル番号に対応する色情報と相等しい色情報に対応する前記最大の色数を持つテーブルのテーブル番号の値に一致しない場合に前記データ変換部の出力を選択して前記合成を行い、一致する場合に前記データ拡張部の出力を選択して前記合成を行うことを特徴とする請求項5に記載のオンスクリーン表示装置。The composition processing unit is configured such that the table number of the table having the maximum number of colors corresponding to the color information corresponding to the color information corresponding to each table number is the table number value of the table not having the maximum number of colors. 6. The output of the data conversion unit is selected when the values do not match, and the synthesis is performed. If the values match, the output of the data extension unit is selected and the synthesis is performed. On-screen display device. 請求項5又は6に記載のオンスクリーン表示装置を搭載したデジタルカメラであって、A digital camera equipped with the on-screen display device according to claim 5 or 6,
前記色情報は、YCbCrデータ若しくはRGBデータであり、The color information is YCbCr data or RGB data,
前記オンスクリーン表示用画像データは、メニュー情報表示と撮影情報表示の少なくとも何れか一方を含む情報を表示するためのデータであり、The on-screen display image data is data for displaying information including at least one of menu information display and shooting information display,
前記実画像は、前記デジタルカメラが有する撮像素子によって得られる撮影画像と前記デジタルカメラが有する記録媒体から読み出される再生画像の少なくとも何れかを含むことを特徴とするデジタルカメラ。2. The digital camera according to claim 1, wherein the real image includes at least one of a captured image obtained by an imaging element included in the digital camera and a reproduced image read from a recording medium included in the digital camera.
JP2005319866A 2005-11-02 2005-11-02 Method for synthesizing image data for on-screen display, on-screen display device, and digital camera Expired - Fee Related JP4866059B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005319866A JP4866059B2 (en) 2005-11-02 2005-11-02 Method for synthesizing image data for on-screen display, on-screen display device, and digital camera

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005319866A JP4866059B2 (en) 2005-11-02 2005-11-02 Method for synthesizing image data for on-screen display, on-screen display device, and digital camera

Publications (3)

Publication Number Publication Date
JP2007129465A JP2007129465A (en) 2007-05-24
JP2007129465A5 JP2007129465A5 (en) 2008-12-04
JP4866059B2 true JP4866059B2 (en) 2012-02-01

Family

ID=38151762

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005319866A Expired - Fee Related JP4866059B2 (en) 2005-11-02 2005-11-02 Method for synthesizing image data for on-screen display, on-screen display device, and digital camera

Country Status (1)

Country Link
JP (1) JP4866059B2 (en)

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2842590B2 (en) * 1988-01-26 1999-01-06 株式会社 アスキー Dual screen display controller
JPH03235993A (en) * 1990-02-13 1991-10-21 Toshiba Corp Multiwindow display system
JP3530215B2 (en) * 1993-12-22 2004-05-24 三洋電機株式会社 On-screen display device
JP2000221949A (en) * 1999-02-04 2000-08-11 Hitachi Ltd Display device
JP2001358934A (en) * 2000-06-15 2001-12-26 Sony Corp Image pickup device and attached image composition method
JP2002023733A (en) * 2000-07-04 2002-01-25 Mitsubishi Electric Corp Picture compositing processing device
JP2005017610A (en) * 2003-06-25 2005-01-20 Matsushita Electric Ind Co Ltd Device and method for on-screen display

Also Published As

Publication number Publication date
JP2007129465A (en) 2007-05-24

Similar Documents

Publication Publication Date Title
JPH087567B2 (en) Image display device
JP4263190B2 (en) Video composition circuit
JPH07311569A (en) Image processing device and method
JP6948810B2 (en) Image processing system
JP4866059B2 (en) Method for synthesizing image data for on-screen display, on-screen display device, and digital camera
JP2637821B2 (en) Superimpose device
JP4379334B2 (en) Image composition apparatus and electronic camera
JP3113213B2 (en) Image information generation device
JP6478621B2 (en) Image processing device
JP2989376B2 (en) Image processing device
JP6048046B2 (en) Image composition apparatus and image composition method
JP4174901B2 (en) Image display device, image display method, and recording medium recording image display control program
JP2781924B2 (en) Superimpose device
JPH04114195A (en) Image storing device
JP3643416B2 (en) Image data input / output apparatus and method
JPH10257450A (en) Method and device for multiplexing video signals
JP2000125222A (en) On-screen display device
JP2002320086A (en) Device/method for picture processing, recording medium and program
JP4695422B2 (en) Image synthesizer
JP3621746B2 (en) Digital image data writing device and reading device, writing method and reading method
JP3316767B2 (en) Image processing system
JPWO2002071748A1 (en) Electronic camera and data file generator
JPH0511727A (en) Image composition and display deivce
JP2771073B2 (en) Camcorder image shake compensation device
JPH10285452A (en) Image-pickup device

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081022

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081022

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100811

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100907

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110614

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110727

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110823

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111014

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111101

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141118

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4866059

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313115

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees