JP5041874B2 - Intercom device with TV - Google Patents

Intercom device with TV Download PDF

Info

Publication number
JP5041874B2
JP5041874B2 JP2007130827A JP2007130827A JP5041874B2 JP 5041874 B2 JP5041874 B2 JP 5041874B2 JP 2007130827 A JP2007130827 A JP 2007130827A JP 2007130827 A JP2007130827 A JP 2007130827A JP 5041874 B2 JP5041874 B2 JP 5041874B2
Authority
JP
Japan
Prior art keywords
control
video signal
screen
exposure
enlarged
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2007130827A
Other languages
Japanese (ja)
Other versions
JP2008288803A (en
Inventor
睦裕 山中
聡 古川
淳平 遠藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2007130827A priority Critical patent/JP5041874B2/en
Publication of JP2008288803A publication Critical patent/JP2008288803A/en
Application granted granted Critical
Publication of JP5041874B2 publication Critical patent/JP5041874B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Interconnected Communication Systems, Intercoms, And Interphones (AREA)

Description

本発明は、屋外に設置されるインターホン子器と、屋内に設置されるインターホン親機とからなり、インターホン子器とインターホン親機との間で相互に音声信号を伝送して通話するとともにインターホン子器に設けられた撮像装置で撮像した映像がインターホン親機に伝送されて当該インターホン親機に設けられた表示装置で表示されるテレビ付インターホン装置に関するものである。   The present invention comprises an intercom handset installed outdoors and an intercom base unit installed indoors. The intercom base station and the interphone base unit communicate with each other by transmitting audio signals to each other and intercom handsets. The present invention relates to an interphone apparatus with a television set in which an image captured by an imaging apparatus provided in a monitor is transmitted to an interphone master unit and displayed on a display device provided in the interphone master unit.

従来のテレビ付インターホン装置として、インターホン子器に設けられた撮像装置に広角レンズを搭載し、広い画角で撮像された1画面の一部、例えば、来訪者の顔が写っている領域を画像処理技術を利用して1画面の大きさに拡大表示するものが提供されている(例えば、特許文献1参照)。
特開平6−38214号公報
As a conventional interphone device with a television, a wide-angle lens is mounted on the image pickup device provided in the intercom handset, and a part of one screen imaged with a wide angle of view, for example, an area where a visitor's face is shown There has been provided a display which enlarges and displays the size of one screen using a processing technique (see, for example, Patent Document 1).
Japanese Patent Laid-Open No. 6-38214

ところで、インターホン子器に設けられる撮像装置には、撮像した映像の露出を適正なレベルに制御する露出制御機能や、カラー映像における色バランス(ホワイトバランスとも言う。)を制御する色バランス制御機能、映像信号の階調特性を制御する階調特性制御機能、被写体の輪郭を強調する輪郭強調機能等が搭載されているが、これらの各機能による制御を行うための条件(制御条件)、例えば、露出制御を行う際に映像信号の信号強度を評価する評価エリアの画面内における位置が拡大前の1画面分の映像信号に対して最適であっても、拡大後の映像信号に対して最適であるとは限らず、拡大前に最適な露出に制御されていた画像の一部を拡大したところ、拡大された映像の露出が高くなったり、反対に露出が低くなってしまうことがある。   By the way, the image pickup apparatus provided in the intercom handset has an exposure control function for controlling the exposure of the captured image to an appropriate level, a color balance control function for controlling a color balance (also referred to as white balance) in a color image, A gradation characteristic control function for controlling the gradation characteristic of the video signal, an outline enhancement function for enhancing the outline of the subject, and the like are installed. Conditions (control conditions) for performing control by these functions, for example, Even if the position in the screen of the evaluation area that evaluates the signal strength of the video signal when performing exposure control is optimal for the video signal for one screen before expansion, it is optimal for the video signal after expansion. Not necessarily, but when you enlarge a part of the image that was controlled to the optimal exposure before enlargement, the exposure of the enlarged image becomes higher or the exposure becomes lower A.

本発明は上記事情に鑑みて為されたものであり、その目的は、拡大された映像に対しても露出制御や色バランス制御、階調特性制御、輪郭協調制御を適切に行うことができるテレビ付インターホン装置を提供することにある。   The present invention has been made in view of the above circumstances, and a purpose thereof is a television capable of appropriately performing exposure control, color balance control, gradation characteristic control, and contour cooperative control even for an enlarged image. It is to provide an attached intercom device.

請求項1の発明は、上記目的を達成するために、屋外に設置されるインターホン子器と、屋内に設置されるインターホン親機とからなり、インターホン子器とインターホン親機との間で相互に音声信号を伝送して通話するとともにインターホン子器に設けられた撮像装置で撮像した映像がインターホン親機に伝送されて当該インターホン親機に設けられた表示装置で表示されるテレビ付インターホン装置において、撮像装置は、入射する光を電気信号に変換する撮像素子と、撮像素子が出力する映像信号の露出を制御する露出制御手段と、撮像素子が出力する映像信号の色バランスを制御する色バランス制御手段と、撮像素子が出力する映像信号の階調特性を制御する階調特性制御手段と、撮像素子が出力する映像信号の輪郭強調度合いを制御する輪郭強調制御手段と、撮像素子が出力する映像の中央部分のみを照明する照明手段と、撮像素子に入射する光量が所定値未満である場合に照明手段を制御して照明する撮影モードに設定する撮影モード設定手段とを備え、インターホン子器は、撮像装置が出力する1画面分の映像信号を信号処理することで当該1画面よりも小さい任意の領域を前記1画面分の大きさに拡大して表示するための映像信号を作成する拡大処理手段と、拡大処理手段で拡大される前記領域の位置応じて、前記露出制御手段、色バランス制御手段、階調制御手段うちの少なくとも何れか一つの手段における制御条件を変更し、且つ拡大処理手段で拡大される前記領域の拡大倍率に応じて、前記露出制御手段、色バランス制御手段、輪郭協調制御手段のうちの少なくとも何れか一つの手段における制御条件を変更する制御条件変更手段とを備え、制御条件変更手段によって変更される制御条件は、1画面内で露出制御手段が露出制御のために映像信号の信号強度を評価する評価エリアの位置、若しくは1画面内で色バランス制御手段が色バランス制御のために映像信号の色バランスを評価する評価エリアの位置であって、制御条件変更手段は、撮影モード設定手段によって照明手段が照明する撮影モードに設定されている場合、1画面内で露出制御手段が露出制御のために映像信号の信号強度を評価する評価エリアの位置を、拡大されていない画面の中央若しくはその近傍に変更することを特徴とする。 In order to achieve the above object, the invention of claim 1 comprises an intercom handset installed outdoors and an interphone base unit installed indoors, and the interphone base unit and the interphone base unit are mutually connected. In an interphone device with a television set that transmits a voice signal and makes a phone call, and an image captured by an imaging device provided in the interphone slave unit is transmitted to the interphone master device and displayed on a display device provided in the interphone master device. An imaging device includes an imaging device that converts incident light into an electrical signal, an exposure control unit that controls exposure of a video signal output from the imaging device, and a color balance control that controls color balance of the video signal output from the imaging device. Means, a gradation characteristic control means for controlling the gradation characteristic of the video signal output from the image sensor, and the degree of contour enhancement of the video signal output from the image sensor. Setting a contour enhancement control means, the photographing mode and illuminating means for illuminating only the center portion of the image capturing element is output, the amount of light incident on the imaging device to illuminate by controlling the illuminating means is less than the predetermined value The interphone handset expands an arbitrary area smaller than the one screen to the size of the one screen by performing signal processing on the video signal for one screen output from the imaging device. and expansion processing means for generating a video signal for and displaying, in accordance with the position of the region to be enlarged by the enlargement processing unit, wherein the exposure control means, the color balance control unit, either at least one of the gradation control means or by changing the control conditions in one unit, and in accordance with the magnification of the area to be enlarged by the enlargement processing unit, wherein the exposure control means, the color balance control unit, of the contour cooperative control means And a control condition changing means for changing a control condition in at least one of the means, control conditions changed by the control condition changing means, the signal strength of the video signal for exposure control means exposure control in one screen The position of the evaluation area where the color balance control means evaluates the color balance of the video signal for color balance control within one screen, and the control condition changing means is the shooting mode setting means When the shooting mode is set to illuminate by the illumination means, the position of the evaluation area where the exposure control means evaluates the signal intensity of the video signal for exposure control within one screen is set to the center of the unenlarged screen or It changes to the vicinity .

請求項1の発明によれば、インターホン子器が備える制御条件変更手段によって、拡大処理手段で拡大される前記領域の位置並びに拡大倍率に応じて、前記露出制御手段、色バランス制御手段、階調制御手段、輪郭強調制御手段のうちの少なくとも何れか一つの手段における制御条件が変更されるため、拡大された映像に対しても露出制御や色バランス制御、階調特性制御、輪郭協調制御を適切に行うことができる。また、撮像装置の撮影モード設定手段で設定される撮影モードが変更されても露出制御や色バランス制御、階調特性制御、輪郭協調制御を適切に行うことができる。さらに、照明手段で照明されない画面周辺における映像信号の信号強度に基づいて露出が制御されることが無く、拡大された映像の露出が適正なレベルよりも高くなることを防ぐことができる。 According to the first aspect of the present invention, the exposure control means, the color balance control means, and the gradation according to the position of the area enlarged by the enlargement processing means and the enlargement magnification by the control condition changing means provided in the intercom handset. Since the control condition in at least one of the control means and the contour emphasis control means is changed, exposure control, color balance control, gradation characteristic control, and contour cooperative control are appropriately applied to an enlarged image. Can be done. In addition, exposure control, color balance control, gradation characteristic control, and contour cooperative control can be appropriately performed even when the shooting mode set by the shooting mode setting unit of the imaging apparatus is changed. Further, the exposure is not controlled based on the signal intensity of the video signal around the screen that is not illuminated by the illumination means, and the exposure of the enlarged video can be prevented from becoming higher than an appropriate level.

請求項の発明は、請求項の発明において、制御条件変更手段は、拡大処理手段で拡大される領域が、拡大されていない画面の鉛直方向における中央位置よりも上方の位置に設定されている場合、1画面内で露出制御手段が露出制御のために映像信号の信号強度を評価する評価エリアの位置を前記中央位置よりも下方に変更することを特徴とする。 According to a second aspect of the present invention, in the first aspect of the invention, the control condition changing means sets the region enlarged by the enlargement processing means to a position above the center position in the vertical direction of the screen that is not enlarged. If it is, the position of the evaluation area where the exposure control means evaluates the signal intensity of the video signal for exposure control within one screen is changed below the center position.

請求項の発明によれば、拡大処理手段で拡大される領域が、拡大されていない画面の鉛直方向における中央位置よりも上方の位置に設定されている場合、画面内に輝度の高い空が含まれている率が高くなるが、このような場合、制御条件変更手段が1画面内で露出制御手段が露出制御のために映像信号の信号強度を評価する評価エリアの位置を前記中央位置よりも下方に変更するので、拡大された映像の露出が適正なレベルよりも低くなることを防ぐことができる。 According to the invention of claim 2 , when the area enlarged by the enlargement processing means is set at a position higher than the center position in the vertical direction of the non-enlarged screen, a high-luminance sky is present in the screen. In such a case, the position of the evaluation area in which the control condition changing unit evaluates the signal intensity of the video signal for exposure control is set to be higher than the central position. Therefore, the exposure of the enlarged image can be prevented from becoming lower than an appropriate level.

請求項の発明は、請求項1又は2の発明において、制御条件変更手段は、拡大倍率が増加するにつれて輪郭強調制御手段による輪郭強調の度合いを高くすることを特徴とする。 According to a third aspect of the present invention, in the first or second aspect of the invention, the control condition changing means increases the degree of contour emphasis by the contour emphasis control means as the enlargement magnification increases.

請求項の発明によれば、一般的に拡大された映像の鮮鋭度は拡大倍率の増加に伴って低下するため、拡大倍率が増加するにつれて輪郭強調制御手段による輪郭強調の度合いを高くすることによって拡大された映像の鮮鋭度を改善することができる。 According to the invention of claim 3 , since the sharpness of the enlarged image generally decreases as the enlargement magnification increases, the degree of contour enhancement by the contour enhancement control means increases as the enlargement magnification increases. The sharpness of the enlarged image can be improved.

請求項の発明は、請求項1又は2の発明において、制御条件変更手段は、拡大倍率が増加するにつれて輪郭協調制御手段による輪郭強調の周波数範囲を低周波側にシフトすることを特徴とする。 According to a fourth aspect of the present invention, in the first or second aspect of the invention, the control condition changing means shifts the frequency range of contour emphasis by the contour cooperative control means to the low frequency side as the enlargement magnification increases. .

請求項の発明によれば、一般的に拡大された映像の鮮鋭度は拡大倍率の増加に伴って低下するため、拡大倍率が増加するにつれて輪郭強調制御手段による輪郭強調の周波数範囲を低周波側にシフトすることによって拡大された映像の鮮鋭度を改善することができる。 According to the invention of claim 4 , since the sharpness of the enlarged image generally decreases as the enlargement magnification increases, the frequency range of the contour emphasis by the contour emphasis control means decreases as the enlargement magnification increases. The sharpness of the enlarged image can be improved by shifting to the side.

請求項の発明は、請求項1〜の何れか1項の発明において、拡大処理手段は、拡大される領域が拡大前の1画面における中央から離れるにつれて拡大倍率を減少させることを特徴とする。 The invention of claim 5 is the invention according to any one of claims 1 to 4 , wherein the enlargement processing means decreases the enlargement magnification as the area to be enlarged moves away from the center of one screen before enlargement. To do.

請求項の発明によれば、拡大される領域の位置が変わっても画面に映る被写体の大きさをほぼ同じ程度にすることができる。 According to the invention of claim 5 , even if the position of the area to be enlarged changes, the size of the subject shown on the screen can be made substantially the same.

本発明によれば、拡大された映像に対しても露出制御や色バランス制御、階調特性制御、輪郭協調制御を適切に行うことができる。   According to the present invention, exposure control, color balance control, gradation characteristic control, and contour cooperative control can be appropriately performed even on an enlarged image.

以下、図面を参照して本発明の実施形態について詳細に説明する。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.

本実施形態のテレビ付インターホン装置は、図1に示すように撮像装置1を内蔵して屋外(例えば、住戸の外玄関)に設置されるインターホン子器(以下、「子器」と略す。)Sと、表示装置100を内蔵して屋内(例えば、住戸の居間)に設置されるインターホン親機(以下、「親機」と略す。)Mとで構成され、子器Sと親機Mとの間で信号線Lsを介して相互に音声信号を伝送して通話するとともに、子器Sの撮像装置1で撮像した映像が信号線Lsを介して親機Mに伝送され、親機Mの表示装置100で表示されるものである。但し、通話に関する構成については従来周知であるから図示並びに説明を省略する。   As shown in FIG. 1, the intercom apparatus with a television according to the present embodiment includes an image pickup apparatus 1 and is installed outdoors (for example, an exterior entrance of a dwelling unit). S and an interphone master unit (hereinafter abbreviated as “master unit”) M that is installed indoors (for example, in the living room of the dwelling unit) with the display device 100 built-in. Between the two, the voice signal is transmitted to each other via the signal line Ls to make a call, and an image captured by the imaging device 1 of the slave unit S is transmitted to the master unit M via the signal line Ls. It is displayed on the display device 100. However, since the configuration related to the telephone call is well known in the art, illustration and description thereof will be omitted.

親機Mは、LCDパネルのような表示デバイスと表示デバイスを駆動して映像を表示させるドライバ回路等を具備する表示装置100、子器Sとの間で信号線Lsを介して音声信号、映像信号、制御信号を周波数分割多重伝送する信号伝送部101、人による操作入力を受け付ける操作入力受付部102などを備えている。   The master M is connected to a display device 100 such as an LCD panel and a display device 100 including a driver circuit that displays the video by driving the display device, and the slave unit S via the signal line Ls. A signal transmission unit 101 that performs frequency division multiplex transmission of signals and control signals, an operation input reception unit 102 that receives an operation input by a person, and the like are provided.

子器Sは、撮像装置1と、親機Mとの間で信号線Lsを介して音声信号、映像信号、制御信号を周波数分割多重伝送する信号伝送部2と、撮像装置1が出力する1画面分の映像信号を信号処理することで当該1画面よりも小さい任意の領域(以下、「拡大領域」という。)を前記1画面分の大きさに拡大して表示するための映像信号を作成する拡大処理部3と、親機Mから伝送される制御信号を信号伝送部2から受け取って必要な処理を実行するとともに、後述するように撮像装置1並びに拡大処理部3を制御する制御部4とを備えている。   The subunit | mobile_unit S is the signal transmission part 2 which frequency-division-multiplex-transmits an audio | voice signal, a video signal, and a control signal via the signal wire | line Ls between the imaging device 1 and the main | base station M, and the imaging device 1 outputs 1 A video signal for enlarging an arbitrary area smaller than the one screen (hereinafter referred to as “enlarged area”) to a size corresponding to the one screen is generated by performing signal processing on the video signal for the screen. And a control unit 4 that receives the control signal transmitted from the master unit M from the signal transmission unit 2 and executes necessary processing, and controls the imaging device 1 and the enlargement processing unit 3 as will be described later. And.

撮像装置1は、CCDイメージ・センサあるいはCMOSイメージ・センサからなる撮像素子10と、撮像素子10の撮像面に光を集光するレンズ11と、発光ダイオードのような光源を有し被写体に光を照射する照明部12と、撮像素子10から出力する映像信号を信号処理する映像信号処理部13と、後述するように撮像装置1の撮影モードを設定する撮影モード設定部14とを具備している。ここで、本実施形態における撮像素子10は、YUV422ビデオ・フォーマットに準拠した映像信号、すなわち、Yの輝度成分とU,Vの色差成分からなるディジタル・ビデオ信号を出力することができる。但し、ディジタル・ビデオ信号のビデオ・フォーマットは一例であって、実施形態に限定されるものではない。   The image pickup apparatus 1 includes an image pickup element 10 composed of a CCD image sensor or a CMOS image sensor, a lens 11 for condensing light on an image pickup surface of the image pickup element 10, and a light source such as a light emitting diode, and applies light to a subject. An illumination unit 12 that irradiates, a video signal processing unit 13 that performs signal processing on a video signal output from the image sensor 10, and a shooting mode setting unit 14 that sets a shooting mode of the imaging device 1 as will be described later. . Here, the image sensor 10 in the present embodiment can output a video signal compliant with the YUV422 video format, that is, a digital video signal composed of a Y luminance component and U and V color difference components. However, the video format of the digital video signal is an example and is not limited to the embodiment.

映像信号処理部13は、撮像素子10から出力される映像信号を記憶するフレームメモリを有し、フレームメモリに記憶した映像信号に対して、映像信号の露出を制御する露出制御処理、映像信号の色バランスを制御する色バランス制御処理、映像信号の階調特性を制御する階調特性制御処理、映像信号の輪郭強調度合いを制御する輪郭強調制御処理を含む種々の信号処理を行うものである。すなわち、本実施形態では映像信号処理部13が露出制御手段、色バランス制御手段、階調特性制御手段、輪郭強調制御手段に相当する。   The video signal processing unit 13 includes a frame memory that stores a video signal output from the image sensor 10. An exposure control process that controls exposure of the video signal with respect to the video signal stored in the frame memory, and a video signal Various signal processes including color balance control processing for controlling color balance, gradation characteristic control processing for controlling gradation characteristics of video signals, and edge enhancement control processing for controlling the degree of edge enhancement of video signals are performed. That is, in this embodiment, the video signal processing unit 13 corresponds to an exposure control unit, a color balance control unit, a gradation characteristic control unit, and an edge enhancement control unit.

露出制御処理は、1画面の大きさよりも小さい領域(以下、「露出評価エリア」という。)における輝度成分のレベルを所定のしきい値(以下、「適正露出値」という。)と比較し、適正露出値よりも低ければ撮像素子10における電荷蓄積時間を長くすることで輝度成分のレベルを上げるように制御し、反対に、適正露出値よりも高ければ撮像素子10における電荷蓄積時間を短くすることで輝度成分のレベルを下げるように制御する処理である。なお、本実施形態では露出制御処理において撮像素子10の電荷蓄積時間を調整しているが、レンズ11と撮像素子10の間にアイリス(絞り)が設けられている場合にはアイリスの開口度を調整することでも露出制御可能である。   The exposure control process compares the level of the luminance component in an area smaller than the size of one screen (hereinafter referred to as “exposure evaluation area”) with a predetermined threshold (hereinafter referred to as “appropriate exposure value”). If the exposure value is lower than the appropriate exposure value, control is performed to increase the level of the luminance component by increasing the charge storage time in the image sensor 10. Conversely, if the exposure value is higher than the appropriate exposure value, the charge storage time in the image sensor 10 is shortened. In this way, the control is performed so as to lower the level of the luminance component. In the present embodiment, the charge accumulation time of the image sensor 10 is adjusted in the exposure control process. However, when an iris (aperture) is provided between the lens 11 and the image sensor 10, the iris opening degree is set. Exposure can also be controlled by adjusting.

色バランス制御処理は、撮像素子10においてR,G,BからY,U,Vへの色空間変換に用いられる変換式を調整する処理であって、1画面の大きさよりも小さい領域(以下、「色バランス評価エリア」という。)内で最も輝度成分レベルの高い画素が白色に近くなるように色空間変換式の色差成分U,Vに対する値を調整するものである。また、階調特性制御処理も撮像素子10においてR,G,BからY,U,Vへの色空間変換に用いられる変換式を調整する処理であって、露出評価エリア内における輝度成分Yの最大値に応じて、色空間変換式の輝度成分Yに対する値を調整するものである。さらに輪郭協調制御処理は、輝度成分Yをディジタル・フィルタからなるローパス・フィルタによって低周波成分と高周波成分に分離するとともに高周波成分のみを増幅した後に低周波成分と加算することで背景に対して被写体の輪郭を強調するための処理である。   The color balance control process is a process of adjusting a conversion formula used for color space conversion from R, G, B to Y, U, V in the image sensor 10, and is an area smaller than the size of one screen (hereinafter, referred to as “color balance control process”). The value for the color difference components U and V of the color space conversion formula is adjusted so that the pixel having the highest luminance component level in the color balance evaluation area is close to white. The gradation characteristic control process is also a process for adjusting a conversion formula used for color space conversion from R, G, B to Y, U, V in the image sensor 10, and the luminance characteristic Y in the exposure evaluation area is adjusted. The value for the luminance component Y of the color space conversion equation is adjusted according to the maximum value. Furthermore, the contour cooperative control process separates the luminance component Y into a low-frequency component and a high-frequency component by a low-pass filter composed of a digital filter and amplifies only the high-frequency component and then adds the low-frequency component to the subject relative to the background. This is a process for emphasizing the outline of the image.

撮影モード設定部14は、撮像素子10に入射する光量(例えば、単位時間当たりの平均値あるいは最大値)が所定値未満である場合に照明部12を制御して被写体を照明するというように、被写体の明るさ(映像信号の輝度成分Y)に応じて撮影モード(照明の有無)の設定を変更するものである。なお、前記入射光量については、露出制御処理によって制御される電荷蓄積時間または電荷蓄積時間と輝度成分のレベルに基づいて求めることが可能である。   The shooting mode setting unit 14 controls the illumination unit 12 to illuminate the subject when the amount of light incident on the image sensor 10 (for example, an average value or maximum value per unit time) is less than a predetermined value. The setting of the shooting mode (with or without illumination) is changed according to the brightness of the subject (luminance component Y of the video signal). The incident light amount can be obtained based on the charge accumulation time controlled by the exposure control process or the charge accumulation time and the luminance component level.

拡大処理部3は、制御部4から指示された拡大領域を、同じく制御部4から指示された拡大倍率で拡大する処理を行うものであるが、具体的な拡大処理については従来周知であるから説明を省略する。   The enlargement processing unit 3 performs processing for enlarging the enlargement area instructed by the control unit 4 at the same enlargement magnification instructed by the control unit 4, but specific enlargement processing is conventionally known. Description is omitted.

親機Mにおいては、表示装置100の画面内に拡大領域を示す枠が適宜表示され、使用者による拡大領域の位置と拡大倍率を選択する操作入力を操作入力受付部102で受け付けると、当該拡大領域の位置並びに拡大倍率を示す情報(拡大情報)を信号伝送部101より制御信号によって伝送するようになっている。そして、子器Sでは、親機Mから信号線Lsを介して伝送される制御信号を信号伝送部2で受信し、制御部4が当該制御信号から拡大情報を取得して拡大領域の位置と拡大倍率を拡大処理部3に指示するのである。   In master device M, a frame indicating an enlargement area is appropriately displayed on the screen of display device 100. When operation input for selecting the position and enlargement magnification of the enlargement area by the user is accepted by operation input accepting unit 102, the enlargement is performed. Information indicating the position of the region and the magnification (magnification information) is transmitted from the signal transmission unit 101 by a control signal. In the slave unit S, the control signal transmitted from the master unit M via the signal line Ls is received by the signal transmission unit 2, and the control unit 4 obtains the enlarged information from the control signal to obtain the position of the enlarged region. The enlargement magnification is instructed to the enlargement processing unit 3.

また、制御部4は拡大領域の位置並びに拡大倍率に応じて、露出制御処理における制御条件(露出評価エリアの位置)、色バランス制御処理における制御条件(色バランス評価エリアの位置)、階調特性制御処理における制御条件(露出評価エリアの位置)、輪郭強調制御処理における制御条件(周波数範囲:ローパス・フィルタのカットオフ周波数、輪郭強調度合い:高周波成分の増幅度)を変更する処理も行う。すなわち、本実施形態では制御部4が制御条件変更手段に相当する。   Further, the control unit 4 controls the control conditions in the exposure control process (position of the exposure evaluation area), the control conditions in the color balance control process (position of the color balance evaluation area), and gradation characteristics according to the position of the enlargement area and the enlargement magnification. Processing for changing the control conditions (position of the exposure evaluation area) in the control processing and the control conditions (frequency range: cutoff frequency of the low-pass filter, degree of contour enhancement: amplification degree of the high frequency component) in the contour enhancement control processing is also performed. That is, in the present embodiment, the control unit 4 corresponds to control condition changing means.

次に、制御部4における制御条件の変更処理について、さらに詳しく説明する。   Next, the control condition changing process in the control unit 4 will be described in more detail.

まず初めに、拡大領域の位置に応じて露出制御処理の制御条件と色バランス制御処理の制御条件を変更する場合について説明する。図2(a),(b)はそれぞれ子器Sの撮像装置1で撮像された拡大前の映像(以下、「原映像」という。)を示し、(a)は昼間の原映像、(b)は夜間の原映像である。この原映像では、画面中央に2つの建物X1,X2が並んで写っており、略上半分には空が、略下半分には地面がそれぞれ写っている。また、図2に破線で示しているのは互いに位置が異なる3つの拡大領域W1,W2,W3である。拡大領域W1は原映像の右上隅に位置しており、図示例では領域内のほぼ全体に空が映っている。また、拡大領域W2は原映像の中央に位置しており、図示例では領域内のほぼ全体に2つの建物X1,X2の一部が写っている。さらに、拡大領域W3は原映像の左下隅に位置しており、図示例では領域内のほぼ全体に地面が写っている。   First, a case where the control conditions for the exposure control process and the control conditions for the color balance control process are changed according to the position of the enlarged region will be described. 2 (a) and 2 (b) show images before magnification (hereinafter referred to as “original images”) captured by the imaging device 1 of the slave unit S, respectively, (a) is an original image in the daytime, and (b) ) Is the original video at night. In this original image, two buildings X1 and X2 are shown side by side in the center of the screen, with the sky in the upper half and the ground in the lower half. Further, what are indicated by broken lines in FIG. 2 are three enlarged regions W1, W2, and W3 having different positions. The enlarged area W1 is located in the upper right corner of the original image, and in the example shown in the drawing, the sky is shown almost entirely in the area. The enlarged area W2 is located at the center of the original image, and in the illustrated example, a part of the two buildings X1 and X2 are shown in almost the entire area. Furthermore, the enlarged area W3 is located at the lower left corner of the original image, and in the example shown in the drawing, the ground is shown in almost the entire area.

例えば、図2(a)に示す昼間の原映像において右上隅の拡大領域W1を拡大する場合、拡大領域W1の大半が空で占められているため、領域内全体を露出評価エリアにしてしまうと露出が低くなりすぎて空以外の被写体が黒くつぶれて表示されてしまう虞があり、また、領域内全体を色バランス評価エリアにしてしまうと輝度成分Yの大きい空が白くなって色バランスがずれてしまう虞がある。また、図2(a)に示す昼間の原映像において左下隅の拡大領域W3を拡大する場合、拡大領域W3の大半が地面で占められているため、領域内の一部を露出評価エリアにしてしまうと露出が高くなりすぎて地面外の被写体が白く飛んで表示されてしまう虞があり、領域内の一部を色バランス評価エリアにしてしまうと輝度成分Yの大きい建物X1の壁面が白くなるように色バランスがずれてしまう虞がある。   For example, in the daytime original image shown in FIG. 2A, when the enlarged area W1 in the upper right corner is enlarged, most of the enlarged area W1 is occupied by the sky, so that the entire area becomes the exposure evaluation area. There is a risk that the exposure will be too low and subjects other than the sky will be blacked out and displayed, and if the entire area is made the color balance evaluation area, the sky with the large luminance component Y will become white and the color balance will shift. There is a risk that. In addition, in the daytime original image shown in FIG. 2A, when the enlarged area W3 in the lower left corner is enlarged, most of the enlarged area W3 is occupied by the ground, so a part of the area is set as an exposure evaluation area. If this happens, the exposure will be too high and the object outside the ground may fly white and be displayed. If a part of the area is set as the color balance evaluation area, the wall surface of the building X1 having a large luminance component Y will be white. As described above, the color balance may be shifted.

また、夜間においては撮影モード設定部14が照明部12による照明を行う撮影モードに設定するが、照明部12の照射範囲Zが原映像における中央部分のみである場合、図3に示すように照射範囲Zの内と外とで輝度成分Yのレベル差が非常に大きいため、拡大領域の位置によって輝度成分Yのレベルが大きくなる範囲も異なり、拡大領域全体を露出評価エリアや色バランス評価エリアにしてしまうと適正な露出並びに色バランスに制御することが困難になる。   Further, at night, the shooting mode setting unit 14 sets the shooting mode in which the illumination unit 12 performs illumination. When the irradiation range Z of the illumination unit 12 is only the central portion in the original image, the irradiation is performed as shown in FIG. Since the level difference of the luminance component Y is very large inside and outside the range Z, the range in which the level of the luminance component Y increases depending on the position of the enlarged region, and the entire enlarged region is used as an exposure evaluation area or a color balance evaluation area. Therefore, it becomes difficult to control the exposure and color balance appropriately.

そこで本実施形態においては、図4に示すように拡大領域Wの位置を鉛直方向において上・中・下の3通りに分類するとともに映像信号の輝度成分Yのレベルを高・中・低の3段階に分類し、同一の輝度成分Yのレベルに対しては拡大領域Wの位置が高くなるにつれて評価エリア(露出評価エリアと色バランス評価エリア)Rを狭く且つ下側にシフトさせるように制御部4が映像信号処理部13に指示を与える。また、拡大領域Wが「上」であるときは輝度成分Yのレベルに関わらずに評価エリアRを狭く且つ下側にシフトさせるように制御部4が映像信号処理部13に指示を与え、拡大領域Wが「下」であるときは輝度成分Yのレベルが低くなるにつれて狭く且つ上側にシフトさせるように制御部4が映像信号処理部13に指示を与え、拡大領域Wが「中」であるときは輝度成分Yのレベルが高くなるにつれて狭く且つ下側にシフトさせるように制御部4が映像信号処理部13に指示を与える。   Therefore, in the present embodiment, as shown in FIG. 4, the position of the enlarged region W is classified into three types of up, middle, and bottom in the vertical direction, and the level of the luminance component Y of the video signal is 3 The control unit is classified into stages, and the evaluation area (exposure evaluation area and color balance evaluation area) R is narrowed and shifted downward as the position of the enlarged area W increases for the same luminance component Y level. 4 gives an instruction to the video signal processing unit 13. When the enlargement region W is “up”, the control unit 4 gives an instruction to the video signal processing unit 13 so as to shift the evaluation area R narrower and lower regardless of the level of the luminance component Y, and enlarges. When the region W is “down”, the control unit 4 instructs the video signal processing unit 13 to shift the luminance component Y so that it is narrower and upward as the level of the luminance component Y becomes lower, and the enlarged region W is “medium”. In some cases, the control unit 4 gives an instruction to the video signal processing unit 13 so as to shift the luminance component Y narrower and lower as the level of the luminance component Y becomes higher.

上述のようなルールで制御部4が映像信号処理部13における露出制御処理並びに色バランス制御処理の制御条件を変更すれば、拡大領域の位置と映像信号の輝度成分Yに応じて常に適切な露出制御並びに色バランス制御を行って親機Mの表示装置100に表示される映像の質を高めることができる。なお、上述の説明では拡大倍率を一定にした場合について説明しているが、拡大倍率を変更した場合においても、同様に所定のルールで制御部4が映像信号処理部13における露出制御処理並びに色バランス制御処理の制御条件を変更すればよい。   If the control unit 4 changes the control conditions of the exposure control process and the color balance control process in the video signal processing unit 13 according to the rules as described above, an appropriate exposure is always performed according to the position of the enlarged region and the luminance component Y of the video signal. The quality of the image displayed on the display device 100 of the parent device M can be improved by performing the control and the color balance control. In the above description, the case where the enlargement magnification is made constant is described. However, even when the enlargement magnification is changed, the control unit 4 similarly performs exposure control processing and color in the video signal processing unit 13 according to predetermined rules. What is necessary is just to change the control conditions of balance control processing.

続いて、拡大倍率に応じて輪郭協調制御処理の制御条件を変更する場合について説明する。   Then, the case where the control conditions of a contour cooperative control process are changed according to an expansion magnification is demonstrated.

撮像装置1から出力される映像信号の空間周波数特性(MTF:Modulation Transfer Function)は、図5に示すように映像を拡大することで原映像よりも劣化する。そこで本実施形態では、拡大倍率が高くなるにつれて、周波数範囲(ローパス・フィルタのカットオフ周波数)を低周波側にシフトするとともに輪郭強調度合いを高く(高周波成分の増幅度を大きく)するように制御部4が映像信号処理部13に指示を与え、空間周波数特性の劣化を補うことにより、親機Mの表示装置100に表示される映像の質を高めるようにしている。   The spatial frequency characteristic (MTF: Modulation Transfer Function) of the video signal output from the imaging device 1 is deteriorated from the original video by enlarging the video as shown in FIG. Therefore, in the present embodiment, as the enlargement magnification becomes higher, control is performed so that the frequency range (cut-off frequency of the low-pass filter) is shifted to the lower frequency side and the degree of contour enhancement is increased (the amplification degree of the high-frequency component is increased). The unit 4 gives an instruction to the video signal processing unit 13 to compensate for the deterioration of the spatial frequency characteristic, thereby improving the quality of the video displayed on the display device 100 of the parent device M.

ところで、撮像装置1が具備するレンズ11の歪曲収差が無い、あるいは歪曲収差が実使用上無視できる程度に小さいとしたとき、図6(a)に示すように子器Sから等距離の半円上に複数の被写体(図示例では3人の人物H1,H2,H3)がいる場合、図6(b)に示すように画面中央に居る人物H2と比較して左右両側に居る人物H1,H3の方が大きく写ってしまうことになる。そこで、拡大領域が中央から周辺にシフトするにつれて拡大倍率を小さくするように制御部4が拡大処理部3に指示を与えれば、上述のような場合に何れの人物H1,H2,H3を拡大表示してもほぼ同じ大きさで表示装置100に表示させることができる。   By the way, when there is no distortion aberration of the lens 11 included in the imaging apparatus 1 or the distortion is small enough to be ignored in practical use, as shown in FIG. When there are a plurality of subjects (three persons H1, H2, and H3 in the illustrated example) above, as shown in FIG. 6B, the persons H1 and H3 that are on the left and right sides compared to the person H2 that is at the center of the screen. Will appear larger. Therefore, if the control unit 4 instructs the enlargement processing unit 3 to reduce the enlargement magnification as the enlargement area shifts from the center to the periphery, any person H1, H2, H3 is enlarged and displayed in the above case. Even in this case, it is possible to display on the display device 100 with substantially the same size.

本発明の実施形態を示すブロック図である。It is a block diagram which shows embodiment of this invention. 同上の動作説明図である。It is operation | movement explanatory drawing same as the above. 同上の動作説明図である。It is operation | movement explanatory drawing same as the above. 同上における評価エリアの変更ルールを説明するための説明図である。It is explanatory drawing for demonstrating the change rule of the evaluation area in the same as the above. 同上における撮像装置の空間周波数特性の説明図である。It is explanatory drawing of the spatial frequency characteristic of an imaging device same as the above. 同上の動作説明図である。It is operation | movement explanatory drawing same as the above.

符号の説明Explanation of symbols

M インターホン親機
S インターホン子器
1 撮像装置
3 拡大処理部(拡大処理手段)
4 制御部(制御条件変更手段)
10 撮像素子
13 映像信号処理部(露出制御手段,色バランス制御手段,階調特性制御手段,輪郭協調制御手段)
M Interphone main unit S Interphone handset 1 Imaging device 3 Enlargement processing unit (enlargement processing means)
4 Control unit (control condition changing means)
10 Image sensor 13 Video signal processing section (exposure control means, color balance control means, gradation characteristic control means, contour cooperative control means)

Claims (5)

屋外に設置されるインターホン子器と、屋内に設置されるインターホン親機とからなり、インターホン子器とインターホン親機との間で相互に音声信号を伝送して通話するとともにインターホン子器に設けられた撮像装置で撮像した映像がインターホン親機に伝送されて当該インターホン親機に設けられた表示装置で表示されるテレビ付インターホン装置において、
撮像装置は、入射する光を電気信号に変換する撮像素子と、撮像素子が出力する映像信号の露出を制御する露出制御手段と、撮像素子が出力する映像信号の色バランスを制御する色バランス制御手段と、撮像素子が出力する映像信号の階調特性を制御する階調特性制御手段と、撮像素子が出力する映像信号の輪郭強調度合いを制御する輪郭強調制御手段と、撮像素子が出力する映像の中央部分のみを照明する照明手段と、撮像素子に入射する光量が所定値未満である場合に照明手段を制御して照明する撮影モードに設定する撮影モード設定手段とを備え、
インターホン子器は、撮像装置が出力する1画面分の映像信号を信号処理することで当該1画面よりも小さい任意の領域を前記1画面分の大きさに拡大して表示するための映像信号を作成する拡大処理手段と、拡大処理手段で拡大される前記領域の位置応じて、前記露出制御手段、色バランス制御手段、階調制御手段うちの少なくとも何れか一つの手段における制御条件を変更し、且つ拡大処理手段で拡大される前記領域の拡大倍率に応じて、前記露出制御手段、色バランス制御手段、輪郭協調制御手段のうちの少なくとも何れか一つの手段における制御条件を変更する制御条件変更手段とを備え、制御条件変更手段によって変更される制御条件は、1画面内で露出制御手段が露出制御のために映像信号の信号強度を評価する評価エリアの位置、若しくは1画面内で色バランス制御手段が色バランス制御のために映像信号の色バランスを評価する評価エリアの位置であって、制御条件変更手段は、撮影モード設定手段によって照明手段が照明する撮影モードに設定されている場合、1画面内で露出制御手段が露出制御のために映像信号の信号強度を評価する評価エリアの位置を、拡大されていない画面の中央若しくはその近傍に変更することを特徴とするテレビ付インターホン装置。
It consists of an intercom handset installed outdoors and an intercom base unit installed indoors. The intercom handset and the interphone base unit communicate with each other by transmitting audio signals to each other and installed in the intercom handset. In the interphone device with a TV, the video captured by the image capturing device is transmitted to the interphone master unit and displayed on the display device provided in the interphone master unit.
An imaging device includes an imaging device that converts incident light into an electrical signal, an exposure control unit that controls exposure of a video signal output from the imaging device, and a color balance control that controls color balance of the video signal output from the imaging device. Means, gradation characteristic control means for controlling gradation characteristics of the video signal output from the image sensor, contour enhancement control means for controlling the degree of contour enhancement of the video signal output from the image sensor, and video output from the image sensor Illuminating means for illuminating only the central part of the imaging device, and a photographing mode setting means for setting the photographing mode for controlling and illuminating the illuminating means when the amount of light incident on the image sensor is less than a predetermined value ,
The intercom handset processes a video signal for one screen output from the imaging device, thereby expanding a video signal for displaying an arbitrary area smaller than the one screen to the size of the one screen. changes and enlargement processing means for creating, in accordance with the position of the region to be enlarged by the enlargement processing unit, wherein the exposure control means, the color balance control unit, the control conditions in at least one of means of gradation control means And a control condition for changing a control condition in at least one of the exposure control means, the color balance control means, and the contour cooperative control means in accordance with the enlargement magnification of the area enlarged by the enlargement processing means and a changing means, control conditions changed by the control condition changing means, evaluation areas exposure control unit evaluates the signal strength of the video signal for control exposure in one screen The position, or the position of the evaluation area where the color balance control means evaluates the color balance of the video signal for color balance control within one screen, and the control condition changing means is illuminated by the photographing mode setting means. When the shooting mode is set, the position of the evaluation area where the exposure control means evaluates the signal intensity of the video signal for exposure control within one screen is changed to the center of the screen that is not enlarged or the vicinity thereof. An interphone device with a TV.
制御条件変更手段は、拡大処理手段で拡大される領域が、拡大されていない画面の鉛直方向における中央位置よりも上方の位置に設定されている場合、1画面内で露出制御手段が露出制御のために映像信号の信号強度を評価する評価エリアの位置を前記中央位置よりも下方に変更することを特徴とする請求項1記載のテレビ付インターホン装置。 The control condition changing means is configured such that when the area enlarged by the enlargement processing means is set at a position above the center position in the vertical direction of the screen that is not enlarged, the exposure control means performs exposure control within one screen. Therefore, the intercom apparatus with a television set according to claim 1 , wherein the position of the evaluation area for evaluating the signal intensity of the video signal is changed below the center position . 制御条件変更手段は、拡大倍率が増加するにつれて輪郭強調制御手段による輪郭強調の度合いを高くすることを特徴とする請求項1又は2記載のテレビ付インターホン装置。 The intercom apparatus with a television according to claim 1 or 2 , wherein the control condition changing means increases the degree of contour enhancement by the contour enhancement control means as the enlargement magnification increases . 制御条件変更手段は、拡大倍率が増加するにつれて輪郭協調制御手段による輪郭強調の周波数範囲を低周波側にシフトすることを特徴とする請求項1又は2記載のテレビ付インターホン装置。 The intercom apparatus with a television according to claim 1 or 2 , wherein the control condition changing means shifts the frequency range of contour emphasis by the contour cooperative control means to the low frequency side as the enlargement magnification increases . 拡大処理手段は、拡大される領域が拡大前の1画面における中央から離れるにつれて拡大倍率を減少させることを特徴とする請求項1〜4の何れか1項に記載のテレビ付インターホン装置 The interphone apparatus with a television according to any one of claims 1 to 4, wherein the enlargement processing unit decreases the enlargement magnification as the area to be enlarged moves away from the center of one screen before enlargement .
JP2007130827A 2007-05-16 2007-05-16 Intercom device with TV Active JP5041874B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007130827A JP5041874B2 (en) 2007-05-16 2007-05-16 Intercom device with TV

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007130827A JP5041874B2 (en) 2007-05-16 2007-05-16 Intercom device with TV

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2012154691A Division JP5453493B2 (en) 2012-07-10 2012-07-10 Intercom device with TV

Publications (2)

Publication Number Publication Date
JP2008288803A JP2008288803A (en) 2008-11-27
JP5041874B2 true JP5041874B2 (en) 2012-10-03

Family

ID=40148134

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007130827A Active JP5041874B2 (en) 2007-05-16 2007-05-16 Intercom device with TV

Country Status (1)

Country Link
JP (1) JP5041874B2 (en)

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05122577A (en) * 1991-10-29 1993-05-18 Matsushita Electric Ind Co Ltd Video camera apparatus
JPH05236478A (en) * 1992-02-25 1993-09-10 Matsushita Electric Works Ltd Monitor television for interphone with camera and function extended unit used for the same
JPH066801A (en) * 1992-06-19 1994-01-14 Sharp Corp Television monitoring device
JPH0918763A (en) * 1995-06-30 1997-01-17 Hitachi Ltd Image pickup device and video signal processing unit
JP3410008B2 (en) * 1997-12-04 2003-05-26 日本ビクター株式会社 Contour compensation system
JP3827044B2 (en) * 1997-12-26 2006-09-27 東芝ライテック株式会社 Color TV door phone device
JPH11252540A (en) * 1998-02-27 1999-09-17 Toshiba Lighting & Technology Corp Color video intercom slave set and its device
JP2000013675A (en) * 1998-06-24 2000-01-14 Seiko Epson Corp Digital camera

Also Published As

Publication number Publication date
JP2008288803A (en) 2008-11-27

Similar Documents

Publication Publication Date Title
TWI661727B (en) Control device, control method and electronic device
JP3530907B2 (en) Digital camera
JP4824586B2 (en) Imaging device
JP2010093472A (en) Imaging apparatus, and signal processing circuit for the same
US7432975B2 (en) Automatic focusing method and digital photographing apparatus using the same
JP2001309211A (en) Electronic camera
JP2009017306A (en) Image display device and imaging apparatus using the same
JP5864037B2 (en) Image processing apparatus, imaging apparatus, image processing method, and program
CN110392205B (en) Image processing apparatus, information display apparatus, control method, and storage medium
US7545432B2 (en) Automatic focusing method and digital photographing apparatus using the same
JP2012142823A (en) Display controller, imaging apparatus and display control program
JP5453493B2 (en) Intercom device with TV
WO2018066454A1 (en) Imaging device, imaging method, and program
WO2014188647A1 (en) Image adjustment device, image adjustment method, image adjustment program, and image capture device
JP2010178111A (en) Imaging device and television door intercom device
JP4934617B2 (en) Imaging apparatus and imaging method
JP5041874B2 (en) Intercom device with TV
JP5803233B2 (en) Imaging apparatus and imaging method
US20050162535A1 (en) Image processing apparatus and method
JP2005109623A (en) Multiple-lens imaging apparatus and mobile communication terminal
KR101185871B1 (en) Digital image processing device and diplay method of the device
JP6157274B2 (en) Imaging apparatus, information processing method, and program
JP5750262B2 (en) Imaging apparatus and imaging method
JP2017126920A (en) Imaging apparatus
JP4292972B2 (en) Imaging device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091215

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20101014

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110525

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110531

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110801

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20120112

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120612

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120710

R150 Certificate of patent or registration of utility model

Ref document number: 5041874

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150720

Year of fee payment: 3