JP5776378B2 - Crossover measuring device by image processing - Google Patents

Crossover measuring device by image processing Download PDF

Info

Publication number
JP5776378B2
JP5776378B2 JP2011146711A JP2011146711A JP5776378B2 JP 5776378 B2 JP5776378 B2 JP 5776378B2 JP 2011146711 A JP2011146711 A JP 2011146711A JP 2011146711 A JP2011146711 A JP 2011146711A JP 5776378 B2 JP5776378 B2 JP 5776378B2
Authority
JP
Japan
Prior art keywords
image
crossover
background
line
section
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011146711A
Other languages
Japanese (ja)
Other versions
JP2013015337A (en
Inventor
一隆 松原
一隆 松原
勇介 渡部
勇介 渡部
加藤 健次
健次 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Meidensha Corp
Original Assignee
Meidensha Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Meidensha Corp filed Critical Meidensha Corp
Priority to JP2011146711A priority Critical patent/JP5776378B2/en
Publication of JP2013015337A publication Critical patent/JP2013015337A/en
Application granted granted Critical
Publication of JP5776378B2 publication Critical patent/JP5776378B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像処理による渡り線の三次元位置測定に関し、特に昼間において背景の明るさ変動にロバストに測定を行う画像処理による渡り線測定装置に関する。   The present invention relates to a three-dimensional position measurement of a crossover line by image processing, and more particularly to a crossover measurement apparatus by image processing that performs robust measurement against background brightness fluctuations in the daytime.

電気鉄道の設備としてトロリ線があるが、線路の交差する場所では、このトロリ線も交差させる必要がある。交差するトロリ線のうち、本線と異なって交差する線を「渡り線」と呼ぶ。従来、この渡り線が鉄道車両の走行に支障をきたすことがないように、渡り線の三次元位置の測定が行われている。   Although there is a trolley line as an electric railway facility, it is necessary to cross this trolley line at the place where the tracks cross. Of the trolley lines that intersect, the line that intersects differently from the main line is called a “crossover”. Conventionally, the three-dimensional position of the crossover line is measured so that the crossover line does not hinder the running of the railway vehicle.

このような渡り線の三次元位置の測定を行う装置として、車両の屋根上にラインセンサカメラおよび照明装置を設置し、渡り線に照明を当ててラインセンサカメラから取得した画像に対して判別分析法によって二値化を行うことで渡り線のみを白領域として抽出し、渡り線の三次元位置を非接触で求めるものがある(例えば、特許文献1参照)。なお、この特許文献1においては、ナトリウムランプおよびバンドパスフィルタを使用して太陽光などの外乱光を除去し、良好な画像を得ることで昼間において測定を行うことも開示されている。   As a device for measuring the three-dimensional position of the crossover line, a line sensor camera and a lighting device are installed on the roof of the vehicle, and the discriminant analysis is performed on the image acquired from the line sensor camera by illuminating the crossover line. Some binarization is used to extract only the crossover line as a white region and obtain the three-dimensional position of the crossover line in a non-contact manner (see, for example, Patent Document 1). In addition, this patent document 1 also discloses that measurement is performed in the daytime by removing disturbance light such as sunlight using a sodium lamp and a bandpass filter and obtaining a good image.

また、トロリ線の測定を行う装置として、ラインセンサカメラから取得した画像に対して二値化処理を行い、トロリ線の太さパラメータより大きい白領域を空の部分として黒領域に反転することによりトロリ線摩耗面のみを抽出しトロリ線の摩耗量を測定するものもある(例えば、特許文献2参照)。   In addition, as a device for measuring the trolley line, binarization processing is performed on the image acquired from the line sensor camera, and the white area larger than the thickness parameter of the trolley line is inverted to the black area as an empty part. There is also one that extracts only the trolley wire wear surface and measures the wear amount of the trolley wire (see, for example, Patent Document 2).

また、あらかじめ設定しておいた濃淡しきい値により背景部分を処理しないようなマスクを設定するようにしたパンタグラフ周辺支障物検出装置もある(例えば、特許文献3参照)。   There is also a pantograph peripheral obstacle detection device in which a mask that does not process the background portion is set using a preset grayscale threshold (see, for example, Patent Document 3).

特開2009−192394号公報JP 2009-192394 A 特開2007−271445号公報JP 2007-271445 A 特開2006−250775号公報JP 2006-250775 A

しかしながら、特許文献1に記載のものは、二値化した際に渡り線部分のみが白領域となり背景部分が黒領域となるようにする必要があるが、昼間においては背景が明るいため背景部分も白領域となり、渡り線と背景とを切り分けることができないおそれがあった。また、ナトリウムランプおよびバンドパスフィルタを別途用意して取り付けることにより昼間でも計測できるようにしているものの、装置を準備するのに費用が掛かり、装置構成が複雑になってしまうという問題があった。   However, in the case of the one described in Patent Document 1, it is necessary that only the crossover portion is a white region and the background portion is a black region when binarized. There was a possibility that the crossover line and the background could not be separated because of the white area. In addition, although a sodium lamp and a bandpass filter are separately prepared and attached so that measurement can be performed even in the daytime, there is a problem in that the preparation of the apparatus is expensive and the apparatus configuration becomes complicated.

ここで、引用文献1に記載された装置を用いて昼間の計測を行う場合、照明を取り除いた装置構成とすることが考えられる。
このような構成として渡り線を撮影すると、背景が太陽光により明るく写り(二値化すると白領域)、渡り線は太陽光の遮蔽物として黒く映る(二値化すると黒領域)。したがって昼間であっても渡り線と背景とを切り分けることができ、昼間の渡り線三次元位置測定が可能となると考えられる。
Here, when the daytime measurement is performed using the apparatus described in the cited document 1, it is conceivable to adopt an apparatus configuration in which illumination is removed.
When a crossover is photographed in such a configuration, the background is brightly reflected by sunlight (when binarized, a white area), and the crossover appears black as a sunlight shield (when binarized, a black area). Therefore, it is considered that the crossover line and the background can be separated even in the daytime, and the three-dimensional position measurement of the crossover line in the daytime can be performed.

しかしながら、このような装置によって渡り線の三次元位置測定を行う場合、以下の問題が考えられた。
(1)背景に明るさの斑(天候の変化や雲等による陰影。以下、単に「明るさの斑」という)が存在する場合、特許文献2に開示されているような太さパラメータを用いる方法では明るさの斑を渡り線と誤検出してしまうおそれがある。また、特許文献3に開示されているようなあらかじめ固定の濃淡しきい値を設定する方法では背景部分とそうでない部分とを区別することができないおそれがある。
(2)太陽光が渡り線に強く当たり太陽光反射が発生した場合、渡り線の一部分が極端に明るく撮影されるため、この画像を二値化すると、極端に明るく撮像された部分が背景の白領域となり、渡り線部分の黒領域幅が小さくなって、渡り線幅が実際よりも小さく算出されてしまう。渡り線高さなどの三次元位置は渡り線幅を基に算出されるので、太陽光反射が発生すると、正しい計測が行えない。
However, when the three-dimensional position measurement of the crossover line is performed with such an apparatus, the following problems have been considered.
(1) When there is a brightness spot (shadow due to weather change or clouds, etc., hereinafter simply referred to as “bright spot”) in the background, the thickness parameter as disclosed in Patent Document 2 is used. In this method, there is a possibility that the brightness spot is erroneously detected as a crossover. In addition, there is a possibility that the background part and the part that is not so cannot be distinguished by the method of setting a fixed grayscale threshold value as disclosed in Patent Document 3.
(2) When sunlight strikes the crossover and sunlight reflection occurs, a part of the crossover is photographed extremely brightly. When this image is binarized, the part that was captured extremely brightly is the background. As a result, a white area is formed, and the width of the black area of the crossover portion is reduced, so that the crossover line width is calculated to be smaller than the actual width. Since the three-dimensional position such as the crossover line height is calculated based on the crossover line width, correct measurement cannot be performed when sunlight reflection occurs.

このようなことから本発明は、渡り線と背景の切り分けを高精度に行うことが可能な画像処理による渡り線測定装置を提供することを目的とする。   In view of the above, an object of the present invention is to provide a crossover measuring apparatus using image processing capable of separating a crossover line and a background with high accuracy.

上記の課題を解決するための第の発明に係る画像処理による渡り線測定装置は、車両の屋根上にその走査線方向を車両の進行方向に対して垂直且つ水平に設置されて渡り線を撮影するラインセンサカメラと、前記車両の内部に設置された画像処理手段とを備えた画像処理による渡り線測定装置において、前記画像処理手段が、前記ラインセンサカメラから入力される画像信号を時系列的に並べてなるラインセンサ画像を作成するラインセンサ画像作成手段と、入力された画像に対して判別分析二値化処理を行って二値化画像を作成する判別分析二値化処理手段と、入力された画像に対してノイズ除去処理を行ってノイズ除去画像を作成するノイズ除去処理手段と、入力された画像に対して前記渡り線の両側のエッジ点を検出する渡り線部エッジ検出手段と、入力された画像に対して前記渡り線と背景との切り分けを行う背景切り分け処理手段と、前記渡り線の両側のエッジ点の位置から前記渡り線の高さを算出する渡り線部高さ計算手段と、前記渡り線の高さから前記渡り線の偏位を算出する渡り線部偏位計算手段とを備え、前記背景切り分け処理手段が、前記渡り線の両側のエッジ点の位置に基づき、前記入力された画像に対してそれぞれ前記エッジ点を基準とする背景側の一定範囲の輝度値を集計して背景輝度平均値を求める背景輝度平均値算出処理手段と、前記背景輝度平均値に基づいてしきい値を設定するとともに前記しきい値に基づいて前記入力された画像の前記渡り線の両側のエッジ点を中心とする所定範囲の輝度分布を比較して太陽光反射の有無を判定する太陽光反射判定処理手段とからなることを特徴とする。 A crossover measuring apparatus using image processing according to the first aspect of the present invention for solving the above-described problems is arranged on the roof of the vehicle so that the scanning line direction is perpendicular and horizontal to the traveling direction of the vehicle. In a crossover measuring apparatus using image processing comprising a line sensor camera for photographing and an image processing means installed inside the vehicle, the image processing means converts an image signal input from the line sensor camera in time series. Line sensor image creation means for creating line sensor images arranged side by side, discriminant analysis binarization processing means for creating a binarized image by performing discriminant analysis binarization processing on the input image, and input Noise removal processing means for generating a noise-removed image by performing noise removal processing on the input image, and a crossover section error detecting edge points on both sides of the crossover line from the input image. Detecting means; background separation processing means for separating the crossover line from the background of the input image; and a crossover line for calculating the height of the crossover line from the positions of the edge points on both sides of the crossover line And a crossover portion deviation calculating means for calculating a deviation of the crossover line from the height of the crossover line, and the background segmentation processing means includes edge points on both sides of the crossover line. Background luminance average value calculation processing means for calculating a background luminance average value by aggregating luminance values in a certain range on the background side based on the edge point for the input image based on the position; and the background luminance A threshold value is set based on the average value, and brightness distributions in a predetermined range centering on edge points on both sides of the crossover line of the input image based on the threshold value are compared to compare the reflection of sunlight. Sunlight to determine presence or absence Characterized in that comprising a morphism determination processing unit.

上記の課題を解決するための第の発明に係る画像処理による渡り線測定装置は、第の発明に係る画像処理による渡り線測定装置において、前記判別分析二値化処理手段が前記ラインセンサ画像に対して判別分析二値化処理を行って前記二値化画像を作成し、前記ノイズ除去手段が前記二値化画像に対してノイズ除去処理を行って前記ノイズ除去画像を作成し、前記渡り線部エッジ検出処理手段が前記ノイズ除去画像に対して前記渡り線の両側のエッジ点を検出し、前記背景輝度平均値算出処理手段が前記ラインセンサ画像を用いて前記背景輝度平均値を算出し、前記太陽光反射判定処理手段が前記ラインセンサ画像を用いて前記太陽光反射の有無を判定することを特徴とする。 The crossover measuring device by image processing according to the second invention for solving the above-mentioned problem is the crossover measuring device by image processing according to the first invention, wherein the discriminant analysis binarization processing means is the line sensor. Discriminant analysis binarization processing is performed on the image to create the binarized image, and the noise removal unit performs noise removal processing on the binarized image to create the noise removal image, Crossover line edge detection processing means detects edge points on both sides of the crossover line with respect to the noise-removed image, and the background luminance average value calculation processing means calculates the background luminance average value using the line sensor image. And the said sunlight reflection determination process means determines the presence or absence of the said sunlight reflection using the said line sensor image, It is characterized by the above-mentioned.

上記の課題を解決するための第の発明に係る画像処理による渡り線測定装置は、第又は第の発明に係る画像処理による渡り線測定装置において、前記太陽光反射判定処理手段において太陽光反射有りと判定された場合は測定終了後に前後のデータに基づいて測定結果を補間することを特徴とする。 The crossover measuring device by image processing according to the third invention for solving the above-mentioned problems is the crossover measuring device by image processing according to the first or second invention, wherein the solar reflection determination processing means When it is determined that there is light reflection, the measurement result is interpolated based on the data before and after the measurement is completed.

上記の課題を解決するための第の発明に係る画像処理による渡り線測定装置は、車両の屋根上にその走査線方向を車両の進行方向に対して垂直且つ水平に設置されて渡り線を撮影するラインセンサカメラと、前記車両の内部に設置された画像処理手段とを備えた画像処理による渡り線測定装置において、前記画像処理手段が、前記ラインセンサカメラから入力される画像信号を時系列的に並べてなるラインセンサ画像を作成するラインセンサ画像作成手段と、入力された画像に対して判別分析二値化処理を行って二値化画像を作成する判別分析二値化処理手段と、入力された画像に対してノイズ除去処理を行ってノイズ除去画像を作成するノイズ除去処理手段と、入力された画像に対して前記渡り線の両側のエッジ点を検出する渡り線部エッジ検出手段と、入力された画像に対して前記渡り線と背景との切り分けを行う背景切り分け処理手段と、前記渡り線の両側のエッジ点の位置から前記渡り線の高さを算出する渡り線部高さ計算手段と、前記渡り線の高さから前記渡り線の偏位を算出する渡り線部偏位計算手段とを備え、前記背景切り分け処理手段が、入力された画像を任意の区間に分割し、各前記区間ごとに標準偏差背景除去処理を行って各前記区間ごとに該区間に対象物が写っているか否かを判断し、該区間に前記対象物が写っている場合であって隣接する区間に前記対象物が写っていない場合は前記隣接する区間から前記対象物までの領域を背景とみなし、また、該区間に前記対象物が写っていない場合であって隣接する区間に前記対象物が写っている場合は前記隣接する区間の前記対象物から該区間までの領域および該区間を背景とみなす標準偏差背景除去処理を行って背景除去画像を作成する標準偏差背景除去処理手段と、前記渡り線の両側のエッジ点の位置に基づき、前記入力された画像に対してそれぞれ前記エッジ点を基準とする背景側の一定範囲の輝度値を集計して背景輝度平均値を求める背景輝度平均値算出処理手段と、前記背景輝度平均値に基づいてしきい値を設定するとともに前記しきい値に基づいて前記入力された画像の前記渡り線の両側のエッジ点を中心とする所定範囲の輝度分布を比較して太陽光反射の有無を判定する太陽光反射判定処理手段とを備え、前記渡り線部高さ計算手段が、前記太陽光反射判定処理手段において太陽光反射無しと判定された場合に前記渡り線の両側のエッジ点の位置から前記渡り線の高さを算出することを特徴とする。
上記の課題を解決するための第5の発明に係る画像処理による渡り線測定装置は、第4の発明に係る画像処理による渡り線測定装置において、前記標準偏差背景除去処理手段が、前記標準偏差背景除去処理を行った前記区間において背景とみなされていない領域が存在する場合に、該区間を細分化して再度各前記細分化した区間ごとに標準偏差背景除去処理を行って各前記細分化した区間ごとに該区間に前記対象物が写っているか否かを判断し、該区間に前記対象物が写っている場合であって隣接する区間に前記対象物が写っていない場合は前記隣接する区間から前記対象物までの領域を背景とみなし、また、該区間に前記対象物が写っていない場合であって隣接する区間に前記対象物が写っている場合は前記隣接する区間の対象物から該区間までの領域および該区間を背景とみなす標準偏差背景除去処理を行って背景除去画像を作成することを特徴とする。
上記の課題を解決するための第6の発明に係る画像処理による渡り線測定装置は、第4の発明に係る画像処理による渡り線測定装置において、前記任意の区間の大きさが、前記対象物が存在する区間が連続しない大きさであることを特徴とする。
A crossover measuring apparatus using image processing according to a fourth aspect of the present invention for solving the above-described problems is provided on the roof of the vehicle so that the scanning line direction is set perpendicularly and horizontally to the traveling direction of the vehicle. In a crossover measuring apparatus using image processing comprising a line sensor camera for photographing and an image processing means installed inside the vehicle, the image processing means converts an image signal input from the line sensor camera in time series. Line sensor image creation means for creating line sensor images arranged side by side, discriminant analysis binarization processing means for creating a binarized image by performing discriminant analysis binarization processing on the input image, and input Noise removal processing means for generating a noise-removed image by performing noise removal processing on the input image, and a crossover section error detecting edge points on both sides of the crossover line from the input image. Detecting means; background separation processing means for separating the crossover line from the background of the input image; and a crossover line for calculating the height of the crossover line from the positions of the edge points on both sides of the crossover line And a crossover portion deviation calculating means for calculating a deviation of the crossover line from the height of the crossover line, and the background segmentation processing means sets the input image to an arbitrary section. Dividing and performing standard deviation background removal processing for each of the sections to determine whether or not the object is reflected in the section for each of the sections, and the object is reflected in the section. When the object is not shown in an adjacent section, the area from the adjacent section to the object is regarded as a background, and the object is not shown in the section, and the adjacent section If the object is reflected, And the standard deviation background removal processing means for creating a background removed image that interval the between region and the compartment from the object to between the compartment performing the standard deviation background removal processing regarded as background, both sides of edge point of the connecting wire Background luminance average value calculation processing means for calculating a background luminance average value by aggregating luminance values in a certain range on the background side based on the edge point for the input image based on the position; and the background luminance A threshold value is set based on the average value, and brightness distributions in a predetermined range centering on edge points on both sides of the crossover line of the input image based on the threshold value are compared to compare the reflection of sunlight. A sunlight reflection determination processing means for determining presence / absence, and when the crossover line height calculation means determines that there is no sunlight reflection in the sunlight reflection determination processing means, edges on both sides of the crossover line The height of the crossover is calculated from the position of the point.
A crossover measuring device by image processing according to a fifth aspect of the present invention for solving the above problem is the crossover measuring device by image processing according to the fourth aspect of the invention, wherein the standard deviation background removal processing means is the standard deviation. When there is an area that is not regarded as a background in the section subjected to the background removal process, the section is subdivided and the standard deviation background removal process is performed again for each of the subdivided sections. For each section, it is determined whether or not the object is shown in the section, and if the target is shown in the section and the target is not shown in the adjacent section, the adjacent section The area from the object to the object is regarded as the background, and when the object is not reflected in the section and the object is reflected in the adjacent section, the object from the adjacent section is Ward Between regions and the compartment to perform the standard deviation background removal processing regarded as background, characterized in that to create the background removed image.
A crossover measuring device by image processing according to a sixth aspect of the present invention for solving the above problem is the crossover measuring device by image processing according to the fourth aspect of the invention, wherein the size of the arbitrary section is the object. It is characterized in that the section in which is present is not continuous.

上記の課題を解決するための第の発明に係る画像処理による渡り線測定装置は、第4ないし第6のいずれか一つの発明に係る画像処理による渡り線測定装置において、前記太陽光反射判定処理手段において太陽光反射有りと判定された場合は測定終了後に前後のデータに基づいて測定結果を補間することを特徴とする。 A crossover measuring device using image processing according to a seventh aspect of the present invention for solving the above problem is the crossover measuring device using image processing according to any one of the fourth to sixth aspects of the invention, wherein the sunlight reflection is performed. When it is determined by the determination processing means that there is sunlight reflection, the measurement result is interpolated based on the data before and after the measurement.

上記の課題を解決するための第の発明に係る画像処理による渡り線測定装置は、第4ないし第7のいずれか一つの発明に係る画像処理による渡り線測定装置において、前記標準偏差背景除去処理手段が前記ラインセンサ画像に対して標準偏差背景除去処理を行って前記ラインセンサ画像中の背景を除去した前記背景除去画像を作成し、前記判別分析二値化処理手段が前記背景除去画像に対して判別分析二値化処理を行って前記二値化画像を作成し、前記ノイズ除去手段が前記二値化画像に対してノイズ除去処理を行って前記ノイズ除去画像を作成し、前記渡り線部エッジ検出処理手段が前記ノイズ除去画像に対して前記渡り線の両側のエッジ点を検出し、前記背景輝度平均値算出処理手段が前記ラインセンサ画像を用いて前記背景輝度平均値を算出し、前記太陽光反射判定処理手段が前記ラインセンサ画像を用いて前記太陽光反射の有無を判定することを特徴とする。 A crossover measuring apparatus using image processing according to an eighth aspect of the present invention for solving the above problem is the crossover measuring apparatus using image processing according to any one of the fourth to seventh inventions, wherein the standard deviation background A removal processing unit performs a standard deviation background removal process on the line sensor image to create the background removal image by removing the background in the line sensor image, and the discriminant analysis binarization processing unit performs the background removal image. The binarized image is subjected to discriminant analysis binarization processing to create the binarized image, and the noise removal unit performs noise removal processing on the binarized image to create the noise-removed image, and the transition Line edge detection processing means detects edge points on both sides of the crossover line with respect to the noise-removed image, and the background luminance average value calculation processing means uses the line sensor image to calculate the background luminance average. Calculates the sunlight reflecting determination processing means and judging the presence or absence of the sunlight reflecting using the line sensor image.

の発明に係る画像処理による渡り線測定装置によれば、車両の屋根上にその走査線方向を車両の進行方向に対して垂直且つ水平に設置されて渡り線を撮影するラインセンサカメラと、車両の内部に設置された画像処理手段とを備えた画像処理による渡り線測定装置において、画像処理手段が、ラインセンサカメラから入力される画像信号を時系列的に並べてなるラインセンサ画像を作成するラインセンサ画像作成手段と、入力された画像に対して判別分析二値化処理を行って二値化画像を作成する判別分析二値化処理手段と、入力された画像に対してノイズ除去処理を行ってノイズ除去画像を作成するノイズ除去処理手段と、入力された画像に対して渡り線の両側のエッジ点を検出する渡り線部エッジ検出手段と、入力された画像に対して渡り線と背景との切り分けを行う背景切り分け処理手段と、渡り線の両側のエッジ点の位置から渡り線の高さを算出する渡り線部高さ計算手段と、渡り線の高さから渡り線の偏位を算出する渡り線部偏位計算手段とを備え、背景切り分け処理手段が、渡り線の両側のエッジ点の位置に基づき、入力された画像に対してそれぞれエッジ点を基準とする背景側の一定範囲の輝度値を集計して背景輝度平均値を求める背景輝度平均値算出処理手段と、背景輝度平均値に基づいてしきい値を設定するとともにしきい値に基づいて入力された画像の渡り線の両側のエッジ点を中心とする所定範囲の輝度分布を比較して太陽光反射の有無を判定する太陽光反射判定処理手段とからなるので、ラインセンサ画像上に太陽光反射の影響が存在する場合であっても正確に渡り線計測を行うことができる。また、ナトリウムランプやバンドパスフィルタ等の装置を用いる必要がなく安価かつ単純な装置で渡り線の昼間測定を行うことができる。 According to the crossover measuring apparatus using image processing according to the first aspect of the present invention, a line sensor camera that photographs the crossover line by setting the scanning line direction on the roof of the vehicle so that the scanning line direction is perpendicular and horizontal to the traveling direction of the vehicle; In the crossover measuring device by image processing provided with image processing means installed inside the vehicle, the image processing means creates a line sensor image in which image signals input from the line sensor camera are arranged in time series Line sensor image creating means for performing discriminant analysis binarization processing on the input image to create a binarized image, and noise removal processing on the input image Noise removal processing means for creating a noise-removed image by performing cross-over edge detection means for detecting edge points on both sides of the crossover line for the input image, and for the input image Background separation processing means for separating the connecting line from the background, a connecting line height calculating means for calculating the height of the connecting line from the positions of the edge points on both sides of the connecting line, and the connecting line from the height of the connecting line A crossover portion deviation calculating means for calculating the deviation of the background , and the background segmentation processing means is based on the positions of the edge points on both sides of the crossover line , and the background is based on the edge points for the input image. Background luminance average value calculation processing means for calculating a background luminance average value by aggregating luminance values in a certain range on the side, and setting a threshold value based on the background luminance average value and an image input based on the threshold value Because it consists of sunlight reflection judgment processing means that compares the brightness distribution of a predetermined range centering on the edge points on both sides of the crossover line and judges the presence or absence of sunlight reflection, the influence of sunlight reflection on the line sensor image If there is It can also perform crossover wire measurement accurately. Further, it is not necessary to use a device such as a sodium lamp or a band-pass filter, and the daytime measurement of the crossover can be performed with an inexpensive and simple device.

の発明に係る画像処理による渡り線測定装置によれば、判別分析二値化処理手段がラインセンサ画像に対して判別分析二値化処理を行って二値化画像を作成し、ノイズ除去手段が二値化画像に対してノイズ除去処理を行ってノイズ除去画像を作成し、渡り線部エッジ検出処理手段がノイズ除去画像に対して渡り線の両側のエッジ点を検出し、背景輝度平均値算出処理手段がラインセンサ画像を用いて背景輝度平均値を算出し、太陽光反射判定処理手段がラインセンサ画像を用いて太陽光反射の有無を判定するので、ラインセンサ画像上に太陽光反射の影響が存在する場合であっても正確に渡り線計測を行うことができる。また、ナトリウムランプやバンドパスフィルタ等の装置を用いる必要がなく安価かつ単純な装置で渡り線の昼間測定を行うことができる。 According to the crossover measuring apparatus using image processing according to the second invention, the discriminant analysis binarization processing means performs discriminant analysis binarization processing on the line sensor image to create a binarized image, and removes noise. The means performs noise removal processing on the binarized image to create a noise removal image, and the crossover edge detection processing means detects edge points on both sides of the crossover line from the noise removal image, and the background luminance average Since the value calculation processing means calculates the background luminance average value using the line sensor image and the sunlight reflection determination processing means determines the presence or absence of sunlight reflection using the line sensor image, the sunlight reflection is reflected on the line sensor image. Even when there is an influence of, crossover measurement can be performed accurately. Further, it is not necessary to use a device such as a sodium lamp or a band-pass filter, and the daytime measurement of the crossover can be performed with an inexpensive and simple device.

の発明に係る画像処理による渡り線測定装置によれば、太陽光反射判定処理手段において太陽光反射有りと判定された場合は測定終了後に前後のデータに基づいて測定結果を補間するので、太陽光反射による渡り線計測への影響を排除することができる。 According to the crossover measuring device by the image processing according to the third invention, when it is determined that there is sunlight reflection in the sunlight reflection determination processing means, the measurement result is interpolated based on the data before and after the measurement, The influence on crossover measurement by sunlight reflection can be eliminated.

の発明に係る画像処理による渡り線測定装置によれば、車両の屋根上にその走査線方向を車両の進行方向に対して垂直且つ水平に設置されて渡り線を撮影するラインセンサカメラと、車両の内部に設置された画像処理手段とを備えた画像処理による渡り線測定装置において、画像処理手段が、ラインセンサカメラから入力される画像信号を時系列的に並べてなるラインセンサ画像を作成するラインセンサ画像作成手段と、入力された画像に対して判別分析二値化処理を行って二値化画像を作成する判別分析二値化処理手段と、入力された画像に対してノイズ除去処理を行ってノイズ除去画像を作成するノイズ除去処理手段と、入力された画像に対して渡り線の両側のエッジ点を検出する渡り線部エッジ検出手段と、入力された画像に対して渡り線と背景との切り分けを行う背景切り分け処理手段と、渡り線の両側のエッジ点の位置から渡り線の高さを算出する渡り線部高さ計算手段と、渡り線の高さから渡り線の偏位を算出する渡り線部偏位計算手段とを備え、背景切り分け処理手段が、入力された画像を任意の区間に分割し、各区間ごとに標準偏差背景除去処理を行って各区間ごとに該区間に対象物が写っているか否かを判断し、該区間に対象物が写っている場合であって隣接する区間に対象物が写っていない場合は隣接する区間から対象物までの領域を背景とみなし、また、該区間に対象物が写っていない場合であって隣接する区間に対象物が写っている場合は隣接する区間の対象物から該区間までの領域および該区間を背景とみなす標準偏差背景除去処理を行って背景除去画像を作成する標準偏差背景除去処理手段と、渡り線の両側のエッジ点の位置に基づき、入力された画像に対してそれぞれエッジ点を基準とする背景側の一定範囲の輝度値を集計して背景輝度平均値を求める背景輝度平均値算出処理手段と、背景輝度平均値に基づいてしきい値を設定するとともにしきい値に基づいて入力された画像の渡り線の両側のエッジ点を中心とする所定範囲の輝度分布を比較して太陽光反射の有無を判定する太陽光反射判定処理手段とを備え、渡り線部高さ計算手段が、太陽光反射判定処理手段において太陽光反射無しと判定された場合に渡り線の両側のエッジ点の位置から渡り線の高さを算出するので、入力画像中の背景に明るさの斑が存在する場合であっても渡り線を判別することができ、トロリ線摩耗面の誤検出をより低減することができる。また、ナトリウムランプやバンドパスフィルタ等の装置を用いる必要がなく安価かつ単純な装置で渡り線の昼間測定を行うことができる。
第5の発明に係る画像処理による渡り線測定装置によれば、標準偏差背景除去処理手段が、標準偏差背景除去処理を行った区間において背景とみなされていない領域が存在する場合に、該区間を細分化して再度各細分化した区間ごとに標準偏差背景除去処理を行って各細分化した区間ごとに該区間に対象物が写っているか否かを判断し、該区間に対象物が写っている場合であって隣接する区間に対象物が写っていない場合は隣接する区間から対象物までの領域を背景とみなし、また、該区間に対象物が写っていない場合であって隣接する区間に対象物が写っている場合は隣接する区間の対象物から該区間までの領域および該区間を背景とみなす標準偏差背景除去処理を行って背景除去画像を作成するので、確実に対象物と背景との切り分けを行うことができる。
第6の発明に係る画像処理による渡り線測定装置によれば、任意の区間の大きさが、対象物が存在する区間が連続しない大きさであるので、一度の処理で対象物と背景とを切り分けることができる。
According to the crossover measuring apparatus using image processing according to the fourth aspect of the present invention, a line sensor camera that photographs the crossover line by setting the scanning line direction on the roof of the vehicle perpendicular to the traveling direction of the vehicle and horizontally. In the crossover measuring device by image processing provided with image processing means installed inside the vehicle, the image processing means creates a line sensor image in which image signals input from the line sensor camera are arranged in time series Line sensor image creating means for performing discriminant analysis binarization processing on the input image to create a binarized image, and noise removal processing on the input image Noise removal processing means for creating a noise-removed image by performing cross-over edge detection means for detecting edge points on both sides of the crossover line for the input image, and for the input image Background separation processing means for separating the connecting line from the background, a connecting line height calculating means for calculating the height of the connecting line from the positions of the edge points on both sides of the connecting line, and the connecting line from the height of the connecting line A crossover portion deviation calculating means for calculating the deviation of the image, and the background segmentation processing means divides the input image into arbitrary sections, and performs standard deviation background removal processing for each section, for each section. If there is an object in the section, and the object is in the section, and the object is not in the adjacent section, the area from the adjacent section to the object If the object is not shown in the section and the object is shown in the adjacent section, the area from the object in the adjacent section to the section and the section are set as the background. Performs standard deviation background removal processing for background removal. And the standard deviation background removal processing means for creating an image, based on the position of both sides of the edge points of the crossover line, respectively on the input image by aggregating a luminance value of a range of background-side relative to the edge point Background luminance average value calculation processing means for obtaining a background luminance average value, and a threshold value is set based on the background luminance average value, and the edge points on both sides of the crossover line of the image input based on the threshold value are set as the center. And a sunlight reflection determination processing means for determining the presence or absence of sunlight reflection by comparing the luminance distribution of a predetermined range, and the crossover line height calculation means determines that there is no sunlight reflection in the sunlight reflection determination processing means Since the height of the crossover line is calculated from the positions of the edge points on both sides of the crossover line, the crossover line can be identified even if there is a brightness spot in the background in the input image. , Misdetection of trolley wire wear surface The output can be further reduced. Further, it is not necessary to use a device such as a sodium lamp or a band-pass filter, and the daytime measurement of the crossover can be performed with an inexpensive and simple device.
According to the crossover measuring apparatus using image processing according to the fifth aspect of the present invention, when there is an area that is not regarded as the background in the section where the standard deviation background removal processing means has performed the standard deviation background removal processing, the section The standard deviation background removal process is performed for each subdivided section again, and it is determined whether or not the object is reflected in the section for each subdivided section. If the target object is not shown in the adjacent section, the area from the adjacent section to the target object is regarded as the background, and if the target object is not shown in the section, If the object is reflected, the background from the object in the adjacent section to the section and the standard deviation background removal process that regards the section as the background is performed to create a background-removed image. Carving Ukoto can.
According to the crossover measuring apparatus using image processing according to the sixth aspect of the present invention, the size of an arbitrary section is such that the section where the object exists is not continuous. Can be carved.

の発明に係る画像処理による渡り線測定によれば、太陽光反射判定処理手段において太陽光反射有りと判定された場合は測定終了後に前後のデータに基づいて測定結果を補間するので、トロリ線摩耗面の誤検出をより低減することができる。 According to the crossover measurement by the image processing according to the seventh invention, when the sunlight reflection determination processing means determines that there is sunlight reflection, the measurement result is interpolated based on the data before and after the measurement is completed. It is possible to further reduce the erroneous detection of the wire wear surface.

の発明に係る画像処理による渡り線測定装置によれば、標準偏差背景除去処理手段がラインセンサ画像に対して標準偏差背景除去処理を行ってラインセンサ画像中の背景を除去した背景除去画像を作成し、判別分析二値化処理手段が背景除去画像に対して判別分析二値化処理を行って二値化画像を作成し、ノイズ除去手段が二値化画像に対してノイズ除去処理を行ってノイズ除去画像を作成し、渡り線部エッジ検出処理手段がノイズ除去画像に対して渡り線の両側のエッジ点を検出し、背景輝度平均値算出処理手段がラインセンサ画像を用いて背景輝度平均値を算出し、太陽光反射判定処理手段がラインセンサ画像を用いて太陽光反射の有無を判定するので、トロリ線摩耗面の誤検出をより低減することができる。 According to the crossover measuring apparatus using image processing according to the eighth aspect of the invention, the background removal image obtained by removing the background in the line sensor image by the standard deviation background removal processing means performing the standard deviation background removal processing on the line sensor image. The discriminant analysis binarization processing unit performs discriminant analysis binarization processing on the background removal image to create a binarized image, and the noise removal unit performs noise removal processing on the binarized image. The crossover edge detection processing means detects edge points on both sides of the crossover line with respect to the noise removal image, and the background luminance average value calculation processing means uses the line sensor image to detect the background luminance. Since the average value is calculated and the sunlight reflection determination processing means determines the presence or absence of sunlight reflection using the line sensor image, erroneous detection of the trolley wire wear surface can be further reduced.

本発明の実施例1に係る画像処理による渡り線測定装置の設置例を示す概略図である。It is the schematic which shows the example of installation of the crossover measuring apparatus by the image process which concerns on Example 1 of this invention. 本発明の実施例1に係る画像処理による渡り線測定装置の計測用コンピュータの概略構成を示すブロック図である。It is a block diagram which shows schematic structure of the computer for measurement of the crossover measuring apparatus by the image process which concerns on Example 1 of this invention. 本発明の実施例1に係る標準偏差背景除去処理の一例を示す説明図である。It is explanatory drawing which shows an example of the standard deviation background removal process which concerns on Example 1 of this invention. 本発明の実施例1に係る標準偏差背景除去処理の他の例を示す説明図である。It is explanatory drawing which shows the other example of the standard deviation background removal process which concerns on Example 1 of this invention. 本発明の実施例1に係るトロリ線摩耗測定処理の流れを示すフローチャートである。It is a flowchart which shows the flow of the trolley wire wear measurement process which concerns on Example 1 of this invention. 本発明の実施例2に係る画像処理による渡り線測定装置の計測用コンピュータの概略構成を示すブロック図である。It is a block diagram which shows schematic structure of the computer for measurement of the crossover measuring apparatus by the image process which concerns on Example 2 of this invention. 本発明の実施例2に係るトロリ線摩耗測定処理の流れを示すフローチャートである。It is a flowchart which shows the flow of the trolley wire wear measurement process which concerns on Example 2 of this invention. 本発明の実施例2に係るラインセンサ画像の一例を示す説明図である。It is explanatory drawing which shows an example of the line sensor image which concerns on Example 2 of this invention. 本発明の実施例2に係る二値化画像の一例を示す説明図である。It is explanatory drawing which shows an example of the binarized image which concerns on Example 2 of this invention. 本発明の実施例2に係るエッジ点近傍の輝度分布の一例を示す説明図である。It is explanatory drawing which shows an example of the luminance distribution of the edge point vicinity which concerns on Example 2 of this invention. 本発明の実施例3に係る画像処理による渡り線測定装置の計測用コンピュータの概略構成を示すブロック図である。It is a block diagram which shows schematic structure of the computer for measurement of the crossover measuring apparatus by the image process which concerns on Example 3 of this invention. 本発明の実施例3に係るトロリ線摩耗測定処理の流れを示すフローチャートである。It is a flowchart which shows the flow of the trolley wire wear measurement process which concerns on Example 3 of this invention.

以下、図面を参照しつつ本発明に係る画像処理による渡り線測定装置の詳細を説明する。   The details of the crossover measuring device by image processing according to the present invention will be described below with reference to the drawings.

(標準偏差背景除去)
図1ないし図5を用いて本発明に係る画像処理による渡り線測定装置の第1の実施例を説明する。本実施例はラインセンサカメラから取得した画像に対してそのまま二値化処理を行うのではなく、前処理として標準偏差を用いて輝度がおおむね一様な領域を判定することにより背景上の明るさの斑の影響を除去し、その後、二値化処理を行って背景と渡り線との切り分けを行うものである。
(Standard deviation background removal)
A first embodiment of a crossover measuring apparatus using image processing according to the present invention will be described with reference to FIGS. The present embodiment does not perform binarization processing on an image acquired from a line sensor camera as it is, but uses a standard deviation as a preprocessing to determine a region where the brightness is substantially uniform, thereby improving the brightness on the background. Then, the influence of the spots is removed, and then the binarization process is performed to separate the background and the jumper line.

図1に示すように、本実施例において車両1の屋根上にはラインセンサカメラ2が設置され、車両1の車内には画像処理手段としての計測用コンピュータ3と記録装置4とが配設されている。
ラインセンサカメラ2は鉛直上方を撮影するように、且つその走査線方向がレール(図示省略)の枕木方向、換言すると車両1の進行方向に直行する方向となるようにその向きを設定されている。これにより、ラインセンサカメラ2の走査線が本線6と交差する渡り線7を横切るようになっている。
As shown in FIG. 1, in this embodiment, a line sensor camera 2 is installed on the roof of a vehicle 1, and a measuring computer 3 and a recording device 4 as image processing means are arranged in the vehicle 1. ing.
The direction of the line sensor camera 2 is set so that the vertical direction is photographed, and the scanning line direction is the direction of sleepers of rails (not shown), in other words, the direction orthogonal to the traveling direction of the vehicle 1. . Thereby, the scanning line of the line sensor camera 2 crosses the crossover line 7 which intersects the main line 6.

また、図2に示すように、計測用コンピュータ3はラインセンサ画像作成手段としてのラインセンサ画像作成部3a、背景切り分け処理手段としての標準偏差背景除去処理部3b、判別分析二値化処理手段としての判別分析二値化処理部3c、ノイズ除去処理手段としてのノイズ除去処理部3d、渡り線部エッジ検出手段としての渡り線部エッジ検出部3e、渡り線部高さ計算手段としての渡り線部高さ計算部3f、および渡り線部偏位計算手段としての渡り線部偏位計算部3gを備えて構成されている。   As shown in FIG. 2, the measurement computer 3 includes a line sensor image creation unit 3a as a line sensor image creation unit, a standard deviation background removal processing unit 3b as a background segmentation processing unit, and a discriminant analysis binarization processing unit. Discriminant analysis binarization processing section 3c, noise removal processing section 3d as noise removal processing means, crossover edge detection section 3e as crossover edge detection means, and crossover section as crossover height calculation means A height calculation unit 3f and a crossover part deviation calculation unit 3g as a crossover part deviation calculation unit are provided.

ラインセンサ画像作成部3aはラインセンサ2から入力される走査線の輝度信号を時系列的に並べてラインセンサ画像(平面の画像)を作成する。作成されたラインセンサ画像はメモリM1,M2を経て標準偏差背景除去処理部3bへ入力される。   The line sensor image creation unit 3a creates a line sensor image (planar image) by arranging the luminance signals of the scanning lines input from the line sensor 2 in time series. The created line sensor image is input to the standard deviation background removal processing unit 3b via the memories M1 and M2.

標準偏差背景除去処理部3bは入力されたラインセンサ画像に対して標準偏差背景除去処理を行う。標準偏差背景除去処理部3bによって作成された画像(以下、背景除去画像という)はメモリM2を経て判別分析二値化処理部3cへ入力される。   The standard deviation background removal processing unit 3b performs standard deviation background removal processing on the input line sensor image. An image created by the standard deviation background removal processing unit 3b (hereinafter referred to as background removal image) is input to the discriminant analysis binarization processing unit 3c via the memory M2.

以下に、図3を用いて標準偏差背景除去処理部3bにおける処理について詳細に説明する。本実施例に係る画像処理による渡り線測定装置において、標準偏差背景除去処理部3bは、図3(a)に示すように、ラインセンサ画像11を任意の区間(本実施例では第一区間12a、第二区間12b、第三区間12c)に分割し、それぞれの区間ごとに標準偏差背景除去処理を行う。   Hereinafter, the process in the standard deviation background removal processing unit 3b will be described in detail with reference to FIG. In the crossover measuring apparatus using image processing according to the present embodiment, the standard deviation background removal processing unit 3b, as shown in FIG. 3A, displays the line sensor image 11 in an arbitrary section (first section 12a in the present embodiment). , Second section 12b, third section 12c), and standard deviation background removal processing is performed for each section.

まず、第一区間12aに対して標準偏差背景除去処理を施す。図3(a)に示す例においては第一区間12aには対象物としての渡り線7が写っていないため、標準偏差値が低くなり第一区間12a全体が背景であると判断される。このように背景であると判断された第一区間12aはその後の処理に影響を及ぼさないように、塗りつぶし区間として白く塗りつぶされる(図3(b))。   First, the standard deviation background removal process is performed on the first section 12a. In the example shown in FIG. 3A, since the crossover 7 as the object is not shown in the first section 12a, the standard deviation value becomes low and it is determined that the entire first section 12a is the background. Thus, the first section 12a determined to be the background is painted white as a painted section so as not to affect the subsequent processing (FIG. 3B).

続いて、第二区間12bに対して標準偏差背景除去処理を施す。図3(a)に示す例においては第二区間12bには渡り線7が写っているため、標準偏差値が高くなり第二区間12bに何らかの構造物(ここでは渡り線7。以下、写り込み物という)があると判断される。このように写り込み物が写っていると判断された場合、隣接する区間であって標準偏差背景除去処理が終了した区間(ここでは第一区間12a)が塗りつぶし区間であるか否かを判断し、塗りつぶし区間である場合は写り込み物までの領域を背景部分であるとして白く塗りつぶす処理を行う(図3(c))。   Subsequently, a standard deviation background removal process is performed on the second section 12b. In the example shown in FIG. 3A, since the crossover line 7 is shown in the second section 12b, the standard deviation value becomes high, and some structure (here, the crossover line 7. In the following, the reflection is shown). It is judged that there is a thing). When it is determined that the reflection is reflected in this way, it is determined whether the adjacent section and the section where the standard deviation background removal processing is completed (here, the first section 12a) is a filled section. In the case of the painted section, a process of painting the area up to the reflected image as a background portion is performed in white (FIG. 3C).

次に、第三区間12cに対して標準偏差背景除去処理を施す。図3(a)に示す例においては第三区間12cには渡り線7が写っていないため、標準偏差値が低くなり第三区間12c全体が背景であると判断され、第一区間12aと同様、塗りつぶし区間として白く塗りつぶされる。さらに、第一区間12a以外の区間において背景であると判断された区間は、隣接する区間であって標準偏差除去処理が終了した区間(ここでは第二区間12b)が塗りつぶし区間であるか否かを判断し、塗りつぶし区間でない場合はその隣接する区間の写り込み物から第三区間12cまでの領域を背景部分であるとみなして白く塗りつぶす処理を行う(図3(d))。   Next, a standard deviation background removal process is performed on the third section 12c. In the example shown in FIG. 3A, since the crossover 7 is not shown in the third section 12c, the standard deviation value is lowered and the entire third section 12c is determined as the background, and is the same as the first section 12a. , It is painted white as a filled section. Furthermore, the section determined to be the background in the sections other than the first section 12a is an adjacent section, and whether or not the section in which the standard deviation removal processing is completed (here, the second section 12b) is a painted section. If it is not a painted section, the area from the reflection in the adjacent section to the third section 12c is regarded as a background part and is painted white (FIG. 3 (d)).

ここで、図4(a)に示すように例えば二つのトロリ線7−1,7−2が撮像されているなど、隣接する区間にいずれも写り込み物が存在する、又は一つの区間に二つの写り込み物が存在することにより、ラインセンサ画像11に写り込み物が二つ以上存在する場合にあっては、上述した処理を行った結果、図4(b)に示すように二つのトロリ線7−1,7−2間が塗りつぶされない状態となる場合がある。このような場合には塗りつぶしを行わなかった領域について、図4(c)に示すように区間を細分化して再度同様の処理を行い、二つの写り込み物間の背景を塗りつぶす処理を行うことにより図4(d)に示すように写り込み物と背景とを切り分けることが可能である。   Here, as shown in FIG. 4A, for example, two trolley lines 7-1 and 7-2 are captured, and there are reflections in adjacent sections, or two in one section. When there are two or more reflection objects in the line sensor image 11 due to the presence of two reflection objects, as a result of performing the above-described processing, two trolleys as shown in FIG. There may be a case where the space between the lines 7-1 and 7-2 is not filled. In such a case, the area that has not been filled is subdivided into sections as shown in FIG. 4C, and the same processing is performed again, and the processing for filling the background between the two reflections is performed. As shown in FIG. 4D, it is possible to separate the reflected object and the background.

なお、ラインセンサ画像11に二つ以上の写り込み物が撮像された場合の写り込み物間の距離をあらかじめ予測可能な場合は、ラインセンサ画像を任意の区間に分割する際に一つの区間又は隣接する区間に二つ以上写り込み物が存在することのないように区間の大きさを設定するようにすれば、一度の処理で写り込み物と背景とを切り分けることができ、好適である。具体的には、区間の分割サイズをB、写り込み物間の最小距離をLとしたときに、以下の(1)式を満たすように区間を分割すればよい。
B<L/2 ・・・ (1)
In addition, when the distance between the reflections when two or more reflections are captured in the line sensor image 11 can be predicted in advance, one segment or If the size of a section is set so that two or more reflections do not exist in adjacent sections, the reflection and the background can be separated by a single process, which is preferable. Specifically, when the division size of the section is B and the minimum distance between the reflections is L, the section may be divided so as to satisfy the following expression (1).
B <L / 2 (1)

以上の処理により、背景上の明るさの斑を除去した背景除去画像13が得られる。背景除去画像13はメモリM2を経て判別分析二値化処理部3cに入力される。   Through the above processing, a background-removed image 13 in which the brightness spots on the background are removed is obtained. The background removed image 13 is input to the discriminant analysis binarization processing unit 3c via the memory M2.

判別分析二値化処理部3cは入力された背景除去画像に対して、判別分析二値化処理法により二値化処理を行い、二値化画像を作成する。ここで、判別分析二値化処理法とは、二値化処理を行う際に、画像の状態に応じて自動的にしきい値を設定する方法である。作成された二値化画像はメモリM2を経てノイズ除去処理部3dに入力される。   The discriminant analysis binarization processing unit 3c performs binarization processing on the input background-removed image by the discriminant analysis binarization processing method to create a binarized image. Here, the discriminant analysis binarization processing method is a method of automatically setting a threshold according to the state of an image when performing binarization processing. The created binarized image is input to the noise removal processing unit 3d via the memory M2.

ノイズ除去処理部3dは、入力された二値化画像に対して、画像中に含まれる渡り線部の傷や細かな点状のノイズ等を除去してノイズ除去画像を作成する。ノイズ除去画像はメモリM2を介して渡り線部エッジ検出部3eに入力される。   The noise removal processing unit 3d creates a noise-removed image from the input binarized image by removing the flaws at the crossover portion included in the image, fine dot-like noise, and the like. The noise-removed image is input to the crossover edge detection unit 3e via the memory M2.

渡り線部エッジ検出部3eは入力されたノイズ除去画像に対し、あるラインについて例えば左から探索した場合に、白から黒へ変化する点を左側のエッジ点として検出し、続いて黒から白へ変化する点を右側のエッジ点として検出する処理を行う。この処理を画像の上から下へラインごとに行う。検出したエッジ点の情報(以下、エッジデータという)はメモリM2を経て渡り線部高さ計算部3fに入力される。   For example, when searching for a certain line from the left with respect to the input noise-removed image, the crossover edge detection unit 3e detects a point that changes from white to black as the left edge point, and then from black to white. A process of detecting the changing point as the right edge point is performed. This process is performed for each line from the top to the bottom of the image. Information on the detected edge point (hereinafter referred to as edge data) is input to the crossover line height calculator 3f via the memory M2.

渡り線部高さ計算部3fは入力されたエッジデータと、パラメータとして入力される左右のエッジ点間の距離、予め既知である渡り線サイズデータ、レンズ焦点距離、センサ幅およびセンサ画素数とから渡り線の高さを計算する。算出された渡り線の高さは渡り線高さデータとしてメモリM2を経て渡り線部偏位計算部3gに入力される。   The crossover line height calculation unit 3f is based on the input edge data, the distance between the left and right edge points input as parameters, the previously known crossover line size data, the lens focal length, the sensor width, and the number of sensor pixels. Calculate the height of the crossover. The calculated height of the crossover line is input to the crossover line deviation calculation unit 3g via the memory M2 as crossover line height data.

渡り線部偏移計算部3gは入力された渡り線高さデータと、パラメータとして入力される左右のエッジ点の重心位置、ラインセンサカメラ2の設置位置、レンズ焦点距離、センサ幅およびセンサ画素数とから渡り線の偏位量を計算する。算出された渡り線の偏位量は渡り線偏位量データとしてメモリM2を経て記録装置4に記録される。   The crossover part deviation calculation unit 3g receives the input crossover line height data, the center of gravity position of the left and right edge points input as parameters, the installation position of the line sensor camera 2, the lens focal length, the sensor width, and the number of sensor pixels. Calculate the displacement of the crossover from The calculated crossover deviation amount is recorded as crossover deviation amount data in the recording device 4 via the memory M2.

記録装置4には上述した渡り線偏位量データのほか、メモリM1,M2を経てラインセンサ画像、背景除去画像、二値化画像、ノイズ除去画像、エッジデータ、渡り線高さデータ等が記録される。   In addition to the above-described crossover deflection amount data, the recording device 4 records line sensor images, background-removed images, binarized images, noise-removed images, edge data, crossover-line height data, and the like via memories M1 and M2. Is done.

図5を用いて本実施例に係る画像処理による渡り線測定装置の計測用コンピュータ3における画像処理の流れを説明する。   The flow of image processing in the measurement computer 3 of the crossover measuring apparatus using image processing according to the present embodiment will be described with reference to FIG.

図5に示すように、本実施例において計測用コンピュータ3は、まず、ラインセンサ画像作成部3aにおいて、ラインセンサカメラ2から入力される画像信号を時系列的に並べることによりラインセンサ画像を作成する処理を行い(ステップP1)、続いて、標準偏差背景除去処理部3bにおいてラインセンサ画像に対して上述した標準偏差背景除去処理を行い背景除去画像を作成する(ステップP2)。   As shown in FIG. 5, in this embodiment, the measurement computer 3 first creates a line sensor image by arranging the image signals input from the line sensor camera 2 in time series in the line sensor image creation unit 3a. Next, the standard deviation background removal processing unit 3b performs the above-described standard deviation background removal processing on the line sensor image to create a background removed image (step P2).

その後、判別分析二値化処理部3cにおいて背景除去画像に対して判別分析二値化処理を行って二値化画像を作成し(ステップP3)、続いてノイズ除去処理部3dにおいて二値化画像に対してノイズ除去処理を行いノイズ除去画像を作成する(ステップP4)。   Thereafter, the discriminant analysis binarization processing unit 3c performs discriminant analysis binarization processing on the background removed image to create a binarized image (step P3), and then the noise removal processing unit 3d performs the binarized image. Is subjected to noise removal processing to create a noise-removed image (step P4).

ステップP4に続いては、渡り線部エッジ検出部3eにおいてノイズ除去画像の背景を示す白色と渡り線7を示す黒色との境界を左右のエッジ点として抽出する処理を行う(ステップP5)。これによりエッジデータが得られる。   Subsequent to step P4, the crossover line edge detection unit 3e performs a process of extracting a boundary between white indicating the background of the noise-removed image and black indicating the crossover 7 as left and right edge points (step P5). Thereby, edge data is obtained.

ステップP5に続いては、渡り線高さ計算処理部3fにおいて、左右のエッジ点間の距離と上述した予め設定されたパラメータとから渡り線の高さを渡り線高さデータとして算出し(ステップP6)、続いて渡り線偏位計算処理部3gにおいて、渡り線高さデータと上述した予め設定されたパラメータとから渡り線の偏位量を計算する(ステップP7)。
上述した処理を行うことにより、渡り線の三次元位置を測定することができる。
Subsequent to Step P5, the jumper line height calculation processing unit 3f calculates the jumper line height as jumper line height data from the distance between the left and right edge points and the preset parameter described above (Step S5). P6) Subsequently, the crossover deflection amount is calculated from the crossover height data and the previously set parameters in the crossover deflection calculation processing unit 3g (step P7).
By performing the processing described above, the three-dimensional position of the crossover line can be measured.

ラインセンサ画像において、背景となる空は雲や青空が写る場合ぼやっとしたメリハリのない空間になるのに対し、測定対象であるトロリ線7はピントが合っていることもありはっきりと明暗が出る。本実施例では、このことを利用して、画像を任意の区間(本実施例では第一区間12a、第二区間12b、第三区間12c)に区切ってその区間内の標準偏差をとり、輝度のばらつき具合を確認する。このとき、区間内の輝度のばらつきが大きい場合は渡り線7が写っていると判断し、輝度のばらつきが小さい場合は背景であると判断する。そして、背景と判断された区間については、その後の処理に影響を及ぼさないように白く塗りつぶす処理を行ってこの区間が背景であることを明確にすることで渡り線7の誤検出を低減する。   In the line sensor image, the sky as a background becomes a space with no sharpness when clouds and blue sky are reflected, whereas the trolley line 7 to be measured is clearly focused and bright and dark. In this embodiment, this is used to divide the image into arbitrary sections (in this embodiment, the first section 12a, the second section 12b, and the third section 12c) and take the standard deviation in the section to obtain the luminance. Check the degree of variation. At this time, if the luminance variation in the section is large, it is determined that the crossover 7 is reflected, and if the luminance variation is small, the background is determined. And about the area judged to be a background, the process which fills with white so that it may not affect subsequent processing is performed, and the erroneous detection of the crossover 7 is reduced by clarifying that this area is a background.

さらに、塗りつぶしをしない区間において、その隣の区間に対して塗りつぶし処理を行っている場合、その隣の区間から当該区間内の写り込み物までの領域に対しても塗りつぶし処理を行う。このようにすることで、塗りつぶし区間から写り込み物有りと判断された区間の写り込み物までの間にできる空白領域(背景であるが塗りつぶしていない画素)を埋めることができ、より誤検出を低減できる。なお、本実施例では塗りつぶし区間の平均輝度値に比較して輝度差が一定値以上あるピクセルを写り込み物箇所として検出するものとする。   Furthermore, in a section where no painting is performed, when the painting process is performed on the adjacent section, the painting process is also performed on the area from the neighboring section to the reflection in the section. By doing this, it is possible to fill the blank area (pixels that are background but not filled) between the painted section and the captured section of the section that is judged to have a reflected object, and more erroneous detection. Can be reduced. In the present embodiment, it is assumed that pixels having a luminance difference equal to or greater than a certain value compared to the average luminance value of the painted section are detected as the reflected object locations.

上述した本実施例に係る画像処理による渡り線測定装置によれば、背景上に明るさの斑が存在する場合でも、渡り線7と背景とを切り分けることができるため、渡り線7の誤検出を低減することができる。
また、写り込み物有りと判断された区間であっても隣接する区間が塗りつぶし区間であった場合は写り込み物まで塗りつぶすようにしたため、より精密に渡り線と背景の切り分けが行える。
さらに、照明を当てずに撮影し渡り線7が画面上において黒く表示されるようにすることにより、ナトリウムランプおよびバンドパスフィルタなどの装置を用いずに安価かつ単純な装置構成で渡り線7の昼間測定を行うことができる。
According to the above-described crossover measuring apparatus using image processing according to the present embodiment, the crossover line 7 and the background can be separated even when brightness spots are present on the background. Can be reduced.
In addition, even if it is determined that there is a reflection object, if the adjacent area is a painted area, the reflection object is also painted, so that the crossover line and the background can be more precisely separated.
Further, by photographing the crossover line 7 without illuminating it and displaying it on the screen in black, the crossover line 7 can be constructed with an inexpensive and simple apparatus configuration without using a device such as a sodium lamp and a bandpass filter. Daytime measurements can be made.

なお、本実施例では標準偏差背景除去処理部4fにおいて背景とみなした領域を黒く塗りつぶす例を示したが、背景とみなした領域は黒く塗りつぶすことに限定されるものではなく、例えば、背景とみなした領域をマスク画素としてメモリ空間に記憶しておき、このマスク画素を以後の処理を行わない画素とするなど、本発明の趣旨を逸脱しない範囲で種々の変更が可能であることは言うまでもない。   In this embodiment, the standard deviation background removal processing unit 4f shows an example in which the area regarded as the background is painted black. However, the area regarded as the background is not limited to being painted black. For example, it is regarded as the background. It goes without saying that various changes can be made without departing from the spirit of the present invention, such as storing the region in the memory space as a mask pixel and making the mask pixel a pixel that will not be processed thereafter.

(太陽光反射判定処理)
図6ないし図10を用いて本発明に係る画像処理による渡り線測定装置の第2の実施例を説明する。本実施例は太陽光反射した画像をエラーとして判定する「太陽光反射判定処理」により太陽光反射による渡り線の誤測定を防止するものである。
(Sunlight reflection judgment processing)
A second embodiment of the crossover measuring apparatus using image processing according to the present invention will be described with reference to FIGS. In the present embodiment, an erroneous measurement of the crossover due to sunlight reflection is prevented by “sunlight reflection determination processing” in which an image reflected by sunlight is determined as an error.

本実施例は図1および2に示し上述した実施例1の標準偏差背景除去処理部3bに変えて、図6に示す背景切り分け処理手段としての背景輝度平均値算出処理部3hおよび太陽光反射判定処理部3iを追加したものである。その他の構成は図1および図2に示し上述した構成とおおむね同様であり、以下、類似する部材には同一の符合を付して重複する説明は省略し、異なる点を中心に説明する。   In this embodiment, instead of the standard deviation background removal processing section 3b of the first embodiment shown in FIGS. 1 and 2, the background luminance average value calculation processing section 3h and the sunlight reflection determination as background segmentation processing means shown in FIG. A processing unit 3i is added. The other configuration is substantially the same as the configuration shown in FIGS. 1 and 2 and described above, and hereinafter, similar members will be denoted by the same reference numerals and redundant description will be omitted, and different points will be mainly described.

図6に示すように、本実施例において計測用コンピュータ3はラインセンサ画像作成部3a、判別分析二値化処理部3c、ノイズ除去処理部3d、渡り線部エッジ検出部3e、背景輝度平均値算出処理部3h、太陽光反射判定処理部3i、渡り線部高さ計算部3f、および渡り線部偏位計算部3gを備えて構成されている。   As shown in FIG. 6, in this embodiment, the measurement computer 3 includes a line sensor image creation unit 3a, a discriminant analysis binarization processing unit 3c, a noise removal processing unit 3d, a crossover edge detection unit 3e, and a background luminance average value. The calculation processing unit 3h, the sunlight reflection determination processing unit 3i, the crossover line height calculation unit 3f, and the crossover line deviation calculation unit 3g are configured.

背景輝度平均値算出処理部3hは、入力されたエッジデータとパラメータとして入力される背景輝度集計範囲W(図9参照)とから背景輝度平均値Aを求める。ここで、背景輝度集計範囲Wは渡り線部エッジ検出部3eにおいて求めたエッジ点の渡り線外側方向にあらかじめ設定する一定範囲であり、背景輝度平均値Aは背景輝度集計範囲W内において集計した輝度値の平均値である。算出された背景輝度平均値AはメモリM2を経て太陽光反射判定処理部3iに入力される。   The background luminance average value calculation processing unit 3h obtains the background luminance average value A from the input edge data and the background luminance totaling range W (see FIG. 9) input as a parameter. Here, the background luminance totaling range W is a fixed range set in advance in the outer direction of the crossover line of the edge point obtained by the crossover line edge detection unit 3e, and the background luminance average value A is totalized within the background luminance totaling range W. It is an average value of luminance values. The calculated background luminance average value A is input to the sunlight reflection determination processing unit 3i via the memory M2.

太陽光反射判定処理部3iは、太陽光反射箇所は背景に比べて輝度値が大きいことを利用し、入力された背景輝度平均値Aとパラメータとして入力されるあらかじめ設定した設定幅αとの和をしきい値としてエッジ点近傍の輝度分布を比較し、輝度値が突出した箇所があれば太陽光反射箇所有りと判定する。判定結果はメモリM2を経て渡り線部高さ計算処理部3fに入力される。   The sunlight reflection determination processing unit 3i uses the fact that the sunlight reflection portion has a luminance value larger than that of the background, and the sum of the input background luminance average value A and a preset setting width α input as a parameter. Is used as a threshold value, and the luminance distributions near the edge points are compared. The determination result is input to the crossover line height calculation processing unit 3f via the memory M2.

渡り線部高さ計算処理部3fは、入力された判定結果が太陽光反射箇所有りである場合は入力されたエッジデータと、パラメータとして入力される左右のエッジ点間の距離、予め既知である渡り線サイズデータ、レンズ焦点距離、センサ幅およびセンサ画素数とから渡り線の高さを計算する。算出された渡り線の高さは渡り線高さデータとしてメモリM2を経て渡り線部偏位計算部3gに入力される。一方、入力された判定結果が太陽光反射箇所無しである場合は渡り線部の高さの計算を行わず、欠損データとしてメモリM2を介して記録装置4に記録する。
なお、欠損データとなった渡り線は、測定終了後に太陽光反射無しと判定された箇所の正常な渡り線幅データから補間する。
The crossover line height calculation processing unit 3f knows in advance the distance between the input edge data and the left and right edge points that are input as parameters when the input determination result is that there is a sunlight reflection spot. The height of the crossover is calculated from the crossover size data, the lens focal length, the sensor width, and the number of sensor pixels. The calculated height of the crossover line is input to the crossover line deviation calculation unit 3g via the memory M2 as crossover line height data. On the other hand, if the input determination result is that there is no sunlight reflecting portion, the height of the crossover portion is not calculated, and is recorded in the recording device 4 via the memory M2 as missing data.
In addition, the crossover line which became the missing data is interpolated from normal crossover line width data of a portion determined to have no sunlight reflection after the measurement.

記録装置5には、ラインセンサ画像、二値化画像、ノイズ除去画像、背景輝度平均値A、設定幅α、太陽光反射判定処理部における判定結果、エッジデータ、渡り線高さデータ、渡り線偏位量データ等が記録される。   The recording device 5 includes a line sensor image, a binarized image, a noise-removed image, a background luminance average value A, a setting width α, a determination result in the sunlight reflection determination processing unit, edge data, a crossover line height data, a crossover line. Deviation data and the like are recorded.

図7ないし図10を用いて本実施例に係る画像処理による渡り線測定装置の計測用コンピュータ4における画像処理の流れを説明する。   The flow of image processing in the measurement computer 4 of the crossover measuring apparatus using the image processing according to this embodiment will be described with reference to FIGS.

図7に示すように、本実施例に係る計測用コンピュータ3においては、まず、ラインセンサ画像作成部3aにおいて、ラインセンサカメラ2から入力される画像信号を時系列的に並べることによりラインセンサ画像を作成する処理を行い(ステップP11)、続いて、判別分析二値化処理部3cにおいてラインセンサ画像に対して判別分析二値化処理を行って二値化画像を作成し(ステップP12)、続いてノイズ除去処理部3dにおいて二値化画像に対してノイズ除去処理を行いノイズ除去画像を作成する(ステップP13)。   As shown in FIG. 7, in the measurement computer 3 according to the present embodiment, first, the line sensor image generator 3a arranges the image signals input from the line sensor camera 2 in chronological order. (Step P11). Subsequently, the discriminant analysis binarization processing unit 3c performs a discriminant analysis binarization process on the line sensor image to create a binarized image (step P12). Subsequently, the noise removal processing unit 3d performs noise removal processing on the binarized image to create a noise-removed image (step P13).

ステップP13に続いては、渡り線部エッジ検出部3dにおいてノイズ除去画像に対して背景を示す白色と渡り線7を示す黒色との境界を左右のエッジ点9L,9Rとして抽出する処理を行う(ステップP14)。これによりエッジデータが得られる。
ステップP14に続いては、背景輝度平均値算出処理部3hにおいてエッジデータを基に背景輝度平均値を求める(ステップP15)。
Subsequent to step P13, the crossover line edge detection unit 3d performs processing for extracting the boundary between white indicating the background and black indicating the crossover 7 as the left and right edge points 9L and 9R from the noise-removed image ( Step P14). Thereby, edge data is obtained.
Subsequent to step P14, the background luminance average value calculation processing unit 3h obtains a background luminance average value based on the edge data (step P15).

ここで、図8ないし図10を用いて背景輝度平均値を算出する処理の詳細を説明する。
例えば図8(a)に示すようにラインセンサ画像11に太陽光反射箇所が存在しない場合、背景輝度平均値算出処理部3hでは、図9(a)に示すように、渡り線部エッジ検出部3eにおいて検出されたエッジデータを基に、ラインセンサ画像11上のエッジ点9L,9Rに対応する位置から渡り線7の外側方向の一定範囲である背景輝度集計範囲W内の輝度値を集計してその平均値を求める。
一方、例えば図8(b)に示すようにラインセンサ画像11に太陽光反射箇所8が撮影されている場合、背景輝度平均値算出処理部3hでは、渡り線部エッジ検出部3eにおいて検出されたエッジデータを基に、図9(b)に示すようにラインセンサ画像11上のエッジ点9L,9Rに対応する位置から渡り線7外側方向の一定範囲である背景輝度集計範囲W内の輝度値を集計してその平均値を求める。
以上により背景輝度平均値Aが得られる。
Here, details of the process of calculating the background luminance average value will be described with reference to FIGS.
For example, as shown in FIG. 8A, when there is no sunlight reflection spot in the line sensor image 11, the background luminance average value calculation processing unit 3h, as shown in FIG. Based on the edge data detected in 3e, the luminance values in the background luminance totaling range W, which is a fixed range in the outer direction of the crossover line 7, from the positions corresponding to the edge points 9L and 9R on the line sensor image 11 are totalized. The average value is obtained.
On the other hand, for example, as illustrated in FIG. 8B, when the sunlight reflection spot 8 is captured in the line sensor image 11, the background luminance average value calculation processing unit 3 h detects the crossover line edge detection unit 3 e. Based on the edge data, as shown in FIG. 9B, the luminance value within the background luminance totaling range W that is a fixed range in the outer direction of the crossover line 7 from the position corresponding to the edge points 9L and 9R on the line sensor image 11. To calculate the average value.
Thus, the background luminance average value A is obtained.

ステップP15に続いては、太陽光反射判定処理部3iにおいて背景輝度平均値Aにあらかじめ設定された設定幅αを加算した値をしきい値Sとする一方、ラインセンサ画像11についてラインごとにエッジ点9L,9Rそれぞれの左右のあらかじめ設定する範囲の輝度分布を比較する(ステップP16)。このとき、輝度分布が図10(a)に示すようにしきい値Sを超えない場合は太陽光反射無しと判定する。一方、渡り線の図10(b)に一点鎖線で囲んで示すようにしきい値Sを超える個所が存在する場合は太陽光反射有りと判定する。   Following step P15, the value obtained by adding the preset setting width α to the background luminance average value A in the sunlight reflection determination processing unit 3i is set as the threshold value S, while the line sensor image 11 has an edge for each line. The luminance distributions in the predetermined ranges on the left and right of the points 9L and 9R are compared (step P16). At this time, when the luminance distribution does not exceed the threshold value S as shown in FIG. On the other hand, if there is a portion exceeding the threshold value S as shown by a dashed line in FIG.

ステップP16において太陽光反射無と判定された場合は、続いて渡り線高さ計算処理部3fにおいて左右のエッジ点9L,9R間の距離と上述した予め設定されたパラメータとから渡り線の高さを渡り線高さデータとして算出し(ステップP17)、渡り線偏位計算処理部3gにおいて、渡り線高さデータと上述した予め設定されたパラメータとから渡り線の偏位量を計算する(ステップP18)。
一方、ステップP16において太陽光反射有りと判定された場合は、渡り線部高さ計算部3f、渡り線部編計算部3gにおける処理を行わず、欠損データとして記録装置4に記録し、測定終了後に太陽光反射無しと判定された個所の渡り線高さデータから渡り線三次元位置を補間する(ステップP19)。
If it is determined in step P16 that there is no sunlight reflection, the crossover line height is calculated from the distance between the left and right edge points 9L and 9R and the preset parameter described above in the crossover line height calculation processing unit 3f. Is calculated as crossover line height data (step P17), and the crossover line deviation calculation processing unit 3g calculates the crossover line deviation amount from the crossover line height data and the above-described preset parameters (step S17). P18).
On the other hand, if it is determined in step P16 that there is sunlight reflection, the crossover line height calculation unit 3f and the crossover line knitting calculation unit 3g are not processed, but are recorded in the recording device 4 as missing data, and the measurement ends. The crossover line three-dimensional position is interpolated from the crossover line height data at the location where it was determined later that there was no sunlight reflection (step P19).

以上の処理によって、太陽光反射による誤測定を防止しつつ渡り線の三次元位置を測定することができる。   With the above processing, the three-dimensional position of the crossover can be measured while preventing erroneous measurement due to sunlight reflection.

上述した本実施例に係る画像処理による渡り線測定装置によれば、ラインセンサ画像11上に太陽光反射による影響が及んだ場合であっても、高精度に渡り線7の計測を行うことができる。また、照明を用いることなく渡り線7を撮影することで、ラインセンサ画像11上に渡り線7を黒く写すことにより、ナトリウムランプおよびバンドパスフィルタなどの装置を用いずに安価かつ単純な装置構成で渡り線7の昼間測定を行うことができる。   According to the above-described crossover measuring apparatus using image processing according to the present embodiment, even when the line sensor image 11 is affected by sunlight reflection, the crossover 7 is measured with high accuracy. Can do. Further, by photographing the crossover line 7 without using illumination, the crossover line 7 is imaged in black on the line sensor image 11, so that an inexpensive and simple apparatus configuration without using a device such as a sodium lamp and a bandpass filter is used. The daytime measurement of the crossover line 7 can be performed.

(渡り線計測)
図11および図12を用いて本発明に係る画像処理による渡り線測定装置の第3の実施例の詳細を説明する。本実施例は上述した第1の実施例に第2の実施例において説明した背景輝度平均値算出処理部および太陽光反射判定処理部を追加したものである。その他の構成は図1および図2に示し上述した構成とおおむね同様であり、以下、類似する部材には同一の符合を付して重複する説明は省略し、異なる点を中心に説明する。
(Crossover measurement)
The details of the third embodiment of the crossover measuring apparatus using image processing according to the present invention will be described with reference to FIGS. In this embodiment, the background luminance average value calculation processing section and the sunlight reflection determination processing section described in the second embodiment are added to the first embodiment described above. The other configuration is substantially the same as the configuration shown in FIGS. 1 and 2 and described above, and hereinafter, similar members will be denoted by the same reference numerals and redundant description will be omitted, and different points will be mainly described.

図11に示すように、本実施例に係る画像処理による渡り線測定装置において、計測用コンピュータは、ラインセンサ画像作成部3a、標準偏差背景除去処理部3b、判別分析二値化処理部3c、ノイズ除去処理部3d、渡り線部エッジ検出部3e、背景輝度平均値算出処理部3h、太陽光反射判定処理部3i、渡り線部高さ計算部3f、および渡り線部偏位計算部3gを備えて構成されている。   As shown in FIG. 11, in the crossover measuring apparatus using image processing according to the present embodiment, the measurement computer includes a line sensor image creation unit 3 a, a standard deviation background removal processing unit 3 b, a discriminant analysis binarization processing unit 3 c, A noise removal processing unit 3d, a crossover line edge detection unit 3e, a background luminance average value calculation processing unit 3h, a sunlight reflection determination processing unit 3i, a crossing line height calculation unit 3f, and a crossing line part deviation calculation unit 3g It is prepared for.

記録装置4には、ラインセンサ画像、背景除去画像、二値化画像、ノイズ除去画像、エッジデータ、背景輝度平均値、太陽光反射判定処理部における判定結果、渡り線高さデータ、渡り線偏位量データ等が記録される。   The recording device 4 includes a line sensor image, a background removal image, a binarized image, a noise removal image, edge data, a background luminance average value, a determination result in the sunlight reflection determination processing unit, a crossover line height data, a crossover line bias. Quantity data and the like are recorded.

図12を用いて本実施例に係る画像処理による渡り線測定装置の計測用コンピュータ4による画像処理の流れを説明する。   The flow of image processing by the measurement computer 4 of the crossover measuring apparatus using image processing according to the present embodiment will be described with reference to FIG.

図12に示すように、本実施例においては、まず、ラインセンサ画像作成部3aにおいて、ラインセンサカメラ2から入力される画像信号を時系列的に並べることによりラインセンサ画像を作成する処理を行い(ステップP21)、続いて、標準偏差背景除去処理部3bにおいてラインセンサ画像に対して上述した標準偏差背景除去処理を行い背景除去画像を作成する(ステップP22)。   As shown in FIG. 12, in this embodiment, first, the line sensor image creation unit 3a performs a process of creating a line sensor image by arranging the image signals input from the line sensor camera 2 in time series. (Step P21) Subsequently, the standard deviation background removal processing unit 3b performs the above-described standard deviation background removal processing on the line sensor image to create a background removed image (Step P22).

その後、判別分析二値化処理部3cにおいて背景除去画像に対して判別分析二値化処理を行って二値化画像を作成し(ステップP23)、続いてノイズ除去処理部3dにおいて二値化画像に対してノイズ除去処理を行いノイズ除去画像を作成する(ステップP24)。   Thereafter, the discriminant analysis binarization processing unit 3c performs discriminant analysis binarization processing on the background removed image to create a binarized image (step P23), and then the noise removal processing unit 3d performs the binarized image. Is subjected to noise removal processing to create a noise-removed image (step P24).

ステップP24に続いては、渡り線部エッジ検出部3dにおいてノイズ除去画像に対して背景を示す白色と渡り線7を示す黒色との境界を左右のエッジ点として抽出する処理を行う(ステップP25)。これによりエッジデータが得られる。   Subsequent to step P24, the crossover line edge detection unit 3d performs a process of extracting a boundary between white indicating the background and black indicating the crossover 7 as the left and right edge points from the noise-removed image (step P25). . Thereby, edge data is obtained.

ステップP25に続いては、背景輝度平均値算出処理部3hにおいてエッジデータを基に背景輝度平均値Aを求める(ステップP26)。   Subsequent to step P25, the background luminance average value calculation processing unit 3h obtains the background luminance average value A based on the edge data (step P26).

ステップP26に続いては、太陽光反射判定処理部3iにおいて背景輝度平均値Aにあらかじめ設定された設定幅αを加算した値をしきい値Sとする一方、ラインセンサ画像に対してラインごとにエッジ点近傍の輝度分布を比較する(ステップP27)。   Subsequent to Step P26, a value obtained by adding the preset setting width α to the background luminance average value A in the sunlight reflection determination processing unit 3i is set as the threshold value S, while the line sensor image is set for each line. The luminance distributions near the edge points are compared (step P27).

ステップP27において太陽光反射無しと判定された場合は、続いて渡り線高さ計算処理部3fにおいて左右のエッジ点間の距離と上述した予め設定されたパラメータとから渡り線の高さを渡り線高さデータとして算出し(ステップP28)、渡り線偏位計算処理部3gにおいて、渡り線高さデータと上述した予め設定されたパラメータとから渡り線の偏位量を計算する(ステップP29)。
一方、ステップP27において太陽光反射有りと判定された場合は、渡り線部高さ計算部3f、渡り線部編計算部3gにおける処理を行わず、欠損データとして記録装置4に記録し、測定終了後に太陽光反射無しと判定された個所の渡り線高さデータから渡り線三次元位置を補間する(ステップP30)。
If it is determined in step P27 that there is no sunlight reflection, the crossover line height is calculated from the distance between the left and right edge points in the crossover line height calculation processing unit 3f and the preset parameter described above. It is calculated as height data (step P28), and the crossover deflection amount is calculated from the crossover height data and the previously set parameters in the crossover deflection calculation processing unit 3g (step P29).
On the other hand, when it is determined in step P27 that there is sunlight reflection, the crossover line height calculation unit 3f and the crossover line part calculation unit 3g are not processed, but are recorded in the recording device 4 as missing data, and the measurement ends. The crossover line three-dimensional position is interpolated from the crossover line height data at the location where it was later determined that there was no sunlight reflection (step P30).

上述した処理によって、渡り線の三次元位置を測定することができる。   The three-dimensional position of the crossover line can be measured by the processing described above.

なお、本実施例においては、撮影環境や撮影条件に応じて作業者が標準偏差背景除去処理、標準偏差背景除去処理の要否を選択する(例えば、設定ファイルにて処理のON/OFFを設定する)ことができるようにすれば好適である。   In this embodiment, the operator selects whether or not the standard deviation background removal process and the standard deviation background removal process are necessary according to the shooting environment and shooting conditions (for example, setting the process ON / OFF in the setting file) It is preferable to be able to do this.

また、本発明に係る画像処理による渡り線測定装置は、上述した実施例1ないし実施例3に限定されるものではなく、本発明の趣旨を逸脱しない範囲で種々の変更が可能であることは言うまでもない。   Further, the crossover measuring device by image processing according to the present invention is not limited to the above-described first to third embodiments, and various modifications can be made without departing from the spirit of the present invention. Needless to say.

本発明は画像処理による渡り線測定装置に適用して好適なものである。   The present invention is suitable for application to a crossover measuring apparatus using image processing.

1 車両
2 ラインセンサカメラ
3 計測用コンピュータ
3a ラインセンサ画像作成部
3b 標準偏差背景除去処理部
3c 判別分析二値化処理部
3d ノイズ除去処理部
3e 渡り線部エッジ検出部
3f 渡り線部高さ計算部
3g 渡り線部偏位計算部
3h 背景輝度平均値算出処理部
3i 太陽光反射判定処理部
4 記録装置
5 パンタグラフ
6 トロリ線
7 渡り線
8 太陽光反射箇所
11 ラインセンサ画像
12a 第一区間
12b 第二区間
12c 第三区間
13 背景除去画像
A 背景輝度平均値
M1,M2 メモリ
S しきい値
W 背景輝度集計範囲
DESCRIPTION OF SYMBOLS 1 Vehicle 2 Line sensor camera 3 Measurement computer 3a Line sensor image preparation part 3b Standard deviation background removal process part 3c Discriminant analysis binarization process part 3d Noise removal process part 3e Crossover part edge detection part 3f Crossover part height calculation Section 3g Crossover section deviation calculation section 3h Background luminance average value calculation processing section 3i Sunlight reflection determination processing section 4 Recording device 5 Pantograph 6 Trolley line 7 Crossover line 8 Sunlight reflection portion 11 Line sensor image 12a First section 12b First Two sections 12c Third section 13 Background removed image A Background brightness average value M1, M2 Memory S Threshold W Background brightness count range

Claims (8)

車両の屋根上にその走査線方向を車両の進行方向に対して垂直且つ水平に設置されて渡り線を撮影するラインセンサカメラと、前記車両の内部に設置された画像処理手段とを備えた画像処理による渡り線測定装置において、
前記画像処理手段が、
前記ラインセンサカメラから入力される画像信号を時系列的に並べてなるラインセンサ画像を作成するラインセンサ画像作成手段と、
入力された画像に対して判別分析二値化処理を行って二値化画像を作成する判別分析二値化処理手段と、
入力された画像に対してノイズ除去処理を行ってノイズ除去画像を作成するノイズ除去処理手段と、
入力された画像に対して前記渡り線の両側のエッジ点を検出する渡り線部エッジ検出手段と、
入力された画像に対して前記渡り線と背景との切り分けを行う背景切り分け処理手段と、
前記渡り線の両側のエッジ点の位置から前記渡り線の高さを算出する渡り線部高さ計算手段と、
前記渡り線の高さから前記渡り線の偏位を算出する渡り線部偏位計算手段と
を備え、
前記背景切り分け処理手段が、
前記渡り線の両側のエッジ点の位置に基づき、前記入力された画像に対してそれぞれ前記エッジ点を基準とする背景側の一定範囲の輝度値を集計して背景輝度平均値を求める背景輝度平均値算出処理手段と、
前記背景輝度平均値に基づいてしきい値を設定するとともに前記しきい値に基づいて前記入力された画像の前記渡り線の両側のエッジ点を中心とする所定範囲の輝度分布を比較して太陽光反射の有無を判定する太陽光反射判定処理手段と
からなることを特徴とする画像処理による渡り線測定装置。
An image provided with a line sensor camera that images a crossover line on the roof of the vehicle so that its scanning line direction is perpendicular and horizontal to the traveling direction of the vehicle, and image processing means installed inside the vehicle In the crossover measuring device by processing,
The image processing means
Line sensor image creating means for creating a line sensor image in which image signals input from the line sensor camera are arranged in time series;
Discriminant analysis binarization processing means for creating a binarized image by performing discriminant analysis binarization processing on the input image;
Noise removal processing means for performing noise removal processing on the input image to create a noise removal image; and
A crossover edge detection means for detecting edge points on both sides of the crossover for the input image;
Background segmentation processing means for segmenting the connecting line and the background with respect to the input image;
A crossover line height calculating means for calculating a height of the crossover line from positions of edge points on both sides of the crossover line;
A crossover part deviation calculating means for calculating a deviation of the crossover from the height of the crossover;
With
The background separation processing means is
Based on the positions of the edge points on both sides of the crossover line, the background luminance average for calculating the background luminance average value by summing up the luminance values of a certain range on the background side based on the edge points for the input image. Value calculation processing means;
A threshold value is set based on the average value of the background luminance, and a predetermined range of luminance distributions centering on edge points on both sides of the crossover line of the input image is compared based on the threshold value. connecting wire measuring device according to images processed it characterized by comprising the sunlight reflecting determination processing means determines the presence or absence of light reflection.
前記判別分析二値化処理手段が前記ラインセンサ画像に対して判別分析二値化処理を行って前記二値化画像を作成し、
前記ノイズ除去手段が前記二値化画像に対してノイズ除去処理を行って前記ノイズ除去画像を作成し、
前記渡り線部エッジ検出処理手段が前記ノイズ除去画像に対して前記渡り線の両側のエッジ点を検出し、
前記背景輝度平均値算出処理手段が前記ラインセンサ画像を用いて前記背景輝度平均値を算出し、
前記太陽光反射判定処理手段が前記ラインセンサ画像を用いて前記太陽光反射の有無を判定する
ことを特徴とする請求項記載の画像処理による渡り線測定装置。
The discriminant analysis binarization processing means performs discriminant analysis binarization processing on the line sensor image to create the binarized image,
The noise removing unit performs noise removal processing on the binarized image to create the noise removed image,
The crossover edge detection processing means detects edge points on both sides of the crossover for the noise-removed image,
The background luminance average value calculation processing means calculates the background luminance average value using the line sensor image,
The sunlight reflecting determination processing unit connecting wire measuring apparatus using image processing according to claim 1, wherein the determining the presence or absence of the sunlight reflecting with said line sensor image.
前記太陽光反射判定処理手段において太陽光反射有りと判定された場合は測定終了後に前後のデータに基づいて測定結果を補間する
ことを特徴とする請求項または請求項記載の画像処理による渡り線測定装置。
The image processing transition according to claim 1 or 2, wherein when the sunlight reflection determination processing means determines that there is sunlight reflection, the measurement result is interpolated based on previous and subsequent data after the measurement is completed. Line measuring device.
車両の屋根上にその走査線方向を車両の進行方向に対して垂直且つ水平に設置されて渡り線を撮影するラインセンサカメラと、前記車両の内部に設置された画像処理手段とを備えた画像処理による渡り線測定装置において、
前記画像処理手段が、
前記ラインセンサカメラから入力される画像信号を時系列的に並べてなるラインセンサ画像を作成するラインセンサ画像作成手段と、
入力された画像に対して判別分析二値化処理を行って二値化画像を作成する判別分析二値化処理手段と、
入力された画像に対してノイズ除去処理を行ってノイズ除去画像を作成するノイズ除去処理手段と、
入力された画像に対して前記渡り線の両側のエッジ点を検出する渡り線部エッジ検出手段と、
入力された画像に対して前記渡り線と背景との切り分けを行う背景切り分け処理手段と、
前記渡り線の両側のエッジ点の位置から前記渡り線の高さを算出する渡り線部高さ計算手段と、
前記渡り線の高さから前記渡り線の偏位を算出する渡り線部偏位計算手段と
を備え、
前記背景切り分け処理手段が、
入力された画像を任意の区間に分割し、各前記区間ごとに標準偏差背景除去処理を行って各前記区間ごとに該区間に対象物が写っているか否かを判断し、該区間に前記対象物が写っている場合であって隣接する区間に前記対象物が写っていない場合は前記隣接する区間から前記対象物までの領域を背景とみなし、また、該区間に対象物が写っていない場合であって隣接する区間に前記対象物が写っている場合は前記隣接する区間の対象物から該区間までの領域および該区間を背景とみなす標準偏差背景除去処理を行って背景除去画像を作成する標準偏差背景除去処理手段と
前記渡り線の両側のエッジ点の位置に基づき、前記入力された画像に対してそれぞれ前記エッジ点を基準とする背景側の一定範囲の輝度値を集計して背景輝度平均値を求める背景輝度平均値算出処理手段と、
前記背景輝度平均値に基づいてしきい値を設定するとともに前記しきい値に基づいて前記入力された画像の前記渡り線の両側のエッジ点を中心とする所定範囲の輝度分布を比較して太陽光反射の有無を判定する太陽光反射判定処理手段とを備え、
前記渡り線部高さ計算手段が、前記太陽光反射判定処理手段において太陽光反射無しと判定された場合に前記渡り線の両側のエッジ点の位置から前記渡り線の高さを算出する
ことを特徴とする画像処理による渡り線測定装置。
An image provided with a line sensor camera that images a crossover line on the roof of the vehicle so that its scanning line direction is perpendicular and horizontal to the traveling direction of the vehicle, and image processing means installed inside the vehicle In the crossover measuring device by processing,
The image processing means
Line sensor image creating means for creating a line sensor image in which image signals input from the line sensor camera are arranged in time series;
Discriminant analysis binarization processing means for creating a binarized image by performing discriminant analysis binarization processing on the input image;
Noise removal processing means for performing noise removal processing on the input image to create a noise removal image; and
A crossover edge detection means for detecting edge points on both sides of the crossover for the input image;
Background segmentation processing means for segmenting the connecting line and the background with respect to the input image;
A crossover line height calculating means for calculating a height of the crossover line from positions of edge points on both sides of the crossover line;
A crossover part deviation calculating means for calculating a deviation of the crossover from the height of the crossover;
With
The background separation processing means is
The input image is divided into arbitrary sections, standard deviation background removal processing is performed for each of the sections to determine whether or not an object is captured in the section for each section, and the target is included in the section When an object is shown and the object is not shown in an adjacent section, the area from the adjacent section to the object is regarded as the background, and the object is not shown in the section When the object is shown in an adjacent section, a background removal image is generated by performing standard deviation background removal processing that regards the area from the object in the adjacent section to the section and the section as a background. Standard deviation background removal processing means ;
Based on the positions of the edge points on both sides of the crossover line, the background luminance average for calculating the background luminance average value by summing up the luminance values of a certain range on the background side based on the edge points for the input image. Value calculation processing means;
A threshold value is set based on the average value of the background luminance, and a predetermined range of luminance distributions centering on edge points on both sides of the crossover line of the input image is compared based on the threshold value. A sunlight reflection determination processing means for determining the presence or absence of light reflection,
The crossover line height calculation means calculates the height of the crossover line from the positions of the edge points on both sides of the crossover line when the sunlight reflection determination processing means determines that there is no sunlight reflection. connecting wire measuring device according to images processed you characterized.
前記標準偏差背景除去処理手段が、前記標準偏差背景除去処理を行った前記区間において背景とみなされていない領域が存在する場合に、該区間を細分化して再度各前記細分化した区間ごとに標準偏差背景除去処理を行って各前記細分化した区間ごとに該区間に前記対象物が写っているか否かを判断し、該区間に前記対象物が写っている場合であって隣接する区間に前記対象物が写っていない場合は前記隣接する区間から前記対象物までの領域を背景とみなし、また、該区間に前記対象物が写っていない場合であって隣接する区間に前記対象物が写っている場合は前記隣接する区間の対象物から該区間までの領域および該区間を背景とみなす標準偏差背景除去処理を行って背景除去画像を作成する
ことを特徴とする請求項記載の画像処理による渡り線測定装置。
When there is an area that is not regarded as a background in the section in which the standard deviation background removal processing unit has performed the standard deviation background removal processing, the section is subdivided and standardized again for each of the subdivided sections. A deviation background removal process is performed to determine whether or not the object is shown in the section for each of the subdivided sections, and the object is shown in the section and the section is adjacent to the section. When the object is not shown, the area from the adjacent section to the object is regarded as the background, and the object is shown in the adjacent section when the object is not shown in the section. the image processing according to claim 4, wherein creating a background subtraction image by performing the standard deviation background removal processing regarded as background between regions and said section to between the compartment from the object of the adjacent section if it is That a crossover measuring device.
前記任意の区間の大きさが、前記対象物が存在する区間が連続しない大きさである
ことを特徴とする請求項記載の画像処理による渡り線測定装置。
5. The crossover measuring apparatus by image processing according to claim 4 , wherein the size of the arbitrary section is such that a section where the object exists is not continuous.
前記太陽光反射判定処理手段において太陽光反射有りと判定された場合は測定終了後に前後のデータに基づいて測定結果を補間する
ことを特徴とする請求項4ないし請求項6のいずれか1項に記載の画像処理によるトロリ線摩耗測定。
In any one of claims 4 to 6 when it is determined that there is sunlight reflecting characterized by interpolating the measurement results based on the data before and after the after end of measurement in the sunlight reflecting determination processing unit Trolley wire wear measurement by the described image processing.
前記標準偏差背景除去処理手段が前記ラインセンサ画像に対して標準偏差背景除去処理を行って前記ラインセンサ画像中の背景を除去した前記背景除去画像を作成し、
前記判別分析二値化処理手段が前記背景除去画像に対して判別分析二値化処理を行って前記二値化画像を作成し、
前記ノイズ除去手段が前記二値化画像に対してノイズ除去処理を行って前記ノイズ除去画像を作成し、
前記渡り線部エッジ検出処理手段が前記ノイズ除去画像に対して前記渡り線の両側のエッジ点を検出し、
前記背景輝度平均値算出処理手段が前記ラインセンサ画像を用いて前記背景輝度平均値を算出し、
前記太陽光反射判定処理手段が前記ラインセンサ画像を用いて前記太陽光反射の有無を判定する
ことを特徴とする請求項4ないし請求項7のいずれか1項に記載の画像処理による渡り線測定装置。
The standard deviation background removal processing unit performs a standard deviation background removal process on the line sensor image to create the background removed image in which the background in the line sensor image is removed,
The discriminant analysis binarization processing means performs discriminant analysis binarization processing on the background removed image to create the binarized image,
The noise removing unit performs noise removal processing on the binarized image to create the noise removed image,
The crossover edge detection processing means detects edge points on both sides of the crossover for the noise-removed image,
The background luminance average value calculation processing means calculates the background luminance average value using the line sensor image,
The crossover measurement by image processing according to any one of claims 4 to 7, wherein the sunlight reflection determination processing means determines the presence or absence of the sunlight reflection using the line sensor image. apparatus.
JP2011146711A 2011-06-30 2011-06-30 Crossover measuring device by image processing Active JP5776378B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011146711A JP5776378B2 (en) 2011-06-30 2011-06-30 Crossover measuring device by image processing

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011146711A JP5776378B2 (en) 2011-06-30 2011-06-30 Crossover measuring device by image processing

Publications (2)

Publication Number Publication Date
JP2013015337A JP2013015337A (en) 2013-01-24
JP5776378B2 true JP5776378B2 (en) 2015-09-09

Family

ID=47688154

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011146711A Active JP5776378B2 (en) 2011-06-30 2011-06-30 Crossover measuring device by image processing

Country Status (1)

Country Link
JP (1) JP5776378B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6055697B2 (en) * 2013-03-04 2016-12-27 公益財団法人鉄道総合技術研究所 Overhead train line position measuring method and apparatus
JP6236687B2 (en) * 2013-11-11 2017-11-29 株式会社明電舎 Overhead inspection system using time series filter processing
JP6236688B2 (en) * 2013-11-11 2017-11-29 株式会社明電舎 Overhead inspection system using time series filter processing

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3286168B2 (en) * 1995-06-28 2002-05-27 小糸工業株式会社 Object detection apparatus and method
JP3114668B2 (en) * 1997-10-03 2000-12-04 日本電気株式会社 Object detection / background removal method, apparatus, and recording medium recording program
JP3986363B2 (en) * 2002-05-20 2007-10-03 アイシン精機株式会社 Lane boundary detection device
JP4490794B2 (en) * 2004-11-18 2010-06-30 日本電信電話株式会社 Moving body contour extraction method and apparatus, and moving body contour extraction program
JP4973108B2 (en) * 2006-10-05 2012-07-11 株式会社明電舎 Trolley wire wear measuring device
JP4923942B2 (en) * 2006-10-20 2012-04-25 株式会社明電舎 Pantograph measuring device by image processing
JP4858316B2 (en) * 2007-06-04 2012-01-18 株式会社明電舎 Trolley wire wear measuring device by image processing
JP5245445B2 (en) * 2008-02-15 2013-07-24 株式会社明電舎 Crossover measuring device

Also Published As

Publication number Publication date
JP2013015337A (en) 2013-01-24

Similar Documents

Publication Publication Date Title
CN102175700B (en) Method for detecting welding seam segmentation and defects of digital X-ray images
RU2416068C2 (en) Measuring device of wear of contact wire line
JP5175528B2 (en) Tunnel lining crack inspection system
CN109166125B (en) Three-dimensional depth image segmentation algorithm based on multi-edge fusion mechanism
JP5811637B2 (en) Trolley wire wear measuring device by image processing
JP5245445B2 (en) Crossover measuring device
US20130136307A1 (en) Method for counting objects and apparatus using a plurality of sensors
JP6424362B2 (en) Filament measurement apparatus and method thereof
JP2014517265A (en) Analysis of digital images of the outer surface of tires and processing of false measurement points
CN105133471A (en) Linear structured light pavement surface detection system-based pavement depth image production method
JP5776378B2 (en) Crossover measuring device by image processing
CN109191516B (en) Rotation correction method and device of structured light module and readable storage medium
JP4816567B2 (en) Trolley wire wear measuring device by image processing
JP7226494B2 (en) Contact wire wear detection method
JP6364565B1 (en) Analysis device, crack detection processing device, and analysis program
JP2012052939A (en) Trolley wire surveying apparatus
US20140285662A1 (en) Image processing apparatus, and method
JP2019003574A (en) Change detection device and maintenance management method of railway facility component
JP4403036B2 (en) Soot detection method and apparatus
JP5452035B2 (en) Defect inspection method and defect inspection apparatus
JP4858316B2 (en) Trolley wire wear measuring device by image processing
JP6852472B2 (en) Sliding surface width detection device and method for trolley wire
JP2010015235A (en) Pedestrian detector and program
CN109978879A (en) Case angle based on loading goods train video monitor enters slot condition detection method
CN116309589B (en) Sheet metal part surface defect detection method and device, electronic equipment and storage medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140605

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150218

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150224

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150327

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150609

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150622

R150 Certificate of patent or registration of utility model

Ref document number: 5776378

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D03