JP2017053627A - Angle detecting apparatus - Google Patents

Angle detecting apparatus Download PDF

Info

Publication number
JP2017053627A
JP2017053627A JP2015175379A JP2015175379A JP2017053627A JP 2017053627 A JP2017053627 A JP 2017053627A JP 2015175379 A JP2015175379 A JP 2015175379A JP 2015175379 A JP2015175379 A JP 2015175379A JP 2017053627 A JP2017053627 A JP 2017053627A
Authority
JP
Japan
Prior art keywords
angle
edge
boom
connecting shaft
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015175379A
Other languages
Japanese (ja)
Other versions
JP6491576B2 (en
Inventor
将也 表
Masaya Omote
将也 表
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KYB Corp
Original Assignee
KYB Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KYB Corp filed Critical KYB Corp
Priority to JP2015175379A priority Critical patent/JP6491576B2/en
Publication of JP2017053627A publication Critical patent/JP2017053627A/en
Application granted granted Critical
Publication of JP6491576B2 publication Critical patent/JP6491576B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Component Parts Of Construction Machinery (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a construction machinery angle detecting apparatus that can be easily fitted after other items, is free from worry about trouble, and can detect the angles of a revolving body relative to a running body accurately and in a timely way.SOLUTION: An detecting apparatus 1 is equipped with a camera 4 installed on a revolving body 3 that can revolve relative to a running body 2 and photograph a working apparatus W, which is another link than the revolving body 3; an angle detector 5 that detects a relative angle between each pair of adjoining links on the basis of images photographed by the camera 4; and an attitude identifier 6 that identifies the attitude of the working apparatus W relative to the revolving body 3 on the basis of the angles detected by the angle detector 5. The apparatus extracts edges of a boom 7, an arm 8 and an attachment 9, which are links of the working apparatus W, and figures out the relative angle of each.SELECTED DRAWING: Figure 1

Description

本発明は、角度検出装置に関する。   The present invention relates to an angle detection device.

土木建設工事等に使用される建設機械は、クローラを備えて走行可能な走行体と、走行体に旋回可能に取り付けた旋回体と、旋回体に上下方向に揺動可能に連結されたブームと、ブームに上下方向に揺動可能に連結されるアームと、アームの先端に上下方向に揺動可能に連結されたアタッチメントを備えているものが知られている。   A construction machine used for civil engineering construction work includes a traveling body that can travel with a crawler, a revolving body that is turnably attached to the traveling body, and a boom that is swingably connected to the revolving body in a vertical direction. An arm that is connected to a boom so as to be swingable in the vertical direction and an attachment that is connected to the tip of the arm so as to be swingable in the vertical direction are known.

このような建設機械にあっては、走行体上に取り付けられた旋回体、ブーム、アームおよびアタッチメントの姿勢を変えながら土木建設工事を行うため、無理な操作を行った場合に走行車両の重心が偏ってバランスを崩して転倒する恐れがある。   In such a construction machine, since the civil engineering construction work is performed while changing the posture of the swinging body, boom, arm and attachment attached on the traveling body, the center of gravity of the traveling vehicle is reduced when an unreasonable operation is performed. There is a risk of falling out of balance and falling.

近年、転倒防止のため、ゼロモーメントポイント(以下、単に「ZMP」という)を活用する安全装置が開発されている。ZMPは、物体に作用する慣性力、重力および外力によるモーメントがゼロになる地面上の点のことであり、ZMPが平面視で見た走行体の中心付近に位置する場合、走行車両を転倒させるようなモーメントが生じない。そのため、ZMPが平面視で見た走行体の中心付近に位置する場合、走行車両が転倒しにくくなり、ZMPが平面視で見た走行体の端に寄れば寄るほど走行車両が転倒しやすくなる。したがって、ZMPがどこに位置しているのかを求めれば、走行車両の転倒し易さを評価できるのである。   In recent years, safety devices that utilize zero moment points (hereinafter simply referred to as “ZMP”) have been developed to prevent falling. ZMP is a point on the ground where the moment due to inertial force, gravity and external force acting on the object becomes zero, and when the ZMP is located near the center of the traveling body in plan view, the traveling vehicle is overturned. Such a moment does not occur. Therefore, when the ZMP is located in the vicinity of the center of the traveling body viewed in plan, the traveling vehicle is less likely to fall, and the closer the ZMP is to the end of the traveling body viewed in plan, the easier the traveling vehicle falls. . Therefore, if it is determined where the ZMP is located, it is possible to evaluate the ease with which the traveling vehicle falls.

ZMPを求めるには、旋回体、ブーム、アームおよびアタッチメントのワールド座標が必要である。これを求めるには、走行体に対する旋回体の姿勢、旋回体に対するブームの姿勢、ブームに対するアームの姿勢、およびアームに対するアタッチメントの姿勢をそれぞれ特定しなければならない。   To obtain the ZMP, the world coordinates of the swivel body, boom, arm, and attachment are required. In order to obtain this, the posture of the swinging body relative to the traveling body, the posture of the boom relative to the swinging body, the posture of the arm relative to the boom, and the posture of the attachment relative to the arm must be specified.

従来、旋回体、ブーム、アームおよびアタッチメントの姿勢を特定する装置としては、旋回体の走行体に対する角度、旋回体に対するブームの角度、ブームに対するアームの角度、アームに対するアタッチメント角度を角度センサを利用して検出するものがある(たとえば、特許文献1参照)。   Conventionally, as an apparatus for specifying the posture of a swinging body, a boom, an arm and an attachment, an angle sensor is used to determine the angle of the swinging body with respect to the traveling body, the angle of the boom with respect to the swinging body, the angle of the arm with respect to the boom, and the attachment angle with respect to the arm. (For example, refer to Patent Document 1).

また、旋回体、ブーム、アームおよびアタッチメントの姿勢を特定する他の装置としては、カメラでブーム、アームに設けたマーカーを撮影してマーカーの座標を求め、求めたマーカーの座標と予め保有するマーカー位置データとを照合してこれらの姿勢を特定する装置も開発されている(たとえば、特許文献2参照)。   Further, as another device for specifying the posture of the swinging body, boom, arm, and attachment, a marker provided on the boom and arm is photographed with a camera to obtain the coordinates of the marker, and the coordinates of the obtained marker and the marker held in advance An apparatus for identifying these postures by collating with position data has also been developed (see, for example, Patent Document 2).

特開2014−001596号公報JP 2014-001596 A 特開2008−063774号公報JP 2008-063774 A

しかしながら、特許文献1に開示された装置では、旋回体等の角度の検出のために角度センサを利用しており、厳しい使用環境にも耐えうるよう角度センサの保護、配線の取り回しといった配慮が必要となる。   However, in the apparatus disclosed in Patent Document 1, an angle sensor is used to detect the angle of a swiveling body or the like, and it is necessary to consider the protection of the angle sensor and the handling of wiring so that it can withstand harsh usage environments. It becomes.

また、特許文献2に開示された装置では、角度センサが不要であり安全な場所(キャブ)へのカメラの設置により前記問題を解消できるが、ブーム等の姿勢の特定に際してマーカー位置データとブーム等の座標を照合する必要がある。そのため、特許文献2の装置では、膨大なマーカー位置データを保有する必要があり、大容量のメモリを必要としコスト高となる。   In addition, the apparatus disclosed in Patent Document 2 does not require an angle sensor and can solve the above problem by installing the camera in a safe place (cab). It is necessary to collate the coordinates. For this reason, the apparatus of Patent Document 2 needs to have a large amount of marker position data, which requires a large-capacity memory and increases the cost.

そこで、本願発明は、上記問題を解決するために創案されたものであって、その目的とするところは、センサが不要でセンサ保護の問題もなくコストも低減可能な角度検出装置の提供である。   Accordingly, the present invention has been devised to solve the above-mentioned problems, and its object is to provide an angle detection device that does not require a sensor, has no problem of sensor protection, and can reduce the cost. .

上記目的を達成するために、本発明の建設機械の角度検出装置は、可動部材のうち末端のリンクに取付けられるカメラで他のリンクを撮影し、その撮影した画像から他のリンクの相対角度を求める。このように角度検出装置は、センサ類を用いないので、センサ類の故障の心配もなく、カメラの設置個所は自由度が高く安全な場所に設置できるので厳しい使用環境にも耐えられ、また、膨大なマップ位置データの保有が不要となり、大容量のメモリを必要としないので、コストも低減できる。   In order to achieve the above object, an angle detection device for a construction machine according to the present invention photographs other links with a camera attached to the end link of the movable member, and determines the relative angles of the other links from the captured images. Ask. In this way, the angle detection device does not use sensors, so there is no worry about sensor failure, and the camera can be installed in a safe place with a high degree of freedom, so it can withstand harsh usage environments, It is not necessary to store a huge amount of map position data, and a large capacity memory is not required, so the cost can be reduced.

また、請求項2の角度検出装置は、求めた相対角度から他のリンクの姿勢を特定する姿勢特定部を備えているので、角度検出装置が適用される建設機械等のZMPの演算に必要な角度情報が得られる。   In addition, since the angle detection device according to the second aspect includes a posture specifying unit that specifies the posture of another link from the obtained relative angle, it is necessary for ZMP calculation of a construction machine or the like to which the angle detection device is applied. Angle information is obtained.

さらに、請求項3の角度検出装置は、可動部材が三つ以上のリンクを有し、角度検出部が末端のリンクから一番近いリンクの相対角度を求め、末端のリンクから二番目以降の近いリンクについては、姿勢特定部により特定された一つ手前のリンクの姿勢に基づいて相対角度を求める。よって、この角度検出装置にあっては、可動部材が多数のリンクを有する場合にあっても、全リンクの相対角度を簡単に検出できる。   Furthermore, in the angle detection device according to claim 3, the movable member has three or more links, and the angle detection unit obtains the relative angle of the link closest to the end link, and the second and subsequent close from the end link. For the link, the relative angle is obtained based on the posture of the immediately preceding link specified by the posture specifying unit. Therefore, in this angle detection device, even when the movable member has a large number of links, the relative angles of all the links can be easily detected.

また、請求項4の角度検出装置にあっては、角度検出部がカメラで撮影した前記画像を処理して、他のリンクのエッジを検出し、相対角度を求める。さらに、請求項5の角度検出装置にあっては、角度検出部がカメラで撮影した前記画像を処理して、カメラが撮影した画像から他のリンクの予め決められた箇所を抽出し、箇所と他のリンクにおける回転中心とを結ぶ直線を求め、この直線に基づいて相対角度を求める。よって、このように構成された角度検出装置は、カメラで撮影した連続画像からではなく、一つの画像から相対角度を検出できるので、時間をかけずにタイムリーに角度検出できる。   In the angle detection device according to the fourth aspect, the angle detection unit processes the image captured by the camera, detects an edge of another link, and obtains a relative angle. Furthermore, in the angle detection device according to claim 5, the angle detection unit processes the image captured by the camera, extracts a predetermined portion of another link from the image captured by the camera, and A straight line connecting the rotation center in another link is obtained, and a relative angle is obtained based on this straight line. Therefore, the angle detection device configured in this way can detect the relative angle from one image, not from the continuous images taken by the camera, and can detect the angle in a timely manner without taking time.

さらに、請求項6の角度検出装置にあっては、可動部材の末端のリンクを建設機械の旋回体とし、他のリンクを建設機械の旋回体に回転自在に連結される作業装置とし、カメラが旋回体のキャビン内に設置されるようになっている。このように相対角度検出に必要な画像を撮影するカメラがキャビン内に収容されるので、カメラが建設機械の外部環境から保護される。よって、請求項6の角度検出装置にあっては、カメラが風雨に晒されず、土木工事作業中の石や土砂の飛来からも保護されるので、安定した相対角度検出が可能となる。   Further, in the angle detection device according to claim 6, the link at the end of the movable member is used as a revolving body of the construction machine, and the other link is a working device rotatably connected to the revolving body of the construction machine, It is designed to be installed in the revolving body cabin. As described above, since the camera that captures an image necessary for detecting the relative angle is accommodated in the cabin, the camera is protected from the external environment of the construction machine. Therefore, in the angle detection device according to the sixth aspect, the camera is not exposed to wind and rain, and is protected from the flying of stones and earth and sand during civil engineering work, so that stable relative angle detection is possible.

本発明の角度検出装置は、センサが不要でセンサ保護の問題もなくコストも低減可能である。   The angle detection device of the present invention does not require a sensor, and there is no problem of sensor protection, and the cost can be reduced.

第一の実施の形態における角度検出装置のシステム構成の一例を示した図である。It is the figure which showed an example of the system configuration | structure of the angle detection apparatus in 1st embodiment. 第一の実施の形態における角度検出装置を建設機械に適用した図である。It is the figure which applied the angle detection apparatus in 1st embodiment to the construction machine. 第一の実施の形態における角度検出装置のカメラが撮影した画像を示す図である。It is a figure which shows the image which the camera of the angle detection apparatus in 1st embodiment image | photographed. カメラが撮影した画像のエッジ画像処理後の画像を示す図である。It is a figure which shows the image after the edge image process of the image image | photographed with the camera. 図4の画像を射影変換処理した画像を示す図である。It is a figure which shows the image which carried out the projective transformation process of the image of FIG. リンクの連結軸とエッジとの関係を示す図である。It is a figure which shows the relationship between the connection axis | shaft of a link, and an edge. エッジを抽出する処理を説明する図である。It is a figure explaining the process which extracts an edge. エッジを抽出する処理を説明する図である。It is a figure explaining the process which extracts an edge. カメラが撮影した画像のエッジから角度を求める処理を説明する図である。It is a figure explaining the process which calculates | requires an angle from the edge of the image image | photographed with the camera. カメラが撮影した画像のエッジから角度を求める処理を説明する図である。It is a figure explaining the process which calculates | requires an angle from the edge of the image image | photographed with the camera. 第一の実施の形態における角度検出装置のハードウェア資源の構成例を示した図である。It is the figure which showed the structural example of the hardware resource of the angle detection apparatus in 1st embodiment. 第一の実施の形態における角度検出装置における角度検出の処理手順を示したフローチャートである。It is the flowchart which showed the process sequence of the angle detection in the angle detection apparatus in 1st embodiment. 第二の実施の形態における角度検出装置のシステム構成の一例を示した図である。It is the figure which showed an example of the system configuration | structure of the angle detection apparatus in 2nd embodiment. カメラが撮影した画像を射影変換処理した画像を示す図である。It is a figure which shows the image which carried out the projective transformation process of the image image | photographed with the camera. 第二の実施の形態における角度検出装置における角度検出の処理手順を示したフローチャートである。It is the flowchart which showed the process sequence of the angle detection in the angle detection apparatus in 2nd embodiment.

<第一の実施の形態>
以下、図に示した実施の形態に基づき、本発明を説明する。図1に示すように、本実施の形態の角度検出装置1は、建設機械Cにおける作業装置Wの各部の角度検出を行うべく建設機械Cに適用されている。なお、角度検出装置1は、建設機械C以外の装置、機械におけるリンクの相対角度検出に利用可能である。
<First embodiment>
The present invention will be described below based on the embodiments shown in the drawings. As shown in FIG. 1, the angle detection device 1 according to the present embodiment is applied to the construction machine C so as to detect the angle of each part of the work device W in the construction machine C. The angle detection device 1 can be used to detect the relative angle of a link in a device or machine other than the construction machine C.

具体的には、角度検出装置1は、可動部材Mの末端のリンクである旋回体3に取り付けられて旋回体3以外の他のリンクである作業装置Wを撮影可能なカメラ4と、カメラ4が撮影した画像に基づいて隣り合うリンク同士の相対角度を検出する角度検出部5と、角度検出部5が検出した前記角度に基づいて、前記旋回体3に対する作業装置Wの姿勢を特定する姿勢特定部6とを備えて構成されている。   Specifically, the angle detection device 1 is attached to the swivel body 3 that is the link at the end of the movable member M, and can capture the work device W that is a link other than the swivel body 3. An angle detection unit 5 that detects a relative angle between adjacent links based on an image taken by the camera, and an attitude that specifies the posture of the working device W with respect to the revolving structure 3 based on the angle detected by the angle detection unit 5 The specific part 6 is provided.

建設機械Cは、クローラ2aを備えて走行可能な走行体2と、走行体2の上方に旋回可能に連結される可動部材Mとを備えている。可動部材Mは、走行体2に旋回可能に連結される旋回体3と、旋回体3に上下方向に揺動可能に連結される作業装置Wとを備えている。作業装置Wは、本例では、旋回体3に上下方向揺動可能に連結されるブーム7と、ブーム7に上下方向に揺動可能に連結されるアーム8と、アーム8に上下方向に揺動可能に連結されるアタッチメント9とを備えている。   The construction machine C includes a traveling body 2 including a crawler 2a and capable of traveling, and a movable member M connected to the traveling body 2 so as to be able to turn. The movable member M includes a revolving body 3 that is pivotably coupled to the traveling body 2 and a work device W that is coupled to the revolving body 3 so as to be swingable in the vertical direction. In this example, the work device W includes a boom 7 connected to the swing body 3 so as to be swingable in the vertical direction, an arm 8 connected to the boom 7 so as to be swingable in the vertical direction, and a swinging motion to the arm 8 in the vertical direction. And an attachment 9 which is movably connected.

そして、建設機械Cは、図示したところでは、アタッチメント9をバケットとしているが、バケットのほか、作業の用途に応じてブレーカー、カッター、グラップル等に変更できる。可動部材Mは、旋回体3、ブーム7、アーム8およびアタッチメント9のそれぞれをリンクとして、これらを相対回転可能に直列に連結した多関節のリンク機構として構成されている。そして、可動部材Mは、旋回体3を末端のリンクとし、それ以外の作業装置Wであるブーム7、アーム8およびアタッチメント9を他のリンクとしている。   In the illustrated construction machine C, the attachment 9 is a bucket. However, in addition to the bucket, the construction machine C can be changed to a breaker, a cutter, a grapple or the like according to the use of work. The movable member M is configured as an articulated link mechanism in which each of the revolving body 3, the boom 7, the arm 8, and the attachment 9 is used as a link, and these are connected in series so as to be relatively rotatable. And the movable member M uses the revolving body 3 as a terminal link, and uses the boom 7, the arm 8, and the attachment 9 which are the other working devices W as other links.

なお、可動部材Mを構成するリンクの数は、2以上であればよく、可動部材Mを旋回体とし、作業装置Wをクレーンとして、建設機械Cを可動部材Mが二つのリンクで構成されるクレーン車としてもよい。また、本例では、角度検出装置1を建設機械Cにおける可動部材Mの相対角度検出に利用しているが、可動部材Mは建設機械Cの上部構造に限られず、直列に相対回転可能に連結される複数のリンクで構成されていればよい。   The number of links constituting the movable member M may be two or more. The movable member M is a swivel body, the working device W is a crane, and the construction machine C is composed of two links. It may be a crane truck. Further, in this example, the angle detection device 1 is used for detecting the relative angle of the movable member M in the construction machine C. However, the movable member M is not limited to the upper structure of the construction machine C, and is connected so as to be relatively rotatable in series. What is necessary is just to be comprised by the some link made.

カメラ4は、CCD(電荷結合素子、図示せず)とレンズ(図示せず)、焦点調節部(図示せず)を備えたCCDカメラとして構成され、本例では、旋回体3のキャビン3a内に作業装置Wの全体を撮影できるように設置されている。具体的には、カメラ4は、作業装置Wを真後ろからではなく、図2に示すように、作業装置Wの側面も撮影できるように旋回体3に取り付けられている。なお、カメラ4は、可動部材Mの末端のリンクである旋回体3も部分的あるいは全体を撮影できるように設置されてもよく、旋回体3のキャビン3a外に取り付けてもよい。   The camera 4 is configured as a CCD camera including a CCD (charge coupled device, not shown), a lens (not shown), and a focus adjustment unit (not shown). In this example, the camera 4 is located in the cabin 3a of the swivel body 3. It is installed so that the whole working device W can be photographed. Specifically, the camera 4 is attached to the revolving unit 3 so that the side of the working device W can be photographed as shown in FIG. In addition, the camera 4 may be installed so that the revolving body 3 that is a link at the end of the movable member M can also be photographed partially or entirely, or may be attached outside the cabin 3a of the revolving body 3.

また、カメラ4は、あらかじめ設定される撮影範囲をあらかじめ決められたフレームレートで常時撮影し続け、この撮影した画像を電気信号に変換して角度検出部5へ出力するようになっている。なお、カメラ4はCCDカメラとして構成される以外にもCMOS(Complementary Metal OxideSemiconductor)を利用したカメラを使用できる。   In addition, the camera 4 continuously captures a preset capturing range at a predetermined frame rate, converts the captured image into an electrical signal, and outputs the electrical signal to the angle detection unit 5. The camera 4 may be a camera using a CMOS (Complementary Metal Oxide Semiconductor) in addition to being configured as a CCD camera.

角度検出部5は、カメラ4が撮影した画像をグレースケールの画像に変換後に二値化処理し、エッジ画像を取得するエッジ画像取得部51と、エッジ画像取得部51の処理によって得られたエッジ画像の座標系を作業装置Wを真横から見た画像の座標系へ変換する射影変換部52と、射影変換部52により変換された変換画像をハフ変換してから作業装置Wの各リンクであるブーム7、アーム8およびアタッチメント9のエッジを抽出するエッジ抽出部53と、エッジ抽出部53で抽出したエッジから旋回体3に対するブーム7の相対角度θ1(図7参照)、ブーム7に対するアーム8の相対角度θ2およびアーム8に対するアタッチメント9の相対角度θ3を求める角度演算部54と備えて構成されている。   The angle detection unit 5 performs binarization processing after converting the image captured by the camera 4 into a grayscale image, and obtains an edge image, and the edge obtained by the processing of the edge image acquisition unit 51 Projection conversion unit 52 that converts the coordinate system of the image into the coordinate system of the image of work device W as viewed from the side, and each link of work device W after the Hough transform of the converted image converted by projection conversion unit 52. The edge extraction unit 53 that extracts the edges of the boom 7, the arm 8, and the attachment 9, the relative angle θ 1 (see FIG. 7) of the boom 7 with respect to the swing body 3 from the edge extracted by the edge extraction unit 53, An angle calculation unit 54 is provided to obtain the relative angle θ2 and the relative angle θ3 of the attachment 9 with respect to the arm 8.

まず、角度検出部5は、カメラ4によって撮影され、カメラ4のレンズ歪等による歪をキャリブレーション処理によって較正された画像を取得して、エッジ画像取得部51によって処理する。エッジ画像取得部51は、カメラ4が撮影した画像をたとえば256階調の輝度値で表現されるグレースケールの画像に変換し、さらに、画像を二値化処理して二値化画像を得て、エッジ画像処理をしてエッジ画像を得る。カメラ4が撮影した図3に示した作業装置Wの画像をエッジ画像取得部51によって処理すると、図4に示すエッジのみで表現される画像が得られる。   First, the angle detection unit 5 acquires an image photographed by the camera 4 and calibrated by a calibration process for distortion caused by lens distortion or the like of the camera 4 and processed by the edge image acquisition unit 51. The edge image acquisition unit 51 converts an image captured by the camera 4 into a gray scale image expressed by, for example, 256 gradation luminance values, and further binarizes the image to obtain a binary image. Edge image processing is performed to obtain an edge image. When the image of the working device W shown in FIG. 3 taken by the camera 4 is processed by the edge image acquisition unit 51, an image represented only by the edges shown in FIG. 4 is obtained.

射影変換部52は、エッジ画像取得部51の処理によって得たエッジ画像の座標系を、作業装置Wを真横から見た側面画像の座標系へ変換する。この射影変換部52によって図4に示すエッジ画像を処理すると、作業装置Wのブーム7、アーム8およびアタッチメント9の作動面、つまり、ブーム7、アーム8およびアタッチメント9が動作する平面を貫く方向となる真横から見た図5に示した画像が得られる。なお、エッジ画像を座標変換してもエッジが白線で示される画像が得られるが、図中への符号や引き出し線を記載する関係で、説明の便宜上、図5中では実際とは画像を白黒反転として記載しており、以下、図6、図7、図8、図9および図14においても同様とする。   The projection conversion unit 52 converts the coordinate system of the edge image obtained by the processing of the edge image acquisition unit 51 into the coordinate system of the side image when the working device W is viewed from the side. When the projection converter 52 processes the edge image shown in FIG. 4, the working surface of the boom 7, the arm 8, and the attachment 9 of the work device W, that is, the direction passing through the plane on which the boom 7, the arm 8, and the attachment 9 operate. The image shown in FIG. 5 viewed from the side is obtained. Note that even if the edge image is coordinate-converted, an image whose edge is indicated by a white line can be obtained. However, for convenience of explanation, in FIG. This is described as inversion, and the same applies to FIGS. 6, 7, 8, 9, and 14.

なお、射影変換部52の射影変換処理では、実際に画像を得る必要はなく、変換後のエッジの座標情報を取得できればよい。なお、具体的には、射影変換部52は、カメラ4の撮影した画像座標を射影変換行列を用いて処理するが、この座標変換行列は、予めカメラ4で作業装置Wを撮影して射影変換行列を予め求めておけばよい。   In the projective conversion process of the projective conversion unit 52, it is not necessary to actually obtain an image, and it is only necessary to obtain coordinate information of the edge after conversion. Specifically, the projective transformation unit 52 processes the image coordinates captured by the camera 4 using a projective transformation matrix. This coordinate transformation matrix is obtained by projecting the working device W with the camera 4 in advance. A matrix may be obtained in advance.

エッジ抽出部53は、座標変換後のエッジ画像をハフ変換によりブーム7、アーム8およびアタッチメント9のエッジを抽出する。エッジ抽出部53は、まず、ブーム7についてのみエッジを抽出する。つづいて、こうして得られたブーム7のエッジから角度演算部54での処理で旋回体3に対するブーム7の相対角度θ1が得られ、さらに、姿勢特定部6がブーム7の姿勢を特定する。このブーム7の姿勢が特定された後、エッジ抽出部53は、ブーム7の姿勢に基づいてアーム8のエッジを抽出する。そして、アーム8について前述のように姿勢が特定された後、エッジ抽出部53は、アタッチメント9のエッジを抽出するようになっている。つまり、本例では、角度検出部5は、可動部材Mの末端のリンクである旋回体3に近いリンクから順に相対角度を求め、姿勢特定部6の処理によって姿勢が特定されると、次のリンクの相対角度を求めるようになっている。   The edge extraction unit 53 extracts the edges of the boom 7, the arm 8, and the attachment 9 by Hough conversion of the edge image after the coordinate conversion. The edge extraction unit 53 first extracts an edge only for the boom 7. Subsequently, the relative angle θ1 of the boom 7 with respect to the swing body 3 is obtained from the edge of the boom 7 thus obtained by the processing in the angle calculation unit 54, and the posture specifying unit 6 specifies the posture of the boom 7. After the posture of the boom 7 is specified, the edge extraction unit 53 extracts the edge of the arm 8 based on the posture of the boom 7. Then, after the posture of the arm 8 is specified as described above, the edge extraction unit 53 extracts the edge of the attachment 9. That is, in this example, the angle detection unit 5 obtains the relative angle in order from the link close to the revolving structure 3 that is the end link of the movable member M, and when the posture is specified by the processing of the posture specifying unit 6, The relative angle of the link is calculated.

よって、まず、エッジ抽出部53は、ブーム7のエッジを抽出する。ブーム7は、旋回体3に対して上下方向へ揺動可能に連結されており、ブーム7は旋回体3に連結軸7aを中心として揺動可能とされている。そして、ブーム7の連結軸7a側端の下端のエッジE1は、図6中太線に示すように、ブーム7の旋回体3に対する連結軸7aを中心とした回転によって常に連結軸7aから一定の半径R1だけ離れて位置するはずである。つまり、エッジE1を延長した仮想線に連結軸7aの中心から垂らした垂線の長さは、必ず、R1となる。また、カメラ4の撮影範囲は固定されているので、連結軸7aの位置は、撮影範囲外であって撮影されずとも定位置であり、射影変換後の座標系にあってもその座標は不動である。カメラ4で撮影した画像から連結軸7aが撮影されていなくとも、ブーム7と旋回体3の位置関係からブーム7の回転中心である連結軸7aの位置を予め知ることができ、連結軸7aの射影変換後の座標は既知である。図7に示すように、ブーム7の作動面上にx軸とy軸を採ると、連結軸7aから地面へ垂らした垂線の地面との交点を原点Oとすると、連結軸7aの高さは設計値であり既知であるので、高さをL0とすると、連結軸7aの中心座標は(L0,0)となる。そして、射影変換後のエッジ画像をハフ変換によってブーム7の直線のエッジが複数得られても、これらのエッジ或いはこれらエッジを延長して得られた直線と連結軸7aの中心座標からの距離が半径R1に等しいエッジを選択すれば、ブーム7のエッジを抽出できる。   Therefore, first, the edge extraction unit 53 extracts the edge of the boom 7. The boom 7 is connected to the swing body 3 so as to be swingable in the vertical direction, and the boom 7 is swingable to the swing body 3 about the connecting shaft 7a. Then, the lower edge E1 of the end of the boom 7 on the side of the connecting shaft 7a is always at a constant radius from the connecting shaft 7a by rotation about the connecting shaft 7a with respect to the swing body 3 of the boom 7, as shown by a thick line in FIG. It should be located away by R1. That is, the length of the perpendicular line hanging from the center of the connecting shaft 7a to the virtual line obtained by extending the edge E1 is always R1. Further, since the shooting range of the camera 4 is fixed, the position of the connecting shaft 7a is outside the shooting range and is a fixed position even if it is not shot. Even if it is in the coordinate system after the projective transformation, the coordinates are fixed. It is. Even if the connecting shaft 7a is not photographed from the image photographed by the camera 4, the position of the connecting shaft 7a that is the rotation center of the boom 7 can be known in advance from the positional relationship between the boom 7 and the revolving structure 3, and the connecting shaft 7a The coordinates after projective transformation are known. As shown in FIG. 7, when the x-axis and the y-axis are taken on the working surface of the boom 7, the height of the connecting shaft 7a is given by assuming that the intersection of the perpendicular line hanging from the connecting shaft 7a to the ground is the origin O. Since it is a design value and known, if the height is L0, the center coordinate of the connecting shaft 7a is (L0, 0). Even if a plurality of straight edges of the boom 7 are obtained by the Hough transform of the edge image after the projective transformation, the distance between the edges or the straight line obtained by extending these edges and the central coordinate of the connecting shaft 7a is the same. If an edge equal to the radius R1 is selected, the edge of the boom 7 can be extracted.

前述したように、半径R1は、設計値であり、この設計値を利用してエッジを抽出できるが、以下の手順によって、連結軸7aの中心座標とエッジまでの半径R1を設定してもよい。まず、ブーム7と旋回体3の相対角度を変えて、ブーム7をカメラ4で撮影した画像を少なくとも三つ得て、これら三つの画像から座標変換後のブーム7のエッジを得る。これら三つのエッジの内接円を求め、この内接円の半径をエッジ抽出のための半径R1とし、内接円の中心座標を連結軸7aの中心座標として設定してもよい。このように、カメラ4で撮影した画像を処理して連結軸7aの中心座標とエッジ抽出のための半径R1を設定すると、より、精緻にブーム7のエッジを抽出可能である。   As described above, the radius R1 is a design value, and an edge can be extracted using this design value. However, the center coordinate of the connecting shaft 7a and the radius R1 to the edge may be set by the following procedure. . First, the relative angle between the boom 7 and the revolving unit 3 is changed to obtain at least three images of the boom 7 taken by the camera 4, and the edge of the boom 7 after coordinate conversion is obtained from these three images. The inscribed circles of these three edges may be obtained, the radius of this inscribed circle may be set as the radius R1 for edge extraction, and the center coordinates of the inscribed circle may be set as the center coordinates of the connecting axis 7a. As described above, when the image captured by the camera 4 is processed and the center coordinates of the connecting shaft 7a and the radius R1 for edge extraction are set, the edge of the boom 7 can be extracted more precisely.

また、本例では、建設機械Cが走行中或いは旋回体3や作業装置Wが駆動中であると、建設機械Cが振動してカメラ4に振動が伝達される。すると、無振動でカメラ4がブーム7を撮影した画像に対して振動中のカメラ4がブーム7を撮影した場合の画像中のブーム7の位置がオフセットされる場合がある。そこで、半径R1に対して閾値Δr1を設定して、図8に示すように、連結軸7aの中心座標からエッジ或いはエッジの延長線までの距離が半径R1を中心として閾値Δr1で設定される範囲R1±Δr1内にあるエッジを選択する。そして、抽出したエッジのうち、一番長いエッジをブーム7のエッジE1として抽出する。このように、本例では、連結軸7aの中心座標からエッジまで距離が半径R1を中心として閾値Δr1で設定される範囲R1±Δr1内にあるエッジをブーム7のエッジとして抽出する。そのため、閾値Δr1で振動によるオフセット分を吸収してカメラ4が振動してもブーム7のエッジを正確に抽出できる。さらに、エッジ抽出部53は、エッジまで距離が半径R1を中心として閾値Δr1で設定される範囲R1±Δr1内にあるエッジが複数ある場合には、一番長いものをブーム7のエッジとして抽出する。一番長いエッジをブーム7のエッジとして抽出すると、ブーム7のエッジの誤抽出を防止でき、より確実にブーム7のエッジの抽出が可能となる。つまり、前述のエッジ抽出部53の処理を行うと、角度検出に利用するブーム7のエッジE1を精度よく抽出できるのである。   Further, in this example, when the construction machine C is traveling or the revolving unit 3 and the work device W are being driven, the construction machine C vibrates and vibrations are transmitted to the camera 4. Then, the position of the boom 7 in the image in the case where the camera 4 that is vibrating is shooting the boom 7 with respect to the image in which the camera 4 is shooting the boom 7 without vibration may be offset. Therefore, a threshold value Δr1 is set for the radius R1, and as shown in FIG. 8, a range in which the distance from the center coordinate of the connecting shaft 7a to the edge or the extended line of the edge is set by the threshold value Δr1 with the radius R1 as the center. Select an edge within R1 ± Δr1. And the longest edge is extracted as the edge E1 of the boom 7 among the extracted edges. In this way, in this example, the edge whose distance from the center coordinate of the connecting shaft 7a to the edge is within the range R1 ± Δr1 set by the threshold value Δr1 around the radius R1 is extracted as the edge of the boom 7. Therefore, even if the camera 4 vibrates by absorbing the offset due to the vibration with the threshold Δr1, the edge of the boom 7 can be accurately extracted. Further, the edge extraction unit 53 extracts the longest edge as the edge of the boom 7 when there are a plurality of edges within the range R1 ± Δr1 whose distance to the edge is set with the threshold value Δr1 with the radius R1 as the center. . If the longest edge is extracted as the edge of the boom 7, it is possible to prevent erroneous extraction of the edge of the boom 7, and the edge of the boom 7 can be extracted more reliably. That is, when the processing of the edge extraction unit 53 described above is performed, the edge E1 of the boom 7 used for angle detection can be extracted with high accuracy.

つづいて、角度演算部54は、エッジ抽出部53により選択されたエッジE1から旋回体3に対するブーム7の相対角度θ1を検出する。具体的には、角度演算部54は、図9に示すように、画像の水平軸Hから時計回りに見てエッジE1までの間の角度θ1’を求める。図9中でエッジを延長すると延長されたエッジと画像の縁との交点によって、延長されたエッジの画像内での高さyと幅xが求まるので、この高さyと幅xからθ1’=tan−1(y/x)を演算してθ1’が求まる。角度θ1’は、旋回体3に対してエッジが画像内で水平となる場合を0度として求められる。ブーム7のエッジE1は旋回体3側端の下端のエッジであり、ブーム7とアーム8とを回転可能に連結する連結軸8aと連結軸7aとを結ぶ直線とエッジE1とが平行ではない。ブーム7の旋回体3に対する相対角度θ1は前記直線と旋回体3とのなす角度であるため、角度θ1’を求めた後、角度θ1’を相対角度θ1へ変換する。角度θ1’と相対角度θ1は、所定の角度差だけずれを持っており、設計値であるため、角度差は既知であり、角度θ1’が分かれば一義的に相対角度θ1を求め得る。本例では、角度θ1’と相対角度θ1との関係をテーブル化しており、角度演算部54は、角度θ1’を求めた後、テーブルを参照して相対角度θ1を求めるが、角度差が既知であるので角度θ1’に角度差を加算して相対角度θ1を求めてもよい。なお、相対角度θ1は、地面に対して連結軸7aと連結軸8aを結ぶ直線が水平となる状態となる角度を0度として扱っている。 Subsequently, the angle calculation unit 54 detects the relative angle θ1 of the boom 7 with respect to the revolving structure 3 from the edge E1 selected by the edge extraction unit 53. Specifically, as shown in FIG. 9, the angle calculator 54 obtains an angle θ1 ′ between the horizontal axis H of the image and the edge E1 when viewed clockwise. In FIG. 9, when the edge is extended, the height y and the width x in the image of the extended edge are obtained by the intersection of the extended edge and the edge of the image. Therefore, θ1 ′ is obtained from the height y and the width x. = Tan −1 (y / x) is calculated to obtain θ1 ′. The angle θ1 ′ is obtained as 0 degree when the edge is horizontal in the image with respect to the revolving unit 3. The edge E1 of the boom 7 is an edge at the lower end of the revolving structure 3 side, and a straight line connecting the connecting shaft 8a and the connecting shaft 7a that rotatably connects the boom 7 and the arm 8 is not parallel to the edge E1. Since the relative angle θ1 of the boom 7 with respect to the swing body 3 is an angle formed by the straight line and the swing body 3, the angle θ1 ′ is obtained, and then the angle θ1 ′ is converted to the relative angle θ1. The angle θ1 ′ and the relative angle θ1 are shifted by a predetermined angle difference and are design values. Therefore, the angle difference is known. If the angle θ1 ′ is known, the relative angle θ1 can be uniquely determined. In this example, the relationship between the angle θ1 ′ and the relative angle θ1 is tabulated, and the angle calculator 54 obtains the angle θ1 ′ and then obtains the relative angle θ1 with reference to the table, but the angle difference is known. Therefore, the relative angle θ1 may be obtained by adding an angle difference to the angle θ1 ′. The relative angle θ1 treats the angle at which the straight line connecting the connecting shaft 7a and the connecting shaft 8a is horizontal with respect to the ground as 0 degrees.

姿勢特定部6は、前述の角度検出部5によって検出されたブーム7の旋回体3に対する相対角度θ1から連結軸8aの中心座標を求めて、ブーム7の姿勢を特定する。ブーム7の連結軸7aから連結軸8aまでの距離L1は、設計値であるので既知である。そして、角度検出部5によって、相対角度θ1が検出されているので、ブーム7の作動面上において、連結軸8aの中心座標を(x2,y2)とすると、既知である連結軸7aの中心座標(L0,0)とする。すると、x2=L0+L1・cosθ1、y2=L1・sinθ1となる。よって、姿勢特定部6は、相対角度θ1と距離L1を利用してブーム7の姿勢を特定して連結軸8aの中心座標を求め得る。このようにして連結軸8aが求まると、角度検出部5のエッジ抽出部53は、連結軸8aの中心座標を用いてブーム7のエッジを抽出する処理と同様の処理を行ってアーム8のエッジを検出する。なお、姿勢特定部6は、連結軸8aの中心座標だけではなく、ブーム7の重心座標を求めてもよい。ブーム7の重心から連結軸7aまでの距離は設計値であり既知であるから連結軸8aの中心座標と同様に求められる。   The posture specifying unit 6 specifies the posture of the boom 7 by obtaining the center coordinates of the connecting shaft 8a from the relative angle θ1 of the boom 7 to the swing body 3 detected by the angle detecting unit 5 described above. The distance L1 from the connecting shaft 7a of the boom 7 to the connecting shaft 8a is known because it is a design value. Since the relative angle θ1 is detected by the angle detection unit 5, assuming that the center coordinates of the connecting shaft 8a are (x2, y2) on the operating surface of the boom 7, the known center coordinates of the connecting shaft 7a. (L0, 0). Then, x2 = L0 + L1 · cos θ1, and y2 = L1 · sin θ1. Therefore, the posture specifying unit 6 can determine the center coordinates of the connecting shaft 8a by specifying the posture of the boom 7 using the relative angle θ1 and the distance L1. When the connecting shaft 8a is obtained in this way, the edge extracting unit 53 of the angle detecting unit 5 performs the same process as the process of extracting the edge of the boom 7 using the center coordinates of the connecting shaft 8a, and the edge of the arm 8 is obtained. Is detected. In addition, the attitude | position specific part 6 may obtain | require not only the center coordinate of the connection axis | shaft 8a but the gravity center coordinate of the boom 7. FIG. Since the distance from the center of gravity of the boom 7 to the connecting shaft 7a is a design value and is known, it can be obtained in the same manner as the center coordinates of the connecting shaft 8a.

エッジ抽出部53は、連結軸8aの中心座標を利用して、アーム8のエッジを抽出する。アーム8は、ブーム7に対して上下方向へ揺動可能に連結されており、アーム8はブーム7に連結軸8aを中心として揺動可能とされている。そして、アーム8の連結軸8a側端の下端のエッジE2は、図6中太線で示すように、アーム8のブーム7に対する連結軸8aを中心とした回転によって常に連結軸8aから一定の半径R2だけ離れて位置する。つまり、エッジE2を延長した仮想線に連結軸8aの中心から垂らした垂線の長さは、必ず、R2となる。したがって、エッジ抽出部53は、ブーム7のエッジを検出する処理と同様に、ハフ変換後の前記エッジ画像をからアーム8の直線のエッジが複数得られても、これらのエッジ或いはこれらエッジを延長して得られた直線と連結軸8aの中心座標からの距離が半径R2に等しいエッジを選択すれば、アーム8のエッジを抽出できる。なお、この処理において使用する連結軸8aの中心座標と半径R2は、前述と同様に、アーム8とブーム7の相対角度を変えて撮影した画像を三つ以上取得し、アーム8のエッジの内接円を求めて設定してもよい。また、本例では、先程と同様に、カメラ4の振動によるエッジが画像中でオフセットされてもエッジE2の抽出が可能なように、半径R2に対して閾値Δr2を設定してある。よって、連結軸8aの中心座標からエッジ或いはエッジの延長線までの距離が半径R2を中心として閾値Δr2で設定される範囲R2±Δr2内にあるエッジを選択する。   The edge extraction unit 53 extracts the edge of the arm 8 using the center coordinates of the connecting shaft 8a. The arm 8 is connected to the boom 7 so as to be swingable in the vertical direction, and the arm 8 is swingable to the boom 7 about the connecting shaft 8a. The lower end edge E2 of the end of the arm 8 on the side of the connecting shaft 8a is always at a constant radius R2 from the connecting shaft 8a by the rotation of the arm 8 around the connecting shaft 8a with respect to the boom 7 as shown by the thick line in FIG. Located just away. In other words, the length of the perpendicular line hanging from the center of the connecting shaft 8a to the virtual line obtained by extending the edge E2 is always R2. Therefore, similarly to the process of detecting the edge of the boom 7, the edge extraction unit 53 extends these edges or the edges even if a plurality of straight edges of the arm 8 are obtained from the edge image after the Hough transform. The edge of the arm 8 can be extracted by selecting an edge whose distance from the straight line obtained in this way and the center coordinate of the connecting shaft 8a is equal to the radius R2. As for the central coordinates and radius R2 of the connecting shaft 8a used in this processing, three or more images obtained by changing the relative angle between the arm 8 and the boom 7 are acquired as described above. A tangent circle may be obtained and set. In this example, similarly to the previous case, the threshold value Δr2 is set for the radius R2 so that the edge E2 can be extracted even if the edge due to the vibration of the camera 4 is offset in the image. Therefore, an edge is selected in which the distance from the center coordinate of the connecting shaft 8a to the edge or the extended line of the edge is within the range R2 ± Δr2 set by the threshold Δr2 with the radius R2 as the center.

このように選択されたエッジが複数ある場合、エッジ長、エッジ或いはエッジの延長線と連結軸8aの中心座標までの距離と半径R2とのずれ量、エッジ端と連結軸8aの中心座標までの距離の三つの尺度で評価してエッジE2を抽出する。具体的には、それぞれのエッジについて、エッジ長が長い程良い点数をつけ、前記ずれ量が少ない程良い点数をつけ、さらに、エッジ端までの距離が短い程良い点数をつけ、これら点数の総合点が最も高い点数のエッジをエッジE2として抽出する。このようにスコアリングによる評価を行ってアーム8のエッジE2を抽出すると高精度で真のアーム8のエッジE2を抽出できる。なお、スコアリングによる評価を行わず、ブーム7のエッジ抽出と同様の処理によってアーム8のエッジE2を抽出してもよい。また、エッジ抽出部53は、連結軸8aの至近のブーム7の下端のエッジE1を抽出する。 When there are a plurality of edges selected in this way, the edge length, the distance between the edge or the extension line of the edge and the center coordinate of the connecting shaft 8a and the radius R2, the distance between the edge end and the center coordinate of the connecting shaft 8a The edge E2 is extracted by evaluating with three measures of distance. Specifically, for each edge, the longer the edge length, the better the score, the smaller the shift amount, the better the score, and the shorter the distance to the edge, the better the score, the total of these scores The edge having the highest number of points is extracted as the edge E2. Thus, if the evaluation by scoring is performed and the edge E2 of the arm 8 is extracted, the edge E2 of the true arm 8 can be extracted with high accuracy. Note that the edge E2 of the arm 8 may be extracted by the same process as the edge extraction of the boom 7 without performing the evaluation by scoring. The edge extraction unit 53 extracts the lower end of the edge E1 2 of nearby boom 7 of the connecting shaft 8a.

つづいて、角度演算部54は、アーム8のエッジE2とブーム7のエッジE1からブーム7に対するアーム8の相対角度θ2を検出する。具体的には、角度演算部54は、図9に示すように、エッジE2とエッジE1は直線であり、両者の交点における両者のなす角度であって、エッジE1から時計回りに見て両者のなす角度θ2’を求める。図9中でエッジE2とエッジE1の座標と傾きのデータが得られるので、これらの情報からθ2’が求まる。角度θ2’は、ブーム7のエッジE1とアーム8のエッジE2のなす角度であり、本例では、エッジE2は、アーム8とアタッチメント9とを回転可能に連結する連結軸9aと連結軸8aとを結ぶ直線と平行ではなく、エッジE1は、連結軸8aと連結軸7aとを結ぶ直線も平行ではない。したがって、アーム8のブーム7に対する相対角度θ2は、連結軸9aと連結軸8aとを結ぶ直線と、連結軸8aと連結軸7aとを結ぶ直線とのなす角度であるため、角度θ2’を求めた後、角度θ2’を相対角度θ2へ変換する。角度θ2’と相対角度θ2は、所定の角度差だけずれを持っており、設計値であるため、角度差は既知であり、角度θ2’が分かれば一義的に相対角度θ2を求め得る。本例では、角度θ2’と相対角度θ2との関係をテーブル化しており、角度演算部54は、角度θ2’を求めた後、テーブルを参照して相対角度θ2を求めるが、角度差が既知であるので角度θ2’に角度差を加算して相対角度θ2を求めてもよい。 Then, the angle calculating unit 54 detects the relative angle θ2 of the arm 8 from the edge E1 2 edge E2 and the boom 7 of the arm 8 with respect to the boom 7. Specifically, the angle calculating unit 54, as shown in FIG. 9, the edge E2 and the edge E1 2 is a straight line, a angle of both at the intersection of both, as viewed from the edge E1 2 clockwise An angle θ2 ′ formed by both is obtained. Since the edge E2 and the edge E1 2 coordinates and slope data are obtained in Figure 9, from the information .theta.2 'is obtained. Angle .theta.2 'is the angle of the edge E2 of edge E1 2 and the arm 8 of the boom 7, in this embodiment, the edge E2 is connecting shaft 8a and the connecting shaft 9a for rotatably connecting the arm 8 and the attachment 9 not parallel to the straight line connecting the bets, the edge E1 2 are not parallel even line connecting the connection shaft 7a and the connecting shaft 8a. Therefore, the relative angle θ2 of the arm 8 with respect to the boom 7 is an angle formed by a straight line connecting the connecting shaft 9a and the connecting shaft 8a and a straight line connecting the connecting shaft 8a and the connecting shaft 7a. After that, the angle θ2 ′ is converted into the relative angle θ2. The angle θ2 ′ and the relative angle θ2 are shifted by a predetermined angle difference and are design values. Therefore, the angle difference is known, and if the angle θ2 ′ is known, the relative angle θ2 can be uniquely determined. In this example, the relationship between the angle θ2 ′ and the relative angle θ2 is tabulated, and the angle calculator 54 obtains the angle θ2 ′ and then obtains the relative angle θ2 with reference to the table, but the angle difference is known. Therefore, the relative angle θ2 may be obtained by adding an angle difference to the angle θ2 ′.

このように相対角度θ2が求まると、姿勢特定部6は、相対角度θ2から連結軸9aの中心座標を求めて、アーム8の姿勢を特定する。アーム8の連結軸9aから連結軸8aまでの距離L2は、設計値であるので既知である。そして、角度検出部5によって、相対角度θ2が検出されているので、アーム8の作動面上において、連結軸9aの中心座標を(x3,y3)とすると、既知である連結軸8aの中心座標(x2,y2)とする。すると、x3=x2+L2・cos(θ1+θ2)、y2=y2−L2・sin(θ1+θ2)となる。よって、姿勢特定部6は、相対角度θ2と距離L2を利用してアーム8の姿勢を特定して連結軸9aの中心座標を求め得る。また、姿勢特定部6は、アーム8に対してアタッチメント9を駆動するためのレバー10とアーム8とを回転可能に連結する連結軸10aの中心座標を求める。なお、姿勢特定部6は、連結軸9aの中心座標だけではなく、アーム8の重心座標を求めてもよい。アーム8の重心から連結軸8aまでの距離は設計値であり既知であるから連結軸9aの中心座標と同様に求められる。   When the relative angle θ2 is obtained in this way, the posture specifying unit 6 determines the center coordinates of the connecting shaft 9a from the relative angle θ2 and specifies the posture of the arm 8. The distance L2 from the connecting shaft 9a of the arm 8 to the connecting shaft 8a is known because it is a design value. Since the relative angle θ2 is detected by the angle detection unit 5, assuming that the center coordinate of the connecting shaft 9a is (x3, y3) on the operating surface of the arm 8, the known center coordinate of the connecting shaft 8a Let (x2, y2). Then, x3 = x2 + L2 · cos (θ1 + θ2) and y2 = y2−L2 · sin (θ1 + θ2). Therefore, the posture specifying unit 6 can determine the center coordinates of the connecting shaft 9a by specifying the posture of the arm 8 using the relative angle θ2 and the distance L2. In addition, the posture specifying unit 6 obtains center coordinates of a connecting shaft 10 a that rotatably connects the arm 10 and the lever 10 for driving the attachment 9 to the arm 8. Note that the posture specifying unit 6 may obtain not only the center coordinates of the connecting shaft 9 a but also the center-of-gravity coordinates of the arm 8. Since the distance from the center of gravity of the arm 8 to the connecting shaft 8a is a design value and is known, it can be obtained in the same manner as the central coordinates of the connecting shaft 9a.

連結軸10aの中心座標が求まると、エッジ抽出部53は、連結軸10aの中心座標を利用して、アタッチメント9とアーム8の相対角度θ3を求めるために、アタッチメント9のエッジを抽出する。本例では、相対角度θ3を求める際には、射影変換する前のエッジ画像を利用する。アタッチメント9は、この場合、バケットであり、エッジ抽出部53は、図10中で太線で示すように、アタッチメント9の上端と下端のエッジE3,E3を抽出する。 When the center coordinates of the connecting shaft 10a are obtained, the edge extracting unit 53 extracts the edge of the attachment 9 in order to obtain the relative angle θ3 between the attachment 9 and the arm 8 using the center coordinates of the connecting shaft 10a. In this example, when the relative angle θ3 is obtained, an edge image before projective transformation is used. In this case, the attachment 9 is a bucket, and the edge extraction unit 53 extracts the upper and lower edges E3 1 and E3 2 of the attachment 9 as shown by bold lines in FIG.

つづいて、角度演算部54は、まず、連結軸10aから各エッジE3,E3までの上下方向の距離H2,H3を求めて、アーム8に対するアタッチメント9の相対角度θ3を検出する。角度演算部54は、連結軸10aとエッジE3との距離H2と、連結軸10aとエッジE3との距離H3の値の組み合わせに対して、相対角度θ3は一対一の関係にあり、これら距離H2,H3から相対角度θ3を求める。アタッチメント9の長さは既知であり、連結軸10aに対して上下方向の距離H2,H3が得られれば、アタッチメント9のアーム8の相対角度θ3を知りえる。また、本例ではアタッチメント9がバケットであり、上端外形が側方から見て円形をしているために、アタッチメント9がアーム8に対して相対角度θ3が変化するように姿勢を変えても連結軸10aとアタッチメント9の上端のエッジE3の距離H2が変化しない場合もある。他方、アタッチメント9がアーム8に対して相対角度θ3が変化するように姿勢を変えると連結軸10aとアタッチメント9の下端のエッジE3の距離H3は、必ず変化する。しかし、アタッチメント9が、たとえば、鉛直下方から旋回体側に30度傾いた状態と、鉛直下方から反旋回体側へ30度傾いた状態とで、下端のエッジE3は同じ高さ位置ある。そのため、アタッチメント9の下端のエッジE3の距離H3だけで相対角度θ3を検出すると、アタッチメント9が旋回体側へ傾いているのか反旋回体側へ傾いているのか分からない。そこで、本例では、連結軸10aから各エッジE3,E3までの上下方向の二つの距離H2,H3から相対角度θ3を求めるので、アタッチメント9が姿勢を変えて相対角度θ3が変化するとこれを正確に検出できる。なお、アタッチメント9がバケットではなく、アーム8とブーム7の相対角度θ2の検出処理と同様に、アタッチメント9とアーム8の双方のエッジの抽出によって相対角度θ3を検出できる場合には、アーム8とブーム7の相対角度θ2の検出処理と同様の処理を行ってもよい。したがって、図6中でアタッチメント9のバケットの側方上端の直線のエッジE3と、アーム8のエッジE2を抽出してこれらのなす角度を求めて相対角度θ3を求めるようにしてもよい。 Subsequently, the angle calculation unit 54 first obtains vertical distances H2 and H3 from the connecting shaft 10a to the edges E3 1 and E3 2 to detect a relative angle θ3 of the attachment 9 with respect to the arm 8. Angle calculating unit 54, the distance H2 of the connecting shaft 10a and the edge E3 1, for the combination of the values of the distance H3 of the the connecting shaft 10a and the edge E3 2, relative angle θ3 is in one-to-one relationship, these The relative angle θ3 is obtained from the distances H2 and H3. The length of the attachment 9 is known, and if the distances H2 and H3 in the vertical direction with respect to the connecting shaft 10a are obtained, the relative angle θ3 of the arm 8 of the attachment 9 can be known. Further, in this example, the attachment 9 is a bucket and the upper end outer shape is circular when viewed from the side, so that the attachment 9 can be connected even if the posture is changed so that the relative angle θ3 changes with respect to the arm 8. in some cases the shaft 10a and the edge E3 1 distance H2 of the upper end of the attachment 9 is not changed. On the other hand, the distance H3 of the edge E3 2 of the lower end of the connecting shaft 10a and the attachment 9 with changes in posture so that the relative angle θ3 is changed with respect to the attachment 9 arm 8 is always changing. However, the attachment 9, for example, a tilted 30 degrees to the pivot side from vertically downward, in the vertically downward and tilted 30 degrees in the counter-pivot side edge E3 2 of the lower end is located the same height. Therefore, when detecting the relative angle θ3 only the lower end edge E3 2 distance H3 of the attachment 9, do not know is inclined to the or counterclockwise pivoting side attachment 9 is inclined to the pivot side. Therefore, in this example, the relative angle θ3 is obtained from the two vertical distances H2 and H3 from the connecting shaft 10a to the edges E3 1 and E3 2 , so when the attachment 9 changes its posture and the relative angle θ3 changes. Can be detected accurately. In the case where the attachment 9 is not a bucket and the relative angle θ3 can be detected by extracting both edges of the attachment 9 and the arm 8 as in the detection process of the relative angle θ2 between the arm 8 and the boom 7, A process similar to the process for detecting the relative angle θ2 of the boom 7 may be performed. Thus, a straight edge E3 3 lateral upper end of the bucket attachment 9 in Fig. 6, may be obtained relative angle θ3 seeking these angle by extracting an edge E2 2 arms 8.

このように相対角度θ3が求まると、姿勢特定部6は、相対角度θ3からアタッチメント9の姿勢を特定でき、たとえば、アタッチメント9の重心位置や先端位置を把握できる。たとえば、アタッチメント9の先端座標を求めたい場合、アタッチメント9の先端からアーム8の連結軸9aまでの距離L3は、設計値であるので既知である。そして、角度検出部5によって、相対角度θ3が検出されているので、アタッチメント9の作動面上において、アタッチメント9の先端座標を(x4,y4)とすると、既知である連結軸9aの中心座標(x3,y3)とする。すると、x4=x3+L3・cos(θ1+θ2+θ3)、y4=y3−L3・sin(θ1+θ2+θ3)となる。よって、姿勢特定部6は、相対角度θ3と距離L3を利用してアタッチメント9の姿勢を特定して先端座標を求め得る。アタッチメント9の重心座標についても連結軸9aから重心までの距離は既知であるから、先端座標と同様に求め得る。   When the relative angle θ3 is obtained in this way, the posture specifying unit 6 can specify the posture of the attachment 9 from the relative angle θ3, and can grasp the center of gravity position and the tip position of the attachment 9, for example. For example, when it is desired to obtain the tip coordinates of the attachment 9, the distance L3 from the tip of the attachment 9 to the connecting shaft 9a of the arm 8 is known because it is a design value. Since the relative angle θ3 is detected by the angle detection unit 5, assuming that the tip coordinate of the attachment 9 is (x4, y4) on the operating surface of the attachment 9, the known center coordinate of the connecting shaft 9a ( x3, y3). Then, x4 = x3 + L3 · cos (θ1 + θ2 + θ3) and y4 = y3−L3 · sin (θ1 + θ2 + θ3). Therefore, the posture specifying unit 6 can determine the tip coordinates by specifying the posture of the attachment 9 using the relative angle θ3 and the distance L3. The center-of-gravity coordinates of the attachment 9 can also be obtained in the same manner as the tip coordinates since the distance from the connecting shaft 9a to the center of gravity is known.

このように、角度検出部5は、可動部材Mにおける末端のリンクである旋回体3に一番近い作業装置Wのリンクであるブーム7の旋回体3に対する相対角度θ1を求める。そして、姿勢特定部6がブーム7の姿勢を特定すると、角度検出部5は、次に、旋回体3に二番目に近いアーム8のブーム7に対する相対角度θ2を求める。さらに、姿勢特定部6がアーム8の姿勢を特定すると、角度検出部5は、次に、旋回体3から一番遠いアタッチメント9のアーム8に対する相対角度θ3を求める。つまり、角度検出部5は、可動部材Mにおける末端のリンクである旋回体3に一番近い作業装置Wのリンクから順番に相対角度を検出する。   In this way, the angle detection unit 5 obtains the relative angle θ1 of the boom 7 that is the link of the work device W that is the closest to the revolving structure 3 that is the end link in the movable member M to the revolving structure 3. When the posture specifying unit 6 specifies the posture of the boom 7, the angle detection unit 5 next obtains the relative angle θ <b> 2 with respect to the boom 7 of the arm 8 that is second closest to the revolving structure 3. Further, when the posture specifying unit 6 specifies the posture of the arm 8, the angle detection unit 5 next obtains a relative angle θ 3 with respect to the arm 8 of the attachment 9 farthest from the revolving structure 3. That is, the angle detection unit 5 detects the relative angle in order from the link of the working device W that is closest to the revolving structure 3 that is the end link in the movable member M.

本実施の形態における角度検出装置1のハードウェア資源の構成について説明すると、この角度検出装置1は、図11に示すように、ハードウェアとしてはカメラ4と、カメラ4から出力される信号を増幅する増幅器とアナログ/デジタル変換器を含んで構成される画像インターフェース60と、角度検出装置1における処理を実行するCPU(Central Prossesing Unit)61と、前述の角度検出装置1における処理を行うためCPU61が実行するアプリケーションやオペレーティングシステム等のプログラムを格納するROM(Read Only Memory)62と、上記CPUに記憶領域を提供するRAM(Random Access Memory)63とを備えて構成されればよい。なお、角度検出装置1の各部における構成は、CPU61の角度検出装置1の処理を行うためアプリケーションプログラムの実行により実現できる。   The configuration of the hardware resources of the angle detection device 1 in the present embodiment will be described. As shown in FIG. 11, the angle detection device 1 amplifies the camera 4 and the signal output from the camera 4 as hardware. An image interface 60 including an amplifier and an analog / digital converter, a CPU (Central Processing Unit) 61 that executes processing in the angle detection device 1, and a CPU 61 that performs processing in the angle detection device 1 described above. A ROM (Read Only Memory) 62 that stores an application to be executed, a program such as an operating system, and a RAM (Random Access Memory) 63 that provides a storage area to the CPU may be provided. The configuration of each part of the angle detection device 1 can be realized by executing an application program in order to perform the processing of the angle detection device 1 of the CPU 61.

以上、角度検出装置1の構成について説明したが、以下、角度検出装置1の角度検出処理手順を図12のフローチャートの一例に基づいて説明する。   Although the configuration of the angle detection device 1 has been described above, the angle detection processing procedure of the angle detection device 1 will be described below based on an example of the flowchart of FIG.

まず、角度検出装置1は、角度検出のため、まず、カメラ4で撮影範囲を撮影する(ステップS1)。次に、カメラ4で撮影した画像に対して前述のエッジ画像処理と射影変換を行ってエッジ画像を得る(ステップS2)。   First, the angle detection device 1 first captures an imaging range with the camera 4 for angle detection (step S1). Next, the edge image processing and projective transformation described above are performed on the image photographed by the camera 4 to obtain an edge image (step S2).

つづいて、エッジ画像からブーム7のエッジを抽出し(ステップS3)、旋回体3に対するブーム7の相対角度θ1を求める(ステップS4)。さらに、相対角度θ1から連結軸8aの中心座標を演算する(ステップS5)。   Subsequently, the edge of the boom 7 is extracted from the edge image (step S3), and the relative angle θ1 of the boom 7 with respect to the revolving structure 3 is obtained (step S4). Further, the center coordinates of the connecting shaft 8a are calculated from the relative angle θ1 (step S5).

さらに、エッジ画像からアーム8とブーム7のエッジを抽出し(ステップS6)、ブーム7に対するアーム8の相対角度θ2を求める(ステップS7)。そして、相対角度θ2から連結軸9aの中心座標を演算する(ステップS8)。   Further, the edges of the arm 8 and the boom 7 are extracted from the edge image (step S6), and the relative angle θ2 of the arm 8 with respect to the boom 7 is obtained (step S7). Then, the center coordinates of the connecting shaft 9a are calculated from the relative angle θ2 (step S8).

つづいて、エッジ画像からアタッチメント9の上端と下端のエッジを抽出し(ステップS9)、アーム8に対するアタッチメント9の相対角度θ3を求める(ステップS10)。さらに、相対角度θ3からアタッチメント9の先端の座標を演算する(ステップS11)。以上、ステップS1からステップS11までの処理を所定周期で繰り返し行って、相対角度θ1,θ2,θ3を連続して検出可能である。   Subsequently, the upper and lower edges of the attachment 9 are extracted from the edge image (step S9), and the relative angle θ3 of the attachment 9 with respect to the arm 8 is obtained (step S10). Further, the coordinates of the tip of the attachment 9 are calculated from the relative angle θ3 (step S11). As described above, it is possible to continuously detect the relative angles θ1, θ2, and θ3 by repeatedly performing the processing from step S1 to step S11 in a predetermined cycle.

このように構成された角度検出装置1は、可動部材Mのうち末端のリンク(旋回体3)に取付けられるカメラ4で他のリンク(ブーム7、アーム8およびアタッチメント9)を撮影し、その撮影した画像から他のリンク7,8,9の相対角度θ1,θ2,θ3を求める。このように角度検出装置1は、センサ類を用いないので、センサ類の故障の心配もなく、カメラ4の設置個所は自由度が高く安全な場所に設置できるので厳しい使用環境にも耐えられる。また、角度検出装置1では、ブーム等の姿勢の特定に際してマーカー位置データとブーム等の座標を照合する必要がないので、膨大なマップ位置データの保有が不要となり、大容量のメモリを必要としない。よって、角度検出装置1のコストも低減できる。なお、本例では、各リンク3,7,8,9が揺動可能に連結されているが、首振り可能に連結されていても、同じ画像処理によって相対角度を検出できる。   The angle detection device 1 configured in this manner photographs the other links (the boom 7, the arm 8, and the attachment 9) with the camera 4 attached to the end link (the swivel body 3) of the movable member M, and the photographing. The relative angles θ1, θ2, θ3 of the other links 7, 8, 9 are obtained from the obtained images. As described above, since the angle detection device 1 does not use sensors, the camera 4 can be installed in a safe place with a high degree of freedom without worrying about failure of the sensors. Further, in the angle detection device 1, since it is not necessary to collate the marker position data with the coordinates of the boom or the like when specifying the posture of the boom or the like, it is not necessary to store enormous map position data and a large capacity memory is not required. . Therefore, the cost of the angle detection device 1 can be reduced. In this example, the links 3, 7, 8, 9 are connected so as to be swingable. However, even if they are connected so as to be able to swing, the relative angle can be detected by the same image processing.

また、本例では、角度検出装置1は、求めた相対角度θ1,θ2,θ3から他のリンクの姿勢を特定できるので、角度検出装置1が適用される建設機械Cのリンクの重心位置が求められ、ZMPの演算に必要な角度情報が得られる。   In this example, since the angle detection device 1 can specify the posture of another link from the obtained relative angles θ1, θ2, and θ3, the center of gravity position of the link of the construction machine C to which the angle detection device 1 is applied is obtained. Thus, angle information necessary for ZMP calculation is obtained.

さらに、本例では、可動部材Mが三つ以上のリンク3,7,8,9を有し、角度検出部5は、末端のリンク3から一番近いリンク7の相対角度θ1を求め、末端のリンク3から二番目以降の近いリンク8,9については、姿勢特定部6により特定された一つ手前のリンク7,8の姿勢に基づいて相対角度θ2,θ3を求めるようになっている。   Furthermore, in this example, the movable member M has three or more links 3, 7, 8, and 9, and the angle detection unit 5 obtains the relative angle θ1 of the link 7 closest to the end link 3, With respect to the second and subsequent links 8 and 9 from the link 3, the relative angles θ2 and θ3 are obtained based on the posture of the immediately preceding link 7 and 8 specified by the posture specifying unit 6.

このように角度検出装置1が構成されると、相対角度検出対象のリンク8より末端のリンク3側へ一つ手前の姿勢を特定して、末端のリンク3に近いリンク7から順に相対角度θ2を求められる。このように、他のリンク7,8,9について順にリンク8,9の相対角度θ2,θ3の検出と姿勢の特定を行えば、可動部材Mが多数のリンクを有する場合にあっても、全リンクの相対角度θ1,θ2,θ3を簡単に検出できるのである。   When the angle detection device 1 is configured in this manner, the posture immediately before the link 3 to the end of the relative angle detection target 8 is specified, and the relative angle θ2 in order from the link 7 closest to the end link 3 is specified. Is required. As described above, if the relative angles θ2 and θ3 of the links 8 and 9 are detected and the postures are specified in order for the other links 7, 8 and 9, even if the movable member M has many links, The relative angles θ1, θ2, and θ3 of the links can be easily detected.

また、本例の角度検出装置1にあっては、角度検出部5がカメラ4で撮影した前記画像を処理して、他のリンク7,8,9のエッジを検出し、相対角度θ1,θ2,θ3を求める。よって、このように構成された角度検出装置1は、カメラ4で撮影した連続画像からではなく、一つの画像から相対角度θ1,θ2,θ3を検出できるので、時間をかけずにタイムリーに角度検出できる。   Further, in the angle detection device 1 of this example, the angle detection unit 5 processes the image captured by the camera 4 to detect the edges of the other links 7, 8, 9, and the relative angles θ 1, θ 2. , Θ3. Therefore, the angle detection device 1 configured in this way can detect the relative angles θ1, θ2, and θ3 from one image, not from a continuous image taken by the camera 4, so that the angle is detected in a timely manner without taking time. It can be detected.

さらに、本例の角度検出装置1にあっては、可動部材Mが末端のリンクを建設機械Cの旋回体3とし、他のリンクを建設機械Cの旋回体3に回転自在に連結される作業装置Wとし、カメラ4が旋回体3のキャビン3a内に設置されるようになっている。このように相対角度検出に必要な画像を撮影するカメラ4がキャビン3a内に収容されるので、カメラ4が建設機械Cの外部環境から保護される。よって、本例の角度検出装置1にあっては、カメラ4が風雨に晒されず、土木工事作業中の石や土砂の飛来からも保護されるので、安定した相対角度検出が可能となる。   Further, in the angle detection device 1 of the present example, the movable member M is a work in which the end link is the revolving structure 3 of the construction machine C and the other link is rotatably connected to the revolving structure 3 of the construction machine C. As a device W, the camera 4 is installed in the cabin 3 a of the revolving unit 3. Since the camera 4 that captures an image necessary for relative angle detection is housed in the cabin 3a in this way, the camera 4 is protected from the external environment of the construction machine C. Therefore, in the angle detection device 1 of the present example, the camera 4 is not exposed to wind and rain, and is protected from flying stones and earth and sand during civil engineering work, so that stable relative angle detection is possible.

<第二の実施の形態>
第二の実施の形態の角度検出装置80にあっては、図13に示すように、角度検出部81の構造および処理が第一の実施の形態の角度検出装置1の角度検出部5の構造及び処理と異なり、そのほかの構成及び処理は同一である。よって、以下では、構成の異なる角度検出部81について詳しく説明し、同一の構成については詳しい説明を省略する。また、この角度検出部80にあっても、建設機械Cに適用されており、カメラ4は旋回体3のキャビン3a内に設置されている。
<Second Embodiment>
In the angle detector 80 of the second embodiment, as shown in FIG. 13, the structure and processing of the angle detector 81 is the structure of the angle detector 5 of the angle detector 1 of the first embodiment. Unlike other processes, other configurations and processes are the same. Therefore, in the following, the angle detection unit 81 having a different configuration will be described in detail, and detailed description of the same configuration will be omitted. The angle detector 80 is also applied to the construction machine C, and the camera 4 is installed in the cabin 3a of the revolving unit 3.

角度検出部81は、カメラ4が撮影した画像をグレースケールの画像に変換後に二値化処理して二値化画像を得る二値化処理部82と、二値化画像の座標系を作業装置Wを真横から見た画像の座標系へ変換する射影変換部83と、射影変換後の二値化画像から連結部7a,8a,9aが撮影されている領域を抽出する領域抽出部84と、領域抽出部84で抽出した連結部7a,8a,9a,10a,10bから旋回体3に対するブーム7の相対角度θ1、ブーム7に対するアーム8の相対角度θ2およびアーム8に対するアタッチメント9の相対角度θ3を求める角度演算部85と備えて構成されている。なお、連結軸10aは、アタッチメント9をアーム8に対して回転駆動するレバー10とアーム8の連結軸であり、連結軸10bは、アタッチメント9とレバー10の連結軸である。   The angle detection unit 81 converts the image captured by the camera 4 into a grayscale image, and then binarizes the binarized image by obtaining a binarized image. A projective transformation unit 83 that transforms W into a coordinate system of an image viewed from the side; a region extraction unit 84 that extracts a region where the connecting units 7a, 8a, and 9a are photographed from the binarized image after the projective transformation; The relative angle θ1 of the boom 7 with respect to the revolving structure 3 from the connecting portions 7a, 8a, 9a, 10a, and 10b extracted by the area extracting unit 84, the relative angle θ2 of the arm 8 with respect to the boom 7, and the relative angle θ3 of the attachment 9 with respect to the arm 8 are obtained. The angle calculation unit 85 to be obtained is provided. The connection shaft 10 a is a connection shaft between the lever 10 and the arm 8 that rotationally drives the attachment 9 with respect to the arm 8, and the connection shaft 10 b is a connection shaft between the attachment 9 and the lever 10.

まず、角度検出部81は、カメラ4が撮影し、カメラ4のレンズ歪等による歪をキャリブレーション処理によって較正された画像は、エッジ画像取得部51によって処理する。二値化処理部82は、カメラ4が撮影した画像をたとえば256階調の輝度値で表現されるグレースケールの画像に変換し、さらに、画像を二値化処理して二値化画像を得る。   First, the angle detection unit 81 processes an image captured by the camera 4 and calibrated for distortion due to lens distortion or the like of the camera 4 by a calibration process by the edge image acquisition unit 51. The binarization processing unit 82 converts an image captured by the camera 4 into a grayscale image expressed by, for example, 256 gradation luminance values, and further binarizes the image to obtain a binarized image. .

射影変換部83は、二値化処理部82の処理によって得た二値化画像の座標系を、作業装置Wを真横から見た側面画像の座標系へ変換する。この射影変換部83によって処理すると、作業装置Wのブーム7、アーム8およびアタッチメント9の作動面を貫く方向となる真横から見た図14に示した画像が得られる。   The projection conversion unit 83 converts the coordinate system of the binarized image obtained by the processing of the binarization processing unit 82 into the coordinate system of the side image when the working device W is viewed from the side. When the projection conversion unit 83 performs processing, the image shown in FIG. 14 is obtained as viewed from the side of the working device W in a direction that penetrates the working surfaces of the boom 7, the arm 8, and the attachment 9.

なお、射影変換部83の射影変換処理では、実際に画像を得る必要はなく、変換後のエッジの座標情報を取得できればよい。なお、具体的には、射影変換部52は、カメラ4の撮影した画像座標を射影変換行列を用いて処理するが、この座標変換行列は、予めカメラ4で作業装置Wを撮影して射影変換行列を予め求めておけばよい。   In the projective conversion process of the projective conversion unit 83, it is not necessary to actually obtain an image, and it is only necessary to obtain coordinate information of the edge after conversion. Specifically, the projective transformation unit 52 processes the image coordinates captured by the camera 4 using a projective transformation matrix. This coordinate transformation matrix is obtained by projecting the working device W with the camera 4 in advance. A matrix may be obtained in advance.

領域抽出部84は、本例では連結軸7a,8a,9a,10a,10bを予め決められた箇所としてこれらが撮影されている領域をたとえばMSER法(Maximally Stable Extermal Regions)などの特徴ベースマッチングによる領域抽出処理を行って抽出する。連結軸7a,8aは、旋回体3とブーム7、ブーム7とアーム8の結合ピンであり、これらの特徴とマッチングする領域を抽出する。なお、MSER法以外の領域抽出法を用いて。連結軸7a,8aの領域を抽出してもよい。また、連結軸7aは、旋回体3とブーム7との連結軸7aであり、射影変換後における座標は既知であるので、カメラ4で連結軸7aを撮影せずともよい。   In this example, the region extraction unit 84 uses the connection bases 7a, 8a, 9a, 10a, and 10b as predetermined locations, and uses the feature-based matching such as MSER (Maximally Stable External Regions) to capture the region in which these are photographed. Extract by performing region extraction processing. The connecting shafts 7a and 8a are connecting pins for the revolving body 3 and the boom 7, and the boom 7 and the arm 8, and extract regions that match these characteristics. Using region extraction methods other than the MSER method. You may extract the area | region of the connection shafts 7a and 8a. Further, the connecting shaft 7a is a connecting shaft 7a between the revolving unit 3 and the boom 7, and the coordinates after projective transformation are known. Therefore, the camera 4 does not have to photograph the connecting shaft 7a.

連結軸8aと連結軸7aの距離L1は、図14に示すように、連結軸7aの座標はカメラ4の画像を射影変換すると定点であり不動であるから、ブーム7がどのような姿勢をとっても一定であり、設計値で有るから既知である。よって、連結軸8aは、連結軸7aの中心座標から距離L1を半径として円周上に存在するので、領域抽出の際に連結軸8aの特徴に一致する領域であって、連結軸7aからの距離がL1である領域は連結軸8aが撮影されている領域となる。また、本例では、建設機械Cが走行中或いは旋回体3や作業装置Wが駆動中であると、建設機械Cが振動してカメラ4に振動が伝達される。すると、無振動でカメラ4が連結軸8aを撮影した画像に対して振動中のカメラ4が連結軸8aを撮影した場合の画像中の連結軸8aの位置がオフセットされる場合がある。そこで、半径L1に対して閾値ΔL1を設定して、連結軸7aの中心座標から距離が範囲L1±ΔL1内にあって連結軸8aと一致する特徴を持つ画像領域を抽出する。そのため、閾値ΔL1で振動によるオフセット分を吸収してカメラ4が振動しても画像において連結軸8aが写っている領域を正確に抽出できる。   The distance L1 between the connecting shaft 8a and the connecting shaft 7a is, as shown in FIG. 14, the coordinates of the connecting shaft 7a is a fixed point when the image of the camera 4 is projectively transformed and does not move. It is known because it is constant and is a design value. Therefore, since the connecting shaft 8a exists on the circumference with the distance L1 as the radius from the center coordinate of the connecting shaft 7a, it is a region that coincides with the characteristics of the connecting shaft 8a at the time of region extraction, and from the connecting shaft 7a. An area where the distance is L1 is an area where the connecting shaft 8a is photographed. Further, in this example, when the construction machine C is traveling or the revolving unit 3 and the work device W are being driven, the construction machine C vibrates and vibrations are transmitted to the camera 4. Then, the position of the connecting shaft 8a in the image in the case where the vibrating camera 4 images the connecting shaft 8a may be offset with respect to the image in which the camera 4 images the connecting shaft 8a without vibration. Therefore, a threshold value ΔL1 is set for the radius L1, and an image region having a feature whose distance is within the range L1 ± ΔL1 from the center coordinates of the connecting axis 7a and coincides with the connecting axis 8a is extracted. Therefore, even if the camera 4 vibrates by absorbing the offset due to the vibration with the threshold value ΔL1, it is possible to accurately extract the region where the connecting shaft 8a is reflected in the image.

連結軸8aの中心座標から連結軸9aまでの距離L2は既知である。連結軸9aは、連結軸8aから距離L2だけ離れた位置に存在するため、連結軸9aの特徴が一致する領域のうち連結軸8aを中心として半径L2の円周上にある領域が連結軸9aの撮影されている領域となる。そこで、領域抽出部84は、連結軸8aの領域が抽出されると、連結軸8aの領域の中心座標を求め、この中心座標から距離L2だけ離れた位置にあって連結軸9aと一致する特徴を持つ領域を選択すれば連結軸9aが撮影されている領域を抽出できる。より詳細には、半径L2に対して閾値ΔL2を設定して、連結軸8aの中心座標から距離が範囲L2±ΔL2内にあって連結軸9aと一致する特徴を持つ画像領域を抽出する。そのため、閾値ΔL2でカメラ4の振動によるオフセット分を吸収してカメラ4が振動しても画像において連結軸9aが写っている領域を正確に抽出できる。さらに、領域抽出部84は、連結軸9aの領域抽出が済むと、続いて、連結軸10a,10bの撮影されている領域を抽出する。アーム8に対してアタッチメント9が姿勢を変えても、連結軸9aの中心座標に対して連結軸10a,10bは、一定距離を保ったままである。よって、領域抽出部84は、連結軸9aの連結軸8aに対する領域抽出と連結軸8aの連結軸7aに対する領域抽出と同様の手法で連結軸10a,10bの領域を抽出すればよい。この連結軸10a,10bの領域抽出にあっても、距離に対して閾値を設定してカメラ4の振動による連結軸10a,10bの位置のオフセットを吸収するようにすればよい。   The distance L2 from the center coordinate of the connecting shaft 8a to the connecting shaft 9a is known. Since the connecting shaft 9a exists at a position separated from the connecting shaft 8a by a distance L2, a region on the circumference of the radius L2 centering on the connecting shaft 8a is the connecting shaft 9a among regions where the characteristics of the connecting shaft 9a match. This is the area where the image is taken. Therefore, when the region of the connecting shaft 8a is extracted, the region extracting unit 84 obtains the center coordinates of the region of the connecting shaft 8a and is located at a distance L2 from the center coordinates and coincides with the connecting shaft 9a. If the area having the position is selected, the area where the connecting shaft 9a is photographed can be extracted. More specifically, a threshold value ΔL2 is set for the radius L2, and an image region having a feature whose distance is within the range L2 ± ΔL2 from the center coordinates of the connecting axis 8a and that matches the connecting axis 9a is extracted. For this reason, an offset portion due to the vibration of the camera 4 is absorbed by the threshold value ΔL2, and even if the camera 4 vibrates, the region where the connection axis 9a is reflected in the image can be accurately extracted. Furthermore, after the region extraction of the connecting shaft 9a is completed, the region extracting unit 84 subsequently extracts the imaged regions of the connecting shafts 10a and 10b. Even if the attachment 9 changes its posture with respect to the arm 8, the connecting shafts 10a and 10b remain at a constant distance with respect to the center coordinates of the connecting shaft 9a. Therefore, the region extraction unit 84 may extract the regions of the connecting shafts 10a and 10b by the same technique as the region extraction of the connecting shaft 9a with respect to the connecting shaft 8a and the region extraction of the connecting shaft 8a with respect to the connecting shaft 7a. Even in the region extraction of the connecting shafts 10a and 10b, a threshold may be set for the distance to absorb the offset of the positions of the connecting shafts 10a and 10b due to the vibration of the camera 4.

つづいて、角度演算部85は、ブーム7の回転中心である連結軸7aと領域抽出部84により抽出された箇所である連結軸8aの中心座標を通る直線を求め、この直線の画像に対する傾きから旋回体3とブーム7の相対角度θ1を検出する。さらに、角度演算部85は、アーム8の回転中心である連結軸8aと領域抽出部84により抽出された箇所である連結軸9aの中心座標を通る直線を求め、この直線と連結軸7a,8aの中心座標を通る直線とのなす角度を求めてアーム8とブーム7の相対角度θ2を検出する。そして、角度演算部85は、アタッチメント9の回転中心である連結軸10aと領域抽出部84により抽出された連結軸10bの中心座標を通る直線を求め、この直線と連結軸8a,9aの中心座標を通る直線とのなす角度θ3”を求める。この角度θ3”とアーム8とアタッチメント9の相対角度θ3は、一対一の関係にあり、予めこの関係をテーブル化しておき、角度θ3”からテーブルを利用すれば相対角度θ3を求められる。   Subsequently, the angle calculation unit 85 obtains a straight line that passes through the center coordinates of the connecting shaft 7a that is the rotation center of the boom 7 and the connecting shaft 8a that is the portion extracted by the region extracting unit 84, and from the inclination of the straight line with respect to the image. A relative angle θ1 between the swing body 3 and the boom 7 is detected. Further, the angle calculation unit 85 obtains a straight line that passes through the center coordinates of the connecting shaft 8a that is the rotation center of the arm 8 and the connecting shaft 9a that is the portion extracted by the region extracting unit 84, and the straight line and the connecting shafts 7a and 8a. The relative angle θ2 between the arm 8 and the boom 7 is detected by obtaining the angle formed with the straight line passing through the center coordinates. Then, the angle calculation unit 85 obtains a straight line that passes through the center coordinates of the connection shaft 10a that is the rotation center of the attachment 9 and the connection shaft 10b extracted by the region extraction unit 84, and the center coordinates of the straight line and the connection shafts 8a and 9a. An angle θ3 ″ formed by a straight line passing through the angle 8 is obtained. The angle θ3 ″ and the relative angle θ3 between the arm 8 and the attachment 9 are in a one-to-one relationship, and this relationship is tabulated in advance, and the table is calculated from the angle θ3 ″. If used, the relative angle θ3 can be obtained.

なお、本例では、領域抽出部84が、旋回体3とブーム7の回転軸である連結部7a、ブーム7とアーム8の回転軸である連結部8a、アーム8とアタッチメント9の回転軸である連結部9a、アーム8とレバー10の回転軸である連結軸10a、アタッチメント9とレバー10の回転軸である連結軸10bの領域を予め決められた箇所として抽出するので、一度に領域抽出可能である。   In this example, the area extracting unit 84 is a connecting unit 7a that is a rotating shaft of the swing body 3 and the boom 7, a connecting unit 8a that is a rotating shaft of the boom 7 and the arm 8, and a rotating shaft of the arm 8 and the attachment 9. The region of the connecting portion 9a, the connecting shaft 10a that is the rotating shaft of the arm 8 and the lever 10, and the region of the connecting shaft 10b that is the rotating shaft of the attachment 9 and the lever 10 are extracted as predetermined locations, so that the region can be extracted at once. It is.

領域抽出部84が連結軸8a,9a,10a,10bでなく、他所を予め決められた箇所として抽出する場合は、第一の実施の形態と同様に処理するようにすればよい。つまり、領域抽出部84による領域抽出により連結軸7aと連結軸7aから一定距離はなれたブーム7の連結軸8a以外の部位の領域を抽出する。次に、連結軸7aと連結軸7aから一定距離はなれたブーム7の連結軸8a以外の部位の領域の座標から角度演算部85が旋回体3とブーム7の相対角度θ1を求めて、姿勢特定部6でブーム7における連結軸8aの中心座標を求める。連結軸7aとブーム7の連結軸8aの任意の部位を通る直線と画像の水平軸とのなす角度と旋回体3のブーム7の相対角度θ1とは一対一の関係を有しているので、この関係をテーブル化しておけば簡単に相対角度θ1を演算できる。連結軸8aの中心座標が求めると、領域抽出部84は、連結軸8aとアーム8の任意の部位までの既知の距離とから前記部位の領域抽出を行えば、角度演算部85で連結軸8aと前記部位との直線を得てアーム8とブーム7のなす相対角度θ2を求められる。連結軸8aとアーム8の任意の部位を通る直線と連結軸7aとブーム7の任意の部位を通る直線のなす角度と、ブーム7とアーム8の相対角度θ2とは一対一の関係を有しているので、この関係をテーブル化しておけば簡単に相対角度θ2を演算できる。さらに、相対角度θ2が求まれば、姿勢特定部6が連結軸9a,10aの中心座標を求められ、領域抽出部84は、連結軸10aから任意の距離はなれたレバー10の任意の部位の領域を抽出でき、角度演算部85は、連結軸10aとレバー10の任意の部位とからアタッチメント9とアーム8の相対角度θ3を求められる。連結軸8aとアーム8の任意の部位を通る直線とレバー10の連結軸10aとレバー10の任意の部位を通る直線のなす角度と、アーム8とアタッチメント9の相対角度θ3とは一対一の関係を有しているので、この関係をテーブル化しておけば簡単に相対角度θ3を演算できる。このようにすれば、領域抽出する部位を予め決めておけば、連結軸7a,8a,9a,10a,10b以外の部位を領域抽出する部位として設定しても相対角度θ1,θ2,θ3を求められ、各部の姿勢も特定できる。領域抽出する部位を連結軸7a,8a,9a,10a,10bとする場合には、角度演算部85と姿勢特定部6の処理を交えず、領域抽出部84は単独の処理で連結軸7a,8a,9a,10a,10bの領域抽出が可能である。   When the area extraction unit 84 extracts other places as predetermined places instead of the connecting shafts 8a, 9a, 10a, and 10b, the processing may be performed in the same manner as in the first embodiment. That is, by extracting the region by the region extracting unit 84, the region of the part other than the connecting shaft 8a of the boom 7 separated from the connecting shaft 7a and the connecting shaft 7a is extracted. Next, the angle calculation unit 85 obtains the relative angle θ1 between the swing body 3 and the boom 7 from the coordinates of the region other than the connecting shaft 8a of the boom 7 that is separated from the connecting shaft 7a and the connecting shaft 7a, and specifies the posture. The center coordinate of the connecting shaft 8a in the boom 7 is obtained by the part 6. Since the angle between the straight line passing through the arbitrary part of the connecting shaft 7a and the connecting shaft 8a of the boom 7 and the horizontal axis of the image and the relative angle θ1 of the boom 7 of the revolving structure 3 has a one-to-one relationship. If this relationship is tabulated, the relative angle θ1 can be easily calculated. When the center coordinates of the connecting shaft 8a are obtained, the region extracting unit 84 can extract the region of the part from the known distance to the connecting shaft 8a and an arbitrary part of the arm 8, and the angle calculating unit 85 can connect the connecting shaft 8a. And the relative angle θ2 formed by the arm 8 and the boom 7 is obtained. There is a one-to-one relationship between an angle formed by a straight line passing through any part of the connecting shaft 8a and the arm 8, a straight line passing through any part of the connecting shaft 7a and the boom 7, and a relative angle θ2 between the boom 7 and the arm 8. Therefore, if this relationship is tabulated, the relative angle θ2 can be easily calculated. Further, when the relative angle θ2 is obtained, the posture specifying unit 6 is able to obtain the center coordinates of the connecting shafts 9a and 10a, and the region extracting unit 84 is a region of an arbitrary part of the lever 10 that is separated from the connecting shaft 10a by an arbitrary distance. The angle calculation unit 85 can obtain the relative angle θ3 between the attachment 9 and the arm 8 from the connecting shaft 10a and an arbitrary part of the lever 10. There is a one-to-one relationship between the angle formed by the straight line passing through the connecting shaft 8a and any part of the arm 8, the straight line passing through the connecting shaft 10a of the lever 10 and any part of the lever 10, and the relative angle θ3 between the arm 8 and the attachment 9. Therefore, if this relationship is tabulated, the relative angle θ3 can be easily calculated. In this way, if the region extraction region is determined in advance, the relative angles θ1, θ2, θ3 are obtained even if the region other than the connecting shafts 7a, 8a, 9a, 10a, and 10b is set as the region extraction region. The posture of each part can also be specified. When the regions to be extracted are connected shafts 7a, 8a, 9a, 10a, and 10b, the processing of the angle calculating unit 85 and the posture specifying unit 6 is not mixed, and the region extracting unit 84 is connected to the connecting shafts 7a, Region extraction of 8a, 9a, 10a, and 10b is possible.

また、本例では、射影変換部83により、画像の座標系を作業装置Wを真横から見た座標系へ変換しているが、射影変換部83による座標変換を省略してもよい。射影変換部83による座標変換を行わずとも、領域抽出部84で抽出したいブーム7の任意の箇所のカメラ4によって撮影した画像内での連結軸7aに対する軌跡は、カメラ4でブーム7を旋回体3に対して回転させて撮影すれば予め把握できる。よって、射影変換部83によって座標変換しなくとも、ブーム7の任意の箇所の軌跡上に特徴点が一致する部分を領域抽出部84で抽出すれば、得たい領域を抽出できる。この領域と連結軸7aとを結ぶ直線が画像の水平軸となす角度は、ブーム7と旋回体3との相対角度θ1と一対一の関係を有しているので、角度演算部85は、前記直線と水平軸とのなす角度から相対角度θ1を求められる。相対角度θ1が得られれば、カメラ4が撮影する画像中での連結軸8aの座標が求められ、連結軸8aの座標が分かれば、アーム8がブーム7に対して回転する場合においてアーム8の領域抽出部84にて抽出したい箇所が画像中でどのような軌跡を描くのかが分かる。よって、領域抽出部84は、アーム8の任意の箇所の領域を抽出可能である。このように、射影変換部83による座標変換を省略しても、ブーム7と旋回体3との相対角度θ1を検出でき、相対角度θ1が検出できれば、アーム8とブーム7との相対角度θ2を検出できる。つまり、順を追って領域抽出と角度検出を順を追って行えば、相対角度θ1,θ2,θ3が求まるのである。   In this example, the projection conversion unit 83 converts the image coordinate system to a coordinate system viewed from the side of the work apparatus W, but the coordinate conversion by the projection conversion unit 83 may be omitted. Even if the coordinate conversion by the projection conversion unit 83 is not performed, the trajectory with respect to the connecting shaft 7a in the image taken by the camera 4 at an arbitrary position of the boom 7 to be extracted by the region extraction unit 84 is If the image is rotated with respect to 3 and captured, it can be grasped in advance. Therefore, even if the coordinate conversion is not performed by the projective conversion unit 83, the region to be obtained can be extracted by extracting the portion where the feature points coincide on the locus of an arbitrary part of the boom 7 by the region extraction unit 84. Since the angle formed by the straight line connecting this region and the connecting shaft 7a with the horizontal axis of the image has a one-to-one relationship with the relative angle θ1 between the boom 7 and the revolving structure 3, the angle calculation unit 85 is The relative angle θ1 can be obtained from the angle formed by the straight line and the horizontal axis. If the relative angle θ1 is obtained, the coordinates of the connecting shaft 8a in the image captured by the camera 4 are obtained. If the coordinates of the connecting shaft 8a are known, the arm 8 can be rotated when the arm 8 rotates relative to the boom 7. It can be seen what kind of trajectory the portion desired to be extracted by the region extraction unit 84 draws in the image. Therefore, the region extraction unit 84 can extract a region at an arbitrary position of the arm 8. As described above, even if the coordinate conversion by the projective conversion unit 83 is omitted, the relative angle θ1 between the boom 7 and the revolving structure 3 can be detected. If the relative angle θ1 can be detected, the relative angle θ2 between the arm 8 and the boom 7 is obtained. It can be detected. That is, if the region extraction and the angle detection are performed in order, the relative angles θ1, θ2, and θ3 can be obtained.

このように、角度検出部81によって相対角度θ1,θ2,θ3が求まると、姿勢特定部6は、第一の実施の形態と同様に、ブーム7、アーム8およびアタッチメント9の姿勢の特定が可能である。   Thus, when the relative angles θ1, θ2, and θ3 are obtained by the angle detection unit 81, the posture specifying unit 6 can specify the postures of the boom 7, the arm 8, and the attachment 9, as in the first embodiment. It is.

第二の実施の形態における角度検出装置80のハードウェア資源の構成についても第一の実施の形態の角度検出装置1と同様に構成されており、角度検出装置80の各部における構成は、CPU61の角度検出装置80の処理を行うためアプリケーションプログラムの実行により実現できる。   The configuration of the hardware resources of the angle detection device 80 in the second embodiment is the same as that of the angle detection device 1 in the first embodiment, and the configuration of each part of the angle detection device 80 is the same as that of the CPU 61. The processing of the angle detection device 80 can be realized by executing an application program.

以上、角度検出装置80の構成について説明したが、以下、角度検出装置1の角度検出処理手順を図15のフローチャートの一例に基づいて説明する。   The configuration of the angle detection device 80 has been described above. Hereinafter, the angle detection processing procedure of the angle detection device 1 will be described based on an example of the flowchart of FIG.

まず、角度検出装置80は、角度検出のため、まず、カメラ4で撮影範囲を撮影する(ステップS21)。次に、カメラ4で撮影した画像に対して前述の二値化処理を行って二値化画像を得る(ステップS22)。さらに、二値化画像の座標を射影変換を行う(ステップS23)。   First, the angle detection device 80 first captures an imaging range with the camera 4 for angle detection (step S21). Next, the above binarization process is performed on the image captured by the camera 4 to obtain a binarized image (step S22). Further, projective transformation is performed on the coordinates of the binarized image (step S23).

つづいて、射影変換後の二値化画像から予め決められた箇所である連結軸8a,9a,10a,10bの領域抽出を行って(ステップS24)、相対角度θ1,θ2,θ3を求める(ステップS25)。   Subsequently, the regions of the connecting axes 8a, 9a, 10a, and 10b, which are predetermined locations, are extracted from the binarized image after projective transformation (step S24), and the relative angles θ1, θ2, and θ3 are obtained (step S24). S25).

最後に、得られた相対角度θ1,θ2,θ3からブーム7、アーム8およびアタッチメント9の姿勢を特定する(ステップS26)。   Finally, the postures of the boom 7, the arm 8, and the attachment 9 are specified from the obtained relative angles θ1, θ2, and θ3 (step S26).

以上、ステップS21からステップS26までの処理を所定周期で繰り返し行って、相対角度θ1,θ2,θ3の角度検出とブーム7、アーム8およびアタッチメント9の姿勢の特定を連続して行う。   As described above, the processing from step S21 to step S26 is repeatedly performed at a predetermined period, and the angle detection of the relative angles θ1, θ2, and θ3 and the postures of the boom 7, the arm 8, and the attachment 9 are continuously performed.

なお、領域抽出する箇所が連結軸8a,9a,10a,10bでない場合、図15に示すように、ステップS22で二値化画像を得たのち、第一の実施の形態のフローチャートと同様に、ブーム7の予め決められた箇所を抽出して(ステップS31)、旋回体3に対するブーム7の相対角度θ1を求めて(ステップS32)、相対角度θ1から連結軸8aの中心座標を求める(ステップS33)。続いて、連結軸8aの座標からアーム8の予め決められた箇所の領域を抽出して(ステップS34)、ブーム7に対するアーム8の相対角度θ2を求める(ステップS35)。そして、相対角度θ2から連結軸10aの中心座標を求めて(ステップS36)、アタッチメント9の予め決められた箇所の領域を抽出して(ステップS37)、アーム8に対するアタッチメント9の相対角度θ3を求め(ステップS38)、相対角度θ3からアタッチメント9の先端の座標を求める(ステップS39)。このようにすれば、領域抽出する箇所が連結軸8a,9a,10a,10bでない場合にも相対角度θ1,θ2,θ3の角度検出とブーム7、アーム8およびアタッチメント9の姿勢の特定を連続して行える。   In addition, when the location to extract the region is not the connecting shaft 8a, 9a, 10a, 10b, as shown in FIG. 15, after obtaining the binarized image in step S22, as in the flowchart of the first embodiment, A predetermined portion of the boom 7 is extracted (step S31), the relative angle θ1 of the boom 7 with respect to the revolving structure 3 is obtained (step S32), and the center coordinates of the connecting shaft 8a are obtained from the relative angle θ1 (step S33). ). Subsequently, an area of a predetermined portion of the arm 8 is extracted from the coordinates of the connecting shaft 8a (step S34), and a relative angle θ2 of the arm 8 with respect to the boom 7 is obtained (step S35). Then, the center coordinate of the connecting shaft 10a is obtained from the relative angle θ2 (step S36), the region of the predetermined location of the attachment 9 is extracted (step S37), and the relative angle θ3 of the attachment 9 with respect to the arm 8 is obtained. (Step S38), the coordinates of the tip of the attachment 9 are obtained from the relative angle θ3 (Step S39). In this way, even when the region to be extracted is not the connecting shaft 8a, 9a, 10a, 10b, the angle detection of the relative angles θ1, θ2, θ3 and the identification of the postures of the boom 7, the arm 8, and the attachment 9 are continued. Can be done.

このように構成された角度検出装置80は、可動部材Mのうち末端のリンク(旋回体3)に取付けられるカメラ4で他のリンク(ブーム7、アーム8およびアタッチメント9)を撮影し、その撮影した画像から他のリンク7,8,9の相対角度θ1,θ2,θ3を求める。このように角度検出装置80は、センサ類を用いないので、センサ類の故障の心配もなく、カメラ4の設置個所は自由度が高く安全な場所に設置できるので厳しい使用環境にも耐えられる。また、角度検出装置80では、ブーム等の姿勢の特定に際してマーカー位置データとブーム等の座標を照合する必要がないので、膨大なマップ位置データの保有が不要となり、大容量のメモリを必要としない。よって、角度検出装置80のコストも低減できる。なお、本例では、各リンク3,7,8,9が揺動可能に連結されているが、首振り可能に連結されていても、同じ画像処理によって相対角度を検出できる。   The angle detection device 80 configured in this manner photographs the other links (the boom 7, the arm 8, and the attachment 9) with the camera 4 attached to the end link (swivel body 3) of the movable member M, and the photographing. The relative angles θ1, θ2, θ3 of the other links 7, 8, 9 are obtained from the obtained images. As described above, since the angle detection device 80 does not use sensors, there is no fear of failure of the sensors, and the installation location of the camera 4 can be installed in a safe place with a high degree of freedom, and can withstand harsh use environments. Further, in the angle detection device 80, it is not necessary to collate the marker position data with the coordinates of the boom or the like when specifying the posture of the boom or the like, so that it is not necessary to store a huge amount of map position data and a large capacity memory is not required. . Therefore, the cost of the angle detection device 80 can also be reduced. In this example, the links 3, 7, 8, 9 are connected so as to be swingable. However, even if they are connected so as to be able to swing, the relative angle can be detected by the same image processing.

また、本例では、角度検出装置80は、求めた相対角度θ1,θ2,θ3から他のリンクの姿勢を特定できるので、角度検出装置1が適用される建設機械Cのリンクの重心位置が求められ、ZMPの演算に必要な角度情報が得られる。   Further, in this example, the angle detection device 80 can determine the posture of another link from the obtained relative angles θ1, θ2, and θ3, so the center of gravity position of the link of the construction machine C to which the angle detection device 1 is applied is obtained. Thus, angle information necessary for ZMP calculation is obtained.

角度検出装置80は、各リンク7,8,9の回転軸である連結軸7a,8a,9a,10a,10bを予め決められた箇所として領域抽出すれば、各リンク7,8,9の姿勢を特定せずとも、相対角度θ1,θ2,θ3を求められる。なお、本例にあっても、可動部材Mが三つ以上のリンク3,7,8,9を有し、角度検出部5は、末端のリンク3から一番近いリンク7の相対角度θ1を求め、末端のリンク3から二番目以降の近いリンク8,9については、姿勢特定部6により特定された一つ手前のリンク7,8の姿勢に基づいて相対角度θ2,θ3を求められる。よって、この角度検出装置80にあっても、第一の実施の形態の角度検出装置1と同様に、可動部材Mが多数のリンクを有する場合にあっても、全リンクの相対角度θ1,θ2,θ3を簡単に検出できる。   If the angle detection device 80 extracts the connecting shafts 7a, 8a, 9a, 10a, and 10b, which are the rotation shafts of the links 7, 8, and 9 as regions determined in advance, the postures of the links 7, 8, and 9 are extracted. Relative angles θ1, θ2, and θ3 can be obtained without specifying. Even in this example, the movable member M has three or more links 3, 7, 8, 9, and the angle detection unit 5 determines the relative angle θ 1 of the link 7 closest to the end link 3. The relative angles θ2 and θ3 are obtained for the second and subsequent links 8 and 9 from the end link 3 based on the posture of the immediately preceding link 7 and 8 specified by the posture specifying unit 6. Therefore, even in this angle detection device 80, as in the angle detection device 1 of the first embodiment, even when the movable member M has a large number of links, the relative angles θ1 and θ2 of all the links. , Θ3 can be easily detected.

また、本例の角度検出装置80にあっては、角度検出部81がカメラ4で撮影した前記画像を処理して、カメラ4が撮影した画像から他のリンク7,8,9の予め決められた箇所を抽出し、箇所と他のリンク7,8,9における回転中心7a,8a,10aとを結ぶ直線を求め、この直線に基づいて相対角度θ1,θ2,θ3を求める。よって、このように構成された角度検出装置80は、カメラ4で撮影した連続画像からではなく、一つの画像から相対角度θ1,θ2,θ3を検出できるので、時間をかけずにタイムリーに角度検出できる。   Further, in the angle detection device 80 of the present example, the angle detection unit 81 processes the image captured by the camera 4, and other links 7, 8, 9 are determined in advance from the image captured by the camera 4. Then, a straight line connecting the part and the rotation centers 7a, 8a, 10a in the other links 7, 8, 9 is obtained, and relative angles θ1, θ2, θ3 are obtained based on this straight line. Therefore, the angle detection device 80 configured as described above can detect the relative angles θ1, θ2, and θ3 from one image, not from a continuous image taken by the camera 4, so that the angle is detected in a timely manner without taking time. It can be detected.

さらに、本例の角度検出装置80にあっても、可動部材Mが末端のリンクを建設機械Cの旋回体3とし、他のリンクを建設機械Cの旋回体3に回転自在に連結される作業装置Wとし、カメラ4が旋回体3のキャビン3a内に設置されるようになっている。このように相対角度検出に必要な画像を撮影するカメラ4がキャビン3a内に収容されるので、カメラ4が建設機械Cの外部環境から保護される。よって、本例の角度検出装置80にあっては、カメラ4が風雨に晒されず、土木工事作業中の石や土砂の飛来からも保護されるので、安定した相対角度検出が可能となる。   Further, even in the angle detection device 80 of the present example, the movable member M is an operation in which the end link is used as the revolving structure 3 of the construction machine C and the other link is rotatably connected to the revolving structure 3 of the construction machine C. As a device W, the camera 4 is installed in the cabin 3 a of the revolving unit 3. Since the camera 4 that captures an image necessary for relative angle detection is housed in the cabin 3a in this way, the camera 4 is protected from the external environment of the construction machine C. Therefore, in the angle detection device 80 of the present example, the camera 4 is not exposed to wind and rain, and is protected from flying stones and earth and sand during civil engineering work, so that stable relative angle detection is possible.

以上で、本発明の実施の形態についての説明を終えるが、本発明の範囲は図示されまたは説明された詳細そのものには限定されないのは勿論である。   This is the end of the description of the embodiment of the present invention, but the scope of the present invention is of course not limited to the details shown or described.

1,80・・・角度検出装置、3・・・旋回体(末端のリンク)、3a・・・キャビン、4・・・カメラ、5,81・・・角度検出部、6・・・姿勢特定部、7・・・ブーム(他のリンク)、8・・・アーム(他のリンク)、9・・・アタッチメント(他のリンク)、C・・・建設機械、M・・・可動部材、W・・・作業装置、 DESCRIPTION OF SYMBOLS 1,80 ... Angle detection apparatus, 3 ... Revolving body (terminal link), 3a ... Cabin, 4 ... Camera, 5, 81 ... Angle detection unit, 6 ... Posture specification Part, 7 ... boom (other link), 8 ... arm (other link), 9 ... attachment (other link), C ... construction machine, M ... movable member, W ... Working equipment,

Claims (6)

相対回転可能に直列に連結される複数のリンクを有する可動部材のうち末端のリンクに取り付けられて前記末端のリンク以外の他のリンク或いは全リンクを撮影可能なカメラと、
前記カメラが撮影した画像に基づいて隣り合う前記リンク同士の相対角度を検出する角度検出部とを備えた
ことを特徴とする角度検出装置。
A camera that is attached to the end link among the movable members having a plurality of links connected in series so as to be relatively rotatable, and is capable of photographing other links or all links other than the end link;
An angle detection device comprising: an angle detection unit that detects a relative angle between adjacent links based on an image captured by the camera.
前記角度検出部が検出した前記相対角度に基づいて、前記末端のリンクに対する前記他のリンクの姿勢を特定する姿勢特定部を備えた
ことを特徴とする請求項1に記載の角度検出装置。
The angle detection device according to claim 1, further comprising a posture specifying unit that specifies a posture of the other link with respect to the link at the end based on the relative angle detected by the angle detection unit.
前記可動部材は、三つ以上のリンクを有し、
前記角度検出部は、
前記末端のリンクから一番近いリンクの前記相対角度を求めるとともに、
前記末端のリンクから二番目以降の近いリンクについては、前記姿勢特定部により特定された一つ手前のリンクの前記姿勢に基づいて前記相対角度を求める、
ことを特徴とする請求項2に記載の角度検出装置。
The movable member has three or more links,
The angle detector
Determining the relative angle of the link closest to the end link;
For the second and subsequent close links from the end link, the relative angle is obtained based on the posture of the link immediately before specified by the posture specifying unit.
The angle detection device according to claim 2.
前記角度検出部は、前記カメラで撮影した前記画像を処理して、前記他のリンクのエッジを検出し、前記相対角度を求める
ことを特徴とする請求項1から3のいずれか一項に記載の角度検出装置。
The said angle detection part processes the said image image | photographed with the said camera, detects the edge of said other link, and calculates | requires the said relative angle. Angle detection device.
前記角度検出部は、前記カメラが撮影した前記画像から前記他のリンクの予め決められた箇所を抽出し、前記箇所と前記他のリンクにおける回転中心とを結ぶ直線を求め、前記直線に基づいて前記相対角度を求める
ことを特徴とする請求項1から3のいずれか一項に記載の角度検出装置。
The angle detection unit extracts a predetermined location of the other link from the image captured by the camera, obtains a straight line connecting the location and the rotation center of the other link, and based on the straight line The angle detection device according to any one of claims 1 to 3, wherein the relative angle is obtained.
前記可動部材は、前記末端のリンクを建設機械の旋回体とし、前記他のリンクを前記建設機械の前記旋回体に回転自在に連結される作業装置とし、
前記カメラは、前記旋回体のキャビン内に設置される
ことを特徴とする請求項1から5のいずれか一項に記載の角度検出装置。
The movable member is a working device in which the end link is a revolving body of a construction machine and the other link is rotatably connected to the revolving body of the construction machine,
The angle detection device according to any one of claims 1 to 5, wherein the camera is installed in a cabin of the revolving structure.
JP2015175379A 2015-09-07 2015-09-07 Angle detector Active JP6491576B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015175379A JP6491576B2 (en) 2015-09-07 2015-09-07 Angle detector

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015175379A JP6491576B2 (en) 2015-09-07 2015-09-07 Angle detector

Publications (2)

Publication Number Publication Date
JP2017053627A true JP2017053627A (en) 2017-03-16
JP6491576B2 JP6491576B2 (en) 2019-03-27

Family

ID=58320650

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015175379A Active JP6491576B2 (en) 2015-09-07 2015-09-07 Angle detector

Country Status (1)

Country Link
JP (1) JP6491576B2 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020520425A (en) * 2017-05-05 2020-07-09 ジェイ.シー. バンフォード エクスカベターズ リミテッド Work machine
CN111402337A (en) * 2020-04-03 2020-07-10 中联重科股份有限公司 Attitude identification method and device for engineering mechanical arm frame equipment and engineering machine
JP2021033568A (en) * 2019-08-22 2021-03-01 ナブテスコ株式会社 Information processing system, information processing method, and construction machine
KR20210030875A (en) 2019-09-10 2021-03-18 나부테스코 가부시키가이샤 Information processing apparatus, information processing system, information processing method, computer program, construction machine
JP7458262B2 (en) 2020-07-29 2024-03-29 株式会社Ihiエアロスペース Arm position detection system for construction machinery
EP4350083A1 (en) 2022-10-07 2024-04-10 University of Hyogo Working machine and position detecting device

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6267208U (en) * 1985-10-16 1987-04-27
JP2001098587A (en) * 1999-10-04 2001-04-10 Hitachi Constr Mach Co Ltd Antitheft device for construction machine
JP2008240361A (en) * 2007-03-27 2008-10-09 Komatsu Ltd Method and system for supporting fuel cost saving operation of construction machine

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6267208U (en) * 1985-10-16 1987-04-27
JP2001098587A (en) * 1999-10-04 2001-04-10 Hitachi Constr Mach Co Ltd Antitheft device for construction machine
JP2008240361A (en) * 2007-03-27 2008-10-09 Komatsu Ltd Method and system for supporting fuel cost saving operation of construction machine

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020520425A (en) * 2017-05-05 2020-07-09 ジェイ.シー. バンフォード エクスカベターズ リミテッド Work machine
JP2020520424A (en) * 2017-05-05 2020-07-09 ジェイ.シー. バンフォード エクスカベターズ リミテッド Training machine
JP7240382B2 (en) 2017-05-05 2023-03-15 ジェイ.シー. バンフォード エクスカベターズ リミテッド working machine
JP2021033568A (en) * 2019-08-22 2021-03-01 ナブテスコ株式会社 Information processing system, information processing method, and construction machine
KR20210023747A (en) 2019-08-22 2021-03-04 나부테스코 가부시키가이샤 Information processing system, information processing method, construction machine
JP7383255B2 (en) 2019-08-22 2023-11-20 ナブテスコ株式会社 Information processing systems, information processing methods, construction machinery
KR20210030875A (en) 2019-09-10 2021-03-18 나부테스코 가부시키가이샤 Information processing apparatus, information processing system, information processing method, computer program, construction machine
JP2021042569A (en) * 2019-09-10 2021-03-18 ナブテスコ株式会社 Information processing device, information processing system, information processing method, computer program, and construction machine
JP7282002B2 (en) 2019-09-10 2023-05-26 ナブテスコ株式会社 Information processing device, information processing system, information processing method, computer program, construction machine
CN111402337A (en) * 2020-04-03 2020-07-10 中联重科股份有限公司 Attitude identification method and device for engineering mechanical arm frame equipment and engineering machine
JP7458262B2 (en) 2020-07-29 2024-03-29 株式会社Ihiエアロスペース Arm position detection system for construction machinery
EP4350083A1 (en) 2022-10-07 2024-04-10 University of Hyogo Working machine and position detecting device

Also Published As

Publication number Publication date
JP6491576B2 (en) 2019-03-27

Similar Documents

Publication Publication Date Title
JP6491576B2 (en) Angle detector
WO2021208273A1 (en) System for identifying state parameters, hoisting positioning system, and hoisting apparatus
US9738493B2 (en) Tower slewing crane
JP6050525B2 (en) Position measuring system, work machine, and position measuring method
WO2021098236A1 (en) Crane hook positioning method, apparatus and system, and engineereing machinery
US10118553B2 (en) Excavation device using stereo camera and angle sensors to position bucket
JP5227139B2 (en) Construction machinery
US9303473B2 (en) Videometric systems and methods for offshore and oil-well drilling
JP6995767B2 (en) Measurement system, work machine and measurement method
JP5642409B2 (en) Crane control device and crane
JP6229097B2 (en) Calibration system, work machine and calibration method
WO2016047807A1 (en) Calibration system, working machine, and calibration method
JP2015182184A (en) robot
CN110954067A (en) Monocular vision excavator pose measurement system and method based on target
WO2010009570A1 (en) A hoist-positioning method and intelligent vision hoisting system
CN112673284A (en) Coordinate conversion system and working machine
US20180333857A1 (en) Workpiece picking system
CN212425180U (en) Hoisting information identification system, hoisting positioning system and hoisting equipment
WO2019059091A1 (en) Utility pole management system
JP2020033704A (en) Work machine
CN113901600B (en) Automatic monitoring and controlling method and system for lifting load balance of intelligent tower crane
JP6578170B2 (en) Construction machine angle detector
JP6237122B2 (en) Robot, image processing method and robot system
CN112265912A (en) Integrated operation system and method of lorry-mounted crane
US20230374749A1 (en) System for setting target trajectory of attachment

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180221

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181120

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181121

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181225

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190301

R151 Written notification of patent or utility model registration

Ref document number: 6491576

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350