JP7064664B2 - 対象認識装置、方法およびプログラムならびに対象除去システム - Google Patents

対象認識装置、方法およびプログラムならびに対象除去システム Download PDF

Info

Publication number
JP7064664B2
JP7064664B2 JP2018062925A JP2018062925A JP7064664B2 JP 7064664 B2 JP7064664 B2 JP 7064664B2 JP 2018062925 A JP2018062925 A JP 2018062925A JP 2018062925 A JP2018062925 A JP 2018062925A JP 7064664 B2 JP7064664 B2 JP 7064664B2
Authority
JP
Japan
Prior art keywords
dimensional data
recognition device
extracted
predetermined section
massive
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018062925A
Other languages
English (en)
Other versions
JP2019174287A (ja
Inventor
岳志 伊藤
敏博 千葉
雄一郎 西田
智也 大川
博信 菅野
伸悟 磯谷
史一 村上
滋 皿田
孝司 坪内
勝 今井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Taiheiyo Cement Corp
Original Assignee
Taiheiyo Cement Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Taiheiyo Cement Corp filed Critical Taiheiyo Cement Corp
Priority to JP2018062925A priority Critical patent/JP7064664B2/ja
Publication of JP2019174287A publication Critical patent/JP2019174287A/ja
Application granted granted Critical
Publication of JP7064664B2 publication Critical patent/JP7064664B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Drilling And Exploitation, And Mining Machines And Methods (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Disintegrating Or Milling (AREA)

Description

本発明は、撮影された画像から塊状の対象を認識する対象認識装置、方法およびプログラムならびに対象除去システムに関する。
鉱山の採掘現場では原料の岩石を適度な大きさに破砕し運搬する。この工程では、破砕岩石を篩(グリズリバー)にかけるため、篩を通過せず篩上に堆積した大塊岩石を検出し、破砕または除去することが必要となる。破砕作業のためにはまず大塊岩石を特定する。その結果、鉱山の立抗下小割り室における大塊岩石の除去作業の負担を軽減できる。
従来、画像を利用して岩石を認識する方法が知られている。特許文献1記載のシステムは、カメラにより撮像された画像およびマイクロフォンにより検出された音信号により岩石の流動状態を判別し、採掘場で破砕された岩石をクラッシャーに投入する際に篩いに残った大塊岩石を認識して自動的に大塊岩石を除去する方法が提案されているが、大塊岩石の認識方法の詳細は開示されていない。
特開2009-235781号公報
また、上記のように流動状態の監視により大塊岩石の認識が自動的になされるとしても精度が十分でなければ作業員の確認を要することになる。その場合には、作業員自らが大塊岩石を確認し、除去操作を行わなければならず、結局、作業員の配置が必要な状況は変わらない。このような例に限らず、岩石のように凸多面体様の外形を有する塊状の対象を高精度で検出するのは困難である。
本発明は、このような事情に鑑みてなされたものであり、基準面を設定することで凸多面体様の外形を有する塊状の対象の表面を検出でき、塊状の対象を容易に検出できる対象認識装置、方法およびプログラムならびに対象除去システムを提供することを目的とする。
(1)上記の目的を達成するため、本発明の対象認識装置は、塊状の対象を認識する対象認識装置であって、異なる角度で撮影された複数の画像をもとに撮影対象の位置情報を表わす3次元データを生成する3次元データ生成部と、所定の区画について前記3次元データの基準面からの距離が所定の範囲内にあると判定されたとき、前記所定の区画の3次元データを塊状の対象の表面として抽出する表面抽出部と、前記抽出された表面を用いて塊状の対象を認識する認識部を備えることを特徴としている。これにより、凸多面体様の外形を有する塊状の対象の表面を抽出でき、対象を容易に認識できる。その結果、例えば岩石の破砕工程で篩に詰まった大塊岩石を効率よく認識できる。
(2)また、本発明の対象認識装置は、前記表面抽出部が、前記基準面として角度配置の異なる複数の平面を用いることを特徴としている。これにより凸多面体様の外形を有する塊状の対象の表面を容易に抽出できる。
(3)また、本発明の対象認識装置は、前記抽出された表面について前記所定の区画ごとに前記3次元データの代表点を算出する代表点算出部を更に備え、前記認識部は、前記抽出された表面として前記代表点を用いて塊状の対象を認識することを特徴としている。これにより、所定の区画ごとに多数の3次元データではなく、代表点で表面を取り扱うことができるため、処理するデータ量を低減し処理の効率を高めることができる。
(4)また、本発明の対象認識装置は、前記代表点算出部が、前記代表点として、前記所定の区画ごとに前記3次元データの平均位置を算出することを特徴としている。平均位置とすることで所定の区画の塊状の対象の表面を適正に表すことができる。
(5)また、本発明の対象認識装置は、前記3次元データにおける輝度の差を用いて、塊状の対象の輪郭を抽出する輪郭抽出部を更に備え、前記認識部は、前記抽出された表面および輪郭を用いて塊状の対象を認識することを特徴としている。これにより、位置情報から抽出された表面だけでなく、輝度情報から抽出された輪郭をも併用することで、塊状の対象の位置、大きさ、形状などを高精度に認識できる。
(6)また、本発明の対象認識装置は、前記輪郭抽出部が、前記所定の区画内の前記3次元データの輝度が絶対的基準値より小さい条件または位置間での輝度の差が相対的基準値より大きい条件の少なくとも一方を満たす場合に前記所定の区画を輪郭として抽出することを特徴としている。これにより、塊状の対象の表面と空隙との差を捉えることができ、塊状の対象の輪郭を抽出できる。
(7)また、本発明の対象除去システムは、前記複数の画像を撮影するカメラと、上記の(1)から(6)のいずれかに記載の対象認識装置と、前記認識された塊状の対象が所定時間同じ位置に留まっているとき、前記同じ位置に留まっている塊状の対象を除去対象として判定する判定部と、前記除去対象の塊状の対象を破砕または移動する小割り機と、を備えることを特徴としている。これにより、岩石の破砕工程で篩いに詰まった大塊岩石を除去できる。その結果、岩石の小割り作業を自動化でき、操作員の負担を軽減できる。
(8)また、本発明の対象認識方法は、塊状の対象を認識する方法であって、異なる角度で撮影された複数の画像をもとに撮影対象の位置情報を表わす3次元データを生成するステップと、所定の区画について前記3次元データの基準面からの距離が所定の範囲内にあると判定されたとき、前記所定の区画の3次元データを塊状の対象の表面として抽出するステップと、前記抽出された表面を用いて塊状の対象を認識するステップと、を含むことを特徴としている。これにより、基準面を設定することで凸多面体様の外形を有する塊状の対象の表面を抽出でき、対象を容易に認識できる。
(9)また、本発明のプログラムは、塊状の対象を認識するプログラムであって、異なる角度で撮影された複数の画像をもとに撮影対象の位置情報を表わす3次元データを生成する処理と、所定の区画について前記3次元データの基準面からの距離が所定の範囲内にあると判定されたとき、前記所定の区画の3次元データを塊状の対象の表面として抽出する処理と、前記抽出された表面を用いて塊状の対象を認識する処理と、をコンピュータに実行させることを特徴としている。これにより、基準面を設定することで凸多面体様の外形を有する塊状の対象の表面を抽出でき、対象を容易に認識できる。
本発明によれば、凸多面体様の外形を有する塊状の対象の表面を抽出でき、さらに塊状の対象の位置、大きさ、形状を容易に精度よく認識できる。
本発明の対象除去システムの機能的構成を示す図である。 本発明の対象除去システムの動作を示すフローチャートである。 本発明の対象認識装置の動作を示すフローチャートである。 3次元データの代表点抽出の各領域を示す模式図である。 代表点算出の処理を示す模式図である。 (a)、(b)それぞれカメラと代表点の相対位置関係を示す模式図および基準面を用いた表面抽出処理を示す模式図である。 単一の基準面による表面抽出後の画像データを示す図である。 (a)、(b)それぞれ光軸に垂直な基準面を用いる場合および光軸に垂直な面から傾いた基準面を用いる場合の処理を示す模式図である。 複数の基準面による表面抽出後の画像データを示す図である。 表面抽出に加え輪郭抽出を行った場合の処理後の画像を示す図である。
以下に、本発明の実施形態について説明する。なお、説明中の記載値は一例であり、認識しようとする対象の大きさや形状、カメラや処理装置の性能等によって記載値以外の数値をとることもある。
[第1の実施形態]
(対象除去システムの構成)
対象除去システム100は、自動的に塊状の対象が除去対象であるかを認識し、除去対象である場合にはその除去が可能なシステムである。例えば、鉱山の採掘現場等で、自動的に破砕岩石堆積中の大塊岩石を特定して大塊岩石を除去できる。なお、鉱山から採掘される岩石は、セメント原料に限らず、コンクリートの骨材や無機材料の原料としても用いられる。
図1は、対象除去システム100機能的構成の一例を示す図である。対象除去システム100は、カメラ105、コンピュータ110(対象認識装置)、操作部140、表示部150および小割り機200を備えており、カメラ105で撮影した画像に由来する撮影領域の表面を表わす3次元データ(ステレオビジョンの原画像)から特定した岩石300を小割り機200で除去できる。表面を表わすデータであるため、岩石300の裏側や隠蔽された岩石300は見えないが、岩石300の認識には問題ない。
カメラ105は、複数の異なる角度の画像を撮影する。カメラ105は、制御や処理を容易にする観点から所定の位置に複数台設けられているステレオビジョンシステムを構成することが好ましい。例えば死角を避けるためカメラ105は左右に1台ずつ固定して設置し、それぞれに右半面、左半面を担当させることができる。なお、1台のカメラ105を移動させて死角を作らないように複数の角度の画像を撮影してもよい。カメラ105のフレームレートは、特に限定されないが、少なくとも数秒に一回の判定に必要な速度を満たしていることが好ましい。データ転送速度に応じて設定可能であり、例えば20fpsと設定できる。
(対象認識装置の構成)
コンピュータ110は、メモリおよびCPUを備えており、例えばPCを用いることができる。コンピュータ110は、メモリに記憶されたプログラムを実行することで動作し、塊状の対象を認識する対象認識装置としても機能する。
塊状の対象は、凸多面体様の外形を有する対象を指し、本実施形態では岩石300を指すが、これに限定されず金属等の各種材料の塊や廃材も含まれる。したがって、対象認識装置は、これのみで対象除去システム100以外にも応用可能である。なお、一連の判別計算は1回数百ミリ秒かかる場合もあるが、コンピュータ110には数秒に1回の頻度で計算する能力があればよい。
コンピュータ110は、機能的構成として、3次元データ生成部111、表面抽出部112、代表点算出部113、輪郭抽出部114、認識部115、判定部120および小割り機制御部130を備えている。コンピュータ110は、カメラ105で撮影した画像を受信する。
3次元データ生成部111は、異なる角度で撮影された複数の画像をもとに撮影領域の表面を表わす3次元データを生成する。3次元データの生成では、角度の異なる2枚の画像から同一点を探索し、視差を求め、視差に基づいて同一点の3次元位置を算出する。例えば、撮影環境内に存在するパターンとは明確に区別できる図形をマーカーとして用いることにより、同一点の探索が容易になり、それに伴う誤差の減少により正確な3次元位置を得ることができる。マーカーとしては白黒の交差する図形標識を撮影領域内に設置することが可能である。
例えば、CCDカメラ2台によるステレオビジョンシステムからは数十万点の点で構成される点群として3次元データが得られる。画像からは各点のデータとして、3次元座標と輝度が得られる。3次元座標は、例えばカメラ105の光軸をz軸、z軸に垂直で鉛直面に平行な軸をy軸、z軸およびy軸に垂直な軸をx軸としたときのx、y、z座標である。なお、本実施形態ではコンピュータ110側で3次元データを生成する構成を採っているが、カメラ105側で3次元データを生成してコンピュータ110に送信する構成であってもよい。
表面抽出部112は、所定の区画について生成された3次元データが、ある基準面からの距離が所定の範囲内(すなわち各点の基準面からの距離の差が所定の範囲内)にあると判定されたとき、判定に用いられたデータから塊状の対象の表面を抽出する。例えば、5×5=25点の区画について3次元位置から平面度を判定し、一定の基準を満たす場合にはその区画を平面と判定している。なお、所定の区画の好ましい大きさは、設備の規模、塊状の対象の大きさ、形状、成分、破砕方法などで異なるが、例えば実験を行った鉱山における岩石の小割り作業においては、前記5×5=25点は、認識すべき岩石の表面の20mmから100mm四方に相当する。
基準面は、篩350の載置面を基準にして例えばx軸回りに-20°以上40°以下の範囲の傾きを有し、y軸回りに-10°以上10°以下の範囲の傾きを有することができる。これにより、塊状の対象の表面に対し平行に近い基準面を設定でき、塊状の対象の表面を確実に抽出できる。また、基準面からの距離の所定の範囲は、例えば40mm未満とすることができる。これら基準面の傾き、および基準面からの距離の所定の範囲は、設備の規模、篩350の目開きの大きさ、破砕する塊状物の種類や成分、破砕方法などにより最適値が異なり、前記数値以外の範囲をとることもある。参考までに記載すると、前記所定の区画の大きさ、前記基準面の傾き、および基準面からの距離の例示の数値は、石灰石鉱山における篩の目開きが800mmの岩石破砕設備で実験を行った場合のものである。
表面抽出部112は、基準面として角度配置の異なる複数の平面を用いることが好ましい。角度配置の異なる複数の基準面を用いることで塊状の対象の傾斜した外形表面を精度よく抽出できる。
代表点算出部113は、所定の区画ごとに、生成された3次元データの代表点を算出する。これにより、所定の区画ごとに代表点で表面を取り扱うことができるため、処理するデータ量を低減し処理の効率を高めることができる。代表点算出部113は、代表点として、所定の区画ごとに生成された3次元データの平均位置を算出することが好ましい。これにより、平均位置とすることで所定の区画の塊状の対象の表面を適正に表すことができる。なお、平均値に代えて中央値、最頻値を用いることもできる。
輪郭抽出部114は、3次元データにおける輝度の差を用いて、塊状の対象の輪郭を抽出する。輪郭抽出部114は、3次元データの輝度の最大値と最小値との間を256階調で表したときに所定の区画内の3次元データの輝度が絶対的基準値より小さい条件または位置間での輝度の差が相対的基準値より大きい条件の少なくとも一方を満たす場合に、所定の区画(代表点)を輪郭として抽出することが好ましい。これにより、塊状の対象の表面と空隙との差を捉えることができ、塊状の対象の輪郭を抽出できる。
認識部115は、抽出された表面を用いて塊状の対象を認識する。具体的には、処理された画像からラベリング処理(画像処理で連続した領域を抽出する手法)によって連続した部分を抽出し塊状の対象と判定する。これにより、基準面を設定することで凸多面体様の外形をもつ塊状の対象の表面を抽出でき、塊状の対象を容易に検出できる。その結果、例えば岩石の破砕工程に応用すれば篩350に詰まった大塊岩石を効率よく認識できる。認識部115は、抽出された塊状の対象の表面だけでなく輪郭を用いて塊状の対象を認識することが好ましい。表面の位置情報だけでなく、輝度の差も重畳して用いることでエッジが明確になり、確実に塊状の対象を認識できる。
判定部120は、認識された塊状の対象が所定時間同じ位置に留まっているとき、同じ位置に留まっている塊状の対象を除去対象として判定する。採掘された岩石を篩にかける工程では、同じ位置に滞留している岩石は、篩350を通らない大塊岩石とみなしてよい。
小割り機制御部130は、小割り機200が大塊岩石を除去するための動作を制御する。すなわち、判定部120で篩350に滞留している大塊岩石として認識された対象を目標として、岩石を破砕するための位置に小割り機200の先端を移動させ、先端が大塊岩石を破砕または移動するよう自動操作することができる。
操作部140は、例えばキーボードやマウス等であり、作業者による操作を受け付ける。作業者は操作部140を操作することで、一連の動作のパラメータの調整や停止、再開等が可能である。小割り機200の動作は、自動であることが好ましいが、操作部140による操作が可能であってもよい。表示部150は、カメラ105が撮影した画像や処理後の画像(表面や輪郭が抽出された画像)や操作に必要なユーザインターフェースを表示する。
小割り機200は、特に指定しないが例えば、ブームおよびアーム等からなる直列リンク機構を有し、先端に装着されたブレーカにより除去対象の塊状の対象を破砕または移動する。直列リンク機構の各関節には回転角度を検出するセンサ、各油圧アクチュエータには発生力または反力を検出する油圧センサが装着されていてもよい。そして、これらのセンサにより検出される信号および小割り機制御部130から出力される制御データに基づいて、油圧アクチュエータにより直列リンク機構が動作されるものでもよい。
このようにして、岩石の破砕工程で篩350に詰まった大塊岩石を除去できる。その結果、例えば採掘された岩石を篩にかける工程である、石灰石鉱山の立抗下小割り室における大塊岩石の小割り作業を自動化でき、操作員の負担を軽減できる。
(対象除去システムの動作)
上記のように構成された対象除去システム100の動作の一例を説明する。図2は、対象除去システム100の動作を示すフローチャートである。まず、カメラ105で撮影した複数の角度からの撮影対象の画像をコンピュータ110で受信する(ステップS1)。受信した画像から表面を表す3次元データを生成する(ステップS2)。生成された3次元データを用いて岩石を認識する(ステップS3)。岩石の認識処理の詳細は、対象認識装置の動作として後述する。
認識された岩石のうち篩の位置で滞留しつづける岩石があるか否かを判定する(ステップS4)。滞留する岩石があると判定された場合には、その岩石を大塊岩石と認識し、小割り機200を制御して大塊岩石を除去し(ステップS5)、終了する。滞留する岩石が無いと判定された場合にはそのまま終了する。
(対象認識装置の動作)
次に、対象認識装置の動作の一例を説明する。図3は、対象認識装置の動作を示すフローチャートである。まず、3次元データ(3次元の位置情報)を用いて所定の区画(例えば、25ピクセルで1区画)の各々が平面か否かを判定する。判定基準は所定の区画内のすべての位置で、ある基準面からの距離が所定の範囲内にあると判定されたとき、平面であると判定し、塊状の対象の表面として抽出する(ステップT1)。例えば、ある基準面に対して1区画25点の高さ方向の差異の最大値(最大奥行き距離)が40mm未満なら平面、40mm以上ならエッジ(輪郭)と判定できる。
1区画について、複数の異なる角度の基準面に対して上記の計算および判定を行ない、例えば全ての基準面が60面だとしたらそのうちのどれか1つでも平面であると判定された場合には、その区画は平面と判定される。平面と判定された区画については、その区画の代表点を算出する(ステップT2)。そして、平面と判定された区画をつなぎ合わせて塊状の対象の表面候補として扱う(ステップT3)。すなわち、複数の区画について抽出された表面を統合する。これにより、塊状の対象の露出している表面を特定することができる。ステップT3以降の計算では、表面を代表点で表わして処理することで処理の効率化を図ることができる。
一方、3次元データの輝度情報を用いた輪郭の抽出も行う。例えば3次元データの輝度の最大値と最小値との間を256階調で表したときに所定の区画内の輝度の最大値が35以下か否か、最大値と最小値との差が50階調以上か否か、最大値が128階調以下でかつ最大値と最小値との差が30階調以上か否かのいずれかの条件を満たすか否かを判定し、大きい場合には所定の区画を輪郭として抽出することができる(ステップT4)。
次に、それぞれ得られた表面のデータと輪郭のデータとを重畳する(ステップT5)。そして、重畳されたデータを用いて塊状の対象を認識する(ステップT6)。このようにして重畳されたデータでは、表面と輪郭が明確になるため、塊状の対象の認識が容易になる。なお、上記の例では表面と輪郭を統合して塊状の対象を認識しているが、表面の抽出処理のみで塊状の対象を認識してもよい。
(代表点の算出)
点群処理の高速化を図るためには、原画像の画素をそのまま用いるよりも原画像の画素の区画に対応する点群を平均化しその値をその区画の代表値とすることが好ましい。各点の3次元位置はノイズ等の影響により微小な誤差を含んでいるが、この平均化によりこの誤差が除去できる。
図4は、3次元データの代表点抽出の各領域を示す模式図である。図4に示すように、撮影領域F0に対して、領域内の物体の表面を表す3次元データP0が生成される。この3次元データP0に対して、例えば所定の区画Ryx、Ry+1x、Ryx+1、Ry+1x+1が設定され、それぞれの区画の代表点が算出される。例えば、数十万点の原点群を1万点ほどの代表点に集約することが可能である。
図5は、代表点算出の処理を示す模式図である。図5に示す原点群Pyx、Py+1x、Pyx+1、Py+1x+1は、それぞれの所定の区画内の3次元データを示す原点群である。そして、所定の区画内の原点群に対してそれぞれ平均を示す代表点Ayx、Ay+1x、Ayx+1、Ay+1x+1を算出できる。平均化は、各軸成分の平均値および輝度の平均値を算出することで行なうことができる。
(単一の基準面による表面の抽出)
図6(a)、(b)は、それぞれカメラ105と代表点の相対位置関係を示す模式図および基準面による表面抽出処理を示す模式図である。図6(a)に示すように、水平面からθだけ傾いた篩350の面(載置面)に岩石300が載っている際に、各原点群Pyxは、仮想的に岩石表面付近に設けられる。これに対し、カメラ105の光軸zが表わされている。なお、θは、例えば12°であるが、設備に応じた数値となる。
また、図6(b)に示すように、カメラ105の光軸zに対して垂直な面Q0を基準面として設定し、これに対して最遠奥行き面Qmax、最近奥行き面Qminを設けることができ、これらの面の範囲に原点群Pyxが入ると、原点群Pyxは連続した平面上にあると判断し、塊状の対象の表面として抽出する。
図7は、単一の基準面による表面抽出後の画像データを示す図である。図7に示す例では撮影領域F0において、3次元データの代表点が明るい色と暗い色で区別されて表示されている。明るい色を示す位置が表面として抽出された点を表しており、暗い色を示す位置が表面として抽出されなかった点を表している。図7に示すように、この処理により概ね岩石の形状が表れる。
(複数の基準面による表面の抽出)
発破による破砕岩石、特に大塊は破砕面によって構成される多面体状を呈することが多いので、大塊の判別のために岩石の3次元形状から「面」の抽出を行うことが好ましい。3次元形状から面を抽出するには、基準面からの距離が閾値以下の領域=面とする方法がある。1つの基準面による抽出ではその基準面と平行な面のみが抽出されるので、複数の基準面を用いて抽出を行うことが好ましい。これにより凸多面体様の外形を有する大塊が検出できる。
図8(a)、(b)は、それぞれ光軸zに垂直な基準面を用いる場合および光軸zに垂直な面から傾いた基準面を用いる場合の処理を示す模式図である。カメラの光軸zに対して傾いている岩石の所定の表面301に対して、図8(a)に示すように光軸zに垂直な面Q0を基準面として用いた場合には、表面301の代表点Ayxの最近奥行き面Qminと最遠奥行き面Qmaxとの間が大きくなることにより、平面と認識されない場合がある。
一方、図8(b)に示すように面Q0に対して傾いた載置面に平行な面W0を基準面として用いた場合には、表面301の代表点Ayxの最近奥行き面Wminと最遠奥行き面Wmaxとの間が小さくなり平面と認識される確率が高くなる。そのため、複数の基準面を用い、かつ基準面からの適切な距離を設定することで表面301の抽出が可能となる。光軸zに垂直な面を中心の基準面として、わずかに傾斜に差をもたせて複数の基準面を設けて表面を抽出することができる。例えば、光軸zに対して垂直な軸x、yをとったとき、x軸回転で-10°から45°の12段階の角度とy軸回転で-10°から10°の5段階の角度(それぞれ5°刻み)を組み合わせて60種類の基準面で判定し、表面を抽出できる。x軸回転で-20°から40°の4段階の角度(20°刻み)とy軸回転で-10°から10°の3段階の角度(10°刻み)を組み合わせて12種類の基準面で判定し、表面を抽出してもよい。
図9は、複数の基準面による表面抽出後の画像を示す図である。図9に示す例では撮影領域F0において、明るい色を示す位置が表面として抽出された点を表しており、暗い色を示す位置が表面として抽出されなかった点(すなわち輪郭扱いとなった点)を表している。図9に示すように、複数の基準面により表面を抽出することで、単一の基準面で表面を抽出する場合に比べて岩石の表面を広く捉えることができる。
(輝度による輪郭の抽出)
破砕岩石堆積の画像においては岩石の周囲は明瞭な輪郭線が認められることが多い。画像における岩石の輪郭部分では画像の輝度が低下しているので、輝度がある閾値以下の領域を輪郭部分とすることにより大塊岩石の検出を行うことができる。
しかし、輪郭だけで判別しようとすると、塊状の対象に自体の模様による輝度変化により別の対象と認識される場合や、重なり合った同輝度の岩石を分離することができない場合があるため、表面の抽出と重畳して用いることが好ましい。
(表面と輝度による対象の認識)
図10は、表面抽出に加え輪郭抽出を重畳して行った場合の処理後の画像を示す図である。図10に示す例では撮影領域F0において、明るい色を示す位置が表面として抽出された点を表しており、暗い色を示す位置が表面として抽出されなかった点または輪郭として抽出された点を表している。図10に示すように、抽出された表面に輪郭形状を重畳することで、表面の抽出のみの場合に比べて岩石の形状が明確に表れる。このようにして、3次元形状に基づく面の抽出と画像の輝度に基づく輪郭部分を重畳することにより相互の欠点が補償され高確率な大塊岩石の検出が可能となる。
100 対象除去システム
105 カメラ
110 コンピュータ
111 3次元データ生成部
112 表面抽出部
113 代表点算出部
114 輪郭抽出部
115 認識部
120 判定部
130 小割り機制御部
140 操作部
150 表示部
200 小割り機
300 岩石
301 表面
350 篩
F0 撮影領域
P0 3次元データ
Pyx~Py+1x+1 原点群
Ayx~Ay+1x+1 代表点
Ryx~Ry+1x+1 区画
z 光軸
Q0 光軸に垂直な面
Qmax 光軸に垂直な最遠奥行き面
Qmin 光軸に垂直な最近奥行き面
W0 光軸に垂直な面から傾いた面
Wmax 光軸に垂直な面から傾いた最遠奥行き面
Wmin 光軸に垂直な面から傾いた最近奥行き面

Claims (9)

  1. 塊状の対象を認識する対象認識装置であって、
    異なる角度で撮影された複数の画像をもとに撮影対象の位置情報を表わす原点群である3次元データを生成する3次元データ生成部と、
    所定の区画について前記3次元データの基準面からの距離が所定の範囲内にあると判定されたとき、前記所定の区画の3次元データを塊状の対象の表面として抽出する表面抽出部と、
    前記抽出された表面を用いて塊状の対象を認識する認識部と、を備えることを特徴とする対象認識装置。
  2. 前記表面抽出部は、前記基準面として角度配置の異なる複数の平面を用いることを特徴とする請求項1記載の対象認識装置。
  3. 前記抽出された表面について前記所定の区画ごとに前記3次元データの代表点を算出する代表点算出部を更に備え、
    前記認識部は、前記抽出された表面として前記代表点を用いて塊状の対象を認識することを特徴とする請求項1または請求項2記載の対象認識装置。
  4. 前記代表点算出部は、前記代表点として、前記所定の区画ごとに前記3次元データの平均位置を算出することを特徴とする請求項3記載の対象認識装置。
  5. 前記3次元データにおける輝度の差を用いて、塊状の対象の輪郭を抽出する輪郭抽出部を更に備え、
    前記認識部は、前記抽出された表面および輪郭を用いて塊状の対象を認識することを特徴とする請求項1から請求項4のいずれかに記載の対象認識装置。
  6. 前記輪郭抽出部は、前記所定の区画内の前記3次元データの輝度が絶対的基準値より小さい条件または位置間での輝度の差が相対的基準値より大きい条件の少なくとも一方を満たす場合に前記所定の区画を輪郭として抽出することを特徴とする請求項5記載の対象認識装置。
  7. 前記複数の画像を撮影するカメラと、
    請求項1から請求項6のいずれかに記載の対象認識装置と、
    前記認識された塊状の対象が所定時間同じ位置に留まっているとき、前記同じ位置に留まっている塊状の対象を除去対象として判定する判定部と、
    前記除去対象の塊状の対象を破砕または移動する小割り機と、を備えることを特徴とする対象除去システム。
  8. 塊状の対象を認識する方法であって、
    異なる角度で撮影された複数の画像をもとに撮影対象の位置情報を表わす原点群である3次元データを生成するステップと、
    所定の区画について前記3次元データの基準面からの距離が所定の範囲内にあると判定されたとき、前記所定の区画の3次元データを塊状の対象の表面として抽出するステップと、
    前記抽出された表面を用いて塊状の対象を認識するステップと、を含むことを特徴とする方法。
  9. 塊状の対象を認識するプログラムであって、
    異なる角度で撮影された複数の画像をもとに撮影対象の位置情報を表わす原点群である3次元データを生成する処理と、
    所定の区画について前記3次元データの基準面からの距離が所定の範囲内にあると判定されたとき、前記所定の区画の3次元データを塊状の対象の表面として抽出する処理と、
    前記抽出された表面を用いて塊状の対象を認識する処理と、をコンピュータに実行させることを特徴とするプログラム。
JP2018062925A 2018-03-28 2018-03-28 対象認識装置、方法およびプログラムならびに対象除去システム Active JP7064664B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018062925A JP7064664B2 (ja) 2018-03-28 2018-03-28 対象認識装置、方法およびプログラムならびに対象除去システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018062925A JP7064664B2 (ja) 2018-03-28 2018-03-28 対象認識装置、方法およびプログラムならびに対象除去システム

Publications (2)

Publication Number Publication Date
JP2019174287A JP2019174287A (ja) 2019-10-10
JP7064664B2 true JP7064664B2 (ja) 2022-05-11

Family

ID=68166858

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018062925A Active JP7064664B2 (ja) 2018-03-28 2018-03-28 対象認識装置、方法およびプログラムならびに対象除去システム

Country Status (1)

Country Link
JP (1) JP7064664B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112191355B (zh) * 2020-10-09 2022-03-25 矿冶科技集团有限公司 矿石处理方法、装置、电子设备及计算机可读存储介质
CN112733985A (zh) * 2021-01-27 2021-04-30 昆山善思光电科技有限公司 一种自动识别大小料盘的方法
CN117181406B (zh) * 2023-09-18 2024-05-17 山东黄金矿业(莱州)有限公司三山岛金矿 一种矿山井下自主作业岩石破碎机及远程遥控控制方法
CN116977592B (zh) * 2023-09-25 2024-02-09 深圳大学 基于卷绕数的三维结构化重建方法、装置和计算机介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009129189A (ja) 2007-11-22 2009-06-11 Ihi Corp 物体認識方法
JP2009235781A (ja) 2008-03-27 2009-10-15 National Institute Of Advanced Industrial & Technology 大塊岩石破砕作業システム
JP2017039189A (ja) 2015-08-20 2017-02-23 株式会社東芝 配置検出装置およびピッキング装置
JP2017201276A (ja) 2016-05-06 2017-11-09 キヤノン株式会社 情報処理装置、情報処理方法、プログラム、システム、および物品製造方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06127663A (ja) * 1992-10-21 1994-05-10 Nippon Steel Corp ベルトコンベア上の粉粒塊状物の積載状態の測定方法及びコンベア蛇行制御方法
JPH08165880A (ja) * 1994-12-14 1996-06-25 Kajima Corp ブレーカ破砕作業支援方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009129189A (ja) 2007-11-22 2009-06-11 Ihi Corp 物体認識方法
JP2009235781A (ja) 2008-03-27 2009-10-15 National Institute Of Advanced Industrial & Technology 大塊岩石破砕作業システム
JP2017039189A (ja) 2015-08-20 2017-02-23 株式会社東芝 配置検出装置およびピッキング装置
JP2017201276A (ja) 2016-05-06 2017-11-09 キヤノン株式会社 情報処理装置、情報処理方法、プログラム、システム、および物品製造方法

Also Published As

Publication number Publication date
JP2019174287A (ja) 2019-10-10

Similar Documents

Publication Publication Date Title
JP7064664B2 (ja) 対象認識装置、方法およびプログラムならびに対象除去システム
JP6232494B2 (ja) 掘削装置
JP5227139B2 (ja) 建設機械
EP3857318B1 (en) Method for collision avoidance and laser machining tool
US20150085123A1 (en) Method and apparatus for monitoring a condition of an operating implement in heavy loading equipment
WO2015106799A1 (en) Mine vehicle, mine control system and mapping method
AU2023219909A1 (en) Method, apparatus and system for monitoring a condition associated with operating heavy equipment such as a mining shovel or excavator
CN110793587B (zh) 一种煤矿工作面带式输送机高效安全运行监控方法
JP6671852B2 (ja) 情報設定システム及びシミュレーションシステム
JP2017194787A (ja) 画像処理装置および領域追跡プログラム
EP2476999B1 (en) Method for measuring displacement, device for measuring displacement, and program for measuring displacement
CN113982690B (zh) 基于锚护作业的控制方法及装置、系统、掘锚护一体机
CN114174608A (zh) 工程机械的位置确定系统
CN110942520A (zh) 作业设备辅助定位方法、装置、系统及存储介质
JP7117273B2 (ja) 破砕片検出方法、破砕片小割方法、破砕片検出装置および破砕片小割装置
JPH09189513A (ja) マーカ重心計測方法および装置
CN113569943B (zh) 一种基于深度神经网络的渣片大块预警方法、系统及装置
JP2009235781A (ja) 大塊岩石破砕作業システム
Du et al. Applications of machine vision in coal mine fully mechanized tunneling faces: a review
Takahashi et al. Automatic detection and breaking system for boulders by use of ccd camera and laser pointer
Dąbek et al. Estimating volume of oversized copper ore chunks in an underground mine using a laser scanner and an RGB camera for hammering efficiency assessment
JP7362053B2 (ja) 落下物検知システム
WO2019070368A1 (en) SYSTEM AND METHOD FOR DETECTING OBJECTS
CN117548210B (zh) 一种基于视频分析的堵塞检测及自动破碎处理系统
JP2013010160A (ja) ロボット制御システム、ロボットシステム及びマーカー処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201006

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210818

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210907

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211105

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220126

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220208

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20220303

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220303

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20220303

R150 Certificate of patent or registration of utility model

Ref document number: 7064664

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150