JP2023056857A - 作業車両の状態判断システム - Google Patents

作業車両の状態判断システム Download PDF

Info

Publication number
JP2023056857A
JP2023056857A JP2021166319A JP2021166319A JP2023056857A JP 2023056857 A JP2023056857 A JP 2023056857A JP 2021166319 A JP2021166319 A JP 2021166319A JP 2021166319 A JP2021166319 A JP 2021166319A JP 2023056857 A JP2023056857 A JP 2023056857A
Authority
JP
Japan
Prior art keywords
vehicle body
image
work vehicle
information terminal
traveling vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021166319A
Other languages
English (en)
Other versions
JP7677107B2 (ja
Inventor
睦貴 櫻本
Mutsuki Sakuramoto
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Iseki and Co Ltd
Iseki Agricultural Machinery Mfg Co Ltd
Original Assignee
Iseki and Co Ltd
Iseki Agricultural Machinery Mfg Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Iseki and Co Ltd, Iseki Agricultural Machinery Mfg Co Ltd filed Critical Iseki and Co Ltd
Priority to JP2021166319A priority Critical patent/JP7677107B2/ja
Publication of JP2023056857A publication Critical patent/JP2023056857A/ja
Application granted granted Critical
Publication of JP7677107B2 publication Critical patent/JP7677107B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Guiding Agricultural Machines (AREA)

Abstract

Figure 2023056857000001
【課題】作業機を有する作業車両の路上の安全走行を確保する。
【解決手段】情報端末100は、画像認識で得られた画像上における作業車両全体の最外側の位置データと、カメラから作業車両全体の最前部までの距離データと、走行車体の最外側の灯火装置31fの走行車体上の位置データとに基づいて、作業車両全体の最外側から、走行車体の最外側の灯火装置31fとの間の距離を算出し、所定の距離を超えるかどうか判断し、超える場合は、撮影した画像において作業機の左右両端位置近傍に所定の色の表示が認識されなければ、走行車体のクラッチの接続を切る。
【選択図】図4

Description

本発明は、作業車両の状態判断システムに関する。
走行車体の後部に作業機を昇降自在に取りつけ、走行車体の位置を測位する車体測位装置と、作業機の位置を測位する作業機測位装置を備え、路上走行中であると判定されるとそれぞれの測位装置の検出値に基づいて、走行車体に対する作業機の位置が予め定められた安全な位置になるように、作業機を昇降する作業車両が公知である(特許文献1)。
一方、作業機を装着した走行車体などの作業車両が路上を走行する場合、安全に走行できるように、作業車両の全幅や、装備する灯火装置の取付け位置や、設置する反射材等の取付け状況について種々の規制が設けられている。
特開2021ー36786号公報
本発明では、走行車体が作業機を装着した状態でも安全に路上走行できる作業車両の状態判断システムを提供することを目的とする。
第1の本発明は、
エンジンから駆動輪への動力伝達を入り切りするクラッチを有する走行車体と、前記走行車体に装着された作業機とを備えた作業車両の状態判断システムであって、
前記走行車体に設けられた灯火装置と、
カメラを有する情報端末と、を備え、
前記情報端末は、前記カメラから前記作業車両の全体の最後部および最前部までの距離を測定する距離測定手段を有し、
前記情報端末は、少なくとも前方から見た前記走行車体の最外側の灯火装置および後方から見た前記走行車体の最外側の灯火装置の前記走行車体上の位置データを有し、
前記情報端末は、前記カメラによって前記作業車両の前方から撮影した前方画像200のデータの画像認識で得られた、画像上における前記作業車両全体の最外側の位置データと、前記カメラから前記作業車両全体の最前部までの距離データと、前記前方から見た前記走行車体の最外側の灯火装置の前記走行車体上の位置データとに基づいて、前記作業車両全体の最外側から、前記走行車体の前方の最外側の灯火装置との間の前方側距離を算出し、
前記情報端末は、前記カメラによって前記作業車両の後方から撮影した後方画像のデータの画像認識で得られた、画像上における前記作業車両全体の最外側の位置データと、前記カメラから前記作業車両全体の最後部までの距離データと、前記後方から見た前記走行車体の最外側の灯火装置の前記走行車体上の位置データとに基づいて、前記作業車両全体の最外側から、前記走行車体の後方の最外側の灯火装置との間の後方側距離を算出し、
前記情報端末は、前記前方側距離および前記後方側距離が所定の距離を超えるかどうか判断し、
前記前方側距離が超える場合は、前記カメラによって前記作業車両の前方から撮影した前方画像において前記作業機の左右両端位置近傍に所定の色の表示が認識されなければ、また
前記後方側距離が超える場合は、前記カメラによって前記作業車両の後方から撮影した後方画像において前記作業機の左右両端位置近傍に所定の色の表示が認識されなければ、
前記走行車体のクラッチの接続が規制されることを特徴とする、作業車両の状態判断システムである。
第2の本発明は、
前記情報端末は、超えると判断した場合は、前記前方画像、前記後方画像のデータを前記走行車体の制御装置に送信し、
前記制御装置は、前記それぞれの所定の色の表示の認識と、前記クラッチの接続を規制する、第1の本発明の作業車両の状態判断システムである。
第3の本発明は、
前記所定の距離を超える場合は、
前記情報端末が、前記前方画像において、少なくとも、前記作業機の左右両端位置近傍の領域を含む画面を前記情報端末に表示して作業者が左右両端位置近傍の状態を確認出来るようにし、その後、その作業者によって予め決められた位置に所定の色の表示があることを確認する操作が行われない場合、または
前記情報端末が、前記後方画像において、少なくとも、前記作業機の左右両端位置近傍の領域を含む画面を前記情報端末に表示して作業者が左右両端位置近傍の状態を確認出来るようにし、その後、その作業者によって予め決められた位置に所定の色の表示があることを確認する操作が行われない場合は、
前記クラッチの接続を規制する旨の信号を前記走行車体へ送信し、
前記走行車体の制御装置は前記クラッチの接続を規制する、第1の本発明の作業車両の状態判断システムである。
第4の本発明は、
さらに、前記後方画像において所定の図形の形状をした標識を検出しなければ、前記クラッチの接続を規制する、第1の本発明の作業車両の状態判断システムである。
第5の本発明は、
エンジンから駆動輪への動力伝達を入り切りするクラッチを有する走行車体と、前記走行車体に装着された作業機とを備えた作業車両の状態判断システムであって、
前記走行車体に設けられた灯火装置と、
カメラを有する情報端末と、を備え、
前記情報端末は、前記カメラから前記作業車両の全体の最後部および最前部までの距離を測定する距離測定手段を有し、
前記情報端末は、前記カメラによって前記作業車両の前方から撮影した前方画像のデータの画像認識で得られた、画像上における前記作業車両全体の左右の全幅データと、前記カメラから前記作業車両全体の最前部までの距離データから、前記作業車両全体の前方側全幅を算出し、
前記情報端末は、前記カメラによって前記作業車両の後方から撮影した後方画像のデータの画像認識で得られた、画像上における前記作業車両全体の左右の全幅データと、前記カメラから前記作業車両全体の最後部までの距離データから、前記作業車両全体の後方側全幅を算出し、
前記情報端末は、前記前方側全幅または前記後方側全幅が所定の大きさを超えるかどうか判断し、超える場合は、
前記前方画像および後方画像の前記作業機の左右両端位置近傍に所定の色彩パターンの表示が認識されなければ、前記クラッチの接続を規制する、作業車両の状態判断システムである。
第6の本発明は、
さらに、前記後方画像において所定の図形の形状をした標識を検出しなければ、前記クラッチの接続を規制する、第5の本発明の作業車両の状態判断システムである。
第7の本発明は、
前記情報端末は、少なくとも前方から見た前記走行車体の最外側の灯火装置および後方から見た前記走行車体の最外側の灯火装置の前記走行車体上の位置データを有し、
前記情報端末は、前記カメラによって前記作業車両の前方から撮影した前方画像のデータの画像認識で得られた、画像上における前記作業車両全体の最外側の位置データと、前記カメラから前記作業車両全体の最前部までの距離データと、前記前方から見た前記走行車体の最外側の灯火装置の前記走行車体上の位置データとに基づいて、前記作業車両全体の最外側から、前記走行車体の前方の最外側の灯火装置との間の前方側距離を算出し、
前記情報端末は、前記カメラによって前記作業車両の後方から撮影した後方画像のデータの画像認識で得られた、画像上における前記作業車両全体の最外側の位置データと、前記カメラから前記作業車両全体の最後部までの距離データと、前記後方から見た前記走行車体の最外側の灯火装置の前記走行車体上の位置データとに基づいて、前記作業車両全体の最外側から、前記走行車体の後方の最外側の灯火装置との間の後方側距離を算出し、
前記情報端末は、前記前方側距離および前記後方側距離が所定の距離を超えるかどうか判断し、
前記前方側距離が超える場合は、前記カメラによって前記作業車両の前方から撮影した前方画像において前記作業機の左右両端位置近傍に所定の色の表示が認識されなければ、また
前記後方側距離が超える場合は、前記カメラによって前記作業車両の後方から撮影した後方画像において前記作業機の左右両端位置近傍に所定の色の表示が認識されなければ、
前記走行車体のクラッチの接続が規制されることを特徴とする、第5の本発明の作業車両の状態判断システムである。
第8の本発明は、
前記情報端末は、超えると判断した場合は、前記前方画像、前記後方画像のデータを前記走行車体の制御装置に送信し、
前記制御装置は、前記それぞれの所定の色の表示の認識と、前記クラッチの接続を規制する、第7の本発明の作業車両の状態判断システムである。
第9の本発明は、
前記所定の距離を超える場合は、
前記情報端末が、前記前方画像において、少なくとも、前記作業機の左右両端位置近傍の領域を含む画面を前記情報端末に表示して作業者が左右両端位置近傍の状態を確認出来るようにし、その後、その作業者によって予め決められた位置に所定の色の表示があることを確認する操作が行われない場合、または
前記情報端末が、前記後方画像において、少なくとも、前記作業機の左右両端位置近傍の領域を含む画面を前記情報端末に表示して作業者が左右両端位置近傍の状態を確認出来るようにし、その後、その作業者によって予め決められた位置に所定の色の表示があることを確認する操作が行われない場合は、
前記クラッチの接続を規制する旨の信号を前記走行車体へ送信し、
前記走行車体の制御装置は前記クラッチの接続を規制する、第7の本発明の作業車両の状態判断システムである。
第10の本発明は、
前記クラッチの接続の規制に代えて、エンジンの停止を行う、第1乃至9の何れかにの本発明の作業車両の状態判断システムである。
本発明により、作業機を装着した走行車体が路上走行しても安全かどうかを判定して、作業機を装着した状態でも安全に走行できる。
本発明の作業車両の状態判断システムの実施の形態にかかる作業車両の作業機が降りている状態の側面図 同作業車両の制御装置を中心とするブロック図 動作例1における同作業車両の正面図 動作例1における同作業車両の正面撮影の表示画面図 同作業車両の状態判断システムの情報端末のブロック図 動作例1における同作業車両の背面図 動作例1における同作業車両の背面撮影の表示画面図 動作例1における同作業車両の別の正面撮影の表示画面図 動作例1における同作業車両の別の背面撮影の表示画面図 動作例2における同作業車両の正面撮影の表示画面図 動作例2における同作業車両の背面撮影の表示画面図 動作例3における同作業車両の正面撮影の表示画面図 動作例3における同作業車両の背面撮影の表示画面図 動作例3における略示フローチャート
以下、図面を参照しながら、本発明における実施の形態について詳細に説明する。
まず、図1を参照して実施の形態に係る作業車両1の全体構成について説明する。図1は、実施形態に係る作業車両1の説明図であり、作業車両1の概略左側面図である。なお、以下では、作業車両1としてトラクタを例に説明する。
作業車両であるトラクタ1は、自走しながら圃場などで作業を行う農業用トラクタである。また、トラクタ1は、操縦者(作業者ともいう。)が搭乗して圃場内を走行しながら所定の作業を実行する他、後述する制御装置40(図2参照)を中心とする制御系による各部の制御により、圃場内を自動走行しながら所定の作業を実行する。
また、以下において、前後方向とは、トラクタ1の直進時における進行方向であり、進行方向の前方側を「前」、後方側を「後」と規定する。トラクタ1の進行方向とは、直進時において、後述する操縦席8からステアリングホイール9に向かう方向である。
左右方向とは、前後方向に対して水平に直交する方向である。以下では、「前」側へ向けて左右を規定する。すなわち、トラクタ1の操縦者が操縦席8に着座して前方を向いた状態で、左手側が「左」、右手側が「右」である。
上下方向とは、鉛直方向に平行する方向である。前後方向、左右方向および上下方向は互いに直交する。なお、各方向は説明の便宜上定義したものであり、これらの方向によって本発明が限定されるものではない。また、以下では、トラクタ1を指して「機体」という場合がある。
図1に示すように、作業車両の一例であるトラクタ1は、走行車体2と、作業機Wとを備える。走行車体2は、車体フレーム3と、前輪4と、後輪5と、ボンネット6と、エンジンEと、操縦部7と、ミッションケース10とを備える。車体フレーム3とミッションケース10は、走行車体2のメインフレームである。
前輪4は、左右一対であり、主に操舵用の車輪(操舵輪)となる。後輪5は、左右一対であり、主に駆動用の車輪(駆動輪)となる。トラクタ1は、後輪5が駆動する二輪駆動(2WD)と、前輪4および後輪5が共に駆動する四輪駆動(4WD)とを切り替え可能に構成されてもよい。四輪駆動の場合、駆動輪は、前輪4および後輪5の両方である。なお、走行車体2は、車輪(前輪4および後輪5)に代えてクローラ装置を備えてもよい。この場合、走行クローラが駆動輪である。
ボンネット6は、走行車体2の前部において開閉自在に設けられる。ボンネット6は、
後部を回動中心として上下方向に回動(開閉)可能である。ボンネット6は、閉じた状態で、車体フレーム3上に搭載されたエンジンEを覆う。エンジンEは、トラクタ1の駆動源であり、ディーゼル機関やガソリン機関などの熱機関である。
操縦部7は、操縦席8やステアリングホイール9などを備える。操縦部7は、走行車体2の上部に設けられたキャビン7aに覆われている。
操縦席8は、操縦者の座席である。ステアリングホイール9は、操舵輪である前輪4を操舵する場合に操縦者により操作される。なお、操縦部7は、ステアリングホイール9の前方に、各種情報を表示するメータパネル11(表示部)を備える。
また、操縦部7は、前後進レバー、アクセルレバー、主変速レバー、副変速レバーなどの各種操作レバー14や、クラッチペダル18、ブレーキペダル15、アクセルペダル19などの各種操作ペダルを備える。
ミッションケース10は、トランスミッション(変速機構)を収容している。トランスミッションは、エンジンEから伝達される動力(回転動力)を適宜減速して駆動輪である後輪5や、PTO(Power Take-off)軸16へ伝達する。通常クラッチ10aはこのミッションケース10の中に装備されている。
走行車体2の後部には、圃場内で作業を行う作業機Wが連結され、作業機Wを駆動する動力を伝達するPTO軸16がミッションケース10から後方へ突出している。PTO軸16は、トランスミッションによって適宜減速された回転動力を、走行車体2の少なくとも後部に装着された作業機Wへ伝達する。
また、走行車体2の後部には、作業機Wを昇降させる昇降装置12が設けられる。昇降装置12は、作業機Wを上昇させることで、作業機Wを非作業位置に移動させる。非作業位置は、例えば、走行車体2が後退する場合や、走行車体2が旋回する場合に、作業機Wを上昇させる位置である。また、昇降装置12は、作業機Wを下降させることで、作業機Wを対地作業位置に移動させる。昇降装置12は、油圧式の昇降シリンダ121と、リフトアーム122と、リフトロッド123と、ロワリンク124と、トップリンク125とを備える。
リフトアーム122は、昇降シリンダ121に作動油が供給されると、回動支点となる軸Piまわりに作業機Wを上昇させるように回動し、昇降シリンダ121から作動油が排出されると、軸Piまわりに作業機Wを下降させるように回動する。なお、リフトアーム122の基部(軸Pi付近)には、リフトアーム122の回動角度を検知するリフトアームセンサ26が設けられる。作業機Wの高さは、リフトアームセンサ26の検知結果や、作業機Wに取り付けられた作業機測位装置により得られる作業機Wの高さと走行車体2に取り付けられた車体測位装置30により得られる走行車体2の高さの比較に基づいて算出される。車体測位装置30および作業機測位装置は、たとえば、GNSS(Global Navigation Satellite System)アンテナであり、上空を周回している航法衛星Saからの電波を受信して測位および計時を行うことができる。また、測位結果の履歴や電波のドップラー効果などから移動速度を算出することもできる。
また、リフトアーム122は、リフトロッド123を介してロワリンク124に連結される。このように、昇降装置12は、ロワリンク124とトップリンク125とで、走行車体2に対して作業機Wを昇降可能に連結する。ロワリンク124はミッションケース10の後部に取り付けられると共にドラフトセンサ27によりロワリンク124に係る荷重が検出される。この荷重の検出により作業機装着の有無を判定することができる。
作業機Wは、圃場内で作業を行う機械である。図1に示す例では、作業機Wは、圃場において耕耘作業を行うロータリ耕耘機である。ロータリ耕耘機は、PTO軸16から伝達された動力によって耕耘爪61が回転することで、圃場面(土壌)を耕耘する。
また、トラクタ1は、制御装置40(図2参照)を備える。制御装置40は、エンジンEを制御するとともに、走行車体2の走行速度を制御する。また、制御装置40は、作業機Wを昇降制御する。また、画像認識機能を持たせてもよい。
また、トラクタ1は、作業者による情報端末(タブレット端末などの携帯端末)100の操作によって、特定の圃場における各種作業の設定などを行うことができる。制御装置40はその通信のための通信装置Tを備える(図2参照)。
情報端末100は、図5に示すように、カメラ101を有し、たとえば、ハードディスク、ROM(Read Only Memory)、RAM(Random Access Memory)などで構成される記憶部102と、タッチパネルにより構成される表示部100aおよび操作部とを備える。なお、操作部として、各種キーやボタンなどが別に設けられてもよい。
この情報端末100は、カメラ101から、作業機Wを備えた走行車体2の作業車両1の全体の最後部および最前部までの距離を測定する距離測定手段104を有する。例えば、超音波センサ、赤外線センサ、電波センサなどである。
また、トラクタ1は、障害物センサ20を備える。障害物センサ20は、前方センサ21と、後方センサ22とを備える。前方センサ21は、たとえば、ボンネット6の前方に設けられたセンサ取付ステー13に取り付けられるなど、走行車体2の前部に配置され、走行車体2の前方に存在する障害物(人や、物体)を検知する。
後方センサ22は、たとえば、キャビン7aの上部に取り付けられるなど、走行車体2の後部上側に配置され、走行車体2の後方に存在する障害物を検知する。なお、後方センサ22は、図示しないモータによってキャビン7a、すなわち走行車体2に対する角度を変更することができる。
また、前方センサ21および後方センサ22は共に、中距離センサであり、好ましくは赤外線センサである。前方センサ21および後方センサ22は、赤外線ビームを放射し、障害物からの反射光を検知する。前方センサ21は、前方に延びる検知領域を有する。また、後方センサ22は、後方へ延びる検知領域を有する。
前方センサ21および後方センサ22は、たとえば、赤外線ビームを放射した後、障害物からの反射光を検知するまでの時間を測定することで、障害物までの距離を検知することができる。赤外線センサである前方センサ21および後方センサ22は、障害物を2次元的に検知し、たとえば、数メートルから数10メートル程度の検知領域である。なお、障害物センサ20として、赤外線センサ以外のソナーやミリ波レーダーなど他の中距離センサを用いることやその併用も可能である。
さらに、走行車体2には複数個の灯火装置31が装備されている。
次に、図2は、制御装置40を中心とする作業車両(トラクタ)1の制御系の一例を示すブロック図である。図2に示すように、制御装置40は、エンジンECU(Electronic Control Unit)41と、走行系ECU42と、作業機昇降系ECU43とを備える。エンジンECU41は、エンジンEの回転数を制御する。走行系ECU42は、駆動輪の回転を制御することで、走行車体2(図1参照)の走行速度を制御する。作業機昇降系ECU43は、昇降装置12を制御して作業機Wを昇降制御する。Tは情報端末100との通信装置である。
制御装置40は、電子制御によって各部を制御することが可能であり、CPU(Central Processing Unit)などを有する処理部をはじめ、各種プログラムや圃場ごとに予め設定された走行車体2の予定走行経路などの必要なデータ類が記憶される記憶部などを備える。
図2に示すように、制御装置40には、車体測位装置30、障害物センサ20(前方センサ21および後方センサ22)、リフトアームセンサ26、などの各種センサ類や、モード選択スイッチ223、公道走行ボタン91、上げ高さダイヤル90などの各種スイッチ類が接続される。
次に、本発明のシステムの動作の例1について説明する。
図3は作業車両1を実際に前方から見た略示正面図であり、図4はカメラ101で前方から撮像した画像を情報端末100の表示部100aに表示した画面図である。図6は作業車両1を実際に後方から見た略示正面図であり、図7はカメラ101で後方から撮像した画像を情報端末100の表示部100aに表示した画面図である。なお、図5は情報端末100の機能構成図である。
情報端末100は、予め、少なくとも前方から見た走行車体2の最外側の灯火装置31fの走行車体2上の位置データD1fおよび後方から見た走行車体2の最外側の灯火装置31rの走行車体2上の位置データD1rがその記憶部102に格納されている。例えば、走行車体2の中心線から左右方向に100cmなどである(図3、図6参照。図3、図6のCは走行車体2の中心線を示す)。
図4は上述したようにカメラ101によって作業車両1の前方から撮影した前方画像200が記憶部102に記憶され、さらに表示部100aに表示されている画像を示す。
図5は情報端末100の画像認識の流れを示すブロック図であり、前方画像200はカメラ101の制御部103へ入力され、制御部103は、その画像上における作業車両1の全体の最外側p1fの位置を認識特定する。例えば図4において、画像上の中心線Cから画像上の最外側p1fまでの画像上の距離、例えばd=2cmと認識特定する(撮像素子上のピクセル数、ドット数、或いは画像表示メモリ上のピクセル数、ドット数に対応する)。
更に、制御部103は、その画像上における作業車両1の全体の最外側p1fの中心線からの距離d(2cm)と、距離測定手段104で得られた、カメラ101から作業車両1の全体の最前部までの距離データ(例えば5m)と、予め格納している上記前方から見た走行車体2の最外側の灯火装置31fの走行車体2上の位置データD1f(1m)とに基づいて、作業車両1の全体の最外側p1fから、走行車体2の前方の最外側の灯火装置31fとの間の実際の前方側距離Dを算出する。すなわち、例えばカメラ101から作業車両1の全体の最前部まで5mである条件下で、画像上の距離d(2cm)が撮影されているのでそれに対応する実際の距離D2fは1.8mとそのカメラ101の機能から光学的に演算出来、その1.8mから1mを引くと、作業車両1の最外側p1fから最外側の灯火装置31fまでの前方側距離Dが80cmとなる。
同様に、図7は上述したようにカメラ101によって作業車両1の後方から撮影した後方画像201が記憶部102に記憶され、さらに表示部100aに表示されている画像を示す。
情報端末100の画像認識の流れは図5に示すとおりである。後方画像201はカメラ101の制御部103へ入力され、制御部103は、その画像上における作業車両1の全体の最外側p1rの位置を認識特定する。例えば図7において、画像上の中心線Cから画像上の最外側p1rまでの画像上の距離、例えばd’=1.9cmと認識特定する。
更に、制御部103は、その画像上における作業車両1の全体の最外側p1rの中心線からの距離d’(1.9cm)と、距離測定手段104で得られた、カメラ101から作業車両1の全体の最後部までの距離データ(例えば6m)と、予め格納している上記後方から見た走行車体2の最外側の灯火装置31rの走行車体2上の位置データD1r(1.1m)とに基づいて、作業車両1の全体の最外側p1rから、走行車体2の後方の最外側の灯火装置31rとの間の後方側距離D’を算出する(図6参照)。すなわち、例えばカメラ101から作業車両1の全体の最後部まで6mである条件下で、画像上の距離d’(1.9cm)が撮影されているのでそれに対応する実際の距離は1.9mとそのカメラ101の機能から光学的に演算出来、その1.9mから1.1mを引くと、作業車両1の最外側p1rから最外側の灯火装置31rまでの後方側距離D’が80cmとなる。
次に、情報端末100の制御部103は、前方側距離Dおよび後方側距離D’が所定の距離(例えば40cm)を超えるかどうか判断する。
制御部103は超えると判断した場合はさらに以下のような画像認識を実行する。
すなわち、前方側距離Dが所定の距離を超えると判断した場合は、さらに、カメラ101によって作業車両1の前方から撮影した前方画像200において作業機Wの左右両端位置近傍に所定の白色の表示Mが認識されるかどうか(図4参照)、制御部103が画像認識機能を用いてチェックする。
更に、後方側距離D’が所定の距離を超えると判断した場合は、カメラ101によって作業車両1の後方から撮影した後方画像201において作業機Wの左右両端位置近傍に所定の赤色の表示Nが認識されるかどうか(図7参照)、制御部103が画像認識機能を用いてチェックする。
その結果、白色の表示Mと赤色の表示Nのいずれかが認識できない場合は、制御部103は走行車体2のクラッチ10aの接続を切らせる信号を走行車体2へ送る。
走行車体2においてはその接続切りの信号を受けて、制御装置40がクラッチ10aを切る。
以上の例では、情報端末100の制御部103が画像認識機能を用いて所定の白色表示と赤色表示を認識したが、より確実にするため、次のようにしてもよい。
図8は、前方側距離が所定の距離を超える場合についての表示部100aの図である。
すなわち、前記所定の距離を超える場合は、情報端末100の制御部103が、前方画像200において、少なくとも、作業機Wの左右両端位置近傍の領域を含む画像データを情報端末100の表示部100aに、図8のように表示し、作業者がそれを確認出来るようにする。すなわち作業機Wの左右両端位置近傍の領域に図のような吹き出し図柄Pを追加表示する。図8ではその領域に白色反射板があるかどうかの問いの形の表示をする。作業者はその図8の画面を見てその領域に白色反射板が存在すると分かれば、例えばYESの部分を指でタッチする。このような操作によって予め決められた場所に所定の白色の表示(白色反射板)が装着されていることが確実に認識される。
また、作業者が見て白色反射板であることを確認する操作が行われない場合(NOの部分がタッチされた場合)は、制御部103はクラッチ10aの接続を規制する旨の信号を走行車体2へ送信し、 走行車体2の制御装置40はクラッチ10aの接続を規制する。
また、図9は、後方側距離が所定の距離を超える場合についての表示部100aの図である。
すなわち、前記所定の距離を超える場合は、情報端末100の制御部103が、後方画像201において、少なくとも、作業機Wの左右両端位置近傍の領域を含む画像データを情報端末100の表示部100aに、図9のように表示し、作業者がそれを確認出来るようにする。すなわち作業機Wの左右両端位置近傍の領域に図のような吹き出し図柄P’を追加表示する。図9ではその領域に赤色反射板があるかどうかの問いの形の表示をする。作業者はその図9の画面を見てその領域に赤色反射板が存在すると分かれば、例えばYESの部分を指でタッチする。このような操作によって予め決められた場所に所定の赤色の表示(赤色反射板)が装着されていることが確実に認識される。
また、作業者が見て赤色反射板であることを確認する操作が行われない場合(NOの部分がタッチされた場合)は、制御部103はクラッチ10aの接続を規制する旨の信号を走行車体2へ送信し、 走行車体2の制御装置40はクラッチ10aの接続を規制する。
なお、画像認識動作を走行車体2の制御装置40に任せることも可能である。その場合は情報端末100は、前方画像200、後方画像201のデータを走行車体2の制御装置40に送信し、制御装置40が、前記所定の白色の表示の認識と、前記所定の赤色の認識と、前記クラッチの接続を規制することになる。情報端末100の制御部103の能力が劣っている場合なのに適切である。
なお、さらに、図9に示すように、後方画像201において所定の図形の形状をした標識Q(走行制限を受けた車両であることを示す印。この場合は赤い逆三角形)を検出しなければ、クラッチ10aの接続を規制することも可能である。
次に、本発明のシステムの動作の例2について図10、図11を参照して説明する。
情報端末100は、カメラ101によって作業車両1の前方から撮影した前方画像200のデータについて、画像上における作業車両1の全体の左右の全幅データを画像認識によって獲得する。
そこで、情報端末100はその画像上の全幅データy(図10参照)と、上述したカメラ101から作業車両全体の最前部までの距離データから、実際の作業車両1の全体の前方側全幅を算出する。例えば、その距離データが5mとし、画像上の全幅データyが4cmとすると、光学的に実際の作業車両1の全体の前方側全幅が4mと判別できる。
同様に、情報端末100は、カメラ101によって作業車両1の後方から撮影した後方画像201のデータについて、画像上における作業車両1の全体の左右の全幅データkを画像認識によって獲得する。
そこで、情報端末100はその画像上の全幅データk(図11参照)と、上述したカメラ101から作業車両全体の最後部までの距離データから、実際の作業車両1の全体の後方側全幅を算出する。通常は、前方側全幅と同じ数値になる。
そこで、情報端末100は、前方側全幅または後方側全幅が所定の大きさ(2.5m)を超えるかどうか判断する。
情報端末100はいずれかでも超える場合、前方画像200および後方画像201の作業機の左右両端位置近傍に所定の色彩パターン(例えば外側表示板である)の表示が認識されなければ、クラッチ10aの接続を規制する。
図10は前方画像200を示し、Rはその所定の色彩パターンであり、図11は後方画像201を示し、R’はその所定の色彩パターンである。
さらに、図11に示すように、後方画像201において所定の図形の形状をした標識を検出しなければ、クラッチ10aの接続を規制することも可能である。例えば赤色の逆三角形の図柄である。
次に、本発明のシステムの動作の例3について説明する。この例3は上述した例2の場合の条件(全幅が2.5mを超えるなど)に、さらに別の条件を追加して判断する場合である。
そのさらなる追加条件は、上述した例1と同様なものである。すなわち、例1の場合の図3、4と、図6,7を参照しながら説明すると、情報端末100は、予め、少なくとも前方から見た走行車体2の最外側の灯火装置31fの走行車体2上の位置データD1fおよび後方から見た走行車体2の最外側の灯火装置31rの走行車体2上の位置データD1rがその記憶部102に格納されている。
制御部103は、その画像上における作業車両1の全体の最外側p1fの位置を認識特定する。例えば図4において、画像上の中心線Cから画像上の最外側p1fまでの画像上の距離、例えばd=2cmと認識特定する。
更に、制御部103は、その画像上における作業車両1の全体の最外側p1fの中心線からの距離d(2cm)と、距離測定手段104によって得られた、カメラ101から作業車両1の全体の最前部までの距離データ(例えば5m)と、予め格納している上記前方から見た走行車体2の最外側の灯火装置31fの走行車体2上の位置データD1f(1m)とに基づいて、作業車両1の全体の最外側p1fから、走行車体2の前方の最外側の灯火装置31fとの間の前方側距離Dを算出する。
同様に、後方画像201はカメラ101の制御部103へ入力され、制御部103は、その画像上における作業車両1の全体の最外側p1rの位置を認識特定する。更に、制御部103は、その画像上における作業車両1の全体の最外側p1rの中心線からの距離d’(1.9cm)と、距離測定手段104によって得られた、カメラ101から作業車両1の全体の最後部までの距離データ(例えば6m)と、予め格納している上記後方から見た走行車体2の最外側の灯火装置31rの走行車体2上の位置データD1r(1.1m)とに基づいて、作業車両1の全体の最外側p1rから、走行車体2の後方の最外側の灯火装置31rとの間の後方側距離D’を算出する。
次に、情報端末100の制御部103は、前方側距離Dおよび後方側距離D’が所定の距離(例えば40cm)を超えるかどうか判断する。
制御部103は超えると判断した場合はさらに以下のような画像認識を実行する。
すなわち、前方側距離Dが所定の距離を超えると判断した場合は、さらに、カメラ101によって作業車両1の前方から撮影した前方画像200において作業機Wの左右両端位置近傍に所定の白色の表示M(例えば白色灯火器)が認識されるかどうか(図4参照)、制御部103が画像認識機能を用いてチェックする。
更に、後方側距離D’が所定の距離を超えると判断した場合は、カメラ101によって作業車両1の後方から撮影した後方画像201において作業機Wの左右両端位置近傍に所定の赤色の表示N(例えば赤色灯火器)が認識されるかどうか(図6参照)、制御部103が画像認識機能を用いてチェックする。
その結果、白色の表示Mと赤色の表示Nのいずれかが認識できない場合は、制御部103は走行車体2のクラッチ10aの接続を切らせる信号を走行車体2へ送る。
走行車体2においてはその接続切りの信号を受けて、制御装置40がクラッチ10aを切る。
図14は上記例3の動作についての略示フローチャートである。
以上の例では、情報端末100の制御部103が画像認識機能を用いて所定の白色表示と赤色表示を認識したが、より確実にするため、上述したように作業者の確認を求める画面を図12,図13に示すように表示し(白色灯火器、赤色灯火器の確認S,S’を求める)、作業者の確認が無ければ、制御部103はクラッチ10aの接続を規制する旨の信号を走行車体2へ送信し、 走行車体2の制御装置40はクラッチ10aの接続を規制するようにしてもよい。
なお、本実施例でも画像認識動作を走行車体2の制御装置40に任せることも可能である。その場合は情報端末100は、前方画像200、後方画像201のデータを走行車体2の制御装置40に送信し、制御装置40が、前記所定の白色の表示の認識と、前記所定の赤色の認識と、前記クラッチの接続を規制することになる。情報端末100の制御部103の能力が劣っている場合なのに適切である。
なお、さらに、上述した図7に示すように、後方画像201において所定の図形の形状をした標識Q(走行制限を受けた車両であることを示す印。この場合は赤い逆三角形)を検出しなければ、クラッチ10aの接続を規制することも可能である。
ここにトラクタ1は、圃場を走行する圃場モード(作業走行モード)と、路上を走行する路上モードとをモード選択スイッチ223によって手動で切り替え可能に構成されている。圃場モードとは、圃場で作業を行う際に選択される制御モードであり、例えば、車速が低速(1~10km/h)でのみ走行するように制御される。また、路上モードとは、例えば、圃場までの路上を走行する際に選択される制御モードであり、例えば、車速が高速(15km/h以上)で走行できるように制御される。
また、図1では、作業機Wがロータリ耕運機である場合を例に挙げたが、例えば、作業機Wは、ハロー(砕土機)や、ブロードキャスタ(施肥機)、牽引作業機等であってもよい。
また、本発明は、白色、赤色などの色に限られないことは言うまでもない。
また、前記クラッチの接続の規制に代えて、エンジンの停止を行うようにしてもよい。
なお、本発明に関連した発明のプログラムは、上述された本発明の実施の形態の全部または一部の動作をコンピュータに実行させるためのプログラムであって、コンピュータと協働して動作するプログラムである。
また、本発明に関連した発明の記録媒体は、上述された本発明に実施の形態の全部または一部の動作をコンピュータに実行させるためのプログラムを記録した記録媒体であり、読取られたプログラムがコンピュータと協働して利用されるコンピュータ読取り可能な記録媒体である。
また、本発明に関連した発明のプログラムの一利用形態は、インターネット、光、電波または音波などのような伝送媒体の中を伝送され、コンピュータにより読取られ、コンピュータと協働して動作するという形態であってもよい。
また、記録媒体としては、ROM(Read Only Memory)などが含まれる。
また、コンピュータは、CPU(Central Processing Unit)などのような純然たるハードウェアに限らず、ファームウェア、OS(Operating System)、そしてさらに周辺機器を含んでもよい。
なお、上述されたように、本発明の構成は、ソフトウェア的に実現されてもよいし、ハードウェア的に実現されてもよい。
本発明における作業車両の状態判断システムは、作業機を装着した走行車体が路上走行しても良い状態であるか否かを判定して、作業機を装着した状態でも安全に走行でき、耕運機を搭載したトラクタなどのような作業車両に有用である。
1 トラクタ(作業車両)
2 走行車体
3 車体フレーム
4、5 前輪、後輪
7 操縦部
8 操縦席
9 ステアリングホイール
10ミッションケース
10aクラッチ
11 メータパネル
12 昇降装置
26 リフトアームセンサ
30 車体測位装置
31 灯火装置
31f 前方の灯火装置
31r 後方の灯火装置
40 制御装置
44 灯火装置
90 上げ高さダイヤル
91 公道走行ボタン
100 情報端末
100a 表示画面
101 カメラ
102 記憶部
103 制御部
104 距離測定手段
200 前方画像
201 後方画像
223 モード選択スイッチ
E エンジン
M、N、R、R’ 表示
P、P’、S、S’ 吹き出し画像
Sa 航法衛星
W 作業機

Claims (10)

  1. エンジンから駆動輪への動力伝達を入り切りするクラッチを有する走行車体と、前記走行車体に装着された作業機とを備えた作業車両の状態判断システムであって、
    前記走行車体に設けられた灯火装置と、
    カメラを有する情報端末と、を備え、
    前記情報端末は、前記カメラから前記作業車両の全体の最後部および最前部までの距離を測定する距離測定手段を有し、
    前記情報端末は、少なくとも前方から見た前記走行車体の最外側の灯火装置および後方から見た前記走行車体の最外側の灯火装置の前記走行車体上の位置データを有し、
    前記情報端末は、前記カメラによって前記作業車両の前方から撮影した前方画像200のデータの画像認識で得られた、画像上における前記作業車両全体の最外側の位置データと、前記カメラから前記作業車両全体の最前部までの距離データと、前記前方から見た前記走行車体の最外側の灯火装置の前記走行車体上の位置データとに基づいて、前記作業車両全体の最外側から、前記走行車体の前方の最外側の灯火装置との間の前方側距離を算出し、
    前記情報端末は、前記カメラによって前記作業車両の後方から撮影した後方画像のデータの画像認識で得られた、画像上における前記作業車両全体の最外側の位置データと、前記カメラから前記作業車両全体の最後部までの距離データと、前記後方から見た前記走行車体の最外側の灯火装置の前記走行車体上の位置データとに基づいて、前記作業車両全体の最外側から、前記走行車体の後方の最外側の灯火装置との間の後方側距離を算出し、
    前記情報端末は、前記前方側距離および前記後方側距離が所定の距離を超えるかどうか判断し、
    前記前方側距離が超える場合は、前記カメラによって前記作業車両の前方から撮影した前方画像において前記作業機の左右両端位置近傍に所定の色の表示が認識されなければ、また
    前記後方側距離が超える場合は、前記カメラによって前記作業車両の後方から撮影した後方画像において前記作業機の左右両端位置近傍に所定の色の表示が認識されなければ、
    前記走行車体のクラッチの接続が規制されることを特徴とする、作業車両の状態判断システム。
  2. 前記情報端末は、超えると判断した場合は、前記前方画像、前記後方画像のデータを前記走行車体の制御装置に送信し、
    前記制御装置は、前記それぞれの所定の色の表示の認識と、前記クラッチの接続を規制する、請求項1記載の作業車両の状態判断システム。
  3. 前記所定の距離を超える場合は、
    前記情報端末が、前記前方画像において、少なくとも、前記作業機の左右両端位置近傍の領域を含む画面を前記情報端末に表示して作業者が左右両端位置近傍の状態を確認出来るようにし、その後、その作業者によって予め決められた位置に所定の色の表示があることを確認する操作が行われない場合、または
    前記情報端末が、前記後方画像において、少なくとも、前記作業機の左右両端位置近傍の領域を含む画面を前記情報端末に表示して作業者が左右両端位置近傍の状態を確認出来るようにし、その後、その作業者によって予め決められた位置に所定の色の表示があることを確認する操作が行われない場合は、
    前記クラッチの接続を規制する旨の信号を前記走行車体へ送信し、
    前記走行車体の制御装置は前記クラッチの接続を規制する、請求項1記載の作業車両の状態判断システム。
  4. さらに、前記後方画像において所定の図形の形状をした標識を検出しなければ、前記クラッチの接続を規制する、請求項1に記載の作業車両の状態判断システム。
  5. エンジンから駆動輪への動力伝達を入り切りするクラッチを有する走行車体と、前記走行車体に装着された作業機とを備えた作業車両の状態判断システムであって、
    前記走行車体に設けられた灯火装置と、
    カメラを有する情報端末と、を備え、
    前記情報端末は、前記カメラから前記作業車両の全体の最後部および最前部までの距離を測定する距離測定手段を有し、
    前記情報端末は、前記カメラによって前記作業車両の前方から撮影した前方画像のデータの画像認識で得られた、画像上における前記作業車両全体の左右の全幅データと、前記カメラから前記作業車両全体の最前部までの距離データから、前記作業車両全体の前方側全幅を算出し、
    前記情報端末は、前記カメラによって前記作業車両の後方から撮影した後方画像のデータの画像認識で得られた、画像上における前記作業車両全体の左右の全幅データと、前記カメラから前記作業車両全体の最後部までの距離データから、前記作業車両全体の後方側全幅を算出し、
    前記情報端末は、前記前方側全幅または前記後方側全幅が所定の大きさを超えるかどうか判断し、超える場合は、
    前記前方画像および後方画像の前記作業機の左右両端位置近傍に所定の色彩パターンの表示が認識されなければ、前記クラッチの接続を規制する、作業車両の状態判断システム。
  6. さらに、前記後方画像において所定の図形の形状をした標識を検出しなければ、前記クラッチの接続を規制する、請求項5に記載の作業車両の状態判断システム。
  7. 前記情報端末は、少なくとも前方から見た前記走行車体の最外側の灯火装置および後方から見た前記走行車体の最外側の灯火装置の前記走行車体上の位置データを有し、
    前記情報端末は、前記カメラによって前記作業車両の前方から撮影した前方画像のデータの画像認識で得られた、画像上における前記作業車両全体の最外側の位置データと、前記カメラから前記作業車両全体の最前部までの距離データと、前記前方から見た前記走行車体の最外側の灯火装置の前記走行車体上の位置データとに基づいて、前記作業車両全体の最外側から、前記走行車体の前方の最外側の灯火装置との間の前方側距離を算出し、
    前記情報端末は、前記カメラによって前記作業車両の後方から撮影した後方画像のデータの画像認識で得られた、画像上における前記作業車両全体の最外側の位置データと、前記カメラから前記作業車両全体の最後部までの距離データと、前記後方から見た前記走行車体の最外側の灯火装置の前記走行車体上の位置データとに基づいて、前記作業車両全体の最外側から、前記走行車体の後方の最外側の灯火装置との間の後方側距離を算出し、
    前記情報端末は、前記前方側距離および前記後方側距離が所定の距離を超えるかどうか判断し、
    前記前方側距離が超える場合は、前記カメラによって前記作業車両の前方から撮影した前方画像において前記作業機の左右両端位置近傍に所定の色の表示が認識されなければ、また
    前記後方側距離が超える場合は、前記カメラによって前記作業車両の後方から撮影した後方画像において前記作業機の左右両端位置近傍に所定の色の表示が認識されなければ、
    前記走行車体のクラッチの接続が規制されることを特徴とする、請求項5記載の作業車両の状態判断システム。
  8. 前記情報端末は、超えると判断した場合は、前記前方画像、前記後方画像のデータを前記走行車体の制御装置に送信し、
    前記制御装置は、前記それぞれの所定の色の表示の認識と、前記クラッチの接続を規制する、請求項7記載の作業車両の状態判断システム。
  9. 前記所定の距離を超える場合は、
    前記情報端末が、前記前方画像において、少なくとも、前記作業機の左右両端位置近傍の領域を含む画面を前記情報端末に表示して作業者が左右両端位置近傍の状態を確認出来るようにし、その後、その作業者によって予め決められた位置に所定の色の表示があることを確認する操作が行われない場合、または
    前記情報端末が、前記後方画像において、少なくとも、前記作業機の左右両端位置近傍の領域を含む画面を前記情報端末に表示して作業者が左右両端位置近傍の状態を確認出来るようにし、その後、その作業者によって予め決められた位置に所定の色の表示があることを確認する操作が行われない場合は、
    前記クラッチの接続を規制する旨の信号を前記走行車体へ送信し、
    前記走行車体の制御装置は前記クラッチの接続を規制する、請求項7記載の作業車両の状態判断システム。
  10. 前記クラッチの接続の規制に代えて、エンジンの停止を行う、請求項1乃至9の何れかに記載の作業車両の状態判断システム。
JP2021166319A 2021-10-08 2021-10-08 作業車両の状態判断システム Active JP7677107B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021166319A JP7677107B2 (ja) 2021-10-08 2021-10-08 作業車両の状態判断システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021166319A JP7677107B2 (ja) 2021-10-08 2021-10-08 作業車両の状態判断システム

Publications (2)

Publication Number Publication Date
JP2023056857A true JP2023056857A (ja) 2023-04-20
JP7677107B2 JP7677107B2 (ja) 2025-05-15

Family

ID=86004886

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021166319A Active JP7677107B2 (ja) 2021-10-08 2021-10-08 作業車両の状態判断システム

Country Status (1)

Country Link
JP (1) JP7677107B2 (ja)

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101074678B1 (ko) 2011-03-03 2011-10-18 배상모 휴대단말기에 구비된 카메라를 이용한 물체의 실제 크기 측정 방법
US9613413B2 (en) 2012-10-17 2017-04-04 Caterpillar Inc. Methods and systems for determining part wear based on digital image of part
US10674054B2 (en) 2016-10-21 2020-06-02 Toshiba Tec Kabushiki Kaisha Image processing apparatus and image processing method
WO2019048046A1 (en) 2017-09-07 2019-03-14 Volvo Lastvagnar Ab METHOD FOR USING AT LEAST ONE VEHICLE CAMERA TO VERIFY THAT CERTAIN VEHICLE ELEMENTS ARE IN A SAFETY CONDITION PRIOR TO STARTING
JP7362101B2 (ja) 2019-04-26 2023-10-17 松山株式会社 農作業機用状態検知システム
JP7353796B2 (ja) 2019-05-17 2023-10-02 ヤンマーパワーテクノロジー株式会社 作業車両用の自動走行システム
JP7196807B2 (ja) 2019-09-30 2022-12-27 井関農機株式会社 作業車両

Also Published As

Publication number Publication date
JP7677107B2 (ja) 2025-05-15

Similar Documents

Publication Publication Date Title
KR102493698B1 (ko) 작업차
CN111373894B (zh) 工作车辆
JP7388477B2 (ja) 作業車両
JP7196807B2 (ja) 作業車両
JP7276073B2 (ja) 作業車両
JP7276075B2 (ja) 作業車両
JP7196786B2 (ja) 作業車両
JP7196787B2 (ja) 作業車両
JP7059221B2 (ja) 作業車両用の制御システム
JP7677107B2 (ja) 作業車両の状態判断システム
JP2021036785A (ja) 作業車両
JP7677104B2 (ja) 作業車両の状態判断システム
JP2023129688A (ja) 自律走行システム及び自律走行方法
JP7238704B2 (ja) 農業用トラクタ
KR20210152387A (ko) 작업 차량 시스템
JP7375681B2 (ja) 作業車両
JP7375680B2 (ja) 作業車両
JP7317169B2 (ja) 作業車両用の制御システム
JP2021026349A (ja) 作業車両
JP7234828B2 (ja) 作業車両
JP7421697B2 (ja) 作業車両
JP7226143B2 (ja) 作業車両
JP2024151907A (ja) 作業車両
JP2025047365A (ja) 作業車両
JP2024080410A (ja) 作業車両

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240527

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20241114

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250120

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20250120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250401

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250414