JP2010223834A - Product inspection system - Google Patents
Product inspection system Download PDFInfo
- Publication number
- JP2010223834A JP2010223834A JP2009072703A JP2009072703A JP2010223834A JP 2010223834 A JP2010223834 A JP 2010223834A JP 2009072703 A JP2009072703 A JP 2009072703A JP 2009072703 A JP2009072703 A JP 2009072703A JP 2010223834 A JP2010223834 A JP 2010223834A
- Authority
- JP
- Japan
- Prior art keywords
- product
- inspection
- determination
- image data
- portable terminal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Automobile Manufacture Line, Endless Track Vehicle, Trailer (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
Abstract
Description
この発明は、例えば車両の完成検査ライン上において検査対象製品の組み付け状態の正否を検査するための製品検査システムに関するものである。 The present invention relates to a product inspection system for inspecting the correctness of the assembled state of a product to be inspected on, for example, a vehicle completion inspection line.
例えば、製品としての車両には、その仕様、顧客注文、ディーラオプション等により、装備品の有無や種類の違いが存在する。このため、車両メーカにおいては、車両の装備がその仕様等に合致したものとなっているか否か(以下、組み付け状態の正否という。)を確認する検査が行われている。このような検査は、通常組み付け指示一覧表に基づき、作業者が、一覧表内の記号と、車室内のリヤクーラ・スイッチ等の実際の装備とが合致しているか否かを目視によって判断することで行われている。このような作業者による検査作業には、勘違い等の人為的なミスが発生する虞があるため、そのようなミスの発生を防ぐために、前記一覧表の表記方法を工夫したり、二重、三重の検査工程を設けたりすることにより、仕様等に合致しない装備の車両の出荷が防止されている。 For example, there are differences in the presence and type of equipment in a vehicle as a product depending on its specifications, customer orders, dealer options, and the like. For this reason, in the vehicle manufacturer, an inspection is performed to check whether the equipment of the vehicle conforms to the specifications or the like (hereinafter referred to as correct / incorrect assembly state). Such inspection is based on the normal assembly instruction list, and the operator must visually determine whether the symbols in the list match the actual equipment such as the rear cooler switch in the passenger compartment. It is done in In such inspection work by an operator, human error such as misunderstanding may occur, so in order to prevent such an error, the notation method of the list is devised, double, By providing a triplicate inspection process, shipment of vehicles that do not meet the specifications is prevented.
一方、車両への組み付け前の部品が仕様等に合致したものであるか否かを判定する検査には、一般に画像処理による検査方法が採用されている。すなわち、組み付け前の部品を撮影した画像の処理結果と、仕様等の情報とが照合されることにより、その部品がその情報に合致したものであるか否かが検査される。通常、このような部品の撮影は、部品の画像の画質を安定させるために、定置カメラや、ロボットに取り付けたカメラを用いて行われている。 On the other hand, in general, an inspection method using image processing is employed for determining whether or not a part before being mounted on a vehicle conforms to a specification or the like. That is, by comparing the processing result of an image obtained by photographing a part before assembly with information such as specifications, it is inspected whether or not the part matches the information. Usually, such parts are photographed using a stationary camera or a camera attached to a robot in order to stabilize the image quality of the parts.
このように画像処理を用いて製品の検査を行う技術としては、例えば特許文献1に開示されるものがある。この特許文献1の構成は、プリント基板上面を撮像した赤外線画像を用い、半田やチップ部品と配線パターンや基板本体との熱放射率の差に基づいて、プリント基板上における半田ボールや半田ブリッジの有無を検出するものである。
As a technique for inspecting a product using image processing in this way, for example, there is one disclosed in
車両に対する装備品の組み付け状態の正否検査に、その装備品の製品画像に画像処理を用いた判定を採用すれば、勘違い等による人為的なミスを防ぐことができる上に、検査結果である画像を残すことができる。車両の車室内の装備品をロボットによって撮影するためには、ロボットを車室内に侵入させる必要がある。しかし、車室内においてロボットを移動させるためには車室内のスペースが足りないために無理があり、撮影は作業者による手作業に頼らざるを得ない。ところが、作業者の手作業による装備品の撮影では、手ぶれにより画像が不鮮明となる場合があり、画像処理による判定が困難となる虞がある。 If a judgment using image processing is applied to the product image of the equipment for the correctness inspection of the assembled state of the equipment to the vehicle, it is possible to prevent human error due to misunderstandings, etc. Can leave. In order to photograph the equipment in the vehicle interior with the robot, the robot needs to enter the vehicle interior. However, in order to move the robot in the vehicle interior, there is not enough space in the vehicle interior, so it is impossible to take a picture, and it is necessary to rely on manual work by the operator. However, when photographing equipment by hand of an operator, an image may become unclear due to camera shake, which may make determination by image processing difficult.
この発明は、このような従来の技術に存在する問題点に着目してなされたものである。その目的とするところは、製品画像による検査対象製品の組み付け状態の正否検査をより適切に行うことができる製品検査システムを提供することにある。 The present invention has been made paying attention to such problems existing in the prior art. An object of the present invention is to provide a product inspection system that can more appropriately perform correctness inspection of the assembled state of a product to be inspected based on a product image.
上記の目的を達成するために、請求項1に記載の発明は、検査対象製品を作業者の操作により撮影するとともに、撮影された画像情報を外部へ転送する撮影手段と、その画像情報に基づき、前記検査対象製品の組み付け状態の正否を判定する正否判定手段とを備えた製品検査システムにおいて、前記正否判定手段は、前記画像情報に基づく前記検査対象製品の組み付け状態の正否判定が可能であるか否かを判定する予備判定手段と、前記予備判定手段が前記検査対象製品の組み付け状態の正否判定が不可能であると判定したときに、前記画像情報の再取得要求を前記撮影手段に対して出力する再取得要求手段を備えたことを特徴とする。
In order to achieve the above-mentioned object, the invention according to
請求項2に記載の発明は前記撮影手段及び正否判定手段はそれぞれ通信手段を有し、それらの通信手段を介して前記画像情報及び再取得要求の送受信を行うことを特徴とする。
請求項3に記載の発明は、前記正否判定手段は、検査履歴を記憶するための履歴記憶手段を設けたことを特徴とする。
According to a second aspect of the present invention, each of the photographing unit and the correctness determination unit includes a communication unit, and transmits and receives the image information and the reacquisition request via the communication unit.
The invention described in
請求項4に記載の発明は、前記履歴記憶手段は、正常組み付け状態の検査対象製品の画像を検査順に記憶することを特徴とする。
請求項5に記載の発明は、前記正否判定手段は、検査対象製品の搭載の有無に関する情報と、検査対象製品の画像情報とマスタ画像情報との比較とに基づいて正否を判断することを特徴とする。
The invention according to
The invention according to
請求項6に記載の発明は、前記正否判定手段は、検査対象製品の画像情報とマスタ画像情報との比較結果が検査対象製品の搭載の有無と対応しない場合に再取得要求を送信することを特徴とする。 In the invention described in claim 6, the correctness determination means transmits a reacquisition request when the comparison result between the image information of the inspection target product and the master image information does not correspond to the presence / absence of mounting of the inspection target product. Features.
請求項7に記載の発明は、前記撮影手段は車両製造ラインの作業者が所有する端末により構成され、前記正否判定手段は正否判定機能を備えるとともに、前記端末の動作を制御する制御装置により構成されたことを特徴とする。 According to a seventh aspect of the present invention, the photographing means is configured by a terminal owned by an operator of a vehicle production line, and the correctness determination means has a correctness determination function and is configured by a control device that controls the operation of the terminal. It is characterized by that.
請求項8に記載の発明は、前記端末は複数台設けられ、前記制御装置は複数台の各端末の動作を制御することを特徴とする。
(作用)
この発明においては、作業者が操作する撮影手段により撮影された検査対象製品の画像情報に基づき、正否判定手段が、検査対象製品の組み付け状態の正否を判定する。加えて、正否判定手段の予備判定手段は、製品画像に基づく検査対象製品の組み付け状態の正否判定が可能であるか否かを判定する。さらに、再取得要求手段は、予備判定手段が検査対象製品の組み付け状態の正否判定が不可能であると判定したときに、製品画像の再取得要求を撮影手段に対して出力する。従って、製品画像に基づく検査対象製品の組み付け状態の正否判定が正否判定手段において不可能な場合には、撮影手段においてそのことが分かるため、作業者の再操作により製品画像の再撮影を行うことが可能となる。
The invention described in claim 8 is characterized in that a plurality of the terminals are provided, and the control device controls the operation of each of the plurality of terminals.
(Function)
In this invention, the correctness determination means determines the correctness of the assembled state of the inspection target product based on the image information of the inspection target product photographed by the photographing means operated by the operator. In addition, the preliminary determination unit of the correctness determination unit determines whether or not the assembly state of the inspection target product based on the product image can be determined. Further, the reacquisition request means outputs a product image reacquisition request to the imaging means when the preliminary determination means determines that the correctness of the assembled state of the inspection target product is impossible. Therefore, when the correctness determination means cannot determine whether the assembled state of the inspection target product based on the product image is possible, the image capturing means can recognize that fact, so that the product image is re-photographed by the operator's re-operation. Is possible.
この発明によれば、製品画像による検査対象製品の組み付け状態の正否検査をより適切に行うことができるという効果を発揮する。 According to this invention, the effect that the correctness inspection of the assembly state of the product to be inspected by the product image can be performed more appropriately is exhibited.
(第1実施形態)
(システムの全体構成)
次に、この発明を具体化した第1実施形態について、図1〜図17を参照して説明する。
(First embodiment)
(Overall system configuration)
Next, a first embodiment embodying the present invention will be described with reference to FIGS.
図1に示すように、製品検査システムは、製品としての車両10の完成検査を行う複数の作業者がそれぞれ携帯する撮影手段としての携帯ターミナル11と、この各携帯ターミナル11との間において無線LAN(Local Aria Network)によるデータ通信を行う無線LAN親機12と、無線LAN親機12に接続された完成検査コンピュータ13とにより構成されている。この実施形態では、完成検査コンピュータ13が、正否判定手段、予備判定手段及び再取得要求手段である。
As shown in FIG. 1, the product inspection system includes a
携帯ターミナル11は、カメラと2次元コードリーダの機能を備え、図2(a),(b)に示すように、カメラ部14、ディスプレィ部15、データ処理部16及び無線LAN子機17等を備えている。データ処理部16はコンピュータよりなり、予め記憶されたプログラムに従って動作する。この実施形態では、前記無線LAN親機12及び無線LAN子機17が通信手段である。
The
図8(a),(b)に示すように、携帯ターミナル11のディスプレィ部15には、車種情報が表示される車両情報表示領域15a、カメラ部14により撮像される画像が表示されるモニタ領域15b、その携帯ターミナル11に割り当てられた検査対象製品の名称リスト及びそれぞれの判定履歴が表示される検査部品表示領域15cが設けられている。また、ディスプレィ部15には、検査対象製品名が順に1つずつ表示され、かつ判定結果が表示される作業案内表示領域15d、検査対象製品に対する全検査作業の最終総合判定結果が表示される判定結果表示領域15e、及び、作業者に対する検査作業の指示が順に表示される作業指示表示領域15fが設けられている。
As shown in FIGS. 8A and 8B, the
完成検査コンピュータ13は、予め記憶されたプログラムに従って作動し、図1に示すように、無線LAN親機12を介して各携帯ターミナル11の無線LAN子機17との間でデータ通信を行う。完成検査コンピュータ13は、制御装置としての制御部13a、履歴記憶手段としての記憶部13b及びディスプレィ13cを備えている。記憶部13bには、後述の図4〜図7、図15及び図16に示すプログラムや、同じく後述の第1〜第3マスタ画像データが記憶されている。
The
(完成車両検査)
次に、上記構成の製品検査システムを使って行われる完成車両検査について説明する。
完成車両検査においては、図1に示すように、完成検査ライン20を連続的に流れる車両に対し、携帯ターミナル11をそれぞれ携帯した複数の作業者21が、それぞれの携帯ターミナル11に割り当てられた複数の装備品について携帯ターミナル11を用いた検査を行う。この完成車両検査は、車両仕様、顧客注文、ディーラオプション等に対応した装備品(検査対象製品)の組み付け状態の正否、すなわち、組み付けるべき装備品が間違いなく組み付けられているか否か、また、組み付けるべきでない装備品が間違いなく組み付けられてないか否かを検査するために行われる。この完成車両検査における合格又は不合格の判定は、各車両に添付されているデータ記憶手段としての車両管理カード22から取得する情報との照合に基づいて行われる。
(Completed vehicle inspection)
Next, a completed vehicle inspection performed using the product inspection system having the above configuration will be described.
In the completed vehicle inspection, as shown in FIG. 1, a plurality of
車両管理カード22には、その車両に関する車両情報(ボディー番号、車両型式及びフレーム番号等)、仕様情報、指定装備品の有無に関する装備情報等を含む各種情報が記憶された二次元コードが記載されている。作業者は、携帯ターミナル11を用いて二次元コードを撮影することにより、上記各情報を携帯ターミナル11に取得する。仕様情報とは、グレード(等級)や駆動方式(例えば、前輪駆動又は全輪駆動)により異なる装備品(例えば自動変速機)の有無やその種類(自動変速機における手動切換機能の有無)に関する情報等である。完成車両検査においては、実際の車両に組み付けられた装備品が、この仕様情報及び装備情報により指定される内容と一致しているか否かが判定される。
The
(各携帯ターミナル11と完成検査コンピュータ13との間で行われるデータ通信)
上記の製品検査システムによって行われる完成車両検査において完成検査コンピュータ13と各携帯ターミナル11との間で行われるデータ通信について図3に従って説明する。なお、図3においてS104,S203等の符号は、後述の図4等のフローチャートにおけるS104等のステップを示している。
(Data communication performed between each
Data communication performed between the completed
完成車両検査においては、先ず、各携帯ターミナル11から完成検査コンピュータ13に対して、作業者が検査しようとする車両の車両管理カード22から携帯ターミナル11に取得した車両情報、仕様情報及び装備情報が送信される(S104→S203)。これに対し、完成検査コンピュータ13からその携帯ターミナル11に対し、前記仕様情報及び装備情報に含まれる複数の装備品の有無や種類に関する検査対象製品のうちから完成検査コンピュータ13がその携帯ターミナル11に割りあてた検査対象製品についての指示とともに撮影許可が送信される(S204→S106)。
In the completed vehicle inspection, first, vehicle information, specification information, and equipment information acquired from the
次いで、各携帯ターミナル11からは、それぞれに割り当てられた検査対象製品につき、作業者により撮影された検査対象製品の画像データが完成検査コンピュータ13に送信される(S109→S205)。これに対し、完成検査コンピュータ13において、この画像データに基づく検査対象製品の検査を行うことができなかった場合には、携帯ターミナル11に対して再撮影要求が送信される(S209→S110)。また、完成検査コンピュータ13において、画像データに基づく検査対象製品の検査を行うことができた場合には、その検査対象製品に対する検査結果が合格であるか不合格であるかの判定結果が送信される(S210→S112)。この携帯ターミナル11と完成検査コンピュータ13との間の画像データと判定結果とのやり取りは、携帯ターミナル11に割り当てられた複数の検査対象製品毎に実行される。
Next, for each inspection target product assigned to each
1つの検査対象製品に関する画像データと判定結果とのやり取りが終了すると、次に携帯ターミナル11から完成検査コンピュータ13に対し、次の検査対象製品の画像データが送信される(S109→S205)。これに対し、完成検査コンピュータ13から携帯ターミナル11には、その画像データによる検査対象製品の検査結果に基づき、再撮影要求又は判定結果が送信される(S209→S110、S210→S112)。
When the exchange of the image data relating to one inspection target product and the determination result is completed, next, the image data of the next inspection target product is transmitted from the
携帯ターミナル11に完成検査コンピュータ13から割り当てられた全ての検査対象製品に対する判定が終了すると、完成検査コンピュータ13から携帯ターミナル11に対し、その全ての検査対象製品に対する判定結果に基づく総合判定結果が送信される(S213→S115)。
When the determination for all the inspection target products assigned to the portable terminal 11 from the
以上で、1台の車両に対する検査が終了する。
(各携帯ターミナル11、完成検査コンピュータ13において実行される処理)
次に、完成車両検査中に、各携帯ターミナル11及び完成検査コンピュータ13において実行される処理について、図4及び図5に示すフローチャートと、図6及び図7に示すフローチャートとに従って説明する。図4及び図5のフローチャートは、携帯ターミナル11のデータ処理部16において実行される画像取得処理を示し、図6及び図7のフローチャートは、完成検査コンピュータ13の制御部13aにおいて実行される正否判定処理を示している。
This completes the inspection for one vehicle.
(Processing executed in each
Next, processing executed in each
(携帯ターミナル11)
さて、作業者21が自分の携帯ターミナル11を起動させると、その作業者21に検査を行わせるための画像取得処理が実行される。この画像取得処理においては、図4に示すように、先ず、ステップ(以下、Sと略記する)101において、初期待ち受け画面がディスプレィ部15に表示される。この初期待ち受け画面では、図8(a)に示すように、ディスプレィ部15の作業案内表示領域15dに、例えば「二次元コードを読み込んでください」という作業者21へのメッセージが表示される。このメッセージに従い、作業者21は、車両に添付された車種情報カードの二次元コードを携帯ターミナル11のカメラ部14により撮影する。
(Mobile terminal 11)
Now, when the
次に、S102において、二次元コードが正確に取得できたか否かが二次元コード中の周知のチェックコードに基づいて判定される。このS102において肯定判定されると、次にS103において二次元コードが解析され、車両情報、仕様情報及び装備情報等が取得される。 Next, in S102, it is determined based on a known check code in the two-dimensional code whether or not the two-dimensional code has been acquired correctly. If an affirmative determination is made in S102, then the two-dimensional code is analyzed in S103, and vehicle information, specification information, equipment information, and the like are acquired.
次に、S104において、取得された車両情報、仕様情報及び装備情報等が、無線LAN子機17を介して無線LAN親機12に向かって無線送信される(図3参照)。続いてS105において、ディスプレィ部15の車両情報表示領域15aに車両情報が表示される。
Next, in S104, the acquired vehicle information, specification information, equipment information, and the like are wirelessly transmitted to the wireless
(完成検査コンピュータ13)
一方、完成検査コンピュータ13において実行される正否判定処理においては、図6に示すように、先ず、S201において、携帯ターミナル11から車両情報、仕様情報及び装備情報を受信したか否かが判定される(図3参照)。このS201において肯定判定されると、次にS202において、取得された車両情報がディスプレィ13cに表示される。
(Completion inspection computer 13)
On the other hand, in the correctness determination process executed in the
次に、S203において、この車両情報が、予め記憶部13bに記憶されている生産予定車両リスト中の車両情報に一致するか否かが確認される。そして、一致が確認されたときには、次にS204において、車両情報を送信した携帯ターミナル11に対し、仕様情報及び装備情報に含まれる複数の装備品の有無や種類に関する情報とともに撮影許可が送信される(図3参照)。なお、1つの携帯ターミナル11に検査情報が送信される装備品の種類は、完成検査において検査される全ての検査対象製品の一部であり、それ以外の検査対象製品は、他の携帯ターミナル11に割り当てられている。
Next, in S203, it is confirmed whether or not the vehicle information matches the vehicle information in the production planned vehicle list stored in the
(携帯ターミナル11)
完成検査コンピュータ13におけるS204の実行に対し、図4に示すように、携帯ターミナル11では、前記処理のS106において、検査対象製品に関する情報と撮影許可とを受信したか否かが判定される。そして、S106において肯定判定されたときには、次に図5に示すS107において、ディスプレィ部15の検査部品表示領域15cに、その携帯ターミナル11に割り当てられた複数の装備品のリストが作業順に表示される(図8(b)参照)。また、作業案内表示領域15dには、前記検査対象製品のうち1番目に検査される検査対象製品名(例えばリヤクーラ)が表示される。さらに、モニタ領域15bには、カメラ部14により取り込まれる製品画像が常時表示されるとともに、作業指示表示領域15fには、例えば「リヤクーラを撮影してください」というようなメッセージが表示される。なお、ここでカメラ部14に取り込まれた画像データは、データ処理部1s6に保存されることにより携帯ターミナル11に取得される。
(Mobile terminal 11)
In response to the execution of S204 in the
このメッセージに従い、作業者21は、図11(a),(b)及び図12(a),(b)に示すような空調コントロールパネル30の一部の製品画像を撮影する。なお、空調コントロールパネル30は、図示しないセンタコンソールパネル上に設けられている。リヤクーラは、車両仕様により設定されるか、又は、顧客の注文により設定される装備であって、空調コントロールパネル30には、リヤクーラの有無に応じた2種類の仕様が存在する。すなわち、リヤクーラが装備された車両の空調コントロールパネル30には、検査対象製品としてのリヤクーラ・スイッチ31が設けられ、リヤクーラが装備されない車両の空調コントロールパネル30には、リヤクーラ・スイッチ31の代わりにダミーボタン32が設けられている。そこで、リヤクーラ・スイッチ31が指定通りに組み付けられているか否か、あるいは、リヤクーラ・スイッチ31が指定通りに組み付けられていないか否か(以下、これらを組み付け状態の正否という)を判定するために、作業者の撮影により、リヤクーラ・スイッチ31又はダミーボタン32の領域を含む空調コントロールパネル30の所定の一部領域の製品画像が取得される。
In accordance with this message, the
また、このとき図13(a)に示すように、携帯ターミナル11におけるディスプレィ部15のモニタ領域15bには、カメラ部14の撮影範囲を、所定の製品領域に合わせるためのターゲットスケール33がその装備品に応じた形態で表示されるようになっている。そして、装備品の撮影時に作業者21がこのターゲットスケール33を前記製品領域内に設定されたターゲットに合わせることにより、その製品領域に対応する製品画像を適切に撮影することができるようになっている。この例では、図13(b)に示すように、ターゲットスケール33は、ターゲットに設定されたリヤクーラ・スイッチ31の外形に合わせて設定されており、これにより図13(c)や図13(d)に示すような製品領域からの位置ずれは防止される。
At this time, as shown in FIG. 13A, the
次に実行されるS108においては、作業者21によるシャッター操作に基づいて、モニタ領域15bに表示されている製品領域が撮影され、その製品画像がファイル化される。次にS109においてその画像データが無線送信される(図3参照)。この画像データは、JPG(Joint Photographic Experts Group)データである。
Next, in S108, the product area displayed in the
(完成検査コンピュータ13)
携帯ターミナル11におけるS109の実行に対し、完成検査コンピュータ13では、図6に示すように、S205において、携帯ターミナル11からの画像データを受信したか否かが判定され、ここで肯定判定されたときには、次にS206において、画像データがJPGデータからBMP(Microsoft Windows Bitmap Image)データに変換される。
(Completion inspection computer 13)
In response to the execution of S109 in the
次に、S207において、このBMPデータに基づいて検査対象製品の組み付け状態の正否判定が行われる。なお、判定方法に関しては後述する。次に、S208において、検査対象製品に対する組み付け状態の正否判定が可能であったか否かが判定され、ここで否定判定されたときには、次にS209において製品画像の再撮影要求が無線送信される(図3参照)。 Next, in S207, whether or not the assembled state of the inspection target product is correct is determined based on the BMP data. The determination method will be described later. Next, in S208, it is determined whether it is possible to determine whether the assembled state of the product to be inspected is correct. If a negative determination is made here, then in S209, a product image re-shooting request is wirelessly transmitted (FIG. 3).
(携帯ターミナル11)
完成検査コンピュータ13におけるS209の実行に対し、携帯ターミナル11では、図5に示すように、S110において再撮影要求の有無が判定される。そして、S110で肯定判定されたときにはS111において、図9(b)に示すように、ディスプレィ部15の作業案内表示領域15dに「判定不能」の表示がなされるとともに、作業指示表示領域15fに再撮影を作業者21に促すメッセージの表示が行われた後、改めてS205からの処理が実行される。従って、携帯ターミナル11により撮影された製品画像が判定可能とならない限りは、製品画像の再撮影が作業者21に促される。
(Mobile terminal 11)
In response to the execution of S209 in the
(完成検査コンピュータ13)
一方、完成検査コンピュータ13において、図6に示すように、前記S208において肯定判定されたときには、次にS210において判定結果が無線送信される。S210の実行後、S211において携帯ターミナル11に割り当てられた全ての装備品に対する組み付け状態の正否判定が終了したか否かが判定され、否定判定されたときには、前記S205からの処理が再び実行される。
(Completion inspection computer 13)
On the other hand, as shown in FIG. 6, when the affirmative determination is made in S208, the determination result is wirelessly transmitted in S210. After the execution of S210, it is determined whether or not the assembly state correctness determination for all equipment assigned to the
(携帯ターミナル11)
一方、携帯ターミナル11において、図5に示すように、前記S110において否定判定されたときには、次にS112において完成検査コンピュータ13から判定結果が受信される。続いてS113において、図9(a)に示すように、ディスプレィ部15の検査部品表示領域15c及び作業案内表示領域15dに、検査対象製品に対する判定結果が表示される。
(Mobile terminal 11)
On the other hand, in the
次にS114において、その携帯ターミナル11に割り当てられている全ての装備品に対する組み付け状態の正否判定が終了したか否かが判定され、否定判定されたときには、S107からの処理が再び実行される。
Next, in S114, it is determined whether or not the assembly state correctness determination for all equipment assigned to the
そして、S107においては、その携帯ターミナル11に割り当てられた検査対象製品のうち、次に検査するように設定された検査対象製品の名称がディスプレィ部15の作業案内表示領域15dに表示される。このようにして、割り当てられた複数の検査対象製品毎にS107〜S114の処理が繰り返し実行される。
In S107, the name of the inspection target product set to be inspected next among the inspection target products assigned to the
(完成検査コンピュータ13)
完成検査コンピュータ13では、図6及び図7に示すように、前記S211において肯定判定されたときには、次にS212において、その携帯ターミナル11に割り当てられた全ての検査対象製品の組み付け正否に対する判定結果に基づく総合判定が行われる。すなわち、全ての検査対象製品の組み付け状態の正否判定結果が合格であるときには総合判定結果は合格とされ、少なくとも一つの検査対象製品に対する判定結果が不合格であったときには総合判定結果は不合格とされる。
(Completion inspection computer 13)
In the
次にS213において上記総合判定結果が携帯ターミナル11に無線送信された後、次のS214において、図14に示すように、各車両に対する総合判定結果が、車両情報に対応した検査履歴として保存される。この後、一台の車両10に対する検査処理が終了される。
Next, after the comprehensive determination result is wirelessly transmitted to the
(携帯ターミナル11)
携帯ターミナル11においては、図5に示すように、前記S114において肯定判定されたときに、次にS115において完成検査コンピュータ13から総合判定結果が受信され、次にS116において、図10に示すように、この総合判定結果がディスプレィ部15の総合判定結果表示領域15eに表示された後、この処理が終了される。
(Mobile terminal 11)
In the
(完成検査コンピュータ13において実行される製品画像の組み付け状態の正否判定処理)
次に、前記正否判定処理のS207のサブルーチンにおいて実行される組み付け状態の正否判定処理について、主として図15及び図16に示すフローチャートと図17に示す表を参照して説明する。
(Fairness determination process of assembly state of product image executed in completion inspection computer 13)
Next, the correctness determination processing of the assembled state executed in the subroutine of S207 of the correctness determination processing will be described with reference mainly to the flowcharts shown in FIGS. 15 and 16 and the table shown in FIG.
この正否判定処理では、例えば、図11(a),(b)に示すような前記空調コントロールパネル30におけるリヤクーラ・スイッチ31の有無を、携帯ターミナル11により撮影された製品画像(図12(a),(b)に図示する画像M)により判定する。この正否判定処理においては、撮影された製品画像データからトリミングにより2つの画像データが取得される。この2つの画像データのうちの1つは、検査対象製品であるリヤクーラ・スイッチ31の特徴部、この場合は、「REAR」の文字列、を含むように予め設定された第1製品領域(図11(a),(b)に一点鎖線で囲まれた領域P)に対応する第1製品画像(図12(c)に図示する画像S)である。また、他方の1つは、この第1製品領域を含むように広角で設定された第2製品領域(図11(a),(b)に一点鎖線で囲まれた領域Q)に対応する第2製品画像(図12(a),(b)に図示する画像M)である。
In this correct / incorrect determination process, for example, the presence or absence of the rear
そして、この正否判定処理は、各装備品の第1製品画像に対して予め用意されている合致率判定用の1つの第1マスタ画像データと、第2製品画像に対して予め用意されている合致率判定用のそれぞれ1つの第2マスタ画像データ及び第3マスタ画像データを用いて行われる。そして、これらの第1、第2、第3マスタ画像データと第1及び第2製品画像データとのパターンマッチングの合致率が取得され、この合致率に基づいて正否が判定される。なお、このパターンマッチングによる合致率の取得は、周知の画像処理技術により行われる。 This correct / incorrect determination processing is prepared in advance for one first master image data for match rate determination and a second product image prepared in advance for the first product image of each equipment item. This is performed using one second master image data and one third master image data for determining the match rate. Then, the matching rate of pattern matching between the first, second, and third master image data and the first and second product image data is acquired, and correctness is determined based on the matching rate. Note that the acquisition of the match rate by this pattern matching is performed by a known image processing technique.
この3つのマスタ画像データのうち第1マスタ画像データは、ズームアップされた第1製品画像データとの合致率を判定するためのものであって、図12(c)に示す第1製品画像Sに対応している。また、第2マスタ画像データは、図12(a)に示すように、リヤクーラ・スイッチ31が設けられた状態の第2製品領域を撮影した第2製品画像Mに対応し、第3マスタ画像データは、図12(b)に示すように、リヤクーラ・スイッチ31の代わりにダミーボタン32が設けられた状態の第2製品領域を撮影した第2製品画像Mに対応している。各マスタ画像データは、第1及び第2製品画像データを外形エッジ処理して得られた処理画像データと比較され、その処理画像データとマスタ画像データとの合致率に基づいて正否判定が行われる。
Of these three pieces of master image data, the first master image data is used for determining a match rate with the zoomed-up first product image data, and the first product image S shown in FIG. It corresponds to. Further, as shown in FIG. 12A, the second master image data corresponds to the second product image M obtained by photographing the second product area in the state where the rear
さて、正否判定処理においては、図15に示すように、先ず、S401において、検査対象の車両の車両管理カード22から取得した仕様情報、装備情報等に基づき、検査対象製品、すなわちリヤクーラの有無の指定が「あり」であるか又は「なし」であるかが判定される。
In the correctness determination process, as shown in FIG. 15, first, in S401, based on the specification information, equipment information, etc. acquired from the
(リヤクーラの指定がある場合)
S401において肯定判定されると、次にS402において、ズームアップされた第1製品画像データと第1マスタ画像データとの合致率が算出される。次に、S403において、判定された合致率が、予め設定されているしきい値α(例えば80%)を越えているか否かが判定され、しきい値αを越えていたときには、第1製品画像中に「REAR」の文字列が存在している(「あり」)と判定される。この場合、次にS404が実行される。
(If rear cooler is specified)
If an affirmative determination is made in S401, then in S402, a match rate between the zoomed-up first product image data and the first master image data is calculated. Next, in S403, it is determined whether or not the determined match rate exceeds a preset threshold value α (for example, 80%). It is determined that the character string “REAR” exists in the image (“Yes”). In this case, S404 is executed next.
S404においては、広角の第2製品画像データと第2マスタ画像データとの合致率が算出される。この次にS405において、判定された合致率が、予め設定されているしきい値β(例えば70%)を越えているか否かが判定され、しきい値βを越えていたときには、検査対象製品であるリヤクーラ・スイッチ31を含む第2製品画像領域を撮影した第2製品画像は手ぶれがなく、画像認識状態が良好「○」であると判定されて、リヤクーラ・スイッチ31が存在すると判定される。この場合、次にS406において、リヤクーラの指定が「あり」であることと、第2製品領域中にリヤクーラ・スイッチ31が存在すると判定したこととに基づき、リヤクーラに対する有無検査の判定結果は「OK」であるとされる(図17に示す表中の1−aに該当)。そして、図6のS210においてその判定結果が「OK」として携帯ターミナル11に送信され、この処理は終了される。従って、作業者は、携帯ターミナル11における判定結果の表示により、検査結果が「OK」であり、リヤクーラが指定通りに組み付けられていることを確認できる。
In S404, the coincidence rate between the wide-angle second product image data and the second master image data is calculated. Next, in S405, it is determined whether or not the determined match rate exceeds a preset threshold value β (for example, 70%). The second product image obtained by photographing the second product image area including the rear
一方、前記S405において、第2製品画像データと第2マスタ画像データとの合致率がしきい値β以下であったときには、検査対象製品であるリヤクーラ・スイッチ31を含む第2製品画像領域を撮影した第2製品画像は手ぶれの影響があり、画像認識状態が不良「×」であると判定される。この場合、次にS407において、リヤクーラに対する有無検査の判定結果は「判定不能」であるとされる(図17に示す表中の1−bに該当)。そして、図6のS210においてその判定結果が「判定不能」として携帯ターミナル11に送信される。従って、作業者は、有無検査が正常に行われなかったことを認識でき、製品の再撮影を行うことができる。このように、第1製品画像データと第1マスタ画像データの合致率がしきい値αを越えているにも拘らず第2製品画像データと第2マスタ画像データとの合致率がしきい値β以下となる状況としては、例えば、車両外部から車室内に光が差し込んで空調コントロールパネル30の表面に反射した像を「REAR」と認識してしまった場合等がある。
On the other hand, when the matching rate between the second product image data and the second master image data is equal to or less than the threshold value β in S405, the second product image area including the rear
また、前記S403において、第1製品画像データと第1マスタ画像データとの合致率がしきい値α以下であると判定されたときには、第1製品画像中に「REAR」の文字列が存在していない(「なし」)と判定される。この場合、次にS408が実行される。 In S403, when it is determined that the match rate between the first product image data and the first master image data is equal to or less than the threshold value α, the character string “REAR” exists in the first product image. Not determined (“None”). In this case, S408 is executed next.
S408においては、第2製品画像データと第3マスタ画像データとの合致率が算出される。この次に、S409において、判定された合致率が前記しきい値βを越えているか否かが判定され、しきい値βを越えていたときには、第2製品画像データには手ぶれの影響がなく、画像認識状態が良好「○」であると判定されるとともに、リヤクーラ・スイッチ31が存在しない(「なし」)と判定される。この場合、次にS410において、リヤクーラの指定が「あり」であることと、第2製品領域中にリヤクーラ・スイッチ31が存在しないと判定したこととに基づき、リヤクーラに対する有無検査の判定結果は「NG」であるとされる(図17に示す表中の1−cに該当)。そして、図6のS210においてその判定結果が「NG」として携帯ターミナル11に送信され、この処理は終了される。従って、作業者は、携帯ターミナル11における判定結果の表示により、検査結果が「NG」であり、車両にリヤクーラが指定通りに組み付けられていないことを認識できる。
In S408, the match rate between the second product image data and the third master image data is calculated. Next, in S409, it is determined whether or not the determined match rate exceeds the threshold value β, and if it exceeds the threshold value β, the second product image data is not affected by camera shake. The image recognition state is determined to be good “◯”, and it is determined that the rear
一方、前記S409において、第2製品画像データと第3マスタ画像データとの合致率がしきい値β以下であったときには、検査対象製品であるリヤクーラ・スイッチ31を含む第2製品画像領域を撮影した第2製品画像は手ぶれの影響があり、画像認識状態が不良(「×」)であると判定される(図17に示す表中の1−dに該当)。この場合、次にS408において、リヤクーラに対する有無検査の判定結果は「判定不能」であるとされる。そして、図6のS210においてその判定結果が「判定不能」として携帯ターミナル11に送信され、この処理は終了される。従って、作業者は、携帯ターミナル11における判定結果の表示により、検査結果が「判定不能」であることを認識できる。
On the other hand, when the matching rate between the second product image data and the third master image data is equal to or less than the threshold value β in S409, the second product image area including the rear
(リヤクーラの指定がない場合)
また、前記S401において、検査対象の車両の車両管理カード22から取得した仕様情報、装備情報等に基づき、リヤクーラの指定が「なし」であると判定されたときには、図16のフローチャートに示すように、次にS451において、第1製品画像データと第1マスタ画像データとの合致率が算出される。次に、S452において、判定された合致率が前記しきい値αを越えているか否かが判定され、しきい値αを越えていたときには、第1製品画像中に「REAR」の文字列が存在している(「あり」)と判定される。この場合、次にS453が実行される。
(If no rear cooler is specified)
When it is determined in S401 that the rear cooler is designated as “none” based on the specification information, equipment information, etc. acquired from the
S453においては、第2製品画像データと第2マスタ画像データとの合致率が算出される。この次にS454において、判定された合致率が前記しきい値βを越えているか否かが判定され、しきい値βを越えていたときには、検査対象製品であるリヤクーラ・スイッチ31を含む第2製品画像領域を撮影した第2製品画像は手ぶれの影響がなく、画像認識状態が良好(「○」)であると判定されて、リヤクーラ・スイッチ31が存在する(「○」)と判定される。この場合、次にS455において、リヤクーラの設定が「なし」であることと、第2製品領域中にリヤクーラ・スイッチ31が存在すると判定したこととに基づき、リヤクーラに対する有無検査の判定結果は「NG」であるとされる(図17に示す表中の2−aに該当)。そして、図6のS210においてその判定結果が「NG」として携帯ターミナル11に送信され、この処理は終了される。従って、作業者は、携帯ターミナル11における判定結果の表示により、検査結果が「NG」であり、リヤクーラの指定がないにも拘らず組み付けられていることを認識できる。
In S453, the match rate between the second product image data and the second master image data is calculated. Next, in S454, it is determined whether or not the determined match rate exceeds the threshold value β, and if it exceeds the threshold value β, the second
一方、前記S454において、第2製品画像データと第2マスタ画像データとの合致率がしきい値β以下であったときには、第2製品画像は手ぶれの影響があり、画像認識状態が不良(「×」)であると判定される(図17に示す表中の2−bに該当)。この場合、次にS456において、リヤクーラに対する有無検査の判定結果は「判定不能」であるとされた。そして、図6のS210においてその判定結果が「判定不能」として携帯ターミナル11に送信され、この処理が終了される。従って、作業者は、携帯ターミナル11における判定結果の表示により、検査結果が「判定不能」であることを認識できる。
On the other hand, when the matching rate between the second product image data and the second master image data is equal to or less than the threshold value β in S454, the second product image is affected by camera shake and the image recognition state is poor (“ × ”) (corresponding to 2-b in the table shown in FIG. 17). In this case, next, in S456, the determination result of the presence / absence inspection for the rear cooler is determined to be “determination impossible”. Then, in S210 of FIG. 6, the determination result is transmitted to the
また、前記S452において、第1製品画像データと第1マスタ画像データとの合致率がしきい値α以下であると判定されたときには、第1製品画像中に「REAR」の文字列が存在している可能性が低いと判定される。この場合、次にS457が実行される。 If it is determined in S452 that the match rate between the first product image data and the first master image data is equal to or less than the threshold value α, the character string “REAR” exists in the first product image. It is determined that there is a low possibility that In this case, S457 is executed next.
S457においては、第2製品画像データと第3マスタ画像データとの合致率が算出される。この次に、S458において、判定された合致率が前記しきい値βを越えているか否かが判定され、しきい値βを越えていたときには、第2製品画像は手ぶれの影響がなく、画像認識状態が良好(「○」)であると判定され、リヤクーラ・スイッチ31が存在しない(「なし」)と判定される。この場合、次にS459において、リヤクーラの設定が「なし」であることと、第2製品領域中にリヤクーラ・スイッチ31が存在しないと判定したこととに基づき、リヤクーラに対する有無検査の判定結果は「OK」であるとされる(図17に示す表中の2−cに該当)。そして、図6のS210においてその判定結果が「OK」として携帯ターミナル11に送信され、この処理は終了される。従って、作業者は、携帯ターミナル11における判定結果の表示により、検査結果が「OK」であり、指定通りにリヤクーラが組み付けられていないことを確認できる。
In S457, the match rate between the second product image data and the third master image data is calculated. Next, in S458, it is determined whether or not the determined match rate exceeds the threshold value β, and if it exceeds the threshold value β, the second product image is not affected by camera shake, and the image It is determined that the recognition state is good (“◯”), and it is determined that the rear
一方、前記S458において、第2製品画像データと第3マスタ画像データとの合致率がしきい値β以下であったときには、第2製品画像は手ぶれの影響があり、画像認識状態が不良(「×」)であると判定される。この場合、次にS460において、リヤクーラに対する有無検査の判定結果は「判定不能」であるとされる(図17に示す表中の2−dに該当)。そして、図6のS210においてその判定結果が携帯ターミナル11に送信され、この処理は終了される。従って、作業者は、携帯ターミナル11における判定結果の表示により、検査結果が「判定不能」であることを認識できる。
On the other hand, when the matching rate between the second product image data and the third master image data is equal to or less than the threshold value β in S458, the second product image is affected by camera shake and the image recognition state is poor (“ X "). In this case, next, in S460, it is determined that the determination result of the presence / absence inspection for the rear cooler is “determination impossible” (corresponding to 2-d in the table shown in FIG. 17). Then, in S210 of FIG. 6, the determination result is transmitted to the
以上のように実行される正否判定処理によれば、実際には車両にリヤクーラが装備されているときに、作業者による撮影時の手ぶれにより、第1マスタ画像データによるリヤクーラ・スイッチ31の検出ができない場合には、第2製品画像データと第3マスタ画像データが合致しなくてもリヤクーラが存在しないとは判定されず、再撮影を促す「判定不能」が作業者に通知される。このため、実際にはリヤクーラが装備されているにも拘らず、リヤクーラが装備されていないとする検査間違いは防止される。
According to the correctness determination process executed as described above, when the rear cooler is actually mounted on the vehicle, the detection of the rear
また、実際には車両にリヤクーラが装備されているときに、第1マスタ画像データによるリヤクーラ・スイッチ31の検出ができた場合であっても、第2製品画像データと第2マスタ画像データが合致しないときには、再撮影を促す「判定不能」が作業者に通知される。このため、実際にはリヤクーラが装備されているにも拘らず、リヤクーラが装備されていないとする検査間違いは防止される。
Further, when the vehicle is equipped with a rear cooler, the second product image data matches the second master image data even if the rear
また、実際には車両にリヤクーラが装備されていないときに、空調コントロールパネル30の表面で反射した光によりリヤクーラ・スイッチ31が存在すると判定された場合には、第2製品画像データと第2マスタ画像データとの非合致によりリヤクーラ・スイッチ31が存在するとは判定されず、再撮影を促す「判定不能」が作業者に通知される。このため、実際にはリヤクーラが装備されていないにも拘らず、リヤクーラが装備されているとする検査間違いは防止される。
Further, when it is determined that the rear
さらに、実際には車両にリヤクーラが装備されていないときに、第1マスタ画像データによりリヤクーラ・スイッチ31が存在しないと判定された場合には、第2製品画像データと第3マスタ画像データとの非合致によりリヤクーラ・スイッチ31が存在するとは判定されず、再撮影を促す「判定不能」が作業者に通知される。このため、実際にはリヤクーラが装備されていないにも拘らず、リヤクーラが装備されているとする検査間違いは防止される。
Further, when it is determined that the rear
そして、以上のようにして、車両10の各検査対象製品に対して組み付け状態の正否が検査され、その判定結果は製品画像とともに完成検査コンピュータ13の記憶部13bに検査順に検査履歴として保存される(図14参照)。従って、生産した各車両10に装備品が指定通りに装備されているという証拠が残されるため、不具合発生時の原因追求に活用できる。
As described above, the correctness of the assembled state is inspected for each inspection target product of the
以上詳述したこの実施形態は、以下の効果を奏する。
(1)リヤクーラ・スイッチ31の特徴部(「REAR」の文字列)が設けられる製品領域を含む第1製品画像の画像データと、この第1製品画像を含む第2製品画像の画像データとから、リヤクーラ・スイッチ31の有無を判定するとともに、判定不能なときにはその旨を作業者に知らせて製品画像の再取得を行わせるようにした。従って、第1及び第2製品画像によるリヤクーラ・スイッチ31の有無の判定が困難なときには、作業者の再撮影により製品画像を再取得してリヤクーラ・スイッチ31の有無を判定することができる。このため、検査する車両におけるリヤクーラの装備の有無を能率良く検査することができる。
This embodiment described in detail above has the following effects.
(1) From the image data of the first product image including the product area in which the characteristic portion (character string “REAR”) of the rear
(2)車両の製品画像を撮影する携帯ターミナル11に、二次元コードを解読して車両情報、仕様情報、装備情報等を取得するデータ処理部16を一体化させた。このため、仮に、二次元コードから各情報を取得する機器を、カメラ機能のみを備えた携帯ターミナルとは別に設けた場合に比較して、製品検査システムの構成を簡素化することができる。
(2) A
(3)完成検査コンピュータ13と各携帯ターミナル11との間において無線LANによるデータ通信を行うように構成し、完成検査コンピュータ13が送信した製品画像の再取得要求に基づいて、携帯ターミナル11のデータ処理部16が作業者に対して製品画像の再取得を要求するようにした。このため、各携帯ターミナル11を使用する作業者に対して、製品画像の再取得要求を確実かつ迅速に伝えることができ、検査作業を迅速に行うことができる。
(3) It is configured to perform data communication by wireless LAN between the
(4)車両10の各検査対象製品に対する正否判定結果を、製品画像とともに完成検査コンピュータ13の記憶部13bに検査履歴として保存するようにした。従って、生産した各車両10に装備品が指定通りに装備されているという証拠を残すことができるため、不具合発生時の原因追求に活用できる。
(4) The correctness determination result for each inspection target product of the
(第2実施形態)
次に、この発明を具体化した第2実施形態について、図18〜図22を参照して説明する。なお、この実施形態については、第1実施形態とは異なる点を中心に説明する。
(Second Embodiment)
Next, a second embodiment of the present invention will be described with reference to FIGS. This embodiment will be described with a focus on differences from the first embodiment.
この実施形態における検査対象製品は、図18(a),(b)に示すような自動変速機用の2種類のシフトレバーゲートであって、この2種類のシフトレバーゲートのうちのいずれかが車両に対して仕様等情報通りに装備されているか否かが検査される。すなわち、この実施形態における検査対象製品の検査では、第1実施形態における検査とは異なり、検査対象製品である装備品の有無が仕様情報、装備情報等の指定通りであるか否かが検査されるのではなく、検査対象製品である装備品の種類が仕様情報、装備情報等の指定通りであるか否かが検査される。なお、図18(a)に示すシフトレバーゲートは、手動変速モード付きの自動変速機を備えた車両に装備され、図18(b)に示すシフトレバーゲートは、手動変速モードなしの自動変速機を備えた車両に装備される。 The products to be inspected in this embodiment are two types of shift lever gates for automatic transmissions as shown in FIGS. 18A and 18B, and any one of these two types of shift lever gates is used. It is inspected whether the vehicle is equipped according to information such as specifications. That is, in the inspection of the product to be inspected in this embodiment, unlike the inspection in the first embodiment, it is inspected whether the presence or absence of the equipment that is the inspected product is as specified in the specification information, equipment information, etc. Instead, it is inspected whether the type of equipment that is the product to be inspected is as specified in the specification information, equipment information, or the like. The shift lever gate shown in FIG. 18 (a) is mounted on a vehicle equipped with an automatic transmission with a manual transmission mode, and the shift lever gate shown in FIG. 18 (b) is an automatic transmission without a manual transmission mode. Equipped on vehicles equipped with
(正否判定処理)
次に、完成検査コンピュータ13による前記正否判定処理のS207のサブルーチンにおいて実行される組み付け状態の正否判定処理について、図20及び図21に示すフローチャートと、図22に示す表を参照して説明する。
(Correctness determination processing)
Next, the assembly state correctness determination process executed in the subroutine S207 of the correctness determination process by the
この正否判定処理では、例えば、図18(a),(b)に示すような検査対象製品としての2種類のシフトレバーゲート40の組み付け状態の正否を、そのシフトレバーゲート40の特徴部を含むように予め設定された製品領域(図18(a),(b)において一点鎖線で囲まれた領域T)を撮影した製品画像(図19(a),(b)に示す画像N)に基づいて判定する。なお、この製品画像は、図19(a),(b)に示すように、インジケータとしての「D−M」及び「D−S」の文字列に合わせて設定されるターゲットスケール33を用いて撮影される。
In this correct / incorrect determination processing, for example, the correctness of the assembled state of the two types of
組み付け状態の正否判定は、各シフトレバーゲート40の製品画像に対してそれぞれ用意されている合致率判定用の2つのマスタ画像データを用い、これらのマスタ画像データと、製品画像の画像データとのパターンマッチングの合致率の判定により行われる。2つのマスタ画像データのうち第1マスタ画像データは、シフトレバーゲート40上のインジケータ記号「D−M」、「+」及び「−」との合致率を判定するためのものであって、図19(a)に示すように、手動変速モードが装備された自動変速機用のシフトレバーゲート40の一部を撮影した製品画像Nに対応している。また、第2マスタ画像データは、シフトレバーゲート40上の記号「D−S」との合致率を判定するためのものであって、図19(b)に示すように、手動変速モードを備えない自動変速機用のシフトレバーゲート40の一部を撮影した製品画像Nに対応している。各マスタ画像データは、製品画像Nを外形エッジ処理して得られた処理画像データと比較され、その処理画像データとマスタ画像データとの合致率が求められる。そして、シフトレバーゲート40に対する検査は、製品画像Nの画像データに対する第1マスタ画像データの合致率と、同画像データに対する第2マスタ画像データの合致率との差に基づいてなされる。
Whether the assembled state is correct or not is determined by using two master image data for matching rate determination prepared for each product image of each
さて、シフトレバーゲートに関する組み付け状態の正否判定処理においては、図20に示すように、先ず、S501において、検査対象の車両の車両管理カード22から取得した仕様情報、装備情報等に基づき、シフトレバーゲートの種類の指定が、「D−M」タイプであるか又は「D−S」タイプであるかが判定される。
As shown in FIG. 20, in the assembly state correctness determination process for the shift lever gate, first, in S501, based on the specification information, equipment information, etc. acquired from the
(シフトレバーゲートの指定が「D−M」タイプの場合)
S501においてシフトレバーゲートの指定が「D−M」タイプであると判定されると、次にS502において、製品画像データと第1マスタ画像データとの合致率(以下、第1合致率とする)が算出されるとともに、次のS503において、製品画像データと第2マスタ画像データとの合致率(以下、第2合致率とする)が算出される。
(When the shift lever gate is specified as “DM” type)
If it is determined in S501 that the designation of the shift lever gate is the “DM” type, then in S502, the match rate between the product image data and the first master image data (hereinafter referred to as the first match rate). In step S503, the match rate between the product image data and the second master image data (hereinafter referred to as the second match rate) is calculated.
次に、S504において、第1合致率が第2合致率よりも大きいか否か、つまり、取得された製品画像データが第2マスタ画像データよりも第1マスタ画像データに近いか否かが判定される。そして、S504において肯定判定されたときには、次にS505において、第1合致率が、予め設定されているしきい値γ(例えば、80%)よりも大きいか否かが判定される。 Next, in S504, it is determined whether or not the first match rate is greater than the second match rate, that is, whether or not the acquired product image data is closer to the first master image data than the second master image data. Is done. If an affirmative determination is made in S504, it is then determined in S505 whether the first match rate is greater than a preset threshold value γ (for example, 80%).
S505において肯定判定されたときには、次にS506において、車両に実際に装備されているシフトレバーゲートは「D−M」タイプであると判定され、設定が「D−M」タイプであることからその判定結果は「OK」であるとされる(図22に示す表中の3−a,3−b欄に該当)。すなわち、図6のS210においてその判定結果が「OK」として携帯ターミナル11に送信され、この処理は終了される。従って、作業者は、携帯ターミナル11における判定結果の表示により、検査結果が「OK」であり、指定通りのシフトレバーゲートであることを確認できる。
When an affirmative determination is made in S505, it is then determined in S506 that the shift lever gate that is actually equipped on the vehicle is of the “DM” type, and the setting is of the “DM” type. The determination result is “OK” (corresponding to columns 3-a and 3-b in the table shown in FIG. 22). That is, in S210 of FIG. 6, the determination result is transmitted to the
一方、前記S505において否定判定されたときには、製品画像データと第1マスタ画像データとの合致率が小さいため、実際に装備されているシフトレバーゲートが「D−M」タイプであるとの判定は行われず、次にS507において、その判定結果は「判定不能」であるとされる(図22に示す表中の3−e欄に該当)。そして、図6のS210においてその判定結果が「判定不能」として携帯ターミナル11に送信され、この処理は終了される。従って、作業者は、携帯ターミナル11における判定結果の表示により、検査結果が「判定不能」であることを認識できる。
On the other hand, when a negative determination is made in S505, since the match rate between the product image data and the first master image data is small, it is determined that the actually installed shift lever gate is of the “DM” type. In step S507, the determination result is determined to be “determination impossible” (corresponding to the 3-e column in the table shown in FIG. 22). Then, in S210 of FIG. 6, the determination result is transmitted to the
また、前記S504において否定判定されたときには、次にS508において、第1合致率が第2合致率よりも小さいか否かが判定される。そして、S508において肯定判定されたときには、次にS509において、第2合致率がしきい値γよりも大きいか否かが判定される。 If a negative determination is made in S504, it is next determined in S508 whether the first match rate is smaller than the second match rate. If an affirmative determination is made in S508, it is then determined in S509 whether or not the second match rate is greater than a threshold value γ.
S509において肯定判定されたときには、次にS510において、車両に実際に装備されているシフトレバーゲートは「D−S」タイプであると判定され、指定が「D−M」タイプであることからその判定結果は「NG」であるとされる(図22に示す表中の3−c,3−d欄に該当)。そして、図6のS210においてその判定結果が「NG」として携帯ターミナル11に送信され、この処理は終了される。従って、作業者は、携帯ターミナル11における判定結果の表示により、検査結果が「NG」であり、指定とは異なるシフトレバーゲートが組み付けられていることを認識できる。
If an affirmative determination is made in S509, then in S510, it is determined that the shift lever gate that is actually equipped on the vehicle is the “DS” type, and the designation is the “DM” type. The determination result is “NG” (corresponding to columns 3-c and 3-d in the table shown in FIG. 22). Then, in S210 of FIG. 6, the determination result is transmitted to the
一方、S509において否定判定されたときには、製品画像データと第2マスタ画像データデータとの合致率が小さいため、実際に装備されているシフトレバーゲートが「D−S」タイプであるとの判定は行われず、次にS511において、その判定結果は「判定不能」であるとしてこの処理は終了される(図22に示す表中の3−e欄に該当)。 On the other hand, when a negative determination is made in S509, since the match rate between the product image data and the second master image data data is small, it is determined that the actually installed shift lever gate is the “DS” type. Next, in S511, the processing is terminated in S511 because the determination result is “determination impossible” (corresponding to column 3-e in the table shown in FIG. 22).
また、前記S508において否定判定されたときには、第1合致率と第2合致率とが等しいと判断され、車両に実際に装備されているシフトレバーゲートの識別は行われず、前記S511において、その判定結果は「判定不能」であるとされる(図22に示す表中の3−e欄に該当)。そして、図6のS210においてその判定結果が「判定不能」として携帯ターミナル11に送信され、この処理は終了される。従って、作業者は、携帯ターミナル11における判定結果の表示により、検査結果が「判定不能」であることを認識できる。
Further, when a negative determination is made in S508, it is determined that the first match rate and the second match rate are equal, and the shift lever gate that is actually installed in the vehicle is not identified, and the determination is made in S511. The result is “not determined” (corresponding to column 3-e in the table shown in FIG. 22). Then, in S210 of FIG. 6, the determination result is transmitted to the
(シフトレバーゲートの指定が「D−S」タイプの場合)
また、車両管理カード22の情報により前記S501においてシフトレバーゲートの指定が「D−S」タイプであると判定されると、図21に示すように、次にS551において、製品画像データと第1マスタ画像データとの第1合致率が算出されるとともに、次のS552において、製品画像データと第2マスタ画像データとの第2合致率が算出される。
(When the shift lever gate is specified as “DS” type)
If it is determined in S501 that the shift lever gate is designated as “DS” type based on the information in the
次に、S553において、第1合致率が第2合致率よりも大きいか否かが判定される。そして、S553において肯定判定されたときには、次にS554において、第1合致率が前記しきい値γよりも大きいか否かが判定される。 Next, in S553, it is determined whether or not the first match rate is greater than the second match rate. If a positive determination is made in S553, it is then determined in S554 whether or not the first match rate is greater than the threshold value γ.
S554において肯定判定されたときには、次にS555において、車両に実際に装備されているシフトレバーゲートは「D−M」タイプであると判定され、設定が「D−S」タイプであることからその判定結果は「NG」であるとされる(図22に示す表中の4−a,4−b欄に該当)。そして、図6のS210においてその判定結果が「OK」として携帯ターミナル11に送信され、この処理は終了される。従って、作業者は、携帯ターミナル11における判定結果の表示により、検査結果が「NG」であり、指定とは異なるシフトレバーゲートが組み付けられていることを認識できる。
When an affirmative determination is made in S554, it is then determined in S555 that the shift lever gate that is actually equipped on the vehicle is the “DM” type, and the setting is the “DS” type. The determination result is “NG” (corresponding to columns 4-a and 4-b in the table shown in FIG. 22). Then, in S210 of FIG. 6, the determination result is transmitted to the
一方、前記S554において否定判定されたときには、製品画像データと第1マスタ画像データとの合致率が小さいため、実際に装備されているシフトレバーゲートが「D−M」タイプであるとの判定は行われず、次にS556において、その判定結果は「判定不能」であるとされる(図22に示す表中の4−e欄に該当)。そして、図6のS210においてその判定結果が「判定不能」として携帯ターミナル11に送信され、この処理は終了される。従って、作業者は、携帯ターミナル11における判定結果の表示により、検査結果が「判定不能」であることを認識できる。
On the other hand, when a negative determination is made in S554, since the matching rate between the product image data and the first master image data is small, it is determined that the actually installed shift lever gate is of the “DM” type. Next, in S556, it is determined that the determination result is “determination impossible” (corresponding to the 4-e column in the table shown in FIG. 22). Then, in S210 of FIG. 6, the determination result is transmitted to the
また、前記S553において否定判定されたときには、次にS557において、第1合致率が第2合致率よりも小さいか否かが判定される。そして、S557において肯定判定されたときには、次にS558において、第2合致率がしきい値γよりも大きいか否かが判定される。 If a negative determination is made in S553, it is then determined in S557 whether the first match rate is smaller than the second match rate. If an affirmative determination is made in S557, it is then determined in S558 whether or not the second match rate is greater than the threshold value γ.
S558において肯定判定されたときには、次にS559において、車両に実際に装備されているシフトレバーゲートは「D−S」タイプであると判定され、設定が「D−S」タイプであることからその判定結果は「OK」であるとしてこの処理は終了される(図22に示す表中の4−c,4−d欄に該当)。そして、図6のS210においてその判定結果が「OK」として携帯ターミナル11に送信され、この処理は終了される。従って、作業者は、携帯ターミナル11における判定結果の表示により、検査結果が「OK」であり、指定通りのシフトレバーゲートが組み付けられていることを確認できる。
If an affirmative determination is made in S558, it is then determined in S559 that the shift lever gate that is actually equipped on the vehicle is the “DS” type, and the setting is the “DS” type. This processing is terminated assuming that the determination result is “OK” (corresponding to columns 4-c and 4-d in the table shown in FIG. 22). Then, in S210 of FIG. 6, the determination result is transmitted to the
一方、S558において否定判定されたときには、製品画像データと第2マスタ画像データとの合致率が小さいため、実際に装備されているシフトレバーゲートが「D−S」タイプであるとの判定は行われず、次にS560において、その判定結果は「判定不能」であるとしてこの処理は終了される(図22に示す表中の4−e欄に該当)。 On the other hand, when a negative determination is made in S558, since the match rate between the product image data and the second master image data is small, it is determined that the actually installed shift lever gate is the “DS” type. In step S560, it is determined that the determination result is “determination impossible”, and the process ends (corresponding to the 4-e column in the table shown in FIG. 22).
また、前記S557において否定判定されたときには、第1合致率と第2合致率とが等しいと判断され、車両に実際に装備されているシフトレバーゲートの識別は行われず、前記S560において、その判定結果は「判定不能」であるとされる(図22に示す表中の4−e欄に該当)。そして、図6のS210においてその判定結果が「判定不能」として携帯ターミナル11に送信され、この処理は終了される。従って、作業者は、携帯ターミナル11における判定結果の表示により、検査結果が「判定不能」であることを認識できる。
Further, when a negative determination is made in S557, it is determined that the first match rate and the second match rate are equal, and the shift lever gate that is actually installed in the vehicle is not identified, and the determination is made in S560. The result is “undecidable” (corresponding to the 4-e column in the table shown in FIG. 22). Then, in S210 of FIG. 6, the determination result is transmitted to the
以上のように実行される正否判定処理によれば、第1合致率が第2合致率より大きく、かつ、第1合致率がしきい値γを越えているときには、シフトレバーゲートは「D−M」タイプであると判定される。また、第1合致率が第2合致率より大きくても、第1合致率がしきい値γ以下であるときには、シフトレバーゲートは「D−M」タイプであるとは判定されない。すなわち、製品画像撮影時の作業者の手ぶれにより製品画像が不鮮明となっており、このために、第1合致率がしきい値γ以下となっているときには、第1合致率が第2合致率より大きくても、シフトレバーゲートは「D−M」タイプであると判定されることは防止される。そして、作業者に「判定不能」の通知がなされるため、作業者は再度撮影を実行して正常な判定を得ることができる。 According to the correctness determination process executed as described above, when the first match rate is greater than the second match rate and the first match rate exceeds the threshold value γ, the shift lever gate is “D− M ”type is determined. Even if the first match rate is greater than the second match rate, the shift lever gate is not determined to be the “DM” type when the first match rate is equal to or less than the threshold value γ. That is, when the product image is unclear due to the hand shake of the operator at the time of product image shooting, and the first match rate is equal to or less than the threshold value γ, the first match rate is the second match rate. Even larger, it is prevented that the shift lever gate is determined to be of the “DM” type. Then, since the operator is notified that “determination is impossible”, the operator can perform shooting again to obtain a normal determination.
また、第1合致率が第2合致率より小さく、かつ、第2合致率がしきい値γを越えているときには、シフトレバーゲートは「D−S」タイプであると判定される。また、第1合致率が第2合致率より小さくても、第2合致率がしきい値γ以下であるときには、シフトレバーゲートは「D−S」タイプであるとは判定されない。すなわち、製品画像撮影時の作業者の手ぶれにより製品画像が不鮮明となっており、このために、第2合致率がしきい値γ以下となっているときには、第2合致率が第1合致率より大きくても、シフトレバーゲートは「D−S」タイプであると判定されることは防止される。そして、前記と同様に、作業者には「判定不能」の通知がなされる。 When the first match rate is smaller than the second match rate and the second match rate exceeds the threshold value γ, it is determined that the shift lever gate is the “DS” type. Even if the first match rate is smaller than the second match rate, when the second match rate is equal to or less than the threshold value γ, the shift lever gate is not determined to be the “DS” type. That is, when the product image is unclear due to the hand shake of the operator at the time of product image shooting, and the second match rate is equal to or less than the threshold value γ, the second match rate is the first match rate. Even larger, the shift lever gate is prevented from being determined to be of the “DS” type. In the same manner as described above, the operator is notified that “determination is impossible”.
以上詳述したこの実施形態は、第1実施形態の(2),(3)の効果の他に以下の効果を奏する。
(5)車両に設定されているシフトレバーゲート40の特徴部(「D−M」、「D−S」)を含むように取得した製品画像から、シフトレバーゲート40の種類を判定するとともに判定不能な状態を判定し、判定不能なときには製品画像の再取得を作業者に行わせるようにした。従って、製品画像によるシフトレバーゲート40の正否判定が困難なときには、作業者により撮影条件が変更された新たな製品画像によってシフトレバーゲート40を正否判定することができるので、検査する車両に装備された自動変速機の検査を能率良く行うことができる。
This embodiment described above has the following effects in addition to the effects (2) and (3) of the first embodiment.
(5) The type of the
(他の実施形態)
なお、この実施形態は、次のように変更して具体化することも可能である。
・携帯ターミナル11と完成検査コンピュータ13との間をケーブルにより接続し、このケーブルを介してデータ通信を行う構成とする。
(Other embodiments)
In addition, this embodiment can also be changed and embodied as follows.
The
・データ記憶手段としてのICタグを車両に添付し、完成検査ライン20の近傍に設けたICタグリーダにより車両情報等を読み出し、これを携帯ターミナル11に転送する構成とする。
An IC tag as data storage means is attached to the vehicle, vehicle information and the like are read by an IC tag reader provided in the vicinity of the
・第1製品画像と第2製品画像とを別々に撮影すること。
・第2実施形態において、3種類以上の検査対象製品の組み付け状態を正否判定する。
・ターゲットスケールの位置や大きさを変更する。例えば、第1実施形態において、ターゲットスケールを文字に合わせるように構成する。
-Shoot the first product image and the second product image separately.
-In 2nd Embodiment, the assembly | attachment state of three or more types of test object products is judged right / wrong.
・ Change the position and size of the target scale. For example, in the first embodiment, the target scale is configured to match characters.
・この発明を、仕様や注文により装備品の有無や種類の検査が必要な車両以外の製品、例えばコンピュータの製品検査システムに具体化すること。
(他の技術的思想)
(1)検査対象を撮影した製品画像の第1製品画像に基づいて同検査対象製品の有無を判定する第1手順と、前記第1製品画像を含む第2製品画像に基づいて画像認識状態を判定する第2手順と、第1手順と第2手順の判定結果とに基づいて、前記検査対象製品の有無の判定が可能であるか否かを判定する第3手順と、検査対象製品毎に添付されたデータ記憶手段から、検査対象製品に関する情報を取得する第4手順と、前記第3手順の判定結果と、第4手順で得られた情報とに基づいて、前記検査対象製品の組み付け状態の正否を判定する第5手順とを行い、前記第3手順において前記検査対象製品の有無の判定が不可能であると判定したときに、前記作業者に対して製品画像の再撮影を促すことを特徴とする製品検査方法。
-The present invention is embodied in products other than vehicles that require inspection of the presence or type of equipment according to specifications or orders, such as computer product inspection systems.
(Other technical ideas)
(1) A first procedure for determining presence / absence of a product to be inspected based on a first product image of a product image obtained by photographing an inspection target, and an image recognition state based on a second product image including the first product image. For each inspection target product, a second procedure for determining, a third procedure for determining whether or not the presence or absence of the inspection target product is possible based on the determination results of the first procedure and the second procedure, Based on the fourth procedure for obtaining information on the product to be inspected from the attached data storage means, the determination result of the third procedure, and the information obtained in the fourth procedure, the assembly state of the product to be inspected And a fifth procedure for determining whether the product is inspected or not, and prompting the operator to re-shoot the product image when it is determined in the third procedure that the presence / absence of the product to be inspected cannot be determined. Product inspection method characterized by
11…撮影手段としての携帯ターミナル、12…通信手段としての無線LAN親機、13…正否判定手段、予備判定手段、再取得要求手段としての完成検査コンピュータ、13a…制御装置としての制御部、13b…履歴記憶手段としての記憶部、17…通信手段としての無線LAN子機、21…作業者、31…検査対象製品としてのリヤクーラ・スイッチ、40…検査対象製品としてのシフトレバーゲート、M…第2製品画像、N…製品画像、S…第1製品画像。
DESCRIPTION OF
Claims (8)
その画像情報に基づき、前記検査対象製品の組み付け状態の正否を判定する正否判定手段とを備えた製品検査システムにおいて、
前記正否判定手段は、前記画像情報に基づく前記検査対象製品の組み付け状態の正否判定が可能であるか否かを判定する予備判定手段と、前記予備判定手段が前記検査対象製品の組み付け状態の正否判定が不可能であると判定したときに、前記画像情報の再取得要求を前記撮影手段に対して出力する再取得要求手段を備えたことを特徴とする製品検査システム。 A photographing means for photographing a product to be inspected by an operator's operation and transferring the photographed image information to the outside;
On the basis of the image information, in a product inspection system provided with a correct / incorrect determination means for determining whether the assembled state of the inspection target product is correct,
The correctness determination means includes a preliminary determination means for determining whether correctness of the assembled state of the inspection target product based on the image information is possible, and the preliminary determination means determines whether the assembled state of the inspection target product is correct. A product inspection system, comprising: a reacquisition request unit that outputs a reacquisition request for the image information to the imaging unit when it is determined that the determination is impossible.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009072703A JP5275865B2 (en) | 2009-03-24 | 2009-03-24 | Product inspection system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009072703A JP5275865B2 (en) | 2009-03-24 | 2009-03-24 | Product inspection system |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010223834A true JP2010223834A (en) | 2010-10-07 |
JP5275865B2 JP5275865B2 (en) | 2013-08-28 |
Family
ID=43041169
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009072703A Expired - Fee Related JP5275865B2 (en) | 2009-03-24 | 2009-03-24 | Product inspection system |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5275865B2 (en) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07237270A (en) * | 1994-02-28 | 1995-09-12 | Shimadzu Corp | Tire discriminating device |
JPH08288642A (en) * | 1995-04-20 | 1996-11-01 | Hochiki Corp | Detector of mounting state of printed wiring board |
JP2002362336A (en) * | 2001-06-12 | 2002-12-18 | Fuji Motor Service:Kk | Vehicle inspection service operating system |
JP2004020237A (en) * | 2002-06-12 | 2004-01-22 | Fuji Heavy Ind Ltd | Vehicle control system |
JP2004058777A (en) * | 2002-07-26 | 2004-02-26 | Hitachi Ltd | Remote failure diagnosis system of vehicle |
JP2008020437A (en) * | 2006-06-16 | 2008-01-31 | Banzai Industries Ltd | Vehicle inspection line system |
JP2008026006A (en) * | 2006-07-18 | 2008-02-07 | Sanei Kogyo Kk | Vehicle stop state analysis device |
-
2009
- 2009-03-24 JP JP2009072703A patent/JP5275865B2/en not_active Expired - Fee Related
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07237270A (en) * | 1994-02-28 | 1995-09-12 | Shimadzu Corp | Tire discriminating device |
JPH08288642A (en) * | 1995-04-20 | 1996-11-01 | Hochiki Corp | Detector of mounting state of printed wiring board |
JP2002362336A (en) * | 2001-06-12 | 2002-12-18 | Fuji Motor Service:Kk | Vehicle inspection service operating system |
JP2004020237A (en) * | 2002-06-12 | 2004-01-22 | Fuji Heavy Ind Ltd | Vehicle control system |
JP2004058777A (en) * | 2002-07-26 | 2004-02-26 | Hitachi Ltd | Remote failure diagnosis system of vehicle |
JP2008020437A (en) * | 2006-06-16 | 2008-01-31 | Banzai Industries Ltd | Vehicle inspection line system |
JP2008026006A (en) * | 2006-07-18 | 2008-02-07 | Sanei Kogyo Kk | Vehicle stop state analysis device |
Also Published As
Publication number | Publication date |
---|---|
JP5275865B2 (en) | 2013-08-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9310189B2 (en) | Method and system for the remote inspection of a structure | |
US8907818B2 (en) | Bus stop and system providing travel information in relation to buses | |
CN101346744A (en) | Method for the configuration of a device used for monitoring a room area | |
JP2008235504A (en) | Assembly inspection device | |
CN105044538A (en) | Wire harness industry online machine visual mistake-proofing system and method | |
CN103703478A (en) | Method for starting up electric or electronic devices, start-up apparatus, server and system | |
CN107969143B (en) | Determination support device, determination support method, and recording medium | |
JP2020137000A (en) | Video recording device and head-mounted display | |
CN110908355B (en) | Guide information presentation device, guide information presentation method, guide information presentation server, guide information presentation system, guide information presentation method, and computer-readable medium | |
JP4523445B2 (en) | Communication vehicle display device | |
CN108460963A (en) | Long-range fire fighting monitoring platform | |
JP5275865B2 (en) | Product inspection system | |
JP2022032520A (en) | Management system, management method, management device, program and communication terminal | |
CN112837376A (en) | Vehicle camera sensor calibration method, device, equipment and storage medium | |
JP2002024994A (en) | Method and system for transmitting information | |
US11657723B2 (en) | Management device | |
EP3839897A1 (en) | Method and system for inspecting an asset | |
JP2019012432A (en) | Work support system, device, method, and computer program | |
KR101964227B1 (en) | Apparatus and method for control military strategy | |
JP2017146866A (en) | Apparatus monitoring system | |
JP6949678B2 (en) | Process risk assessment device, method and program | |
JP6719315B2 (en) | Railway obstacle range visualization system | |
JP7463263B2 (en) | REMOTE MAINTENANCE OPERATION MANAGEMENT SERVER AND REMOTE MAINTENANCE OPERATION MANAGEMENT METHOD | |
TWI753343B (en) | Patrol service system and patrol service verification method | |
JP2006011759A (en) | Operation supporting method and device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20110622 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20110622 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20110711 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20110711 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110809 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130205 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130401 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130423 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130516 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 5275865 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |