DE102018200280B4 - Visuellsensor-abnormalitätsursachen-schätzsystem - Google Patents

Visuellsensor-abnormalitätsursachen-schätzsystem Download PDF

Info

Publication number
DE102018200280B4
DE102018200280B4 DE102018200280.0A DE102018200280A DE102018200280B4 DE 102018200280 B4 DE102018200280 B4 DE 102018200280B4 DE 102018200280 A DE102018200280 A DE 102018200280A DE 102018200280 B4 DE102018200280 B4 DE 102018200280B4
Authority
DE
Germany
Prior art keywords
information
abnormality
visual sensor
visual
abnormality cause
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
DE102018200280.0A
Other languages
English (en)
Other versions
DE102018200280A1 (de
Inventor
Shouta TAKIZAWA
Fumikazu Warashina
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fanuc Corp
Original Assignee
Fanuc Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fanuc Corp filed Critical Fanuc Corp
Publication of DE102018200280A1 publication Critical patent/DE102018200280A1/de
Application granted granted Critical
Publication of DE102018200280B4 publication Critical patent/DE102018200280B4/de
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • G06T7/85Stereo camera calibration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B23MACHINE TOOLS; METAL-WORKING NOT OTHERWISE PROVIDED FOR
    • B23PMETAL-WORKING NOT OTHERWISE PROVIDED FOR; COMBINED OPERATIONS; UNIVERSAL MACHINE TOOLS
    • B23P19/00Machines for simply fitting together or separating metal parts or objects, or metal and non-metal parts, whether or not involving some deformation; Tools or devices therefor so far as not provided for in other classes
    • B23P19/001Article feeders for assembling machines
    • B23P19/007Picking-up and placing mechanisms
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/10Programme-controlled manipulators characterised by positioning means for manipulator elements
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1602Programme controls characterised by the control system, structure, architecture
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators
    • B25J9/1671Programme controls characterised by programming, planning systems for manipulators characterised by simulation, either to verify existing program or to create and verify new program, CAD/CAM oriented, graphic oriented programming systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1674Programme controls characterised by safety, monitoring, diagnostic
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1694Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • B25J9/1697Vision controlled systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/39Robotics, robotics to robotics hand
    • G05B2219/39008Fixed camera detects reference pattern held by end effector
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/39Robotics, robotics to robotics hand
    • G05B2219/39045Camera on end effector detects reference pattern
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/06Recognition of objects for industrial automation

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Robotics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Quality & Reliability (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Automation & Control Theory (AREA)
  • Manipulator (AREA)
  • Testing And Monitoring For Control Systems (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • General Factory Administration (AREA)
  • Image Analysis (AREA)

Abstract

Visuellsensor-Abnormalitätsursachen-Schätzsystem (1, 1A) zum Abschätzen von Ursachen von Abnormalitäten in einem visuellen Sensor (6) in einem Produktionssystem (S), beinhaltend eine Produktionsvorrichtung (5), den visuellen Sensor (6), der visuelle Information über die Produktionsvorrichtung (5) oder eine Umgebung derselben detektiert und eine Steuerung (7), welche die Produktionsvorrichtung (5) auf Basis der durch den visuellen Sensor ermittelten visuellen Information steuert, wobei das Visuellsensor-Abnormalitätsursachen-Schätzsystem (1, 1A) umfasst:
ein Umgebungsinformations-Erfassungsmittel (2), das Umgebungsinformation des visuellen Sensors (6) erfasst; und
ein Abnormalitätsursachen-Abschätzmittel (32, 32A, 37, 37A), das eine Korrelationsstärke zwischen einer Abnormalität im visuellen Sensor (6) und jeder einer Vielzahl von vorbestimmten Abnormalitätsursachenelementen abschätzt, unter Verwendung der durch das Umgebungsinformations-Erfassungsmittel erfassten Umgebungsinformation, und die abgeschätzte Korrelationsstärke auf einem Anzeigemittel (33) für die jeweiligen Abnormalitätsursachenelemente anzeigt.

Description

  • HINTERGRUND DER ERFINDUNG
  • Gebiet der Erfindung
  • Die vorliegende Erfindung bezieht sich auf ein Visuellsensor-Abnormalitätsursachen-Schätzsystem. Spezifischer bezieht sich die vorliegende Erfindung auf ein Visuellsensor-Abnormalitätsursachen-Schätzsystem zum Abschätzen der Ursache von Abnormalitäten bei in einem Produktionssystem installierten visuellen Sensoren.
  • Stand der Technik
  • Visuelle Sensoren sind in verschiedenen Produktionsvorrichtungen installiert, wie etwa ein Roboter, der ein Zielobjekt fördert und verarbeitet oder eine Inspektionsvorrichtung, welche die Qualität eines Zielobjektes bestimmt, um visuelle Information des Zielobjektes zu erhalten. Beispielsweise detektiert ein Transportroboter, der ein Zielobjekt von einer vorbestimmten Position zu einer vorbestimmten Position befördert, die Position, die Haltung/Stellung und dergleichen des Zielobjekts durch Durchführen einer Bildverarbeitung wie etwa einem Musterabgleich an visueller Information, welche durch visuelle Sensoren ermittelt wird, erfasst das Zielobjekt an einer angemessenen Position und befördert das Zielobjekt zu einer vorbestimmten Position. In einem Produktionssystem, in welchem visuelle Sensoren auf diese Weise installiert sind, wenn ein gewünschtes Bild nicht durch einen visuellen Sensor erhalten wird, aufgrund gewisser Abnormalitäten beim visuellen Sensor, kann eine unter Verwendung von durch den visuellen Sensor ermittelter visueller Information gesteuerte Produktionsvorrichtung unfähig sein, ihre Funktion korrekt durchzuführen.
  • Beispielsweise offenbart Patentdokument 1 eine Vorrichtung, welche Abnormalitäten in einem visuellen Sensor detektiert. Spezifischer offenbart Patentdokument 1 eine Vorrichtung, welche feststellt, ob ein visueller Sensor synchron mit einem externen Synchronisationssignal arbeitet, um Abnormalitäten beim visuellen Sensor in einem System zu detektierten, das ein externes Synchronisationssignal an den visuellen Sensor ausgibt und aus dem visuellen Sensor ausgegebene Bilddaten synchron mit dem externen Synchronisationssignal verarbeitet. Entsprechend der in Patentdokument 1 offenbarten Vorrichtung ist es möglich, zu spezifizieren, ob die Ursache von Abnormalitäten beim visuellen Sensor der Unterbrechung einer Signalleitung zuschreibbar ist, die ein externes Synchronisationssignal dem visuellen Sensor liefert, oder der visuelle Sensor selbst kaputt geht und nicht in der Lage ist, synchron mit dem externen Synchronisationssignal zu arbeiten.
  • Beispielsweise offenbart Patentdokument 2 eine Vorrichtung, die ein abnormales Bild aus durch einen visuellen Sensor erhaltenen Bildern detektiert. Spezifischer offenbart Patentdokument 2 eine Vorrichtung, die ein durch einen visuellen Sensor erhaltenes abnormales Bild detektiert, durch Vergleichen eines unter Verwendung von durch den vorliegenden visuellen Sensor aufgenommenen Bildern berechneten Bildstatistikwert mit einem unter Verwendung von Bildern, die aufgenommen sind, wenn der visuelle Sensor normal arbeitet, berechneten Bildstatistikwert.
    Patentdokumente 3, 4 und 5 beschreiben ebenfalls bekannte Kamerasysteme.
  • ZUSAMMENFASSUNG DER ERFINDUNG
  • Jedoch, wenn eine Abnormalität tatsächlich bei einem, in einem Produktionssystem installierten visuellen Sensor auftritt, muss ein Bediener eine spezifische Ursache der Abnormalität im Sensor spezifizieren, um der Produktionsvorrichtung zu gestatten, zu einem angemessenen Zustand zurückzukehren. Jedoch gibt es einen breiten Bereich von Ursachen von Abnormalitäten beim visuellen Sensor. Spezifischer beinhalten Beispiele der Ursachen (A) einen Fall, in welchem der visuelle Sensor selbst kaputt geht und nicht in der Lage ist, seine Funktion auszuüben, (B) einen Fall, bei welchem ein Problem in einem Kabel auftritt, das den visuellen Sensor mit anderen Vorrichtungen verbindet, und (C) ein Fall, bei dem die Ursache von einer Änderung bei der Umweltumgebung des visuellen Sensors herrührt. Wenn die Ursache von Abnormalitäten beim visuellen Sensor (A) oder (B) ist, kann ein Bediener die Ursache der Abnormalität unter Verwendung einer solchen Vorrichtung wie beispielsweise in Patentdokument 1 offenbart, spezifizieren.
  • Wenn jedoch die Ursache von Abnormalitäten beim visuellen Sensor (C) ist, das heißt, wenn die Ursache von einer Änderung bei der Umweltumgebung des visuellen Sensors herrührt, ist es schwierig, eine spezifische Ursache von Abnormalitäten aufgrund der nachfolgenden Gründe zu spezifizieren. Da beispielsweise eine Abnormalität beim visuellen Sensor, die von einem solchen Fall herrührt, selbst auftreten kann, wenn der visuelle Sensor nicht kaputt gegangen ist, ist es schwierig, die Ursache durch Überwachen des Zustands des visuellen Sensors zu spezifizieren. Darüber hinaus, da eine Abnormalität beim visuellen Sensor, die von einem solchen Fall herrührt, unter einer spezifischen Bedingung auftreten kann, ist es schwierig, eine Umgebung zu reproduzieren, die eine Abnormalität verursachte. Darüber hinaus gibt es einen Fall, bei dem eine Abnormalität in einem visuellen Sensor auftritt, nach dem Verstreichen einer kurzen Periode nachdem ein spezifisches Ereignis, das eine Abnormalität verursachte, im visuellen Sensor auftritt. In diesem Fall ist es schwierig, eine ursächliche Abhängigkeit zwischen einem spezifischem Ereignis und einer Abnormalität im visuellen Sensor zu spezifizieren. Aufgrund dem hat konventioneller Weise, wenn eine Abnormalität in einem visuellen Sensor auftritt, ein Bediener eine angenommene Ursache durch ein Ringverfahren zu überprüfen und es kann beachtlich Zeit erfordern, bis die Produktionsvorrichtung zu einem normalen Zustand zurückkehrt.
  • Eine Aufgabe der vorliegenden Erfindung ist es, ein Visuellsensor-Abnormalitätsursachen-Abschätzsystem zum Abschätzen der Ursache von Abnormalitäten in einem visuellen Sensor in einem Produktionssystem bereitzustellen, in welchem der visuelle Sensor installiert ist, um eine Produktionsvorrichtung zu steuern.
  • (1) Ein Produktionssystem (beispielsweise ein Produktionssystem S, das später zu beschreiben ist), beinhaltet eine Produktionsvorrichtung (beispielsweise einen später zu beschreibenden Roboter 5), einen visuellen Sensor (beispielsweise eine später zu beschreibende Kamera 6), die visuelle Information über die Produktionsvorrichtung oder eine Umgebung derselben detektiert und eine Steuerung (beispielsweise eine später zu beschreibende Steuerung 7), welche die Produktionsvorrichtung auf Basis der durch den visuellen Sensor ermittelten visuellen Information steuert. Ein Visuellsensor-Abnormalitätsursachen-Schätzsystem (beispielsweise ein später zu beschreibendes Abnormalitätsursachen-Schätzsystem 1 oder 1A) der vorliegenden Erfindung schätzt die Ursachen von Abnormalitäten im visuellen Sensor ab und beinhaltet: ein Umgebungsinformations-Erfassungsmittel (beispielsweise ein später zu beschreibendes Umgebungsinformations-Erfassungsmittel 2), das Umgebungsinformation des visuellen Sensors erfasst; und ein Abnormalitätsursachen-Abschätzmittel (beispielsweise eine später zu beschreibende Arithmetikeinheit 32 oder 32A oder eine Abnormalitätsursachen-Schätzeinheit 37 oder 37A), die eine Korrelationsstärke zwischen einer Abnormalität im visuellen Sensor und jeder einer Vielzahl von vorbestimmten Abnormalitätsursachenelementen abschätzt, unter Verwendung der durch das Umgebungsinformations-Erfassungsmittel erfassten Umgebungsinformation, und die abgeschätzte Korrelationsstärke auf einem Anzeigemittel (beispielsweise einer später zu beschreibenden Anzeigeeinheit 33) für die jeweiligen Abnormalitätsursachenelemente anzeigt.
  • Der Ausdruck „Abnormalität im visuellen Sensor“ in der vorliegenden Erfindung ist als die Unfähigkeit des visuellen Sensors definiert, gewünschte visuelle Information zu erhalten. Darüber hinaus ist der Ausdruck „gewünschte visuelle Information“ in der vorliegenden Erfindung als Information definiert, mit der die Produktionsvorrichtung eine geeignete Funktion (eine Transportfunktion des Erfassens eines Zielobjektes an einer geeigneten Position und einer geeigneten Stellung und Befördern des Zielobjektes zu einer geeigneten Position, eine Funktion des Bestimmens der Qualität des Zielobjekts genau) realisieren kann, wenn die Produktionsvorrichtung auf Basis dieser Information gesteuert wird. Daher ist es in der vorliegenden Erfindung möglich, Abnormalitäten beim visuellen Sensor zu bewältigen, selbst wenn gewünschte visuelle Information nicht erhalten wird, aufgrund eines Ausfalls beim visuellen Sensor selbst und eines Problems bei einem den visuellen Sensor und andere Vorrichtungen verbindenden Kabel, und wenn gewünschte visuelle Information nicht erhalten wird, aufgrund von starkem Licht, das in die Linse des visuellen Sensors eindringt, oder von Vibration des visuellen Sensors.
  • (2) In dem Visuellsensor-Abnormalitätsursachen-Schätzsystem gemäß (1) kann das Abnormalitätsursachen-Abschätzmittel die Korrelationsstärke unter Verwendung der Umgebungsinformation in einer Periode zwischen einem Abnormalitätsauftritts-Zeitpunkt des visuellen Sensors und einem vorbestimmten vorherigen Zeitpunkt abschätzen.
  • (3) Das Visuellsensor-Abnormalitätsursachen-Schätzsystem gemäß (2) kann weiter ein Abnormalitäts-Auftrittszeitpunkt-Spezifiziermittel (beispielsweise eine später zu beschreibende Bildverarbeitungseinheit 71) enthalten, welches den Abnormalitätsauftrittszeitpunkt auf Basis der visuellen Information spezifiziert.
  • (4) Das Visuellsensor-Abnormalitätsursachen-Schätzsystem gemäß (2) kann weiter enthalten: ein Bildverarbeitungsmittel (beispielsweise eine später zu beschreibende Bildverarbeitungseinheit 71), die eine vorbestimmte Bildverarbeitungsoperation an der visuellen Information durchführt; und ein Abnormalitätsauftrittszeitpunkt-Spezifiziermittel (beispielsweise eine später zu beschreibende Roboter-Betriebsbestimmungseinheit 36 oder 36A oder eine Kamera-Abnormalitätsdetektionseinheit 38A), welche den Abnormalitätsauftrittszeitpunkt unter Verwendung von durch Bildverarbeitungsoperation und Operationsergebnis-Information an einem Ergebnis von Operationen, welche durch die Produktionsvorrichtung an der visuellen Information durchgeführt werden, erhaltener Bildverarbeitungs-Information spezifiziert.
  • (5) Im Visuellsensor-Abnormalitätsursachen-Schätzsystem gemäß einem von (1) bis (4) kann das Umgebungsinformations-Erfassungsmittel Unterteilungen der Umgebung des visuellen Sensors in eine Vielzahl von Umgebungselementen erfassen, und erfasst Umgebungsinformation, die zu jedem der Umgebungselemente gehört, und jedes der Abnormalitätsursachenelemente ist das gleiche wie das eine der Vielzahl von Umgebungselementen.
  • (6) Im Visuellsensor-Abnormalitätsursachen-Schätzsystem gemäß (5) kann das Umgebungselement Vibration einer spezifischen Vorrichtung, die um den visuellen Sensor herum installiert ist, eine Temperatur der spezifischen Vorrichtung und eine Helligkeit der Umgebung des visuellen Sensor beinhaltet.
  • (7) im Visuellsensor-Abnormalitätsursachen-Schätzsystem gemäß einem von (1) bis (6) kann das Abnormalitätsursachen-Schätzmittel die Korrelationsstärke zwischen einer Abnormalität im visuellen Sensor und jeder der Vielzahl von Abnormalitätsursachenelementen unter Verwendung der Umgebungsinformation und Information zu einer Änderung über die Zeit derselben als eine Eingabe abschätzen.
  • Im Produktionssystem detektiert der visuelle Sensor die visuelle Information der Produktionsvorrichtung oder der Umgebung derselben und steuert die Steuerung die Produktionsvorrichtung auf Basis der durch den visuellen Sensor ermittelten visuellen Information. Das Umgebungsinformations-Erfassungsmittel erfasst Umgebungsinformation des visuellen Sensors, der in der Produktionsvorrichtung enthalten ist, und das Abnormalitätsursachen-Schätzmittel schätzt die Stärke der Korrelation zwischen der Abnormalität im visuellen Sensor und jeder der Vielzahl von vorbestimmten Abnormalitätsursachenelementen unter Verwendung der durch das Umgebungsinformations-Erfassungsmittel erfassten Umgebungsinformation ab und zeigt die Korrelationsstärke auf dem Anzeigemittel für die jeweiligen Abnormalitätsursachenelemente an. Auf diese Weise, wenn eine Abnormalität im visuellen Sensor während Operationen des Produktionssystems auftritt, kann beispielsweise ein Bediener die Ursachen der Abnormalität aus einer Vielzahl von Abnormalitätsursachenelementen in absteigender Reihenfolge der Korrelationsstärke überprüfen, die auf dem Anzeigemittel angezeigt werden, unter Verwendung des Abnormalitätsursachen-Abschätzsystems der vorliegenden Erfindung. Daher kann der Bediener die Ursache der Abnormalität im visuellen Sensor rascher spezifizieren als beim konventionellen Verfahren, in welchem eine angenommene Ursache durch ein Ringverfahren überprüft wird.
  • Figurenliste
    • 1 ist ein Diagramm, das eine Konfiguration eines Produktionssystems illustriert, in welchem ein Visuellsensor-Abnormalitätsursachen-Schätzsystem gemäß einer ersten Ausführungsform der vorliegenden Erfindung enthalten ist.
    • 2 ist ein Diagramm, das eine spezifische Prozedur von Operationen illustriert, die sich auf die Abschätzung der Ursache von Abnormalitäten in einer Kamera beziehen.
    • 3 ist ein Diagramm, das ein Beispiel eines Schätzergebnisses einer Abnormalitätsursachen-Schätzeinheit illustriert, das auf einer Anzeigeeinheit angezeigt wird.
    • 4 ist ein Diagramm, das eine spezifische Prozedur von Operationen illustriert, die sich auf die Abschätzung der Ursache von Abnormalitäten in einer Kamera in einem Abnormalitätsursachen-Schätzsystem gemäß einer zweiten Ausführungsform der vorliegenden Erfindung beziehen.
  • DETAILLIERTE BESCHREIBUNG DER ERFINDUNG
  • Erste Ausführungsform
  • Nachfolgend wird eine erste Ausführungsform der vorliegenden Erfindung unter Bezugnahme auf die Zeichnungen beschrieben. 1 ist ein Diagramm, das eine Konfiguration eines Produktionssystems S illustriert, in welchem ein Visuellsensor-Abnormalitätsursachen-Schätzsystem 1 gemäß der vorliegenden Erfindung enthalten ist.
  • Das Produktionssystem S beinhaltet einen Roboter 5 als eine Produktionsvorrichtung, eine Kamera 6 als einen visuellen Sensor, der visuelle Information des Roboters 5 oder der Umgebung desselben detektiert, eine Steuerung 7, die den Roboter 5 auf Basis einer Ausgabe der Kamera 6 steuert und ein Abnormalitätsursachen-Schätzsystem 1, welches die Ursache von Abnormalitäten in der Kamera 6 abschätzt.
  • Beispielsweise ist der Roboter 5 ein Förderroboter, der eine Reihe von Förderoperationen des Erfassens eines Werkstücks W, welches eines von Teilen eines Produktes ist, bei einer vorbestimmten Position anhand eines aus der Steuerung 7 gesendeten Steuersignals und Befördern des ergriffenen Werkstücks W bis zu einer vorbestimmten Position ausführt.
  • Die Kamera 6 ist auf einem Rahmen installiert, der im Roboter 5 oder der Umgebung desselben installiert ist. Die Kamera 6 nimmt den Roboter 5 oder das Werkstück W anhand einer Anfrage aus der Steuerung 7 auf, um ein Bildsignal zu erhalten, und sendet das Bildsignal an die Steuerung 7 und das Abnormalitätsursachen-Schätzsystem 1 bei einem vorbestimmten Intervall.
  • Die Steuerung 7 beinhaltet eine Bildverarbeitungseinheit 71 und eine Robotersteuereinheit 72. Die Bildverarbeitungseinheit 71 führt eine Vielzahl von Bildverarbeitungsoperationen an dem aus der Kamera 6 übertragenen Bildsignal durch. Die Bildverarbeitungseinheit 71 sendet Bildverarbeitungs-Information, die durch die Vielzahl von Bildverarbeitungsoperationen erhalten wird, an die Robotersteuereinheit 72 und das Abnormalitätsursachen-Schätzsystem 1 in einem vorbestimmten Intervall. Hier beinhalten Beispiele der aus der Bildverarbeitungseinheit 71 gesendeten Bildverarbeitungs-Information ein, das Werkstück W enthaltendes Bild, den Kontrast eines Umrisses des Werkstücks, das im Bild aufgenommen ist, die Helligkeit diese Bildes, den Rang, der die Wahrscheinlichkeit angibt, dass das Werkstück W aus dem Bild detektiert ist, eine Detektionsposition des Werkstücks W, detektiert aus dem Bild und die Anwesenheit eines Detektionsfehler derselben, die Anwesenheit eines Detektionsfehlers des Werkstücks W (d.h. eine andere Position als der tatsächlichen Position, die als die Position des Werkstücks W im Bild detektiert wird), einen Schwarzpegel der Kamera 6 und eine Datenfehlerrate des aus der Kamera 6 gesendeten Bildsignals.
  • Die Robotersteuereinheit 72 erzeugt ein Steuersignal, um den Roboter 5 zu veranlassen, die oben beschriebene Beförderungsoperation auszuführen, auf der Basis der Bildverarbeitungs-Information, welche durch die Vielzahl von Bildverarbeitungsoperationen der Bildverarbeitungseinheit 71 erhalten wird, und sendet das Steuersignal an den Roboter 5. Darüber hinaus erfasst die Robotersteuereinheit 72 Information zu dem Ergebnis der Beförderungsoperation, die auf Basis des Bildsignals der Kamera 6, wie oben beschrieben, ausgeführt wird, auf Basis eines aus einem Kraftsensor oder dergleichen (nicht illustriert), der im Roboter 5 installiert ist, gesendeten Signals und sendet die Information an das Abnormalitätsursachen-Schätzsystem 1 als Betriebsergebnis-Information in einem vorbestimmten Intervall. Hier beinhalten Beispiele der aus der Robotersteuereinheit 72 gesendeten Betriebsergebnis-Information Information dazu, ob der Roboter 5 in der Lage ist, das Werkstück W in einer Reihe von Beförderungsoperationen zu greifen und einen Greifschiebebetrag ab einer vorbestimmten Referenzposition, wenn der Roboter 5 das Werkstück W ergreift.
  • Das Abnormalitätsursachen-Schätzsystem 1 beinhaltet ein Umgebungsinformations-Erfassungsmittel 2, das Information zur Umgebung der Kamera 6 erfasst, und eine Informations-Verarbeitungsvorrichtung 3, die sich auf die Schätzung von Abnormalitäten in der Kamera 6 beziehende Operationen unter Verwendung der aus dem Umgebungsinformations-Erfassungsmittel 2 gesendeten Information, der Kamera 6, der Bildverarbeitungseinheit 71 und der Robotersteuereinheit 72 und der Ursache davon durchführt.
  • Das Umgebungsinformations-Erfassungsmittel 2 erfasst eine Vielzahl von Typen von Umgebungsinformation zu der Umgebung, welche die Funktionen der Kamera 6 beeinträchtigen können, in vorbestimmten Intervallen und sendet die erfasste Umgebungsinformation an die Informations-Verarbeitungsvorrichtung 3. Hier ist die durch das Umgebungsinformations-Erfassungsmittel 2 erfasste Umgebungsinformation in dreizehn Umgebungselemente, wie beispielsweise unten illustriert, unterteilt. Die zu jeweiligen Elementen gehörende Umgebungsinformation ist wie folgt.
  • Information zur Vibration der Kamera 6 ist in Element 1 klassifiziert. Das Umgebungsinformations-Erfassungsmittel 2 erfasst zu Element 1 gehörende Umgebungsinformation beispielsweise unter Verwendung einer Ausgabe eines in der Kamera 6 vorgesehenen Vibrationssensors. Information zur Temperatur der Kamera 6 ist in Element 2 klassifiziert. Das Umgebungsinformations-Erfassungsmittel 2 erfasst zu Element 2 gehörende Umgebungsinformation unter Verwendung einer Ausgabe beispielsweise eines in der Kamera 6 vorgesehenen Temperatursensors. Information zur Temperatur einer um die Kamera 6 herum vorgesehenen Peripherie-Vorrichtung ist als Element 3 klassifiziert. Das Umgebungsinformations-Erfassungsmittel 2 erfasst zu Element 3 gehörende Umgebungsinformation beispielsweise unter Verwendung einer Ausgabe eines in einer Peripherie-Vorrichtung vorgesehenen Temperatursensors. Information zur Helligkeit der Umgebung der Kamera 6 ist in Element 4 klassifiziert. Das Umgebungsinformations-Erfassungsmittel 2 erfasst zu Element 4 gehörende Umgebungsinformation beispielsweise unter Verwendung einer Ausgabe eines in oder nahe der Kamera 6 vorgesehenen Helligkeitssensors. Information zu einem Datum mit einem Zeitpunkt wird als Element 5 klassifiziert. Das Umgebungsinformations-Erfassungsmittel 2 erfasst zu Element 5 gehörende Umgebungsinformation unter Verwendung beispielsweise einer Uhr.
  • Information zum Wetter ist im Element 6 klassifiziert. Das Umgebungsinformations-Erfassungsmittel 2 erfasst zu Element 6 gehörende Umgebungsinformation beispielsweise unter Verwendung von aus einem Wetterinformations-Verteilungsserver verteilter Information. Information zu einem EIN/AUS-Zustand einer Deckenbeleuchtung in einem Raum, in dem die Kamera 6 installiert ist, wird in Element 7 klassifiziert. Das Umgebungsinformations-Erfassungsmittel 2 erfasst zu Element 7 gehörende Umgebungsinformation unter Verwendung beispielsweise einer Ausgabe einer Steuerung des Deckenlichts. Information zu einer Einstelltemperatur einer Klimaanlage in einem Raum, in dem die Kamera 6 installiert ist, wird in Element 8 klassifiziert. Das Umgebungsinformations-Erfassungsmittel 2 erfasst zu Element 8 gehörende Umgebungsinformation beispielsweise unter Verwendung einer Ausgabe einer Steuerung des Deckenlichts. Information zum Typ des Werkstücks W, der ein Betriebsziel des Roboters 5 ist, ist in Element 9 klassifiziert. Das Umgebungsinformations-Erfassungsmittel 2 erfasst Umgebungsinformation, die zu Element 9 gehört, beispielsweise unter Verwendung eines aus der Steuerung 7 gesendeten Signals. Information zu einem Betriebszustand einer um die Kamera 6 herum vorgesehenen Peripherie-Vorrichtung (spezifischer, ob die Peripherie-Vorrichtung in einem Betriebszustand, einem Stoppzustand oder einem Bereitschaftszustand ist) ist in Element 10 klassifiziert. Das Umgebungsinformations-Erfassungsmittel 2 erfasst zu Element 10 gehörige Umgebungsinformation unter Verwendung eines aus der Peripherie-Vorrichtung gesendeten Signals.
  • Information zu einem zum Synchronisieren von Operationen zwischen einer Vielzahl von in einem Produktionssystem S installierten Vorrichtungen gesendeten und empfangenen Signal ist in Element 11 klassifiziert. Das Umgebungsinformations-Erfassungsmittel 2 erfasst zu Element 11 gehörige Umgebungsinformation unter Verwendung eines beispielsweise aus jeweiligen Vorrichtungen gesendeten Signals. Information zu einer Versorgungsspannung der Kamera 6 ist in Element 12 klassifiziert. Das Umgebungsinformations-Erfassungsmittel 2 erfasst zu Element 12 gehörige Umgebungsinformation beispielsweise unter Verwendung einer Ausgabe eines Spannungssensors. Information zu aus jeweiligen Vorrichtungen ausgegebenen Alarmen ist in Element 13 klassifiziert. Das Umgebungsinformations-Erfassungsmittel 2 erfasst zu Element 13 gehörige Umgebungsinformation beispielsweise unter Verwendung von aus jeweiligen Vorrichtungen gesendeten Alarmsignalen.
  • Die durch das Umgebungsinformations-Erfassungsmittel 2 erfasste Umgebungsinformation beinhaltet beispielsweise nicht numerische Information wie etwa Wetterinformation von Element 6 und Information zum EIN/AUS-Zustand des Deckenlichts von Element 7. Das Umgebungsinformations-Erfassungsmittel 2 numeralisiert vorzugsweise solche nicht numerische Information anhand vorgegebener Regeln und sendet dieselbe an die Informations-Verarbeitungsvorrichtung 3. Spezifisch kann beispielsweise hinsichtlich der Wetterinformation „0“, „sonnig“ zugewiesen werden und kann „1“ „wolkig“ zugewiesen werden. Darüber hinaus kann hinsichtlich der Information zum EIN/AUS-Zustand des Deckenlichtes „1“ „EIN“ zugewiesen sein und kann „0“ „AUS“ zugewiesen sein.
  • Eine Änderung bei der unter Verwendung des Positionssensors 2 erfasste Umgebungsinformation ist sanfter als eine Änderung beim aus der Kamera 6 oder der Bildverarbeitungs-Information gesendeten Bildsignal, der Betriebsergebnis-Information und dergleichen, die aus der Steuerung 7 gesendet werden. Daher erfasst das Umgebungsinformations-Erfassungsmittel 2 vorzugsweise die Umgebungsinformation bei einem längeren Intervall als dem Intervall der Steuerung 7, welche die Bildverarbeitungs-Information oder die Betriebsergebnis-Information erzeugt, und sendet die Umgebungsinformation an die Informations-Verarbeitungsvorrichtung 3.
  • Die Informations-Verarbeitungsvorrichtung 3 ist als ein Computer konfiguriert, der eine Speichervorrichtung 31, die verschiedene Teile von Daten, Programmen und dergleichen speichert, eine Arithmetikeinheit 32, die sich auf die Abschätzung von Abnormalitäten in der Kamera 6 beziehende Operationen und die Ursache derselben ausführt, unter Verwendung der in der Speichervorrichtung 31 gespeicherten Daten und eine Anzeigeeinheit 33, die ein durch die Arithmetikeinheit 32 in einer Form erhaltenes Betriebsergebnis anzeigt, das visuell durch einen Bediener wahrgenommen werden kann, enthält.
  • Teile von Zeitreihendaten des aus der Kamera 6 gesendeten Bildsignals, der aus der Bildverarbeitungseinheit 71 gesendeten Bildverarbeitungs-Information, der aus der Robotersteuereinheit 72 gesendeten Betriebsergebnis-Information und der aus dem Umgebungsinformations-Erfassungsmittel 2 gesendeten Umgebungsinformation werden in der Speichervorrichtung 31 gespeichert. Darüber hinaus wird auch Information zur Änderung über die Zeit in der Bildverarbeitungs-Information und der Betriebsergebnis-Information und die Umgebungsinformation in der Speichervorrichtung 31 gespeichert. Hier ist die Änderung über die Zeit ein Differenzwert zwischen einem Wert zu jedem Zeitpunkt von Zielinformation und einem Wert zu einem Zeitpunkt vor einer vorbestimmten Periode.
  • 2 ist ein Funktionsblockdiagramm, das eine Funktionskonfiguration der Arithmetikeinheit 32 illustriert. Die Arithmetikeinheit 32 beinhaltet eine Roboter-Betriebsbestimmungseinheit 36 und eine Abnormalitätsursachen-Schätzeinheit 37 und schätzt die Ursache von Abnormalität in der Kamera 6 unter Verwendung dieser Einheiten ab. Nachfolgend werden die Funktionen der jeweiligen Module 36 und 37, die konfiguriert sind, durch Operationen der Arithmetikeinheit 32 realisiert zu werden, sequentiell beschrieben.
  • Die Roboter-Betriebsbestimmungseinheit 36 bestimmt, ob der Roboter 5 unter Verwendung der Betriebsergebnis-Information von den Teilen von Daten, die in der Speichervorrichtung 31 gespeichert sind, eine angemessene Funktion realisieren kann. Spezifischer bestimmt die Roboter-Betriebsbestimmungseinheit 36, ob eine Förderoperation, die durch den Roboter 5 ausgeführt wird, korrekt ist, auf Basis des aus der Kamera 6 gesendeten Bildsignals. Wie oben beschrieben, beinhaltet die Operationsergebnis-Information eine Information zum Erfolg oder Scheitern in einer Reihe von Förderoperationen, welche durch den Roboter 5 ausgeführt werden, auf Basis des Bildsignals der Kamera 6. Spezifischer beinhaltet die Operationsergebnis-Information Information dazu, ob der Roboter 5 in der Lage ist, das Werkstück W zu greifen und Information zum Greifschiebebetrag. Daher bestimmt die Roboter-Betriebsbestimmungseinheit 36, dass die Förderoperation des Roboters richtig ist, wenn der Roboter 5 in der Lage ist, das Werkstück W zu greifen und der Greifschiebebetrag gleich oder größer als ein vorbestimmter Referenzwert ist. Darüber hinaus bestimmt die Roboter-Betriebsbestimmungseinheit 36, dass die Förderoperation des Roboters nicht korrekt ist, wenn der Roboter 5 nicht in der Lage ist, das Werkstück W zu greifen oder der Greifschiebebetrag größer als der Referenzwert ist.
  • Wenn festgestellt wird, dass die Förderoperation des Roboters nicht korrekt ist, spezifiziert die Roboter-Betriebsbestimmungseinheit 36 die als Eingabe an die Robotersteuereinheit 72 verwendete Bildverarbeitungs-Information zum Zeitpunkt des Ausführens der unangemessenen Förderoperation aus der in der Speichereinheit 31 gespeicherten vergangenen Bildverarbeitungs-Information und sendet den Erfassungszeitpunkt des für die Bildverarbeitungseinheit 71 verwendeten Bildsignals zum Erzeugen der Bildverarbeitungs-Information an die Abnormalitätsursachen-Schätzeinheit 37 als ein Abnormalitätsauftrittszeitpunkt der Kamera 6.
  • Obwohl 2 einen Fall illustriert, bei dem der Abnormalitätsauftrittszeitpunkt der Kamera 6 aus dem Ergebnis der Förderoperation des Roboters durch die Roboter-Betriebsbestimmungseinheit 36 spezifiziert ist, ist das Mittel zum Spezifizieren des Abnormalitätsauftrittszeitpunkts der Kamera 6 nicht darauf beschränkt. Der Abnormalitätsauftrittszeitpunkt der Kamera 6 kann manuell durch einen Bediener eingestellt werden und an der Abnormalitätsursachen-Schätzeinheit 37 eingegeben werden. Wenn eine gewisse Abnormalität in der Kamera 6 auftritt und das aus der Kamera 6 gesendete Bildsignal abnormal ist, kann das Auftreten einer Abnormalität in der Kamera 6 und der Abnormalitätsauftrittszeitpunkt durch die Bildverarbeitungseinheit 71, eine Bildverarbeitungsoperation an Bildsignal aus der Kamera durchführt, spezifiziert werden. Daher kann der Abnormalitätsauftrittszeitpunkt der Kamera 6 durch die Bildverarbeitungseinheit 71 auf Basis des aus der Kamera 6 gesendeten Bildsignals spezifiziert werden.
  • Auf diese Weise schätzt die Abnormalitätsursachen-Schätzeinheit 37 die Ursache einer Abnormalität in der Kamera 6 unter Verwendung des Abnormalitätsauftrittszeitpunkts der Kamera 6, spezifiziert durch die Roboter-Betriebsbestimmungseinheit 36, die Bildverarbeitungseinheit 71 oder dergleichen, die Umgebungsinformation innerhalb der in der Speichervorrichtung 31 gespeicherten Daten und Information zur Änderung mit der Zeit derselben, der Bildverarbeitungs-Information und der Information zur Änderung mit der Zeit derselben und dem Bildsignal aus einer Gruppe von Teilen von Eingabedaten ab, und zeigt das Schätzergebnis auf der Anzeigeeinheit 4 an.
  • In der Abnormalitätsursachen-Schätzeinheit 37 werden mögliche Ursachen von Abnormalitäten der Kamera 6 definiert als und klassifiziert in eine Vielzahl von (beispielsweise siebzehn) Abnormalitätsursachenelemente. Diese siebzehn Abnormalitätsursachenelemente können in Elemente 1 bis 13 gruppiert werden, die zu einer Umgebungsursachengruppe gehören, in welcher die Ursache von Abnormalitäten in der Kamera 6 von der Umgebung herrührt, und die anderen Ursachen, welche Elemente 14 bis 17 sind, die zu einer internen Ursachengruppe gehören, in welchen die Ursache von Abnormalität in der Kamera 6 aus einem Ausfall in der Kamera 6 oder einer Vorrichtung (einem Kabel, einer Bildverarbeitungseinheit oder dergleichen), die mit der Kamera 6 verbunden ist, herrührt. Darüber hinaus werden die dreizehn Umgebungselemente, die definiert sind, die Umgebungsinformation zu unterteilen, als Elemente 1 bis 13 verwendet, die zu der Umgebungsursachengruppe gehören. Das heißt, dass die Abnormalitätsursachenelemente 1 bis 13 die gleichen sind wie Elemente 1 bis 13, die jeweils oben beschrieben sind. Ein Ausfall bei der Kamera 6 (spezifischer ein Ausfall beispielsweise aufgrund einer Wolkigkeit oder eines Schmutzes auf einem Objektiv) wird in Element 14 klassifiziert, welches zur internen Ursachengruppe gehört. Ein Ausfall bei der Bildverarbeitungseinheit 71 wird in Element 15 klassifiziert. Ein Ausfall bei dem die Kamera 6 und die Bildverarbeitungseinheit 71 verbindenden Kabel (spezifischer ein Ausfall aufgrund der Unterbrechung eines Kabels oder von Rauschen, das mit dem Kabel assoziiert ist) wird in Element 16 klassifiziert. Ein Ausfall beim Roboter 5 (spezifisch ein Ausfall aufgrund eines Sinkens bei der Positioniergenauigkeit des Roboters 5 oder eines Synchronisationsfehlers zwischen dem Roboter 5 und der Kamera 6) wird in Element 17 klassifiziert.
  • Die Abnormalitätsursachen-Schätzeinheit 37 berechnet die Stärke der Korrelation zwischen einer Abnormalität und der Kamera 6, von der abgeschätzt wird, dass sie zu einem Abnormalitätsauftrittszeitpunkt aufgetreten ist, und vorbestimmten jeweiligen Abnormalitätsursachenelementen (spezifischer, der Prozentsatz, der die Wahrscheinlichkeit angibt, dass die entsprechenden Abnormalitätsursachenelemente die Ursachen von Abnormalitäten in der Kamera 6 sind), unter Verwendung der früher als dem Abnormalitätsauftrittszeitpunkt eingegebenen Eingangsdatengruppe.
  • Da die Eingangsdatengruppe Information zur Umgebung der Kamera 6 enthält, die mit der Funktion der Kamera 6 korreliert ist, weisen die Eingangsdatengruppe und die Abnormalitäten der Kamera 6 eine Korrelation auf. Beispielsweise wenn eine Abnormalität in der Kamera 6 aufgrund übermäßiger Vibration der Kamera 6 aufgrund eines gewissen Grundes auftritt, gibt es eine starke Korrelation zwischen dem Auftreten der Abnormalität in der Kamera 6 und einer Änderung bei der Information zur Vibration der Kamera 6, die zu Element 1 der Umgebungsinformation gehört. Darüber hinaus, wenn beispielsweise eine Abnormalität in der Kamera 6 aufgrund eines Anstiegs bei der Temperatur der Peripherie-Vorrichtung der Kamera 6 auftritt, gibt es eine starke Korrelation zwischen dem Auftreten der Abnormalität in der Kamera 6 und einer Änderung bei der Temperatur der zu Element 3 der Umgebungsinformation gehörenden Peripherie-Vorrichtung.
  • Weiterhin, wenn beispielsweise eine Abnormalität in der Kamera 6 aufgrund eines starken Glimmens von Abendsonne auftritt, welche in die Lichtempfangsoberfläche der Kamera 6 eindringt, gibt es eine starke Korrelation zwischen dem Auftreten der Abnormalität in der Kamera 6 und Information zu Datum und Zeit, die zu Element 5 der Umgebungsinformation gehören. Die Abnormalitätsursachen-Schätzeinheit 37 erlernt eine Korrelation zwischen solcher Umgebungsinformation, Umgebungsänderungs-Information, der Bildverarbeitungs-Information und den Abnormalitäten in der Kamera 6, verwendend einen existierenden Maschinenlern-Algorithmus, um dadurch die Wahrscheinlichkeit zu berechnen, dass die entsprechenden Abnormalitätsursachenelemente die Ursachen der Abnormalitäten in der Kamera 6 sind.
  • Ein spezifisches Beispiel des in der Abnormalitätsursachen-Schätzeinheit 37 verwendeten Maschinenlern-Algorithmus beinhaltet ein geschichtetes Mehr-Eingangs-Mehr-Ausgangs-Typen-Neuralnetzwerk, das eine Eingangsschicht, eine Zwischenschicht und eine Ausgangsschicht enthält, wobei jede Schicht durch Koppeln einer Vielzahl von Neuronen gebildet ist, die beispielsweise vorbestimmte Eingabe/Ausgabe-Charakteristika aufweisen. Spezifischer, wenn eine aus einem Abnormalitätsauftrittszeitpunkt der Kamera 6, eine Vielzahl von Teilen von Umgebungsinformation in einer vorbestimmten Periode zwischen dem Abnormalitätsauftrittszeitpunkt und einem vorbestimmten vorherigen Zeitpunkt und Information zu der Änderung mit der Zeit derselben, einer Vielzahl von Teilen von Bildverarbeitungs-Information in der vorbestimmten Periode und Information zu der Änderung mit der Zeit derselben und in einer Vielzahl von Bildsignalen in der vorbestimmten Periode besteht, an jedem Neuron, welches die Eingabeschicht bildet, eingegeben wird, gibt die Abnormalitätsursachen-Schätzeinheit 37 die Wahrscheinlichkeit, dass die jeweiligen Abnormalitätsursachenelemente die Ursachen der Abnormalität in der Kamera 6 sind, aus.
  • 3 ist ein Diagramm, das ein Beispiel eines durch die Abnormalitätsursachen-Schätzeinheit 37 ermittelten Schätzergebnisses illustriert, angezeigt auf einem Monitor der Anzeigeeinheit 4. Wie in 3 illustriert, berechnet die Abnormalitätsursachen-Schätzeinheit 37 die Wahrscheinlichkeiten, dass die entsprechenden Abnormalitätsursachenelemente die Ursachen von Abnormalitäten in der Kamera 6 sind, unter Verwendung des oben beschriebenen Maschinenlern-Algorithmus und zeigt die Anzahl von Abnormalitätsursachenelementen und die Wahrscheinlichkeiten auf der Anzeigeeinheit 4 in absteigender Reihenfolge der Wahrscheinlichkeiten an. Dadurch, da ein Bediener die Ursachen von Abnormalitäten in absteigender Reihenfolge von Abnormalitätsursachenelementen sicherstellen kann, die auf der Anzeigeeinheit 4 angezeigt sind (im Beispiel von 3, in der Reihenfolge von Elementen 1, 3 und 4), ist es möglich, die Ursache der Abnormalitäten der Kamera 6 rascher zu spezifizieren als beim konventionellen Verfahren, in welchem eine angenommene Ursache durch ein Ringverfahren überprüft wird.
  • Zweite Ausführungsform
  • Als Nächstes wird eine zweite Ausführungsform der vorliegenden Erfindung unter Bezugnahme auf die Zeichnungen beschrieben. Ein Abnormalitätsursachen-Schätzsystem 1A gemäß der vorliegenden Ausführungsform unterscheidet sich vom Abnormalitätsursachen-Schätzsystem 1 der ersten Ausführungsform darin, dass das Mittel zum Spezifizieren des Abnormalitätsauftrittszeitpunkts der Kamera 6 sich von demjenigen der ersten Ausführungsform unterscheidet.
  • 4 ist ein Funktionsblockdiagramm, das eine Funktionskonfiguration des Abnormalitätsursachen-Schätzsystems 1A der vorliegenden Ausführungsform illustriert. Die Arithmetikeinheit 32A beinhaltet eine Roboter-Betriebsbestimmungseinheit 36A, eine Abnormalitätsursachen-Schätzeinheit 37A und eine Kamera-Abnormalitäts-Detektionseinheit 38A und schätzt die Ursache von Abnormalitäten in der Kamera 6 unter Verwendung dieser Elemente ab. Nachfolgend werden die Funktionen der jeweiligen Module 36A bis 38A, die konfiguriert sind, durch Operationen der Arithmetikeinheit 32A realisiert zu werden, sequentiell beschrieben.
  • Die Roboter-Betriebsbestimmungseinheit 36A bestimmt, ob der Roboter 5 eine angemessene Funktion realisieren kann, unter Verwendung der Operationsergebnis-Information von den Teilen von Daten, die in der Speichervorrichtung 31 gespeichert sein. Spezifischer bestimmt die Roboter-Betriebsbestimmungseinheit 36, ob eine durch den Roboter 5 ausgeführte Förderoperation korrekt ist, auf Basis des aus der Kamera 6 gesendeten Bildsignals. Wenn festgestellt wird, dass die Förderoperation des Roboters nicht angemessen ist, sendet die Roboter-Betriebsbestimmungseinheit 36A Information zu einem Zeitpunkt, zu welchem die unangemessene Operation ausgeführt wurde, an die Kamera-Anomalitätsdetektionseinheit 38A. Eine spezifische Prozedur der Roboter-Betriebsbestimmungseinheit 36A, die bestimmt, ob die Förderoperation des Roboters angemessen ist oder nicht, ist die gleiche wie diejenige der Roboter-Betriebsbestimmungseinheit 36 der ersten und die detaillierte Beschreibung derselben wird weggelassen.
  • Die Kamera-Anomalitätsdetektionseinheit 38A detektiert eine Abnormalität in der Kamera 6 unter Verwendung des durch die Roboter-Betriebsbestimmungseinheit 36A ermittelten Bestimmungsergebnisses und der Bildverarbeitungs-Information innerhalb der in der Speichervorrichtung 31 gespeicherten Daten. Spezifischer, wenn die Roboter-Betriebsbestimmungseinheit 36A bestimmt, dass die Förderoperation des Roboters nicht angemessen ist, bestimmt die Kamera-Anomalitätsdetektionseinheit 38A, ob die Ursache der unangemessenen Förderoperation von einer Abnormalität in der Kamera 6 herrührt, unter Verwendung der Bildverarbeitungs-Information, die früher erhalten wird als der Ausführungszeitpunkt der unangemessenen Förderoperation und sendet den Abnormalitätsauftrittszeitpunkt der Kamera 6 an die Abnormalitätsursachen-Schätzeinheit 37A.
  • Wie oben beschrieben, da die Bildverarbeitungs-Information Information enthält, die direkt für die Robotersteuereinheit 72 verwendet wird, den Roboter 5 zu steuern, gibt es eine Korrelation zwischen der Bildverarbeitungs-Information und der Abnormalität in der Förderoperation des Roboters 5. Spezifischer, wenn beispielsweise der Kontrast eines Umrisses des Werkstücks W, das in der Bildverarbeitungs-Information enthalten ist, übermäßig gesunken ist oder das Bild übermäßig heller gemacht worden ist, kann die Robotersteuereinheit 72 unfähig sein, eine angemessene Förderoperation zu realisieren. Die Kamera-Abnormalitätsdetektionseinheit 38A erlernt eine Korrelation zwischen solch einer Bildverarbeitungs-Information und der Abnormalität in der Förderoperation des Roboters 5 unter Verwendung eines existierenden Maschinenlern-Algorithmus, um eine Abnormalität in der Kamera 6 unter Verwendung der Bildverarbeitungs-Information zu detektieren.
  • Ein spezifisches Beispiel des in der Kamera-Anomalitätsdetektionseinheit 38A verwendeten Maschinenlern-Algorithmus beinhaltet ein geschichtetes Mehreingangs-Einzelausgangstyp-Neuralnetzwerk, das eine Eingangsschicht, eine Zwischenschicht und eine Ausgangsschicht enthält, wobei jede Schicht durch Koppeln einer Vielzahl von Neuronen gebildet wird, beispielsweise die vorbestimmte Eingabe/Ausgabe-Charakteristika aufweisen. Spezifischer, wenn eine aus einer Ausgabe (dem Ausführungszeitpunkt der unangemessenen Förderoperation) bestehende Eingabedatengruppe der Roboter-Operations-Bestimmungseinheit 36 und einer Vielzahl von Teilen von Bildverarbeitungs-Information, die in einer Periode zwischen dem Ausführungszeitpunkt der unangemessenen Förderoperation und einem vorbestimmten vorherigen Zeitpunkt erhalten wird, an jedem Neuron eingegeben wird, welches die Eingangsschicht bildet, gibt die Kamera-Anomalitätsdetektionseinheit 38A den Abnormalitätsauftrittszeitpunkt der Kamera 6 an das Neuron der Ausgangsschicht aus.
  • Wenn die Abnormalität in der Kamera 6 durch die Kamera-Anomalitätsdetektionseinheit 38A detektiert wird, schätzt die Abnormalitätsursachen-Schätzeinheit 37A die Ursache der Abnormalität in der Kamera 6 unter Verwendung des durch die Kamera-Anomalitätsdetektionseinheit 38A spezifizierten Abnormalitätsauftrittszeitpunkts, der innerhalb der in der Speichervorrichtung 31 gespeicherten Daten-Umgebungsinformation und Information zu einer Änderung über die Zeit derselben, der Operationsergebnis-Information und Information zur Änderung über die Zeit derselben und den Bildsignalen als Eingangsdatengruppe ab, und zeigt ein Schätzergebnis auf der Anzeigeeinheit 4 an. Eine spezifische Prozedur der Abnormalitätsursachen-Schätzeinheit 37A, welche die Ursache der Abnormalität in der Kamera 6 unter Verwendung der Eingangsdatengruppe abschätzt, ist die gleiche wie diejenige der Abnormalitätsursachen-Schätzeinheit 37 der ersten Ausführungsform und die detaillierte Beschreibung derselben wird weggelassen.
  • Während eine Ausführungsform der vorliegenden Erfindung beschrieben worden ist, ist die vorliegende Erfindung nicht darauf beschränkt.
  • Bezugszeichenliste
  • S
    Produktionssystem
    1, 1A
    Abnormalitätsursachen-Schätzsystem
    2
    Umgebungsinformations-Erfassungsmittel
    3
    Informations-Verarbeitungsvorrichtung
    31
    Speichervorrichtung
    32, 32A
    Arithmetikeinheit
    33
    Anzeigeeinheit (Anzeigemittel)
    36, 36A
    Roboter-Betriebsbestimmungseinheit (Abnormalitätsauftrittszeitpunkt-Spezifiziermittel)
    37, 37A
    Abnormalitätsursachen-Schätzeinheit (Abnormalitätsursachen-Schätzmittel)
    38A
    Kamera-Abnormalitätsdetektionseinheit (Abnormalitätsauftrittszeitpunkt-Spezifiziermittel)
    5
    Roboter 5 (Produktionsvorrichtung)
    6
    Kamera (Visueller Sensor)
    7
    Steuerung
    71
    Bildverarbeitungseinheit (Bildverarbeitungsmittel, Abnormalitätsauftrittszeitpunkt-Spezifiziermittel)
    72
    Robotersteuereinheit 72

Claims (7)

  1. Visuellsensor-Abnormalitätsursachen-Schätzsystem (1, 1A) zum Abschätzen von Ursachen von Abnormalitäten in einem visuellen Sensor (6) in einem Produktionssystem (S), beinhaltend eine Produktionsvorrichtung (5), den visuellen Sensor (6), der visuelle Information über die Produktionsvorrichtung (5) oder eine Umgebung derselben detektiert und eine Steuerung (7), welche die Produktionsvorrichtung (5) auf Basis der durch den visuellen Sensor ermittelten visuellen Information steuert, wobei das Visuellsensor-Abnormalitätsursachen-Schätzsystem (1, 1A) umfasst: ein Umgebungsinformations-Erfassungsmittel (2), das Umgebungsinformation des visuellen Sensors (6) erfasst; und ein Abnormalitätsursachen-Abschätzmittel (32, 32A, 37, 37A), das eine Korrelationsstärke zwischen einer Abnormalität im visuellen Sensor (6) und jeder einer Vielzahl von vorbestimmten Abnormalitätsursachenelementen abschätzt, unter Verwendung der durch das Umgebungsinformations-Erfassungsmittel erfassten Umgebungsinformation, und die abgeschätzte Korrelationsstärke auf einem Anzeigemittel (33) für die jeweiligen Abnormalitätsursachenelemente anzeigt.
  2. Visuellsensor-Abnormalitätsursachen-Schätzsystem (1, 1A) gemäß Anspruch 1, wobei das Abnormalitätsursachen-Abschätzmittel (32, 32A, 37, 37A) die Korrelationsstärke unter Verwendung der Umgebungsinformation in einer Periode zwischen einem Abnormalitätsauftritts-Zeitpunkt des visuellen Sensors und einem vorbestimmten vorherigen Zeitpunkt abschätzt.
  3. Visuellsensor-Abnormalitätsursachen-Schätzsystem (1, 1A) gemäß Anspruch 2, weiter umfassend: ein Abnormalitäts-Auftrittszeitpunkt-Spezifiziermittel, welches den Abnormalitätsauftrittszeitpunkt auf Basis der visuellen Information spezifiziert.
  4. Visuellsensor-Abnormalitätsursachen-Schätzsystem (1, 1A) gemäß Anspruch 2, weiter umfassend: ein Bildverarbeitungsmittel (71), das eine vorbestimmte Bildverarbeitungsoperation an der visuellen Information durchführt; und ein Abnormalitätsauftrittszeitpunkt-Spezifiziermittel (36, 36A, 38A), welches den Abnormalitätsauftrittszeitpunkt spezifiziert unter Verwendung von Bildverarbeitungs-Information, die durch die Bildverarbeitungsoperation erhalten wird, und Operationsergebnis-Information zu einem Ergebnis von Operationen, welche durch die Produktionsvorrichtung an der visuellen Information durchgeführt werden.
  5. Visuellsensor-Abnormalitätsursachen-Schätzsystem (1, 1A) gemäß einem der Ansprüche 1 bis 4, wobei: das Umgebungsinformations-Erfassungsmittel (2) Unterteilungen der Umgebung des visuellen Sensors in eine Vielzahl von Umgebungselementen erfasst, und Umgebungsinformation erfasst, die zu jedem der Umgebungselemente gehört, und die Abnormalitätsursachenelemente jeweils die gleichen sind wie die Umgebungselemente.
  6. Visuellsensor-Abnormalitätsursachen-Schätzsystem (1, 1A) gemäß Anspruch 5, wobei: die Umgebungselemente Vibration einer spezifischen Vorrichtung, die um den visuellen Sensor herum installiert ist, eine Temperatur der spezifischen Vorrichtung und eine Helligkeit der Umgebung des visuellen Sensors beinhalten.
  7. Visuellsensor-Abnormalitätsursachen-Schätzsystem (1, 1A) gemäß einem der Ansprüche 1 bis 6, wobei: das Abnormalitätsursachen-Schätzmittel (32, 32A, 37, 37A) die Korrelationsstärke zwischen einer Abnormalität im visuellen Sensor und jeder der Vielzahl von Abnormalitätsursachenelementen unter Verwendung der Umgebungsinformation und Information zu einer Änderung über die Zeit der Umgebungsinformation als eine Eingabe abschätzt.
DE102018200280.0A 2017-01-12 2018-01-10 Visuellsensor-abnormalitätsursachen-schätzsystem Active DE102018200280B4 (de)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017-003343 2017-01-12
JP2017003343A JP6392908B2 (ja) 2017-01-12 2017-01-12 視覚センサの異常原因推定システム

Publications (2)

Publication Number Publication Date
DE102018200280A1 DE102018200280A1 (de) 2018-07-12
DE102018200280B4 true DE102018200280B4 (de) 2019-10-17

Family

ID=62636610

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102018200280.0A Active DE102018200280B4 (de) 2017-01-12 2018-01-10 Visuellsensor-abnormalitätsursachen-schätzsystem

Country Status (4)

Country Link
US (1) US10497146B2 (de)
JP (1) JP6392908B2 (de)
CN (1) CN108462871B (de)
DE (1) DE102018200280B4 (de)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6703279B2 (ja) * 2015-09-02 2020-06-03 富士通株式会社 異常検知装置、異常検知方法、及び異常検知プログラム
JP6333871B2 (ja) * 2016-02-25 2018-05-30 ファナック株式会社 入力画像から検出した対象物を表示する画像処理装置
US11175650B2 (en) * 2017-11-03 2021-11-16 Drishti Technologies, Inc. Product knitting systems and methods
KR102126003B1 (ko) * 2018-08-27 2020-06-23 아이솔루션(주) Iot 기술을 기반으로 한 비전검사장비와 생산장비 제어시스템
KR102658966B1 (ko) * 2019-08-21 2024-04-19 엘지전자 주식회사 공기 조화기의 센서 데이터를 보정하는 인공 지능 공기 조화기 및 그 방법
JP7414850B2 (ja) * 2020-01-14 2024-01-16 ファナック株式会社 ロボットシステム
JP7445460B2 (ja) * 2020-03-05 2024-03-07 株式会社Fuji 作業システム
CN112947389B (zh) * 2021-03-31 2022-04-22 合肥工业大学 一种pfc控制系统的多故障同步估计方法
CN113192277B (zh) * 2021-04-29 2022-09-30 重庆天智慧启科技有限公司 小区安防的自动报警系统及方法
WO2024100712A1 (ja) * 2022-11-07 2024-05-16 ファナック株式会社 撮像ユニットの温度を管理する装置、制御装置、方法、及びコンピュータプログラム
CN117197133B (zh) * 2023-11-06 2024-01-30 湖南睿图智能科技有限公司 一种复杂工业环境下视觉机器人的控制系统及方法
CN117754194A (zh) * 2024-02-21 2024-03-26 宁德时代新能源科技股份有限公司 电池壳盖焊接系统及其点检方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130027561A1 (en) 2011-07-29 2013-01-31 Panasonic Corporation System and method for improving site operations by detecting abnormalities
DE102012016544A1 (de) * 2011-08-26 2013-02-28 Fanuc Corporation Robotersystem mit einer funktion zum erfassen einer fehlfunktion einer kamera
US20130135485A1 (en) 2011-11-30 2013-05-30 Sanyo Electric Co., Ltd. Electronic apparatus
EP2804382A1 (de) 2013-05-15 2014-11-19 Axis AB Bestimmung der Zuverlässigkeit von Kamerafehlererkennungstests

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003131307A (ja) * 2001-10-25 2003-05-09 Ims:Kk 写真シール払出装置
JP2004363781A (ja) * 2003-06-03 2004-12-24 Mega Chips Corp デジタル映像記録システム
JP3834307B2 (ja) * 2003-09-29 2006-10-18 ファナック株式会社 ロボットシステム
JP2006013120A (ja) * 2004-06-25 2006-01-12 Matsushita Electric Ind Co Ltd 不具合原因究明システム
JP4718253B2 (ja) 2005-06-17 2011-07-06 株式会社日立ビルシステム 監視カメラの画像異常検出装置
JP5737989B2 (ja) * 2011-02-14 2015-06-17 富士機械製造株式会社 部品実装機
JP6243346B2 (ja) * 2012-11-13 2017-12-06 富士機械製造株式会社 基板生産状況監視装置
CN103308661A (zh) 2013-05-27 2013-09-18 中国矿业大学 用于表达空间拓扑信息的井下瓦斯传感器层次编码方法
JP6395823B2 (ja) * 2014-05-30 2018-09-26 株式会社日立国際電気 監視システムおよびカメラ装置
JP6400497B2 (ja) 2015-02-02 2018-10-03 三菱電機ビルテクノサービス株式会社 エレベータ乗りかごの異常確認システム
JP2018051721A (ja) * 2016-09-30 2018-04-05 キヤノン株式会社 異常検出装置、異常検出方法及びプログラム
JP6971020B2 (ja) * 2016-11-14 2021-11-24 株式会社日立製作所 異常検出装置および異常検出方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130027561A1 (en) 2011-07-29 2013-01-31 Panasonic Corporation System and method for improving site operations by detecting abnormalities
DE102012016544A1 (de) * 2011-08-26 2013-02-28 Fanuc Corporation Robotersystem mit einer funktion zum erfassen einer fehlfunktion einer kamera
US20130135485A1 (en) 2011-11-30 2013-05-30 Sanyo Electric Co., Ltd. Electronic apparatus
EP2804382A1 (de) 2013-05-15 2014-11-19 Axis AB Bestimmung der Zuverlässigkeit von Kamerafehlererkennungstests

Also Published As

Publication number Publication date
CN108462871A (zh) 2018-08-28
DE102018200280A1 (de) 2018-07-12
US10497146B2 (en) 2019-12-03
CN108462871B (zh) 2019-04-09
US20180197311A1 (en) 2018-07-12
JP2018113610A (ja) 2018-07-19
JP6392908B2 (ja) 2018-09-19

Similar Documents

Publication Publication Date Title
DE102018200280B4 (de) Visuellsensor-abnormalitätsursachen-schätzsystem
US20240089412A1 (en) Machine-vision system and method for remote quality inspection of a product
DE102017001305B4 (de) Fehlerdiagnosevorrichtung eines Robotersystem zum Beurteilen eines Fehlers anhand eines Kamerabildes
DE102016003051B4 (de) Robotersteuersystem mit Funktion zum Ändern eines Kommunikationsqualitätskriteriums gemäß dem Abstand zwischen einer Maschine und einer tragbaren drahtlosen Bedieneinheit
DE102018002112A1 (de) Störungserfassungsvorrichtung und maschinelle Lernvorrichtung
DE102019003382A1 (de) Anomaliedetektor
DE112019006789B4 (de) Arbeitsbestimmungsgerät und arbeitsbestimmungsverfahren
DE102018006550B4 (de) Abnormalitätserkennungsvorrichtung
DE102017211737B4 (de) Überwachungsvorrichtung und Verfahren zur Überwachung eines Systems
DE102017000287A1 (de) Zellensteuerung und produktionssystem zum verwalten der arbeitssituation einer vielzahl von fertigungsmaschinen in einer fertigungszelle
DE102016001920A1 (de) Steuervorrichtung zum Melden von Wartungs- und Inspektionszeiten signalgesteuerter Peripheriegeräte
DE102019104584A1 (de) Portable Vorrichtung und Fahrzeug
WO2019115183A2 (de) Verfahren und system zur schadenserkennung eines bauteils
DE112016007068B4 (de) Einrichtungszustands-schätzvorrichtung, einrichtungszustands-schätzverfahren und einrichtungszustands-beaufsichtigungssystem
DE102017118854A1 (de) Zellensteuerungssystem
EP2847676B1 (de) System und verfahren zur verteilten verarbeitung für maschinensichtanalyse
EP3425324A1 (de) Verfahren zur parametrierung eines sensors
DE102018221684A1 (de) Vorrichtung und Verfahren zur Anomalieerkennung und zum Trainieren eines Modells für eine Anomalieerkennung
DE102018130942A1 (de) Robotersystem
DE112021001443T5 (de) Bildverarbeitungsvorrichtung, arbeitsanweisungserstellungssystem und arbeitsanweisungserstellungsverfahren
DE102014206227A1 (de) Stereokamerasystem
DE102016225566A1 (de) Verfahren zur Ermittlung von Zustandsinformation bezüglich eines produktiven Robotersystems
DE102017130134B4 (de) RFID-Datenverwaltungsvorrichtung, RFID-Datenverwaltungsverfahren und RFID-Datenverwaltungsprogramm
DE102017001171B4 (de) Numerische Steuervorrichtung
DE112019003968T5 (de) Wartungsmanagementvorrichtung, Wartungsmanagementverfahren und -programm

Legal Events

Date Code Title Description
R012 Request for examination validly filed
R016 Response to examination communication
R018 Grant decision by examination section/examining division
R020 Patent grant now final