WO2021038634A1 - マーケットシステム - Google Patents

マーケットシステム Download PDF

Info

Publication number
WO2021038634A1
WO2021038634A1 PCT/JP2019/033088 JP2019033088W WO2021038634A1 WO 2021038634 A1 WO2021038634 A1 WO 2021038634A1 JP 2019033088 W JP2019033088 W JP 2019033088W WO 2021038634 A1 WO2021038634 A1 WO 2021038634A1
Authority
WO
WIPO (PCT)
Prior art keywords
data
work
customer
shape
imaging system
Prior art date
Application number
PCT/JP2019/033088
Other languages
English (en)
French (fr)
Inventor
明洋 東田
児玉 誠吾
政利 藤田
Original Assignee
株式会社Fuji
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社Fuji filed Critical 株式会社Fuji
Priority to US17/634,221 priority Critical patent/US12073598B2/en
Priority to CN201980099527.5A priority patent/CN114365170A/zh
Priority to JP2021541768A priority patent/JP7266100B2/ja
Priority to PCT/JP2019/033088 priority patent/WO2021038634A1/ja
Publication of WO2021038634A1 publication Critical patent/WO2021038634A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/255Detecting or recognising potential candidate objects based on visual cues, e.g. shapes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/55Clustering; Classification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/10Office automation; Time management
    • G06Q10/101Collaborative creation, e.g. joint development of products or services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/10Office automation; Time management
    • G06Q10/103Workflow collaboration or project management
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/01Customer relationship services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0621Item configuration or customization
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/04Manufacturing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Definitions

  • Patent Document 1 a system capable of providing service information from a supplier of production equipment to a company to which production equipment such as a component mounting machine is delivered has been proposed (see, for example, Patent Document 1).
  • the supplier stores recognition data, component dimensional data, mounting condition data, etc., which are image data of the normal posture of the component, in the library, and each company searches the library to obtain the necessary information. It is possible to obtain it.
  • the above-mentioned recognition data is used to determine whether or not the holding position is displaced and whether or not the posture is good or not from the image obtained by capturing the work when the work such as a part is held in the production equipment.
  • recognition data due to differences in the specifications and arrangement of imaging systems such as cameras and lighting that the production equipment has, there may be slight differences in the shape such as the contour of the work that appears in the image. Therefore, in order to properly perform image processing, it is desirable to create recognition data from an image actually captured by an imaging system of a production facility.
  • the recognition data is created at each delivery destination of the production equipment, it takes time to create the recognition data, which increases the burden of creation.
  • the main purpose of this disclosure is to appropriately perform image processing while reducing the burden of creating data required for image processing.
  • the present disclosure has taken the following measures to achieve the above-mentioned main purpose.
  • the market system of this disclosure is It is a market system that can provide data required for production equipment that produces images with image processing of workpieces captured by the imaging system via a network.
  • a storage unit that is created from an image obtained by capturing an image of the work for each imaging system and stores a plurality of shape data that serves as a reference for the shape of the work in the image processing in association with the imaging system and the type of the work.
  • a providing unit capable of providing data stored in the storage unit to a customer of the production facility via the network, and a providing unit. The gist is to prepare.
  • a plurality of shape data that are created from images obtained by capturing an image of a work for each imaging system and are used as a reference for the shape of the work in image processing are stored in association with the imaging system and the type of the work.
  • the stored data is provided to the customers of the production equipment via the network.
  • the customer does not have to create the shape data, so that the time for preparing the shape data can be shortened.
  • the shape data is created from the image obtained by capturing the work for each imaging system, it is possible to appropriately perform image processing according to the imaging system of the customer's production equipment. Therefore, the image processing can be appropriately performed while reducing the burden of creating the data required for the image processing.
  • Explanatory drawing which shows the outline of a marketplace MP.
  • the block diagram which shows the outline of the structure of the work system 60.
  • Explanatory drawing which shows an example of module DB30, tool DB32, and shape DB34.
  • Explanatory drawing which shows an example of the interference range (Kx, Ky).
  • Explanatory drawing which shows an example of a reference shape RS.
  • the flowchart which shows an example of the shape data registration process.
  • Explanatory drawing which shows an example of a selection input screen 59a.
  • FIG. 1 is a configuration diagram showing an outline of the configuration of the equipment introduction support system 10 of the present embodiment
  • FIG. 2 is an explanatory diagram showing an outline of the marketplace MP
  • FIG. 3 shows an outline of the configuration of the work system 60. It is a block diagram.
  • the equipment introduction support system 10 manages the marketplace MP for the customer (user) to purchase various equipment and devices (hereinafter, modules) provided by the vendor.
  • a server 20 is provided.
  • the management server 20 is connected to the vendor terminal 40 and the customer terminal 50 via the network 12.
  • FIG. 1 shows one vendor terminal 40 and one customer terminal 50, a plurality of them are actually connected.
  • the management server 20 includes a control unit 21, a simulation unit 22, a storage unit 23, and a communication unit 26.
  • the control unit 21 has a CPU, ROM, RAM, and the like, and controls the entire server such as management of the marketplace MP.
  • the simulation unit 22 constructs a model MD (digital twin, see FIG. 2) such as a work system 60 (see FIG. 3) combining modules that can be purchased at the marketplace MP in the virtual space, and builds the model MD in the virtual space. Execute a simulation using.
  • the storage unit 23 is composed of an HDD or the like, and stores various application programs, various databases (DBs), and the like.
  • the communication unit 26 is connected to the network 12 and the like, and communicates with the vendor terminal 40, the customer terminal 50, and the like.
  • Various instructions by the administrator are input to the management server 20 from the input unit 28 such as a keyboard and a mouse. Further, the management server 20 displays various information on a display unit 29 such as a display.
  • the management server 20 is not limited to the one provided with the simulation unit 22 and the storage unit 23 (various DBs), and the simulation unit may be configured as another device capable of communicating with the management server 20 and stores various DBs.
  • the data server may be configured as another device capable of communicating with the management server 20.
  • the vendor terminal 40 is connected to a control unit 41 having a CPU, ROM, RAM, etc., a storage unit 43 such as an HDD for storing various application programs, various data, etc., and communicates with a management server 20 or the like. It includes a communication unit 46.
  • various instructions by the vendor are input from the input unit 48 such as a keyboard and a mouse.
  • the vendor terminal 40 displays various information such as a registration screen for registering various data such as module data of the module to be provided in the marketplace MP on the display unit 49 of the display or the like.
  • the customer terminal 50 includes a control unit 51, a storage unit 53, and a communication unit 56, similarly to the vendor terminal 40.
  • the communication unit 56 may communicate with the control device 68 of the work system 60, which will be described later, via the network 12 or the like.
  • various instructions by the customer are input from the input unit 58 such as a keyboard and a mouse.
  • the customer terminal 50 displays various information such as a top screen (purchase screen) of the marketplace MP, a simulation model MD, and a simulation execution result on a display unit 59 such as a display.
  • the work system 60 can be configured as a system in which a robot 61 performs a predetermined work, and in the example of FIG. 3, in addition to the robot 61, a substrate transfer device 66 and a feeder 67 are provided.
  • a substrate transfer device 66 and a feeder 67 are provided.
  • the predetermined work for example, a mounting work in which the robot 61 picks up a work such as a mechanical part or an electronic part and mounts it on the substrate S can be mentioned.
  • the robot 61 includes a vertical articulated robot arm 62 and a control device 68 that controls the entire system including the operation of the robot arm 62.
  • An end effector 63 as a work tool is detachably attached to the tip link of the robot arm 62, and a camera 64 for capturing an image and an illumination 65 such as a ring light arranged coaxially with the camera 64 are attached.
  • Examples of the end effector 63 include an electromagnetic chuck, a mechanical chuck, and a suction nozzle.
  • the substrate transfer device 66 conveys the substrate S by a pair of belt conveyors.
  • the feeder 67 is configured as a tape feeder that sends out a tape containing a plurality of workpieces at predetermined intervals.
  • the feeder 67 is not limited to the tape feeder, and may be a tray feeder or the like that supplies trays on which a plurality of workpieces are arranged.
  • the control device 68 is composed of a CPU, a ROM, an HDD, a RAM, and the like, and stores a system program that manages the entire work system 60 in addition to the operation program of the robot 61. Further, the control device 68 inputs an image of the work captured by the camera 64 during the predetermined work, processes the image, recognizes the position and size of the work, and confirms whether the work is correct. After that, select the work to be picked up. In the case of a configuration in which the work is picked up by a chuck such as an electromagnetic chuck or a mechanical chuck, the control device 68 determines from an image whether or not there is interference with other work around the target work, and determines the work without interference. Select as a target for pickup.
  • the operation program of the substrate transfer device 66 is stored in the PLC (Programmable Logic Controller) of the board transfer device 66, and the operation program of the feeder 67 is stored in the PLC of the feeder 67.
  • the robot 61 robot arm 62
  • the end effector 63, the camera 64, the lighting 65, the substrate transfer device 66, and the feeder 67 that form the work system 60 are called modules.
  • the module DB (database) 30, the tool DB 32, the shape DB 34, the vendor DB 37, and the customer DB 39 are stored in the storage unit 23 of the management server 20.
  • the vendor DB 37 is registered with the name of the vendor for which authentication registration has been made, the vendor ID unique to each vendor, contact information such as an address and e-mail address, and information on the type of module provided by the vendor.
  • the customer DB 39 is registered with the name of the customer for whom authentication registration has been made, a customer ID unique to each customer, contact information such as an address and an e-mail address, and a purchase history of the customer.
  • FIG. 4 is an explanatory diagram showing an example of the module DB30, the tool DB32, and the shape DB34.
  • the module DB 30 registers the module data and the like registered by the vendor from the vendor terminal 40 via the registration screen.
  • a plurality of module data such as robot data 30A, feeder data 30B, conveyor data 30C, end effector data 30D, etc. are registered by classifying them according to the type of module.
  • camera and lighting data are also registered.
  • Each module data includes shape data such as 3D CAD data of each module, its operation program if it is an operable module, and a camera that includes the type of lens if it includes an imaging system such as a camera or lighting.
  • the imaging system A attached to the robot A as standard is included in the module data of the robot A.
  • the information of the imaging system B is included in the module data of the robot B
  • the information of the imaging system C is included in the module data of the robot C.
  • module data including shape data and physical property data of a typical work to be worked is also registered in the module DB 30.
  • the module data of the work may be registered by the vendor or by the administrator requested by the customer, and is used in the simulation using the model MD.
  • FIG. 5 is an explanatory diagram showing an example of the interference range (Kx, Ky).
  • FIG. 5 illustrates an end effector 63 including a pair of chuck claws 63a that can be opened and closed. Further, FIG. 5A shows a state in which the chuck claw 63a grips the work A from the side, and FIG. 5B shows a state in which the chuck claw 63a grips the work A from above.
  • the pair of chuck claws 63a changes into an open state (see the solid line) and a closed state (see the dotted line) by the opening / closing operation, and grips the work in the closed state.
  • the interference range is defined as a range in which the chuck claw 63a in the open state does not interfere with the surroundings, for example, a value Kx in the opening / closing direction of the chuck claw 63a and a value Ky in a predetermined direction orthogonal to the opening / closing direction in the horizontal plane.
  • the value Kx is the outer dimension of both chuck claws 63a in the open state based on the opening / closing stroke amount of the chuck claw 63a and the width (thickness) of the chuck claw 63a in the opening / closing direction. It is a value to which a margin of about several mm is added in consideration of the position accuracy of the end effector 63 when gripping.
  • the value Ky is a value obtained by adding a margin of about several mm to the width of the chuck claw 63a in a predetermined direction as described above.
  • Each tool data is defined for each type of end effector 63, and is registered in the tool DB 32 in association with the type of end effector 63.
  • the interference range (Kxa, Kya) is registered in association with the end effector A
  • the interference range (Kxb, Kyb) is registered in association with the end effector B
  • the interference range (Kxc, Kya) is registered in association with the end effector C. Kyc) is registered.
  • the interference range (Kx, Ky) of the tool data is not limited to the one in which only the value is registered, and the range indicated by the frame in the image may be registered.
  • shape data that serves as a reference for the shape of the work is registered when the image processing of the work is performed by the control device 68 of the work system 60 or the like.
  • a reference shape RS which is a reference for the shape of the work, is set by image processing from the image captured by each imaging system, and is registered in the shape DB 34 as shape data. Therefore, a plurality of shape data of each work imaged by the imaging system A are registered as the data 35A for the imaging system A, and a plurality of shape data of each work imaged by the imaging system B are registered as the data 35B for the imaging system B. Will be. Further, FIG. 6 is an explanatory diagram showing an example of the reference shape RS.
  • the reference shape RS of the work A of the imaging system A is data based on the contour line slightly outside the original work shape shown by the dotted line.
  • the reference shape RS of the work A of the imaging system B is data based on the contour line slightly inside the original work shape shown by the dotted line.
  • shape data indicating the reference shape RS of the work is registered in the shape DB 34 for each imaging system.
  • the pixel resolution (mm / pixel) of the imaging system is also registered in each shape data.
  • the marketplace MP On the top screen of the Marketplace MP displayed on the customer terminal 50 or the like, it is possible to request or browse the purchase of these modules, request the provision of various data, request or browse the purchase of various application tools, log in to the customer's My Page, etc. It has become.
  • icons for each module type indicating robots, end effectors, feeders, and conveyor modules, data request icons, application tool selection icons, purchase buttons, and My Page
  • the login button etc. are displayed.
  • a module selection screen (not shown) that displays a list of the corresponding type of module data in a selectable manner is displayed. Will be done.
  • the module data 31 of each robot is displayed in a list, and the customer can select and purchase the required module from the list.
  • the module data displayed in the list is registered in the module DB 30.
  • an application tool selection screen (not shown) is displayed in which various application tools can be selected and displayed in a list.
  • Customers can select and purchase the required application tools from them.
  • analysis tools that collect and analyze information such as the work status of each module and the frequency of occurrence of abnormalities
  • proposal tools that propose improvement plans such as module changes from analysis results, and module efficiency.
  • Layout tools that perform various layouts can be mentioned.
  • the customer can select the module icon or the application tool icon without clicking the purchase button to browse the contents of the listed modules or application tools.
  • the customer logs in to My Page he / she can check the purchase history of the module, the contents and change history of the module to be introduced, the contact information from the management server 20 and the vendor, and the like.
  • FIG. 7 is a flowchart showing an example of the tool data registration process. This process is executed by the control unit 21 when, for example, the tool data is registered by the vendor.
  • the control unit 21 first receives the size of the chuck claw 63a and the opening / closing stroke amount via a registration screen (not shown) displayed on the display unit 49 of the vendor terminal 40 (S100).
  • the control unit 21 is not limited to the one that receives the information from the vendor terminal 40, and may acquire the necessary information from the specification information registered in the end effector data 30D of the module DB 30.
  • the control unit 21 has a value Kx obtained by adding a margin to the outer dimensions of both chuck claws 63a in the open state based on the opening / closing stroke amount of the chuck claw 63a and the width (thickness) of the chuck claw 63a in the opening / closing direction, and the chuck.
  • the interference range (Kx, Ky) is set by obtaining a value Ky obtained by adding a margin to the width of the claw 63a in a predetermined direction (S110).
  • the control unit 21 may receive information on the outer dimensions of both chuck claws 63a in the open state to obtain the value Kx. Then, the control unit 21 registers the interference range (Kx, Ky) set in S110 in the tool DB 32 as tool data associated with the type of the end effector 63 (S120), and ends the tool data registration process.
  • FIG. 8 is a flowchart showing an example of the shape data registration process. This process is executed by the control unit 21 when the shape data is registered by the vendor, and is executed by the control unit 21 when the shape data is registered by the customer. Further, the shape data registration process is performed via a registration screen (not shown) displayed on the display unit 49 of the vendor terminal 40 or the display unit 59 of the customer terminal 50.
  • the control unit 21 first determines whether or not the image pickup system for which the shape data is registered is an unregistered image pickup system (S200). If the control unit 21 is an unregistered imaging system, the control unit 21 receives the information of the imaging system, registers a new imaging system in the shape DB 34 (S210), and proceeds to S230.
  • S200 unregistered image pickup system
  • control unit 21 receives information such as the specifications of the camera 64, the specifications of the illumination 65, and the arrangement positions of the camera 64 and the illumination 65, and registers the information together with the information indicating the type of the imaging system. If the image pickup system has already been registered, the control unit 21 accepts the selection of the image pickup system to be registered (S220) and proceeds to S230.
  • the control unit 21 accepts the type of work to be registered and the image of the work (S230).
  • the control unit 21 receives an image of the work actually captured by the imaging system of the work system 60.
  • the control unit 21 performs image processing on the received image to create shape data indicating the outline of the work in the image (S240). For example, the control unit 21 extracts a plurality of edges of the work in the image and creates contour lines as shape data by smoothly connecting the extracted edges.
  • the control unit 21 registers the imaging system registered in S210 or the imaging system selected in S220 and the shape data associated with the type of work in the shape DB 34 (S250), and ends the shape data registration process. For example, if the image pickup system A is the target, the control unit 21 will register the shape data of the new work as the image pickup system A data 35A of the shape DB 34.
  • FIG. 9 is a flowchart showing an example of data provision processing. This process is executed by the control unit 21 when various data provision requests are selected from the top screen of the marketplace MP displayed on the display unit 59 of the customer terminal 50.
  • the control unit 21 first determines whether or not the tool data has been selected by the customer on the request data selection screen (not shown) (S300), and if it determines that the tool data has not been selected, proceeds to S330. ..
  • the control unit 21 determines that the tool data has been selected in S300, the control unit 21 accepts the selection input of the type of the end effector 63 via the selection input screen of the tool data (not shown) (S310), and the type of the received end effector 63. Select the tool data corresponding to the above from the tool DB 32 and download it to the customer terminal 50 (S320). For example, when the control unit 21 receives the selection input of the end effector A as the type of the end effector 63, the control unit 21 downloads the interference range (Kxa, Kya) which is the tool data of the end effector A to the customer terminal 50.
  • the interference range Kxa, Kya
  • the control unit 21 may download the interference range (Kx, Ky) to the customer terminal 50 as image data automatically converted according to the pixel resolution of the imaging system in the customer's work system 60.
  • the control device 68 of the customer's work system 60 reflects the downloaded image data in the image and confirms the presence or absence of interference with the surroundings of the work, for example, in the image processing when chucking the work. Can be done. That is, since it is not necessary for the control device 68 to create the image data in which the interference range (Kx, Ky) is converted, the trouble of creating the image data can be saved.
  • the control device 68 may convert the downloaded interference range (Kx, Ky) according to the pixel resolution of the imaging system of the work system 60.
  • control unit 21 determines whether or not the shape data has been selected by the customer on the request data selection screen (S330), and if it determines that the shape data has not been selected, the data provision process ends. On the other hand, when the control unit 21 determines that the shape data has been selected in S330, the control unit 21 displays the selection input screen 59a on the display unit 59 and accepts the selection input of the imaging system and the work type from the customer (S340).
  • FIG. 10 is an explanatory diagram showing an example of the selection input screen 59a.
  • the control unit 21 On the selection input screen 59a, the control unit 21 first displays a plurality of button images of the imaging system, and receives a selection input of the type of the imaging system from the customer by an operation (click) using the input unit 58 (FIG. See 10A). Upon receiving the selection input of the imaging system from the customer, the control unit 21 displays the button images of the plurality of workpieces registered in the imaging system, and the operation (click) using the input unit 58 determines the type of workpiece. Accepts selection input (see FIG. 10B). Note that FIG. 10B shows a screen when the selection input of the imaging system A is accepted in FIG. 10A. Further, when the back button in FIG. 10A is operated, the screen returns to the request data selection screen, and when the back button in FIG. 10B is operated, the screen returns to FIG. 10A. On the tool data selection input screen, button images of a plurality of end effectors 63 (end effectors A, B, C) are displayed so that they can be selected and input as in FIG
  • the control unit 21 When the control unit 21 receives the selection input of the image pickup system and the work type in this way, the control unit 21 selects the shape data corresponding to the received image pickup system and the work type from the shape DB 34 and downloads it to the customer terminal 50 (S350). End the data provision process.
  • the tool data and shape data downloaded to the customer terminal 50 are transferred to the control device 68 of the work system 60 and used in the image processing of the control device 68.
  • the tool data selection, the imaging system selection, and the work selection are performed in order, but the order is not limited to this, and may be performed in a different order. Further, depending on the registration status of the shape data, the shape data desired by the customer may not be registered.
  • control unit 21 displays on the selection input screen 59a of FIG. 10B that the registered imaging system or work is displayed, and that the selection input cannot be accepted for the imaging system or work that is not displayed. You may. Further, in that case, the customer needs to create the shape data by himself / herself, but since the shape data can be registered and used at any time by the above-mentioned shape data registration process, it often becomes necessary to create the shape data. Can be suppressed.
  • the size and shape of the workpiece in the image may differ even if the same workpiece is imaged.
  • the boundary of the edge projected on the image becomes a dotted line. It may be outside or inside the original work shape indicated by. For this reason, if a common reference shape is applied in the image processing of the same type of workpiece imaged by different imaging systems, not only the trouble of size conversion but also problems such as recognition error and confirmation error may occur. ..
  • shape data indicating the reference shape RS of the work is registered in the shape DB 34 for each imaging system even for the same type of work, and the customer can download the shape data to the customer terminal 50. Therefore, the control device 68 can appropriately perform image processing by using the shape data (reference shape RS) corresponding to the imaging system of the work system 60. Further, when it is not necessary to create the shape data according to the introduced imaging system, the customer can shorten the time for preparing the shape data. Further, in the present embodiment, tool data indicating an interference range (Kx, Ky) such as a chuck claw 63a is registered in the tool DB 32 for each type of the end effector 63, and the customer can download the tool data to the customer terminal 50. It has become.
  • the equipment introduction support system 10 including the marketplace MP of the present embodiment corresponds to the market system
  • the storage unit 23 of the management server 20 corresponds to the storage unit
  • the control unit 21 of the management server 20 that executes data provision processing corresponds to the department.
  • the control unit 21 of the management server 20 that executes the shape data registration process corresponds to the registration unit.
  • the equipment introduction support system 10 described above is created from an image obtained by capturing an image of a work for each imaging system, and stores a plurality of shape data which is a reference shape RS of the work in image processing in association with the imaging system and the type of the work. It is stored in the part 23 (shape DB34). Further, the shape data can be provided (downloaded) to the customer terminal 50. Therefore, it is possible to shorten the time for the customer to prepare the shape data and reduce the creation burden. In addition, image processing can be appropriately performed using shape data according to the imaging system.
  • the equipment introduction support system 10 stores tool data indicating the interference range (Kx, Ky) of the chuck claw 63a in the storage unit 23 (tool DB 32) in association with the type of the end effector 63. Therefore, since the customer can save the trouble of setting the tool data, the burden of creating the data required for the image processing can be further reduced. In addition, it is possible to prevent the customer from making a mistake in setting the tool data. In addition, the customer can obtain shape data and tool data from the marketplace MP. Therefore, the customer can easily obtain the data of the module purchased in the marketplace MP without searching another website.
  • the customer can request the necessary shape data by selecting the image pickup system and the work type on the selection input screen 59a, the data can be obtained without inputting the image pickup system and the work type information, respectively. Can be easily obtained.
  • the equipment introduction support system 10 receives an image of the work not only from the vendor but also from the customer, creates shape data from the image, and registers it in the storage unit 23 (shape DB 34). Therefore, even if the shape data of the work of a certain imaging system is not registered in the shape DB 34, new shape data can be registered at any time from the image of the work captured by the imaging system. Therefore, the shape data accumulated in the shape DB 34 can be enriched, and the shape data can be effectively used among customers.
  • the shape data registration process allows the image of the work to be received from the customer and the shape data to be registered.
  • the present invention is not limited to this, and only the image from the vendor is accepted and the shape data is registered. It may be a thing.
  • the customer requests the necessary shape data by selecting the image pickup system and the work type on the selection input screen 59a, but the customer is not limited to this, and the customer obtains information on the image pickup system and the work type. You may request the required shape data by inputting each.
  • the shape data of the work registered in the imaging system of the customer's work system 60 is automatically processed, not limited to the one that accepts the selection of the data to be output from the customer and provides the received data to the customer via the network. May be provided to the customer at. In such a case, every time the shape data of a new work is registered in the shape data registration process, the new shape data may be provided to the customer having the robot 61 of the same imaging system.
  • the tool data the tool data of the end effector 63 may be automatically provided to the customer when the customer purchases (introduces) the end effector 63.
  • the storage unit 23 includes the tool DB 32 and the shape DB 34 to store the tool data and the shape data, but the storage unit 23 does not include the tool DB 32 and stores the tool data. It suffices that the storage unit 23 includes the shape DB 34 and stores the shape data, such as the one that is not stored. In such a case, the customer may set the interference range. Further, for example, when a suction nozzle is used as the end effector 63, the suction nozzle fits within the suction surface of the component, so that tool data is unnecessary. Further, when the inspection device of the substrate S or the like inspects the mounting state of the components on the substrate S, it is not necessary to determine the interference by image processing, so that the tool data is unnecessary.
  • the shape data is registered for each imaging system attached to the robot 61 as standard, but the present invention is not limited to this.
  • the shape data of the imaging system in which the camera 64 and the illumination 65 that can be attached to the robot 61 are combined may be registered.
  • the burden of creating the data required for image processing is burdened. Can be suppressed. Therefore, the customer can use the number of registered shape data for each imaging system in the shape DB 34 as a judgment material when introducing the imaging system.
  • the work system 60 composed of a plurality of modules has been illustrated, but the work system is not limited to this, as long as the work system is produced by performing image processing of the work imaged by the imaging system.
  • the system may be composed of one module such as a robot 61 to which a camera 64, a lighting 65, or the like is attached as standard.
  • it may be a system composed of a module for transporting articles such as a conveyor and an imaging system.
  • the imaging system the camera 64 and the illumination 65 attached to the tip link of the robot arm 62 of the robot 61 have been exemplified, but the present invention is not limited thereto.
  • the imaging system may be mounted on the ceiling above the robot 61, or may be mounted on a gate-shaped frame arranged so as to straddle the conveyor of the substrate transport device 66.
  • the present invention is not limited to this, and the products related to the production equipment are not included in the simulation unit 22 and are distributed via the network. Any system may be used as long as it manages the marketplace MP that can be traded. Although modules and application tools have been exemplified as products, the system is not limited to a system in which both can be purchased, and a system in which only one can be purchased may be used.
  • the market system of the present disclosure may be configured as follows.
  • some of the production facilities grip the work by using a tool that can be opened and closed, and the storage unit interferes with the surroundings when the tool grips the work.
  • Tool data indicating the range for determining the presence / absence may be stored in association with the type of the tool. In this way, the system user can save the trouble of setting the tool data, so that the burden of creating the data required for image processing can be further reduced.
  • the providing unit may accept a selection input of the type of the imaging system and the work from the customer and provide the shape data corresponding to the selection input to the customer. In this way, the customer can easily acquire the necessary shape data by selecting the image pickup system of the production equipment and the type of the work to be produced.
  • an image of the work captured by the imaging system of the production facility is received from a customer via the network, and the shape data is created from the received image and registered in the storage unit. It may be provided with a part. By doing so, new shape data can be registered, so that the shape data can be effectively used among customers.
  • This disclosure can be used in the technical field of a market system in which products related to production equipment can be traded via a network.
  • 10 equipment introduction support system 12 network
  • 20 management server 21,41,51 control unit, 22 simulation unit, 23,43,53 storage unit, 26,46,56 communication unit, 28,48,58 input unit, 29 , 49, 59 display unit
  • 30 module DB 30A robot data, 30B feeder data, 30C conveyor data, 30D end effector data, 32 tool DB, 34 shape DB, 35A imaging system A data, 35B imaging system B data, 37 vendor DB, 39 customer DB, 40 vendor terminal, 50 customer terminal, 59a selection input screen, 60 work system, 61 robot, 62 robot arm, 63 end effector, 63a chuck claw, 64 camera, 65 lighting, 66 board transfer device , 67 feeder, 68 control device, MD model, MP marketplace, RS standard shape, S board.

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Strategic Management (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Economics (AREA)
  • General Business, Economics & Management (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Quality & Reliability (AREA)
  • Data Mining & Analysis (AREA)
  • Tourism & Hospitality (AREA)
  • Accounting & Taxation (AREA)
  • Finance (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Operations Research (AREA)
  • Development Economics (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Manufacturing & Machinery (AREA)
  • Health & Medical Sciences (AREA)
  • Primary Health Care (AREA)
  • General Health & Medical Sciences (AREA)
  • Manipulator (AREA)
  • General Factory Administration (AREA)

Abstract

撮像系で撮像されたワークの画像処理を伴って生産を行う生産設備に必要なデータをネットワークを介して提供可能なマーケットシステムは、撮像系毎にワークを撮像した画像から作成され、画像処理でワークの形状の基準となる複数のシェイプデータを、撮像系およびワークの種類に対応付けて記憶する記憶部と、記憶部に記憶されたデータをネットワークを介して生産設備のカスタマに提供可能な提供部と、を備えるものである。

Description

マーケットシステム
 本明細書は、マーケットシステムを開示する。
 従来、部品実装機などの生産設備の納入先の企業に対し、生産設備の供給メーカからサービス情報を提供可能なシステムが提案されている(例えば、特許文献1参照)。このシステムでは、供給メーカが、部品の正常な姿勢の画像データである認識データや部品の寸法データ、実装条件データなどをライブラリに記憶しておき、各企業がライブラリを検索して必要な情報を取得することが可能となっている。
特開2002-359500号公報
 上述した認識データは、生産設備で部品などのワークが保持された際に、そのワークを撮像した画像から保持位置のずれの有無や姿勢の良否などを判定するのに用いられる。しかしながら、生産設備が有するカメラや照明などの撮像系の仕様や配置の違いなどにより、画像に写るワークの輪郭などの形状に若干の違いが生じることがある。このため、画像処理を適切に行うためには、生産設備の撮像系で実際にワークを撮像した画像から認識データを作成することが望ましい。ただし、認識データの作成を、生産設備の納入先でそれぞれ行う場合、認識データの作成に時間を要するため、作成負担が大きなものとなる。
 本開示は、画像処理に必要なデータの作成負担を軽減しつつ画像処理を適切に行うことを主目的とする。
 本開示は、上述の主目的を達成するために以下の手段を採った。
 本開示のマーケットシステムは、
 撮像系で撮像されたワークの画像処理を伴って生産を行う生産設備に必要なデータをネットワークを介して提供可能なマーケットシステムであって、
 前記撮像系毎に前記ワークを撮像した画像から作成され、前記画像処理で前記ワークの形状の基準となる複数のシェイプデータを、前記撮像系および前記ワークの種類に対応付けて記憶する記憶部と、
 前記記憶部に記憶されたデータを前記ネットワークを介して前記生産設備のカスタマに提供可能な提供部と、
 を備えることを要旨とする。
 本開示のマーケットシステムでは、撮像系毎にワークを撮像した画像から作成され、画像処理でワークの形状の基準となる複数のシェイプデータを、撮像系およびワークの種類に対応付けて記憶する。また、記憶されたデータをネットワークを介して生産設備のカスタマに提供する。これにより、カスタマがシェイプデータを作成する必要がないから、シェイプデータを準備する時間を短縮することができる。また、シェイプデータは、撮像系毎にワークを撮像した画像から作成されるから、カスタマの生産設備の撮像系に応じた画像処理を適切に行うことができる。したがって、画像処理に必要なデータの作成負担を軽減しつつ画像処理を適切に行うことができる。
設備導入支援システム10の構成の概略を示す構成図。 マーケットプレイスMPの概略を示す説明図。 作業システム60の構成の概略を示す構成図。 モジュールDB30とツールDB32とシェイプDB34の一例を示す説明図。 干渉範囲(Kx,Ky)の一例を示す説明図。 基準形状RSの一例を示す説明図。 ツールデータ登録処理の一例を示すフローチャート。 シェイプデータ登録処理の一例を示すフローチャート。 データ提供処理の一例を示すフローチャート。 選択入力画面59aの一例を示す説明図。
 次に、本開示を実施するための形態について図面を参照しながら説明する。
 図1は本実施形態の設備導入支援システム10の構成の概略を示す構成図であり、図2はマーケットプレイスMPの概略を示す説明図であり、図3は作業システム60の構成の概略を示す構成図である。図1,図2に示すように、設備導入支援システム10は、ベンダにより提供される各種の設備や機器(以下、モジュール)をカスタマ(利用者)が購入するためのマーケットプレイスMPを管理する管理サーバ20を備える。この設備導入支援システム10では、管理サーバ20がネットワーク12を介してベンダ端末40やカスタマ端末50に接続されている。なお、図1では、ベンダ端末40やカスタマ端末50をそれぞれ1つずつ示すが、実際には複数接続されている。
 管理サーバ20は、制御部21と、シミュレーション部22と、記憶部23と、通信部26とを備える。制御部21は、CPUやROM、RAMなどを有し、マーケットプレイスMPの管理などのサーバ全体の制御を行う。シミュレーション部22は、マーケットプレイスMPで購入可能なモジュールを組み合わせた作業システム60(図3参照)などのモデルMD(デジタルツイン,図2参照)を仮想空間上に構築し、仮想空間上でモデルMDを用いたシミュレーションを実行する。記憶部23は、HDDなどで構成され、各種アプリケーションプログラムや各種データベース(DB)などを記憶する。通信部26は、ネットワーク12などに接続され、ベンダ端末40やカスタマ端末50などと通信を行う。管理サーバ20には、キーボードやマウスなどの入力部28から管理者による各種指示などが入力される。また、管理サーバ20は、ディスプレイなどの表示部29に各種情報を表示する。なお、管理サーバ20がシミュレーション部22や記憶部23(各種DB)を備えるものに限られず、シミュレーション部が管理サーバ20と通信可能な他の装置として構成されてもよいし、各種DBを記憶するデータサーバが管理サーバ20と通信可能な他の装置として構成されてもよい。
 ベンダ端末40は、CPUやROM、RAMなどを有する制御部41と、各種アプリケーションプログラムや各種データなどを記憶するHDDなどの記憶部43と、ネットワーク12などに接続され管理サーバ20などと通信を行う通信部46とを備える。ベンダ端末40は、キーボードやマウスなどの入力部48からベンダによる各種指示などが入力される。また、ベンダ端末40は、ディスプレイなどの表示部49に、提供対象のモジュールのモジュールデータなどの各種データをマーケットプレイスMPに登録するための登録用画面などの各種情報を表示する。
 カスタマ端末50は、ベンダ端末40と同様に、制御部51と、記憶部53と、通信部56とを備える。なお、通信部56は、ネットワーク12などを介して、後述する作業システム60の制御装置68と通信を行うものとしてもよい。カスタマ端末50は、キーボードやマウスなどの入力部58からカスタマによる各種指示などが入力される。また、カスタマ端末50は、ディスプレイなどの表示部59に、マーケットプレイスMPのトップ画面(購入用画面)やシミュレーションのモデルMD、シミュレーションの実行結果などの各種情報を表示する。
 ここで、マーケットプレイスMPで購入可能なモジュールを組み合わせた作業システム(生産設備)60の一例について説明する。例えば、作業システム60は、ロボット61により所定作業を行うシステムとして構成することができ、図3の例では、ロボット61以外に、基板搬送装置66と、フィーダ67とを備える。所定作業の一例としては、例えば機械部品や電子部品などのワークをロボット61がピックアップして基板Sに実装する実装作業などが挙げられる。ロボット61は、垂直多関節型のロボットアーム62と、ロボットアーム62の作動を含むシステム全体を制御する制御装置68とを備える。また、ロボットアーム62の先端リンクには、作業ツールとしてのエンドエフェクタ63が着脱可能に取り付けられる他、画像を撮像するカメラ64と、カメラ64と同軸に配置されたリングライトなどの照明65とが取り付けられている。なお、エンドエフェクタ63としては、電磁チャックやメカニカルチャック、吸着ノズルなどが挙げられる。基板搬送装置66は、一対のベルトコンベアにより基板Sを搬送する。フィーダ67は、複数のワークが所定間隔で収容されたテープを送り出すテープフィーダとして構成されている。なお、フィーダ67は、テープフィーダに限られず、複数のワークが配置されたトレイを供給するトレイフィーダなどであってもよい。制御装置68は、CPUやROM、HDD、RAMなどで構成されており、ロボット61の動作プログラム以外に、作業システム60の全体を管理するシステムプログラムなどを記憶している。また、制御装置68は、所定作業中にカメラ64で撮像されたワークの画像が入力され、その画像を画像処理して、ワークの位置やサイズを認識したり、正しいワークであるかを確認したりした上で、ピックアップするワークを選定する。制御装置68は、例えば電磁チャックやメカニカルチャックなどのチャックによりワークをピックアップする構成の場合、対象となるワークの周囲の他のワークとの干渉の有無などを画像から判定し、干渉のないワークをピックアップの対象に選定する。また、図示は省略するが、基板搬送装置66の動作プログラムは基板搬送装置66のPLC(Programmable Logic Controller)が記憶しており、フィーダ67の動作プログラムは、フィーダ67のPLCが記憶している。このような作業システム60を構成するロボット61(ロボットアーム62)やエンドエフェクタ63、カメラ64、照明65、基板搬送装置66、フィーダ67を、それぞれモジュールという。
 管理サーバ20の記憶部23には、モジュールDB(データベース)30と、ツールDB32と、シェイプDB34と、ベンダDB37と、カスタマDB39とが記憶されている。ベンダDB37は、図示は省略するが、認証登録がなされたベンダの名称や各ベンダに固有のベンダID、住所やメールアドレスなどの連絡先、ベンダが提供するモジュールの種類の情報などが登録されている。また、カスタマDB39は、図示は省略するが、認証登録がなされたカスタマの名称や各カスタマに固有のカスタマID、住所やメールアドレスなどの連絡先、カスタマの購入履歴などが登録されている。
 ここで、図4は、モジュールDB30とツールDB32とシェイプDB34の一例を示す説明図である。モジュールDB30は、ベンダがベンダ端末40から登録用画面を介して登録したモジュールデータなどを登録する。モジュールDB30には、ロボットデータ30Aやフィーダデータ30B、コンベアデータ30C、エンドエフェクタデータ30Dなど、モジュールの種類毎に区分けして複数のモジュールデータが登録されている。なお、図示は省略するが、カメラや照明のデータも登録されている。各モジュールデータには、それぞれ各モジュールの3次元CADデータなどの形状データや動作可能なモジュールであればその動作プログラム、カメラや照明などの撮像系を含むものであればレンズの種類などを含むカメラの仕様や照明の仕様などの撮像系の情報、各種接続に必要なコネクタの情報、仕様などが含まれている。図4では、例えば、ロボットAに標準で取り付けられる撮像系Aの情報がロボットAのモジュールデータに含まれている。同様に、撮像系Bの情報がロボットBのモジュールデータに含まれ、撮像系Cの情報がロボットCのモジュールデータに含まれている。また、図示は省略するが、モジュールDB30には、作業対象の代表的なワークの形状データや物性データなどを含むモジュールデータなども登録されている。ワークのモジュールデータは、ベンダが登録してもよいし、カスタマから依頼を受けた管理者が登録してもよく、モデルMDを用いたシミュレーションで用いられる。
 ツールDB32には、電磁チャックやメカニカルチャックなどのエンドエフェクタ63がワークをチャックする際に周囲の他のワークなどとの干渉有無を判定するための干渉範囲を示すツールデータが登録される。図5は干渉範囲(Kx,Ky)の一例を示す説明図である。図5では、エンドエフェクタ63が、開閉動作可能な一対のチャック爪63aを備えるものを例示する。また、図5(a)は、チャック爪63aがワークAを把持する様子を側方から示し、図5(b)は、チャック爪63aがワークAを把持する様子を上方から示す。図示するように、一対のチャック爪63aは、開閉動作により開状態(実線参照)と閉状態(点線参照)とに変化し、閉状態でワークを把持する。また、干渉範囲は、開状態のチャック爪63aが周囲と干渉しない範囲として、例えばチャック爪63aの開閉方向の値Kxと、水平面内で開閉方向に直交する所定方向の値Kyとが定められる。値Kxは、チャック爪63aの開閉ストローク量とチャック爪63aの開閉方向の幅(厚み)とに基づく開状態の両チャック爪63aの外寸に、チャック爪63aの寸法の個体差やロボットがワークを把持する際のエンドエフェクタ63の位置精度などを考慮して数mm程度のマージンを加えた値である。値Kyは、チャック爪63aの所定方向の幅に、上記と同様に数mm程度のマージンを加えた値である。各ツールデータは、エンドエフェクタ63の種類毎に定められ、エンドエフェクタ63の種類に対応付けてツールDB32に登録されている。例えば、エンドエフェクタAに対応付けて干渉範囲(Kxa,Kya)が登録され、エンドエフェクタBに対応付けて干渉範囲(Kxb,Kyb)が登録され、エンドエフェクタCに対応付けて干渉範囲(Kxc,Kyc)が登録されている。なお、ツールデータの干渉範囲(Kx,Ky)は、値のみが登録されるものに限られず、画像内に枠で示す範囲が登録されてもよい。
 シェイプDB34には、作業システム60の制御装置68などでワークの画像処理が行われる際に、そのワークの形状の基準となるシェイプデータが登録される。本実施形態では、各撮像系がそれぞれワークを撮像した画像から、画像処理でワークの形状の基準となる基準形状RSが設定され、シェイプデータとしてシェイプDB34に登録されている。このため、撮像系Aで撮像された各ワークのシェイプデータが撮像系A用データ35Aとして複数登録され、撮像系Bで撮像された各ワークのシェイプデータが撮像系B用データ35Bとして複数登録されることになる。また、図6は基準形状RSの一例を示す説明図である。図示するように、撮像系AのワークAの基準形状RSは、点線で示す本来のワーク形状よりも僅かに外側の輪郭線を基準とするデータである。一方、撮像系BのワークAの基準形状RSは、点線で示す本来のワーク形状よりも僅かに内側の輪郭線を基準とするデータである。ここで、例えばレンズを含むカメラ64の仕様や照明65の仕様、カメラ64や照明65の配置位置などの違いにより撮像系が異なると、同じワークを撮像しても画像内のワークの写り具合が変化し、画像内のワークのサイズや形状などに違いが生じることがある。本実施形態では、後述するように、そのような違いが画像処理に及ぼす影響を適切に抑えるために、撮像系毎にワークの基準形状RSを示すシェイプデータがシェイプDB34に登録されている。なお、各シェイプデータには、撮像系の画素分解能(mm/pixel)も登録されている。
 カスタマ端末50などに表示されるマーケットプレイスMPのトップ画面では、これらのモジュールの購入要求や閲覧、各種データの提供要求、各種アプリケーションツールの購入要求や閲覧、カスタマのマイページへのログインなどが可能となっている。図2に示すように、トップ画面では、例えばロボット、エンドエフェクタ、フィーダ、コンベアのモジュールを示す各モジュールの種類別のアイコンやデータ要求のアイコン、アプリケーションツール選択のアイコン、購入ボタン、マイページへのログインボタンなどが表示されている。カスタマが入力部58を用いた操作入力により購入ボタンを操作(クリック)してから所望のモジュールのアイコンを選択すると、該当する種類のモジュールデータを選択可能に一覧表示する図示しないモジュール選択画面が表示される。例えば、カスタマがロボットのアイコンを選択すると、各ロボットのモジュールデータ31が一覧表示され、カスタマはその中から必要なモジュールを選択して購入することができる。なお、一覧表示されるモジュールデータは、モジュールDB30に登録されているものである。また、カスタマが購入ボタンを操作してからアプリケーションツールのアイコンを選択すると、各種アプリケーションツールを選択可能に一覧表示する図示しないアプリケーションツール選択画面が表示される。カスタマはその中から必要なアプリケーションツールを選択して購入することができる。なお、各種アプリケーションツールとしては、各モジュールの作業状況や異常発生の頻度などの情報を収集して分析する分析ツール、分析結果からモジュールの変更などの改善案を提案する提案ツール、モジュールの効率的なレイアウトを行うレイアウトツールなどが挙げられる。なお、カスタマは購入ボタンをクリックすることなくモジュールのアイコンやアプリケーションツールのアイコンを選択して、一覧表示されたモジュールやアプリケーションツールの内容を閲覧することが可能である。また、カスタマがマイページにログインすると、モジュールの購入履歴や導入予定のモジュールの内容および変更履歴、管理サーバ20やベンダからの連絡事項などを確認することができる。
 次に、こうして構成された設備導入支援システム10の処理、特にツールデータやシェイプデータに関する処理を説明する。まず、ツールDB32やシェイプDB34に、ツールデータやシェイプデータを登録する処理を説明する。
 図7はツールデータ登録処理の一例を示すフローチャートである。この処理は、例えばベンダによりツールデータが登録される場合に制御部21により実行される。ツールデータ登録処理では、制御部21は、まず、ベンダ端末40の表示部49に表示される図示しない登録用画面を介して、チャック爪63aのサイズと開閉ストローク量とを受け付ける(S100)。なお、制御部21が、ベンダ端末40から情報を受け付けるものに限られず、モジュールDB30のエンドエフェクタデータ30Dに登録されている仕様の情報から必要な情報を取得するものとしてもよい。
 次に、制御部21は、チャック爪63aの開閉ストローク量とチャック爪63aの開閉方向の幅(厚み)とに基づく開状態の両チャック爪63aの外寸にマージンを加えた値Kxと、チャック爪63aの所定方向の幅にマージンを加えた値Kyとを求めて干渉範囲(Kx,Ky)を設定する(S110)。なお、制御部21は、開状態の両チャック爪63aの外寸の情報を受け付けて値Kxを求めるものなどとしてもよい。そして、制御部21は、S110で設定した干渉範囲(Kx,Ky)を、エンドエフェクタ63の種類に対応付けたツールデータとしてツールDB32に登録して(S120)、ツールデータ登録処理を終了する。
 図8はシェイプデータ登録処理の一例を示すフローチャートである。この処理は、ベンダによりシェイプデータが登録される場合に制御部21により実行される他、カスタマによりシェイプデータが登録される場合に制御部21により実行される。また、シェイプデータ登録処理は、ベンダ端末40の表示部49やカスタマ端末50の表示部59に表示される図示しない登録用画面を介して行われる。このシェイプデータ登録処理では、制御部21は、まず、シェイプデータの登録対象の撮像系が未登録の撮像系であるか否かを判定する(S200)。制御部21は、未登録の撮像系であれば、撮像系の情報を受け付けて新たな撮像系をシェイプDB34に登録して(S210)、S230に進む。例えば、制御部21は、カメラ64の仕様や照明65の仕様、カメラ64と照明65の配置位置などの情報を受け付けて、撮像系の種類を示す情報と共に登録する。また、制御部21は、既に登録済みの撮像系であれば、登録対象の撮像系の選択を受け付けて(S220)、S230に進む。
 次に、制御部21は、登録対象のワークの種類とそのワークの画像とを受け付ける(S230)。制御部21は、S230では、作業システム60の撮像系で実際に撮像されたワークの画像を受け付ける。続いて、制御部21は、受け付けた画像を画像処理して画像内のワークの輪郭を示すシェイプデータを作成する(S240)。例えば、制御部21は、画像内のワークのエッジを複数抽出し、抽出した各エッジを滑らかにつないだ輪郭線をシェイプデータとして作成する。そして、制御部21は、S210で登録した撮像系またはS220で選択した撮像系と、ワークの種類に対応付けたシェイプデータをシェイプDB34に登録して(S250)、シェイプデータ登録処理を終了する。制御部21は、例えば撮像系Aが対象であれば、シェイプDB34の撮像系A用データ35Aとして新たなワークのシェイプデータを登録することになる。
 続いて、ツールDB32やシェイプDB34からの各データをカスタマに提供する処理を説明する。図9はデータ提供処理の一例を示すフローチャートである。この処理は、カスタマ端末50の表示部59に表示されるマーケットプレイスMPのトップ画面から、各種データの提供要求が選択された場合に、制御部21により実行される。データ提供処理では、制御部21は、まず、図示しない要求データ選択画面でカスタマからツールデータが選択されたか否かを判定し(S300)、ツールデータが選択されていないと判定すると、S330に進む。一方、制御部21は、S300でツールデータが選択されたと判定すると、図示しないツールデータの選択入力画面を介してエンドエフェクタ63の種類の選択入力を受け付け(S310)、受け付けたエンドエフェクタ63の種類に該当するツールデータをツールDB32から選択してカスタマ端末50にダウンロードする(S320)。例えば、制御部21は、エンドエフェクタ63の種類としてエンドエフェクタAの選択入力を受け付けた場合、エンドエフェクタAのツールデータである干渉範囲(Kxa,Kya)をカスタマ端末50にダウンロードする。なお、制御部21は、干渉範囲(Kx,Ky)を、カスタマの作業システム60における撮像系の画素分解能に応じて自動で変換した画像データとして、カスタマ端末50にダウンロードしてもよい。こうすれば、カスタマの作業システム60の制御装置68は、例えばワークをチャックする際の画像処理において、ダウンロードされた画像データを画像内に反映させてワークの周囲との干渉有無の確認を行うことができる。即ち、制御装置68が、干渉範囲(Kx,Ky)を変換した画像データを作成する必要がないから、作成の手間を省くことができる。勿論、制御装置68が、ダウンロードした干渉範囲(Kx,Ky)を、作業システム60の撮像系の画素分解能に応じて変換してもよい。
 次に、制御部21は、要求データ選択画面でカスタマからシェイプデータが選択されたか否かを判定し(S330)、シェイプデータが選択されていないと判定すると、データ提供処理を終了する。一方、制御部21は、S330でシェイプデータが選択されたと判定すると、表示部59に選択入力画面59aを表示して、カスタマから撮像系およびワークの種類の選択入力を受け付ける(S340)。図10は選択入力画面59aの一例を示す説明図である。この選択入力画面59aでは、制御部21は、まず、複数の撮像系のボタン画像を表示して、入力部58を用いた操作(クリック)によりカスタマから撮像系の種類の選択入力を受け付ける(図10A参照)。カスタマから撮像系の選択入力を受け付けると、制御部21は、その撮像系に登録されている複数のワークのボタン画像を表示して、入力部58を用いた操作(クリック)によりワークの種類の選択入力を受け付ける(図10B参照)。なお、図10Bは、図10Aで撮像系Aの選択入力が受け付けられた場合の画面を示す。また、図10Aで戻るボタンが操作されると要求データ選択画面に戻り、図10Bで戻るボタンが操作されると図10Aに戻る。なお、ツールデータの選択入力画面では、複数のエンドエフェクタ63(エンドエフェクタA,B,C)のボタン画像が、図10と同様に選択入力可能に表示される。
 制御部21は、こうして撮像系およびワークの種類の選択入力を受け付けると、受け付けた撮像系およびワークの種類に該当するシェイプデータをシェイプDB34から選択してカスタマ端末50にダウンロードして(S350)、データ提供処理を終了する。カスタマ端末50にダウンロードされたツールデータやシェイプデータは、作業システム60の制御装置68に転送され、制御装置68の画像処理で利用される。なお、本実施形態では、ツールデータの選択、撮像系の選択、ワークの選択を順に行うものを例示したが、この順に限られず、異なる順で行うものでもよい。また、シェイプデータの登録状況によっては、カスタマが所望するシェイプデータが登録されていない場合がある。このため、制御部21は、例えば図10Bの選択入力画面59aに表示されるのは登録済みの撮像系やワークであり、表示がない撮像系やワークについては選択入力を受け付けできない旨を表示してもよい。また、その場合、カスタマは自らシェイプデータを作成する必要があるが、上述したシェイプデータ登録処理によりシェイプデータが随時登録されて利用可能となるから、シェイプデータの作成が必要となる場合が多発するのを抑えることができる。
 ここで、上述したように、撮像系が異なると同じワークを撮像しても画像内のワークのサイズや形状などに違いが生じることがある。例えば、図6に例示したワークにおいて、撮像系によって画像に写し出されるサイズが異なるだけでなく、光の反射状況が異なったり画像のコントラストなどが異なったりすると、画像に写し出されるエッジの境界が、点線で示す本来のワーク形状よりも外側または内側となることがある。このため、異なる撮像系で撮像された同じ種類のワークの画像処理で共通の基準形状を適用すると、サイズの変換の手間が生じるだけでなく、認識ミスや確認ミスなどの不具合が生じる場合がある。本実施形態では、同じ種類のワークであっても撮像系毎にワークの基準形状RSを示すシェイプデータがシェイプDB34に登録され、カスタマはシェイプデータをカスタマ端末50にダウンロード可能となっている。このため、制御装置68は、作業システム60の撮像系に応じたシェイプデータ(基準形状RS)を用いて画像処理を適切に行うことができる。また、導入した撮像系に応じたシェイプデータを作成する必要がない場合、カスタマは、シェイプデータを準備する時間を短縮することができる。また、本実施形態では、エンドエフェクタ63の種類毎にチャック爪63aなどの干渉範囲(Kx,Ky)を示すツールデータがツールDB32に登録されており、カスタマはツールデータをカスタマ端末50にダウンロード可能となっている。
 ここで、本実施形態の構成要素と本開示の構成要素との対応関係を明らかにする。本実施形態のマーケットプレイスMPを含む設備導入支援システム10がマーケットシステムに相当し、管理サーバ20の記憶部23が記憶部に相当し、データ提供処理を実行する管理サーバ20の制御部21が提供部に相当する。シェイプデータ登録処理を実行する管理サーバ20の制御部21が登録部に相当する。
 以上説明した設備導入支援システム10は、撮像系毎にワークを撮像した画像から作成され、画像処理でワークの基準形状RSとなる複数のシェイプデータを、撮像系およびワークの種類に対応付けて記憶部23(シェイプDB34)に記憶する。また、シェイプデータをカスタマ端末50に提供(ダウンロード)可能である。このため、カスタマがシェイプデータを準備する時間を短縮して作成負担を軽減することができる。また、撮像系に応じたシェイプデータを用いて画像処理を適切に行うことができる。
 また、設備導入支援システム10は、チャック爪63aの干渉範囲(Kx,Ky)を示すツールデータを、エンドエフェクタ63の種類に対応付けて記憶部23(ツールDB32)に記憶する。このため、カスタマがツールデータを設定する手間を省くことができるから、画像処理に必要なデータの作成負担をより軽減することができる。また、カスタマがツールデータの設定ミスをするのを防止することができる。また、カスタマは、シェイプデータやツールデータをマーケットプレイスMPから取得可能である。このため、カスタマは、マーケットプレイスMPで購入したモジュールのデータを、別のウェブサイトを検索することなく、容易に取得することができる。
 また、カスタマは、選択入力画面59aで撮像系およびワークの種類を選択することで、必要なシェイプデータを要求することができるから、撮像系およびワークの種類の情報をそれぞれ入力することなく、データを容易に取得することができる。
 また、設備導入支援システム10は、シェイプデータ登録処理において、ベンダだけでなくカスタマからワークの画像を受け付け、その画像からシェイプデータを作成して記憶部23(シェイプDB34)に登録する。このため、ある撮像系のワークのシェイプデータがシェイプDB34に登録されていない場合でも、その撮像系でワークを撮像した画像から新たなシェイプデータを随時登録することができる。このため、シェイプDB34に蓄積されるシェイプデータを充実させることができると共に、カスタマ間でシェイプデータを有効利用することが可能となる。
 なお、本開示は上述した実施形態に何ら限定されることはなく、本開示の技術的範囲に属する限り種々の態様で実施し得ることはいうまでもない。
 例えば、上述した実施形態では、シェイプデータ登録処理でカスタマからワークの画像を受け付けてシェイプデータを登録可能なものとしたが、これに限られず、ベンダからの画像のみを受け付けてシェイプデータを登録するものとしてもよい。
 上述した実施形態では、カスタマは選択入力画面59aで撮像系およびワークの種類を選択することで、必要なシェイプデータを要求したが、これに限られず、カスタマが撮像系およびワークの種類の情報をそれぞれ入力することで、必要なシェイプデータを要求してもよい。あるいは、出力対象のデータの選択をカスタマから受け付け、受け付けたデータをネットワークを介してカスタマに提供するものに限られず、カスタマの作業システム60の撮像系に登録されているワークのシェイプデータを、自動でカスタマに提供してもよい。そのようにする場合、シェイプデータ登録処理で新たなワークのシェイプデータが登録される度に、同じ撮像系のロボット61を備えるカスタマに新たなシェイプデータを提供してもよい。また、ツールデータについても、カスタマがエンドエフェクタ63を購入(導入)した際などに、そのエンドエフェクタ63のツールデータを自動でカスタマに提供してもよい。
 上述した実施形態では、記憶部23がツールDB32とシェイプDB34とを備え、ツールデータとシェイプデータとを記憶するものとしたが、これに限られず、記憶部23がツールDB32を備えずツールデータを記憶しないものなど、記憶部23がシェイプDB34を備えシェイプデータを記憶するものであればよい。そのようにする場合、カスタマが干渉範囲を設定するものなどとすればよい。また、例えば、エンドエフェクタ63として吸着ノズルが用いられる場合、吸着ノズルは部品の吸着面内に収まるため、ツールデータは不要となる。また、基板Sの検査装置などが基板S上の部品の実装状態を検査する場合、画像処理で干渉を判定する必要はないから、ツールデータは不要となる。
 上述した実施形態では、ロボット61に標準で取り付けられている撮像系毎にシェイプデータが登録されるものとしたが、これに限られるものではない。例えば、ロボット61に取付可能なカメラ64や照明65を組み合わせた撮像系のシェイプデータが登録されるものとしてもよい。また、例えば、撮像系をカスタマが自由に選択して導入可能な場合、生産予定のワークのシェイプデータがより多く登録されている撮像系を選択することで、画像処理に必要なデータの作成負担を抑えることが可能となる。このため、カスタマは、シェイプDB34における撮像系毎のシェイプデータの登録数を、撮像系を導入する際の判断材料とすることができる。
 上述した実施形態では、複数のモジュールで構成された作業システム60を例示したが、これに限られず、作業システムは、撮像系で撮像されたワークの画像処理を伴って生産を行うものであればよく、カメラ64や照明65などが標準で取り付けられたロボット61など1のモジュールで構成されたシステムであってもよい。あるいは、コンベアなどの物品を搬送するモジュールと撮像系とで構成されたシステムなどであってもよい。また、撮像系として、ロボット61のロボットアーム62の先端リンクに取り付けられたカメラ64と照明65とを例示したが、これに限られるものではない。例えば、撮像系が、ロボット61の上方の天井などに取り付けられてもよいし、基板搬送装置66のコンベアをまたぐように配設される門型のフレームに取り付けられてもよい。
 上述した実施形態では、マーケットプレイスMPの管理だけでなくシミュレーション部22を含む設備導入支援システム10を例示したが、これに限られず、シミュレーション部22を含まずに、生産設備に関する商品をネットワークを介して取引可能なマーケットプレイスMPを管理するシステムであればよい。なお、商品としては、モジュールやアプリケーションツールを例示したが、両方を購入可能なシステムに限られず、一方のみを購入可能なシステムであってもよい。
 ここで、本開示のマーケットシステムは、以下のように構成してもよい。例えば、本開示のマーケットシステムにおいて、前記生産設備には、開閉可能なツールを用いて前記ワークを把持するものがあり、前記記憶部は、前記ツールが前記ワークを把持する際に周囲との干渉有無を判定するための範囲を示すツールデータを、前記ツールの種類に対応付けて記憶するものとしてもよい。こうすれば、システムの利用者がツールデータを設定する手間を省くことができるから、画像処理に必要なデータの作成負担をより軽減することができる。
 本開示のマーケットシステムにおいて、前記提供部は、前記撮像系および前記ワークの種類の選択入力をカスタマから受け付け、該選択入力に該当する前記シェイプデータをカスタマに提供するものとしてもよい。こうすれば、カスタマは、生産設備の撮像系および生産対象のワークの種類を選択することで、必要なシェイプデータを容易に取得することができる。
 本開示のマーケットシステムにおいて、前記生産設備の撮像系で撮像された前記ワークの画像を前記ネットワークを介してカスタマから受け付け、該受け付けた画像から前記シェイプデータを作成して前記記憶部に登録する登録部を備えるものとしてもよい。こうすれば、新たなシェイプデータを登録することができるから、カスタマ間でシェイプデータを有効利用することが可能となる。
   本開示は、ネットワークを介して生産設備に関する商品を取引可能なマーケットシステムの技術分野などに利用可能である。
 10 設備導入支援システム、12 ネットワーク、20 管理サーバ、21,41,51 制御部、22 シミュレーション部、23,43,53 記憶部、26,46,56 通信部、28,48,58 入力部、29,49,59 表示部、30 モジュールDB、30A ロボットデータ、30B フィーダデータ、30C コンベアデータ、30D エンドエフェクタデータ、32 ツールDB、34 シェイプDB、35A 撮像系A用データ、35B 撮像系B用データ、37 ベンダDB、39 カスタマDB、40 ベンダ端末、50 カスタマ端末、59a 選択入力画面、60 作業システム、61 ロボット、62 ロボットアーム、63 エンドエフェクタ、63a チャック爪、64 カメラ、65 照明、66 基板搬送装置、67 フィーダ、68 制御装置、MD モデル、MP マーケットプレイス、RS 基準形状、S 基板。

Claims (4)

  1.  撮像系で撮像されたワークの画像処理を伴って生産を行う生産設備に必要なデータをネットワークを介して提供可能なマーケットシステムであって、
     前記撮像系毎に前記ワークを撮像した画像から作成され、前記画像処理で前記ワークの形状の基準となる複数のシェイプデータを、前記撮像系および前記ワークの種類に対応付けて記憶する記憶部と、
     前記記憶部に記憶されたデータを前記ネットワークを介して前記生産設備のカスタマに提供可能な提供部と、
     を備えるマーケットシステム。
  2.  請求項1に記載のマーケットシステムであって、
     前記生産設備には、開閉可能なツールを用いて前記ワークを把持するものがあり、
     前記記憶部は、前記ツールが前記ワークを把持する際に周囲との干渉有無を判定するための範囲を示すツールデータを、前記ツールの種類に対応付けて記憶する
     マーケットシステム。
  3.  請求項1または2に記載のマーケットシステムであって、
     前記提供部は、前記撮像系および前記ワークの種類の選択入力をカスタマから受け付け、該選択入力に該当する前記シェイプデータをカスタマに提供する
     マーケットシステム。
  4.  請求項1ないし3のいずれか1項に記載のマーケットシステムであって、
     前記生産設備の撮像系で撮像された前記ワークの画像を前記ネットワークを介してカスタマから受け付け、該受け付けた画像から前記シェイプデータを作成して前記記憶部に登録する登録部
     を備えるマーケットシステム。
PCT/JP2019/033088 2019-08-23 2019-08-23 マーケットシステム WO2021038634A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
US17/634,221 US12073598B2 (en) 2019-08-23 2019-08-23 Market system
CN201980099527.5A CN114365170A (zh) 2019-08-23 2019-08-23 市场系统
JP2021541768A JP7266100B2 (ja) 2019-08-23 2019-08-23 マーケットシステム
PCT/JP2019/033088 WO2021038634A1 (ja) 2019-08-23 2019-08-23 マーケットシステム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/033088 WO2021038634A1 (ja) 2019-08-23 2019-08-23 マーケットシステム

Publications (1)

Publication Number Publication Date
WO2021038634A1 true WO2021038634A1 (ja) 2021-03-04

Family

ID=74683354

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2019/033088 WO2021038634A1 (ja) 2019-08-23 2019-08-23 マーケットシステム

Country Status (4)

Country Link
US (1) US12073598B2 (ja)
JP (1) JP7266100B2 (ja)
CN (1) CN114365170A (ja)
WO (1) WO2021038634A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07191736A (ja) * 1993-12-27 1995-07-28 Nec Corp 生産設備制御データ管理システム
JP2006268454A (ja) * 2005-03-24 2006-10-05 Matsushita Electric Ind Co Ltd 生産情報提供装置
JP2015087877A (ja) * 2013-10-29 2015-05-07 株式会社安川電機 産業機器生産システム、産業機器生産サーバ、産業機器生産方法、プログラム、及び情報記憶媒体

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2763613B2 (ja) * 1989-09-11 1998-06-11 トキコ株式会社 産業用ロボットの干渉チェック方法
DE19740498A1 (de) * 1997-09-15 1999-03-18 Lernstatt Ind Und Automatisier Werkzeuggreifer für einen Speicherplatz eines Kettenmagazines an einer Werkzeugmaschine
JP3583099B2 (ja) 2001-03-28 2004-10-27 松下電器産業株式会社 サービス供給方法、サービス受給方法、サービス供給装置、サービス供給プログラムおよび記録媒体
JP5041050B2 (ja) * 2010-11-15 2012-10-03 株式会社ニコン 撮像装置および画像処理プログラム
JP6249908B2 (ja) * 2014-09-03 2017-12-20 オリンパス株式会社 情報処理システム
JP6891489B2 (ja) * 2016-12-28 2021-06-18 大日本印刷株式会社 画像提供システム
KR102212213B1 (ko) * 2019-02-01 2021-02-04 삼성전자주식회사 디지털 촬영 시스템 및 디지털 촬영 시스템의 동작 방법
JP7191736B2 (ja) 2019-03-11 2022-12-19 株式会社トプコン アスファルトフィニッシャ及びスクリード制御方法
US20230102048A1 (en) * 2019-11-05 2023-03-30 Strong Force Vcn Portfolio 2019, Llc Component-Inventory-Based Robot Fleet Management in Value Chain Networks

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07191736A (ja) * 1993-12-27 1995-07-28 Nec Corp 生産設備制御データ管理システム
JP2006268454A (ja) * 2005-03-24 2006-10-05 Matsushita Electric Ind Co Ltd 生産情報提供装置
JP2015087877A (ja) * 2013-10-29 2015-05-07 株式会社安川電機 産業機器生産システム、産業機器生産サーバ、産業機器生産方法、プログラム、及び情報記憶媒体

Also Published As

Publication number Publication date
JP7266100B2 (ja) 2023-04-27
JPWO2021038634A1 (ja) 2021-03-04
CN114365170A (zh) 2022-04-15
US12073598B2 (en) 2024-08-27
US20220277539A1 (en) 2022-09-01

Similar Documents

Publication Publication Date Title
JP6600643B2 (ja) 部品実装装置および部品実装システム
JP7299967B2 (ja) シミュレーションシステム
WO2021046767A1 (zh) 自主式机器人工装系统、控制系统、控制方法及存储介质
US20210023710A1 (en) System and method for robotic bin picking using advanced scanning techniques
WO2016157356A1 (ja) 情報管理装置及び情報管理方法
WO2021038634A1 (ja) マーケットシステム
JP2019102057A5 (ja)
JP7373028B2 (ja) シミュレーション方法、シミュレーションシステム
JP7217337B2 (ja) 設備導入支援システム
JP6335246B2 (ja) 検査管理装置及び検査管理方法
JP5787504B2 (ja) 部品実装システムおよび部品実装システムにおける部品検査方法
JP7238093B2 (ja) 設備導入支援システム
JP7383001B2 (ja) モジュール管理システム
WO2021024413A1 (ja) シミュレーションシステム
JP7397203B2 (ja) 設計支援装置および設計支援システム
CN111542419B (zh) 信息提供装置、信息提供方法以及程序
WO2023067788A1 (ja) マーケットシステムおよび見積依頼対応方法
JP7249401B2 (ja) 作業システムの設定装置
WO2023053443A1 (ja) 分析支援装置及び分析支援システム
CN111491767B (zh) 信息提供装置、信息提供方法以及计算机可读存储介质
JP6546269B2 (ja) エラー対処支援装置
JPWO2020070813A1 (ja) エンドエフェクタの提供システムおよび提供方法
CN114128416A (zh) 信息处理装置、信息处理方法及程序

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19943611

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2021541768

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19943611

Country of ref document: EP

Kind code of ref document: A1