WO2022114173A1 - トラッキング装置、トラッキング方法、トラッキングデータのデータ構造、およびプログラム - Google Patents

トラッキング装置、トラッキング方法、トラッキングデータのデータ構造、およびプログラム Download PDF

Info

Publication number
WO2022114173A1
WO2022114173A1 PCT/JP2021/043580 JP2021043580W WO2022114173A1 WO 2022114173 A1 WO2022114173 A1 WO 2022114173A1 JP 2021043580 W JP2021043580 W JP 2021043580W WO 2022114173 A1 WO2022114173 A1 WO 2022114173A1
Authority
WO
WIPO (PCT)
Prior art keywords
information
display
article
stencil
image pickup
Prior art date
Application number
PCT/JP2021/043580
Other languages
English (en)
French (fr)
Inventor
多一郎 福田
Original Assignee
日本製鉄株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 日本製鉄株式会社 filed Critical 日本製鉄株式会社
Priority to JP2022552726A priority Critical patent/JP7288231B2/ja
Priority to KR1020237015306A priority patent/KR102595542B1/ko
Priority to CN202180076082.6A priority patent/CN116472239B/zh
Publication of WO2022114173A1 publication Critical patent/WO2022114173A1/ja

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65GTRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
    • B65G1/00Storing articles, individually or in orderly arrangement, in warehouses or magazines
    • B65G1/02Storage devices
    • B65G1/04Storage devices mechanical
    • B65G1/137Storage devices mechanical with arrangements or automatic control means for selecting which articles are to be removed
    • B65G1/1371Storage devices mechanical with arrangements or automatic control means for selecting which articles are to be removed with data records
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65GTRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
    • B65G1/00Storing articles, individually or in orderly arrangement, in warehouses or magazines
    • B65G1/02Storage devices
    • B65G1/04Storage devices mechanical
    • B65G1/137Storage devices mechanical with arrangements or automatic control means for selecting which articles are to be removed
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65GTRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
    • B65G63/00Transferring or trans-shipping at storage areas, railway yards or harbours or in opening mining cuts; Marshalling yard installations
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65GTRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
    • B65G63/00Transferring or trans-shipping at storage areas, railway yards or harbours or in opening mining cuts; Marshalling yard installations
    • B65G63/002Transferring or trans-shipping at storage areas, railway yards or harbours or in opening mining cuts; Marshalling yard installations for articles
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/418Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM]
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/418Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM]
    • G05B19/4189Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM] characterised by the transport system
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65GTRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
    • B65G2201/00Indexing codes relating to handling devices, e.g. conveyors, characterised by the type of product or load being conveyed or handled
    • B65G2201/02Articles
    • B65G2201/0214Articles of special size, shape or weigh
    • B65G2201/0223Heavy
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65GTRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
    • B65G2203/00Indexing code relating to control or detection of the articles or the load carriers during conveying
    • B65G2203/02Control or detection
    • B65G2203/0208Control or detection relating to the transported articles
    • B65G2203/0216Codes or marks on the article
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65GTRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
    • B65G2203/00Indexing code relating to control or detection of the articles or the load carriers during conveying
    • B65G2203/04Detection means
    • B65G2203/041Camera

Definitions

  • the present invention relates to a tracking device, a tracking method, a data structure of tracking data, and a program, and is particularly suitable for use for tracking an article.
  • Tracking is to track and identify the position of an object.
  • the steel plate is tracked by registering the XY coordinates of the overhead crane when the steel plate is unloaded together with the steel plate number of the steel plate.
  • the stationary location of the steel material indicated by the three-dimensional coordinates is calculated by the stationary location calculation program based on the horizontal and vertical movement of the hoist and the operation such as load detection.
  • the stationary location information indicating the calculated stationary location is stored in association with the steel material identification information of the steel material.
  • the information used for tracking the steel plate is the XY coordinates of the overhead crane. Therefore, tracking can be performed only within the range that can be transported by an overhead crane. Further, in the technique described in Patent Document 1, since the Z coordinate cannot be specified from the XY coordinates of the overhead crane, for example, when a plurality of steel plates are stacked, the plurality of steel plates can be accurately specified. Can not.
  • the three-dimensional coordinates of the steel material are calculated.
  • tracking can be performed only within a range that can be conveyed by a hoist.
  • the three-dimensional coordinates of the steel material calculated by the technique described in Patent Document 2 are the three-dimensional coordinates of the stationary place calculated by the stationary place calculation program. Therefore, in the technique described in Patent Document 2, the steel material can be tracked only at the stationary place predetermined by the stationary place calculation program.
  • the product is transported by various transport devices.
  • a worker may transport a product without using a transport device.
  • the product may be placed in a storage area where the storage address is not specified.
  • the present invention has been made in view of the above problems, and an object thereof is to improve the accuracy of tracking an article.
  • the tracking device of the present invention is a tracking device for tracking an article, and is one or more image acquisition means for acquiring an captured image of a region including display information displayed on the article, and identification information of the article.
  • the identification information acquisition means for acquiring the information
  • the position derivation means for deriving the information display position which is the three-dimensional position where the display information is displayed based on the captured image acquired by the image acquisition means, and the position. It is characterized by having a storage means for storing the information display position in the article derived by the derivation means in a storage medium in association with the identification information of the article acquired by the identification information acquisition means.
  • the tracking method of the present invention is a tracking method for tracking an article, and is one or more image acquisition steps for acquiring an image of a region including display information displayed on the article, and identification information of the article.
  • the identification information acquisition step for acquiring the information
  • the position derivation step for deriving the information display position which is the three-dimensional position where the display information is displayed, and the position based on the captured image acquired by the image acquisition step. It is characterized by having a storage step of associating the information display position in the article derived by the derivation step with the identification information of the article acquired by the identification information acquisition step and storing the information in a storage medium.
  • the data structure of the tracking data of the present invention includes display information displayed on the article and non-display information not displayed on the article, and the non-display information is at a three-dimensional position where the display information is displayed.
  • a tracking device is used to derive the information display position in the article based on a captured image of a region containing the display information displayed on the article, including a certain information display position.
  • the program of the present invention is a program for causing a computer to execute a process of tracking an article, and includes one or more image acquisition steps of acquiring an captured image of a region including display information displayed on the article. , A position for deriving an information display position, which is a three-dimensional position where the display information is displayed, based on the identification information acquisition step of acquiring the identification information of the article and the captured image acquired by the image acquisition step.
  • a computer has a derivation step and a storage step of associating the information display position in the article derived by the position derivation step with the identification information of the article acquired by the identification information acquisition step and storing it in a storage medium. It is characterized by being executed.
  • FIG. 1 is a diagram illustrating an example of a product flow in a factory.
  • FIG. 2 is a diagram showing an example of a display area for a plank.
  • FIG. 3A is a diagram showing an example of display contents by a stencil.
  • FIG. 3B is a diagram showing an example of display contents by a label.
  • FIG. 4 is a diagram showing an example of how a plank is loaded and unloaded with respect to a transport ship.
  • FIG. 5 is a view of the thick plate being lifted by the cargo handling device from the extending direction (y-axis direction) of the garter.
  • FIG. 6A is a diagram showing a first example of a transport mode of a thick plate.
  • FIG. 6B is a diagram showing a second example of the transport mode of the thick plate.
  • FIG. 6A is a diagram showing a first example of a transport mode of a thick plate.
  • FIG. 6B is a diagram showing a second example of the transport mode of the thick plate.
  • FIG. 6C is a diagram showing a third example of the transport mode of the thick plate.
  • FIG. 6D is a diagram showing a fourth example of the transport mode of the thick plate.
  • FIG. 6E is a diagram showing a fifth example of the transport mode of the thick plate.
  • FIG. 7 is a diagram showing an example of how planks are loaded and unloaded with respect to a transport vehicle.
  • FIG. 8 is a diagram showing an example of a state in which planks are loaded on a transport vehicle.
  • FIG. 9A is a diagram showing a first example of a plank placed in a storage place in a factory.
  • FIG. 9B is a diagram showing a second example of a plank placed in a storage place in a factory.
  • FIG. 9A is a diagram showing a first example of a plank placed in a storage place in a factory.
  • FIG. 9B is a diagram showing a second example of a plank placed in a storage place in a factory.
  • FIG. 9C is a diagram showing a third example of a plank placed in a storage place in a factory.
  • FIG. 10 is a diagram showing an example of how a thick plate is processed in a production facility.
  • FIG. 11 is a diagram showing an example of the original plank and the plank after cutting.
  • FIG. 12 is a diagram showing an example of a functional configuration of the tracking device.
  • FIG. 13 is a diagram showing an example of a management table.
  • FIG. 14 is a diagram showing an example of the position of the stencil in the article and the position of the component of each display item in the display by the stencil.
  • FIG. 15 is a diagram showing an example of the position of the label in the article and the position of the component of each display item in the display by the label.
  • FIG. 10 is a diagram showing an example of how a thick plate is processed in a production facility.
  • FIG. 11 is a diagram showing an example of the original plank and the plank after cutting.
  • FIG. 12 is a diagram
  • FIG. 16A is a diagram showing a first example of information stored in the management table.
  • FIG. 16B is a diagram showing a second example of information stored in the management table.
  • FIG. 17 is a flowchart illustrating an example of processing of the tracking device when tracking a thick plate.
  • FIG. 18 is a diagram illustrating an example of a method of deriving a three-dimensional position of a display area by a stencil.
  • FIG. 19 is a diagram illustrating an example of a method of deriving a position in the height direction (z-axis direction) of a display area by a stencil.
  • FIG. 20 is a diagram illustrating a modified example of a method of deriving a three-dimensional position of a display area by a stencil.
  • FIG. 21 is a diagram showing an example of the hardware configuration of the tracking device.
  • FIG. 1 is a diagram illustrating an example of a product flow in a factory to which the present embodiment is applied.
  • the planks manufactured at the steelworks are loaded onto a transport ship.
  • the transport vessel then berths at the quay near the factory.
  • the planks are unloaded from the transport ship and loaded onto transport vehicles (trucks, etc.).
  • transport vehicles trucks, etc.
  • the planks transported by the transport vehicle arrive at the factory, they are placed in the storage area in the factory.
  • the planks placed in the storage area are placed in the warehouse after being subjected to heat treatment, cutting (gas cutting), and the like. The planks are then shipped from the factory to the consumer.
  • FIG. 2 is a diagram showing an example of a display area for a plank.
  • the x-axis, y-axis, and z-axis shown in FIG. 2 indicate the relationship between FIG. 2 and FIGS. 3A, 3B, 14 to 15, and 18 to 20, which will be described later. It does not necessarily correspond to the orientation of the xyz coordinates shown in FIGS. 4 and 5.
  • the xyz coordinates are, for example, coordinates represented in the world coordinate system.
  • the display area 201 is a stencil display area.
  • the display area 201 by the stencil exists on the plate surface of the thick plate.
  • the broken line shown in FIG. 2 is a virtual line and is not actually displayed.
  • the label (side label) 202 is attached to the side surface (thick portion) of the plank.
  • FIG. 3A is a diagram showing an example of display contents by a stencil.
  • the xyz coordinates shown in FIG. 3A indicate the relationship of orientation with FIG. 2 and the like. Further, in the xyz coordinates shown in FIG. 3A, the symbol with a black circle ( ⁇ ) in the white circle ( ⁇ ) indicates that the symbol goes from the back side to the front side of the paper. The notation of such xyz coordinates is the same in other figures.
  • the stencil display includes mark 301, consumer name 302, standard 303, size 304, ID 305, consumer code 306, and order number 307.
  • the mark 301 is a mark representing the manufacturer of the thick plate.
  • the consumer name 302 is information indicating a consumer (purchaser) of the plank.
  • the standard 303 is information indicating the standard of the thick plate.
  • the size 304 is information indicating the size of the plank (for example, thickness ⁇ width ⁇ length).
  • ID305 is information for uniquely identifying the thick plate, and in the example shown in FIG. 3A, it is a plate number (identification number of the thick plate). Therefore, the same ID is not attached to different planks.
  • the consumer code 306 is information specified by the manufacturer of the thick plate to be attached to the thick plate by the consumer.
  • the order number 307 is a part of the number for identifying the plank order from the consumer.
  • the mark 301, the consumer name 302, the standard 303, the size 304, the ID 305, the consumer code 306, and the order number 307 are information that can be generally displayed on the plank.
  • Information other than ID305 may not be included in the display by the stencil.
  • information other than the above-mentioned information may be included in the display by the stencil.
  • the number of digits of the customer code 306 differs depending on the customer, and the notation method of the standard 303 differs depending on the steelworks that manufacture the thick plate. Further, for example, the order number 307 may or may not be attached by the consumer.
  • the size of the displayed items may also differ depending on the steelworks that manufacture the planks.
  • the position of the display area by the stencil may also differ depending on the steelworks that manufacture the planks. As described above, the content, position, and size of the display by the stencil differ depending on the steelworks that manufacture the planks, the consumers, and the like.
  • the mark 301, the consumer name 302, the standard 303, the size 304, the ID 305, the consumer code 306, and the order number 307 are information managed by the plate manufacturer. Further, the mark 301, the consumer name 302, the standard 303, the size 304, the ID 305, the consumer code 306, and the order number 307 are information that can be identified by a person. Information that can be identified by a person means that the person can understand the meaning of the information when he / she sees the information. Information that requires machine encoding and decoding to create and read information, such as barcodes and two-dimensional codes, is not human identifiable information.
  • the mark 301, the consumer name 302, the standard 303, the size 304, the ID 305, the consumer code 306, and the order number 307 are at least letters, numbers, and symbols as information that does not need to be machine decoded for reading. Contains one and does not contain information that requires machine decoding for reading.
  • FIG. 3B is a diagram showing an example of display contents by a label.
  • the xyz coordinates shown in FIG. 3B indicate the relationship of orientation with FIG. 2 and the like. Further, in the xyz coordinates shown in FIG. 3B, the symbols marked with x in the white circles indicate the direction from the front side to the back side of the paper. The notation of such xyz coordinates is the same in other figures.
  • the label display includes standard 311, ID 312, size 313, delivery date 314, and consumer code 315.
  • the delivery date 314 is information indicating the delivery date of the plank.
  • the standard 311 and ID 312, size 313, and consumer code 315 are the same as the standard 303, size 304, ID 305, and consumer code 306, respectively.
  • Information other than ID 312 may not be included in the label display.
  • information other than the above-mentioned information may be included in the label display.
  • the content, position, and size of the label label also differ depending on the steelworks and consumers who manufacture the planks, as with the stencil label.
  • the meaning of the same display item for the same plank is the same for the display by the stencil and the display by the label. Therefore, when the display by the stencil shown in FIG. 3A and the display by the label shown in FIG. 3B are performed on the same thick plate, the ID 305 displayed by the stencil and the ID 312 displayed by the label mean the same contents. Will be the one to do. Further, the standard 303 displayed by the stencil and the standard 311 displayed on the label mean the same contents. The size 313 and the consumer code 315 have the same contents as the size 304 and the consumer code 306, respectively. As described above, the standard 303, the ID 305, the size 304, and the consumer code 306 are information managed by the plate manufacturer.
  • the standard 311 and the ID 312, the size 313, and the consumer code 315 are also information managed by the plate manufacturer. Further, the delivery date 314 of the thick plate is also information managed by the manufacturer of the thick plate. Further, the standard 311 and the ID 312, the size 313, the delivery date 314, and the consumer code 315 are information that can be identified by a person. In addition to the above indications, the planks may be indicated by, for example, engraved.
  • FIG. 4 is a diagram showing an example of how a plank is loaded and unloaded with respect to a transport ship.
  • FIG. 4 illustrates a case where a gantry crane 410 is used to load and unload planks for a transport ship 400.
  • FIG. 5 is a view of the plank 420 being lifted by the cargo handling device 411 as viewed from the extending direction (y-axis direction) of the garter 412.
  • the xyz coordinates shown in FIGS. 4 and 5 indicate the relationship between the orientations of FIGS. 4 and 5.
  • the gantry crane 410 has a cargo handling device (trolley, etc.) 411, a garter (traverse girder) 412, and a leg structure 413. Move along the axial direction).
  • FIG. 4 shows how the plank 420 is lifted and moved by the cargo handling device 411.
  • a view of the plank 420 being lifted by the cargo handling device 411 from the extending direction (y-axis direction) of the garter 412 is as shown in FIG.
  • FIGS. 4 and 5 illustrate how one plate 420 is lifted by the cargo handling device 411.
  • the transport mode of the thick plate by the cargo handling device 411 is not limited to such a transport mode.
  • 6A to 6E are views showing first to fifth examples of transport modes of thick plates. 6A to 6E show the cargo handling device 411 in a more simplified manner.
  • FIG. 6A exemplifies a state in which two planks are arranged side by side in the horizontal plane (xy plane) and simultaneously transported by the cargo handling device 411.
  • FIG. 6B illustrates a state in which one thick plate is conveyed on the top side (negative direction side of the x-axis) of the cargo handling device 411.
  • FIG. 6C illustrates a state in which one thick plate is conveyed on the bottom side (the positive direction side of the x-axis) of the cargo handling device 411.
  • FIG. 6D illustrates a state in which one plank is conveyed in the center of the cargo handling device 411.
  • FIG. 6E illustrates a state in which a plurality of (two) planks are stacked and simultaneously conveyed by the cargo handling device 411. As described above, in the present embodiment, a plurality of thick plates may be simultaneously transported in a stacked state.
  • the transport mode of the thick plate by the cargo handling device 411 is not limited. Further, the method of lifting the thick plate by the cargo handling device 411 may be a method using magnetic attraction by a magnet, a method using a hacker, or another method. Since the gantry crane 410 itself can be described by a known technique, detailed description thereof will be omitted here.
  • planks manufactured at the steelworks are carried to the quay and placed in a designated storage area that can be transported by the gantry crane 410.
  • a plurality of planks may be placed in a predetermined storage place in a stacked state.
  • planks are placed one by one in a predetermined storage area.
  • FIG. 4 and the like for convenience of notation, a case where the thickness (plate thickness) of a plurality of thick plates is the same is illustrated.
  • the thickness of the plurality of planks may differ. That is, at least one of the thickness, width, and length of the planks placed in the predetermined storage area may be different.
  • FIG. 4 illustrates a case where a plurality of thick plates are stacked so that the plate surface of the thick plate is parallel to the surface on which the thick plate is placed.
  • the method of stacking the planks is not limited to such a method.
  • a plurality of planks may be placed on top of each other so that the plate surface of the planks is perpendicular to or close to the angle on which the planks are placed. This also applies to positions other than the designated storage area on the quay.
  • the first image pickup devices 430a to 430f are attached to the garter 412 and the leg structure 413.
  • the number and position of the first image pickup devices 430a to 430f are set so that as many display areas of the thick plate as possible are imaged as the display area 201 by the stencil of the thick plate and the display area by the label 202.
  • the first image pickup device 430 g to 430 m is also attached to the cargo handling device 411.
  • the number and position of the first image pickup devices 430a to 430 m are based on the display area 201 and the label 202 by the stencil of the plate 420 being conveyed by the gantry crane 410 in at least one image pickup device of the first image pickup devices 430a to 430 m. At least one of the display areas is set to be imaged as much as possible.
  • the first imaging devices 430a to 430m can adjust imaging conditions (imaging direction, angle of view, zoom magnification, aperture (F value), etc.).
  • the adjustment of the imaging condition may be performed by the operator (worker) operating the first imaging device, or may be automatically performed based on an instruction from the external device.
  • the first image pickup device 430i to 430 m attached to a position close to the plate 420 being transported may be a fiberscope camera. ..
  • a fiberscope camera for example, it is possible to take close-up shots of the display area 201 by the stencil of the plate 420 and the display area by the label 202 during transportation.
  • the captured image captured by the first imaging device is not limited to a still image, but may be a moving image.
  • the image captured by the first image pickup device is a moving image
  • the image taken out from the moving image captured by the first image pickup device is the tracking device 1200 described later. Used in.
  • the fact that the captured image captured by the image pickup device is not limited to the still image is the same in the second image pickup device to the seventh image pickup device described later.
  • the planks transported from the steelworks are placed in the designated storage area of the gantry crane 410.
  • the area including the display area 201 by the stencil of the plank placed in the predetermined storage place of the gantry crane 410 is imaged by the first image pickup devices 430c to 430f.
  • the operator operates the information processing terminal in the operation room of the gantry crane 410 or the information processing terminal (tablet terminal or the like) of the operator (worker) of the gantry crane 410 to operate the first image pickup device.
  • the display instruction of the preview image is given to 430c to 430f.
  • the first image pickup devices 430c to 430f transmit the preview image to the information processing terminal based on the display instruction of the preview image.
  • the preview image is displayed by the information processing terminal.
  • the operator operates the information processing terminal and gives an image pickup instruction to the first image pickup device that is capturing the preview image in which the display area by the stencil to be photographed is displayed.
  • the first imaging devices 430c to 430f capture an image captured in a region including the display region 201 by the stencil.
  • the preview image is a live image displayed for confirmation by the operator (worker), and is displayed based on the display instruction of the preview image.
  • the captured image is assumed to be an image captured based on an imaging instruction when the preview image is displayed. Further, although the case of displaying the preview image is illustrated here, it is not always necessary to display the preview image.
  • the display area 201 by the stencil and the display area by the label 202 may not be included in the image pickup range of the first image pickup apparatus 430c to 430f.
  • the operator operates the unmanned aerial vehicles (drones) 440a to 440b provided with the first image pickup device to display the desired plank in the area including the display area 201 by the stencil (or the display by the label 202).
  • the captured image of the region including the region) may be captured by using the first imaging device.
  • the first image pickup device on hand of the operator (worker) is used to capture an image of the desired thick plate in the area including the display area 201 by the stencil (or the area including the display area by the label 202). good.
  • the first image pickup device on hand by the operator (worker) may be, for example, an information terminal device (tablet terminal, smartphone, or the like) provided with the first image pickup device.
  • the display of the preview image and the imaging of the captured image by the first imaging devices 430c to 430f described above are similarly performed in the first imaging devices 430a to 430b and 430g to 430w other than the first imaging devices 430c to 430f. Will be executed. Further, when a plurality of thick plates are stacked and conveyed at the same time, it is possible to capture an image captured in a region including a display region by the label 202 as a first imaging device other than the first imaging devices 430c to 430f. The same is performed for 430a to 430b and 430g to 430w.
  • the image pickup method is the first image pickup device other than the first image pickup apparatus 430c to 430f.
  • planks are placed in a predetermined storage place of the gantry crane 410 and then loaded onto the transport ship 400 by the gantry crane 410.
  • a plurality of planks may be stacked and loaded onto the transport ship 400 at the same time.
  • planks are loaded one by one on the transport ship 400.
  • at least one of the thickness, width, and length of the planks loaded on the transport vessel 400 may differ.
  • An image captured by the area including the display area 201 by the stencil of the plank being conveyed by the gantry crane 410 is imaged by the first image pickup device 430 g to 430 m attached to the cargo handling device 411.
  • the captured image of the region of the planks including the stencil display region 201 is the first image pickup device 430a-430b or the transport vessel 400 attached to the garter 412.
  • the image is taken by the first image pickup device 430n attached to the above.
  • the first image pickup device 430n attached to the transport ship 400 also adjusts the image pickup conditions (imaging direction, angle of view, zoom magnification, aperture (F value), etc.) in the same manner as the first image pickup devices 430a to 430m. It is possible to do.
  • the number of first image pickup devices attached to the transport ship 400 is one.
  • the transport ship 400 is equipped with a plurality of first image pickup devices so that the area where the planks are placed is included in the image pickup range.
  • the transport ship 400 loaded with planks as described above berths at the quay near the factory.
  • the planks are unloaded from the transport ship 400.
  • the plank is unloaded using the gantry crane 410.
  • the captured image is taken in the same manner as when it is loaded on the transport ship 400.
  • the plank is also transported from the steelworks and placed in the predetermined storage place of the gantry crane 410. The captured image is captured.
  • FIG. 7 is a diagram showing an example of how planks are loaded and unloaded with respect to a transport vehicle.
  • the planks placed in the predetermined storage areas of the Gandley crane 410 are loaded onto the transport vehicle 700 using a crane or the like (not shown).
  • a plurality of planks may be stacked and loaded onto the transport vehicle 700 at the same time.
  • the planks may be loaded one by one on the transport vehicle 700.
  • at least one of the thickness, width, and length of the planks loaded on the transport vehicle 700 may differ.
  • the planks may be conveyed and loaded on the transport vehicle 700 as shown in FIGS. 6A to 6E.
  • FIG. 8 is a diagram showing an example of a state in which planks are loaded on the transport vehicle 700.
  • the first image pickup devices 430o to 430p are attached to the structure installed at the standby position of the transport vehicle 700. As for the number and position of the first image pickup devices 430o to 430p, as many thick plate display areas as possible are imaged as the display area 201 by the stencil of the thick plate loaded on the transport vehicle 700 and the display area by the label 202. Is set to be done. Further, the first image pickup device 430q is also attached to the transport vehicle 700. Similar to the first image pickup devices 430a to 430 m, the first image pickup devices 430o to 430q can also adjust the image pickup conditions (imaging direction, angle of view, zoom magnification, aperture (F value), etc.). ing.
  • image pickup conditions imaging direction, angle of view, zoom magnification, aperture (F value), etc.
  • the area of the planks loaded on the transport vehicle 700 including the stencil display area 201 is imaged by the first image pickup devices 430o to 430q.
  • planks are unloaded from the transport vehicle 700.
  • the planks loaded on the transport vehicle 700 are unloaded from the transport vehicle 700 using a crane or the like (not shown).
  • a plurality of planks may be unloaded from the transport vehicle 700 at the same time in a stacked state.
  • the planks may be unloaded one by one from the transport vehicle 700.
  • at least one of the thickness, width, and length of the planks unloaded from the transport vehicle 700 may differ.
  • the planks may be conveyed and unloaded from the transport vehicle 700 as shown in FIGS. 6A to 6E.
  • a transport device (gantry crane 410) used to transport the thick plate from the transport ship 400 to a predetermined storage place of the gantry crane 410, and a transport device used to transport the thick plate from the transport vehicle 700 to the storage site in the factory. It is a transport device different from (crane etc. not shown). In this way, the plank transported to a certain storage place by a certain transport equipment is transported to another storage place that cannot be transported by the certain transport equipment by a transport equipment different from the certain transport equipment. May occur. This is also the case when the planks are transported between each storage place in the factory and other storage places.
  • FIGS. 9A to 9C are diagrams showing the first to third examples of the state of the planks placed in the storage place in the factory.
  • the first image pickup devices 430r to 430w are attached to the structure installed in the storage place in the factory. As shown in FIGS. 9A-9C, the planks are placed in various ways in the yard in the factory. Therefore, in the number and position of the first image pickup devices 430r to 430w, as many display areas of the thick plate as possible are imaged as the display area 201 by the stencil of the thick plate placed in the storage place and the display area by the label 202. Is set to. Similar to the first image pickup devices 430a to 430 m, the first image pickup devices 430r to 430w can also adjust the image pickup conditions (imaging direction, angle of view, zoom magnification, aperture (F value), etc.). ing.
  • image pickup conditions imaging direction, angle of view, zoom magnification, aperture (F value), etc.
  • the area including the display area 201 by the stencil of the plank placed in the storage place in the factory is imaged by the first image pickup apparatus 430r to 430w.
  • the area of the plank including the display area 201 by the stencil (or the display area by the label 202) is imaged by the first image pickup apparatus 430r to 430w as described above. Ru.
  • FIG. 10 is a diagram showing an example of how a thick plate is processed in a production facility.
  • the production equipment 1000 is, for example, equipment for performing heat treatment and equipment for performing gas cutting.
  • FIG. 10 illustrates a case where the thick plates 1002a and 1002b are transported by using the transport roll 1001. It should be noted that the transfer of the thick plate between the storage place and the transfer roll 1001 is realized by using a transfer device (not shown) or the like.
  • the first image pickup device 430x to 430y is attached to the structure installed on the production line of the factory.
  • the number and position of the first image pickup devices 430x to 430y are set so that the display area 201 by the stencils of the thick plates 1002a and 1002b is imaged. Similar to the first image pickup devices 430a to 430 m, the first image pickup devices 430x to 430y can also adjust the image pickup conditions (imaging direction, angle of view, zoom magnification, aperture (F value), etc.). ing. It is assumed that the thick plates 1002a and 1002b transported on the transport roll 1001 are not stacked. Further, the transport paths of the thick plates 1002a and 1002b on the transport roll 1001 are assumed in advance.
  • the display region 201 by the stencils of the thick plates 1002a and 1002b is not not imaged by the first image pickup apparatus 430x to 430y.
  • an unmanned aerial vehicle equipped with the first image pickup device may be used to image the display area 201 by the stencils of the thick plates 1002a and 1002b.
  • the broken line indicates the transport path of the thick plates 1002a and 1002b on the transport roll 1001, and does not actually exist.
  • the plank 1002a transported from the storage place in the factory is placed on the transport roll 1001 and transported by the transport roll 1001.
  • the region including the stencil display region 201 of the plate 1002a being transported on the transport roll 1001 before entering the production facility 1000 is imaged by the first image pickup apparatus 430x. Further, after the processing is completed in the production equipment 1000 and the plate 1002b is being transported on the transport roll 1001, the region including the display area 201 by the stencil is imaged by the first image pickup device 430y. Will be done.
  • the planks are placed in a storage place as illustrated in FIGS. 9A to 9C in the warehouse.
  • the area including the display area 201 (or the display area by the label 202) by the stencil of the plank placed in the storage place in the factory is imaged by the first image pickup apparatus 430r to 430w.
  • the planks are moved from the warehouse to the shipping yard.
  • the area including the display area 201 (or the display area by the label 202) by the stencil of the plank placed in the shipping place is imaged by the first image pickup apparatus 430r to 430w.
  • planks may be placed in a stacked state. In some cases, one plank is placed in each storage area in the factory. In addition, at least one of the thickness, width, and length of the planks placed in each storage place in the factory may be different.
  • FIG. 11 is a diagram showing an example of the original plank and the plank after cutting.
  • FIG. 11 illustrates a case where the thick plate 1100 is cut to manufacture the thick plates 1110, 1120, 1130, and 1140. After the thick plates 1110, 1120, 1130, and 1140 are manufactured in this way, indications are given to the respective thick plates 1110, 1120, 1130, and 1140.
  • FIG. 11 shows display areas 1111, 1121, 1131, 1141 for thick plates 1110, 1120, 1130, 1140. Information including IDs of thick plates 1110, 1120, 1130, and 1140 is displayed in the display areas 1111, 1121, 1131, and 1141.
  • a stencil is used for display.
  • at least one of the engraved display and the label display may be performed.
  • the display in the display areas 1111, 1121, 1131, 1141 may be a handwritten display.
  • the ID of the original thick plate 1100 may be displayed in the display areas 1111, 1121, 1131, 1141.
  • the display areas 1111, 1121, 1131, 1141 for example, a stencil is used for display.
  • the display in the display areas 1111, 1121, 1131, 1141 may be handwritten. This also applies to the display on the display area 201 and the display by the label 202.
  • the display areas 1111, 1121, 1131, and 1141 are stencil display areas.
  • the operator's (worker's) first imaging device can be used to display the stencil display areas 1111, 1121, 1131, 1141 of the desired planks.
  • the captured image of the included region may be captured.
  • the first image pickup device on hand by the operator (worker) may be, for example, an information terminal device (tablet terminal, smartphone, or the like) provided with the first image pickup device.
  • the operator (worker) operates an unmanned aerial vehicle equipped with the first image pickup device, and obtains a captured image of a desired thick plate in a region including the display areas 1111, 1121, 1131, 1141 by the stencil. It may be imaged by the captured image of 1.
  • the vehicle is placed on the transport ship 400, when it is unloaded from the transport ship 400 and loaded on the transport vehicle 700, and when it is placed in the gantry crane 410 and each storage place of the factory.
  • a captured image of a region including a display region 201, 1111, 1121, 1131, 1141 by a stencil and a region including a display region by a label 202 of each plank can be obtained.
  • the position of the plank is automatically tracked by the tracking device using the captured image captured as described above.
  • the display area 201 by the stencil can be imaged, so that the captured image of the area including the display area by the label 202 becomes unnecessary.
  • the display by the stencil and the display by the label 202 are generically referred to as the display by the stencil (label), if necessary.
  • the display area by the stencil 201, 1111, 1121, 1131, 1141 and the display area by the label 202 are collectively referred to, the display area by the stencil (label) is described as necessary.
  • FIG. 12 is a diagram showing an example of a functional configuration of the tracking device 1200.
  • the hardware of the tracking device 1200 is realized by using, for example, a CPU, a ROM, a RAM, an HDD, an information processing device having various interfaces, or dedicated hardware.
  • FIG. 13 is a diagram showing an example of a management table 1300 managed by the tracking device 1200.
  • the tracking device 1200 includes a first image acquisition unit 1201, a recognition unit 1202, an acquisition unit 1203, a collation unit 1204, a specific unit 1205, and a position derivation unit 1206. , A storage unit 1207, an output unit 1208, and a second image acquisition unit 1209.
  • the first image acquisition unit 1201 acquires the first captured image of the area including the display area by the stencil (label).
  • the recognition unit 1202 recognizes the components, positions, and the like of the display items in the display by the stencil (label) from the first captured image acquired by the first image acquisition unit 1201.
  • the acquisition unit 1203 acquires the information stored in the ID column of the actual product display column in the management table 1300 described later.
  • the collation unit 1204 collates the information recognized by the recognition unit 1202 with the information acquired by the acquisition unit 1203.
  • the specifying unit 1205 identifies one plate from the plates managed in the management table 1300 based on the collation result in the collating unit 1204.
  • the identification information acquisition unit 1210 for acquiring the identification information of the thick plate has a recognition unit 1202, an acquisition unit 1203, a collation unit 1204, and a specific unit 1205.
  • the position derivation unit 1206 derives the xyz coordinates (three-dimensional coordinates) of the display area by the stencil (label) as the three-dimensional position of the plank specified by the specific unit 1205.
  • the storage unit 1207 stores information indicating the three-dimensional position of the plank in the management table 1300.
  • the output unit 1208 outputs information indicating the three-dimensional position of the plank.
  • the second image acquisition unit 1209 acquires a second captured image for specifying the position in the height direction (z-axis direction) of the display area by the stencil (label) in the position derivation unit 1206.
  • a detailed example of the tracking device 1200 will be described later with reference to the flowchart of FIG.
  • the management table 1300 stores information used by the tracking device 1200 to track the plank.
  • the information stored in the management table 1300 includes information managed by the plate manufacturer. However, a part of the information stored in the management table 1300 may be information that can be utilized also in distribution and the like.
  • the information managed by the thick plate manufacturer is the information set or acquired by the thick plate manufacturer.
  • the information managed by the plate manufacturer includes information that allows an operator who is an employee of the plate manufacturer to understand the meaning of the information. More specifically, the information managed by the thick plate manufacturer is, for example, information created by the thick plate manufacturer and stored in the management table 1300.
  • the information stored in the management table 1300 is an example of tracking data, and by storing each information in the management table 1300, an example of the data structure of the tracking data is realized.
  • the information in the same column becomes the identification information for the same thick plate (the column below the same No. is the column in which the identification information for the same thick plate is stored).
  • information regarding each display item displayed by the stencil (label) is stored in the actual product display column.
  • Information other than the information related to each display item displayed by the stencil (label) is stored in the non-actual product display column.
  • the information stored in the actual product display column is an example of the display information included in the tracking data
  • the information stored in the non-actual product display column is an example of the non-display information included in the tracking data. ..
  • Information about the stencil is stored in the stencil column in the item display column.
  • information indicating the contents and positions of the components of ID 305 included in the display by the stencil is stored.
  • the constituent elements refer to individual information constituting display items such as characters, numbers, symbols, and marks.
  • information indicating the content and position of the component of the consumer name 302 included in the display by the stencil is stored.
  • the size column of the stencil column stores information indicating the content and position of the component of size 304 included in the display by the stencil.
  • information indicating the contents and positions of the components of the standard 303 included in the display by the stencil is stored.
  • information indicating the content and position of the component of the consumer code 306 included in the display by the stencil is stored.
  • the order number column of the stencil column information indicating the content and position of the component of the order number 307 included in the display by the stencil is stored.
  • the contents of the display items that may be displayed as the display items displayed by the stencil are also stored in the management table 1300.
  • the "" under the additional information column in the stencil column of FIG. 13 indicates this.
  • the display item itself may be added and / or deleted.
  • the label column In the actual product display column, information about the label is stored in the label column.
  • the ID column of the label column information indicating the content and position of the component of ID 312 included in the display by the label is stored.
  • the size column of the label column information indicating the content and position of the component of size 313 included in the display by the label is stored.
  • the standard column of the label column information indicating the contents and positions of the components of the standard 311 included in the display by the label is stored.
  • the delivery date column of the label column information indicating the content and position of the component of the delivery date 314 included in the display by the label is stored.
  • the consumer code column of the label column information indicating the content and position of the component of the consumer code 315 included in the display by the label is stored.
  • the contents of the display items that may be displayed as the display items displayed by the labels are also stored in the management table 1300.
  • the "" under the consumer code column in the label column of FIG. 13 indicates this.
  • the display item itself may be added and / or deleted.
  • Information indicating the position of the display area when a predetermined position on the plate is set as the origin (reference) is stored in the column of the position in the article.
  • Information indicating the position of the display area by the stencil when a predetermined position on the plate is set as the origin (reference) is stored in the stencil column of the column of the position in the article.
  • Information indicating the position of the display area by the label when a predetermined position on the plank is set as the origin (reference) is stored in the label column of the column of the position in the article.
  • Information indicating the three-dimensional position of the plank is stored in the article position column.
  • the information stored in the article position column is information indicating the three-dimensional position of the plank specified by the tracking device 1200. Therefore, the three-dimensional position of the same plank specified by the tracking device 1200 may change not only the x-coordinate and the y-coordinate but also the z-coordinate as the tracking progresses (movement of the plank). Therefore, the three-dimensional position of the information display position of the same thick plate specified by the tracking device 1200 is not only the x-coordinate and the y-coordinate (position in the horizontal plane direction) but also z as the tracking progresses (movement of the thick plate). Coordinates (position in the height direction) may also change.
  • the registration time column information indicating the date and time when the plank was placed at the current position (timing determined by the date and time) is stored.
  • the parent ID column information indicating the ID of the original plank is stored. Plates may be cut at the factory.
  • the original plank refers to the plank before cutting. Therefore, when the information indicating the ID of the original plank is stored in the column of the parent ID, the information stored in the column of the same column as the column of the parent ID is the information for the plank after cutting. become.
  • the thick plates 1110, 1120, 1130, and 1140 are manufactured as shown in FIG. 11, in the management table 1300, the display areas 1111, 1121 are displayed in the actual product display column for the thick plates 1110, 1120, 1130, 1140. Information indicating the contents and positions of the components of the display items displayed in 1131 and 1141 is stored.
  • the column of the parent ID for the thick plate 1110, 1120, 1130, 1140 information indicating the ID of the thick plate 1100 is stored.
  • the case where the information on the thick plate after cutting is managed as a new column (No) in the management table 1300 shown in FIG. 13 is exemplified.
  • the management table 1300 information on the thick plate after cutting is stored in the columns of the actual product display and the non-actual product display.
  • the plank 1110 may be cut to manufacture yet another plurality of planks.
  • information indicating the ID of the plate 1110 is stored in the column of the parent ID for the other plurality of plate plates.
  • Information indicating the ID of the plank 1100 is stored in the column of the parent ID for the plank 1110.
  • the arrangement of the thick plates obtained by tracing the information stored in the column of the parent ID is referred to as a cut plate series of the thick plates.
  • the cutting plate series of the thick plate 1110 is the thick plate 1100 and 1110.
  • the column of the parent ID of each plank for example, not only the information indicating the ID of the latest plank but also the IDs of all the planks belonging to the cut series are shown so that the cut board series can be known. Information may be stored. In this case, any ID defined by the manufacturer is used.
  • the ID of the thick plate carrier is stored in the carrier ID column.
  • the tracking device 1200 may store information indicating the ID of the transport vessel 400, for example, as follows. First, the tracking device 1200 acquires the ID of the plank and the ID of the transport ship 400 (so-called ship number). Then, the tracking device 1200 identifies a column in which information indicating the same ID as the acquired plate ID is stored from the ID column of the management table 1300. Then, the tracking device 1200 stores the information indicating the acquired ID of the transport ship 400 in the column of the carrier ID of the specified row.
  • the first image pickup apparatus 430a, 430b, 430n captures an captured image including a display area 201 by a stencil or a display area by a label 202 and an area in which information indicating an ID of a transport ship 400 is displayed. May be good.
  • the tracking device 1200 may recognize and acquire the ID of the plank and the ID of the transport ship 400 from the captured image.
  • the captured image including the area in which the information indicating the ID of the transport ship 400 is displayed may be imaged next to the captured image including the display area 201 by the stencil or the display area by the label 202.
  • the tracking device 1200 captures an image including an ID recognized from the captured image including the display area 201 by the stencil or the display area by the label 202 and an area in which information indicating the ID of the transport ship 400 is displayed.
  • the ID recognized from the image may be acquired as the ID of the plate and the ID of the transport ship 400.
  • the operator (worker) of the transport ship 400 may input the ID of the plate and the ID of the transport ship 400 into the information processing terminal (tablet terminal or the like) on hand.
  • the information processing terminal transmits the ID of the plank and the ID of the transport ship 400 to the tracking device 1200, so that the tracking device 1200 can use the ID of the plank and the ID of the transport ship 400. And may be obtained.
  • the tracking device 1200 may store information indicating the ID of the transport vehicle 700, for example, as follows. First, the tracking device 1200 acquires the ID of the plank and the ID of the transport vehicle 700 (for example, license plate information). Then, the tracking device 1200 identifies a column in which information indicating the same ID as the acquired plate ID is stored from the ID column of the management table 1300. Then, the tracking device 1200 stores the information indicating the acquired ID of the transport vehicle 700 in the column of the carrier ID of the specified row.
  • the tracking device 1200 acquires the ID of the plank and the ID of the transport vehicle 700 (for example, license plate information). Then, the tracking device 1200 identifies a column in which information indicating the same ID as the acquired plate ID is stored from the ID column of the management table 1300. Then, the tracking device 1200 stores the information indicating the acquired ID of the transport vehicle 700 in the column of the carrier ID of the specified row.
  • the first image pickup apparatus 430o to 430q may capture an captured image including a display area 201 by a stencil or a display area by a label 202 and an area in which information indicating an ID of a transport vehicle 700 is displayed. ..
  • the tracking device 1200 may recognize and acquire the ID of the plank and the ID of the transport vehicle 700 from the captured image.
  • the first image pickup apparatus 430o to 430q captures an image captured by the stencil display area 201 or a label 202, and an image image including an area in which information indicating the ID of the transport vehicle 700 is displayed. You may.
  • the captured image including the area in which the information indicating the ID of the transport vehicle 700 is displayed may be captured next to the captured image including the display area 201 by the stencil or the display area by the label 202.
  • the tracking device 1200 includes an ID recognized from the captured image including the display area 201 by the stencil or the display area by the label 202, and an image capture including an area in which information indicating the ID of the transport vehicle 700 is displayed.
  • the ID recognized from the image may be acquired as the ID of the thick plate and the ID of the transport vehicle 700.
  • the operator (worker) of the transport vehicle 700 may input the ID of the plate and the ID of the transport vehicle 700 into the information processing terminal (tablet terminal or the like) on hand.
  • the information processing terminal transmits the ID of the plank and the ID of the transport vehicle 700 to the tracking device 1200, so that the tracking device 1200 can use the ID of the plank and the ID of the transport vehicle 700. And may be obtained.
  • the data structure of the management table 1300 is also a data structure in which the information stored in each column of the management table 1300 (for example, the position of the article and the registration time) is updated every time the plank is placed in a new position. good. Further, the data structure of the management table 1300 may be a data structure to which information is added. The latter case has the advantage of being able to track the tracking history.
  • FIG. 14 is a diagram showing an example of the position of the stencil in the article and the position of the component of each display item in the display by the stencil.
  • FIG. 14 illustrates a case where the display position shown in FIG. 2 and the content shown in FIG. 3A are displayed by a stencil.
  • the apex 203 shown in FIG. 14 of the eight vertices of the rectangular parallelepiped thick plate, the apex 203 shown in FIG.
  • the xy coordinates with the direction along the vertical direction as the positive direction of the x-axis represent the position in the article of the stencil and the position of the component of each display item by the stencil.
  • the circumscribed circle is determined by the position of the maximum value of the x-axis, the minimum value of the x-axis, the maximum value of the y-axis, and the minimum value of the y-axis.
  • the xy coordinates of the two vertices on the diagonal line are set as the positions in the article of the stencil.
  • FIG. 14 shows that the xy coordinates (Ls10, Ws10) and (Ls11, Ws11) of the two vertices 1401a and 1401b of the circumscribed rectangle are the positions in the article of the stencil.
  • the circumscribed rectangle is assumed to be a rectangle parallel to the coordinate axes (x-axis and y-axis in the example shown in FIG. 14) representing the position inside the article.
  • the xy coordinate of the position of the center of gravity (or the center of gravity) of the component (character, number, symbol, mark) of each display item in the display by the stencil is set as the position of the component.
  • the y-axis coordinates of 5, 6, 3, 4, 9, 7, 7, 0, and 1, which are the components of ID 305 included in the display by the stencil are Ws1, Ws2, Ws3, Ws4, and Ws5, respectively.
  • Ws6, Ws7, Ws8, Ws9 indicating that the x-axis coordinates are all Ls1.
  • the position of each component of each display item displayed by the stencil is represented by xy coordinates.
  • FIG. 15 is a diagram showing an example of the position of the label in the article and the position of the component of each display item in the display by the label.
  • FIG. 15 illustrates a case where labels are displayed at the display positions shown in FIG. 2 and the display contents shown in FIG. 3B.
  • the apex 204 shown in FIG. 2 is set as the origin, and the direction along the width direction of the thick plate from the apex 204 is the positive direction of the y-axis, and the thick plate plate.
  • the yz coordinates with the direction along the thickness direction as the positive direction of the z-axis represent the position in the article of the label and the position of the component of each display item by the label.
  • the label has a rectangular shape.
  • the yz coordinates of the two vertices on the diagonal line are set as the positions in the article of the label.
  • the yz coordinate of the position of the center of gravity (or the center of gravity) of the component of each display item displayed by the label is set as the position of the component.
  • FIG. 15 it is shown that the yz coordinates of the two vertices 1501a and 1501b of the label are the positions in the article of the label.
  • the positions of the components are (Ls1, Ws1), (Ls2, Ws1), (Ls3, Ws1), (Ls4, Ws1), (Ls5). , Ws1), (Ls6, Ws1), (Ls7, Ws1), (Ls8, Ws1), (Ls9, Ws1) are stored.
  • information indicating the content and position of the component of the display item is stored in the other display item column of the actual product display column.
  • the information indicating the position of the component of each display item in the label column is not the xy coordinate but the yz coordinate.
  • the stencil column of the column of the position in the article of the non-actual product display column as information indicating the position of the stencil in the article (Ls10, Ws10),. (Ls11, Ws11) is stored.
  • the label column in the article internal position column Similar to the stencil column in the article internal position column, the label column in the article internal position column also stores information indicating the article internal position of the label. As described above, the information indicating the position of the label in the article is not the xy coordinate but the yz coordinate.
  • the operator may operate the user interface of the tracking device 1200 to input information to be stored in each column of the management table 1300 into the tracking device 1200. Further, the tracking device 1200 may receive information to be stored in each column of the management table 1300 from an external device such as a computer that manages the operation of the factory.
  • the information stored in the actual product display column of the management table 1300 and the information stored in the article internal position and parent ID column in the non-actual product display column may be determined after the display on the plank is performed. For example, it may be set before the marking on the plank is made. Therefore, if the information to be stored in the column is determined before the display on the plate is performed, the tracking device 1200 acquires, for example, the information to be stored in the column as described above. , Stored in each column of the management table 1300.
  • the tracking device 1200 acquires the information to be stored in the column at the timing when the information to be stored in the column is obtained, and stores the information in each column of the management table 1300.
  • the registration time column the date and time when the information stored in the article position column is changed is stored. In this case, the date and time when the plank is placed at the current position is registered in the registration time column.
  • the information is stored in the column of the item only when the information of the item is acquired, and when the information of the item is not acquired, the information of the item is acquired. No information is stored in the field. Further, if the information stored in the article position column is not updated even after a predetermined time has elapsed from the date and time stored in the registration time column, the tracking device 1200 can specify the position of the plate (tracking). It is preferable to determine that the item has been lost and reset the information stored in the column of the article position and the registration time.
  • the tracking device 1200 performs the following when resetting the information stored in the column of the article position and the registration time. That is, the tracking device 1200 is a thick plate in which a date and time later than the date and time described in the column of the registration time to be reset is stored in the column of the registration time, and is stored in the column of the article position to be reset. If there is a thick plate in the same 3D position as the 3D position, it is desirable to give a sign to confirm with an alarm or the like.
  • FIG. 17 is a flowchart illustrating an example of processing of the tracking device 1200 when tracking a thick plate. An example of the function of the tracking device 1200 will be described with reference to FIG.
  • the first image acquisition unit 1201 acquires the first captured image.
  • the first image captured is one of the first image pickup devices 430a to 430y, the first image pickup devices included in the unmanned aerial vehicles 440a to 440c, and the first image pickup device on hand by the operator (worker). It is an image taken by the first image pickup apparatus.
  • the first captured image may be transmitted directly from the first image pickup device to the tracking device 1200, or may be transmitted from the first image pickup device to the tracking device 1200 via the information terminal device.
  • the 17 is performed by any one of the first image pickup device 430a to 430y, the first image pickup device included in the unmanned aerial vehicle 440a to 440c, and the first image pickup device owned by the operator (worker). It is executed every time the captured image captured by one imaging device is received by the tracking device 1200. In the present embodiment, it is assumed that the ID of the first image pickup device that has captured the first captured image and the imaging conditions when the first captured image is captured are transmitted together with the first captured image. ..
  • the first image acquisition unit 1201 acquires, together with the first captured image, the ID of the first image pickup device that captured the first captured image and the imaging conditions when the first captured image is captured. do.
  • the imaging condition includes, among the information set by the imaging apparatus at the time of imaging, information necessary for specifying the position of the display area by the stencil or the display area by the label as described later.
  • the position information of the first image pickup device when the first captured image is captured is the first image pickup. Sent with the image.
  • the unmanned aerial vehicles 440a to 440c can determine the three-dimensional coordinates (xyz coordinates) of the unmanned aerial vehicle using GPS (Global Positioning System), the first unmanned aerial vehicle is provided.
  • the three-dimensional coordinates may be transmitted as the position information of the image pickup device.
  • the first image pickup device 430n attached to the transport ship 400, the first image pickup device 430 g to 430 m attached to the cargo handling device 411, and the first image pickup device 430q attached to the transport vehicle 700 also Similar to the unmanned aerial vehicles 440a to 440c, the position information of the first image pickup device may be transmitted together with the first image pickup image. This also applies to the first image pickup device held by the operator (worker). If the first image pickup device cannot capture a region to be included in the first image pickup image, the image pickup conditions (image pickup direction, angle of view, zoom) of the first image pickup device are prior to the processing of step S1701. Magnification, aperture (F value), etc.) are adjusted.
  • step S1702 the recognition unit 1202 recognizes the components (characters, numbers, symbols, marks) of the display items in the display by the stencil (label) from the first captured image acquired in step S1701. Since the process of recognizing the contents of the components of the display item can be realized by, for example, a technique using a known OCR (Optical character recognition), detailed description thereof will be omitted here.
  • the process of step S1702 may be realized by using a technique using AI (Artificial Intelligence) such as NN (Neural Network) or a technique using a combination of AI and OCR (so-called AI OCR).
  • AI Artificial Intelligence
  • NN Neural Network
  • AI OCR a technique using a combination of AI and OCR
  • the recognition unit 1202 specifies whether the component of the display item is the display by the stencil or the display by the label. For example, the recognition unit 1202 performs edge detection processing based on the first captured image acquired in step S1701, detects the edge of the thick plate, and identifies the region of the thick plate based on the detected result. Then, the recognition unit 1202 determines whether the specified region is the plate surface portion of the thick plate or the side surface (plate thickness) portion of the thick plate. This determination is realized, for example, based on the aspect ratio of the specified area. As a result of this determination, when the specified region is the plate surface portion of the thick plate, the recognition unit 1202 recognizes that the component of the display item is the one displayed by the stencil. On the other hand, when the specified region is the side surface (plate thickness) portion of the plate, the recognition unit 1202 recognizes that the component of the display item is the one displayed by the label.
  • the recognition unit 1202 performs edge detection processing based on the first captured image, and when the region of the rectangular label 202 is detected, the component of the display item is the one displayed by the label. It may be recognized, and if not, it may be recognized that the component of the display item is the one displayed by the stencil. In the present embodiment, for the sake of simplicity, it is assumed that the first captured image includes the display area 201 by the stencil instead of the display area by the label 202 for the thick plate at the uppermost stage. ..
  • the recognition unit 1202 derives the position of the display item. An example of a method in which the first recognition unit 1202 derives the position of the display item will be described. First, the recognition unit 1202 performs edge detection processing based on the first captured image acquired in step S1701 to detect the edge of the thick plate. Then, the recognition unit 1202 detects the origin of the position inside the article (a predetermined position on the plank) in the first captured image.
  • the recognition unit 1202 is, for example, an article in a captured image based on a positional relationship preset as a positional relationship between a display area by a stencil (label) and an origin of a position in an article among eight vertices of a rectangular parallelepiped plate. The apex that is the origin of the inner position (predetermined position on the plank) is derived.
  • the following information may be preset in the tracking device 1200 as the positional relationship between the display area by the stencil (label) and the origin of the position in the article. That is, when the component of the display item displayed by the stencil (label) is viewed so that the top of the component is located on the upper side, the display by the stencil (label) is displayed on the same surface as the display by the stencil (label). Information that the apex located on the lower right side of the article is the origin of the position in the article may be preset in the tracking device 1200.
  • the recognition unit 1202 derives a position based on the origin of the position in the article in the captured image as the position of the component of the display item in the display by the stencil (label).
  • step S1703 the acquisition unit 1203 acquires the information stored in the ID column of the actual product display column in the management table 1300 stored in the storage unit 1207.
  • step S1704 the collating unit 1204 collates the information recognized in step S1702 with the information obtained in step S1703.
  • the collating unit 1204 puts in the ID column of the stencil column of the information obtained in step S1703.
  • the stored information is collated with the information recognized in step S1702.
  • the collating unit 1204 has the ID of the label column of the actual product display column among the information obtained in step S1703.
  • the information stored in the column is collated with the information recognized in step S1702.
  • step S1705 the specifying unit 1205 identifies one plank from the planks managed in the management table 1300 based on the collation result of step S1703. Specifically, the specifying unit 1205 identifies information that matches the information recognized in step S1702 from the information obtained in step S1703.
  • the match means that the information recognized in step S1702 completely matches the content and the order of the components stored in the stencil column of the actual product display column or the ID column of the label column. It means that there is a part that is.
  • the contents of the components of ID 305 and 312 displayed by the stencil or the label are 5, 6, 3, 4, 9, 7, ⁇ , 0, 1, and the order is From the left, the order is 5, 6, 3, 4, 9, 7,-, 0, 1. Therefore, the specifying unit 1205 specifies the information in which 5, 6, 3, 4, 9, 7, ⁇ , 0, and 1 are arranged in this order from the left from the column of the ID managed in the management table 1300. ..
  • step S1702 In the information recognized in step S1702, not only when some of these components are missing, but also when components other than these components are lined up, the information recognized in step S1702 is obtained. , It is assumed that the information does not completely match the contents and the order of the components stored in the stencil column of the actual product display column or the ID column of the label column.
  • step S1706 whether or not the position derivation unit 1206 knows the position of the first image pickup device that has captured the first captured image acquired in step S1701 based on the information acquired in step S1701. Is determined.
  • the first image pickup devices 430a to 430f attached to the garter 412 and the leg structure 413, and the first image pickup device 430o attached to the structure installed at the standby position of the transport vehicle 700.
  • ⁇ 430p the first image pickup device 430r ⁇ 430w attached to the structure installed in the yard in the factory, and the first image pickup device attached to the structure installed in the production line of the factory. It is assumed that the three-dimensional positions of 430x to 430y are known.
  • the ID of the first image pickup device and the position information (three-dimensional coordinates (xyz coordinates)) of the first image pickup device are associated with each other. It is assumed that it is registered in advance in the tracking device 1200.
  • the position derivation unit 1206 acquires in step S1701 when the position information (three-dimensional coordinates) associated with the same ID as the ID of the first image pickup apparatus acquired in step S1701 is registered in the tracking apparatus 1200 in advance. It is determined that the position of the first image pickup device that has captured the first captured image is known, and if not, the position of the first image pickup device that has captured the first captured image acquired in step S1701 is known. It is determined that it is not.
  • step S1707 the position derivation unit 1206 determines whether or not the position information of the first image pickup apparatus that has captured the first captured image is acquired in step S1701. As a result of this determination, if the position information of the first image pickup apparatus that has captured the first captured image is not acquired in step S1701, the process proceeds to step S1712 described later.
  • step S1706 the position of the first image pickup device that captured the first captured image acquired in step S1701 is known, and as a result of the determination in step S1707, the first captured image is captured.
  • step S1708 the position derivation unit 1206 determines whether or not the position in the height direction (z-axis direction) of the display area by the stencil (label) can be specified. A specific example of the case where the position in the height direction (z-axis direction) of the display area by the stencil (label) can be specified will be described later. If, as a result of the determination in step S1708, the position in the height direction (z-axis direction) of the display area by the stencil (label) cannot be specified, the process proceeds to step S1712 described later.
  • step S1709 the position derivation unit 1206 derives the three-dimensional coordinates (xyz coordinates) of the display area by the stencil (label) as the three-dimensional positions of the plank specified in step S1705.
  • step S1710 the storage unit 1207 derives the information stored in the article position column of the non-actual product display column of the management table 1300 as the information for the plank specified in step S1705 in step S1709. Update to the information indicating the three-dimensional position of the plank.
  • the case where the information stored in the column of the article position in the column of the non-actual product display of the management table 1300 is the information display position is exemplified.
  • the information stored in the column of the article position in the column of the non-actual product display of the management table 1300 is the xyz coordinates of the display area by the stencil (label). Therefore, the information display position is a three-dimensional position.
  • the output unit 1208 outputs information indicating the three-dimensional position of the plank specified in step S1705.
  • the output unit 1208 causes the computer display to display information indicating the three-dimensional position of the plank specified in step S1705. Then, the process according to the flowchart of FIG. 17 is completed.
  • FIG. 2 is a diagram illustrating an example of a method of deriving a three-dimensional position of the display area 201 by a stencil.
  • the point P indicates the three-dimensional position of the first image pickup apparatus (the x-y-z coordinates of the point P are (x p , y p , z p )).
  • the three-dimensional position of the first image pickup device is, for example, the central position of the optical system (lens) of the first image pickup device.
  • the z-axis is assumed to be in the direction perpendicular to the surface of the plank (the surface on which the display region 201 formed by the stencil is formed).
  • the y-axis is assumed to be a direction parallel to the direction in which the components of the same display item are arranged in the display area 201 by the stencil.
  • the x-axis is a direction parallel to the direction in which different display items are arranged in the display area 201 by the stencil. Further, it is assumed that the x-axis, y-axis, and z-axis are perpendicular to each other. Further, here, for the sake of simplicity, it is assumed that the width direction of the plank is parallel to the y-axis and the length direction of the plank is parallel to the x-axis.
  • the point S indicates the position of the vertex located on the negative direction side of the x-axis and on the positive direction side of the y-axis among the four vertices of the display area 201 by the stencil (x-of the point S).
  • the yz coordinates are (x s , y s , z s )).
  • the point O is the foot of the perpendicular of the point P (relative to the xy plane) (the intersection of the perpendicular of the point P and the xy plane). In the example shown in FIG. 18, it is assumed that the point O is the origin.
  • the point Q is an intersection of a straight line passing through the point O and parallel to the x-axis and a straight line passing through the point S and parallel to the y-axis.
  • the length H of the line segment OP is a value obtained by subtracting the z coordinate z s of the display area 201 by the stencil from the z coordinate z p of the point P. Therefore, if the z coordinate of the display area 201 by the stencil (the position in the height direction (z-axis direction) of the display area 201 by the stencil) is specified, the length H of the line segment OP can be derived. Since FIG. 18 illustrates the case where the z-coordinate z s of the display area 201 by the stencil is 0 (zero), the length H of the line segment OP is equal to the z-coordinate z p of the point P.
  • the position of the point S in the first captured image is derived, for example, as follows.
  • the position derivation unit 1206 is based on the positions that are the maximum value of the x-axis, the minimum value of the x-axis, the maximum value of the y-axis, and the minimum value of the y-axis among the components of the display item by the stencil recognized in step S1702. Derive a fixed circumscribed rectangle. Then, when the position deriving unit 1206 is viewed so that the top of the component of the display item by the stencil is located on the upper side among the vertices of the circumscribed rectangle derived, for example, the lower left side (the negative direction side of the x-axis and the negative direction side of the x-axis).
  • the position of the apex located on the positive direction side of the y-axis is derived as the position of the point S in the first captured image.
  • the position derivation unit 1206 is viewed so that the top of the component of the display item by the stencil is located on the upper side of the vertices of the rectangular label.
  • the vertex located on the lower left side is derived as the position of the point S in the first captured image.
  • the position of the point Q in the first captured image is a position on a straight line passing through the position of the point S in the first captured image and parallel to the y-axis, and is a horizontal angle of view (image in the y-axis direction) at the time of imaging. It is the position corresponding to the center of the corner).
  • the point Q may be specified, for example, as follows. That is, a laser light is irradiated from the point P with a laser pointer or the like, and a straight line passing through the position of the point S and parallel to the y-axis is formed on the plate surface of the thick plate by the stencil display region 201. Display on the surface.
  • the position derivation unit 1206 may specify the point Q from the first captured image captured in a state where the intersection of the two straight lines displayed by the laser beam is displayed.
  • the direction in which the line segment PQ extends is specified by the straight line connecting the point Q in the first captured image and the center position of the optical system (lens) when the first captured image is captured.
  • ⁇ OPS ( ⁇ )
  • ⁇ OPQ ( ⁇ )
  • the position derivation unit 1206 is the length of the line segment PS and the point PQ based on the measured value of the distance measuring sensor (for example, a TOF (Time-of-Flight) type distance measuring sensor) included in the first image pickup device. Is derived.
  • the distance measuring sensor for example, a TOF (Time-of-Flight) type distance measuring sensor
  • the position derivation unit 1206 includes the angle of the laser beam emitted from the first image pickup device toward the point S and the angle of the laser beam emitted from the first image pickup device toward the point Q.
  • ⁇ OPS ( ⁇ )
  • ⁇ OPQ ( ⁇ )
  • the position derivation unit 1206 is a first image taken in a state where a grid-like laser beam is applied to a region of the plate surface of the thick plate including the surface on which the display region 201 formed by the stencil is formed and the point O.
  • the positions of the display areas 1111, 1121, 1131, and 1141 are also derived in the same manner as the method described with reference to FIG. Further, since the display area 201 by the stencil and the display area by the label 202 differ only in the surface arranged on the plate, the position of the display area by the label 202 is also described with reference to FIG. It can be derived according to. Therefore, the detailed description thereof will be omitted here.
  • step S1708 an example of a case where it is determined that the position of the display area by the stencil (label) in the height direction (z-axis direction) can be specified will be described.
  • the position derivation unit 1206 derives the distance in the height direction (z-axis direction) from the first image pickup apparatus to the display area by the stencil by using a laser range finder. Then, the position derivation unit 1206 sets the position obtained by subtracting the distance from the position in the height direction (z-axis direction) of the first image pickup apparatus to the position in the height direction (z-axis direction) of the display area 201 by the stencil. Derived as.
  • the position derivation unit 1206 has information indicating the position of the plank stored in the column of the article position of the management table 1300 and the thickness stored in the column of the registration time of the management table 1300. Using the information indicating the date and time when the board was placed at the current position, the position in the height direction (z-axis direction) of the display area by the stencil (label) is derived. An example of a method for deriving the position of the display area in the height direction (z-axis direction) by the stencil (label) in this way will be described.
  • the three-dimensional position of the plank stored in the column of the article position of the management table 1300 is referred to as an article position, if necessary. Further, here, for the sake of simplicity, it is assumed that the plank at the bottom of the plurality of stacked planks is placed on the ground.
  • the position derivation unit 1206 is the imaging range (xy coordinates) of the first imaging device that captures the first captured image acquired in step S1701 from a thick plate other than the thick plate specified in step S1705.
  • a plank containing at least a portion thereof is specified based on the article position stored in the management table 1300.
  • step S1705 When deriving the position of the display area 201 by the stencil in the height direction (z-axis direction), the plank specified in step S1705 is at the uppermost stage. Therefore, in step S1705, the position deriving unit 1206 has a plank whose image pickup range (xy coordinates) of the first image pickup apparatus that has captured the first image captured image acquired in step S1701 includes at least a part thereof. Judge that it is under the specified plank. In this case, all the sizes (thicknesses) stored in the management table 1300 as the information of the thick plate under the thick plate specified in step S1705 and the thickness of the thick plate specified in step S1705 are added. The value is the position in the height direction (z-axis direction) of the display area 201 by the stencil.
  • the position deriving unit 1206 has the thickness specified in step S1705 among the planks specified as described above.
  • the plate whose date and time later than the date and time stored in the registration time column of the management table 1300 as the plate information is stored in the registration time column is the plate under the plate specified in step S1705.
  • the value obtained by adding the value of the z-coordinate of the position in the article stored in the management table 1300 is the position in the height direction (z-axis direction) of the display area by the label 202.
  • the position derivation unit 1206 uses the stencil (label) based on the information. ) Can be derived from the position in the height direction (z-axis direction) of the display area.
  • An example of a method for deriving the position of the display area in the height direction (z-axis direction) by the stencil (label) in this way will be described.
  • the position derivation unit 1206 includes a structure in which a scale indicating a position in the height direction (z-axis direction) is displayed in the first captured image, the scale of the structure is displayed from the first captured image. Recognize.
  • the position derivation unit 1206 executes an edge detection process on the first captured image to extract the edge of the object, and extracts the structure from the extracted object. For example, information indicating the outline of an object and information in which the name of the object is associated with each other are registered in advance in the tracking device 1200. In this case, the position derivation unit 1206 may extract the object corresponding to the structure by comparing the edge of the object extracted as described above with the information. Further, the position derivation unit 1206 may extract the structure from the object extracted as described above by using AI (Artificial Intelligence) such as NN (Neural Network).
  • AI Artificial Intelligence
  • NN Neurological Network
  • the position derivation unit 1206 is based on the position of the display area by the stencil (label) in the first captured image and the position of the scale displayed on the structure in the first captured image, based on the stencil (label). ) Derives the position in the height direction (z-axis direction) of the display area.
  • the numbers attached to the scale in the first captured image are recognized by the same method as the method of recognizing the components of the display item by the stencil (label).
  • the position derivation unit 1206 derives the position in the height direction (z-axis direction) of the display region 201 by the stencil by using the second captured image acquired by the second image acquisition unit 1209. You may.
  • a step of acquiring a second captured image by the second image acquisition unit 1209 is added before the timing at which the process of step S1708 is started.
  • the second captured image was captured by a second image pickup device different from the first image pickup device (the image pickup device that captures the area including the display area by the stencil (label)) that captured the first captured image. It is a captured image.
  • the second captured image includes both the first image pickup device that captured the first captured image acquired in step S1701 and the plank specified in step S1705.
  • An example of a method of deriving the position of the display area 201 in the height direction (z-axis direction) by the stencil in this way will be described.
  • FIG. 19 is a diagram illustrating an example of a method of deriving the position of the display area 201 in the height direction (z-axis direction) by the stencil.
  • the point P indicates the position of the first image pickup apparatus (the x-y-z coordinates of the point P are (x p , y p , z p ). ).
  • the z-axis is a direction perpendicular to the surface of the plate (the surface on which the display region 201 formed by the stencil is formed).
  • the y-axis is a direction parallel to the direction in which the components of the same display item are arranged in the display area 201 by the stencil.
  • the x-axis is a direction parallel to the direction in which different display items are arranged in the display area 201 by the stencil. Further, it is assumed that the x-axis, y-axis, and z-axis are perpendicular to each other. Again, for the sake of simplicity, it is assumed that the width direction of the plank is parallel to the y-axis and the length direction of the plank is parallel to the x-axis.
  • the point O' is an intersection of the perpendicular line of the point P (relative to the xy plane) and the plane including the surface of the plank (the surface on which the display region 201 formed by the stencil is formed) (point O'. Corresponds to point O in FIG. 18).
  • the point O is the foot of the perpendicular of the point P (relative to the xy plane) (the intersection of the perpendicular of the point P and the xy plane).
  • the point R indicates the three-dimensional position of the second image pickup apparatus (the x-y-z coordinates of the point R are (x r , y r , z r )).
  • the three-dimensional position of the second image pickup device is, for example, the central position of the optical system (lens) of the second image pickup device.
  • the three-dimensional position of the second image pickup device can be specified by the tracking device 1200.
  • the ID of the second image pickup device and the three-dimensional coordinates (xyz coordinates) of the second image pickup device are associated with each other. It is registered in advance in the tracking device 1200.
  • the second image pickup device has three-dimensional coordinates (xyz coordinates) of the second image pickup device positioned using GPS. And the ID of the second image pickup device.
  • the second image acquisition unit 1209 acquires these information transmitted from the second image pickup apparatus.
  • the point D is the vertex closest to the point R among the vertices of the surface on which the display area 201 formed by the stencil is formed.
  • the point B is a vertex closest to the point R among the vertices of the bottom surface of the bottom plate among the plurality of stacked planks.
  • the direction in which the line segment RP extends is specified by the straight line connecting the point P in the second captured image and the center position of the optical system (lens) when the second captured image is captured.
  • the direction in which the line segment RB extends is specified by the straight line connecting the point B in the second captured image and the center position of the optical system (lens) when the second captured image is captured.
  • the direction in which the line segment RT extends is specified by the straight line connecting the point D in the second captured image and the center position of the optical system (lens) when the second captured image is captured.
  • the position derivation unit 1206 is based on the measured value of the distance measuring sensor (for example, a TOF (Time-of-Flight) type distance measuring sensor) included in the second image pickup device, and the length of the line segment RP (for example).
  • the length of the line segment RD (distance from the point R to the point D) and the length of the line segment RD (distance from the point R to the point P) are derived.
  • the position in the height direction (z-axis direction) of the display area 201 is derived.
  • FIG. 19 illustrates a case where the position of the second image pickup apparatus (point R) in the height direction (z-axis direction) is 0 (zero).
  • the position deriving unit 1206 is not only positioned in the height direction (z-axis direction) of the display area 201 by the stencil, but also in the height direction of the first image pickup device.
  • the position (z p ) in the (z-axis direction) can be derived.
  • the position derivation unit 1206 derives not only the position in the height direction (z-axis direction) but also the position in the x-axis direction (x p ) and the position in the y-axis direction (y p ) of the first image pickup apparatus.
  • x p and y p are derived based on the direction in which the line segment RP extends and yr + the length of the line segment RP ⁇ cos ⁇ P. That is, a vector connecting the points R and P is derived based on the direction in which the line segment RP extends and yr + the length of the line segment RP ⁇ cos ⁇ P.
  • the length of the x-axis component and the length of the y-axis component of the vector are xp and yp .
  • a case where the point P (first image pickup device) is included in the second captured image captured by the second image pickup device has been described as an example.
  • an image captured by at least one image pickup device different from the first image pickup device and the second image pickup device is used.
  • a third image pickup device is arranged in addition to the first image pickup device and the second image pickup device.
  • the third image pickup device includes the point P (first image pickup device) and the point R (second image pickup device) in the image pickup range, and does not include the point D in the image pickup range.
  • a point indicating the position of the third image pickup apparatus is designated as R'not shown.
  • the position derivation unit 1206 derives an elevation angle or a depression angle when the point R and the point P are viewed from the point R'based on the third image captured by the third image pickup device.
  • the image pickup range of the third image pickup device includes the point P (first image pickup device) and does not include the point R (second image pickup device), for example, the point R'(third image pickup device).
  • the fourth image captured by the fourth image pickup device including the image pickup device) and the point R (second image pickup device) may be further used.
  • the point R'( A fifth image captured by the fifth image pickup device including the third image pickup device) and the point P (first image pickup device) may be further used.
  • the position derivation unit 1206 identifies the position of the point P (first image pickup device) by using the sixth image pickup image taken by the sixth image pickup device including the first image pickup device in the image pickup range. You may. In this case, it is assumed that the sixth image pickup device is included in at least one image pickup range of the second image pickup device, the third image pickup device, and the fourth image pickup device. Further, a point indicating the position of the sixth image pickup apparatus is designated as P'not shown. Further, it is assumed that one or both of the position of the point P indicating the position of the first image pickup device and the position of the point P'indicating the position of the sixth image pickup device are predetermined.
  • the calculation is performed using the sixth image pickup device and the point P'instead of the first image pickup device and the point P. Then, for example, based on the result of this calculation, the sixth image, and the position of one or both of the points P and P', the first image pickup device (point P) and the second image pickup device are used.
  • the stencil is used.
  • the position of the display area 201 in the height direction (z-axis direction) can be derived.
  • the third to sixth captured images are acquired by, for example, the second image acquisition unit 1209. However, apart from the second image acquisition unit 1209, a third to sixth image acquisition unit that individually acquires the third to sixth captured images may be used. In this case, in the flowchart of FIG. 17, a step of acquiring a second captured image by the second image acquisition unit 1209 is executed at a timing before the timing at which the process of step S1708 is started.
  • a step of individually acquiring the third to sixth captured images is added at a timing different from the timing of the flow chart. If the position in the height direction (z-axis direction) of the display area by the stencil (label) can be specified without acquiring the second captured image or the like, the second image acquisition unit 1209 Is no longer needed.
  • the position derivation unit 1206 sets the position of the thick plates 1002a and 1002b placed on the transport table 1001 in the height direction (z-axis direction) of the display area 201 by the stencil to the position of the transport table 1001. And the size (thickness) stored in the management table 1300 as the information of the thick plates 1000a and 1002b may be derived. In this case, the position of the transport table 1001 is registered in advance in the tracking device 1200.
  • step S1708 if the position of the display area by the stencil (label) in the height direction (z-axis direction) can be derived in at least one of the above examples, the display area by the stencil (label) can be derived. It is determined that the position in the height direction (z-axis direction) can be specified.
  • the position deriving unit 1206 acquires the three-dimensional position of the plank in the carrier.
  • the carriers are a transport ship 400 and a transport vehicle 700. Therefore, in the present embodiment, the case where the carrier is a transport ship 400 and a transport vehicle 700 will be exemplified.
  • the position derivation section 1206 acquires the ID of the planks and information indicating the three-dimensional position of the planks on the transport ship 400. Then, the position derivation unit 1206 identifies a column in which information indicating the same ID as the acquired plate ID is stored from the ID column of the management table 1300.
  • the position derivation unit 1206 stores information indicating the three-dimensional position of the plank in the acquired transport ship 400 in the column of the article position in the specified row.
  • the operator (worker) of the transport ship 400 may input the ID of the plank and the information indicating the three-dimensional position of the plank on the transport ship 400 into the information processing terminal (tablet terminal or the like) on hand. ..
  • the information processing terminal transmits the ID of the plank and the information indicating the three-dimensional position of the plank in the transport ship 400 to the tracking device 1200, so that the position deriving unit 1206 has the thickness.
  • the ID of the plate and the information indicating the three-dimensional position of the plank on the transport ship 400 may be acquired.
  • the information indicating the three-dimensional position of the plank is, for example, the xyz coordinates of the display area by the stencil (label).
  • the position derivation unit 1206 acquires the ID of the plank and the information indicating the three-dimensional position of the plank in the transport vehicle 700. Then, the position derivation unit 1206 identifies a column in which information indicating the same ID as the acquired plate ID is stored from the ID column of the management table 1300. Then, the position derivation unit 1206 stores information indicating the three-dimensional position of the plank in the acquired transport vehicle 700 in the column of the article position in the specified row. For example, the operator (worker) of the transport vehicle 700 may input the ID of the plank and the information indicating the three-dimensional position of the plank in the transport vehicle 700 into the information processing terminal (tablet terminal or the like) on hand.
  • the information processing terminal tablet terminal or the like
  • the information processing terminal transmits the ID of the plank and the information indicating the three-dimensional position of the plank in the transport vehicle 700 to the tracking device 1200, so that the position derivation unit 1206 is concerned.
  • the ID of the plank and the information indicating the three-dimensional position of the plank in the transport vehicle 700 may be acquired.
  • the information indicating the three-dimensional position of the plank is, for example, the xyz coordinates of the display area by the stencil (label).
  • the carrier By acquiring the three-dimensional position of the planks in the carrier as described above, it is possible to specify the carrier that transports each plank. In addition, the carrier can accurately identify the three-dimensional position of the plank when the plank is being transported.
  • step S1712 if it is determined in step S1708 that the position of the display area in the height direction (z-axis direction) by the stencil (label) cannot be specified, the process of step S1712 is executed. Ru.
  • step S1712 the output unit 1208 outputs information indicating that the three-dimensional position of the plank cannot be specified and the ID of the first image pickup device that has imaged the plank.
  • the output unit 1208 causes the computer display to display information indicating that the three-dimensional position of the thick plate cannot be specified and the ID of the first imaging device that has taken an image of the thick plate.
  • the operator goes to the position where the corresponding first image pickup apparatus exists and identifies the three-dimensional position of the corresponding thick plate. Further, the operator (worker) may specify the three-dimensional position of the corresponding thick plate from the preview image of the corresponding first image pickup apparatus.
  • step S1713 the storage unit 1207 inputs information indicating the three-dimensional position of the plank specified by the operator (worker), and the information indicating the three-dimensional position of the plank is used as information for the plank in the non-actual display column of the management table 1300.
  • the information stored in the article position column is updated with the entered information.
  • the input form of the information indicating the three-dimensional position of the thick plate the input by operating the user interface of the tracking device 1200, the reception of the information transmitted from the external device, and the information stored in the portable storage medium are input. At least one of the reads can be adopted. Then, the process according to the flowchart of FIG. 17 is completed.
  • the tracking device 1200 has a display area in which the information displayed on the thick plate and the information managed by the manufacturer of the thick plate is displayed by the stencil (label).
  • the first captured image of the including area is acquired.
  • the tracking device 1200 derives a three-dimensional position of a display area by a stencil (label) based on the acquired first captured image and the position of the first image pickup device that captured the first captured image.
  • the information indicating the three-dimensional position is stored in the storage medium in association with the ID of the plank. Therefore, for example, when the plank is transported by using various transport devices (transport ship 400, transport vehicle 700, transport table 1001, etc.), or when the worker transports the plank, the storage address is determined.
  • the planks can be tracked even when the planks are placed in an unoccupied place or when the planks are stacked and placed. Therefore, the accuracy of tracking the thick plate can be improved.
  • the tracking device 1200 recognizes the information (ID 305, 312) displayed in the display area by the stencil (label) based on the first captured image. Then, the tracking device 1200 collates the recognized information with the information (ID) stored in the management table 1300, and identifies the plank based on the collated result. Therefore, the thick plate itself to be tracked can be reliably specified based on the first captured image. Therefore, for example, the accuracy of tracking the thick plate can be improved as compared with the case where the three-dimensional position of the thick plate is specified based on the operation of the transport device.
  • the tracking device 1200 acquires a second captured image captured by a second imaging device different from the first imaging device that captured the first captured image.
  • the second captured image includes the first captured image and a plank (targeted for tracking).
  • the tracking device 1200 derives the position of the display area 201 by the stencil in the height direction (z-axis direction) based on the acquired second captured image and the position of the second image pickup device. Then, the tracking device 1200 has a position in the height direction (z-axis direction) of the display area 201 by the stencil, a first captured image, and a position of the first image pickup device that has captured the first captured image.
  • the three-dimensional position of the display area 201 by the stencil is derived as the three-dimensional position of the thick plate. Therefore, even if the first captured image or the sensor included in the first captured image cannot be used to derive the position of the thick plate in the height direction, the thick plate can be tracked.
  • the display by the stencil and the display by the label are human identifiable information. Therefore, it becomes easy for the operator (worker) to manage the actual product. Therefore, the convenience of managing the actual product is improved.
  • the display by the stencil and the display by the label include information (information unique to the thick plate) individually determined for each thick plate. Therefore, the plank can be uniquely identified based on the first captured image. Therefore, the thick plate can be easily and quickly identified.
  • the tracking device 1200 derives three-dimensional coordinates (xyz coordinates) as the position of the display area by the stencil (label). Therefore, for example, even when a plurality of planks are stacked, the planks can be tracked.
  • the method of deriving the position of the display area by the stencil (label) included in the first captured image in step S1709 is not limited to the method described with reference to FIG.
  • the position deriving unit 1206 derives the position of the origin when determining the position in the article in the management table 1300 from the first captured image. Then, the position derivation unit 1206 displays by the stencil (label) included in the first captured image based on the position of the derived origin and the information stored in the column of the position in the article of the management table 1300. Derive the position of the region.
  • An example of a method for deriving the position of the display area by the stencil (label) included in the first captured image in this way will be described by taking the display area 201 by the stencil as an example.
  • FIG. 20 is a diagram illustrating an example of a method of deriving the position of the display area 201 by the stencil.
  • FIG. 20 illustrates a case where the xyz coordinates S (x s , ys s , z s ) of the point S are derived as the position of the display area 201 by the stencil, as in FIG.
  • the position in the article of the stencil has the apex 203 shown in FIG. 2 as the origin, and the direction along the width direction of the plate from the apex 203 is the positive direction of the y-axis and the thickness. It is represented by xy coordinates with the direction along the length direction of the plate as the positive direction of the x-axis.
  • the position of the point E in FIG. 20 is the origin of the position inside the article of the stencil.
  • the point F is a point among the vertices of the plate that is aligned in the width direction (y-axis direction) with respect to the point E (the point E and the point F form one side along the width direction of the plate).
  • the point T is the foot of the perpendicular line of the point P with respect to the line segment EF (the intersection of the perpendicular line of the point P and the line segment EF). Points P and O are the same as those shown in FIG.
  • the length l p of the line segment OT is expressed by the following equation (5).
  • the length w o2 of the line segment ET is expressed by the following equation (6).
  • the length H of the line segment OP is derived as described with reference to FIG.
  • the position of the point T in the first captured image is a position on the line segment EF in the first captured image, and is a position corresponding to the center of the horizontal angle of view (angle of view in the y-axis direction) at the time of imaging.
  • the direction in which the line segment PE extends is specified by the straight line connecting the point E in the first captured image and the center position of the optical system (lens) when the first captured image is captured.
  • the direction in which the line segment PT extends is specified by the straight line connecting the point T in the first captured image and the center position of the optical system (lens) when the first captured image is captured.
  • the length h 2 of the line segment PE is derived by using, for example, a distance measuring sensor (for example, a TOF (Time-of-Flight) type distance measuring sensor) included in the first image pickup apparatus.
  • the length h 2 of the line segment PE may be derived based on the length H of the line segment OP and ⁇ OPE.
  • a person identifies a consumer name 302, a standard 303, a size 304, an ID 305, a consumer code 306, an order number 307, a standard 311, ID 312, a size 313, a delivery date 314, and a consumer code 315. It is preferable that the information is possible because it facilitates the management of the actual product by the operator (worker). However, at least one of the consumer name 302, standard 303, size 304, ID305, consumer code 306, order number 307, standard 311, ID312, size 313, delivery date 314, and consumer code 315 can be a bar code or 2 It may be information converted (encoded) into information that cannot be identified by a person, such as a dimension code.
  • the number of digits of the consumer code may differ between the display by stencil and the display by label, but the consumer code is managed by the manufacturer. Also, regarding the size, all the digits of the dimension may not be shown. Even in such a case, information indicating that the different expressions and description contents have the same meaning is stored in the management table 1300.
  • the xyz coordinates of the display area by the stencil (label) are derived as the three-dimensional position of the display area by the stencil (label) is exemplified.
  • the three-dimensional position of the display area by the stencil (label) is not limited to the xyz coordinates.
  • the three-dimensional position of the display area by the stencil (label) may be a relative three-dimensional position with respect to the position of the first image pickup apparatus. In this case, it is not necessary to use the coordinates (x p , y p , z p ) of the point P indicating the three-dimensional position of the image pickup apparatus.
  • the three-dimensional position of the display area by the stencil (label) is the third even if it is expressed by the xyz coordinate.
  • the relative three-dimensional position with respect to the three-dimensional position of the image pickup apparatus of 1 is shown.
  • the identification information acquisition unit 1210 has a recognition unit 1202, an acquisition unit 1203, a collation unit 1204, and a specific unit 1205 is exemplified.
  • the identification information acquisition unit 1210 has acquired the identification information of the thick plate associated with the three-dimensional position derived by the position derivation unit 1206, it does not necessarily have to be the recognition unit 1202, the acquisition unit 1203, the collation unit 1204, and the identification unit. It is not necessary to have the unit 1205.
  • the identification information acquisition unit 1210 may have, for example, only the recognition unit 1202. Further, the identification information acquisition unit 1210 may have, for example, only the acquisition unit 1203.
  • the identification information acquisition unit 1210 may have, for example, only the recognition unit 1202 and the acquisition unit 1203.
  • the identification information acquisition unit 1210 may acquire the ID recognized by the recognition unit 1202 as the identification information of the plank.
  • the identification information acquisition unit 1210 may not have the acquisition unit 1203, the collation unit 1204, and the specific unit 1205.
  • the identification information acquisition unit 1210 may acquire the ID acquired by the acquisition unit 1203 as the identification information of the plank. In this case, the identification information acquisition unit 1210 may not have the recognition unit 1202, the collation unit 1204, and the specific unit 1205.
  • the identification information acquisition unit 1210 uses the recognition unit 1202 when the plate is specified only from the information recognized by the recognition unit 1202, and the article to be tracked is limited to one in advance. If so, the acquisition unit 1203 may be used. In this case, the identification information acquisition unit 1210 may not have the collation unit 1204 and the specific unit 1205 (may have only the recognition unit 1202 and the acquisition unit 1203).
  • the article is not limited to planks.
  • the article may be a product other than a plank.
  • the article may be a product displaying information controlled by the manufacturer.
  • the product may be, for example, a slab, a billet, a sheet coil, or a steel pipe. Further, it may be an article other than the manufactured product.
  • the article may be, for example, a container.
  • the embodiment of the present invention described above can be realized by executing a program by a computer. Further, a computer-readable recording medium on which the program is recorded and a computer program product such as the program can also be applied as an embodiment of the present invention.
  • the recording medium for example, a flexible disk, a hard disk, an optical disk, a magneto-optical disk, a CD-ROM, a magnetic tape, a non-volatile memory card, a ROM, or the like can be used.
  • the embodiment of the present invention may be realized by a PLC (Programmable Logic Controller) or by dedicated hardware such as an ASIC (Application Specific Integrated Circuit).
  • the tracking device 1200 includes a CPU 2101, a main storage device 2102, an auxiliary storage device 2103, a communication circuit 2104, a signal processing circuit 2105, an image processing circuit 2106, an I / F circuit 2107, a user interface 2108, a display 2109, and a bus.
  • a bus has 2110.
  • the CPU 2101 controls the entire tracking device 1200 in an integrated manner.
  • the CPU 2101 uses the main storage device 2102 as a work area to execute a program stored in the auxiliary storage device 2103.
  • the main storage device 2102 temporarily stores the data.
  • the auxiliary storage device 2103 stores various data in addition to the program executed by the CPU 2101.
  • the communication circuit 2104 is a circuit for communicating with the outside of the tracking device 1200.
  • the communication circuit 2104 may perform wireless communication or wired communication with the outside of the tracking device 1200.
  • the signal processing circuit 2105 performs various signal processing on the signal received by the communication circuit 2104 and the signal input according to the control by the CPU 2101.
  • the image processing circuit 2106 performs various image processing on the signal input according to the control by the CPU 2101.
  • the signal subjected to this image processing is output to, for example, the display 2109.
  • the user interface 2108 is a part where the operator gives an instruction to the tracking device 1200.
  • the user interface 2108 includes, for example, buttons, switches, dials, and the like. Further, the user interface 2108 may have a graphical user interface using the display 2109.
  • the display 2109 displays an image based on the signal output from the image processing circuit 2106.
  • the I / F circuit 2107 exchanges data with a device connected to the I / F circuit 2107.
  • FIG. 21 shows a user interface 2108 and a display 2109 as devices connected to the I / F circuit 2107.
  • the device connected to the I / F circuit 2107 is not limited to these.
  • a portable storage medium may be connected to the I / F circuit 2107.
  • at least a part of the user interface 2108 and the display 2109 may be outside the tracking device 1200.
  • the output unit 1208 is realized by using, for example, at least one of a communication circuit 2104 and a signal processing circuit 2105, and an image processing circuit 2106, an I / F circuit 2107, and a display 2109.
  • the CPU 2101, the main storage device 2102, the auxiliary storage device 2103, the signal processing circuit 2105, the image processing circuit 2106, and the I / F circuit 2107 are connected to the bus 2110. Communication between these components takes place via bus 2110. Further, the hardware of the tracking device 1200 is not limited to that shown in FIG. 21 as long as the functions of the tracking device 1200 described above can be realized.
  • the present invention can be used, for example, to track an article.

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Manufacturing & Machinery (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Mechanical Engineering (AREA)
  • Warehouses Or Storage Devices (AREA)
  • Image Analysis (AREA)

Abstract

トラッキング装置(1200)は、第1の撮像画像と、当該第1の撮像画像を撮像した第1の撮像装置の位置と、に基づいて、ステンシル(ラベル)による表示領域の三次元位置を導出し、当該三次元位置を示す情報を、当該厚板の識別情報と関連付けて記憶媒体に記憶する。

Description

トラッキング装置、トラッキング方法、トラッキングデータのデータ構造、およびプログラム
 本発明は、トラッキング装置、トラッキング方法、トラッキングデータのデータ構造、およびプログラムに関し、特に、物品をトラッキングするために用いて好適なものである。本願は、2020年11月30日に日本に出願された特願2020-198065号に基づき優先権を主張し、それらの内容を全てここに援用する。
 厚板を始めとする鉄鋼製品等の製造物は、様々な置場を移動する。そこで、製造物をトラッキングすることが行われる。トラッキングとは、対象物の位置を追跡して特定することである。
 特許文献1に記載の技術では、鋼板を降ろしたときの天井クレーンのX-Y座標を当該鋼板の鋼板番号と共に登録することにより鋼板のトラッキングを行う。
 また、特許文献2に記載の技術では、起重機の水平および垂直方向への移動並びに荷重検出等の動作に基づいて、定置場所算出プログラムにより、三次元座標により示される鋼材の定置場所を算出し、算出した定置場所を示す定置場所情報を当該鋼材の鋼材識別情報に対応付けて記憶する。
特許第5109451号公報 特許第3734419号公報
 しかしながら、特許文献1に記載の技術では、鋼板のトラッキングに用いる情報が天井クレーンのX-Y座標である。このため、天井クレーンで搬送することができる範囲でしかトラッキングを行うことができない。また、特許文献1に記載の技術では、天井クレーンのX-Y座標からZ座標を特定することができないので、例えば、複数の鋼板が積み重なる場合に、当該複数の鋼板を正確に特定することができない。
 また、特許文献2に記載の技術では、鋼材の三次元座標が算出される。しかしながら、特許文献1と同様に、起重機で搬送することができる範囲でしかトラッキングを行うことができない。また、特許文献2に記載の技術で算出される鋼材の三次元座標は、定置場所算出プログラムにより算出される定置場所の三次元座標である。従って、特許文献2に記載の技術では、定置場所算出プログラムで予め定められている定置場所でしか、鋼材をトラッキングすることができない。
 実際の製造現場においては、製造物は様々な搬送装置で搬送される。また、搬送装置を用いずに作業員が製造物を搬送することもある。また、置場番地が定められていない置場に製造物が置かれることがある。更に、製造物の置き方も様々である。特許文献1、2に記載の技術では、このような製造物をトラッキングすることが容易ではない。これらの課題は、製造物以外の物品においても同様に存在する。
 本発明は、以上のような問題点に鑑みてなされたものであり、物品のトラッキングの精度を向上させることを目的とする。
 本発明のトラッキング装置は、物品をトラッキングするトラッキング装置であって、前記物品に表示されている表示情報を含む領域の撮像画像を取得する1または2以上の画像取得手段と、前記物品の識別情報を取得する識別情報取得手段と、前記画像取得手段により取得された前記撮像画像に基づいて、前記表示情報が表示されている三次元位置である情報表示位置を導出する位置導出手段と、前記位置導出手段により導出された前記物品における前記情報表示位置を、前記識別情報取得手段により取得された当該物品の識別情報と関連付けて記憶媒体に記憶する記憶手段と、を有することを特徴とする。
 本発明のトラッキング方法は、物品をトラッキングするトラッキング方法であって、前記物品に表示されている表示情報を含む領域の撮像画像を取得する1または2以上の画像取得工程と、前記物品の識別情報を取得する識別情報取得工程と、前記画像取得工程により取得された前記撮像画像に基づいて、前記表示情報が表示されている三次元位置である情報表示位置を導出する位置導出工程と、前記位置導出工程により導出された前記物品における前記情報表示位置を、前記識別情報取得工程により取得された当該物品の識別情報と関連付けて記憶媒体に記憶する記憶工程と、を有することを特徴とする。
 本発明のトラッキングデータのデータ構造は、物品に表示される表示情報と、前記物品に表示されない非表示情報と、有し、前記非表示情報は、前記表示情報が表示されている三次元位置である情報表示位置を含み、トラッキング装置が、前記物品に表示されている表示情報を含む領域の撮像画像に基づいて、当該物品における前記情報表示位置を導出するために用いられる。
 本発明のプログラムは、物品をトラッキングする処理をコンピュータに実行させるためのプログラムであって、前記物品に表示されている表示情報を含む領域の撮像画像を取得する1または2以上の画像取得工程と、前記物品の識別情報を取得する識別情報取得工程と、前記画像取得工程により取得された前記撮像画像に基づいて、前記表示情報が表示されている三次元位置である情報表示位置を導出する位置導出工程と、前記位置導出工程により導出された前記物品における前記情報表示位置を、前記識別情報取得工程により取得された当該物品の識別情報と関連付けて記憶媒体に記憶する記憶工程と、をコンピュータに実行させることを特徴とする。
図1は、工場における製品の流れの一例を説明する図である。 図2は、厚板に対する表示領域の一例を示す図である。 図3Aは、ステンシルによる表示内容の一例を示す図である。 図3Bは、ラベルによる表示内容の一例を示す図である。 図4は、輸送船に対して厚板が荷積みおよび荷下ろしされる様子の一例を示す図である。 図5は、厚板が荷役装置で吊り上げられている様子をガータの延設方向(y軸方向)から見た図である。 図6Aは、厚板の搬送形態の第1の例を示す図である。 図6Bは、厚板の搬送形態の第2の例を示す図である。 図6Cは、厚板の搬送形態の第3の例を示す図である。 図6Dは、厚板の搬送形態の第4の例を示す図である。 図6Eは、厚板の搬送形態の第5の例を示す図である。 図7は、輸送車両に対して厚板が荷積みおよび荷下ろしされる様子の一例を示す図である。 図8は、輸送車両に厚板が荷積みされた状態の一例を示す図である。 図9Aは、工場内の置場に置かれた厚板の様子の第1の例を示す図である。 図9Bは、工場内の置場に置かれた厚板の様子の第2の例を示す図である。 図9Cは、工場内の置場に置かれた厚板の様子の第3の例を示す図である。 図10は、生産設備で厚板が処理される様子の一例を示す図である。 図11は、元の厚板と、切断後の厚板の一例を示す図である。 図12は、トラッキング装置の機能的な構成の一例を示す図である。 図13は、管理テーブルの一例を示す図である。 図14は、ステンシルの物品内位置と、ステンシルによる表示における各表示項目の構成要素の位置の一例を示す図である。 図15は、ラベルの物品内位置と、ラベルによる表示における各表示項目の構成要素の位置の一例を示す図である。 図16Aは、管理テーブルに記憶される情報の第1の例を示す図である。 図16Bは、管理テーブルに記憶される情報の第2の例を示す図である。 図17は、厚板をトラッキングする際のトラッキング装置の処理の一例を説明するフローチャートである。 図18は、ステンシルによる表示領域の三次元位置を導出する方法の一例を説明する図である。 図19は、ステンシルによる表示領域の高さ方向(z軸方向)の位置を導出する方法の一例を説明する図である。 図20は、ステンシルによる表示領域の三次元位置を導出する方法の変形例を説明する図である。 図21は、トラッキング装置のハードウェアの構成の一例を示す図である。
 以下、図面を参照しながら、本発明の一実施形態を説明する。
 尚、長さ、位置、大きさ、間隔等、比較対象が同じであることは、厳密に同じである場合の他、発明の主旨を逸脱しない範囲で異なるもの(例えば、設計時に定められる公差の範囲内で異なるもの)も含むものとする。
<工場の概要>
 本実施形態では、複数の製鉄所で製造された各種の厚板(例えば厚鋼板)に対して、熱処理や切断等の各種の処理を行う工場を含む場所において、当該厚板をトラッキングする場合を例示する。図1は、本実施形態の適用対象の工場における製品の流れの一例を説明する図である。
 図1において、製鉄所で製造された厚板は輸送船に荷積みされる。その後輸送船は、工場の近くの岸壁に着岸する。厚板は、輸送船から荷下ろしされ、輸送車両(トラック等)に荷積みされる。輸送車両により輸送された厚板は、工場に入荷すると、工場内の置場に置かれる。置場に置かれた厚板は、熱処理や切断(ガス切断)等の処理が施された後、倉庫に置かれる。その後、厚板は、工場から需要家に向けて出荷される。
<着想>
 以上のようにして搬送される厚板の位置を、特許文献1、2に記載の技術のように、搬送機器の動作に基づいてトラッキングすると、トラッキングすることができる範囲に制約が生じる。そこで、本発明者らは、現品管理(各厚板の位置の管理)のために、厚板には、当該厚板の製造メーカによって管理されている情報が表示されていることに着目した。このような情報の表示位置をトラッキングすることは、厚板をトラッキングすることと等価である。そして、このような厚板の製造メーカによって管理されている情報を特定することができれば、厚板を識別することができる。本実施形態は、このような思想に基づいてなされたものである。
<厚板に対して施される表示>
 図2は、厚板に対する表示領域の一例を示す図である。尚、図2に示すx軸、y軸、z軸は、図2と、後述する図3A、図3B、図14~図15、図18~図20との向きの関係を示すものであり、図4および図5に示すx-y-z座標の向きとは必ずしも対応しない。尚、x-y-z座標は、例えば、世界座標系で表される座標である。
 図2において、表示領域201は、ステンシルによる表示領域である。図2に示す例では、ステンシルによる表示領域201は、厚板の板面に存在する。尚、図2に示す破線は仮想線であり、実際には表示されない。図2に示す例では、ラベル(サイドラベル)202は、厚板の側面(板厚部分)に貼り付けられる。
 図3Aは、ステンシルによる表示内容の一例を示す図である。尚、前述したように図3Aに示すx-y-z座標は、図2等との向きの関係を示すものである。また、図3Aに示すx-y-z座標において、白丸(〇)の中に黒丸(●)を付している記号は、紙面の奥側から手前側に向かうことを示す。このようなx-y-z座標の表記は、その他の図でも同じである。
 図3Aに示す例では、ステンシルによる表示には、マーク301、需要家名302、規格303、サイズ304、ID305、需要家コード306、および注文番号307が含まれる。
 マーク301は、厚板の製造メーカを表すマークである。需要家名302は、厚板の需要家(購入者)を示す情報である。規格303は、厚板の規格を示す情報である。サイズ304は、厚板のサイズ(例えば、厚み×幅×長さ)を示す情報である。ID305は、厚板を一意に識別するための情報であり、図3Aに示す例では、板番号(厚板の識別番号)である。従って、同じIDが異なる厚板に付されることはない。需要家コード306は、厚板の製造メーカが需要家から厚板に対して付すことが指定された情報である。注文番号307は、需要家からの厚板の注文を識別するための番号の一部である。
 マーク301、需要家名302、規格303、サイズ304、ID305、需要家コード306、および注文番号307は、厚板に対して一般的に表示され得る情報である。尚、ID305以外の情報は、ステンシルによる表示に含まれていなくてもよい。また、前述した情報以外の情報が、ステンシルによる表示に含まれていてもよい。
 尚、例えば、需要家によって、需要家コード306の桁数が異なったり、厚板を製造する製鉄所によって規格303の表記方法が異なったりする。また、例えば、注文番号307は、需要家によって付される場合と付されない場合とがある。また、表示項目の大きさも、厚板を製造する製鉄所によって異なる場合がある。また、ステンシルによる表示領域の位置も、厚板を製造する製鉄所によって異なる場合がある。このように、ステンシルによる表示の内容、位置、および大きさは、厚板を製造する製鉄所および需要家等によって異なる。
 マーク301、需要家名302、規格303、サイズ304、ID305、需要家コード306、および注文番号307は、厚板の製造メーカで管理される情報である。また、マーク301、需要家名302、規格303、サイズ304、ID305、需要家コード306、および注文番号307は、人が識別可能な情報である。人が識別可能な情報とは、人が当該情報を見た場合に当該情報の意味を理解できることを指す。バーコードおよび2次元コードのように、情報の作成および読み取りに、機械によるエンコードおよびデコードが必要となる情報は、人が識別可能な情報ではない。具体的に、マーク301、需要家名302、規格303、サイズ304、ID305、需要家コード306、および注文番号307は、読み取りに機械によるデコードが不要な情報として、文字、数字、および記号の少なくとも1つを含み、読み取りに機械によるデコードが必要な情報を含まない。
 図3Bは、ラベルによる表示内容の一例を示す図である。尚、前述したように図3Bに示すx-y-z座標は、図2等との向きの関係を示すものである。また、図3Bに示すx-y-z座標において、白丸の中に×を付している記号は、紙面の手前側から奥側に向かう方向を示す。このようなx-y-z座標の表記は、その他の図でも同じである。
 図3Bに示す例では、ラベルによる表示には、規格311、ID312、サイズ313、納期314、および需要家コード315が含まれる。納期314は、厚板の納期を示す情報である。規格311、ID312、サイズ313、需要家コード315は、それぞれ、規格303、サイズ304、ID305、需要家コード306と同じものである。尚、ID312以外の情報は、ラベルによる表示に含まれていなくてもよい。また、前述した情報以外の情報が、ラベルによる表示に含まれていてもよい。ラベルによる表示の内容、位置、および大きさも、ステンシルによる表示と同様に、厚板を製造する製鉄所および需要家等によって異なる。
 ただし、同一の厚板に対する同一の表示項目が意味する内容は、ステンシルによる表示と、ラベルによる表示とで同じにする。従って、図3Aに示すステンシルによる表示と、図3Bに示すラベルによる表示とが同じ厚板に対して行われる場合、ステンシルにより表示されるID305と、ラベルにより表示されるID312とは同じ内容を意味するものとなる。また、ステンシルにより表示される規格303と、ラベルに表示される規格311とは同じ内容を意味するものとなる。サイズ313、需要家コード315についても、それぞれ、サイズ304、需要家コード306と同じ内容を意味するものになる。前述したように、規格303、ID305、サイズ304、および需要家コード306は、厚板の製造メーカで管理される情報である。従って、規格311、ID312、サイズ313、および需要家コード315も、厚板の製造メーカで管理される情報である。また、厚板の納期314も、厚板の製造メーカで管理される情報である。また、規格311、ID312、サイズ313、納期314、および需要家コード315は、人が識別可能な情報である。
 尚、厚板には、以上のような表示の他に、例えば、刻印による表示が施されることがある。
<厚板の搬送形態>
<<輸送船による輸送>>
 図4は、輸送船に対して厚板が荷積みおよび荷下ろしされる様子の一例を示す図である。図4では、輸送船400に対して、ガントリークレーン410を用いて厚板を荷積みおよび荷下ろしされる場合を例示する。図5は、厚板420が荷役装置411で吊り上げられている様子をガータ412の延設方向(y軸方向)から見た図である。図4および図5に示すx-y-z座標は、図4および図5の向きの関係を示すものである。
 ガントリークレーン410は、荷役装置(トロリー等)411、ガータ(横行桁)412、および脚構造物413を有する、荷役装置411は、搬送対象物を吊り上げた状態で、ガータ412の延設方向(y軸方向)に沿って移動する。図4では、厚板420が、荷役装置411で吊り上げられ移動する様子を示す。厚板420が荷役装置411で吊り上げられている様子をガータ412の延設方向(y軸方向)から見ると、図5に示すようになる。
 尚、図4および図5では、荷役装置411により、1枚の厚板420が吊り上げられる様子を例示する。しかしながら、荷役装置411による厚板の搬送形態は、このような搬送形態に限定されない。図6A~図6Eは、厚板の搬送形態の第1~第5の例を示す図である。図6A~図6Eでは、荷役装置411をより簡略化して示す。
 図6Aでは、水平面(x-y平面)方向に2枚の厚板が並べられた状態で荷役装置411により同時に搬送されている状態を例示する。図6Bでは、荷役装置411のtop側(x軸の負の方向側)において1枚の厚板が搬送されている状態を例示する。図6Cでは、荷役装置411のbottom側(x軸の正の方向側)において1枚の厚板が搬送されている状態を例示する。図6Dでは、荷役装置411の中央において1枚の厚板が搬送されている状態を例示する。図6Eでは、複数枚(2枚)の厚板が積み重ねられた状態で荷役装置411により同時に搬送されている状態を例示する。このように、本実施形態では、複数枚の厚板が積み重ねられた状態で同時に搬送されている場合がある。
 以上のように、荷役装置411による厚板の搬送形態は限定されない。また、荷役装置411による厚板の吊り上げの手法は、マグネットによる磁気吸引力を利用した手法でも、ハッカーを利用した手法でも、その他の手法でもよい。
 ガントリークレーン410自体は、公知の技術で説明することができるので、ここでは詳細な説明を省略する。
 製鉄所で製造された厚板は、岸壁に運ばれ、ガントリークレーン410で搬送可能な所定の置場に置かれる。図4に示すように複数枚の厚板は、積み重ねられた状態で所定の置場に置かれる場合がある。厚板が1枚ずつ所定の置場に置かれる場合もある。また、図4等では、表記の都合上、複数枚の厚板の厚み(板厚)が同じである場合を例示する。しかしながら、複数枚の厚板の厚みが異なる場合がある。即ち、所定の置場に置かれる厚板の厚み、幅、および長さの少なくとも1つが異なる場合がある。
 図4では、厚板の板面が、厚板が置かれる面と平行となるように複数の厚板を重ねて置く場合を例示する。ただし、厚板を重ねて置く方法は、このような方法に限定されない。例えば、厚板の板面が、厚板が置かれる面と垂直または垂直に近い角度となるように複数の厚板を重ねて置く場合もある。このことは、岸壁の所定の置場以外の位置においても同じである。
 本実施形態では、ガータ412および脚構造物413に、第1の撮像装置430a~430fが取り付けられている。第1の撮像装置430a~430fの数および位置は、厚板のステンシルによる表示領域201およびラベル202による表示領域としてできるだけ多くの厚板の表示領域が撮像されるように設定される。また、荷役装置411にも、第1の撮像装置430g~430mが取り付けられている。第1の撮像装置430a~430mの数および位置は、第1の撮像装置430a~430mの少なくとも1つの撮像装置で、ガントリークレーン410により搬送中の厚板420のステンシルによる表示領域201およびラベル202による表示領域の少なくとも一方が可及的に撮像されるように設定される。
 第1の撮像装置430a~430mは、撮像条件(撮像方向、画角、ズーム倍率、および絞り(F値)等)を調整することが可能となっている。当該撮像条件の調整は、オペレータ(作業員)が第1の撮像装置を操作することにより行われても、外部装置からの指示に基づいて自動的に行われてもよい。また、例えば、ガータ412に取り付けられる第1の撮像装置430g~430mのうち、搬送中の厚板420に近い位置に取り付けられる第1の撮像装置430i~430mは、ファイバースコープカメラであってもよい。ファイバースコープカメラを用いれば、例えば、搬送中の厚板420のステンシルによる表示領域201およびラベル202による表示領域を接写することができる。
 尚、第1の撮像装置によって撮像される撮像画像は、静止画像に限定されず、動画像であってもよい。第1の撮像装置によって撮像される撮像画像が動画像である場合、第1の撮像装置によって撮像された動画像から取り出された画像(すなわち、動画像のフレームの画像)が後述するトラッキング装置1200で用いられる。このようにする場合、第1の撮像装置によって撮像された動画像から、第1の撮像装置で撮像される被写体にできるだけピントが合った静止画像が取り出されるようにするのが好ましい。このように撮像装置によって撮像される撮像画像が静止画像に限定されないことは、後述する第2の撮像装置~第7の撮像装置においても同じである。
 製鉄所から搬送された厚板は、ガントリークレーン410の所定の置場に置かれる。ガントリークレーン410の所定の置場に置かれた厚板の、ステンシルによる表示領域201を含む領域が、第1の撮像装置430c~430fにより撮像される。オペレータ(作業員)は、ガントリークレーン410の操作室にある情報処理端末や、ガントリークレーン410のオペレータ(作業員)の手持ちの情報処理端末(タブレット端末等)を操作して、第1の撮像装置430c~430fに対してプレビュー画像の表示指示を行う。第1の撮像装置430c~430fは、プレビュー画像の表示指示に基づいて、プレビュー画像を、当該情報処理端末に送信する。そうすると、当該情報処理端末によりプレビュー画像が表示される。オペレータ(作業員)は、当該情報処理端末を操作して、撮影すべきステンシルによる表示領域が表示されたプレビュー画像を撮像している第1の撮像装置に対して撮像指示を行う。第1の撮像装置430c~430fは、撮像指示を受信すると、ステンシルによる表示領域201を含む領域の撮像画像を撮像する。尚、プレビュー画像は、オペレータ(作業員)による確認のために表示されるライブ画像であり、プレビュー画像の表示指示に基づいて表示されるものとする。撮像画像は、プレビュー画像が表示されているときに撮像指示に基づいて撮像される画像であるものとする。また、ここでは、プレビュー画像を表示する場合を例示するが、必ずしもプレビュー画像を表示する必要はない。
 複数枚の厚板が積み重ねられて同時に搬送される場合、下にある厚板については、ステンシルによる表示領域201を含む領域を撮像することができない。この場合、ステンシルによる表示領域201を含む領域の撮像画像に代えて、ラベル202による表示領域を含む領域の撮像画像が撮像される。
 厚板が置かれる位置によっては、ステンシルによる表示領域201およびラベル202による表示領域が、第1の撮像装置430c~430fの撮像範囲に含まれない場合がある。この場合、オペレータ(作業員)は、第1の撮像装置を備える無人航空機(ドローン)440a~440bを操作して、所望の厚板の、ステンシルによる表示領域201を含む領域(またはラベル202による表示領域を含む領域)の撮像画像を、第1の撮像装置を用いて撮像してもよい。また、オペレータ(作業員)の手持ちの第1の撮像装置により、所望の厚板の、ステンシルによる表示領域201を含む領域(またはラベル202による表示領域を含む領域)の撮像画像を撮像してもよい。尚、オペレータ(作業員)の手持ちの第1の撮像装置は、例えば、第1の撮像装置を備える情報端末装置(タブレット端末やスマートフォン等)であってもよい。
 尚、前述した第1の撮像装置430c~430fによるプレビュー画像の表示と撮像画像の撮像は、第1の撮像装置430c~430f以外の第1の撮像装置430a~430b、430g~430wにおいても同様に実行される。また、複数枚の厚板が積み重ねられて同時に搬送される場合に、ラベル202による表示領域を含む領域の撮像画像を撮像することは、第1の撮像装置430c~430f以外の第1の撮像装置430a~430b、430g~430wにおいても同様に実行される。また、ステンシルによる表示領域201およびラベル202による表示領域が、第1の撮像装置430c~430fの撮像範囲に含まれない場合の撮像の方法は、第1の撮像装置430c~430f以外の第1の撮像装置430a~430b、430g~430wについても同じである。従って、以下において、第1の撮像装置430c~430f以外の第1の撮像装置430a~430b、430g~430wについてのこれらの詳細な説明を省略する。
 厚板は、ガントリークレーン410の所定の置場に置かれた後、ガントリークレーン410により輸送船400に荷積みされる。複数枚の厚板が積み重ねられた状態で同時に輸送船400に荷積みされる場合がある。厚板が1枚ずつ輸送船400に荷積みされる場合もある。また、輸送船400に荷積みされる厚板の厚み、幅、および長さの少なくとも1つが異なる場合がある。
 ガントリークレーン410により搬送中の厚板の、ステンシルによる表示領域201を含む領域の撮像画像が、荷役装置411に取り付けられている第1の撮像装置430g~430mにより撮像される。
 厚板が輸送船400に荷積みされると、当該厚板の、ステンシルによる表示領域201を含む領域の撮像画像が、ガータ412に取り付けられている第1の撮像装置430a~430bまたは輸送船400に取り付けられている第1の撮像装置430nにより撮像される。輸送船400に取り付けられている第1の撮像装置430nも、第1の撮像装置430a~430mと同様に、撮像条件(撮像方向、画角、ズーム倍率、および絞り(F値)等)を調整することが可能となっている。尚、図4では、表記の都合上、輸送船400に取り付けられる第1の撮像装置の数を1つとしている。しかしながら、輸送船400には、厚板が置かれる領域が撮像範囲に含まれるように複数の第1の撮像装置が取り付けられている。
 以上のようにして厚板が荷積みされた輸送船400は、工場の近くの岸壁に着岸する。前述したように輸送船400から厚板が荷下ろしされる。前述したように本実施形態では、ガントリークレーン410を用いて厚板が荷下ろしされる。ガントリークレーン410により搬送中の厚板についても、輸送船400に荷積みする場合と同様にして撮像画像が撮像される。また、ガンドリークレーン410により荷下ろしされ、ガンドリークレーン410の所定の置場に置かれると、当該厚板についても、製鉄所から搬送されてガントリークレーン410の所定の置場に置かれる場合と同様にして撮像画像が撮像される。
<<輸送車両による輸送>>
 ガンドリークレーン410の所定の置場に置かれた厚板は、輸送車両に荷積みされる。図7は、輸送車両に対して厚板が荷積みおよび荷下ろしされる様子の一例を示す図である。ガンドリークレーン410の所定の置場に置かれた厚板は、不図示のクレーン等を用いて輸送車両700に荷積みされる。図7に示すように複数枚の厚板が積み重ねられた状態で同時に輸送車両700に荷積みされる場合がある。ただし、厚板が1枚ずつ輸送車両700に荷積みされる場合もある。また、輸送車両700に荷積みされる厚板の厚み、幅、および長さの少なくとも1つが異なる場合がある。また、図6A~図6Eに示したようにして厚板を搬送して輸送車両700に荷積みしてもよい。
 図8は、輸送車両700に厚板が荷積みされた状態の一例を示す図である。輸送車両700の待機位置に設置されている構造物に第1の撮像装置430o~430pが取り付けられている。第1の撮像装置430o~430pの数および位置は、輸送車両700に荷積みされた厚板のステンシルによる表示領域201およびラベル202による表示領域として可及的に多くの厚板の表示領域が撮像されるように設定される。また、輸送車両700にも第1の撮像装置430qが取り付けられている。第1の撮像装置430o~430qも、第1の撮像装置430a~430mと同様に、撮像条件(撮像方向、画角、ズーム倍率、および絞り(F値)等)を調整することが可能となっている。
 輸送車両700に荷積みされた厚板の、ステンシルによる表示領域201を含む領域が、第1の撮像装置430o~430qにより撮像される。
<<工場内における搬送>>
 以上のようにして厚板が荷積みされた輸送車両700が工場に到着すると、輸送車両700から厚板が荷下ろしされる。輸送車両700に荷積みされた厚板は、不図示のクレーン等を用いて輸送車両700から荷下ろしされる。図7に示すように複数枚の厚板が積み重ねられた状態で同時に輸送車両700から荷下ろしされる場合がある。ただし、厚板が1枚ずつ輸送車両700から荷下ろしされる場合もある。また、輸送車両700から荷下ろしされる厚板の厚み、幅、および長さの少なくとも1つが異なる場合がある。また、図6A~図6Eに示したようにして厚板を搬送して輸送車両700から荷下ろしされてもよい。尚、輸送船400からガントリークレーン410の所定の置場に厚板を搬送する際に用いる搬送機器(ガントリークレーン410)と、輸送車両700から工場内の置場に厚板を搬送する際に用いる搬送機器(不図示のクレーン等)とは異なる搬送機器である。このように、或る搬送機器で或る置場に搬送された厚板は、当該或る搬送機器とは別の搬送機器で、当該或る搬送機器では搬送することができない別の置場に搬送される場合がある。このことは、工場内の各置場間等のその他の置場間において厚板を搬送する場合においても同じである。
 図9A~図9Cは、工場内の置場に置かれた厚板の様子の第1~第3の例を示す図である。工場内の置場に設置されている構造物に第1の撮像装置430r~430wが取り付けられている。図9A~図9Cに示すように、厚板は、工場内の置場に様々な態様で置かれる。そこで、第1の撮像装置430r~430wの数および位置は、置場に置かれた厚板のステンシルによる表示領域201およびラベル202による表示領域として可及的に多くの厚板の表示領域が撮像されるように設定される。第1の撮像装置430r~430wも、第1の撮像装置430a~430mと同様に、撮像条件(撮像方向、画角、ズーム倍率、および絞り(F値)等)を調整することが可能となっている。
 工場内の置場に置かれた厚板の、ステンシルによる表示領域201を含む領域が、第1の撮像装置430r~430wにより撮像される。
 厚板が入荷用の置場に置かれると、当該厚板の、ステンシルによる表示領域201(またはラベル202による表示領域)を含む領域が、前述したように第1の撮像装置430r~430wにより撮像される。
 その後、厚板は、生産設備に搬送される。図10は、生産設備で厚板が処理される様子の一例を示す図である。図10において生産設備1000は、例えば、熱処理を行うための設備、および、ガス切断を行うための設備である。図10では、搬送ロール1001を用いて厚板1002a、1002bが搬送される場合を例示する。尚、置場と搬送ロール1001との間の厚板の搬送は、不図示の搬送装置等を用いることにより実現される。
 工場の生産ラインに設置されている構造物に第1の撮像装置430x~430yが取り付けられている。第1の撮像装置430x~430yの数および位置は、厚板1002a、1002bのステンシルによる表示領域201が撮像されるように設定される。第1の撮像装置430x~430yも、第1の撮像装置430a~430mと同様に、撮像条件(撮像方向、画角、ズーム倍率、および絞り(F値)等)を調整することが可能となっている。尚、搬送ロール1001上を搬送される厚板1002a、1002bは、重ねられることはないものとする。また、搬送ロール1001上の厚板1002a、1002bの搬送経路は、予め想定される。このため、本実施形態では、第1の撮像装置430x~430yにより、厚板1002a、1002bのステンシルによる表示領域201が撮像されないことはないものとする。ただし、第1の撮像装置を備える無人航空機を用いて、厚板1002a、1002bのステンシルによる表示領域201を撮像してもよい。尚、図10において、破線は、搬送ロール1001上の厚板1002a、1002bの搬送経路を示し、実在するものではない。
 工場内の置場から搬送された厚板1002aは、搬送ロール1001に載せられ、搬送ロール1001により搬送される。生産設備1000に入る前に搬送ロール1001上を搬送中の厚板1002aの、ステンシルによる表示領域201を含む領域が、第1の撮像装置430xにより撮像される。また、生産設備1000において処理が終了して生産設備1000から出た後に、搬送ロール1001上を搬送中の厚板1002bの、ステンシルによる表示領域201を含む領域が、第1の撮像装置430yにより撮像される。
 その後、厚板は、倉庫内において、図9A~図9Cに例示するような置場に置かれる。前述したように、工場内の置場に置かれた厚板の、ステンシルによる表示領域201(またはラベル202による表示領域)を含む領域が、第1の撮像装置430r~430wにより撮像される。出荷時においては、厚板は、倉庫から出荷用の置場に移動される。出荷用の置場に置かれた厚板の、ステンシルによる表示領域201(またはラベル202による表示領域)を含む領域が、第1の撮像装置430r~430wにより撮像される。
 工場内の各置場においても、複数枚の厚板が積み重ねられた状態で置かれる場合がある。厚板が1枚ずつ工場内の各置場に置かれる場合もある。また、工場内の各置場に置かれる厚板の厚み、幅、および長さの少なくとも1つが異なる場合がある。
 図11は、元の厚板と、切断後の厚板の一例を示す図である。図11では、厚板1100が切断されて、厚板1110、1120、1130、1140が製造された場合を例示する。このようにして厚板1110、1120、1130、1140が製造された後、それぞれの厚板1110、1120、1130、1140に対して表示が施される。図11では、厚板1110、1120、1130、1140に対する表示領域1111、1121、1131、1141を示す。表示領域1111、1121、1131、1141には、厚板1110、1120、1130、1140のIDを含む情報が表示される。表示領域1111、1121、1131、1141には、例えば、ステンシルによる表示が行われる。ステンシルによる表示に加えて、刻印による表示およびラベルによる表示の少なくとも一方を行ってもよい。また、表示領域1111、1121、1131、1141における表示は、手書きによる表示であってもよい。
 また、表示領域1111、1121、1131、1141に、元の厚板1100のIDが表示されていてもよい。表示領域1111、1121、1131、1141には、例えば、ステンシルによる表示が行われる。ただし、表示領域1111、1121、1131、1141における表示は、手書きによる表示であってもよい。このことは、表示領域201に対する表示や、ラベル202による表示についても同じである。以下では、表示領域1111、1121、1131、1141は、ステンシルによる表示領域であるものとする。
 厚板1110、1120、1130、1140が製造された場合、例えば、オペレータ(作業員)の手持ちの第1の撮像装置により、所望の厚板の、ステンシルによる表示領域1111、1121、1131、1141を含む領域の撮像画像を撮像してもよい。尚、オペレータ(作業員)の手持ちの第1の撮像装置は、例えば、第1の撮像装置を備える情報端末装置(タブレット端末やスマートフォン等)であってもよい。また、オペレータ(作業員)は、第1の撮像装置を備える無人航空機を操作して、所望の厚板の、ステンシルによる表示領域1111、1121、1131、1141を含む領域の撮像画像を、当該第1の撮像画像により撮像してもよい。
 以上のように本実施形態では、少なくとも、輸送船400に置かれたときと、輸送船400から荷下ろしされ輸送車両700に荷積みされたときと、ガントリークレーン410および工場の各置場に置かれたときに、各厚板の、ステンシルによる表示領域201、1111、1121、1131、1141を含む領域、ラベル202による表示領域を含む領域の撮像画像が得られる場合を例示する。
 本実施形態では、以上のようにして撮像される撮像画像を用いて、トラッキング装置により厚板の位置を自動的にトラッキングする。尚、厚板が1枚ずつ搬送される場合には、ステンシルによる表示領域201を撮像することができるので、ラベル202による表示領域を含む領域の撮像画像は不要になる。以下の説明では、ステンシルによる表示およびラベル202による表示を総称する場合、必要に応じて、ステンシル(ラベル)による表示と表記する。また、ステンシルによる表示領域201、1111、1121、1131、1141およびラベル202による表示領域を総称する場合、必要に応じて、ステンシル(ラベル)による表示領域と表記する。
<トラッキング装置>
 図12は、トラッキング装置1200の機能的な構成の一例を示す図である。トラッキング装置1200のハードウェアは、例えば、CPU、ROM、RAM、HDD、および各種のインターフェースを備える情報処理装置、または専用のハードウェアを用いることにより実現される。図13は、トラッキング装置1200により管理される管理テーブル1300の一例を示す図である。
 図12に示すように本実施形態では、トラッキング装置1200は、第1の画像取得部1201と、認識部1202と、入手部1203と、照合部1204と、特定部1205と、位置導出部1206と、記憶部1207と、出力部1208と、第2の画像取得部1209と、を有する。
 第1の画像取得部1201は、ステンシル(ラベル)による表示領域を含む領域の第1の撮像画像を取得する。認識部1202は、第1の画像取得部1201で取得された第1の撮像画像から、ステンシル(ラベル)による表示における表示項目の構成要素、位置等を認識する。入手部1203は、後述する管理テーブル1300において現品表示の欄のIDの欄に記憶されている情報を入手する。照合部1204は、認識部1202で認識された情報と、入手部1203で入手された情報とを照合する。特定部1205は、照合部1204における照合の結果に基づいて、管理テーブル1300において管理されている厚板から1つの厚板を特定する。本実施形態では、厚板の識別情報を取得する識別情報取得部1210は、認識部1202、入手部1203、照合部1204、および特定部1205を有する。位置導出部1206は、ステンシル(ラベル)による表示領域のx-y-z座標(三次元座標)を、特定部1205で特定された厚板の三次元位置として導出する。記憶部1207は、当該厚板の三次元位置を示す情報を管理テーブル1300に記憶する。出力部1208は、当該厚板の三次元位置を示す情報を出力する。第2の画像取得部1209は、位置導出部1206において、ステンシル(ラベル)による表示領域の高さ方向(z軸方向)の位置を特定するための第2の撮像画像を取得する。トラッキング装置1200の詳細の一例については、図17のフローチャートを参照しながら後述する。
 図13において、管理テーブル1300には、トラッキング装置1200が厚板をトラッキングするために用いる情報が記憶される。管理テーブル1300に記憶される情報には、厚板の製造メーカで管理される情報が含まれる。ただし、管理テーブル1300に記憶される情報の一部は、流通等においても活用できる情報であってもよい。ここで、厚板の製造メーカで管理される情報とは厚板の製造メーカが設定または取得した情報である。厚板の製造メーカで管理される情報には、厚板の製造メーカの従業員であるオペレータが当該情報の意味を理解できる情報が含まれる。より具体的には、厚板の製造メーカで管理される情報は、例えば、厚板の製造メーカによって作成され、管理テーブル1300に記憶された情報である。本実施形態では、管理テーブル1300に記憶されている情報が、トラッキングデータの一例であり、管理テーブル1300に各情報を格納することにより、トラッキングデータのデータ構造の一例が実現される。
 図13において、同一の列における情報が同一の厚板に対する識別情報になる(同一のNo.の下の欄は、同一の厚板に対する識別情報がそれぞれ記憶される欄になる)。
 図13において、現品表示の欄には、ステンシル(ラベル)による表示の各表示項目に関する情報が記憶される。非現品表示の欄には、ステンシル(ラベル)による表示の各表示項目に関する情報以外の情報が記憶される。本実施形態では、現品表示の欄に記憶される情報がトラッキングデータに含まれる表示情報の一例であり、非現品表示の欄に記憶される情報がトラッキングデータに含まれる非表示情報の一例である。
 管理テーブル1300の現品表示の欄に記憶される情報の一例について説明する。
 現品表示の欄において、ステンシルの欄には、ステンシルに関する情報が記憶される。
 ステンシルの欄のIDの欄には、ステンシルによる表示に含まれるID305の構成要素の内容および位置を示す情報が記憶される。尚、構成要素とは、文字、数字、記号、マーク等、表示項目を構成する個々の情報を指す。
 ステンシルの欄の需要家名の欄には、ステンシルによる表示に含まれる需要家名302の構成要素の内容および位置を示す情報が記憶される。
 ステンシルの欄のサイズの欄には、ステンシルによる表示に含まれるサイズ304の構成要素の内容および位置を示す情報が記憶される。
 ステンシルの欄の規格の欄には、ステンシルによる表示に含まれる規格303の構成要素の内容および位置を示す情報が記憶される。
 ステンシルの欄の需要家コードの欄には、ステンシルによる表示に含まれる需要家コード306の構成要素の内容および位置を示す情報が記憶される。
 ステンシルの欄の注文番号の欄には、ステンシルによる表示に含まれる注文番号307の構成要素の内容および位置を示す情報が記憶される。
 以上のステンシルによる表示における表示項目の他に、ステンシルによる表示の表示項目として表示される可能性のある表示項目の内容も、管理テーブル1300に記憶される。図13のステンシルの欄の追加情報の欄の下の「・・・」は、このことを示す。また、表示項目自体は追加および/または削除されてもよい。
 現品表示の欄において、ラベルの欄には、ラベルに関する情報が記憶される。
 ラベルの欄のIDの欄には、ラベルによる表示に含まれるID312の構成要素の内容および位置を示す情報が記憶される。
 ラベルの欄のサイズの欄には、ラベルによる表示に含まれるサイズ313の構成要素の内容および位置を示す情報が記憶される。
 ラベルの欄の規格の欄には、ラベルによる表示に含まれる規格311の構成要素の内容および位置を示す情報が記憶される。
 ラベルの欄の納期の欄には、ラベルによる表示に含まれる納期314の構成要素の内容および位置を示す情報が記憶される。
 ラベルの欄の需要家コードの欄には、ラベルによる表示に含まれる需要家コード315の構成要素の内容および位置を示す情報が記憶される。
 以上のラベルによる表示における表示項目の他に、ラベルによる表示の表示項目として表示される可能性のある表示項目の内容も、管理テーブル1300に記憶される。図13のラベルの欄の需要家コードの欄の下の「・・・」は、このことを示す。また、表示項目自体は追加および/または削除されてもよい。
 次に、管理テーブル1300の非現品表示の欄に記憶される情報の一例について説明する。
 物品内位置の欄には、厚板における所定の位置を原点(基準)とした場合の表示領域の位置を示す情報が記憶される。
 物品内位置の欄のステンシルの欄には、厚板における所定の位置を原点(基準)とした場合の、ステンシルによる表示領域の位置を示す情報が記憶される。
 物品内位置の欄のラベルの欄には、厚板における所定の位置を原点(基準)とした場合の、ラベルによる表示領域の位置を示す情報が記憶される。
 物品位置の欄には、厚板の三次元位置を示す情報が記憶される。物品位置の欄に記憶される情報は、トラッキング装置1200により特定された厚板の三次元位置を示す情報である。従って、トラッキング装置1200により特定される同一の厚板の三次元位置は、トラッキングの進行(厚板の移動)に伴い、x座標およびy座標だけでなくz座標も変わる場合がある。よって、トラッキング装置1200により特定される同一の厚板の情報表示位置の三次元位置も、トラッキングの進行(厚板の移動)に伴い、x座標およびy座標(水平面方向の位置)だけでなくz座標(高さ方向の位置)も変わる場合がある。
 登録時刻の欄には、厚板が現在の位置に置かれた日時(日付と時刻とから定まるタイミング)を示す情報が記憶される。
 親IDの欄には、元の厚板のIDを示す情報が記憶される。工場において厚板が切断されることがある。元の厚板とは、切断前の厚板を指す。従って、親IDの欄に、元の厚板のIDを示す情報が記憶されている場合、当該親IDの欄と同一の列の欄に記憶されている情報は、切断後の厚板に対する情報になる。図11に示すようにして厚板1110、1120、1130、1140が製造された場合、管理テーブル1300において、当該厚板1110、1120、1130、1140に対する現品表示の欄には、表示領域1111、1121、1131、1141に表示される表示項目の構成要素の内容および位置を示す情報が記憶される。また、当該厚板1110、1120、1130、1140に対する親IDの欄には、厚板1100のIDを示す情報が記憶される。このように、本実施形態では、切断後の厚板の情報については、図13に示す管理テーブル1300において、新たな列(No)として管理される場合を例示する。管理テーブル1300において、現品表示および非現品表示の欄に、切断後の厚板に対する情報が記憶される。
 ここで、例えば、厚板1110が切断されて更に別の複数の厚板が製造される場合がある。この場合、当該別の複数の厚板に対する親IDの欄には、厚板1110のIDを示す情報が記憶される。厚板1110に対する親IDの欄には、厚板1100のIDを示す情報が記憶されている。このように、親IDの欄に記憶されている情報をたどることにより、各厚板の変遷を特定することができる。このようにして或る厚板について、親IDの欄に記憶されている情報をたどることにより得られる厚板の並びを、当該厚板の切り板系列と称することとする。例えば、厚板1110の切り板系列は、厚板1100、1110となる。また、各厚板の親IDの欄には、例えば、その切り板系列が分かるように、直近の厚板のIDを示す情報だけでなく、その切り系列に属する全ての厚板のIDを示す情報が記憶されていてもよい。この場合、何れのIDも製造メーカにおいて定義されたものが用いられる。
 運搬具IDの欄には、厚板の運搬具のIDが記憶される。本実施形態では、運搬具が、輸送船400および輸送車両700である場合を例示する。
 厚板が輸送船400に荷積みされると、トラッキング装置1200は、例えば、以下のようにして輸送船400のIDを示す情報を記憶してもよい。
 まず、トラッキング装置1200は、当該厚板のIDと当該輸送船400のID(いわゆる船番)を取得する。そして、トラッキング装置1200は、管理テーブル1300のIDの欄から、取得した厚板のIDと同じIDを示す情報が記憶されている列を特定する。そして、トラッキング装置1200は、特定した列の運搬具IDの欄に、取得した輸送船400のIDを示す情報を記憶する。
 例えば、第1の撮像装置430a、430b、430nにより、ステンシルによる表示領域201またはラベル202による表示領域と、輸送船400のIDを示す情報が表示されている領域とを含む撮像画像を撮像してもよい。このようにする場合、トラッキング装置1200は、当該撮像画像から、厚板のIDと輸送船400のIDとを認識して取得してもよい。
 また、第1の撮像装置430a、430b、430nにより、ステンシルによる表示領域201またはラベル202による表示領域を含む撮像画像と、輸送船400のIDを示す情報が表示されている領域を含む撮像画像とを撮像してもよい。例えば、ステンシルによる表示領域201またはラベル202による表示領域を含む撮像画像の次に、輸送船400のIDを示す情報が表示されている領域を含む撮像画像が撮像されるものとしてもよい。このようにする場合、トラッキング装置1200は、ステンシルによる表示領域201またはラベル202による表示領域を含む撮像画像から認識されるIDと、輸送船400のIDを示す情報が表示されている領域を含む撮像画像から認識されるIDとを、厚板のIDと輸送船400のIDとして取得してもよい。
 また、例えば、輸送船400のオペレータ(作業員)が、手持ちの情報処理端末(タブレット端末等)に厚板のIDと輸送船400のIDとを入力してもよい。このようにする場合、当該情報処理端末からトラッキング装置1200に、厚板のIDと輸送船400のIDとを送信することで、トラッキング装置1200が、当該厚板のIDと当該輸送船400のIDとを取得してもよい。
 また、厚板が輸送車両700に荷積みされると、トラッキング装置1200は、例えば、以下のようにして輸送車両700のIDを示す情報を記憶してもよい。
 まず、トラッキング装置1200は、当該厚板のIDと当該輸送車両700のID(例えば、ナンバープレートの情報)を取得する。そして、トラッキング装置1200は、管理テーブル1300のIDの欄から、取得した厚板のIDと同じIDを示す情報が記憶されている列を特定する。そして、トラッキング装置1200は、特定した列の運搬具IDの欄に、取得した輸送車両700のIDを示す情報を記憶する。
 例えば、第1の撮像装置430o~430qにより、ステンシルによる表示領域201またはラベル202による表示領域と、輸送車両700のIDを示す情報が表示されている領域とを含む撮像画像を撮像してもよい。このようにする場合、トラッキング装置1200は、当該撮像画像から、厚板のIDと輸送車両700のIDとを認識して取得してもよい。
 また、第1の撮像装置430o~430qにより、ステンシルによる表示領域201またはラベル202による表示領域を含む撮像画像と、輸送車両700のIDを示す情報が表示されている領域を含む撮像画像とを撮像してもよい。例えば、ステンシルによる表示領域201またはラベル202による表示領域を含む撮像画像の次に、輸送車両700のIDを示す情報が表示されている領域を含む撮像画像が撮像されるものとしてもよい。このようにする場合、トラッキング装置1200は、ステンシルによる表示領域201またはラベル202による表示領域を含む撮像画像から認識されるIDと、輸送車両700のIDを示す情報が表示されている領域を含む撮像画像から認識されるIDとを、厚板のIDと輸送車両700のIDとして取得してもよい。
 また、例えば、輸送車両700のオペレータ(作業員)が、手持ちの情報処理端末(タブレット端末等)に厚板のIDと輸送車両700のIDとを入力してもよい。このようにする場合、当該情報処理端末からトラッキング装置1200に、厚板のIDと輸送車両700のIDとを送信することで、トラッキング装置1200が、当該厚板のIDと当該輸送車両700のIDとを取得してもよい。
 管理テーブル1300のデータ構造は、管理テーブル1300の各欄に記憶される情報(例えば、物品位置および登録時刻)が、厚板が新たな位置に置かれる度に、情報が更新されるデータ構造でもよい。また、管理テーブル1300のデータ構造は、情報が追加されるデータ構造でもよい。後者の場合、トラッキングの履歴を追うことができる利点を有する。
 次に、管理テーブル1300の現品表示の欄に記憶される内容と、非現品表示の欄の物品内位置の欄に記憶される内容の一例を、より具体的に説明する。
 図14は、ステンシルの物品内位置と、ステンシルによる表示における各表示項目の構成要素の位置の一例を示す図である。図14では、図2に示す表示位置および図3Aに示す内容で、ステンシルによる表示がなされている場合を例示する。
 図14では、直方体の厚板の8つの頂点のうち、図2に示す頂点203を原点とし、当該頂点203から、厚板の幅方向に沿う方向をy軸の正の方向、厚板の長さ方向に沿う方向をx軸の正の方向とするx-y座標で、ステンシルの物品内位置と、ステンシルによる各表示項目の構成要素の位置とを表す。
 本実施形態では、ステンシルによる表示における各表示項目の構成要素の位置のうち、x軸の最大値、x軸の最小値、y軸の最大値、およびy軸の最小値となる位置により定まる外接矩形の4つ頂点のうち、対角線上にある2つの頂点のx-y座標を、ステンシルの物品内位置とする。図14では、外接矩形の2つの頂点1401a、1401bのx-y座標(Ls10,Ws10)、(Ls11,Ws11)が、ステンシルの物品内位置であることを示す。尚、ここでは説明を簡単にするため、外接矩形は、物品内位置を表現する座標軸(図14に示す例ではx軸およびy軸)に平行な矩形であるものとする。
 また、ステンシルによる表示おける各表示項目の構成要素(文字、数字、記号、マーク)の重心(または図心)の位置のx-y座標を、当該構成要素の位置とする。図14では、ステンシルによる表示に含まれるID305の構成要素である5、6、3、4、9、7、-、0、1のy軸座標が、それぞれ、Ws1、Ws2、Ws3、Ws4、Ws5、Ws6、Ws7、Ws8、Ws9であり、x軸座標が、何れもLs1であることを示す。
 以上のようにしてステンシルによる表示の各表示項目の各構成要素の位置がx-y座標で表される。
 図15は、ラベルの物品内位置と、ラベルによる表示における各表示項目の構成要素の位置の一例を示す図である。図15では、図2に示す表示位置および図3Bに示す表示内容で、ラベルによる表示が行われている場合を例示する。
 図15では、直方体の厚板の8つの頂点のうち、図2に示す頂点204を原点とし、当該頂点204から、厚板の幅方向に沿う方向をy軸の正の方向、厚板の板厚方向に沿う方向をz軸の正の方向とするy-z座標で、ラベルの物品内位置と、ラベルによる各表示項目の構成要素の位置とを表す。
 本実施形態では、ラベルが矩形状であるものとする。ラベルの4つの頂点のうち、対角線上にある2つの頂点のy-z座標を、ラベルの物品内位置とする。また、ラベルによる表示おける各表示項目の構成要素の重心(または図心)の位置のy-z座標を、当該構成要素の位置とする。図15では、ラベルの2つの頂点1501a、1501bのy-z座標が、ラベルの物品内位置であることを示す。
 前述したように、図13に示す管理テーブル1300において、現品表示の欄のステンシルの欄のIDの欄には、ステンシルによる表示に含まれるID305の構成要素の内容および位置を示す情報が記憶される。従って、図16Aに示すように、図14に示す例では、現品表示の欄のステンシルの欄のIDの欄には、ステンシルによる表示に含まれるID305の構成要素の内容として、「5」、「6」、「3」、「4」、「9」、「7」、「-」、「0」、「1」が記憶される。また、現品表示の欄のステンシルの欄のIDの欄には、当該構成要素の位置として、(Ls1,Ws1)、(Ls2,Ws1)、(Ls3,Ws1)、(Ls4,Ws1)、(Ls5,Ws1)、(Ls6,Ws1)、(Ls7,Ws1)、(Ls8,Ws1)、(Ls9,Ws1)が記憶される。
 現品表示の欄のその他の表示項目の欄にも、ステンシルの欄のIDの欄と同様に、当該表示項目の構成要素の内容および位置を示す情報が記憶される。尚、ラベルの欄の各表示項目の構成要素の位置を示す情報は、x-y座標ではなく、y-z座標となる。
 また、図16Bに示すように、図14に示す例では、非現品表示の欄の物品内位置の欄のステンシルの欄には、ステンシルの物品内位置を示す情報として、(Ls10,Ws10)、(Ls11,Ws11)が記憶される。
 物品内位置の欄のラベルの欄にも、物品内位置の欄のステンシルの欄と同様に、ラベルの物品内位置を示す情報が記憶される。尚、前述したように、ラベルの物品内位置を示す情報は、x-y座標ではなく、y-z座標となる。
 管理テーブル1300を作成するに際し、例えば、オペレータは、トラッキング装置1200のユーザインターフェースを操作して、管理テーブル1300の各欄に記憶すべき情報を、トラッキング装置1200に入力してもよい。また、トラッキング装置1200は、工場の操業を管理するコンピュータ等の外部装置から、管理テーブル1300の各欄に記憶すべき情報を受信してもよい。
 管理テーブル1300の現品表示の欄に記憶される情報と、非現品表示の欄の物品内位置および親IDの欄に記憶される情報は、厚板に対する表示が行われた後に定められる場合もあれば、厚板に対する表示が行われる前に定められている場合もある。従って、当該欄に記憶すべき情報が厚板に対する表示が行われる前に定められている場合には、トラッキング装置1200は、例えば、前述したようにして当該欄に記憶すべき情報を取得して、管理テーブル1300の各欄に記憶する。
 一方、非現品表示の欄の物品位置および登録時刻の欄に記憶される情報は、厚板に対する表示が行われる前に定めることができない場合がある。従って、トラッキング装置1200は、例えば、当該欄に記憶すべき情報が得られたタイミングで、当該欄に記憶すべき情報を取得して、管理テーブル1300の各欄に記憶する。前述したように登録時刻の欄には、物品位置の欄に記憶される情報が変更された日時が記憶される。この場合、厚板が現在の位置に置かれた日時が登録時刻の欄に登録される。
 尚、非現品表示の欄の項目について、当該項目の情報が取得されている場合に限り、当該項目の欄に情報が記憶され、当該項目の情報が取得されていない場合には、当該項目の欄に情報は記憶されない。また、登録時刻の欄に記憶されている日時から所定時間が経過しても物品位置の欄に記憶されている情報が更新されない場合、トラッキング装置1200は、厚板の位置の特定(トラッキング)が途絶えたと判断し、当該物品位置および登録時刻の欄に記憶されている情報をリセットするのが好ましい。また、同一の位置において、登録時刻の欄に記憶されている日時が早い厚板が、登録時刻の欄に記憶されている日時が遅い厚板よりも先に移動することはない(即ち、板の重なりがある場合、下にある板が突然なくなることはない)。このため、トラッキング装置1200は、物品位置および登録時刻の欄に記憶されている情報のリセットを実行するに際し、以下のようにするのが好ましい。即ち、トラッキング装置1200は、リセットする登録時刻の欄に記載されている日時よりも遅い日時が登録時刻の欄に記憶されている厚板であって、リセットする物品位置の欄に記憶されている三次元位置と同じ三次元位置の厚板がある場合、アラーム等で確認をするサインを出すことが望ましい。
 次に、トラッキング装置1200の機能の一例を説明する。図17は、厚板をトラッキングする際のトラッキング装置1200の処理の一例を説明するフローチャートである。図17を参照しながら、トラッキング装置1200の機能の一例を説明する。
 図17のステップS1701において、第1の画像取得部1201は、第1の撮像画像を取得する。第1の撮像画像は、第1の撮像装置430a~430y、無人航空機440a~440cが備える第1の撮像装置、およびオペレータ(作業員)の手持ちの第1の撮像装置のうち、何れか1つの第1の撮像装置で撮像された撮像画像である。第1の撮像画像は、第1の撮像装置からトラッキング装置1200に直接送信されても、情報端末装置を介して第1の撮像装置からトラッキング装置1200に送信されてもよい。図17のフローチャートによる処理は、第1の撮像装置430a~430y、無人航空機440a~440cが備える第1の撮像装置、およびオペレータ(作業員)の手持ちの第1の撮像装置のうち、何れか1つの撮像装置で撮像された撮像画像がトラッキング装置1200で受信される度に実行される。本実施形態では、第1の撮像画像を撮像した第1の撮像装置のIDと、当該第1の撮像画像を撮像した際の撮像条件とが、第1の撮像画像と共に送信されるものとする。
 第1の画像取得部1201は、第1の撮像画像と共に、当該第1の撮像画像を撮像した第1の撮像装置のIDと、当該第1の撮像画像を撮像した際の撮像条件とを取得する。撮像条件には、撮像の際に撮像装置で設定される情報のうち、後述するようにしてステンシルによる表示領域またはラベルによる表示領域の位置を特定するために必要となる情報が含まれる。
 また、第1の撮像画像を撮像したときの第1の撮像装置の位置が固定されていない場合、第1の撮像画像を撮像したときの第1の撮像装置の位置情報が、第1の撮像画像と共に送信される。例えば、無人航空機440a~440cが、GPS(Global Positioning System)を用いて、当該無人航空機の三次元座標(x-y-z座標)を測位することができる場合、当該無人航空機が備える第1の撮像装置の位置情報として、当該三次元座標が送信されるようにしてもよい。輸送船400に取り付けられている第1の撮像装置430n、荷役装置411に取り付けられている第1の撮像装置430g~430m、および輸送車両700に取り付けられている第1の撮像装置430qについても、無人航空機440a~440cと同様にして、当該第1の撮像装置の位置情報が第1の撮像画像と共に送信されるようにしてもよい。このことは、オペレータ(作業員)の手持ちの第1の撮像装置についても同じである。
 尚、第1の撮像装置が、第1の撮像画像に含めるべき領域を撮像することができない場合、ステップS1701の処理に先立って、第1の撮像装置の撮像条件(撮像方向、画角、ズーム倍率、および絞り(F値)等)が調整される。
 次に、ステップS1702において、認識部1202は、ステップS1701で取得された第1の撮像画像から、ステンシル(ラベル)による表示における表示項目の構成要素(文字、数字、記号、マーク)を認識する。表示項目の構成要素の内容を認識する処理は、例えば、公知のOCR(Optical character recognition)を用いた技術で実現することができるので、ここでは、その詳細な説明を省略する。尚、NN(Neural Network)等のAI(Artificial Intelligence)を用いた技術や、AIとOCRとを組み合わせた技術(いわゆるAI OCR)を用いて、ステップS1702の処理を実現してもよい。
 また、認識部1202は、表示項目の構成要素が、ステンシルによる表示とラベルによる表示との何れのものであるのかを特定する。例えば、認識部1202は、ステップS1701で取得された第1の撮像画像に基づいてエッジ検出処理を行い、厚板のエッジを検出し、検出した結果に基づいて、厚板の領域を特定する。そして、認識部1202は、特定した領域が、厚板の板面部分と厚板の側面(板厚)部分との何れであるかを判定する。この判定は、例えば、特定した領域の縦横比に基づいて実現される。この判定の結果、特定した領域が、厚板の板面部分である場合、認識部1202は、表示項目の構成要素が、ステンシルによる表示のものであると認識する。一方、特定した領域が、厚板の側面(板厚)部分である場合、認識部1202は、表示項目の構成要素が、ラベルによる表示のものであると認識する。
 また、認識部1202は、第1の撮像画像に基づいてエッジ検出処理を行い、矩形状のラベル202の領域が検出された場合に、表示項目の構成要素が、ラベルによる表示のものであると認識し、そうでない場合に、表示項目の構成要素が、ステンシルによる表示のものであると認識してもよい。
 尚、本実施形態では、説明を簡単にするために、最上段にある厚板については、第1の撮像画像には、ラベル202による表示領域ではなくステンシルによる表示領域201が含まれるものとする。
 また、認識部1202は、表示項目の位置を導出する。第1の認識部1202が表示項目の位置を導出する手法の一例を説明する。まず、認識部1202は、ステップS1701で取得された第1の撮像画像に基づいてエッジ検出処理を行い、厚板のエッジを検出する。そして、認識部1202は、第1の撮像画像における物品内位置の原点(厚板における所定の位置)を検出する。認識部1202は、例えば、直方体の厚板の8つの頂点のうち、ステンシル(ラベル)による表示領域と物品内位置の原点との位置関係として予め設定された位置関係に基づいて、撮像画像における物品内位置の原点(厚板における所定の位置)となる頂点を導出する。
 ステンシル(ラベル)による表示領域と物品内位置の原点との位置関係として、例えば、以下のような情報がトラッキング装置1200に予め設定されていてもよい。即ち、ステンシル(ラベル)による表示の表示項目の構成要素を、当該構成要素の頂部が上側に位置するように見た場合に、ステンシル(ラベル)による表示と同一面において、ステンシル(ラベル)による表示の右下側に位置する頂点が、物品内位置の原点であるという情報がトラッキング装置1200に予め設定されていてもよい。認識部1202は、ステンシル(ラベル)による表示における表示項目の構成要素の位置として、撮像画像における物品内位置の原点を基準とする位置を導出する。ステップS1702の処理が終了すると、ステップS1703の処理が実行される。
 ステップS1703において、入手部1203は、記憶部1207に記憶されている管理テーブル1300において現品表示の欄のIDの欄に記憶されている情報を入手する。
 次に、ステップS1704において、照合部1204は、ステップS1702において認識された情報と、ステップS1703において入手された情報とを照合する。ステップS1702において認識された情報が、ステンシルによる表示の情報であると認識された場合、照合部1204は、ステップS1703において入手された情報のうち、現品表示の欄のステンシルの欄のIDの欄に記憶されている情報と、ステップS1702において認識された情報とを照合する。一方、ステップS1702において認識された情報が、ラベルによる表示の情報であると認識された場合、照合部1204は、ステップS1703において入手された情報のうち、現品表示の欄のラベルの欄のIDの欄に記憶されている情報と、ステップS1702において認識された情報とを照合する。
 次に、ステップS1705において、特定部1205は、ステップS1703の照合の結果に基づいて、管理テーブル1300において管理されている厚板から1つの厚板を特定する。具体的に、特定部1205は、ステップS1703において入手された情報の中から、ステップS1702において認識された情報と一致する情報を特定する。
 ここで、一致とは、ステップS1702で認識された情報に、現品表示の欄のステンシルの欄またはラベルの欄のIDの欄に記憶されている構成要素と、内容および並び順が完全に一致している部分があることを指す。図3Aおよび図3Bに示す例では、ステンシルまたはラベルにより表示されるID305、312の構成要素の内容は、5、6、3、4、9、7、-、0、1であり、並び順は、左から、5、6、3、4、9、7、-、0、1の順である。従って、特定部1205は、5、6、3、4、9、7、-、0、1が左からこの順で並んでいる情報を、管理テーブル1300において管理されているIDの欄から特定する。ステップS1702で認識された情報において、これらの構成要素の一部が欠けている場合だけでなく、これらの構成要素以外の構成要素が並んでいる場合にも、当該ステップS1702で認識された情報は、現品表示の欄のステンシルの欄またはラベルの欄のIDの欄に記憶されている構成要素と、内容および並び順が完全に一致している情報ではないものとする。
 次に、ステップS1706において、位置導出部1206は、ステップS1701で取得された情報に基づいて、ステップS1701で取得した第1の撮像画像を撮像した第1の撮像装置の位置が既知であるか否かを判定する。本実施形態では、ガータ412および脚構造物413に取り付けられている第1の撮像装置430a~430f、輸送車両700の待機位置に設置されている構造物に取り付けられている第1の撮像装置430o~430p、工場内の置場に設置されている構造物に取り付けられている第1の撮像装置430r~430w、および工場の生産ラインに設置されている構造物に取り付けられている第1の撮像装置430x~430yの三次元位置は既知であるものとする。これらの第1の撮像装置のそれぞれについて、第1の撮像装置のIDと、当該第1の撮像装置の位置情報(三次元座標(x-y-z座標))と、が相互に関連付けられてトラッキング装置1200に予め登録されているものとする。位置導出部1206は、ステップS1701で取得された第1の撮像装置のIDと同じIDと関連付けられている位置情報(三次元座標)がトラッキング装置1200に予め登録されている場合、ステップS1701で取得した第1の撮像画像を撮像した第1の撮像装置の位置が既知であると判定し、そうでない場合、ステップS1701で取得した第1の撮像画像を撮像した第1の撮像装置の位置が既知でないと判定する。
 ステップS1706の判定の結果、ステップS1701で取得した第1の撮像画像を撮像した第1の撮像装置の位置が既知でない場合、ステップS1707の処理が実行される。ステップS1707において、位置導出部1206は、第1の撮像画像を撮像した第1の撮像装置の位置情報をステップS1701で取得したか否かを判定する。この判定の結果、第1の撮像画像を撮像した第1の撮像装置の位置情報をステップS1701で取得していない場合、処理は、後述するステップS1712に進む。
 ステップS1706の判定の結果、ステップS1701で取得した第1の撮像画像を撮像した第1の撮像装置の位置が既知である場合と、ステップS1707の判定の結果、第1の撮像画像を撮像した第1の撮像装置の位置情報をステップS1701で取得した場合には、ステップS1708の処理が実行される。ステップS1708において、位置導出部1206は、ステンシル(ラベル)による表示領域の高さ方向(z軸方向)の位置を特定することができるか否かを判定する。尚、ステンシル(ラベル)による表示領域の高さ方向(z軸方向)の位置を特定することができる場合の具体例については後述する。ステップS1708の判定の結果、ステンシル(ラベル)による表示領域の高さ方向(z軸方向)の位置を特定することができない場合、処理は、後述するステップS1712に進む。
 一方、ステップS1708の判定の結果、ステンシル(ラベル)による表示領域の高さ方向(z軸方向)の位置を特定することができた場合、ステップS1709の処理が実行される。ステップS1709において、位置導出部1206は、ステンシル(ラベル)による表示領域の三次元座標(x-y-z座標)を、ステップS1705で特定された厚板の三次元位置として導出する。
 次に、ステップS1710において、記憶部1207は、ステップS1705で特定された厚板に対する情報として管理テーブル1300の非現品表示の欄の物品位置の欄に記憶されている情報を、ステップS1709で導出された厚板の三次元位置を示す情報に更新する。このように本実施形態では、管理テーブル1300の非現品表示の欄の物品位置の欄に記憶される情報が、情報表示位置である場合を例示する。管理テーブル1300の非現品表示の欄の物品位置の欄に記憶される情報は、ステンシル(ラベル)による表示領域のx-y-z座標である。従って、情報表示位置は、三次元位置である。前述したように、同一の厚板の情報表示位置は、当該厚板の位置の移動に伴い、x座標およびy座標だけでなくz座標(高さ方向の位置)も変化する。
 次に、ステップS1711において、出力部1208は、ステップS1705で特定された厚板の三次元位置を示す情報を出力する。例えば、出力部1208は、ステップS1705で特定された厚板の三次元位置を示す情報を、コンピュータディスプレイに表示させる。そして、図17のフローチャートによる処理が終了する。
 ここで、ステップS1709においてステンシル(ラベル)による表示領域の三次元位置を導出する方法の一例を、図2に示したステンシルによる表示領域201を例に挙げて説明する。図2に示す例では、ステンシルによる表示領域201は、厚板の板面の領域のうち、厚板の幅方向(y軸方向)の中央付近の領域であって、厚板の長さ方向の一端側(x軸の負の方向側)の領域にある。本実施形態では、ステンシルによる表示領域201の三次元位置が、情報表示位置の一例である。
 図18は、ステンシルによる表示領域201の三次元位置を導出する方法の一例を説明する図である。
 図18において、点Pは、第1の撮像装置の三次元位置を示す(点Pのx-y-z座標は(x,y,z)である)。第1の撮像装置の三次元位置は、例えば、第1の撮像装置の光学系(レンズ)の中心位置である。図18に示す例では、z軸は、厚板の表面(ステンシルによる表示領域201が形成されている面)に垂直な方向であるものとする。また、y軸は、ステンシルによる表示領域201において同一の表示項目の構成要素が並ぶ方向に平行な方向であるものとする。また、x軸は、ステンシルによる表示領域201において異なる表示項目が並ぶ方向に平行な方向であるものとする。また、x軸、y軸、z軸は相互に垂直であるものとする。また、ここでは、説明を簡単にするために、厚板の幅方向はy軸に平行であり、厚板の長さ方向はx軸に平行であるものとする。
 点Sは、ステンシルによる表示領域201の4つの頂点のうち、x軸の負の方向側に位置し、且つ、y軸の正の方向側に位置する頂点の位置を示す(点Sのx-y-z座標は(x,y,z)である)。点Oは、(x-y平面に対する)点Pの垂線の足(点Pの垂線とx-y平面との交点)である。図18に示す例では、点Oが原点であるものとする。点Qは、点Oを通り且つx軸に平行な直線と、点Sを通り且つy軸に平行な直線との交点である。
 ∠OPQをβ(rad)とし、線分OPの長さ(点Oから点Pまでの距離)をHとすると、∠OQP(=η)は、π/2-β(rad)であるから、線分OQの長さ(点Oから点Qまでの距離)Lは、以下の(1)式で表される。
 L=Hsinβ/sin{(π/2-β)} ・・・(1)
 また、∠OPSをα(rad)とすると、線分OSの長さ(点Oから点Sまでの長さ)lは、以下の(2)式で表される。そして、∠SPQをδ(rad)とすると、(2)式より、線分SQの長さ(点Sから点Qまでの距離)wは、以下の(3)式で表される。
 l=H/tanα ・・・(2)
 w=lsinδ=Hsinδ/tanα ・・・(3)
 従って、点Sのx-y-z座標S(x,y,z)は、以下の(4)式で表される。
 S(x,y,z)=(L,w,0) ・・・(4)
 本実施形態では、位置導出部1206が、点Sのx-y-z座標(x,y,z)を、ステンシルによる表示領域201の位置として導出する場合を例示する。線分OPの長さH、∠OPQ(=β)、∠OPS(=α)、および∠SPQ(=δ)が定まれば、点Sのx-y-z座標(x,y,z)が定まる。
 線分OPの長さHは、点Pのz座標zから、ステンシルによる表示領域201のz座標zを減算した値である。従って、ステンシルによる表示領域201のz座標(ステンシルによる表示領域201の高さ方向(z軸方向)の位置)が特定されていれば、線分OPの長さHを導出することができる。尚、図18では、ステンシルによる表示領域201のz座標zが0(ゼロ)である場合を例示するので、線分OPの長さHは、点Pのz座標zに等しい。
 第1の撮像画像における点Sの位置は、例えば、以下のようにして導出される。位置導出部1206は、ステップS1702で認識されたステンシルによる表示項目の構成要素のうち、x軸の最大値、x軸の最小値、y軸の最大値、およびy軸の最小値となる位置により定まる外接矩形を導出する。そして、位置導出部1206は、導出した外接矩形の頂点のうち、ステンシルによる表示項目の構成要素の頂部が上側に位置するように見た場合に、例えば左下側(x軸の負の方向側およびy軸の正の方向側)に位置する頂点の位置を、第1の撮像画像における点Sの位置として導出する。尚、第1の撮像画像においてラベルによる表示がなされている場合、位置導出部1206は、矩形状のラベルの頂点のうち、ステンシルによる表示項目の構成要素の頂部が上側に位置するように見た場合に、例えば左下側に位置する頂点を、第1の撮像画像における点Sの位置として導出する。
 第1の撮像画像における点Qの位置は、第1の撮像画像における点Sの位置を通り且つy軸に平行な直線上の位置であって、撮像時の水平画角(y軸方向の画角)の中心に対応する位置となる。尚、点Qの特定は、例えば、以下のようにして行ってもよい。即ち、レーザポインタ等で点Pからレーザ光を照射して、点Sの位置を通り、且つ、y軸に平行な直線を、厚板の板面のうちステンシルによる表示領域201が形成されている面に表示する。また、レーザポインタ等で点Pからレーザ光を照射して、点Oを通り、且つ、x軸に平行な直線を、厚板の板面のうちステンシルによる表示領域201が形成されている面に表示する。このようにする場合、レーザ光により表示される2つの直線の交点が点Qとなる。従って、位置導出部1206は、レーザ光により表示される2つの直線の交点が表示されている状態で撮像された第1の撮像画像から点Qを特定してもよい。このようにすれば、点P、点O、および点Qがx-z平面上(y=0の平面上)にある場合、厚板の板面のうちステンシルによる表示領域201が形成されている面がx-y平面に対して傾いていても、点Qの位置を特定することができる。
 ∠OPS(=α)、∠OPQ(=β)、および∠SPQ=∠SOQ(=δ)は、例えば、ステップS1701で取得した第1の撮像画像における点Sおよび点Qの位置と、当該第1の撮像画像を撮像した際の光学系(レンズ)の中心位置(焦点距離を定めるために使用される光学系の中心位置)と、に基づいて定められる。第1の撮像画像における点Sと、第1の撮像画像を撮像した際の光学系(レンズ)の中心位置とを結ぶ直線により、線分PSが延びる方向が特定される。第1の撮像画像における点Qと、第1の撮像画像を撮像した際の光学系(レンズ)の中心位置とを結ぶ直線により、線分PQが延びる方向が特定される。∠OPS(=α)、∠OPQ(=β)、および∠SPQ=∠SOQ(=δ)は、線分PSが延びる方向と、線分PQが延びる方向と、z軸方向と、に基づいて定められる。
 ∠OPS(=α)、∠OPQ(=β)、および∠SPQ=∠SOQ(=δ)を導出する方法は、このような方法に限定されない。例えば、位置導出部1206は、以下のようにして∠OPS(=α)、∠OPQ(=β)、および∠SPQ=∠SOQ(=δ)を導出してもよい。まず、位置導出部1206は、第1の撮像装置が備える測距センサ(例えばTOF(Time-of-Flight)方式の測距センサ)の測定値に基づいて、線分PSおよび点PQの長さを導出する。そして、位置導出部1206は、ステンシルによる表示領域201が形成されている面がx-y平面であり、線分QSがy軸方向に延びる直線であるものとして、点Sおよび点Qの位置を特定する。そして、位置導出部1206は、点P、点S、点Qの位置に基づいて、∠OPS(=α)、∠OPQ(=β)、および∠SPQ=∠SOQ(=δ)を導出する。
 また、例えば、位置導出部1206は、第1の撮像装置から点Sに向けて照射されたレーザ光の角度と、第1の撮像装置から点Qに向けて照射されたレーザ光の角度と、第1の撮像装置から点Sから点Qまでレーザ光が走査されたときの走査角度とに基づいて、∠OPS(=α)、∠OPQ(=β)、および∠SPQ=∠SOQ(=δ)を導出してもよい。
 また、位置導出部1206は、厚板の板面のうちステンシルによる表示領域201が形成されている面と点Oとを含む領域に格子状のレーザ光を照射した状態で撮像された第1の撮像画像において格子状に並んでいる矩形の数を計数することにより、∠OPS(=α)、∠OPQ(=β)、および∠SPQ=∠SOQ(=δ)を導出してもよい。このようにする場合、1つの矩形のx軸方向の長さは、例えば、∠OPS(=α)および∠OPQ(=β)が1rad変化すると変化するx軸方向の長さであり、y軸方向の長さは、例えば、∠SPQ=∠SOQ(=δ)が1rad変化すると変化するy軸方向の長さである。点Oに対応する位置にある矩形から、点S、Qに対応する矩形までの矩形の数の計数の結果に基づいて、∠OPS(=α)、∠OPQ(=β)が導出される。また、点Sに対応する位置にある矩形から点Qに対応する位置にある矩形までの矩形の数の計数の結果に基づいて、∠SPQ(=δ)が導出される。矩形の数の計数は、第1の撮像画像に対する画像処理の結果に基づいて行われる。
 尚、表示領域1111、1121、1131、1141の位置についても、図18を参照しながら説明した手法と同様に導出される。また、ステンシルによる表示領域201と、ラベル202による表示領域とは、厚板において配置される面が異なるだけであるので、ラベル202による表示領域の位置についても、図18を参照しながら説明した手法に倣って導出することができる。従って、ここでは、その詳細な説明を省略する。
 次に、ステップS1708において、ステンシル(ラベル)による表示領域の高さ方向(z軸方向)の位置を特定することができると判定される場合の一例を説明する。
 第1の例として、まず、位置導出部1206は、レーザ距離計を用いて第1の撮像装置からステンシルによる表示領域までの高さ方向(z軸方向)の距離を導出する。そして、位置導出部1206は、第1の撮像装置の高さ方向(z軸方向)の位置から、当該距離を減算した位置を、ステンシルによる表示領域201の高さ方向(z軸方向)の位置として導出する。
 第2の例として、位置導出部1206は、管理テーブル1300の物品位置の欄に記憶されている、厚板の位置を示す情報と、管理テーブル1300の登録時刻の欄に記憶されている、厚板が現在の位置に置かれた日時を示す情報と、を用いて、ステンシル(ラベル)による表示領域の高さ方向(z軸方向)の位置を導出する。このようにしてステンシル(ラベル)による表示領域の高さ方向(z軸方向)の位置を導出する方法の一例を説明する。尚、ここでは、管理テーブル1300の物品位置の欄に記憶されている、厚板の三次元位置を、必要に応じて、物品位置と称する。また、ここでは、説明を簡単にするため、積み重ねられている複数の厚板のうち最下段にある厚板が地面に置かれているものとする。
 まず、位置導出部1206は、ステップS1705で特定された厚板以外の厚板から、ステップS1701で取得された第1の撮像画像を撮像した第1の撮像装置の撮像範囲(x-y座標)に少なくとも一部が含まれる厚板を、管理テーブル1300に記憶されている物品位置に基づいて特定する。
 ステンシルによる表示領域201の高さ方向(z軸方向)の位置を導出する場合には、ステップS1705で特定された厚板は最上段にある。従って、位置導出部1206は、ステップS1701で取得された第1の撮像画像を撮像した第1の撮像装置の撮像範囲(x-y座標)に少なくとも一部が含まれる厚板は、ステップS1705で特定された厚板の下にあると判断する。この場合、ステップS1705で特定された厚板の下にある厚板の情報として管理テーブル1300に記憶されているサイズ(厚み)の全てと、ステップS1705で特定された厚板の厚みとを加算した値が、ステンシルによる表示領域201の高さ方向(z軸方向)の位置となる。
 一方、ラベルによる表示領域の高さ方向(z軸方向)の位置を導出する場合には、位置導出部1206は、前述したようにして特定された厚板のうち、ステップS1705で特定された厚板の情報として管理テーブル1300の登録時刻の欄に記憶されている日時よりも遅い日時が登録時刻の欄に記憶されている厚板が、ステップS1705で特定された厚板の下にある厚板であると判断する。この場合、ステップS1705で特定された厚板の下にある厚板の情報として管理テーブル1300に記憶されているサイズ(厚み)の全ての加算値と、ステップS1705で特定された厚板の情報として管理テーブル1300に記憶されている物品内位置のz座標の値とを加算した値が、ラベル202による表示領域の高さ方向(z軸方向)の位置となる。
 第3の例として、第1の撮像画像に高さ方向(z軸方向)を特定することが可能な情報が表示されている場合、位置導出部1206は、当該情報に基づいて、ステンシル(ラベル)による表示領域の高さ方向(z軸方向)の位置を導出することができる。このようにしてステンシル(ラベル)による表示領域の高さ方向(z軸方向)の位置を導出する方法の一例を説明する。例えば、位置導出部1206は、高さ方向(z軸方向)の位置を示す目盛りが表示された構造物が第1の撮像画像に含まれる場合、第1の撮像画像から当該構造物の当該目盛りを認識する。例えば、位置導出部1206は、第1の撮像画像に対してエッジ検出処理を実行してオブジェクトのエッジを抽出し、抽出したオブジェクトから、当該構造物を抽出する。例えば、オブジェクトの輪郭を示す情報と、当該オブジェクトの名称とが相互に関連付けられた情報をトラッキング装置1200に予め登録しておく。このようにする場合、位置導出部1206は、前述したようにして抽出されたオブジェクトのエッジと、当該情報とを比較することにより、当該構造物に対応するオブジェクトを抽出してもよい。また、位置導出部1206は、NN(Neural Network)等のAI(Artificial Intelligence)を用いて、前述したようにして抽出されたオブジェクトから、当該構造物を抽出してもよい。
 そして、位置導出部1206は、第1の撮像画像におけるステンシル(ラベル)による表示領域の位置と、第1の撮像画像における当該構造物に表示されている目盛りの位置とに基づいて、ステンシル(ラベル)による表示領域の高さ方向(z軸方向)の位置を導出する。尚、第1の撮像画像において目盛りに付されている数字は、ステンシル(ラベル)による表示項目の構成要素を認識する手法と同様の手法で認識される。
 第4の例として、位置導出部1206は、第2の画像取得部1209で取得される第2の撮像画像を用いて、ステンシルによる表示領域201の高さ方向(z軸方向)の位置を導出してもよい。この場合、図17のフローチャートにおいて、ステップS1708の処理が開始されるタイミングよりも前に、第2の画像取得部1209により第2の撮像画像を取得するステップが追加される。第2の撮像画像は、第1の撮像画像を撮像した第1の撮像装置(ステンシル(ラベル)による表示領域を含む領域を撮像する撮像装置)とは別の第2の撮像装置で撮像された撮像画像である。第2の撮像画像は、ステップS1701で取得された第1の撮像画像を撮像した第1の撮像装置と、ステップS1705で特定される厚板との双方を含む。このようにしてステンシルによる表示領域201の高さ方向(z軸方向)の位置を導出する方法の一例を説明する。
 図19は、ステンシルによる表示領域201の高さ方向(z軸方向)の位置を導出する方法の一例を説明する図である。
 図19に示す例においても、図18と同様に、点Pは、第1の撮像装置の位置を示す(点Pのx-y-z座標は(x,y,z)である)。また、z軸は、厚板の表面(ステンシルによる表示領域201が形成されている面)に垂直な方向である。また、y軸は、ステンシルによる表示領域201において同一の表示項目の構成要素が並ぶ方向に平行な方向である。また、x軸は、ステンシルによる表示領域201において異なる表示項目が並ぶ方向に平行な方向である。また、x軸、y軸、z軸は相互に垂直であるものとする。ここでも、説明を簡単にするために、厚板の幅方向はy軸に平行であり、厚板の長さ方向はx軸に平行であるものとする。
 また、点O’は、(x-y平面に対する)点Pの垂線と、厚板の表面(ステンシルによる表示領域201が形成されている面)を含む平面と、の交点である(点O’は図18の点Oに対応する)。点Oは、(x-y平面に対する)点Pの垂線の足(点Pの垂線とx-y平面との交点)である。図19に示す例では、点Oが原点であるものとする。点Rは、第2の撮像装置の三次元位置を示す(点Rのx-y-z座標は(x,y,z)である)。第2の撮像装置の三次元位置は、例えば、第2の撮像装置の光学系(レンズ)の中心位置である。
 第2の撮像装置の三次元位置は、トラッキング装置1200で特定することが可能であるものとする。例えば、第2の撮像装置の三次元位置が固定である場合、第2の撮像装置のIDと、当該第2の撮像装置の三次元座標(x-y-z座標)と、が相互に関連付けられてトラッキング装置1200に予め登録される。また、第2の撮像装置の三次元位置が固定でない場合、例えば、第2の撮像装置は、GPSを用いて測位された当該第2の撮像装置の三次元座標(x-y-z座標)と当該第2の撮像装置のIDとを送信する。この場合、第2の画像取得部1209は、第2の撮像装置から送信されたこれらの情報を取得する。
 図19に示す例では、説明を簡単にするため、積み重ねられている複数の厚板のうち最下段にある厚板が地面に置かれているものとする。点Dは、ステンシルによる表示領域201が形成されている面の頂点のうち、点Rに最も近い位置にある頂点である。点Bは、積み重ねられている複数の厚板のうち最下段にある厚板の底面の頂点のうち、点Rに最も近い位置にある頂点である。
 図19において、∠BRD(=φ)および∠PRO(=φ)は、例えば、第2の撮像画像における点P、点B、および点Dの位置と、当該第2の撮像画像を撮像した際の光学系(レンズ)の中心位置(焦点距離を定めるために使用される光学系の中心位置)と、に基づいて定められる。第2の撮像画像における点Pと、第2の撮像画像を撮像した際の光学系(レンズ)の中心位置とを結ぶ直線により、線分RPが延びる方向が特定される。第2の撮像画像における点Bと、第2の撮像画像を撮像した際の光学系(レンズ)の中心位置とを結ぶ直線により、線分RBが延びる方向が特定される。第2の撮像画像における点Dと、第2の撮像画像を撮像した際の光学系(レンズ)の中心位置とを結ぶ直線により、線分RTが延びる方向が特定される。∠BRD(=φ)は、線分RBが延びる方向と、線分RDが延びる方向と、に基づいて定められる。∠PRO(=φ)は、線分RPが延びる方向と、y軸方向と、に基づいて定められる。
 また、例えば、位置導出部1206は、第2の撮像装置が備える測距センサ(例えばTOF(Time-of-Flight)方式の測距センサ)の測定値に基づいて、線分RPの長さ(点Rから点Pまでの距離)および線分RD(点Rから点Dまでの距離)の長さを導出する。そして、位置導出部1206は、第2の撮像装置の高さ方向(z軸方向)の位置(z)と、線分RPの長さと、∠PRO(=φ)とに基づいて、第1の撮像装置の高さ方向(z軸方向)の位置(z)を導出する(z=z+線分RPの長さ×sinφ)。同様に、位置導出部1206は、第2の撮像装置の高さ方向(z軸方向)の位置(z)と、線分RDの長さと、∠BRD(=φ)に基づいて、ステンシルによる表示領域201の高さ方向(z軸方向)の位置を導出する。
 尚、図19では、第2の撮像装置(点R)の高さ方向(z軸方向)の位置が0(ゼロ)である場合を例示する。また、以上のように第2の撮像画像を用いれば、位置導出部1206は、ステンシルによる表示領域201の高さ方向(z軸方向)の位置だけでなく、第1の撮像装置の高さ方向(z軸方向)の位置(z)を導出することができる。また、位置導出部1206は、高さ方向(z軸方向)の位置だけでなく、第1の撮像装置のx軸方向の位置(x)およびy軸方向の位置(y)も導出することができる。例えば、x、yは、線分RPが延びる方向と、y+線分RPの長さ×cosφとに基づいて導出される。即ち、線分RPが延びる方向と、y+線分RPの長さ×cosφとに基づいて、点R、Pを結ぶベクトルが導出される。当該ベクトルのx軸成分の長さ、y軸成分の長さが、x、yとなる。
 また、ここでは、第2の撮像装置により撮像される第2の撮像画像に点P(第1の撮像装置)が含まれる場合を例に挙げて説明した。しかしながら、第1の撮像装置(点P)と第2の撮像装置(点R)との相対的な位置関係(∠PRO(=φ)等)を導出することができれば、必ずしもこのようにする必要はない。このようにする場合、例えば、第1の撮像装置および第2の撮像装置と異なる少なくとも1つの撮像装置で撮像された撮像画像を用いる。このようにする場合の具体例を説明する。まず、第1の撮像装置および第2の撮像装置に加えて第3の撮像装置を配置する。第3の撮像装置は、点P(第1の撮像装置)および点R(第2の撮像装置)を撮像範囲に含み、点Dを撮像範囲に含まないものとする。また、第3の撮像装置の位置を示す点を不図示のR’とする。また、第2の撮像装置の位置を示す点Rの位置と第3の撮像装置の位置を示す点R’の位置との一方または両方が予め定められているものとする。この場合、位置導出部1206は、第3の撮像装置により撮像される第3の撮像画像に基づいて、点R’から点R、点Pを見たときの仰角または俯角を導出する、そして、位置導出部1206は、導出した仰角または俯角に基づいて、∠PRO(=φ)を導出する。角度、方向、および長さの導出は、図19を参照しながら説明した手法と同様の手法で実現される。また、第3の撮像装置の撮像範囲に点P(第1の撮像装置)が含まれ、点R(第2の撮像装置)が含まれていない場合には、例えば、点R’(第3の撮像装置)および点R(第2の撮像装置)を撮像範囲に含む第4の撮像装置により撮像された第4の撮像画像を更に用いればよい。一方、例えば、第3の撮像装置の撮像範囲に点R(第2の撮像装置)が含まれ、点P(第1の撮像装置)が含まれていない場合には、例えば、点R’(第3の撮像装置)および点P(第1の撮像装置)を撮像範囲に含む第5の撮像装置により撮像された第5の撮像画像を更に用いればよい。
 また、位置導出部1206は、点P(第1の撮像装置)の位置を、第1の撮像装置を撮像範囲に含む第6の撮像装置により撮像される第6の撮像画像を用いて特定してもよい。この場合、第2の撮像装置、第3の撮像装置、および第4の撮像装置の少なくとも1つの撮像範囲に第6の撮像装置が含まれるものとする。また、第6の撮像装置の位置を示す点を不図示のP’とする。また、第1の撮像装置の位置を示す点Pの位置と第6の撮像装置の位置を示す点P’の位置との一方または両方が予め定められているものとする。この場合、例えば、前述した説明において、第1の撮像装置および点Pに代えて第6の撮像装置および点P’を用いた計算が行われる。そして、例えば、この計算の結果と、第6の撮像画像と、点Pおよび点P’の一方または両方の位置と、に基づいて、第1の撮像装置(点P)と第2の撮像装置(点R)との相対的な位置関係(∠PRO(=φ)等)が導出される。
 以上のようにすれば、第2の撮像装置の撮像範囲に第1の撮像装置と厚板との双方を含めるように第2の撮像装置を配置することができない場合であっても、ステンシルによる表示領域201の高さ方向(z軸方向)の位置を導出することができる。尚、第3~第6の撮像画像は、例えば、第2の画像取得部1209により取得される。ただし、第2の画像取得部1209とは別に、第3~第6の撮像画像を個別に取得する第3~第6の画像取得部を用いてもよい。このようにする場合、図17のフローチャートにおいて、ステップS1708の処理が開始されるタイミングよりも前のタイミングであって、第2の画像取得部1209により第2の撮像画像を取得するステップが実行されるタイミングとは別のタイミングに、第3~第6の撮像画像を個別に取得するステップが追加される。尚、第2の撮像画像等を取得しなくても、ステンシル(ラベル)による表示領域の高さ方向(z軸方向)の位置を特定することができる場合には、第2の画像取得部1209は不要になる。
 第5の例として、位置導出部1206は、搬送テーブル1001に置かれている厚板1002a、1002bの、ステンシルによる表示領域201の高さ方向(z軸方向)の位置を、搬送テーブル1001の位置と、厚板1000a、1002bの情報として管理テーブル1300に記憶されているサイズ(厚み)とに基づいて導出してもよい。このようにする場合、搬送テーブル1001の位置は、トラッキング装置1200に予め登録される。
 例えば、以上の例の少なくとも1つの例において、ステンシル(ラベル)による表示領域の高さ方向(z軸方向)の位置を導出することができる場合、ステップS1708において、ステンシル(ラベル)による表示領域の高さ方向(z軸方向)の位置を特定することができると判定される。
 また、厚板が運搬具にある場合、ステップS1709において、位置導出部1206は、運搬具における厚板の三次元位置を取得する。本実施形態では、運搬具は、輸送船400および輸送車両700である。そこで、本実施形態では、運搬具が、輸送船400および輸送車両700である場合を例示する。
 例えば、厚板が輸送船400に荷積みされると、位置導出部1206は、当該厚板のIDと当該輸送船400における当該厚板の三次元位置を示す情報とを取得する。そして、位置導出部1206は、管理テーブル1300のIDの欄から、取得した厚板のIDと同じIDを示す情報が記憶されている列を特定する。そして、位置導出部1206は、特定した列の物品位置の欄に、取得した輸送船400における厚板の三次元位置を示す情報を記憶する。例えば、輸送船400のオペレータ(作業員)が、手持ちの情報処理端末(タブレット端末等)に厚板のIDと輸送船400における当該厚板の三次元位置を示す情報とを入力してもよい。このようにする場合、当該情報処理端末からトラッキング装置1200に、厚板のIDと輸送船400における当該厚板の三次元位置を示す情報とを送信することで、位置導出部1206は、当該厚板のIDと当該輸送船400における当該厚板の三次元位置を示す情報とを取得してもよい。厚板の三次元位置を示す情報は、例えば、ステンシル(ラベル)による表示領域のx-y-z座標である。
 また、厚板が輸送車両700に荷積みされると、位置導出部1206は、当該厚板のIDと当該輸送車両700における厚板の三次元位置を示す情報とを取得する。そして、位置導出部1206は、は、管理テーブル1300のIDの欄から、取得した厚板のIDと同じIDを示す情報が記憶されている列を特定する。そして、位置導出部1206は、特定した列の物品位置の欄に、取得した輸送車両700における厚板の三次元位置を示す情報を記憶する。例えば、輸送車両700のオペレータ(作業員)が、手持ちの情報処理端末(タブレット端末等)に厚板のIDと輸送車両700における当該厚板の三次元位置を示す情報とを入力してもよい。このようにする場合、当該情報処理端末からトラッキング装置1200に、厚板のIDと当該輸送車両700における当該厚板の三次元位置を示す情報とを送信することで、位置導出部1206は、当該厚板のIDと当該輸送車両700における当該厚板の三次元位置を示す情報とを取得してもよい。厚板の三次元位置を示す情報は、例えば、ステンシル(ラベル)による表示領域のx-y-z座標である。
 以上のように運搬具における厚板の三次元位置を取得することにより、各厚板を搬送する運搬具を特定することができる。また、運搬具により厚板が搬送中であるときの厚板の三次元位置を正確に特定することができる。
 図17の説明に戻り、ステップS1708において、ステンシル(ラベル)による表示領域の高さ方向(z軸方向)の位置を特定することができないと判定された場合には、ステップS1712の処理が実行される。ステップS1712において、出力部1208は、厚板の三次元位置を特定することができないことを示す情報と、当該厚板を撮像した第1の撮像装置のIDとを出力する。例えば、出力部1208は、厚板の三次元位置を特定することができないことを示す情報と、当該厚板を撮像した第1の撮像装置のIDとを、コンピュータディスプレイに表示させる。これらの情報が出力されると、オペレータ(作業員)は、該当する第1の撮像装置が存在する位置まで出向き、該当する厚板の三次元位置を特定する。また、オペレータ(作業員)は、該当する第1の撮像装置のプレビュー画像から、該当する厚板の三次元位置を特定してもよい。
 次に、ステップS1713において、記憶部1207は、オペレータ(作業員)により特定された厚板の三次元位置を示す情報を入力し、当該厚板に対する情報として管理テーブル1300の非現品表示の欄の物品位置の欄に記憶されている情報を、当該入力した情報に更新する。尚、厚板の三次元位置を示す情報の入力の形態として、トラッキング装置1200のユーザインターフェースの操作による入力、外部装置から送信された情報の受信、および可搬型の記憶媒体に記憶された情報の読み出しのうち、少なくとも1つを採用することができる。そして、図17のフローチャートによる処理が終了する。
<まとめ>
 以上のように本実施形態では、トラッキング装置1200は、厚板に表示されている情報であって、当該厚板の製造メーカによって管理されている情報がステンシル(ラベル)により表示された表示領域を含む領域の第1の撮像画像を取得する。トラッキング装置1200は、当該取得した第1の撮像画像と、当該第1の撮像画像を撮像した第1の撮像装置の位置と、に基づいて、ステンシル(ラベル)による表示領域の三次元位置を導出し、当該三次元位置を示す情報を、当該厚板のIDと関連付けて記憶媒体に記憶する。従って、例えば、各種の搬送装置(輸送船400、輸送車両700、搬送テーブル1001等)を用いて厚板を搬送したり、厚板を作業員が搬送したりする場合や、置場番地が定められていない置場に厚板が置かれる場合や、厚板が積み重ねられて置かれる場合であっても、厚板をトラッキングすることができる。よって、厚板のトラッキングの精度を向上させることができる。
 また、本実施形態では、トラッキング装置1200は、第1の撮像画像に基づいて、ステンシル(ラベル)による表示領域に表示されている情報(ID305、312)を認識する。そして、トラッキング装置1200は、認識した情報と、管理テーブル1300に記憶されている情報(ID)とを照合し、照合した結果に基づいて、厚板を特定する。従って、トラッキングの対象となる厚板そのものを、第1の撮像画像に基づいて確実に特定することができる。よって、例えば、搬送機器の動作に基づいて、厚板の三次元位置を特定する場合に比べ、厚板のトラッキングの精度を向上させることができる。
 また、本実施形態では、トラッキング装置1200は、第1の撮像画像を撮像した第1の撮像装置と異なる第2の撮像装置により撮像された第2の撮像画像を取得する。第2の撮像画像には、第1の撮像画像と、(トラッキングの対象となる)厚板とが含まれる。トラッキング装置1200は、当該取得した第2の撮像画像と、第2の撮像装置の位置と、に基づいて、ステンシルによる表示領域201の高さ方向(z軸方向)の位置を導出する。そして、トラッキング装置1200は、ステンシルによる表示領域201の高さ方向(z軸方向)の位置と、第1の撮像画像と、当該第1の撮像画像を撮像した第1の撮像装置の位置と、に基づいて、ステンシルによる表示領域201の三次元位置を、厚板の三次元位置として導出する。従って、第1の撮像画像や第1の撮像画像が備えるセンサを用いても、厚板の高さ方向の位置を導出することができない場合でも、厚板をトラッキングすることができる。
 また、本実施形態では、ステンシルによる表示およびラベルによる表示を、人が識別可能な情報とする。従って、オペレータ(作業員)による現品管理が容易になる。よって、現品管理の利便性が向上する。
 また、本実施形態では、ステンシルによる表示およびラベルによる表示に、厚板ごとに個別に定められる情報(厚板に固有の情報)が含まれるようにした。従って、第1の撮像画像に基づいて、厚板を一意に識別することができる。よって、厚板の識別を容易に且つ迅速に行うことができる。
 また、本実施形態では、トラッキング装置1200は、ステンシル(ラベル)による表示領域の位置として、三次元座標(x-y-z座標)を導出する。従って、例えば、複数の厚板が積み重ねられている場合であっても、厚板をトラッキングすることができる。
<変形例>
<<第1の変形例>>
 ステップS1709において第1の撮像画像に含まれるステンシル(ラベル)による表示領域の位置を導出する方法は、図18を参照しながら説明した手法に限定されない。例えば、位置導出部1206は、管理テーブル1300において物品内位置を定める際の原点の位置を、第1の撮像画像から導出する。そして、位置導出部1206は、導出した原点の位置と、管理テーブル1300の物品内位置の欄に記憶されている情報と、に基づいて、第1の撮像画像に含まれるステンシル(ラベル)による表示領域の位置を導出する。このようにして第1の撮像画像に含まれるステンシル(ラベル)による表示領域の位置を導出する手法の一例を、ステンシルによる表示領域201を例に挙げて説明する。
 図20は、ステンシルによる表示領域201の位置を導出する方法の一例を説明する図である。図20では、図18と同様に、点Sのx-y-z座標S(x,y,z)を、ステンシルによる表示領域201の位置として導出する場合を例示する。図14を参照しながら説明したように、ステンシルの物品内位置は、図2に示す頂点203を原点とし、当該頂点203から、厚板の幅方向に沿う方向をy軸の正の方向、厚板の長さ方向に沿う方向をx軸の正の方向とするx-y座標で表される。従って、図20の点Eの位置が、ステンシルの物品内位置の原点となる。点Fは、厚板の頂点のうち、点Eに対して幅方向(y軸方向)に並ぶ点である(点Eと点Fとで厚板の幅方向に沿う一辺が形成される)。点Tは、線分EFに対する点Pの垂線の足(点Pの垂線と線分EFとの交点)である。点Pおよび点Oは、図18に示したものと同じである。
 図20において、線分PTの長さをhとする。また、線分PFの長さをhとし、∠FPTをθ(rad)とし、線分PEの長さをhとし、∠EPTをθ(rad)とし、∠EPFをθ(rad)(θ=θ+θ)とする。また、線分FTの長さをw01とし、線分ETの長さをw02とする。
 そうすると、点Eのx座標xは、点Pのx座標xに、線分OTの長さlを加算した値(x=x+l)になる。点Eのy座標yは、点Pのy座標yから、線分ETの長さwo2を減算した値(y=y-wo2)になる。従って、線分OTの長さlと、線分ETの長さwo2とが導出されれば、点Eの位置(ステンシルの物品内位置の原点)のx-y座標(x,y)が導出される。
 線分OTの長さlは、以下の(5)式で表される。
 l=√(h -H)=√(h cosθ-H)=√(h cosθ-H) ・・・(5)
 線分ETの長さwo2は、以下の(6)式で表される。
 wo2=hsinθ ・・・(6)
 従って、例えば、線分PEの長さhおよび∠EPT(=θ)が導出されれば、線分OTの長さlおよび線分ETの長さwo2が導出される。尚、線分OPの長さHは、図18を参照しながら説明したようにして導出される。
 第1の撮像画像における点Tの位置は、第1の撮像画像における線分EF上の位置であって、撮像時の水平画角(y軸方向の画角)の中心に対応する位置となる。∠EPT(=θ)は、例えば、ステップS1701で取得した第1の撮像画像における点Eおよび点Tの位置と、当該第1の撮像画像を撮像した際の光学系(レンズ)の中心位置(焦点距離を定めるために使用される光学系の中心位置)と、に基づいて定められる。第1の撮像画像における点Eと、第1の撮像画像を撮像した際の光学系(レンズ)の中心位置とを結ぶ直線により、線分PEが延びる方向が特定される。第1の撮像画像における点Tと、第1の撮像画像を撮像した際の光学系(レンズ)の中心位置とを結ぶ直線により、線分PTが延びる方向が特定される。∠EPT(=θ)は、線分PEが延びる方向と、線分PTが延びる方向と、に基づいて定められる。
 線分PEの長さhは、例えば、第1の撮像装置が備える測距センサ(例えばTOF(Time-of-Flight)方式の測距センサ)を用いて導出される。この他、線分OPの長さHと、∠OPEとに基づいて、線分PEの長さhを導出してもよい。
 以上のようにして、点Eのx座標xおよびy座標yが導出される。そして、位置導出部1206は、ステップS1705で特定された厚板のラベルの情報として管理テーブル1300の物品内位置の欄に記憶されている情報から、点Sに対応する位置のx-y座標(Ls10,Ws10)を読み出す。そして、位置導出部1206は、点Eのx座標xにLS10を加算した値を点Sのx座標xとして導出する(x=x+LS10)。また、位置導出部1206は、点Eのy座標xにWS10を加算した値を点Sのy座標yとして導出する(y=y+WS10)。
<<第2の変形例>>
 本実施形態のように、需要家名302、規格303、サイズ304、ID305、需要家コード306、注文番号307、規格311、ID312、サイズ313、納期314、および需要家コード315を、人が識別可能な情報とすれば、オペレータ(作業員)による現品管理が容易になるので好ましい。しかしながら、需要家名302、規格303、サイズ304、ID305、需要家コード306、注文番号307、規格311、ID312、サイズ313、納期314、および需要家コード315の少なくとも1つを、バーコードや2次元コードのように、人が識別可能でない情報に変換(エンコード)された情報としてもよい。
<<第3の変形例>>
 本実施形態では、図3A、図3Bに示すように、ステンシルにより表示されるID305と、ラベルにより表示されるID312とが同じである場合を例示した。しかしながら、これらのIDの表現および記載内容が異なる場合がある。例えば、IDにおいて“ハイフン”がない形式もある。このような場合、これらのID(ステンシルによるID、ラベルによるID)が同一の厚板に対するものであることを示す情報を管理テーブル1300に記憶させる。ID以外の表示項目についても、同一の表示項目の表現および記載内容が、ステンシルによる表示およびラベルによる表示で異なる場合がある。例えば、ステンシルおよびラベルの双方に規格が表示される場合、例えば、ラベルには規格の略称が表示される場合がある。また、ステンシルによる表示とラベルによる表示とで需要者コードの桁数が異なる場合があるが、需要者コードは製造メーカで管理されている。また、サイズについても、寸法の全ての桁を示さない場合がある。このような場合にも、それら異なる表現および記載内容が同等の意味であることを示す情報を管理テーブル1300に記憶させる。
<<第4の変形例>>
 本実施形態では、ステンシル(ラベル)による表示領域のx-y-z座標を、ステンシル(ラベル)による表示領域の三次元位置として導出する場合を例示した。しかしながら、ステンシル(ラベル)による表示領域の三次元位置は、x-y-z座標に限定されない。例えば、ステンシル(ラベル)による表示領域の三次元位置は、第1の撮像装置の位置を基準とする相対的な三次元位置であってもよい。このようにする場合、撮像装置の三次元位置を示す点Pの座標(x,y,z)を用いなくてもよい。尚、x-y-z座標の原点を、第1の撮像装置の三次元位置とする場合、ステンシル(ラベル)による表示領域の三次元位置は、x-y-z座標で表しても、第1の撮像装置の三次元位置を基準とする相対的な三次元位置を示すことになる。
<<第5の変形例>>
 本実施形態では、識別情報取得部1210が、認識部1202、入手部1203、照合部1204、および特定部1205を有する場合を例示した。しかしながら、識別情報取得部1210は、位置導出部1206により導出された三次元位置に関連付ける厚板の識別情報を取得していれば、必ずしも、認識部1202、入手部1203、照合部1204、および特定部1205を有している必要はない。識別情報取得部1210は、例えば、認識部1202のみを有していてもよい。また、識別情報取得部1210は、例えば、入手部1203のみを有していてもよい。また、識別情報取得部1210は、例えば、認識部1202と入手部1203のみを有していてもよい。例えば、識別情報取得部1210は、認識部1202により認識されたIDを、厚板の識別情報として取得してもよい。この場合、識別情報取得部1210は、入手部1203、照合部1204および特定部1205を有していなくてもよい。また、例えば、トラッキングの対象となる物品が予め1つに限定されている場合、識別情報取得部1210は、入手部1203により入手されたIDを、厚板の識別情報として取得してもよい。この場合、識別情報取得部1210は、認識部1202、照合部1204および特定部1205を有していなくてもよい。また、例えば、識別情報取得部1210は、認識部1202により認識された情報のみから厚板を特定する場合には認識部1202を利用し、トラッキングの対象となる物品が予め1つに限定されている場合には入手部1203を利用してもよい。この場合、識別情報取得部1210は、照合部1204および特定部1205を有していなくてもよい(認識部1202および入手部1203のみを有していてもよい)。
<<第6の変形例>>
 本実施形態では、管理テーブル1300がトラッキング装置1200に記憶されている場合を例示した。しかしながら、管理テーブル1300は、トラッキング装置1200の外部にあってもよい。
<<第7の変形例>>
 本実施形態では、物品が厚板である場合を例示した。しかしながら、物品は、厚板に限定されない。例えば、物品は、厚板以外の製造物であってもよい。物品は、製造者によって管理されている情報が表示されている製造物であってもよい。製造物は、例えば、スラブ、ビレット、薄板コイル、または鋼管であってもよい。また、製造物以外の物品であってもよい。物品は、例えば、コンテナであってもよい。
<<その他の変形例>>
 尚、以上説明した本発明の実施形態は、コンピュータがプログラムを実行することによって実現することができる。また、前記プログラムを記録したコンピュータ読み取り可能な記録媒体及び前記プログラム等のコンピュータプログラムプロダクトも本発明の実施形態として適用することができる。記録媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD-ROM、磁気テープ、不揮発性のメモリカード、ROM等を用いることができる。また、本発明の実施形態は、PLC(Programmable Logic Controller)により実現されてもよいし、ASIC(Application Specific Integrated Circuit)等の専用のハードウェアにより実現されてもよい。
 また、以上説明した本発明の実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。
<ハードウェア>
 トラッキング装置1200のハードウェアの一例について説明する。図21において、トラッキング装置1200は、CPU2101、主記憶装置2102、補助記憶装置2103、通信回路2104、信号処理回路2105、画像処理回路2106、I/F回路2107、ユーザインターフェース2108、ディスプレイ2109、およびバス2110を有する。
 CPU2101は、トラッキング装置1200の全体を統括制御する。CPU2101は、主記憶装置2102をワークエリアとして用いて、補助記憶装置2103に記憶されているプログラムを実行する。主記憶装置2102は、データを一時的に格納する。補助記憶装置2103は、CPU2101によって実行されるプログラムの他、各種のデータを記憶する。
 通信回路2104は、トラッキング装置1200の外部との通信を行うための回路である。通信回路2104は、トラッキング装置1200の外部と無線通信を行っても有線通信を行ってもよい。
 信号処理回路2105は、通信回路2104で受信された信号や、CPU2101による制御に従って入力した信号に対し、各種の信号処理を行う。
 画像処理回路2106は、CPU2101による制御に従って入力した信号に対し、各種の画像処理を行う。この画像処理が行われた信号は、例えば、ディスプレイ2109に出力される。
 ユーザインターフェース2108は、オペレータがトラッキング装置1200に対して指示を行う部分である。ユーザインターフェース2108は、例えば、ボタン、スイッチ、およびダイヤル等を有する。また、ユーザインターフェース2108は、ディスプレイ2109を用いたグラフィカルユーザインターフェースを有していてもよい。
 ディスプレイ2109は、画像処理回路2106から出力された信号に基づく画像を表示する。I/F回路2107は、I/F回路2107に接続される装置との間でデータのやり取りを行う。図21では、I/F回路2107に接続される装置として、ユーザインターフェース2108およびディスプレイ2109を示す。しかしながら、I/F回路2107に接続される装置は、これらに限定されない。例えば、可搬型の記憶媒体がI/F回路2107に接続されてもよい。また、ユーザインターフェース2108の少なくとも一部およびディスプレイ2109は、トラッキング装置1200の外部にあってもよい。
 出力部1208は、例えば、通信回路2104および信号処理回路2105と、画像処理回路2106、I/F回路2107、およびディスプレイ2109との少なくとも何れか一方を用いることにより実現される。
 尚、CPU2101、主記憶装置2102、補助記憶装置2103、信号処理回路2105、画像処理回路2106、およびI/F回路2107は、バス2110に接続される。これらの構成要素間の通信は、バス2110を介して行われる。また、トラッキング装置1200のハードウェアは、前述したトラッキング装置1200の機能を実現することができれば、図21に示すものに限定されない。
 本発明は、例えば、物品をトラッキングすることに利用することができる。

Claims (8)

  1.  物品をトラッキングするトラッキング装置であって、
     前記物品に表示されている表示情報を含む領域の撮像画像を取得する1または2以上の画像取得手段と、
     前記物品の識別情報を取得する識別情報取得手段と、
     前記画像取得手段により取得された前記撮像画像に基づいて、前記表示情報が表示されている三次元位置である情報表示位置を導出する位置導出手段と、
     前記位置導出手段により導出された前記物品における前記情報表示位置を、前記識別情報取得手段により取得された当該物品の識別情報と関連付けて記憶媒体に記憶する記憶手段と、を有することを特徴とするトラッキング装置。
  2.  前記物品に表示されている前記表示情報には、当該物品の識別情報が含まれており、
     前記識別情報取得手段は、
     前記画像取得手段により取得された前記撮像画像に基づいて、前記物品の識別情報を認識する認識手段と、
     前記記憶手段に記憶されている前記物品の識別情報を入手する入手手段と、の少なくとも1つの手段を有することを特徴とする請求項1に記載のトラッキング装置。
  3.  前記物品の識別情報と関連付けられて前記記憶媒体に記憶されている前記情報表示位置は、前記表示情報が表示されている三次元位置に関する情報として、当該物品の所定の位置を基準とする三次元位置に関する情報を含み、
     前記画像取得手段により取得される前記撮像画像には、前記物品の所定の位置を含む領域が含まれることを特徴とする請求項2に記載のトラッキング装置。
  4.  前記識別情報取得手段は、
     前記認識手段と、
     前記入手手段と、
     前記認識手段により認識された前記物品の識別情報と、前記入手手段により入手された前記物品の識別情報とを照合する照合手段と、
     前記照合手段による照合の結果に基づいて、前記画像取得手段により取得された前記撮像画像に含まれる、前記物品の識別情報を特定する特定手段と、を有することを特徴とする請求項2または3に記載のトラッキング装置。
  5.  前記位置導出手段は、2以上の前記画像取得手段により取得された2以上の撮像画像に基づいて、前記表示情報が表示されている前記物品の面の高さ方向の位置を導出することを特徴とする請求項1~4の何れか1項に記載のトラッキング装置。
  6.  物品をトラッキングするトラッキング方法であって、
     前記物品に表示されている表示情報を含む領域の撮像画像を取得する1または2以上の画像取得工程と、
     前記物品の識別情報を取得する識別情報取得工程と、
     前記画像取得工程により取得された前記撮像画像に基づいて、前記表示情報が表示されている三次元位置である情報表示位置を導出する位置導出工程と、
     前記位置導出工程により導出された前記物品における前記情報表示位置を、前記識別情報取得工程により取得された当該物品の識別情報と関連付けて記憶媒体に記憶する記憶工程と、を有することを特徴とするトラッキング方法。
  7.  物品に表示される表示情報と、
     前記物品に表示されない非表示情報と、有し、
     前記非表示情報は、前記表示情報が表示されている三次元位置である情報表示位置を含み、
     トラッキング装置が、前記物品に表示されている表示情報を含む領域の撮像画像に基づいて、当該物品における前記情報表示位置を導出するために用いられる、トラッキングデータのデータ構造。
  8.  物品をトラッキングする処理をコンピュータに実行させるためのプログラムであって、
     前記物品に表示されている表示情報を含む領域の撮像画像を取得する1または2以上の画像取得工程と、
     前記物品の識別情報を取得する識別情報取得工程と、
     前記画像取得工程により取得された前記撮像画像に基づいて、前記表示情報が表示されている三次元位置である情報表示位置を導出する位置導出工程と、
     前記位置導出工程により導出された前記物品における前記情報表示位置を、前記識別情報取得工程により取得された当該物品の識別情報と関連付けて記憶媒体に記憶する記憶工程と、をコンピュータに実行させることを特徴とするプログラム。
PCT/JP2021/043580 2020-11-30 2021-11-29 トラッキング装置、トラッキング方法、トラッキングデータのデータ構造、およびプログラム WO2022114173A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2022552726A JP7288231B2 (ja) 2020-11-30 2021-11-29 トラッキング装置、トラッキング方法、およびプログラム
KR1020237015306A KR102595542B1 (ko) 2020-11-30 2021-11-29 트래킹 장치, 트래킹 방법, 트래킹 데이터의 데이터 구조 및 프로그램
CN202180076082.6A CN116472239B (zh) 2020-11-30 2021-11-29 跟踪装置、跟踪方法、跟踪数据的数据结构以及存储介质

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020-198065 2020-11-30
JP2020198065 2020-11-30

Publications (1)

Publication Number Publication Date
WO2022114173A1 true WO2022114173A1 (ja) 2022-06-02

Family

ID=81754524

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/043580 WO2022114173A1 (ja) 2020-11-30 2021-11-29 トラッキング装置、トラッキング方法、トラッキングデータのデータ構造、およびプログラム

Country Status (4)

Country Link
JP (1) JP7288231B2 (ja)
KR (1) KR102595542B1 (ja)
CN (1) CN116472239B (ja)
WO (1) WO2022114173A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116167396A (zh) * 2023-01-09 2023-05-26 太原重工股份有限公司 用于直缝焊管的物料跟踪方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040126015A1 (en) * 2002-12-31 2004-07-01 Hadell Per Anders Container identification and tracking system
JP2007326700A (ja) * 2006-06-09 2007-12-20 Nippon Steel Corp 鋼材の管理方法と管理システム
WO2009052854A1 (en) * 2007-10-22 2009-04-30 Abb Ab Device, method and system for recording inspection data about a freight container
WO2014141534A1 (ja) * 2013-03-13 2014-09-18 日本電気株式会社 照合システム、端末装置、サーバ装置、照合方法及びプログラム
JP2017174284A (ja) * 2016-03-25 2017-09-28 株式会社日立ドキュメントソリューションズ ヤード管理装置及び方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS519451B1 (ja) 1970-09-11 1976-03-26
CN104724606B (zh) * 2015-03-18 2017-01-25 苏州盈兴信息技术有限公司 一种生产物料贮运作业图像自动跟踪装置和方法
JP6339633B2 (ja) * 2016-06-28 2018-06-06 新日鉄住金ソリューションズ株式会社 システム、情報処理装置、情報処理方法、及び、プログラム
CN108698761B (zh) * 2017-02-03 2020-04-28 日本托盘租赁株式会社 搬运对象物识别系统、搬运对象物识别方法及搬运对象物识别程序

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040126015A1 (en) * 2002-12-31 2004-07-01 Hadell Per Anders Container identification and tracking system
JP2007326700A (ja) * 2006-06-09 2007-12-20 Nippon Steel Corp 鋼材の管理方法と管理システム
WO2009052854A1 (en) * 2007-10-22 2009-04-30 Abb Ab Device, method and system for recording inspection data about a freight container
WO2014141534A1 (ja) * 2013-03-13 2014-09-18 日本電気株式会社 照合システム、端末装置、サーバ装置、照合方法及びプログラム
JP2017174284A (ja) * 2016-03-25 2017-09-28 株式会社日立ドキュメントソリューションズ ヤード管理装置及び方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116167396A (zh) * 2023-01-09 2023-05-26 太原重工股份有限公司 用于直缝焊管的物料跟踪方法

Also Published As

Publication number Publication date
CN116472239B (zh) 2024-02-20
KR102595542B1 (ko) 2023-10-30
KR20230082662A (ko) 2023-06-08
JPWO2022114173A1 (ja) 2022-06-02
CN116472239A (zh) 2023-07-21
JP7288231B2 (ja) 2023-06-07

Similar Documents

Publication Publication Date Title
US10552933B1 (en) Image processing methods and arrangements useful in automated store shelf inspections
US20200279389A1 (en) Object measurement system
US20230288219A1 (en) Hands-free augmented reality system for picking and/or sorting assets
US20190197277A1 (en) Code recognition device
WO2020072208A1 (en) Smart terminal facility and method suitable for the handling of cargo containers
JP6011490B2 (ja) 物品保管設備
WO2009052854A1 (en) Device, method and system for recording inspection data about a freight container
US20230032233A1 (en) Systems and methods for managing multiple autonomous vehicles
WO2022114173A1 (ja) トラッキング装置、トラッキング方法、トラッキングデータのデータ構造、およびプログラム
JP2012192490A (ja) 荷姿認識装置
CN113168189A (zh) 飞行作业方法、无人机及存储介质
US10929811B2 (en) Systems and methods for mapping locations of cartons in pallets and containers
US11120286B2 (en) Projection indication device, parcel sorting system, and projection indication method
US11369999B2 (en) Parcel determination device, parcel sorting system, and parcel determination method
EP3689791A1 (en) Projection instruction device, package sorting system, and projection instruction method
JP7506352B2 (ja) 物品管理装置、物品管理方法、およびプログラム
TWI841973B (zh) 物品管理裝置、物品管理方法、及程式
WO2023233506A1 (ja) 物品管理装置、物品管理方法、物品管理用データのデータ構造、およびプログラム
JP7129616B2 (ja) 投影指示装置、荷物仕分けシステムおよび投影指示方法
TW202349152A (zh) 物品管理裝置、物品管理方法、物品管理用資料之資料結構、及程式
US11594047B2 (en) Article distinguishing system
JP7235183B2 (ja) 識別装置、識別方法、およびプログラム
JP6299133B2 (ja) 位置検出装置、撮像装置、位置検出方法及び位置検出プログラム
KR102588246B1 (ko) 드론 영상을 이용한 조선소 적치장 모니터링 시스템 및 그 방법
US20240127471A1 (en) Information processing apparatus, information processing system, information processing method, and recording medium

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21898145

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2022552726

Country of ref document: JP

Kind code of ref document: A

ENP Entry into the national phase

Ref document number: 20237015306

Country of ref document: KR

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 202180076082.6

Country of ref document: CN

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21898145

Country of ref document: EP

Kind code of ref document: A1