WO2017150293A1 - 情報処理システム、情報処理装置、情報処理方法及びプログラム - Google Patents

情報処理システム、情報処理装置、情報処理方法及びプログラム Download PDF

Info

Publication number
WO2017150293A1
WO2017150293A1 PCT/JP2017/006543 JP2017006543W WO2017150293A1 WO 2017150293 A1 WO2017150293 A1 WO 2017150293A1 JP 2017006543 W JP2017006543 W JP 2017006543W WO 2017150293 A1 WO2017150293 A1 WO 2017150293A1
Authority
WO
WIPO (PCT)
Prior art keywords
work
information processing
standard data
difference
worker
Prior art date
Application number
PCT/JP2017/006543
Other languages
English (en)
French (fr)
Inventor
和佳 井上
Original Assignee
新日鉄住金ソリューションズ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 新日鉄住金ソリューションズ株式会社 filed Critical 新日鉄住金ソリューションズ株式会社
Priority to JP2017531414A priority Critical patent/JP6224873B1/ja
Priority to CN201780009604.4A priority patent/CN108604393B/zh
Priority to US16/074,619 priority patent/US11011074B2/en
Publication of WO2017150293A1 publication Critical patent/WO2017150293A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B19/00Teaching not covered by other main groups of this subclass
    • G09B19/24Use of tools
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/418Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM]
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B19/00Teaching not covered by other main groups of this subclass
    • G09B19/003Repetitive work cycles; Sequence of movements
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B19/00Teaching not covered by other main groups of this subclass
    • G09B19/0069Engineering, e.g. mechanical, electrical design
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B5/00Electrically-operated educational appliances
    • G09B5/02Electrically-operated educational appliances with visual presentation of the material to be studied, e.g. using film strip
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]

Definitions

  • the present invention relates to an information processing system, an information processing apparatus, an information processing method, and a program for superimposing and displaying instruction images regarding work in a workplace.
  • Patent Document 1 discloses a technique for evaluating a work performed by an operator based on standard work information and a work state.
  • Patent Document 1 there is a problem that the worker cannot tell the worker that the operation is different from the standard data and cannot instruct the correction of the task.
  • the object of the present invention is to promptly notify a worker of a work correction instruction and appropriately convey the skill of a skilled worker to a junior worker.
  • an information processing system includes a standard data acquisition unit that acquires standard data registered for work, a work data acquisition unit that acquires work data of a worker who performs the work, and the standard data acquisition unit.
  • a determination unit that determines whether a difference between the acquired standard data and the work data acquired by the work data acquisition unit is equal to or greater than a threshold; and the determination unit determines that the difference is equal to or greater than the threshold.
  • a generation unit that generates an instruction image relating to the modification of the work, and the instruction image generated by the generation unit is displayed on a display unit of a display device worn by the worker. And display means for displaying the instruction image superimposed on the real space.
  • FIG. 1 is a diagram illustrating an example of a system configuration of an information processing system.
  • FIG. 2 is a diagram illustrating an example of a hardware configuration of the display device.
  • FIG. 3 is a diagram illustrating an example of a hardware configuration of the information processing apparatus.
  • FIG. 4 is a diagram illustrating an example of the standard data table.
  • FIG. 5 is a sequence diagram illustrating an example of information processing for displaying an instruction image of the information processing system.
  • FIG. 6 is a diagram illustrating an example of a walking flow line in the standard data.
  • FIG. 7 is a flowchart illustrating an example of information processing related to re-registration of standard data.
  • FIG. 1 is a diagram illustrating an example of a system configuration of an information processing system.
  • the information processing system includes a display device 600 and an information processing device 601 as a system configuration.
  • the display device 600 and the information processing device 601 are communicably connected via a network or the like.
  • only the display device 600 is communicably connected to the information processing device 601, but a plurality of display devices may be communicably connected to the information processing device 601.
  • the information processing apparatus 601 is an example of a computer.
  • the display device 600 is a glasses-type display device worn by an operator.
  • the display device 600 is a light transmissive display device, and a light transmissive display portion 625 is provided at a position corresponding to the lens portion of the glasses.
  • An operator wearing the display device 600 can see an object existing ahead of the line of sight in the real space via the display unit 625 of the display device 600.
  • the worker wearing the display device 600 generates the information space on the real space viewed through the display unit 625 using the information processing device 601.
  • the augmented reality space AR space
  • the display device 600 is provided with an imaging unit 627 at a position adjacent to the display unit 625.
  • the imaging unit 627 is installed so that the line-of-sight direction of the wearer of the display device 600 matches the imaging direction of the imaging unit 627. Thereby, the imaging unit 627 can capture an image of the work in the real space viewed by the worker wearing the display device 600.
  • the imaging unit 627 may be set so that the imaging direction and the line-of-sight direction of the wearer of the display device 600 have a certain relationship.
  • the imaging unit 627 is not an essential component of the display device 600.
  • the information processing apparatus 601 obtains, for example, measurement data related to the work of an experienced worker wearing a plurality of motion sensors from the plurality of motion sensors, generates 3D model data from the measurement data, and performs standard work data. Register as In addition, the information processing apparatus 601 acquires, for example, measurement data related to the work of a worker wearing a plurality of motion sensors from the plurality of motion sensors, generates 3D model data from the measurement data, and acquires the data as work data. You may make it do. However, this does not limit the present embodiment. The information processing apparatus 601 may generate 3D model data from measurement data related to the work of an experienced worker by motion capture, and register the data as standard data.
  • the information processing apparatus 601 may generate 3D model data from measurement data related to a worker's work by motion capture and acquire the data as work data.
  • the information processing system includes a plurality of cameras and the like. The plurality of cameras photograph the work of an experienced worker who has a plurality of reflective markers attached to the body, and obtain the three-dimensional coordinates of the position of the reflective marker from the reflected light from the reflective marker.
  • the information processing apparatus 601 may generate a 3D model of an experienced worker from the three-dimensional coordinates of the positions of the plurality of reflective markers, reflect the motion data of the experienced worker in the 3D model, and register it as standard data. .
  • a plurality of cameras captures the work of a worker with a plurality of reflective markers on the body, and obtains the three-dimensional coordinates of the position of the reflective marker from the reflected light from the reflective marker.
  • the information processing apparatus 601 may generate a worker's 3D model from the three-dimensional coordinates of the positions of the plurality of reflective markers, reflect the worker's motion data in the 3D model, and obtain the work data as work data.
  • the information processing apparatus 601 determines whether or not the difference between the standard data and the acquired work data is equal to or greater than a threshold, and when the difference is determined to be equal to or greater than the threshold, the correction of the work is performed according to the difference. Is generated and transmitted to the display device 600.
  • the display device 600 receives the instruction image from the information processing device 601, the display device 600 displays the instruction image on the display unit 625.
  • an instruction image 614 regarding how to apply a tool in an assembly operation of an automobile engine is displayed on the display unit 625 of the display device 600.
  • it is possible to promptly notify a worker of a work correction instruction based on a difference from a veteran worker, and to appropriately convey skills related to the work of a skilled worker to a junior worker. it can.
  • FIG. 2 is a diagram illustrating an example of a hardware configuration of the display device 600.
  • the display device 600 includes a CPU 621, a ROM 622, a RAM 623, a communication I / F 624, a display unit 625, a microphone 626, and an imaging unit 627 as hardware configurations.
  • the CPU 621 reads a program stored in the ROM 622 and executes various processes.
  • the RAM 623 is used as a temporary storage area such as a main memory or work area of the CPU 621.
  • the CPU 621 reads out the program stored in the ROM 622 and executes this program, thereby realizing the functions of the display device 600 and the processing of the display device 600 in the sequence diagram.
  • the communication I / F 624 performs communication processing with the information processing apparatus 601 via the network.
  • the display unit 625 displays various information.
  • the microphone 626 inputs sound such as an utterance of the worker wearing the display device 600. Note that the voice is sent to the CPU 621, and voice recognition processing is performed in the CPU 621.
  • the CPU 621 can accept various instructions from the user from the result of voice recognition.
  • the imaging unit 627 captures a real space.
  • the ROM 622 is an example of a storage medium.
  • FIG. 3 is a diagram illustrating an example of a hardware configuration of the information processing apparatus 601.
  • the information processing apparatus 601 includes a CPU 631, a ROM 632, a RAM 633, a communication I / F 634, a display unit 635, an input unit 636, and an HDD 537.
  • the CPU 631, the ROM 632, the RAM 633, and the communication I / F 634 are the same as the CPU 621, the ROM 622, the RAM 623, and the communication I / F 624, respectively.
  • the display unit 635 displays various information.
  • the input unit 636 has a keyboard and a mouse and accepts various operations by the user.
  • the HDD 537 stores data, various programs, and the like.
  • the CPU 631 reads out a program stored in the ROM 632 or the HDD 537 and executes this program, thereby realizing the functions of the information processing apparatus 601 and the processing of the information processing apparatus 601 in the sequence diagram.
  • the ROM 632 and the HDD 637 are examples of storage media.
  • the standard data table shown in FIG. 4 includes a work ID and standard data corresponding to the work ID.
  • the work includes, for example, automobile engine assembly work, vehicle body assembly work, and the like.
  • one standard data is registered for one work ID in the standard data table.
  • An example of the standard data is, for example, 3D model data generated from measurement data related to the work of an experienced worker as described above.
  • FIG. 5 is a sequence diagram illustrating an example of information processing for displaying an instruction image of the information processing system.
  • display device 600 transmits an instruction image acquisition request to information processing device 601.
  • the display device 600 may specify the work that the worker is going to perform from the voice input of the worker wearing the display device 600, or the work is set in a setting file or the like in advance for each display device. If it is, the work set in the setting file may be specified.
  • the instruction image acquisition request includes a work ID for identifying the work specified by the display device 600.
  • the acquisition request of SC650 is transmitted when starting work, for example.
  • SC ⁇ b> 651 the information processing apparatus 601 acquires standard data corresponding to the work ID from the standard data table based on the work ID included in the instruction image acquisition request.
  • SC651 is an example of standard data acquisition processing.
  • the information processing apparatus 601 acquires work data of the worker who performs the work.
  • the information processing apparatus 601 may generate 3D model data from the measurement data related to the work of the worker acquired from the motion sensor worn by the worker, and acquire the data as work data.
  • the 3D model data may be generated from the measurement data related to the work and obtained as work data.
  • the work data and the standard data are not limited to the data of the 3D model, but in the following description, the 3D model will be described as an example for simplification of description. In the following, for the sake of simplification, the measurement data of the worker and the veteran worker will be described as being acquired by motion capture.
  • SC652 is an example of work data acquisition processing.
  • step SC653 the information processing apparatus 601 determines whether the difference between the acquired standard data and the acquired work data is equal to or greater than a threshold value.
  • the threshold value is stored in, for example, the HDD 637.
  • the information processing apparatus 601 can set or change the threshold value according to an operator's setting operation or the like via the input unit 636 or the like.
  • SC654 when the information processing apparatus 601 determines that the difference is greater than or equal to a threshold, the information processing apparatus 601 generates an instruction image related to the modification of the work according to the difference. For example, the information processing apparatus 601 generates an instruction image as illustrated in FIG. 1 based on the difference between the acquired standard data and the acquired work data.
  • the information processing apparatus 601 generates an instruction image to be corrected based on a difference in a portion that is a point of comparison between the acquired standard data and the acquired work data, according to the work. May be.
  • the information processing device 601 is set according to the work such as the operator's waist folding, elbow bending, wrist twisting, and the like. Compare parts.
  • the information processing device 601 determines whether or not the difference between the point portions is equal to or greater than a threshold value. If the difference is equal to or greater than the threshold value, an instruction image corresponding to the difference is generated in SC654.
  • a threshold value is stored in, for example, the HDD 637 or the like for each comparison point of work.
  • the information processing apparatus 601 can set or change a threshold value for each comparison point of work according to an operator setting operation or the like via the input unit 636 or the like.
  • the information processing apparatus 601 uses a worker's standing position, posture, as a point of comparison among the obtained standard data and the obtained work data. It is determined whether or not the difference in the portion of the walking flow line is equal to or greater than each threshold value. The information processing device 601 determines whether or not the difference between the point portions is equal to or greater than a threshold value. If the difference is equal to or greater than the threshold value, an instruction image corresponding to the difference is generated in SC654.
  • FIG. 6 is a figure which shows an example of a walk flow line among standard data.
  • the walking flow line as shown in FIG. 6 depends on the positional relationship between the tool and the vehicle body used when inserting the seat into the vehicle.
  • Information processing apparatus 601 compares the walking flow line of the actual worker with the walking flow line of the standard data, and the difference is set for the walking flow line. It is determined whether it is larger than a certain threshold value. If the difference is larger than the threshold value, the information processing apparatus 601 displays an instruction image such as “Please go forward after one step backward to the left and insert the seat into the vehicle!”. Generate.
  • the instruction image is not limited to these, and the information processing apparatus 601 uses the 3D model data of the standard data regarding the walking flow line so that the work of the experienced worker is performed via the display unit 625 of the display device 600.
  • An instruction image that is reproduced as an AR (Augmented Reality) image may be generated.
  • the information processing apparatus 601 acquires a worker's walking flow line from measurement data obtained by motion capture, but is not limited thereto.
  • the information processing apparatus 601 may provide a plurality of wireless access points in the work place, and acquire a worker's walking flow line based on a history of wireless communication with the wireless access point with the display device 600 possessed by the worker.
  • the information processing device 601 transmits the generated instruction image to the display device 600 that is the acquisition request source.
  • the display device 600 receives the instruction image.
  • display device 600 displays the received instruction image on display unit 625.
  • FIG. 7 is a flowchart illustrating an example of information processing related to re-registration of standard data.
  • the information processing apparatus 601 generates 3D model data from measurement data related to the work of a skilled worker through motion capture, and registers the data as standard data in the HDD 637 or the like.
  • the information processing apparatus 601 evaluates whether the data registered in step S660 is appropriate as standard data.
  • the information processing apparatus 601 has a ratio of workers determined that the difference between the work data and the standard data is greater than or equal to a threshold value in SC653 of FIG. In some cases, it is evaluated that it is not appropriate as standard data, and when the ratio is less than a set value, it is evaluated that it is appropriate as standard data.
  • the set value is stored in the HDD 637 or the like.
  • the information processing apparatus 601 can change the setting value according to an operator's setting operation or the like via the input unit 636 or the like.
  • step S662 the information processing apparatus 601 determines whether to re-register standard data based on the evaluation in step S661. If the information processing apparatus 601 determines that it is appropriate as the standard data in S661, the information processing apparatus 601 determines that re-registration is not necessary, and ends the process of the flowchart illustrated in FIG. On the other hand, if the information processing apparatus 601 evaluates that it is not appropriate as the standard data in S661, it determines that re-registration is necessary, and proceeds to S663. In step S663, the information processing apparatus 601 again generates 3D model data from measurement data related to the work of a skilled worker through motion capture or the like, and re-registers the data as standard data in the HDD 637 or the like.
  • the information processing apparatus 601 executes the information processing as shown in FIG. 7 to register standard data suitable for the factory in the country or improve the standard data. Etc., and the skills of skilled workers can be appropriately communicated to junior workers.
  • the intuition and tips of a skilled worker appear in a visible form based on the digitized data by the wearable sensor. If so, it will be possible to objectively convey the intuition and tips that can only be acquired over the years. Therefore, according to the processing of the above-described embodiment, even an inexperienced worker can perform work in the same way as a skilled worker in a short period of time.
  • the refrigerator before the drawer door is attached is conveyed in front of the worker by an intermittent conveyor belt conveyor, and the drawer doors are piled up behind the worker.
  • the worker turns back and picks up the drawer door, and (2) pushes it into a predetermined space of the refrigerator and attaches it to the refrigerator.
  • the turning angle is a point. If the turning angle is too deep, the burden on the hips and back is heavy, and it may not be possible to continue working for a long time or it may lead to injury.
  • a wireless motion recorder (3-axis acceleration sensor and 3-axis angular velocity sensor) is mounted at a predetermined position on the body of the skilled worker. Measure the rotation angle of each part during the turning operation when working. It is also possible to take an image of the work operation with a camera and measure the turning angle by image analysis.
  • the body shapes (height and weight) of the workers are various, the turning angles of a plurality of skilled workers having different body shapes may be prepared as standard data.
  • the information processing apparatus 601 compares the turning angle of the novice worker with the turning angle of the standard data.
  • the configuration may be such that the turning angle of the skilled worker having the body shape closest to the body shape of the beginner worker is selected as the standard data for comparison.
  • the information processing apparatus 601 generates an instruction image relating to the work correction of a novice worker according to the turning angle, and displays the instruction image on the display apparatus 600. For example, when the turning angle is insufficient, an arrow whose size, thickness, and color are changed in accordance with the excess or deficiency of the turning angle may be shown in the direction of turning (or the opposite direction). Good.
  • the information processing apparatus 601 always monitors the turning angle, and determines that the operation of (1) is being performed when the movement of the worker exceeding the predetermined angle or the movement returning to the original angle is detected. However, it may be configured to display an instruction image relating to the comparison with the standard data and the work correction as described above. For example, when a work simulation is performed, an operator wears a pin microphone.
  • a sound such as “turning start!” And “turning OK!” Is generated, and the sound is sent to the information processing apparatus 601, and the information processing apparatus 601 is based on the sound ( It may be configured to determine that the work in 1) is being performed.
  • the standing position and posture are important.
  • a foam that pushes the drawer horizontally from the position directly in front of the installation space in the warehouse is ideal. If the standing position is shifted to the left or right or the body is not bent enough, the drawer door cannot be hooked well on the rail in the cabinet if it is installed from an oblique direction. Therefore, the standing position when a skilled worker performs the operation (2) is measured as standard data of the standing position.
  • RFIDs are installed at equal intervals on a belt conveyor, for example, a small reader is attached to a skilled worker, and the worker's standing position is measured based on the strength of the RFID signal read by the reader. It may be configured to.
  • the structure which measures based on the image imaged with the camera fixed to the ceiling may be sufficient.
  • standard data the angle of each joint of a skilled worker's body may be measured together. Since the body shapes (height and weight) of the workers are various, the joint angles of a plurality of skilled workers having different body shapes may be prepared as standard data. Similarly, the standing position and angle of each joint when the inexperienced novice worker performs the work (2) are measured. Then, the information processing apparatus 601 compares the standing position and angle of each joint of the novice worker with the standing position and angle of each joint of the standard data. At this time, the configuration may be such that the standard data for comparison is that of a skilled worker having a body shape closest to the body shape of a beginner worker.
  • the information processing apparatus 601 generates an instruction image related to the work correction of a novice worker according to the standing position and the angle of each joint, and displays the instruction image on the display apparatus 600. For example, if the standing position is slightly shifted to the right compared to skilled workers, an arrow whose size, thickness, and color are changed in the direction to correct the standing position according to the deviation width of the standing position. The message may be pointed to, or a message such as “Stand a little more left” may be displayed. In addition, for the angles of each joint, a configuration in which an instruction image using an arrow, a message, or the like is generated may be used.
  • the information processing apparatus 601 may be configured to always monitor the standing position of the worker and determine that the operation of (2) has been started after detecting the completion of the operation of (1). For example, when performing a simulation of work, a worker wears a pin microphone and, for example, emits a sound such as “Installation start!” Or “Installation OK!” Each time work starts and ends.
  • the voice may be sent to the information processing apparatus 601, and the information processing apparatus 601 may be configured to determine that the operation (2) is being performed based on the voice.
  • the configuration may be such that the flow lines of a skilled worker and a beginner worker are compared.
  • the flow line may be specified by, for example, arranging RFIDs in a lattice pattern on the floor and analyzing the intensity of a signal read by a reader attached to the worker. Then, the flow line of the skilled worker as the standard data was compared with the flow line of the beginner worker as the work data, and the size, thickness, and color were changed according to the deviation width of the flow line. An arrow may be shown in the direction to correct the movement, or a message such as “go a little further to the right” may be displayed.
  • the information processing apparatus 601 may be configured to constantly monitor the flow line of the worker and determine the flow line when there is a movement of a predetermined distance or more. For example, a simulation of the work is performed. In such a case, the worker wears a pin microphone, and each time work is started and finished, for example, a voice such as “Movement start!” Or “Movement completion!” Is generated, and the sound is sent to the information processing apparatus 601.
  • the information processing apparatus 601 may be configured to determine that the worker is moving and needs to instruct the flow line based on the voice.
  • the configuration using an acceleration sensor or RFID has been described. For example, a pressure sensor is mounted on a glove, the back of a shoe, etc., and pressure data is measured. The operation data to be measured may be analyzed, and an instruction relating to the correction of the work may be issued.
  • the work data to be measured is not particularly limited.
  • an instruction image relating to work modification can be generated and displayed superimposed on the real space by simple information processing in the information system.
  • the amount of communication with the device 601 can be reduced. Therefore, it is possible to reduce the network bandwidth usage rate.
  • the information processing apparatus 601 can generate an instruction image relating to work correction by simpler information processing, the usage rate of the CPU 631 and the like of the information processing apparatus 601 can be reduced.

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Educational Administration (AREA)
  • Educational Technology (AREA)
  • Theoretical Computer Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Optics & Photonics (AREA)
  • Manufacturing & Machinery (AREA)
  • Quality & Reliability (AREA)
  • Automation & Control Theory (AREA)
  • General Factory Administration (AREA)
  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

作業の登録された標準データを取得する標準データ取得手段と、作業を行う作業者の作業データを取得する作業データ取得手段と、標準データ取得手段により取得された標準データと作業データ取得手段により取得された作業データとの差異が閾値以上か否かを判定する判定手段と、判定手段により差異が閾値以上であると判定された場合、差異に応じて、作業の修正に関する指示画像を生成する生成手段と、生成手段により生成された指示画像を作業者が装着している表示装置の表示部に表示することで、現実空間に指示画像を重畳して表示する表示手段と、を有することによって課題を解決する。

Description

情報処理システム、情報処理装置、情報処理方法及びプログラム
 本発明は、作業場における作業に関して指示画像を重畳表示する情報処理システム、情報処理装置、情報処理方法及びプログラムに関する。
 特許文献1には、標準作業情報及びワークの状態に基づいて作業者の行う作業を評価する技術が開示されている。
特開2005-242418号公報
 しかし、特許文献1記載の技術では、作業者が、標準データと異なる動作を行っていることを作業者に伝え、作業の修正を指示することはできない課題があった。
 また、いわゆる団塊の世代の退職により熟練作業者の技能を多くの後輩の作業者に分かりやすく正しく伝承させていきたいという課題がある。また、グローバル化に伴い、日本国内で行っていた作業を、作業の品質を落とさず、海外の作業者に行わせたいという課題もある。
 本発明は、作業者に作業の修正指示を速やかに伝えると共に熟練作業者の技能を後輩の作業者に適切に伝えることを目的とする。
 そこで、本発明の情報処理システムは、作業の登録された標準データを取得する標準データ取得手段と、前記作業を行う作業者の作業データを取得する作業データ取得手段と、前記標準データ取得手段により取得された前記標準データと前記作業データ取得手段により取得された前記作業データとの差異が閾値以上か否かを判定する判定手段と、前記判定手段により前記差異が閾値以上であると判定された場合、前記差異に応じて、前記作業の修正に関する指示画像を生成する生成手段と、前記生成手段により生成された前記指示画像を前記作業者が装着している表示装置の表示部に表示することで、現実空間に前記指示画像を重畳して表示する表示手段と、を有する。
 本発明によれば、作業者に作業の修正指示を速やかに伝えると共に熟練作業者の技能を後輩の作業者に適切に伝えることができる。
図1は、情報処理システムのシステム構成の一例を示す図である。 図2は、表示装置のハードウェア構成の一例を示す図である。 図3は、情報処理装置のハードウェア構成の一例を示す図である。 図4は、標準データテーブルの一例を示す図である。 図5は、情報処理システムの指示画像を表示する情報処理の一例を示すシーケンス図である。 図6は、標準データのうち、歩行動線の一例を示す図である。 図7は、標準データの再登録に係る情報処理の一例を示すフローチャートである。
 以下、本発明の実施形態について図面に基づいて説明する。
 図1は、情報処理システムのシステム構成の一例を示す図である。図1に示されるように、情報処理システムは、システム構成として、表示装置600と、情報処理装置601と、を含む。表示装置600と、情報処理装置601とは、ネットワーク等を介して通信可能に接続されている。図1の例では表示装置600のみが情報処理装置601と通信可能に接続されているが、複数の表示装置が情報処理装置601と通信可能に接続されていてもよい。情報処理装置601は、コンピュータの一例である。
 表示装置600は、作業者が装着する眼鏡型の表示デバイスである。本実施形態においては、自動車のエンジンの組み立て作業、車体の組み立て作業等を行っている作業者が表示装置600を装着して作業を行うものとする。
 表示装置600は、光透過型の表示装置であり、眼鏡のレンズ部分に相当する位置には、光透過型の表示部625が設けられている。表示装置600を装着した作業者は、表示装置600の表示部625を介して、現実空間において、視線の先に存在する物体を見ることができる。更に、表示部625には、情報処理装置601で生成された画像が表示されるので、表示装置600を装着した作業者は、表示部625を通して見ている現実空間に、情報処理装置601で生成された画像が重畳された状態、即ち拡張現実空間(AR空間)を認識することができる。
 また、表示装置600には、表示部625に隣接する位置に撮像部627が設けられている。撮像部627は、表示装置600の装着者の視線方向と、撮像部627の撮像方向とが一致する関係になるように設置されているものとする。これにより、撮像部627は、表示装置600を装着する作業者がみている現実空間の作業の画像を撮像することができる。他の例として、撮像部627は、撮像方向と表示装置600の装着者の視線方向とが一定の関係になるように設定されていてもよい。但し、撮像部627は、表示装置600の必須の構成要素ではない。
 情報処理装置601は、例えば、複数のモーションセンサを装着したベテランの作業員の作業に関する計測データを、前記複数のモーションセンサより取得し、計測データから3Dモデルのデータを生成し、作業の標準データとして登録する。また、情報処理装置601は、例えば、複数のモーションセンサを装着した作業員の作業に関する計測データを、前記複数のモーションセンサより取得し、計測データから3Dモデルのデータを生成し、作業データとして取得するようにしてもよい。
 但し、このことは本実施形態を制限するものではない。情報処理装置601は、モーションキャプチャによるベテラン作業員の作業に関する計測データから3Dモデルのデータを生成し、標準データとして登録するようにしてもよい。また、情報処理装置601は、モーションキャプチャによる作業員の作業に関する計測データから3Dモデルのデータを生成し、作業データとして取得するようにしてもよい。
 例えば、光学式のモーションキャプチャの場合、情報処理システムは、複数のカメラ等を含む。複数のカメラは、体に複数の反射マーカを付したベテラン作業員の作業を撮影し、反射マーカによる反射光より反射マーカの位置の三次元座標を求める。情報処理装置601は、複数の反射マーカの位置の三次元座標よりベテラン作業者の3Dモデルを生成し、ベテラン作業者の動作データを3Dモデルに反映させ、標準データとして登録するようにしてもよい。同様に、複数のカメラは、体に複数の反射マーカを付した作業員の作業を撮影し、反射マーカによる反射光より反射マーカの位置の三次元座標を求める。情報処理装置601は、複数の反射マーカの位置の三次元座標より作業者の3Dモデルを生成し、作業者の動作データを3Dモデルに反映させ、作業データとして取得するようにしてもよい。
 情報処理装置601は、標準データと、取得した作業データと、の差異が閾値以上か否かを判定し、前記差異が閾値以上であると判定した場合、前記差異に応じて、前記作業の修正に関する指示画像を生成し、表示装置600に送信する。表示装置600は、情報処理装置601より指示画像を受信すると、表示部625に表示する。図1の例では、自動車のエンジンの組み立て作業における工具の当て方に関する指示画像614が表示装置600の表示部625に表示されている。
 本実施形態の情報処理システムによれば、作業者にベテランの作業者との差異に基づく作業の修正指示を速やかに伝えると共に熟練作業者の作業に関する技能を後輩の作業者に適切に伝えることができる。
 図2は、表示装置600のハードウェア構成の一例を示す図である。表示装置600は、ハードウェア構成として、CPU621と、ROM622と、RAM623と、通信I/F624と、表示部625と、マイク626と、撮像部627と、を有している。CPU621は、ROM622に記憶されたプログラムを読み出して各種処理を実行する。RAM623は、CPU621の主メモリ、ワークエリア等の一時記憶領域として用いられる。CPU621がROM622に格納されているプログラムを読み出し、このプログラムを実行することにより表示装置600の機能及びシーケンス図の表示装置600の処理が実現される。
 通信I/F624は、ネットワークを介して、情報処理装置601との通信処理を行う。表示部625は、各種情報を表示する。マイク626は、表示装置600を装着した作業者の発話等の音声を入力する。なお、音声は、CPU621に送られ、CPU621において音声認識処理が行われる。CPU621は、音声認識の結果から、ユーザによる各種指示を受け付けることができる。撮像部627は、現実空間の撮影を行う。ROM622は、記憶媒体の一例である。
 図3は、情報処理装置601のハードウェア構成の一例を示す図である。情報処理装置601は、CPU631と、ROM632と、RAM633と、通信I/F634と、表示部635と、入力部636と、HDD537と、を有している。CPU631、ROM632、RAM633及び通信I/F634は、それぞれCPU621、ROM622、RAM623及び通信I/F624と同様である。表示部635は、各種情報を表示する。入力部636は、キーボードやマウスを有し、ユーザによる各種操作を受け付ける。HDD537は、データや各種プログラム等を記憶する。CPU631がROM632又はHDD537に格納されているプログラムを読み出し、このプログラムを実行することにより情報処理装置601の機能及びシーケンス図の情報処理装置601の処理が実現される。ROM632、HDD637は、記憶媒体の一例である。
 情報処理装置601がHDD637等に記憶しているデータについて図4を用いて説明する。但し、データを記憶する記憶先はHDD637に限られず、情報処理装置601が通信可能なネットワーク上のデータサーバ等であってもよい。
 図4で示される標準データテーブルには、作業IDと、作業IDに対応する標準データと、が含まれる。作業とは、例えば、自動車のエンジンの組み立て作業、車体の組み立て作業等である。
 図4では、標準データテーブルには、1つの作業IDに対して1つの標準データが登録されている。標準データの一例としては、例えば、上述したようなベテラン作業員の作業に関する計測データから生成された3Dモデルのデータである。
 図5は、情報処理システムの指示画像を表示する情報処理の一例を示すシーケンス図である。
 SC650において、表示装置600は、情報処理装置601に対して指示画像の取得要求を送信する。表示装置600は、表示装置600を装着した作業者の音声入力を介して作業者がこれから行おうとしている作業を特定してもよいし、表示装置ごとに予め作業が設定ファイル等に設定されている場合は、設定ファイルに設定されている作業を特定してもよい。前記指示画像の取得要求には、表示装置600が特定した作業を識別する作業IDが含まれる。SC650の取得要求は、例えば、作業を開始する際に送信される。
 SC651において、情報処理装置601は、指示画像の取得要求に含まれる作業IDに基づいて、標準データテーブルより前記作業IDに対応する標準データを取得する。SC651は、標準データ取得の処理の一例である。
 SC652において、情報処理装置601は、前記作業を行っている作業者の作業データを取得する。情報処理装置601は、前記作業者が装着したモーションセンサから取得した作業者の作業に関する計測データから3Dモデルのデータを生成し、作業データとして取得するようにしてもよいし、モーションキャプチャによる作業者の作業に関する計測データから3Dモデルのデータを生成し、作業データとして取得するようにしてもよい。但し、作業データや標準データは、3Dモデルのデータに限られる訳ではないが、以下では、説明の簡略化のため、3Dモデルを例に説明を行う。また、以下では、説明の簡略化のため、作業者やベテラン作業者の計測データは、モーションキャプチャにより取得するものとして説明を行う。SC652は、作業データ取得の処理の一例である。
 SC653において、情報処理装置601は、前記取得した標準データと、前記取得した作業データと、の差異が閾値以上か否かを判定する。閾値は、例えば、HDD637等に記憶されている。情報処理装置601は、入力部636等を介した操作者の設定操作等に応じて、前記閾値を設定、又は変更することができる。
 SC654において、情報処理装置601は、前記差異が閾値以上であると判定した場合、前記差異に応じて、前記作業の修正に関する指示画像を生成する。例えば、情報処理装置601は、前記取得した標準データと、前記取得した作業データと、の差異に基づき、図1に示したように、指示画像を生成する。また、情報処理装置601は、前記作業に応じて、前記取得した標準データと、前記取得した作業データと、の比較のポイントとなる部分の差異に基づき、修正すべき指示画像を生成するようにしてもよい。例えば、作業が自動車のエンジンの組み立て作業の場合、SC653において、情報処理装置601は、作業者の腰の折れ具合、肘の曲がり具合、手首のひねり具合等の作業に応じて設定されているポイント部分を比較する。情報処理装置601は、各ポイント部分の差異が、閾値以上か否かを判定し、閾値以上の場合は、SC654において、差異に応じた指示画像を生成する。このような構成とする場合、作業の比較ポイントごとに閾値が例えば、HDD637等に記憶されている。情報処理装置601は、入力部636等を介した操作者の設定操作等に応じて、作業の比較ポイントごとの閾値を設定、又は変更することができる。
 次に、自動車のエンジンの組み立て作業を例に説明を行う。自動車の組み立て作業の比較ポイントとして、作業者の立ち位置、姿勢、歩行動線が設定されているものとする。
 SC653において、情報処理装置601は、前記作業が自動車の組み立て作業であるため、前記取得した標準データと、前記取得した作業データと、のうち、比較のポイントとして、作業者の立ち位置、姿勢、歩行動線の部分の差異がそれぞれの閾値以上か否かを判定する。情報処理装置601は、各ポイント部分の差異が、閾値以上か否かを判定し、閾値以上の場合は、SC654において、差異に応じた指示画像を生成する。ここで、図6は、標準データのうち、歩行動線の一例を示す図である。例えば、自動車の組み立て作業のうちの一の工程である「シート投入」において、シートを車内に投入するに際して使用する工具と車体との位置関係等に応じて、図6に示すような歩行動線に係る標準データが登録されていた場合、情報処理装置601は、実際の作業者の歩行動線と、標準データの歩行動線と、を比較し、差異が歩行動線に対して設定されている閾値より大きいか否かを判定する。前記差異が前記閾値より大きい場合、前記差異に応じて、情報処理装置601は、「左後ろにもう1歩下がった後に前に進んでシートを車内に投入して下さい!」等の指示画像を生成する。但し、指示画像はこれらに限定されるものではなく、情報処理装置601は、歩行動線に関する標準データの3Dモデルのデータに基づき、ベテラン作業員の作業が表示装置600の表示部625を介してAR(Augmented reality)画像として再現されるような指示画像を生成してもよい。本実施形態では、情報処理装置601は、作業者の歩行動線を、モーションキャプチャによる計測データから取得するものとしているが、これに限定されるものではない。情報処理装置601は、作業場に複数の無線アクセスポイントを設け、作業者が有する表示装置600との無線アクセスポイントとの無線通信の履歴により、作業者の歩行動線を取得してもよい。
 SC655において、情報処理装置601は、生成した指示画像を取得要求元の表示装置600に送信する。表示装置600は、前記指示画像を受信する。
 SC656において、表示装置600は、受信した指示画像を表示部625に表示する。
 図7は、標準データの再登録に係る情報処理の一例を示すフローチャートである。
 S660において、情報処理装置601は、モーションキャプチャによる熟練作業者の作業に関する計測データから3Dモデルのデータを生成し、標準データとしてHDD637等に登録する。
 S661において、情報処理装置601は、S660で登録したデータが標準データとして適切か否かを評価する。例えば、情報処理装置601は、前記作業を行う複数の作業者のうち、図5のSC653で作業データと標準データとの差異が閾値以上であると判定された作業者の割合が設定値以上である場合、標準データとして適切でないと評価し、前記割合が設定された値未満である場合、標準データとして適切であると評価する。設定値は、例えば、HDD637等に記憶されている。情報処理装置601は、入力部636等を介した操作者の設定操作等に応じて、前記設定値を変更等することができる。
 S662において、情報処理装置601は、S661での評価に基づき、標準データを再登録するか否かを判定する。情報処理装置601は、S661で標準データとして適切であると評価した場合、再登録は必要ないと判定し、図7に示すフローチャートの処理を終了する。一方、情報処理装置601は、S661で標準データとして適切でないと評価した場合、再登録が必要であると判定し、S663に進む。
 S663において、情報処理装置601は、再度、モーションキャプチャ等による熟練作業者の作業に関する計測データから3Dモデルのデータを生成し、標準データとしてHDD637等に再登録する。この場合、S660で計測データを取得した熟練作業者とは異なる熟練作業者に作業をして貰い、情報処理装置601は、その計測データをから3Dモデルのデータを生成し、標準データとしてHDD637等に再登録するようにしてもよい。
 図7に示すような情報処理を実行することによって、登録した標準データを評価し、適切でない場合は、標準データを再登録することができる。グローバル化に伴い、日本国内で行っていた作業を海外の従業者を使用して作業を行わせたい場合がある。しかし、習慣や体格等の違いから、例えば、国内の熟練作業者の作業に基づいて登録された標準データが必ずしも海外の従業者にとっても適切なデータであるとは限らない場合がある。このような場合にも、情報処理装置601が、図7に示すような情報処理を実行することによって、その国のその工場にあった標準データを登録、又は標準データを改善していき、製品等の品質や、熟練作業者の技能を適切に後輩の作業者に伝えていくことができる。
 ところで、上述した例では比較的複雑な動作を要求される作業について3Dモデルを用いて動作を解析する構成について説明した。しかしながら、上述した例に限られず、より単純な作業についても適用できる。単純作業においては、一見、熟練の作業員と初心者の作業員とでそれほど動作に大差がないように見えるが、むしろ単純に見える作業においてこそ、作業中の動作のポイントを熟知した熟練の作業員と、経験の浅い初心者の作業員とでは、作業効率のみならず、怪我や疲労の蓄積の度合い等においても歴然とした差が現れる。
 これは、熟練の作業員が長年の経験によって身に付けた作業のリズムや力の入れ具合・抜き具合等、勘やコツといったものが、経験の浅い作業員に備わっていないことに起因する。そして、上述した実施形態の処理によれば、熟練の作業員の勘やコツがウェアラブルセンサによる数値化されたデータに基づいて目に見える形で現れるため、経験の浅い作業員に対して、本来であれば長い年月を経てようやく身につけることができる勘やコツを客観的に伝達することができるようになるのである。したがって、上述した実施形態の処理によれば、経験の浅い作業員であっても短期間で熟練の作業員と同じように作業を行うことが可能となる。
 ここでは、単純作業の例として、冷蔵庫の組立作業のうち、引出ドアの取り付け工程について説明する。本実施形態に係る引出ドアの取り付け工程は、引出ドアの取り付け前の冷蔵庫が間欠搬送型のベルトコンベアーで作業員の前に運ばれ、作業員の後方には引出ドアが山積みされており、(1)作業員は後ろを振り向いて引出ドアを手に取り、(2)それを冷蔵庫の所定のスペースに押し入れて取り付ける、という2段階の作業から構成されているものとする。
 上記の(1)においては、振り向き角度がポイントとなる。振り向き角度が深過ぎると腰や背中への負担が大きく、長時間の作業を続けることができなかったり、怪我につながってしまったりすることもあり、一方、振り向き角度が浅過ぎると、引出をしっかり掴むことができず、振り向き直しが発生したり、中途半端に掴んでしまった引出を途中で落としてしまったりするため、適切な振り向き角度が要求される。
 そこで、まず振り向き角度の標準データとして、例えば無線のモーションレコーダー(3軸加速度センサ及び3軸角速度センサ)を熟練の作業員の体の所定の位置に装着し、熟練の作業員が(1)の作業を行う場合における振り向き動作時の各部の回旋角度を測定しておく。なお、作業の動作をカメラで撮像し、画像解析により振り向き角度を計測することもできる。また、作業員の体型(身長や体重)は様々なので、体型の異なる複数の熟練作業員の振り向き角度を標準データとして用意しておいてもよい。
 また、同様にして、経験の浅い初心者の作業員が(1)の作業を行う場合の振り向き角度を計測する。そして、情報処理装置601は、初心者の作業員の振り向き角度と、標準データの振り向き角度と比較する。このとき、比較対象の標準データとして、初心者の作業員の体型に最も近い体型の熟練作業員の振り向き角度を選択する構成であってもよい。
 更に、情報処理装置601は、振り向き角度に応じて、初心者の作業員の作業の修正に関する指示画像を生成し、表示装置600に表示する。例えば、振り向き角度が不足している場合には、振り向き角度の過不足量に応じて大きさ、太さ、色を変化させた矢印を、振り向く方向(又は逆の方向)に向けて示してもよい。又は、過不足量ごとに予め「もう少しだけ振り向きましょう!」「振り向き過ぎです!」というようなメッセージを用意しておき、メッセージ画像のデータを読み出して(指示画像を生成して)、それを表示させてもよい。
 なお、情報処理装置601は、振り向き角度を常に監視しておき、所定以上の角度を超える作業員の動き及び元の角度に戻る動きを検出した場合に、(1)の作業中であると判定し、上述したような標準データとの比較及び作業の修正に関する指示画像を表示する構成であってもよいし、例えば作業のシミュレーションを行うような場合には、作業員がピンマイクを装着しておき、作業の開始と終了の都度、例えば「振り向きスタート!」「振り向きOK!」というような音声を発し、その音声が情報処理装置601へ送られ、情報処理装置601は、その音声に基づいて(1)の作業中であると判定する構成であってもよい。
 また、上記の(2)においては、立ち位置や姿勢が重要となる。引出ドアの取り付け作業を行う際は、庫内の取り付けスペースに対して真正面の位置から水平に引出を押しこむフォームが理想的である。立ち位置が左右にずれていたり、身の屈め具合が不足していたりすると、斜め方向から取り付けを行おうとすると、引出ドアを庫内のレールに上手く引っ掛けることができない。
 そこで、立ち位置の標準データとして、熟練の作業員が(2)の動作を行う場合における立ち位置を計測しておく。例えば、例えばベルトコンベアーに等間隔にRFIDが設置されており、熟練の作業員に小型のリーダーを装着しておき、リーダーが読み取ったRFIDの信号の強度等に基づいて作業者の立ち位置を計測する構成であってもよい。又は、天井に固定されたカメラで撮像された画像に基づいて計測する構成であってもよい。
 ここで、標準データとして、熟練の作業員の体の各関節の角度を併せて計測してもよい。作業員の体型(身長や体重)は様々なので、体型の異なる複数の熟練作業員の関節の角度を標準データとして用意しておいてもよい。
 また、同様にして、経験の浅い初心者の作業員が(2)の作業を行う場合の立ち位置及び各関節の角度を計測する。そして、情報処理装置601は、初心者の作業員の立ち位置や各関節の角度と、標準データの立ち位置や各関節の角度とを比較する。このとき、比較対象の標準データとして、初心者の作業員の体型に最も近い体型の熟練作業員のものを選択する構成であってもよい。
 更に、情報処理装置601は、立ち位置や各関節の角度に応じて、初心者の作業員の作業の修正に関する指示画像を生成し、表示装置600に表示する。例えば、熟練作業員と比較して立ち位置が少し右にずれている場合には、立ち位置のずれ幅に応じて大きさ、太さ、色を変化させた矢印を立ち位置を修正する方向に向けて示してもよいし、又は、「もう少し左に立って下さい。」というようなメッセージを表示してもよい。また、各関節の角度についても同様に矢印やメッセージ等による指示画像を生成する構成であってもよい。
 なお、情報処理装置601は、作業員の立ち位置を常に監視しておき、(1)の作業が終了したことを検知した後、(2)の作業に移ったと判定する構成であってもよいし、例えば作業のシミュレーションを行うような場合には、作業員がピンマイクを装着しておき、作業の開始と終了の都度、例えば「取り付けスタート!」「取り付けOK!」というような音声を発し、その音声が情報処理装置601へ送られ、情報処理装置601は、その音声に基づいて(2)の作業中であると判定する構成であってもよい。
 また、例えば(1)から(2)の作業に移る際に移動が発生するような作業の場合には、熟練の作業員と初心者の作業員の動線を比較する構成であってもよい。動線は、例えば、床にRFIDを格子状に配置しておき、作業者に装着されたリーダーで読み取った信号の強度を解析して特定してもよい。
 そして、標準データとしての熟練の作業員の動線と、作業データとしての初心者の作業員の動線とを比較し、動線のずれ幅に応じて大きさ、太さ、色を変化させた矢印を、動きを修正する方向に向けて示してもよいし、又は、「もう少し右側を進んで下さい」というようなメッセージを表示してもよい。
 なお、情報処理装置601は、作業員の動線を常に監視しておき、所定以上の距離の移動があった場合に動線について判定する構成であってもよいし、例えば作業のシミュレーションを行うような場合には、作業員がピンマイクを装着しておき、作業の開始と終了の都度、例えば「移動開始!」「移動完了!」というような音声を発し、その音声が情報処理装置601へ送られ、情報処理装置601は、その音声に基づいて作業員が移動中であり動線について指示する必要があると判定する構成であってもよい。
 上述した例では、加速度センサやRFIDを用いる構成について説明したが、例えば、グローブや靴の裏等に圧力センサを装着して圧力データを計測し、その計測データに基づいて、ものを掴んだり離したりする動作や歩数等を解析し、作業の修正に関する指示を行う構成であってもよく、計測対象の作業データは特に限定されない。
 以上、本発明の好ましい実施形態について詳述したが、本発明は係る特定の実施形態に限定されるものではない。
 以上、上述した実施形態によれば、作業者に作業の修正指示を速やかに伝えると共に熟練作業者の技能を後輩の作業者に適切に伝えることができる。
 また、上述した実施形態の処理によれば、情報システム内において、簡易な情報処理により、作業の修正に関する指示画像を生成し、現実空間に重畳表示させることができるため、表示装置600と情報処理装置601とのやり取りの量を減らすことができる。そのためネットワークの帯域の使用率を下げることができる。また、情報処理装置601において、より簡易な情報処理により、作業の修正に関する指示画像を生成することができるため、情報処理装置601のCPU631等の使用率を下げることができる。

Claims (10)

  1.  作業の登録された標準データを取得する標準データ取得手段と、
     前記作業を行う作業者の作業データを取得する作業データ取得手段と、
     前記標準データ取得手段により取得された前記標準データと前記作業データ取得手段により取得された前記作業データとの差異が閾値以上か否かを判定する判定手段と、
     前記判定手段により前記差異が閾値以上であると判定された場合、前記差異に応じて、前記作業の修正に関する指示画像を生成する生成手段と、
     前記生成手段により生成された前記指示画像を前記作業者が装着している表示装置の表示部に表示することで、現実空間に前記指示画像を重畳して表示する表示手段と、
    を有する情報処理システム。
  2.  前記判定手段は、作業に応じて設定されている前記標準データと前記作業データの比較ポイントごとに差異が閾値以上か否かを判定し、
     前記生成手段は、前記判定手段により差異が閾値以上であると判定された比較ポイントに関する差異に応じて、前記作業の修正に関する指示画像を生成する請求項1記載の情報処理システム。
  3.  前記標準データを登録する登録手段を更に有する請求項1又は2記載の情報処理システム。
  4.  前記標準データが適切か否かを評価する評価手段を更に有する請求項1乃至3何れか1項記載の情報処理システム。
  5.  前記評価手段は、前記作業を行う複数の作業者のうち前記判定手段により前記差異が閾値以上であると判定された作業者の割合に応じて、前記標準データが適切か否か評価する請求項4記載の情報処理システム。
  6.  前記評価手段により前記標準データが適切でないと評価された場合、前記標準データを登録し直す再登録手段を更に有する請求項4又は5記載の情報処理システム。
  7.  作業の登録された標準データを取得する標準データ取得手段と、
     前記作業を行う作業者の作業データを取得する作業データ取得手段と、
     前記標準データ取得手段により取得された前記標準データと前記作業データ取得手段により取得された前記作業データとの差異が閾値以上か否かを判定する判定手段と、
     前記判定手段により前記差異が閾値以上であると判定された場合、前記差異に応じて、前記作業の修正に関する指示画像を生成する生成手段と、
     前記生成手段により生成された前記指示画像を前記作業者が装着している表示装置に送信する送信手段と、
    を有する情報処理装置。
  8.  情報処理装置が実行する情報処理方法であって、
     作業の登録された標準データを取得する標準データ取得ステップと、
     前記作業を行う作業者の作業データを取得する作業データ取得ステップと、
     前記標準データ取得ステップにより取得された前記標準データと、前記作業データ取得ステップにより取得された前記作業データと、の差異が閾値以上か否かを判定する判定ステップと、
     前記判定ステップにより前記差異が閾値以上であると判定された場合、前記差異に応じて、前記作業の修正に関する指示画像を生成する生成ステップと、
     前記生成ステップにより生成された前記指示画像を前記作業者が装着している表示装置
    の表示部に表示することで、現実空間に前記指示画像を重畳して表示する表示ステップと、
    を含む情報処理方法。
  9.  情報処理システムが実行する情報処理方法であって、
     作業の登録された標準データを取得する標準データ取得ステップと、
     前記作業を行う作業者の作業データを取得する作業データ取得ステップと、
     前記標準データ取得ステップにより取得された前記標準データと、前記作業データ取得ステップにより取得された前記作業データと、の差異が閾値以上か否かを判定する判定ステップと、
     前記判定ステップにより前記差異が閾値以上であると判定された場合、前記差異に応じて、前記作業の修正に関する指示画像を生成する生成ステップと、
     前記生成ステップにより生成された前記指示画像を前記作業者が装着している表示装置に送信する送信ステップと、
    を含む情報処理方法。
  10.  コンピュータに、
     作業の登録された標準データを取得する標準データ取得ステップと、
     前記作業を行う作業者の作業データを取得する作業データ取得ステップと、
     前記標準データ取得ステップにより取得された前記標準データと、前記作業データ取得ステップにより取得された前記作業データと、の差異が閾値以上か否かを判定する判定ステップと、
     前記判定ステップにより前記差異が閾値以上であると判定された場合、前記差異に応じて、前記作業の修正に関する指示画像を生成する生成ステップと、
     前記生成ステップにより生成された前記指示画像を前記作業者が装着している表示装置に送信する送信ステップと、
    を実行させるためのプログラム。
PCT/JP2017/006543 2016-03-04 2017-02-22 情報処理システム、情報処理装置、情報処理方法及びプログラム WO2017150293A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2017531414A JP6224873B1 (ja) 2016-03-04 2017-02-22 情報処理システム、情報処理装置、情報処理方法及びプログラム
CN201780009604.4A CN108604393B (zh) 2016-03-04 2017-02-22 信息处理系统、信息处理装置、信息处理方法以及计算机可读取的存储介质
US16/074,619 US11011074B2 (en) 2016-03-04 2017-02-22 Information processing system, information processor, information processing method and program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2016-042252 2016-03-04
JP2016042252 2016-03-04

Publications (1)

Publication Number Publication Date
WO2017150293A1 true WO2017150293A1 (ja) 2017-09-08

Family

ID=59743881

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2017/006543 WO2017150293A1 (ja) 2016-03-04 2017-02-22 情報処理システム、情報処理装置、情報処理方法及びプログラム

Country Status (4)

Country Link
US (1) US11011074B2 (ja)
JP (1) JP6224873B1 (ja)
CN (1) CN108604393B (ja)
WO (1) WO2017150293A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019139129A1 (ja) * 2018-01-11 2019-07-18 株式会社デンソー 設置位置情報提供装置及び設置位置情報提供方法
JP2019200241A (ja) * 2018-05-14 2019-11-21 オムロン株式会社 動作分析装置、動作分析方法、動作分析プログラム及び動作分析システム
JP2020034849A (ja) * 2018-08-31 2020-03-05 オムロン株式会社 作業支援装置、作業支援方法及び作業支援プログラム
JP2020115202A (ja) * 2019-01-17 2020-07-30 オムロン株式会社 情報処理装置、提示システム、及び情報処理プログラム

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7164883B2 (ja) * 2017-05-31 2022-11-02 株式会社フジキン 半導体製造装置の管理システム、方法、及びコンピュータプログラム
JP7210169B2 (ja) * 2018-06-29 2023-01-23 株式会社日立システムズ コンテンツ提示システムおよびコンテンツ提示方法
US11119716B2 (en) 2018-10-31 2021-09-14 Fanuc Corporation Display system, machine learning device, and display device
US11209795B2 (en) 2019-02-28 2021-12-28 Nanotronics Imaging, Inc. Assembly error correction for assembly lines
US10481579B1 (en) 2019-02-28 2019-11-19 Nanotronics Imaging, Inc. Dynamic training for assembly lines
JP7207790B2 (ja) * 2019-04-19 2023-01-18 ナノトロニクス イメージング インコーポレイテッド 組立てラインのための組立てエラー修正
WO2020235120A1 (ja) * 2019-05-20 2020-11-26 株式会社日立システムズ 作業支援システムおよび作業支援方法
JP7339063B2 (ja) 2019-08-19 2023-09-05 ファナック株式会社 作業工程に関する学習を行う機械学習プログラム及び機械学習装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0968444A (ja) * 1995-09-01 1997-03-11 Japan Aviation Electron Ind Ltd 運動測定装置この測定装置を利用した仮想空間再現装置、フォーム矯正装置
JP2003196681A (ja) * 2001-12-26 2003-07-11 Sharp Corp 作業指図システム、作業指図方法及びそれを実現するためのプログラムを格納した記録媒体
JP2014228725A (ja) * 2013-05-23 2014-12-08 ソニー株式会社 情報処理装置及び記憶媒体

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005242418A (ja) 2004-02-24 2005-09-08 Matsushita Electric Works Ltd 作業評価装置、作業評価方法をコンピュータに実現させる作業評価プログラムおよび当該作業評価プログラムを記憶した記憶媒体
US9812096B2 (en) * 2008-01-23 2017-11-07 Spy Eye, Llc Eye mounted displays and systems using eye mounted displays
US9280913B2 (en) * 2009-07-10 2016-03-08 Lincoln Global, Inc. Systems and methods providing enhanced education and training in a virtual reality environment
JP4913913B2 (ja) * 2010-04-28 2012-04-11 新日鉄ソリューションズ株式会社 情報処理システム、情報処理方法及びプログラム
JP2012060384A (ja) * 2010-09-08 2012-03-22 Casio Comput Co Ltd 画像処理装置、画像処理方法及びプログラム
JP5532026B2 (ja) * 2011-08-10 2014-06-25 カシオ計算機株式会社 表示装置、表示方法及びプログラム
FR2992853B1 (fr) * 2012-07-06 2015-07-31 Chiropratique Attitude Table de massage vibrante
US9087403B2 (en) * 2012-07-26 2015-07-21 Qualcomm Incorporated Maintaining continuity of augmentations
WO2015006334A1 (en) * 2013-07-08 2015-01-15 Ops Solutions Llc Eyewear operational guide system and method
US9582516B2 (en) * 2013-10-17 2017-02-28 Nant Holdings Ip, Llc Wide area augmented reality location-based services
US9767615B2 (en) * 2014-04-23 2017-09-19 Raytheon Company Systems and methods for context based information delivery using augmented reality
CN107912061B (zh) * 2015-03-06 2021-06-01 伊利诺斯工具制品有限公司 用于焊接的传感器辅助头戴式显示器
JP6540108B2 (ja) * 2015-03-09 2019-07-10 富士通株式会社 画像生成方法、システム、装置、及び端末
US20160358383A1 (en) * 2015-06-05 2016-12-08 Steffen Gauglitz Systems and methods for augmented reality-based remote collaboration
WO2017151963A1 (en) * 2016-03-02 2017-09-08 Truinject Madical Corp. Sensory enhanced environments for injection aid and social training

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0968444A (ja) * 1995-09-01 1997-03-11 Japan Aviation Electron Ind Ltd 運動測定装置この測定装置を利用した仮想空間再現装置、フォーム矯正装置
JP2003196681A (ja) * 2001-12-26 2003-07-11 Sharp Corp 作業指図システム、作業指図方法及びそれを実現するためのプログラムを格納した記録媒体
JP2014228725A (ja) * 2013-05-23 2014-12-08 ソニー株式会社 情報処理装置及び記憶媒体

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
KAZUHIKO KOBAYASHI: "Fukugo Genjitsukan Gijutsu 1-10 0 Mochiita Teyosetsu Kunren System -Hogomengata HMD to Giji Yosetsubo ni yoru Simulator", TRANSACTIONS OF THE VIRTUAL REALITY SOCIETY OF JAPAN, vol. 7, no. 2, 30 January 2002 (2002-01-30), pages 211 - 218 *

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019139129A1 (ja) * 2018-01-11 2019-07-18 株式会社デンソー 設置位置情報提供装置及び設置位置情報提供方法
JP2019121322A (ja) * 2018-01-11 2019-07-22 株式会社デンソー 設置位置情報提供装置及び設置位置情報提供方法
JP2019200241A (ja) * 2018-05-14 2019-11-21 オムロン株式会社 動作分析装置、動作分析方法、動作分析プログラム及び動作分析システム
JP7004218B2 (ja) 2018-05-14 2022-01-21 オムロン株式会社 動作分析装置、動作分析方法、動作分析プログラム及び動作分析システム
JP2020034849A (ja) * 2018-08-31 2020-03-05 オムロン株式会社 作業支援装置、作業支援方法及び作業支援プログラム
JP7103078B2 (ja) 2018-08-31 2022-07-20 オムロン株式会社 作業支援装置、作業支援方法及び作業支援プログラム
JP2020115202A (ja) * 2019-01-17 2020-07-30 オムロン株式会社 情報処理装置、提示システム、及び情報処理プログラム
JP7111042B2 (ja) 2019-01-17 2022-08-02 オムロン株式会社 情報処理装置、提示システム、及び情報処理プログラム

Also Published As

Publication number Publication date
CN108604393A (zh) 2018-09-28
JPWO2017150293A1 (ja) 2018-03-08
US11011074B2 (en) 2021-05-18
US20190043385A1 (en) 2019-02-07
CN108604393B (zh) 2022-12-30
JP6224873B1 (ja) 2017-11-01

Similar Documents

Publication Publication Date Title
JP6224873B1 (ja) 情報処理システム、情報処理装置、情報処理方法及びプログラム
US9008371B2 (en) Method and system for ascertaining the position and orientation of a camera relative to a real object
US10540006B2 (en) Tracking torso orientation to generate inputs for computer systems
JP6629556B2 (ja) 工程編成支援装置、工程編成支援方法
US20140156214A1 (en) Motion analysis system and motion analysis method
CN103930854B (zh) 借助指示器的姿态的测量控制光标的方法及实施所述方法的指示器
CN113784822B (zh) 基于增强现实的机械紧固部的管理方法
JP6676322B2 (ja) 負担評価装置、負担評価方法
US20110060248A1 (en) Physical configuration detector, physical configuration detecting program, and physical configuration detecting method
CN1983091A (zh) 离线编程装置
JP2017068429A (ja) 作業負担評価装置、作業負担評価方法
JP7414395B2 (ja) 情報投影システム、制御装置、及び情報投影制御方法
JP6295296B2 (ja) 複合システム及びターゲットマーカ
EP3637330B1 (en) Content creation system
JP2009087161A (ja) 画像処理装置、画像処理方法
JP2017068428A (ja) 作業負担評価装置、作業負担評価方法
JP6676321B2 (ja) 適応性評価装置、適応性評価方法
US20190041649A1 (en) Display system, information processor, information processing method and program
KR20160015674A (ko) 관성센서를 이용한 인체 동작 분석 시스템
KR20190048810A (ko) 증강현실용 컨텐츠 제공 장치 및 방법
KR20160118678A (ko) 근골격계 질환 예방을 위한 작업부하 측정 및 작업순환 순서 결정 방법
JP6981340B2 (ja) 表示制御プログラム、装置、及び方法
JP2019065467A (ja) 杭位置検査装置及び杭位置検査方法
EP4280157A1 (en) Extended reality (xr) object alignment method and xr projection system
JP2023156237A (ja) 処理装置、処理システム、頭部装着ディスプレイ、処理方法、プログラム、及び記憶媒体

Legal Events

Date Code Title Description
ENP Entry into the national phase

Ref document number: 2017531414

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17759759

Country of ref document: EP

Kind code of ref document: A1

122 Ep: pct application non-entry in european phase

Ref document number: 17759759

Country of ref document: EP

Kind code of ref document: A1