JP7493390B2 - 監視システム - Google Patents

監視システム Download PDF

Info

Publication number
JP7493390B2
JP7493390B2 JP2020103355A JP2020103355A JP7493390B2 JP 7493390 B2 JP7493390 B2 JP 7493390B2 JP 2020103355 A JP2020103355 A JP 2020103355A JP 2020103355 A JP2020103355 A JP 2020103355A JP 7493390 B2 JP7493390 B2 JP 7493390B2
Authority
JP
Japan
Prior art keywords
time
work
video data
analysis unit
monitoring system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020103355A
Other languages
English (en)
Other versions
JP2021196909A (ja
Inventor
英雄 西川
稔 野口
佳周 原田
和典 鹿志村
信夫 廣原
章史 ▲濱▼谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi High Tech Corp
Original Assignee
Hitachi High Tech Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi High Tech Corp filed Critical Hitachi High Tech Corp
Priority to JP2020103355A priority Critical patent/JP7493390B2/ja
Publication of JP2021196909A publication Critical patent/JP2021196909A/ja
Application granted granted Critical
Publication of JP7493390B2 publication Critical patent/JP7493390B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Landscapes

  • General Factory Administration (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本発明は、モノの製造現場におけるヒト、モノ、機械を監視する監視システムに関する。
モノの製造現場において、製造に携わるヒトや、製造されるモノ、製造工程を実行する機械(製造装置、検査装置、梱包装置、その他)を監視するシステムが知られており、その更なる改善が進められている(例えば特許文献1乃至3参照)。
例えば、組立産業の製造現場では、複数の部品を集約し、それらを所定の組立図、作業手順書などに沿った作業(例えば、溶接、切削、組立てなど)の組み合わせで、製品が生産される。複雑な製品の場合、複数の作業現場で、それぞれ所定の作業が進められ、それぞれの部分(ユニット)がまとめられて、より複雑な製品が作り出される。このような作業では、集約される部品(モノ)の種類が多い際、作業手順、現場の配置、部品の集約作業等が複雑になり、作業の待ち、部品の滞留、部品集約のタイミングのずれ、作業員(ヒト)の配置ミスなどが発生しやすく、組立作業の効率低下が問題になる。ところが、特に組立産業では、設備、機器を使用することが少なく、ヒトによる組立作業が中心であるため、センサによるロギング環境が整っていない。このため、製造現場でのヒトやモノの状態を的確に把握・監視する監視システムが望まれている。言い換えると、組立産業のデジタルツインを構築し、その活用により、経営数値の改善、監視を実現することが望まれている。
しかし、ヒトの作業状態を数値化して記録する際は、作業者が作業の手を止めて作業状態を記録するか、又は別の作業者が、作業者の動作を観察しながら記録することが必要であり、手間やコストがかかるという問題があった。
また、モノの状態の監視に関しては、モノが機械の中にある場合には、機械による動作の記録及び監視が可能であるが、モノがある作業現場の機械から別の作業現場の機械に移動する場合などにおいて、その状態を十分に監視することができていない。
特許第5416322号公報 特開2019-139570号公報 特開2019-16226号公報
本発明は、ヒトやモノの動きを的確に把握して、製造工程を的確に監視し、作業効率の向上に寄与することができる監視システムを提供するものである。
上記の課題を解決するため、本発明に係る監視システムは、製造現場におけるヒト、モノ、及び装置を監視する監視システムにおいて、前記ヒト、モノ又は装置を監視するカメラと、前記カメラにより得られた映像データを解析する解析部と、前記解析部による解析結果を表示する表示部とを備える。前記解析部は、前記映像データにおける変化点を検出し、前記変化点に基づいて前記ヒト、前記モノ、あるいは装置の状態を解析する。
本発明に係る監視システムによれば、製造工程を的確に監視し、作業効率の向上に寄与することができる監視システムを提供することができる。
実施形態に係る監視システム1の構成の一例を示す概略図である。 ヒト監視カメラ11の動作を概略的に説明する概略図である。 モノ監視カメラ12及び装置監視カメラ13の動作を概略的に説明する概略図である。 モノ監視カメラ12及び装置監視カメラ13の動作を概略的に説明する概略図である。 実施の形態に係る監視システム1の動作を説明するフローチャートである。 表示PC17における表示画面の一例である。 表示PC17における表示画面の一例である。 表示PC17における表示画面の一例である。
以下、添付図面を参照して本実施形態について説明する。添付図面では、機能的に同じ要素は同じ番号で表示される場合もある。なお、添付図面は本開示の原理に則った実施形態と実装例を示しているが、これらは本開示の理解のためのものであり、決して本開示を限定的に解釈するために用いられるものではない。本明細書の記述は典型的な例示に過ぎず、本開示の特許請求の範囲又は適用例を如何なる意味においても限定するものではない。
本実施形態では、当業者が本開示を実施するのに十分詳細にその説明がなされているが、他の実装・形態も可能で、本開示の技術的思想の範囲と精神を逸脱することなく構成・構造の変更や多様な要素の置き換えが可能であることを理解する必要がある。従って、以降の記述をこれに限定して解釈してはならない。
以下では、複数の部品から構成される製品(最終製品、および中間製品としてのユニット)を組立する工程に係る実施形態を説明する。基幹システム又は発注システムから発注され納入された部品は、部品倉庫に搬入され格納される。一方、製品の製造計画に沿って、製造作番が発行されると、作番ごとに予め定義された製造計画(設計部門で作成された組立図、組立手順書を含む)に沿って、部品が組立ショップに搬送される。この組立ショップには、製造計画に沿って、組立人員及び必要な機器、ジグが配置される。組立人員は、製造計画に沿って、ケースによって必要な機器・ジグを用いて、所定の組立作業を実施する。
所定の組立作業を実施された製品は、次の組立ショップに搬送される。この繰り返し、統合によって、最終製品が完成し、所定の出荷検査が実施され、出荷倉庫に格納される。本実施形態は、工場内で進められている上記の組立工程、作業の進行状況を記録する手段及び方法を提供するものである。具体的には、各倉庫、配膳だな、組立ショップ事に、各部品、各機器・ジグ、各作業者の識別情報、着手完了時刻、離着時刻を記録するものである。従来の技術では、製品部品の有無を検出するために、作業ごと、ショップごとの作業内容、ショップの構成に応じたセンサを個別に設置する必要があった。これは、例えば、製品の変更等で、作業の内容、部品の大きさ形状が変化するたびに、センサの設置位置などを変更する必要があった。以下に説明する実施形態によれば、カメラの撮像範囲に、部品、ジグ、作業者が存在する限り、カメラの設置位置を変更する必要はない。これによりシステム導入時の設置コストを大幅に削減することができる。
実施形態に係る監視システム1の一例を、図1を参照して説明する。この監視システム1は、一例として、ヒト監視カメラ11、モノ監視カメラ12、装置監視カメラ13、転送コンピュータ(PC)14、収集・蓄積サーバ15、解析サーバ16、及び表示コンピュータ(PC)17から構成され得る。
ヒト監視カメラ11は、製造現場にて作業を実行するヒト(作業者)の動きを監視するためのカメラである。ヒト監視カメラ11は、例えばヒトの形や、動作の特性に関する情報を予め蓄積しており、人間の動きを迅速且つ確実に検出することができるよう構成され得る。
モノ監視カメラ12は、製造現場において製造され移動するモノの動きを監視するためのカメラである。モノ監視カメラ12は、一例として、モノを載置して運搬するためのカートの移動を監視するため、カートに付された識別情報(一次元コード、二次元コード、カラーチャート等)を撮像し、識別するカメラとすることができる。複数のカートにそれぞれ異なる識別情報を付すことで、カートの種類を識別することができる。ただし、これはあくまでも一例であり、モノ監視カメラ12は、カートの移動を識別情報により監視するものには限定されない。例えば、モノ自体の形状を認識するか、又はモノに付された各種識別情報を識別するようにしてもよい。また、カートを認識することに代えて、例えばベルトコンベアに載置されたトレイの動きをモノ監視カメラ12で監視するようにしてもよい。モノ監視カメラ12が二次元コードを読み取るように構成される場合、モノ監視カメラ12は、その内部に二次元コード解析用のアプリケーションを搭載することができる。もちろん、二次元コード解析用のアプリケーションは、クラウド上においても良いことは言うまでもない。
装置監視カメラ13は、製造現場に設置されている各種装置(製造装置、検査装置、梱包装置、その他)の動きを監視するためのカメラである。装置監視カメラ13は、撮像対象である装置の特性に応じて異なるものとすることができる。例えば、ヒトの操作の介在が必須である装置のための装置監視カメラ13においては、装置の操作パネルを撮像し、ヒトの操作を監視するカメラとすることができる。操作パネルを撮像することで、当該装置が稼働中であるか、停止中であるかなどを判断することが出来る。
昨今の設備、機器は、機器内に配置されたセンサで、機器内の状態を示すパラメータを、検出することができる。しかしながら、これらのセンサを有しない設備の場合、機器を改造して、これらのセンサを設置する必要がある。ところが、設備、機器を用いた作業の熟練者の場合、目視、音の聞き取りで、装置の加工、組み立て、それ以外の処理がいずれのプロセス段階にあるか、また、設備の状態に異常がないかを監視することができる。したがって、設備の監視においても、TVカメラの活用により、状態の監視ができるということになる。このTVカメラでの監視を導入することにより、センサ設置のための改造、熟練者による監視など、高コストの監視システムの導入を不要にすることができる。
ヒトの操作が介在しない自動の装置である場合、その装置のための装置監視カメラ13は、例えばモノ(部品)等の投入口や、稼働部分(例えば、切削装置のブレード)の動きを監視するためのカメラとすることができる。更に、装置監視カメラ13は、装置内部での各種作業の内容の検査にも用いることができる。例えば、ハーネス接続用の装置において、ハーネス接続確認検査を実行し、その画像から、正しい接続が行われたか否かを判定し、されていない場合に誤配線等のエラーを検知することができる。
また、この実施形態では、カメラ11~13内、又は外付けのコントローラにおいて、検査対象を検出する検査対象検出手段、及び不具合を検出する不具合検出手段を備えることができる。検査対象検出手段は、良品の画像の中の検査対象部分を検出する機能を有する。一例として検査対象検出手段は、予め検査対象部分を学習した深層学習ネットワークから構成され得る。この手段を設けることにより、変形が大きいが異常とはみなされない部分(例えば、ケーブル等の部品)を欠陥として誤検出することを避けることができる。
そして、検査対象部分として検出された部分を不具合検出手段に入力することで、検査対象の不具合が検出され得る。この手段は、一例として、オートエンコーダに予め複数の正常部品(正常品の画像)を学習して構成され得る。オートエンコーダで再構成された画像と、入力画像の差分画像を作成することにより、異常部分がある場合には、その位置の画像信号が大きな値となり、閾値処理により異常として検出される。検出された不具合情報(不具合画像、製品情報等)は、不具合情報格納手段に格納され得る。
新たな検出対象が設けられた際は、その正常画像を、検査対象検出手段、及び、不具合検出手段(オートエンコーダ)に学習させることができる。この学習は、製品の設計時に生成される3次元CADの情報を用いて行われてもよい。
また、新たな検出対象を学習した情報(ネットワークパラメータ)は、既に学習済みのネットワークの対応パラメータとの加重平均を実行することにより、反映させることができる。この手法により、新規の検出対象に関する情報を、各ユーザがクラウド上に上げたくないケースにも対応できる。すなわち、クラウド上で共有される学習済みネットワークのパラメータを、ユーザの拠点に送付し、当該拠点にて加重平均を実行することで、ユーザ固有の高精度な不具合検出手段、検査対象検出手段を構成・提供することができる。
なお、装置監視カメラ13は、撮像対象の特性や撮像対象までの距離に応じて、様々なレンズ(超近接レンズ、魚眼レンズ、広角レンズ、望遠レンズ、その他)を使用することができる。
組立工程の現場における組立作業の進行状況は、特定の技能を有する熟練者や管理者であれば、目視確認で識別し記録することができる。このような観点から、本実施の形態では、可視光で撮像したTVカメラによる撮像情報だけから、以下に説明する適切なデータ処理を施し、記録すべき離着時刻を算出するよう構成されている。
また、組立工程中の各組立ショップでの組み立て作業が完了した際は、その完了時刻を記録するだけでなく、組立作業の工程ごとの着手、完了時刻、組立が完了した中間製品の不具合を検出し、記録する。このTVカメラのサンプリング時間は、必要に応じ、通常の30fps、60fpsである必要はなく、1fps、0.2fpsなどの数値に間引くことができる。また逆に、120fps、2000fps等、高速度撮像であっても良い。前者は、トータルの格納データ量を下げる効果があり、後者は、高速な動きを伴うデータ収集時に必要となる。
転送PC14は、各種カメラ11~13が撮像した映像データ(動画、静止画の両方を含み得る)を読み込んで、収集・蓄積サーバ15に転送する機能を有する。転送PC14は、転送動作に先立ち、周知の方法によりデータ圧縮動作を実行するよう構成されることもできる。データ圧縮動作に加えて、画像の加工や画像処理(例えば、監視対象であるヒトやモノの画像の部分のみを残し、不要な画像を削除する、又は監視対象画像の解像度を高くし、その他の物体の画像の解像度を低下させるような画像処理など)を実行することも可能である。なお、転送PC14は、収集・蓄積サーバ15と無線接続されていてもよいし、有線接続とされていてもよい。
収集・蓄積サーバ15は、転送PC14から転送された映像データを図示しない記憶部において収集し、蓄積するためのコンピュータである。なお、収集された映像データの解析は解析サーバ16において実行されるが、解析工程の一部、例えば、映像データの解析の一部は収集・蓄積サーバ15が担当することも可能である。
解析サーバ16は、収集・蓄積サーバ15において蓄積された各種映像データを解析して、ヒト、モノ、及び機械の動作を解析し、その解析結果としての解析データを生成する。生成された解析データは、表示PC17に出力され、オペレータが認識可能な形で可視化して表示される。なお、解析サーバ16は、ヒト、モノ、及び機械の動作を解析した結果としての解析データを、作業計画データと対比して、その相違を解析するよう構成することも可能である。
解析サーバ16における解析事項は、ヒト(例えば現場監督者)が日常の監督業務を行って発見し得る事項を含むことができるが、これに限定される必要はない。例えば、長時間に亘り収集・蓄積サーバ15において取得され蓄積(学習)された映像データに含まれる信号Aと、新規に取得された映像データに含まれる信号A’とを比較し、その比較結果を解析事項とすることもできる。このようにして得られた信号AとA’とに所定値以上の差異がある場合に、解析サーバ16は、この差異が生じた箇所を、ヒト、モノ、又は機械についての有意な動作の変化点を示す「変化点」として特定する。
このような変化点を特定することで、ヒトの監視では見逃されがちなヒト、モノ、機械の有意な動作が生じた時点を検出することが可能になり、製造工程の作業効率の阻害要因の指標とすることができる。また、ヒトによる監視の場合、正しい動作が行われている場合のデータと、正常ではない動作が行われている場合のデータとを切り分ける必要があるが、正データは準備が容易である一方、誤データの準備は手間がかかる。本システムによれば、誤データの準備が不要で短期間に、容易にシステム導入が実現できる。解析サーバ16は、このような変化点が生じた時間と場所を紐づけ、数理的に「特定の作業場所での作業時間」と定義する。
一般に、ヒトとモノが所定の場所に存在するというだけでは、実際に作業が適切に進行しているということはできない。しかし、上記のようにして得られた作業時間のデータを比較・分析することにより、例えば、
(a)現在行われている作業が、平均的な作業時間を逸脱している場合、
(b)複数の作業の間で、作業時間のばらつきが大きくなっている場合、
(c)ヒトやモノが、特定の作業場所以外に滞在している場合
などを、これらを「機械的に」検知することができる。これらは、ヒトが定義又は認識する「作業時間」とは異なるものであるが、製造リードタイムの阻害要因を検知することはできている。すなわち、(a)は、「平均的な時間を逸脱している」ことが阻害要因であり、(b)は、作業そのものに「大きなばらつき」という阻害要因がある。(c)は、「作業の待ち」、「モノの滞留」という阻害要因がある。
図2を参照して、ヒト監視カメラ11の動作を概略的に説明する。図2は、製造現場に複数の機械((1)~(9))が配置され、矢印に沿ってヒト(作業者)Hが移動する様子を、ヒト監視カメラ11で撮像する様子を示している。ヒト監視カメラ11は、一例として、ヒトHの体格、通常ヒトHが着用している衣服の性状(色、形状、その他)、動作の特性(平均歩行速度、歩幅)の情報を格納しておくことができる。ヒト監視カメラ11は、それらの情報と映像データとの対比により、映像データに含まれるヒトHの画像を特定することができる。特定されたヒトHの画像は、バウンディングボックスBBにより囲われ、映像データは、バウンディングボックスBBを含んだ形で記録され得る。
このようにして、ヒト監視カメラ11により映像データが得られると、解析サーバ16において映像データが解析され、ヒトHが、どの作業をどの時間帯で行い(滞留時間)、どの時間帯では作業を行わず、移動等を行っていたり(移動時間)、撮影範囲外の位置にいたりしたかを、特定されたヒトの動作の変化点に従い解析することができる。ヒトの動作の変化点は、ヒトが所定の機械の前に到着した時刻、離脱した時刻、その他の情報に従い特定することができる。図2の右下のバー表示は、作業(4)~(8)に関する作業時刻(開始時刻、終了時刻を含む)を示している。このようなバー表示は、表示PC17の表示画面にも表示することができる。
本実施の形態では、ヒト監視カメラ11、又は外付けのコントローラにより作業者検出手段が構成される。作業者検出手段としてのヒト監視カメラ11は、取得した画像の中の作業者を検出するもので、予め、作業者の画像を学習した深層学習ネットワークを含むことができる。この作業者検出手段により、撮像画像の中で作業者が検出される。検出された位置から、作業者が所定の位置に存在するか否か、すなわち、作業箇所への入場時刻、退場時刻が検出される。本実施の形態で、撮像画像を複数の方向から取得し、それぞれの2次元画像内での作業者の存在位置(視点の方向)が分かり、その方向の交差位置が、3次元空間における作業者の存在位置として検出される。この複数の画像から作業者の存在位置を検出する手法は、奥行きの検出精度を高くしたいケースに有効である。また、作業者が、設備、その他の物体の影となり、画像内に移らないケースに、複数の画像を用いることで検出を可能とするという効果もある。
図3を参照して、モノ監視カメラ12及び機械監視カメラ13の動作を概略的に説明する。図2では、一例として3台のモノ監視カメラ12(12A~12C)及び3台の機械監視カメラ13(13A~13C)が配置された例を説明しているが、これはあくまでも一例であり、モノ監視カメラ12及び機械監視カメラ13の数は特定の数には限定されない。また、モノ監視カメラ12は、特定の形式には限定されないが、好適には、図3に概略的に示すように、モノ(部品等)を載置したカート21に付された二次元コード22を撮影するカメラとすることができる。
カート21は、例えば図3に示すように、複数の機械(11)~(13)の間で移動する。例えば、カート21が、機械(11)よりも前工程を終了し、機械(11)の前まで移動すると、カート21に付された二次元コード22がモノ監視カメラ12Aにより撮像される。これにより、カート21の機械(11)への到着が検知される。
機械(11)での作業が終わり、カート21が機械(11)から離れ、次の機械(12)に向けて移動すると、モノ監視カメラ12Aは、二次元コード22が撮像されなくなったことを検知することでカート21の機械(11)からの離脱を検知する。カート21が機械(12)の前まで到着すると、カート21に付された二次元コード22がモノ監視カメラ12Bにより撮像される。これにより、カート21の機械(12)への到着が検知される。このような動作が繰り返されることにより、モノ監視カメラ12の映像データに基づき、カート21すなわちモノ(部品等)の移動を検知することができる。
なお、モノの動作の変化点は、ある機械における着工時刻、離脱時刻により特定することができる(図4参照)。上位の機械(工程)から下位の機械(工程)への移動時間(待ち時間)は、上位の機械からの離脱時刻と、下位の機械への到着時刻との差により演算することができる。なお、機械の動作の変化点も、同様に、ある機械が特定の動作を開始した時刻、終了した時刻により特定することができる。
また、このカート21に載置された部品中間製品は、配膳棚でカート21上に部品が載置される際に、カート番号・部品番号・部品番号が紐づけされた製品製造番号等と対応関係を与えられる。対応関係は、二次元コード22にも情報として与えられ、二次元コード22が読まれることにより、これらの対応関係の情報が自動収集される。この一連の自動収集により、カート21、部品、作業者、ショップ、変化時刻が紐づけされる。この紐づけが、他のショップ、他の製品、他の作業者の間でもなされる。その結果、特定の時間に、部品、作業者、設備・機器・ジグが、どの位置に存在するか認識され、そのベクトルデータが格納手段に格納される。また、状態変化の時刻の検出は、必ずしもTVカメラで撮像した画像によるものでなくてもよく、他のセンサ、既に設置されたセンサ等の情報と組み合わされてものであっても良い。
図5のフローチャートを参照して、実施の形態に係る監視システム1の動作を説明する。このシステムにおいて、ヒト監視カメラ11、モノ監視カメラ12、及び機械監視カメラ13は、それぞれ独立に動作して、ヒト、モノ、及び機械の動作を監視する。得られた映像データは、転送PC14に転送されて読み込まれ、転送PC14は、所定のデータ圧縮動作を映像データに施した後、当該映像データを収集・蓄積サーバ15に転送する。収集・蓄積サーバ15は、転送されたデータを受信し格納する。収集・蓄積サーバ15に蓄積されたデータは、適宜解析サーバ16に送信され、解析の対象とされる。
解析サーバ16は、格納されたデータに基づいて、前述のようなヒト、モノ、機械の変化点を特定し、変化点が生じた時刻、更には変化点が生じた場所を特定し、図示しない記憶部にそれらの情報を格納する。複数の変化点が特定されることで、ヒト及び、モノの各機械での有意な動作開始の時刻、動作終了の時刻を特定することができる。
変化点、及び変化点が生じた時刻及び場所が特定されると、各工程におけるヒト及びモノの状態が分かり、これにより、各工程が要している時間が分かると共に、複数の工程のうち、どの工程において、リードタイムを短縮する余地(余裕箇所)があるかが判定され得る。すなわち、解析サーバ16は、特定された変化点、及び有意な動作が生じた時点のデータに基づき、各工程における余裕箇所を判定する余裕箇所判定手段として機能し得る。余裕箇所に関しては、表示PC17において可視的に表示することができる。
図6は、解析サーバ16における解析結果を、表示PC17のディスプレイに表示する場合の表示画面の一例である。この図6の表示例では、横軸を時間軸とし、異なる作番毎に、製造計画のタイムラインと、実際の作業(実績)における各工程(工程1~3)のタイムラインとを、バー表示により対比するガントチャートである。この表示によると、各作業日における、製造計画と実際の作業との相違が可視化される。この画面表示によれば、どの作番がどの工程にいるのかが可視化され、何日もかけて実行される大工程の中の進捗が、小工程毎に把握され得る。
ここに示したように、本実施の形態の監視システムは、製造計画の進捗を監視する際に、大きな効果を発揮する。製造計画の進捗が遅れるということは、人件費、設備の減価償却費等が上積みされるため、製造コストの増加に繋がる。これが進捗管理の効果が大きい理由となる。また、大きな遅延が生じた際、製造計画(製造スケジュール)を再度見直すことにより、適切な製造アウトプットを得ることができる。製造計画の再計画(リスケジューリング)が必要な理由となる。この際、遅延の大きさは、例えば、初期に設定したリードタイムの20%増、あるいは、30%増、というようにあらかじめ設定しておくことができる。あるいは、例えば、ボトルネックとなっているような特定の工程のタクトが20%増、あるいは、30%増、というようにあらかじめ設定しておくこともできる。すなわち、再計画の必要な時期を決める際に、本実施の形態の監視システムが重要な役割を果たすことになる。言い換えると、本発明の監視システムとスケジューラを組み合わせて使用することで、更に大きな効果を生むことができる。この際、試用するスケジューラは、積み上げ式の自動スケジューラであっても、何らかの最適化アルゴリズムを搭載したスケジューラであっても、一定の効果が期待できる。
図7は、解析サーバ16における解析結果を、表示PCのディスプレイに表示する場合の表示画面の別の例である。この図7の上側の表示例では、横軸を経過時間とし、異なる作番毎の各工程(工程1~3)の作業時間の内訳を、バーの長さとして表示されている。この表示によれば、各作番における合計の作業時間のばらつきが可視化されると共に、各工程の所要時間のバラつきも可視化される。これにより、長い作業時間を要した作番を把握し、その原因を追究することが容易になる。
また、図7の下側の表示例では、横軸を経過時間としているが、複数のカート毎に、異なる工程間の移動時間をバーの長さで表示している。この表示によれば、どのカートのどの工程間において移動時間が長くなったのかを可視化することができ、その原因の追究を容易にすることができる。
図8は、各工程(工程1~3)における稼働時間と被稼働時間とをグラフ化したものである。単一の工程のみに着目すれば、全体に対する稼働時間の割合(稼働率)が多いほど、作業効率は高まっていることになる。しかし、ある工程で高い稼働率が高い一方で、隣接する工程で稼働率が低い場合、工程全体としては作業効率の向上は図れない。このように、隣接する工程間で稼働率に差が出ている場合には、作業においてボトルネックが生じていると判断することができる。ボトルネックが生じた場合には、人員配置などを含む製造計画を変更することで、作業効率を向上させることができる。
なお、以上で説明した実施の形態において、セキュリティ上、ユーザが場内の情報(本実施の形態の取得後の撮像データの処理、人、モノ、機器の状態変化の時刻検出、その後のデータ加工の処理結果の情報)をクラウド上に上げることを避けたいというケースがある。この場合、変転時刻、製品情報、その他の情報を予め、ユーザが設定したパスワードでエンコード、デコードすることができる。これにより、これらの情報を、場内では、内容が人により意味を持つテキスト情報として取り扱い、クラウド上では、パスワードがないと意味を持たない情報として取り扱うことができる。
また、クラウド上のデータを使用する前後でハッシュ関数を用いた識別をすることで、クラウド上のデータが、改ざんされていないことを担保することができ、ユーザデータのセキュリティ確保を提供できる。この手法は、事前のハッシュ値を格納データに加えて次のハッシュ値を生成することで、改ざん作業が多くの時間を有することになり、実質的に改ざんができない状況を提供し、結果としてセキュリティをさらに向上することができる、ブロックチェーン技術を利用したものであっても良い。
また、TVカメラの画像を利用するシステムは、作業者が撮像されること自体に作業者が抵抗感を感じたり、個人情報が漏洩することを懸念したりすることがあり得る。これに対して、初期の段階で、撮像画像を例えばフーリエ変換等の画像変換を施し、ヒトの目では判断できない情報に変換する手段をコントローラ等に設けることができる。その後の学習等の工程において、このような変換画像を用いることで、その後の、作業者検出などの工程においても同様の画像変換を実行可能である。
このようにして検出された作業完了時刻を含む各種時刻のデータを、製品毎に取得することで、その製品の着手から完了までのリードタイムを各作業ごとの作業時間として分析することができる。また、例えば、一日の作業時間の終了時に、作業の進捗、部品等の配置位置などをまとめて、レポートを作ることができる。
このようにして検出された離着時刻や着手完了時刻等の各種時刻データの活用システム、方法に関して、以下に説明する。このシステムによれば、特定の製品に着目して、各作業の進行時間を記述することができる。特定製品、又は特定ショップで、左記進行時間のばらつきを算出すると、作業者により、あるいは、その他の外乱によりそのばらつきが大きい場合は、作業が成熟していないと判断することができる。その場合は、例えば、
・特定作業の作業者を、作業熟練度の高いメンバーに変更する
・ばらつきの原因を分析し、作業を分離するジグを準備する
等の対応策を施すことができる。
また、上記の場合は、着手完了時間のばらつき状況をモニタリングすることで、作業の質の劣化をリアルタイムで知ることができる。
また、本実施の形態の監視システム、生産計画システム、図6~図8に示した表示システムを有した環境をクラウド上に準備しておくことで以下に示す新たな価値を生むことができる。例えば、ヒトの変化点をより精度よく、高い時間分解能で検出できるアルゴリズムが開発された際、このアルゴリズムだけを変更することで、システム全体の価値を向上できる。例えば、プロセス変更時のプロセスをより細かに分解できるため、それらの組み合わせを変更することで、プロセス再設計によるリードタイム短縮を一段高精度にすることができる。このように、監視システム、あるいは生産計画システム、あるいは表示システムを持つことにより、容易に、迅速に、新しい技術、プログラムを現場に適用することができる。言い換えると、本発明は、生産現場の効率を向上するための「基盤;プラットフォーム」を提供するという側面を持つものである。
さらに、このように現場適用した技術、プログラムのそれぞれの使用時間をカウントしておくことで、それらの技術の総活用時間を計測することができる。この活用時間に応じて、システム提供者に対する報酬を機械で自動に計算できる。これは、事務処理の機械化であるが、製造現場においても、このような事務処理の機械化、効率化はコスト低減という点で、重要な意味を持つ。また、この形の活用時間計測システムを持ち、活用時間に応じた報酬を支払うことにより、一括の支払いでシステムを導入することに比較して、一時的な現金支払い額を減らすことになり、いわゆるキャッシュフローが良くなるという効果が期待できる。
また、本監視システムによれば、平均的な作業時間、想定した作業完了時刻から、逸脱したことを検出、発報することができる。単なる監視カメラ等を用いた遠隔からの監視システムでは、監視者は、撮影中の画像を監視し続ける必要があるのに対して、想定から逸脱時にのみにシステムから報告を受けることができるという効果が期待できる。
[効果]
以上説明したように、本実施の形態のシステムによれば、ヒト、モノ、機械の動作がカメラ11~13により監視され、映像データにおける変化点に従い、ヒト、モノ、機械の有意な動作の変化を検知して、解析サーバ16において解析し、その結果を可視化して提示することができる。したがって、ヒト、モノ、機械の動きを、オペレータが目視等で監視し、逐一入力を行うことなく、条件設定に手間をかけることなく、監視を実行することができ、製造工程を的確に且つ低コストで監視し、作業効率を向上させることができる。換言すれば、管理監督者の目で感覚的に判断している事項を、カメラ11~13による撮像のみで同等の対応が可能となる。その結果、専任のシステム担当者を配置しなくても、本システムにより製造現場の監視を効率良く実行することができる。なお、製造現場の可視化が行われることで、見える化の実現が図られ、その先にある経営課題解決までを、ワンストップで提供することが可能になる。
使用されるカメラ11~13は、適宜設置場所を変更したり、カメラの種類を変更したり、又は数を増やしたりすることができ、製造現場の変更に応じた対応が容易である。具体的には、このシステムにより、ヒトによる組立作業、ヒトによる目視検査、ヒトによるモノの搬送、ヒトによる機械の操作状況など、その状態あるいは結果の記録を残すことが容易でない現場の状態あるいは結果を記録することができる。この結果、その状態を示すデータを記録する仕組みを持っている自動機で構成された工場現場と同等に、ヒトによる作業現場の状態を記録することができる。
[その他]
本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
1…監視システム、 11…ヒト監視カメラ、 12…モノ監視カメラ、 13…装置監視カメラ、 14…転送コンピュータ(PC)、 15…収集・蓄積サーバ、 16…解析サーバ、 17…表示コンピュータ(PC)、 21…カート、 22…二次元コード。

Claims (9)

  1. 製造工程におけるヒト、モノ、又は装置を監視する監視システムにおいて、
    前記ヒト、モノ又は装置を監視するカメラと、
    前記カメラにより得られた映像データを解析する解析部と、
    前記解析部による解析結果を表示する表示部と
    を備え、
    前記解析部は、新規に取得された映像データに含まれる信号と、機械学習された映像データに含まれる信号とを比較することにより、前記映像データにおける変化点を検出し、前記変化点が生じた時刻に基づいて前記ヒトあるいはモノあるいは装置の状態を解析し、
    製造リードタイムの阻害要因を検知する
    ことを特徴とする監視システム。
  2. 前記解析部は、
    現在行われている作業の作業時間が平均的な作業時間から逸脱した時間を算出することにより、前記製造リードタイムの阻害要因を検知する、
    請求項1に記載の監視システム。
  3. 前記解析部は、
    複数の作業の作業時間のばらつきを算出することにより、前記製造リードタイムの阻害要因を検知する、請求項1に記載の監視システム。
  4. 前記解析部は、
    前記ヒト又は前記モノの特定の作業場所以外での滞在時間を算出することにより、前記製造リードタイムの阻害要因を検知する、請求項1に記載の監視システム。
  5. 製造工程におけるヒト、モノ、又は装置を監視する監視システムにおいて、
    前記ヒト、モノ又は装置を監視するカメラと、
    前記カメラにより得られた映像データを解析する解析部と、
    前記解析部による解析結果を表示する表示部と、
    を備え、
    前記解析部は、
    新規に取得された映像データに含まれる信号と、機械学習された映像データに含まれる信号とを比較することにより、前記映像データにおける変化点を検出し、
    前記変化点が生じた時刻に基づいて、前記ヒト、モノ又は装置の作業の進行時間のばらつきを算出する
    ことを特徴とする監視システム。
  6. 前記解析部が、
    前記変化点に基づいて、各製造工程におけるリードタイムを短縮する余地としての余裕箇所を判定する
    ことを特徴とする請求項5に記載の監視システム。
  7. 前記解析部が、
    前記作業の進行時間のばらつきに基づいて、前記製造工程における作業の成熟度を判断する
    ことを特徴とする請求項5に記載の監視システム。
  8. 前記解析部が、
    前記作業の進行時間のばらつきをリアルタイムで算出し、前記作業の質の劣化を判断する
    ことを特徴とする請求項5に記載の監視システム。
  9. 製造工程におけるヒト、モノ、又は装置を監視する監視システムにおいて、
    前記ヒト、モノ又は装置を監視するカメラと、
    前記カメラにより得られた映像データを解析する解析部と、
    前記解析部による解析結果を表示する表示部と、
    を備え、
    前記解析部は、
    前記映像データにおける変化点を検出し、
    前記変化点に基づいて、前記ヒト、モノ又は装置の状態を解析し、
    新規に取得された映像データに含まれる信号と、機械学習された映像データに含まれる信号とを比較して前記変化点を検出し、その変化点の時刻を検出することにより、前記製造工程の監視を実行する
    ことを特徴とする監視システム。
JP2020103355A 2020-06-15 2020-06-15 監視システム Active JP7493390B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020103355A JP7493390B2 (ja) 2020-06-15 2020-06-15 監視システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020103355A JP7493390B2 (ja) 2020-06-15 2020-06-15 監視システム

Publications (2)

Publication Number Publication Date
JP2021196909A JP2021196909A (ja) 2021-12-27
JP7493390B2 true JP7493390B2 (ja) 2024-05-31

Family

ID=79195637

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020103355A Active JP7493390B2 (ja) 2020-06-15 2020-06-15 監視システム

Country Status (1)

Country Link
JP (1) JP7493390B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7375240B1 (ja) 2023-03-06 2023-11-07 株式会社 日立産業制御ソリューションズ 作業管理装置、作業管理方法、並びに作業管理プログラム

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006302096A (ja) 2005-04-22 2006-11-02 Omron Corp 工程異常検知システム
US20110200245A1 (en) 2010-02-17 2011-08-18 The Boeing Company Integration of manufacturing control functions using a multi-functional vision system
JP2012138039A (ja) 2010-12-28 2012-07-19 Hitachi Engineering & Services Co Ltd 生産シミュレーション装置
JP2013003688A (ja) 2011-06-14 2013-01-07 Panasonic Corp 不良要因検知装置および不良要因検知方法
JP5416322B2 (ja) 2011-09-05 2014-02-12 株式会社小林製作所 作業管理システム、作業管理端末、プログラム及び作業管理方法
JP2017010276A (ja) 2015-06-22 2017-01-12 株式会社ブロードリーフ 映像解析装置及び映像解析方法
JP2017010277A (ja) 2015-06-22 2017-01-12 株式会社ブロードリーフ 作業分析システム及び作業分析方法
JP2019016226A (ja) 2017-07-07 2019-01-31 株式会社日立製作所 作業データ管理システム及び作業データ管理方法
JP2019139570A (ja) 2018-02-13 2019-08-22 株式会社東芝 判別装置、判別方法およびプログラム
JP2019169021A (ja) 2018-03-26 2019-10-03 株式会社東芝 設備監視システム
JP2019169022A (ja) 2018-03-26 2019-10-03 株式会社東芝 品質監視システム
JP2020204952A (ja) 2019-06-18 2020-12-24 オムロン株式会社 状態判定センサ

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006302096A (ja) 2005-04-22 2006-11-02 Omron Corp 工程異常検知システム
US20110200245A1 (en) 2010-02-17 2011-08-18 The Boeing Company Integration of manufacturing control functions using a multi-functional vision system
JP2012138039A (ja) 2010-12-28 2012-07-19 Hitachi Engineering & Services Co Ltd 生産シミュレーション装置
JP2013003688A (ja) 2011-06-14 2013-01-07 Panasonic Corp 不良要因検知装置および不良要因検知方法
JP5416322B2 (ja) 2011-09-05 2014-02-12 株式会社小林製作所 作業管理システム、作業管理端末、プログラム及び作業管理方法
JP2017010276A (ja) 2015-06-22 2017-01-12 株式会社ブロードリーフ 映像解析装置及び映像解析方法
JP2017010277A (ja) 2015-06-22 2017-01-12 株式会社ブロードリーフ 作業分析システム及び作業分析方法
JP2019016226A (ja) 2017-07-07 2019-01-31 株式会社日立製作所 作業データ管理システム及び作業データ管理方法
JP2019139570A (ja) 2018-02-13 2019-08-22 株式会社東芝 判別装置、判別方法およびプログラム
JP2019169021A (ja) 2018-03-26 2019-10-03 株式会社東芝 設備監視システム
JP2019169022A (ja) 2018-03-26 2019-10-03 株式会社東芝 品質監視システム
JP2020204952A (ja) 2019-06-18 2020-12-24 オムロン株式会社 状態判定センサ

Also Published As

Publication number Publication date
JP2021196909A (ja) 2021-12-27

Similar Documents

Publication Publication Date Title
JP6824838B2 (ja) 作業データ管理システム及び作業データ管理方法
US11449980B2 (en) System and method for combined automatic and manual inspection
CN105051781B (zh) 机器视觉系统以及用于产品的远程质量检验的方法
CN107850889A (zh) 管理系统及管理方法
US20180267500A1 (en) Method and system for integrated manufacturing production quality inspections
US20170300938A1 (en) Commodity monitoring device, commodity monitoring system, and commodity monitoring method
US10423669B2 (en) Manufacturing process visualization apparatus and method
US20210064000A1 (en) Apparatus and Method for Identifying Differences Between a Real Installation and a Digital Twin of the Installation
US20220230440A1 (en) Information processing device, information processing method, and recording medium
JP2012022602A (ja) 作業改善分析システム
JP7493390B2 (ja) 監視システム
JP6259693B2 (ja) 工程管理システム、工程管理装置及び工程管理方法
US20220137609A1 (en) Production information management system and production information management method
Pavlov et al. Case study of using virtual and augmented reality in industrial system monitoring
CN110914771B (zh) 品质分析装置及品质分析方法
JP7474303B2 (ja) 管理システム
JP2020205027A (ja) データ抽出装置、データ抽出装置の制御方法、情報処理プログラム、および記録媒体
JP2023088155A (ja) 監視システム
WO2020250501A1 (ja) データ抽出装置、データ抽出装置の制御方法、情報処理プログラム、および記録媒体
JP2023088122A (ja) 監視システム
US20220245872A1 (en) Display control device, control method, and non-transitory computer readable medium
WO2023286393A1 (ja) 情報処理システム及び情報処理方法
KR102672362B1 (ko) 제조공정 가시화 장치
KR20170081383A (ko) 제조공정 가시화 장치 및 방법
JP2022129404A (ja) 監視装置、監視システム、監視方法および監視プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230215

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20230801

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20230801

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231115

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231121

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240115

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240325

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240423

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240521

R150 Certificate of patent or registration of utility model

Ref document number: 7493390

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150