JP2018151737A - 画像処理システム、FPGA(Field Programmable Gate Array)の再構成方法、情報処理装置、情報処理方法、および情報処理プログラム - Google Patents

画像処理システム、FPGA(Field Programmable Gate Array)の再構成方法、情報処理装置、情報処理方法、および情報処理プログラム Download PDF

Info

Publication number
JP2018151737A
JP2018151737A JP2017045976A JP2017045976A JP2018151737A JP 2018151737 A JP2018151737 A JP 2018151737A JP 2017045976 A JP2017045976 A JP 2017045976A JP 2017045976 A JP2017045976 A JP 2017045976A JP 2018151737 A JP2018151737 A JP 2018151737A
Authority
JP
Japan
Prior art keywords
image processing
storage location
processing apparatus
processing program
location information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017045976A
Other languages
English (en)
Other versions
JP7067869B2 (ja
Inventor
浩介 渡辺
Kosuke Watabe
浩介 渡辺
俊規 玉井
Toshinori Tamai
俊規 玉井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to JP2017045976A priority Critical patent/JP7067869B2/ja
Priority to US15/844,636 priority patent/US10440264B2/en
Priority to DE102017130288.3A priority patent/DE102017130288A1/de
Publication of JP2018151737A publication Critical patent/JP2018151737A/ja
Application granted granted Critical
Publication of JP7067869B2 publication Critical patent/JP7067869B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/617Upgrading or updating of programs or applications for camera control
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02Addressing or allocation; Relocation
    • G06F12/06Addressing a physical block of locations, e.g. base addressing, module addressing, memory dedication
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00344Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a management, maintenance, service or repair apparatus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/10Providing a specific technical effect
    • G06F2212/1041Resource optimization
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/17Embedded application
    • G06F2212/172Non-portable consumer electronics

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Human Computer Interaction (AREA)
  • Stored Programmes (AREA)
  • Facsimiles In General (AREA)
  • Image Processing (AREA)

Abstract

【課題】ユーザ設定の処理フローが更新された場合であっても必要な機能の格納場所を特定することができる画像処理システムを提供する。【解決手段】画像処理システムは、設定装置100と画像処理装置200とを備える。画像処理装置200は、記憶装置222とFPGA(Field Programmable Gate Array)とを含む。設定装置100は、ライブラリ110から選択された選択対象の画像処理プログラムの各々について記憶装置222における格納場所を規定した格納場所情報130を生成する生成部と、選択対象の画像処理プログラムと、当該画像処理プログラムの実行順序を規定した処理フロー111と、格納場所情報130とを画像処理装置200に送信する送信部とを含む。画像処理装置200は、受信した画像処理プログラムを格納場所情報130に規定される記憶装置222の格納場所に書き込む書換部を含む。【選択図】図2

Description

本開示は、FPGAの回路構成を再構成するための技術に関するものである。
FA(Factory Automation)分野において、ワークを自動で検査するための技術が普及している。ワークの検査処理は、様々な画像処理の組み合わせによって実現される。このような画像処理の組み合わせをユーザ自身で設定するためのユーザインターフェイスを提供するアプリケーションが開発されている。
当該アプリケーションに関し、特開2014−203309号公報(特許文献1)は、「ユーザが有している特定のアプリケーション画像処理についての知識を利用して、より効率かつ高速な画像処理を実現できる」画像処理装置を開示している。特許文献1によれば、ユーザは、異なる画像処理が定義された複数の処理項目の中から所望の処理項目を選択し、当該処理項目をユーザインターフェイス上に並べて配置し、その並び順に応じた実行順序で各処理項目が実行される。ユーザは、処理項目の組み合わせを変えることで任意の検査処理を実現することができる。以下では、ユーザによって組み合わされた処理項目で実現される一連の画像処理群を「ユーザ設定の処理フロー」ともいう。
特開2014−203309号公報
ユーザ設定の処理フローは、たとえば、視覚センサなどの画像処理装置によって実行される。画像処理装置に搭載されているFPGAによっては、処理の実行中に回路構成を動的に再構成する機能(所謂PR:Partial Reconfiguration)を有するものがある。このようなFPGAが利用される場合、画像処理装置は、ユーザ設定の処理フローを実行する過程でFPGAの回路構成を適宜再構成する。
FPGAの回路構成を再構成するための種々の画像処理プログラムは、たとえば、サーバなどの情報処理装置から提供される。画像処理装置のメモリ容量は一般的にはそれほど大きくないため、情報処理装置から提供され得る全ての画像処理プログラムを画像処理装置に予めインストールすることは現実的ではない。そのため、ユーザ設定の処理フローを実現するために必要な画像処理プログラムのみが情報処理装置からインストールされる。
ユーザ設定の処理フローが更新された場合には、画像処理装置は、必要な画像処理プログラムを情報処理装置から新たにインストールする必要がある。このとき、画像処理装置における画像処理プログラムの格納場所が書き換えられると、画像処理装置は、必要な機能がどこに格納されているのかを特定することができない。したがって、ユーザ設定の処理フローが更新された場合であっても必要な機能の格納場所を特定することができる技術が望まれている。
ある局面に従うと、画像処理システムは、画像処理装置と、上記画像処理装置と通信可能に構成されている情報処理装置とを備える。上記画像処理装置は、第1記憶部と、内部の回路構成を再構成可能に構成されているFPGAとを含む。上記情報処理装置は、上記FPGAによって実行され得る複数の画像処理プログラムを含むライブラリを格納するための第2記憶部と、上記ライブラリから1つ以上の画像処理プログラムを選択する選択操作と、当該選択操作による選択対象の画像処理プログラムに対して実行順序を指定する指定操作とを受け付け可能に構成されているユーザインターフェイスを提供するための設定部と、上記選択対象の画像処理プログラムの各々について上記第1記憶部における格納場所を規定した格納場所情報を生成するための生成部と、上記選択対象の画像処理プログラムと、当該画像処理プログラムの実行順序を規定した処理フローと、上記格納場所情報とを上記画像処理装置に送信するための送信部とを含む。上記画像処理装置は、さらに、上記情報処理装置から受信した画像処理プログラムの各々を上記格納場所情報に規定される上記第1記憶部の格納場所に書き込むための書換部と、上記処理フローの実行指示を受け付けたことに基づいて、当該処理フローに規定される実行順序に従って上記格納場所情報に規定される上記第1記憶部の格納場所から画像処理プログラムを順次読み出し、当該画像処理プログラムに従って上記FPGAの回路構成を再構成するための再構成部とを含む。
好ましくは、上記画像処理装置における上記第1記憶部の容量は、上記情報処理装置における上記第2記憶部の容量よりも小さい。
好ましくは、上記格納場所情報は、上記選択対象の画像処理プログラムの各々における第1記憶部への格納先を示す先頭アドレスと、上記選択対象の画像処理プログラムの各々におけるデータサイズとを上記格納場所として規定する。
好ましくは、上記ユーザインターフェイスは、上記選択対象の画像処理プログラムに新たな画像処理プログラムを追加するための追加操作を受け付け可能に構成されている。上記生成部は、上記ユーザインターフェイスが上記追加操作を受け付けたことに基づいて、上記新たな画像処理プログラムの上記第1記憶部における格納場所を上記格納場所情報に追加する。
好ましくは、上記ユーザインターフェイスは、上記選択対象の画像処理プログラムから特定の画像処理プログラムを削除するための削除操作を受け付け可能に構成されている。上記生成部は、上記ユーザインターフェイスが上記削除操作を受け付けたことに基づいて、上記格納場所情報に規定されている格納場所の内、上記削除操作によって指定された画像処理プログラムの格納場所を削除する。
他の局面に従うと、画像処理装置に備えられるFPGAにおける回路の再構成方法は、上記FPGAによって実行され得る複数の画像処理プログラムを含むライブラリを準備するステップと、上記ライブラリから1つ以上の画像処理プログラムを選択する選択操作と、当該選択操作による選択対象の画像処理プログラムに対して実行順序を指定する指定操作とを受け付け可能に構成されているユーザインターフェイスを提供するステップと、上記選択対象の画像処理プログラムの各々について上記画像処理装置の記憶部における格納場所を規定した格納場所情報を生成するステップと、上記選択対象の画像処理プログラムと、当該画像処理プログラムの実行順序を規定した処理フローと、上記格納場所情報とを上記画像処理装置に送信するステップと、上記画像処理装置において、画像処理プログラムの各々を上記格納場所情報に規定される上記記憶部の格納場所に書き込むステップと、上記画像処理装置において、上記処理フローに規定される実行順序に従って上記格納場所情報に規定される上記記憶部の格納場所から画像処理プログラムを順次読み出し、当該画像処理プログラムに従って上記FPGAの回路構成を再構成するステップとを備える。
他の局面に従うと、第1記憶部とFPGAとを備える画像処理装置と通信可能に構成されている情報処理装置は、上記FPGAによって実行され得る複数の画像処理プログラムを含むライブラリを格納するための第2記憶部と、上記ライブラリから1つ以上の画像処理プログラムを選択する選択操作と、当該選択操作による選択対象の画像処理プログラムに対して実行順序を指定する指定操作とを受け付け可能に構成されているユーザインターフェイスを提供するための設定部と、上記選択対象の画像処理プログラムの各々について上記第1記憶部における格納場所を規定している格納場所情報を生成するための生成部と、上記選択対象の画像処理プログラムと、当該画像処理プログラムの実行順序を規定した処理フローと、上記格納場所情報とを上記画像処理装置に送信するための送信部とを含む。
他の局面に従うと、第1記憶部とFPGAとを備える画像処理装置と通信可能に構成されている情報処理装置における情報処理方法は、上記FPGAによって実行され得る複数の画像処理プログラムを含むライブラリを準備するステップと、上記ライブラリから1つ以上の画像処理プログラムを選択する選択操作と、当該選択操作による選択対象の画像処理プログラムに対して実行順序を指定する指定操作とを受け付け可能に構成されているユーザインターフェイスを提供するステップと、上記選択対象の画像処理プログラムの各々について上記第1記憶部における格納場所を規定している格納場所情報を生成するステップと、上記選択対象の画像処理プログラムと、当該画像処理プログラムの実行順序を規定した処理フローと、上記格納場所情報とを上記画像処理装置に送信するステップとを備える。
他の局面に従うと、第1記憶部とFPGAとを備える画像処理装置と通信可能に構成されている情報処理装置によって実行される情報処理プログラムは、上記情報処理装置に、上記FPGAによって実行され得る複数の画像処理プログラムを含むライブラリを準備するステップと、上記ライブラリから1つ以上の画像処理プログラムを選択する選択操作と、当該選択操作による選択対象の画像処理プログラムに対して実行順序を指定する指定操作とを受け付け可能に構成されているユーザインターフェイスを提供するステップと、上記選択対象の画像処理プログラムの各々について上記第1記憶部における格納場所を規定している格納場所情報を生成するステップと、上記選択対象の画像処理プログラムと、当該画像処理プログラムの実行順序を規定した処理フローと、上記格納場所情報とを上記画像処理装置に送信するステップとを実行させる。
ある局面において、ユーザ設定の処理フローが更新された場合であっても必要な機能の格納場所を特定することができる。
本開示の上記および他の目的、特徴、局面および利点は、添付の図面と関連して理解される本発明に関する次の詳細な説明から明らかとなるであろう。
実施の形態に従う画像処理システムのシステム構成の一例を示す図である。 処理フローの設定処理を時系列に示す概念図である。 実施の形態に従う画像処理装置による計測処理を時系列に示す概念図である。 実施の形態に従う画像処理システムの全体構成を示す模式図である。 実施の形態に従う画像処理システムの機能構成の一例を示す図である。 設定部によって提供されるユーザインターフェイスを示す図である。 ライブラリのデータ構造の一例を示す図である。 設定部によって提供されるユーザインターフェイスを示す図である。 ユーザインターフェイスの変形例を示す図である。 ユーザ設定の処理フローを更新するためのユーザインターフェイスを示す図である。 実施の形態に従う画像処理装置の記憶装置におけるメモリ構造の一例を示す図である。 実施の形態に従う設定装置と画像処理装置との間のデータの流れを示すシーケンス図である。 実施の形態に従う設定装置の主要なハードウェア構成を示すブロック図である。 実施の形態に従う画像処理装置および表示設定器の主要なハードウェア構成を示すブロック図である。
以下、図面を参照しつつ、本発明に従う各実施の形態について説明する。以下の説明では、同一の部品および構成要素には同一の符号を付してある。それらの名称および機能も同じである。したがって、これらについての詳細な説明は繰り返さない。なお、以下で説明される各実施の形態および各変形例は、適宜選択的に組み合わされてもよい。
[A.概要]
図1〜図3を参照して、本実施の形態に従う画像処理システム1の概要について説明する。図1は、本実施の形態に従う画像処理システム1のシステム構成の一例を示す図である。画像処理システム1は、典型的には、生産ラインなどに組み込まれる。画像処理システム1は、生産ライン上を搬送される検査対象のワークを撮像することによって得られる画像に基づいて、文字の認識やキズの検査といった処理(以下、「計測処理」ともいう。)を実行する。
図1に示す例において、画像処理システム1は、情報処理装置の一例である設定装置100と、設定装置100に通信可能に構成されている1つ以上の画像処理装置200とを含む。
設定装置100および画像処理装置200は、ネットワーク2に接続されている。たとえば、ワークはベルトコンベヤなどの搬送機構によって所定方向に搬送され、それぞれの画像処理装置200は、この搬送経路に相対して予め定められた位置に配置される。
画像処理装置200は、たとえば、撮像機能を備えた画像センサである。より具体的には、画像処理装置200は、撮像部と、画像処理機能を実現するための機能モジュールを複数含むライブラリを格納する記憶装置と、少なくとも1つの機能モジュール(典型的には、プログラムモジュール)を実行することで、撮像部から得られる画像を処理する処理部とを含む。各機能モジュールは、画像処理装置200において何らかの画像処理機能を実現するための命令コードや実行モジュールなどを含む。ユーザは、ライブラリに含まれる画像処理を任意に組み合わせることで様々な処理フローを画像処理装置200に設定することができ、任意の計測処理を実現することができる。
このように、ユーザは、計測処理に先立って処理フローを設定する。以下では、処理フローの設定処理と、当該処理フローを実行することによって実現される計測処理とについて順に説明する。
(A1.設定処理)
図2を参照して、ユーザによって設計された処理フローを画像処理装置に設定する過程について説明する。図2は、処理フローの設定処理を時系列に示す概念図である。
ステップS1において、設定装置100の表示部において、複数の画像処理を含むライブラリ110が一覧表示される。ユーザは、キーボードやマウスなどの操作部を操作することで、ライブラリ110から1つ以上の画像処理を選択する操作と、当該操作によって選択された選択対象の各画像処理に対して実行順序を指定する操作とを行う。これらの操作が繰り返し行われることで任意の処理フローが設計される。画像処理の実行順序は、たとえば、選択対象の画像処理の並び順によって指定される。図2の例では、ライブラリ110から選択された画像処理群によって処理フロー111が設計されている。
好ましくは、設定装置100は、処理フロー111に含まれる各画像処理について画像処理装置200での実行主体を指定できるように構成される。一例として、画像処理装置200は、CPUおよびFPGAを有し、ユーザは、CPUおよびFPGAの一方を実行主体として指定することができる。これにより、後述の計測処理では、処理フロー111に含まれる各画像処理が指定された実行主体によって実行される。典型的には、画像処理装置200のFPGAには、ユーザ設定の処理フローの実行中に回路構成を動的に再構成する機能(所謂PR:Partial Reconfiguration)を有するものが採用される。回路構成が適宜再構成されることで、FPGAの回路規模が仮想的に拡張される。
ステップS2において、設定装置100は、ユーザ設定の処理フロー111に基づいて、格納場所情報130を生成する。格納場所情報130において、処理フロー111に含まれる各画像処理の識別情報と、各画像処理を実現するための画像処理プログラムの格納先とが対応付けられる。画像処理プログラムの格納先は、たとえば、画像処理装置200の記憶装置222における先頭アドレスと、画像処理プログラムのデータサイズとで表わされる。
なお、画像処理プログラムの格納先は、他の情報で表わされてもよい。一例として、画像処理プログラムの格納先は、先頭アドレスと最終アドレスとで表わされてもよい。あるいは、画像処理プログラムの格納先は、最終アドレスとデータサイズとで表わされてもよい。
ステップS3において、設定装置100は、ユーザ設定の処理フロー111と、格納場所情報130と、処理フロー111を実現するための各画像処理プログラムとを実行データ122として画像処理装置200に送信する。典型的には、当該画像処理プログラムは、画像処理装置200のFPGA202の回路構成を再構成するための再構成データである。画像処理装置200は、設定装置100から受信した各画像プログラムを格納場所情報130に規定されている格納場所に書き込む。また、画像処理装置200は、ユーザ設定の処理フロー111と格納場所情報130とを記憶装置222に書き込む。
(A2.計測処理)
次に、図3を参照して、ユーザ設定の処理フロー111によって実現される計測処理について説明する。図3は、画像処理装置200による計測処理を時系列に示す概念図である。
ステップS5において、画像処理装置200は、計測処理の実行指示を受け付けたとする。当該実行指示は、たとえば、画像処理装置200の撮像部から画像を取得する度に発せられる。画像処理装置200のCPU201は、計測処理の実行指示を受け付けたことに基づいて、記憶装置222に格納されている処理フロー111を参照し、1番目に実行する画像処理を特定する。図3の例では、画像処理「膨張」が特定される。CPU201は、記憶装置222に格納されている格納場所情報130を参照して、画像処理「膨張」を実現するための画像処理プログラムの格納場所を特定し、当該格納場所から当該画像処理プログラムを取得する。画像処理「膨張」の実行主体としてはFPGA202が関連付けられているので、CPU201は、取得した画像処理プログラムに従ってFPGA202の回路構成を再構成する。これにより、FPGA202の各回路素子が結線し直される。その後、FPGA202は、再構成された回路構成に従って画像処理「膨張」を実行する。
ステップS6において、設定装置100は、画像処理装置200のCPU201は、記憶装置222に格納されている処理フロー111を参照し、2番目に実行する画像処理を特定する。図3の例では、画像処理「収縮」が特定される。画像処理装置200のCPU201は、記憶装置222に格納されている格納場所情報130を参照して、画像処理「収縮」を実現するための画像処理プログラムの格納場所を特定し、当該格納場所から当該画像処理プログラムを取得する。画像処理「収縮」の実行主体としてはFPGA202が関連付けられているので、CPU201は、取得した画像処理プログラムに従ってFPGA202の回路構成を再構成する。これにより、FPGA202の各回路素子が結線し直される。その後、FPGA202は、再構成された回路構成に従って画像処理「収縮」を実行する。
ステップS7において、画像処理装置200のCPU201は、記憶装置222に格納されている処理フロー111を参照し、3番目に実行する画像処理を特定する。図3の例では、画像処理「平滑化弱」が特定される。画像処理装置200のCPU201は、記憶装置222に格納されている格納場所情報130を参照して、画像処理「平滑化弱」を実現するための画像処理プログラムの格納場所を特定し、当該格納場所から当該画像処理プログラムを取得する。画像処理「平滑化弱」の実行主体としてはFPGA202が関連付けられているので、CPU201は、取得した画像処理プログラムに従ってFPGA202の回路構成を再構成する。これにより、FPGA202の各回路素子が結線し直される。その後、FPGA202は、再構成された回路構成に従って画像処理「平滑化弱」を実行する。
以上のように、画像処理装置200は、処理フロー111の実行指示を受け付けたことに基づいて、処理フロー111に規定される実行順序に従って格納場所情報130に規定される記憶装置222(第1記憶部)の格納場所から画像処理プログラムを順次読み出し、当該画像処理プログラムに従ってFPGA202の回路構成を再構成する。処理フロー111が設計される度に格納場所情報130が生成されるので、画像処理装置200は、処理フロー111が更新された場合であっても処理フロー111を実現するための各機能の格納場所を特定することができる。
なお、図3では、CPU201がFPGA202の回路構成を書き換える例について説明を行ったが、FPGA202の回路構成は、その他の制御装置によって書き換えられてもよい。たとえば、FPGA202の回路構成は、DMA(Direct Memory Access controller)コントローラによって書き換えられてもよい。
[B.システム全体構成]
次に、本実施の形態に従う画像処理システム1の全体構成について説明する。図4は、画像処理システム1の全体構成を示す模式図である。図4を参照して、画像処理システム1は、設定装置100と、設定装置100とネットワーク2を介して接続される1つ以上の画像処理装置200および表示設定器300を含む。画像処理装置200には、PLC(Programmable Logic Controller)400が接続される。
表示設定器300は、たとえば、画像処理装置200に対して実行される画像処理のパラメータなどの設定、および、画像処理装置200での画像処理の実行により得られる検査結果などを表示する。
PLC400は、画像処理装置200との間でタイミング信号や結果情報などを遣り取りする。PLC400は、他の装置からの信号を受信したり、当該他の装置に信号を送信したりすることによって、画像処理システム1の全体制御を行うこともできる。
PLC400は、ネットワーク2を介して画像処理装置200と接続されてもよいし、表示設定器300は、画像処理装置200と直接的に接続されてもよい。
図4に示す画像処理システム1において、画像処理装置200の各々は、PLC400などからのトリガー信号に応答して、その視野範囲にある被写体を撮像するとともに、その撮像によって得られた画像を処理することで、計測処理を実行する。この計測処理は、所定周期で繰り返されてもよいし、PLC400などからのトリガー信号に応答してイベント的に実行されてもよい。画像処理装置200で実行される画像処理としては、上述したように適宜入れ替えが可能になっている。そのため、図1に示すように、同一の生産ラインに複数の画像処理装置200を並べて配置した場合には、同一の検査対象に対して、それぞれの画像処理装置200が異なる画像処理を行って、その計測結果をそれぞれ出力するようにしてもよい。
[C.画像処理システム1の機能構成]
図5〜図9を参照して、画像処理システム1の機能について説明する。図5は、画像処理システム1の機能構成の一例を示す図である。図5に示されるように、画像処理システム1は、設定装置100と、画像処理装置200とで構成されている。
以下では、設定装置100の機能構成と、画像処理装置200の機能構成とについて順に説明する。なお、設定装置100および画像処理装置200における機能構成の実装場所は、図5の例に限定されない。たとえば、設定装置100の機能構成の一部は、画像処理装置200に実装されてもよいし、サーバなどの装置に実装されてもよい。同様に、画像処理装置200の機能構成の一部は、設定装置100に実装されてもよいし、サーバなどの装置に実装されてもよい。
(C1.設定装置100の機能構成)
設定装置100は、主要なハードウェア構成として、制御装置101と、記憶装置103とを含む。制御装置101は、機能構成として、設定部152と、生成部154と、送信部156とを含む。
設定部152は、予めインストールされている複数の画像処理プログラムを含むライブラリ110から1つ以上の画像処理プログラムを選択する操作と、当該操作によって選択された選択対象の各画像処理プログラムに対して実行順序を指定する操作とを受け付けるためのユーザインターフェイスを提供する。図6は、設定部152によって提供されるユーザインターフェイス180を示す図である。
ユーザインターフェイス180は、たとえば、設定装置100の表示部105に表示される。ユーザインターフェイス180は、設定済項目表示領域181と、処理項目選択領域182と、カメラ画像表示領域183と、処理項目挿入/追加ボタン184と、実行順序入替ボタン185とを含む。設定済項目表示領域181には、現在設定されている処理設定の内容がグラフィカルに表示される。処理項目選択領域182には、選択可能な処理項目を示すアイコンがその名称とともに一覧表示される。
ユーザは、ユーザインターフェイス180の処理項目選択領域182において、目的の画像処理に必要な処理項目を選択する((1)処理項目を選択)とともに、設定済項目表示領域181において選択した処理項目を追加すべき位置(順序)を選択する(追加位置)。そして、ユーザが処理項目挿入/追加ボタン184を選択する((3)挿入/追加ボタンを押す)と、処理項目が追加される((4)処理項目が追加される)。処理項目追加後の処理設定の内容は、設定済項目表示領域181に反映される。
ユーザは、この処理を適宜繰り返すことで目的の計測処理を実現するための処理フローを作成する。また、ユーザは、処理設定の作成中または作成完了後に、設定済項目表示領域181において処理項目を選択した上で、実行順序入替ボタン185を選択することで、実行順序を適宜変更することもできる。
設定部152は、選択可能な処理項目として、ライブラリ110に含まれる画像処理プログラムを画像処理項目として処理項目選択領域182に表示する。図7を参照して、ライブラリ110について説明する。図7は、ライブラリ110のデータ構造の一例を示す図である。
図7に示されるように、ライブラリ110は、各画像処理プログラムを識別するための識別情報110Aと、画像処理装置200のCPU201によって実行され得る画像処理プログラム群110Bと、画像処理装置200のFPGA202によって実行され得る画像処理プログラム群110Cとを含む。画像処理プログラム群110Bと画像処理プログラム群110Cとは、互いに同じ処理内容である。ここでいう「同じ処理内容」とは、所定の入力に対して得られる結果が同じまたは略同じになる処理のことをいう。CPUおよびFPGAのそれぞれについて同じまたは略同じ画像処理が準備されていることで、CPUおよびFPGAのいずれでもライブラリ110に含まれる各画像処理を実行することができる。
画像処理プログラム群110B,110Cは、たとえば、機能モジュール(典型的には、画像処理プログラムモジュール)である。各機能モジュールは、画像処理を実現するための命令コードや実行モジュールなどを含む。
再び図5を参照して、設定部152は、さらに、ユーザ設定の処理フロー111に含まれる各画像処理に対して実行主体を指定するためのユーザインターフェイス140を提供する。図8は、設定部152によって提供されるユーザインターフェイス140を示す図である。
ユーザインターフェイス140は、実行主体の指定領域112を有する。図8の例では、指定領域112において、セレクトボックス112Aが実行主体の指定を受け付けるオブジェクトとして示されている。セレクトボックス112Aは、処理フロー111における対応する画像処理項目に並べて表示される。セレクトボックス112Aが選択されると、メニュー112Bが展開される。ユーザは、メニュー112Bに示される項目のいずれかを選択することができる。
ユーザは、指定領域112において実行主体を指定した上でOKボタン118を押下した場合には、設定部152は、指定された実行主体の組み合わせを処理フロー111(図2参照)に反映した上でユーザインターフェイス140を閉じる。ユーザがキャンセルボタン119を押下した場合には、設定装置100は、指定された実行主体の組み合わせを処理フロー111に反映せずにユーザインターフェイス140を閉じる。
なお、実行主体を指定するためのユーザインターフェイス140は、図8の例に限定されない。実行主体は、その他の方法で指定されてもよい。図9は、ユーザインターフェイス140の変形例を示す図である。図9には、変形例として、ユーザインターフェイス140Aが示されている。
ユーザインターフェイス140Aは、処理フロー111に含まれる各画像処理に対して実行主体を指定する指定領域135を含む。図9の例では、指定領域135においてチェックボックスが示されている。各チェックボックスは、処理フロー111における対応する画像処理項目に並べて表示される。
ユーザは、処理フロー111に含まれる各画像処理に対して1つの実行主体を指定することができる。たとえば、実行主体「FPGA」における項目「膨張」のチェックボックスが選択された場合には、当該チェックボックスにチェックマークが付される。このとき、実行主体「CPU」における項目「膨張」のチェックボックスにおいては、チェックマークが消される。このように、1つの画像処理に対しては、1つの実行主体しか指定することができない。選択されたチェックボックスについては実行順序が表示される。
ユーザは、指定領域135において実行主体を指定した上でOKボタン118を押下した場合には、設定部152は、指定された実行主体の組み合わせを処理フロー111(図2参照)に反映した上でユーザインターフェイス140Aを閉じる。ユーザがキャンセルボタン119を押下した場合には、設定装置100は、指定された実行主体の組み合わせを処理フロー111に反映せずにユーザインターフェイス140Aを閉じる。
再び図5を参照して、生成部154は、ユーザ設定の処理フロー111に基づいて、上述の格納場所情報130(図2参照)を生成する。格納場所情報130において、処理フロー111に含まれる各画像処理の実行順序と、当該画像処理の種類を識別するための識別情報と、処理フロー111を実現するための各画像処理プログラムの格納先とが対応付けられる。
画像処理プログラムの格納先は、様々な方法で決定される。一例として、画像処理プログラムの格納場所が画像処理装置200において予め確保されており、当該確保されている格納場所は、予め定められたサイズごとに区分されている。生成部154は、予め区分されている格納場所の中から空き領域を特定し、当該空き領域のいずれかを画像処理プログラムの格納先として決定する。
格納場所情報130が既に生成されている場合には、生成部154は、格納場所情報130を更新する。より具体的には、生成部154は、今回設定された処理フロー111に含まれる画像処理の内、更新前の格納場所情報130に規定されていない画像処理については新たに格納先を格納場所情報130に追加する。生成部154は、今回設定された処理フロー111に含まれる画像処理の内、更新前の格納場所情報130に既に規定されている画像処理については、種類が同じ画像処理同士でバージョンを比較する。バージョンが同じである画像処理については、生成部154は、格納場所情報130において格納先を更新しない。バージョンが異なる画像処理については、生成部154は、格納場所情報130に既に規定されている格納先を更新する。
送信部156は、ユーザ設定の処理フロー111と、格納場所情報130と、処理フロー111を実現するための画像処理プログラム131とを指定された画像処理装置200に送信する。処理フロー111、格納場所情報130、および画像処理プログラム131は、実行データ122として1つのデータとしてまとめられた上で画像処理装置200に送信されてもよいし、個別に画像処理装置200に送信されてもよい。
(C2.画像処理装置200の機能構成)
引き続き図5を参照して、画像処理装置200の機能構成について説明する。画像処理装置200は、主要なハードウェア構成として、CPU201と、FPGA202と、記憶装置222とを含む。CPU201は、機能構成として、受信部252と、書換部254と、再構成部256とを含む。
受信部252は、設定装置100から、ユーザ設定の処理フロー111と、格納場所情報130と、処理フロー111を実現するための画像処理プログラム131とを設定装置100から受信する。受信した処理フロー111および格納場所情報130は、画像処理装置200の記憶装置222に格納される。受信した画像処理プログラム131は、書換部254に出力される。
書換部254は、格納場所情報130に規定されている格納先に画像処理プログラム131を書き込む。これにより、画像処理プログラム131が設定装置100によって指定された格納先に書き込まれる。
再構成部256は、処理フロー111の実行指示を受け付けたことに基づいて、処理フロー111に規定される実行順序に従って格納場所情報130に規定される格納場所から画像処理プログラムを順次読み込む。読み込まれた画像処理の実行主体としてFPGA202が指定されている場合には、再構成部256は、読み込まれた画像処理プログラムに従ってFPGA202の回路構成を順次再構成する。その後、FPGA202は、現在の回路構成に従って画像処理を実行する。読み出された画像処理プログラムの実行主体としてCPU201が指定されている場合には、CPU201は、読み出された画像処理プログラムを実行する。
[D.処理フローの更新処理]
図10および図11を参照して、ユーザ設定の処理フローの更新処理にいて説明する。図10は、ユーザ設定の処理フローを更新するためのユーザインターフェイス140Bを示す図である。ユーザインターフェイス140Bは、たとえば、上述の設定部152(図5参照)によって提供される。
ユーザインターフェイス140Bは、処理フロー111に含まれる各画像処理を更新するための更新操作と、現在設定されている処理フロー111に新たな画像処理を追加するための追加操作と、現在設定されている処理フロー111から画像処理を削除するための削除操作とを受け付け可能に構成されている。
より具体的には、ユーザインターフェイス140Bは、追加対象または更新対象の画像処理を選択する追加/更新欄113と、削除対象の画像処理を選択する削除欄114とを含む。追加/更新欄113は、追加可能または更新可能な機能一覧113Aと、各画像処理のバージョン情報113Bと、各画像処理の容量情報113Cと、更新対象または追加対象の画像処理を選択するための選択欄113Dとを含む。削除欄114は、削除可能な機能一覧114Aと、各画像処理のバージョン情報114Bと、各画像処理の使用シーン114Cと、各画像処理の容量情報114Dと、削除対象の画像処理を選択するための選択欄114Eとを含む。
ユーザは、選択欄113Dにおけるチェックボックスを選択することで、追加対象および更新対象の画像処理を指定することができる。同様に、ユーザは、選択欄114Eにおけるチェックボックスを選択することで、削除対象の画像処理を指定することができる。ユーザが推奨ボタン115を押下すると、追加、更新、および削除が推奨される画像処理が自動で決定される。追加、更新、および削除が推奨される画像処理についてはチェックボックスが選択された状態になり、それ以外の画像処理についてはチェックボックスが選択されていない状態となる。
選択欄113Dにおいて更新対象または追加対象の画像処理が選択された上で実行ボタン116が押下されることで、設定装置100は、指定された画像処理装置200から格納場所情報130を取得し、当該格納場所情報130を更新する。設定装置100は、選択欄113Dにおいて選択された画像処理が更新対象であるか追加対象であるかを判断する。一例として、選択欄113Dにおいて選択された画像処理が格納場所情報130に既に規定されている場合には、当該画像処理が更新対象であると判断する。この場合、設定装置100は、更新前の画像処理プログラムが更新後の画像処理プログラムで書き換えられるように格納場所情報130を更新する。選択欄113Dにおいて選択された画像処理が格納場所情報130に規定されていない場合には、当該画像処理が追加対象であると判断する。この場合、設定装置100は、追加対象の画像処理プログラムの格納場所を格納場所情報130Aに追加する。
選択欄114Eにおいて削除対象の画像処理が選択された上で実行ボタン116が押下されることで、設定装置100は、指定された画像処理装置200から格納場所情報130を取得し、当該格納場所情報130から削除対象の画像処理に関する情報を削除する。より具体的には、設定装置100は、格納場所情報130に規定されている格納場所の内、削除操作によって指定された画像処理プログラムの格納場所を削除する。
一例として、画像処理機能「背景カット」が追加対象として選択されており、画像処理機能「メディアンフィルタ」および「エッジ強調フィルタ」が削除対象として選択されているとする。図11を参照して、この条件下での格納場所情報130の更新処理について説明する。図11は、画像処理装置200の記憶装置222におけるメモリ構造の一例を示す図である。より詳細には、図11(A)には、更新前における記憶装置222のメモリ構造が示されている。図11(B)には、更新後における記憶装置222のメモリ構造が示されている。
設定装置100は、追加対象の画像処理機能「背景カット」の格納先を格納場所情報130Aに追加するとともに、削除対象の画像処理機能「メディアンフィルタ」および「エッジ強調フィルタ」の格納場所を格納場所情報130Aから削除する。その結果、更新前の格納場所情報130Aは、格納場所情報130Bとなる。
その後、設定装置100は、更新後の格納場所情報130Bと、追加対象の画像処理機能「背景カット」を実現するための画像処理プログラムとを画像処理装置200に送信する。同時に、画像処理機能「メディアンフィルタ」および「エッジ強調フィルタ」の削除命令を送信する。画像処理装置200は、記憶装置222に格納されている格納場所情報130Aを更新後の格納場所情報130Bで置き換えるとともに、追加対象の画像処理機能「背景カット」を実現するための画像処理プログラムを格納場所情報130Bに規定される格納場所に書き込む。また、画像処理装置200は、削除対象である画像処理機能「メディアンフィルタ」および「エッジ強調フィルタ」を実現するための画像処理プログラムを記憶装置222から削除する。
[E.データーフロー]
図12を参照して、設定装置100と画像処理装置200との間におけるデータの流れについて説明する。図12は、設定装置100と画像処理装置200との間のデータの流れを示すシーケンス図である。
ステップS10において、設定装置100は、処理フロー111を設計するためのアプリケーションの実行指示を受け付けたとする。このことに基づいて、設定装置100は、上述の設定部152(図5参照)として、上述のユーザインターフェイス180(図6参照)を表示部105に表示する。ユーザインターフェイス180は、予めインストールされているライブラリから1つ以上の画像処理プログラムを選択する選択操作と、当該選択操作による選択対象の画像処理プログラムに対して実行順序を指定する指定操作とを受け付け可能に構成されている。これにより、ユーザは、画像処理を任意に組み合わせることができ、様々な処理フロー111を実現することができる。
ステップS20において、設定装置100は、上述の生成部154(図5参照)として、格納場所情報130(図2参照)を生成する。格納場所情報130において、処理フロー111に含まれる各画像処理の実行順序と、当該画像処理の種類を識別するための識別情報と、処理フロー111を実現するための各画像処理プログラムの格納先とが対応付けられる。設定装置100は、上述の送信部156(図5参照)として、ユーザ設定の処理フロー111と、生成した格納場所情報130と、処理フロー111を実現するための画像処理プログラム131とを実行データ122として画像処理装置200に送信する。
ステップS30において、画像処理装置200は、上述の受信部252(図5参照)として、設定装置100から実行データ122を受信する。その後、画像処理装置200は、実行データ122から格納場所情報130および画像処理プログラム131を取得する。画像処理装置200は、上述の書換部254(図5参照)として、格納場所情報130に規定されている格納場所に従って画像処理プログラム131を記憶装置222に書き込む。これにより、画像処理プログラム131が指定された格納場所に書き込まれる。その後、画像処理装置200は、実行データ122に含まれる処理フロー111および格納場所情報130を記憶装置222に書き込む。
ステップS50において、画像処理装置200は、ワークの計測指示を受け付けたとする。当該計測指示は、たとえば、画像処理装置200の撮像部から画像を取得する度に発せられる。
ステップS60において、画像処理装置200は、処理フロー111と格納場所情報130とを記憶装置222から読み込む。画像処理装置200は、上述の書換部254(図5参照)として、画像処理装置200は、処理フロー111に規定される実行順序に従って格納場所情報130に規定される格納場所から画像処理プログラムを順次読み込む。
より具体的には、画像処理装置200は、処理フロー111を参照し、1番目に実行する画像処理を特定する。画像処理装置200は、格納場所情報130を参照して、当該画像処理を実現するための画像処理プログラムの格納場所を特定し、当該格納場所から当該画像処理プログラムを取得する。取得した画像処理プログラムの実行主体としてFPGA202が関連付けられている場合、当該画像処理プログラムに従ってFPGA202の回路構成を再構成し、当該画像処理プログラムをFPGA202に実行させる。取得した画像処理プログラムの実行主体としてCPU201が関連付けられている場合、画像処理装置200は、当該画像処理プログラムをCPU201に実行させる。
その後、画像処理装置200は、処理フロー111を参照し、2番目に実行する画像処理を特定する。画像処理装置200は、格納場所情報130を参照して、当該画像処理を実現するための画像処理プログラムの格納場所を特定し、当該格納場所から当該画像処理プログラムを取得する。取得した画像処理プログラムの実行主体としてFPGA202が関連付けられている場合、当該画像処理プログラムに従ってFPGA202の回路構成を再構成し、当該画像処理プログラムをFPGA202に実行させる。取得した画像処理プログラムの実行主体としてCPU201が関連付けられている場合、画像処理装置200は、当該画像処理プログラムをCPU201に実行させる。
以上のような処理が処理フロー111に規定されている実行順序に従って順次実行されることで、ユーザ設定の処理フロー111が実現される。
[F.画像処理システム1の装置構成]
図13および図14を参照して、画像処理システム1を構成するそれぞれの装置の構成について説明する。図13は、設定装置100の主要なハードウェア構成を示すブロック図である。図14は、画像処理装置200および表示設定器300の主要なハードウェア構成を示すブロック図である。
(E1:設定装置100)
設定装置100は、典型的には、汎用のコンピュータで実現されるが、スマートフォン、タブレット端末、その他の通信機能を備える情報処理装置で実現されてもよい。設定装置100は、制御装置101と、メモリ102と、HDD(Hard Disk Drive)などの記憶装置103と、ネットワークインターフェイス(I/F)104と、表示部105と、操作部106と、メモリカードリーダ・ライタ107とを含む。これらの各部は、内部バス108を介して、互いに通信可能に接続されている。
制御装置101は、記憶装置103などに格納されているプログラム(命令コード)をメモリ102へ展開した上で実行することで、上述の各種機能を実現する。メモリ102および記憶装置103は、それぞれ揮発的および不揮発的にデータを格納する。記憶装置103は、OS(Operating System)に加えて、アプリケーション103Aおよび上述のライブラリ110(図7参照)を保持している。
アプリケーション103Aは、上述のユーザインターフェイス140,140A,140B,180を提供する基本プログラムである。ライブラリ110は、ユーザ操作に応じてその全部または一部が画像処理装置200へ送信される。すなわち、画像処理装置200の記憶装置222に格納される画像処理プログラム131(図14参照)は、設定装置100の記憶装置103に格納されるライブラリ110の少なくとも部分集合である。
ネットワークインターフェイス104は、ネットワーク2(図1参照)を介して、設定装置100と画像処理装置200との間でデータを遣り取りする。
表示部105は、制御装置101がアプリケーション103Aを実行することで実現される設定操作画面(たとえば、ユーザインターフェイス140,140A,140B,180)などを表示する。表示部105は、LCD(Liquid Crystal Display)といったディスプレイなどからなる。
操作部106は、ユーザ操作を受け付け、その受け付けた操作を示す内部指令を制御装置101などへ出力する。操作部106は、典型的には、キーボード、マウス、タッチパネル、タブレット、音声認識装置などからなる。
メモリカードリーダ・ライタ107は、メモリカード107Aからデータを読み出し、およびメモリカード107Aへデータを書き込む。メモリカード107Aとしては、SD(Secure Digital)カードなどの公知の記録媒体を採用できる。
(E2:画像処理装置200)
次に、図14を参照して、画像処理装置200の装置構成について説明する。画像処理装置200は、照明部210と、制御装置220と、撮像部230とを含む。
照明部210は、検査対象であるワーク500に撮像に必要な光を照射する。つまり、照明部210は、撮像部230の撮像範囲に光を照射する。より具体的には、照明部210は、照明基板上に設けられる複数の照明制御ユニット211を含む。これらのユニットは、照明基板上に配置される。照明制御ユニット211の各々は、照明レンズ212と、LED213とを含む。照明制御ユニット211は、制御装置220からの指令に従って、光を照射する。より具体的には、LED213で発生した光は、照明レンズ212を通じてワーク500へ照射される。
撮像部230は、照明部210が照射した光の反射光を受けて、画像信号を出力する。この画像信号は、制御装置220へ送られる。より具体的には、撮像部230は、撮像レンズ231などの光学系に加えて、CCD(Coupled Charged Device)やCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどの複数の画素に区画された撮像素子232を含む。
制御装置220は、画像処理装置200の全体を制御する。すなわち、制御装置220は、照明部210および撮像部230を制御するとともに、撮像部230からの画像信号に基づいて画像処理を行う。より具体的には、制御装置220は、処理部221と、記憶装置222と、ネットワーク通信部223と、外部入出力部225とを含む。
処理部221は、CPU201やFPGA202といった集積回路によって構成される。あるいは、処理部221は、DSP、GPU、ASIC(Application Specific Integrated Circuit)、その他の集積回路によって構成されてもよい。
記憶装置222は、ROM(Read Only Memory)、フラッシュメモリ、HDD、およびSSD(Static Silicon Disk)といった不揮発性記憶装置、および/または、RAM(Random Access Memory)などの不揮発メモリを含む。典型的に、処理部221が記憶装置222に格納されたプログラム(命令コード)やモジュールなどを実行することで、各種画像処理を実現する。
このようなプログラム(命令コード)やモジュールなどは、記憶装置222のうち不揮発性メモリに格納され、不揮発性メモリから読み出されたプログラム、プログラムの実行に必要なワークデータ、撮像部230によって取得された画像データ、および計測結果を示すデータなどは、記憶装置222のうち揮発性メモリに格納される。
より具体的には、記憶装置222は、設定装置100から受信したユーザ設定の処理フロー111と、設定装置100から受信した格納場所情報130と、設定装置100から受信した画像処理プログラム131と、本体プログラム222Aとを含む。
本体プログラム222Aは、画像処理装置200の基本的な動作を実現するための基本プログラムであり、OSおよび基本的なアプリケーションを含み得る。典型的には、画像処理装置200における記憶装置222の容量は、設定装置100における記憶装置103の容量よりも小さい。そのため、画像処理装置200で実行可能な画像処理機能に応じた数だけインストールされる。すなわち、画像処理プログラム131は、設定装置100の記憶装置103に格納されるライブラリ110の少なくとも部分集合である。
ネットワーク通信部223は、ネットワーク2を介して、設定装置100および表示設定器300などとデータを遣り取りするためのインターフェイスである。より具体的には、ネットワーク通信部223は、Ethernet(登録商標)などに従う構成が採用される。外部入出力部225は、PLC400との間で各種データ(入力データおよび/または出力データ)を遣り取りするためのインターフェイスである。
(E3:表示設定器300)
引き続き図14を参照して、表示設定器300は、表示部301と、表示制御部302と、処理部303と、通信部304と、操作部305と、メモリカードリーダ・ライタ306と、記憶装置308とを含む。
表示部301は、接続先の画像処理装置200に対して実行される画像処理のパラメータなどを設定するための画面、画像処理装置200での画像処理の実行により得られる検査結果を示す画面などを表示する。表示部301は、典型的には、LCD(Liquid Crystal Display)といったディスプレイなどからなる。表示制御部302は、処理部303からの指示に従って、表示部301に画像を表示させるための処理を行う。
処理部303は、画像処理装置200からの指示/命令に従って、表示部301に表示されるべき画像を生成する処理を行うとともに、操作部305を介したユーザ入力に応答して、その入力値を画像処理装置200へ送出する。
記憶装置308は、ROM、フラッシュメモリ、HDD、およびSSDといった不揮発性記憶装置、および/または、RAMなどの不揮発メモリを含む。記憶装置308は、部品データ308Aとして、画面表示に用いるオブジェクトを格納している。処理部303がこれらの部品データ308Aを利用することで、画面表示を行う。
通信部304は、画像処理装置200などとの間でデータを遣り取りするためのインターフェイスである。
操作部305は、ユーザ操作を受け付け、その受け付けた操作を示す内部指令を処理部303などへ出力する。操作部305は、典型的には、表示部301の表面に配置されるタッチパネル(感圧センサ)、ボタンおよびキーなどからなる。
メモリカードリーダ・ライタ306は、メモリカード310からデータを読み出し、およびメモリカード310へデータを書き込む。メモリカード310としては、SDカードなどの公知の記録媒体を採用できる。
[G.まとめ]
以上のようにして、設定装置100は、処理フロー111を設計するためのユーザインターフェイスを提供し、当該ユーザインターフェイスで設定された処理フロー111を実現するための画像処理プログラムの格納先を格納場所情報130に規定する。その後、設定装置100は、ユーザによって設定された処理フロー111と、処理フロー111を実現するための画像処理プログラムと、生成した格納場所情報130とを画像処理装置200に送信する。画像処理装置200は、情報処理装置から受信した画像処理プログラムの各々を格納場所情報130に規定される格納先に書き込む。画像処理装置200は、処理フロー111の実行指示を受け付けたことに基づいて、処理フロー111に規定される実行順序に従って格納場所情報130に規定される格納場所から画像処理プログラムを順次読み出し、当該画像処理プログラムに従ってFPGA202の回路構成を再構成する。
処理フロー111が設計される度に格納場所情報130が生成されるので、画像処理装置200は、処理フロー111が更新された場合であっても処理フロー111を実現するための各機能の格納場所を特定することができる。
今回開示された実施の形態は全ての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内での全ての変更が含まれることが意図される。
1 画像処理システム、2 ネットワーク、100 設定装置、101,220 制御装置、102 メモリ、103,222,308 記憶装置、103A アプリケーション、104 ネットワークインターフェイス、105,301 表示部、106,305 操作部、107,306 メモリカードリーダ・ライタ、107A,310 メモリカード、108 内部バス、110 ライブラリ、110A 識別情報、110B,110C 画像処理プログラム群、111 処理フロー、112,135 指定領域、112A セレクトボックス、112B メニュー、113 更新欄、113A,114A 機能一覧、113B,114B バージョン情報、113C,114D 容量情報、113D,114E 選択欄、114 削除欄、114C 使用シーン、115 推奨ボタン、116 実行ボタン、118 OKボタン、119 キャンセルボタン、122 実行データ、130,130A,130B 格納場所情報、131 画像処理プログラム、140,140A,140B,180 ユーザインターフェイス、152 設定部、154 生成部、156 送信部、181 設定済項目表示領域、182 処理項目選択領域、183 カメラ画像表示領域、184 追加ボタン、185 ボタン、200 画像処理装置、201 CPU、202 FPGA、210 照明部、211 照明制御ユニット、212 照明レンズ、221,303 処理部、222A 本体プログラム、223 ネットワーク通信部、225 外部入出力部、230 撮像部、231 撮像レンズ、232 撮像素子、252 受信部、254 書換部、256 再構成部、300 表示設定器、302 表示制御部、304 通信部、308A 部品データ、500 ワーク。
ステップS3において、設定装置100は、ユーザ設定の処理フロー111と、格納場所情報130と、処理フロー111を実現するための各画像処理プログラムとを実行データ122として画像処理装置200に送信する。典型的には、当該画像処理プログラムは、画像処理装置200のFPGA202の回路構成を再構成するための再構成データである。画像処理装置200は、設定装置100から受信した各画像処理プログラムを格納場所情報130に規定されている格納場所に書き込む。また、画像処理装置200は、ユーザ設定の処理フロー111と格納場所情報130とを記憶装置222に書き込む。
ステップS6において、画像処理装置200のCPU201は、記憶装置222に格納されている処理フロー111を参照し、2番目に実行する画像処理を特定する。図3の例では、画像処理「収縮」が特定される。画像処理装置200のCPU201は、記憶装置222に格納されている格納場所情報130を参照して、画像処理「収縮」を実現するための画像処理プログラムの格納場所を特定し、当該格納場所から当該画像処理プログラムを取得する。画像処理「収縮」の実行主体としてはFPGA202が関連付けられているので、CPU201は、取得した画像処理プログラムに従ってFPGA202の回路構成を再構成する。これにより、FPGA202の各回路素子が結線し直される。その後、FPGA202は、再構成された回路構成に従って画像処理「収縮」を実行する。
ユーザは、ユーザインターフェイス180の処理項目選択領域182において、目的の像処理に必要な処理項目を選択する((1)処理項目を選択)とともに、設定済項目表示領域181において選択した処理項目を追加すべき位置(順序)を選択する((2)追加位置を選択)。そして、ユーザが処理項目挿入/追加ボタン184を選択する((3)挿入/追加ボタンを押す)と、処理項目が追加される((4)処理項目が追加される)。処理項目追加後の処理設定の内容は、設定済項目表示領域181に反映される。
設定部152は、ライブラリ110に含まれる画像処理プログラムを選択可能な画像処理項目として処理項目選択領域182に表示する。図7を参照して、ライブラリ110について説明する。図7は、ライブラリ110のデータ構造の一例を示す図である。
ユーザは、選択欄113Dにおけるチェックボックスを選択することで、追加対象または更新対象の画像処理を指定することができる。同様に、ユーザは、選択欄114Eにおけるチェックボックスを選択することで、削除対象の画像処理を指定することができる。ユーザが推奨ボタン115を押下すると、追加、更新、および削除が推奨される画像処理が自動で決定される。追加、更新、および削除が推奨される画像処理についてはチェックボックスが選択された状態になり、それ以外の画像処理についてはチェックボックスが選択されていない状態となる。
ステップS60において、画像処理装置200は、処理フロー111と格納場所情報130とを記憶装置222から読み込む。画像処理装置200は、上述の書換部254(図5参照)として、処理フロー111に規定される実行順序に従って格納場所情報130に規定される格納場所から画像処理プログラムを順次読み込む。
1:設定装置100)
設定装置100は、典型的には、汎用のコンピュータで実現されるが、スマートフォン、タブレット端末、その他の通信機能を備える情報処理装置で実現されてもよい。設定装置100は、制御装置101と、メモリ102と、HDD(Hard Disk Drive)などの記憶装置103と、ネットワークインターフェイス(I/F)104と、表示部105と、操作部106と、メモリカードリーダ・ライタ107とを含む。これらの各部は、内部バス108を介して、互いに通信可能に接続されている。
2:画像処理装置200)
次に、図14を参照して、画像処理装置200の装置構成について説明する。画像処理装置200は、照明部210と、制御装置220と、撮像部230とを含む。
本体プログラム222Aは、画像処理装置200の基本的な動作を実現するための基本プログラムであり、OSおよび基本的なアプリケーションを含み得る。典型的には、画像処理装置200における記憶装置222の容量は、設定装置100における記憶装置103の容量よりも小さい。そのため、画像処理プログラム131は、画像処理装置200で実行可能な画像処理機能に応じた数だけインストールされる。すなわち、画像処理プログラム131は、設定装置100の記憶装置103に格納されるライブラリ110の少なくとも部分集合である。
3:表示設定器300)
引き続き図14を参照して、表示設定器300は、表示部301と、表示制御部302と、処理部303と、通信部304と、操作部305と、メモリカードリーダ・ライタ306と、記憶装置308とを含む。

Claims (9)

  1. 画像処理システムであって、
    画像処理装置と、
    前記画像処理装置と通信可能に構成されている情報処理装置とを備え、
    前記画像処理装置は、
    第1記憶部と、
    内部の回路構成を再構成可能に構成されているFPGA(Field Programmable Gate Array)とを含み、
    前記情報処理装置は、
    前記FPGAによって実行され得る複数の画像処理プログラムを含むライブラリを格納するための第2記憶部と、
    前記ライブラリから1つ以上の画像処理プログラムを選択する選択操作と、当該選択操作による選択対象の画像処理プログラムに対して実行順序を指定する指定操作とを受け付け可能に構成されているユーザインターフェイスを提供するための設定部と、
    前記選択対象の画像処理プログラムの各々について前記第1記憶部における格納場所を規定した格納場所情報を生成するための生成部と、
    前記選択対象の画像処理プログラムと、当該画像処理プログラムの実行順序を規定した処理フローと、前記格納場所情報とを前記画像処理装置に送信するための送信部とを含み、
    前記画像処理装置は、さらに、
    前記情報処理装置から受信した画像処理プログラムの各々を前記格納場所情報に規定される前記第1記憶部の格納場所に書き込むための書換部と、
    前記処理フローの実行指示を受け付けたことに基づいて、当該処理フローに規定される実行順序に従って前記格納場所情報に規定される前記第1記憶部の格納場所から画像処理プログラムを順次読み出し、当該画像処理プログラムに従って前記FPGAの回路構成を再構成するための再構成部とを含む、画像処理システム。
  2. 前記画像処理装置における前記第1記憶部の容量は、前記情報処理装置における前記第2記憶部の容量よりも小さい、請求項1に記載の画像処理システム。
  3. 前記格納場所情報は、前記選択対象の画像処理プログラムの各々における第1記憶部への格納先を示す先頭アドレスと、前記選択対象の画像処理プログラムの各々におけるデータサイズとを前記格納場所として規定する、請求項1または2に記載の画像処理システム。
  4. 前記ユーザインターフェイスは、前記選択対象の画像処理プログラムに新たな画像処理プログラムを追加するための追加操作を受け付け可能に構成されており、
    前記生成部は、前記ユーザインターフェイスが前記追加操作を受け付けたことに基づいて、前記新たな画像処理プログラムの前記第1記憶部における格納場所を前記格納場所情報に追加する、請求項1〜3のいずれか1項に記載の画像処理システム。
  5. 前記ユーザインターフェイスは、前記選択対象の画像処理プログラムから特定の画像処理プログラムを削除するための削除操作を受け付け可能に構成されており、
    前記生成部は、前記ユーザインターフェイスが前記削除操作を受け付けたことに基づいて、前記格納場所情報に規定されている格納場所の内、前記削除操作によって指定された画像処理プログラムの格納場所を削除する、請求項1〜4のいずれか1項に記載の画像処理システム。
  6. 画像処理装置に備えられるFPGAにおける回路の再構成方法であって、
    前記FPGAによって実行され得る複数の画像処理プログラムを含むライブラリを準備するステップと、
    前記ライブラリから1つ以上の画像処理プログラムを選択する選択操作と、当該選択操作による選択対象の画像処理プログラムに対して実行順序を指定する指定操作とを受け付け可能に構成されているユーザインターフェイスを提供するステップと、
    前記選択対象の画像処理プログラムの各々について前記画像処理装置の記憶部における格納場所を規定した格納場所情報を生成するステップと、
    前記選択対象の画像処理プログラムと、当該画像処理プログラムの実行順序を規定した処理フローと、前記格納場所情報とを前記画像処理装置に送信するステップと、
    前記画像処理装置において、画像処理プログラムの各々を前記格納場所情報に規定される前記記憶部の格納場所に書き込むステップと、
    前記画像処理装置において、前記処理フローに規定される実行順序に従って前記格納場所情報に規定される前記記憶部の格納場所から画像処理プログラムを順次読み出し、当該画像処理プログラムに従って前記FPGAの回路構成を再構成するステップとを備える、再構成方法。
  7. 第1記憶部とFPGAとを備える画像処理装置と通信可能に構成されている情報処理装置であって、
    前記FPGAによって実行され得る複数の画像処理プログラムを含むライブラリを格納するための第2記憶部と、
    前記ライブラリから1つ以上の画像処理プログラムを選択する選択操作と、当該選択操作による選択対象の画像処理プログラムに対して実行順序を指定する指定操作とを受け付け可能に構成されているユーザインターフェイスを提供するための設定部と、
    前記選択対象の画像処理プログラムの各々について前記第1記憶部における格納場所を規定している格納場所情報を生成するための生成部と、
    前記選択対象の画像処理プログラムと、当該画像処理プログラムの実行順序を規定した処理フローと、前記格納場所情報とを前記画像処理装置に送信するための送信部とを含む、情報処理装置。
  8. 第1記憶部とFPGAとを備える画像処理装置と通信可能に構成されている情報処理装置における情報処理方法であって、
    前記FPGAによって実行され得る複数の画像処理プログラムを含むライブラリを準備するステップと、
    前記ライブラリから1つ以上の画像処理プログラムを選択する選択操作と、当該選択操作による選択対象の画像処理プログラムに対して実行順序を指定する指定操作とを受け付け可能に構成されているユーザインターフェイスを提供するステップと、
    前記選択対象の画像処理プログラムの各々について前記第1記憶部における格納場所を規定している格納場所情報を生成するステップと、
    前記選択対象の画像処理プログラムと、当該画像処理プログラムの実行順序を規定した処理フローと、前記格納場所情報とを前記画像処理装置に送信するステップとを備える、情報処理方法。
  9. 第1記憶部とFPGAとを備える画像処理装置と通信可能に構成されている情報処理装置によって実行される情報処理プログラムであって、
    前記情報処理プログラムは、前記情報処理装置に、
    前記FPGAによって実行され得る複数の画像処理プログラムを含むライブラリを準備するステップと、
    前記ライブラリから1つ以上の画像処理プログラムを選択する選択操作と、当該選択操作による選択対象の画像処理プログラムに対して実行順序を指定する指定操作とを受け付け可能に構成されているユーザインターフェイスを提供するステップと、
    前記選択対象の画像処理プログラムの各々について前記第1記憶部における格納場所を規定している格納場所情報を生成するステップと、
    前記選択対象の画像処理プログラムと、当該画像処理プログラムの実行順序を規定した処理フローと、前記格納場所情報とを前記画像処理装置に送信するステップとを実行させる、情報処理プログラム。
JP2017045976A 2017-03-10 2017-03-10 画像処理システム、情報処理装置、情報処理方法、および情報処理プログラム Active JP7067869B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2017045976A JP7067869B2 (ja) 2017-03-10 2017-03-10 画像処理システム、情報処理装置、情報処理方法、および情報処理プログラム
US15/844,636 US10440264B2 (en) 2017-03-10 2017-12-18 Image processing system, method of reconfiguring field programmable gate array, information processing device, information processing method, and non-transitory computer-readable medium
DE102017130288.3A DE102017130288A1 (de) 2017-03-10 2017-12-20 Bildverarbeitungssystem, verfahren zur rekonfigurierung einer field programmable gate array, informationsverarbeitungsvorrichtung, informationsverarbeitungsverfahren und informationsverarbeitungsprogramm, nicht-transitorisches computerlesbares medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017045976A JP7067869B2 (ja) 2017-03-10 2017-03-10 画像処理システム、情報処理装置、情報処理方法、および情報処理プログラム

Publications (2)

Publication Number Publication Date
JP2018151737A true JP2018151737A (ja) 2018-09-27
JP7067869B2 JP7067869B2 (ja) 2022-05-16

Family

ID=63259145

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017045976A Active JP7067869B2 (ja) 2017-03-10 2017-03-10 画像処理システム、情報処理装置、情報処理方法、および情報処理プログラム

Country Status (3)

Country Link
US (1) US10440264B2 (ja)
JP (1) JP7067869B2 (ja)
DE (1) DE102017130288A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7325281B2 (ja) * 2019-09-20 2023-08-14 キヤノン株式会社 撮像装置、制御方法及びプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000133716A (ja) * 1998-10-23 2000-05-12 Fuji Xerox Co Ltd 情報処理システム
JP2014203309A (ja) * 2013-04-05 2014-10-27 オムロン株式会社 画像処理装置、制御方法およびプログラム
JP2016143920A (ja) * 2015-01-29 2016-08-08 キヤノン株式会社 情報処理装置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9697579B2 (en) * 2013-06-07 2017-07-04 Apple Inc. Multi-processor graphics rendering
US10223192B2 (en) * 2016-08-31 2019-03-05 International Business Machines Corporation Automated data storage library snapshot for host detected errors
US10289990B2 (en) * 2016-10-17 2019-05-14 Conduent Business Services, Llc Store shelf imaging system and method
US10210603B2 (en) * 2016-10-17 2019-02-19 Conduent Business Services Llc Store shelf imaging system and method
US10540241B2 (en) * 2016-10-19 2020-01-21 International Business Machines Corporation Storing log snapshots in an automated data storage library
US10585758B2 (en) * 2016-10-19 2020-03-10 International Business Machines Corporation Selecting log snapshots for export in an automated data storage library
US10558701B2 (en) * 2017-02-08 2020-02-11 International Business Machines Corporation Method and system to recommend images in a social application

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000133716A (ja) * 1998-10-23 2000-05-12 Fuji Xerox Co Ltd 情報処理システム
JP2014203309A (ja) * 2013-04-05 2014-10-27 オムロン株式会社 画像処理装置、制御方法およびプログラム
JP2016143920A (ja) * 2015-01-29 2016-08-08 キヤノン株式会社 情報処理装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
尾崎 亮、外2名: ""PC−FPGA複合クラスタにおける部分再構成とその応用"", 情報処理学会研究報告 システムLSI設計技術(SLDM), JPN6021003869, 15 February 2012 (2012-02-15), JP, pages 1 - 6, ISSN: 0004439767 *

Also Published As

Publication number Publication date
JP7067869B2 (ja) 2022-05-16
US10440264B2 (en) 2019-10-08
DE102017130288A1 (de) 2018-09-13
US20180262679A1 (en) 2018-09-13

Similar Documents

Publication Publication Date Title
CN107766045B (zh) 为机器视觉系统提供可视化程序的装置、系统和方法
US10261716B2 (en) Programmable display, update processing apparatus, updating method, information processing method, and program stored on computer-readable recording medium
EP2902942B1 (en) Image processing device, managing system, and managing method
JP2008021111A (ja) 業務システム構成変更方法、管理コンピュータ、および、業務システム構成変更方法のプログラム
CN105765533A (zh) 用于固件虚拟化的方法和装置
CN111078319A (zh) 配置数据管理方法、装置、存储介质和计算机可读介质
JP2017224292A (ja) 情報処理システム、操作デバイス、情報処理方法及び情報処理プログラム
JP7067869B2 (ja) 画像処理システム、情報処理装置、情報処理方法、および情報処理プログラム
US20150033204A1 (en) System-construction-procedure generating device, system-construction-procedure generating method, and program thereof
US10621455B2 (en) Image processing system, information processing device, information processing method, and information processing program
JP6097231B2 (ja) プログラム生成装置および方法
JP2018124605A (ja) 画像処理システム、情報処理装置、情報処理方法、および、情報処理プログラム
US20220279118A1 (en) Image capturing apparatus, method for controlling image capturing apparatus, information processing apparatus
JP5987470B2 (ja) 画像処理システム、画像処理装置および情報処理装置
JP2020003854A (ja) 加工装置
US20140092088A1 (en) Providing a three-dimensional view that includes a plurality of systems engineering models
JP2018005501A (ja) 画像処理装置、画像処理方法、および画像処理プログラム
JP4977681B2 (ja) データパターン/テストデータ生成・蓄積方法及びシステム
JP6576608B1 (ja) 作画支援装置、表示装置、作画支援方法およびコンピュータプログラム
JP6819096B2 (ja) 画像処理装置、画像処理方法、および画像処理プログラム
JP5334124B2 (ja) 情報処理装置、その制御方法、及び、プログラム
US20220413810A1 (en) Program executing device, program executing method, and non-transitory computer-readable storage medium
JP7571627B2 (ja) 画像処理装置、編集方法およびプログラム
JP7207509B2 (ja) 画像処理システム、情報処理装置、情報処理方法、および、情報処理プログラム
JPWO2019082429A1 (ja) 製造作業支援システム、製造作業支援方法およびプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180404

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200109

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210127

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210209

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210401

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210421

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20210616

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20220125

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20220301

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20220329

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20220329

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220428

R150 Certificate of patent or registration of utility model

Ref document number: 7067869

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150