JP5304451B2 - Image recording apparatus, image generating apparatus, image processing system, and program - Google Patents
Image recording apparatus, image generating apparatus, image processing system, and program Download PDFInfo
- Publication number
- JP5304451B2 JP5304451B2 JP2009134011A JP2009134011A JP5304451B2 JP 5304451 B2 JP5304451 B2 JP 5304451B2 JP 2009134011 A JP2009134011 A JP 2009134011A JP 2009134011 A JP2009134011 A JP 2009134011A JP 5304451 B2 JP5304451 B2 JP 5304451B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- machine
- assembled
- state
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]
Description
本発明は、画像記録装置、画像生成装置、画像処理システム及びプログラムに関する。 The present invention relates to an image recording apparatus, an image generation apparatus, an image processing system, and a program.
コンピュータグラフィックスでは、ポリゴン等により形状が定められた物体の表面に、当該物体の表面を表す画像をテクスチャとしてマッピングさせることが行われている。例えば、下記の特許文献1では、物体をカメラにより撮像した撮像画像を、3次元モデルを構成する各ポリゴンにマッピングさせる技術が記載されている。また、下記の特許文献2では、カメラで撮像した画像を3次元モデルに描画して、カメラにより撮像された画像と、3次元モデルに基づくグラフィック表示とを一致させる技術が記載されている。 In computer graphics, an image representing the surface of the object is mapped as a texture on the surface of the object whose shape is defined by a polygon or the like. For example, the following Patent Document 1 describes a technique for mapping a captured image obtained by capturing an object with a camera to each polygon constituting a three-dimensional model. Japanese Patent Application Laid-Open No. 2004-228561 describes a technique for rendering an image captured by a camera on a three-dimensional model and matching an image captured by the camera with a graphic display based on the three-dimensional model.
本発明の目的の一つは、複数の部品を組み付けて構成する機械の組み付け状態の変化に伴い、各組み付け状態に対応した撮像画像を記録することができる画像記録装置、画像生成装置、画像処理システム及びプログラムを提供することにある。 One of the objects of the present invention is to provide an image recording apparatus, an image generation apparatus, and an image processing capable of recording a captured image corresponding to each assembly state in accordance with a change in the assembly state of a machine configured by assembling a plurality of components. It is to provide a system and a program.
上記目的を達成するために、請求項1に記載の画像記録装置の発明は、機械を構成する複数の部品の少なくとも一部を組み付けた組み付け状態ごとに、当該組み付け状態を撮像する撮像条件を関連づけて格納した撮像条件情報を参照する手段と、前記機械を生産する工程の1又は複数の各時点において、当該機械の組み付け状態を識別する識別手段と、前記識別手段により識別した組み付け状態に関連づけて前記撮像条件情報に格納された撮像条件に基づいて当該組み付け状態の機械を撮像した撮像画像を記録する記録手段と、を含むことを特徴とする。 In order to achieve the above object, the invention of the image recording apparatus according to claim 1 associates an imaging condition for capturing an image of the assembled state for each assembled state in which at least a part of a plurality of parts constituting the machine is assembled. Means for referring to the stored imaging condition information, identification means for identifying the assembly state of the machine at one or a plurality of points in the process of producing the machine, and association with the assembly state identified by the identification means Recording means for recording a captured image obtained by capturing the assembled machine based on the imaging condition stored in the imaging condition information.
また、請求項2に記載の発明は、請求項1に記載の画像記録装置において、前記撮像条件情報は、前記機械の1又は複数の動作ごとに当該動作を撮像する撮像条件を関連づけて格納し、前記記録手段は、前記機械が動作を行う際に、当該動作に関連づけて前記撮像条件情報に格納された撮像条件に基づいて当該動作を撮像した動画像を記録することを特徴とする。 According to a second aspect of the present invention, in the image recording apparatus according to the first aspect, the imaging condition information is stored in association with an imaging condition for imaging the operation for each of one or more operations of the machine. When the machine performs an operation, the recording unit records a moving image obtained by imaging the operation based on an imaging condition stored in the imaging condition information in association with the operation.
また、請求項3に記載の発明は、請求項1又は2に記載の画像記録装置において、前記機械を生産する工程の各時点において、前記機械に組み付けられる部品を検出する手段をさらに含み、前記識別手段は、前記検出した部品に基づいて前記機械の組み付け状態を識別することを特徴とする。
Further, the invention according to
また、請求項4に記載の発明は、請求項1乃至3のいずれかに記載の画像記録装置において、前記記録手段は、前記識別手段により識別した組み付け状態の機械を少なくとも三方向から撮像した撮像画像を記録することを特徴とする。 According to a fourth aspect of the present invention, in the image recording apparatus according to any one of the first to third aspects, the recording unit picks up an image of the assembled machine identified by the identifying unit from at least three directions. An image is recorded.
また、請求項5に記載の画像生成装置の発明は、機械を構成する複数の部品の少なくとも一部を組み付けた組み付け状態ごとに関連づけた撮像条件に従って各組み付け状態の機械を撮像した撮像画像を記録した記録情報を参照する手段と、前記機械の所与の組み付け状態に関連づけて前記記録情報に記録された撮像画像を取得する取得手段と、前記所与の組み付け状態における前記機械の形状を表す2次元又は3次元模型の表面に前記取得手段により取得した撮像画像を描画した画像を生成する手段と、を含むことを特徴とする。 Further, the invention of the image generation apparatus according to claim 5 records a captured image obtained by imaging the machine in each assembled state in accordance with an imaging condition associated with each assembled state in which at least a part of a plurality of parts constituting the machine is assembled. Means for referring to the recorded information, acquisition means for acquiring a captured image recorded in the recording information in association with a given assembly state of the machine, and 2 representing the shape of the machine in the given assembly state And means for generating an image in which the captured image obtained by the obtaining means is drawn on the surface of a three-dimensional or three-dimensional model.
また、請求項6に記載の発明は、請求項5に記載の画像生成装置において、前記画像生成手段は、前記記録情報に前記所与の組み付け状態に関連づけられた撮像画像が記録されていない場合に、前記記録情報に記録された撮像画像に基づいて前記所与の組み付け状態に対応する画像を生成することを特徴とする。 According to a sixth aspect of the present invention, there is provided the image generating apparatus according to the fifth aspect, wherein the image generating means does not record a captured image associated with the given assembly state in the recording information. In addition, an image corresponding to the given assembly state is generated based on the captured image recorded in the recording information.
また、請求項7に記載の画像処理システムの発明は、機械を構成する複数の部品の少なくとも一部を組み付けた組み付け状態ごとに、当該組み付け状態を撮像する撮像条件を関連づけて格納した撮像条件情報を参照する手段と、前記機械の組み付け工程の1又は複数の各時点において、当該機械の組み付け状態を識別する識別手段と、前記識別手段により識別した組み付け状態に関連づけて前記撮像条件情報に格納された撮像条件に基づいて当該組み付け状態の機械を撮像した撮像画像を記録する記録手段と、前記機械の所与の組み付け状態に関連づけて前記記録手段により記録された撮像画像を取得する取得手段と、前記所与の組み付け状態における前記機械の形状を表す2次元又は3次元模型の表面に前記取得手段により取得した撮像画像を描画した画像を生成する手段と、を含むことを特徴とする。
The invention of the image processing system according to
また、請求項8に記載のプログラムの発明は、機械を構成する複数の部品の少なくとも一部を組み付けた組み付け状態ごとに、当該組み付け状態を撮像する撮像条件を関連づけて格納した撮像条件情報を参照する手段と、前記機械の組み付け工程の1又は複数の各時点において、当該機械の組み付け状態を識別する識別手段と、前記識別手段により識別した組み付け状態に関連づけて前記撮像条件情報に格納された撮像条件に基づいて当該組み付け状態の機械を撮像した撮像画像を記録する記録手段としてコンピュータを機能させるためのプログラムである。 The invention of the program according to claim 8 refers to imaging condition information stored in association with imaging conditions for imaging the assembly state for each assembly state in which at least some of a plurality of parts constituting the machine are assembled. Means for identifying the assembly state of the machine at one or a plurality of points in the assembly step of the machine, and imaging stored in the imaging condition information in association with the assembly state identified by the identification unit It is a program for causing a computer to function as recording means for recording a captured image obtained by capturing the machine in the assembled state based on conditions.
また、請求項9に記載のプログラムの発明は、機械を構成する複数の部品の少なくとも一部を組み付けた組み付け状態ごとに関連づけた撮像条件に従って各組み付け状態の機械を撮像した撮像画像を記録した記録情報を参照する手段と、前記機械の所与の組み付け状態に関連づけて前記記録情報に記録された撮像画像を取得する取得手段と、前記所与の組み付け状態における前記機械の形状を表す2次元又は3次元模型の表面に前記取得手段により取得した撮像画像を描画した画像を生成する手段としてコンピュータを機能させるためのプログラムである。 According to a ninth aspect of the present invention, there is provided a program for recording a captured image obtained by capturing an image of a machine in each assembled state in accordance with an imaging condition associated with each assembled state in which at least a part of a plurality of parts constituting the machine is assembled. Means for referring to information; acquisition means for acquiring a captured image recorded in the recorded information in association with a given assembly state of the machine; two-dimensional representing the shape of the machine in the given assembly state; It is a program for causing a computer to function as a means for generating an image in which a captured image acquired by the acquisition means is drawn on the surface of a three-dimensional model.
請求項1及び8に記載の発明によれば、複数の部品を組み付けて構成する機械の組み付け状態の変化に伴い、各組み付け状態に対応した撮像画像を記録できる。 According to invention of Claim 1 and 8, according to the change of the assembly | attachment state of the machine which assembles | assembles and comprises a some component, the captured image corresponding to each assembly state can be recorded.
請求項2に記載の発明によれば、機械の生産工程に並行して、機械の実際の動作を撮像した撮像画像を記録できる。 According to the second aspect of the present invention, it is possible to record a captured image obtained by capturing an actual operation of the machine in parallel with the production process of the machine.
請求項3に記載の発明によれば、機械的に認識された機械の組み付け状態に対応した撮像画像を記録できる。 According to the third aspect of the present invention, it is possible to record a captured image corresponding to a mechanically recognized assembly state of the machine.
請求項4に記載の発明によれば、3次元物体の各面に描画する撮像画像を記録できる。
According to the invention described in
請求項5及び9に記載の発明によれば、機械の所与の組み付け状態に対応した2次元又は3次元模型の表面に、当該組み付け状態における実物の機械を撮像した撮像画像を描画できる。 According to the fifth and ninth aspects of the present invention, it is possible to draw a captured image obtained by capturing an actual machine in the assembled state on the surface of the two-dimensional or three-dimensional model corresponding to the given assembled state of the machine.
請求項6に記載の発明によれば、記録していない組み付け状態に対応した2次元又は3次元模型の表面に描画する画像を生成できる。 According to the sixth aspect of the present invention, it is possible to generate an image to be drawn on the surface of a two-dimensional or three-dimensional model corresponding to an assembly state that is not recorded.
請求項7に記載の発明によれば、複数の部品を組み付けて構成する機械の組み付け状態の変化に伴い、各組み付け状態に対応した撮像画像を記録すると共に、機械の所与の組み付け状態に対応した2次元又は3次元模型の表面に、当該組み付け状態について記録した実物の機械を撮像した撮像画像を描画できる。 According to the seventh aspect of the present invention, along with a change in the assembly state of a machine configured by assembling a plurality of parts, a captured image corresponding to each assembly state is recorded, and corresponding to a given assembly state of the machine On the surface of the two-dimensional or three-dimensional model, it is possible to draw a picked-up image obtained by picking up an image of a real machine recorded about the assembled state.
以下、本発明を実施するための好適な実施の形態(以下、実施形態という)を、図面に従って説明する。 DESCRIPTION OF EXEMPLARY EMBODIMENTS Hereinafter, preferred embodiments (hereinafter referred to as embodiments) for carrying out the invention will be described with reference to the drawings.
図1には、本実施形態に係る画像処理システム1の構成図を示す。図1に示されるように、画像処理システム1は、生産ラインの1又は複数の作業領域に設置された撮像装置3及びRFID(radio frequency identification)リーダー5、データベース7、画像記録装置10、そして画像処理装置20を含む。上記の生産ラインにおいては、複数の部品を組み付けて構成される、複写機や画像形成装置等の機械を生産する工程が行われる。そして、本実施形態では、撮像装置3により生産ラインにおける多様な組み付け状態の機械を撮像した画像情報(静止画像又は/及び動画像を含む)を画像記録装置10がデータベース7に記録する画像記録処理、及び、画像処理装置20に接続するクライアント装置30の各々が共有する仮想空間に配置された上記機械に対応した3次元オブジェクト(以下、機械オブジェクト)に対して、データベース7に記録された画像情報に基づいて行うテクスチャマッピングや動画像再生等の画像再生処理を実行する。以下、画像処理システム1に含まれる各装置の詳細について説明する。
FIG. 1 shows a configuration diagram of an image processing system 1 according to the present embodiment. As shown in FIG. 1, an image processing system 1 includes an
図2A及び図2Bには、生産ライン2に設けられた撮像装置3とRFIDリーダー5の一構成例を示した。図2Aに示されるように、生産ライン2には1又は複数の作業領域(スポット)が設けられており、各作業領域ではそれぞれ実行する作業が定められており、例えば作業領域A、B,Cの順序で生産対象の機械を移動させていくことで当該機械に部品が組み付けられる。本実施形態では、各作業領域に撮像装置3とRFIDリーダー5が備え付けられており、各作業領域において作業する機械の組み付け状態を撮像した画像を順次記録していくものである。
2A and 2B show one configuration example of the
図2Bには、生産ライン2の各作業領域における撮像装置3とRFIDリーダー5の構成例の詳細図を示した。図2Bに示されるように、作業領域には、生産対象の機械を載せる回転台4と、回転台4上の機械を三方から撮像する3台の撮像装置3と、回転台4上のRFIDタグを読み取る位置に設けられたRFIDリーダー5とが設置されている。なお、本実施形態では、組み付け対象の部品にはRFIDタグを貼付しておくこととし、貼付したRFIDタグをRFIDリーダー5により読み取ることにより、機械に組み付けられている部品や新規に追加された部品の情報を取得することとする。撮像装置3、RFIDリーダー5、回転台4はそれぞれ後述する画像記録装置10と無線又は有線で接続され、撮像装置3は画像記録装置10により撮像方向、撮像倍率等が制御されると共に、回転台4は画像記録装置10により回転角度等が制御されるようになっている。
FIG. 2B shows a detailed view of a configuration example of the
データベース7は、画像処理システム1における処理に用いられるデータを格納すると共に、画像記録装置10により記録された記録データを格納するものである。本実施形態では、データベース7をリレーショナルデータベースとして構成しているが、XMLデータベース等の他の形態を用いてもよい。また、本実施形態に係るデータベース7は、工程管理情報格納部7A、撮像条件格納部7B、撮像画像格納部7C、そして組み付け履歴格納部7Dを含み、画像記録装置10による処理に関するデータを格納している。
The
工程管理情報格納部7Aは、生産ライン2で行われる工程ごとの作業と、当該作業に係る機械を撮像する撮像条件とを定めた工程管理データを格納するものである。
The process management information storage unit 7A stores process management data that defines work for each process performed on the
図3には、本実施形態に係る工程管理データの一例を示す。図3に示されるように、工程管理データは、工程を識別する工程IDに関連づけて、スポットID、機械ID、部品リスト、撮像条件IDを格納したテーブルとして構成される。スポットIDは、生産ライン2において本工程が行われる場所を識別する情報であり、機械IDは、本工程の対象となる機械を識別する情報である。また、部品リストは、本工程において取り付け等の作業の対象となる部品の一覧情報であり、撮像条件IDは、本工程により部品が組み付けられた状態の機械を撮像する際の撮像条件を識別する情報である。なお、撮像条件の詳細は後述する撮像条件格納部7Bに格納される。
FIG. 3 shows an example of process management data according to the present embodiment. As shown in FIG. 3, the process management data is configured as a table storing a spot ID, a machine ID, a parts list, and an imaging condition ID in association with a process ID for identifying a process. The spot ID is information for identifying a place where the main process is performed in the
図4には、撮像条件格納部7Bに格納される撮像条件データの一例を示す。図4に示されるように、撮像条件データは、撮像条件を識別する撮像条件IDに関連づけて、撮像装置3による静止画像撮影時の設定(静止画像撮影設定)、動画像撮影時の設定(動画像撮影設定)、回転台4の回転角度を格納したテーブルとして構成される。静止画像撮影設定及び動画像撮影設定は、複数の撮像装置3のうち撮像動作させる撮像装置3と、撮像動作させる撮像装置3に対して、ズーム倍率、関心領域(ROI:region of interest)等のパラメータを設定する情報である。関心領域は撮像画像において対象画像を含む領域を表すものであり、例えば関心領域を矩形領域とし、撮像画像の左上に原点、右方向にX軸、下方向にY軸をとる場合には、ROI(X,Y,W,H)は、座標(X,Y)から横(右)にW、縦(下)にHの矩形領域を関心空間に設定することを表す。また、動画像撮影は、動画像撮影設定に指定された動作(例えば“コピー開始”)が実行されることを契機として行われる。
FIG. 4 shows an example of imaging condition data stored in the imaging
組み付け履歴格納部7Dは、生産ライン2での生産工程時に行われた部品の組み付け作業の履歴を格納するものであり、組み付け履歴格納部7Dに格納されるデータの詳細については後述する。
The assembly history storage unit 7D stores a history of component assembly operations performed during the production process on the
撮像画像格納部7Cは、生産ライン2での生産工程時に、撮像条件格納部7Bに格納された撮像条件に従って撮像された画像データ(静止画像又は/及び動画像)を格納するものであり、撮像画像格納部7Cに格納されるデータの詳細については後述する。
The captured
図5には、本実施形態に係る画像記録装置10の機能ブロック図を示す。図5に示されるように、画像記録装置10は、部品情報取得部40、撮像条件取得部42、撮像画像取得部44、及び記録部46を含む。上記の各部の機能は、CPU等の制御手段、メモリ等の記憶手段、外部デバイスとデータを送受信する入出力手段等を備えたコンピュータが、コンピュータ読み取り可能な情報記憶媒体に格納されたプログラムを読み込み実行することで実現されるものとしてよい。なお、プログラムは情報記憶媒体によってコンピュータたる画像記録装置10に供給されることとしてもよいし、インターネット等のデータ通信手段を介して供給されることとしてもよい。
FIG. 5 shows a functional block diagram of the
部品情報取得部40は、生産ライン2に設置されたRFIDリーダー5により読み取られた部品情報を取得するものである。本実施形態では、生産ライン2に設置された各RFIDリーダー5が部品情報を読み取った場合に、当該読み取った部品情報を有線又は無線通信により画像記録装置10に転送することとする。
The component
撮像条件取得部42は、部品情報取得部40により取得された部品情報に基づいて、当該部品情報により識別される組み付け状態の機械を撮像する撮像条件を取得するものである。本実施形態では、部品情報取得部40により取得される部品情報の履歴を管理し、当該履歴として保持される部品情報と最新の部品情報との差分に基づいて新規に追加された部品を識別し、当該新規部品を組み付ける工程に対応して工程管理データに格納された撮像条件を取得することとする。具体的には、撮像条件取得部42は、部品情報を取得したRFIDリーダー5が設置されたスポットID、生産対象の機械ID、組み付け対象の部品リストに基づいてデータベース7に格納された工程管理データの中から対応する撮像条件IDを検索する。そして、撮像条件取得部42は、検索された撮像条件IDに関する撮像条件のデータを撮像条件格納部7Bに格納されたデータから取得する。
Based on the component information acquired by the component
撮像画像取得部44は、撮像条件取得部42により取得された撮像条件に基づいて撮像装置3が撮像した機械の撮像画像を取得するものである。本実施形態では、撮像画像取得部44は、撮像条件取得部42により取得された撮像条件に従って回転台4を回転させると共に、上記撮像条件に指定された倍率、撮像方向を撮像装置3の各々に設定して静止画像を撮像させる。静止画像の撮像は複数の撮像装置3で一斉に行ってもよいし1台ずつであってもよい。
The captured
撮像画像取得部44は、動画像の取得を以下のように、動画像の撮像対象動作(例えば「コピー開始」)の開始を検知すると共に行う。すなわち、撮像画像取得部44は、動画像の撮像対象となる動作の開始信号が入力されると、当該開始信号に基づいて撮像装置3に動画像の撮像を開始させ、上記動作の終了信号が入力されるまで動画像の撮像を継続する。例えば、機械を複写機とし、撮像対象動作をコピー操作とした場合には、コピー操作が開始されることを示す信号が画像記録装置10に入力されると、画像記録装置10は撮像装置3に当該コピー処理の撮像を開始させ、コピー処理が終了すると撮像を終了させる。
The captured
記録部46は、生産ライン2で行われた組み付け作業の履歴データと、撮像画像取得部44により取得された撮像画像データ(静止画像又は/及び動画像を含む)をデータベース7に記録するものである。本実施形態では、記録部46は組み付け作業の履歴データを組み付け履歴格納部7Dに格納し、撮像画像取得部44により取得された撮像画像データを撮像画像格納部7Cに格納することとする。
The
図6には、組み付け履歴格納部7Dに格納される組み付け履歴データの一例を示す。図6に示されるように、組み付け履歴データは、工程IDに関連づけて、生産対象の機械IDと、撮像記録を識別する撮像記録IDを格納したテーブルとして構成される。 FIG. 6 shows an example of assembly history data stored in the assembly history storage unit 7D. As shown in FIG. 6, the assembly history data is configured as a table storing a machine ID to be produced and an imaging record ID for identifying an imaging record in association with the process ID.
図7には、撮像画像格納部7Cに格納される撮像画像データの一例を示す。撮像画像データは、撮像記録IDに関連づけて、静止画像データ、動画像データのそれぞれのファイル名が格納されたテーブルとして構成される。なお、ファイルの実体データは、撮像画像格納部7Cに格納されることとしてよい。
FIG. 7 shows an example of captured image data stored in the captured
次に、画像記録装置10により記録された画像データの利用方法の一例として、記録された静止画像データを仮想空間内に設けられた3次元の機械オブジェクトにテクスチャ画像としてマッピングし、また、記録された動画像データを機械オブジェクトが行う動作に応じて再生する例について説明する。本実施形態では、データベース7は、仮想空間データ格納部7Eとモデリングデータ格納部7Fを含み、上記の仮想空間を構築することとしている。
Next, as an example of a method of using the image data recorded by the
仮想空間データ格納部7Eは、仮想空間上に配置されたオブジェクト(機械オブジェクトや生産ラインオブジェクトを含む)や、クライアント装置30からの入力に応じて位置や行動が制御されるアバター(仮想空間内の人に対応するオブジェクト)の座標位置、属性情報、動作情報等が格納されるものである。
The virtual space
モデリングデータ格納部7Fは、仮想空間上に配置されたオブジェクトの3次元形状を規定するモデリングデータを格納するものである。モデリングデータは、物体形状を複数のポリゴンにより構成したデータとしてよく、オブジェクトが複数の部品から構成される場合には、部品毎にモデリングデータを保持することとしてよい。
The modeling
図8には、上述した仮想空間のビューを生成する画像生成機能を備えた画像処理装置20の機能ブロック図を示す。図8に示されるように、画像処理装置20は、通信部50、仮想空間制御部52、記録画像取得部54、テクスチャ画像生成部56、及び表示画像生成部58を含む。上記の各部の機能は、CPU等の制御手段、メモリ等の記憶手段、外部デバイスとデータを送受信する入出力手段等を備えたコンピュータが、コンピュータ読み取り可能な情報記憶媒体に格納されたプログラムを読み込み実行することで実現されるものとしてよい。なお、プログラムは情報記憶媒体によってコンピュータたる画像処理装置20に供給されることとしてもよいし、インターネット等のデータ通信手段を介して供給されることとしてもよい。
FIG. 8 shows a functional block diagram of the
通信部50は、ネットワークインターフェイスを含み構成され、ネットワークインターフェイスを介してクライアント装置30等の情報処理装置とデータ通信を行うものである。
The
仮想空間制御部52は、仮想空間データ格納部7Eに格納されたデータに基づいて仮想空間を構築すると共に、通信部50を介して接続する各クライアント装置30からの入力に基づいて仮想空間内での各オブジェクト(機械オブジェクト、アバター等)を制御するものである。本実施形態では、仮想空間内に上述した生産ライン2と同様の環境を構築し、仮想空間の生産ライン2において上述した機械の生産を再現する例について説明する。
The virtual
記録画像取得部54は、仮想空間制御部52により制御される仮想空間に配置される機械オブジェクトの状態に基づいて、当該機械オブジェクトに関してデータベース7に記録された画像を取得するものである。具体的には、記録画像取得部54は以下の処理によりデータベース7に記録された静止画像データ、及び動画像データを取得することとしてよい。
The recorded
まず、記録画像取得部54は、仮想空間に配置された対象機械に対応する機械オブジェクトの配置位置に基づいて、当該機械オブジェクトの生産ライン2における工程を識別する。そして、記録画像取得部54は、上記識別した工程に関連づけて撮像画像格納部7Cに格納された撮像画像を取得することとする。
First, the recorded
次に、記録画像取得部54は、仮想空間に配置された機械オブジェクトに対してアバターが操作を行うことにより、当該機械オブジェクトが予め定められた動作を行うことを検知する場合に、当該検知した動作に関連づけてデータベース7に記録される動画像データを取得することとする。
Next, when the recorded
テクスチャ画像生成部56は、仮想空間に配置された機械オブジェクトに対してアバターが操作を行った結果、機械オブジェクトが実機に対して画像を記録していない状態に変化した場合に、当該状態の機械オブジェクトにマッピングするテクスチャ画像(未記録テクスチャ画像)を生成するものである。以下、テクスチャ画像生成部56による処理を具体的に説明する。
When the avatar operates the machine object arranged in the virtual space and the machine object changes to a state where no image is recorded on the actual machine, the texture image generation unit 56 A texture image (unrecorded texture image) to be mapped to an object is generated. Hereinafter, the process by the texture
図9には、未記録テクスチャ画像の生成処理を説明する図を示した。図9に示されるように、生産ライン2では、状態S0、状態S01、状態S012、状態S0123の順に組み付けが行われ、これらの各状態については記録された画像データが存在するとする。なお、状態S0は部品が何も組み付けられていない状態、状態S01は部品P1が組み付けられた状態、状態S012は状態S01に部品P2が組み付けられた状態、そして状態S0123は状態S012に部品P3が組み付けられた状態であるとする。これに対して、仮想空間では、状態S0123に対応した機械オブジェクトに対して分解操作が行われた結果、部品P1とP3が組み付けられた状態S013になったとすると、この状態S013については撮像画像が記録されていない。これに対して、テクスチャ画像生成部56は、図9に示されるように実在した工程(記録パス)のうち、状態S013に最も近い実在状態S01を始点に設定し、S01を撮像した画像に、部品P3が組み付けられた工程において撮影された写真のROIを重畳により合成して状態S013に対応するテクスチャ画像を生成することとする。同様にして、テクスチャ画像生成部56は、生産工程時に記録していない他の組み付け状態についても記録された組み付け状態について撮像された撮像画像に基づいてテクスチャ画像を生成することとしてよい。
FIG. 9 shows a diagram for explaining an unrecorded texture image generation process. As shown in FIG. 9, in the
表示画像生成部58は、仮想空間に配置された機械オブジェクトに対して、記録画像取得部54により取得された画像、又はテクスチャ画像生成部56により生成された画像をテクスチャとしてマッピングすると共に、クライアント装置30ごとの撮像位置及び撮像方向に基づく機械オブジェクトのレンダリング処理を行って仮想空間のビューとして表示する表示画像を生成するものである。テクスチャマッピングは、3次元の機械オブジェクトの3つの可視面の各頂点に、各可視面に対応した撮像方向から撮像したテクスチャ画像をマッピングさせることで行うこととしてよい。なお、撮影時に被写体と撮像装置3との位置関係を保持し、当該保持した位置関係の情報をテクスチャマッピングやレンダリング時に用いることとしてよい。表示画像生成部58により生成された表示画像は、通信部50を介して各クライアント装置30に送信され、クライアント装置30に接続された表示装置に表示される。
The display
図10Aは、機械オブジェクトの組み付け状態の変化に応じて表示画像生成部58により生成される機械オブジェクトの表示画像の一例を示したものである。図10Aに示されるように、組み付け状態が変化すると、変化した組み付け状態に対応したテクスチャ画像が機械オブジェクトにマッピングされて、組み付け状態に対応した表示画像が生成される。
FIG. 10A shows an example of a display image of a machine object generated by the display
図10Bは、仮想空間において機械オブジェクトに予め定められた動作が指示された場合に表示される動画像の一例を示したものである。図10Bに示されるように、例えば仮想空間においてアバターにより機械オブジェクトのコピー開始ボタンが押下されると、コピー開始の動作に対応した動画像がデータベース7から取得され、取得された動画像が機械オブジェクトに重ね合わせて再生されることとしてよい。なお、コピー開始ボタンが押下されたことの検知は、仮想空間制御部52がクライアント装置30からの入力に基づいて行うこととしてよい。
FIG. 10B shows an example of a moving image displayed when a predetermined motion is instructed to the machine object in the virtual space. As shown in FIG. 10B, for example, when a machine object copy start button is pressed by an avatar in a virtual space, a moving image corresponding to the copy start operation is acquired from the
次に、本実施形態に係る画像処理システム1において行われる画像記録処理及び仮想空間の画像生成処理の各々について、図11及び図12に示したフローチャートを参照しながら説明する。 Next, each of the image recording process and the virtual space image generation process performed in the image processing system 1 according to the present embodiment will be described with reference to the flowcharts shown in FIGS. 11 and 12.
図11には、画像記録処理のフローチャートを示した。図11に示されるように、画像記録装置10は、RFIDリーダー5により検出された部品情報を取得し(S101)、当該取得した部品情報の履歴に基づいて新規に追加された部品情報を抽出する(S102)。次に、画像記録装置10は、抽出された部品情報、RFIDリーダー5の設置されたスポットID、生産対象の機械IDに基づいて、上記部品情報が追加された場合の組み付け状態を撮像する撮像条件を取得する(S103)。画像記録装置10は、上記取得した撮像条件に従って、回転台4や撮像装置3を調整し(S104)、撮像指示に「静止画像」があれば(S105:Y)、撮像装置3に静止画像を一斉に撮像させ(S106)、機械を撮像した撮像画像を取得する。また、画像記録装置10は、撮像指示に「動画像」があれば(S107:Y)、機械が対象動作を行うタイミングを待機し、当該対象動作が行われる際に(S108:Y)撮像装置3に動画像を一斉に撮像し(S109)、機械の対象動作を撮像した動画像を取得する。画像記録装置10は、S106及びS109で取得した静止画像や動画像をデータベース7に記録して(S110)、記録処理を終了する。なお、上記の画像記録処理は、RFIDリーダー5から受信される部品情報が更新される毎に行うこととしてよい。
FIG. 11 shows a flowchart of the image recording process. As shown in FIG. 11, the
次に、仮想空間の画像生成処理について説明する。図12には、仮想空間の画像生成処理のフローチャートを示した。図12に示されるように、画像処理装置20は、接続するクライアント装置30から仮想空間に配置されたアバターを操作する操作情報の入力を受け付け(S201)、当該操作により仮想空間に配置された機械オブジェクトの組み付け状態が変化した場合には(S202:Y)、変化後の組み付け状態に対応したテクスチャ画像を取得し(S203)、取得したテクスチャ画像を機械オブジェクトにマッピングする(S204)。
Next, the virtual space image generation processing will be described. FIG. 12 shows a flowchart of the virtual space image generation processing. As shown in FIG. 12, the
次に、画像処理装置20は、上記受け付けた操作により機械オブジェクトが予め定められた動作のうちいずれかを実行した場合には(S205:Y)、当該動作を実機で記録した動画像を取得して(S206)、当該取得した動画像を再生する(S207)。また、上記操作により機械オブジェクトの組み付け状態が変化せず(S202:N)、また、機械オブジェクトが予め定められた動作のいずれも実行しない場合には(S205:N)、テクスチャ画像の更新や動画像の再生を行わずに処理を終了する。なお、以上の画像生成処理は、クライアント装置30から操作情報を受け付ける毎に行うこととしてよい。
Next, when the machine object executes any one of the predetermined operations by the received operation (S205: Y), the
また、本発明は上記の実施形態に限定されるものではない。例えば、実物の機械における各組み付け状態の静止画像、動画像を記録するにあたり、上記の実施形態では、機械の生産工程に伴って記録することとしているが、機械の分解工程に伴って記録しても構わない。また、上記の実施形態では、機械の組み付け状態を、RFIDリーダー5で検出した部品情報に基づいて識別することとしているが、組み付け対象の機械の重量変化に基づいて機械の組み付け状態を識別することとしてもよい。
Further, the present invention is not limited to the above embodiment. For example, in recording the still image and moving image of each assembled state in a real machine, in the above embodiment, it is recorded along with the production process of the machine. It doesn't matter. In the above embodiment, the assembly state of the machine is identified based on the component information detected by the
また、記録した画像データを利用するにあたり、上記の実施形態では仮想空間に配置された3次元の機械オブジェクトにテクスチャ画像をマッピングする例を説明したが、2次元オブジェクトに記録した画像データをマッピングさせても構わない。さらに、上記の実施形態では、仮想空間に配置されたアバターの動作に応じて機械オブジェクトを動作させる際に、当該動作を記録した実写の動画像を再生することとしたが、実空間側で機械を動作させた場合に、当該動作に連動して仮想空間側で対応する動画像を再生させる等して、実空間と仮想空間とを連動させることとしてもよい。 Further, in the above-described embodiment, the example in which the texture image is mapped to the three-dimensional machine object arranged in the virtual space when using the recorded image data has been described. However, the image data recorded in the two-dimensional object is mapped. It doesn't matter. Furthermore, in the above embodiment, when a machine object is operated in accordance with the motion of an avatar arranged in the virtual space, a live-action moving image in which the motion is recorded is reproduced. May be operated, the real space and the virtual space may be linked by, for example, reproducing the corresponding moving image on the virtual space side in conjunction with the operation.
1 画像処理システム、2 生産ライン、3 撮像装置、4 回転台、5 RFIDリーダー、7 データベース、7A 工程管理情報格納部、7B 撮像条件格納部、7C 撮像画像格納部、7D 組み付け履歴格納部、7E 仮想空間データ格納部、7F モデリングデータ格納部、10 画像記録装置、20 画像処理装置、30 クライアント装置、40 部品情報取得部、42 撮像条件取得部、44 撮像画像取得部、46 記録部、50 通信部、52 仮想空間制御部、54 記録画像取得部、56 テクスチャ画像生成部、58 表示画像生成部。
DESCRIPTION OF SYMBOLS 1
Claims (5)
前記機械を生産する工程の1又は複数の各時点において、当該機械の組み付け状態を識別する識別手段と、
前記識別手段により識別した組み付け状態に関連づけて前記撮像条件情報に格納された撮像条件に基づいて当該組み付け状態の機械を撮像した撮像画像を記録する記録手段と、
指定された所与の組み付け状態に関連づけて前記記録手段により撮像画像が記録されていない場合に、該所与の組み付け状態で組み付けられる一部の部品が組み付けられた第1の組み付け状態について前記記録手段により記録された第1の撮像画像に、該所与の組み付け状態で組み付けられる他の一部の部品を組み付けた第2の組み付け状態に関連付けられる第2の撮像画像から抽出した前記他の一部の部品の画像を重畳して、前記所与の組み付け状態に対応するテクスチャ画像を生成するテクスチャ画像生成手段と、
前記所与の組み付け状態における前記機械の形状を表す2次元又は3次元模型の表面に前記生成したテクスチャ画像をマッピングして表示画像を生成する表示画像生成手段と、
を含むことを特徴とする画像処理システム。 Means for referring to imaging condition information stored in association with imaging conditions for imaging the assembly state for each assembly state in which at least a part of a plurality of parts constituting the machine is assembled;
Identification means for identifying the assembly state of the machine at each of one or more points in the process of producing the machine;
Recording means for recording a captured image obtained by capturing the machine in the assembly state based on the imaging condition stored in the imaging condition information in association with the assembly state identified by the identification unit;
In the case where a captured image is not recorded by the recording means in association with a specified given assembling state, the recording is performed for the first assembling state in which some parts to be assembled in the given assembling state are assembled. The other one extracted from the second captured image associated with the second assembled state in which some other parts assembled in the given assembled state are assembled to the first captured image recorded by the means. Texture image generation means for generating a texture image corresponding to the given assembly state by superimposing images of parts of the part;
Display image generation means for generating a display image by mapping the generated texture image on the surface of a two-dimensional or three-dimensional model representing the shape of the machine in the given assembly state;
An image processing system comprising:
前記記録手段は、前記機械が動作を行う際に、当該動作に関連づけて前記撮像条件情報に格納された撮像条件に基づいて当該動作を撮像した動画像を記録する
ことを特徴とする請求項1に記載の画像処理システム。 The imaging condition information is stored in association with imaging conditions for imaging the operation for each of one or more operations of the machine,
The said recording means records the moving image which image | photographed the said operation | movement based on the imaging condition stored in the said imaging condition information linked | related with the said operation | movement when the said machine performs an operation | movement. The image processing system described in 1.
前記識別手段は、前記検出した部品に基づいて前記機械の組み付け状態を識別する
ことを特徴とする請求項1又は2に記載の画像処理システム。 Means for detecting parts assembled to the machine at each point in the process of producing the machine;
The image processing system according to claim 1, wherein the identification unit identifies an assembly state of the machine based on the detected component.
ことを特徴とする請求項1乃至3のいずれかに記載の画像処理システム。 The image processing system according to any one of claims 1 to 3, wherein the recording unit records a captured image obtained by capturing the assembled machine identified by the identifying unit from at least three directions.
前記機械の組み付け工程の1又は複数の各時点において、当該機械の組み付け状態を識別する識別手段と、
前記識別手段により識別した組み付け状態に関連づけて前記撮像条件情報に格納された撮像条件に基づいて当該組み付け状態の機械を撮像した撮像画像を記録する記録手段と、
指定された所与の組み付け状態に関連づけて前記記録手段により撮像画像が記録されていない場合に、該所与の組み付け状態で組み付けられる一部の部品が組み付けられた第1の組み付け状態について前記記録手段により記録された第1の撮像画像に、該所与の組み付け状態で組み付けられる他の一部の部品を組み付けた第2の組み付け状態に関連付けられる第2の撮像画像から抽出した前記他の一部の部品の画像を重畳して、前記所与の組み付け状態に対応するテクスチャ画像を生成するテクスチャ画像生成手段と、
前記所与の組み付け状態における前記機械の形状を表す2次元又は3次元模型の表面に前記生成したテクスチャ画像をマッピングして表示画像を生成する表示画像生成手段
としてコンピュータを機能させるためのプログラム。
Means for referring to imaging condition information stored in association with imaging conditions for imaging the assembly state for each assembly state in which at least a part of a plurality of parts constituting the machine is assembled;
Identifying means for identifying the assembly state of the machine at each of one or more points in the assembly process of the machine;
Recording means for recording a captured image obtained by capturing the machine in the assembly state based on the imaging condition stored in the imaging condition information in association with the assembly state identified by the identification unit ;
In the case where a captured image is not recorded by the recording means in association with a specified given assembling state, the recording is performed for the first assembling state in which some parts to be assembled in the given assembling state are assembled. The other one extracted from the second captured image associated with the second assembled state in which some other parts assembled in the given assembled state are assembled to the first captured image recorded by the means. Texture image generation means for generating a texture image corresponding to the given assembly state by superimposing images of parts of the part;
A program for causing a computer to function as display image generation means for generating a display image by mapping the generated texture image on the surface of a two-dimensional or three-dimensional model representing the shape of the machine in the given assembly state .
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009134011A JP5304451B2 (en) | 2009-06-03 | 2009-06-03 | Image recording apparatus, image generating apparatus, image processing system, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009134011A JP5304451B2 (en) | 2009-06-03 | 2009-06-03 | Image recording apparatus, image generating apparatus, image processing system, and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010282342A JP2010282342A (en) | 2010-12-16 |
JP5304451B2 true JP5304451B2 (en) | 2013-10-02 |
Family
ID=43539028
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009134011A Expired - Fee Related JP5304451B2 (en) | 2009-06-03 | 2009-06-03 | Image recording apparatus, image generating apparatus, image processing system, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5304451B2 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7445460B2 (en) | 2020-03-05 | 2024-03-07 | 株式会社Fuji | work system |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
ES2176018T3 (en) * | 1998-06-30 | 2002-11-16 | Siemens Ag | DEVICE AND PROCEDURE FOR THE CREATION OF A VIRTUAL INSTALLATION MODEL. |
JP2003150230A (en) * | 2001-11-14 | 2003-05-23 | Sharp Corp | Operation picture management system and method |
-
2009
- 2009-06-03 JP JP2009134011A patent/JP5304451B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2010282342A (en) | 2010-12-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6144826B2 (en) | Interactive and automatic 3D object scanning method for database creation | |
US9443353B2 (en) | Methods and systems for capturing and moving 3D models and true-scale metadata of real world objects | |
JP5134664B2 (en) | Annotation device | |
JP2010079453A (en) | Apparatus for generating position-and-orientation estimation model, position and orientation calculation device, image processor, and method for the same | |
JP6202981B2 (en) | Information processing program, information processing apparatus, information processing system, and information processing method | |
WO2022105415A1 (en) | Method, apparatus and system for acquiring key frame image, and three-dimensional reconstruction method | |
JP2010026818A (en) | Image processing program, image processor, and image processing method | |
JP2014071850A (en) | Image processing apparatus, terminal device, image processing method, and program | |
JP7353782B2 (en) | Information processing device, information processing method, and program | |
JP2009169768A (en) | Information processor and program | |
JPWO2019244944A1 (en) | 3D reconstruction method and 3D reconstruction device | |
JP2019176378A (en) | Control device, monitoring system, and monitoring camera control method | |
JP4537779B2 (en) | Imaging apparatus and image processing method | |
JP5304451B2 (en) | Image recording apparatus, image generating apparatus, image processing system, and program | |
JP2022131778A5 (en) | ||
US11410398B2 (en) | Augmenting live images of a scene for occlusion | |
KR102082277B1 (en) | Method for generating panoramic image and apparatus thereof | |
WO2007108101A1 (en) | Information terminal device | |
JP5843359B2 (en) | Information processing system, server device, terminal device, information processing device, information processing method, and program | |
CN111242107B (en) | Method and electronic device for setting virtual object in space | |
JP4562183B2 (en) | Information processing method and information processing apparatus | |
JP2002135807A (en) | Method and device for calibration for three-dimensional entry | |
JP5220799B2 (en) | Imaging apparatus and image processing method | |
JP2016004466A (en) | Information creation device and method, terminal device, computer program and recording medium | |
JP2012104986A (en) | Multiple ledger sheet scanning method and multiple ledger sheet scanning program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120518 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130214 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130219 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130422 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130528 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130610 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 5304451 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |