JP5304451B2 - Image recording apparatus, image generating apparatus, image processing system, and program - Google Patents

Image recording apparatus, image generating apparatus, image processing system, and program Download PDF

Info

Publication number
JP5304451B2
JP5304451B2 JP2009134011A JP2009134011A JP5304451B2 JP 5304451 B2 JP5304451 B2 JP 5304451B2 JP 2009134011 A JP2009134011 A JP 2009134011A JP 2009134011 A JP2009134011 A JP 2009134011A JP 5304451 B2 JP5304451 B2 JP 5304451B2
Authority
JP
Japan
Prior art keywords
image
machine
assembled
state
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009134011A
Other languages
Japanese (ja)
Other versions
JP2010282342A (en
Inventor
萌 時
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd, Fujifilm Business Innovation Corp filed Critical Fuji Xerox Co Ltd
Priority to JP2009134011A priority Critical patent/JP5304451B2/en
Publication of JP2010282342A publication Critical patent/JP2010282342A/en
Application granted granted Critical
Publication of JP5304451B2 publication Critical patent/JP5304451B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]

Description

本発明は、画像記録装置、画像生成装置、画像処理システム及びプログラムに関する。   The present invention relates to an image recording apparatus, an image generation apparatus, an image processing system, and a program.

コンピュータグラフィックスでは、ポリゴン等により形状が定められた物体の表面に、当該物体の表面を表す画像をテクスチャとしてマッピングさせることが行われている。例えば、下記の特許文献1では、物体をカメラにより撮像した撮像画像を、3次元モデルを構成する各ポリゴンにマッピングさせる技術が記載されている。また、下記の特許文献2では、カメラで撮像した画像を3次元モデルに描画して、カメラにより撮像された画像と、3次元モデルに基づくグラフィック表示とを一致させる技術が記載されている。   In computer graphics, an image representing the surface of the object is mapped as a texture on the surface of the object whose shape is defined by a polygon or the like. For example, the following Patent Document 1 describes a technique for mapping a captured image obtained by capturing an object with a camera to each polygon constituting a three-dimensional model. Japanese Patent Application Laid-Open No. 2004-228561 describes a technique for rendering an image captured by a camera on a three-dimensional model and matching an image captured by the camera with a graphic display based on the three-dimensional model.

特開2005−63041号公報Japanese Patent Laying-Open No. 2005-63041 特開2003−271993号公報JP 2003-271993 A

本発明の目的の一つは、複数の部品を組み付けて構成する機械の組み付け状態の変化に伴い、各組み付け状態に対応した撮像画像を記録することができる画像記録装置、画像生成装置、画像処理システム及びプログラムを提供することにある。   One of the objects of the present invention is to provide an image recording apparatus, an image generation apparatus, and an image processing capable of recording a captured image corresponding to each assembly state in accordance with a change in the assembly state of a machine configured by assembling a plurality of components. It is to provide a system and a program.

上記目的を達成するために、請求項1に記載の画像記録装置の発明は、機械を構成する複数の部品の少なくとも一部を組み付けた組み付け状態ごとに、当該組み付け状態を撮像する撮像条件を関連づけて格納した撮像条件情報を参照する手段と、前記機械を生産する工程の1又は複数の各時点において、当該機械の組み付け状態を識別する識別手段と、前記識別手段により識別した組み付け状態に関連づけて前記撮像条件情報に格納された撮像条件に基づいて当該組み付け状態の機械を撮像した撮像画像を記録する記録手段と、を含むことを特徴とする。   In order to achieve the above object, the invention of the image recording apparatus according to claim 1 associates an imaging condition for capturing an image of the assembled state for each assembled state in which at least a part of a plurality of parts constituting the machine is assembled. Means for referring to the stored imaging condition information, identification means for identifying the assembly state of the machine at one or a plurality of points in the process of producing the machine, and association with the assembly state identified by the identification means Recording means for recording a captured image obtained by capturing the assembled machine based on the imaging condition stored in the imaging condition information.

また、請求項2に記載の発明は、請求項1に記載の画像記録装置において、前記撮像条件情報は、前記機械の1又は複数の動作ごとに当該動作を撮像する撮像条件を関連づけて格納し、前記記録手段は、前記機械が動作を行う際に、当該動作に関連づけて前記撮像条件情報に格納された撮像条件に基づいて当該動作を撮像した動画像を記録することを特徴とする。   According to a second aspect of the present invention, in the image recording apparatus according to the first aspect, the imaging condition information is stored in association with an imaging condition for imaging the operation for each of one or more operations of the machine. When the machine performs an operation, the recording unit records a moving image obtained by imaging the operation based on an imaging condition stored in the imaging condition information in association with the operation.

また、請求項3に記載の発明は、請求項1又は2に記載の画像記録装置において、前記機械を生産する工程の各時点において、前記機械に組み付けられる部品を検出する手段をさらに含み、前記識別手段は、前記検出した部品に基づいて前記機械の組み付け状態を識別することを特徴とする。   Further, the invention according to claim 3 further includes means for detecting a part assembled to the machine at each time of the process of producing the machine in the image recording apparatus according to claim 1 or 2, The identifying means identifies an assembly state of the machine based on the detected component.

また、請求項4に記載の発明は、請求項1乃至3のいずれかに記載の画像記録装置において、前記記録手段は、前記識別手段により識別した組み付け状態の機械を少なくとも三方向から撮像した撮像画像を記録することを特徴とする。   According to a fourth aspect of the present invention, in the image recording apparatus according to any one of the first to third aspects, the recording unit picks up an image of the assembled machine identified by the identifying unit from at least three directions. An image is recorded.

また、請求項5に記載の画像生成装置の発明は、機械を構成する複数の部品の少なくとも一部を組み付けた組み付け状態ごとに関連づけた撮像条件に従って各組み付け状態の機械を撮像した撮像画像を記録した記録情報を参照する手段と、前記機械の所与の組み付け状態に関連づけて前記記録情報に記録された撮像画像を取得する取得手段と、前記所与の組み付け状態における前記機械の形状を表す2次元又は3次元模型の表面に前記取得手段により取得した撮像画像を描画した画像を生成する手段と、を含むことを特徴とする。   Further, the invention of the image generation apparatus according to claim 5 records a captured image obtained by imaging the machine in each assembled state in accordance with an imaging condition associated with each assembled state in which at least a part of a plurality of parts constituting the machine is assembled. Means for referring to the recorded information, acquisition means for acquiring a captured image recorded in the recording information in association with a given assembly state of the machine, and 2 representing the shape of the machine in the given assembly state And means for generating an image in which the captured image obtained by the obtaining means is drawn on the surface of a three-dimensional or three-dimensional model.

また、請求項6に記載の発明は、請求項5に記載の画像生成装置において、前記画像生成手段は、前記記録情報に前記所与の組み付け状態に関連づけられた撮像画像が記録されていない場合に、前記記録情報に記録された撮像画像に基づいて前記所与の組み付け状態に対応する画像を生成することを特徴とする。   According to a sixth aspect of the present invention, there is provided the image generating apparatus according to the fifth aspect, wherein the image generating means does not record a captured image associated with the given assembly state in the recording information. In addition, an image corresponding to the given assembly state is generated based on the captured image recorded in the recording information.

また、請求項7に記載の画像処理システムの発明は、機械を構成する複数の部品の少なくとも一部を組み付けた組み付け状態ごとに、当該組み付け状態を撮像する撮像条件を関連づけて格納した撮像条件情報を参照する手段と、前記機械の組み付け工程の1又は複数の各時点において、当該機械の組み付け状態を識別する識別手段と、前記識別手段により識別した組み付け状態に関連づけて前記撮像条件情報に格納された撮像条件に基づいて当該組み付け状態の機械を撮像した撮像画像を記録する記録手段と、前記機械の所与の組み付け状態に関連づけて前記記録手段により記録された撮像画像を取得する取得手段と、前記所与の組み付け状態における前記機械の形状を表す2次元又は3次元模型の表面に前記取得手段により取得した撮像画像を描画した画像を生成する手段と、を含むことを特徴とする。   The invention of the image processing system according to claim 7 is the imaging condition information stored in association with the imaging condition for imaging the assembly state for each assembly state in which at least a part of a plurality of parts constituting the machine is assembled. Stored in the imaging condition information in association with the assembling state identified by the identifying means, the identifying means for identifying the assembling state of the machine at one or a plurality of time points in the assembling process of the machine. Recording means for recording a captured image obtained by imaging the machine in the assembled state based on the imaging conditions, and acquisition means for acquiring a captured image recorded by the recording means in association with a given assembly state of the machine; Captured image acquired by the acquisition means on the surface of a two-dimensional or three-dimensional model representing the shape of the machine in the given assembled state It means for generating an image drawn to characterized in that it comprises a.

また、請求項8に記載のプログラムの発明は、機械を構成する複数の部品の少なくとも一部を組み付けた組み付け状態ごとに、当該組み付け状態を撮像する撮像条件を関連づけて格納した撮像条件情報を参照する手段と、前記機械の組み付け工程の1又は複数の各時点において、当該機械の組み付け状態を識別する識別手段と、前記識別手段により識別した組み付け状態に関連づけて前記撮像条件情報に格納された撮像条件に基づいて当該組み付け状態の機械を撮像した撮像画像を記録する記録手段としてコンピュータを機能させるためのプログラムである。   The invention of the program according to claim 8 refers to imaging condition information stored in association with imaging conditions for imaging the assembly state for each assembly state in which at least some of a plurality of parts constituting the machine are assembled. Means for identifying the assembly state of the machine at one or a plurality of points in the assembly step of the machine, and imaging stored in the imaging condition information in association with the assembly state identified by the identification unit It is a program for causing a computer to function as recording means for recording a captured image obtained by capturing the machine in the assembled state based on conditions.

また、請求項9に記載のプログラムの発明は、機械を構成する複数の部品の少なくとも一部を組み付けた組み付け状態ごとに関連づけた撮像条件に従って各組み付け状態の機械を撮像した撮像画像を記録した記録情報を参照する手段と、前記機械の所与の組み付け状態に関連づけて前記記録情報に記録された撮像画像を取得する取得手段と、前記所与の組み付け状態における前記機械の形状を表す2次元又は3次元模型の表面に前記取得手段により取得した撮像画像を描画した画像を生成する手段としてコンピュータを機能させるためのプログラムである。   According to a ninth aspect of the present invention, there is provided a program for recording a captured image obtained by capturing an image of a machine in each assembled state in accordance with an imaging condition associated with each assembled state in which at least a part of a plurality of parts constituting the machine is assembled. Means for referring to information; acquisition means for acquiring a captured image recorded in the recorded information in association with a given assembly state of the machine; two-dimensional representing the shape of the machine in the given assembly state; It is a program for causing a computer to function as a means for generating an image in which a captured image acquired by the acquisition means is drawn on the surface of a three-dimensional model.

請求項1及び8に記載の発明によれば、複数の部品を組み付けて構成する機械の組み付け状態の変化に伴い、各組み付け状態に対応した撮像画像を記録できる。   According to invention of Claim 1 and 8, according to the change of the assembly | attachment state of the machine which assembles | assembles and comprises a some component, the captured image corresponding to each assembly state can be recorded.

請求項2に記載の発明によれば、機械の生産工程に並行して、機械の実際の動作を撮像した撮像画像を記録できる。   According to the second aspect of the present invention, it is possible to record a captured image obtained by capturing an actual operation of the machine in parallel with the production process of the machine.

請求項3に記載の発明によれば、機械的に認識された機械の組み付け状態に対応した撮像画像を記録できる。   According to the third aspect of the present invention, it is possible to record a captured image corresponding to a mechanically recognized assembly state of the machine.

請求項4に記載の発明によれば、3次元物体の各面に描画する撮像画像を記録できる。   According to the invention described in claim 4, it is possible to record a captured image to be drawn on each surface of the three-dimensional object.

請求項5及び9に記載の発明によれば、機械の所与の組み付け状態に対応した2次元又は3次元模型の表面に、当該組み付け状態における実物の機械を撮像した撮像画像を描画できる。   According to the fifth and ninth aspects of the present invention, it is possible to draw a captured image obtained by capturing an actual machine in the assembled state on the surface of the two-dimensional or three-dimensional model corresponding to the given assembled state of the machine.

請求項6に記載の発明によれば、記録していない組み付け状態に対応した2次元又は3次元模型の表面に描画する画像を生成できる。   According to the sixth aspect of the present invention, it is possible to generate an image to be drawn on the surface of a two-dimensional or three-dimensional model corresponding to an assembly state that is not recorded.

請求項7に記載の発明によれば、複数の部品を組み付けて構成する機械の組み付け状態の変化に伴い、各組み付け状態に対応した撮像画像を記録すると共に、機械の所与の組み付け状態に対応した2次元又は3次元模型の表面に、当該組み付け状態について記録した実物の機械を撮像した撮像画像を描画できる。   According to the seventh aspect of the present invention, along with a change in the assembly state of a machine configured by assembling a plurality of parts, a captured image corresponding to each assembly state is recorded, and corresponding to a given assembly state of the machine On the surface of the two-dimensional or three-dimensional model, it is possible to draw a picked-up image obtained by picking up an image of a real machine recorded about the assembled state.

画像処理システムの構成図である。1 is a configuration diagram of an image processing system. 生産ラインに設けられた撮像装置とRFIDリーダーの一構成例を示す図である。It is a figure which shows the example of 1 structure of the imaging device and RFID reader | reader provided in the production line. 生産ラインに設けられた撮像装置とRFIDリーダーの一構成例の詳細図である。It is detail drawing of an example of 1 composition of an imaging device and an RFID reader provided in a production line. 工程管理データの一例を示す図である。It is a figure which shows an example of process management data. 撮像条件データの一例を示す図である。It is a figure which shows an example of imaging condition data. 画像記録装置の機能ブロック図である。It is a functional block diagram of an image recording device. 組み付け履歴データの一例を示す図である。It is a figure which shows an example of assembly | attachment log | history data. 撮像画像データの一例を示す図である。It is a figure which shows an example of captured image data. 画像処理装置の機能ブロック図である。It is a functional block diagram of an image processing apparatus. 未記録テクスチャ画像の生成処理を説明する図である。It is a figure explaining the production | generation process of an unrecorded texture image. 機械オブジェクトの表示画像の一例を示す図である。It is a figure which shows an example of the display image of a machine object. 動画像の一例を示す図である。It is a figure which shows an example of a moving image. 画像記録処理のフローチャートである。It is a flowchart of an image recording process. 画像生成処理のフローチャートである。It is a flowchart of an image generation process.

以下、本発明を実施するための好適な実施の形態(以下、実施形態という)を、図面に従って説明する。   DESCRIPTION OF EXEMPLARY EMBODIMENTS Hereinafter, preferred embodiments (hereinafter referred to as embodiments) for carrying out the invention will be described with reference to the drawings.

図1には、本実施形態に係る画像処理システム1の構成図を示す。図1に示されるように、画像処理システム1は、生産ラインの1又は複数の作業領域に設置された撮像装置3及びRFID(radio frequency identification)リーダー5、データベース7、画像記録装置10、そして画像処理装置20を含む。上記の生産ラインにおいては、複数の部品を組み付けて構成される、複写機や画像形成装置等の機械を生産する工程が行われる。そして、本実施形態では、撮像装置3により生産ラインにおける多様な組み付け状態の機械を撮像した画像情報(静止画像又は/及び動画像を含む)を画像記録装置10がデータベース7に記録する画像記録処理、及び、画像処理装置20に接続するクライアント装置30の各々が共有する仮想空間に配置された上記機械に対応した3次元オブジェクト(以下、機械オブジェクト)に対して、データベース7に記録された画像情報に基づいて行うテクスチャマッピングや動画像再生等の画像再生処理を実行する。以下、画像処理システム1に含まれる各装置の詳細について説明する。   FIG. 1 shows a configuration diagram of an image processing system 1 according to the present embodiment. As shown in FIG. 1, an image processing system 1 includes an imaging device 3 and an RFID (radio frequency identification) reader 5, a database 7, an image recording device 10, and an image installed in one or more work areas of a production line. A processing device 20 is included. In the production line described above, a process of producing a machine such as a copying machine or an image forming apparatus configured by assembling a plurality of parts is performed. In the present embodiment, image recording processing in which the image recording apparatus 10 records in the database 7 image information (including still images and / or moving images) obtained by capturing images of machines in various assembled states on the production line by the imaging device 3. Image information recorded in the database 7 with respect to a three-dimensional object (hereinafter referred to as a machine object) corresponding to the machine arranged in a virtual space shared by the client apparatuses 30 connected to the image processing apparatus 20 The image reproduction processing such as texture mapping and moving image reproduction performed based on the above is executed. Hereinafter, details of each device included in the image processing system 1 will be described.

図2A及び図2Bには、生産ライン2に設けられた撮像装置3とRFIDリーダー5の一構成例を示した。図2Aに示されるように、生産ライン2には1又は複数の作業領域(スポット)が設けられており、各作業領域ではそれぞれ実行する作業が定められており、例えば作業領域A、B,Cの順序で生産対象の機械を移動させていくことで当該機械に部品が組み付けられる。本実施形態では、各作業領域に撮像装置3とRFIDリーダー5が備え付けられており、各作業領域において作業する機械の組み付け状態を撮像した画像を順次記録していくものである。   2A and 2B show one configuration example of the imaging device 3 and the RFID reader 5 provided in the production line 2. As shown in FIG. 2A, the production line 2 is provided with one or a plurality of work areas (spots), and the work to be performed is determined in each work area. For example, the work areas A, B, C The parts are assembled to the machine by moving the machine to be produced in this order. In the present embodiment, the imaging device 3 and the RFID reader 5 are provided in each work area, and images obtained by imaging the assembly state of the machine working in each work area are sequentially recorded.

図2Bには、生産ライン2の各作業領域における撮像装置3とRFIDリーダー5の構成例の詳細図を示した。図2Bに示されるように、作業領域には、生産対象の機械を載せる回転台4と、回転台4上の機械を三方から撮像する3台の撮像装置3と、回転台4上のRFIDタグを読み取る位置に設けられたRFIDリーダー5とが設置されている。なお、本実施形態では、組み付け対象の部品にはRFIDタグを貼付しておくこととし、貼付したRFIDタグをRFIDリーダー5により読み取ることにより、機械に組み付けられている部品や新規に追加された部品の情報を取得することとする。撮像装置3、RFIDリーダー5、回転台4はそれぞれ後述する画像記録装置10と無線又は有線で接続され、撮像装置3は画像記録装置10により撮像方向、撮像倍率等が制御されると共に、回転台4は画像記録装置10により回転角度等が制御されるようになっている。   FIG. 2B shows a detailed view of a configuration example of the imaging device 3 and the RFID reader 5 in each work area of the production line 2. As shown in FIG. 2B, the work area includes a turntable 4 on which a machine to be produced is placed, three image pickup devices 3 that pick up images of the machine on the turntable 4 from three directions, and an RFID tag on the turntable 4. An RFID reader 5 provided at a position for reading is installed. In the present embodiment, an RFID tag is pasted on a component to be assembled, and the pasted RFID tag is read by the RFID reader 5, so that a component assembled in the machine or a newly added component We will acquire the information. The imaging device 3, the RFID reader 5, and the turntable 4 are connected to an image recording device 10, which will be described later, wirelessly or by wire. The imaging device 3 controls the imaging direction, the imaging magnification, etc. 4, the rotation angle and the like are controlled by the image recording apparatus 10.

データベース7は、画像処理システム1における処理に用いられるデータを格納すると共に、画像記録装置10により記録された記録データを格納するものである。本実施形態では、データベース7をリレーショナルデータベースとして構成しているが、XMLデータベース等の他の形態を用いてもよい。また、本実施形態に係るデータベース7は、工程管理情報格納部7A、撮像条件格納部7B、撮像画像格納部7C、そして組み付け履歴格納部7Dを含み、画像記録装置10による処理に関するデータを格納している。   The database 7 stores data used for processing in the image processing system 1 and stores recording data recorded by the image recording apparatus 10. In this embodiment, the database 7 is configured as a relational database, but other forms such as an XML database may be used. The database 7 according to the present embodiment includes a process management information storage unit 7A, an imaging condition storage unit 7B, a captured image storage unit 7C, and an assembly history storage unit 7D, and stores data related to processing by the image recording apparatus 10. ing.

工程管理情報格納部7Aは、生産ライン2で行われる工程ごとの作業と、当該作業に係る機械を撮像する撮像条件とを定めた工程管理データを格納するものである。   The process management information storage unit 7A stores process management data that defines work for each process performed on the production line 2 and imaging conditions for imaging a machine related to the work.

図3には、本実施形態に係る工程管理データの一例を示す。図3に示されるように、工程管理データは、工程を識別する工程IDに関連づけて、スポットID、機械ID、部品リスト、撮像条件IDを格納したテーブルとして構成される。スポットIDは、生産ライン2において本工程が行われる場所を識別する情報であり、機械IDは、本工程の対象となる機械を識別する情報である。また、部品リストは、本工程において取り付け等の作業の対象となる部品の一覧情報であり、撮像条件IDは、本工程により部品が組み付けられた状態の機械を撮像する際の撮像条件を識別する情報である。なお、撮像条件の詳細は後述する撮像条件格納部7Bに格納される。   FIG. 3 shows an example of process management data according to the present embodiment. As shown in FIG. 3, the process management data is configured as a table storing a spot ID, a machine ID, a parts list, and an imaging condition ID in association with a process ID for identifying a process. The spot ID is information for identifying a place where the main process is performed in the production line 2, and the machine ID is information for identifying a machine that is a target of the main process. Also, the parts list is list information of parts that are targets of work such as attachment in this process, and the imaging condition ID identifies imaging conditions when imaging the machine in which the parts are assembled in this process. Information. The details of the imaging conditions are stored in an imaging condition storage unit 7B described later.

図4には、撮像条件格納部7Bに格納される撮像条件データの一例を示す。図4に示されるように、撮像条件データは、撮像条件を識別する撮像条件IDに関連づけて、撮像装置3による静止画像撮影時の設定(静止画像撮影設定)、動画像撮影時の設定(動画像撮影設定)、回転台4の回転角度を格納したテーブルとして構成される。静止画像撮影設定及び動画像撮影設定は、複数の撮像装置3のうち撮像動作させる撮像装置3と、撮像動作させる撮像装置3に対して、ズーム倍率、関心領域(ROI:region of interest)等のパラメータを設定する情報である。関心領域は撮像画像において対象画像を含む領域を表すものであり、例えば関心領域を矩形領域とし、撮像画像の左上に原点、右方向にX軸、下方向にY軸をとる場合には、ROI(X,Y,W,H)は、座標(X,Y)から横(右)にW、縦(下)にHの矩形領域を関心空間に設定することを表す。また、動画像撮影は、動画像撮影設定に指定された動作(例えば“コピー開始”)が実行されることを契機として行われる。   FIG. 4 shows an example of imaging condition data stored in the imaging condition storage unit 7B. As shown in FIG. 4, the imaging condition data is associated with an imaging condition ID for identifying an imaging condition, and settings for shooting a still image (still image shooting setting) and settings for moving image shooting (moving image). Image capture setting) and a table storing the rotation angle of the turntable 4. The still image shooting setting and the moving image shooting setting are the zooming factor, the region of interest (ROI), and the like for the imaging device 3 that performs the imaging operation among the plurality of imaging devices 3 and the imaging device 3 that performs the imaging operation. This is information for setting parameters. The region of interest represents a region including the target image in the captured image. For example, when the region of interest is a rectangular region and the origin is at the upper left of the captured image, the X axis is in the right direction, and the Y axis is in the lower direction, the ROI (X, Y, W, H) represents setting a rectangular area of W from the coordinates (X, Y) to the horizontal (right) and H (vertical) to the space of interest. In addition, moving image shooting is performed when an operation designated in the moving image shooting setting (for example, “copy start”) is executed.

組み付け履歴格納部7Dは、生産ライン2での生産工程時に行われた部品の組み付け作業の履歴を格納するものであり、組み付け履歴格納部7Dに格納されるデータの詳細については後述する。   The assembly history storage unit 7D stores a history of component assembly operations performed during the production process on the production line 2, and details of data stored in the assembly history storage unit 7D will be described later.

撮像画像格納部7Cは、生産ライン2での生産工程時に、撮像条件格納部7Bに格納された撮像条件に従って撮像された画像データ(静止画像又は/及び動画像)を格納するものであり、撮像画像格納部7Cに格納されるデータの詳細については後述する。   The captured image storage unit 7C stores image data (still image or / and moving image) captured according to the imaging conditions stored in the imaging condition storage unit 7B during the production process in the production line 2. Details of the data stored in the image storage unit 7C will be described later.

図5には、本実施形態に係る画像記録装置10の機能ブロック図を示す。図5に示されるように、画像記録装置10は、部品情報取得部40、撮像条件取得部42、撮像画像取得部44、及び記録部46を含む。上記の各部の機能は、CPU等の制御手段、メモリ等の記憶手段、外部デバイスとデータを送受信する入出力手段等を備えたコンピュータが、コンピュータ読み取り可能な情報記憶媒体に格納されたプログラムを読み込み実行することで実現されるものとしてよい。なお、プログラムは情報記憶媒体によってコンピュータたる画像記録装置10に供給されることとしてもよいし、インターネット等のデータ通信手段を介して供給されることとしてもよい。   FIG. 5 shows a functional block diagram of the image recording apparatus 10 according to the present embodiment. As shown in FIG. 5, the image recording apparatus 10 includes a component information acquisition unit 40, an imaging condition acquisition unit 42, a captured image acquisition unit 44, and a recording unit 46. The functions of the above-described units are such that a computer having a control unit such as a CPU, a storage unit such as a memory, and an input / output unit that transmits and receives data to and from an external device reads a program stored in a computer-readable information storage medium. It may be realized by executing. The program may be supplied to the image recording apparatus 10 that is a computer by an information storage medium, or may be supplied via data communication means such as the Internet.

部品情報取得部40は、生産ライン2に設置されたRFIDリーダー5により読み取られた部品情報を取得するものである。本実施形態では、生産ライン2に設置された各RFIDリーダー5が部品情報を読み取った場合に、当該読み取った部品情報を有線又は無線通信により画像記録装置10に転送することとする。   The component information acquisition unit 40 acquires component information read by the RFID reader 5 installed in the production line 2. In this embodiment, when each RFID reader 5 installed in the production line 2 reads the component information, the read component information is transferred to the image recording apparatus 10 by wired or wireless communication.

撮像条件取得部42は、部品情報取得部40により取得された部品情報に基づいて、当該部品情報により識別される組み付け状態の機械を撮像する撮像条件を取得するものである。本実施形態では、部品情報取得部40により取得される部品情報の履歴を管理し、当該履歴として保持される部品情報と最新の部品情報との差分に基づいて新規に追加された部品を識別し、当該新規部品を組み付ける工程に対応して工程管理データに格納された撮像条件を取得することとする。具体的には、撮像条件取得部42は、部品情報を取得したRFIDリーダー5が設置されたスポットID、生産対象の機械ID、組み付け対象の部品リストに基づいてデータベース7に格納された工程管理データの中から対応する撮像条件IDを検索する。そして、撮像条件取得部42は、検索された撮像条件IDに関する撮像条件のデータを撮像条件格納部7Bに格納されたデータから取得する。   Based on the component information acquired by the component information acquisition unit 40, the imaging condition acquisition unit 42 acquires an imaging condition for imaging the machine in the assembled state identified by the component information. In the present embodiment, the history of component information acquired by the component information acquisition unit 40 is managed, and a newly added component is identified based on the difference between the component information held as the history and the latest component information. The imaging conditions stored in the process management data corresponding to the process of assembling the new part are acquired. Specifically, the imaging condition acquisition unit 42 stores the process management data stored in the database 7 based on the spot ID where the RFID reader 5 that acquired the component information is installed, the machine ID to be produced, and the component list to be assembled. The corresponding imaging condition ID is searched from the list. And the imaging condition acquisition part 42 acquires the data of the imaging condition regarding the searched imaging condition ID from the data stored in the imaging condition storage part 7B.

撮像画像取得部44は、撮像条件取得部42により取得された撮像条件に基づいて撮像装置3が撮像した機械の撮像画像を取得するものである。本実施形態では、撮像画像取得部44は、撮像条件取得部42により取得された撮像条件に従って回転台4を回転させると共に、上記撮像条件に指定された倍率、撮像方向を撮像装置3の各々に設定して静止画像を撮像させる。静止画像の撮像は複数の撮像装置3で一斉に行ってもよいし1台ずつであってもよい。   The captured image acquisition unit 44 acquires a captured image of the machine imaged by the imaging device 3 based on the imaging condition acquired by the imaging condition acquisition unit 42. In the present embodiment, the captured image acquisition unit 44 rotates the turntable 4 according to the imaging conditions acquired by the imaging condition acquisition unit 42, and sets the magnification and the imaging direction specified in the imaging conditions to each of the imaging devices 3. Set to capture a still image. Still image capturing may be performed simultaneously by a plurality of image capturing apparatuses 3 or one by one.

撮像画像取得部44は、動画像の取得を以下のように、動画像の撮像対象動作(例えば「コピー開始」)の開始を検知すると共に行う。すなわち、撮像画像取得部44は、動画像の撮像対象となる動作の開始信号が入力されると、当該開始信号に基づいて撮像装置3に動画像の撮像を開始させ、上記動作の終了信号が入力されるまで動画像の撮像を継続する。例えば、機械を複写機とし、撮像対象動作をコピー操作とした場合には、コピー操作が開始されることを示す信号が画像記録装置10に入力されると、画像記録装置10は撮像装置3に当該コピー処理の撮像を開始させ、コピー処理が終了すると撮像を終了させる。   The captured image acquisition unit 44 acquires a moving image while detecting the start of a moving image capturing target operation (for example, “copy start”) as follows. That is, when a start signal of an operation to be a moving image is input, the captured image acquisition unit 44 causes the imaging device 3 to start capturing a moving image based on the start signal, and an end signal of the operation is received. Continue to capture moving images until input. For example, when the machine is a copying machine and the operation to be imaged is a copy operation, when a signal indicating that the copy operation is started is input to the image recording apparatus 10, the image recording apparatus 10 Imaging of the copy process is started, and when the copy process ends, the imaging ends.

記録部46は、生産ライン2で行われた組み付け作業の履歴データと、撮像画像取得部44により取得された撮像画像データ(静止画像又は/及び動画像を含む)をデータベース7に記録するものである。本実施形態では、記録部46は組み付け作業の履歴データを組み付け履歴格納部7Dに格納し、撮像画像取得部44により取得された撮像画像データを撮像画像格納部7Cに格納することとする。   The recording unit 46 records history data of assembly work performed on the production line 2 and captured image data (including still images and / or moving images) acquired by the captured image acquisition unit 44 in the database 7. is there. In the present embodiment, the recording unit 46 stores assembly work history data in the assembly history storage unit 7D, and stores the captured image data acquired by the captured image acquisition unit 44 in the captured image storage unit 7C.

図6には、組み付け履歴格納部7Dに格納される組み付け履歴データの一例を示す。図6に示されるように、組み付け履歴データは、工程IDに関連づけて、生産対象の機械IDと、撮像記録を識別する撮像記録IDを格納したテーブルとして構成される。   FIG. 6 shows an example of assembly history data stored in the assembly history storage unit 7D. As shown in FIG. 6, the assembly history data is configured as a table storing a machine ID to be produced and an imaging record ID for identifying an imaging record in association with the process ID.

図7には、撮像画像格納部7Cに格納される撮像画像データの一例を示す。撮像画像データは、撮像記録IDに関連づけて、静止画像データ、動画像データのそれぞれのファイル名が格納されたテーブルとして構成される。なお、ファイルの実体データは、撮像画像格納部7Cに格納されることとしてよい。   FIG. 7 shows an example of captured image data stored in the captured image storage unit 7C. The captured image data is configured as a table in which the file names of still image data and moving image data are stored in association with the imaging record ID. The file entity data may be stored in the captured image storage unit 7C.

次に、画像記録装置10により記録された画像データの利用方法の一例として、記録された静止画像データを仮想空間内に設けられた3次元の機械オブジェクトにテクスチャ画像としてマッピングし、また、記録された動画像データを機械オブジェクトが行う動作に応じて再生する例について説明する。本実施形態では、データベース7は、仮想空間データ格納部7Eとモデリングデータ格納部7Fを含み、上記の仮想空間を構築することとしている。   Next, as an example of a method of using the image data recorded by the image recording apparatus 10, the recorded still image data is mapped as a texture image to a three-dimensional machine object provided in the virtual space, and recorded. An example in which the moving image data is reproduced according to the operation performed by the machine object will be described. In the present embodiment, the database 7 includes a virtual space data storage unit 7E and a modeling data storage unit 7F, and constructs the above virtual space.

仮想空間データ格納部7Eは、仮想空間上に配置されたオブジェクト(機械オブジェクトや生産ラインオブジェクトを含む)や、クライアント装置30からの入力に応じて位置や行動が制御されるアバター(仮想空間内の人に対応するオブジェクト)の座標位置、属性情報、動作情報等が格納されるものである。   The virtual space data storage unit 7E includes objects (including machine objects and production line objects) arranged in the virtual space, and avatars (positions in the virtual space) whose positions and actions are controlled in response to input from the client device 30. The coordinate position, attribute information, operation information, etc. of the object corresponding to the person are stored.

モデリングデータ格納部7Fは、仮想空間上に配置されたオブジェクトの3次元形状を規定するモデリングデータを格納するものである。モデリングデータは、物体形状を複数のポリゴンにより構成したデータとしてよく、オブジェクトが複数の部品から構成される場合には、部品毎にモデリングデータを保持することとしてよい。   The modeling data storage unit 7F stores modeling data that defines the three-dimensional shape of an object arranged in the virtual space. The modeling data may be data in which the object shape is composed of a plurality of polygons. If the object is composed of a plurality of parts, the modeling data may be held for each part.

図8には、上述した仮想空間のビューを生成する画像生成機能を備えた画像処理装置20の機能ブロック図を示す。図8に示されるように、画像処理装置20は、通信部50、仮想空間制御部52、記録画像取得部54、テクスチャ画像生成部56、及び表示画像生成部58を含む。上記の各部の機能は、CPU等の制御手段、メモリ等の記憶手段、外部デバイスとデータを送受信する入出力手段等を備えたコンピュータが、コンピュータ読み取り可能な情報記憶媒体に格納されたプログラムを読み込み実行することで実現されるものとしてよい。なお、プログラムは情報記憶媒体によってコンピュータたる画像処理装置20に供給されることとしてもよいし、インターネット等のデータ通信手段を介して供給されることとしてもよい。   FIG. 8 shows a functional block diagram of the image processing apparatus 20 having an image generation function for generating the above-described virtual space view. As illustrated in FIG. 8, the image processing apparatus 20 includes a communication unit 50, a virtual space control unit 52, a recorded image acquisition unit 54, a texture image generation unit 56, and a display image generation unit 58. The functions of the above-described units are such that a computer having a control unit such as a CPU, a storage unit such as a memory, and an input / output unit that transmits and receives data to and from an external device reads a program stored in a computer-readable information storage medium. It may be realized by executing. The program may be supplied to the image processing apparatus 20 that is a computer by an information storage medium, or may be supplied via data communication means such as the Internet.

通信部50は、ネットワークインターフェイスを含み構成され、ネットワークインターフェイスを介してクライアント装置30等の情報処理装置とデータ通信を行うものである。   The communication unit 50 includes a network interface, and performs data communication with an information processing apparatus such as the client apparatus 30 via the network interface.

仮想空間制御部52は、仮想空間データ格納部7Eに格納されたデータに基づいて仮想空間を構築すると共に、通信部50を介して接続する各クライアント装置30からの入力に基づいて仮想空間内での各オブジェクト(機械オブジェクト、アバター等)を制御するものである。本実施形態では、仮想空間内に上述した生産ライン2と同様の環境を構築し、仮想空間の生産ライン2において上述した機械の生産を再現する例について説明する。   The virtual space control unit 52 constructs a virtual space based on the data stored in the virtual space data storage unit 7E, and in the virtual space based on an input from each client device 30 connected via the communication unit 50. These objects (machine objects, avatars, etc.) are controlled. In the present embodiment, an example will be described in which the same environment as that of the production line 2 described above is constructed in a virtual space, and the production of the machine described above is reproduced in the production line 2 of the virtual space.

記録画像取得部54は、仮想空間制御部52により制御される仮想空間に配置される機械オブジェクトの状態に基づいて、当該機械オブジェクトに関してデータベース7に記録された画像を取得するものである。具体的には、記録画像取得部54は以下の処理によりデータベース7に記録された静止画像データ、及び動画像データを取得することとしてよい。   The recorded image acquisition unit 54 acquires an image recorded in the database 7 regarding the machine object based on the state of the machine object arranged in the virtual space controlled by the virtual space control unit 52. Specifically, the recorded image acquisition unit 54 may acquire still image data and moving image data recorded in the database 7 by the following processing.

まず、記録画像取得部54は、仮想空間に配置された対象機械に対応する機械オブジェクトの配置位置に基づいて、当該機械オブジェクトの生産ライン2における工程を識別する。そして、記録画像取得部54は、上記識別した工程に関連づけて撮像画像格納部7Cに格納された撮像画像を取得することとする。   First, the recorded image acquisition unit 54 identifies a process in the production line 2 of the machine object based on the arrangement position of the machine object corresponding to the target machine arranged in the virtual space. The recorded image acquisition unit 54 acquires the captured image stored in the captured image storage unit 7C in association with the identified process.

次に、記録画像取得部54は、仮想空間に配置された機械オブジェクトに対してアバターが操作を行うことにより、当該機械オブジェクトが予め定められた動作を行うことを検知する場合に、当該検知した動作に関連づけてデータベース7に記録される動画像データを取得することとする。   Next, when the recorded image acquisition unit 54 detects that the machine object performs a predetermined motion by operating the machine object placed in the virtual space, the detected image is detected. It is assumed that moving image data recorded in the database 7 in association with the operation is acquired.

テクスチャ画像生成部56は、仮想空間に配置された機械オブジェクトに対してアバターが操作を行った結果、機械オブジェクトが実機に対して画像を記録していない状態に変化した場合に、当該状態の機械オブジェクトにマッピングするテクスチャ画像(未記録テクスチャ画像)を生成するものである。以下、テクスチャ画像生成部56による処理を具体的に説明する。   When the avatar operates the machine object arranged in the virtual space and the machine object changes to a state where no image is recorded on the actual machine, the texture image generation unit 56 A texture image (unrecorded texture image) to be mapped to an object is generated. Hereinafter, the process by the texture image generation part 56 is demonstrated concretely.

図9には、未記録テクスチャ画像の生成処理を説明する図を示した。図9に示されるように、生産ライン2では、状態S、状態S01、状態S012、状態S0123の順に組み付けが行われ、これらの各状態については記録された画像データが存在するとする。なお、状態Sは部品が何も組み付けられていない状態、状態S01は部品P1が組み付けられた状態、状態S012は状態S01に部品P2が組み付けられた状態、そして状態S0123は状態S012に部品P3が組み付けられた状態であるとする。これに対して、仮想空間では、状態S0123に対応した機械オブジェクトに対して分解操作が行われた結果、部品P1とP3が組み付けられた状態S013になったとすると、この状態S013については撮像画像が記録されていない。これに対して、テクスチャ画像生成部56は、図9に示されるように実在した工程(記録パス)のうち、状態S013に最も近い実在状態S01を始点に設定し、S01を撮像した画像に、部品P3が組み付けられた工程において撮影された写真のROIを重畳により合成して状態S013に対応するテクスチャ画像を生成することとする。同様にして、テクスチャ画像生成部56は、生産工程時に記録していない他の組み付け状態についても記録された組み付け状態について撮像された撮像画像に基づいてテクスチャ画像を生成することとしてよい。 FIG. 9 shows a diagram for explaining an unrecorded texture image generation process. As shown in FIG. 9, in the production line 2, assembly is performed in the order of the state S 0 , the state S 01 , the state S 012 , and the state S 0123 , and recorded image data exists for each of these states. . Note that state S 0 is a state in which no component is assembled, state S 01 is a state in which component P 1 is assembled, state S 012 is a state in which component P 2 is assembled in state S 01 , and state S 0123 is a state and a state where part P3 is assembled to S 012. In contrast, in the virtual space, the result of decomposition operation the machine object corresponding to the state S 0123 has been performed, when the parts P1 and P3 is ready S 013 assembled, this state S 013 is The captured image is not recorded. In contrast, the texture image generating unit 56 of the real-mentioned processes (recording pass), as shown in FIG. 9, to set the actual state S 01 closest to state S 013 to start, were imaged S 01 The texture image corresponding to the state S 013 is generated by superimposing the ROI of the photograph taken in the process of assembling the part P3 on the image by superposition. Similarly, the texture image generation unit 56 may generate a texture image based on a captured image captured for the recorded assembly state for other assembly states that are not recorded during the production process.

表示画像生成部58は、仮想空間に配置された機械オブジェクトに対して、記録画像取得部54により取得された画像、又はテクスチャ画像生成部56により生成された画像をテクスチャとしてマッピングすると共に、クライアント装置30ごとの撮像位置及び撮像方向に基づく機械オブジェクトのレンダリング処理を行って仮想空間のビューとして表示する表示画像を生成するものである。テクスチャマッピングは、3次元の機械オブジェクトの3つの可視面の各頂点に、各可視面に対応した撮像方向から撮像したテクスチャ画像をマッピングさせることで行うこととしてよい。なお、撮影時に被写体と撮像装置3との位置関係を保持し、当該保持した位置関係の情報をテクスチャマッピングやレンダリング時に用いることとしてよい。表示画像生成部58により生成された表示画像は、通信部50を介して各クライアント装置30に送信され、クライアント装置30に接続された表示装置に表示される。   The display image generation unit 58 maps the image acquired by the recorded image acquisition unit 54 or the image generated by the texture image generation unit 56 as a texture on the machine object arranged in the virtual space, A machine object rendering process based on the imaging position and the imaging direction for every 30 is performed to generate a display image to be displayed as a view of the virtual space. Texture mapping may be performed by mapping a texture image captured from the imaging direction corresponding to each visible surface to each vertex of the three visible surfaces of the three-dimensional machine object. It should be noted that the positional relationship between the subject and the imaging device 3 may be retained at the time of shooting, and the retained positional relationship information may be used during texture mapping or rendering. The display image generated by the display image generation unit 58 is transmitted to each client device 30 via the communication unit 50 and displayed on the display device connected to the client device 30.

図10Aは、機械オブジェクトの組み付け状態の変化に応じて表示画像生成部58により生成される機械オブジェクトの表示画像の一例を示したものである。図10Aに示されるように、組み付け状態が変化すると、変化した組み付け状態に対応したテクスチャ画像が機械オブジェクトにマッピングされて、組み付け状態に対応した表示画像が生成される。   FIG. 10A shows an example of a display image of a machine object generated by the display image generation unit 58 in accordance with a change in the assembly state of the machine object. As shown in FIG. 10A, when the assembly state changes, the texture image corresponding to the changed assembly state is mapped to the machine object, and a display image corresponding to the assembly state is generated.

図10Bは、仮想空間において機械オブジェクトに予め定められた動作が指示された場合に表示される動画像の一例を示したものである。図10Bに示されるように、例えば仮想空間においてアバターにより機械オブジェクトのコピー開始ボタンが押下されると、コピー開始の動作に対応した動画像がデータベース7から取得され、取得された動画像が機械オブジェクトに重ね合わせて再生されることとしてよい。なお、コピー開始ボタンが押下されたことの検知は、仮想空間制御部52がクライアント装置30からの入力に基づいて行うこととしてよい。   FIG. 10B shows an example of a moving image displayed when a predetermined motion is instructed to the machine object in the virtual space. As shown in FIG. 10B, for example, when a machine object copy start button is pressed by an avatar in a virtual space, a moving image corresponding to the copy start operation is acquired from the database 7, and the acquired moving image is the machine object. It is good also as reproducing | regenerating by superimposing on. The virtual space control unit 52 may detect that the copy start button has been pressed based on an input from the client device 30.

次に、本実施形態に係る画像処理システム1において行われる画像記録処理及び仮想空間の画像生成処理の各々について、図11及び図12に示したフローチャートを参照しながら説明する。   Next, each of the image recording process and the virtual space image generation process performed in the image processing system 1 according to the present embodiment will be described with reference to the flowcharts shown in FIGS. 11 and 12.

図11には、画像記録処理のフローチャートを示した。図11に示されるように、画像記録装置10は、RFIDリーダー5により検出された部品情報を取得し(S101)、当該取得した部品情報の履歴に基づいて新規に追加された部品情報を抽出する(S102)。次に、画像記録装置10は、抽出された部品情報、RFIDリーダー5の設置されたスポットID、生産対象の機械IDに基づいて、上記部品情報が追加された場合の組み付け状態を撮像する撮像条件を取得する(S103)。画像記録装置10は、上記取得した撮像条件に従って、回転台4や撮像装置3を調整し(S104)、撮像指示に「静止画像」があれば(S105:Y)、撮像装置3に静止画像を一斉に撮像させ(S106)、機械を撮像した撮像画像を取得する。また、画像記録装置10は、撮像指示に「動画像」があれば(S107:Y)、機械が対象動作を行うタイミングを待機し、当該対象動作が行われる際に(S108:Y)撮像装置3に動画像を一斉に撮像し(S109)、機械の対象動作を撮像した動画像を取得する。画像記録装置10は、S106及びS109で取得した静止画像や動画像をデータベース7に記録して(S110)、記録処理を終了する。なお、上記の画像記録処理は、RFIDリーダー5から受信される部品情報が更新される毎に行うこととしてよい。   FIG. 11 shows a flowchart of the image recording process. As shown in FIG. 11, the image recording apparatus 10 acquires component information detected by the RFID reader 5 (S101), and extracts newly added component information based on the history of the acquired component information. (S102). Next, the image recording apparatus 10 captures an assembly condition when the above-described component information is added based on the extracted component information, the spot ID where the RFID reader 5 is installed, and the machine ID of the production target. Is acquired (S103). The image recording device 10 adjusts the turntable 4 and the imaging device 3 according to the acquired imaging condition (S104), and if there is a “still image” in the imaging instruction (S105: Y), the still image is displayed on the imaging device 3. Imaging is performed all at once (S106), and a captured image of the machine is acquired. Further, if “moving image” is included in the imaging instruction (S107: Y), the image recording apparatus 10 waits for the timing at which the machine performs the target operation, and when the target operation is performed (S108: Y), the imaging apparatus In step S109, a moving image is captured all at once (S109), and a moving image capturing the target operation of the machine is acquired. The image recording apparatus 10 records the still image or moving image acquired in S106 and S109 in the database 7 (S110), and ends the recording process. The image recording process described above may be performed every time the component information received from the RFID reader 5 is updated.

次に、仮想空間の画像生成処理について説明する。図12には、仮想空間の画像生成処理のフローチャートを示した。図12に示されるように、画像処理装置20は、接続するクライアント装置30から仮想空間に配置されたアバターを操作する操作情報の入力を受け付け(S201)、当該操作により仮想空間に配置された機械オブジェクトの組み付け状態が変化した場合には(S202:Y)、変化後の組み付け状態に対応したテクスチャ画像を取得し(S203)、取得したテクスチャ画像を機械オブジェクトにマッピングする(S204)。   Next, the virtual space image generation processing will be described. FIG. 12 shows a flowchart of the virtual space image generation processing. As shown in FIG. 12, the image processing apparatus 20 receives input of operation information for operating the avatar arranged in the virtual space from the connected client apparatus 30 (S201), and the machine arranged in the virtual space by the operation. When the assembly state of the object has changed (S202: Y), a texture image corresponding to the assembly state after the change is acquired (S203), and the acquired texture image is mapped to the machine object (S204).

次に、画像処理装置20は、上記受け付けた操作により機械オブジェクトが予め定められた動作のうちいずれかを実行した場合には(S205:Y)、当該動作を実機で記録した動画像を取得して(S206)、当該取得した動画像を再生する(S207)。また、上記操作により機械オブジェクトの組み付け状態が変化せず(S202:N)、また、機械オブジェクトが予め定められた動作のいずれも実行しない場合には(S205:N)、テクスチャ画像の更新や動画像の再生を行わずに処理を終了する。なお、以上の画像生成処理は、クライアント装置30から操作情報を受け付ける毎に行うこととしてよい。   Next, when the machine object executes any one of the predetermined operations by the received operation (S205: Y), the image processing apparatus 20 acquires a moving image in which the operation is recorded by the actual machine. (S206), and the acquired moving image is reproduced (S207). Further, when the assembly state of the machine object is not changed by the above operation (S202: N), and when the machine object does not execute any of the predetermined operations (S205: N), the texture image update or the moving image is performed. The process ends without reproducing the image. The image generation process described above may be performed every time operation information is received from the client device 30.

また、本発明は上記の実施形態に限定されるものではない。例えば、実物の機械における各組み付け状態の静止画像、動画像を記録するにあたり、上記の実施形態では、機械の生産工程に伴って記録することとしているが、機械の分解工程に伴って記録しても構わない。また、上記の実施形態では、機械の組み付け状態を、RFIDリーダー5で検出した部品情報に基づいて識別することとしているが、組み付け対象の機械の重量変化に基づいて機械の組み付け状態を識別することとしてもよい。   Further, the present invention is not limited to the above embodiment. For example, in recording the still image and moving image of each assembled state in a real machine, in the above embodiment, it is recorded along with the production process of the machine. It doesn't matter. In the above embodiment, the assembly state of the machine is identified based on the component information detected by the RFID reader 5, but the assembly state of the machine is identified based on a change in the weight of the assembly target machine. It is good.

また、記録した画像データを利用するにあたり、上記の実施形態では仮想空間に配置された3次元の機械オブジェクトにテクスチャ画像をマッピングする例を説明したが、2次元オブジェクトに記録した画像データをマッピングさせても構わない。さらに、上記の実施形態では、仮想空間に配置されたアバターの動作に応じて機械オブジェクトを動作させる際に、当該動作を記録した実写の動画像を再生することとしたが、実空間側で機械を動作させた場合に、当該動作に連動して仮想空間側で対応する動画像を再生させる等して、実空間と仮想空間とを連動させることとしてもよい。   Further, in the above-described embodiment, the example in which the texture image is mapped to the three-dimensional machine object arranged in the virtual space when using the recorded image data has been described. However, the image data recorded in the two-dimensional object is mapped. It doesn't matter. Furthermore, in the above embodiment, when a machine object is operated in accordance with the motion of an avatar arranged in the virtual space, a live-action moving image in which the motion is recorded is reproduced. May be operated, the real space and the virtual space may be linked by, for example, reproducing the corresponding moving image on the virtual space side in conjunction with the operation.

1 画像処理システム、2 生産ライン、3 撮像装置、4 回転台、5 RFIDリーダー、7 データベース、7A 工程管理情報格納部、7B 撮像条件格納部、7C 撮像画像格納部、7D 組み付け履歴格納部、7E 仮想空間データ格納部、7F モデリングデータ格納部、10 画像記録装置、20 画像処理装置、30 クライアント装置、40 部品情報取得部、42 撮像条件取得部、44 撮像画像取得部、46 記録部、50 通信部、52 仮想空間制御部、54 記録画像取得部、56 テクスチャ画像生成部、58 表示画像生成部。   DESCRIPTION OF SYMBOLS 1 Image processing system 2 Production line 3 Imaging device 4 Turntable 5 RFID reader 7 Database 7A Process management information storage part 7B Imaging condition storage part 7C Captured image storage part 7D Assembly history storage part 7E Virtual space data storage unit, 7F modeling data storage unit, 10 image recording device, 20 image processing device, 30 client device, 40 component information acquisition unit, 42 imaging condition acquisition unit, 44 captured image acquisition unit, 46 recording unit, 50 communication Unit, 52 virtual space control unit, 54 recorded image acquisition unit, 56 texture image generation unit, 58 display image generation unit.

Claims (5)

機械を構成する複数の部品の少なくとも一部を組み付けた組み付け状態ごとに、当該組み付け状態を撮像する撮像条件を関連づけて格納した撮像条件情報を参照する手段と、
前記機械を生産する工程の1又は複数の各時点において、当該機械の組み付け状態を識別する識別手段と、
前記識別手段により識別した組み付け状態に関連づけて前記撮像条件情報に格納された撮像条件に基づいて当該組み付け状態の機械を撮像した撮像画像を記録する記録手段と、
指定された所与の組み付け状態に関連づけて前記記録手段により撮像画像が記録されていない場合に、該所与の組み付け状態で組み付けられる一部の部品が組み付けられた第1の組み付け状態について前記記録手段により記録された第1の撮像画像に、該所与の組み付け状態で組み付けられる他の一部の部品を組み付けた第2の組み付け状態に関連付けられる第2の撮像画像から抽出した前記他の一部の部品の画像を重畳して、前記所与の組み付け状態に対応するテクスチャ画像を生成するテクスチャ画像生成手段と、
前記所与の組み付け状態における前記機械の形状を表す2次元又は3次元模型の表面に前記生成したテクスチャ画像をマッピングして表示画像を生成する表示画像生成手段と、
を含むことを特徴とする画像処理システム
Means for referring to imaging condition information stored in association with imaging conditions for imaging the assembly state for each assembly state in which at least a part of a plurality of parts constituting the machine is assembled;
Identification means for identifying the assembly state of the machine at each of one or more points in the process of producing the machine;
Recording means for recording a captured image obtained by capturing the machine in the assembly state based on the imaging condition stored in the imaging condition information in association with the assembly state identified by the identification unit;
In the case where a captured image is not recorded by the recording means in association with a specified given assembling state, the recording is performed for the first assembling state in which some parts to be assembled in the given assembling state are assembled. The other one extracted from the second captured image associated with the second assembled state in which some other parts assembled in the given assembled state are assembled to the first captured image recorded by the means. Texture image generation means for generating a texture image corresponding to the given assembly state by superimposing images of parts of the part;
Display image generation means for generating a display image by mapping the generated texture image on the surface of a two-dimensional or three-dimensional model representing the shape of the machine in the given assembly state;
An image processing system comprising:
前記撮像条件情報は、前記機械の1又は複数の動作ごとに当該動作を撮像する撮像条件を関連づけて格納し、
前記記録手段は、前記機械が動作を行う際に、当該動作に関連づけて前記撮像条件情報に格納された撮像条件に基づいて当該動作を撮像した動画像を記録する
ことを特徴とする請求項1に記載の画像処理システム
The imaging condition information is stored in association with imaging conditions for imaging the operation for each of one or more operations of the machine,
The said recording means records the moving image which image | photographed the said operation | movement based on the imaging condition stored in the said imaging condition information linked | related with the said operation | movement when the said machine performs an operation | movement. The image processing system described in 1.
前記機械を生産する工程の各時点において、前記機械に組み付けられる部品を検出する手段をさらに含み、
前記識別手段は、前記検出した部品に基づいて前記機械の組み付け状態を識別する
ことを特徴とする請求項1又は2に記載の画像処理システム
Means for detecting parts assembled to the machine at each point in the process of producing the machine;
The image processing system according to claim 1, wherein the identification unit identifies an assembly state of the machine based on the detected component.
前記記録手段は、前記識別手段により識別した組み付け状態の機械を少なくとも三方向から撮像した撮像画像を記録する
ことを特徴とする請求項1乃至3のいずれかに記載の画像処理システム
The image processing system according to any one of claims 1 to 3, wherein the recording unit records a captured image obtained by capturing the assembled machine identified by the identifying unit from at least three directions.
機械を構成する複数の部品の少なくとも一部を組み付けた組み付け状態ごとに、当該組み付け状態を撮像する撮像条件を関連づけて格納した撮像条件情報を参照する手段と、
前記機械の組み付け工程の1又は複数の各時点において、当該機械の組み付け状態を識別する識別手段と、
前記識別手段により識別した組み付け状態に関連づけて前記撮像条件情報に格納された撮像条件に基づいて当該組み付け状態の機械を撮像した撮像画像を記録する記録手段と、
指定された所与の組み付け状態に関連づけて前記記録手段により撮像画像が記録されていない場合に、該所与の組み付け状態で組み付けられる一部の部品が組み付けられた第1の組み付け状態について前記記録手段により記録された第1の撮像画像に、該所与の組み付け状態で組み付けられる他の一部の部品を組み付けた第2の組み付け状態に関連付けられる第2の撮像画像から抽出した前記他の一部の部品の画像を重畳して、前記所与の組み付け状態に対応するテクスチャ画像を生成するテクスチャ画像生成手段と、
前記所与の組み付け状態における前記機械の形状を表す2次元又は3次元模型の表面に前記生成したテクスチャ画像をマッピングして表示画像を生成する表示画像生成手段
としてコンピュータを機能させるためのプログラム。
Means for referring to imaging condition information stored in association with imaging conditions for imaging the assembly state for each assembly state in which at least a part of a plurality of parts constituting the machine is assembled;
Identifying means for identifying the assembly state of the machine at each of one or more points in the assembly process of the machine;
Recording means for recording a captured image obtained by capturing the machine in the assembly state based on the imaging condition stored in the imaging condition information in association with the assembly state identified by the identification unit ;
In the case where a captured image is not recorded by the recording means in association with a specified given assembling state, the recording is performed for the first assembling state in which some parts to be assembled in the given assembling state are assembled. The other one extracted from the second captured image associated with the second assembled state in which some other parts assembled in the given assembled state are assembled to the first captured image recorded by the means. Texture image generation means for generating a texture image corresponding to the given assembly state by superimposing images of parts of the part;
A program for causing a computer to function as display image generation means for generating a display image by mapping the generated texture image on the surface of a two-dimensional or three-dimensional model representing the shape of the machine in the given assembly state .
JP2009134011A 2009-06-03 2009-06-03 Image recording apparatus, image generating apparatus, image processing system, and program Expired - Fee Related JP5304451B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009134011A JP5304451B2 (en) 2009-06-03 2009-06-03 Image recording apparatus, image generating apparatus, image processing system, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009134011A JP5304451B2 (en) 2009-06-03 2009-06-03 Image recording apparatus, image generating apparatus, image processing system, and program

Publications (2)

Publication Number Publication Date
JP2010282342A JP2010282342A (en) 2010-12-16
JP5304451B2 true JP5304451B2 (en) 2013-10-02

Family

ID=43539028

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009134011A Expired - Fee Related JP5304451B2 (en) 2009-06-03 2009-06-03 Image recording apparatus, image generating apparatus, image processing system, and program

Country Status (1)

Country Link
JP (1) JP5304451B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7445460B2 (en) 2020-03-05 2024-03-07 株式会社Fuji work system

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ES2176018T3 (en) * 1998-06-30 2002-11-16 Siemens Ag DEVICE AND PROCEDURE FOR THE CREATION OF A VIRTUAL INSTALLATION MODEL.
JP2003150230A (en) * 2001-11-14 2003-05-23 Sharp Corp Operation picture management system and method

Also Published As

Publication number Publication date
JP2010282342A (en) 2010-12-16

Similar Documents

Publication Publication Date Title
JP6144826B2 (en) Interactive and automatic 3D object scanning method for database creation
US9443353B2 (en) Methods and systems for capturing and moving 3D models and true-scale metadata of real world objects
JP5134664B2 (en) Annotation device
JP2010079453A (en) Apparatus for generating position-and-orientation estimation model, position and orientation calculation device, image processor, and method for the same
JP6202981B2 (en) Information processing program, information processing apparatus, information processing system, and information processing method
WO2022105415A1 (en) Method, apparatus and system for acquiring key frame image, and three-dimensional reconstruction method
JP2010026818A (en) Image processing program, image processor, and image processing method
JP2014071850A (en) Image processing apparatus, terminal device, image processing method, and program
JP7353782B2 (en) Information processing device, information processing method, and program
JP2009169768A (en) Information processor and program
JPWO2019244944A1 (en) 3D reconstruction method and 3D reconstruction device
JP2019176378A (en) Control device, monitoring system, and monitoring camera control method
JP4537779B2 (en) Imaging apparatus and image processing method
JP5304451B2 (en) Image recording apparatus, image generating apparatus, image processing system, and program
JP2022131778A5 (en)
US11410398B2 (en) Augmenting live images of a scene for occlusion
KR102082277B1 (en) Method for generating panoramic image and apparatus thereof
WO2007108101A1 (en) Information terminal device
JP5843359B2 (en) Information processing system, server device, terminal device, information processing device, information processing method, and program
CN111242107B (en) Method and electronic device for setting virtual object in space
JP4562183B2 (en) Information processing method and information processing apparatus
JP2002135807A (en) Method and device for calibration for three-dimensional entry
JP5220799B2 (en) Imaging apparatus and image processing method
JP2016004466A (en) Information creation device and method, terminal device, computer program and recording medium
JP2012104986A (en) Multiple ledger sheet scanning method and multiple ledger sheet scanning program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120518

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130422

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130528

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130610

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5304451

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees