JP5662088B2 - Remote visual inspection device - Google Patents
Remote visual inspection device Download PDFInfo
- Publication number
- JP5662088B2 JP5662088B2 JP2010203114A JP2010203114A JP5662088B2 JP 5662088 B2 JP5662088 B2 JP 5662088B2 JP 2010203114 A JP2010203114 A JP 2010203114A JP 2010203114 A JP2010203114 A JP 2010203114A JP 5662088 B2 JP5662088 B2 JP 5662088B2
- Authority
- JP
- Japan
- Prior art keywords
- image data
- image
- movement amount
- unit
- resolution
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02E—REDUCTION OF GREENHOUSE GAS [GHG] EMISSIONS, RELATED TO ENERGY GENERATION, TRANSMISSION OR DISTRIBUTION
- Y02E30/00—Energy generation of nuclear origin
- Y02E30/30—Nuclear fission reactors
Description
本発明は、遠隔目視検査装置に関する。 The present invention relates to a remote visual inspection apparatus.
原子力発電プラントでは、原子炉の健全性を確認するために、原子炉内の構造物の目視検査が定期的に実施されている。その目視検査では、検査員の被爆を防ぐために、直接目視ではなく、間接目視が行われている。間接目視では、検査員は、水中テレビカメラ等の撮像装置を遠隔操作し、表示装置に映し出される撮像装置が撮影した映像に基づいて、検査対象の表面の欠陥の有無を検査する。 In a nuclear power plant, a visual inspection of a structure in the nuclear reactor is regularly performed in order to confirm the soundness of the nuclear reactor. In the visual inspection, in order to prevent the inspector from being exposed, indirect visual inspection is performed instead of direct visual inspection. In indirect visual inspection, an inspector remotely operates an imaging device such as an underwater television camera, and inspects for the presence or absence of defects on the surface of the inspection target based on an image captured by the imaging device displayed on the display device.
従来、間接目視に用いられる撮像装置の遠隔操作では、検査員の指示に従って、作業員がワイヤや操作ポール等を手動で操作している。従って、狭隘な部分に撮像装置を挿入する場合には、カメラを制御することが困難である。その結果、検査員が検査対象に撮像装置を接近させたい場合であっても、作業員は、検査対象に撮像装置を十分に接近させることはできない。その結果、目視検査に必要な視点から撮影した映像が得られない。 Conventionally, in remote operation of an imaging apparatus used for indirect viewing, an operator manually operates a wire, an operation pole, or the like according to an inspector's instruction. Therefore, it is difficult to control the camera when the imaging device is inserted into a narrow portion. As a result, even if the inspector wants the imaging device to approach the inspection target, the worker cannot sufficiently bring the imaging device close to the inspection target. As a result, it is not possible to obtain an image taken from a viewpoint necessary for visual inspection.
また、撮像装置を静止させることも困難である。従って、撮像装置が撮影した映像に手振れ感が生じる。その結果、目視検査に必要な視点から撮影した映像が得られず、且つ、検査員の目の疲労を招く。 It is also difficult to make the imaging device stationary. Therefore, a feeling of camera shake occurs in the video imaged by the imaging device. As a result, images taken from the viewpoint necessary for visual inspection cannot be obtained, and the eyes of the inspector are fatigued.
これらの問題を解決するために、特許文献1では、撮像装置が撮影した映像の時系列画像から、撮像装置が撮影した映像の画像より高い解像度を有する高解像度画像を作成する技術が開示されている。
In order to solve these problems,
しかしながら、特許文献1の技術では、高解像度画像を作成するためには、複数の画像に対する画像処理が必要である。従って、画像処理の時間が長くなる。その結果、映像を表示装置にリアルタイムに映し出すことができず、表示装置に映し出される映像が間欠的になり、検査員が違和感を覚えてしまうという問題がある。
However, in the technique of
本発明は、上記の問題を解決するためになされたものであって、目視検査に必要な視点から撮影した映像を得ること、撮像装置が撮影した映像の手振れ感を除去すること、及び高解像度画像を用いて映像を表示装置にリアルタイムに映し出すための、遠隔目視検査装置を提供することを目的とする。 The present invention has been made to solve the above-described problem, and obtains an image taken from a viewpoint necessary for visual inspection, eliminates a feeling of camera shake of an image taken by an imaging device, and high resolution. An object of the present invention is to provide a remote visual inspection device for displaying an image on a display device in real time using an image.
本実施形態によれば、
移動しながら検査対象の表面の映像を撮影する撮像部と、
前記映像を構成する少なくとも2つの画像データの特徴量の差に基づいて、前記撮像部の位置及び姿勢の変化量である移動量を計算する移動量計算部と、
前記移動量の履歴を格納する移動量メモリと、
前記移動量の履歴に基づいて、検査員にとって目視検査に好適な前記撮像部の位置及び姿勢の好適位置を推定する位置推定部と、
前記好適位置に基づいて前記画像データに幾何変換を施すことにより、前記好適位置に対応する処理画像データを生成する画像変換部と、を備えることを特徴とする遠隔目視検査装置が提供される。
According to this embodiment,
An imaging unit that captures an image of the surface of the inspection object while moving;
A movement amount calculation unit that calculates a movement amount that is a change amount of the position and orientation of the imaging unit based on a difference between feature amounts of at least two image data constituting the video;
A movement amount memory for storing the movement amount history;
Based on the history of the movement amount, a position estimation unit that estimates a suitable position of the imaging unit and a posture suitable for visual inspection for an inspector;
There is provided a remote visual inspection apparatus comprising: an image conversion unit that generates processed image data corresponding to the preferred position by performing geometric transformation on the image data based on the preferred position.
本発明によれば、目視検査に必要な視点から撮影した映像を得ることができ、撮像装置が撮影した映像の手振れ感を除去することができ、且つ高解像度画像を用いて映像を表示装置にリアルタイムに映し出すことができる。 According to the present invention, it is possible to obtain an image captured from a viewpoint necessary for visual inspection, to eliminate the hand shake feeling of the image captured by the imaging device, and to display the image on a display device using a high resolution image. Can be projected in real time.
以下、本実施形態について、図面を参照して詳細に説明する。 Hereinafter, the present embodiment will be described in detail with reference to the drawings.
本実施形態に係る遠隔目視検査装置について説明する。図1は、本実施形態に係る遠隔目視検査装置1の構成を示すブロック図である。
A remote visual inspection apparatus according to this embodiment will be described. FIG. 1 is a block diagram showing a configuration of a remote
図1に示すように、第1実施形態に係る遠隔目視検査装置1は、画像処理装置10と、遠隔操作装置20と、撮像装置30と、表示装置40と、インタフェース50と、を備え、LAN(Local Area Network)等のネットワーク60に接続される。
As shown in FIG. 1, the remote
遠隔操作装置20は、撮像装置20を操作する装置である。遠隔操作装置20は、ネットワーク60に接続される。検査員の指示に従って作業員が遠隔操作装置20を操作すると、遠隔操作装置20は、作業員の操作に基づいて制御信号CTRを生成する。次いで、遠隔操作装置20は、制御信号CTRを撮像装置30に送信する。
The
撮像装置30は、発電プラント内を移動しながら発電プラントの検査対象の表面の映像を撮影する装置である。撮像装置30は、遠隔操作装置20から送信された制御信号CTRを受信する。次いで、撮像装置30は、制御信号CTRに従って移動しながら検査対象の映像を撮影する。次いで、撮像装置30は、撮影した映像の複数のフレームF0〜Fn(nは1以上の整数)を構成する複数の画像データIMG0〜IMGnを生成する。次いで、撮像装置30は、複数の画像データIMG0〜IMGnを画像処理装置10に供給する。例えば、撮像装置30は、水中テレビカメラであり、ワイヤやポール等で支持され、検査対象の付近に近づいたときに検査対象の表面の映像を撮影することにより、複数の画像データIMG0〜IMGnを生成する。
The
インタフェース50は、画像処理装置10に対する設定情報CONFを受け取るとともに、画像処理装置10の処理結果のデータ(以下、「処理データ」という)Dを送信するモジュールである。インタフェース50は、設定情報CONFを受け取る。次いで、インタフェース50は、設定情報CONFを画像処理装置10に供給する。また、インタフェース50は、画像処理装置10から処理データDを受け取る。次いで、インタフェース50は、処理データDを送信する。例えば、インタフェース50は、設定情報CONFを、キーボード等の入力デバイス(図示せず)から受け取っても良いし、ネットワーク60を介して接続されたネットワーク端末(図示せず)から受け取っても良い。また、インタフェース50は、処理データDを、遠隔操作装置20に送信しても良いし、ネットワーク端末に送信しても良い。
The
画像処理装置10は、画像データIMGに画像処理を施す装置である。画像処理装置10は、撮像装置30から複数の画像データIMG0〜IMGnを受け取る。次いで、画像処理装置10は、複数の画像データIMG0〜IMGnに画像処理を施すことにより、複数の処理画像データIMG´0〜IMG´nを生成する。次いで、画像処理装置10は、複数の処理画像データIMG´0〜IMG´nを表示装置40に供給するとともに、処理データDをインタフェース50に供給する。
The
表示装置40は、映像を表示する装置である。表示装置40は、画像処理装置10から複数の処理画像データIMG´0〜IMG´nを受け取る。次いで、表示装置40は、複数の処理画像データIMG´0〜IMG´nにより構成されるフレームF0〜Fnを再生することにより、検査対象の表面の映像を表示する。例えば、表示装置40は、LCD(Liquid Crystal Display)である。
The
以下、画像処理装置10が、複数の画像データIMG0〜IMGnに画像処理を施すことにより、複数の処理画像データIMG´0〜IMG´nを生成する例について説明する。なお、以下では、画像処理装置10の処理の対象となる画像データ(以下、「対象画像データ」という)を“IMGi(iは0〜nの整数)”と表す。
Hereinafter, the
(第1実施形態)
第1実施形態について説明する。第1実施形態は、撮像装置の移動量の履歴に基づいて好適位置を推定し、推定した好適位置に基づいて画像データに幾何変換を施す例である。
(First embodiment)
A first embodiment will be described. The first embodiment is an example in which a suitable position is estimated based on the movement amount history of the imaging apparatus, and geometric transformation is performed on the image data based on the estimated suitable position.
第1実施形態に係る画像処理装置10について説明する。図2は、第1実施形態に係る画像処理装置10の構成を示すブロック図である。
The
図2に示すように、第1実施形態に係る画像処理装置10は、移動量計算部11と、移動量メモリ12と、位置推定部13と、画像変換部14と、を備える。
As illustrated in FIG. 2, the
移動量計算部11は、撮像装置30の位置及び姿勢の変化量(以下、「移動量」という)を計算するモジュールである。移動量計算部11は、撮像装置30から複数の画像データIMGi〜IMGnを受け取るとともに、インタフェース50から設定情報CONF(アルゴリズム)を受け取る。次いで、移動量計算部11は、設定情報CONF(アルゴリズム)を用いて、対象画像データIMGiの特徴量Siと、対象画像データIMGiにより構成されるフレームFiより前のフレーム(以下、「前フレーム」という)Fi−k(kは1〜nの整数)を構成する画像データ(以下、「参照画像データ」という)IMGi−kの特徴量Si−kと、を比較することにより、撮像装置30の移動量(すなわち、参照画像データIMGi−kを生成したときの撮像装置30の位置及び姿勢と対象画像データiを生成したときの撮像装置30の位置及び姿勢との差)を計算する。すなわち、移動量計算部11は、撮像装置30により撮影された映像を構成する少なくとも2つの画像データの特徴量の差に基づいて、撮像装置30の移動量を計算する。次いで、移動量計算部11は、移動量を表す移動量情報Miを生成する。次いで、移動量計算部11は、移動量情報Miを移動量メモリ12に格納する。
The movement
移動量メモリ12は、移動量情報Miを格納するモジュールである。すなわち、移動量メモリ12には、移動量の履歴が格納される。図3に示すように、移動量の履歴は、画像データIMGi及び移動量情報Miの組み合わせである。移動量情報Miは、対象画像データIMGiを生成したときの撮像装置30の位置の変化量を表す位置変化量Li及び撮像装置30の姿勢の変化量を表す姿勢変化量Piを含む。
位置推定部13は、検査員にとって目視検査に好適な撮像装置30の位置及び姿勢(以下、「好適位置」という)を推定するモジュールである。位置推定部13は、移動量メモリ12に格納された移動量の履歴に基づいて好適位置を推定する。次いで、位置推定部13は、好適位置を表す好適位置情報PPiを生成する。次いで、位置推定部13は、好適位置情報PPiを画像変換部14に供給する。
The
画像変換部14は、対象画像データIMGiに幾何変換を施すモジュールである。画像変換部14は、撮像装置30から複数の画像データIMG0〜IMGnを受け取り、位置推定部13から好適位置情報PPiを受け取るとともに、インタフェース50から設定情報CONF(アルゴリズム)を受け取る。次いで、画像変換部14は、設定情報CONF(アルゴリズム)を用いて、対象画像データIMGiに幾何変換を施すことにより、好適位置情報PPiに対応する処理画像データIMG´iを生成する。処理画像データIMG´iの生成が繰り返されることにより、複数の処理画像データIMG´0〜IMG´nが生成される。次いで、画像変換部14は、複数の処理画像データIMG´0〜IMG´nを表示装置40に供給する。
The
第1実施形態に係る遠隔目視検査装置1の動作について説明する。図4は、第1実施形態に係る遠隔目視検査処理の手順を示すフローチャートである。図5は、図4の遠隔目視検査処理を説明するための概略図である。
The operation of the remote
図4の遠隔目視検査処理は、検査員が作業員に対して遠隔操作装置20を操作するための指示を行うことにより開始する。
The remote visual inspection process in FIG. 4 starts when the inspector gives an instruction to the operator to operate the
<図4:遠隔操作(S401)> 遠隔操作装置20は、作業員の操作に基づいて制御信号CTRを生成する。次いで、遠隔操作装置20は、制御信号CTRを撮像装置30に送信する。これにより、撮像装置30が遠隔操作される。
<FIG. 4: Remote Operation (S401)> The
<図4:撮像(S402)> 撮像装置30は、制御信号CTRに従って移動しながら検査対象の映像を撮影する。次いで、撮像装置30は、撮影した映像の複数のフレームF0〜Fnを構成する複数の画像データIMG0〜IMGnを生成する。次いで、撮像装置30は、複数の画像データIMG0〜IMGnを画像処理装置10に供給する。
<FIG. 4: Imaging (S402)> The
<図4:移動量計算(S403)> 移動量計算部11は、設定情報CONF(アルゴリズム)を用いて、対象画像データIMGiの特徴量Siと参照画像データIMGi−kの特徴量Si−kとを比較することにより、撮像装置30の移動量を計算する。次いで、移動量計算部11は、移動量を表す移動量情報Miを生成する。次いで、移動量計算部11は、移動量情報Miを移動量メモリ12に格納する。これにより、図3に示すように、移動量メモリ12に移動量の履歴が格納される。
<FIG. 4: Movement Amount Calculation (S403)> The movement
例えば、撮像装置30が単純に並進移動した場合(すなわち、撮像装置30の位置が変化し、撮像装置30の姿勢が変化しなかった場合)には、移動量計算部11は、参照画像データIMGi−kの輝度及び対象画像データIMGiの輝度を用いたブロックマッチング法により、参照画像データIMGi−kを生成したときの撮像装置30と対象画像データIMGiを生成したときの撮像装置30との間の相対的な移動量を計算する。
For example, when the
例えば、撮像装置30が回転移動した場合(すなわち、撮像装置30の位置及び姿勢が変化した場合)には、移動量計算部11は、ハリスオペレータを用いて、参照画像データIMGi−kの特徴点Si−kと、対象画像データIMGiの特徴点Siと、を抽出する。次いで、移動量計算部11は、ランザック法を用いて、2つの特徴点Si−k,Siに基づいて、参照画像データIMGi−kを生成したときの撮像装置30に対する対象画像データIMGiを生成したときの撮像装置30の移動量を表現するホモグラフィ行列を生成する。次いで、移動量計算部11は、ホモグラフィ行列により特徴点Si−kと特徴点Siとを関連付けることにより、撮像装置30の移動量を計算する。
For example, when the
<図4:好適位置推定(S404)> 位置推定部13は、移動量メモリ12に格納された移動量の履歴に基づいて好適位置を推定する。次いで、位置推定部13は、好適位置を表す好適位置情報PPiを生成する。次いで、位置推定部13は、好適位置情報PPiを画像変換部14に供給する。例えば、好適位置情報PPiは、撮像装置30が静止している状態又は低速で等速移動をしている状態を表す情報である。
<FIG. 4: Preferential Position Estimation (S <b>404)> The
<図4:画像変換(S405)> 画像変換部14は、設定情報CONF(アルゴリズム)を用いて、好適位置情報PPiに基づいて対象画像データIMGiに幾何変換を施すことにより、処理画像データIMG´iを生成する。例えば、幾何変換は、アフィン変換である。処理画像データIMG´iの生成が繰り返されることにより、複数の処理画像データIMG´0〜IMG´nが生成される。次いで、画像変換部14は、複数の処理画像データIMG´0〜IMG´nを表示装置40に供給する。
<FIG. 4: Image Conversion (S405)> The
例えば、作業員が遠隔操作装置20を操作していない場合には、図5に示すように、画像変換部14は、参照画像データIMGi−kの特徴点Si−kの位置と対象画像データIMGiの特徴点Siの位置とが略等しくなるように、対象画像データIMGiに幾何変換を施す。これにより、撮像装置30が静止している状態で撮影した映像と同等の映像が得られる。
For example, when the worker is not operating the
例えば、作業員が遠隔操作装置20を操作している場合には、画像変換部14は、制御信号CTRに基づいて撮像装置30の運動モデルを等速運動モデルと推定し、推定した等速運動モデルに従って対象画像データIMGiに幾何変換を施すことにより、処理画像データIMG´iを生成する。具体的には、画像変換部14は、対象画像データIMGiの特徴点Siが等速運動する又はホモグラフィ行列が時間的に同一になるように、対象画像データIMGiに幾何変換を施す。これにより、撮像装置30が低速で等速運動している状態で撮影した映像と同等の映像が得られる。
For example, when a worker is operating the
<図4:表示(S406)> 表示装置40は、複数の処理画像データIMG´0〜IMG´nにより構成されるフレームF0〜Fnを再生することにより、映像を表示する。表示(S406)が終了すると、図4の遠隔目視検査処理が終了する。
<Figure 4: Display (S406)>
第1実施形態によれば、位置推定部13が移動量の履歴に基づいて好適位置情報PPiを推定し、画像変換部14が好適位置情報PPiに基づいて画像データIMGに幾何変換を施す。これにより、目視検査に必要な視点から撮影した映像であって、手振れ感の少ない映像を得ることができる。その結果、目視検査の精度を改善することができ、且つ、検査員の目の疲労を軽減することができる。さらに、作業員が撮像装置30を静止させるように遠隔操作装置20を操作しなくても、撮像装置30が静止している状態で撮影した映像と同等の映像を得ることができる。その結果、作業員の負担を軽減することができ、且つ、遠隔目視検査の所要時間を短縮することができる。
According to the first embodiment, the
(第2実施形態)
第2実施形態について説明する。第2実施形態は、第1実施形態に対して係る画像処理装置と比べて、検査員が定めた選別条件に適合する画像データを選別する画像選別部が追加された画像処理装置の例である。なお、上記の実施形態と同様の説明は省略する。
(Second Embodiment)
A second embodiment will be described. The second embodiment is an example of an image processing apparatus in which an image sorting unit that sorts image data that meets the sorting conditions determined by the inspector is added as compared to the image processing apparatus according to the first embodiment. . In addition, the description similar to said embodiment is abbreviate | omitted.
第2実施形態に係る画像処理装置10について説明する。図6は、第2実施形態に係る画像処理装置10の構成を示すブロック図である。
An
図6に示すように、第2実施形態に係る画像処理装置10は、移動量計算部11と、移動量メモリ12と、位置推定部13と、画像変換部14と、画像選別部15と、画像メモリ16と、を備える。移動量メモリ12及び位置推定部13は、第1実施形態と同様である。
As illustrated in FIG. 6, the
移動量計算部11は、撮像装置30の移動量を計算するモジュールである。移動量計算部11は、撮像装置30から複数の画像データIMGi〜IMGnを受け取るとともに、インタフェース50から設定情報CONF(アルゴリズム)を受け取る。次いで、移動量計算部11は、設定情報CONF(アルゴリズム)を用いて、対象画像データIMGiの特徴量Siと、参照画像データIMGi−kの特徴量Si−kと、を比較することにより、撮像装置30の移動量を計算する。すなわち、移動量計算部11は、撮像装置30により撮影された映像を構成する少なくとも2つの画像データの特徴量の差に基づいて、撮像装置30の移動量を計算する。次いで、移動量計算部11は、移動量を示す移動量情報Miを生成する。次いで、移動量計算部11は、移動量情報Miを、移動量メモリ12に格納するとともに、画像選別部15に供給する。
The movement
画像選別部15は、対象画像データIMGiを選別するモジュールである。画像選別部15は、移動量計算部11から移動量Miを受け取り、撮像装置30から対象画像データIMGiを受け取るとともに、インタフェース50から設定情報CONF(選別条件)を受け取る。次いで、画像選別部15は、移動量Miに基づいて、対象画像データIMGiが設定情報CONF(選別条件)に適合するか否かを判定する。次いで、画像選別部15は、設定情報CONF(選別条件)に適合する対象画像データIMGiを画像メモリ16に格納し、設定情報CONF(選別条件)に適合しない対象画像データIMGiを破棄する。例えば、設定情報CONF(選別条件)は、検査員が任意に定める情報であって、“対象画像データIMGiにより構成されるフレームFiの視野が、参照画像データIMGi−kにより構成される前フレームFi−kの視野と異なる”、というものである。具体的には、設定情報CONF(選別条件)は、コントラスト、明るさ、及び範囲等の値を含む。これにより、異なる視野の映像に必要十分な画像データが画像メモリ16に格納される。
The
画像メモリ16は、画像選別部15により選別された対象画像データIMGiを格納するモジュールである。すなわち、画像メモリ16には、検査員が所望する条件(例えば、コントラスト、明るさ、範囲)に適合する対象画像データIMGiが格納される。
The
画像変換部14は、対象画像データIMGiに幾何変換を施すモジュールである。画像変換部14は、位置推定部13から好適位置情報PPiを受け取るとともに、インタフェース50から設定情報CONF(アルゴリズム)を受け取る。次いで、画像変換部14は、画像メモリ16から複数の対象画像データIMG0〜IMGnを読み出し、設定情報CONF(アルゴリズム)を用いて、対象画像データIMGiに幾何変換を施すことにより、好適位置情報PPiに対応する処理画像データIMG´iを生成する。処理画像データIMG´iの生成が繰り返されることにより、複数の処理画像データIMG´0〜IMG´nが生成される。次いで、画像変換部14は、複数の処理画像データIMG´0〜IMG´nを表示装置40に供給する。
The
第2実施形態に係る遠隔目視検査装置1の動作について説明する。図7は、第2実施形態に係る遠隔目視検査処理の手順を示すフローチャートである。図8は、図7の画像選別(S711)の手順を示すフローチャートである。
The operation of the remote
図7の遠隔目視検査処理は、検査員が作業員に対して遠隔操作装置20を操作するための指示を行うことにより開始する。
The remote visual inspection process in FIG. 7 starts when the inspector gives an instruction to the operator to operate the
<図7:遠隔操作(S701)及び撮像(S702)> 第1実施形態と同様である。 <FIG. 7: Remote Operation (S701) and Imaging (S702)> The same as in the first embodiment.
<図7:移動量計算(S703)> 移動量計算部11は、設定情報CONF(アルゴリズム)を用いて、対象画像データIMGiの特徴量Siと参照画像データIMGi−kの特徴量Si−kとを比較することにより、撮像装置30の移動量を計算する。次いで、移動量計算部11は、移動量を表す移動量情報Miを生成する。次いで、移動量計算部11は、計算した移動量を示す移動量情報Miを、移動量メモリ12に格納するとともに、画像選別部15に供給する。これにより、図3に示すように、移動量メモリ12に撮像装置30の移動量の履歴が格納されるとともに、移動量の履歴が画像選別部15に供給される。
<FIG. 7: Movement Amount Calculation (S703)> The movement
<図7:好適位置推定(S704)> 第1実施形態と同様である。 <FIG. 7: Preferential Position Estimation (S704)> The same as in the first embodiment.
<図7:画像選別(S711)> 画像選別部15は、移動量Miに基づいて、対象画像データIMGiが設定情報CONF(選別条件)に適合するか否かを判定する。例えば、画像選別(S711)は、図8の手順で実行される。
<FIG. 7: Image Sorting (S711)> The
<図8:S801> 画像選別部15は、移動量Miと移動量の閾値Mthとを比較する。移動量の閾値Mthは、設定情報CONF(選別条件)に含まれる。移動量Miが閾値Mthより大きい場合(すなわち、対象画像データIMGiにより構成されるフレームFiの視野が前フレームFi−kの視野と異なる場合)には(S801−YES)、対象画像データ格納(S802)が実行される。移動量Miが閾値Mth以下である場合(すなわち、対象画像データIMGiにより構成されるフレームFiの視野が前フレームFi−kの視野と同じ場合)には(S801−NO)、対象画像データ破棄(S811)が実行される。
<Figure 8: S801>
<図8:対象画像データ格納(S802)> 画像選別部15は、対象画像データIMGiを画像メモリ16に格納する。対象画像データ格納(S802)が終了すると、図8の画像選別が終了する。
<FIG. 8: Target Image Data Storage (S802)> The
<図8:対象画像データ破棄(S811)> 画像選別部15は、対象画像データIMGiを破棄する。対象画像データ破棄(S811)が終了すると、図8の画像選別が終了する。
<FIG. 8: Discarding Target Image Data (S811)> The
<図7:画像変換(S705)> 画像変換部14は、画像メモリ16から対象画像データIMGiを読み出し、設定情報CONF(アルゴリズム)を用いて、好適位置情報PPiに基づいて対象画像データIMGiに幾何変換を施すことにより、処理画像データIMG´iを生成する。処理画像データIMG´iの生成が繰り返されることにより、複数の処理画像データIMG´0〜IMG´nが生成される。次いで、画像変換部14は、複数の処理画像データIMG´0〜IMG´nを表示装置40に供給する。
<FIG. 7: Image Conversion (S705)> The
<図7:表示(S706)> 第1実施形態と同様である。表示(S706)が終了すると、図7の遠隔目視検査処理が終了する。 <FIG. 7: Display (S706)> The same as in the first embodiment. When the display (S706) ends, the remote visual inspection process of FIG. 7 ends.
第2実施形態によれば、画像選別部15が、設定情報CONF(選別条件)に適合する対象画像データIMGiを画像メモリ16に格納し、設定情報CONF(選別条件)に適合しない対象画像データIMGiを破棄する。これにより、撮像装置30が撮影した映像の手振れ感等に起因して撮像装置30の移動量が大きくなる場合であっても、撮像装置30の視野の大きさに近い映像を得ることができる。その結果、目視検査の効率が改善する。
According to the second embodiment, the
(第3実施形態)
第3実施形態について説明する。第3実施形態は、第2実施形態に係る画像処理装置と比べて、高解像度画像データを生成する高解像度画像生成部が追加された画像処理装置の例である。なお、上記の実施形態と同様の説明は省略する。
(Third embodiment)
A third embodiment will be described. The third embodiment is an example of an image processing apparatus to which a high resolution image generation unit that generates high resolution image data is added as compared with the image processing apparatus according to the second embodiment. In addition, the description similar to said embodiment is abbreviate | omitted.
第3実施形態に係る画像処理装置10について説明する。図9は、第3実施形態に係る画像処理装置10の構成を示すブロック図である。
An
図9に示すように、第3実施形態に係る画像処理装置10は、移動量計算部11と、移動量メモリ12と、位置推定部13と、画像変換部14と、画像選別部15と、画像メモリ16と、高解像度画像生成部17と、を備える。移動量計算部11、移動量メモリ12、位置推定部13、画像選別部15、及び画像メモリ16は、第2実施形態と同様である。
As illustrated in FIG. 9, the
画像変換部14は、対象画像データIMGiに幾何変換を施すモジュールである。画像変換部14は、位置推定部13から好適位置情報PPiを受け取るとともに、インタフェース50から設定情報CONF(アルゴリズム)を受け取る。次いで、画像変換部14は、画像メモリ16から複数の対象画像データIMG0〜IMGnを読み出し、設定情報CONF(アルゴリズム)を用いて、対象画像データIMGiに幾何変換を施すことにより、好適位置情報PPiに対応する処理画像データIMG´iを生成する。処理画像データIMG´iの生成が繰り返されることにより、複数の処理画像データIMG´0〜IMG´nが生成される。次いで、画像変換部14は、複数の処理画像データIMG´0〜IMG´nを高解像度画像生成部17及び表示装置40に供給する。
The
高解像度画像生成部17は、高解像度画像データHIMGiを生成するモジュールである。高解像度画像データHIMGiは、処理画像データIMG´iの解像度より高い解像度を有する。高解像度画像生成部17は、画像変換部14から処理画像データIMG´iを受け取るとともに、インタフェース50から設定情報CONF(アルゴリズム)を受け取る。次いで、高解像度画像生成部17は、画像メモリ16から少なくとも1つの対象画像データIMGiを読み出し、設定情報CONF(アルゴリズム)を用いて、処理画像データIMG´iと対象画像データIMGiとを合成することにより、高解像度画像データHIMGiを生成する。高解像度画像データHIMGiの生成が繰り返されることにより、複数の高解像度画像データHIMG0〜HIMGnが生成される。次いで、高解像度画像生成部17は、複数の高解像度画像データHIMG0〜HIMGnを表示装置40に供給する。
The high resolution
表示装置40は、画像処理装置10から複数の処理画像データIMG´0〜IMG´n及び複数の高解像度画像データHIMG0〜HIMGnを受け取る。次いで、表示装置40は、複数の処理画像データIMG´0〜IMG´nにより構成されるフレームF0〜Fnを再生することにより通常の解像度の映像を表示するとともに、複数の高解像度画像データHIMG0〜HIMGnにより構成される高解像度フレームHF0〜HFnを再生することにより高解像度の映像を表示する。これにより、表示装置40には、通常の解像度の映像及び高解像度の映像が同時に表示される。
The
第3実施形態に係る遠隔目視検査装置1の動作について説明する。図10は、第3実施形態に係る遠隔目視検査処理の手順を示すフローチャートである。
The operation of the remote
図10の遠隔目視検査処理は、検査員が作業員に対して遠隔操作装置20を操作するための指示を行うことにより開始する。
The remote visual inspection process in FIG. 10 starts when the inspector gives an instruction to the operator to operate the
<図10:遠隔操作(S1001)〜好適位置推定(S1004)、及び画像選別(S1011)> 第2実施形態と同様である。 <FIG. 10: Remote Operation (S1001) to Predicting Preferred Position (S1004) and Image Sorting (S1011)> The same as in the second embodiment.
<図10:画像変換(S1005)> 画像変換部14は、画像メモリ16から対象画像データIMGiを読み出し、設定情報CONF(アルゴリズム)を用いて、好適位置情報PPiに基づいて対象画像データIMGiに幾何変換を施すことにより、処理画像データIMG´iを生成する。処理画像データIMG´iの生成が繰り返されることにより、複数の処理画像データIMG´0〜IMG´nが生成される。次いで、画像変換部14は、複数の処理画像データIMG´0〜IMG´nを高解像度画像生成部17及び表示装置40に供給する。
<FIG. 10: Image Conversion (S1005)> The
<図10:高解像度画像生成(S1006)> 高解像度画像生成部17は、画像メモリ16から少なくとも1つの対象画像データIMGiを読み出し、設定情報CONF(アルゴリズム)を用いて、処理画像データIMG´iと対象画像データIMGiとを合成することにより、高解像度画像データHIMGiを生成する。高解像度画像データHIMGiの生成が繰り返されることにより、複数の高解像度画像データHIMG0〜HIMGnが生成される。次いで、高解像度画像生成部17は、複数の高解像度画像データHIMG0〜HIMGnを表示装置40に供給する。
<FIG. 10: High-Resolution Image Generation (S1006)> The high-resolution
例えば、図11に示すように、高解像度画像生成部17は、パラボラフィッティング等の手法を用いて、処理画像データIMG´iにより構成されるフレームF´iと、対象画像データIMGiにより構成されるフレームFiと、が重なるように、処理画像データIMG´iと対象画像データIMGiとを合成する。フレームF´iは特定画素PEL´iを含む。フレームFiは特定画素PELiを含む。その結果、特定画素PEL´i及び特定画素PELiが重なった部分が高解像度画素HPELiになる。高解像度画素HPELiの値は、特定画素PEL´iの値と特定画素PELiの値の平均値であり、特定画素PELiの値の2倍である。すなわち、高解像度画素HPELiの解像度は、特定画素PEL´iの解像度の2倍である。これにより、高解像度画像データHIMGiにより構成される高解像度フレームHFiが得られる。高解像度フレームHFiは高解像度画素HPELiを含む。
For example, as shown in FIG. 11, the high resolution
なお、高解像度画像生成部17は、処理画像データIMG´iと、複数の対象画像データIMGi−k〜IMGiと、を合成することにより、高解像度画像データHIMGiを生成しても良い。
The high resolution
また、高解像度画像生成部17は、撮像装置30から供給される画像データIMGiと、画像変換部14から供給される処理画像データIMG´iと、を合成することにより、高解像度画像データHIMGiを生成しても良い。この場合には、画像選別部15及び画像メモリ16は省略される。
The high resolution
<図10:表示(S1007)> 表示装置40は、複数の処理画像データIMG´0〜IMG´nにより構成されるフレームF0〜Fn及び複数の高解像度画像データHIMG0〜HIMGnにより構成される高解像度フレームHF0〜HFnを再生することにより、通常の解像度の映像及び高解像度の映像を表示する。表示(S1007)が終了すると、図10の遠隔目視検査処理が終了する。
<Figure 10: Display (S1007)>
第3実施形態によれば、解像度画像生成部17が、高解像度画像データHIMGiを生成する。これにより、検査員は、通常の解像度の映像と高解像度の映像と、を比較しながら、目視検査を行うことができる。その結果、目視検査の精度が改善する。
According to the third embodiment, the resolution
(第4実施形態)
第4実施形態について説明する。第4実施形態は、第3実施形態に係る画像処理装置と比べて、高解像度画像データに幾何変換を施す高解像度画像変換部が追加された画像処理装置の例である。なお、上記の実施形態と同様の説明は省略する。
(Fourth embodiment)
A fourth embodiment will be described. The fourth embodiment is an example of an image processing apparatus in which a high-resolution image conversion unit that performs geometric conversion on high-resolution image data is added as compared with the image processing apparatus according to the third embodiment. In addition, the description similar to said embodiment is abbreviate | omitted.
第4実施形態に係る画像処理装置10について説明する。図12は、第4実施形態に係る画像処理装置10の構成を示すブロック図である。
An
図12に示すように、第4実施形態に係る画像処理装置10は、移動量計算部11と、移動量メモリ12と、位置推定部13と、画像変換部14と、画像選別部15と、画像メモリ16と、高解像度画像生成部17と、高解像度画像変換部18と、を備える。移動量計算部11、移動量メモリ12、画像変換部14、画像選別部15、及び画像メモリ16は、第3実施形態と同様である。
As shown in FIG. 12, the
位置推定部13は、好適位置を推定するモジュールである。位置推定部13は、移動量メモリ12に格納された移動量の履歴に基づいて好適位置を推定する。次いで、位置推定部13は、好適位置を表す好適位置情報PPiを生成する。次いで、位置推定部13は、好適位置情報PPiを画像変換部14及び高解像度画像変換部18に供給する。
The
高解像度画像生成部17は、高解像度画像データHIMGiを生成するモジュールである。高解像度画像生成部17は、画像変換部14から処理画像データIMG´iを受け取るとともに、インタフェース50から設定情報CONF(アルゴリズム)を受け取る。次いで、高解像度画像生成部17は、画像メモリ16から少なくとも1つの対象画像データIMGiを読み出し、設定情報CONF(アルゴリズム)を用いて、処理画像データIMG´iと対象画像データIMGiとを合成することにより、高解像度画像データHIMGiを生成する。高解像度画像データHIMGiの生成が繰り返されることにより、複数の高解像度画像データHIMG0〜HIMGnが生成される。次いで、高解像度画像生成部17は、複数の高解像度画像データHIMG0〜HIMGnを高解像度画像変換部18に供給する。
The high resolution
高解像度画像変換部18は、高解像度画像データHIMGiに幾何変換を施すモジュールである。高解像度画像変換部18は、高解像度画像生成部17から高解像度画像データHIMGiを受け取り、位置推定部13から好適位置情報PPiを受け取るとともに、インタフェース50から設定情報CONF(アルゴリズム)を受け取る。次いで、高解像度画像変換部18は、設定情報CONF(アルゴリズム)を用いて、好適位置情報PPiに基づいて高解像度画像データHIMGiに幾何変換を施すことにより、好適位置情報PPiに対応する高解像度処理画像データHIMG´iを生成する。高解像度処理画像データHIMG´iの生成が繰り返されることにより、複数の高解像度処理画像データHIMG´0〜HIMG´nが生成される。次いで、高解像度画像変換部18は、複数の高解像度処理画像データHIMG´0〜HIMG´nを表示装置40に供給する。
The high resolution
表示装置40は、画像処理装置10から複数の処理画像データIMG´0〜IMG´n及び複数の高解像度処理画像データHIMG´0〜HIMG´nを受け取る。次いで、表示装置40は、複数の処理画像データIMG´0〜IMG´nにより構成されるフレームF0〜Fnを再生することにより通常の解像度の映像を表示するとともに、複数の高解像度処理画像データHIMG´0〜HIMG´nにより構成される高解像度フレームHF´0〜HF´nを再生することにより高解像度の映像を表示する。これにより、表示装置40には、通常の解像度の映像及び高解像度の映像が同時に表示される。
The
第4実施形態に係る遠隔目視検査装置1の動作について説明する。図13は、第4実施形態に係る遠隔目視検査処理の手順を示すフローチャートである。
An operation of the remote
図13の遠隔目視検査処理は、検査員が作業員に対して遠隔操作装置20を操作するための指示を行うことにより開始する。
The remote visual inspection process in FIG. 13 starts when the inspector gives an instruction to the operator to operate the
<図13:遠隔操作(S1301)〜移動量計算(S1303)> 第3実施形態と同様である。 <FIG. 13: Remote Operation (S1301) to Travel Calculation (S1303)> The same as in the third embodiment.
<図13:好適位置推定(S1304)> 位置推定部13は、移動量メモリ12に格納された移動量の履歴に基づいて好適位置を推定する。次いで、位置推定部13は、好適位置を表す好適位置情報PPiを生成する。次いで、位置推定部13は、好適位置情報PPiを画像変換部14及び高解像度画像変換部18に供給する。
<FIG. 13: Preferential Position Estimation (S <b>1304)> The
<図13:画像選別(S1311)及び画像変換(S1305)> 第3実施形態と同様である。 <FIG. 13: Image Selection (S1311) and Image Conversion (S1305)> The same as in the third embodiment.
<図13:高解像度画像生成(S1306)> 高解像度画像生成部17は、画像メモリ16から少なくとも1つの対象画像データIMGiを読み出し、設定情報CONF(アルゴリズム)を用いて、処理画像データIMG´iと対象画像データIMGiとを合成することにより、高解像度画像データHIMGiを生成する。高解像度画像データHIMGiの生成が繰り返されることにより、複数の高解像度画像データHIMG0〜HIMGnが生成される。次いで、高解像度画像生成部17は、複数の高解像度画像データHIMG0〜HIMGnを高解像度画像変換部18に供給する。
<FIG. 13: High-Resolution Image Generation (S1306)> The high-resolution
<図13:高解像度画像変換(S1307)> 高解像度画像変換部18は、設定情報CONF(アルゴリズム)を用いて、好適位置情報PPiに基づいて高解像度画像データHIMGiに幾何変換を施すことにより、好適位置情報PPiに対応する高解像度処理画像データHIMG´iを生成する。高解像度処理画像データHIMG´iの生成が繰り返されることにより、複数の高解像度処理画像データHIMG´0〜HIMG´nが生成される。例えば、幾何変換は、アフィン変換である。次いで、高解像度画像変換部18は、複数の高解像度処理画像データHIMG´0〜HIMG´nを表示装置40に供給する。
<FIG. 13: High-Resolution Image Conversion (S1307)> The high-resolution
<図13:表示(S1308)> 表示装置40は、複数の処理画像データIMG´0〜IMG´nにより構成されるフレームF0〜Fn及び複数の高解像度処理画像データHIMG´0〜HIMG´nにより構成される高解像度フレームHF´0〜HF´nを再生することにより、通常の解像度の映像及び高解像度の映像を表示する。表示(S1308)が終了すると、図13の遠隔目視検査処理が終了する。
<Figure 13: Display (S1308)>
第4実施形態によれば、解像度画像変換部18が、好適位置情報PPiに基づいて高解像度画像データHIMGiに幾何変換を施す。これにより、目視検査に必要な視点から撮影した映像であって、手振れ感が少なく且つ高解像度の映像を得ることができる。従って、検査員は、より細かく且つより疲労を感じることなく、目視検査を行うことができる。その結果、目視検査の精度が改善する。
According to the fourth embodiment, the resolution
(第5実施形態)
第5実施形態について説明する。第5実施形態は、第4実施形態に係る画像処理装置と比べて、好適位置の履歴を格納する位置メモリが追加された画像処理装置の例である。なお、上記の実施形態と同様の説明は省略する。
(Fifth embodiment)
A fifth embodiment will be described. The fifth embodiment is an example of an image processing apparatus to which a position memory for storing a history of suitable positions is added as compared with the image processing apparatus according to the fourth embodiment. In addition, the description similar to said embodiment is abbreviate | omitted.
第5実施形態に係る画像処理装置10について説明する。図14は、第5実施形態に係る画像処理装置10の構成を示すブロック図である。
An
図14に示すように、第5実施形態に係る画像処理装置10は、移動量計算部11と、移動量メモリ12と、位置推定部13と、画像変換部14と、画像選別部15と、画像メモリ16と、高解像度画像生成部17と、高解像度画像変換部18と、位置メモリ19と、を備える。移動量計算部11、移動量メモリ12、画像変換部14、画像選別部15、画像メモリ16、及び高解像度画像生成部17は、第4実施形態と同様である。
As illustrated in FIG. 14, the
位置推定部13は、好適位置を推定するモジュールである。位置推定部13は、移動量メモリ12に格納された移動量の履歴に基づいて好適位置を推定する。次いで、位置推定部13は、好適位置を表す好適位置情報PPiを生成する。次いで、位置推定部13は、好適位置情報PPiを、画像変換部14に供給するとともに、位置メモリ19に格納する。
The
位置メモリ19は、好適位置情報PPiを格納するモジュールである。すなわち、位置メモリ19には、好適位置の履歴が格納される。
The
高解像度画像変換部18は、高解像度画像データHIMGiに幾何変換を施すモジュールである。高解像度画像変換部18は、高解像度画像生成部17から高解像度画像データHIMGiを受け取るとともに、インタフェース50から設定情報CONF(アルゴリズム)を受け取る。次いで、高解像度画像変換部18は、位置メモリ19から好適位置情報PPiを読み出し、設定情報CONF(アルゴリズム)を用いて、好適位置情報PPiに基づいて高解像度画像データHIMGiに幾何変換を施すことにより、好適位置情報PPiに対応する高解像度処理画像データHIMG´iを生成する。高解像度処理画像データHIMG´iの生成が繰り返されることにより、複数の高解像度処理画像データHIMG´0〜HIMG´nが生成される。次いで、高解像度画像変換部18は、複数の高解像度処理画像データHIMG´0〜HIMG´nを表示装置40に供給する。
The high resolution
第5実施形態に係る遠隔目視検査装置1の動作について説明する。第5実施形態に係る遠隔目視検査処理は、図13の手順で実行される。
The operation of the remote
図13の遠隔目視検査処理は、検査員が作業員に対して遠隔操作装置20を操作するための指示を行うことにより開始する。
The remote visual inspection process in FIG. 13 starts when the inspector gives an instruction to the operator to operate the
<図13:遠隔操作(S1301)〜移動量計算(S1303)> 第4実施形態と同様である。 <FIG. 13: Remote Operation (S1301) to Travel Calculation (S1303)> The same as in the fourth embodiment.
<図13:好適位置推定(S1304)> 位置推定部13は、移動量メモリ12に格納された移動量の履歴に基づいて好適位置を推定する。次いで、位置推定部13は、好適位置を表す好適位置情報PPiを生成する。次いで、位置推定部13は、好適位置情報PPiを画像変換部14に供給するとともに、位置メモリ19に格納する。
<FIG. 13: Preferential Position Estimation (S <b>1304)> The
<図13:画像選別(S1311)、画像変換(S1305)、高解像度画像生成(S1306)> 第4実施形態と同様である。 <FIG. 13: Image Selection (S1311), Image Conversion (S1305), High-Resolution Image Generation (S1306)> The same as in the fourth embodiment.
<図13:高解像度画像変換(S1307)> 高解像度画像変換部18は、位置メモリ19から好適位置情報PPiを読み出し、設定情報CONF(アルゴリズム)を用いて、好適位置情報PPiに基づいて高解像度画像データHIMGiに幾何変換を施すことにより、好適位置情報PPiに対応する高解像度処理画像データHIMG´iを生成する。高解像度処理画像データHIMG´iの生成が繰り返されることにより、複数の高解像度処理画像データHIMG´0〜HIMG´nが生成される。次いで、高解像度画像変換部18は、複数の高解像度処理画像データHIMG´0〜HIMG´nを表示装置40に供給する。
<FIG. 13: High-Resolution Image Conversion (S1307)> The high-resolution
<図13:表示(S1308)> 第4実施形態と同様である。表示(S1308)が終了すると、図13の遠隔目視検査処理が終了する。 <FIG. 13: Display (S1308)> The same as in the fourth embodiment. When the display (S1308) ends, the remote visual inspection process of FIG. 13 ends.
第5実施形態によれば、高解像度画像変換部18が好適位置の履歴に基づいて高解像度画像データHIMGiに幾何変換を施す。これにより、通常の解像度の映像と高解像度の映像とを同時に表示するときに、通常の解像度の映像のフレームF0〜Fnが再生されるタイミングに対する、高解像度の映像のフレームHF0〜HFnが再生されるタイミングの遅延(以下、「フレーム遅延」という)や、高解像度の映像のフレームHF0〜HFnのフレーム損失に起因して映像が間欠的になる現象(以下、「コマ送り」という)を回避することができる。その結果、目視検査の効率が改善する。
According to the fifth embodiment, the high-resolution
(第6実施形態)
第6実施形態について説明する。第6実施形態は、第5実施形態に係る画像処理装置と比べて、撮像装置の位置を予測する予測部が追加された画像処理装置の例である。なお、上記の実施形態と同様の説明は省略する。
(Sixth embodiment)
A sixth embodiment will be described. The sixth embodiment is an example of an image processing device in which a prediction unit that predicts the position of the imaging device is added as compared with the image processing device according to the fifth embodiment. In addition, the description similar to said embodiment is abbreviate | omitted.
第6実施形態に係る画像処理装置10について説明する。図15は、第6実施形態に係る画像処理装置10の構成を示すブロック図である。
An
図15に示すように、第6実施形態に係る画像処理装置10は、移動量計算部11と、移動量メモリ12と、位置推定部13と、画像変換部14と、画像選別部15と、画像メモリ16と、高解像度画像生成部17と、高解像度画像変換部18と、位置メモリ19と、予測部21と、を備える。移動量計算部11、移動量メモリ12、位置推定部13、画像変換部14、画像選別部15、画像メモリ16、高解像度画像生成部17、及び位置メモリ19は、第5実施形態と同様である。
As illustrated in FIG. 15, the
予測部21は、撮像装置30の移動方向を予測するモジュールである。予測部21は、移動量メモリ12に格納された移動量の履歴に基づいて、撮像装置30がどの位置にどのような姿勢で移動するのか(以下、「移動パターン」という)を予測することにより、予測結果を表す予測情報PREiを生成する。次いで、予測部21は、予測情報PREiを高解像度画像変換部18及びインタフェース50に供給する。
The
図16に示すように、予測情報PREiは、対象画像データIMGi毎に生成される。予測情報PREiは、対象画像データIMGiを生成したときの撮像装置30の移動パターンから予測される対象画像データIMGi+1を生成するときの撮像装置30の位置を表す予測位置情報PRELiと、対象画像データIMGiを生成したときの撮像装置30の移動パターンから予測される対象画像データIMGi+1を生成するときの撮像装置30の姿勢を表す予測姿勢情報PREPiと、を含む。
As shown in FIG. 16, the prediction information PRE i is generated for each target image data IMG i . Prediction information PRE i is the prediction position information PREL i representing the position of the
高解像度画像変換部18は、高解像度画像データHIMGiに幾何変換を施すモジュールである。高解像度画像変換部18は、高解像度画像生成部17から高解像度画像データHIMGiを受け取り、予測部21から予測情報PREiを受け取るとともに、インタフェース50から設定情報CONF(アルゴリズム)を受け取る。次いで、高解像度画像変換部18は、位置メモリ19に格納された好適位置情報PPiを読み出し、設定情報CONF(アルゴリズム)を用いて、好適位置情報PPi及び予測情報PREiに基づいて高解像度画像データHIMGiに幾何変換を施すことにより、好適位置情報PPi及び予測情報PREiに対応する高解像度処理画像データHIMG´iを生成する。高解像度処理画像データHIMG´iの生成が繰り返されることにより、複数の高解像度処理画像データHIMG´0〜HIMG´nが生成される。次いで、高解像度画像変換部18は、複数の高解像度処理画像データHIMG´0〜HIMG´nを表示装置40に供給する。
The high resolution
インタフェース50は、予測部21から予測情報PREiを受け取る。次いで、インタフェース50は、予測情報PREiを処理データDとして、遠隔操作装置20又はネットワーク端末に送信する。
The
第6実施形態に係る遠隔目視検査装置1の動作について説明する。図17は、第6実施形態に係る予測処理の手順を示すフローチャートである。
The operation of the remote
図17の遠隔目視検査処理は、検査員が作業員に対して遠隔操作装置20を操作するための指示を行うことにより開始する。
The remote visual inspection process in FIG. 17 starts when the inspector gives an instruction to the operator to operate the
<図17:遠隔操作(S1701)〜高解像度画像生成(S1706)、及び画像選別(S1711)> 第5実施形態と同様である。 <FIG. 17: Remote Operation (S1701) to High-Resolution Image Generation (S1706) and Image Selection (S1711)> The same as in the fifth embodiment.
<図17:予測(S1707)> 予測部21は、移動量メモリ12に格納された移動量の履歴に基づいて、撮像装置30の移動パターンを予測することにより、予測結果を表す予測情報PREiを生成する。次いで、予測部21は、予測情報PREiを高解像度画像変換部18及びインタフェース50に撮像装置30のサンプリング周期と同じ周期で供給する。
<FIG. 17: Prediction (S <b>1707)> The
例えば、予測部21は、撮像装置30の運動を等加速度運動又は等速運動に近似し、近似した移動パターンがマルコフモデルにより仮定可能である場合に、カルマンフィルタを用いて統計的且つ線形的に撮像装置30の移動パターンを予測する。これにより、予測情報PREiが生成される。
For example, the
<図17:高解像度画像変換(S1708)> 高解像度画像変換部18は、設定情報CONF(アルゴリズム)を用いて、好適位置情報PPi及び予測情報PREiに基づいて高解像度画像データHIMGiに幾何変換を施すことにより、好適位置情報PPi及び予測情報PREiに対応する高解像度処理画像データHIMG´iを生成する。高解像度処理画像データHIMG´iの生成が繰り返されることにより、複数の高解像度処理画像データHIMG´0〜HIMG´nが生成される。次いで、高解像度画像変換部18は、複数の高解像度処理画像データHIMG´0〜HIMG´nを表示装置40に供給する。
<FIG. 17: High Resolution Image Conversion (S1708)> The high resolution
<図17:表示(S1709)> 第5実施形態と同様である。 <FIG. 17: Display (S1709)> The same as in the fifth embodiment.
<図17:送信(S1710)> インタフェース50は、予測情報PREiを処理データDとして、遠隔操作装置20又はネットワーク端末に送信する。遠隔操作装置20又はネットワーク端末では、予測情報PREi及びPREiに対応する撮像装置30の移動パターンのグラフィカルモデルが表示される。送信(S1710)が終了すると、図17の遠隔目視検査処理が終了する。
<FIG. 17: Transmission (S <b>1710)> The
第6実施形態によれば、予測部21が撮像装置30の移動パターンを予測することにより予測情報PREiを高解像度画像変換部18に供給する。これにより、第5実施形態と比べて、通常の解像度の映像と高解像度の映像とを同時に表示するときに、フレーム遅延やコマ送りをより回避することができる。その結果、第5実施形態と比べて、目視検査の効率がより改善する。
According to the sixth embodiment, the
また、第6実施形態によれば、予測情報PREiがインタフェース50を介して遠隔操作装置20又はネットワーク端末に送信される。これにより、作業員は、予測情報PREiを見ながら遠隔操作装置20を操作することができる。その結果、作業員の遠隔操作装置20の操作の負担が低減する。
Further, according to the sixth embodiment, the prediction information PRE i is transmitted to the
本発明の実施形態に係る遠隔目視検査装置1の少なくとも一部は、ハードウェアで構成しても良いし、ソフトウェアで構成しても良い。ソフトウェアで構成する場合には、遠隔目視検査装置1の少なくとも一部の機能を実現するプログラムをフレキシブルディスクやCD−ROM等の記録媒体に収納し、コンピュータに読み込ませて実行させても良い。記録媒体は、磁気ディスクや光ディスク等の着脱可能なものに限定されず、ハードディスク装置やメモリなどの固定型の記録媒体でも良い。
At least a part of the remote
また、本発明の実施形態に係る遠隔目視検査装置1の少なくとも一部の機能を実現するプログラムを、インターネット等の通信回線(無線通信も含む)を介して頒布しても良い。さらに、同プログラムを暗号化したり、変調をかけたり、圧縮した状態で、インターネット等の有線回線や無線回線を介して、あるいは記録媒体に収納して頒布しても良い。
Moreover, you may distribute the program which implement | achieves at least one part function of the remote
なお、本発明は、上述した実施形態に限定されるものではなく、その要旨を逸脱しない範囲で構成要素を変形して具体化される。また、上述した実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明が形成可能である。例えば、上述した実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。 In addition, this invention is not limited to embodiment mentioned above, It deform | transforms and implements a component in the range which does not deviate from the summary. Various inventions can be formed by appropriately combining a plurality of constituent elements disclosed in the above-described embodiments. For example, you may delete a some component from all the components shown by embodiment mentioned above. Furthermore, constituent elements over different embodiments may be appropriately combined.
1 遠隔目視検査装置
10 画像処理装置
11 移動量計算部
12 移動量メモリ
13 位置推定部
14 画像変換部
15 画像選別部
16 画像メモリ
17 高解像度画像生成部
18 高解像度画像変換部
19 位置メモリ
20 操作装置
21 予測部
30 撮像装置
40 表示装置
50 インタフェース
60 ネットワーク
DESCRIPTION OF
Claims (7)
前記映像を構成する少なくとも2つの画像データの特徴量の差に基づいて、前記撮像部の位置及び姿勢の変化量である移動量を計算する移動量計算部と、
前記移動量の履歴を格納する移動量メモリと、
前記移動量の履歴に基づいて、検査員にとって目視検査に好適な前記撮像部の位置及び姿勢の好適位置を推定する位置推定部と、
前記好適位置に基づいて前記画像データに幾何変換を施すことにより、前記好適位置に対応する処理画像データを生成する画像変換部と、
前記画像データと前記処理画像データとを合成することにより、前記処理画像データの解像度より高い解像度を有する高解像度画像データを生成する高解像度画像生成部と、を備えることを特徴とする遠隔目視検査装置。 An imaging unit that captures an image of the surface of the inspection object while moving;
A movement amount calculation unit that calculates a movement amount that is a change amount of the position and orientation of the imaging unit based on a difference between feature amounts of at least two image data constituting the video;
A movement amount memory for storing the movement amount history;
Based on the history of the movement amount, a position estimation unit that estimates a suitable position of the imaging unit and a posture suitable for visual inspection for an inspector;
An image conversion unit that generates processed image data corresponding to the preferred position by performing geometric transformation on the image data based on the preferred position;
A remote visual inspection comprising: a high-resolution image generation unit that generates high-resolution image data having a higher resolution than the resolution of the processed image data by combining the image data and the processed image data apparatus.
前記選別条件に適合する画像データを格納する画像メモリと、を備え、
前記画像変換部は、前記画像メモリに格納された画像データに幾何変換を施す、請求項1に記載の遠隔目視検査装置。 An image selection unit that determines whether the image data meets a predetermined selection condition based on the movement amount;
An image memory for storing image data that conforms to the selection conditions,
The remote visual inspection apparatus according to claim 1, wherein the image conversion unit performs geometric conversion on image data stored in the image memory.
前記高解像度画像変換部は、前記移動量の履歴に基づいて前記高解像度画像データに幾何変換を施す、請求項3に記載の遠隔目視検査装置。 A movement amount memory for storing a history of the preferred position;
The remote visual inspection apparatus according to claim 3 , wherein the high-resolution image conversion unit performs geometric conversion on the high-resolution image data based on the movement amount history.
前記高解像度画像変換部は、前記移動パターンに基づいて前記高解像度画像データに幾何変換を施す、請求項4に記載の遠隔目視検査装置。 A prediction unit that predicts a movement pattern of the imaging unit based on the movement amount history;
The remote visual inspection apparatus according to claim 4 , wherein the high-resolution image conversion unit performs geometric conversion on the high-resolution image data based on the movement pattern.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010203114A JP5662088B2 (en) | 2010-09-10 | 2010-09-10 | Remote visual inspection device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010203114A JP5662088B2 (en) | 2010-09-10 | 2010-09-10 | Remote visual inspection device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2012058131A JP2012058131A (en) | 2012-03-22 |
JP5662088B2 true JP5662088B2 (en) | 2015-01-28 |
Family
ID=46055395
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010203114A Active JP5662088B2 (en) | 2010-09-10 | 2010-09-10 | Remote visual inspection device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5662088B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105158251A (en) * | 2015-09-01 | 2015-12-16 | 西南科技大学 | Test method for detonation velocity of nonel with defect |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6643937B2 (en) * | 2016-03-29 | 2020-02-12 | メタウォーター株式会社 | Control system operation system |
US9948843B2 (en) * | 2016-06-17 | 2018-04-17 | Mitutoyo Corporation | Super resolution bore imaging system |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4016A (en) * | 1845-04-26 | Improvement in the method of attaching a movable to the stationary keel of a vessel | ||
JP4119818B2 (en) * | 2003-11-05 | 2008-07-16 | 富士フイルム株式会社 | Signal processing apparatus, imaging apparatus, and signal processing method |
JP4695972B2 (en) * | 2005-12-14 | 2011-06-08 | キヤノン株式会社 | Image processing apparatus, imaging apparatus, and image processing method |
JP5367305B2 (en) * | 2007-10-03 | 2013-12-11 | 株式会社東芝 | Visual inspection apparatus and visual inspection method |
-
2010
- 2010-09-10 JP JP2010203114A patent/JP5662088B2/en active Active
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105158251A (en) * | 2015-09-01 | 2015-12-16 | 西南科技大学 | Test method for detonation velocity of nonel with defect |
Also Published As
Publication number | Publication date |
---|---|
JP2012058131A (en) | 2012-03-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109672886B (en) | Image frame prediction method and device and head display equipment | |
US7535497B2 (en) | Generation of static image data from multiple image data | |
US11222409B2 (en) | Image/video deblurring using convolutional neural networks with applications to SFM/SLAM with blurred images/videos | |
JP2006507609A (en) | Image capture and display system and method for generating composite image | |
US11494975B2 (en) | Method for analyzing three-dimensional model and device for analyzing three-dimensional model | |
US8330857B2 (en) | Display apparatus and control method thereof | |
US11599974B2 (en) | Joint rolling shutter correction and image deblurring | |
US20230300475A1 (en) | Image processing method and apparatus, and electronic device | |
TWI592903B (en) | Image processing device, image processing method and program | |
EP2684349A1 (en) | Video processing apparatus, video processing system, and video processing method | |
JP2020028096A (en) | Image processing apparatus, control method of the same, and program | |
JP5662088B2 (en) | Remote visual inspection device | |
JP5072736B2 (en) | Remote visual inspection support system and remote visual inspection support computer program | |
KR100972764B1 (en) | Image processing device, image processing method and recording medium embodying an image processing program | |
JP2013142636A (en) | Infrared target detector | |
CN113515193B (en) | Model data transmission method and device | |
JP4680087B2 (en) | Image transmission device | |
JP4750634B2 (en) | Image processing system, image processing apparatus, information processing apparatus, and program | |
JP2008301191A (en) | Video monitoring system, video monitoring control device, video monitoring control method, and video monitor controlling program | |
US20220337752A1 (en) | Image processing device, image processing method, non-transitory computer-readable storage medium | |
JP2009284411A (en) | Imaging apparatus | |
CN115835035A (en) | Image frame interpolation method, device and equipment and computer readable storage medium | |
JP2015191311A (en) | Image synthesis device, image synthesis method, and program | |
JP2013243574A (en) | Information processor, image pick-up device, and information processing method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130409 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20131129 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140613 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140806 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20141107 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20141204 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5662088 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |