JP4851931B2 - Human body shape measuring device and measuring method - Google Patents

Human body shape measuring device and measuring method Download PDF

Info

Publication number
JP4851931B2
JP4851931B2 JP2006355733A JP2006355733A JP4851931B2 JP 4851931 B2 JP4851931 B2 JP 4851931B2 JP 2006355733 A JP2006355733 A JP 2006355733A JP 2006355733 A JP2006355733 A JP 2006355733A JP 4851931 B2 JP4851931 B2 JP 4851931B2
Authority
JP
Japan
Prior art keywords
human body
slit
camera
light
reflected light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006355733A
Other languages
Japanese (ja)
Other versions
JP2008164491A (en
Inventor
浩孝 藤崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shima Seiki Manufacturing Ltd
Original Assignee
Shima Seiki Manufacturing Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shima Seiki Manufacturing Ltd filed Critical Shima Seiki Manufacturing Ltd
Priority to JP2006355733A priority Critical patent/JP4851931B2/en
Publication of JP2008164491A publication Critical patent/JP2008164491A/en
Application granted granted Critical
Publication of JP4851931B2 publication Critical patent/JP4851931B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

この発明は光切断法を用いた人体形状の測定に関し、特に測定時間を短縮することに関する。   The present invention relates to measurement of a human body shape using a light cutting method, and particularly relates to shortening measurement time.

スリット光を用いた人体形状の測定装置が知られている。この測定装置では、レーザ光源等から扇状をしたスリット光を取り出し人体に投影して、人体での反射光をカメラで撮像する。水平面に対するスリット光の角度が既知で、反射光の水平面からの角度がカメラ側で分かると、カメラを基準とする人体表面の3次元座標が判明する。1回のスリット光は面状に人体に触れ、カメラではスリット光で人体を切断したような画像が得られる。そしてスリット光の位置を変えながら、複数の高さで人体形状を求めると、人体表面の3次元形状が得られる。   A human body shape measuring apparatus using slit light is known. In this measuring apparatus, fan-shaped slit light is extracted from a laser light source or the like and projected onto a human body, and reflected light from the human body is imaged by a camera. If the angle of the slit light with respect to the horizontal plane is known and the angle of the reflected light from the horizontal plane is known on the camera side, the three-dimensional coordinates of the human body surface relative to the camera can be determined. One slit light touches the human body in a planar shape, and the camera can obtain an image as if the human body was cut by the slit light. When the human body shape is obtained at a plurality of heights while changing the position of the slit light, a three-dimensional shape of the human body surface is obtained.

特許文献1は、人体の基準となる位置にマーカを貼り付け、第1のスリット光で人体表面の形状を求め、第2のスリット光でマーカを検出して人体の主要データを取得することを提案している。
特許文献2は、複数の平行なスリット光を電子部品等の対象に照射し、同時に複数のラインに沿って3次元データを求めて、測定時間を短縮することを提案している。ただし特許文献2での測定対象は、電子部品、ハンダバンプ、導電性ペーストなどの単純なものである。
Patent Document 1 states that a marker is attached to a position serving as a reference of the human body, the shape of the human body surface is obtained with the first slit light, the marker is detected with the second slit light, and main data of the human body is obtained. is suggesting.
Patent Document 2 proposes to irradiate a target such as an electronic component with a plurality of parallel slit lights and simultaneously obtain three-dimensional data along a plurality of lines to shorten the measurement time. However, the measurement object in Patent Document 2 is a simple object such as an electronic component, a solder bump, or a conductive paste.

発明者は、人体形状の測定において、測定時間を短縮する必要があることを検討した。測定時間が長いと、被測定者が一定の姿勢を保つことが難しくなる。そこで複数のスリット光を同時に人体に照射することを検討したが、反射光がどのスリット光により得られたものであるかを判別することが困難であった。このため発明者は、人体からの反射光がどのスリット光によるものかを判別するための手法を検討し、この発明に到った。
特開2004−45222 特開2004−37317
The inventor considered that it is necessary to shorten the measurement time in measuring the human body shape. If the measurement time is long, it becomes difficult for the person to be measured to maintain a certain posture. Therefore, it was examined to irradiate a human body with a plurality of slit lights at the same time, but it was difficult to determine which slit light was used for the reflected light. For this reason, the inventor studied a technique for determining which slit light is the reflected light from the human body, and arrived at the present invention.
JP 2004-45222 A JP 2004-37317 A

この発明の基本的課題は、複数のスリット光を同時に照射した場合に、反射光がいずれのスリット光によるものかを自動的に判別できるようにして、人体形状を高速で測定できるようにすることにある。
この発明での追加の課題は、スリット光の判別をより確実に行うことにある。
この発明での補助的な課題は、同時に照射し得るスリット光の数を増して、測定時間をさらに短縮することにある。
The basic problem of the present invention is that when a plurality of slit lights are irradiated at the same time, it is possible to automatically determine which slit light is the reflected light so that the human body shape can be measured at high speed. It is in.
An additional problem of the present invention is to more reliably determine the slit light.
An auxiliary problem in the present invention is to further increase the number of slit lights that can be irradiated at the same time, thereby further reducing the measurement time.

この発明は、位置を変えて複数回、人体にスリット光を照射し、反射光をカメラで撮像して、人体の3次元形状を求める人体形状測定装置において、
複数のスリット光を同時に人体に照射するための光源と、
スリット光の照射位置を順次変更するための駆動部と、
該複数のスリット光の人体での反射光を撮像するカメラと、
前回のカメラ画像と今回のカメラ画像とを比較し、今回のカメラ画像での反射光を複数のスリット光のいずれかに割当てるための画像認識部と、
スリット光と前記反射光との組み合わせから、人体形状を求めるための演算部とを設けたことを特徴とする。
例えば複数のスリット光源とカメラとをステージに直線状に配置して、ステージとともに同時に運動させ、複数のスリット光は平行にして同時に人体へ照射する。
This invention is a human body shape measuring apparatus for obtaining a three-dimensional shape of a human body by irradiating a human body with slit light multiple times at different positions and imaging reflected light with a camera.
A light source for irradiating a human body with a plurality of slit lights simultaneously;
A drive unit for sequentially changing the irradiation position of the slit light;
A camera that images reflected light from the human body of the plurality of slit lights;
An image recognition unit for comparing the previous camera image with the current camera image, and assigning the reflected light in the current camera image to any of a plurality of slit lights,
An arithmetic unit for obtaining a human body shape from a combination of slit light and the reflected light is provided.
For example, a plurality of slit light sources and a camera are linearly arranged on a stage and moved simultaneously with the stage, and the plurality of slit lights are irradiated on the human body simultaneously in parallel.

この発明はまた、位置を変えて複数回、人体にスリット光を照射し、反射光をカメラで撮像して、人体の3次元形状を求める方法において、
同時に複数のスリット光が人体に照射されるようにしながら、スリット光を照射位置を変えて複数回照射し、
該複数のスリット光の人体での反射光をカメラで撮像し、
前回のカメラ画像と今回のカメラ画像とを比較し、今回のカメラ画像での反射光を複数のスリット光のいずれかに割当て、
スリット光と前記反射光との組み合わせから人体形状を求める、ことを特徴とする。
The present invention is also directed to a method for obtaining a three-dimensional shape of a human body by irradiating a human body with slit light a plurality of times at different positions and imaging reflected light with a camera.
While irradiating the human body with multiple slit lights at the same time, irradiate the slit light multiple times by changing the irradiation position,
The reflected light from the human body of the plurality of slit lights is imaged with a camera,
Compare the previous camera image with the current camera image, assign the reflected light from the current camera image to one of the slit lights,
A human body shape is obtained from a combination of slit light and the reflected light.

この明細書での人体形状測定装置に関する記載は、そのまま人体形状測定方法にも当てはまり、逆に人体形状測定方法に関する記載は、そのまま人体形状測定装置にも当てはまる。
この明細書で、カメラ画像は、カメラから得られた画像データや、カメラ画像から得られた人体の形状データを意味する。スリット光の割り当てができると、カメラ画像と人体の形状データは互換性があるデータなので、これらを簡単のため共にカメラ画像と呼ぶ。
The description relating to the human body shape measuring device in this specification also applies to the human body shape measuring method as it is, and conversely, the description relating to the human body shape measuring method also applies to the human body shape measuring device as it is.
In this specification, a camera image means image data obtained from a camera or human body shape data obtained from a camera image. If the slit light can be assigned, the camera image and the human body shape data are compatible data, and these are both referred to as a camera image for simplicity.

好ましくは、光源とカメラとを、共に駆動部により人体に対して移動させるようにすると共に、
画像認識部では、
・ 前回のカメラ画像を前回のカメラ位置で撮像した画像から、今回のカメラ位置で撮像した画像へ視点変換し、もしくは今回のカメラ画像を今回のカメラ位置で撮像した画像から、前回のカメラ位置で撮像した画像へ視点変換し、
・ 視点変換後の前回と今回のカメラ画像間の比較から、今回のカメラ画像での反射光を複数のスリット光のいずれかに割当てる。
特に好ましくは、前記複数のスリット光はそれぞれ人体とライン状に接触し、
画像認識部では、視点変換後のカメラ画像間の比較として、前回のカメラ画像での反射光のラインと、今回のカメラ画像での反射光のラインとの距離とを求める。
Preferably, the light source and the camera are both moved relative to the human body by the drive unit,
In the image recognition unit,
・ Convert the viewpoint of the previous camera image from the image captured at the previous camera position to the image captured at the current camera position, or convert the current camera image from the image captured at the current camera position to the previous camera position. Change the viewpoint to the captured image,
-From the comparison between the previous and current camera images after the viewpoint conversion, the reflected light in the current camera image is assigned to one of a plurality of slit lights.
Particularly preferably, each of the plurality of slit lights contacts the human body in a line shape,
The image recognition unit obtains the distance between the reflected light line in the previous camera image and the reflected light line in the current camera image as a comparison between the camera images after the viewpoint conversion.

また好ましくは、少なくとも4個の昇降台の各々に、少なくとも一対のスリット光源とカメラとを取り付けて、前記駆動部で人体の周囲を昇降させ、
対角線位置にある2個の昇降台のスリット光源から同時に人体にスリット光を照射する。
Preferably, at least a pair of slit light sources and a camera are attached to each of at least four lifting platforms, and the periphery of the human body is moved up and down by the drive unit,
The human body is simultaneously irradiated with slit light from the slit light sources of the two elevators at the diagonal positions.

この発明では前回のカメラ画像と今回のカメラ画像とを比較し、今回のカメラ画像での反射光をいずれかのスリット光に割当てる。前回のカメラ画像での反射光はいずれかのスリット光に割り当て済みで、今回のカメラ画像での反射光は前回のカメラ画像での反射光に対して所定範囲の位置にあるので、前回のカメラ画像と今回のカメラ画像とを比較すると、今回のカメラ画像の反射光をいずれかのスリット光に割当てることができる。このため複数のスリット光を同時に照射して人体形状を求めることができ、これに伴って短時間で人体形状を測定できる。   In the present invention, the previous camera image and the current camera image are compared, and the reflected light from the current camera image is assigned to one of the slit lights. The reflected light in the previous camera image has been assigned to one of the slit lights, and the reflected light in the current camera image is in a predetermined range with respect to the reflected light in the previous camera image. When the image and the current camera image are compared, the reflected light of the current camera image can be assigned to any slit light. For this reason, a human body shape can be calculated | required by irradiating several slit light simultaneously, and a human body shape can be measured in a short time in connection with this.

前回のカメラ画像と今回のカメラ画像とでカメラ位置が異なる場合、視点変換によりカメラ位置を揃えると、画像の比較をより正確に行える。
前回のカメラ画像での反射ラインと今回のカメラ画像での反射ラインとの距離を求めると、距離が小さければ2つのスリット光は近接しており、距離が大きければ2つのスリット光は離れていると推定できるので、今回のカメラ画像での反射ラインをより確実にスリット光に割り当てることができる。
When the camera position differs between the previous camera image and the current camera image, the images can be compared more accurately by aligning the camera positions by viewpoint conversion.
When the distance between the reflection line in the previous camera image and the reflection line in the current camera image is obtained, the two slit lights are close if the distance is small, and the two slit lights are separated if the distance is large. Therefore, the reflection line in the current camera image can be more reliably assigned to the slit light.

4個あるいは6個などの昇降台を人体を取り囲むように配置し、対角線位置に有る2個の昇降台から同時に各少なくとも一対のスリット光を照射した場合、対角線上の昇降台からのスリット光はノイズになり難いので、同時に照射するスリット光の数を4以上にできる。従って、測定時間をさらに短縮できる。   When four or six elevators are arranged so as to surround the human body, and at least a pair of slit lights are irradiated simultaneously from two elevators at diagonal positions, the slit light from the elevators on the diagonal line is Since it is difficult for noise to occur, the number of slit lights simultaneously irradiated can be increased to four or more. Therefore, the measurement time can be further shortened.

以下にこの発明を実施するための最良の形態を示すが、これに限るものではない。   The best mode for carrying out the present invention will be described below, but the present invention is not limited to this.

図1〜図12に、実施例の人体形状測定装置2とその変形とを示す。各図において、3は台で、被測定者が立つための台である。台3の例えば4隅に、ステージ6の昇降ガイドを兼ねる支柱4を設け、ステージ6を支柱4に沿って昇降させる。7はステージ6からのスリット光で、水平面からの傾斜角は例えばφで、扇状の面状のレーザービームで、人体にはライン状に接触する。測定装置2の天井部にミリ波レーダ8を設けて、被測定者の身長を測定する。ミリ波レーダ8に代えて、複数のカメラで人体形状を撮影し、大まかな人体の3次元形状を求めてもよい。またミリ波レーダ8は設けなくてもよい。10はコンピュータで、ステージ6やミリ波レーダ8を制御する。   FIGS. 1-12 shows the human body shape measuring apparatus 2 of an Example and its deformation | transformation. In each figure, 3 is a table for the person to be measured to stand. For example, at four corners of the table 3, pillars 4 that also serve as lifting guides for the stage 6 are provided, and the stage 6 is moved up and down along the pillars 4. Reference numeral 7 denotes slit light from the stage 6, and the inclination angle from the horizontal plane is φ, for example, a fan-shaped planar laser beam that contacts the human body in a line. A millimeter wave radar 8 is provided on the ceiling of the measuring device 2 to measure the height of the person being measured. Instead of the millimeter wave radar 8, a human body shape may be photographed with a plurality of cameras to obtain a rough three-dimensional shape of the human body. The millimeter wave radar 8 may not be provided. A computer 10 controls the stage 6 and the millimeter wave radar 8.

ステージ6の構造を図1の右上に示すと、例えば上下2台の赤外線レーザ11,12を一定の間隔をおいて同角度で設けて、平行なスリット光を人体に向けて斜め上方から照射する。レーザ11,12と一直線上に並ぶようにカメラ14を配置し、赤外線透過フィルタを介して、スリット光の反射光を視野中心が水平方向を向いたカメラ14で撮像する。これによりカメラ14の視野中心付近に人体からの反射光が入射し、画像の歪みを小さくできる。そしてステージ6は昇降モータにより支柱4に沿って昇降し、実施例では支柱4を上から下へ移動して、被測定者にスリット光を複数回、例えば毎回異なる位置に照射し人体構造を測定する。赤外線レーザ11,12の波長は同じでも異なってもよい。なお単一の赤外線レーザ光をハーフミラー等で2分し、2つの平行なスリット光を得ても良い。   The structure of the stage 6 is shown in the upper right of FIG. . The camera 14 is arranged so as to be aligned with the lasers 11 and 12, and the reflected light of the slit light is imaged by the camera 14 with the center of the visual field facing the horizontal direction through the infrared transmission filter. As a result, the reflected light from the human body enters the vicinity of the center of the field of view of the camera 14, and image distortion can be reduced. Then, the stage 6 is moved up and down along the support column 4 by an elevating motor. In the embodiment, the support column 4 is moved from top to bottom, and the human body structure is measured by irradiating the measurement subject with slit light a plurality of times, for example, each time. To do. The wavelengths of the infrared lasers 11 and 12 may be the same or different. A single infrared laser beam may be divided into two by a half mirror or the like to obtain two parallel slit lights.

図2にコンピュータ10の構成を示すと、コントローラ20は人体形状測定装置2の全体を制御し、昇降制御21を介して、4個のステージ6を昇降モータM1〜M4により昇降させる。実施例ではステージ6は上から下へ一定速度で移動し、この間に所定のタイミングでレーザ11,12を同時に発光させ、カメラ14で反射光を受光して、人体形状を求める。撮像制御22は4個のステージ6のレーザ11,12並びにカメラ14を制御し、ミリ波レーダ8は被測定者の身長を出力する。   In FIG. 2, the configuration of the computer 10 is shown. The controller 20 controls the entire human body shape measuring device 2, and moves up and down the four stages 6 by the lifting motors M <b> 1 to M <b> 4 via the lifting control 21. In the embodiment, the stage 6 moves from the top to the bottom at a constant speed. During this period, the lasers 11 and 12 are simultaneously emitted at a predetermined timing, and the reflected light is received by the camera 14 to obtain the human body shape. The imaging control 22 controls the lasers 11 and 12 of the four stages 6 and the camera 14, and the millimeter wave radar 8 outputs the height of the person to be measured.

4個のステージ6からのカメラ画像は、ステージ毎にエリアを区分した画像メモリ24に入力され、画像メモリ24での被測定者からの反射光の画像をH/L割当26により、上下いずれのスリット光かに割り当てる。反射光をスリット光に割り当てると、座標計算28で人体形状の3次元データを計算でき、これを人体データ記憶部30に記憶する。これ以外に人体形状を記憶したデータベース32を設けても良く、例えば人体の特徴点の座標のみを求めて、データベース32に入力し、人体形状データを読み出すようにしてもよい。またスリット光の割当では、前回までに測定した人体データをデータベース32に入力して、今回のカメラ画像に対応する人体データをデータベース32から読み出して予測し、これに基づいて割当を行ってもよい。   The camera images from the four stages 6 are input to the image memory 24 in which the area is divided for each stage, and the reflected light image from the person to be measured in the image memory 24 is assigned to either the upper or lower side by the H / L allocation 26. Assign to slit light. When the reflected light is assigned to the slit light, three-dimensional data of the human body shape can be calculated by the coordinate calculation 28 and stored in the human body data storage unit 30. In addition to this, a database 32 storing the human body shape may be provided. For example, only the coordinates of the feature points of the human body may be obtained and input to the database 32 to read the human body shape data. In the allocation of slit light, human body data measured up to the previous time may be input to the database 32, and human body data corresponding to the current camera image may be read from the database 32 and predicted, and allocation may be performed based on this. .

スリット光の割当では、測定の最初にどのスリット光にどの反射光が対応するかを定める必要がある。ミリ波レーダ8により被測定者の身長が分かり、被測定者が台3の中央に立つと、どのスリット光が頭頂で反射したかが判明し、これからスリット光と反射光とを対応付けることができる。あるいはまた測定前に被測定者の人体形状を立体視カメラで撮像し、大まかな人体形状データを求めると、どのスリット光とどの反射光とが対応するかの初期値を求めることができる。そして一旦スリット光と反射光との対応関係の割当に成功すると、以下は前回の反射光を基準として、今回の反射光をスリット光に対応付けることができる。   In the allocation of slit light, it is necessary to determine which reflected light corresponds to which slit light at the beginning of measurement. When the height of the person to be measured is known by the millimeter wave radar 8 and the person to be measured stands at the center of the table 3, which slit light is reflected at the top of the head is determined, and the slit light and the reflected light can be associated with each other. . Alternatively, when the human body shape of the person to be measured is imaged with a stereoscopic camera before measurement and rough human body shape data is obtained, an initial value of which slit light corresponds to which reflected light can be obtained. Once the assignment of the correspondence between the slit light and the reflected light is successful, the following reflected light can be associated with the slit light based on the previous reflected light.

図3に実施例での測定アルゴリズムを1フレーム分、即ち1枚のカメラ画像分示す。なお図3では、スリット光と反射光との対応付けは初期的に終了済みであるとする。さらにHは上部のスリット光、即ち赤外線レーザ11からのスリット光を示し、Lは下部スリット光、即ち赤外線レーザ12からのスリット光を示す。また1つのステージ6での、上下の赤外線レーザ11,12は同時に発光する。Cは今回のカメラ位置を表し、C0は1フレーム前のカメラ位置を示す。Dはカメラから光源(赤外線レーザ11,12)までの高さを示し、DHは上側の赤外線レーザ11とカメラ14の間隔を、DLは下側の赤外線レーザ12とカメラ14の間隔を示す。またφはスリット光の水平面からの角度を示し、θはカメラへの入射光の水平面からの角度を示す。Pは仮想的な投影面上の反射点を指し、添え字0は前回の反射点を、添え字Hや添え字Lでいずれのスリット光による反射点であるかを示す。Sは人体表面の反射ラインである。図では、カメラ14から被測定者に向けて水平方向に進む向きをz方向、上下方向をy方向とし、残る方向をx方向とする。レーザ11,12は人体にライン状に接触するスリット光を照射するので、角度θはx方向によって変化する。従ってx方向の人体形状の変化はθの変化で表され、反射光は点ではなく人体表面のラインである。   FIG. 3 shows the measurement algorithm in the embodiment for one frame, that is, for one camera image. In FIG. 3, it is assumed that the association between the slit light and the reflected light has already been completed. Further, H indicates the upper slit light, that is, the slit light from the infrared laser 11, and L indicates the lower slit light, that is, the slit light from the infrared laser 12. The upper and lower infrared lasers 11 and 12 on one stage 6 emit light simultaneously. C represents the current camera position, and C0 represents the camera position one frame before. D indicates the height from the camera to the light source (infrared lasers 11 and 12), DH indicates the distance between the upper infrared laser 11 and the camera 14, and DL indicates the distance between the lower infrared laser 12 and the camera 14. Φ represents the angle of the slit light from the horizontal plane, and θ represents the angle of the incident light to the camera from the horizontal plane. P indicates a reflection point on the virtual projection surface, and subscript 0 indicates the previous reflection point, which is the reflection point by the slit light with subscript H or subscript L. S is a reflection line on the human body surface. In the figure, the direction from the camera 14 toward the measurement subject in the horizontal direction is the z direction, the vertical direction is the y direction, and the remaining direction is the x direction. Since the lasers 11 and 12 irradiate slit light that contacts the human body in a line shape, the angle θ varies depending on the x direction. Therefore, a change in the human body shape in the x direction is represented by a change in θ, and the reflected light is not a point but a line on the human body surface.

今回のカメラ画像中には、支柱4などで反射したノイズが含まれ、反射光の位置は人体表面からの反射光と著しく異なるのでこれを除去し、残る反射光を細線化する。ノイズ除去と細線化の順序は任意である。カメラ14は赤外線画像を撮像するので、室内の可視光はノイズにならず、台3に暗幕などは必要ではない。これと同時に1フレーム上の画像データ、即ち1フレーム前の画像データを読み出し、このうち下部スリット光に対応する人体データを今回のカメラ位置に視点変換する。   The current camera image includes noise reflected by the support column 4 and the like, and the position of the reflected light is remarkably different from the reflected light from the human body surface, so that it is removed and the remaining reflected light is thinned. The order of noise removal and thinning is arbitrary. Since the camera 14 captures an infrared image, the visible light in the room does not become noise, and a black curtain or the like is not necessary for the table 3. At the same time, the image data on one frame, that is, the image data on the previous frame is read, and the human body data corresponding to the lower slit light is converted to the current camera position.

今回のカメラ画像と、前回のカメラ画像を今回のカメラ位置に視点変換したデータとを比較し、今回のカメラ画像中の反射光を上部スリット光Hまたは下部スリット光Lに割り当てる。例えば今回のカメラ画像中に上下に2つの反射光のラインがあれば、前回の反射光のラインに距離が近く、かつ形状が近接しているものがスリット光Hに対応し、距離が遠く形状が離れているものが下部スリット光Lに対応する。今回のカメラ画像中に上下に平行な2つの反射光のラインがない場合、前回の反射光のラインとの距離が所定範囲内で、かつ形状が類似しているものがスリット光H,距離が所定範囲外または形状が非類似なものが下部スリット光Lに対応する。   The current camera image is compared with the data obtained by converting the previous camera image into the current camera position, and the reflected light in the current camera image is assigned to the upper slit light H or the lower slit light L. For example, if there are two reflected light lines above and below in the current camera image, the one that is close in distance and close in shape to the previous reflected light line corresponds to the slit light H, and the distance is far away. The one that is apart corresponds to the lower slit light L. If there are no two reflected light lines parallel in the vertical direction in the current camera image, the distance from the previous reflected light line is within a predetermined range and the shape is similar to the slit light H, the distance is Those outside the predetermined range or dissimilar in shape correspond to the lower slit light L.

今回のカメラ画像中の反射光を上部スリット光Hと下部スリット光Lとに対応付けると、反射光に対応する3次元座標を求めることができる。例えばカメラ位置を原点とする座標系で、人体表面の座標(z,y)は、z=D/(tanθ+tanφ) と、y=Dtanθ/(tanθ+tanφ)として求めることができる。ここにθは反射光のラインに沿って変化する変数である。そして(z,y)の座標にカメラ位置の座標をオフセットとして加算すると、人体表面上の測定ラインの3次元データが得られる。以上の処理を1フレーム撮像する毎に繰り返すと、人体形状が得られる。   When the reflected light in the current camera image is associated with the upper slit light H and the lower slit light L, three-dimensional coordinates corresponding to the reflected light can be obtained. For example, in the coordinate system having the camera position as the origin, the coordinates (z, y) of the human body surface can be obtained as z = D / (tan θ + tan φ) and y = Dtan θ / (tan θ + tan φ). Here, θ is a variable that varies along the line of reflected light. When the coordinates of the camera position are added to the coordinates of (z, y) as an offset, three-dimensional data of the measurement line on the human body surface is obtained. If the above process is repeated every time one frame is captured, a human body shape is obtained.

図4に4個のステージ6の動作パターンを示す。1)では4個のステージ6を1個ずつ時分割で発光させ、例えば撮像に10〜50msec程度、カメラから画像メモリへの転送に5〜10msec程度必要である。例えば1フレームの撮像に25msecが必要な場合、撮像の1周期は100msecとなる。そして人体形状を例えば10秒以内に測定するものとすると、測定回数は100周期分で、上下のフレームの間隔は20mm程度となる。   FIG. 4 shows an operation pattern of the four stages 6. In 1), four stages 6 are caused to emit light one by one in a time-sharing manner. For example, about 10 to 50 msec is required for imaging, and about 5 to 10 msec is required for transfer from the camera to the image memory. For example, when 25 msec is required for imaging one frame, one imaging cycle is 100 msec. If the human body shape is measured within 10 seconds, for example, the number of measurements is 100 cycles, and the interval between the upper and lower frames is about 20 mm.

図4の2)は対角線にある2つのステージを同時に発光させる例で、例えば1回の撮像に25msec必要とすると、測定周期は50msecとなる。対角線の向こう側からのスリット光がノイズとなる場合、対角線の両側で赤外線レーザの波長を変え、カメラにそれぞれバンドパスフィルタを設けて、対角線の反対側のスリット光の影響を受けないようにする。   2) in FIG. 4 is an example in which the two stages on the diagonal line emit light simultaneously. For example, if 25 msec is required for one imaging, the measurement cycle is 50 msec. If slit light from the other side of the diagonal line becomes noise, change the wavelength of the infrared laser on both sides of the diagonal line, and install a band-pass filter on each camera so that it is not affected by the slit light on the opposite side of the diagonal line. .

図5に、上下2つのスリット光H/Lと、2つのカメラ画像の関係を模式的に示す。Cは今回のカメラ位置を、C0は前回のカメラ位置を示し、各スリット光が水平面と成す角φは一定である。カメラ画像から直接得られるデータは、仮想的な投影面上の反射点PH0〜PLで、カメラ位置と上側のスリット光Hの光源位置との間隔がDH、下側のスリット光Lの光源との間隔がDLである。   FIG. 5 schematically shows the relationship between the upper and lower slit lights H / L and the two camera images. C indicates the current camera position, C0 indicates the previous camera position, and the angle φ formed by each slit light with the horizontal plane is constant. The data directly obtained from the camera image is the reflection points PH0 to PL on the virtual projection plane, the distance between the camera position and the light source position of the upper slit light H is DH, and the light source of the lower slit light L is The interval is DL.

図6にカメラ画像での、角度θから座標(z,y)への変換を示す。ここで上下いずれのスリット光によるものかが既知であるとし、カメラ位置からスリット光の光源までの高さをDとして、図6から明らかなように、y=ztanθ,D−y=ztanφの関係が成立し、これから(z,y)を求めることができる。また実施例で用いる座標系は、図6の左下側に示したものである。   FIG. 6 shows the conversion from the angle θ to the coordinates (z, y) in the camera image. Here, it is assumed that the slit light from the upper and lower sides is known, and the height from the camera position to the light source of the slit light is D. As is apparent from FIG. 6, the relationship y = ztan θ and D−y = ztanφ. (Z, y) can be obtained from this. In addition, the coordinate system used in the embodiment is shown on the lower left side of FIG.

図7〜図9に、反射光の消失や新たな反射ラインの発生を示す。例えば図7のように、人体の肩付近をスリット光が照射していると、一方の反射光がカメラ位置Cへ届かないことがある。この場合、上下2つのスリット光H/Lに対して、1本の反射光のラインが得られる。   7 to 9 show the disappearance of reflected light and the generation of a new reflection line. For example, as shown in FIG. 7, when slit light is irradiated near the shoulder of a human body, one reflected light may not reach the camera position C. In this case, one line of reflected light is obtained for the upper and lower slit lights H / L.

反射光が人体の腕その他の障害物により遮られ、カメラ位置に届かないことがある。このような例を図8に示す。ここでは、下側のスリット光Lに対する胸部での反射光が腕に遮られてカメラに到着していない。   The reflected light may be blocked by the human arm or other obstacles and may not reach the camera position. Such an example is shown in FIG. Here, the reflected light from the chest with respect to the lower slit light L is blocked by the arm and does not arrive at the camera.

図9に新たな反射光のラインの発生を示す。例えば前回に胸あるいは背中に対する反射光のみが得られていた場合に、腕による新たな反射光を検出することがある。このような場合、画像上は新たな反射光のラインが発生し、これは下側のスリット光Lに対応する反射光のラインが2つに分裂したということもできる。   FIG. 9 shows the generation of a new reflected light line. For example, when only reflected light for the chest or back was obtained last time, new reflected light from the arm may be detected. In such a case, a new reflected light line is generated on the image, and it can also be said that the reflected light line corresponding to the lower slit light L is split into two.

図10に実施例での視点変換を模式的に示す。前回のスリット光H0,L0に対する反射点の位置は既知である。そこでこの位置を今回のカメラ位置Cから見たものとして、仮想的なカメラ画像を作成すると、反射点の位置は図10の左側のPH0'やPL0'となる。今回のカメラ画像には、反射点PH,PLが含まれ、これらがいずれのスリット光に対応するのかを定める必要がある。そこで前回の下側のスリット光に対する反射点PL0'に近いものが、今回の上側のスリット光に対する反射点PHで、遠いものが下側のスリット光に対する反射点である。   FIG. 10 schematically shows viewpoint conversion in the embodiment. The position of the reflection point with respect to the previous slit lights H0 and L0 is known. Therefore, when this position is viewed from the current camera position C and a virtual camera image is created, the positions of the reflection points are PH0 ′ and PL0 ′ on the left side of FIG. The current camera image includes reflection points PH and PL, and it is necessary to determine which slit light corresponds to them. Therefore, the reflection point PH for the upper slit light this time is close to the reflection point PL0 ′ for the previous lower slit light, and the reflection point PH for the lower slit light is the far one.

図11に、前回のカメラ画像中の反射ラインを視点変換した反射ラインSL0と、今回の反射ラインSH,SLの関係を示す。スリット光が近ければ反射ラインの間の距離も小さく、またその形状も類似する。逆にスリット光の間隔が大きければ、反射ラインの間の距離も大きく、形状もマッチングしにくくなる。そこで反射ラインの間の距離並びに形状の類似性の2つの評価基準により、今回の反射ラインがどのスリット光によるものであるかを判別する。なお距離の定義あるいは計算法を工夫すると、2つの反射ラインの形状の類似性と、ラインの間の間隔の大小とを、1つの概念にまとめることもできる。   FIG. 11 shows the relationship between the reflection line SL0 obtained by changing the viewpoint of the reflection line in the previous camera image and the current reflection lines SH and SL. If the slit light is close, the distance between the reflection lines is small and the shape is similar. On the other hand, if the interval between the slit lights is large, the distance between the reflection lines is large and the shapes are difficult to match. Therefore, it is determined by which slit light the current reflection line is based on the two evaluation criteria of the distance between the reflection lines and the similarity of the shape. If the definition or calculation method of the distance is devised, the similarity of the shapes of the two reflection lines and the distance between the lines can be combined into one concept.

図12に、変形例でのスリット光への反射光の割当を示す。前回の下部スリット光L0による反射点P0の位置が既知で、今回の反射点Pが上側のスリット光Hによるものか(図12の実線の人体形状)、下側のスリット光Lによるものか(図12の鎖線の人体形状)を判別する。カメラへの入射角θから、上側のスリット光Hによるものとした場合の座標PHと、下側のスリット光Lによるものとした場合の座標PLを求めることができ、Cz,Cyはオフセットである。θは変数なので、反射点P0を並べたラインをSL0とし、上側のスリット光Hによるものとした場合の人体表面の反射ラインをSH,下側のスリット光Lによるものとした場合の人体表面の反射ラインをSLとすると、3次元空間に3本のラインが得られる。そして前回のラインSL0とラインSHとの距離が小さく、形状が類似していれば、SHが正しい人体表面のラインである。SL0とSHとの距離が大きく形状が非類似な場合、上側のスリット光からの反射ラインが消失しており、反射ラインをスリット光Lに割り当てる。   FIG. 12 shows allocation of reflected light to slit light in the modification. Whether the position of the reflection point P0 by the previous lower slit light L0 is known, and whether the current reflection point P is due to the upper slit light H (solid body shape in FIG. 12) or the lower slit light L ( The human body shape of the chain line in FIG. From the incident angle θ to the camera, it is possible to obtain the coordinates PH when the upper slit light H is used, and the coordinates PL when the lower slit light L is used, and Cz and Cy are offsets. . Since θ is a variable, the line on which the reflection points P0 are arranged is SL0, the reflection line on the human surface when the upper slit light H is used is SH, and the human body surface when the lower slit light L is used is the reflection line on the human body surface. If the reflection line is SL, three lines are obtained in the three-dimensional space. If the distance between the previous line SL0 and the line SH is small and the shapes are similar, SH is a correct human body surface line. When the distance between SL0 and SH is large and the shapes are dissimilar, the reflection line from the upper slit light disappears, and the reflection line is assigned to the slit light L.

実施例ではステージ6を台3に対して上から下へ移動させたが、下から上へ移動させてもよい。またステージ6を台3の周囲を円周上に回転させてもよい。実施例では1つのステージ6に2台の赤外線レーザ11,12を設けたが、3台以上の赤外線レーザを設けてもよい。この場合、前回のカメラ画像中の最も下側のスリット光との対比から、今回の反射光の割当を行う。スリット光を水平面から傾ける代わりに、鉛直面から傾けて人体に縦方向に照射しても良い。実施例では赤外線レーザ11,12とカメラ14をステージ6毎に時分割で駆動したが、これらを一斉に駆動して、他のステージのスリット光からの反射光を、実施例と同様にして除去してもよい。即ち1フレーム撮像する毎に、自己のステージのスリット光からの反射光を求め、他のステージからのスリット光による反射光を除く。次のフレームで前回の自己のステージのスリット光に対する反射光との比較から、どれが自己のステージのスリット光による反射光であるかを判別する。   In the embodiment, the stage 6 is moved from the top to the bottom with respect to the table 3, but it may be moved from the bottom to the top. Further, the stage 6 may be rotated around the base 3 on the circumference. In the embodiment, two infrared lasers 11 and 12 are provided on one stage 6, but three or more infrared lasers may be provided. In this case, the current reflected light is assigned based on a comparison with the lowermost slit light in the previous camera image. Instead of tilting the slit light from the horizontal plane, the human body may be irradiated in the vertical direction by tilting from the vertical plane. In the embodiment, the infrared lasers 11 and 12 and the camera 14 are driven in a time-sharing manner for each stage 6, but these are driven all at once, and the reflected light from the slit light of other stages is removed in the same manner as in the embodiment. May be. That is, every time one frame is imaged, the reflected light from the slit light from its own stage is obtained, and the reflected light from the slit light from the other stage is removed. In the next frame, it is determined from the comparison with the reflected light with respect to the slit light of the previous stage of the self, which is reflected light by the slit light of the own stage.

実施例では前回のカメラ画像を視点変換したが、今回のカメラ画像に対して、上下のスリット光に対する仮の3次元座標を求め、前回のカメラ画像の視点に変換してもよい。このようにすると、視点変換前に今回のカメラ画像に対応する3次元座標を複数回求める必要があるので、演算量が増加する。実施例では測定開始時のスリット光への割当以外は、前回のカメラ画像のみを用いたが、データベース32から予測される人体形状を補助的に利用してもよい。
In the embodiment, the viewpoint of the previous camera image is converted. However, for the current camera image, provisional three-dimensional coordinates for the upper and lower slit lights may be obtained and converted to the viewpoint of the previous camera image. In this way, since it is necessary to obtain the three-dimensional coordinates corresponding to the current camera image a plurality of times before the viewpoint conversion, the amount of calculation increases. In the embodiment, except for the allocation to the slit light at the start of measurement, only the previous camera image is used, but the human body shape predicted from the database 32 may be used as an auxiliary.

実施例の人体形状測定装置の平面図Plan view of the human body shape measuring apparatus of the embodiment 実施例の人体形状測定装置のブロック図Block diagram of the human body shape measuring apparatus of the embodiment 実施例の人体形状測定での、データ処理アルゴリズムを示すフローチャートThe flowchart which shows the data processing algorithm in the human body shape measurement of an Example 実施例での、4個のカメラの撮像とデータ転送とを示すタイミングチャートで、1)は基本パターンを、2)は高速パターンを示す。FIG. 4 is a timing chart showing imaging and data transfer of four cameras in the embodiment, where 1) shows a basic pattern and 2) shows a high-speed pattern. 実施例での、上下2つのスリット光H/Lと、前回のカメラ画像及び今回のカメラ画像を模式的に示す図The figure which shows typically two upper and lower slit lights H / L, the last camera image, and this camera image in an Example. カメラ画像からの人体形状の算出法を示す図The figure which shows the calculation method of the human body shape from a camera image 反射光の消失を示す図Diagram showing disappearance of reflected light 反射光の消失を示す図Diagram showing disappearance of reflected light 新たな反射光の発生を示す図Diagram showing generation of new reflected light 実施例での、1フレーム上部の人体形状データに対する視点変換を示す図The figure which shows the viewpoint conversion with respect to the human body shape data of one frame upper part in an Example. 実施例での、視点変換後の画像との比較による、スリット光の判別を示す図The figure which shows discrimination | determination of slit light by the comparison with the image after viewpoint conversion in an Example スリット光の判別の変形例を示す図The figure which shows the modification of discrimination | determination of slit light

符号の説明Explanation of symbols

2 人体形状測定装置
3 台
4 支柱
6 ステージ
7 スリット光
8 ミリ波レーダ
10 コンピュータ
11,12 赤外線レーザ
14 カメラ
20 コントローラ
21 昇降制御
22 撮像制御
24 画像メモリ
26 H/L割当
28 座標計算
30 人体データ記憶部
32 データベース

M1〜M4 昇降モータ
H 上部スリット光
L 下部スリット光
C カメラ位置
C0 1フレーム上でのカメラ位置
D カメラから光源までの高さ
P 仮想的な投影面上の反射点
φ スリット光の水平面からの角度
θ カメラへの入射光の水平面からの角度
S 人体表面の反射部
2 Human body shape measuring device 3 units 4 support 6 stage 7 slit light 8 millimeter wave radar 10 computer 11, 12 infrared laser 14 camera 20 controller 21 lifting control 22 imaging control 24 image memory 26 H / L allocation 28 coordinate calculation 30 human body data storage Part 32 database

M1 to M4 Lifting motor H Upper slit light L Lower slit light C Camera position C0 Camera position on one frame D Height from camera to light source
P Reflection point on virtual projection plane φ Angle of slit light from horizontal plane θ Angle of incident light on camera from horizontal plane S Reflection part of human body surface

Claims (5)

位置を変えて複数回、人体にスリット光を照射し、反射光をカメラで撮像して、人体の3次元形状を求める装置において、
複数のスリット光を同時に人体に照射するための光源と、
スリット光の照射位置を順次変更するための駆動部と、
該複数のスリット光の人体での反射光を撮像するカメラと、
前回のカメラ画像と今回のカメラ画像とを比較し、今回のカメラ画像での反射光を複数のスリット光のいずれかに割当てるための画像認識部と、
スリット光と前記反射光との組み合わせから、人体形状を求めるための演算部とを設けたことを特徴とする、人体形状測定装置。
In a device that irradiates a human body with slit light multiple times at different positions and captures reflected light with a camera to obtain a three-dimensional shape of the human body.
A light source for irradiating a human body with a plurality of slit lights simultaneously;
A drive unit for sequentially changing the irradiation position of the slit light;
A camera that images reflected light from the human body of the plurality of slit lights;
An image recognition unit for comparing the previous camera image with the current camera image, and assigning the reflected light in the current camera image to any of a plurality of slit lights,
An apparatus for measuring a human body shape, comprising an arithmetic unit for obtaining a human body shape from a combination of slit light and reflected light.
前記光源と前記カメラとを、共に前記駆動部により人体に対して移動させるようにすると共に、
前記画像認識部では、
・ 前回のカメラ画像を前回のカメラ位置で撮像した画像から、今回のカメラ位置で撮像した画像へ視点変換し、もしくは今回のカメラ画像を今回のカメラ位置で撮像した画像から、前回のカメラ位置で撮像した画像へ視点変換し、
・ 視点変換後の前回と今回のカメラ画像間の比較から、今回のカメラ画像での反射光を複数のスリット光のいずれかに割当てるようにしたことを特徴とする、請求項1の人体形状測定装置。
The light source and the camera are both moved with respect to the human body by the driving unit, and
In the image recognition unit,
・ Convert the viewpoint of the previous camera image from the image captured at the previous camera position to the image captured at the current camera position, or convert the current camera image from the image captured at the current camera position to the previous camera position. Change the viewpoint to the captured image,
The human body shape measurement according to claim 1, wherein the reflected light in the current camera image is assigned to one of a plurality of slit lights based on a comparison between the previous and current camera images after the viewpoint conversion. apparatus.
前記複数のスリット光はそれぞれ人体とライン状に接触し、
前記画像認識部では、視点変換後のカメラ画像間の比較として、前回のカメラ画像での反射光のラインと、今回のカメラ画像での反射光のラインとの距離とを求めることを特徴とする、請求項2の人体形状測定装置。
The plurality of slit lights are in line contact with the human body,
The image recognition unit obtains a distance between a reflected light line in the previous camera image and a reflected light line in the current camera image as a comparison between the camera images after the viewpoint conversion. The human body shape measuring apparatus according to claim 2.
少なくとも4個の昇降台の各々に、少なくとも一対のスリット光源とカメラとを取り付けて、前記駆動部で人体の周囲を昇降させ、
対角線位置にある2個の昇降台のスリット光源から同時に人体にスリット光を照射するようにしたことを特徴とする、請求項1〜3のいずれかの人体形状測定装置。
At least a pair of slit light sources and a camera are attached to each of at least four lifting platforms, and the periphery of the human body is raised and lowered by the drive unit,
The human body shape measuring apparatus according to claim 1, wherein the human body is irradiated with slit light simultaneously from the slit light sources of the two elevators at diagonal positions.
位置を変えて複数回、人体にスリット光を照射し、反射光をカメラで撮像して、人体の3次元形状を求める方法において、
同時に複数のスリット光が人体に照射されるようにしながら、スリット光を照射位置を変えて複数回照射し、
該複数のスリット光の人体での反射光をカメラで撮像し、
前回のカメラ画像と今回のカメラ画像とを比較し、今回のカメラ画像での反射光を複数のスリット光のいずれかに割当て、
スリット光と前記反射光との組み合わせから人体形状を求める、ことを特徴とする、人体形状測定方法。
In a method for obtaining a three-dimensional shape of a human body by irradiating a human body with slit light multiple times at different positions and capturing reflected light with a camera.
While irradiating the human body with multiple slit lights at the same time, irradiate the slit light multiple times by changing the irradiation position,
The reflected light from the human body of the plurality of slit lights is imaged with a camera,
Compare the previous camera image with the current camera image, assign the reflected light from the current camera image to one of the slit lights,
A human body shape measuring method, wherein a human body shape is obtained from a combination of slit light and the reflected light.
JP2006355733A 2006-12-28 2006-12-28 Human body shape measuring device and measuring method Expired - Fee Related JP4851931B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006355733A JP4851931B2 (en) 2006-12-28 2006-12-28 Human body shape measuring device and measuring method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006355733A JP4851931B2 (en) 2006-12-28 2006-12-28 Human body shape measuring device and measuring method

Publications (2)

Publication Number Publication Date
JP2008164491A JP2008164491A (en) 2008-07-17
JP4851931B2 true JP4851931B2 (en) 2012-01-11

Family

ID=39694190

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006355733A Expired - Fee Related JP4851931B2 (en) 2006-12-28 2006-12-28 Human body shape measuring device and measuring method

Country Status (1)

Country Link
JP (1) JP4851931B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102012112321B4 (en) 2012-12-14 2015-03-05 Faro Technologies, Inc. Device for optically scanning and measuring an environment
US9964402B2 (en) 2015-04-24 2018-05-08 Faro Technologies, Inc. Two-camera triangulation scanner with detachable coupling mechanism
CN108779981B (en) 2016-03-15 2020-09-22 日本制铁株式会社 Crankshaft shape inspection device, system and method

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61162706A (en) * 1985-01-14 1986-07-23 Hitachi Zosen Corp Method for measuring solid body
JPS61265510A (en) * 1985-05-20 1986-11-25 Fujitsu Ltd Method for three-dimensional measurement of matter
JPH04357406A (en) * 1991-06-03 1992-12-10 Yunisun:Kk Measuring method for three-dimensional shape
JPH05203423A (en) * 1992-01-24 1993-08-10 Yoshiharu Morimoto Method and instrument for measuring shape of object
JP2001227921A (en) * 2000-02-18 2001-08-24 Matsushita Electric Ind Co Ltd Range finder device
JP4012710B2 (en) * 2001-02-14 2007-11-21 株式会社リコー Image input device

Also Published As

Publication number Publication date
JP2008164491A (en) 2008-07-17

Similar Documents

Publication Publication Date Title
CN107944422B (en) Three-dimensional camera device, three-dimensional camera method and face recognition method
US8929608B2 (en) Device and method for recognizing three-dimensional position and orientation of article
JP4127545B2 (en) Image processing device
JP2012008867A (en) Point group data processing device, point group data processing system, point group data processing method and point group data processing program
US20130238111A1 (en) Quantifying defects and handling thereof
US20080312866A1 (en) Three-dimensional measuring equipment
JPH11166818A (en) Calibrating method and device for three-dimensional shape measuring device
JP4851931B2 (en) Human body shape measuring device and measuring method
KR100394208B1 (en) Apparatus and method for measuring human body
JP6904624B1 (en) Club head measurement mark and image processing device
JP2012220479A (en) Device and method for detecting boundary of imaging-object
US11717970B2 (en) Controller, control method using controller, and control system
JP2021103152A (en) Foreign matter inspection device
JP2000356510A (en) Apparatus for measuring height
JP3408237B2 (en) Shape measuring device
US20230043994A1 (en) Three-dimensional measurement device for generating three-dimensional point position information
JP7170234B2 (en) Inspection device and inspection method
JP2003315014A (en) Inspection method and inspection device
JP6591647B2 (en) Image processing device
JP2005189205A (en) Three-dimensional shape measuring apparatus and method
CN115461296A (en) Processing device for three-dimensional data of elevator
CN115461295A (en) Processing device for three-dimensional data of elevator
JP4741943B2 (en) Inspection apparatus and inspection method
JP2001241927A (en) Shape measuring apparatus
JPH09257414A (en) Object position detector

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091112

TRDD Decision of grant or rejection written
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110928

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110930

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111021

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141028

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees