JP6379651B2 - Apparatus, method, and program for measuring light distribution of light source and bidirectional reflectance distribution function of object - Google Patents

Apparatus, method, and program for measuring light distribution of light source and bidirectional reflectance distribution function of object Download PDF

Info

Publication number
JP6379651B2
JP6379651B2 JP2014099662A JP2014099662A JP6379651B2 JP 6379651 B2 JP6379651 B2 JP 6379651B2 JP 2014099662 A JP2014099662 A JP 2014099662A JP 2014099662 A JP2014099662 A JP 2014099662A JP 6379651 B2 JP6379651 B2 JP 6379651B2
Authority
JP
Japan
Prior art keywords
light source
light
distribution
sensor response
response value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014099662A
Other languages
Japanese (ja)
Other versions
JP2015215300A (en
Inventor
紘一 高瀬
紘一 高瀬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toppan Inc
Original Assignee
Toppan Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toppan Inc filed Critical Toppan Inc
Priority to JP2014099662A priority Critical patent/JP6379651B2/en
Publication of JP2015215300A publication Critical patent/JP2015215300A/en
Application granted granted Critical
Publication of JP6379651B2 publication Critical patent/JP6379651B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Photometry And Measurement Of Optical Pulse Characteristics (AREA)
  • Testing Of Optical Devices Or Fibers (AREA)

Description

本発明は、光源で照明した物体の撮影画像群から、光源の配光分布を測定する装置、方法及びプログラムに関し、また物体の双方向反射率分布関数を測定する装置、方法及びプログラムに関するものである。   The present invention relates to an apparatus, method, and program for measuring a light distribution of a light source from a group of captured images of an object illuminated with a light source, and to an apparatus, method, and program for measuring a bidirectional reflectance distribution function of an object. is there.

物体の見えは照明・観察環境に影響される。そのため、任意の照明・観察環境における物体の見えを画像で再現することは非常に有用である。   The appearance of an object is affected by the illumination / observation environment. Therefore, it is very useful to reproduce the appearance of an object in an arbitrary illumination / observation environment as an image.

画像再現の1つの方法として、物体の見えの要素である反射特性や形状などの物理情報を記録し、物理情報に基づいて任意の照明・観察環境における物体の見えの画像をコンピュータグラフィック技術で生成する方法がある。   As one method of image reproduction, physical information such as reflection characteristics and shape, which are the elements of object appearance, is recorded, and an image of object appearance in an arbitrary illumination / observation environment is generated using computer graphic technology based on the physical information. There is a way to do it.

物理情報のうち物体の反射特性を測定・記録する方法としては、照明方向が異なる複数の撮影画像から反射光を解析し、反射特性を推定する方法がある。しかしながら、異なる方向から照明するために光源を離散的に配置する場合、照明方向のサンプリングが粗く、鋭い光沢などの方向依存性の高い反射特性の解析に必要十分な反射光が得られない場合がある。光源を増やす方法も考えられるが、反射特性が未知の物体に対して適切な光源数を決定することは難しい。   As a method for measuring / recording the reflection characteristic of an object among physical information, there is a method for estimating the reflection characteristic by analyzing reflected light from a plurality of captured images having different illumination directions. However, when the light sources are discretely arranged to illuminate from different directions, the sampling of the illumination direction is rough, and there may be cases where the reflected light sufficient for analyzing the direction-dependent reflection characteristics such as sharp glossiness cannot be obtained. is there. Although a method of increasing the number of light sources is conceivable, it is difficult to determine an appropriate number of light sources for an object whose reflection characteristics are unknown.

そこで、例えば、非特許文献1のように蛍光灯を用いて光源表面の各点から異なる方向に照明することで、照明方向のサンプリングを密にするアプローチ方法が考えられる。このアプローチ方法では、光源表面の各点から対象物体表面の各点への光線の放射輝度を把握する必要がある。しかしながら、光源メーカーから提供される、出射光の光度の角度分布である配光曲線(非特許文献2)は光源全体の分布のみを表しており、光源表面上の各点からの出射光の放射輝度を得ることはできない。   Therefore, for example, as in Non-Patent Document 1, an approach method in which sampling in the illumination direction is made dense by illuminating in different directions from each point on the surface of the light source using a fluorescent lamp is conceivable. In this approach method, it is necessary to grasp the radiance of light rays from each point on the surface of the light source to each point on the surface of the target object. However, the light distribution curve (Non-Patent Document 2) provided by the light source manufacturer, which is the angular distribution of the luminous intensity of the emitted light, represents only the distribution of the entire light source, and the emitted light is emitted from each point on the surface of the light source. You cannot get brightness.

また、特許文献1においては、光源を中心とした球上にカメラを配置し、各位置において光源を高解像度に撮影することで光源表面上の各点の配光分布を取得する方法が挙げられている。しかし、この方法では、配光分布の方向分解能がカメラの配置間隔に依存するため、高い方向分解能を得るためには、カメラの配置間隔を小さくする必要がある。   In Patent Document 1, there is a method in which a camera is placed on a sphere centered on a light source, and the light distribution at each point on the surface of the light source is acquired by photographing the light source at a high resolution at each position. ing. However, in this method, since the directional resolution of the light distribution depends on the camera arrangement interval, it is necessary to reduce the camera arrangement interval in order to obtain a high directional resolution.

さらに、特許文献2においては、配光分布を推定する光源で曲面または凹部状のスクリーンを照明し、反射光の放射輝度をカメラで撮影することで配光分布を推定する方法が挙げられている。カメラを用いてスクリーンを高解像度に撮影することで、特許文献1に記載されているカメラの配置間隔で取得した配光分布よりも高い配光分布の方向分解能が得られる。   Furthermore, in Patent Document 2, there is a method of estimating a light distribution by illuminating a curved or concave screen with a light source that estimates the light distribution and photographing the radiance of reflected light with a camera. . By photographing the screen at a high resolution using a camera, a higher directional resolution of the light distribution than the light distribution obtained at the camera arrangement interval described in Patent Document 1 can be obtained.

しかしながら、特許文献2では、光源表面の各点からスクリーン上の同一点に入射した各光線を分離していないため、光源表面の各点における配光分布を得ることはできない。   However, in Patent Document 2, since light rays incident on the same point on the screen are not separated from each point on the light source surface, it is not possible to obtain a light distribution at each point on the light source surface.

特開2013−217651号公報JP 2013-217651 A 特許第5350906号公報Japanese Patent No. 5350906

ガードナー(GARDNER, A.)、チョー(TCHOU, C.)、ホーキンス(HAWKINS, T.)、およびディベヴェック(DEBEVEC, P.)、「リニアライトソースリフレクトメトリー(Linear light source reflectometry)」、ACMトランザクションズオングラフィックス(ACM Transactions On Graphics)、2003年、第22巻、第3号、p.749−758Gardner (GARDNER, A.), Cho (TCHOU, C.), Hawkins (HAWKINS, T.), and Devevec (DEBEVEC, P.), "Linear light source reflectometry", ACM Transactions Graphics (ACM Transactions On Graphics), 2003, Vol. 22, No. 3, p. 749-758 「Z8113 照明用語」、日本工業規格(JIS)"Z8113 Lighting terminology", Japanese Industrial Standard (JIS)

本発明は、上記課題を鑑みてなされたものであり、光源表面上の各点における配光分布を高い方向分解能で測定する方法、装置及びプログラムを提供することを目的とする。   The present invention has been made in view of the above problems, and an object thereof is to provide a method, an apparatus, and a program for measuring a light distribution at each point on a light source surface with high directional resolution.

上記課題を解決するための本発明の一局面は、光源の配光分布を測定する装置であって、測定対象となる光源である対象光源で、拡散反射成分を持ち反射特性が既知である物体を照明した状態で、少なくとも物体をカメラで撮影しセンサ応答値の実測値を取得する撮影手段と、三次元空間における物体表面上の各点の位置及び法線を得る物体姿勢測定手段と、対象光源を1つ以上の無限小光源の集合として近似する対象光源近似手段と、対象光源の位置及び向きを三次元空間における回転パラメータ及び移動パラメータで表し、回転パラメータ及び移動パラメータから無限小光源の位置及び向きである姿勢を計算する対象光源姿勢計算手段と、無限小光源の配光分布を数式及び/又は測定データでモデル化した配光分布モデルと、数式及び/又は測定データのパラメータである配光分布モデルパラメータとに基づき、任意方向への出射光の放射輝度を計算する出射光計算手段と、対象光源姿勢計算手段で計算された無限小光源の位置と、物体姿勢測定手段で得られた物体表面上の各点の位置とから、無限小光源の位置と物体表面上の各点との距離を計算する距離計算手段と、配光分布モデル及び配光分布モデルパラメータと、対象光源姿勢計算手段で計算された無限小光源の姿勢と、物体姿勢測定手段で得られた物体表面上の各点の位置及び法線と、無限小光源の位置及び物体表面上の各点の距離とから、物体表面上の各点の位置へ入射する光線の方向及び放射輝度を計算する入射光計算手段と、物体表面上の各点の位置へ入射する光線の方向及び放射輝度と、物体表面上の各点の位置、法線及び反射特性と、カメラの位置と、カメラへ入射する光線の放射輝度及びカメラのセンサ応答値との対応関係から、対象光源で物体を照明し、撮影した場合のセンサ応答値の計算値を計算するセンサ応答値計算手段と、撮影手段が取得したセンサ応答値の実測値と、センサ応答値計算手段で得られたセンサ応答値の計算値との差分に基づく誤差を計算する誤差計算手段と、回転パラメータと、移動パラメータと、配光分布モデルパラメータとを対象として最適化を行い、誤差を最小とするパラメータを推定するパラメータ推定手段とを備える、配光分布測定装置である。   One aspect of the present invention for solving the above problems is an apparatus for measuring a light distribution of a light source, which is a target light source that is a light source to be measured, and has an object having a diffuse reflection component and a known reflection characteristic A photographing means for photographing at least an object with a camera and obtaining an actual sensor response value, an object posture measuring means for obtaining the position and normal of each point on the object surface in a three-dimensional space, and a target The target light source approximation means for approximating the light source as a set of one or more infinitesimal light sources, and the position and orientation of the target light source are represented by rotation parameters and movement parameters in a three-dimensional space. A target light source posture calculating means for calculating a posture that is an orientation, a light distribution distribution model in which the light distribution of an infinitely small light source is modeled with mathematical formulas and / or measurement data, Is based on the light distribution model parameter that is a parameter of the measurement data, the emitted light calculating means for calculating the radiance of the emitted light in an arbitrary direction, the position of the infinitesimal light source calculated by the target light source attitude calculating means, Distance calculation means for calculating the distance between the position of the infinitesimal light source and each point on the object surface from the position of each point on the object surface obtained by the object posture measuring means, a light distribution distribution model, and a light distribution Model parameters, the attitude of the infinitesimal light source calculated by the target light source attitude calculation means, the position and normal of each point on the object surface obtained by the object attitude measurement means, the position of the infinitesimal light source and the object surface The incident light calculation means for calculating the direction and radiance of the light ray incident on the position of each point on the object surface from the distance of each point, and the direction and radiation of the light ray incident on the position of each point on the object surface The luminance and each point on the object surface Sensor response value when the object is illuminated with the target light source from the correspondence relationship between the position, normal and reflection characteristics, the position of the camera, the radiance of the light incident on the camera, and the sensor response value of the camera. An error for calculating an error based on a difference between a sensor response value calculation means for calculating a calculated value, an actual measurement value of the sensor response value acquired by the imaging means, and a calculated value of the sensor response value obtained by the sensor response value calculation means A light distribution distribution measuring apparatus comprising: a calculation unit; a parameter estimation unit that optimizes a rotation parameter, a movement parameter, and a light distribution distribution model parameter, and estimates a parameter that minimizes an error.

また、誤差計算手段は、反射特性が異なる2つ以上の物体について、センサ応答値の実測値およびセンサ応答値の計算値を得て、誤差として、物体の各々についてのセンサ応答値の実測値およびセンサ応答値の計算値との差分に基づく誤差の総和を計算してもよい。   Further, the error calculation means obtains the measured value of the sensor response value and the calculated value of the sensor response value for two or more objects having different reflection characteristics, and calculates the measured value of the sensor response value for each of the objects as an error and You may calculate the sum total of the error based on the difference with the calculated value of a sensor response value.

また、誤差計算手段は、反射特性が異なる2つ以上の物体について、センサ応答値の実測値およびセンサ応答値の計算値を得て、誤差として、物体の各々についてのセンサ応答値の実測値およびセンサ応答値の計算値との差分に基づく誤差の総和を計算してもよい。   Further, the error calculation means obtains the measured value of the sensor response value and the calculated value of the sensor response value for two or more objects having different reflection characteristics, and calculates the measured value of the sensor response value for each of the objects as an error and You may calculate the sum total of the error based on the difference with the calculated value of a sensor response value.

また、出射光計算手段は、異なる配光分布モデルに対する出射光の放射輝度を計算し、センサ応答値計算手段は、配光分布モデル毎におけるセンサ応答値を計算し、誤差計算手段は、配光分布モデル毎における誤差を計算し、パラメータ推定手段は、回転パラメータと、移動パラメータと、配光分布モデルと、配光分布モデルパラメータとを対象として最適化を行い、誤差を最小とするパラメータを推定してもよい。   The emitted light calculation means calculates the radiance of the emitted light for different light distribution distribution models, the sensor response value calculation means calculates the sensor response value for each light distribution distribution model, and the error calculation means calculates the light distribution. The error for each distribution model is calculated, and the parameter estimation means optimizes the rotation parameter, movement parameter, light distribution model, and light distribution model parameter, and estimates the parameter that minimizes the error. May be.

本発明の他の局面は、物体の双方向反射率分布関数を測定する装置であって、上述の配光分布測定装置を用いて、配光分布を測定するための第1の物体と双方向反射率分布関数を測定すべき第2の物体とを、相異なる姿勢の光源でともに照明された状態ごとに、撮影手段で撮影して第1の物体および第2の物体のセンサ応答値の実測値を取得し、第1の物体のセンサ応答値の実測値に基づいて、光源の姿勢毎に光源の配光分布モデル、配光分布モデルパラメータ、光源を近似する無限小光源の位置および向きを推定する配光分布推定手段と、三次元空間における第2の物体表面上の各点の位置及び法線を得る第2の物体姿勢測定手段と、配光分布モデル及び配光分布モデルパラメータに基づき、第2の物体表面上の各点への出射光の放射輝度を計算する第2の出射光計算手段と、無限小光源の位置と、第2の物体姿勢測定手段で得られた第2の物体表面上の各点の位置とから、無限小光源の位置と第2の物体表面上の各点との距離を計算する第2の距離計算手段と、配光分布モデル及び配光分布モデルパラメータと、無限小光源の姿勢と、第2の物体姿勢測定手段で得られた第2の物体表面上の各点の位置及び法線と、無限小光源の位置と第2の物体表面上の各点の距離から、第2の物体表面上の各点の位置へ入射する光線の方向及び放射輝度を計算する第2の入射光計算手段と、第2の物体表面上の各点の位置へ入射する光線の方向及び放射輝度と、第2の物体表面上の各点の位置、法線及び測定すべき反射特性を数式及び/又は測定データでモデル化した双方向反射率分布関数モデルと、カメラの位置と、カメラへ入射する光線の放射輝度及びカメラのセンサ応答値との対応関係から、光源で第2の物体を照明し、撮影した場合のセンサ応答値の計算値を計算する第2のセンサ応答値計算手段と、撮影手段が取得した第2の物体のセンサ応答値の実測値と、第2のセンサ応答値計算手段で得られたセンサ応答値の計算値とに基づく誤差を計算する第2の誤差計算手段と、双方向反射率分布関数モデルパラメータである前記第2の物体表面上の各点の法線及び測定すべき反射特性を対象として最適化を行い、第2の誤差計算手段が計算した誤差を最小とするパラメータを推定する第2のパラメータ推定手段とを備える、双方向反射率分布関数測定装置である。 Another aspect of the present invention is an apparatus for measuring a bidirectional reflectance distribution function of an object, and is bidirectional with the first object for measuring the light distribution using the above-described light distribution distribution measuring apparatus. For each state in which the second object whose reflectance distribution function is to be measured is illuminated by light sources having different postures, the sensor response values of the first and second objects are measured by photographing means. Value is obtained, and based on the measured value of the sensor response value of the first object, the light distribution distribution model of the light source, the light distribution distribution model parameter, and the position and orientation of the infinitesimal light source approximating the light source are determined for each posture of the light source. Based on the light distribution distribution estimation means to be estimated, the second object posture measurement means for obtaining the position and normal of each point on the second object surface in the three-dimensional space, the light distribution distribution model and the light distribution distribution model parameters The radiance of the emitted light to each point on the second object surface The position of the infinitesimal light source and the position of each point on the second object surface obtained by the second object posture measurement means are calculated from the second emission light calculation means for calculating, the position of the infinitesimal light source, and the position of each point on the second object surface. Obtained by a second distance calculating means for calculating the distance to each point on the object surface, the light distribution distribution model and the light distribution distribution model parameters, the attitude of the infinitesimal light source, and the second object attitude measuring means. Incident on the position of each point on the second object surface from the position and normal of each point on the second object surface and the distance between the position of the infinitesimal light source and each point on the second object surface Second incident light calculation means for calculating the direction and radiance of the light beam to be emitted, the direction and radiance of the light beam incident on the position of each point on the second object surface, and each point on the second object surface Bidirectional reflectance distribution function that models the position, normal, and reflection characteristics to be measured with mathematical formulas and / or measurement data Based on the correspondence between Dell, the position of the camera, the radiance of the light incident on the camera, and the sensor response value of the camera, the calculated value of the sensor response value is calculated when the second object is illuminated with the light source and shot. Based on the second sensor response value calculating means, the measured value of the sensor response value of the second object acquired by the imaging means, and the calculated sensor response value obtained by the second sensor response value calculating means. A second error calculating means for calculating an error, and a normal of each point on the surface of the second object, which is a parameter of the bidirectional reflectance distribution function model , and a reflection characteristic to be measured ; A bidirectional reflectance distribution function measuring apparatus comprising: a second parameter estimating unit that estimates a parameter that minimizes an error calculated by the second error calculating unit.

本発明はまた、光源の配光分布測定および物体の双方向反射率分布関数測定のための方法およびプログラムにも向けられる。   The present invention is also directed to a method and program for measuring the light distribution of a light source and measuring the bidirectional reflectance distribution function of an object.

本発明によれば、配光分布を測定する光源で拡散反射成分を持つ物体を照明し、対象物体をカメラで撮影して得た撮影画像のセンサ応答値を用いて、光源を無限小光源の集合で近似したときの、三次元空間における回転と移動のパラメータによって表現される光源の姿勢と、数式や測定データに基づいたパラメータによってモデル化される光源の配光分布とを、各パラメータを最適化対象とする非線形最適化処理によって導出し、光源の姿勢及び光源表面上の各点の配光分布を測定する方法、装置及びプログラムを提供することができる。   According to the present invention, an object having a diffuse reflection component is illuminated with a light source that measures a light distribution, and a sensor response value of a photographed image obtained by photographing the target object with a camera is used. Optimizing each parameter with the orientation of the light source expressed by parameters of rotation and movement in three-dimensional space when approximated by a set, and the light distribution of the light source modeled by parameters based on mathematical formulas and measurement data It is possible to provide a method, an apparatus, and a program that are derived by a non-linear optimization process as an object to be converted and measure the light source orientation and the light distribution at each point on the light source surface.

本発明に係る配光分布測定装置を用いた第1の測定システムの構成例を表す説明図Explanatory drawing showing the example of a structure of the 1st measurement system using the light distribution distribution measuring apparatus which concerns on this invention. 本発明に係る配光分布測定装置を用いた第2の測定システムの構成例を表す説明図Explanatory drawing showing the structural example of the 2nd measurement system using the light distribution distribution measuring apparatus which concerns on this invention. 本発明に係るの配光分布推定処理の説明図Explanatory drawing of the light distribution distribution estimation process which concerns on this invention

以下に、図面を参照しつつ、本発明の好適な実施形態について例示的に詳しく説明する。   Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the drawings.

まずは、本発明の第1の構成例について、図1を参照しながら説明する。図1は、本構成例に係る配光分布測定システム10を用いた配光分布測定の様子を表す説明図である。配光分布測定システム10は、光源11と、反射特性が拡散反射成分を持つ物体12と、デジタルカメラ13(以下、適宜カメラという)と、コンピュータ14と、モニタ15と、キーボード16とを備えている。光源11は姿勢と配光分布を取得するべき測定対象の光源であり、物体12を照明できる姿勢に配置される。デジタルカメラ13は、撮影手段であって、レンズと、光学センサ(以下、センサという)と、記憶手段などを備え、物体12にピントを合わせ、物体12を撮影して得られたデジタルの画像をセンサ応答値としてコンピュータ14に出力する。コンピュータ14は、外部記憶装置としてのハードディスク及び一次記憶装置としてのメモリ等の記憶手段、演算装置としてのCPUなどを備え、デジタルカメラ13を制御し、撮影画像(センサ応答値)を記憶手段に保存し、撮影画像を基に光源11の姿勢及び配光分布の推定処理を行う。モニタ15は、コンピュータ14の制御画面や処理結果を表示するための出力インターフェースである。キーボード16は、ユーザがコンピュータ14を操作するための入力インターフェースである。配光分布測定装置は、デジタルカメラ13、コンピュータ14、モニタ15、キーボード16に加え、光源11および物体12を設置する手段を含んでもよく、所定の物体12を含んでもよい。   First, a first configuration example of the present invention will be described with reference to FIG. FIG. 1 is an explanatory diagram illustrating a state of light distribution distribution measurement using the light distribution distribution measurement system 10 according to this configuration example. The light distribution distribution measuring system 10 includes a light source 11, an object 12 having a reflection characteristic of a diffuse reflection component, a digital camera 13 (hereinafter referred to as a camera as appropriate), a computer 14, a monitor 15, and a keyboard 16. Yes. The light source 11 is a measurement target light source for which the posture and the light distribution are to be acquired, and is arranged in a posture capable of illuminating the object 12. The digital camera 13 is a photographing unit, and includes a lens, an optical sensor (hereinafter referred to as a sensor), a storage unit, and the like. The digital camera 13 focuses on the object 12 and captures a digital image obtained by photographing the object 12. It outputs to the computer 14 as a sensor response value. The computer 14 includes storage means such as a hard disk as an external storage device and a memory as a primary storage device, a CPU as an arithmetic device, etc., controls the digital camera 13, and saves a photographed image (sensor response value) in the storage means. Then, the estimation process of the attitude of the light source 11 and the light distribution is performed based on the photographed image. The monitor 15 is an output interface for displaying a control screen of the computer 14 and a processing result. The keyboard 16 is an input interface for the user to operate the computer 14. In addition to the digital camera 13, the computer 14, the monitor 15, and the keyboard 16, the light distribution distribution measuring device may include means for installing the light source 11 and the object 12, or may include a predetermined object 12.

撮影において物体12は複数であってもよい。その場合、複数の物体を同一姿勢に順次配置して、デジタルカメラ13で撮影してもよいし、複数の物体を異なる姿勢で配置して、デジタルカメラ13で複数の物体を同時、もしくは順次撮影してもよい。ただし、複数の物体は、デジタルカメラ13のピントが合う範囲内の位置に配置されなければならない。   There may be a plurality of objects 12 in photographing. In that case, a plurality of objects may be sequentially arranged in the same posture and photographed by the digital camera 13, or a plurality of objects may be arranged in different postures and a plurality of objects may be photographed simultaneously or sequentially by the digital camera 13. May be. However, the plurality of objects must be arranged at positions within the range where the digital camera 13 is in focus.

デジタルカメラ13の制御と、配光分布の測定処理を異なるコンピュータで行うためにコンピュータ14は複数のコンピュータで構成されていてもよい。また、デジタルカメラ13は、コンピュータ14で制御しなくとも、ユーザが直接制御し、デジタルカメラ13内の記憶装置に保存された撮影画像をコンピュータ14に転送してもよい。   In order to perform control of the digital camera 13 and measurement processing of the light distribution with different computers, the computer 14 may be composed of a plurality of computers. The digital camera 13 may be directly controlled by the user without being controlled by the computer 14, and the captured image stored in the storage device in the digital camera 13 may be transferred to the computer 14.

本発明の第2の構成例について、図2を参照しながら説明する。図2は、本構成例に係る配光分布測定システム20を用いた配光分布測定の様子を表す説明図である。配光分布測定システム20は、光源21と、反射特性が拡散反射成分を持つ物体22と、デジタルカメラ23と、コンピュータ24と、モニタ25と、キーボード26とを備えている。光源21は姿勢と配光分布を取得するべき測定対象の光源であり、物体22を照明できる姿勢に配置される。デジタルカメラ23は、撮影手段であって、レンズと、センサと、記憶手段などを備え、光源21及び物体22にピントを合わせ、光源21及び物体22を撮影して得られたデジタルの画像をセンサ応答値としてコンピュータ24に出力する。コンピュータ24は、外部記憶装置としてのハードディスク及び一次記憶装置としてのメモリ等の記憶手段、演算装置としてのCPUなどを備え、デジタルカメラ23を制御し、撮影画像(センサ応答値)を記憶手段に保存し、撮影画像を基に光源21の姿勢及び配光分布の推定処理を行う。モニタ25は、コンピュータ24の制御画面や処理結果を表示するための出力インターフェースである。キーボード26は、ユーザがコンピュータ24を操作するための入力インターフェースである。配光分布測定装置は、デジタルカメラ23、コンピュータ24、モニタ25、キーボード26に加え、光源21および物体22を設置する手段を含んでもよく、所定の物体22を含んでもよい。   A second configuration example of the present invention will be described with reference to FIG. FIG. 2 is an explanatory diagram illustrating a state of light distribution distribution measurement using the light distribution distribution measurement system 20 according to this configuration example. The light distribution measurement system 20 includes a light source 21, an object 22 having a diffuse reflection component as a reflection characteristic, a digital camera 23, a computer 24, a monitor 25, and a keyboard 26. The light source 21 is a measurement target light source for which the posture and the light distribution are to be acquired, and is arranged in a posture capable of illuminating the object 22. The digital camera 23 is a photographing unit, and includes a lens, a sensor, a storage unit, and the like. The digital camera 23 focuses on the light source 21 and the object 22 and takes a digital image obtained by photographing the light source 21 and the object 22 as a sensor. The response value is output to the computer 24. The computer 24 includes a storage means such as a hard disk as an external storage device and a memory as a primary storage device, a CPU as an arithmetic device, etc., controls the digital camera 23, and stores a photographed image (sensor response value) in the storage means. Then, the estimation process of the attitude of the light source 21 and the light distribution is performed based on the photographed image. The monitor 25 is an output interface for displaying a control screen of the computer 24 and processing results. The keyboard 26 is an input interface for the user to operate the computer 24. The light distribution measurement device may include means for installing the light source 21 and the object 22 in addition to the digital camera 23, the computer 24, the monitor 25, and the keyboard 26, or may include a predetermined object 22.

撮影において物体22は複数であってもよい。その場合、複数の物体を同一姿勢に順次配置して、デジタルカメラ23で撮影してもよいし、複数の物体を異なる姿勢で配置して、デジタルカメラ23で複数の物体を同時、もしくは順次撮影してもよい。ただし、複数の物体は、デジタルカメラ23のピントが合う範囲内の位置に配置されなければならない。   There may be a plurality of objects 22 in photographing. In that case, a plurality of objects may be sequentially arranged in the same posture and photographed by the digital camera 23, or a plurality of objects may be arranged in different postures and a plurality of objects may be photographed simultaneously or sequentially by the digital camera 23. May be. However, the plurality of objects must be arranged at positions within the range where the digital camera 23 is in focus.

デジタルカメラ23の制御と、配光分布の測定処理を異なるコンピュータで行うためにコンピュータ24は複数のコンピュータで構成されていてもよい。また、デジタルカメラ23は、コンピュータ24で制御しなくとも、ユーザが直接制御し、デジタルカメラ23内の記憶装置に保存された撮影画像をコンピュータ24に転送してもよい。   In order to perform control of the digital camera 23 and measurement processing of the light distribution by different computers, the computer 24 may be configured by a plurality of computers. Further, the digital camera 23 may be directly controlled by the user without being controlled by the computer 24, and the captured image stored in the storage device in the digital camera 23 may be transferred to the computer 24.

次に、本実施形態に係るデータ処理方法の概略を述べる。光源は1つ以上の無限小光源の集合で構成されると仮定すると、その光源で物体を照明し、カメラで撮影して得られたセンサ応答値は、三次元空間における光源の姿勢及び無限小光源の配光分布に依存した値を取る。そのため、光源の姿勢を表す回転パラメータ及び移動パラメータと、無限小光源の配光分布を表す配光分布モデルパラメータと、対象物体の反射特性に基づいたセンサ応答値との計算をモデル化することによって、任意のパラメータ及び反射特性におけるセンサ応答値を計算することができる。   Next, an outline of the data processing method according to the present embodiment will be described. Assuming that the light source is composed of a set of one or more infinitesimal light sources, the sensor response value obtained by illuminating an object with the light source and taking a picture with the camera is the orientation of the light source in three-dimensional space and the infinitesimal The value depends on the light distribution of the light source. Therefore, by modeling the calculation of the rotation parameter and the movement parameter representing the attitude of the light source, the light distribution model parameter representing the light distribution of the infinitesimal light source, and the sensor response value based on the reflection characteristics of the target object The sensor response value at any parameter and reflection characteristic can be calculated.

本発明に係るデータ処理では、物体を撮影して得られるセンサ応答値を取得することをターゲットとし、上述のモデルに基づいて非線形最適化処理で各パラメータを推定する。非線形最適化処理では、任意のパラメータを設定し、そのパラメータにおけるセンサ応答値を計算する。計算により得られたセンサ応答値及び実際の撮影により得られた実測センサ応答値の誤差を最小化するパラメータを推定することにより、光源の姿勢及び無限小光源の配光分布を測定するものである。   In the data processing according to the present invention, the target is to acquire a sensor response value obtained by photographing an object, and each parameter is estimated by nonlinear optimization processing based on the above model. In the nonlinear optimization process, an arbitrary parameter is set, and a sensor response value for the parameter is calculated. It measures the attitude of the light source and the light distribution of the infinitesimal light source by estimating the parameters that minimize the error between the sensor response value obtained by calculation and the actual sensor response value obtained by actual shooting. .

以下では、はじめに非線形最適化処理で推定するパラメータの詳細を説明する。つぎに物体の撮影の事前に行う処理について述べ、続いて非線形最適化による推定処理を説明する。   Below, the detail of the parameter estimated by a nonlinear optimization process is demonstrated first. Next, processing to be performed in advance of photographing an object will be described, and then estimation processing by nonlinear optimization will be described.

「パラメータの詳細」
はじめに、光源のモデル化では、光源をk個の無限小光源の集合とし、光源の基準姿勢におけるk番目の無限小光源の三次元座標を3行1列のベクトルq、無限小光源kにおける所定の方向を表す3行1列の単位ベクトルを法線ベクトルnとする。
Parameter details
First, in the modeling of the light source, the light source is a set of k infinitesimal light sources, the three-dimensional coordinates of the kth infinitesimal light source in the reference posture of the light source are represented by a vector q k of 3 rows and 1 column, and the infinitesimal light source k. A unit vector of 3 rows and 1 column representing a predetermined direction is defined as a normal vector nk .

無限小光源kの出射光の放射輝度Iは、出射光の放射輝度の方向分布を表す配光分布モデルhと、そのモデルパラメータベクトルγと、法線ベクトルnと、出射光の方向を表す3行1列の単位ベクトルである出射方向ベクトルlとの関係によって決定し、次式で表される。 The radiance I of the emitted light from the infinitely small light source k includes a light distribution distribution model h k representing the directional distribution of the emitted light, its model parameter vector γ k , a normal vector nk, and the direction of the emitted light. It is determined by the relationship with the emission direction vector l which is a unit vector of 3 rows and 1 column representing

Figure 0006379651
Figure 0006379651

ここで、γは、無限小光源kのW個のモデルパラメータγ、γ、・・・、γを要素とするW行1列のベクトルである。 Here, γ k is a vector of W rows and 1 column having W model parameters γ 1 , γ 2 ,..., Γ w of the infinitesimal light source k as elements.

次に光源を回転・移動して物体を照明するときの光源の回転パラメータと移動パラメータに基づいて無限小光源kの三次元座標を表す3行1列のベクトルpは次式で表される。 Then the vector p k of 3 rows and one column representing the three-dimensional coordinates of the infinitesimal light source k on the basis of the rotation parameter and the movement parameter of the light source when illuminating the object by rotating and moving the light source is represented by the following formula .

Figure 0006379651
Figure 0006379651

ここで、Rは三次元空間における回転を表す3行3列の回転行列、tは三次元空間における移動を表す3行1列の移動ベクトルである。   Here, R is a 3-by-3 rotation matrix representing rotation in the three-dimensional space, and t is a 3-by-1 movement vector representing movement in the three-dimensional space.

三次元空間における回転行列Rは、3つの回転パラメータ、例えば、X軸、Y軸及びZ軸それぞれを回転軸とした回転角θ、θ及びθで規定できる。また、移動ベクトルtは、X軸、Y軸及びZ軸の要素をそれぞれt、t及びtの3つの移動パラメータで規定できる。各無限小光源の相対位置は既知であるため、全ての無限小光源の位置は、θ、θ、θ、t、t及びtの6つのパラメータで記述できる。したがって、本発明に係る処理では、非線形最適化処理で6+kW個のパラメータを推定する。 The rotation matrix R in the three-dimensional space can be defined by three rotation parameters, for example, rotation angles θ x , θ y, and θ z with the X, Y, and Z axes as rotation axes. Further, the movement vector t is, X-axis, can be defined Y-axis and the elements of the Z-axis respectively t x, the three movement parameter of t y and t z. Since the relative position of each infinitesimal light sources are known, the position of all the infinitesimal light source, θ x, θ y, θ z, can be described by six parameters t x, t y and t z. Therefore, in the process according to the present invention, 6 + kW parameters are estimated by the nonlinear optimization process.

以降では、本実施形態における処理について述べる。   Hereinafter, processing in the present embodiment will be described.

本実施形態に係る処理では、光源を無限小光源の集合としてモデル化する(対象光源近似手段)。モデル化では、無限小光源kの配置、数及び配光分布モデルを決定する必要がある。無限小光源kの配置は、光源の形状に則して決定されることが好ましく、CADデータや、公知の手法による三次元形状復元から形状を得ることが考えられる。無限小光源kの数は、形状の複雑さや、データ処理の高速化などを考慮して適宜決定する。配光分布モデルは、光源の微小領域からの出射光の変角測定データや、光源の発光原理や構造に基づく出射光分布を用いることが考えられる。   In the processing according to the present embodiment, the light source is modeled as a set of infinitesimal light sources (target light source approximation means). In modeling, it is necessary to determine the arrangement and number of infinitesimal light sources k and the light distribution model. The arrangement of the infinitesimal light source k is preferably determined in accordance with the shape of the light source, and it is conceivable that the shape is obtained from CAD data or three-dimensional shape restoration by a known method. The number of infinitesimal light sources k is appropriately determined in consideration of the complexity of the shape and the speeding up of data processing. For the light distribution model, it is conceivable to use the deflection angle measurement data of the emitted light from the minute region of the light source and the emitted light distribution based on the light emission principle and structure of the light source.

例えば、直管型蛍光灯では微小点光源を外周上に等方的に配置する。または、直管型蛍光灯の中心軸上に微小点光源を配置し、微小点光源の配光分布は蛍光灯の形状に則し、長手方向を含む面とその面に垂直な面で異ならせてもよい。   For example, in a straight tube fluorescent lamp, a minute point light source is arranged isotropically on the outer periphery. Alternatively, a minute point light source is arranged on the central axis of a straight tube fluorescent lamp, and the light distribution of the minute point light source is different from the surface including the longitudinal direction and the surface perpendicular to the surface according to the shape of the fluorescent lamp. May be.

本実施形態に係る処理では、光源に照明される物体の形状、姿勢及び反射特性を既知として、センサ応答値を計算する。そのため、測定や、物体の形状・反射特性データに基づき、物体の形状、光源に照明されるときの物体の姿勢(すなわち、物体表面上の各点の位置及び法線)、物体の反射特性を把握する必要がある(物体姿勢測定手段)。   In the processing according to the present embodiment, the sensor response value is calculated assuming that the shape, posture, and reflection characteristics of the object illuminated by the light source are known. Therefore, based on measurement and object shape / reflection data, the object shape, the posture of the object when illuminated by the light source (ie, the position and normal of each point on the object surface), and the object reflection characteristics It is necessary to grasp (object posture measuring means).

ここで、表面の反射特性が均一な平面物体を対象として考える。平面物体であるため、形状は既知である。また、光源に照明されるときの平面物体の姿勢把握では、平面物体の四隅に設置したマーカーを撮影し、画像上のマーカーの位置と、実際のマーカーの位置との関係から平面物体の姿勢を推定する。反射特性取得では、公知の変角照明・測定装置を用いることができる。   Here, a planar object having a uniform surface reflection characteristic is considered. Since it is a planar object, its shape is known. Also, in grasping the orientation of a planar object when illuminated by a light source, the markers placed at the four corners of the planar object are photographed, and the orientation of the planar object is determined from the relationship between the marker position on the image and the actual marker position. presume. In obtaining the reflection characteristics, a known variable angle illumination / measurement device can be used.

対象物体が平面ではない場合、形状と姿勢取得では、公知の手法による三次元形状復元を用いることができる。反射特性取得では、対象物体を変角照明・撮影し、復元された形状と姿勢とから反射特性を推定することができる。   When the target object is not a plane, three-dimensional shape restoration by a known method can be used for shape and posture acquisition. In the acquisition of the reflection characteristic, the target object can be subjected to variable-angle illumination / photographing, and the reflection characteristic can be estimated from the restored shape and posture.

以降では、配光分布を推定する光源で物体を照明・撮影したときのセンサ応答値を仮想的に計算し、計算したセンサ応答値と、実測値であるセンサ応答値との誤差から光源の配光分布を推定する非線形最適化処理について図3を参照して、説明する。   In the following, the sensor response value when an object is illuminated / photographed with a light source that estimates the light distribution is virtually calculated, and the distribution of the light source is calculated from the error between the calculated sensor response value and the measured sensor response value. Nonlinear optimization processing for estimating the light distribution will be described with reference to FIG.

[ステップS31]
対象光源の位置及び向きを三次元空間における回転パラメータ及び移動パラメータで表し、回転パラメータと移動パラメータを用いて無限小光源の姿勢(位置及び向き)を計算する(対象光源姿勢計算手段)。
[Step S31]
The position and orientation of the target light source are represented by rotation parameters and movement parameters in a three-dimensional space, and the attitude (position and orientation) of the infinitesimal light source is calculated using the rotation parameters and movement parameters (target light source attitude calculation means).

[ステップS32]
対象物体表面上のG個の点のうち、g番目の点の三次元座標(位置ベクトル)を3行1列のベクトルrとすると、無限小光源の三次元座標pから点rへ向かうベクトルvg,kは(数3)で表され、出射光ベクトルlg,kは(数4)(距離計算手段)で表される。ただし、二重線はベクトルのノルムを表す。
[Step S32]
Among G number of points on the object surface, when the vector r g of g-th three rows and one column of the three-dimensional coordinates (position vector) of a point, from the three-dimensional coordinates p k infinitesimal light source to the point r g The heading vector v g, k is expressed by (Equation 3), and the outgoing light vector l g, k is expressed by (Equation 4) (distance calculation means). However, the double line represents the norm of the vector.

Figure 0006379651
Figure 0006379651

Figure 0006379651
Figure 0006379651

無限小光源pから出射光ベクトルlg,kへ出射する光線の放射輝度Ig,kは次式(出射光計算手段)で表される。 Infinitesimal source p k from the exit optical vector l g, radiance of the rays of light outgoing to the k I g, k is expressed by the following formula (outgoing light calculating means).

Figure 0006379651
Figure 0006379651

[ステップS33]
出射光ベクトルlg,kが点rに入射するときの、点rから無限小光源kへの入射光ベクトルlg,k’と、その光線の放射輝度Ig,k’はそれぞれ(数6)と(数7)(入射光計算手段)で表される。
[Step S33]
Emitted light vector l g, when k is incident on a point r g, the incident light vector l g from point r g to infinitesimal light source k, 'and, radiance I g of the light beam, k' k, respectively ( These are expressed by (Equation 6) and (Equation 7) (incident light calculation means).

Figure 0006379651
Figure 0006379651

Figure 0006379651
Figure 0006379651

また、点rを観察するカメラの三次元座標を3行1列のベクトルsとすると、点rからカメラの三次元座標sへの観察方向ベクトルl’’は次式で表される。 Also, if vector s of three rows and one column of the three-dimensional coordinates of the camera for observing the point r g, the point r g viewing direction vector from the three-dimensional coordinates s camera l g '' is represented by the following formula .

Figure 0006379651
Figure 0006379651

点rが無限小光源kで照明されたときのカメラの位置する三次元座標sへの反射光の放射輝度I’’は次式で表される。 Point r g radiance I g of the reflected light to the three-dimensional coordinates s located in the camera when illuminated with infinitesimal light source k '' is expressed by the following equation.

Figure 0006379651
Figure 0006379651

ここで、fは対象物体の双方向反射率分布関数、nは点rの法線ベクトルであり、ベクトル2項を引数とする括弧はベクトルの内積を表す。fは公知の変角照明・測定技術で測定することができる。また、法線ベクトルnは、公知の形状復元技術や、平面物体であれば所定の位置に設置したマーカーを検出し、物体の姿勢を推定する技術で、得ることができる。 Here, f is a bidirectional reflectance distribution function of the object, the n g a normal vector of the point r g, brackets for binomial vector argument represents the inner product of vectors. f can be measured by a known variable angle illumination / measurement technique. In addition, the normal vector ng can be obtained by a known shape restoration technique or a technique for detecting a marker placed at a predetermined position in the case of a planar object and estimating the posture of the object.

カメラで観測される反射光が放射輝度I’’である場合には、次式(センサ応答値計算手段)で求められるセンサ応答値d’がカメラの記憶装置にデジタル画像として記録されると推定される。 When the reflected light observed by the camera is radiance I g ″, the sensor response value d g ′ obtained by the following equation (sensor response value calculation means) is recorded as a digital image in the camera storage device. It is estimated to be.

Figure 0006379651
Figure 0006379651

ここで、αは反射光の放射輝度と、センサ応答値との比に基づく正規化係数である。   Here, α is a normalization coefficient based on the ratio between the radiance of reflected light and the sensor response value.

[ステップS34]
上述の計算により得られたセンサ応答値d’と及び実測により得られたセンサ応答値dからセンサ応答値の誤差Eは次式(誤差計算手段)で計算される。
[Step S34]
Error E of the sensor response value from the sensor response values d g obtained by actual measurement Oyobi sensor response values d g 'obtained by the above calculation is calculated by the following equation (error calculating means).

Figure 0006379651
Figure 0006379651

[ステップS35]
得られた誤差Eは回転パラメータ(θ、θ、θ)、移動パラメータ(t、t、t)及び配光分布モデルパラメータγによって決まり、実際の状態に近いほど誤差Eは小さくなる。したがって、非線形最適化処理において誤差Eを小さくするパラメータを推定することで、実際の光源の姿勢と、無限小光源の配光分布を推定することができる(パラメータ推定手段)。
[Step S35]
The obtained error E is determined by the rotation parameters (θ x , θ y , θ z ), the movement parameters (t x , t y , t z ), and the light distribution model parameter γ k , and the error E becomes closer to the actual state. Becomes smaller. Therefore, by estimating a parameter for reducing the error E in the nonlinear optimization process, the actual attitude of the light source and the light distribution of the infinitesimal light source can be estimated (parameter estimation means).

なお、非線形最適化処理で推定するパラメータ数は6+kW個であり、最適解を求めるためのセンサ応答値数Gは少なくとも6+kW個必要である。   Note that the number of parameters estimated in the nonlinear optimization process is 6 + kW, and the number of sensor response values G for obtaining an optimal solution is at least 6 + kW.

これまでに対象物体が1つの場合について説明した。ここで、反射特性の異なる複数の対象物体を用いる場合について述べる。   The case where there is one target object has been described so far. Here, a case where a plurality of target objects having different reflection characteristics are used will be described.

センサ応答値d’は入射光の放射輝度Ig,k’の重み付け線形和であり、重みは対象物体の双方向反射率分布関数fで決定される。例えば、観察方向ベクトルl’’の正反射方向からの入射光ベクトルlg,k’のみを反射する鏡のような対象物体では、その方向に応じた出射光ベクトルlg,kを測定することができる。 The sensor response value d g ′ is a weighted linear sum of the radiances I g, k ′ of incident light, and the weight is determined by the bidirectional reflectance distribution function f of the target object. For example, for a target object such as a mirror that reflects only the incident light vector l g, k ′ from the regular reflection direction of the observation direction vector l g ″, the outgoing light vector l g, k corresponding to the direction is measured. be able to.

つまり、双方向反射率分布関数fを変化させることで、配光分布モデルhの出射光の方向のサンプリングを変化することができる。異なるサンプリングのセンサ応答値を用いることで、非線形最適化で最適解を得られやすくため、異なる双方向反射率分布関数fの物体を撮影することが好ましい。例えば、表面粗さが異なる複数の対象物体を用いることが好ましい。 That is, by changing the bidirectional reflectance distribution function f, sampling in the direction of the emitted light of the light distribution distribution model h k can be changed. Since it is easy to obtain an optimal solution by nonlinear optimization by using sensor response values of different samplings, it is preferable to photograph objects having different bidirectional reflectance distribution functions f. For example, it is preferable to use a plurality of target objects having different surface roughnesses.

このとき、それぞれの物体を照明し、j番目の対象物体のセンサ応答値の誤差Eを計算する。非線形最適化処理では、次式で表される誤差の重み付け誤差の総和E’を最小化することで各パラメータを推定する。 At this time, each object is illuminated, and an error E j of the sensor response value of the j-th target object is calculated. In the nonlinear optimization process, each parameter is estimated by minimizing the sum E ′ of error weighting errors expressed by the following equation.

Figure 0006379651
Figure 0006379651

ここで、βはj番目の誤差Eの重みを表す。 Here, β j represents the weight of the j-th error E j .

これまでに配光分布モデルが1つの場合について説明した。配光分布モデルを用いることは、無限小光源kの配光分布を推定するために測定する出射光ベクトルlg,kの方向数を減らすことができる反面、実光源の配光分布と、配光分布モデルが異なる場合、配光分布の推定精度が低下する問題がある。そこで、複数の配光分布モデルから最適な配光分布モデルを推定する場合について述べる。 The case where there is one light distribution distribution model has been described so far. The use of the light distribution model can reduce the number of directions of the outgoing light vectors lg and k to be measured in order to estimate the light distribution of the infinitesimal light source k. When the light distribution models are different, there is a problem that the estimation accuracy of the light distribution is lowered. Therefore, a case where an optimal light distribution distribution model is estimated from a plurality of light distribution distribution models will be described.

無限小光源kの、m番目の配光分布モデルをhk,mとすると、配光分布モデルhk,mにおけるj番目の対象物体のセンサ応答値の誤差Ej,mは次式で表され、誤差Ej、mが最小となる配光分布モデルとモデルパラメータ、回転パラメータ、移動パラメータを非線形最適化処理で推定する。 Assuming that the m-th light distribution model of the infinitesimal light source k is h k, m , the error E j, m of the sensor response value of the j-th target object in the light distribution model h k , m is expressed by the following equation. Then, the light distribution distribution model, the model parameter, the rotation parameter, and the movement parameter that minimize the error E j, m are estimated by nonlinear optimization processing.

Figure 0006379651
Figure 0006379651

なお、配光分布測定システム20を用いる場合、図2のように対象物体及び光源を同一視野内で撮影することができ、対象物体の反射光だけではなく、光源の出射光のセンサ応答値の実測値が得られる。また、対象物体を撮影した画像のセンサ応答値の計算値を(数2)から(数10)を用いて得る一方、光源を撮影した画像のセンサ応答値の計算では、対象物体の反射光ではなく、光源の出射光からセンサ応答値が得られるように、(数8)と(数9)をそれぞれ(数14)と(数15)に置き換えることができる。   When using the light distribution distribution measurement system 20, the target object and the light source can be photographed in the same field of view as shown in FIG. 2, and not only the reflected light of the target object but also the sensor response value of the emitted light of the light source. An actual measurement value is obtained. In addition, while calculating the sensor response value of the image obtained by photographing the target object using (Equation 2) to (Equation 10), in the calculation of the sensor response value of the image obtained by photographing the light source, Instead, (Equation 8) and (Equation 9) can be replaced with (Equation 14) and (Equation 15), respectively, so that the sensor response value can be obtained from the light emitted from the light source.

Figure 0006379651
Figure 0006379651

Figure 0006379651
Figure 0006379651

ここで、lは無限小光源kからの3行1列の出射光線ベクトル、Iは出射光ベクトルlの放射輝度である。 Here, l k is an output light vector of 3 rows and 1 column from the infinitesimal light source k, and I k is the radiance of the output light vector l k .

これまでに、光源の配光分布を推定する方法について述べた。推定した配光分布を用いることで、光源で任意の三次元座標の位置を照明したときの、その位置への入射光の方向ベクトルと放射輝度を計算することができる。   So far, the method for estimating the light distribution of the light source has been described. By using the estimated light distribution, it is possible to calculate the direction vector and radiance of incident light at the position when the position of an arbitrary three-dimensional coordinate is illuminated by the light source.

ここで、非特許文献1に示される、線光源を用いた物体の双方向反射率分布関数推定方法を参照する。この方法では、対象物体上で線光源を移動させながら、異なる線光源の位置において、対象物体をカメラで撮影する。得られた撮影画像の各画素に対応した対象物体表面の点ごとに、線光源からの入射光と、カメラへの反射光の方向及び放射輝度と、双方向反射率分布関数を数式や測定データでモデル化した双方向反射率分布関数モデルとから対象物体の双方向反射率分布関数を推定する。この方法では、双方向反射率分布関数を推定するための撮影のほかに、線光源の姿勢と、線光源表面の各点における配光分布を推定する必要がある。   Here, a method for estimating a bidirectional reflectance distribution function of an object using a linear light source, which is described in Non-Patent Document 1, will be referred to. In this method, a target object is photographed by a camera at a position of a different line light source while moving the line light source on the target object. For each point on the surface of the target object corresponding to each pixel of the obtained captured image, the incident light from the linear light source, the direction and radiance of the reflected light to the camera, and the bidirectional reflectance distribution function are expressed by mathematical formulas and measurement data. The bi-directional reflectance distribution function of the target object is estimated from the bi-directional reflectance distribution function model modeled in. In this method, in addition to photographing for estimating the bidirectional reflectance distribution function, it is necessary to estimate the attitude of the line light source and the light distribution at each point on the surface of the line light source.

すなわち、本発明に係る配光分布測定システムでは、双方向反射率分布関数を推定する対象物体と共に、線光源の姿勢及び配光分布を推定するための物体や線光源を撮影することで、線光源の姿勢及び配光分布と同時に対象物体の双方向反射率分布関数を推定することができる。このような双方向反射率分布関数測定装置としての構成として、上述の各構成要素に加え、三次元空間における、双方向反射率分布関数の測定対象となる対象物体の物体表面上の各点の位置及び法線を得る第2の物体姿勢測定手段と、推定された配光分布モデル及び配光分布モデルパラメータに基づき、対象物体表面上の各点への出射光の放射輝度を計算する第2の出射光計算手段と、無限小光源の位置と、対象物体姿勢測定手段で得られた対象物体表面上の各点の位置とから、無限小光源の位置と対象物体表面上の各点との距離を計算する第2の距離計算手段と、配光分布モデル及び配光分布モデルパラメータと、無限小光源の姿勢と、第2の物体姿勢測定手段で得られた対象物体表面上の各点の位置及び法線と、無限小光源の位置と対象物体表面上の各点の距離から、対象物体表面上の各点の位置へ入射する光線の方向及び放射輝度を計算する第2の入射光計算手段と、対象物体表面上の各点の位置へ入射する光線の方向及び放射輝度と、対象物体表面上の各点の位置、法線及び測定すべき反射特性を数式及び/又は測定データでモデル化した双方向反射率分布関数モデルと、カメラの位置と、カメラへの入射する光線の放射輝度及びカメラのセンサ応答値との対応関係から、光源で対象物体を照明し、撮影した場合のセンサ応答値の計算値を計算する第2のセンサ応答値計算手段と、撮影手段が取得した対象物体のセンサ応答値の実測値と、第2のセンサ応答値計算手段で得られたセンサ応答値の計算値とに基づく誤差を計算する第2の誤差計算手段と、双方向反射率分布関数モデルパラメータを対象として最適化を行い、第2の誤差計算手段が計算した誤差を最小とするパラメータを推定する第2のパラメータ推定手段とを備える例が挙げられる。   That is, in the light distribution distribution measurement system according to the present invention, the object and the line light source for estimating the attitude of the line light source and the light distribution are photographed together with the target object for estimating the bidirectional reflectance distribution function. The bidirectional reflectance distribution function of the target object can be estimated simultaneously with the orientation of the light source and the light distribution. As a configuration of such a bidirectional reflectance distribution function measuring device, in addition to the above-described components, each point on the object surface of the target object to be measured for the bidirectional reflectance distribution function in a three-dimensional space A second object posture measuring means for obtaining a position and a normal, a second light intensity distribution model and a light distribution distribution model parameter to calculate the radiance of the emitted light to each point on the target object surface; From the position of the infinitesimal light source and the position of each point on the target object surface from the position of the infinitesimal light source and the position of each point on the target object surface obtained by the target object posture measuring means A second distance calculation means for calculating a distance, a light distribution distribution model and a light distribution distribution model parameter, an attitude of an infinitesimal light source, and each point on the target object surface obtained by the second object attitude measurement means; Position and normal, position and object of infinitesimal light source From the distance of each point on the body surface to the position of each point on the target object surface, second incident light calculation means for calculating the direction and radiance of light rays incident on the position of each point on the target object surface A bi-directional reflectance distribution function model in which the direction and radiance of the incident light beam, the position of each point on the surface of the target object, the normal, and the reflection characteristics to be measured are modeled with mathematical formulas and / or measurement data; A second sensor response for calculating a calculated value of the sensor response value when the target object is illuminated and photographed from the correspondence relationship between the position, the radiance of the light beam incident on the camera, and the sensor response value of the camera A second error for calculating an error based on the value calculation means, the measured value of the sensor response value of the target object acquired by the imaging means, and the calculated value of the sensor response value obtained by the second sensor response value calculation means Calculation means and bidirectional reflectance distribution function It optimizes the model parameters as a target, an example and a second parameter estimating means for estimating a parameter which minimizes the error by the second error calculation means has calculated the like.

この構成によって、反射特性が既知の物体を撮影して、光源の配光分布モデルを推定し、双方向反射率分布関数の測定対象物体を、光源の位置または向きが異なる2つ以上の状態で撮影し、光源の配光分布モデルと、双方向反射率分布関数モデルから得られるセンサ応答値の計算値と、撮影結果から得られるセンサ応答値の実測値とに基づいて、双方向反射率分布関数モデルを最適化することにより、対象物体の双方向反射率分布関数を推定することができる。反射特性が既知の物体と対象物体とは、同時に同一視野内に撮影してもよい。   With this configuration, an object with known reflection characteristics is photographed, the light distribution distribution model of the light source is estimated, and the measurement target object of the bidirectional reflectance distribution function is measured in two or more states where the position or orientation of the light source is different. Bidirectional reflectance distribution based on the calculated sensor response value obtained from the light distribution distribution model of the light source, the bidirectional reflectance distribution function model, and the measured sensor response value obtained from the imaging result By optimizing the function model, the bidirectional reflectance distribution function of the target object can be estimated. An object with a known reflection characteristic and a target object may be photographed simultaneously in the same field of view.

本発明は、光源の配光分布を測定する装置、方法、プロセッサを備えたコンピュータが実行するプログラムとして捉えることができる。また、物体の双方向反射率分布関数を測定するための、装置、方法、プロセッサを備えたコンピュータが実行するプログラムとして捉えることができる。   The present invention can be understood as a program executed by a computer including an apparatus, a method, and a processor for measuring a light distribution of a light source. Further, it can be understood as a program executed by a computer including an apparatus, a method, and a processor for measuring a bidirectional reflectance distribution function of an object.

なお、本文中に記載した各ベクトルは、数式中では太字で表記した。例えばベクトルγ、l’’、q、n、l、t、r、vg,k、lg,k、lg,k’、s、n、lは、各数式中では以下の(数16)に示す各ベクトルにそれぞれ対応する。 In addition, each vector described in the text is written in bold in the mathematical formula. For example, the vectors γ k , l g ″, q k , n k , l, t, r g , v g, k , l g, k , l g, k ′, s, ng , l k Among these, it corresponds to each vector shown in the following (Equation 16).

Figure 0006379651
Figure 0006379651

本発明は、光源の配光分布測定及び物体の双方向反射率分布関数測定に有用である。   The present invention is useful for measuring the light distribution of a light source and measuring the bidirectional reflectance distribution function of an object.

10、20 配光分布測定システム
11、21 光源
12、22 物体
13、23 デジタルカメラ
14、24 コンピュータ
15、25 モニタ
16、26 キーボード
10, 20 Light distribution measurement system 11, 21 Light source 12, 22 Object 13, 23 Digital camera 14, 24 Computer 15, 25 Monitor 16, 26 Keyboard

Claims (15)

光源の配光分布を測定する装置であって、
測定対象となる光源である対象光源で、拡散反射成分を持ち反射特性が既知である物体を照明した状態で、少なくとも前記物体をカメラで撮影しセンサ応答値の実測値を取得する撮影手段と、
三次元空間における前記物体表面上の各点の位置及び法線を得る物体姿勢測定手段と、
前記対象光源を1つ以上の無限小光源の集合として近似する対象光源近似手段と、
前記対象光源の位置及び向きを三次元空間における回転パラメータ及び移動パラメータで表し、前記回転パラメータ及び前記移動パラメータから前記無限小光源の位置及び向きである姿勢を計算する対象光源姿勢計算手段と、
前記無限小光源の配光分布を数式及び/又は測定データでモデル化した配光分布モデルと、前記数式及び/又は測定データのパラメータである配光分布モデルパラメータとに基づき、任意方向への出射光の放射輝度を計算する出射光計算手段と、
前記対象光源姿勢計算手段で計算された前記無限小光源の位置と、前記物体姿勢測定手段で得られた前記物体表面上の各点の位置とから、前記無限小光源の位置と前記物体表面上の各点との距離を計算する距離計算手段と、
前記配光分布モデル及び配光分布モデルパラメータと、前記対象光源姿勢計算手段で計算された前記無限小光源の姿勢と、前記物体姿勢測定手段で得られた前記物体表面上の各点の位置及び法線と、前記無限小光源の位置及び前記物体表面上の各点の距離とから、前記物体表面上の各点の位置へ入射する光線の方向及び放射輝度を計算する入射光計算手段と、
前記物体表面上の各点の位置へ入射する光線の方向及び放射輝度と、前記物体表面上の各点の位置、法線及び反射特性と、前記カメラの位置と、前記カメラへ入射する光線の放射輝度及び前記カメラのセンサ応答値との対応関係から、前記対象光源で前記物体を照明し、撮影した場合のセンサ応答値の計算値を計算するセンサ応答値計算手段と、
前記撮影手段が取得したセンサ応答値の実測値と、前記センサ応答値計算手段で得られたセンサ応答値の計算値との差分に基づく誤差を計算する誤差計算手段と、
前記回転パラメータと、前記移動パラメータと、前記配光分布モデルパラメータとを対象として最適化を行い、前記誤差を最小とするパラメータを推定するパラメータ推定手段とを備える、配光分布測定装置。
An apparatus for measuring a light distribution of a light source,
An imaging unit that captures at least the object with a camera and obtains an actual measurement value of a sensor response value in a state in which an object having a diffuse reflection component and a reflection characteristic is illuminated with a target light source that is a light source to be measured;
Object posture measuring means for obtaining the position and normal of each point on the object surface in a three-dimensional space;
Target light source approximation means for approximating the target light source as a set of one or more infinitely small light sources;
A target light source attitude calculation means for expressing the position and orientation of the target light source by a rotation parameter and a movement parameter in a three-dimensional space, and calculating an attitude that is the position and orientation of the infinitesimal light source from the rotation parameter and the movement parameter;
Based on the light distribution distribution model in which the light distribution of the infinitely small light source is modeled with mathematical formulas and / or measurement data, and the light distribution distribution model parameters that are parameters of the mathematical formula and / or measurement data, An emitted light calculating means for calculating the radiance of the incident light;
From the position of the infinitesimal light source calculated by the target light source attitude calculation means and the position of each point on the object surface obtained by the object attitude measurement means, the position of the infinitesimal light source and the object surface Distance calculating means for calculating the distance to each point of
The light distribution distribution model and the light distribution distribution model parameters, the posture of the infinitesimal light source calculated by the target light source posture calculation means, the position of each point on the object surface obtained by the object posture measurement means, and Incident light calculation means for calculating the direction and radiance of light rays incident on the position of each point on the object surface from the normal line, the position of the infinitesimal light source and the distance of each point on the object surface;
The direction and radiance of light rays incident on each point on the object surface, the position, normal and reflection characteristics of each point on the object surface, the position of the camera, and the ray incident on the camera. From the correspondence between the radiance and the sensor response value of the camera, sensor response value calculation means for calculating the calculated value of the sensor response value when the object is illuminated and photographed with the target light source;
An error calculation means for calculating an error based on a difference between an actual measurement value of the sensor response value acquired by the imaging means and a calculated value of the sensor response value obtained by the sensor response value calculation means;
A light distribution distribution measuring apparatus, comprising: parameter estimation means that optimizes the rotation parameter, the movement parameter, and the light distribution distribution model parameter and estimates a parameter that minimizes the error.
前記誤差計算手段は、反射特性が異なる2つ以上の物体について、前記センサ応答値の実測値および前記センサ応答値の計算値を得て、前記誤差として、前記物体の各々についての前記センサ応答値の実測値および前記センサ応答値の計算値との差分に基づく誤差の総和を計算する、請求項1に記載の配光分布測定装置。   The error calculation means obtains an actual measurement value of the sensor response value and a calculated value of the sensor response value for two or more objects having different reflection characteristics, and the sensor response value for each of the objects as the error. The light distribution distribution measuring apparatus according to claim 1, wherein a total sum of errors based on a difference between an actual measurement value of the sensor and a calculated value of the sensor response value is calculated. 前記撮影手段は前記物体と、前記対象光源とを同一視野内で撮影し、前記対象光源の前記センサ応答値の実測値をさらに取得し、
前記センサ応答値計算手段は、前記対象光源を撮影した場合のセンサ応答値の計算値をさらに計算し、
前記誤差計算手段が、前記誤差として、前記物体についての誤差と、前記対象光源についての前記センサ応答値の実測値および前記センサ応答値の計算値との差分に基づく誤差との総和を計算することを特徴とする、
請求項1又は請求項2に記載の配光分布測定装置。
The imaging means images the object and the target light source in the same field of view, and further acquires an actual measurement value of the sensor response value of the target light source,
The sensor response value calculation means further calculates a calculated value of the sensor response value when the target light source is photographed,
The error calculation means calculates, as the error, a sum of an error for the object and an error based on a difference between the measured value of the sensor response value and the calculated value of the sensor response value for the target light source. Characterized by the
The light distribution distribution measuring apparatus according to claim 1 or 2.
前記出射光計算手段は、異なる配光分布モデルに対する出射光の放射輝度を計算し、
前記センサ応答値計算手段は、前記配光分布モデル毎におけるセンサ応答値を計算し、
前記誤差計算手段は、前記配光分布モデル毎における誤差を計算し、
前記パラメータ推定手段は、前記回転パラメータと、前記移動パラメータと、前記配光分布モデルと、前記配光分布モデルパラメータとを対象として最適化を行い、前記誤差を最小とするパラメータを推定する、請求項1乃至請求項3のいずれかに記載の配光分布測定装置。
The emission light calculation means calculates the radiance of the emission light for different light distribution distribution models,
The sensor response value calculation means calculates a sensor response value for each light distribution model,
The error calculation means calculates an error for each light distribution model,
The parameter estimation unit performs optimization on the rotation parameter, the movement parameter, the light distribution model, and the light distribution model parameter, and estimates a parameter that minimizes the error. The light distribution distribution measuring apparatus according to any one of claims 1 to 3.
物体の双方向反射率分布関数を測定する装置であって、
請求項1乃至請求項4のいずれかに記載の配光分布測定装置を用いて、配光分布を測定するための第1の物体と双方向反射率分布関数を測定すべき第2の物体とを、相異なる姿勢の光源でともに照明された状態ごとに、前記撮影手段で撮影して前記第1の物体および前記第2の物体のセンサ応答値の実測値を取得し、前記第1の物体のセンサ応答値の実測値に基づいて、前記光源の姿勢毎に前記光源の配光分布モデル、配光分布モデルパラメータ、前記光源を近似する無限小光源の位置および向きを推定する配光分布推定手段と、
三次元空間における前記第2の物体表面上の各点の位置及び法線を得る第2の物体姿勢測定手段と、
前記配光分布モデル及び前記配光分布モデルパラメータに基づき、前記第2の物体表面上の各点への出射光の放射輝度を計算する第2の出射光計算手段と、
前記無限小光源の位置と、前記第2の物体姿勢測定手段で得られた前記第2の物体表面上の各点の位置とから、前記無限小光源の位置と前記第2の物体表面上の各点との距離を計算する第2の距離計算手段と、
前記配光分布モデル及び配光分布モデルパラメータと、前記無限小光源の姿勢と、前記第2の物体姿勢測定手段で得られた前記第2の物体表面上の各点の位置及び法線と、前記無限小光源の位置と前記第2の物体表面上の各点の距離から、前記第2の物体表面上の各点の位置へ入射する光線の方向及び放射輝度を計算する第2の入射光計算手段と、
前記第2の物体表面上の各点の位置へ入射する光線の方向及び放射輝度と、前記第2の物体表面上の各点の位置、法線及び測定すべき反射特性を数式及び/又は測定データでモデル化した双方向反射率分布関数モデルと、前記カメラの位置と、前記カメラへ入射する光線の放射輝度及び前記カメラのセンサ応答値との対応関係から、前記光源で前記第2の物体を照明し、撮影した場合のセンサ応答値の計算値を計算する第2のセンサ応答値計算手段と、
前記撮影手段が取得した前記第2の物体のセンサ応答値の実測値と、前記第2のセンサ応答値計算手段で得られたセンサ応答値の計算値とに基づく誤差を計算する第2の誤差計算手段と、
前記双方向反射率分布関数モデルパラメータである前記第2の物体表面上の各点の法線及び測定すべき反射特性を対象として最適化を行い、前記第2の誤差計算手段が計算した前記誤差を最小とするパラメータを推定する第2のパラメータ推定手段とを備える、双方向反射率分布関数測定装置。
An apparatus for measuring a bidirectional reflectance distribution function of an object,
Using the light distribution distribution measuring device according to any one of claims 1 to 4, a first object for measuring a light distribution and a second object for measuring a bidirectional reflectance distribution function For each state illuminated by light sources of different postures, and by taking an image of the sensor response values of the first object and the second object to obtain measured values of the first object, Light distribution distribution estimation for estimating the light distribution distribution model of the light source, the light distribution distribution model parameters, and the position and orientation of an infinitesimal light source approximating the light source based on the measured value of the sensor response value of the light source Means,
Second object posture measuring means for obtaining the position and normal of each point on the surface of the second object in a three-dimensional space;
Second emitted light calculation means for calculating a radiance of emitted light to each point on the second object surface based on the light distribution model and the light distribution model parameter;
From the position of the infinitesimal light source and the position of each point on the second object surface obtained by the second object posture measuring means, the position of the infinitesimal light source and the position of the second object surface A second distance calculating means for calculating the distance to each point;
The light distribution distribution model and the light distribution distribution model parameter, the attitude of the infinitesimal light source, the position and normal of each point on the second object surface obtained by the second object attitude measuring means, Second incident light for calculating the direction and radiance of light rays incident on the position of each point on the second object surface from the distance between the position of the infinitesimal light source and each point on the second object surface Calculation means;
Equations and / or measurements of the direction and radiance of rays incident on the position of each point on the second object surface and the position, normal and reflection characteristics to be measured on each point on the second object surface From the correspondence relationship between the bidirectional reflectance distribution function model modeled by data, the position of the camera, the radiance of the light ray incident on the camera, and the sensor response value of the camera, the second object by the light source A second sensor response value calculation means for calculating a calculated value of the sensor response value when photographing and
A second error for calculating an error based on the measured value of the sensor response value of the second object acquired by the imaging unit and the calculated value of the sensor response value obtained by the second sensor response value calculation unit. Calculation means;
Optimization is performed on the normal of each point on the surface of the second object and the reflection characteristics to be measured, which are parameters of the bidirectional reflectance distribution function model , and the second error calculation means calculates the A bi-directional reflectance distribution function measuring device comprising: second parameter estimating means for estimating a parameter that minimizes an error.
光源の配光分布を測定する方法であって、
測定対象となる光源である対象光源で、拡散反射成分を持ち反射特性が既知である物体を照明した状態で、少なくとも前記物体をカメラで撮影しセンサ応答値の実測値を取得する撮影ステップと、
三次元空間における前記物体表面上の各点の位置及び法線を得る物体姿勢測定ステップと、
前記対象光源を1つ以上の無限小光源の集合として近似する対象光源近似ステップと、
前記対象光源の位置及び向きを三次元空間における回転パラメータ及び移動パラメータで表し、前記回転パラメータ及び前記移動パラメータから前記無限小光源の位置及び向きである姿勢を計算する対象光源姿勢計算ステップと、
前記無限小光源の配光分布を数式及び/又は測定データでモデル化した配光分布モデルと、前記数式及び/又は測定データのパラメータである配光分布モデルパラメータとに基づき、任意方向への出射光の放射輝度を計算する出射光計算ステップと、
前記対象光源姿勢計算ステップで計算された前記無限小光源の位置と、前記物体姿勢測定ステップで得られた前記物体表面上の各点の位置とから、前記無限小光源の位置と前記物体表面上の各点との距離を計算する距離計算ステップと、
前記配光分布モデル及び配光分布モデルパラメータと、前記対象光源姿勢計算ステップで計算された前記無限小光源の姿勢と、前記物体姿勢測定ステップで得られた前記物体表面上の各点の位置及び法線と、前記無限小光源の位置及び前記物体表面上の各点の距離とから、前記物体表面上の各点の位置へ入射する光線の方向及び放射輝度を計算する入射光計算ステップと、
前記物体表面上の各点の位置へ入射する光線の方向及び放射輝度と、前記物体表面上の各点の位置、法線及び反射特性と、前記カメラの位置と、前記カメラへ入射する光線の放射輝度及び前記カメラのセンサ応答値との対応関係から、前記対象光源で前記物体を照明し、撮影した場合のセンサ応答値の計算値を計算するセンサ応答値計算ステップと、
前記撮影ステップが取得したセンサ応答値の実測値と、前記センサ応答値計算ステップで得られたセンサ応答値の計算値との差分に基づく誤差を計算する誤差計算ステップと、
前記回転パラメータと、前記移動パラメータと、前記配光分布モデルパラメータとを対象として最適化を行い、前記誤差を最小とするパラメータを推定するパラメータ推定ステップとを含む、配光分布測定方法。
A method for measuring a light distribution of a light source,
A photographing step of photographing at least the object with a camera and obtaining an actual measurement value of a sensor response value in a state in which an object having a diffuse reflection component and a reflection characteristic is illuminated with a target light source that is a light source to be measured;
An object orientation measurement step for obtaining the position and normal of each point on the object surface in a three-dimensional space;
A target light source approximating step for approximating the target light source as a set of one or more infinitesimal light sources;
A target light source posture calculation step for expressing the position and orientation of the target light source by a rotation parameter and a movement parameter in a three-dimensional space, and calculating a posture that is the position and orientation of the infinitely small light source from the rotation parameter and the movement parameter;
Based on the light distribution distribution model in which the light distribution of the infinitely small light source is modeled with mathematical formulas and / or measurement data, and the light distribution distribution model parameters that are parameters of the mathematical formula and / or measurement data, An outgoing light calculation step for calculating the radiance of the incident light;
From the position of the infinitesimal light source calculated in the target light source attitude calculation step and the position of each point on the object surface obtained in the object attitude measurement step, the position of the infinitesimal light source and the object surface A distance calculating step for calculating the distance to each point of
The light distribution distribution model and the light distribution distribution model parameters, the posture of the infinitesimal light source calculated in the target light source posture calculation step, the position of each point on the object surface obtained in the object posture measurement step, and An incident light calculation step for calculating the direction and radiance of light rays incident on the position of each point on the object surface from the normal line, the position of the infinitesimal light source and the distance of each point on the object surface;
The direction and radiance of light rays incident on each point on the object surface, the position, normal and reflection characteristics of each point on the object surface, the position of the camera, and the ray incident on the camera. From a correspondence relationship between radiance and the sensor response value of the camera, a sensor response value calculation step for calculating a calculated value of the sensor response value when the object is illuminated and photographed with the target light source;
An error calculation step for calculating an error based on a difference between an actual measurement value of the sensor response value acquired in the imaging step and a calculated value of the sensor response value obtained in the sensor response value calculation step;
A light distribution distribution measuring method, comprising: a parameter estimating step of performing optimization on the rotation parameter, the movement parameter, and the light distribution distribution model parameter to estimate a parameter that minimizes the error.
前記誤差計算ステップにおいて、反射特性が異なる2つ以上の物体について、前記センサ応答値の実測値および前記センサ応答値の計算値を得て、前記誤差として、前記物体の各々についての前記センサ応答値の実測値および前記センサ応答値の計算値との差分に基づく誤差の総和を計算する、請求項6に記載の配光分布測定方法。   In the error calculation step, an actual measurement value of the sensor response value and a calculated value of the sensor response value are obtained for two or more objects having different reflection characteristics, and the sensor response value for each of the objects is obtained as the error. The light distribution distribution measuring method according to claim 6, wherein a total sum of errors based on a difference between the actually measured value and the calculated sensor response value is calculated. 前記撮影ステップにおいて、前記物体と、前記対象光源とを同一視野内で撮影し、前記対象光源の前記センサ応答値の実測値をさらに取得し、
前記センサ応答値計算ステップにおいて、前記対象光源を撮影した場合のセンサ応答値の計算値をさらに計算し、
前記誤差計算ステップにおいて、前記誤差として、前記物体についての誤差と、前記対象光源についての前記センサ応答値の実測値および前記センサ応答値の計算値との差分に基づく誤差との総和を計算することを特徴とする、請求項6又は請求項7に記載の配光分布測定方法。
In the photographing step, the object and the target light source are photographed within the same field of view, and an actual measurement value of the sensor response value of the target light source is further acquired,
In the sensor response value calculation step, further calculate a calculated value of the sensor response value when the target light source is photographed,
In the error calculation step, as the error, a sum of an error for the object and an error based on a difference between the measured value of the sensor response value and the calculated value of the sensor response value for the target light source is calculated. The light distribution distribution measuring method according to claim 6 or 7, wherein:
前記出射光計算ステップにおいて、異なる配光分布モデルに対する出射光の放射輝度を計算し、
前記センサ応答値計算ステップにおいて、前記配光分布モデル毎におけるセンサ応答値を計算し、
前記誤差計算ステップにおいて、前記配光分布モデル毎における誤差を計算し、
前記パラメータ推定ステップにおいて、前記回転パラメータと、前記移動パラメータと、前記配光分布モデルと、前記配光分布モデルパラメータとを対象として最適化を行い、前記誤差を最小とするパラメータを推定する、請求項6乃至請求項8のいずれかに記載の配光分布測定方法。
In the emission light calculation step, calculate the radiance of the emission light for different light distribution distribution models,
In the sensor response value calculation step, calculate a sensor response value for each light distribution model,
In the error calculation step, an error for each light distribution model is calculated,
In the parameter estimation step, optimization is performed on the rotation parameter, the movement parameter, the light distribution model, and the light distribution model parameter to estimate a parameter that minimizes the error. Item 9. The light distribution distribution measuring method according to any one of Items 6 to 8.
物体の双方向反射率分布関数を測定する方法であって、
請求項6乃至請求項9のいずれかに記載の配光分布測定方法を用いて、配光分布を測定するための第1の物体と双方向反射率分布関数を測定すべき第2の物体とを、相異なる姿勢の光源でともに照明された状態ごとに、前記撮影ステップにおいて撮影して前記第1の物体および前記第2の物体のセンサ応答値の実測値を取得し、前記第1の物体のセンサ応答値の実測値に基づいて、前記光源の姿勢毎に前記光源の配光分布モデル、配光分布モデルパラメータ、前記光源を近似する無限小光源の位置および向きを推定する配光分布推定ステップと、
三次元空間における前記第2の物体表面上の各点の位置及び法線を得る第2の物体姿勢測定ステップと、
前記配光分布モデル及び前記配光分布モデルパラメータに基づき、前記第2の物体表面上の各点への出射光の放射輝度を計算する第2の出射光計算ステップと、
前記無限小光源の位置と、前記第2の物体姿勢測定ステップにおいて得られた前記第2の物体表面上の各点の位置とから、前記無限小光源の位置と前記第2の物体表面上の各点との距離を計算する第2の距離計算ステップと、
前記配光分布モデル及び配光分布モデルパラメータと、前記無限小光源の姿勢と、前記第2の物体姿勢測定ステップにおいて得られた前記第2の物体表面上の各点の位置及び法線と、前記無限小光源の位置と前記第2の物体表面上の各点の距離から、前記第2の物体表面上の各点の位置へ入射する光線の方向及び放射輝度を計算する第2の入射光計算ステップと、
前記第2の物体表面上の各点の位置へ入射する光線の方向及び放射輝度と、前記第2の物体表面上の各点の位置、法線及び測定すべき反射特性を数式及び/又は測定データでモデル化した双方向反射率分布関数モデルと、前記カメラの位置と、前記カメラへ入射する光線の放射輝度及び前記カメラのセンサ応答値との対応関係から、前記光源で前記第2の物体を照明し、撮影した場合のセンサ応答値の計算値を計算する第2のセンサ応答値計算ステップと、
前記撮影ステップにおいて取得した前記第2の物体のセンサ応答値の実測値と、前記第2のセンサ応答値計算ステップにおいて得られたセンサ応答値の計算値とに基づく誤差を計算する第2の誤差計算ステップと、
前記双方向反射率分布関数モデルパラメータである前記第2の物体表面上の各点の法線及び測定すべき反射特性を対象として最適化を行い、前記第2の誤差計算ステップにおいて計算した前記誤差を最小とするパラメータを推定する第2のパラメータ推定ステップとを備える、双方向反射率分布関数測定方法。
A method for measuring a bidirectional reflectance distribution function of an object, comprising:
Using the light distribution distribution measuring method according to any one of claims 6 to 9, a first object for measuring a light distribution and a second object for measuring a bidirectional reflectance distribution function For each state illuminated with light sources of different postures to obtain measured values of sensor response values of the first object and the second object in the photographing step, and to obtain the first object Light distribution distribution estimation for estimating the light distribution distribution model of the light source, the light distribution distribution model parameters, and the position and orientation of an infinitesimal light source approximating the light source based on the measured value of the sensor response value of the light source Steps,
A second object posture measurement step for obtaining the position and normal of each point on the second object surface in a three-dimensional space;
A second emission light calculation step of calculating a radiance of the emission light to each point on the second object surface based on the light distribution distribution model and the light distribution distribution model parameters;
From the position of the infinitesimal light source and the position of each point on the second object surface obtained in the second object posture measurement step, the position of the infinitesimal light source and the position of the second object surface A second distance calculating step for calculating the distance to each point;
The light distribution distribution model and the light distribution distribution model parameters, the posture of the infinitesimal light source, the position and normal of each point on the second object surface obtained in the second object posture measurement step, Second incident light for calculating the direction and radiance of light rays incident on the position of each point on the second object surface from the distance between the position of the infinitesimal light source and each point on the second object surface A calculation step;
Equations and / or measurements of the direction and radiance of rays incident on the position of each point on the second object surface and the position, normal and reflection characteristics to be measured on each point on the second object surface From the correspondence relationship between the bidirectional reflectance distribution function model modeled by data, the position of the camera, the radiance of the light ray incident on the camera, and the sensor response value of the camera, the second object by the light source A second sensor response value calculating step for calculating a calculated value of the sensor response value when the image is taken and
A second error for calculating an error based on the measured value of the sensor response value of the second object acquired in the photographing step and the calculated value of the sensor response value obtained in the second sensor response value calculation step. A calculation step;
Optimization is performed on the normal of each point on the second object surface and the reflection characteristics to be measured, which are parameters of the bidirectional reflectance distribution function model , and the calculation is performed in the second error calculation step. A bidirectional reflectance distribution function measurement method comprising: a second parameter estimation step that estimates a parameter that minimizes an error.
光源の配光分布を測定するために、コンピューターを、
測定対象となる光源である対象光源で、拡散反射成分を持ち反射特性が既知である物体を照明した状態で、少なくとも前記物体をカメラで撮影しセンサ応答値の実測値を取得する撮影手段と、
三次元空間における前記物体表面上の各点の位置及び法線を得る物体姿勢測定手段と、
前記対象光源を1つ以上の無限小光源の集合として近似する対象光源近似手段と、
前記対象光源の位置及び向きを三次元空間における回転パラメータ及び移動パラメータで表し、前記回転パラメータ及び前記移動パラメータから前記無限小光源の位置及び向きである姿勢を計算する対象光源姿勢計算手段と、
前記無限小光源の配光分布を数式及び/又は測定データでモデル化した配光分布モデルと、前記数式及び/又は測定データのパラメータである配光分布モデルパラメータとに基づき、任意方向への出射光の放射輝度を計算する出射光計算手段と、
前記対象光源姿勢計算手段で計算された前記無限小光源の位置と、前記物体姿勢測定手段で得られた前記物体表面上の各点の位置とから、前記無限小光源の位置と前記物体表面上の各点との距離を計算する距離計算手段と、
前記配光分布モデル及び配光分布モデルパラメータと、前記対象光源姿勢計算手段で計算された前記無限小光源の姿勢と、前記物体姿勢測定手段で得られた前記物体表面上の各点の位置及び法線と、前記無限小光源の位置及び前記物体表面上の各点の距離とから、前記物体表面上の各点の位置へ入射する光線の方向及び放射輝度を計算する入射光計算手段と、
前記物体表面上の各点の位置へ入射する光線の方向及び放射輝度と、前記物体表面上の各点の位置、法線及び反射特性と、前記カメラの位置と、前記カメラへ入射する光線の放射輝度及び前記カメラのセンサ応答値との対応関係から、前記対象光源で前記物体を照明し、撮影した場合のセンサ応答値の計算値を計算するセンサ応答値計算手段と、
前記撮影手段が取得したセンサ応答値の実測値と、前記センサ応答値計算手段で得られたセンサ応答値の計算値との差分に基づく誤差を計算する誤差計算手段と、
前記回転パラメータと、前記移動パラメータと、前記配光分布モデルパラメータとを対象として最適化を行い、前記誤差を最小とするパラメータを推定するパラメータ推定手段として機能させる、配光分布測定プログラム。
In order to measure the light distribution of the light source,
An imaging unit that captures at least the object with a camera and obtains an actual measurement value of a sensor response value in a state in which an object having a diffuse reflection component and a reflection characteristic is illuminated with a target light source that is a light source to be measured;
Object posture measuring means for obtaining the position and normal of each point on the object surface in a three-dimensional space;
Target light source approximation means for approximating the target light source as a set of one or more infinitely small light sources;
A target light source attitude calculation means for expressing the position and orientation of the target light source by a rotation parameter and a movement parameter in a three-dimensional space, and calculating an attitude that is the position and orientation of the infinitesimal light source from the rotation parameter and the movement parameter;
Based on the light distribution distribution model in which the light distribution of the infinitely small light source is modeled with mathematical formulas and / or measurement data, and the light distribution distribution model parameters that are parameters of the mathematical formula and / or measurement data, An emitted light calculating means for calculating the radiance of the incident light;
From the position of the infinitesimal light source calculated by the target light source attitude calculation means and the position of each point on the object surface obtained by the object attitude measurement means, the position of the infinitesimal light source and the object surface Distance calculating means for calculating the distance to each point of
The light distribution distribution model and the light distribution distribution model parameters, the posture of the infinitesimal light source calculated by the target light source posture calculation means, the position of each point on the object surface obtained by the object posture measurement means, and Incident light calculation means for calculating the direction and radiance of light rays incident on the position of each point on the object surface from the normal line, the position of the infinitesimal light source and the distance of each point on the object surface;
The direction and radiance of light rays incident on each point on the object surface, the position, normal and reflection characteristics of each point on the object surface, the position of the camera, and the ray incident on the camera. From the correspondence between the radiance and the sensor response value of the camera, sensor response value calculation means for calculating the calculated value of the sensor response value when the object is illuminated and photographed with the target light source;
An error calculation means for calculating an error based on a difference between an actual measurement value of the sensor response value acquired by the imaging means and a calculated value of the sensor response value obtained by the sensor response value calculation means;
A light distribution distribution measurement program that optimizes the rotation parameter, the movement parameter, and the light distribution distribution model parameter, and functions as a parameter estimation unit that estimates a parameter that minimizes the error.
前記誤差計算手段は、反射特性が異なる2つ以上の物体について、前記センサ応答値の実測値および前記センサ応答値の計算値を得て、前記誤差として、前記物体の各々についての前記センサ応答値の実測値および前記センサ応答値の計算値との差分に基づく誤差の総和を計算する、請求項11に記載の配光分布測定プログラム。   The error calculation means obtains an actual measurement value of the sensor response value and a calculated value of the sensor response value for two or more objects having different reflection characteristics, and the sensor response value for each of the objects as the error. The light distribution distribution measurement program according to claim 11, wherein a sum of errors based on a difference between an actual measurement value of the sensor and a calculated value of the sensor response value is calculated. 前記撮影手段は前記物体と、前記対象光源とを同一視野内で撮影し、前記対象光源の前記センサ応答値の実測値をさらに取得し、
前記センサ応答値計算手段は、前記対象光源を撮影した場合のセンサ応答値の計算値をさらに計算し、
前記誤差計算手段が、前記誤差として、前記物体についての誤差と、前記対象光源についての前記センサ応答値の実測値および前記センサ応答値の計算値との差分に基づく誤差との総和を計算することを特徴とする、
請求項11又は請求項12に記載の配光分布測定プログラム。
The imaging means images the object and the target light source in the same field of view, and further acquires an actual measurement value of the sensor response value of the target light source,
The sensor response value calculation means further calculates a calculated value of the sensor response value when the target light source is photographed,
The error calculation means calculates, as the error, a sum of an error for the object and an error based on a difference between the measured value of the sensor response value and the calculated value of the sensor response value for the target light source. Characterized by the
The light distribution distribution measuring program according to claim 11 or 12.
前記出射光計算手段は、異なる配光分布モデルに対する出射光の放射輝度を計算し、
前記センサ応答値計算手段は、前記配光分布モデル毎におけるセンサ応答値を計算し、
前記誤差計算手段は、前記配光分布モデル毎における誤差を計算し、
前記パラメータ推定手段は、前記回転パラメータと、前記移動パラメータと、前記配光分布モデルと、前記配光分布モデルパラメータとを対象として最適化を行い、前記誤差を最小とするパラメータを推定する、請求項11乃至請求項13のいずれかに記載の配光分布測定プログラム。
The emission light calculation means calculates the radiance of the emission light for different light distribution distribution models,
The sensor response value calculation means calculates a sensor response value for each light distribution model,
The error calculation means calculates an error for each light distribution model,
The parameter estimation unit performs optimization on the rotation parameter, the movement parameter, the light distribution model, and the light distribution model parameter, and estimates a parameter that minimizes the error. The light distribution measurement program according to any one of claims 11 to 13.
物体の双方向反射率分布関数を測定するために、コンピューターを、
請求項11乃至請求項14のいずれかに記載の配光分布測定プログラムを実行して、配光分布を測定するための第1の物体と双方向反射率分布関数を測定すべき第2の物体とを、相異なる姿勢の光源でともに照明された状態ごとに、前記撮影手段で撮影して前記第1の物体および前記第2の物体のセンサ応答値の実測値を取得し、前記第1の物体のセンサ応答値の実測値に基づいて、前記光源の姿勢毎に前記光源の配光分布モデル、配光分布モデルパラメータ、前記光源を近似する無限小光源の位置および向きを推定する配光分布推定手段と、
三次元空間における前記第2の物体表面上の各点の位置及び法線を得る第2の物体姿勢測定手段と、
前記配光分布モデル及び前記配光分布モデルパラメータに基づき、前記第2の物体表面上の各点への出射光の放射輝度を計算する第2の出射光計算手段と、
前記無限小光源の位置と、前記第2の物体姿勢測定手段で得られた前記第2の物体表面上の各点の位置とから、前記無限小光源の位置と前記第2の物体表面上の各点との距離を計算する第2の距離計算手段と、
前記配光分布モデル及び配光分布モデルパラメータと、前記無限小光源の姿勢と、前記第2の物体姿勢測定手段で得られた前記第2の物体表面上の各点の位置及び法線と、前記無限小光源の位置と前記第2の物体表面上の各点の距離から、前記第2の物体表面上の各点の位置へ入射する光線の方向及び放射輝度を計算する第2の入射光計算手段と、
前記第2の物体表面上の各点の位置へ入射する光線の方向及び放射輝度と、前記第2の物体表面上の各点の位置、法線及び測定すべき反射特性を数式及び/又は測定データでモデル化した双方向反射率分布関数モデルと、前記カメラの位置と、前記カメラへ入射する光線の放射輝度及び前記カメラのセンサ応答値との対応関係から、前記光源で前記第2の物体を照明し、撮影した場合のセンサ応答値の計算値を計算する第2のセンサ応答値計算手段と、
前記撮影手段が取得した前記第2の物体のセンサ応答値の実測値と、前記第2のセンサ応答値計算手段で得られたセンサ応答値の計算値とに基づく誤差を計算する第2の誤差計算手段と、
前記双方向反射率分布関数モデルパラメータである前記第2の物体表面上の各点の法線及び測定すべき反射特性を対象として最適化を行い、前記第2の誤差計算手段が計算した前記誤差を最小とするパラメータを推定する第2のパラメータ推定手段として機能させる、双方向反射率分布関数測定プログラム。
To measure the bidirectional reflectance distribution function of an object,
A first object for measuring a light distribution and a second object for measuring a bidirectional reflectance distribution function by executing the light distribution measurement program according to any one of claims 11 to 14. For each state illuminated with light sources of different postures, and obtain the measured values of the sensor response values of the first object and the second object by photographing with the photographing means, A light distribution distribution that estimates the position and orientation of an infinitesimal light source that approximates the light source, based on the measured value of the sensor response value of the object, for each light source posture. An estimation means;
Second object posture measuring means for obtaining the position and normal of each point on the surface of the second object in a three-dimensional space;
Second emitted light calculation means for calculating a radiance of emitted light to each point on the second object surface based on the light distribution model and the light distribution model parameter;
From the position of the infinitesimal light source and the position of each point on the second object surface obtained by the second object posture measuring means, the position of the infinitesimal light source and the position of the second object surface A second distance calculating means for calculating the distance to each point;
The light distribution distribution model and the light distribution distribution model parameter, the attitude of the infinitesimal light source, the position and normal of each point on the second object surface obtained by the second object attitude measuring means, Second incident light for calculating the direction and radiance of light rays incident on the position of each point on the second object surface from the distance between the position of the infinitesimal light source and each point on the second object surface Calculation means;
Equations and / or measurements of the direction and radiance of rays incident on the position of each point on the second object surface and the position, normal and reflection characteristics to be measured on each point on the second object surface From the correspondence relationship between the bidirectional reflectance distribution function model modeled by data, the position of the camera, the radiance of the light ray incident on the camera, and the sensor response value of the camera, the second object by the light source A second sensor response value calculation means for calculating a calculated value of the sensor response value when photographing and
A second error for calculating an error based on the measured value of the sensor response value of the second object acquired by the imaging unit and the calculated value of the sensor response value obtained by the second sensor response value calculation unit. Calculation means;
Optimization is performed on the normal of each point on the surface of the second object and the reflection characteristics to be measured, which are parameters of the bidirectional reflectance distribution function model , and the second error calculation means calculates the A bidirectional reflectance distribution function measurement program that functions as second parameter estimation means for estimating a parameter that minimizes an error.
JP2014099662A 2014-05-13 2014-05-13 Apparatus, method, and program for measuring light distribution of light source and bidirectional reflectance distribution function of object Active JP6379651B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014099662A JP6379651B2 (en) 2014-05-13 2014-05-13 Apparatus, method, and program for measuring light distribution of light source and bidirectional reflectance distribution function of object

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014099662A JP6379651B2 (en) 2014-05-13 2014-05-13 Apparatus, method, and program for measuring light distribution of light source and bidirectional reflectance distribution function of object

Publications (2)

Publication Number Publication Date
JP2015215300A JP2015215300A (en) 2015-12-03
JP6379651B2 true JP6379651B2 (en) 2018-08-29

Family

ID=54752305

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014099662A Active JP6379651B2 (en) 2014-05-13 2014-05-13 Apparatus, method, and program for measuring light distribution of light source and bidirectional reflectance distribution function of object

Country Status (1)

Country Link
JP (1) JP6379651B2 (en)

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6268863B1 (en) * 1997-10-02 2001-07-31 National Research Council Canada Method of simulating a photographic camera
JP4061822B2 (en) * 2000-06-26 2008-03-19 松下電工株式会社 Infrared module characteristics measurement method
US6919962B2 (en) * 2003-02-07 2005-07-19 University Of Southern California Reflectometry apparatus and method
JP4357997B2 (en) * 2004-03-15 2009-11-04 独立行政法人科学技術振興機構 Fast estimation method of bidirectional reflection distribution function of objects
JP2006277740A (en) * 2005-03-04 2006-10-12 Ricoh Co Ltd Illuminance distribution calculation device, program and storage medium
US8310483B2 (en) * 2007-11-20 2012-11-13 Dreamworks Animation Llc Tinting a surface to simulate a visual effect in a computer generated scene
JP2009288217A (en) * 2008-06-02 2009-12-10 Nidec Sankyo Corp Characteristic measuring method of light, mounting position adjusting method of light source, characteristic measuring device of light, and mounting position adjusting device of light source
JP5565278B2 (en) * 2010-11-10 2014-08-06 ソニー株式会社 Light distribution measuring device, light distribution measuring method, and light distribution measuring program
US8953037B2 (en) * 2011-10-14 2015-02-10 Microsoft Corporation Obtaining spatially varying bidirectional reflectance distribution function

Also Published As

Publication number Publication date
JP2015215300A (en) 2015-12-03

Similar Documents

Publication Publication Date Title
JP6661336B2 (en) System for obtaining data representing an optical signal from a structure, method for mapping the data, and non-transitory computer readable medium
JP6594129B2 (en) Information processing apparatus, information processing method, and program
JP6635690B2 (en) Information processing apparatus, information processing method and program
US10497111B2 (en) Information processing apparatus and method of selecting viewpoint for measuring object, and measuring system
JP5671281B2 (en) Position / orientation measuring apparatus, control method and program for position / orientation measuring apparatus
CN105847786B (en) System and method for determining color conversion parameters
US20100310128A1 (en) System and Method for Remote Measurement of Displacement and Strain Fields
Carfagni et al. Fast and low cost acquisition and reconstruction system for human hand-wrist-arm anatomy
JP2016100698A (en) Calibration device, calibration method, and program
JP6071522B2 (en) Information processing apparatus and information processing method
JP2009180703A (en) Information processing apparatus and method
JP6237032B2 (en) Color and three-dimensional shape measuring method and apparatus
CN110910506B (en) Three-dimensional reconstruction method and device based on normal detection, detection device and system
JP5976089B2 (en) Position / orientation measuring apparatus, position / orientation measuring method, and program
JP2019046055A (en) Image processing device, and image processing method, and program
KR101865886B1 (en) Method and system for estimating surface geometry and reflectance
AU2020217607B2 (en) Generation of texture models using a moveable scanner
JP2009236696A (en) Three-dimensional image measurement method, measurement system, and measurement program for subject
JP5441752B2 (en) Method and apparatus for estimating a 3D pose of a 3D object in an environment
JP6379651B2 (en) Apparatus, method, and program for measuring light distribution of light source and bidirectional reflectance distribution function of object
JP2013096784A (en) Surface characteristic measuring device and computer program
JP6822086B2 (en) Simulation equipment, simulation method and simulation program
US20110025685A1 (en) Combined geometric and shape from shading capture
CN114241059A (en) Synchronous calibration method for camera and light source in photometric stereo vision system
JP7463697B2 (en) Gloss acquisition state calculation device, gloss acquisition state calculation method, gloss acquisition state calculation program, terminal, and gloss acquisition state display program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170420

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180313

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180420

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180703

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180716

R150 Certificate of patent or registration of utility model

Ref document number: 6379651

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250