JP7038050B2 - 固体撮像装置、補正方法、および電子装置 - Google Patents

固体撮像装置、補正方法、および電子装置 Download PDF

Info

Publication number
JP7038050B2
JP7038050B2 JP2018526024A JP2018526024A JP7038050B2 JP 7038050 B2 JP7038050 B2 JP 7038050B2 JP 2018526024 A JP2018526024 A JP 2018526024A JP 2018526024 A JP2018526024 A JP 2018526024A JP 7038050 B2 JP7038050 B2 JP 7038050B2
Authority
JP
Japan
Prior art keywords
pixel
unit
correction
value
ocl
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018526024A
Other languages
English (en)
Other versions
JPWO2018008408A1 (ja
Inventor
毅 都築
克美 錦織
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Publication of JPWO2018008408A1 publication Critical patent/JPWO2018008408A1/ja
Priority to JP2022034191A priority Critical patent/JP7235906B2/ja
Application granted granted Critical
Publication of JP7038050B2 publication Critical patent/JP7038050B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/14625—Optical elements or arrangements associated with the device
    • H01L27/14627—Microlenses
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70—SSIS architectures; Circuits associated therewith
    • H04N25/703—SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704—Pixels specially adapted for focusing, e.g. phase difference pixel sets
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/14603—Special geometry or disposition of pixel-elements, address-lines or gate-electrodes
    • H01L27/14605—Structural or functional details relating to the position of the pixel elements, e.g. smaller pixel elements in the center of the imager compared to pixel elements at the periphery
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/14603—Special geometry or disposition of pixel-elements, address-lines or gate-electrodes
    • H01L27/14607—Geometry of the photosensitive area
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/67—Focus control based on electronic image sensor signals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/67—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Power Engineering (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Electromagnetism (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)
  • Solid State Image Pick-Up Elements (AREA)

Description

本開示は、固体撮像装置、補正方法、および電子装置に関し、特に、位相差信号を生成するための位相差検出用画素の周囲に存在する色信号を生成するための標準画素の画素値を補正するようにした固体撮像装置、補正方法、および電子装置に関する。
デジタルカメラ等におけるＡＦ(Auto Focus)方式の一手法として像面位相差ＡＦが知られている。
像面位相差ＡＦを実現するためのイメージセンサには、色信号を出力する標準画素が縦横に配置されている画素アレイ上に、位相差信号を生成するための画素値を出力する部分的に遮光された位相差検出画素が配置されている。ただし、部分的に遮光された位相差検出画素を用いる場合、低照度時には適切な位相差信号を得られないためにＡＦ性能が低下してしまうことが起こり得た。
そのような事態を抑止できるイメージセンサとして、２×１OCL(On Chip Lens)構造を有する位相差検出画素（以下、２×１OCL画素と略称する）を標準画素間に離散的に配置する構成が提案されている。OCLは、画素の集光効率向上のために画素の受光側に形成されるレンズであるが、２×１OCL構造を有する位相差検出画素は、受光面に標準画素の２画素分の横長形状（または縦長形状）のOCLを備え、該OCLの右側と左側をそれぞれ通った光を位相差検出画素内の異なる受光素子で受光することにより得られる画素値から位相差信号を生成することができる。
なお、２×１OCL画素が画素アレイに混載されているイメージセンサからの出力を画像データとして使用する場合、２×１OCL画素の位置に対応する色信号を得るために適切な補間処理を行う必要がある。この補間には、例えば、２×１OCL画素の周辺領域の方向性を検出して補間する方向補間処理や、周辺領域の各色のレベルを利用した相関補間処理等を用いることができる。
特開平０１－２１６３０６号公報
しかしながら、２×１OCL画素の位置に対して補正を行っても、そこが画像の平坦部分である場合には、２×１OCL画素に隣接する標準画素の出力である色信号に起因して、２×１OCL画素付近に見かけ上の違和感を生じさせてしまうことがある。
すなわち、２×１OCL画素を混載するイメージセンサの製造過程において、２×１OCL画素とその周囲の標準画素とでは、形成するOCLの形状が異なるので、２×１OCL画素の周囲の標準画素のOCL形状も本来の形状から若干変形してしまい、そのサイズが増減したり、形状の対称性が崩れたりする。
このような標準画素のOCLの変形は、標準画素の感度に影響を及ぼし、得られる色信号が本来得られるはずの値から微小に増減して、結果的に平坦部分に違和感が生じて見えてしまう原因となる。
したがって、２×１OCL画素を混載したイメージセンサから出力される画像に対しては、２×１OCL画素の位置に対する補間だけでなく、２×１OCL画素の周囲に位置する標準画素の出力（画素信号）に対しても補正が必要となる。
本開示はこのような状況に鑑みてなされたものであり、OCL形状の異なる画素が混載されている固体撮像装置から出力される画像の見かけ上の違和感を抑止できるようにするものである。
本開示の第１の側面である固体撮像装置は、標準サイズのOCL(On Chip Lens)が形成されている第１の画素と、前記標準サイズの２画素分以上のサイズのOCLが形成されている第２の画素が混在されている画素アレイと、前記画素アレイ上の前記第１の画素のうち、前記第２の画素の近傍に位置し、OCLの形状が本来の標準サイズから変形している第３の画素の画素値を補正する補正部とを備え、前記補正部は、補正対象の前記第３の画素の画素値と置換する補正値を、前記補正対象の前記第３の画素の近傍に位置し、前記第２の画素および他の前記第３の画素を除く前記第１の画素の画素値を用いて算出する。
前記補正部は、算出した前記補正値を適用するか否かを判定するための閾値を決定することができる。
前記補正部は、補正対象の前記第３の画素と前記第２の画素との位置関係によって異なるパラメータを用いて前記閾値を決定することができる。
前記補正部は、補正対象の前記第３の画素の画像中における位置によって異なるパラメータを用いて前記閾値を決定することができる。
前記補正部は、補正対象の前記第３の画素の周辺領域の平坦性に基づき、算出した前記補正値を適用するか否かを判定することができる。
前記第２の画素は、位相差検出画素とすることができる。
本開示の第１の側面である固体撮像装置は、前記第２の画素の位置に対応する画素値を補間する補間部をさらに備えることができる。
本開示の第１の側面である補正方法は、標準サイズのOCL(On Chip Lens)が形成されている第１の画素と、前記標準サイズの２画素分以上のサイズのOCLが形成されている第２の画素が混在されている画素アレイと、前記画素アレイの出力を補正する補正部とを備える固体撮像装置の補正方法において、前記補正部が、前記画素アレイ上の前記第１の画素のうち、前記第２の画素の近傍に位置し、OCLの形状が本来の標準サイズから変形している第３の画素を補正対象とし、補正対象の前記第３の画素の画素値と置換する補正値を、前記補正対象の前記第３の画素の近傍に位置し、前記第２の画素および他の前記第３の画素を除く前記第１の画素の画素値を用いて算出する。
本開示の第１の側面においては、画素アレイ上の第１の画素のうち、第２の画素の近傍に位置し、OCLの形状が本来の標準サイズから変形している第３の画素の画素値が補正される。補正対象の前記第３の画素の画素値と置換する補正値は、前記補正対象の前記第３の画素の近傍に位置し、前記第２の画素および他の前記第３の画素を除く前記第１の画素の画素値を用いて算出される。
本開示の第２の側面である電子装置は、固体撮像装置が搭載されている電子装置において、前記固体撮像装置が、標準サイズのOCL(On Chip Lens)が形成されている第１の画素と、前記標準サイズの２画素分以上のサイズのOCLが形成されている第２の画素が混在されている画素アレイと、前記画素アレイ上の前記第１の画素のうち、前記第２の画素の近傍に位置し、OCLの形状が本来の標準サイズから変形している第３の画素の画素値を補正する補正部とを備え、前記補正部は、補正対象の前記第３の画素の画素値と置換する補正値を、前記補正対象の前記第３の画素の近傍に位置し、前記第２の画素および他の前記第３の画素を除く前記第１の画素の画素値を用いて算出する。
本開示の第２の側面においては、固体撮像装置により、画素アレイ上の第１の画素のうち、第２の画素の近傍に位置し、OCLの形状が本来の標準サイズから変形している第３の画素の画素値が補正される。補正対象の前記第３の画素の画素値と置換する補正値は、前記補正対象の前記第３の画素の近傍に位置し、前記第２の画素および他の前記第３の画素を除く前記第１の画素の画素値を用いて算出される。
本開示の第１および第２の側面によれば、OCLの形状が標準的な形状の第１の画素とは異なる第２の画素の周囲に位置する、OCLの形状が標準的な形状から変形している第３の画素の画素値を補正することができる。
また、本開示の第１および第２の側面によれば、画像に生じ得る見かけ上の違和感を抑止することができる。
カラーフィルタの配置例を示す図である。 標準画素、変形画素、および異形画素のOCLの形状を示す図である。 変形画素の変形したOCLの具体例を示す断面図である。 変形画素の変形したOCLの具体例を示す上面図である。 本開示を適用したイメージセンサの構成例を示すブロック図である。 変形画素補正部の構成例を示すブロック図である。 変形画素を補正する場合の許容範囲を示す図である。 変形画素を補正する場合の許容範囲を示す図である。 異形画素と変形画素の位置関係を示す図である。 パラメータを個別に定義する領域を示す図である。 変形画素補正処理を説明するフローチャートである。 体内情報取得システムの概略的な構成の一例を示すブロック図である。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
以下、本開示を実施するための最良の形態（以下、実施の形態と称する）について、図面を参照しながら詳細に説明する。
なお、以下の説明において、イメージセンサ（固体撮像装置）の画素アレイに配置されている複数の画素のうち、色信号を生成するための１画素分の面積を占めるOCLを有する画素を標準画素と称する。また、位相差信号を生成するための画素値を出力する２画素分の面積を占めるOCL（すなわち、２×１OCL）を有する位相差検出画素を２×１OCL画素または異形画素とも称する。さらに、標準画素のうち、OCLの形状が、２×１OCLの形成に影響されて本来の形状から変形してしまっている画素を変形画素と称する。
本実施の形態であるイメージセンサは、２×１OCL画素の位置に対応する色信号を補間するとともに、変形画素の色信号を補正することにより、平坦部分における２×１OCL画素の周辺の見かけ上の違和感を抑止するものである。
なお、位相差検出画素とそのOCLの形状は、２×１に限るものではなく、標準画素とそのOCLの形状である１×１以外であれば、例えば１×２、２×２等であってもよい。また、画素アレイ上に２種類以上の異形OCLを有する画素を混載してもよい。
＜本実施の形態であるイメージセンサの構成例＞
図１は、本実施の形態であるイメージセンサ１０（図５）に搭載されている画素アレイ１１におけるカラーフィルタの配列例を示している。
この配置例は、基本的には標準画素および変形画素がベイヤ配列を成している。なお、図中のＲ(RED)，Ｇ(GREEN)，Ｂ(BLUE)は、それぞれＲ、Ｇ、またはＢのカラーフィルタで覆われている標準画素（変形画素を含む）の配置を示している。
また、図中のＰＤは２×１OCL画素の配置を示しており、画素アレイ１１の全体に離散的に配置される。なお、ＰＤは、ベイヤ配列におけるＧとＢの２画素分の面積を占めており、Ｇのカラーフィルタで覆われているものとする。なお、２×１OCL画素を覆うカラーフィルタの色はＧに限らず、ＲまたはＢであってもよい。
なお、標準画素の配置例は、上述したベイヤ配列に限るものではなく、他の配列を適用してもよい。
次に画素アレイ１１に混載されている通常画素、変形画素、および異形画素（２×１OCL画素）のOCLの形状について、図２乃至図４を参照して説明する。
図２は、通常画素、変形画素、および異形画素のOCLの横方向の断面形状を示している。図３は、変形画素のOCLの具体例を示す断面図である。図４は、変形画素のOCLの具体例を示す上面図である。
図２に示されるように、標準画素のOCLは、１画素分の面積を占める円形状である。これに対して、異形画素のOCLは２画素分の面積を占める横長の楕円形状である。異形画素においては、該楕円形状の左側と右側のそれぞれを通過した入射光が異なる光電変換部（不図示）に入射することにより位相差信号が生成される。
図２に示された断面形状から明らかなように、異形画素に隣接する変形画素は、OCLの形状が本来の形状から若干変形してしまっていることが分かる。これは、画素アレイ１１の製造工程において、異形画素の２×１OCLを形成する際の影響に起因する。
なお、図２のように、異形画素が標準画素に比較してOCLの高さが低い場合、集光効率が低下して感度が若干下がる傾向がある。
また、図３に示されるように、変形画素のOCLは対称性が崩れることもある。この場合、OCLに入射する光の角度によって感度が変動することになるので、画像における該変形画素の位置によって感度が増減することになる。
さらに、図４に示されるように、OCLの形状が変化してしまっている変形画素は、異形画素の横方向だけでなく、縦方向にも出現し得るので、これらについても画素値の補正対象とする。
図２および図４に示された例では、異形画素の上下左右に隣接する画素を変形画素としているが、製造工程における異形画素の２×１OCLを形成する際の影響がより広い範囲の画素にまで及ぶことが起こり得る。そのような場合、異形画素と、OCLが変形してない標準画素との間の画素をすべて変形画素として、後述する変形画素補正処理の処理対象とすればよい。
次に、図５は、本開示の実施の形態であるイメージセンサ（固体撮像装置）の構成例を示している。このイメージセンサ１０は、像面位相差ＡＦ機能を備えた電子装置に搭載される。なお、イメージセンサ１０は、表面照射型でも裏面照射型でもよい。また、イメージセンサ１０は、複数の基板から成る積層型でもよい。
イメージセンサ１０は、画素アレイ１１、位相差検出部１２、異形画素補間部１３、ＡＦ制御部１４、変形画素補正部１５、欠陥画素補正部１６、およびカメラ信号処理部１７を備える。
画素アレイ１１は、図１および図２に示されたように混載されている標準画素、変形画素、および異形画素の各出力を位相差検出部１２に出力する。なお、この段階における画素アレイ１１の出力は、標準画素と変形画素がＲ，Ｇ，Ｂのいずれかの色信号を有しており、異形画素が位相差信号を生成するための画素値を有している。
位相差検出部１２は、画素アレイ１１の出力のうち、異形画素の画素値に基づき、フォーカスのずれに対応する位相差信号を検出して異形画素補間部１３およびＡＦ制御部１４に出力する。また、位相差検出部１２は、標準画素と変形画素の色信号を異形画素補間部１３に出力する。
異形画素補間部１３は、前段からの入力に基づき、位相差画素（異形画素）の位置における色信号を、所定の補間方法（周辺領域の方向性を検出して補間する方向補間法や、周辺領域の各色のレベルを利用した相関補間法等）を用いて補間する。そして、異形画素補間部１３は、異形画素の位置に対して補間した色信号と、標準画素と変形画素の色信号を変形画素補正部１５に出力する。
ＡＦ制御部１４は、検出された位相差信号に基づき、フォーカスレンズを駆動するためのレンズ制御信号を生成してレンズ駆動部（いずれも不図示）に出力する。
変形画素補正部１５は、前段からの入力に基づき、変形画素の色信号に対する補正処理を行う。この補正処理の詳細については後述する。また、変形画素補正部１５は、異形画素の位置に対して補間された色信号と、変形画素の補正された色信号と、標準画素の色信号を欠陥画素補正部１６に出力する。
欠陥画素補正部１６は、前段からの入力に基づき、欠陥画素の色信号を補間する。また、欠陥画素補正部１６は、異形画素の位置に対して補間された色信号と、変形画素の補正された色信号と、標準画素の色信号と、欠陥画素の補間された色信号をカメラ信号処理部１７に出力する。
カメラ信号処理部１７は、各画素が有するＲ，Ｇ，Ｂのいずれかの色信号に対して、所定のカメラ信号処理（ホワイトバランス処理、デモザイク処理、リニアマトリックス処理、ガンマ補正処理等）を行い、その結果得られる各画素がＲ，Ｇ，Ｂの全ての色信号を有するRGB画像を後段に出力する。
＜イメージセンサ１０の動作＞
イメージセンサ１０においては、画素アレイ１１の出力から位相差検出部１２によって位相差検出信号が検出されてＡＦ制御が行われる。また、異形画素補間部１３によって異形画素の位置に対して色信号が補間され、変形画素補正部１５によって変形画素の色信号が補正され、欠陥画素補正部１６によって欠陥画素の色信号が補間される。そしてそれらの補正結果に基づき、カメラ信号処理部１７によりRGB画像が生成されて出力される。
なお、異形画素補間部１３、変形画素補正部１５、および欠陥画素補正部１６の回路構成や処理順序は、図示するように直列である必要はなく、これらを並列に接続し、同時にそれぞれの処理を実行させるようにしてもよい。これによって、より速やかにイメージセンサ１０からRGB画像を出力させることができる。
＜変形画素補正部１５の詳細な構成例＞
次に、図６は、変形画素補正部１５の詳細な構成例を示している。変形画素補正部１５は、補正値算出部２１、平坦判定部２２、閾値算出部２３、平均値算出部２４、および補正部２５を備える。
補正値算出部２１は、画素値を補正する各変形画素に対する補正値を算出して補正部２５に出力する。具体的には、該変形画素を中心とする所定の領域に存在する画素のうち、異形画素や他の変形画素を除いた該変形画素と標準画素の画素値の平均値を補正値として算出する。または、該変形画素の周辺のテクスチャの方向性を検出し、検出した方向に沿った画素を用いた方向補間によって補正値を生成する。なお、補正値算出部２１における補正値の算出方法は任意であり、上述した算出方法以外を用いてもよい。
平坦判定部２２は、画素値を補正する変形画素の周辺の平坦性を判定し、判定結果を補正部２５に出力する。具体的には、該変形画素を中心とする所定の領域に存在する画素の画素値の差分の頻度分布を算出し、算出した差分が閾値以下の画素の割合が高い場合に、該変形画素は平坦領域か、または階段状等の単純なテクスチャを持つ領域に存在すると判定する。または、２次元の高域通過型フィルタを適用し、その出力の値が閾値以下であるか否かに基づいて平坦性を判定してもよい。なお、平坦判定部２２における平坦性の判定方法は任意であり、上述した判定方法以外を用いてもよい。
閾値算出部２３は、算出された補正値を用いて補正を行うかを判断するための下限閾値と上限閾値を算出して、補正部２５に出力する。すなわち、算出された補正値が下限閾値と上限閾値の間に有る場合には算出された補正値を用いて補正が行われ、無い場合には補正が行われない。
平均値算出部２４は、画素値を補正する変形画素を中心とする所定の領域に存在する画素の画素値の平均値を算出して閾値算出部２３に出力する。具体的には、Ｒ，Ｇ，Ｂの全ての色信号を用いて変換した輝度信号の平均値を算出するか、Ｇの色信号だけを用いた加算平均値を算出する。
補正部２５は、補正値算出部２１、平坦判定部２２、および閾値算出部２３からの入力に基づいて変形画素の画素値（色信号）を補正する。
ここで、閾値算出部２３による上限閾値と下限閾値の算出について詳述する。
図７および図８は、変形画素の画素値を補正値に置き換える場合の許容範囲を示している。なお、図７は、横軸を変形画素の画素値、縦軸を補正値としたものである。図８は、横軸を変形画素の画素値、縦軸を補正する際の変更許容範囲としたものである。
変形画素の画素値の変動は、OCLの変形による感度の変化に起因する。よって、隣接している異形画素に入射する光量、すなわち異形画素の画素値とは関係がなく、変形画素の画素値の変動量はその画素値に対して比例する形で増減する。
したがって、そのように変動している画素値を補正する場合には、処理の安定化のため、該変形画素を含む所定の領域内の画素の画素値の平均値を使用することが望ましい。この平均値が小さければ補正後の画素値の変動幅を小さくする。反対に、この平均値が大きければ補正後の画素値の変動幅を大きくする。
変形画素の補正前の画素値からの変動分は、変形画素の補正前の画素値が０のときの変動幅ofstと、変形画素の補正前の画素値に対して比例する成分の傾きgradを用いて算出される。結局、補正値に対する上限閾値TH_UPと下限閾値TH_LWは、次式（１）のように定義される。
TH_UP＝Pix＋AVE×grad_up＋ofst
TH_LW＝Pix＋AVE×grad_lw＋ofst
・・・（１）
ただし、式（１）におけるPixは該変形画素の補正前の画素値である。AVEは該変形画素を含む所定の領域内の画素の画素値の平均値である。grad_upは上側の傾きである。grad_lwは下側の傾きである。
なお、変形画素のOCL変形具合は、必ずしも同じではなく、異形画素との位置関係（異形画素の上下左右のどこの位置にしているか）や製造過程や画素サイズによっても変化し得る。したがって、上述した上限閾値TH_UPと下限閾値TH_LWを算出するためのパラメータである傾きgrad_upおよびgrad_lwと変動幅ofstについては、図９に示されるように、異形画素に対する変形画素の位置に応じて、６種類の値を定義するようにする。
特に、変形画素のOCLに非対称の変形が見られる場合、該変形画素の画像上の位置によって感度が増減することがある。左右の対称性が崩れている場合は、例えば図１０に示されるように、画像全体を縦方向に３分割し、３分割した各領域に対して、上述したパラメータを定義して調整可能とすればよい。また、上下左右に非対称性が見られる場合には、画像全体を縦方向と横方向に分割し、分割した領域毎に対して上述したパラメータを定義すればよい。
＜変形画素補正部１５による変形画素補正処理＞
次に、図１１は、変形画素補正部１５による変形画素補正処理を説明するフローチャートである。
該変形画素補正処理は、変形画素を順次処理対象に指定して実行されるものであり、その前提として、変形画素補正部１５に対しては、前段の異形画素補間部１３から異形画素の位置に対して補間した色信号と、標準画素と変形画素の色信号が供給されているものとする。また、変形画素補正部１５の補正部２５には、補正値算出部２１、平坦判定部２２、および閾値算出部２３の出力が入力されているものとする。
ステップＳ１において、補正部２５は、平坦判定部２２からの入力に基づき、処理対象の変形画素が平坦領域または単純なテクスチャを持つ領域に位置している否かを判定する。処理対象の変形画素が平坦領域または単純なテクスチャを持つ領域に位置していると判定された場合、処理はステップＳ２に進められる。
ステップＳ２において、補正部２５は、補正値算出部２１と閾値算出部２３からの入力に基づき、算出された補正値が下限閾値TH_LWと上限閾値TH_UPの間に位置するか否かを判定する。算出された補正値が下限閾値TH_LWと上限閾値TH_UPの間に位置すると判定された場合、処理はステップＳ３に進められる。
ステップＳ３において、補正部２５は、処理対象の変形画素の画素値を、補正値算出部２１から入力されている補正値に置換する。以上で、処理対象に対する変形画素補正処理は終了される。
なお、ステップＳ１において、処理対象の変形画素が平坦領域にも単純なテクスチャを持つ領域にも位置していないと判定された場合、該変形画素の感度影響は目立たないので補正を行わない。したがって、ステップＳ３はスキップされて、該変形画素補正処理は終了される。
また、ステップＳ２において、算出された補正値が下限閾値TH_LWと上限閾値TH_UPの間に位置していないと判定された場合にも、算出された補正値に置換する補正は、誤補正となり得るので補正を行わない。したがって、ステップＳ３はスキップされて、該変形画素補正処理は終了される。
以上説明したように、本実施の形態であるイメージセンサ１０では、異形画素（２×１OCL画素）の位置の色信号を補間するだけでなく、その周辺のOCLが本来の形状から変形してしまっている変形画素の画素値も補正する。よって、画像における位相差検出画素とその周辺における見かけ上の違和感を抑止することが可能となる。
また、異形画素に対する変形画素の相対的な位置関係や画像における変形画素の位置に応じて補正値の上限および下限を調整することができるので、過補正を抑止して変形画素の画素値をより適切に補正することができる。
なお、本実施の形態では、２×１OCLを有する異形画素の目的を位相差ＡＦ制御のための位相差検出用としたが、標準画素とOCLの形状が異なる異形画素の目的は、位相差検出に限るものではない。
＜第１の応用例＞
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、カプセル型内視鏡を用いた患者の体内情報取得システムに適用されてもよい。
図１２は、本開示に係る技術が適用され得る体内情報取得システム５４００の概略的な構成の一例を示す図である。図１２を参照すると、体内情報取得システム５４００は、カプセル型内視鏡５４０１と、体内情報取得システム５４００の動作を統括的に制御する外部制御装置５４２３と、から構成される。検査時には、カプセル型内視鏡５４０１が患者によって飲み込まれる。カプセル型内視鏡５４０１は、撮像機能及び無線通信機能を有し、患者から自然排出されるまでの間、胃や腸等の臓器の内部を蠕動運動等によって移動しつつ、当該臓器の内部の画像（以下、体内画像ともいう）を所定の間隔で順次撮像し、その体内画像についての情報を体外の外部制御装置５４２３に順次無線送信する。外部制御装置５４２３は、受信した体内画像についての情報に基づいて、表示装置（図示せず）に当該体内画像を表示するための画像データを生成する。体内情報取得システム５４００では、このようにして、カプセル型内視鏡５４０１が飲み込まれてから排出されるまでの間、患者の体内の様子を撮像した画像を随時得ることができる。
カプセル型内視鏡５４０１と外部制御装置５４２３の構成及び機能についてより詳細に説明する。図示するように、カプセル型内視鏡５４０１は、カプセル型の筐体５４０３内に、光源部５４０５、撮像部５４０７、画像処理部５４０９、無線通信部５４１１、給電部５４１５、電源部５４１７、状態検出部５４１９及び制御部５４２１の機能が搭載されて構成される。
光源部５４０５は、例えばＬＥＤ（light emitting diode）等の光源から構成され、撮像部５４０７の撮像視野に対して光を照射する。
撮像部５４０７は、撮像素子、及び当該撮像素子の前段に設けられる複数のレンズからなる光学系から構成される。観察対象である体組織に照射された光の反射光（以下、観察光という）は、当該光学系によって集光され、当該撮像素子に入射する。当該撮像素子は、観察光を受光して光電変換することにより、観察光に対応した電気信号、すなわち観察像に対応した画像信号を生成する。撮像部５４０７によって生成された画像信号は、画像処理部５４０９に提供される。なお、撮像部５４０７の撮像素子としては、ＣＭＯＳ（Complementary Metal Oxide Semiconductor）イメージセンサ又はＣＣＤ（Charge Coupled Device）イメージセンサ等、各種の公知の撮像素子が用いられてよい。
画像処理部５４０９は、ＣＰＵ（Central Processing Unit）やＧＰＵ（Graphics Processing Unit）等のプロセッサによって構成され、撮像部５４０７によって生成された画像信号に対して各種の信号処理を行う。当該信号処理は、画像信号を外部制御装置５４２３に伝送するための最小限の処理（例えば、画像データの圧縮、フレームレートの変換、データレートの変換及び／又はフォーマットの変換等）であってよい。画像処理部５４０９が必要最小限の処理のみを行うように構成されることにより、当該画像処理部５４０９を、より小型、より低消費電力で実現することができるため、カプセル型内視鏡５４０１に好適である。ただし、筐体５４０３内のスペースや消費電力に余裕がある場合であれば、画像処理部５４０９において、更なる信号処理（例えば、ノイズ除去処理や他の高画質化処理等）が行われてもよい。画像処理部５４０９は、信号処理を施した画像信号を、ＲＡＷデータとして無線通信部５４１１に提供する。なお、画像処理部５４０９は、状態検出部５４１９によってカプセル型内視鏡５４０１の状態（動きや姿勢等）についての情報が取得されている場合には、当該情報と紐付けて、画像信号を無線通信部５４１１に提供してもよい。これにより、画像が撮像された体内における位置や画像の撮像方向等と、撮像画像とを関連付けることができる。
無線通信部５４１１は、外部制御装置５４２３との間で各種の情報を送受信可能な通信装置によって構成される。当該通信装置は、アンテナ５４１３と、信号の送受信のための変調処理等を行う処理回路等から構成される。無線通信部５４１１は、画像処理部５４０９によって信号処理が施された画像信号に対して変調処理等の所定の処理を行い、その画像信号を、アンテナ５４１３を介して外部制御装置５４２３に送信する。また、無線通信部５４１１は、外部制御装置５４２３から、カプセル型内視鏡５４０１の駆動制御に関する制御信号を、アンテナ５４１３を介して受信する。無線通信部５４１１は、受信した制御信号を制御部５４２１に提供する。
給電部５４１５は、受電用のアンテナコイル、当該アンテナコイルに発生した電流から電力を再生する電力再生回路、及び昇圧回路等から構成される。給電部５４１５では、いわゆる非接触充電の原理を用いて電力が生成される。具体的には、給電部５４１５のアンテナコイルに対して外部から所定の周波数の磁界（電磁波）が与えられることにより、当該アンテナコイルに誘導起電力が発生する。当該電磁波は、例えば外部制御装置５４２３からアンテナ５４２５を介して送信される搬送波であってよい。当該誘導起電力から電力再生回路によって電力が再生され、昇圧回路においてその電位が適宜調整されることにより、蓄電用の電力が生成される。給電部５４１５によって生成された電力は、電源部５４１７に蓄電される。
電源部５４１７は、二次電池によって構成され、給電部５４１５によって生成された電力を蓄電する。図１２では、図面が煩雑になることを避けるために、電源部５４１７からの電力の供給先を示す矢印等の図示を省略しているが、電源部５４１７に蓄電された電力は、光源部５４０５、撮像部５４０７、画像処理部５４０９、無線通信部５４１１、状態検出部５４１９及び制御部５４２１に供給され、これらの駆動に用いられ得る。
状態検出部５４１９は、加速度センサ及び／又はジャイロセンサ等の、カプセル型内視鏡５４０１の状態を検出するためのセンサから構成される。状態検出部５４１９は、当該センサによる検出結果から、カプセル型内視鏡５４０１の状態についての情報を取得することができる。状態検出部５４１９は、取得したカプセル型内視鏡５４０１の状態についての情報を、画像処理部５４０９に提供する。画像処理部５４０９では、上述したように、当該カプセル型内視鏡５４０１の状態についての情報が、画像信号と紐付けられ得る。
制御部５４２１は、ＣＰＵ等のプロセッサによって構成され、所定のプログラムに従って動作することによりカプセル型内視鏡５４０１の動作を統括的に制御する。制御部５４２１は、光源部５４０５、撮像部５４０７、画像処理部５４０９、無線通信部５４１１、給電部５４１５、電源部５４１７及び状態検出部５４１９の駆動を、外部制御装置５４２３から送信される制御信号に従って適宜制御することにより、以上説明したような各部における機能を実現させる。
外部制御装置５４２３は、ＣＰＵ、ＧＰＵ等のプロセッサ、又はプロセッサとメモリ等の記憶素子が混載されたマイコン若しくは制御基板等であり得る。外部制御装置５４２３は、アンテナ５４２５を有し、当該アンテナ５４２５を介して、カプセル型内視鏡５４０１との間で各種の情報を送受信可能に構成される。具体的には、外部制御装置５４２３は、カプセル型内視鏡５４０１の制御部５４２１に対して制御信号を送信することにより、カプセル型内視鏡５４０１の動作を制御する。例えば、外部制御装置５４２３からの制御信号により、光源部５４０５における観察対象に対する光の照射条件が変更され得る。また、外部制御装置５４２３からの制御信号により、撮像条件（例えば、撮像部５４０７におけるフレームレート、露出値等）が変更され得る。また、外部制御装置５４２３からの制御信号により、画像処理部５４０９における処理の内容や、無線通信部５４１１が画像信号を送信する条件（例えば、送信間隔、送信画像数等）が変更されてもよい。
また、外部制御装置５４２３は、カプセル型内視鏡５４０１から送信される画像信号に対して、各種の画像処理を施し、撮像された体内画像を表示装置に表示するための画像データを生成する。当該画像処理としては、例えば現像処理（デモザイク処理）、高画質化処理（帯域強調処理、超解像処理、ＮＲ（Noise reduction）処理及び／又は手ブレ補正処理等）、並びに／又は拡大処理（電子ズーム処理）等、各種の公知の信号処理が行われてよい。外部制御装置５４２３は、表示装置（図示せず）の駆動を制御して、生成した画像データに基づいて撮像された体内画像を表示させる。あるいは、外部制御装置５４２３は、生成した画像データを記録装置（図示せず）に記録させたり、印刷装置（図示せず）に印刷出力させてもよい。
以上、本開示に係る技術が適用され得る体内情報取得システム５４００の一例について説明した。本開示に係る技術は、以上説明した構成のうち、撮像部５４０７に好適に適用され得る。
＜第２の応用例＞
本開示に係る技術は、例えば、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械（トラクタ）などのいずれかの種類の移動体に搭載される装置として実現されてもよい。
図１３は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システム７０００の概略的な構成例を示すブロック図である。車両制御システム７０００は、通信ネットワーク７０１０を介して接続された複数の電子制御ユニットを備える。図１３に示した例では、車両制御システム７０００は、駆動系制御ユニット７１００、ボディ系制御ユニット７２００、バッテリ制御ユニット７３００、車外情報検出ユニット７４００、車内情報検出ユニット７５００、及び統合制御ユニット７６００を備える。これらの複数の制御ユニットを接続する通信ネットワーク７０１０は、例えば、ＣＡＮ（Controller Area Network）、ＬＩＮ（Local Interconnect Network）、ＬＡＮ（Local Area Network）又はＦｌｅｘＲａｙ（登録商標）等の任意の規格に準拠した車載通信ネットワークであってよい。
各制御ユニットは、各種プログラムにしたがって演算処理を行うマイクロコンピュータと、マイクロコンピュータにより実行されるプログラム又は各種演算に用いられるパラメータ等を記憶する記憶部と、各種制御対象の装置を駆動する駆動回路とを備える。各制御ユニットは、通信ネットワーク７０１０を介して他の制御ユニットとの間で通信を行うためのネットワークＩ／Ｆを備えるとともに、車内外の装置又はセンサ等との間で、有線通信又は無線通信により通信を行うための通信Ｉ／Ｆを備える。図１３では、統合制御ユニット７６００の機能構成として、マイクロコンピュータ７６１０、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０、音声画像出力部７６７０、車載ネットワークＩ／Ｆ７６８０及び記憶部７６９０が図示されている。他の制御ユニットも同様に、マイクロコンピュータ、通信Ｉ／Ｆ及び記憶部等を備える。
駆動系制御ユニット７１００は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット７１００は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。駆動系制御ユニット７１００は、ＡＢＳ（Antilock Brake System）又はＥＳＣ（Electronic Stability Control）等の制御装置としての機能を有してもよい。
駆動系制御ユニット７１００には、車両状態検出部７１１０が接続される。車両状態検出部７１１０には、例えば、車体の軸回転運動の角速度を検出するジャイロセンサ、車両の加速度を検出する加速度センサ、あるいは、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操舵角、エンジン回転数又は車輪の回転速度等を検出するためのセンサのうちの少なくとも一つが含まれる。駆動系制御ユニット７１００は、車両状態検出部７１１０から入力される信号を用いて演算処理を行い、内燃機関、駆動用モータ、電動パワーステアリング装置又はブレーキ装置等を制御する。
ボディ系制御ユニット７２００は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット７２００は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット７２００には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット７２００は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
バッテリ制御ユニット７３００は、各種プログラムにしたがって駆動用モータの電力供給源である二次電池７３１０を制御する。例えば、バッテリ制御ユニット７３００には、二次電池７３１０を備えたバッテリ装置から、バッテリ温度、バッテリ出力電圧又はバッテリの残存容量等の情報が入力される。バッテリ制御ユニット７３００は、これらの信号を用いて演算処理を行い、二次電池７３１０の温度調節制御又はバッテリ装置に備えられた冷却装置等の制御を行う。
車外情報検出ユニット７４００は、車両制御システム７０００を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット７４００には、撮像部７４１０及び車外情報検出部７４２０のうちの少なくとも一方が接続される。撮像部７４１０には、ＴｏＦ（Time Of Flight）カメラ、ステレオカメラ、単眼カメラ、赤外線カメラ及びその他のカメラのうちの少なくとも一つが含まれる。車外情報検出部７４２０には、例えば、現在の天候又は気象を検出するための環境センサ、あるいは、車両制御システム７０００を搭載した車両の周囲の他の車両、障害物又は歩行者等を検出するための周囲情報検出センサのうちの少なくとも一つが含まれる。
環境センサは、例えば、雨天を検出する雨滴センサ、霧を検出する霧センサ、日照度合いを検出する日照センサ、及び降雪を検出する雪センサのうちの少なくとも一つであってよい。周囲情報検出センサは、超音波センサ、レーダ装置及びＬＩＤＡＲ（Light Detection and Ranging、Laser Imaging Detection and Ranging）装置のうちの少なくとも一つであってよい。これらの撮像部７４１０及び車外情報検出部７４２０は、それぞれ独立したセンサないし装置として備えられてもよいし、複数のセンサないし装置が統合された装置として備えられてもよい。
ここで、図１４は、撮像部７４１０及び車外情報検出部７４２０の設置位置の例を示す。撮像部７９１０，７９１２，７９１４，７９１６，７９１８は、例えば、車両７９００のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部のうちの少なくとも一つの位置に設けられる。フロントノーズに備えられる撮像部７９１０及び車室内のフロントガラスの上部に備えられる撮像部７９１８は、主として車両７９００の前方の画像を取得する。サイドミラーに備えられる撮像部７９１２，７９１４は、主として車両７９００の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部７９１６は、主として車両７９００の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部７９１８は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図１４には、それぞれの撮像部７９１０，７９１２，７９１４，７９１６の撮影範囲の一例が示されている。撮像範囲ａは、フロントノーズに設けられた撮像部７９１０の撮像範囲を示し、撮像範囲ｂ，ｃは、それぞれサイドミラーに設けられた撮像部７９１２，７９１４の撮像範囲を示し、撮像範囲ｄは、リアバンパ又はバックドアに設けられた撮像部７９１６の撮像範囲を示す。例えば、撮像部７９１０，７９１２，７９１４，７９１６で撮像された画像データが重ね合わせられることにより、車両７９００を上方から見た俯瞰画像が得られる。
車両７９００のフロント、リア、サイド、コーナ及び車室内のフロントガラスの上部に設けられる車外情報検出部７９２０，７９２２，７９２４，７９２６，７９２８，７９３０は、例えば超音波センサ又はレーダ装置であってよい。車両７９００のフロントノーズ、リアバンパ、バックドア及び車室内のフロントガラスの上部に設けられる車外情報検出部７９２０，７９２６，７９３０は、例えばＬＩＤＡＲ装置であってよい。これらの車外情報検出部７９２０～７９３０は、主として先行車両、歩行者又は障害物等の検出に用いられる。
図１３に戻って説明を続ける。車外情報検出ユニット７４００は、撮像部７４１０に車外の画像を撮像させるとともに、撮像された画像データを受信する。また、車外情報検出ユニット７４００は、接続されている車外情報検出部７４２０から検出情報を受信する。車外情報検出部７４２０が超音波センサ、レーダ装置又はＬＩＤＡＲ装置である場合には、車外情報検出ユニット７４００は、超音波又は電磁波等を発信させるとともに、受信された反射波の情報を受信する。車外情報検出ユニット７４００は、受信した情報に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。車外情報検出ユニット７４００は、受信した情報に基づいて、降雨、霧又は路面状況等を認識する環境認識処理を行ってもよい。車外情報検出ユニット７４００は、受信した情報に基づいて、車外の物体までの距離を算出してもよい。
また、車外情報検出ユニット７４００は、受信した画像データに基づいて、人、車、障害物、標識又は路面上の文字等を認識する画像認識処理又は距離検出処理を行ってもよい。車外情報検出ユニット７４００は、受信した画像データに対して歪補正又は位置合わせ等の処理を行うとともに、異なる撮像部７４１０により撮像された画像データを合成して、俯瞰画像又はパノラマ画像を生成してもよい。車外情報検出ユニット７４００は、異なる撮像部７４１０により撮像された画像データを用いて、視点変換処理を行ってもよい。
車内情報検出ユニット７５００は、車内の情報を検出する。車内情報検出ユニット７５００には、例えば、運転者の状態を検出する運転者状態検出部７５１０が接続される。運転者状態検出部７５１０は、運転者を撮像するカメラ、運転者の生体情報を検出する生体センサ又は車室内の音声を集音するマイク等を含んでもよい。生体センサは、例えば、座面又はステアリングホイール等に設けられ、座席に座った搭乗者又はステアリングホイールを握る運転者の生体情報を検出する。車内情報検出ユニット７５００は、運転者状態検出部７５１０から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。車内情報検出ユニット７５００は、集音された音声信号に対してノイズキャンセリング処理等の処理を行ってもよい。
統合制御ユニット７６００は、各種プログラムにしたがって車両制御システム７０００内の動作全般を制御する。統合制御ユニット７６００には、入力部７８００が接続されている。入力部７８００は、例えば、タッチパネル、ボタン、マイクロフォン、スイッチ又はレバー等、搭乗者によって入力操作され得る装置によって実現される。統合制御ユニット７６００には、マイクロフォンにより入力される音声を音声認識することにより得たデータが入力されてもよい。入力部７８００は、例えば、赤外線又はその他の電波を利用したリモートコントロール装置であってもよいし、車両制御システム７０００の操作に対応した携帯電話又はＰＤＡ（Personal Digital Assistant）等の外部接続機器であってもよい。入力部７８００は、例えばカメラであってもよく、その場合搭乗者はジェスチャにより情報を入力することができる。あるいは、搭乗者が装着したウェアラブル装置の動きを検出することで得られたデータが入力されてもよい。さらに、入力部７８００は、例えば、上記の入力部７８００を用いて搭乗者等により入力された情報に基づいて入力信号を生成し、統合制御ユニット７６００に出力する入力制御回路などを含んでもよい。搭乗者等は、この入力部７８００を操作することにより、車両制御システム７０００に対して各種のデータを入力したり処理動作を指示したりする。
記憶部７６９０は、マイクロコンピュータにより実行される各種プログラムを記憶するＲＯＭ（Read Only Memory）、及び各種パラメータ、演算結果又はセンサ値等を記憶するＲＡＭ（Random Access Memory）を含んでいてもよい。また、記憶部７６９０は、ＨＤＤ（Hard Disc Drive）等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等によって実現してもよい。
汎用通信Ｉ／Ｆ７６２０は、外部環境７７５０に存在する様々な機器との間の通信を仲介する汎用的な通信Ｉ／Ｆである。汎用通信Ｉ／Ｆ７６２０は、ＧＳＭ（登録商標）（Global System of Mobile communications）、ＷｉＭＡＸ、ＬＴＥ（Long Term Evolution）若しくはＬＴＥ－Ａ（LTE－Advanced）などのセルラー通信プロトコル、又は無線ＬＡＮ（Ｗｉ－Ｆｉ（登録商標）ともいう）、Ｂｌｕｅｔｏｏｔｈ（登録商標）などのその他の無線通信プロトコルを実装してよい。汎用通信Ｉ／Ｆ７６２０は、例えば、基地局又はアクセスポイントを介して、外部ネットワーク（例えば、インターネット、クラウドネットワーク又は事業者固有のネットワーク）上に存在する機器（例えば、アプリケーションサーバ又は制御サーバ）へ接続してもよい。また、汎用通信Ｉ／Ｆ７６２０は、例えばＰ２Ｐ（Peer To Peer）技術を用いて、車両の近傍に存在する端末（例えば、運転者、歩行者若しくは店舗の端末、又はＭＴＣ（Machine Type Communication）端末）と接続してもよい。
専用通信Ｉ／Ｆ７６３０は、車両における使用を目的として策定された通信プロトコルをサポートする通信Ｉ／Ｆである。専用通信Ｉ／Ｆ７６３０は、例えば、下位レイヤのＩＥＥＥ８０２．１１ｐと上位レイヤのＩＥＥＥ１６０９との組合せであるＷＡＶＥ（Wireless Access in Vehicle Environment）、ＤＳＲＣ（Dedicated Short Range Communications）、又はセルラー通信プロトコルといった標準プロトコルを実装してよい。専用通信Ｉ／Ｆ７６３０は、典型的には、車車間（Vehicle to Vehicle）通信、路車間（Vehicle to Infrastructure）通信、車両と家との間（Vehicle to Home）の通信及び歩車間（Vehicle to Pedestrian）通信のうちの１つ以上を含む概念であるＶ２Ｘ通信を遂行する。
測位部７６４０は、例えば、ＧＮＳＳ（Global Navigation Satellite System）衛星からのＧＮＳＳ信号（例えば、ＧＰＳ（Global Positioning System）衛星からのＧＰＳ信号）を受信して測位を実行し、車両の緯度、経度及び高度を含む位置情報を生成する。なお、測位部７６４０は、無線アクセスポイントとの信号の交換により現在位置を特定してもよく、又は測位機能を有する携帯電話、ＰＨＳ若しくはスマートフォンといった端末から位置情報を取得してもよい。
ビーコン受信部７６５０は、例えば、道路上に設置された無線局等から発信される電波あるいは電磁波を受信し、現在位置、渋滞、通行止め又は所要時間等の情報を取得する。なお、ビーコン受信部７６５０の機能は、上述した専用通信Ｉ／Ｆ７６３０に含まれてもよい。
車内機器Ｉ／Ｆ７６６０は、マイクロコンピュータ７６１０と車内に存在する様々な車内機器７７６０との間の接続を仲介する通信インタフェースである。車内機器Ｉ／Ｆ７６６０は、無線ＬＡＮ、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near Field Communication）又はＷＵＳＢ（Wireless USB）といった無線通信プロトコルを用いて無線接続を確立してもよい。また、車内機器Ｉ／Ｆ７６６０は、図示しない接続端子（及び、必要であればケーブル）を介して、ＵＳＢ（Universal Serial Bus）、ＨＤＭＩ(登録商標)（High-Definition Multimedia Interface）、又はＭＨＬ（Mobile High-definition Link）等の有線接続を確立してもよい。車内機器７７６０は、例えば、搭乗者が有するモバイル機器若しくはウェアラブル機器、又は車両に搬入され若しくは取り付けられる情報機器のうちの少なくとも１つを含んでいてもよい。また、車内機器７７６０は、任意の目的地までの経路探索を行うナビゲーション装置を含んでいてもよい。車内機器Ｉ／Ｆ７６６０は、これらの車内機器７７６０との間で、制御信号又はデータ信号を交換する。
車載ネットワークＩ／Ｆ７６８０は、マイクロコンピュータ７６１０と通信ネットワーク７０１０との間の通信を仲介するインタフェースである。車載ネットワークＩ／Ｆ７６８０は、通信ネットワーク７０１０によりサポートされる所定のプロトコルに則して、信号等を送受信する。
統合制御ユニット７６００のマイクロコンピュータ７６１０は、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０及び車載ネットワークＩ／Ｆ７６８０のうちの少なくとも一つを介して取得される情報に基づき、各種プログラムにしたがって、車両制御システム７０００を制御する。例えば、マイクロコンピュータ７６１０は、取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット７１００に対して制御指令を出力してもよい。例えば、マイクロコンピュータ７６１０は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むＡＤＡＳ（Advanced Driver Assistance System）の機能実現を目的とした協調制御を行ってもよい。また、マイクロコンピュータ７６１０は、取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行ってもよい。
マイクロコンピュータ７６１０は、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０及び車載ネットワークＩ／Ｆ７６８０のうちの少なくとも一つを介して取得される情報に基づき、車両と周辺の構造物や人物等の物体との間の３次元距離情報を生成し、車両の現在位置の周辺情報を含むローカル地図情報を作成してもよい。また、マイクロコンピュータ７６１０は、取得される情報に基づき、車両の衝突、歩行者等の近接又は通行止めの道路への進入等の危険を予測し、警告用信号を生成してもよい。警告用信号は、例えば、警告音を発生させたり、警告ランプを点灯させたりするための信号であってよい。
音声画像出力部７６７０は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図１３の例では、出力装置として、オーディオスピーカ７７１０、表示部７７２０及びインストルメントパネル７７３０が例示されている。表示部７７２０は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。表示部７７２０は、ＡＲ（Augmented Reality）表示機能を有していてもよい。出力装置は、これらの装置以外の、ヘッドホン、搭乗者が装着する眼鏡型ディスプレイ等のウェアラブルデバイス、プロジェクタ又はランプ等の他の装置であってもよい。出力装置が表示装置の場合、表示装置は、マイクロコンピュータ７６１０が行った各種処理により得られた結果又は他の制御ユニットから受信された情報を、テキスト、イメージ、表、グラフ等、様々な形式で視覚的に表示する。また、出力装置が音声出力装置の場合、音声出力装置は、再生された音声データ又は音響データ等からなるオーディオ信号をアナログ信号に変換して聴覚的に出力する。
なお、図１３に示した例において、通信ネットワーク７０１０を介して接続された少なくとも二つの制御ユニットが一つの制御ユニットとして一体化されてもよい。あるいは、個々の制御ユニットが、複数の制御ユニットにより構成されてもよい。さらに、車両制御システム７０００が、図示されていない別の制御ユニットを備えてもよい。また、上記の説明において、いずれかの制御ユニットが担う機能の一部又は全部を、他の制御ユニットに持たせてもよい。つまり、通信ネットワーク７０１０を介して情報の送受信がされるようになっていれば、所定の演算処理が、いずれかの制御ユニットで行われるようになってもよい。同様に、いずれかの制御ユニットに接続されているセンサ又は装置が、他の制御ユニットに接続されるとともに、複数の制御ユニットが、通信ネットワーク７０１０を介して相互に検出情報を送受信してもよい。
なお、本実施の形態であるイメージセンサ１０の各機能を実現するためのコンピュータプログラムを、いずれかの制御ユニット等に実装することができる。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体を提供することもできる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリ等である。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信されてもよい。
以上説明した車両制御システム７０００において、本実施の形態であるイメージセンサ１０は、図１３に示した応用例の統合制御ユニット７６００に適用することができる。
また、イメージセンサ１０の少なくとも一部の構成要素は、図１３に示した統合制御ユニット７６００のためのモジュール（例えば、一つのダイで構成される集積回路モジュール）において実現されてもよい。あるいは、イメージセンサ１０が、図１３に示した車両制御システム７０００の複数の制御ユニットによって実現されてもよい。
なお、本開示の実施の形態は、上述した実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。
本開示は以下のような構成も取ることができる。
（１）
標準サイズのOCL(On Chip Lens)が形成されている第１の画素と、前記標準サイズとは異なるサイズのOCLが形成されている第２の画素が混在されている画素アレイと、
前記画素アレイ上の前記第１の画素のうち、前記第２の画素の近傍に位置する前記第１の画素の画素値を補正する補正部と
を備える固体撮像装置。
（２）
前記補正部は、前記画素アレイ上の前記第１の画素のうち、前記第２の画素の近傍に位置し、OCLの形状が本来の標準サイズから変形している第３の画素の画素値を補正する
前記（１）に記載の固体撮像装置。
（３）
前記第２の画素には、前記標準サイズよりも大きいサイズのOCLが形成されている
前記（２）に記載の固体撮像装置。
（４）
前記補正部は、補正対象の前記第３の画素の画素値と置換する補正値を、前記補正対象の前記第３の画素の近傍に位置する前記第１の画素の画素値を用いて算出する
前記（２）または（３）に記載の固体撮像装置。
（５）
前記補正部は、算出した前記補正値を適用するか否かを判定するための閾値を決定する
前記（１）から（４）のいずれかに記載の固体撮像装置。
（６）
前記補正部は、補正対象の前記第３の画素と前記第２の画素との位置関係によって異なるパラメータを用いて前記閾値を決定する
前記（５）に記載の固体撮像装置。
（７）
前記補正部は、補正対象の前記第３の画素の画像中における位置によって異なるパラメータを用いて前記閾値を決定する
前記（５）に記載の固体撮像装置。
（８）
前記補正部は、補正対象の前記第３の画素の周辺領域の平坦性に基づき、算出した前記補正値を適用するか否かを判定する
前記（２）から（７）のいずれかに記載の固体撮像装置。
（９）
前記第２の画素は、位相差検出画素である
前記（１）から（８）のいずれかに記載の固体撮像装置。
（１０）
前記第２の画素の位置に対応する画素値を補間する補間部をさらに備える
前記（１）から（９）のいずれかに記載の固体撮像装置。
（１１）
標準サイズのOCL(On Chip Lens)が形成されている第１の画素と、前記標準サイズとは異なるサイズのOCLが形成されている第２の画素が混在されている画素アレイと、
前記画素アレイの出力を補正する補正部と
を備える固体撮像装置の補正方法において、
前記補正部による、
前記画素アレイ上の前記第１の画素のうち、前記第２の画素の近傍に位置する前記第１の画素の画素値を補正する補正ステップを
含む補正方法。
（１２）
固体撮像装置が搭載されている電子装置において、
前記固体撮像装置は、
標準サイズのOCL(On Chip Lens)が形成されている第１の画素と、前記標準サイズとは異なるサイズのOCLが形成されている第２の画素が混在されている画素アレイと、
前記画素アレイ上の前記第１の画素のうち、前記第２の画素の近傍に位置する前記第１の画素の画素値を補正する補正部とを備える
電子装置。
１０ イメージセンサ， １１ 画素アレイ， １２ 位相差検出部， １３ 異形画素補間部， １４ ＡＦ制御部， １５ 変形画素補正部， １６ 欠陥画素補正部， １７ カメラ信号処理部， ２１ 補正値算出部， ２２ 平坦判定部， ２３ 閾値算出部， ２４ 平均値算出部， ２５ 補正部

Claims (10)

  1. 標準サイズのOCL(On Chip Lens)が形成されている第１の画素と、前記標準サイズの２画素分以上のサイズのOCLが形成されている第２の画素が混在されている画素アレイと、
    前記画素アレイ上の前記第１の画素のうち、前記第２の画素の近傍に位置し、OCLの形状が本来の標準サイズから変形している第３の画素の画素値を補正する補正部と
    を備え、
    前記補正部は、補正対象の前記第３の画素の画素値と置換する補正値を、前記補正対象の前記第３の画素の近傍に位置し、前記第２の画素および他の前記第３の画素を除く前記第１の画素の画素値を用いて算出する
    固体撮像装置。
  2. 前記補正部は、補正対象の前記第３の画素の画素値と置換する補正値を、前記補正対象の前記第３の画素の近傍に位置し、前記第２の画素および他の前記第３の画素を除く前記第１の画素の画素値と、前記補正対象の前記第３の画素の画素値とを用いて算出する
    請求項１に記載の固体撮像装置。
  3. 前記補正部は、算出した前記補正値を適用するか否かを判定するための閾値を決定する
    請求項１または２に記載の固体撮像装置。
  4. 前記補正部は、補正対象の前記第３の画素と前記第２の画素との位置関係によって異なるパラメータを用いて前記閾値を決定する
    請求項３に記載の固体撮像装置。
  5. 前記補正部は、補正対象の前記第３の画素の画像中における位置によって異なるパラメータを用いて前記閾値を決定する
    請求項３に記載の固体撮像装置。
  6. 前記補正部は、補正対象の前記第３の画素の周辺領域の平坦性に基づき、算出した前記補正値を適用するか否かを判定する
    請求項１または２に記載の固体撮像装置。
  7. 前記第２の画素は、位相差検出画素である
    請求項１乃至６のいずれかに記載の固体撮像装置。
  8. 前記第２の画素の位置に対応する画素値を補間する補間部をさらに備える
    請求項１乃至７のいずれかに記載の固体撮像装置。
  9. 標準サイズのOCL(On Chip Lens)が形成されている第１の画素と、前記標準サイズの２画素分以上のサイズのOCLが形成されている第２の画素が混在されている画素アレイと、
    前記画素アレイの出力を補正する補正部と
    を備える固体撮像装置の補正方法において、
    前記補正部が、
    前記画素アレイ上の前記第１の画素のうち、前記第２の画素の近傍に位置し、OCLの形状が本来の標準サイズから変形している第３の画素を補正対象とし、
    補正対象の前記第３の画素の画素値と置換する補正値を、前記補正対象の前記第３の画素の近傍に位置し、前記第２の画素および他の前記第３の画素を除く前記第１の画素の画素値を用いて算出する
    補正方法。
  10. 固体撮像装置が搭載されている電子装置において、
    前記固体撮像装置は、
    標準サイズのOCL(On Chip Lens)が形成されている第１の画素と、前記標準サイズの２画素分以上のサイズのOCLが形成されている第２の画素が混在されている画素アレイと、
    前記画素アレイ上の前記第１の画素のうち、前記第２の画素の近傍に位置し、OCLの形状が本来の標準サイズから変形している第３の画素の画素値を補正する補正部とを備え、
    前記補正部は、補正対象の前記第３の画素の画素値と置換する補正値を、前記補正対象の前記第３の画素の近傍に位置し、前記第２の画素および他の前記第３の画素を除く前記第１の画素の画素値を用いて算出する
    電子装置。
JP2018526024A 2016-07-06 2017-06-22 固体撮像装置、補正方法、および電子装置 Active JP7038050B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022034191A JP7235906B2 (ja) 2016-07-06 2022-03-07 固体撮像装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016133966 2016-07-06
JP2016133966 2016-07-06
PCT/JP2017/022986 WO2018008408A1 (ja) 2016-07-06 2017-06-22 固体撮像装置、補正方法、および電子装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022034191A Division JP7235906B2 (ja) 2016-07-06 2022-03-07 固体撮像装置

Publications (2)

Publication Number Publication Date
JPWO2018008408A1 JPWO2018008408A1 (ja) 2019-04-18
JP7038050B2 true JP7038050B2 (ja) 2022-03-17

Family

ID=60912460

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2018526024A Active JP7038050B2 (ja) 2016-07-06 2017-06-22 固体撮像装置、補正方法、および電子装置
JP2022034191A Active JP7235906B2 (ja) 2016-07-06 2022-03-07 固体撮像装置
JP2023026995A Active JP7500798B2 (ja) 2016-07-06 2023-02-24 固体撮像装置、補正方法、および電子装置

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2022034191A Active JP7235906B2 (ja) 2016-07-06 2022-03-07 固体撮像装置
JP2023026995A Active JP7500798B2 (ja) 2016-07-06 2023-02-24 固体撮像装置、補正方法、および電子装置

Country Status (4)

Country Link
US (3) US10863124B2 (ja)
EP (2) EP3483937B1 (ja)
JP (3) JP7038050B2 (ja)
WO (1) WO2018008408A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7038050B2 (ja) 2016-07-06 2022-03-17 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置、補正方法、および電子装置
KR102375989B1 (ko) 2017-08-10 2022-03-18 삼성전자주식회사 화소 사이의 신호 차이를 보상하는 이미지 센서
US11477403B2 (en) 2018-07-09 2022-10-18 Sony Semiconductor Solutions Corporation Imaging element and method for manufacturing imaging element

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009124573A (ja) 2007-11-16 2009-06-04 Nikon Corp 撮像装置
JP2010252277A (ja) 2009-04-20 2010-11-04 Panasonic Corp 固体撮像装置及び電子カメラ
JP2012064924A (ja) 2010-08-17 2012-03-29 Canon Inc マイクロレンズアレイの製造方法、固体撮像装置の製造方法および固体撮像装置
JP2014135564A (ja) 2013-01-08 2014-07-24 Canon Inc 撮像装置および画像処理装置
JP2014165787A (ja) 2013-02-27 2014-09-08 Canon Inc 撮像装置およびその制御方法、プログラム、記憶媒体
WO2016098640A1 (ja) 2014-12-18 2016-06-23 ソニー株式会社 固体撮像素子、および電子装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01216306A (ja) 1988-02-24 1989-08-30 Canon Inc 撮像手段を有した焦点検出装置
JPH01216308A (ja) 1988-02-24 1989-08-30 Minolta Camera Co Ltd 焦点検出用光学系
JP4882224B2 (ja) * 2004-11-26 2012-02-22 ソニー株式会社 固体撮像装置の製造方法
WO2011155297A1 (ja) 2010-06-09 2011-12-15 富士フイルム株式会社 撮像装置及び画像処理方法
JP5702625B2 (ja) * 2011-02-22 2015-04-15 ソニー株式会社 撮像素子、撮像素子の製造方法、画素設計方法および電子機器
JP6239820B2 (ja) 2011-12-19 2017-11-29 キヤノン株式会社 撮像装置及びその制御方法
JP2014089432A (ja) 2012-03-01 2014-05-15 Sony Corp 固体撮像装置、固体撮像装置におけるマイクロレンズの形成方法、及び、電子機器
JP6317548B2 (ja) * 2013-04-10 2018-04-25 キヤノン株式会社 撮像装置及びその制御方法
WO2014208047A1 (ja) 2013-06-24 2014-12-31 パナソニックＩｐマネジメント株式会社 固体撮像装置およびその製造方法
JP7038050B2 (ja) 2016-07-06 2022-03-17 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置、補正方法、および電子装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009124573A (ja) 2007-11-16 2009-06-04 Nikon Corp 撮像装置
JP2010252277A (ja) 2009-04-20 2010-11-04 Panasonic Corp 固体撮像装置及び電子カメラ
JP2012064924A (ja) 2010-08-17 2012-03-29 Canon Inc マイクロレンズアレイの製造方法、固体撮像装置の製造方法および固体撮像装置
JP2014135564A (ja) 2013-01-08 2014-07-24 Canon Inc 撮像装置および画像処理装置
JP2014165787A (ja) 2013-02-27 2014-09-08 Canon Inc 撮像装置およびその制御方法、プログラム、記憶媒体
WO2016098640A1 (ja) 2014-12-18 2016-06-23 ソニー株式会社 固体撮像素子、および電子装置

Also Published As

Publication number Publication date
US11632603B2 (en) 2023-04-18
JP7500798B2 (ja) 2024-06-17
EP3483937B1 (en) 2021-01-13
JPWO2018008408A1 (ja) 2019-04-18
US20190238773A1 (en) 2019-08-01
US11968462B2 (en) 2024-04-23
US10863124B2 (en) 2020-12-08
EP3483937A1 (en) 2019-05-15
US20210058577A1 (en) 2021-02-25
JP7235906B2 (ja) 2023-03-08
JP2023054293A (ja) 2023-04-13
WO2018008408A1 (ja) 2018-01-11
US20230209221A1 (en) 2023-06-29
EP3483937A4 (en) 2019-05-15
EP3754710B1 (en) 2022-02-09
EP3754710A1 (en) 2020-12-23
JP2022079483A (ja) 2022-05-26

Similar Documents

Publication Publication Date Title
US10957029B2 (en) Image processing device and image processing method
JP6977821B2 (ja) 画像処理装置と画像処理方法
US10999562B2 (en) Image processing device, image processing method and imaging device capable of performing parallax compensation for captured color image
WO2018163725A1 (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP7500798B2 (ja) 固体撮像装置、補正方法、および電子装置
US10704957B2 (en) Imaging device and imaging method
JP6977722B2 (ja) 撮像装置、および画像処理システム
JP2018064007A (ja) 固体撮像素子、および電子装置
WO2018016150A1 (ja) 画像処理装置と画像処理方法
WO2018016151A1 (ja) 画像処理装置と画像処理方法
JP6981416B2 (ja) 画像処理装置と画像処理方法
US12096643B2 (en) Solid-state image sensor and electronic apparatus
JP2018011246A (ja) 固体撮像装置、補正方法、および電子装置
JP2021180459A (ja) 撮像装置及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200508

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210817

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211001

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220208

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220307

R150 Certificate of patent or registration of utility model

Ref document number: 7038050

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150