JP2020025265A - 固体撮像装置及び撮像装置 - Google Patents

Abstract

【課題】イメージセンサのチップ内で加工処理を実行することを課題とする。【解決手段】撮像装置は、車両に搭載され、前記車両の周辺領域を撮像して画像データを生成する撮像部と、前記画像データに基づいて、前記周辺領域のシーンを認識するシーン認識部と、前記シーン認識部において認識された前記シーンに基づいて、前記撮像部の駆動を制御する駆動制御部とを備える。【選択図】図９

Description

本開示は、撮像装置及び車両制御システムに関する。詳しくは、チップ内での画像データの加工処理に関する。

デジタルカメラなどに代表される機器には、ＣＭＯＳ（Complementary Metal Oxide Semiconductor）やＤＳＰ（Digital Signal Processor）を有するイメージセンサが搭載される。イメージセンサでは、撮像された画像がＤＳＰに供給され、ＤＳＰにおいて様々な処理がなされて、アプリケーションプロセッサなどの外部装置に出力される。

国際公開第２０１８／０５１８０９号

しかしながら、上記の従来技術では、イメージセンサ内のＤＳＰにおいて、ノイズ除去などの簡単な画像処理が実行され、画像データを用いた顔認証などの複雑な処理はアプリケーションプロセッサなどで実行されるのが一般的である。このため、イメージセンサで撮像された撮像画像がそのままアプリケーションプロセッサに出力されるので、セキュリティの観点やプライバシーの観点から、イメージセンサのチップ内で加工処理を実行することが望まれている。

そこで、本開示では、イメージセンサのチップ内で加工処理を実行することができる撮像装置及び車両制御システムを提案する。

上記の課題を解決するために、本開示に係る一形態の撮像装置は、車両に搭載され、前記車両の周辺領域を撮像して画像データを生成する撮像部と、前記画像データに基づいて、前記周辺領域のシーンを認識するシーン認識部と、前記シーン認識部において認識された前記シーンに基づいて、前記撮像部の駆動を制御する駆動制御部とを備える。

本開示によれば、イメージセンサのチップ内で加工処理を実行することができる。なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。

第１の実施形態に係る電子機器としての撮像装置の概略構成例を示すブロック図である。 第１の実施形態に係る画像の加工を説明する図である。 第１の実施形態に係る加工処理の流れを示すフローチャートである。 第１の実施形態の変形例を説明する図である。 第２の実施形態に係る撮像装置を説明する図である。 第２の実施形態の変形例を説明する図である。 第３の実施形態に係る撮像装置を説明する図である。 第３の実施形態にかかる加工処理の流れを示すシーケンス図である。 第４の実施形態に係る車載撮像システムの概略構成例を示すブロック図である。 第４の実施形態に係る動作フローの一例を示すフローチャートである。 第４の実施形態に係る自車両が交差点に差しかかった場合のシーンを説明するための図である。 第４の実施形態に係る自車両が渋滞に巻き込まれた場合のシーンを説明するための図である。 第４の実施形態に係る自車両が高速道路や有料道路等における直線道路を走行している場合のシーンを説明するための図である。 第４の実施形態に係る自車両が高速道路や有料道路等のカーブを走行している場合のシーンを説明するための図である。 第４の実施形態に係る自車両が坂道（下り坂）に差しかかった際のシーンを説明するための図である。 第４の実施形態に係る単位画素の概略構成例を示す回路図である。 第４の実施形態に係る画素の配列例を示す平面レイアウト図である。 第４の実施形態に係る高解像度で画像データを読み出す際のタイミングチャートを示す図である。 第４の実施形態に係る低解像度で画像データを読み出す際のタイミングチャートを示す図である。 第４の実施形態に係るイメージセンサの概略構成例を示すブロック図である。 本実施形態に係るイメージセンサのチップ構成例を示す模式図である。 本実施形態に係るレイアウト例を説明するための図である。 本実施形態に係るレイアウト例を説明するための図である。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部及び撮像部の設置位置の一例を示す説明図である。 内視鏡手術システムの概略的な構成の一例を示す図である。 カメラヘッド及びＣＣＵの機能構成の一例を示すブロック図である。 診断支援システムの概略的な構成の一例を示すブロック図である。

以下に、本開示の実施形態について図面に基づいて詳細に説明する。なお、以下の各実施形態において、同一の部位には同一の符号を付することにより重複する説明を省略する。

また、以下に示す項目順序に従って本開示を説明する。
１．第１の実施形態
２．第１の実施形態の変形例
３．第２の実施形態
４．第３の実施形態
５．第４の実施形態
６．イメージセンサのチップ構成
７．レイアウト例
８．その他の実施形態
９．移動体への応用例
１０．内視鏡手術システムへの応用例
１１．ＷＳＩ（Whole Slide Imaging）システムへの応用例

（１．第１の実施形態）
［１−１．第１の実施形態に係る画像処理システムの構成］
図１は、第１の実施形態に係る電子機器としての撮像装置の概略構成例を示すブロック図である。図１に示すように、撮像装置１は、クラウドサーバ３０と通信可能に接続される。なお、撮像装置１とクラウドサーバ３０とは、有線や無線を問わず、各種ネットワークやＵＳＢ（Universal Serial Bus）ケーブルなどを介して、通信可能に接続される。

クラウドサーバ３０は、撮像装置１から送信された静止画や動画などの画像データを記憶するサーバ装置の一例である。例えば、クラウドサーバ３０は、ユーザごと、日付ごと、撮像場所ごとなど任意の単位で画像データを記憶し、画像データを用いたアルバム作成など様々なサービスを提供することもできる。

撮像装置１は、イメージセンサ１０とアプリケーションプロセッサ２０を有する電子機器の一例であり、例えばデジタルカメラ、デジタルビデオカメラ、タブレット端末、スマートフォンなどである。なお、以降の実施形態では、画像を撮像する例を用いて説明するが、これに限定されるものではなく、動画などであっても同様に処理することができる。

イメージセンサ１０は、例えば１チップで構成されるＣＭＯＳ（Complementary Metal Oxide Semiconductor）イメージセンサであり、入射光を受光し、光電変換を行って、入射光の受光量に対応する画像データをアプリケーションプロセッサ２０に出力する。

アプリケーションプロセッサ２０は、各種アプリケーションを実行するＣＰＵ（Central Processing Unit）などのプロセッサの一例である。アプリケーションプロセッサ２０は、イメージセンサ１０から入力された画像データをディスプレイに表示する表示処理、画像データを用いた生体認証処理、画像データをクラウドサーバ３０に送信する送信処理などアプリケーションに対応する各種処理を実行する。

［１−２．第１の実施形態に係る撮像装置の構成］
図１に示すように、撮像装置１は、固体撮像装置であるイメージセンサ１０と、アプリケーションプロセッサ２０とを備える。イメージセンサ１０は、撮像部１１、コントロール部１２、信号処理部１３、ＤＳＰ（処理部ともいう）１４、メモリ１５、セレクタ１６（出力部ともいう）を有する。

撮像部１１は、例えば、ズームレンズ、フォーカスレンズ、絞り等を備える光学系１０４と、フォトダイオードなどの受光素子（光電変換部ともいう）を含む単位画素が２次元マトリクス状に配列した構成を備える画素アレイ部１０１とを備える。外部から入射した光は、光学系１０４を介することで、画素アレイ部１０１における受光素子が配列した受光面に結像される。画素アレイ部１０１の各単位画素は、その受光素子に入射した光を電変換することで、入射光の光量に応じた電荷を読出可能に蓄積する。

また、撮像部１１には、変換器（Analog to Digital Converter：以下、ＡＤＣという）１７（例えば、図２参照）が含まれている。ＡＤＣ１７は、撮像部１１から読み出された単位画素毎のアナログの画素信号をデジタル値に変換することで、デジタルの画像データを生成し、生成した画像データを信号処理部１３へ出力する。なお、ＡＤＣ１７には、電源電圧等から撮像部１１を駆動するための駆動電圧を生成する電圧生成回路等が含まれてもよい。

撮像部１１が出力する画像データのサイズは、例えば、１２Ｍ（３９６８×２９７６）ピクセルや、ＶＧＡ（Video Graphics Array）サイズ（６４０×４８０ピクセルZ）等の複数のサイズの中から選択することができる。また、撮像部１１が出力する画像データについては、例えば、ＲＧＢ（赤、緑、青）のカラー画像とするか、又は、輝度のみの白黒画像とするかを選択することができる。これらの選択は、撮影モードの設定の一種として行うことができる。

コントロール部１２は、例えば、ユーザの操作や設定された動作モードに従い、イメージセンサ１０内の各部を制御する。

信号処理部１３は、撮像部１１から読み出されたデジタルの画像データ又はメモリ１５から読み出されたデジタルの画像データ（以下、処理対象の画像データという）に対して種々の信号処理を実行する。例えば、処理対象の画像データがカラー画像である場合、信号処理部１３は、この画像データをＹＵＶの画像データやＲＧＢの画像データなどにフォーマット変換する。また、信号処理部１３は、例えば、処理対象の画像データに対し、ノイズ除去やホワイトバランス調整等の処理を必要に応じて実行する。その他、信号処理部１３は、処理対象の画像データに対し、ＤＳＰ１４がその画像データを処理するのに必要となる種々の信号処理（前処理ともいう）を実行する。

ＤＳＰ１４は、例えば、メモリ１５に格納されているプログラムを実行することで、ディープニューラルネットワーク（ＤＮＮ）を利用した機械学習によって作成された学習済みモデルを用いて各種処理を実行する処理部として機能する。例えば、ＤＳＰ１４は、メモリ１５に記憶されている学習済みモデルに基づいた演算処理を実行することで、メモリ１５に記憶されている辞書係数と画像データとを掛け合わせる処理を実行する。このような演算処理により得られた結果（演算結果）は、メモリ１５及び／又はセレクタ１６へ出力される。なお、演算結果には、学習済みモデルを用いた演算処理を実行することで得られた画像データや、その画像データから得られる各種情報（メタデータ）が含まれ得る。また、ＤＳＰ１４には、メモリ１５へのアクセスを制御するメモリコントローラが組み込まれていてもよい。

演算処理には、例えば、ニューラルネットワーク計算モデルの一例である学習済みの学習モデルを利用したものが存在する。例えば、ＤＳＰ１４は、学習済みの学習モデルを用いて、各種処理であるＤＳＰ処理を実行することもできる。例えば、ＤＳＰ１４は、メモリ１５から画像データを読み出して学習済みの学習モデルに入力し、学習済みモデルの出力結果として顔の輪郭や顔画像の領域などである顔位置を取得する。そして、ＤＳＰ１４は、画像データのうち、抽出された顔位置に対して、マスキング、モザイク、アバター化などの処理を実行して、加工画像データを生成する。その後、ＤＳＰ１４は、生成した加工された画像データ（加工画像データ）をメモリ１５に格納する。

また、学習済みの学習モデルには、学習データを用いて、人物の顔位置の検出などを学習したＤＮＮやサポートベクタマシンなどが含まれる。学習済みの学習モデルは、判別対象のデータである画像データが入力されると、判別結果すなわち顔位置を特定するアドレスなどの領域情報を出力する。なお、ＤＳＰ１４は、学習データを用いて学習モデル内の各種パラメータの重み付けを変更することで学習モデルを更新したり、複数の学習モデルを用意しておき演算処理の内容に応じて使用する学習モデルを変更したり、外部の装置から学習済みの学習モデルを取得または更新したりして、上記演算処理を実行することができる。

なお、ＤＳＰ１４が処理対象とする画像データは、画素アレイ部１０１から通常に読み出された画像データであってもよいし、この通常に読み出された画像データの画素を間引くことでデータサイズが縮小された画像データであってもよい。若しくは、画素アレイ部１０１に対して画素を間引いた読み出しを実行することで通常よりも小さいデータサイズで読み出された画像データであってもよい。なお、ここでの通常の読み出しとは、画素を間引かずに読み出すことであってよい。

このような学習モデルによる顔位置の抽出や加工処理により、画像データの顔位置がマスキングされた加工画像データ、画像データの顔位置がモザイク処理された加工画像データ、または、画像データの顔位置がキャラクターに置き換えられてアバター化された加工画像データなどを生成することができる。

メモリ１５は、撮像部１１から出力された画像データ、信号処理部１３で信号処理された画像データ、ＤＳＰ１４で得られた演算結果等を必要に応じて記憶する。また、メモリ１５は、ＤＳＰ１４が実行する学習済みの学習モデルのアルゴリズムをプログラム及び辞書係数として記憶する。

また、メモリ１５は、信号処理部１３から出力された画像データやＤＳＰ１４から出力された演算処理済みの画像データ（以下、加工画像データという）に加え、ＩＳＯ（International Organization for Standardization）感度、露光時間、フレームレート、フォーカス、撮影モード、切出し範囲等を記憶してもよい。すなわち、メモリ１５は、ユーザにより設定される各種撮像情報を記憶し得る。

セレクタ１６は、例えばコントロール部１２からの選択制御信号に従うことで、ＤＳＰ１４から出力された加工画像データやメモリ１５に記憶されている画像データを選択的に出力する。例えば、セレクタ１６は、メモリ１５に格納されている加工画像データやメタデータ等の演算結果とのいずれかを、ユーザの設定等により選択して、アプリケーションプロセッサ２０に出力する。

例えば、セレクタ１６は、加工画像データを出力する加工処理モードが選択されている場合は、ＤＳＰ１４が生成した加工画像データをメモリ１５から読み出して、アプリケーションプロセッサへ出力する。一方、セレクタ１６は、加工画像データを出力しない通常処理モードが選択されている場合は、信号処理部１３から入力される画像データをアプリケーションプロセッサへ出力する。なお、セレクタ１６は、第１の処理モードが選択されている場合、ＤＳＰ１４から出力された演算結果を直接アプリケーションプロセッサ２０へ出力してもよい。

以上のようにしてセレクタ１６から出力された画像データや加工画像データは、表示やユーザインタフェースなどを処理するアプリケーションプロセッサ２０に入力される。アプリケーションプロセッサ２０は、例えば、ＣＰＵ等を用いて構成され、オペレーティングシステムや各種アプリケーションソフトウエア等を実行する。このアプリケーションプロセッサ２０には、ＧＰＵ（Graphics Processing Unit）やベースバンドプロセッサなどの機能が搭載されていてもよい。アプリケーションプロセッサ２０は、入力された画像データや演算結果に対し、必要に応じた種々処理を実行したり、ユーザへの表示を実行したり、所定のネットワーク４０を介して外部のクラウドサーバ３０へ送信したりする。

なお、所定のネットワーク４０には、例えば、インターネットや、有線ＬＡＮ（Local Area Network）又は無線ＬＡＮや、移動体通信網や、Ｂｌｕｅｔｏｏｔｈ（登録商標）など、種々のネットワークを適用することができる。また、画像データや演算結果の送信先は、クラウドサーバ３０に限定されず、単一で動作するサーバや、各種データを保管するファイルサーバや、携帯電話機等の通信端末など、通信機能を有する種々の情報処理装置（システム）であってよい。

［１−３．第１の実施形態に係る画像加工の説明］
図２は、第１の実施形態に係る画像の加工を説明する図である。図２に示すように、信号処理部１３は、撮像部１１から読み出された画像データに信号処理を行ってメモリ１５に格納する。ＤＳＰ１４は、メモリ１５から画像データを読み出して、学習済みの学習モデルを用いた顔検出を実行し、画像データから顔位置を検出する（処理１）。

続いて、ＤＳＰ１４は、検出した顔位置に、マスキングやモザイクなどを施す加工処理（処理２）を実行して加工画像データを生成し、メモリ１５に格納する。その後、セレクタ１６は、ユーザの選択に応じて、顔領域が加工された加工画像データをアプリケーションプロセッサ２０に出力する。

［１−４．第１の実施形態に係る処理の流れ］
図３は、第１の実施形態に係る加工処理の流れを示すフローチャートである。図３に示すように、撮像部１１による撮像された画像データがメモリ１５に格納される（Ｓ１０１）。

そして、ＤＳＰ１４は、メモリ１５から画像データを読み出し（Ｓ１０２）、学習済みの学習モデルを用いて、顔位置を検出する（Ｓ１０３）。続いて、ＤＳＰ１４は、画像データの顔位置を加工した加工画像データを生成して、メモリ１５に格納する（Ｓ１０４）。

その後、セレクタ１６は、加工有りの処理モードである加工処理モードが選択されている場合（Ｓ１０５：Ｙｅｓ）、加工画像データをメモリ１５から読み出して、アプリケーションプロセッサ２０などの外部装置に出力する（Ｓ１０６）。

一方、セレクタ１６は、加工無しの処理モードである通常処理モードが選択されている場合（Ｓ１０５：Ｎｏ）、加工処理が施されてない画像データをメモリ１５から読み出して、アプリケーションプロセッサ２０などの外部装置に出力する（Ｓ１０７）。

［１−５．作用・効果］
上述したように、イメージセンサ１０は、加工が必要な場合でも１チップ内の閉じた領域で、加工処理を実行できるので、撮像された画像データがそのまま外部に出力されることを抑制でき、セキュリティの向上やプライバシーの保護を実現できる。また、イメージセンサ１０は、加工の有無をユーザに選択させることができるので、用途に応じて処理モードを選択でき、ユーザの利便性を向上することができる。

（２．第１の実施形態の変形例）
上記第１の実施形態では、顔位置にマスキング等を実行する例を説明したが、加工処理がこれに限定されるものではない。例えば、顔位置を抽出した部分画像を生成することもできる。

図４は、第１の実施形態の変形例を説明する図である。図４に示すように、信号処理部１３は、撮像部１１から読み出された画像データに信号処理を行ってメモリ１５に格納する。ＤＳＰ１４は、メモリ１５から画像データを読み出して、学習済みの学習モデルを用いた顔検出を実行し、画像データから顔位置を検出する（処理１）。

続いて、ＤＳＰ１４は、検出した顔位置を抽出した部分画像データを生成し（処理２）、メモリ１５に格納する。その後、セレクタ１６は、ユーザの選択に応じて、顔の部分画像データをアプリケーションプロセッサ２０に出力する。

上述したように、イメージセンサ１０は、加工が必要な場合でも１チップ内の閉じた領域で、部分画像データの抽出を実行できるので、人物の特定、顔認証、人物ごとの画像収集などアプリケーションプロセッサ２０の処理に応じた画像を出力することができる。この結果、不要な画像の送信を抑制でき、セキュリティの向上やプライバシーの保護を実現でき、データ容量も削減することができる。

（３．第２の実施形態）
［３−１．第２の実施形態に係る撮像装置の説明］
ところで、第１の実施形態では、ＤＳＰ１４が加工処理を実行する例を説明したが、これに限定されるものではなく、セレクタ１６が加工処理を行うこともできる。そこで、第２の実施形態では、セレクタ１６が加工処理を行う例を説明する。

図５は、第２の実施形態に係る撮像装置を説明する図である。図５に示すように、第２の実施形態に係るイメージセンサ１０の構成は、第１の実施形態に係るイメージセンサ１０と同様なので、詳細な説明は省略する。第１の実施形態と異なる点は、イメージセンサ１０のＤＳＰ１４が、学習モデルを用いて抽出した顔位置の位置情報をセレクタ１６に通知する点である。

例えば、図５に示すように、信号処理部１３は、撮像部１１から読み出された画像データに信号処理を行ってメモリ１５に格納する。ＤＳＰ１４は、メモリ１５から画像データを読み出して、学習済みの学習モデルを用いた顔検出を実行し、画像データから顔位置を検出する（処理１）。そして、ＤＳＰ１４は、顔位置を特定するアドレスなどである位置情報をセレクタ１６に通知する。

セレクタ１６は、加工処理がユーザにより選択されている場合に、画像データをメモリ１５から読み出し、ＤＳＰ１４から取得した位置情報を用いて、加工対象となるＲＯＩ（Region of Interest）を特定する。そして、セレクタ１６は、特定したＲＯＩに対して、マスキングなどの加工処理を実行して加工画像データを生成し（処理２）、加工画像データをアプリケーションプロセッサ２０に出力する。なお、セレクタ１６は、加工画像データをメモリ１５に格納することもできる。

［３−２．第２の実施形態の第１の変形例］
上記第１の実施形態の変形例と同様、第２の実施形態においてもセレクタ１６が顔位置を抽出した部分画像を生成することもできる。

図６は、第２の実施形態の第１の変形例を説明する図である。図６に示すように、信号処理部１３は、撮像部１１から読み出された画像データに信号処理を行ってメモリ１５に格納する。ＤＳＰ１４は、メモリ１５から画像データを読み出して、学習済みの学習モデルを用いた顔検出を実行し、画像データから顔位置を検出する（処理１）。そして、ＤＳＰ１４は、顔位置を特定するアドレスなどである位置情報をセレクタ１６に通知する。

続いて、セレクタ１６は、加工処理がユーザにより選択されている場合に、画像データをメモリ１５から読み出し、ＤＳＰ１４から取得した位置情報を用いて、加工対象となるＲＯＩ（Region of Interest）を特定する。その後、セレクタ１６は、画像データからＲＯＩに該当する部分を抽出した部分画像データを生成し（処理２）、アプリケーションプロセッサ２０に出力する。

［３−３．第２の実施形態の第２の変形例］
上述した第２の実施形態及びその第１の変形例では、メモリ１５に格納されている画像データに対してセレクタ１６がＲＯＩの抽出（切り出し又はトリミングともいう）や加工（マスキング等）などの処理２を行なう場合を例示したが、これに限定されず、例えば、セレクタ１６が、信号処理部１３から出力された画像データに対して直接、ＲＯＩの切り出しや加工（マスキング等）などの処理２を実行するように構成することも可能である。

［３−４．第２の実施形態の第３の変形例］
また、撮像部１１から読み出す画像データ自体を、ＲＯＩのみの部分画像データやＲＯＩを含まない画像データとすることも可能である。その場合、第１のフレームに対してＤＳＰ１４で抽出された顔位置がコントロール部１２へ通知され、コントロール部１２が撮像部１１に対し、第１のフレームの次のフレームである第２のフレームにおけるＲＯＩに相当する画素領域からの部分画像データの読み出しや、ＲＯＩ以外の領域に相当する画素領域からの画像データの読み出しを実行する。

なお、第２の実施形態及びその変形例において、セレクタ１６は、マスキング等の加工処理に限らず、画像データのうちのＲＯＩに該当する領域だけを他の画像に書き換えて出力することもでき、画像データのうちのＲＯＩに該当する領域だけをメモリ１５から読み出さずに出力することもできる。なお、この処理は、第１の実施形態におけるＤＳＰ１４が実行することもできる。

上述したように、イメージセンサ１０は、セレクタ１６で加工処理を実行できるので、加工処理が不要な場合のＤＳＰ１４の処理負荷を低減できる。また、イメージセンサ１０は、セレクタ１６で加工した加工画像をメモリ１５に保存せずに、出力することができるので、メモリ１５の使用容量を削減することができ、メモリ１５のコスト削減や小型化が図れる。この結果、イメージセンサ１０全体の小型化を図ることもできる。

（４．第３の実施形態）
［４−１．第３の実施形態に係る撮像装置の説明］
ところで、イメージセンサ１０は、撮像部１１からの画像データ全体の読み出しに先だって、小さい容量の画像データを先に読み出して、顔位置を検出することで、処理の高速化を図ることができる。そこで、第３の実施形態では、処理の高速化を図る例を説明する。

図７は、第３の実施形態に係る撮像装置を説明する図である。図７に示すように、第３の実施形態に係るイメージセンサ１０の構成は、第１の実施形態に係るイメージセンサ１０と同様なので、詳細な説明は省略する。ここでは、第１の実施形態と異なる点について説明する。

例えば、図７に示すように、撮像部１１は、全単位画素から画像データを読み出す際に、全単位画素ではなく対象の単位画素から間引いて読み出し、間引いた小さい容量の画像データをメモリ１５に格納する。これと並行して、撮像部１１は、画像データの通常読み出しを実行する。

そして、ＤＳＰ１４は、メモリ１５から小さい容量の画像データを読み出して、学習済みの学習モデルを用いた顔検出を実行し、当該画像データから顔位置を検出する（処理１）。そして、ＤＳＰ１４は、顔位置を特定するアドレスなどである位置情報をセレクタ１６に通知する。

その後、セレクタ１６は、撮像部１１により読み出された通常の画像データが入力されると、ＤＳＰ１４から取得した位置情報を用いて、通常の画像データから加工対象となるＲＯＩ（Region of Interest）を特定する。そして、セレクタ１６は、ＲＯＩに該当する領域にマスキングなどの加工処理を実行して加工画像データを生成し（処理２）、加工画像データをアプリケーションプロセッサ２０に出力する。

［４−２．第３の実施形態に係る処理の流れ］
次に、図７で説明した処理の流れを説明する。図８は、第３の実施形態にかかる加工処理の流れを示すシーケンス図である。図８に示すように、撮像部１１は、画像を間引いて読み出し（Ｓ２０１）、間引いた小さい容量の画像データをメモリ１５に格納する（Ｓ２０２）。その後、撮像部１１は、通常の画像データの読み出しを継続する。

これと並行して、ＤＳＰ１４は、ＤＮＮ等を用いて、小さい容量の画像データから顔検出を実行し、顔位置を検出する（Ｓ２０３）。そして、ＤＳＰ１４は、検出した顔位置の位置情報をセレクタ１６に通知する（Ｓ２０５とＳ２０６）。

そして、セレクタ１６は、ＤＳＰ１４から通知された顔位置の位置情報を保持する（Ｓ２０７）。その後、撮像部１１は、通常の画像データの読み出しが完了すると、セレクタ１６に出力し（Ｓ２０９とＳ２１０）、セレクタ１６は、顔位置の位置情報を用いて、通常の画像データから顔位置を特定する（Ｓ２１１）。

その後、セレクタ１６は、顔位置を加工した加工画像データを生成し（Ｓ２１２）、加工画像データを外部装置に出力する（Ｓ２１３）。例えば、セレクタ１６は、ＤＮＮで検出された顔の位置のみを切出して出力する。このように、イメージセンサ１０は、通常の画像データの読み出しが完了する前に、顔位置を検出することができるので、画像データの読み出し後に遅滞なく加工処理を実行することができ、第１の実施形態と比べても、処理を高速化することができる。

（５．第４の実施形態）
つづいて、上述した実施形態に係る撮像装置１を車両に搭載して車両の周辺領域を撮像する車載カメラに応用した場合について、具体例を挙げて説明する。

［５−１．システム構成例］
図９は、第４の実施形態に係る車載撮像システムの概略構成例を示すブロック図である。図９に示すように、車載撮像システム２００は、イメージセンサ２１０と、ＳｏＣ（System on Chip）２２０と、車両制御装置２３０とを備える。

（イメージセンサ１０）
イメージセンサ１０は、上述した実施形態に係るイメージセンサ１０と同様であってよい。なお、本実施形態では、上述の実施形態において説明が省略されていた入力部１８を明記するとともに、セレクタ１６を出力部１６と表記している。また、本実施形態では、ＤＳＰ１４が、入力された画像データに基づいてシーンを認識するシーン認識部２１４として機能する。この認識処理には、上述した実施形態のように、学習済みモデルが使用されてもよい。

（ＳｏＣ２２０）
ＳｏＣ２２０は、例えば、アプリケーションプロセッサ２０等が搭載される回路基板であり、物体検出部２２１と、車両制御信号生成部２２２と、シーン認識制御部２２３とを備える。これらの部の一部又は全部は、例えば、アプリケーションプロセッサ２０が所定のプログラムを実行することで実現されてもよいし、各部の処理を実行するように設計された専用チップ等で実現されてもよい。

（車両制御装置２３０）
車両制御装置２３０は、例えば、車両に搭載されたＥＣＵ（Engine Control Unit）等であってよく、車両制御部２３１と、車両駆動用センサ２３２と、車両駆動部２３３とを備える。

（地図情報記憶部２２４）
地図情報記憶部２２４は、例えば、地形や交通網や道幅等の地図情報を記憶する記憶部であってよい。この地図情報記憶部２２４は、例えば、車両がナビゲーションシステムを搭載している場合には、このナビゲーションシステムと共用されてもよい。

（通信部２４０）
通信部２４０は、例えば、所定のネットワークを介して不図示のサーバ等との間で通信を確立する部であってよい。所定のネットワークは、例えば、ＷＡＮ（Wide Area Network）（インターネットを含む）やＬＡＮ（Local Area Network）や公衆回線網や移動体通信網などの種々のネットワークであってよい。

なお、ＳｏＣ２２０と車両制御装置２３０とは、例えば、ＣＡＮ（Controller Area Network）等の通信回線を介して接続されてもよい。一方、イメージセンサ１０とＳｏＣ２２０とは、Ｉ２Ｃ（Inter-Integrated Circuit）、LVDS（Low Voltage Differential Signaling）、ＭＩＰＩ（Mobile Industry Processor Interface）等のインタフェースを介して接続されてもよい。

つづいて、以上の構成における各部の動作について説明する。

・物体検出部２２１
物体検出部２２１は、イメージセンサ１０から出力された画像データや画像データに基づく加工画像データやメタデータ等の演算結果等に基づいて、車両の周囲に存在する物体を検出する。

・車両制御信号生成部２２２
車両制御信号生成部２２２は、物体検出部２２１から出力された物体検出結果に基づいて、車両の加減速や操舵等を制御する車両制御信号を生成する。

・車両駆動部２３３
車両駆動部２３３は、例えば、車両のエンジンシステムやトランスミッションシステムやブレーキシステムやエアバック装置やインストルメントパネル等の表示システムや音響システムや空調システム等であってよい。

・車両駆動用センサ２３２
車両駆動用センサ２３２は、エンジンや駆動用モータ等の駆動状態を検出したり、操舵角を検出したり、ブレーキの動作状態を検出したりするための各種センサであってよい。

・車両制御部２３１
車両制御部２３１は、例えば、ＣＰＵ（Central Processing Unit）等で構成され、ドライバの運転操作に基づく車両制御信号や、ＳｏＣ２２０の車両制御信号生成部２２２から入力された車両制御信号に基づいて、車両駆動部２３３を制御する。

・シーン認識制御部２２３
シーン認識制御部２２３は、車両駆動用センサ２３２から入力された検出結果と、地図情報記憶部２２４から読み出した地図情報とに基づいて、車両の現在の走行場所及びその地形（坂道やカーブ等）や走行速度や加減速の状況等の情報を特定し、特定した情報に基づいて、シーン認識部２１４を制御するための制御信号を生成する。生成された制御信号は、入力部１８を介してシーン認識部２１４に入力される。

・シーン認識部２１４
シーン認識部２１４は、上述したように、イメージセンサ１０のＤＳＰ１４であり、撮像部１１から読み出された画像データ（若しくはその間引かれた画像データ）や、シーン認識制御部２２３から入力された制御信号に基づいて、現在のシーンを認識する。なお、本説明におけるシーンとは、撮像部１１の画角内の景色や物体等から特定されるシーンに限定されず、車両の姿勢（水平方向に対する傾き等）や走行速度や加減速の状況や旋回（右折や左折等）の状況等を含むものであってよい。また、図９では、メモリ１５の図示が省略されているが、シーン認識部２１４には、メモリ１５に格納されている加工画像データやメタデータ等の演算結果が入力されてもよい。

・コントロール部１２
コントロール部１２は、画素アレイ部１０１を駆動する駆動制御部であり、シーン認識部２１５で認識されたシーンに基づいて、撮像部１１から画像データを読み出す際の駆動を切り替える。

［５−２．動作例］
つづいて、本実施形態に係る動作フローについて、図面を参照して詳細に説明する。図１０は、本実施形態に係る動作フローの一例を示すフローチャートである。

図１０に示すように、本実施形態では、まず、撮像部１１にて、画像データの読み出しが実行される（ステップＳ４０１）。この読み出された画像データは、画素アレイ部１０１から通常に読み出された画像データであってもよいし、この通常に読み出された画像データの画素を間引くことでデータサイズが縮小された画像データであってもよい。若しくは、画素アレイ部１０１に対して画素を間引いた読み出しを実行することで通常よりも小さいデータサイズで読み出された画像データであってもよい。

次に、シーン認識部２１４にて、シーン認識が実行される（ステップＳ４０２）。具体的には、シーン認識部２１４は、撮像部１１又は信号処理部１３（若しくはメモリ１５）から入力された画像データと、シーン認識制御部２２３から入力部１８を介して入力された制御信号とに基づいて、現在のシーンを認識する。この認識では、学習済みモデルが使用されてもよい。

次に、シーン認識部２１４は、シーン認識結果に基づいて、撮像部１１から画像データを読み出す際のフレームレートを高く設定するか否かを判定する（ステップＳ４０３）。例えば、シーン認識部２１４は、交差点や高速走行時などの車両周囲の状況が比較的短期間で変化するシーンでは、フレームレートを高く設定すると判定してもよい。

フレームレートを高くする場合（ステップＳ４０３のＹＥＳ）、シーン認識部２１４は、撮像部１１に対する読み出しを高フレームレートに設定し（ステップＳ４０４）、ステップＳ４０６へ進む。一方、フレームレートを高くしない場合（ステップＳ４０３のＮＯ）、シーン認識部２１４は、撮像部１１に対する読み出しを低フレームレート（若しくは通常のフレームレート）に設定し（ステップＳ４０５）、ステップＳ４０６へ進む。

なお、高フレームレートは、例えば、３０ｆｐｓ（frames per second）などであってよく、低フレームレート（若しくは通常のフレームレート）は、例えば、高フレームレートよりも低いフレームレート（例えば、１０ｆｐｓ）であってよい。ただし、これらの具体的数値は単なる例であって、種々変更されてよい。

次に、シーン認識部２１４は、高解像度の画像データが必要であるか否かを判定する（ステップＳ４０６）。例えば、シーン認識部２１４は、走行速度がある一定の速度よりも高い場合や、高速道路や有料道路等の比較的他の車両等の移動速度が速いシーンでは、遠くの物体を検出するために、高解像度の画像データが必要であると判定してもよい。

高解像度の画像データが必要であると判定した場合（ステップＳ４０６のＹＥＳ）、シーン認識部２１４は、注目領域（ＲＯＩ：Region Of Interest）の画像データの抽出を撮像部１１内で実現するか否か、すなわち、撮像部１１からＲＯＩのみの画像データを読み出すか、撮像部１１から読み出した画像データからＲＯＩの画像データを切り出すかを判定する（ステップＳ４０７）。シーン認識部２１４がＲＯＩの画像データの抽出を撮像部１１内で実現すると判定した場合（ステップＳ４０７のＹＥＳ）、コントロール部１２は、撮像部１１に対してＲＯＩの画像データを高解像度で読み出す駆動制御を実行して画像データを生成し（ステップＳ４０８）、ステップＳ４１２へ進む。一方、シーン認識部２１４がＲＯＩの画像データの抽出を撮像部１１内で実現しないと判定した場合（ステップＳ４０７のＮＯ）、コントロール部１２は、撮像部１１に対して全体画像の画像データを高解像度で読み出す駆動制御を実行して画像データを生成する（ステップＳ４０９）。つづいて、読み出された全体画像の画像データを信号処理部１３に入力して、信号処理部１３において、全体画像からＲＯＩの部分画像データが切り出され（ステップＳ４１０）、その後、ステップＳ４１２へ進む。

また、ステップＳ４０６において、シーン認識部２１４が高解像度の画像データが必要でないと判定した場合（ステップＳ４０６のＮＯ）、コントロール部１２は、撮像部１１に対して全体画像の画像データを低解像度で読み出す駆動制御を実行して画像データを生成し（ステップＳ４１１）、ステップＳ４１２へ進む。なお、低解像度の読出し動作では、例えば、隣接画素の画素値を加算することで解像度の落とす読出し駆動や、画素の飛ばし読み（間引き）をすることで解像度を落とす読出し駆動等が実行されてもよい。

なお、ステップＳ４０６では、シーン認識部２１４が画像データに基づいて車両周辺領域の照度を算出し、算出された照度に基づいて、低解像度で画像データを読み出すか、高解像度で画像データを読み出すかを判定してもよい。例えば、シーン認識部２１４は、遠くの物体を検出する必要があると判定される場合であっても、照度が所定の閾値を下回る場合には、低解像度で画像データ読み出すように判定してもよい。

ステップＳ４１２では、信号処理部１３が、入力された全体画像又は部分画像の画像データに対して所定の信号処理を実行する。所定の信号処理とは、例えばゲイン調整、ホワイトバランス調整、黒レベル補正、ダイナミックレンジ調整、欠陥画素補正等である。そして、この信号処理された画像データは、例えば、出力部１６を介して、物体検出部２２１等へ出力される（ステップＳ４１３）。

その後、例えば、外部から入力された指示や車両電源情報等に基づき、本動作を終了するか否かが判定され（ステップＳ４１４）、継続する場合（ステップＳ４１４のＮＯ）、本動作がステップＳ４０１へリターンする。一方、終了する場合（ステップＳ４１４のＹＥＳ）、本動作が終了する。

［５−３．動作の具体例］
つづいて、図１０を用いて説明した動作の具体例について、幾つかのシーンを例示して説明する。

［５−３−１．交差点のシーン］
図１１は、自車両が交差点に差しかかった場合のシーンを説明するための図である。図１１に示すように、自車両が交差点に差しかかった場合では、撮像部１１の画角内には、交差点の道路形状、横断歩道や、交通信号機や、他の車両や、歩行者や、自転車等が映り込む。このようなシーンでは、短時間で変化する周囲の状況に対応した車両制御を実現するため、シーン認識部２１４は、図１０のステップＳ４０３において、フレームレートを高く設定すると判定してもよい（ステップＳ４０３のＹＥＳ）。

なお、当該シーンでは、遠くの物体を検出する必要性に乏しいことから、シーン認識部２１４は、図１０のステップＳ４０６において、高解像度の画像データが必要でないと判定してもよい（ステップＳ４０６のＮＯ）。ただし、これに限定されず、シーン認識部２１４は、高解像度の画像データが必要であると判定してもよい（ステップＳ４０６のＹＥＳ）。

また、当該シーンでは、歩行者の飛び出し等を検出できるように、できるだけ広範囲を検出対象とすることが望ましいため、シーン認識部２１４は、撮像部１１の画角全体をＲＯＩに設定してもよい。

［５−３−２．渋滞のシーン］
図１２は、自車両が渋滞に巻き込まれた場合のシーンを説明するための図である。図１２に示すように、自車両が渋滞に巻き込まれた場合では、撮像部１１の画角内には、所定数以上の他の車両等が映り込む。このようなシーンでは、遠くの物体を検出する必要性に乏しいことから、シーン認識部２１４は、図１０のステップＳ４０６において、高解像度の画像データが必要でないと判定してもよい（ステップＳ４０６のＮＯ）。

また、当該シーンでは、歩行者の飛び出し等を検出できるように、できるだけ広範囲を検出対象とすることが望ましいため、シーン認識部２１４は、撮像部１１の画角全体をＲＯＩに設定してもよい。

なお、当該シーンでは、周囲の状況変化が少ないため、シーン認識部２１４は、図１０のステップＳ４０３において、フレームレートを高くしないと判定してもよい（ステップＳ４０３のＮＯ）。ただし、これに限定されず、シーン認識部２１４は、フレームレートを高くすると判定してもよい（ステップＳ４０３のＹＥＳ）。

［５−３−３．高速道路のシーン（直線）］
図１３は、自車両が高速道路や有料道路等における直線道路を走行している場合のシーンを説明するための図である。図１３に示すように、高速道路等の直線道路の走行中では、自車両の走行速度や他の車両との相対速度が速いため、遠くの物体を検出する必要がある。そこで、シーン認識部２１４は、図１０のステップＳ４０６において、高解像度の画像データが必要であると判定してもよい（ステップＳ４０６のＹＥＳ）。

また、当該シーンにおいて、自車両の走行速度が速い場合には、撮像部１１の画角における外周部分の画像が鮮明に映らないことが多い。そのため、シーン認識部２１４は、撮像部１１に対するＲＯＩを画角の中央部分（車両前方に相当）に設定してもよい。その際、シーン認識部２１４は、ＲＯＩのサイズを自車両の走行速度に応じて変化させてもよい。

なお、ＲＯＩは、画角内の画像の消失点を中心とした領域であってもよい。消失点は、例えば、シーン認識部２１４が道路形状や道路上の白線等から一般的な算出方法により算出してもよい。その際、学習済みモデルが使用されてもよい。

さらに、当該シーンでは、シーン認識部２１４は、図１０のステップＳ４０３において、フレームレートを高くすると判定してもよい（ステップＳ４０３のＹＥＳ）。ただし、これに限定されず、シーン認識部２１４は、フレームレートを高くしないと判定してもよい（ステップＳ４０３のＮＯ）。

［５−３−４．高速道路のシーン（カーブ）］
図１４は、自車両が高速道路や有料道路等のカーブを走行している場合のシーンを説明するための図である。図１４に示すように、高速道路等のカーブの走行中では、高速道路等の直線道路の走行中と同様に、遠くの物体を検出するために、シーン認識部２１４は、図１０のステップＳ４０６において、高解像度の画像データが必要であると判定してもよい（ステップＳ４０６のＹＥＳ）。また、シーン認識部２１４は、画像が鮮明に映らない領域を除いた領域をＲＯＩに設定してもよい。

ただし、カーブ走行中の消失点は、道路の曲がりに応じて画角の中央から左右等にシフトしている。そこで、シーン認識部２１４は、カーブの形状等に基づいて、ＲＯＩの領域をシフトさせてもよい。例えば、カーブの形状等から求まる消失点のシフト量に応じて、ＲＯＩの領域をシフトさせてもよい。その際、シーン認識部２１４は、入力された画像データ等に基づいて、自車両がカーブを走行中であるか否かの判断を行ってもよい。この判断には、学習済みモデルが使用されてもよい。

なお、当該シーンでは、シーン認識部２１４は、図１０のステップＳ４０３において、フレームレートを高くすると判定してもよい（ステップＳ４０３のＹＥＳ）。ただし、これに限定されず、シーン認識部２１４は、フレームレートを高くしないと判定してもよい（ステップＳ４０３のＮＯ）。

［５−３−５．坂道のシーン］
図１５は、自車両が坂道（下り坂）に差しかかった際のシーンを説明するための図である。図１５に示すように、自車両が坂道に差しかかったシーンでは、画角内の画像において、道路や道路標識や対向車等の検出対象が映り込まない領域（例えば、空や海などの領域）が占める割合が大きくなる。

このような、検出対象が映り込まない領域が占める割合が大きくなるシーンでは、シーン認識部２１４は、検出対象が映り込んでいない領域を除いた領域をＲＯＩに設定してもよい。その際、検出対象が映り込んでいない領域の特定には、学習済みモデルが使用されてもよい。

［５−４．低解像度読出しと高解像度読出しとの切替え構成例］
つづいて、低解像度での読出し動作と高解像度での読出し動作とを切り替えるための構成について、例を挙げて説明する。なお、本説明では、隣接画素の画素値を加算することで低解像度での読出し動作を実現する場合を例示するが、これに限定されず、画素の飛ばし読み（間引き）をすることで低解像度での読出し動作を実現することも可能である。

［５−４−１．単位画素の構成例］
図１６は、本実施形態に係る単位画素の概略構成例を示す回路図である。図１６に示すように、低解像度読出しと高解像度読出しとの切替えを実現するための単位画素３００は、例えば、複数の画素（図１６では、例えば、４つの画素３１１，３１２，３１３，３１４）と、この複数の画素３１１〜３１４に接続された１の画素回路３２０と、画素回路３２０に接続された垂直信号線ＶＳＬとを含む画素共有ユニットの構成を備えている。

画素回路３２０は、例えば、３つのトランジスタ、具体的には、増幅トランジスタＡＭＰ、選択トランジスタＳＥＬ及びリセットトランジスタＲＳＴを含んでいる。また、リセットトランジスタＲＳＴのソース及び増幅トランジスタＡＭＰのゲートに接続されたノードは、画素３１１〜３１４から転送された電荷を蓄積するフローティングディフュージョンＦＤとして機能する。

このような構成において、単位画素３００は、１の画素回路３２０を時分割で動作させることにより、４つの画素３１１〜３１４それぞれの画素信号を順次、垂直信号線ＶＳＬへ出力する。

画素３１１／３１２／３１３／３１４は、例えば、フォトダイオードＰＤ１／ＰＤ２／ＰＤ３／ＰＤ４と、フォトダイオードＰＤ１／ＰＤ２／ＰＤ３／ＰＤ４に接続された転送トランジスタ（転送ゲートともいう）ＴＲ１／ＴＲ２／ＴＲ３／ＴＲ４とを有する。以下の説明において、フォトダイオードＰＤ１〜ＰＤ４をそれぞれ区別しない場合、その符号を‘ＰＤ’とする。同様に、転送トランジスタＴＲ１〜ＴＲ４をそれぞれ区別しない場合、その符号を‘ＴＲ’とする。

フォトダイオードＰＤでは、カソードが転送トランジスタＴＲのソースに電気的に接続され、アノードが基準電位線（例えばグラウンド）に電気的に接続されている。フォトダイオードＰＤは、入射した光を光電変換し、その受光量に応じた電荷を発生する。

転送トランジスタＴＲは、例えば、ｎ型のＣＭＯＳ（Complementary Metal Oxide Semiconductor）トランジスタである。転送トランジスタＴＲでは、ドレインがフローティングディフュージョンＦＤに電気的に接続され、ゲートが駆動信号線に電気的に接続されている。

転送トランジスタＴＲ１は、フォトダイオードＰＤで発生した電荷をフローティングディフュージョンＦＤへと転送する。フローティングディフュージョンＦＤは、ｐ型半導体層中に形成されたｎ型拡散層領域である。フローティングディフュージョンＦＤは、フォトダイオードＰＤから転送された電荷を一時的に保持する電荷保持手段であり、かつ、その電荷量に応じた電圧を発生させる、電荷―電圧変換手段である。

フローティングディフュージョンＦＤは、増幅トランジスタＡＭＰのゲートおよびリセットトランジスタＲＳＴのソースに電気的に接続されている。リセットトランジスタＲＳＴのゲートは駆動信号線に接続されている。リセットトランジスタＲＳＴのドレインは電源線ＶＤＤに接続されている。

増幅トランジスタＡＭＰのゲートはフローティングディフュージョンＦＤに接続され、増幅トランジスタＡＭＰのドレインは電源線ＶＤＤに接続され、増幅トランジスタＡＭＰのソースは選択トランジスタＳＥＬのドレインに接続されている。選択トランジスタＳＥＬのソースは垂直信号線ＶＳＬに接続され、選択トランジスタＳＥＬのゲートは駆動信号線に接続されている。

転送トランジスタＴＲは、転送トランジスタＴＲがオン状態となると、フォトダイオードＰＤの電荷をフローティングディフュージョンＦＤに転送する。転送トランジスタＴＲのゲートは、例えば、いわゆる縦型電極を含んでおり、フォトダイオードＰＤが設けられた半導体層の表面からフォトダイオードＰＤに達する深さまで延在している。

リセットトランジスタＲＳＴは、フローティングディフュージョンＦＤの電位を所定の電位にリセットする。リセットトランジスタＲＳＴがオン状態となると、フローティングディフュージョンＦＤの電位を電源線ＶＤＤの電位にリセットする。

選択トランジスタＳＥＬは、画素回路３２０からの画素信号の出力タイミングを制御する。増幅トランジスタＡＭＰは、画素信号として、フローティングディフュージョンＦＤに保持された電荷のレベルに応じた電圧の信号を生成する。増幅トランジスタＡＭＰは、選択トランジスタＳＥＬを介して垂直信号線ＶＳＬに接続されている。この増幅トランジスタＡＭＰは、垂直信号線ＶＳＬに接続された負荷回路部とともにソースフォロアを構成している。増幅トランジスタＡＭＰは、選択トランジスタＳＥＬがオン状態となると、フローティングディフュージョンＦＤの電圧に応じた電圧値の画素信号を垂直信号線ＶＳＬに出現させる。

リセットトランジスタＲＳＴ、増幅トランジスタＡＭＰおよび選択トランジスタＳＥＬは、例えば、Ｎ型のＣＭＯＳトランジスタであってよい。

選択トランジスタＳＥＬは、電源線ＶＤＤと増幅トランジスタＡＭＰとの間に設けられていてもよい。この場合、リセットトランジスタＲＳＴのドレインが電源線ＶＤＤおよび選択トランジスタＳＥＬのドレインに電気的に接続されている。選択トランジスタＳＥＬのソースが増幅トランジスタＡＭＰのドレインに電気的に接続されている。

増幅トランジスタＡＭＰのソース（画素回路３２０の出力端）が垂直信号線ＶＳＬに電気的に接続されており、増幅トランジスタＡＭＰのゲートがリセットトランジスタＲＳＴのソースに電気的に接続されている。なお、図示は省略するが、１の画素回路３２０を共有する画素の数は、４つ以外であってもよい。例えば、２つまたは８つの画素が１の画素回路３２０を共有してもよい。

［５−４−２．画素配列例］
図１７は、本実施形態に係る画素の配列例を示す平面レイアウト図である。なお、本説明では、赤色の波長成分を受光して画素信号を生成する単位画素３１０Ｒと、緑色の波長成分を受光して画素信号を生成する単位画素３１０Ｇ１及び３１０Ｇ２と、青色の波長成分を受光して画素信号を生成する単位画素３１０Ｂとがベイヤ配列に従って配列されている場合を例示するが、単位画素それぞれが受光する波長成分及びその配列は、これに限定されず、種々変形することが可能である。

図１７に示すように、単位画素３１０Ｂ、３１０Ｇ１、３１０Ｇ２及び３１０Ｒそれぞれは、例えば、４つの画素３１１〜３１４が２×２画素で配列するようにレイアウトされている。各単位画素３１０Ｂ，３１０Ｇ１，３１０Ｇ２，３１０Ｂの各画素３１１〜３１４における転送トランジスタＴＲ１〜ＴＲ４は、フォトダイオードＰＤ１〜ＰＤ４それぞれの角部が向かい合う部分に配置されている。

ただし、このような構成に限定されず、例えば、ベイヤ配列の１つの単位パターン内で単位画素３１０Ｂ、３１０Ｇ１、３１０Ｇ２及び３１０Ｒそれぞれの画素３１１〜３１４の位置を入れ替えるなど、種々変形されてよい。

［５−４−３．タイミングチャート例（高解像度）］
図１８は、高解像度で画像データを読み出す際のタイミングチャートを示す図である。図１８に示すように、高解像度で画像データを読み出す場合、各フォトダイオードＰＤ１〜ＰＤ４の電荷が時分割でフローティングディフュージョンＦＤへ転送される。

具体的には、タイミングＴ０〜Ｔ１の期間、リセットトランジスタＲＳＴ及び転送トランジスタＴＲ１〜ＴＲ４がオン状態とされることで、フォトダイオードＰＤ１からＰＤ４及びフローティングディフュージョンＦＤに蓄積されている電荷がリセットトランジスタＲＳＴを介して排出される。これにより、これまでフォトダイオードＰＤ１〜ＰＤ４に蓄積されていた電荷が掃き出され、タイミングＴ１〜Ｔ４の期間においては、新たに入射した光を光電変換することで得られた電荷がフォトダイオードＰＤ１〜ＰＤ４に蓄積される。

次に、タイミングＴ２の直前に、選択トランジスタＳＥＬがオン状態とされる。これにより、読出し対象の単位画素３００が選択された状態となる。

次に、タイミングＴ２〜Ｔ３の期間、リセットトランジスタＲＳＴがオン状態とされる。これにより、フローティングディフュージョンＦＤに蓄積されていた電荷が排出され、垂直信号線ＶＳＬに出現する電圧レベルが初期化（リセット）される。この状態の垂直信号線ＶＳＬの電圧レベルをリセットレベルと称する。このリセットレベルは、ＡＤ（Analog-to-Digital）変換されて、リセットレベルの画素信号として読み出される。

タイミングＴ５においてリセットトランジスタＲＳＴがオフ状態となると、フローティングディフュージョンＦＤが電源ＶＤＤから電気的に切断され、浮遊状態になる。

次に、タイミングＴ４〜Ｔ５の期間、画素３１１の転送トランジスタＴＲ１をオン状態とすると、フォトダイオードＰＤ１のカソードに蓄積されていた電荷が転送トランジスタＴＲ１を介してフローティングディフュージョンＦＤに転送される。それにより、増幅トランジスタＡＭＰのゲートには、フローティングディフュージョンＦＤに蓄積された電荷に応じた電圧値の電圧が印加され、その結果、垂直信号線ＶＳＬには、フローティングディフュージョンＦＤに蓄積された電荷に応じた電圧レベルが出現する。以下、この状態の垂直信号線ＶＳＬの電圧レベルを信号レベルと称する。この信号レベルは、ＡＤ（Analog-to-Digital）変換されて、信号レベルの画素信号として読み出される。

このようにして読み出されたリセットレベルと信号レベルとの差分をとることで、ノイズを除去するＣＤＳ（Correlated Double Sampling）処理が実行され、これにより、ノイズが除去された画素信号が画素３１１の画素信号として読み出される。

以降、タイミングＴ６〜Ｔ９、Ｔ１０〜Ｔ１３、Ｔ１４〜Ｔ１７の期間それぞれで、タイミングＴ２〜Ｔ５の期間の動作と同様の動作を画素３１２〜３１４に対して順次実行することで、画素３１２〜３１４からノイズが除去された画素信号が読み出される。

［５−４−４．タイミングチャート例（低解像度）］
図１９は、低解像度で画像データを読み出す際のタイミングチャートを示す図である。図１９と図１８とを比較すると分かるように、低解像度で画像データを読み出す場合、例えば、タイミングＴ４〜Ｔ５の期間、画素３１１〜３１４の転送トランジスタＴＲ１〜ＴＲ４が全てオン状態とされる。それにより、フォトダイオードＰＤ１〜ＰＤ４それぞれのカソードに蓄積されていた電荷がフローティングディフュージョンＦＤにまとめて転送される。すなわち、画素３１１〜３１４それぞれのフォトダイオードＰＤ１〜ＰＤ４で発生した電荷がフローティングディフュージョンＦＤにおいて加算される。それにより、タイミングＴ５〜Ｔ６の期間では、画素３１１〜３１４を１つの画素とみなした画素信号が読み出されることとなる。この場合、解像度は、高解像度（図１８参照）の場合の１／４倍となる。

［５−５．画素アレイ部からのＲＯＩ画像の直接読出し制御例］
つづいて、ＲＯＩの画像データの抽出を撮像部１１内で実現する場合の制御例について、図面を参照して詳細に説明する。

図２０は、本実施形態に係るイメージセンサの概略構成例を示すブロック図である。図２０に示すように、イメージセンサ１０は、画素アレイ部１０１と、周辺回路とを備える。周辺回路には、例えば、垂直駆動回路４０２、カラム処理回路４０３、水平駆動回路４０４、システム制御部４０５及び出力回路４０６が含まれ得る。垂直駆動回路４０２、水平駆動回路４０４及びシステム制御部４０５は、例えば、コントロール部１２に含まれる構成であってよい。

画素アレイ部１０１は、単位画素３００が行方向及び列方向に、すなわち、行列状に２次元格子状に配置された構成を有する。ここで、行方向とは画素行の画素の配列方向（図面中、横方向）をいい、列方向とは画素列の画素の配列方向（図面中、縦方向）をいう。

画素アレイ部１０１では、行列状の画素配列に対し、画素行ごとに画素駆動線ＬＤが行方向に沿って配線され、画素列ごとに垂直信号線ＶＳＬが列方向に沿って配線されている。画素駆動線ＬＤは、画素から信号を読み出す際の駆動を行うための駆動信号を伝送する。図２０では、画素駆動線ＬＤが１本ずつの配線として示されているが、１本ずつに限られるものではない。画素駆動線ＬＤの一端は、垂直駆動回路４０２の各行に対応した出力端に接続されている。

垂直駆動回路４０２は、シフトレジスタやアドレスデコーダなどによって構成され、画素アレイ部１０１の各画素を全画素同時あるいは行単位等で駆動する。すなわち、垂直駆動回路４０２は、当該垂直駆動回路４０２を制御するシステム制御部４０５と共に、画素アレイ部１０１の各画素の動作を制御する駆動部を構成している。

垂直駆動回路４０２によって選択走査された画素行の各単位画素から出力される信号は、画素列ごとに垂直信号線ＶＳＬの各々を通してカラム処理回路４０３に入力される。カラム処理回路４０３は、画素アレイ部１０１の画素列ごとに、選択行の各画素から垂直信号線ＶＳＬを通して出力される信号に対して所定の信号処理を行うとともに、信号処理後の画素信号を一時的に保持する。

具体的には、カラム処理回路４０３は、信号処理として少なくとも、ノイズ除去処理、例えば、ＣＤＳ処理等を行う。例えば、ＣＤＳ処理により、リセットノイズや画素内の増幅トランジスタの閾値ばらつき等の画素固有の固定パターンノイズが除去される。カラム処理回路４０３は、その他にも、例えば、ＡＤ（アナログ−デジタル）変換機能を備え、光電変換素子から読み出され得たアナログの画素信号をデジタル信号に変換して出力する。

水平駆動回路４０４は、シフトレジスタやアドレスデコーダなどによって構成され、カラム処理回路４０３の画素列に対応する画素回路３２０を順番に選択する。この水平駆動回路４０４による選択走査により、カラム処理回路４０３において画素回路３２０ごとに信号処理された画素信号が順番に出力される。

システム制御部４０５は、各種のタイミング信号を生成するタイミングジェネレータなどによって構成され、当該タイミングジェネレータで生成された各種のタイミングを基に、垂直駆動回路４０２、カラム処理回路４０３、及び、水平駆動回路４０４などの駆動制御を行う。システム制御部４０５は、図９におけるコントロール部１２と同一であっても良い。

出力回路４０６は、カラム処理回路４０３から出力された画素信号を１フレームの画像データとして出力する。

以上のような構成において、ＲＯＩの画像データの抽出を撮像部１１内で実現する場合、このＲＯＩに対応する領域Ｒのみに対して、画素信号の読出し動作が実行される。このような部分的な読出し動作は、例えば、垂直駆動回路４０２におけるＲＯＩに対応する一部の画素駆動線ＬＤのみアクティブ（オン）にするとともに、カラム処理回路４０３におけるＲＯＩに対応する一部のＡＤＣのみを動作（オン）させることで、実現することができる。

［５−６．作用・効果］
以上のように、本実施形態によれば、上述した実施形態に係る撮像装置１が車載カメラとして車両に搭載される。それにより、シーンに応じて最適な読出し制御により必要な画像データを読み出すことが可能となる。その結果、シーンに応じた適切な車両制御信号を生成することが可能となるため、より適切な車両制御を実現することが可能となる。

また、シーンに応じて必要な領域の画像データを出力する構成とすることで、処理すべきデータ量を削減することが可能となるため、その後の物体検出処理や車両制御信号生成処理等を高速化することも可能となる。さらに、シーン認識部がイメージセンサ１０内に配置されることで、撮像部の制御を遅延なく実行することが可能となる。

その他の構成、動作及び効果は、上述した実施形態と同様であってよいため、ここでは詳細な説明を省略する。

（６．イメージセンサのチップ構成）
次に、図１に示すイメージセンサ１０のチップ構成の例について、以下に図面を参照して詳細に説明する。

図２１は、本実施形態に係るイメージセンサのチップ構成例を示す模式図である。図２１に示すように、イメージセンサ１０は、四角形の平板状の第１基板（ダイ）１００と、同じく四角形の平板状の第２基板（ダイ）１２０とが貼り合わされた積層構造を有している。

第１基板１００と第２基板とのサイズは、例えば、同じであってよい。また、第１基板１００と第２基板１２０とは、それぞれシリコン基板などの半導体基板であってよい。

第１基板１００には、図１に示すイメージセンサ１０の構成において、撮像部１１の画素アレイ部１０１が配置される。また、第１基板１００には、光学系１０４の一部又は全部がオンチップで設けられていてもよい。

第２基板１２０には、図１に示すイメージセンサ１０の構成において、ＡＤＣ１７と、コントロール部１２と、信号処理部１３と、ＤＳＰ１４と、メモリ１５と、セレクタ１６とが配置されている。なお、第２基板１２０には、不図示のインタフェース回路やドライバ回路などが配置されていてもよい。

第１基板１００と第２基板１２０との貼り合わせは、第１基板１００及び第２基板１２０をそれぞれチップに個片化した後、これら個片化された第１基板１００及び第２基板１２０を貼り合わせる、いわゆるＣｏＣ（Chip on Chip）方式であってもよいし、第１基板１００と第２基板１２０とのうち一方（例えば、第１基板１００）をチップに個片化した後、この個片化された第１基板１００を個片化前（すなわち、ウエハ状態）の第２基板１２０に貼り合わせる、いわゆるＣｏＷ（Chip on Wafer）方式であってもよいし、第１基板１００と第２基板１２０とを共にウエハの状態で貼り合わせる、いわゆるＷｏＷ（Wafer on Wafer）方式であってもよい。

第１基板１００と第２基板１２０との接合方法には、例えば、プラズマ接合等を使用することができる。ただし、これに限定されず、種々の接合方法が用いられてよい。

（７．レイアウト例）
図２２及び図２３は、本実施形態に係るレイアウト例を説明するための図である。なお、図２２は、第１基板１００のレイアウト例を示し、図２３は、第２基板１２０のレイアウト例を示す。

［７−１．第１基板のレイアウト例］
図２２に示すように、第１基板１００には、図１に示すイメージセンサ１０の構成において、撮像部１１の画素アレイ部１０１が配置されている。なお、第１基板１００に光学系１０４の一部又は全部を搭載する場合には、画素アレイ部１０１と対応する位置に設けられる。

画素アレイ部１０１は、第１基板１００の４つの辺Ｌ１０１〜Ｌ１０４のうち、１つの辺Ｌ１０１側に片寄って配置される。言い換えれば、画素アレイ部１０１は、その中心部Ｏ１０１が第１基板１００の中心部Ｏ１００よりも辺Ｌ１０１に近接するように、配置されている。なお、第１基板１００における画素アレイ部１０１が設けられた面が長方形である場合、辺Ｌ１０１は、例えば、短い方の辺であってもよい。ただし、これに限定されず、長い方の辺に、画素アレイ部１０１が片寄って配置されてもよい。

画素アレイ部１０１の４つの辺のうちの辺Ｌ１０１に近接する領域、言い換えれば、辺Ｌ１０１と画素アレイ部１０１との間の領域には、画素アレイ部１０１中の各単位画素１０１ａを第２基板１２０に配置されたＡＤＣ１７に電気的に接続させるための配線として、第１基板１００を貫通する複数の貫通配線（Through Silicon Via：以下、ＴＳＶという）が配列するＴＳＶアレイ１０２が設けられている。このように、ＴＳＶアレイ１０２を画素アレイ部１０１が近接する辺Ｌ１０１に近接させることで、第２基板１２０において、ＡＤＣ１７等の各部を配置スペースを確保し易くすることができる。

なお、ＴＳＶアレイ１０２は、辺Ｌ１０１と交わる２つの辺Ｌ１０３及びＬ１０４のうち一方の辺Ｌ１０４（ただし、辺Ｌ１０３であってもい）に近接する領域、言い換えれば、辺Ｌ１０４（又は、辺Ｌ１０３）と画素アレイ部１０１との間の領域にも設けられていてよい。

第１基板１００の４つの辺Ｌ１０１〜Ｌ１０４のうち、画素アレイ部１０１が片寄って配置されていない辺Ｌ１０２〜Ｌ１０３それぞれには、直線状に配列された複数のパッドよりなるパッドアレイ１０３が設けられている。パッドアレイ１０３に含まれるパッドには、例えば、画素アレイ部１０１やＡＤＣ１７などのアナログ回路用の電源電圧が印加されるパッド（電源ピンともいう）や、信号処理部１３やＤＳＰ１４やメモリ１５やセレクタ１６やコントロール部１２等のデジタル回路用の電源電圧が印加されるパッド（電源ピンともいう）や、ＭＩＰＩ（Mobile Industry Processor Interface）やＳＰＩ（Serial Peripheral Interface）などのインタフェース用のパッド（信号ピンともいう）や、クロックやデータの入出力のためのパッド（信号ピンともいう）などが含まれている。各パッドは、例えば、外部の電源回路やインタフェース回路とワイヤを介して電気的に接続される。各パッドアレイ１０３とＴＳＶアレイ１０２とは、パッドアレイ１０３中の各パッドに接続されたワイヤからの信号の反射の影響を無視できる程度に十分に離れていることが好ましい。

［７−２．第２基板のレイアウト例］
一方、図２３に示すように、第２基板１２０には、図１に示すイメージセンサ１０の構成において、ＡＤＣ１７と、コントロール部１２と、信号処理部１３と、ＤＳＰ１４と、メモリ１５とが配置されている。なお、第１のレイアウト例では、メモリ１５がメモリ１５Ａとメモリ１５Ｂとの２つの領域に分かれている。同様に、ＡＤＣ１７がＡＤＣ１７ＡとＤＡＣ（Digital−to−Analog Converter）１７Ｂとの２つの領域に分かれている。ＤＡＣ１７Ｂは、ＡＤＣ１７ＡへＡＤ変換用の参照電圧を供給する構成であり、広い意味でＡＤＣ１７の一部に含まれる構成である。また、図２２には図示されていないが、セレクタ１６も第２基板１２０に配置されている。

さらに、第２基板１２０には、第１基板１００を貫通するＴＳＶアレイ１０２中の各ＴＳＶ（以下、単にＴＳＶアレイ１０２とする）と接触することで電気的に接続された配線１２２と、第１基板１００のパッドアレイ１０３における各パッドと電気的に接続される複数のパッドが直線状に配列されてなるパッドアレイ１２３とが設けられている。

ＴＳＶアレイ１０２と配線１２２との接続には、例えば、第１基板１００に設けられたＴＳＶと第１基板１００から第２基板１２０にかけて設けられたＴＳＶとの２つのＴＳＶをチップ外表で接続する、いわゆるツインＴＳＶ方式や、第１基板１００から第２基板１２０にかけて設けられた共通のＴＳＶで接続する、いわゆるシェアードＴＳＶ方式などを採用することができる。ただし、これらに限定されず、例えば、第１基板１００の接合面と第２基板１２０の接合面とにそれぞれ露出させた銅（Ｃｕ）同士を接合する、いわゆるＣｕ−Ｃｕボンディング方式など、種々の接続形態を採用することが可能である。

第１基板１００のパッドアレイ１０３における各パッドと、第２基板１２０のパッドアレイ１２３における各パッドとの接続形態は、例えば、ワイヤボンディングである。ただし、これに限定されず、スルーホールやキャスタレーション等の接続形態であってもよい。

第２基板１２０のレイアウト例では、例えば、ＴＳＶアレイ１０２と接続される配線１２２の近傍を上流側とし、画素アレイ部１０１から読み出された信号の流れに沿って、上流から順に、ＡＤＣ１７Ａと、信号処理部１３と、ＤＳＰ１４とが配置されている。すなわち、画素アレイ部１０１から読み出された画素信号が最初に入力されるＡＤＣ１７Ａが最も上流側である配線１２２の近傍に配置され、次いで、信号処理部１３が配置され、配線１２２から最も遠い領域にＤＳＰ１４が配置されている。このように、ＡＤＣ１７からＤＳＰ１４までを信号の流れに沿って上流側から配置したレイアウトとすることで、各部を接続する配線を短縮することが可能となる。それにより、信号遅延の低減や信号の伝搬損失の低減やＳ／Ｎ比の向上や消費電力の低減が可能となる。

また、コントロール部１２は、例えば、上流側である配線１２２の近傍に配置される。図２２では、ＡＤＣ１７Ａと信号処理部１３との間にコントロール部１２が配置されている。このようなレイアウトとすることで、コントロール部１２が画素アレイ部１０１を制御する際の信号遅延の低減や信号の伝搬損失の低減やＳ／Ｎ比の向上や消費電力の低減が可能となる。また、アナログ回路用の信号ピンや電源ピンをアナログ回路の近傍（例えば、図２２中の下側）にまとめて配置し、残りのデジタル回路用の信号ピンや電源ピンをデジタル回路の近傍（例えば、図２２中の上側）にまとめて配置したり、アナログ回路用の電源ピンとデジタル回路用の電源ピンとを十分に離して配置したりなどが可能となるというメリットも存在する。

また、図２２に示すレイアウトでは、ＤＳＰ１４が最も下流側であるＡＤＣ１７Ａとは反対側に配置されている。このようなレイアウトとすることで、言い換えれば、第１基板１００と第２基板１２０との積層方向（以下、単に上下方向という）において、画素アレイ部１０１と重畳しない領域に、ＤＳＰ１４を配置することが可能となる。

このように、上下方向において画素アレイ部１０１とＤＳＰ１４とが重畳しない構成とすることで、ＤＳＰ１４が信号処理を実行することで発生したノイズが画素アレイ部１０１に入り込むことを低減することが可能となる。その結果、ＤＳＰ１４を学習済みモデルに基づいた演算を実行する処理部として動作させた場合でも、画素アレイ部１０１へのＤＳＰ１４の信号処理に起因したノイズの入り込みを低減することが可能となるため、品質の劣化が低減された画像を取得することが可能となる。

なお、ＤＳＰ１４と信号処理部１３とは、ＤＳＰ１４の一部又は信号線で構成された接続部１４ａによって接続される。また、セレクタ１６は、例えば、ＤＳＰ１４の近傍に配置される。接続部１４ａをＤＳＰ１４の一部とした場合、上下方向において一部のＤＳＰ１４が画素アレイ部１０１と重なることとなるが、このような場合でも、全てのＤＳＰ１４が上下方向において画素アレイ部１０１と重畳する場合と比較して、画素アレイ部１０１へのノイズの入り込みを低減することが可能である。

メモリ１５Ａ及び１５Ｂは、例えば、ＤＳＰ１４を３方向から囲むように配置される。このように、ＤＳＰ１４を囲むようにメモリ１５Ａ及び１５Ｂを配置することで、メモリ１５における各メモリ素子とＤＳＰ１４との配線上の距離を平均化しつつ全体的に短くすることが可能となる。それにより、ＤＳＰ１４がメモリ１５へアクセスする際の信号遅延や信号の伝搬損失や消費電力を低減することが可能となる。

パッドアレイ１２３は、例えば、第１基板１００のパッドアレイ１０３と上下方向において対応する第２基板１２０上の位置に配置される。ここで、パッドアレイ１２３に含まれるパッドのうち、ＡＤＣ１７Ａの近傍に位置するパッドは、アナログ回路（主にＡＤＣ１７Ａ）用の電源電圧やアナログ信号の伝搬に使用される。一方、コントロール部１２や信号処理部１３やＤＳＰ１４やメモリ１５Ａ及び１５Ｂの近傍に位置するパッドは、デジタル回路（主に、コントロール部１２、信号処理部１３、ＤＳＰ１４、メモリ１５Ａ及び１５Ｂ）用の電源電圧やデジタル信号の伝搬に使用される。このようなパッドレイアウトとすることで、各パッドと各部とを接続する配線上の距離を短くすることが可能となる。それにより、信号遅延の低減や信号や電源電圧の伝搬損失の低減やＳ／Ｎ比の向上や消費電力の低減が可能となる。

（８．その他の実施形態）
上述した各実施形態に係る処理は、上記各実施形態以外にも種々の異なる形態にて実施されてよい。

例えば、加工処理は、上記実施形態で説明した以外にも、学習モデルに学習させた内容に応じた様々な処理を実行することができる。例えば、顔全体を抽出するだけでなく、顔の輪郭を抽出したり、目や鼻などの一部分だけを抽出したり、撮像装置１の所有者や特定の人物などを抽出したり、家の画像から表札や窓などの一部分を抽出したりすることもできる。また、室内の画像データに写り込む室外部分を抽出したり、人物と動物とを区別して抽出したり、画像データから窓の部分を抽出したりすることもできる。また、加工処理の一例には、顔などの抽出された特定領域だけを読み出したり、特定領域だけを読み出さなかったり、特定領域を黒く塗りつぶしたり、特定領域だけを切り抜いた画像を読み出したりする処理も含まれる。また、矩形領域に限らず、三角形などの任意の領域を抽出することもできる。また、マスキング処理やモザイク処理などの加工処理は、１つの処理に限らず、複数の処理を組み合わせることもできる。また、顔位置などの抽出は、ＤＳＰ１４に限らず、信号処理部１３で実行することもできる。

上記実施形態では、ＤＮＮで学習した学習モデルを例示したが、ＤＮＮ以外にも、ＲＮＮ（Recurrent Neural Networks）やＣＮＮ（Convolutional Neural Network）など様々なニューラルネットワークを用いることができる。また、ＤＮＮなどを用いた学習モデルに限らず、決定木やサポートベクタマシンなどの他の様々な機械学習で学習した学習モデルを用いることもできる。

上記文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。また、実施例で説明した具体例、分布、数値などは、あくまで一例であり、任意に変更することができる。

また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。例えば、図１に示したコントロール部１２と信号処理部１３は統合されてもよい。

（９．移動体への応用例）
本開示に係る技術（本技術）は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。

図２４は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。

車両制御システム１２０００は、通信ネットワーク１２００１を介して接続された複数の電子制御ユニットを備える。図２４に示した例では、車両制御システム１２０００は、駆動系制御ユニット１２０１０、ボディ系制御ユニット１２０２０、車外情報検出ユニット１２０３０、車内情報検出ユニット１２０４０、及び統合制御ユニット１２０５０を備える。また、統合制御ユニット１２０５０の機能構成として、マイクロコンピュータ１２０５１、音声画像出力部１２０５２、及び車載ネットワークＩ／Ｆ（Interface）１２０５３が図示されている。

駆動系制御ユニット１２０１０は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット１２０１０は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。

ボディ系制御ユニット１２０２０は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット１２０２０は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット１２０２０には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット１２０２０は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。

車外情報検出ユニット１２０３０は、車両制御システム１２０００を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット１２０３０には、撮像部１２０３１が接続される。車外情報検出ユニット１２０３０は、撮像部１２０３１に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット１２０３０は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。

撮像部１２０３１は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部１２０３１は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部１２０３１が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。

車内情報検出ユニット１２０４０は、車内の情報を検出する。車内情報検出ユニット１２０４０には、例えば、運転者の状態を検出する運転者状態検出部１２０４１が接続される。運転者状態検出部１２０４１は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット１２０４０は、運転者状態検出部１２０４１から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。

マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０又は車内情報検出ユニット１２０４０で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット１２０１０に対して制御指令を出力することができる。例えば、マイクロコンピュータ１２０５１は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むＡＤＡＳ（Advanced Driver Assistance System）の機能実現を目的とした協調制御を行うことができる。

また、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０又は車内情報検出ユニット１２０４０で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。

また、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０で取得される車外の情報に基づいて、ボディ系制御ユニット１２０２０に対して制御指令を出力することができる。例えば、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。

音声画像出力部１２０５２は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図２４の例では、出力装置として、オーディオスピーカ１２０６１、表示部１２０６２及びインストルメントパネル１２０６３が例示されている。表示部１２０６２は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。

図２５は、撮像部１２０３１の設置位置の例を示す図である。

図２５では、撮像部１２０３１として、撮像部１２１０１、１２１０２、１２１０３、１２１０４、１２１０５を有する。

撮像部１２１０１、１２１０２、１２１０３、１２１０４、１２１０５は、例えば、車両１２１００のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部１２１０１及び車室内のフロントガラスの上部に備えられる撮像部１２１０５は、主として車両１２１００の前方の画像を取得する。サイドミラーに備えられる撮像部１２１０２、１２１０３は、主として車両１２１００の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部１２１０４は、主として車両１２１００の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部１２１０５は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。

なお、図２５には、撮像部１２１０１ないし１２１０４の撮影範囲の一例が示されている。撮像範囲１２１１１は、フロントノーズに設けられた撮像部１２１０１の撮像範囲を示し、撮像範囲１２１１２，１２１１３は、それぞれサイドミラーに設けられた撮像部１２１０２，１２１０３の撮像範囲を示し、撮像範囲１２１１４は、リアバンパ又はバックドアに設けられた撮像部１２１０４の撮像範囲を示す。例えば、撮像部１２１０１ないし１２１０４で撮像された画像データが重ね合わせられることにより、車両１２１００を上方から見た俯瞰画像が得られる。

撮像部１２１０１ないし１２１０４の少なくとも１つは、距離情報を取得する機能を有していてもよい。例えば、撮像部１２１０１ないし１２１０４の少なくとも１つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。

例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４から得られた距離情報を基に、撮像範囲１２１１１ないし１２１１４内における各立体物までの距離と、この距離の時間的変化（車両１２１００に対する相対速度）を求めることにより、特に車両１２１００の進行路上にある最も近い立体物で、車両１２１００と略同じ方向に所定の速度（例えば、０km/h以上）で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ１２０５１は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御（追従停止制御も含む）や自動加速制御（追従発進制御も含む）等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。

例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４から得られた距離情報を元に、立体物に関する立体物データを、２輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ１２０５１は、車両１２１００の周辺の障害物を、車両１２１００のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ１２０５１は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ１２０６１や表示部１２０６２を介してドライバに警報を出力することや、駆動系制御ユニット１２０１０を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。

撮像部１２１０１ないし１２１０４の少なくとも１つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部１２１０１ないし１２１０４の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ１２０５１が、撮像部１２１０１ないし１２１０４の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部１２０５２は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部１２０６２を制御する。また、音声画像出力部１２０５２は、歩行者を示すアイコン等を所望の位置に表示するように表示部１２０６２を制御してもよい。

以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、撮像部１２０３１等に適用され得る。撮像部１２０３１等に本開示に係る技術を適用することにより、撮像部１２０３１等を小型化することが可能となるため、車両１２１００のインテリアやエクステリアの設計が容易となる。また、撮像部１２０３１等に本開示に係る技術を適用することにより、ノイズの低減されたクリアな画像を取得することが可能となるため、より見やすい撮影画像をドライバに提供することができる。それにより、ドライバの疲労を軽減することが可能になる。

（１０．内視鏡手術システムへの応用例）
本開示に係る技術（本技術）は、様々な製品へ応用することができる。例えば、本開示に係る技術は、内視鏡手術システムに適用されてもよい。

図２６は、本開示に係る技術（本技術）が適用され得る内視鏡手術システムの概略的な構成の一例を示す図である。

図２６では、術者（医師）１１１３１が、内視鏡手術システム１１０００を用いて、患者ベッド１１１３３上の患者１１１３２に手術を行っている様子が図示されている。図示するように、内視鏡手術システム１１０００は、内視鏡１１１００と、気腹チューブ１１１１１やエネルギー処置具１１１１２等の、その他の術具１１１１０と、内視鏡１１１００を支持する支持アーム装置１１１２０と、内視鏡下手術のための各種の装置が搭載されたカート１１２００と、から構成される。

内視鏡１１１００は、先端から所定の長さの領域が患者１１１３２の体腔内に挿入される鏡筒１１１０１と、鏡筒１１１０１の基端に接続されるカメラヘッド１１１０２と、から構成される。図示する例では、硬性の鏡筒１１１０１を有するいわゆる硬性鏡として構成される内視鏡１１１００を図示しているが、内視鏡１１１００は、軟性の鏡筒を有するいわゆる軟性鏡として構成されてもよい。

鏡筒１１１０１の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡１１１００には光源装置１１２０３が接続されており、当該光源装置１１２０３によって生成された光が、鏡筒１１１０１の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者１１１３２の体腔内の観察対象に向かって照射される。なお、内視鏡１１１００は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。

カメラヘッド１１１０２の内部には光学系及び撮像素子が設けられており、観察対象からの反射光（観察光）は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、ＲＡＷデータとしてカメラコントロールユニット（ＣＣＵ: Camera Control Unit）１１２０１に送信される。

ＣＣＵ１１２０１は、ＣＰＵ（Central Processing Unit）やＧＰＵ（Graphics Processing Unit）等によって構成され、内視鏡１１１００及び表示装置１１２０２の動作を統括的に制御する。さらに、ＣＣＵ１１２０１は、カメラヘッド１１１０２から画像信号を受け取り、その画像信号に対して、例えば現像処理（デモザイク処理）等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。

表示装置１１２０２は、ＣＣＵ１１２０１からの制御により、当該ＣＣＵ１１２０１によって画像処理が施された画像信号に基づく画像を表示する。

光源装置１１２０３は、例えばＬＥＤ（light emitting diode）等の光源から構成され、術部等を撮影する際の照射光を内視鏡１１１００に供給する。

入力装置１１２０４は、内視鏡手術システム１１０００に対する入力インタフェースである。ユーザは、入力装置１１２０４を介して、内視鏡手術システム１１０００に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、内視鏡１１１００による撮像条件（照射光の種類、倍率及び焦点距離等）を変更する旨の指示等を入力する。

処置具制御装置１１２０５は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具１１１１２の駆動を制御する。気腹装置１１２０６は、内視鏡１１１００による視野の確保及び術者の作業空間の確保の目的で、患者１１１３２の体腔を膨らめるために、気腹チューブ１１１１１を介して当該体腔内にガスを送り込む。レコーダ１１２０７は、手術に関する各種の情報を記録可能な装置である。プリンタ１１２０８は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。

なお、内視鏡１１１００に術部を撮影する際の照射光を供給する光源装置１１２０３は、例えばＬＥＤ、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成することができる。ＲＧＢレーザ光源の組み合わせにより白色光源が構成される場合には、各色（各波長）の出力強度及び出力タイミングを高精度に制御することができるため、光源装置１１２０３において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、ＲＧＢレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド１１１０２の撮像素子の駆動を制御することにより、ＲＧＢそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。

また、光源装置１１２０３は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド１１１０２の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。

また、光源装置１１２０３は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光（すなわち、白色光）に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察（Narrow Band Imaging）が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察すること（自家蛍光観察）、又はインドシアニングリーン（ICG）等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得ること等を行うことができる。光源装置１１２０３は、このような特殊光観察に対応した狭帯域光及び／又は励起光を供給可能に構成され得る。

図２７は、図２６に示すカメラヘッド１１１０２及びＣＣＵ１１２０１の機能構成の一例を示すブロック図である。

カメラヘッド１１１０２は、レンズユニット１１４０１と、撮像部１１４０２と、駆動部１１４０３と、通信部１１４０４と、カメラヘッド制御部１１４０５と、を有する。ＣＣＵ１１２０１は、通信部１１４１１と、画像処理部１１４１２と、制御部１１４１３と、を有する。カメラヘッド１１１０２とＣＣＵ１１２０１とは、伝送ケーブル１１４００によって互いに通信可能に接続されている。

レンズユニット１１４０１は、鏡筒１１１０１との接続部に設けられる光学系である。鏡筒１１１０１の先端から取り込まれた観察光は、カメラヘッド１１１０２まで導光され、当該レンズユニット１１４０１に入射する。レンズユニット１１４０１は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。

撮像部１１４０２を構成する撮像素子は、１つ（いわゆる単板式）であってもよいし、複数（いわゆる多板式）であってもよい。撮像部１１４０２が多板式で構成される場合には、例えば各撮像素子によってＲＧＢそれぞれに対応する画像信号が生成され、それらが合成されることによりカラー画像が得られてもよい。あるいは、撮像部１１４０２は、３Ｄ（dimensional）表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための１対の撮像素子を有するように構成されてもよい。３Ｄ表示が行われることにより、術者１１１３１は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部１１４０２が多板式で構成される場合には、各撮像素子に対応して、レンズユニット１１４０１も複数系統設けられ得る。

また、撮像部１１４０２は、必ずしもカメラヘッド１１１０２に設けられなくてもよい。例えば、撮像部１１４０２は、鏡筒１１１０１の内部に、対物レンズの直後に設けられてもよい。

駆動部１１４０３は、アクチュエータによって構成され、カメラヘッド制御部１１４０５からの制御により、レンズユニット１１４０１のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部１１４０２による撮像画像の倍率及び焦点が適宜調整され得る。

通信部１１４０４は、ＣＣＵ１１２０１との間で各種の情報を送受信するための通信装置によって構成される。通信部１１４０４は、撮像部１１４０２から得た画像信号をＲＡＷデータとして伝送ケーブル１１４００を介してＣＣＵ１１２０１に送信する。

また、通信部１１４０４は、ＣＣＵ１１２０１から、カメラヘッド１１１０２の駆動を制御するための制御信号を受信し、カメラヘッド制御部１１４０５に供給する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに／又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。

なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、ユーザによって適宜指定されてもよいし、取得された画像信号に基づいてＣＣＵ１１２０１の制御部１１４１３によって自動的に設定されてもよい。後者の場合には、いわゆるＡＥ（Auto Exposure）機能、ＡＦ（Auto Focus）機能及びＡＷＢ（Auto White Balance）機能が内視鏡１１１００に搭載されていることになる。

カメラヘッド制御部１１４０５は、通信部１１４０４を介して受信したＣＣＵ１１２０１からの制御信号に基づいて、カメラヘッド１１１０２の駆動を制御する。

通信部１１４１１は、カメラヘッド１１１０２との間で各種の情報を送受信するための通信装置によって構成される。通信部１１４１１は、カメラヘッド１１１０２から、伝送ケーブル１１４００を介して送信される画像信号を受信する。

また、通信部１１４１１は、カメラヘッド１１１０２に対して、カメラヘッド１１１０２の駆動を制御するための制御信号を送信する。画像信号や制御信号は、電気通信や光通信等によって送信することができる。

画像処理部１１４１２は、カメラヘッド１１１０２から送信されたＲＡＷデータである画像信号に対して各種の画像処理を施す。

制御部１１４１３は、内視鏡１１１００による術部等の撮像、及び、術部等の撮像により得られる撮像画像の表示に関する各種の制御を行う。例えば、制御部１１４１３は、カメラヘッド１１１０２の駆動を制御するための制御信号を生成する。

また、制御部１１４１３は、画像処理部１１４１２によって画像処理が施された画像信号に基づいて、術部等が映った撮像画像を表示装置１１２０２に表示させる。この際、制御部１１４１３は、各種の画像認識技術を用いて撮像画像内における各種の物体を認識してもよい。例えば、制御部１１４１３は、撮像画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具１１１１２の使用時のミスト等を認識することができる。制御部１１４１３は、表示装置１１２０２に撮像画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させてもよい。手術支援情報が重畳表示され、術者１１１３１に提示されることにより、術者１１１３１の負担を軽減することや、術者１１１３１が確実に手術を進めることが可能になる。

カメラヘッド１１１０２及びＣＣＵ１１２０１を接続する伝送ケーブル１１４００は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。

ここで、図示する例では、伝送ケーブル１１４００を用いて有線で通信が行われていたが、カメラヘッド１１１０２とＣＣＵ１１２０１との間の通信は無線で行われてもよい。

以上、本開示に係る技術が適用され得る内視鏡手術システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、例えば、カメラヘッド１１１０２の撮像部１１４０２等に適用され得る。カメラヘッド１１１０２に本開示に係る技術を適用することにより、カメラヘッド１１１０２等を小型化することが可能となるため、内視鏡手術システム１１０００をコンパクト化が可能となる。また、カメラヘッド１１１０２等に本開示に係る技術を適用することにより、ノイズの低減されたクリアな画像を取得することが可能となるため、より見やすい撮影画像を術者に提供することができる。それにより、術者の疲労を軽減することが可能になる。

なお、ここでは、一例として内視鏡手術システムについて説明したが、本開示に係る技術は、その他、例えば、顕微鏡手術システム等に適用されてもよい。

（１１．ＷＳＩ（Whole Slide Imaging）システムへの応用例）
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、医師等が患者から採取された細胞や組織を観察して病変を診断する病理診断システムやその支援システム等（以下、診断支援システムと称する）に適用されてもよい。この診断支援システムは、デジタルパソロジー技術を利用して取得された画像に基づいて病変を診断又はその支援をするＷＳＩ（Whole Slide Imaging）システムであってもよい。

図２８は、本開示に係る技術が適用される診断支援システム５５００の概略的な構成の一例を示す図である。図２８に示すように、診断支援システム５５００は、１以上の病理システム５５１０を含む。さらに医療情報システム５５３０と、導出装置５５４０とを含んでもよい。

１以上の病理システム５５１０それぞれは、主に病理医が使用するシステムであり、例えば研究所や病院に導入される。各病理システム５５１０は、互いに異なる病院に導入されてもよく、それぞれＷＡＮ（Wide Area Network）（インターネットを含む）やＬＡＮ（Local Area Network）や公衆回線網や移動体通信網などの種々のネットワークを介して医療情報システム５５３０及び導出装置５５４０に接続される。

各病理システム５５１０は、顕微鏡５５１１と、サーバ５５１２と、表示制御装置５５１３と、表示装置５５１４とを含む。

顕微鏡５５１１は、光学顕微鏡の機能を有し、ガラススライドに収められた観察対象物を撮像し、デジタル画像である病理画像を取得する。観察対象物とは、例えば、患者から採取された組織や細胞であり、臓器の肉片、唾液、血液等であってよい。

サーバ５５１２は、顕微鏡５５１１によって取得された病理画像を図示しない記憶部に記憶、保存する。また、サーバ５５１２は、表示制御装置５５１３から閲覧要求を受け付けた場合に、図示しない記憶部から病理画像を検索し、検索された病理画像を表示制御装置５５１３に送る。

表示制御装置５５１３は、ユーザから受け付けた病理画像の閲覧要求をサーバ５５１２に送る。そして、表示制御装置５５１３は、サーバ５５１２から受け付けた病理画像を、液晶、ＥＬ（Electro‐Luminescence）、ＣＲＴ（Cathode Ray Tube）などを用いた表示装置５５１４に表示させる。なお、表示装置５５１４は、４Ｋや８Ｋに対応していてもよく、また、１台に限られず、複数台であってもよい。

ここで、観察対象物が臓器の肉片等の固形物である場合、この観察対象物は、例えば、染色された薄切片であってよい。薄切片は、例えば、臓器等の検体から切出されたブロック片を薄切りすることで作製されてもよい。また、薄切りの際には、ブロック片がパラフィン等で固定されてもよい。

薄切片の染色には、ＨＥ（Hematoxylin-Eosin）染色などの組織の形態を示す一般染色や、ＩＨＣ（Immunohistochemistry）染色などの組織の免疫状態を示す免疫染色など、種々の染色が適用されてよい。その際、１つの薄切片が複数の異なる試薬を用いて染色されてもよいし、同じブロック片から連続して切り出された２以上の薄切片（隣接する薄切片ともいう）が互いに異なる試薬を用いて染色されてもよい。

顕微鏡５５１１は、低解像度で撮像するための低解像度撮像部と、高解像度で撮像するための高解像度撮像部とを含み得る。低解像度撮像部と高解像度撮像部とは、異なる光学系であってもよいし、同一の光学系であってもよい。同一の光学系である場合には、顕微鏡５５１１は、撮像対象に応じて解像度が変更されてもよい。

観察対象物が収容されたガラススライドは、顕微鏡５５１１の画角内に位置するステージ上に載置される。顕微鏡５５１１は、まず、低解像度撮像部を用いて画角内の全体画像を取得し、取得した全体画像から観察対象物の領域を特定する。続いて、顕微鏡５５１１は、観察対象物が存在する領域を所定サイズの複数の分割領域に分割し、各分割領域を高解像度撮像部により順次撮像することで、各分割領域の高解像度画像を取得する。対象とする分割領域の切替えでは、ステージを移動させてもよいし、撮像光学系を移動させてもよいし、それら両方を移動させてもよい。また、各分割領域は、ガラススライドの意図しない滑りによる撮像漏れ領域の発生等を防止するために、隣接する分割領域との間で重複していてもよい。さらに、全体画像には、全体画像と患者とを対応付けておくための識別情報が含まれていてもよい。この識別情報は、例えば、文字列やＱＲコード（登録商標）等であってよい。

顕微鏡５５１１で取得された高解像度画像は、サーバ５５１２に入力される。サーバ５５１２は、各高解像度画像をより小さいサイズの部分画像（以下、タイル画像と称する）に分割する。例えば、サーバ５５１２は、１つの高解像度画像を縦横１０×１０個の計１００個のタイル画像に分割する。その際、隣接する分割領域が重複していれば、サーバ５５１２は、テンプレートマッチング等の技法を用いて互いに隣り合う高解像度画像にスティッチング処理を施してもよい。その場合、サーバ５５１２は、スティッチング処理により貼り合わされた高解像度画像全体を分割してタイル画像を生成してもよい。ただし、高解像度画像からのタイル画像の生成は、上記スティッチング処理の前であってもよい。

また、サーバ５５１２は、タイル画像をさらに分割することで、より小さいサイズのタイル画像を生成し得る。このようなタイル画像の生成は、最小単位として設定されたサイズのタイル画像が生成されるまで繰り返されてよい。

このように最小単位のタイル画像を生成すると、サーバ５５１２は、隣り合う所定数のタイル画像を合成することで１つのタイル画像を生成するタイル合成処理を、全てのタイル画像に対して実行する。このタイル合成処理は、最終的に１つのタイル画像が生成されるまで繰り返され得る。このような処理により、各階層が１つ以上のタイル画像で構成されたピラミッド構造のタイル画像群が生成される。このピラミッド構造では、ある層のタイル画像とこの層とは異なる層のタイル画像との画素数は同じであるが、その解像度が異なっている。例えば、２×２個の計４つのタイル画像を合成して上層の１つのタイル画像を生成する場合、上層のタイル画像の解像度は、合成に用いた下層のタイル画像の解像度の１／２倍となっている。

このようなピラミッド構造のタイル画像群を構築することによって、表示対象のタイル画像が属する階層次第で、表示装置に表示される観察対象物の詳細度を切り替えることが可能となる。例えば、最下層のタイル画像が用いられる場合には、観察対象物の狭い領域を詳細に表示し、上層のタイル画像が用いられるほど観察対象物の広い領域が粗く表示されるようにすることができる。

生成されたピラミッド構造のタイル画像群は、例えば、各タイル画像を一意に識別可能な識別情報（タイル識別情報と称する）とともに、不図示の記憶部に記憶される。サーバ５５１２は、他の装置（例えば、表示制御装置５５１３や導出装置５５４０）からタイル識別情報を含むタイル画像の取得要求を受け付けた場合に、タイル識別情報に対応するタイル画像を他の装置へ送信する。

なお、病理画像であるタイル画像は、焦点距離や染色条件等の撮像条件毎に生成されてもよい。撮像条件毎にタイル画像が生成される場合、特定の病理画像とともに、特定の撮像条件と異なる撮像条件に対応する他の病理画像であって、特定の病理画像と同一領域の他の病理画像を並べて表示してもよい。特定の撮像条件は、閲覧者によって指定されてもよい。また、閲覧者に複数の撮像条件が指定された場合には、各撮像条件に対応する同一領域の病理画像が並べて表示されてもよい。

また、サーバ５５１２は、ピラミッド構造のタイル画像群をサーバ５５１２以外の他の記憶装置、例えば、クラウドサーバ等に記憶してもよい。さらに、以上のようなタイル画像の生成処理の一部又は全部は、クラウドサーバ等で実行されてもよい。

表示制御装置５５１３は、ユーザからの入力操作に応じて、ピラミッド構造のタイル画像群から所望のタイル画像を抽出し、これを表示装置５５１４に出力する。このような処理により、ユーザは、観察倍率を変えながら観察対象物を観察しているような感覚を得ることができる。すなわち、表示制御装置５５１３は仮想顕微鏡として機能する。ここでの仮想的な観察倍率は、実際には解像度に相当する。

なお、高解像度画像の撮像方法は、どの様な方法を用いてもよい。ステージの停止、移動を繰り返しながら分割領域を撮像して高解像度画像を取得してもよいし、所定の速度でステージを移動しながら分割領域を撮像してストリップ上の高解像度画像を取得してもよい。また、高解像度画像からタイル画像を生成する処理は必須の構成ではなく、スティッチング処理により貼り合わされた高解像度画像全体の解像度を段階的に変化させることで、解像度が段階的に変化する画像を生成してもよい。この場合でも、広いエリア域の低解像度画像から狭いエリアの高解像度画像までを段階的にユーザに提示することが可能である。

医療情報システム５５３０は、いわゆる電子カルテシステムであり、患者を識別する情報、患者の疾患情報、診断に用いた検査情報や画像情報、診断結果、処方薬などの診断に関する情報を記憶する。例えば、ある患者の観察対象物を撮像することで得られる病理画像は、一旦、サーバ５５１２を介して保存された後、表示制御装置５５１３によって表示装置５５１４に表示され得る。病理システム５５１０を利用する病理医は、表示装置５５１４に表示された病理画像に基づいて病理診断を行う。病理医によって行われた病理診断結果は、医療情報システム５５３０に記憶される。

導出装置５５４０は、病理画像に対する解析を実行し得る。この解析には、機械学習によって作成された学習モデルを用いることができる。導出装置５５４０は、当該解析結果として、特定領域の分類結果や組織の識別結果等を導出してもよい。さらに、導出装置５５４０は、細胞情報、数、位置、輝度情報等の識別結果やそれらに対するスコアリング情報等を導出してもよい。導出装置５５４０によって導出されたこれらの情報は、診断支援情報として、病理システム５５１０の表示装置５５１４に表示されてもよい。

なお、導出装置５５４０は、１台以上のサーバ（クラウドサーバを含む）等で構成されたサーバシステムであってもよい。また、導出装置５５４０は、病理システム５５１０内の例えば表示制御装置５５１３又はサーバ５５１２に組み込まれた構成であってもよい。すなわち、病理画像に対する各種解析は、病理システム５５１０内で実行されてもよい。

本開示に係る技術は、以上説明した構成のうち、例えば、顕微鏡５５１１に好適に適用され得る。具体的には、顕微鏡５５１１における低解像度撮像部及び／又は高解像度撮像部に本開示に係る技術を適用することができる。本開示に係る技術を低解像度撮像部に適用することで、全体画像における観察対象物の領域の特定を低解像度撮像部内で実行可能となる。また、本開示に係る技術を高解像度撮像部に適用することで、タイル画像の生成処理や病理画像に対する解析処理の一部又は全部を、高解像度撮像部内で実行可能となる。それにより、病理画像の取得から病理画像の解析までの処理の一部又は全部を顕微鏡５５１１内においてオンザフライで実行可能となるため、より迅速且つ的確な診断支援情報の出力が可能となる。例えば、特定組織の部分抽出や、個人情報に配慮しての画像の一部出力などを顕微鏡５５１１内で実行可能となり、撮像時間の短縮化や、データ量の縮小化や、病理医のワークフローの時間短縮等を実現することが可能となる。

なお、上記で説明した構成は、診断支援システムに限らず、共焦点顕微鏡や蛍光顕微鏡、ビデオ顕微鏡等の生物顕微鏡全般にも適用され得る。ここで、観察対象物は、培養細胞や受精卵、精子等の生体試料、細胞シート、三次元細胞組織等の生体材料、ゼブラフィッシュやマウス等の生体であってもよい。また、観察対象物は、ガラススライドに限らず、ウェルプレートやシャーレ等に格納された状態で観察されることもできる。

さらに、顕微鏡を利用して取得した観察対象物の静止画像から動画像が生成されてもよい。例えば、所定期間連続的に撮像した静止画像から動画像を生成してもよいし、所定の間隔を空けて撮像した静止画像から画像シーケンスを生成してもよい。このように、静止画像から動画像を生成することで、がん細胞や神経細胞、心筋組織、精子等の拍動や伸長、遊走等の動きや培養細胞や受精卵の分裂過程など、観察対象物の動的な特徴を機械学習を用いて解析することが可能となる。

また、上述してきた各実施形態及び変形例は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。

また、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。

なお、本技術は以下のような構成も取ることができる。
（１）
車両に搭載され、前記車両の周辺領域を撮像して画像データを生成する撮像部と、
前記画像データに基づいて、前記周辺領域のシーンを認識するシーン認識部と、
前記シーン認識部において認識された前記シーンに基づいて、前記撮像部の駆動を制御する駆動制御部と、
を備える撮像装置。
（２）
前記画像データに対して信号処理を実行する信号処理部をさらに備え、
前記シーン認識部は、前記信号処理部において前記信号処理が実行された画像データに基づいて、前記周辺領域のシーンを認識する
前記（１）に記載の撮像装置。
（３）
前記信号処理が実行された画像データを出力する出力部をさらに備える前記（２）に記載の撮像装置。
（４）
前記シーン認識部は、高解像度で画像データを取得する必要があるシーンであるか否かの判定を行い、
前記駆動制御部は、
前記シーン認識部が前記高解像度で画像データを取得する必要があるシーンであると判定した場合、第１の解像度を有する画像データを生成するように前記撮像部の駆動を制御し、
前記シーン認識部が前記高解像度で画像データを取得する必要がないシーンであると判定した場合、前記第１の解像度よりも低い第２の解像度を有する画像データを生成するように前記撮像部の駆動を制御する
前記（１）〜（３）の何れか１項に記載の撮像装置。
（５）
前記シーン認識部は、前記画像データに基づいて前記周辺領域の照度を算出し、前記算出された照度が所定の閾値を越える場合、前記第２の解像度を有する画像データを生成するように前記撮像部の駆動を制御する前記（４）に記載の撮像装置。
（６）
前記撮像部は、行列状に配列する複数の画素よりなる画素アレイ部を備え、
前記シーン認識部は、前記高解像度で画像データを取得する必要があると判定した場合、前記画素アレイ部の一部の領域である特定領域から画像データを読み出すことを前記駆動制御部に指示する
前記（４）又は（５）に記載の撮像装置。
（７）
前記シーン認識部は、前記周辺領域にカーブを含むシーンであるか否かの判定を行い、前記周辺領域にカーブを含むシーンであると判定した場合、前記画素アレイ部における前記特定領域の位置をシフトさせる前記（６）に記載の撮像装置。
（８）
前記画像データに対して信号処理を実行する信号処理部をさらに備え、
前記シーン認識部は、前記信号処理部において前記信号処理が実行された画像データに基づいて、前記周辺領域のシーンを認識し、
前記シーン認識部は、前記高解像度で画像データを取得する必要があると判定した場合、前記撮像部から読み出された画像データから当該画像データの一部である特定領域の画像データを抽出する処理を前記信号処理部に実行させる
前記（４）又は（５）に記載の撮像装置。
（９）
前記シーン認識部は、前記周辺領域にカーブを含むシーンであるか否かの判定を行い、前記周辺領域にカーブを含むシーンであると判定した場合、前記画像データにおける前記特定領域の位置をシフトさせる前記（８）に記載の撮像装置。
（１０）
前記シーン認識部は、前記周辺領域にカーブを含むシーンであると判定した場合、前記カーブの形状に基づいて前記特定領域をシフトさせる前記（７）又は（９）に記載の撮像装置。
（１１）
前記撮像部は、行列状に配列する複数の画素よりなる画素アレイ部を備え、
前記シーン認識部は、前記周辺領域に坂道を含むシーンであるか否かの判定を行い、前記周辺領域に坂道を含むシーンであると判定した場合、前記画素アレイ部の一部の領域である特定領域から画像データを読み出すことを前記駆動制御部に指示する
前記（４）又は（５）に記載の撮像装置。
（１２）
前記画像データに対して信号処理を実行する信号処理部をさらに備え、
前記シーン認識部は、前記信号処理部において前記信号処理が実行された画像データに基づいて、前記周辺領域のシーンを認識し、
前記シーン認識部は、前記周辺領域に坂道を含むシーンであるか否かの判定を行い、前記周辺領域に坂道を含むシーンであると判定した場合、前記撮像部から読み出された画像データから当該画像データの一部である特定領域の画像データを抽出する処理を前記信号処理部に実行させる
前記（４）又は（５）に記載の撮像装置。
（１３）
前記撮像部は、
第１の光電変換部と、
第２の光電変換部と、
前記第１の光電変換部に接続される第１の転送ゲートと、
前記第２の光電変換部に接続される第２の転送ゲートと、
前記第１の転送ゲートと前記第２の転送ゲートとに接続されるフローティングディフュージョンと、
を有し、
前記駆動制御部は、前記シーン認識部において認識された前記シーンに基づいて、前記第１及び第２の転送ゲートの駆動を制御する
前記（１）〜（１２）の何れか１項に記載の撮像装置。
（１４）
前記撮像部は、行列状に配列する複数の画素よりなる画素アレイ部を備え、
前記駆動制御部は、
前記複数の画素の駆動を行ごとに制御する垂直駆動回路と、
前記複数の画素の駆動を列ごとに制御する水平駆動回路と、
を有し、
前記垂直駆動回路は、前記シーン認識部において認識された前記シーンに基づいて、前記複数の画素の駆動を行ごとに制御し、
前記水平駆動回路は、前記シーン認識部において認識された前記シーンに基づいて、前記複数の画素部の駆動を列ごとに制御する
前記（１３）に記載の撮像装置。
（１５）
車両に搭載され、前記車両の周辺領域を撮像して画像データを生成する撮像部と、
前記画像データに基づいて、前記周辺領域のシーンを認識するシーン認識部と、
前記シーン認識部において認識された前記シーンに基づいて、前記撮像部の駆動を制御する駆動制御部と、
前記画像データに基づいて、前記周辺領域内に存在する物体を検出する物体検出部と、
前記物体検出部における検出結果に基づいて、前記車両を制御するための車両制御信号を生成する車両制御信号生成部と、
前記車両制御信号に基づいて、車両駆動部を制御する車両制御部と、
を備える車両制御システム。
（１６）
前記シーン認識部を制御するための制御信号を生成するシーン認識制御部をさらに備え、
前記シーン認識部は、前記画像データと前記制御信号とに基づいて、前記周辺領域のシーンを認識する
前記（１５）に記載の車両制御システム。
（１７）
前記車両駆動部の状態を検出する車両駆動用センサをさらに備え、
前記シーン認識制御部は、前記車両駆動用センサの検出結果に基づいて前記制御信号を生成する
前記（１６）に記載の車両制御システム。
（１８）
地図情報を記憶する地図情報記憶部をさらに備え、
前記シーン認識制御部は、前記地図情報に基づいて前記制御信号を生成する
前記（１６）又は（１７）に記載の車両制御システム。

１ 撮像装置
１０ イメージセンサ
１１ 撮像部
１２ コントロール部
１３ 信号処理部
１４ ＤＳＰ
１５ メモリ
１６ セレクタ
２０ アプリケーションプロセッサ
３０ クラウドサーバ
２００ 車載撮像システム
２１４ シーン認識部
２２０ ＳｏＣ
２２１ 物体検出部
２２２ 車両制御信号生成部
２２３ シーン認識制御部
２２４ 地図情報記憶部
２３０ 車両制御装置
２３１ 車両制御部
２３２ 車両駆動用センサ
２３３ 車両駆動部
２４０ 通信部

本開示は、固体撮像装置及び撮像装置に関する。

そこで、本開示では、イメージセンサのチップ内で加工処理を実行することができる固体撮像装置及び撮像装置を提案する。

Claims (18)

1. 車両に搭載され、前記車両の周辺領域を撮像して画像データを生成する撮像部と、
   前記画像データに基づいて、前記周辺領域のシーンを認識するシーン認識部と、
   前記シーン認識部において認識された前記シーンに基づいて、前記撮像部の駆動を制御する駆動制御部と、
   を備える撮像装置。
2. 前記画像データに対して信号処理を実行する信号処理部をさらに備え、
   前記シーン認識部は、前記信号処理部において前記信号処理が実行された画像データに基づいて、前記周辺領域のシーンを認識する
   請求項１に記載の撮像装置。
3. 前記信号処理が実行された画像データを出力する出力部をさらに備える請求項２に記載の撮像装置。
4. 前記シーン認識部は、高解像度で画像データを取得する必要があるシーンであるか否かの判定を行い、
   前記駆動制御部は、
   前記シーン認識部が前記高解像度で画像データを取得する必要があるシーンであると判定した場合、第１の解像度を有する画像データを生成するように前記撮像部の駆動を制御し、
   前記シーン認識部が前記高解像度で画像データを取得する必要がないシーンであると判定した場合、前記第１の解像度よりも低い第２の解像度を有する画像データを生成するように前記撮像部の駆動を制御する
   請求項１に記載の撮像装置。
5. 前記シーン認識部は、前記画像データに基づいて前記周辺領域の照度を算出し、前記算出された照度が所定の閾値を越える場合、前記第２の解像度を有する画像データを生成するように前記撮像部の駆動を制御する請求項４に記載の撮像装置。
6. 前記撮像部は、行列状に配列する複数の画素よりなる画素アレイ部を備え、
   前記シーン認識部は、前記高解像度で画像データを取得する必要があると判定した場合、前記画素アレイ部の一部の領域である特定領域から画像データを読み出すことを前記駆動制御部に指示する
   請求項４に記載の撮像装置。
7. 前記シーン認識部は、前記周辺領域にカーブを含むシーンであるか否かの判定を行い、前記周辺領域にカーブを含むシーンであると判定した場合、前記画素アレイ部における前記特定領域の位置をシフトさせる請求項６に記載の撮像装置。
8. 前記画像データに対して信号処理を実行する信号処理部をさらに備え、
   前記シーン認識部は、前記信号処理部において前記信号処理が実行された画像データに基づいて、前記周辺領域のシーンを認識し、
   前記シーン認識部は、前記高解像度で画像データを取得する必要があると判定した場合、前記撮像部から読み出された画像データから当該画像データの一部である特定領域の画像データを抽出する処理を前記信号処理部に実行させる
   請求項４に記載の撮像装置。
9. 前記シーン認識部は、前記周辺領域にカーブを含むシーンであるか否かの判定を行い、前記周辺領域にカーブを含むシーンであると判定した場合、前記画像データにおける前記特定領域の位置をシフトさせる請求項８に記載の撮像装置。
10. 前記シーン認識部は、前記周辺領域にカーブを含むシーンであると判定した場合、前記カーブの形状に基づいて前記特定領域をシフトさせる請求項７に記載の撮像装置。
11. 前記撮像部は、行列状に配列する複数の画素よりなる画素アレイ部を備え、
    前記シーン認識部は、前記周辺領域に坂道を含むシーンであるか否かの判定を行い、前記周辺領域に坂道を含むシーンであると判定した場合、前記画素アレイ部の一部の領域である特定領域から画像データを読み出すことを前記駆動制御部に指示する
    請求項４に記載の撮像装置。
12. 前記画像データに対して信号処理を実行する信号処理部をさらに備え、
    前記シーン認識部は、前記信号処理部において前記信号処理が実行された画像データに基づいて、前記周辺領域のシーンを認識し、
    前記シーン認識部は、前記周辺領域に坂道を含むシーンであるか否かの判定を行い、前記周辺領域に坂道を含むシーンであると判定した場合、前記撮像部から読み出された画像データから当該画像データの一部である特定領域の画像データを抽出する処理を前記信号処理部に実行させる
    請求項４に記載の撮像装置。
13. 前記撮像部は、
    第１の光電変換部と、
    第２の光電変換部と、
    前記第１の光電変換部に接続される第１の転送ゲートと、
    前記第２の光電変換部に接続される第２の転送ゲートと、
    前記第１の転送ゲートと前記第２の転送ゲートとに接続されるフローティングディフュージョンと、
    を有し、
    前記駆動制御部は、前記シーン認識部において認識された前記シーンに基づいて、前記第１及び第２の転送ゲートの駆動を制御する
    請求項１に記載の撮像装置。
14. 前記撮像部は、行列状に配列する複数の画素よりなる画素アレイ部を備え、
    前記駆動制御部は、
    前記複数の画素の駆動を行ごとに制御する垂直駆動回路と、
    前記複数の画素の駆動を列ごとに制御する水平駆動回路と、
    を有し、
    前記垂直駆動回路は、前記シーン認識部において認識された前記シーンに基づいて、前記複数の画素の駆動を行ごとに制御し、
    前記水平駆動回路は、前記シーン認識部において認識された前記シーンに基づいて、前記複数の画素部の駆動を列ごとに制御する
    請求項１３に記載の撮像装置。
15. 車両に搭載され、前記車両の周辺領域を撮像して画像データを生成する撮像部と、
    前記画像データに基づいて、前記周辺領域のシーンを認識するシーン認識部と、
    前記シーン認識部において認識された前記シーンに基づいて、前記撮像部の駆動を制御する駆動制御部と、
    前記画像データに基づいて、前記周辺領域内に存在する物体を検出する物体検出部と、
    前記物体検出部における検出結果に基づいて、前記車両を制御するための車両制御信号を生成する車両制御信号生成部と、
    前記車両制御信号に基づいて、車両駆動部を制御する車両制御部と、
    を備える車両制御システム。
16. 前記シーン認識部を制御するための制御信号を生成するシーン認識制御部をさらに備え、
    前記シーン認識部は、前記画像データと前記制御信号とに基づいて、前記周辺領域のシーンを認識する
    請求項１５に記載の車両制御システム。
17. 前記車両駆動部の状態を検出する車両駆動用センサをさらに備え、
    前記シーン認識制御部は、前記車両駆動用センサの検出結果に基づいて前記制御信号を生成する
    請求項１６に記載の車両制御システム。
18. 地図情報を記憶する地図情報記憶部をさらに備え、
    前記シーン認識制御部は、前記地図情報に基づいて前記制御信号を生成する
    請求項１６に記載の車両制御システム。

Images