JP2018019191A - 固体撮像素子、撮像装置、および、固体撮像素子の制御方法 - Google Patents

固体撮像素子、撮像装置、および、固体撮像素子の制御方法 Download PDF

Info

Publication number
JP2018019191A
JP2018019191A JP2016146859A JP2016146859A JP2018019191A JP 2018019191 A JP2018019191 A JP 2018019191A JP 2016146859 A JP2016146859 A JP 2016146859A JP 2016146859 A JP2016146859 A JP 2016146859A JP 2018019191 A JP2018019191 A JP 2018019191A
Authority
JP
Japan
Prior art keywords
unit
light
pixel
signal
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016146859A
Other languages
English (en)
Inventor
克彦 半澤
Katsuhiko Hanzawa
克彦 半澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Priority to JP2016146859A priority Critical patent/JP2018019191A/ja
Priority to PCT/JP2017/021440 priority patent/WO2018020857A1/ja
Priority to US16/316,462 priority patent/US10986986B2/en
Publication of JP2018019191A publication Critical patent/JP2018019191A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045—Control thereof
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002—Operational features of endoscopes
    • A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002—Operational features of endoscopes
    • A61B1/00039—Operational features of endoscopes provided with input arrangements for the user
    • A61B1/00042—Operational features of endoscopes provided with input arrangements for the user for mechanical operation
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002—Operational features of endoscopes
    • A61B1/00043—Operational features of endoscopes provided with output arrangements
    • A61B1/00045—Display arrangement
    • A61B1/0005—Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00147—Holding or positioning arrangements
    • A61B1/00149—Holding or positioning arrangements using articulated arms
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163—Optical arrangements
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163—Optical arrangements
    • A61B1/00186—Optical arrangements with imaging filters
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/042—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by a proximal camera, e.g. a CCD camera
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0661—Endoscope light sources
    • A61B1/0669—Endoscope light sources at proximal end of an endoscope
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/313—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for introducing through surgical openings, e.g. laparoscopes
    • A61B1/3132—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for introducing through surgical openings, e.g. laparoscopes for laparoscopy
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00—Microscopes
    • G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00—Microscopes
    • G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/361—Optical details, e.g. image relay to the camera or image sensor
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00—Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24—Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2407—Optical details
    • G02B23/2415—Stereoscopic endoscopes
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00—Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24—Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2407—Optical details
    • G02B23/2423—Optical details of the distal end
    • G02B23/243—Objectives for endoscopes
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/14609—Pixel-elements with integrated switching, control, storage or amplification elements
    • H01L27/14612—Pixel-elements with integrated switching, control, storage or amplification elements involving a transistor
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/46—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by combining or binning pixels
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/63—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current
    • H04N25/633—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current by using optical black pixels
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70—SSIS architectures; Circuits associated therewith
    • H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70—SSIS architectures; Circuits associated therewith
    • H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/778—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising amplifiers shared between a plurality of pixels, i.e. at least one part of the amplifier must be on the sensor array itself
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00—Microscopes
    • G02B21/0004—Microscopes specially adapted for specific applications
    • G02B21/0012—Surgical microscopes
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00—Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24—Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Optics & Photonics (AREA)
  • General Health & Medical Sciences (AREA)
  • Radiology & Medical Imaging (AREA)
  • Animal Behavior & Ethology (AREA)
  • Molecular Biology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Pathology (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Astronomy & Astrophysics (AREA)
  • Power Engineering (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Mechanical Engineering (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Electromagnetism (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Microscoopes, Condenser (AREA)
  • Endoscopes (AREA)

Abstract

【課題】画素加算を行う固体撮像素子において、消費電力を低減する。【解決手段】固体撮像素子には、所定方向に配列された複数の通常画素がそれぞれに設けられた所定数のブロックと、互いに異なる前記ブロックに接続された所定数の遮光画素が前記所定方向に配列された遮光領域とが設けられる。走査回路は、ブロック内の複数の通常画素のそれぞれを制御してブロックからブロックに対応する遮光画素へ電荷を転送させる。信号処理部には、転送された電荷に基づいて遮光画素により生成された信号を処理する信号処理回路が前記遮光画素ごとに設けられる。【選択図】図７

Description

本技術は、固体撮像素子、撮像装置、および、固体撮像素子の制御方法に関する。詳しくは、複数の画素信号を加算する固体撮像素子、撮像装置、および、固体撮像素子の制御方法に関する。
近年、固体撮像素子の高機能化、高度化が進展しており、被写体の動きを検出する動き検出機能や照度の検出機能を備える固体撮像素子が登場している。これらの動き検出や照度検出の際は、一般に、画像データを撮像する場合と比較して高ＳＮ比、低消費電力、および、広ダイナミックレンジが要求される一方で、高解像度や高フレームレートは要求されない。そこで、動き検出や照度検出の際に、複数の画素の画素信号を加算して読み出す固体撮像素子が提案されている（例えば、特許文献１参照。）。
特開２０１４−２０９６９６号公報
上述の従来技術では、それぞれが２行×２列の画素からなる複数の画素ブロック毎に画素アレイ部を分割し、画素ブロック内の４画素の画素信号を加算している。この画素加算により、行を読み出す回数は、画素加算しない場合と比較して半分になるため、固体撮像素子の撮像時の消費電力を低減することができる。しかしながら、上述の従来技術では、さらに消費電力を低減することが困難である。すなわち、３行×３列などに画素ブロックのサイズを大きくし、行を読み出す回数をさらに少なくすれば、消費電力を低減することができるが、その分、動き検出や照度検出の精度が低下してしまう。このように、動き検出等の精度を維持しつつ、消費電力を低減することができないという問題がある。
本技術はこのような状況に鑑みて生み出されたものであり、画素加算を行う固体撮像素子において、消費電力を低減することを目的とする。
本技術は、上述の問題点を解消するためになされたものであり、その第１の側面は、所定方向に配列された複数の通常画素がそれぞれに設けられた所定数のブロックと、互いに異なる上記ブロックに接続された上記所定数の遮光画素が上記所定方向に配列された遮光領域と、上記ブロック内の上記複数の通常画素のそれぞれを制御して上記ブロックから当該ブロックに対応する上記遮光画素へ電荷を転送させる走査回路と、上記転送された電荷に基づいて上記遮光画素により生成された信号を処理する信号処理回路が上記遮光画素ごとに設けられた信号処理部とを具備する固体撮像素子、および、その制御方法である。これにより、ブロックから対応する遮光画素へ電荷が転送されて、その遮光画素により生成された信号が処理されるという作用をもたらす。
また、この第１の側面において、上記通常画素は、上記電荷を蓄積する浮遊拡散層と、上記遮光画素と上記浮遊拡散層とを接続する接続トランジスタとを備えてもよい。これにより、浮遊拡散層から遮光画素に電荷が転送されるという作用をもたらす。
また、この第１の側面において、上記通常画素は、上記浮遊拡散層の上記電荷の量を初期化するリセットトランジスタをさらに備えてもよい。これにより、浮遊拡散層の電荷が初期化されるという作用をもたらす。
また、この第１の側面において、上記接続トランジスタは、上記浮遊拡散層を初期化するリセットトランジスタであってもよい。これにより、リセットトランジスタにより電荷の初期化と電荷の転送とが行われるという作用をもたらす。
また、この第１の側面において、上記行走査回路は、上記浮遊拡散層の初期化を指示するリセット信号と上記浮遊拡散層の接続を指示する接続信号とを同時に送信してもよい。これにより、初期化された浮遊拡散層が接続されるという作用をもたらす。
また、この第１の側面において、上記行走査回路は、上記浮遊拡散層の初期化を指示するリセット信号を送信した後に上記浮遊拡散層の接続を指示する接続信号を送信してもよい。これにより、初期化の後に浮遊拡散層が接続されるという作用をもたらす。
また、この第１の側面において、上記通常画素は、光を光電変換して上記電荷を生成する光電変換素子と、上記遮光画素と上記光電変換素子とを接続する接続トランジスタとを備えてもよい。これにより、光電変換素子から遮光画素へ電荷が転送されるという作用をもたらす。
また、この第１の側面において、上記遮光画素は、上記転送された電荷を蓄積する電荷蓄積部と、上記蓄積された電荷の量に応じた信号を増幅する増幅トランジスタとを備えてもよい。これにより、転送された電荷の量に応じた信号が増幅されるという作用をもたらす。
また、この第１の側面において、上記遮光画素は、光電変換素子をさらに備えてもよい。これにより、通常画素と同様の回路構成の遮光画素へ電荷が転送されるという作用をもたらす。
また、この第１の側面において、上記ブロックのそれぞれは、浮遊拡散層を共有する上記複数の通常画素がそれぞれに設けられた複数の画素ブロックを備えてもよい。これにより、複数の画素ブロックのそれぞれの信号が加算されるという作用をもたらす。
また、この第１の側面において、上記複数の通常画素のうち隣接する一対の通常画素の一方は、上記行走査回路の制御に従って上記一対の通常画素の他方に上記電荷を転送してもよい。これにより、隣接する一対の通常画素の一方から他方へ電荷が転送されるという作用をもたらす。
また、本技術の第２の側面は、所定方向に配列された複数の通常画素がそれぞれに設けられた所定数のブロックと、互いに異なる上記ブロックに接続された上記所定数の遮光画素が上記所定方向に配列された遮光領域と、上記ブロック内の上記複数の通常画素のそれぞれを制御して上記ブロックから当該ブロックに対応する上記遮光画素へ電荷を転送させる走査回路と、上記転送された電荷に基づいて上記遮光画素により生成された信号を処理してデータを生成する信号処理回路が上記遮光画素ごとに設けられた信号処理部と、上記生成されたデータを記録する記録部とを具備する撮像装置である。これにより、ブロックから対応する遮光画素へ電荷が転送されて、その遮光画素により生成された信号から生成されたデータが記録されるという作用をもたらす。
本技術によれば、画素加算を行う固体撮像素子において、消費電力を低減することができるという優れた効果を奏し得る。なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
本技術の第１の実施の形態における撮像装置の一構成例を示すブロック図である。 本技術の第１の実施の形態における固体撮像素子の一構成例を示すブロック図である。 本技術の第１の実施の形態における画素アレイ部の一構成例を示す平面図である。 本技術の第１の実施の形態における信号処理部の一構成例を示すブロック図である。 本技術の第１の実施の形態における通常画素の一構成例を示す回路図である。 本技術の第１の実施の形態における遮光画素の一構成例を示す回路図である。 本技術の第１の実施の形態における画素加算方法を説明するための図である。 本技術の第１の実施の形態における画素ブロックのレイアウトの一例を示す図である。 本技術の第１の実施の形態における通常読出し期間の固体撮像素子の動作の一例を示すタイミングチャートである。 本技術の第１の実施の形態における画素加算読出し期間の固体撮像素子の動作の一例を示すタイミングチャートである。 本技術の第１の実施の形態における接続信号の期間を短くしたタイミングチャートである。 本技術の第１の実施の形態における固体撮像素子の動作の一例を示すフローチャートである。 本技術の第１の実施の形態の変形例における画素加算読出し期間の固体撮像素子の動作の一例を示すタイミングチャートである。 本技術の第１の実施の形態の変形例における固体撮像素子の動作の一例を示すフローチャートである。 本技術の第２の実施の形態における通常画素の一構成例を示す回路図である。 本技術の第２の実施の形態における画素加算読出し期間の固体撮像素子の動作の一例を示すタイミングチャートである。 本技術の第３の実施の形態における遮光画素の一構成例を示す回路図である。 本技術の第４の実施の形態における通常画素の一構成例を示す回路図である。 本技術の第４の実施の形態における画素加算読出し期間の固体撮像素子の動作の一例を示すタイミングチャートである。 本技術の第５の実施の形態における画素アレイ部および信号処理部の一構成例を示す平面図である。 本技術の第５の実施の形態における画素ブロックの一構成例を示す回路図である。 本技術の第６の実施の形態における画素アレイ部の一構成例を示す平面図である。 本技術の第６の実施の形態における通常画素の一構成例を示す回路図である。 内視鏡手術システムの概略的な構成の一例を示す図である。 図２４に示すカメラヘッド及びＣＣＵ（Camera Control Unit）の機能構成の一例を示すブロック図である。 手術室システムの全体構成を概略的に示す図である。 集中操作パネルにおける操作画面の表示例を示す図である。 手術室システムが適用された手術の様子の一例を示す図である。 図２８に示すカメラヘッド及びＣＣＵの機能構成の一例を示すブロック図である。 顕微鏡手術システムの概略的な構成の一例を示す図である。 図３０に示す顕微鏡手術システムを用いた手術の様子を示す図である。 体内情報取得システムの概略的な構成の一例を示すブロック図である。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
以下、本技術を実施するための形態（以下、実施の形態と称する）について説明する。説明は以下の順序により行う。
１．第１の実施の形態（画素ブロックから遮光画素へ電荷を転送する例）
２．第２の実施の形態（リセットトランジスタが画素ブロックから遮光画素へ電荷を転送する例）
３．第３の実施の形態（画素ブロックから、光電変換素子の無い遮光画素へ電荷を転送する例）
４．第４の実施の形態（画素ブロック内の光電変換素子から遮光画素へ電荷を転送する例）
５．第５の実施の形態（加算ブロックから遮光画素へ電荷を転送する例）
６．第６の実施の形態（一対の画素間で電荷を転送し、画素ブロックから遮光画素へ電荷を転送する例）
＜１．第１の実施の形態＞
［撮像装置の構成例］
図１は、第１の実施の形態における撮像装置１００の一構成例を示すブロック図である。この撮像装置１００は、画像データを撮像する装置であり、撮像レンズ１１０、固体撮像素子２００、記録部１２０および撮像制御部１３０を備える。撮像装置１００としては、アクションカムや車載カメラなどが想定される。
撮像レンズ１１０は、光を集光して固体撮像素子２００に導くものである。固体撮像素子２００は、撮像制御部１３０の制御に従って画像データを生成するものである。この固体撮像素子２００は、生成した画像データを記録部１２０に信号線２０９を介して供給する。記録部１２０は、画像データを記録するものである。
撮像制御部１３０は、撮像装置１００全体を制御するものである。この撮像制御部１３０は、撮像タイミングを示す垂直同期信号などを信号線１３９を介して固体撮像素子２００に供給する。
なお、撮像レンズ１１０、固体撮像素子２００、記録部１２０および撮像制御部１３０を同一の装置に配置しているが、これらを複数の装置に分散して配置することもできる。例えば、撮像レンズ１１０をレンズユニットに配置し、固体撮像素子２００などを撮像装置１００に配置してもよい。
［固体撮像素子の構成例］
図２は、第１の実施の形態における固体撮像素子２００の一構成例を示すブロック図である。この固体撮像素子２００は、行走査回路２１０、画素アレイ部２２０、ＤＡＣ（Digital to Analog Converter）２５０、信号処理部２６０、タイミング制御部２７０、列走査回路２８０および画像処理部２９０を備える。
また、画素アレイ部２２０には、二次元格子状に複数の画素回路が設けられる。以下、所定の方向（水平方向など）に配列された画素回路の集合を「行」と称し、行に垂直な方向に配列された画素回路の集合を「列」と称する。なお、画素アレイ部２２０は、特許請求の範囲に記載のアレイ部の一例である。
行走査回路２１０は、画素回路を駆動して画素信号を出力させるものである。また、行走査回路２１０は、画素アレイ部２２０を制御して、隣接する複数の画素のそれぞれの画素信号を必要に応じて加算させる。なお、行走査回路２１０は、特許請求の範囲に記載の走査回路の一例である。
タイミング制御部２７０は、行走査回路２１０、信号処理部２６０および列走査回路２８０のそれぞれが動作するタイミングを制御するものである。ＤＡＣ２５０は、ＤＡ（Digital to Analog）変換により、ランプ信号を生成して信号処理部２６０に供給するものである。
信号処理部２６０は、画素信号に対してＡＤ変換などの信号処理を行って画素データを生成するものである。列走査回路２８０は、信号処理部２６０を制御して画素データを画像処理部２９０に転送させるものである。
画像処理部２９０は、画素データからなる画像データに対して様々な画像処理を実行するものである。この画像処理において例えば、デモザイク処理やホワイトバランス処理などが実行される。画像処理後の画像データは、記録部１２０に送信される。また、画素加算が行われた場合には、動きの検出処理や照度検出処理が実行される。動きの検出処理においては、フレーム間差分法や背景差分法などにより、画像内の被写体の動きの有無や動きベクトルなどが検出される。照度の検出処理においては、加算単位ごとのデータを加重加算する演算などにより、照度に応じた測光量が求められる。
動きや照度の検出結果は、撮像制御部１３０に送信される。動きの検出結果は、動きのあった場合にフレームレートを変更するアプリケーションなどの各種のアプリケーションに用いられる。また、照度の検出結果は、露光量の制御などに用いられる。
なお、画像処理部２９０を固体撮像素子２００内に配置しているが、この画像処理部２９０を固体撮像素子２００の外部に配置してもよい。
また、固体撮像素子２００内の回路のそれぞれは、単一の半導体基板に配置してもよいし、積層した複数の半導体基板に分散して配置してもよい。
［画素アレイ部の構成例］
図３は、第１の実施の形態における画素アレイ部２２０の一構成例を示す平面図である。画素アレイ部２２０は、遮光されていない受光領域２２１と、遮光された遮光領域２２３とに分割される。受光領域２２１には、複数の通常画素２３０が二次元格子状に配列される。遮光領域２２３には、通常画素２３０の列ごとに遮光画素２４０が配列される。この遮光画素２４０は、ＯＰＢ（OPtical Black）画素やダミー画素とも呼ばれる。
通常画素２３０の行数をＮ（Ｎは整数）、列数をＭ（Ｍは列数）とすると、水平方向にＭ個の遮光画素２４０が配列される。
画素アレイ部２２０において列ごとに、接続線２３９−ｍ（ｍは０乃至Ｍ−１の整数）と垂直信号線２２９−ｍとが垂直方向に配線される。また、通常画素２３０の行のそれぞれには４本の水平信号線が水平方向に配線される。
４本の水平信号線のうち１本は、接続信号ＦＤＣｎ（ｎは０乃至Ｎ−１の整数）を伝送し、１本は、リセット信号ＲＳＴｎを伝送し、１本は転送信号ＴＲＧｎを伝送し、残りの１本は選択信号ＳＥＬｎを伝送する。これらの接続信号ＦＤＣｎ、リセット信号ＲＳＴｎ、転送信号ＴＲＧｎおよび選択信号ＳＥＬｎは、行走査回路２１０により生成され、ｎ行に供給される。
また、接続信号ＦＤＣｎは、通常画素２３０内の浮遊拡散層と接続線２３９−ｍとの接続を指示する信号であり、リセット信号ＲＳＴｎは、その浮遊拡散層の電荷量の初期化を指示する信号である。転送信号ＴＲＧｎは、通常画素２３０内の電荷の転送を指示する信号であり、選択信号ＳＥＬｎは、垂直信号線２２９−ｍを介して画素信号の出力を指示する信号である。
遮光画素２４０の行にも４本の水平信号線が配線される。これらの水平信号線のうち１本は、接続信号ＦＤＣｂを伝送し、１本は、リセット信号ＲＳＴｂを伝送し、１本は転送信号ＴＲＧｂを伝送し、残りの１本は選択信号ＳＥＬｂを伝送する。これらの接続信号ＦＤＣｂ、リセット信号ＲＳＴｂ、転送信号ＴＲＧｂおよび選択信号ＳＥＬｂは、行走査回路２１０により生成される。
接続信号ＦＤＣｂは、遮光画素２４０内の浮遊拡散層と接続線２３９−ｍとの接続を指示する信号であり、リセット信号ＲＳＴｂは、その浮遊拡散層の電荷量の初期化を指示する信号である。転送信号ＴＲＧｂは、遮光画素２４０内の電荷の転送を指示する信号であり、選択信号ＳＥＬｂは、垂直信号線２２９−ｍを介して画素信号の出力を指示する信号である。
［信号処理部の構成例］
図４は、第１の実施の形態における信号処理部２６０の一構成例を示すブロック図である。この信号処理部２６０には、列ごとにＡＤ変換器２６１が設けられる。列数がＭであるため、水平方向にＭ個のＡＤ変換器２６１が配列される。ＡＤ変換器２６１のそれぞれは、コンパレータ２６２およびカウンタ２６３を備える。
ｍ番目のＡＤ変換器２６１は、ｍ列の垂直信号線２２９−ｍに接続される。また、垂直信号線２２９−ｍと接地端子との間には、定電流源２５５が挿入される。
コンパレータ２６２は、対応する垂直信号線２２９−ｍからの画素信号と、ＤＡＣ２５０からのランプ信号ＲＥＦとを比較するものである。例えば、のこぎり刃状の信号がランプ信号ＲＥＦとして供給される。コンパレータ２６２は、比較結果をカウンタ２６３に供給する。
カウンタ２６３は、比較結果が反転するまでの間、タイミング制御部２７０からのクロック信号ＣＬＫに同期して計数値を計数するものである。このカウンタ２６３は、列走査回路２８０の制御に従って、計数値を示すデジタル信号を画素データとして画像処理部２９０に出力する。
［通常画素の構成例］
図５は、第１の実施の形態における通常画素２３０の一構成例を示す回路図である。この通常画素２３０は、リセットトランジスタ２３１、接続トランジスタ２３２、増幅トランジスタ２３３、転送トランジスタ２３４、浮遊拡散層２３５、選択トランジスタ２３６および光電変換素子２３７を備える。
光電変換素子２３７は、入射光を光電変換して電荷を生成するものである。転送トランジスタ２３４は、転送信号ＴＲＧｎに従って、光電変換素子２３７から浮遊拡散層２３５へ電荷を転送するものである。浮遊拡散層２３５は、電荷を蓄積して、蓄積した電荷の量に応じた電圧を生成するものである。
リセットトランジスタ２３１は、リセット信号ＲＳＴｎに従って、浮遊拡散層２３５の電荷量を初期化するものである。接続トランジスタ２３２は、接続信号ＦＤＣｎに従って、浮遊拡散層２３５と接続線２３９−ｍとを接続するものである。
増幅トランジスタ２３３は、浮遊拡散層２３５の電圧に応じた信号を増幅するものである。選択トランジスタ２３６は、選択信号ＳＥＬｎに従って、増幅トランジスタ２３３により増幅された信号を画素信号として垂直信号線２２９−ｍに出力するものである。
［遮光画素の構成例］
図６は、第１の実施の形態における遮光画素２４０の一構成例を示す回路図である。この遮光画素２４０は、接続トランジスタ２４１、リセットトランジスタ２４２、転送トランジスタ２４３、光電変換素子２４４、浮遊拡散層２４５、増幅トランジスタ２４６および選択トランジスタ２４７を備える。これらのトランジスタの接続構成は、通常画素２３０と同様である。遮光画素２４０は遮光されているため、光電変換素子２４４および転送トランジスタ２４３は不要であるが、通常画素２３０および遮光画素２４０のレイアウトを同一にした方が、画素アレイ部２２０の製造が容易となるため、これらを設けている。
図７は、第１の実施の形態における画素加算方法を説明するための図である。受光領域２２１は、複数の画素ブロック２２２により分割される。それぞれの画素ブロック２２２は、水平方向に配列された複数の画素からなる所定数のラインが設けられる。例えば、画素ブロック２２２のそれぞれに２行×２列の通常画素２３０が配列される。
また、遮光画素２４０と画素ブロック２２２とは、接続線２３９−ｍを介して１対１で接続される。また、遮光画素２４０の個数は、画素ブロックの個数以上である。例えば、遮光画素２４０および画素ブロックの個数は、いずれもＭ個である。
例えば、最も左下の画素ブロックＢ００は、０番目の遮光画素２４０と接続される。画素ブロックＢ００の上側の画素ブロックＢ０１は、１番目の遮光画素２４０と接続される。また、画素ブロックＢ００の右側の画素ブロックＢ１０は、２番目の遮光画素２４０と接続され、画素ブロックＢ０１の右側の画素ブロックＢ１１は、３番目の遮光画素２４０と接続される。
行走査回路２１０は、接続信号ＦＤＣｎにより画素ブロック２２２のそれぞれを制御して、画素ブロック２２２から、対応する遮光画素２４０へ電荷を転送させる。図７において、点線の矢印は、電荷の転送元および転送先を示す。
行走査回路２１０の制御により、画素ブロック２２２内の通常画素２３０のそれぞれの電荷の量が加算される。加算された電荷量に応じた画素信号は、転送先の遮光画素２４０から読み出され、その列のＡＤ変換器２６１により処理される。
ここで、遮光画素２４０に転送せずに、画素ブロック２２２ごとに電荷量を加算して読み出す比較例を想定する。この比較例では、２行×２列の画素加算により、読み出す行数は、加算しない場合と比較して１／２となる。例えば、行数Ｎが１４４０である場合には、７２０回の読出しが必要となる。
これに対して、遮光画素２４０に転送する固体撮像素子２００では、画素ブロック内の電荷は、１行の遮光領域２２３に転送されるため、読み出す回数は１回でよい。このように、遮光画素２４０に転送することにより、転送しない場合よりも読出しの回数を少なくすることができる。
このように読出し回数を少なくすると、ＡＤ変換などを行う信号処理部２６０の周辺の回路の消費電力が低減する。例えば、信号処理部２６０にクロック信号を供給するタイミング制御部２７０や、ランプ信号を供給するＤＡＣ２５０の消費電力を減らすことができる。
さらに、読出し回数を少なくするとＡＤ変換に要する時間（言い換えれば、動作時間）が短くなる。複数枚の画像データ（フレーム）を連続的に一定間隔で読み出す場合において、１フレームを読み出す期間のうち動作時間を大幅に減らせば、効率よく電力を落とすことができる。センサ（固体撮像素子２００）動作の復帰時間を考慮すると、ＡＤ変換の時間を短くするほど、１フレーム内の停止時間の割合が向上し、より大きな電力低下を見込むことができる。
なお、遮光画素２４０の行数を１行としているが、２行以上であってもよい。画素ブロックの個数が列数Ｍより多い場合には、２行以上の遮光画素２４０が設けられる。また、画素ブロック２２２のサイズを２行×２列としているが、２列以上であれば、行数および列数は限定されない。例えば、３行×３列の画素ブロック２２２で画素加算を行ってもよい。また、図８に例示するように、行全体を画素ブロック２２２としてもよい。
［固体撮像素子の動作例］
図９は、第１の実施の形態における通常読出し期間の固体撮像素子２００の動作の一例を示すタイミングチャートである。この通常読出し期間は、画素加算を行わずに画素信号を読み出すための期間である。
タイミングＴ０において、行走査回路２１０は、選択信号ＳＥＬ０、リセット信号ＲＳＴｂおよび接続信号ＦＤＣｂをハイレベルに制御する。そして、タイミングＴ０の後のタイミングＴ１において行走査回路２１０は、所定のパルス期間に亘ってリセット信号ＲＳＴ０をハイレベルに制御する。これにより、０行目の浮遊拡散層２３５が初期化され、接続線２３９−ｍの電位が初期化される。
タイミングＴ０の後のタイミングＴ２において、行走査回路２１０は、所定のパルス期間に亘って転送信号ＴＲＧ０をハイレベルに制御する。この制御により、０行目の浮遊拡散層２３５に電荷が転送される。また、行走査回路２１０は、タイミングＴ２の後のタイミングＴ３において選択信号ＳＥＬ０をローレベルに制御する。この制御により０行目の読出しが終了する。
また、各列のＡＤ変換器２６１は、タイミングＴ１からタイミングＴ２までの間において画素信号のレベルをリセットレベルとしてサンプリングする。そして、タイミングＴ２からタイミングＴ３までの間において、ＡＤ変換器２６１は、画素信号のレベルを信号レベルとしてサンプリングする。ＡＤ変換器２６１の後段の画像処理部２９０は、リセットレベルおよび信号レベルの差分を算出するＣＤＳ（Correlated Double Sampling）処理を行う。
タイミングＴ３以降は、１行目以降の読出しが順に行われる。それぞれの行の初期化および転送は、前の行の初期化および転送のタイミングから一定時間が経過したときに開始される。このような制御は、ローリングシャッター方式と呼ばれる。なお、固体撮像素子２００は、全画素を読み出しているが、行や列の一部を間引いて読み出してもよい。
図１０は、第１の実施の形態における画素加算読出し期間の固体撮像素子２００の動作の一例を示すタイミングチャートである。この画素加算読出し期間は、画素ブロックごとに画素信号を加算して読み出すための期間である。
タイミングＴ１０において、行走査回路２１０は、接続信号ＦＤＣｎおよびＦＤＣｂと選択信号ＳＥＬｂとをハイレベルに制御する。そして、タイミングＴ１０の後のタイミングＴ１１において、行走査回路２１０は、リセット信号ＲＳＴｎおよびＲＳＴｂを所定のパルス期間に亘ってハイレベルに制御する。この制御により全画素ブロックの浮遊拡散層２３５が初期化される。また、接続線２３９−ｍの電位がフローティングになるのを抑制し、初期化することができる。
なお、フローティング対策として遮光画素２４０内の電源で初期化しているが、遮光画素２４０以外に設けた電源により初期化する方法も考えられる。また、初期化の際にリセット信号ＲＳＴｎおよびＲＳＴｂを両方ともオンオフしているが、リセット信号ＲＳＴｂのみオンオフしてもよい。
そして、タイミングＴ１１の後のタイミングＴ１２において行走査回路２１０は、転送信号ＴＲＧｎのそれぞれをパルス期間に亘ってハイレベルに制御する。これにより、全画素ブロックから遮光領域２２３へ電荷が転送される。このように全ブロック行の電荷転送を同時に行う制御は、グローバルシャッター方式と呼ばれる。
また、行走査回路２１０は、タイミングＴ１２の後のタイミングＴ１３において接続信号ＦＤＣｎおよびＦＤＣｂと選択信号ＳＥＬｂとをローレベルに制御する。この制御により加算した信号の読出しが終了する。
また、各列のＡＤ変換器２６１は、タイミングＴ１１からタイミングＴ１２までの間にリセットレベルをサンプリングし、タイミングＴ１２からタイミングＴ１３までの間に信号レベルをサンプリングする。なお、固体撮像素子２００は、全画素ブロックを読み出しているが、ブロック行やブロック列の一部を間引いて読み出してもよい。
なお、行走査回路２１０は、接続信号ＦＤＣｂを画素加算読出し期間に亘ってハイレベルに制御しているが、図１１に例示するように、タイミングＴ１１およびＴ１２のそれぞれからパルス期間が経過するまでの間だけハイレベルに制御してもよい。同図において、接続信号ＦＤＣｂのパルス期間は、転送信号ＴＲＧｎのパルス期間よりも長い時間に設定される。
通常、接続線２３９−ｍの配線容量は小さいため、リセット信号を制御する際にフィードスルーが発生し、浮遊拡散層の電圧がリセット電圧よりも下がる可能性がある。ここで、接続線２３９−ｍを接続してリセット信号をオンオフすると、接続線２３９−ｍの配線容量が大きくなり、フィードスルーが無視できるほど小さくなって、画素信号の電圧範囲（出力レンジ）が変わってしまうおそれがある。そこで、図１１に例示するように接続信号ＦＤＣｂを制御してフィードスルーを再現することにより、出力レンジの変動を抑制することができる。
図１２は、第１の実施の形態における固体撮像素子２００の動作の一例を示すフローチャートである。この動作は、例えば、画像データの撮像や照度測定を開始させるための操作が行われたときに開始する。
まず、固体撮像素子２００は、通常読出し期間内であるか否かを判断する（ステップＳ９０１）。通常読出し期間内である場合に（ステップＳ９０１：Ｙｅｓ）、固体撮像素子２００は、読み出す行を選択し、読出しを行う（ステップＳ９０２）。そして、固体撮像素子２００は、読出し対象の全行の読出しが完了したか否かを判断する（ステップＳ９０３）。全行の読出しが完了していない場合に（ステップＳ９０３：Ｎｏ）、固体撮像素子２００は、ステップＳ９０２以降を繰り返し実行する。
全行の読出しが完了した場合に（ステップＳ９０３：Ｙｅｓ）、固体撮像素子２００は、画像データに対して画像処理を実行して記録する（ステップＳ９０４）。
また、通常読出し期間内でない場合（ステップＳ９０１：Ｎｏ）に、固体撮像素子２００は、画素加算読出し期間内であるか否かを判断する（ステップＳ９０５）。画素加算読出し期間内である場合に（ステップＳ９０５：Ｙｅｓ）、固体撮像素子２００は、遮光画素２４０に加算した信号を転送し（ステップＳ９０６）、遮光領域から画素信号の読出しを行う（ステップＳ９０７）。そして、固体撮像素子２００は、画素加算により生成された画像データに基づいて照度を検出する（ステップＳ９０８）。
画素加算読出し期間内でない場合（ステップＳ９０５：Ｎｏ）、またはステップＳ９０８の後に、固体撮像素子２００は、ステップＳ９０１以降を繰り返し実行する。
このように、本技術の第１の実施の形態によれば、遮光画素２４０を行方向に配列し、画素ブロック２２２から対応する遮光画素２４０に電荷を転送することにより、画素ブロック２２２において画素加算した信号の読出し回数を低減することができる。これにより、固体撮像素子２００の消費電力を低減することができる。
［変形例］
上述の第１の実施の形態では、固体撮像素子２００が画素加算により照度を検出していたが、照度の検出の代わりに、被写体の動きを検出することもできる。被写体の動きを検出するには、例えば、加算信号を複数回に亘って読出し、前回の加算信号と今回の加算信号との差分を求める処理を固体撮像素子２００が実行すればよい。この第１の実施の形態の変形例の固体撮像素子２００は、画素加算により動きを検出する点において第１の実施の形態と異なる。
図１３は、第１の実施の形態の変形例における画素加算読出し期間の固体撮像素子２００の動作の一例を示すタイミングチャートである。この第１の実施の形態の変形例の固体撮像素子２００は、電荷転送時のタイミングＴ１２までにおいて、接続信号ＦＤＣｂをローレベルに制御する。また、タイミングＴ１１からタイミングＴ１２までの間において、第１の実施の形態と同様にリセットレベルが読み出される。
そして、行走査回路２１０は、タイミングＴ１２から所定のパルス期間に亘って転送信号ＴＲＧｎのそれぞれをハイレベルに制御する。また、行走査回路２１０は、タイミングＴ１１から所定のパルス期間に亘って接続信号ＦＤＣｂをハイレベルに制御する。接続信号ＦＤＣｂのパルス期間は、転送信号ＴＲＧｎのパルス期間よりも長い時間に設定される。また、タイミングＴ１２からタイミングＴ１３までの間において第１の実施の形態と同様に信号レベルが読み出される。
上述のリセットレベルの読出しから信号レベルの読出しまでの読出し制御は複数回に亘って実行され、それらの差分を求めるＣＤＳ処理が読出し制御のたびに実行される。１回目の読出し制御では、初期値の加算信号がリセットレベルとして読み出され、１回目の露光時間に応じた加算信号が信号レベルとして読み出される。２回目以降の読出し制御では、前回の信号レベルがリセットレベルとして再度読み出され、今回の露光時間に応じた加算信号が信号レベルとして読み出される。そして、その前回の加算信号（リセットレベル）と今回の加算信号（信号レベル）との差分がＣＤＳ処理により求められる。画像処理部２９０は、差分が所定の閾値を超える領域を動きのあった領域として検出する。
図１４は、第１の実施の形態の変形例における固体撮像素子２００の動作の一例を示すフローチャートである。この第１の実施の形態の変形例の固体撮像素子２００の動作は、照度の検出（ステップＳ９０８）の代わりに、動きの検出（Ｓ９０９）を行う点において第１の実施の形態と異なる。
上述した固体撮像素子２００は、低解像度、低消費電力、グローバルシャッタ動作の特徴を生かし、撮像装置１００などのカメラに限らず、環境を観察するセンサなどに適用することもできる。その場合、固体撮像素子２００は、消費電力の低い画素加算により、動きなどのアクションを検出し、その後に、通常読出しにより高解像度画像を得る動作が可能になる。このような動き検出機能を生体調査に応用すれば、消費電力が低いという特徴により、電池を交換する頻度を下げることができる。また、森林などに配置し、山崩れなどアクションがあった際に詳細を連絡する用途や、自然災害時を早期発見する用途などにも固体撮像素子２００を用いることができる。固体撮像素子２００は消費電力が低いため、電池やソーラーパネルにより長時間メンテナンスフリーで対応することができる。このため、多量のセンサを用いたアプリケーションを用いる際に有利である。
また、動き検出の応用として、フレームレートが非常に高速化できるメリットを生かし、高速物体を検知することができる。この検知結果は、様々な用途に応用することができる。例えば、撮像制御部１３０が、動き検出の結果に基づいて走行中の車両数をカウントし、カウント値が一定数を超えた時に、通常読出しに移行させる制御を行うことができる。また、画像処理部２９０などが動き検出の結果から車両の速度を測定し、その速度が一定速度以上になったときに撮像制御部１３０が通常読出しに移行させることもできる。
このように、本技術の第１の実施の形態の変形例によれば、前回の加算信号と今回の加算信号とを順に読み出す制御を複数回実行して、画素ブロックごとに前回と今回との加算信号の差分を検出するため、その差分から、被写体の動きを検出することができる。
＜２．第２の実施の形態＞
上述の第１の実施の形態では、通常画素２３０ごとにトランジスタを５個ずつ設けていたが、画素数が増大するに伴って画素アレイ部２２０の回路規模が増大してしまう。通常画素２３０ごとのトランジスタ数を減らせば、回路規模を削減することができる。この第２の実施の形態の固体撮像素子２００は、画素アレイ部２２０の回路規模を削減した点において第１の実施の形態と異なる。
図１５は、第２の実施の形態における通常画素２３０の一構成例を示す回路図である。この第２の実施の形態の通常画素２３０は、接続トランジスタ２３２を備えない点において第１の実施の形態と異なる。また、第２の実施の形態のリセットトランジスタ２３１は、リセット信号ＲＳＴ０に従って浮遊拡散層２３５と、接続線２３９−ｍとを接続する。このリセットトランジスタ２３１を制御することにより、第１の実施の形態と同様に浮遊拡散層２３５を初期化するほか、接続線２３９−ｍへの接続も行うことができる。このため、接続トランジスタ２３２が不要となる。なお、リセットトランジスタ２３１は、特許請求の範囲に記載の接続トランジスタの一例である。
図１６は、第２の実施の形態における画素加算読出し期間の固体撮像素子２００の動作の一例を示すタイミングチャートである。
タイミングＴ１０において、行走査回路２１０は、リセット信号ＲＳＴｎと、接続信号ＦＤＣｎおよびＦＤＣｂと、選択信号ＳＥＬｂとをハイレベルに制御する。タイミングＴ１０の後のタイミングＴ１１において、行走査回路２１０は、リセット信号ＲＳＴｂをハイレベルに制御する。これにより、画素ブロックの浮遊拡散層２３５が初期化され、接続線２３９−ｍの電位が初期化される。
そして、タイミングＴ１１の後のタイミングＴ１２において行走査回路２１０は、転送信号ＴＲＧｎのそれぞれをパルス期間に亘ってハイレベルに制御する。これにより、全画素ブロックから遮光領域２２３へ電荷が転送される。
また、行走査回路２１０は、タイミングＴ１２の後のタイミングＴ１３において、リセット信号ＲＳＴｎと、接続信号ＦＤＣｎおよびＦＤＣｂと、選択信号ＳＥＬｂとをローレベルに制御する。この制御により加算した信号の読出しが終了する。
また、各列のＡＤ変換器２６１は、タイミングＴ１１からタイミングＴ１２までの間にリセットレベルをサンプリングし、タイミングＴ１２からタイミングＴ１３までの間に信号レベルをサンプリングする。
このように、本技術の第２の実施の形態によれば、リセットトランジスタ２３１が浮遊拡散層２３５と接続線２３９−ｍとを接続するため、接続トランジスタ２３２を設ける必要がなくなる。これにより、画素アレイ部２２０の回路規模を削減することができる。
＜３．第３の実施の形態＞
上述の第１の実施の形態では、通常画素２３０および遮光画素２４０の構成を同一にして製造を容易にするという観点から、遮光画素２４０にも光電変換素子２４４および転送トランジスタ２４３を設けていた。しかし、回路規模の削減の方を優先して、遮光画素２４０には光電変換素子２４４および転送トランジスタ２４３を遮光画素２４０に設けない構成としてもよい。この第３の実施の形態の固体撮像素子２００は、遮光領域２２３の回路規模を削減した点において第１の実施の形態と異なる。
図１７は、第３の実施の形態における遮光画素２４０の一構成例を示す回路図である。この第３の実施の形態の遮光画素２４０は、光電変換素子２４４および転送トランジスタ２４３を備えない点において第１の実施の形態と異なる。
このように、本技術の第３の実施の形態によれば、遮光画素２４０に光電変換素子２４４および転送トランジスタ２４３を設けないため、遮光領域２２３の回路規模を削減することができる。
＜４．第４の実施の形態＞
上述の第１の実施の形態では、通常画素２３０内の接続トランジスタ２３２が浮遊拡散層２３５を接続線２３９−ｍに接続していた。しかし、接続トランジスタ２３２がオフ状態の期間において、浮遊拡散層２３５から接続線２３９−ｍへリーク電流が流れるおそれがある。画素当たりのリーク電流は微小であるものの、画素加算する画素数が多くなるほど、リーク電流の合計値が大きくなり、読み出す値に影響が現れる可能性が高くなる。この浮遊拡散層２３５からのリーク電流の影響を抑制するには、浮遊拡散層２３５でなく、光電変換素子２３７を接続線２３９−ｍに接続する構成とすればよい。この第４の実施の形態の固体撮像素子２００は、光電変換素子２３７を接続線２３９−ｍに接続する点において第１の実施の形態と異なる。
図１８は、第４の実施の形態における通常画素２３０の一構成例を示す回路図である。この第４の実施の形態の通常画素２３０は、接続トランジスタ２３２が、接続信号ＦＤＣｎに従って光電変換素子２３７を接続線２３９−ｍに接続する点において第１の実施の形態と異なる。
図１９は、第４の実施の形態における画素加算読出し期間の固体撮像素子２００の動作の一例を示すタイミングチャートである。
タイミングＴ１０において、行走査回路２１０は、接続信号ＦＤＣｎおよび選択信号ＳＥＬｂを一定期間に亘ってハイレベルに制御する。そして、タイミングＴ１０の後のタイミングＴ１１において行走査回路２１０は、リセット信号ＲＳＴｂを一定期間に亘ってハイレベルに制御する。これにより、全画素ブロックの浮遊拡散層２３５が初期化される。ここで、リセット信号ＲＳＴｂがハイレベルの期間は、リセットレベルのＡＤ変換が完了するのに十分な長時間が設定される。
そして、タイミングＴ１１の後のタイミングＴ１２において行走査回路２１０は、接続信号ＦＤＣｂをハイレベルに制御する。これにより、全画素ブロックから遮光領域２２３へ電荷が転送される。
また、行走査回路２１０は、タイミングＴ１２の後のタイミングＴ１３において接続信号ＦＤＣｎおよびＦＤＣｂと選択信号ＳＥＬｂとをローレベルに制御する。この制御により加算した信号の読出しが終了する。
また、各列のＡＤ変換器２６１は、リセット信号ＲＳＴｂがハイレベルの期間内にリセットレベルをサンプリングし、タイミングＴ１１からタイミングＴ１２までの間に信号レベルをサンプリングする。
なお、ＡＤ変換期間を跨いで接続信号ＦＤＣｂをオン状態に制御しているが、図１１に例示したように、ＡＤ変換を行う前にオフ状態にしてもよい。
このように、本技術の第４の実施の形態によれば、光電変換素子２３７を接続線２３９−ｍに接続するため、浮遊拡散層２３５からのリーク電流の影響を抑制することができる。
＜５．第５の実施の形態＞
上述の第１の実施の形態では、画素ブロック２２２ごとに画素信号を加算していたが、画素ブロック２２２同士は接続されていないため、複数の画素ブロック２２２のそれぞれの加算信号をさらに加算することができなかった。この第５の実施の形態の固体撮像素子２００は、複数の画素ブロック２２２のそれぞれの加算信号をさらに加算する点において第１の実施の形態と異なる。
図２０は、第５の実施の形態における画素アレイ部２２０および信号処理部２６０の一構成例を示す平面図である。この第５の実施の形態の画素アレイ部２２０において、受光領域２２１には、複数の画素ブロック３００が二次元格子状に配列される。画素ブロック３００のそれぞれには、複数（例えば、４行×２列）の画素が配列される。以下、（水平方向など）に配列された画素ブロック３００の集合を「ブロック行」と称し、行に垂直な方向に配列された画素ブロック３００の集合を「ブロック列」と称する。遮光領域２２３には、ブロック列ごとに遮光画素２４０が設けられる。また、信号処理部２６０には、ブロック列ごとにＡＤ変換器２６１が設けられる。
また、受光領域２２１は、複数の加算ブロック２２４に分割される。それぞれの加算ブロック２２４には、２ブロック列以上（２行×２列など）の画素ブロック３００が設けられる。加算ブロック２２４のそれぞれは、遮光画素２４０と１対１に接続される。また、遮光画素２４０の個数は、加算ブロックの個数以上である。例えば、遮光画素２４０および加算ブロック２２４のそれぞれの個数は、いずれもＭ個である。
行走査回路２１０は、加算ブロック２２４のそれぞれを制御して、加算ブロック２２４から、対応する遮光画素２４０へ電荷を転送させる。図２０において、点線の矢印は、電荷の転送元および転送先を示す。
図２１は、第５の実施の形態における画素ブロック３００の一構成例を示す回路図である。この画素ブロック３００は、光電変換素子３０３、３０４、３０７、３０８、３１５、３１６、３１９および３２０と、転送トランジスタ３０１、３０２、３０５、３０６、３１２、３１３、３１７および３１８とを備える。また、画素ブロック３００は、リセットトランジスタ３０９、浮遊拡散層３１０、増幅トランジスタ３１１および選択トランジスタ３１４を備える。
転送トランジスタ３０１、３０２、３０５、３０６、３１２、３１３、３１７および３１８は、互いに異なる光電変換素子に接続され、対応する光電変換素子からの電荷を浮遊拡散層３１０に転送する。また、これらの転送トランジスタは、転送信号ＴＲＧｎ０乃至ＴＲＧｎ７により駆動する。リセットトランジスタ３０９、浮遊拡散層３１０、増幅トランジスタ３１１および選択トランジスタ３１４は、８画素で共有される。
このように、本技術の第５の実施の形態によれば、複数の画素ブロック３００からなる加算ブロック２２４から、対応する遮光画素２４０へ電荷を転送するため、画素ブロック３００のそれぞれにおいて加算された信号同士をさらに加算することができる。
＜６．第６の実施の形態＞
上述の第１の実施の形態では、通常画素２３０のそれぞれの浮遊拡散層を接続線２３９−ｍに接続し、行ごとに４本の水平信号線を配線していたが、行数の増大に伴って水平信号線の配線数が増大してしまう。隣接する２つの通常画素２３０のそれぞれの浮遊拡散層を接続し、それらの一方を接続線２３９−ｍに接続する構成とすれば、水平信号線の配線数を削減することができる。この第６の実施の形態の固体撮像素子２００は、隣接する２つの通常画素２３０のそれぞれの浮遊拡散層を接続する点において第１の実施の形態と異なる。
図２２は、第６の実施の形態における画素アレイ部２２０の一構成例を示す平面図である。この第５の実施の形態において、垂直方向において隣接する一対の通常画素（３５０および３６０）のそれぞれの浮遊拡散層は接続信号ＦＤＣｎの制御により接続される。また、その一対の通常画素の一方（例えば、通常画素３６０）の浮遊拡散層が接続線２３９−ｍに接続される。
図２３は、第６の実施の形態における通常画素３５０および３６０の一構成例を示す回路図である。通常画素３５０は、光電変換素子３５１、転送トランジスタ３５２、リセットトランジスタ３５３、増幅トランジスタ３５４、選択トランジスタ３５５および浮遊拡散層３５６を備える。また、通常画素３６０は、光電変換素子３６１、転送トランジスタ３６２、接続トランジスタ３６３、増幅トランジスタ３６４、選択トランジスタ３６５および浮遊拡散層３６６を備える。
転送トランジスタ３５２は、転送信号ＴＲＧｎに従って、光電変換素子３５１から浮遊拡散層３５６に電荷を転送する。リセットトランジスタ３５３は、リセット信号ＲＳＴｎに従って浮遊拡散層３５６を初期化する。
また、転送トランジスタ３６２は、転送信号ＴＲＧｎに従って、光電変換素子３６１から浮遊拡散層３６６に電荷を転送する。接続トランジスタ３６３は、接続信号ＦＤＣｎに従って浮遊拡散層３５６および３６６を接続し、通常画素３５０から通常画素３６０へ電荷を転送する。この浮遊拡散層３６６は、接続線２３９−ｍにも接続されている。行走査回路２１０は、浮遊拡散層３５６および３６６を初期化する際に、リセットトランジスタ３５３および接続トランジスタ３６３の両方をオン状態に制御する。
上述の構成によれば、リセットトランジスタ３５３および接続トランジスタ３６３を通常画素３５０および３６０で共有するため、リセット信号ＲＳＴｎを伝送する水平信号線と接続信号ＦＤＣｎを伝送する水平信号線とのそれぞれは、２行ごとに１本でよい。したがって、１行ごとに１本を配線する第１の実施の形態と比較して水平信号線の本数を削減することができる。
このように、本技術の第６の実施の形態によれば、リセットトランジスタ３５３および接続トランジスタ３６３を通常画素３５０および３６０で共有するため、それらのトランジスタを制御する信号を伝送するための水平信号線の配線数を削減することができる。
＜＜第１の応用例＞＞
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、内視鏡手術システムに適用されてもよい。
図２４は、本開示に係る技術が適用され得る内視鏡手術システム５０００の概略的な構成の一例を示す図である。図２４では、術者（医師）５０６７が、内視鏡手術システム５０００を用いて、患者ベッド５０６９上の患者５０７１に手術を行っている様子が図示されている。図示するように、内視鏡手術システム５０００は、内視鏡５００１と、その他の術具５０１７と、内視鏡５００１を支持する支持アーム装置５０２７と、内視鏡下手術のための各種の装置が搭載されたカート５０３７と、から構成される。
内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ５０２５ａ〜５０２５ｄと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ５０２５ａ〜５０２５ｄから、内視鏡５００１の鏡筒５００３や、その他の術具５０１７が患者５０７１の体腔内に挿入される。図示する例では、その他の術具５０１７として、気腹チューブ５０１９、エネルギー処置具５０２１及び鉗子５０２３が、患者５０７１の体腔内に挿入されている。また、エネルギー処置具５０２１は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具５０１７はあくまで一例であり、術具５０１７としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
内視鏡５００１によって撮影された患者５０７１の体腔内の術部の画像が、表示装置５０４１に表示される。術者５０６７は、表示装置５０４１に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具５０２１や鉗子５０２３を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ５０１９、エネルギー処置具５０２１及び鉗子５０２３は、手術中に、術者５０６７又は助手等によって支持される。
（支持アーム装置）
支持アーム装置５０２７は、ベース部５０２９から延伸するアーム部５０３１を備える。図示する例では、アーム部５０３１は、関節部５０３３ａ、５０３３ｂ、５０３３ｃ、及びリンク５０３５ａ、５０３５ｂから構成されており、アーム制御装置５０４５からの制御により駆動される。アーム部５０３１によって内視鏡５００１が支持され、その位置及び姿勢が制御される。これにより、内視鏡５００１の安定的な位置の固定が実現され得る。
（内視鏡）
内視鏡５００１は、先端から所定の長さの領域が患者５０７１の体腔内に挿入される鏡筒５００３と、鏡筒５００３の基端に接続されるカメラヘッド５００５と、から構成される。図示する例では、硬性の鏡筒５００３を有するいわゆる硬性鏡として構成される内視鏡５００１を図示しているが、内視鏡５００１は、軟性の鏡筒５００３を有するいわゆる軟性鏡として構成されてもよい。
鏡筒５００３の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡５００１には光源装置５０４３が接続されており、当該光源装置５０４３によって生成された光が、鏡筒５００３の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者５０７１の体腔内の観察対象に向かって照射される。なお、内視鏡５００１は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド５００５の内部には光学系及び撮像素子が設けられており、観察対象からの反射光（観察光）は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、ＲＡＷデータとしてカメラコントロールユニット（ＣＣＵ：Camera Control Unit）５０３９に送信される。なお、カメラヘッド５００５には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
なお、例えば立体視（３Ｄ表示）等に対応するために、カメラヘッド５００５には撮像素子が複数設けられてもよい。この場合、鏡筒５００３の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
（カートに搭載される各種の装置）
ＣＣＵ５０３９は、ＣＰＵ（Central Processing Unit）やＧＰＵ（Graphics Processing Unit）等によって構成され、内視鏡５００１及び表示装置５０４１の動作を統括的に制御する。具体的には、ＣＣＵ５０３９は、カメラヘッド５００５から受け取った画像信号に対して、例えば現像処理（デモザイク処理）等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。ＣＣＵ５０３９は、当該画像処理を施した画像信号を表示装置５０４１に提供する。また、ＣＣＵ５０３９は、カメラヘッド５００５に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。
表示装置５０４１は、ＣＣＵ５０３９からの制御により、当該ＣＣＵ５０３９によって画像処理が施された画像信号に基づく画像を表示する。内視鏡５００１が例えば４Ｋ（水平画素数３８４０×垂直画素数２１６０）又は８Ｋ（水平画素数７６８０×垂直画素数４３２０）等の高解像度の撮影に対応したものである場合、及び／又は３Ｄ表示に対応したものである場合には、表示装置５０４１としては、それぞれに対応して、高解像度の表示が可能なもの、及び／又は３Ｄ表示可能なものが用いられ得る。４Ｋ又は８Ｋ等の高解像度の撮影に対応したものである場合、表示装置５０４１として５５インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置５０４１が設けられてもよい。
光源装置５０４３は、例えばＬＥＤ（light emitting diode）等の光源から構成され、術部を撮影する際の照射光を内視鏡５００１に供給する。
アーム制御装置５０４５は、例えばＣＰＵ等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置５０２７のアーム部５０３１の駆動を制御する。
入力装置５０４７は、内視鏡手術システム５０００に対する入力インタフェースである。ユーザは、入力装置５０４７を介して、内視鏡手術システム５０００に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置５０４７を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置５０４７を介して、アーム部５０３１を駆動させる旨の指示や、内視鏡５００１による撮像条件（照射光の種類、倍率及び焦点距離等）を変更する旨の指示、エネルギー処置具５０２１を駆動させる旨の指示等を入力する。
入力装置５０４７の種類は限定されず、入力装置５０４７は各種の公知の入力装置であってよい。入力装置５０４７としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ５０５７及び／又はレバー等が適用され得る。入力装置５０４７としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置５０４１の表示面上に設けられてもよい。
あるいは、入力装置５０４７は、例えばメガネ型のウェアラブルデバイスやＨＭＤ（Head Mounted Display）等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置５０４７は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置５０４７は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置５０４７が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ（例えば術者５０６７）が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
処置具制御装置５０４９は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具５０２１の駆動を制御する。気腹装置５０５１は、内視鏡５００１による視野の確保及び術者の作業空間の確保の目的で、患者５０７１の体腔を膨らめるために、気腹チューブ５０１９を介して当該体腔内にガスを送り込む。レコーダ５０５３は、手術に関する各種の情報を記録可能な装置である。プリンタ５０５５は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
以下、内視鏡手術システム５０００において特に特徴的な構成について、更に詳細に説明する。
（支持アーム装置）
支持アーム装置５０２７は、基台であるベース部５０２９と、ベース部５０２９から延伸するアーム部５０３１と、を備える。図示する例では、アーム部５０３１は、複数の関節部５０３３ａ、５０３３ｂ、５０３３ｃと、関節部５０３３ｂによって連結される複数のリンク５０３５ａ、５０３５ｂと、から構成されているが、図２４では、簡単のため、アーム部５０３１の構成を簡略化して図示している。実際には、アーム部５０３１が所望の自由度を有するように、関節部５０３３ａ〜５０３３ｃ及びリンク５０３５ａ、５０３５ｂの形状、数及び配置、並びに関節部５０３３ａ〜５０３３ｃの回転軸の方向等が適宜設定され得る。例えば、アーム部５０３１は、好適に、６自由度以上の自由度を有するように構成され得る。これにより、アーム部５０３１の可動範囲内において内視鏡５００１を自由に移動させることが可能になるため、所望の方向から内視鏡５００１の鏡筒５００３を患者５０７１の体腔内に挿入することが可能になる。
関節部５０３３ａ〜５０３３ｃにはアクチュエータが設けられており、関節部５０３３ａ〜５０３３ｃは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置５０４５によって制御されることにより、各関節部５０３３ａ〜５０３３ｃの回転角度が制御され、アーム部５０３１の駆動が制御される。これにより、内視鏡５００１の位置及び姿勢の制御が実現され得る。この際、アーム制御装置５０４５は、力制御又は位置制御等、各種の公知の制御方式によってアーム部５０３１の駆動を制御することができる。
例えば、術者５０６７が、入力装置５０４７（フットスイッチ５０５７を含む）を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置５０４５によってアーム部５０３１の駆動が適宜制御され、内視鏡５００１の位置及び姿勢が制御されてよい。当該制御により、アーム部５０３１の先端の内視鏡５００１を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部５０３１は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部５０３１は、手術室から離れた場所に設置される入力装置５０４７を介してユーザによって遠隔操作され得る。
また、力制御が適用される場合には、アーム制御装置５０４５は、ユーザからの外力を受け、その外力にならってスムーズにアーム部５０３１が移動するように、各関節部５０３３ａ〜５０３３ｃのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部５０３１に触れながらアーム部５０３１を移動させる際に、比較的軽い力で当該アーム部５０３１を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡５００１を移動させることが可能となり、ユーザの利便性を向上させることができる。
ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡５００１が支持されていた。これに対して、支持アーム装置５０２７を用いることにより、人手によらずに内視鏡５００１の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
なお、アーム制御装置５０４５は必ずしもカート５０３７に設けられなくてもよい。また、アーム制御装置５０４５は必ずしも１つの装置でなくてもよい。例えば、アーム制御装置５０４５は、支持アーム装置５０２７のアーム部５０３１の各関節部５０３３ａ〜５０３３ｃにそれぞれ設けられてもよく、複数のアーム制御装置５０４５が互いに協働することにより、アーム部５０３１の駆動制御が実現されてもよい。
（光源装置）
光源装置５０４３は、内視鏡５００１に術部を撮影する際の照射光を供給する。光源装置５０４３は、例えばＬＥＤ、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、ＲＧＢレーザ光源の組み合わせにより白色光源が構成される場合には、各色（各波長）の出力強度及び出力タイミングを高精度に制御することができるため、光源装置５０４３において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、ＲＧＢレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド５００５の撮像素子の駆動を制御することにより、ＲＧＢそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置５０４３は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド５００５の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置５０４３は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光（すなわち、白色光）に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察（Narrow Band Imaging）が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの（自家蛍光観察）、又はインドシアニングリーン（ICG）等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置５０４３は、このような特殊光観察に対応した狭帯域光及び／又は励起光を供給可能に構成され得る。
（カメラヘッド及びＣＣＵ）
図２５を参照して、内視鏡５００１のカメラヘッド５００５及びＣＣＵ５０３９の機能についてより詳細に説明する。図２５は、図２４に示すカメラヘッド５００５及びＣＣＵ５０３９の機能構成の一例を示すブロック図である。
図２５を参照すると、カメラヘッド５００５は、その機能として、レンズユニット５００７と、撮像部５００９と、駆動部５０１１と、通信部５０１３と、カメラヘッド制御部５０１５と、を有する。また、ＣＣＵ５０３９は、その機能として、通信部５０５９と、画像処理部５０６１と、制御部５０６３と、を有する。カメラヘッド５００５とＣＣＵ５０３９とは、伝送ケーブル５０６５によって双方向に通信可能に接続されている。
まず、カメラヘッド５００５の機能構成について説明する。レンズユニット５００７は、鏡筒５００３との接続部に設けられる光学系である。鏡筒５００３の先端から取り込まれた観察光は、カメラヘッド５００５まで導光され、当該レンズユニット５００７に入射する。レンズユニット５００７は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット５００７は、撮像部５００９の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
撮像部５００９は撮像素子によって構成され、レンズユニット５００７の後段に配置される。レンズユニット５００７を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部５００９によって生成された画像信号は、通信部５０１３に提供される。
撮像部５００９を構成する撮像素子としては、例えばＣＭＯＳ（Complementary Metal Oxide Semiconductor）タイプのイメージセンサであり、Ｂａｙｅｒ配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば４Ｋ以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者５０６７は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
また、撮像部５００９を構成する撮像素子は、３Ｄ表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための１対の撮像素子を有するように構成される。３Ｄ表示が行われることにより、術者５０６７は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部５００９が多板式で構成される場合には、各撮像素子に対応して、レンズユニット５００７も複数系統設けられる。
また、撮像部５００９は、必ずしもカメラヘッド５００５に設けられなくてもよい。例えば、撮像部５００９は、鏡筒５００３の内部に、対物レンズの直後に設けられてもよい。
駆動部５０１１は、アクチュエータによって構成され、カメラヘッド制御部５０１５からの制御により、レンズユニット５００７のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部５００９による撮像画像の倍率及び焦点が適宜調整され得る。
通信部５０１３は、ＣＣＵ５０３９との間で各種の情報を送受信するための通信装置によって構成される。通信部５０１３は、撮像部５００９から得た画像信号をＲＡＷデータとして伝送ケーブル５０６５を介してＣＣＵ５０３９に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者５０６７が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部５０１３には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル５０６５を介してＣＣＵ５０３９に送信される。
また、通信部５０１３は、ＣＣＵ５０３９から、カメラヘッド５００５の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに／又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部５０１３は、受信した制御信号をカメラヘッド制御部５０１５に提供する。なお、ＣＣＵ５０３９からの制御信号も、光通信によって伝送されてもよい。この場合、通信部５０１３には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部５０１５に提供される。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてＣＣＵ５０３９の制御部５０６３によって自動的に設定される。つまり、いわゆるＡＥ（Auto Exposure）機能、ＡＦ（Auto Focus）機能及びＡＷＢ（Auto White Balance）機能が内視鏡５００１に搭載される。
カメラヘッド制御部５０１５は、通信部５０１３を介して受信したＣＣＵ５０３９からの制御信号に基づいて、カメラヘッド５００５の駆動を制御する。例えば、カメラヘッド制御部５０１５は、撮像画像のフレームレートを指定する旨の情報及び／又は撮像時の露光を指定する旨の情報に基づいて、撮像部５００９の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部５０１５は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部５０１１を介してレンズユニット５００７のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部５０１５は、更に、鏡筒５００３やカメラヘッド５００５を識別するための情報を記憶する機能を備えてもよい。
なお、レンズユニット５００７や撮像部５００９等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド５００５について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
次に、ＣＣＵ５０３９の機能構成について説明する。通信部５０５９は、カメラヘッド５００５との間で各種の情報を送受信するための通信装置によって構成される。通信部５０５９は、カメラヘッド５００５から、伝送ケーブル５０６５を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部５０５９には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部５０５９は、電気信号に変換した画像信号を画像処理部５０６１に提供する。
また、通信部５０５９は、カメラヘッド５００５に対して、カメラヘッド５００５の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
画像処理部５０６１は、カメラヘッド５００５から送信されたＲＡＷデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理（帯域強調処理、超解像処理、ＮＲ（Noise reduction）処理及び／又は手ブレ補正処理等）、並びに／又は拡大処理（電子ズーム処理）等、各種の公知の信号処理が含まれる。また、画像処理部５０６１は、ＡＥ、ＡＦ及びＡＷＢを行うための、画像信号に対する検波処理を行う。
画像処理部５０６１は、ＣＰＵやＧＰＵ等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部５０６１が複数のＧＰＵによって構成される場合には、画像処理部５０６１は、画像信号に係る情報を適宜分割し、これら複数のＧＰＵによって並列的に画像処理を行う。
制御部５０６３は、内視鏡５００１による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部５０６３は、カメラヘッド５００５の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部５０６３は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡５００１にＡＥ機能、ＡＦ機能及びＡＷＢ機能が搭載されている場合には、制御部５０６３は、画像処理部５０６１による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
また、制御部５０６３は、画像処理部５０６１によって画像処理が施された画像信号に基づいて、術部の画像を表示装置５０４１に表示させる。この際、制御部５０６３は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部５０６３は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具５０２１使用時のミスト等を認識することができる。制御部５０６３は、表示装置５０４１に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者５０６７に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
カメラヘッド５００５及びＣＣＵ５０３９を接続する伝送ケーブル５０６５は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル５０６５を用いて有線で通信が行われていたが、カメラヘッド５００５とＣＣＵ５０３９との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル５０６５を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル５０６５によって妨げられる事態が解消され得る。
以上、本開示に係る技術が適用され得る内視鏡手術システム５０００の一例について説明した。なお、ここでは、一例として内視鏡手術システム５０００について説明したが、本開示に係る技術が適用され得るシステムはかかる例に限定されない。例えば、本開示に係る技術は、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
本開示に係る技術は、以上説明した構成のうち、図２５のカメラヘッド５００５に好適に適用され得る。具体的には、図２に例示した固体撮像素子２００は、カメラヘッド５００５内の撮像部５００９に用いられる。固体撮像素子２００の適用により、画素加算時の読出し回数が少なくなるため、内視鏡手術システム５０００の消費電力を低減することができる。
＜＜第２の応用例＞＞
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、手術室システムに適用されてもよい。
図２６は、本開示に係る技術が適用され得る手術室システム５１００の全体構成を概略的に示す図である。図２６を参照すると、手術室システム５１００は、手術室内に設置される装置群が視聴覚コントローラ（AV Controller）５１０７及び手術室制御装置５１０９を介して互いに連携可能に接続されることにより構成される。
手術室には、様々な装置が設置され得る。図２６では、一例として、内視鏡下手術のための各種の装置群５１０１と、手術室の天井に設けられ術者の手元を撮像するシーリングカメラ５１８７と、手術室の天井に設けられ手術室全体の様子を撮像する術場カメラ５１８９と、複数の表示装置５１０３Ａ〜５１０３Ｄと、レコーダ５１０５と、患者ベッド５１８３と、照明５１９１と、を図示している。
ここで、これらの装置のうち、装置群５１０１は、後述する内視鏡手術システム５１１３に属するものであり、内視鏡や当該内視鏡によって撮像された画像を表示する表示装置等からなる。内視鏡手術システム５１１３に属する各装置は医療用機器とも呼称される。一方、表示装置５１０３Ａ〜５１０３Ｄ、レコーダ５１０５、患者ベッド５１８３及び照明５１９１は、内視鏡手術システム５１１３とは別個に、例えば手術室に備え付けられている装置である。これらの内視鏡手術システム５１１３に属さない各装置は非医療用機器とも呼称される。視聴覚コントローラ５１０７及び／又は手術室制御装置５１０９は、これら医療機器及び非医療機器の動作を互いに連携して制御する。
視聴覚コントローラ５１０７は、医療機器及び非医療機器における画像表示に関する処理を、統括的に制御する。具体的には、手術室システム５１００が備える装置のうち、装置群５１０１、シーリングカメラ５１８７及び術場カメラ５１８９は、手術中に表示すべき情報（以下、表示情報ともいう）を発信する機能を有する装置（以下、発信元の装置とも呼称する）であり得る。また、表示装置５１０３Ａ〜５１０３Ｄは、表示情報が出力される装置（以下、出力先の装置とも呼称する）であり得る。また、レコーダ５１０５は、発信元の装置及び出力先の装置の双方に該当する装置であり得る。視聴覚コントローラ５１０７は、発信元の装置及び出力先の装置の動作を制御し、発信元の装置から表示情報を取得するとともに、当該表示情報を出力先の装置に送信し、表示又は記録させる機能を有する。なお、表示情報とは、手術中に撮像された各種の画像や、手術に関する各種の情報（例えば、患者の身体情報や、過去の検査結果、術式についての情報等）等である。
具体的には、視聴覚コントローラ５１０７には、装置群５１０１から、表示情報として、内視鏡によって撮像された患者の体腔内の術部の画像についての情報が送信され得る。また、シーリングカメラ５１８７から、表示情報として、当該シーリングカメラ５１８７によって撮像された術者の手元の画像についての情報が送信され得る。また、術場カメラ５１８９から、表示情報として、当該術場カメラ５１８９によって撮像された手術室全体の様子を示す画像についての情報が送信され得る。なお、手術室システム５１００に撮像機能を有する他の装置が存在する場合には、視聴覚コントローラ５１０７は、表示情報として、当該他の装置からも当該他の装置によって撮像された画像についての情報を取得してもよい。
あるいは、例えば、レコーダ５１０５には、過去に撮像されたこれらの画像についての情報が視聴覚コントローラ５１０７によって記録されている。視聴覚コントローラ５１０７は、表示情報として、レコーダ５１０５から当該過去に撮像された画像についての情報を取得することができる。なお、レコーダ５１０５には、手術に関する各種の情報も事前に記録されていてもよい。
視聴覚コントローラ５１０７は、出力先の装置である表示装置５１０３Ａ〜５１０３Ｄの少なくともいずれかに、取得した表示情報（すなわち、手術中に撮影された画像や、手術に関する各種の情報）を表示させる。図示する例では、表示装置５１０３Ａは手術室の天井から吊り下げられて設置される表示装置であり、表示装置５１０３Ｂは手術室の壁面に設置される表示装置であり、表示装置５１０３Ｃは手術室内の机上に設置される表示装置であり、表示装置５１０３Ｄは表示機能を有するモバイル機器（例えば、タブレットＰＣ（Personal Computer））である。
また、図２６では図示を省略しているが、手術室システム５１００には、手術室の外部の装置が含まれてもよい。手術室の外部の装置は、例えば、病院内外に構築されたネットワークに接続されるサーバや、医療スタッフが用いるＰＣ、病院の会議室に設置されるプロジェクタ等であり得る。このような外部装置が病院外にある場合には、視聴覚コントローラ５１０７は、遠隔医療のために、テレビ会議システム等を介して、他の病院の表示装置に表示情報を表示させることもできる。
手術室制御装置５１０９は、非医療機器における画像表示に関する処理以外の処理を、統括的に制御する。例えば、手術室制御装置５１０９は、患者ベッド５１８３、シーリングカメラ５１８７、術場カメラ５１８９及び照明５１９１の駆動を制御する。
手術室システム５１００には、集中操作パネル５１１１が設けられており、ユーザは、当該集中操作パネル５１１１を介して、視聴覚コントローラ５１０７に対して画像表示についての指示を与えたり、手術室制御装置５１０９に対して非医療機器の動作についての指示を与えることができる。集中操作パネル５１１１は、表示装置の表示面上にタッチパネルが設けられて構成される。
図２７は、集中操作パネル５１１１における操作画面の表示例を示す図である。図２７では、一例として、手術室システム５１００に、出力先の装置として、２つの表示装置が設けられている場合に対応する操作画面を示している。図２７を参照すると、操作画面５１９３には、発信元選択領域５１９５と、プレビュー領域５１９７と、コントロール領域５２０１と、が設けられる。
発信元選択領域５１９５には、手術室システム５１００に備えられる発信元装置と、当該発信元装置が有する表示情報を表すサムネイル画面と、が紐付けられて表示される。ユーザは、表示装置に表示させたい表示情報を、発信元選択領域５１９５に表示されているいずれかの発信元装置から選択することができる。
プレビュー領域５１９７には、出力先の装置である２つの表示装置（Monitor1、Monitor2）に表示される画面のプレビューが表示される。図示する例では、１つの表示装置において４つの画像がＰｉｎＰ表示されている。当該４つの画像は、発信元選択領域５１９５において選択された発信元装置から発信された表示情報に対応するものである。４つの画像のうち、１つはメイン画像として比較的大きく表示され、残りの３つはサブ画像として比較的小さく表示される。ユーザは、４つの画像が表示された領域を適宜選択することにより、メイン画像とサブ画像を入れ替えることができる。また、４つの画像が表示される領域の下部には、ステータス表示領域５１９９が設けられており、当該領域に手術に関するステータス（例えば、手術の経過時間や、患者の身体情報等）が適宜表示され得る。
コントロール領域５２０１には、発信元の装置に対して操作を行うためのＧＵＩ（Graphical User Interface）部品が表示される発信元操作領域５２０３と、出力先の装置に対して操作を行うためのＧＵＩ部品が表示される出力先操作領域５２０５と、が設けられる。図示する例では、発信元操作領域５２０３には、撮像機能を有する発信元の装置におけるカメラに対して各種の操作（パン、チルト及びズーム）を行うためのＧＵＩ部品が設けられている。ユーザは、これらのＧＵＩ部品を適宜選択することにより、発信元の装置におけるカメラの動作を操作することができる。なお、図示は省略しているが、発信元選択領域５１９５において選択されている発信元の装置がレコーダである場合（すなわち、プレビュー領域５１９７において、レコーダに過去に記録された画像が表示されている場合）には、発信元操作領域５２０３には、当該画像の再生、再生停止、巻き戻し、早送り等の操作を行うためのＧＵＩ部品が設けられ得る。
また、出力先操作領域５２０５には、出力先の装置である表示装置における表示に対する各種の操作（スワップ、フリップ、色調整、コントラスト調整、２Ｄ表示と３Ｄ表示の切り替え）を行うためのＧＵＩ部品が設けられている。ユーザは、これらのＧＵＩ部品を適宜選択することにより、表示装置における表示を操作することができる。
なお、集中操作パネル５１１１に表示される操作画面は図示する例に限定されず、ユーザは、集中操作パネル５１１１を介して、手術室システム５１００に備えられる、視聴覚コントローラ５１０７及び手術室制御装置５１０９によって制御され得る各装置に対する操作入力が可能であってよい。
図２８は、以上説明した手術室システムが適用された手術の様子の一例を示す図である。シーリングカメラ５１８７及び術場カメラ５１８９は、手術室の天井に設けられ、患者ベッド５１８３上の患者５１８５の患部に対して処置を行う術者（医者）５１８１の手元及び手術室全体の様子を撮影可能である。シーリングカメラ５１８７及び術場カメラ５１８９には、倍率調整機能、焦点距離調整機能、撮影方向調整機能等が設けられ得る。照明５１９１は、手術室の天井に設けられ、少なくとも術者５１８１の手元を照射する。照明５１９１は、その照射光量、照射光の波長（色）及び光の照射方向等を適宜調整可能であってよい。
内視鏡手術システム５１１３、患者ベッド５１８３、シーリングカメラ５１８７、術場カメラ５１８９及び照明５１９１は、図２６に示すように、視聴覚コントローラ５１０７及び手術室制御装置５１０９（図２８では図示せず）を介して互いに連携可能に接続されている。手術室内には、集中操作パネル５１１１が設けられており、上述したように、ユーザは、当該集中操作パネル５１１１を介して、手術室内に存在するこれらの装置を適宜操作することが可能である。
以下、内視鏡手術システム５１１３の構成について詳細に説明する。図示するように、内視鏡手術システム５１１３は、内視鏡５１１５と、その他の術具５１３１と、内視鏡５１１５を支持する支持アーム装置５１４１と、内視鏡下手術のための各種の装置が搭載されたカート５１５１と、から構成される。
内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ５１３９ａ〜５１３９ｄと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ５１３９ａ〜５１３９ｄから、内視鏡５１１５の鏡筒５１１７や、その他の術具５１３１が患者５１８５の体腔内に挿入される。図示する例では、その他の術具５１３１として、気腹チューブ５１３３、エネルギー処置具５１３５及び鉗子５１３７が、患者５１８５の体腔内に挿入されている。また、エネルギー処置具５１３５は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具５１３１はあくまで一例であり、術具５１３１としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
内視鏡５１１５によって撮影された患者５１８５の体腔内の術部の画像が、表示装置５１５５に表示される。術者５１８１は、表示装置５１５５に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具５１３５や鉗子５１３７を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ５１３３、エネルギー処置具５１３５及び鉗子５１３７は、手術中に、術者５１８１又は助手等によって支持される。
（支持アーム装置）
支持アーム装置５１４１は、ベース部５１４３から延伸するアーム部５１４５を備える。図示する例では、アーム部５１４５は、関節部５１４７ａ、５１４７ｂ、５１４７ｃ、及びリンク５１４９ａ、５１４９ｂから構成されており、アーム制御装置５１５９からの制御により駆動される。アーム部５１４５によって内視鏡５１１５が支持され、その位置及び姿勢が制御される。これにより、内視鏡５１１５の安定的な位置の固定が実現され得る。
（内視鏡）
内視鏡５１１５は、先端から所定の長さの領域が患者５１８５の体腔内に挿入される鏡筒５１１７と、鏡筒５１１７の基端に接続されるカメラヘッド５１１９と、から構成される。図示する例では、硬性の鏡筒５１１７を有するいわゆる硬性鏡として構成される内視鏡５１１５を図示しているが、内視鏡５１１５は、軟性の鏡筒５１１７を有するいわゆる軟性鏡として構成されてもよい。
鏡筒５１１７の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡５１１５には光源装置５１５７が接続されており、当該光源装置５１５７によって生成された光が、鏡筒５１１７の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者５１８５の体腔内の観察対象に向かって照射される。なお、内視鏡５１１５は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド５１１９の内部には光学系及び撮像素子が設けられており、観察対象からの反射光（観察光）は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、ＲＡＷデータとしてカメラコントロールユニット（ＣＣＵ：Camera Control Unit）５１５３に送信される。なお、カメラヘッド５１１９には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
なお、例えば立体視（３Ｄ表示）等に対応するために、カメラヘッド５１１９には撮像素子が複数設けられてもよい。この場合、鏡筒５１１７の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
（カートに搭載される各種の装置）
ＣＣＵ５１５３は、ＣＰＵ（Central Processing Unit）やＧＰＵ（Graphics Processing Unit）等によって構成され、内視鏡５１１５及び表示装置５１５５の動作を統括的に制御する。具体的には、ＣＣＵ５１５３は、カメラヘッド５１１９から受け取った画像信号に対して、例えば現像処理（デモザイク処理）等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。ＣＣＵ５１５３は、当該画像処理を施した画像信号を表示装置５１５５に提供する。また、ＣＣＵ５１５３には、図２６に示す視聴覚コントローラ５１０７が接続される。ＣＣＵ５１５３は、画像処理を施した画像信号を視聴覚コントローラ５１０７にも提供する。また、ＣＣＵ５１５３は、カメラヘッド５１１９に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。当該撮像条件に関する情報は、入力装置５１６１を介して入力されてもよいし、上述した集中操作パネル５１１１を介して入力されてもよい。
表示装置５１５５は、ＣＣＵ５１５３からの制御により、当該ＣＣＵ５１５３によって画像処理が施された画像信号に基づく画像を表示する。内視鏡５１１５が例えば４Ｋ（水平画素数３８４０×垂直画素数２１６０）又は８Ｋ（水平画素数７６８０×垂直画素数４３２０）等の高解像度の撮影に対応したものである場合、及び／又は３Ｄ表示に対応したものである場合には、表示装置５１５５としては、それぞれに対応して、高解像度の表示が可能なもの、及び／又は３Ｄ表示可能なものが用いられ得る。４Ｋ又は８Ｋ等の高解像度の撮影に対応したものである場合、表示装置５１５５として５５インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置５１５５が設けられてもよい。
光源装置５１５７は、例えばＬＥＤ（light emitting diode）等の光源から構成され、術部を撮影する際の照射光を内視鏡５１１５に供給する。
アーム制御装置５１５９は、例えばＣＰＵ等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置５１４１のアーム部５１４５の駆動を制御する。
入力装置５１６１は、内視鏡手術システム５１１３に対する入力インタフェースである。ユーザは、入力装置５１６１を介して、内視鏡手術システム５１１３に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置５１６１を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置５１６１を介して、アーム部５１４５を駆動させる旨の指示や、内視鏡５１１５による撮像条件（照射光の種類、倍率及び焦点距離等）を変更する旨の指示、エネルギー処置具５１３５を駆動させる旨の指示等を入力する。
入力装置５１６１の種類は限定されず、入力装置５１６１は各種の公知の入力装置であってよい。入力装置５１６１としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ５１７１及び／又はレバー等が適用され得る。入力装置５１６１としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置５１５５の表示面上に設けられてもよい。
あるいは、入力装置５１６１は、例えばメガネ型のウェアラブルデバイスやＨＭＤ（Head Mounted Display）等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置５１６１は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置５１６１は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置５１６１が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ（例えば術者５１８１）が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
処置具制御装置５１６３は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具５１３５の駆動を制御する。気腹装置５１６５は、内視鏡５１１５による視野の確保及び術者の作業空間の確保の目的で、患者５１８５の体腔を膨らめるために、気腹チューブ５１３３を介して当該体腔内にガスを送り込む。レコーダ５１６７は、手術に関する各種の情報を記録可能な装置である。プリンタ５１６９は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
以下、内視鏡手術システム５１１３において特に特徴的な構成について、更に詳細に説明する。
（支持アーム装置）
支持アーム装置５１４１は、基台であるベース部５１４３と、ベース部５１４３から延伸するアーム部５１４５と、を備える。図示する例では、アーム部５１４５は、複数の関節部５１４７ａ、５１４７ｂ、５１４７ｃと、関節部５１４７ｂによって連結される複数のリンク５１４９ａ、５１４９ｂと、から構成されているが、図２８では、簡単のため、アーム部５１４５の構成を簡略化して図示している。実際には、アーム部５１４５が所望の自由度を有するように、関節部５１４７ａ〜５１４７ｃ及びリンク５１４９ａ、５１４９ｂの形状、数及び配置、並びに関節部５１４７ａ〜５１４７ｃの回転軸の方向等が適宜設定され得る。例えば、アーム部５１４５は、好適に、６自由度以上の自由度を有するように構成され得る。これにより、アーム部５１４５の可動範囲内において内視鏡５１１５を自由に移動させることが可能になるため、所望の方向から内視鏡５１１５の鏡筒５１１７を患者５１８５の体腔内に挿入することが可能になる。
関節部５１４７ａ〜５１４７ｃにはアクチュエータが設けられており、関節部５１４７ａ〜５１４７ｃは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置５１５９によって制御されることにより、各関節部５１４７ａ〜５１４７ｃの回転角度が制御され、アーム部５１４５の駆動が制御される。これにより、内視鏡５１１５の位置及び姿勢の制御が実現され得る。この際、アーム制御装置５１５９は、力制御又は位置制御等、各種の公知の制御方式によってアーム部５１４５の駆動を制御することができる。
例えば、術者５１８１が、入力装置５１６１（フットスイッチ５１７１を含む）を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置５１５９によってアーム部５１４５の駆動が適宜制御され、内視鏡５１１５の位置及び姿勢が制御されてよい。当該制御により、アーム部５１４５の先端の内視鏡５１１５を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部５１４５は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部５１４５は、手術室から離れた場所に設置される入力装置５１６１を介してユーザによって遠隔操作され得る。
また、力制御が適用される場合には、アーム制御装置５１５９は、ユーザからの外力を受け、その外力にならってスムーズにアーム部５１４５が移動するように、各関節部５１４７ａ〜５１４７ｃのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部５１４５に触れながらアーム部５１４５を移動させる際に、比較的軽い力で当該アーム部５１４５を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡５１１５を移動させることが可能となり、ユーザの利便性を向上させることができる。
ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡５１１５が支持されていた。これに対して、支持アーム装置５１４１を用いることにより、人手によらずに内視鏡５１１５の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
なお、アーム制御装置５１５９は必ずしもカート５１５１に設けられなくてもよい。また、アーム制御装置５１５９は必ずしも１つの装置でなくてもよい。例えば、アーム制御装置５１５９は、支持アーム装置５１４１のアーム部５１４５の各関節部５１４７ａ〜５１４７ｃにそれぞれ設けられてもよく、複数のアーム制御装置５１５９が互いに協働することにより、アーム部５１４５の駆動制御が実現されてもよい。
（光源装置）
光源装置５１５７は、内視鏡５１１５に術部を撮影する際の照射光を供給する。光源装置５１５７は、例えばＬＥＤ、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、ＲＧＢレーザ光源の組み合わせにより白色光源が構成される場合には、各色（各波長）の出力強度及び出力タイミングを高精度に制御することができるため、光源装置５１５７において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、ＲＧＢレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド５１１９の撮像素子の駆動を制御することにより、ＲＧＢそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置５１５７は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド５１１９の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置５１５７は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光（すなわち、白色光）に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察（Narrow Band Imaging）が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの（自家蛍光観察）、又はインドシアニングリーン（ICG）等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置５１５７は、このような特殊光観察に対応した狭帯域光及び／又は励起光を供給可能に構成され得る。
（カメラヘッド及びＣＣＵ）
図２９を参照して、内視鏡５１１５のカメラヘッド５１１９及びＣＣＵ５１５３の機能についてより詳細に説明する。図２９は、図２８に示すカメラヘッド５１１９及びＣＣＵ５１５３の機能構成の一例を示すブロック図である。
図２９を参照すると、カメラヘッド５１１９は、その機能として、レンズユニット５１２１と、撮像部５１２３と、駆動部５１２５と、通信部５１２７と、カメラヘッド制御部５１２９と、を有する。また、ＣＣＵ５１５３は、その機能として、通信部５１７３と、画像処理部５１７５と、制御部５１７７と、を有する。カメラヘッド５１１９とＣＣＵ５１５３とは、伝送ケーブル５１７９によって双方向に通信可能に接続されている。
まず、カメラヘッド５１１９の機能構成について説明する。レンズユニット５１２１は、鏡筒５１１７との接続部に設けられる光学系である。鏡筒５１１７の先端から取り込まれた観察光は、カメラヘッド５１１９まで導光され、当該レンズユニット５１２１に入射する。レンズユニット５１２１は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット５１２１は、撮像部５１２３の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
撮像部５１２３は撮像素子によって構成され、レンズユニット５１２１の後段に配置される。レンズユニット５１２１を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部５１２３によって生成された画像信号は、通信部５１２７に提供される。
撮像部５１２３を構成する撮像素子としては、例えばＣＭＯＳ（Complementary Metal Oxide Semiconductor）タイプのイメージセンサであり、Ｂａｙｅｒ配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば４Ｋ以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者５１８１は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
また、撮像部５１２３を構成する撮像素子は、３Ｄ表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための１対の撮像素子を有するように構成される。３Ｄ表示が行われることにより、術者５１８１は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部５１２３が多板式で構成される場合には、各撮像素子に対応して、レンズユニット５１２１も複数系統設けられる。
また、撮像部５１２３は、必ずしもカメラヘッド５１１９に設けられなくてもよい。例えば、撮像部５１２３は、鏡筒５１１７の内部に、対物レンズの直後に設けられてもよい。
駆動部５１２５は、アクチュエータによって構成され、カメラヘッド制御部５１２９からの制御により、レンズユニット５１２１のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部５１２３による撮像画像の倍率及び焦点が適宜調整され得る。
通信部５１２７は、ＣＣＵ５１５３との間で各種の情報を送受信するための通信装置によって構成される。通信部５１２７は、撮像部５１２３から得た画像信号をＲＡＷデータとして伝送ケーブル５１７９を介してＣＣＵ５１５３に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者５１８１が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部５１２７には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル５１７９を介してＣＣＵ５１５３に送信される。
また、通信部５１２７は、ＣＣＵ５１５３から、カメラヘッド５１１９の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに／又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部５１２７は、受信した制御信号をカメラヘッド制御部５１２９に提供する。なお、ＣＣＵ５１５３からの制御信号も、光通信によって伝送されてもよい。この場合、通信部５１２７には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部５１２９に提供される。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてＣＣＵ５１５３の制御部５１７７によって自動的に設定される。つまり、いわゆるＡＥ（Auto Exposure）機能、ＡＦ（Auto Focus）機能及びＡＷＢ（Auto White Balance）機能が内視鏡５１１５に搭載される。
カメラヘッド制御部５１２９は、通信部５１２７を介して受信したＣＣＵ５１５３からの制御信号に基づいて、カメラヘッド５１１９の駆動を制御する。例えば、カメラヘッド制御部５１２９は、撮像画像のフレームレートを指定する旨の情報及び／又は撮像時の露光を指定する旨の情報に基づいて、撮像部５１２３の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部５１２９は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部５１２５を介してレンズユニット５１２１のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部５１２９は、更に、鏡筒５１１７やカメラヘッド５１１９を識別するための情報を記憶する機能を備えてもよい。
なお、レンズユニット５１２１や撮像部５１２３等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド５１１９について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
次に、ＣＣＵ５１５３の機能構成について説明する。通信部５１７３は、カメラヘッド５１１９との間で各種の情報を送受信するための通信装置によって構成される。通信部５１７３は、カメラヘッド５１１９から、伝送ケーブル５１７９を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部５１７３には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部５１７３は、電気信号に変換した画像信号を画像処理部５１７５に提供する。
また、通信部５１７３は、カメラヘッド５１１９に対して、カメラヘッド５１１９の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
画像処理部５１７５は、カメラヘッド５１１９から送信されたＲＡＷデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理（帯域強調処理、超解像処理、ＮＲ（Noise reduction）処理及び／又は手ブレ補正処理等）、並びに／又は拡大処理（電子ズーム処理）等、各種の公知の信号処理が含まれる。また、画像処理部５１７５は、ＡＥ、ＡＦ及びＡＷＢを行うための、画像信号に対する検波処理を行う。
画像処理部５１７５は、ＣＰＵやＧＰＵ等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部５１７５が複数のＧＰＵによって構成される場合には、画像処理部５１７５は、画像信号に係る情報を適宜分割し、これら複数のＧＰＵによって並列的に画像処理を行う。
制御部５１７７は、内視鏡５１１５による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部５１７７は、カメラヘッド５１１９の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部５１７７は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡５１１５にＡＥ機能、ＡＦ機能及びＡＷＢ機能が搭載されている場合には、制御部５１７７は、画像処理部５１７５による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
また、制御部５１７７は、画像処理部５１７５によって画像処理が施された画像信号に基づいて、術部の画像を表示装置５１５５に表示させる。この際、制御部５１７７は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部５１７７は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具５１３５使用時のミスト等を認識することができる。制御部５１７７は、表示装置５１５５に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者５１８１に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
カメラヘッド５１１９及びＣＣＵ５１５３を接続する伝送ケーブル５１７９は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル５１７９を用いて有線で通信が行われていたが、カメラヘッド５１１９とＣＣＵ５１５３との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル５１７９を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル５１７９によって妨げられる事態が解消され得る。
以上、本開示に係る技術が適用され得る手術室システム５１００の一例について説明した。なお、ここでは、一例として手術室システム５１００が適用される医療用システムが内視鏡手術システム５１１３である場合について説明したが、手術室システム５１００の構成はかかる例に限定されない。例えば、手術室システム５１００は、内視鏡手術システム５１１３に代えて、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
本開示に係る技術は、以上説明した構成のうち、図２９に例示したカメラヘッド５１１９に好適に適用され得る。具体的には、図２に例示した固体撮像素子２００は、カメラヘッド５１１９内の撮像部５１２３に用いられる。固体撮像素子２００の適用により、画素加算時の読出し回数が少なくなるため、手術室システム５１００の消費電力を低減することができる。
＜＜第３の応用例＞＞
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、患者の微細部位を拡大観察しながら行う、いわゆるマイクロサージェリーに用いられる顕微鏡手術システムに適用されてもよい。
図３０は、本開示に係る技術が適用され得る顕微鏡手術システム５３００の概略的な構成の一例を示す図である。図３０を参照すると、顕微鏡手術システム５３００は、顕微鏡装置５３０１と、制御装置５３１７と、表示装置５３１９と、から構成される。なお、以下の顕微鏡手術システム５３００についての説明において、「ユーザ」とは、術者及び助手等、顕微鏡手術システム５３００を使用する任意の医療スタッフのことを意味する。
顕微鏡装置５３０１は、観察対象（患者の術部）を拡大観察するための顕微鏡部５３０３と、顕微鏡部５３０３を先端で支持するアーム部５３０９と、アーム部５３０９の基端を支持するベース部５３１５と、を有する。
顕微鏡部５３０３は、略円筒形状の筒状部５３０５と、当該筒状部５３０５の内部に設けられる撮像部（図示せず）と、筒状部５３０５の外周の一部領域に設けられる操作部５３０７と、から構成される。顕微鏡部５３０３は、撮像部によって電子的に撮像画像を撮像する、電子撮像式の顕微鏡部（いわゆるビデオ式の顕微鏡部）である。
筒状部５３０５の下端の開口面には、内部の撮像部を保護するカバーガラスが設けられる。観察対象からの光（以下、観察光ともいう）は、当該カバーガラスを通過して、筒状部５３０５の内部の撮像部に入射する。なお、筒状部５３０５の内部には例えばＬＥＤ（Light Emitting Diode）等からなる光源が設けられてもよく、撮像時には、当該カバーガラスを介して、当該光源から観察対象に対して光が照射されてもよい。
撮像部は、観察光を集光する光学系と、当該光学系が集光した観察光を受光する撮像素子と、から構成される。当該光学系は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成され、その光学特性は、観察光を撮像素子の受光面上に結像するように調整されている。当該撮像素子は、観察光を受光して光電変換することにより、観察光に対応した信号、すなわち観察像に対応した画像信号を生成する。当該撮像素子としては、例えばＢａｙｅｒ配列を有するカラー撮影可能なものが用いられる。当該撮像素子は、ＣＭＯＳ（Complementary Metal Oxide Semiconductor）イメージセンサ又はＣＣＤ（Charge Coupled Device）イメージセンサ等、各種の公知の撮像素子であってよい。撮像素子によって生成された画像信号は、ＲＡＷデータとして制御装置５３１７に送信される。ここで、この画像信号の送信は、好適に光通信によって行われてもよい。手術現場では、術者が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信で画像信号が送信されることにより、低レイテンシで撮像画像を表示することが可能となる。
なお、撮像部は、その光学系のズームレンズ及びフォーカスレンズを光軸に沿って移動させる駆動機構を有してもよい。当該駆動機構によってズームレンズ及びフォーカスレンズが適宜移動されることにより、撮像画像の拡大倍率及び撮像時の焦点距離が調整され得る。また、撮像部には、ＡＥ（Auto Exposure）機能やＡＦ（Auto Focus）機能等、一般的に電子撮像式の顕微鏡部に備えられ得る各種の機能が搭載されてもよい。
また、撮像部は、１つの撮像素子を有するいわゆる単板式の撮像部として構成されてもよいし、複数の撮像素子を有するいわゆる多板式の撮像部として構成されてもよい。撮像部が多板式で構成される場合には、例えば各撮像素子によってＲＧＢそれぞれに対応する画像信号が生成され、それらが合成されることによりカラー画像が得られてもよい。あるいは、当該撮像部は、立体視（３Ｄ表示）に対応する右目用及び左目用の画像信号をそれぞれ取得するための１対の撮像素子を有するように構成されてもよい。３Ｄ表示が行われることにより、術者は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、当該撮像部が多板式で構成される場合には、各撮像素子に対応して、光学系も複数系統が設けられ得る。
操作部５３０７は、例えば十字レバー又はスイッチ等によって構成され、ユーザの操作入力を受け付ける入力手段である。例えば、ユーザは、操作部５３０７を介して、観察像の拡大倍率及び観察対象までの焦点距離を変更する旨の指示を入力することができる。当該指示に従って撮像部の駆動機構がズームレンズ及びフォーカスレンズを適宜移動させることにより、拡大倍率及び焦点距離が調整され得る。また、例えば、ユーザは、操作部５３０７を介して、アーム部５３０９の動作モード（後述するオールフリーモード及び固定モード）を切り替える旨の指示を入力することができる。なお、ユーザが顕微鏡部５３０３を移動させようとする場合には、当該ユーザは筒状部５３０５を握るように把持した状態で当該顕微鏡部５３０３を移動させる様態が想定される。従って、操作部５３０７は、ユーザが筒状部５３０５を移動させている間でも操作可能なように、ユーザが筒状部５３０５を握った状態で指によって容易に操作しやすい位置に設けられることが好ましい。
アーム部５３０９は、複数のリンク（第１リンク５３１３ａ〜第６リンク５３１３ｆ）が、複数の関節部（第１関節部５３１１ａ〜第６関節部５３１１ｆ）によって互いに回動可能に連結されることによって構成される。
第１関節部５３１１ａは、略円柱形状を有し、その先端（下端）で、顕微鏡部５３０３の筒状部５３０５の上端を、当該筒状部５３０５の中心軸と平行な回転軸（第１軸Ｏ１）まわりに回動可能に支持する。ここで、第１関節部５３１１ａは、第１軸Ｏ１が顕微鏡部５３０３の撮像部の光軸と一致するように構成され得る。これにより、第１軸Ｏ１まわりに顕微鏡部５３０３を回動させることにより、撮像画像を回転させるように視野を変更することが可能になる。
第１リンク５３１３ａは、先端で第１関節部５３１１ａを固定的に支持する。具体的には、第１リンク５３１３ａは略Ｌ字形状を有する棒状の部材であり、その先端側の一辺が第１軸Ｏ１と直交する方向に延伸しつつ、当該一辺の端部が第１関節部５３１１ａの外周の上端部に当接するように、第１関節部５３１１ａに接続される。第１リンク５３１３ａの略Ｌ字形状の基端側の他辺の端部に第２関節部５３１１ｂが接続される。
第２関節部５３１１ｂは、略円柱形状を有し、その先端で、第１リンク５３１３ａの基端を、第１軸Ｏ１と直交する回転軸（第２軸Ｏ２）まわりに回動可能に支持する。第２関節部５３１１ｂの基端には、第２リンク５３１３ｂの先端が固定的に接続される。
第２リンク５３１３ｂは、略Ｌ字形状を有する棒状の部材であり、その先端側の一辺が第２軸Ｏ２と直交する方向に延伸しつつ、当該一辺の端部が第２関節部５３１１ｂの基端に固定的に接続される。第２リンク５３１３ｂの略Ｌ字形状の基端側の他辺には、第３関節部５３１１ｃが接続される。
第３関節部５３１１ｃは、略円柱形状を有し、その先端で、第２リンク５３１３ｂの基端を、第１軸Ｏ１及び第２軸Ｏ２と互いに直交する回転軸（第３軸Ｏ３）まわりに回動可能に支持する。第３関節部５３１１ｃの基端には、第３リンク５３１３ｃの先端が固定的に接続される。第２軸Ｏ２及び第３軸Ｏ３まわりに顕微鏡部５３０３を含む先端側の構成を回動させることにより、水平面内での顕微鏡部５３０３の位置を変更するように、当該顕微鏡部５３０３を移動させることができる。つまり、第２軸Ｏ２及び第３軸Ｏ３まわりの回転を制御することにより、撮像画像の視野を平面内で移動させることが可能になる。
第３リンク５３１３ｃは、その先端側が略円柱形状を有するように構成されており、当該円柱形状の先端に、第３関節部５３１１ｃの基端が、両者が略同一の中心軸を有するように、固定的に接続される。第３リンク５３１３ｃの基端側は角柱形状を有し、その端部に第４関節部５３１１ｄが接続される。
第４関節部５３１１ｄは、略円柱形状を有し、その先端で、第３リンク５３１３ｃの基端を、第３軸Ｏ３と直交する回転軸（第４軸Ｏ４）まわりに回動可能に支持する。第４関節部５３１１ｄの基端には、第４リンク５３１３ｄの先端が固定的に接続される。
第４リンク５３１３ｄは、略直線状に延伸する棒状の部材であり、第４軸Ｏ４と直交するように延伸しつつ、その先端の端部が第４関節部５３１１ｄの略円柱形状の側面に当接するように、第４関節部５３１１ｄに固定的に接続される。第４リンク５３１３ｄの基端には、第５関節部５３１１ｅが接続される。
第５関節部５３１１ｅは、略円柱形状を有し、その先端側で、第４リンク５３１３ｄの基端を、第４軸Ｏ４と平行な回転軸（第５軸Ｏ５）まわりに回動可能に支持する。第５関節部５３１１ｅの基端には、第５リンク５３１３ｅの先端が固定的に接続される。第４軸Ｏ４及び第５軸Ｏ５は、顕微鏡部５３０３を上下方向に移動させ得る回転軸である。第４軸Ｏ４及び第５軸Ｏ５まわりに顕微鏡部５３０３を含む先端側の構成を回動させることにより、顕微鏡部５３０３の高さ、すなわち顕微鏡部５３０３と観察対象との距離を調整することができる。
第５リンク５３１３ｅは、一辺が鉛直方向に延伸するとともに他辺が水平方向に延伸する略Ｌ字形状を有する第１の部材と、当該第１の部材の水平方向に延伸する部位から鉛直下向きに延伸する棒状の第２の部材と、が組み合わされて構成される。第５リンク５３１３ｅの第１の部材の鉛直方向に延伸する部位の上端近傍に、第５関節部５３１１ｅの基端が固定的に接続される。第５リンク５３１３ｅの第２の部材の基端（下端）には、第６関節部５３１１ｆが接続される。
第６関節部５３１１ｆは、略円柱形状を有し、その先端側で、第５リンク５３１３ｅの基端を、鉛直方向と平行な回転軸（第６軸Ｏ６）まわりに回動可能に支持する。第６関節部５３１１ｆの基端には、第６リンク５３１３ｆの先端が固定的に接続される。
第６リンク５３１３ｆは鉛直方向に延伸する棒状の部材であり、その基端はベース部５３１５の上面に固定的に接続される。
第１関節部５３１１ａ〜第６関節部５３１１ｆの回転可能範囲は、顕微鏡部５３０３が所望の動きを可能であるように適宜設定されている。これにより、以上説明した構成を有するアーム部５３０９においては、顕微鏡部５３０３の動きに関して、並進３自由度及び回転３自由度の計６自由度の動きが実現され得る。このように、顕微鏡部５３０３の動きに関して６自由度が実現されるようにアーム部５３０９を構成することにより、アーム部５３０９の可動範囲内において顕微鏡部５３０３の位置及び姿勢を自由に制御することが可能になる。従って、あらゆる角度から術部を観察することが可能となり、手術をより円滑に実行することができる。
なお、図示するアーム部５３０９の構成はあくまで一例であり、アーム部５３０９を構成するリンクの数及び形状（長さ）、並びに関節部の数、配置位置及び回転軸の方向等は、所望の自由度が実現され得るように適宜設計されてよい。例えば、上述したように、顕微鏡部５３０３を自由に動かすためには、アーム部５３０９は６自由度を有するように構成されることが好ましいが、アーム部５３０９はより大きな自由度（すなわち、冗長自由度）を有するように構成されてもよい。冗長自由度が存在する場合には、アーム部５３０９においては、顕微鏡部５３０３の位置及び姿勢が固定された状態で、アーム部５３０９の姿勢を変更することが可能となる。従って、例えば表示装置５３１９を見る術者の視界にアーム部５３０９が干渉しないように当該アーム部５３０９の姿勢を制御する等、術者にとってより利便性の高い制御が実現され得る。
ここで、第１関節部５３１１ａ〜第６関節部５３１１ｆには、モータ等の駆動機構、及び各関節部における回転角度を検出するエンコーダ等が搭載されたアクチュエータが設けられ得る。そして、第１関節部５３１１ａ〜第６関節部５３１１ｆに設けられる各アクチュエータの駆動が制御装置５３１７によって適宜制御されることにより、アーム部５３０９の姿勢、すなわち顕微鏡部５３０３の位置及び姿勢が制御され得る。具体的には、制御装置５３１７は、エンコーダによって検出された各関節部の回転角度についての情報に基づいて、アーム部５３０９の現在の姿勢、並びに顕微鏡部５３０３の現在の位置及び姿勢を把握することができる。制御装置５３１７は、把握したこれらの情報を用いて、ユーザからの操作入力に応じた顕微鏡部５３０３の移動を実現するような各関節部に対する制御値（例えば、回転角度又は発生トルク等）を算出し、当該制御値に応じて各関節部の駆動機構を駆動させる。なお、この際、制御装置５３１７によるアーム部５３０９の制御方式は限定されず、力制御又は位置制御等、各種の公知の制御方式が適用されてよい。
例えば、術者が、図示しない入力装置を介して適宜操作入力を行うことにより、当該操作入力に応じて制御装置５３１７によってアーム部５３０９の駆動が適宜制御され、顕微鏡部５３０３の位置及び姿勢が制御されてよい。当該制御により、顕微鏡部５３０３を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、当該入力装置としては、術者の利便性を考慮して、例えばフットスイッチ等、術者が手に術具を有していても操作可能なものが適用されることが好ましい。また、ウェアラブルデバイスや手術室内に設けられるカメラを用いたジェスチャ検出や視線検出に基づいて、非接触で操作入力が行われてもよい。これにより、清潔域に属するユーザであっても、不潔域に属する機器をより自由度高く操作することが可能になる。あるいは、アーム部５３０９は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部５３０９は、手術室から離れた場所に設置される入力装置を介してユーザによって遠隔操作され得る。
また、力制御が適用される場合には、ユーザからの外力を受け、その外力にならってスムーズにアーム部５３０９が移動するように第１関節部５３１１ａ〜第６関節部５３１１ｆのアクチュエータが駆動される、いわゆるパワーアシスト制御が行われてもよい。これにより、ユーザが、顕微鏡部５３０３を把持して直接その位置を移動させようとする際に、比較的軽い力で顕微鏡部５３０３を移動させることができる。従って、より直感的に、より簡易な操作で顕微鏡部５３０３を移動させることが可能となり、ユーザの利便性を向上させることができる。
また、アーム部５３０９は、ピボット動作をするようにその駆動が制御されてもよい。ここで、ピボット動作とは、顕微鏡部５３０３の光軸が空間上の所定の点（以下、ピボット点という）を常に向くように、顕微鏡部５３０３を移動させる動作である。ピボット動作によれば、同一の観察位置を様々な方向から観察することが可能となるため、より詳細な患部の観察が可能となる。なお、顕微鏡部５３０３が、その焦点距離を調整不可能に構成される場合には、顕微鏡部５３０３とピボット点との距離が固定された状態でピボット動作が行われることが好ましい。この場合には、顕微鏡部５３０３とピボット点との距離を、顕微鏡部５３０３の固定的な焦点距離に調整しておけばよい。これにより、顕微鏡部５３０３は、ピボット点を中心とする焦点距離に対応する半径を有する半球面（図３０に概略的に図示する）上を移動することとなり、観察方向を変更しても鮮明な撮像画像が得られることとなる。一方、顕微鏡部５３０３が、その焦点距離を調整可能に構成される場合には、顕微鏡部５３０３とピボット点との距離が可変な状態でピボット動作が行われてもよい。この場合には、例えば、制御装置５３１７は、エンコーダによって検出された各関節部の回転角度についての情報に基づいて、顕微鏡部５３０３とピボット点との距離を算出し、その算出結果に基づいて顕微鏡部５３０３の焦点距離を自動で調整してもよい。あるいは、顕微鏡部５３０３にＡＦ機能が設けられる場合であれば、ピボット動作によって顕微鏡部５３０３とピボット点との距離が変化するごとに、当該ＡＦ機能によって自動で焦点距離の調整が行われてもよい。
また、第１関節部５３１１ａ〜第６関節部５３１１ｆには、その回転を拘束するブレーキが設けられてもよい。当該ブレーキの動作は、制御装置５３１７によって制御され得る。例えば、顕微鏡部５３０３の位置及び姿勢を固定したい場合には、制御装置５３１７は各関節部のブレーキを作動させる。これにより、アクチュエータを駆動させなくてもアーム部５３０９の姿勢、すなわち顕微鏡部５３０３の位置及び姿勢が固定され得るため、消費電力を低減することができる。顕微鏡部５３０３の位置及び姿勢を移動したい場合には、制御装置５３１７は、各関節部のブレーキを解除し、所定の制御方式に従ってアクチュエータを駆動させればよい。
このようなブレーキの動作は、上述した操作部５３０７を介したユーザによる操作入力に応じて行われ得る。ユーザは、顕微鏡部５３０３の位置及び姿勢を移動したい場合には、操作部５３０７を操作し、各関節部のブレーキを解除させる。これにより、アーム部５３０９の動作モードが、各関節部における回転を自由に行えるモード（オールフリーモード）に移行する。また、ユーザは、顕微鏡部５３０３の位置及び姿勢を固定したい場合には、操作部５３０７を操作し、各関節部のブレーキを作動させる。これにより、アーム部５３０９の動作モードが、各関節部における回転が拘束されたモード（固定モード）に移行する。
制御装置５３１７は、顕微鏡装置５３０１及び表示装置５３１９の動作を制御することにより、顕微鏡手術システム５３００の動作を統括的に制御する。例えば、制御装置５３１７は、所定の制御方式に従って第１関節部５３１１ａ〜第６関節部５３１１ｆのアクチュエータを動作させることにより、アーム部５３０９の駆動を制御する。また、例えば、制御装置５３１７は、第１関節部５３１１ａ〜第６関節部５３１１ｆのブレーキの動作を制御することにより、アーム部５３０９の動作モードを変更する。また、例えば、制御装置５３１７は、顕微鏡装置５３０１の顕微鏡部５３０３の撮像部によって取得された画像信号に各種の信号処理を施すことにより、表示用の画像データを生成するとともに、当該画像データを表示装置５３１９に表示させる。当該信号処理では、例えば現像処理（デモザイク処理）、高画質化処理（帯域強調処理、超解像処理、ＮＲ（Noise reduction）処理及び／又は手ブレ補正処理等）及び／又は拡大処理（すなわち、電子ズーム処理）等、各種の公知の信号処理が行われてよい。
なお、制御装置５３１７と顕微鏡部５３０３との通信、及び制御装置５３１７と第１関節部５３１１ａ〜第６関節部５３１１ｆとの通信は、有線通信であってもよいし無線通信であってもよい。有線通信の場合には、電気信号による通信が行われてもよいし、光通信が行われてもよい。この場合、有線通信に用いられる伝送用のケーブルは、その通信方式に応じて電気信号ケーブル、光ファイバ、又はこれらの複合ケーブルとして構成され得る。一方、無線通信の場合には、手術室内に伝送ケーブルを敷設する必要がなくなるため、当該伝送ケーブルによって医療スタッフの手術室内の移動が妨げられる事態が解消され得る。
制御装置５３１７は、ＣＰＵ（Central Processing Unit）、ＧＰＵ（Graphics Processing Unit）等のプロセッサ、又はプロセッサとメモリ等の記憶素子が混載されたマイコン若しくは制御基板等であり得る。制御装置５３１７のプロセッサが所定のプログラムに従って動作することにより、上述した各種の機能が実現され得る。なお、図示する例では、制御装置５３１７は、顕微鏡装置５３０１と別個の装置として設けられているが、制御装置５３１７は、顕微鏡装置５３０１のベース部５３１５の内部に設置され、顕微鏡装置５３０１と一体的に構成されてもよい。あるいは、制御装置５３１７は、複数の装置によって構成されてもよい。例えば、顕微鏡部５３０３や、アーム部５３０９の第１関節部５３１１ａ〜第６関節部５３１１ｆにそれぞれマイコンや制御基板等が配設され、これらが互いに通信可能に接続されることにより、制御装置５３１７と同様の機能が実現されてもよい。
表示装置５３１９は、手術室内に設けられ、制御装置５３１７からの制御により、当該制御装置５３１７によって生成された画像データに対応する画像を表示する。つまり、表示装置５３１９には、顕微鏡部５３０３によって撮影された術部の画像が表示される。なお、表示装置５３１９は、術部の画像に代えて、又は術部の画像とともに、例えば患者の身体情報や手術の術式についての情報等、手術に関する各種の情報を表示してもよい。この場合、表示装置５３１９の表示は、ユーザによる操作によって適宜切り替えられてよい。あるいは、表示装置５３１９は複数設けられてもよく、複数の表示装置５３１９のそれぞれに、術部の画像や手術に関する各種の情報が、それぞれ表示されてもよい。なお、表示装置５３１９としては、液晶ディスプレイ装置又はＥＬ（Electro Luminescence）ディスプレイ装置等、各種の公知の表示装置が適用されてよい。
図３１は、図３０に示す顕微鏡手術システム５３００を用いた手術の様子を示す図である。図３１では、術者５３２１が、顕微鏡手術システム５３００を用いて、患者ベッド５３２３上の患者５３２５に対して手術を行っている様子を概略的に示している。なお、図３１では、簡単のため、顕微鏡手術システム５３００の構成のうち制御装置５３１７の図示を省略するとともに、顕微鏡装置５３０１を簡略化して図示している。
図３１に示すように、手術時には、顕微鏡手術システム５３００を用いて、顕微鏡装置５３０１によって撮影された術部の画像が、手術室の壁面に設置される表示装置５３１９に拡大表示される。表示装置５３１９は、術者５３２１と対向する位置に設置されており、術者５３２１は、表示装置５３１９に映し出された映像によって術部の様子を観察しながら、例えば患部の切除等、当該術部に対して各種の処置を行う。
以上、本開示に係る技術が適用され得る顕微鏡手術システム５３００の一例について説明した。なお、ここでは、一例として顕微鏡手術システム５３００について説明したが、本開示に係る技術が適用され得るシステムはかかる例に限定されない。例えば、顕微鏡装置５３０１は、その先端に顕微鏡部５３０３に代えて他の観察装置や他の術具を支持する、支持アーム装置としても機能し得る。当該他の観察装置としては、例えば内視鏡が適用され得る。また、当該他の術具としては、鉗子、攝子、気腹のための気腹チューブ、又は焼灼によって組織の切開や血管の封止を行うエネルギー処置具等が適用され得る。これらの観察装置や術具を支持アーム装置によって支持することにより、医療スタッフが人手で支持する場合に比べて、より安定的に位置を固定することが可能となるとともに、医療スタッフの負担を軽減することが可能となる。本開示に係る技術は、このような顕微鏡部以外の構成を支持する支持アーム装置に適用されてもよい。
本開示に係る技術は、以上説明した構成のうち、図３０の筒状部５３０５に好適に適用され得る。具体的には、図２に例示した固体撮像素子２００は、筒状部５３０５内の撮像部に用いられる。固体撮像素子２００の適用により、画素加算時の読出し回数が少なくなるため、顕微鏡手術システム５３００の消費電力を低減することができる。
＜＜第４の応用例＞＞
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、カプセル型内視鏡を用いた患者の体内情報取得システムに適用されてもよい。
図３２は、本開示に係る技術が適用され得る体内情報取得システム５４００の概略的な構成の一例を示す図である。図３２を参照すると、体内情報取得システム５４００は、カプセル型内視鏡５４０１と、体内情報取得システム５４００の動作を統括的に制御する外部制御装置５４２３と、から構成される。検査時には、カプセル型内視鏡５４０１が患者によって飲み込まれる。カプセル型内視鏡５４０１は、撮像機能及び無線通信機能を有し、患者から自然排出されるまでの間、胃や腸等の臓器の内部を蠕動運動等によって移動しつつ、当該臓器の内部の画像（以下、体内画像ともいう）を所定の間隔で順次撮像し、その体内画像についての情報を体外の外部制御装置５４２３に順次無線送信する。外部制御装置５４２３は、受信した体内画像についての情報に基づいて、表示装置（図示せず）に当該体内画像を表示するための画像データを生成する。体内情報取得システム５４００では、このようにして、カプセル型内視鏡５４０１が飲み込まれてから排出されるまでの間、患者の体内の様子を撮像した画像を随時得ることができる。
カプセル型内視鏡５４０１と外部制御装置５４２３の構成及び機能についてより詳細に説明する。図示するように、カプセル型内視鏡５４０１は、カプセル型の筐体５４０３内に、光源部５４０５、撮像部５４０７、画像処理部５４０９、無線通信部５４１１、給電部５４１５、電源部５４１７、状態検出部５４１９及び制御部５４２１の機能が搭載されて構成される。
光源部５４０５は、例えばＬＥＤ（light emitting diode）等の光源から構成され、撮像部５４０７の撮像視野に対して光を照射する。
撮像部５４０７は、撮像素子、及び当該撮像素子の前段に設けられる複数のレンズからなる光学系から構成される。観察対象である体組織に照射された光の反射光（以下、観察光という）は、当該光学系によって集光され、当該撮像素子に入射する。当該撮像素子は、観察光を受光して光電変換することにより、観察光に対応した電気信号、すなわち観察像に対応した画像信号を生成する。撮像部５４０７によって生成された画像信号は、画像処理部５４０９に提供される。なお、撮像部５４０７の撮像素子としては、ＣＭＯＳ（Complementary Metal Oxide Semiconductor）イメージセンサ又はＣＣＤ（Charge Coupled Device）イメージセンサ等、各種の公知の撮像素子が用いられてよい。
画像処理部５４０９は、ＣＰＵ（Central Processing Unit）やＧＰＵ（Graphics Processing Unit）等のプロセッサによって構成され、撮像部５４０７によって生成された画像信号に対して各種の信号処理を行う。当該信号処理は、画像信号を外部制御装置５４２３に伝送するための最小限の処理（例えば、画像データの圧縮、フレームレートの変換、データレートの変換及び／又はフォーマットの変換等）であってよい。画像処理部５４０９が必要最小限の処理のみを行うように構成されることにより、当該画像処理部５４０９を、より小型、より低消費電力で実現することができるため、カプセル型内視鏡５４０１に好適である。ただし、筐体５４０３内のスペースや消費電力に余裕がある場合であれば、画像処理部５４０９において、更なる信号処理（例えば、ノイズ除去処理や他の高画質化処理等）が行われてもよい。画像処理部５４０９は、信号処理を施した画像信号を、ＲＡＷデータとして無線通信部５４１１に提供する。なお、画像処理部５４０９は、状態検出部５４１９によってカプセル型内視鏡５４０１の状態（動きや姿勢等）についての情報が取得されている場合には、当該情報と紐付けて、画像信号を無線通信部５４１１に提供してもよい。これにより、画像が撮像された体内における位置や画像の撮像方向等と、撮像画像とを関連付けることができる。
無線通信部５４１１は、外部制御装置５４２３との間で各種の情報を送受信可能な通信装置によって構成される。当該通信装置は、アンテナ５４１３と、信号の送受信のための変調処理等を行う処理回路等から構成される。無線通信部５４１１は、画像処理部５４０９によって信号処理が施された画像信号に対して変調処理等の所定の処理を行い、その画像信号を、アンテナ５４１３を介して外部制御装置５４２３に送信する。また、無線通信部５４１１は、外部制御装置５４２３から、カプセル型内視鏡５４０１の駆動制御に関する制御信号を、アンテナ５４１３を介して受信する。無線通信部５４１１は、受信した制御信号を制御部５４２１に提供する。
給電部５４１５は、受電用のアンテナコイル、当該アンテナコイルに発生した電流から電力を再生する電力再生回路、及び昇圧回路等から構成される。給電部５４１５では、いわゆる非接触充電の原理を用いて電力が生成される。具体的には、給電部５４１５のアンテナコイルに対して外部から所定の周波数の磁界（電磁波）が与えられることにより、当該アンテナコイルに誘導起電力が発生する。当該電磁波は、例えば外部制御装置５４２３からアンテナ５４２５を介して送信される搬送波であってよい。当該誘導起電力から電力再生回路によって電力が再生され、昇圧回路においてその電位が適宜調整されることにより、蓄電用の電力が生成される。給電部５４１５によって生成された電力は、電源部５４１７に蓄電される。
電源部５４１７は、二次電池によって構成され、給電部５４１５によって生成された電力を蓄電する。図３２では、図面が煩雑になることを避けるために、電源部５４１７からの電力の供給先を示す矢印等の図示を省略しているが、電源部５４１７に蓄電された電力は、光源部５４０５、撮像部５４０７、画像処理部５４０９、無線通信部５４１１、状態検出部５４１９及び制御部５４２１に供給され、これらの駆動に用いられ得る。
状態検出部５４１９は、加速度センサ及び／又はジャイロセンサ等の、カプセル型内視鏡５４０１の状態を検出するためのセンサから構成される。状態検出部５４１９は、当該センサによる検出結果から、カプセル型内視鏡５４０１の状態についての情報を取得することができる。状態検出部５４１９は、取得したカプセル型内視鏡５４０１の状態についての情報を、画像処理部５４０９に提供する。画像処理部５４０９では、上述したように、当該カプセル型内視鏡５４０１の状態についての情報が、画像信号と紐付けられ得る。
制御部５４２１は、ＣＰＵ等のプロセッサによって構成され、所定のプログラムに従って動作することによりカプセル型内視鏡５４０１の動作を統括的に制御する。制御部５４２１は、光源部５４０５、撮像部５４０７、画像処理部５４０９、無線通信部５４１１、給電部５４１５、電源部５４１７及び状態検出部５４１９の駆動を、外部制御装置５４２３から送信される制御信号に従って適宜制御することにより、以上説明したような各部における機能を実現させる。
外部制御装置５４２３は、ＣＰＵ、ＧＰＵ等のプロセッサ、又はプロセッサとメモリ等の記憶素子が混載されたマイコン若しくは制御基板等であり得る。外部制御装置５４２３は、アンテナ５４２５を有し、当該アンテナ５４２５を介して、カプセル型内視鏡５４０１との間で各種の情報を送受信可能に構成される。具体的には、外部制御装置５４２３は、カプセル型内視鏡５４０１の制御部５４２１に対して制御信号を送信することにより、カプセル型内視鏡５４０１の動作を制御する。例えば、外部制御装置５４２３からの制御信号により、光源部５４０５における観察対象に対する光の照射条件が変更され得る。また、外部制御装置５４２３からの制御信号により、撮像条件（例えば、撮像部５４０７におけるフレームレート、露出値等）が変更され得る。また、外部制御装置５４２３からの制御信号により、画像処理部５４０９における処理の内容や、無線通信部５４１１が画像信号を送信する条件（例えば、送信間隔、送信画像数等）が変更されてもよい。
また、外部制御装置５４２３は、カプセル型内視鏡５４０１から送信される画像信号に対して、各種の画像処理を施し、撮像された体内画像を表示装置に表示するための画像データを生成する。当該画像処理としては、例えば現像処理（デモザイク処理）、高画質化処理（帯域強調処理、超解像処理、ＮＲ（Noise reduction）処理及び／又は手ブレ補正処理等）、並びに／又は拡大処理（電子ズーム処理）等、各種の公知の信号処理が行われてよい。外部制御装置５４２３は、表示装置（図示せず）の駆動を制御して、生成した画像データに基づいて撮像された体内画像を表示させる。あるいは、外部制御装置５４２３は、生成した画像データを記録装置（図示せず）に記録させたり、印刷装置（図示せず）に印刷出力させてもよい。
＜＜第５の応用例＞＞
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械（トラクター）などのいずれかの種類の移動体に搭載される装置として実現されてもよい。
図３３は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システム７０００の概略的な構成例を示すブロック図である。車両制御システム７０００は、通信ネットワーク７０１０を介して接続された複数の電子制御ユニットを備える。図３３に示した例では、車両制御システム７０００は、駆動系制御ユニット７１００、ボディ系制御ユニット７２００、バッテリ制御ユニット７３００、車外情報検出ユニット７４００、車内情報検出ユニット７５００、及び統合制御ユニット７６００を備える。これらの複数の制御ユニットを接続する通信ネットワーク７０１０は、例えば、ＣＡＮ（Controller Area Network）、ＬＩＮ（Local Interconnect Network）、ＬＡＮ（Local Area Network）又はＦｌｅｘＲａｙ（登録商標）等の任意の規格に準拠した車載通信ネットワークであってよい。
各制御ユニットは、各種プログラムにしたがって演算処理を行うマイクロコンピュータと、マイクロコンピュータにより実行されるプログラム又は各種演算に用いられるパラメータ等を記憶する記憶部と、各種制御対象の装置を駆動する駆動回路とを備える。各制御ユニットは、通信ネットワーク７０１０を介して他の制御ユニットとの間で通信を行うためのネットワークＩ／Ｆを備えるとともに、車内外の装置又はセンサ等との間で、有線通信又は無線通信により通信を行うための通信Ｉ／Ｆを備える。図３３では、統合制御ユニット７６００の機能構成として、マイクロコンピュータ７６１０、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０、音声画像出力部７６７０、車載ネットワークＩ／Ｆ７６８０及び記憶部７６９０が図示されている。他の制御ユニットも同様に、マイクロコンピュータ、通信Ｉ／Ｆ及び記憶部等を備える。
駆動系制御ユニット７１００は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット７１００は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。駆動系制御ユニット７１００は、ＡＢＳ（Antilock Brake System）又はＥＳＣ（Electronic Stability Control）等の制御装置としての機能を有してもよい。
駆動系制御ユニット７１００には、車両状態検出部７１１０が接続される。車両状態検出部７１１０には、例えば、車体の軸回転運動の角速度を検出するジャイロセンサ、車両の加速度を検出する加速度センサ、あるいは、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操舵角、エンジン回転数又は車輪の回転速度等を検出するためのセンサのうちの少なくとも一つが含まれる。駆動系制御ユニット７１００は、車両状態検出部７１１０から入力される信号を用いて演算処理を行い、内燃機関、駆動用モータ、電動パワーステアリング装置又はブレーキ装置等を制御する。
ボディ系制御ユニット７２００は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット７２００は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット７２００には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット７２００は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
バッテリ制御ユニット７３００は、各種プログラムにしたがって駆動用モータの電力供給源である二次電池７３１０を制御する。例えば、バッテリ制御ユニット７３００には、二次電池７３１０を備えたバッテリ装置から、バッテリ温度、バッテリ出力電圧又はバッテリの残存容量等の情報が入力される。バッテリ制御ユニット７３００は、これらの信号を用いて演算処理を行い、二次電池７３１０の温度調節制御又はバッテリ装置に備えられた冷却装置等の制御を行う。
車外情報検出ユニット７４００は、車両制御システム７０００を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット７４００には、撮像部７４１０及び車外情報検出部７４２０のうちの少なくとも一方が接続される。撮像部７４１０には、ＴｏＦ（Time Of Flight）カメラ、ステレオカメラ、単眼カメラ、赤外線カメラ及びその他のカメラのうちの少なくとも一つが含まれる。車外情報検出部７４２０には、例えば、現在の天候又は気象を検出するための環境センサ、あるいは、車両制御システム７０００を搭載した車両の周囲の他の車両、障害物又は歩行者等を検出するための周囲情報検出センサのうちの少なくとも一つが含まれる。
環境センサは、例えば、雨天を検出する雨滴センサ、霧を検出する霧センサ、日照度合いを検出する日照センサ、及び降雪を検出する雪センサのうちの少なくとも一つであってよい。周囲情報検出センサは、超音波センサ、レーダ装置及びＬＩＤＡＲ（Light Detection and Ranging、Laser Imaging Detection and Ranging）装置のうちの少なくとも一つであってよい。これらの撮像部７４１０及び車外情報検出部７４２０は、それぞれ独立したセンサないし装置として備えられてもよいし、複数のセンサないし装置が統合された装置として備えられてもよい。
ここで、図３４は、撮像部７４１０及び車外情報検出部７４２０の設置位置の例を示す。撮像部７９１０，７９１２，７９１４，７９１６，７９１８は、例えば、車両７９００のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部のうちの少なくとも一つの位置に設けられる。フロントノーズに備えられる撮像部７９１０及び車室内のフロントガラスの上部に備えられる撮像部７９１８は、主として車両７９００の前方の画像を取得する。サイドミラーに備えられる撮像部７９１２，７９１４は、主として車両７９００の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部７９１６は、主として車両７９００の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部７９１８は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図３４には、それぞれの撮像部７９１０，７９１２，７９１４，７９１６の撮影範囲の一例が示されている。撮像範囲ａは、フロントノーズに設けられた撮像部７９１０の撮像範囲を示し、撮像範囲ｂ，ｃは、それぞれサイドミラーに設けられた撮像部７９１２，７９１４の撮像範囲を示し、撮像範囲ｄは、リアバンパ又はバックドアに設けられた撮像部７９１６の撮像範囲を示す。例えば、撮像部７９１０，７９１２，７９１４，７９１６で撮像された画像データが重ね合わせられることにより、車両７９００を上方から見た俯瞰画像が得られる。
車両７９００のフロント、リア、サイド、コーナ及び車室内のフロントガラスの上部に設けられる車外情報検出部７９２０，７９２２，７９２４，７９２６，７９２８，７９３０は、例えば超音波センサ又はレーダ装置であってよい。車両７９００のフロントノーズ、リアバンパ、バックドア及び車室内のフロントガラスの上部に設けられる車外情報検出部７９２０，７９２６，７９３０は、例えばＬＩＤＡＲ装置であってよい。これらの車外情報検出部７９２０〜７９３０は、主として先行車両、歩行者又は障害物等の検出に用いられる。
図３３に戻って説明を続ける。車外情報検出ユニット７４００は、撮像部７４１０に車外の画像を撮像させるとともに、撮像された画像データを受信する。また、車外情報検出ユニット７４００は、接続されている車外情報検出部７４２０から検出情報を受信する。車外情報検出部７４２０が超音波センサ、レーダ装置又はＬＩＤＡＲ装置である場合には、車外情報検出ユニット７４００は、超音波又は電磁波等を発信させるとともに、受信された反射波の情報を受信する。車外情報検出ユニット７４００は、受信した情報に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。車外情報検出ユニット７４００は、受信した情報に基づいて、降雨、霧又は路面状況等を認識する環境認識処理を行ってもよい。車外情報検出ユニット７４００は、受信した情報に基づいて、車外の物体までの距離を算出してもよい。
また、車外情報検出ユニット７４００は、受信した画像データに基づいて、人、車、障害物、標識又は路面上の文字等を認識する画像認識処理又は距離検出処理を行ってもよい。車外情報検出ユニット７４００は、受信した画像データに対して歪補正又は位置合わせ等の処理を行うとともに、異なる撮像部７４１０により撮像された画像データを合成して、俯瞰画像又はパノラマ画像を生成してもよい。車外情報検出ユニット７４００は、異なる撮像部７４１０により撮像された画像データを用いて、視点変換処理を行ってもよい。
車内情報検出ユニット７５００は、車内の情報を検出する。車内情報検出ユニット７５００には、例えば、運転者の状態を検出する運転者状態検出部７５１０が接続される。運転者状態検出部７５１０は、運転者を撮像するカメラ、運転者の生体情報を検出する生体センサ又は車室内の音声を集音するマイク等を含んでもよい。生体センサは、例えば、座面又はステアリングホイール等に設けられ、座席に座った搭乗者又はステアリングホイールを握る運転者の生体情報を検出する。車内情報検出ユニット７５００は、運転者状態検出部７５１０から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。車内情報検出ユニット７５００は、集音された音声信号に対してノイズキャンセリング処理等の処理を行ってもよい。
統合制御ユニット７６００は、各種プログラムにしたがって車両制御システム７０００内の動作全般を制御する。統合制御ユニット７６００には、入力部７８００が接続されている。入力部７８００は、例えば、タッチパネル、ボタン、マイクロフォン、スイッチ又はレバー等、搭乗者によって入力操作され得る装置によって実現される。統合制御ユニット７６００には、マイクロフォンにより入力される音声を音声認識することにより得たデータが入力されてもよい。入力部７８００は、例えば、赤外線又はその他の電波を利用したリモートコントロール装置であってもよいし、車両制御システム７０００の操作に対応した携帯電話又はＰＤＡ（Personal Digital Assistant）等の外部接続機器であってもよい。入力部７８００は、例えばカメラであってもよく、その場合搭乗者はジェスチャにより情報を入力することができる。あるいは、搭乗者が装着したウェアラブル装置の動きを検出することで得られたデータが入力されてもよい。さらに、入力部７８００は、例えば、上記の入力部７８００を用いて搭乗者等により入力された情報に基づいて入力信号を生成し、統合制御ユニット７６００に出力する入力制御回路などを含んでもよい。搭乗者等は、この入力部７８００を操作することにより、車両制御システム７０００に対して各種のデータを入力したり処理動作を指示したりする。
記憶部７６９０は、マイクロコンピュータにより実行される各種プログラムを記憶するＲＯＭ（Read Only Memory）、及び各種パラメータ、演算結果又はセンサ値等を記憶するＲＡＭ（Random Access Memory）を含んでいてもよい。また、記憶部７６９０は、ＨＤＤ（Hard Disc Drive）等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等によって実現してもよい。
汎用通信Ｉ／Ｆ７６２０は、外部環境７７５０に存在する様々な機器との間の通信を仲介する汎用的な通信Ｉ／Ｆである。汎用通信Ｉ／Ｆ７６２０は、ＧＳＭ（Global System of Mobile communications）、ＷｉＭＡＸ、ＬＴＥ（Long Term Evolution）若しくはＬＴＥ−Ａ（LTE−Advanced）などのセルラー通信プロトコル、又は無線ＬＡＮ（Ｗｉ−Ｆｉ（登録商標）ともいう）、Ｂｌｕｅｔｏｏｔｈ（登録商標）などのその他の無線通信プロトコルを実装してよい。汎用通信Ｉ／Ｆ７６２０は、例えば、基地局又はアクセスポイントを介して、外部ネットワーク（例えば、インターネット、クラウドネットワーク又は事業者固有のネットワーク）上に存在する機器（例えば、アプリケーションサーバ又は制御サーバ）へ接続してもよい。また、汎用通信Ｉ／Ｆ７６２０は、例えばＰ２Ｐ（Peer To Peer）技術を用いて、車両の近傍に存在する端末（例えば、運転者、歩行者若しくは店舗の端末、又はＭＴＣ（Machine Type Communication）端末）と接続してもよい。
専用通信Ｉ／Ｆ７６３０は、車両における使用を目的として策定された通信プロトコルをサポートする通信Ｉ／Ｆである。専用通信Ｉ／Ｆ７６３０は、例えば、下位レイヤのＩＥＥＥ８０２．１１ｐと上位レイヤのＩＥＥＥ１６０９との組合せであるＷＡＶＥ（Wireless Access in Vehicle Environment）、ＤＳＲＣ（Dedicated Short Range Communications）、又はセルラー通信プロトコルといった標準プロトコルを実装してよい。専用通信Ｉ／Ｆ７６３０は、典型的には、車車間（Vehicle to Vehicle）通信、路車間（Vehicle to Infrastructure）通信、車両と家との間（Vehicle to Home）の通信及び歩車間（Vehicle to Pedestrian）通信のうちの１つ以上を含む概念であるＶ２Ｘ通信を遂行する。
測位部７６４０は、例えば、ＧＮＳＳ（Global Navigation Satellite System）衛星からのＧＮＳＳ信号（例えば、ＧＰＳ（Global Positioning System）衛星からのＧＰＳ信号）を受信して測位を実行し、車両の緯度、経度及び高度を含む位置情報を生成する。なお、測位部７６４０は、無線アクセスポイントとの信号の交換により現在位置を特定してもよく、又は測位機能を有する携帯電話、ＰＨＳ若しくはスマートフォンといった端末から位置情報を取得してもよい。
ビーコン受信部７６５０は、例えば、道路上に設置された無線局等から発信される電波あるいは電磁波を受信し、現在位置、渋滞、通行止め又は所要時間等の情報を取得する。なお、ビーコン受信部７６５０の機能は、上述した専用通信Ｉ／Ｆ７６３０に含まれてもよい。
車内機器Ｉ／Ｆ７６６０は、マイクロコンピュータ７６１０と車内に存在する様々な車内機器７７６０との間の接続を仲介する通信インタフェースである。車内機器Ｉ／Ｆ７６６０は、無線ＬＡＮ、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near Field Communication）又はＷＵＳＢ（Wireless USB）といった無線通信プロトコルを用いて無線接続を確立してもよい。また、車内機器Ｉ／Ｆ７６６０は、図示しない接続端子（及び、必要であればケーブル）を介して、ＵＳＢ（Universal Serial Bus）、ＨＤＭＩ（High-Definition Multimedia Interface）、又はＭＨＬ（Mobile High-definition Link）等の有線接続を確立してもよい。車内機器７７６０は、例えば、搭乗者が有するモバイル機器若しくはウェアラブル機器、又は車両に搬入され若しくは取り付けられる情報機器のうちの少なくとも１つを含んでいてもよい。また、車内機器７７６０は、任意の目的地までの経路探索を行うナビゲーション装置を含んでいてもよい。車内機器Ｉ／Ｆ７６６０は、これらの車内機器７７６０との間で、制御信号又はデータ信号を交換する。
車載ネットワークＩ／Ｆ７６８０は、マイクロコンピュータ７６１０と通信ネットワーク７０１０との間の通信を仲介するインタフェースである。車載ネットワークＩ／Ｆ７６８０は、通信ネットワーク７０１０によりサポートされる所定のプロトコルに則して、信号等を送受信する。
統合制御ユニット７６００のマイクロコンピュータ７６１０は、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０及び車載ネットワークＩ／Ｆ７６８０のうちの少なくとも一つを介して取得される情報に基づき、各種プログラムにしたがって、車両制御システム７０００を制御する。例えば、マイクロコンピュータ７６１０は、取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット７１００に対して制御指令を出力してもよい。例えば、マイクロコンピュータ７６１０は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むＡＤＡＳ（Advanced Driver Assistance System）の機能実現を目的とした協調制御を行ってもよい。また、マイクロコンピュータ７６１０は、取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行ってもよい。
マイクロコンピュータ７６１０は、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０及び車載ネットワークＩ／Ｆ７６８０のうちの少なくとも一つを介して取得される情報に基づき、車両と周辺の構造物や人物等の物体との間の３次元距離情報を生成し、車両の現在位置の周辺情報を含むローカル地図情報を作成してもよい。また、マイクロコンピュータ７６１０は、取得される情報に基づき、車両の衝突、歩行者等の近接又は通行止めの道路への進入等の危険を予測し、警告用信号を生成してもよい。警告用信号は、例えば、警告音を発生させたり、警告ランプを点灯させたりするための信号であってよい。
音声画像出力部７６７０は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図３３の例では、出力装置として、オーディオスピーカ７７１０、表示部７７２０及びインストルメントパネル７７３０が例示されている。表示部７７２０は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。表示部７７２０は、ＡＲ（Augmented Reality）表示機能を有していてもよい。出力装置は、これらの装置以外の、ヘッドホン、搭乗者が装着する眼鏡型ディスプレイ等のウェアラブルデバイス、プロジェクタ又はランプ等の他の装置であってもよい。出力装置が表示装置の場合、表示装置は、マイクロコンピュータ７６１０が行った各種処理により得られた結果又は他の制御ユニットから受信された情報を、テキスト、イメージ、表、グラフ等、様々な形式で視覚的に表示する。また、出力装置が音声出力装置の場合、音声出力装置は、再生された音声データ又は音響データ等からなるオーディオ信号をアナログ信号に変換して聴覚的に出力する。
なお、図３３に示した例において、通信ネットワーク７０１０を介して接続された少なくとも二つの制御ユニットが一つの制御ユニットとして一体化されてもよい。あるいは、個々の制御ユニットが、複数の制御ユニットにより構成されてもよい。さらに、車両制御システム７０００が、図示されていない別の制御ユニットを備えてもよい。また、上記の説明において、いずれかの制御ユニットが担う機能の一部又は全部を、他の制御ユニットに持たせてもよい。つまり、通信ネットワーク７０１０を介して情報の送受信がされるようになっていれば、所定の演算処理が、いずれかの制御ユニットで行われるようになってもよい。同様に、いずれかの制御ユニットに接続されているセンサ又は装置が、他の制御ユニットに接続されるとともに、複数の制御ユニットが、通信ネットワーク７０１０を介して相互に検出情報を送受信してもよい。
以上説明した車両制御システム７０００において、図２を用いて説明した本実施形態に係る固体撮像素子２００は、図３３に示した応用例の統合制御ユニット７６００に適用することができる。例えば、固体撮像素子２００は、統合制御ユニット７６００の撮像部７４１０に相当する。例えば、統合制御ユニット７６００の制御に従って、固体撮像素子２００は、画素加算を行う。
以上、本開示に係る技術が適用され得る体内情報取得システム５４００の一例について説明した。本開示に係る技術は、以上説明した構成のうち、図３２に例示した撮像部５４０７に好適に適用され得る。具体的には、図２に例示した固体撮像素子２００が、撮像部５４０７に用いられる。固体撮像素子２００の適用により、画素加算時の読出し回数が少なくなるため、体内情報取得システム５４００の消費電力を低減することができる。
なお、上述の実施の形態は本技術を具現化するための一例を示したものであり、実施の形態における事項と、特許請求の範囲における発明特定事項とはそれぞれ対応関係を有する。同様に、特許請求の範囲における発明特定事項と、これと同一名称を付した本技術の実施の形態における事項とはそれぞれ対応関係を有する。ただし、本技術は実施の形態に限定されるものではなく、その要旨を逸脱しない範囲において実施の形態に種々の変形を施すことにより具現化することができる。
また、上述の実施の形態において説明した処理手順は、これら一連の手順を有する方法として捉えてもよく、また、これら一連の手順をコンピュータに実行させるためのプログラム乃至そのプログラムを記憶する記録媒体として捉えてもよい。この記録媒体として、例えば、ＣＤ（Compact Disc）、ＭＤ（MiniDisc）、ＤＶＤ（Digital Versatile Disc）、メモリカード、ブルーレイディスク（Blu-ray（登録商標）Disc）等を用いることができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
なお、本技術は以下のような構成もとることができる。
（１）所定方向に配列された複数の通常画素がそれぞれに設けられた所定数のブロックと、
互いに異なる前記ブロックに接続された前記所定数の遮光画素が前記所定方向に配列された遮光領域と、
前記ブロック内の前記複数の通常画素のそれぞれを制御して前記ブロックから当該ブロックに対応する前記遮光画素へ電荷を転送させる走査回路と、
前記転送された電荷に基づいて前記遮光画素により生成された信号を処理する信号処理回路が前記遮光画素ごとに設けられた信号処理部と
を具備する固体撮像素子。
（２）前記通常画素は、
前記電荷を蓄積する浮遊拡散層と、
前記遮光画素と前記浮遊拡散層とを接続する接続トランジスタと
とを備える
前記（１）記載の固体撮像素子。
（３）前記通常画素は、前記浮遊拡散層の前記電荷の量を初期化するリセットトランジスタをさらに備える
前記（２）記載の固体撮像素子。
（４）前記接続トランジスタは、前記浮遊拡散層を初期化するリセットトランジスタである
前記（２）記載の固体撮像素子。
（５）前記行走査回路は、前記浮遊拡散層の初期化を指示するリセット信号と前記浮遊拡散層の接続を指示する接続信号とを同時に送信する
前記（２）から（４）のいずれかに記載の固体撮像素子。
（６）前記行走査回路は、前記浮遊拡散層の初期化を指示するリセット信号を送信した後に前記浮遊拡散層の接続を指示する接続信号を送信する
前記（２）から（４）のいずれかに記載の固体撮像素子。
（７）前記通常画素は、
光を光電変換して前記電荷を生成する光電変換素子と、
前記遮光画素と前記光電変換素子とを接続する接続トランジスタと
を備える前記（１）に記載の固体撮像素子。
（８）前記遮光画素は、
前記転送された電荷を蓄積する電荷蓄積部と、
前記蓄積された電荷の量に応じた信号を増幅する増幅トランジスタと
を備える前記（１）から（７）のいずれかに記載の固体撮像素子。
（９）前記遮光画素は、光電変換素子をさらに備える
前記（８）記載の固体撮像素子。
（１０）前記ブロックのそれぞれは、浮遊拡散層を共有する前記複数の通常画素がそれぞれに設けられた複数の画素ブロックを備える前記（１）から（９）のいずれかに記載の固体撮像素子。
（１１）前記複数の通常画素のうち隣接する一対の通常画素の一方は、前記行走査回路の制御に従って前記一対の通常画素の他方に前記電荷を転送する
前記（１）から（９）のいずれかに記載の固体撮像素子。
（１２）所定方向に配列された複数の通常画素がそれぞれに設けられた所定数のブロックと、
互いに異なる前記ブロックに接続された前記所定数の遮光画素が前記所定方向に配列された遮光領域と、
前記ブロック内の前記複数の通常画素のそれぞれを制御して前記ブロックから当該ブロックに対応する前記遮光画素へ電荷を転送させる走査回路と、
前記転送された電荷に基づいて前記遮光画素により生成された信号を処理してデータを生成する信号処理回路が前記遮光画素ごとに設けられた信号処理部と、
前記生成されたデータを記録する記録部と
を具備する撮像装置。
（１３）所定方向に配列された複数の通常画素がそれぞれに設けられた所定数のブロックと、互いに異なる前記ブロックに接続された前記所定数の遮光画素が前記所定方向に配列された遮光領域とが設けられた画素アレイ部における前記ブロック内の前記複数の通常画素のそれぞれを制御して前記ブロックから当該ブロックに対応する前記遮光画素へ電荷を転送させる走査手順と、
前記転送された電荷に基づいて前記遮光画素により生成された信号を処理する信号処理手順と
を具備する固体撮像素子の制御方法。
１００ 撮像装置
１１０ 撮像レンズ
１２０ 記録部
１３０ 撮像制御部
２００ 固体撮像素子
２１０ 行走査回路
２２０ 画素アレイ部
２２１ 受光領域
２２２、３００ 画素ブロック
２２３ 遮光領域
２２４ 加算ブロック
２３０、３５０、３６０ 通常画素
２３１、２４２、３０９、３５３ リセットトランジスタ
２３２、２４１、３６３ 接続トランジスタ
２３３、２４６、３１１、３５４、３６４ 増幅トランジスタ
２３４、２４３、３０１、３０２、３０５、３０６、３１２、３１３、３１７、３１８、３５２、３６２ 転送トランジスタ
２３５、３１０、３５６、３６６ 浮遊拡散層
２３６、２４７、３１４、３５５、３６５ 選択トランジスタ
２３７、２４４、３０３、３０４、３０７、３０８、３１５、３１６、３１９、３２０、３５１、３６１ 光電変換素子
２４０ 遮光画素
２５０ ＤＡＣ
２５５ 定電流源
２６０ 信号処理部
２６１ ＡＤ変換器
２６２ コンパレータ
２６３ カウンタ
２７０ タイミング制御部
２８０ 列走査回路
２９０ 画像処理部
５００９、５１２３、５４０７、７４１０ 撮像部
５３０５ 筒状部

Claims (13)

  1. 所定方向に配列された複数の通常画素がそれぞれに設けられた所定数のブロックと、
    互いに異なる前記ブロックに接続された前記所定数の遮光画素が前記所定方向に配列された遮光領域と、
    前記ブロック内の前記複数の通常画素のそれぞれを制御して前記ブロックから当該ブロックに対応する前記遮光画素へ電荷を転送させる走査回路と、
    前記転送された電荷に基づいて前記遮光画素により生成された信号を処理する信号処理回路が前記遮光画素ごとに設けられた信号処理部と
    を具備する固体撮像素子。
  2. 前記通常画素は、
    前記電荷を蓄積する浮遊拡散層と、
    前記遮光画素と前記浮遊拡散層とを接続する接続トランジスタと
    を備える
    請求項１記載の固体撮像素子。
  3. 前記通常画素は、前記浮遊拡散層の前記電荷の量を初期化するリセットトランジスタをさらに備える
    請求項２記載の固体撮像素子。
  4. 前記接続トランジスタは、前記浮遊拡散層を初期化するリセットトランジスタである
    請求項２記載の固体撮像素子。
  5. 前記行走査回路は、前記浮遊拡散層の初期化を指示するリセット信号と前記浮遊拡散層の接続を指示する接続信号とを同時に送信する
    請求項２記載の固体撮像素子。
  6. 前記行走査回路は、前記浮遊拡散層の初期化を指示するリセット信号を送信した後に前記浮遊拡散層の接続を指示する接続信号を送信する
    請求項２記載の固体撮像素子。
  7. 前記通常画素は、
    光を光電変換して前記電荷を生成する光電変換素子と、
    前記遮光画素と前記光電変換素子とを接続する接続トランジスタと
    を備える請求項１記載の固体撮像素子。
  8. 前記遮光画素は、
    前記転送された電荷を蓄積する電荷蓄積部と、
    前記蓄積された電荷の量に応じた信号を増幅する増幅トランジスタと
    を備える請求項１記載の固体撮像素子。
  9. 前記遮光画素は、光電変換素子をさらに備える
    請求項８記載の固体撮像素子。
  10. 前記ブロックのそれぞれは、浮遊拡散層を共有する前記複数の通常画素がそれぞれに設けられた複数の画素ブロックを備える請求項１記載の固体撮像素子。
  11. 前記複数の通常画素のうち隣接する一対の通常画素の一方は、前記行走査回路の制御に従って前記一対の通常画素の他方に前記電荷を転送する
    請求項１記載の固体撮像素子。
  12. 所定方向に配列された複数の通常画素がそれぞれに設けられた所定数のブロックと、
    互いに異なる前記ブロックに接続された前記所定数の遮光画素が前記所定方向に配列された遮光領域と、
    前記ブロック内の前記複数の通常画素のそれぞれを制御して前記ブロックから当該ブロックに対応する前記遮光画素へ電荷を転送させる走査回路と、
    前記転送された電荷に基づいて前記遮光画素により生成された信号を処理してデータを生成する信号処理回路が前記遮光画素ごとに設けられた信号処理部と、
    前記生成されたデータを記録する記録部と
    を具備する撮像装置。
  13. 所定方向に配列された複数の通常画素がそれぞれに設けられた所定数のブロックと、互いに異なる前記ブロックに接続された前記所定数の遮光画素が前記所定方向に配列された遮光領域とが設けられた画素アレイ部における前記ブロック内の前記複数の通常画素のそれぞれを制御して前記ブロックから当該ブロックに対応する前記遮光画素へ電荷を転送させる走査手順と、
    前記転送された電荷に基づいて前記遮光画素により生成された信号を処理する信号処理手順と
    を具備する固体撮像素子の制御方法。
JP2016146859A 2016-07-27 2016-07-27 固体撮像素子、撮像装置、および、固体撮像素子の制御方法 Pending JP2018019191A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2016146859A JP2018019191A (ja) 2016-07-27 2016-07-27 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
PCT/JP2017/021440 WO2018020857A1 (ja) 2016-07-27 2017-06-09 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
US16/316,462 US10986986B2 (en) 2016-07-27 2017-06-09 Solid-state image pickup element, image pickup apparatus, and method of controlling solid-state image pickup element

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016146859A JP2018019191A (ja) 2016-07-27 2016-07-27 固体撮像素子、撮像装置、および、固体撮像素子の制御方法

Publications (1)

Publication Number Publication Date
JP2018019191A true JP2018019191A (ja) 2018-02-01

Family

ID=61015987

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016146859A Pending JP2018019191A (ja) 2016-07-27 2016-07-27 固体撮像素子、撮像装置、および、固体撮像素子の制御方法

Country Status (3)

Country Link
US (1) US10986986B2 (ja)
JP (1) JP2018019191A (ja)
WO (1) WO2018020857A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019155699A1 (ja) * 2018-02-09 2019-08-15 ソニーセミコンダクタソリューションズ株式会社 撮像装置及び撮像方法
JP2019162231A (ja) * 2018-03-19 2019-09-26 ソニー株式会社 医療用撮像装置及び医療用観察システム
JP2020167600A (ja) * 2019-03-29 2020-10-08 株式会社ソニー・インタラクティブエンタテインメント 画像処理方法、画像処理装置、およびヘッドマウントディスプレイ
US11785346B2 (en) 2019-06-13 2023-10-10 Sony Group Corporation Imaging device and imaging control method

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6366877B1 (ja) * 2016-11-25 2018-08-01 オリンパス株式会社 内視鏡システム
WO2018179504A1 (ja) * 2017-03-27 2018-10-04 オリンパス株式会社 撮像装置
US20220247950A1 (en) * 2019-03-29 2022-08-04 Nikon Corporation Image capture element and image capture apparatus
WO2020202413A1 (ja) * 2019-03-29 2020-10-08 株式会社ニコン 撮像素子および撮像装置
WO2020202414A1 (ja) * 2019-03-29 2020-10-08 株式会社ニコン 撮像装置および制御プログラム
US11633089B2 (en) * 2019-06-20 2023-04-25 Cilag Gmbh International Fluorescence imaging with minimal area monolithic image sensor
EP4057047A1 (en) * 2021-03-09 2022-09-14 Leica Instruments (Singapore) Pte. Ltd. Microscope system and corresponding system, method and computer program

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006295666A (ja) * 2005-04-13 2006-10-26 Pentax Corp ノイズ除去装置
JP5108713B2 (ja) * 2008-10-10 2012-12-26 パナソニック株式会社 固体撮像装置及び撮像装置
JP2014209696A (ja) 2012-07-23 2014-11-06 ソニー株式会社 固体撮像装置、信号読み出し方法、および電子機器
JP2015211259A (ja) * 2014-04-24 2015-11-24 ソニー株式会社 撮像素子、制御方法、並びに、撮像装置
JP6353533B2 (ja) * 2014-07-04 2018-07-04 シャープ株式会社 固体撮像素子及び電子情報機器

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019155699A1 (ja) * 2018-02-09 2019-08-15 ソニーセミコンダクタソリューションズ株式会社 撮像装置及び撮像方法
JP2019162231A (ja) * 2018-03-19 2019-09-26 ソニー株式会社 医療用撮像装置及び医療用観察システム
JP7151109B2 (ja) 2018-03-19 2022-10-12 ソニーグループ株式会社 医療用撮像装置及び医療用観察システム
JP2020167600A (ja) * 2019-03-29 2020-10-08 株式会社ソニー・インタラクティブエンタテインメント 画像処理方法、画像処理装置、およびヘッドマウントディスプレイ
JP7261642B2 (ja) 2019-03-29 2023-04-20 株式会社ソニー・インタラクティブエンタテインメント 画像処理方法、画像処理装置、およびヘッドマウントディスプレイ
US11640058B2 (en) 2019-03-29 2023-05-02 Sony Interactive Entertainment Inc. Image processing method, image processing apparatus, and head-mounted display
US11785346B2 (en) 2019-06-13 2023-10-10 Sony Group Corporation Imaging device and imaging control method

Also Published As

Publication number Publication date
US10986986B2 (en) 2021-04-27
WO2018020857A1 (ja) 2018-02-01
US20190239731A1 (en) 2019-08-08

Similar Documents

Publication Publication Date Title
WO2018020857A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
US10834315B2 (en) Image transfer apparatus and moving image generating system for transferring moving image data
US10958847B2 (en) Imaging device, image processing method, and image processing system
US10873715B2 (en) Solid-state image sensor, imaging device, and method of controlling solid-state image sensor
US11372200B2 (en) Imaging device
US11350053B2 (en) Imaging device, method thereof, and imaging element
WO2017221715A1 (ja) 撮像素子及び電子機器
US10666284B2 (en) Solid-state imaging apparatus and electronic equipment
WO2018003245A1 (ja) 信号処理装置、撮像装置、及び信号処理方法
WO2019163368A1 (ja) 測距システム、及び、受光モジュール
JPWO2020174865A1 (ja) 可変焦点距離レンズ系及び撮像装置
US20200382823A1 (en) Display control apparatus, display control method, and video output apparatus
US11156751B2 (en) Imaging optical system, camera module, and electronic device
WO2018037680A1 (ja) 撮像装置、撮像システム、及び、信号処理方法
US11482159B2 (en) Display control device, display control method, and display control program
US20240310648A1 (en) Lens array and stereoscopic display apparatus
JPWO2020174876A1 (ja) レンズ鏡筒及び撮像装置