JP7149514B2 - Imaging device and video output method - Google Patents

Imaging device and video output method Download PDF

Info

Publication number
JP7149514B2
JP7149514B2 JP2018119132A JP2018119132A JP7149514B2 JP 7149514 B2 JP7149514 B2 JP 7149514B2 JP 2018119132 A JP2018119132 A JP 2018119132A JP 2018119132 A JP2018119132 A JP 2018119132A JP 7149514 B2 JP7149514 B2 JP 7149514B2
Authority
JP
Japan
Prior art keywords
video data
noise
imaging device
gradation
output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018119132A
Other languages
Japanese (ja)
Other versions
JP2019220925A5 (en
JP2019220925A (en
Inventor
竜司 渕上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2018119132A priority Critical patent/JP7149514B2/en
Publication of JP2019220925A publication Critical patent/JP2019220925A/en
Publication of JP2019220925A5 publication Critical patent/JP2019220925A5/ja
Priority to JP2022146045A priority patent/JP7445904B2/en
Application granted granted Critical
Publication of JP7149514B2 publication Critical patent/JP7149514B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本開示は、比較的高いフレームレートを有する映像の表示に好適な映像表示システム等に用いられる撮像装置及び映像出力方法に関する。 The present disclosure relates to an imaging device and a video output method used in a video display system suitable for displaying video having a relatively high frame rate.

動画像の映像信号に対して画像処理及び伝送を行い、表示装置に映像を表示する映像表示システムは、人の視覚を考慮して60fps(frame per seconds)以下のフレームレートにて動作するよう設計されるのが一般的である。このような映像表示システムでは、撮像装置によって取得した映像が表示装置にて表示されるまでの間に、撮像、画像処理、伝送の各処理の実行によって、システム全体としてある程度の遅延が発生することになる。例えば、フレームレートが60fpsの場合には、1フレームあたりの時間が約16.6msとなり、映像表示の遅延として例えば100ms程度の遅延が発生することがある。 The video display system, which performs image processing and transmission on the video signal of moving images and displays the video on the display device, is designed to operate at a frame rate of 60 fps (frame per second) or less in consideration of human vision. It is common to be In such a video display system, a certain amount of delay occurs in the entire system due to the execution of each process of imaging, image processing, and transmission until the video acquired by the imaging device is displayed on the display device. become. For example, when the frame rate is 60 fps, the time per frame is about 16.6 ms, and a delay of about 100 ms may occur as a video display delay.

撮像装置によって撮像した映像出力に対する上記のような映像表示の遅延は、システムの動作に悪影響を及ぼし得る。例えば、遠隔から映像を見ながらロボットアームを制御して不規則に動くものを掴むような場合において、映像の遅延は安定した操作を阻害する要因となるため、映像表示の遅延を解消することが望まれる。リアルタイム映像を利用する内視鏡手術及び遠隔手術、災害救助ロボットの遠隔操作などに用いられる映像表示システムにおいても、映像表示の遅延の解消が有益となる。 Such a delay in video display with respect to the video output captured by the imaging device can adversely affect the operation of the system. For example, when controlling a robot arm to grab an object that moves irregularly while watching an image from a distance, the image display delay can be a factor that hinders stable operation. desired. Elimination of delay in image display is also beneficial in image display systems used for endoscopic surgery and remote surgery using real-time images, remote operation of disaster relief robots, and the like.

一方で、映像に比較的高いフレームレート(例えば、480fps)を適用することにより、映像表示の遅延を抑制する技術も想定されるが、単にフレームレートを増大させた場合には、伝送量及び演算量の増大を招くことになる。 On the other hand, by applying a relatively high frame rate (for example, 480 fps) to the video, it is also possible to suppress the delay of video display, but if the frame rate is simply increased, the amount of transmission and calculation This will lead to an increase in volume.

映像の高解像度を維持しつつ伝送量を抑制するための技術として、例えば、監視用カメラによって撮影された映像に関し、人が出入りするドアの付近などに注目し、この監視したい注目監視エリアを高フレームレートで表示し、植物が置かれた場所や壁など注目監視エリアの背景となるようなエリアをネットワーク帯域の有効利用を考慮して低フレームレートで伝送を行うようにしたものが知られている。 As a technology for suppressing the transmission volume while maintaining the high resolution of the video, for example, regarding the video captured by the surveillance camera, we focus on the vicinity of the door where people enter and exit, and we want to monitor this attention monitoring area at a high level. It is known to display at a frame rate and transmit the background of the attention monitoring area such as the place where the plant is placed or the wall at a low frame rate in consideration of the effective use of the network bandwidth. there is

特開2008-219484号公報JP 2008-219484 A

上記特許文献1に記載された従来技術では、高フレームレートとして30fps程度が想定されている。ここで、映像の高解像度を維持するために、より高いフレームレート(例えば、480fps)を適用した場合には、高フレームレートの適用が注目監視エリアのような画像の一部であったとしても、伝送量及び演算量の増大は問題となり得る。 In the conventional technology described in Patent Document 1, a high frame rate of about 30 fps is assumed. Here, when a higher frame rate (for example, 480 fps) is applied in order to maintain the high resolution of the video, even if the application of the high frame rate is part of the image such as the attention monitoring area, , the increased transmission and computational complexity can be a problem.

本開示は、比較的高いフレームレートを有する映像を取得して表示装置に対して伝送する際に、表示映像の品質低下を抑制しつつ、映像の伝送量及び演算量の増大を抑制することができる撮像装置及び映像出力方法を提供することを目的とする。 The present disclosure can suppress an increase in the amount of video transmission and the amount of calculation while suppressing deterioration in the quality of the displayed video when acquiring video with a relatively high frame rate and transmitting it to the display device. It is an object of the present invention to provide an imaging device and a video output method capable of capturing images.

本開示は、撮像により撮像映像データを取得する撮像デバイスと、前記撮像映像データから得られる第1階調よりも階調値が小さい第2階調の表示映像データを生成して出力する映像出力部と、を有し、前記映像出力部は、前記撮像映像データの輝度値全体に渡って各輝度値のノイズレベルの総和が一様になるように、前記撮像映像データに対して加算ノイズを付加するノイズ付加部と、前記加算ノイズを付加した後の映像データを前記第2階調の表示映像データに変換する変調部と、を含む、撮像装置を提供する。 The present disclosure includes an imaging device that acquires imaged video data by imaging , and display image data of a second gradation whose gradation value is smaller than the first gradation obtained from the imaged video data. and a video output unit for outputting, the video output unit outputs to the captured video data such that the sum of noise levels of each luminance value is uniform over the entire luminance value of the captured video data. and a modulation unit for converting video data to which the additive noise has been added into display video data of the second gradation.

また、本開示は、撮像デバイスにより撮像映像データを取得するステップと、前記撮像映像データの輝度値全体に渡って各輝度値のノイズレベルの総和が一様になるように、前記撮像映像データに対して加算ノイズを付加するステップと、前記加算ノイズを付加した後の映像データを用いて、前記撮像映像データから得られる第1階調よりも階調値が小さい第2階調の表示映像データを生成するステップと、前記第2階調の表示映像データを表示装置に出力するステップと、を有する映像出力方法を提供する。 Further, the present disclosure includes a step of acquiring imaged video data by an imaging device, and performing the imaged image data so that the sum of noise levels of each luminance value is uniform over the entire luminance value of the imaged image data. a step of adding additive noise to video data; and a second gradation having a smaller gradation value than the first gradation obtained from the captured video data using the video data to which the additive noise has been added. and outputting the display image data of the second gradation to a display device.

本開示によれば、比較的高いフレームレートを有する映像を取得して表示装置に対して伝送する際に、表示映像の品質低下を抑制しつつ、映像の伝送量及び演算量の増大を抑制できる。 According to the present disclosure, when acquiring a video having a relatively high frame rate and transmitting it to a display device, it is possible to suppress an increase in the amount of video transmission and the amount of calculation while suppressing deterioration in the quality of the displayed video. .

本実施の形態に係る撮像装置を含む映像表示システムの構成の第1例を示すブロック図1 is a block diagram showing a first example of a configuration of a video display system including an imaging device according to this embodiment; FIG. 本実施の形態に係る撮像装置におけるノイズ特性の一例を示す図FIG. 4 is a diagram showing an example of noise characteristics in the imaging device according to this embodiment; 本実施の形態に係る撮像装置において映像データにノイズを加算する動作例を示す図FIG. 4 is a diagram showing an operation example of adding noise to video data in the imaging device according to the present embodiment; 本実施の形態に係る撮像装置を含む映像表示システムの構成の第2例を示すブロック図FIG. 2 is a block diagram showing a second example of the configuration of a video display system including an imaging device according to this embodiment; 撮像装置における映像信号の出力輝度値とノイズレベルとの関係の一例を示す図であり、ノイズが発生しない仮想状態を示した図FIG. 3 is a diagram showing an example of the relationship between the output luminance value of a video signal and the noise level in an imaging device, and is a diagram showing a virtual state in which noise does not occur; 撮像装置における映像信号の出力輝度値とノイズレベルとの関係の一例を示す図であり、光ショットノイズが発生する実際の撮像デバイスの状態を示した図FIG. 3 is a diagram showing an example of the relationship between the output luminance value of a video signal and the noise level in an imaging device, and is a diagram showing the state of an actual imaging device in which optical shot noise occurs; 比較例の撮像装置における動作例を示す図FIG. 11 is a diagram showing an operation example of an imaging device of a comparative example; 本実施の形態の撮像装置における動作例を示す図4A and 4B are diagrams showing operation examples of the imaging device according to the present embodiment;

以下、適宜図面を参照しながら、本開示に係る構成を具体的に開示した各実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面及び以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。 Hereinafter, each embodiment specifically disclosing the configuration according to the present disclosure will be described in detail with reference to the drawings as appropriate. However, more detailed description than necessary may be omitted. For example, detailed descriptions of well-known matters and redundant descriptions of substantially the same configurations may be omitted. This is to avoid unnecessary verbosity in the following description and to facilitate understanding by those skilled in the art. It should be noted that the accompanying drawings and the following description are provided for a thorough understanding of the present disclosure by those skilled in the art and are not intended to limit the claimed subject matter.

本実施の形態では、比較的高いフレームレートを有する映像を表示する映像表示システムの構成を例示し、この映像表示システムにおいて高フレームレートの映像を取得して伝送する撮像装置の構成及び動作の一例について説明する。高フレームレートの映像表示システムとして、例えば、フレームレート480fpsの映像を表示する場合の構成を示す。フレームレートは、480fps、960fpsなど、通常映像に用いられる30fps~60fpsに比べて十分に高い値を用いる。本実施の形態は、高フレームレートの映像表示によって遅延を抑制するとともに、映像の伝送量及び演算量の増大を抑制する構成例を示すものである。 This embodiment exemplifies the configuration of a video display system that displays video having a relatively high frame rate, and an example of the configuration and operation of an imaging device that acquires and transmits a high frame rate video in this video display system. will be explained. As a high frame rate video display system, for example, a configuration for displaying video with a frame rate of 480 fps is shown. As the frame rate, values such as 480 fps and 960 fps, which are sufficiently higher than 30 fps to 60 fps used for normal video, are used. The present embodiment shows a configuration example that suppresses delay by displaying video at a high frame rate and suppresses an increase in the amount of video transmission and the amount of calculation.

ここで、視覚系のコントラスト感度関数(CSF:Contrast Sensitivity Function)の時間特性について説明する。CSFの時間周波数に関して、刺激をコントラスト反転したときにフリッカーが知覚されなくなる時間周波数は臨界融合周波数(CFF:Critical Flicker Frequency)と呼ばれ、CFFは一定のコントラストのもとで刺激が検出できる最大の時間周波数に相当する。人間のCFFは50Hz程度とされており、速くても60~120Hzがコントラストの変化を検知できる限界と考えられる。この人間に知覚可能な上限値を本明細書では人間の視覚時間感度(視覚情報処理の時間的解像度)と呼ぶことにする。人間の視覚時間感度を超えるような例えば480fps以上のフレームレートの高速映像は、人間は複数フレームにまたがって残像的に映像を認知することになる。 Here, the temporal characteristics of the contrast sensitivity function (CSF) of the visual system will be described. Regarding the temporal frequency of CSF, the temporal frequency at which flicker is no longer perceived when the stimulus is contrast-inverted is called the critical flicker frequency (CFF), and CFF is the maximum detectable stimulus under constant contrast. Corresponds to time frequency. The human CFF is about 50 Hz, and 60 to 120 Hz at the fastest is considered to be the limit for detecting changes in contrast. This upper limit of human perceptibility is referred to herein as human visual temporal sensitivity (temporal resolution of visual information processing). A high-speed video with a frame rate of 480 fps or more, which exceeds human visual time sensitivity, causes humans to perceive the video as an afterimage across a plurality of frames.

このような人間の視覚特性を考慮し、本実施の形態では、撮像デバイスにて撮像した比較的高いフレームレートの映像データに対して、ランダムなノイズを加算し、輝度値のビット数を減らして階調を落とした状態で伝送する。この場合、映像データの階調値を小さくしつつ、ランダムなノイズの付加によっていわゆるディザ処理を施して出力することになる。これにより、映像データのデータ量を削減するとともに、階調値の低減により失われた階調成分を、人間の目による複数フレームの残像的な知覚によって回復させて擬似的な階調を与え、表示映像の品質低下を抑制する。 Considering such characteristics of human vision, in the present embodiment, random noise is added to video data captured by an imaging device at a relatively high frame rate to reduce the number of bits of luminance values. Transmits with reduced gradation. In this case, while reducing the gradation value of the video data, so-called dither processing is performed by adding random noise to output the data. As a result, the data amount of the video data is reduced, and the gradation components lost due to the reduction of the gradation value are restored by the afterimage perception of multiple frames by the human eye to give a pseudo gradation, To suppress deterioration in quality of displayed video.

信号にランダムなノイズを加算することによって、確率共鳴が発生することが知られている。本実施の形態では、確率共鳴を利用し、映像データにランダムなノイズを意図的に加算して閾値未満の信号成分をある確率のもとで検出可能とすることにより、階調値の低減により失われた階調成分を回復させる。 Stochastic resonance is known to occur by adding random noise to a signal. In the present embodiment, stochastic resonance is used to intentionally add random noise to video data so that signal components below the threshold can be detected with a certain probability. Recover lost gradation components.

また、本実施形態では、撮像デバイスにおいて発生する固有ノイズの一例としての光ショットノイズを考慮し、映像データに付加するランダムなノイズのノイズレベル(すなわち加算ノイズの振幅範囲)を調整する。この場合、映像データの輝度値に応じて変動する光ショットノイズのノイズレベルに対して、ノイズレベルの総和が輝度値に関わらず一様となるように、加算ノイズの振幅範囲を変化させる。加算ノイズの詳細については後述する。 In addition, in the present embodiment, the noise level of random noise added to video data (that is, the amplitude range of additive noise) is adjusted in consideration of optical shot noise as an example of inherent noise generated in an imaging device. In this case, the amplitude range of the additive noise is changed so that the sum of the noise levels becomes uniform regardless of the luminance value with respect to the noise level of the optical shot noise that fluctuates according to the luminance value of the video data. Details of the additive noise will be described later.

図1は、本実施の形態に係る撮像装置を含む映像表示システムの構成の第1例を示すブロック図である。映像表示システム1は、任意の対象物を撮像する撮像装置10と、撮像装置10から出力された映像データ(映像信号)がリアルタイムで入力される高速表示装置(表示装置)30とを有する。 FIG. 1 is a block diagram showing a first example of the configuration of an image display system including an imaging device according to this embodiment. The video display system 1 includes an imaging device 10 that captures an image of an arbitrary object, and a high-speed display device (display device) 30 that receives video data (video signal) output from the imaging device 10 in real time.

撮像装置10は、撮像デバイス11と、映像出力部12とを有する。撮像装置10は、撮像デバイス11及び映像出力部12を一体的に構成した例えば1チップの半導体装置で構成されるものであってもよいし、撮像デバイス11と映像出力部12とを別体にした例えば複数チップの半導体装置を含む構成であってもよい。 The imaging apparatus 10 has an imaging device 11 and a video output section 12 . The imaging device 10 may be composed of, for example, a one-chip semiconductor device in which the imaging device 11 and the video output unit 12 are integrally configured, or the imaging device 11 and the video output unit 12 may be separately provided. For example, a configuration including a semiconductor device of a plurality of chips may be used.

撮像デバイス11は、CCD(Charge Coupled Device)型イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)型イメージセンサ等による固体撮像素子を含んで構成される。撮像デバイス11は、図示しない撮像レンズにより結像された被写体の画像を撮像し、人間の視覚時間感度を超える例えば480fps以上の高フレームレートの撮像信号を取得する。そして、撮像デバイス11は、第1のビット数(例えば8ビット)を有する第1階調の映像データ(以下、撮像映像データとも称する)を生成する。撮像映像データのフレームレートは、例えば約1000fpsとする。第1階調の映像データは、第1階調(例えば8ビット)の輝度値を有する。よって、撮像デバイス11は、被写体像を光電変換した撮像画像について、例えば、R,G,Bの各色について8ビットずつ合計24ビットの映像データを生成して出力する。このとき、撮像デバイス11は、ユーザ設定等により入力されるゲイン設定値に従って、所定のゲインによる第1階調の映像データを出力する。 The imaging device 11 includes a solid-state imaging device such as a CCD (Charge Coupled Device) type image sensor or a CMOS (Complementary Metal Oxide Semiconductor) type image sensor. The imaging device 11 captures an image of a subject formed by an imaging lens (not shown), and acquires an imaging signal with a high frame rate of, for example, 480 fps or higher, which exceeds human visual temporal sensitivity. Then, the imaging device 11 generates first gradation video data (hereinafter also referred to as captured video data) having a first number of bits (for example, 8 bits). The frame rate of captured video data is, for example, approximately 1000 fps. The video data of the first gradation has a luminance value of the first gradation (for example, 8 bits). Therefore, the imaging device 11 generates and outputs 24-bit video data in total of 8 bits for each color of R, G, and B, for example, for the captured image obtained by photoelectrically converting the subject image. At this time, the imaging device 11 outputs video data of the first gradation with a predetermined gain according to the gain setting value input by user setting or the like.

映像出力部12は、第1階調の映像データを符号化して第1のビット数よりも小さい第2のビット数(例えば4ビット)を有する第2階調の映像データ(以下、表示映像データとも称する)を生成して出力する。すなわち、映像出力部12は、撮像映像データから通常得られる第1階調よりも階調値が小さい第2階調の表示映像データを生成して出力する。映像出力部12は、演算部13と、ノイズ発生器14と、加算器15と、量子化器16とを有する。ここで、演算部13、ノイズ発生器14、及び加算器15がノイズ付加部の一例としての機能を有し、量子化器16が変調部の一例としての機能を有する。 The video output unit 12 encodes the first gradation video data to generate second gradation video data (hereinafter referred to as display video data) having a second bit number (for example, 4 bits) smaller than the first bit number. ) is generated and output. That is, the image output unit 12 generates and outputs display image data of the second gradation whose gradation value is smaller than the first gradation normally obtained from the imaged image data. The video output unit 12 has an arithmetic unit 13 , a noise generator 14 , an adder 15 and a quantizer 16 . Here, the calculator 13, the noise generator 14, and the adder 15 function as an example of the noise adder, and the quantizer 16 functions as an example of the modulator.

演算部13は、撮像デバイス11から出力される映像データの輝度値に基づき、輝度値に応じた加算ノイズの振幅範囲を算出する。このとき、演算部13は、ユーザ設定等により入力されるゲイン設定値に従って、輝度値に応じた加算ノイズの振幅範囲を算出する。なお、演算部13は、撮像デバイス11より出力される撮像デバイスの温度計測値を用いて、温度による補正値を加えた振幅範囲を算出してもよい。ノイズ発生器14は、例えば三角波を発生する発振器、又は乱数を発生する乱数発生器等を有して構成され、演算部13により算出された振幅範囲において変動するランダムな値を有する加算ノイズを生成する。加算器15は、撮像デバイス11から順次出力される現フレームに関する第1階調の映像データと、ノイズ発生器14から出力される加算ノイズとを加算し、ノイズ付加後の映像データを量子化器16に対して出力する。 Based on the luminance value of the video data output from the imaging device 11, the calculation unit 13 calculates the amplitude range of the added noise according to the luminance value. At this time, the calculation unit 13 calculates the amplitude range of the added noise according to the luminance value according to the gain setting value input by user setting or the like. Note that the calculation unit 13 may use the temperature measurement value of the imaging device output from the imaging device 11 to calculate the amplitude range to which the correction value due to the temperature is added. The noise generator 14 includes, for example, an oscillator that generates a triangular wave or a random number generator that generates random numbers, and generates additive noise having random values that fluctuate within the amplitude range calculated by the calculator 13. do. The adder 15 adds the video data of the first gradation for the current frame sequentially output from the imaging device 11 and the addition noise output from the noise generator 14, and quantizes the video data after noise addition. 16.

量子化器16は、第1階調の映像データに対してノイズが付加された映像データを、第2階調の映像データに量子化して順次出力する。この量子化器16により、撮像デバイス11の出力に対して階調を下げたデータ(量子化データ)を生成することができる。したがって、撮像装置10は、撮像により得られた高フレームレートの映像データとして、撮像時点の第1階調の撮像映像データよりもデータ量を削減した第2階調の表示映像データを出力する。 The quantizer 16 quantizes the image data obtained by adding noise to the image data of the first gradation into the image data of the second gradation and sequentially outputs the quantized image data. The quantizer 16 can generate data (quantized data) obtained by lowering the gradation of the output of the imaging device 11 . Therefore, the imaging device 10 outputs display video data of the second gradation, which is reduced in data amount from the captured video data of the first gradation at the time of imaging, as high frame rate video data obtained by imaging.

高速表示装置30は、液晶ディスプレイ、有機EL(ElectroLuminescence)ディスプレイ、プラズマディスプレイ等の公知の構成を有する表示デバイスを含んで構成される。高速表示装置30は、撮像装置10から伝送される映像データ(表示映像データ)を入力し、人間の視覚時間感度を超える高フレームレート(例えば480fps以上)の高速映像を表示可能となっている。この際、撮像装置10から高速表示装置30へ表示映像データを伝送して表示するまでの遅延は、例えば表示映像データのフレームレートが1000fpsの場合、約1ms程度に小さくできる。 The high-speed display device 30 includes a display device having a known configuration such as a liquid crystal display, an organic EL (ElectroLuminescence) display, a plasma display, or the like. The high-speed display device 30 receives video data (display video data) transmitted from the imaging device 10, and is capable of displaying high-speed video at a high frame rate (for example, 480 fps or higher) that exceeds human visual time sensitivity. At this time, the delay from the imaging device 10 to the display video data transmitted to the high-speed display device 30 for display can be reduced to about 1 ms when the frame rate of the display video data is 1000 fps, for example.

図2は、本実施の形態に係る撮像装置におけるノイズ特性の一例を示す図である。ここで図2を用いて、本実施の形態における加算ノイズの振幅範囲について説明する。撮像装置10の撮像デバイス11において、固有ノイズとして光ショットノイズが発生し、出力される撮像信号に光ショットノイズNsの成分が含まれる。光ショットノイズNsは、光子の数の平方根に比例するため、撮像信号の輝度値により、輝度値が増加するにつれてノイズレベルが増加する。また、撮像デバイス11において、周囲温度に応じた熱雑音Ntが発生する。熱雑音Ntは、撮像信号の輝度値に関わらず、ノイズレベルはほぼ一定の値である。 FIG. 2 is a diagram showing an example of noise characteristics in the imaging device according to this embodiment. Here, with reference to FIG. 2, the amplitude range of additive noise in this embodiment will be described. In the imaging device 11 of the imaging apparatus 10, light shot noise is generated as inherent noise, and the output imaging signal contains the component of the light shot noise Ns. Since the light shot noise Ns is proportional to the square root of the number of photons, the noise level increases as the brightness value of the imaging signal increases. Also, thermal noise Nt is generated in the imaging device 11 according to the ambient temperature. The thermal noise Nt has a substantially constant noise level regardless of the luminance value of the imaging signal.

本実施形態では、輝度値のビット数低減により失われた階調成分を回復させるためにランダムなノイズを意図的に加算する際に、輝度値による光ショットノイズNsの変動を考慮し、加算ノイズの振幅範囲Naを設定する。すなわち、加算ノイズの振幅範囲Naは、輝度値が増加するにつれてノイズレベルが減少するように、輝度値に応じて変動する振幅範囲を設定する。例えば、輝度値が8ビット(0~255)で表され、8ビットの輝度値を4ビットに量子化する場合、0~15の振幅範囲の一様分布の乱数を加算ノイズとして加算する。このとき、加算ノイズの振幅範囲(乱数の発生範囲)を輝度値に応じて変化させる。より具体的には、低輝度領域では広い振幅範囲で発生させた加算ノイズを付加し、高輝度領域では狭い振幅範囲で発生させた加算ノイズを付加する。これにより、撮像装置10における各輝度値のノイズレベルの総和を輝度値全体に渡って一様になるように、すなわちノイズレベルの総和を輝度値に関わらず一様とし、加算ノイズを過度に加算しすぎないようにする。 In this embodiment, when intentionally adding random noise in order to recover gradation components lost by reducing the number of bits of the luminance value, the addition noise set the amplitude range Na of That is, the amplitude range Na of the additive noise is set to vary according to the luminance value so that the noise level decreases as the luminance value increases. For example, when the luminance value is represented by 8 bits (0 to 255) and the 8-bit luminance value is quantized to 4 bits, a random number with a uniform distribution in the amplitude range of 0 to 15 is added as addition noise. At this time, the amplitude range of the additive noise (random number generation range) is changed according to the luminance value. More specifically, additive noise generated in a wide amplitude range is added to the low luminance region, and additive noise generated in a narrow amplitude range is added to the high luminance region. As a result, the total noise level of each luminance value in the imaging device 10 is made uniform over the entire luminance value, that is, the total noise level is made uniform regardless of the luminance value, and the addition noise is excessively added. Don't overdo it.

映像データのフレームレートが低い場合は、ノイズを付加してもちらつきやノイズが増えるだけである。これに対し、人間の視覚時間感度を超える高フレームレートの場合は、複数フレームが残像として重なって見えるため、適切な量で、規定時間内に加算ノイズの平均値と変動値を収めることにより、人間の視覚にとっては、ちらつきを感じることなく、擬似的に階調を増加させて視認させることが可能となる。 When the frame rate of video data is low, adding noise only increases flicker and noise. On the other hand, in the case of a high frame rate that exceeds the temporal sensitivity of human vision, multiple frames appear to overlap as afterimages. For human vision, it is possible to visually increase the gradation in a pseudo manner without perceiving flickering.

加算ノイズの振幅範囲Naは、例えば以下の(1)式のように示すことができる。
Na=Q2-sqrt(y)×Cg+Nt …(1)
ここで、Q2は第2階調への量子化範囲であり、例えば第2のビット数が4ビットの場合は16となる。yは撮像デバイス11より出力される撮像映像データの輝度値であり、例えば第1のビット数が8ビットの場合は0~255のいずれかの値となる。sqrt(y)は輝度値yの平方根を示す。よって、sqrt(y)×Cgは光ショットノイズNsの成分に比例する値の標準偏差に相当する。Cgはゲイン補正値であり、撮像装置10のゲイン設定値に応じた所定の定数を用いればよい。撮像デバイス11の出力の輝度値に対応する光子の数は、ゲイン設定値によって変化するので、ゲイン補正値Cgによりゲイン設定値に応じた補正を行う。Ntは撮像デバイス11において推定される熱雑音の値である。なお、補正値としてさらに所定の係数を加えてもよい。
The amplitude range Na of the additive noise can be expressed, for example, by the following equation (1).
Na=Q2-sqrt(y)×Cg+Nt (1)
Here, Q2 is the quantization range to the second gradation, and is 16 when the second number of bits is 4 bits, for example. y is the luminance value of the captured video data output from the imaging device 11, and is any value from 0 to 255 when the first bit number is 8 bits, for example. sqrt(y) indicates the square root of the luminance value y. Therefore, sqrt(y)×Cg corresponds to the standard deviation of values proportional to the components of optical shot noise Ns. Cg is a gain correction value, and a predetermined constant corresponding to the gain setting value of the imaging device 10 may be used. Since the number of photons corresponding to the luminance value of the output of the imaging device 11 changes depending on the gain setting value, correction according to the gain setting value is performed using the gain correction value Cg. Nt is the value of thermal noise estimated in the imaging device 11 . A predetermined coefficient may be added as the correction value.

撮像装置10における固有ノイズと加算ノイズとを含むノイズレベルの総和Nは、N≒Ns+Na+Ntであるので、上記(1)式のように輝度値に応じて変動する加算ノイズの振幅範囲Naを設定することによって、ノイズレベルの総和Nを輝度値に関わらず一様にすることができる。ノイズレベルの総和は、例えば、撮像装置10から出力される映像データの統計分析によって輝度とノイズの関係を抽出し、輝度値に関わらず一様であるかどうかを判別可能である。 Since the sum N of the noise levels including the inherent noise and the additive noise in the imaging device 10 is N≈Ns+Na+Nt, the amplitude range Na of the additive noise that varies according to the luminance value is set as in the above equation (1). As a result, the total noise level N can be made uniform regardless of the luminance value. For example, it is possible to determine whether or not the total noise level is uniform regardless of the luminance value by extracting the relationship between luminance and noise through statistical analysis of video data output from the imaging device 10 .

図3は、本実施の形態に係る撮像装置において映像データにノイズを加算する動作例を示す図である。図3では、説明を簡単にするために、加算ノイズの振幅範囲を固定値とした場合を例示する。図示例は、映像データの輝度値を0~240の各階調値とし、加算ノイズの振幅範囲を16とし、加算ノイズを0~15の間でランダムに変動する変動値とした例である。加算器15は、撮像デバイス11から出力される映像データの輝度値と、ノイズ発生器14から出力される加算ノイズとを加算し、順次積分した積分値をノイズ付加後の映像データとして量子化器16に対して出力する。量子化器16は、ノイズ付加後の映像データを第2階調の映像データに変換して順次出力する。 FIG. 3 is a diagram showing an operation example of adding noise to video data in the imaging device according to the present embodiment. In order to simplify the explanation, FIG. 3 illustrates a case in which the amplitude range of added noise is a fixed value. In the illustrated example, the luminance value of video data is set to each gradation value of 0 to 240, the amplitude range of additive noise is set to 16, and the additive noise is set to a variable value that varies randomly between 0 and 15. FIG. The adder 15 adds the luminance value of the video data output from the imaging device 11 and the added noise output from the noise generator 14, and sequentially integrates the integrated values as video data after adding noise to the quantizer. 16. The quantizer 16 converts the noise-added video data into video data of the second gradation and sequentially outputs the video data.

図4は、本実施の形態に係る撮像装置を含む映像表示システムの構成の第2例を示すブロック図である。映像表示システム1Aは、任意の対象物を撮像する撮像装置20と、撮像装置20から出力された映像データがリアルタイムで入力される高速表示装置30とを有する。第2例は、第1例の撮像装置10の代わりに、アナログ回路により構成した撮像装置20を有する他の構成例である。ここでは、第1例と異なる構成要素について説明し、同様の構成については説明を適宜省略する。 FIG. 4 is a block diagram showing a second example of the configuration of the image display system including the imaging device according to this embodiment. The image display system 1A has an imaging device 20 that images an arbitrary object, and a high-speed display device 30 that receives video data output from the imaging device 20 in real time. A second example is another configuration example having an imaging device 20 configured by an analog circuit instead of the imaging device 10 of the first example. Here, components different from those in the first example will be described, and descriptions of the same configurations will be omitted as appropriate.

撮像装置20は、撮像デバイス21と、アナログ構成の映像出力部22とを有する。撮像装置20は、撮像デバイス21及び映像出力部22を一体的に構成した例えば1チップの半導体装置で構成されるものであってもよいし、撮像デバイス21と映像出力部22とを別体にした例えば複数チップの半導体装置を含む構成であってもよい。 The imaging apparatus 20 has an imaging device 21 and an analog video output section 22 . The imaging device 20 may be composed of, for example, a one-chip semiconductor device in which the imaging device 21 and the video output unit 22 are integrally configured, or the imaging device 21 and the video output unit 22 may be separately provided. For example, a configuration including a semiconductor device of a plurality of chips may be used.

撮像デバイス21は、高フレームレートの撮像信号を取得し、アナログ信号の映像信号(撮像映像データ)として出力する。映像出力部22は、撮像デバイス21から出力される映像信号を変調し、撮像時の撮像映像データから通常得られる第1階調(例えば8ビット)よりも階調値が小さい第2階調(例えば4ビット)の映像データ(表示映像データ)を生成して出力する。映像出力部22は、ノイズ発生器23と、可変増幅器(AMP)24と、加算増幅回路25と、ADコンバータ(ADC)26とを有する。ここで、ノイズ発生器23、可変増幅器24、及び加算増幅回路25がノイズ加算部の一例としての機能を有し、ADコンバータ26が変調部の一例としての機能を有する。 The imaging device 21 acquires a high frame rate imaging signal and outputs it as an analog video signal (captured video data). The video output unit 22 modulates the video signal output from the imaging device 21 to convert it to a second gradation (e.g., 8 bits) having a smaller gradation value than the first gradation (e.g., 8 bits) normally obtained from the captured video data at the time of imaging. For example, 4-bit video data (display video data) is generated and output. The video output unit 22 has a noise generator 23 , a variable amplifier (AMP) 24 , an addition amplifier circuit 25 and an AD converter (ADC) 26 . Here, the noise generator 23, variable amplifier 24, and addition amplifier circuit 25 function as an example of a noise addition section, and the AD converter 26 functions as an example of a modulation section.

ノイズ発生器23は、例えば三角波を発生する発振器、又はアナログノイズ発生回路等を有して構成され、所定レベルのランダムな加算ノイズを生成し出力する。可変増幅器24は、撮像デバイス21から出力される映像信号の輝度値を制御入力とし、ノイズ発生器23にて生成した加算ノイズを信号入力とし、輝度値に応じて変化させたゲインによって加算ノイズを増幅して出力する。これにより、可変増幅器24の出力は、輝度値に応じた振幅の加算ノイズが出力される。加算増幅回路25は、撮像デバイス21から出力される映像信号(撮像映像データ)と、可変増幅器24から出力される加算ノイズとを入力し、両者を加算(重畳)して増幅し出力する。ADコンバータ26は、加算増幅回路25から出力されるノイズ付加後のアナログの映像信号を第2のビット数(例えば4ビット)を有する第2階調のディジタルデータに変換し、表示映像データとして順次出力する。これにより、撮像装置10は、撮像により得られた高フレームレートの映像データとして、撮像デバイス21の出力に対して階調を下げてデータ量を削減した第2階調の表示映像データを出力する。 The noise generator 23 includes, for example, an oscillator that generates a triangular wave, an analog noise generation circuit, or the like, and generates and outputs random addition noise of a predetermined level. The variable amplifier 24 receives the luminance value of the video signal output from the imaging device 21 as a control input, receives the added noise generated by the noise generator 23 as a signal input, and converts the added noise by a gain that is changed according to the luminance value. Amplify and output. As a result, the output of the variable amplifier 24 is added noise having an amplitude corresponding to the luminance value. The summing amplifier circuit 25 receives the video signal (captured video data) output from the imaging device 21 and the summing noise output from the variable amplifier 24, adds (superimposes) them, amplifies them, and outputs them. The AD converter 26 converts the noise-added analog video signal output from the addition amplifier circuit 25 into digital data of a second gradation having a second number of bits (for example, 4 bits), and sequentially converts it into display video data. Output. As a result, the imaging device 10 outputs display video data of the second gradation, which is obtained by lowering the gradation of the output of the imaging device 21 to reduce the amount of data, as high-frame-rate video data obtained by imaging. .

次に、本実施の形態に係る撮像装置の動作例を説明する。ここでは、撮像映像データの輝度値に対する、出力される表示映像データの階調及びノイズレベルの一例を示す。 Next, an operation example of the imaging device according to this embodiment will be described. Here, an example of the gradation and noise level of output display image data with respect to the luminance value of imaged image data is shown.

図5は、撮像装置における映像信号の出力輝度値とノイズレベルとの関係の一例を示す図であり、ノイズが発生しない仮想状態を示した図である。図5の上部は撮像映像データの輝度値に対する表示映像データの出力の統計的な平均値を示しており、人間の目に見える階調を表している。図5の下部は撮像映像データの輝度値に対するノイズレベルの出力の統計的な平均値を示している。撮像映像データの輝度値の全範囲にわたってノイズレベルが0の場合、第1階調(例えば8ビット)の映像データを第2階調(例えば4ビット)の映像データに符号化すると、出力の表示映像データの階調は粗くなる。この場合、人間の視覚においては階段状の階調変化として視認される。 FIG. 5 is a diagram showing an example of the relationship between the output luminance value of the video signal and the noise level in the imaging device, and is a diagram showing a virtual state in which no noise occurs. The upper part of FIG. 5 shows the statistical average value of the output of the display image data with respect to the luminance value of the captured image data, representing the gradation visible to the human eye. The lower part of FIG. 5 shows the statistical average value of the noise level output with respect to the luminance value of the imaged video data. When the noise level is 0 over the entire luminance value range of the imaged video data, encoding the video data of the first gradation (e.g. 8 bits) into the video data of the second gradation (e.g. 4 bits) results in an output display The gradation of video data becomes rough. In this case, the human eye perceives it as a step-like gradation change.

図6は、撮像装置における映像信号の出力輝度値とノイズレベルとの関係の一例を示す図であり、光ショットノイズが発生する実際の撮像デバイスの状態を示した図である。図6の上部は撮像映像データの輝度値に対する表示映像データの出力の統計的な平均値を示しており、図6の下部は撮像映像データの輝度値に対するノイズレベルの出力の統計的な平均値を示している。ここでは、わかりやすくするために非常にノイズが多い状況を想定し、0~255の各輝度値において、正規分布のノイズをそれぞれ10000個発生させたシミュレーション結果を示している。この場合、撮像映像データには撮像装置において自然発生する固有ノイズとして光ショットノイズNsの成分が加算される。このため、第1階調から第2階調の映像データに符号化した際、ノイズ加算によって人間の視覚において擬似的な階調が付与され、ビット数低減により失われた階調成分が回復する。光ショットノイズNsは、撮像映像データの輝度値が増加するにつれてノイズレベルが大きくなるため、人間の目の見え方として高輝度領域ほど滑らかな階調変化が得られる。 FIG. 6 is a diagram showing an example of the relationship between an output luminance value of a video signal and a noise level in an imaging device, and is a diagram showing a state of an actual imaging device in which optical shot noise occurs. The upper part of FIG. 6 shows the statistical average value of the output of the display image data with respect to the luminance value of the imaged image data, and the lower part of FIG. 6 shows the statistical average value of the noise level output with respect to the luminance value of the imaged image data. is shown. Here, for the sake of clarity, a very noisy situation is assumed, and simulation results are shown in which 10,000 pieces of normal distribution noise are generated for each luminance value of 0 to 255. FIG. In this case, a component of optical shot noise Ns is added to the captured video data as inherent noise that naturally occurs in the imaging device. Therefore, when the video data is encoded from the first gradation to the second gradation, the addition of noise gives a pseudo gradation to human vision, and the gradation component lost due to the reduction in the number of bits is recovered. . Since the noise level of the optical shot noise Ns increases as the luminance value of the captured image data increases, a smoother gradation change can be obtained in a higher luminance region as perceived by the human eye.

図7は、比較例の撮像装置における動作例として、映像信号の出力輝度値とノイズ値との関係の一例を示す図であり、各輝度値において一様な範囲で加算ノイズを付加した状態を示した図である。図7の上部は撮像映像データの輝度値に対する表示映像データの出力の統計的な平均値を示しており、図7の下部は撮像映像データの輝度値に対するノイズレベルの出力の統計的な平均値を示している。ここでは、わかりやすくするために非常にノイズが多い状況を想定し、0~255の各輝度値において、正規分布のノイズをそれぞれ10000個発生させたシミュレーション結果を示している。比較例は、低輝度から高輝度まで一様な範囲で加算ノイズNaを付加する例である。この比較例では、ノイズレベルの総和Nは、加算ノイズNaが一定であるため、光ショットノイズNsに連動して輝度値が増加するにつれて大きくなる。この場合、高輝度領域では加算ノイズを過度に加算した状態となり、ノイズレベルの標準偏差が増加するため、出力の変動が大きくなり、出力レベルが所定範囲に収まらないことが生じ得る。このことは、出力映像に歪が生じてちらつきの要因となる。また、低輝度領域と高輝度領域の両端において階調が得られない課題が生じ得る。このように、低輝度から高輝度にわたって安定的にダイナミックレンジを確保できない場合があり、表示映像の品質低下を招くおそれがある。 FIG. 7 is a diagram showing an example of the relationship between the output luminance value of the video signal and the noise value as an operation example of the imaging apparatus of the comparative example, and shows a state in which additive noise is added in a uniform range to each luminance value. Fig. 3 shows. The upper part of FIG. 7 shows the statistical average value of the output of the display video data with respect to the luminance value of the captured video data, and the lower part of FIG. 7 shows the statistical average value of the noise level output with respect to the luminance value of the captured video data. is shown. Here, for the sake of clarity, a very noisy situation is assumed, and simulation results are shown in which 10,000 pieces of normal distribution noise are generated for each luminance value of 0 to 255. FIG. A comparative example is an example in which additive noise Na is added in a uniform range from low luminance to high luminance. In this comparative example, since the added noise Na is constant, the total noise level N increases as the luminance value increases in conjunction with the light shot noise Ns. In this case, the additive noise is excessively added in the high-luminance region, and the standard deviation of the noise level increases. This causes distortion in the output image and causes flickering. In addition, there may arise a problem that gradation cannot be obtained at both ends of the low-luminance region and the high-luminance region. In this way, it may not be possible to ensure a stable dynamic range from low luminance to high luminance, which may lead to deterioration in the quality of the displayed image.

図8は、本実施の形態の撮像装置における動作例として、映像信号の出力輝度値とノイズ値との関係の一例を示す図であり、輝度値に応じて範囲を変動させて加算ノイズを付加した状態を示した図である。図8の上部は撮像映像データの輝度値に対する表示映像データの出力の統計的な平均値を示しており、図8の下部は撮像映像データの輝度値に対するノイズレベルの出力の統計的な平均値を示している。ここでは、わかりやすくするために非常にノイズが多い状況を想定し、0~255の各輝度値において、正規分布のノイズをそれぞれ10000個発生させ、分散が輝度値に比例するよう発生させたシミュレーション結果を示している。実際には、撮像対象が明るい場合は撮像装置のゲイン設定値を下げることによりS/Nが変化し、ノイズレベルを下げることができる。よって、輝度値に応じて加算ノイズの振幅範囲を設定するとともに、ゲイン設定値に応じた振幅範囲の補正を行う。 FIG. 8 is a diagram showing an example of the relationship between the output luminance value of the video signal and the noise value, as an operation example of the imaging apparatus of the present embodiment. It is the figure which showed the state which carried out. The upper part of FIG. 8 shows the statistical average value of the output of the display video data with respect to the luminance value of the captured video data, and the lower part of FIG. 8 shows the statistical average value of the noise level output with respect to the luminance value of the captured video data. is shown. Here, to make it easier to understand, we assumed a very noisy situation, and generated 10,000 pieces of normally distributed noise for each luminance value from 0 to 255, and generated a simulation in which the variance was proportional to the luminance value. shows the results. Actually, when the object to be imaged is bright, the S/N is changed by lowering the gain setting value of the imaging device, and the noise level can be lowered. Therefore, the amplitude range of the additive noise is set according to the luminance value, and the amplitude range is corrected according to the gain setting value.

本実施の形態では、各輝度値においてノイズレベルの総和Nが一様となるように、輝度値に応じた光ショットノイズNsの増加に対して加算ノイズNaを減少させ、撮像映像データに加算する。これにより、映像データの出力偏差の増加を抑制できる。このように輝度値の増加に応じてノイズレベルが小さくなるように加算ノイズNaを変動させることにより、輝度値に関わらず常に適切なノイズ付加を可能とし、低輝度から高輝度にわたって安定的にダイナミックレンジを確保する。これにより、人間の視覚においては輝度値の全体で滑らかな階調変化が得られ、階調値の低減により失われた階調成分を回復でき、表示映像の品質低下を抑制できる。 In this embodiment, the addition noise Na is reduced with respect to the increase in the light shot noise Ns according to the luminance value so that the sum N of noise levels is uniform at each luminance value, and added to the captured image data. . As a result, it is possible to suppress an increase in the output deviation of the video data. In this way, by varying the added noise Na so that the noise level decreases as the luminance value increases, it is possible to always add appropriate noise regardless of the luminance value. Ensure range. As a result, a smooth gradation change can be obtained for the entire luminance value in human vision, the gradation component lost due to the reduction of the gradation value can be recovered, and the deterioration of the quality of the displayed image can be suppressed.

以上のように、本実施の形態の撮像装置10、20は、撮像により人間の視覚時間感度を超える高フレームレートの撮像映像データを取得する撮像デバイス11、21と、撮像映像データから通常得られる第1階調よりも階調値が小さい第2階調の表示映像データを生成して出力する映像出力部12、22と、を有する。映像出力部12、22は、撮像映像データの輝度値全体に渡って各輝度値のノイズレベルの総和が一様になるように、撮像映像データに対して加算ノイズを付加するノイズ付加部(演算部13、ノイズ発生器14、加算器15、又はノイズ発生器23、可変増幅器24、加算増幅回路25)と、加算ノイズを付加した後の映像データを第2階調の表示映像データに変換する変調部(量子化器16又はADコンバータ26)と、を含む。本実施の形態では、高フレームレートの撮像映像データを取得して表示装置に対して伝送する際に、撮像映像データに加算ノイズを付加し、撮像映像データから通常得られる第1階調よりも階調値が小さい第2階調の表示映像データを生成して出力する。このような信号処理によって、映像データのデータ量を削減して遅延を抑制するとともに、階調値の低減により失われた階調成分を、人間の目による複数フレームの残像的な知覚によって回復させる。このとき、撮像映像データの輝度値全体に渡って各輝度値のノイズレベルの総和が一様になるようにすることで、加算ノイズが過度に付加されることを防止し、映像のちらつき発生等の品質低下を抑制できる。これにより、表示映像の品質低下を抑制しつつ、映像の伝送量及び演算量の増大を抑制することが可能になる。 As described above, the image capturing apparatuses 10 and 20 of the present embodiment include the image capturing devices 11 and 21 that acquire captured video data with a high frame rate that exceeds human visual time sensitivity, and and image output units 12 and 22 for generating and outputting display image data of a second gradation whose gradation value is smaller than that of the first gradation. The video output units 12 and 22 each include a noise addition unit (computation unit) that adds addition noise to the captured video data so that the sum of the noise levels of each luminance value is uniform over the entire brightness value of the captured video data. section 13, noise generator 14, adder 15, or noise generator 23, variable amplifier 24, addition amplifier circuit 25), and converts the video data to which the addition noise has been added into display video data of the second gradation. and a modulator (quantizer 16 or AD converter 26). In the present embodiment, when captured video data with a high frame rate is acquired and transmitted to a display device, additive noise is added to the captured video data to obtain a higher gradation than the first gradation normally obtained from the captured video data. Display image data of a second gradation with a smaller gradation value is generated and output. Through such signal processing, the amount of video data is reduced to suppress delays, and the gradation components lost due to the reduction in gradation values are restored by the afterimage-like perception of multiple frames by the human eye. . At this time, by making the sum of the noise levels of each luminance value uniform over the entire luminance value of the imaged video data, it is possible to prevent excessive addition of additive noise and prevent flickering of the image. quality deterioration can be suppressed. This makes it possible to suppress an increase in the amount of video transmission and the amount of calculation while suppressing deterioration in the quality of the displayed video.

また、撮像装置10において、映像出力部12は、撮像デバイス11から出力される第1のビット数を有する第1階調の撮像映像データに基づき、第1のビット数よりも小さい第2のビット数を有する第2階調の表示映像データを生成して出力する。これにより、映像データの輝度値のビット数低減によってデータ量を削減し、遅延を抑制することが可能となる。 Further, in the imaging device 10, the video output unit 12 outputs a second bit smaller than the first bit number based on the captured video data of the first gradation having the first bit number output from the imaging device 11. second gradation display image data having a number is generated and output. As a result, it is possible to reduce the amount of data by reducing the number of bits of the luminance value of the video data, and suppress the delay.

また、撮像装置10において、映像出力部12は、ノイズ付加部として、第1階調の撮像映像データの輝度値に応じた加算ノイズの振幅範囲を算出する演算部13と、算出された振幅範囲のランダムなノイズを加算ノイズとして出力するノイズ発生器14と、撮像映像データと加算ノイズとを加算する加算器15と、を含む。また、映像出力部12は、変調部として、第1階調の撮像映像データに対して加算ノイズが付加された映像データを、第2階調の映像データに量子化して表示映像データとして順次出力する量子化器16を含む。これにより、ディジタル信号処理を実行する構成によって、撮像映像信号に対して意図的にノイズを付加し、階調値の低減により失われた階調成分を回復させるとともに、映像データのデータ量を削減して遅延を抑制することが可能となる。 In the image pickup apparatus 10, the image output unit 12 includes, as a noise addition unit, a calculation unit 13 that calculates the amplitude range of added noise according to the luminance value of the imaged image data of the first gradation, and the calculated amplitude range A noise generator 14 for outputting random noise as additive noise, and an adder 15 for adding the captured video data and the additive noise. Further, the image output unit 12, as a modulation unit, quantizes image data obtained by adding addition noise to captured image data of the first gradation into image data of the second gradation, and sequentially outputs the quantized image data as display image data. It includes a quantizer 16 that As a result, by using a configuration that executes digital signal processing, noise is intentionally added to the imaged video signal to restore the gradation components that were lost due to the reduction in the gradation value, and to reduce the data volume of the video data. delay can be suppressed.

また、撮像装置20において、映像出力部22は、ノイズ付加部として、装置においてノイズ発生器23等で発生されるランダムなノイズを、撮像デバイス21から出力される撮像映像データの輝度値に応じた振幅に増幅し、加算ノイズとして出力する可変増幅器24と、撮像デバイス21から出力される撮像映像データと加算ノイズとを重畳して出力する加算増幅回路25と、を含む。また、映像出力部22は、変調部として、加算増幅回路25から出力されるノイズ付加後のアナログの映像信号を、第2階調のディジタルデータに変換して表示映像データとして順次出力するADコンバータ26を含む。これにより、アナログ信号処理を実行する構成によって、撮像映像信号に対して意図的にノイズを付加し、階調値の低減により失われた階調成分を回復させるとともに、映像データのデータ量を削減して遅延を抑制することが可能となる。 In the imaging device 20, the video output unit 22, as a noise addition unit, adds random noise generated by the noise generator 23 or the like in the device according to the luminance value of the captured video data output from the imaging device 21. It includes a variable amplifier 24 that amplifies the amplitude and outputs it as additive noise, and an additive amplifier circuit 25 that superimposes the captured image data output from the imaging device 21 and the additive noise and outputs the additive noise. The video output unit 22, as a modulation unit, converts the noise-added analog video signal output from the addition amplifier circuit 25 into digital data of the second gradation, and sequentially outputs the data as display video data. 26. As a result, by using a configuration that executes analog signal processing, noise is intentionally added to the imaged video signal to restore the gradation components that were lost due to the reduction in the gradation value, and to reduce the data volume of the video data. delay can be suppressed.

また、撮像装置10、20において、高フレームレートの撮像映像データとして480fps以上のフレームレートの映像データを取得する。このように、480fps以上の高いフレームレートの映像データを用いて、高速な映像表示を行う場合に、表示映像の品質低下を抑制しつつ、映像の伝送量及び演算量の増大を抑制することが可能となる。 In addition, in the imaging devices 10 and 20, video data with a frame rate of 480 fps or more is acquired as the captured video data with a high frame rate. In this way, when high-speed video display is performed using video data with a high frame rate of 480 fps or more, it is possible to suppress an increase in the amount of video transmission and the amount of calculation while suppressing deterioration in the quality of the displayed video. It becomes possible.

また、撮像装置10、20において、映像出力部12、22のノイズ付加部は、撮像映像データの輝度値が増加するにつれて加算ノイズを減少させて付加し、撮像デバイス11、21において発生する固有ノイズと加算ノイズとを含むノイズレベルの総和が撮像映像データの輝度値全体に渡って一様となっている。これにより、撮像映像データの輝度値全体に渡って各輝度値のノイズレベルの総和が一様になるようにすることができ、特に高輝度領域においてノイズを加算しすぎることを防止し、映像のちらつき発生等の品質低下を抑制できる。 In addition, in the imaging devices 10 and 20, the noise addition units of the video output units 12 and 22 decrease and add the added noise as the luminance value of the captured video data increases, and the unique noise generated in the imaging devices 11 and 21 The sum of the noise levels including the noise and the additive noise is uniform over the entire luminance value of the imaged video data. As a result, the sum of the noise levels of each luminance value can be made uniform over the entire luminance value of the imaged video data, and it is possible to prevent excessive addition of noise particularly in a high luminance region, thereby improving the image quality. Quality deterioration such as flickering can be suppressed.

本実施の形態の映像出力方法は、撮像デバイス11、21により撮像した人間の視覚時間感度を超える高フレームレートの撮像映像データを取得するステップと、撮像映像データの輝度値全体に渡って各輝度値のノイズレベルの総和が一様になるように、撮像映像データに対して加算ノイズを付加するステップと、加算ノイズを付加した後の映像データを用いて、撮像映像データから通常得られる第1階調よりも階調値が小さい第2階調の表示映像データを生成するステップと、第2階調の表示映像データを高速表示装置30に出力するステップと、を有する。これにより、比較的高いフレームレートを有する映像を取得して表示装置に対して伝送する際に、表示映像の品質低下を抑制しつつ、映像の伝送量及び演算量の増大を抑制することが可能になる。 The image output method of the present embodiment comprises steps of obtaining imaged image data having a high frame rate exceeding human visual temporal sensitivity captured by the imaging devices 11 and 21, and obtaining each luminance value over the entire luminance value of the imaged image data. A step of adding additive noise to the captured video data so that the sum of the noise levels of the values is uniform; A step of generating display image data of a second gradation whose gradation value is smaller than the gradation, and a step of outputting the display image data of the second gradation to the high-speed display device 30 are provided. As a result, when an image with a relatively high frame rate is acquired and transmitted to the display device, it is possible to suppress an increase in the amount of image transmission and the amount of calculation while suppressing deterioration in the quality of the displayed image. become.

以上、図面を参照しながら各種の実施形態について説明したが、本発明はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。また、発明の趣旨を逸脱しない範囲において、上記実施形態における各構成要素を任意に組み合わせてもよい。 Various embodiments have been described above with reference to the drawings, but it goes without saying that the present invention is not limited to such examples. It is obvious that a person skilled in the art can conceive of various modifications or modifications within the scope described in the claims, and these also belong to the technical scope of the present invention. Understood. Moreover, each component in the above embodiments may be combined arbitrarily without departing from the spirit of the invention.

本開示は、比較的高いフレームレートを有する映像を取得して表示装置に対して伝送する際に、表示映像の品質低下を抑制しつつ、映像の伝送量及び演算量の増大を抑制することができる撮像装置及び映像出力方法として有用である。 The present disclosure can suppress an increase in the amount of video transmission and the amount of calculation while suppressing deterioration in the quality of the displayed video when acquiring video with a relatively high frame rate and transmitting it to the display device. It is useful as an imaging device and a video output method that can be used.

1、1A 映像表示システム
10、20 撮像装置
11、21 撮像デバイス
12、22 映像出力部
13 演算部
14 ノイズ発生器
15 加算器
16 量子化器
23 ノイズ発生器
24 可変増幅器
25 加算増幅回路
26 ADコンバータ
30 高速表示装置
Reference Signs List 1, 1A video display system 10, 20 imaging device 11, 21 imaging device 12, 22 video output unit 13 arithmetic unit 14 noise generator 15 adder 16 quantizer 23 noise generator 24 variable amplifier 25 addition amplifier circuit 26 AD converter 30 high speed display

Claims (8)

撮像により撮像映像データを取得する撮像デバイスと、
前記撮像映像データから得られる第1階調よりも階調値が小さい第2階調の表示映像データを生成して出力する映像出力部と、を有し、
前記映像出力部は、
前記撮像映像データの輝度値全体に渡って各輝度値のノイズレベルの総和が一様になるように、前記撮像映像データに対して加算ノイズを付加するノイズ付加部と、
前記加算ノイズを付加した後の映像データを前記第2階調の表示映像データに変換する変調部と、を含む、
撮像装置。
an imaging device that acquires imaged video data by imaging;
a video output unit that generates and outputs display video data of a second gradation having a smaller gradation value than the first gradation obtained from the captured video data,
The video output unit is
a noise addition unit that adds additive noise to the imaged video data so that the sum of noise levels of each luminance value is uniform over the entire luminance value of the imaged video data;
a modulation unit that converts the video data to which the additive noise has been added into the display video data of the second gradation;
Imaging device.
請求項1に記載の撮像装置であって、
前記撮像映像データは、人間の視覚時間感度を超える高フレームレートである、
撮像装置。
The imaging device according to claim 1,
The captured video data has a high frame rate that exceeds human visual temporal sensitivity,
Imaging device.
請求項1に記載の撮像装置であって、
前記映像出力部は、
前記撮像デバイスから出力される第1のビット数を有する前記第1階調の撮像映像データに基づき、前記第1のビット数よりも小さい第2のビット数を有する前記第2階調の表示映像データを生成して出力する、
撮像装置。
The imaging device according to claim 1,
The video output unit is
A display image of the second gradation having a second number of bits smaller than the first number of bits based on the imaged image data of the first gradation having the first number of bits output from the imaging device. generate and output data,
Imaging device.
請求項3に記載の撮像装置であって、
前記ノイズ付加部は、前記第1階調の撮像映像データの輝度値に応じた前記加算ノイズの振幅範囲を算出する演算部と、前記算出された振幅範囲のランダムなノイズを前記加算ノイズとして出力するノイズ発生器と、前記撮像映像データと前記加算ノイズとを加算する加算器と、を含み、
前記変調部は、前記第1階調の撮像映像データに対して前記加算ノイズが付加された映像データを、前記第2階調の映像データに量子化して前記表示映像データとして順次出力する量子化器を含む、
撮像装置。
The imaging device according to claim 3,
The noise addition unit includes a calculation unit that calculates an amplitude range of the added noise corresponding to the luminance value of the captured video data of the first gradation, and outputs random noise in the calculated amplitude range as the added noise. and an adder that adds the captured video data and the added noise,
The modulation unit quantizes the video data obtained by adding the additive noise to the imaged video data of the first gradation into the video data of the second gradation and sequentially outputs the video data as the display video data. including vessel
Imaging device.
請求項1に記載の撮像装置であって、
前記ノイズ付加部は、装置において発生されるランダムなノイズを、前記撮像デバイスから出力される撮像映像データの輝度値に応じた振幅に増幅し、前記加算ノイズとして出力する可変増幅器と、前記撮像デバイスから出力される撮像映像データと前記加算ノイズとを重畳して出力する加算増幅回路と、を含み、
前記変調部は、前記加算増幅回路から出力されるノイズ付加後のアナログの映像信号を、前記第2階調のディジタルデータに変換して前記表示映像データとして順次出力するADコンバータを含む、
撮像装置。
The imaging device according to claim 1,
The noise addition unit amplifies random noise generated in the apparatus to an amplitude corresponding to the luminance value of captured video data output from the imaging device, and outputs the added noise as the variable amplifier; and the imaging device. a summing amplifier circuit that superimposes and outputs the captured video data output from and the summing noise,
The modulation unit includes an AD converter that converts the noise-added analog video signal output from the addition amplifier circuit into digital data of the second gradation and sequentially outputs the digital data as the display video data.
Imaging device.
請求項2に記載の撮像装置であって、
前記高フレームレートの撮像映像データとして480fps以上のフレームレートの映像データを取得する、
撮像装置。
The imaging device according to claim 2,
Acquiring video data with a frame rate of 480 fps or higher as the captured video data with a high frame rate;
Imaging device.
請求項1から6のいずれか一項に記載の撮像装置であって、
前記ノイズ付加部は、前記撮像映像データの輝度値に応じて、前記輝度値が増加するにつれて前記加算ノイズを減少させて付加し、前記撮像デバイスにおいて発生する固有ノイズと前記加算ノイズとを含むノイズレベルの総和が前記撮像映像データの輝度値全体に渡って一様となっている、
撮像装置。
The imaging device according to any one of claims 1 to 6,
The noise addition unit reduces and adds the added noise as the brightness value increases according to the brightness value of the imaged video data, and adds noise including inherent noise generated in the imaging device and the added noise. The sum of levels is uniform over the entire brightness value of the captured video data,
Imaging device.
撮像デバイスにより撮像映像データを取得するステップと、
前記撮像映像データの輝度値全体に渡って各輝度値のノイズレベルの総和が一様になるように、前記撮像映像データに対して加算ノイズを付加するステップと、
前記加算ノイズを付加した後の映像データを用いて、前記撮像映像データから得られる第1階調よりも階調値が小さい第2階調の表示映像データを生成するステップと、
前記第2階調の表示映像データを表示装置に出力するステップと、
を有する映像出力方法。
acquiring imaged video data by an imaging device;
a step of adding additive noise to the imaged video data so that the sum of noise levels of each luminance value is uniform over the entire luminance value of the imaged video data;
a step of generating display video data of a second gradation having a smaller gradation value than the first gradation obtained from the captured video data, using the video data to which the additive noise has been added;
a step of outputting the display video data of the second gradation to a display device;
A video output method having
JP2018119132A 2018-06-22 2018-06-22 Imaging device and video output method Active JP7149514B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018119132A JP7149514B2 (en) 2018-06-22 2018-06-22 Imaging device and video output method
JP2022146045A JP7445904B2 (en) 2018-06-22 2022-09-14 Video output device, video output method, and video output system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018119132A JP7149514B2 (en) 2018-06-22 2018-06-22 Imaging device and video output method

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022146045A Division JP7445904B2 (en) 2018-06-22 2022-09-14 Video output device, video output method, and video output system

Publications (3)

Publication Number Publication Date
JP2019220925A JP2019220925A (en) 2019-12-26
JP2019220925A5 JP2019220925A5 (en) 2021-08-05
JP7149514B2 true JP7149514B2 (en) 2022-10-07

Family

ID=69097170

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2018119132A Active JP7149514B2 (en) 2018-06-22 2018-06-22 Imaging device and video output method
JP2022146045A Active JP7445904B2 (en) 2018-06-22 2022-09-14 Video output device, video output method, and video output system

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2022146045A Active JP7445904B2 (en) 2018-06-22 2022-09-14 Video output device, video output method, and video output system

Country Status (1)

Country Link
JP (2) JP7149514B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111601031B (en) * 2020-04-02 2022-02-01 维沃移动通信有限公司 Shooting parameter adjusting method and device

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004040237A (en) 2002-06-28 2004-02-05 Canon Inc Image processing apparatus and method, computer program, and computer-readable storage medium

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4107108B2 (en) 2003-03-05 2008-06-25 コニカミノルタビジネステクノロジーズ株式会社 Image processing method and apparatus
JP4498804B2 (en) 2003-04-02 2010-07-07 シャープ株式会社 Image display device drive device, image display device, television receiver, image display device drive method, image display method, program thereof, and recording medium

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004040237A (en) 2002-06-28 2004-02-05 Canon Inc Image processing apparatus and method, computer program, and computer-readable storage medium

Also Published As

Publication number Publication date
JP2022173290A (en) 2022-11-18
JP2019220925A (en) 2019-12-26
JP7445904B2 (en) 2024-03-08

Similar Documents

Publication Publication Date Title
JP6451669B2 (en) Evaluation apparatus, evaluation method, and camera system
US10110929B2 (en) Method of pre-processing digital images, and digital image preprocessing system
EP3669542B1 (en) Bit-depth efficient image processing
JP4479527B2 (en) Image processing method, image processing apparatus, image processing program, and electronic camera
JP7445904B2 (en) Video output device, video output method, and video output system
JP7020417B2 (en) Video signal processing device, video signal processing method and video signal processing system
JP2019193025A (en) Video brightness conversion apparatus and program thereof
JP2013009105A (en) Image processing apparatus and image processing method
JP7113282B2 (en) Video display system and video display method
JP6397261B2 (en) Image processing apparatus and method
JP7186374B2 (en) VIDEO SIGNAL PROCESSING DEVICE, VIDEO DISPLAY SYSTEM, AND VIDEO SIGNAL PROCESSING METHOD
US11245901B2 (en) Video signal processing device, video display system, and video signal processing method
JP6673424B2 (en) Signal processing device, signal processing method, and camera system
JP2019220925A5 (en)
JP2008123472A (en) Video signal processor
JP2007266787A (en) Imaging apparatus provided with process for making excessive-noise pixel usable
JP4046044B2 (en) Imaging device
JP2012208776A (en) Image processing device, image processing method, and program
JP4403361B2 (en) Display processing method, display processing apparatus, and display system
JP2003348454A (en) Camera system
JP2012138723A (en) Imaging apparatus
JP2011081034A (en) Image processing apparatus and image display device
JP2004297433A (en) Apparatus and method for regulating composited image data
JP2010098652A (en) Image processing apparatus, image processing method, and program
JP2001103376A (en) Image processing unit

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210621

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210621

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220405

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220413

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220816

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220915

R151 Written notification of patent or utility model registration

Ref document number: 7149514

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151