JP2019220925A - Imaging apparatus and video output method - Google Patents

Imaging apparatus and video output method Download PDF

Info

Publication number
JP2019220925A
JP2019220925A JP2018119132A JP2018119132A JP2019220925A JP 2019220925 A JP2019220925 A JP 2019220925A JP 2018119132 A JP2018119132 A JP 2018119132A JP 2018119132 A JP2018119132 A JP 2018119132A JP 2019220925 A JP2019220925 A JP 2019220925A
Authority
JP
Japan
Prior art keywords
noise
video data
imaging device
gradation
captured
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018119132A
Other languages
Japanese (ja)
Other versions
JP7149514B2 (en
JP2019220925A5 (en
Inventor
渕上 竜司
Ryuji Fuchigami
竜司 渕上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2018119132A priority Critical patent/JP7149514B2/en
Publication of JP2019220925A publication Critical patent/JP2019220925A/en
Publication of JP2019220925A5 publication Critical patent/JP2019220925A5/ja
Priority to JP2022146045A priority patent/JP7445904B2/en
Application granted granted Critical
Publication of JP7149514B2 publication Critical patent/JP7149514B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

To restrain increase in transmission amount and calculation amount of a video, while restraining degradation of a display video, when acquiring a video having a relatively high frame rate and transmitting to a display device.SOLUTION: An imaging apparatus 10 includes: an imaging device 11 acquiring captured video data of a high frame rate exceeding the human visual time sensitivity by imaging; and a video output part 12 for generating display video data of a second gray scale of lower gradation value than that of a first gray scale normally obtained from the captured video data. The video output part 12 includes: an operation part 13 as a noise addition part for adding summation noise to the captured video data, so that summation of noise levels of respective luminance values becomes uniform over the entire luminance values of the captured video data; a noise generator 14 and an adder 15; and a quantizer 16 as a modulation section for converting the video data after added with the summation noise into the display video data of the second gray scale.SELECTED DRAWING: Figure 1

Description

本開示は、比較的高いフレームレートを有する映像の表示に好適な映像表示システム等に用いられる撮像装置及び映像出力方法に関する。   The present disclosure relates to an imaging device and a video output method used for a video display system or the like suitable for displaying a video having a relatively high frame rate.

動画像の映像信号に対して画像処理及び伝送を行い、表示装置に映像を表示する映像表示システムは、人の視覚を考慮して60fps(frame per seconds)以下のフレームレートにて動作するよう設計されるのが一般的である。このような映像表示システムでは、撮像装置によって取得した映像が表示装置にて表示されるまでの間に、撮像、画像処理、伝送の各処理の実行によって、システム全体としてある程度の遅延が発生することになる。例えば、フレームレートが60fpsの場合には、1フレームあたりの時間が約16.6msとなり、映像表示の遅延として例えば100ms程度の遅延が発生することがある。   A video display system that performs image processing and transmission on a video signal of a moving image and displays a video on a display device is designed to operate at a frame rate of 60 fps (frame per seconds) or less in consideration of human vision. Generally, it is done. In such a video display system, a certain amount of delay occurs in the entire system due to execution of each process of imaging, image processing, and transmission until the video acquired by the imaging device is displayed on the display device. become. For example, when the frame rate is 60 fps, the time per frame is about 16.6 ms, and a delay of, for example, about 100 ms may occur as a video display delay.

撮像装置によって撮像した映像出力に対する上記のような映像表示の遅延は、システムの動作に悪影響を及ぼし得る。例えば、遠隔から映像を見ながらロボットアームを制御して不規則に動くものを掴むような場合において、映像の遅延は安定した操作を阻害する要因となるため、映像表示の遅延を解消することが望まれる。リアルタイム映像を利用する内視鏡手術及び遠隔手術、災害救助ロボットの遠隔操作などに用いられる映像表示システムにおいても、映像表示の遅延の解消が有益となる。   Such a delay in video display with respect to the video output captured by the imaging device may adversely affect the operation of the system. For example, when controlling a robot arm and grasping an irregularly moving object while watching an image from a distance, the delay in the image can be a factor that hinders stable operation. desired. Eliminating delays in video display is also beneficial in video display systems used for endoscopic surgery and remote surgery using real-time video, remote control of disaster relief robots, and the like.

一方で、映像に比較的高いフレームレート(例えば、480fps)を適用することにより、映像表示の遅延を抑制する技術も想定されるが、単にフレームレートを増大させた場合には、伝送量及び演算量の増大を招くことになる。   On the other hand, a technology that suppresses the delay of video display by applying a relatively high frame rate (for example, 480 fps) to the video is also supposed. However, if the frame rate is simply increased, the transmission amount and the calculation This leads to an increase in the amount.

映像の高解像度を維持しつつ伝送量を抑制するための技術として、例えば、監視用カメラによって撮影された映像に関し、人が出入りするドアの付近などに注目し、この監視したい注目監視エリアを高フレームレートで表示し、植物が置かれた場所や壁など注目監視エリアの背景となるようなエリアをネットワーク帯域の有効利用を考慮して低フレームレートで伝送を行うようにしたものが知られている。   As a technique for suppressing the transmission amount while maintaining a high resolution of an image, for example, regarding an image captured by a surveillance camera, attention is paid to a vicinity of a door where a person enters and exits, and a target monitoring area to be monitored is increased. It is known to display at the frame rate and transmit at a low frame rate in consideration of the effective use of network bandwidth, such as areas where plants are placed and walls, etc. I have.

特開2008−219484号公報JP 2008-219484 A

上記特許文献1に記載された従来技術では、高フレームレートとして30fps程度が想定されている。ここで、映像の高解像度を維持するために、より高いフレームレート(例えば、480fps)を適用した場合には、高フレームレートの適用が注目監視エリアのような画像の一部であったとしても、伝送量及び演算量の増大は問題となり得る。   In the prior art described in Patent Document 1, a high frame rate of about 30 fps is assumed. Here, when a higher frame rate (for example, 480 fps) is applied to maintain the high resolution of the video, even if the application of the high frame rate is a part of the image such as the monitoring area of interest. , The amount of transmission and the amount of calculation can be problematic.

本開示は、比較的高いフレームレートを有する映像を取得して表示装置に対して伝送する際に、表示映像の品質低下を抑制しつつ、映像の伝送量及び演算量の増大を抑制することができる撮像装置及び映像出力方法を提供することを目的とする。   According to the present disclosure, when acquiring a video having a relatively high frame rate and transmitting the acquired video to a display device, it is possible to suppress an increase in a transmission amount and a calculation amount of the video while suppressing a decrease in quality of the displayed video. It is an object of the present invention to provide an imaging device and a video output method capable of performing the above.

本開示は、撮像により人間の視覚時間感度を超える高フレームレートの撮像映像データを取得する撮像デバイスと、前記撮像映像データから通常得られる第1階調よりも階調値が小さい第2階調の表示映像データを生成して出力する映像出力部と、を有し、前記映像出力部は、前記撮像映像データの輝度値全体に渡って各輝度値のノイズレベルの総和が一様になるように、前記撮像映像データに対して加算ノイズを付加するノイズ付加部と、前記加算ノイズを付加した後の映像データを前記第2階調の表示映像データに変換する変調部と、を含む、撮像装置を提供する。   The present disclosure relates to an imaging device that acquires imaged video data at a high frame rate exceeding human visual time sensitivity by imaging, and a second grayscale having a grayscale value smaller than a first grayscale normally obtained from the captured video data. And a video output unit for generating and outputting the display video data of the image data, wherein the video output unit makes the sum of the noise levels of the respective luminance values uniform over the entire luminance value of the captured video data. A noise adding unit that adds an additional noise to the captured video data; and a modulator that converts the video data to which the additional noise has been added into the second-gradation display video data. Provide equipment.

また、本開示は、撮像デバイスにより撮像した人間の視覚時間感度を超える高フレームレートの撮像映像データを取得するステップと、前記撮像映像データの輝度値全体に渡って各輝度値のノイズレベルの総和が一様になるように、前記撮像映像データに対して加算ノイズを付加するステップと、前記加算ノイズを付加した後の映像データを用いて、前記撮像映像データから通常得られる第1階調よりも階調値が小さい第2階調の表示映像データを生成するステップと、前記第2階調の表示映像データを表示装置に出力するステップと、を有する映像出力方法を提供する。   Further, the present disclosure also includes a step of acquiring captured image data of a high frame rate exceeding a human visual time sensitivity captured by an imaging device, and a sum of noise levels of each luminance value over the entire luminance value of the captured image data. Adding an additional noise to the captured video data so as to be uniform, and using the video data to which the additional noise has been added, by using a first gradation normally obtained from the captured video data. Also, the present invention provides a video output method, comprising the steps of: generating second grayscale display video data having a small grayscale value; and outputting the second grayscale display video data to a display device.

本開示によれば、比較的高いフレームレートを有する映像を取得して表示装置に対して伝送する際に、表示映像の品質低下を抑制しつつ、映像の伝送量及び演算量の増大を抑制できる。   According to the present disclosure, when acquiring a video having a relatively high frame rate and transmitting the acquired video to a display device, it is possible to suppress a decrease in the quality of the displayed video and to suppress an increase in a video transmission amount and a calculation amount. .

本実施の形態に係る撮像装置を含む映像表示システムの構成の第1例を示すブロック図FIG. 2 is a block diagram showing a first example of a configuration of a video display system including the imaging device according to the present embodiment. 本実施の形態に係る撮像装置におけるノイズ特性の一例を示す図FIG. 9 is a diagram illustrating an example of noise characteristics in the imaging device according to the present embodiment. 本実施の形態に係る撮像装置において映像データにノイズを加算する動作例を示す図FIG. 4 is a diagram showing an operation example of adding noise to video data in the imaging device according to the present embodiment. 本実施の形態に係る撮像装置を含む映像表示システムの構成の第2例を示すブロック図FIG. 2 is a block diagram showing a second example of the configuration of the video display system including the imaging device according to the present embodiment. 撮像装置における映像信号の出力輝度値とノイズレベルとの関係の一例を示す図であり、ノイズが発生しない仮想状態を示した図FIG. 10 is a diagram illustrating an example of a relationship between an output luminance value of a video signal and a noise level in the imaging device, and illustrating a virtual state in which noise does not occur. 撮像装置における映像信号の出力輝度値とノイズレベルとの関係の一例を示す図であり、光ショットノイズが発生する実際の撮像デバイスの状態を示した図FIG. 5 is a diagram illustrating an example of a relationship between an output luminance value of a video signal and a noise level in the imaging apparatus, and illustrating a state of an actual imaging device in which optical shot noise occurs. 比較例の撮像装置における動作例を示す図FIG. 9 is a diagram illustrating an operation example of the imaging device of the comparative example. 本実施の形態の撮像装置における動作例を示す図FIG. 4 is a diagram illustrating an operation example of the imaging device according to the present embodiment;

以下、適宜図面を参照しながら、本開示に係る構成を具体的に開示した各実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面及び以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。   Hereinafter, each embodiment that specifically discloses the configuration according to the present disclosure will be described in detail with reference to the drawings as appropriate. However, an unnecessary detailed description may be omitted. For example, a detailed description of well-known matters and a repeated description of substantially the same configuration may be omitted. This is to prevent the following description from being unnecessarily redundant and to facilitate understanding of those skilled in the art. The accompanying drawings and the following description are provided to enable those skilled in the art to fully understand the present disclosure, and are not intended to limit the claimed subject matter.

本実施の形態では、比較的高いフレームレートを有する映像を表示する映像表示システムの構成を例示し、この映像表示システムにおいて高フレームレートの映像を取得して伝送する撮像装置の構成及び動作の一例について説明する。高フレームレートの映像表示システムとして、例えば、フレームレート480fpsの映像を表示する場合の構成を示す。フレームレートは、480fps、960fpsなど、通常映像に用いられる30fps〜60fpsに比べて十分に高い値を用いる。本実施の形態は、高フレームレートの映像表示によって遅延を抑制するとともに、映像の伝送量及び演算量の増大を抑制する構成例を示すものである。   In the present embodiment, an example of the configuration of a video display system that displays video having a relatively high frame rate is shown, and an example of the configuration and operation of an imaging device that acquires and transmits video at a high frame rate in this video display system Will be described. As an image display system with a high frame rate, for example, a configuration for displaying an image with a frame rate of 480 fps will be described. As the frame rate, a value sufficiently higher than 30 fps to 60 fps used for normal video, such as 480 fps and 960 fps, is used. This embodiment shows a configuration example in which a delay is suppressed by displaying a video at a high frame rate, and an increase in a video transmission amount and a calculation amount is suppressed.

ここで、視覚系のコントラスト感度関数(CSF:Contrast Sensitivity Function)の時間特性について説明する。CSFの時間周波数に関して、刺激をコントラスト反転したときにフリッカーが知覚されなくなる時間周波数は臨界融合周波数(CFF:Critical Flicker Frequency)と呼ばれ、CFFは一定のコントラストのもとで刺激が検出できる最大の時間周波数に相当する。人間のCFFは50Hz程度とされており、速くても60〜120Hzがコントラストの変化を検知できる限界と考えられる。この人間に知覚可能な上限値を本明細書では人間の視覚時間感度(視覚情報処理の時間的解像度)と呼ぶことにする。人間の視覚時間感度を超えるような例えば480fps以上のフレームレートの高速映像は、人間は複数フレームにまたがって残像的に映像を認知することになる。   Here, a time characteristic of a contrast sensitivity function (CSF) of the visual system will be described. Regarding the time frequency of the CSF, the time frequency at which flicker is not perceived when the contrast of the stimulus is inverted is called a critical fusion frequency (CFF). It corresponds to the time frequency. The human CFF is set to about 50 Hz, and 60 to 120 Hz is considered to be a limit at which a change in contrast can be detected even at high speed. In this specification, the upper limit value that can be perceived by humans is referred to as human visual time sensitivity (temporal resolution of visual information processing). For a high-speed video having a frame rate of, for example, 480 fps or more that exceeds the human visual time sensitivity, the human perceives the video as an afterimage over a plurality of frames.

このような人間の視覚特性を考慮し、本実施の形態では、撮像デバイスにて撮像した比較的高いフレームレートの映像データに対して、ランダムなノイズを加算し、輝度値のビット数を減らして階調を落とした状態で伝送する。この場合、映像データの階調値を小さくしつつ、ランダムなノイズの付加によっていわゆるディザ処理を施して出力することになる。これにより、映像データのデータ量を削減するとともに、階調値の低減により失われた階調成分を、人間の目による複数フレームの残像的な知覚によって回復させて擬似的な階調を与え、表示映像の品質低下を抑制する。   In consideration of such human visual characteristics, in the present embodiment, random noise is added to video data of a relatively high frame rate captured by the imaging device, and the number of bits of the luminance value is reduced. Transmission is performed with the gradation lowered. In this case, so-called dither processing is performed by adding random noise while reducing the tone value of the video data, and the video data is output. Thereby, while reducing the data amount of the video data, the grayscale component lost by the reduction of the grayscale value is restored by the afterimage of a plurality of frames by the human eyes to give a pseudo grayscale, Suppress deterioration in the quality of the displayed video.

信号にランダムなノイズを加算することによって、確率共鳴が発生することが知られている。本実施の形態では、確率共鳴を利用し、映像データにランダムなノイズを意図的に加算して閾値未満の信号成分をある確率のもとで検出可能とすることにより、階調値の低減により失われた階調成分を回復させる。   It is known that stochastic resonance occurs by adding random noise to a signal. In the present embodiment, by utilizing stochastic resonance, a random noise is intentionally added to video data, and a signal component less than a threshold value can be detected with a certain probability. Restores lost tone components.

また、本実施形態では、撮像デバイスにおいて発生する固有ノイズの一例としての光ショットノイズを考慮し、映像データに付加するランダムなノイズのノイズレベル(すなわち加算ノイズの振幅範囲)を調整する。この場合、映像データの輝度値に応じて変動する光ショットノイズのノイズレベルに対して、ノイズレベルの総和が輝度値に関わらず一様となるように、加算ノイズの振幅範囲を変化させる。加算ノイズの詳細については後述する。   In the present embodiment, the noise level of random noise added to video data (that is, the amplitude range of added noise) is adjusted in consideration of light shot noise as an example of intrinsic noise generated in the imaging device. In this case, the amplitude range of the added noise is changed so that the sum of the noise levels becomes uniform irrespective of the luminance value with respect to the noise level of the light shot noise that varies according to the luminance value of the video data. Details of the added noise will be described later.

図1は、本実施の形態に係る撮像装置を含む映像表示システムの構成の第1例を示すブロック図である。映像表示システム1は、任意の対象物を撮像する撮像装置10と、撮像装置10から出力された映像データ(映像信号)がリアルタイムで入力される高速表示装置(表示装置)30とを有する。   FIG. 1 is a block diagram illustrating a first example of a configuration of a video display system including the imaging device according to the present embodiment. The video display system 1 includes an imaging device 10 that captures an arbitrary object, and a high-speed display device (display device) 30 to which video data (video signal) output from the imaging device 10 is input in real time.

撮像装置10は、撮像デバイス11と、映像出力部12とを有する。撮像装置10は、撮像デバイス11及び映像出力部12を一体的に構成した例えば1チップの半導体装置で構成されるものであってもよいし、撮像デバイス11と映像出力部12とを別体にした例えば複数チップの半導体装置を含む構成であってもよい。   The imaging device 10 includes an imaging device 11 and a video output unit 12. The imaging device 10 may be configured by, for example, a one-chip semiconductor device in which the imaging device 11 and the video output unit 12 are integrally configured, or the imaging device 11 and the video output unit 12 may be separately provided. For example, a configuration including a semiconductor device having a plurality of chips may be employed.

撮像デバイス11は、CCD(Charge Coupled Device)型イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)型イメージセンサ等による固体撮像素子を含んで構成される。撮像デバイス11は、図示しない撮像レンズにより結像された被写体の画像を撮像し、人間の視覚時間感度を超える例えば480fps以上の高フレームレートの撮像信号を取得する。そして、撮像デバイス11は、第1のビット数(例えば8ビット)を有する第1階調の映像データ(以下、撮像映像データとも称する)を生成する。撮像映像データのフレームレートは、例えば約1000fpsとする。第1階調の映像データは、第1階調(例えば8ビット)の輝度値を有する。よって、撮像デバイス11は、被写体像を光電変換した撮像画像について、例えば、R,G,Bの各色について8ビットずつ合計24ビットの映像データを生成して出力する。このとき、撮像デバイス11は、ユーザ設定等により入力されるゲイン設定値に従って、所定のゲインによる第1階調の映像データを出力する。   The imaging device 11 is configured to include a solid-state imaging device such as a charge coupled device (CCD) image sensor or a complementary metal oxide semiconductor (CMOS) image sensor. The imaging device 11 captures an image of a subject formed by an imaging lens (not shown), and acquires an imaging signal having a high frame rate of, for example, 480 fps or more, which exceeds human visual time sensitivity. Then, the imaging device 11 generates video data of the first gradation having a first bit number (for example, 8 bits) (hereinafter, also referred to as captured video data). The frame rate of the captured video data is, for example, about 1000 fps. The video data of the first gradation has a luminance value of the first gradation (for example, 8 bits). Therefore, the imaging device 11 generates and outputs a total of 24 bits of video data, for example, 8 bits for each of R, G, and B for the captured image obtained by photoelectrically converting the subject image. At this time, the imaging device 11 outputs the first gradation image data with a predetermined gain according to a gain setting value input by user setting or the like.

映像出力部12は、第1階調の映像データを符号化して第1のビット数よりも小さい第2のビット数(例えば4ビット)を有する第2階調の映像データ(以下、表示映像データとも称する)を生成して出力する。すなわち、映像出力部12は、撮像映像データから通常得られる第1階調よりも階調値が小さい第2階調の表示映像データを生成して出力する。映像出力部12は、演算部13と、ノイズ発生器14と、加算器15と、量子化器16とを有する。ここで、演算部13、ノイズ発生器14、及び加算器15がノイズ付加部の一例としての機能を有し、量子化器16が変調部の一例としての機能を有する。   The video output unit 12 encodes the video data of the first gradation and generates video data of the second gradation (hereinafter referred to as display video data) having a second bit number (for example, 4 bits) smaller than the first bit number. ) Is generated and output. That is, the video output unit 12 generates and outputs the display video data of the second gradation having a gradation value smaller than the first gradation normally obtained from the captured video data. The video output unit 12 includes a calculation unit 13, a noise generator 14, an adder 15, and a quantizer 16. Here, the operation unit 13, the noise generator 14, and the adder 15 have a function as an example of a noise adding unit, and the quantizer 16 has a function as an example of a modulation unit.

演算部13は、撮像デバイス11から出力される映像データの輝度値に基づき、輝度値に応じた加算ノイズの振幅範囲を算出する。このとき、演算部13は、ユーザ設定等により入力されるゲイン設定値に従って、輝度値に応じた加算ノイズの振幅範囲を算出する。なお、演算部13は、撮像デバイス11より出力される撮像デバイスの温度計測値を用いて、温度による補正値を加えた振幅範囲を算出してもよい。ノイズ発生器14は、例えば三角波を発生する発振器、又は乱数を発生する乱数発生器等を有して構成され、演算部13により算出された振幅範囲において変動するランダムな値を有する加算ノイズを生成する。加算器15は、撮像デバイス11から順次出力される現フレームに関する第1階調の映像データと、ノイズ発生器14から出力される加算ノイズとを加算し、ノイズ付加後の映像データを量子化器16に対して出力する。   The calculation unit 13 calculates the amplitude range of the added noise according to the brightness value based on the brightness value of the video data output from the imaging device 11. At this time, the calculation unit 13 calculates the amplitude range of the added noise according to the luminance value according to the gain setting value input by user setting or the like. The calculation unit 13 may calculate the amplitude range to which the correction value based on the temperature is added, using the temperature measurement value of the imaging device output from the imaging device 11. The noise generator 14 includes, for example, an oscillator that generates a triangular wave, or a random number generator that generates a random number, and generates an additive noise having a random value that fluctuates in the amplitude range calculated by the arithmetic unit 13. I do. The adder 15 adds the first-gradation video data of the current frame sequentially output from the imaging device 11 and the added noise output from the noise generator 14, and converts the noise-added video data into a quantizer. 16 is output.

量子化器16は、第1階調の映像データに対してノイズが付加された映像データを、第2階調の映像データに量子化して順次出力する。この量子化器16により、撮像デバイス11の出力に対して階調を下げたデータ(量子化データ)を生成することができる。したがって、撮像装置10は、撮像により得られた高フレームレートの映像データとして、撮像時点の第1階調の撮像映像データよりもデータ量を削減した第2階調の表示映像データを出力する。   The quantizer 16 quantizes the video data obtained by adding noise to the video data of the first gray scale to video data of the second gray scale and sequentially outputs the data. The quantizer 16 can generate data (quantized data) in which the output of the imaging device 11 is reduced in gradation. Therefore, the imaging device 10 outputs, as the high frame rate video data obtained by the imaging, the display video data of the second gradation in which the data amount is smaller than the captured video data of the first gradation at the time of imaging.

高速表示装置30は、液晶ディスプレイ、有機EL(ElectroLuminescence)ディスプレイ、プラズマディスプレイ等の公知の構成を有する表示デバイスを含んで構成される。高速表示装置30は、撮像装置10から伝送される映像データ(表示映像データ)を入力し、人間の視覚時間感度を超える高フレームレート(例えば480fps以上)の高速映像を表示可能となっている。この際、撮像装置10から高速表示装置30へ表示映像データを伝送して表示するまでの遅延は、例えば表示映像データのフレームレートが1000fpsの場合、約1ms程度に小さくできる。   The high-speed display device 30 is configured to include a display device having a known configuration such as a liquid crystal display, an organic EL (ElectroLuminescence) display, and a plasma display. The high-speed display device 30 receives video data (display video data) transmitted from the imaging device 10 and can display a high-speed video having a high frame rate (for example, 480 fps or more) exceeding human visual time sensitivity. At this time, the delay from display of the display video data to transmission and display from the imaging device 10 to the high-speed display device 30 can be reduced to about 1 ms when the frame rate of the display video data is 1000 fps, for example.

図2は、本実施の形態に係る撮像装置におけるノイズ特性の一例を示す図である。ここで図2を用いて、本実施の形態における加算ノイズの振幅範囲について説明する。撮像装置10の撮像デバイス11において、固有ノイズとして光ショットノイズが発生し、出力される撮像信号に光ショットノイズNsの成分が含まれる。光ショットノイズNsは、光子の数の平方根に比例するため、撮像信号の輝度値により、輝度値が増加するにつれてノイズレベルが増加する。また、撮像デバイス11において、周囲温度に応じた熱雑音Ntが発生する。熱雑音Ntは、撮像信号の輝度値に関わらず、ノイズレベルはほぼ一定の値である。   FIG. 2 is a diagram illustrating an example of a noise characteristic in the imaging device according to the present embodiment. Here, the amplitude range of the added noise in the present embodiment will be described with reference to FIG. In the imaging device 11 of the imaging apparatus 10, optical shot noise is generated as intrinsic noise, and the output imaging signal includes a component of the optical shot noise Ns. Since the light shot noise Ns is proportional to the square root of the number of photons, the noise level increases as the luminance value increases due to the luminance value of the imaging signal. Further, in the imaging device 11, a thermal noise Nt corresponding to the ambient temperature is generated. The thermal noise Nt has a substantially constant noise level regardless of the luminance value of the imaging signal.

本実施形態では、輝度値のビット数低減により失われた階調成分を回復させるためにランダムなノイズを意図的に加算する際に、輝度値による光ショットノイズNsの変動を考慮し、加算ノイズの振幅範囲Naを設定する。すなわち、加算ノイズの振幅範囲Naは、輝度値が増加するにつれてノイズレベルが減少するように、輝度値に応じて変動する振幅範囲を設定する。例えば、輝度値が8ビット(0〜255)で表され、8ビットの輝度値を4ビットに量子化する場合、0〜15の振幅範囲の一様分布の乱数を加算ノイズとして加算する。このとき、加算ノイズの振幅範囲(乱数の発生範囲)を輝度値に応じて変化させる。より具体的には、低輝度領域では広い振幅範囲で発生させた加算ノイズを付加し、高輝度領域では狭い振幅範囲で発生させた加算ノイズを付加する。これにより、撮像装置10における各輝度値のノイズレベルの総和を輝度値全体に渡って一様になるように、すなわちノイズレベルの総和を輝度値に関わらず一様とし、加算ノイズを過度に加算しすぎないようにする。   In the present embodiment, when random noise is intentionally added in order to recover a gradation component lost due to the reduction in the number of bits of the luminance value, the fluctuation of the light shot noise Ns due to the luminance value is taken into account, and the added noise is considered. Is set. That is, the amplitude range Na of the added noise sets an amplitude range that fluctuates according to the luminance value such that the noise level decreases as the luminance value increases. For example, when the luminance value is represented by 8 bits (0 to 255) and the 8-bit luminance value is quantized into 4 bits, random numbers having a uniform distribution in an amplitude range of 0 to 15 are added as addition noise. At this time, the amplitude range of the added noise (the range in which random numbers are generated) is changed according to the luminance value. More specifically, the addition noise generated in a wide amplitude range is added in a low luminance region, and the addition noise generated in a narrow amplitude range is added in a high luminance region. Thereby, the sum of the noise levels of the respective brightness values in the imaging device 10 is made uniform over the entire brightness value, that is, the sum of the noise levels is made uniform regardless of the brightness value, and the added noise is excessively added. Don't overdo it.

映像データのフレームレートが低い場合は、ノイズを付加してもちらつきやノイズが増えるだけである。これに対し、人間の視覚時間感度を超える高フレームレートの場合は、複数フレームが残像として重なって見えるため、適切な量で、規定時間内に加算ノイズの平均値と変動値を収めることにより、人間の視覚にとっては、ちらつきを感じることなく、擬似的に階調を増加させて視認させることが可能となる。   When the frame rate of the video data is low, the addition of noise only increases flicker and noise. On the other hand, in the case of a high frame rate that exceeds the human visual time sensitivity, multiple frames appear to overlap as afterimages, so by putting the average value and fluctuation value of the added noise within a specified time with an appropriate amount, For human eyes, it is possible to visually increase the gradation in a pseudo manner without feeling flicker.

加算ノイズの振幅範囲Naは、例えば以下の(1)式のように示すことができる。
Na=Q2−sqrt(y)×Cg+Nt …(1)
ここで、Q2は第2階調への量子化範囲であり、例えば第2のビット数が4ビットの場合は16となる。yは撮像デバイス11より出力される撮像映像データの輝度値であり、例えば第1のビット数が8ビットの場合は0〜255のいずれかの値となる。sqrt(y)は輝度値yの平方根を示す。よって、sqrt(y)×Cgは光ショットノイズNsの成分に比例する値の標準偏差に相当する。Cgはゲイン補正値であり、撮像装置10のゲイン設定値に応じた所定の定数を用いればよい。撮像デバイス11の出力の輝度値に対応する光子の数は、ゲイン設定値によって変化するので、ゲイン補正値Cgによりゲイン設定値に応じた補正を行う。Ntは撮像デバイス11において推定される熱雑音の値である。なお、補正値としてさらに所定の係数を加えてもよい。
The amplitude range Na of the added noise can be represented, for example, by the following equation (1).
Na = Q2-sqrt (y) × Cg + Nt (1)
Here, Q2 is a quantization range to the second gradation, and is 16, for example, when the second bit number is 4 bits. y is a luminance value of the captured video data output from the imaging device 11, and takes a value from 0 to 255 when the first bit number is 8 bits, for example. sqrt (y) indicates the square root of the luminance value y. Therefore, sqrt (y) × Cg corresponds to the standard deviation of a value proportional to the component of the light shot noise Ns. Cg is a gain correction value, and a predetermined constant corresponding to a gain setting value of the imaging device 10 may be used. Since the number of photons corresponding to the luminance value of the output of the imaging device 11 changes according to the gain setting value, correction is performed according to the gain setting value using the gain correction value Cg. Nt is a value of thermal noise estimated in the imaging device 11. Note that a predetermined coefficient may be further added as a correction value.

撮像装置10における固有ノイズと加算ノイズとを含むノイズレベルの総和Nは、N≒Ns+Na+Ntであるので、上記(1)式のように輝度値に応じて変動する加算ノイズの振幅範囲Naを設定することによって、ノイズレベルの総和Nを輝度値に関わらず一様にすることができる。ノイズレベルの総和は、例えば、撮像装置10から出力される映像データの統計分析によって輝度とノイズの関係を抽出し、輝度値に関わらず一様であるかどうかを判別可能である。   Since the sum N of the noise levels including the intrinsic noise and the added noise in the imaging device 10 is N ≒ Ns + Na + Nt, the amplitude range Na of the added noise that fluctuates according to the luminance value is set as in the above equation (1). Thus, the sum N of the noise levels can be made uniform regardless of the luminance value. The sum of the noise levels can be determined, for example, by extracting the relationship between luminance and noise by statistical analysis of video data output from the imaging device 10 and determining whether the sum is uniform regardless of the luminance value.

図3は、本実施の形態に係る撮像装置において映像データにノイズを加算する動作例を示す図である。図3では、説明を簡単にするために、加算ノイズの振幅範囲を固定値とした場合を例示する。図示例は、映像データの輝度値を0〜240の各階調値とし、加算ノイズの振幅範囲を16とし、加算ノイズを0〜15の間でランダムに変動する変動値とした例である。加算器15は、撮像デバイス11から出力される映像データの輝度値と、ノイズ発生器14から出力される加算ノイズとを加算し、順次積分した積分値をノイズ付加後の映像データとして量子化器16に対して出力する。量子化器16は、ノイズ付加後の映像データを第2階調の映像データに変換して順次出力する。   FIG. 3 is a diagram illustrating an operation example of adding noise to video data in the imaging device according to the present embodiment. FIG. 3 exemplifies a case where the amplitude range of the added noise is a fixed value for the sake of simplicity. The illustrated example is an example in which the luminance value of the video data is set to each gradation value of 0 to 240, the amplitude range of the added noise is set to 16, and the added noise is set to a fluctuation value that randomly changes between 0 and 15. The adder 15 adds the luminance value of the video data output from the imaging device 11 and the addition noise output from the noise generator 14, and sequentially integrates the integrated value as the noise-added video data. 16 is output. The quantizer 16 converts the video data to which noise has been added into video data of the second gradation and sequentially outputs the data.

図4は、本実施の形態に係る撮像装置を含む映像表示システムの構成の第2例を示すブロック図である。映像表示システム1Aは、任意の対象物を撮像する撮像装置20と、撮像装置20から出力された映像データがリアルタイムで入力される高速表示装置30とを有する。第2例は、第1例の撮像装置10の代わりに、アナログ回路により構成した撮像装置20を有する他の構成例である。ここでは、第1例と異なる構成要素について説明し、同様の構成については説明を適宜省略する。   FIG. 4 is a block diagram illustrating a second example of the configuration of the video display system including the imaging device according to the present embodiment. The video display system 1A includes an imaging device 20 that captures an arbitrary object, and a high-speed display device 30 to which video data output from the imaging device 20 is input in real time. The second example is another configuration example having an imaging device 20 configured by an analog circuit instead of the imaging device 10 of the first example. Here, components different from those in the first example will be described, and description of the same components will be appropriately omitted.

撮像装置20は、撮像デバイス21と、アナログ構成の映像出力部22とを有する。撮像装置20は、撮像デバイス21及び映像出力部22を一体的に構成した例えば1チップの半導体装置で構成されるものであってもよいし、撮像デバイス21と映像出力部22とを別体にした例えば複数チップの半導体装置を含む構成であってもよい。   The imaging device 20 includes an imaging device 21 and a video output unit 22 having an analog configuration. The imaging device 20 may be configured by, for example, a one-chip semiconductor device in which the imaging device 21 and the video output unit 22 are integrally configured, or the imaging device 21 and the video output unit 22 may be separately provided. For example, a configuration including a semiconductor device having a plurality of chips may be employed.

撮像デバイス21は、高フレームレートの撮像信号を取得し、アナログ信号の映像信号(撮像映像データ)として出力する。映像出力部22は、撮像デバイス21から出力される映像信号を変調し、撮像時の撮像映像データから通常得られる第1階調(例えば8ビット)よりも階調値が小さい第2階調(例えば4ビット)の映像データ(表示映像データ)を生成して出力する。映像出力部22は、ノイズ発生器23と、可変増幅器(AMP)24と、加算増幅回路25と、ADコンバータ(ADC)26とを有する。ここで、ノイズ発生器23、可変増幅器24、及び加算増幅回路25がノイズ加算部の一例としての機能を有し、ADコンバータ26が変調部の一例としての機能を有する。   The imaging device 21 acquires an imaging signal of a high frame rate and outputs it as a video signal (imaged video data) of an analog signal. The video output unit 22 modulates a video signal output from the imaging device 21, and modulates a second gray level (for example, 8 bits) smaller than a first gray level (for example, 8 bits) normally obtained from captured video data at the time of imaging. For example, 4 bit) video data (display video data) is generated and output. The video output unit 22 includes a noise generator 23, a variable amplifier (AMP) 24, an addition amplifier circuit 25, and an AD converter (ADC) 26. Here, the noise generator 23, the variable amplifier 24, and the addition amplification circuit 25 have a function as an example of a noise addition unit, and the AD converter 26 has a function as an example of a modulation unit.

ノイズ発生器23は、例えば三角波を発生する発振器、又はアナログノイズ発生回路等を有して構成され、所定レベルのランダムな加算ノイズを生成し出力する。可変増幅器24は、撮像デバイス21から出力される映像信号の輝度値を制御入力とし、ノイズ発生器23にて生成した加算ノイズを信号入力とし、輝度値に応じて変化させたゲインによって加算ノイズを増幅して出力する。これにより、可変増幅器24の出力は、輝度値に応じた振幅の加算ノイズが出力される。加算増幅回路25は、撮像デバイス21から出力される映像信号(撮像映像データ)と、可変増幅器24から出力される加算ノイズとを入力し、両者を加算(重畳)して増幅し出力する。ADコンバータ26は、加算増幅回路25から出力されるノイズ付加後のアナログの映像信号を第2のビット数(例えば4ビット)を有する第2階調のディジタルデータに変換し、表示映像データとして順次出力する。これにより、撮像装置10は、撮像により得られた高フレームレートの映像データとして、撮像デバイス21の出力に対して階調を下げてデータ量を削減した第2階調の表示映像データを出力する。   The noise generator 23 includes, for example, an oscillator that generates a triangular wave, an analog noise generation circuit, or the like, and generates and outputs random addition noise of a predetermined level. The variable amplifier 24 receives the luminance value of the video signal output from the imaging device 21 as a control input, uses the added noise generated by the noise generator 23 as a signal input, and reduces the added noise by a gain changed according to the luminance value. Amplify and output. As a result, the output of the variable amplifier 24 outputs an addition noise having an amplitude corresponding to the luminance value. The addition amplification circuit 25 receives the video signal (imaged video data) output from the imaging device 21 and the added noise output from the variable amplifier 24, adds (superimposes) the two, amplifies and outputs them. The AD converter 26 converts the analog video signal to which the noise is added, output from the addition amplification circuit 25, into digital data of a second gradation having a second bit number (for example, 4 bits), and sequentially as display video data. Output. Thereby, the imaging device 10 outputs, as high frame rate video data obtained by imaging, display video data of the second gradation in which the data amount is reduced by lowering the gradation with respect to the output of the imaging device 21. .

次に、本実施の形態に係る撮像装置の動作例を説明する。ここでは、撮像映像データの輝度値に対する、出力される表示映像データの階調及びノイズレベルの一例を示す。   Next, an operation example of the imaging device according to the present embodiment will be described. Here, an example of the gradation and noise level of the output display video data with respect to the luminance value of the captured video data is shown.

図5は、撮像装置における映像信号の出力輝度値とノイズレベルとの関係の一例を示す図であり、ノイズが発生しない仮想状態を示した図である。図5の上部は撮像映像データの輝度値に対する表示映像データの出力の統計的な平均値を示しており、人間の目に見える階調を表している。図5の下部は撮像映像データの輝度値に対するノイズレベルの出力の統計的な平均値を示している。撮像映像データの輝度値の全範囲にわたってノイズレベルが0の場合、第1階調(例えば8ビット)の映像データを第2階調(例えば4ビット)の映像データに符号化すると、出力の表示映像データの階調は粗くなる。この場合、人間の視覚においては階段状の階調変化として視認される。   FIG. 5 is a diagram illustrating an example of a relationship between an output luminance value of a video signal in the imaging device and a noise level, and is a diagram illustrating a virtual state in which noise does not occur. The upper part of FIG. 5 shows the statistical average value of the output of the display video data with respect to the luminance value of the captured video data, and represents the gray scale visible to human eyes. The lower part of FIG. 5 shows the statistical average value of the output of the noise level with respect to the luminance value of the captured video data. When the noise level is 0 over the entire range of the luminance value of the captured video data, the video data of the first gray scale (for example, 8 bits) is encoded into the video data of the second gray scale (for example, 4 bits), and the output display is performed. The gradation of the video data becomes coarse. In this case, human eyes perceive as a stepwise gradation change.

図6は、撮像装置における映像信号の出力輝度値とノイズレベルとの関係の一例を示す図であり、光ショットノイズが発生する実際の撮像デバイスの状態を示した図である。図6の上部は撮像映像データの輝度値に対する表示映像データの出力の統計的な平均値を示しており、図6の下部は撮像映像データの輝度値に対するノイズレベルの出力の統計的な平均値を示している。ここでは、わかりやすくするために非常にノイズが多い状況を想定し、0〜255の各輝度値において、正規分布のノイズをそれぞれ10000個発生させたシミュレーション結果を示している。この場合、撮像映像データには撮像装置において自然発生する固有ノイズとして光ショットノイズNsの成分が加算される。このため、第1階調から第2階調の映像データに符号化した際、ノイズ加算によって人間の視覚において擬似的な階調が付与され、ビット数低減により失われた階調成分が回復する。光ショットノイズNsは、撮像映像データの輝度値が増加するにつれてノイズレベルが大きくなるため、人間の目の見え方として高輝度領域ほど滑らかな階調変化が得られる。   FIG. 6 is a diagram illustrating an example of a relationship between an output luminance value of a video signal and a noise level in the imaging device, and is a diagram illustrating a state of an actual imaging device in which optical shot noise occurs. The upper part of FIG. 6 shows the statistical average value of the output of the display video data with respect to the luminance value of the captured video data, and the lower part of FIG. 6 shows the statistical average value of the output of the noise level with respect to the luminance value of the captured video data. Is shown. Here, for the sake of simplicity, it is assumed that the situation is very noisy, and a simulation result in which 10,000 noises of the normal distribution are generated for each of the luminance values of 0 to 255 is shown. In this case, the component of the light shot noise Ns is added to the captured video data as inherent noise that occurs naturally in the imaging device. Therefore, when the image data is encoded from the first gradation to the second gradation video data, a pseudo gradation is added to human vision by noise addition, and the gradation component lost due to the reduction in the number of bits is recovered. . Since the light shot noise Ns has a higher noise level as the luminance value of the captured video data increases, a smoother gradation change can be obtained in a higher luminance region as a human eye.

図7は、比較例の撮像装置における動作例として、映像信号の出力輝度値とノイズ値との関係の一例を示す図であり、各輝度値において一様な範囲で加算ノイズを付加した状態を示した図である。図7の上部は撮像映像データの輝度値に対する表示映像データの出力の統計的な平均値を示しており、図7の下部は撮像映像データの輝度値に対するノイズレベルの出力の統計的な平均値を示している。ここでは、わかりやすくするために非常にノイズが多い状況を想定し、0〜255の各輝度値において、正規分布のノイズをそれぞれ10000個発生させたシミュレーション結果を示している。比較例は、低輝度から高輝度まで一様な範囲で加算ノイズNaを付加する例である。この比較例では、ノイズレベルの総和Nは、加算ノイズNaが一定であるため、光ショットノイズNsに連動して輝度値が増加するにつれて大きくなる。この場合、高輝度領域では加算ノイズを過度に加算した状態となり、ノイズレベルの標準偏差が増加するため、出力の変動が大きくなり、出力レベルが所定範囲に収まらないことが生じ得る。このことは、出力映像に歪が生じてちらつきの要因となる。また、低輝度領域と高輝度領域の両端において階調が得られない課題が生じ得る。このように、低輝度から高輝度にわたって安定的にダイナミックレンジを確保できない場合があり、表示映像の品質低下を招くおそれがある。   FIG. 7 is a diagram illustrating an example of a relationship between an output luminance value of a video signal and a noise value as an operation example in the imaging apparatus of the comparative example. FIG. 7 illustrates a state where addition noise is added in a uniform range at each luminance value. FIG. The upper part of FIG. 7 shows the statistical average value of the output of the display video data with respect to the luminance value of the captured video data, and the lower part of FIG. 7 shows the statistical average value of the output of the noise level with respect to the luminance value of the captured video data. Is shown. Here, for the sake of simplicity, it is assumed that the situation is very noisy, and a simulation result in which 10,000 noises of the normal distribution are generated for each of the luminance values of 0 to 255 is shown. The comparative example is an example in which the addition noise Na is added in a uniform range from low luminance to high luminance. In this comparative example, the sum N of the noise levels increases as the luminance value increases in conjunction with the light shot noise Ns because the added noise Na is constant. In this case, the added noise is excessively added in the high luminance area, and the standard deviation of the noise level increases, so that the output fluctuates greatly and the output level may not be within the predetermined range. This causes distortion in the output video and causes flicker. Further, there may be a problem that a gradation cannot be obtained at both ends of the low-luminance region and the high-luminance region. As described above, there is a case where the dynamic range cannot be stably secured from low luminance to high luminance, and there is a possibility that the quality of the displayed image is deteriorated.

図8は、本実施の形態の撮像装置における動作例として、映像信号の出力輝度値とノイズ値との関係の一例を示す図であり、輝度値に応じて範囲を変動させて加算ノイズを付加した状態を示した図である。図8の上部は撮像映像データの輝度値に対する表示映像データの出力の統計的な平均値を示しており、図8の下部は撮像映像データの輝度値に対するノイズレベルの出力の統計的な平均値を示している。ここでは、わかりやすくするために非常にノイズが多い状況を想定し、0〜255の各輝度値において、正規分布のノイズをそれぞれ10000個発生させ、分散が輝度値に比例するよう発生させたシミュレーション結果を示している。実際には、撮像対象が明るい場合は撮像装置のゲイン設定値を下げることによりS/Nが変化し、ノイズレベルを下げることができる。よって、輝度値に応じて加算ノイズの振幅範囲を設定するとともに、ゲイン設定値に応じた振幅範囲の補正を行う。   FIG. 8 is a diagram illustrating an example of a relationship between an output luminance value of a video signal and a noise value as an operation example of the imaging apparatus according to the present embodiment, in which a range is varied according to the luminance value and additional noise is added. FIG. The upper part of FIG. 8 shows the statistical average value of the output of the display video data with respect to the luminance value of the captured video data, and the lower part of FIG. 8 shows the statistical average value of the output of the noise level with respect to the luminance value of the captured video data. Is shown. Here, for the sake of simplicity, it is assumed that the situation is very noisy. For each of the luminance values of 0 to 255, 10000 normal distribution noises are generated, and the variance is generated so that the variance is proportional to the luminance value. The results are shown. Actually, when the imaging target is bright, the S / N changes by lowering the gain setting value of the imaging device, and the noise level can be reduced. Therefore, the amplitude range of the added noise is set according to the luminance value, and the amplitude range is corrected according to the gain setting value.

本実施の形態では、各輝度値においてノイズレベルの総和Nが一様となるように、輝度値に応じた光ショットノイズNsの増加に対して加算ノイズNaを減少させ、撮像映像データに加算する。これにより、映像データの出力偏差の増加を抑制できる。このように輝度値の増加に応じてノイズレベルが小さくなるように加算ノイズNaを変動させることにより、輝度値に関わらず常に適切なノイズ付加を可能とし、低輝度から高輝度にわたって安定的にダイナミックレンジを確保する。これにより、人間の視覚においては輝度値の全体で滑らかな階調変化が得られ、階調値の低減により失われた階調成分を回復でき、表示映像の品質低下を抑制できる。   In the present embodiment, the addition noise Na is reduced with respect to the increase in the light shot noise Ns according to the luminance value and added to the captured video data so that the sum N of the noise levels becomes uniform at each luminance value. . Thus, an increase in the output deviation of the video data can be suppressed. In this way, by adding the noise Na so as to reduce the noise level in accordance with the increase in the luminance value, appropriate noise can always be added irrespective of the luminance value, and the dynamic noise can be stably controlled from low luminance to high luminance. Secure range. As a result, in human vision, a smooth gradation change can be obtained over the entire luminance value, the gradation component lost due to the reduction of the gradation value can be recovered, and the deterioration of the display image quality can be suppressed.

以上のように、本実施の形態の撮像装置10、20は、撮像により人間の視覚時間感度を超える高フレームレートの撮像映像データを取得する撮像デバイス11、21と、撮像映像データから通常得られる第1階調よりも階調値が小さい第2階調の表示映像データを生成して出力する映像出力部12、22と、を有する。映像出力部12、22は、撮像映像データの輝度値全体に渡って各輝度値のノイズレベルの総和が一様になるように、撮像映像データに対して加算ノイズを付加するノイズ付加部(演算部13、ノイズ発生器14、加算器15、又はノイズ発生器23、可変増幅器24、加算増幅回路25)と、加算ノイズを付加した後の映像データを第2階調の表示映像データに変換する変調部(量子化器16又はADコンバータ26)と、を含む。本実施の形態では、高フレームレートの撮像映像データを取得して表示装置に対して伝送する際に、撮像映像データに加算ノイズを付加し、撮像映像データから通常得られる第1階調よりも階調値が小さい第2階調の表示映像データを生成して出力する。このような信号処理によって、映像データのデータ量を削減して遅延を抑制するとともに、階調値の低減により失われた階調成分を、人間の目による複数フレームの残像的な知覚によって回復させる。このとき、撮像映像データの輝度値全体に渡って各輝度値のノイズレベルの総和が一様になるようにすることで、加算ノイズが過度に付加されることを防止し、映像のちらつき発生等の品質低下を抑制できる。これにより、表示映像の品質低下を抑制しつつ、映像の伝送量及び演算量の増大を抑制することが可能になる。   As described above, the imaging devices 10 and 20 according to the present embodiment are normally obtained from the imaging devices 11 and 21 that obtain high-frame-rate imaging video data exceeding human visual time sensitivity by imaging, and the imaging video data. Video output units 12 and 22 for generating and outputting display video data of a second gradation having a gradation value smaller than the first gradation. The video output units 12 and 22 include a noise adding unit (arithmetic unit) that adds addition noise to the captured video data so that the sum of the noise levels of the respective brightness values becomes uniform over the entire brightness value of the captured video data. Unit 13, the noise generator 14, the adder 15, or the noise generator 23, the variable amplifier 24, the addition amplification circuit 25) and the video data to which the addition noise has been added is converted into display video data of the second gradation. A modulator (quantizer 16 or AD converter 26). In the present embodiment, when acquiring captured image data at a high frame rate and transmitting the acquired image data to a display device, an additional noise is added to the captured image data, and the added noise is added to the image data. The display image data of the second gradation having a small gradation value is generated and output. By such signal processing, the data amount of the video data is reduced to suppress the delay, and the grayscale component lost by the reduction of the grayscale value is recovered by the human eyes by the afterimage of a plurality of frames. . At this time, by making the sum of the noise levels of the respective luminance values uniform over the entire luminance value of the captured video data, it is possible to prevent the addition noise from being added excessively and to prevent the occurrence of flickering of the video. Quality can be suppressed. This makes it possible to suppress an increase in the amount of video transmission and the amount of calculation while suppressing a decrease in the quality of the displayed video.

また、撮像装置10において、映像出力部12は、撮像デバイス11から出力される第1のビット数を有する第1階調の撮像映像データに基づき、第1のビット数よりも小さい第2のビット数を有する第2階調の表示映像データを生成して出力する。これにより、映像データの輝度値のビット数低減によってデータ量を削減し、遅延を抑制することが可能となる。   In the imaging device 10, the video output unit 12 is configured to output a second bit smaller than the first bit number based on the first-graded captured video data having the first bit number output from the imaging device 11. It generates and outputs the second gradation display video data having a number. As a result, it is possible to reduce the data amount by reducing the number of bits of the luminance value of the video data, and to suppress the delay.

また、撮像装置10において、映像出力部12は、ノイズ付加部として、第1階調の撮像映像データの輝度値に応じた加算ノイズの振幅範囲を算出する演算部13と、算出された振幅範囲のランダムなノイズを加算ノイズとして出力するノイズ発生器14と、撮像映像データと加算ノイズとを加算する加算器15と、を含む。また、映像出力部12は、変調部として、第1階調の撮像映像データに対して加算ノイズが付加された映像データを、第2階調の映像データに量子化して表示映像データとして順次出力する量子化器16を含む。これにより、ディジタル信号処理を実行する構成によって、撮像映像信号に対して意図的にノイズを付加し、階調値の低減により失われた階調成分を回復させるとともに、映像データのデータ量を削減して遅延を抑制することが可能となる。   Further, in the imaging device 10, the video output unit 12 includes, as a noise addition unit, a calculation unit 13 that calculates an amplitude range of added noise according to a luminance value of the captured image data of the first gradation, and a calculated amplitude range. A noise generator 14 that outputs the random noise of the above as added noise, and an adder 15 that adds the picked-up video data and the added noise. Further, the video output unit 12 quantizes the video data obtained by adding the added noise to the captured video data of the first gray scale to the video data of the second gray scale and sequentially outputs the video data as display video data as a modulation unit. And a quantizer 16. With this configuration, noise is intentionally added to the captured video signal by the configuration that executes digital signal processing, the grayscale component lost due to the reduction of the grayscale value is restored, and the data amount of the video data is reduced. Thus, the delay can be suppressed.

また、撮像装置20において、映像出力部22は、ノイズ付加部として、装置においてノイズ発生器23等で発生されるランダムなノイズを、撮像デバイス21から出力される撮像映像データの輝度値に応じた振幅に増幅し、加算ノイズとして出力する可変増幅器24と、撮像デバイス21から出力される撮像映像データと加算ノイズとを重畳して出力する加算増幅回路25と、を含む。また、映像出力部22は、変調部として、加算増幅回路25から出力されるノイズ付加後のアナログの映像信号を、第2階調のディジタルデータに変換して表示映像データとして順次出力するADコンバータ26を含む。これにより、アナログ信号処理を実行する構成によって、撮像映像信号に対して意図的にノイズを付加し、階調値の低減により失われた階調成分を回復させるとともに、映像データのデータ量を削減して遅延を抑制することが可能となる。   Further, in the imaging device 20, the video output unit 22 serves as a noise adding unit, and generates random noise generated by the noise generator 23 or the like in the device according to the luminance value of the captured video data output from the imaging device 21. It includes a variable amplifier 24 that amplifies to an amplitude and outputs the added noise, and an addition amplifier circuit 25 that superimposes and outputs the imaged video data output from the imaging device 21 and the added noise. The video output unit 22 serves as a modulation unit, which converts an analog video signal to which noise is added, output from the addition amplification circuit 25, into digital data of the second gradation, and sequentially outputs the digital video data as display video data. 26. With this configuration, noise is intentionally added to the captured video signal by the configuration that executes analog signal processing, the grayscale component lost due to the reduction of the grayscale value is restored, and the data amount of the video data is reduced. Thus, the delay can be suppressed.

また、撮像装置10、20において、高フレームレートの撮像映像データとして480fps以上のフレームレートの映像データを取得する。このように、480fps以上の高いフレームレートの映像データを用いて、高速な映像表示を行う場合に、表示映像の品質低下を抑制しつつ、映像の伝送量及び演算量の増大を抑制することが可能となる。   In addition, the imaging devices 10 and 20 acquire video data of a frame rate of 480 fps or more as captured video data of a high frame rate. As described above, when performing high-speed video display using video data of a high frame rate of 480 fps or more, it is possible to suppress an increase in the amount of video transmission and the amount of calculation while suppressing a decrease in the quality of the displayed video. It becomes possible.

また、撮像装置10、20において、映像出力部12、22のノイズ付加部は、撮像映像データの輝度値が増加するにつれて加算ノイズを減少させて付加し、撮像デバイス11、21において発生する固有ノイズと加算ノイズとを含むノイズレベルの総和が撮像映像データの輝度値全体に渡って一様となっている。これにより、撮像映像データの輝度値全体に渡って各輝度値のノイズレベルの総和が一様になるようにすることができ、特に高輝度領域においてノイズを加算しすぎることを防止し、映像のちらつき発生等の品質低下を抑制できる。   In addition, in the imaging devices 10 and 20, the noise adding units of the video output units 12 and 22 reduce and add the added noise as the luminance value of the captured video data increases, and add the inherent noise generated in the imaging devices 11 and 21. And the sum of the noise levels including the added noise is uniform over the entire luminance value of the captured video data. This makes it possible to make the sum of the noise levels of the respective luminance values uniform over the entire luminance value of the captured video data, and to prevent excessive addition of noise particularly in a high luminance region, Quality deterioration such as flickering can be suppressed.

本実施の形態の映像出力方法は、撮像デバイス11、21により撮像した人間の視覚時間感度を超える高フレームレートの撮像映像データを取得するステップと、撮像映像データの輝度値全体に渡って各輝度値のノイズレベルの総和が一様になるように、撮像映像データに対して加算ノイズを付加するステップと、加算ノイズを付加した後の映像データを用いて、撮像映像データから通常得られる第1階調よりも階調値が小さい第2階調の表示映像データを生成するステップと、第2階調の表示映像データを高速表示装置30に出力するステップと、を有する。これにより、比較的高いフレームレートを有する映像を取得して表示装置に対して伝送する際に、表示映像の品質低下を抑制しつつ、映像の伝送量及び演算量の増大を抑制することが可能になる。   The video output method according to the present embodiment includes a step of acquiring captured video data having a high frame rate exceeding human visual time sensitivity captured by the imaging devices 11 and 21; and a method of obtaining each brightness over the entire brightness value of the captured video data. Adding addition noise to the captured video data so that the sum of the noise levels of the values becomes uniform, and using the video data after the addition noise is added to the first video data normally obtained from the captured video data. The method includes a step of generating display image data of the second gradation having a gradation value smaller than the gradation and a step of outputting the display image data of the second gradation to the high-speed display device 30. As a result, when acquiring a video having a relatively high frame rate and transmitting it to the display device, it is possible to suppress an increase in the amount of video transmission and the amount of calculation while suppressing a decrease in the quality of the displayed video. become.

以上、図面を参照しながら各種の実施形態について説明したが、本発明はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。また、発明の趣旨を逸脱しない範囲において、上記実施形態における各構成要素を任意に組み合わせてもよい。   Although various embodiments have been described with reference to the drawings, it goes without saying that the present invention is not limited to such examples. It is clear that those skilled in the art can conceive various changes or modifications within the scope of the claims, and these naturally belong to the technical scope of the present invention. I understand. Further, each component in the above embodiment may be arbitrarily combined without departing from the spirit of the invention.

本開示は、比較的高いフレームレートを有する映像を取得して表示装置に対して伝送する際に、表示映像の品質低下を抑制しつつ、映像の伝送量及び演算量の増大を抑制することができる撮像装置及び映像出力方法として有用である。   According to the present disclosure, when acquiring a video having a relatively high frame rate and transmitting the acquired video to a display device, it is possible to suppress an increase in a transmission amount and a calculation amount of the video while suppressing a decrease in quality of the displayed video. It is useful as a possible imaging device and a video output method.

1、1A 映像表示システム
10、20 撮像装置
11、21 撮像デバイス
12、22 映像出力部
13 演算部
14 ノイズ発生器
15 加算器
16 量子化器
23 ノイズ発生器
24 可変増幅器
25 加算増幅回路
26 ADコンバータ
30 高速表示装置
DESCRIPTION OF SYMBOLS 1, 1A Video display system 10, 20 Imaging device 11, 21 Imaging device 12, 22 Video output unit 13 Operation unit 14 Noise generator 15 Adder 16 Quantizer 23 Noise generator 24 Variable amplifier 25 Addition amplification circuit 26 AD converter 30 High-speed display device

Claims (7)

撮像により人間の視覚時間感度を超える高フレームレートの撮像映像データを取得する撮像デバイスと、
前記撮像映像データから通常得られる第1階調よりも階調値が小さい第2階調の表示映像データを生成して出力する映像出力部と、を有し、
前記映像出力部は、
前記撮像映像データの輝度値全体に渡って各輝度値のノイズレベルの総和が一様になるように、前記撮像映像データに対して加算ノイズを付加するノイズ付加部と、
前記加算ノイズを付加した後の映像データを前記第2階調の表示映像データに変換する変調部と、を含む、
撮像装置。
An imaging device that acquires high-frame-rate captured video data that exceeds human visual time sensitivity by imaging,
And a video output unit that generates and outputs display video data of a second gradation having a gradation value smaller than the first gradation normally obtained from the captured video data,
The video output unit,
A noise adding unit that adds addition noise to the captured video data so that the sum of noise levels of the respective brightness values is uniform over the entire brightness value of the captured video data;
A modulating unit that converts the video data after the addition noise is added to the display video data of the second gradation.
Imaging device.
請求項1に記載の撮像装置であって、
前記映像出力部は、
前記撮像デバイスから出力される第1のビット数を有する前記第1階調の撮像映像データに基づき、前記第1のビット数よりも小さい第2のビット数を有する前記第2階調の表示映像データを生成して出力する、
撮像装置。
The imaging device according to claim 1,
The video output unit,
The second gradation display video having a second bit number smaller than the first bit number based on the first gradation image video data having the first bit number output from the imaging device. Generate and output data,
Imaging device.
請求項2に記載の撮像装置であって、
前記ノイズ付加部は、前記第1階調の撮像映像データの輝度値に応じた前記加算ノイズの振幅範囲を算出する演算部と、前記算出された振幅範囲のランダムなノイズを前記加算ノイズとして出力するノイズ発生器と、前記撮像映像データと前記加算ノイズとを加算する加算器と、を含み、
前記変調部は、前記第1階調の撮像映像データに対して前記加算ノイズが付加された映像データを、前記第2階調の映像データに量子化して前記表示映像データとして順次出力する量子化器を含む、
撮像装置。
The imaging device according to claim 2,
The noise adding unit calculates an amplitude range of the added noise according to a luminance value of the captured image data of the first gradation, and outputs a random noise of the calculated amplitude range as the added noise. A noise generator, and an adder that adds the captured video data and the added noise,
The quantization unit quantizes video data obtained by adding the addition noise to the first grayscale imaged video data to the second grayscale video data and sequentially outputs the video data as the display video data. Including vessels,
Imaging device.
請求項1に記載の撮像装置であって、
前記ノイズ付加部は、装置において発生されるランダムなノイズを、前記撮像デバイスから出力される撮像映像データの輝度値に応じた振幅に増幅し、前記加算ノイズとして出力する可変増幅器と、前記撮像デバイスから出力される撮像映像データと前記加算ノイズとを重畳して出力する加算増幅回路と、を含み、
前記変調部は、前記加算増幅回路から出力されるノイズ付加後のアナログの映像信号を、前記第2階調のディジタルデータに変換して前記表示映像データとして順次出力するADコンバータを含む、
撮像装置。
The imaging device according to claim 1,
A variable amplifier that amplifies random noise generated in the apparatus to an amplitude corresponding to a luminance value of captured video data output from the imaging device, and outputs the amplified noise as the added noise; Including an addition amplification circuit that outputs the captured image data and the addition noise that are output from the superimposition,
The modulation unit includes an AD converter that converts an analog video signal to which noise is added, output from the addition amplification circuit, to digital data of the second gradation and sequentially outputs the digital video data as the display video data.
Imaging device.
請求項1から4のいずれか一項に記載の撮像装置であって、
前記高フレームレートの撮像映像データとして480fps以上のフレームレートの映像データを取得する、
撮像装置。
The imaging device according to claim 1, wherein:
Acquiring video data having a frame rate of 480 fps or more as the image data of the high frame rate;
Imaging device.
請求項1から5のいずれか一項に記載の撮像装置であって、
前記ノイズ付加部は、前記撮像映像データの輝度値に応じて、前記輝度値が増加するにつれて前記加算ノイズを減少させて付加し、前記撮像デバイスにおいて発生する固有ノイズと前記加算ノイズとを含むノイズレベルの総和が前記撮像映像データの輝度値全体に渡って一様となっている、
撮像装置。
The imaging device according to claim 1, wherein:
The noise adding unit reduces and adds the additive noise as the luminance value increases according to a luminance value of the captured video data, and includes a noise including an intrinsic noise generated in the imaging device and the additive noise. The sum of the levels is uniform over the entire luminance value of the captured video data,
Imaging device.
撮像デバイスにより撮像した人間の視覚時間感度を超える高フレームレートの撮像映像データを取得するステップと、
前記撮像映像データの輝度値全体に渡って各輝度値のノイズレベルの総和が一様になるように、前記撮像映像データに対して加算ノイズを付加するステップと、
前記加算ノイズを付加した後の映像データを用いて、前記撮像映像データから通常得られる第1階調よりも階調値が小さい第2階調の表示映像データを生成するステップと、
前記第2階調の表示映像データを表示装置に出力するステップと、
を有する映像出力方法。
Acquiring high-frame-rate captured video data exceeding the human visual time sensitivity captured by the imaging device;
Adding an additional noise to the captured video data so that the sum of the noise levels of the respective brightness values becomes uniform over the entire brightness value of the captured video data;
Using the video data to which the added noise has been added, generating display video data of a second gradation having a gradation value smaller than a first gradation normally obtained from the captured video data;
Outputting the display image data of the second gradation to a display device;
An image output method having the following.
JP2018119132A 2018-06-22 2018-06-22 Imaging device and video output method Active JP7149514B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018119132A JP7149514B2 (en) 2018-06-22 2018-06-22 Imaging device and video output method
JP2022146045A JP7445904B2 (en) 2018-06-22 2022-09-14 Video output device, video output method, and video output system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018119132A JP7149514B2 (en) 2018-06-22 2018-06-22 Imaging device and video output method

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022146045A Division JP7445904B2 (en) 2018-06-22 2022-09-14 Video output device, video output method, and video output system

Publications (3)

Publication Number Publication Date
JP2019220925A true JP2019220925A (en) 2019-12-26
JP2019220925A5 JP2019220925A5 (en) 2021-08-05
JP7149514B2 JP7149514B2 (en) 2022-10-07

Family

ID=69097170

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2018119132A Active JP7149514B2 (en) 2018-06-22 2018-06-22 Imaging device and video output method
JP2022146045A Active JP7445904B2 (en) 2018-06-22 2022-09-14 Video output device, video output method, and video output system

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2022146045A Active JP7445904B2 (en) 2018-06-22 2022-09-14 Video output device, video output method, and video output system

Country Status (1)

Country Link
JP (2) JP7149514B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111601031A (en) * 2020-04-02 2020-08-28 维沃移动通信有限公司 Shooting parameter adjusting method and device

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004040237A (en) * 2002-06-28 2004-02-05 Canon Inc Image processing apparatus and method, computer program, and computer-readable storage medium

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4107108B2 (en) 2003-03-05 2008-06-25 コニカミノルタビジネステクノロジーズ株式会社 Image processing method and apparatus
JP4498804B2 (en) 2003-04-02 2010-07-07 シャープ株式会社 Image display device drive device, image display device, television receiver, image display device drive method, image display method, program thereof, and recording medium

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004040237A (en) * 2002-06-28 2004-02-05 Canon Inc Image processing apparatus and method, computer program, and computer-readable storage medium

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111601031A (en) * 2020-04-02 2020-08-28 维沃移动通信有限公司 Shooting parameter adjusting method and device
CN111601031B (en) * 2020-04-02 2022-02-01 维沃移动通信有限公司 Shooting parameter adjusting method and device

Also Published As

Publication number Publication date
JP7149514B2 (en) 2022-10-07
JP2022173290A (en) 2022-11-18
JP7445904B2 (en) 2024-03-08

Similar Documents

Publication Publication Date Title
JP6451669B2 (en) Evaluation apparatus, evaluation method, and camera system
US9846925B2 (en) Defog system and defog method
JP7445904B2 (en) Video output device, video output method, and video output system
JP2009071621A (en) Image processor and digital camera
JPWO2017126309A1 (en) Display device, display method, control program, recording medium, and television receiver
JP4340303B2 (en) Image processing apparatus and image processing program
JP5609788B2 (en) Image processing apparatus and image processing method
JP2019193025A (en) Video brightness conversion apparatus and program thereof
JP7113282B2 (en) Video display system and video display method
JP5609787B2 (en) Image processing apparatus and image processing method
JP7186374B2 (en) VIDEO SIGNAL PROCESSING DEVICE, VIDEO DISPLAY SYSTEM, AND VIDEO SIGNAL PROCESSING METHOD
JP2019220925A5 (en)
JP6397261B2 (en) Image processing apparatus and method
US11245901B2 (en) Video signal processing device, video display system, and video signal processing method
JP4046044B2 (en) Imaging device
JP2008123472A (en) Video signal processor
JP6673424B2 (en) Signal processing device, signal processing method, and camera system
JP2007266787A (en) Imaging apparatus provided with process for making excessive-noise pixel usable
JP2012208776A (en) Image processing device, image processing method, and program
JP4403361B2 (en) Display processing method, display processing apparatus, and display system
JP2011249948A (en) Stereo image processing apparatus, image processing method, and program
JP2010068368A (en) Image processing apparatus, image processing method, and program
JP2014179807A (en) Image processing apparatus, image processing system, image processing method and program
JP2012138723A (en) Imaging apparatus
KR20110117602A (en) Image pickup system, image pickup apparatus and sensitivity control method

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210621

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210621

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220405

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220413

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220816

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220915

R151 Written notification of patent or utility model registration

Ref document number: 7149514

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151