RU2384967C1 - Image stabilisation method (versions) - Google Patents

Image stabilisation method (versions) Download PDF

Info

Publication number
RU2384967C1
RU2384967C1 RU2008133247/09A RU2008133247A RU2384967C1 RU 2384967 C1 RU2384967 C1 RU 2384967C1 RU 2008133247/09 A RU2008133247/09 A RU 2008133247/09A RU 2008133247 A RU2008133247 A RU 2008133247A RU 2384967 C1 RU2384967 C1 RU 2384967C1
Authority
RU
Russia
Prior art keywords
main
photodetector
additional
image
matrix
Prior art date
Application number
RU2008133247/09A
Other languages
Russian (ru)
Inventor
Александр Константинович Цыцулин (RU)
Александр Константинович Цыцулин
Шакиб Субхиевич Фахми (RU)
Шакиб Субхиевич Фахми
Анатолий Витальевич Переспелов (RU)
Анатолий Витальевич Переспелов
Original Assignee
Федеральное государственное унитарное предприятие "Научно-исследовательский институт телевидения"
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Федеральное государственное унитарное предприятие "Научно-исследовательский институт телевидения" filed Critical Федеральное государственное унитарное предприятие "Научно-исследовательский институт телевидения"
Priority to RU2008133247/09A priority Critical patent/RU2384967C1/en
Application granted granted Critical
Publication of RU2384967C1 publication Critical patent/RU2384967C1/en

Links

Images

Landscapes

  • Studio Devices (AREA)

Abstract

FIELD: physics, photography.
SUBSTANCE: invention relates to television and digital photography and more specifically to image stabilisation methods. The result is achieved due to that two additional linear photodetectors of considerably smaller area, made in form of rows (columns) are placed on a single crystal together with the main photodetector matrix, a signal is read from the additional two linear photosensitive devices with horizontal frequency many times greater than the frame frequency of the main photodetector matrix. The pixel size along the linear photodetector is selected such that it is several times less than the pixel size of the main matrix. To main equality of sensitivity of the main matrix and the additional linear photodetectors, in the latter the pixel size in the direction across reading is increased in proportion to reduction of the longitudinal size and reading time. Further, three video data streams are picked: one main one and two auxiliary ones, from which the shift of the crystal relative the image formed by the lens is calculated.
EFFECT: compensation for the effect of the shaking of the hands of the operator.
2 cl, 6 dwg

Description

Предлагаемое техническое решение относится к области телевидения и цифровой фотографии, а именно к способам стабилизации изображения, и предназначено для компенсации влияния дрожания рук оператора.The proposed technical solution relates to the field of television and digital photography, and in particular to methods of image stabilization, and is intended to compensate for the effects of operator shake.

Известен и широко применяется способ стабилизации изображений, использующий для получения информации об относительном движении изображения и матричного фотоприемника косвенный метод: относительное движение оценивают по собственному движению всего фотоаппарата (видеокамеры), для чего служат два датчика ускорения или гироскопических датчика [Автоматическая стабилизация оптического изображения / Д.Н.Еськов, Ю.П.Ларионов, В.А.Новиков и др. Под ред. Д.Н.Еськова, В.А.Новикова. - Л.: Машиностроение, 1988, стр.36]. В качестве исполнительного механизма в этом методе используют электромеханическое устройство перемещения элементов объектива [Автоматическая стабилизация оптического изображения / Д.Н.Еськов, Ю.П.Ларионов, В.А.Новиков и др. Под ред. Д.Н.Еськова, В.А.Новикова. - Л.: Машиностроение, 1988, стр.98] или устройство перемещения самой фотоприемной матрицы [Ушольд А. Системы стабилизации изображения. Foto & Video, №7, 2007].The image stabilization method is known and widely used, which uses the indirect method to obtain information about the relative motion of the image and the matrix photodetector: the relative motion is estimated by the proper motion of the whole camera (video camera), for which two acceleration sensors or gyro sensors are used [Automatic optical image stabilization / D .N. Eskov, Yu.P. Larionov, V.A. Novikov et al. Ed. D.N. Eskova, V.A. Novikova. - L.: Engineering, 1988, p. 36]. As the actuator in this method, an electromechanical device for moving lens elements is used [Automatic stabilization of the optical image / D.N. Eskov, Yu.P. Larionov, V.A. Novikov, etc. Ed. D.N. Eskova, V.A. Novikova. - L .: Engineering, 1988, p. 98] or a device for moving the photodetector itself [Ushold A. Image stabilization systems. Foto & Video, No. 7, 2007].

Выбор между перемещением элементов объектива или матрицы в данном способе (см. Фиг.1) осуществляется исходя из конструктивных требований к массе перемещаемых элементов и качеству изображения, но при обоих вариантах способа в силу использования косвенного метода оценки относительного смещения известный способ позволяет компенсировать лишь медленные движения цифрового фотоаппарата или телекамеры в небольших пределах, что не позволяет компенсировать быстрые движения цифрового фотоаппарата или телекамеры с ускорениями, имеющими место при установке аппаратуры на подвижные носители или иные вибрирующие основания.The choice between the movement of the lens or matrix elements in this method (see Figure 1) is based on the design requirements for the mass of the elements to be moved and the image quality, but with both versions of the method, due to the use of the indirect method of estimating the relative displacement, the known method only allows to compensate for slow movements the digital camera or camera within small limits, which does not allow you to compensate for the fast movements of the digital camera or camera with accelerations taking place When installing the equipment on the mobile carriers or other vibrating base.

Известен и широко применяется способ стабилизации изображений, заключающийся в смещении небольшой «области интереса» («окна интереса») из большого матричного фотоприемника [напр., A CMOS image sensor with high-speed readout of multiple regions-of-interest for an opto-navigation system (Proceedings Paper)/Koji Yamamoto; Yuki Maeda; Yasuo Masaki et all. // Proc. SPIE, vol.5677, pp.90-97, 2005]. Управление положением считываемого окна осуществляется автокорреляционным методом по сигналам предыдущего телевизионного кадра (см. Фиг.2). Возможна модификация способа путем формирования управляющих сигналов не по сигналу предыдущего кадра, а по сигналам датчиков ускорения (недостатки такого косвенного метода оценки смещения рассмотрены при анализе способа по Фиг.1) Достоинствами этого способа стабилизации являются прямой метод оценки смещения и отсутствие механически перемещаемых элементов. Основным недостатком этого способа является неизбежная задержка на время считывания кадра в процессе измерения смещения изображения текущего кадра относительно предыдущего. Такая большая задержка ведет к неизбежному ограничению диапазона компенсируемых механических возмущений из-за смаза изображения. Этот способ может найти ограниченное применение в системах с низкими требованиями к качеству изображения и работающих при достаточно больших освещенностях, когда время экспозиции много меньше времени кадра (например, в цифровых фотоаппаратах, встроенных в мобильные телефоны A method of image stabilization is known and widely used, which consists in shifting a small “region of interest” (“window of interest”) from a large array photodetector [eg, A CMOS image sensor with high-speed readout of multiple regions-of-interest for an opto- navigation system (Proceedings Paper) / Koji Yamamoto; Yuki Maeda; Yasuo Masaki et all. // Proc. SPIE, vol. 5677, pp. 90-97, 2005]. The position of the read window is controlled by the autocorrelation method according to the signals of the previous television frame (see Figure 2). It is possible to modify the method by generating control signals not by the signal of the previous frame, but by the signals of acceleration sensors (the disadvantages of this indirect method of estimating the displacement are considered in the analysis of the method of Fig. 1). The advantages of this stabilization method are the direct method of estimating the displacement and the absence of mechanically moving elements. The main disadvantage of this method is the inevitable delay for the reading time of the frame in the process of measuring the image offset of the current frame relative to the previous one. Such a large delay leads to the inevitable limitation of the range of compensated mechanical disturbances due to image blur. This method can be of limited use in systems with low requirements for image quality and operating at sufficiently high illumination, when the exposure time is much shorter than the frame time (for example, in digital cameras built into mobile phones

[www.3dnews.ru/news/micron_predstavila_3_mp_sensor_s_sistemoi_stabilizatsii].[www.3dnews.ru/news/micron_predstavila_3_mp_sensor_s_sistemoi_stabilizatsii].

Наиболее близким к заявляемому по своей технической сути является способ стабилизации изображения, в котором используется прямой метод измерения смещения, и с целью уменьшения задержек на формирование сигнала смещения измерение производят не по сигналу кадра основной фотоприемной матрицы, а по сигналу дополнительного фотоприемника [Автоматическая стабилизация оптического изображения / Д.Н.Еськов, Ю.П.Ларионов, В.А.Новиков и др. Под ред. Д.Н.Еськова, В.А.Новикова. - Л.: Машиностроение, 1988, стр.37]. При этом для оценки смещения изображения используется одноэлементный фотоприемник, так же как и основная фотоприемная матрица, расположенный в фокальной плоскости объектива, сигналы с которого обрабатываются автокорреляционным методом [Автоматическая стабилизация оптического изображения / Д.Н.Еськов, Ю.П.Ларионов, В.А.Новиков и др. Под ред. Д.Н.Еськова, В.А.Новикова. - Л.: Машиностроение, 1988, стр.124].Closest to the claimed in its technical essence is a method of image stabilization, which uses the direct method of measuring the bias, and in order to reduce delays in the formation of the bias signal, the measurement is performed not by the signal of the main photodetector matrix, but by the signal of the additional photodetector [Automatic optical image stabilization / D.N. Eskov, Yu.P. Larionov, V.A. Novikov et al. Ed. D.N. Eskova, V.A. Novikova. - L.: Engineering, 1988, p. 37]. Moreover, to assess the image displacement, a single-element photodetector is used, as well as the main photodetector located in the focal plane of the lens, the signals from which are processed by the autocorrelation method [Automatic stabilization of the optical image / D.N. Eskov, Yu.P. Larionov, V. A. Novikov et al. Ed. D.N. Eskova, V.A. Novikova. - L .: Mechanical Engineering, 1988, p. 124].

Основным недостатком последнего упомянутого способа является возможность измерения смещения лишь при поступательном движении изображения относительно фотоприемника, так как при вибрации (возвратно-поступательном движении) на одноэлементный фотоприемник может проецироваться участок кадра с постоянной освещенностью. Этот способ может найти ограниченное применение в видеоинформационных системах с достаточно равномерным движением основания (например, в некоторых авиакосмических системах мониторинга [Бузников А.А., Купянский А.В. Динамическое совмещение полутоновых аэрокосмических и графических изображений. Изв. Вузов, сер. «Геодезия и аэрофотосъемка», 1993, №3, с.102-107]).The main disadvantage of the last mentioned method is the ability to measure the displacement only with the translational motion of the image relative to the photodetector, since with vibration (reciprocating motion) a portion of the frame with constant illumination can be projected onto a single-element photodetector. This method can be of limited use in video information systems with a fairly uniform movement of the base (for example, in some aerospace monitoring systems [Buznikov AA, Kupyansky AV Dynamic combination of halftone aerospace and graphic images. Izv. Vuzov, ser. “Geodesy and aerial photography ", 1993, No. 3, p.102-107]).

В результате, так же как во всех рассмотренных выше способах, использующих как косвенное, так и прямое измерение смещения изображения, при использовании способа по Фиг.3 не удается компенсировать быстрые неравномерные движения цифрового фотоаппарата или телекамеры с ускорениями, имеющими место при установке аппаратуры на подвижные носители или иные вибрирующие основания.As a result, just as in all the methods discussed above, using both indirect and direct measurement of image displacement, when using the method of Fig. 3, it is not possible to compensate for the rapid irregular movements of a digital camera or camera with accelerations that occur when the equipment is mounted on mobile carriers or other vibrating bases.

Проведенный анализ показывает, что для достижения высокой чувствительности к смещению изображения и для обеспечения широкого диапазона компенсируемых смещений и ускорений смещения целесообразно применить новый способ, который должен использовать прямой метод измерения смещения и, так же как и в способе-прототипе (фиг.3), должен разделить процессы формирования основного сигнала изображения и вспомогательных сигналов измерения смещения.The analysis shows that in order to achieve high sensitivity to image displacement and to provide a wide range of compensated displacements and displacement accelerations, it is advisable to apply a new method, which should use a direct method of measuring displacement and, like in the prototype method (Fig. 3), should separate the processes of the formation of the main image signal and auxiliary signals of displacement measurement.

Техническим результатом заявляемого способа является пространственное разделение формирователей сигналов основного изображения и сигналов смещения изображения с тем, чтобы в ходе прямого измерения смещения, вызываемого вибрацией системы, для расширения диапазона ускорений компенсируемых возмущений одновременно повысить и скорость, и точность формирования оценок смещения изображения по двум взаимно перпендикулярным направлениям.The technical result of the proposed method is the spatial separation of the imaging signals of the main image and the image bias signals so that during direct measurement of the bias caused by the vibration of the system, to expand the range of accelerations of compensated disturbances, both the speed and the accuracy of generating estimates of the image bias from two mutually perpendiculars directions.

Это достигается тем, что способ стабилизации изображения, включающий операции измерения смещения изображения, формирования сигналов управления и механического перемещения фотоприемной матрицы или элементов объектива по двум взаимно перпендикулярным направлениям в фокальной плоскости изображения, отличается тем, что по предлагаемому способу на одном кристалле вместе с основной фотоприемной матрицей размещают два дополнительных линейных фотоприемных прибора существенно меньшей площади, выполненных в виде строки (столбца), считывают сигнал с дополнительных двух линейных фоточувствительных приборов с частотой строк выше кадровой частоты основной фотоприемной матрицы (на два порядка и более), при этом размер пиксела вдоль линейного фотоприемника выбирают в несколько раз меньше размера пиксела основной матрицы, при этом для сохранения равенства чувствительности основной матрицы и дополнительных линейных фотоприемников в последних размер пиксела в направлении поперек направления считывания пропорционально увеличивают, далее снимают три потока видеоинформации - один основной и два вспомогательных, по которым вычисляют смещение кристалла относительно формируемого объективом изображения по двум взаимно перпендикулярным осям.This is achieved by the fact that the image stabilization method, including the operations of measuring image displacement, generating control signals and mechanical movement of the photodetector or lens elements in two mutually perpendicular directions in the focal plane of the image, is characterized in that, according to the proposed method, together with the main photodetector on the same chip two additional linear photodetector devices of a substantially smaller area, made in the form of a row (column), are placed by a matrix, I read the signal from two additional linear photosensitive devices with a line frequency higher than the frame frequency of the main photodetector (two orders of magnitude or more), while the pixel size along the linear photodetector is selected several times smaller than the pixel size of the main matrix, while maintaining the sensitivity of the main matrix and additional linear photodetectors in the latter, the pixel size in the direction transverse to the reading direction is proportionally increased, then three streams of video information are removed - about the main and two auxiliary ones, by which the crystal displacement relative to the image formed by the lens along two mutually perpendicular axes is calculated.

Другой вариант способа отличается тем, что по предлагаемому способу на фотоприемной матрице формируют один основной фрагмент большой площади и два дополнительных фрагмента малой площади, вытянутых вдоль двух граней основного фрагмента, считывают сигнал с дополнительных двух фрагментов с частотой во много раз большей кадровой частоты основного фрагмента и суммируют сигналы вдоль короткой стороны каждого дополнительного фрагмента, при этом для сохранения равенства чувствительности основного фрагмента и дополнительных фрагментов в последних размер фрагмента вдоль короткой стороны каждого дополнительного фрагмента увеличивают пропорционально увеличению частоты считывания, далее снимают три потока видеоинформации - один основной и два вспомогательных, по которым вычисляют смещение фотоприемной матрицы относительно формируемого объективом изображения.Another variant of the method is characterized in that according to the proposed method, one main fragment of a large area and two additional fragments of a small area elongated along two faces of the main fragment are formed on the photodetector matrix, the signal is read from two additional fragments with a frequency many times higher than the frame frequency of the main fragment and sum the signals along the short side of each additional fragment, while maintaining the sensitivity of the main fragment and the additional fragments in n Latter fragment size along the short side of each additional portion increases proportionally to the frequency readout, then takes three video stream - one primary and two secondary, of which the calculated relative offset photodetector array formed image lens.

Представленные чертежи поясняют суть предлагаемого технического решения.The presented drawings explain the essence of the proposed technical solution.

На фиг.1 изображена структурная схема стабилизации изображения относительно фотоприемника с датчиками ускорения и управлением смещением изображения за счет изменения положения фотоприемной матрицы или элементов объектива (аналог).Figure 1 shows a structural diagram of image stabilization relative to a photodetector with acceleration sensors and image displacement control by changing the position of the photodetector or lens elements (analog).

На фиг.2 представлена структурная схема стабилизации изображения относительно фотоприемника со считыванием фрагмента изображения, положение которого определяется автоколлиматорным методом по сигналу предыдущего кадра (аналог).Figure 2 presents the structural diagram of image stabilization relative to the photodetector with the reading of the image fragment, the position of which is determined by the autocollimator method according to the signal of the previous frame (analog).

На фиг.3 изображена структурная схема стабилизации изображения относительно фотоприемника с измерителем относительного смещения фотоприемника и изображения с помощью дополнительного одноэлементного фотоприемника (прототип).Figure 3 shows a structural diagram of image stabilization relative to a photodetector with a relative displacement meter of the photodetector and image using an additional single-element photodetector (prototype).

На фиг.4 - пример реализации заявляемого способа - структурная схема (Фиг.4a) системы стабилизации изображения с пространственным разделением считывания основного изображения с основного матричного фотоприемника и двух линейных фотоприемников, формирующих с высокой частотой проекции на вертикальную и горизонтальную оси с двух участков фотоприемного модуля, прилегающих к матричному фотоприемнику, и примерное соотношение размеров пикселов основного матричного фотоприемника и дополнительных линейных фотоприемников (Фиг.4б).Figure 4 is an example of the implementation of the proposed method is a structural diagram (Figure 4a) of an image stabilization system with a spatial separation of the reading of the main image from the main matrix photodetector and two linear photodetectors, forming with high frequency projection on the vertical and horizontal axis from two sections of the photodetector module adjacent to the matrix photodetector, and an approximate ratio of pixel sizes of the main matrix photodetector and additional linear photodetectors (Fig.4b).

Предлагаемый способ может быть реализован следующим образом. Система стабилизации изображения должна содержать фотоприемный модуль 10, включающий матричный фотоприемник 11, вплотную к которому вдоль двух его взаимно перпендикулярных граней располагаются два линейных фотоприемника 12 и 13. На фотоприемный модуль 10 проецируется изображение с помощью объектива 20. Выход подвижного элемента 30 соединен с фотоприемным модулем 10 или с элементом (элементами) объектива 20, вход подвижного элемента 30 соединен с выходом блока управления 40, вход которого подключен к выходу блока измерения смещения изображения 50, первый и второй входы последнего подключены соответственно к выходам линейных фотоприемников 12 и 13.The proposed method can be implemented as follows. The image stabilization system should include a photodetector module 10, including an array photodetector 11, adjacent to which two linear photodetectors 12 and 13 are located along its mutually perpendicular faces. An image is projected onto the photodetector module 10 using a lens 20. The output of the movable element 30 is connected to the photodetector module 10 or with the element (s) of the lens 20, the input of the movable element 30 is connected to the output of the control unit 40, the input of which is connected to the output of the image displacement measurement unit 50, the first and second inputs of the latter are connected respectively to the outputs of the linear photodetectors 12 and 13.

Линейные фотоприемники 12 и 13 формируют с высокой частотой проекции изображения на вертикальную и горизонтальную оси с двух участков фотоприемного модуля 10, прилегающих к матричному фотоприемнику 11. В результате фотоприемный модуль 10 постоянно (без разделения во времени) формирует сигналы на трех независимых выходах. На первом выходе формируется сигнал основного изображения, на двух других - сигналы проекций его приграничных областей на две оси без задержки на время кадра основной фотоприемной матрицы. Смещение изображения, так же как и в способе-прототипе (Фиг.3), оценивается по смещению сигнала за некоторое время. Отличием сигналов линейных фотоприемников в предлагаемом способе относительно прототипа является использование двух фотоприемников с большим числом элементарных фотоприемников, что обеспечивает достоверную оценку смещения изображения и требует при использовании автокорреляционного метода использования задержки не на произвольное время, а на время считывания одной строки линейного фотоприемника.Linear photodetectors 12 and 13 form with a high frequency of projection of the image on the vertical and horizontal axes from two sections of the photodetector module 10 adjacent to the matrix photodetector 11. As a result, the photodetector module 10 constantly (without time division) generates signals at three independent outputs. At the first output, a signal of the main image is formed, on the other two signals of projections of its border regions on two axes without delay for the frame time of the main photodetector matrix. The image offset, as well as in the prototype method (Figure 3), is estimated by the signal offset for some time. The difference between the linear photodetector signals in the proposed method relative to the prototype is the use of two photodetectors with a large number of elementary photodetectors, which provides a reliable estimate of the image offset and requires using the autocorrelation method to use the delay not for an arbitrary time, but for the time of reading one line of a linear photodetector.

Заявляемый способ прошел апробацию на модели и показал возможность расширения диапазона компенсируемых ускорений на два порядка и более для широкого класса изображений, не содержащих на своей периферии полей с постоянной интенсивностью и размерами, большими стороны фотоприемной матрицы. В современных матричных фотоприемниках с общим числом несколько мегапикселов число элементов в строке (столбце) более чем в тысячу раз меньше общего числа пикселов. Это означает, что при фиксированной частоте считывания время считывания дополнительной измерительной строки может быть сделано более чем в тысячу раз меньше времени считывания кадра основной фотоприемной матрицы. Даже уменьшение в несколько раз размера пиксела вдоль строки линейного фотоприемника (с соответствующим увеличением числа пикселов по сравнению с гранями матричного фотоприемника) позволяет реализовать на два порядка более высокие частоты считывания по сравнению с кадровой частотой матричного фотоприемника.The inventive method was tested on the model and showed the possibility of expanding the range of compensated accelerations by two orders of magnitude or more for a wide class of images that do not contain fields on their periphery with constant intensity and size, large sides of the photodetector matrix. In modern matrix photodetectors with a total number of several megapixels, the number of elements in a row (column) is more than a thousand times less than the total number of pixels. This means that at a fixed reading frequency, the reading time of the additional measuring line can be made more than a thousand times less than the reading time of the frame of the main photodetector. Even a several-fold reduction in the pixel size along the line of the linear photodetector (with a corresponding increase in the number of pixels compared to the faces of the matrix photodetector) allows for two orders of magnitude higher read frequencies compared to the frame frequency of the matrix photodetector.

В частности, был проанализирован второй вариант реализации способа, при котором размер элемента дополнительных линейных фотоприемников в направлении, перпендикулярном считыванию, равен размеру элемента основной фотоприемной матрицы, реализуется формированием одного основного фрагмента 111 большой площади и двух дополнительных фрагментов малой площади 112 и 113, вытянутых вдоль двух граней основного фрагмента. Этот вариант за счет увеличения частоты считывания дополнительных фрагментов по сравнению с частотой считывания основного фрагмента позволяет на порядок и более (а не два и более порядка, как в основном варианте способа) расширить диапазон ускорений компенсируемых возмущений. Хотя этот вариант реализации способа без уменьшения размера элемента линейных фотоприемников поперек направления считывания не полностью реализует возможности способа, его достоинством является простота реализации при использовании массово выпускаемых КМОП фотоприемных матриц с возможностью считывания сигналов с нескольких «фрагментов интереса» с разными частотами. Ограниченные возможности такой реализации предлагаемого способа связаны, в частности, с тем, что увеличение площади «фрагмента интереса», соответствующего дополнительному линейному фотоприемнику, требуемое для обеспечения равенства чувствительности линейного и матричного фотоприемников, ведет к увеличению числа считываемых пикселов исходной матрицы и, как следствие, уменьшает возможную частоту считывания измерительного фрагмента.In particular, a second embodiment of the method was analyzed, in which the element size of the additional linear photodetectors in the direction perpendicular to reading is equal to the size of the element of the main photodetector, is realized by the formation of one main fragment 111 of a large area and two additional fragments of a small area 112 and 113, elongated along two faces of the main fragment. This option, due to an increase in the reading frequency of additional fragments in comparison with the reading frequency of the main fragment, allows expanding the range of accelerations of compensated disturbances by an order of magnitude or more (and not two or more orders of magnitude, as in the main variant of the method). Although this embodiment of the method without reducing the size of the element of linear photodetectors across the direction of reading does not fully realize the capabilities of the method, its advantage is the simplicity of using mass-produced CMOS photodetector arrays with the ability to read signals from several "fragments of interest" with different frequencies. The limited possibilities of such an implementation of the proposed method are associated, in particular, with the fact that the increase in the area of the “fragment of interest” corresponding to the additional linear photodetector required to ensure equal sensitivity of the linear and matrix photodetectors leads to an increase in the number of read pixels in the original matrix and, as a result, reduces the possible reading frequency of the measuring fragment.

Эффективность измерения смещения изображения по смещению его проекций на вертикальную и горизонтальную оси для широкого класса изображений проверена экспериментально, и показано, что точность измерения по сравнению с измерением по всему кадру основного матричного фотоприемника почти не снижается, оставаясь на достаточно высоком уровне - до сотых долей пиксела [Твердотельная революция в телевидении / Березин В.В., Умбиталиев А.А., Фахми Ш.С., Цыцулин А.К., Шипилов Н.Н. - М.: Радио и связь, 2006, стр.146].The efficiency of measuring the image displacement by the displacement of its projections on the vertical and horizontal axes for a wide class of images has been experimentally verified, and it is shown that the measurement accuracy is almost not reduced compared to the measurement over the entire frame of the main photodetector, remaining at a fairly high level - to hundredths of a pixel [Solid state revolution in television / Berezin V.V., Umbitaliev A.A., Fakhmi Sh.S., Tsytsulin A.K., Shipilov N.N. - M .: Radio and communication, 2006, p.146].

Особенностями реализации предлагаемого способа являются:Features of the implementation of the proposed method are:

- возможность заметного повышения точности измерения смещения изображения и его стабилизации благодаря использованию меньшего размера накапливающего элемента вдоль строки Δл→ по отношению к размеру накапливающего элемента матричного фотоприемника Δм;- the possibility of a marked increase in the accuracy of measuring the image displacement and its stabilization by using a smaller size of the storage element along the line Δ l → with respect to the size of the storage element of the matrix photodetector Δ m ;

- возможность заметного расширения диапазона компенсируемых смещений и ускорений смещения благодаря возможности существенного (на два и более порядка) повышения частоты считывания Fл сигналов введенных дополнительных линейных фотоприемников по сравнению с кадровой частотой Fм основного матричного фотоприемника;- the possibility of a noticeable expansion of the range of compensated biases and bias accelerations due to the possibility of a significant (two or more orders of magnitude) increase in the reading frequency F l of the signals of the added additional linear photodetectors in comparison with the frame frequency F m of the main matrix photodetector;

- целесообразность увеличения площади каждого накопительного элемента в дополнительных линейных фотоприемниках для обеспечения равенства их светочувствительности и светочувствительности основного матричного фотоприемника; такое увеличение площади производится за счет увеличения размера накопительного элемента в поперечном направлении Δл↑, как это реализуется в линейных фотоприемниках на приборах с зарядовой связью, предназначенных для спектрального анализа излучения; при этом соотношение длины и ширины накопительного элемента определяется произведением отношения частот считывания и размеров элемента дополнительных линейных фотоприемников и основного матричного фотоприемника Δл↑л→=FлΔм/FмΔл→;- the feasibility of increasing the area of each storage element in additional linear photodetectors to ensure equality of their photosensitivity and photosensitivity of the main matrix photodetector; such an increase in area is due to an increase in the size of the storage element in the transverse direction Δ l ↑ , as is realized in linear photodetectors on charge-coupled devices intended for spectral analysis of radiation; the ratio of the length and width of the storage element is determined by the product of the ratio of the read frequencies and the element size of the additional linear photodetectors and the main matrix photodetector Δ l ↑ / Δ l → = F l Δ m / F m Δ l → ;

- целесообразность реализации фотоприемного модуля как СБИС класса «видеосистема на кристалле» с предельно малыми зазорами между линейными фотоприемниками и матричным фотоприемником; попытка реализовать предложенный способ с помощью раздельных (корпусированных) СБИС матричного фотоприемника и двух линейных фотопниемников наталкивается на трудности формирования больших полей изображения и заметное уменьшение использования света в формируемом объективом изображении.- the feasibility of implementing a photodetector module as a VLSI of the class "video system on a chip" with extremely small gaps between linear photodetectors and a matrix photodetector; An attempt to implement the proposed method using separate (enclosed) VLSI matrix photodetectors and two linear photo-receivers encounters difficulties in forming large image fields and a noticeable decrease in the use of light in the image formed by the lens.

Claims (2)

1. Способ стабилизации изображения, включающий операции измерения смещения изображения, формирования сигналов управления и механического перемещения элементов объектива или фотоприемной матрицы по двум взаимно перпендикулярным направлениям в фокальной плоскости изображения, отличающийся тем, что по предлагаемому способу на одном кристалле вместе с основной фотоприемной матрицей размещают два дополнительных линейных фотоприемника существенно меньшей площади, выполненных в виде строки (столбца), считывают сигнал с дополнительных двух линейных фоточувствительных приборов с частотой строк во много раз большей кадровой частоты основной фотоприемной матрицы, при этом размер пиксела вдоль линейного фотоприемника выбирают в несколько раз меньше размера пиксела основной матрицы, при этом для сохранения равенства чувствительности основной матрицы и дополнительных линейных фотоприемников в последних размер пиксела в направлении поперек считывания увеличивают пропорционально уменьшению продольного размера и времени считывания, далее снимают три потока видеоинформации: один основной и два вспомогательных, по которым вычисляют смещение кристалла относительно формируемого объективом изображения.1. The method of image stabilization, including the operation of measuring image displacement, generating control signals and mechanical movement of the lens elements or photodetector in two mutually perpendicular directions in the focal plane of the image, characterized in that according to the proposed method, two crystals are placed on the same crystal together with the main photodetector matrix additional linear photodetector substantially smaller area, made in the form of a row (column), read the signal from the additional two linear photosensitive devices with a line frequency many times higher than the frame frequency of the main photodetector, while the pixel size along the linear photodetector is selected several times smaller than the pixel size of the main matrix, while maintaining the sensitivity of the main matrix and additional linear photodetectors in the last pixel size in the direction across the reading is increased in proportion to a decrease in the longitudinal size and reading time, then three streams of video information are removed ii: one main and two secondary, which is calculated with respect to the displacement of the crystal of the formed image lens. 2. Способ стабилизации изображения, включающий операции измерения смещения изображения, формирования сигналов управления и механического перемещения элементов объектива или фотоприемной матрицы по двум взаимно перпендикулярным направлениям в фокальной плоскости изображения, отличающийся тем, что по предлагаемому способу на фотоприемной матрице формируют один основной фрагмент большой площади и два дополнительных фрагмента малой площади, вытянутых вдоль двух граней основного фрагмента, считывают сигнал с дополнительных двух фрагментов с частотой во много раз большей кадровой частоты основного фрагмента и суммируют сигналы вдоль короткой стороны каждого дополнительного фрагмента, при этом для сохранения равенства чувствительности основного фрагмента и дополнительных фрагментов в последних размер фрагмента вдоль короткой стороны каждого дополнительного фрагмента увеличивают пропорционально увеличению частоты считывания, далее снимают три потока видеоинформации: один основной и два вспомогательных, по которым вычисляют смещение фотоприемной матрицы относительно формируемого объективом изображения. 2. A method of image stabilization, including the operation of measuring image displacement, generating control signals and mechanically moving lens elements or a photodetector in two mutually perpendicular directions in the focal plane of the image, characterized in that according to the proposed method, one main fragment of a large area is formed on the photodetector matrix and two additional fragments of a small area, elongated along two faces of the main fragment, read the signal from the additional two fragments nts with a frequency many times higher than the frame frequency of the main fragment and summarize the signals along the short side of each additional fragment, while maintaining the sensitivity of the main fragment and additional fragments in the latter, the size of the fragment along the short side of each additional fragment is increased in proportion to the increase in the reading frequency, then removed three streams of video information: one main and two auxiliary, by which the offset of the photodetector matrix relative to tionary formed image lens.
RU2008133247/09A 2008-08-12 2008-08-12 Image stabilisation method (versions) RU2384967C1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
RU2008133247/09A RU2384967C1 (en) 2008-08-12 2008-08-12 Image stabilisation method (versions)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
RU2008133247/09A RU2384967C1 (en) 2008-08-12 2008-08-12 Image stabilisation method (versions)

Publications (1)

Publication Number Publication Date
RU2384967C1 true RU2384967C1 (en) 2010-03-20

Family

ID=42137531

Family Applications (1)

Application Number Title Priority Date Filing Date
RU2008133247/09A RU2384967C1 (en) 2008-08-12 2008-08-12 Image stabilisation method (versions)

Country Status (1)

Country Link
RU (1) RU2384967C1 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2323376A1 (en) * 2009-11-11 2011-05-18 Omnivision Technologies, Inc. Image sensor with shaking compensation
RU2486688C1 (en) * 2012-01-10 2013-06-27 Александр Константинович Цыцулин Video system on chip for image stabilisation
RU2517347C1 (en) * 2012-12-07 2014-05-27 Федеральное государственное бюджетное образовательное учреждение высшего профессионального образования "Санкт-Петербургский государственный электротехнический университет "ЛЭТИ" им. В.И. Ульянова (Ленина)" Image stabilisation device
RU2591845C2 (en) * 2013-08-07 2016-07-20 Кэнон Кабусики Кайся Image stabilisation apparatus, control method therefor, data medium storing control program therefor, as well as image capturing device equipped with image stabilisation device
RU2716208C1 (en) * 2019-05-07 2020-03-10 Федеральное государственное бюджетное учреждение науки Институт физиологии им. И.П. Павлова Российской академии наук (ИФ РАН) Image stabilization device
RU2758460C1 (en) * 2018-03-23 2021-10-28 Хуавей Текнолоджиз Ко., Лтд. Terminal apparatus and method for video image stabilisation

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2323376A1 (en) * 2009-11-11 2011-05-18 Omnivision Technologies, Inc. Image sensor with shaking compensation
RU2486688C1 (en) * 2012-01-10 2013-06-27 Александр Константинович Цыцулин Video system on chip for image stabilisation
RU2517347C1 (en) * 2012-12-07 2014-05-27 Федеральное государственное бюджетное образовательное учреждение высшего профессионального образования "Санкт-Петербургский государственный электротехнический университет "ЛЭТИ" им. В.И. Ульянова (Ленина)" Image stabilisation device
RU2591845C2 (en) * 2013-08-07 2016-07-20 Кэнон Кабусики Кайся Image stabilisation apparatus, control method therefor, data medium storing control program therefor, as well as image capturing device equipped with image stabilisation device
RU2758460C1 (en) * 2018-03-23 2021-10-28 Хуавей Текнолоджиз Ко., Лтд. Terminal apparatus and method for video image stabilisation
US11539887B2 (en) 2018-03-23 2022-12-27 Huawei Technologies Co., Ltd. Video image anti-shake method and terminal
RU2716208C1 (en) * 2019-05-07 2020-03-10 Федеральное государственное бюджетное учреждение науки Институт физиологии им. И.П. Павлова Российской академии наук (ИФ РАН) Image stabilization device

Similar Documents

Publication Publication Date Title
RU2384967C1 (en) Image stabilisation method (versions)
US10070078B2 (en) Solid-state image sensor with pixels having in-pixel memories, motion information acquisition apparatus, and imaging apparatus
US7952612B2 (en) Method and system for image construction using multiple exposures
US6108032A (en) System and method for image motion compensation of a CCD image sensor
US10270990B2 (en) Imaging element, imaging apparatus, and imaging signal processing method
US20140313373A1 (en) Imaging apparatus and its control method and program
JP2007142929A (en) Image processing apparatus and camera system
JP2013546249A (en) Imaging system and imaging method using multi-aperture camera
JP2005106994A (en) Focal point detecting device, imaging device, and method for controlling them
JP2007116679A (en) Imaging device with blur reduction system
CN102647556A (en) Quick reflector image stabilization system and method based on relevant detection of image
JP6271842B2 (en) Ranging device, ranging method, and imaging device
JP2000032354A (en) Image pickup device
JP2018019296A (en) Imaging apparatus and control method therefor
US7705910B2 (en) Photographic device for obtaining a plurality of images at a time by rolling shutter method
JP2009135713A (en) Method and device for correcting image distortion generated by blurring of imaging apparatus
US9111484B2 (en) Electronic device for scene evaluation and image projection onto non-planar screens
US20090190006A1 (en) Methods, systems and apparatuses for pixel signal correction using elliptical hyperbolic cosines
JP2019197985A (en) Imaging device, and imaging device control method
JP2017216649A (en) Imaging device, imaging apparatus and imaging signal processing method
KR20200098790A (en) Image sensor and electronic device including the same
CN113728613B (en) Imaging element, imaging device, method for operating imaging element, and program
JPWO2006043315A1 (en) IMAGING DEVICE AND PORTABLE DEVICE HAVING IMAGING DEVICE
JPH0377483A (en) Picture blur preventing camera
US20230209194A1 (en) Imaging apparatus, driving method, and imaging program

Legal Events

Date Code Title Description
PC43 Official registration of the transfer of the exclusive right without contract for inventions

Effective date: 20120807