JP2022097021A - Imaging device and imaging processing method - Google Patents

Imaging device and imaging processing method Download PDF

Info

Publication number
JP2022097021A
JP2022097021A JP2020210364A JP2020210364A JP2022097021A JP 2022097021 A JP2022097021 A JP 2022097021A JP 2020210364 A JP2020210364 A JP 2020210364A JP 2020210364 A JP2020210364 A JP 2020210364A JP 2022097021 A JP2022097021 A JP 2022097021A
Authority
JP
Japan
Prior art keywords
information
image pickup
magnification
unit
distribution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020210364A
Other languages
Japanese (ja)
Inventor
恵児 西巻
Keiji Nishimaki
義弘 松永
Yoshihiro Matsunaga
康生 藤原
Yasuo Fujiwara
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JVCKenwood Corp
Original Assignee
JVCKenwood Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JVCKenwood Corp filed Critical JVCKenwood Corp
Priority to JP2020210364A priority Critical patent/JP2022097021A/en
Publication of JP2022097021A publication Critical patent/JP2022097021A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

To provide an imaging device and an imaging processing method capable of generating display image information for appropriately displaying horizontally long imaging information on a vertically long display device.SOLUTION: An imaging device includes an imaging unit configured to change the shooting magnification, and a distribution information generation unit. In a case in which partial imaging information cut out from each frame shot and acquired at the first shooting magnification by the imaging unit in a preset first cutout range is enlarged at the first magnification to generate the distribution image information, when the shooting magnification changes to the second shooting magnification which is lower than the first shooting magnification, the distribution information generation unit generates partial imaging information of a second cutout range which is smaller than the size of the first cutout range from each acquired frame, and enlarges the partial imaging information in the second cutout range at the second magnification higher than the first magnification, and switches to generate the distribution image information.SELECTED DRAWING: Figure 1

Description

本発明は、撮像装置および撮像処理方法に関する。 The present invention relates to an image pickup apparatus and an image pickup processing method.

従来、広く普及しているハイビジョン対応の撮像装置は、処理対象の撮像情報の画面のアスペクト比(横方向サイズ:縦方向サイズ)が16:9のものが主流となっている。この撮像装置は、アスペクト比が16:9の横長の画面を有する装置、例えばパーソナルコンピュータや家庭用TV装置などと親和性が高く、当該撮像装置で撮影された撮像情報をこれらの装置の画面に効率良く表示させることができる。 Conventionally, the mainstream of high-definition image pickup devices that are widely used are those having an aspect ratio (horizontal size: vertical size) of 16: 9 on the screen of the image pickup information to be processed. This image pickup device has a high affinity with a device having a horizontally long screen with an aspect ratio of 16: 9, such as a personal computer or a home TV device, and the image pickup information captured by the image pickup device is displayed on the screen of these devices. It can be displayed efficiently.

一方で、近年急速に普及したスマートフォンにおいても、SNS(social networking service)などを用いてストリーム配信された撮像情報を視認する機会が増えている。スマートフォンは、表示画面が縦長の状態、つまり横方向サイズ:縦方向サイズが9:16の状態で使用されることが多い。そのため、上述したような撮像装置で撮影された撮像情報をスマートフォンで視認しようとすると、縦長の表示画面の一部、例えば中央部に横長の撮像情報が表示され、画面上部や下部に余白や黒帯部分が生じる。画面内に余白や黒帯部分が生じると、その分撮像情報の表示サイズが小さくなり、スマートフォンのユーザにとって視認しづらくなるという問題があった。 On the other hand, even in smartphones that have rapidly become widespread in recent years, there are increasing opportunities to visually recognize image information streamed using SNS (social networking service) or the like. Smartphones are often used when the display screen is vertically long, that is, the horizontal size: vertical size is 9:16. Therefore, when trying to visually recognize the image pickup information taken by the image pickup device as described above with a smartphone, the horizontally long image pickup information is displayed in a part of the vertically long display screen, for example, the central part, and the margins and blacks are displayed in the upper and lower parts of the screen. A band part is generated. When a margin or a black band portion is generated in the screen, the display size of the image pickup information becomes smaller by that amount, and there is a problem that it becomes difficult for the smartphone user to visually recognize the image.

このような技術的課題に対して、特許文献1には、撮影された撮像情報のズーム映像をストリーミング配信する映像配信装置において、撮像情報のフレームから抽出した重要領域を配信アスペクト比の最小サイズまで拡張するようにズーム条件を決定し、決定したズーム条件に基づいて切り出されたズーム映像を配信する技術が開示されている。 In response to such technical problems, Patent Document 1 describes an important region extracted from an image pickup information frame to the minimum size of the distribution aspect ratio in a video distribution device for streaming distribution of a zoomed image of captured image information. A technique is disclosed in which a zoom condition is determined so as to be expanded and a zoom image cut out based on the determined zoom condition is distributed.

特許第5594842号公報Japanese Patent No. 5594842

しかしながら、撮像装置で撮影された動画情報を配信している際に、撮影装置の光学ズームをWIDE側へ変更すると、配信されている配信用画像情報の画角が広がるため、配信用画像情報における被写体のサイズが相対的に小さくなってしまう。つまり、撮影者の意図しない映像位置で被写体の画像が配信されてしまう不都合があった。 However, if the optical zoom of the imaging device is changed to the WIDE side while the moving image information captured by the image pickup device is being distributed, the angle of view of the distributed image information for distribution is widened. The size of the subject becomes relatively small. That is, there is an inconvenience that the image of the subject is delivered at a video position not intended by the photographer.

本発明は、こうした状況に鑑みてなされたものであり、その目的は、撮影用の画角が光学ズームで変更になっても、設定していた元の配信用画角のまま配信を継続させるための表示用画像情報を生成することが可能な撮像装置および撮像処理方法を提供することを目的とする。 The present invention has been made in view of such a situation, and an object thereof is to continue distribution with the set original angle of view for distribution even if the angle of view for photography is changed by the optical zoom. It is an object of the present invention to provide an image pickup apparatus and an image pickup processing method capable of generating display image information for the purpose.

上記目的を達成するための本発明の撮像装置は、
撮影倍率を変更可能であり、設定された撮影倍率で動画撮影処理を行うことによって画像信号を出力する撮像部と、前記画像信号からフレームを順次取得し、取得したそれぞれの前記フレームから所定の切り出し範囲の部分撮像情報を生成し、生成した部分撮像情報を所定の拡大率で拡大して配信用画像情報を生成する配信用情報生成部とを備え、前記配信用情報生成部は、前記撮像部により第1撮影倍率で撮影され取得したそれぞれの前記フレームから予め設定された第1切り出し範囲で切り出した部分撮像情報を第1拡大率で拡大して前記配信用画像情報を生成している際に、前記撮影倍率が前記第1撮影倍率よりも低い第2撮影倍率に変化した場合、取得したそれぞれの前記フレームから前記第1切り出し範囲のサイズよりも小さいサイズの第2切り出し範囲の部分撮像情報を生成し、前記第2切り出し範囲の部分撮像情報を前記第1拡大率よりも高い第2拡大率で拡大して前記配信用画像情報を生成するように切り替えることを特徴とする。
The image pickup apparatus of the present invention for achieving the above object is
The shooting magnification can be changed, and the image pickup unit that outputs an image signal by performing moving image shooting processing at the set shooting magnification, and frames are sequentially acquired from the image signal, and a predetermined cutout is made from each of the acquired frames. The distribution information generation unit includes a distribution information generation unit that generates partial imaging information in a range and enlarges the generated partial imaging information at a predetermined magnification to generate distribution image information. The distribution information generation unit is the imaging unit. When the partial image pickup information cut out in the preset first cut-out range from each of the frames taken and acquired at the first shooting magnification is enlarged by the first enlargement ratio to generate the image information for distribution. When the shooting magnification changes to a second shooting magnification lower than the first shooting magnification, the partial image pickup information of the second cutting range having a size smaller than the size of the first cutting range is obtained from each acquired frame. It is characterized in that it is generated and the partial image pickup information of the second cutout range is enlarged at a second enlargement ratio higher than the first enlargement ratio to be switched so as to generate the distribution image information.

また、本発明の撮像処理方法は、撮影倍率を変更可能であり、設定された撮影倍率で動画撮影処理を行う撮像部を備えた撮像装置が、前記撮像部により第1撮影倍率で撮影され生成されたフレームを順次取得して、それぞれの前記フレームから予め設定された第1切り出し範囲の部分撮像情報を切り出し、第1拡大率で拡大して配信用画像情報を生成している際に、前記撮影倍率が前記第1撮影倍率よりも低い第2撮影倍率に変化した場合、取得したそれぞれの前記フレームから切り出す範囲を前記第1切り出し範囲のサイズよりも小さいサイズの第2切り出し範囲に変更し、前記第2切り出し範囲の部分撮像情報を前記第1拡大率よりも高い第2拡大率で拡大して前記配信用画像情報を生成するように切り替えることを特徴とする。 Further, in the image pickup processing method of the present invention, the shooting magnification can be changed, and an image pickup device provided with an image pickup unit that performs moving image shooting processing at a set shooting magnification is captured and generated by the image pickup unit at the first shooting magnification. When the frames are sequentially acquired, the partial image pickup information of the first cut-out range set in advance is cut out from each of the frames, and the image information for distribution is generated by enlarging at the first enlargement ratio. When the shooting magnification changes to a second shooting magnification lower than the first shooting magnification, the range cut out from each of the acquired frames is changed to a second cutting range having a size smaller than the size of the first cutting range. It is characterized in that the partial image pickup information of the second cutout range is enlarged at a second enlargement ratio higher than the first enlargement ratio to be switched to generate the distribution image information.

本発明の撮像装置および撮像処理方法によれば、撮影用の画角が光学ズームで変更になっても、設定していた元の配信用画角のまま配信を継続させるための表示用画像情報を生成することができる。 According to the image pickup apparatus and the image pickup processing method of the present invention, even if the angle of view for photography is changed by the optical zoom, the image information for display for continuing the distribution with the original angle of view for distribution set. Can be generated.

本発明の第1実施形態による撮像装置全体の構成を示すブロック図である。It is a block diagram which shows the structure of the whole image pickup apparatus by 1st Embodiment of this invention. 本発明の第1実施形態による撮像装置内の配信用情報生成部の構成を示すブロック図である。It is a block diagram which shows the structure of the information generation part for distribution in the image pickup apparatus by 1st Embodiment of this invention. 本発明の第1実施形態による撮像装置の動作を示すフローチャートである。It is a flowchart which shows the operation of the image pickup apparatus according to 1st Embodiment of this invention. (a)は、本発明の第1実施形態による撮像装置で撮影された撮像情報に、切り出し位置を指定するためのGUI情報が重畳されて表示された状態の一例を示す図であり、(b)は、GUI情報で指定された範囲が切り出されて生成された配信用画像情報の一例を示す図である。(A) is a diagram showing an example of a state in which GUI information for designating a cutout position is superimposed and displayed on the image pickup information captured by the image pickup apparatus according to the first embodiment of the present invention. ) Is a diagram showing an example of image information for distribution generated by cutting out a range specified by GUI information. (a)は、本発明の第1実施形態に撮像装置で、撮影倍率を高く変更した後に撮影された撮像情報の一例を示す図であり、(b)は、撮影倍率変更後の撮像情報から切り出されて生成された配信用画像情報の一例である。(A) is a figure which shows an example of the image pickup information which was taken by the image pickup apparatus in the 1st Embodiment of this invention after changing a high image-taking magnification, and (b) is a figure from the image-taking information after changing the image-taking magnification. This is an example of image information for distribution that has been cut out and generated. (a)は、本発明の第1実施形態による撮像装置で、撮影倍率を低く変更した後に撮影された撮像情報の一例を示す図であり、(b)は、撮影倍率変更後の撮像情報から切り出されて生成された配信用画像情報の一例である。(A) is a diagram showing an example of image pickup information taken after changing the image pickup magnification to a low level in the image pickup apparatus according to the first embodiment of the present invention, and (b) is a diagram showing an example of image pickup information after the image pickup magnification is changed. This is an example of image information for distribution that has been cut out and generated. (a)は、本発明の第1実施形態による撮像装置で、撮影倍率を低く変更した後に撮影された撮像情報の一例を示す図であり、(b)は、撮影倍率変更後の撮像情報から切り出されて生成された配信用画像情報の一例である。(A) is a diagram showing an example of image pickup information taken after changing the image pickup magnification to a low level in the image pickup apparatus according to the first embodiment of the present invention, and (b) is a diagram showing an example of image pickup information after the image pickup magnification is changed. This is an example of image information for distribution that has been cut out and generated. 本発明の第2実施形態による撮像装置内の配信用情報生成部の構成を示すブロック図である。It is a block diagram which shows the structure of the information generation part for distribution in the image pickup apparatus according to 2nd Embodiment of this invention.

以下に、本発明の実施形態として、撮影した横長(アスペクト比16:9)の撮像情報をSNSで配信する際に、スマートフォンの縦長(アスペクト比9:16)の表示画面に好適に表示させることが可能な画像情報を生成する撮像装置について説明する。 Hereinafter, as an embodiment of the present invention, when the captured horizontally long (aspect ratio 16: 9) image pickup information is distributed by SNS, it is suitably displayed on the vertically long (aspect ratio 9:16) display screen of the smartphone. An image pickup device that generates image information capable of generating an image information will be described.

《第1実施形態》
〈第1実施形態による撮像装置の構成〉
本発明の第1実施形態による撮像装置1Aの構成について、図1を参照して説明する。本実施形態による撮像装置1Aは、動画撮影を行う装置であり、撮像部としてのズームレンズ2およびCMOS(Complementary MOS)センサ3と、入力部4と、映像記憶部5と、ネットワークIF部6と、外部モニタIF部7と、表示部8と、記憶部9と、画像処理部10と、コーデック部20と、CPU(Central Processing Unit)30とを備える。
<< First Embodiment >>
<Structure of the image pickup apparatus according to the first embodiment>
The configuration of the image pickup apparatus 1A according to the first embodiment of the present invention will be described with reference to FIG. The image pickup device 1A according to the present embodiment is a device for taking a moving image, and includes a zoom lens 2 as an image pickup unit, a CMOS (Complementary MOS) sensor 3, an input unit 4, a video storage unit 5, and a network IF unit 6. It includes an external monitor IF unit 7, a display unit 8, a storage unit 9, an image processing unit 10, a codec unit 20, and a CPU (Central Processing Unit) 30.

ズームレンズ2は、撮影倍率を変更可能に構成されたレンズであり、ズームレバー(図示せず)等を用いてユーザにより設定された倍率で被写体光を入射する。CMOSセンサ3は、ズームレンズ2から入射された被写体光を電気信号に変換する撮像素子である。CMOSセンサ3は、変換された電気信号をMIPI(Mobile Industry Processor Interface)、sLVDS(sub Low Voltage Differential Signaling)、HiSPi(High-Speed Pixel Interface)等の画像信号として出力する。 The zoom lens 2 is a lens configured so that the shooting magnification can be changed, and the subject light is incident at a magnification set by the user using a zoom lever (not shown) or the like. The CMOS sensor 3 is an image pickup device that converts subject light incident from the zoom lens 2 into an electric signal. The CMOS sensor 3 outputs the converted electric signal as an image signal such as MIPI (Mobile Industry Processor Interface), sLVDS (sub Low Voltage Differential Signaling), HiSPi (High-Speed Pixel Interface) and the like.

入力部4は、キーボタンまたはタッチパネルで構成され、ユーザの操作情報、例えば撮影倍率を指定する情報、SNS配信用の動画生成を指示する情報、または、後述する画像切り出し範囲の指定情報等を入力する。本実施形態ではタッチパネルを表示部8に設ける。映像記憶部5は、後述する画像処理部10で生成された情報およびコーデック部20で生成された情報を記憶する記憶媒体であり、例えばSDメモリや、SSD(Solid State Drive)などで構成される。ネットワークIF部6は、所定のLAN(Local Area Network)に接続するためのインタフェースである。 The input unit 4 is composed of key buttons or a touch panel, and inputs user operation information, for example, information for designating a shooting magnification, information for instructing video generation for SNS distribution, or information for specifying an image cropping range, which will be described later. do. In the present embodiment, the touch panel is provided on the display unit 8. The video storage unit 5 is a storage medium for storing information generated by the image processing unit 10 and information generated by the codec unit 20, which will be described later, and is composed of, for example, an SD memory or an SSD (Solid State Drive). .. The network IF unit 6 is an interface for connecting to a predetermined LAN (Local Area Network).

外部モニタIF部7は、外部のテレビ装置や表示装置(図示せず)に接続するためのインタフェースであり、例えばHDMI(High-Definition Multimedia Interface)やSDI(Serial Digital Interface)規格などが使用される。表示部8は、撮影した動画情報の確認用の小型モニタであり、例えばタッチパネル付きのLCD(liquid crystal display)やELディスプレイなどである。記憶部9は、画像処理部10およびコーデック部20で処理を実行する際に用いる記憶媒体であり、例えばDDR4(Double-Data-Rate4)メモリやハードディスクなどで構成される。 The external monitor IF unit 7 is an interface for connecting to an external television device or display device (not shown), and for example, HDMI (High-Definition Multimedia Interface) or SDI (Serial Digital Interface) standard is used. .. The display unit 8 is a small monitor for confirming captured moving image information, and is, for example, an LCD (liquid crystal display) with a touch panel, an EL display, or the like. The storage unit 9 is a storage medium used when processing is executed by the image processing unit 10 and the codec unit 20, and is composed of, for example, a DDR4 (Double-Data-Rate4) memory or a hard disk.

画像処理部10は、センサIF部11と、傷補正/NR(Noise reduction)処理部12と、ディベイヤ処理部13と、色再現部14と、動き検出部15と、撮影倍率情報取得部16と、表示用情報生成部17とを有する。 The image processing unit 10 includes a sensor IF unit 11, a scratch correction / NR (Noise reduction) processing unit 12, a divider processing unit 13, a color reproduction unit 14, a motion detection unit 15, and a shooting magnification information acquisition unit 16. It also has a display information generation unit 17.

センサIF部11は、CMOSセンサ3から出力される画像信号を受信し、シリアルデータをパラレルデータに変換し、フレームとして順次生成する。またセンサIF部11は、受信した信号から、水平同期信号および垂直同期信号を抽出し、撮像装置1A内部の同期信号に置き換える。この処理を実行する際、記憶部9を使用してもよい。 The sensor IF unit 11 receives the image signal output from the CMOS sensor 3, converts the serial data into parallel data, and sequentially generates it as a frame. Further, the sensor IF unit 11 extracts the horizontal synchronization signal and the vertical synchronization signal from the received signal and replaces them with the synchronization signal inside the image pickup apparatus 1A. When executing this process, the storage unit 9 may be used.

傷補正/NR処理部12は、センサIF部11で変換されたデータをフレームごとに処理対象の情報として取得し、該当するフレーム内に含まれるいわゆる傷データの補間処理や、ノイズリダクション処理を実行する。ノイズリダクション処理は、フレームごとに処理実行する2DNR(2- dimensional noise reduction)、または連続するフレームを分析して処理を実行する3DNR(3- dimensional noise reduction)のいずれを採用してもよい。この処理を実行する際、記憶部9を使用してもよい。 The scratch correction / NR processing unit 12 acquires the data converted by the sensor IF unit 11 as information to be processed for each frame, and executes so-called scratch data interpolation processing and noise reduction processing included in the corresponding frame. do. As the noise reduction processing, either 2DNR (2-dimensional noise reduction), which processes and executes the processing for each frame, or 3DNR (3-dimensional noise reduction), which analyzes and executes the processing for consecutive frames, may be adopted. When executing this process, the storage unit 9 may be used.

ディベイヤ処理部13は、CMOSセンサ3がR,Gr,Gb,Bのベイヤー構造に対応している場合、CMOSセンサ3から取得したフレームをディベイヤ処理によりR,G,B構造に変換する。CMOSセンサ3がモノクロ対応もしくは3CMOS構造に対応している場合には、取得したフレームに対してディベイヤ処理を行わない。色再現部14は、取得したフレームに対し、ガンマ補正処理や、予め設定されたホワイトバランスに沿ったカラーマネージメント処理を行う。 When the CMOS sensor 3 corresponds to the Bayer structure of R, Gr, Gb, B, the divider processing unit 13 converts the frame acquired from the CMOS sensor 3 into the R, G, B structure by the Bayer processing. When the CMOS sensor 3 supports monochrome or a 3CMOS structure, the acquired frame is not subjected to debayer processing. The color reproduction unit 14 performs gamma correction processing and color management processing according to a preset white balance on the acquired frame.

動き検出部15は、後述する表示用情報生成部17の配信用情報生成部19Aで生成される配信用動画情報から被写体の動き情報を検出する。撮影倍率情報取得部16は、ズームレンズ2に設定された撮影倍率の情報を、CPU30を介して取得する。 The motion detection unit 15 detects the motion information of the subject from the distribution moving image information generated by the distribution information generation unit 19A of the display information generation unit 17, which will be described later. The shooting magnification information acquisition unit 16 acquires information on the shooting magnification set in the zoom lens 2 via the CPU 30.

表示用情報生成部17は、メイン情報生成部18と配信用情報生成部19Aとを有する。メイン情報生成部18は、取得したフレームから、ハイビジョン等に対応したアスペクト比16:9の表示用画像情報を生成する。生成された表示用画像情報は、CPU30により順次記憶部9から映像記憶部5に送出され、メイン動画情報として記録される。 The display information generation unit 17 has a main information generation unit 18 and a distribution information generation unit 19A. The main information generation unit 18 generates display image information having an aspect ratio of 16: 9 corresponding to high-definition television or the like from the acquired frame. The generated display image information is sequentially sent from the storage unit 9 to the video storage unit 5 by the CPU 30, and is recorded as the main moving image information.

配信用情報生成部19Aは、取得したフレームから、SNS等の配信によりスマートフォン(図示せず)のような縦型の表示画面に表示させるアスペクト比9:16の表示用情報として、配信用画像情報を生成する。生成された配信用画像情報は、CPU30により順次記憶部9から映像記憶部5に送出され、配信用動画情報として記録される。 The distribution information generation unit 19A displays distribution image information from the acquired frame as display information having an aspect ratio of 9:16 to be displayed on a vertical display screen such as a smartphone (not shown) by distribution such as SNS. To generate. The generated image information for distribution is sequentially transmitted from the storage unit 9 to the video storage unit 5 by the CPU 30, and is recorded as moving image information for distribution.

配信用情報生成部19Aの詳細な構成について、図2を参照して説明する。配信用情報生成部19Aは、GUI(Graphical User Interface)表示制御部191と、切り出し範囲設定部192と、切り出し部193と、リサイズ処理部194と、設定変更部195とを有する。 The detailed configuration of the distribution information generation unit 19A will be described with reference to FIG. The distribution information generation unit 19A includes a GUI (Graphical User Interface) display control unit 191, a cutting range setting unit 192, a cutting unit 193, a resizing processing unit 194, and a setting changing unit 195.

GUI表示制御部191は、入力部4から、SNS配信用のGUI情報生成指示が入力されると、撮影した動画情報から、アスペクト比9:16で所定サイズの矩形の切り出し範囲を指定するためのGUI情報を表示部8に表示させる。 When the GUI information generation instruction for SNS distribution is input from the input unit 4, the GUI display control unit 191 is for designating a cutout range of a rectangle having a predetermined size with an aspect ratio of 9:16 from the captured video information. The GUI information is displayed on the display unit 8.

切り出し範囲設定部192は、GUI表示制御部191の制御により表示されたGUI情報を用いてユーザにより指定されたフレーム内の切り出し範囲を、第1切り出し範囲として設定する。また切り出し範囲設定部192は、後述する設定変更部195からの指示に基づいて切り出し範囲を変更する。 The cutout range setting unit 192 sets the cutout range within the frame specified by the user using the GUI information displayed under the control of the GUI display control unit 191 as the first cutout range. Further, the cutting range setting unit 192 changes the cutting range based on an instruction from the setting changing unit 195, which will be described later.

切り出し部193は、所定の第1撮影倍率で撮影されたフレームから、切り出し範囲設定部192で設定された第1切り出し範囲の撮像情報を部分撮像情報として切り出す。リサイズ処理部194は、切り出し部193で切り出された部分撮像情報をSNS配信用にリサイズして、配信用画像情報を生成する。 The cutout unit 193 cuts out the image pickup information of the first cutout range set by the cutout range setting unit 192 as partial image pickup information from the frame shot at a predetermined first shooting magnification. The resizing processing unit 194 resizes the partial image pickup information cut out by the cutting unit 193 for SNS distribution, and generates image information for distribution.

設定変更部195は、撮影倍率情報取得部16で取得されたズームレンズ2の撮影倍率の情報に基づいて、撮影中に撮影倍率が第1撮影倍率よりも低い第2撮影倍率に変更されたことを検知すると、切り出し範囲設定部192に対してフレーム内の切り出し範囲を、第1切り出し範囲のサイズよりも小さいサイズの第2切り出し範囲に変更する。 The setting change unit 195 was changed to a second shooting magnification lower than the first shooting magnification during shooting based on the shooting magnification information of the zoom lens 2 acquired by the shooting magnification information acquisition unit 16. When is detected, the cutout range in the frame is changed to the second cutout range having a size smaller than the size of the first cutout range for the cutout range setting unit 192.

また設定変更部195は、切り出し範囲を第2切り出し範囲に変更した後、ズームレンズ2の撮影倍率が第1撮影倍率に戻されたことを検知すると、切り出し範囲設定部192に対して切り出し範囲を第1切り出し範囲に戻すように設定する。また設定変更部195は、切り出し範囲を第2切り出し範囲に変更した後に生成された配信用画像情報内で、所定値以上の被写体の動きが検出されると、切り出し範囲設定部192に対してフレーム内の切り出し範囲を、第2切り出し範囲よりも大きく第1切り出し範囲よりも小さい第3切り出し範囲に変更する。 Further, when the setting changing unit 195 detects that the shooting magnification of the zoom lens 2 has been returned to the first shooting magnification after changing the cutting range to the second cutting range, the setting changing unit 195 sets the cutting range to the cutting range setting unit 192. Set to return to the first cutout range. Further, when the movement of the subject exceeding a predetermined value is detected in the distribution image information generated after the cutout range is changed to the second cutout range, the setting change unit 195 sets a frame for the cutout range setting unit 192. The inside cutout range is changed to a third cutout range that is larger than the second cutout range and smaller than the first cutout range.

図1に戻り、コーデック部20は、メインコーデック部21と、配信用コーデック部22とを有する。メインコーデック部21は、メイン情報生成部18で生成され記憶されたメイン動画情報を映像記憶部5に保管するためにエンコードし、記憶部9に一時的に記憶させる。その後、CPU30は記憶部9に一時的に記憶されたデータをファイルフォーマット形式で映像記憶部5に保管する。また、ネットワークIF部6を介して外部のサーバ装置などに送信する場合にもエンコードする。さらにメインコーデック部21は、エンコードされたメイン動画情報を外部モニタIF部7から表示装置等に再生させる際や表示部8に再生させる際にデコードする。 Returning to FIG. 1, the codec unit 20 has a main codec unit 21 and a distribution codec unit 22. The main codec unit 21 encodes the main moving image information generated and stored in the main information generation unit 18 for storage in the video storage unit 5, and temporarily stores the main moving image information in the storage unit 9. After that, the CPU 30 stores the data temporarily stored in the storage unit 9 in the video storage unit 5 in a file format format. It is also encoded when it is transmitted to an external server device or the like via the network IF unit 6. Further, the main codec unit 21 decodes the encoded main moving image information when it is reproduced by the display device or the like from the external monitor IF unit 7 or when it is reproduced by the display unit 8.

配信用コーデック部22は、配信用情報生成部19Bで生成された配信用動画情報を、外部の表示装置に送信するためにエンコードし、記憶部9に記憶させる。また配信用コーデック部22は、エンコードされた配信用動画情報を再生させる際にデコードする。 The distribution codec unit 22 encodes the distribution moving image information generated by the distribution information generation unit 19B for transmission to an external display device, and stores it in the storage unit 9. Further, the distribution codec unit 22 decodes the encoded distribution moving image information when it is reproduced.

CPU30は、上述したズームレンズ2、CMOSセンサ3、入力部4、映像記憶部5、ネットワークIF部6、外部モニタIF部7、表示部8、記憶部9、画像処理部10、およびコーデック部20の動作を制御する。 The CPU 30 includes the zoom lens 2, the CMOS sensor 3, the input unit 4, the video storage unit 5, the network IF unit 6, the external monitor IF unit 7, the display unit 8, the storage unit 9, the image processing unit 10, and the codec unit 20. Controls the behavior of.

〈第1実施形態による撮像装置の動作〉
次に、本実施形態による撮像装置1Aの動作について、図3のフローチャートを参照して説明する。まず、ユーザが入力部4から動画撮影の開始を指示する操作を行うと、第1撮影倍率Z1に設定されたズームレンズ2、CMOSセンサ3、および画像処理部10で動画撮影処理が開始される。撮影された動画情報は、CPU30により表示部8に表示される。
<Operation of the image pickup apparatus according to the first embodiment>
Next, the operation of the image pickup apparatus 1A according to the present embodiment will be described with reference to the flowchart of FIG. First, when the user performs an operation instructing the start of moving image shooting from the input unit 4, the moving image shooting process is started by the zoom lens 2, the CMOS sensor 3, and the image processing unit 10 set to the first shooting magnification Z1. .. The captured moving image information is displayed on the display unit 8 by the CPU 30.

次に、ユーザが入力部4からSNS配信用の動画作成を指示する操作を行うと(S1の「YES」)、画像処理部10内のGUI表示制御部191により、撮影された動画情報のフレームから、アスペクト比9:16で第1のサイズの矩形の切り出し範囲(第1切り出し範囲)を指定するためのGUI情報が動画情報に重畳されて表示部8に表示される(S2)。 Next, when the user performs an operation instructing the input unit 4 to create a video for SNS distribution (“YES” in S1), the frame of the video information captured by the GUI display control unit 191 in the image processing unit 10 Therefore, the GUI information for designating the cutout range (first cutout range) of the first size rectangle with an aspect ratio of 9:16 is superimposed on the moving image information and displayed on the display unit 8 (S2).

表示部8に表示された動画情報上に重畳して表示されたGUI情報の一例を、図4(a)に示す。図4(a)では、猿の親子の動画情報上にGUI情報が表示されている。GUI情報は、アスペクト比が9:16の枠情報G1と、表示部8の水平方向の画面中央線G2と、垂直方向の画面中央線G3と、枠情報G1を左側へ水平移動させるための左矢印ボタンG4と、枠情報G1を右側へ水平移動させるための右矢印ボタンG5と、枠情報G1の水平位置を決定させるための位置決定ボタンG7と、枠情報G1をスライドして位置決定操作を行うことを促すメッセージ情報G8とを有する。 FIG. 4A shows an example of GUI information superimposed and displayed on the moving image information displayed on the display unit 8. In FIG. 4A, GUI information is displayed on the moving image information of the monkey parent and child. The GUI information includes the frame information G1 having an aspect ratio of 9:16, the horizontal screen center line G2 of the display unit 8, the vertical screen center line G3, and the left for horizontally moving the frame information G1 to the left. Slide the arrow button G4, the right arrow button G5 to move the frame information G1 horizontally to the right, the position determination button G7 to determine the horizontal position of the frame information G1, and the frame information G1 to perform the position determination operation. It has message information G8 that prompts you to do it.

ユーザは、入力部4から左矢印ボタンG4または右矢印ボタンG5を操作して、枠情報G1を所望の位置、つまり配信したい被写体の位置に移動させて位置決定ボタンG7を操作する。位置決定ボタンG7が操作されて枠情報G1の水平位置が決定すると(S3の「YES」)、切り出し範囲設定部192がフレーム内の切り出し範囲として、枠情報G1で示される第1切り出し範囲A1を設定する(S4)。 The user operates the left arrow button G4 or the right arrow button G5 from the input unit 4, moves the frame information G1 to a desired position, that is, the position of the subject to be delivered, and operates the position determination button G7. When the position determination button G7 is operated to determine the horizontal position of the frame information G1 (“YES” in S3), the cutout range setting unit 192 sets the first cutout range A1 indicated by the frame information G1 as the cutout range in the frame. Set (S4).

撮影した動画情報を処理対象として第1切り出し範囲A1を設定する際、切り出し範囲設定部192はまず、枠情報G1の所定位置(例えば左端位置)を水平方向の切り出しスタート位置H1として特定する。また、切り出し範囲の垂直方向の切り出しスタート位置V1として、処理対象の動画情報がHD画質の場合にはフレームの上端または下端から垂直に1080ピクセルの位置、4K画質の場合には垂直に2160ピクセルの位置、つまりフレームの下端または上端を特定する。 When setting the first cutout range A1 for the captured moving image information, the cutout range setting unit 192 first specifies a predetermined position (for example, the left end position) of the frame information G1 as the cutout start position H1 in the horizontal direction. Also, as the cutout start position V1 in the vertical direction of the cutout range, if the video information to be processed is HD image quality, the position is 1080 pixels vertically from the top or bottom of the frame, and if it is 4K image quality, it is 2160 pixels vertically. Identify the position, that is, the bottom or top of the frame.

次に、切り出し部193が、処理対象の動画情報のフレームF1から、切り出し範囲設定部192で設定された第1切り出し範囲A1の部分撮像情報を切り出す。そして、リサイズ処理部194が、切り出し部193で切り出された部分撮像情報をSNS配信用に所定の第1拡大率で拡大(リサイズ)して、図4(b)に示すように所定サイズの配信用画像情報D1を生成する。以降、ステップS4で設定された第1切り出し範囲A1に基づいて、撮影により順次取得するフレーム毎に配信用画像情報を生成する(S5)。 Next, the cutout unit 193 cuts out the partial image pickup information of the first cutout range A1 set by the cutout range setting unit 192 from the frame F1 of the moving image information to be processed. Then, the resizing processing unit 194 enlarges (resizes) the partial image pickup information cut out by the cutting unit 193 at a predetermined first enlargement ratio for SNS distribution, and distributes the predetermined size as shown in FIG. 4 (b). Generate image information D1 for. After that, based on the first cutout range A1 set in step S4, image information for distribution is generated for each frame sequentially acquired by shooting (S5).

撮影中に、ユーザが入力部4からズームレンズ2の撮影倍率を第1撮影倍率Z1から第2撮影倍率Z2に変更する操作を行うと(S6の「YES」、S7の「YES」)、撮影倍率情報取得部16が当該変更前の第1撮影倍率Z1の情報および変更後の撮影倍率Z2の情報を取得する。表示部8に、撮影倍率が変更された後に取得されたフレームF2を、図5(a)に示す。 During shooting, when the user performs an operation to change the shooting magnification of the zoom lens 2 from the first shooting magnification Z1 to the second shooting magnification Z2 from the input unit 4 (“YES” in S6, “YES” in S7), shooting is performed. The magnification information acquisition unit 16 acquires the information of the first shooting magnification Z1 before the change and the information of the shooting magnification Z2 after the change. FIG. 5A shows the frame F2 acquired after the shooting magnification is changed on the display unit 8.

設定変更部195は、撮影倍率情報取得部16で取得された情報からズーム倍率比率Z1 / Z2 > 1 を算出することで、当該撮影倍率の変更がWide方向の変更であることを認識する。設定変更部195は、切り出し範囲設定部192で設定された切り出し範囲を、図5(a)に示すように、第1切り出し範囲A1のサイズよりも小さい、Z2 / Z1で算出されるサイズの第2切り出し範囲A2に変更する。 The setting change unit 195 calculates the zoom magnification ratio Z1 / Z2> 1 from the information acquired by the shooting magnification information acquisition unit 16, and recognizes that the change in the shooting magnification is a change in the Wide direction. As shown in FIG. 5A, the setting change unit 195 sets the cutout range set by the cutout range setting unit 192 to be smaller than the size of the first cutout range A1 and has a size calculated by Z2 / Z1. 2 Change to the cutout range A2.

ここで、第2切り出し範囲A2は、第1切り出し範囲A1とズーム倍率比率に連動して変更する。 Here, the second cutout range A2 is changed in conjunction with the first cutout range A1 and the zoom magnification ratio.

処理対象の動画情報の水平ピクセル数をHpixelとし、第1切り出し範囲A1内の切り出しスタート位置を画面左上から数えてH1とすると、第2切り出し範囲A2の水平方向における切り出しスタート位置H2は、以下の式(1)で示される。 Assuming that the number of horizontal pixels of the moving image information to be processed is Hpixel and the cutting start position in the first cutting range A1 is counted from the upper left of the screen and is H1, the cutting start position H2 in the horizontal direction of the second cutting range A2 is as follows. It is represented by the equation (1).

H2 = Hpixel /2 × (1 - Z2 / Z1) + H1 × Z2 / Z1 (1)
Hpixel は、例えばHD画質の場合は1,920、4K画質の場合は3,840である。
H2 = Hpixel / 2 × (1 - Z2 / Z1) + H1 × Z2 / Z1 (1)
The Hpixel is, for example, 1,920 in the case of HD image quality and 3,840 in the case of 4K image quality.

処理対象の動画情報の垂直ピクセル数をVpixelとすると、第2切り出し範囲A2の垂直方向における切り出しスタート位置V2は、以下の式(2)で示される。 Assuming that the number of vertical pixels of the moving image information to be processed is Vpixel, the cutting start position V2 in the vertical direction of the second cutting range A2 is represented by the following equation (2).

V2 = Vpixel /2 × (1 - Z2 / Z1) (2)
Vpixel は、例えばHD画質の場合は1,080、4K画質の場合は2,160である。
V2 = Vpixel / 2 × (1-Z2 / Z1) (2)
The Vpixel is, for example, 1,080 in the case of HD image quality and 2,160 in the case of 4K image quality.

無論、HpixelやVpixelは、HD画質や4K画質などの画面サイズに限らず、処理対象の動画情報の水平ピクセル数や垂直ピクセル数を参照することで式(1)と式(2)を用い計算できる。なお、撮影倍率が変更された際は、ユーザが第1切り出し範囲A1を設定した時点の第1撮影倍率Z1を固定し、変更された撮影倍率である第2撮影倍率Z2を変更して再計算する。 Of course, Hpixel and Vpixel are not limited to screen sizes such as HD image quality and 4K image quality, but are calculated using equations (1) and (2) by referring to the number of horizontal pixels and the number of vertical pixels of the video information to be processed. can. When the shooting magnification is changed, the first shooting magnification Z1 at the time when the user sets the first cutting range A1 is fixed, and the second shooting magnification Z2, which is the changed shooting magnification, is changed and recalculated. do.

そして、切り出し部193が、以降に取得するフレームF2から切り出す範囲を第2切り出し範囲A2に切り替える。リサイズ処理部194は、第2切り出し範囲A2で切り出された部分撮像情報を、第1拡大率よりも高い、Z1 / Z2で算出される第2拡大率で拡大する。そしてリサイズ処理部194は、図5(b)に示すように、ステップS5で生成した配信用画像情報と同じサイズの配信用画像情報を生成する。以降、変更された第2切り出し範囲A2に基づいて、撮影により順次取得するフレーム毎に配信用画像情報D2を生成する(S8)。 Then, the cutting unit 193 switches the range to be cut out from the frame F2 to be acquired thereafter to the second cutting range A2. The resizing processing unit 194 enlarges the partial image pickup information cut out in the second cutout range A2 by the second enlargement ratio calculated by Z1 / Z2, which is higher than the first enlargement ratio. Then, as shown in FIG. 5B, the resizing unit 194 generates distribution image information having the same size as the distribution image information generated in step S5. After that, based on the changed second cutout range A2, the image information D2 for distribution is generated for each frame sequentially acquired by shooting (S8).

その後、ユーザが入力部4からズームレンズ2の撮影倍率を第1撮影倍率Z1に戻す、つまりTele方向に変更する操作を行うと(S9の「YES」、S10の「YES」)、撮影倍率情報取得部16が当該変更の情報を取得する。そして、当該変更の情報に基づいて、設定変更部195が、切り出し範囲の設定を第1切り出し範囲A1に戻す(S11)。 After that, when the user returns the shooting magnification of the zoom lens 2 to the first shooting magnification Z1 from the input unit 4, that is, changes the shooting direction to the Tele direction (“YES” in S9, “YES” in S10), the shooting magnification information The acquisition unit 16 acquires the information of the change. Then, based on the information of the change, the setting change unit 195 returns the setting of the cutting range to the first cutting range A1 (S11).

そして、切り出し部193が、以降に取得するフレームF3から切り出す範囲を第1切り出し範囲A1に切り替える。リサイズ処理部194は、第1切り出し範囲A1で切り出された部分撮像情報を第1拡大率で拡大して、ステップS5の処理と同様の範囲の配信用画像情報D3を生成する。以降、変更された第1切り出し範囲A1で、撮影により順次取得するフレーム毎に配信用画像情報を生成する(S11)。 Then, the cutting unit 193 switches the range to be cut out from the frame F3 to be acquired thereafter to the first cutting range A1. The resizing processing unit 194 enlarges the partial image pickup information cut out in the first cutting range A1 at the first enlargement ratio, and generates the distribution image information D3 in the same range as the processing in step S5. After that, in the changed first cutout range A1, distribution image information is generated for each frame sequentially acquired by shooting (S11).

また、切り出し範囲が第2切り出し範囲A2に変更された後、ズームレンズ2の撮影倍率が第1撮影倍率Z1に戻されていないときに(S9の「NO」)、動き検出部15が、生成された配信用画像情報内の被写体の動きを検出する。被写体の動きの検出には、既存技術、例えば前後フレームとの輝度変化量や、被写体の動きベクトル情報が用いられる。 Further, when the shooting magnification of the zoom lens 2 is not returned to the first shooting magnification Z1 after the cutting range is changed to the second cutting range A2 (“NO” in S9), the motion detection unit 15 generates the image. Detects the movement of the subject in the delivered image information for distribution. For detecting the movement of the subject, existing techniques such as the amount of change in brightness between the front and rear frames and the motion vector information of the subject are used.

ここで、動き検出部15が配信用画像情報から所定値以上の動きを検出すると(S12の「YES」)、設定変更部195は設定された切り出し範囲を、図6(a)に示すように、第2切り出し範囲A2よりも大きく第1切り出し範囲A1よりも小さい第3切り出し範囲A3に変更する。 Here, when the motion detection unit 15 detects a motion of a predetermined value or more from the image information for distribution (“YES” in S12), the setting change unit 195 shows the set cutout range as shown in FIG. 6A. , Change to the third cutting range A3, which is larger than the second cutting range A2 and smaller than the first cutting range A1.

そして、切り出し部193が、以降に取得するフレームF4から切り出す範囲を第3切り出し範囲A3に切り替える。リサイズ処理部194は、第3切り出し範囲A3で切り出された部分撮像情報を、第2拡大率よりも低い第3拡大率で拡大して、ステップS5で生成した配信用画像情報と同じサイズの配信用画像情報D4を生成する。以降、変更された切り出し範囲で、撮影により順次取得するフレーム毎に配信用画像情報を生成する(S13)。 Then, the cutting unit 193 switches the range to be cut out from the frame F4 to be acquired thereafter to the third cutting range A3. The resizing processing unit 194 enlarges the partial image pickup information cut out in the third cutout range A3 at a third enlargement ratio lower than the second enlargement ratio, and distributes the same size as the distribution image information generated in step S5. Generate image information D4 for. After that, the image information for distribution is generated for each frame sequentially acquired by shooting within the changed cutout range (S13).

その後ステップS9に戻り、ズームレンズ2の撮影倍率が第1撮影倍率Z1に戻されていないときに(S9の「NO」)、変更後の配信用画像情報からさらに所定値以上の動きが検出されたときには(S12の「YES」)、設定変更部195は設定された切り出し範囲を第3切り出し範囲A3よりも大きく第1切り出し範囲A1よりも小さい第4切り出し範囲A4に変更する。以降、上述した処理と同様にステップS13の処理が実行される。 After that, the process returns to step S9, and when the shooting magnification of the zoom lens 2 is not returned to the first shooting magnification Z1 (“NO” in S9), a movement of a predetermined value or more is detected from the changed image information for distribution. When (“YES” in S12), the setting change unit 195 changes the set cutout range to the fourth cutout range A4 which is larger than the third cutout range A3 and smaller than the first cutout range A1. After that, the process of step S13 is executed in the same manner as the process described above.

上述した処理のステップS7において、撮影中にユーザがズームレンズ2の撮影倍率をTele方向に変更して図7(a)のような撮影画角に変更した場合には(S7の「NO」)、以降に取得するフレームF5から切り出す範囲は第1切り出し範囲A1のまま変更しない。これにより、切り出された部分撮像情報から、図6(b)に示すように被写体が配信用画像情報D1よりも拡大された配信用画像情報D5が生成される。 In step S7 of the above-mentioned process, when the user changes the shooting magnification of the zoom lens 2 in the Tele direction during shooting to change the shooting angle of view as shown in FIG. 7A (“NO” in S7). , The range to be cut out from the frame F5 to be acquired after that remains the same as the first cutout range A1. As a result, as shown in FIG. 6B, the distribution image information D5 in which the subject is magnified more than the distribution image information D1 is generated from the cut out partial image pickup information.

また、ステップS10においてさらに撮影倍率がwide方向に変更されたときには(S10の「NO」)、ステップS8に戻り、設定変更部195が切り出し範囲をさらに小さいサイズに変更する。 Further, when the shooting magnification is further changed in the wide direction in step S10 (“NO” in S10), the process returns to step S8, and the setting changing unit 195 changes the cutting range to a smaller size.

以上の第1実施形態によれば、一般的な撮像装置で撮影されたアスペクト比16:9の横長の撮像情報を、スマートフォンのアスペクト比9:16の縦長の表示装置用に動画配信している際に撮影用の画角が光学ズームで変更になっても、設定していた元の配信用画角のまま配信を継続させることができ、被写体が動いた場合においても被写体を配信用画像から逃すことなく配信と撮影を継続できる。 According to the first embodiment described above, horizontally long image information with an aspect ratio of 16: 9 taken by a general image pickup device is distributed as a moving image for a vertically long display device having an aspect ratio of 9:16 on a smartphone. Even if the image angle for shooting is changed by the optical zoom, distribution can be continued with the original image angle for distribution that was set, and even if the subject moves, the subject can be moved from the image for distribution. You can continue delivery and shooting without missing out.

《第2実施形態》
〈第2実施形態による撮像装置の構成〉
本発明の第2実施形態による撮像装置1Bの構成は、画像処理部10の表示用情報生成部17内に配信用情報生成部19Aに替えて配信用情報生成部19Bを有する他は、第1実施形態で説明した撮像装置1Aの構成と同様であるため、同一機能を有する部分の詳細な説明は省略する。
<< Second Embodiment >>
<Structure of the image pickup apparatus according to the second embodiment>
The configuration of the image pickup apparatus 1B according to the second embodiment of the present invention is the first, except that the display information generation unit 17 of the image processing unit 10 has the distribution information generation unit 19B instead of the distribution information generation unit 19A. Since the configuration is the same as that of the image pickup apparatus 1A described in the embodiment, detailed description of the portion having the same function will be omitted.

本実施形態において配信用情報生成部19Bは、図8に示すように、第1実施形態で説明した配信用情報生成部19Aの構成に加えて、MTF情報記憶部196および画像補正部197を有している。 In the present embodiment, as shown in FIG. 8, the distribution information generation unit 19B includes an MTF information storage unit 196 and an image correction unit 197 in addition to the configuration of the distribution information generation unit 19A described in the first embodiment. is doing.

MTF情報記憶部196は、ズームレンズ2に設定される撮影倍率ごとのMTF(Modulation Transfer Function;変調伝達関数)情報を予め記憶する。画像補正部197は、ズームレンズ2に設定された撮影倍率が変更されたことを検知すると、変更前の撮影倍率のMTF情報と変更後の撮影倍率のMTF情報との差分に基づいて、生成された配信用画像情報内の被写体のエッジ部分を強調するように補正する。 The MTF information storage unit 196 stores in advance MTF (Modulation Transfer Function) information for each shooting magnification set in the zoom lens 2. When the image correction unit 197 detects that the shooting magnification set in the zoom lens 2 has been changed, it is generated based on the difference between the MTF information of the shooting magnification before the change and the MTF information of the shooting magnification after the change. It is corrected so as to emphasize the edge part of the subject in the image information for distribution.

〈第2実施形態による撮像装置の動作〉
本実施形態による撮像装置1Bでは、第1実施形態で説明した撮像装置1Aと同様の処理により、撮影した動画情報に関する配信用画像情報が生成される。その際、ズームレンズ2に設定された撮影倍率が第1撮影倍率Z1から第2撮影倍率Z2に変更されると、画像補正部197がこれを検知する。
<Operation of the image pickup apparatus according to the second embodiment>
In the image pickup apparatus 1B according to the present embodiment, distribution image information regarding the captured moving image information is generated by the same processing as that of the image pickup apparatus 1A described in the first embodiment. At that time, when the shooting magnification set in the zoom lens 2 is changed from the first shooting magnification Z1 to the second shooting magnification Z2, the image correction unit 197 detects this.

画像補正部197は、撮影倍率が変更されたことを検知すると、MTF情報記憶部に記憶された第1撮影倍率Z1のMTF情報と第2撮影倍率Z2のMTF情報との差分に基づいて、ステップS8で生成された配信用画像情報内の被写体のエッジ部分を強調するように補正する。具体的には、第2撮影倍率Z2のMTF情報と第1撮影倍率Z1のMTF情報との差分が大きい場合は良好な画質が得られるため、エッジ部分を強調する度合いを弱めるように補正する。逆に、差分が小さいもしくはマイナス方向の場合、画質的には劣化しているためエッジ部分を強調する度合いを強めるように補正する。加えて、第2撮影倍率Z2と第1撮影倍率Z1の比率と連動し、第2拡大率Z1/Z2が大きくなるほど、エッジ部分の強調を更に強めてもよい。 When the image correction unit 197 detects that the shooting magnification has been changed, the step is based on the difference between the MTF information of the first shooting magnification Z1 and the MTF information of the second shooting magnification Z2 stored in the MTF information storage unit. Correction is made so as to emphasize the edge portion of the subject in the distribution image information generated in S8. Specifically, when the difference between the MTF information of the second shooting magnification Z2 and the MTF information of the first shooting magnification Z1 is large, good image quality can be obtained, so that the degree of emphasizing the edge portion is weakened. On the contrary, when the difference is small or in the negative direction, the image quality is deteriorated, so the correction is made so as to increase the degree of emphasizing the edge portion. In addition, in conjunction with the ratio of the second shooting magnification Z2 and the first shooting magnification Z1, as the second magnification factor Z1 / Z2 becomes larger, the emphasis of the edge portion may be further strengthened.

また、コストを抑制するためにMTF情報記憶部196のメモリ容量を極力小さくしたり省略したりする場合がある。この場合、一般にレンズのMTF性能は画面周辺部になるほど劣化するので、第2切り出し範囲A2の水平方向における切り出しスタート位置H2の位置に応じてエッジ強調の度合いを制御してもよい。例えば、H2が画面中央付近ならばエッジ強調を弱め、H2が画面の左右端に近くなるほどエッジ強調を強めるようにしてもよい。第2撮影倍率Z2と第1撮影倍率Z1の比率と連動し、拡大率Z2/Z1が大きくなるほど、エッジ強調を強めるようにしてもよい。 Further, in order to suppress the cost, the memory capacity of the MTF information storage unit 196 may be reduced or omitted as much as possible. In this case, since the MTF performance of the lens generally deteriorates toward the peripheral portion of the screen, the degree of edge enhancement may be controlled according to the position of the cutting start position H2 in the horizontal direction of the second cutting range A2. For example, if H2 is near the center of the screen, the edge enhancement may be weakened, and as H2 is closer to the left and right edges of the screen, the edge enhancement may be increased. In conjunction with the ratio of the second shooting magnification Z2 and the first shooting magnification Z1, the edge enhancement may be strengthened as the magnification factor Z2 / Z1 becomes larger.

以上の第2実施形態によれば、切り出した画像情報を拡大させた場合にも、配信用画像情報を鮮明に生成することができる。 According to the above second embodiment, even when the cut out image information is enlarged, the distribution image information can be clearly generated.

1A、1B 撮像装置
2 ズームレンズ
3 CMOSセンサ
4 入力部
5 映像記憶部
6 ネットワークIF部
9 記憶部
10 画像処理部
11 センサIF部
12 傷補正/NR処理部
13 ディベイヤ処理部
14 色再現部
15 動き検出部
16 撮影倍率情報取得部
17 表示用情報生成部
18 メイン情報生成部
19A、19B 配信用情報生成部
20 コーデック部
21 メインコーデック部
22 配信用コーデック部
191 GUI表示制御部
192 切り出し範囲設定部
193 切り出し部
194 リサイズ処理部
195 設定変更部
196 MTF情報記憶部
197 画像補正部
1A, 1B Image pickup device 2 Zoom lens 3 CMOS sensor 4 Input section 5 Video storage section 6 Network IF section 9 Storage section 10 Image processing section 11 Sensor IF section 12 Scratch correction / NR processing section 13 Divider processing section 14 Color reproduction section 15 Movement Detection unit 16 Shooting magnification information acquisition unit 17 Display information generation unit 18 Main information generation unit 19A, 19B Distribution information generation unit 20 Codec unit 21 Main codec unit 22 Distribution codec unit 191 GUI display control unit 192 Cutout range setting unit 193 Cutout unit 194 Resize processing unit 195 Setting change unit 196 MTF information storage unit 197 Image correction unit

Claims (5)

撮影倍率を変更可能であり、設定された撮影倍率で動画撮影処理を行うことによって画像信号を出力する撮像部と、
前記画像信号からフレームを順次取得し、取得したそれぞれの前記フレームから所定の切り出し範囲の部分撮像情報を生成し、生成した部分撮像情報を所定の拡大率で拡大して配信用画像情報を生成する配信用情報生成部と、
を備え、
前記配信用情報生成部は、前記撮像部により第1撮影倍率で撮影され取得したそれぞれの前記フレームから予め設定された第1切り出し範囲で切り出した部分撮像情報を第1拡大率で拡大して前記配信用画像情報を生成している際に、前記撮影倍率が前記第1撮影倍率よりも低い第2撮影倍率に変化した場合、取得したそれぞれの前記フレームから前記第1切り出し範囲のサイズよりも小さいサイズの第2切り出し範囲の部分撮像情報を生成し、前記第2切り出し範囲の部分撮像情報を前記第1拡大率よりも高い第2拡大率で拡大して前記配信用画像情報を生成するように切り替える
ことを特徴とする撮像装置。
The shooting magnification can be changed, and the image pickup unit that outputs an image signal by performing movie shooting processing at the set shooting magnification,
Frames are sequentially acquired from the image signal, partial imaging information in a predetermined cutting range is generated from each acquired frame, and the generated partial imaging information is enlarged at a predetermined magnification to generate image information for distribution. Information generation unit for distribution and
Equipped with
The distribution information generation unit magnifies the partial image pickup information cut out from each of the frames taken and acquired by the image pickup unit at the first image pickup magnification in a preset first cut-out range at the first enlargement ratio. When the shooting magnification changes to a second shooting magnification lower than the first shooting magnification while generating image information for distribution, the size is smaller than the size of the first cutting range from each acquired frame. The partial image pickup information of the second cutout range of the size is generated, and the partial image pickup information of the second cutout range is enlarged at a second magnifying factor higher than the first magnifying factor to generate the image information for distribution. An image pickup device characterized by switching.
前記第2切り出し範囲は、前記第1撮影倍率と前記第2撮影倍率との比率に基づいて設定される
ことを特徴とする請求項1に記載の撮像装置。
The image pickup apparatus according to claim 1, wherein the second cutting range is set based on the ratio of the first photographing magnification and the second photographing magnification.
前記配信用情報生成部は、取得したフレームから切り出す範囲を前記第1切り出し範囲から前記第2切り出し範囲に変更した後に生成した配信用画像情報内で、所定値以上の被写体の動きが検出されると、取得したフレームから切り出す範囲を、前記第2切り出し範囲よりも大きく前記第1切り出し範囲よりも小さい第3切り出し範囲に変更して表示用画像情報を生成するように切り替える
ことを特徴とする請求項1または2に記載の撮像装置。
The distribution information generation unit detects movement of a subject of a predetermined value or more in the distribution image information generated after changing the range to be cut out from the acquired frame from the first cutout range to the second cutout range. The claim is characterized in that the range cut out from the acquired frame is changed to a third cutout range larger than the second cutout range and smaller than the first cutout range to generate display image information. Item 2. The image pickup apparatus according to Item 1.
前記撮像部に設定される撮影倍率ごとの変調伝達関数情報を記憶するMTF情報記憶部と、
前記撮影倍率が前記第1撮影倍率から前記第2撮影倍率に変化した場合に、前記MTF情報記憶部に記憶された第1撮影倍率の変調伝達関数情報と第2撮影倍率の変調伝達関数情報との差分に基づいて、前記表示用情報生成部で生成された表示用画像情報内の被写体のエッジ部分を強調する度合いを決定し、決定した度合いで前記エッジ部分を強調するように補正する画像補正部とをさらに備える
ことを特徴とする請求項1または2に記載の撮像装置。
An MTF information storage unit that stores modulation transfer function information for each shooting magnification set in the image pickup unit, and
When the imaging magnification changes from the first imaging magnification to the second imaging magnification, the modulation transmission function information of the first imaging magnification and the modulation transmission function information of the second imaging magnification stored in the MTF information storage unit are used. Based on the difference in The image pickup apparatus according to claim 1 or 2, further comprising a unit.
撮影倍率を変更可能であり、設定された撮影倍率で動画撮影処理を行う撮像部を備えた撮像装置が、
前記撮像部により第1撮影倍率で撮影され生成されたフレームを順次取得して、それぞれの前記フレームから予め設定された第1切り出し範囲の部分撮像情報を切り出し、第1拡大率で拡大して配信用画像情報を生成している際に、前記撮影倍率が前記第1撮影倍率よりも低い第2撮影倍率に変化した場合、取得したそれぞれの前記フレームから切り出す範囲を前記第1切り出し範囲のサイズよりも小さいサイズの第2切り出し範囲に変更し、前記第2切り出し範囲の部分撮像情報を前記第1拡大率よりも高い第2拡大率で拡大して前記配信用画像情報を生成するように切り替える
ことを特徴とする撮像処理方法。
An image pickup device equipped with an image pickup unit that can change the shooting magnification and performs movie shooting processing at the set shooting magnification
Frames taken and generated at the first shooting magnification by the image pickup unit are sequentially acquired, partial image pickup information in the first cutout range set in advance is cut out from each of the frames, and the partial image pickup information is enlarged and distributed at the first enlargement ratio. When the shooting magnification changes to a second shooting magnification lower than the first shooting magnification while generating image information for use, the range to be cut out from each of the acquired frames is larger than the size of the first cutting range. Is changed to a second cutout range having a smaller size, and the partial image pickup information of the second cutout range is enlarged at a second magnifying factor higher than the first magnifying factor to generate the image information for distribution. An image pickup processing method characterized by.
JP2020210364A 2020-12-18 2020-12-18 Imaging device and imaging processing method Pending JP2022097021A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020210364A JP2022097021A (en) 2020-12-18 2020-12-18 Imaging device and imaging processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020210364A JP2022097021A (en) 2020-12-18 2020-12-18 Imaging device and imaging processing method

Publications (1)

Publication Number Publication Date
JP2022097021A true JP2022097021A (en) 2022-06-30

Family

ID=82164933

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020210364A Pending JP2022097021A (en) 2020-12-18 2020-12-18 Imaging device and imaging processing method

Country Status (1)

Country Link
JP (1) JP2022097021A (en)

Similar Documents

Publication Publication Date Title
US8305464B2 (en) Imaging apparatus, image processing apparatus, zoom control method, and zoom control program
US8937644B2 (en) Stereoscopic image capture
US10110821B2 (en) Image processing apparatus, method for controlling the same, and storage medium
US11750934B2 (en) Imaging apparatus, image processing apparatus, control method of these, and storage medium
US11194993B2 (en) Display apparatus and display control method for displaying images
JP6253007B2 (en) Display device
JP5950755B2 (en) Image processing apparatus, control method, program, and storage medium
JP2017156365A (en) Liquid crystal display device
US10397587B2 (en) Image processing apparatus and control method thereof
JP2022097021A (en) Imaging device and imaging processing method
JP7468391B2 (en) Image capture device and image capture processing method
US11310442B2 (en) Display control apparatus for displaying image with/without a frame and control method thereof
US11871124B2 (en) Image capturing apparatus, method of controlling the same, and non-transitory computer-readable storage medium
JP7463114B2 (en) IMAGE PROCESSING APPARATUS, CONTROL METHOD FOR IMAGE PROCESSING APPARATUS, PROGRAM, AND STORAGE MEDIUM
JP7463111B2 (en) Electronic device, electronic device control method, program, and storage medium
JP2012027324A (en) Display device, display device control method and display system
JP2017091044A (en) Image processing device and image processing method
JP2010028720A (en) Image capturing apparatus
JP2021124546A (en) Display control device, control method, program, and storage medium
JP5335959B2 (en) Imaging device
JP2021061571A (en) Electronic apparatus and method for controlling the same, program, and storage medium
JP2024001606A (en) Imaging device, method of controlling imaging device, and program
JP2019124832A (en) Display control device, display control method, image display device, program, and storage medium
JP2019009527A (en) Image processing apparatus, control method of the same, and program
JP2009188507A (en) Image pickup apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230929