JP2022097021A - Imaging device and imaging processing method - Google Patents
Imaging device and imaging processing method Download PDFInfo
- Publication number
- JP2022097021A JP2022097021A JP2020210364A JP2020210364A JP2022097021A JP 2022097021 A JP2022097021 A JP 2022097021A JP 2020210364 A JP2020210364 A JP 2020210364A JP 2020210364 A JP2020210364 A JP 2020210364A JP 2022097021 A JP2022097021 A JP 2022097021A
- Authority
- JP
- Japan
- Prior art keywords
- information
- image pickup
- magnification
- unit
- distribution
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Studio Devices (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
Description
本発明は、撮像装置および撮像処理方法に関する。 The present invention relates to an image pickup apparatus and an image pickup processing method.
従来、広く普及しているハイビジョン対応の撮像装置は、処理対象の撮像情報の画面のアスペクト比(横方向サイズ:縦方向サイズ)が16:9のものが主流となっている。この撮像装置は、アスペクト比が16:9の横長の画面を有する装置、例えばパーソナルコンピュータや家庭用TV装置などと親和性が高く、当該撮像装置で撮影された撮像情報をこれらの装置の画面に効率良く表示させることができる。 Conventionally, the mainstream of high-definition image pickup devices that are widely used are those having an aspect ratio (horizontal size: vertical size) of 16: 9 on the screen of the image pickup information to be processed. This image pickup device has a high affinity with a device having a horizontally long screen with an aspect ratio of 16: 9, such as a personal computer or a home TV device, and the image pickup information captured by the image pickup device is displayed on the screen of these devices. It can be displayed efficiently.
一方で、近年急速に普及したスマートフォンにおいても、SNS(social networking service)などを用いてストリーム配信された撮像情報を視認する機会が増えている。スマートフォンは、表示画面が縦長の状態、つまり横方向サイズ:縦方向サイズが9:16の状態で使用されることが多い。そのため、上述したような撮像装置で撮影された撮像情報をスマートフォンで視認しようとすると、縦長の表示画面の一部、例えば中央部に横長の撮像情報が表示され、画面上部や下部に余白や黒帯部分が生じる。画面内に余白や黒帯部分が生じると、その分撮像情報の表示サイズが小さくなり、スマートフォンのユーザにとって視認しづらくなるという問題があった。 On the other hand, even in smartphones that have rapidly become widespread in recent years, there are increasing opportunities to visually recognize image information streamed using SNS (social networking service) or the like. Smartphones are often used when the display screen is vertically long, that is, the horizontal size: vertical size is 9:16. Therefore, when trying to visually recognize the image pickup information taken by the image pickup device as described above with a smartphone, the horizontally long image pickup information is displayed in a part of the vertically long display screen, for example, the central part, and the margins and blacks are displayed in the upper and lower parts of the screen. A band part is generated. When a margin or a black band portion is generated in the screen, the display size of the image pickup information becomes smaller by that amount, and there is a problem that it becomes difficult for the smartphone user to visually recognize the image.
このような技術的課題に対して、特許文献1には、撮影された撮像情報のズーム映像をストリーミング配信する映像配信装置において、撮像情報のフレームから抽出した重要領域を配信アスペクト比の最小サイズまで拡張するようにズーム条件を決定し、決定したズーム条件に基づいて切り出されたズーム映像を配信する技術が開示されている。 In response to such technical problems, Patent Document 1 describes an important region extracted from an image pickup information frame to the minimum size of the distribution aspect ratio in a video distribution device for streaming distribution of a zoomed image of captured image information. A technique is disclosed in which a zoom condition is determined so as to be expanded and a zoom image cut out based on the determined zoom condition is distributed.
しかしながら、撮像装置で撮影された動画情報を配信している際に、撮影装置の光学ズームをWIDE側へ変更すると、配信されている配信用画像情報の画角が広がるため、配信用画像情報における被写体のサイズが相対的に小さくなってしまう。つまり、撮影者の意図しない映像位置で被写体の画像が配信されてしまう不都合があった。 However, if the optical zoom of the imaging device is changed to the WIDE side while the moving image information captured by the image pickup device is being distributed, the angle of view of the distributed image information for distribution is widened. The size of the subject becomes relatively small. That is, there is an inconvenience that the image of the subject is delivered at a video position not intended by the photographer.
本発明は、こうした状況に鑑みてなされたものであり、その目的は、撮影用の画角が光学ズームで変更になっても、設定していた元の配信用画角のまま配信を継続させるための表示用画像情報を生成することが可能な撮像装置および撮像処理方法を提供することを目的とする。 The present invention has been made in view of such a situation, and an object thereof is to continue distribution with the set original angle of view for distribution even if the angle of view for photography is changed by the optical zoom. It is an object of the present invention to provide an image pickup apparatus and an image pickup processing method capable of generating display image information for the purpose.
上記目的を達成するための本発明の撮像装置は、
撮影倍率を変更可能であり、設定された撮影倍率で動画撮影処理を行うことによって画像信号を出力する撮像部と、前記画像信号からフレームを順次取得し、取得したそれぞれの前記フレームから所定の切り出し範囲の部分撮像情報を生成し、生成した部分撮像情報を所定の拡大率で拡大して配信用画像情報を生成する配信用情報生成部とを備え、前記配信用情報生成部は、前記撮像部により第1撮影倍率で撮影され取得したそれぞれの前記フレームから予め設定された第1切り出し範囲で切り出した部分撮像情報を第1拡大率で拡大して前記配信用画像情報を生成している際に、前記撮影倍率が前記第1撮影倍率よりも低い第2撮影倍率に変化した場合、取得したそれぞれの前記フレームから前記第1切り出し範囲のサイズよりも小さいサイズの第2切り出し範囲の部分撮像情報を生成し、前記第2切り出し範囲の部分撮像情報を前記第1拡大率よりも高い第2拡大率で拡大して前記配信用画像情報を生成するように切り替えることを特徴とする。
The image pickup apparatus of the present invention for achieving the above object is
The shooting magnification can be changed, and the image pickup unit that outputs an image signal by performing moving image shooting processing at the set shooting magnification, and frames are sequentially acquired from the image signal, and a predetermined cutout is made from each of the acquired frames. The distribution information generation unit includes a distribution information generation unit that generates partial imaging information in a range and enlarges the generated partial imaging information at a predetermined magnification to generate distribution image information. The distribution information generation unit is the imaging unit. When the partial image pickup information cut out in the preset first cut-out range from each of the frames taken and acquired at the first shooting magnification is enlarged by the first enlargement ratio to generate the image information for distribution. When the shooting magnification changes to a second shooting magnification lower than the first shooting magnification, the partial image pickup information of the second cutting range having a size smaller than the size of the first cutting range is obtained from each acquired frame. It is characterized in that it is generated and the partial image pickup information of the second cutout range is enlarged at a second enlargement ratio higher than the first enlargement ratio to be switched so as to generate the distribution image information.
また、本発明の撮像処理方法は、撮影倍率を変更可能であり、設定された撮影倍率で動画撮影処理を行う撮像部を備えた撮像装置が、前記撮像部により第1撮影倍率で撮影され生成されたフレームを順次取得して、それぞれの前記フレームから予め設定された第1切り出し範囲の部分撮像情報を切り出し、第1拡大率で拡大して配信用画像情報を生成している際に、前記撮影倍率が前記第1撮影倍率よりも低い第2撮影倍率に変化した場合、取得したそれぞれの前記フレームから切り出す範囲を前記第1切り出し範囲のサイズよりも小さいサイズの第2切り出し範囲に変更し、前記第2切り出し範囲の部分撮像情報を前記第1拡大率よりも高い第2拡大率で拡大して前記配信用画像情報を生成するように切り替えることを特徴とする。 Further, in the image pickup processing method of the present invention, the shooting magnification can be changed, and an image pickup device provided with an image pickup unit that performs moving image shooting processing at a set shooting magnification is captured and generated by the image pickup unit at the first shooting magnification. When the frames are sequentially acquired, the partial image pickup information of the first cut-out range set in advance is cut out from each of the frames, and the image information for distribution is generated by enlarging at the first enlargement ratio. When the shooting magnification changes to a second shooting magnification lower than the first shooting magnification, the range cut out from each of the acquired frames is changed to a second cutting range having a size smaller than the size of the first cutting range. It is characterized in that the partial image pickup information of the second cutout range is enlarged at a second enlargement ratio higher than the first enlargement ratio to be switched to generate the distribution image information.
本発明の撮像装置および撮像処理方法によれば、撮影用の画角が光学ズームで変更になっても、設定していた元の配信用画角のまま配信を継続させるための表示用画像情報を生成することができる。 According to the image pickup apparatus and the image pickup processing method of the present invention, even if the angle of view for photography is changed by the optical zoom, the image information for display for continuing the distribution with the original angle of view for distribution set. Can be generated.
以下に、本発明の実施形態として、撮影した横長(アスペクト比16:9)の撮像情報をSNSで配信する際に、スマートフォンの縦長(アスペクト比9:16)の表示画面に好適に表示させることが可能な画像情報を生成する撮像装置について説明する。 Hereinafter, as an embodiment of the present invention, when the captured horizontally long (aspect ratio 16: 9) image pickup information is distributed by SNS, it is suitably displayed on the vertically long (aspect ratio 9:16) display screen of the smartphone. An image pickup device that generates image information capable of generating an image information will be described.
《第1実施形態》
〈第1実施形態による撮像装置の構成〉
本発明の第1実施形態による撮像装置1Aの構成について、図1を参照して説明する。本実施形態による撮像装置1Aは、動画撮影を行う装置であり、撮像部としてのズームレンズ2およびCMOS(Complementary MOS)センサ3と、入力部4と、映像記憶部5と、ネットワークIF部6と、外部モニタIF部7と、表示部8と、記憶部9と、画像処理部10と、コーデック部20と、CPU(Central Processing Unit)30とを備える。
<< First Embodiment >>
<Structure of the image pickup apparatus according to the first embodiment>
The configuration of the image pickup apparatus 1A according to the first embodiment of the present invention will be described with reference to FIG. The image pickup device 1A according to the present embodiment is a device for taking a moving image, and includes a
ズームレンズ2は、撮影倍率を変更可能に構成されたレンズであり、ズームレバー(図示せず)等を用いてユーザにより設定された倍率で被写体光を入射する。CMOSセンサ3は、ズームレンズ2から入射された被写体光を電気信号に変換する撮像素子である。CMOSセンサ3は、変換された電気信号をMIPI(Mobile Industry Processor Interface)、sLVDS(sub Low Voltage Differential Signaling)、HiSPi(High-Speed Pixel Interface)等の画像信号として出力する。
The
入力部4は、キーボタンまたはタッチパネルで構成され、ユーザの操作情報、例えば撮影倍率を指定する情報、SNS配信用の動画生成を指示する情報、または、後述する画像切り出し範囲の指定情報等を入力する。本実施形態ではタッチパネルを表示部8に設ける。映像記憶部5は、後述する画像処理部10で生成された情報およびコーデック部20で生成された情報を記憶する記憶媒体であり、例えばSDメモリや、SSD(Solid State Drive)などで構成される。ネットワークIF部6は、所定のLAN(Local Area Network)に接続するためのインタフェースである。
The
外部モニタIF部7は、外部のテレビ装置や表示装置(図示せず)に接続するためのインタフェースであり、例えばHDMI(High-Definition Multimedia Interface)やSDI(Serial Digital Interface)規格などが使用される。表示部8は、撮影した動画情報の確認用の小型モニタであり、例えばタッチパネル付きのLCD(liquid crystal display)やELディスプレイなどである。記憶部9は、画像処理部10およびコーデック部20で処理を実行する際に用いる記憶媒体であり、例えばDDR4(Double-Data-Rate4)メモリやハードディスクなどで構成される。
The external monitor IF unit 7 is an interface for connecting to an external television device or display device (not shown), and for example, HDMI (High-Definition Multimedia Interface) or SDI (Serial Digital Interface) standard is used. .. The
画像処理部10は、センサIF部11と、傷補正/NR(Noise reduction)処理部12と、ディベイヤ処理部13と、色再現部14と、動き検出部15と、撮影倍率情報取得部16と、表示用情報生成部17とを有する。
The
センサIF部11は、CMOSセンサ3から出力される画像信号を受信し、シリアルデータをパラレルデータに変換し、フレームとして順次生成する。またセンサIF部11は、受信した信号から、水平同期信号および垂直同期信号を抽出し、撮像装置1A内部の同期信号に置き換える。この処理を実行する際、記憶部9を使用してもよい。
The
傷補正/NR処理部12は、センサIF部11で変換されたデータをフレームごとに処理対象の情報として取得し、該当するフレーム内に含まれるいわゆる傷データの補間処理や、ノイズリダクション処理を実行する。ノイズリダクション処理は、フレームごとに処理実行する2DNR(2- dimensional noise reduction)、または連続するフレームを分析して処理を実行する3DNR(3- dimensional noise reduction)のいずれを採用してもよい。この処理を実行する際、記憶部9を使用してもよい。
The scratch correction /
ディベイヤ処理部13は、CMOSセンサ3がR,Gr,Gb,Bのベイヤー構造に対応している場合、CMOSセンサ3から取得したフレームをディベイヤ処理によりR,G,B構造に変換する。CMOSセンサ3がモノクロ対応もしくは3CMOS構造に対応している場合には、取得したフレームに対してディベイヤ処理を行わない。色再現部14は、取得したフレームに対し、ガンマ補正処理や、予め設定されたホワイトバランスに沿ったカラーマネージメント処理を行う。
When the CMOS sensor 3 corresponds to the Bayer structure of R, Gr, Gb, B, the
動き検出部15は、後述する表示用情報生成部17の配信用情報生成部19Aで生成される配信用動画情報から被写体の動き情報を検出する。撮影倍率情報取得部16は、ズームレンズ2に設定された撮影倍率の情報を、CPU30を介して取得する。
The
表示用情報生成部17は、メイン情報生成部18と配信用情報生成部19Aとを有する。メイン情報生成部18は、取得したフレームから、ハイビジョン等に対応したアスペクト比16:9の表示用画像情報を生成する。生成された表示用画像情報は、CPU30により順次記憶部9から映像記憶部5に送出され、メイン動画情報として記録される。
The display
配信用情報生成部19Aは、取得したフレームから、SNS等の配信によりスマートフォン(図示せず)のような縦型の表示画面に表示させるアスペクト比9:16の表示用情報として、配信用画像情報を生成する。生成された配信用画像情報は、CPU30により順次記憶部9から映像記憶部5に送出され、配信用動画情報として記録される。
The distribution
配信用情報生成部19Aの詳細な構成について、図2を参照して説明する。配信用情報生成部19Aは、GUI(Graphical User Interface)表示制御部191と、切り出し範囲設定部192と、切り出し部193と、リサイズ処理部194と、設定変更部195とを有する。
The detailed configuration of the distribution
GUI表示制御部191は、入力部4から、SNS配信用のGUI情報生成指示が入力されると、撮影した動画情報から、アスペクト比9:16で所定サイズの矩形の切り出し範囲を指定するためのGUI情報を表示部8に表示させる。
When the GUI information generation instruction for SNS distribution is input from the
切り出し範囲設定部192は、GUI表示制御部191の制御により表示されたGUI情報を用いてユーザにより指定されたフレーム内の切り出し範囲を、第1切り出し範囲として設定する。また切り出し範囲設定部192は、後述する設定変更部195からの指示に基づいて切り出し範囲を変更する。
The cutout
切り出し部193は、所定の第1撮影倍率で撮影されたフレームから、切り出し範囲設定部192で設定された第1切り出し範囲の撮像情報を部分撮像情報として切り出す。リサイズ処理部194は、切り出し部193で切り出された部分撮像情報をSNS配信用にリサイズして、配信用画像情報を生成する。
The
設定変更部195は、撮影倍率情報取得部16で取得されたズームレンズ2の撮影倍率の情報に基づいて、撮影中に撮影倍率が第1撮影倍率よりも低い第2撮影倍率に変更されたことを検知すると、切り出し範囲設定部192に対してフレーム内の切り出し範囲を、第1切り出し範囲のサイズよりも小さいサイズの第2切り出し範囲に変更する。
The setting
また設定変更部195は、切り出し範囲を第2切り出し範囲に変更した後、ズームレンズ2の撮影倍率が第1撮影倍率に戻されたことを検知すると、切り出し範囲設定部192に対して切り出し範囲を第1切り出し範囲に戻すように設定する。また設定変更部195は、切り出し範囲を第2切り出し範囲に変更した後に生成された配信用画像情報内で、所定値以上の被写体の動きが検出されると、切り出し範囲設定部192に対してフレーム内の切り出し範囲を、第2切り出し範囲よりも大きく第1切り出し範囲よりも小さい第3切り出し範囲に変更する。
Further, when the
図1に戻り、コーデック部20は、メインコーデック部21と、配信用コーデック部22とを有する。メインコーデック部21は、メイン情報生成部18で生成され記憶されたメイン動画情報を映像記憶部5に保管するためにエンコードし、記憶部9に一時的に記憶させる。その後、CPU30は記憶部9に一時的に記憶されたデータをファイルフォーマット形式で映像記憶部5に保管する。また、ネットワークIF部6を介して外部のサーバ装置などに送信する場合にもエンコードする。さらにメインコーデック部21は、エンコードされたメイン動画情報を外部モニタIF部7から表示装置等に再生させる際や表示部8に再生させる際にデコードする。
Returning to FIG. 1, the
配信用コーデック部22は、配信用情報生成部19Bで生成された配信用動画情報を、外部の表示装置に送信するためにエンコードし、記憶部9に記憶させる。また配信用コーデック部22は、エンコードされた配信用動画情報を再生させる際にデコードする。
The
CPU30は、上述したズームレンズ2、CMOSセンサ3、入力部4、映像記憶部5、ネットワークIF部6、外部モニタIF部7、表示部8、記憶部9、画像処理部10、およびコーデック部20の動作を制御する。
The
〈第1実施形態による撮像装置の動作〉
次に、本実施形態による撮像装置1Aの動作について、図3のフローチャートを参照して説明する。まず、ユーザが入力部4から動画撮影の開始を指示する操作を行うと、第1撮影倍率Z1に設定されたズームレンズ2、CMOSセンサ3、および画像処理部10で動画撮影処理が開始される。撮影された動画情報は、CPU30により表示部8に表示される。
<Operation of the image pickup apparatus according to the first embodiment>
Next, the operation of the image pickup apparatus 1A according to the present embodiment will be described with reference to the flowchart of FIG. First, when the user performs an operation instructing the start of moving image shooting from the
次に、ユーザが入力部4からSNS配信用の動画作成を指示する操作を行うと(S1の「YES」)、画像処理部10内のGUI表示制御部191により、撮影された動画情報のフレームから、アスペクト比9:16で第1のサイズの矩形の切り出し範囲(第1切り出し範囲)を指定するためのGUI情報が動画情報に重畳されて表示部8に表示される(S2)。
Next, when the user performs an operation instructing the
表示部8に表示された動画情報上に重畳して表示されたGUI情報の一例を、図4(a)に示す。図4(a)では、猿の親子の動画情報上にGUI情報が表示されている。GUI情報は、アスペクト比が9:16の枠情報G1と、表示部8の水平方向の画面中央線G2と、垂直方向の画面中央線G3と、枠情報G1を左側へ水平移動させるための左矢印ボタンG4と、枠情報G1を右側へ水平移動させるための右矢印ボタンG5と、枠情報G1の水平位置を決定させるための位置決定ボタンG7と、枠情報G1をスライドして位置決定操作を行うことを促すメッセージ情報G8とを有する。
FIG. 4A shows an example of GUI information superimposed and displayed on the moving image information displayed on the
ユーザは、入力部4から左矢印ボタンG4または右矢印ボタンG5を操作して、枠情報G1を所望の位置、つまり配信したい被写体の位置に移動させて位置決定ボタンG7を操作する。位置決定ボタンG7が操作されて枠情報G1の水平位置が決定すると(S3の「YES」)、切り出し範囲設定部192がフレーム内の切り出し範囲として、枠情報G1で示される第1切り出し範囲A1を設定する(S4)。
The user operates the left arrow button G4 or the right arrow button G5 from the
撮影した動画情報を処理対象として第1切り出し範囲A1を設定する際、切り出し範囲設定部192はまず、枠情報G1の所定位置(例えば左端位置)を水平方向の切り出しスタート位置H1として特定する。また、切り出し範囲の垂直方向の切り出しスタート位置V1として、処理対象の動画情報がHD画質の場合にはフレームの上端または下端から垂直に1080ピクセルの位置、4K画質の場合には垂直に2160ピクセルの位置、つまりフレームの下端または上端を特定する。
When setting the first cutout range A1 for the captured moving image information, the cutout
次に、切り出し部193が、処理対象の動画情報のフレームF1から、切り出し範囲設定部192で設定された第1切り出し範囲A1の部分撮像情報を切り出す。そして、リサイズ処理部194が、切り出し部193で切り出された部分撮像情報をSNS配信用に所定の第1拡大率で拡大(リサイズ)して、図4(b)に示すように所定サイズの配信用画像情報D1を生成する。以降、ステップS4で設定された第1切り出し範囲A1に基づいて、撮影により順次取得するフレーム毎に配信用画像情報を生成する(S5)。
Next, the
撮影中に、ユーザが入力部4からズームレンズ2の撮影倍率を第1撮影倍率Z1から第2撮影倍率Z2に変更する操作を行うと(S6の「YES」、S7の「YES」)、撮影倍率情報取得部16が当該変更前の第1撮影倍率Z1の情報および変更後の撮影倍率Z2の情報を取得する。表示部8に、撮影倍率が変更された後に取得されたフレームF2を、図5(a)に示す。
During shooting, when the user performs an operation to change the shooting magnification of the
設定変更部195は、撮影倍率情報取得部16で取得された情報からズーム倍率比率Z1 / Z2 > 1 を算出することで、当該撮影倍率の変更がWide方向の変更であることを認識する。設定変更部195は、切り出し範囲設定部192で設定された切り出し範囲を、図5(a)に示すように、第1切り出し範囲A1のサイズよりも小さい、Z2 / Z1で算出されるサイズの第2切り出し範囲A2に変更する。
The setting
ここで、第2切り出し範囲A2は、第1切り出し範囲A1とズーム倍率比率に連動して変更する。 Here, the second cutout range A2 is changed in conjunction with the first cutout range A1 and the zoom magnification ratio.
処理対象の動画情報の水平ピクセル数をHpixelとし、第1切り出し範囲A1内の切り出しスタート位置を画面左上から数えてH1とすると、第2切り出し範囲A2の水平方向における切り出しスタート位置H2は、以下の式(1)で示される。 Assuming that the number of horizontal pixels of the moving image information to be processed is Hpixel and the cutting start position in the first cutting range A1 is counted from the upper left of the screen and is H1, the cutting start position H2 in the horizontal direction of the second cutting range A2 is as follows. It is represented by the equation (1).
H2 = Hpixel /2 × (1 - Z2 / Z1) + H1 × Z2 / Z1 (1)
Hpixel は、例えばHD画質の場合は1,920、4K画質の場合は3,840である。
H2 = Hpixel / 2 × (1 - Z2 / Z1) + H1 × Z2 / Z1 (1)
The Hpixel is, for example, 1,920 in the case of HD image quality and 3,840 in the case of 4K image quality.
処理対象の動画情報の垂直ピクセル数をVpixelとすると、第2切り出し範囲A2の垂直方向における切り出しスタート位置V2は、以下の式(2)で示される。 Assuming that the number of vertical pixels of the moving image information to be processed is Vpixel, the cutting start position V2 in the vertical direction of the second cutting range A2 is represented by the following equation (2).
V2 = Vpixel /2 × (1 - Z2 / Z1) (2)
Vpixel は、例えばHD画質の場合は1,080、4K画質の場合は2,160である。
V2 = Vpixel / 2 × (1-Z2 / Z1) (2)
The Vpixel is, for example, 1,080 in the case of HD image quality and 2,160 in the case of 4K image quality.
無論、HpixelやVpixelは、HD画質や4K画質などの画面サイズに限らず、処理対象の動画情報の水平ピクセル数や垂直ピクセル数を参照することで式(1)と式(2)を用い計算できる。なお、撮影倍率が変更された際は、ユーザが第1切り出し範囲A1を設定した時点の第1撮影倍率Z1を固定し、変更された撮影倍率である第2撮影倍率Z2を変更して再計算する。 Of course, Hpixel and Vpixel are not limited to screen sizes such as HD image quality and 4K image quality, but are calculated using equations (1) and (2) by referring to the number of horizontal pixels and the number of vertical pixels of the video information to be processed. can. When the shooting magnification is changed, the first shooting magnification Z1 at the time when the user sets the first cutting range A1 is fixed, and the second shooting magnification Z2, which is the changed shooting magnification, is changed and recalculated. do.
そして、切り出し部193が、以降に取得するフレームF2から切り出す範囲を第2切り出し範囲A2に切り替える。リサイズ処理部194は、第2切り出し範囲A2で切り出された部分撮像情報を、第1拡大率よりも高い、Z1 / Z2で算出される第2拡大率で拡大する。そしてリサイズ処理部194は、図5(b)に示すように、ステップS5で生成した配信用画像情報と同じサイズの配信用画像情報を生成する。以降、変更された第2切り出し範囲A2に基づいて、撮影により順次取得するフレーム毎に配信用画像情報D2を生成する(S8)。
Then, the
その後、ユーザが入力部4からズームレンズ2の撮影倍率を第1撮影倍率Z1に戻す、つまりTele方向に変更する操作を行うと(S9の「YES」、S10の「YES」)、撮影倍率情報取得部16が当該変更の情報を取得する。そして、当該変更の情報に基づいて、設定変更部195が、切り出し範囲の設定を第1切り出し範囲A1に戻す(S11)。
After that, when the user returns the shooting magnification of the
そして、切り出し部193が、以降に取得するフレームF3から切り出す範囲を第1切り出し範囲A1に切り替える。リサイズ処理部194は、第1切り出し範囲A1で切り出された部分撮像情報を第1拡大率で拡大して、ステップS5の処理と同様の範囲の配信用画像情報D3を生成する。以降、変更された第1切り出し範囲A1で、撮影により順次取得するフレーム毎に配信用画像情報を生成する(S11)。
Then, the
また、切り出し範囲が第2切り出し範囲A2に変更された後、ズームレンズ2の撮影倍率が第1撮影倍率Z1に戻されていないときに(S9の「NO」)、動き検出部15が、生成された配信用画像情報内の被写体の動きを検出する。被写体の動きの検出には、既存技術、例えば前後フレームとの輝度変化量や、被写体の動きベクトル情報が用いられる。
Further, when the shooting magnification of the
ここで、動き検出部15が配信用画像情報から所定値以上の動きを検出すると(S12の「YES」)、設定変更部195は設定された切り出し範囲を、図6(a)に示すように、第2切り出し範囲A2よりも大きく第1切り出し範囲A1よりも小さい第3切り出し範囲A3に変更する。
Here, when the
そして、切り出し部193が、以降に取得するフレームF4から切り出す範囲を第3切り出し範囲A3に切り替える。リサイズ処理部194は、第3切り出し範囲A3で切り出された部分撮像情報を、第2拡大率よりも低い第3拡大率で拡大して、ステップS5で生成した配信用画像情報と同じサイズの配信用画像情報D4を生成する。以降、変更された切り出し範囲で、撮影により順次取得するフレーム毎に配信用画像情報を生成する(S13)。
Then, the
その後ステップS9に戻り、ズームレンズ2の撮影倍率が第1撮影倍率Z1に戻されていないときに(S9の「NO」)、変更後の配信用画像情報からさらに所定値以上の動きが検出されたときには(S12の「YES」)、設定変更部195は設定された切り出し範囲を第3切り出し範囲A3よりも大きく第1切り出し範囲A1よりも小さい第4切り出し範囲A4に変更する。以降、上述した処理と同様にステップS13の処理が実行される。
After that, the process returns to step S9, and when the shooting magnification of the
上述した処理のステップS7において、撮影中にユーザがズームレンズ2の撮影倍率をTele方向に変更して図7(a)のような撮影画角に変更した場合には(S7の「NO」)、以降に取得するフレームF5から切り出す範囲は第1切り出し範囲A1のまま変更しない。これにより、切り出された部分撮像情報から、図6(b)に示すように被写体が配信用画像情報D1よりも拡大された配信用画像情報D5が生成される。
In step S7 of the above-mentioned process, when the user changes the shooting magnification of the
また、ステップS10においてさらに撮影倍率がwide方向に変更されたときには(S10の「NO」)、ステップS8に戻り、設定変更部195が切り出し範囲をさらに小さいサイズに変更する。
Further, when the shooting magnification is further changed in the wide direction in step S10 (“NO” in S10), the process returns to step S8, and the
以上の第1実施形態によれば、一般的な撮像装置で撮影されたアスペクト比16:9の横長の撮像情報を、スマートフォンのアスペクト比9:16の縦長の表示装置用に動画配信している際に撮影用の画角が光学ズームで変更になっても、設定していた元の配信用画角のまま配信を継続させることができ、被写体が動いた場合においても被写体を配信用画像から逃すことなく配信と撮影を継続できる。 According to the first embodiment described above, horizontally long image information with an aspect ratio of 16: 9 taken by a general image pickup device is distributed as a moving image for a vertically long display device having an aspect ratio of 9:16 on a smartphone. Even if the image angle for shooting is changed by the optical zoom, distribution can be continued with the original image angle for distribution that was set, and even if the subject moves, the subject can be moved from the image for distribution. You can continue delivery and shooting without missing out.
《第2実施形態》
〈第2実施形態による撮像装置の構成〉
本発明の第2実施形態による撮像装置1Bの構成は、画像処理部10の表示用情報生成部17内に配信用情報生成部19Aに替えて配信用情報生成部19Bを有する他は、第1実施形態で説明した撮像装置1Aの構成と同様であるため、同一機能を有する部分の詳細な説明は省略する。
<< Second Embodiment >>
<Structure of the image pickup apparatus according to the second embodiment>
The configuration of the image pickup apparatus 1B according to the second embodiment of the present invention is the first, except that the display
本実施形態において配信用情報生成部19Bは、図8に示すように、第1実施形態で説明した配信用情報生成部19Aの構成に加えて、MTF情報記憶部196および画像補正部197を有している。
In the present embodiment, as shown in FIG. 8, the distribution
MTF情報記憶部196は、ズームレンズ2に設定される撮影倍率ごとのMTF(Modulation Transfer Function;変調伝達関数)情報を予め記憶する。画像補正部197は、ズームレンズ2に設定された撮影倍率が変更されたことを検知すると、変更前の撮影倍率のMTF情報と変更後の撮影倍率のMTF情報との差分に基づいて、生成された配信用画像情報内の被写体のエッジ部分を強調するように補正する。
The MTF
〈第2実施形態による撮像装置の動作〉
本実施形態による撮像装置1Bでは、第1実施形態で説明した撮像装置1Aと同様の処理により、撮影した動画情報に関する配信用画像情報が生成される。その際、ズームレンズ2に設定された撮影倍率が第1撮影倍率Z1から第2撮影倍率Z2に変更されると、画像補正部197がこれを検知する。
<Operation of the image pickup apparatus according to the second embodiment>
In the image pickup apparatus 1B according to the present embodiment, distribution image information regarding the captured moving image information is generated by the same processing as that of the image pickup apparatus 1A described in the first embodiment. At that time, when the shooting magnification set in the
画像補正部197は、撮影倍率が変更されたことを検知すると、MTF情報記憶部に記憶された第1撮影倍率Z1のMTF情報と第2撮影倍率Z2のMTF情報との差分に基づいて、ステップS8で生成された配信用画像情報内の被写体のエッジ部分を強調するように補正する。具体的には、第2撮影倍率Z2のMTF情報と第1撮影倍率Z1のMTF情報との差分が大きい場合は良好な画質が得られるため、エッジ部分を強調する度合いを弱めるように補正する。逆に、差分が小さいもしくはマイナス方向の場合、画質的には劣化しているためエッジ部分を強調する度合いを強めるように補正する。加えて、第2撮影倍率Z2と第1撮影倍率Z1の比率と連動し、第2拡大率Z1/Z2が大きくなるほど、エッジ部分の強調を更に強めてもよい。
When the
また、コストを抑制するためにMTF情報記憶部196のメモリ容量を極力小さくしたり省略したりする場合がある。この場合、一般にレンズのMTF性能は画面周辺部になるほど劣化するので、第2切り出し範囲A2の水平方向における切り出しスタート位置H2の位置に応じてエッジ強調の度合いを制御してもよい。例えば、H2が画面中央付近ならばエッジ強調を弱め、H2が画面の左右端に近くなるほどエッジ強調を強めるようにしてもよい。第2撮影倍率Z2と第1撮影倍率Z1の比率と連動し、拡大率Z2/Z1が大きくなるほど、エッジ強調を強めるようにしてもよい。
Further, in order to suppress the cost, the memory capacity of the MTF
以上の第2実施形態によれば、切り出した画像情報を拡大させた場合にも、配信用画像情報を鮮明に生成することができる。 According to the above second embodiment, even when the cut out image information is enlarged, the distribution image information can be clearly generated.
1A、1B 撮像装置
2 ズームレンズ
3 CMOSセンサ
4 入力部
5 映像記憶部
6 ネットワークIF部
9 記憶部
10 画像処理部
11 センサIF部
12 傷補正/NR処理部
13 ディベイヤ処理部
14 色再現部
15 動き検出部
16 撮影倍率情報取得部
17 表示用情報生成部
18 メイン情報生成部
19A、19B 配信用情報生成部
20 コーデック部
21 メインコーデック部
22 配信用コーデック部
191 GUI表示制御部
192 切り出し範囲設定部
193 切り出し部
194 リサイズ処理部
195 設定変更部
196 MTF情報記憶部
197 画像補正部
1A, 1B
Claims (5)
前記画像信号からフレームを順次取得し、取得したそれぞれの前記フレームから所定の切り出し範囲の部分撮像情報を生成し、生成した部分撮像情報を所定の拡大率で拡大して配信用画像情報を生成する配信用情報生成部と、
を備え、
前記配信用情報生成部は、前記撮像部により第1撮影倍率で撮影され取得したそれぞれの前記フレームから予め設定された第1切り出し範囲で切り出した部分撮像情報を第1拡大率で拡大して前記配信用画像情報を生成している際に、前記撮影倍率が前記第1撮影倍率よりも低い第2撮影倍率に変化した場合、取得したそれぞれの前記フレームから前記第1切り出し範囲のサイズよりも小さいサイズの第2切り出し範囲の部分撮像情報を生成し、前記第2切り出し範囲の部分撮像情報を前記第1拡大率よりも高い第2拡大率で拡大して前記配信用画像情報を生成するように切り替える
ことを特徴とする撮像装置。 The shooting magnification can be changed, and the image pickup unit that outputs an image signal by performing movie shooting processing at the set shooting magnification,
Frames are sequentially acquired from the image signal, partial imaging information in a predetermined cutting range is generated from each acquired frame, and the generated partial imaging information is enlarged at a predetermined magnification to generate image information for distribution. Information generation unit for distribution and
Equipped with
The distribution information generation unit magnifies the partial image pickup information cut out from each of the frames taken and acquired by the image pickup unit at the first image pickup magnification in a preset first cut-out range at the first enlargement ratio. When the shooting magnification changes to a second shooting magnification lower than the first shooting magnification while generating image information for distribution, the size is smaller than the size of the first cutting range from each acquired frame. The partial image pickup information of the second cutout range of the size is generated, and the partial image pickup information of the second cutout range is enlarged at a second magnifying factor higher than the first magnifying factor to generate the image information for distribution. An image pickup device characterized by switching.
ことを特徴とする請求項1に記載の撮像装置。 The image pickup apparatus according to claim 1, wherein the second cutting range is set based on the ratio of the first photographing magnification and the second photographing magnification.
ことを特徴とする請求項1または2に記載の撮像装置。 The distribution information generation unit detects movement of a subject of a predetermined value or more in the distribution image information generated after changing the range to be cut out from the acquired frame from the first cutout range to the second cutout range. The claim is characterized in that the range cut out from the acquired frame is changed to a third cutout range larger than the second cutout range and smaller than the first cutout range to generate display image information. Item 2. The image pickup apparatus according to Item 1.
前記撮影倍率が前記第1撮影倍率から前記第2撮影倍率に変化した場合に、前記MTF情報記憶部に記憶された第1撮影倍率の変調伝達関数情報と第2撮影倍率の変調伝達関数情報との差分に基づいて、前記表示用情報生成部で生成された表示用画像情報内の被写体のエッジ部分を強調する度合いを決定し、決定した度合いで前記エッジ部分を強調するように補正する画像補正部とをさらに備える
ことを特徴とする請求項1または2に記載の撮像装置。 An MTF information storage unit that stores modulation transfer function information for each shooting magnification set in the image pickup unit, and
When the imaging magnification changes from the first imaging magnification to the second imaging magnification, the modulation transmission function information of the first imaging magnification and the modulation transmission function information of the second imaging magnification stored in the MTF information storage unit are used. Based on the difference in The image pickup apparatus according to claim 1 or 2, further comprising a unit.
前記撮像部により第1撮影倍率で撮影され生成されたフレームを順次取得して、それぞれの前記フレームから予め設定された第1切り出し範囲の部分撮像情報を切り出し、第1拡大率で拡大して配信用画像情報を生成している際に、前記撮影倍率が前記第1撮影倍率よりも低い第2撮影倍率に変化した場合、取得したそれぞれの前記フレームから切り出す範囲を前記第1切り出し範囲のサイズよりも小さいサイズの第2切り出し範囲に変更し、前記第2切り出し範囲の部分撮像情報を前記第1拡大率よりも高い第2拡大率で拡大して前記配信用画像情報を生成するように切り替える
ことを特徴とする撮像処理方法。 An image pickup device equipped with an image pickup unit that can change the shooting magnification and performs movie shooting processing at the set shooting magnification
Frames taken and generated at the first shooting magnification by the image pickup unit are sequentially acquired, partial image pickup information in the first cutout range set in advance is cut out from each of the frames, and the partial image pickup information is enlarged and distributed at the first enlargement ratio. When the shooting magnification changes to a second shooting magnification lower than the first shooting magnification while generating image information for use, the range to be cut out from each of the acquired frames is larger than the size of the first cutting range. Is changed to a second cutout range having a smaller size, and the partial image pickup information of the second cutout range is enlarged at a second magnifying factor higher than the first magnifying factor to generate the image information for distribution. An image pickup processing method characterized by.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020210364A JP2022097021A (en) | 2020-12-18 | 2020-12-18 | Imaging device and imaging processing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020210364A JP2022097021A (en) | 2020-12-18 | 2020-12-18 | Imaging device and imaging processing method |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022097021A true JP2022097021A (en) | 2022-06-30 |
Family
ID=82164933
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020210364A Pending JP2022097021A (en) | 2020-12-18 | 2020-12-18 | Imaging device and imaging processing method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2022097021A (en) |
-
2020
- 2020-12-18 JP JP2020210364A patent/JP2022097021A/en active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8305464B2 (en) | Imaging apparatus, image processing apparatus, zoom control method, and zoom control program | |
US8937644B2 (en) | Stereoscopic image capture | |
US10110821B2 (en) | Image processing apparatus, method for controlling the same, and storage medium | |
US11750934B2 (en) | Imaging apparatus, image processing apparatus, control method of these, and storage medium | |
US11194993B2 (en) | Display apparatus and display control method for displaying images | |
JP6253007B2 (en) | Display device | |
JP5950755B2 (en) | Image processing apparatus, control method, program, and storage medium | |
JP2017156365A (en) | Liquid crystal display device | |
US10397587B2 (en) | Image processing apparatus and control method thereof | |
JP2022097021A (en) | Imaging device and imaging processing method | |
JP7468391B2 (en) | Image capture device and image capture processing method | |
US11310442B2 (en) | Display control apparatus for displaying image with/without a frame and control method thereof | |
US11871124B2 (en) | Image capturing apparatus, method of controlling the same, and non-transitory computer-readable storage medium | |
JP7463114B2 (en) | IMAGE PROCESSING APPARATUS, CONTROL METHOD FOR IMAGE PROCESSING APPARATUS, PROGRAM, AND STORAGE MEDIUM | |
JP7463111B2 (en) | Electronic device, electronic device control method, program, and storage medium | |
JP2012027324A (en) | Display device, display device control method and display system | |
JP2017091044A (en) | Image processing device and image processing method | |
JP2010028720A (en) | Image capturing apparatus | |
JP2021124546A (en) | Display control device, control method, program, and storage medium | |
JP5335959B2 (en) | Imaging device | |
JP2021061571A (en) | Electronic apparatus and method for controlling the same, program, and storage medium | |
JP2024001606A (en) | Imaging device, method of controlling imaging device, and program | |
JP2019124832A (en) | Display control device, display control method, image display device, program, and storage medium | |
JP2019009527A (en) | Image processing apparatus, control method of the same, and program | |
JP2009188507A (en) | Image pickup apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230929 |