JPWO2018088061A1 - 画像転送装置、画像転送方法、プログラム、動画像生成システム - Google Patents
画像転送装置、画像転送方法、プログラム、動画像生成システム Download PDFInfo
- Publication number
- JPWO2018088061A1 JPWO2018088061A1 JP2018550065A JP2018550065A JPWO2018088061A1 JP WO2018088061 A1 JPWO2018088061 A1 JP WO2018088061A1 JP 2018550065 A JP2018550065 A JP 2018550065A JP 2018550065 A JP2018550065 A JP 2018550065A JP WO2018088061 A1 JPWO2018088061 A1 JP WO2018088061A1
- Authority
- JP
- Japan
- Prior art keywords
- image data
- frame
- imaging device
- unit
- moving image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
- H04N21/2365—Multiplexing of several video streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/242—Synchronization processes, e.g. processing of PCR [Program Clock References]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/81—Monomedia components thereof
- H04N21/816—Monomedia components thereof involving special video data, e.g 3D video
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/85—Assembly of content; Generation of multimedia applications
- H04N21/854—Content authoring
- H04N21/8547—Content authoring involving timestamps for synchronizing content
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/04—Synchronising
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/265—Mixing
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Security & Cryptography (AREA)
- Studio Devices (AREA)
- Studio Circuits (AREA)
- Closed-Circuit Television Systems (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
Description
下記特許文献1には、そのようなパノラマ合成表示を行う場合において、タイムコードを用いて各動画像の同期(フレーム合わせ)を図る技術が開示されている。
また、複数の画像を単一ストリームに統合して送出するため、個別ストリームで並列伝送する場合のように各画像間の同期が困難となることがない。
このため、上記の混在が生じないようにすることで、システム動作不具合の発生防止を図っている。
このようなプログラムにより上記の画像転送装置を実現する。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
<1.システム概要>
<2.装置構成>
<3.実施形態としてのフレーム合わせ手法>
<4.処理手順>
<5.合成動画生成時の画像読み出し処理について>
<6.各種変形例>
[6-1.第一変形例]
[6-2.第二変形例]
[6-3.第三変形例]
[6-4.第四変形例]
[6-5.その他変形例]
<7.実施形態のまとめ>
<8.応用例>
[8-1.応用例1]
[8-2.応用例2]
<9.プログラム>
<10.本技術>
図1は、本技術に係る実施形態としての動画像生成システム100の概要構成を示したブロック図である。
図示するように動画像生成システム100は、動画像による撮像画像データを生成する複数の撮像装置2と、複数の撮像装置2より撮像動画像データ(以下、単に「動画像データ」と表記する)が入力される画像転送装置1と、例えばインターネットやLAN(Local Area Network)等とされたネットワーク3と、画像転送装置1とネットワーク3を介して通信可能とされた合成動画生成装置4とを備えている。
本例の動画像生成システム100では、撮像装置2として撮像装置2−1、2−2、2−3、2−4による4つが備えられている。
図中では、撮像装置2−1、2−2、2−3、2−4によるそれぞれの動画像データに含まれるフレーム画像データGを、それぞれ末尾の数値を一致させてフレーム画像データG−1、G−2、G−3、G−4と示している。
本例では、撮像装置2は水平方向に一列に配置されており、具体的に、撮像装置2−1は最も左側に配置され、以降右側に向かって撮像装置2−2、2−3、2−4の順で配列されている。なお、ここでの左右は、被写体に対向した状態での左右を意味する。
合成動画生成装置4によるパノラマ合成処理では、図中の斜線部により表す、フレーム画像データG−1とG−2との間、フレーム画像データG−2とG−3との間、及びフレーム画像データG−3とG−4との間に生じるオーバーラップ部分についてそれぞれスティッチ処理を施し、それらスティッチ処理により連結された画像全体のうちの一部分をパノラマ画像データPとして切り出す。
具体的に、本例では、図3に示すように各動画像データからそれぞれ選択したフレーム画像データG−1、G−2、G−3、G−4を1枚の画像データとして合成し、該合成した画像データをフレーム画像として含む動画像データを合成動画生成装置4に転送する。この場合、フレーム画像データGの合成は、図示のように4枚のフレーム画像を田の字状に配列して行う。
このように4K動画ストリームデータを生成・転送することで、画像転送装置1側、合成動画生成装置4側でそれぞれ特殊な画サイズに対応するエンコーダ、デコーダを備える必要がなくなる。
画像転送装置1は、上記のような合成対象とするフレーム画像データGの選択処理により、パノラマ動画データMにおけるフレーム同期を図るが、これについては改めて説明する。
続いて、動画像生成システム100が備える撮像装置2、画像転送装置1、及び合成動画生成装置4の構成について説明する。
撮像装置2は、撮像部21、画像信号処理部22、メモリ23、表示部24、表示制御部25、通信I/F(インタフェース)26、コントローラ27、及びバス28を備えている。撮像部21、画像信号処理部22、メモリ23、表示制御部25、通信I/F(インタフェース)26、及びコントローラ27は、バス28を介して相互にデータ通信可能に接続されている。
本例では、撮像素子にはCCD(Charge Coupled Device)が用いられており、いわゆる電子シャッター機能として、露光時間(露光開始タイミングから露光終了タイミングまでの時間)を変更可能とされている。撮像素子の露光時間は、コントローラ27からの指示に基づき変更される。
また、コントローラ27は、通信I/F26を介した動画像データの通信制御等も行う。
画像転送装置1は、外部装置からの動画像データを受信するための通信インタフェースである通信I/F11として、各撮像装置2に対応した第一通信I/F11−1、第二通信I/F11−2、第三通信I/F11−3、第四通信I/F11−4の四つを備えている。各通信I/F11としては、撮像装置2における通信I/F26に対応してHDMIのインタフェースが採用されている。
各フレームバッファ12はリングバッファとされ、フレーム画像データGをバッファリング可能なバッファ領域を複数有している。本例において各フレームバッファ12は、図6に示すようにバッファ領域12a〜12dによる四つのバッファ領域を有している。
以下、バッファ領域12a〜12dの個々を識別するためのバッファ領域No.(ナンバ)を図示のようにバッファ領域12a=No.0、バッファ領域12b=No.1、バッファ領域12c=No.2、バッファ領域12d=No.3と定義する。
図7のフローチャートは、フレーム選択部19がリングバッファとしての書き込みを実現するために実行する処理を示している。なお、フレーム選択部19は図7に示す処理をフレームバッファ12ごとに(つまり撮像装置2ごとに)並行して行う。
先ず、フレーム選択部19はステップS1で、バッファ領域NO.を「0」にセットし、続くステップS2で対応する撮像装置2の垂直同期発生が確認されたことに応じ、ステップS3でバッファ領域No.を1インクリメント(+1)する。そして、該インクリメント処理を行ったことに応じ、フレーム選択部19はステップS4でバッファ領域No.が最大値(本例ではバッファ領域数=4より「3」)を超えたか否かを判定し、バッファ領域No.が最大値を超えていなければステップS2に戻り、対応する撮像装置2の垂直同期発生に応じてバッファNo.を1インクリメントし、超えている場合はステップS1に戻ってバッファ領域No.を「0」に戻す。
フレーム選択部19は、このようなフレーム画像データGの選択処理を、撮像装置2のうち特定の撮像装置2(後述する基準撮像装置)から入力される動画像データの各フレーム期間において行うが、詳細については改めて説明する。
エンコード部14により得られた圧縮動画像データはネットワークI/F15に出力される。
表示制御部17は、各通信I/F11からそれぞれ対応するフレームバッファ12に出力される動画像データがそれぞれ分岐して入力され、入力された各動画像データに基づく動画像を表示部16上に表示させる。
本例では、操作部18は表示部16の表示画面上に形成されたタッチパネルセンサを有する。
なお、操作部18からの操作入力情報に基づきフレーム選択部19が行う処理についても後に改めて説明する。
合成動画生成装置4は、ネットワークI/F41、第一デコード部42、メモリ43、スティッチ処理部44、エンコード部45、表示制御部47、第二デコード部46、メディアドライブ48、コントローラ49、及びこれらの各部を相互にデータ通信可能に接続するバス50を備えている。
スティッチ処理部44は、パノラマ画像データPを生成するためのスティッチ処理を行う。
エンコード部45は、スティッチ処理部44のスティッチ処理を経て生成されるパノラマ画像データPをフレーム画像として含む圧縮動画像データ、つまり上述したパノラマ動画データMを生成する。
メディアドライブ48は、例えば磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどの各種記録メディアの書き込み/読み出しを行う。
特に、コントローラ49は、画像転送装置1より受信され第一デコード部42でデコードされた動画像データに基づくパノラマ動画データMの生成制御を行う。具体的に、コントローラ49は、第一デコード部42でデコードされた動画像データに含まれる各フレーム画像データ、すなわち本例では図3のようにフレーム画像データG−1〜G−4が田の字状に合成された各フレーム画像データについて、スティッチ処理部44により、先の図2で説明したスティッチ処理を実行させ、パノラマ画像データPを逐次生成させる。その上でコントローラ49は、該スティッチ処理により逐次得られるパノラマ画像データPをフレーム画像として含むパノラマ動画データMをエンコード部45により生成させる。
これにより、各撮像装置2により撮像された動画像をパノラマ合成したパノラマ動画像が表示装置60により表示出力される。
実施形態としての画像転送装置1は、統合部13において統合対象とするフレーム画像データGの選択により、パノラマ動画データMにおける各撮像装置2からの画像についてのフレーム同期を図る。
図9は、各撮像装置2からの動画像データにおける垂直同期信号と各フレーム画像との時間軸上における関係を模式的に表している。
パノラマ動画像の生成を開始するにあたっては、先ず各撮像装置2の撮像動作を開始させるが、この際の撮像開始タイミングは必ずしも一致するものとはならない。また、各撮像装置2のクロック誤差等に起因して、各撮像装置2における垂直同期発生タイミングには経時的な差が生じる。
先ず、図10の説明においては、各撮像装置2のうち撮像装置2−1が、フレーム合わせにおいて基準とする基準撮像装置であるものとする。フレーム選択部19は、基準撮像装置の動画像データについては各フレーム画像を選択する。すなわち、基準撮像装置の動画像データについてはフレーム合わせに伴うフレーム画像のスキップやリピートが生じない。
基準撮像装置の選択フレーム画像に対し露光開始タイミング同士が最も近接するのは、該選択フレーム画像に対しフレーム期間が重複する二つのフレーム画像(図中、太枠により表す)のうちの何れかである。
このため、それら二つのフレーム画像のうち、基準撮像装置の選択フレーム画像の露光開始タイミングに対し露光開始タイミングが近い方のフレーム画像を選択する。
これにより、動画像間のタイミングずれ抑制効果を高めることができる。
基準撮像装置の切り替えは、例えば図5に示した操作部18からの操作入力情報に基づきフレーム選択部19が行う。
一例としては、図11に示すように、表示部16上に各撮像装置2から入力される動画像を表示させ、表示された動画像のうちから操作により選択された動画像の入力元である撮像装置2を基準撮像装置に設定する。この際の動画像の選択操作は、例えば操作部18が有するタッチパネル機能を利用して、動画像の表示領域をタッチする操作等とすることができる。
このような操作入力に基づく基準撮像装置の切り替えとすることで、ユーザが基準撮像装置を任意の撮像装置に切り替えることができる。
例えば、図中「F」と示すフレーム期間中の何れかのタイミングで、基準撮像装置の切り替え条件が成立(本例では切り替え操作入力)したとする。
本例のフレーム選択部19は、基準撮像装置の切り替え条件が成立したことに応じて、基準垂直同期信号として出力する垂直同期信号を、それまで出力していた切替元の撮像装置2による垂直同期信号から切替先の撮像装置2による垂直同期信号に即座に切り替える。
このように基準垂直同期信号が表す垂直同期発生タイミングとして切替元の撮像装置2による垂直同期発生タイミングが含まれてしまうと、基準垂直同期信号においては、図中「X」と示すように、該切替元の撮像装置2による垂直同期発生タイミングと切替先の撮像装置2による垂直同期発生タイミングとが近接してしまう虞がある。
基準垂直同期信号において垂直同期発生タイミングが近接して生じると、統合部13やエンコード部14の動作不具合を誘発してしまう虞がある。
これにより、基準撮像装置2を切り替え可能としたことに伴いシステム動作不具合が誘発されてしまうことの発生防止を図ることができる。
図13のフローチャートを参照し、上記した実施形態としてのフレーム合わせ手法を実現するための具体的な処理手順を説明する。
先ず、ステップS101でフレーム選択部19は、基準撮像装置の切り替え条件が成立したか否かを判定する。つまり、本例では操作部18に対する操作として基準撮像装置を切り替える操作が行われたか否かを判定する。
ステップS103の切り替えを行ったことに応じ、フレーム選択部19はステップS104に進む。
ここで、本例のフレーム選択部19は、基準撮像装置以外の各撮像装置2について、それぞれ垂直同期発生タイミングからその後の直近に到来する基準撮像装置の垂直同期発生タイミングまでの時間長を計測(計時)している。この場合におけるステップS106の処理は、このように撮像装置2ごとに計測された時間長のうち、n番目撮像装置2について計測された時間長を時間差Vdとして取得する処理とされる。
時間差Vdが半フレーム期間未満であれば、フレーム選択部19はステップS108に進み、n番目撮像装置の現フレーム期間のフレーム画像を選択する。
現フレーム期間とは、今回のステップS104の処理で検出された基準撮像装置の垂直同期発生タイミングを期間内に含んでいるフレーム期間を意味する。
具体的に、フレーム選択部19は、ステップS107の処理として、第一フレームバッファ12−1〜第四フレームバッファ12−4のうちのn番目撮像装置に対応するフレームバッファ12におけるバッファ領域のうち、図7で示したリングバッファ処理で選択中のバッファ領域No.が表すバッファ領域にバッファリング中とされているフレーム画像データGを選択する。
具体的に、フレーム選択部19は、第一フレームバッファ12−1〜第四フレームバッファ12−4のうちのn番目撮像装置に対応するフレームバッファ12におけるバッファ領域のうち、図7のリングバッファ処理において現在選択中であるバッファ領域No.の次に選択されるバッファ領域No.が表すバッファ領域にバッファリングされるフレーム画像データGを選択する。
撮像装置識別値nが最大値nMAX以上でなければ、フレーム選択部19はステップS111で撮像装置識別値nを1インクリメントした上でステップS106に戻る。
これにより、選択対象とされる二つのフレーム画像のうち他方について基準フレーム画像との露光開始タイミング差を計測する必要がなくなる。
従って、処理負担の軽減を図ることができる。
前述のように合成動画生成装置4では、画像転送装置1より送出された統合動画データUを受信し、統合動画データUにおけるフレーム画像データ、すなわち各撮像装置2からのフレーム画像データG−1〜G−4が田の字状に合成された画像データに基づき、パノラマ画像データPを生成する。
この際、統合動画データUのフレーム画像データからの各画素データの読み出し手法としては、以下の手法を採ることができる。
すなわち、フレーム画像データG−1〜G−4がラスター順で配置された統合動画データUのフレーム画像データにおいて、フレーム画像データG−1とG−2が配置された上段の領域を上段領域Ru、フレーム画像データG−3とG−4が配置された下段の領域を下段領域Rdとしたとき、上段領域Ruの1水平ライン分を読み出した後に下段領域Rdの1水平ライン分を読み出すということを、各領域Rの最上部から最下部にかけて繰り返し行うものである。
[6-1.第一変形例]
以下、各種変形例について説明する。なお、以下の説明において、既に説明済みとなった部分と同様となる部分については同一符号、同一ステップ番号を付して説明を省略する。
例えば図16に示すように、1フレーム期間よりも長い一定時間を定めておき、フレーム選択処理を行ってから該一定時間が経過することを条件として、次のフレーム選択処理を実行する。
通常、各撮像装置2の垂直同期信号に1フレーム期間分のずれが生じるには数十秒程度の時間を要する。該時間を「X」とし、基準撮像装置に対するフレームずれ許容量を仮に半フレーム期間としたときには、上記の一定時間としては「X/2」で表される時間を設定すればよい。
なお、上記の一定時間としては、例えば1秒等、1フレーム期間よりも長い任意の時間を設定可能である。
先の図13との差異点は、ステップS201〜ステップS204の処理が追加された点である。
具体的に、この場合のフレーム選択部19は、ステップS104で基準撮像装置の垂直同期発生が確認されたことに応じ、ステップS201でタイムカウントをスタートし、ステップS105に進む。
ステップS202で一定時間が経過したと判定した場合、フレーム選択部19はステップS204でタイムカウントをリセットした上でステップS101に戻る。一方、ステップS203で基準撮像装置の切り替え条件が成立したと判定した場合、フレーム選択部19はスステップS205でタイムカウントをリセットした上でステップS102に戻る。
第二変形例は、各撮像装置2からのフレーム画像データG−1〜G−4を1枚の画像データに統合するのではなく、図18に示すように時間軸方向に統合するものである。
例えば、パノラマ動画データMのフレームレートが60fpsであり、本例のようにパノラマ画像データPが4枚の画像を用いる場合を前提とすると、フレーム画像データG−1、G−2、G−3、G−4の個々をフレーム画像として含む動画像データとして、240fpsの動画像データを生成する。なお、本例の場合、該動画像データの画サイズは例えばフルHDサイズとされる。
エンコード部14Aは、4K画サイズによる動画像データではなく、フルHD画サイズによるハイフレームレート(本例では240fps)の動画像データ(圧縮動画像データ)を生成する。
第一デコード部42Aは、上記したハイフレームレートの動画像データについてのデコード機能を有する。
この際、第一デコード部42Aによりデコードされた動画像データにおいては、フレーム画像データG−1〜G−4が時間軸上で所定順序により配列されているため、スティッチ処理部44Aは正しい画像組み合わせに対してそれぞれスティッチ処理を行うことができる。具体的に、この場合のスティッチ処理部44Aは、区切り情報Dvで特定される4枚のフレーム画像データGごとに、時間軸上において1番目に位置するフレーム画像データG(G−1)と2番目に位置するフレーム画像データG(G−2)との間、及び該2番目に位置するフレーム画像データGと3番目に位置するフレーム画像データG(G−3)との間、及び該3番目に位置するフレーム画像データGと4番目に位置するフレーム画像データG(G−4)との間のそれぞれについてスティッチ処理を行う。
これにより、図2に示した正しい画像配列によるパノラマ画像データPを生成することができる。
ここで、パノラマ動画データMのフレームレートは上記で例示したレートに限定されるものではない。
第三変形例は、基準撮像装置の切り替えに係る変形例である。
基準撮像装置の切り替えは、上述した操作入力に基づく切り替えに限らず、各撮像装置2から入力される動画像データの動き量に基づき行うこともできる。
画像転送装置1Bにおいては、フレーム選択部19に代えてフレーム選択部19Aが設けられ、さらに、各撮像装置2から入力される動画像データについてそれぞれ動き量を検出する動き量検出部56が設けられる。
或いは、画像全体の動き量の平均値が最も大きい動画像データの入力元の撮像装置2を基準撮像装置に切り替えることもできる。さらには、動き量が一定量以上となる画像領域の合計面積が最大となる動画像データの入力元の撮像装置2を基準撮像装置に切り替えるということも考えられる。
第四変形例は、縦方向のパノラマ合成を行う場合に好適な変形例である。
図22は、第四変形例において前提とするパノラマ画像における各画像の配置例を示している。
この場合のパノラマ画像データPにおいては、各撮像装置2からのフレーム画像データG−1〜G−4を田の字状に配置する。具体的には、フレーム画像データG−1は左上位置、フレーム画像データG−2は右上位置、フレーム画像データG−3は左下位置、フレーム画像データG−4は右下位置に配置される。
図22では、白丸を露光開始タイミング、黒丸を露光終了タイミングとして、ローリングシャッタ方式が採用された場合での各フレーム画像データGにおける露光順序を実線矢印と点線矢印により模式的に表しているが、この図より、縦方向に合成される各画像間のフレーム合わせを露光開始タイミング基準で行ってしまうと、それら画像間の繋ぎ目部分において露光開始タイミングの差が大きくなってしまうことが分かる。このように縦方向に配列された画像間の繋ぎ目部分における露光開始タイミング差が大きくなると、特に動きの大きな被写体が撮像されている場合に、上下画像間で被写体位置のずれが生じてしまい、画質の劣化を招来する。
この場合のフレーム選択処理では、基準フレーム画像の露光開始タイミングではなく露光終了タイミングを基準とするため、フレーム選択にあたり基準とする垂直同期発生タイミングとしては、基準フレーム画像のフレーム期間における垂直同期発生タイミングではなく、その次のフレーム期間の垂直同期発生タイミングとする(図中「上側画像」における斜線を付したフレーム画像と矢印を付した垂直同期発生タイミングとの関係を参照)。
下側の撮像装置2から入力された動画像データについては、この基準とする垂直同期発生タイミングに対し、垂直同期発生タイミングが最も近いフレーム画像データGを選択する。
この際、基準撮像装置は、全ての撮像装置2のうち少なくとも一つを定めておけばよい。つまり、図22の例では、基準撮像装置を例えばフレーム画像データG−1の入力元の撮像装置2のみとし、他の撮像装置2についてのフレーム選択は、露光開始タイミングが基準フレーム画像(つまりフレーム画像データG−1)の露光開始タイミングに最も近いフレーム画像を選択することで行うといったものである。
上記では、4台の撮像装置2から入力された動画像データをパノラマ合成したパノラマ動画データMを生成する例を挙げたが、用いる撮像装置2の台数、すなわち合成対象とする画像数については「4」に限定されず、少なくとも「2」以上とされればよい。
図24は、16台の撮像装置2を用いてパノラマ動画データMを生成する例を示している。具体的に図24では、16枚の画像を、横方向4枚を1列として縦方向に4列並べた形式によるパノラマ動画データMを生成する例を示している。
この場合、1ストリームにより送出する統合動画データUの画サイズとしては、いわゆる8K(8K4K)の画サイズとでき、画像転送装置1(又は1A、1B)に設けるエンコード部、合成動画生成装置4(又は4A)に設けるデコード部として汎用的な8K画サイズ対応のエンコード部、デコード部を用いることが可能となる。
これにより、パノラマ動画データMの観察者が任意に基準撮像装置の切り替え指示を画像転送装置1に対して行うことができる。
つまり、本技術は同期再生が前提とされる各動画像データをネットワーク経由で転送して観察者に提示する用途に広く好適に適用可能なものである。
上記のように実施形態としての画像転送装置(1、1A、又は1B)は、動画像を撮像する複数の撮像装置(2)のうち特定撮像装置(基準撮像装置)から入力される垂直同期信号を基準として、複数の撮像装置から入力される動画像データからフレーム画像データを選択するフレーム選択部(19又は19A)と、フレーム選択部が選択したフレーム画像データを単一ストリームに統合して送出する統合送出部(統合部13とエンコード部14、又は統合制御部55とエンコード部14A)と、を備えている。
また、複数の画像を単一ストリームに統合して送出するため、個別ストリームで並列伝送する場合のように各画像間の同期が困難となることがない。
従って、複数の撮像装置から入力される動画像をネットワーク伝送を経て表示出力する場合における各動画像の同期を図る上で、タイムコード等による同期支援機能のない安価な撮像装置の使用を可能とし、システムコストの削減を図ることができる。
従って、各動画像間の同期を図ることができる。
従って、各動画像間の同期を図ることができる。
従って、処理負担の軽減を図ることができる。
従って、ローリングシャッタ方式で撮像された画像を縦方向にパノラマ合成する場合において、画像間の繋ぎ目部分における露光タイミング差を抑制でき、画質の向上を図ることができる。
仮に、特定撮像装置の切り替えが不能とされていると、例えば動き量等の面で観察者が注目し易い被写体を撮像している撮像装置が特定撮像装置ではない場合に、フレーム画像のスキップやリピートが知覚され易くなってしまう。すなわち、画質の低下が知覚され易い。
上記のように特定撮像装置の切り替えを可能とすることで、フレーム合わせ処理に伴うフレーム画像のスキップやリピートを知覚され難くすることができ、画質低下の抑制を図ることができる。
従って、基準撮像装置の切り替えに係るユーザの操作負担軽減を図ることができる。
このため、上記の混在が生じないようにすることで、システム動作不具合の発生防止が図られる。
そのような処理が不要となり、上記受け側での処理負担軽減を図ることができる。
[8-1.応用例1]
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、手術室システムに適用されてもよい。
支持アーム装置5141は、ベース部5143から延伸するアーム部5145を備える。図示する例では、アーム部5145は、関節部5147a、5147b、5147c、及びリンク5149a、5149bから構成されており、アーム制御装置5159からの制御により駆動される。アーム部5145によって内視鏡5115が支持され、その位置及び姿勢が制御される。これにより、内視鏡5115の安定的な位置の固定が実現され得る。
内視鏡5115は、先端から所定の長さの領域が患者5185の体腔内に挿入される鏡筒5117と、鏡筒5117の基端に接続されるカメラヘッド5119と、から構成される。図示する例では、硬性の鏡筒5117を有するいわゆる硬性鏡として構成される内視鏡5115を図示しているが、内視鏡5115は、軟性の鏡筒5117を有するいわゆる軟性鏡として構成されてもよい。
CCU5153は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡5115及び表示装置5155の動作を統括的に制御する。具体的には、CCU5153は、カメラヘッド5119から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU5153は、当該画像処理を施した画像信号を表示装置5155に提供する。また、CCU5153には、図25に示す視聴覚コントローラ5107が接続される。CCU5153は、画像処理を施した画像信号を視聴覚コントローラ5107にも提供する。また、CCU5153は、カメラヘッド5119に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。当該撮像条件に関する情報は、入力装置5161を介して入力されてもよいし、上述した集中操作パネル5111を介して入力されてもよい。
支持アーム装置5141は、基台であるベース部5143と、ベース部5143から延伸するアーム部5145と、を備える。図示する例では、アーム部5145は、複数の関節部5147a、5147b、5147cと、関節部5147bによって連結される複数のリンク5149a、5149bと、から構成されているが、図27では、簡単のため、アーム部5145の構成を簡略化して図示している。実際には、アーム部5145が所望の自由度を有するように、関節部5147a〜5147c及びリンク5149a、5149bの形状、数及び配置、並びに関節部5147a〜5147cの回転軸の方向等が適宜設定され得る。例えば、アーム部5145は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部5145の可動範囲内において内視鏡5115を自由に移動させることが可能になるため、所望の方向から内視鏡5115の鏡筒5117を患者5185の体腔内に挿入することが可能になる。
光源装置5157は、内視鏡5115に術部を撮影する際の照射光を供給する。光源装置5157は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置5157において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド5119の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
図28を参照して、内視鏡5115のカメラヘッド5119及びCCU5153の機能についてより詳細に説明する。図28は、図27に示すカメラヘッド5119及びCCU5153の機能構成の一例を示すブロック図である。
例えば、上記した手術室システム5100においては、術場カメラ5189を複数台設け、各術場カメラ5189による撮像画像を手術室の状況分析(例えば手術室内の人物の動き等の分析)や患者の観察に用いることが考えられる。より具体的には、複数の術場カメラ5189によってそれぞれ手術室内の人物の動きや機器の配置等を撮像し、それにより得られる複数の撮像画像を合成又は補間して得た画像に基づいて手術室の状況分析を行うことが考えられる。
この場合、例えば複数の術場カメラ5189を「複数の撮像装置」、視聴覚コントローラ5107を例えば「フレーム選択部」「統合送出部」として本技術を適用することができる。
また、上記した手術室システム5100においては、術者や医療スタッフが身に付けたカメラの撮像画像を手術室の状況分析や患者の観察に用いることもできる。この場合、術者や医療スタッフにより身に付けられた複数のカメラを「複数の撮像装置」、視聴覚コントローラ5107を例えば「フレーム選択部」「統合送出部」として本技術を適用することができる。
本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械(トラクター)などのいずれかの種類の移動体に搭載される装置として実現されてもよい。
例えば、上記した車両制御システム7000においては、車両の周囲を撮像する撮像部7910,7912,7914,7916による撮像画像を汎用通信I/F7620を介して外部環境7750に存在するクラウドサーバ等の情報処理装置にアップロードする構成が考えられる。この場合、該情報処理装置では、アップロードされた複数の撮像画像を地図情報の作成やストリートビュー機能(路沿いの風景をパノラマ写真で提供する機能)用の画像生成に用いることができる。例えば、この場合における撮像部7910,7912,7914,7916による複数の撮像画像の送出について、本技術を適用することができる。すなわち、例えば「複数の撮像装置」を撮像部7910,7912,7914,7916、「フレーム選択部」「統合送出部」を例えば統合制御ユニット7600等として本技術が適用可能である。
上記では、本技術に係る画像転送装置の動作をハードウェアにより実現する例を挙げたが、該動作は、情報処理装置によるソフトウェア処理で実現することもできる。
該ソフトウェア処理を実現するプログラムは、動画像を撮像する複数の撮像装置のうち特定撮像装置から入力される垂直同期信号を基準として、複数の撮像装置から入力される動画像データからフレーム画像データを選択するフレーム選択機能と、フレーム選択機能が選択したフレーム画像データを単一ストリームに統合して送出する統合送出機能と、を情報処理装置に実現させるプログラムである。
また、このようなプログラムは、リムーバブル記憶媒体からパーソナルコンピュータ等にインストールする他、ダウンロードサイトから、LAN、インターネットなどのネットワークを介してダウンロードすることもできる。
なお本技術は以下のような構成も採ることができる。
(1)
動画像を撮像する複数の撮像装置のうち特定撮像装置から入力される垂直同期信号を基準として、前記複数の撮像装置から入力される動画像データからフレーム画像データを選択するフレーム選択部と、
前記フレーム選択部が選択した前記フレーム画像データを単一ストリームに統合して送出する統合送出部と、を備える
画像転送装置。
(2)
前記フレーム選択部は、
前記特定撮像装置の前記動画像データから選択した前記フレーム画像データである基準フレーム画像データとの露光開始タイミング差に基づき、前記撮像装置のうち前記特定撮像装置を除いた他の撮像装置の前記動画像データからの前記フレーム画像データの選択を行う
前記(1)に記載の画像転送装置。
(3)
前記フレーム選択部は、
前記他の撮像装置の前記動画像データにおいて前記基準フレーム画像データとフレーム期間が重複している二つの前記フレーム画像データのうち、露光開始タイミングが前記基準フレーム画像データの露光開始タイミングに近い方のフレーム画像データを選択する
前記(2)に記載の画像転送装置。
(4)
前記フレーム選択部は、
前記フレーム期間が重複している二つの前記フレーム画像データのうち一方のフレーム画像データについて前記基準フレーム画像データとの露光開始タイミング差が半フレーム期間未満であるか否かを判定し、半フレーム期間未満であれば前記一方のフレーム画像データを選択し、半フレーム期間未満でなければ他方のフレーム画像データを選択する
前記(3)に記載の画像転送装置。
(5)
前記フレーム選択部は、
前記特定撮像装置の前記動画像データから選択した前記フレーム画像データである基準フレーム画像データの露光終了タイミングと、前記撮像装置のうち前記特定撮像装置を除いた他の撮像装置の前記動画像データにおける前記フレーム画像データの露光開始タイミングとのタイミング差に基づき、前記他の撮像装置の前記動画像データからの前記フレーム画像データの選択を行う
前記(1)に記載の画像転送装置。
(6)
前記フレーム選択部は、
前記選択を前記特定撮像装置の前記動画像データにおける1フレームごとに行う
前記(1)乃至(5)の何れかに記載の画像転送装置。
(7)
前記フレーム選択部は、
前記選択を前記特定撮像装置の前記動画像データにおける1フレーム期間よりも長い時間間隔を空けて行う
前記(1)乃至前記(5)の何れかに記載の画像転送装置。
(8)
前記フレーム選択部は、
前記特定撮像装置の切り替え機能を有する
前記(1)乃至(7)の何れかに記載の画像転送装置。
(9)
前記フレーム選択部は、
操作入力情報に基づき前記特定撮像装置の切り替えを行う
前記(8)に記載の画像転送装置。
(10)
前記フレーム選択部は、
それぞれの前記撮像装置より入力される前記動画像データにおける動き量に基づき前記特定撮像装置の切り替えを行う
前記(8)に記載の画像転送装置。
(11)
前記フレーム選択部は、
前記特定撮像装置の垂直同期信号を前記統合送出部に基準垂直同期信号として出力し、
前記特定撮像装置を切り替える際は、切り替え元の前記撮像装置の垂直同期信号による前記切り替え直後の垂直同期発生タイミングが、前記基準垂直同期信号が表す垂直同期発生タイミングとして混在されないように、前記基準垂直同期信号として出力する垂直同期信号の切り替えを行う
前記(8)乃至(10)の何れかに記載の画像転送装置。
(12)
前記統合送出部は、
前記フレーム選択部が選択した前記フレーム画像データを1枚の画像データに統合して送出する
前記(1)乃至(11)の何れかに記載の画像転送装置。
(13)
前記統合送出部は、
前記フレーム選択部が選択した前記フレーム画像データを時間軸方向に統合して送出する
前記(1)乃至(11)の何れかに記載の画像転送装置。
(14)
前記統合送出部は、
前記単一ストリームとしてのストリームデータに対し前記フレーム画像データの統合単位ごとの区切りを表す区切り情報を付加する
前記(13)に記載の画像転送装置。
Claims (18)
- 動画像を撮像する複数の撮像装置のうち特定撮像装置から入力される垂直同期信号を基準として、前記複数の撮像装置から入力される動画像データからフレーム画像データを選択するフレーム選択部と、
前記フレーム選択部が選択した前記フレーム画像データを単一ストリームに統合して送出する統合送出部と、を備える
画像転送装置。 - 前記フレーム選択部は、
前記特定撮像装置の前記動画像データから選択した前記フレーム画像データである基準フレーム画像データとの露光開始タイミング差に基づき、前記撮像装置のうち前記特定撮像装置を除いた他の撮像装置の前記動画像データからの前記フレーム画像データの選択を行う
請求項1に記載の画像転送装置。 - 前記フレーム選択部は、
前記他の撮像装置の前記動画像データにおいて前記基準フレーム画像データとフレーム期間が重複している二つの前記フレーム画像データのうち、露光開始タイミングが前記基準フレーム画像データの露光開始タイミングに近い方のフレーム画像データを選択する
請求項2に記載の画像転送装置。 - 前記フレーム選択部は、
前記フレーム期間が重複している二つの前記フレーム画像データのうち一方のフレーム画像データについて前記基準フレーム画像データとの露光開始タイミング差が半フレーム期間未満であるか否かを判定し、半フレーム期間未満であれば前記一方のフレーム画像データを選択し、半フレーム期間未満でなければ他方のフレーム画像データを選択する
請求項3に記載の画像転送装置。 - 前記フレーム選択部は、
前記特定撮像装置の前記動画像データから選択した前記フレーム画像データである基準フレーム画像データの露光終了タイミングと、前記撮像装置のうち前記特定撮像装置を除いた他の撮像装置の前記動画像データにおける前記フレーム画像データの露光開始タイミングとのタイミング差に基づき、前記他の撮像装置の前記動画像データからの前記フレーム画像データの選択を行う
請求項1に記載の画像転送装置。 - 前記フレーム選択部は、
前記選択を前記特定撮像装置の前記動画像データにおける1フレームごとに行う
請求項1に記載の画像転送装置。 - 前記フレーム選択部は、
前記選択を前記特定撮像装置の前記動画像データにおける1フレーム期間よりも長い時間間隔を空けて行う
請求項1に記載の画像転送装置。 - 前記フレーム選択部は、
前記特定撮像装置の切り替え機能を有する
請求項1に記載の画像転送装置。 - 前記フレーム選択部は、
操作入力情報に基づき前記特定撮像装置の切り替えを行う
請求項8に記載の画像転送装置。 - 前記フレーム選択部は、
それぞれの前記撮像装置より入力される前記動画像データにおける動き量に基づき前記特定撮像装置の切り替えを行う
請求項8に記載の画像転送装置。 - 前記フレーム選択部は、
前記特定撮像装置の垂直同期信号を前記統合送出部に基準垂直同期信号として出力し、
前記特定撮像装置を切り替える際は、切り替え元の前記撮像装置の垂直同期信号による前記切り替え直後の垂直同期発生タイミングが、前記基準垂直同期信号が表す垂直同期発生タイミングとして混在されないように、前記基準垂直同期信号として出力する垂直同期信号の切り替えを行う
請求項8に記載の画像転送装置。 - 前記統合送出部は、
前記フレーム選択部が選択した前記フレーム画像データを1枚の画像データに統合して送出する
請求項1に記載の画像転送装置。 - 前記統合送出部は、
前記フレーム選択部が選択した前記フレーム画像データを時間軸方向に統合して送出する
請求項1に記載の画像転送装置。 - 前記統合送出部は、
前記単一ストリームとしてのストリームデータに対し前記フレーム画像データの統合単位ごとの区切りを表す区切り情報を付加する
請求項13に記載の画像転送装置。 - 動画像を撮像する複数の撮像装置のうち特定撮像装置から入力される垂直同期信号を基準として、前記複数の撮像装置から入力される動画像データからフレーム画像データを選択するフレーム選択ステップと、
前記フレーム選択ステップが選択した前記フレーム画像データを単一ストリームに統合して送出する統合送出ステップと、を情報処理装置が実行する
画像転送方法。 - 動画像を撮像する複数の撮像装置のうち特定撮像装置から入力される垂直同期信号を基準として、前記複数の撮像装置から入力される動画像データからフレーム画像データを選択するフレーム選択機能と、
前記フレーム選択機能が選択した前記フレーム画像データを単一ストリームに統合して送出する統合送出機能と、を情報処理装置に実現させる
プログラム。 - 動画像を撮像する複数の撮像装置のうち特定撮像装置から入力される垂直同期信号を基準として、前記複数の撮像装置から入力される動画像データからフレーム画像データを選択するフレーム選択部と、
前記フレーム選択部が選択した前記フレーム画像データを単一ストリームに統合して送出する統合送出部と、
前記統合送出部が送出した前記単一ストリームに含まれる前記フレーム画像データをフレーム画像として含む動画像データを生成する動画像生成部と、を備える
動画像生成システム。 - 前記動画像生成部は、
前記単一ストリームに含まれる前記フレーム画像データをパノラマ合成し、該パノラマ合成により得た合成画像をフレーム画像として含む動画像データを生成する
請求項17に記載の動画像生成システム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016217997 | 2016-11-08 | ||
JP2016217997 | 2016-11-08 | ||
PCT/JP2017/035855 WO2018088061A1 (ja) | 2016-11-08 | 2017-10-02 | 画像転送装置、画像転送方法、プログラム、動画像生成システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2018088061A1 true JPWO2018088061A1 (ja) | 2019-09-26 |
JP6868789B2 JP6868789B2 (ja) | 2021-05-12 |
Family
ID=62110610
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018550065A Active JP6868789B2 (ja) | 2016-11-08 | 2017-10-02 | 画像転送装置、画像転送方法、プログラム、動画像生成システム |
Country Status (4)
Country | Link |
---|---|
US (1) | US10834315B2 (ja) |
JP (1) | JP6868789B2 (ja) |
CN (1) | CN109891875B (ja) |
WO (1) | WO2018088061A1 (ja) |
Families Citing this family (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10855760B2 (en) * | 2013-11-07 | 2020-12-01 | Cole Asher Ratias | Systems and methods for synchronizing content and information on multiple computing devices |
US11418700B2 (en) * | 2017-03-27 | 2022-08-16 | Sony Olympus Medical Solutions Inc. | Control device, endoscope system, processing method, and program |
WO2018235258A1 (ja) * | 2017-06-23 | 2018-12-27 | オリンパス株式会社 | 画像伝送システム、撮像端末、表示端末、調整方法、調整補助方法、調整プログラム、および調整補助プログラム |
WO2019075349A1 (en) * | 2017-10-13 | 2019-04-18 | C360 Technologies, Inc. | CREATION OF PANORAMIC PROJECTIONS OF MULTIPLE CAMERAS |
DE102018221995A1 (de) * | 2018-12-18 | 2020-06-18 | Conti Temic Microelectronic Gmbh | Synchronisiertes Kamerasystem mit zwei unterschiedlichen Kameras |
CN111586315A (zh) * | 2019-02-19 | 2020-08-25 | 聪泰科技开发股份有限公司 | 采集与标示记录方法 |
EP3930302A4 (en) * | 2019-02-21 | 2022-04-13 | Sony Group Corporation | DATA TRANSMISSION SYSTEM, DATA TRANSMISSION METHOD AND COMPUTER PROGRAM |
JP7208530B2 (ja) * | 2019-05-31 | 2023-01-19 | 日本電信電話株式会社 | 同期制御装置、同期制御方法及び同期制御プログラム |
CN110535855B (zh) * | 2019-08-28 | 2021-07-30 | 北京安御道合科技有限公司 | 一种网络事件监测分析方法和系统、信息数据处理终端 |
CN112335223B (zh) * | 2019-10-31 | 2022-03-18 | 深圳市大疆创新科技有限公司 | 控制方法、装置、系统、云台、可移动平台及存储介质 |
JP6803960B1 (ja) * | 2019-12-09 | 2020-12-23 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | 画像処理装置、画像処理方法、プログラム、及び記録媒体 |
US11064096B2 (en) * | 2019-12-13 | 2021-07-13 | Sony Corporation | Filtering and smoothing sources in camera tracking |
CN111124230B (zh) * | 2019-12-24 | 2020-11-17 | 腾讯科技(深圳)有限公司 | 输入响应方法、装置、电子设备及计算机可读存储介质 |
WO2021153261A1 (ja) * | 2020-01-30 | 2021-08-05 | ソニーグループ株式会社 | 制御装置、撮影システム、および3dモデルデータ生成方法 |
CN112203076B (zh) * | 2020-09-16 | 2022-07-29 | 青岛小鸟看看科技有限公司 | Vr系统中多摄像头曝光中心点的对齐方法、系统 |
JP7462842B2 (ja) | 2021-06-29 | 2024-04-05 | 三菱電機株式会社 | 映像配信装置、プログラム、映像配信システム及び映像配信方法 |
JP7339999B2 (ja) | 2021-12-16 | 2023-09-06 | ソフトバンク株式会社 | 配信システム、配信サーバ、配信方法、通信端末、再生方法、及びプログラム |
CN114898577B (zh) * | 2022-07-13 | 2022-09-20 | 环球数科集团有限公司 | 一种用于高峰期道路管理的道路智能管理系统与方法 |
CN116700654B (zh) * | 2022-09-15 | 2024-04-09 | 荣耀终端有限公司 | 一种图像显示方法、装置、终端设备及存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003304529A (ja) * | 2002-04-09 | 2003-10-24 | Sumitomo Electric Ind Ltd | ネットワークシステム及び画像処理装置 |
JP2005333552A (ja) * | 2004-05-21 | 2005-12-02 | Viewplus Inc | パノラマ映像配信システム |
JP2009141456A (ja) * | 2007-12-04 | 2009-06-25 | Sanyo Electric Co Ltd | 画像処理装置、運転支援システム及び車両 |
JP2011199735A (ja) * | 2010-03-23 | 2011-10-06 | Toshiba Corp | 画像処理装置および画像処理システム |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3684525B2 (ja) * | 1998-02-19 | 2005-08-17 | 富士通株式会社 | 多画面合成方法及び多画面合成装置 |
JP2002209208A (ja) | 2001-01-11 | 2002-07-26 | Mixed Reality Systems Laboratory Inc | 画像処理装置及びその方法並びに記憶媒体 |
JP4731229B2 (ja) * | 2005-07-14 | 2011-07-20 | イーストマン コダック カンパニー | デジタルカメラ |
JP4618370B2 (ja) * | 2008-12-08 | 2011-01-26 | ソニー株式会社 | 撮像装置、撮像方法、およびプログラム |
JP5432799B2 (ja) * | 2010-03-30 | 2014-03-05 | オリンパスイメージング株式会社 | 撮像装置、撮像システム、撮像方法 |
JP2012042815A (ja) * | 2010-08-20 | 2012-03-01 | Canon Inc | 画像表示装置及びその制御方法 |
CN103973960B (zh) * | 2013-02-01 | 2017-05-24 | 华晶科技股份有限公司 | 摄像装置及对焦方法 |
JP6172967B2 (ja) * | 2013-02-20 | 2017-08-02 | キヤノン株式会社 | 撮像装置、及びその制御方法 |
JP2014165798A (ja) * | 2013-02-27 | 2014-09-08 | Sony Corp | 信号処理装置および方法、撮像素子、並びに、撮像装置 |
JP6582644B2 (ja) * | 2014-08-11 | 2019-10-02 | セイコーエプソン株式会社 | 撮像装置、撮像表示装置、及び、車両 |
CN105185329B (zh) * | 2015-09-06 | 2018-05-29 | 青岛海信电器股份有限公司 | 一种图像显示方法及液晶显示装置 |
JP6834976B2 (ja) * | 2015-11-17 | 2021-02-24 | ソニー株式会社 | マルチカメラシステム、マルチカメラシステムの制御方法およびカメラ |
WO2018173597A1 (ja) * | 2017-03-22 | 2018-09-27 | 富士フイルム株式会社 | 撮像装置、撮像方法、及び撮像プログラム |
-
2017
- 2017-10-02 WO PCT/JP2017/035855 patent/WO2018088061A1/ja active Application Filing
- 2017-10-02 US US16/340,582 patent/US10834315B2/en active Active
- 2017-10-02 JP JP2018550065A patent/JP6868789B2/ja active Active
- 2017-10-02 CN CN201780067613.9A patent/CN109891875B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003304529A (ja) * | 2002-04-09 | 2003-10-24 | Sumitomo Electric Ind Ltd | ネットワークシステム及び画像処理装置 |
JP2005333552A (ja) * | 2004-05-21 | 2005-12-02 | Viewplus Inc | パノラマ映像配信システム |
JP2009141456A (ja) * | 2007-12-04 | 2009-06-25 | Sanyo Electric Co Ltd | 画像処理装置、運転支援システム及び車両 |
JP2011199735A (ja) * | 2010-03-23 | 2011-10-06 | Toshiba Corp | 画像処理装置および画像処理システム |
Also Published As
Publication number | Publication date |
---|---|
WO2018088061A1 (ja) | 2018-05-17 |
CN109891875B (zh) | 2021-11-16 |
JP6868789B2 (ja) | 2021-05-12 |
US20190260929A1 (en) | 2019-08-22 |
CN109891875A (zh) | 2019-06-14 |
US10834315B2 (en) | 2020-11-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6868789B2 (ja) | 画像転送装置、画像転送方法、プログラム、動画像生成システム | |
WO2018003305A1 (ja) | 固体撮像素子、撮像装置、および、固体撮像素子の制御方法 | |
WO2018020857A1 (ja) | 固体撮像素子、撮像装置、および、固体撮像素子の制御方法 | |
US11372200B2 (en) | Imaging device | |
WO2017221715A1 (ja) | 撮像素子及び電子機器 | |
JP2018117309A (ja) | 撮像装置、画像処理方法および画像処理システム | |
JP6950706B2 (ja) | 情報処理装置および方法、並びにプログラム | |
WO2018016344A1 (ja) | 固体撮像装置および電子機器 | |
WO2019163368A1 (ja) | 測距システム、及び、受光モジュール | |
JPWO2020174865A1 (ja) | 可変焦点距離レンズ系及び撮像装置 | |
US20200382823A1 (en) | Display control apparatus, display control method, and video output apparatus | |
WO2018037680A1 (ja) | 撮像装置、撮像システム、及び、信号処理方法 | |
US11482159B2 (en) | Display control device, display control method, and display control program | |
WO2018100992A1 (ja) | 撮像光学系、カメラモジュール、及び、電子機器 | |
JP7081609B2 (ja) | レンズ装置及び撮像装置 | |
JP7098526B2 (ja) | 電子機器および電子機器のレーン状態制御方法 | |
JP7484892B2 (ja) | 駆動モーター、像ぶれ補正装置及び撮像装置 | |
JP7405132B2 (ja) | レンズ鏡筒及び撮像装置 | |
WO2022124166A1 (ja) | 液晶表示素子、表示装置および電子機器、並びに、駆動基板および駆動基板の製造方法 | |
WO2020202648A1 (ja) | 撮像装置、撮像信号処理装置、撮像信号処理方法 | |
WO2020174866A1 (ja) | 可変焦点距離レンズ系及び撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200707 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200707 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210105 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210219 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210309 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210322 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6868789 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |